【国等の委託研究の成果に係る記載事項】(出願人による申告)JST戦略的創造研究推進事業/チーム型研究(CREST)、研究領域「共生社会に向けた人間調和型情報技術の構築」、研究課題名「人の存在を伝達する携帯型遠隔操作アンドロイドの研究開発」、産業技術力強化法第19条の適用を受ける特許出願
(58)【調査した分野】(Int.Cl.,DB名)
前記音情報計算手段によって計算された現在の前記対話相手の声の大きさおよび高さと、当該音情報計算手段によって計算された通常の状態における当該対話相手の声の大きさおよび高さをそれぞれ比較する比較手段をさらに備え、
前記振動発生手段は、前記比較手段の比較結果に応じた振動を発生する、請求項1記載のコミュニケーションシステム。
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、特許文献1の技術では、会話のリズムを共有することにより、引き込み現象を発現させたとしても、共用ロボットは、音声信号に応答して、頭の頷き動作、口の開閉動作、目の瞬き動作、又は身体の身振り動作の挙動のような決まった動作をするだけであり、相手と話している実感や相手の存在感を十分に得ることができない。
【0005】
それゆえに、この発明の主たる目的は、新規な、コミュニケーションシステム、コミュニケーション装置、プログラムおよびコミュニケーション制御方法を提供することである。
【0006】
この発明の他の目的は、遠隔に存在する相手と話している実感や相手の存在感を十分に得ることができる、コミュニケーションシステム、コミュニケーション装置、プログラムおよびコミュニケーション制御方法を提供することである。
【課題を解決するための手段】
【0007】
本発明は、上記の課題を解決するために、以下の構成を採用した。なお、括弧内の参照符号および補足説明等は、本発明の理解を助けるために後述する実施の形態との対応関係を示したものであって、本発明を何ら限定するものではない。
【0008】
第1の発明は、通話機器と、当該通話機器を収容する収容部を有する人形を備えるコミュニケーションシステムであって、
人形は人間を模した姿形を有し、使用時にユーザによって抱きしめられ、通話機器から出力される対話相手の声を検出する検出手段、検出手段によって検出された声の大きさおよび高さを計算する音情報計算手段、および音情報計算手段によって計算された声の大きさおよび高さに基づいて振動を発生する振動発生手段を備え
、振動発生手段は、人形の胸に相当する位置に配置される、コミュニケーションシステムである。
【0009】
第1の発明では、コミュニケーションシステムは、携帯電話機のような通話機器(14)およびこの通話機器を収容する収容部(12a)を有する人形(12)を備える。
人形は人間を模した姿形を有し、使用時にユーザによって抱きしめられる。検出手段(16)は、通話機器から出力される対話相手の声を検出する。音情報計算手段(32、S1、S7)は、検出手段によって検出された声の大きさおよび高さを計算する。振動発生手段(20、32、36、S11、S13)は、音情報計算手段によって計算された声の大きさおよび高さに基づいて振動を発生する。この
振動発生手段は、人形の胸に相当する位置に配置される。したがって、人形
を抱い
たユーザの
胴体に、対話相手の声の大きさや声の高さに応じた振動が当該人形を通して伝わる。つまり、声の大きさや声の高さの変化がユーザに伝わる。
【0010】
第1の発明によれば、対話相手の声に応じた振動
が、ユーザ
が抱いた人形を通して当該ユーザの胴体に伝わるので
、振動によって対話相手の感情を知ることにより、
対話相手を抱きしめて話している感覚や遠隔に存在する対話相手と話をしている実
感を十分に得ることができる。
また、対話相手の存在感を高めることができる。
【0011】
第2の発明は、第1の発明に従属し、音情報計算手段によって計算された現在の対話相手の声の大きさおよび高さと、当該音情報計算手段によって計算された通常の状態における当該対話相手の声の大きさおよび高さをそれぞれ比較する比較手段をさらに備え、振動発生手段は、比較手段の比較結果に応じた振動を発生する。
【0012】
第2の発明では、コミュニケーションシステムは、比較手段(32、S9)をさらに備える。この比較手段(32、S9)は、音情報計算手段によって計算された現在の対話相手の声の大きさおよび高さと、当該音情報計算手段によって計算された通常の状態における当該対話相手の声の大きさおよび高さをそれぞれ比較する。つまり、通常の状態との比較により、現在のユーザの感情が推定される。したがって、振動発生手段は、比較手段の比較結果すなわち現在のユーザの感情に応じた振動を発生する。
【0013】
第2の発明によれば、対話相手の現在の感情を声のみならず振動からも知ることができるので、対話相手と話をしている実感や対話相手の存在感をより多く得ることができる。
【0014】
第3の発明は、第2の発明に従属し、振動発生手段は、比較手段の比較結果に応じて、振動の強度および周期の少なくとも一方を変化させる。
【0015】
第3の発明では、振動発生手段は、比較手段の比較結果に応じて、振動の強度および周期の少なくとも一方を変化させる。たとえば、対話相手の感情に応じて、振動の強度または周期或いはそれらの両方が変化される。つまり、対話相手の感情が振動の種類で表現される。
【0016】
第3の発明によれば、振動の強度および周期によって対話相手の感情を伝えることができる。
【0017】
第4の発明は、通話機器を収容可能な収容部を有する人形を備えるコミュニケーション装置であって、
人形は人間を模した姿形を有し、使用時にユーザによって抱きしめられ、通話機器から出力される対話相手の声を検出する音検出手段、検出手段によって検出された声の大きさおよび高さを計算する音情報計算手段、および音情報計算手段によって計算された声の大きさおよび高さに基づいて振動を発生する振動発生手段を備え
、振動発生手段は、人形の胸に相当する位置に配置される、コミュニケーション装置である。
【0018】
第5の発明は、通話機器と、
人間を模した姿形を有するとともに、当該通話機器を収容する収容部
および胸に相当する位置に配置される振動発生部を有し、使用時にユーザによって抱きしめられる人形を備えるコミュニケーションシステムにおいて実行されるプログラムであって、コミュニケーションシステムのプロセッサに、(a)通話機器から出力される対話相手の声を検出するステップ、(b)ステップ(a)において検出された声の大きさおよび高さを計算するステップ、および(c)ステップ(b)において計算された声の大きさおよび高さに基づいて
振動発生部によって振動を発生するステップを実行させる、プログラムである。
【0019】
第6の発明は、通話機器と、
人間を模した姿形を有するとともに、当該通話機器を収容する収容部
および胸に相当する位置に配置される振動発生部を有し、使用時にユーザによって抱きしめられる人形を備えるコミュニケーションシステムのコミュニケーション制御方法であって、コミュニケーションシステムは、(a)通話機器から出力される対話相手の声を検出し、(b)ステップ(a)において検出された声の大きさおよび高さを計算し、そして(c)ステップ(b)において計算された声の大きさおよび高さに基づいて
振動発生部によって振動を発生する、コミュニケーション制御方法である。
【0020】
第4ないし第6の発明においても、第1の発明と同様に、遠隔に存在する対話相手と話をしている実感や対話相手の存在感を十分に得ることができる。
【発明の効果】
【0021】
この発明によれば、対話相手の声に応じた振動がユーザの手や胴体が触れる人形を通して伝わるので、たとえば、振動によって対話相手の感情を知ることにより、遠隔に存在する対話相手と話をしている実感や対話相手の存在感を十分に得ることができる。
【0022】
この発明の上述の目的,その他の目的,特徴および利点は、図面を参照して行う以下の実施例の詳細な説明から一層明らかとなろう。
【発明を実施するための形態】
【0024】
図1を参照して、この実施例のコミュニケーションシステム(以下、単に「システム」という。)10は、人形12を含む。人形12は、コミュニケーション装置としても機能し、人間を模した姿形(外観など)を有している。たとえば、人形12の表面(皮膚)はシリコンや塩化ビニルで形成され、その内部に綿などの詰め物が詰められる。
【0025】
なお、この実施例では、コミュニケーション装置として機能する人形12を用いるようにしてあるが、人間と同様の姿形を有するぬいぐるみを用いるようにしてもよい。また、この実施例では、「人形」と呼ぶが、後述する、マイク16のような音センサ、振動モータ20を含む振動発生手段などを備える「ロボット」と呼ぶこともできる。
【0026】
人形12は、頭部に相当する部分の一部にポケットのような収容部12aを有し、この収容部12aには、フューチャーフォンやスマートフォンのような携帯電話機14が収容される。ただし、携帯電話機14に限定される必要はなく、Bluetooth(登録商標)のよ
うな通信技術を用いて通信可能に接続された本体と通話機器(スピーカフォン)のうちのスピーカフォンを収容部12aに収容する
ようにしてもよい。
【0027】
また、人形12は、マイク16、スイッチ18、振動モータ20および制御ボックス30を有している。マイク16、スイッチ18および振動モータ20は、制御ボックス30内の電気回路12bに接続される(
図2参照)。
【0028】
マイク16は、収容部12aの近傍に設けられる。この実施例では、携帯電話機14を収容部12aに収容した際に、携帯電話機14のスピーカから出力される音声ないし音を検出可能な位置に配置される。したがって、たとえば、マイク16は指向性を有するものが使用される。これは、携帯電話機14のスピーカから出力される音声ないし音のみを検出し、システム10(携帯電話機14)を使用するユーザの声を検出しないようにするためである。
【0029】
スイッチ18は、押しボタンスイッチ、接触センサ、スライドスイッチなどであり、その操作部(押圧部、接触部、スライド部など)が人形12本体の表面に露出するように配置される。振動モータ20は、人形12の内部であり、人形12の胸に相当する位置に配置される。制御ボックス30は、この実施例では、人形12の内部であり、人形12の首に相当する位置に配置される。
【0030】
図2はシステム10の電気的な構成を示すブロック図の一例である。
図2に示すように、システム10は、携帯電話機14を含み、上述したように、人形12の内部に、マイク16、振動モータ20および制御ボックス30が設けられる。また、上述したように、スイッチ18は、その操作部が露出するように、人形12に設けられる。
【0031】
制御ボックス30の内部に設けられる電気回路12bは、マイク16を通して検出した対話相手(通話相手)の声に基づいて振動モータ20を駆動する。つまり、電気回路12bは、対話相手の声の情報(音声情報)を振動の情報(振動情報)に変換する機能を有している。この実施例では、音声情報は、声の大きさ(音圧レベル(音声パワー))および声の高さ(ピッチ(周波数))を含み、マイク16を通して検出した対話相手の声に対応する音声信号から検出(計算)される。
【0032】
電気回路12bは、プロセッサ32を含み、プロセッサ32には、A/D変換器34、モータ駆動回路36および電源制御回路38が接続される。また、電源制御回路38はモータ駆動回路36に接続される。さらに、制御ボックス30の内部には、バッテリ40が設けられ、このバッテリ40は電源制御回路38に接続される。
【0033】
また、マイク16はA/D変換器34に接続され、スイッチ18はプロセッサ32に接続され、そして、振動モータ20はモータ駆動回路36に接続される。
【0034】
ユーザがシステム10を用いて対話(通話)する場合、人形12は対話相手(通話相手)の代役として使用され、
図3に示すように、携帯電話機14が収容部12aに収容された人形12がユーザによって抱しめられる。このとき、ユーザの一方の手(腕)が人形12の背中に相当する部分に接触し、当該ユーザの他方の手(腕)が当該人形12の尻ないし太ももの裏側に相当する部分に接触する。たとえば、ユーザは、いわゆるハンズフリーで携帯電話機14を用いて通話し、このとき、対話相手の声に応じて振動モータ20が駆動される。したがって、振動モータ20が駆動することにより発生する振動が人形12を通してユーザの手(腕)や胸(胴体)に伝わる。
【0035】
なお、この実施例では、ユーザは人形に抱きついているが、これに限定される必要はなく、他の実施例として、ユーザは人形12と対面し、人形12を両手で持つようにしてもよい。
【0036】
具体的には、音声情報から推定される対話相手の感情に応じた振動が提示される。この実施例では、
図4に示すように、振動パターンが決定される。詳細な説明は省略するが、この振動パターンは、音声情報から人間の感情を推定ないし認識する研究に基づいて作成されたものである。
【0037】
図4に示すように、振動パターンのテーブルでは、声の大きさ(Po)と声の高さ(Pi)との大小関係に応じて、推定される感情および振動パターンが記述される。この実施例では、分かり易くするために、声の大きさおよび声の高さから推定される感情を記述してあるが、実際に感情を推定する必要はなく、テーブルには、声の大きさ(Po)および声の高さ(Pi)との大小関係に応じて、振動パターンのみが記載されればよい。
【0038】
図4に示す例では、声の大きさ(Po)が通常(平常状態)の声の大きさ(APo)よりも大きく、声の高さ(Pi)が通常の声の高さ(APi)よりも大きい場合には、「喜び」の感情が推定される。これに応じて、振動パターンとしては、強度Pが「大」に設定され、周期Tが「中(普通)」に設定される。
【0039】
ここで、
図5を参照して、振動モータ20の駆動信号ないし駆動電圧について説明する。
図5に示すように、駆動信号ないし駆動電圧は、パルス状の矩形波で示される。たとえば、矩形波は、波高値がPであり、振動の強度を表す。ただし、この実施例では、強度Pは、振動モータ20の駆動電圧に相当する。したがって、たとえば、強度Pは、振動モータ20に入力(印加)する駆動電圧の大きさに応じて変化され、「大」、「中(普通)」、「小」の3段階で設定される(切り換えられる)。また、この実施例では、振動モータ20によって発生される振動によって人間の鼓動を表現するように、矩形波のパルス幅Tbおよび周期Tは、実験等によって経験的に得られた値に設定(決定)される。
【0040】
なお、この実施例では、振動の強度Pを駆動電圧の大きさで変化させるようにしてあるが、これに限定される必要はない。重さの異なるおもりを設けた振動モータ(偏心モータ)を複数設け、駆動する振動モータを切り換えるようにしてもよい。
【0041】
また、この実施例では、周期Tは、「長い」、「中(普通)」および「短い」の3段階で設定される(切り換えられる)。中(普通)である場合の周期Tは、人間の鼓動の周期の平均的な値(約1秒)に設定される。
【0042】
ただし、この実施例では、通常の声の大きさ(APo)および通常の声の高さ(APi)は、通話を開始した当初の一定時間(たとえば、5〜10秒)において検出された対話相手の声の大きさの平均値および声の高さの平均値である。これは、通話を開始した当初では、通話相手(対話相手)の感情は通常(普通)の状態と考えられるからである。また、一定時間の平均値を算出するは、瞬間的な声の大きさおよび声の高さでは、対話相手の感情を推定するのが困難だからである。また、現在の声の大きさ(Po)および声の高さ(Pi)は、現在を含む、過去一定時間(たとえば、5〜10秒)分の対話相手の声の大きさの平均値および声の高さの平均値である。以下、この実施例において同じ。
【0043】
また、
図4に戻って、声の大きさ(Po)が通常の声の大きさ(APo)よりも大きく、声の高さ(Pi)が通常の声の高さ(APi)よりも小さい場合には、「怒り」の感情が推定される。これに応じて、振動パターンとしては、強度Pが「大」に設定され、周期Tが「短い」に設定される。
【0044】
さらに、声の大きさ(Po)が通常の声の大きさ(APo)よりも小さく、声の高さ(Pi)が通常の声の高さ(APi)よりも小さい場合には、「悲しみ」の感情が推定される。これに応じて、振動パターンとしては、強度Pが「小」に設定され、周期Tが「長い」に設定される。
【0045】
さらにまた、上記以外の場合、すなわち、声の大きさ(Po)が通常の声の大きさ(APo)と同じである場合、または、声の高さ(Pi)が通常の声の高さ(APi)と同じである場合、或いは、それらの両方である場合には、「普通」の感情が推定される。これに応じて、振動パターンとしては、強度Pが「中(普通)」に設定され、周期Tが「中(普通)」に設定される。
【0046】
このようにすることにより、振動により対話相手の感情を実感することができ、したがって、対話相手を抱きしめて話している感覚を得たり、対話相手と話している実感を得たり、相手の存在感を高めたりすることができるのである。
【0047】
図6は、
図2に示したプロセッサ32の内部に設けられるRAM32aのメモリマップ50の一例を示す。
図6に示すように、RAM32aは、プログラム記憶領域52およびデータ記憶領域54を含む。プログラム記憶領域52には、音声検出プログラム52aおよび変換処理プログラム52bなどが記憶される。
【0048】
音声検出プログラム52aは、通話中の対話相手の声(音声)を検出するためのプログラムである。たとえば、図示しない主電源がオンされると、マイク16はオンされ、マイク16からの入力に基づいて一定以上のレベル(dB)の音(着信音、着信メロディ)や音声(対話相手の声)を検出すると、音声の検出処理を実行する。この実施例では、対話相手の声の大きさおよび声の高さが検出される。
【0049】
変換処理プログラム52bは、検出した対話相手の声の大きさおよび声の高さに基づいて、振動モータ20を駆動制御するためのプログラムである。ただし、
図4に示したテーブル(後述するテーブルデータ54d)に従って、検出した対話相手の声の大きさおよび声の高さに基づいて、振動パターンが決定される。
【0050】
図示は省略するが、音声情報から振動情報に変換するために必要な他のプログラムも記憶される。
【0051】
データ記憶領域54には、音声データバッファ54aが設けられる。また、データ記憶領域54には、通常音声データ54b、現在音声データ54c、テーブルデータ54dおよびモータ制御データ54eが記憶される。
【0052】
音声データバッファ54aは、マイク16を通して検出した対話相手の声に対応する音声データを時系列に従って一時記憶する。音声データバッファ54aに記憶された音声データは、プロセッサ32の処理に用いられた後に消去される。
【0053】
通常音声データ54bは、対話相手の感情が通常(普通)である場合または普通であると予測される場合の声の大きさ(APo)および声の高さ(APi)についてのデータである。上述したように、通常(状態)の対話相手の声の大きさ(APo)および声の高さ(APi)は、通話(対話)の開始から一定時間分の対話相手の声の大きさの平均値および声の高さの平均値である。
【0054】
現在音声データ54cは、現在の対話相手の声の大きさ(Po)および声の高さ(Pi)についてのデータである。上述したように、現在の対話相手の声の大きさ(Po)および声の高さ(Pi)は、現在を含む、過去一定時間分の対話相手の音声についての声の大きさの平均値および声の高さの平均値である。テーブルデータ54d、
図4に示した振動パターンのテーブルについてのデータである。上述したように、感情を推定する必要は無いため、推定される感情についてはテーブルから削除してもよい。
【0055】
モータ制御データ54eは、テーブルデータ54dに従って決定された振動パターンに対応する駆動信号(駆動パルス)ないし駆動電圧を規定するための強度(電圧)Pの値および周期Tの値についてのデータである。
【0056】
なお、図示は省略するが、データ記憶領域54には、音声検出プログラム52aや変換処理プログラム52bなどのプログラムを実行するために必要な他のデータが記憶されたり、カウンタ(タイマ)やフラグが設けられたりする。
【0057】
図7は、
図2に示したプロセッサ32の変換処理のフロー図である。たとえば、プロセッサ32は、所定レベル以上の音(着信音、着信メロディ)ないし音声(対話相手の音声)を検出すると、この変換処理を開始する。他の実施例では、ユーザの指示(たとえば、スイッチ18の操作)に応じて変換処理を開始してよい。
【0058】
図7に示すように、プロセッサ32は、変換処理を開始すると、ステップS1で、一定時間における、声の大きさの平均値と声の高さの平均値を計算する。ただし、少なくとも一定時間分の音声データは、音声データバッファ54aに記憶される。図示は省略するが、対話相手の声を検出し、音声データを音声データバッファ54aに記憶する処理は、変換処理とは別のタスクで実行される。
【0059】
次のステップS3では、ステップS1で計算した対話相手の声の大きさの平均値および声の高さの平均値を、通常の声の大きさ(APo)および声の高さ(APi)として記憶する。つまり、通常音声データ54bがデータ記憶領域54に記憶される。
【0060】
続くステップS5では、終了かどうかを判断する。ここでは、プロセッサ32は、スイッチ18からの操作データが入力されたかどうかを判断することにより、ユーザからの終了指示があるかどうかを判断するのである。また、音声通話が終了した場合には、変換処理を実行する必要がないため、一定時間(たとえば、30秒)以上、対話相手の音声を検出しない場合にも、変換処理を終了するようにしてもよい。
【0061】
ステップS5で“YES”であれば、つまり終了であれば、そのまま変換処理を終了する。一方、ステップS5で“NO”であれば、つまり終了でなければ、ステップS7で、現在の声の大きさ(Po)および声の高さ(Pi)を検出(計算)する。つまり、プロセッサ32は、現在を含む、過去一定時間分の対話相手の声の大きさの平均値と声の高さの平均値を計算し、計算した対話相手の声の大きさの平均値および声の高さの平均値を、現在の声の大きさ(Po)および声の高さ(Pi)として記憶する。つまり、現在音声データ54cがデータ記憶領域54に記憶される。ただし、2回目以降では、現在音声データ54cが更新される。
【0062】
次のステップS9では、現在の声の大きさ(Po)および声の高さ(Pi)と、通常の声の大きさ(APo)および声の高さ(APi)をそれぞれ比較する。続いて、ステップS11で、強度Pおよび周期Tを決定する。ここでは、プロセッサ32は、テーブルデータ54dを参照して、ステップS9における比較結果に応じて、強度Pおよび周期Tを決定し、これらに対応するデータ(モータ制御データ54e)をデータ記憶領域54に記憶する。そして、ステップS13で、決定した強度Pおよび周期Tで振動モータ20を駆動して、ステップS5に戻る。ステップS13では、プロセッサ32は、強度Pおよび周期Tに基づいて駆動信号(駆動パルス)を生成し、モータ駆動回路36に出力する。モータ駆動回路36は、駆動パルスに従う駆動電圧を生成し、振動モータ20に印加する。すると、振動モータ20が駆動され、音声から推定された感情に応じた振動が発生される。この振動が人形12を通してユーザの手(腕)や胸(胴体)に伝わる。
【0063】
この実施例によれば、対話相手の音声情報から推定される感情に応じた振動がユーザが抱きしめている人形を通して当該ユーザに伝わるので、対話相手を抱きしめて話している感覚や対話相手と話している実感を十分に得ることができる。また、対話相手の存在感を高めることができる。
【0064】
なお、この実施例では、対話相手の声の大きさおよび声の高さから推定される感情に応じた振動パターンのテーブルを用いて鼓動のような振動を発生するように振動モータを駆動するようにしたが、これに限定される必要はない。推定される感情に応じた鼓動を表現する振動パターンに代えて、声の大きさおよび声の高さを表現する振動パターンのテーブルを用意するようにしてもよい。また、振動モータに印加する駆動電圧(駆動パルス)は矩形波に限定される必要はなく、のこぎり波や三角波でもよい。つまり、振動モータは、対話相手の声の状態に応じた任意のパターン(強度および周期)で振動を発生するように駆動されればよい。
【0065】
また、この実施例では、振動の強度および周期、すなわち振動モータの駆動電圧の大きさおよび振動(駆動)の周期を、それぞれ、3段階で設定するようにしてあるが、これに限定される必要はない。駆動電圧の大きさおよび振動の周期は少なくとも2段階で設定できれば、4段階以上で設定するようにしてもよい。また、振動パターンのテーブルに基づいて振動の強度(駆動電圧の大きさ)および振動(駆動)の周期を決定せずに、声の大きさおよび声の高さから所定の演算式を用いることによって、振動の強度および振動の周期を計算により求めて、駆動パルス(駆動電圧)を生成するようにしてもよい。
【0066】
また、この実施例で示した具体的な数値は単なる一例であり、限定されるべきではなく、実施される製品等に応じて適宜変更可能である。