(58)【調査した分野】(Int.Cl.,DB名)
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1の技術では、ユーザの入力した音声中の微小の高周波と低周波の出現頻度からパラメータを算出することで感情パラメータを算出するため、ユーザの感情ごとの表現のバラつきに一律対応することは困難であり、ユーザの感情認識率に問題があった。
【0006】
そこで、本発明は、上記問題に鑑みてなされたものであり、ユーザとロボットの会話において、ユーザの感情認識率を向上させるため、メッセージをやり取りすることで、ロボットの会話における動作を制御することを目的とする。
【課題を解決するための手段】
【0007】
本発明に係るロボットは、ユーザの有する携帯端末と通信可能なロボットであって、ロボットの動きを制御する複数のアプリケーションを予め記憶する記憶部と、携帯端末から送信されたロボットとの会話を目的としたメッセージを受信する受信部と、メッセージに含まれる指示情報に基づいて、複数のアプリケーションから一つのアプリケーションを選択する選択部と、選択されたアプリケーションに基づいて、ロボットに動作させるための機構を制御する制御部とを備え、指示情報は、ユーザがロボットに送信したイラスト情報又は画
像情報に付帯する情報であるものである。
【0008】
さらに、本発明に係るロボットにおいて、付帯する情報は、イラスト情報又はイラスト情報に付帯する意味情報を含むものであって、ロボットは、イラスト情報又は意味情報に基づいて、ユーザの感情を感情情報として認識する感情認識部とを備えるものであって、選択部は、認識したユーザの感情情報に基づいて、複数のアプリケーションから一つのアプリケーションを選択するものであってもよい。
【0009】
また、本発明に係るロボットにおいて、付帯する情報は、画像情報、画像情報に付帯する日付及び位置に関する付帯情報、であって、ロボットは、画像情報及び付帯情報に基づいて、ユーザの居場所を居場所情報として認識する画像認識部とを備えるものであって、選択部は、居場所情報に基づいて、複数のアプリケーションから一つのアプリケーションを選択するものであってもよい。
【0010】
さらに、本発明に係るロボットにおいて、指示情報は、ユーザからの感情を示唆する情報を含むものであって、ロボットは、示唆情報に基づいて、ユーザの感情を感情パターン情報として分類する感情分類部とを備えるものであって、記憶部は、感情パターン情報と、所定の時間内に認識した感情情報又は居場所情報とを対応付けて記憶することと、選択部は、感情情報又は居場所情報に対応付けられた感情パターン情報に基づいて、複数のアプリケーションから一つのアプリケーションを選択するものであってもよい。
【0011】
また、本発明に係るロボットにおいて、指示情報は、ユーザからの所定の著名人を指定する情報を含むものであって、受信部は、指定情報に基づいて、ネットワークを介して指定した著名人の動作情報を提供するデータベースサーバから動作情報を受信することと、選択部は、動作情報に基づいて、複数のアプリケーションから一つのアプリケーションを選択するものであってもよい。
【0012】
さらに、本発明に係るロボットにおいて、動作情報は、インターネット上での出現数が上位から一定の順位内にある著名人に係る動作情報であってもよい。
【0013】
本発明に係るロボット制御方法は、ユーザの有する携帯端末と通信可能なロボットによる制御方法であって、ロボットの動きを制御する複数のアプリケーションを予め記憶する記憶ステップと、携帯端末から送信されたロボットとの会話を目的としたメッセージを受信する受信ステップと、メッセージに含まれる指示情報に基づいて、複数のアプリケーションから一つのアプリケーションを選択する選択ステップと、選択されたアプリケーションに基づいて、ロボットに動作させるための機構を制御する制御ステップとを含み、指示情報は、ユーザがロボットに送信したイラスト情報又は画
像情報に付帯する情報であるものである。
【0014】
本発明に係るロボットシステムは、ユーザの有する携帯端末と、携帯端末と通信可能なロボット、複数のアプリケーションを提供するアプリマーケットサーバを含むネットワークシステムであって、アプリマーケットサーバは、ロボットにロボットの動きを制御する1又は複数のアプリケーションを提供する提供手段とを備え、ロボットは、提供されたアプリケーションを予め記憶する記憶手段と、携帯端末から送信されたロボットとの会話を目的としたメッセージを受信する受信手段と、メッセージに含まれる指示情報に基づいて、複数のアプリケーションから一つのアプリケーションを選択する選択手段と、選択されたアプリケーションに基づいて、ロボットに動作させるための機構を制御する制御手段とを備え、指示情報は、ユーザがロボットに送信したイラスト情報又は画
像情報に付帯する情報であるものである。
【発明の効果】
【0015】
本発明のロボット、ロボット制御方法及びロボットシステムによれば、ユーザの携帯端末から、ロボットとの会話を目的としたメッセージを送信することで、メッセージの中のイラスト情報及び画像情報の付帯情報に基づいて、ユーザの感情認識を直接的に行うことができる。したがって、ユーザの感情認識をより的確に行うことができるため、ユーザの感情認識率の向上を図ることができる。
【発明を実施するための形態】
【0017】
以下、本発明の一実施態様について、図面を参照しながら説明する。
<実施の形態>
<概要>
図1は、ロボットシステムのシステム構成を示すシステム図である。
【0018】
図1に示すように、ロボットシステム600は、アプリマーケットサーバ200、データベースサーバ300、ユーザの携帯端末400及びロボット100を含み、アプリマーケットサーバ200及びデータベースサーバ300は、ネットワーク500を介して、ユーザの携帯端末400及びロボット100と通信接続される。
【0019】
ユーザの携帯端末400とロボット100は、一般的なインスタントメッセージングシステムを用いてメッセージのやり取り、いわゆるチャットを行うことができるシステムを構成する。ロボット100は、ユーザの携帯端末400が送信したメッセージを、ネットワーク500を介して受信する。受信したメッセージに含まれる指示情報に基づき、アプリケーションを選択し、選択したアプリケーションに基づいて、ロボットが動作する。当該アプリケーションは、アプリマーケットサーバ200からユーザの要求に応じて、ユーザの携帯端末400にダウンロード及びインストールできるため、汎用性のあるロボットの動作を実現することができる。
【0020】
<構成>
以下、ロボット100の構成について詳細に説明する。
図2は、ロボット100の機能構成を示すブロック図である。
図2に示すように、ロボット100は、受信部110と、送信部115と、選択部120と、感情認識部135と、感情分類部130と、画像認識部125と、記憶部140と、アプリケーション145と、制御部150と、音声入力部155と、音声出力部160、インタフェース165、電源部170と、撮影部175を含んで構成される。
【0021】
受信部110は、ネットワーク500を介して、ユーザの携帯端末400、アプリマーケットサーバ200又はデータベースサーバ300と通信を実行し、ユーザの携帯端末400等から送信されるメッセージ、アプリケーション、その他各種情報を受信する機能を有する。通信は、有線、無線のいずれで実行されてもよく、また、互いの通信が実行できるのであれば、どのような通信プロトコルを用いてもよい。
【0022】
ここで、受信部110が受信するメッセージには、ロボット100に対する指示情報が含まれる。ここで、指示情報とは、記憶部140に記憶される複数のアプリケーション145に対し、指示対象のアプリケーション145を指定する情報と、指定したアプリケーション145の処理を行うための入力情報をいう。入力情報には、イラスト情報又はイラスト情報に付帯する意味情報、画
像情報、画
像情報に付帯する日付及び位置に関する付帯情報、ユーザの感情を示唆する情報又は所定の著名人を指定する情報が含まれる。
【0023】
イラスト情報とは、ユーザの携帯端末400等からロボット100に送られてきたイラスト情報をいう。典型的には、インスタントメッセージングシステムで用いられるスタンプをいう。また、イラスト情報に付帯する意味情報は、例えば、スタンプに付与されているスタンプを意味するテキスト情報をいう。ハートのイラストであった場合、当該テキスト情報は、好き、嬉しい、愛している等といったイラストから観念される意味を示した文字列となる。
【0024】
画像情報とは、ユーザの携帯端末400からロボット100に送られてきた写真データ等をいう。写真データは、携帯端末400で撮影された画像であってもよいし、カメラや他の携帯端末で撮影された画像であってもよい。また、当該画像情報に付帯する日付に関する付帯情報は、当該写真データの撮影時の日付、時刻に関する情報をいう。また、位置に関する付帯情報とは、撮影時の位置情報であって、例えば、緯度及び経度情報等をいう。
【0025】
ユーザの感情を示唆する情報とは、ユーザが感じた、嬉しい、悲しい等の感情を表した情報をいう。当該感情を表した情報は、感情に基づいてユーザが入力したテキスト情報であってもよいし、あるいは、ユーザが発した音声を入力した音声情報であってもよい。
【0026】
所定の著名人を指定する情報とは、著名人の動作情報を取得するために、著名人の名前又は通称の全部又は一部等を用いて、対象の著名人を示す情報をいう。ここで、所定の著名人とは、具体的には、タレント、アーティスト、スポーツ選手等、複数のファンがいる人物のうち、データベースサーバ300に登録されている人物をいう。また、所定の著名人の動作情報は、著名人が過去に実施した身体の動きの特徴であってもよいし、あるいは、著名人が過去に発言した言葉の特徴であってもよい。また、それらの中でも、インターネット上での出現数が上位から一定の順位以内にある特徴を含むものであってもよい。
【0027】
ここで、身体の動きの特徴及び言葉の特徴は、データベースサーバ300が、著名人が過去に行った身体の動き及び発した言葉の情報を一定の期間蓄積し、蓄積した情報から、意味を持つ最小単位での最大公約数を求めることで算出してもよい。
【0028】
送信部115は、ユーザの携帯端末400、アプリマーケットサーバ200又はデータベースサーバ300と通信を実行し、ユーザの携帯端末400、アプリマーケットサーバ200又はデータベースサーバ300に画像情報又はメッセージを送信する機能を有する。通信は、受信部110と同じである。
【0029】
選択部120は、指示情報に基づいて、複数のアプリケーション145から一つのアプリケーション145を選択するものである。また、選択部120は、感情情報又は居場所情報に対応づけられた感情パターン情報に基づいて、アプリケーション145を選択するものである。選択の際、一つの感情情報に対応付けられた感情パターン情報が複数あった場合には、最も数の多い感情パターン情報を採用してもよい。さらに、一つの感情情報に対応付けられた感情パターン情報が複数及びそれぞれの数が同じであった場合は、いずれも採用しない、又は、感情パターン情報に優先順位を付与し、当該優先順位に基づいて採用してもよい。
【0030】
画像認識部125は、画像情報、画像情報に付帯する日付及び位置に関する付帯情報に基づいて、ユーザの居場所を居場所情報として認識する機能を有する。なお、画像情報の認識については、例えば、パターンマッチング、統計的識別法、構造識別法等を用いればよい。
【0031】
感情分類部130は、ユーザの感情を示唆する情報から、ユーザの感情を感情パターン情報として分類する機能を有する。感情分類部130は、具体的には、当該示唆する情報を文字列情報として認識し、記憶部140に記憶した感情パターン情報とパターンマッチングを行う。マッチングに成功したときは、マッチングした感情パターン情報を設定することで分類する。ここで、感情パターン情報は、人の嬉しい、怒り、悲しい、楽しい等といった感情を、パターン化したものであってもよいし、動的に変化させたものであってもよい。
【0032】
感情認識部135は、イラスト情報又はイラスト情報に付帯する意味情報から、ユーザの感情を感情情報として認識する機能を有する。感情認識部135は、具体的には、記憶部140に記憶した感情情報とマッチングを行う。マッチングに成功したときは、記憶した感情であると判定する。記憶した感情情報は、例えば、嬉しい、怒り、悲しい、楽しい等といった文字列情報であってもいいし、嬉しい、怒り、悲しい、楽しい等といった感情を意味した画像パターン情報であってもよい。
【0033】
記憶部140は、ロボットが動作するうえで必要とするアプリケーション145を記憶する機能を有する。また、記憶部140は、感情パターン情報と所定の時間内に認識した居場所情報又は感情情報との対応付けを記憶している。さらに、記憶部140は、ロボット100を制御するために用いられる各種プログラム及びデータを記憶する。記憶部140は、例えば、フラッシュメモリ等の小型の記録媒体により実現される。
【0034】
アプリケーション145は、メッセージに含まれる指示情報に基づいて、ロボット100を動作させるための処理を行い、制御部150に命令を出力する。なお、
図2において、説明を簡単にするためにアプリケーション145は2つだけ示してあるが、これ以上存在してもよいことは言うまでもない。
【0035】
また、アプリケーション145は、アプリマーケットサーバ200に登録されているアプリケーションでもある。アプリマーケットサーバ200は、アプリケーションの流通を目的としたオンラインサービスを提供する。アプリマーケットサーバ200は、具体的には、開発者が作成したアプリケーションを登録することができ、登録されたアプリケーションをユーザの要求に応じて、ロボット100にダウンロードすることができる。アプリマーケットサーバ200のオンラインサービスの利用の料金体系は、ダウンロード毎の課金制にしてもよいし、定額制にしてもよい。
【0036】
制御部150は、ロボット100を動作させるための各機構を制御する機能を有するプロセッサである。制御部150は、具体的には、記憶部140に記憶されているアプリケーション145から出力された命令を受信し、当該命令に基づいて、各機構を動かすよう制御する。ここで、各機構とは、ロボットが備える胴体部、腕部、首部、眼球部、瞼部又は口部等の自由度のある駆動装置を備える構造部や音声を出力する音声出力部160等の構造部をいう。
【0037】
音声入力部155は、ロボット100がユーザの発声する音声を初めとした周囲の音を取得する機能を有する。音声入力部155は、具体的には、モノラルマイク又はステレオマイク等により実現される。
【0038】
音声出力部160は、ロボット100が音声を出力する機能を有する。当該音声は、音声合成による音声出力であっても、声優が吹き込んだ音声による音声出力であってもよい。
【0039】
インタフェース165は、他の端末又は媒体と、無線又は有線による接続を行うものである。インタフェース165は、具体的には、WiFi(Wireless Fidelity)、HDMI(High-Definition Multimedia Interface)、USB(Universal Serial Bus)、電源コネクタ、I2C(Inter-Integrated Circuit)等の接続装置をいう。
【0040】
電源部170は、ロボット100の電気を供給するものである。
【0041】
撮影部175は、ロボット100がレンズ越しに捉えている周囲の人又は景色等の静止画又は動画を記録する機能を有する。
以上が、ロボット100の機能構成についての説明である。
【0042】
次に、ユーザの携帯端末400において、ロボット100と会話を目的としたメッセージを送信し、当該メッセージに基づいてロボットが動作する一態様について、
図3及び
図4を用いて説明する。
【0043】
図3は、ユーザとロボット100の会話における、ユーザの携帯端末400の表示部に表示される画面の一例である。ユーザは、ユーザの携帯端末400にインストールしたインスタントメッセージングシステムを利用しており、当該メッセージングシステム上で、自分の現在の居場所をロボット100に伝えるため、自分の居たお店の外観をユーザの携帯端末400等で撮影した写真データ410をロボット100に送信する。写真データ410に付帯する日時及び位置に関する付帯情報から、ロボット100が、ユーザがお店に居た日付及び時刻並びに居た場所の位置を直接的に認識することができる。
【0044】
また、ユーザは、そのお店に居たときの楽しい感情をロボット100に伝えるため、当該感情に合わせた音符の記号が表記されたイラスト420を、ロボット100に送信する。例えば、イラスト420に付帯する意味情報が「楽しい」であった場合、ロボット100は、当該意味情報に基づいて、直接的にユーザが楽しいと感じている感情を認識することができる。
【0045】
さらに、画像情報410及びイラスト情報420に加えて、所定の時間内に自身の感情を示唆する情報として、テキストメッセージ430をロボット100に送信する。ここで、所定の時間は、ロボット100が当該示唆する情報を受信した前後30秒でも、1分でも、5分であってもよい。
【0046】
ロボット100が、画像情報410、イラスト情報420及びテキストメッセージ430を受信すると、画像情報410に係る居場所情報及びイラスト情報420に係る感情情報と、感情を示唆する情報を対応付けて記憶する。当該記憶により、ロボット100は、画像情報410に係る居場所情報に居るときにユーザが楽しいと感じること、また、イラスト情報420を送るときには、ユーザが楽しいと感じていることといった感情の傾向を認識することができる。当該認識により、ロボット100は、それ以降、同じイラスト情報又は同じ場所の画像情報を受信すると、ユーザの感情に合わせた動作を自ら行うことができる。
【0047】
また、ロボット100は、受信したイラスト420又はテキストメッセージ430に基づいて、ユーザの携帯端末400に「楽しいのは良かったね!」といったイラスト420又はテキストメッセージ430に基づいて認識したユーザの感情に合わせたメッセージを送信する。
【0048】
また、ロボット100は、ロボット100の撮影部175により撮影する静止画又は動画、若しくは所定の時間内に送られた画像情報に係る居場所情報より、ユーザが近くに居ないと判定したときはメッセージを送信し、一方、ユーザが近くに居ると判定したときはメッセージ送信に加えて、又はメッセージ送信ではなく、メッセージを音声出力部160から音声出力し、直接ユーザにメッセージを伝えてもよい。
【0049】
図4は、ロボットとユーザとの会話のやり取りを説明するための模式図である。
ユーザの携帯端末400から送信されたメッセージに基づいて、ユーザは、ロボット100の近くに居ても遠隔に居ても、ロボット100がメッセージ送信や音声出力や身振り手振り等の動作を行い、ロボット100と会話をすることができる。これにより、ユーザがロボット100にメッセージを送信すると、ロボット100からそれに対応する動作が返ってくるため、あたかも人や生き物と会話しているような感覚をユーザに与えて、ロボット100とコミュニケーションを図ることができる。
【0050】
また、このとき、所定の著名人を指定するメッセージを過去に送信した場合には、さらに、所定の著名人の動作情報に合わせた動きをすることもできる。これにより、ユーザは、例えば自分がファンであるタレントの動きや言葉の特徴に合わせたロボット100の動作や音声を見る又は聞くことで、ロボット100とのコミュニケーションを通じて、自分好みの相手とコミュニケーションを図っている感覚を持つことができる。
【0051】
<データ>
ここで、本実施の形態において、ロボット100で用いられる感情パターン情報と居場所情報及び感情情報の対応付けについて説明する。
図5は、ロボット100の記憶部140に記憶されている対応付け情報500の例を示すデータ概念図である。
【0052】
図5に示すように、対応付け情報700は、感情パターン情報701と、居場所情報702と、居場所情報702のうち日時情報703と位置情報704と、感情情報705と、感情情報705のうちイラスト情報706と意味情報707とが対応付けられた情報である。対応付け情報700は、ロボット100を利用するユーザの居場所及び感情を特定し得る情報であればどのような情報であってもよく、これ以外の情報を含んでもよいことは言うまでもない。
【0053】
感情パターン情報501は、感情のパターンを示すものであれば、どのような形で表現されてもよく、例えば、数字、ひらがな、カタカナ、漢字、アルファベット、記号等を用いて表現されてよい。
【0054】
日時情報503は、感情パターン情報に係る感情を示唆する情報を受信した時刻から、所定の時間内に受信した画像に付帯する日時情報である。日時を示すものであればどの様な形で表現されてもよい。
【0055】
位置情報504は、感情パターン情報に係る感情示唆情報を受信した時刻から、所定の時間内に受信した画像に付帯する位置情報である。位置を示すものであれば、どのような形で表現されてもよく、例えば、緯度及び経度情報等をいう。
【0056】
イラスト情報706は、感情パターン情報に係る感情示唆情報を受信した時刻から、所定の時間内に受信したイラストの画像データである。なお、当該画像データは、静止画であってもよいし、動画であってもよい。
【0057】
意味情報707は、感情パターン情報に係る感情示唆情報を受信した時刻から、所定の時間内に受信したイラストの意味情報である。
【0058】
<動作>
本実施の形態に係る通信システムの動作を説明する。
【0059】
図6を用いて、ロボット100の動作を説明する。
図6は、ロボット100の動作を示すフローチャートである。
記憶部140は、予めロボットの動きを制御する複数のアプリケーション145を記憶する(ステップS601)。
【0060】
受信部110は、ユーザの携帯端末400から送信された会話のためのメッセージを受信する(ステップS602)。受信部110は、受信したメッセージに含まれる指示情報を、選択部120、画像認識部125、感情分類部130又は感情認識部135に伝達する。
【0061】
感情認識部135は、伝達された指示情報がイラスト情報又はイラスト情報に付帯する意味情報であった場合(ステップS603のYES)には、イラスト情報又は意味情報に基づいて、記憶部140に記憶した感情情報とマッチングを行う。マッチングに成功したときは、記憶した感情であると判定し、感情情報を認識する(ステップS605)。認識した感情情報は、選択部120に伝達する。
【0062】
画像認識部125は、伝達された指示情報が画像情報、画像情報に付帯する日付及び位置に関する付帯情報であった場合(ステップS604のYES)には、画像情報及び付帯情報に基づいて、ユーザの居場所情報を認識する(ステップS607)。認識した居場所情報は、選択部120に伝達する。
【0063】
感情分類部130は、伝達された指示情報が感情を示唆する情報であった場合(ステップS606のYES)には、当該示唆する情報を文字列情報として認識し、記憶部140に記憶した感情パターン情報とパターンマッチングを行う。マッチングに成功したときは、マッチングした感情パターン情報を設定することで分類する。(ステップS609)。そして、感情分類部130は、分類した感情パターン情報と、所定の時間内に認識された感情情報又は居場所情報とを対応付けて記憶する(ステップS610)。記憶した対応付けは、選択部120に伝達する。
【0064】
受信部110は、伝達された指示情報が所定の著名人を指定する情報であった場合(ステップS608のYES)には、データベースサーバ300に指定した著名人の動作情報を要求する。そして、受信部110は、当該動作情報を、データベースサーバ300から受信する(ステップS611)。
【0065】
選択部120は、伝達されたアプリケーションを指定する情報と、認識情報及び記憶情報等の入力情報に基づいて、記憶部140に記憶された複数のアプリケーション145から一つのアプリケーション145を選択する(ステップS612)。選択されたアプリケーション145は、入力情報に基づいて処理を行う。
【0066】
制御部150は、選択されたアプリケーション145の処理結果に基づいて、ロボット100を動作させるための機構を制御して(ステップS613)、終了する。
以上が、ロボット100の動作である。
<まとめ>
【0067】
本実施の形態に係るロボット、ロボット制御方法及びロボットシステムによれば、ロボットの動作に汎用性を持たせつつ、ユーザの携帯端末から、ロボットとの会話を目的としたメッセージを送信することで、ユーザの感情認識を直接的に行い、ロボットの会話における音声出力や手足部を動かす等といった動作を制御することができる。したがって、ユーザの感情認識をより的確に行い、あたかも人や生き物と会話しているような感覚をユーザに与えて、ロボットとの会話をすることができる。
【0068】
本発明を実施形態と図面に基づき説明してきたが、代表的な実施形態の例を示したものであって、本発明はこの実施形態に限定されるものではない。
【0069】
<補足>
本発明に係る一実施態様は、ユーザの有する携帯端末と通信可能なロボットプログラムであって、ロボットの動きを制御する複数のアプリケーションを予め記憶する記憶機能と、携帯端末から送信された前記ロボットとの会話を目的としたメッセージを受信する受信機能と、メッセージに含まれる指示情報に基づいて、複数のアプリケーションから一つのアプリケーションを選択する選択機能と、選択されたアプリケーションに基づいて、ロボットに動作させるための機構を制御する制御機能とを備え、指示情報は、ユーザが前記ロボットに送信したイラスト情報又は画
像情報に付帯する情報であるロボットプログラムであってもよい。