特開 2024-159692 電子機器

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024159692

(43)【公開日】2024-11-08

(54)【発明の名称】電子機器

(51)【国際特許分類】

   G06F 16/90 20190101AFI20241031BHJP

   G06F 3/01 20060101ALI20241031BHJP

   G06F 3/16 20060101ALI20241031BHJP

   G10L 13/00 20060101ALI20241031BHJP

   G10L 15/22 20060101ALI20241031BHJP

【ＦＩ】

G06F16/90 100

G06F3/01 510

G06F3/16 650

G06F3/16 690

G10L13/00 100M

G10L15/22 300Z

【審査請求】未請求

【請求項の数】11

【出願形態】ＯＬ

(21)【出願番号】P 2024072058

(22)【出願日】2024-04-26

(31)【優先権主張番号】P 2023073806

(32)【優先日】2023-04-27

(33)【優先権主張国・地域又は機関】JP

(31)【優先権主張番号】P 2023193182

(32)【優先日】2023-11-13

(33)【優先権主張国・地域又は機関】JP

(71)【出願人】

【識別番号】591280485

【氏名又は名称】ソフトバンクグループ株式会社

(74)【代理人】

【識別番号】110001519

【氏名又は名称】弁理士法人太陽国際特許事務所

(72)【発明者】

【氏名】孫 正義

【テーマコード（参考）】

5B175

5E555

【Ｆターム（参考）】

5B175EA01

5E555AA48

5E555AA71

5E555BA02

5E555BA90

5E555BB02

5E555BB06

5E555BB40

5E555BC04

5E555CA42

5E555CA47

5E555CB64

5E555CB67

5E555CC03

5E555DA23

5E555DA40

5E555EA03

5E555EA19

5E555EA22

5E555EA23

5E555EA27

5E555EA28

5E555FA00

(57)【要約】

【課題】ユーザ及び自身の感情を理解してユーザと対話を行うエージェントシステムを利用可能な電子機器を提供する。
【解決手段】ユーザの感情又はエージェントの感情を決定する感情決定部と、感情決定部によって決定された感情に基づいてユーザと対話するためのエージェントの発話内容を決定する対話処理部と、を含むエージェントシステムを利用可能な電子機器であって、ユーザの状態に関する情報を取得可能な取得部と、エージェントシステムにおいて生成された発話内容をユーザに対して出力可能な出力部と、を備え、前記取得部は、他のエージェントシステムから他のユーザの状態を取得し、前記出力部は、前記他のユーザの状態に基づいて前記感情決定部が決定した前記他のユーザの感情を前記エージェントの前記発話内容として出力する電子機器。
【選択図】図１１

【特許請求の範囲】

【請求項1】

ユーザの感情又はエージェントの感情を決定する感情決定部と、前記感情決定部によって決定された感情に基づいて前記ユーザと対話するための前記エージェントの発話内容を決定する対話処理部と、を含むエージェントシステムを利用可能な電子機器であって、
前記ユーザの状態に関する情報を取得可能な取得部と、
前記エージェントシステムにおいて生成された前記発話内容を前記ユーザに対して出力可能な出力部と、を備え、
前記取得部は、他のエージェントシステムから他のユーザの状態を取得し、
前記出力部は、前記他のユーザの状態に基づいて前記感情決定部が決定した前記他のユーザの感情を前記エージェントの前記発話内容として出力する電子機器。

【請求項2】

前記取得部は、前記他のエージェントシステムから前記他のユーザの周囲の画像を取得し、
前記出力部は、取得した前記画像と共に、前記エージェントの前記発話内容として前記他のユーザの感情を出力する
請求項１に記載の電子機器。

【請求項3】

前記取得部は、複数の他のユーザの状態を取得し、
前記出力部は、前記感情決定部が決定した各前記他のユーザの感情のうち、最も頻度の高い感情を前記エージェントの前記発話内容として出力する
請求項１に記載の電子機器。

【請求項4】

前記取得部は、複数の他のユーザの状態を取得し、
前記出力部は、前記感情決定部が決定した各前記他のユーザの感情のうち、前記感情決定部が決定した前記ユーザの感情に対応する感情を前記エージェントの前記発話内容として出力する
請求項１に記載の電子機器。

【請求項5】

前記出力部は、前記エージェントシステムにおいて設定された前記エージェントのキャラクタに応じて合成された音声で前記発話内容を出力する
請求項１に記載の電子機器。

【請求項6】

前記取得部は、更に前記ユーザによるテキスト又は音声の入力を取得可能であり、
前記発話内容は、前記取得部を介して入力されたテキスト又は音声に対して応答するための文章を生成する文章生成モデルを用いて生成される
請求項１に記載の電子機器。

【請求項7】

前記発話内容は、前記ユーザとの前記対話の履歴と、前記取得部を介して入力されたテキスト又は音声とを前記文章生成モデルに入力することにより、生成される
請求項６に記載の電子機器。

【請求項8】

前記取得部は、更に前記ユーザの周囲の状況に関する情報を取得可能であり、
前記発話内容は、前記取得部を介して取得された前記周囲の状況と、前記取得部を介して入力されたテキスト又は音声とを前記文章生成モデルに入力することにより、生成される
請求項６に記載の電子機器。

【請求項9】

前記エージェントシステムにおいて、前記取得部を介して取得された前記ユーザとの対話に基づいて前記エージェントのコマンドが取得され、かつ前記コマンドに応じた動作が実行され、
前記出力部は、前記コマンドに応じた前記動作に関する情報を出力する
請求項７又は請求項８に記載の電子機器。

【請求項10】

前記動作は、前記取得部を介して取得された前記ユーザとの前記対話の履歴から取得された前記ユーザの個人情報を用いて実行される
請求項９に記載の電子機器。

【請求項11】

前記電子機器は、ウェアラブル端末である請求項１に記載の電子機器。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、電子機器に関する。

【背景技術】

【0002】

特許文献１には、ユーザの状態に対してロボットの適切な行動を決定する技術が開示されている。特許文献１の従来技術は、ロボットが特定の行動を実行したときのユーザの反応を認識し、認識したユーザの反応に対するロボットの行動を決定できなかった場合、認識したユーザの状態に適した行動に関する情報をサーバから受信することで、ロボットの行動を更新する。

【先行技術文献】

【特許文献】

【0003】

【特許文献1】特許６０５３８４７号公報

【発明の概要】

【発明が解決しようとする課題】

【0004】

本発明は、ユーザ及び自身の感情を理解してユーザと対話を行うエージェントシステムを利用可能な電子機器を提供することを目的とする。

【課題を解決するための手段】

【0005】

本発明の第１の態様によれば、電子機器が提供される。電子機器は、ユーザの感情又はエージェントの感情を決定する感情決定部と、前記感情決定部によって決定された感情に基づいて前記ユーザと対話するための前記エージェントの発話内容を決定する対話処理部と、を含むエージェントシステムを利用可能な電子機器であって、前記ユーザの状態に関する情報を取得可能な取得部と、前記エージェントシステムにおいて生成された前記発話内容を前記ユーザに対して出力可能な出力部と、を備える。前記取得部は、他のエージェントシステムから他のユーザの状態を取得し、前記出力部は、前記他のユーザの状態に基づいて前記感情決定部が決定した前記他のユーザの感情を前記エージェントの前記発話内容として出力する。

【図面の簡単な説明】

【0006】

【図1】本実施形態に係るシステム５の一例を概略的に示す。

【図2】ロボット１００の機能構成を概略的に示す。

【図3】ロボット１００による動作フローの一例を概略的に示す。

【図4】コンピュータ１２００のハードウェア構成の一例を概略的に示す。

【図5】複数の感情がマッピングされる感情マップ３００を示す。

【図6】複数の感情がマッピングされる感情マップ９００を示す。

【図7】エージェントシステムの機能構成を概略的に示す。

【図8】エージェントシステムの動作の一例を示す。

【図9】エージェントシステムの動作の一例を示す。

【図10】エージェントシステムの動作の一例を示す。

【図11】スマート眼鏡のハードウェア構成の一例を概略的に示す。

【図12】スマート眼鏡によるエージェントシステムの利用態様の一例を示す。

【図13】スマートペンダントのハードウェア構成の一例を概略的に示す。

【発明を実施するための形態】

【0007】

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。

【0008】

図１は、本実施形態に係るシステム５の一例を概略的に示す。システム５は、ロボット１００、ロボット１０１、ロボット１０２、及びサーバ３００を備える。ユーザ１０ａ、ユーザ１０ｂ、ユーザ１０ｃ、及びユーザ１０ｄは、ロボット１００のユーザである。ユーザ１１ａ、ユーザ１１ｂ及びユーザ１１ｃは、ロボット１０１のユーザである。ユーザ１２ａ及びユーザ１２ｂは、ロボット１０２のユーザである。なお、本実施形態の説明において、ユーザ１０ａ、ユーザ１０ｂ、ユーザ１０ｃ、及びユーザ１０ｄを、ユーザ１０と総称する場合がある。また、ユーザ１１ａ、ユーザ１１ｂ及びユーザ１１ｃを、ユーザ１１と総称する場合がある。また、ユーザ１２ａ及びユーザ１２ｂを、ユーザ１２と総称する場合がある。ロボット１０１及びロボット１０２は、ロボット１００と略同一の機能を有する。そのため、ロボット１００の機能を主として取り上げてシステム５を説明する。

【0009】

ロボット１００は、ユーザ１０と会話を行ったり、ユーザ１０に映像を提供したりする。このとき、ロボット１００は、通信網２０を介して通信可能なサーバ３００等と連携して、ユーザ１０との会話や、ユーザ１０への映像等の提供を行う。例えば、ロボット１００は、自身で適切な会話を学習するだけでなく、サーバ３００と連携して、ユーザ１０とより適切に会話を進められるように学習を行う。また、ロボット１００は、撮影したユーザ１０の映像データ等をサーバ３００に記録させ、必要に応じて映像データ等をサーバ３００に要求して、ユーザ１０に提供する。

【0010】

また、ロボット１００は、自身の感情の種類を表す感情値を持つ。例えば、ロボット１００は、「喜」、「怒」、「哀」、「楽」、「快」、「不快」、「安心」、「不安」、「悲しみ」、「興奮」、「心配」、「安堵」、「充実感」、「虚無感」及び「普通」のそれぞれの感情の強さを表す感情値を持つ。ロボット１００は、例えば興奮の感情値が大きい状態でユーザ１０と会話するときは、早いスピードで音声を発する。このように、ロボット１００は、自己の感情を行動で表現することができる。

【0011】

また、ロボット１００は、文章生成モデルと感情エンジンをマッチングさせることで、ユーザ１０の感情に対応するロボット１００の行動を決定するように構成してよい。具体的には、ロボット１００は、ユーザ１０の行動を認識して、当該ユーザの行動に対するユーザ１０の感情を判定し、判定した感情に対応するロボット１００の行動を決定するように構成してよい。

【0012】

より具体的には、ロボット１００は、ユーザ１０の行動を認識した場合、予め設定された文章生成モデルを用いて、当該ユーザ１０の行動に対してロボット１００がとるべき行動内容を自動で生成する。文章生成モデルは、文字による自動対話処理のためのアルゴリズム及び演算と解釈してよい。文章生成モデルは、例えば特開２０１８－０８１４４４号公報やｃｈａｔＧＰＴ（インターネット検索＜URL: https://openai.com/blog/chatgpt＞）に開示される通り公知であるため、その詳細な説明を省略する。このような、文章生成モデルは、大規模言語モデル（ＬＬＭ：Ｌａｒｇｅ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ）により構成されている。

【0013】

以上、本実施形態は、大規模言語モデルと感情エンジンとを組み合わせることにより、ユーザ１０やロボット１００の感情と、様々な言語情報とをロボット１００の行動に反映させるということができる。つまり、本実施形態によれば、文章生成モデルと感情エンジンとを組み合わせることにより、相乗効果を得ることができる。

【0014】

また、ロボット１００は、ユーザ１０の行動を認識する機能を有する。ロボット１００は、カメラ機能で取得したユーザ１０の顔画像や、マイク機能で取得したユーザ１０の音声を解析することによって、ユーザ１０の行動を認識する。ロボット１００は、認識したユーザ１０の行動等に基づいて、ロボット１００が実行する行動を決定する。

【0015】

ロボット１００は、ユーザ１０の感情、ロボット１００の感情、及びユーザ１０の行動に基づいてロボット１００が実行する行動を定めたルールを記憶しており、ルールに従って各種の行動を行う。

【0016】

具体的には、ロボット１００には、ユーザ１０の感情、ロボット１００の感情、及びユーザ１０の行動に基づいてロボット１００の行動を決定するための反応ルールを有している。反応ルールには、例えば、ユーザ１０の行動が「笑う」である場合に対して、「笑う」という行動が、ロボット１００の行動として定められている。また、反応ルールには、ユーザ１０の行動が「怒る」である場合に対して、「謝る」という行動が、ロボット１００の行動として定められている。また、反応ルールには、ユーザ１０の行動が「質問する」である場合に対して、「回答する」という行動が、ロボット１００の行動として定められている。反応ルールには、ユーザ１０の行動が「悲しむ」である場合に対して、「声をかける」という行動が、ロボット１００の行動として定められている。

【0017】

ロボット１００は、反応ルールに基づいて、ユーザ１０の行動が「怒る」であると認識した場合、反応ルールで定められた「謝る」という行動を、ロボット１００が実行する行動として選択する。例えば、ロボット１００は、「謝る」という行動を選択した場合に、「謝る」動作を行うと共に、「謝る」言葉を表す音声を出力する。

【0018】

また、ロボット１００の感情が「普通」（すなわち、「喜」＝０、「怒」＝０、「哀」＝０、「楽」＝０）であり、ユーザ１０の状態が「１人、寂しそう」という条件が満たされた場合に、ロボット１００の感情が「心配になる」という感情の変化内容と、「声をかける」の行動を実行できることが定められている。

【0019】

ロボット１００は、反応ルールに基づいて、ロボット１００の現在の感情が「普通」であり、かつ、ユーザ１０が１人で寂しそうな状態にあると認識した場合、ロボット１００の「哀」の感情値を増大させる。また、ロボット１００は、反応ルールで定められた「声をかける」という行動を、ユーザ１０に対して実行する行動として選択する。例えば、ロボット１００は、「声をかける」という行動を選択した場合に、心配していることを表す「どうしたの？」という言葉を、心配そうな音声に変換して出力する。

【0020】

また、ロボット１００は、この行動によって、ユーザ１０からポジティブな反応が得られたことを示すユーザ反応情報を、サーバ３００に送信する。ユーザ反応情報には、例えば、「怒る」というユーザ行動、「謝る」というロボット１００の行動、ユーザ１０の反応がポジティブであったこと、及びユーザ１０の属性が含まれる。

【0021】

サーバ３００は、ロボット１００から受信したユーザ反応情報を記憶する。なお、サーバ３００は、ロボット１００だけでなく、ロボット１０１及びロボット１０２のそれぞれからもユーザ反応情報を受信して記憶する。そして、サーバ３００は、ロボット１００、ロボット１０１及びロボット１０２からのユーザ反応情報を解析して、反応ルールを更新する。

【0022】

ロボット１００は、更新された反応ルールをサーバ３００に問い合わせることにより、更新された反応ルールをサーバ３００から受信する。ロボット１００は、更新された反応ルールを、ロボット１００が記憶している反応ルールに組み込む。これにより、ロボット１００は、ロボット１０１やロボット１０２等が獲得した反応ルールを、自身の反応ルールに組み込むことができる。

【0023】

図２は、ロボット１００の機能構成を概略的に示す。ロボット１００は、センサ部２００と、センサモジュール部２１０と、格納部２２０と、ユーザ状態認識部２３０と、感情決定部２３２と、行動認識部２３４と、行動決定部２３６と、記憶制御部２３８と、行動制御部２５０と、制御対象２５２と、通信処理部２８０と、を有する。

【0024】

制御対象２５２は、表示装置、スピーカ及び目部のＬＥＤ、並びに、腕、手及び足等を駆動するモータ等を含む。ロボット１００の姿勢や仕草は、腕、手及び足等のモータを制御することにより制御される。ロボット１００の感情の一部は、これらのモータを制御することにより表現できる。また、ロボット１００の目部のＬＥＤの発光状態を制御することによっても、ロボット１００の表情を表現できる。なお、ロボット１００の姿勢、仕草及び表情は、ロボット１００の態度の一例である。

【0025】

センサ部２００は、マイク２０１と、３Ｄ深度センサ２０２と、２Ｄカメラ２０３と、距離センサ２０４とを含む。マイク２０１は、音声を連続的に検出して音声データを出力する。なお、マイク２０１は、ロボット１００の頭部に設けられ、バイノーラル録音を行う機能を有してよい。３Ｄ深度センサ２０２は、赤外線パターンを連続的に照射して、赤外線カメラで連続的に撮影された赤外線画像から赤外線パターンを解析することによって、物体の輪郭を検出する。２Ｄカメラ２０３は、イメージセンサの一例である。２Ｄカメラ２０３は、可視光によって撮影して、可視光の映像情報を生成する。距離センサ２０４は、例えばレーザや超音波等を照射して物体までの距離を検出する。なお、センサ部２００は、この他にも、時計、ジャイロセンサ、タッチセンサ、モータフィードバック用のセンサ等を含んでよい。

【0026】

なお、図２に示すロボット１００の構成要素のうち、制御対象２５２及びセンサ部２００を除く構成要素は、ロボット１００が有する行動制御システムが有する構成要素の一例である。ロボット１００の行動制御システムは、制御対象２５２を制御の対象とする。

【0027】

格納部２２０は、反応ルール２２１及び履歴データ２２２を含む。履歴データ２２２は、ユーザ１０の過去の感情値及び行動の履歴を含む。この感情値及び行動の履歴は、例えば、ユーザ１０の識別情報に対応付けられることによって、ユーザ１０毎に記録される。格納部２２０の少なくとも一部は、メモリ等の記憶媒体によって実装される。ユーザ１０の顔画像、ユーザ１０の属性情報等を格納する人物ＤＢを含んでもよい。なお、図２に示すロボット１００の構成要素のうち、制御対象２５２、センサ部２００及び格納部２２０を除く構成要素の機能は、ＣＰＵがプログラムに基づいて動作することによって実現できる。例えば、基本ソフトウェア（ＯＳ）及びＯＳ上で動作するプログラムによって、これらの構成要素の機能をＣＰＵの動作として実装できる。

【0028】

センサモジュール部２１０は、音声感情認識部２１１と、発話理解部２１２と、表情認識部２１３と、顔認識部２１４とを含む。センサモジュール部２１０には、センサ部２００で検出された情報が入力される。センサモジュール部２１０は、センサ部２００で検出された情報を解析して、解析結果をユーザ状態認識部２３０に出力する。

【0029】

センサモジュール部２１０の音声感情認識部２１１は、マイク２０１で検出されたユーザ１０の音声を解析して、ユーザ１０の感情を認識する。例えば、音声感情認識部２１１は、音声の周波数成分等の特徴量を抽出して、抽出した特徴量に基づいて、ユーザ１０の感情を認識する。発話理解部２１２は、マイク２０１で検出されたユーザ１０の音声を解析して、ユーザ１０の発話内容を表す文字情報を出力する。

【0030】

表情認識部２１３は、２Ｄカメラ２０３で撮影されたユーザ１０の画像から、ユーザ１０の表情及びユーザ１０の感情を認識する。例えば、表情認識部２１３は、目及び口の形状、位置関係等に基づいて、ユーザ１０の表情及び感情を認識する。

【0031】

顔認識部２１４は、ユーザ１０の顔を認識する。顔認識部２１４は、人物ＤＢ（図示省略）に格納されている顔画像と、２Ｄカメラ２０３によって撮影されたユーザ１０の顔画像とをマッチングすることによって、ユーザ１０を認識する。

【0032】

ユーザ状態認識部２３０は、センサモジュール部２１０で解析された情報に基づいて、ユーザ１０の状態を認識する。例えば、センサモジュール部２１０の解析結果を用いて、主として知覚に関する処理を行う。例えば、「パパが１人です。」、「パパが笑顔でない確率９０％です。」等の知覚情報を生成する。生成された知覚情報の意味を理解する処理を行う。例えば、「パパが１人、寂しそうです。」等の意味情報を生成する。

【0033】

感情決定部２３２は、センサモジュール部２１０で解析された情報、及びユーザ状態認識部２３０によって認識されたユーザ１０の状態に基づいて、ユーザ１０の感情を示す感情値を決定する。例えば、センサモジュール部２１０で解析された情報、及び認識されたユーザ１０の状態を、予め学習されたニューラルネットワークに入力し、ユーザ１０の感情を示す感情値を取得する。

【0034】

ここで、ユーザ１０の感情を示す感情値とは、ユーザの感情の正負を示す値であり、例えば、ユーザの感情が、「喜」、「楽」、「快」、「安心」、「興奮」、「安堵」、及び「充実感」のように、快感や安らぎを伴う明るい感情であれば、正の値を示し、明るい感情であるほど、大きい値となる。ユーザの感情が、「怒」、「哀」、「不快」、「不安」、「悲しみ」、「心配」、及び「虚無感」のように、嫌な気持ちになってしまう感情であれば、負の値を示し、嫌な気持ちであるほど、負の値の絶対値が大きくなる。ユーザの感情が、上記の何れでもない場合（「普通」）、０の値を示す。

【0035】

また、感情決定部２３２は、センサモジュール部２１０で解析された情報、及びユーザ状態認識部２３０によって認識されたユーザ１０の状態に基づいて、ロボット１００の感情を示す感情値を決定する。
ロボット１００の感情値は、複数の感情分類の各々に対する感情値を含み、例えば、「喜」、「怒」、「哀」、「楽」それぞれの強さを示す値（０～５）である。

【0036】

具体的には、感情決定部２３２は、センサモジュール部２１０で解析された情報、及びユーザ状態認識部２３０によって認識されたユーザ１０の状態に対応付けて定められた、ロボット１００の感情値を更新するルールに従って、ロボット１００の感情を示す感情値を決定する。

【0037】

例えば、感情決定部２３２は、ユーザ状態認識部２３０によってユーザ１０が寂しそうと認識された場合、ロボット１００の「哀」の感情値を増大させる。また、ユーザ状態認識部２３０によってユーザ１０が笑顔になったと認識された場合、ロボット１００の「喜」の感情値を増大させる。

【0038】

なお、感情決定部２３２は、ロボット１００の状態を更に考慮して、ロボット１００の感情を示す感情値を決定してもよい。例えば、ロボット１００のバッテリー残量が少ない場合やロボット１００の周辺環境が真っ暗な場合等に、ロボット１００の「哀」の感情値を増大させてもよい。更にバッテリー残量が少ないにも関わらず継続して話しかけてくるユーザ１０の場合は、「怒」の感情値を増大させても良い。

【0039】

行動認識部２３４は、センサモジュール部２１０で解析された情報、及びユーザ状態認識部２３０によって認識されたユーザ１０の状態に基づいて、ユーザ１０の行動を認識する。例えば、センサモジュール部２１０で解析された情報、及び認識されたユーザ１０の状態を、予め学習されたニューラルネットワークに入力し、予め定められた複数の行動分類（例えば、「笑う」、「怒る」、「質問する」、「悲しむ」）の各々の確率を取得し、最も確率の高い行動分類を、ユーザ１０の行動として認識する。

【0040】

以上のように、本実施形態では、ロボット１００は、ユーザ１０を特定したうえでユーザ１０の発話内容を取得するが、当該発話内容の取得と利用等に際してはユーザ１０から法令に従った必要な同意を取得するほか、本実施形態に係るロボット１００の行動制御システムは、ユーザ１０の個人情報及びプライバシーの保護に配慮する。

【0041】

行動決定部２３６は、感情決定部２３２により決定されたユーザ１０の現在の感情値と、ユーザ１０の現在の感情値が決定されるよりも前に感情決定部２３２により決定された過去の感情値の履歴データ２２２と、ロボット１００の感情値とに基づいて、行動認識部２３４によって認識されたユーザ１０の行動に対応する行動を決定する。本実施形態では、行動決定部２３６は、ユーザ１０の過去の感情値として、履歴データ２２２に含まれる直近の１つの感情値を用いる場合について説明するが、開示の技術はこの態様に限定されない。例えば、行動決定部２３６は、ユーザ１０の過去の感情値として、直近の複数の感情値を用いてもよいし、一日前などの単位期間の分だけ前の感情値を用いてもよい。また、行動決定部２３６は、ロボット１００の現在の感情値だけでなく、ロボット１００の過去の感情値の履歴を更に考慮して、ユーザ１０の行動に対応する行動を決定してもよい。行動決定部２３６が決定する行動は、ロボット１００が行うジェスチャー又はロボット１００の発話内容を含む。

【0042】

本実施形態に係る行動決定部２３６は、ユーザ１０の行動に対応する行動として、ユーザ１０の過去の感情値と現在の感情値の組み合わせと、ロボット１００の感情値と、ユーザ１０の行動と、反応ルール２２１とに基づいて、ロボット１００の行動を決定する。例えば、行動決定部２３６は、ユーザ１０の過去の感情値が正の値であり、かつ現在の感情値が負の値である場合、ユーザ１０の行動に対応する行動として、ユーザ１０の感情値を正に変化させるための行動を決定する。

【0043】

反応ルール２２１には、ユーザ１０の過去の感情値と現在の感情値の組み合わせと、ロボット１００の感情値と、ユーザ１０の行動とに応じたロボット１００の行動が定められている。例えば、ユーザ１０の過去の感情値が正の値であり、かつ現在の感情値が負の値であり、ユーザ１０の行動が悲しむである場合、ロボット１００の行動として、ジェスチャーを交えてユーザ１０を励ます問いかけを行う際のジェスチャーと発話内容との組み合わせが定められている。

【0044】

例えば、反応ルール２２１には、ロボット１００の感情値のパターン（「喜」、「怒」、「哀」、「楽」の値「０」～「５」の６値の４乗である１２９６パターン）、ユーザ１０の過去の感情値と現在の感情値の組み合わせのパターン、ユーザ１０の行動パターンの全組み合わせに対して、ロボット１００の行動が定められる。すなわち、ロボット１００の感情値のパターン毎に、ユーザ１０の過去の感情値と現在の感情値の組み合わせが、負の値と負の値、負の値と正の値、正の値と負の値、正の値と正の値、負の値と普通、及び普通と普通等のように、複数の組み合わせのそれぞれに対して、ユーザ１０の行動パターンに応じたロボット１００の行動が定められる。なお、行動決定部２３６は、例えば、ユーザ１０が「この前に話したあの話題について話したい」というような過去の話題から継続した会話を意図する発話を行った場合に、履歴データ２２２を用いてロボット１００の行動を決定する動作モードに遷移してもよい。
なお、反応ルール２２１には、ロボット１００の感情値のパターン（１２９６パターン）の各々に対して、最大で一つずつ、ロボット１００の行動としてジェスチャー及び発言内容の少なくとも一方が定められていてもよい。あるいは、反応ルール２２１には、ロボット１００の感情値のパターンのグループの各々に対して、ロボット１００の行動としてジェスチャー及び発言内容の少なくとも一方が定められていてもよい。

【0045】

反応ルール２２１に定められているロボット１００の行動に含まれる各ジェスチャーには、当該ジェスチャーの強度が予め定められている。反応ルール２２１に定められているロボット１００の行動に含まれる各発話内容には、当該発話内容の強度が予め定められている。

【0046】

記憶制御部２３８は、行動決定部２３６によって決定された行動に対して予め定められた行動の強度と、感情決定部２３２により決定されたロボット１００の感情値とに基づいて、ユーザ１０の行動を含むデータを履歴データ２２２に記憶するか否かを決定する。
具体的には、ロボット１００の複数の感情分類の各々に対する感情値の総和と、行動決定部２３６によって決定された行動が含むジェスチャーに対して予め定められた強度と、行動決定部２３６によって決定された行動が含む発話内容に対して予め定められた強度との和である強度の総合値が、閾値以上である場合、ユーザ１０の行動を含むデータを履歴データ２２２に記憶すると決定する。

【0047】

記憶制御部２３８は、ユーザ１０の行動を含むデータを履歴データ２２２に記憶すると決定した場合、行動決定部２３６によって決定された行動と、現時点から一定期間前までの、センサモジュール部２１０で解析された情報（例えば、その場の音声、画像、匂い等のデータなどのあらゆる周辺情報）、及びユーザ状態認識部２３０によって認識されたユーザ１０の状態（例えば、ユーザ１０の表情、感情など）を、履歴データ２２２に記憶する。

【0048】

行動制御部２５０は、行動決定部２３６が決定した行動に基づいて、制御対象２５２を制御する。例えば、行動制御部２５０は、行動決定部２３６が発話することを含む行動を決定した場合に、制御対象２５２に含まれるスピーカから音声を出力させる。このとき、行動制御部２５０は、ロボット１００の感情値に基づいて、音声の発声速度を決定してもよい。例えば、行動制御部２５０は、ロボット１００の感情値が大きいほど、速い発声速度を決定する。このように、行動制御部２５０は、感情決定部２３２が決定した感情値に基づいて、行動決定部２３６が決定した行動の実行形態を決定する。

【0049】

行動制御部２５０は、行動決定部２３６が決定した行動を実行したことに対するユーザ１０の感情の変化を認識してもよい。例えば、ユーザ１０の音声や表情に基づいて感情の変化を認識してよい。その他、センサ部２００に含まれるタッチセンサで衝撃が検出されたことに基づいて、ユーザ１０の感情の変化を認識してよい。センサ部２００に含まれるタッチセンサで衝撃が検出された場合に、ユーザ１０の感情が悪くなったと認識したり、センサ部２００に含まれるタッチセンサの検出結果から、ユーザ１０の反応が笑っている、あるいは、喜んでいる等と判断される場合には、ユーザ１０の感情が良くなったと認識したりしてもよい。ユーザ１０の反応を示す情報は、通信処理部２８０に出力される。

【0050】

また、行動制御部２５０は、行動決定部２３６が決定した行動をロボット１００の感情に応じて決定した実行形態で実行した後、感情決定部２３２は、当該行動が実行されたことに対するユーザの反応に基づいて、ロボット１００の感情値を更に変化させる。具体的には、感情決定部２３２は、行動決定部２３６が決定した行動を行動制御部２５０が決定した実行形態でユーザに対して行ったことに対するユーザの反応が不良でなかった場合に、ロボット１００の「喜」の感情値を増大させるまた、感情決定部２３２は、行動決定部２３６が決定した行動を行動制御部２５０が決定した実行形態でユーザに対して行ったことに対するユーザの反応が不良であった場合に、ロボット１００の「哀」の感情値を増大させる。

【0051】

更に、行動制御部２５０は、決定したロボット１００の感情値に基づいて、ロボット１００の感情を表現する。例えば、行動制御部２５０は、ロボット１００の「喜」の感情値を増加させた場合、制御対象２５２を制御して、ロボット１００に喜んだ仕草を行わせる。また、行動制御部２５０は、ロボット１００の「哀」の感情値を増加させた場合、ロボット１００の姿勢がうなだれた姿勢になるように、制御対象２５２を制御する。

【0052】

通信処理部２８０は、サーバ３００との通信を担う。上述したように、通信処理部２８０は、ユーザ反応情報をサーバ３００に送信する。また、通信処理部２８０は、更新された反応ルールをサーバ３００から受信する。通信処理部２８０がサーバ３００から、更新された反応ルールを受信すると、反応ルール２２１を更新する。

【0053】

サーバ３００は、ロボット１００、ロボット１０１及びロボット１０２とサーバ３００との間の通信を行い、ロボット１００から送信されたユーザ反応情報を受信し、ポジティブな反応が得られた行動を含む反応ルールに基づいて、反応ルールを更新する。

【0054】

図３は、ロボット１００において行動を決定する動作に関する動作フローの一例を概略的に示す。図３に示す動作フローは、繰り返し実行される。このとき、センサモジュール部２１０で解析された情報が入力されているものとする。なお、動作フロー中の「Ｓ」は、実行されるステップを表す。

【0055】

まず、ステップＳ１００において、ユーザ状態認識部２３０は、センサモジュール部２１０で解析された情報に基づいて、ユーザ１０の状態を認識する。

【0056】

ステップＳ１０２において、感情決定部２３２は、センサモジュール部２１０で解析された情報、及びユーザ状態認識部２３０によって認識されたユーザ１０の状態に基づいて、ユーザ１０の感情を示す感情値を決定する。

【0057】

ステップＳ１０３において、感情決定部２３２は、センサモジュール部２１０で解析された情報、及びユーザ状態認識部２３０によって認識されたユーザ１０の状態に基づいて、ロボット１００の感情を示す感情値を決定する。感情決定部２３２は、決定したユーザ１０の感情値を履歴データ２２２に追加する。

【0058】

ステップＳ１０４において、行動認識部２３４は、センサモジュール部２１０で解析された情報及びユーザ状態認識部２３０によって認識されたユーザ１０の状態に基づいて、ユーザ１０の行動分類を認識する。

【0059】

ステップＳ１０６において、行動決定部２３６は、ステップＳ１０２で決定されたユーザ１０の現在の感情値及び履歴データ２２２に含まれる過去の感情値の組み合わせと、ロボット１００の感情値と、行動認識部２３４によって認識されたユーザ１０の行動と、反応ルール２２１とに基づいて、ロボット１００の行動を決定する。

【0060】

ステップＳ１０８において、行動制御部２５０は、行動決定部２３６により決定された行動に基づいて、制御対象２５２を制御する。

【0061】

ステップＳ１１０において、記憶制御部２３８は、行動決定部２３６によって決定された行動に対して予め定められた行動の強度と、感情決定部２３２により決定されたロボット１００の感情値とに基づいて、強度の総合値を算出する。

【0062】

ステップＳ１１２において、記憶制御部２３８は、強度の総合値が閾値以上であるか否かを判定する。強度の総合値が閾値未満である場合には、ユーザ１０の行動を含むデータを履歴データ２２２に記憶せずに、当該処理を終了する。一方、強度の総合値が閾値以上である場合には、ステップＳ１１４へ移行する。

【0063】

ステップＳ１１４において、行動決定部２３６によって決定された行動と、現時点から一定期間前までの、センサモジュール部２１０で解析された情報、及びユーザ状態認識部２３０によって認識されたユーザ１０の状態と、を、履歴データ２２２に記憶する。

【0064】

以上説明したように、ロボット１００によれば、ユーザ状態に基づいて、ロボット１００の感情を示す感情値を決定し、ロボット１００の感情値に基づいて、ユーザ１０の行動を含むデータを履歴データ２２２に記憶するか否かを決定する。これにより、ユーザ１０の行動を含むデータを記憶する履歴データ２２２の容量を抑制することができる。そして例えば、１０年後にユーザ状態が１０年前と同じ状態であるとロボット１００が判断したときに、１０年前の履歴データ２２２を読み込むことにより、ロボット１００は１０年前当時のユーザ１０の状態（例えばユーザー１０の表情、感情など）、更にはその場の音声、画像、匂い等のデータなどのあらゆる周辺情報を、ユーザ１０に提示することができる。

【0065】

また、ロボット１００によれば、ユーザ１０の行動に対して適切な行動をロボット１００に実行させることができる。従来は、ユーザの行動を分類し、ロボットの表情や恰好を含む行動を決めていた。これに対し、ロボット１００は、ユーザ１０の現在の感情値を決定し、過去の感情値及び現在の感情値に基づいてユーザ１０に対して行動を実行する。従って、例えば、昨日は元気であったユーザ１０が今日は落ち込んでいた場合に、ロボット１００は「昨日は元気だったのに今日はどうしたの？」というような発話を行うことができる。また、ロボット１００は、ジェスチャーを交えて発話を行うこともできる。また、例えば、昨日は落ち込んでいたユーザ１０が今日は元気である場合に、ロボット１００は、「昨日は落ち込んでいたのに今日は元気そうだね？」というような発話を行うことができる。また、例えば、昨日は元気であったユーザ１０が今日は昨日よりも元気である場合、ロボット１００は「今日は昨日よりも元気だね。昨日よりも良いことがあった？」というような発話を行うことができる。また、例えば、ロボット１００は、感情値が０以上であり、かつ感情値の変動幅が一定の範囲内である状態が継続しているユーザ１０に対しては、「最近、気分が安定していて良い感じだね。」というような発話を行うことができる。

【0066】

また、例えば、ロボット１００は、ユーザ１０に対し、「昨日言っていた宿題はできた？」と質問し、ユーザ１０から「できたよ」という回答が得られた場合、「偉いね！」等の肯定的な発話をするとともに、拍手又はサムズアップ等の肯定的なジェスチャーを行うことができる。また、例えば、ロボット１００は、ユーザ１０が「一昨日話したプレゼンテーションがうまくいったよ」という発話をすると、「頑張ったね！」等の肯定的な発話をするとともに、上記の肯定的なジェスチャーを行うこともできる。このように、ロボット１００がユーザ１０の状態の履歴に基づいた行動を行うことによって、ユーザ１０がロボット１００に対して親近感を覚えることが期待できる。

【0067】

上記実施形態では、ロボット１００は、ユーザ１０の顔画像を用いてユーザ１０を認識する場合について説明したが、開示の技術はこの態様に限定されない。例えば、ロボット１００は、ユーザ１０が発する音声、ユーザ１０のメールアドレス、ユーザ１０のＳＮＳのＩＤ又はユーザ１０が所持する無線ＩＣタグが内蔵されたＩＤカード等を用いてユーザ１０を認識してもよい。

【0068】

なお、ロボット１００は、行動制御システムを備える電子機器の一例である。行動制御システムの適用対象は、ロボット１００に限られず、様々な電子機器に行動制御システムを適用できる。また、サーバ３００の機能は、１以上のコンピュータによって実装されてよい。サーバ３００の少なくとも一部の機能は、仮想マシンによって実装されてよい。また、サーバ３００の機能の少なくとも一部は、クラウドで実装されてよい。

【0069】

図４は、ロボット１００及びサーバ３００として機能するコンピュータ１２００のハードウェア構成の一例を概略的に示す。コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００を、本実施形態に係る装置の１又は複数の「部」として機能させ、又はコンピュータ１２００に、本実施形態に係る装置に関連付けられるオペレーション又は当該１又は複数の「部」を実行させることができ、及び／又はコンピュータ１２００に、本実施形態に係るプロセス又は当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ１２００に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつか又はすべてに関連付けられた特定のオペレーションを実行させるべく、ＣＰＵ１２１２によって実行されてよい。

【0070】

本実施形態によるコンピュータ１２００は、ＣＰＵ１２１２、ＲＡＭ１２１４、及びグラフィックコントローラ１２１６を含み、それらはホストコントローラ１２１０によって相互に接続されている。コンピュータ１２００はまた、通信インタフェース１２２２、記憶装置１２２４、ＤＶＤドライブ１２２６、及びＩＣカードドライブのような入出力ユニットを含み、それらは入出力コントローラ１２２０を介してホストコントローラ１２１０に接続されている。ＤＶＤドライブ１２２６は、ＤＶＤ－ＲＯＭドライブ及びＤＶＤ－ＲＡＭドライブ等であってよい。記憶装置１２２４は、ハードディスクドライブ及びソリッドステートドライブ等であってよい。コンピュータ１２００はまた、ＲＯＭ１２３０及びキーボードのようなレガシの入出力ユニットを含み、それらは入出力チップ１２４０を介して入出力コントローラ１２２０に接続されている。

【0071】

ＣＰＵ１２１２は、ＲＯＭ１２３０及びＲＡＭ１２１４内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。グラフィックコントローラ１２１６は、ＲＡＭ１２１４内に提供されるフレームバッファ等又はそれ自体の中に、ＣＰＵ１２１２によって生成されるイメージデータを取得し、イメージデータがディスプレイデバイス１２１８上に表示されるようにする。

【0072】

通信インタフェース１２２２は、ネットワークを介して他の電子デバイスと通信する。記憶装置１２２４は、コンピュータ１２００内のＣＰＵ１２１２によって使用されるプログラム及びデータを格納する。ＤＶＤドライブ１２２６は、プログラム又はデータをＤＶＤ－ＲＯＭ１２２７等から読み取り、記憶装置１２２４に提供する。ＩＣカードドライブは、プログラム及びデータをＩＣカードから読み取り、及び／又はプログラム及びデータをＩＣカードに書き込む。

【0073】

ＲＯＭ１２３０はその中に、アクティブ化時にコンピュータ１２００によって実行されるブートプログラム等、及び／又はコンピュータ１２００のハードウェアに依存するプログラムを格納する。入出力チップ１２４０はまた、様々な入出力ユニットをＵＳＢポート、パラレルポート、シリアルポート、キーボードポート、マウスポート等を介して、入出力コントローラ１２２０に接続してよい。

【0074】

プログラムは、ＤＶＤ－ＲＯＭ１２２７又はＩＣカードのようなコンピュータ可読記憶媒体によって提供される。プログラムは、コンピュータ可読記憶媒体から読み取られ、コンピュータ可読記憶媒体の例でもある記憶装置１２２４、ＲＡＭ１２１４、又はＲＯＭ１２３０にインストールされ、ＣＰＵ１２１２によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ１２００に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置又は方法が、コンピュータ１２００の使用に従い情報のオペレーション又は処理を実現することによって構成されてよい。

【0075】

例えば、通信がコンピュータ１２００及び外部デバイス間で実行される場合、ＣＰＵ１２１２は、ＲＡＭ１２１４にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース１２２２に対し、通信処理を命令してよい。通信インタフェース１２２２は、ＣＰＵ１２１２の制御の下、ＲＡＭ１２１４、記憶装置１２２４、ＤＶＤ－ＲＯＭ１２２７、又はＩＣカードのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、又はネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。

【0076】

また、ＣＰＵ１２１２は、記憶装置１２２４、ＤＶＤドライブ１２２６（ＤＶＤ－ＲＯＭ１２２７）、ＩＣカード等のような外部記録媒体に格納されたファイル又はデータベースの全部又は必要な部分がＲＡＭ１２１４に読み取られるようにし、ＲＡＭ１２１４上のデータに対し様々なタイプの処理を実行してよい。ＣＰＵ１２１２は次に、処理されたデータを外部記録媒体にライトバックしてよい。

【0077】

様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。ＣＰＵ１２１２は、ＲＡＭ１２１４から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索／置換等を含む、様々なタイプの処理を実行してよく、結果をＲＡＭ１２１４に対しライトバックする。また、ＣＰＵ１２１２は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第２の属性の属性値に関連付けられた第１の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、ＣＰＵ１２１２は、当該複数のエントリの中から、第１の属性の属性値が指定されている条件に一致するエントリを検索し、当該エントリ内に格納された第２の属性の属性値を読み取り、それにより予め定められた条件を満たす第１の属性に関連付けられた第２の属性の属性値を取得してよい。

【0078】

上で説明したプログラム又はソフトウェアモジュールは、コンピュータ１２００上又はコンピュータ１２００近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワーク又はインターネットに接続されたサーバシステム内に提供されるハードディスク又はＲＡＭのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ１２００に提供する。

【0079】

本実施形態におけるフローチャート及びブロック図におけるブロックは、オペレーションが実行されるプロセスの段階又はオペレーションを実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、専用回路、コンピュータ可読記憶媒体上に格納されるコンピュータ可読命令と共に供給されるプログラマブル回路、及び／又はコンピュータ可読記憶媒体上に格納されるコンピュータ可読命令と共に供給されるプロセッサによって実装されてよい。専用回路は、デジタル及び／又はアナログハードウェア回路を含んでよく、集積回路（ＩＣ）及び／又はディスクリート回路を含んでよい。プログラマブル回路は、例えば、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、及びプログラマブルロジックアレイ（ＰＬＡ）等のような、論理積、論理和、排他的論理和、否定論理積、否定論理和、及び他の論理演算、フリップフロップ、レジスタ、並びにメモリエレメントを含む、再構成可能なハードウェア回路を含んでよい。

【0080】

コンピュータ可読記憶媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよく、その結果、そこに格納される命令を有するコンピュータ可読記憶媒体は、フローチャート又はブロック図で指定されたオペレーションを実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読記憶媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読記憶媒体のより具体的な例としては、フロッピー（登録商標）ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭ又はフラッシュメモリ）、電気的消去可能プログラマブルリードオンリメモリ（ＥＥＰＲＯＭ）、静的ランダムアクセスメモリ（ＳＲＡＭ）、コンパクトディスクリードオンリメモリ（ＣＤ－ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（登録商標）ディスク、メモリスティック、集積回路カード等が含まれてよい。

【0081】

コンピュータ可読命令は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、又はＳｍａｌｌｔａｌｋ、ＪＡＶＡ（登録商標）、Ｃ＋＋等のようなオブジェクト指向プログラミング言語、及び「Ｃ」プログラミング言語又は同様のプログラミング言語のような従来の手続型プログラミング言語を含む、１又は複数のプログラミング言語の任意の組み合わせで記述されたソースコード又はオブジェクトコードのいずれかを含んでよい。

【0082】

コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサ、又はプログラマブル回路が、フローチャート又はブロック図で指定されたオペレーションを実行するための手段を生成するために当該コンピュータ可読命令を実行すべく、ローカルに又はローカルエリアネットワーク（ＬＡＮ）、インターネット等のようなワイドエリアネットワーク（ＷＡＮ）を介して、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサ、又はプログラマブル回路に提供されてよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。

【0083】

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

【0084】

特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階などの各処理の実行順序は、特段「より前に」、「先立って」などと明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」などを用いて説明したとしても、この順で実施することが必須であることを意味するものではない。

【0085】

感情決定部２３２は、特定のマッピングに従い、ユーザの感情を決定してよい。具体的には、感情決定部２３２は、特定のマッピングである感情マップ（図５参照）に従い、ユーザの感情を決定してよい。

【0086】

図５は、複数の感情がマッピングされる感情マップ３００を示す図である。感情マップ３００において、感情は、中心から放射状に同心円に配置されている。同心円の中心に近いほど、原始的状態の感情が配置されている。同心円のより外側には、心境から生まれる状態や行動を表す感情が配置されている。感情とは、情動や心的状態も含む概念である。同心円の左側には、概して脳内で起きる反応から生成される感情が配置されている。同心円の右側には概して、状況判断で誘導される感情が配置されている。同心円の上方向及び下方向には、概して脳内で起きる反応から生成され、かつ、状況判断で誘導される感情が配置されている。また、同心円の上側には、「快」の感情が配置され、下側には、「不快」の感情が配置されている。このように、感情マップ３００では、感情が生まれる構造に基づいて複数の感情がマッピングされており、同時に生じやすい感情が、近くにマッピングされている。

【0087】

（１）例えばロボット１００の感情決定部２３２である感情エンジンが、１００ｍｓｅｃ程度で感情を検知している場合、ロボット１００の反応動作（例えば相槌）の決定は、頻度が少なくとも、感情エンジンの検知頻度（１００ｍｓｅｃ）と同様のタイミングに設定してよく、これよりも早いタイミングに設定してもよい。感情エンジンの検知頻度はサンプリングレートと解釈してよい。

【0088】

１００ｍｓｅｃ程度で感情を検知し、即時に連動して反応動作（例えば相槌）を行うことで、不自然な相槌ではなくなり、自然な空気を読んだ対話を実現できる。ロボット１００感情マップ３００の曼荼羅の方向性とその度合い（強さ）に応じて、反応動作（相槌など）を行う。なお、感情エンジンの検知頻度（サンプリングレート）は、１００ｍｓに限定されず、シチュエーション（スポーツをしている場合など）、ユーザの年齢などに応じて、変更してもよい。

【0089】

（２）感情マップ３００と照らし合わせ、感情の方向性とその度合いの強さを予め設定しておき、相槌の動き及び相槌の強弱を設定してよい。例えば、ロボット１００が安定感、安心などを感じている場合、ロボット１００は、頷いて話を聞き続ける。ロボット１００が不安、迷い、怪しい感じを覚えている場合、ロボット１００は、首をかしげてもよく、首振りを止めてもよい。

【0090】

これらの感情は、感情マップ３００の３時の方向に分布しており、普段は安心と不安のあたりを行き来する。感情マップ３００の右半分では、内部的な感覚よりも状況認識の方が優位に立つため、落ち着いた印象になる。

【0091】

（３）ロボット１００が褒められて快感を覚えた場合、「あー」というフィラーが台詞の前に入り、きつい言葉をもらって痛感を覚えた場合、「うっ！」というフィラーが台詞の前に入ってよい。また、ロボット１００が「うっ！」と言いつつうずくまる仕草などの身体的な反応を含めてよい。これらの感情は、感情マップ３００の９時あたりに分布している。

【0092】

（４）感情マップ３００の左半分では、状況認識よりも内部的な感覚（反応）の方が優位に立つ。よって、思わず反応してしまった印象を与え得る。

【0093】

ロボット１００が納得感という内部的な感覚（反応）を覚えながら状況認識においても好感を覚える場合、ロボット１００は、相手を見ながら深く頷いてよく、また「うんうん」と発してよい。このように、ロボット１００は、相手へのバランスのとれた好感、すなわち、相手への許容や寛容といった行動を生成してよい。このような感情は、感情マップ３００の１２時あたりに分布している。

【0094】

逆に、ロボット１００が不快感という内部的な感覚（反応）を覚えながら状況認識においても、ロボット１００は、嫌悪を覚えるときには首を横に振る、憎しみを覚えるくらいになると、目のＬＥＤを赤くして相手を睨んでもよい。このような感情は、感情マップ３００の６時あたりに分布している。

【0095】

（５）感情マップ３００の内側は心の中、感情マップ３００の外側は行動を表すため、感情マップ３００の外側に行くほど、感情が目に見える（行動に表れる）ようになる。

【0096】

（６）感情マップ３００の３時付近に分布する安心を覚えながら、人の話を聞く場合、ロボット１００は、軽く首を縦に振って「ふんふん」と発する程度であるが、１２時付近の愛の方になると、首を深く縦に振るような力強い頷きをしてよい。

【0097】

感情決定部２３２は、センサモジュール部２１０で解析された情報、及び認識されたユーザ１０の状態を、予め学習されたニューラルネットワークに入力し、感情マップ３００に示す各感情を示す感情値を取得し、ユーザ１０の感情を決定する。このニューラルネットワークは、センサモジュール部２１０で解析された情報、及び認識されたユーザ１０の状態と、感情マップ３００に示す各感情を示す感情値との組み合わせである複数の学習データに基づいて予め学習されたものである。また、このニューラルネットワークは、図６に示す感情マップ９００のように、近くに配置されている感情同士は、近い値を持つように学習される。図６では、「安心」、「安穏」、「心強い」という複数の感情が、近い感情値となる例を示している。

【0098】

また、感情決定部２３２は、特定のマッピングに従い、ロボット１００の感情を決定してよい。具体的には、感情決定部２３２は、センサモジュール部２１０で解析された情報、ユーザ状態認識部２３０によって認識されたユーザ１０の状態、及びロボット１００の状態を、予め学習されたニューラルネットワークに入力し、感情マップ３００に示す各感情を示す感情値を取得し、ロボット１００の感情を決定する。このニューラルネットワークは、センサモジュール部２１０で解析された情報、認識されたユーザ１０の状態、及びロボット１００の状態と、感情マップ３００に示す各感情を示す感情値との組み合わせである複数の学習データに基づいて予め学習されたものである。例えば、タッチセンサ（図示省略）の出力から、ロボット１００がユーザ１０になでられていると認識される場合に、「嬉しい」の感情値「３」となることを表す学習データや、加速度センサ（図示省略）の出力から、ロボット１００がユーザ１０に叩かれていると認識される場合に、「怒」の感情値「３」となることを表す学習データに基づいて、ニューラルネットワークが学習される。また、このニューラルネットワークは、図６に示す感情マップ９００のように、近くに配置されている感情同士は、近い値を持つように学習される。

【0099】

行動決定部２３６は、ユーザの行動と、ユーザの感情、ロボットの感情とを表すテキストに、ユーザの行動に対応するロボットの行動内容を質問するための固定文を追加して、対話機能に入力することにより、ロボットの行動内容を生成する。

【0100】

例えば、行動決定部２３６は、感情決定部２３２によって決定されたロボット１００の感情から、表１に示すような感情テーブルを用いて、ロボット１００の状態を表すテキストを取得する。ここで、感情テーブルには、感情の種類毎に、各感情値に対してインデックス番号が付与されており、インデックス番号毎に、ロボット１００の状態を表すテキストが格納されている。

【0101】

感情決定部２３２によって決定されたロボット１００の感情が、インデックス番号「２」に対応する場合、「とても楽しい状態」というテキストが得られる。なお、ロボット１００の感情が、複数のインデックス番号に対応する場合、ロボット１００の状態を表すテキストが複数得られる。

【0102】

また、ユーザ１０の感情に対しても、表２に示すような感情テーブルを用意しておく。
ここで、ユーザの行動が、「＊＊＊」と話しかけるであり、ロボット１００の感情が、インデックス番号「２」であり、ユーザ１０の感情が、インデックス番号「３」である場合には、
「ロボットはとても楽しい状態です。ユーザは普通に楽しい状態です。ユーザに「＊＊＊」と話しかけられました。ロボットとして、どのように返事をしますか？」
と文章生成モデルに入力し、ロボットの行動内容を取得する。行動決定部２３６は、この行動内容から、ロボットの行動を決定する。

【0103】

【表1】

【0104】

【表2】

【0105】

このように、ロボット１００は、ロボットの感情に応じたインデックス番号に応じて、ロボットの行動を変えることができるため、ユーザは、ロボットに心があるような印象を持ち、ロボットに対して話しかけるなどの行動をとることが促進される。

【0106】

また、行動決定部２３６は、ユーザの行動と、ユーザの感情、ロボットの感情とを表すテキストだけでなく、履歴データ２２２の内容を表すテキストも追加した上で、ユーザの行動に対応するロボットの行動内容を質問するための固定文を追加して、対話機能を有する文章生成モデルに入力することにより、ロボットの行動内容を生成するようにしてもよい。これにより、ロボット１００は、ユーザの感情や行動を表す履歴データに応じて、ロボットの行動を変えることができるため、ユーザは、ロボットに個性があるような印象を持ち、ロボットに対して話しかけるなどの行動をとることが促進される。また、履歴データに、ロボットの感情や行動を更に含めるようにしてもよい。

【0107】

なお、ロボット１００を、ぬいぐるみに搭載してもよいし、ぬいぐるみに搭載された制御対象機器（スピーカやカメラ）に無線又は有線で接続された制御装置に適用してもよい。

【0108】

以上の説明では、行動制御システムをロボット１００に適用する場合を例示したが、本発明は、この態様に限定されない。図７は、行動制御システムの機能の一部又は全部を利用して構成されるエージェントシステム５０の機能ブロック図である。エージェントシステム５０は、ユーザ６０との間で行われる対話を通じてユーザ６０の意図に沿った一連の行動を行うコンピュータシステムである。ユーザ６０との対話は、音声又はテキストによって行うことが可能である。

【0109】

エージェントシステム５０は、例えば、ロボット、人形、ぬいぐるみ、ペンダント、スマートウォッチ、スマートフォン、スマートスピーカ、イヤホン及びパーナルコンピュータなどに搭載され得る。また、エージェントシステム５０は、ウェブサーバに実装され、ユーザが所持するスマートフォン等の通信端末上で動作するウェブブラウザを介して利用されてもよい。

【0110】

エージェントシステム５０は、例えばユーザ６０のために行動するバトラー、秘書、教師、パートナー、友人、恋人又は教師としての役割を担う。エージェントシステム５０は、ユーザ６０と対話するだけでなく、アドバイスの提供、目的地までの案内又はユーザの好みに応じたリコメンド等を行う。また、エージェントシステム５０はサービスプロバイダ７０に対して予約、注文又は代金の支払い等を行う。

【0111】

エージェントシステム５０は、感情エンジン５３を備えることで、ユーザ６０の感情及びエージェント自身の感情を決定し、ユーザ６０及びエージェントの感情も加味しつつユーザ６０のために行動する。ここで、エージェントとは、ソフトウェア上で動作するエージェントである。すなわち、エージェントシステム５０は、ユーザ６０の感情を理解し、空気を読んで心からのサポート、アシスト、アドバイス及びサービス提供を実現する。また、エージェントシステム５０は、ユーザ６０の悩み相談にものり、ユーザを慰め、励まし、元気づける。また、エージェントシステム５０は、ユーザ６０と遊び、絵日記を描き、昔を思い出させてくれる。エージェントシステム５０は、ユーザ６０の幸福感が増すような行動を行う。

【0112】

エージェントシステム５０は、対話処理部５１、キャラクタ設定部５２、感情エンジン５３、対話履歴格納部５４、文章生成モデル５５、コマンド取得部５６及びＲＰＡ（Robotic Process Automation）５７を有する。

【0113】

対話処理部５１は、発話に関する処理を行う行動決定部２３６及び行動制御部２５０を含んで構成されるものである。対話処理部５１は、ユーザ６０と対話するためのエージェントの発話内容を生成し、これを音声及びテキストの少なくとも一方によって出力する。

【0114】

キャラクタ設定部５２は、ユーザ６０からの指定に基づいて、エージェントシステム５０がユーザ６０と対話を行う際のエージェント（図９に示すエージェント５２Ａに相当）のキャラクタを設定する。すなわち、対話処理部５１から出力される発話内容は、設定されたキャラクタを有するエージェントを通じて出力される。キャラクタとして、例えば、俳優、芸能人、アイドル、スポーツ選手等の実在の著名人又は有名人を設定することが可能である。また、漫画、映画又はアニメーションに登場する架空のキャラクタを設定することも可能である。例えば、映画「ローマの休日」の登場する「オードリー・ヘップバーン」が演じる「アン王女」をエージェントのキャラクタとして設定することが可能である。エージェントのキャラクタが既知のものである場合には、当該キャラクタの声、言葉遣い、口調及び性格は、既知であるため、ユーザ６０が自分の好みのキャラクタを指定するのみで、キャラクタ設定部５２におけるプロンプト設定が自動で行われる。設定されたキャラクタの声、言葉遣い、口調及び性格が、ユーザ６０との対話において反映される。すなわち、対話処理部５１は、キャラクタ設定部５２によって設定されたキャラクタに応じた音声を合成し、合成した音声によってエージェントの発話内容を出力する。これにより、ユーザ６０は、自分の好みのキャラクタ（例えば好きな俳優）本人と対話しているような感覚を持つことができる。

【0115】

エージェントシステム５０が例えばスマートフォン等のディスプレイを有するデバイスに搭載される場合、キャラクタ設定部５２によって設定されたキャラクタを有するエージェントのアイコン、静止画又は動画がディスプレイに表示されてもよい。エージェントの画像は、例えば、３Ｄレンダリング等の画像合成技術を用いて生成される。エージェントシステム５０において、エージェントの画像が、ユーザ６０の感情、エージェントの感情及びエージェントの発話内容に応じたジェスチャーを行いながらユーザ６０との対話が行われてもよい。なお、エージェントシステム５０は、ユーザ６０との対話に際し、画像は出力せずに音声のみを出力してもよい。

【0116】

感情エンジン５３は、感情決定部２３２を含んで構成されるものであり、ユーザ６０の感情を示す感情値及びエージェント自身の感情値を決定する。エージェント自身の感情値は、設定されたキャラクタの感情に反映される。エージェントシステム５０が、ユーザ６０と対話する際、ユーザ６０の感情のみならず、キャラクタの感情が対話に反映される。すなわち、対話処理部５１は、感情エンジン５３によって決定された感情に応じた態様で発話内容を出力する。

【0117】

また、エージェントシステム５０が、ユーザ６０に向けた行動を行う場合においてもエージェントの感情が反映される。例えば、ユーザ６０がエージェントシステム５０に写真撮影を依頼した場合において、エージェントシステム５０がユーザの依頼に応じて写真撮影を行うか否かは、エージェントが抱いている「悲」の感情の度合いに応じて決まる。エージェントは、ポジティブな感情を抱いている場合には、ユーザ６０に対して好意的な対話又は行動を行い、ネガティブな感情を抱いている場合には、ユーザ６０に対して反抗的な対話又は行動を行う。

【0118】

対話履歴格納部５４は、ユーザ６０とエージェントシステム５０との間で行われた対話の履歴を保存しておくための記憶媒体である。対話履歴格納部５４は、格納部２２０の履歴データ２２２によって実現されてもよいし、外部のクラウドストレージによって実現されてもよい。エージェントシステム５０は、ユーザ６０と対話する場合又はユーザ６０に向けた行動を行う場合、対話履歴格納部５４に格納された対話履歴の内容を加味して対話内容又は行動内容を決定する。例えば、エージェントシステム５０は、対話履歴格納部５４に格納された対話履歴に基づいてユーザ６０の趣味及び嗜好を把握する。エージェントシステム５０は、ユーザ６０の趣味及び嗜好に合った対話内容を生成したり、リコメンドを提供したりする。対話処理部５１は、対話履歴格納部５４に格納された対話履歴に基づいて発話内容を生成する。対話履歴格納部５４には、ユーザ６０との対話を通じて取得したユーザ６０の氏名、住所、電話番号、クレジットカード番号等の個人情報が格納される。ここで、「クレジットカード番号を登録しておきますか？」など、エージェントが自発的にユーザ６０に対して個人情報を登録するか否かを質問する発話をし、ユーザ６０の回答に応じて、個人情報を対話履歴格納部５４に格納するようにしてもよい。

【0119】

文章生成モデル５５は、入力されたテキスト又は音声に対する応答である文章を生成する。文章生成モデル５５は、文字による自動対話処理のためのアルゴリズム及び演算と解釈してよい。文章生成モデルは、例えば特開２０１８－０８１４４４号公報やｃｈａｔＧＰＴ（インターネット検索＜URL: https://openai.com/blog/chatgpt＞）に開示される通り公知であるため、その詳細な説明を省略する。このような、文章生成モデルは、大規模言語モデル（ＬＬＭ：Ｌａｒｇｅ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ）により構成されている。

【0120】

対話処理部５１は、文章生成モデル５５によって生成された文章に基づいて発話内容を生成する。具体的には、対話処理部５１は、ユーザ６０により入力されたテキストまたは音声、感情エンジン５３によって特定されたユーザ６０及びエージェントの双方の感情及び対話履歴格納部５４に格納された会話の履歴を文章生成モデル５５に入力して、エージェントの発話内容を生成する。このとき、対話処理部５１は、更に、キャラクタ設定部５２によって設定されたキャラクタの性格を、文章生成モデル５５に入力して、エージェントの発話内容を生成してもよい。エージェントシステム５０において、文章生成モデル５５は、ユーザ６０とのタッチポイントとなるフロントエンド側に位置するものではなく、あくまでエージェントシステム５０の道具として利用される。

【0121】

コマンド取得部５６は、発話理解部２１２によって構成されるものであり、ユーザ６０との対話を通じてユーザ６０から発せられる音声又はテキストから、エージェントのコマンドを取得する。コマンドは、例えば、情報検索、店の予約、チケットの手配、商品・サービスの購入、代金の支払い、目的地までのルート案内、リコメンドの提供等のエージェントシステム５０が実行すべき行動の内容を含む。

【0122】

ＲＰＡ５７は、コマンド取得部５６によって取得されたコマンドに応じた行動を行う。ＲＰＡ５７は、例えば、情報検索、店の予約、チケットの手配、商品・サービスの購入、代金の支払い等のサービスプロバイダ７０の利用に関する行動を行う。ＲＰＡ５７は、本発明における「動作実行部」の一例である。

【0123】

ＲＰＡ５７は、サービスプロバイダ７０の利用に関する行動を実行するために必要なユーザ６０の個人情報を、対話履歴格納部５４から読み出して利用する。例えば、エージェントシステム５０は、ユーザ６０からの依頼に応じて商品の購入を行う場合、対話履歴格納部５４に格納されているユーザ６０の氏名、住所、電話番号、クレジットカード番号等の個人情報を読み出して利用する。初期設定においてユーザ６０に個人情報の入力を要求することは不親切であり、ユーザにとっても不快である。本実施形態に係るエージェントシステム５０においては、初期設定においてユーザ６０に個人情報の入力を要求するのではなく、ユーザ６０との対話を通じて取得した個人情報を記憶しておき、必要に応じて読み出して利用する。これにより、ユーザ６０に不快な思いをさせることを回避でき、ユーザの利便性が向上する。

【0124】

エージェントシステム５０は、以下のステップ１～ステップ６により、対話処理を実行する。
（ステップ１）エージェントシステム５０は、エージェントのキャラクタを設定する。具体的には、キャラクタ設定部５２は、ユーザ６０からの指定に基づいて、エージェントシステム５０がユーザ６０と対話を行う際のエージェントのキャラクタを設定する。

【0125】

（ステップ２）エージェントシステム５０は、ユーザ１０から入力された音声又はテキストを含むユーザ１０の状態、ユーザ１０の感情値、ロボット１００の感情値、履歴データ２２２を取得する。具体的には、上記ステップＳ１００～Ｓ１０３と同様の処理を行い、ユーザ１０から入力された音声又はテキストを含むユーザ１０の状態、ユーザ１０の感情値、ロボット１００の感情値、及び履歴データ２２２を取得する。

【0126】

（ステップ３）エージェントシステム５０は、エージェントの発話内容を決定する。具体的には、対話処理部５１は、ユーザ６０により入力されたテキストまたは音声、感情エンジン５３によって特定されたユーザ６０及びキャラクタの双方の感情及び対話履歴格納部５４に格納された会話の履歴を、文章生成モデル５５に入力して、エージェントの発話内容を生成する。
例えば、ユーザ６０により入力されたテキストまたは音声、感情エンジン５３によって特定されたユーザ６０及びキャラクタの双方の感情及び対話履歴格納部５４に格納された会話の履歴を表すテキストに、「このとき、エージェントとして、どのように返事をしますか？」という固定文を追加して、文章生成モデル５５に入力し、エージェントの発話内容を取得する。
一例として、ユーザ６０に入力されたテキスト又は音声が「今夜７時に、近くの美味しいチャイニーズレストランを予約してほしい」である場合、エージェントの発話内容として、「かしこまりました。」、「こちらがおすすめのレストランです。１．AAAA。２．BBBB。３．CCCC。４．DDDD」が取得される。
また、ユーザ６０に入力されたテキスト又は音声が「４番目のDDDDがいい」である場合、エージェントの発話内容として、「かしこまりました。予約してみます。何名の席です。」が取得される。

【0127】

（ステップ４）エージェントシステム５０は、エージェントの発話内容を出力する。具体的には、対話処理部５１は、キャラクタ設定部５２によって設定されたキャラクタに応じた音声を合成し、合成した音声によってエージェントの発話内容を出力する。

【0128】

（ステップ５）エージェントシステム５０は、エージェントのコマンドを実行するタイミングであるか否かを判定する。具体的には、対話処理部５１は、文章生成モデル５５の出力に基づいて、エージェントのコマンドを実行するタイミングであるか否かを判定する。例えば、文章生成モデルの出力に、エージェントがコマンドを実行する旨が含まれている場合には、エージェントのコマンドを実行するタイミングであると判定し、ステップ６へ移行する。一方、エージェントのコマンドを実行するタイミングでないと判定された場合には、上記ステップ２へ戻る。

【0129】

（ステップ６）エージェントシステム５０は、エージェントのコマンドを実行する。具体的には、コマンド取得部５６は、ユーザ６０との対話を通じてユーザ６０から発せられる音声又はテキストから、エージェントのコマンドを取得する。そして、ＲＰＡ５７は、コマンド取得部５６によって取得されたコマンドに応じた行動を行う。例えば、コマンドが「情報検索」である場合、ユーザ６０との対話を通じて得られた検索クエリ、及びＡＰＩ（Application Programming Interface）を用いて、検索サイトにより、情報検索を行う。対話処理部５１は、検索結果を、文章生成モデル５５に入力して、エージェントの発話内容を生成する。対話処理部５１は、キャラクタ設定部５２によって設定されたキャラクタに応じた音声を合成し、合成した音声によってエージェントの発話内容を出力する。
また、コマンドが「店の予約」である場合、ユーザ６０との対話を通じて得られた予約情報、予約先の店情報、及びＡＰＩ（Application Programming Interface）を用いて、電話ソフトウェアにより、予約先の店へ電話をかけて、予約を行う。このとき、対話処理部５１は、対話機能を有する文章生成モデルを用いて、相手から入力された音声に対するエージェントの発話内容を取得する。そして、対話処理部５１は、店の予約の結果（予約の正否）を、文章生成モデル５５に入力して、エージェントの発話内容を生成する。対話処理部５１は、キャラクタ設定部５２によって設定されたキャラクタに応じた音声を合成し、合成した音声によってエージェントの発話内容を出力する。そして、上記ステップ２へ戻る。

【0130】

ステップ６において、エージェントにより実行された行動（例えば、店の予約）の結果についても対話履歴格納部５４に格納される。対話履歴格納部５４に格納されたエージェントにより実行された行動の結果は、エージェントシステム５０によりユーザ６０の趣味、又は嗜好を把握することに活用される。例えば、同じ店を複数回予約している場合には、その店をユーザ６０が好んでいると認識したり、予約した時間帯、又はコースの内容もしくは料金等の予約内容を次回の予約の際にお店選びの基準としたりする。

【0131】

このように、エージェントシステム５０は、対話処理を実行し、必要に応じて、サービスプロバイダ７０の利用に関する行動を行うことができる。なお、ユーザが寝ている間に、エージェントシステム５０は、事前に取得したユーザの好みに基づいて、ユーザが関心の高いニュースなどを検索しておき、ユーザが起きた時に、エージェントシステム５０は、自分からそのニュースを伝えるようにしてもよい。例えば、エージェントから、「昨日、ヤンキースが試合に勝ったみたいだよ。今晩、野球場に応援しに行こうよ。」と発話する。そして、ユーザが「お父さんに相談しなくちゃ」と発話すると、お父さんは「チケットが取れるかどうか分からない」と発話する。そして、エージェントから、「チケットが取れるかどうか確認します」と発話し、ユーザとの対話から、シートのリクエストなどをヒアリングし、チケットを確保する。

【0132】

図８及び図９は、エージェントシステム５０の動作の一例を示す図である。図８には、エージェントシステム５０が、ユーザ６０との対話を通じてレストランの予約を行う態様が例示されている。エージェントシステム５０は、ユーザ６０との対話履歴に基づいてユーザ６０の好みを把握し、ユーザ６０の好みに合ったレストランのリコメンドリストを提供し、選択されたレストランの予約を実行することができる。

【0133】

一方、図９には、エージェントシステム５０が、ユーザ６０との対話を通じて通信販売サイトにアクセスして商品の購入を行う態様が例示されている。エージェントシステム５０は、ユーザ６０との対話履歴に基づいて、ユーザ６０がストックしている飲料の残量を推測し、ユーザ６０に当該飲料の購入を提案し、実行することができる。また、エージェントシステム５０は、ユーザ６０との過去の対話履歴に基づいて、ユーザの好みを把握し、ユーザが好むスナックをリコメンドすることができる。このように、エージェントシステム５０は、執事のようなエージェントとしてユーザ６０とコミュニケーションを取りながら、レストラン予約、又は、商品の購入決済など様々な行動まで実行することで、ユーザ６０の日々の生活を支えてくれる。

【0134】

図１０には、複数のユーザ６０が存在する場合、エージェントシステム５０が、複数のユーザ６０の各々に設けられる態様を例示している。この態様では、複数のユーザ６０のうちの一のユーザ６０Ａは、自身のエージェントシステム５０Ａに対して、遠隔地に居る他のユーザ６０Ｂの感情が知りたい旨を伝え、当該他のユーザ６０Ｂのエージェントシステム５０Ｂから他のユーザ６０Ｂの状態に関する情報を取得することができる。この場合、他のユーザ６０Ｂのエージェントシステム５０Ｂは、当該他のユーザ６０Ｂの感情及び状況に関する情報を取得し、エージェントシステム５０Ａに送信する。エージェントシステム５０Ａの各種出力部（スピーカ８０やディスプレイ７６等）は、他のユーザ６０Ｂの状態に基づいて、エージェントシステム５０Ｂの感情決定部２３２が決定した他のユーザ５０Ｂの感情を、エージェントシステム５０Ａの発話内容として出力する。

【0135】

例えば、ユーザ６０Ａが、自身のエージェントシステム５０Ａに対して、「富士山から見た初日の出は素晴らしいんだろうね」という質問をした場合、エージェントシステム５０Ａは、富士山の近くにいる他のユーザ６０を検索するため、他のエージェントシステムとデータ交換を実行する。データ交換の結果、富士山の近くにいる他のユーザ６０Ｂが検索された場合、対応する他のエージェントシステム５０Ｂとデータ交換を実行し、富士山にいるユーザ６０Ｂの感情及び状況に関する情報を検索する。

【0136】

検索の結果、ユーザ６０Ａのエージェントシステム５０Ａは、富士山にいるユーザ６０Ｂのエージェントシステム５０Ｂを介して、ユーザ６０Ｂの感情に関する情報を取得する。例えば、エージェントシステム５０Ａは、ユーザ６０Ｂの感情として、「そりゃあもう、富士山から見る初日の出は無茶苦茶素晴らしいよ！！」のような情報を得ることができる。これによりユーザ６０Ａは、遠隔地を自ら体験しているような感覚を得ることが可能になる。

【0137】

また、エージェントシステム５０Ａは、他のエージェントシステム５０Ｂから、ユーザ６０Ｂの周囲の画像（例えばユーザ６０Ｂが見ている富士山その他の、ユーザ６０Ｂの周囲の画像）を取得することができる。エージェントシステム５０Ａは、画像データをユーザ６０Ａを見せながら、上記のような他のユーザの感情情報を提示することができる。これによりユーザ６０Ａは、遠隔地を自分の目で見ているような、リアルな体験を得ることが可能になる。

【0138】

なお、複数の他のユーザの感情情報が取得される場合、最も発生頻度が高い感情に関する情報を取得し、提示することができる。例えば、富士山の近くにいる複数の他のユーザ６０Ｂ・・・６０Ｎが検索された場合、当該他のユーザのうちの多数のユーザが「天国みたいに美しい」のような感情を有していれば、当該感情情報に基づいた情報を提示することができる。また、複数の他のユーザの複数種類の感情情報が得られた場合、エージェントシステム５０Ａは、ユーザ６０Ａの感情に最も対応する感情情報として感情決定部２３２が決定したユーザの感情に対応する感情を決定し、エージェントの発話内容としてスピーカ８０やディスプレイ７６等の出力部から出力することができる。例えば、ユーザ６０Ａが「富士山の景色は素晴らしい」という感情を有しており、これに対応する感情を期待している場合には、そのような感情情報が採用され、提示される。逆に、ユーザ６０Ａが富士山に対しポジティブな感情を抱いているのであれば、逆に富士山に関しネガティブな感情を有しているユーザの感情情報（例えば、「ゴミが酷い」、「人が多すぎる」など）は採用されない。

【0139】

以上説明したエージェントシステム５０は、スマート眼鏡７２に適用することが可能である。図１１は、スマート眼鏡７２のハードウェア構成の一例を示すブロック図である。スマート眼鏡７２は、眼鏡型のスマートデバイスであり、一般的な眼鏡と同様にユーザ６０によって装着される。スマート眼鏡７２は、制御装置７４、ディスプレイ７６、タッチパネル７８、スピーカ８０、センサ群８２、マイクロフォン８４、カメラ８６、及び通信Ｉ／Ｆ８８を備えている。スマート眼鏡７２は、本発明における「電子機器」及び「ウェアラブル端末」の一例である。

【0140】

制御装置７４は、スマート眼鏡７２の全体を制御する装置であり、例えば、図示しないプロセッサ、メモリ、及びストレージによって構成される。ディスプレイ７６は、ユーザ６０に対して各種情報を表示する。ディスプレイ７６は、例えば、液晶ディスプレイである。ディスプレイ７６は、例えば、スマート眼鏡７２のレンズ部分に設けられており、ユーザ６０によって表示内容が視認可能とされている。タッチパネル７８は、ユーザ６０からの入力を受け付ける。スピーカ８０は、ユーザ６０に対して各種情報を示す音声を出力する。

【0141】

センサ群８２は、ユーザ６０の状態を検出する。センサ群８２は、複数のセンサを含んで構成されている。例えば、センサ群８２は、加速度センサ８２Ａ、温度センサ８２Ｂ、及び心拍センサ８２Ｃを含んでいる。なお、これらのセンサはあくまで一例にすぎず、ユーザ６０の状態を検出するためにその他のセンサが搭載されてよいことはもちろんである。

【0142】

マイクロフォン８４は、ユーザ６０が発した音声又はスマート眼鏡７２の周囲の環境音を取得する。カメラ８６は、スマート眼鏡７２の周囲を撮像可能とされている。また、カメラ８６は、ユーザ６０の顔も撮像可能である。カメラ８６は、例えば、ＣＣＤカメラである。通信Ｉ／Ｆ８８は、スマート眼鏡７２と外部との通信を司る。制御装置７４、ディスプレイ７６、タッチパネル７８、スピーカ８０、センサ群８２、マイクロフォン８４、カメラ８６、及び通信Ｉ／Ｆ８８は、バス９０に接続されている。

【0143】

図１２は、スマート眼鏡７２によるエージェントシステム５０の利用態様の一例を示す図である。スマート眼鏡７２は、ユーザ６０に対してエージェントシステム５０を利用した各種サービスの提供を実現する。例えば、ユーザ６０によりスマート眼鏡７２が操作（例えば、マイクロフォンに対する音声入力、又は指でタッチパネルがタップされる等）されると、スマート眼鏡７２は、エージェントシステム５０の利用を開始する。ここで、エージェントシステム５０を利用するとは、制御装置７４が、エージェントシステム５０と同様の機能を有し、当該機能を利用することを含み、また、スマート眼鏡７２が通信Ｉ／Ｆ８８を介して、外部（例えば、サーバ）と通信することで、スマート眼鏡７２の外部に記憶されたエージェントシステム５０を利用する態様も含む。

【0144】

ユーザ６０がスマート眼鏡７２を操作することで、エージェントシステム５０とユーザ６０との間にタッチポイントが生じる。すなわち、エージェントシステム５０によるサービスの提供が開始される。上述したように、エージェントシステム５０において、キャラクタ設定部５２によりエージェント５２Ａのキャラクタ（例えば、オードリー・ヘップバーンのキャラクタ）の設定が行われる。

【0145】

上述したように、感情エンジン５３は、感情決定部２３２を含んで構成されるものであり、ユーザ６０の感情を示す感情値及びエージェント自身の感情値を決定する。ここで、ユーザ６０の感情を示す感情値は、スマート眼鏡７２に搭載されたセンサ群８２に含まれる各種センサから推定されてもよい。例えば、スマート眼鏡７２に搭載された心拍センサ８２Ｃにより検出されたユーザ６０の心拍数が上昇している場合には、「不安」「恐怖」等の感情値が大きく推定される。心拍センサ８２Ｃは、本発明における「取得部」の一例である。

【0146】

また、温度センサ８２Ｂによりユーザの体温が測定された結果、例えば、平均体温を上回っている場合には、「苦痛」「辛い」等の感情値が大きく推定される。また、例えば、加速度センサ８２Ａによりユーザ６０が何らかのスポーツを行っていることが検出された場合には、「楽しい」等の感情値が推定される。

【0147】

また、例えば、スマート眼鏡７２に搭載されたカメラ８６により撮像されたユーザ６０の表情（例えば、悲しい表情）に基づいて、ユーザ６０の感情値（例えば、「悲」の感情値）が推定されてもよい。この場合において、カメラ８６は、本発明における「取得部」の一例である。

【0148】

また、例えば、スマート眼鏡７２に搭載されたマイクロフォン８４により取得されたユーザ６０の音声、又は発話内容からユーザ６０の感情値が推定されてもよい。例えば、ユーザ６０が声を荒げている場合には、「怒り」等の感情値が推定される。この場合において、マイクロフォン８４は、本発明における「取得部」の一例である。

【0149】

感情エンジン５３により推定された感情値が予め定められた値よりも高くなった場合、エージェントシステム５０は、スマート眼鏡７２に対して周囲の状況に関する情報を取得させる。具体的には、例えば、スマート眼鏡７２に搭載されたカメラに対して、ユーザ６０の周囲の状況（例えば、周囲にいる人物、又は物体）を示す画像又は動画を撮像させる。また、スマート眼鏡７２に搭載されたマイクロフォンに対して周囲の環境音を録音させる。その他の周囲の状況に関する情報としては、日付、時刻、位置情報、又は天候を示す情報等が挙げられる。エージェントシステム５０は、スマート眼鏡７２から、感情値が高くなった場合の周囲の状況に関する情報を取得する。周囲の状況に関する情報は、感情値と共に周囲状況格納部５４Ａに保存される。周囲状況格納部５４Ａは、エージェントシステム５０により取得された周囲の状況に関する情報を保存しておくための記憶媒体である。周囲状況格納部５４Ａは、対話履歴格納部５４と同様に、格納部２２０の履歴データ２２２によって実現されてもよいし、外部のクラウドストレージによって実現されてもよい。このように、スマート眼鏡７２によって得られた周囲の状況は、その時のユーザ６０の感情値と対応付けられた状態で、いわゆるライフログとして周囲状況格納部５４Ａに保存される。

【0150】

エージェントシステム５０において、周囲状況格納部５４Ａに周囲の状況を示す情報が、感情値と対応付けられて保存される。これにより、ユーザ６０の趣味、嗜好、又は性格等の個人情報がエージェントシステム５０によって把握される。例えば、野球観戦の様子を示す画像と、「喜び」「楽しい」等の感情値が対応付けられている場合には、ユーザ６０の趣味が野球観戦であり、好きなチーム、又は選手が周囲状況格納部５４Ａに格納された情報からエージェントシステム５０により把握される。

【0151】

そして、エージェントシステム５０は、ユーザ６０と対話する場合又はユーザ６０に向けた行動を行う場合、周囲状況格納部５４Ａに格納された周囲状況の内容を加味して対話内容又は行動内容を決定する。なお、周囲状況に加えて、上述したように対話履歴格納部５４に格納された対話履歴を加味して対話内容又は行動内容が決定されてよいことはもちろんである。

【0152】

上述したように、対話処理部５１は、文章生成モデル５５によって生成された文章に基づいて発話内容を生成する。具体的には、対話処理部５１は、ユーザ６０により入力されたテキストまたは音声、感情エンジン５３によって特定されたユーザ６０及びエージェントの双方の感情、対話履歴格納部５４に格納された会話の履歴、及びエージェントの性格等を文章生成モデル５５に入力して、エージェントの発話内容を生成する。さらに、対話処理部５１は、周囲状況格納部５４Ａに格納された周囲状況を文章生成モデル５５に入力して、エージェントの発話内容を生成する。

【0153】

生成された発話内容は、例えば、スマート眼鏡７２に搭載されたスピーカ８０からユーザ６０に対して音声出力される。この場合において、音声としてエージェントのキャラクタに応じた合成音声が用いられる。対話処理部５１は、エージェントのキャラクタ（例えば、オードリー・ヘップバーン）の声質を再現することで、合成音声を生成したり、キャラクタの感情に応じた合成音声（例えば、「怒」の感情である場合には語気を強めた音声）を生成したりする。また、音声出力に代えて、又は音声出力とともに、ディスプレイ７６に対して発話内容が表示されてもよい。スピーカ８０及びディスプレイ７６は、本発明における「出力部」の一例である。

【0154】

ＲＰＡ５７は、コマンド（例えば、ユーザ６０との対話を通じてユーザ６０から発せられる音声又はテキストから取得されたエージェントのコマンド）に応じた動作を実行する。ＲＰＡ５７は、例えば、情報検索、店の予約、チケットの手配、商品・サービスの購入、代金の支払い、経路案内、翻訳等のサービスプロバイダ７０の利用に関する行動を行う。

【0155】

また、その他の例として、ＲＰＡ５７は、ユーザ６０（例えば、子供）がエージェントとの対話を通じて音声入力した内容を、相手先（例えば、親）に送信する動作を実行する。送信手段としては、例えば、メッセージアプリケーションソフト、チャットアプリケーションソフト、又はメールアプリケーションソフト等が挙げられる。

【0156】

ＲＰＡ５７による動作が実行された場合に、例えば、スマート眼鏡７２に搭載されたスピーカ８０から動作の実行が終了したことを示す音声が出力される。例えば、「お店の予約が完了しました」等の音声がユーザ６０に対して出力される。また、例えば、お店の予約が埋まっていた場合には、「予約ができませんでした。どうしますか？」等の音声がユーザ６０に対して出力される。

【0157】

以上説明したように、スマート眼鏡７２では、エージェントシステム５０を利用することでユーザ６０に対して各種サービスが提供される。また、スマート眼鏡７２は、ユーザ６０によって身につけられていることから、自宅、仕事場、外出先等、様々な場面でエージェントシステム５０を利用することが実現される。

【0158】

また、スマート眼鏡７２は、ユーザ６０によって身につけられていることから、ユーザ６０のいわゆるライフログを収集することに適している。具体的には、スマート眼鏡７２に搭載された各種センサ等による検出結果、又はカメラ８６等の記録結果に基づいてユーザ６０の感情値が推定される。このため、様々な場面でユーザ６０の感情値を収集することができ、エージェントシステム５０は、ユーザ６０の感情に適したサービス、又は発話内容を提供することができる。

【0159】

また、スマート眼鏡７２では、カメラ８６、マイクロフォン８４等によりユーザ６０の周囲の状況が得られる。そして、これらの周囲の状況とユーザ６０の感情値とは対応付けられている。これにより、ユーザ６０がどのような状況に置かれた場合に、どのような感情を抱いたかを推定することができる。この結果、エージェントシステム５０が、ユーザ６０の趣味嗜好を把握する場合の精度を向上させることができる。そして、エージェントシステム５０において、ユーザ６０の趣味嗜好が正確に把握されることで、エージェントシステム５０は、ユーザ６０の趣味嗜好に適したサービス、又は発話内容を提供することができる。

【0160】

また、エージェントシステム５０は、スマートペンダント９２に適用することも可能である。図１３は、スマートペンダント９２のハードウェア構成の一例を示すブロック図である。スマートペンダント９２は、ペンダント型のスマートデバイスであり、一般的なペンダントと同様にユーザ６０によって装着される。スマートペンダント９２は、制御装置９３、スピーカ９４、マイクロフォン９５、及び通信Ｉ／Ｆ９６を備えている。スマートペンダント９２は、本発明における「電子機器」及び「ウェアラブル端末」の一例である。

【0161】

制御装置９３は、スマートペンダント９２の全体を制御する装置であり、例えば、図示しないプロセッサ、メモリ、及びストレージによって構成される。スピーカ９４は、ユーザ６０に対して各種情報を示す音声を出力する。スピーカ９４は、例えば、指向性を有する音声を出力可能なスピーカ（すなわち、ディレクショナルスピーカ）である。スピーカ９４は、ユーザ６０の耳に向かって指向性を有するように設定される。これにより、ユーザ６０以外の人物に対して音声が届くことが抑制される。スピーカ９４は、本発明における「出力部」の一例である。

【0162】

マイクロフォン９５は、ユーザ６０が発した音声又はスマートペンダント９２の周囲の環境音を取得する。スマートペンダント９２は、ユーザ６０の首から提げられる態様で装着される。このため、スマートペンダント９２は、装着されている間、ユーザ６０の口に比較的近い場所に位置する。これにより、ユーザ６０の発する音声を取得することが容易になる。マイクロフォン９５は、本発明における「取得部」の一例である。通信Ｉ／Ｆ９６は、スマートペンダント９２と外部との通信を司る。制御装置９３、スピーカ９４、マイクロフォン９５、及び通信Ｉ／Ｆ９６は、バス９７に接続されている。

【0163】

そして、スマートペンダント９２においてもエージェントシステム５０を利用することが可能とされている。すなわち、上述したスマート眼鏡７２においてエージェントシステム５０を利用することで提供されるサービス（図１１参照）が、スマートペンダント９２においても提供される。例えば、キャラクタが設定されたエージェントとの対話を通じて、ユーザ６０及びエージェントの感情値が推定され、感情値に応じてエージェントの発話内容が変化したり、提供されるサービスの内容が変化したりする。また、例えば、ユーザ６０の周囲の状況と、その時の感情値とがライフログとして記録され、ユーザ６０の感情値の推定、又は提供されるサービスの内容に反映される。

【0164】

なお、スマートペンダント９２においてもスマート眼鏡７２と同様にセンサ群（スマート眼鏡７２におけるセンサ群８２に相当）が設けられてもよい。これにより、ユーザ６０の体調又は周囲の状況を示す情報を検出することができ、エージェントシステム５０において感情値を推定したり、周囲の状況を記録したりすることができる。

【0165】

以上説明したように、スマートペンダント９２においても、上述したスマート眼鏡７２と同様な効果を得ることができる。また、スマートペンダント９２は、ぬいぐるみ、スマートスピーカ、スマートフォン、又はスマート眼鏡等と比較して、軽量であり、持ち運びが容易である。また、他のスマート端末であるスマートフォン、又はスマート眼鏡等と比較しても、軽量であり、かつ普段から身につけるものであり可搬性が高い。従って、自宅、仕事場、外出先等、様々な場面でエージェントシステム５０を利用することが実現される。また、スマートペンダント９２は、ユーザ６０のライフログを収集することにより適しており、このため、様々な場面でユーザ６０の感情値を収集することができ、エージェントシステム５０は、ユーザ６０の感情に適したサービス、又は発話内容を提供することができる。

【符号の説明】

【0166】

５ システム、１０、１１、１２、６０ ユーザ、２０ 通信網、１００、１０１、１０２ ロボット、２００ センサ部、２０１ マイク、２０２ 深度センサ、２０３ カメラ、２０４ 距離センサ、２１０ センサモジュール部、２１１ 音声感情認識部、２１２ 発話理解部、２１３ 表情認識部、２１４ 顔認識部、２２０ 格納部、２２１ 反応ルール、２２２ 履歴データ、２３０ ユーザ状態認識部、２３２ 感情決定部、２３４ 行動認識部、２３６ 行動決定部、２３８ 記憶制御部、２５０ 行動制御部、２５２ 制御対象、２８０ 通信処理部、３００ サーバ、１２００ コンピュータ、１２１０ ホストコントローラ、１２１２ ＣＰＵ、１２１４ ＲＡＭ、１２１６ グラフィックコントローラ、１２１８ ディスプレイデバイス、１２２０ 入出力コントローラ、１２２２ 通信インタフェース、１２２４ 記憶装置、１２２６ ＤＶＤドライブ、１２２７ ＤＶＤ－ＲＯＭ、１２３０ ＲＯＭ、１２４０ 入出力チップ、５０ エージェントシステム、５１ 対話処理部、５２ キャラクタ設定部、５２Ａ エージェント、５３ 感情エンジン、５４ 対話履歴格納部、５４Ａ 周囲状況格納部、５５ 文章生成モデル、５６ コマンド取得部、５７ ＲＰＡ、７０ サービスプロバイダ、７２ スマート眼鏡、７４ 制御装置、７６ ディスプレイ、７８ タッチパネル、８０ スピーカ、８２
センサ群、８２Ａ 加速度センサ、８２Ｂ 温度センサ、８２Ｃ 心拍センサ、８４ マイクロフォン、８６ カメラ、８８ 通信Ｉ／Ｆ、９０ バス、９２ スマートペンダント、９３ 制御装置、９４ スピーカ、９５ マイクロフォン、９６ 通信Ｉ／Ｆ、９７ バス

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】