特開 2024-159573 電子機器

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024159573

(43)【公開日】2024-11-08

(54)【発明の名称】電子機器

(51)【国際特許分類】

   G06N 3/008 20230101AFI20241031BHJP

   G06F 3/01 20060101ALI20241031BHJP

【ＦＩ】

G06N3/008

G06F3/01 510

【審査請求】未請求

【請求項の数】9

【出願形態】ＯＬ

(21)【出願番号】P 2024065509

(22)【出願日】2024-04-15

(31)【優先権主張番号】P 2023072335

(32)【優先日】2023-04-26

(33)【優先権主張国・地域又は機関】JP

【公序良俗違反の表示】

（特許庁注：以下のものは登録商標）

１．ＣＨＡＴＧＰＴ

(71)【出願人】

【識別番号】591280485

【氏名又は名称】ソフトバンクグループ株式会社

(74)【代理人】

【識別番号】110002147

【氏名又は名称】弁理士法人酒井国際特許事務所

(72)【発明者】

【氏名】孫 正義

【テーマコード（参考）】

5E555

【Ｆターム（参考）】

5E555AA48

5E555AA59

5E555AA71

5E555BA02

5E555BA05

5E555BA06

5E555BA90

5E555BB02

5E555BB05

5E555BB06

5E555BB40

5E555BC04

5E555CA42

5E555CA47

5E555CB64

5E555CB67

5E555CC03

5E555DA23

5E555DA40

5E555EA03

5E555EA19

5E555EA22

5E555EA23

5E555EA27

5E555EA28

5E555FA00

(57)【要約】      （修正有）

【課題】ユーザの行動に対して適切な行動を実行することができる電子機器を提供する。
【解決手段】電子機器（ロボット１００）は、センサ部と、センサモジュール部と、格納部と、ユーザ状態認識部と、感情決定部と、行動認識部と、行動決定部と、記憶制御部と、行動制御部と、制御対象と、通信処理部と、を有する制御部によって構成される。制御部は、ユーザの感情と他のユーザの感情とを分析し、ユーザの感情と他のユーザの感情とに対応する自身の行動を決定し、決定した自身の行動に基づいて制御対象を制御し、ユーザの感情と他のユーザの感情とに基づいて、他のユーザの対人スキルを向上させる行動を決定し、ユーザの感情値を高める振る舞いを他のユーザに教える行動を決定し、ユーザの感情と他のユーザの感情とに基づいて、ユーザと他のユーザとの関係性を向上させる行動を決定する。
【選択図】図２

【特許請求の範囲】

【請求項1】

ユーザの感情と他のユーザの感情とを分析し、前記ユーザの感情と前記他のユーザの感情とに対応する自身の行動を決定し、決定した前記自身の行動に基づいて制御対象を制御する制御部
を備える電子機器。

【請求項2】

前記制御部は、
前記ユーザの感情と前記他のユーザの感情とに基づいて、前記他のユーザの対人スキルを向上させる行動を決定する、
請求項１に記載の電子機器。

【請求項3】

前記制御部は、
前記ユーザの感情値を高める振る舞いを前記他のユーザに教える行動を決定する、
請求項２に記載の電子機器。

【請求項4】

前記制御部は、
前記ユーザの感情と前記他のユーザの感情とに基づいて、前記ユーザと前記他のユーザとの関係性を向上させる行動を決定する、
請求項１に記載の電子機器。

【請求項5】

前記制御部は、
前記ユーザの感情または前記他のユーザの感情のうちいずれか１つ以上を、前記ユーザまたは前記他のユーザに理解させる行動を決定する、
請求項４に記載の電子機器。

【請求項6】

前記制御部は、
前記ユーザの感情と、前記ユーザの居住地から所定距離離れた場所に居住する前記他のユーザの感情とを分析する、
請求項４に記載の電子機器。

【請求項7】

前記制御部は、
前記ユーザの感情と、前記ユーザに関する情報と、前記他のユーザの感情とに基づいて、前記他のユーザに対する所定の情報提供を行動として決定する、
請求項１に記載の電子機器。

【請求項8】

前記制御部は、
前記ユーザに関する情報として、前記ユーザの過去の情報、興味、関心、趣味、嗜好、指向、所定の記念日のうちのいずれか１つ以上に基づいて、前記他のユーザに対する所定の情報提供を行動として決定する、
請求項７に記載の電子機器。

【請求項9】

前記ロボットは、
ぬいぐるみに搭載され、又はぬいぐるみに搭載された制御対象機器に無線又は有線で接続される、
請求項１に記載の電子機器。

【発明の詳細な説明】

【技術分野】

【0001】

開示の実施形態は、電子機器に関する。

【背景技術】

【0002】

従来、ユーザの状態に対してロボットの適切な行動を決定する技術が開示されている（例えば、特許文献１参照）。特許文献１には、ロボットが特定の行動を実行したときのユーザの反応を認識し、認識したユーザの反応に対するロボットの行動を決定できなかった場合、認識したユーザの状認に適した行動に関する情報をサーバから受信することで、ロボットの行動を更新する点が開示されている。

【先行技術文献】

【特許文献】

【0003】

【特許文献1】特許第６０５３８４７号公報

【発明の概要】

【発明が解決しようとする課題】

【0004】

しかしながら、従来の技術では、ユーザの行動に対して適切な行動を実行する点で改善の余地があった。

【0005】

本発明は、上記に鑑みてなされたものであって、適切な行動を実行することができる電子機器を提供することを目的とする。

【課題を解決するための手段】

【0006】

実施形態の一態様に係る電子機器は、ユーザの感情と他のユーザの感情とを分析し、前記ユーザの感情と前記他のユーザの感情とに対応する自身の行動を決定し、決定した前記自身の行動に基づいて制御対象を制御する制御部を備える。

【発明の効果】

【0007】

実施形態の一態様によれば、ユーザ間の関係性を向上させることができる。

【図面の簡単な説明】

【0008】

【図1】図１は、本実施形態に係る制御システムの一例を概略的に示す図である。

【図2】図２は、ロボットの機能構成を概略的に示す図である。

【図3】図３は、ロボットにおいて行動を決定する動作に関する動作フローの一例を概略的に示す図である。

【図4】図４は、ロボット及びサーバとして機能するコンピュータのハードウェア構成の一例を概略的に示す図である。

【図5】図５は、複数の感情がマッピングされる感情マップを示す図である。

【図6】図６は、感情マップの他の例を示す図である。

【図7】図７は、感情テーブルの一例を示す図である。

【図8】図８は、感情テーブルの一例を示す図である。

【図9】図９は、（Ａ）他の実施形態に係るぬいぐるみの外観図、（Ｂ）ぬいぐるみの内部構造図である。

【図10】図１０は、他の実施形態に係るぬいぐるみの背面正面図である。

【発明を実施するための形態】

【0009】

以下、実施形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。また、本実施形態においては、電子機器として「ロボット」を一例に挙げて説明する。なお、当該電子機器は、ロボットの他に、ぬいぐるみ、スマートフォン等の携帯型端末装置、スマートスピーカ等の入力装置等であってよい。

【0010】

図１は、本実施形態に係る制御システム１の一例を概略的に示す図である。図１に示すように、制御システム１は、複数のロボット１００と、連携機器４００と、サーバ３００とを備える。複数のロボット１００は、それぞれユーザによって管理される。

【0011】

ロボット１００は、ユーザと会話を行ったり、ユーザに映像を提供したりする。このとき、ロボット１００は、通信網２０を介して通信可能なサーバ３００等と連携して、ユーザとの会話や、ユーザへの映像等の提供を行う。例えば、ロボット１００は、自身で適切な会話を学習するだけでなく、サーバ３００と連携して、ユーザとより適切に会話を進められるように学習を行う。また、ロボット１００は、撮影したユーザの映像データ等をサーバ３００に記録させ、必要に応じて映像データ等をサーバ３００に要求して、ユーザに提供する。

【0012】

また、ロボット１００は、自身の感情の種類を表す感情値を持つ。例えば、ロボット１００は、「喜」、「怒」、「哀」、「楽」、「快」、「不快」、「安心」、「不安」、「悲しみ」、「興奮」、「心配」、「安堵」、「充実感」、「虚無感」及び「普通」のそれぞれの感情の強さを表す感情値を持つ。ロボット１００は、例えば興奮の感情値が大きい状態でユーザと会話するときは、早いスピードで音声を発する。このように、ロボット１００は、自己の感情を行動で表現することができる。

【0013】

また、ロボット１００は、文章生成モデル（いわゆる、ＡＩ（Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ）チャットエンジン）と感情エンジンをマッチングさせることで、ユーザ１０の感情に対応するロボット１００の行動を決定するように構成してよい。具体的には、ロボット１００は、ユーザ１０の行動を認識して、当該ユーザの行動に対するユーザ１０の感情を判定し、判定した感情に対応するロボット１００の行動を決定するように構成してよい。

【0014】

より具体的には、ロボット１００は、ユーザ１０の行動を認識した場合、予め設定された文章生成モデルを用いて、当該ユーザ１０の行動に対してロボット１００がとるべき行動内容を自動で生成する。文章生成モデルは、文字による自動対話処理のためのアルゴリズム及び演算と解釈してよい。文章生成モデルは、例えば特開２０１８－０８１４４４号公報やｃｈａｔＧＰＴ（インターネット検索＜URL: https://openai.com/blog/chatgpt＞）に開示される通り公知であるため、その詳細な説明を省略する。このような、文章生成モデルは、大規模言語モデル（ＬＬＭ：Ｌａｒｇｅ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ）により構成されている。以上、本実施形態は、大規模言語モデルと感情エンジンとを組み合わせることにより、ユーザ１０やロボット１００の感情と、様々な言語情報とをロボット１００の行動に反映させるということができる。つまり、本実施形態によれば、文章生成モデルと感情エンジンとを組み合わせることにより、相乗効果を得ることができる。

【0015】

また、ロボット１００は、ユーザの行動を認識する機能を有する。ロボット１００は、カメラ機能で取得したユーザの顔画像や、マイク機能で取得したユーザの音声を解析することによって、ユーザの行動を認識する。ロボット１００は、認識したユーザの行動等に基づいて、ロボット１００が実行する行動を決定する。

【0016】

ロボット１００は、ユーザの感情、ロボット１００の感情、及びユーザの行動に基づいてロボット１００が実行する行動を定めたルールを記憶しており、ルールに従って各種の行動を行う。

【0017】

具体的には、ロボット１００には、ユーザの感情、ロボット１００の感情、及びユーザの行動に基づいてロボット１００の行動を決定するための反応ルールを有している。反応ルールには、例えば、ユーザの行動が「笑う」である場合に対して、「笑う」という行動が、ロボット１００の行動として定められている。また、反応ルールには、ユーザの行動が「怒る」である場合に対して、「謝る」という行動が、ロボット１００の行動として定められている。また、反応ルールには、ユーザの行動が「質問する」である場合に対して、「回答する」という行動が、ロボット１００の行動として定められている。反応ルールには、ユーザの行動が「悲しむ」である場合に対して、「声をかける」という行動が、ロボット１００の行動として定められている。

【0018】

ロボット１００は、反応ルールに基づいて、ユーザの行動が「怒る」であると認識した場合、反応ルールで定められた「謝る」という行動を、ロボット１００が実行する行動として選択する。例えば、ロボット１００は、「謝る」という行動を選択した場合に、「謝る」動作を行うと共に、「謝る」言葉を表す音声を出力する。

【0019】

また、ロボット１００の感情が「普通」（すわなち、「喜」＝０、「怒」＝０、「哀」＝０、「楽」＝０）であり、ユーザの状態が「１人、寂しそう」という条件が満たされた場合に、ロボット１００の感情が「心配になる」という感情の変化内容と、「声をかける」の行動を実行できることが定められている。

【0020】

ロボット１００は、反応ルールに基づいて、ロボット１００の現在の感情が「普通」であり、かつ、ユーザが１人で寂しそうな状態にあると認識した場合、ロボット１００の「哀」の感情値を増大させる。また、ロボット１００は、反応ルールで定められた「声をかける」という行動を、ユーザに対して実行する行動として選択する。例えば、ロボット１００は、「声をかける」という行動を選択した場合に、心配していることを表す「どうしたの？」という言葉を、心配そうな音声に変換して出力する。

【0021】

また、ロボット１００は、この行動によって、ユーザからポジティブな反応が得られたことを示すユーザ反応情報を、サーバ３００に送信する。ユーザ反応情報には、例えば、「怒る」というユーザ行動、「謝る」というロボット１００の行動、ユーザの反応がポジティブであったこと、及びユーザの属性が含まれる。

【0022】

サーバ３００は、各ロボット１００から受信したユーザ反応情報を記憶する。そして、サーバ３００は、各ロボット１００からのユーザ反応情報を解析して、反応ルールを更新する。

【0023】

ロボット１００は、更新された反応ルールをサーバ３００に問い合わせることにより、更新された反応ルールをサーバ３００から受信する。ロボット１００は、更新された反応ルールを、ロボット１００が記憶している反応ルールに組み込む。これにより、ロボット１００は、他のロボット１００が獲得した反応ルールを、自身の反応ルールに組み込むことができる。反応ルールが更新された場合、サーバ３００から自動的にロボット１００に送信されてもよい。

【0024】

また、ロボット１００は、連携機器４００と連携した行動を実行することができる。連携機器４００は、例えば、カラオケ機器、ワインセラー、冷蔵庫、端末機器（ＰＣ（Personal Computer）や、スマートフォン、タブレット等）、洗濯機、自動車、カメラ、トイレ設備、電動歯ブラシ、テレビ、ディスプレイ、家具（クローゼット等）、薬箱、楽器、照明機器、運動玩具（一輪車等）である。これら連携機器４００は、通信網２０を介してロボット１００と通信可能に接続され、ロボット１００との間で情報の送受信を行う。この構成により、連携機器４００は、ロボット１００の指示に従って、自身の制御や、ユーザとの会話等を行う。

【0025】

本開示では、ロボット１００が、ユーザの感情と他のユーザの感情とを分析し、ユーザの感情と他のユーザの感情とに対応する自身の行動を決定し、決定した自身の行動に基づいて制御対象を制御する例について説明する。

【0026】

例えば、ロボット１００は、ユーザの感情が「怒り」であり、他のユーザの感情が「困惑」であることを分析し、分析したユーザの感情「怒り」を落ち着けるよう、他のユーザの感情「困惑」に対応して、ユーザの感情「怒り」の原因と推定される情報や対応（例えば、誤解の解き方や謝罪の伝え方など）を他のユーザにアドバイスする。

【0027】

また、ロボット１００は、ユーザの感情と他のユーザの感情とに基づいて、他のユーザの対人スキルを向上させる行動を決定する。例えば、ロボット１００は、ユーザの感情「喜び」、他のユーザの感情「退屈」である場合に、ユーザの感情「喜び」への共感などを示す言動について他のユーザにアドバイスして適切な対応を学習させる。例えば、ロボット１００は、ユーザの感情「喜び」への共感を示す場合のジェスチャーやボディランゲージなどを他のユーザに対してアドバイスする。

【0028】

また、ロボット１００は、ユーザの感情値を高める振る舞いを他のユーザに教える行動を決定する。例えば、ロボット１００は、ユーザの感情が「哀」である場合に、他のユーザに対して、静かに話を聞いたり励ましたりといった、ユーザの感情値を高める行動をとるようアドバイスする。

【0029】

また、ロボット１００は、ユーザの感情と他のユーザの感情とに基づいて、ユーザと他のユーザとの関係性を向上させる行動を決定する。例えば、ロボット１００は、ユーザの感情「怒り」と、他のユーザ「怒り」とから、双方の怒りの原因や許せないと感じていることを分析し、分析結果の共有やコミュニケーションのヒントの提示など問題解決のためにアドバイスする。

【0030】

また、ロボット１００は、ユーザの感情または他のユーザの感情のうちいずれか１つ以上を、ユーザまたは他のユーザに理解させる行動を決定する。例えば、ロボット１００は、ユーザの感情が「怒り」であり、他のユーザの感情が「喜び」であり、他のユーザがユーザの感情「怒り」に気づいていない場合に、他のユーザに対して、ユーザの感情をそっと伝える。また、例えば、ロボット１００は、ユーザの感情が「悲しい」、他のユーザの感情が「怒り」である場合に、ユーザが悲しいと感じていることや、他のユーザが何に対して怒りを感じているのかを、「怒り」の状態にある他のユーザが受け入れられる形で伝える。

【0031】

また、ロボット１００は、ユーザの感情と、ユーザの居住地から所定距離離れた場所に居住する他のユーザの感情とを分析する。例えば、ロボット１００は、ユーザの感情と、ユーザの居住地から遠く離れた場所に居住し、かつ、ユーザと恋愛関係にある他のユーザとの感情を分析して、恋愛関係を維持・強化するためのアドバイスを行う。例えば、ロボット１００は、遠距離恋愛の関係にあるユーザの感情「寂しい」と、他のユーザの感情「嬉しい」とから起こりうる問題（例えば、喧嘩など）を予測し、問題の発生を防ぐために、感情の理解や共有など、双方の間を取り持つよう行動する。

【0032】

また、ロボット１００は、ユーザの感情と、ユーザに関する情報と、他のユーザの感情とに基づいて、他のユーザに対する所定の情報提供を行動として決定する。例えば、ロボット１００は、ユーザの感情「期待」と、ユーザの興味、趣味と、他のユーザの感情「不安」とに基づいて、ユーザがどのようなプレゼントを期待しているかを、「不安」状態にある他のユーザを勇気づける形で伝える。

【0033】

また、ロボット１００は、ユーザに関する情報として、ユーザの過去の情報、興味、関心、趣味、嗜好、指向、所定の記念日のうちのいずれか１つ以上に基づいて、他のユーザに対する所定の情報提供を行動として決定する。例えば、ロボット１００は、ユーザの感情「退屈」と、ユーザの過去の情報「他のユーザとの関係性が深まったきっかけ」、他のユーザの感情「迷い」とに基づいて、ユーザが愛情を感じるようなプレゼントを提案し、「迷い」状態にある他のユーザに決断させる形で伝える。

【0034】

このように、本開示において、ロボット１００は、ユーザ間の関係性を向上させることができる。

【0035】

図２は、ロボット１００の機能構成を概略的に示す図である。ロボット１００は、センサ部２００と、センサモジュール部２１０と、格納部２２０と、ユーザ状態認識部２３０と、感情決定部２３２と、行動認識部２３４と、行動決定部２３６と、記憶制御部２３８と、行動制御部２５０と、制御対象２５２と、通信処理部２８０と、を有する制御部によって構成される。

【0036】

制御対象２５２は、表示装置、スピーカ及び目部のＬＥＤ、並びに、腕、手及び足等を駆動するモータ等を含む。ロボット１００の姿勢や仕草は、腕、手及び足等のモータを制御することにより制御される。ロボット１００の感情の一部は、これらのモータを制御することにより表現できる。また、ロボット１００の目部のＬＥＤの発光状態を制御することによっても、ロボット１００の表情を表現できる。例えば、表示装置は、ロボット１００の胸に設けられる。また、表示装置の表示を制御することによっても、ロボット１００の表情を表現できる。表示装置は、ユーザとの会話内容を文字として表示してもよい。なお、ロボット１００の姿勢、仕草及び表情は、ロボット１００の態度の一例である。

【0037】

センサ部２００は、マイク２０１と、３Ｄ深度センサ２０２と、２Ｄカメラ２０３と、距離センサ２０４と、加速度センサ２０５と、サーモセンサ２０６と、タッチセンサ２０７とを含む。マイク２０１は、音声を連続的に検出して音声データを出力する。なお、マイク２０１は、ロボット１００の頭部に設けられ、バイノーラル録音を行う機能を有してよい。３Ｄ深度センサ２０２は、赤外線パターンを連続的に照射して、赤外線カメラで連続的に撮影された赤外線画像から赤外線パターンを解析することによって、物体の輪郭を検出する。２Ｄカメラ２０３は、イメージセンサの一例である。２Ｄカメラ２０３は、可視光によって撮影して、可視光の映像情報を生成する。物体の輪郭は、２Ｄカメラ２０３によって生成された映像情報から検出されてもよい。距離センサ２０４は、例えばレーザや超音波等を照射して物体までの距離を検出する。加速度センサ２０５は、例えば、ジャイロセンサであり、ロボット１００の加速度を検出する。サーモセンサ２０６は、ロボット１００の周囲の温度を検出する。タッチセンサ２０７は、ユーザのタッチ操作を検出するセンサであり、例えば、ロボット１００の頭部および手に配置される。なお、センサ部２００は、この他にも、時計、モータフィードバック用のセンサ等を含んでよい。

【0038】

なお、図２に示すロボット１００の構成要素のうち、制御対象２５２及びセンサ部２００を除く構成要素は、ロボット１００が有する行動制御システムが有する構成要素の一例である。ロボット１００の行動制御システムは、制御対象２５２を制御の対象とする。

【0039】

格納部２２０は、反応ルール２２１及び履歴データ２２２を含む。履歴データ２２２は、ユーザの過去の感情値及び行動の履歴を含む。この感情値及び行動の履歴は、例えば、ユーザの識別情報に対応付けられることによって、ユーザ毎に記録される。格納部２２０の少なくとも一部は、メモリ等の記憶媒体によって実装される。ユーザの顔画像、ユーザの属性情報等を格納する人物ＤＢを含んでもよい。また、人物ＤＢには、ユーザに関する情報として、ユーザの過去の情報、興味、関心、趣味、嗜好、指向、所定の記念日等の情報を含んでもよい。なお、図２に示すロボット１００の構成要素のうち、制御対象２５２、センサ部２００及び格納部２２０を除く構成要素の機能は、ＣＰＵがプログラムに基づいて動作することによって実現できる。例えば、基本ソフトウエア（ＯＳ）及びＯＳ上で動作するプログラムによって、これらの構成要素の機能をＣＰＵの動作として実装できる。

【0040】

センサモジュール部２１０は、音声感情認識部２１１と、発話理解部２１２と、表情認識部２１３と、顔認識部２１４とを含む。センサモジュール部２１０には、センサ部２００で検出された情報が入力される。センサモジュール部２１０は、センサ部２００で検出された情報を解析して、解析結果をユーザ状態認識部２３０に出力する。

【0041】

センサモジュール部２１０の音声感情認識部２１１は、マイク２０１で検出されたユーザの音声を解析して、ユーザの感情を認識する。例えば、音声感情認識部２１１は、音声の周波数成分等の特徴量を抽出して、抽出した特徴量に基づいて、ユーザの感情を認識する。発話理解部２１２は、マイク２０１で検出されたユーザの音声を解析して、ユーザの発話内容を表す文字情報を出力する。

【0042】

表情認識部２１３は、２Ｄカメラ２０３で撮影されたユーザの画像から、ユーザの表情及びユーザの感情を認識する。例えば、表情認識部２１３は、目及び口の形状、位置関係等に基づいて、ユーザの表情及び感情を認識する。例えば、表情認識部２１３は、他のユーザの言動を受けたユーザの表情及び感情を認識する。また、例えば、表情認識部２１３は、ユーザの言動を受けた他のユーザの表情及び感情を認識する。

【0043】

顔認識部２１４は、ユーザの顔を認識する。顔認識部２１４は、人物ＤＢ（図示省略）に格納されている顔画像と、２Ｄカメラ２０３によって撮影されたユーザの顔画像とをマッチングすることによって、ユーザを認識する。

【0044】

ユーザ状態認識部２３０は、センサモジュール部２１０で解析された情報に基づいて、ユーザの状態を認識する。例えば、センサモジュール部２１０の解析結果を用いて、主として知覚に関する処理を行う。例えば、ユーザ状態認識部２３０は、「ユーザが他のユーザと会話をしている」、「ユーザが笑っている」、「ユーザが会話を楽しんでいる確率ＸＸ％です」等の知覚情報を生成し、生成された知覚情報の意味を理解する処理を行う。例えば、ユーザ状態認識部２３０は、「ユーザは他のユーザの話を聞いて笑っており、会話を楽しんでそうです」等の意味情報を生成する。

【0045】

感情決定部２３２は、センサモジュール部２１０で解析された情報、及びユーザ状態認識部２３０によって認識されたユーザの状態に基づいて、ユーザの感情を示す感情値を決定する。例えば、センサモジュール部２１０で解析された情報、及び認識されたユーザの状態を、予め学習されたニューラルネットワークに入力し、ユーザの感情を示す感情値を取得する。

【0046】

ここで、ユーザの感情を示す感情値とは、ユーザの感情の正負を示す値であり、例えば、ユーザの感情が、「喜」、「楽」、「快」、「安心」、「興奮」、「安堵」、及び「充実感」のように、快感や安らぎを伴う明るい感情であれば、正の値を示し、明るい感情であるほど、大きい値となる。ユーザの感情が、「怒」、「哀」、「不快」、「不安」、「悲しみ」、「心配」、及び「虚無感」のように、嫌な気持ちになってしまう感情であれば、負の値を示し、嫌な気持ちであるほど、負の値の絶対値が大きくなる。ユーザの感情が、上記の何れでもない場合（「普通」）、０の値を示す。

【0047】

また、感情決定部２３２は、センサモジュール部２１０で解析された情報、及びユーザ状態認識部２３０によって認識されたユーザの状態に基づいて、ロボット１００の感情を示す感情値を決定する。

【0048】

ロボット１００の感情値は、複数の感情分類の各々に対する感情値を含み、例えば、「喜」、「怒」、「哀」、「楽」それぞれの強さを示す値（０～５）である。

【0049】

具体的には、感情決定部２３２は、センサモジュール部２１０で解析された情報、及びユーザ状態認識部２３０によって認識されたユーザの状態に対応付けて定められた、ロボット１００の感情値を更新するルールに従って、ロボット１００の感情を示す感情値を決定する。

【0050】

例えば、感情決定部２３２は、ユーザ状態認識部２３０によってユーザが寂しそうと認識された場合、ロボット１００の「哀」の感情値を増大させる。また、ユーザ状態認識部２３０によってユーザが笑顔になったと認識された場合、ロボット１００の「喜」の感情値を増大させる。

【0051】

なお、感情決定部２３２は、ロボット１００の状態を更に考慮して、ロボット１００の感情を示す感情値を決定してもよい。例えば、ロボット１００のバッテリー残量が少ない場合やロボット１００の周辺環境が真っ暗な場合等に、ロボット１００の「哀」の感情値を増大させてもよい。更にバッテリー残量が少ないにも関わらず継続して話しかけてくるユーザの場合は、「怒」の感情値を増大させても良い。

【0052】

行動認識部２３４は、センサモジュール部２１０で解析された情報、及びユーザ状態認識部２３０によって認識されたユーザの状態に基づいて、ユーザの行動を認識する。例えば、センサモジュール部２１０で解析された情報、及び認識されたユーザの状態を、予め学習されたニューラルネットワークに入力し、予め定められた複数の行動分類（例えば、「笑う」、「怒る」、「質問する」、「悲しむ」）の各々の確率を取得し、最も確率の高い行動分類を、ユーザの行動として認識する。例えば、行動認識部２３４は、ユーザと他のユーザとの間で行われる「話す」、「聞く」、「スキンシップ」等といったユーザの行動を認識する。

【0053】

以上のように、本実施形態では、ロボット１００は、ユーザを特定したうえでユーザの発話内容を取得するが、当該発話内容の取得と利用等に際してはユーザから法令に従った必要な同意を取得するほか、本実施形態に係るロボット１００の行動制御システムは、ユーザの個人情報及びプライバシーの保護に配慮する。

【0054】

行動決定部２３６は、感情決定部２３２により決定されたユーザの現在の感情値と、ユーザの現在の感情値が決定されるよりも前に感情決定部２３２により決定された過去の感情値の履歴データ２２２と、ロボット１００の感情値とに基づいて、行動認識部２３４によって認識されたユーザの行動に対応する行動を決定する。本実施形態では、行動決定部２３６は、ユーザの過去の感情値として、履歴データ２２２に含まれる直近の１つの感情値を用いる場合について説明するが、開示の技術はこの態様に限定されない。例えば、行動決定部２３６は、ユーザの過去の感情値として、直近の複数の感情値を用いてもよいし、一日前などの単位期間の分だけ前の感情値を用いてもよい。また、行動決定部２３６は、ロボット１００の現在の感情値だけでなく、ロボット１００の過去の感情値の履歴を更に考慮して、ユーザの行動に対応する行動を決定してもよい。行動決定部２３６が決定する行動は、ロボット１００が行うジェスチャー又はロボット１００の発話内容を含む。

【0055】

本実施形態に係る行動決定部２３６は、ユーザの行動に対応する行動として、ユーザの過去の感情値と現在の感情値の組み合わせと、ロボット１００の感情値と、ユーザの行動と、反応ルール２２１とに基づいて、ロボット１００の行動を決定する。例えば、行動決定部２３６は、ユーザの過去の感情値が正の値であり、かつ現在の感情値が負の値である場合、ユーザの行動に対応する行動として、ユーザの感情値を正に変化させるための行動を決定する。

【0056】

なお、行動決定部２３６は、ロボット１００の感情に基づいて、ユーザ１０の行動に対応する行動を決定してもよい。例えば、ロボット１００がユーザ１０から暴言をかけられた場合や、ユーザ１０に横柄な態度をとられている場合（すなわち、ユーザの反応が不良である場合）、周囲の騒音が騒がしくユーザ１０の音声を検出できない場合、ロボット１００のバッテリー残量が少ない場合などにおいて、ロボット１００の「怒」や「哀」の感情値が増大した場合、行動決定部２３６は、「怒」や「哀」の感情値の増大に応じた行動を、ユーザ１０の行動に対応する行動として決定してもよい。また、ユーザの反応が良好である場合や、ロボット１００のバッテリー残量が多い場合などにおいて、ロボット１００の「喜」や「楽」の感情値が増大した場合、行動決定部２３６は、「喜」や「楽」の感情値の増大に応じた行動を、ユーザ１０の行動に対応する行動として決定してもよい。また、行動決定部２３６は、ロボット１００の「怒」や「哀」の感情値の増大させたユーザ１０に対する行動とは異なる行動を、ロボット１００の「喜」や「楽」の感情値の増大させたユーザ１０に対する行動として決定してもよい。このように、行動決定部２３６は、ロボット自身の感情そのものや、ユーザの行動だけではなくユーザが感情をどのように変化させたかに応じて、異なる行動を決定すればよい。

【0057】

反応ルール２２１には、ユーザの過去の感情値と現在の感情値の組み合わせと、ロボット１００の感情値と、ユーザの行動とに応じたロボット１００の行動が定められている。例えば、ユーザの過去の感情値が正の値であり、かつ現在の感情値が負の値であり、ユーザの行動が悲しむである場合、ロボット１００の行動として、ジェスチャーを交えてユーザを励ます問いかけを行う際のジェスチャーと発話内容との組み合わせが定められている。

【0058】

例えば、反応ルール２２１には、ロボット１００の感情値のパターン（「喜」、「怒」、「哀」、「楽」の値「０」～「５」の６値の４乗である１２９６パターン）、ユーザの過去の感情値と現在の感情値の組み合わせのパターン、ユーザの行動パターンの全組み合わせに対して、ロボット１００の行動が定められる。すわなち、ロボット１００の感情値のパターン毎に、ユーザの過去の感情値と現在の感情値の組み合わせが、負の値と負の値、負の値と正の値、正の値と負の値、正の値と正の値、負の値と普通、及び普通と普通等のように、複数の組み合わせのそれぞれに対して、ユーザの行動パターンに応じたロボット１００の行動が定められる。なお、行動決定部２３６は、例えば、ユーザが「この前に話したあの話題について話したい」というような過去の話題から継続した会話を意図する発話を行った場合に、履歴データ２２２を用いてロボット１００の行動を決定する動作モードに遷移してもよい。

【0059】

なお、反応ルール２２１には、ロボット１００の感情値のパターン（１２９６パターン）の各々に対して、最大で一つずつ、ロボット１００の行動としてジェスチャー及び発言内容の少なくとも一方が定められていてもよい。あるいは、反応ルール２２１には、ロボット１００の感情値のパターンのグループの各々に対して、ロボット１００の行動としてジェスチャー及び発言内容の少なくとも一方が定められていてもよい。

【0060】

反応ルール２２１に定められているロボット１００の行動に含まれる各ジェスチャーには、当該ジェスチャーの強度が予め定められている。反応ルール２２１に定められているロボット１００の行動に含まれる各発話内容には、当該発話内容の強度が予め定められている。

【0061】

例えば、反応ルール２２１には、ユーザが話している場合、ユーザが話を聞いている場合、ユーザの要望に関する発話（「盛り上げて」や、「落ち着いて」）等の行動パターンに対応するロボット１００の行動が定められている。

【0062】

記憶制御部２３８は、行動決定部２３６によって決定された行動に対して予め定められた行動の強度と、感情決定部２３２により決定されたロボット１００の感情値とに基づいて、ユーザの行動を含むデータを履歴データ２２２に記憶するか否かを決定する。

【0063】

具体的には、ロボット１００の複数の感情分類の各々に対する感情値の総和と、行動決定部２３６によって決定された行動が含むジェスチャーに対して予め定められた強度と、行動決定部２３６によって決定された行動が含む発話内容に対して予め定められた強度との和である強度の総合値が、閾値以上である場合、ユーザの行動を含むデータを履歴データ２２２に記憶すると決定する。

【0064】

記憶制御部２３８は、ユーザの行動を含むデータを履歴データ２２２に記憶すると決定した場合、行動決定部２３６によって決定された行動と、現時点から一定期間前までの、センサモジュール部２１０で解析された情報（例えば、その場の音声、画像、匂い等のデータなどのあらゆる周辺情報）、及びユーザ状態認識部２３０によって認識されたユーザの状態（例えば、ユーザの表情、感情など）を、履歴データ２２２に記憶する。

【0065】

行動制御部２５０は、行動決定部２３６が決定した行動に基づいて、制御対象２５２を制御する。例えば、行動制御部２５０は、行動決定部２３６が発話することを含む行動を決定した場合に、制御対象２５２に含まれるスピーカから音声を出力させる。このとき、行動制御部２５０は、ロボット１００の感情値に基づいて、音声の発声速度を決定してもよい。例えば、行動制御部２５０は、ロボット１００の感情値が大きいほど、速い発声速度を決定する。このように、行動制御部２５０は、感情決定部２３２が決定した感情値に基づいて、行動決定部２３６が決定した行動の実行形態を決定する。

【0066】

例えば、行動制御部２５０は、ユーザの感情と他のユーザの感情とに対応する自身の行動を決定し、決定した自身の行動に基づいて制御対象を制御する。例えば、行動制御部２５０は、分析したユーザの感情が「怒り」、他のユーザの感情が「困惑」から、分析したユーザの感情「怒り」を落ち着けるよう、他のユーザの感情「困惑」に対応して、ユーザの感情「怒り」の原因と推定される情報や対応（例えば、誤解の解き方や謝罪の伝え方など）を他のユーザにアドバイスする。

【0067】

また、行動制御部２５０は、ユーザの感情と他のユーザの感情とに基づいて、他のユーザの対人スキルを向上させる行動を決定する。例えば、行動制御部２５０は、ユーザの感情「喜び」、他のユーザの感情「退屈」である場合に、ユーザの感情「喜び」への共感などを示す言動について他のユーザにアドバイスして適切な対応を学習させる。例えば、行動制御部２５０は、ユーザの感情「喜び」への共感を示す場合のジェスチャーやボディランゲージなどを他のユーザに対してアドバイスする。

【0068】

また、行動制御部２５０は、ユーザの感情値を高める振る舞いを他のユーザに教える行動を決定する。例えば、行動制御部２５０は、ユーザの感情が「哀」である場合に、他のユーザに対して、静かに話を聞いたり励ましたりといった、ユーザの感情値を高める行動をとるようアドバイスする。

【0069】

また、行動制御部２５０は、ユーザの感情と他のユーザの感情とに基づいて、ユーザと他のユーザとの関係性を向上させる行動を決定する。例えば、行動制御部２５０は、ユーザの感情「怒り」と、他のユーザ「怒り」とから、双方の怒りの原因や許せないと感じていることを分析し、分析結果の共有やコミュニケーションのヒントの提示など問題解決のためにアドバイスする。

【0070】

また、行動制御部２５０は、ユーザの感情または他のユーザの感情のうちいずれか１つ以上を、ユーザまたは他のユーザに理解させる行動を決定する。例えば、行動制御部２５０は、ユーザの感情が「怒り」であり、他のユーザの感情が「喜び」であり、他のユーザがユーザの感情「怒り」に気づいていない場合に、他のユーザに対して、ユーザの感情をそっと伝える。また、例えば、行動制御部２５０は、ユーザの感情が「悲しい」、他のユーザの感情が「怒り」である場合に、ユーザが悲しいと感じていることや、他のユーザが何に対して怒りを感じているのかを、「怒り」の状態にある他のユーザが受け入れられる形で伝える。

【0071】

また、行動制御部２５０は、ユーザの感情と、ユーザの居住地から所定距離離れた場所に居住する他のユーザの感情とを分析する。例えば、行動制御部２５０は、ユーザの感情と、ユーザの居住地から遠く離れた場所に居住し、かつ、ユーザと恋愛関係にある他のユーザとの感情を分析して、恋愛関係を維持・強化するためのアドバイスを行う。例えば、行動制御部２５０は、遠距離恋愛の関係にあるユーザの感情「寂しい」と、他のユーザの感情「嬉しい」とから起こりうる問題（例えば、喧嘩など）を予測し、問題の発生を防ぐために、感情の理解や共有など、双方の間を取り持つよう行動する。

【0072】

また、行動制御部２５０は、ユーザの感情と、ユーザに関する情報と、他のユーザの感情とに基づいて、他のユーザに対する所定の情報提供を行動として決定する。例えば、行動制御部２５０は、ユーザの感情「期待」と、ユーザの興味、趣味と、他のユーザの感情「不安」とに基づいて、ユーザがどのようなプレゼントを期待しているかを、「不安」状態にある他のユーザを勇気づける形で伝える。

【0073】

また、行動制御部２５０は、ユーザに関する情報として、ユーザの過去の情報、興味、関心、趣味、嗜好、指向、所定の記念日のうちのいずれか１つ以上に基づいて、他のユーザに対する所定の情報提供を行動として決定する。例えば、行動制御部２５０は、ユーザの感情「退屈」と、ユーザの過去の情報「他のユーザとの関係性が深まったきっかけ」、他のユーザの感情「迷い」とに基づいて、ユーザが愛情を感じるようなプレゼントを提案し、「迷い」状態にある他のユーザに決断させる形で伝える。

【0074】

また、行動制御部２５０は、行動決定部２３６が決定した行動を実行したことに対するユーザの感情の変化を認識してもよい。例えば、ユーザの音声や表情に基づいて感情の変化を認識してよい。その他、センサ部２００に含まれるタッチセンサで衝撃が検出されたことに基づいて、ユーザの感情の変化を認識してよい。センサ部２００に含まれるタッチセンサで衝撃が検出された場合に、ユーザの感情が悪くなったと認識したり、センサ部２００に含まれるタッチセンサの検出結果から、ユーザの反応が笑っている、あるいは、喜んでいる等と判断される場合には、ユーザの感情が良くなったと認識したりしてもよい。ユーザの反応を示す情報は、通信処理部２８０に出力される。

【0075】

また、行動制御部２５０は、行動決定部２３６が決定した行動をロボット１００の感情に応じて決定した実行形態で実行した後、感情決定部２３２は、当該行動が実行されたことに対するユーザの反応に基づいて、ロボット１００の感情値を更に変化させる。具体的には、感情決定部２３２は、行動決定部２３６が決定した行動を行動制御部２５０が決定した実行形態でユーザに対して行ったことに対するユーザの反応が不良でなかった場合に、ロボット１００の「喜」の感情値を増大させるまた、感情決定部２３２は、行動決定部２３６が決定した行動を行動制御部２５０が決定した実行形態でユーザに対して行ったことに対するユーザの反応が不良であった場合に、ロボット１００の「哀」の感情値を増大させる。

【0076】

更に、行動制御部２５０は、決定したロボット１００の感情値に基づいて、ロボット１００の感情を表現する。例えば、行動制御部２５０は、ロボット１００の「喜」の感情値を増加させた場合、制御対象２５２を制御して、ロボット１００に喜んだ仕草を行わせる。また、行動制御部２５０は、ロボット１００の「哀」の感情値を増加させた場合、ロボット１００の姿勢がうなだれた姿勢になるように、制御対象２５２を制御する。

【0077】

通信処理部２８０は、サーバ３００との通信を担う。上述したように、通信処理部２８０は、ユーザ反応情報をサーバ３００に送信する。また、通信処理部２８０は、更新された反応ルールをサーバ３００から受信する。通信処理部２８０がサーバ３００から、更新された反応ルールを受信すると、反応ルール２２１を更新する。通信処理部２８０は、連携機器４００との間で情報を送受信できる。

【0078】

サーバ３００は、各ロボット１００とサーバ３００との間の通信を行い、ロボット１００から送信されたユーザ反応情報を受信し、ポジティブな反応が得られた行動を含む反応ルールに基づいて、反応ルールを更新する。

【0079】

図３は、ロボット１００において行動を決定する動作に関する動作フローの一例を概略的に示す図である。図３に示す動作フローは、繰り返し実行される。このとき、センサモジュール部２１０で解析された情報が入力されているものとする。なお、動作フロー中の「Ｓ」は、実行されるステップを表す。

【0080】

まず、ステップＳ１０１において、ユーザ状態認識部２３０は、センサモジュール部２１０で解析された情報に基づいて、ユーザの状態を認識する。ユーザ状態認識部２３０は、「ユーザが他のユーザと会話をしている」、「ユーザが笑っている」、「ユーザが会話を楽しんでいる確率ＸＸ％です」等の知覚情報を生成し、生成された知覚情報の意味を理解する処理を行う。例えば、ユーザ状態認識部２３０は、「ユーザは他のユーザの話を聞いて笑っており、会話を楽しんでそうです」等の意味情報を生成する。

【0081】

ステップＳ１０２において、感情決定部２３２は、センサモジュール部２１０で解析された情報、及びユーザ状態認識部２３０によって認識されたユーザの状態に基づいて、ユーザの感情を示す感情値を決定する。

【0082】

ステップＳ１０３において、感情決定部２３２は、センサモジュール部２１０で解析された情報、及びユーザ状態認識部２３０によって認識されたユーザの状態に基づいて、ロボット１００の感情を示す感情値を決定する。感情決定部２３２は、決定したユーザの感情値を履歴データ２２２に追加する。

【0083】

ステップＳ１０４において、行動認識部２３４は、センサモジュール部２１０で解析された情報及びユーザ状態認識部２３０によって認識されたユーザの状態に基づいて、ユーザの行動分類を認識する。例えば、行動認識部２３４は、「話す」、「聞く」、「スキンシップ」といったユーザの行動を認識する。

【0084】

ステップＳ１０５において、行動決定部２３６は、ステップＳ１０２で決定されたユーザの現在の感情値及び履歴データ２２２に含まれる過去の感情値の組み合わせと、ロボット１００の感情値と、行動認識部２３４によって認識されたユーザの行動と、反応ルール２２１とに基づいて、ロボット１００の行動を決定する。

【0085】

ステップＳ１０６において、行動制御部２５０は、行動決定部２３６により決定された行動に基づいて、制御対象２５２を制御する。例えば、行動制御部２５０は、ユーザと他のユーザとの関係性を向上させる行動を行う。

【0086】

ステップＳ１０７において、記憶制御部２３８は、行動決定部２３６によって決定された行動に対して予め定められた行動の強度と、感情決定部２３２により決定されたロボット１００の感情値とに基づいて、強度の総合値を算出する。

【0087】

ステップＳ１０８において、記憶制御部２３８は、強度の総合値が閾値以上であるか否かを判定する。強度の総合値が閾値未満である場合には、ユーザの行動を含むデータを履歴データ２２２に記憶せずに、当該処理を終了する。一方、強度の総合値が閾値以上である場合には、ステップＳ１０９へ移行する。

【0088】

ステップＳ１０９において、行動決定部２３６によって決定された行動と、現時点から一定期間前までの、センサモジュール部２１０で解析された情報、及びユーザ状態認識部２３０によって認識されたユーザの状態と、を、履歴データ２２２に記憶する。

【0089】

以上説明したように、ロボット１００は、ユーザの感情と他のユーザの感情とを分析し、ユーザの感情と他のユーザの感情とに対応する自身の行動を決定し、決定した自身の行動に基づいて制御対象を制御する制御部を備える。これにより、ロボット１００は、ユーザの感情と他のユーザの感情とに対応する行動を決定し、ユーザ間の関係性を向上させることができる。

【0090】

また、ロボット１００の制御部は、ユーザの感情と他のユーザの感情とに基づいて、他のユーザの対人スキルを向上させる行動を決定する。これにより、ロボット１００は、ユーザの感情と他のユーザの感情に対応する言動を他のユーザに対してアドバイスし、適切な対応を学習させて、他のユーザの対人スキルを向上させることができる。

【0091】

また、ロボット１００の制御部は、ユーザの感情値を高める振る舞いを他のユーザに教える行動を決定する。これにより、ロボット１００は、分析したユーザの感情値を高めるための言動を他のユーザにアドバイスし、適切な対応を学習させて、ユーザ間の関係性を向上させることができる。

【0092】

また、ロボット１００の制御部は、ユーザの感情と他のユーザの感情とに基づいて、ユーザと他のユーザとの関係性を向上させる行動を決定する。これにより、ロボット１００は、ユーザの感情と他のユーザの感情とを用いて、ユーザともっと仲良くなりたいと考える他のユーザに対して、それぞれの感情に応じたアドバイスを行い、ユーザ間の関係性を向上させることができる。

【0093】

また、ロボット１００の制御部は、ユーザの感情または他のユーザの感情のうちいずれか１つ以上をユーザまたは他のユーザに理解させる行動を決定する。これにより、ロボット１００は、ユーザまたは他のユーザに対して、相手の感情や自身の感情を理解させ、ユーザ間の関係性を向上させることができる。

【0094】

また、ロボット１００の制御部は、ユーザの感情と、ユーザの居住地から所定距離離れた場所に居住する他のユーザの感情とを分析する。これにより、ロボット１００は、例えば、遠距離恋愛の関係にあるユーザ同士の感情を分析し、分析した感情から起こりうる問題の発生を防ぐよう行動することで、関係性を維持し、また、分析した感情をより高めるよう行動することで、関係性の向上を計ることができる。

【0095】

また、ロボット１００の制御部は、ユーザの感情と、ユーザに関する情報と、他のユーザの感情とに基づいて、他のユーザに対する所定の情報提供を行動として決定する。これにより、ロボット１００は、好きな相手やパートナーへのプレゼントをサプライズで用意する際、相手の感情と属性情報等を用いて最適なプレゼントを提案し、双方の感情を用いてユーザに寄り添ったサポートを行うことで、ユーザ間の関係性を向上させることができる。

【0096】

また、ロボット１００の制御部は、ユーザに関する情報として、ユーザの過去の情報、興味、関心、趣味、嗜好、指向、所定の記念日のうちいずれか１つ以上に基づいて、他のユーザに対する所定の情報提供を行動として決定する。これにより、ロボット１００は、好きな相手やパートナーへのプレゼントをサプライズで用意する際、相手の感情と、相手の過去の情報や趣味嗜好、記念日等の情報を用いて最適なプレゼントを提案し、双方の感情を用いてユーザに寄り添ったサポートを行うことで、ユーザ間の関係性を向上させることができる。

【0097】

上記実施形態では、ロボット１００は、ユーザの顔画像を用いてユーザを認識する場合について説明したが、開示の技術はこの態様に限定されない。例えば、ロボット１００は、ユーザが発する音声、ユーザのメールアドレス、ユーザのＳＮＳのＩＤ又はユーザが所持する無線ＩＣタグが内蔵されたＩＤカード等を用いてユーザを認識してもよい。

【0098】

なお、ロボット１００は、行動制御システムを備える電子機器の一例である。行動制御システムの適用対象は、ロボット１００に限られず、様々な電子機器に行動制御システムを適用できる。また、サーバ３００の機能は、１以上のコンピュータによって実装されてよい。サーバ３００の少なくとも一部の機能は、仮想マシンによって実装されてよい。また、サーバ３００の機能の少なくとも一部は、クラウドで実装されてよい。

【0099】

図４は、ロボット１００及びサーバ３００として機能するコンピュータ１２００のハードウェア構成の一例を概略的に示す図である。コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００を、本実施形態に係る装置の１又は複数の「部」として機能させ、又はコンピュータ１２００に、本実施形態に係る装置に関連付けられるオペレーション又は当該１又は複数の「部」を実行させることができ、および／又はコンピュータ１２００に、本実施形態に係るプロセス又は当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ１２００に、本明細書に記載のフローチャートおよびブロック図のブロックのうちのいくつか又は全てに関連付けられた特定のオペレーションを実行させるべく、ＣＰＵ１２１２によって実行されてよい。

【0100】

本実施形態によるコンピュータ１２００は、ＣＰＵ１２１２、ＲＡＭ１２１４、およびグラフィックコントローラ１２１６を含み、それらはホストコントローラ１２１０によって相互に接続されている。コンピュータ１２００はまた、通信インタフェース１２２２、記憶装置１２２４、ＤＶＤドライブ、およびＩＣカードドライブのような入出力ユニットを含み、それらは入出力コントローラ１２２０を介してホストコントローラ１２１０に接続されている。ＤＶＤドライブは、ＤＶＤ－ＲＯＭドライブおよびＤＶＤ－ＲＡＭドライブ等であってよい。記憶装置１２２４は、ハードディスクドライブおよびソリッドステートドライブ等であってよい。コンピュータ１２００はまた、ＲＯＭ１２３０およびキーボードのような入出力ユニットを含み、それらは入出力チップ１２４０を介して入出力コントローラ１２２０に接続されている。

【0101】

ＣＰＵ１２１２は、ＲＯＭ１２３０およびＲＡＭ１２１４内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。グラフィックコントローラ１２１６は、ＲＡＭ１２１４内に提供されるフレームバッファ等又はそれ自体の中に、ＣＰＵ１２１２によって生成されるイメージデータを取得し、イメージデータがディスプレイデバイス１２１８上に表示されるようにする。

【0102】

通信インタフェース１２２２は、ネットワークを介して他の電子デバイスと通信する。記憶装置１２２４は、コンピュータ１２００内のＣＰＵ１２１２によって使用されるプログラムおよびデータを格納する。ＤＶＤドライブは、プログラム又はデータをＤＶＤ－ＲＯＭ等から読み取り、記憶装置１２２４に提供する。ＩＣカードドライブは、プログラムおよびデータをＩＣカードから読み取り、および／又はプログラムおよびデータをＩＣカードに書き込む。

【0103】

ＲＯＭ１２３０はその中に、アクティブ化時にコンピュータ１２００によって実行されるブートプログラム等、および／又はコンピュータ１２００のハードウェアに依存するプログラムを格納する。入出力チップ１２４０はまた、様々な入出力ユニットをＵＳＢポート、パラレルポート、シリアルポート、キーボードポート、マウスポート等を介して、入出力コントローラ１２２０に接続してよい。

【0104】

プログラムは、ＤＶＤ－ＲＯＭ又はＩＣカードのようなコンピュータ可読記憶媒体によって提供される。プログラムは、コンピュータ可読記憶媒体から読み取られ、コンピュータ可読記憶媒体の例でもある記憶装置１２２４、ＲＡＭ１２１４、又はＲＯＭ１２３０にインストールされ、ＣＰＵ１２１２によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ１２００に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置又は方法が、コンピュータ１２００の使用に従い情報のオペレーション又は処理を実現することによって構成されてよい。

【0105】

例えば、通信がコンピュータ１２００および外部デバイス間で実行される場合、ＣＰＵ１２１２は、ＲＡＭ１２１４にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース１２２２に対し、通信処理を命令してよい。通信インタフェース１２２２は、ＣＰＵ１２１２の制御の下、ＲＡＭ１２１４、記憶装置１２２４、ＤＶＤ－ＲＯＭ、又はＩＣカードのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、又はネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。

【0106】

また、ＣＰＵ１２１２は、記憶装置１２２４、ＤＶＤドライブ（ＤＶＤ－ＲＯＭ）、ＩＣカード等のような外部記録媒体に格納されたファイル又はデータベースの全部又は必要な部分がＲＡＭ１２１４に読み取られるようにし、ＲＡＭ１２１４上のデータに対し様々なタイプの処理を実行してよい。ＣＰＵ１２１２は次に、処理されたデータを外部記録媒体にライトバックしてよい。

【0107】

様々なタイプのプログラム、データ、テーブル、およびデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。ＣＰＵ１２１２は、ＲＡＭ１２１４から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索／置換等を含む、様々なタイプの処理を実行してよく、結果をＲＡＭ１２１４に対しライトバックする。また、ＣＰＵ１２１２は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第２の属性の属性値に関連付けられた第１の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、ＣＰＵ１２１２は、当該複数のエントリの中から、第１の属性の属性値が指定されている条件に一致するエントリを検索し、当該エントリ内に格納された第２の属性の属性値を読み取り、それにより予め定められた条件を満たす第１の属性に関連付けられた第２の属性の属性値を取得してよい。

【0108】

上記したプログラム又はソフトウエアモジュールは、コンピュータ１２００上又はコンピュータ１２００近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワーク又はインターネットに接続されたサーバシステム内に提供されるハードディスク又はＲＡＭのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ１２００に提供する。

【0109】

本実施形態におけるフローチャートおよびブロック図におけるブロックは、オペレーションが実行されるプロセスの段階又はオペレーションを実行する役割を持つ装置の「部」を表してよい。特定の段階および「部」が、専用回路、コンピュータ可読記憶媒体上に格納されるコンピュータ可読命令と共に供給されるプログラマブル回路、および／又はコンピュータ可読記憶媒体上に格納されるコンピュータ可読命令と共に供給されるプロセッサによって実装されてよい。専用回路は、デジタルおよび／又はアナログハードウェア回路を含んでよく、集積回路（ＩＣ）および／又はディスクリート回路を含んでよい。プログラマブル回路は、例えば、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、およびプログラマブルロジックアレイ（ＰＬＡ）等のような、論理積、論理和、排他的論理和、否定論理積、否定論理和、および他の論理演算、フリップフロップ、レジスタ、並びにメモリエレメントを含む、再構成可能なハードウェア回路を含んでよい。

【0110】

コンピュータ可読記憶媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよく、その結果、そこに格納される命令を有するコンピュータ可読記憶媒体は、フローチャート又はブロック図で指定されたオペレーションを実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読記憶媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読記憶媒体のより具体的な例としては、フロッピー（登録商標）ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭ又はフラッシュメモリ）、電気的消去可能プログラマブルリードオンリメモリ（ＥＥＰＲＯＭ）、静的ランダムアクセスメモリ（ＳＲＡＭ）、コンパクトディスクリードオンリメモリ（ＣＤ－ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（登録商標）ディスク、メモリスティック、集積回路カード等が含まれてよい。

【0111】

コンピュータ可読命令は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、又はＳｍａｌｌｔａｌｋ（登録商標）、ＪＡＶＡ（登録商標）、Ｃ＋＋等のようなオブジェクト指向プログラミング言語、および「Ｃ」プログラミング言語又は同様のプログラミング言語のような従来の手続型プログラミング言語を含む、１又は複数のプログラミング言語の任意の組み合わせで記述されたソースコード又はオブジェクトコードのいずれかを含んでもよい。

【0112】

コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサ、又はプログラマブル回路が、フローチャート又はブロック図で指定されたオペレーションを実行するための手段を生成するために当該コンピュータ可読命令を実行すべく、ローカルに又はローカルエリアネットワーク（ＬＡＮ）、インターネット等のようなワイドエリアネットワーク（ＷＡＮ）を介して、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサ、又はプログラマブル回路に提供されてよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。

【0113】

（その他の実施形態）
その他の実施形態として、上記のロボット１００を、ぬいぐるみに搭載してもよいし、ぬいぐるみに搭載された制御対象機器（スピーカやカメラ）に無線又は有線で接続された制御装置に適用してもよい。その他の実施形態は、具体的には、以下のように構成される。例えば、ロボット１００をユーザ１０と日常を過ごしながら、当該ユーザ１０と日常に関する情報を基に、対話を進めたり、ユーザ１０の趣味趣向に合わせた情報を提供する共同生活者（具体的には、図９及び図１０に示すぬいぐるみ１００Ｎ）に適用してもよい。本実施形態（その他の実施形態）では、上記のロボット１００の制御部分を、スマートホン５０に適用した例について説明する。

【0114】

ロボット１００の入出力デバイスとしての機能を搭載したぬいぐるみ１００Ｎは、ロボット１００の制御部分として機能するスマートホン５０が着脱可能であり、ぬいぐるみ１００Ｎの内部で、入出力デバイスと、収容されたスマートホン５０とが接続されている。

【0115】

図９（Ａ）に示される如く、ぬいぐるみ１００Ｎは、本実施形態（その他の実施形態）では、外観が柔らかい布生地で覆われた熊の形状であり、図９（Ｂ）に示される如く、その内方に形成された空間部５２には、入出力デバイスとして、耳５４に相当する部分にセンサ部２００のマイク２０１（図２参照）が配置され、目５６に相当する部分にセンサ部２００の２Ｄカメラ２０３が配置され（図２参照）、及び、口５８に相当する部分に制御対象２５２（図２参照）の一部を構成するスピーカ６０が配置されている。なお、マイク２０１及びスピーカ６０は、必ずしも別体である必要はなく、一体型のユニットであってもよい。ユニットの場合は、ぬいぐるみ１００Ｎの鼻の位置など、発話が自然に聞こえる位置に配置するとよい。なお、ぬいぐるみ１００Ｎは、動物の形状である場合を例に説明したが、これに限定されるものではない。ぬいぐるみ１００Ｎは、特定のキャラクタの形状であってもよい。

【0116】

スマートホン５０は、図２に示す、センサモジュール部２１０としての機能、格納部２２０としての機能、ユーザ状態認識部２３０としての機能、感情決定部２３２としての機能、行動認識部２３４としての機能、行動決定部２３６としての機能、記憶制御部２３８としての機能、行動制御部２５０としての機能、及び、通信処理部２８０としての機能を有する。

【0117】

図１０に示される如く、ぬいぐるみ１００Ｎの一部（例えば、背部）には、ファスナー６２が取り付けられており、当該ファスナー６２を開放することで、外部と空間部５２とが連通する構成となっている。

【0118】

ここで、スマートホン５０が、外部から空間部５２へ収容され、ＵＳＢハブ６４（図９（Ｂ）参照）を介して、各入出力デバイスとＵＳＢ接続することで、図１に示すロボット１００と同等の機能を持たせることができる。また、ＵＳＢハブ６４には、非接触型の受電プレート６６が接続されている。受電プレート６６には、受電用コイル６６Ａが組み込まれている。受電プレート６６は、ワイヤレス給電を受電するワイヤレス受電部の一例である。

【0119】

受電プレート６６は、ぬいぐるみ１００Ｎの両足の付け根部６８付近に配置され、ぬいぐるみ１００Ｎを載置ベース７０に置いたときに、最も載置ベース７０に近い位置となる。載置ベース７０は、外部のワイヤレス送電部の一例である。

【0120】

この載置ベース７０に置かれたぬいぐるみ１００Ｎが、自然な状態で置物として鑑賞することが可能である。

【0121】

また、この付け根部は、他の部位のぬいぐるみ１００Ｎの表層厚さに比べて薄く形成しており、より載置ベース７０に近い状態で保持されるようになっている。

【0122】

載置ベース７０には、充電パット７２を備えている。充電パット７２は、送電用コイル７２Ａが組み込まれており、送電用コイル７２Ａが信号を送って、受電プレート６６の受電用コイル６６Ａを検索し、受電用コイル６６Ａが見つかると、送電用コイル７２Ａに電流が流れて磁界を発生させ、受電用コイル６６Ａが磁界に反応して電磁誘導が始まる。これにより、受電用コイル６６Ａに電流が流れ、ＵＳＢハブ６４を介して、スマートホン５０のバッテリー（図示省略）に電力が蓄えられる。

【0123】

すなわち、ぬいぐるみ１００Ｎを置物として載置ベース７０に載置することで、スマートホン５０は、自動的に充電されるため、充電のために、スマートホン５０をぬいぐるみ１００Ｎの空間部５２から取り出す必要がない。

【0124】

なお、本実施形態（他の実施形態）では、スマートホン５０をぬいぐるみ１００Ｎの空間部５２に収容して、有線による接続（ＵＳＢ接続）したが、これに限定されるものではない。例えば、無線機能（例えば、「Bluetooth（登録商標）」）を持たせた制御装置をぬいぐるみ１００Ｎの空間部５２に収容して、制御装置をＵＳＢハブ６４に接続してもよい。この場合、スマートホン５０を空間部５２に入れずに、スマートホン５０と制御装置とが、無線で通信し、外部のスマートホン５０が、制御装置を介して、各入出力デバイスと接続することで、図１に示すロボット１００と同等の機能を持たせることができる。また、制御装置をぬいぐるみ１００Ｎの空間部５２に収容した制御装置と、外部のスマートホン５０とを有線で接続してもよい。

【0125】

また、本実施形態（他の実施形態）では、熊のぬいぐるみ１００Ｎを例示したが、他の動物でもよいし、人形であってもよいし、特定のキャラクタの形状であってもよい。また、着せ替え可能でもよい。さらに、表皮の材質は、布生地に限らず、ソフトビニール製等、他の材質でもよいが、柔らかい材質であることが好ましい。

【0126】

さらに、ぬいぐるみ１００Ｎの表皮にモニタを取り付けて、ユーザ１０に視覚を通じて情報を提供する制御対象２５２を追加してもよい。例えば、目５６をモニタとして、目に映る画像によって喜怒哀楽を表現してもよいし、腹部に、内蔵したスマートホン５０のモニタが透過する窓を設けてもよい。さらに、目５６をプロジェクターとして、壁面に投影した画像によって喜怒哀楽を表現してもよい。

【0127】

他の実施形態によれば、ぬいぐるみ１００Ｎの中に既存のスマートホン５０を入れ、そこから、ＵＳＢ接続を介して、カメラ２０３、マイク２０１、スピーカ６０等をそれぞれ適切な位置に延出させた。

【0128】

さらに、ワイヤレス充電のために、スマートホン５０と受電プレート６６とをＵＳＢ接続して、受電プレート６６を、ぬいぐるみ１００Ｎの内部からみてなるべく外側に来るように配置した。

【0129】

スマートホン５０のワイヤレス充電を使おうとすると、スマートホン５０をぬいぐるみ１００Ｎの内部からみてできるだけ外側に配置しなければならず、ぬいぐるみ１００Ｎを外から触ったときにごつごつしてしまう。

【0130】

そのため、スマートホン５０を、できるだけぬいぐるみ１００Ｎの中心部に配置し、ワイヤレス充電機能（受電プレート６６）を、できるだけぬいぐるみ１００Ｎの内部からみて外側に配置した。カメラ２０３、マイク２０１、スピーカ６０、及びスマートホン５０は、受電プレート６６を介してワイヤレス給電を受電する。

【0131】

感情決定部２３２は、特定のマッピングに従い、ユーザの感情を決定してよい。具体的には、感情決定部２３２は、特定のマッピングである感情マップ（図５参照）に従い、ユーザの感情を決定してよい。

【0132】

図５は、複数の感情がマッピングされる感情マップ７００を示す図である。感情マップ７００において、感情は、中心から放射状に同心円に配置されている。同心円の中心に近いほど、原始的状態の感情が配置されている。同心円のより外側には、心境から生まれる状態や行動を表す感情が配置されている。感情とは、情動や心的状態も含む概念である。同心円の左側には、概して脳内で起きる反応から生成される感情が配置されている。同心円の右側には概して、状況判断で誘導される感情が配置されている。同心円の上方向及び下方向には、概して脳内で起きる反応から生成され、かつ、状況判断で誘導される感情が配置されている。また、同心円の上側には、「快」の感情が配置され、下側には、「不快」の感情が配置されている。このように、感情マップ７００では、感情が生まれる構造に基づいて複数の感情がマッピングされており、同時に生じやすい感情が、近くにマッピングされている。

【0133】

（１）例えばロボット１００の感情決定部２３２である感情エンジンが、１００ｍｓｅｃ程度で感情を検知している場合、ロボット１００の反応動作（例えば相槌）の決定は、頻度が少なくとも、感情エンジンの検知頻度（１００ｍｓｅｃ）と同様のタイミングに設定してよく、これよりも早いタイミングに設定してもよい。感情エンジンの検知頻度はサンプリングレートと解釈してよい。

【0134】

１００ｍｓｅｃ程度で感情を検知し、即時に連動して反動動作（例えば相槌）を行うことで、不自然な相槌ではなくなり、自然な空気を読んだ対話を実現できる。ロボット１００感情マップ７００の曼荼羅の方向性とその度合い（強さ）に応じて、反動動作（相槌など）を行う。なお、感情エンジンの検知頻度（サンプリングレート）は、１００ｍｓに限定されず、シチュエーション（スポーツをしている場合など）、ユーザの年齢などに応じて、変更してもよい。

【0135】

（２）感情マップ７００と照らし合わせ、感情の方向性とその度合いの強さを予め設定しておき、相槌の動き及び相槌の強弱を設定してよい。例えば、ロボット１００が安定感、安心などを感じている場合、ロボット１００は、頷いて話を聞き続ける。ロボット１００が不安、迷い、怪しい感じを覚えている場合、ロボット１００は、首をかしげてもよく、首振りを止めてもよい。

【0136】

これらの感情は、感情マップ７００の３時の方向に分布しており、普段は安心と不安のあたりを行き来する。感情マップ７００の右半分では、内部的な感覚よりも状況認識の方が優位に立つため、落ち着いた印象になる。

【0137】

（３）ロボット１００が褒められて快感を覚えた場合、「あー」というフィラーが台詞の前に入り、きつい言葉をもらって痛感を覚えた場合、「うっ！」というフィラーが台詞の前に入ってよい。また、ロボット１００が「うっ！」と言いつつうずくまる仕草などの身体的な反応を含めてよい。これらの感情は、感情マップ７００の９時あたりに分布している。

【0138】

（４）感情マップ７００の左半分では、状況認識よりも内部的な感覚（反応）の方が優位に立つ。よって、思わず反応してしまった印象を与え得る。

【0139】

ロボット１００が納得感という内部的な感覚（反応）を覚えながら状況認識においても好感を覚える場合、ロボット１００は、相手を見ながら深く頷いてよく、また「うんうん」と発してよい。このように、ロボット１００は、相手へのバランスのとれた好感、すなわち、相手への許容や寛容といった行動を生成してよい。このような感情は、感情マップ７００の１２時あたりに分布している。

【0140】

逆に、ロボット１００が不快感という内部的な感覚（反応）を覚えながら状況認識においても、ロボット１００は、嫌悪を覚えるときには首を横に振る、憎しみを覚えるくらいになると、目のＬＥＤを赤くして相手を睨んでもよい。このような感情は、感情マップ７００の６時あたりに分布している。

【0141】

（５）感情マップ７００の内側は心の中、感情マップ７００の外側は行動を表すため、感情マップ７００の外側に行くほど、感情が目に見える（行動に表れる）ようになる。

【0142】

（６）感情マップ７００の３時付近に分布する安心を覚えながら、人の話を聞く場合、ロボット１００は、軽く首を縦に振って「ふんふん」と発する程度であるが、１２時付近の愛の方になると、首を深く縦に振るような力強い頷きをしてよい。

【0143】

感情決定部２３２は、センサモジュール部２１０で解析された情報、及び認識されたユーザ１０の状態を、予め学習されたニューラルネットワークに入力し、感情マップ７００に示す各感情を示す感情値を取得し、ユーザ１０の感情を決定する。このニューラルネットワークは、センサモジュール部２１０で解析された情報、及び認識されたユーザ１０の状態と、感情マップ７００に示す各感情を示す感情値との組み合わせである複数の学習データに基づいて予め学習されたものである。また、このニューラルネットワークは、図６に示す感情マップ９００のように、近くに配置されている感情同士は、近い値を持つように学習される。図６は、感情マップの他の例を示す図である。図６では、「安心」、「安穏」、「心強い」という複数の感情が、近い感情値となる例を示している。

【0144】

また、感情決定部２３２は、特定のマッピングに従い、ロボット１００の感情を決定してよい。具体的には、感情決定部２３２は、センサモジュール部２１０で解析された情報、ユーザ状態認識部２３０によって認識されたユーザ１０の状態、及びロボット１００の状態を、予め学習されたニューラルネットワークに入力し、感情マップ７００に示す各感情を示す感情値を取得し、ロボット１００の感情を決定する。このニューラルネットワークは、センサモジュール部２１０で解析された情報、認識されたユーザ１０の状態、及びロボット１００の状態と、感情マップ７００に示す各感情を示す感情値との組み合わせである複数の学習データに基づいて予め学習されたものである。例えば、タッチセンサ２０７の出力から、ロボット１００がユーザ１０になでられていると認識される場合に、「嬉しい」の感情値「３」となることを表す学習データや、加速度センサ２０５の出力から、ロボット１００がユーザ１０に叩かれていると認識される場合に、「怒」の感情値「３」となることを表す学習データに基づいて、ニューラルネットワークが学習される。また、このニューラルネットワークは、図６に示す感情マップ９００のように、近くに配置されている感情同士は、近い値を持つように学習される。

【0145】

また、感情決定部２３２は、文章生成モデルによって生成されたロボット１００の行動内容に基づいて、ロボット１００の感情を決定してもよい。具体的には、感情決定部２３２は、文章生成モデルによって生成されたロボット１００の行動内容を、予め学習されたニューラルネットワークに入力し、感情マップ７００に示す各感情を示す感情値を取得し、取得した各感情を示す感情値と、現在のロボット１００の各感情を示す感情値とを統合し、ロボット１００の感情を更新する。例えば、取得した各感情を示す感情値と、現在のロボット１００の各感情を示す感情値とをそれぞれ平均して、統合する。このニューラルネットワークは、文章生成モデルによって生成されたロボット１００の行動内容を表すテキストと、感情マップ７００に示す各感情を示す感情値との組み合わせである複数の学習データに基づいて予め学習されたものである。

【0146】

例えば、文章生成モデルによって生成されたロボット１００の行動内容として、ロボット１００の発話内容「それはよかったね。ラッキーだったね。」が得られた場合には、この発話内容を表すテキストをニューラルネットワークに入力すると、感情「嬉しい」の感情値として高い値が得られ、感情「嬉しい」の感情値が高くなるように、ロボット１００の感情が更新される。

【0147】

行動決定部２３６は、ユーザの行動と、ユーザの感情、ロボットの感情とを表すテキストに、ユーザの行動に対応するロボットの行動内容を質問するための固定文を追加して、対話機能に入力することにより、ロボットの行動内容を生成する。

【0148】

例えば、行動決定部２３６は、感情決定部２３２によって決定されたロボット１００の感情から、図７に示すような感情テーブルを用いて、ロボット１００の状態を表すテキストを取得する。図７は、感情テーブルの一例を示す図である。ここで、感情テーブルには、感情の種類毎に、各感情値に対してインデックス番号が付与されており、インデックス番号毎に、ロボット１００の状態を表すテキストが格納されている。

【0149】

感情決定部２３２によって決定されたロボット１００の感情が、インデックス番号「２」に対応する場合、「とても楽しい状態」というテキストが得られる。なお、ロボット１００の感情が、複数のインデックス番号に対応する場合、ロボット１００の状態を表すテキストが複数得られる。

【0150】

また、ユーザ１０の感情に対しても、図８に示すような感情テーブルを用意しておく。図８は、感情テーブルの一例を示す図である。ここで、ユーザの行動が、「ＡＡＡです。」と話しかけるものであり、ロボット１００の感情が、インデックス番号「２」であり、ユーザ１０の感情が、インデックス番号「３」である場合には、「ロボットはとても楽しい状態です。ユーザは普通に楽しい状態です。ユーザに「ＡＡＡです。」と話しかけられました。ロボットとして、どのように返事をしますか？」と文章生成モデルに入力し、ロボットの行動内容を取得する。行動決定部２３６は、この行動内容から、ロボットの行動を決定する。なお、「ＡＡＡ」は、ユーザがロボット１００に付けた名称（呼び名）である。

【0151】

このように、ロボット１００は、ロボットの感情に応じたインデックス番号に応じて、ロボットの行動を変えることができるため、ユーザは、ロボット１００に心があるような印象を持ち、ロボットに対して話しかけるなどの行動をとることが促進される。

【0152】

また、行動決定部２３６は、ユーザの行動と、ユーザの感情、ロボットの感情とを表すテキストだけでなく、履歴データ２２２の内容を表すテキストも追加した上で、ユーザの行動に対応するロボットの行動内容を質問するための固定文を追加して、対話機能に入力することにより、ロボットの行動内容を生成するようにしてもよい。これにより、ロボット１００は、ユーザの感情や行動を表す履歴データに応じて、ロボットの行動を変えることができるため、ユーザは、ロボットに個性があるような印象を持ち、ロボットに対して話しかけるなどの行動をとることが促進される。また、履歴データに、ロボットの感情や行動を更に含めるようにしてもよい。

【0153】

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

【0154】

特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階などの各処理の実行順序は、特段「より前に」、「先立って」などと明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」などを用いて説明したとしても、この順で実施することが必須であることを意味するものではない。

【符号の説明】

【0155】

１ 制御システム
２０ 通信網
１００ ロボット（電子機器）
２００ センサ部
２０１ マイク
２０２ ３Ｄ深度センサ
２０３ ２Ｄカメラ
２０４ 距離センサ
２１０ センサモジュール部
２１１ 音声感情認識部
２１２ 発話理解部
２１３ 表情認識部
２１４ 顔認識部
２２０ 格納部
２２１ 反応ルール
２２２ 履歴データ
２３０ ユーザ状態認識部
２３２ 感情決定部
２３４ 行動認識部
２３６ 行動決定部
２３８ 記憶制御部
２５０ 行動制御部
２５２ 制御対象
２８０ 通信処理部
３００ サーバ
４００ 連携機器

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】