IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソフトバンクグループ株式会社の特許一覧

<>
  • 特開-電子機器 図1
  • 特開-電子機器 図2
  • 特開-電子機器 図3
  • 特開-電子機器 図4
  • 特開-電子機器 図5
  • 特開-電子機器 図6
  • 特開-電子機器 図7
  • 特開-電子機器 図8
  • 特開-電子機器 図9
  • 特開-電子機器 図10
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024159597
(43)【公開日】2024-11-08
(54)【発明の名称】電子機器
(51)【国際特許分類】
   G06N 3/008 20230101AFI20241031BHJP
   G06F 3/01 20060101ALI20241031BHJP
   G16H 50/30 20180101ALI20241031BHJP
【FI】
G06N3/008
G06F3/01 510
G16H50/30
【審査請求】未請求
【請求項の数】5
【出願形態】OL
(21)【出願番号】P 2024067700
(22)【出願日】2024-04-18
(31)【優先権主張番号】P 2023075014
(32)【優先日】2023-04-28
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】591280485
【氏名又は名称】ソフトバンクグループ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】孫 正義
【テーマコード(参考)】
5E555
5L099
【Fターム(参考)】
5E555AA48
5E555AA59
5E555AA71
5E555BA02
5E555BA90
5E555BB02
5E555BB40
5E555BC04
5E555CA41
5E555CA42
5E555CA47
5E555CB64
5E555CB67
5E555CC03
5E555DA23
5E555DA40
5E555EA05
5E555EA19
5E555EA22
5E555EA23
5E555EA27
5E555EA28
5E555FA00
5L099AA15
(57)【要約】      (修正有)
【課題】ユーザをサポートする電子機器を提供すること。
【解決手段】ロボットは、ユーザ状態認識部と、感情決定部と、行動決定部と、体調推定部と、を含む。ユーザ状態認識部は、子供の状態を認識し、感情決定部は、認識部が認識した子供の状態に基づいて、子供の感情を推定し、行動決定部は、感情推定部が推定した子供の感情に応じた支援を行い、子供の保護者向けの支援として、子供の感情に対応する方法を提案し、また、体調推定部が推定した子供の体調に応じた支援を行う。
【選択図】図2
【特許請求の範囲】
【請求項1】
子供の状態を認識する認識部と、
前記認識部により認識した子供の状態に基づいて、子供の感情を推定する感情推定部と、
前記感情推定部により推定した前記子供の感情に応じた支援を行う支援部と、
を備える電子機器。
【請求項2】
前記支援部は、前記子供の保護者向けの支援を行う
請求項1に記載の電子機器。
【請求項3】
前記支援部は、前記保護者向けに、前記子供の感情に対応する方法を提案する
請求項2に記載の電子機器。
【請求項4】
前記認識部により認識した前記子供の状態に基づいて、前記子供の体調を推定する体調推定部をさらに備え、
前記支援部は、前記体調推定部により推定した前記子供の体調に応じた支援を行う
請求項1に記載の電子機器。
【請求項5】
前記電子機器は、
ぬいぐるみに搭載され、又はぬいぐるみに搭載された制御対象機器に無線又は有線で接続される
請求項1に記載の電子機器。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、電子機器に関する。
【背景技術】
【0002】
特許文献1には、ユーザの状態に対してロボットの適切な行動を決定する技術が開示されている。特許文献1の従来技術は、ロボットが特定の行動を実行したときのユーザの反応を認識し、認識したユーザの反応に対するロボットの行動を決定できなかった場合、認識したユーザの状態に適した行動に関する情報をサーバから受信することで、ロボットの行動を更新する。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第6053847号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら従来技術では、ユーザをサポートする点で改善の余地があった。
【課題を解決するための手段】
【0005】
本発明の第1の態様によれば、電子機器が提供される。当該電子機器は、認識部と、感情推定部と、支援部とを備える。認識部は、子供の状態を認識する。感情推定部は、認識部により認識した子供の状態に基づいて、子供の感情を推定する。支援部は、感情推定部により推定した子供の感情に応じた支援を行う。
【図面の簡単な説明】
【0006】
図1図1は、本実施形態に係る制御システム1の一例を概略的に示す図である。
図2図2は、ロボット100の機能構成を概略的に示す図である。
図3図3は、ロボット100による動作フローの一例を概略的に示す図である。
図4図4は、コンピュータ1200のハードウェア構成の一例を概略的に示す図である。
図5図5は、複数の感情がマッピングされる感情マップを示す図である。
図6図6は、感情マップの他の例を示す図である。
図7図7は、感情テーブルの一例を示す図である。
図8図8は、感情テーブルの一例を示す図である。
図9図9は、その他の実施形態に係るぬいぐるみの一例を示す図である。
図10図10は、その他の実施形態に係るぬいぐるみの背面正面図である。
【発明を実施するための形態】
【0007】
以下、実施形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
【0008】
実施形態では、電子機器をロボットとした場合を例に説明する。図1は、本実施形態に係る制御システム1の一例を概略的に示す図である。図1に示すように、制御システム1は、複数のロボット100と、連携機器400と、サーバ300とを備える。複数のロボット100は、それぞれユーザによって管理される。ロボット100は、電子機器の一例である。
【0009】
ロボット100の外観は、人の姿を模したものであってもよいし、ぬいぐるみであってもよい。ロボット100は、外観をぬいぐるみとした場合、子供から親しみを持たれやすいと考えられる。
【0010】
ロボット100は、ユーザと会話を行ったり、ユーザに映像を提供したりする。このとき、ロボット100は、通信網20を介して通信可能なサーバ300等と連携して、ユーザとの会話や、ユーザへの映像等の提供を行う。例えば、ロボット100は、自身で適切な会話を学習するだけでなく、サーバ300と連携して、ユーザとより適切に会話を進められるように学習を行う。また、ロボット100は、撮影したユーザの映像データ等をサーバ300に記録させ、必要に応じて映像データ等をサーバ300に要求して、ユーザに提供する。
【0011】
また、ロボット100は、自身の感情の種類を表す感情値を持つ。例えば、ロボット100は、「喜」、「怒」、「哀」、「楽」、「快」、「不快」、「安心」、「不安」、「悲しみ」、「興奮」、「心配」、「安堵」、「充実感」、「虚無感」及び「普通」のそれぞれの感情の強さを表す感情値を持つ。ロボット100は、例えば興奮の感情値が大きい状態でユーザと会話するときは、早いスピードで音声を発する。このように、ロボット100は、自己の感情を行動で表現することができる。
【0012】
また、ロボット100は、文章生成モデル(いわゆる、AI(Artificial Intelligence)チャットエンジン)と感情エンジンをマッチングさせることで、ユーザの感情に対応するロボット100の行動を決定するように構成してよい。具体的には、ロボット100は、ユーザの行動を認識して、当該ユーザの行動に対するユーザの感情を判定し、判定した感情に対応するロボット100の行動を決定するように構成してよい。
【0013】
より具体的には、ロボット100は、ユーザの行動を認識した場合、予め設定された文章生成モデルを用いて、当該ユーザの行動に対してロボット100がとるべき行動内容を自動で生成する。文章生成モデルは、文字による自動対話処理のためのアルゴリズム及び演算と解釈してよい。文章生成モデルは、例えば特開2018-081444号公報やchatGPT(インターネット検索<URL: https://openai.com/blog/chatgpt>)に開示される通り公知であるため、その詳細な説明を省略する。このような、文章生成モデルは、大規模言語モデル(LLM:Large Language Model)により構成されている。以上、本実施形態は、大規模言語モデルと感情エンジンとを組み合わせることにより、ユーザやロボット100の感情と、様々な言語情報とをロボット100の行動に反映させるということができる。つまり、本実施形態によれば、文章生成モデルと感情エンジンとを組み合わせることにより、相乗効果を得ることができる。
【0014】
また、ロボット100は、ユーザの行動を認識する機能を有する。ロボット100は、カメラ機能で取得したユーザの顔画像や、マイク機能で取得したユーザの音声を解析することによって、ユーザの行動を認識する。ロボット100は、認識したユーザの行動等に基づいて、ロボット100が実行する行動を決定する。
【0015】
ロボット100は、ユーザの感情、ロボット100の感情、及びユーザの行動に基づいてロボット100が実行する行動を定めたルールを記憶しており、ルールに従って各種の行動を行う。
【0016】
具体的には、ロボット100には、ユーザの感情、ロボット100の感情、及びユーザの行動に基づいてロボット100の行動を決定するための反応ルールを有している。反応ルールには、例えば、ユーザの行動が「笑う」である場合に対して、「笑う」という行動が、ロボット100の行動として定められている。また、反応ルールには、ユーザの行動が「怒る」である場合に対して、「謝る」という行動が、ロボット100の行動として定められている。また、反応ルールには、ユーザの行動が「質問する」である場合に対して、「回答する」という行動が、ロボット100の行動として定められている。反応ルールには、ユーザの行動が「悲しむ」である場合に対して、「声をかける」という行動が、ロボット100の行動として定められている。
【0017】
ロボット100は、反応ルールに基づいて、ユーザの行動が「怒る」であると認識した場合、反応ルールで定められた「謝る」という行動を、ロボット100が実行する行動として選択する。例えば、ロボット100は、「謝る」という行動を選択した場合に、「謝る」動作を行うと共に、「謝る」言葉を表す音声を出力する。
【0018】
また、ロボット100の感情が「普通」(すわなち、「喜」=0、「怒」=0、「哀」=0、「楽」=0)であり、ユーザの状態が「1人、寂しそう」という条件が満たされた場合に、ロボット100の感情が「心配になる」という感情の変化内容と、「声をかける」の行動を実行できることが定められている。
【0019】
ロボット100は、反応ルールに基づいて、ロボット100の現在の感情が「普通」であり、かつ、ユーザが1人で寂しそうな状態にあると認識した場合、ロボット100の「哀」の感情値を増大させる。また、ロボット100は、反応ルールで定められた「声をかける」という行動を、ユーザに対して実行する行動として選択する。例えば、ロボット100は、「声をかける」という行動を選択した場合に、心配していることを表す「どうしたの?」という言葉を、心配そうな音声に変換して出力する。
【0020】
また、ロボット100は、この行動によって、ユーザからポジティブな反応が得られたことを示すユーザ反応情報を、サーバ300に送信する。ユーザ反応情報には、例えば、「怒る」というユーザ行動、「謝る」というロボット100の行動、ユーザの反応がポジティブであったこと、及びユーザの属性が含まれる。
【0021】
サーバ300は、各ロボット100から受信したユーザ反応情報を記憶する。そして、サーバ300は、各ロボット100からのユーザ反応情報を解析して、反応ルールを更新する。
【0022】
ロボット100は、更新された反応ルールをサーバ300に問い合わせることにより、更新された反応ルールをサーバ300から受信する。ロボット100は、更新された反応ルールを、ロボット100が記憶している反応ルールに組み込む。これにより、ロボット100は、他のロボット100が獲得した反応ルールを、自身の反応ルールに組み込むことができる。反応ルールが更新された場合、サーバ300から自動的にロボット100に送信されてもよい。
【0023】
また、ロボット100は、連携機器400と連携した行動を実行することができる。連携機器400は、例えば、Iot家電、Iot機器などの通信可能な機器である。連携機器400としては、例えば、エアコン、iot健康機器(体温計、体重計)、冷蔵庫、端末機器(PC(Personal Computer)や、スマートフォン、タブレット等)、洗濯機、自動車、カメラ、トイレ設備、電動歯ブラシ、テレビ、ディスプレイ、家具(クローゼット等)、薬箱、照明機器、運動玩具(一輪車等)である。これら連携機器400は、通信網20を介してロボット100と通信可能に接続され、ロボット100との間で情報の送受信を行う。この構成により、連携機器400は、ロボット100の指示に従って、自身の制御や、ユーザとの会話等を行う。
【0024】
本開示では、連携機器400であるエアコン、iot健康機器(体温計、体重計)と、ロボット100との連携により、ユーザに対して各種行動を実行する例について説明する。連携機器400は、ユーザの身体状態に関する値を計測し、計測した値のデータをサーバ300やロボット100に送信する。例えば、連携機器400を体温計、体重計とする。連携機器400は、体温や体重のデータを送信する。
【0025】
ロボット100は、乳幼児などの子供の保護者などのユーザ向けに子育ての支援を実行する。例えば、ロボット100は、子供の感情や行動に対応する方法を提案する。また、ロボット100は、連携機器400と連携して子育ての支援を実行する。
【0026】
具体的には、ロボット100は、連携機器400であるiot健康機器からユーザの身体状態に関するデータを収集する。例えば、子供を含む各ユーザには、それぞれを識別するIDなどの識別情報が事前に定められている。iot健康機器では、識別情報を入力してユーザの身体状態に関する値を計測する。例えば、体温計、体重計では、子供の識別情報を入力して子供の体温や体重を計測する。例えば、ロボット100は、体温計、体重計から子供の識別情報に対応した体温や体重のデータを収集する。
【0027】
ロボット100は、収集したデータから子供の状態を認識し、認識した子供の状態に基づいて、子供の感情を推定する。ロボット100は、推定した子供の感情に応じた支援を行う。
【0028】
図2は、ロボット100の機能構成を概略的に示す。ロボット100は、センサ部200と、センサモジュール部210と、格納部220と、ユーザ状態認識部230と、体調推定部231と、感情決定部232と、行動認識部234と、行動決定部236と、記憶制御部238と、行動制御部250と、制御対象252と、通信処理部280と、を有する。
【0029】
制御対象252は、表示装置2521、スピーカ2522、ランプ2523(例えば、目部のLED)、腕、手及び足等を駆動するモータ2524等を含む。ロボット100の姿勢や仕草は、腕、手及び足等のモータ2524を制御することにより制御される。ロボット100の感情の一部は、これらのモータ2524を制御することにより表現できる。また、ロボット100の目部のLEDの発光状態を制御することによっても、ロボット100の表情を表現できる。表示装置2521は、ユーザとの会話内容を文字として表示してもよい。なお、ロボット100の姿勢、仕草及び表情は、ロボット100の態度の一例である。
【0030】
センサ部200は、マイク201と、3D深度センサ202と、2Dカメラ203と、距離センサ204とを含む。マイク201は、音声を連続的に検出して音声データを出力する。なお、マイク201は、ロボット100の頭部に設けられ、バイノーラル録音を行う機能を有してよい。3D深度センサ202は、赤外線パターンを連続的に照射して、赤外線カメラで連続的に撮影された赤外線画像から赤外線パターンを解析することによって、物体の輪郭を検出する。2Dカメラ203は、イメージセンサの一例である。2Dカメラ203は、可視光によって撮影して、可視光の映像情報を生成する。距離センサ204は、例えばレーザや超音波等を照射して物体までの距離を検出する。なお、センサ部200は、この他にも、サーモグラフィ、加速度センサ、時計、ジャイロセンサ、タッチセンサ、モータフィードバック用のセンサ等を含んでよい。
【0031】
なお、図2に示すロボット100の構成要素のうち、制御対象252及びセンサ部200を除く構成要素は、ロボット100が有する行動制御システムが有する構成要素の一例である。ロボット100の行動制御システムは、制御対象252を制御の対象とする。
【0032】
格納部220は、反応ルール221、履歴データ222、病状データ223及び支援ルール224を含む。履歴データ222は、ユーザの過去の感情状態及び行動の履歴を含む。例えば、履歴データ222は、ユーザの過去の感情値及び行動の履歴のデータを記憶する。この感情値及び行動の履歴は、例えば、ユーザの識別情報に対応付けられることによって、ユーザ毎に記録される。病状データ223には、病気ごとに、病状に関する情報が記憶されている。支援ルール224は、ロボット100が支援する行動を定めたルールである。支援ルール224には、子供の体調毎に、ユーザの行動に対してロボット100が応答、支援する内容に関する情報が記憶されている。格納部220の少なくとも一部は、メモリ等の記憶媒体によって実装される。格納部220は、ユーザの顔画像、ユーザの属性情報等を格納する人物DBを含んでもよい。なお、図2に示すロボット100の構成要素のうち、制御対象252、センサ部200及び格納部220を除く構成要素の機能は、CPUがプログラムに基づいて動作することによって実現できる。例えば、基本ソフトウエア(OS)及びOS上で動作するプログラムによって、これらの構成要素の機能をCPUの動作として実装できる。
【0033】
センサモジュール部210は、音声感情認識部211と、発話理解部212と、表情認識部213と、顔認識部214とを含む。センサモジュール部210には、センサ部200で検出された情報が入力される。センサモジュール部210は、センサ部200で検出された情報を解析して、解析結果をユーザ状態認識部230に出力する。
【0034】
センサモジュール部210の音声感情認識部211は、マイク201で検出されたユーザの音声を解析して、ユーザの感情を認識する。例えば、音声感情認識部211は、音声の周波数成分等の特徴量を抽出して、抽出した特徴量に基づいて、ユーザの感情を認識する。発話理解部212は、マイク201で検出されたユーザの音声を解析して、ユーザの発話内容を表す文字情報を出力する。
【0035】
表情認識部213は、2Dカメラ203で撮影されたユーザの画像から、ユーザの表情及びユーザの感情を認識する。例えば、表情認識部213は、目及び口の形状、位置関係等に基づいて、ユーザの表情及び感情を認識する。
【0036】
顔認識部214は、ユーザの顔を認識する。顔認識部214は、人物DB(図示省略)に格納されている顔画像と、2Dカメラ203によって撮影されたユーザの顔画像とをマッチングすることによって、ユーザを認識する。
【0037】
ユーザ状態認識部230は、センサモジュール部210で解析された情報に基づいて、ユーザの状態を認識する。例えば、センサモジュール部210の解析結果を用いて、主として知覚に関する処理を行う。例えば、「パパが1人です。」、「パパが笑顔でない確率90%です。」等の知覚情報を生成する。生成された知覚情報の意味を理解する処理を行う。例えば、「パパが1人、寂しそうです。」等の意味情報を生成する。
【0038】
感情決定部232は、センサモジュール部210で解析された情報、及びユーザ状態認識部230によって認識されたユーザの状態に基づいて、ユーザの感情を示す感情値を決定する。例えば、センサモジュール部210で解析された情報、及び認識されたユーザの状態を、予め学習されたニューラルネットワークに入力し、ユーザの感情を示す感情値を取得する。
【0039】
ここで、ユーザの感情を示す感情値とは、ユーザの感情の正負を示す値であり、例えば、ユーザの感情が、「喜」、「楽」、「快」、「安心」、「興奮」、「安堵」、及び「充実感」のように、快感や安らぎを伴う明るい感情であれば、正の値を示し、明るい感情であるほど、大きい値となる。ユーザの感情が、「怒」、「哀」、「不快」、「不安」、「悲しみ」、「心配」、及び「虚無感」のように、嫌な気持ちになってしまう感情であれば、負の値を示し、嫌な気持ちであるほど、負の値の絶対値が大きくなる。ユーザの感情が、上記の何れでもない場合(「普通」)、0の値を示す。
【0040】
また、感情決定部232は、センサモジュール部210で解析された情報、及びユーザ状態認識部230によって認識されたユーザの状態に基づいて、ロボット100の感情を示す感情値を決定する。
【0041】
ロボット100の感情値は、複数の感情分類の各々に対する感情値を含み、例えば、「喜」、「怒」、「哀」、「楽」それぞれの強さを示す値(0~5)である。
【0042】
具体的には、感情決定部232は、センサモジュール部210で解析された情報、及びユーザ状態認識部230によって認識されたユーザの状態に対応付けて定められた、ロボット100の感情値を更新するルールに従って、ロボット100の感情を示す感情値を決定する。
【0043】
例えば、感情決定部232は、ユーザ状態認識部230によってユーザが寂しそうと認識された場合、ロボット100の「哀」の感情値を増大させる。また、ユーザ状態認識部230によってユーザが笑顔になったと認識された場合、ロボット100の「喜」の感情値を増大させる。
【0044】
なお、感情決定部232は、ロボット100の状態を更に考慮して、ロボット100の感情を示す感情値を決定してもよい。例えば、ロボット100のバッテリー残量が少ない場合やロボット100の周辺環境が真っ暗な場合等に、ロボット100の「哀」の感情値を増大させてもよい。更にバッテリー残量が少ないにも関わらず継続して話しかけてくるユーザの場合は、「怒」の感情値を増大させても良い。
【0045】
行動認識部234は、センサモジュール部210で解析された情報、及びユーザ状態認識部230によって認識されたユーザの状態に基づいて、ユーザの行動を認識する。例えば、センサモジュール部210で解析された情報、及び認識されたユーザの状態を、予め学習されたニューラルネットワークに入力し、予め定められた複数の行動分類(例えば、「笑う」、「怒る」、「質問する」、「悲しむ」)の各々の確率を取得し、最も確率の高い行動分類を、ユーザの行動として認識する。
【0046】
以上のように、本実施形態では、ロボット100は、ユーザを特定したうえでユーザの発話内容を取得するが、当該発話内容の取得と利用等に際してはユーザから法令に従った必要な同意を取得するほか、本実施形態に係るロボット100の行動制御システムは、ユーザの個人情報及びプライバシーの保護に配慮する。
【0047】
行動決定部236は、感情決定部232により決定されたユーザの現在の感情値と、ユーザの現在の感情値が決定されるよりも前に感情決定部232により決定された過去の感情値の履歴データ222と、ロボット100の感情値とに基づいて、行動認識部234によって認識されたユーザの行動に対応する行動を決定する。本実施形態では、行動決定部236は、ユーザの過去の感情値として、履歴データ222に含まれる直近の1つの感情値を用いる場合について説明するが、開示の技術はこの態様に限定されない。例えば、行動決定部236は、ユーザの過去の感情値として、直近の複数の感情値を用いてもよいし、一日前などの単位期間の分だけ前の感情値を用いてもよい。また、行動決定部236は、ロボット100の現在の感情値だけでなく、ロボット100の過去の感情値の履歴を更に考慮して、ユーザの行動に対応する行動を決定してもよい。行動決定部236が決定する行動は、ロボット100が行うジェスチャー又はロボット100の発話内容を含む。
【0048】
本実施形態に係る行動決定部236は、ユーザの行動に対応する行動として、ユーザの過去の感情値と現在の感情値の組み合わせと、ロボット100の感情値と、ユーザの行動と、反応ルール221とに基づいて、ロボット100の行動を決定する。例えば、行動決定部236は、ユーザの過去の感情値が正の値であり、かつ現在の感情値が負の値である場合、ユーザの行動に対応する行動として、ユーザの感情値を正に変化させるための行動を決定する。
【0049】
反応ルール221には、ユーザの過去の感情値と現在の感情値の組み合わせと、ロボット100の感情値と、ユーザの行動とに応じたロボット100の行動が定められている。例えば、ユーザの過去の感情値が正の値であり、かつ現在の感情値が負の値であり、ユーザの行動が悲しむである場合、ロボット100の行動として、ジェスチャーを交えてユーザを励ます問いかけを行う際のジェスチャーと発話内容との組み合わせが定められている。
【0050】
例えば、反応ルール221には、ロボット100の感情値のパターン(「喜」、「怒」、「哀」、「楽」の値「0」~「5」の6値の4乗である1296パターン)、ユーザの過去の感情値と現在の感情値の組み合わせのパターン、ユーザの行動パターンの全組み合わせに対して、ロボット100の行動が定められる。すわなち、ロボット100の感情値のパターン毎に、ユーザの過去の感情値と現在の感情値の組み合わせが、負の値と負の値、負の値と正の値、正の値と負の値、正の値と正の値、負の値と普通、及び普通と普通等のように、複数の組み合わせのそれぞれに対して、ユーザの行動パターンに応じたロボット100の行動が定められる。なお、行動決定部236は、例えば、ユーザが「この前に話したあの話題について話したい」というような過去の話題から継続した会話を意図する発話を行った場合に、履歴データ222を用いてロボット100の行動を決定する動作モードに遷移してもよい。
【0051】
なお、反応ルール221には、ロボット100の感情値のパターン(1296パターン)の各々に対して、最大で一つずつ、ロボット100の行動としてジェスチャー及び発言内容の少なくとも一方が定められていてもよい。あるいは、反応ルール221には、ロボット100の感情値のパターンのグループの各々に対して、ロボット100の行動としてジェスチャー及び発言内容の少なくとも一方が定められていてもよい。
【0052】
反応ルール221に定められているロボット100の行動に含まれる各ジェスチャーには、当該ジェスチャーの強度が予め定められている。反応ルール221に定められているロボット100の行動に含まれる各発話内容には、当該発話内容の強度が予め定められている。
【0053】
また、ロボット100は、ユーザに対して子供の子育に関する各種の支援を実行する。例えば、ユーザ状態認識部230は、連携機器400から子供のデータが収集された場合、収集された子供のデータに基づいて、子供の状態を認識する。感情決定部232は、連携機器400から収集された子供のデータ、及びユーザ状態認識部230によって認識された子供の状態に基づいて、子供の感情を示す感情値を決定する。例えば、感情決定部232は、収集された子供のデータ、及び認識された子供の状態を、予め学習されたニューラルネットワークに入力し、子供の感情を示す感情値を取得する。
【0054】
なお、ロボット100は、センサ部200で検出された情報に基づいて、子供の状態を認識して、子供の感情を推定してもよい。例えば、ユーザ状態認識部230は、センサ部200に備えた2Dカメラ203で撮影される映像に子供が含まれるか判定する。ユーザ状態認識部230は、映像に子供が含まれる場合、センサモジュール部210で解析された情報に基づいて、子供の状態を認識する。また、ユーザ状態認識部230は、センサ部200に備えたサーモグラフィによりユーザの体温を検出する。
【0055】
また、ユーザ状態認識部230は、マイク201で収集される音声を認識してユーザや子供の状態を認識してもよい。例えば、ユーザが「子供に熱がある。」や「子供が喉を痛がっている。」、「子供に腹痛ある。」と声で入力した場合、ユーザ状態認識部230は、マイク201で収集された音声の認識結果から子供の状態を認識する。
【0056】
体調推定部231は、病状データ223に基づき、認識した子供の状態から子供の体調を推定する。例えば、体調推定部231は、病状データ223に基づき、子供の体温や体重から子供の体調を推定する。体調推定部231は、病状データ223に、子供の状態に対応する病気がある場合、子供が対応する病気の状態であると推定する。なお、体調推定部231は、体調推定部231がユーザの音声から子供の状態を認識した場合、音声から認識した子供の状態も用いて子供の体調を推定する。
【0057】
行動決定部236は、子供の感情及び体調の少なくとも一方が求められ場合、子供の感情及び体調の少なくとも一方に基づき、行動を決定する。例えば、行動決定部236は、子供の感情が求められ場合、子供の感情に応じてロボット100の行動を決定する。また、行動決定部236は、子供が病気の状態であると推定した場合、子供の病気に応じてロボット100の行動を決定する。例えば、行動決定部236は、支援ルール224から子供の感情及び体調の少なくとも一方に対応した応答、支援すべき内容に関する情報を読み出す。行動決定部236は、読み出した情報に基づいて、ロボット100の行動を決定する。
【0058】
支援ルール224には、子供の感情及び体調毎に、課題別に、ユーザに対して応答、支援すべき内容に関する情報が記憶されている。例えば、支援ルール224には、子供の感情毎に、課題別に、子供に対応する方法に関する情報が記憶されている。例えば、支援ルール224には、子供の感情に応じた課題別に、子供に対する対処方法や保護者自身の感情管理、ストレス軽減に関するアドバイスが記憶されている。また、支援ルール224には、子供の体調、課題別に、子供の感情や行動に対応する方法に関する情報が記憶されている。例えば、支援ルール224には、病気毎に、必要な手当やかかるべき病院の診療科、効くであろう薬に関する情報が記憶されている。また、支援ルール224には、病気ごとに、かかるべき病院の診療科に関する情報が記憶されている。また、支援ルール224には、病気ごとに、効くであろう薬に関する情報が記憶されている。また、支援ルール224には、子供に適した室内環境に関する情報が記憶されている。また、支援ルール224には、子供の寝かしつけに適した音楽に関する情報が記憶されている。
【0059】
行動決定部236は、子供が病気の状態であると推定した場合、子供の病気に応じた支援を行う。本実施形態に係る行動決定部236は、ユーザの発話内容から課題を特定する。行動決定部236は、ユーザの発話内容を表す文字情報を解析して発話内容に含まれる課題を特定する。行動決定部236は、子供の感情、体調、特定した課題に対応した応答、支援すべき内容に関する情報を支援ルール224から読み出す。行動決定部236は、読み出した情報に基づいて、ロボット100の行動を決定する。
【0060】
また、行動決定部236は、支援ルール224に基づいて、連携機器400を制御する。例えば、行動決定部236は、支援ルール224から子供に適した室内環境に関する情報を読み出し、子供に適した室内環境となるように連携機器400であるエアコンを制御する。例えば、行動決定部236は、子供に適した室内環境となるようにエアコンの温度設定を制御する。また、行動決定部236は、支援ルール224から子供の寝かしつけに適した音楽に関する情報を読み出し、スピーカ2522から子供の寝かしつけに適した音楽を出力するように、ロボット100の行動を決定する。
【0061】
記憶制御部238は、行動決定部236によって決定された行動に対して予め定められた行動の強度と、感情決定部232により決定されたロボット100の感情値とに基づいて、ユーザの行動を含むデータを履歴データ222に記憶するか否かを決定する。
【0062】
具体的には、ロボット100の複数の感情分類の各々に対する感情値の総和と、行動決定部236によって決定された行動が含むジェスチャーに対して予め定められた強度と、行動決定部236によって決定された行動が含む発話内容に対して予め定められた強度との和である強度の総合値が、閾値以上である場合、ユーザの行動を含むデータを履歴データ222に記憶すると決定する。
【0063】
なお、行動決定部236は、ロボット100の感情に基づいて、ユーザの行動に対応する行動を決定してもよい。例えば、ロボット100がユーザから暴言をかけられた場合や、ユーザに横柄な態度をとられている場合(すなわち、ユーザの反応が不良である場合)、周囲の騒音が騒がしくユーザの音声を検出できない場合、ロボット100のバッテリー残量が少ない場合などにおいて、ロボット100の「怒」や「哀」の感情値が増大した場合、行動決定部236は、「怒」や「哀」の感情値の増大に応じた行動を、ユーザの行動に対応する行動として決定してもよい。また、ユーザの反応が良好である場合や、ロボット100のバッテリー残量が多い場合などにおいて、ロボット100の「喜」や「楽」の感情値が増大した場合、行動決定部236は、「喜」や「楽」の感情値の増大に応じた行動を、ユーザの行動に対応する行動として決定してもよい。また、行動決定部236は、ロボット100の「怒」や「哀」の感情値の増大させたユーザに対する行動とは異なる行動を、ロボット100の「喜」や「楽」の感情値の増大させたユーザに対する行動として決定してもよい。このように、行動決定部236は、ロボット100自身の感情そのものや、ユーザの行動だけではなくユーザが感情をどのように変化させたかに応じて、異なる行動を決定すればよい。
【0064】
記憶制御部238は、ユーザの行動を含むデータを履歴データ222に記憶すると決定した場合、行動決定部236によって決定された行動と、現時点から一定期間前までの、センサモジュール部210で解析された情報(例えば、その場の音声、画像、匂い等のデータなどのあらゆる周辺情報)、及びユーザ状態認識部230によって認識されたユーザの状態(例えば、ユーザの表情、感情など)を、履歴データ222に記憶する。
【0065】
行動制御部250は、行動決定部236が決定した行動に基づいて、制御対象252を制御する。例えば、行動制御部250は、行動決定部236が発話することを含む行動を決定した場合に、制御対象252に含まれるスピーカ2522から音声を出力させる。このとき、行動制御部250は、ロボット100の感情値に基づいて、音声の発声速度を決定してもよい。例えば、行動制御部250は、ロボット100の感情値が大きいほど、速い発声速度を決定する。このように、行動制御部250は、感情決定部232が決定した感情値に基づいて、行動決定部236が決定した行動の実行形態を決定する。
【0066】
なお、行動制御部250は、認識したユーザの状態と同調させて、推定したユーザの感情に応じた感情を表すように制御対象252を制御してもよい。例えば、実施形態に係るロボット100は、センサモジュール部210がセンサ部200により音声や画像などでユーザを検出し、センサモジュール部210で解析された情報に基づいて、ユーザ状態認識部230がユーザの状態を認識する。そして、感情決定部232が、認識したユーザの状態からユーザの感情状態を決定することで、ユーザの感情を推定する。行動制御部250は、ユーザ状態認識部230により認識したユーザの状態と同調させて、感情決定部232により推定したユーザの感情に応じた感情を表すように制御対象252を制御する。行動制御部250は、感情決定部232により推定したユーザの感情がポジティブな状態である場合、ユーザ状態認識部230により認識したユーザの状態と同調させて、推定したユーザの感情に応じた感情を表すように制御対象252を制御する。例えば、行動制御部250は、「喜」、「楽」、「快」、「安心」、「興奮」、「安堵」、及び「充実感」「喜」、「楽」、「快」など明るい感情の感情値が大きく、「怒」、「哀」、「不快」、「不安」、「悲しみ」、「心配」、及び「虚無感」などの嫌な気持ちの感情値が小さい場合、ポジティブな状態と判定する。一方、行動制御部250は、「喜」、「楽」、「快」、「安心」、「興奮」、「安堵」、及び「充実感」「喜」、「楽」、「快」など明るい感情の感情値が小さく、「怒」、「哀」、「不快」、「不安」、「悲しみ」、「心配」、及び「虚無感」などの嫌な気持ちの感情値が大きい場合、ネガティブな状態と判定する。行動制御部250は、ユーザの感情がポジティブな状態である場合、ユーザの状態と同じ状態で、推定したユーザの感情に応じた感情を表すように制御対象252を制御する。例えば、ユーザ状態認識部230は、ユーザの感情値に基づいて、音声の発声速度を決定する。また、例えば、ユーザ状態認識部230は、センサ部200により音声や画像などでユーザを検出し、ユーザの仕草、話し方、言葉遣いの何れかの特徴を認識する。行動制御部250は、仕草、話し方、言葉遣いの何れかをユーザと同じ特徴として、推定したユーザの感情に応じた感情を表すように制御対象252を制御する。また、例えば、ユーザ状態認識部230は、ユーザの表情、声のトーン、言葉のニュアンスの何れかを認識する。行動制御部250は、表情、声のトーン、言葉のニュアンスの何れかをユーザの状態と同じ状態として、推定したユーザの感情に応じた感情を表すように制御対象252を制御する。ロボット100が、ユーザに対して、このようにユーザの感情に応じた感情を表すことで、ユーザとロボット100の心理的な繋がりが向上し、関係性が向上する。
【0067】
また、ロボット100は、乳幼児などの子供の保護者などのユーザ向けに子育ての支援を実行する。例えば、ロボット100は、連携機器400から子供のデータが収集された場合や、センサ部200で子供に関する情報が検出された場合、連携機器400で収集された子供のデータ、センサ部200で検出された子供に関する情報に基づいて、子供の状態を認識し、認識した子供の状態に基づいて、子供の感情を推定する。ロボット100は、推定した子供の感情に応じた支援を行う。例えば、ロボット100は、子供の感情、体調、ユーザの発話内容から特定される課題に対応して、子供に対する対処方法や保護者自身の感情管理、ストレス軽減に関するアドバイスを提案する。また、ロボット100は、室内環境を快適に保つためのIot家電の制御を自律的に行う。例えば、ロボット100は、子供に適した室内環境となるように連携機器400であるエアコンの温度設定を制御する。また、ロボット100は、制御対象252に含まれるスピーカ2522の機能を活用することで、乳幼児の寝かしつけに有効な音楽等を再生する。このように、ロボット100は、子育て中のユーザ(保護者)を支援でき、ユーザをサポートできる。これにより、ロボット100は、子育ての喜びを最大限に引き出すサポートを行うことができる。
【0068】
なお、ロボット100は、ユーザが所持するスマートホンなどの情報端末に各種の情報を送信して子育ての支援を実行してもよい。また、ロボット100は、子供の状態や、子供の体調を随時モニタし、子供の状態や、子供の体調を保護者が所持する情報端末に送信することで子育ての支援を実行してもよい。
【0069】
また、行動制御部250は、ロボット100の感情値に基づいて、音声の発声速度を決定してもよい。例えば、行動制御部250は、ユーザの感情がポジティブな状態である場合、ロボット100の感情値に基づいて、音声の発声速度を決定する。例えば、行動制御部250は、ロボット100の感情値が大きいほど、速い発声速度を決定する。このように、行動制御部250は、感情決定部232が決定した感情値に基づいて、行動決定部236が決定した行動の実行形態を決定する。
【0070】
行動制御部250は、行動決定部236が決定した行動を実行したことに対するユーザの感情の変化を認識してもよい。例えば、ユーザの音声や表情に基づいて感情の変化を認識してよい。その他、センサ部200に含まれるタッチセンサで衝撃が検出されたことに基づいて、ユーザの感情の変化を認識してよい。センサ部200に含まれるタッチセンサで衝撃が検出された場合に、ユーザの感情が悪くなったと認識したり、センサ部200に含まれるタッチセンサの検出結果から、ユーザの反応が笑っている、あるいは、喜んでいる等と判断される場合には、ユーザの感情が良くなったと認識したりしてもよい。ユーザの反応を示す情報は、通信処理部280に出力される。
【0071】
また、行動制御部250は、行動決定部236が決定した行動をロボット100の感情に応じて決定した実行形態で実行した後、感情決定部232は、当該行動が実行されたことに対するユーザの反応に基づいて、ロボット100の感情値を更に変化させる。具体的には、感情決定部232は、行動決定部236が決定した行動を行動制御部250が決定した実行形態でユーザに対して行ったことに対するユーザの反応が不良でなかった場合に、ロボット100の「喜」の感情値を増大させるまた、感情決定部232は、行動決定部236が決定した行動を行動制御部250が決定した実行形態でユーザに対して行ったことに対するユーザの反応が不良であった場合に、ロボット100の「哀」の感情値を増大させる。
【0072】
更に、行動制御部250は、決定したロボット100の感情値に基づいて、ロボット100の感情を表現する。例えば、行動制御部250は、ロボット100の「喜」の感情値を増加させた場合、制御対象252を制御して、ロボット100に喜んだ仕草を行わせる。また、行動制御部250は、ロボット100の「哀」の感情値を増加させた場合、ロボット100の姿勢がうなだれた姿勢になるように、制御対象252を制御する。
【0073】
通信処理部280は、サーバ300との通信を担う。上述したように、通信処理部280は、ユーザ反応情報をサーバ300に送信する。また、通信処理部280は、更新された反応ルールをサーバ300から受信する。通信処理部280がサーバ300から、更新された反応ルールを受信すると、反応ルール221を更新する。
【0074】
サーバ300は、ロボット100とサーバ300との間の通信を行い、ロボット100から送信されたユーザ反応情報を受信し、ポジティブな反応が得られた行動を含む反応ルールに基づいて、反応ルールを更新する。
【0075】
図3は、ロボット100において行動を決定する動作に関する動作フローの一例を概略的に示す。図3に示す動作フローは、繰り返し実行される。このとき、センサモジュール部210で解析された情報が入力されているものとする。なお、動作フロー中の「S」は、実行されるステップを表す。
【0076】
まず、ステップS100において、ユーザの状態を認識する。例えば、ユーザ状態認識部230は、センサモジュール部210で解析された情報に基づいて、ユーザの状態を認識する。また、ユーザ状態認識部230は、連携機器400から子供のデータが収集された場合や、センサ部200で子供に関する情報が検出された場合、連携機器400で収集された子供のデータ、センサ部200で検出された子供に関する情報に基づいて、子供の状態を認識する。
【0077】
ステップS102において、認識したユーザの状態に基づいて、ユーザの感情を推定する。また、子供の状態を認識した場合、認識した子供の状態に基づいて、子供の感情を推定する。例えば、感情決定部232は、センサモジュール部210で解析された情報、及びユーザ状態認識部230によって認識されたユーザの状態に基づいて、ユーザの感情を示す感情値を決定する。また、例えば、感情決定部232は、連携機器400から収集された子供のデータ、及びユーザ状態認識部230によって認識された子供の状態に基づいて、子供の感情を示す感情値を決定する。
【0078】
ステップS103において、感情決定部232は、センサモジュール部210で解析された情報、及びユーザ状態認識部230によって認識されたユーザの状態に基づいて、ロボット100の感情を示す感情値を決定する。感情決定部232は、決定したユーザの感情値を履歴データ222に追加する。
【0079】
ステップS104において、行動認識部234は、センサモジュール部210で解析された情報及びユーザ状態認識部230によって認識されたユーザの状態に基づいて、ユーザの行動分類を認識する。
【0080】
ステップS105において、体調推定部231は、認識した子供の状態に基づいて、子供の体調を推定する。例えば、体調推定部231は、マイク201で収集される音声を認識した情報、及びユーザ状態認識部230によって認識された子供の状態に基づいて、子供の体調を推定する。
【0081】
ステップS106において、行動決定部236は、ロボット100の行動を決定する。例えば、行動決定部236は、ステップS102で決定されたユーザの現在の感情値及びユーザの過去の感情値の組み合わせと、ロボット100の感情値と、行動認識部234によって認識されたユーザの行動と、反応ルール221とに基づいて、ロボット100の行動を決定する。また、行動決定部236は、子供の感情及び体調の少なくとも一方が求められ場合、子供の感情及び体調の少なくとも一方に基づき、行動を決定する。例えば、行動決定部236は、支援ルール224から子供の感情及び体調の少なくとも一方に対応した応答、支援すべき内容に関する情報を読み出す。行動決定部236は、読み出した情報に基づいて、ロボット100の行動を決定する。
【0082】
ステップS108において、行動制御部250は、行動決定部236により決定された行動に基づいて、制御対象252を制御する。この際、行動制御部250は、感情決定部232により推定したユーザの感情がポジティブな状態である場合、ユーザ状態認識部230により認識したユーザの状態と同調させて、推定したユーザの感情に応じた感情を表すように制御対象252を制御する。例えば、行動制御部250は、ユーザの感情がポジティブな状態である場合、ユーザの状態と同じ状態で、推定したユーザの感情に応じた感情を表すように制御対象252を制御する。また、行動制御部250は、ユーザの感情がポジティブな状態である場合、ロボット100の感情値に基づいて、音声の発声速度を決定する。
【0083】
ステップS110において、記憶制御部238は、行動決定部236によって決定された行動に対して予め定められた行動の強度と、感情決定部232により決定されたロボット100の感情値とに基づいて、強度の総合値を算出する。
【0084】
ステップS112において、記憶制御部238は、強度の総合値が閾値以上であるか否かを判定する。強度の総合値が閾値未満である場合には、ユーザの行動を含むデータを履歴データ222に記憶せずに、当該処理を終了する。一方、強度の総合値が閾値以上である場合には、ステップS114へ移行する。
【0085】
ステップS114において、行動決定部236によって決定された行動と、現時点から一定期間前までの、センサモジュール部210で解析された情報、及びユーザ状態認識部230によって認識されたユーザの状態と、を、履歴データ222に記憶する。
【0086】
以上説明したように、ロボット100は、認識部(センサ部200、センサモジュール部210、ユーザ状態認識部230)と、感情推定部(感情決定部232)と、支援部(行動決定部236、行動制御部250)とを備える。認識部は、子供の状態を認識する。感情推定部は、認識部により認識した子供の状態に基づいて、子供の感情を推定する。支援部は、感情推定部により推定した子供の感情に応じた支援を行う。これにより、ロボット100は、子供の状態に応じて子育て中のユーザ(保護者)を支援でき、ユーザをサポートできる。
【0087】
また、支援部は、子供の保護者向けの支援を行う。これにより、ロボット100は、保護者をサポートできる。
【0088】
また、支援部は、保護者向けに、子供の感情に対応する方法を提案する。これにより、保護者は、提案された方法により、子供の感情に対応でき、子育ての悩みに対処できる。
【0089】
また、ロボット100は、体調推定部231をさらに備える。体調推定部231は、認識部により認識した子供の状態に基づいて、子供の体調を推定する。支援部は、体調推定部231により推定した子供の体調に応じた支援を行う。これにより、ロボット100は、子供の体調に応じてユーザ(保護者)を支援でき、ユーザをサポートできる。
【0090】
上記実施形態では、ロボット100は、ユーザの顔画像を用いてユーザを認識する場合について説明したが、開示の技術はこの態様に限定されない。例えば、ロボット100は、ユーザが発する音声、ユーザのメールアドレス、ユーザのSNSのID又はユーザが所持する無線ICタグが内蔵されたIDカード等を用いてユーザを認識してもよい。
【0091】
なお、ロボット100は、行動制御システムを備える電子機器の一例である。行動制御システムの適用対象は、ロボット100に限られず、様々な電子機器に行動制御システムを適用できる。また、サーバ300の機能は、1以上のコンピュータによって実装されてよい。サーバ300の少なくとも一部の機能は、仮想マシンによって実装されてよい。また、サーバ300の機能の少なくとも一部は、クラウドで実装されてよい。
【0092】
図4は、ロボット100及びサーバ300として機能するコンピュータ1200のハードウェア構成の一例を概略的に示す。コンピュータ1200にインストールされたプログラムは、コンピュータ1200を、本実施形態に係る装置の1又は複数の「部」として機能させ、又はコンピュータ1200に、本実施形態に係る装置に関連付けられるオペレーション又は当該1又は複数の「部」を実行させることができ、及び/又はコンピュータ1200に、本実施形態に係るプロセス又は当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ1200に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつか又はすべてに関連付けられた特定のオペレーションを実行させるべく、CPU1212によって実行されてよい。
【0093】
本実施形態によるコンピュータ1200は、CPU1212、RAM1214、及びグラフィックコントローラ1216を含み、それらはホストコントローラ1210によって相互に接続されている。コンピュータ1200はまた、通信インタフェース1222、記憶装置1224、DVDドライブ1226、及びICカードドライブのような入出力ユニットを含み、それらは入出力コントローラ1220を介してホストコントローラ1210に接続されている。DVDドライブ1226は、DVD-ROMドライブ及びDVD-RAMドライブ等であってよい。記憶装置1224は、ハードディスクドライブ及びソリッドステートドライブ等であってよい。コンピュータ1200はまた、ROM1230及びキーボードのようなレガシの入出力ユニットを含み、それらは入出力チップ1240を介して入出力コントローラ1220に接続されている。
【0094】
CPU1212は、ROM1230及びRAM1214内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。グラフィックコントローラ1216は、RAM1214内に提供されるフレームバッファ等又はそれ自体の中に、CPU1212によって生成されるイメージデータを取得し、イメージデータがディスプレイデバイス1218上に表示されるようにする。
【0095】
通信インタフェース1222は、ネットワークを介して他の電子デバイスと通信する。記憶装置1224は、コンピュータ1200内のCPU1212によって使用されるプログラム及びデータを格納する。DVDドライブ1226は、プログラム又はデータをDVD-ROM1227等から読み取り、記憶装置1224に提供する。ICカードドライブは、プログラム及びデータをICカードから読み取り、及び/又はプログラム及びデータをICカードに書き込む。
【0096】
ROM1230はその中に、アクティブ化時にコンピュータ1200によって実行されるブートプログラム等、及び/又はコンピュータ1200のハードウェアに依存するプログラムを格納する。入出力チップ1240はまた、様々な入出力ユニットをUSBポート、パラレルポート、シリアルポート、キーボードポート、マウスポート等を介して、入出力コントローラ1220に接続してよい。
【0097】
プログラムは、DVD-ROM1227又はICカードのようなコンピュータ可読記憶媒体によって提供される。プログラムは、コンピュータ可読記憶媒体から読み取られ、コンピュータ可読記憶媒体の例でもある記憶装置1224、RAM1214、又はROM1230にインストールされ、CPU1212によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ1200に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置又は方法が、コンピュータ1200の使用に従い情報のオペレーション又は処理を実現することによって構成されてよい。
【0098】
例えば、通信がコンピュータ1200及び外部デバイス間で実行される場合、CPU1212は、RAM1214にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース1222に対し、通信処理を命令してよい。通信インタフェース1222は、CPU1212の制御の下、RAM1214、記憶装置1224、DVD-ROM1227、又はICカードのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、又はネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
【0099】
また、CPU1212は、記憶装置1224、DVDドライブ1226(DVD-ROM1227)、ICカード等のような外部記録媒体に格納されたファイル又はデータベースの全部又は必要な部分がRAM1214に読み取られるようにし、RAM1214上のデータに対し様々なタイプの処理を実行してよい。CPU1212は次に、処理されたデータを外部記録媒体にライトバックしてよい。
【0100】
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。CPU1212は、RAM1214から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索/置換等を含む、様々なタイプの処理を実行してよく、結果をRAM1214に対しライトバックする。また、CPU1212は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第2の属性の属性値に関連付けられた第1の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、CPU1212は、当該複数のエントリの中から、第1の属性の属性値が指定されている条件に一致するエントリを検索し、当該エントリ内に格納された第2の属性の属性値を読み取り、それにより予め定められた条件を満たす第1の属性に関連付けられた第2の属性の属性値を取得してよい。
【0101】
上で説明したプログラム又はソフトウェアモジュールは、コンピュータ1200上又はコンピュータ1200近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワーク又はインターネットに接続されたサーバシステム内に提供されるハードディスク又はRAMのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ1200に提供する。
【0102】
本実施形態におけるフローチャート及びブロック図におけるブロックは、オペレーションが実行されるプロセスの段階又はオペレーションを実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、専用回路、コンピュータ可読記憶媒体上に格納されるコンピュータ可読命令と共に供給されるプログラマブル回路、及び/又はコンピュータ可読記憶媒体上に格納されるコンピュータ可読命令と共に供給されるプロセッサによって実装されてよい。専用回路は、デジタル及び/又はアナログハードウェア回路を含んでよく、集積回路(IC)及び/又はディスクリート回路を含んでよい。プログラマブル回路は、例えば、フィールドプログラマブルゲートアレイ(FPGA)、及びプログラマブルロジックアレイ(PLA)等のような、論理積、論理和、排他的論理和、否定論理積、否定論理和、及び他の論理演算、フリップフロップ、レジスタ、並びにメモリエレメントを含む、再構成可能なハードウェア回路を含んでよい。
【0103】
コンピュータ可読記憶媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよく、その結果、そこに格納される命令を有するコンピュータ可読記憶媒体は、フローチャート又はブロック図で指定されたオペレーションを実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読記憶媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読記憶媒体のより具体的な例としては、フロッピー(登録商標)ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、消去可能プログラマブルリードオンリメモリ(EPROM又はフラッシュメモリ)、電気的消去可能プログラマブルリードオンリメモリ(EEPROM)、静的ランダムアクセスメモリ(SRAM)、コンパクトディスクリードオンリメモリ(CD-ROM)、デジタル多用途ディスク(DVD)、ブルーレイ(登録商標)ディスク、メモリスティック、集積回路カード等が含まれてよい。
【0104】
コンピュータ可読命令は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、又はSmalltalk、JAVA(登録商標)、C++等のようなオブジェクト指向プログラミング言語、及び「C」プログラミング言語又は同様のプログラミング言語のような従来の手続型プログラミング言語を含む、1又は複数のプログラミング言語の任意の組み合わせで記述されたソースコード又はオブジェクトコードのいずれかを含んでよい。
【0105】
コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサ、又はプログラマブル回路が、フローチャート又はブロック図で指定されたオペレーションを実行するための手段を生成するために当該コンピュータ可読命令を実行すべく、ローカルに又はローカルエリアネットワーク(LAN)、インターネット等のようなワイドエリアネットワーク(WAN)を介して、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサ、又はプログラマブル回路に提供されてよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
【0106】
(その他の実施形態)
なお、上述したロボット100は、ぬいぐるみに搭載してもよく、あるいは、ぬいぐるみに搭載された制御対象機器(スピーカやカメラ)に無線又は有線で接続された制御装置に適用してもよい。
【0107】
感情決定部232は、特定のマッピングに従い、ユーザの感情を決定してよい。具体的には、感情決定部232は、特定のマッピングである感情マップ(図5参照)に従い、ユーザの感情を決定してよい。
【0108】
図5は、複数の感情がマッピングされる感情マップ700を示す図である。感情マップ700において、感情は、中心から放射状に同心円に配置されている。同心円の中心に近いほど、原始的状態の感情が配置されている。同心円のより外側には、心境から生まれる状態や行動を表す感情が配置されている。感情とは、情動や心的状態も含む概念である。同心円の左側には、概して脳内で起きる反応から生成される感情が配置されている。同心円の右側には概して、状況判断で誘導される感情が配置されている。同心円の上方向及び下方向には、概して脳内で起きる反応から生成され、かつ、状況判断で誘導される感情が配置されている。また、同心円の上側には、「快」の感情が配置され、下側には、「不快」の感情が配置されている。このように、感情マップ700では、感情が生まれる構造に基づいて複数の感情がマッピングされており、同時に生じやすい感情が、近くにマッピングされている。
【0109】
(1)例えばロボット100の感情決定部232である感情エンジンが、100msec程度で感情を検知している場合、ロボット100の反応動作(例えば相槌)の決定は、頻度が少なくとも、感情エンジンの検知頻度(100msec)と同様のタイミングに設定してよく、これよりも早いタイミングに設定してもよい。感情エンジンの検知頻度はサンプリングレートと解釈してよい。
【0110】
100msec程度で感情を検知し、即時に連動して反動動作(例えば相槌)を行うことで、不自然な相槌ではなくなり、自然な空気を読んだ対話を実現できる。ロボット100感情マップ700の曼荼羅の方向性とその度合い(強さ)に応じて、反動動作(相槌など)を行う。なお、感情エンジンの検知頻度(サンプリングレート)は、100msに限定されず、シチュエーション(スポーツをしている場合など)、ユーザの年齢などに応じて、変更してもよい。
【0111】
(2)感情マップ700と照らし合わせ、感情の方向性とその度合いの強さを予め設定しておき、相槌の動き及び相槌の強弱を設定してよい。例えば、ロボット100が安定感、安心などを感じている場合、ロボット100は、頷いて話を聞き続ける。ロボット100が不安、迷い、怪しい感じを覚えている場合、ロボット100は、首をかしげてもよく、首振りを止めてもよい。
【0112】
これらの感情は、感情マップ700の3時の方向に分布しており、普段は安心と不安のあたりを行き来する。感情マップ700の右半分では、内部的な感覚よりも状況認識の方が優位に立つため、落ち着いた印象になる。
【0113】
(3)ロボット100が褒められて快感を覚えた場合、「あー」というフィラーが台詞の前に入り、きつい言葉をもらって痛感を覚えた場合、「うっ!」というフィラーが台詞の前に入ってよい。また、ロボット100が「うっ!」と言いつつうずくまる仕草などの身体的な反応を含めてよい。これらの感情は、感情マップ700の9時あたりに分布している。
【0114】
(4)感情マップ700の左半分では、状況認識よりも内部的な感覚(反応)の方が優位に立つ。よって、思わず反応してしまった印象を与え得る。
【0115】
ロボット100が納得感という内部的な感覚(反応)を覚えながら状況認識においても好感を覚える場合、ロボット100は、相手を見ながら深く頷いてよく、また「うんうん」と発してよい。このように、ロボット100は、相手へのバランスのとれた好感、すなわち、相手への許容や寛容といった行動を生成してよい。このような感情は、感情マップ700の12時あたりに分布している。
【0116】
逆に、ロボット100が不快感という内部的な感覚(反応)を覚えながら状況認識においても、ロボット100は、嫌悪を覚えるときには首を横に振る、憎しみを覚えるくらいになると、目のLEDを赤くして相手を睨んでもよい。このような感情は、感情マップ700の6時あたりに分布している。
【0117】
(5)感情マップ700の内側は心の中、感情マップ700の外側は行動を表すため、感情マップ700の外側に行くほど、感情が目に見える(行動に表れる)ようになる。
【0118】
(6)感情マップ700の3時付近に分布する安心を覚えながら、人の話を聞く場合、ロボット100は、軽く首を縦に振って「ふんふん」と発する程度であるが、12時付近の愛の方になると、首を深く縦に振るような力強い頷きをしてよい。
【0119】
感情決定部232は、センサモジュール部210で解析された情報、及び認識されたユーザの状態を、予め学習されたニューラルネットワークに入力し、感情マップ700に示す各感情を示す感情値を取得し、ユーザの感情を決定する。このニューラルネットワークは、センサモジュール部210で解析された情報、及び認識されたユーザの状態と、感情マップ700に示す各感情を示す感情値との組み合わせである複数の学習データに基づいて予め学習されたものである。また、このニューラルネットワークは、図6に示す感情マップ900のように、近くに配置されている感情同士は、近い値を持つように学習される。図6は、感情マップの他の例を示す図である。図6では、「安心」、「安穏」、「心強い」という複数の感情が、近い感情値となる例を示している。
【0120】
また、感情決定部232は、特定のマッピングに従い、ロボット100の感情を決定してよい。具体的には、感情決定部232は、センサモジュール部210で解析された情報、ユーザ状態認識部230によって認識されたユーザの状態、及びロボット100の状態を、予め学習されたニューラルネットワークに入力し、感情マップ700に示す各感情を示す感情値を取得し、ロボット100の感情を決定する。このニューラルネットワークは、センサモジュール部210で解析された情報、認識されたユーザの状態、及びロボット100の状態と、感情マップ700に示す各感情を示す感情値との組み合わせである複数の学習データに基づいて予め学習されたものである。例えば、タッチセンサの出力から、ロボット100がユーザになでられていると認識される場合に、「嬉しい」の感情値「3」となることを表す学習データや、加速度センサの出力から、ロボット100がユーザに叩かれていると認識される場合に、「怒」の感情値「3」となることを表す学習データに基づいて、ニューラルネットワークが学習される。また、このニューラルネットワークは、図6に示す感情マップ900のように、近くに配置されている感情同士は、近い値を持つように学習される。
【0121】
また、感情決定部232は、文章生成モデルによって生成されたロボット100の行動内容に基づいて、ロボット100の感情を決定してもよい。具体的には、感情決定部232は、文章生成モデルによって生成されたロボット100の行動内容を、予め学習されたニューラルネットワークに入力し、感情マップ700に示す各感情を示す感情値を取得し、取得した各感情を示す感情値と、現在のロボット100の各感情を示す感情値とを統合し、ロボット100の感情を更新する。例えば、取得した各感情を示す感情値と、現在のロボット100の各感情を示す感情値とをそれぞれ平均して、統合する。このニューラルネットワークは、文章生成モデルによって生成されたロボット100の行動内容を表すテキストと、感情マップ700に示す各感情を示す感情値との組み合わせである複数の学習データに基づいて予め学習されたものである。例えば、文章生成モデルによって生成されたロボット100の行動内容として、ロボット100の発話内容「それはよかったね。ラッキーだったね。」が得られた場合には、この発話内容を表すテキストをニューラルネットワークに入力すると、感情「嬉しい」の感情値として高い値が得られ、感情「嬉しい」の感情値が高くなるように、ロボット100の感情が更新される。
【0122】
行動決定部236は、ユーザの行動と、ユーザの感情、ロボット100の感情とを表すテキストに、ユーザの行動に対応するロボットの行動内容を質問するための固定文を追加して、対話機能を有する文章生成モデルに入力することにより、ロボット100の行動内容を生成する。
【0123】
例えば、行動決定部236は、感情決定部232によって決定されたロボット100の感情から、図7に示すような感情テーブルを用いて、ロボット100の状態を表すテキストを取得する。図7は、感情テーブルの一例を示す図である。ここで、感情テーブルには、感情の種類毎に、各感情値に対してインデックス番号が付与されており、インデックス番号毎に、ロボット100の状態を表すテキストが格納されている。
【0124】
感情決定部232によって決定されたロボット100の感情が、インデックス番号「2」に対応する場合、「とても楽しい状態」というテキストが得られる。なお、ロボット100の感情が、複数のインデックス番号に対応する場合、ロボット100の状態を表すテキストが複数得られる。
【0125】
また、ユーザの感情に対しても、図8に示すような感情テーブルを用意しておく。図8は、感情テーブルの一例を示す図である。ここで、ユーザの行動が、「AAAです。」と話しかけるであり、ロボット100の感情が、インデックス番号「2」であり、ユーザの感情が、インデックス番号「3」である場合には、「ロボットはとても楽しい状態です。ユーザは普通に楽しい状態です。ユーザに「AAAです。」と話しかけられました。ロボットとして、どのように返事をしますか?」と文章生成モデルに入力し、ロボット100の行動内容を取得する。行動決定部236は、この行動内容から、ロボット100の行動を決定する。なお、「AAA」は、ユーザがロボット100に付けた名称(呼び名)である。
【0126】
このように、ロボット100は、ロボット100の感情に応じたインデックス番号に応じて、ロボット100の行動を変えることができるため、ユーザは、ロボット100に心があるような印象を持ち、ロボット100に対して話しかけるなどの行動をとることが促進される。
【0127】
また、行動決定部236は、ユーザの行動と、ユーザの感情、ロボット100の感情とを表すテキストだけでなく、履歴データ222の内容を表すテキストも追加した上で、ユーザの行動に対応するロボット100の行動内容を質問するための固定文を追加して、対話機能を有する文章生成モデルに入力することにより、ロボット100の行動内容を生成するようにしてもよい。これにより、ロボット100は、ユーザの感情や行動を表す履歴データに応じて、ロボット100の行動を変えることができるため、ユーザは、ロボット100に個性があるような印象を持ち、ロボット100に対して話しかけるなどの行動をとることが促進される。また、履歴データに、ロボット100の感情や行動を更に含めるようにしてもよい。
【0128】
なお、具体的には、ぬいぐるみは、以下のように構成される。例えば、ロボット100をユーザと日常を過ごしながら、当該ユーザと日常に関する情報を基に、対話を進めたり、ユーザの趣味趣向に合わせた情報を提供する共同生活者(具体的には、図9及び図10に示すぬいぐるみ100N)に適用してもよい。本実施形態(その他の実施形態)では、上記のロボット100の制御部分を、スマートホン50に適用した例について説明する。
【0129】
ロボット100の入出力デバイスとしての機能を搭載したぬいぐるみ100Nは、ロボット100の制御部分として機能するスマートホン50が着脱可能であり、ぬいぐるみ100Nの内部で、入出力デバイスと、収容されたスマートホン50とが接続されている。
【0130】
図9(A)に示される如く、ぬいぐるみ100Nは、本実施形態(その他の実施形態)では、外観が柔らかい布生地で覆われた熊の形状であり、図9(B)に示される如く、その内方に形成された空間部52には、入出力デバイスとして、耳54に相当する部分にセンサ部200のマイク201(図2参照)が配置され、目56に相当する部分にセンサ部200の2Dカメラ203が配置され(図2参照)、及び、口58に相当する部分に制御対象252(図2参照)の一部を構成するスピーカ60が配置されている。なお、マイク201及びスピーカ60は、必ずしも別体である必要はなく、一体型のユニットであってもよい。ユニットの場合は、ぬいぐるみ100Nの鼻の位置など、発話が自然に聞こえる位置に配置するとよい。なお、ぬいぐるみ100Nは、動物の形状である場合を例に説明したが、これに限定されるものではない。ぬいぐるみ100Nは、特定のキャラクターの形状であってもよい。
【0131】
スマートホン50は、図2に示す、センサモジュール部210としての機能、格納部220としての機能、ユーザ状態認識部230としての機能、体調推定部231としての機能、感情決定部232としての機能、行動認識部234としての機能、行動決定部236としての機能、記憶制御部238としての機能、行動制御部250としての機能、及び
通信処理部280としての機能としての機能を有する。
【0132】
図10に示される如く、ぬいぐるみ100Nの一部(例えば、背部)には、ファスナー62が取り付けられており、当該ファスナー62を開放することで、外部と空間部52とが連通する構成となっている。
【0133】
ここで、スマートホン50が、外部から空間部52へ収容され、USBハブ64(図9(B)参照)を介して、各入出力デバイスとUSB接続することで、図1に示すロボット100と同等の機能を持たせることができる。
【0134】
また、USBハブ64には、非接触型の受電プレート66が接続されている。受電プレート66には、受電用コイル66Aが組み込まれている。受電プレート66は、ワイヤレス給電を受電するワイヤレス受電部の一例である。
【0135】
受電プレート66は、ぬいぐるみ100Nの両足の付け根部68付近に配置され、ぬいぐるみ100Nを載置ベース70に置いたときに、最も載置ベース70に近い位置となる。載置ベース70は、外部のワイヤレス送電部の一例である。
【0136】
この載置ベース70に置かれたぬいぐるみ100Nが、自然な状態で置物として鑑賞することが可能である。
【0137】
また、この付け根部は、他の部位のぬいぐるみ100Nの表層厚さに比べて薄く形成しており、より載置ベース70に近い状態で保持されるようになっている。
【0138】
載置ベース70には、充電パット72を備えている。充電パット72は、送電用コイル72Aが組み込まれており、送電用コイル72Aが信号を送って、受電プレート66の受電用コイル66Aを検索し、受電用コイル66Aが見つかると、送電用コイル72Aに電流が流れて磁界を発生させ、受電用コイル66Aが磁界に反応して電磁誘導が始まる。これにより、受電用コイル66Aに電流が流れ、USBハブ64を介して、スマートホン50のバッテリー(図示省略)に電力が蓄えられる。
【0139】
すなわち、ぬいぐるみ100Nを置物として載置ベース70に載置することで、スマートホン50は、自動的に充電されるため、充電のために、スマートホン50をぬいぐるみ100Nの空間部52から取り出す必要がない。
【0140】
なお、本実施形態(その他の実施形態)では、スマートホン50をぬいぐるみ100Nの空間部52に収容して、有線による接続(USB接続)したが、これに限定されるものではない。例えば、無線機能(例えば、「Bluetooth(登録商標)」)を持たせた制御装置をぬいぐるみ100Nの空間部52に収容して、制御装置をUSBハブ64に接続してもよい。この場合、スマートホン50を空間部52に入れずに、スマートホン50と制御装置とが、無線で通信し、外部のスマートホン50が、制御装置を介して、各入出力デバイスと接続することで、図1に示すロボット100と同等の機能を持たせることができる。また、制御装置をぬいぐるみ100Nの空間部52に収容した制御装置と、外部のスマートホン50とを有線で接続してもよい。
【0141】
また、本実施形態(その他の実施形態)では、熊のぬいぐるみ100Nを例示したが、他の動物でもよいし、人形であってもよいし、特定のキャラクターの形状であってもよい。また、着せ替え可能でもよい。さらに、表皮の材質は、布生地に限らず、ソフトビニール製等、他の材質でもよいが、柔らかい材質であることが好ましい。
【0142】
さらに、ぬいぐるみ100Nの表皮にモニタを取り付けて、ユーザに視覚を通じて情報を提供する制御対象252を追加してもよい。例えば、目56をモニタとして、目に映る画像によって喜怒哀楽を表現してもよいし、腹部に、内蔵したスマートホン50のモニタが透過する窓を設けてもよい。さらに、目56をプロジェクターとして、壁面に投影した画像によって喜怒哀楽を表現してもよい。
【0143】
他の実施形態によれば、ぬいぐるみ100Nの中に既存のスマートホン50を入れ、そこから、USB接続を介して、カメラ203、マイク201、スピーカ60等をそれぞれ適切な位置に延出させた。
【0144】
さらに、ワイヤレス充電のために、スマートホン50と受電プレート66とをUSB接続して、受電プレート66を、ぬいぐるみ100Nの内部からみてなるべく外側に来るように配置した。
【0145】
スマートホン50のワイヤレス充電を使おうとすると、スマートホン50をぬいぐるみ100Nの内部からみてできるだけ外側に配置しなければならず、ぬいぐるみ100Nを外から触ったときにごつごつしてしまう。
【0146】
そのため、スマートホン50を、できるだけぬいぐるみ100Nの中心部に配置し、ワイヤレス充電機能(受電プレート66)を、できるだけぬいぐるみ100Nの内部からみて外側に配置した。カメラ203、マイク201、スピーカ60、及びスマートホン50は、受電プレート66を介してワイヤレス給電を受電する。
【0147】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【0148】
特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階などの各処理の実行順序は、特段「より前に」、「先立って」などと明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」などを用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
【符号の説明】
【0149】
1 制御システム、20 通信網、100 ロボット、200 センサ部、201 マイク、202 3D深度センサ、203 2Dカメラ、204 距離センサ、210 センサモジュール部、211 音声感情認識部、212 発話理解部、213 表情認識部、214 顔認識部、220 格納部、221 反応ルール、222 履歴データ、230 ユーザ状態認識部、231 体調推定部、232 感情決定部、234 行動認識部、236 行動決定部、238 記憶制御部、250 行動制御部、252 制御対象、280 通信処理部、300 サーバ、400 連携機器、1200 コンピュータ、1210 ホストコントローラ、1212 CPU、1214 RAM、1216 グラフィックコントローラ、1218 ディスプレイデバイス、1220 入出力コントローラ、1222 通信インタフェース、1224 記憶装置、1226 DVDドライブ、1227 DVD-ROM、1230 ROM、1240 入出力チップ
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10