特開 2023-162161 人工知能システム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2023162161

(43)【公開日】2023-11-08

(54)【発明の名称】人工知能システム

(51)【国際特許分類】

   G06N 3/006 20230101AFI20231031BHJP

   G06T 19/00 20110101ALI20231031BHJP

   G06F 3/01 20060101ALI20231031BHJP

   G06F 3/16 20060101ALI20231031BHJP

【ＦＩ】

G06N3/006

G06T19/00 A

G06F3/01 510

G06F3/16 630

G06F3/16 650

【審査請求】未請求

【請求項の数】2

【出願形態】ＯＬ

(21)【出願番号】P 2023113590

(22)【出願日】2023-07-11

(62)【分割の表示】P 2022017449の分割

【原出願日】2022-02-07

(31)【優先権主張番号】PCT/JP2021/004806

(32)【優先日】2021-02-09

(33)【優先権主張国・地域又は機関】WO

(71)【出願人】

【識別番号】520078949

【氏名又は名称】株式会社ロボマインド

(74)【代理人】

【識別番号】100136098

【弁理士】

【氏名又は名称】北野 修平

(74)【代理人】

【識別番号】100137246

【弁理士】

【氏名又は名称】田中 勝也

(72)【発明者】

【氏名】田方 篤志

(57)【要約】      （修正有）

【課題】人間と自然な会話ができる人工知能システムを提供する。
【解決手段】人工知能システム１１は、プラスマイナス感情を有し、自分の行動を決定する主体のデータモデルを記憶するデータベースなどの記憶装置と、自分の前記主体のデータモデルを生成し、自分がプラス感情となるような行動を決定する制御装置とを有し、制御装置は、他人のプラスマイナス感情を考慮して行動を決定する、「すべき判定プログラム」を有することを特徴とする。
【選択図】図１

【特許請求の範囲】

【請求項1】

文字または音声からなる自然言語の入力文が入力される入力装置と、ＣＰＵおよび主記憶メモリを有し、前記入力装置からの入力文を単語に分解して意味解析する制御装置と、を有する自然言語処理システムであって、
前記制御装置は、前記入力文に基づいて、現実世界を仮想的に模した仮想空間と、前記仮想空間に配置されるオブジェクトを前記主記憶メモリに生成することを特徴とする、自然言語処理システム。

【請求項2】

文字または音声からなる自然言語の入力文が入力される入力装置と、ＣＰＵおよび主記憶メモリを有し、前記入力装置からの入力文を単語に分解して意味解析する制御装置と、を有する自然言語処理システムであって、
前記制御装置は、現実にある物や人を模したモデルであって、属性を表すプロパティと、動きを表すメソッドを有するオブジェクトを前記主記憶メモリに生成し、前記入力文の動詞と前記メソッドを対応させることを特徴とする、自然言語処理システム。

【発明の詳細な説明】

【技術分野】

【0001】

この発明は、人工知能システムに関する。

【背景技術】

【0002】

現在の人工知能は、囲碁や将棋といった特定の分野に限れば、人間を超える知能を持つようになってきている。しかし、囲碁や将棋だけできても、現実の生活でそれほど役に立つわけではない。我々が望んでいる人工知能は、何かに特化するのでなく、人間のように、何でもできる人工知能である。そのような人工知能のことを汎用人工知能という。

【0003】

人間のような人工知能とは、一つには、人間と自然なコミュニケーション、つまり自然な会話ができる人工知能である。

【先行技術文献】

【特許文献】

【0004】

【特許文献1】特開２００６－１７８０６３号公報

【発明の概要】

【発明が解決しようとする課題】

【0005】

特許文献１には、感情が出てくれば、それに対応した返答をする会話システムが開示されている。しかしながら、このシステムは、単に単語に応答しているだけなので、これだけでは会話とならない。

【0006】

その他に、ＡＩスピーカーやスマートフォンのアプリなど、会話ができるＡＩは存在するが、どれも予め用意されたシナリオを再生するだけで、自然な会話や雑談ができているわけではない。人間が、自然な会話ができるのは、相手の意図を察したり、思いやったりといった、明示されない意味を理解したり、自分がこう言えば、相手はこう思うだろうといったことを、頭の中でいろいろ考えて会話するからである。予め用意されたシナリオを話すだけでは、自然な会話とならないのである。

【0007】

本発明の１つの目的は、相手の気持ちを理解したり、社会に溶け込むような人と同様の心を持つように振る舞うことができる人工知能システムを提供することである。

【課題を解決するための手段】

【0008】

この発明に係る人工知能システムは、外部から入力された情報に基づいて、外部への出力を決定する人工知能システムである。人工知能システムは、人および人の思考を模したデータモデルを予め記憶する記憶部と、記憶部からデータモデルを取り出し、人の動作および思考を再現可能な人オブジェクトを生成する生成部と、人オブジェクトが配置される第１のプラットフォームおよび第２のプラットフォームを有し、人オブジェクトの動作および思考が展開される世界を構築する世界構築部と、外部から入力された情報に基づいて、人オブジェクトを第１のプラットフォームに配置して、外部の世界を再現する外部世界再現部と、第１のプラットフォームに再現された外部の世界を認識することによって外部の状況を把握するとともに、第２のプラットフォームに人オブジェクトを配置し、操作することにより、外部への出力を決定する出力決定部と、を備える。

【0009】

このようにすることにより、出力決定部は、第１のプラットフォームから外部世界を認識する。つまり、外部にいる人物を人オブジェクトとして認識するので、カメラなどで捉えられないその人の思考内容までも把握できる。また、第２のプラットフォームを使って、こう行動すれば、相手はどう思うかなどシミュレーションでき、自然な応答が可能となる。

【0010】

上記人工知能システムにおいて、第１のプラットフォームおよび第２のプラットフォームには、自身と相手の人オブジェクトが配置されてもよい。出力決定部は、相手の人オブジェクトの思考が好ましいと感じるように出力を決定してもよい。このようにすることにより、相手のことを思いやった対応ができ、人と同じような心を持つように振る舞う人工知能と成り得る。

【0011】

上記人工知能システムにおいて、第１のプラットフォームに配置される人オブジェクトは、その人の第１のプラットフォームに相当する下層側第１プラットフォームを有してもよい。世界構築部は、下層側第１プラットフォームに、その人に入力された情報に基づいて外部の世界を再現してもよい。このようにすることにより、相手の立場に立った思考ができ、より人と自然なコミュニケーションを取ることができる。

【0012】

上記人工知能システムにおいて、前記人のデータモデルは、身体から生じる低レベル欲求と、社会的に価値の高いものを求める高レベル欲求の２種類の欲求を有してもよい。前記出力決定部は、低レベル欲求を抑えて、高レベル欲求を満たすように出力を決定してもよい。このようにすることにより、「～すべき」や善悪といったことが判断できるようになり、人と自然な会話ができ、人間社会に溶け込む人工知能と成り得る。

【0013】

また、この発明に係る人工知能プログラムは、外部から入力された情報に基づいて、外部への出力を決定するための人工知能プログラムであって、コンピュータを、人および人の思考を模したデータモデルから、人の動作および思考を再現可能な人オブジェクトを生成する生成部、人オブジェクトが配置される第１のプラットフォームおよび第２のプラットフォームを有し、人オブジェクトの動作および思考が展開される世界を構築する世界構築部、外部から入力された情報に基づいて、人オブジェクトを第１のプラットフォームに配置して、外部の世界を再現する外部世界再現部、および第１のプラットフォームに再現された外部の世界を認識することによって外部の世界を把握するとともに、第２のプラットフォームに人オブジェクトを配置し、操作することにより、外部への出力を決定する出力決定部として機能させるための人工知能プログラムである。

【0014】

このようにすることにより、出力決定部は、第１のプラットフォームから外部世界を認識する。つまり、外部にいる人物を人オブジェクトとして認識するので、カメラなどで捉えられないその人の思考内容までも認識できる。また、第２のプラットフォームを使って、こう行動すれば、相手はどう思うかなどシミュレーションでき、自然な応答が可能となる。

【0015】

ここで、人間が話す言葉のことを自然言語といい、自然言語を扱う人工知能の分野を自然言語処理という。自然言語処理の最大の問題は、文の意味を理解できないことである。そのため、会話ＡＩでは、予め用意したシナリオを話すだけとなって、自然な会話ができなくなっている。

【0016】

そこで、本発明の他の目的は、自然言語の意味理解の手法を提供するものである。

【0017】

この発明に係る自然言語処理システムは、自然言語による文が入力される入力装置と、人または物を表すオブジェクトを記憶する記憶装置と、前記入力装置からの入力文を単語に分解して、意味を解析する制御装置と、を有する自然言語処理システムであって、前記記憶装置は、前記オブジェクトと前記オブジェクトの名前とを関連付けて記憶し、前記制御装置は、前記入力文の前記単語と、前記記憶装置とに基づいて前記オブジェクトを生成し、前記入力文の前記単語に基づいて前記オブジェクトを変更することで意味を解析することを特徴とする。

【0018】

自然言語の文字列から単語を取り出し、オブジェクトの属性を変更することで、実際の人または物に近い状態をコンピュータで再現することができる。つまり、オブジェクトはコンピュータ内で実際の人や物と同じ属性や動きをすることができる。これで、自然言語の文を意味理解したといえる。

【0019】

本開示の人工知能システムは、プラスマイナス感情を有し、自分の行動を決定する主体のデータモデルを記憶する記憶装置と、自分の前記主体のデータモデルを生成し、自分がプラス感情となるような行動を決定する制御装置とを有し、前記制御装置は、他人のプラスマイナス感情を考慮して行動を決定する、すべき判定プログラムを有することを特徴とする。

【0020】

本開示の人工知能システムは、プラスマイナス感情を有し、自分で自分の行動を決定する主体のデータモデルを記憶する記憶装置と、自分の前記主体のデータモデルを生成し、自分の行動を決定する制御装置とを有し、前記制御装置は、自分の肉体的な欲求を抑え、社会において高い価値を手に入れたい欲求を達成するための行動を促す、すべき判定プログラムを有することを特徴とする。

【0021】

上記人工知能システムは、自然言語からなる入力文が入力される入力装置を有し、前記制御装置は、入力文に基づいて自分のデータモデルを生成することを特徴とする。

【発明の効果】

【0022】

このような人工知能システムは、相手の気持ちを理解でき、人と同様の心を持つように振る舞うことができ、人間社会に溶け込むことができる。また、このような行動決定システムは、相手の気持ちを理解でき、人と同様の心を持つように振る舞うことができ、人間社会に溶け込むことができる。

【図面の簡単な説明】

【0023】

【図1】図１は、実施の形態１における人工知能システムの構成を示すブロック図である。

【図2】図２は、本開示に係る実施の形態１における人工知能システムにおける第１プラットフォーム、第２プラットフォームの構成を示す概念図である。

【図3】図３は、本開示の人工知能システムにより処理する場合の代表的な工程を示すフローチャートである。

【図4】図４は、ロボットが部屋に配置された第２のプラットフォームを示す概念図である。

【図5】図５は、ロボットが部屋に配置された第２のプラットフォームを示す概念図である。

【図6】図６は、ロボットが部屋に配置された第２のプラットフォームを示す概念図である。

【図7】図７は、本開示の人工知能システムにより処理する場合の代表的な工程を示すフローチャートである。

【図8】図８は、すべき判定プログラムが、善悪の判断に使う表である。

【図9】図９は、すべき判定プログラムが、社会的善悪の判断に使う表である。

【図10】図１０は、すべき判定プログラムが、個人の行動の判断に使う表である。

【図11】図１１は、本開示に係る他の実施の形態における人工知能システムの構成を示す概念図である。

【発明を実施するための形態】

【0024】

［本願発明の実施形態の詳細］
次に、本開示の人工知能システムの一実施形態を、図面を参照しつつ説明する。以下の図面において同一または相当する部分には同一の参照符号を付しその説明は繰り返さない。

【0025】

（実施の形態１）
本開示の実施の形態１における人工知能システムの構成について説明する。図１は、実施の形態１における人工知能システムの構成を示すブロック図である。

【0026】

実施の形態１に係る人工知能システム１１は、制御装置１２を有するロボットに適用される。ロボットの構成としては、人と同じような身体を有している。つまり、人の手足に対応する部分があり、それらを駆動させるモーター１３を有する。また、人の目に相当するカメラ１４を有し、カメラ１４により外部を撮影して映像データを取得する。また、人の耳に相当するマイク（集音機能を有する部材）１５を有し、マイク１５により外部の音や声を聞き取る。また、人の口に相当するスピーカー１６を有し、スピーカー１６により発話して会話を行うことができる。これらを制御する制御装置１２で実行されるのが、人工知能プログラムである。人工知能プログラムは、カメラ１４やマイク１５から得た外部情報に基づいて、手足を動かすモーター１３や言葉を話すスピーカー１６を制御する。すなわち、外部の情報に基づいて、ロボット自らの行動を決定するのが、人工知能プログラムである。なお、制御装置１２は、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）と、本開示の人工知能プログラムがロードされる主記憶メモリとを有する。

【0027】

人工知能システム１１は、外部から入力された情報に基づいて、外部への出力を決定する人工知能システムであり、制御部１８を含む制御装置１２と、人や物などのデータモデルを予め記憶する記憶部として機能するデータベース１７とを備える。制御部１８は、カメラ１４やマイク１５から入力された情報に基づき、モーター１３やスピーカー１６などの外部への出力を決定する。

【0028】

制御部１８は、データモデルからオブジェクトを生成する生成部２４と、世界構築部２５と、外部世界再現部２６と、出力を決定する出力決定部２７とを有する。

【0029】

データモデルは、人や物、概念などを表し、データベース１７に格納される。制御部１８は、カメラ１４やマイク１５からの外部情報に基づき、人や物を認識すると、外部世界再現部２６によって対応するデータモデルを取り出し、生成部２４でオブジェクトを生成し、世界構築部２５にオブジェクトを配置して世界を構築する。オブジェクトとは、オブジェクト指向言語のオブジェクトと同じであり、自由に操作可能で、メモリ上に生成される。

【0030】

人工知能システム１１は、人と自然な会話や対話ができるシステムである。そのため、マイク１５からは会話している相手の音声が入力され、音声データをリアルタイムで自然言語の文字列（テキストデータ）に変換する機能を備える。なお、入力されるのは、マイク１５からの会話音声に限らず、カメラ１４で捉えた自然言語の文章であってもよい。この場合は、画像文字認識により自然言語の文字列に変換する。さらには、入力は文章に限らず、カメラ１４の前の光景から状況を読み取って理解する場合もあり、この場合については後述する。

【0031】

また、人工知能システム１１は、自然言語処理システムとして、人間との会話や対話に限らず、文章の要約や機械翻訳など、自然言語の意味を理解する場合に汎用的に用いることができる。

【0032】

ここで、本発明の自然言語の意味理解の方法について説明する。本発明の意味理解の最大の特徴は、現実世界にある人や物をオブジェクトとして表したことにある。オブジェクトとはオブジェクト指向言語のオブジェクトのことであり、現実にある物や人を模したモデルとしたデータモデルということができる。

【0033】

オブジェクトは、その物の性質や属性を表すプロパティと、その物の動きを表すメソッドを持っている。たとえばりんごオブジェクトの場合、形プロパティは、丸いとか球形となり、色プロパティは、赤となる。また、物には位置プロパティもある。人オブジェクトの場合、たとえば姓名プロパティや性別、住所プロパティを持つこととなる。また、メソッドとしては、歩くとか走る、食べるといったものがある。オブジェクトは、プログラムではクラスとして書かれ、メモリのヒープ領域にオブジェクトとして生成される。これらオブジェクトは、自然言語の単語と対応して単語辞書で管理される。単語辞書は、データベース１７またはＨＤＤ（Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）などの記憶装置または主メモリ、またはサーバーやクラウドに記憶される。たとえば、りんごクラスは、「りんご」または「リンゴ」といった単語と対応して単語辞書で管理される。

【0034】

オブジェクトは、人または物を表現しており、その人または物に応じた世界、または空間に配置される。分かりやすい例でいえば、３次元空間である。３次元空間は、現実の３次元空間をコンピュータ内に仮想的に模して作られた空間であり、たとえば、３ＤＣＧ（ｔｈｒｅｅ－Ｄｉｍｅｎｓｉｏｎａｌ Ｃｏｍｐｕｔｅｒ Ｇｒａｐｈｉｃｓ）で作成する。なお、ワイヤーフレームだけでもよい。

【0035】

ここから、自然言語の意味理解について説明する。「机の上にりんごがある。」という自然言語の文が入力されたとする。まず、形態素解析によって入力文を単語に分解する。すると「机／の／上／に／りんご／が／ある／。」と分解される。ここで、「机」を取り出し、単語辞書を検索すると見つかり、机オブジェクトを生成する。同様に、りんごオブジェクトも生成する。これが、「机」や「りんご」といった自然言語の単語の意味を理解したことである。

【0036】

次に、「机がある」、「りんごがある」の「ある」という動詞は、存在するという意味である。そこで、それらを３次元空間に配置する。これが「物がある」という自然言語の動詞の意味を理解したということである。

【0037】

「上」という単語は、重力の逆方向を指す向きである。３ＤＣＧでは重力もシミュレーションできるようになっており、その向きが設定されているので、３次元空間を配置した机オブジェクトの上にりんごオブジェクトを配置する。これが、自然言語の「上」の意味を理解したことである。このようにして、自然言語の意味が理解される。

【0038】

このようにして、３ＤＣＧの３次元空間には、机の上にりんごが乗っている状態が再現される。これは、「机の上にりんごがある。」という文を人間が読んだとき、頭の中で思い浮かべる光景と同じと言える。その次に、「りんごを上に上げる。」という文が入力されたとする。この文の意味理解を行うと、まず、「りんご」は、現在の状態である机の上のりんごと判断する。そして、それを「上に上げる」のであるから、３ＤＣＧの３次元空間上でりんごを上に移動させるわけである。これが「上げる」の意味を理解したということである。

【0039】

これが、ロボットに対する指示で「りんごを上に上げろ。」であれば、ロボットはその意味を理解し、目の前の机の上にあるりんごを手で持って上に上げるわけである。これが自然言語の意味を理解したロボットであり、人間と自然なコミュニケーションが取れるわけである。

【0040】

つまり、まず、背景となる３次元空間のような世界と、その世界に配置されるオブジェクトがあるわけである。また、これらの世界またはオブジェクトはプロパティとメソッドがある。そして、自然言語で表現された文を、世界とオブジェクト、および、それらの持つプロパティとメソッドで表現し直すことが、自然言語の意味を理解したこととなる。なお、世界もオブジェクトの一種である。

【0041】

次に、ここまでを文章の意味理解として考えてみる。文章とは、複数の文が連なったものである。最初の文で机の上にりんごがある場面を生成したわけである。まず、登場する物、人物を生成して場面を生成する。次の文では、登場した物を操作して動かしたいわけである。このようにして、文章の意味を理解するとは、場面の設定、場面に登場するオブジェクトを操作して場面を変化させることで表現することができると言える。そして、変化前の場面、変化後の場面を記憶しておくことで、今までの経緯を覚えておくことができる。これは、人間の記憶でいうところのエピソード記憶に該当する。場面は、起こった出来事の順に保存する。この場面を、順番を保って保存する機能が時間に該当する。

【0042】

ここで、３ＤＣＧの３次元空間とりんごとの関係について考えてみる。これは、世界とオブジェクトの関係と言える。オブジェクトが３次元空間に配置されるとは、物の位置プロパティが設定されるわけである。この位置プロパティを介して物と世界との関係が決まると言える。そして、「上げる」というメソッドは、３次元空間の上下方向を示すＺ座標に沿って上に移動させることを示す。つまり、物に位置プロパティをＸ、Ｙ、Ｚの座標軸で設定していたとすれば、上げるとはＺ座標を変更すると言える。さらに言えば、移動するという動詞は、物の位置プロパティを変更すると言える。このように、メソッドは、プロパティを変更すると言え、自然言語の動詞はメソッドに該当すると言える。つまり、自然言語の意味理解とは、物をオブジェクトとして生成し、動詞は、オブジェクトのプロパティを変更することと言い換えることができる。

【0043】

また、オブジェクト同士の関係もプロパティで定義でき、机とりんごの関係は、それぞれの位置プロパティの差分から求めた距離だけ離れていると言える。このようにして、物同士の相対的な関係をプロパティで決定することができる。

【0044】

次に、「りんごをもらう。」の意味を考える。この場合は、３次元世界ではなく、所有権世界、または所有空間というものを考える。所有空間は、物を所有するという意味を表現した空間である。その世界に配置されるオブジェクトは、所有というプロパティを持っている。たとえば、「Ａ君がＢ君からりんごをもらう。」の場合、Ａ君とＢ君を所有空間に配置し、最初、Ｂ君の所有プロパティにりんごがある。その次に、「もらう」という動詞を作用させると、Ｂ君の所有プロパティにあったりんごがＡ君の所有プロパティに移る。これが、「もらう」の意味である。Ａ君からみれば、この出来事は「あげる」となる。このように、「あげる」、「もらう」の意味が人オブジェクトと所有空間で実現される。

【0045】

このように、自然言語の文の意味は、世界、または空間と、その空間に配置されるオブジェクトと、オブジェクトのプロパティの変化で表現することができる。そして、これが自然言語の文の意味理解といえる。ここで言う空間とは、３次元空間に限らない。３次元空間を規定するのは位置座標であるが、所有空間を規定するのは、誰が何を所有するかである。ここで言う空間とは、配置される各オブジェクトの属性を管理するものである。３次元空間だと、オブジェクトを絶対位置で管理し、所有空間だと、オブジェクト間の所有関係を管理するものである。

【0046】

さらに別の空間として、家族関係世界、または家族関係空間を考えてみる。この場合は、相対的な人間関係を表現する。自分にとって相手は父親であるとか、息子であるとかといったことである。この場合の人オブジェクトの人間関係プロパティには、相手と自分との相対関係が設定されており、相手によって自分の関係が変わってくる。これが家族関係空間である。これによって、「親になる」の意味は、子供が生まれたことを意味すると理解できるようになる。

【0047】

このように、自然言語の意味理解とは、オブジェクトを生成し、そのオブジェクトの適切なプロパティを設定、または変更等の操作をするということができる。そして、プロパティは、何らかの空間または世界に属しているともいえる。

【0048】

図２に示すように、世界構築部２５は、第１のプラットフォーム２１および第２のプラットフォーム２２を有する。第１のプラットフォーム２１には、前記世界構築部２５によって外部世界そのものが仮想世界として再現される。たとえば、外部世界が部屋の中だとすると、第１のプラットフォーム２１には３次元世界が設定される。そして、カメラ１４で捉えて机と認識すると、データベース１７から机のデータモデルを取り出し、生成部２４で机オブジェクトを生成し、３次元世界である第１のプラットフォーム２１に机オブジェクトを配置する。

【0049】

このようにして、第１のプラットフォーム２１に、カメラ１４で捉えた部屋が再現されるわけである。机オブジェクトは、３次元オブジェクトであるので、部屋の中で自由に動かすことができる。これは、現実世界の机と同じといえる。つまり、人間が頭の中で思い描くのと同じように自由に操作可能な状況が構築される。そして、出力決定部２７は、第１のプラットフォーム２１に構築された外部世界を通して現実世界を認識する。つまり、出力決定部２７は、第１のプラットフォーム２１に構築される外部世界を、現実世界そのものと認識しているわけである。

【0050】

世界構築部２５の第２のプラットフォーム２２は、出力決定部２７によって構築、操作される。第２のプラットフォーム２２に配置されるオブジェクトを操作できるということは、第２のプラットフォーム２２を使ってシミュレーションすることができるといえる。つまり、出力決定部２７は、第２のプラットフォーム２２を使ってシミュレーションすることで、自身の出力を最適に決定することができる。これは、言い換えれば、出力決定部２７は、第１のプラットフォーム２１で展開される世界を現実世界と認識するとともに、第２のプラットフォーム２２を使って試行錯誤して行動を決定する「意識」としての機能を持つといえる。

【0051】

プラットフォーム２１，２２に配置されるオブジェクトは、人などの主体と、それ以外の物との２種類が存在する。その違いは、いわゆる「心」を持っているかいないかである。心とは、喜んだり、悲しんだりといった感情を持つものであり、本開示の人工知能プログラムと同等の機能を持つものである。主体は、心を持つもので、実際の人間のみならず、映画や小説に登場する人物や実在しないキャラクター、神、悪魔等も含む。第１のプラットフォーム２１内で展開される世界は、現実世界だけに限らず、映画で見ている世界や、小説を読んで想像する世界でもある。特徴としては、外部からの情報に基づいて生成され、出力決定部２７が直接変更できないことである。

【0052】

次に、人型のロボットを用いた人工知能プログラムにおける処理方法について説明する。ロボットは、手足のある人型ロボットであり、歩いたり、物を持ったりすることができる。また、カメラ、マイクおよびスピーカーを有し、人と音声でコミュニケーションをとることができる。これらは、ロボットを制御する制御装置１２によって制御される。

【0053】

図３は、本開示の人工知能システム１１により処理する場合の代表的な工程を示すフローチャートである。図４から図６は、ロボット３１が部屋３０に配置された第２のプラットフォームを示す概念図である。

【0054】

図４に示すように、ロボット３１が配置される部屋３０内には、壁３２に棚３３が取り付けられている。そして、棚３３の上にバッテリー３４が載置されているとする。また、部屋３０内には、椅子３５が配置されているとする。

【0055】

次に図３を参照しながら、ロボット３１がどのように状況を認識するかについて説明する。ロボット３１は、部屋３０の状況をカメラで捉え、画像を解析して、棚３３、バッテリー３４、椅子３５等を認識する。すなわち、外部の状況をセンサーにより入手する（Ｓ１１）。データベースには、多くのデータモデルが格納されており、認識した物体をデータベース１７から取り出し、物体のオブジェクトを生成する（Ｓ１２）。オブジェクトは、例えば物の場合には、３次元データとして形状、大きさ等のデータを持つ。さらに色、重さ等、その物の属性や機能等の情報にも関連付けられている。つまり、人工知能が意味を理解できるといえる。意味を理解できるとは、例えば、「机の高さ」と指定したとき、机オブジェクトの高さデータに対応することが分かるということである。

【0056】

データモデルは、オブジェクト指向言語におけるクラスで実現される。ロボット３１の目に相当するカメラ１４は、目の前の現実世界を撮影し、画像解析によりリアルタイムで３次元データに変換し、その形状から物を認識する。例えば「椅子」と判断すると、椅子クラスを呼び出し、椅子オブジェクトを生成する。この椅子オブジェクトが、ロボット３１が直接認識するものとなる。椅子クラスは、椅子３５の部品として脚や座面等を持ち、それらの３次元データも持つ。そして、認識した椅子３５の３次元データに一致するように、脚、座面等の部品を設定する。すなわち、入手したデータを基に、外部世界を再現する（Ｓ１３）。

【0057】

物には、材質、色、重さ、硬さ等の属性がある。画像解析で取得した椅子３５の色は、椅子オブジェクトに色属性を設定する。同様に、画像解析したデータから、椅子３５の材質を木材と判断すると、それを、椅子オブジェクトの材質属性に、木材と設定する。木材のデータモデルには、重さ、硬さ等のデータが記録されているので、これらから椅子オブジェクトの重さ、硬さ等が設定される。カメラ１４により直接取得することができるのは画像のみであるが、このようにして、重さや硬さ等、直接測定できないデータも認識することができる。

【0058】

カメラ１４で認識した物は、現実世界の３次元空間に存在する。したがって、データモデルから生成した物オブジェクトも、３次元空間に配置する必要がある。ここで、物オブジェクトを配置する３次元空間を、外部の現実の３次元世界に対して、３次元仮想世界と呼ぶことにする。３次元仮想世界は世界構築部２５の第１のプラットフォーム２１、第２のプラットフォーム２２に構築され、複数の物オブジェクトを持つことができる。３次元仮想世界は、さらに、物オブジェクトを操作する関数も有する。例えば、配置関数としては、引数として位置と物オブジェクトを持ち、物オブジェクトと位置が渡されると、３次元仮想世界の中で、指定された位置に、指定された物オブジェクトを配置する。また、移動関数は、引数として物オブジェクトと移動先位置を持ち、指定された物体を指定された位置に移動する。

【0059】

３次元仮想世界やデータモデルは、現実世界を可能な限り模倣して作られる。現実世界では、固体である物体は、重なることはないので、例えば２つの玉がぶつかると、重なるのでなく、跳ね返され、衝撃で音が出たりする。３次元仮想世界でも、物オブジェクト同士は重ならず、ぶつかると、跳ね返されたり、音が出たりするようにプログラミングされている。また、現実世界と同じように、重力も設定される。つまり、物オブジェクトには、常に鉛直方向下向きに重力が作用している。これにより、３次元仮想世界でも、上下方向が設定できる。

【0060】

さらに現実世界には時間が流れるので、これもプログラムで実現される。時間とは、過去から現在、未来へと流れる１次元の時間軸で表現できる。そして、現在という瞬間で切り取ったものが、目の前に展開されている状況である。つまり、第１のプラットフォーム２１で、現在展開されている状況が、ロボット３１が認識する現在となる。

【0061】

ある瞬間の３次元仮想世界とオブジェクトの状況を場面として保存する。複数の場面を順番を保って保存することができる保存装置があるとする。時間順に場面を保存したとき、順番に並んでる状態が１次元の時間軸となるわけである。このとき、隣り合い、変化した場面の対が出来事となる。

【0062】

そして、出来事を時間軸に沿って格納したものが物語（ストーリー）である。物語は、過去から現在に向かう方向に、時間の流れが設定される。つまり、物語において、場面や出来事を時間の順をもって管理するのが「時間」という概念に相当する。プログラムでは、配列やリストなどのデータ構造で実現できる。

【0063】

そして、現実世界や物語が仮想世界として再現されるのが、世界構築部２５である。外部の現実世界を再現するのが外部世界再現部２６であり、操作するのが出力決定部２７である。

【0064】

第１のプラットフォーム２１には、外部の現在世界を忠実に再現した外部仮想世界が展開される。カメラ１４やマイク１５からの外部の状況の情報を基に、世界構築部２５が第１のプラットフォーム２１に外部仮想世界を生成する。

【0065】

物オブジェクトは、３次元データのオブジェクトで構成されているため、理論上は、仮想世界の中で移動可能である。しかし、第１のプラットフォーム２１で展開される外部仮想世界は、外部の現実世界を忠実に再現しているので、もし、外部仮想世界の中だけで椅子３５を動かすと、現実世界と乖離が生じてしまう。よって、第１のプラットフォーム２１のオブジェクトは、出力決定部２７では自由に動かせないようになっている。そこで、外部仮想世界とは異なる仮想世界を展開できるプラットフォームとして第２のプラットフォーム２２が存在する。つまり、第２のプラットフォーム２２は、出力決定部２７（意識）によって自由に操作することができる。

【0066】

ここで、ロボット３１は、会社で働いているとして、今、部屋３０に上司が入ってきて、上司がロボット３１に「棚の上のバッテリーを持ってきてくれ」と言ったとする。ロボット３１は、顔認証により、話したのが上司と判断し、音声認識により、言葉をテキストデータに変換し、上司が喋った内容として、意味を理解する。この場合、棚３３の上に載置されているバッテリー３４を取って、上司のところに持っていく任務が与えられたと意味を理解する。すなわち、ここで、出力を決定するタイミングに達したと判断する（Ｓ１４において、ＹＥＳ）。

【0067】

出力決定部２７は、バッテリー３４を取るには、どう行動すべきかについて探索する。そのために使われるのが第２のプラットフォーム２２である。すなわち、ここで、第２のプラットフォーム２２において、シミュレーションを行う（Ｓ１５）。

【0068】

まず、出力決定部２７は、第２のプラットフォーム２２に、第１のプラットフォーム２１と同様の３次元仮想世界を構築する。この時、自分自身であるロボット３１も、３次元仮想世界に配置する。これによって、出力決定部２７は、第２のプラットフォーム２２で、自分の行動をシミュレーションして、最適な行動を決定することができる。すなわち、出力を決定する（Ｓ１６において、ＹＥＳ）。

【0069】

目的はバッテリー３４を取ることなので、まず、バッテリー３４にできるだけ近づくように、棚３３の近くまで自分を移動させ、次にバッテリー３４を取るために、棚３３の上に手を伸ばす（図５参照）。すると、手を伸ばしてもバッテリー３４に手が届かないことがわかる。つまり、高さが足りないのである。

【0070】

そこで、高さを補う方法を探索する。ロボット３１は、データベース１７に知識を持っており、その中から、自分の高さを上げる方法を探索する。すると、「椅子の上に乗る」という方法が見つかる。そこで、次は椅子を探索すると、部屋３０の中に椅子３５が見つかる。次は、その椅子３５を第２のプラットフォーム２２で棚３３の下に移動させ、その上に自分が乗ったところをシミュレーションしてみる。すると、手が棚３３の上に届き、バッテリー３４を取ることができることがシミュレーションできた（図６参照）。後は、バッテリー３４を持って椅子３５から降り、上司のところまでバッテリー３４を持っていくところをシミュレーションする。それが問題なければ、シミュレーションした一連の自分の行動を記録する。そして、決定した出力内容に沿って行動する（Ｓ１７）。

【0071】

第２のプラットフォーム２２には、自分が配置され、客観的に自分を認識できるとしたが、第１のプラットフォーム２１には、主観的な自分が配置される。主観的な自分とは、今現在、自分のセンサーが捉えている自分の状態である。例えば、目に相当するカメラ１４が捉えた自分の手足であったり、手足に温度センサーや触覚センサーがある場合には、それらのセンサーからの自分の検知しているデータである。

【0072】

第１のプラットフォーム２１の現在世界は、出力決定部２７では操作できないと説明したが、自分の手足や口に相当するスピーカー１６等、自分の身体に関しては、出力決定部２７が操作することができる。なぜなら、手を上げようと出力決定部２７が思えば、ロボット３１の手のモーター１３が駆動し、外部の現実世界のロボット３１の手が上がるからである。また、その状況はカメラ１４で捉えられて、第１のプラットフォーム２１の外部仮想世界の自分の手も上がることになる。

【0073】

したがって、シミュレーションによって決定された行動を第１のプラットフォーム２１で実行することによって、現実世界で実際に行動し、バッテリー３４を取って上司のところまで持っていくという任務を遂行することができる。

【0074】

このようにして、本開示の人工知能システム１１は、第２のプラットフォーム２２でシミュレーションしながら最適な行動を決定することができる。これは、人の思考とほぼ同じと言える。

【0075】

出力決定部２７が認識する世界やデータモデル（オブジェクト）は、カメラ１４で捉えた物として説明したが、データモデルは物理的に存在するものに限らず、人が認識できるものであれば何でもデータモデルに成り得る。例えば、会社組織を考えてみる。課長や部長といった役職は、物理的に存在するのではなく、人の頭の中に存在する概念である。そういった概念であっても、データモデル（オブジェクト）と、それを配置する世界によって出力決定部２７で認識することができる。

【0076】

例えば、現実世界の会社組織を模倣した会社組織仮想世界、または会社組織仮想空間を作るとすると、会社組織仮想世界は、複数の役職が、役職の順に配置される構造を持っている。現実世界の社員のデータモデルである社員オブジェクトは、会社組織仮想世界の対応する役職に配置される。会社組織仮想世界は、社員オブジェクトを操作する関数として、昇格関数を持っており、係長の社員オブジェクトを１段階昇格させると課長となる。

【0077】

例えば、知り合いが「課長になったよ。」と言ったとする。その人は、以前係長だったと知っていれば、昇格したことになり、それはその人の価値が上がったことでもあるので「よかったね」と応答すれば、意味のある会話が成立する。これが、言葉の意味を理解するということである。意味を理解できることで、人と自然な会話ができるようになる。

【0078】

また、外部の世界は、現実に存在する世界に限らず、映画や小説の中の世界であってもよい。その場合も、カメラ１４で捉えた映像やテキストデータから、第１のプラットフォーム２１に仮想世界を構築する。

【0079】

次に、他の実施形態におけるロボットが人工知能システム１１を使って行動を決定する方法について説明する。ロボットは、外部環境を検知するカメラやマイクなどのセンサー以外に、自分の内部状態を検知するセンサーも持つ。その一つとして、電池残量検知センサーを持っているとする。

【0080】

また、人工知能システム１１は、プラスマイナスの心理状態を持つ。心理状態とは、内部状態の一種であり、身体の内部状況を示す。プラスの心理状態とは、プラス感情とも言い、嬉しかったり、満腹であったりといった自分にとって好ましい心理状態で、マイナスの心理状態とは、マイナス感情とも言い、悲しかったり、危険であったりと自分にとって好ましくない心理状態のことである。心理状態は、笑顔や泣くといった身体的に表情を作るといったことだけでなく、内部の制御状況にも関係する。たとえば、嬉しいといったプラス感情の場合は、活動が活発になるとか、行動が軽くなる。逆に、悲しいといったマイナス感情の場合には、活動が抑えられ、ゆっくりした行動となる。このように心理状態は行動に関する内部の関数やパラメータなどに影響を与える。

【0081】

出力決定部２７には、外部環境や内部状態を検知する各種センサーからの情報が入力され、心理状態を判定する心理状態判定プログラムを有する。たとえば、電池残量検出センサーからの電池残量が、下限値より下がった場合、空腹というマイナスの心理状態と判定し、上限値より上がった場合、満腹というプラスの心理状態と判定する。

【0082】

出力決定部２７は、空腹心理状態など、マイナスの心理状態を感じると、それを解消するための行動を探索する。データベースは、原因と結果をペアにした原因結果辞書を持っている。

【0083】

原因結果辞書は、「ＡをすればＢとなる」というルールを記録したものであり、これは、原因と結果のペアで管理して、データベースに記録しておくことで実現される。この原因結果辞書は、長期記憶の一種である。原因結果辞書の例としては、「勉強すれば頭が良くなる」とか「走る練習すれば足が速くなる」とかである。原因結果辞書の内容は、経験や学習によって追加される。そして、ここでは、「充電すれば電池が回復する」とか「バッテリーを交換すれば、電池が回復する」といったデータが格納されている。

【0084】

次に、他の実施形態における出力決定部２７が行動を決定する方法を、図７のフローチャートを使って説明する。出力決定部２７は、ステップＳ１において、出力決定部２７に含まれる心理状態判定プログラムの空腹状態を検知すると、マイナスの心理状態となる。

【0085】

出力決定部２７は、マイナスの心理状態を検知すると、次のステップＳ２で、それを解消する行動を探索する。データベース１７の原因結果辞書を探索することで、たとえば、「充電すれば満充電になる」と「バッテリーを交換すれば満充電になる」と二つの行動が得られたとする。

【0086】

次のステップＳ３では、得られた複数の行動の中から、どれを選択するか決定する。出力決定部２７は、第２のプラットフォーム２２で自分のオブジェクトを配置し、ステップ２で得られた行動をシミュレーションする。行動には、移動や作業するなどの運動や、費用などのコストがかかる。シミュレーションすることによって、充電するときのコストが＋５であり、バッテリーを交換するときのコストが＋１０だとする。これらのコスト計算に必要なデータは、データベース１７に記憶されているものとする。出力決定部２７は、各行動の中から、最もコストが低い行動を選択し、ここでは充電が選ばれる。

【0087】

行動が決まると、次のステップＳ４において、シミュレーションしたとおりの行動を行う。第１のプラットフォーム２１は、現実世界をそのまま構築したモデルで、自分のオブジェクトは操作できるようになっている。第１のプラットフォーム２１に配置される自分のオブジェクトは、外部に出力されるモーター１３やスピーカー１６に連動しており、出力決定部２７は、第１のプラットフォーム２１上の自分のオブジェクトを操作すると、外部世界の自分の身体が実際に動くように構成されている。これは、人間の脳でいえば、一次運動野に対応するといえる。

【0088】

そこで、出力決定部２７は、ステップＳ３で選択した行動を、第１のプラットフォーム２１の自分のオブジェクトに適用すると、外部の現実世界で自分が実際に動き、充電することができる。

【0089】

実際に充電が行われ、電池残量検知センサーが上限値を上回ると、ステップＳ５で、心理状態判定プログラムは、満腹の心理状態となる。すると、出力決定部２７は、空腹心理状態が解消したと判断し、空腹解消の行動探索を終了する。

【0090】

このように、人工知能システム１１は、センサーによって外部世界に直接応答するのでなく、内部に仮想世界を構築することで、シミュレーションしながら行動することができる。これが、本発明の最大のメリットである。

【0091】

このことを、分かりやすく説明するために、外部世界に直接応答するカエルを考えてみる。カエルは、黒い点の動きで餌となるハエを認識し、空腹時にハエを認識すると、舌を伸ばしてハエを捕食して食べるものとする。環境が全く変わらなければ、このプログラムで生きて行くことができるが、もし、黒いハエでなく赤いハエが住む環境に変わった場合には、黒い点にしか反応しないプログラムでは、赤いハエを捕食することができず餓死してしまう。

【0092】

一方、シミュレーションできるプラットフォームを持つと、新しい環境に変わったとしても、その環境に応じた新しい行動を生成してシミュレーションしたり、それを実際に試してみたりできるので、環境が変化しても柔軟に対応したり、計画を立てて行動できるようになる。この機能をもっているのが人間の脳であり、本発明の人工知能システム１１でもある。

【0093】

ここで、データベース１７について説明しておく。データベース１７には、物の形や、名前、色などが記録される。これは、人間の記憶の意味記憶に対応する。意味記憶とは、「りんごは赤い」とか「１年は１２か月ある」といった知識である。

【0094】

また、第１のプラットフォーム２１では、現在、現実世界で起こっている出来事が展開される。そして、嬉しかったり、驚いたりといった何らかの感情（心理状態）が発生すると、それをきっかけとして、その時、第１のプラットフォーム２１に展開されていた状況が物語としてデータベース１７に保存される。そして、人工知能システム１１は、後から、保存した出来事を第２のプラットフォーム２２に展開して、再度、認識することができる。これは、人間でいうと「思い出」と言える。「思い出」は、頭の中に場面が映像として浮かぶタイプの記憶であり、エピソード記憶と呼ばれるものである。このように、データベース１７は、意味記憶だけでなく、エピソード記憶も記録される。エピソード記憶を記憶するのは、人間の脳でいうと海馬に相当する。このように、データベース１７は、意味記憶とエピソード記憶を記録する長期記憶として機能する。

【0095】

なお、エピソード記憶は、第１のプラットフォーム２１で展開された現在世界だけでなく、出力決定部２７が創り出して（想像して）第２のプラットフォーム２２に展開される世界も記憶することができる。

【0096】

また、第２のプラットフォーム２２は、過去の出来事だけでなく、未来の出来事を想像する場合にも使える。第２のプラットフォーム２２には、「時」を設定することができ、「昨日」や「明日」と設定することができる。

【0097】

人工知能システム１１は、出力決定部２７が稼働していないとき、人間でいうと眠っているときに、エピソード記憶の中から共通するもの、繰り返し起こった事象などを原因結果辞書、意味記憶に書き加えていく。もし、ずっと出力決定部２７が起動していてはこの処理ができない。そこで、長時間出力決定部２７が起動状態にあると、出力決定部２７の起動を終了したいという欲求（心理状態）を持たせる。これは、人間でいうと眠りたいという睡眠欲に相当する。

【0098】

プラットフォームについての説明も補足しておく。第１のプラットフォーム２１に世界を再構築することのメリットについてである。

【0099】

たとえば、目の前に机と椅子があり、それをカメラ１４で順に画像認識していては、まず机を認識して、その次に椅子を認識することになる。つまり、同時に存在しているはずの机と椅子が、最初に机に気づき、つぎに椅子に気づきと順番を持ち、世界をありのままに捉えることにならない。それを、プラットフォーム上に仮想世界として構築し、出力決定部２７はそれを認識することで、現在存在するありのままの世界を感じることができる。つまり、第１のプラットフォーム２１に展開される世界が、「今」という瞬間といえる。

【0100】

そして、第１のプラットフォーム２１または第２のプラットフォーム２２に構築され、出力決定部２７が認識できる世界が、人間でいう短期記憶またはワーキングメモリに相当する。なお、プラットフォームに構築されるのは、目で見える物体だけでなく、地位やお金といったセンサーで検知できないものも含まれる。

【0101】

第２のプラットフォーム２２に展開された過去の思い出と、第１のプラットフォーム２１で展開されている「現在」とを、複数の出来事や場面を順序をもって保持可能なデータ構造で保持したとき、このデータ構造が「時間」である。「時間」とは、センサーなどで検知できるものではないが、プラットフォームに配置可能なオブジェクトとすることで、出力決定部２７により認識することができる。「時間」の特徴は、現実世界では、過去から現在、現在から未来へと一方方向にのみ流れるものである。また、原因結果辞書に登録される原因と結果は、原因が前であり、結果は後の出来事として、時間の順序をもって管理されている。

【0102】

次に、出力決定部２７が、善悪といった社会の暗黙のルールの理解する方法について説明する。例えば、次のような状況について考えてみる。

【0103】

公園を歩いていると、小さな男の子が泣いていた。そこで、「ぼく、どうしたの？」と声をかけたら、ボールが木の枝に引っかかって取れなくなったとのことでした。そこで、代わりにボールを取ってあげた。

【0104】

これは、困っている子がいたから助けてあげたという、ごく普通の行動である。しかし、考えてみれば、なぜ、このような行動を取るのが当たり前なのか不思議である。何も感じず、そのまま通り過ぎてもいいようなものであるが、目の前で子供が泣いていると、何も感じない人はいない。これが、例えば、そよ風が吹いて、木の葉が揺れても、何も気にせず、通り過ぎるのは普通のことである。この心理の違いは何であろうか？この人間の心理の背景には、「善い行動を取るべき」という社会の暗黙のルールがあるといえる。

【0105】

これをロボットに実現させるには、善悪の意味を理解できていなければならない。しかし、これは意外と難しい。

【0106】

ロボットは、プログラムされた決まった行動はとれるので、「子供が困っていれば助ける」、「道にゴミが落ちていたら拾う」といったあらゆる「善」の行動を、プログラミングすればいいが、それでは切りがない。人間は、そんなことを、全て教えられなくとも、社会で生活しているうちに、何が善で何が悪かを理解している。すべての善行や悪行を教えられて行動しているわけではない。

【0107】

さらに善行だとわかっていてもしなかったり、悪行だとわかっていてもしてしまったりするのが人間である。善悪と人間の行動に単純な相関関係があるわけではない。つまり、機械学習によって、人間の行動から善悪を学習させようと思っても不可能である。

【0108】

そこで、善悪について、単純な行動でなく、その背景にある心理状態に着目してみる。すると、善行とは「～すべき」という心理状態であると分かる。つまり、善行とは、「～すべき」といった暗に社会が個人に果たしたルールといえる。そこで、出力決定部２７に、「すべき判定プログラム」、または有益な行動を決定する「有益行動決定プログラム」を持たせることにする。

【0109】

ここで、「すべき判定プログラム」について考える。まず、プラットフォーム２１，２２には、自分と相手の主体オブジェクトが配置され、出力決定部２７は、自分と相手のプラスマイナス感情を判定するとする。出力決定部２７は、行動を決定するとき、原則、自分がプラス感情となるように決定する。しかしながら、社会で行動する場合、「すべき判定プログラム」が働く。

【0110】

出力決定部２７は、第２のプラットフォーム２２に主体である自分と男の子のオブジェクトを配置し、自分が取り得る行動をシミュレーションする。一つは、何もせず、そのまま立ち去る場合、もう一つは、男の子を助ける場合である。出力決定部２７は、この状況から自分のプラスマイナス感情を、例えば数値で算出する。立ち去る場合、今まで公園を歩いていて、そのまま歩き続けるだけであるから、何も変化がないので０となる。

【0111】

図８に示すように、男の子を助ける場合は、男の子に声をかけたり、何か作業をすることになったりするので、労力や時間がとられることが予想され、出力決定部２７は、このときのプラスマイナス感情を－５（マイナス５）と予想したとする。

【0112】

出力決定部２７は、自分のプラスマイナス感情が最大となるように行動を決定するので、これだけの状況から判断すると、そのまま立ち去る行動を取ることになる。しかし、ここで、すべき判定プログラムが動作する。

【0113】

すべき判定プログラムは、自分以外の他人がいる場合、他人のプラスマイナス感情を考慮する。相手のプラスマイナス感情は、センサーなどで検知できないので、様々な状況から推定する。今回の場合、相手は「泣いている」という状況である。泣いている状況は、カメラ１４や音声から判別できる。そして、「泣く」という状態は、マイナス感情、たとえば－１０だとデータベース１７に登録されている。また、男の子を助けると、男の子のプラスマイナス感情は＋５（プラス５）になると推定する。

【0114】

そして、相手のプラスマイナス感情を設定し、出力決定部２７は、自分のプラスマイナス感情に相手のプラスマイナス感情を考慮、たとえば加算した合計で行動を決定する。すると、立ち去る場合、相手のプラスマイナス感情は－１０（マイナス１０）なので、合計は－１０（マイナス１０）となる。一方、助ける場合、相手のプラスマイナス感情は＋５（プラス５）となるので、合計は±０（プラスマイナス０）となり、助ける場合の方が大きくなるので、助ける行動を選択することになる。

【0115】

シミュレーションして、立ち去る場合が－１０（マイナス１０）というマイナス感情を出力決定部２７が感じるとは、困っている人が目の前にいるのに、そのまま立ち去ることを想像するだけで、嫌な感情、悪いことだなぁという感情が生じることを意味する。当然、シミュレーションだけでなく、実際に立ち去った時も、嫌な感じを感じることになる。

【0116】

このようにして、出力決定部２７が行動を決定するとき、利己的な行動を抑制し、利他的な行動を取るように、バイアスをかけることができる。これによって、困っている人を助けたり、相手を思いやるといった善行を行う出力決定部２７を実現できる。すなわち、出力決定部２７は、第２のプラットフォーム２２に配置された人オブジェクトにおける数値化されたプラスマイナス感情の合計に基づいて出力を決定する。このようにすることにより、より相手のことを思いやった対応ができ、人と同じような心を持つように振る舞う人工知能と成り得る。

【0117】

相手が存在しない場合の善行もありうる。たとえば、公園に空き缶が落ちていたとして、それを拾ってゴミ箱に入れる行為は善行である。この場合についても考えてみる。

【0118】

図９に示すように、何もせずに立ち去る場合の自分のプラスマイナス感情は、何もしないので０で、空き缶を拾う場合の自分のプラスマイナス感情は、労力が伴うので－５とする。

【0119】

次に、空き缶が落ちていることを認識したとする。空き缶はゴミの一種で、意味記憶からマイナスの価値であると判断する。プラスマイナスの価値があるものを認識すると、次に、その場合の社会の価値を考える。この場合の社会とは、たとえば、その公園を使っている住民などである。そして、その人のプラスマイナス感情を推測すると、ゴミが落ちている場合は－１０で、ゴミがない場合が０となったとする。

【0120】

すると、ゴミを拾った場合の合計は－５で、ゴミを拾わない場合は－１０となって、ゴミを拾った場合の方が値が大きくなり、ゴミを拾う行動をとることとなる。このようにして、相手が存在しない場合でも、その地域住民や社会を想定して、善行を選択することとなる。

【0121】

このように、自分以外の主体のプラスマイナス感情を推定して自分の行動決定を補正することで、無限に存在する善行、悪行を記憶することなく、善悪といった倫理観を実現することができる。善悪といった倫理観も、一種の心理状態、または感情（社会的感情）と言える。

【0122】

なお、出力決定部２７やすべき判定プログラムが設定するプラスマイナス感情の値は、固定されるものでなく、ロボットによって異なり、それがそのロボットの性格となる。たとえば、相手のプラスマイナス感情を高く設定する傾向があれば、利他的で、優しい性格となり、自分のプラスマイナス感情を高く設定すれば利己的で、自分勝手な性格のロボットとなる。

【0123】

次は、善悪でない場合の「すべき」について説明する。たとえば、親が子供に「遊んでばかりいないで勉強しなさい」というとき、背景に「遊ぶより勉強すべき」という思いがある。この「勉強すべき」は、社会的な善悪ではない。社会でなく、個人に関するものである。

【0124】

ここで、個人のプラスマイナス感情を、低レベル欲求と高レベル欲求の二つに分ける。低レベル欲求とは、すぐに手に入ったり、低コストで手に入るものであり、分かりやすく言えば、身体、肉体的なもので、典型的なものは、本能に根差した欲求である。つまり、不快を避け、快を求める動物の本能による行動の原動力となるものである。食欲、性欲、睡眠欲、安心、安全、楽なものを求める欲求である。また、すぐに手に入る短絡的な欲求も低レベル欲求に含まれる。たとえば、ゲームやギャンブル、またはお酒、たばこ、コーヒーなどの嗜好品や、麻薬などである。

【0125】

高レベル欲求とは、他人との比較や、社会において、他人より価値の高い状態を手に入れたいという欲求で、長い時間や、高いコストをかけないと得られないものである。たとえば、社長、医者、政治家、教授、プロスポーツ選手、歌手、芸能人、セレブ、高年収、高学歴などの社会的地位を手に入れたいという欲望である。高レベル欲求は、このような一般社会に限らず、運動会で勝つとか、絵を先生に褒められるといった、学校のような小さい社会で価値があり、地位が上がることも含まれる。

【0126】

したがって、個人のプラスマイナス感情を低レベル欲求と高レベル欲求に分けると、低レベル欲求を抑えて、高レベル欲求を選択「すべき」と言うことができる。分かりやすく言えば、目先の楽なことを我慢して、長期的に自分が成長することをすべきといえる。

【0127】

いい大学に入れば高レベル欲求が満たされる場合について考える。これは、原因結果辞書を使って推測することができる。たとえば、原因結果辞書から「勉強すれば頭がよくなる」「頭がいいといい大学に入れる」と原因結果を連鎖する。すると、いい大学に入るために、現在自分が取れる行動の一つとして、「勉強する」が得られる。

【0128】

低レベル欲求は、空腹や電池残量のようにセンサーで検出できるタイプと、遊びたい、お酒を飲みたいといった内部から沸き起こるタイプの２種類がある。内部から沸き起こる欲求は一種の心理状態である。世界構築部２５は、こういった遊びたいといった内部から沸き起こる欲求を、その人の低レベル欲求として生成することとする。

【0129】

出力決定部２７は、いい大学に入るために「勉強する」という行動を取ろうとするが、それに反して、「遊びたい」という低レベル欲求を感じる。出力決定部２７は、「遊ぶ」と「勉強する」の二つの選択肢から行動を決定することになる。

【0130】

「遊ぶ」を選ぶと、楽しく、低レベル欲求は例えば＋１０となるが、勉強はできなくなり、テストの成績が下がったり、将来、いい学校に入れなかったりして高レベル欲求が例えば－２０になり、合計は－１０となる。一方、「勉強する」を選ぶと、今すぐ遊べないので、低レベル欲求は満たされず、例えば－５となるが、テストの成績があがって、いい学校に入れるので高レベル欲求は例えば＋２０となって合計は＋１５となる。したがって、「勉強する」という行動を選択することになる。これによって、低レベル欲求を抑え、高レベル欲求を達成するための行動を促すことができる。これが「すべきプログラム」である。設定されるパラメータは、性格や経験によって異なり、それが個性となる。つまり、楽な方に流されやすいロボットだったり、ストイックなロボットになったりするわけである。

【0131】

このように低レベルより高レベル欲求が高くなるように欲求レベルの値を設定する方法に限らず、単に、低レベル欲求より高レベル欲求の行動を促すように制御するだけでも構わない。

【0132】

他人の悩みの相談に乗るには、悩みの意味を理解しなければならないが、「～すべき」といった暗黙のルールが理解できないと、「遊びたいけど勉強しないといけない」といった悩みも理解できず、会話が成立すらしない。本発明の人工知能システムでは、こういった「～すべき」の意味が理解できるので、人と自然な会話ができるようになる。

【0133】

「～すべき」といった感覚は、同じ社会で暮らす人は共通に持つ感覚である。逆に言えば、この共通の感覚を持つものであれば、その社会の一員として受け入れられるともいえる。その一つが善悪のルールである。

【0134】

映画や小説で描かれるＡＩは、理論的に正しい行動するだけで、相手の気持ちを汲むといった人間の心を感じない。本発明の人工知能システムであれば、相手の気持ちを思いやったり、何をすべきかといった当たり前の行動を取ることができ、社会に自然と受け入れられるようになる。

【0135】

また、低レベル欲求および高レベル欲求については、以下のように考えることもできる。人オブジェクトは、人を模しており、人の持つ欲求や感情もプログラムとして備える。たとえば、属性として、空腹度合いといったものを空腹度プロパティに数値として持たせておく。また、メソッドとして「食べる」といった行動も持たせておく。空腹度プロパティが大きくなると、食べ物を食べたいという欲求が大きくなるといったように関連付けておく。これが食欲である。食欲は、食べたいという行動の原動力となり、食べたいという欲求の大きさが、空腹度プロパティに比例するといったように空腹度と欲求が関連付けられる。このようにして、食欲をコンピュータプログラムで再現することができる。人間の欲求は、食欲以外に、睡眠欲や性欲といった身体や本能に基づいて発生するものがある。このように身体に依存する欲求、すなわち、たとえば主体がロボットであった場合にロボットという物そのものの状態を維持するのに求められる欲求を低レベル欲求と呼ぶことにする。また、主体はロボットに限らず、３ＤＣＧなどの３次元空間や、第１または第２のプラットフォームに生成さえる人オブジェクトであってもよい。

【0136】

人間の欲求は、身体に依存するもの以外に、社会に依存するものがある。たとえば、社会には、階級が存在し、その人が属する社会で高い地位を得たいという欲求が生まれる。具体的には、会社では課長から部長に昇進したいといったことであり、部活動だと補欠からレギュラーになりたいといったことであり、学校だと、偏差値の高い学校に進学したいといったことであり、国家だと、総理大臣になりたいといったことである。会社の役職とか、偏差値とか、あらゆる社会に階級や地位、といった高低が存在し、その社会で高い地位になりたいと思うのが社会的欲求である。社会的欲求の大きさは、現在の自分の地位と目指す地位の差や性格に関係して決まる。社会的欲求とは、自分の身体的、または肉体的状態を維持するのに直接的に求められない高レベル欲求とも言える。

【0137】

次に、もう少し複雑な心理的状況について説明する。人は、「嬉しい」や「悲しい」などの感情から、「後悔」「嫉妬」といった複雑な感情、善悪といった倫理観まで、様々な心理的状況を持っており、相手の心理的状況が理解できることで会話が成り立つ。相手が喜んでいれば、「よかったね」と返答したり、相手が悲しんでいれば、「それは悲しいよね」と応えれば、相手は自分の気持ちが通じたと感じるわけである。そして、これこそが日常会話である。

【0138】

つまり、日常会話で最も重要なことは、相手の心理的状況を理解することである。そして、その心理的状況に応じた応答をすることが日常会話である。

【0139】

次に、心理状況のことを心理的パターンとして、その解析方法について説明する。

【0140】

それでは、最初に「我慢」という心理的パターンについて説明する。先に、遊びと勉強のうち、勉強を選ぶ説明をした。低レベル欲求を抑制して、高レベル欲求を選ぶべきと、「すべきプログラム」からの力が作用するが、このときの、低レベル欲求を抑えている状況を、「我慢する」と定義できる。眠いとか、痛いとか、主に身体から生じる欲求を抑えている心理的パターンを指している。

【0141】

低レベル欲求を抑えて高レベル欲求を選ぶとき、低レベル欲求に注目した心理的パターンが「我慢」となるが、「高レベル欲求」に注目した心理的パターンは「頑張る」や「努力」となる。たとえば、「勉強する」という行為は、低レベル欲求がマイナスとなるので、やりたくない行動だが、達成した時の高レベル欲求は高くなる。これは、目標を目指して、低レベル欲求を抑制して高レベル欲求となる行動を行っているといえる。これが、「頑張る」や「努力している」心理的パターンである。マラソンで走っている状況など、目標となるゴールを目指し、休みたいという低レベル欲求を抑制して、走り続けるという高レベル欲求の行動をしている状況なので、「頑張っている」という心理的パターンになる。

【0142】

そして、そういう状況の人に対しては、「頑張れ！」といった声援を送る。これは、「応援」という心理的パターンとなる。応援は、相手の心理的パターンが「頑張る」と認識した場合に、相手が選択した高レベル欲求の行動を肯定し、後押しする呼びかけの言葉となる。

【0143】

次は、「後悔」という心理的パターンについて説明する。「後悔」には、まず、目標が必要である。目標は、大学合格のように、将来において、自分がこうありたいというような高レベル欲求である。そして、高レベル欲求が達成されず、かつ、もし、過去の行動を変えれば、目標が達成できたかもしれないという過去の行動に注目したときに生じるものである。これが理解できるためには、「もし」という仮定を理解する必要がある。

【0144】

仮定の理解には、第２のプラットフォーム２２を使う。たとえば、大学受験に失敗して、もっと勉強すればよかったと後悔する場合を考えてみる。まず、第２のプラットフォーム２２に過去の自分を配置し、その時に選択し得る行動のうち、取るべき行動、この場合だと、勉強をした場合をシミュレーションする。原因結果辞書には、勉強すれば頭が良くなるとか、頭がいいと大学に合格するといった情報が登録されており、勉強することで大学に合格できるとシミュレーションできる。出力決定部２７は、このシミュレーション結果による大学合格と、現実に起った受験失敗を比較し、その原因が、「勉強しなかった」という行動の選択にあると認識する。つまり、人工知能システム１１は、現実とシミュレーションを比較し、目標に達成できなかった原因となる自分の過去の行動がわかったとき、「もっと勉強すればよかった」といった後悔の心理的パターンを生成する。

【0145】

自分の場合だけでなく、相手の心理的パターンを想像して、相手が後悔してると判断した場合には、相手に対して「残念だったよね」とか、「もっと勉強すればよかった」と声をかければ会話が成立する。

【0146】

次は、「言い訳」の心理的パターンについて説明する。「言い訳」とは、目標とする高レベル欲求が実現しなかった場合に生じる心理的パターンの一つである。「後悔」は、目的を達成できなかった原因が自分にあると反省する心理的パターンだが、「言い訳」は、目標を達成できなかった原因を自分以外にあるとするものである。たとえば、受験に失敗した原因を、「隣の家がうるさくて集中して勉強できなかった」などと言う場合である。

【0147】

「後悔」の場合、原因が自分となるので、マイナス感情が発生するが、「言い訳」の場合は、原因が自分以外となるので、マイナス感情が発生しなくて済む。このように、同じ結果であっても、性格によって多様な心理的パターンが生じ、性格によって返答が異なる。大量の会話データを集めて機械学習で学習させても、正しい答えが得られない原因はここにある。

【0148】

次は、「自慢」の心理的パターンについて説明する。「自慢」は、自分が高レベル欲求を満たしたとき、それを、他人に示す心理的パターンである。高レベル欲求の高レベルとは、社会的に価値のあることであり、他者との比較によって生まれる。つまり、自分は社会的に価値があるといえる。そのことを、その高レベル欲求を満たしていない他者に、故意に示すことは、より、満たされた気持ちになり、プラス感情が上がる行為である。これが「自慢」の心理的パターンである。

【0149】

「嫉妬」「羨ましい」は、その逆の心理的パターンといえる。つまり、自分が欲している高レベル欲求を、自分でなく、他人が手に入れたと知った時に生じるマイナス感情である。

【0150】

次は、「恥」の心理的パターンである。高レベル欲求は、社会において、ある一定以上の価値のある存在になりたいという欲求である。逆に言えば、ある一定の価値以下は、普通の存在であるといえる。さらに価値が下がり、ある基準以下になれば、普通より劣った存在といえる。「恥」とは、このある基準以下に下がったときの心理的パターンである。この基準は、属する社会で決まり、たとえば、陸上部では、５０ｍを６秒台で走るのが普通であり、７秒以上かかると「恥」だといったことである。これは、明示されず、その社会の暗黙のルールとして存在し、服装や能力など様々な基準があり得る。このルールを理解し、最低限の基準を保つことが、その社会に受け入れられる最低限の条件ということもできる。社会に受け入れられる人工知能として、恥の心理的パターンを理解することは必須であるといえる。

【0151】

次は、「勝ち」「負け」といった心理的パターンについて説明する。そのためには、まず、「対立」という概念について説明する。「対立」は、心理的パターンでなく、概念で、プラットフォームに配置して、出力決定部２７が認識できるものである。対立と言う概念は、二つの主体が競い合う状況である。競うとは、どちらが上位であるかを決める行動である。対立する主体は、二つに限らず、それ以上であってもいい。また、主体は一人にかぎらず、複数人が集団となったグループ、チーム、国であっても構わない。対立は、スポーツ、戦争、ゲームなどの状況で成立する概念である。

【0152】

プラットフォームは、対立概念が設置可能で、二つの主体を配置し、いずれか上位かを判定するルールに則って競い、上位になった主体が「勝ち」、下位になった主体が「負け」となる。「勝ち」はプラス感情で、「負け」はマイナス感情である。

【0153】

次に、「比喩」について説明する。たとえば、「受験戦争」という言葉を考えてみる。「受験」は、殺し合うことはないので、戦争とは全く別のものであるが、「戦争」も、「受験」も、互いに競っている点は同じで、「対立」概念に属するといえる。そうであれば、「受験」を対立概念を介して「戦争」と対比すると、受験の激しさが、戦争のようだと強調されることとなる。これは、第２のプラットフォーム２２に設置した対立概念に「受験」と「戦争」を配置すると、それを認識する出力決定部２７は、「戦争」の持つ激しいイメージを、「受験」に投影して認識することで実現できる。

【0154】

このようにして、比喩といった表現は、同じ概念に属する別の概念、または単語で表現することと言え、心理的パターンを使うことで理解することができる。比喩の理解は、従来の自然言語処理で最も難しいといわれていたことでもある。

【0155】

次に、本開示のさらに他の実施の形態について説明する。本開示の人工知能システムが以下の物語を読んで質問に答えるとする。物語は、以下の通りである。

【0156】

「部屋にＡさんとＢさんがいます。Ａさんはかごを、Ｂさんは箱を持っています。Ａさんはビー玉を持っています。Ａさんはビー玉を自分のかごに入れました。Ａさんは外に散歩に出かけました。Ｂさんは、Ａさんのビー玉をかごから取り出すと、自分の箱に入れました。Ａさんが帰ってきました。Ａさんは、自分のビー玉で遊びたいと思いました。それでは質問です。Ａさんがビー玉を探すのは、どこでしょうか？」

【0157】

生成部２４は、この物語を読み、第１のプラットフォーム２１に仮想世界を生成する。最初に、図１１に示すように、部屋４１のデータモデルを生成し、第１のプラットフォーム２１に配置する。そして、部屋４１の中にＡさん４２とＢさん４３の二人のオブジェクトを配置し、さらにかご４４と箱４５のオブジェクトを部屋４１に配置する。この状態を第１の場面とする。

【0158】

次にＡさん４２がビー玉をかご４４に入れる場面を仮想世界で実現する。動き、変化のある場面は出来事とする。次の出来事は、Ａさん４２が部屋４１から外に出る出来事となる。その後、部屋４１にＢさん４３とかご４４と箱４５が配置された場面が続く。このようにして、物語は、場面と出来事の連なりで管理される。

【0159】

このようにして物語を全て読み込むと、第１のプラットフォーム２１の仮想世界では、最後の場面では、ビー玉が箱４５の中に入っている。ここで、「Ａさんがビー玉を探すのは、どこでしょう？」と質問されたとする。第１のプラットフォーム２１の仮想世界では、ビー玉は箱４５の中に入っているので、このままでは「箱を探す」と答えてしまう。

【0160】

しかし、ビー玉がかご４４から箱４５に移されたとき、Ａさん４２は外にいて、それを知らないので、「かごを探す」が正解である。そこで、この問題に正確に答えることができるように、第１のプラットフォーム２１に設定される人は、人工知能プログラム４６を持つようにする。この場合、第１のプラットフォーム２１に配置されるＡさん４２は、図１１に示すように、人工知能プログラム４６を持っており、人工知能プログラム４６は、Ａさん４２にとっての第１のプラットフォームである下層側第１のプラットフォーム４７を有する。そして、Ａさん４２は、見たり聞いたりして外部から得た情報を基に、下層側第１のプラットフォーム４７に、Ａさん４２が現実と思っている世界を構築する。

【0161】

ここでは、Ａさん４２は自分でかご４４にビー玉を入れた後、部屋４１を出たので、その後、Ｂさんがビー玉を箱４５に移し替えたところは見ていない。つまり、Ａさん４２の下層側第１のプラットフォーム４７におけるビー玉は、かご４８に入ったままである。質問は、「Ａさんがビー玉を探すのは、どこでしょう？」である。これは、Ａさん４２の立場になって答えなければならない質問である。つまり、実際の現実世界の状況ではなく、Ａさん４２の人工知能プログラム４６が現実と思っている状況から判断しなければならない。それは、Ａさん４２の下層側第１のプラットフォーム４７に構築された仮想世界であり、そこには箱４９ではなくかご４８の中にビー玉が入っているので、Ａさん４２が探すのは「かご」となるわけである。

【0162】

このようにして、第１のプラットフォーム２１に配置される主体（人オブジェクト）にも、人工知能プログラムを配置、つまり、入れ子構造に人工知能プログラムを構成することで、相手の立場になって考えることができ、より人らしい心となる。

【0163】

このように、相手の立場になって考える仕組みは、「心の理論」として提唱されており、「心の理論」は人間にしか持ちえない能力ともいわれている。下層側第１のプラットフォームを実装することで、「心の理論」も実現可能となる。

【0164】

なお、入れ子構造は２重だけでなく、３重、４重といくらでも深くすることができる。しかし、計算量が膨大になるため、２重またはせいぜい３重の入れ子構造に制限するよう構成することが好ましい。

【0165】

今回開示された実施の形態はすべての点で例示であって、どのような面からも制限的なものではないと理解されるべきである。本発明の範囲は上記した説明ではなく、請求の範囲によって規定され、請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。

【0166】

また、今回開示された実施の形態は、会話で説明したが、本発明は会話に限らず、自然言語処理全般に適用でき、対話や文章の意味理解、文章の要約、機械翻訳などにも適用可能である。さらには、自動車や機械、システムなどで使われ、言葉を介したインターフェイスなどにも適用可能である。さらには、自然言語を使わずに、主体の行動に基づいて、感情や倫理観を判定する場合にも適用できる。

【符号の説明】

【0167】

１１ 人工知能システム、１２ 制御装置、１３ モーター、１４ カメラ、１５ マイク、１６ スピーカー、１７ データベース、１８ 制御部、２１ 第１のプラットフォーム、２２ 第２のプラットフォーム、２４ 生成部、２５ 世界構築部、２６ 外部状況再現部、２７ 出力決定部、３０ 部屋、３１ ロボット、３２ 壁、３３ 棚、３４ バッテリー、３５ 椅子、４１ 部屋、４２ Ａさん、４３ Ｂさん、４４，４８ かご、４５，４９ 箱、４６ 人工知能プログラム、４７ 下層側第１のプラットフォーム。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】