ホーム > 特許ランキング > 国立大学法人岩手大学
知財求人 - 知財ポータルサイト「IP Force」
▶ 国立大学法人岩手大学の特許一覧 ▶ 株式会社エイシングの特許一覧
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-02-28
(45)【発行日】2023-03-08
(54)【発明の名称】情報処理装置、方法、プログラム、ＩＣチップ及び学習済モデル
(51)【国際特許分類】
G06N 20/00 20190101AFI20230301BHJP
【ＦＩ】
G06N20/00
【請求項の数】
12
(21)【出願番号】P 2019506242
(86)(22)【出願日】2018-03-14
(86)【国際出願番号】 JP2018010089
(87)【国際公開番号】W WO2018168971
(87)【国際公開日】2018-09-20
【審査請求日】2021-03-03
(31)【優先権主張番号】P 2017050459
(32)【優先日】2017-03-15
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】504165591
【氏名又は名称】国立大学法人岩手大学
(73)【特許権者】
【識別番号】517045705
【氏名又は名称】株式会社エイシング
(74)【代理人】
【識別番号】100098899
【弁理士】
【氏名又は名称】飯塚 信市
(74)【代理人】
【識別番号】100163865
【弁理士】
【氏名又は名称】飯塚 健
(72)【発明者】
【氏名】金 天海
(72)【発明者】
【氏名】沼倉 彬雄
(72)【発明者】
【氏名】菅原 康滉
(72)【発明者】
【氏名】出澤 純一
(72)【発明者】
【氏名】菅原 志門
【審査官】杉浦 孝光
(56)【参考文献】
【文献】米国特許出願公開第２００５／０１４４１４７（ＵＳ，Ａ１）
【文献】金 天海 ほか，力学系学習木における誤差ベース予測アルゴリズム，情報処理学会 研究報告 数理モデル化と問題解決（ＭＰＳ），日本，情報処理学会，2017年02月20日，2017-MPS-112巻, 5号，pp.1-4
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｎ ３／００－２０／００
(57)【特許請求の範囲】
【請求項1】
階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定の学習対象データ群を学習させることにより得られた学習済モデルに基づいて、入力データに対応する予測出力を生成する情報処理装置であって、入力データに基づいて、前記入力データに対応する前記学習木構造の始端から末端に至るまでの各層の入力ノードをそれぞれ特定する入力ノード特定部と、
前記所定の学習処理により得られ、かつ、予測精度を示す信頼度指標を取得する信頼度指標取得部と、
前記信頼度指標取得部により得られた前記信頼度指標に基づいて、前記入力データに対応する各前記入力ノードのうちから、予測出力生成の基礎となる出力ノードを特定する出力ノード特定部と、
前記出力ノード特定部により特定された前記出力ノードに対応する状態空間に含まれる前記学習対象データに基づいて、予測出力を生成する予測出力生成部と、を備え、
前記出力ノード特定部は、
前記信頼度指標取得部により得られた前記信頼度指標に基づいて、前記入力データに対応する各前記入力ノードのうちから、最も信頼度の高い高信頼性ノードを選択する高信頼性ノード特定部と、
前記高信頼性ノードの１つ下位に存在するノードが適切に計算可能なノードであるか否かを判定する計算可否判定部と、
前記高信頼性ノードの１つ下位に存在するノードが適切に計算可能なノードである場合、前記高信頼性ノードを予測出力生成の基礎となる出力ノードとして特定し、一方、前記高信頼性ノードの１つ下位に存在するノードが適切に計算可能なノードでない場合、前記高信頼性ノードの１つ下位に存在するノードを予測出力生成の基礎となる出力ノードとして特定する選択的出力ノード特定部と、を備える、情報処理装置。
【請求項2】
前記信頼度指標は、各前記入力ノードにおいて、前記入力データに対応する出力と各前記入力ノードに対応する状態空間に含まれる学習済のデータに基づく予測出力との差分に基づいて生成される第１の誤差を含み、前記出力ノード特定部は、各前記入力ノードのうち、前記第１の誤差が最小となるノードを出力ノードとして特定する、請求項１に記載の情報処理装置。
【請求項3】
前記第１の誤差は、前記所定の学習処理において、既に得られている第１の誤差と、前記入力データに対応する出力と各前記入力ノードに対応する状態空間に含まれる学習済のデータに基づく予測出力との差分の絶対値とを、忘却係数α（０＜α＜１）を用いた重み付け加算することにより更新される、請求項２に記載の情報処理装置。
【請求項4】
前記信頼度指標は、前記入力データに対応する出力と前記入力ノードの末端ノードにおける予測出力との差分に基づいて得られる末端予測誤差と、
各前記入力ノードにおいて、前記入力データに対応する出力と各前記入力ノードに対応する状態空間に含まれる学習済のデータに基づく予測出力との差分に基づいて生成される第１の誤差を算出し、前記入力データに対応する出力と前記第１の誤差が最小となる前記入力ノードの予測出力との差分に基づいて生成される第２の誤差とを含み、
前記出力ノード特定部は、前記末端予測誤差と前記第２の誤差との大小関係を比較し、前記第２の誤差の方が小さい場合には、各前記入力ノードのうち前記第１の誤差が最小となる前記入力ノードを出力ノードとして特定し、それ以外の場合には、前記入力ノードのうち末端ノードを出力ノードとして特定する、請求項１に記載の情報処理装置。
【請求項5】
前記信頼度指標は、各前記入力ノード毎に、所定条件下で、当該ノード以下又は当該ノードより下層のノードの予測出力を参照することにより生成され、前記出力ノード特定部は、各前記入力ノード毎に生成された前記信頼度指標に基づいて出力ノードを特定する、請求項１に記載の情報処理装置。
【請求項6】
前記信頼度指標は、各前記入力ノードにおいて、前記入力データに対応する出力と各前記入力ノードに対応する状態空間に含まれる学習済のデータに基づく予測出力との差分に基づいて生成される第１の誤差と、
各前記入力ノードにおいて、所定の条件下で、前記入力データに対応する出力と、当該入力ノードより下層の前記入力ノードの予測出力との差分に基づいて生成される第３の誤差とを含み、
前記出力ノード特定部は、各前記入力ノードについて、始端ノードから順に第１の誤差と第３の誤差との大小関係の比較を行い、第１の誤差が第３の誤差より小の条件を満たすノードを出力ノードとして特定する、請求項５に記載の情報処理装置。
【請求項7】
前記信頼度指標は、各前記入力ノードにおいて、前記入力データに対応する出力と各前記入力ノードに対応する状態空間に含まれる学習済のデータに基づく予測出力との差分に基づいて生成される第１の誤差と、
各前記入力ノードにおいて、所定の条件下で、各前記入力ノード以下のノードの予測出力を参照して生成される第４の誤差と、
各前記入力ノードにおいて、所定の条件下で、各前記入力ノードより下のノードの予測出力を参照して生成される第５の誤差と、を含み、
前記出力ノード特定部は、
各前記入力ノードについて、始端ノードから順に前記第４の誤差と前記第５の誤差との大小関係の比較を行い、第４の誤差が第５の誤差より小の条件を満たす場合に、当該ノード以下のノードのうち最も第１の誤差が小さいノードを着目ノードとし、満たさない場合には、さらに下層のノードに対して、前記第４の誤差が前記第５の誤差より小の条件を満たすまで前記第４の誤差と前記第５の誤差との比較を進め、
前記着目ノードについて、第４の誤差より第５の誤差が小の条件を満たすか否かを判定し、満たす場合には、当該着目ノードを出力ノードとして特定し、満たさない場合には、さらに下層のノードに対して、前記第４の誤差が前記第５の誤差より小の条件を満たすまで前記第４の誤差と前記第５の誤差との比較を進め、
前記第４の誤差より前記第５の誤差が小の条件を満たすノードが前記末端ノードの１つ上の前記入力ノードに至るまで存在しない場合には、前記末端ノードを出力ノードとして特定する、請求項５に記載の情報処理装置。
【請求項8】
前記計算可否判定部における適切な計算の可否の判定は、前記高信頼性ノードの１つ下位に存在するノードに対応する学習対象データ数が２つ以上である場合に適切な計算が可能と判定し、一方、前記高信頼性ノードの１つ下位に存在するノードに対応する学習対象データ数が１つである場合に適切な計算が可能でないと判定するものである、請求項１に記載の情報処理装置。
【請求項9】
各前記入力ノードにおける、前記入力データに基づく出力と、過去に得られたデータに基づく予測出力との差分に基づいて、各前記信頼度指標を漸次的に更新する信頼度指標更新部をさらに備える、請求項１に記載の情報処理装置。
【請求項10】
階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定の学習対象データ群を学習させることにより得られた学習済モデルに基づいて、入力データに対応する予測出力を生成する情報処理方法であって、入力データに基づいて、前記入力データに対応する前記学習木構造の始端から末端に至るまでの各層の入力ノードをそれぞれ特定する入力ノード特定ステップと、
前記所定の学習処理により得られ、かつ、予測精度を示す信頼度指標を取得する信頼度指標取得ステップと、
前記信頼度指標取得部により得られた前記信頼度指標に基づいて、前記入力データに対応する各前記入力ノードのうちから、予測出力生成の基礎となる出力ノードを特定する出力ノード特定ステップと、
前記出力ノード特定部により特定された前記出力ノードに対応する状態空間に含まれる前記学習対象データに基づいて、予測出力を生成する予測出力生成ステップと、を備え、
前記出力ノード特定ステップは、
前記信頼度指標取得ステップにより得られた前記信頼度指標に基づいて、前記入力データに対応する各前記入力ノードのうちから、最も信頼度の高い高信頼性ノードを選択する高信頼性ノード特定ステップと、
前記高信頼性ノードの１つ下位に存在するノードが適切に計算可能なノードであるか否かを判定する計算可否判定ステップと、
前記高信頼性ノードの１つ下位に存在するノードが適切に計算可能なノードである場合、前記高信頼性ノードを予測出力生成の基礎となる出力ノードとして特定し、一方、前記高信頼性ノードの１つ下位に存在するノードが適切に計算可能なノードでない場合、前記高信頼性ノードの１つ下位に存在するノードを予測出力生成の基礎となる出力ノードとして特定する選択的出力ノード特定ステップと、を備える、情報処理方法。
【請求項11】
コンピュータを、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定の学習対象データ群を学習させることにより得られた学習済モデルに基づいて、入力データに対応する予測出力を生成する情報処理装置として機能させるコンピュータプログラムであって、入力データに基づいて、前記入力データに対応する前記学習木構造の始端から末端に至るまでの各層の入力ノードをそれぞれ特定する入力ノード特定ステップと、
前記所定の学習処理により得られ、かつ、予測精度を示す信頼度指標を取得する信頼度指標取得ステップと、
前記信頼度指標取得部により得られた前記信頼度指標に基づいて、前記入力データに対応する各前記入力ノードのうちから、予測出力生成の基礎となる出力ノードを特定する出力ノード特定ステップと、
前記出力ノード特定部により特定された前記出力ノードに対応する状態空間に含まれる前記学習対象データに基づいて、予測出力を生成する予測出力生成ステップと、を備え、
前記出力ノード特定ステップは、
前記信頼度指標取得ステップにより得られた前記信頼度指標に基づいて、前記入力データに対応する各前記入力ノードのうちから、最も信頼度の高い高信頼性ノードを選択する高信頼性ノード特定ステップと、
前記高信頼性ノードの１つ下位に存在するノードが適切に計算可能なノードであるか否かを判定する計算可否判定ステップと、
前記高信頼性ノードの１つ下位に存在するノードが適切に計算可能なノードである場合、前記高信頼性ノードを予測出力生成の基礎となる出力ノードとして特定し、一方、前記高信頼性ノードの１つ下位に存在するノードが適切に計算可能なノードでない場合、前記高信頼性ノードの１つ下位に存在するノードを予測出力生成の基礎となる出力ノードとして特定する選択的出力ノード特定ステップと、を備える、コンピュータプログラム。
【請求項12】
階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定の学習対象データ群を学習させることにより得られた学習済モデルに基づいて、入力データに対応する予測出力を生成するＩＣチップであって、入力データが入力される入力端子と、
前記入力端子を介して得られた前記入力データに基づいて、前記入力データに対応する前記学習木構造の始端から末端に至るまでの各層の入力ノードをそれぞれ特定する入力ノード特定部と、
前記所定の学習処理により得られ、かつ、予測精度を示す信頼度指標を取得する信頼度指標取得部と、
前記信頼度指標取得部により得られた前記信頼度指標に基づいて、前記入力データに対応する各前記入力ノードのうちから、予測出力生成の基礎となる出力ノードを特定する出力ノード特定部と、
前記出力ノード特定部により特定された前記出力ノードに対応する状態空間に含まれる前記学習対象データに基づいて、予測出力を生成する予測出力生成部と、
前記予測出力を出力する出力端子と、を備え、
前記出力ノード特定部は、
前記信頼度指標取得部により得られた前記信頼度指標に基づいて、前記入力データに対応する各前記入力ノードのうちから、最も信頼度の高い高信頼性ノードを選択する高信頼性ノード特定部と、
前記高信頼性ノードの１つ下位に存在するノードが適切に計算可能なノードであるか否かを判定する計算可否判定部と、
前記高信頼性ノードの１つ下位に存在するノードが適切に計算可能なノードである場合、前記高信頼性ノードを予測出力生成の基礎となる出力ノードとして特定し、一方、前記高信頼性ノードの１つ下位に存在するノードが適切に計算可能なノードでない場合、前記高信頼性ノードの１つ下位に存在するノードを予測出力生成の基礎となる出力ノードとして特定する選択的出力ノード特定部と、を備える、ＩＣチップ。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、所定の学習処理を行う情報処理装置、方法、プログラム、ＩＣチップ、又は、当該学習処理の結果に基づいて所定の入力データに対応する予測出力を生成する情報処理装置、情報処理方法及び情報処理プログラム及び学習済モデルに関し、特に、木構造を用いて学習・予測処理を行う情報処理装置、方法、プログラム、ＩＣチップ等に関する。
【背景技術】
【0002】
近年、本願の発明者らにより、学習木構造を利用した新たな枠組みの学習手法が提案されている。当該学習木構造を利用した学習手法は、その追加学習の容易性、高い計算速度、使用メモリ容量の削減効果等から高い注目を集めている（特許文献１）。
【0003】
【0004】
図２３Ａに、当該学習手法における学習木の構造が示されており、図２３Ｂには当該構造に対応する状態空間のイメージが示されている。同図から明らかな通り、学習木構造は、階層的に分割された各状態空間に対応する各ノードを、最上位ノード（始端ノード又は根ノード）から最下端ノード（末端ノード又は葉ノード）まで、樹形状乃至格子状に配置することにより構成されている。なお、同図は、Ｎ階層ｄ次元ｎ分割の学習木においてＮが２、ｄが２、ｎが２の場合の例を示しており、図２３Ａに記載の学習木の１階層目の４つの末端ノードに付された１～４の番号は、それぞれ、図２３Ｂに記載の４つの状態空間に対応している。
【0005】
図２４を用いて、学習済の学習木を用いて新規入力データに対する出力を予測する方法について説明する。図２４Ａ及び図２４Ｂには、ある程度学習が進んだ状態の学習木の構成とそれに対応する状態空間がそれぞれ示されている。同図から明らかな通り、１階層目の末端ノードで「４」、当該末端ノードから見て２階層目の末端ノードにおいて「４」となる状態空間においては、ある程度学習が進み、矢印の通り、当該状態空間に対応する出力となる状態遷移ベクトルが得られている。また、１階層目の末端ノードで「１」、当該末端ノードから見て２階層目の末端ノードにおいて「４」となる状態空間においてもある程度学習が進み、矢印の通り、当該状態空間に対応する出力となる状態遷移ベクトルが得られている。なお、この状態遷移ベクトルは、同一のノードに対応する状態空間に包含される状態遷移ベクトルの相加平均により算出されたものである。
【0006】
ここに、新たに、図２４に記載の通り、１階層目の末端ノードで「１」、当該末端ノードから見て２階層目の末端ノードにおいて「２」となる状態空間に属すべき入力データが入力された場合、未だ当該状態空間に関するデータは存在しないことから、存在する学習済ノードの中で末端となる１階層目の「１」に相当するノードに基づいて予測出力が計算されることとなる。
【0007】
このように、従前の学習構成によれば、特定の状態空間について未だ学習が十分でない場合であっても、当該状態空間を包含するより上位のノードのうち末端位置に配されるノードを用いて予測処理を行うので、少なくとも大まかな予測処理を行うことでき、すなわち、汎化機能を実現することができる。
【先行技術文献】
【特許文献】
【0008】
【文献】特開２０１６－１７３６８６号公報
【発明の概要】
【発明が解決しようとする課題】
【0009】
しかしながら、状態空間はより下位層になるほど細分されていくことから、個々の状態空間に包含される学習データ数は、下位層である程、必然的に少なくなるという性質がある。また、下位層である程、学習対象データに含まれるノイズの影響を受け易いという傾向もある。そのため、特に、学習が未だ十分に進んでいない状態にあっては、末端ノードに基づく予測出力の信頼性は必ずしも十分とは言えない場合があった。
【0010】
本発明は、上述の技術的背景の下になされたものであり、その目的とすることころは、学習対象データにノイズ等が含まれている場合であっても、精度の高い予測処理を実現することにある。
【0011】
本発明のさらに他の目的並びに作用効果については、明細書の以下の記述を参照することにより、当業者であれば容易に理解されるであろう。
【課題を解決するための手段】
【0012】
上述の技術的課題は、以下の構成を有する情報処理装置により解決することができる。
【0013】
すなわち、本発明に係る情報処理装置は、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定の学習対象データ群を学習させることにより得られた学習済モデルに基づいて、入力データに対応する予測出力を生成する情報処理装置であって、入力データに基づいて、前記入力データに対応する前記学習木構造の始端から末端に至るまでの各層の入力ノードをそれぞれ特定する入力ノード特定部と、前記所定の学習処理により得られ、かつ、予測精度を示す信頼度指標を取得する信頼度指標取得部と、前記信頼度指標取得部により得られた前記信頼度指標に基づいて、前記入力データに対応する各前記入力ノードのうちから、予測出力生成の基礎となる出力ノードを特定する出力ノード特定部と、前記出力ノード特定部により特定された前記出力ノードに対応する状態空間に含まれる前記学習対象データに基づいて、予測出力を生成する予測出力生成部と、を備えている。
【0014】
このような構成によれば、学習処理により得られた信頼度指標に基づいて、より信頼度の高いノードを選択して予測出力生成を行うことができるので、より精度の高い予測処理を実現することができる。
【0015】
また、本願発明に係る情報処理装置において、前記信頼度指標は、各前記入力ノードにおいて、前記入力データに対応する出力と各前記入力ノードに対応する状態空間に含まれる学習済のデータに基づく予測出力との差分に基づいて生成される第１の誤差を含み、前記出力ノード特定部は、各前記入力ノードのうち、前記第１の誤差が最小となるノードを出力ノードとして特定する、ものであってもよい。
【0016】
このような構成によれば、予測出力生成の基礎となる出力ノードとして、それまでの学習結果において予測出力との誤差が小さかったノードを選択することとなるので、より信頼度の高いノードを選択することができ、それにより、より精度の高い予測処理を実現することができる。
【0017】
さらに、前記情報処理装置において、前記第１の誤差は、前記所定の学習処理において、既に得られている第１の誤差と、前記入力データに対応する出力と各前記入力ノードに対応する状態空間に含まれる学習済のデータに基づく予測出力との差分の絶対値とを、忘却係数α（０＜α＜１）を用いた重み付け加算することにより更新される、ものであってもよい。
【0018】
このような構成によれば、学習処理を行う際、新たに追加された学習データをどの程度反映させるか、すなわちどの程度忘却させるかについて調整することができる。
【0019】
また、前記情報処理装置において、前記信頼度指標は、前記入力データに対応する出力と前記入力ノードの末端ノードにおける予測出力との差分に基づいて得られる末端予測誤差と、各前記入力ノードにおいて、前記入力データに対応する出力と各前記入力ノードに対応する状態空間に含まれる学習済のデータに基づく予測出力との差分に基づいて生成される第１の誤差を算出し、前記入力データに対応する出力と前記第１の誤差が最小となる前記入力ノードの予測出力との差分に基づいて生成される第２の誤差とを含み、前記出力ノード特定部は、前記末端予測誤差と前記第２の誤差との大小関係を比較し、前記第２の誤差の方が小さい場合には、各前記入力ノードのうち前記第１の誤差が最小となる前記入力ノードを出力ノードとして特定し、それ以外の場合には、前記入力ノードのうち末端ノードを出力ノードとして特定する、ものであってもよい。
【0020】
このような構成によれば、学習結果に基づき、末端ノードで予測を行った方が適切な場合には末端ノードを、末端ノード以外のノードで予測を行った方が適切な場合にはそれまでの学習結果において予測出力との誤差が小さかったノードを出力ノードとするので、より精度の高い予測処理を実現することができる。
【0021】
さらに、前記情報処理装置において、前記信頼度指標は、各前記入力ノード毎に、所定条件下で、当該ノード以下又は当該ノードより下層のノードの予測出力を参照することにより生成され、前記出力ノード特定部は、各前記入力ノード毎に生成された前記信頼度指標に基づいて出力ノードを特定する、ものであってもよい。
【0022】
このような構成によれば、学習木の各階層のノードの信頼性を判断する上で、より下層のノードの予測出力を参照するので、出力ノードを選択する上でどこまで経路上を下るべきかについて判定することができ、これにより、より精度の高い予測処理を実現することができる。
【0023】
また、前記情報処理装置において、前記信頼度指標は、各前記入力ノードにおいて、前記入力データに対応する出力と各前記入力ノードに対応する状態空間に含まれる学習済のデータに基づく予測出力との差分に基づいて生成される第１の誤差と、各前記入力ノードにおいて、所定の条件下で、前記入力データに対応する出力と、当該入力ノードより下層の前記入力ノードの予測出力との差分に基づいて生成される第３の誤差とを含み、前記出力ノード特定部は、各前記入力ノードについて、始端ノードから順に第１の誤差と第３の誤差との大小関係の比較を行い、第１の誤差が第３の誤差より小の条件を満たすノードを出力ノードとして特定する、ものであってもよい。
【0024】
このような構成によれば、学習木の各層のノードの信頼性を判断するにあたって、より下層のノードを参照するので、出力ノードを特定する上でどこまで経路を下るべきかについて判定することができ、これにより、より精度の高い予測処理を実現することができる。
【0025】
さらに、前記情報処理装置において、前記信頼度指標は、各前記入力ノードにおいて、前記入力データに対応する出力と各前記入力ノードに対応する状態空間に含まれる学習済のデータに基づく予測出力との差分に基づいて生成される第１の誤差と、各前記入力ノードにおいて、所定の条件下で、各前記入力ノード以下のノードの予測出力を参照して生成される第４の誤差と、各前記入力ノードにおいて、所定の条件下で、各前記入力ノードより下のノードの予測出力を参照して生成される第５の誤差と、を含み、前記出力ノード特定部は、各前記入力ノードについて、始端ノードから順に前記第４の誤差と前記第５の誤差との大小関係の比較を行い、第４の誤差が第５の誤差より小の条件を満たす場合に、当該ノード以下のノードのうち最も第１の誤差が小さいノードを着目ノードとし、満たさない場合には、さらに下層のノードに対して、前記第４の誤差が前記第５の誤差より小の条件を満たすまで前記第４の誤差と前記第５の誤差との比較を進め、前記着目ノードについて、第４の誤差より第５の誤差が小の条件を満たすか否かを判定し、満たす場合には、当該着目ノードを出力ノードとして特定し、満たさない場合には、さらに下層のノードに対して、前記第４の誤差が前記第５の誤差より小の条件を満たすまで前記第４の誤差と前記第５の誤差との比較を進め、前記第４の誤差より前記第５の誤差が小の条件を満たすノードが前記末端ノードの１つ上の前記入力ノードに至るまで存在しない場合には、前記末端ノードを出力ノードとして特定する、ものであってもよい。
【0026】
このような構成によれば、学習木の各層のノードの信頼性を判断する上で、より下層のノードを参照するので、出力ノードを特定するにあたって、どこまで経路を下るべきかについて判定することができ、これにより、より精度の高い予測処理を実現することができる。
【0027】
また、前記出力ノード特定部は、前記信頼度指標取得部により得られた前記信頼度指標に基づいて、前記入力データに対応する各前記入力ノードのうちから、最も信頼度の高い高信頼性ノードを選択する高信頼性ノード特定部と、前記高信頼性ノードの１つ下位に存在するノードが適切に計算可能なノードであるか否かを判定する計算可否判定部と、前記高信頼性ノードの１つ下位に存在するノードが適切に計算可能なノードである場合、前記高信頼性ノードを予測出力生成の基礎となる出力ノードとして特定し、一方、前記高信頼性ノードの１つ下位に存在するノードが適切に計算可能なノードでない場合、前記高信頼性ノードの１つ下位に存在するノードを予測出力生成の基礎となる出力ノードとして特定する選択的出力ノード特定部と、を備えるものである。
【0028】
このような構成によれば、学習処理により得られた信頼度指標とその適切な計算の可否に基づいて、より信頼度の高いノードを選択して予測出力生成を行うことができるので、より精度の高い予測処理を実現することができる。
【0029】
さらに、前記計算可否判定部における適切な計算の可否の判定は、前記高信頼性ノードの１つ下位に存在するノードに対応する学習対象データ数が２つ以上である場合に適切な計算が可能と判定し、一方、前記高信頼性ノードの１つ下位に存在するノードに対応する学習対象データ数が１つである場合に適切な計算が可能でないと判定するものである。
【0030】
このような構成によれば、より信頼度の高いノードを選択して予測出力生成を行うことが期待できるので、より精度の高い予測処理を実現することができる。
【0031】
また、本発明は主として学習処理を行う情報処理装置としても観念することができる。すなわち、前記情報処理装置は、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに基づいて所定の学習処理を行う情報処理装置であって、入力データに基づいて、前記入力データに対応する前記学習木構造の始端から末端に至るまでの各層の入力ノードをそれぞれ特定する入力ノード特定部と、各前記入力ノードにおける、前記入力データに基づく出力と、過去に得られたデータに基づく予測出力との差分に基づいて、予測精度を示す信頼度指標を漸次的に更新する信頼度指標更新部と、を備えている。
【0032】
このような構成によれば、予測出力生成の基礎とすべきノードを決定するための信頼度指標を、漸次的な学習処理により得ることができる。これにより、エラー耐性を有する情報処理装置を提供することができる。
【0033】
さらに、本発明は、情報処理方法としても観念することができる。すなわち、前記情報処理方法は、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定の学習対象データ群を学習させることにより得られた学習済モデルに基づいて、入力データに対応する予測出力を生成する情報処理方法であって、入力データに基づいて、前記入力データに対応する前記学習木構造の始端から末端に至るまでの各階層の入力ノードをそれぞれ特定する入力ノード特定ステップと、前記所定の学習処理により得られ、かつ、予測精度を示す信頼度指標を取得する信頼度指標取得ステップと、前記信頼度指標取得部により得られた前記信頼度指標に基づいて、前記入力データに対応する各前記入力ノードのうちから、予測出力生成の基礎となる出力ノードを特定する出力ノード特定ステップと、前記出力ノード特定部により特定された前記出力ノードに対応する状態空間に含まれる前記学習対象データに基づいて、予測出力を生成する予測出力生成ステップと、を備えている。
【0034】
加えて、本発明は、コンピュータプログラムとしても観念することができる。すなわち、前記コンピュータプログラムは、コンピュータを、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定の学習対象データ群を学習させることにより得られた学習済モデルに基づいて、入力データに対応する予測出力を生成する情報処理装置として機能させるコンピュータプログラムであって、入力データに基づいて、前記入力データに対応する前記学習木構造の始端から末端に至るまでの各層の入力ノードをそれぞれ特定する入力ノード特定ステップと、前記所定の学習処理により得られ、かつ、予測精度を示す信頼度指標を取得する信頼度指標取得ステップと、前記信頼度指標取得部により得られた前記信頼度指標に基づいて、前記入力データに対応する各前記入力ノードのうちから、予測出力生成の基礎となる出力ノードを特定する出力ノード特定ステップと、前記出力ノード特定部により特定された前記出力ノードに対応する状態空間に含まれる前記学習対象データに基づいて、予測出力を生成する予測出力生成ステップと、を備えている。
【0035】
また、本発明は、情報処理用のＩＣチップとしても観念することができる。すなわち、前記ＩＣチップは、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定の学習対象データ群を学習させることにより得られた学習済モデルに基づいて、入力データに対応する予測出力を生成するＩＣチップであって、入力データが入力される入力端子と、前記入力端子を介して得られた前記入力データに基づいて、前記入力データに対応する前記学習木構造の始端から末端に至るまでの各層の入力ノードをそれぞれ特定する入力ノード特定部と、前記所定の学習処理により得られ、かつ、予測精度を示す信頼度指標を取得する信頼度指標取得部と、前記信頼度指標取得部により得られた前記信頼度指標に基づいて、前記入力データに対応する各前記入力ノードのうちから、予測出力生成の基礎となる出力ノードを特定する出力ノード特定部と、前記出力ノード特定部により特定された前記出力ノードに対応する状態空間に含まれる前記学習対象データに基づいて、予測出力を生成する予測出力生成部と、前記予測出力を出力する出力端子と、を備えている。
【0036】
さらに、本発明は、学習済モデルとしても観念することができる。すなわち、前記学習済モデルは、階層的に分割された状態空間へとそれぞれ対応付けられた複数のノードを階層的に配置することにより構成された木構造を有する学習モデルに対して所定の学習対象データ群を学習させることにより得られた学習済モデルであって、入力データに基づいて、前記入力データに対応する前記学習木構造の始端から末端に至るまでの各層の入力ノードをそれぞれ特定し、前記所定の学習処理により得られ、かつ、予測精度を示す信頼度指標を取得し、前記信頼度指標取得部により得られた前記信頼度指標に基づいて、前記入力データに対応する各前記入力ノードのうちから、予測出力生成の基礎となる出力ノードを特定し、前記出力ノード特定部により特定された前記出力ノードに対応する状態空間に含まれる前記学習対象データに基づいて、予測出力を生成するものである。
【発明の効果】
【0037】
本発明に係る情報処理装置によれば、学習対象データにノイズ等が含まれる場合であっても、精度の高い予測処理を実現することができる。
【図面の簡単な説明】
【0038】
【発明を実施するための形態】
【0039】
以下、本発明に係る情報処理装置の実施の一形態を、添付の図面を参照しつつ、詳細に説明する。
【0040】
【0041】
＜１．１ 情報処理装置の構成＞
図１を参照しつつ、第１の実施形態に係る情報処理装置１０のハードウェア構成について説明する。情報処理装置１０は、制御部１、外部装置との間の入出力を制御するＩ／Ｏ部２、無線又は有線の通信を制御する通信部３、及び記憶部装置４とを含み、それらはシステムバスを介して接続されている。制御部１は、ＣＰＵ等から成り後述の学習・予測アルゴリズムを含む各種プログラムを実行する。なお、このＣＰＵ等の代わりにマイクロプロセッサやマイクロコントローラ等を用いてもよい。また、記憶部４は、例えば、ＲＯＭ、ＲＡＭ、フラッシュメモリ、ハードディスク等を含む各種の記憶装置であって、学習木の構造に関する設定情報、その他の各種設定情報、入力データ、学習データ、学習アルゴリズムを含むコンピュータプログラム等を、一時的又は非一時的に記憶する記憶部４とから構成されている。
図１を参照しつつ、第１の実施形態に係る情報処理装置１０のハードウェア構成について説明する。情報処理装置１０は、制御部１、外部装置との間の入出力を制御するＩ／Ｏ部２、無線又は有線の通信を制御する通信部３、及び記憶部装置４とを含み、それらはシステムバスを介して接続されている。制御部１は、ＣＰＵ等から成り後述の学習・予測アルゴリズムを含む各種プログラムを実行する。なお、このＣＰＵ等の代わりにマイクロプロセッサやマイクロコントローラ等を用いてもよい。また、記憶部４は、例えば、ＲＯＭ、ＲＡＭ、フラッシュメモリ、ハードディスク等を含む各種の記憶装置であって、学習木の構造に関する設定情報、その他の各種設定情報、入力データ、学習データ、学習アルゴリズムを含むコンピュータプログラム等を、一時的又は非一時的に記憶する記憶部４とから構成されている。
【0042】
なお、情報処理装置１０の構成は、同図の構成に限定されず、出願時の技術常識の範囲で自在に変更可能である。従って、例えば、記憶部４を外部ストレージ等として別途配置してもよい。また、制御部１についても、他の情報処理装置の制御部等と協働して分散処理等を行ってもよい。さらに仮想化技術を用いた処理等が行われてもよい。
【0043】
【0044】
＜１．２．１ 学習動作＞
図２は、入力データに対応する学習木上の経路にある各ノードから出力ノードとして選択すべきノードを選択する際の信頼度指標となる第１のエラーＥ１の学習段階のフローチャートである。前提として、情報処理装置１０へと所定のデータが入力されたことにより、当該入力データが属すべき状態空間が特定され、これにより、学習木上において複数のノードから成る一の経路が特定されている。
図２は、入力データに対応する学習木上の経路にある各ノードから出力ノードとして選択すべきノードを選択する際の信頼度指標となる第１のエラーＥ１の学習段階のフローチャートである。前提として、情報処理装置１０へと所定のデータが入力されたことにより、当該入力データが属すべき状態空間が特定され、これにより、学習木上において複数のノードから成る一の経路が特定されている。
【0045】
その上で、学習処理が開始すると、まず、根ノードが着目ノードとして設定される（Ｓ１０１）。次に、過去の学習により既に得られている第１のエラーＥ１と、当該着目ノードに対応する学習データに基づく予測出力と入力データに対応する出力Ｏの差分の絶対値とを、忘却係数αを用いて重み付け加算することより学習後の第１のエラーＥ１を得る（Ｓ１０２）。すなわち、第１のエラーＥ１の算出（更新）は、次式によりなされる。
【数1】
【0046】
なお、忘却係数αは、新たなデータの学習を行う際に、現在と過去のデータの影響の程度を調整する役割を果たす係数であり、０より大きく１より小さい値をとる。αが小さい程、過去の学習データに重きを置いて学習を行うので忘却しにくくなり、その逆に、αが大きい程、新たに追加された学習データの影響を強く受けて忘却しやすくなる。なお、本実施形態において、αは定数ではあるが、例えば、学習の進行に応じて変化するよう構成してもよい。算出された第１のエラーＥ１は、記憶部４へと保存される（Ｓ１０３）。
【0047】
経路上の各ノードにおける第１のエラーＥ１と予測出力を用いた第１のエラーＥ１の更新（Ｓ１０２）と記憶部４への保存（Ｓ１０３）は、根ノードから末端ノードまで着目ノードを順に変更（Ｓ１０５）することにより、繰り返し行われる（Ｓ１０４ＮＯ）。末端ノードまで第１のエラーＥ１を算出、保存すると（Ｓ１０４ＹＥＳ）、処理は終了する。
【0048】
このような構成によれば、予測出力生成の基礎とすべきノードを決定するための信頼度指標を、漸次的な学習処理により得ることができる。これにより、エラー耐性を有する情報処理装置１０を提供することができる。
【0049】
＜１．２．２ 予測動作＞
次に、図３を参照しつつ、学習済の情報処理装置１０を用いて、所定の入力に対する出力の予測処理を行う手順（最小誤差予測法）について詳細に説明する。
次に、図３を参照しつつ、学習済の情報処理装置１０を用いて、所定の入力に対する出力の予測処理を行う手順（最小誤差予測法）について詳細に説明する。
【0050】
図３は、情報処理装置１０の予測動作について説明するためのフローチャートである。なお、前提として、情報処理装置１０へと所定のデータが入力されたことにより、当該入力データが属すべき状態空間が特定され、これにより、学習木上において複数のノードから成る一の経路が特定されている。
【0051】
その上で、処理が開始すると、記憶部４より学習木上の一の経路状の各ノードに対応する各第１のエラーＥ１が読み出され、読み出された各第１のエラーＥ１に基づいて第１のエラーＥ１が最小となるノード（最小誤差ノード）が特定される（Ｓ２０１）。その後、当該第１のエラーＥ１が最小となるノードに対応する学習データに基づいて予測出力の生成処理が行われる（Ｓ２０２）。具体的には、本実施形態においては、過去の各学習データに対応する出力である各状態遷移ベクトルを相加平均により足し合わせることで、当該ノードに対応する一の状態遷移ベクトルを生成する。
【0052】
なお、本実施形態においては、相加平均を用いて各状態遷移ベクトルを足し合わせることにより一の状態遷移ベクトルを生成することとしているが、他の手法により出力を生成してもよい。例えば、同一ノードに対応するデータ群に基づいて分散行列を算出し、当該分散行列に基づいて一の状態遷移ベクトルを生成してもよい。
【0053】
図４を参照しつつ、第１の実施形態に係る予測処理の手順（最小誤差予測法）について概念的に説明する。図４は、本実施形態に係る最小誤差ノードを使用するアルゴリズムに関する説明図である。前提として、所定の入力データが入力されたことにより、太線で囲まれ、「０」～「４」の数字が付されたノードが一の経路として特定されている。
【0054】
「０」～「４」の数字が付された各ノードには、学習により得られた第１のエラーＥ１（１）～Ｅ１（４）が対応付けられている。ここで、仮に「２」の数字が付されたノードに対応する第１のエラーＥ１（２）が、他の第１のエラーＥ１よりも小さいとすると、「２」の番号が付されたノードが出力ノードとして特定され（Ｓ２０１）、当該出力ノードに対応する予測出力が生成されることとなる（Ｓ２０２）。
このような構成によれば、学習結果に基づいて、予測出力生成の基礎となる出力ノードとしてより信頼度の高いノードを選択することができる。従って、より精度の高い予測処理を実現することができる。
このような構成によれば、学習結果に基づいて、予測出力生成の基礎となる出力ノードとしてより信頼度の高いノードを選択することができる。従って、より精度の高い予測処理を実現することができる。
【0055】
＜１．２．３ 検証実験＞
第１の実施形態に係る学習・予測手法によれば、常に末端ノードによる予測を行う場合よりも、ノイズの影響を排して、予測誤差を小さくできることを示すため、比較実験の結果について説明する。入力として、－３．１４～＋３．１４の範囲で３０００個のランダムな入力値を与え、出力として、サイン波にその振幅の１０％程度のランダムノイズを付加した波形を学習させた（１入力１出力）。
第１の実施形態に係る学習・予測手法によれば、常に末端ノードによる予測を行う場合よりも、ノイズの影響を排して、予測誤差を小さくできることを示すため、比較実験の結果について説明する。入力として、－３．１４～＋３．１４の範囲で３０００個のランダムな入力値を与え、出力として、サイン波にその振幅の１０％程度のランダムノイズを付加した波形を学習させた（１入力１出力）。
【0056】
同実験の実験結果が図５に示されている。図５Ａは、従来の末端ノードを用いた予測手法により出力を予測した場合の実験結果、図５Ｂは、第１の本実施形態に係る最小誤差予測手法により出力ノードを選択して予測した場合の実験結果である。なお、いずれの実験結果においても、図中には、正解データ（ノイズ無しのサイン波）、学習対象データ（ノイズの含まれたサイン波）、及び、予測出力が重畳的に描かれている。
【0057】
図５Ａと図５Ｂとを比較して明らかな通り、第１の本実施形態に係る最小誤差予測手法によれば、予測出力が全体として正解データへと近づいていることが分かる。これを数値で比較すれば、図５Ａの予測出力と正解データとの間の平均誤差は０．０３４１８８、一方、図５Ｂの予測出力と正解データとの間の平均誤差は、０．０２２１７３であり、これらより、第１の実施形態に係る最小誤差予測手法によれば、予測出力の平均誤差を、末端ノードを常に出力ノードとする従来手法の平均誤差に対しておよそ６４．８６％に低減することができることが看取される。すなわち、第１の実施形態に係る最小誤差予測手法によれば、ノイズ耐性を向上させることができることが確認される。
【0058】
また、第１の実施形態に係る学習・予測手法によれば、常に末端ノードによる予測を行う場合よりも、ノイズの影響を排して、予測誤差を小さくできることを示すため、さらに別の比較実験について説明する。
【0059】
図６Ａに示される通り、同実験においては、ノイズを付加した単振動を学習させた。具体的には、位置ｑとその速度を入力として与え、加速度を予測させた（２入力１出力）。本実験では、位置ｑに対して１０％のランダムノイズを付加した。また、学習データ数は３００００個、予測データ数は１５０００個、試行回数は５０回であった。
【0060】
図６Ｂに、最下層すなわち末端ノードを常に出力ノードとする従来手法を用いて予測出力を生成した場合と、本実施形態１に係る最小誤差予測手法を用いて予測出力を生成した場合の平均誤差の比較結果が示されている。同図から明らかな通り、従来手法の平均誤差は０．０００２１０、本実施形態１に係る手法による平均誤差は０．０００１１７であり、予測出力の平均誤差を、末端ノードを常に出力ノードとする従来手法の平均誤差に対しておよそ５５．７８％に低減することができることが看取される。すなわち、この場合も、第１の実施形態に係る最小誤差予測手法によれば、ノイズ耐性を向上させることができることが確認される。
【0061】
＜２．第２の実施形態＞
＜２．１ 学習動作＞
次に、図７～図１０を参照しつつ、第２の実施形態に係る情報処理装置における学習動作について説明する。なお、第２の実施形態に係る情報処理装置のハードウェア構成は第１の実施形態に係る情報処理装置１０におけるハードウェア構成と同一であるので、ここでは説明を省略する。
＜２．１ 学習動作＞
次に、図７～図１０を参照しつつ、第２の実施形態に係る情報処理装置における学習動作について説明する。なお、第２の実施形態に係る情報処理装置のハードウェア構成は第１の実施形態に係る情報処理装置１０におけるハードウェア構成と同一であるので、ここでは説明を省略する。
【0062】
図７は、本実施形態に係る情報処理装置の学習動作のゼネラルフローチャートである。入力データに対応する学習木上の経路にある各ノードから出力ノードとして選択すべきノードを選択する際の信頼度指標となる末端ノードエラーＥ０、第１のエラーＥ１、第２のエラーＥ２の学習段階のフローチャートである。前提として、情報処理装置１０へと所定のデータが入力されたことにより、当該入力データが属すべき状態空間が特定され、これにより、学習木上において複数のノードから成る一の経路が特定されている。
【0063】
処理が開始すると、まず、後述する末端ノードエラーＥ０が演算される（Ｓ３０１）。その後、後述するように第２のエラーＥ２が演算され（Ｓ３０２）、最後にエラーＥ１が演算されて（Ｓ３０３）、学習処理は終了する。なお、この演算の順番は順不同であり、いずれのエラーから演算されてもよい。
【0064】
図８は、末端ノードエラーＥ０の算出に関するフローチャートである。処理が開始すると、まず、末端ノードに対応する学習データに基づく予測出力と入力データに対応する出力Ｏの差分の絶対値とを、忘却係数αを用いて重み付け加算することより学習後の末端エラーＥ０を得る（Ｓ３０１１）。すなわち、末端ノードエラーＥ０の演算（更新）は、次式によりなされる。
【数2】
【0065】
その後、得られた末端ノードエラーＥ０は記憶部４へと保存され（Ｓ３０１２）、処理は終了する。
【0066】
図９は、第２のエラーＥ２の算出に関するフローチャートでる。処理が開始すると、まず、経路上において第１のエラーＥ１が最小となるノードに対応する学習データに基づく予測出力と入力データに対応する出力Ｏの差分の絶対値とを、忘却係数αを用いて重み付け加算することより学習後の第２のエラーＥ２を得る（Ｓ３０２１）。すなわち、第２のエラーＥ２の演算（更新）は、次式によりなされる。
【数3】
【0067】
その後、得られた第２のエラーＥ２は記憶部４へと保存され（Ｓ３０２２）、処理は終了する。
【0068】
図１０は、第１のエラーＥ１の算出に関するフローチャートでる。処理が開始すると、まず、根ノードが着目ノードに設定される（Ｓ３０３１）。既に得られている第１のエラーＥ１と、入力データに対応する出力Ｏと着目ノードに対応する学習データに基づく予測出力との差分の絶対値とを、忘却係数αを用いて重み付け加算することより学習後の第１のエラーＥ１を得る（Ｓ３０３２）。すなわち、第１のエラーＥ１の演算（更新）は、次式によりなされる。
【数4】
【0069】
その後、得られた第１のエラーＥ１は記憶部４へと保存される（Ｓ３０３３）。経路上の各ノードにおける第１のエラーＥ１と予測出力を用いた第１のエラーＥ１の更新（Ｓ３０３２）と記憶部４への保存（ＳＳ３０３３）は、根ノードから末端ノードまで着目ノードを順に変更（Ｓ３０３５）することにより、繰り返し行われる（Ｓ３０３４ＮＯ）。末端ノードまで第１のエラーＥ１を算出、保存すると（Ｓ３０３４ＹＥＳ）、処理は終了する。
【0070】
このような構成によれば、予測出力生成の基礎とすべきノードを決定するための信頼度指標を、漸次的な学習処理により得ることができる。これにより、エラー耐性を有する情報処理装置１０を提供することができる。
【0071】
＜２．２ 予測動作＞
次に、図１１を参照しつつ、学習済の情報処理装置１０を用いて、所定の入力に対する出力の予測処理を行う手順（選択的最小誤差予測法）について詳細に説明する。
次に、図１１を参照しつつ、学習済の情報処理装置１０を用いて、所定の入力に対する出力の予測処理を行う手順（選択的最小誤差予測法）について詳細に説明する。
【0072】
図１１は、情報処理装置１０の予測動作について説明するためのフローチャートである。なお、前提として、情報処理装置１０へと所定のデータが入力されたことにより、当該入力データに対応する学習木上における複数のノードから成る一の経路が特定されている。
【0073】
同図において、処理が開始すると、第２のエラーＥ２が末端ノードエラーＥ０より小の条件を満たすか否かの判定処理が行われる（Ｓ４０１）。第２のエラーＥ２が末端ノードエラーＥ０より小さい場合（Ｓ４０１ＹＥＳ）、経路上の各ノードの中から第１のエラーＥ１が最小となるノードを出力ノードとして選択して、当該ノードに対応する状態遷移ベクトルの相加平均に基づいて予測出力を生成する（Ｓ４０２）。一方、それ以外の場合には（Ｓ４０１ＮＯ）、末端ノードを出力ノードとして選択して、末端ノードに対応する状態遷移ベクトルの相加平均に基づいて予測出力を生成する（Ｓ４０３）。予測出力を生成した後、予測処理は終了する。
【0074】
このような構成によれば、学習結果に基づき、末端ノードで予測を行った方が適切な場合には末端ノードを、末端ノード以外のノードで予測を行った方が適切な場合にはそれまでの学習結果において予測出力との誤差が小さかったノードを出力ノードとするので、より精度の高い予測処理を実現することができる。
【0075】
＜３．第３の実施形態＞
＜３．１ 学習動作＞
次に、図１２～図１３を参照しつつ、第３の実施形態に係る情報処理装置における学習動作について説明する。なお、第３の実施形態に係る情報処理装置のハードウェア構成は第１の実施形態に係る情報処理装置１０におけるハードウェア構成と同一であるので、ここでは説明を省略する。
＜３．１ 学習動作＞
次に、図１２～図１３を参照しつつ、第３の実施形態に係る情報処理装置における学習動作について説明する。なお、第３の実施形態に係る情報処理装置のハードウェア構成は第１の実施形態に係る情報処理装置１０におけるハードウェア構成と同一であるので、ここでは説明を省略する。
【0076】
図１２は、本実施形態に係る情報処理装置の学習動作のゼネラルフローチャートである。すなわち、同図は、入力データに対応する学習木上の経路にある各ノードから出力ノードとして選択すべきノードを選択する際の信頼度指標となる第１のエラーＥ１と第３のエラーＥ３の学習段階のフローチャートである。前提として、情報処理装置１０へと所定のデータが入力されたことにより、当該入力データが属すべき状態空間が特定され、これにより、学習木上において複数のノードから成る一の経路が特定されている。
【0077】
処理が開始すると、まず、第１の実施形態にて算出したのと同様に、第１のエラーＥ１が演算される（Ｓ５０１）。その後、後述するように第３のエラーＥ３が演算され（Ｓ５０２）、学習処理は終了する。なお、この演算の順番は順不同であり、いずれのエラーから演算されてもよい。
【0078】
図１３は、第３のエラーＥ３の算出に関するフローチャートである。処理が開始すると、着目ノードとして根ノードが設定される（Ｓ５０２１）。また、当該着目ノードと同じノードが参照ノードとして設定される（Ｓ５０２２）。その後、着目ノードの位置は固定したまま、参照ノードが経路上の一つ下の層へと変更される（Ｓ５０２３）。その変更後、当該参照ノードにおける第１のエラーＥ１と第３のエラーＥ３との大小関係を比較し（Ｓ５０２４）、当該参照ノードにおいて第１のエラーＥ１が第３のエラーＥ３より小の条件を満たす場合（Ｓ５０２４ＹＥＳ）、参照ノードの予測出力を用いて着目ノードにおける第３のエラーＥ３を次式に基づいて更新する。
【数5】
【0079】
一方、当該参照ノードにおいて第１のエラーＥ１が第３のエラーＥ３より小の条件を満たさない場合（Ｓ５０２４ＮＯ）、参照ノードにおいて第１のエラーＥ１が第３のエラーＥ３より小の条件を満たすか（Ｓ５０２４ＹＥＳ）、或いは、参照ノードが末端ノードとなるか（Ｓ５０２５ＹＥＳ）のいずれかの条件を満たすまで、順に参照ノードを１層下へと変更していく処理（Ｓ５０２３）を繰り返す（Ｓ５０２４ＮＯ、Ｓ５０２５ＮＯ）。参照ノードが末端ノードとなる場合（Ｓ５０２５ＹＥＳ）、当該参照ノードの予測出力を用いて、着目ノードにおける第３のエラーＥ３を数式１に基づいて更新する。その後、着目ノードにおいて更新された第３のエラーＥ３（Ｓ５０２６）は、着目ノードと対応付けられて記憶部４へと保存される（Ｓ５０２７）。
【0080】
以上一連の処理（Ｓ５０２２～Ｓ５０２７）は、着目ノードが末端ノードの１つ上の層に至るまで、着目ノードを順に１層下に設定していくことにより（Ｓ５０２９）、繰り返される（Ｓ５０２８ＮＯ）。着目ノードが末端ノードの１つ上の層に至ると（Ｓ５０２８ＹＥＳ）、処理は終了する。
【0081】
このような構成によれば、予測出力生成の基礎とすべきノードを決定するための信頼度指標を、漸次的な学習処理により得ることができる。これにより、エラー耐性を有する情報処理装置１０を提供することができる。
【0082】
＜３．２ 予測動作＞
次に、図１４を参照しつつ、学習済の情報処理装置１０を用いて、所定の入力に対する出力の予測処理を行う手順（下層ノード参照手法（その１））について詳細に説明する。
次に、図１４を参照しつつ、学習済の情報処理装置１０を用いて、所定の入力に対する出力の予測処理を行う手順（下層ノード参照手法（その１））について詳細に説明する。
【0083】
図１４は、情報処理装置１０の予測動作について説明するためのフローチャートである。なお、前提として、情報処理装置１０へと所定のデータが入力されたことにより、当該入力データに対応する学習木上における複数のノードから成る一の経路が特定されている。
【0084】
同図において、処理が開始すると、まず、根ノードが着目ノードに設定される（Ｓ６０１）。次に、着目ノードにおいて、第１のエラーＥ１が第３のエラーＥ３より小の条件を満たすか否かが判定される（Ｓ６０２）。当該着目ノードにおいて、第１のエラーＥ１が第３のエラーＥ３より小の条件を満たす場合（Ｓ６０２ＹＥＳ）、当該着目ノードが出力ノードとして選択され、当該着目ノードに対応する学習データに基づいて予測出力の生成処理、すなわち、状態遷移ベクトルの相加平均の算出処理がなされる（Ｓ６０５）。
【0085】
一方、着目ノードにおいて、第１のエラーＥ１が第３のエラーＥ３より小の条件を満たさない場合（Ｓ６０２ＮＯ）、着目ノードにおいて第１のエラーＥ１が第３のエラーＥ３より小の条件が満たされるまで（Ｓ６０２ＹＥＳ）、当該着目ノードが末端ノードとなる場合（Ｓ６０３ＹＥＳ）を除いて、順に着目ノードを経路上の１層下に変更する処理（Ｓ６０４）が繰り返される（Ｓ６０２ＮＯ、Ｓ６０３ＮＯ）。なお、着目ノードが末端ノードとなる場合（Ｓ６０３ＹＥＳ）、当該着目ノードが出力ノードとして選択され、当該着目ノードに対応する学習データに基づいて予測出力の生成処理、すなわち、各状態遷移ベクトルの相加平均の算出処理がなされる（Ｓ６０５）。予測出力の生成処理がなされた後、予測処理は終了する。
【0086】
このような構成によれば、学習木の各層のノードの信頼性を判断するにあたって、より下層のノードを参照するので、出力ノードを特定する上でどこまで経路を下るべきかについて判定することができ、これにより、より精度の高い予測処理を実現することができる。
【0087】
＜４．第４の実施形態＞
＜４．１ 学習動作＞
次に、図１５～図１７を参照しつつ、第４の実施形態に係る情報処理装置における学習動作について説明する。なお、第４の実施形態に係る情報処理装置のハードウェア構成は第１の実施形態に係る情報処理装置１０におけるハードウェア構成と同一であるので、ここでは説明を省略する。
＜４．１ 学習動作＞
次に、図１５～図１７を参照しつつ、第４の実施形態に係る情報処理装置における学習動作について説明する。なお、第４の実施形態に係る情報処理装置のハードウェア構成は第１の実施形態に係る情報処理装置１０におけるハードウェア構成と同一であるので、ここでは説明を省略する。
【0088】
図１５は、本実施形態に係る情報処理装置１０の学習動作のゼネラルフローチャートである。すなわち、同図は、入力データに対応する学習木上の経路にある各ノードから出力ノードとして選択すべきノードを選択する際の信頼度指標となる第１のエラーＥ１、第４のエラーＥ４、及び、第５のエラーＥ５の学習段階のフローチャートである。なお、前提として、情報処理装置１０へと所定のデータが入力されたことにより、当該入力データが属すべき状態空間が特定され、これにより、学習木上において複数のノードから成る一の経路が特定されている。
【0089】
処理が開始すると、まず、第１の実施形態と同様に、第１のエラーＥ１が演算される（Ｓ７０１）。その後、後述するように第４のエラーＥ４が演算され（Ｓ７０３）、最後に、後述する第５のエラーＥ５が演算され（Ｓ７０５）、学習処理は終了する。なお、この演算の順番は順不同であり、いずれのエラーから演算されてもよい。
【0090】
図１６は、第４のエラーＥ４の算出に関するフローチャートである。処理が開始すると、まず、根ノードが着目ノードとして設定される（Ｓ７０３１）。また、参照ノードとして当該着目ノードが設定される（Ｓ７０３２）。その後、参照ノードを含む参照ノード以下のノードのうちから、エラーＥ１が最小となるノードを特定し、当該ノードを参照ノードとする処理が行われる（Ｓ７０３３）。その後、当該参照ノードにおいて、第４のエラーＥ４と第５のエラーＥ５の大小関係の比較処理が行われる（Ｓ７０３４）。当該参照ノードにおいて、第４のエラーＥ４が第５のエラーＥ５より小の条件を満たす場合（Ｓ７０３４ＹＥＳ）、当該参照ノードの予測出力を用いて着目ノードにおける第４のエラーＥ４が次式により更新される（Ｓ７０３８）。
【数6】
【0091】
一方、当該参照ノードにおいて、第４のエラーＥ４が第５のエラーＥ５より小の条件を満たさない場合（Ｓ７０３４ＮＯ）、当該参照ノードが末端ノードである場合を除き（Ｓ７０３５ＮＯ）、参照ノードにおいて第４のエラーＥ４が第５のエラーＥ５より小の条件を満たすノードに至るまで、参照ノードを１つ下の層にする処理（Ｓ７０３６）が繰り返される（Ｓ７０３７ＮＯ）。その途中において、参照ノードにおいて第４のエラーＥ４が第５のエラーＥ５より小の条件を満たすノードが存在した場合（Ｓ７０３７ＹＥＳ）、再び、第１のエラーＥ１が最小となるノードを特定するステップ（Ｓ７０３３）へと戻る。また、参照ノードが末端ノードとなった場合には（Ｓ７０３５ＹＥＳ）、当該参照ノードの予測出力を用いて着目ノードにおける第４のエラーＥ４を数式１により更新する（Ｓ７０３８）。算出された第４のエラーＥ４は、着目ノードに対応付けられて記憶部４へと保存される（Ｓ７０３９）。
【0092】
以上の一連の処理（Ｓ７０３２～Ｓ７０３９）が、着目ノードが末端ノードへと至るまで、着目ノードを順に１つ下の層へと変更しつつ（Ｓ７０４１）、繰り返される（Ｓ７０４０ＮＯ）。着目ノードが末端ノードへと至ると処理は終了する。
【0093】
次に、図１７は、第５のエラーＥ５の算出に関するフローチャートである。処理が開始すると、根ノードが着目ノードとして設定される（Ｓ７０５１）。また、参照ノードとして、経路上の前記着目ノードの１つ下のノードが設定される（Ｓ７０５２）。その後、参照ノードにおいて、第４のエラーＥ４と第５のエラーＥ５の大小関係の比較処理が行われる（Ｓ７０５３）。
【0094】
参照ノードにおいて、第４のエラーＥ４が第５のエラーＥ５より小の条件を満たさない場合（Ｓ７０５３ＮＯ）、参照ノードが末端ノードである場合を除き（Ｓ７０５４ＹＥＳ）、着目ノードについては固定したまま、参照ノードを経路上の１つ下のノードへと順に変更する処理（Ｓ７０５５）が繰り返される（Ｓ７０５３ＮＯ、Ｓ７０５４ＮＯ）。参照ノードが末端ノードとなる場合（Ｓ７０５４ＹＥＳ）、当該参照ノードの予測出力を用いて着目ノードにおける第５のエラーＥ５が次式により更新される。
【数7】
【0095】
一方、参照ノードにおいて、第４のエラーＥ４の方が第５のエラーＥ５より小の条件を満たす場合（Ｓ７０５３ＹＥＳ）、経路上において参照ノード以下の層でエラーＥ１が最小となるノードを特定し、当該ノードを新たな参照ノードに設定する（Ｓ７０５６）。その後、当該参照ノードにおいて、第４のエラーＥ４が第５のエラーＥ５より小の条件を満たすか否かを再度比較し（Ｓ７０５７）、当該条件を満たす場合には（Ｓ７０５７ＹＥＳ）、当該参照ノードの予測出力を用いて着目ノードにおける第５のエラーＥ５を数式１により更新する（Ｓ７０５８）。一方、当該条件を満たさない場合には（Ｓ７０５７ＮＯ）、当該参照ノードが末端ノードである場合（Ｓ７０５４ＹＥＳ）を除き、着目ノードについては固定したまま、参照ノードを経路上の１つ下のノードへと順に変更する処理（Ｓ７０５５）を繰り返す（Ｓ７０５３ＮＯ、Ｓ７０５４ＮＯ）。参照ノードが末端ノードとなる場合（Ｓ７０５４ＹＥＳ）、当該参照ノードの予測出力を用いて着目ノードにおける第５のエラーＥ５は数式１により更新される。算出された第５のエラーＥ５は記憶部４へと保存される（Ｓ７０５９）。
【0096】
上述の一連の処理（Ｓ７０５２～Ｓ７０５９）は、着目ノードを順に１つ下の層へと変更する処理を行いつつ行われ（Ｓ７０６１）、着目ノードが末端ノードの１つ上の層となるまで繰り返される（Ｓ７０６０ＮＯ）。着目ノードが末端ノードの１つ上の層となったとき（Ｓ７０６０）、処理は終了する。
【0097】
このような構成によれば、予測出力生成の基礎とすべきノードを決定するための信頼度指標を、漸次的な学習処理により得ることができる。これにより、エラー耐性を有する情報処理装置１０を提供することができる。
【0098】
＜４．２ 予測動作＞
次に、図１８を参照しつつ、本実施形態に係る学習済の情報処理装置１０を用いて、所定の入力に対する出力の予測処理を行う手順（下層ノード参照手法（その２））について詳細に説明する。
次に、図１８を参照しつつ、本実施形態に係る学習済の情報処理装置１０を用いて、所定の入力に対する出力の予測処理を行う手順（下層ノード参照手法（その２））について詳細に説明する。
【0099】
図１８は、情報処理装置１０の予測動作について説明するためのフローチャートである。なお、前提として、情報処理装置１０へと所定のデータが入力されたことにより、当該入力データに対応する学習木上における複数のノードから成る一の経路が特定されている。
【0100】
同図において、処理が開始すると、まず、着目ノードが根ノードとなるよう設定される（Ｓ８０１）。次に、着目ノードにおいて第４のエラーＥ４が第５のエラーＥ５より小の条件を満たすか否かが判定される（Ｓ８０２）。当該条件を満たすと判定される場合（Ｓ８０２ＹＥＳ）、当該着目ノード以下の層で第１のエラーＥ１が最小となるノードを特定し、当該ノードを着目ノードとする（Ｓ８０６）。当該着目ノードにおいて再び第４のエラーＥ４が第５のエラーＥ５より小の条件を満たすか否かが判定され（Ｓ８０７）、当該条件を満たす場合には（Ｓ８０７ＹＥＳ）、当該着目ノードを出力ノードとして、当該着目ノードに対応する予測出力、すなわち、学習済のデータに係る各状態遷移ベクトルの相加平均に基づく状態遷移ベクトルが生成される（Ｓ８０８）。一方、当該条件を満たさない場合には（Ｓ８０７ＮＯ）、後述するように着目ノードを１つ下の層に変更する変更する再帰的処理へと進む（Ｓ８０３ＮＯ、Ｓ８０４）。
【0101】
また、着目ノードにおいて、第４のエラーＥ４が第５のエラーＥ５より小の条件を満たさない場合（Ｓ８０２ＮＯ）、着目ノードが末端ノードの１つ上の層である場合を除き（Ｓ８０３ＮＯ）、第４のエラーＥ４が第５のエラーＥ５より小の条件を満たすノードに至るまで、着目ノードを経路上の１つ下の層へと変更する処理（Ｓ８０４）が繰り返される（Ｓ８０２ＮＯ、Ｓ８０３ＮＯ）。着目ノードが末端ノードの１つ上の層である場合（Ｓ８０３ＹＥＳ）、着目ノードは経路上の末端ノードに設定され（Ｓ８０５）、当該末端ノードに基づいて予測出力の生成処理、すなわち、学習済のデータに係る状態遷移ベクトルの相加平均に基づく状態遷移ベクトルが生成が行われる（Ｓ８０８）。予測出力生成処理の後、処理は終了する。
【0102】
このような構成によれば、学習木の各層のノードの信頼性を判断する上で、より下層のノードを参照するので、出力ノードを特定するにあたって、どこまで経路を下るべきかについて判定することができ、これにより、より精度の高い予測処理を実現することができる。
【0103】
＜５．比較実験＞
図１９は、常に末端ノードを出力ノードとして使用する従来手法と、第１の実施形態に係る予測手法、第２の実施形態に係る予測手法、及び、第４の実施形態に係る予測手法をそれぞれ用い、その各予測出力と正解値との平均予測誤差を示した比較実験結果（その１）である。なお、学習対象はノイズを付加した単振動であり、位置と速度を入力として加速度を予測させたものである（２入力１出力）。また、位置には１０％のランダムノイズが付加され、学習データ数は３００００個、予測データ数は１５０００個とした。
図１９は、常に末端ノードを出力ノードとして使用する従来手法と、第１の実施形態に係る予測手法、第２の実施形態に係る予測手法、及び、第４の実施形態に係る予測手法をそれぞれ用い、その各予測出力と正解値との平均予測誤差を示した比較実験結果（その１）である。なお、学習対象はノイズを付加した単振動であり、位置と速度を入力として加速度を予測させたものである（２入力１出力）。また、位置には１０％のランダムノイズが付加され、学習データ数は３００００個、予測データ数は１５０００個とした。
【0104】
同図より、第１の実施形態に係る予測手法、第２の実施形態に係る予測手法及び第４の実施形態に係る予測手法を用いた場合の平均予測誤差のいずれも、従来手法に比べて小さくなることが確認される。より具体的に、数値を用いて説明すれば、従来手法に基づく平均予測誤差は０．０００２０９９２７、第１の実施形態に係る予測手法に基づく平均予測誤差は０．０００１１７７６８、第２の実施形態に係る予測手法に基づく平均予測誤差は０．０００１１７７６８、及び第４の実施形態に係る予測手法に基づく平均予測誤差は０．０００１０１１７であり、これを対従来手法比で見ると、それぞれ５６．６９％、５６．０９％、４８．１９％であった。これにより、ノイズ耐性の向上が確認される。
【0105】
また、図２０は、常に末端ノードを出力ノードとして使用する従来手法と、第１の実施形態に係る予測手法、第４の実施形態に係る予測手法、及び、第３の実施形態に係る予測手法をそれぞれ用い、その各予測出力と正解値との平均予測誤差を示した比較実験結果（その２）である。なお、学習対象はノイズを付加した単振動であり、位置と速度を入力として加速度を予測させたものである（２入力１出力）。また、位置には１０％のランダムノイズが付加され、学習データ数は１０００００個、予測データ数は１５０００個とした。
【0106】
同図より、第１の実施形態に係る予測手法、第４の実施形態に係る予測手法及び第３の実施形態に係る予測手法を用いた場合の平均予測誤差のいずれも、従来手法に比べて小さくなることが確認される。より具体的に、数値を用いて説明すれば、従来手法に基づく平均予測誤差は０．０００２０６２４、第１の実施形態に係る予測手法に基づく平均予測誤差は０．００００９６９６、第４の実施形態に係る予測手法に基づく平均予測誤差は０．００００８０２６、及び第３の実施形態に係る予測手法に基づく平均予測誤差は０．００００８０７６であり、これを対従来手法比で見ると、それぞれ４７．０１％、３８．９１％、３９．１６％であった。これにより、ノイズ耐性の向上が確認される。
【0107】
＜６．第５の実施形態＞
次に、図２１及び図２２を参照しつつ、本発明に係る第５の実施形態について説明する。なお、本実施形態に係る情報処理装置のハードウェア構成は、第１の実施形態に係る情報処理装置１０におけるハードウェア構成と同一であるので、ここでは説明を省略する。
次に、図２１及び図２２を参照しつつ、本発明に係る第５の実施形態について説明する。なお、本実施形態に係る情報処理装置のハードウェア構成は、第１の実施形態に係る情報処理装置１０におけるハードウェア構成と同一であるので、ここでは説明を省略する。
【0108】
＜６．１ 学習動作＞
まず、本実施形態に係る情報処理装置１０における学習動作について説明する。本実施形態においては、第１の実施形態と同様に、所定のトレーニング用データ群の入力を通じて各ノードについて第１のエラーＥ１が算出される。なお、第１のエラーＥ１の算出方法は、第１の実施形態に係るものと同一であるので（図２参照）、ここでは記載を省略する。
まず、本実施形態に係る情報処理装置１０における学習動作について説明する。本実施形態においては、第１の実施形態と同様に、所定のトレーニング用データ群の入力を通じて各ノードについて第１のエラーＥ１が算出される。なお、第１のエラーＥ１の算出方法は、第１の実施形態に係るものと同一であるので（図２参照）、ここでは記載を省略する。
【0109】
【0110】
図２１は、本実施形態に係る情報処理装置１０において行われる予測動作時のフローチャートである。なお、同図においては、処理開始の前提として、情報処理装置１０へと所定のデータが入力されたことにより、当該入力データが属すべき状態空間が特定され、これにより、学習木上において複数のノードから成る一の経路が特定されている。
【0111】
同図から明らかな通り、処理が開始すると、まず、所定の入力に対応する所定の経路上のノードのうちから、上記学習動作にて算出された第１のエラーＥ１が最小となるノードを特定する処理が行われる（Ｓ９０１）。その後、特定された、第１のエラーＥ１が最小となるノードの１つ下のノードに係る第１のエラーＥ１が参照され、当該第１のエラーＥ１が適切に計算可能であるか否かが判定される（Ｓ９０２）。ここで、本実施形態において第１のエラーＥ１が適切に計算可能であるか否かとは、すなわち、ノードの学習回数が１回のノードであるか否か（ノードに対応する状態空間に存在するデータ数が１つであるか否か）を実質的に意味している。これは、本実施形態においては、学習回数が１回のノードの第１のエラーＥ１が便宜上無限大（∞）として定義され、学習回数が２回目以降に初めて数式１に基づく適切な計算が可能となることに基づくものである。
【0112】
この第１のエラーＥ１が最小となるノードの１つ下のノードの第１のエラーＥ１が適切に計算可能である場合（Ｓ９０３ＹＥＳ）、第１のエラーＥ１が最小となるノードが出力計算の基礎となる出力ノードとして特定される（Ｓ９０３）。一方、この第１のエラーＥ１が最小となるノードの１つ下のノードの第１のエラーＥ１が適切に計算できない場合（Ｓ９０３ＮＯ）、当該１つ下のノードが出力計算の基礎となる出力ノードとして特定される（Ｓ９０４）。その後、特定された出力ノードに基づく出力生成処理、すなわち、出力ノードに対応する各データの出力ベクトルの相加平均を計算することにより出力を生成する処理が行われる。その後、処理は終了する。
【0113】
図２２は、出力ノードの特定（Ｓ９０２～Ｓ９０４）に関する概念図である。
【0114】
図２２Ａは出力ノードの特定に関する第１の例である。同図は、所定の入力に対応して特定された所定の経路上のノードを示しており、同図の例にあっては、上から２番目のノードがノードＡ、下から２番目のノードがノードＢ、末端のノードがノードＣとしてして便宜上示されている。また、同図の例においては、ノードＡが第１の誤差Ｅ１が最小となるノードとして特定されており（Ｓ９０１）、ノードＡ及びノードＢは適切に計算可能なノードであり、ノードＣは適切に計算可能でないノードである。このような条件の下、第１のエラーＥ１が最小となるノード（ノードＡ）の１つ下のノード（ノードＢ）を参照すると（Ｓ９０２）、ノードＢは計算可能なノードであるので（Ｓ９０２ＹＥＳ）、第１のエラーＥ１が最小となるノード（ノードＡ）が出力ノードとして特定される（Ｓ９０３）。
【0115】
図２２Ｂは出力ノードの特定に関する第２の例である。同図は、所定の入力に対応して特定された所定の経路上のノードを示しており、同図の例においても、図２２Ａと同様に、ノードＡ、ノードＢ及びノードＣが便宜上示されている。同図の例においては、ノードＢが第１の誤差Ｅ１が最小となるノードとして特定されており（Ｓ９０１）、ノードＡ及びノードＢは適切に計算可能なノードであり、ノードＣは適切に計算可能でないノードである。このような条件の下、第１のエラーＥ１が最小となるノード（ノードＢ）の１つ下のノード（ノードＣ）を参照すると（Ｓ９０２）、ノードＣは適切に計算できないノードであるので（Ｓ９０２ＮＯ）、第１のエラーＥ１が最小となるノード（ノードＢ）の１つ下のノード（ノードＣ）が出力ノードとして特定される（Ｓ９０４）。
【0116】
このような構成によれば、学習処理により得られた信頼度指標とその適切な計算の可否に基づいて、より信頼度の高いノードを選択して予測出力生成を行うことができるので、より精度の高い予測処理を実現することができる。
【0117】
なお、本実施形態においては、第１のエラーＥ１の算出とも関連する学習初期の例外的処理に着目し、適切な計算の可否についてノードの学習回数が１回のノードであるか又は２回以上の学習回数のノードであるかを基準とすることを例示した。しかしながら、本発明はこのような構成に限定されない。従って、例えば、所定回数以上の学習、すなわち、所定の個数以上の学習データ（トレーニングデータ）が蓄積されなければノードの信頼度指標に相当するエラーが定まらない場合等には、当該所定回数を基準として、所定の学習データの蓄積が行われるまでの間、当該ノードを計算不可能ノードとして特定し、蓄積が行われた場合、当該ノードを計算可能ノードとして特定するような処理を行ってもよい。また、本実施形態においては、第１のエラーＥ１を利用する旨説明を行ったが、本発明はそのような構成に限定されない。従って、例えば、信頼度指標に相当する他の種々のエラーを利用することも可能である。
【0118】
＜７．その他＞
＜７．１ 変形例＞
本発明は上述の実施形態に限定されることはなく、種々の変形が可能である。
＜７．１ 変形例＞
本発明は上述の実施形態に限定されることはなく、種々の変形が可能である。
【0119】
例えば、上述の実施形態においては、情報処理装置が学習処理と予測処理の両方を行うことが可能な構成としたが、本発明は、このような構成に限定されることはない。例えば、学習処理については予め行っておき、情報処理装置を、当該学習処理により得られたＥ０等の種々のエラー等を含む学習パラメータを用いた予測専用装置として構成してもよい。或いは、情報処理装置を、入力を受けて種々の学習パラメータの学習処理のみを行う学習専用装置として構成してもよい。
【0120】
また、情報処理装置を所定のサーバ・クライアントシステムにおけるサーバ側に配置して、例えば、クライアント装置からの要求に応じて、クライアント装置から通信部３等を介して入力された入力データに対して予測又は学習処理を行い、入力に対する予測出力をクライアント装置へと送信する構成としてもよい。
【0121】
さらに、上記実施形態においては、出力演算にあたって、過去の学習データに対応する出力である各状態遷移ベクトルを相加平均により足し合わせるものとして説明した。しかしながら、出力は状態遷移ベクトルに限定されるものではなく、例えば、単に出力ベクトル或いは出力値の相加平均を計算して出力値の演算を行ってもよいことは勿論である。
【0122】
＜７．２ 適用例＞
本発明は、例えば、力学系の学習・予測システム等に好適に適用可能であるが、本発明の適用範囲は広く、他の種々のシステムの学習・予測にも適用可能であり、例えば、所謂ビッグデータの学習・予測にも適用することができる。例として、株価、金融与信又は保険サービス関連情報等の金融データ、医療レセプト等の医療データ、商品の需給や購買データ、商品配送数、ダイレクトメール発送関連情報、来客数、又は問い合わせ数等の経済データ、バズワード、ソーシャルメディア（ソーシャルネットワーキングサービス）関連情報、ＩｏＴデバイス情報又はインターネットセキュリティ関連情報等のインターネット関連データ、気象関連データ、不動産関連データ、脈や血圧等のヘルスケア又は生体関連データ、ゲーム関連データ、動画・画像・音声等のデジタルデータ、若しくは、交通データや電力データ等の社会インフラデータの学習・予測に適用可能である。
本発明は、例えば、力学系の学習・予測システム等に好適に適用可能であるが、本発明の適用範囲は広く、他の種々のシステムの学習・予測にも適用可能であり、例えば、所謂ビッグデータの学習・予測にも適用することができる。例として、株価、金融与信又は保険サービス関連情報等の金融データ、医療レセプト等の医療データ、商品の需給や購買データ、商品配送数、ダイレクトメール発送関連情報、来客数、又は問い合わせ数等の経済データ、バズワード、ソーシャルメディア（ソーシャルネットワーキングサービス）関連情報、ＩｏＴデバイス情報又はインターネットセキュリティ関連情報等のインターネット関連データ、気象関連データ、不動産関連データ、脈や血圧等のヘルスケア又は生体関連データ、ゲーム関連データ、動画・画像・音声等のデジタルデータ、若しくは、交通データや電力データ等の社会インフラデータの学習・予測に適用可能である。
【産業上の利用可能性】
【0123】
所定の学習処理を行う又は当該学習処理の結果に基づいて所定の入力データに対応する予測出力を生成する情報処理装置、情報処理プログラム及びＩＣチップ、特に、学習木構造を用いて学習・予測処理を行う情報処理装置、情報処理プログラム及びＩＣチップを製造等する産業等にて利用可能である。
【符号の説明】
【0124】
１ 制御部
２ Ｉ／Ｏ部
３ 通信部
４ 記憶部
１０ 情報処理装置
２ Ｉ／Ｏ部
３ 通信部
４ 記憶部
１０ 情報処理装置
【図1】
【図2】
【図3】
【図4】
【図5A】
【図5B】
【図6A】
【図6B】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22A】
【図22B】
【図23A】
【図23B】
【図24A】
【図24B】