▶ 日本電気株式会社の特許一覧 ▶ 国立大学法人 東京大学の特許一覧
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-12-07
(45)【発行日】2023-12-15
(54)【発明の名称】機械学習装置、情報処理方法およびプログラム
(51)【国際特許分類】
G06N 3/04 20230101AFI20231208BHJP
【ＦＩ】
G06N3/04
【請求項の数】
7
(21)【出願番号】P 2021555988
(86)(22)【出願日】2020-10-27
(86)【国際出願番号】 JP2020040247
(87)【国際公開番号】W WO2021095512
(87)【国際公開日】2021-05-20
【審査請求日】2022-05-12
(31)【優先権主張番号】P 2019206438
(32)【優先日】2019-11-14
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(73)【特許権者】
【識別番号】504137912
【氏名又は名称】国立大学法人 東京大学
(74)【代理人】
【識別番号】100106909
【弁理士】
【氏名又は名称】棚井 澄雄
(74)【代理人】
【識別番号】100134544
【弁理士】
【氏名又は名称】森 隆一郎
(74)【代理人】
【識別番号】100149548
【弁理士】
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100162868
【弁理士】
【氏名又は名称】伊藤 英輔
(72)【発明者】
【氏名】酒見 悠介
(72)【発明者】
【氏名】森野 佳生
(72)【発明者】
【氏名】合原 一幸
【審査官】松平 英
(56)【参考文献】
【文献】特開平４－２１１５６（ＪＰ，Ａ）
【文献】KATAGIRI, Hideki et al.，Multiobjective Evolutionary Optimization of Training and Topology of Recurrent Neural Networks for T，2010 International Conference on Information Science and Applications，IEEE，2010年，ISSN 2162-9048
【文献】SAKEMI, Yusuke et al.，Model-Size Reduction for Reservoir Computing by Concatenating Internal States Through Time，arXiv [online]，2020年06月11日，[検索日 2020.12.01]，pp. 1-17，インターネット <URL: https://arxiv.org/pdf/2006.06218v1>
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｎ ３／００－９９／００
(57)【特許請求の範囲】
【請求項1】
入力データを取得する入力手段と、前記入力データに対して複数回の演算を行う中間演算手段と、
前記複数回の各々における前記中間演算手段の出力に対して重み付けを行う重み付け手段と、
前記重み付け手段による重み付けの結果に基づく出力データを出力する出力手段と、
前記中間演算手段の出力に対する重みのみを学習の対象として、前記重み付け手段による重み付けの重みの学習を行う学習手段と、
を備える機械学習装置。
【請求項2】
前記中間演算手段は、前記入力手段が入力データを取得してから次の入力データを取得するまでの時間に、１回演算を行う、請求項１に記載の機械学習装置。
【請求項3】
前記中間演算手段は、前記入力手段が入力データを取得してから次の入力データを取得するまでの時間に、複数回演算を行う、請求項１に記載の機械学習装置。
【請求項4】
前記中間演算手段は、前記入力手段が入力データを取得してから次の入力データを取得するまでの時間に、複数回演算を行い、前記入力手段が前記次の入力データを取得すると、前記複数回の演算のうち少なくとも一部の回数の演算を行う前の状態から、前記次の入力データに対する演算を開始する、請求項３に記載の機械学習装置。
【請求項5】
前記複数回の演算の各々における前記中間演算手段の出力に対する前記重み付け手段による重み付けの結果を記憶する重み付け結果記憶手段をさらに備える、請求項１から４の何れか一項に記載の機械学習装置。
【請求項6】
コンピュータが、
入力データを取得し、
前記入力データに対して複数回の演算を行い、
前記複数回の各々の時刻における演算結果に対して重み付けを行い、
前記重み付けの結果に基づく出力データを出力し、
前記演算結果から出力データを算出するために行われる重み付けの重みのみを学習の対象として、前記重み付けの重みの学習を行う、
ことを含む情報処理方法。
【請求項7】
コンピュータに、入力データを取得し、
前記入力データに対して複数回の演算を行い、
前記複数回の各々の時刻における演算結果に対して重み付けを行い、
前記重み付けの結果に基づく出力データを出力し、
前記演算結果から出力データを算出するために行われる重み付けの重みのみを学習の対象として、前記重み付けの重みの学習を行う、
ことを実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、機械学習装置、情報処理方法およびプログラムに関する。
【背景技術】
【0002】
機械学習の一つにリザバーコンピューティング（Reservoir Computing；ＲＣ）がある（非特許文献１参照）。リザバーコンピューティングは、特に、時系列データの学習、および、処理が可能である。時系列データとは、ある量の時間的な変化を表すデータであり、例として、音声データ、および、気候変動データなどがある。
リザバーコンピューティングは、典型的に、ニューラルネットワークによって構成され、入力層、リザバー層および出力層を備える。リザバーコンピューティングでは、入力層からリザバー層への結合の重み、リザバー層中の結合の重みは学習されず、リザバー層から出力層への結合の重み（出力層の重みとも称する）のみを学習対象とすることで、高速な学習が実現される。
リザバーコンピューティングは、典型的に、ニューラルネットワークによって構成され、入力層、リザバー層および出力層を備える。リザバーコンピューティングでは、入力層からリザバー層への結合の重み、リザバー層中の結合の重みは学習されず、リザバー層から出力層への結合の重み（出力層の重みとも称する）のみを学習対象とすることで、高速な学習が実現される。
【0003】
なお、リザバーコンピューティングは、典型的にはニューラルネットワークの一種として構成されるが、これに限定されない。例えば、一次元の遅延フィードバック力学系を用いてリザバーコンピューティングを構築するようにしてもよい（非特許文献２参照）。
また、リザバーコンピューティングのハードウェア実装については、例えば非特許文献３に記載されている。
また、リザバーコンピューティングのハードウェア実装については、例えば非特許文献３に記載されている。
【先行技術文献】
【非特許文献】
【0004】
【文献】M. Lukosevicius、外１名、“Reservoir computing approaches to recurrent neural network training” 、Computer Science Review 3、ｐｐ．１２７－１４９、２００９年
【文献】L. Appeltant、外８名、“Information processing using a single dynamical node as complex system”、Nature Communications、2:468、２０１１年
【文献】G. Tanaka、外８名、“Recent advances in physical reservoir computing: A review”、Neural Networks 115、ｐｐ．１００－１２３、２０１９年
【発明の概要】
【発明が解決しようとする課題】
【0005】
リザバーコンピューティングでは、出力層の重みのみを学習するため、出力層以外も学習する他のモデルと比較して、同じ性能を引き出すには、より大きなモデルサイズを必要とする。
モデルサイズが大きいと、予測の実行時の演算速度および電力効率が低くなり、また、ハードウェア実装時の回路サイズが大きくなる。このため、モデルサイズを比較的小さくできることが好ましい。
モデルサイズが大きいと、予測の実行時の演算速度および電力効率が低くなり、また、ハードウェア実装時の回路サイズが大きくなる。このため、モデルサイズを比較的小さくできることが好ましい。
【0006】
本発明の目的の一例は、上述の課題を解決することのできる機械学習装置、情報処理方法およびプログラムを提供することである。
【課題を解決するための手段】
【0007】
本発明の第１の態様によれば、機械学習装置は、入力データを取得する入力手段と、前記入力データに対して複数回の演算を行う中間演算手段と、前記複数回の各々における前記中間演算手段の出力に対して重み付けを行う重み付け手段と、前記重み付け手段による重み付けの結果に基づく出力データを出力する出力手段と、前記中間演算手段の出力に対する重みのみを学習の対象として、前記重み付け手段による重み付けの重みの学習を行う学習手段と、を備える。
【0008】
本発明の第２の態様によれば、情報処理方法は、コンピュータが、入力データを取得し、前記入力データに対して複数回の演算を行い、前記複数回の各々の時刻における演算結果に対して重み付けを行い、前記重み付けの結果に基づく出力データを出力し、前記演算結果から出力データを算出するために行われる重み付けの重みのみを学習の対象として、前記重み付けの重みの学習を行う、ことを含む。
【0009】
本発明の第３の態様によれば、記録媒体は、コンピュータに、入力データを取得し、前記入力データに対して複数回の演算を行い、前記複数回の各々の時刻における演算結果に対して重み付けを行い、前記重み付けの結果に基づく出力データを出力し、前記演算結果から出力データを算出するために行われる重み付けの重みのみを学習の対象として、前記重み付けの重みの学習を行う、ことを実行させるためのプログラムを記録する。
【発明の効果】
【0010】
この発明の実施形態によれば、モデルのサイズを大きくする必要なしに、比較的高い学習性能を示すことができる。また逆に、学習性能を維持したまま、モデルのサイズを小さくすることができる。
【図面の簡単な説明】
【0011】
【図1】第一実施形態に係るリザバーコンピューティングシステムの概略構成を示す図である。
【図2】第一実施形態に係る機械学習装置の機能構成の例を示す概略ブロック図である。
【図3】第二実施形態の機械学習装置におけるデータの流れの例を示す図である。
【図4】第二実施形態における中間層の状態遷移の例を示す図である。
【図5】第三実施形態における中間層の状態遷移の例を示す図である。
【図6】第四実施形態の機械学習装置におけるデータの流れの例を示す図である。
【図7】第四実施形態における中間層の状態遷移の例を示す図である。
【図8】実施形態に係る機械学習装置のシミュレーション結果を示す第１の図である。
【図9】実施形態に係る機械学習装置のシミュレーション結果を示す第２の図である。
【図10】第五実施形態に係る機械学習装置の機能構成の例を示す図である。
【図11】第五実施形態に係る機械学習装置におけるデータの流れの例を示す図である。
【図12】第五実施形態に係る重み付け部が時刻毎に行う計算の例を示す図である。
【図13】実施形態に係る機械学習装置の構成例を示す図である。
【図14】実施形態に係る情報処理方法における処理手順の例を示す図である。
【図15】少なくとも１つの実施形態に係るコンピュータの構成を示す概略ブロック図である。
【発明を実施するための形態】
【0012】
以下、本発明の実施形態を説明するが、以下の実施形態は請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
【0013】
＜第一実施形態＞
（リザバーコンピューティングについて）
実施形態の基となるリザバーコンピューティングについて説明する。
図１は、第一実施形態に係るリザバーコンピューティングシステムの概略構成を示す図である。図１に示す構成で、リザバーコンピューティングシステム９００は、入力層９１１と、リザバー層９１３と、出力層９１５と、入力層９１１からリザバー層９１３への結合９１２と、リザバー層９１３から出力層９１５への結合９１４とを備える。
（リザバーコンピューティングについて）
実施形態の基となるリザバーコンピューティングについて説明する。
図１は、第一実施形態に係るリザバーコンピューティングシステムの概略構成を示す図である。図１に示す構成で、リザバーコンピューティングシステム９００は、入力層９１１と、リザバー層９１３と、出力層９１５と、入力層９１１からリザバー層９１３への結合９１２と、リザバー層９１３から出力層９１５への結合９１４とを備える。
【0014】
入力層９１１、出力層９１５は、それぞれ１つ以上のノード（Node）を含んで構成される。例えば、リザバーコンピューティングシステム９００がニューラルネットワークとして構成される場合、ノードは、ニューロンとして構成される。
リザバー層９１３は、ノードと、リザバー層９１３のノード間でデータに重み係数を乗算して伝達する単方向のエッジ（Edge）とを含んで構成される。
リザバー層９１３は、ノードと、リザバー層９１３のノード間でデータに重み係数を乗算して伝達する単方向のエッジ（Edge）とを含んで構成される。
【0015】
リザバーコンピューティングシステム９００では、データは、入力層９１１のノードへ入力される。
入力層９１１からリザバー層９１３への結合９１２は、入力層９１１のノードとリザバー層９１３のノードとを結合するエッジの集合として構成される。結合９１２は、入力層９１１のノードの値に重み係数を乗算した値を、リザバー層９１３のノードへ伝達する。
リザバー層９１３から出力層９１５への結合９１４は、リザバー層９１３のノードと出力層のノードとを結合するエッジの集合として構成される。結合９１４は、リザバー層９１３のノードの値に重み係数を乗算した値を、出力層９１５のノードへ伝達する。
入力層９１１からリザバー層９１３への結合９１２は、入力層９１１のノードとリザバー層９１３のノードとを結合するエッジの集合として構成される。結合９１２は、入力層９１１のノードの値に重み係数を乗算した値を、リザバー層９１３のノードへ伝達する。
リザバー層９１３から出力層９１５への結合９１４は、リザバー層９１３のノードと出力層のノードとを結合するエッジの集合として構成される。結合９１４は、リザバー層９１３のノードの値に重み係数を乗算した値を、出力層９１５のノードへ伝達する。
【0016】
図１では、入力層９１１からリザバー層９１３への結合９１２およびリザバー層９１３から出力層９１５への結合９１４を矢印で示している。
リザバーコンピューティングシステム９００は、リザバー層９１３から出力層９１５への結合９１４の重み（重み係数の値）のみを学習する。一方、入力層９１１からリザバー層９１３への結合９１２の重み、および、リザバー層のノード間のエッジの重みは学習の対象外であり、一定の値をとる。
リザバーコンピューティングシステム９００は、リザバー層９１３から出力層９１５への結合９１４の重み（重み係数の値）のみを学習する。一方、入力層９１１からリザバー層９１３への結合９１２の重み、および、リザバー層のノード間のエッジの重みは学習の対象外であり、一定の値をとる。
【0017】
リザバーコンピューティングシステム９００は、ニューラルネットワークとして構成されていてもよいが、これに限定されない。例えば、リザバーコンピューティングシステム９００が、式（１）で示される任意の力学系を表すモデルとして構成されていてもよい。
【0018】
【数1】
【0019】
ここで、ｕ（ｔ）＝｛ｕ１（ｔ），ｕ２（ｔ），…，ｕＫ（ｔ）｝は、入力層９１１を構成する入力ベクトルである。Ｋは、入力層９１１のノードの個数を示す正の整数である。すなわち、ｕ（ｔ）は、リザバーコンピューティングシステム９００への入力時系列データを示すベクトルである。入力層９１１のノードは入力データの値をとるので、ｕ（ｔ）は、入力層９１１のノードの値を示すベクトルでもある。
【0020】
ｘ（ｔ）＝｛ｘ１（ｔ），ｘ２（ｔ），…，ｘＮ（ｔ）｝は、リザバー層９１３を構成する力学系のベクトル表現である。Ｎは、リザバー層９１３のノードの個数を示す正の整数である。すなわち、ｘ（ｔ）は、リザバー層９１３のノードの値を示すベクトルである。
ｙ（ｔ）＝｛ｙ１（ｔ），ｙ２（ｔ），…，ｙＭ（ｔ）｝は、出力ベクトルである。Ｍは、出力層９１５のノードの個数を示す正の整数である。すなわち、ｙ（ｔ）は、出力層９１５のノードの値を示すベクトルである。リザバーコンピューティングシステム９００は出力層９１５のノードの値を出力するので、ｙ（ｔ）は、リザバーコンピューティングシステム９００の出力データを示すベクトルでもある。
ｙ（ｔ）＝｛ｙ１（ｔ），ｙ２（ｔ），…，ｙＭ（ｔ）｝は、出力ベクトルである。Ｍは、出力層９１５のノードの個数を示す正の整数である。すなわち、ｙ（ｔ）は、出力層９１５のノードの値を示すベクトルである。リザバーコンピューティングシステム９００は出力層９１５のノードの値を出力するので、ｙ（ｔ）は、リザバーコンピューティングシステム９００の出力データを示すベクトルでもある。
【0021】
ｆ（・）は、リザバー層９１３の状態の時間発展を表す関数である。
Δｔは、予測時間ステップであり、予測および学習する対象の状態変化の速さに応じて十分小さい値をとる。リザバーコンピューティングシステム９００は、予測時間ステップΔｔ毎に、予測および学習する対象からの入力を受け付ける。
Ｗｏｕｔは、リザバー層９１３から出力層９１５への結合強度を示す行列である。Ｗｏｕｔの要素は、結合９１４を構成する個々のエッジにおける重み係数を示す。ＲＭｘＮをＭ行Ｎ列の実数行列の集合とすると、Ｗｏｕｔ∈ＲＭｘＮと示される。Ｗｏｕｔを、出力の結合行列、または、出力行列とも称する。
力学系として、ニューラルネットワークを用いる場合（echo state network）、式（１）は、式（２）のように示される。
Δｔは、予測時間ステップであり、予測および学習する対象の状態変化の速さに応じて十分小さい値をとる。リザバーコンピューティングシステム９００は、予測時間ステップΔｔ毎に、予測および学習する対象からの入力を受け付ける。
Ｗｏｕｔは、リザバー層９１３から出力層９１５への結合強度を示す行列である。Ｗｏｕｔの要素は、結合９１４を構成する個々のエッジにおける重み係数を示す。ＲＭｘＮをＭ行Ｎ列の実数行列の集合とすると、Ｗｏｕｔ∈ＲＭｘＮと示される。Ｗｏｕｔを、出力の結合行列、または、出力行列とも称する。
力学系として、ニューラルネットワークを用いる場合（echo state network）、式（１）は、式（２）のように示される。
【0022】
【数2】
【0023】
ｔａｎｈ（・）は、双曲線正接関数（Hyperbolic Tangent Function）を示す。
Ｗｒｅｓは、リザバー層９１３のニューロン間の結合強度を示す行列である。Ｗｒｅｓの要素は、リザバー層９１３のノード間の個々のエッジにおける重み係数を示す。ＲＮｘＮをＮ行Ｎ列の実数行列の集合とすると、Ｗｒｅｓ∈ＲＮｘＮと示される。Ｗｒｅｓを、リザバーの結合行列とも称する。
Ｗｉｎは、入力層９１１からリザバー層９１３への結合強度を示す行列である。Ｗｉｎの要素は、結合９１２を構成する個々のエッジにおける重み係数を示す。ＲＮｘＫをＮ行Ｋ列の実数行列の集合とすると、Ｗｉｎ∈ＲＮｘＫと示される。
Ｗｒｅｓは、リザバー層９１３のニューロン間の結合強度を示す行列である。Ｗｒｅｓの要素は、リザバー層９１３のノード間の個々のエッジにおける重み係数を示す。ＲＮｘＮをＮ行Ｎ列の実数行列の集合とすると、Ｗｒｅｓ∈ＲＮｘＮと示される。Ｗｒｅｓを、リザバーの結合行列とも称する。
Ｗｉｎは、入力層９１１からリザバー層９１３への結合強度を示す行列である。Ｗｉｎの要素は、結合９１２を構成する個々のエッジにおける重み係数を示す。ＲＮｘＫをＮ行Ｋ列の実数行列の集合とすると、Ｗｉｎ∈ＲＮｘＫと示される。
【0024】
（学習則について）
リザバーコンピューティングシステム９００では、入力ベクトルの値と、とるべき出力ベクトルの値とのペアで構成される教師データ｛ｕＴｅ（ｔ），ｙＴｅ（ｔ）｝，（ｔ＝０，Δｔ，２Δｔ，…，ＴΔｔ）を用いて、出力行列Ｗｏｕｔの学習を行う。ｕＴｅ（ｔ）における上付きのＴｅは、学習用の入力ベクトルであることを示す。ｙＴｅ（ｔ）における上付きのＴｅは、学習用の出力ベクトルであることを示す。
リザバーコンピューティングシステム９００では、入力ベクトルの値と、とるべき出力ベクトルの値とのペアで構成される教師データ｛ｕＴｅ（ｔ），ｙＴｅ（ｔ）｝，（ｔ＝０，Δｔ，２Δｔ，…，ＴΔｔ）を用いて、出力行列Ｗｏｕｔの学習を行う。ｕＴｅ（ｔ）における上付きのＴｅは、学習用の入力ベクトルであることを示す。ｙＴｅ（ｔ）における上付きのＴｅは、学習用の出力ベクトルであることを示す。
【0025】
この教師データの入力ベクトルｕＴｅ（ｔ）によってリザバー層９１３を時間発展させると、リザバー層９１３の内部状態を示すベクトルｘ（０）、ｘ（Δｔ）、ｘ（２Δｔ）、…、ｘ（ＴΔｔ）が得られる。
リザバーコンピューティングシステム９００における学習は、リザバー層９１３の内部状態を用いて、出力ベクトルｙ（ｔ）と出力ベクトルの教師データｙＴｅ（ｔ）との差を小さくすることで行われる。
出力ベクトルｙ（ｔ）と出力ベクトルの教師データｙＴｅ（ｔ）との差を小さくする手法として、例えば、リッジ回帰を用いることができる。リッジ回帰を用いる場合、式（３）に示される量を最小化することで、出力行列Ｗｏｕｔの学習を行う。
リザバーコンピューティングシステム９００における学習は、リザバー層９１３の内部状態を用いて、出力ベクトルｙ（ｔ）と出力ベクトルの教師データｙＴｅ（ｔ）との差を小さくすることで行われる。
出力ベクトルｙ（ｔ）と出力ベクトルの教師データｙＴｅ（ｔ）との差を小さくする手法として、例えば、リッジ回帰を用いることができる。リッジ回帰を用いる場合、式（３）に示される量を最小化することで、出力行列Ｗｏｕｔの学習を行う。
【0026】
【数3】
【0027】
ここで、βは正則化パラメータとよばれる正実数定数のパラメータである。
｜｜・｜｜２ ２における下付きの「２」は、Ｌ２ノルムを示す。上付きの「２」は、２乗を示す。
｜｜・｜｜２ ２における下付きの「２」は、Ｌ２ノルムを示す。上付きの「２」は、２乗を示す。
【0028】
（リザバーコンピューティングのハードウェア実装）
リザバーコンピューティングをハードウェア実装することで、ＣＰＵ（Central Processing Unit、中央処理装置）を用いてリザバーコンピューティングをソフトウェア的に実行する場合よりも高速、また低消費電力に演算することが可能になる。そのため、実社会への応用を考える場合は、リザバーコンピューティングのアルゴリズムだけでなく、ハードウェア実装も考えることが重要である。
リザバーコンピューティングをハードウェア実装することで、ＣＰＵ（Central Processing Unit、中央処理装置）を用いてリザバーコンピューティングをソフトウェア的に実行する場合よりも高速、また低消費電力に演算することが可能になる。そのため、実社会への応用を考える場合は、リザバーコンピューティングのアルゴリズムだけでなく、ハードウェア実装も考えることが重要である。
【0029】
リザバーコンピューティングのハードウェア実装の例として、Field Programmable Gate Array（ＦＰＧＡ）、Graphical Processing Unit（ＧＰＵ）、または、Application Specific Integrated Circuit（ＡＳＩＣ）などを用いた電子回路による実装が挙げられる。リザバーコンピューティングシステム９００についても、これらのいずれかによって実装するようにしてもよい。
さらに、電子回路以外によるリザバーコンピューティングの実装として、物理リザバーと呼ばれる、物理的なハードウェアによる実装の報告がある。例えば、スピントロニクス（Spintronics）による実装や、光学系による実装などが知られている。リザバーコンピューティングシステム９００についても、これらのいずれかによって実装するようにしてもよい。
さらに、電子回路以外によるリザバーコンピューティングの実装として、物理リザバーと呼ばれる、物理的なハードウェアによる実装の報告がある。例えば、スピントロニクス（Spintronics）による実装や、光学系による実装などが知られている。リザバーコンピューティングシステム９００についても、これらのいずれかによって実装するようにしてもよい。
【0030】
（機械学習装置の構成について）
図２は、第一実施形態に係る機械学習装置の機能構成の例を示す概略ブロック図である。図２に示す構成で、機械学習装置１００は、入力層１１０と、中間演算部１２０と、重み付け部１３０と、出力層１４０と、中間層データ複写部１５０と、記憶部１６０と、学習部１７０とを備える。中間演算部１２０は、第一結合１２１と、中間層１２２とを備える。重み付け部１３０は、第二結合１３１を備える。記憶部１６０は、中間層データ記憶部１６１を備える。
図２は、第一実施形態に係る機械学習装置の機能構成の例を示す概略ブロック図である。図２に示す構成で、機械学習装置１００は、入力層１１０と、中間演算部１２０と、重み付け部１３０と、出力層１４０と、中間層データ複写部１５０と、記憶部１６０と、学習部１７０とを備える。中間演算部１２０は、第一結合１２１と、中間層１２２とを備える。重み付け部１３０は、第二結合１３１を備える。記憶部１６０は、中間層データ記憶部１６１を備える。
【0031】
入力層１１０は、リザバーコンピューティングシステム９００の入力層９１１（図１）と同様、１つ以上のノードを含んで構成され、機械学習装置１００への入力データを取得する。入力層１１０は、入力部の例に該当する。
中間演算部１２０は、入力層１１０が入力データを取得する度に、演算を行う。特に、中間演算部１２０は、同じ演算を、入力層１１０が入力データを取得する毎に１回または複数回繰り返す。中間演算部１２０が行う繰り返しの単位となる演算を１回分の演算と称する。中間演算部１２０が同じ演算を繰り返す際、入力データの値または中間演算部１２０の内部状態（特に、中間層１２２の内部状態）、あるいはそれら両方が異なることで、１回分の演算毎に異なる結果を得られる。
中間演算部１２０は、入力層１１０が入力データを取得する度に、演算を行う。特に、中間演算部１２０は、同じ演算を、入力層１１０が入力データを取得する毎に１回または複数回繰り返す。中間演算部１２０が行う繰り返しの単位となる演算を１回分の演算と称する。中間演算部１２０が同じ演算を繰り返す際、入力データの値または中間演算部１２０の内部状態（特に、中間層１２２の内部状態）、あるいはそれら両方が異なることで、１回分の演算毎に異なる結果を得られる。
【0032】
中間層１２２は、ノードと、中間層１２２のノード間でデータに重み係数を乗算して伝達するエッジとを含んで構成される。
第一結合１２１は、入力層１１０のノードと中間層１２２のノードとを結合するエッジの集合として構成される。第一結合１２１は、入力層１１０のノードの値に重み係数を乗算した値を、中間層１２２のノードへ伝達する。
第一結合１２１は、入力層１１０のノードと中間層１２２のノードとを結合するエッジの集合として構成される。第一結合１２１は、入力層１１０のノードの値に重み係数を乗算した値を、中間層１２２のノードへ伝達する。
【0033】
機械学習装置１００は、中間演算部１２０が行う演算毎に中間演算部１２０の状態を記憶しておく。具体的には、機械学習装置１００は、中間演算部１２０が演算を行う毎に、中間層１２２のノードの値を記憶しておく。そして、機械学習装置１００は、中間演算部１２０の記憶された状態を含む、複数の状態の各々について、中間演算部１２０からの出力に重み係数を乗算した値を出力層１４０へ伝達する。これにより、機械学習装置１００は、複数の時刻における中間演算部１２０から出力層１４０への結合を用いて機械学習装置１００の出力（出力層１４０の各ノードの値）を算出することができる。したがって、機械学習装置１００は、中間演算部１２０のサイズ（特に、中間層１２２の次元数）を大きくする必要なしに、比較的多くのデータを用いて機械学習装置１００の出力を算出することができ、この点で、出力をより高精度に算出することができる。ここでいう層の次元数は、その層のノードの個数である。
【0034】
記憶部１６０は、データを記憶する。特に、記憶部１６０は、中間演算部１２０が行う演算毎に中間演算部１２０の状態を記憶する。
中間層データ記憶部１６１は、中間演算部１２０が行う各時刻における演算結果による中間演算部１２０の状態（その時刻の演算を完了したときの中間演算部１２０の状態）を記憶する。なお、ここでいう時刻とは、何回目の演算かを示すものであり、必ずしも実際の（物理的な）時間を示すものでない。中間層データ記憶部１６１が、中間演算部１２０の状態として、中間層１２２の各ノードの値を記憶するようにしてもよい。あるいは、中間層１２２のノードのうち一部のノードのみが出力層１４０のノードとエッジで結合されている場合、中間層データ記憶部１６１が、中間層１２２のノードのうち出力層１４０のノードとエッジで結合されているノードの値を記憶するようにしてもよい。
中間層データ記憶部１６１は、中間演算部１２０が行う各時刻における演算結果による中間演算部１２０の状態（その時刻の演算を完了したときの中間演算部１２０の状態）を記憶する。なお、ここでいう時刻とは、何回目の演算かを示すものであり、必ずしも実際の（物理的な）時間を示すものでない。中間層データ記憶部１６１が、中間演算部１２０の状態として、中間層１２２の各ノードの値を記憶するようにしてもよい。あるいは、中間層１２２のノードのうち一部のノードのみが出力層１４０のノードとエッジで結合されている場合、中間層データ記憶部１６１が、中間層１２２のノードのうち出力層１４０のノードとエッジで結合されているノードの値を記憶するようにしてもよい。
【0035】
記憶部１６０は、中間層データ記憶部１６１の個数の分だけ中間演算部１２０の状態を記憶することができる。
【0036】
中間層データ複写部１５０は、中間演算部１２０の状態の履歴を記憶部１６０に記憶させる。具体的には、中間層データ複写部１５０は、中間演算部１２０が１回分の演算を行う毎に、その演算を行った後の中間演算部１２０の状態を中間層データ記憶部１６１に記憶させる。
【0037】
重み付け部１３０は、中間演算部１２０が行う演算の各々における中間演算部１２０の出力に対して重み付けを行う。具体的には、重み付け部１３０は、現在の中間演算部１２０の出力、および、中間層データ記憶部１６１が記憶する中間演算部１２０の状態における中間演算部１２０の出力の各々に対して重み付けを行い、重み付けの結果を出力層１４０へ出力する。
【0038】
第二結合１３１は、中間演算部１２０の１状態分について、中間演算部１２０の出力に対する重み付けを行う。すなわち、個々の第二結合１３１は、中間演算部１２０の現在の出力、または、１つの中間層データ記憶部１６１が記憶する中間演算部１２０の状態における中間演算部１２０の出力の何れかに対して重み付けを行う。第二結合１３１は、重み付けの結果を出力層１４０へ出力する。
重み付け部１３０は、中間層データ記憶部１６１が記憶する中間演算部１２０の状態の個数よりも一つ多い個数の第二結合１３１を備える。
重み付け部１３０は、中間層データ記憶部１６１が記憶する中間演算部１２０の状態の個数よりも一つ多い個数の第二結合１３１を備える。
【0039】
出力層１４０は、リザバーコンピューティングシステム９００の出力層９１５（図１）と同様、１つ以上のノードを含んで構成され、重み付け部１３０による重み付けの結果に基づく出力データを出力する。
学習部１７０は、重み付け部１３０による重み付けの重みの学習を行う。一方、第一結合１２１における重み、および、中間層１２２のノード間のエッジにおける重みは、学習の対象外であり、一定の値をとる。
学習済みの機械学習装置１００は、処理システムの例に該当する。
学習部１７０は、重み付け部１３０による重み付けの重みの学習を行う。一方、第一結合１２１における重み、および、中間層１２２のノード間のエッジにおける重みは、学習の対象外であり、一定の値をとる。
学習済みの機械学習装置１００は、処理システムの例に該当する。
【0040】
機械学習装置１００は、中間演算部１２０から出力層１４０への出力に対する重みのみを学習の対象とする点では、リザバーコンピューティングの一種といえる。中間層１２２と、中間層データ複写部１５０と、中間層データ記憶部１６１との組み合わせをリザバーコンピューティングシステム９００の例と見做した場合、機械学習装置１００はリザバーコンピューティングシステム９００の例に該当する。
一方、機械学習装置１００は、中間層データ複写部１５０および中間層データ記憶部１６１を備える点、および、中間層データ記憶部１６１が記憶する中間層１２２の状態における中間層１２２の出力に対して重み付け部１３０が重み付けを行う点で、一般的なリザバーコンピューティングとは異なる。
一方、機械学習装置１００は、中間層データ複写部１５０および中間層データ記憶部１６１を備える点、および、中間層データ記憶部１６１が記憶する中間層１２２の状態における中間層１２２の出力に対して重み付け部１３０が重み付けを行う点で、一般的なリザバーコンピューティングとは異なる。
【0041】
以上のように、入力層１１０は、入力データを取得する。具体的には、入力層１１０は、入力時系列データを逐次的に取得する。中間演算部１２０は、取得された各時刻の入力時系列データに対して演算を行う。重み付け部１３０は、複数時刻の各々における中間演算部の出力に対して重み付けを行う。出力層１４０は、重み付け部１３０による重み付けの結果に基づく出力データを出力する。学習部１７０は、重み付け部１３０による重み付けの重みの学習を行う。
【0042】
このように、複数の時刻における中間層１２２から出力層１４０への出力に対して重み付けを行って出力の算出に用いることで、出力結合数を増やすことができる。ここでいう出力結合数は、中間層１２２の全ノードから出力層１４０の全ノードへの出力の個数であり、過去の時刻における中間層１２２から出力層１４０への出力を含む。ここでいう中間層１２２の次元数は、中間層１２２のノード数である。
【0043】
過去の時刻における中間層１２２からの出力を用いることで、中間層１２２のノード数を増やす必要なしに、出力結合数を比較的多くすることができる。また、逆に、中間層１２２の次元数を小さくしても過去の時刻からの結合を追加することで、出力結合数を一定にすることができるようになる。
このように、機械学習装置１００によれば、モデルのサイズ（特に、中間層１２２のノード数）を大きくする必要なしに、比較的多数の出力結合数を用いて比較的高精度に演算を行うことができる。
このように、機械学習装置１００によれば、モデルのサイズ（特に、中間層１２２のノード数）を大きくする必要なしに、比較的多数の出力結合数を用いて比較的高精度に演算を行うことができる。
【0044】
＜第二実施形態＞
第二実施形態では、第一実施形態の機械学習装置１００が行う処理の例について説明する。第二実施形態にかかる処理では、中間層１２２の過去の状態を再利用する。
図３は、機械学習装置１００におけるデータの流れの第一例を示す図である。図３の例で、入力層１１０が入力データを取得し、第一結合１２１が入力データに対する重み付けを行う。
中間層１２２は、第一結合１２１による重み付けの結果（第一結合１２１が重み付けを行った入力データ）に対する演算を行う。第二実施形態では、中間層１２２は、入力層１１０が入力データを取得する毎に、同じ演算を繰り返す。中間層１２２が繰り返し行う演算の１回分（入力層１１０の１回の入力データ取得に対応して中間層１２２が行う演算）が、１回分の演算の例に該当する。
第二実施形態では、第一実施形態の機械学習装置１００が行う処理の例について説明する。第二実施形態にかかる処理では、中間層１２２の過去の状態を再利用する。
図３は、機械学習装置１００におけるデータの流れの第一例を示す図である。図３の例で、入力層１１０が入力データを取得し、第一結合１２１が入力データに対する重み付けを行う。
中間層１２２は、第一結合１２１による重み付けの結果（第一結合１２１が重み付けを行った入力データ）に対する演算を行う。第二実施形態では、中間層１２２は、入力層１１０が入力データを取得する毎に、同じ演算を繰り返す。中間層１２２が繰り返し行う演算の１回分（入力層１１０の１回の入力データ取得に対応して中間層１２２が行う演算）が、１回分の演算の例に該当する。
【0045】
中間層データ複写部１５０は、中間演算部１２０が１回分の演算を行う毎に、中間層１２２の状態を中間層データ記憶部１６１に記憶させる。重み付け部１３０は、中間層１２２の出力、および、中間層データ記憶部１６１が記憶する中間層１２２の状態における中間層１２２の出力の各々に対して重み付けを行う。
出力層１４０は、重み付け部１３０による重み付けの結果に基づいて出力データを算出し出力する。
学習部１７０は、出力層１４０における重みの学習を行う。
出力層１４０は、重み付け部１３０による重み付けの結果に基づいて出力データを算出し出力する。
学習部１７０は、出力層１４０における重みの学習を行う。
【0046】
第二実施形態における機械学習装置１００の処理で、ある時刻ｔ（ｔ＝０，１，２，．．．，Ｔ）における中間層１２２の内部状態をｘ（ｔ）とする。Ｔは、正の整数である。
時刻ｔは、中間層１２２が１回分の演算を行う時間ステップに付された通番で示される。
第二実施形態では、中間層１２２が１回分の演算を行う時間ステップは、入力層１１０が入力データを取得してから次の入力データを取得するまでの時間ステップに設定される。
式（１）を参照して説明したように、ｘ（ｔ）は、例えば式（４）のように示される。
時刻ｔは、中間層１２２が１回分の演算を行う時間ステップに付された通番で示される。
第二実施形態では、中間層１２２が１回分の演算を行う時間ステップは、入力層１１０が入力データを取得してから次の入力データを取得するまでの時間ステップに設定される。
式（１）を参照して説明したように、ｘ（ｔ）は、例えば式（４）のように示される。
【0047】
【数4】
【0048】
ｆ（・）は、中間層１２２の状態の時間発展を表す関数であり、ここでは、中間層１２２が行う１回分の演算を示す。Δｔは、予測時間ステップである。
出力層１４０の状態を示す出力ベクトルｙ（ｔ）は、式（５）のように示される。
出力層１４０の状態を示す出力ベクトルｙ（ｔ）は、式（５）のように示される。
【0049】
【数5】
【0050】
ｘ＊（ｔ）は、時刻ｔにおける中間層１２２の状態を示す状態ベクトルに加えて、時刻ｔ以外の時刻における中間層１２２の状態を示す状態ベクトルも含むベクトルである。ｘ＊（ｔ）は、式（６）のように示される。
【0051】
【数6】
【0052】
ここで、［・，・，…，・］は、ベクトルの連結を表す。また、ｘやｘ＊は縦ベクトルであることに注意されたい。ｘＴはｘの転置を表す。
ｘ＊（ｔ）を、時刻ｔにおける混合時刻状態ベクトルと称する。
また、Ｐは、いくつ前までの過去の状態を用いるかを決める定数である。Ｑは、いくつの予測時間ステップ分、スキップして過去の状態を用いるかを決める定数である。Ｑを拡大数と称する。
ｘ＊（ｔ）を、時刻ｔにおける混合時刻状態ベクトルと称する。
また、Ｐは、いくつ前までの過去の状態を用いるかを決める定数である。Ｑは、いくつの予測時間ステップ分、スキップして過去の状態を用いるかを決める定数である。Ｑを拡大数と称する。
【0053】
また、式（５）のＷｏｕｔは、混合状態ベクトルｘ＊（ｔ）に対する重み付けを示す出力行列であり、Ｗｏｕｔ∈ＲＭ×（Ｐ＋１）Ｎと示される。ここでのＲＭ×（Ｐ＋１）Ｎは、Ｍ行（Ｐ＋１）Ｎ列の実数行列の集合を示す。
なお、ここでは、混合時刻状態ベクトルｘ＊（ｔ）の要素の値の線形結合により、出力ベクトルｙ（ｔ）を計算できる場合の例を示している。ただし、出力ベクトルｙ（ｔ）の算出方法は、これに限定されない。例えば、出力層１４０が、混合時刻状態ベクトルｘ＊（ｔ）の一部の要素の値を二乗したうえで線形結合して計算するようにしてもよい。
なお、ここでは、混合時刻状態ベクトルｘ＊（ｔ）の要素の値の線形結合により、出力ベクトルｙ（ｔ）を計算できる場合の例を示している。ただし、出力ベクトルｙ（ｔ）の算出方法は、これに限定されない。例えば、出力層１４０が、混合時刻状態ベクトルｘ＊（ｔ）の一部の要素の値を二乗したうえで線形結合して計算するようにしてもよい。
【0054】
図４は、第二実施形態における中間層１２２の状態遷移の例を示す図である。図４は、時刻ｔ＝０から時刻ｔ＝３までの中間層１２２の状態の時間発展を示している。図４では、Ｐ＝Ｑ＝Δｔ＝１の場合の例を表している。
図４の例で、入力層１１０が、ｕ（０）、ｕ（１）、・・・、と、入力データを取得する毎に、中間層１２２の状態が、ｘ（０）、ｘ（１）、・・・と遷移している。また、ある時刻ｔにおける出力（出力ベクトルｙ（ｔ））は、時刻ｔにおける中間層１２２の状態（ｘ（ｔ））と、時刻ｔ－１における中間層１２２の状態（ｘ（ｔ－１））との線形結合によって求まる。
図４の例で、入力層１１０が、ｕ（０）、ｕ（１）、・・・、と、入力データを取得する毎に、中間層１２２の状態が、ｘ（０）、ｘ（１）、・・・と遷移している。また、ある時刻ｔにおける出力（出力ベクトルｙ（ｔ））は、時刻ｔにおける中間層１２２の状態（ｘ（ｔ））と、時刻ｔ－１における中間層１２２の状態（ｘ（ｔ－１））との線形結合によって求まる。
【0055】
したがって、図４の例では、重み付け部１３０は、中間演算部１２０が行う２つの時刻分の演算の結果を用いて出力を算出する。例えば、中間演算部１２０が、ｘ（０）とｕ（１）とに基づいてｘ（１）を算出し、ｘ（１）とｕ（２）とに基づいてｘ（２）を算出すると、重み付け部１３０は、ｘ（１）とｘ（２）とを用いてｙ（２）を算出する。
【0056】
中間層１２２が時刻ｔにおける状態（ベクトルｘ（ｔ））を算出すると、中間層データ複写部１５０が時刻ｔにおける中間層１２２の状態を中間層データ記憶部１６１に記憶させる。その後、中間層１２２は、時刻ｔ＋１における状態（ベクトルｘ（ｔ＋１））を算出する。これにより、重み付け部１３０は、時刻ｔにおける中間層１２２の出力と、時刻ｔ＋１における中間層１２２の出力との両方を用いて出力（出力ベクトルｙ（ｔ＋１））を算出することができる。
【0057】
以上のように、中間演算部１２０は、入力層１１０が入力データを取得してから次の入力データを取得するまでの時間に、１回分の演算を行う。
記憶部１６０が中間演算部１２０の状態の履歴を記憶しておくことで、過去の時刻における中間層１２２からの出力を用いることができ、中間層１２２のノード数を増やす必要なしに、出力結合数を比較的多くすることができる。
記憶部１６０が中間演算部１２０の状態の履歴を記憶しておくことで、過去の時刻における中間層１２２からの出力を用いることができ、中間層１２２のノード数を増やす必要なしに、出力結合数を比較的多くすることができる。
【0058】
＜第三実施形態＞
第三実施形態では、第一実施形態の機械学習装置１００が行う処理の、もう１つの例について説明する。第三実施形態にかかる処理では、中間層１２２の中間状態を設ける。
第三実施形態の処理での機械学習装置１００におけるデータの流れは、図３を参照して説明したのと同様である。
第三実施形態では、第一実施形態の機械学習装置１００が行う処理の、もう１つの例について説明する。第三実施形態にかかる処理では、中間層１２２の中間状態を設ける。
第三実施形態の処理での機械学習装置１００におけるデータの流れは、図３を参照して説明したのと同様である。
【0059】
ただし、第三実施形態の処理では、入力層１１０が入力データを取得するタイミングと、中間演算部１２０が演算を行うタイミングとの関係が、第二実施形態の場合と異なる。
第二実施形態では、入力層１１０が入力データを取得してから次の入力データを取得するまでの時間に、中間演算部１２０が１回演算を行う。これに対し、第三実施形態では、入力層１１０が入力データを取得してから次の入力データを取得するまでの時間に、中間演算部１２０が複数回の演算を行う。この場合の、中間演算部１２０が１回演算を行う毎の中間演算部１２０の状態を、中間演算部１２０の中間状態と称する。
第二実施形態では、入力層１１０が入力データを取得してから次の入力データを取得するまでの時間に、中間演算部１２０が１回演算を行う。これに対し、第三実施形態では、入力層１１０が入力データを取得してから次の入力データを取得するまでの時間に、中間演算部１２０が複数回の演算を行う。この場合の、中間演算部１２０が１回演算を行う毎の中間演算部１２０の状態を、中間演算部１２０の中間状態と称する。
【0060】
このように、中間演算部１２０が、入力データおよび中間層１２２の初期状態に基づいて１回分の演算を行うことで、中間層１２２の中間状態（第１の中間状態）が得られる。
中間演算部１２０が、入力データおよび中間層１２２の中間状態に基づいて１回分の演算を行うことで、中間層１２２の、次の中間状態（第２、第３、・・・の中間状態）が得られる。中間演算部１２０が、演算（１回分の演算）を２回以上繰り返して得られた複数の中間状態に基づいて、重み付け部１３０および出力層１４０が、機械学習装置１００の処理結果としての出力を生成し出力する。
中間演算部１２０が、入力データおよび中間層１２２の中間状態に基づいて１回分の演算を行うことで、中間層１２２の、次の中間状態（第２、第３、・・・の中間状態）が得られる。中間演算部１２０が、演算（１回分の演算）を２回以上繰り返して得られた複数の中間状態に基づいて、重み付け部１３０および出力層１４０が、機械学習装置１００の処理結果としての出力を生成し出力する。
【0061】
第三実施形態の処理では、中間層１２２の状態に、中間状態がＮｔｒａｎ個挿入される。Ｎｔｒａｎは、正の整数である。個々の中間状態は、中間層データ記憶部１６１が記憶する中間層１２２の状態である。
中間層１２２の中間状態が設けられる第三実施形態では、中間層１２２が同じ入力信号を（１＋Ｎｔｒａｎ）回用いて時間発展を行った後、重み付け部１３０が出力層の計算を行う。この場合の中間層１２２の内部状態（ベクトルｘ（ｔ））は、例えば式（７）のように示される。
中間層１２２の中間状態が設けられる第三実施形態では、中間層１２２が同じ入力信号を（１＋Ｎｔｒａｎ）回用いて時間発展を行った後、重み付け部１３０が出力層の計算を行う。この場合の中間層１２２の内部状態（ベクトルｘ（ｔ））は、例えば式（７）のように示される。
【0062】
【数7】
【0063】
ここで、ｆｌｏｏｒ（・）は下床関数と呼ばれ、式（８）のように定義される。
【0064】
【数8】
【0065】
ここで、Ｚは整数の集合である。
ｆ（・）は、中間層１２２の状態の時間発展を表す関数であり、式（４）の場合と同様、中間層１２２が行う１回分の演算を示す。
出力層１４０の状態を示す出力ベクトルｙ（ｔ）は、式（９）のように示される。
ｆ（・）は、中間層１２２の状態の時間発展を表す関数であり、式（４）の場合と同様、中間層１２２が行う１回分の演算を示す。
出力層１４０の状態を示す出力ベクトルｙ（ｔ）は、式（９）のように示される。
【0066】
【数9】
【0067】
混合時刻状態ベクトルｘ＊（ｔ）は、上記の式（６）のように示される。
式（９）のＷｏｕｔは、混合状態ベクトルｘ＊（ｔ）に対する重み付けを示す出力行列であり、Ｗｏｕｔ∈ＲＭ×（１＋Ｎｔｒａｎ）Ｎと示される。ここでのＲＭ×（１＋Ｎｔｒａｎ）Ｎは、Ｍ行（１＋Ｎｔｒａｎ）Ｎ列の実数行列の集合を示す。
式（９）のＷｏｕｔは、混合状態ベクトルｘ＊（ｔ）に対する重み付けを示す出力行列であり、Ｗｏｕｔ∈ＲＭ×（１＋Ｎｔｒａｎ）Ｎと示される。ここでのＲＭ×（１＋Ｎｔｒａｎ）Ｎは、Ｍ行（１＋Ｎｔｒａｎ）Ｎ列の実数行列の集合を示す。
【0068】
図５は、第三実施形態における中間層１２２の状態遷移の例を示す図である。図５は、時刻ｔ＝０から時刻ｔ＝３までの中間層１２２の状態の時間発展を示している。図５では、中間状態を一個挿入する場合（すなわちＮｔｒａｎ＝１の場合）、かつ、Ｐ＝Ｑ＝Δｔ＝１の場合の例を表している。ｘ＊（・）は、中間層１２２の中間状態を示すベクトルである。
【0069】
図５の例で、入力層１１０が、ｕ（０）、ｕ（１）、・・・、と、入力データを取得する毎に、中間層１２２の状態が、ｘ＊（０）、ｘ＊（１）、ｘ＊（２）、・・・のように、中間状態を経て、入力データに対する最終的な状態へと遷移している。また、ある時刻ｔにおける出力（出力ベクトルｙ（ｔ））は、中間層１２２の中間状態（ｘ（（１＋Ｎｔｒａｎ）ｔ＋Ｎｔｒａｎ））と、その一つ前の時刻の状態（ｘ（（１＋Ｎｔｒａｎ）ｔ＋Ｎｔｒａｎ－１））との線形結合によって求まる。
【0070】
したがって、図５の例では、重み付け部１３０は、中間演算部１２０が行う２回分の演算の結果を用いて出力を算出する。例えば、中間演算部１２０が、ｘ（１）とｕ（１）とに基づいてｘ（２）を算出し、ｘ（２）とｕ（１）とに基づいてｘ（３）を算出すると、重み付け部１３０は、ｘ（２）とｘ（３）とを用いてｙ（１）を算出する。
【0071】
中間層１２２が中間状態を算出すると、中間層データ複写部１５０が中間層１２２の中間状態を中間層データ記憶部１６１に記憶させる。その後、中間層１２２は、次の中間状態、または、入力データに対する最終的な状態を算出する。これにより、重み付け部１３０は、中間状態における中間層１２２の出力と、入力データに対する最終的な状態における中間層１２２の出力との両方を用いて出力（出力ベクトルｙ（ｔ））を算出することができる。
【0072】
以上のように、中間演算部１２０は、入力層１１０が入力データを取得してから次の入力データを取得するまでの時間に、複数回演算を行う。例えば、中間演算部１２０は、複数回の演算を逐次的に行う。
記憶部１６０が中間演算部１２０の状態の履歴を中間状態として記憶しておくことで、中間状態における中間層１２２からの出力を用いることができ、中間層１２２のノード数を増やす必要なしに、出力結合数を多くすることができる。
記憶部１６０が中間演算部１２０の状態の履歴を中間状態として記憶しておくことで、中間状態における中間層１２２からの出力を用いることができ、中間層１２２のノード数を増やす必要なしに、出力結合数を多くすることができる。
【0073】
＜第四実施形態＞
第四実施形態では、第一実施形態の機械学習装置１００が行う、さらにもう１つの処理の例について説明する。第四実施形態にかかる処理では、中間層１２２の補助状態を設ける。
図６は、機械学習装置１００におけるデータの流れの第二例を示す図である。図６の例では、中間層データ複写部１５０が中間層データ記憶部１６１から中間層１２２の状態を読み出して中間層１２２に設定する点で、図３の場合と異なる。それ以外の点では、図６の例は図３の場合と同様である。
第四実施形態では、第一実施形態の機械学習装置１００が行う、さらにもう１つの処理の例について説明する。第四実施形態にかかる処理では、中間層１２２の補助状態を設ける。
図６は、機械学習装置１００におけるデータの流れの第二例を示す図である。図６の例では、中間層データ複写部１５０が中間層データ記憶部１６１から中間層１２２の状態を読み出して中間層１２２に設定する点で、図３の場合と異なる。それ以外の点では、図６の例は図３の場合と同様である。
【0074】
第四実施形態でも第三実施形態の場合と同様、入力層１１０が入力データを取得してから次の入力データを取得するまでの時間に、中間演算部１２０が複数回分の演算を行う。この場合の、中間演算部１２０が１回分の演算を行う毎の中間演算部１２０の状態を、中間演算部１２０の補助状態と称する。
【0075】
中間層１２２の中間状態と補助状態との違いは、状態遷移の戻りが生じるか否かの違いである。第三実施形態で説明したように、中間状態の場合は、中間層１２２の状態は、１つ以上の中間状態を経て入力データに対する最終的な状態に遷移する。そして、中間層１２２は、入力データに対する最終的な状態に基づいて、次の入力データに対する状態計算を行う。このように、中間状態の場合は、中間層１２２の状態遷移の戻りは生じない。
一方、補助状態の場合、中間層１２２の状態は、１つ以上の補助状態に遷移した後、元の状態に戻ってから、次の入力データに対する状態へ遷移する。このように、補助状態の場合は、中間層１２２の状態遷移の戻りが生じる。
一方、補助状態の場合、中間層１２２の状態は、１つ以上の補助状態に遷移した後、元の状態に戻ってから、次の入力データに対する状態へ遷移する。このように、補助状態の場合は、中間層１２２の状態遷移の戻りが生じる。
【0076】
第四実施形態における機械学習装置１００では、各時刻の中間層１２２の状態（入力層１１０が入力データを取得する時間ステップ毎の中間層１２２の状態）に対して、Ｎａｕｘ個の補助状態が追加される。Ｎａｕｘは、正の整数である。各時刻の中間層１２２の状態は、例えば上記の式（４）のように示される。
また、補助状態ｘ（ｔ；ｉ）は、式（１０）のように示される。
また、補助状態ｘ（ｔ；ｉ）は、式（１０）のように示される。
【0077】
【数10】
【0078】
ここで、ｇ（・）はｆ（・）と同じ関数であってもよいし、異なる関数であってもよい。
また、第四実施形態では、混合時刻状態ベクトルｘ＊（ｔ）は、式（１１）のように示される。
また、第四実施形態では、混合時刻状態ベクトルｘ＊（ｔ）は、式（１１）のように示される。
【0079】
【数11】
【0080】
第四実施形態では、出力層１４０の状態を示す出力ベクトルｙ（ｔ）は、式（１２）のように示される。
【0081】
【数12】
【0082】
式（１２）のＷｏｕｔは、混合状態ベクトルｘ＊（ｔ）に対する重み付けを示す出力行列であり、Ｗｏｕｔ∈ＲＭ×（１＋Ｎａｕｘ）Ｎと示される。ここでのＲＭ×（１＋Ｎａｕｘ）Ｎは、Ｍ行（１＋Ｎａｕｘ）Ｎ列の実数行列の集合を示す。
【0083】
図７は、第四実施形態における中間層１２２の状態遷移の例を示す図である。図７は、時刻ｔ＝０から時刻ｔ＝３までの中間層１２２の状態の時間発展を示している。図７では、補助を２個挿入する場合（すなわちＮａｕｘ＝２の場合）、かつ、Δｔ＝１の場合の例を表している。ｘ（・）は、中間層１２２の中間状態を示すベクトルである。
【0084】
図７の例で、入力層１１０が、ｕ（０）、ｕ（１）、・・・、と、入力データを取得する毎に、中間層１２２の状態が、ｘ（０）からｘ（０；１）およびｘ（０：２）へ遷移しｘ（０）へ戻る、ｘ（１）からｘ（１；１）およびｘ（１：２）へ遷移しｘ（１）へ戻る、というように、補助状態に遷移した後、元の状態に戻ってから、次の入力データに対する状態へ遷移する。
また、ある時刻ｔにおける出力（出力ベクトルｙ（ｔ））は、時刻ｔにおける中間層１２２の状態（ｘ（ｔ））と、時刻ｔにおける中間層１２２の補助状態（ｘ（ｔ；ｉ））との線形結合によって求まる。
また、ある時刻ｔにおける出力（出力ベクトルｙ（ｔ））は、時刻ｔにおける中間層１２２の状態（ｘ（ｔ））と、時刻ｔにおける中間層１２２の補助状態（ｘ（ｔ；ｉ））との線形結合によって求まる。
【0085】
したがって、図７の例では、重み付け部１３０は、中間演算部１２０が行う２回分の演算の結果を用いて出力を算出する。例えば、中間演算部１２０が、ｘ（０）とｕ（０）とに基づいてｘ（０；１）を算出し、ｘ（０；１）に基づいてｘ（０；２）を算出すると、重み付け部１３０は、ｘ（０）とｘ（０；１）とｘ（０；２）とを用いてｙ（０）を算出する。
【0086】
中間層データ複写部１５０は、中間層１２２が補助状態を算出する前の状態を中間層データ記憶部１６１に記憶させる。その後、中間層１２２は、補助状態を算出する。中間層１２２が補助状態を算出する毎に、中間層データ複写部１５０は補助状態を中間層データ記憶部１６１に記憶させる。これにより、重み付け部１３０は、補助状態における中間層１２２の出力と、元の状態における中間層１２２の出力との両方を用いて出力（出力ベクトルｙ（ｔ））を算出することができる。
また、中間層１２２がＮａｕｘ個の補助状態の算出を完了すると、中間層データ複写部１５０は、中間層１２２の元の状態を中間層データ記憶部１６１から読み出して中間層１２２に設定する。
また、中間層１２２がＮａｕｘ個の補助状態の算出を完了すると、中間層データ複写部１５０は、中間層１２２の元の状態を中間層データ記憶部１６１から読み出して中間層１２２に設定する。
【0087】
以上のように、中間演算部１２０は、入力層１１０が入力データを取得してから次の入力データを取得するまでの時間に、複数回演算を行う。例えば、中間演算部１２０は、複数回の演算を逐次的に行う。入力層１１０が次の入力データを取得すると、中間演算部１２０は、複数回の演算のうち少なくとも一部の回数分の演算を行う前の状態から、次の入力データに対する演算を開始する。
記憶部１６０が中間演算部１２０の状態の履歴を補助状態として記憶しておくことで、補助状態における中間層１２２からの出力を用いることができ、中間層１２２のノード数を増やす必要なしに、出力結合数を多くすることができる。
記憶部１６０が中間演算部１２０の状態の履歴を補助状態として記憶しておくことで、補助状態における中間層１２２からの出力を用いることができ、中間層１２２のノード数を増やす必要なしに、出力結合数を多くすることができる。
【0088】
機械学習装置１００が、第二実施形態の処理および第三実施形態の処理のうち何れか一方または両方と、第四実施形態の処理とを併用するようにしてもよい。
例えば、図４の例で、入力層１１０が入力データを取得してから次の入力データを取得するまでの時間ステップが複数のサブステップに分割され、中間層１２２が、サブステップ毎に補助状態を算出するようにしてもよい。
例えば、図４の例で、入力層１１０が入力データを取得してから次の入力データを取得するまでの時間ステップが複数のサブステップに分割され、中間層１２２が、サブステップ毎に補助状態を算出するようにしてもよい。
【0089】
また、図５の例で、入力層１１０が、ｘ（０）、ｘ（１）等の状態から補助状態を算出し、元の状態に戻った後、次の入力データに対する中間状態を算出するようにしてもよい。
なお、ニューラルネットワークを用いて機械学習装置１００を構成する場合、いろいろなニューロンモデルおよびいろいろなネットワーク結合を用いて中間層１２２を構成することができる。例えば、中間層１２２が、全結合ニューラルネットワークとして構成されていてもよい。あるいは、中間層１２２が、円環型の結合をもつニューラルネットワークとして構成されていてもよい。
なお、ニューラルネットワークを用いて機械学習装置１００を構成する場合、いろいろなニューロンモデルおよびいろいろなネットワーク結合を用いて中間層１２２を構成することができる。例えば、中間層１２２が、全結合ニューラルネットワークとして構成されていてもよい。あるいは、中間層１２２が、円環型の結合をもつニューラルネットワークとして構成されていてもよい。
【0090】
（シミュレーション例）
機械学習装置１００の動作のシミュレーション結果について説明する。
シミュレーションでは、ニューラルネットワークを用いて機械学習装置１００を構成し、入力層１１０のノード数、出力層１４０のノード数を何れも１としている。また、Ｑ＝Δｔ＝１とした。シミュレーションにおける中間層１２２の状態は、式（１３）のベクトルｘ（ｔ）のように示される。
機械学習装置１００の動作のシミュレーション結果について説明する。
シミュレーションでは、ニューラルネットワークを用いて機械学習装置１００を構成し、入力層１１０のノード数、出力層１４０のノード数を何れも１としている。また、Ｑ＝Δｔ＝１とした。シミュレーションにおける中間層１２２の状態は、式（１３）のベクトルｘ（ｔ）のように示される。
【0091】
【数13】
【0092】
混合時刻状態ベクトルｘ＊（ｔ）は、式（１４）のように示される。
【0093】
【数14】
【0094】
出力ベクトルｙ（ｔ）は、上記の式（５）のように示される。
また、中間状態を導入する場合、中間層１２２の状態は、式（１５）のベクトルｘ（ｔ）のように示される。
また、中間状態を導入する場合、中間層１２２の状態は、式（１５）のベクトルｘ（ｔ）のように示される。
【0095】
【数15】
【0096】
中間状態を導入する場合、混合時刻状態ベクトルｘ＊（ｔ）は、上記の式（６）のように示される。中間状態を導入する場合、出力ベクトルｙ（ｔ）は、上記の式（９）のように示される。
また、補助状態を導入する場合、中間層１２２の状態は、式（１６）のベクトルｘ（ｔ）のように示される。
また、補助状態を導入する場合、中間層１２２の状態は、式（１６）のベクトルｘ（ｔ）のように示される。
【0097】
【数16】
【0098】
中間層１２２の補助状態は、式（１７）のベクトルｘ（ｔ；ｉ）のように示される。
【0099】
【数17】
【0100】
補助状態を導入する場合、混合時刻状態ベクトルｘ＊（ｔ）は、上記の式（１１）のように示される。補助状態を導入する場合、出力ベクトルｙ（ｔ）は、上記の式（１２）のように示される。
シミュレーションでは、ＮＡＲＭＡ１０の出力を予測するタスクを行った。ＮＡＲＭＡ１０は、式（１８）のように示される。
シミュレーションでは、ＮＡＲＭＡ１０の出力を予測するタスクを行った。ＮＡＲＭＡ１０は、式（１８）のように示される。
【0101】
【数18】
【0102】
ここで、ｕ［ｔ］は０から０．５までの値をとる一様乱数である。ネットワークの学習はＴｔｒａｉｎ（＝２０００）個のデータで行い、その出力の回帰性能を異なる乱数を用いてＴｔｅｓｔ（＝２０００）個のデータに対して調べる。
回帰性能はnormalized mean square error（ＮＭＳＥ）で評価した。ＮＭＳＥは、式（１９）のように示される。
回帰性能はnormalized mean square error（ＮＭＳＥ）で評価した。ＮＭＳＥは、式（１９）のように示される。
【0103】
【数19】
【0104】
ｙｍｅａｎは、式（２０）のように示される。
【0105】
【数20】
【0106】
ここで、ｙＴｅはＮＡＲＭＡ１０の出力値（教師データ）であり、ｙ（ｔ）はネットワークの予測値である。なお、ＮＭＳＥが小さいほど性能が高い。
図８は、ＮＰ＝２００のときのシミュレーション結果を示す第１の図である。なお、Ｎはリザバー層のニューロン数であり、Ｐは、結合を許す過去の状態数である。図８の横軸はＰの大きさを表す。Ｐが大きくなるほど、中間層１２２のノード数（ニューロン数）が少ないモデルである。図８は、中間状態の個数が０個、１個、２個のときの結果を示している。いずれの個数の場合もＰ＝０、１、２、３、４のときは、性能値としてのＮＭＳＥは同じような値をとっていることがわかる。Ｐ＝４のときのノード数は４０個であり、中間層１２２のノード数を削減できている。
さらに、中間状態を挿入した場合は、Ｐ＝７程度まで性能の低下は小さく、より少ない中間層１２２のノード数を実現できる。
図８は、ＮＰ＝２００のときのシミュレーション結果を示す第１の図である。なお、Ｎはリザバー層のニューロン数であり、Ｐは、結合を許す過去の状態数である。図８の横軸はＰの大きさを表す。Ｐが大きくなるほど、中間層１２２のノード数（ニューロン数）が少ないモデルである。図８は、中間状態の個数が０個、１個、２個のときの結果を示している。いずれの個数の場合もＰ＝０、１、２、３、４のときは、性能値としてのＮＭＳＥは同じような値をとっていることがわかる。Ｐ＝４のときのノード数は４０個であり、中間層１２２のノード数を削減できている。
さらに、中間状態を挿入した場合は、Ｐ＝７程度まで性能の低下は小さく、より少ない中間層１２２のノード数を実現できる。
【0107】
図９は、ＮＰ＝２００のときのシミュレーション結果を示す第２の図である。図９の横軸はＰの大きさを表す。図９は、上記の条件において、中間状態が一個の場合と、補助状態を用いた場合との比較を示している。補助状態を用いた場合は、Ｐ＝１０ぐらいまで性能の低下が小さく、中間状態を導入するよりもさらに中間層１２２ニューロン数を削減できる。
【0108】
＜第五実施形態＞
図１０は、第五実施形態に係る機械学習装置の機能構成の例を示す図である。図１０に示す構成で、機械学習装置２００は、入力層１１０と、中間演算部１２０と、重み付け部１３０と、出力層１４０と、重み付け結果複写部２５０と、記憶部２６０と、学習部１７０とを備える。中間演算部１２０は、第一結合１２１と、中間層１２２とを備える。重み付け部１３０は、第二結合１３１を備える。記憶部２６０は、重み付け結果記憶部２６１を備える。
図１０は、第五実施形態に係る機械学習装置の機能構成の例を示す図である。図１０に示す構成で、機械学習装置２００は、入力層１１０と、中間演算部１２０と、重み付け部１３０と、出力層１４０と、重み付け結果複写部２５０と、記憶部２６０と、学習部１７０とを備える。中間演算部１２０は、第一結合１２１と、中間層１２２とを備える。重み付け部１３０は、第二結合１３１を備える。記憶部２６０は、重み付け結果記憶部２６１を備える。
【0109】
図１０の各部のうち図２の各部に対応して同様の機能を有する部分に同一の符号（１１０、１２０，１２１、１２２、１３０、１３１、１４０、１７０）を付して説明を省略する。機械学習装置２００は、中間層データ複写部１５０に代えて重み付け結果複写部２５０を備える点、および、中間層データ記憶部１６１を備える記憶部１６０に代えて重み付け結果記憶部２６１を備える記憶部２６０を備える点で、機械学習装置１００の場合と異なる。それ以外の点では、機械学習装置２００は機械学習装置１００と同様である。
【0110】
機械学習装置１００では、中間層データ記憶部１６１が中間層１２２の状態を記憶するのに対し、機械学習装置２００では、重み付け結果記憶部２６１が、中間層１２２の出力に対して第二結合１３１が重み付けを行った結果を記憶する。機械学習装置１００では、中間層データ複写部１５０が中間層データ記憶部１６１に中間層１２２の状態を記憶させるのに対し、機械学習装置２００では、重み付け結果複写部２５０が重み付け結果記憶部２６１に、中間層１２２の出力に対する第二結合１３１の重み付けの結果を記憶させる。
【0111】
機械学習装置２００では、記憶部２６０が中間層１２２の状態を記憶しないで済むように、中間層１２２が状態を算出する毎に、重み付け部１３０が中間層１２２の出力に対して重み付けを行う。この重み付けは、出力ベクトルｙ（ｔ）の計算式の分解にて示される。
分解前の計算式は、式（２１）のように示される。
分解前の計算式は、式（２１）のように示される。
【0112】
【数21】
【0113】
これを式（２２）のように分解する。
【0114】
【数22】
【0115】
ここでは、Ｗｏｕｔ∈ＲＭ×（Ｐ＋１）Ｎであり、Ｗｉ
ｏｕｔ∈ＲＭ×Ｎ（ｉ＝０，１，・・・，Ｐ）である。
中間層１２２の状態の保存を不要にするために、中間層１２２が時刻ｔにおける中間層１２２自らの状態ｘ（ｔ）を計算すると、重み付け部１３０が中間層１２２の出力に対する重み付けを行う。この重み付けは、式（２３）のように示される。
中間層１２２の状態の保存を不要にするために、中間層１２２が時刻ｔにおける中間層１２２自らの状態ｘ（ｔ）を計算すると、重み付け部１３０が中間層１２２の出力に対する重み付けを行う。この重み付けは、式（２３）のように示される。
【0116】
【数23】
【0117】
これにより、保持するメモリのサイズがＭ／Ｎ倍に削減される。Ｎは、中間層１２２のノード数を示し、Ｍは、出力層１４０のノード数を示す。一般に、中間層１２２のノード数のほうが、出力層１４０のノード数よりも多い。
【0118】
図１１は、機械学習装置２００におけるデータの流れの例を示す図である。図１１の例で、入力層１１０が入力データを取得し、第一結合１２１が入力データに対する重み付けを行う。
中間層１２２は、第一結合１２１による重み付けの結果（第一結合１２１が重み付けを行った入力データ）に対する演算を行う。
中間層１２２は、第一結合１２１による重み付けの結果（第一結合１２１が重み付けを行った入力データ）に対する演算を行う。
【0119】
重み付け部１３０は、中間演算部１２０が１回分の演算を行う毎に、中間演算部１２０の出力（中間層１２２の出力）に対して重み付けを行う。重み付け結果複写部２５０は、重み付け部１３０による重み付けの結果を重み付け結果記憶部２６１に記憶させる。
出力層１４０は、中間層１２２の出力に対する重み付け部１３０による重み付けの結果、および、重み付け結果記憶部２６１が記憶する重み付けの結果に基づいて、出力データを算出し出力する。
学習部１７０は、出力層１４０における重みの学習を行う。
出力層１４０は、中間層１２２の出力に対する重み付け部１３０による重み付けの結果、および、重み付け結果記憶部２６１が記憶する重み付けの結果に基づいて、出力データを算出し出力する。
学習部１７０は、出力層１４０における重みの学習を行う。
【0120】
図１２は、重み付け部１３０が時刻毎に行う計算の例を示す図である。図１２に示す式の項のうち、重み付け部１３０が各時刻で計算を行う項を下線で示している。
このように、重み付け部１３０は、中間層１２２の出力に対する重み付けを、時刻で分割して行う。
このように、重み付け部１３０は、中間層１２２の出力に対する重み付けを、時刻で分割して行う。
【0121】
以上のように、重み付け結果記憶部２６１は、複数の時刻の各々における中間層１２２の出力に対する重み付け部１３０による重み付けの結果を記憶する。
これにより、記憶部２６０が保持するメモリのサイズが比較的小さくて済む。
第五実施形態は、第二実施形態～第四実施形態の何れにも適用可能である。なお、第五実施形態を第四実施形態に適用する場合、中間層１２２の状態を元の状態に戻すための元の状態を、記憶部２６０が記憶しておく。
これにより、記憶部２６０が保持するメモリのサイズが比較的小さくて済む。
第五実施形態は、第二実施形態～第四実施形態の何れにも適用可能である。なお、第五実施形態を第四実施形態に適用する場合、中間層１２２の状態を元の状態に戻すための元の状態を、記憶部２６０が記憶しておく。
【0122】
上述した機械学習装置１００または機械学習装置２００をソフトウェア的に効率的にすることができる。さらに、機械学習装置１００または機械学習装置２００をハードウェア的に効率的に演算することができる。この場合のハードウェアとして、例えば、ＧＰＵやＦＰＧＡ、ＡＳＩＣＳなどの電子回路によるハードウェアのみでなく、レーザーや、スピントロニクスなどを用いたハードウェアを用いるようにしてもよい。またそれらのハードウェアを組み合わせて用いることも可能である。
【0123】
＜第六実施形態＞
第六実施形態では、実施形態に係る機械学習装置の構成の例について説明する。
図１３は、実施形態に係る機械学習装置の構成例を示す図である。図１３に示す機械学習装置３００は、入力部３０１と、中間演算部３０２と、重み付け部３０３と、出力部３０４と、学習部３０５とを備える。
第六実施形態では、実施形態に係る機械学習装置の構成の例について説明する。
図１３は、実施形態に係る機械学習装置の構成例を示す図である。図１３に示す機械学習装置３００は、入力部３０１と、中間演算部３０２と、重み付け部３０３と、出力部３０４と、学習部３０５とを備える。
【0124】
かかる構成にて、入力部３０１は、入力データを取得する。中間演算部３０２は、入力部３０１が取得する入力データに対して複数回演算を行う。例えば、中間演算部３０２は、複数回の演算を逐次的に行う。重み付け部３０３は、複数の時刻の各々における中間演算部の出力に対して重み付けを行う。出力部３０４は、重み付け部３０３による重み付けの結果に基づく出力データを出力する。学習部３０５は、重み付け部３０３による重み付けの重みの学習を行う。
【0125】
機械学習装置３００によれば、複数のタイミングの各々における中間演算部３０２の状態を用いて出力部３０４からの出力を計算することができ、出力結合数を中間演算部３０２の次元数よりも多くすることができる。機械学習装置３００によれば、この点で、モデルのサイズ（特に、中間演算部３０２のノード数）を大きくする必要なしに、比較的多数の出力結合数を用いて比較的高精度に演算を行うことができる。
【0126】
＜第七実施形態＞
第七実施形態では、実施形態に係る情報処理方法の例について説明する。
図１４は、実施形態に係る情報処理方法における処理手順の例を示す図である。例えば、図１３の機械学習装置３００が図１４の処理を行う。
図１４の処理は、入力データを取得する工程（ステップＳ１０１）と、入力データに対して複数回演算を、例えば逐次的に行う工程（ステップＳ１０２）と、複数の時刻の各々における演算結果に対して重み付けを行う工程（ステップＳ１０３）と、重み付けの結果に基づく出力データを出力する工程（ステップＳ１０４）と、重み付けの重みの学習を行う工程（ステップＳ１０５）とを含む。
第七実施形態では、実施形態に係る情報処理方法の例について説明する。
図１４は、実施形態に係る情報処理方法における処理手順の例を示す図である。例えば、図１３の機械学習装置３００が図１４の処理を行う。
図１４の処理は、入力データを取得する工程（ステップＳ１０１）と、入力データに対して複数回演算を、例えば逐次的に行う工程（ステップＳ１０２）と、複数の時刻の各々における演算結果に対して重み付けを行う工程（ステップＳ１０３）と、重み付けの結果に基づく出力データを出力する工程（ステップＳ１０４）と、重み付けの重みの学習を行う工程（ステップＳ１０５）とを含む。
【0127】
図１４の情報処理方法によれば、ステップＳ１０２での複数の時刻の各々における演算結果を用いて、ステップＳ１０４における出力を計算することができる。図１４の情報処理方法によれば、モデルのサイズを大きくする必要なしに、比較的多数のデータを用いて比較的高精度に出力を計算することができる。
【0128】
図１５は、少なくとも１つの実施形態に係るコンピュータの構成を示す概略ブロック図である。
図１５に示す構成で、コンピュータ７００は、ＣＰＵ（Central Processing Unit）７１０と、主記憶装置７２０と、補助記憶装置７３０と、インタフェース７４０とを備える。
図１５に示す構成で、コンピュータ７００は、ＣＰＵ（Central Processing Unit）７１０と、主記憶装置７２０と、補助記憶装置７３０と、インタフェース７４０とを備える。
【0129】
上記の機械学習装置１００、２００、または、３００のうち何れか１つ以上が、コンピュータ７００に実装されてもよい。その場合、上述した各処理部の動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って上記処理を実行する。また、ＣＰＵ７１０は、プログラムに従って、上述した各記憶部に対応する記憶領域を主記憶装置７２０に確保する。
【0130】
機械学習装置１００がコンピュータ７００に実装される場合、中間演算部１２０と、重み付け部１３０と、中間層データ複写部１５０と、学習部１７０との動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って各部の動作を実行する。
入力層１１０によるデータの取得は、インタフェース７４０が、例えば通信機能を備え、ＣＰＵ７１０の制御に従って他の装置からデータを受信することで実行される。出力層１４０によるデータの出力は、インタフェース７４０が、例えば通信機能または表示機能等の出力機能を有し、ＣＰＵ７１０の制御に従って出力処理を行うことで実行される。また、ＣＰＵ７１０は、記憶部１６０に対応する記憶領域を主記憶装置７２０に確保する。
入力層１１０によるデータの取得は、インタフェース７４０が、例えば通信機能を備え、ＣＰＵ７１０の制御に従って他の装置からデータを受信することで実行される。出力層１４０によるデータの出力は、インタフェース７４０が、例えば通信機能または表示機能等の出力機能を有し、ＣＰＵ７１０の制御に従って出力処理を行うことで実行される。また、ＣＰＵ７１０は、記憶部１６０に対応する記憶領域を主記憶装置７２０に確保する。
【0131】
機械学習装置２００がコンピュータ７００に実装される場合、中間演算部１２０と、重み付け部１３０と、重み付け結果複写部２５０と、学習部１７０との動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って各部の動作を実行する。
入力層１１０によるデータの取得は、インタフェース７４０が、例えば通信機能を備え、ＣＰＵ７１０の制御に従って他の装置からデータを受信することで実行される。出力層１４０によるデータの出力は、インタフェース７４０が、例えば通信機能または表示機能等の出力機能を有し、ＣＰＵ７１０の制御に従って出力処理を行うことで実行される。また、ＣＰＵ７１０は、記憶部２６０に対応する記憶領域を主記憶装置７２０に確保する。
入力層１１０によるデータの取得は、インタフェース７４０が、例えば通信機能を備え、ＣＰＵ７１０の制御に従って他の装置からデータを受信することで実行される。出力層１４０によるデータの出力は、インタフェース７４０が、例えば通信機能または表示機能等の出力機能を有し、ＣＰＵ７１０の制御に従って出力処理を行うことで実行される。また、ＣＰＵ７１０は、記憶部２６０に対応する記憶領域を主記憶装置７２０に確保する。
【0132】
機械学習装置３００がコンピュータ７００に実装される場合、中間演算部３０２と、重み付け部３０３と、学習部３０５との動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って各部の動作を実行する。
入力部３０１によるデータの取得は、インタフェース７４０が、例えば通信機能を備え、ＣＰＵ７１０の制御に従って他の装置からデータを受信することで実行される。出力部３０４によるデータの出力は、インタフェース７４０が、例えば通信機能または表示機能等の出力機能を有し、ＣＰＵ７１０の制御に従って出力処理を行うことで実行される。また、ＣＰＵ７１０は、記憶部２６０に対応する記憶領域を主記憶装置７２０に確保する。
入力部３０１によるデータの取得は、インタフェース７４０が、例えば通信機能を備え、ＣＰＵ７１０の制御に従って他の装置からデータを受信することで実行される。出力部３０４によるデータの出力は、インタフェース７４０が、例えば通信機能または表示機能等の出力機能を有し、ＣＰＵ７１０の制御に従って出力処理を行うことで実行される。また、ＣＰＵ７１０は、記憶部２６０に対応する記憶領域を主記憶装置７２０に確保する。
【0133】
なお、機械学習装置１００、２００、および、３００の全部または一部の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各部の処理を行ってもよい。ここでいう「コンピュータシステム」とは、ＯＳ（オペレーティングシステム）や周辺機器等のハードウェアを含む。
「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ（Read Only Memory）、ＣＤ－ＲＯＭ（Compact Disc Read Only Memory）等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ（Read Only Memory）、ＣＤ－ＲＯＭ（Compact Disc Read Only Memory）等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
【0134】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【0135】
この出願は、２０１９年１１月１４日に出願された日本国特願２０１９－２０６４３８を基礎とする優先権を主張し、その開示の全てをここに取り込む。
【産業上の利用可能性】
【0136】
本発明は、機械学習装置、情報処理方法および記録媒体に適用してもよい。
【符号の説明】
【0137】
１００、２００、３００ 機械学習装置
１１０ 入力層
１２０、３０２ 中間演算部（中間演算手段）
１２１ 第一結合
１２２ 中間層
１３０、３０３ 重み付け部（重み付け手段）
１３１ 第二結合
１４０ 出力層
１５０ 中間層データ複写部（中間層データ複写手段）
１６０、２６０ 記憶部（記憶手段）
１６１ 中間層データ記憶部（中間層データ記憶手段）
１７０、３０５ 学習部（学習手段）
２００ 機械学習装置
２５０ 重み付け結果複写部（重み付け結果複写手段）
２６１ 重み付け結果記憶部（重み付け結果記憶手段）
３０１ 入力部（入力手段）
３０４ 出力部（出力手段）
１１０ 入力層
１２０、３０２ 中間演算部（中間演算手段）
１２１ 第一結合
１２２ 中間層
１３０、３０３ 重み付け部（重み付け手段）
１３１ 第二結合
１４０ 出力層
１５０ 中間層データ複写部（中間層データ複写手段）
１６０、２６０ 記憶部（記憶手段）
１６１ 中間層データ記憶部（中間層データ記憶手段）
１７０、３０５ 学習部（学習手段）
２００ 機械学習装置
２５０ 重み付け結果複写部（重み付け結果複写手段）
２６１ 重み付け結果記憶部（重み付け結果記憶手段）
３０１ 入力部（入力手段）
３０４ 出力部（出力手段）
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】