ホーム > 特許ランキング > 学校法人千葉工業大学
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024034088
(43)【公開日】2024-03-13
(54)【発明の名称】機械学習装置、情報処理方法、及びプログラム
(51)【国際特許分類】
G06N 20/00 20190101AFI20240306BHJP
G06N 3/04 20230101ALI20240306BHJP
【ＦＩ】
G06N20/00
G06N3/04
【審査請求】未請求
【請求項の数】8
【出願形態】ＯＬ
(21)【出願番号】P 2022138099
(22)【出願日】2022-08-31
(71)【出願人】
【識別番号】598163064
【氏名又は名称】学校法人千葉工業大学
(74)【代理人】
【識別番号】100165179
【弁理士】
【氏名又は名称】田▲崎▼ 聡
(74)【代理人】
【識別番号】100188558
【弁理士】
【氏名又は名称】飯田 雅人
(74)【代理人】
【識別番号】100175824
【弁理士】
【氏名又は名称】小林 淳一
(74)【代理人】
【識別番号】100152272
【弁理士】
【氏名又は名称】川越 雄一郎
(74)【代理人】
【識別番号】100181722
【弁理士】
【氏名又は名称】春田 洋孝
(72)【発明者】
【氏名】酒見 悠介
(72)【発明者】
【氏名】合原 一幸
(57)【要約】
【課題】レザバーコンピューターのハードウェア実装性を維持したまま、予測性能を向上させること。
【解決手段】機械学習装置は、時系列データである入力データを取得する入力部と、第１時刻における入力データに対する重み付けの第１結果と、時系列データにおいて第１時刻の直前の時刻である第２時刻における自身による演算結果に対する重み付けの第２結果とに基づいて演算を行う中間演算部と、中間演算部からの出力に対して重み付けをした結果に基づく出力データを出力する出力部と、中間演算部からの出力に対する重み付けの重みの学習を行う出力学習部と、中間演算部からの出力に基づいて中間演算部による演算において行われる変調の値を算出する変調部と、を備え、中間演算部は、変調部によって算出された変調の値に基づいて第１結果と第２結果とのうち少なくとも一方を変調して演算を行う。
【選択図】図２
【解決手段】機械学習装置は、時系列データである入力データを取得する入力部と、第１時刻における入力データに対する重み付けの第１結果と、時系列データにおいて第１時刻の直前の時刻である第２時刻における自身による演算結果に対する重み付けの第２結果とに基づいて演算を行う中間演算部と、中間演算部からの出力に対して重み付けをした結果に基づく出力データを出力する出力部と、中間演算部からの出力に対する重み付けの重みの学習を行う出力学習部と、中間演算部からの出力に基づいて中間演算部による演算において行われる変調の値を算出する変調部と、を備え、中間演算部は、変調部によって算出された変調の値に基づいて第１結果と第２結果とのうち少なくとも一方を変調して演算を行う。
【選択図】図２
【特許請求の範囲】
【請求項1】
時系列データである入力データを取得する入力部と、
第１時刻における前記入力データに対する重み付けの第１結果と、前記時系列データにおいて第１時刻の直前の時刻である第２時刻における自身による演算結果に対する重み付けの第２結果とに基づいて演算を行う中間演算部と、
前記中間演算部からの出力に対して重み付けをした結果に基づく出力データを出力する出力部と、
前記中間演算部からの出力に対する重み付けの重みの学習を行う出力学習部と、
前記中間演算部からの出力に基づいて前記中間演算部による前記演算において行われる変調の値を算出する変調部と、
を備え、
前記中間演算部は、前記変調部によって算出された変調の値に基づいて前記第１結果と前記第２結果とのうち少なくとも一方を変調して前記演算を行う
機械学習装置。
第１時刻における前記入力データに対する重み付けの第１結果と、前記時系列データにおいて第１時刻の直前の時刻である第２時刻における自身による演算結果に対する重み付けの第２結果とに基づいて演算を行う中間演算部と、
前記中間演算部からの出力に対して重み付けをした結果に基づく出力データを出力する出力部と、
前記中間演算部からの出力に対する重み付けの重みの学習を行う出力学習部と、
前記中間演算部からの出力に基づいて前記中間演算部による前記演算において行われる変調の値を算出する変調部と、
を備え、
前記中間演算部は、前記変調部によって算出された変調の値に基づいて前記第１結果と前記第２結果とのうち少なくとも一方を変調して前記演算を行う
機械学習装置。
【請求項2】
前記変調部は、前記中間演算部による前記演算において前記中間演算部からの出力に対して変調重みによって重み付けをした結果に基づいて前記変調の値を算出し、
前記変調重みを学習する変調重み学習部をさらに備える
請求項１に記載の機械学習装置。
前記変調重みを学習する変調重み学習部をさらに備える
請求項１に記載の機械学習装置。
【請求項3】
前記出力学習部による学習と、前記変調重み学習部による学習とはそれぞれ個別に行われる
請求項２に記載の機械学習装置。
請求項２に記載の機械学習装置。
【請求項4】
前記変調重み学習部は、予め用意された入力データと出力データとの組である教師データに含まれる入力データが前記入力データとして取得される場合の前記出力データの前記教師データに含まれる出力データに対する誤差の前記変調重みについての勾配に基づいて前記変調重みの学習を行う
請求項３に記載の機械学習装置。
請求項３に記載の機械学習装置。
【請求項5】
前記入力データは複数の成分からなり、
前記変調部が算出する前記第１結果に対する変調の値は前記入力データの複数の成分について共通である
請求項１に記載の機械学習装置。
前記変調部が算出する前記第１結果に対する変調の値は前記入力データの複数の成分について共通である
請求項１に記載の機械学習装置。
【請求項6】
前記中間演算部による演算結果は複数の成分からなり、
前記変調部が算出する前記第２結果に対する変調の値は前記中間演算部による演算結果の複数の成分について共通である
請求項１に記載の機械学習装置。
前記変調部が算出する前記第２結果に対する変調の値は前記中間演算部による演算結果の複数の成分について共通である
請求項１に記載の機械学習装置。
【請求項7】
時系列データである入力データを取得する入力ステップと、
第１時刻における前記入力データに対する重み付けの第１結果と、前記時系列データにおいて第１時刻の直前の時刻である第２時刻における自身による演算結果に対する重み付けの第２結果とに基づいて演算を行う中間演算ステップと、
前記中間演算ステップからの出力に対して重み付けをした結果に基づく出力データを出力する出力ステップと、
前記中間演算ステップからの出力に対する重み付けの重みの学習を行う出力学習ステップと、
前記中間演算ステップからの出力に基づいて前記中間演算ステップによる前記演算において行われる変調の値を算出する変調ステップと、
を有し、
前記中間演算ステップは、前記変調ステップによって算出された変調の値に基づいて前記第１結果と前記第２結果とのうち少なくとも一方を変調して前記演算を行う
情報処理方法。
第１時刻における前記入力データに対する重み付けの第１結果と、前記時系列データにおいて第１時刻の直前の時刻である第２時刻における自身による演算結果に対する重み付けの第２結果とに基づいて演算を行う中間演算ステップと、
前記中間演算ステップからの出力に対して重み付けをした結果に基づく出力データを出力する出力ステップと、
前記中間演算ステップからの出力に対する重み付けの重みの学習を行う出力学習ステップと、
前記中間演算ステップからの出力に基づいて前記中間演算ステップによる前記演算において行われる変調の値を算出する変調ステップと、
を有し、
前記中間演算ステップは、前記変調ステップによって算出された変調の値に基づいて前記第１結果と前記第２結果とのうち少なくとも一方を変調して前記演算を行う
情報処理方法。
【請求項8】
コンピュータに、
時系列データである入力データを取得する入力ステップと、
第１時刻における前記入力データに対する重み付けの第１結果と、前記時系列データにおいて第１時刻の直前の時刻である第２時刻における自身による演算結果に対する重み付けの第２結果とに基づいて演算を行う中間演算ステップと、
前記中間演算ステップからの出力に対して重み付けをした結果に基づく出力データを出力する出力ステップと、
前記中間演算ステップからの出力に対する重み付けの重みの学習を行う出力学習ステップと、
前記中間演算ステップからの出力に基づいて前記中間演算ステップによる前記演算において行われる変調の値を算出する変調ステップと、
を実行させるためのプログラムであって、
前記中間演算ステップは、前記変調ステップによって算出された変調の値に基づいて前記第１結果と前記第２結果とのうち少なくとも一方を変調して前記演算を行う
プログラム。
時系列データである入力データを取得する入力ステップと、
第１時刻における前記入力データに対する重み付けの第１結果と、前記時系列データにおいて第１時刻の直前の時刻である第２時刻における自身による演算結果に対する重み付けの第２結果とに基づいて演算を行う中間演算ステップと、
前記中間演算ステップからの出力に対して重み付けをした結果に基づく出力データを出力する出力ステップと、
前記中間演算ステップからの出力に対する重み付けの重みの学習を行う出力学習ステップと、
前記中間演算ステップからの出力に基づいて前記中間演算ステップによる前記演算において行われる変調の値を算出する変調ステップと、
を実行させるためのプログラムであって、
前記中間演算ステップは、前記変調ステップによって算出された変調の値に基づいて前記第１結果と前記第２結果とのうち少なくとも一方を変調して前記演算を行う
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、機械学習装置、情報処理方法、及びプログラムに関する。
【背景技術】
【0002】
レザバーコンピューターは、レザバーと呼ばれる力学系システムに情報を入力し、出力層のみを学習する人工知能モデルである。さらに、レザバーは、アナログ回路、光学系、及びスピントロニクスなど様々な形で実装が可能であり、高い演算効率を実現することができる。しかしながら、レザバーコンピューターは出力層のみを学習するという性質のため、深層学習などの出力層以外も学習するモデルに対して予測性能が劣る傾向があった。予測性能が比較的低精度であるために、レザバーコンピューターは深層学習に比べ、実用化が進んでいない。
【0003】
レザバーコンピューターにおいて出力層以外の学習を行うモデルが知られている（非特許文献１）。非特許文献１に記載のモデルによれば、複数のレザバーによる多層構造を形成し、レザバー層の間の結合強度を学習させている。非特許文献１に記載のモデルでは、レザバー層の間の結合強度を学習することによって、従来のレザバーコンピューターに比べ高い予測性能を実現した。
【先行技術文献】
【非特許文献】
【0004】
【非特許文献1】“Ｐｈｙｓｉｃａｌ Ｄｅｅｐ Ｌｅａｒｎｉｎｇ ｗｉｔｈ Ｂｉｏｌｏｇｉｃａｌｌｙ Ｐｌａｕｓｉｂｌｅ Ｔｒａｉｎｉｎｇ Ｍｅｔｈｏｄ”、［ｏｎｌｉｎｅ］、Ｍｉｔｓｕｍａｓａ Ｎａｋａｊｉｍａ， Ｋａｔｓｕｍａ Ｉｎｏｕｅ， Ｋｅｎｊｉ Ｔａｎａｋａ， Ｙａｓｕｏ Ｋｕｎｉｙｏｓｈｉ， Ｔｏｓｈｉｋａｚｕ Ｈａｓｈｉｍｏｔｏ， Ｋｏｈｅｉ Ｎａｋａｊｉｍａ、［２０２２年７月１１日検索］、インターネット〈ＵＲＬ：ｈｔｔｐｓ：／／ａｒｘｉｖ．ｏｒｇ／ａｂｓ／２２０４．１３９９１〉
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、非特許文献１に記載のモデルでは、多層構造に伴ってハードウェア規模が増大してしまう。レザバーコンピューターのハードウェア実装性を維持したまま、予測性能を向上させることが求められている。
【0006】
本発明は上記の点に鑑みてなされたものであり、レザバーコンピューターのハードウェア実装性を維持したまま、予測性能を向上させることができる機械学習装置、情報処理方法、及びプログラムを提供する。
【課題を解決するための手段】
【0007】
本発明は上記の課題を解決するためになされたものであり、本発明の一態様は、時系列データである入力データを取得する入力部と、第１時刻における前記入力データに対する重み付けの第１結果と、前記時系列データにおいて第１時刻の直前の時刻である第２時刻における自身による演算結果に対する重み付けの第２結果とに基づいて演算を行う中間演算部と、前記中間演算部からの出力に対して重み付けをした結果に基づく出力データを出力する出力部と、前記中間演算部からの出力に対する重み付けの重みの学習を行う出力学習部と、前記中間演算部からの出力に基づいて前記中間演算部による前記演算において行われる変調の値を算出する変調部と、を備え、前記中間演算部は、前記変調部によって算出された変調の値に基づいて前記第１結果と前記第２結果とのうち少なくとも一方を変調して前記演算を行う機械学習装置である。
【0008】
また、本発明の一態様は、上記の機械学習装置において、前記変調部は、前記中間演算部による前記演算において前記中間演算部からの出力に対して変調重みによって重み付けをした結果に基づいて前記変調の値を算出し、前記変調重みを学習する変調重み学習部をさらに備える。
【0009】
また、本発明の一態様は、上記の機械学習装置において、前記出力学習部による学習と、前記変調重み学習部による学習とはそれぞれ個別に行われる。
【0010】
また、本発明の一態様は、上記の機械学習装置において、前記変調重み学習部は、予め用意された入力データと出力データとの組である教師データに含まれる入力データが前記入力データとして取得される場合の前記出力データの前記教師データに含まれる出力データに対する誤差の前記変調重みについての勾配に基づいて前記変調重みの学習を行う。
【0011】
また、本発明の一態様は、上記の機械学習装置において、前記入力データは複数の成分からなり、前記変調部が算出する前記第１結果に対する変調の値は前記入力データの複数の成分について共通である。
【0012】
また、本発明の一態様は、上記の機械学習装置において、前記中間演算部による演算結果は複数の成分からなり、前記変調部が算出する前記第２結果に対する変調の値は前記中間演算部による演算結果の複数の成分について共通である。
【0013】
また、本発明の一態様は、時系列データである入力データを取得する入力ステップと、第１時刻における前記入力データに対する重み付けの第１結果と、前記時系列データにおいて第１時刻の直前の時刻である第２時刻における自身による演算結果に対する重み付けの第２結果とに基づいて演算を行う中間演算ステップと、前記中間演算ステップからの出力に対して重み付けをした結果に基づく出力データを出力する出力ステップと、前記中間演算ステップからの出力に対する重み付けの重みの学習を行う出力学習ステップと、前記中間演算ステップからの出力に基づいて前記中間演算ステップによる前記演算において行われる変調の値を算出する変調ステップと、を有し、前記中間演算ステップは、前記変調ステップによって算出された変調の値に基づいて前記第１結果と前記第２結果とのうち少なくとも一方を変調して前記演算を行う情報処理方法である。
【0014】
また、本発明の一態様は、コンピュータに、時系列データである入力データを取得する入力ステップと、第１時刻における前記入力データに対する重み付けの第１結果と、前記時系列データにおいて第１時刻の直前の時刻である第２時刻における自身による演算結果に対する重み付けの第２結果とに基づいて演算を行う中間演算ステップと、前記中間演算ステップからの出力に対して重み付けをした結果に基づく出力データを出力する出力ステップと、前記中間演算ステップからの出力に対する重み付けの重みの学習を行う出力学習ステップと、前記中間演算ステップからの出力に基づいて前記中間演算ステップによる前記演算において行われる変調の値を算出する変調ステップと、を実行させるためのプログラムであって、前記中間演算ステップは、前記変調ステップによって算出された変調の値に基づいて前記第１結果と前記第２結果とのうち少なくとも一方を変調して前記演算を行うプログラムである。
【発明の効果】
【0015】
本発明によれば、レザバーコンピューターのハードウェア実装性を維持したまま、予測性能を向上させることができる。
【図面の簡単な説明】
【0016】
【図1】本発明の実施形態に係る自己変調型レザバーコンピューティングシステムの概略構成の一例を示す図である。
【図2】本発明の実施形態に係る機械学習装置の機能構成の一例を示す図である。
【図3】本発明の実施形態に係る機械学習装置による学習処理の一例を示す図である。
【図4】本発明の実施形態に係る機械学習装置による予測処理の一例を示す図である。
【図5】本発明の第１実施例に係るメモリタスクの実行結果を示す図である。
【図6】本発明の第１実施例の比較例に係るメモリタスクの実行結果を示す図である。
【図7】本発明の第２実施例に係るカオス時系列予測の実行結果を示す図である。
【図8】本発明の第２実施例の比較例に係るカオス時系列予測の実行結果を示す図である。
【図9】本発明の第２実施例の比較例に係るレザバー層のサイズと平均自乗誤差との関係を示す図である。
【図10】本発明の第１変形例に係る自己変調型レザバーコンピューティングシステムの概略構成の一例を示す図である。
【図11】本発明の第２実施例に係る自己変調型レザバーコンピューティングシステムの概略構成の一例を示す図である。
【図12】本発明の実施形態に係るコンピュータの構成を示す概略ブロック図である。
【図13】従来のレザバーコンピューティングシステムの概略構成を示す図である。
【発明を実施するための形態】
【0017】
（実施形態）
以下、図面を参照しながら本発明の実施形態について詳しく説明する。
（レザバーコンピューティングについて）
本実施形態に係るレザバーコンピューティングについて説明する前に従来のレザバーコンピューティングシステムについて説明する。図１３は、従来のレザバーコンピューティングシステム９００の概略構成を示す図である。レザバーコンピューティングシステム９００は、入力層９１１と、レザバー層９１３と、出力層９１５と、入力層９１１からレザバー層９１３への結合９１２と、レザバー層９１３から出力層９１５への結合９１４とを備える。
以下、図面を参照しながら本発明の実施形態について詳しく説明する。
（レザバーコンピューティングについて）
本実施形態に係るレザバーコンピューティングについて説明する前に従来のレザバーコンピューティングシステムについて説明する。図１３は、従来のレザバーコンピューティングシステム９００の概略構成を示す図である。レザバーコンピューティングシステム９００は、入力層９１１と、レザバー層９１３と、出力層９１５と、入力層９１１からレザバー層９１３への結合９１２と、レザバー層９１３から出力層９１５への結合９１４とを備える。
【0018】
入力層９１１、出力層９１５は、それぞれ１つ以上のノードを含んで構成される。例えば、レザバーコンピューティングシステム９００がニューラルネットワークとして構成される場合、ノードは、ニューロンとして構成される。
レザバー層９１３は、ノードと、レザバー層９１３のノード間でデータに重み係数を乗算して伝達する単方向のエッジとを含んで構成される。
レザバー層９１３は、ノードと、レザバー層９１３のノード間でデータに重み係数を乗算して伝達する単方向のエッジとを含んで構成される。
【0019】
レザバーコンピューティングシステム９００では、データは、入力層９１１のノードへ入力される。
入力層９１１からレザバー層９１３への結合９１２は、入力層９１１のノードとレザバー層９１３のノードとを結合するエッジの集合として構成される。結合９１２は、入力層９１１のノードの値に重み係数を乗算した値を、レザバー層９１３のノードへ伝達する。
レザバー層９１３から出力層９１５への結合９１４は、レザバー層９１３のノードと出力層のノードとを結合するエッジの集合として構成される。結合９１４は、レザバー層９１３のノードの値に重み係数を乗算した値を、出力層９１５のノードへ伝達する。
入力層９１１からレザバー層９１３への結合９１２は、入力層９１１のノードとレザバー層９１３のノードとを結合するエッジの集合として構成される。結合９１２は、入力層９１１のノードの値に重み係数を乗算した値を、レザバー層９１３のノードへ伝達する。
レザバー層９１３から出力層９１５への結合９１４は、レザバー層９１３のノードと出力層のノードとを結合するエッジの集合として構成される。結合９１４は、レザバー層９１３のノードの値に重み係数を乗算した値を、出力層９１５のノードへ伝達する。
【0020】
図１３では、入力層９１１からレザバー層９１３への結合９１２およびレザバー層９１３から出力層９１５への結合９１４が矢印で示されている。
レザバーコンピューティングシステム９００は、レザバー層９１３から出力層９１５への結合９１４の重み（重み係数の値）のみを学習する。一方、入力層９１１からレザバー層９１３への結合９１２の重み、および、レザバー層のノード間のエッジの重みは学習の対象外であり、一定の値をとる。レザバーコンピューティングシステム９００では、レザバー層９１３から出力層９１５への結合９１４の重みのみが学習されるため、深層学習などの出力層以外も学習するモデルに比べて高速な学習が実現される。
レザバーコンピューティングシステム９００は、レザバー層９１３から出力層９１５への結合９１４の重み（重み係数の値）のみを学習する。一方、入力層９１１からレザバー層９１３への結合９１２の重み、および、レザバー層のノード間のエッジの重みは学習の対象外であり、一定の値をとる。レザバーコンピューティングシステム９００では、レザバー層９１３から出力層９１５への結合９１４の重みのみが学習されるため、深層学習などの出力層以外も学習するモデルに比べて高速な学習が実現される。
【0021】
レザバーコンピューティングシステム９００は、ニューラルネットワークとして構成されていてもよいが、これに限定されない。例えば、レザバーコンピューティングシステム９００が、任意の力学系を表すモデルとして構成されていてもよい。
【0022】
力学系として、ニューラルネットワークを用いる場合（ｅｃｈｏ ｓｔａｔｅ ｎｅｔｗｏｒｋ）、レザバーコンピューティングシステム９００は、式（１）及び式（２）で示されるモデルとして構成される。
【0023】
【数1】
【0024】
【数2】
【0025】
ここで、ｕ（ｔ）＝｛ｕ１（ｔ），ｕ２（ｔ），…，ｕＫ（ｔ）｝は、入力層９１１を構成する入力ベクトルである。Ｋは、入力層９１１のノードの個数を示す正の整数である。すなわち、ｕ（ｔ）は、レザバーコンピューティングシステム９００への入力時系列データを示すベクトルである。入力層９１１のノードは入力データの値をとるので、ｕ（ｔ）は、入力層９１１のノードの値を示すベクトルでもある。
【0026】
ｘ（ｔ）＝｛ｘ１（ｔ），ｘ２（ｔ），…，ｘＮ（ｔ）｝は、レザバー層９１３を構成する力学系のベクトル表現である。Ｎは、レザバー層９１３のノードの個数を示す正の整数である。すなわち、ｘ（ｔ）は、レザバー層９１３のノードの値を示すベクトルである。
【0027】
ｙ（ｔ）＝｛ｙ１（ｔ），ｙ２（ｔ），…，ｙＭ（ｔ）｝は、出力ベクトルである。Ｍは、出力層９１５のノードの個数を示す正の整数である。すなわち、ｙ（ｔ）は、出力層９１５のノードの値を示すベクトルである。レザバーコンピューティングシステム９００は出力層９１５のノードの値を出力するので、ｙ（ｔ）は、レザバーコンピューティングシステム９００の出力データを示すベクトルでもある。
【0028】
ｆ（・）は、レザバー層９１３の状態の時間発展を表す関数である。ｆ（・）は、例えば、ｔａｎｈ（・）である。ここでｔａｎｈ（・）は、双曲線正接関数（Ｈｙｐｅｒｂｏｌｉｃ Ｔａｎｇｅｎｔ Ｆｕｎｃｔｉｏｎ）を示す。なお上述したように、式（１）の左辺のｘ（ｔ）はベクトルであり、右辺のｆ（・）は、関数の値を成分にもつベクトルを意味している。
レザバーコンピューティングシステム９００は、予測時間ステップΔｔ毎に、予測および学習する対象からの入力を受け付ける。予測時間ステップΔｔは、予測および学習する対象の状態変化の速さに応じて十分小さい値をとる。式（１）及び式（２）では、予測時間ステップΔｔの値を１としている。
レザバーコンピューティングシステム９００は、予測時間ステップΔｔ毎に、予測および学習する対象からの入力を受け付ける。予測時間ステップΔｔは、予測および学習する対象の状態変化の速さに応じて十分小さい値をとる。式（１）及び式（２）では、予測時間ステップΔｔの値を１としている。
【0029】
ｆ（・）には、時刻ｔにおける入力層９１１のノードの値（つまり、ｕ（ｔ））とともに、時刻ｔ－１におけるレザバー層９１３のノードの値（つまり、ｘ（ｔ－１））が入力される。ここでｆ（・）に入力される際、レザバー層９１３のノードの値には、レザバー層９１３のノード間の個々のエッジにおける重み係数が乗じられる。また、ｆ（・）に入力される際、入力層９１１のノードの値には、結合９１２を構成する個々のエッジにおける重み係数が乗じられる。
【0030】
Ｗｒｅｓは、レザバー層９１３のノード間の結合強度を示す行列である。Ｗｒｅｓの要素は、上述したレザバー層９１３のノード間の個々のエッジにおける重み係数を示す。ＲＮｘＮをＮ行Ｎ列の実数行列の集合とすると、Ｗｒｅｓ∈ＲＮｘＮと示される。Ｗｒｅｓを、レザバーの結合行列とも称する。
Ｗｉｎは、入力層９１１からレザバー層９１３への結合強度を示す行列である。Ｗｉｎの要素は、上述した結合９１２を構成する個々のエッジにおける重み係数を示す。ＲＮｘＫをＮ行Ｋ列の実数行列の集合とすると、Ｗｉｎ∈ＲＮｘＫと示される。
Ｗｉｎは、入力層９１１からレザバー層９１３への結合強度を示す行列である。Ｗｉｎの要素は、上述した結合９１２を構成する個々のエッジにおける重み係数を示す。ＲＮｘＫをＮ行Ｋ列の実数行列の集合とすると、Ｗｉｎ∈ＲＮｘＫと示される。
【0031】
Ｗｏｕｔは、レザバー層９１３から出力層９１５への結合強度を示す行列である。Ｗｏｕｔの要素は、結合９１４を構成する個々のエッジにおける重み係数を示す。ＲＭｘＮをＭ行Ｎ列の実数行列の集合とすると、Ｗｏｕｔ∈ＲＭｘＮと示される。Ｗｏｕｔを、出力の結合行列、または、出力行列とも称する。
【0032】
（レザバーコンピューティングのハードウェア実装）
上述したようにレザバーコンピューティングシステム９００は、多様な力学系によって構築が可能である。ここで力学系とは、一定の規則に従って時間の経過とともに状態が変化するシステムをいう。力学系の例としては、ニューラルネットワーク、または物理現象（ボールの運動など）などが挙げられる。レザバーコンピューティングシステム９００は、多様な力学系によって構築が可能であるためハードウェア実装が容易である。
上述したようにレザバーコンピューティングシステム９００は、多様な力学系によって構築が可能である。ここで力学系とは、一定の規則に従って時間の経過とともに状態が変化するシステムをいう。力学系の例としては、ニューラルネットワーク、または物理現象（ボールの運動など）などが挙げられる。レザバーコンピューティングシステム９００は、多様な力学系によって構築が可能であるためハードウェア実装が容易である。
【0033】
レザバーコンピューティングをハードウェア実装することで、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ、中央処理装置）を用いてレザバーコンピューティングをソフトウェア的に実行する場合よりも高速、また低消費電力に演算することが可能になる。そのため、実社会への応用を考える場合は、レザバーコンピューティングのアルゴリズムだけでなく、ハードウェア実装も考えることが重要である。
【0034】
レザバーコンピューティングのハードウェア実装の例として、Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ（ＦＰＧＡ）、Ｇｒａｐｈｉｃａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ（ＧＰＵ）、または、Ａｐｐｌｉｃａｔｉｏｎ Ｓｐｅｃｉｆｉｃ Ｉｎｔｅｇｒａｔｅｄ Ｃｉｒｃｕｉｔ（ＡＳＩＣ）などを用いた電子回路による実装が挙げられる。レザバーコンピューティングシステム９００についても、これらのいずれかによって実装するようにしてもよい。
さらに、電子回路以外によるレザバーコンピューティングの実装として、物理レザバーと呼ばれる、物理的なハードウェアによる実装の報告がある。例えば、スピントロニクス（Ｓｐｉｎｔｒｏｎｉｃｓ）による実装や、光学系による実装などが知られている。レザバーコンピューティングシステム９００についても、これらのいずれかによって実装するようにしてもよい。
さらに、電子回路以外によるレザバーコンピューティングの実装として、物理レザバーと呼ばれる、物理的なハードウェアによる実装の報告がある。例えば、スピントロニクス（Ｓｐｉｎｔｒｏｎｉｃｓ）による実装や、光学系による実装などが知られている。レザバーコンピューティングシステム９００についても、これらのいずれかによって実装するようにしてもよい。
【0035】
（自己変調型レザバーコンピューティングについて）
次に、本実施形態に係るレザバーコンピューティングである自己変調型レザバーコンピューティングについて説明する。図１は、本実施形態に係る自己変調型レザバーコンピューティングシステム２００の概略構成の一例を示す図である。自己変調型レザバーコンピューティングシステム２００は、入力層２１１と、レザバー層２１３と、出力層２１５とを備える。なお、図１では符号を付していないが、自己変調型レザバーコンピューティングシステム２００は、入力層２１１からレザバー層２１３への結合と、レザバー層２１３から出力層２１５への結合とを備える。
次に、本実施形態に係るレザバーコンピューティングである自己変調型レザバーコンピューティングについて説明する。図１は、本実施形態に係る自己変調型レザバーコンピューティングシステム２００の概略構成の一例を示す図である。自己変調型レザバーコンピューティングシステム２００は、入力層２１１と、レザバー層２１３と、出力層２１５とを備える。なお、図１では符号を付していないが、自己変調型レザバーコンピューティングシステム２００は、入力層２１１からレザバー層２１３への結合と、レザバー層２１３から出力層２１５への結合とを備える。
【0036】
自己変調型レザバーコンピューティングシステム２００は、従来のレザバーコンピューティングシステム９００と比べて、レザバー層２１３の働き（または処理）に対して動的に自己変調を行う点が異なる。動的な自己変調とは、時刻毎のレザバー層２１３からの出力に基づいて、入力信号の強度、及びレザバー層２１３の内部結合強度を変調（変化）させることである。
【0037】
自己変調型レザバーコンピューティングシステム２００は、式（３）、式（４）、式（５）、及び式（６）で示されるモデルとして構成される。
【0038】
【数3】
【0039】
【数4】
【0040】
【数5】
【0041】
【数6】
【0042】
式（３）と、上述した式（１）とを比較すると、レザバー層２１３の状態の時間発展を表す関数がｔａｎｈ（・）、つまり双曲線正接関数として具体的な形で示されている点と、当該関数に入力される値に結合変調ゲートｇｒｅｓ、及び入力ゲートｇｉｎによって変調が与えられている点が異なる。なお、式（１）と同様に左辺のｘ（ｔ）はベクトルであり、右辺のｔａｎｈ（・）は、双曲線正接関数の値を成分にもつベクトルを意味している。
【0043】
式（３）において、結合変調ゲートｇｒｅｓは、レザバー層２１３の内部結合強度に対する変調の値を示す。入力ゲートｇｉｎは、入力信号の強度に対する変調の値を示す。結合変調ゲートｇｒｅｓ
、及び入力ゲートｇｉｎはそれぞれ、時刻に依存する値をもつ実数である。結合変調ゲートｇｒｅｓは、レザバー層２１３のノード間の結合強度の全てについて共通である。入力ゲートｇｉｎは、入力層２１１のノードの全てについて共通である。
【0044】
式（４）は、結合変調ゲートｇｒｅｓの具体的な形を示す。つまり、結合変調ゲートｇｒｅｓは、時刻ｔにおけるレザバー層２１３からの出力ｘ（ｔ）に、変調重みＷｆｂ
ｒｅｓが乗じられた値にバイアスｂｆｂ
ｒｅｓが加算された値がシグモイド関数に入力された値として与えられる。
【0045】
式（５）は、入力ゲートｇｉｎの具体的な形を示す。つまり、入力ゲートｇｉｎは、時刻ｔにおけるレザバー層２１３からの出力ｘ（ｔ）に、変調重みＷｆｂ
ｉｎが乗じられた値にバイアスｂｆｂ
ｉｎが加算された値がシグモイド関数に入力された値として与えられる。
なお、シグモイド関数は、式（７）によって示される。
なお、シグモイド関数は、式（７）によって示される。
【0046】
【数7】
【0047】
以下の説明では、変調重みＷｆｂ
ｉｎ、及び変調重みＷｆｂ
ｒｅｓをそれぞれ、または変調重みＷｆｂ
ｉｎ、及び変調重みＷｆｂ
ｒｅｓをまとめてフィードバック結合ともいう。
【0048】
式（３）に示すとおり、時刻ｔにおけるレザバー層２１３からの出力ｘ（ｔ）は、第１の値と第２の値とが加算された値が双曲線正接関数に入力されて得られる。ここで第１の値とは、時刻ｔ－１におけるレザバー層９１３のノードの値を示すベクトルｘ（ｔ－１）にレザバー層９１３の結合行列Ｗｒｅｓが乗じられた値に、さらに時刻ｔ－１における結合変調ゲートｇｒｅｓ（ｔ－１）が乗じられた値である。第２の値とは、時刻ｔ１における入力層９１１のノードの値を示すベクトルｕ（ｔ）に入力層２１１からレザバー層２１３への結合強度を示す行列Ｗｉｎが乗じられた値に、さらに時刻ｔ－１における入力ゲートｇｉｎ（ｔ－１）が乗じられた値である。
【0049】
また、式（６）に示すように、レザバーコンピューティングシステム９００の出力データを示すベクトルｙ（ｔ）は、出力の結合行列Ｗｏｕｔが時刻ｔにおけるレザバー層２１３からの出力ｘ（ｔ）に乗じられて得られるベクトルに、バイアスｂｏｕｔが加算されたベクトルである。
【0050】
上述したように入力ゲートｇｉｎは、入力層２１１のノードの全てについて共通であり、入力信号の強度に乗算するだけで自己変調が行われる。そのため、自己変調型レザバーコンピューティングシステム２００は、入力信号の強度に対する変調のために従来のレザバーコンピューティングシステム９００からのハードウェアから変更する点は少なく、ハードウェア実装が容易である。また、実用において入力信号はデジタル信号である場合が多い。入力信号がデジタル信号である場合、自己変調型レザバーコンピューティングシステム２００の一部は、デジタル回路として実装されてもよい。
【0051】
上述したように結合変調ゲートｇｒｅｓは、レザバー層２１３のノード間の結合強度の全てについて共通である。そのため、自己変調型レザバーコンピューティングシステム２００は、レザバー層２１３の内部結合強度に対する変調のために従来のレザバーコンピューティングシステム９００からのハードウェアから変更する点は少なく、ハードウェア実装が容易である。
【0052】
なお、式（４）及び式（５）において、活性化関数は、シグモイド関数以外の関数であってもよい。例えば、当該活性化関数は、指数関数であってもよい。
【0053】
（機械学習装置の構成について）
図２は、本実施形態に係る機械学習装置１００の機能構成の一例を示す図である。機械学習装置１００は、入力部１１０と、中間演算部１２０と、出力部１３０と、出力学習部１４０と、変調部１５０と、変調重み学習部１６０と、記憶部１７０とを備える。機械学習装置１００は、自己変調型レザバーコンピューティングシステム２００に基づいて情報処理を行う。
図２は、本実施形態に係る機械学習装置１００の機能構成の一例を示す図である。機械学習装置１００は、入力部１１０と、中間演算部１２０と、出力部１３０と、出力学習部１４０と、変調部１５０と、変調重み学習部１６０と、記憶部１７０とを備える。機械学習装置１００は、自己変調型レザバーコンピューティングシステム２００に基づいて情報処理を行う。
【0054】
入力部１１０は、時系列データである入力データを取得する。入力データは、例えば、上述したｕ（ｔ）を用いて｛ｕ（ｔ），ｕ（ｔ＋１），…，ｕ（ｔ＋Ｔ）｝と表される。ここでＴは、時系列データの個数を示す正の整数である。入力部１１０は、入力データを逐次的に取得する。例えば、入力部１１０は、ｕ（ｔ），ｕ（ｔ＋１），…，ｕ（ｔ＋Ｔ）をこの順に逐次的に取得する。入力部１１０は、入力層２１１に相当する。
【0055】
中間演算部１２０は、入力部１１０によって取得された各時刻の入力データに対して演算を行う。中間演算部１２０は、第１結果と、第２結果とに基づいて演算を行う。第１結果は、第１時刻（例えば、時刻ｔ）における入力データに対する重み付けの結果である。第２結果は、時系列データにおいて第１時刻の直前の時刻である第２時刻（例えば、時刻ｔ－１）における中間演算部１２０による演算結果に対する重み付けの結果である。
【0056】
ここで中間演算部１２０は、入力ゲートｇｉｎの値に基づいて第１結果を変調して当該演算を行う。また、中間演算部１２０は、ｇｒｅｓの値に基づいて第２結果を変調して当該演算を行う。中間演算部１２０は、例えば、上述した式（３）に基づいて演算を行う。中間演算部１２０は、レザバー層２１３に相当する。
【0057】
出力部１３０は、出力データを出力する。出力データは、中間演算部１２０からの出力に対して重み付けをした結果に基づいている。出力データは、例えば、上述したｙ（ｔ）を用いて｛ｙ（ｔ），ｙ（ｔ＋１），…，ｙ（ｔ＋Ｔ）｝と表される。ここでＴは、入力データの時系列データの個数を示す正の整数である。したがって、出力データの個数と、入力データの個数と同じである。出力部１３０は、出力層２１５に相当する。
【0058】
出力学習部１４０は、中間演算部１２０からの出力ｘ（ｔ）に対する重み付けの重みの学習を行う。当該重みは、出力行列Ｗｏｕｔに相当する。
【0059】
変調部１５０は、中間演算部１２０からの出力ｘ（ｔ）に基づいて中間演算部１２０による演算において行われる変調の値を算出する。変調部１５０は、中間演算部１２０による演算において中間演算部１２０からの出力に対して変調重みによって重み付けをした結果に基づいて当該変調の値を算出する。当該変調は、入力ゲートｇｉｎ、及び結合変調ゲートｇｒｅｓである。
【0060】
変調重み学習部１６０は、変調重みを学習する。変調重みとは、上述したフィードバック結合（変調重みＷｆｂ
ｉｎ、及び変調重みＷｆｂ
ｒｅｓ）である。
【0061】
記憶部１７０は、各種のデータを記憶する。記憶部１７０は、例えば、レザバーコンピューティング情報Ａ１を記憶する。レザバーコンピューティング情報Ａ１は、自己変調型レザバーコンピューティングシステム２００の構成、及び状態を示す情報である。
【0062】
自己変調型レザバーコンピューティングシステム２００の構成には、ノード、ノード間の結合、及びノード間の結合の重み（Ｗｉｎ、Ｗｒｅｓ、及びＷｏｕｔ）が含まれる。自己変調型レザバーコンピューティングシステム２００の状態には、中間演算部１２０（つまり、レザバー層２１３）の状態が含まれる。中間演算部１２０の状態は、中間演算部１２０による演算結果であるレザバー層２１３からの出力ｘ（ｔ）によって示される。
【0063】
なお、中間演算部１２０の状態は、中間演算部１２０が行う各時刻における演算結果による中間演算部１２０の状態（その時刻の演算を完了したときの中間演算部１２０の状態）である。なお、ここでいう時刻とは、何回目の演算かを示すものであり、必ずしも実際の（物理的な）時間を示すものでない。
また、レザバーコンピューティング情報Ａ１には、変調部１５０が変調の値を算出するために用いるフィードバック結合（変調重みＷｆｂ ｉｎ、及び変調重みＷｆｂ ｒｅｓ）が含まれる。
また、レザバーコンピューティング情報Ａ１には、変調部１５０が変調の値を算出するために用いるフィードバック結合（変調重みＷｆｂ ｉｎ、及び変調重みＷｆｂ ｒｅｓ）が含まれる。
【0064】
（学習処理について）
自己変調型レザバーコンピューティングシステム２００における学習について説明する。自己変調型レザバーコンピューティングシステム２００では、式（３）によって示したように、時刻ｔ－１におけるレザバー層９１３のノードの値（つまり、ｘ（ｔ－１））が時刻ｔにおけるレザバー層２１３による演算に用いられる。つまり、自己変調型レザバーコンピューティングシステム２００は、再帰結合を有するネットワークである。そのような再帰結合を有するネットワークの学習は困難である。そこで、自己変調型レザバーコンピューティングシステム２００では、出力行列Ｗｏｕｔの学習と、フィードバック結合（変調重みＷｆｂ ｉｎ、及び変調重みＷｆｂ ｒｅｓ）の学習とはそれぞれ個別に行われる。
自己変調型レザバーコンピューティングシステム２００における学習について説明する。自己変調型レザバーコンピューティングシステム２００では、式（３）によって示したように、時刻ｔ－１におけるレザバー層９１３のノードの値（つまり、ｘ（ｔ－１））が時刻ｔにおけるレザバー層２１３による演算に用いられる。つまり、自己変調型レザバーコンピューティングシステム２００は、再帰結合を有するネットワークである。そのような再帰結合を有するネットワークの学習は困難である。そこで、自己変調型レザバーコンピューティングシステム２００では、出力行列Ｗｏｕｔの学習と、フィードバック結合（変調重みＷｆｂ ｉｎ、及び変調重みＷｆｂ ｒｅｓ）の学習とはそれぞれ個別に行われる。
【0065】
図３は、本実施形態に係る機械学習装置１００による学習処理の一例を示す図である。図３に示す学習処理は、機械学習装置１００によって予測処理が行われる前の時期に予め行われる。予測処理とは、入力データに基づく予測を行う処理をいう。
【0066】
ステップＳ１０：出力学習部１４０は、出力層２１５の学習を行う。出力学習部１４０は、教師データを用いて出力行列Ｗｏｕｔの学習を行う。教師データは、予め用意された入力データと出力データとの組である。例えば、教師データは、入力ベクトルの値と、当該入力ベクトルの値に対してとるべき出力ベクトルの値とのペア｛ｕＴｅ（ｔ），ｙＴｅ（ｔ）｝，（ｔ＝０，Δｔ，２Δｔ，…，ＴΔｔ）で構成される。ｕＴｅ（ｔ）における上付きのＴｅは、学習用の入力ベクトルであることを示す。ｙＴｅ（ｔ）における上付きのＴｅは、学習用の出力ベクトルであることを示す。
【0067】
この教師データの入力ベクトルｕＴｅ（ｔ）によってレザバー層９１３を時間発展させると、レザバー層９１３の内部状態を示すベクトルｘ（０）、ｘ（Δｔ）、ｘ（２Δｔ）、…、ｘ（ＴΔｔ）が得られる。
出力行列Ｗｏｕｔの学習は、レザバー層９１３の内部状態を用いて、出力ベクトルｙ（ｔ）と出力ベクトルの教師データｙＴｅ（ｔ）との差を小さくすることで行われる。
出力ベクトルｙ（ｔ）と出力ベクトルの教師データｙＴｅ（ｔ）との差を小さくする手法として、例えば、リッジ回帰を用いることができる。
その後、機械学習装置１００は、ステップＳ２０の処理を実行する。
出力行列Ｗｏｕｔの学習は、レザバー層９１３の内部状態を用いて、出力ベクトルｙ（ｔ）と出力ベクトルの教師データｙＴｅ（ｔ）との差を小さくすることで行われる。
出力ベクトルｙ（ｔ）と出力ベクトルの教師データｙＴｅ（ｔ）との差を小さくする手法として、例えば、リッジ回帰を用いることができる。
その後、機械学習装置１００は、ステップＳ２０の処理を実行する。
【0068】
ステップＳ２０：変調重み学習部１６０は、フィードバック結合（変調重みＷｆｂ
ｉｎ、及び変調重みＷｆｂ
ｒｅｓ）の学習を行う。変調重み学習部１６０は、フィードバック結合の学習において、ミニバッチと、勾配法とを用いる。
【0069】
変調重み学習部１６０は、ランダムに並べ変えた教師データの中から、未使用のものを、昇順にＢ個（Ｂは自然数）ずつ取り出す。ただし、未使用の教師データがない場合、変調重み学習部１６０は、教師データを再びランダムに並べ変え、未使用の教師データとする。取り出されたＢ個の教師データを、ミニバッチと呼ぶ。ここでフィードバック結合の学習に用いられる教師データには、上述した出力行列Ｗｏｕｔの学習に用いられる教師データが用いられてよい。
【0070】
変調重み学習部１６０は、ミニバッチに含まれる入力データが入力層２１１に入力された場合の出力層２１５から出力される出力データを取得する。変調重み学習部１６０は、取得した出力データと、当該ミニバッチに含まれる出力データとから勾配法を用いてフィードバック結合（変調重みＷｆｂ
ｉｎ、及び変調重みＷｆｂ
ｒｅｓ）の更新を行う。勾配法とは、誤差（目的関数）が小さくなるような勾配の方向にパラメータを変化させるように、パラメータを算出する方法のことである。ここでは、フィードバック結合（変調重みＷｆｂ
ｉｎ、及び変調重みＷｆｂ
ｒｅｓ）がパラメータに相当する。つまり、変調重み学習部１６０は、教師データに含まれる入力データが当該入力データとして取得される場合の出力データの教師データに含まれる出力データに対する誤差の前記変調重みについての勾配に基づいて変調重みの学習を行う。
【0071】
変調重み学習部１６０は、ミニバッチを単位として、上述したフィードバック結合の更新を所定回数だけ繰り返す。なお、変調重み学習部１６０は、上述したフィードバック結合の更新を誤差（目的関数）が収束するまで繰り返してもよい。
その後、機械学習装置１００は、ステップＳ３０の処理を実行する。
その後、機械学習装置１００は、ステップＳ３０の処理を実行する。
【0072】
ステップＳ３０：出力学習部１４０は、学習終了条件が満たされたか否かを判定する。学習終了条件とは、例えば、ステップＳ１０及びステップＳ２０の各処理が所定回数だけ繰り返し実行されることである。出力学習部１４０が学習終了条件が満たされたと判定した場合（ステップＳ３０；ＹＥＳ）、機械学習装置１００は、学習処理を終了する。一方、出力学習部１４０が学習終了条件が満たされていないと判定した場合（ステップＳ３０；ＮＯ）、機械学習装置１００は、ステップＳ１０の処理を再度実行する。
なお、ステップＳ３０の処理は、変調重み学習部１６０によって行われてもよい。
以上で、機械学習装置１００は、学習処理を終了する。
なお、ステップＳ３０の処理は、変調重み学習部１６０によって行われてもよい。
以上で、機械学習装置１００は、学習処理を終了する。
【0073】
上述したように、出力学習部１４０による学習と、変調重み学習部１６０による学習とはそれぞれ個別に行われる。
なお、本実施形態では、出力行列Ｗｏｕｔの学習と、フィードバック結合の学習とが交互に繰り返し行われる場合の一例について説明したが、これに限られない。フィードバック結合の学習は、変調重みＷｆｂ ｉｎの学習と、変調重みＷｆｂ ｒｅｓの学習とが個別に行われてもよい。その場合、例えば、出力行列Ｗｏｕｔの学習、変調重みＷｆｂ ｉｎの学習、出力行列Ｗｏｕｔの学習、及び変調重みＷｆｂ ｒｅｓの学習がこの順に繰り返し行われてもよい。
なお、本実施形態では、出力行列Ｗｏｕｔの学習と、フィードバック結合の学習とが交互に繰り返し行われる場合の一例について説明したが、これに限られない。フィードバック結合の学習は、変調重みＷｆｂ ｉｎの学習と、変調重みＷｆｂ ｒｅｓの学習とが個別に行われてもよい。その場合、例えば、出力行列Ｗｏｕｔの学習、変調重みＷｆｂ ｉｎの学習、出力行列Ｗｏｕｔの学習、及び変調重みＷｆｂ ｒｅｓの学習がこの順に繰り返し行われてもよい。
【0074】
また、変調重みＷｆｂ
ｉｎの学習と、変調重みＷｆｂ
ｒｅｓの学習とのうち一方のみが行われてもよい。変調重みＷｆｂ
ｉｎの学習と、変調重みＷｆｂ
ｒｅｓの学習とは行われなくてもよい。つまり、フィードバック結合の学習が行われなくてもよい。変調重みＷｆｂ
ｉｎの学習が行われない場合、変調重みＷｆｂ
ｉｎの値は所定の一定の値である。変調重みＷｆｂ
ｒｅｓの学習が行われない場合、変調重みＷｆｂ
ｒｅｓの値は所定の一定の値である。なお、フィードバック結合の学習が行われない場合には、機械学習装置１００の構成から変調重み学習部１６０は省略されてよい。
なお、フィードバック結合の学習は行われた方が、フィードバック結合の学習が行われない場合に比べて、予測性能を向上させることができる。
なお、フィードバック結合の学習は行われた方が、フィードバック結合の学習が行われない場合に比べて、予測性能を向上させることができる。
【0075】
（予測処理について）
図４は、本実施形態に係る機械学習装置１００による予測処理の一例を示す図である。予測処理は、上述した学習処理が予め行われた後に行われる。
図４は、本実施形態に係る機械学習装置１００による予測処理の一例を示す図である。予測処理は、上述した学習処理が予め行われた後に行われる。
【0076】
ステップＳ１１０：入力部１１０は、時系列データである入力データを取得する。
その後、機械学習装置１００は、ステップＳ１２０の処理を実行する。
その後、機械学習装置１００は、ステップＳ１２０の処理を実行する。
【0077】
ステップＳ１２０：変調部１５０は、中間演算部１２０からの出力に基づいて中間演算部１２０による演算において行われる変調の値を算出する。変調部１５０は、中間演算部１２０による演算において中間演算部１２０からの出力に対して変調重みによって重み付けをした結果に基づいて当該変調の値を算出する。
その後、機械学習装置１００は、ステップＳ１３０の処理を実行する。
その後、機械学習装置１００は、ステップＳ１３０の処理を実行する。
【0078】
ステップＳ１３０：中間演算部１２０は、変調部１５０によって算出された変調の値に基づいて第１結果と第２結果とをそれぞれ変調して演算を行う。第１結果は、第１時刻における入力データに対する重み付けの結果である。第２結果は、時系列データにおいて第１時刻の直前の時刻である第２時刻における中間演算部１２０による演算結果に対する重み付けの結果である。
その後、機械学習装置１００は、ステップＳ１４０の処理を実行する。
その後、機械学習装置１００は、ステップＳ１４０の処理を実行する。
【0079】
ステップＳ１４０：出力部１３０は、中間演算部１２０からの出力に対して重み付けをした結果に基づく出力データを出力する。例えば、出力部１３０は、出力データを機械学習装置１００とは別体のサーバ、または表示装置などに出力する。
その後、機械学習装置１００は、ステップＳ１３０の処理を実行する。
以上で、機械学習装置１００は、予測処理を終了する。
その後、機械学習装置１００は、ステップＳ１３０の処理を実行する。
以上で、機械学習装置１００は、予測処理を終了する。
【0080】
なお、本実施形態では、中間演算部１２０は、変調部１５０によって算出された変調の値に基づいて第１結果（第１時刻における入力データに対する重み付けの結果）と第２結果（時系列データにおいて第１時刻の直前の時刻である第２時刻における中間演算部１２０による演算結果に対する重み付けの結果）とをそれぞれ変調して演算を行う場合の一例について説明したが、これに限られない。中間演算部１２０は、変調部１５０によって算出された変調の値に基づいて第１結果と第２結果とのうち少なくとも一方を変調して演算を行ってもよい。例えば、中間演算部１２０は、第１結果と第２結果とのうち第１結果のみを変調して演算を行ってもよい。また、中間演算部１２０は、第１結果と第２結果とのうち第２結果のみを変調して演算を行ってもよい。
【0081】
また、本実施形態では、入力ゲートｇｉｎが入力層２１１のノードの全てについて共通である場合の一例について説明した。つまり、入力データは複数の成分からなり、変調部１５０が算出する第１結果（第１時刻における入力データに対する重み付けの結果）に対する変調の値は入力データの複数の成分について共通である場合の一例について説明したが、これに限られない。入力ゲートｇｉｎは、入力層２１１のノード毎に異なっていてもよい。その場合、例えば、入力層２１１のノード毎に入力ゲートｇｉｎを算出するための活性化関数の形を異ならせてよい。その場合、例えば、あるノードでは、入力ゲートｇｉｎを算出するための活性化関数を、式（５）に示したようなシグモイド関数として、別のノードでは、指数関数とする。
【0082】
また、入力ゲートｇｉｎは、入力層２１１のノードをグループにした場合に、当該グループ毎に異なっていてもよい。各グループには、入力層２１１のノードが１以上含まれる。グループに含まれる入力層２１１のノードの数が多くなる（グループの大きさが大きくなる）ほど、入力信号の強度に対する変調の自由度は下がるが、ハードウェア実装は容易になる。
【0083】
また、本実施形態では、結合変調ゲートｇｒｅｓがレザバー層２１３のノード間の結合強度の全てについて共通である場合の一例について説明した。つまり、中間演算部１２０による演算結果は複数の成分からなり、変調部１５０が算出する第２結果（時系列データにおいて第１時刻の直前の時刻である第２時刻における中間演算部１２０による演算結果に対する重み付けの結果）に対する変調の値は中間演算部１２０による演算結果の複数の成分について共通である場合の一例について説明したが、これに限られない。結合変調ゲートｇｒｅｓは、レザバー層２１３のノード間の結合強度毎に異なっていてもよい。その場合、例えば、レザバー層２１３のノード間の結合強度毎に結合変調ゲートｇｒｅｓを算出するための活性化関数の形を異ならせてよい。その場合、例えば、ある結合強度では、結合変調ゲートｇｒｅｓを算出するための活性化関数を、式（４）に示したようなシグモイド関数として、別の結合強度では、指数関数とする。
【0084】
また、結合変調ゲートｇｒｅｓは、レザバー層２１３のノード間の結合強度をグループにした場合に、当該グループ毎に異なっていてもよい。各グループには、レザバー層２１３のノードが１以上含まれる。グループに含まれるレザバー層２１３のノード間の結合強度の数が多くなる（グループの大きさが大きくなる）ほど、レザバー層２１３の内部結合強度に対する変調の自由度は下がるが、ハードウェア実装は容易になる。
【0085】
変調部１５０は、中間演算部１２０による演算において中間演算部１２０からの出力に対して変調重みによって重み付けをした結果に基づいて当該変調の値を算出する場合の一例について説明したが、これに限られない。変調部１５０は、中間演算部１２０からの出力を所定の関数に入力した場合の当該所定の関数の値を変調の値として算出してもよい。例えば、多層ニューラルネットワークであってもよい。
【0086】
本実施形態では、レザバー層がニューラルネットワークで構成されている場合の一例について説明したが、これに限定されない。レザバー層は、例えば、以下の式（８）に示すように、変調可能な力学系ｆ＿ｇｒｅｓ（・）を用いて自己変調可能なレザバー層とすることができる。
【0087】
【数8】
【0088】
（第１実施例）
本実施形態に係る第１実施例について説明する。第１実施例では、機械学習装置１００にメモリタスクを実行させた場合の結果について説明する。入力データとして用いる時系列データは、矩形波を示すデータである。ここで当該時系列データには、矩形波が発生していない時刻は、ノイズが含まれている。第１実施例のメモリタスクでは、ノイズが含まれる矩形波の入力データが入力された場合に、一定時間後に当該矩形波と同じ波形の矩形波を出力データとして出力することを目的とする。
本実施形態に係る第１実施例について説明する。第１実施例では、機械学習装置１００にメモリタスクを実行させた場合の結果について説明する。入力データとして用いる時系列データは、矩形波を示すデータである。ここで当該時系列データには、矩形波が発生していない時刻は、ノイズが含まれている。第１実施例のメモリタスクでは、ノイズが含まれる矩形波の入力データが入力された場合に、一定時間後に当該矩形波と同じ波形の矩形波を出力データとして出力することを目的とする。
【0089】
図５は、本実施例に係るメモリタスクの実行結果を示す図である。図５では、時刻が５０から６０までの区間に矩形波を含む入力データが示されている。当該入力データでは、時刻が５０から６０までの区間以外の区間ではノイズを含む。図５では、レザバー層２１３からのノード毎の出力ｘ（ｔ）が示されている。図５では、出力層２１５から出力される出力データが、教師データに含まれる出力データとともに示されている。出力層２１５から出力される出力データの波形は、教師データに含まれる出力データの波形を再現している。
【0090】
また、図５では、入力ゲートｇｉｎの値、及び結合変調ゲートｇｒｅｓの値がそれぞれ時刻毎に示されている。入力データの波形と、それらのフィードバック結合の時刻毎の値とを比較すると、入力データにおいて矩形波が入力されると、入力ゲートが大きくなり、矩形波の信号が消えると、入力ゲートが小さくなる。すなわち、入力ゲートは、矩形波の信号のみをレザバー層に入力させ、ノイズ信号をレザバー層に入力させない働きをしていることがわかる。さらに、矩形波の入力後は結合変調ゲートの値が大きくなる。すなわち、結合変調ゲートは、情報がレザバー層内に保持される働きをしていることがわかる。つまり、自己変調型レザバーコンピューティングシステム２００に基づく機械学習装置１００では、ゲーティングによってシグナル（矩形波）の情報がレザバー層内に効率的に保持されている。
【0091】
本実施例との比較のために従来のレザバーコンピューティングシステム９００によるメモリタスクの実行結果を示す。図６は、本実施例の比較例に係るメモリタスクの実行結果を示す図である。図６では、図５に示した入力データと同じ入力データを用いた場合の出力データと、レザバー層９１３からのノード毎の出力ｘ（ｔ）が示されている。図６に示す出力データによれば、従来のレザバーコンピューティングシステム９００では、入力データに含まれる矩形波は、出力データにおいて再現できていない。
【0092】
（第２実施例）
本実施形態に係る第２実施例について説明する。第２実施例では、機械学習装置１００にカオス時系列予測を実行させた場合の結果について説明する。第２実施例のカオス時系列予測では、ローレンツモデルにおいて、入力データにノイズを加えた。ここで入力データとして、各時刻において３次元直交座標を示すｘ、ｙ、ｚのうちｘにノイズを加えた値を選んだ。出力データとして、入力データに対して所定ステップ先のｚを選んだ。
本実施形態に係る第２実施例について説明する。第２実施例では、機械学習装置１００にカオス時系列予測を実行させた場合の結果について説明する。第２実施例のカオス時系列予測では、ローレンツモデルにおいて、入力データにノイズを加えた。ここで入力データとして、各時刻において３次元直交座標を示すｘ、ｙ、ｚのうちｘにノイズを加えた値を選んだ。出力データとして、入力データに対して所定ステップ先のｚを選んだ。
【0093】
図７は、本実施例に係るカオス時系列予測の実行結果を示す図である。図７では、入力データ、レザバー層２１３からのノード毎の出力、及び出力層２１５から出力される出力データが、教師データに含まれる出力データとともに示されている。また、図７では、入力ゲートｇｉｎの値、及び結合変調ゲートｇｒｅｓの値がそれぞれ時刻毎に示されている。
【0094】
また、本実施例との比較のために従来のレザバーコンピューティングシステム９００によるカオス時系列予測の実行結果を示す。図８は、本実施例の比較例に係るカオス時系列予測の実行結果を示す図である。図８では、入力データ、レザバー層９１３からのノード毎の出力、及び出力層９１５から出力される出力データが、教師データに含まれる出力データとともに示されている。
【0095】
ここで自己変調型レザバーコンピューティングシステム２００による予測精度を、レザバーコンピューティングシステム９００による予測精度と比較するために、平均自乗誤差（ＭＳＥ：Ｍｅａｎ Ｓｑｕａｒｅ Ｅｒｒｏｒ）を算出した。ＭＳＥは、値が低いほど予測精度が高いことを意味する。図７に示す結果では、ＭＳＥの値は０．０１４０となった。図８に示す結果では、ＭＳＥの値は０．１０１となった。つまり、本実施例によればカオス時系列予測において、自己変調型レザバーコンピューティングシステム２００による予測精度は、レザバーコンピューティングシステム９００による予測精度に比べてＭＳＥの値にして１０倍高い結果が得られた。
【0096】
また、本実施例では、比較のために従来のレザバーコンピューティングシステム９００に含まれるレザバー層９１３のサイズと予測精度との関係を調べた。レザバー層９１３のサイズは、レザバー層９１３に含まれるノードの数である。予測精度はＭＳＥに基づいて評価した。図９は、本実施例の比較例に係るレザバー層のサイズとＭＳＥとの関係を示す図である。図９では、レザバーコンピューティングシステム９００による予測結果に対するＭＳＥの値が、入力データに加えられるノイズの値毎に示されている。また、図９では、レザバー層２１３のサイズを１００に固定した場合の自己変調型レザバーコンピューティングシステム２００による予測結果に対するＭＳＥの値がノイズの値毎に示されている。
【0097】
「ＲＣ，ｎｏｉｓｅ：０．１」、「ＲＣ，ｎｏｉｓｅ：０．０１」、及び「ＲＣ，ｎｏｉｓｅ：０．００１」それぞれのグラフは、ノイズの値が０．１、０．０１、０．００１それぞれの場合のレザバー層９１３のサイズとレザバーコンピューティングシステム９００による予測結果に対するＭＳＥの値との関係を示す。「ｐｒｏｐｏｓｅｄ，ｎｏｉｓｅ：０．１」、「ｐｒｏｐｏｓｅｄ，ｎｏｉｓｅ：０．０１」、及び「ｐｒｏｐｏｓｅｄ，ｎｏｉｓｅ：０．００１」それぞれのグラフは、ノイズの値が０．１、０．０１、０．００１それぞれの場合の自己変調型レザバーコンピューティングシステム２００による予測結果に対するＭＳＥの値を示す。
ノイズの値が大きいほど予測は困難になるため、予測精度は下がる。つまり、ノイズの値が大きいほどＭＳＥの値は大きくなる。
ノイズの値が大きいほど予測は困難になるため、予測精度は下がる。つまり、ノイズの値が大きいほどＭＳＥの値は大きくなる。
【0098】
従来のレザバーコンピューティングシステム９００では、レザバー層９１３のサイズが大きくなるほど予測精度が向上することがわかる。一方、レザバー層２１３のサイズを１００に固定した場合の自己変調型レザバーコンピューティングシステム２００では、各ノイズの値について、レザバー層のサイズが８倍大きい場合（レザバー層のサイズが８００の場合）のレザバーコンピューティングシステム９００による予測精度よりも高い予測精度が実現されている。
【0099】
（第１変形例）
図１０は、本変形例に係る自己変調型レザバーコンピューティングシステム３００の概略構成の一例を示す図である。自己変調型レザバーコンピューティングシステム３００は、入力層３１１と、並列レザバー層３１３と、出力層３１５とを備える。並列レザバー層３１３は、並列に備えられた複数のレザバー層から構成される。図１０では、当該複数のレザバー層のうち、レザバー層３１３－１と、レザバー層３１３－２とが示されている。
図１０は、本変形例に係る自己変調型レザバーコンピューティングシステム３００の概略構成の一例を示す図である。自己変調型レザバーコンピューティングシステム３００は、入力層３１１と、並列レザバー層３１３と、出力層３１５とを備える。並列レザバー層３１３は、並列に備えられた複数のレザバー層から構成される。図１０では、当該複数のレザバー層のうち、レザバー層３１３－１と、レザバー層３１３－２とが示されている。
【0100】
並列レザバー層３１３を構成する複数のレザバー層それぞれには、入力層３１１のノードに対する重み付けの結果が共通して入力される。並列レザバー層３１３を構成する複数のレザバー層それぞれが出力する演算結果は、当該演算結果が結合された値が並列レザバー層３１３からの出力として出力層３１５に出力される。ここで複数のレザバー層それぞれが出力する演算結果が結合された値とは、例えば、当該演算結果の複数のレザバー層についてベクトルの連結、平均、または加重平均などである。
【0101】
並列レザバー層３１３では、並列レザバー層３１３を構成する複数のレザバー層それぞれにおいて、当該レザバー層の内部結合強度と、入力信号の強度とのうち少なくとも一方が変調される点は、上述した実施形態に係るレザバー層２１３と同様である。並列レザバー層３１３では、並列レザバー層３１３を構成する複数のレザバー層それぞれの内部結合強度の変調、及び入力信号の強度の変調はそれぞれ、当該レザバー層からの出力ではなく、並列レザバー層３１３からの出力に基づいて行われる点がレザバー層２１３とは異なる。
【0102】
（第２変形例）
図１１は、本変形例に係る自己変調型レザバーコンピューティングシステム４００の概略構成の一例を示す図である。自己変調型レザバーコンピューティングシステム４００は、入力層４１１と、多層レザバー層４１３と、出力層４１５とを備える。多層レザバー層４１３は、直列に備えられた複数のレザバー層から構成される。図１１では、一例として、多層レザバー層４１３は、２つのレザバー層（レザバー層４１３－１、及びレザバー層４１３－２）から構成される。
図１１は、本変形例に係る自己変調型レザバーコンピューティングシステム４００の概略構成の一例を示す図である。自己変調型レザバーコンピューティングシステム４００は、入力層４１１と、多層レザバー層４１３と、出力層４１５とを備える。多層レザバー層４１３は、直列に備えられた複数のレザバー層から構成される。図１１では、一例として、多層レザバー層４１３は、２つのレザバー層（レザバー層４１３－１、及びレザバー層４１３－２）から構成される。
【0103】
自己変調型レザバーコンピューティングシステム４００では、入力層４１１からレザバー層４１３－１への結合と、レザバー層４１３－１からレザバー層４１３－２への結合と、レザバー層４１３－２から出力層４１５への結合とが備えられる。
【0104】
レザバー層４１３－１には、入力層４１１のノードに対する重み付けの結果が入力される。レザバー層４１３－１が出力する演算結果は、レザバー層４１３－２に出力される。
レザバー層４１３－２には、レザバー層４１３－２のノードに対する重み付けの結果が入力される。レザバー層４１３－２が出力する演算結果は、出力層４１５に出力される。
レザバー層４１３－２には、レザバー層４１３－２のノードに対する重み付けの結果が入力される。レザバー層４１３－２が出力する演算結果は、出力層４１５に出力される。
【0105】
レザバー層４１３－１では、レザバー層４１３－１の内部結合強度と、入力信号の強度とのうち少なくとも一方が変調される点は、上述した実施形態に係るレザバー層２１３と同様である。レザバー層４１３－１では、レザバー層４１３－１の内部結合強度の変調、及び入力信号の強度の変調はそれぞれ、レザバー層４１３－１からの出力ではなく、レザバー層４１３－１からの出力とレザバー層４１３－２からの出力とが結合された値に基づいて行われる点がレザバー層２１３とは異なる。ここでレザバー層４１３－１からの出力とレザバー層４１３－２からの出力とが結合された値とは、例えば、レザバー層４１３－１からの出力とレザバー層４１３－２からの出力とが連結したベクトルである。
【0106】
レザバー層４１３－２では、レザバー層４１３－２の内部結合強度と、レザバー層４１３－１が出力する演算結果とのうち少なくとも一方が変調される。レザバー層４１３－２の内部結合強度の変調、及びレザバー層４１３－１が出力する演算結果の変調はそれぞれ、レザバー層４１３－２からの出力に基づいて行われる。
【0107】
以上に説明したように、本実施形態に係る機械学習装置１００は、入力部１１０と、中間演算部１２０と、出力部１３０と、出力学習部１４０と、変調部１５０とを備える。
入力部１１０は、時系列データである入力データを取得する。
中間演算部１２０は、第１時刻における入力データに対する重み付けの第１結果と、時系列データにおいて第１時刻の直前の時刻である第２時刻における自身による演算結果に対する重み付けの第２結果とに基づいて演算を行う。
出力部１３０は、中間演算部１２０からの出力に対して重み付けをした結果に基づく出力データを出力する。
出力学習部１４０は、中間演算部１２０からの出力に対する重み付けの重みの学習を行う。
変調部１５０は、中間演算部１２０からの出力に基づいて中間演算部１２０による演算において行われる変調の値を算出する。
中間演算部１２０は、変調部１５０によって算出された変調の値に基づいて第１結果と第２結果とのうち少なくとも一方を変調して演算を行う。
入力部１１０は、時系列データである入力データを取得する。
中間演算部１２０は、第１時刻における入力データに対する重み付けの第１結果と、時系列データにおいて第１時刻の直前の時刻である第２時刻における自身による演算結果に対する重み付けの第２結果とに基づいて演算を行う。
出力部１３０は、中間演算部１２０からの出力に対して重み付けをした結果に基づく出力データを出力する。
出力学習部１４０は、中間演算部１２０からの出力に対する重み付けの重みの学習を行う。
変調部１５０は、中間演算部１２０からの出力に基づいて中間演算部１２０による演算において行われる変調の値を算出する。
中間演算部１２０は、変調部１５０によって算出された変調の値に基づいて第１結果と第２結果とのうち少なくとも一方を変調して演算を行う。
【0108】
この構成により、本実施形態に係る機械学習装置１００は、入力データに対する重み付けの第１結果と時系列データにおいて第１時刻の直前の時刻である第２時刻における自身による演算結果に対する重み付けの第２結果とのうち少なくとも一方を変調することができるため、レザバーコンピューターのハードウェア実装性を維持したまま、予測性能を向上させることができる。レザバーコンピューターのハードウェア実装性とは、例えば、従来のレザバーコンピューティングシステム９００のハードウェア実装性をいう。
【0109】
図１２は、実施形態に係るコンピュータの構成を示す概略ブロック図である。図１２に示す構成で、コンピュータ７００は、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）７１０と、主記憶装置７２０と、補助記憶装置７３０と、インタフェース７４０とを備える。
【0110】
上記の機械学習装置１００が、コンピュータ７００に実装されてもよい。その場合、上述した各処理部の動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って上記処理を実行する。また、ＣＰＵ７１０は、プログラムに従って、上述した各記憶部に対応する記憶領域を主記憶装置７２０に確保する。
【0111】
機械学習装置１００がコンピュータ７００に実装される場合、入力部１１０と、中間演算部１２０と、出力部１３０と、出力学習部１４０と、変調部１５０と、変調重み学習部１６０との動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って各部の動作を実行する。
【0112】
入力部１１０によるデータの取得は、インタフェース７４０が、例えば通信機能を備え、ＣＰＵ７１０の制御に従って他の装置からデータを受信することで実行される。出力部１３０によるデータの出力は、インタフェース７４０が、例えば通信機能または表示機能等の出力機能を有し、ＣＰＵ７１０の制御に従って出力処理を行うことで実行される。また、ＣＰＵ７１０は、記憶部１７０に対応する記憶領域を主記憶装置７２０に確保する。
【0113】
なお、機械学習装置１００の全部または一部の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各部の処理を行ってもよい。ここでいう「コンピュータシステム」とは、ＯＳ（オペレーティングシステム）や周辺機器等のハードウェアを含む。
「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、ＣＤ－ＲＯＭ（Ｃｏｍｐａｃｔ Ｄｉｓｃ Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、ＣＤ－ＲＯＭ（Ｃｏｍｐａｃｔ Ｄｉｓｃ Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
【0114】
以上、図面を参照してこの発明の一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、この発明の要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。
【符号の説明】
【0115】
１００…機械学習装置、１１０…入力部、１２０…中間演算部、１３０…出力部、１４０…出力学習部、１５０…変調部
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】