ホーム > 特許ランキング > 東京エレクトロン株式会社
知財求人 - 知財ポータルサイト「IP Force」
▶ 東京エレクトロン株式会社の特許一覧 ▶ 国立大学法人北海道大学の特許一覧
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024112329
(43)【公開日】2024-08-21
(54)【発明の名称】プロセス状態予測システム
(51)【国際特許分類】
G06N 20/00 20190101AFI20240814BHJP
【ＦＩ】
G06N20/00
【審査請求】未請求
【請求項の数】18
【出願形態】ＯＬ
(21)【出願番号】P 2021100983
(22)【出願日】2021-06-17
(71)【出願人】
【識別番号】000219967
【氏名又は名称】東京エレクトロン株式会社
(71)【出願人】
【識別番号】504173471
【氏名又は名称】国立大学法人北海道大学
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】斉藤 友貴哉
(72)【発明者】
【氏名】筒井 拓郎
(72)【発明者】
【氏名】凌 元傑
(72)【発明者】
【氏名】大和田 伸
(72)【発明者】
【氏名】浅井 哲也
(72)【発明者】
【氏名】赤井 恵
(57)【要約】
【課題】 時系列のセンサデータに基づきプロセス状態を予測する際の予測精度を向上させる。
【解決手段】 ＰＯＭ分子とカーボンナノチューブとを有するリザーバであって、所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号を入力として、電流信号を出力するリザーバと、前記電流信号を読み出し、リザーバ特徴量を出力する読み出し部と、前記リザーバ特徴量と、前記所定のプロセスの状態とが相関するように学習された重みパラメータと、学習後に、前記所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号が前記リザーバに入力され、前記読み出し部により電流信号が読み出されることで出力されるリザーバ特徴量とに基づき、前記所定のプロセスの状態を予測し、予測結果を出力する予測部とを有する。
【選択図】図１Ａ
【解決手段】 ＰＯＭ分子とカーボンナノチューブとを有するリザーバであって、所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号を入力として、電流信号を出力するリザーバと、前記電流信号を読み出し、リザーバ特徴量を出力する読み出し部と、前記リザーバ特徴量と、前記所定のプロセスの状態とが相関するように学習された重みパラメータと、学習後に、前記所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号が前記リザーバに入力され、前記読み出し部により電流信号が読み出されることで出力されるリザーバ特徴量とに基づき、前記所定のプロセスの状態を予測し、予測結果を出力する予測部とを有する。
【選択図】図１Ａ
【特許請求の範囲】
【請求項1】
ＰＯＭ分子とカーボンナノチューブとを有するリザーバであって、所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号を入力として、電流信号を出力するリザーバと、
前記電流信号を読み出し、リザーバ特徴量を出力する読み出し部と、
前記リザーバ特徴量と、前記所定のプロセスの状態とが相関するように学習された重みパラメータと、学習後に、前記所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号が前記リザーバに入力され、前記読み出し部により電流信号が読み出されることで出力されるリザーバ特徴量とに基づき、前記所定のプロセスの状態を予測し、予測結果を出力する予測部と
を有するプロセス状態予測システム。
前記電流信号を読み出し、リザーバ特徴量を出力する読み出し部と、
前記リザーバ特徴量と、前記所定のプロセスの状態とが相関するように学習された重みパラメータと、学習後に、前記所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号が前記リザーバに入力され、前記読み出し部により電流信号が読み出されることで出力されるリザーバ特徴量とに基づき、前記所定のプロセスの状態を予測し、予測結果を出力する予測部と
を有するプロセス状態予測システム。
【請求項2】
前記所定のプロセスにおいて測定される時系列のセンサデータを、１ＭＨｚ以上のサンプリング周波数で取得し、変調することで電圧データに変換する変調部と、
前記電圧データをＤ／Ａ変換し、前記電圧信号を生成する変換部と、を更に有し、
前記変換部により生成された前記電圧信号を、入力側の電極を介して、前記リザーバに入力する、請求項１に記載のプロセス状態予測システム。
前記電圧データをＤ／Ａ変換し、前記電圧信号を生成する変換部と、を更に有し、
前記変換部により生成された前記電圧信号を、入力側の電極を介して、前記リザーバに入力する、請求項１に記載のプロセス状態予測システム。
【請求項3】
前記読み出し部は、前記電流信号を、出力側の電極、低ノイズアンプ、Ａ／Ｄ変換器を介して、前記ＰＯＭ分子の全体から読み出す、請求項２に記載のプロセス状態予測システム。
【請求項4】
前記リザーバに電圧信号が入力されてから、前記読み出し部により前記電流信号が読み出されることで前記リザーバ特徴量が出力されるまでの周期は、１μ秒以下である、請求項３に記載のプロセス状態予測システム。
【請求項5】
入力側の電極数、前記ＰＯＭ分子の電荷蓄積数、リザーバノードの数、前記リザーバのネットワークの形状、対地容量、リザーバノードへの入力重み、リザーバノード間の結合重み、出力側の電極数、電極の形状、読み出し電流の積分時間、の少なくともいずれか１つが調整される、請求項３に記載のプロセス状態予測システム。
【請求項6】
前記ＰＯＭ分子の液滴の濃度が不均一になるように前記リザーバのネットワークの形状が調整された場合、前記電圧信号は、前記ＰＯＭ分子の濃度分布に応じて配置された入力側の電極を介して入力され、出力側の電極を介して出力される、請求項５に記載のプロセス状態予測システム。
【請求項7】
前記ＰＯＭ分子の液滴の濃度が均一になるように前記リザーバのネットワークの形状が調整される、請求項５に記載のプロセス状態予測システム。
【請求項8】
前記ＰＯＭ分子と前記カーボンナノチューブとの連結数と、前記読み出し部により読み出される電流信号の時間的ゆらぎの大きさとの関係に基づき、所定の時間的ゆらぎの大きさを下回る連結数が導出された場合、前記リザーバのネットワークの形状は、該導出された連結数を上回るように調整される、請求項６に記載のプロセス状態予測システム。
【請求項9】
前記入力側の電極と出力側の電極との間の電界が前記ＰＯＭ分子のネットワークに集中するように、前記電極の形状は尖端形状に構成される、請求項６に記載のプロセス状態予測システム。
【請求項10】
前記対地容量は、前記ＰＯＭ分子と基板との間に存在する誘電体の厚みを調整することで調整される、請求項５に記載のプロセス状態予測システム。
【請求項11】
前記予測部は、逐次最小二乗法によるＦＯＲＣＥ学習処理を行うことで前記重みパラメータを学習する、請求項１に記載のプロセス状態予測システム。
【請求項12】
前記予測部は、複数のＦＰＧＡを有し、各ＦＰＧＡは、前記逐次最小二乗法によるＦＯＲＣＥ学習処理において実行される複数行かつ複数列の行列演算の一部を実行し、各ＦＰＧＡによる実行結果を集計することで、前記重みパラメータを学習する、請求項１１に記載のプロセス状態予測システム。
【請求項13】
前記予測部において、前記各ＦＰＧＡは、前記逐次最小二乗法によるＦＯＲＣＥ学習処理の一部の演算に用いられる行列の対称性を利用して、既に算出しているベクトルを転置することで、前記一部の演算を代替する、請求項１２に記載のプロセス状態予測システム。
【請求項14】
前記予測部は、学習後の予測期間中に、再学習が必要であると判定された場合に、前記逐次最小二乗法によるＦＯＲＣＥ学習処理を行うことで前記重みパラメータを再学習する、請求項１１に記載のプロセス状態予測システム。
【請求項15】
前記予測部は、前記逐次最小二乗法によるＦＯＲＣＥ学習処理により前記重みパラメータを再学習する際、学習パラメータの数に応じた回数の前記ＦＯＲＣＥ学習処理を実行することで、前記学習パラメータの数に応じた数の重みパラメータを算出し、算出した重みパラメータのうち、所定の許容範囲に含まれ、かつ、予測精度が最も高い予測結果に対応する重みパラメータを、再学習後の予測に用いる重みパラメータとして設定する、請求項１４に記載のプロセス状態予測システム。
【請求項16】
前記所定の許容範囲には、固定値が設定される、または、前記リザーバ特徴量を所定のデータ量まで蓄積し、バッチ学習を行うことにより算出された予測結果に基づく値が設定される、請求項１５に記載のプロセス状態予測システム。
【請求項17】
いずれの予測結果も予測精度が所定の許容範囲に含まれないと判定され、新たな学習パラメータが生成された場合、前記予測部は、前記新たな学習パラメータに基づいて前記ＦＯＲＣＥ学習処理を実行することで算出した重みパラメータを、再学習後の予測に用いる重みパラメータとして設定する、請求項１５に記載のプロセス状態予測システム。
【請求項18】
前記予測部により出力された予測結果の精度が所定の閾値以下になった場合、前記電圧信号として入力される前記時系列のセンサデータの種類が変更された場合、または、前記電圧信号として入力される前記時系列のセンサデータの値が所定の閾値以上変動した場合、再学習が必要であると判定される、請求項１４に記載のプロセス状態予測システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、ナノ分子リザーバによるリザーバコンピューティングを用いたプロセス状態予測システムに関する。
【背景技術】
【0002】
従来より、製造プロセスの分野では、各種センサにより測定された時系列のセンサデータを用いて、プロセスの状態（製造プロセス実行中の装置の状態（例えば、装置の異常の有無等））を予測し、予測結果を報知することでプロセス状態を監視している。また、最近では、プロセス状態を予測する際の予測精度を向上させるために、機械学習モデルの利用も提案されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開２０１８－７７７７９号公報
【非特許文献】
【0004】
【非特許文献1】Tanaka H., Akai-Kasaya M., Termeh A.Y., Hong L., Fu L., Tamukoh H., Tanaka D., Asai T., and Ogawa T., A molecular neuromorphic network device consisting of single-walled carbon nanotubes complexed with polyoxometalate Nature Communications, vol. 9, p. 2693 (2018)
【非特許文献2】Shaohua Kan, Kohei Nakajima, Yuki Takeshima, Tetsuya Asai, Yuji Kuwahara, and Megumi Akai-Kasaya Simple reservoir computing capitalizing on the nonlinear response of materials: Theory and physical implementations Phys. Rev. Applied, Accepted, 13 January (2021)
【非特許文献3】Minamikawa K., Suzuki S., Akai-Kasaya M., and Asai T., "26-bits 400-neurons 0.3-ksps FORCE learning FPGA core for reservoir computing," The 2020 RISP International Workshop on Nonlinear Circuits, Communications and Signal Processing, Hilton Waikiki Beach Hotel, Honolulu, USA (Feb. 28-Mar. 2, 2020)
【非特許文献4】Jaeger, Herbert., The" echo state" approach to analyzing and training recurrent neural networks-with an erratum note'. Bonn, Germany: German National Research Center for Information Technology GMD Technical Report. 148 (2001)
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、機械学習モデルが搭載される装置は、一般に、時系列のセンサデータの測定周期と比較して処理周期が長く、時系列のセンサデータにおいて出現する短周期の挙動を捉えて機械学習を実行させることができない。このため、従来の機械学習モデルでは、十分な予測精度が得られにくく、また、製造プロセスが経時変化した場合にあっては、予測精度が更に低下するといった事態も想定される。
【0006】
本開示は、時系列のセンサデータに基づきプロセス状態を予測する際の予測精度を向上させる。
【課題を解決するための手段】
【0007】
本開示の一態様によるプロセス状態予測システムは、例えば、以下のような構成を有する。即ち、
ＰＯＭ分子とカーボンナノチューブとを有するリザーバであって、所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号を入力として、電流信号を出力するリザーバと、
前記電流信号を読み出し、リザーバ特徴量を出力する読み出し部と、
前記リザーバ特徴量と、前記所定のプロセスの状態とが相関するように学習された重みパラメータと、学習後に、前記所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号が前記リザーバに入力され、前記読み出し部により電流信号が読み出されることで出力されるリザーバ特徴量とに基づき、前記所定のプロセスの状態を予測し、予測結果を出力する予測部とを有する。
ＰＯＭ分子とカーボンナノチューブとを有するリザーバであって、所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号を入力として、電流信号を出力するリザーバと、
前記電流信号を読み出し、リザーバ特徴量を出力する読み出し部と、
前記リザーバ特徴量と、前記所定のプロセスの状態とが相関するように学習された重みパラメータと、学習後に、前記所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号が前記リザーバに入力され、前記読み出し部により電流信号が読み出されることで出力されるリザーバ特徴量とに基づき、前記所定のプロセスの状態を予測し、予測結果を出力する予測部とを有する。
【発明の効果】
【0008】
時系列のセンサデータに基づきプロセス状態を予測する際の予測精度を向上させることができる。
【図面の簡単な説明】
【0009】
【図1A】プロセス状態予測システムの適用例を示す図である。
【図1B】有効予測時間の一例を示す図である。
【図2】プロセス状態予測システムのシステム構成の一例を示す図である。
【図3】電圧変調部による電圧変調処理の流れを示すフローチャートの一例である。
【図4】多電極Ｉ／Ｏチップの機能構成の一例を示す図である。
【図5】多電極Ｉ／Ｏチップによる入出力処理の流れを示すフローチャートの一例である。
【図6】多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第１の図である。
【図7】多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第２の図である。
【図8】多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第３の図である。
【図9】多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第４の図である。
【図10】多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第５の図である。
【図11】プロセス状態予測部が遷移する各期間の遷移図の一例である。
【図12】プロセス状態予測部の学習期間における機能構成の一例を示す図である。
【図13】プロセス状態予測部の予測期間における機能構成の一例を示す図である。
【図14】プロセス状態予測部の再学習期間における機能構成の一例を示す第１の図である。
【図15】プロセス状態予測部の再学習期間における機能構成の一例を示す第２の図である。
【図16】逐次最小二乗法によるＦＯＲＣＥ学習部のハードウェア構成の一例を示す図である。
【図17】逐次最小二乗法によるＦＯＲＣＥ学習部において実現される並列処理及びシリアル処理を示す第１の図である。
【図18】逐次最小二乗法によるＦＯＲＣＥ学習部において実現される並列処理及びシリアル処理を示す第２の図である。
【図19】逐次最小二乗法によるＦＯＲＣＥ学習部において実現される転送処理を示す第１の図である。
【図20】逐次最小二乗法によるＦＯＲＣＥ学習部において実現される代替処理を示す図である。
【図21】逐次最小二乗法によるＦＯＲＣＥ学習部において実現される転送処理を示す第２の図である。
【図22】逐次最小二乗法によるＦＯＲＣＥ学習部において実現される配布処理を示す図である。
【図23】逐次最小二乗法によるＦＯＲＣＥ学習部において実現される重みパラメータ更新処理を示す図である。
【図24】逐次最小二乗法によるＦＯＲＣＥ学習部によるＦＯＲＣＥ学習処理のタイミングチャートの一例である。
【図25】管理装置のハードウェア構成の一例を示す図である。
【図26】管理部の機能構成の一例を示す図である。
【図27】管理部及びプロセス状態予測システムによるプロセス状態予測処理全体の流れを示すフローチャートの一例である。
【図28】学習処理の流れを示すフローチャートの一例である。
【図29】予測処理の流れ示すフローチャートの一例である。
【図30】再学習判定処理の流れを示すフローチャートの一例である。
【図31】有効予測時間の他の一例を示す図である。
【図32】再学習処理の流れを示すフローチャートの一例である。
【発明を実施するための形態】
【0010】
以下、各実施形態について添付の図面を参照しながら説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省略する。
【0011】
【0012】
なお、図１Ａの例では、プロセス状態予測システムを基板処理装置に適用する場合について説明するが、プロセス状態予測システムの適用先は基板処理装置に限定されず、他の製造プロセスを実行する装置であってもよい。
【0013】
また、図１Ａでは、プロセス状態予測システムを適用した基板処理装置（（ｂ））に加えて、比較例として、プロセス状態予測システムを適用していない基板処理装置（（ａ））を示し、適宜、両者の違いを対比しながら説明を行う。
【0014】
図１Ａ（ａ）、（ｂ）に示すように、基板処理装置１１０、１２０は、基板を処理するチャンバ１１１、１２１と、センサａ１１２ａ、１２２ａと、センサｂ１１２ｂ、１２２ｂとを有する。また、基板処理装置１１０、１２０は、管理装置１１３、１２３と、制御装置１１５、１２５と、アクチュエータ１１７、１２７とを有する。
【0015】
比較例である図１Ａ（ａ）に示すように、基板処理装置１１０では、チャンバ１１１にて基板が処理されている最中の物理量を、センサａ１１２ａ、センサｂ１１２ｂが測定し、時系列のセンサデータａ、センサデータｂとして出力する。センサａ１１２ａ及びセンサｂ１１２ｂから出力される時系列のセンサデータａ及びセンサデータｂは、管理装置１１３の状態予測及び管理部１１４において処理されることでプロセス状態が予測され、予測結果データとして制御装置１１５に出力される。
【0016】
また、センサａ１１２ａから出力される時系列のセンサデータａは、制御装置１１５の制御部１１６において処理されることで制御量が算出される。このとき、制御部１１６では、予測結果データに基づいて、制御量に補正を加えてもよい。制御部１１６により算出された制御量はアクチュエータ１１７に出力され、アクチュエータ１１７は、制御量に基づいてチャンバ１１１に制御命令を通知する。
【0017】
図１Ａ（ａ）において、グラフ１３０は、センサａ１１２ａから出力される時系列のセンサデータａの一例であり、横軸は時間を、縦軸は信号強度をそれぞれ表している。また、図１Ａ（ａ）において、グラフ１４０は、管理装置１１３の状態予測及び管理部１１４において処理される際の、時系列のセンサデータａ'であり、横軸は時間を、縦軸は信号強度をそれぞれ表している。
【0018】
一般に、管理装置１１３がプロセス状態を予測する際の処理周期Ｔ（ｂ）は、センサａ１１２ａが時系列のセンサデータａを測定する際の測定周期Ｔ（ａ）と比較して長い。このため、状態予測及び管理部１１４では、グラフ１３０に示すような時系列のセンサデータａに出現する短い挙動を捉えることができず（グラフ１４０参照）、プロセス状態を予測した場合に、結果的に十分な予測精度が得られにくい。
【0019】
一方、図１Ａ（ｂ）に示すように、基板処理装置１２０では、チャンバ１２１にて基板が処理されている最中の物理量を、センサａ１２２ａ、センサｂ１２２ｂが測定し、時系列のセンサデータａ、センサデータｂとして出力する。その際、センサａ１２２ａから出力される時系列のセンサデータａは、プロセス状態予測システム１２８において処理され、プロセス状態が予測される。そして、プロセス状態予測システム１２８において予測された予測結果データは、管理部１２４及び制御部１２６に出力される。
【0020】
また、センサ１２２ａから出力される時系列のセンサデータａは、制御装置１２５の制御部１２６において処理されることで制御量が算出される。このとき、制御部１２６では、予測結果データに基づいて、制御量に補正を加えてもよい。制御部１２６により算出された制御量はアクチュエータ１２７に出力され、アクチュエータ１２７は、制御量に基づいてチャンバ１２１に制御命令を通知する。
【0021】
ここで、図１Ａ（ｂ）において、グラフ１３１は、センサａ１２２ａから出力される時系列のセンサデータａの一例であり、横軸は時間を、縦軸は信号強度をそれぞれ表している。また、図１Ａ（ｂ）において、グラフ１４１は、プロセス状態予測システム１２８において処理される際の、時系列のセンサデータａ'であり、横軸は時間を、縦軸は信号強度をそれぞれ表している。
【0022】
第１の実施形態に係るプロセス状態予測システム１２８の場合、リザーバコンピューティングにより時系列のセンサデータａ'を処理し、プロセス状態を予測する。このため、プロセス状態を予測する際の処理周期Ｔ（ｃ）は、図１Ａ（ａ）の管理装置１１３がプロセス状態を予測する際の処理周期Ｔ（ｂ）と比較して大幅に短い。この結果、第１の実施形態に係るプロセス状態予測システム１２８によれば、グラフ１３１に示す時系列のセンサデータａに出現する短い挙動を捉えることが可能となり、予測精度を向上させることができる。
【0023】
また、短い挙動を捉えたグラフ１４１の時系列のセンサデータａ'を処理してプロセス状態を予測することによる予測精度の向上は、予測結果データと正解データとの二乗誤差が許容閾値を超えるまでの「有効予測時間」として示される。有効予測時間とは、プロセス状態予測システム１２８（あるいは、状態予測及び管理部１１４）が、どれくらい先の時間までプロセスの状態を予測できるかを表す時間である。
【0024】
図１Ｂは、有効予測時間の一例を示す図である。図１Ｂに示すように、
・グラフ１４０のような比較例の時系列のセンサデータａ'を用いてプロセスの状態を予測した場合の有効予測時間（ｔａ－ｔｓ）よりも、
・グラフ１４１の時系列のセンサデータａ'を用いてプロセスの状態を予測した場合の有効予測時間（ｔｂ－ｔｓ）、
のほうが長くなる。これは、プロセス状態予測システム１２８のほうが、比較例よりも経時変化による予測低下が発生しにくいことを示している。このとき、基板処理装置１２０では、運用のログ（例えば、運用中の温度、湿度、電圧信号などの履歴）を蓄積し、蓄積したログを使用して有効予測時間（ｔｂ－ｔｓ）を更に延伸するための解析が行われてもよい。
・グラフ１４０のような比較例の時系列のセンサデータａ'を用いてプロセスの状態を予測した場合の有効予測時間（ｔａ－ｔｓ）よりも、
・グラフ１４１の時系列のセンサデータａ'を用いてプロセスの状態を予測した場合の有効予測時間（ｔｂ－ｔｓ）、
のほうが長くなる。これは、プロセス状態予測システム１２８のほうが、比較例よりも経時変化による予測低下が発生しにくいことを示している。このとき、基板処理装置１２０では、運用のログ（例えば、運用中の温度、湿度、電圧信号などの履歴）を蓄積し、蓄積したログを使用して有効予測時間（ｔｂ－ｔｓ）を更に延伸するための解析が行われてもよい。
【0025】
また、第１の実施形態に係るプロセス状態予測システム１２８の場合、チャンバ１２１等の経時変化に伴って予測精度が低下した場合であっても、再学習処理を行うことで予測精度を改善することができる。具体的には、プロセス状態予測システム１２８が出力する予測結果データと、リザーバ特徴量と、センサデータｂとを用いることにより、管理部１２４が、プロセス状態予測システム１２８による再学習処理を管理することができる。
【0026】
なお、プロセス状態予測システム１２８に対して学習処理や再学習処理を行う際に用いるプロセス状態データ（正解データ）には、基板処理プロセス実行中の基板処理装置１２０の異常の有無等が含まれていてもよい。あるいは、プロセス状態データ（正解データ）には、センサｂ１２２ｂから出力されるセンサデータｂが含まれていてもよい（本実施形態では、プロセス状態データ（正解データ）が、センサｂ１２２ｂから出力されるセンサデータｂであるとして説明する）。なお、正解データは、一般的には、「従属変数」、あるいは、「教師データ」とも呼ばれる。
【0027】
管理部１２４は、プロセス状態予測システム１２８が再学習処理を行うにあたり、プロセス状態予測システム１２８の期間を管理するために、プロセス状態予測システム１２８との間で各種情報（切替情報、終了情報等）の送受信を行う。
【0028】
この結果、第１の実施形態に係るプロセス状態予測システム１２８によれば、製造プロセスの経時変化に伴う予測精度の低下を抑えることができる。
【0029】
このように、第１の実施形態によれば、時系列のセンサデータに基づきプロセス状態を予測する際の予測精度を向上させることができる。
【0030】
＜プロセス状態予測システムのシステム構成＞
次に、プロセス状態予測システム１２８のシステム構成について説明する。図２は、プロセス状態予測システムのシステム構成の一例を示す図である。プロセス状態予測システム１２８は、例えば、ＦＰＧＡ（Field-Programmable Gate Array）ボード等により実現される。
次に、プロセス状態予測システム１２８のシステム構成について説明する。図２は、プロセス状態予測システムのシステム構成の一例を示す図である。プロセス状態予測システム１２８は、例えば、ＦＰＧＡ（Field-Programmable Gate Array）ボード等により実現される。
【0031】
図２に示すように、プロセス状態予測システム１２８は、Ｉ／Ｏ制御部２０１と、電圧変調部２０２と、多電極Ｉ／Ｏチップ２０３と、プロセス状態予測部２０４とを有する。
【0032】
Ｉ／Ｏ制御部２０１は、デジタル信号の入出力を制御する。具体的には、Ｉ／Ｏ制御部２０１は、センサａ１２２ａから出力された時系列のセンサデータａを入力し、電圧変調部２０２に通知する。
【0033】
なお、Ｉ／Ｏ制御部２０１に入力される時系列のセンサデータａは、１種類の時系列のセンサデータであってもよいし、複数種類の時系列のセンサデータからなるセンサデータセットであってもよい。ここでは、説明の簡略化のため、１種類の時系列のセンサデータが入力されるものとして説明する。
【0034】
また、Ｉ／Ｏ制御部２０１は、プロセス状態予測部２０４により出力される予測結果データ（プロセス状態が予測された結果のデータ）と多電極Ｉ／Ｏチップ２０３より出力されるリザーバ特徴量を取得し、管理装置１２３に送信する。また、Ｉ／Ｏ制御部２０１は、プロセス状態予測システム１２８において学習処理（または再学習処理）を行う際に用いるプロセス状態データ（正解データ）を、管理装置１２３より入力し、プロセス状態予測部２０４に通知する。
【0035】
更に、Ｉ／Ｏ制御部２０１は、プロセス状態予測部２０４の期間を切り替えるための切替情報と、切り替え後の期間でのプロセス状態予測部２０４による処理の終了を示す終了情報とを、管理装置１２３との間で送受信する。
【0036】
電圧変調部２０２は変調部の一例であり、Ｉ／Ｏ制御部２０１より通知された時系列のセンサデータａ'を、多電極Ｉ／Ｏチップ２０３に入力するための電圧データに変換する。具体的には、電圧変調部２０２は、１ＭＨｚ以上のサンプリング周波数でセンサデータａ'を取得して変調することで、電圧データに変換する。
【0037】
なお、電圧変調部２０２は、Ｉ／Ｏ制御部２０１より通知された時系列のセンサデータａ'を、例えば、プロセス状態予測部２０４により出力された予測結果データに応じた電圧データに変換してもよい。
【0038】
多電極Ｉ／Ｏチップ２０３は、リザーバ特徴量を出力するチップである。多電極Ｉ／Ｏチップ２０３は、ナノ分子リザーバ（後述）に、電圧データに基づく電圧信号を入力し、ナノ分子リザーバより出力される電流信号に基づく電流データを読み出すことで、リザーバ特徴量を出力する。なお、リザーバ特徴量とは、時系列のセンサデータａ'の各値をナノ分子リザーバに入力したときに、その過去から現在までの各値をもとにナノ分子リザーバが出力する、時系列のセンサデータａ'の特性を定量的に表した数値である。
【0039】
プロセス状態予測部２０４は、切替情報に従って切り替えられる複数の期間（本実施形態では、学習期間、予測期間、再学習期間）のもとで動作する。学習期間とは、重みパラメータを学習する期間を指す。また、再学習期間とは、学習された重みパラメータを再学習する期間を指す。
【0040】
学習期間または再学習期間に移行した場合、プロセス状態予測部２０４は、予測結果データと、Ｉ／Ｏ制御部２０１により入力されたプロセス状態データ（正解データ）とが相関するように、重みパラメータを算出する。また、プロセス状態予測部２０４は、重みパラメータの算出が終了すると終了情報を出力する。
【0041】
一方、予測期間とは、学習期間または再学習期間において学習された重みパラメータのもとで、リザーバ特徴量に基づき予測結果データを出力する期間を指す。
【0042】
プロセス状態予測部２０４は、終了情報を出力したことに応じて切替情報が入力されると、予測期間に移行し、多電極Ｉ／Ｏチップ２０３より出力されるリザーバ特徴量に基づきプロセス状態を予測する。また、プロセス状態予測部２０４は、予測結果データをＩ／Ｏ制御部２０１及び電圧変調部２０２に出力する。
【0043】
なお、プロセス状態予測部２０４がＩ／Ｏ制御部２０１に予測結果データを出力する際の出力周期は、例えば、管理装置１２３の処理周期以下（つまり、フィールドバスの転送周期以下）であってもよい。
【0044】
＜プロセス状態予測システムの詳細＞
次に、図２のプロセス状態予測システム１２８の各部の詳細について説明する。
次に、図２のプロセス状態予測システム１２８の各部の詳細について説明する。
【0045】
（１）電圧変調部２０２による電圧変調処理の詳細
はじめに、電圧変調部２０２による電圧変調処理の詳細について説明する。図３は、電圧変調部による電圧変調処理の流れを示すフローチャートの一例である。
はじめに、電圧変調部２０２による電圧変調処理の詳細について説明する。図３は、電圧変調部による電圧変調処理の流れを示すフローチャートの一例である。
【0046】
ステップＳ３０１において、電圧変調部２０２は、予測結果データのフィードバックがあるか否かを判定する。プロセス状態予測部２０４より予測結果データが出力された場合、電圧変調部２０２は、予測結果データのフィードバックがあると判定し（ステップＳ３０１においてＹＥＳの場合）、ステップＳ３０２に進む。
【0047】
ステップＳ３０２において、電圧変調部２０２は、プロセス状態予測部２０４より、予測結果データを取得し、ステップＳ３０３に進む。
【0048】
一方、ステップＳ３０１において、予測結果データのフィードバックがないと判定した場合（ステップＳ３０１においてＮＯの場合）、直接、ステップＳ３０３に進む。
【0049】
ステップＳ３０３において、電圧変調部２０２は、Ｉ／Ｏ制御部２０１より時系列のセンサデータを取得する。
【0050】
ステップＳ３０４において、電圧変調部２０２は、取得した時系列のセンサデータを電圧データに変換する。このとき、電圧変調部２０２では、ステップＳ３０２において予測結果データを取得していた場合には、当該予測結果データに応じた電圧データに変換する。
【0051】
具体的には、電圧変調部２０２は、時系列のセンサデータに予測結果データを重畳した電圧データに変換する。この場合、変換後の電圧データに対応する電圧信号が、多電極Ｉ／Ｏチップ２０３の各入力側電極（後述）に入力される。あるいは、電圧変調部２０２は、時系列のセンサデータと予測結果データとを、それぞれの電圧データに変換してもよい。この場合、変換後のそれぞれの電圧データに対応する電圧信号が、多電極Ｉ／Ｏチップ２０３の対応する入力側電極にそれぞれ入力される。
【0052】
ステップＳ３０５において、電圧変調部２０２は、電圧データを、多電極Ｉ／Ｏチップ２０３に入力する。
【0053】
（２）多電極Ｉ／Ｏチップ２０３の機能構成の詳細及び入出力処理の詳細
次に、多電極Ｉ／Ｏチップ２０３の機能構成の詳細及び多電極Ｉ／Ｏチップ２０３による入出力処理の詳細について説明する。
次に、多電極Ｉ／Ｏチップ２０３の機能構成の詳細及び多電極Ｉ／Ｏチップ２０３による入出力処理の詳細について説明する。
【0054】
（２－１）多電極Ｉ／Ｏチップ２０３の機能構成の詳細
はじめに、多電極Ｉ／Ｏチップ２０３の機能構成の詳細について説明する。図４は、多電極Ｉ／Ｏチップの機能構成の一例を示す図である。
はじめに、多電極Ｉ／Ｏチップ２０３の機能構成の詳細について説明する。図４は、多電極Ｉ／Ｏチップの機能構成の一例を示す図である。
【0055】
図４に示すように、多電極Ｉ／Ｏチップ２０３は、Ｄ／Ａ変換部４０１と、ナノ分子リザーバ４０２と、読み出し機能部４０３とを有する。
【0056】
Ｄ／Ａ変換部４０１は変換部の一例であり、電圧変調部２０２により入力された電圧データをＤ／Ａ変換することでアナログの電圧信号を生成し、ナノ分子リザーバ４０２に入力する。
【0057】
ナノ分子リザーバ４０２は、ＰＯＭ分子とカーボンナノチューブによって構成される"物理リザーバ"の一種である。
【0058】
なお、"物理リザーバ"とは、コンピュータ上に存在するリザーバではなく、現実世界に物理的に存在する（または存在し得る）"リザーバ"を指す。
【0059】
また、"リザーバ"とは、複数の"リザーバノード"を相互結合させた複雑系のネットワークを指し、過去から現在までの電圧信号の入力に対するリザーバ特徴量を保持する。一般に、リザーバの入力側電極数は、リザーバノードの数よりも少なく、低次元の入力が多次元のリザーバにマップされる。
【0060】
また、"リザーバノード"とは、リザーバにおける基本構成要素を指す。リザーバノードは、１つまたは複数の電圧信号の入力を受け、その値（またはそれらの値）を線形変換または非線形変換して、電流信号を出力する。リザーバノードは、静的素子ではなく動的素子（現在の自ノードの状態及び結合されている他ノードの状態から、次の時刻の自ノードの状態が決定されるもの）である。なお、リザーバノードによる電流信号の出力は、過去の電圧信号の入力を忘却しながら現在の電圧信号の入力に追従する。
【0061】
読み出し機能部４０３は読み出し部の一例であり、ナノ分子リザーバ４０２から電流信号を読み出し、電圧データに変換したうえで、リザーバ特徴量としてプロセス状態予測部２０４に出力する。
【0062】
このように、ナノ分子リザーバを用いる構成とすることで、多電極Ｉ／Ｏチップ２０３によれば、センサデータにおいて出現する短い挙動を捉えてリザーバ特徴量を出力することできる。なお、本願出願人によれば、ナノ分子リザーバ４０２に電圧信号を入力してから、読み出し機能部４０３が電流信号を読み出し、リザーバ特徴量として出力するまでの周期として、１μ秒以下を実現している。
【0063】
（２－２）多電極Ｉ／Ｏチップ２０３による入出力処理の詳細
次に、多電極Ｉ／Ｏチップ２０３による入出力処理の詳細について説明する。図５は、多電極Ｉ／Ｏチップによる入出力処理の流れを示すフローチャートの一例である。
次に、多電極Ｉ／Ｏチップ２０３による入出力処理の詳細について説明する。図５は、多電極Ｉ／Ｏチップによる入出力処理の流れを示すフローチャートの一例である。
【0064】
ステップＳ５０１において、多電極Ｉ／Ｏチップ２０３は電圧データをＤ／Ａ変換し、電圧信号を生成する。
【0065】
ステップＳ５０２において、多電極Ｉ／Ｏチップ２０３は、電圧信号をナノ分子リザーバ４０２に入力する。
【0066】
ステップＳ５０３において、多電極Ｉ／Ｏチップ２０３は、ナノ分子リザーバ４０２より、電流信号を読み出す。
【0067】
ステップＳ５０４において、多電極Ｉ／Ｏチップ２０３は、読み出した電流信号をＡ／Ｄ変換し、電流データを生成する。
【0068】
ステップＳ５０５において、多電極Ｉ／Ｏチップ２０３は、電流データを、リザーバ特徴量としてプロセス状態予測部２０４に出力する。
【0069】
（３）多電極Ｉ／Ｏチップ２０３のハードウェア構成
次に、多電極Ｉ／Ｏチップ２０３のハードウェア構成について説明する。
次に、多電極Ｉ／Ｏチップ２０３のハードウェア構成について説明する。
【0070】
（３－１）多電極Ｉ／Ｏチップ２０３のハードウェア構成の詳細１
図６は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第１の図であり、（ａ）～（ｃ）は、それぞれ、多電極Ｉ／Ｏチップ２０３の上面図、Ａ－Ａ'断面図、下面図を表している。また、（ｄ）は、多電極Ｉ／Ｏチップ２０３の構成を特定する調整項目を表している。一般に、多電極Ｉ／Ｏチップ２０３の構成を特定する調整項目には、複数の調整項目が含まれる（調整項目６００参照）。このうち、図６では、（ａ）～（ｄ）を参照しながら、
・入力側電極数、
・リザーバノード数、
・リザーバノードへの入力重みパラメータ、
・リザーバノード間の結合重みパラメータ、
・出力側電極数、
について説明する。
図６は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第１の図であり、（ａ）～（ｃ）は、それぞれ、多電極Ｉ／Ｏチップ２０３の上面図、Ａ－Ａ'断面図、下面図を表している。また、（ｄ）は、多電極Ｉ／Ｏチップ２０３の構成を特定する調整項目を表している。一般に、多電極Ｉ／Ｏチップ２０３の構成を特定する調整項目には、複数の調整項目が含まれる（調整項目６００参照）。このうち、図６では、（ａ）～（ｄ）を参照しながら、
・入力側電極数、
・リザーバノード数、
・リザーバノードへの入力重みパラメータ、
・リザーバノード間の結合重みパラメータ、
・出力側電極数、
について説明する。
【0071】
図６に示す多電極Ｉ／Ｏチップ２０３において、Ｄ／Ａ変換部４０１は白長方形で示されている（図６（ｂ）参照）。Ｄ／Ａ変換部４０１は、入力側電極６１０に電圧信号を入力する。図６（ａ）の上面図の例の場合、「入力側電極数」（多電極Ｉ／Ｏチップ２０３の入力側電極６１０の数）は、１６個である。
【0072】
【0073】
また、図６に示す多電極Ｉ／Ｏチップ２０３において、複数のリザーバノードは相互結合されている（図６（ｂ）参照）。そして、入力側電極６１０に接している複数のリザーバノードに対しては、Ｄ／Ａ変換部４０１から、電圧信号が、「リザーバノードへの入力重みパラメータ」のもとで入力される。具体的には、図６（ｂ）に示すＡ－Ａ'断面図の入力側電極６１０の直下にあるリザーバノードに、電圧信号が、リザーバノードへの入力重みパラメータのもとで入力される。
【0074】
更に、相互結合されている複数のリザーバノードには、他のリザーバノードの出力信号が、「リザーバノード間の結合重みパラメータ」のもとで入力される（図６（ｂ）に示すＡ－Ａ'断面図のうち、黒丸印から他の黒丸印に向かう実線参照）。
【0075】
なお、「リザーバノードへの入力重みパラメータ」は、具体的には、電圧信号を入力する入力側電極と電圧源との間の抵抗値の逆数に基づいて決まる。また、「リザーバノード間の結合重みパラメータ」は、具体的には、ＰＯＭ分子間の距離の逆数によって決まる。
【0076】
また、図６に示す多電極Ｉ／Ｏチップ２０３において、読み出し機能部４０３内に示す白長方形は、リザーバ特徴量を読み出す出力側電極６２０の外部出力端を示している。そして、複数のリザーバノードのうち、読み出しノードの出力信号（電流信号）は、読み出し機能部４０３の外部出力端より読み出される。図６（ｃ）の下面図の例の場合、「出力側電極数」は１６個である。
【0077】
（３－２）多電極Ｉ／Ｏチップ２０３のハードウェア構成の詳細２
多電極Ｉ／Ｏチップ２０３内のハードウェア構成の詳細について更に説明する。図７は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第２の図であり、多電極Ｉ／Ｏチップ２０３の構成を特定する調整項目６００（図６）を説明するための図である。図７では、このうち、
・ＰＯＭ分子の電荷蓄積数、
・対地容量、
について説明する。
多電極Ｉ／Ｏチップ２０３内のハードウェア構成の詳細について更に説明する。図７は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第２の図であり、多電極Ｉ／Ｏチップ２０３の構成を特定する調整項目６００（図６）を説明するための図である。図７では、このうち、
・ＰＯＭ分子の電荷蓄積数、
・対地容量、
について説明する。
【0078】
図７（ａ）はナノ分子リザーバ４０２の上面図である。図７（ａ）に示すように、ナノ分子リザーバ４０２は、ＰＯＭ分子（黒丸印）を含み、カーボンナノチューブ（ＰＯＭ分子間に示した直線）により結合されている。ＰＯＭ分子とは、ポリ酸分子であり、電荷を蓄積し、蓄積量が閾値を超えると、蓄積した電荷を放出する特性を有する。「ＰＯＭ分子の電荷蓄積数」とは、このときの蓄積量の閾値（ＰＯＭ分子が電荷を蓄積し、放出するときの電荷量の閾値）を指す。この閾値は、ナノ分子リザーバ４０２が置かれる環境（電荷蓄積数に影響を及ぼす可能性のある環境値（湿度など））により調整される。なお、適切な閾値に調整するために、ナノ分子リザーバ４０２の作成時及び／または運用時には、環境値（湿度など）が一定に制御されるように構成してもよい。
【0079】
図７（ｂ）は、ナノ分子リザーバ４０２を側面から見た場合のＰＯＭ分子と基板の電極（不図示）との間に存在する誘電体の厚みと、対地容量との関係を示すグラフである。図７（ｂ）に示すように、ＰＯＭ分子と基板の電極（不図示）との間の誘電体が薄い場合、「対地容量」は大きくなり、ＰＯＭ分子１個の電圧変動が基板を介して他のＰＯＭ分子に影響する。一方、ＰＯＭ分子と基板の電極（不図示）との間の誘電体が厚い場合、「対地容量」は小さくなり、ＰＯＭ分子１個の電圧変動が基板を介して他のＰＯＭ分子に影響することはない。
【0080】
より具体的に説明すると、ＰＯＭ分子１個の電圧が変動した場合、対地容量を持つ寄生キャパシタ（ＰＯＭ分子と基板とにより誘電体が挟まれた構造において生じるキャパシタ）を介して、基板の電圧が変動する。基板は他のＰＯＭ分子とも共通しているので、基板の電圧が変動すると、その変動は他のＰＯＭ分子の電圧変動にも影響する。そして、このときの影響の度合いは、対地容量（つまり、誘電体の厚み）によって決まる。
【0081】
このため、多電極Ｉ／Ｏチップ２０３では、ＰＯＭ分子の電流信号として、プロセス状態の予測に最適なリザーバ特徴量が出力されるよう、誘電体の厚みが適切に調整されている。
【0082】
なお、ナノ分子リザーバ４０２の「対地容量」は、リザーバノードにおける過去データの寄与率（漏れ率）を決定する調整項目である。
【0083】
（３－３）多電極Ｉ／Ｏチップ２０３のハードウェア構成の詳細３
多電極Ｉ／Ｏチップ２０３内のハードウェア構成の詳細について更に説明する。図８及び図９は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第３及び第４の図であり、多電極Ｉ／Ｏチップ２０３の構成を特定する調整項目６００（図６）を説明するための図である。図８及び図９では、このうち、
・ネットワーク形状（カーボンナノチューブの連結数、ＰＯＭ分子の濃度分布）
について説明する。
多電極Ｉ／Ｏチップ２０３内のハードウェア構成の詳細について更に説明する。図８及び図９は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第３及び第４の図であり、多電極Ｉ／Ｏチップ２０３の構成を特定する調整項目６００（図６）を説明するための図である。図８及び図９では、このうち、
・ネットワーク形状（カーボンナノチューブの連結数、ＰＯＭ分子の濃度分布）
について説明する。
【0084】
図８（ａ）は、ナノ分子リザーバ４０２におけるＰＯＭ分子（黒丸印）とカーボンナノチューブ（ＰＯＭ分子間に示した直線、図中はＣＮＴと表記）との関係を模式的に示したものである。ただし、説明の簡略化のため、図８（ａ）では、一次元に配列した場合を示している。ナノ分子リザーバ４０２におけるＰＯＭ分子及びカーボンナノチューブの連結数が増えると、リザーバノード数が増える。
【0085】
ここで、ＰＯＭ分子とカーボンナノチューブは、それぞれ抵抗を有する。また、カーボンナノチューブの抵抗値は均一ではなくばらつきを有する（Ｒ１、Ｒ２、Ｒ３、Ｒ４、・・・）。このため、入力側電極を介して電圧信号が入力された場合に、出力側電極を介して出力される電流信号は、
・入力側電極６１０と出力側電極６２０との間におけるＰＯＭ分子とカーボンナノチューブの連結数が少ない場合、時間的にランダムに変動し、
・入力側電極６１０と出力側電極６２０との間におけるＰＯＭ分子とカーボンナノチューブの連結数が多い場合、時間的にランダムに変動せず、一定値となる、
という特性を有することになる。
・入力側電極６１０と出力側電極６２０との間におけるＰＯＭ分子とカーボンナノチューブの連結数が少ない場合、時間的にランダムに変動し、
・入力側電極６１０と出力側電極６２０との間におけるＰＯＭ分子とカーボンナノチューブの連結数が多い場合、時間的にランダムに変動せず、一定値となる、
という特性を有することになる。
【0086】
ここで、ナノ分子リザーバ４０２を用いてリザーバ特徴量を出力する場合、電流信号は、時間的にランダムに変動しないことが必要である。このため、入力側電極６１０と出力側電極６２０との間におけるＰＯＭ分子とカーボンナノチューブの連結数は、電流信号が時間的にランダムに変動しないレベルに調整されることになる。
【0087】
図８（ｂ）は、入力側電極６１０と出力側電極６２０との間におけるＰＯＭ分子とカーボンナノチューブの連結数と、電流信号の時間的ゆらぎの大きさとの関係をグラフ化したものである。本実施形態では、図８（ｂ）に示すグラフに基づいて、時間的ゆらぎが所定の閾値を下回る連結数を予め導出しておき、導出した連結数を上回るように、「ネットワーク形状（ＣＮＴの連結数）」が調整されている。
【0088】
続いて、ネットワーク形状（ＰＯＭ分子の濃度分布）について説明する。図９（ａ）は、「ネットワーク形状（ＰＯＭ分子の濃度分布）」が不均一の場合のネットワーク形状を示している。このように、ＰＯＭ分子の液滴の濃度が不均一になるようにナノ分子リザーバ４０２を作成することで、ナノ分子リザーバ４０２には、ＰＯＭ分子が粗の領域と、密の領域とが含まれることになる。また、このようなＰＯＭ分子の濃度分布に応じて電極を配置する構成とすることで、１つのリザーバノードに含まれるＰＯＭ分子の数を増やすことができる（符号９０１、９０２参照）。これにより、ナノ分子リザーバ４０２に好ましくない確率的なリザーバノードの非線形特性を、非確率的にすることができる。
【0089】
一方、図９（ｂ）は、「ネットワーク形状（ＰＯＭ分子の濃度分布）」が均一の場合のネットワーク構成を有するナノ分子リザーバ４０２を示している。このように、ＰＯＭ分子の液滴の濃度が均一になるようにナノ分子リザーバ４０２を作成することで、ナノ分子リザーバ４０２において、複数階層のネットワーク構成を実現することができる。
【0090】
（３－４）多電極Ｉ／Ｏチップ２０３のハードウェア構成の詳細４
多電極Ｉ／Ｏチップ２０３内のハードウェア構成の詳細について更に説明する。図１０は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第５の図であり、多電極Ｉ／Ｏチップ２０３の構成を特定する調整項目６００（図６）を説明するための図である。図１０では、このうち、
・電極の形状、
・読み出し電流の積分時間、
について説明する。
多電極Ｉ／Ｏチップ２０３内のハードウェア構成の詳細について更に説明する。図１０は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第５の図であり、多電極Ｉ／Ｏチップ２０３の構成を特定する調整項目６００（図６）を説明するための図である。図１０では、このうち、
・電極の形状、
・読み出し電流の積分時間、
について説明する。
【0091】
【0092】
図１０に示すように、電圧源１００１、１００２は、スイッチ１００３、抵抗１００４、入力側電極６１０を介して、ナノ分子リザーバ４０２に電圧を印加する。このとき、スイッチ１００３のＯＮ／ＯＦＦにより、リザーバノードへの電圧信号の入力が調整される。また、抵抗１００４の値を調整することで、「入力重みパラメータ」が調整される。
【0093】
【0094】
図１０（ｂ）の符号１０１０に示すように、電流信号は、出力側電極６２０、低ノイズアンプ１０１１、電圧制御型発振器を用いたＡ／Ｄ変換器１０１２を介して、ＰＯＭ分子全体から読み出される。
【0095】
なお、入力側電極６１０と出力側電極６２０との間の電界が、ＰＯＭ分子のネットワークに集中するように、入力側電極６１０及び出力側電極６２０の「電極の形状」は、尖端形状に構成される。
【0096】
また、図１０（ｂ）に示すように、出力側電極６２０は、ｎＭＯＳＦＥＴ１０２０に接続される。ｎＭＯＳＦＥＴ１０２０において、ゲート１０２３（φＲＳＴ）に電圧が印加されると、ドレイン１０２２とソース１０２１との間が電気的に接続される（ＯＮ状態になる）。また、ｎＭＯＳＦＥＴ１０２０において、ゲート１０２３（φＲＳＴ）がＧＮＤに接続されると、ドレイン１０２２とソース１０２１との間が電気的に切断される（ＯＦＦ状態になる）。
【0097】
そして、ｎＭＯＳＦＥＴ１０２０がＯＦＦ状態になると、ソース１０２１は電気的に浮遊状態となる（低ノイズアンプ１０１１の入力端子（－）、及び、出力側電極６２０も電気的に浮遊状態となる）。
【0098】
ここで、ソース１０２１は拡散層であるため、かかる構成を有するソースはＦＤ（Floating Diffusion）と呼ばれる。そして、浮遊拡散領域であるソース１０２１において電流信号が積分されることで、電流信号のノイズ除去及び平滑化が行われ。なお、このときの積分時間である「読み出し電流の積分時間」は任意に調整することが可能である。
【0099】
図１０（ｃ）は、ｎＭＯＳＦＥＴ１０２０の動作例を示している。図１０（ｃ）に示すように、ｎＭＯＳＦＥＴ１０２０は以下の順序で動作する。
（Ｉ）ｎＭＯＳＦＥＴ１０２０をＯＮ状態にし、ソース１０２１の電圧をＶＲＳＴに設定する（ソース１０２１を完全充電する）。
（ＩＩ）ｎＭＯＳＦＥＴ１０２０をＯＦＦ状態にし、ソース１０２１をドレイン１０２２から電気的に切断する（これにより、ソース１０２１は電気的に浮遊状態となる）。
（ＩＩＩ）ソース１０２１に蓄積された電荷が、出力側電極６２０を介して変動すると、ソース１０２１の電圧が変化する。ソース１０２１の容量は極めて少ないため、ソース１０２１の電圧変動量は大きくなる。
（ＩＶ）上記（ＩＩＩ）のソース１０２１の電流信号は、低ノイズアンプ１０１１に入力され、Ａ／Ｄ変換器１０１２においてＡ／Ｄ変換される。
（Ｉ）ｎＭＯＳＦＥＴ１０２０をＯＮ状態にし、ソース１０２１の電圧をＶＲＳＴに設定する（ソース１０２１を完全充電する）。
（ＩＩ）ｎＭＯＳＦＥＴ１０２０をＯＦＦ状態にし、ソース１０２１をドレイン１０２２から電気的に切断する（これにより、ソース１０２１は電気的に浮遊状態となる）。
（ＩＩＩ）ソース１０２１に蓄積された電荷が、出力側電極６２０を介して変動すると、ソース１０２１の電圧が変化する。ソース１０２１の容量は極めて少ないため、ソース１０２１の電圧変動量は大きくなる。
（ＩＶ）上記（ＩＩＩ）のソース１０２１の電流信号は、低ノイズアンプ１０１１に入力され、Ａ／Ｄ変換器１０１２においてＡ／Ｄ変換される。
【0100】
（４）プロセス状態予測部２０４の機能構成の詳細
次に、プロセス状態予測部２０４の機能構成の詳細について説明する。上述したように、プロセス状態予測部２０４は、複数の期間のもとで動作する。そこで、以下では、まず、各期間の遷移図を用いて各期間の関係について説明し、続いて期間ごとのプロセス状態予測部２０４の機能構成について説明する。
次に、プロセス状態予測部２０４の機能構成の詳細について説明する。上述したように、プロセス状態予測部２０４は、複数の期間のもとで動作する。そこで、以下では、まず、各期間の遷移図を用いて各期間の関係について説明し、続いて期間ごとのプロセス状態予測部２０４の機能構成について説明する。
【0101】
（４－１）各期間の関係
図１１は、プロセス状態予測部が遷移する各期間の遷移図の一例である。図１１に示すように、プロセス状態予測システム１２８による処理が開始されると、プロセス状態予測部２０４では、いずれかの期間（学習期間、予測期間、再学習期間のいずれかの期間）に移行して動作を開始する。ただし、ここでは、説明の簡略化のため、学習期間に移行して動作を開始する場合について説明する。
図１１は、プロセス状態予測部が遷移する各期間の遷移図の一例である。図１１に示すように、プロセス状態予測システム１２８による処理が開始されると、プロセス状態予測部２０４では、いずれかの期間（学習期間、予測期間、再学習期間のいずれかの期間）に移行して動作を開始する。ただし、ここでは、説明の簡略化のため、学習期間に移行して動作を開始する場合について説明する。
【0102】
管理装置１２３から切替情報が入力され、学習期間に移行すると（矢印１１０１）、プロセス状態予測部２０４では、リザーバ特徴量とプロセス状態データ（正解データ）とを用いて、所定の学習時間分の学習処理を行い、重みパラメータを算出する。
【0103】
プロセス状態予測部２０４は、学習処理が終了すると終了情報を出力し、管理装置１２３から切替情報が入力されることで、予測期間に移行する（矢印１１０２）。予測期間において、プロセス状態予測部２０４は、算出した重みパラメータのもとで予測処理を行うことで、リザーバ特徴量に基づき予測結果データを出力する。
【0104】
予測期間においてプロセス状態予測部２０４が予測処理を行っている間、管理装置１２３では、再学習が必要であるか否かを判定し、再学習が必要であると判定した場合には、プロセス状態予測部２０４に切替情報を入力する。これにより、プロセス状態予測部２０４は、再学習期間に移行する（矢印１１０３）。
【0105】
再学習期間において、プロセス状態予測部２０４は、学習パラメータセット（詳細は後述）を変更しながら、再学習処理を行うことで、学習パラメータセットごとに重みパラメータを算出する。続いて、プロセス状態予測部２０４は、算出したそれぞれの重みパラメータが設定された状態で予測処理を行い、予測結果データを出力する。また、管理装置１２３は、許容範囲内で、かつ、予測精度の最も高い予測結果データに対応する重みパラメータを特定し、プロセス状態予測部２０４に切替情報を入力する。これにより、プロセス状態予測部２０４は、予測期間に移行する（矢印１１０４）。
【0106】
（４－２）学習期間におけるプロセス状態予測部２０４の機能構成
次に、各期間におけるプロセス状態予測部２０４の機能構成について説明する。はじめに、学習期間におけるプロセス状態予測部２０４の機能構成について説明する。図１２は、プロセス状態予測部の学習期間における機能構成の一例を示す図である。
次に、各期間におけるプロセス状態予測部２０４の機能構成について説明する。はじめに、学習期間におけるプロセス状態予測部２０４の機能構成について説明する。図１２は、プロセス状態予測部の学習期間における機能構成の一例を示す図である。
【0107】
図１２に示すように、プロセス状態予測部２０４は、学習期間において、逐次最小二乗法によるＦＯＲＣＥ学習部１２００として機能する。なお、本実施形態において、逐次最小二乗法によるＦＯＲＣＥ学習部１２００には、"学習パラメータセット０"が設定されており、ＦＯＲＣＥ学習部１２００では、以下の処理手順（符号１２０１参照）により、逐次最小二乗法によるＦＯＲＣＥ学習処理を行う。なお、以下の各図の図中における"τ"は、プロセス状態予測部２０４の時間軸を表し、これは、実時間（ｔ）から１クロック遅れた時刻となる（τ＝ｔ－１）。したがって、例えば、図中のＳ（τ＋１）を実時間で表すと、Ｓ（ｔ）となる。
【0108】
１）出力データの算出
ＦＯＲＣＥ学習部１２００は、リザーバ特徴量（Ｒベクトル）を取得すると、逐次重みパラメータ（Ｗベクトル）を転置した転置ベクトルをかけ合わせることで、出力データ（Ｚ）を算出する。なお、本実施形態において、逐次重みパラメータ（Ｗベクトル）とは、逐次最小二乗法によるＦＯＲＣＥ学習処理の過程で逐次更新される重みパラメータを指す。
ＦＯＲＣＥ学習部１２００は、リザーバ特徴量（Ｒベクトル）を取得すると、逐次重みパラメータ（Ｗベクトル）を転置した転置ベクトルをかけ合わせることで、出力データ（Ｚ）を算出する。なお、本実施形態において、逐次重みパラメータ（Ｗベクトル）とは、逐次最小二乗法によるＦＯＲＣＥ学習処理の過程で逐次更新される重みパラメータを指す。
【0109】
２）誤差の算出
ＦＯＲＣＥ学習部１２００は、出力データ（Ｚ）とプロセス状態データ（Ｓ）との間の誤差（ｅ）を算出する。
ＦＯＲＣＥ学習部１２００は、出力データ（Ｚ）とプロセス状態データ（Ｓ）との間の誤差（ｅ）を算出する。
【0110】
３）係数行列の算出
ＦＯＲＣＥ学習部１２００は、逐次重みパラメータ（Ｗベクトル）を算出するのに用いる係数行列（Ｐ行列）を算出する。
ＦＯＲＣＥ学習部１２００は、逐次重みパラメータ（Ｗベクトル）を算出するのに用いる係数行列（Ｐ行列）を算出する。
【0111】
４）逐次重みパラメータの算出
ＦＯＲＣＥ学習部１２００は、算出した誤差（ｅ）と、取得したリザーバ特徴量（Ｒベクトル）と、算出した係数行列（Ｐ行列）とに基づいて、逐次重みパラメータ（Ｗベクトル）を更新する。
ＦＯＲＣＥ学習部１２００は、算出した誤差（ｅ）と、取得したリザーバ特徴量（Ｒベクトル）と、算出した係数行列（Ｐ行列）とに基づいて、逐次重みパラメータ（Ｗベクトル）を更新する。
【0112】
ＦＯＲＣＥ学習部１２００では、上記１）～４）の処理を、所定の学習時間分繰り返すことで、重みパラメータを算出する。
【0113】
（４－３）予測期間におけるプロセス状態予測部２０４の機能構成
次に、予測期間におけるプロセス状態予測部２０４の機能構成について説明する。図１３は、プロセス状態予測部の予測期間における機能構成の一例を示す図である。
次に、予測期間におけるプロセス状態予測部２０４の機能構成について説明する。図１３は、プロセス状態予測部の予測期間における機能構成の一例を示す図である。
【0114】
図１３に示すように、プロセス状態予測部２０４は、予測期間において、逐次最小二乗法によるＦＯＲＣＥ学習部１３００として機能する。本実施形態において、ＦＯＲＣＥ学習部１３００は、ＦＯＲＣＥ学習部１２００においてＦＯＲＣＥ学習処理が行われることで算出された重みパラメータが設定され、予測結果データ（Ｚ）を出力可能な状態を指す。ＦＯＲＣＥ学習部１３００では、以下の処理手順（符号１３０１参照）により予測処理を行う。
【0115】
１）ＦＯＲＣＥ学習部１３００は、ＦＯＲＣＥ学習処理が行われることで算出された重みパラメータ（Ｗベクトル）を設定する。
【0116】
２）ＦＯＲＣＥ学習部１３００は、リザーバ特徴量（Ｒベクトル）を取得すると、重みパラメータ（Ｗベクトル）を転置した転置ベクトルをかけ合わせることで、予測結果データ（Ｚ）を出力する。
【0117】
（４－４）再学習期間におけるプロセス状態予測部２０４の機能構成
次に、再学習期間におけるプロセス状態予測部２０４の機能構成について説明する。図１４及び図１５は、プロセス状態予測部の再学習期間における機能構成の一例を示す第１及び第２の図である。
次に、再学習期間におけるプロセス状態予測部２０４の機能構成について説明する。図１４及び図１５は、プロセス状態予測部の再学習期間における機能構成の一例を示す第１及び第２の図である。
【0118】
図１４、図１５に示すように、プロセス状態予測部２０４は、再学習期間において、逐次最小二乗法によるＦＯＲＣＥ学習部１２００＿１～１２００＿Ｍ、及び、逐次最小二乗法によるＦＯＲＣＥ学習部１３００＿１～１３００＿Ｍとして機能する。
【0119】
本実施形態において、図１４のＦＯＲＣＥ学習部１２００＿１には、"学習パラメータセット１"が設定されており、図１２で説明した処理手順（符号１２０１参照）により、逐次最小二乗法によるＦＯＲＣＥ学習処理が行われる。
【0120】
また、本実施形態において、図１５のＦＯＲＣＥ学習部１３００＿１は、ＦＯＲＣＥ学習部１２００＿１においてＦＯＲＣＥ学習処理が行われることで算出された重みパラメータが設定され、予測結果データ（Ｚ）を出力可能な状態を指す。ＦＯＲＣＥ学習部１３００＿１は、リザーバ特徴量を取得すると、重みパラメータを転置した転置ベクトルをかけ合わせることで、予測結果データを出力する。
【0121】
【0122】
また、本実施形態において、図１５のＦＯＲＣＥ学習部１３００＿２は、ＦＯＲＣＥ学習部１２００＿２においてＦＯＲＣＥ学習処理が行われることで算出された重みパラメータが設定され、予測結果データ（Ｚ）を出力可能な状態を指す。ＦＯＲＣＥ学習部１３００＿２は、リザーバ特徴量を取得すると、重みパラメータを転置した転置ベクトルをかけ合わせることで、予測結果データを出力する。
【0123】
【0124】
また、本実施形態において、図１５のＦＯＲＣＥ学習部１３００＿Ｍは、ＦＯＲＣＥ学習部１２００＿ＭにおいてＦＯＲＣＥ学習処理が行われることで算出された重みパラメータが設定され、予測結果データ（Ｚ）を出力可能な状態を指す。ＦＯＲＣＥ学習部１３００＿Ｍは、リザーバ特徴量を取得すると、重みパラメータを転置した転置ベクトルをかけ合わせることで、予測結果データを出力する。
【0125】
なお、上述したように、再学習期間において図１４、図１５に示す機能構成のもとで処理が終了すると、再び、予測期間に移行し、図１３に示す機能構成のもとで処理が行われる。ただし、再学習後の予測期間の場合、プロセス状態予測部２０４は、逐次最小二乗法によるＦＯＲＣＥ学習部１３００＿Ｘとして機能する。ここでいうＦＯＲＣＥ学習部１３００＿Ｘとは、ＦＯＲＣＥ学習部１３００＿１～１３００＿Ｍのうち、
・"学習パラメータセットＸ"が設定されたＦＯＲＣＥ学習部であって、
・出力した予測結果データが所定の許容範囲にあり、かつ、予測精度が最も高い重みパラメータが設定されたＦＯＲＣＥ学習部、
を指す。なお、学習パラメータセットＸは、出力した予測結果データが所定の許容範囲にあり、かつ、予測精度が最も高い重みパラメータが算出された際の学習パラメータセットである。
・"学習パラメータセットＸ"が設定されたＦＯＲＣＥ学習部であって、
・出力した予測結果データが所定の許容範囲にあり、かつ、予測精度が最も高い重みパラメータが設定されたＦＯＲＣＥ学習部、
を指す。なお、学習パラメータセットＸは、出力した予測結果データが所定の許容範囲にあり、かつ、予測精度が最も高い重みパラメータが算出された際の学習パラメータセットである。
【0126】
（４）逐次最小二乗法によるＦＯＲＣＥ学習部のハードウェア構成の詳細
次に、逐次最小二乗法によるＦＯＲＣＥ学習部１２００、１２００＿１～１２００＿Ｍ、１３００、１３００＿１～１３００＿Ｍとして機能するＦＯＲＣＥ学習部のハードウェア構成について説明する。なお、本実施形態において、ＦＯＲＣＥ学習部１２００、１２００＿１～１２００＿Ｍ、１３００、１３００＿１～１３００＿Ｍは、共通のハードウェアを用いるため、以下では、ＦＯＲＣＥ学習部１２００のハードウェア構成として説明する。
次に、逐次最小二乗法によるＦＯＲＣＥ学習部１２００、１２００＿１～１２００＿Ｍ、１３００、１３００＿１～１３００＿Ｍとして機能するＦＯＲＣＥ学習部のハードウェア構成について説明する。なお、本実施形態において、ＦＯＲＣＥ学習部１２００、１２００＿１～１２００＿Ｍ、１３００、１３００＿１～１３００＿Ｍは、共通のハードウェアを用いるため、以下では、ＦＯＲＣＥ学習部１２００のハードウェア構成として説明する。
【0127】
（４－１）全体構成
図１６は、逐次最小二乗法によるＦＯＲＣＥ学習部のハードウェア構成の一例を示す図である。
図１６は、逐次最小二乗法によるＦＯＲＣＥ学習部のハードウェア構成の一例を示す図である。
【0128】
図１６に示すように、逐次最小二乗法によるＦＯＲＣＥ学習部１２００は、
・ＰＥ（Processing Element）として機能する複数のＦＰＧＡ（Field Programmable Gate Array）と（図１６の例では、２５個）、
・ＦＰＥ（Functional PE）として機能する複数のＦＰＧＡと（図１６の例では、５個）、
を有する。なお、図１６において、ＦＰＧＡの部分は、専用のチップにより実現されてもよい。
・ＰＥ（Processing Element）として機能する複数のＦＰＧＡ（Field Programmable Gate Array）と（図１６の例では、２５個）、
・ＦＰＥ（Functional PE）として機能する複数のＦＰＧＡと（図１６の例では、５個）、
を有する。なお、図１６において、ＦＰＧＡの部分は、専用のチップにより実現されてもよい。
【0129】
このうち、ＰＥとして機能する複数のＦＰＧＡは、それぞれ、図１２を用いて説明した逐次最小二乗法によるＦＯＲＣＥ学習の処理手順１）～４）のうち、３）係数行列の算出を実行する。具体的には、ＰＥとして機能する複数のＦＰＧＡは、それぞれ、以下の手順により係数行列（Ｐ行列）を算出する。
（ｉ）信号線１６０１を介して、リザーバ特徴量（Ｒベクトル）の一部が入力されると、係数行列（Ｐ行列）の一部との積を算出し、算出結果を、信号線１６０２を介して、隣接するＦＰＧＡに転送する。
（ｉｉ）ＦＰＥとして機能するＦＰＧＡより、信号線１６０３を介して、リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積を算出するための行列を取得する。また、取得した行列を用いて、リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積を算出する。
（ｉｉｉ）ＦＰＥとして機能するＦＰＧＡより、信号線１６０４を介して、リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと、係数行列（Ｐ行列）の一部と、リザーバ特徴量（Ｒベクトル）の一部との積の算出結果を取得する。
（ｉｖ）上記（ｉ）～（ｉｉｉ）を実行することで算出した算出結果、または、取得した取得結果を用いて、係数行列（Ｐ行列）の全体を更新する。
（ｉ）信号線１６０１を介して、リザーバ特徴量（Ｒベクトル）の一部が入力されると、係数行列（Ｐ行列）の一部との積を算出し、算出結果を、信号線１６０２を介して、隣接するＦＰＧＡに転送する。
（ｉｉ）ＦＰＥとして機能するＦＰＧＡより、信号線１６０３を介して、リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積を算出するための行列を取得する。また、取得した行列を用いて、リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積を算出する。
（ｉｉｉ）ＦＰＥとして機能するＦＰＧＡより、信号線１６０４を介して、リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと、係数行列（Ｐ行列）の一部と、リザーバ特徴量（Ｒベクトル）の一部との積の算出結果を取得する。
（ｉｖ）上記（ｉ）～（ｉｉｉ）を実行することで算出した算出結果、または、取得した取得結果を用いて、係数行列（Ｐ行列）の全体を更新する。
【0130】
なお、ＰＥとして機能する複数のＦＰＧＡは、それぞれ、上記（ｉ）～（ｉｖ）を繰り返し実行する。
【0131】
一方、ＦＰＥとして機能する複数のＦＰＧＡは、それぞれ、図１２を用いて説明した逐次最小二乗法によるＦＯＲＣＥ学習処理の処理手順１）～４）のうち、４）逐次重みパラメータの算出と、１）出力データの算出とを実行する。具体的には、ＦＰＥとして機能する複数のＦＰＧＡは、それぞれ、以下の手順により、逐次重みパラメータ及び出力データを算出する。
（ｉ）ＰＥとして機能するＦＰＧＡより、信号線１６０２を介して、係数行列（Ｐ行列）の一部とリザーバ特徴量（Ｒベクトル）の一部との積の算出結果を取得する。
（ｉｉ）リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積を算出するための行列を生成し、信号線１６０３を介して、ＰＥとして機能する複数のＦＰＧＡに送信する。
（ｉｉｉ）リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積の算出結果を取得する。また、取得した算出結果に、リザーバ特徴量（Ｒベクトル）の一部をかけ合わせた算出結果を、信号線１６０４を介して、ＰＥとして機能する複数のＦＰＧＡに送信する。
（ｉｖ）逐次重みパラメータ（Ｗベクトル）の一部を転置した転置ベクトルと、信号線１６０１を介して取得したリザーバ特徴量（Ｒベクトル）の一部との積を算出することで、出力データ（Ｚ）の一部を算出する。
（ｖ）誤差（ｅ）を取得し、上記（ｉ）の算出結果を用いて、逐次重みパラメータ（Ｗベクトル）の全体を更新する。
（ｉ）ＰＥとして機能するＦＰＧＡより、信号線１６０２を介して、係数行列（Ｐ行列）の一部とリザーバ特徴量（Ｒベクトル）の一部との積の算出結果を取得する。
（ｉｉ）リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積を算出するための行列を生成し、信号線１６０３を介して、ＰＥとして機能する複数のＦＰＧＡに送信する。
（ｉｉｉ）リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積の算出結果を取得する。また、取得した算出結果に、リザーバ特徴量（Ｒベクトル）の一部をかけ合わせた算出結果を、信号線１６０４を介して、ＰＥとして機能する複数のＦＰＧＡに送信する。
（ｉｖ）逐次重みパラメータ（Ｗベクトル）の一部を転置した転置ベクトルと、信号線１６０１を介して取得したリザーバ特徴量（Ｒベクトル）の一部との積を算出することで、出力データ（Ｚ）の一部を算出する。
（ｖ）誤差（ｅ）を取得し、上記（ｉ）の算出結果を用いて、逐次重みパラメータ（Ｗベクトル）の全体を更新する。
【0132】
なお、ＦＰＥとして機能する複数のＦＰＧＡは、それぞれ、上記（ｉ）～（ｖ）を繰り返し実行する。
【0133】
一方、ＦＰＥとして機能する複数のＦＰＧＡのうち、最終段に位置するＦＰＧＡは、４）逐次重みパラメータの算出、１）出力データの算出に加えて、２）誤差の算出を実行する。具体的には、ＦＰＥとして機能する複数のＦＰＧＡのうち、最終段に位置するＦＰＧＡは、以下の手順により、誤差を算出する。
（ｉ）上段に位置するＦＰＧＡよりそれぞれ取得した出力データ（Ｚ）の一部を全て集計し、プロセス状態データ（Ｓ）との差分を算出することで、誤差（ｅ）を算出する。また、算出した誤差（ｅ）を、上段に位置するＦＰＧＡにそれぞれ送信する。
（ｉ）上段に位置するＦＰＧＡよりそれぞれ取得した出力データ（Ｚ）の一部を全て集計し、プロセス状態データ（Ｓ）との差分を算出することで、誤差（ｅ）を算出する。また、算出した誤差（ｅ）を、上段に位置するＦＰＧＡにそれぞれ送信する。
【0134】
このように、逐次最小二乗法によるＦＯＲＣＥ学習部１２００では、ＰＥとして機能する複数のＦＰＧＡと、ＦＰＥとして機能する複数のＦＰＧＡとを用いて、処理手順１）～４）を実行することで、逐次最小二乗法によるＦＯＲＣＥ学習処理を実現する。
【0135】
（４－２）各ＦＰＧＡの処理の詳細
次に、逐次最小二乗法によるＦＯＲＣＥ学習部１２００に含まれる各ＦＰＧＡの処理の詳細について説明する。
次に、逐次最小二乗法によるＦＯＲＣＥ学習部１２００に含まれる各ＦＰＧＡの処理の詳細について説明する。
【0136】
（４－２－１）ＰＥとして機能するＦＰＧＡの処理の詳細その１
はじめに、ＰＥとして機能するＦＰＧＡの処理の詳細について説明する。上述したように、ＰＥとして機能するＦＰＧＡは、リザーバ特徴量（Ｒベクトル）が入力されると、係数行列（Ｐ行列）との積を算出する。
はじめに、ＰＥとして機能するＦＰＧＡの処理の詳細について説明する。上述したように、ＰＥとして機能するＦＰＧＡは、リザーバ特徴量（Ｒベクトル）が入力されると、係数行列（Ｐ行列）との積を算出する。
【0137】
このとき、逐次最小二乗法によるＦＯＲＣＥ学習部１２００では、縦方向に複数配置された、ＰＥとして機能するＦＰＧＡそれぞれが、係数行列（Ｐ行列）の一部と、リザーバ特徴量（Ｒベクトル）の一部との積を算出する。これにより、逐次最小二乗法によるＦＯＲＣＥ学習部１２００では、互いに異なる係数行列（Ｐ行列）の一部に、同じリザーバ特徴量（Ｒベクトル）の一部をかけ合わせる処理を、並列に行うことができる。
【0138】
また、逐次最小二乗法によるＦＯＲＣＥ学習部１２００では、横方向に複数配置された、ＰＥそれぞれが、時系列データであるリザーバ特徴量（Ｒベクトル）が分割されてなるリザーバ特徴量（Ｒベクトル）の一部の処理を、シリアルに行う。
【0139】
このように、逐次最小二乗法によるＦＯＲＣＥ学習処理を実現する際、並列処理とシリアル処理とを組み合わせることで、１つのＦＰＧＡが演算する演算回数を削減することができる。この結果、逐次最小二乗法によるＦＯＲＣＥ学習部１２００によれば、ＦＯＲＣＥ学習処理を高速化することができる。
【0140】
図１７及び図１８は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される並列処理及びシリアル処理を示す第１及び第２の図である。なお、図１７及び図１８では、説明の簡略化のため、出力側電極数を"４"（リザーバ特徴量（Ｒベクトル）の要素が４つ）としている。また、ＰＥとして機能するＦＰＧＡを、縦方向に２つ、横方向に２つ（計４個）のみ配置した場合を示している（ＦＰＧＡ１７２１、１７２２、１７２３、１７２４参照）。
【0141】
ここで、仮に、係数行列（Ｐ行列）とリザーバ特徴量（Ｒベクトル）との積を、１つのＦＰＧＡを用いて実行したとする。この場合、符号１７１０に示すように、１６回の乗算が必要になる。一方、ＰＥとして機能するＦＰＧＡを縦方向に２つ配置することで、乗算の回数を半分にすることができる。更に、ＰＥとして機能するＦＰＧＡを横方向に２つ配置し、リザーバ特徴量（Ｒベクトル）を２分割してそれぞれのＦＰＧＡに入力することで、乗算の回数を更に半分にすることができる。
【0142】
図１７において符号１７３０は、２分割したＲベクトルのうち、リザーバ特徴量（Ｒベクトル）の一部である（ｒ１，ｒ２）を、ＦＰＧＡ１７２１、１７２２にそれぞれ入力し、ＦＰＧＡ１７２１、１７２２がそれぞれ、４回の乗算を実行した様子を示している。
【0143】
また、図１８において符号１８３０は、２分割したリザーバ特徴量（Ｒベクトル）のうち、リザーバ特徴量（Ｒベクトル）の一部である（ｒ３，ｒ４）を、ＦＰＧＡ１７２３、１７２４にそれぞれ入力した様子を示している。また、符号１８３０は、ＦＰＧＡ１７２３、１７２４がそれぞれ、４回の乗算を実行した様子を示している。
【0144】
このように、逐次最小二乗法によるＦＯＲＣＥ学習部１２００は、ＰＥとして機能するＦＰＧＡを縦方向及び横方向に複数配置し、各ＦＰＧＡが、ＦＯＲＣＥ学習処理において実行される複数行かつ複数列の行列演算の一部を実行するように構成する。
【0145】
これにより、逐次最小二乗法によるＦＯＲＣＥ学習部１２００は、逐次最小二乗法によるＦＯＲＣＥ学習処理を高速化することができる。
【0146】
（４－２－２）ＰＥとして機能するＦＰＧＡの処理の詳細その２
次に、ＰＥとして機能するＦＰＧＡの処理として、転送処理の詳細について説明する。上述したように、ＰＥとして機能するＦＰＧＡは、係数行列（Ｐ行列）とリザーバ特徴量（Ｒベクトル）との積の算出結果を、隣接するＦＰＧＡに転送する。図１９は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される転送処理を示す第１の図である。
次に、ＰＥとして機能するＦＰＧＡの処理として、転送処理の詳細について説明する。上述したように、ＰＥとして機能するＦＰＧＡは、係数行列（Ｐ行列）とリザーバ特徴量（Ｒベクトル）との積の算出結果を、隣接するＦＰＧＡに転送する。図１９は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される転送処理を示す第１の図である。
【0147】
このうち、図１９（ａ）は、２分割したリザーバ特徴量（Ｒベクトル）のうち、リザーバ特徴量（Ｒベクトル）の一部である（ｒ１，ｒ２）と係数行列（Ｐ行列）の一部との積を、ＦＰＧＡ１７２１、１７２２がそれぞれ実行した様子を示したものである。また、図１９（ａ）は、ＦＰＧＡ１７２１、１７２２それぞれが、実行結果を、ＦＰＧＡ１７２３、１７２４に転送した様子を示したものである。
【0148】
図１９（ａ）に示すように、ＦＰＧＡ１７２１からは、算出結果であるｐ１１ｒ１＋ｐ１２ｒ２と、ｐ２１ｒ１＋ｐ２２ｒ２とが、１クロックかけてＦＰＧＡ１７２３に転送される。また、ＦＰＧＡ１７２２からは、ｐ３１ｒ１＋ｐ３２ｒ２と、ｐ４１ｒ１＋ｐ４２ｒ２とが、１クロックかけてＦＰＧＡ１７２４に転送される。なお、ｐ３１ｒ１＋ｐ３２ｒ２と、ｐ４１ｒ１＋ｐ４２ｒ２とは、ＦＰＧＡ１７２１からＦＰＧＡ１７２２に１クロックかけて転送されたリザーバ特徴量（Ｒベクトル）の一部である（ｒ１，ｒ２）と、係数行列（Ｐ行列）の一部との積の算出結果である。
【0149】
一方、図１９（ｂ）は、２分割したリザーバ特徴量（Ｒベクトル）のうち、リザーバ特徴量（Ｒベクトル）の一部である（ｒ３，ｒ４）と係数行列（Ｐ行列）の一部との積を、ＦＰＧＡ１７２３、１７２４がそれぞれ実行した様子を示したものである。また、図１９（ｂ）は、ＦＰＧＡ１７２３、１７２４それぞれが、実行結果を、右側に隣接するＦＰＧＡ（不図示）に転送した様子を示したものである。
【0150】
図１９（ｂ）に示すように、ＦＰＧＡ１７２３からは、算出結果であるｐ１３ｒ３＋ｐ１４ｒ４が、転送結果であるｐ１１ｒ１＋ｐ１２ｒ２に加算された加算結果が、不図示のＦＰＧＡに転送される。また、ＦＰＧＡ１７２３からは、算出結果であるｐ２３ｒ３＋ｐ２４ｒ４が、転送結果であるｐ２１ｒ１＋ｐ２２ｒ２に加算された加算結果が、不図示のＦＰＧＡに転送される。
【0151】
同様に、ＦＰＧＡ１７２４からは、算出結果であるｐ３３ｒ３＋ｐ３４ｒ４が、転送結果であるｐ３１ｒ１＋ｐ３２ｒ２に加算された加算結果が、不図示のＦＰＧＡに転送される。また、ＦＰＧＡ１７２４からは、算出結果であるｐ４３ｒ３＋ｐ４４ｒ４が、転送結果であるｐ４１ｒ１＋ｐ４２ｒ２に加算された加算結果が、不図示のＦＰＧＡに転送される。
【0152】
（４－２－３）ＦＰＥとして機能するＦＰＧＡの処理の詳細その１
次に、ＦＰＥとして機能するＦＰＧＡの処理の詳細について説明する。上述したように、ＦＰＥとして機能するＦＰＧＡは、係数行列（Ｐ行列）の算出において用いられる、"リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積"を算出するための行列を生成する「代替処理」を実行する。
次に、ＦＰＥとして機能するＦＰＧＡの処理の詳細について説明する。上述したように、ＦＰＥとして機能するＦＰＧＡは、係数行列（Ｐ行列）の算出において用いられる、"リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積"を算出するための行列を生成する「代替処理」を実行する。
【0153】
図２０は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される代替処理を示す図である。このうち、図２０（ａ）は、係数行列（Ｐ行列）の算出と代替処理との関係を示している。図２０（ａ）に示すように、係数行列（Ｐ行列）を算出する際に算出すべき"リザーバ特徴量（Ｒベクトル）を転置した転置行列と係数行列（Ｐ行列）との積"（符号２００１）のうち、係数行列（Ｐ行列）は対称行列である（対称性を有する）。このため、係数行列（Ｐ行列）は、係数行列（Ｐ行列）を転置した転置行列と等しい。
【0154】
したがって、
・"リザーバ特徴量（Ｒベクトル）を転置した転置行列と係数行列（Ｐ行列）との積"（符号２００１）と、
・"リザーバ特徴量（Ｒベクトル）を転置した転置行列と係数行列（Ｐ行列）を転置した転置行列との積"（符号２００２）と、
は等しい。つまり、"リザーバ特徴量（Ｒベクトル）と係数行列（Ｐ行列）との積を転置した転置行列"（符号２００３）と等しい。
・"リザーバ特徴量（Ｒベクトル）を転置した転置行列と係数行列（Ｐ行列）との積"（符号２００１）と、
・"リザーバ特徴量（Ｒベクトル）を転置した転置行列と係数行列（Ｐ行列）を転置した転置行列との積"（符号２００２）と、
は等しい。つまり、"リザーバ特徴量（Ｒベクトル）と係数行列（Ｐ行列）との積を転置した転置行列"（符号２００３）と等しい。
【0155】
ここで、"リザーバ特徴量（Ｒベクトル）と係数行列（Ｐ行列）との積"は、当該積を算出する時点で既に算出されている（符号２００４）。このため、対称性を利用して当該算出結果を転置することで、"リザーバ特徴量（Ｒベクトル）を転置した転置行列と係数行列（Ｐ行列）との積"（符号２００１）の代替とすることができる。
【0156】
図２０（ｂ）は、係数行列（Ｐ行列）の算出において、
・"リザーバ特徴量（Ｒベクトル）を転置した転置行列と係数行列（Ｐ行列）との積"（符号２００１）を、
・"リザーバ特徴量（Ｒベクトル）と係数行列（Ｐ行列）との積を転置した転置行列"（符号２００３）で、
代替した場合の代替後の数式を示している。
・"リザーバ特徴量（Ｒベクトル）を転置した転置行列と係数行列（Ｐ行列）との積"（符号２００１）を、
・"リザーバ特徴量（Ｒベクトル）と係数行列（Ｐ行列）との積を転置した転置行列"（符号２００３）で、
代替した場合の代替後の数式を示している。
【0157】
また、図２０（ｃ）の右辺はその算出結果を表し、ｐｒ１、ｐｒ２、ｐｒ３、ｐｒ４のうち、右辺の行列の各要素がどのｐｒを必要とするかを示したものである。この行列の左上要素は、ｐｒ１、ｐｒ２を必要とし、左下要素と右上要素は、ｐｒ１、ｐｒ２、ｐｒ３、ｐｒ４を必要とし、右下要素はｐｒ３、ｐｒ４を必要とする。
【0158】
また、図２０（ｄ）は、ＦＰＥとして機能するＦＰＧＡ（不図示）が、
・"係数行列（Ｐ行列）の一部とリザーバ特徴量（Ｒベクトル）の一部との積"と、
・"係数行列（Ｐ行列）の一部とリザーバ特徴量（Ｒベクトル）の一部との積を転置した転置ベクトル"と、
を算出するためのベクトルを、信号線１６０３を介して、ＦＰＧＡ１７２１～１７２４に送信した様子を示している。更に、図２０（ｄ）は、ＦＰＧＡ１７２１～１７２４が、
・"係数行列（Ｐ行列）の一部とリザーバ特徴量（Ｒベクトル）の一部との積"と、
・"係数行列（Ｐ行列）の一部とリザーバ特徴量（Ｒベクトル）の一部との積を転置した転置ベクトル"と、
の積を算出する様子を示している。
・"係数行列（Ｐ行列）の一部とリザーバ特徴量（Ｒベクトル）の一部との積"と、
・"係数行列（Ｐ行列）の一部とリザーバ特徴量（Ｒベクトル）の一部との積を転置した転置ベクトル"と、
を算出するためのベクトルを、信号線１６０３を介して、ＦＰＧＡ１７２１～１７２４に送信した様子を示している。更に、図２０（ｄ）は、ＦＰＧＡ１７２１～１７２４が、
・"係数行列（Ｐ行列）の一部とリザーバ特徴量（Ｒベクトル）の一部との積"と、
・"係数行列（Ｐ行列）の一部とリザーバ特徴量（Ｒベクトル）の一部との積を転置した転置ベクトル"と、
の積を算出する様子を示している。
【0159】
具体的には、ＦＰＧＡ１７２１が図２０（ｃ）の右辺の行列の左上要素の積を、ＦＰＧＡ１７２２が左下要素の積を、ＦＰＧＡ１７２３が右上要素の積を、ＦＰＧＡ１７２４が右下要素の積をそれぞれ算出する。
【0160】
このように、逐次最小二乗法によるＦＯＲＣＥ学習部１２００では、逐次最小二乗法によるＦＯＲＣＥ学習処理において実行される転置ベクトルを含む演算を行う際、転置ベクトルを含まない演算の演算結果を取得し、取得した演算結果を転置することで代替する。
【0161】
これにより、逐次最小二乗法によるＦＯＲＣＥ学習部１２００によれば、逐次最小二乗法によるＦＯＲＣＥ学習処理を実現する際の、演算回数を削減することができる。この結果、逐次最小二乗法によるＦＯＲＣＥ学習部１２００によれば、ＦＯＲＣＥ学習処理を高速化することができる。
【0162】
（４－２－４）ＦＰＥとして機能するＦＰＧＡの処理の詳細その１
次に、ＦＰＥとして機能するＦＰＧＡの転送処理の詳細について説明する。上述したように、ＦＰＥとして機能するＦＰＧＡは、リザーバ特徴量（Ｒベクトル）の一部が入力されると、逐次重みパラメータ（Ｗベクトル）の一部との積を算出し、算出結果である出力データ（Ｚ）の一部を、隣接するＦＰＧＡに転送する。図２１は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される転送処理を示す第２の図である。
次に、ＦＰＥとして機能するＦＰＧＡの転送処理の詳細について説明する。上述したように、ＦＰＥとして機能するＦＰＧＡは、リザーバ特徴量（Ｒベクトル）の一部が入力されると、逐次重みパラメータ（Ｗベクトル）の一部との積を算出し、算出結果である出力データ（Ｚ）の一部を、隣接するＦＰＧＡに転送する。図２１は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される転送処理を示す第２の図である。
【0163】
図２１に示すように、ＦＰＧＡ２１１１は、２分割したリザーバ特徴量（Ｒベクトル）のうち、
・リザーバ特徴量（Ｒベクトル）の一部である（ｒ１，ｒ２）と、
・逐次重みパラメータ（Ｗベクトル）の一部である（ｗ１，ｗ２）と、
の積を算出し、算出結果（符号２１０１）をＦＰＧＡ２１１２に転送する。このとき、ＦＰＧＡ２１１１では、算出結果（符号２１０１）であるｗ１ｒ１＋ｗ２ｒ２を１クロックかけてＦＰＧＡ２１１２に転送する。
・リザーバ特徴量（Ｒベクトル）の一部である（ｒ１，ｒ２）と、
・逐次重みパラメータ（Ｗベクトル）の一部である（ｗ１，ｗ２）と、
の積を算出し、算出結果（符号２１０１）をＦＰＧＡ２１１２に転送する。このとき、ＦＰＧＡ２１１１では、算出結果（符号２１０１）であるｗ１ｒ１＋ｗ２ｒ２を１クロックかけてＦＰＧＡ２１１２に転送する。
【0164】
また、ＦＰＧＡ２１１２は、２分割したリザーバ特徴量（Ｒベクトル）のうち、リザーバ特徴量（Ｒベクトル）の一部である（ｒ３，ｒ４）と逐次重みパラメータ（Ｗベクトル）の一部である（ｗ３，ｗ４）との積を算出する。また、ＦＰＧＡ２１１２は、算出結果（符号２１０２）を、ＦＰＧＡ２１１１から転送された算出結果（符号２１０１）に加算し、加算結果（符号２１０３）を得る。
【0165】
（４－２－５）ＦＰＥとして機能するＦＰＧＡの処理の詳細その２
次に、ＦＰＥとして機能するＦＰＧＡの処理の詳細について説明する。上述したように、ＦＰＥとして機能するＦＰＧＡは、リザーバ特徴量（Ｒベクトル）の一部と係数行列（Ｐ行列）の一部との積の算出結果を取得する。また、ＦＰＥとして機能するＦＰＧＡは、リザーバ特徴量（Ｒベクトル）の一部と、係数行列（Ｐ行列）の一部と、信号線１６０１を介して取得したリザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルとの積を算出する。更に、ＦＰＥとして機能するＦＰＧＡは、算出結果を、ＰＥとして機能するＦＰＧＡに配布する配布処理を実行する。
次に、ＦＰＥとして機能するＦＰＧＡの処理の詳細について説明する。上述したように、ＦＰＥとして機能するＦＰＧＡは、リザーバ特徴量（Ｒベクトル）の一部と係数行列（Ｐ行列）の一部との積の算出結果を取得する。また、ＦＰＥとして機能するＦＰＧＡは、リザーバ特徴量（Ｒベクトル）の一部と、係数行列（Ｐ行列）の一部と、信号線１６０１を介して取得したリザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルとの積を算出する。更に、ＦＰＥとして機能するＦＰＧＡは、算出結果を、ＰＥとして機能するＦＰＧＡに配布する配布処理を実行する。
【0166】
図２２は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される配布処理を示す図である。図２２に示すように、ＦＰＥとして機能するＦＰＧＡ２１１１は、ＰＥとして機能する対応するＦＰＧＡから、係数行列（Ｐ行列）の一部とＲベクトルの一部との積の算出結果（符号２２０１）を取得する。また、ＦＰＥとして機能するＦＰＧＡ２１１１は、取得した算出結果（符号２２０１）と、リザーバ特徴量（Ｒベクトル）の一部（ｒ１，ｒ２）を転置した転置ベクトルとの積を算出し、算出結果（符号２２０２）を、ＦＰＧＡ２１１２に転送する。
【0167】
同様に、ＦＰＥとして機能するＦＰＧＡ２１１２は、ＰＥとして機能する対応するＦＰＧＡから、係数行列（Ｐ行列）の一部とＲベクトルの一部との積の算出結果（符号２２０３）を取得する。また、ＦＰＥとして機能するＦＰＧＡ２１１２は、取得した算出結果（符号２２０２）と、リザーバ特徴量（Ｒベクトル）の一部（ｒ３，ｒ４）を転置した転置ベクトルとの積を算出する。また、ＦＰＥとして機能するＦＰＧＡ２１１２は、算出結果をＦＰＧＡ２１１１から転送された算出結果（符号２２０２）に加算する。更に、ＦＰＥとして機能するＦＰＧＡ２１１２は、加算結果（符号２２０４）を、信号線１６０４を介して、ＰＥとして機能するＦＰＧＡ１７２１～１７２４に転送する。
【0168】
これにより、ＦＰＧＡ１７２１～１７２４では、それぞれ、係数行列（Ｐ行列）の一部を算出することができる。例えば、ＦＰＧＡ１７２１の場合、
・"リザーバ特徴量（Ｒベクトル）の一部と係数行列（Ｐ行列）の一部との積"（符号２００４）は、事前に算出している。
・"リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積"（符号２００１）は、図２０で説明したように、信号線１６０３を介して取得した行列に基づく代替処理により算出している。
・"リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと、係数行列（Ｐ行列）の一部と、リザーバ特徴量（Ｒベクトル）の一部との積"（符号２２０４）は、信号線１６０４を介して取得している。
・"リザーバ特徴量（Ｒベクトル）の一部と係数行列（Ｐ行列）の一部との積"（符号２００４）は、事前に算出している。
・"リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積"（符号２００１）は、図２０で説明したように、信号線１６０３を介して取得した行列に基づく代替処理により算出している。
・"リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと、係数行列（Ｐ行列）の一部と、リザーバ特徴量（Ｒベクトル）の一部との積"（符号２２０４）は、信号線１６０４を介して取得している。
【0169】
これにより、ＦＰＧＡ１７２１～ＦＰＧＡ１７２４では、係数行列（Ｐ行列）を算出することができる。
【0170】
（４－２－６）ＦＰＥとして機能するＦＰＧＡの処理の詳細その３
次に、ＦＰＥとして機能するＦＰＧＡの処理の詳細について説明する。上述したように、ＦＰＥとして機能するＦＰＧＡのうち、最終段に位置するＦＰＧＡは、逐次重みパラメータの算出、出力データの算出に加えて、誤差の算出を実行する。
次に、ＦＰＥとして機能するＦＰＧＡの処理の詳細について説明する。上述したように、ＦＰＥとして機能するＦＰＧＡのうち、最終段に位置するＦＰＧＡは、逐次重みパラメータの算出、出力データの算出に加えて、誤差の算出を実行する。
【0171】
図２３は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される重みパラメータ更新処理を示す図である。図２３に示すように、最終段に位置するＦＰＧＡ２１１２は、出力データ（Ｚ）の一部（＝ｗ３ｒ３＋ｗ４ｒ４）を算出する。また、最終段に位置するＦＰＧＡ２１１２は、ＦＰＥとして機能するＦＰＧＡ２１１１より取得した出力データ（Ｚ）の一部（＝ｗ１ｒ１＋ｗ２ｒ２）に加算することで、出力データ（Ｚ）を集計する。
【0172】
また、最終段に位置するＦＰＧＡ２１１２は、集計した出力データ（Ｚ）と、プロセス状態データ（Ｓ）との差分を算出することで、誤差（ｅ）を算出する。（符号２３０１）。更に、最終段に位置するＦＰＧＡ２１１２は、算出した誤差（ｅ）を、上段に位置するＦＰＧＡ２１１１に送信する。ＦＰＧＡ２１１１及びＦＰＧＡ２１１２では、算出した誤差（ｅ）を用いて、逐次重みパラメータを更新する。
【0173】
例えば、ＦＰＧＡ２１１１では、リザーバ特徴量（Ｒベクトル）の一部と係数行列（Ｐ行列）の一部との積の算出結果（符号２２０１）を取得し、ＦＰＧＡ２１１２より取得した誤差（ｅ）をかけ合わせたうえで、現在の逐次重みパラメータ（Ｗベクトル）に加算する。これにより、ＦＰＧＡ２１１１では、逐次重みパラメータ（Ｗベクトル）を更新することができる（符号２３０２）。
【0174】
（４－３）逐次最小二乗法によるＦＯＲＣＥ学習部１２００によるＦＯＲＣＥ学習処理のタイミングチャート
次に、逐次最小二乗法によるＦＯＲＣＥ学習部１２００によるＦＯＲＣＥ学習処理のタイミングチャートについて説明する。図２４は、逐次最小二乗法によるＦＯＲＣＥ学習部によるＦＯＲＣＥ学習処理のタイミングチャートの一例である。
次に、逐次最小二乗法によるＦＯＲＣＥ学習部１２００によるＦＯＲＣＥ学習処理のタイミングチャートについて説明する。図２４は、逐次最小二乗法によるＦＯＲＣＥ学習部によるＦＯＲＣＥ学習処理のタイミングチャートの一例である。
【0175】
図２４に示すように、ＦＰＥとして機能するＦＰＧＡは、
・逐次重みパラメータ（Ｗ（τ－１）ベクトル）と、
・リザーバ特徴量（Ｒ（τ）ベクトル）と、
の積を算出することで、出力データ（Ｚ（τ））を算出する（符号２４０１）。
・逐次重みパラメータ（Ｗ（τ－１）ベクトル）と、
・リザーバ特徴量（Ｒ（τ）ベクトル）と、
の積を算出することで、出力データ（Ｚ（τ））を算出する（符号２４０１）。
【0176】
また、ＦＰＥとして機能するＦＰＧＡは、出力データ（Ｚ（τ））と、プロセス状態データ（Ｓ（τ））とに基づいて、誤差（ｅ（τ））を算出する（符号２４０２）。
【0177】
また、ＰＥとして機能するＦＰＧＡは、
・リザーバ特徴量（Ｒベクトル（τ））を転置した転置ベクトルと、係数行列（Ｐ（τ－１）行列）と、リザーバ特徴量（Ｒベクトル（τ））との積と、
・係数行列（Ｐ（τ－１）行列）と、リザーバ特徴量（Ｒベクトル（τ））との積と、
・係数行列（Ｐ（τ－１）行列）と、
に基づいて、係数行列（Ｐ（τ）行列）を算出する（符号２４０３）。
・リザーバ特徴量（Ｒベクトル（τ））を転置した転置ベクトルと、係数行列（Ｐ（τ－１）行列）と、リザーバ特徴量（Ｒベクトル（τ））との積と、
・係数行列（Ｐ（τ－１）行列）と、リザーバ特徴量（Ｒベクトル（τ））との積と、
・係数行列（Ｐ（τ－１）行列）と、
に基づいて、係数行列（Ｐ（τ）行列）を算出する（符号２４０３）。
【0178】
また、ＰＥとして機能するＦＰＧＡは、係数行列（Ｐ（τ）行列）と、リザーバ特徴量（Ｒ（τ）ベクトル）との積を算出する（符号２４０４）。また、ＰＥとして機能するＦＰＧＡは、係数行列（Ｐ（τ＋１）行列）と、リザーバ特徴量（Ｒ（τ）ベクトル）との積を算出する（符号２４０５）。
【0179】
また、ＰＥとして機能するＦＰＧＡは、
・リザーバ特徴量（Ｒ（τ＋１）ベクトル）を転置した転置ベクトルと、
・係数行列（Ｐ（τ）行列）と、リザーバ特徴量（Ｒ（τ＋１）ベクトル）との積の算出結果と、
の積を算出する（符号２４０６）。
・リザーバ特徴量（Ｒ（τ＋１）ベクトル）を転置した転置ベクトルと、
・係数行列（Ｐ（τ）行列）と、リザーバ特徴量（Ｒ（τ＋１）ベクトル）との積の算出結果と、
の積を算出する（符号２４０６）。
【0180】
続いて、ＦＰＥとして機能するＦＰＧＡは、
・係数行列（Ｐ（τ）行列）と、リザーバ特徴量（Ｒ（τ）ベクトル）との積の算出結果と、
・誤差（ｅ（τ））と、
の積を算出する（符号２４０７）。
・係数行列（Ｐ（τ）行列）と、リザーバ特徴量（Ｒ（τ）ベクトル）との積の算出結果と、
・誤差（ｅ（τ））と、
の積を算出する（符号２４０７）。
【0181】
また、ＦＰＥとして機能するＦＰＧＡは、
・係数行列（Ｐ（τ）行列）と、リザーバ特徴量（Ｒ（τ）ベクトル）と、誤差（ｅ（τ））との積を算出した算出結果と、
・逐次重みパラメータ（Ｗ（τ－１）ベクトル）と、
に基づいて、逐次重みパラメータ（Ｗ（τ）ベクトル）を更新し、逐次重みパラメータ（Ｗ（τ）ベクトル）を算出する（符号２４０８）。
・係数行列（Ｐ（τ）行列）と、リザーバ特徴量（Ｒ（τ）ベクトル）と、誤差（ｅ（τ））との積を算出した算出結果と、
・逐次重みパラメータ（Ｗ（τ－１）ベクトル）と、
に基づいて、逐次重みパラメータ（Ｗ（τ）ベクトル）を更新し、逐次重みパラメータ（Ｗ（τ）ベクトル）を算出する（符号２４０８）。
【0182】
これにより、ＦＰＥとして機能するＦＰＧＡは、出力データ（Ｚ（τ＋１））を算出することができる。以下、システム時間の経過とともに、同様の処理が繰り返される。
【0183】
なお、図２４に示すように、逐次最小二乗法によるＦＯＲＣＥ学習部１２００では、
・逐次重みパラメータ（Ｗ（τ－１）ベクトル）の算出と、
・逐次重みパラメータ（Ｗ（τ）ベクトル）の算出と、
の間にそれぞれ実行される、リザーバ特徴量（Ｒベクトル）と係数行列（Ｐ行列）との積の実行タイミングが、互いに重なるように構成される。具体的には、逐次最小二乗法によるＦＯＲＣＥ学習部１２００が、ＰＥとして機能するＦＰＧＡ及びＦＰＥとして機能するＦＰＧＡにおいて、算出結果をバッファリングすることで、実行タイミングを調整する。
・逐次重みパラメータ（Ｗ（τ－１）ベクトル）の算出と、
・逐次重みパラメータ（Ｗ（τ）ベクトル）の算出と、
の間にそれぞれ実行される、リザーバ特徴量（Ｒベクトル）と係数行列（Ｐ行列）との積の実行タイミングが、互いに重なるように構成される。具体的には、逐次最小二乗法によるＦＯＲＣＥ学習部１２００が、ＰＥとして機能するＦＰＧＡ及びＦＰＥとして機能するＦＰＧＡにおいて、算出結果をバッファリングすることで、実行タイミングを調整する。
【0184】
これにより、逐次最小二乗法によるＦＯＲＣＥ学習部１２００では、逐次重みパラメータの更新に要する時間を短縮することができる。
【0185】
以上のとおり、逐次最小二乗法によるＦＯＲＣＥ学習処理を行うハードウェアによりプロセス状態予測部２０４を構成し、逐次重みパラメータを高速に更新するための処理を実行する。これにより、プロセス状態予測部２０４によれば、センサデータにおいて出現する短い挙動を捉えて重みパラメータを学習することができる。
【0186】
なお、本願出願人によれば、逐次最小二乗法によるＦＯＲＣＥ学習部１２００が逐次重みパラメータの更新に要する時間として、各ＦＰＧＡを２００ＭＨｚで動作させた場合、９６０［ｎｓ］を実現している。
【0187】
＜管理装置の詳細＞
次に、プロセス状態予測システム１２８と接続される管理装置１２３の詳細について説明する。
次に、プロセス状態予測システム１２８と接続される管理装置１２３の詳細について説明する。
【0188】
（１）管理装置１２３のハードウェア構成
はじめに、管理装置１２３のハードウェア構成について説明する。図２５は、管理装置のハードウェア構成の一例を示す図である。
はじめに、管理装置１２３のハードウェア構成について説明する。図２５は、管理装置のハードウェア構成の一例を示す図である。
【0189】
図２５に示すように、管理装置１２３は、プロセッサ２５０１、メモリ２５０２、補助記憶装置２５０３、Ｉ／Ｆ（Interface）装置２５０４、ＵＩ装置２５０５、通信装置２５０６を有する。なお、管理装置１２３の各ハードウェアは、バス２５０７を介して相互に接続されている。
【0190】
プロセッサ２５０１は、ＣＰＵ（Central Processing Unit）、ＧＰＵ（Graphics Processing Unit）等の各種演算デバイスを有する。プロセッサ２５０１は、各種プログラム（例えば、管理プログラム等）をメモリ２５０２上に読み出して実行する。
【0191】
メモリ２５０２は、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）等の主記憶デバイスを有する。プロセッサ２５０１とメモリ２５０２とは、いわゆるコンピュータを形成し、プロセッサ２５０１が、メモリ２５０２上に読み出した各種プログラムを実行することで、当該コンピュータは各種機能を実現する。
【0192】
補助記憶装置２５０３は、各種プログラムや、各種プログラムがプロセッサ２５０１によって実行される際に用いられる各種データを格納する。後述するデータ格納部２６０７は、補助記憶装置２５０３において実現される。
【0193】
Ｉ／Ｆ装置２５０４は、プロセス状態予測システム１２８と接続する接続デバイスである。
【0194】
ＵＩ装置２５０５は、管理装置１２３の管理者が各種指示を管理装置１２３に入力するためのユーザインタフェース装置である。通信装置２５０６は、外部装置（不図示）とネットワークを介して通信するための通信デバイスである。
【0195】
（２）管理部１２４の機能構成
次に、管理装置１２３の管理部１２４の機能構成について説明する。図２６は、管理部の機能構成の一例を示す図である。上述したように、管理装置１２３には管理プログラムがインストールされており、当該プログラムが実行されることで、管理装置１２３の管理部１２４は、
・プロセス状態データ送信部２６０１、
・プロセス状態データ取得部２６０２、
・期間制御部２６０３、
・終了情報取得部２６０４、
・再学習判定部２６０５、
・評価部２６０６、
・リザーバ特徴量取得部２６０８、
・バッチ学習部２６０９、
として機能する。
次に、管理装置１２３の管理部１２４の機能構成について説明する。図２６は、管理部の機能構成の一例を示す図である。上述したように、管理装置１２３には管理プログラムがインストールされており、当該プログラムが実行されることで、管理装置１２３の管理部１２４は、
・プロセス状態データ送信部２６０１、
・プロセス状態データ取得部２６０２、
・期間制御部２６０３、
・終了情報取得部２６０４、
・再学習判定部２６０５、
・評価部２６０６、
・リザーバ特徴量取得部２６０８、
・バッチ学習部２６０９、
として機能する。
【0196】
プロセス状態データ送信部２６０１は、期間制御部２６０３からの送信開始／停止指示に基づいて、例えば、センサｂ１２２ｂから送信されたセンサデータｂをプロセス状態データ取得部２６０２を介して、プロセス状態データ（正解データ）として取得する。また、プロセス状態データ送信部２６０１は、取得したプロセス状態データ（正解データ）を、プロセス状態予測システム１２８に送信する。プロセス状態データ送信部２６０１により送信されるプロセス状態データには、学習期間中に送信されるプロセス状態データと、再学習期間中に送信されるプロセス状態データとが含まれる。
【0197】
プロセス状態データ取得部２６０２は、センサｂ１２２ｂから送信されたセンサデータｂを取得する。また、プロセス状態データ取得部２６０２は、取得したセンサデータｂをプロセス状態データとして、プロセス状態データ送信部２６０１及びバッチ学習部２６０９に通知する。
【0198】
期間制御部２６０３は、プロセス状態予測システム１２８に各種切替情報を送信する。図２６に示すように、期間制御部２６０３により送信される各種切替情報には、
・学習期間への移行指示、
・予測期間への移行指示、
・再学習期間への移行指示、
・学習パラメータセットの切替指示、
・重みパラメータの設定指示、
が含まれる。
・学習期間への移行指示、
・予測期間への移行指示、
・再学習期間への移行指示、
・学習パラメータセットの切替指示、
・重みパラメータの設定指示、
が含まれる。
【0199】
期間制御部２６０３は、プロセス状態予測システム１２８の処理が開始されると、プロセス状態予測システム１２８に、学習期間への移行指示を送信するとともに、プロセス状態データ送信部２６０１に、プロセス状態データの送信開始を指示する。
【0200】
また、期間制御部２６０３は、終了情報取得部２６０４から、ＦＯＲＣＥ学習処理の終了情報を受信すると、プロセス状態予測システム１２８に、予測期間への移行指示を送信する。その際、期間制御部２６０３は、プロセス状態データ送信部２６０１にプロセス状態データの送信停止を指示する。
【0201】
また、期間制御部２６０３は、再学習判定部２６０５から、再学習が必要であるとの判定結果を受信すると、プロセス状態予測システム１２８に、再学習期間への移行指示を送信する。その際、期間制御部２６０３は、プロセス状態データ送信部２６０１に、プロセス状態データの送信開始を指示する。
【0202】
また、期間制御部２６０３は、終了情報取得部２６０４より、再学習用データ取得の終了情報と、評価用データ取得の終了情報を取得すると、データ格納部２６０７より、学習パラメータセットを読み出し、プロセス状態予測システム１２８に送信する。その際、期間制御部２６０３は、プロセス状態データ送信部２６０１にプロセス状態データの送信停止を指示する。
【0203】
ここで、図２６に示すように、データ格納部２６０７には、学習パラメータセット１～学習パラメータセットＭが格納されている。期間制御部２６０３では、読み出した学習パラメータセット１～学習パラメータセットＭを、プロセス状態予測システム１２８に送信する。
【0204】
なお、符号２６１１に示すように、学習パラメータセットには、情報の項目として、"前回の重みパラメータを使用ｏｒ初期化"、"過去データ寄与率"、"学習モデル数"等が含まれる。
【0205】
また、期間制御部２６０３は、終了情報取得部２６０４より、ＦＯＲＣＥ再学習処理の終了情報を取得するごとに、プロセス状態予測システム１２８に、学習パラメータセットの切替指示を送信する。
【0206】
図２６に示すように、再学習期間において、リザーバ特徴量取得部２６０８は、プロセス状態予測システム１２８から学習用データ及び評価用データとしてリザーバ特徴量を取得し、バッチ学習部２６０９に通知する。また、上述したように、再学習期間において、プロセス状態データ取得部２６０２は、学習用データとして、センサデータｂを取得し、取得したセンサデータｂをプロセス状態データとして、バッチ学習部２６０９に通知する。
【0207】
バッチ学習部２６０９は、データ格納部２６０７より読み出したバッチ学習パラメータのもと、リザーバ特徴量とプロセス状態データとを所定の学習時間分蓄積した学習用データを用いて、バッチ学習を実行する。ここでいうバッチ学習とは、所定の学習時間分のリザーバ特徴量とプロセス状態データとから重みパラメータを学習することである。
【0208】
なお、バッチ学習に用いるバッチ学習パラメータには、情報の項目として、"学習用正規化パラメータ"、"蓄積するデータ量（バッチサイズ）"、"学習時間"等が含まれる。
【0209】
また、バッチ学習部２６０９は、バッチ学習が完了すると、評価用データとして取得したリザーバ特徴量に基づいてプロセス状態データを予測し、バッチ学習部２６０９による予測結果（バッチ学習予測結果）を、評価部２６０６に通知する。
【0210】
また、期間制御部２６０３は、評価部２６０６より、評価結果を受信し、受信した評価結果に基づいて、プロセス状態予測システム１２８に重みパラメータの設定指示を送信する。
【0211】
なお、評価結果には、各学習パラメータセットのもと、ＦＯＲＣＥ再学習処理が行われることでそれぞれ算出された重みパラメータを用いて、評価用データに対して予測処理が行われ、それぞれの予測結果データについて算出された予測精度が含まれるものとする。
【0212】
また、期間制御部２６０３は、予測結果データが所定の許容範囲に含まれ、かつ、予測精度が最も高い重みパラメータを設定するよう、プロセス状態予測システム１２８に設定指示を行う。このときの所定の許容範囲は、固定値が設定されてもよいし、バッチ学習部２６０９が算出したバッチ学習予測結果に基づいて算出された値が設定されてもよい。
【0213】
また、期間制御部２６０３は、重みパラメータの設定指示を送信した後、予測期間への移行指示を、プロセス状態予測システム１２８に送信する。
【0214】
終了情報取得部２６０４は、プロセス状態予測システム１２８より、各種終了情報（ＦＯＲＣＥ学習処理の終了情報、再学習用データ取得の終了情報、評価用データ取得の終了情報、ＦＯＲＣＥ再学習処理の終了情報）を取得する。また、終了情報取得部２６０４は、取得した各種終了情報を、期間制御部２６０３に送信する。
【0215】
再学習判定部２６０５は、予測期間中にプロセス状態予測システム１２８より受信した予測結果データの予測精度に基づいて、再学習の要否を判定する。また、再学習判定部２６０５は、再学習が必要であると判定した場合、期間制御部２６０３に、再学習が必要であるとの判定結果を送信する。なお、再学習判定部２６０５では、その他、再学習が必要となるような事象が発生した場合にも、期間制御部２６０３に、再学習が必要であるとの判定結果を送信する。
【0216】
評価部２６０６は、再学習期間中に、学習パラメータセットが切り替えられるごとにプロセス状態予測システム１２８より受信した予測結果データの予測精度を評価し、評価結果として、期間制御部２６０３に送信する。上述したように、評価部２６０６では、予測結果データを評価する際、バッチ学習部２６０９により算出されたバッチ学習予測結果に基づいて算出した許容範囲を用いて、予測結果データを評価してもよい。
【0217】
＜管理部及びプロセス状態予測システムによるプロセス状態予測処理＞
次に、管理部１２４及びプロセス状態予測システム１２８によるプロセス状態予測処理の流れについて説明する。
次に、管理部１２４及びプロセス状態予測システム１２８によるプロセス状態予測処理の流れについて説明する。
【0218】
（１）プロセス状態予測処理全体の流れ
はじめに、プロセス状態予測処理全体の流れについて説明する。図２７は、管理部及びプロセス状態予測システムによるプロセス状態予測処理全体の流れを示すフローチャートの一例である。プロセス状態予測システム１２８が起動することで、図２７に示す処理が開始される。
はじめに、プロセス状態予測処理全体の流れについて説明する。図２７は、管理部及びプロセス状態予測システムによるプロセス状態予測処理全体の流れを示すフローチャートの一例である。プロセス状態予測システム１２８が起動することで、図２７に示す処理が開始される。
【0219】
ステップＳ２７０１において、管理部１２４は、学習期間への移行指示をプロセス状態予測システム１２８に送信する。これにより、プロセス状態予測システム１２８のプロセス状態予測部２０４は、学習期間に移行し、ＦＯＲＣＥ学習部１２００の重みパラメータを初期化する。
【0220】
ステップＳ２７０２において、プロセス状態予測システム１２８の電圧変調部２０２は、センサ１２２により出力され、Ｉ／Ｏ制御部２０１により取得された時系列のセンサデータａに対して、電圧変調処理を行う。なお、電圧変調処理（ステップＳ２７０２）の詳細は、図３を用いて説明済みであるため、ここでは説明を省略する。
【0221】
ステップＳ２７０３において、プロセス状態予測システム１２８の多電極Ｉ／Ｏチップ２０３は、電圧変調部２０２より出力された電圧データを入力し、リザーバ特徴量を出力する入出力処理を行う。なお、入出力処理（ステップＳ２７０３）の詳細は、図５を用いて説明済みであるため、ここでは説明を省略する。
【0222】
ステップＳ２７０４において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、現在の期間を判定する。管理装置１２３の管理部１２４より学習期間への移行指示または予測期間への移行指示を受信している場合、プロセス状態予測部２０４は、ステップＳ２７０４において、現在の期間が、学習期間または予測期間であると判定する。この場合、プロセス状態予測部２０４は、ステップＳ２７１１に進む。
【0223】
ステップＳ２７１１において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、ＦＯＲＣＥ学習処理が終了しているか否かを判定する。ステップＳ２７１１において、ＦＯＲＣＥ学習処理が終了していないと判定した場合には（ステップＳ２７１１においてＮＯの場合には）、ステップＳ２７１２に進む。
【0224】
ステップＳ２７１２において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、ＦＯＲＣＥ学習処理を行う。なお、ＦＯＲＣＥ学習処理（ステップＳ２７１２）の詳細は、後述する。
【0225】
一方、ステップＳ２７１１において、ＦＯＲＣＥ学習処理が終了していると判定した場合には（ステップＳ２７１１においてＹＥＳの場合には）、ステップＳ２７１３に進む。
【0226】
ステップＳ２７１３において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、予測処理を行う。なお、予測処理（ステップＳ２７１３）の詳細は、後述する。
【0227】
ステップＳ２７１４において、管理装置１２３の管理部１２４は、再学習が必要であるか否かを判定する。ステップＳ２７１４において、再学習が必要でないと判定された場合（ステップＳ２７１４においてＮＯの場合）には、ステップＳ２７３１に進む。
【0228】
一方、ステップＳ２７１４において、再学習が必要であると判定した場合（ステップＳ２７１４においてＹＥＳの場合）には、ステップＳ２７１５に進む。なお、ステップＳ２７１４における再学習判定処理の詳細は、後述する。
【0229】
ステップＳ２７１５において、管理装置１２３の管理部１２４は、プロセス状態予測システム１２８に、再学習期間への移行指示を送信するとともに、学習パラメータセット１～Ｍを送信する。これにより、プロセス状態予測システム１２８のプロセス状態予測部２０４は、再学習期間に移行するとともに、学習パラメータセット１～Ｍを取得する。
【0230】
また、ステップＳ２７０４において、現在の期間が、再学習期間であると判定した場合には、ステップＳ２７２１に進む。なお、プロセス状態予測部２０４では、管理装置１２３の管理部１２４より再学習期間への移行指示を受信している場合、現在の期間が、再学習期間であると判定する。
【0231】
ステップＳ２７２１において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、ＦＯＲＣＥ再学習処理を行う。なお、ＦＯＲＣＥ再学習処理（ステップＳ２７２１）の詳細は、後述する。
【0232】
ステップＳ２７３１において、管理装置１２３の管理部１２４は、プロセス状態予測処理を終了するか否かを判定する。ステップＳ２７３１において、プロセス状態予測処理を終了しないと判定した場合には（ステップＳ２７３１においてＮＯの場合には）、ステップＳ２７０２に戻る。
【0233】
一方、ステップＳ２７３１において、プロセス状態予測処理を終了すると判定した場合、管理装置１２３の管理部１２４及びプロセス状態予測システム１２８は、プロセス状態予測処理を終了する。
【0234】
（２）学習処理（ステップＳ２７１２）の詳細
次に、プロセス状態予測処理に含まれる学習処理（ステップＳ２７１２）の詳細について説明する。図２８は、学習処理の流れを示すフローチャートの一例である。
次に、プロセス状態予測処理に含まれる学習処理（ステップＳ２７１２）の詳細について説明する。図２８は、学習処理の流れを示すフローチャートの一例である。
【0235】
ステップＳ２８０１において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、多電極Ｉ／Ｏチップ２０３より出力されるリザーバ特徴量と、管理装置１２３の管理部１２４より送信されるプロセス状態データ（正解データ）とを取得する。
【0236】
ステップＳ２８０２において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、学習パラメータセットにおいて、符号２６１１の"前回の重みパラメータを使用ｏｒ初期化"の項目が、「使用」であるか否かを判定する。
【0237】
ステップＳ２８０２において、"前回の重みパラメータを使用ｏｒ初期化"の項目が、「使用」であると判定した場合には（ステップＳ２８０２においてＹＥＳの場合には）、ステップＳ２８０４に進む。この場合、プロセス状態予測システム１２８のプロセス状態予測部２０４は、前回のＦＯＲＣＥ学習処理において算出した重みパラメータを、今回のＦＯＲＣＥ学習処理におけるＦＯＲＣＥ学習部１２００の逐次重みパラメータの初期値とする。
【0238】
一方、ステップＳ２８０２において、"前回の重みパラメータを使用ｏｒ初期化"の項目が「初期化」であると判定した場合には（ステップＳ２８０２においてＮＯの場合には）、ステップＳ２８０３に進む。
【0239】
ステップＳ２８０３において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、今回のＦＯＲＣＥ学習処理の前に、前回のＦＯＲＣＥ学習処理において算出したＦＯＲＣＥ学習部１２００の逐次重みパラメータを初期化する。
【0240】
ステップＳ２８０４において、ＦＯＲＣＥ学習部１２００は、リザーバ特徴量に、現在の逐次重みパラメータをかけ合わせることで、出力データを算出する。
【0241】
ステップＳ２８０５において、ＦＯＲＣＥ学習部１２００は、算出した出力データと、対応するプロセス状態データ（正解データ）との誤差を算出する。また、ＦＯＲＣＥ学習部１２００は、算出した誤差が閾値以内でないと判定した場合には（ステップＳ２８０５においてＮＯ）の場合には、ステップＳ２８０６に進む。
【0242】
ステップＳ２８０６において、ＦＯＲＣＥ学習部１２００は、算出した誤差に基づいて逐次重みパラメータを更新し、ステップＳ２８０７に進む。
【0243】
一方、ステップＳ２８０５において、誤差が閾値以内であると判定した場合には（ステップＳ２８０７においてＹＥＳの場合には）、直接、ステップＳ２８０７に進む。
【0244】
ステップＳ２８０７において、ＦＯＲＣＥ学習部１２００は、誤差が閾値以内である状態が、学習パラメータセットで指定された所定の学習時間分、継続したか否かを判定する。ステップＳ２８０７において、継続していないと判定した場合には（ステップＳ２８０７においてＮＯの場合には）、図２７のステップＳ２７３１に戻る。
【0245】
一方、ステップＳ２８０７において、継続したと判定した場合には（ステップＳ２８０７においてＹＥＳの場合には）、ステップＳ２８０８に進む。
【0246】
ステップＳ２８０８において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、ＦＯＲＣＥ学習処理の終了情報を、管理装置１２３に送信する。これにより、管理装置１２３の管理部１２４は、ＦＯＲＣＥ学習処理が終了したと判定し、予測期間への移行指示を、プロセス状態予測システム１２８に送信する。
【0247】
ステップＳ２８０９において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、ＦＯＲＣＥ学習部１３００に、ＦＯＲＣＥ学習処理が終了した時点での重みパラメータを設定する。
【0248】
（３）予測処理（ステップＳ２７１３）の詳細
次に、プロセス状態予測処理に含まれる予測処理（ステップＳ２７１３）の詳細について説明する。図２９は、予測処理の流れを示すフローチャートの一例である。
次に、プロセス状態予測処理に含まれる予測処理（ステップＳ２７１３）の詳細について説明する。図２９は、予測処理の流れを示すフローチャートの一例である。
【0249】
ステップＳ２９０１において、ＦＯＲＣＥ学習部１３００は、多電極Ｉ／Ｏチップ２０３から出力されたリザーバ特徴量を取得する。
【0250】
ステップＳ２９０２において、ＦＯＲＣＥ学習部１３００は、取得したリザーバ特徴量に重みパラメータをかけ合わせることで、プロセス状態を予測する。
【0251】
ステップＳ２９０３において、ＦＯＲＣＥ学習部１３００は、予測結果データを出力する。
【0252】
（４）再学習判定処理（ステップＳ２７１４）の詳細
次に、管理装置１２３の管理部１２４による再学習判定処理（ステップＳ２７１４）の詳細について説明する。図３０は、再学習判定処理の流れを示すフローチャートの一例である。
次に、管理装置１２３の管理部１２４による再学習判定処理（ステップＳ２７１４）の詳細について説明する。図３０は、再学習判定処理の流れを示すフローチャートの一例である。
【0253】
ステップＳ３００１において、管理装置１２３の管理部１２４は、予測期間において、プロセス状態予測システム１２８が取得する時系列のセンサデータａの種類が変更されたか否かを判定する。ステップＳ３００１において、変更されたと判定した場合には（ステップＳ３００１においてＹＥＳの場合には）、ステップＳ３００４に進む。
【0254】
一方、ステップＳ３００１において、変更されていないと判定した場合には（ステップＳ３００１においてＮＯの場合には）、ステップＳ３００２に進む。
【0255】
ステップＳ３００２において、管理装置１２３の管理部１２４は、予測期間において、プロセス状態予測システム１２８が取得する時系列のセンサデータａの値が所定の閾値以上変動したか否かを判定する。ステップＳ３００２において、時系列のセンサデータａの値が所定の閾値以上変動したと判定した場合には（ステップＳ３００２においてＹＥＳの場合には）、ステップＳ３００４に進む。
【0256】
一方、ステップＳ３００２において、時系列のセンサデータａの値が所定の閾値以上変動していないと判定した場合には（ステップＳ３００２においてＮＯの場合には）、ステップＳ３００３に進む。
【0257】
ステップＳ３００３において、管理装置１２３の管理部１２４は、予測期間において、プロセス状態予測システム１２８から送信される予測結果データの予測精度が所定の閾値以下に低下したか否かを判定する。
【0258】
ステップＳ３００３において、予測精度が所定の閾値以下に低下したと判定した場合には（ステップＳ３００３においてＹＥＳの場合には）、ステップＳ３００４に進む。
【0259】
ステップＳ３００４において、管理装置１２３の管理部１２４は、再学習が必要であると判定する。
【0260】
一方、ステップＳ３００３において、予測精度が所定の閾値以下に低下していないと判定した場合には（ステップＳ３００３においてＮＯの場合には）、図２７のステップＳ２７３１に戻る。
【0261】
予測精度が所定の閾値以下に低下するとは、予測結果データと正解データとの誤差が許容閾値を超えたことを指す（上述したように、それまでの時間は「有効予測時間」である）。したがって、管理装置１２３の管理部１２４は、この有効予測時間を監視することで、再学習が必要であるか否かを判定する。図３１を参照しながら、説明する。
【0262】
図３１は、有効予測時間の他の一例を示す図である。図３１において横軸は、学習により算出された重みパラメータが設定されてからの経過時間を示している。また、図３１において縦軸は、予測結果データと正解データとの二乗誤差を示している。
【0263】
プロセス状態予測システム１２８では、予測結果データと正解データとの二乗誤差が、許容閾値を超えるまでの有効予測時間が、例えば、図３１のｔｂで示す時間であったとする（初期状態、ベストの状態）。ここから運用を開始し、その後、予測結果データと正解データとの二乗誤差が、許容閾値を超えるまでの有効予測時間がｔａ（＜ｔｂ）になったとする。つまり、本来予測できる時間が短くなったときに（ｔｂ－ｔａが所定の閾値以上となったときに）、再学習する。
【0264】
（５）再学習処理（ステップＳ２７２１）の詳細
次に、プロセス状態予測処理に含まれる再学習処理（ステップＳ２７２１）の詳細について説明する。図３２は、再学習処理の流れを示すフローチャートの一例である。
次に、プロセス状態予測処理に含まれる再学習処理（ステップＳ２７２１）の詳細について説明する。図３２は、再学習処理の流れを示すフローチャートの一例である。
【0265】
再学習処理を開始すると、プロセス状態予測システム１２８のプロセス状態予測部２０４及び管理装置１２３の管理部１２４は、ステップＳ３２０１～ステップＳ３２０８の処理と、ステップＳ３２１０～ステップＳ３２１５の処理とを、並行して実行する。
【0266】
はじめに、ステップＳ３２０１～ステップＳ３２０８の処理について説明する。ステップＳ３２０１において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、多電極Ｉ／Ｏチップ２０３より出力されるリザーバ特徴量と、管理装置１２３の管理部１２４より送信されるプロセス状態データ（正解データ）とを取得する。
【0267】
なお、プロセス状態予測システム１２８のプロセス状態予測部２０４は、リザーバ特徴量とプロセス状態データ（正解データ）との組み合わせの一部を再学習用データとして取得し、残りの組み合わせを評価用データとして取得する。
【0268】
ステップＳ３２０２において、プロセス状態予測部２０４は、管理装置１２３の管理部１２４から送信された学習パラメータセット１～Ｍのうちのいずれか（ここでは、学習パラメータセット１）を、ＦＯＲＣＥ学習部１２００＿１に設定する。
【0269】
ステップＳ３２０３において、プロセス状態予測部２０４は、ＦＯＲＣＥ学習部１２００＿１に設定した学習パラメータセット１の"前回の重みパラメータを使用ｏｒ初期化"の項目が、「使用」であるか否かを判定する。
【0270】
ステップＳ３２０３において、"前回の重みパラメータを使用ｏｒ初期化"の項目が、「使用」であると判定した場合には（ステップＳ３２０３においてＹＥＳの場合には）、ステップＳ３２０５に進む。この場合、ＦＯＲＣＥ学習部１２００＿１では、前回のＦＯＲＣＥ学習処理において算出された重みパラメータを、逐次重みパラメータの初期値として、今回のＦＯＲＣＥ再学習処理を行う。
【0271】
一方、ステップＳ３２０３において、"前回の重みパラメータを使用ｏｒ初期化"の項目が「初期化」であると判定した場合には（ステップＳ３２０３においてＮＯの場合には）、ステップＳ３２０４に進む。
【0272】
ステップＳ３２０４において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、ＦＯＲＣＥ学習部１２００＿１の逐次重みパラメータを初期化する。
【0273】
ステップＳ３２０５において、ＦＯＲＣＥ学習部１２００＿１は、再学習用データを用いて、ＦＯＲＣＥ学習処理を行い、重みパラメータを算出する。また、ＦＯＲＣＥ学習部１２００＿１は、算出した重みパラメータを、ＦＯＲＣＥ学習部１３００＿１に設定する。
【0274】
ステップＳ３２０６において、ＦＯＲＣＥ学習部１３００＿１は、評価用データを用いて、プロセス状態を予測する。
【0275】
ステップＳ３２０７において、ＦＯＲＣＥ学習部１３００＿１は、予測結果データを管理装置１２３の管理部１２４に出力する。
【0276】
ステップＳ３２０８において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、管理装置１２３の管理部１２４から送信された全ての学習パラメータセットを、ＦＯＲＣＥ学習部に設定したか否かを判定する。
【0277】
ステップＳ３２０８において、未だ設定していない学習パラメータセットがある場合には、次の学習パラメータセットを設定すると判定し（ステップＳ３２０８においてＹＥＳと判定し）、ステップＳ３２０２に戻る。
【0278】
一方、ステップＳ３２０８において、全ての学習パラメータセットを、ＦＯＲＣＥ学習部に設定したと判定した場合には、次の学習パラメータを設定しないと判定し（ステップＳ３２０８においてＮＯと判定し）、ステップＳ３２２１に進む。
【0279】
続いて、ステップＳ３２１０～Ｓ３２１５の処理について説明する。ステップＳ３２１０において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、取得したリザーバ特徴量を、管理装置１２３の管理部１２４に出力する。また、管理装置１２３の管理部１２４は、プロセス状態予測部２０４より出力されたリザーバ特徴量と、プロセス状態データ（正解データ）との組み合わせの一部を再学習用データとして蓄積し、残りの組み合わせを評価用データとして蓄積する。
【0280】
ステップＳ３２１１において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、蓄積した再学習用データ及び評価用データが、いずれも所定サイズに到達したか否かを判定する。
【0281】
ステップＳ３２１２において、所定サイズに到達していないと判定した場合には（ステップＳ３２１１においてＮＯの場合には）、ステップＳ３２１０に戻る。
【0282】
一方、ステップＳ３２１１において、所定サイズに到達したと判定した場合には（ステップＳ３２１１においてＹＥＳの場合には）、ステップＳ３２１２に進む。
【0283】
ステップＳ３２１２において、管理装置１２３の管理部１２４は、バッチ学習パラメータを設定する。
【0284】
ステップＳ３２１３において、管理装置１２３の管理部１２４は、蓄積した再学習用データを用いて、バッチ学習処理を行い、重みパラメータを算出する。
【0285】
ステップＳ３２１４において、管理装置１２３の管理部１２４は、算出した重みパラメータのもと、蓄積した評価用データを用いて、プロセス状態を予測する。
【0286】
ステップＳ３２１５において、管理装置１２３の管理部１２４は、バッチ学習予測結果データを算出する。
【0287】
ステップＳ３２２１において、管理装置１２３の管理部１２４は、学習パラメータセットごとにプロセス状態予測システム１２８から送信された各予測結果データの中に、予測精度が所定の許容範囲に含まれる予測結果データがあるか否かを判定する。このとき、管理装置１２３の管理部１２４では、算出したバッチ学習予測結果データに基づいて、所定の許容範囲を算出する。
【0288】
ステップＳ３２２１において、所定の許容範囲に含まれる予測結果データがないと判定した場合には（ステップＳ３２２１においてＮＯの場合には）、ステップＳ３２２２に進む。
【0289】
ステップＳ３２２２において、管理装置１２３の管理部１２４は、新たな学習パラメータセットを生成し、プロセス状態予測システム１２８に送信したうえで、ステップＳ３２０２に戻る。
【0290】
一方、ステップＳ３２２１において、所定の許容範囲に含まれる予測結果データがあると判定した場合には（ステップＳ３２２１においてＹＥＳの場合には）、ステップＳ３２２３に進む。
【0291】
ステップＳ３２２３において、管理装置１２３の管理部１２４は、再学習期間を終了し、予測期間への移行指示を、プロセス状態予測システム１２８に送信する。また、管理装置１２３の管理部１２４は、予測結果データが所定の許容範囲に含まれ、かつ、予測結果が最も高い重みパラメータを設定するよう、プロセス状態予測システム１２８に設定指示を行う。
【0292】
ステップＳ３２２４において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、予測期間に移行する。また、プロセス状態予測システム１２８のプロセス状態予測部２０４は、予測結果データが所定の許容範囲に含まれ、かつ、予測精度が最も高い重みパラメータを、ＦＯＲＣＥ学習部１３００＿Ｘに設定する。これにより、再学習後の予測期間においては、適切な学習パラメータセットのもとで再学習することで得られた重みパラメータを用いて予測結果データを算出することができる。
【0293】
＜まとめ＞
以上の説明から明らかなように、第１の実施形態に係るプロセス状態予測システム１２８は、
・ＰＯＭ分子とカーボンナノチューブとを有するナノ分子リザーバであって、所定の製造プロセスにおいてセンサにより測定される時系列のセンサデータに基づく電圧信号を入力として、電流信号を出力するナノ分子リザーバを有する。
・電流信号を読み出し、リザーバ特徴量を出力する読み出し機能部を有する。
・リザーバ特徴量と、所定の製造プロセスの状態を示すプロセス状態データとが相関するように学習された重みパラメータと、学習後に出力されるリザーバ特徴量とに基づき、所定の製造プロセスの状態を予測し、予測結果を出力するプロセス状態予測部を有する。
以上の説明から明らかなように、第１の実施形態に係るプロセス状態予測システム１２８は、
・ＰＯＭ分子とカーボンナノチューブとを有するナノ分子リザーバであって、所定の製造プロセスにおいてセンサにより測定される時系列のセンサデータに基づく電圧信号を入力として、電流信号を出力するナノ分子リザーバを有する。
・電流信号を読み出し、リザーバ特徴量を出力する読み出し機能部を有する。
・リザーバ特徴量と、所定の製造プロセスの状態を示すプロセス状態データとが相関するように学習された重みパラメータと、学習後に出力されるリザーバ特徴量とに基づき、所定の製造プロセスの状態を予測し、予測結果を出力するプロセス状態予測部を有する。
【0294】
このように、ナノ分子リザーバを用いてプロセス状態を予測する構成とすることで、第１の実施形態に係るプロセス状態予測システム１２８によれば、センサデータにおいて出現する短い挙動を捉えてリザーバ特徴量を出力することできる。
【0295】
また、第１の実施形態に係るプロセス状態予測システム１２８において、プロセス状態予測部は、逐次最小二乗法によるＦＯＲＣＥ学習処理を行うハードウェアを用いて重みパラメータを学習する。
【0296】
これにより、第１の実施形態に係るプロセス状態予測システム１２８によれば、センサデータにおいて出現する短い挙動を捉えて重みパラメータを学習することができる。
【0297】
この結果、第１の実施形態によれば、時系列のセンサデータに基づきプロセス状態を予測する際の予測精度を向上させることができる。
【0298】
また、第１の実施形態に係るプロセス状態予測システム１２８は、
・学習後の予測期間中に、再学習が必要であると判定された場合に、重みパラメータを再学習する。
・重みパラメータを再学習する際、学習パラメータを最適化する。
・学習後の予測期間中に、再学習が必要であると判定された場合に、重みパラメータを再学習する。
・重みパラメータを再学習する際、学習パラメータを最適化する。
【0299】
これにより、第１の実施形態に係るプロセス状態予測システム１２８によれば、製造プロセスの経時変化に伴う予測精度の低下を抑えることができる。
【0300】
この結果、第１の実施形態によれば、時系列のセンサデータに基づきプロセス状態を予測する際の予測精度を向上させることができる。
【0301】
［その他の実施形態］
上記第１の実施形態では、プロセス状態を予測した予測結果データとして、異常の有無やセンサデータを出力する場合について説明した。しかしながら、プロセス状態予測部２０４により出力される予測結果データは、異常の有無やセンサデータに限定されず、例えば、プロセスの状態を示すレベルや、製造プロセスを実行する装置の故障の有無等であってもよい。
上記第１の実施形態では、プロセス状態を予測した予測結果データとして、異常の有無やセンサデータを出力する場合について説明した。しかしながら、プロセス状態予測部２０４により出力される予測結果データは、異常の有無やセンサデータに限定されず、例えば、プロセスの状態を示すレベルや、製造プロセスを実行する装置の故障の有無等であってもよい。
【0302】
なお、上記実施形態に挙げた構成等に、その他の要素との組み合わせ等、ここで示した構成に本発明が限定されるものではない。これらの点に関しては、本発明の趣旨を逸脱しない範囲で変更することが可能であり、その応用形態に応じて適切に定めることができる。
【符号の説明】
【0303】
１２０ ：基板処理装置
１２１ ：チャンバ
１２２ ：センサ
１２３ ：管理装置
１２４ ：管理部
１２５ ：制御装置
１２６ ：制御部
１２７ ：アクチュエータ
１２８ ：プロセス状態予測システム
２０１ ：Ｉ／Ｏ制御部
２０２ ：電圧変調部
２０３ ：多電極Ｉ／Ｏチップ
２０４ ：プロセス状態予測部
４０１ ：Ｄ／Ａ変換部
４０２ ：ナノ分子リザーバ
４０３ ：読み出し機能部
６１０ ：入力側電極
６２０ ：出力側電極
１２００ ：ＦＯＲＣＥ学習部
１３００ ：ＦＯＲＣＥ学習部
１２００＿１～１２００＿Ｍ ：ＦＯＲＣＥ学習部
１３００＿１～１３００＿Ｍ ：ＦＯＲＣＥ学習部
１６０１～１６０４ ：信号線
１７２１～１７２４ ：ＦＰＧＡ
２１１１、２１１２ ：ＦＰＧＡ
２６０１ ：プロセス状態データ送信部
２６０２ ：プロセス状態データ取得部
２６０３ ：期間制御部
２６０４ ：終了情報取得部
２６０５ ：再学習判定部
２６０６ ：評価部
２６０８ ：リザーバ特徴量取得部
２６０９ ：バッチ学習部
１２１ ：チャンバ
１２２ ：センサ
１２３ ：管理装置
１２４ ：管理部
１２５ ：制御装置
１２６ ：制御部
１２７ ：アクチュエータ
１２８ ：プロセス状態予測システム
２０１ ：Ｉ／Ｏ制御部
２０２ ：電圧変調部
２０３ ：多電極Ｉ／Ｏチップ
２０４ ：プロセス状態予測部
４０１ ：Ｄ／Ａ変換部
４０２ ：ナノ分子リザーバ
４０３ ：読み出し機能部
６１０ ：入力側電極
６２０ ：出力側電極
１２００ ：ＦＯＲＣＥ学習部
１３００ ：ＦＯＲＣＥ学習部
１２００＿１～１２００＿Ｍ ：ＦＯＲＣＥ学習部
１３００＿１～１３００＿Ｍ ：ＦＯＲＣＥ学習部
１６０１～１６０４ ：信号線
１７２１～１７２４ ：ＦＰＧＡ
２１１１、２１１２ ：ＦＰＧＡ
２６０１ ：プロセス状態データ送信部
２６０２ ：プロセス状態データ取得部
２６０３ ：期間制御部
２６０４ ：終了情報取得部
２６０５ ：再学習判定部
２６０６ ：評価部
２６０８ ：リザーバ特徴量取得部
２６０９ ：バッチ学習部
【図1A】
【図1B】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】