特許 7529739 モデル更新方法及びモデル更新システム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-07-29

(45)【発行日】2024-08-06

(54)【発明の名称】モデル更新方法及びモデル更新システム

(51)【国際特許分類】

   G06N 20/00 20190101AFI20240730BHJP

【ＦＩ】

G06N20/00

【請求項の数】 16

(21)【出願番号】P 2022158848

(22)【出願日】2022-09-30

(65)【公開番号】P2024052257

(43)【公開日】2024-04-11

【審査請求日】2023-01-12

(73)【特許権者】

【識別番号】000005108

【氏名又は名称】株式会社日立製作所

(74)【代理人】

【識別番号】110002365

【氏名又は名称】弁理士法人サンネクスト国際特許事務所

(72)【発明者】

【氏名】幸左 絵美

(72)【発明者】

【氏名】中川 慎二

【審査官】渡辺 順哉

(56)【参考文献】

【文献】特開２０２０－１７７４２７（ＪＰ，Ａ）

【文献】特開２０２２－１７３８６３（ＪＰ，Ａ）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ３／００－９９／００

(57)【特許請求の範囲】

【請求項1】

モデル更新装置が実行する、システムの出力又は実現象の観測値を推定するためのモデルを更新するモデル更新方法であって、
前記観測値と、第１入力情報を前記モデルに入力して出力された該観測値の推定値である第１出力情報と、の差分である第１誤差に基づくモデル誤差を演算するモデル誤差演算ステップと、
前記第１誤差と、前記第１入力情報とは異なる第２入力情報を所定パラメータを含む所定関数で表される追加モデル候補に入力して出力された第２出力情報と、の差分である第２誤差に基づく追加モデル誤差を演算する追加モデル誤差演算ステップと、
前記追加モデル誤差を最小化する前記所定パラメータの特定値及び該特定値のときの該追加モデル誤差の最小値を演算する追加モデル誤差最小値演算ステップと、
前記モデル誤差と、前記追加モデル誤差の前記最小値と、の差分であるモデル改善度を演算するモデル改善度演算ステップと、
前記モデル改善度が所定条件を充足するかを判定するモデル改善度判定ステップと、
前記モデル改善度が前記所定条件を充足すると判定された場合に、前記モデルが前記第１入力情報及び前記第２入力情報を入力として前記第１出力情報と前記第２出力情報の和を出力するように、前記特定値を代入した前記追加モデル候補を追加モデルとして該モデルに追加して更新するモデル更新ステップと、
を有することを特徴とするモデル更新方法。

【請求項2】

請求項１に記載のモデル更新方法であって、
前記所定パラメータは、線形結合の係数及びバイアス項であり、
前記追加モデル候補は、前記第２入力情報のそれぞれを入力した各関数の前記線形結合で表される、ことを特徴とするモデル更新方法。

【請求項3】

請求項２に記載のモデル更新方法であって、
前記追加モデル候補は、１つの前記第２入力情報を入力した関数の一次関数の形式で表され、
前記追加モデル誤差演算ステップにおいて前記第２入力情報を１つずつ選択し、選択した１つの前記第２入力情報をもとに前記追加モデル誤差を演算し、前記追加モデル誤差最小値演算ステップ、前記モデル改善度演算ステップ、前記モデル改善度判定ステップ、及び前記モデル更新ステップを繰り返し実行する、ことを特徴とするモデル更新方法。

【請求項4】

請求項３に記載のモデル更新方法であって、
ある前記第２入力情報についての前記追加モデル候補を前記モデルに追加した場合に一定以上のモデル精度の向上が得られた時点で、前記繰り返し実行を終了する、ことを特徴とするモデル更新方法。

【請求項5】

請求項１に記載のモデル更新方法であって、
前記所定条件は、前記モデル改善度が前記モデル誤差に対する所定割合を超過することである、ことを特徴とするモデル更新方法。

【請求項6】

請求項１に記載のモデル更新方法であって、
前記所定条件は、前記モデル改善度が、前記モデル誤差に対する所定割合を前回の前記モデルの更新からの経過時間で除算した値を超過することである、ことを特徴とするモデル更新方法。

【請求項7】

請求項１に記載のモデル更新方法であって、
前記第１誤差を演算する第１誤差演算ステップを有する、ことを特徴とするモデル更新方法。

【請求項8】

請求項１に記載のモデル更新方法であって、
前記モデル誤差は、前記観測値及び前記第１出力情報の時系列データのデータ期間にわたる前記第１誤差の二乗和誤差である、ことを特徴とするモデル更新方法。

【請求項9】

請求項１に記載のモデル更新方法であって、
前記追加モデル誤差は、前記観測値、前記第１出力情報、及び前記第２出力情報の時系列データのデータ期間にわたる前記第２誤差の二乗和誤差であり、
前記追加モデル誤差最小値演算ステップでは、
前記第２誤差の二乗和誤差を最小化する前記特定値と前記最小値を、正規方程式を用いて演算する、ことを特徴とするモデル更新方法。

【請求項10】

請求項１に記載のモデル更新方法であって、
前記モデルは、第１期間に取得及び加工された学習データに基づいて構築されたものであり、
前記追加モデル候補は、前記第１期間よりも後の第２期間に取得及び加工された学習データに基づいて構築されたものである、ことを特徴とするモデル更新方法。

【請求項11】

請求項１０に記載のモデル更新方法であって、
前記学習データは、前記モデル及び前記追加モデル候補の構築の際に加工の工数が一定以上に大きいために、少なくとも前記第１期間と前記第２期間とに時期を分けて加工することが必要な業務記録である、ことを特徴とするモデル更新方法。

【請求項12】

請求項１に記載のモデル更新方法であって、
前記モデルは、第１期間に取得及び加工された学習データに基づいて構築されたものであり、
前記追加モデル候補は、前記第１期間よりも一定期間経過後の第２期間に、前記システム又は前記実現象の環境条件が変更又は変化したことに応じて取得及び加工された学習データに基づいて構築されたものである、ことを特徴とするモデル更新方法。

【請求項13】

請求項１２に記載のモデル更新方法であって、
前記学習データは、製造現場における生産品の品質管理に関する情報である、ことを特徴とするモデル更新方法。

【請求項14】

請求項１に記載のモデル更新方法であって、
前記モデルは、第１期間に定義された要件定義に基づいて取得及び加工された学習データに基づいて構築されたものであり、
前記追加モデル候補は、前記第１期間よりも後の第２期間に、追加で定義された要件定義に基づいて取得及び加工された学習データに基づいて構築されたものである、ことを特徴とするモデル更新方法。

【請求項15】

請求項１４に記載のモデル更新方法であって、
前記学習データは、生産業務における最適計画に関する情報である、ことを特徴とするモデル更新方法。

【請求項16】

システムの出力又は実現象の観測値を推定するためのモデルを更新するモデル更新システムであって、
前記観測値と、第１入力情報を前記モデルに入力して出力された該観測値の推定値である第１出力情報と、の差分である第１誤差に基づくモデル誤差を演算するモデル誤差演算部と、
前記第１誤差と、前記第１入力情報とは異なる第２入力情報を所定パラメータを含む所定関数で表される追加モデル候補に入力して出力された第２出力情報と、の差分である第２誤差に基づく追加モデル誤差を演算する追加モデル誤差演算部と、
前記追加モデル誤差を最小化する前記所定パラメータの特定値及び該特定値のときの該追加モデル誤差の最小値を演算する追加モデル誤差最小値演算部と、
前記モデル誤差と、前記追加モデル誤差の前記最小値と、の差分であるモデル改善度を演算し、該モデル改善度が所定条件を充足するかを判定するモデル改善度判定部と、
前記モデル改善度が前記所定条件を充足すると判定された場合に、前記モデルが前記第１入力情報及び前記第２入力情報を入力として前記第１出力情報と前記第２出力情報の和を出力するように、前記特定値を代入した前記追加モデル候補を追加モデルとして該モデルに追加して更新するモデル更新部と、
を有することを特徴とするモデル更新システム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、モデル更新方法及びモデル更新システムに関する。

【背景技術】

【0002】

従来から、データの学習により構築された学習済みの学習モデルの精度を向上させるために、学習モデルの入力情報（特徴量、説明変数等）を追加して学習モデルを再学習して性能評価を行い、精度向上が確認されるまで、再学習と性能評価を繰り返すことが一般的に行われている。

【先行技術文献】

【非特許文献】

【0003】

【文献】Alice Zheng、Amanda Casari 著、株式会社ホクソエム訳、「機械学習のための特徴量エンジニアリング－その原理とPythonによる実践（オライリー・ジャパン）」、オーム社、２０１９年２月２３日

【発明の概要】

【発明が解決しようとする課題】

【0004】

しかし、上述の従来技術では、学習済みの学習モデルの精度を向上させるために、入力情報を追加して学習モデルを一から再構築するため、再構築のコスト（計算負荷及び計算時間）がかかる一方で、必ずしも学習モデルの精度が向上するとは限らなかった。また、複数のフェーズに跨る複雑な時系列データの分析において、複数のフェーズに跨る一定期間にわたって学習を行っても、十分な精度の学習モデルを構築できないというリスクが存在していた。すなわち、学習済みの学習モデルの精度を向上させるためのコストが高い一方で、コストに見合う十分な精度向上が必ずしも期待できないという問題があった。

【0005】

本発明は、上述の背景を鑑みてなされたもので、学習済みの学習モデルの精度を、低コストで十分に向上させるようにすることを目的とする。

【課題を解決するための手段】

【0006】

本発明の一側面では、モデル更新装置が実行する、システムの出力又は実現象の観測値を推定するためのモデルを更新するモデル更新方法であって、前記観測値と、第１入力情報を前記モデルに入力して出力された該観測値の推定値である第１出力情報と、の差分である第１誤差に基づくモデル誤差を演算するモデル誤差演算ステップと、前記第１誤差と、前記第１入力情報とは異なる第２入力情報を所定パラメータを含む所定関数で表される追加モデル候補に入力して出力された第２出力情報と、の差分である第２誤差に基づく追加モデル誤差を演算する追加モデル誤差演算ステップと、前記追加モデル誤差を最小化する前記所定パラメータの特定値及び該特定値のときの該追加モデル誤差の最小値を演算する追加モデル誤差最小値演算ステップと、前記モデル誤差と、前記追加モデル誤差の前記最小値と、の差分であるモデル改善度を演算するモデル改善度演算ステップと、前記モデル改善度が所定条件を充足するかを判定するモデル改善度判定ステップと、前記モデル改善度が前記所定条件を充足すると判定された場合に、前記モデルが前記第１入力情報及び前記第２入力情報を入力として前記第１出力情報と前記第２出力情報の和を出力するように、前記特定値を代入した前記追加モデル候補を追加モデルとして該モデルに追加して更新するモデル更新ステップと、を有することを特徴とする。

【発明の効果】

【0007】

本願の一側面によれば、学習済みの学習モデルの精度を、低コストで十分に向上させることができる。

【図面の簡単な説明】

【0008】

【図1】実施形態のモデル更新の概要を説明するための図。

【図2】実施形態に係るモデル生成システムの構成を示す図。

【図3】実施形態に係るモデル生成処理を示すフローチャート。

【図4】実施形態に係るモデル更新システムの構成を示す図。

【図5】実施形態に係るモデル改善度判定条件の決定画面を示す図。

【図6】実施形態に係るモデル更新処理を示すフローチャート。

【図7】実施形態に係る予測システムの構成を示す図。

【図8】実施例１に係る下水の汚染度の観測値の時系列データを示す図。

【図9】実施例１に係る下水の汚染度と相関がある変数を示す図。

【図10】実施例１に係る下水の汚染度と相関がある変数の時系列データを示す図。

【図11】実施例１に係る既存モデルによる下水の汚染度の推定値の時系列データを示す図。

【図12】実施例１に係る下水の汚染度との相関が推定される追加変数を示す図。

【図13】実施例１に係る下水の汚染度との相関が推定される追加変数の時系列データを示す図。

【図14】実施例２に係る有機樹脂の透明度の観測値の時系列データを示す図。

【図15】実施例２に係る有機樹脂の透明度と相関がある変数を示す図。

【図16】実施例２に係る有機樹脂の透明度と相関がある変数の時系列データを示す図。

【図17】実施例２に係る既存モデルによる有機樹脂の透明度の推定値の時系列データを示す図。

【図18】実施例２に係る有機樹脂の透明度との相関が推定される追加変数を示す図。

【図19】実施例２に係る有機樹脂の透明度との相関が推定される追加変数の時系列データを示す図。

【図20】実施例３に係る生産現場における人員配置計画の観測値の時系列データを示す図。

【図21】実施例３に係る生産現場における人員配置計画と相関がある変数を示す図。

【図22】実施例３に係る生産現場における人員配置計画と相関がある変数の時系列データを示す図。

【図23】実施例３に係る既存モデルによる生産現場における人員配置計画の推定値の時系列データを示す図。

【図24】実施例３に係る生産現場における人員配置計画との相関が推定される追加変数を示す図。

【図25】実施例３に係る生産現場における人員配置計画との相関が推定される追加変数の時系列データを示す図。

【発明を実施するための形態】

【0009】

以下、図面を参照して本願の開示に係る実施形態を説明する。実施形態は、図面も含めて本願を説明するための例示である。実施形態では、説明の明確化のため、適宜、省略及び簡略化がされている。特に限定しない限り、実施形態の構成要素は単数でも複数でもよい。また、ある実施形態と他の実施形態を組み合わせた形態も、本願に係る実施形態に含まれる。

【0010】

同一又は類似の構成要素には、同一の符号を付与し、後出の実施形態及び実施例では、説明を省略する、又は差分を中心とした説明のみを行う場合がある。また、同一又は類似の構成要素が複数ある場合には、同一の符号に異なる添字を付して説明する場合がある。また、これらの複数の構成要素を区別する必要がない場合には、添字を省略して説明する場合がある。各構成要素の数は、特に断りがない限り単数でも複数でもよい。

【0011】

実施形態において、プログラムを実行して行う処理について説明する場合がある。コンピュータは、プロセッサ（例えばＣＰＵ（Central Processing Unit）、ＧＰＵ（Graphics Processing Unit））により、主記憶装置のメモリや補助記憶装置のストレージ等を用いながら、プログラムで定められた処理を行う。そのため、プログラムを実行して行う処理の主体を、プロセッサとしてもよい。プロセッサがプログラムを実行することで、処理を行う機能部が実現される。

【0012】

同様に、プログラムを実行して行う処理の主体が、プロセッサを有するコントローラ、装置、システム、計算機、ノードであってもよい。プログラムを実行して行う処理の主体は、演算部であればよく、特定の処理を行う専用回路を含んでいてもよい。ここで、専用回路とは、例えばＦＰＧＡ（Field Programmable Gate Array）やＡＳＩＣ（Application Specific Integrated Circuit）、ＣＰＬＤ（Complex Programmable Logic Device）等である。

【0013】

プログラムは、プログラムソースから計算機にインストールされてもよい。プログラムソースは、例えば、プログラム配布サーバまたは計算機が読取り可能な非一時的な記憶メディアであってもよい。プログラムソースがプログラム配布サーバの場合、プログラム配布サーバはプロセッサと配布対象のプログラムを記憶する記憶資源（ストレージ）を含み、プログラム配布サーバのプロセッサが配布対象のプログラムを他の計算機に配布してもよい。また、実施形態において、２以上のプログラムが１つのプログラムとして実現されてもよいし、１つのプログラムが２以上のプログラムとして実現されてもよい。

【0014】

［実施形態］
図１は、実施形態のモデル更新の概要を説明するための図である。図１では、疑似実現象１００は、実現象１０１と、実現象１０１を疑似又は模擬する既存モデル１０２とを有する。実現象１０１は、観測対象の信号を出力する系である。実現象１０１に限らずシステムでもよい。また“信号”は、データとしてもよい。既存モデル１０２は、実現象１０１を疑似又は模擬する学習済みの既存モデルである。

【0015】

実現象１０１に関連する信号として、実現象１０１が出力する信号を観測した観測値ｙ１と、１つ以上の既知の信号ｘ１，ｘ２，・・・，ｘｎと、１つ以上の未知の信号ｕ１，ｕ２，・・・，ｕｍと、があるとする。観測値ｙ１、信号ｘ１，ｘ２，・・・，ｘｎ，ｕ１，ｕ２，・・・，ｕｍは、時系列のデータ期間の各時刻１，２，…，Ｔにおける時系列の信号である。

【0016】

信号ｘ１，ｘ２，・・・，ｘｎ，ｕ１，ｕ２，・・・，ｕｍは、観測値ｙ１との相関又は因果関係が推定される信号である。未知の信号ｕ１，ｕ２，・・・，ｕｍとは、既存モデル１０２の生成時には、取得されていないか観測が不可能である、あるいは観測値ｙ１との相関又は因果関係が見出されていない信号である。

【0017】

信号ｘ１，ｘ２，・・・，ｘｎ，ｕ１，ｕ２，・・・，ｕｍを説明変数とし、観測値ｙ１と目的変数とすると、説明変数と目的変数との間に何らかの相関を見い出せる場合がある。この相関に基づいて、観測値の予測や最適化分析が行われることが多い。既存モデル１０２の生成時に入手可能な既知の信号ｘ１，ｘ２，・・・，ｘｎの時系列信号のみを学習し、信号ｘ１，ｘ２，・・・，ｘｎを入力とし、観測値ｙ１の推定値ｙ２を出力とする既存モデル１０２を生成することができる。既存モデル１０２に対して信号ｘ１，ｘ２，・・・，ｘｎを入力すると、観測値ｙ１の推定値ｙ２が出力される。

【0018】

第１誤差ｅ１は、観測値ｙ１から、観測値ｙ１の推定値ｙ２を差引いた差分である。モデル誤差Ｊ１は、関数ｇを用いて、第１誤差ｅ１の関数として表される。第１誤差ｅ１の演算又は取得とモデル誤差Ｊ１の演算は、後述のモデル誤差演算部２１３によって実行される（図４）。モデル誤差Ｊ１は、例えば式（１）のように表される。

【数1】

【0019】

ここで関数ｇ（ｅ１）は、入力信号ｘ１，…，ｘｎの時系列データの期間Ｔにわたる第１誤差ｅ１の二乗和誤差とするが、二乗和誤差に限らず、時系列データの期間Ｔにわたって第１誤差ｅ１を評価できる関数であれば何れでもよい。

【0020】

なお実現象１０１及び既存モデル１０２は、ブラックボックスでもよい。また実現象１０１が出力する観測値ｙ１及び既存モデル１０２が出力する推定値ｙ２の各々は不明でも、第１誤差ｅ１が得られれば十分である。

【0021】

信号ｕ１，・・・，ｕｋは、未知の信号ｕ１，ｕ２，・・・，ｕｍから選択された１つ以上の追加信号である。追加モデル１０３（追加モデル候補）は、例えば、θをパラメータとして、信号ｕ１，・・・，ｕｋを入力として推定値ｚを出力する線形又は非線形の関数Ｆ（ｕ１，・・・，ｕｋ|θ）で表される。追加モデル１０３は、式（２）のように表される。（＊）^ｔは、行列又はベクトルの転置を表す。

【数2】

【0022】

さらに式（２）の右辺の関数Ｆ（ｕ１，・・・，ｕｋ|θ）は、式（３）のように関数ｆ（ｕｉ）の線形結合で表されてもよい。ただし、ｕｉ＝０のときｆ（ｕｉ）＝０である。式（３）の右辺における“ｂ”は、バイアス項である。

【数3】

【0023】

第２誤差ｅ２は、第１誤差ｅ１から、推定値ｚを差引いた差分である。追加モデル誤差Ｊ２は、関数ｈを用いて、第２誤差ｅ２の関数として表される。第２誤差ｅ２と追加モデル誤差Ｊ２の演算は、後述の追加モデル誤差演算部２１４によって実行される（図４）。追加モデル誤差Ｊ２は、例えば式（４）のように表される。

【数4】

【0024】

ここで関数ｈ（ｅ２）は、入力信号ｘ１，…，ｘｎ，ｕ１，…，ｕｋの時系列データの期間Ｔにわたる第２誤差ｅ２の二乗和誤差とするが、二乗和誤差に限らず、時系列データの期間Ｔにわたって第２誤差ｅ２を評価できる関数であれば何れでもよい。

【0025】

また追加モデル誤差Ｊ２の最小値Ｊ２´は、追加モデル誤差Ｊ２を最小化するパラメータθの時の追加モデル誤差Ｊ２の値である。追加モデル誤差Ｊ２の最小値Ｊ２´は、後述の追加モデル誤差最小値演算部２１５によって演算される（図４）。追加モデル１０３が、式（３）のように線形式で表される場合には、追加モデル誤差Ｊ２を最小化するパラメータθは、式（５）の正規方程式から求められる。また追加モデル誤差Ｊ２を最小化するパラメータθを求めると、このパラメータθのときの追加モデル誤差Ｊ２の最小値も求まる。式（５）において、ｕｊ（ｔ）は、期間Ｔ内の時系列データのうちの時刻ｔにおけるｊ番目の信号ｕｊの値を表す。

【数5】

【0026】

モデル改善度Ｅは、モデル誤差Ｊ１から、追加モデル誤差の最小値Ｊ２´を差引いた差分である。モデル改善度Ｅは、所定閾値又は所定範囲と比較され、所定閾値以上となるか、又は所定範囲外となる場合に、既存モデル１０２に追加モデル１０３を追加した場合にモデル精度が有意に改善すると認められるとされる。モデル改善度Ｅが所定閾値以上又は所定範囲外となる場合に、既存モデル１０２に追加モデル１０３を追加してモデル１３２を更新する。更新後のモデル１３２は、信号ｘ１，ｘ２，・・・，ｘｎの入力に対して既存モデル１０２が出力した推定値ｙ２に、信号ｕ１，・・・，ｕｋの入力に対して追加モデル１０３が出力した推定値ｚを加算したｙを、新たな推定値として出力する。推定値ｙは、後述の推定部３１１によって演算される（図７）。

【0027】

なお式（３）において、追加信号ｕ１，・・・，ｕｋのうち、ｕ１以外を０とおくと、式（６）のように、推定値ｚはｆ（ｕ１）の一次関数で表される。

【数6】

【0028】

同様に、ｕ２以外を０とおく、ｕ３以外を０とおく、…、ｕｋ以外を０とおく、の何れにおいても、ｚｊはｆ（ｕｊ）（ｊ＝２，…，ｋ）の一次式となる。よって、ｕ１→ｕ２→…→ｕｋと、追加信号を１つずつ選択しながら各追加信号に対応する追加モデル誤差Ｊ２の最小値Ｊ２´を取るパラメータθ＝［ｕｊ，ｂ］を求める。そして、このパラメータθを追加モデル１０３に代入した既存モデル１０２に追加してモデル１３２を順次更新できる。ｕ１→ｕ２→…→ｕｋのうちのあるｕｊで追加モデル１０３の追加によってモデル１３２の精度が一定以上向上すると、このｕｊより後のｕｌ（ｌ＝ｊ＋１，ｊ＋２，…）についての追加モデル１０３の生成及び追加に関する処理の繰り返し実行を終了してもよい。

【0029】

（モデル生成システム１の構成）
図２は、実施形態に係るモデル生成システム１の構成を示す図である。モデル生成システム１は、既存モデル１０２を用いた推論処理に先立って既存モデル１０２を予め生成する。モデル生成システム１は、プロセッサ１１、メモリ１２、及びストレージ１３を有する。

【0030】

ストレージ１３は、モデル学習用データ１３１及びモデル１３２を格納する。モデル学習用データ１３１は、既存モデル１０２を生成する際の学習データである。モデル１３２は、既存モデル１０２を含む。

【0031】

プロセッサ１１は、データ前処理部１１１、モデル生成部１１２、及びモデル適用部１１３を有する。これらの機能部は、プロセッサ１１による所定プログラムの実行により実現される。

【0032】

データ前処理部１１１は、モデル学習用データ１３１を、既存モデル１０２の訓練に適した形式に加工する。モデル生成部１１２は、データ前処理部１１１によって加工されたモデル学習用データ１３１の学習を行って、既存モデル１０２を生成する。モデル適用部１１３は、モデル生成部１１２によって生成された既存モデル１０２をモデル１３２としてストレージ１３に保存する。既存モデル１０２を含むモデル１３２は、ストレージ１３に格納されることで、後述のモデル更新システム２及び予測システム３にデプロイ可能となる。ストレージ１３及びモデル１３２は、モデル生成システム１、モデル更新システム２及び予測システム３の何れからもアクセス可能な共有ストレージであってもよい。

【0033】

（実施形態に係るモデル生成処理）
図３は、実施形態に係るモデル生成処理Ｓ１を示すフローチャートである。モデル生成処理Ｓ１は、例えばユーザ指示を契機として、モデル生成システム１によって実行される。

【0034】

先ずステップＳ１１では、データ前処理部１１１は、入力信号ｘ１，ｘ２，…，ｘｎの時系列データを取得する。次にステップＳ１２では、データ前処理部１１１は、ステップＳ１１で取得した入力信号ｘ１，ｘ２，…，ｘｎの時系列データを、データ加工する。ステップＳ１２は、人手で行われてもよい。

【0035】

次にステップＳ１３では、モデル生成部１１２は、ステップＳ１２でデータ加工された入力信号ｘ１，ｘ２，…，ｘｎの時系列データを学習して既存モデル１０２を生成する。次にステップＳ１４では、モデル適用部１１３は、ステップＳ１３で生成された既存モデル１０２をストレージ１３に保存する。

【0036】

（実施形態に係るモデル更新システム２の構成）
図４は、実施形態に係るモデル更新システム２の構成を示す図である。モデル更新システム２は、既存モデル１０２の生成後に、既存モデル１０２に追加する追加モデル１０３を生成する。モデル更新システム２は、プロセッサ２１、メモリ２２、ストレージ２３、及び出力部２４を有する。

【0037】

ストレージ２３は、追加モデル学習用データ２３１、モデル１３２、及びモデル改善度判定条件２３２を格納する。追加モデル学習用データ２３１は、追加モデル１０３－１，…，１０３－ｒを生成する際の学習データである。

【0038】

モデル１３２には、既存モデル１０２及び追加モデル１０３－１，…，１０３－ｒが含まれる。既存モデル１０２は、図２に示すモデル生成システム１によって生成された既存モデル１０２である。追加モデル１０３－１，…，１０３－ｒは、既存モデル１０２に対して、モデル精度を所定閾値Ｔｈ１以上に改善するモデル改善度Ｅであるため追加された１つ以上の追加モデル１０３であり、追加数分だけモデル１３２に格納されている。

【0039】

プロセッサ２１は、データ前処理部２１１、追加モデル候補生成部２１２、及びモデル誤差演算部２１３を有する。またプロセッサ２１は、追加モデル誤差演算部２１４、追加モデル誤差最小値演算部２１５、モデル改善度判定部２１６、モデル更新部２１７、及びモデル改善度判定条件決定部２１８を有する。これらの機能部は、プロセッサ２１による所定プログラムの実行により実現される。

【0040】

データ前処理部２１１は、追加モデル学習用データ２３１を、追加モデル１０３（追加モデル１０３－ｉ（ｉ＝１，２，…，ｎ））の生成に適した形式に加工する。

【0041】

追加モデル候補生成部２１２は、追加信号ｕ１，・・・，ｕｋに対して推定値ｚを出力する式（２）又は式（３）の形式のモデルを、ある関数とパラメータθを用いて生成する。追加モデル候補生成部２１２は、データ前処理部２１１によって加工された追加モデル学習用データ２３１を用いて、追加モデル１０３を生成する。

【0042】

モデル誤差演算部２１３は、式（１）で表されるモデル誤差Ｊ１を演算する。追加モデル誤差演算部２１４は、式（４）で表される追加モデル誤差Ｊ２を演算する。追加モデル誤差最小値演算部２１５は、式（５）を用いて追加モデル誤差Ｊ２を最小化するパラメータθを演算し、このパラメータθのときの追加モデル誤差Ｊ２の最小値を、式（４）を元に演算する。

【0043】

モデル改善度判定部２１６は、モデル誤差Ｊ１から、追加モデル誤差の最小値Ｊ２´を差引いて、モデル改善度Ｅを演算する。そしてモデル改善度判定部２１６は、モデル改善度Ｅを、所定閾値又は所定範囲と比較する。モデル改善度判定部２１６は、モデル改善度Ｅが、所定閾値以上であるか、又は所定範囲外である場合に、現在のモデル改善度Ｅの算出基礎であるパラメータθの下での追加モデル１０３を、既存モデル１０２に対して追加すると決定する。

【0044】

モデル更新部２１７は、モデル改善度判定部２１６によって、現在のモデル改善度Ｅの算出基礎であるパラメータθでの追加モデル１０３を既存モデル１０２に追加すると決定されると、この追加モデル１０３を既存モデル１０２に追加してモデル１３２を更新する。

【0045】

モデル改善度判定条件決定部２１８は、モデル改善度Ｅを比較する所定閾値又は所定範囲であるモデル改善度判定条件２３２を演算し、ストレージ２３に保存する。モデル改善度判定条件２３２は、現在の既存モデル１０２の精度に対して、例えば１％、２．５％、５%といった所定割合だけ精度が向上するモデル改善度Ｅの値Ｔｈ１を所定閾値とすることで決定される。

【0046】

あるいは、モデル改善度判定条件２３２は、現在の既存モデル１０２の精度に対して、例えば１％、２．５％、５%の所定割合を前回の追加モデル１０３の追加からの経過時間で除算した値だけ精度が向上するモデル改善度Ｅの値を所定閾値とすることで決定される。これにより既存モデル１０２の短時間での頻繁な更新を抑制できる。

【0047】

モデル改善度判定条件２３２が値Ｔｈ１又は値Ｔｈ２の場合、モデル改善度Ｅがモデル改善度判定条件２３２以上である場合に、モデル改善度Ｅの算出基礎であるパラメータθの下での追加モデル１０３を既存モデル１０２に対して追加すると決定される。

【0048】

またはモデル改善度判定条件２３２は、現在の既存モデル１０２の精度と同程度と見なせるモデル改善度Ｅの範囲を所定範囲とすることで決定される。この場合、モデル改善度Ｅが、モデル改善度判定条件２３２の範囲外である場合に、モデル改善度Ｅの算出基礎であるパラメータθの下での追加モデル１０３を既存モデル１０２に対して追加すると決定される。

【0049】

出力部２４は、ディスプレイ等の各種情報を出力する出力装置である。

【0050】

図５は、実施形態に係るモデル改善度判定条件２３２の決定画面２４Ｄを示す図である。決定画面２４Ｄは、出力部２４の表示画面に表示され、モデル改善度Ｅを増減した場合のモデル精度のシミュレート結果を表示する。現状の既存モデル１０２の精度２４Ｄ１を元に、既存モデル１０２を更新する所定閾値Ｔｈ１を設定し、それを上回るモデル改善度Ｅとなる追加モデル１０３を、現在の既存モデル１０２に追加して更新する追加モデルとする。

【0051】

現在の既存モデル１０２の精度２４Ｄ１は、シミュレーション又は評価データを用いたモデル評価により算出できる。現在の既存モデル１０２の精度２４Ｄ１は、算出結果にバラつきがあり幅を持ったデータである。例えば現在の既存モデル１０２の精度の最大値ＭにＭのΔ％だけ加算した（１＋Δ／１００）Ｍを所定閾値Ｔｈ１とできる。そしてスライディングスケール２４Ｄ２を動かしてモデル改善度Ｅを変え、各モデル改善度Ｅにおけるモデル精度の範囲を確認する。モデル精度が所定閾値Ｔｈ１以上となるモデル改善度Ｅを取る追加モデル１０３のみが、既存モデル１０２に追加される追加モデルとなる。図５の例では、モデル改善度ＥがＥ１以上である場合に、現在の既存モデル１０２の精度に対してモデル精度が所定閾値Ｔｈ１より大となり改善されることを示している。

【0052】

なお所定閾値Ｔｈ１の算出の際には、現在の既存モデル１０２の精度の最大値Ｍに代えて、平均値、中央値、標準偏差等の各種統計値を用いてもよい。また所定閾値Ｔｈ１の算出の際には、Δ％に代えてΔ％／Ｔ１（ただし、Ｔ１は前回の追加モデル１０３の追加からの経過時間を表す）としてもよい。

【0053】

（実施形態に係るモデル更新処理Ｓ２）
図６は、実施形態に係るモデル更新処理Ｓ２を示すフローチャートである。モデル更新処理Ｓ２では、例えば既存モデル１０２のデータドリフトの検知を契機として、モデル更新システム２によって実行される。モデル更新処理Ｓ２の実行時には、学習済みの既存モデル１０２がデプロイされていることを前提とする。

【0054】

先ずステップＳ２１では、モデル誤差演算部２１３は、第１誤差ｅ１の入力を受け付ける。モデル誤差演算部２１３は、実現象１０１の観測値ｙ１と既存モデル１０２の推定値ｙ２から第１誤差ｅ１を演算してもよい。次にステップＳ２２では、モデル誤差演算部２１３は、モデル誤差Ｊ１を演算する。次にステップＳ２３では、モデル誤差演算部２１３は、モデル誤差Ｊ１が閾値Ｔｈ０を超過したかを判定する。モデル誤差演算部２１３は、モデル誤差Ｊ１が閾値Ｔｈ０を超過した場合（ステップＳ２３ＹＥＳ）にステップＳ２４に処理を移し、超過していない場合（ステップＳ２３ＮＯ）にステップＳ２１に処理を戻す。

【0055】

ステップＳ２３は、既存モデル１０２のデータドリフト発生の有無を監視する処理である。従ってステップＳ２３は、既存モデル１０２のデータドリフト発生の有無に関係なく、既存モデル１０２を含むモデル１３２のモデル精度を改善する目的である場合には、省略される。

【0056】

ステップＳ２４では、データ前処理部２１１は、信号ｕ１，ｕ２，・・・，ｕｍからある組み合わせで追加信号ｕ１，・・・，ｕｋの時系列データを取得する。次にステップＳ２５では、データ前処理部２１１は、ステップＳ２４で取得した追加信号ｕ１，・・・，ｕｋを、追加モデル１０３の生成に適した形式に加工する。ステップＳ２５は、人手で行われてもよい。

【0057】

次にステップＳ２６では、追加モデル候補生成部２１２は、ステップＳ２５で加工された追加信号ｕ１，…，ｕｋに対して推定値ｚを出力する式（２）又は式（３）の形式の追加モデル１０３（追加モデル候補）を、ある関数とパラメータθを用いて生成する。

【0058】

次にステップＳ２７では、追加モデル誤差演算部２１４は、第２誤差ｅ２を演算する。次にステップＳ２８では、追加モデル誤差演算部２１４は、追加モデル誤差Ｊ２を演算する。次にステップＳ２９では、モデル改善度判定部２１６は、モデル改善度Ｅを演算する。次にステップＳ３０では、モデル改善度判定部２１６は、ステップＳ２９で演算したモデル改善度Ｅが所定閾値Ｔｈ１より大であるかを判定する。モデル改善度判定部２１６は、モデル改善度Ｅが所定閾値Ｔｈ１より大である場合（ステップＳ３０ＹＥＳ）にステップＳ３１に処理を移し、モデル改善度Ｅが所定閾値Ｔｈ１以下である場合（ステップＳ３０ＮＯ）にステップＳ２４に処理を戻す。ステップＳ２０から処理が戻されたステップＳ２４では、前回までのステップＳ２４の実行時とは異なる組み合わせで信号ｕ１，ｕ２，・・・，ｕｍから追加信号を選択し、選択した追加信号の時系列データを取得する。

【0059】

ステップＳ３１では、モデル更新部２１７は、ステップＳ３でモデル改善度Ｅが所定閾値Ｔｈ１より大となる追加モデル１０３を追加することで既存モデル１０２更新する。

【0060】

（実施形態に係る予測システム３の構成）
図７は、実施形態に係る予測システム３の構成を示す図である。予測システム３は、既存モデル１０２及び追加モデル１０３－１，…，１０３－ｒを用いて、入力信号を基に観測信号ｙ１の推定値を出力する。例えば追加モデル１０３－ｊ（ｊ＝１，…，ｒ）は、入力信号｛ｕ（ｊ）｝に対して観測値ｙ１の推定値ｚｊを出力するとする。ただし｛ｕ（ｊ）｝は信号ｕ１，ｕ２，・・・，ｕｍから選択した信号のある組み合わせからなる集合であり、ｊ≠ｊ´に対して｛ｕ（ｊ）｝∩｛ｕ（ｊ´）｝である。既存モデル１０２及び追加モデル１０３－ｊを含んで構成されるモデル１３２が出力する推定値ｙは、式（７）のようになる。式（７）において、推定値ｙ２は、入力信号ｘ１，…，ｘｎに対して既存モデル１０２が出力する推定値である。推定値ｚｊは、入力信号｛ｕ（ｊ）｝に対して追加モデル１０３－ｊが出力する推定値である。

【数7】

【0061】

予測システム３は、プロセッサ３１、メモリ３２、ストレージ３３、及び出力部３４を有する。

【0062】

ストレージ３３は、モデル１３２を格納する。モデル１３２には、既存モデル１０２及び追加モデル１０３－１，…，１０３－ｒが含まれる。モデル１３２は、モデル更新システム２（図４）のモデル１３２と同様である。

【0063】

プロセッサ３１は、推定部３１１を有する。推定部３１１は、プロセッサ３１による所定プログラムの実行により実現される。

【0064】

推定部３１１は、モデル１３２に含まれる既存モデル１０２及び追加モデル１０３－ｊ（ｊ＝１，…，ｎ）に対して入力信号ｘ１，…，ｘｎ、｛ｕ（ｊ）｝（ｊ＝１，…，ｒ）を入力する。また推定部３１１は、入力信号ｘ１，…，ｘｎ、｛ｕ（ｊ）｝（ｊ＝１，…，ｒ）に対して既存モデル１０２及び追加モデル１０３－ｊから出力された推定値ｙ２，ｚｊ（ｊ＝１，…，ｒ）を基に、モデル１３２の出力である推定値ｙを式（７）に基づいて出力する。

【0065】

出力部３４は、入力信号ｘ１，…，ｘｎ、｛ｕ（ｊ）｝（ｊ＝１，…，ｒ）に対してモデル１３２が出力した推定値ｙを表示する。

【0066】

なお、モデル生成システム１、モデル更新システム２、及び予測システム３は、のうちの２つ以上が１つのシステムに統合されていてもよい。例えば、モデル更新システム２と予測システム３が１つのシステムに統合されていてもよい。

【0067】

（実施形態の効果）
本実施形態によれば、既存モデル１０２を含むモデル１３２のモデル精度を、変数追加を逐次試行し、モデル精度が向上する場合のみ追加モデル１０３を追加する更新を行うことで、既存モデル１０２の再学習を実行せず、低コストで十分に向上させることができる。また本実施形態は、既存モデル１０２に対して追加信号に基づく追加モデルを追加するモデルの更新方法のみならず、新規にモデルを作成する場合にも適用できる。すなわち、必要最低限の入力信号を基にコアとなる既存モデル１０２を構築後、追加変数を逐次追加して追加モデルを追加することで、低コストで高精度なモデルを新規に作成することができる。

【0068】

本実施形態では、予測システム３が予測に用いるモデル１３２の「学習データの入手時期が時間的に分散するケース」や、「データドリフトが発生したケース」、「入力情報の追加要望があるケース」等に対して、低コストで高精度なモデルを提供できる。

【0069】

本実施形態では、まずは既存モデルには手を加えず追加入力信号のみで学習及び推論を行う。追加変数により精度が向上することが確認できた場合のみ既存モデルに追加モデルを追加する更新を行う。追加モデルを線形式とすれば正規方程式を解くことに帰着するため学習及び推論の計算コストが低く短時間で結果を出力可能である。その上、追加モデルは、解析的な演算によって導き出されるので、説明性が高いという利点がある。

【0070】

上述の「学習データの入手時期が時間的に分散するケース」は、例えば、学習データの提供主体が複数存在する場合である。また例えば、学習データの前処理に多大な工数を必要とすることから全ての学習データを一斉に利用できず時期を分けて前処理し、順次利用可能になる場合である。あるいは、長期にわたる分析のため、時間を隔てて同一種類の観測値を取得する場合もある。

【0071】

「データドリフトが発生したケース」は、例えば、時間経過に応じて実現象１０１に経年劣化やその他の変動が生じた場合である。「入力情報の追加要望があるケース」は、例えば、予測システム３の運用において変数追加の要望があった場合である。

【0072】

以下、「学習データの入手時期が時間的に分散するケース」を実施例１、「データドリフトが発生したケース」を実施例２、「入力情報の追加要望があるケース」を実施例３として、上述の実施形態の適用例を説明する。

【実施例1】

【0073】

実施例１は、「学習データの入手時期が時間的に分散するケース」として、上述の実施形態を、モデルを用いた下水の汚染度の推定業務に適用した場合を示す。すなわち既存モデル１０２を含むモデル１３２は、下水の汚染度と相関がある変数を入力として、下水の汚染度の推定値を出力する。そして、既存モデル１０２の構築時から後日に、別の時系列データを取得して追加モデル１０３（追加モデル候補）を構築する。そして、新規追加の変数を入力とする追加モデル１０３のうちモデル改善度Ｅが所定閾値Ｔｈ１以上となる追加モデル１０３を既存モデル１０２に追加してモデル１３２が更新される。

【0074】

実施例１では、既存モデル１０２及び追加モデル１０３の学習データは、モデル構築の際の加工処理の工数が一定以上に大きいために、少なくとも２つの期間にデータを分けて加工することが必要な業務記録である。

【0075】

図８は、実施例１に係る下水の汚染度の観測値ｙ１の時系列データを示す図である。図８は、業務上取得された実現象１０１である、ある観測点における下水の汚染度の観測値ｙ１（％）の時系列データを示す。

【0076】

図９は、実施例１に係る下水の汚染度と相関がある変数を示す図である。図１０は、実施例１に係る下水の汚染度と相関がある変数の時系列データを示す図である。図１１は、実施例１に係る既存モデル１０２による下水の汚染度の推定値ｙ２の時系列データを示す図である。図９は、下水の汚染度と関係又は相関がある変数を列挙してる。図１０は、図９に列挙する変数の時系列データを示す。図１１は、図１０に示す変数の時系列データを入力として既存モデル１０２が出力する下水の汚染度の推定値ｙ２（％）の時系列データである。

【0077】

図１２は、実施例１に係る下水の汚染度との相関が推定される追加変数を示す図である。図１３は、実施例１に係る下水の汚染度との相関が推定される追加変数の時系列データを示す図である。実施例１では、図１２に示す追加変数は、図９に示す変数と比較して、同一種類であるが、取得日時が異なる。このため、「学習データの入手時期が時間的に分散するケース」となり、先に取得及び加工された時系列データを基に既存モデル１０２が構築され、後に取得及び加工された時系列データを基に追加モデル１０３が構築される。

【0078】

実施例１で対象とする時系列データは、既存モデル１０２及び追加モデル１０３（追加モデル候補）の構築の際に、データ加工の工数が一定以上に大きいために、少なくとも２つ以上に時期を分けて加工することが必要となる業務記録に基づく。

【0079】

実施例１では、実現象１０１が出力する観測値ｙ１は、既に収集された業務記録上の時系列データである。既存モデル１０２は、既に学習済みのモデルであり、下水の汚染度と相関がある変数を含む業務記録上の時系列データのうちの観測値ｙ１と同時に取得され加工された入力信号ｘ１，ｘ２，…，ｘｎを入力として、観測値ｙ１の推定値ｙ２を演算し出力する。

【0080】

追加モデル１０３（追加モデル候補）は、出力信号ｚを演算する。追加モデル１０３（追加モデル候補）は、下水の汚染度と相関があると推定される追加変数を含む業務記録上の時系列データのうち入力信号ｘ１，…，ｘｎよりも後日取得され加工された追加の入力信号ｕ１，…，ｕｋを用いて出力信号ｚを演算し出力する。

【0081】

モデル更新システム２のモデル誤差演算部２１３は、観測値ｙ１と推定値ｙ２との第１誤差ｅ１に基づくモデル誤差Ｊ１を演算することで、過去に整理された業務記録のみに基づいて構築された既存モデル１０２の精度を測定する。

【0082】

モデル更新システム２の追加モデル誤差演算部２１４は、第１誤差ｅ１と出力信号ｚとの誤差である第２誤差ｅ２に基づく追加モデル誤差Ｊ２を演算する。これにより、追加モデル誤差演算部２１４は、後日取得され加工された追加の業務記録に基づく追加モデル１０３（追加モデル候補）を既存モデル１０２に追加した場合の誤差を測定する。

【0083】

モデル更新システム２の追加モデル誤差最小値演算部２１５は、追加モデル誤差Ｊ２を最小化するパラメータθを求める。モデル更新システム２の追加モデル誤差最小値演算部２１５は、追加モデル誤差Ｊ２を最小化するパラメータθ及びそのときの追加モデル誤差Ｊ２の最小値Ｊ２´を演算する。上述のｚ＝Ｆ（ｕ１，…，ｕｋ｜θ）が線形式であれば、最小値Ｊ２´は、正規方程式を用いて演算できる。

【0084】

モデル更新システム２のモデル改善度判定部２１６は、モデル誤差Ｊ１と最小値Ｊ２´の差であるモデル改善度Ｅを求めることで、追加の業務記録に基づく追加モデル１０３（追加モデル候補）の追加によって、予測精度が向上するかを判定する。モデル更新システム２のモデル更新部２１７は、モデル改善度判定部２１６によってモデル改善度Ｅが所定閾値Ｔｈ１より大であると判定された場合に、予測精度が向上するとして、追加モデル１０３（追加モデル候補）を既存モデル１０２に追加する。

【0085】

予測システム３の推定部３１１は、追加モデル１０３（追加モデル候補）が既存モデル１０２に追加されると、観測値ｙ１の推定値ｙを出力する。推定値ｙは、入力信号ｘ１，…，ｘｎに対して既存モデル１０２が出力する推定値ｙ２と、追加の入力信号ｕ１，…，ｕｋに対して追加モデル１０３が出力する出力信号ｚとの合算値である。

【0086】

実施例１では、加工に時間がかかるような業務記録に基づく時系列データのうち、先に一部のデータを基に既存モデル１０２を構築した後、モデル精度が向上する場合に、残りの業務記録又は追加された業務記録に基づく追加モデル１０３及び追加変数を追加する。よって、モデルの構築及び予測システムの立上りを迅速化すると共に、業務記録に基づく時系列データの加工にかかる時間を抑制し、低コストで高精度なモデルを作成することができる。

【実施例2】

【0087】

実施例２は、「データドリフトが発生したケース」として、上述の実施形態を、製造現場におけるモデルを用いた有機樹脂の透明度の推定業務に適用した場合を示す。すなわち既存モデル１０２を含むモデル１３２は、有機樹脂の透明度と相関がある変数を入力として、有機樹脂の透明度の推定値を出力する。そして、既存モデル１０２の構築時から一定期間経過後に、データドリフトが発生した場合に、製造ラインに設置した新規センサから異なる種類の時系列データを取得して追加モデル１０３（追加モデル候補）を構築する。そして、新規追加の変数を入力とする追加モデル１０３のうちモデル改善度Ｅが所定閾値Ｔｈ１以上となる追加モデル１０３を既存モデル１０２に追加してモデル１３２が更新される。

【0088】

実施例２では、既存モデル１０２及び追加モデル１０３の学習データは、製造現場における生産品の品質管理に関する情報である。

【0089】

図１４は、実施例２に係る有機樹脂の透明度の観測値の時系列データを示す図である。図１４は、業務上取得された実現象１０１である、ある製造現場における有機樹脂の透明度の観測値ｙ１（％）の時系列データを示す。

【0090】

図１５は、実施例２に係る有機樹脂の透明度と相関がある変数を示す図である。図１６は、実施例２に係る有機樹脂の透明度と相関がある変数の時系列データを示す図である。図１７は、実施例２に係る既存モデルによる有機樹脂の透明度の推定値の時系列データを示す図である。図１５は、下水の汚染度と関係又は相関がある変数を列挙してる。図１６は、図１５に列挙する変数の時系列データを示す。図１７は、図１５に示す変数の時系列データを入力として既存モデル１０２が出力する有機樹脂の透明度の推定値ｙ２（％）の時系列データである。

【0091】

図１８は、実施例２に係る有機樹脂の透明度との相関が推定される追加変数を示す図である。図１９は、実施例２に係る有機樹脂の透明度との相関が推定される追加変数の時系列データを示す図である。実施例２では、図１８に示す追加変数は、図１５に示す変数と比較して、異なる種類である。このため、先に取得及び加工された時系列データを基に構築された既存モデル１０２に「データドリフトが発生したケース」において、後に新規設置された追加センサを介して取得及び加工された時系列データを基に追加モデル１０３が構築される。

【0092】

実施例２では、実現象１０１が出力する観測値ｙ１は、製造現場での生産品の品質に関する時系列データである。既存モデル１０２は、既に学習済みのモデルである。既存モデル１０２は、有機樹脂の透明度と相関がある変数を含む製造現場での生産品の品質に関する時系列データのうちの観測値ｙ１と同時に取得され加工された入力信号ｘ１，…，ｘｎを入力として、観測値ｙ１の推定値ｙ２を演算し出力する。

【0093】

追加モデル１０３（追加モデル候補）は、出力信号ｚを演算する。追加モデル１０３（追加モデル候補）は、有機樹脂の透明度と相関があると推定される追加変数を含む製造現場での生産品の品質に関する時系列データのうち入力信号ｘ１，ｘ２，…，ｘｎ以外の入力信号ｕ１，…，ｕｋを取得し加工して用いる。入力信号ｕ１，…，ｕｋは、センサ追加等により取得される。すなわち追加モデル１０３（追加モデル候補）は、一定時間経過後の設備劣化や気温変化等により出力信号ｙ１と推定値ｙ２に乖離が発生した場合に、出力信号ｚを演算し出力する。

【0094】

モデル更新システム２のモデル誤差演算部２１３は、観測値ｙ１と推定値ｙ２との第１誤差ｅ１に基づくモデル誤差Ｊ１を演算する。これにより、モデル誤差演算部２１３は、データ分析開始時点までに取得された製造現場での生産品の品質に関する時系列データのみに基づいて構築された既存モデル１０２の精度を測定する。

【0095】

モデル更新システム２の追加モデル誤差演算部２１４は、第１誤差ｅ１と出力信号ｚとの誤差である第２誤差ｅ２に基づく追加モデル誤差Ｊ２を演算する。これにより、追加モデル誤差演算部２１４は、センサ追加等により取得され加工された追加の時系列データに基づく追加モデル１０３（追加モデル候補）を既存モデル１０２に追加した場合の誤差を測定する。

【0096】

モデル更新システム２の追加モデル誤差最小値演算部２１５は、追加モデル誤差Ｊ２を最小化するパラメータθを求める。モデル更新システム２の追加モデル誤差最小値演算部２１５は、追加モデル誤差Ｊ２を最小化するパラメータθ及びそのときの追加モデル誤差Ｊ２の最小値Ｊ２´を演算する。

【0097】

モデル更新システム２のモデル改善度判定部２１６は、モデル誤差Ｊ１と最小値Ｊ２´の差であるモデル改善度Ｅを求める。そして、モデル改善度判定部２１６は、モデル改善度Ｅを基に、追加のセンサ等により取得された時系列データに基づく追加モデル１０３（追加モデル候補）の追加によって、予測精度が向上するかを判定する。

【0098】

モデル更新システム２のモデル更新部２１７は、モデル改善度判定部２１６によってモデル改善度Ｅが所定閾値Ｔｈ１より大であると判定された場合に、予測精度が向上するとして、追加モデル１０３（追加モデル候補）を既存モデル１０２に追加する。

【0099】

予測システム３の推定部３１１は、追加モデル１０３（追加モデル候補）が既存モデル１０２に追加されると、観測値ｙ１の推定値ｙを出力する。推定値ｙは、入力信号ｘ１，…，ｘｎに対して既存モデル１０２が出力する推定値ｙ２と、追加の入力信号ｕ１，…，ｕｋに対して追加モデル１０３が出力する出力信号ｚとの合算値である。

【0100】

実施例２によれば、一定時間経過後に環境条件が変化した場合おいても、条件変更後の変数追加により精度が向上する場合にのみ新しい変数を追加することにより、低コストで高精度なモデルを作成することができる。

【実施例3】

【0101】

実施例３は、「入力情報の追加要望があるケース」として、上述の実施形態を、モデルを用いた生産現場における人員配置計画業務に適用した場合を示す。すなわち既存モデル１０２を含むモデル１３２は、生産現場（例えば工程Ａ）における人員配置数と相関がある変数を入力として、人員配置数の推定値を出力する。そして、既存モデル１０２の構築時から後日に、ユーザ等からの変数追加の要望に応じて別の時系列データを取得して追加モデル１０３（追加モデル候補）を構築する。そして、新規追加の変数を入力とする追加モデル１０３のうちモデル改善度Ｅが所定閾値Ｔｈ１以上となる追加モデル１０３を既存モデル１０２に追加してモデル１３２が更新される。

【0102】

実施例３では、既存モデル１０２及び追加モデル１０３の学習データは、生産業務における最適計画に関する情報である。

【0103】

図２０は、実施例３に係る生産現場における人員配置計画の観測値の時系列データを示す図である。図２０は、業務上の実現象１０１である、ある生産現場における実際の配置人員の最適人数の観測値ｙ１（人）の時系列データを示す。

【0104】

図２１は、実施例３に係る生産現場における人員配置計画と相関がある変数を示す図である。図２２は、実施例３に係る生産現場における人員配置計画と相関がある変数の時系列データを示す図である。図２３は、実施例３に係る既存モデル１０２による生産現場における人員配置計画の推定値の時系列データを示す図である。図２１は、生産現場における人員配置数と関係又は相関がある変数を列挙してる。図２２は、図２１に列挙する変数の時系列データを示す。図２３は、図２１に示す変数の時系列データを入力として既存モデル１０２が出力する生産現場における人員配置数の推定値ｙ２（人）の時系列データである。

【0105】

図２４は、実施例３に係る生産現場における人員配置計画との相関が推定される追加変数を示す図である。図２５は、実施例３に係る生産現場における人員配置計画との相関が推定される追加変数の時系列データを示す図である。実施例３では、図２４に示す追加変数は、図２１に示す変数と比較して、ユーザ等からの変数追加の要望に応じて追加された異なる種類の変数である。このため、「入力情報の追加要望があるケース」となり、先の要件定義に基づいて取得及び加工された時系列データを基に既存モデル１０２が構築され、後の追加の要件定義に基づいて取得及び加工された時系列データを基に追加モデル１０３が構築される。

【0106】

実施例３では、実現象１０１の観測値ｙ１は、生産業務における最適計画上の時系列データである。既存モデル１０２は、既に学習済みのモデルである。既存モデル１０２は、生産現場における人員配置数と相関がある変数を含む最適計画上の時系列データのうちの観測値ｙ１と同時に取得された入力信号ｘ１，ｘ２，…，ｘｎを入力として、観測値ｙ１の推定値ｙ２を演算し出力する。

【0107】

追加モデル１０３（追加モデル候補）は、出力信号ｚを演算する。追加モデル１０３（追加モデル候補）は、生産現場における人員配置数と相関があると推定される追加変数を含む最適計画上の時系列データのうちの後日の要件定義において追加された入力信号ｕ１，…，ｕｋを用いて出力信号ｚを演算し出力する。

【0108】

モデル更新システム２のモデル誤差演算部２１３は、観測値ｙ１と推定値ｙ２との第１誤差ｅ１に基づくモデル誤差Ｊ１を演算することで、先の要件定義のみに基づいて構築された既存モデル１０２の精度を測定する。

【0109】

モデル更新システム２の追加モデル誤差演算部２１４は、第１誤差ｅ１と出力信号ｚとの誤差である第２誤差ｅ２に基づく追加モデル誤差Ｊ２を演算する。これにより、追加モデル誤差演算部２１４は、後日の追加の要件定義に基づく追加モデル１０３（追加モデル候補）を既存モデル１０２に追加した場合の誤差を測定する。

【0110】

モデル更新システム２の追加モデル誤差最小値演算部２１５は、追加モデル誤差Ｊ２を最小化するパラメータθを求める。モデル更新システム２の追加モデル誤差最小値演算部２１５は、追加モデル誤差Ｊ２を最小化するパラメータθ及びそのときの追加モデル誤差Ｊ２の最小値Ｊ２´を演算する。

【0111】

モデル更新システム２のモデル改善度判定部２１６は、モデル誤差Ｊ１と最小値Ｊ２´の差であるモデル改善度Ｅを求めることで、追加の要件定義に基づく追加モデル１０３（追加モデル候補）の追加によって、予測精度が向上するかを判定する。モデル更新システム２のモデル更新部２１７は、モデル改善度判定部２１６によってモデル改善度Ｅが所定閾値Ｔｈ１より大であると判定された場合に、予測精度が向上するとして、追加モデル１０３（追加モデル候補）を既存モデル１０２に追加する。

【0112】

予測システム３の推定部３１１は、追加モデル１０３（追加モデル候補）が既存モデル１０２に追加されると、観測値ｙ１の推定値ｙを出力する。推定値ｙは、入力信号ｘ１，…，ｘｎに対して既存モデル１０２が出力する推定値ｙ２と、追加の入力信号ｕ１，…，ｕｋに対して追加モデル１０３が出力する出力信号ｚとの合算値である。

【0113】

実施例３によれば、既存モデル１０２の構築後に追加で変数が要件定義された場合でも、既存モデル１０２を保持したまま、後に要件定義された追加変数のみで追加モデル１０３を構築する。そして追加モデル１０３を既存モデル１０２に追加することでモデル精度が向上する場合に、追加変数及び追加モデル１０３を追加することで、要件定義における変数追加に際しても、低コストで高精度なモデルを作成し、モデル精度の低下を抑制することができる。

【0114】

以上、本発明の一実施形態について詳述したが、本発明は上記の実施形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能である。例えば、上記の実施形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また上記実施形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。

【0115】

また上記の各構成、機能部、処理部、処理手段等は、それらの一部または全部を、例えば、集積回路で設計する等によりハードウェアで実現してもよい。また上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリやハードディスク、ＳＳＤ（Solid State Drive）等の記録装置、ＩＣカード、ＳＤカード、ＤＶＤ等の記録媒体に置くことができる。

【0116】

また上記の各図において、制御線や情報線は説明上必要と考えられるものを示しており、必ずしも実装上の全ての制御線や情報線を示しているとは限らない。例えば、実際には殆ど全ての構成が相互に接続されていると考えてもよい。

【0117】

また以上に説明したモデル生成システム１、モデル更新システム２、及び予測システム３の各種機能部、各種処理部、各種データベースの配置形態は一例に過ぎない。各種機能部、各種処理部、各種データベースの配置形態は、モデル生成システム１、モデル更新システム２、及び予測システム３が備えるハードウェアやソフトウェアの性能、処理効率、通信効率等の観点から最適な配置形態に変更し得る。

【0118】

また前述した各種のデータを格納するデータベースの構成（スキーマ（Schema）等）は、リソースの効率的な利用、処理効率向上、アクセス効率向上、検索効率向上等の観点から柔軟に変更し得る。

【符号の説明】

【0119】

１：モデル生成システム、２：モデル更新システム、３：予測システム、１０２：既存モデル、１０３，１０３－１，１０３－２，…：追加モデル、１３２：モデル、２１１：データ前処理部、２１２：追加モデル候補生成部、２１３：モデル誤差演算部、２１４：追加モデル誤差演算部、２１５：追加モデル誤差最小値演算部、２１６：モデル改善度判定部、２１７：モデル更新部、２１８：モデル改善度判定条件決定部、２３２：モデル改善度判定条件。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】

【図17】

【図18】

【図19】

【図20】

【図21】

【図22】

【図23】

【図24】

【図25】