知財求人 - 知財ポータルサイト「IP Force」
▶ ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングの特許一覧
特開2023-48151物理的なプロセス又は化学的なプロセスを制御するためのシステム、装置及び方法
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023048151
(43)【公開日】2023-04-06
(54)【発明の名称】物理的なプロセス又は化学的なプロセスを制御するためのシステム、装置及び方法
(51)【国際特許分類】
G06N 20/00 20190101AFI20230330BHJP
G05B 23/02 20060101ALI20230330BHJP
【ＦＩ】
G06N20/00
G05B23/02 T
【審査請求】未請求
【請求項の数】9
【出願形態】ＯＬ
【外国語出願】
(21)【出願番号】P 2022152669
(22)【出願日】2022-09-26
(31)【優先権主張番号】10 2021 210 774.5
(32)【優先日】2021-09-27
(33)【優先権主張国・地域又は機関】DE
【公序良俗違反の表示】
（特許庁注：以下のものは登録商標）
１．ＪＡＶＡ
(71)【出願人】
【識別番号】390023711
【氏名又は名称】ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツング
【氏名又は名称原語表記】ＲＯＢＥＲＴ ＢＯＳＣＨ ＧＭＢＨ
【住所又は居所原語表記】Ｓｔｕｔｔｇａｒｔ， Ｇｅｒｍａｎｙ
(74)【代理人】
【識別番号】100114890
【弁理士】
【氏名又は名称】アインゼル・フェリックス＝ラインハルト
(74)【代理人】
【識別番号】100098501
【弁理士】
【氏名又は名称】森田 拓
(74)【代理人】
【識別番号】100116403
【弁理士】
【氏名又は名称】前川 純一
(74)【代理人】
【識別番号】100134315
【弁理士】
【氏名又は名称】永島 秀郎
(74)【代理人】
【識別番号】100162880
【弁理士】
【氏名又は名称】上島 類
(72)【発明者】
【氏名】ペトル ティギネヤヌ
(72)【発明者】
【氏名】アッティラ ライス
(72)【発明者】
【氏名】フェリックス ベアケンカンプ
(72)【発明者】
【氏名】ユリア ヴィノグラツカ
(72)【発明者】
【氏名】カトリン スクプヒ
(72)【発明者】
【氏名】パウル ゼバスティアン バイロイター
【テーマコード（参考）】
3C223
【Ｆターム（参考）】
3C223AA01
3C223AA11
3C223BA01
3C223CC01
3C223DD01
3C223EB01
3C223FF04
3C223FF05
3C223FF12
3C223FF23
3C223FF24
3C223FF26
3C223FF42
3C223GG01
3C223HH03
(57)【要約】 （修正有）
【課題】物理的なプロセス又は化学的なプロセスを制御するシステム、装置及び方法を提供する。
【解決手段】方法は、物理的なプロセス／化学的なプロセスに関連するプロセスの入力変数と出力変数との間の関係を表す第１の事後モデルに基づいて、物理的なプロセス又は化学的なプロセスの入力変数と出力変数との間の関係を表す第２の事後モデルを求める。第２の事後モデルを求めることは、関数が第１の事後モデルから引き出されて、ガウスプロセスの期待値を形成することによって各ガウスプロセスを求め、共通の共分散関数を用いて複数のガウスプロセスを求めることと、複数のガウスプロセスの平均値として事前モデルを求め、既知の測定点に合わせて事前モデルを調整することによって第２の事後モデルを求めること又は既知の測定点に合わせて各ガウスプロセスを調整し、調整された複数のガウスプロセスの平均値として第２の事後モデルを求めることと、を含む。
【選択図】なし
【解決手段】方法は、物理的なプロセス／化学的なプロセスに関連するプロセスの入力変数と出力変数との間の関係を表す第１の事後モデルに基づいて、物理的なプロセス又は化学的なプロセスの入力変数と出力変数との間の関係を表す第２の事後モデルを求める。第２の事後モデルを求めることは、関数が第１の事後モデルから引き出されて、ガウスプロセスの期待値を形成することによって各ガウスプロセスを求め、共通の共分散関数を用いて複数のガウスプロセスを求めることと、複数のガウスプロセスの平均値として事前モデルを求め、既知の測定点に合わせて事前モデルを調整することによって第２の事後モデルを求めること又は既知の測定点に合わせて各ガウスプロセスを調整し、調整された複数のガウスプロセスの平均値として第２の事後モデルを求めることと、を含む。
【選択図】なし
【特許請求の範囲】
【請求項1】
物理的なプロセス又は化学的なプロセスを制御するための方法（４００）であって、
既知の測定点の各測定点は、前記物理的なプロセス又は前記化学的なプロセスの少なくとも１つの入力変数の入力パラメータ値と、前記入力パラメータ値に割り当てられている、前記物理的なプロセス又は前記化学的なプロセスの少なくとも１つの出力変数の出力値とを有しており、
第１の事後モデルは、前記物理的なプロセス又は前記化学的なプロセスに関連する別のプロセスの少なくとも１つの入力変数と少なくとも１つの出力変数との間の関係を表しており、
前記方法は、
・前記第１の事後モデルを取り入れて第２の事後モデルを求めること（４０２）を含み、前記第２の事後モデルは、前記物理的なプロセス又は前記化学的なプロセスの前記少なくとも１つの入力変数と前記少なくとも１つの出力変数との間の前記関係を表しており、前記第１の事後モデルを取り入れて第２の事後モデルを求めること（４０２）は、
・関数が前記第１の事後モデルから引き出されて、ガウスプロセスの期待値を形成することによって各ガウスプロセスを求め、共通の共分散関数を用いて複数のガウスプロセスを求めること（４０２Ａ）と、
・前記複数のガウスプロセスの平均値として事前モデルを求め、前記既知の測定点を使用して、前記第１の事後モデルの共分散関数の少なくとも１つのハイパーパラメータが不変のまま保たれるように、前記モデルのハイパーパラメータを最適化することによって、前記第２の事後モデルを求め、前記既知の測定点に合わせて前記モデルを調整すること（４０２Ｂ）、又は、
・前記既知の測定点に合わせて前記複数のガウスプロセスの各ガウスプロセスを調整し、調整された前記複数のガウスプロセスの平均値として前記第２の事後モデルを求めること（４０２Ｂ）と、
を含み、
前記方法は、さらに、
・前記第２の事後モデルを使用して前記物理的なプロセス又は前記化学的なプロセスを制御すること（４０４）を含む、
方法（４００）。
既知の測定点の各測定点は、前記物理的なプロセス又は前記化学的なプロセスの少なくとも１つの入力変数の入力パラメータ値と、前記入力パラメータ値に割り当てられている、前記物理的なプロセス又は前記化学的なプロセスの少なくとも１つの出力変数の出力値とを有しており、
第１の事後モデルは、前記物理的なプロセス又は前記化学的なプロセスに関連する別のプロセスの少なくとも１つの入力変数と少なくとも１つの出力変数との間の関係を表しており、
前記方法は、
・前記第１の事後モデルを取り入れて第２の事後モデルを求めること（４０２）を含み、前記第２の事後モデルは、前記物理的なプロセス又は前記化学的なプロセスの前記少なくとも１つの入力変数と前記少なくとも１つの出力変数との間の前記関係を表しており、前記第１の事後モデルを取り入れて第２の事後モデルを求めること（４０２）は、
・関数が前記第１の事後モデルから引き出されて、ガウスプロセスの期待値を形成することによって各ガウスプロセスを求め、共通の共分散関数を用いて複数のガウスプロセスを求めること（４０２Ａ）と、
・前記複数のガウスプロセスの平均値として事前モデルを求め、前記既知の測定点を使用して、前記第１の事後モデルの共分散関数の少なくとも１つのハイパーパラメータが不変のまま保たれるように、前記モデルのハイパーパラメータを最適化することによって、前記第２の事後モデルを求め、前記既知の測定点に合わせて前記モデルを調整すること（４０２Ｂ）、又は、
・前記既知の測定点に合わせて前記複数のガウスプロセスの各ガウスプロセスを調整し、調整された前記複数のガウスプロセスの平均値として前記第２の事後モデルを求めること（４０２Ｂ）と、
を含み、
前記方法は、さらに、
・前記第２の事後モデルを使用して前記物理的なプロセス又は前記化学的なプロセスを制御すること（４０４）を含む、
方法（４００）。
【請求項2】
前記方法は、さらに、
・前記第２の事後モデルに基づいて、獲得関数を用いて、前記物理的なプロセス又は前記化学的なプロセスの前記少なくとも１つの入力変数の新たな入力パラメータ値を選択することを含み、
・前記少なくとも１つの出力変数の、前記新たな入力パラメータ値に割り当てられている前記出力値を測定することを含み、選択された前記新たな入力パラメータ値と、測定された前記新たな出力値とが新たな測定点を形成し、
・前記新たな測定点を使用して前記第２の事後モデルの適応化を行うことを含み、適応化が行われた前記第２の事後モデルは、前記既知の測定点及び前記新たな測定点に対する前記物理的なプロセス又は前記化学的なプロセスを表し、
・適応化が行われた前記第２の事後モデルを使用して、前記物理的なプロセス又は前記化学的なプロセスを制御する、
請求項１に記載の方法（４００）。
・前記第２の事後モデルに基づいて、獲得関数を用いて、前記物理的なプロセス又は前記化学的なプロセスの前記少なくとも１つの入力変数の新たな入力パラメータ値を選択することを含み、
・前記少なくとも１つの出力変数の、前記新たな入力パラメータ値に割り当てられている前記出力値を測定することを含み、選択された前記新たな入力パラメータ値と、測定された前記新たな出力値とが新たな測定点を形成し、
・前記新たな測定点を使用して前記第２の事後モデルの適応化を行うことを含み、適応化が行われた前記第２の事後モデルは、前記既知の測定点及び前記新たな測定点に対する前記物理的なプロセス又は前記化学的なプロセスを表し、
・適応化が行われた前記第２の事後モデルを使用して、前記物理的なプロセス又は前記化学的なプロセスを制御する、
請求項１に記載の方法（４００）。
【請求項3】
第３の事後モデルは、前記物理的なプロセス又は前記化学的なプロセスに関連するさらに別のプロセスの少なくとも１つの入力変数と少なくとも１つの出力変数との間の関係を表しており、既知の他の測定点の各別の測定点は、前記別のプロセスの少なくとも１つの入力変数の入力パラメータ値と、前記別のプロセスの少なくとも１つの出力変数の、前記入力パラメータ値に割り当てられている出力値とを含み、
前記方法は、
・前記第３の事後モデルを取り入れて前記第１の事後モデルを求めることを含み、前記第３の事後モデルを取り入れて前記第１の事後モデルを求めることは、
・関数が前記第３の事後モデルから引き出されて、前記ガウスプロセスの期待値を形成することによって各別のガウスプロセスを求め、別の共通の共分散関数を用いて複数の他のガウスプロセスを求めることと、
・前記複数の他のガウスプロセスの平均値として別の事前モデルを求め、前記既知の他の測定点に合わせて前記別の事前モデルを調整することによって前記第１の事後モデルを求めること、又は、
・前記既知の他の測定点に合わせて前記複数の他のガウスプロセスの各別のガウスプロセスを調整し、調整された前記複数の他のガウスプロセスの平均値として前記第１の事後モデルを求めることと、
を含む、
請求項１又は２に記載の方法（４００）。
前記方法は、
・前記第３の事後モデルを取り入れて前記第１の事後モデルを求めることを含み、前記第３の事後モデルを取り入れて前記第１の事後モデルを求めることは、
・関数が前記第３の事後モデルから引き出されて、前記ガウスプロセスの期待値を形成することによって各別のガウスプロセスを求め、別の共通の共分散関数を用いて複数の他のガウスプロセスを求めることと、
・前記複数の他のガウスプロセスの平均値として別の事前モデルを求め、前記既知の他の測定点に合わせて前記別の事前モデルを調整することによって前記第１の事後モデルを求めること、又は、
・前記既知の他の測定点に合わせて前記複数の他のガウスプロセスの各別のガウスプロセスを調整し、調整された前記複数の他のガウスプロセスの平均値として前記第１の事後モデルを求めることと、
を含む、
請求項１又は２に記載の方法（４００）。
【請求項4】
前記第２の事後モデルを使用して前記物理的なプロセス又は前記化学的なプロセスを制御すること（４０４）は、
・前記第２の事後モデルに従って、前記物理的なプロセス又は前記化学的なプロセスの前記少なくとも１つの出力変数の所望の出力値に割り当てられている、前記少なくとも１つの入力変数の入力パラメータ値を求めることと、
・求められた前記入力パラメータ値に従って、前記物理的なプロセス又は前記化学的なプロセスを制御することと、
を含む、
請求項１乃至３のいずれか一項に記載の方法（４００）。
・前記第２の事後モデルに従って、前記物理的なプロセス又は前記化学的なプロセスの前記少なくとも１つの出力変数の所望の出力値に割り当てられている、前記少なくとも１つの入力変数の入力パラメータ値を求めることと、
・求められた前記入力パラメータ値に従って、前記物理的なプロセス又は前記化学的なプロセスを制御することと、
を含む、
請求項１乃至３のいずれか一項に記載の方法（４００）。
【請求項5】
請求項１乃至４のいずれか一項に記載の方法（４００）を実施するように構成されている装置（２０８）。
【請求項6】
・物理的なプロセス又は化学的なプロセスを実行するように構成されている装置（２０８）と、
・請求項１乃至４のいずれか一項に記載の方法（４００）に従って求められた第２の事後モデル（２１４，２３４）を用いて、前記物理的なプロセス又は前記化学的なプロセスの前記少なくとも１つの出力変数の所望の出力値（２２２）に対して、前記所望の出力値（２２２）に割り当てられている入力パラメータ値（２２６，２４６）を求め、求められた前記入力パラメータ値（２２６，２４６）に従って前記物理的なプロセス又は前記化学的なプロセスを実行するように前記装置（２０８）を制御するように構成されている制御装置（２０６）と、
を含むシステム（２００）。
・請求項１乃至４のいずれか一項に記載の方法（４００）に従って求められた第２の事後モデル（２１４，２３４）を用いて、前記物理的なプロセス又は前記化学的なプロセスの前記少なくとも１つの出力変数の所望の出力値（２２２）に対して、前記所望の出力値（２２２）に割り当てられている入力パラメータ値（２２６，２４６）を求め、求められた前記入力パラメータ値（２２６，２４６）に従って前記物理的なプロセス又は前記化学的なプロセスを実行するように前記装置（２０８）を制御するように構成されている制御装置（２０６）と、
を含むシステム（２００）。
【請求項7】
前記物理的なプロセス又は前記化学的なプロセスは、
・ワークピースの加工、
・装置の調整、
・製品の製造、又は、
・ロボットアームの移動
である、
請求項６に記載のシステム（２００）。
・ワークピースの加工、
・装置の調整、
・製品の製造、又は、
・ロボットアームの移動
である、
請求項６に記載のシステム（２００）。
【請求項8】
プロセッサによる実行時に、請求項１乃至４のいずれか一項に記載の方法（４００）を前記プロセッサに実施させるための命令を含むコンピュータプログラム。
【請求項9】
プロセッサによる実行時に、請求項１乃至４のいずれか一項に記載の方法（４００）を前記プロセッサに実施させるための命令を格納しているコンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【0001】
種々の実施例は、概して、物理的なプロセス又は化学的なプロセスを制御するためのシステム、装置及び方法に関する。
【背景技術】
【0002】
生産プロセス及び加工プロセス（例えば、穿孔、フライス加工、熱処理等）においては、プロセスパラメータ、例えば、プロセス温度、プロセス時間、真空又はガス雰囲気等が調整され、これによって、所望の特性、例えば、ワークピースの硬度、強度、熱伝導率、導電率、密度、マイクロ構造、マクロ構造、化学組成等が得られる。これらのプロセスパラメータを、モデルに基づく最適化法、例えばベイズ最適化法によって求めることができる。その際、生産プロセス又は加工プロセスに関するモデルを、測定データに基づいて求めることができる。しかし、これは、大量の測定データ、ひいては多大なコスト（例えば、時間的なコスト及び／又は費用支出）を必要とし得る。生産プロセス又は加工プロセスに関連するプロセスを表す、既に学習済みのモデルに基づいて、これらの測定データに関連してモデルを求めること（転移学習とも称される）によって、このようなコストを削減することができる。例えば、２つのモデルは、種々異なる機械における（及び同等のプロセスパラメータにおける）穿孔又はフライス加工を表すことができる。この場合、既に学習済みのモデルを、学習されるべきモデルに対する基礎として用いることができ、従って、必要とされる測定データの量が低減される。
【0003】
Ｄ．Ｇｏｌｏｖｉｎ等著の刊行物「Ｇｏｏｇｌｅ Ｖｉｚｉｅｒ： Ａ Ｓｅｒｖｉｃｅ ｆｏｒ Ｂｌａｃｋ－Ｂｏｘ Ｏｐｔｉｍｉｚａｔｉｏｎ」（ＫＤＤ ２０１７ Ａｐｐｌｉｅｄ Ｄａｔａ Ｓｃｉｅｎｃｅ Ｐａｐｅｒ、２０１７年）（以下においては、参考文献［１］と記す）には、階層的な転移学習が記載されており、ここでは、既にガウスプロセスとして学習済みのモデルに基づいて、及び、測定データに基づいて、モデルがガウスプロセスとして求められる。
【0004】
ベイズ最適化法に従ってモデルを学習するために、各反復において、獲得関数を用いて、新たな測定点を求めることができる。獲得関数の例は、Ｄ．Ｊｏｎｅｓ等著の刊行物「Ｅｆｆｉｃｉｅｎｔ ｇｌｏｂａｌ ｏｐｔｉｍｉｚａｔｉｏｎ ｏｆ ｅｘｐｅｎｓｉｖｅ ｂｌａｃｋ－ｂｏｘ ｆｕｎｃｔｉｏｎｓ」（Ｊｏｕｒｎａｌ ｏｆ Ｇｌｏｂａｌ ｏｐｔｉｍｉｚａｔｉｏｎ、１９９８年）（以下においては、参考文献［２］と記す）、及び、Ｎ．Ｓｒｉｎｉｖａｓ等著の刊行物「Ｇａｕｓｓｉａｎ ｐｒｏｃｅｓｓ ｏｐｔｉｍｉｚａｔｉｏｎ ｉｎ ｔｈｅ ｂａｎｄｉｔ ｓｅｔｔｉｎｇ： Ｎｏ ｒｅｇｒｅｔ ａｎｄ ｅｘｐｅｒｉｍｅｎｔａｌ ｄｅｓｉｇｎ」（Ｐｒｏｃ． Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ（ＩＣＭＬ）、２０１０年）（以下においては、参考文献［３］と記す）に記載されている。
【先行技術文献】
【非特許文献】
【0005】
【非特許文献1】刊行物「Ｇｏｏｇｌｅ Ｖｉｚｉｅｒ： Ａ Ｓｅｒｖｉｃｅ ｆｏｒ Ｂｌａｃｋ－Ｂｏｘ Ｏｐｔｉｍｉｚａｔｉｏｎ」、Ｄ．Ｇｏｌｏｖｉｎ等著（ＫＤＤ ２０１７ Ａｐｐｌｉｅｄ Ｄａｔａ Ｓｃｉｅｎｃｅ Ｐａｐｅｒ、２０１７年）
【非特許文献2】刊行物「Ｅｆｆｉｃｉｅｎｔ ｇｌｏｂａｌ ｏｐｔｉｍｉｚａｔｉｏｎ ｏｆ ｅｘｐｅｎｓｉｖｅ ｂｌａｃｋ－ｂｏｘ ｆｕｎｃｔｉｏｎｓ」、Ｄ．Ｊｏｎｅｓ等著（Ｊｏｕｒｎａｌ ｏｆ Ｇｌｏｂａｌ ｏｐｔｉｍｉｚａｔｉｏｎ、１９９８年）
【非特許文献3】刊行物「Ｇａｕｓｓｉａｎ ｐｒｏｃｅｓｓ ｏｐｔｉｍｉｚａｔｉｏｎ ｉｎ ｔｈｅ ｂａｎｄｉｔ ｓｅｔｔｉｎｇ： Ｎｏ ｒｅｇｒｅｔ ａｎｄ ｅｘｐｅｒｉｍｅｎｔａｌ ｄｅｓｉｇｎ」、Ｎ．Ｓｒｉｎｉｖａｓ等著（Ｐｒｏｃ． Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ（ＩＣＭＬ）、２０１０年）
【発明の概要】
【発明が解決しようとする課題】
【0006】
生産プロセス又は加工プロセスの少なくとも１つの特性、及び／又は、ワークピースに対する、このプロセスの少なくとも１つの作用を特徴付ける測定は、プロセスパラメータが同一の場合であっても、変動することがある。このような変動は、プロセス自体からも、ワークピースからも、測定エラーからも生じ得る。このような変動及び／又は比較的少ない測定データによって、学習済みのモデルは、測定データが少ない領域又は測定データがない領域において、高い不正確性及び／又は不確かさを有することがある。種々の実施形態によれば、既に学習済みのモデルの不確かさも、学習されるべきモデルの不確かさも考慮される場合に、転移学習における学習コスト（例えば最適化効率）が低減可能であることが認識された。
【課題を解決するための手段】
【0007】
独立請求項１の特徴を有する方法、独立請求項５の特徴を有する装置、及び、独立請求項６の特徴を有するシステムは、モデルの効率的な最適化を可能にする。この場合、必要な測定データの数が低減させられ、これによって、モデルの学習のためのコスト（例えば、時間的なコスト及び／又は費用支出）を低減させることができる。具体的には、転移学習の枠内においては、既に、類似プロセスに関して学習済みのモデルを新たなプロセスに適合させるためにわずかな測定しか必要とされない。さらに、本明細書において説明した、既に学習済みのモデルの不確かさの考慮によって、新たなプロセスに関して学習済みのモデルの精度が高められる（例えば、学習済みのモデルの期待値の高められた精度、及び、この期待値に関する考慮された不確かさの高められた精度）。種々の実施形態においては、わずかなデータしか存在しない場合、及び／又は、既に類似のプロセスに関して学習済みのモデルが高い不確かさを有する場合であっても、モデルを学習することが可能である。
【0008】
独立請求項１の特徴を有する方法は、第１の例を構成する。この場合、具体的には、第１の事後モデルの少なくとも１つの（例えば、厳密に１つ又は１つよりも多くの）ハイパーパラメータを、再度、最適化することはできない。
【0009】
本明細書において説明されるモデルは、統計モデルであるものとしてよく、ガウスプロセスによる、物理的なプロセス又は化学的なプロセスの入力変数と出力変数との関係を表す、あらゆる種類の数学的な表現であるものとしてよい。物理的なプロセス又は化学的なプロセスの入力変数及び／又は出力変数は、別のシステムの入力変数又は出力変数であるものとしてもよい。例えば、入力変数は、（例えば、物理的なプロセス又は化学的なプロセスの）シミュレーションのパラメータであるものとしてよい。例えば、出力変数は、近似誤差であるものとしてよい。例えば、出力変数は、機械学習に基づくモデルのハイパーパラメータ及び１つ又は複数の損失値であるものとしてよい。
【0010】
第２の事後モデルを求める際に、第１の事後モデルの共分散関数のすべてのハイパーパラメータを不変のまま保つことができる。この段落において説明した特徴は、第１の例と組み合わせられて、第２の例を構成する。具体的には、第２の事後モデルを、第２のモデルのハイパーパラメータの最適化及び既知の第２の測定点に合わせた調整を用いて求めることができ、ここでは、第１の事後モデルのハイパーパラメータを不変のまま保つことができる。ここでは、具体的には、第１の事後モデルのすべてのハイパーパラメータを再度、最適化することはできない。
【0011】
第１の例による、第２の事後モデルを求めるためのこれら２つの手法は、第１の事後モデルのハイパーパラメータを定めることによって、計算複雑性、ひいては計算コストの削減を可能にする（例えば、表１及び属する説明を参照）。
【0012】
この方法は、さらに、
第２の事後モデルに基づいて、獲得関数を用いて、物理的なプロセス又は化学的なプロセスの少なくとも１つの入力変数の新たな入力パラメータ値を選択することを含み得るものであり、
少なくとも１つの出力変数の、入力パラメータ値に割り当てられている出力値を測定することを含み得るものであり、選択された新たな入力パラメータ値と、測定された新たな出力値とが新たな測定点を形成し、
この新たな測定点を使用して第２の事後モデルの適応化を行うことを含み得るものであり、適応化が行われた第２の事後モデルは、既知の測定点及び新たな測定点に対する物理的なプロセス又は化学的なプロセスを表し、
適応化が行われた第２の事後モデルを使用して、物理的なプロセス又は化学的なプロセスを制御する。この段落において説明した特徴は、第１の例又は第２の例と組み合わせられて、第３の例を構成する。
第２の事後モデルに基づいて、獲得関数を用いて、物理的なプロセス又は化学的なプロセスの少なくとも１つの入力変数の新たな入力パラメータ値を選択することを含み得るものであり、
少なくとも１つの出力変数の、入力パラメータ値に割り当てられている出力値を測定することを含み得るものであり、選択された新たな入力パラメータ値と、測定された新たな出力値とが新たな測定点を形成し、
この新たな測定点を使用して第２の事後モデルの適応化を行うことを含み得るものであり、適応化が行われた第２の事後モデルは、既知の測定点及び新たな測定点に対する物理的なプロセス又は化学的なプロセスを表し、
適応化が行われた第２の事後モデルを使用して、物理的なプロセス又は化学的なプロセスを制御する。この段落において説明した特徴は、第１の例又は第２の例と組み合わせられて、第３の例を構成する。
【0013】
第１の例又は第２の例による、第２の事後モデルを求めるためのこれら２つの手法は、同様に不確さの伝達を可能にする他の方法に比較して、低減された計算複雑性を有し得る（例えば、表１及び属する説明を参照）。
【0014】
第３の事後モデルは、物理的なプロセス又は化学的なプロセスに関連するさらに別のプロセスの少なくとも１つの入力変数と少なくとも１つの出力変数との間の関係を表すことができ、既知の他の測定点の各別の測定点は、別のプロセスの少なくとも１つの入力変数の入力パラメータ値と、別のプロセスの少なくとも１つの出力変数の、入力パラメータ値に割り当てられている出力値とを有し得る。
この方法は、
第３の事後モデルを取り入れて第１の事後モデルを求めることを含み得るものであり、第３の事後モデルを取り入れて第１の事後モデルを求めることは、
関数が第３の事後モデルから引き出されて、ガウスプロセスの期待値を形成することによって各別のガウスプロセスを求め、別の共通の共分散関数を用いて複数の他のガウスプロセスを求めることと、
複数の他のガウスプロセスの平均値として別の事前モデルを求め、既知の他の測定点に合わせて別の事前モデルを調整することによって第１の事後モデルを求めること、又は、
既知の他の測定点に合わせて複数の他のガウスプロセスの各別のガウスプロセスを調整し、調整された複数の他のガウスプロセスの平均値として第１の事後モデルを求めることと、
を含み得るものである。この段落において説明した特徴は、第１の例から第３の例のうちの１つ又は複数の例と組み合わせられて、第４の例を構成する。選択的に、第１の事後モデルは、別の方法により求めることができる。例えば、第１の事後モデルは、β＝１である、参考文献［１］による階層的なガウスプロセスを用いて求めることができる。
この方法は、
第３の事後モデルを取り入れて第１の事後モデルを求めることを含み得るものであり、第３の事後モデルを取り入れて第１の事後モデルを求めることは、
関数が第３の事後モデルから引き出されて、ガウスプロセスの期待値を形成することによって各別のガウスプロセスを求め、別の共通の共分散関数を用いて複数の他のガウスプロセスを求めることと、
複数の他のガウスプロセスの平均値として別の事前モデルを求め、既知の他の測定点に合わせて別の事前モデルを調整することによって第１の事後モデルを求めること、又は、
既知の他の測定点に合わせて複数の他のガウスプロセスの各別のガウスプロセスを調整し、調整された複数の他のガウスプロセスの平均値として第１の事後モデルを求めることと、
を含み得るものである。この段落において説明した特徴は、第１の例から第３の例のうちの１つ又は複数の例と組み合わせられて、第４の例を構成する。選択的に、第１の事後モデルは、別の方法により求めることができる。例えば、第１の事後モデルは、β＝１である、参考文献［１］による階層的なガウスプロセスを用いて求めることができる。
【0015】
第２の事後モデルは、具体的には、複数の他のモデル（例えば、第３の事後モデル及び第１の事後モデル）のシーケンスとして求めることができる。第１の例から第３の例のうちの１つ又は複数の例による、第２の事後モデルを求めるためのこれらの２つの手法は、他の方法と比較して、複数の他のモデルに基づいたモデルの学習の効率を大幅に向上させることができる（例えば、図３Ｂにおけるイラスト３５２を参照）。
【0016】
第２の事後モデルを使用して物理的なプロセス又は化学的なプロセスを制御することは、
第２の事後モデルに従って、物理的なプロセス又は化学的なプロセスの少なくとも１つの出力変数の所望の出力値に割り当てられている、少なくとも１つの入力変数の入力パラメータ値を求めることを含み得るものであり、
求められた入力パラメータ値に従って物理的なプロセス又は化学的なプロセスを制御することを含み得るものである。この段落において説明した特徴は第１の例から第４の例のうちの１つ又は複数の例と組み合わせられて、第５の例を構成する。
第２の事後モデルに従って、物理的なプロセス又は化学的なプロセスの少なくとも１つの出力変数の所望の出力値に割り当てられている、少なくとも１つの入力変数の入力パラメータ値を求めることを含み得るものであり、
求められた入力パラメータ値に従って物理的なプロセス又は化学的なプロセスを制御することを含み得るものである。この段落において説明した特徴は第１の例から第４の例のうちの１つ又は複数の例と組み合わせられて、第５の例を構成する。
【0017】
具体的には、第２の事後モデルは、第１の事後モデル（及び第４の例による第３の事後モデル）の不確かさを考慮することができ、このことは、第２の事後モデルの（例えば、期待値及び／又は不確かさに関する情報の）精度の向上をもたらす。
【0018】
装置は、第１の例から第５の例のうちの１つ又は複数の例に従って、この方法を実施するように構成されるものとしてよい。この段落において説明した特徴を備えた装置は、第６の例を構成する。
【0019】
本明細書において説明される、（例えば、物理的又は化学的な）プロセスを実行するための装置は、例えば、ロボット（例えば、製造ロボット、メンテナンスロボット、家事ロボット、医療ロボット等）、車両（例えば自律車両）、家事用の機器、生産機械、パーソナルアシスタント、アクセス制御システム等である、あらゆる種類のコンピュータ制御された装置であるものとしてよい。しかし、本明細書において説明される、（例えば、物理的な又は化学的な）プロセスを実行するための装置は、コンピュータ制御されていない装置であるものとしてもよい。例えば、装置は、（例えば、物理的又は化学的な）プロセスを実行するために、ユーザによって手動により制御されるものとしてよい。概して、装置は、例えば、製品を製造するための生産装置又はワークピースを加工するための加工装置（例えば、ドリル装置又はフライス装置）、例えば運動を行うロボット装置、例えば医薬品の作用物質設計のための装置、例えば航空飛行及び宇宙飛行用のシステムを設計するための装置等であるものとしてよい。
【0020】
システムは、
物理的なプロセス又は化学的なプロセスを実行するように構成されている装置と、
第１の例から第５の例のうちの１つ又は複数の例に従って求められた第２の事後モデルを用いて、物理的なプロセス又は化学的なプロセスの少なくとも１つの出力変数の所望の出力値に対して、所望の出力値に割り当てられている入力パラメータ値を求め、求められた入力パラメータ値に従って物理的なプロセス又は化学的なプロセスを実行するように装置を制御するように構成されている制御装置と、
を含み得るものである。この段落において説明した特徴を備えたシステムは、第７の例を構成する。
物理的なプロセス又は化学的なプロセスを実行するように構成されている装置と、
第１の例から第５の例のうちの１つ又は複数の例に従って求められた第２の事後モデルを用いて、物理的なプロセス又は化学的なプロセスの少なくとも１つの出力変数の所望の出力値に対して、所望の出力値に割り当てられている入力パラメータ値を求め、求められた入力パラメータ値に従って物理的なプロセス又は化学的なプロセスを実行するように装置を制御するように構成されている制御装置と、
を含み得るものである。この段落において説明した特徴を備えたシステムは、第７の例を構成する。
【0021】
このシステムにおいては、物理的なプロセス又は化学的なプロセスは、
ワークピースの加工、
装置（例えば、機器及び／又は測定機器）の調整（例えば較正）、
製品の製造、又は、
ロボットアームの移動
であるものとしてよい。この段落において説明した特徴は、第７の例と組み合わせられて、第８の例を構成する。
ワークピースの加工、
装置（例えば、機器及び／又は測定機器）の調整（例えば較正）、
製品の製造、又は、
ロボットアームの移動
であるものとしてよい。この段落において説明した特徴は、第７の例と組み合わせられて、第８の例を構成する。
【0022】
コンピュータプログラムは、プロセッサによる実行時に、第１の例から第５の例のうちの１つ又は複数の例に従った方法をプロセッサに実施させるための命令を含み得るものである。この段落において説明した特徴を有するコンピュータプログラムは、第９の例を構成する。ここで、プロセッサは、物理的なプロセス又は化学的なプロセスを制御するための命令（例えば、装置を制御するための命令）を生成することができることを理解されたい。
【0023】
コンピュータ可読媒体（例えば、コンピュータプログラム製品、非一時的な記憶媒体、非一過性の記憶媒体、不揮発性記憶媒体）は、プロセッサによる実行時に、第１の例から第５の例のうちの１つ又は複数の例に従った方法をプロセッサに実施させるための命令を格納し得るものである。この段落において説明した特徴を有するコンピュータ可読媒体は、第１０の例を構成する。
【0024】
本発明の実施例を図面に示し、以下において、より詳細に説明する。
【図面の簡単な説明】
【0025】
【図1A】種々の実施形態による、第１の装置によって実行されるプロセスを表す第１の事後モデルの学習を示す図である。
【図1B】種々の実施形態による、第１の装置によって実行されるプロセスを表す第１の事後モデルの学習を示す図である。
【図1C】種々の実施形態による、学習済みの第１の事後モデルによる第１の装置の制御を示す図である。
【図2A】種々の実施形態による、第２の装置を用いた物理的なプロセス又は化学的なプロセスの実行を示す図である。
【図2B】種々の実施形態による、学習済みの第２の事後モデルによる第２の装置の制御を示す図である。
【図2C】種々の実施形態による、第２の事後モデルの適応化を示す図である。
【図2D】種々の実施形態による、適応化が行われた第２の事後モデルによる第２の装置の制御を示す図である。
【図3A】種々の実施形態による、種々のモデルの例示的な視覚化又は種々のモデルに基づく最適化の経過を示す図である。
【図3B】種々の実施形態による、種々のモデルの例示的な視覚化又は種々のモデルに基づく最適化の経過を示す図である。
【図4】種々の実施形態による、物理的なプロセス又は化学的なプロセスを制御するための方法を示す図である。
【発明を実施するための形態】
【0026】
１つの実施形態においては、「コンピュータ」は、ハードウェア、ソフトウェア、ファームウェア又はそれらの組合せとすることができるあらゆる種類の論理実装エンティティとして理解され得る。従って、１つの実施形態においては、「コンピュータ」を、ハードワイヤード論理回路又はプログラマブル論理回路、例えばプログラマブルプロセッサ、例えばマイクロプロセッサ（例えば、ＣＩＳＣ（大きい命令ストックを有するプロセッサ）又はＲＩＳＣ（低減された命令ストックを有するプロセッサ））とすることができる。「コンピュータ」は、１つ又は複数のプロセッサを含むものとしてよい。「コンピュータ」は、プロセッサによって実装又は実行されるソフトウェアであるものとしてもよく、これは例えば、あらゆる種類のコンピュータプログラム、例えば、Ｊａｖａのような仮想機械コードを使用するコンピュータプログラムである。以下において詳細に説明する各機能の他の様式の各実装を、選択的な実施形態との一致において、「コンピュータ」と理解することができる。
【0027】
種々の実施例は、物理的なプロセス又は化学的なプロセスを制御するためのシステム、装置及び方法に関する。ここでは、物理的なプロセス又は化学的なプロセスを表すモデルの学習が、転移学習を用いて、物理的なプロセス又は化学的なプロセスに関連するプロセスを表す、既に学習済みの別のモデルに基づいて行われるものとしてよく、ここでは、既に学習済みの別のモデルの不確かさも、学習されるべきモデルの不確かさも考慮される。具体的には、これは、学習効率を著しく高めることができる。これによって、著しく少ないデータ量でモデルの学習を行うことができ、及び／又は、モデルを求めるための計算コストを削減することができる。これによって、学習の時間的なコスト及び／又は費用支出の削減だけではなく、物理的なプロセス又は化学的なプロセスに関して学習済みのモデルの精度の向上も行われる。
【0028】
種々の実施形態によれば、第２の装置２０８は、物理的なプロセス又は化学的なプロセスを実行する（例えば、完遂する）ことができる。図１Ａには、第１の装置１０８を備えた第１のシステム１００が示されている。第１の装置１０８は、物理的なプロセス又は化学的なプロセスに関連する別のプロセスを実行するように構成されるものとしてよい。
【0029】
本明細書において使用されるような物理的なプロセス又は化学的なプロセスは、例えば、製造プロセス（例えば、製品又は中間製品の製造）、加工プロセス（例えば、ワークピースの加工）、制御プロセス（例えば、ロボットアームの移動）、調整プロセス（例えば、測定機器の較正）等のあらゆる種類の技術的なプロセスであるものとしてよい。例えば、装置の種々異なる操作変数を（例えば、較正の範囲内において）調整することが必要とされることがあり、物理的なプロセス又は化学的なプロセスは、このような調整であるものとしてよい。例えば、炉を用いた熱処理時の物理的なプロセス又は化学的なプロセスは、炉の温度及び／又は真空の較正であるものとしてよい。
【0030】
物理的なプロセス又は化学的なプロセスに関連する別のプロセスも、本明細書において説明されているような物理的なプロセス又は化学的なプロセスであり得ることを理解されたい。
【0031】
２つのプロセスは、相互に異なる方法により関連するものとしてよい。例えば、これは、一般的な同様のプロセス、例えば、構成部分の穿孔又はフライス加工であるものとしてよく、これは、種々異なる機械によって実行される。種々異なる機械における一般的な同様のプロセスも、個別の結果をもたらし得ることを理解されたい。同一の機械において実行される２つのプロセスが、同様に、相互に関連するものとしてよい。例えば、１つのプロセスは、金属の構成部分の穿孔であるものとしてよく、別のプロセスは、セラミックの構成部分の穿孔であるものとしてよい。概して、各プロセスの入力変数が少なくとも部分的に重複しており、かつ、各プロセスの出力変数が少なくとも部分的に重複している場合に、２つのプロセスが相互に関連するものとしてよい。具体的には、相互に関連する２つのプロセスは、１つ又は複数の同一の入力変数（例えば、プロセス温度、プロセス時間、及び／又は、熱処理の場合の真空圧）と、１つ又は複数の同一の出力変数（例えば、硬度、強度、密度、マイクロ構造、マクロ構造、及び／又は、熱処理の場合の化学組成）とを有するものとしてよい。２つのプロセスは、その各モデルが転移学習に適している場合に、相互に関連するものとしてよい。
【0032】
第１のシステム１００は、第１の制御装置１０６を含むものとしてよい。第１の制御装置１０６は、少なくとも１つの（即ち、厳密に１つ又は１つよりも多くの）入力変数の各（提供された）第１の入力パラメータ値１０２に従って第１の装置１０８を制御するように構成されるものとしてよい。具体的には、第１の制御装置１０６は、第１の装置１０８と周囲との相互作用を、１つ（又は複数の）第１の入力パラメータ値１０２に従って制御することができる。（少なくとも１つの入力変数の）各入力変数に対して各第１の入力パラメータ値１０２を提供することができるので、これは、以下においては、少なくとも１つの第１の入力パラメータ値１０２とも称される。
【0033】
「制御装置」（「制御機構」とも称される）という用語は、例えば、記憶媒体に格納されているソフトウェア、ファームウェア、又は、それらの組合せを実行することができ、さらに、例えば、この例において、プロセスを実行するように装置に指示を与えることができる回路及び／又はプロセッサを含み得るあらゆる種類の論理的な実装ユニットと理解され得る。制御装置は、例えばプログラムコード（例えばソフトウェア）によって、システム、例えば、生産システム、加工システム、ロボットの動作及び／又は調整（例えば較正）を制御するように構成されるものとしてよい。
【0034】
本明細書において使用されるような入力パラメータ値は、入力変数、例えば、物理的な変数又は化学的な変数、印加される電圧、弁の開口等を表すパラメータ値であるものとしてよい。例えば、入力変数は、１つ又は複数の材料のプロセスに関連する特性、例えば、硬度、熱伝導率、導電率、密度、マイクロ構造、マクロ構造、化学組成等であるものとしてよい。
【0035】
第１の装置１０８は、少なくとも１つの第１の入力パラメータ値１０２に従って、物理的なプロセス又は化学的なプロセスに関連する別のプロセスを実行するように構成されるものとしてよい。
【0036】
第１のシステム１００は、１つ又は複数の第１のセンサ１１０を含むものとしてよい。１つ又は複数の第１のセンサ１１０は、プロセスの結果を検出するように構成されるものとしてよい。プロセスの結果は、例えば、製造された製品の特性又は加工されたワークピースの特性（例えば、硬度、強度、密度、マイクロ構造、マクロ構造、化学組成等）、ロボットの技能（例えば、対象物のピックアップ）の成功又は失敗、カメラによって撮影された画像の解像度等であるものとしてよい。プロセスの結果を、少なくとも１つの（即ち、厳密に１つ又は１つよりも多くの）出力変数を用いて表すことができる。１つ又は複数の第１のセンサ１１０は、少なくとも１つの出力変数の第１の出力値１１２を検出するように構成されるものとしてよい。例えば、複数の出力変数のうちの各出力変数に対する各第１の出力値１１２が検出可能である。（少なくとも１つの出力変数の）各出力変数に対する各第１の出力値１１２が検出可能であるので、これは、以下においては、少なくとも１つの第１の出力値１１２とも称される。
【0037】
本明細書において説明したように、１つ又は複数のセンサを用いたプロセスの結果の検出は、プロセスの実行中（例えば、ｉｎ－ｓｉｔｕ）及び／又はプロセスの実行後（例えば、ｅｘ－ｓｉｔｕ）に行われるものとしてよい。例えば、このモデルは、１つ又は複数の入力変数と少なくとも２つの出力変数との間の関係を表すことができ、ここでは、少なくとも２つの出力変数のうちの１つの出力変数の出力値をプロセス中に検出することができ、少なくとも２つの出力変数のうちの別の出力変数の出力値を、プロセスの実行後に検出することができる。プロセス実行後の出力値の検出に関する具体例として、プロセスは、入力変数としての温度を有する炉内におけるワークピースの硬化であるものとしてよい。この場合、出力変数は、硬化プロセス後の室温におけるワークピースの硬度であるものとしてよい。
【0038】
本明細書において使用されるような出力値は、プロセスの出力変数を表す値であるものとしてよい。プロセスの出力変数は、製品、ワークピース、撮影された画像、又は、その他の成果物の特性であるものとしてよい。しかし、プロセスの出力変数が、（例えば、ロボットの技能の）成功又は失敗であるものとしてもよい。具体的には、少なくとも１つの第１の出力値１１２を、少なくとも１つの第１の入力パラメータ値１０２から結果として得ることができる。出力変数は、アプリケーション固有の品質基準を含むものとしてよい。出力変数は、構成部分に関連するパラメータ、例えば、寸法又は層厚であるものとしてよく、又は、材料に関連するパラメータ、例えば、硬度、熱伝導率、導電率、密度、化学組成等であるものとしてよい。
【0039】
少なくとも１つの第１の入力パラメータ値１０２及び少なくとも１つの第１の出力値１１２は、第１の測定点１３０を形成することができる。第１の制御装置１０６は、第１の装置１０８を、少なくとも１つの入力変数の（例えば、相互に異なる）各入力パラメータ値に対して相前後して制御するように構成されるものとしてよい。１つ又は複数の第１のセンサ１１０は、それぞれ少なくとも１つの第１の出力値１１２を検出することができる。具体的には、複数の第１の測定点を求めることができる。求められた第１の測定点は、既知の第１の測定点Ｄｓ（２）（即ち、Ｄｓ又はＤｓ２）とも称される。
【0040】
既知の第１の測定点Ｄｓ（２）は、式（１）によって表すことができる。
ここで、Ｎｓ（２）は、既知の第１の測定点の数であり、ｘｓ（２），ｉは、各既知の第１の測定点ｉの少なくとも１つの入力パラメータ値１０２であり、ｙｓ（２），ｉは、各既知の第１の測定点ｉの少なくとも１つの出力値１１２である。
【数1】
【0041】
第１のシステム１００は、少なくとも１つのメモリを備えた記憶装置を含み得る。既知の第１の測定点Ｄｓ（２）は、メモリに格納されているものとしてよく、又は、メモリに格納可能である。メモリは、プロセッサによって実行される処理の際に使用することができる。
【0042】
この実施形態において使用されるメモリは、揮発性メモリ、例えばＤＲＡＭ（ダイナミック・ランダム・アクセス・メモリ）、又は、不揮発性メモリ、例えば、ＰＲＯＭ（プログラマブルＲＯＭ）、ＥＰＲＯＭ（消去可能ＰＲＯＭ）、ＥＥＰＲＯＭ（電気的消去可能ＰＲＯＭ）、又は、フラッシュメモリ、例えば、浮動ゲート型メモリ装置、チャージトラップ型メモリ装置、ＭＲＡＭ（磁気抵抗メモリ）若しくはＰＣＲＡＭ（相変化メモリ）であるものとしてよい。
【0043】
種々の実施形態において、モデルのトレーニング又は学習が説明される（例えば、アルゴリズム１、２、４及び５を参照）。モデルのトレーニング又は学習時に、事前モデル（モデルのアプリオリとも称される）が規定される。この事前モデルは、具体的には、データを伴わずに（例えば、既知の測定点を伴わずに）存在するものとしてよい。モデルは、このモデルによって表された分布の一般的な特性を特定するハイパーパラメータを含むものとしてよい。モデルのトレーニング又は学習時に、モデルのハイパーパラメータの最適化（ハイパーパラメータ最適化とも称される）を実行することができる。モデルのハイパーパラメータ最適化を、既知の測定点（例えば、測定された測定点及び／又はシミュレートされた測定点）に基づいて行うことができる。最適化されたハイパーパラメータを備えたモデルを、ハイパーパラメータ最適化モデルと称することもできる。具体的には、ハイパーパラメータを、既知の測定点を用いて適合させることができる。例えば、既知の測定点から、入力パラメータ値が変更されるときに、出力値が比較的大きく変化することが明らかになった場合には、例えば、より迅速に変化する関数の確率が高くなるようにモデルを適合させることができる。モデルのトレーニング又は学習時に、さらに、モデル（例えば、ハイパーパラメータ最適化モデル）を既知の測定点に合わせて調整することによって、事後モデル（モデルのアポステリオリとも称される）を求めることができる。ここでは、ハイパーパラメータに関連する乱数変数の事後分布を求める（例えば、計算する）ことができる。この場合、ハイパーパラメータを不変のまま保つことができる。種々の実施形態によれば、既知の測定点に基づいて、ハイパーパラメータの値を最適化することができる。種々の実施形態によれば、このようにして、少なくとも１つの第１のモデル及び第２のモデルのトレーニング又は学習を行うことができる（例えば、アルゴリズム１、２、４及び５を参照）。種々の実施形態によれば、第２のモデルの学習を、第１のモデルに基づいて行うことができ、第２のモデルのトレーニング又は学習時に、第１のモデルの予め最適化されたハイパーパラメータを不変のまま保つことができる。
【0044】
学習又はトレーニング済みの事後モデルを新たな測定点に合わせて適合させる場合、上述したように、ハイパーパラメータ最適化も調整も実行可能である。
【0045】
種々の実施形態によれば、既知の第１の測定点Ｄｓ（２）を使用して、第１の事後モデル１１４（第１のモデルのアポステリオリとも称される）を求めることができる。第１の事後モデル１１４は、別のプロセスの少なくとも１つの入力変数と少なくとも１つの出力変数との間の関係を表すことができる。具体的には、入力パラメータ値又は出力値が既知の第１の測定点の一部ではない場合においても、第１の事後モデル１１４を用いて、入力パラメータ値に対して、割り当てられている期待される出力値を求めることができ、出力値に対して、入力パラメータ値に対する所属の確率密度を求めることができる。続いて、例えば、最も高い確率密度を有する入力値を選択することができる。具体的には、第１の事後モデル１１４は、別のプロセスを表す。
【0046】
各第１の測定点に対して、ユーザがそれぞれ少なくとも１つの第１の入力パラメータ値１０２を選択することによって、既知の第１の測定点Ｄｓ（２）を測定することができる。しかし、既知の第１の測定点Ｄｓ（２）のサブセットを測定することも可能である。図１Ｂに示されているように、既知の第１の測定点Ｄｓ（２）のサブセットに対して、一時的な第１の事後モデル１１３を求めることができる。一時的な第１の事後モデル１１３は、既知の第１の測定点Ｄｓ（２）のサブセットに対する別のプロセスの少なくとも１つの入力変数と少なくとも１つの出力変数との間の関係を表し得るものである。種々の実施形態によれば、第１の制御装置１０６は、（例えば、参考文献［２］及び／又は参考文献［３］による）獲得関数を用いて、新たな測定点１３２に対して、少なくとも１つの入力パラメータ値１１６（新たな入力パラメータ値とも称される）を求めるように構成されるものとしてよい。第１の制御装置１０６は、求められた少なくとも１つの入力パラメータ値１１６に従って第１の装置１０８を制御することができ、１つ又は複数の第１のセンサ１１０は、新たな測定点１３２の属する出力値１１８を検出することができる。例えば、このようにして、既知の第１の測定点Ｄｓ（２）のうちの１つ又は複数の測定点を求めることができる。この場合には、第１の事後モデル１１４を求めるために、求められた新たな測定点に基づいて、一時的な第１の事後モデル１１３の適応化を行うことができる。従って、第１の事後モデル１１４は、別のプロセスのすべての既知の第１の測定点Ｄｓ（２）に対して、少なくとも１つの入力変数と少なくとも１つの出力変数との間の関係を表すことができる。
【0047】
しかし、既知の第１の測定点Ｄｓ（２）を、シミュレーションを用いて求めることもできる。この場合には、システム１００は、コンピュータを含むものとしてよい。第１の例においては、シミュレーションは、新たな測定点１３２に対して入力パラメータ値１１６を求めることも、物理的なプロセス又は化学的なプロセスをシミュレーションすることも含むものとしてよい。第１の例のこのケースにおいては、第１の制御装置１０６、第１の装置１０８及び１つ又は複数の第１のセンサ１１０は、不要である。第２の例においては、シミュレーションは、物理的なプロセス又は化学的なプロセスのシミュレーションのみを含むものとしてよい。第２の例のこのケースにおいては、例えば第１の制御装置１０６はさらに、新たな測定点１３２に対する入力パラメータ値１１６を求めることができ、第１の装置１０８及び１つ又は複数の第１のセンサ１１０は、不要である。コンピュータは、処理時にメモリを使用することができる。コンピュータは、上述したように、あらゆる種類の回路であるものとしてよく、即ち、あらゆる種類の論理実装エンティティであるものとしてよい。コンピュータは、別のプロセスをシミュレートし、そのようにして、少なくとも１つの入力パラメータ値１０２に対して、少なくとも１つの属する出力値１１２を複数回求めるように構成されるものとしてよい。具体的には既知の第１の測定点Ｄｓ（２）の出力値が測定ではなく、シミュレートされるものとしてよい。
【0048】
図１Ｃは、種々の実施形態による、学習済みの第１の事後モデル１１４による第１の装置１０８の制御を示している。例えば、第１の事後モデル１１４を用いて、別のプロセスの少なくとも１つの出力変数の所望の出力値１２２に基づいて、少なくとも１つの入力変数の属する入力パラメータ値１２６を求めることができる。第１の制御装置１０６は、第１の装置１０８を、求められた入力パラメータ値１２６に従って制御するように構成されるものとしてよい。任意選択的に、１つ又は複数の第１のセンサ１１０が、実質的に所望の出力値１２２に相当し得る出力値を検出するものとしてよい。
【0049】
図２Ａは、物理的なプロセス又は化学的なプロセスを実施することができる第２の装置２０８を備えた第２のシステム２００を示している。
【0050】
第２のシステム２００は、第１のシステム１００に類似するものとしてよい。従って、第２のシステム２００は、第２の制御装置２０６と、１つ又は複数の第２のセンサ２１０とを含むものとしてよい。第２の制御装置２０６は、少なくとも１つの（即ち、厳密に１つ又は１つよりも多くの）入力変数の各（提供された）第２の入力パラメータ値２０２に従って第２の装置２０８を制御するように構成されるものとしてよい。具体的には、第２の制御装置２０６は、第２の装置２０８と周囲との相互作用を、１つ（又は複数）の第２の入力パラメータ値２０２に従って制御することができる。（少なくとも１つの入力変数の）各入力変数に対して各第２の入力パラメータ値２０２を提供することができるので、これは、以下においては、少なくとも１つの第２の入力パラメータ値２０２とも称される。第２の装置２０８は、少なくとも１つの第２の入力パラメータ値２０２に従って、物理的なプロセス又は化学的なプロセスを実行するように構成されるものとしてよい。
【0051】
１つ又は複数の第２のセンサ２１０は、物理的なプロセス又は化学的なプロセスの結果を検出するように構成されるものとしてよい。物理的なプロセス又は化学的なプロセスの結果は、例えば図１Ａに関して説明したように、例えば、製造された製品の特性又は加工されたワークピースの特性（例えば、硬度、強度、密度、マイクロ構造、マクロ構造、化学組成等）、ロボットの技能（例えば、対象物のピックアップ）の成功又は失敗、カメラによって撮影された画像の解像度等であるものとしてよい。プロセスの結果を、少なくとも１つの（即ち、厳密に１つ又は１つよりも多くの）出力変数を用いて表すことができる。例えば、別のプロセスの結果を複数の第１の出力変数を用いて表し、物理的なプロセス又は化学的なプロセスの結果を複数の第２の出力変数を用いて表すことができる。この場合、複数の第１の出力変数は、第２の出力変数のうちの１つ又は複数の（例えばすべての）出力変数を有するものとしてよく、又は、その逆であるものとしてよい。例えば、複数の第１の出力変数のうちの１つ又は複数の出力変数と、複数の第２の出力変数のうちの１つ又は複数の出力変数とが一致するものとしてよい。この結果を、１つ又は複数のセンサ１１０に関連して説明したように、物理的なプロセス若しくは化学的なプロセスの間に、又は、物理的なプロセス若しくは化学的なプロセスに続いて求めることができる。
【0052】
１つ又は複数の第２のセンサ２１０は、少なくとも１つの出力変数の第２の出力値２１２を検出するように構成されるものとしてよい。例えば、複数の出力変数のうちの各出力変数に対する各第２の出力値２１２の検出が可能である。少なくとも１つの第２の入力パラメータ値２０２及び少なくとも１つの第２の出力値２１２は、第２の測定点２３０を形成することができる。種々の実施形態によれば、複数の第２の測定点を、既知の第２の測定点Ｄｔとして求めることができる。
【0053】
既知の第２の測定点Ｄｔを、式（２）によって表すことができる。
ここで、Ｎｔは、既知の第２の測定点の数であり、ｘｔ，ｉは、各既知の第２の測定点ｉの少なくとも１つの入力パラメータ値２０２であり、ｙｔ，ｉは、各既知の第２の測定点ｉの少なくとも１つの出力値２１２である。
【数2】
【0054】
第１のシステム１００と同様に、第２のシステム２００は、既知の第２の測定点Ｄｔを格納する少なくとも１つのメモリを備える記憶装置を含むものとしてよい。
【0055】
第１の事後モデル１１４も、第２の事後モデル２１４も、特定の少なくとも１つの入力変数に対して、少なくとも１つの出力変数の精度、ひいては各モデルの精度に関する不確かさを有し得る。これらの不確かさは、既知の測定点に関連する。各モデルの予測は、期待値もこの期待値に関する不確かさの尺度も含むものとしてよい。即ち、各モデルの予測は、各出力値に対する、値における分布（例えば正規分布）を含むものとしてよい。具体的には、事後モデルは、既知の測定点に関する入力変数と出力変数との間の関係を表すことができ、ここでは、既知の測定点間の領域も予測される。予測されたこれらの領域ｈ、ある程度の不確かさを有しており、測定点の数が多くなるほど、不確かさが減少し得ることを理解されたい。このような不確かさは、例えば、測定点がわずかしか存在していない場合には、極めて重要であり得る。ノイズ及び／又は妨害に起因して、各測定点が不確かさを有し得ることも理解されたい。
【0056】
種々の実施形態によれば、第１の事後モデル１１４及び既知の第２の測定点Ｄｔを取り入れて、第２の事後モデル２１４を求めることができる。種々の実施形態によれば、第２の事後モデル２１４を求める際に、既知の第１の測定点Ｄｓ（２）に関する第１の事後モデル１１４の不確かさも、既知の第２の測定点Ｄｔに関する第２の事後モデル２１４の不確かさも考慮される。ここでは、測定された第１の出力値が存在していない測定箇所における第１の事後モデルの不確かさ（即ち、１つ又は複数の入力変数の入力パラメータ値）は、極めて重要であり得る。以下においては、２つの事後モデル１１４、２１４の不確かさを考慮することができる２つのコンセプト（アプローチとも称される）を説明する。種々の実施形態によれば、システム２００は、第２の事後モデル２１４を求めるように構成されているコンピュータを含むものとしてよい。
【0057】
Ｉ）第２の事後モデル２１４を求めるための第１のコンセプト（シーケンシャルな階層的なガウスプロセスとも称される）：
第１の事後モデル１１４は、第１の事後確率分布ｐ（ｆｓ（２）｜Ｄｓ（２））を含むものとしてよい。
第１の事後モデル１１４は、第１の事後確率分布ｐ（ｆｓ（２）｜Ｄｓ（２））を含むものとしてよい。
【0058】
コンピュータは、第１の事後確率分布ｐ（ｆｓ（２）｜Ｄｓ（２））（例えば、ｐ（ｆｓ｜Ｄｓ））に基づいて、ガウスプロセスを求めるように構成されるものとしてよく、これは、第１の事後確率分布ｐ（ｆｓ｜Ｄｓ）（ひいては第１の事後モデル１１４）から関数
を引き出すことによって行われる。この関数を、ランダムに、第１の事後確率分布ｐ（ｆｓ｜Ｄｓ）から引き出すことができ、ここでは用語「ランダム」によって、この関数が、第１の事後確率分布ｐ（ｆｓ｜Ｄｓ）の確率に関連することを示すことができる。この関数は、第２の事後モデル２１４の例示的な期待値関数であるものとしてよい。コンピュータは、このようにして、各ガウスプロセスに対して、第１の事後モデル１１４から事前期待値関数
を引き出すことによって、複数のガウスプロセスを求めることができる。種々の実施形態によれば、複数のガウスプロセスの各ガウスプロセスは、同一の共通の共分散関数ｋｔを含む。従って、複数のガウスプロセスの各ガウスプロセスを、
として表すことができ、ここでは、複数のガウスプロセスの事前期待値関数
は、相互に相違するものとしてよい。
【数3】
【数4】
【数5】
【数6】
【0059】
コンピュータは、（例えば、ベイズモデル平均（英語でＢａｙｅｓｉａｎ Ｍｏｄｅｌ Ａｖｅｒａｇｉｎｇ）を用いて）、複数のガウスプロセスの平均値
として、第２の事前モデルｆｔ（第２のモデルのアプリオリとも称される）を求めるように構成されるものとしてよい。第２の事前モデルｆｔは、期待値関数として、複数のガウスプロセスの期待値関数の平均値
を含むものとしてよい。複数のガウスプロセスの期待値関数
は、相互に相違するものとしてよいので、平均化された第２の事前モデルｆｔは、共分散関数を有することができ、これは、共通の共分散ｋｔも、別の共分散も有しており、別の共分散は、複数のガウスプロセスの期待値関数
の散乱を表している。従って、この別の共分散は、第１の事後確率分布ｐ（ｆｓ｜Ｄｓ）、ひいては第１の事後モデル１１４の不確かさに関連する。具体的には、第２の事前モデルｆｔの共分散関数は、共分散ｋｔに加えて、第１の事後モデル１１４の不確かさを表している。第２の事前モデルｆｔの平均化されたガウスプロセスを、
として表すことができ、ここでは、ｃｏｖ（ｆｓ｜Ｄｓ）は、別の共分散である。別の共分散は、第１の事後モデル１１４のガウスプロセスの共分散関数であるものとしてよい。
【数7】
【数8】
【数9】
【数10】
【数11】
【0060】
コンピュータは、既知の第２の測定点Ｄｔに合わせて第２の事前モデルｆｔを調整することによって、第２の事後モデル２１４（第２のモデルのアポステリオリとも称される）を求めるように構成されるものとしてよい。第２の事後モデル２１４は、第２の事後確率分布ｐ（ｆｔ｜Ｄｔ）を含むものとしてよい。
【0061】
概して、モデルの事前モデルは、既知の測定点に合わせたモデルの調整前の、事前ビリーフ（英語でｐｒｉｏｒ ｂｅｌｉｅｆ）であるものとしてよい。事前モデルの事前ビリーフを、期待値関数ｍ（・）及び共分散関数（カーネル関数とも称される）ｋ（・，・）を有するガウスプロセスｇｐ（ｍ，ｋ）として表すことができる。既知の測定点に合わせて事前モデルを調整することによって、属する事後モデルを求めることができる。事後モデルは、事後モデルの１つの評価値点Ｘ＊における、属する事後期待値関数と属する事後共分散関数とを有するガウスプロセスとして、事後確率分布を含むものとしてよい。概して、２つの点の間の共分散が規定されるものとしてよい。特に、これらの２つの点は、同一の点であるものとしてもよい。評価値点Ｘ＊におけるガウスプロセスの事後期待値関数が、例示的に、既知の第２の測定点Ｄｔに合わせた第２の事前モデルｆｔの調整に対して、式（３）において示されており、属する事後共分散関数が式（４）において示されている。
ここで
は、既知の第２の測定点の入力パラメータ値２０２、ｘｔ，ｉ（ただし、ｉ＝１、乃至、ｉ＝Ｎｔ，）であり、
は、各属する出力値２１２、ｙｔ，ｉである。各出力値２１２、ｙｔ，ｉを、期待値Ｅ（ｆｔ｜ｘｔ，ｉ，Ｄｔ）及び分散ｃｏｖ（ｆｔ｜ｘｔ，ｉ，Ｄｔ）＋σｔ２を有する正規分布によって表すことができる。同様に、式（３）及び式（４）に従って、第１の事前モデルｆｓを既知の第１の測定点Ｄｓに合わせて調整することによって第１の事後モデル１１４を求めることができる。
【数12】
【数13】
【数14】
【数15】
【0062】
第２の事後モデル２１４の共分散関数を、第１の事後モデルの共分散関数ｋｓ（第１のカーネル関数とも称される）及び共通の共分散関数ｋｔ（複数のガウスプロセスの第２のカーネル関数又は共通の共分散関数とも称される）に基づいて表すことができる。第１のモデル及び第２のモデルの共通の共分散関数を、式（５）に従って表すことができる。
ここでは、第１の事前モデルも第２の事前モデルも、第１のカーネル関数ｋｓを取り入れて求めることができる。第２の事前モデルの共分散関数を、第１の事後共分散関数ｃｏｖ（ｆｓ｜Ｄｓ）と第２のカーネル関数ｋｔとの和として求めることができる。転移学習において、第２の事前モデルｆｔを、具体的には、第１の事後モデルに対する差（例えば差分）として学習することができる。ここでは、この差が、第１の事後モデルの不確かさを考慮する（式（５）を参照）。種々の実施形態によれば、この差の学習を、高められた効率で行うことができ、これによって、モデルの学習時及びベイズ最適化によるプロセスの最適化時に、収束が（先行するモデルの不確かさが考慮されない転移学習と比較して）より速くなり得る。
【数16】
【0063】
ベイズ最適化時に、カーネル関数（例えば、第１のカーネル関数及び／又は第２のカーネル関数）のハイパーパラメータの適応化を行うことができる（ハイパーパラメータ最適化とも称される）。例えば、第１の事前モデルのハイパーパラメータの適応化（例えば最適化）を、既知の第１の測定点Ｄｓがこの第１の事前モデルによって表される確率が高くなる（例えば、最大になる）ように行うことができる。例えば、第２の事前モデルのハイパーパラメータの適応化（例えば最適化）を、既知の第２の測定点Ｄｔがこの第２の事前モデルによって表される確率が高くなる（例えば、最大になる）ように行うことができる。この場合、第１の事前モデルのハイパーパラメータを一定に保つことができる。第１のカーネル関数ｋｓのハイパーパラメータを固定することによって、第２の事前モデルが既知の第２の測定点に合わせて調整される際に、第１の事後モデル１１４の不確かさを維持することができる。
【0064】
種々の実施形態によれば、既知の第１の測定点Ｄｓ、既知の第２の測定点Ｄｔ、第１のカーネル関数ｋｓ及び第２のカーネル関数ｋｔに基づいて、第１の事後モデル１１４を取り入れて、第２の事後モデル２１４をアルゴリズム１に従って求めることができる。
【0065】
アルゴリズム１：第１のコンセプトに従った第２の事後モデル２１４の学習
入力：Ｄｓ、Ｄｔ、ｋｓ、ｋｔ
出力：ｐ（ｆｔ｜Ｄｔ）
１．（既知の第１の測定点が事前に正規化されている場合には、例えば、
として）第１の事前モデルを規定する。
２．第１のモデルを、既知の第１の測定点Ｄｓがこの第１のモデルによって表される確率が最大になるように、最適化する。
３．最適化されたハイパーパラメータを使用して、既知の第１の測定点Ｄｓに合わせて第１のモデルｆｓを調整することによって、（第２の事後モデルに対して定式化されているが、第１の事後モデルにも同様に当てはまる）式（３）及び式（４）を使用して、第１の事後モデル１１４を求める。
４．第２の事前モデルを規定する。
５．第２のモデルのハイパーパラメータを、既知の第２の測定点Ｄｔがこのモデルによって表される確率が最大になるように、最適化する（第１のモデルのハイパーパラメータはこのステップにおいて一定に保たれる）。
６．第２のモデルの最適化されたハイパーパラメータを使用して、既知の第２の測定点Ｄｔに合わせて第２のモデルｆｔを調整することによって、式（３）及び式（４）を使用して、第２の事後モデル２１４を求める。
入力：Ｄｓ、Ｄｔ、ｋｓ、ｋｔ
出力：ｐ（ｆｔ｜Ｄｔ）
１．（既知の第１の測定点が事前に正規化されている場合には、例えば、
【数17】
２．第１のモデルを、既知の第１の測定点Ｄｓがこの第１のモデルによって表される確率が最大になるように、最適化する。
３．最適化されたハイパーパラメータを使用して、既知の第１の測定点Ｄｓに合わせて第１のモデルｆｓを調整することによって、（第２の事後モデルに対して定式化されているが、第１の事後モデルにも同様に当てはまる）式（３）及び式（４）を使用して、第１の事後モデル１１４を求める。
４．第２の事前モデルを規定する。
【数18】
６．第２のモデルの最適化されたハイパーパラメータを使用して、既知の第２の測定点Ｄｔに合わせて第２のモデルｆｔを調整することによって、式（３）及び式（４）を使用して、第２の事後モデル２１４を求める。
【0066】
ここで、上述したように、第２の事前モデルｆｔを複数のガウスプロセスの平均値
として求めることによって、（アルゴリズム１における３．において）第２の事前モデルを規定することができる。
【数19】
【0067】
上述のように、第１のカーネル関数ｋｓのハイパーパラメータを不変のまま保つことができる。具体的には、新たな測定点に対して、アルゴリズム１の４．だけを実行することによって、第２の事後モデル２１４をベイズ最適化によって学習することができる。
【0068】
第２の事前モデル及び第２の事後モデルへの第１の事後モデル１１４の不確かさの伝送（不確かさの伝達／伝搬とも称される）によって、データ効率も最適化効率も高くなる。なぜなら、必要な測定データの数が減少し、これによって、モデルの学習にかかるコスト（例えば、時間的なコスト及び／又は費用支出）を削減することができるからである。
【0069】
ＩＩ）第２の事後モデル２１４を求めるための第２のコンセプト（強化された階層的なガウスプロセスとも称される）：
第１のコンセプトと同様に、第２のコンセプトにおいて、複数のガウスプロセスを
共通の共分散関数ｋｔによって、
に従って求めることができる。複数のガウスプロセス
の期待値関数
の差分は、第１の事後モデルの不確かさを特徴付けることができる。第１のコンセプトとは異なり、第２のコンセプトにおいては、複数のガウスプロセス
の各ガウスプロセスを、それぞれ、既知の第２の測定点Ｄｔに合わせて、式（３）及び式（４）に従って調整することができる。種々の実施形態によれば、第２の事後モデルを、調整された複数のガウスプロセスの平均値として求めることができる。この場合、複数のガウスプロセス
の期待値関数
の差分は、第２の事後モデルの共分散関数に直接的に影響を及ぼし、従って、第２の事後モデルの共分散関数は、第１の事後モデルの不確かさも考慮する。
第１のコンセプトと同様に、第２のコンセプトにおいて、複数のガウスプロセスを
共通の共分散関数ｋｔによって、
【数20】
【数21】
【数22】
【数23】
【数24】
【数25】
【0070】
２つのモデルの共通のカーネル関数を、第１の事後モデルの第１のカーネル関数ｋｓ及び第２のカーネル関数ｋｔに基づいて、式（６）に従って表すことができる。
ここで、「＊」は、評価点を表し、
は、第１の事後モデルから伝送された不確かさを表す付加的な共分散項である。
は、式（７）に従って表すことができる。
ここで、
であり、
は、既知の第２の測定点及び評価点において評価された、第１の事後モデルの共分散行列のブロックである。
【数26】
【数27】
【数28】
【数29】
【数30】
【数31】
【0071】
第２の事後モデル２１４の学習をアルゴリズム２に従って行うことができる。
【0072】
アルゴリズム２：第２のコンセプトに従った第２の事後モデルの学習
入力：Ｄｓ、Ｄｔ、ｋｓ、ｋｔ
出力：ｐ（ｆｔ｜Ｄｔ）
１．（既知の第１の測定点が事前に正規化されている場合には、例えば、
として）第１の事前モデルを規定する。
２．第１のモデルを、既知の第１の測定点Ｄｓがこの第１のモデルによって表される確率が最大になるように、最適化する。
３．最適化されたハイパーパラメータを使用して、既知の第１の測定点Ｄｓに合わせて第１のモデルｆｓを調整することによって、（第２の事後モデルに対して定式化されているが、第１の事後モデルにも同様に当てはまる）式（３）及び式（４）を使用して、第１の事後モデル１１４を求める。
４．第２の事前モデルを規定する。
５．第２のモデルのハイパーパラメータを、既知の第２の測定点Ｄｔがこのモデルによって表される確率が最大になるように、最適化する（第１の事前モデルのハイパーパラメータはこのステップにおいて一定に保たれる）。
６．最適化されたハイパーパラメータを使用して、既知の第２の測定点Ｄｔに合わせて第２のモデルｆｔを調整することによって、式（３）、式（４）を使用して、及び、式（７）による付加的な共分散項を追加して、第２の事後モデル２１４を求める。
入力：Ｄｓ、Ｄｔ、ｋｓ、ｋｔ
出力：ｐ（ｆｔ｜Ｄｔ）
１．（既知の第１の測定点が事前に正規化されている場合には、例えば、
【数32】
２．第１のモデルを、既知の第１の測定点Ｄｓがこの第１のモデルによって表される確率が最大になるように、最適化する。
３．最適化されたハイパーパラメータを使用して、既知の第１の測定点Ｄｓに合わせて第１のモデルｆｓを調整することによって、（第２の事後モデルに対して定式化されているが、第１の事後モデルにも同様に当てはまる）式（３）及び式（４）を使用して、第１の事後モデル１１４を求める。
４．第２の事前モデルを規定する。
【数33】
６．最適化されたハイパーパラメータを使用して、既知の第２の測定点Ｄｔに合わせて第２のモデルｆｔを調整することによって、式（３）、式（４）を使用して、及び、式（７）による付加的な共分散項を追加して、第２の事後モデル２１４を求める。
【0073】
図２Ｂには、種々の実施形態による、学習済みの第２の事後モデル２１４による第２の装置２０８の制御が示されている。第２の制御装置２０６には、少なくとも１つの出力変数の所望の出力値２２２が供給されるものとしてよい。選択的に、制御装置２０６は、他のパラメータ値及び／又は調整に基づいて所望の出力値を求めることができる。制御装置２０６は、第２の事後モデル２１４に従って所望の出力値２２２に割り当てられている、少なくとも１つの入力変数の入力パラメータ値２２６を求めるように構成されるものとしてよい。制御装置２０６は、物理的なプロセス又は化学的なプロセスを実行するために、第２の装置２０８を、少なくとも１つの入力変数の求められた入力パラメータ値に従って制御することができる。任意選択的に、１つ又は複数の第２のセンサ２１０は、実質的に所望の出力値２２２に相当し得る出力値を検出することができる。
【0074】
図２Ｃには、種々の実施形態による第２の事後モデル２１４の適応化が示されている。種々の実施形態によれば、第２の事後モデル２１４の適応化を、ベイズ最適化を用いて行うことができる。ここでは、ベイズ最適化を用いて付加的な第２の測定点を求めることができ、付加的に、付加的な第２の測定点に合わせて第２の事後モデル２１４を調整することができる。新たな第２の測定点を、第２の事後モデル２１４に基づいて、獲得関数α（ｆｔ｜ｘ，Ｄｔ）（例えば、参考文献［２］及び／又は参考文献［３］に従った獲得関数）を用いて、例えば、式（８）に従って選択することができる。
ここで、Ｄは、少なくとも１つの入力変数の許容されたすべての値である。具体的には、少なくとも１つの入力変数の入力パラメータ値
を求めることができ、属する出力値を測定することができる。求められた入力パラメータ値
及び測定された出力値は、新たな第２の測定点を形成することができる。
【数34】
【数35】
【数36】
【0075】
例えば、制御装置２０６は、獲得関数を用いて、新たな第２の測定点２３２の入力パラメータ値２１６を選択することができる。制御装置２０６は、求められた入力パラメータ値２１６に従って第２の装置２０８を制御することができ、１つ又は複数の第２のセンサ２１０は、新たな第２の測定点２３２の属する出力値２１８を検出することができる。種々の実施形態によれば、付加的に、新たな第２の測定点２３２に合わせて第２の事後モデル２１４を調整することができる。この適応化が行われた第２の事後モデル２３４は、少なくとも１つの入力変数と少なくとも１つの出力変数との間の関係を、事前に既知の第２の測定点Ｄｔ及び新たな第２の測定点２３２に対して表すことができる。具体的には、既知の第２の測定点Ｄｔが同様に、新たな第２の測定点２３２を含むものとしてよい。このようにして、任意の頻度で新たな第２の測定点を求めることができ、各反復において、ここで新たに既知となった第２の測定点に合わせて各第２の事後モデルを調整することができる。ここでも、第１のコンセプト及び第２のコンセプトにおいて、第１のカーネル関数ｋｓのハイパーパラメータを不変のまま保つことができる。このことによって、ベイズ最適化の効率を高めることができる。複数のガウスプロセスを明示的に求めることは必要ではなく、無限に多くのこのようなガウスプロセスの限界を表す実効式が評価可能であることを理解されたい。この実効式は、例えば、第２の事後モデルのハイパーパラメータが、新たな測定点に基づいて再び最適化される場合に評価可能である。
【0076】
新たな第２の測定点を求めること及び第２の事後モデルの適応化を行うことを、アルゴリズム３に従って説明することができる。
【0077】
アルゴリズム３：第２の事後モデル２１４のベイズ最適化
ｆｏｒ ｉ←１，２，…ｄｏ：
１．第２の事後モデルを介した獲得関数の最適化ｘｉ＝ａｒｇｍａｘｘα（ｆｔ｜ｘ，Ｄｔ）を用いて入力パラメータ値ｘｉを見出す。
２．入力パラメータ値ｘｉに属する出力値ｙｉ＝ｙｉ（ｘｉ）を求める。
３．既知の第２の測定点Ｄｔに、新たな測定点（ｘｉ，ｙｉ）を追加する。
４．既知の第２の測定点Ｄｔに基づいて、第２の事後モデルの適応化を行う。
ｅｎｄ ｆｏｒ
ｆｏｒ ｉ←１，２，…ｄｏ：
１．第２の事後モデルを介した獲得関数の最適化ｘｉ＝ａｒｇｍａｘｘα（ｆｔ｜ｘ，Ｄｔ）を用いて入力パラメータ値ｘｉを見出す。
２．入力パラメータ値ｘｉに属する出力値ｙｉ＝ｙｉ（ｘｉ）を求める。
３．既知の第２の測定点Ｄｔに、新たな測定点（ｘｉ，ｙｉ）を追加する。
【数37】
ｅｎｄ ｆｏｒ
【0078】
図２Ｄには、種々の実施形態による、適応化が行われた第２の事後モデル２３４による第２の装置２０８の制御が示されている。これを、図２Ｂに関連して説明した、第２の装置２０８の制御に類似して行うことができる。第２の制御装置２０６には、少なくとも１つの出力変数の所望の出力値２２２が供給されるものとしてよく、制御装置２０６は、適応化が行われた第２の事後モデル２３４に従って割り当てられている、少なくとも１つの入力変数の入力パラメータ値２４６を求めることができる。制御装置２０６は、物理的なプロセス又は化学的なプロセスを実行するために、少なくとも１つの入力変数の求められた入力パラメータ値２４６に従って第２の装置２０８を制御することができる。
【0079】
種々の実施形態によれば、第２の事後モデルの学習を、複数の他のモデルに基づいてシーケンシャルに行うことができる。具体的には、第２の事後モデルを学習するために第１の事後モデルを使用する前に、さらに別の事後モデル（以下においては、第３の事後モデルと称される）に基づいて、第１の事後モデルの学習を行うことができる。このさらに別の事後モデルは、同様に、またさらに別の事後モデルに基づいて学習されたものであるものとしてよい。
【0080】
例えば、第３の事後モデルは、物理的なプロセス又は化学的なプロセスに関連するさらに別のプロセスの少なくとも１つの入力変数と少なくとも１つの出力変数との間の関係を表すことができる。第１の事後モデルを、第３の事後モデルを取り入れて、アルゴリズム１又はアルゴリズム２に従って、第１の事後モデルを取り入れて第２の事後モデルを求めるために上記で説明したように、求めることができる。第３の事後モデルは、既知の第３の測定点Ｄｓ（１）に基づいて求めることができ、又は、第３の事後モデルは、既知の第３の測定点Ｄｓ（１）に基づいて求められているものとしてよい。本明細書において説明されるように、既知の第３の測定点のような既知の測定点を、シミュレーションを用いて求めることもできる。
【0081】
このような転移学習の具体例として、既知の第３の測定点をシミュレーションから求めることができ、第３の事後モデルはこの関係を表すことができる；既知の第１の測定点を、生産システムと類似の実験装置において、実験室で測定することができ、第１の事後モデルはこの関係を表すことができる；既知の第２の測定点を生産システムにおいて測定することができ、第２の事後モデルは、生産システムの入力変数と出力変数との関係を表すことができる。
【0082】
種々の実施形態によれば、複数の他のｎｓ個のモデルに対して、第２の事後モデル２１４の学習がシーケンシャルに行われるものとしてよい。ここでは、別の各モデルを、先行する各別のモデルを取り入れて、本明細書において第１の事後モデルを取り入れた第２の事後モデルの学習に対して説明されたように、求めることができる。具体的には、第２の事後モデル２１４を、ｎｓ個の相互に積層されたガウスプロセスのスタックとみなすことができる。
【0083】
第１のコンセプトに関して、すべてのモデルの共通のカーネル関数を式（９）に従って表すことができる。
【数38】
【0084】
第２の事後モデル２１４を、第１のコンセプトに従ってアルゴリズム４を用いて求めることが可能である（例えば、学習が可能である）。
【0085】
アルゴリズム４：第１のコンセプトに従った第２の事後モデル２１４の学習
入力：各既知の測定点（Ｄｓ１，Ｄｓ２，…，Ｄｔ）及び各カーネル関数（ｋｓ１，ｋｓ２，…，ｋｔ）
出力：ｐ（ｆｔ｜Ｄｔ）
１．（属する既知の測定点Ｄｓ１が事前に正規化されている場合には、例えば、
として）ｉ＝１に対する事前モデルを規定する。
２．ｉ＝１のモデルのハイパーパラメータを、属する既知の測定点Ｄｓ１がこのモデルによって表される確率が最大になるように、最適化する。
３．最適化されたハイパーパラメータを使用して、属する既知の測定点Ｄｓ１に合わせてモデルｆｓ１を調整することによって、ｉ＝１に対する事前モデルｐ（ｆｓ１｜Ｄｓ１）を求める。
４．ｉ＝２に対する事前モデルを規定する。
５．ｉ＝２のモデルのハイパーパラメータを、属する既知の測定点Ｄｓ３がこのモデルによって表される確率が最大になるように、最適化する（ｉ＝１のモデルのハイパーパラメータはこのステップにおいて一定に保たれる）。
６．最適化されたハイパーパラメータを使用して、属する既知の測定点Ｄｓ２に合わせてモデルｆｓ２を調整することによって、ｉ＝２に対する事前モデルｐ（ｆｓ２｜Ｄｓ２）を求める。
７．…
８．第２の事前モデルを規定する。
９．第２の事前モデルのハイパーパラメータを、既知の第２の測定点Ｄｔがこの第２のモデルによって表される確率が最大になるように、最適化する（ｉ＝１，…，ｎｓのモデルのハイパーパラメータはこのステップにおいて一定に保たれる）。
１０．最適化されたハイパーパラメータを使用して、既知の第２の測定点Ｄｔに合わせて第２のモデルｆｔを調整することによって、第２の事後モデル２１４を求める。
入力：各既知の測定点（Ｄｓ１，Ｄｓ２，…，Ｄｔ）及び各カーネル関数（ｋｓ１，ｋｓ２，…，ｋｔ）
出力：ｐ（ｆｔ｜Ｄｔ）
１．（属する既知の測定点Ｄｓ１が事前に正規化されている場合には、例えば、
【数39】
２．ｉ＝１のモデルのハイパーパラメータを、属する既知の測定点Ｄｓ１がこのモデルによって表される確率が最大になるように、最適化する。
３．最適化されたハイパーパラメータを使用して、属する既知の測定点Ｄｓ１に合わせてモデルｆｓ１を調整することによって、ｉ＝１に対する事前モデルｐ（ｆｓ１｜Ｄｓ１）を求める。
４．ｉ＝２に対する事前モデルを規定する。
【数40】
６．最適化されたハイパーパラメータを使用して、属する既知の測定点Ｄｓ２に合わせてモデルｆｓ２を調整することによって、ｉ＝２に対する事前モデルｐ（ｆｓ２｜Ｄｓ２）を求める。
７．…
８．第２の事前モデルを規定する。
【数41】
１０．最適化されたハイパーパラメータを使用して、既知の第２の測定点Ｄｔに合わせて第２のモデルｆｔを調整することによって、第２の事後モデル２１４を求める。
【0086】
第２のコンセプトに関して、他のすべてのｎｓ個のモデルの共分散を有するために、第２の事後モデル２１４の共分散関数を拡張することができる。この場合、すべてのモデルの共通のカーネル関数を式（１０）に従って表すことができる。
【数42】
【0087】
具体的には、拡張された共分散関数は、ブロック対角線における他のすべてのｎｓ個のモデルの共分散を含むものとしてよい。選択的に、第１の別のモデルを除く各他のモデルを予測するために、付加的な共分散項が追加されるものとしてもよい。これによって、サイズ（２ｎｓ－１）＊（２ｎｓ－１）のカーネル関数マトリクスが得られる。この場合には、式（６）における表現
は、ｉ＝１を除く他のすべてのモデルに対して拡張可能であり、かつ、式（１１）に従ってすべてのモデルの共通のカーネル関数が表され得る。
【数43】
【数44】
【0088】
第２の事後モデル２１４を、第２のコンセプトに従ってアルゴリズム５を用いて求めることが可能である（例えば、その学習が可能である）。
【0089】
アルゴリズム５：第２のコンセプトに従った第２の事後モデルの学習
入力：各既知の測定点（Ｄｓ１，Ｄｓ２，…，Ｄｔ）及び各カーネル関数（ｋｓ１，ｋｓ２，…，ｋｔ）
出力：ｐ（ｆｔ｜Ｄｔ）
１．（属する既知の測定点Ｄｓ１が事前に正規化されている場合には、例えば、
として）ｉ＝１に対する事前モデルを規定する。
２．ｉ＝１のモデルのハイパーパラメータを、属する既知の測定点Ｄｓ１がこのモデルによって表される確率が最大になるように、最適化する。
３．最適化されたハイパーパラメータを使用して、属する既知の測定点Ｄｓ１に合わせてモデルｆｓ１を調整することによって、ｉ＝１に対する事前モデルｐ（ｆｓ１｜Ｄｓ１）を求める。
４．ｉ＝２に対する事前モデルを規定する。
５．ｉ＝２のモデルのハイパーパラメータを、属する既知の測定点Ｄｓ３がこのモデルによって表される確率が最大になるように、最適化する（ｉ＝１のモデルのハイパーパラメータはこのステップにおいて一定に保たれる）。
６．最適化されたハイパーパラメータを使用して、属する既知の測定点Ｄｓ２に合わせてモデルｆｓ２を調整することによって、ｉ＝２に対する事前モデルｐ（ｆｓ２｜Ｄｓ２）を求める。
７．…
８．第２の事前モデルを規定する。
９．第２のモデルのハイパーパラメータを、既知の第２の測定点Ｄｔがこの第２のモデルによって表される確率が最大になるように、最適化する（ｉ＝１，…，ｎｓのモデルのハイパーパラメータはこのステップにおいて一定に保たれる）。
１０．最適化されたハイパーパラメータを使用して、既知の第２の測定点Ｄｔに合わせて第２のモデルｆｔを調整することによって、及び、式（７）による付加的な共分散項を追加して、第２の事後モデル２１４を求める。
入力：各既知の測定点（Ｄｓ１，Ｄｓ２，…，Ｄｔ）及び各カーネル関数（ｋｓ１，ｋｓ２，…，ｋｔ）
出力：ｐ（ｆｔ｜Ｄｔ）
１．（属する既知の測定点Ｄｓ１が事前に正規化されている場合には、例えば、
【数45】
２．ｉ＝１のモデルのハイパーパラメータを、属する既知の測定点Ｄｓ１がこのモデルによって表される確率が最大になるように、最適化する。
３．最適化されたハイパーパラメータを使用して、属する既知の測定点Ｄｓ１に合わせてモデルｆｓ１を調整することによって、ｉ＝１に対する事前モデルｐ（ｆｓ１｜Ｄｓ１）を求める。
４．ｉ＝２に対する事前モデルを規定する。
【数46】
６．最適化されたハイパーパラメータを使用して、属する既知の測定点Ｄｓ２に合わせてモデルｆｓ２を調整することによって、ｉ＝２に対する事前モデルｐ（ｆｓ２｜Ｄｓ２）を求める。
７．…
８．第２の事前モデルを規定する。
【数47】
１０．最適化されたハイパーパラメータを使用して、既知の第２の測定点Ｄｔに合わせて第２のモデルｆｔを調整することによって、及び、式（７）による付加的な共分散項を追加して、第２の事後モデル２１４を求める。
【0090】
他のｎｓ個のモデルに基づく（例えば、アルゴリズム１、アルゴリズム２、アルゴリズム３又はアルゴリズム４による）第２の事後モデル２１４の、本明細書において説明された学習では、モデルの不確かさを考慮する従来のベイズカーネル方法と比較して、第２の事後モデル２１４を求めるための全体的な計算複雑性が低減される。全体的な計算複雑性は、（ｉ）別のモデルの学習のための計算複雑性と、（ｉｉ）すべての他のモデルが学習済みであると仮定した、事後モデル（例えば、第２の事後モデル２１４）の学習に対する計算複雑性と、（ｉｉｉ）学習済みのモデルによる予測に対する計算複雑性とに分割可能である。表１は、従来のベイズカーネル方法、参考文献［１］による階層的なガウスプロセス、第１のコンセプトによるシーケンシャルな階層的なガウスプロセス、及び、第２のコンセプトによる強化された階層的なガウスプロセスの計算複雑性（ｉ）、（ｉｉ）、（ｉｉｉ）の対比を示している。表１においては、Ｎｓは、ｖ＝１，２，…，ｎｓであるとして、
に従った、すべての他のｎｓ個のモデルの既知の測定点の数であり、Ｎｔは、学習されるべき目標モデルの既知の測定点の数（例えば、既知の第２の測定点の数）である。
【数48】
【0091】
【表1】
【0092】
他のモデルは、ベイズ最適化の開始時に学習可能であり、ベイズ最適化中の再度の学習は不要である。従って、他のモデルの学習の計算複雑性（ｉ）は、全体的な計算複雑性に対して比較的小さい影響を有する。事後モデルの学習は、ベイズ最適化の各反復において一度、実行されるものとしてよく、これによって、各反復において新たに検出された測定点に関して事後モデルの適応化が行われる（例えば、アルゴリズム３における４．を参照）。表１に示されているように、従来のベイズカーネル方法による事後モデルの学習は、既知の測定点の全体数Ｎｔ＋Ｎｓで三乗に（即ち、３の累乗によって）スケーリングされ、従って、これはベイズ最適化における制限的なファクタとなり得る。通常、学習されるべき目標モデルの既知の測定点の数Ｎｔは、他のすべてのｎｓ個のモデルの既知の測定点の数Ｎｓよりも格段に小さいものとしてよい（即ち、Ｎｔ＜＜Ｎｓ）。このような一般的な場合には、第１のコンセプトによる事後モデルの学習及び第２のコンセプトによる事後モデルの学習は、計算複雑性を、三乗のスケーリングからＮｓにおける二乗の関係へ低減させることができる。さらに、第１のコンセプトによる事後モデルの学習時及び第２のコンセプトによる事後モデルの学習時には、学習されるべきモデルのハイパーパラメータの最適化しか必要ではないので、すべてのモデルが一緒に最適化される従来のベイズカーネル方法に比較して、最適化されるハイパーパラメータが少なくなり、これによって計算複雑性がさらに低減される。学習済みのモデルの予測は、獲得関数の最適化の間、ベイズ最適化の各反復において複数回実行されるものとしてよい（例えば、アルゴリズム３における１．を参照）。従って、学習済みのモデルの予測に対する計算複雑性（ｉｉｉ）は、同様に、全体的な計算複雑性にとって関連性を有する。表１に示されているように、第１のコンセプト及び第２のコンセプトの計算複雑性（ｉｉｉ）は、従来のベイズカーネル方法の計算複雑性（ｉｉｉ）に相当する。参考文献［１］は、このような計算複雑性（ｉｉｉ）を低減させるが、参考文献［１］は、他のｎｓ個のモデルの不確実性を考慮するための根拠のある手法を提示していない。基本的に、他のモデルの個々の測定値間の共分散をマッピングすることはできない。統計的なモデルの枠内において、他のｎｓ個のモデルの不確かさを正しく考慮することによって、ベイズ最適化の効率を高めることができる。
【0093】
説明のために図３Ａにおいては、β＝１である、参考文献［１］による階層的なガウスプロセス３１６、第１のコンセプトによるシーケンシャルな階層的なガウスプロセス３２０、及び、第２のコンセプトによる強化された階層的なガウスプロセス３１８が例示的に視覚化されている。図３Ａには、例示的な第１の事後モデルによってモデル化されたソース関数３０８と、例示的な第２の事後モデルによってモデル化された目的関数３１４とが示されており、これらは、それぞれ入力パラメータ値３０２と出力値３０４との間の関係を表している。ソース関数３０８を表す第１の事後モデルは、既知の第１の測定点Ｄｓ，３０６に基づいて求められているものとしてよく、又は、ソース関数３０８を表す第１の事後モデルは、既知の第１の測定点Ｄｓ，３０６に基づいて求めることができる。第２の事後モデルによって表される目的関数３１４に対しては、既知の第２の測定点Ｄｔ、３１２が存在し得る。イラストａ）は、既知の第１の測定点Ｄｓ、３０６が存在していない右側の領域において、第１の事後モデルが、比較的高い不確かさ３１０を有することを示している。イラスト（ｂ）は、β＝１である、参考文献［１］による階層的なガウスプロセス３１６を用いて学習された事後モデルが、この右側の領域における不確かさを低く見積もることを示している。これに対して、イラスト（ｂ）及びイラスト（ｃ）は、第１のコンセプトによるシーケンシャルな階層的なガウスプロセス３２０を用いて学習済みの事後モデルと、第２のコンセプトによる強化された階層的なガウスプロセス３１８を用いて学習済みの事後モデルとの双方が、この右側の領域における不確かさを考慮していることを示している。
【0094】
図３Ｂは、従来のベイズカーネル方法３６０（転移学習を伴わない）と、β＝１である、参考文献［１］による従来のガウスプロセス３１６と、第１のコンセプトによるシーケンシャルな階層的なガウスプロセス３２０と、第２のコンセプトによる強化された階層的なガウスプロセス３１８との対比を示している。イラスト３３２は、別のモデル（ｎｓ＝１）に対するベイズ最適化を示しており、これは、例示的に、１次元Ｆｏｒｒｅｓｔｅｒ関数３３８、２次元Ｂｒａｉｎ関数３４０、３次元Ｈａｒｔｍａｎｎ３関数３４２及び６次元Ｈａｒｔｍａｎｎ６関数３４４に対して、最適化反復３３６の関数としてシンプルリグレット３３４を伴っている。イラスト３５２は、複数の他のモデルに対するベイズ最適化を示しており、これは、例示的に、３つの他のモデル（ｎｓ＝３）を含むＨａｒｔｍａｎｎ６関数３５４、５つの他のモデル（ｎｓ＝５）を含むＡｌｐｉｎｅ関数３５６に対して、最適化反復３３６の関数としてシンプルリグレット３３４を伴っている。シンプルリグレット値が小さいほど、見出される最適化はより良好になり、小さいシンプルリグレット値が見出される最適化反復３３６が少なくなるほど、ベイズ最適化の効率が高くなる。具体的には、図３Ｂは、第１のコンセプト及び第２のコンセプトによるベイズ最適化の効率の改善が、他の方法と比較して、次元数が増すほど向上することを示している（イラスト３３２、例えば、６次元Ｈａｒｔｍａｎｎ６関数３４４を参照）。複数の他のモデル（ｎｓ＞１）の場合についても著しい効率の向上が示されている（イラスト３５２、例えば、ｎｓ＝５であるＡｌｐｉｎｅ関数３５６を参照）。
【0095】
具体的には、すべての上述のモデルの不確かさが伝達される（即ち、不確かさの伝搬）本明細書において説明された転移学習のコンセプトによって、ベイズ最適化が促進される。（例えば、相対的に極めて高いコスト（例えば、時間的なコスト、エネルギ消費、費用支出等）によって）、例えば、モデルを求めるためにわずかな測定点しか存在しない又はわずかな測定点しか検出可能でない場合には、本明細書において説明された転移学習は、不確かさの伝達に基づいて、学習の効率を大幅に高めることができる。従来のベイズ最適化方法は、不確かさを完全に考慮することによって計算技術的なコストを増加させ、又は、不確かさを全く考慮しないことによって学習済みのモデルの欠陥を生じさせ、かつ、測定点がわずかにしか存在していない場合には、モデルの顕著な不正確さを生じさせ得る。本明細書において説明されたコンセプトは、不確かさの考慮も、学習の比較的高い効率も実現することができる。本明細書において説明された転移学習は、不確かさが伝達されることによって、比較的高いデータ効率及び最適化効率を提供する。
【0096】
図４は、種々の実施形態による、物理的なプロセス又は化学的なプロセスを制御するための方法４００のフローチャートを示している。
【0097】
方法４００は、第１の事後モデルを取り入れて第２の事後モデルを求めることを含み得るものである（４０２において）。第２の事後モデルは、物理的なプロセス又は化学的なプロセスの少なくとも１つの入力変数と少なくとも１つの出力変数との間の関係を表すことができる。第１の事後モデルは、物理的なプロセス又は化学的なプロセスに関連するプロセスの少なくとも１つの入力変数と少なくとも１つの出力変数との間の関係を表すことができる。
【0098】
（４０２において）第１の事後モデルを取り入れて第２の事後モデルを求めることは、共通の共分散関数を用いて複数のガウスプロセスを求めることを含み得るものである（４０２Ａにおいて）。関数が第１の事後モデルから引き出されて、各ガウスプロセスの期待値を形成することによって複数のガウスプロセスのうちの各ガウスプロセスを求めることができる。
【0099】
種々の実施形態によれば、第２の事後モデルを、少なくとも、２つのコンセプトのうちの１つのコンセプト（アプローチとも称される）を用いて求めることができる。第１のコンセプトによれば、複数のガウスプロセスを、共通の共分散関数によって最初に平均化し、次いで既知の測定点に合わせて、平均化されたガウスプロセスを調整することができる。第２のコンセプトによれば、既知の測定点に合わせて複数のガウスプロセスをそれぞれ調整することができ、続いて、調整された複数のガウスプロセスを平均化することができる。
【0100】
第１のコンセプトによれば、（４０２において）第１の事後モデルを取り入れて第２の事後モデルを求めることは、さらに、複数のガウスプロセスの平均値として第２の事前モデルを求め、既知の測定点に合わせた事前モデルの調整を用いて第２の事後モデルを求めることを含み得るものである（４０２Ｂにおいて）。例えば、（４０２において）第１の事後モデルを取り入れて第２の事後モデルを求めることは、既知の第２の測定点Ｄｔが第２の事前モデルによって表される確率が高められる（例えば、最大になる）ように第２の事後モデルのハイパーパラメータを最適化することと、最適化されたハイパーパラメータを使用して、既知の第２の測定点Ｄｔに合わせて第２の事前モデルｆｔを調整することとを含み得るものである。
【0101】
種々の実施形態によれば、第２のモデルのトレーニング又は学習（例えば、ハイパーパラメータ最適化）の際に、第１のモデルの共分散関数のハイパーパラメータが不変のまま保たれ得る。
【0102】
第２のコンセプトによれば、（４０２において）第１の事後モデルを取り入れて第２の事後モデルを求めることは、さらに、既知の測定点に合わせて複数のガウスプロセスの各ガウスプロセスを調整し、調整された複数のガウスプロセスの平均値として第２の事後モデルを求めることを含み得るものである（４０２Ｂにおいて）。第２のコンセプトにおいても、第１のモデルのハイパーパラメータが、第２のモデルのトレーニング時に新たに最適化される必要がないという利点を得ることができる。
【0103】
方法４００は、さらに、第２の事後モデルを使用して、物理的なプロセス又は化学的なプロセスを制御することを含み得るものである（４０４において）。
【図1A】
【図1B】
【図1C】
【図2A】
【図2B】
【図2C】
【図2D】
【図3A】
【図3B】
【図4】
【外国語明細書】