特開 2023-17358 実験計画装置、実験計画方法および実験計画システム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2023017358

(43)【公開日】2023-02-07

(54)【発明の名称】実験計画装置、実験計画方法および実験計画システム

(51)【国際特許分類】

   G06Q 10/04 20230101AFI20230131BHJP

   G06N 99/00 20190101ALI20230131BHJP

   G06N 20/00 20190101ALI20230131BHJP

【ＦＩ】

G06Q10/04

G06N99/00 180

G06N20/00

【審査請求】未請求

【請求項の数】15

【出願形態】ＯＬ

(21)【出願番号】P 2021121584

(22)【出願日】2021-07-26

(71)【出願人】

【識別番号】000005108

【氏名又は名称】株式会社日立製作所

(74)【代理人】

【識別番号】110001678

【氏名又は名称】藤央弁理士法人

(72)【発明者】

【氏名】須藤 建瑠

(72)【発明者】

【氏名】末松 知夏

【テーマコード（参考）】

5L049

【Ｆターム（参考）】

5L049AA04

(57)【要約】

【課題】複数の候補点の分散化を図ること。
【解決手段】実験装置に関する入力設計パラメータを入力した場合に実験装置を評価する推論モデルに対し入力設計パラメータを入力した結果出力されるコストに基づいて、入力設計パラメータに誤差逆伝播することにより入力設計パラメータを修正し、修正後の入力設計パラメータに基づいて設計パラメータ候補を決定する実験計画装置は、第１入力設計パラメータを受け付け、第１入力設計パラメータと設計パラメータ候補との距離に関する第１距離コストを算出し、第１距離コストと、第１入力設計パラメータを推論モデルに入力した結果推論モデルから出力される第１コストと、を加算し、加算結果に基づいて第１入力設計パラメータに誤差逆伝播することにより第１入力設計パラメータを修正し、修正後の第１入力設計パラメータに基づいて第１設計パラメータ候補を決定する。
【選択図】図３

【特許請求の範囲】

【請求項1】

実験装置に関する入力設計パラメータを入力した場合に前記実験装置を評価する推論モデルに対し前記入力設計パラメータを入力した結果出力されるコストに基づいて、前記入力設計パラメータに誤差逆伝播することにより前記入力設計パラメータを修正し、修正後の入力設計パラメータに基づいて設計パラメータ候補を決定する実験計画装置であって、
第１入力設計パラメータを受け付ける入力部と、
前記第１入力設計パラメータと前記設計パラメータ候補との距離に関する第１距離コストを算出する第１距離コスト算出部と、
前記第１距離コスト算出部によって算出された第１距離コストと、前記第１入力設計パラメータを前記推論モデルに入力した結果前記推論モデルから出力される第１コストと、を加算するコスト加算部と、
前記コスト加算部による加算結果に基づいて前記第１入力設計パラメータに誤差逆伝播することにより前記第１入力設計パラメータを修正する修正部と、
前記修正部による修正後の前記第１入力設計パラメータに基づいて第１設計パラメータ候補を決定する決定部と、
を有することを特徴とする実験計画装置。

【請求項2】

請求項１に記載の実験計画装置であって、
前記入力部は、前記修正後の第１入力設計パラメータを受け付け、
前記第１距離コスト算出部は、前記修正後の第１入力設計パラメータと前記設計パラメータ候補との距離に関する前記第１距離コストを算出する、
ことを特徴とする実験計画装置。

【請求項3】

請求項１に記載の実験計画装置であって、
前記修正部は、前記第１入力設計パラメータを勾配降下することにより前記第１入力設計パラメータに誤差逆伝播し、前記第１入力設計パラメータを修正する、
ことを特徴とする実験計画装置。

【請求項4】

請求項３に記載の実験計画装置であって、
前記第１入力設計パラメータの勾配降下に関するコストが、所定の条件を充足するか否かを判定する判定部を有し、
前記修正部は、前記判定部により前記条件を充足すると判定された場合、前記修正後の第１入力設計パラメータを前記第１設計パラメータ候補として出力する、
ことを特徴とする実験計画装置。

【請求項5】

請求項４に記載の実験計画装置であって、
前記条件は、前記勾配降下に関するコストのしきい値により規定され、
前記決定部は、前記判定部により前記勾配降下に関するコストが前記しきい値以下となったと判定された場合、前記修正後の第１入力設計パラメータを前記第１設計パラメータ候補に決定する、
ことを特徴とする実験計画装置。

【請求項6】

請求項１に記載の実験計画装置であって、
前記第１設計パラメータ候補が出力されると、前記第１設計パラメータ候補を用いて第２距離コストを算出する第２距離コスト算出部を追加する設定部を有し、
前記入力部は、前記第１設計パラメータ候補が出力されたときの前記修正後の第１入力設計パラメータを第２入力設計パラメータとして受け付け、
前記第１距離コスト算出部は、前記第２入力設計パラメータと、前記設計パラメータ候補と、の距離に関する前記第１距離コストを算出し、
前記第２距離コスト算出部は、前記第２入力設計パラメータと、前記第１設計パラメータ候補と、の距離に関する第２距離コストを算出し、
前記コスト加算部は、前記第２入力設計パラメータを前記推論モデルに入力した場合に前記推論モデルから出力される第２コストと、前記第１距離コストと、前記第２距離コストと、を加算し、
前記修正部は、前記コスト加算部による加算結果に基づいて前記第２入力設計パラメータに誤差逆伝播することにより前記第２入力設計パラメータを修正し、
前記決定部は、前記修正部による修正後の前記第２入力設計パラメータに基づいて第２設計パラメータ候補を決定する、
ことを特徴とする実験計画装置。

【請求項7】

請求項１に記載の実験計画装置であって、
前記第１距離コスト算出部は、前記設計パラメータ候補に替えて前記第１距離コストの値が０になるような特定の値が設定されており、前記設計パラメータ候補が決定されると、前記特定の値を前記設計パラメータ候補に置換して、前記第１入力設計パラメータと前記設計パラメータ候補との距離に関する前記第１距離コストを算出する、
ことを特徴とする実験計画装置。

【請求項8】

請求項７に記載の実験計画装置であって、
前記特定の値が設定された第２距離コスト算出部を有し、
前記入力部は、前記第１設計パラメータ候補が出力されたときの前記修正後の第１入力設計パラメータを第２入力設計パラメータとして受け付け、
前記第２距離コスト算出部は、前記決定部によって前記第１設計パラメータ候補が決定されると、前記特定の値を前記第１設計パラメータ候補に置換して、前記第２入力設計パラメータと、前記第１設計パラメータ候補と、の距離に関する第２距離コストを算出し、
前記コスト加算部は、前記第２入力設計パラメータを前記推論モデルに入力した場合に前記推論モデルから出力される第２コストと、前記第１距離コストと、前記第２距離コストと、を加算し、
前記修正部は、前記コスト加算部による加算結果に基づいて前記第２入力設計パラメータに誤差逆伝播することにより前記第２入力設計パラメータを修正し、
前記決定部は、前記修正部による修正後の前記第２入力設計パラメータに基づいて第２設計パラメータ候補を決定する、
ことを特徴とする実験計画装置。

【請求項9】

請求項１に記載の実験計画装置であって、
前記第１距離コスト算出部は、前記距離と所定の離間距離との差に基づいて、第１距離コストを算出する、
ことを特徴とする実験計画装置。

【請求項10】

請求項１に記載の実験計画装置であって、
前記第１入力設計パラメータが存在するグリッド化された設計パラメータ空間において、前記設計パラメータ空間内の前記第１入力設計パラメータから最短距離の格子点に前記第１入力設計パラメータを量子化する量子化部を有し、
前記修正部は、前記コスト加算部による加算結果に基づいて、前記量子化部によって量子化された第１入力設計パラメータに誤差逆伝播することにより、前記量子化された第１入力設計パラメータを、前記格子点とは異なる他の格子点に位置するように修正する、
ことを特徴とする実験計画装置。

【請求項11】

請求項１に記載の実験計画装置であって、
前記第１距離コスト算出部は、前記第１入力設計パラメータと前記設計パラメータ候補とのユークリッド距離に関する前記第１距離コストを算出する、
ことを特徴とする実験計画装置。

【請求項12】

請求項１に記載の実験計画装置であって、
前記推論モデルから出力される前記第１コストを調整し、調整後の第１コストを前記コスト加算部に出力する調整部を有する、
ことを特徴とする実験計画装置。

【請求項13】

請求項１２に記載の実験計画装置であって、
前記調整部は、外部からの設定により、前記コスト加算部からの加算結果を増減するように調整可能な制御点を有する、
ことを特徴とする実験計画装置。

【請求項14】

実験装置に関する入力設計パラメータを入力した場合に前記実験装置を評価する推論モデルに対し前記入力設計パラメータを入力した結果出力されるコストに基づいて、前記入力設計パラメータに誤差逆伝播することにより前記入力設計パラメータを修正し、修正後の入力設計パラメータに基づいて設計パラメータ候補を決定する実験計画装置による実験計画方法であって、
前記実験計画装置は、
第１入力設計パラメータを受け付ける入力処理と、
前記第１入力設計パラメータと前記設計パラメータ候補との距離に関する第１距離コストを算出する第１距離コスト算出処理と、
前記第１距離コスト算出処理によって算出された第１距離コストと、前記第１入力設計パラメータを前記推論モデルに入力した結果前記推論モデルから出力される第１コストと、を加算するコスト加算処理と、
前記コスト加算処理による加算結果に基づいて前記第１入力設計パラメータに誤差逆伝播することにより前記第１入力設計パラメータを修正する修正処理と、
前記修正処理による修正後の前記第１入力設計パラメータに基づいて第１設計パラメータ候補を決定する決定処理と、
を実行することを特徴とする実験計画方法。

【請求項15】

入力設定パラメータが入力される実験装置と、前記実験装置に関する入力設計パラメータを入力した場合に前記実験装置を評価する推論モデルに対し前記入力設計パラメータを入力した結果出力されるコストに基づいて、前記入力設計パラメータに誤差逆伝播することにより前記入力設計パラメータを修正し、修正後の入力設計パラメータに基づいて設計パラメータ候補を決定する実験計画装置と、を有する実験計画システムであって、
実験計画装置は、
前記実験装置に関する第１入力設計パラメータを受け付ける入力部と、
前記第１入力設計パラメータと前記設計パラメータ候補との距離に関する第１距離コストを算出する第１距離コスト算出部と、
前記第１距離コスト算出部によって算出された第１距離コストと、前記第１入力設計パラメータを前記推論モデルに入力した結果前記推論モデルから出力される第１コストと、を加算するコスト加算部と、
前記コスト加算部による加算結果に基づいて前記第１入力設計パラメータに誤差逆伝播することにより前記第１入力設計パラメータを修正する修正部と、
前記修正部による修正後の前記第１入力設計パラメータに基づいて、前記実験装置に入力させる第１設計パラメータ候補を決定する決定部と、
を有することを特徴とする実験計画システム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、実験装置による実験を計画する実験計画装置、実験計画方法および実験計画システムに関する。

【背景技術】

【0002】

ニューラルネットワークを用いた推論モデルが盛んに作られており、これらの推論モデルを活用して実験計画を行うことで、複雑な製品を低コストで設計することが可能と考えられる。この実験計画用途では、実験候補点は以下の要件（１）～（３）を満たす必要がある。

【0003】

（１）出力される候補点は、最終採用すべき一点のみの解だけではなく、実験すべき複数の候補解を出力する必要がある。
（２）複数の候補点同士は、実験上優位な差が期待される必要がある。ほぼ同じ条件や同じ結果の点ばかりで実験していたら意味のあるデータが得られない。
（３）候補点の持つ性質を、直観的に制御しやすい。

【0004】

また、ニューラルネットワークを用いた技術として下記特許文献１および２がある。下記特許文献１は、ニューラルネットワークの１または複数のノード間に情報要素を備えるニューラルネットワークを開示する。情報要素は、１または複数の第１入力ノードを有する第１入力部と、１または複数の第１出力ノードを有する第１出力部と、第１入力部および第１出力部の間に設けられ、入力側および出力側の接続に重み係数が設定される複数の第１隠れノードとを有し、第１入力部が受け取る第１入力データと、第１入力データに応じて第１出力部が出力する第１出力データとが一致し、重み係数は、ニューラルネットワークの学習とは関連のない伝達情報に基づく値を含む。

【0005】

下記特許文献２は、分散深層学習を高速に行う分散深層学習システムを開示する。この分散深層学習システムでは、各学習ノードは、学習対象のニューラルネットワークに学習データを入力した出力結果から損失関数の勾配を計算し、複数の勾配成分の値をパケット化してコンピューティングインタコネクト装置に送信する。コンピューティングインタコネクト装置は、各学習ノードから送信されたパケットに格納された複数の勾配成分の値を取得し、ニューラルネットワークの同一の構成パラメータに対する勾配成分の値を入力とする計算処理を、複数の勾配の成分の値各々について並列に行い、計算結果をパケット化して各学習ノードに送信する。各学習ノードは、コンピューティングインタコネクト装置から送信されたパケットに格納された値に基づいてニューラルネットワークの構成パラメータを更新する。

【先行技術文献】

【特許文献】

【0006】

【特許文献1】特開２０２０－０５２８１３号公報

【特許文献2】特開２０１９－１６８８９５号公報

【発明の概要】

【発明が解決しようとする課題】

【0007】

勾配降下法は、推論モデルの出力の偏微分により、所定の出力を実現するように入力を調整する。しかしながら、勾配降下法では、出力解が局所最適解の近傍に集中し、差異が小さく実験的に意味が薄い少数の候補解しか得られない。したがって、勾配降下法は、上記（１）および（２）を充足しない。

【0008】

また、ベイズ最適化は、候補解を１点出力するごとに、そこから離間した点を選択しやすいようにカーネル関数によりコストを増大させ、実験的に意味のある複数の候補解を得る手法である。しかしながら、ベイズ最適化の場合、ニューラルネットワークの推論モデルを最適化する制御が困難である。

【0009】

本発明は、複数の候補点の分散化を図ることを目的とする。

【課題を解決するための手段】

【0010】

本願において開示される発明の一側面となる管理装置、管理システム、および管理方法は、実験装置に関する入力設計パラメータを入力した場合に前記実験装置を評価する推論モデルに対し前記入力設計パラメータを入力した結果出力されるコストに基づいて、前記入力設計パラメータに誤差逆伝播することにより前記入力設計パラメータを修正し、修正後の入力設計パラメータに基づいて設計パラメータ候補を決定する実験計画装置であって、第１入力設計パラメータを受け付ける入力部と、前記第１入力設計パラメータと前記設計パラメータ候補との距離に関する第１距離コストを算出する第１距離コスト算出部と、前記第１距離コスト算出部によって算出された第１距離コストと、前記第１入力設計パラメータを前記推論モデルに入力した結果前記推論モデルから出力される第１コストと、を加算するコスト加算部と、前記コスト加算部による加算結果に基づいて前記第１入力設計パラメータに誤差逆伝播することにより前記第１入力設計パラメータを修正する修正部と、前記修正部による修正後の前記第１入力設計パラメータに基づいて第１設計パラメータ候補を決定する決定部と、を有することを特徴とする。

【発明の効果】

【0011】

本発明の代表的な実施の形態によれば、複数の候補点の分散化を図ることができる。前述した以外の課題、構成及び効果は、以下の実施例の説明により明らかにされる。

【図面の簡単な説明】

【0012】

【図1】図１は、実験計画システムのシステム構成例を示す説明図である。

【図2】図２は、コンピュータのハードウェア構成例を示すブロック図である。

【図3】図３は、実施例１にかかる実験計画装置の機能的なグラフ構造例を示すブロック図である。

【図4】図４は、実施例１にかかる勾配降下による候補点生成処理手順例を示すフローチャートである。

【図5】図５は、実施例１にかかる勾配降下による候補点生成例を示す説明図である。

【図6】図６は、実施例１にかかる勾配降下の推移を示すグラフである。

【図7】図７は、設計パラメータの修正例を示す説明図である。

【図8】図８は、実施例１にかかる距離コストノードの具体的な構造例を示す説明図である。

【図9】図９は、距離コストノードの追加例を示す説明図である。

【図10】図１０は、実施例２にかかる距離コストノードの追加例を示す説明図である。

【図11】図１１は、実施例３にかかる勾配降下による候補点生成例を示す説明図である。

【図12】図１２は、実施例３にかかる距離コストノードによる勾配の可視化例１を示す説明図である。

【図13】図１３は、実施例３にかかる距離コストノードによる勾配の可視化例２を示す説明図である。

【図14】図１４は、実施例３にかかる距離コストノードの一例を示す説明図である。

【図15】図１５は、実施例４にかかるグリッド探索例を示す説明図である。

【図16】図１６は、実施例４にかかる勾配降下による候補点生成処理手順例を示すフローチャートである。

【図17】図１７は、実施例５にかかる距離コストノードの一例を示す説明図である。

【図18】図１８は、実施例５にかかる距離コストノードによる勾配の可視化例を示す説明図である。

【図19】図１９は、実施例５にかかるグラフ構造例を示す説明図である。

【図20】図２０は、コスト調整層の一例を示す説明図である。

【図21】図２１は、コスト入出力関係を示すグラフの一例を示す説明図である。

【図22】図２２は、コスト調整層の他の例を示す説明図である。

【図23】図２３は、コスト入出力関係を示すグラフの他の例を示す説明図である。

【発明を実施するための形態】

【0013】

＜実験計画システム＞
図１は、実験計画システムのシステム構成例を示す説明図である。実験計画システム１００は、実験計画装置１０１と、学習装置１０２と、実験装置１０３と、を有する。実験計画装置１０１、学習装置１０２、および実験装置１０３は、インターネット、ＬＡＮ（Ｌｏｃａｌ Ａｒｅａ Ｎｅｔｗｏｒｋ）、ＷＡＮ（Ｗｉｄｅ Ａｒｅａ Ｎｅｔｗｏｒｋ）などのネットワーク１０４を介して相互に通信可能である。

【0014】

実験計画システム１００は、学習装置１０２によって作成された推論モデルを用いて、実験計画装置１０１が設計パラメータを設定可能な範囲でかつ候補点同士が互いに十分離間するようにサンプリングして、たとえば、実験装置１０３の製造ばらつきを抑制する実験条件を最適な設計パラメータとして、実験装置に提供するシステムである。

【0015】

学習装置は、実験装置の設計パラメータと目的変数とを学習データセットとして推論モデルを作成する。実験装置は、たとえば、半導体製造装置である。実験装置は、実験計画装置から得られたあらたな設計パラメータで実験を行い、実験結果を得る。そして、実験装置は、あらたな設計パラメータとその実験結果とを学習装置に出力する。学習装置は、あらたな設計パラメータとその実験結果とを学習データセットに追加して、推論モデルを再学習する。

【0016】

＜コンピュータ（実験計画装置および学習装置）のハードウェア構成＞
図２は、コンピュータのハードウェア構成例を示すブロック図である。コンピュータ２００は、プロセッサ２０１と、記憶デバイス２０２と、入力デバイス２０３と、出力デバイス２０４と、通信インターフェース（通信ＩＦ）２０５と、を有する。プロセッサ２０１、記憶デバイス２０２、入力デバイス２０３、出力デバイス２０４、および通信ＩＦ２０５は、バス２０６により接続される。プロセッサ２０１は、コンピュータ２００を制御する。記憶デバイス２０２は、プロセッサ２０１の作業エリアとなる。また、記憶デバイス２０２は、各種プログラムやデータを記憶する非一時的なまたは一時的な記録媒体である。記憶デバイス２０２としては、たとえば、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）、ＨＤＤ（Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）、フラッシュメモリがある。入力デバイス２０３は、データを入力する。入力デバイス２０３としては、たとえば、キーボード、マウス、タッチパネル、テンキー、スキャナ、マイクがある。出力デバイス２０４は、データを出力する。出力デバイス２０４としては、たとえば、ディスプレイ、プリンタ、スピーカがある。通信ＩＦ２０５は、ネットワーク１０４と接続し、データを送受信する。

【0017】

以下、上記実験計画システムを用いた実験計画例を実施例ごとに説明する。

【実施例0018】

実施例１は、勾配降下による候補点生成例１を示す。実験計画装置１０１において、後述するグラフ構造を構成する各ノードは、具体的には、たとえば、図２に示した記憶デバイス２０２に記憶されたプログラムをプロセッサ２０１に実行させることにより実現される。

【0019】

図３は、実施例１にかかる実験計画装置１０１の機能的なグラフ構造例を示すブロック図である。入力ノード３００は、設計パラメータｘ［ｉ］の入力を受け付ける。設計パラメータｘ［ｉ］は、設計パラメータｘｉ１，ｘｉ２，…，ｘｉｊ，…，ｘｉｎ（ｎは整数）の集合であり、推論モデル３０１および距離コストノード群３０２への入力ベクトルである。ｉは、実験計画装置１０１により探索したい候補点Ｐｉの番号を示すイタレーションである。初期値はｉ＝０である。

【0020】

設計パラメータｘ［ｉ］は、実験装置１０３への初期の入力ベクトルまたは設計パラメータｘ［ｉ－１］が勾配降下されたことにより修正された入力ベクトルである。ｊは、設計パラメータｘ［ｉ］内の要素ｘｉ１，ｘｉ２，…，ｘｉｊ，…，ｘｉｎを特定する番号である（軸ｊと称することもある）。

【0021】

推論モデル３０１は、実験装置１０３に関する出力を推論するニューラルネットワークであり、回帰でも識別でもよいが、推論結果を評価する評価値をコストＣ１ｉとして出力する。コストＣ１ｉは、たとえば、実験装置１０３に設計パラメータｘ［ｉ］を適用した場合の性能の悪さを示す指標値（値が高いほど性能が悪いことを示す。たとえば、故障率や値段。）である。実験計画装置１０１は、当該性能が良くなるように設計パラメータｘ［ｉ］を修正することになる。

【0022】

また、実験計画装置１０１が、未学習のニューラルネットワークを有し、学習装置１０２から推論モデル３０１を構成する学習パラメータ（重み、バイアス、ハイパーパラメータ）を取得して、未学習のニューラルネットワークに設定してもよい。なお、図３では、推論モデル３０１を１つとしたが複数でもよい。これにより、複数の推論モデル３０１に共通して適用可能な設計パラメータｘ［ｉ］を生成することができる。

【0023】

距離コストノード群３０２は、０個以上の距離コストノード３０２－１，３０２－２，…，３０２－ｉの集合である。距離コストノード３０２－ｉは、設計パラメータｘ［ｉ］から離間距離ｔｈｉ離れた設計パラメータ空間上の新たな位置での距離コストＣ２ｉを軸ｊごとに算出する。離間距離ｔｈｉ離すことにより、出力解が局所最適解の近傍に集中するのを抑制する。距離コストＣ２ｉは、設計パラメータｘｉｊについて算出された距離コストＣ２ｉｊの集合である。

【0024】

コスト加算ノード３０３は、設計パラメータｘ［ｉ］が推論モデル３０１および距離コストノード３０２－１～距離コストノード３０２－ｉに入力された場合の、推論モデル３０１からのコストＣ１ｉと、距離コストノード３０２－１～距離コストノード３０２－ｉまでの距離コストＣ２１～距離コストＣ２ｉと、を加算する。コスト加算ノード３０３は、加算結果であるコストＣ３ｉ（＝Ｃ１ｉ＋Ｃ２１＋…＋Ｃ２ｉ）を損失関数出力ノード３０４に出力する。

【0025】

損失関数出力ノード３０４は、コストＣ３ｉを入力して、コストＣ３ｉを微分して勾配降下することにより、設計パラメータｘ［ｉ］への誤差逆伝播による修正を繰り返す。コストＣ３ｉの微分値をΔＣ３ｉとする。具体的には、たとえば、損失関数出力ノード３０４は、この微分値ΔＣ３ｉが所定のしきい値（後述する図６の終了判定基準値）以下となるまで、修正後の設計パラメータｘ［ｉ］から得られたコストＣ３ｉによる勾配降下と当該修正後の設計パラメータｘ［ｉ］の修正とを繰り返す。

【0026】

図４は、実施例１にかかる勾配降下による候補点生成処理手順例を示すフローチャートである。図５は、実施例１にかかる勾配降下による候補点生成例を示す説明図である。図６は、実施例１にかかる勾配降下の推移を示すグラフである。図５では、説明を単純化するため、設計パラメータｘ［ｉ］を２つ（ｎ＝２）の設計パラメータｘｉ１，ｘｉ２とする。

【0027】

実験計画装置１０１は、入力初期化を実行する（ステップＳ４０１）。具体的には、たとえば、図５の（Ａ）に示したように、イタレーションｉにおいて入力初期化された設計パラメータｘ［ｉ］をｘｉｓと表記する。図５の（Ａ）では、ｉ＝０であるため、実験計画装置１０１は、設計パラメータｘｉｓ＝ｘ０ｓ＝｛ｘ０１、ｘ０２｝を設定する。ｉ＝０においては、距離コストノード３０２－ｉは１つも接続されていない。

【0028】

つぎに、実験計画装置１０１は、候補点出力条件を充足しているか否かを判断する（ステップＳ４０２）。候補点出力条件とは、コストＣ３ｉの微分による勾配降下により、ΔＣ３ｉが図６に示した勾配降下の終了判定基準値以下になること、または、イタレーションｉにおける勾配降下回数が所定回数（図６の例では７５回）に到達したことである。コストＣ３ｉの微分による勾配降下により候補点出力条件を充足したときの設計パラメータｘ［ｉ］を設計パラメータｘｉｅと表記する。

【0029】

ΔＣ３ｉが勾配降下の終了判定基準値以下になれば（ステップＳ４０２：Ｙｅｓ）、勾配降下によるコスト最小化が実現されたことになり、実験計画装置１０１は、その時の修正で得られた設計パラメータｘｉｅの位置を候補点Ｐｉに決定し、候補点出力リストに追加することになる（ステップＳ４０４）。

【0030】

また、ΔＣ３ｉが勾配降下の終了判定基準値以下でなくても、ステップＳ４０３の実行回数が所定回数以上になれば、ステップＳ４０３の実行回数を初期化し、実験計画装置１０１は、その時の修正で得られた設計パラメータｘ［ｉ］の位置を候補点Ｐｉに決定することになる（ステップＳ４０４）。実験計画装置１０１は、候補点出力条件を充足していなければ（ステップＳ４０２：Ｎｏ）、ステップＳ４０３を繰り返し実行する。

【0031】

ステップＳ４０２：Ｎｏの場合、実験計画装置１０１は、推論モデル３０１および距離コストノード３０２－１～３０２－ｉでのコスト計算と、コスト加算ノード３０３による加算と、に基づいて、勾配降下によるコスト最小化を実行する（ステップＳ４０３）。具体的には、たとえば、実験計画装置１０１は、設計パラメータｘｉｓを推論モデル３０１および距離コストノード３０２－１～３０２－ｉに入力し、推論モデル３０１から、出力となるコストＣ１ｉを取得するとともに、距離コストノード３０２－１から距離コストノード３０２－ｉまでの距離コストＣ２１～Ｃ２ｉを取得する。そして、実験計画装置１０１は、コスト加算ノード３０３によりコストＣ１ｉと距離コストＣ２１～Ｃ２ｉとを加算して、加算結果であるコストＣ３ｉを損失関数出力ノード３０４に出力する。

【0032】

ｉ＝０においては、実験計画装置１０１は、距離コストノード３０２－ｉは１つも接続されていないため、設計パラメータｘ０ｓを推論モデル３０１に入力し、推論モデル３０１から、出力となるコストＣ１０を取得し（ステップＳ４０３－０）、加算結果であるコストＣ３０（＝Ｃ１０）を損失関数出力ノード３０４に出力する。

【0033】

そして、損失関数出力ノード３０４は、コスト加算ノード３０３からのコストＣ３ｉが入力されると、勾配降下によるコスト最小化を実行する。具体的には、たとえば、損失関数出力ノード３０４は、コストＣ３ｉを微分して損失としてΔＣ３ｉを算出し、設計パラメータｘ［ｉ］を修正する。

【0034】

そして、実験計画装置１０１は、損失関数出力ノード３０４からのΔＣ３ｉが候補点出力条件を充足するか否かを判断する（ステップＳ４０２）。ΔＣ３ｉが候補点出力条件を充足した場合（ステップＳ４０２：Ｙｅｓ）、実験計画装置１０１は、その時の設計パラメータｘｉｅを候補点Ｐｉとして候補点出力リストを追加する（ステップＳ４０４）。ｉ＝０の場合、図５の（Ａ）に示すように、実験計画装置１０１は、その時の設計パラメータｘ０ｅを候補点Ｐ０として候補点出力リストに追加する（ステップＳ４０４－０）。

【0035】

そして、実験計画装置１０１は、イタレーションｉをインクリメントし（ステップＳ４０５）、候補点出力リストに登録された候補点数が所定数Ｎ（Ｎは１以上の整数。）を超えたか否か、すなわち、ｉがＮを超えたか否かを判断する（ステップＳ４０６）。

【0036】

候補点数が所定数Ｎを超えていない場合（ステップＳ４０６：Ｎｏ）、実験計画装置１０１は、ステップＳ４０４であらたに追加された候補点Ｐ（ｉ－１）を設計パラメータｘｉｓとして、設計パラメータｘｉｓに対する距離コストノード３０２－ｉを距離コストノード群３０２に追加してＲｅＬＵ場Ａｉを発生させ（ステップＳ４０７）、ステップＳ４０２に移行する。

【0037】

具体的には、たとえば、図５の（Ｂ）に示したように、実験計画装置１０１は、（Ａ）の候補点Ｐ０を設計パラメータｘ１ｓとし、ＲｅＬＵ場Ａ１を発生させる（ステップＳ４０７－１）。そして、ステップＳ４０２に移行する。

【0038】

ステップＳ４０２に戻ると、実験計画装置１０１は、設計パラメータｘ１ｓが候補点出力条件の充足判定を実行し（ステップＳ４０２）、充足していなければ（ステップＳ４０２：Ｎｏ）、図５の（Ｂ）および図６に示したように、勾配降下によるコスト最小化を実行する（ステップＳ４０３－１）。ｉ＝１においては、実験計画装置１０１は、設計パラメータｘ１ｓを推論モデル３０１および距離コストノード３０２－１に入力し、推論モデル３０１および距離コストノード３０２－１の各々から、出力となるコストＣ１１および距離コストＣ２１を取得する。

【0039】

実験計画装置１０１は、ｉ＝１においては、コスト加算ノード３０３により、加算結果であるコストＣ３１（＝Ｃ１１＋Ｃ２１）を損失関数出力ノード３０４に出力する。そして、損失関数出力ノード３０４は、コスト加算ノード３０３からのコストＣ３１が入力されると、勾配降下によるコスト最小化を実行する。具体的には、たとえば、損失関数出力ノード３０４は、コストＣ３１を微分して損失関数としてΔＣ３１を算出し、設計パラメータｘ［１］を修正する。

【0040】

そして、実験計画装置１０１は、損失関数出力ノード３０４からのΔＣ３ｉが候補点出力条件を充足するか否かを判断する（ステップＳ４０２）。ｉ＝１では、図６に示したように、勾配降下回数が所定回数に到達する前にΔＣ３１が勾配降下の終了判定基準値以下になる（ステップＳ４０２：Ｙｅｓ）。したがって、実験計画装置１０１は、図５の（Ｂ）に示すように、その時の設計パラメータｘ１ｅを候補点Ｐ１として候補点出力リストを追加する（ステップＳ４０４－１）。

【0041】

そして、実験計画装置１０１は、イタレーションｉをインクリメントし（ステップＳ４０５）、候補点出力リストに登録された候補点数が所定数Ｎを超えたか否か、すなわち、ｉがＮを超えたか否かを判断する（ステップＳ４０６）。

【0042】

候補点数が所定数Ｎを超えていない場合（ステップＳ４０６：Ｎｏ）、実験計画装置１０１は、ステップＳ４０４であらたに追加された候補点Ｐ１を設計パラメータｘ２ｓとして、設計パラメータｘ２ｓに対する距離コストノード３０２－２を距離コストノード群３０２に追加してＲｅＬＵ場Ａ２を発生させ（ステップＳ４０７－２）、ステップＳ４０２に移行する。

【0043】

ステップＳ４０２に戻ると、実験計画装置１０１は、設計パラメータｘ２ｓが候補点出力条件の充足判定を実行し（ステップＳ４０２）、充足していなければ（ステップＳ４０２：Ｎｏ）、図５の（Ｃ）および図６に示したように、勾配降下によるコスト最小化を実行する（ステップＳ４０３－２）。ｉ＝２においては、設計パラメータｘ２ｓを推論モデル３０１、距離コストノード３０２－１および距離コストノード３０２－２に入力し、推論モデル３０１、距離コストノード３０２－１および距離コストノード３０２－２の各々から、出力となるコストＣ１２および距離コストＣ２１，Ｃ２２を取得する。

【0044】

そして、実験計画装置１０１は、ｉ＝２においては、距離コストノード３０２－１，３０２－２が接続されているため、コスト加算ノード３０３により、加算結果であるコストＣ３２（Ｃ１２＋Ｃ２１＋Ｃ２２）を損失関数出力ノード３０４に出力する。そして、損失関数出力ノード３０４は、コスト加算ノード３０３からのコストＣ３１が入力されると、勾配降下によるコスト最小化を実行する。具体的には、たとえば、損失関数出力ノード３０４は、コストＣ３１を微分して損失関数としてΔＣ３２を算出し、設計パラメータｘ［２］を修正する。

【0045】

図７は、設計パラメータｘ［２］の修正例を示す説明図である。設計パラメータｘ［２］の修正量は、推論モデル３０１の勾配による修正力と、候補点Ｐ０からの修正力と、候補点Ｐ１からの修正力と、の合成により、ＲｅＬＵ場Ａ１，Ａ２を回避するように決定される。

【0046】

図４に戻り、実験計画装置１０１は、ΔＣ３ｉが候補点出力条件を充足するか否かを判断する（ステップＳ４０２）。ｉ＝２では、図６に示したように、勾配降下回数が所定回数に到達する前にΔＣ３２が勾配降下の終了判定基準値以下になる（ステップＳ４０２：Ｙｅｓ）。したがって、実験計画装置１０１は、図５の（Ｃ）に示すように、その時の設計パラメータｘ２ｅを候補点Ｐ２として候補点出力リストを追加する（ステップＳ４０４－２）。

【0047】

そして、実験計画装置１０１は、イタレーションｉをインクリメントし（ステップＳ４０５）、候補点出力リストに登録された候補点数が所定数Ｎを超えたか否か、すなわち、ｉがＮを超えたか否かを判断する（ステップＳ４０６）。

【0048】

ここで、候補点数が所定数Ｎを超えたとすると（ステップＳ４０６：Ｙｅｓ）、実験計画装置１０１は、勾配降下による候補点生成処理を終了する。

【0049】

このあと、実験計画装置１０１は、候補点Ｐ０～Ｐ２を含む候補点出力リストを実験装置１０３に送信する。実験装置１０３は、候補点Ｐ０～Ｐ２の各々をあらたな設計パラメータｘ［ｉ］として実験を行う。実験装置１０３は、当該あらたな設計パラメータｘ［ｉ］とその実験結果とを学習装置１０２に送信する。学習装置１０２は、あらたな設計パラメータｘ［ｉ］とその実験結果とを学習データセットに追加して、推論モデル３０１を再学習する。

【0050】

＜距離コストノードの具体的な構造例＞
図８は、実施例１にかかる距離コストノード３０２－ｉの具体的な構造例を示す説明図である。距離コストノード３０２－ｉにおいて、入力ノード３００には設計パラメータｘ［ｉ］として、（ｘｉ１，ｘｉ２，…，ｘｉｎ）が入力される。ｘｉ１，ｘｉ２，…，ｘｉｎを区別しない場合、単に設計パラメータｘｉと表記する。

【0051】

設計パラメータｘ［ｉ］は、ｎ個の軸で張られる設計パラメータ空間５００内のベクトルである。入力ノード３００は、設計パラメータｘ［ｉ］の入力を受け付けて、推論モデル３０１および距離コストノード３０２－ｉに出力する。推論モデル３０１は、推論結果であるコストＣ１ｉをコスト加算ノード３０３に出力する。

【0052】

距離コストノード３０２－ｉは、距離ノード８１０とコストノード８２０とを有する。距離ノード８１０は、１つ以上前のイタレーション（ｉ－ｋ）で生成された候補点Ｐ（ｉ－ｋ）（以降、Ｐａと表記する場合あり）であるイタレーションｉの設計パラメータｘｉｓと設計パラメータｘｉｓから開始された勾配降下後の設計パラメータｘ［ｉ］との距離を算出するノードであり、第１減算処理８１１と絶対値処理８１２とを実行する。ただし、ｋは１以上ｉ以下の整数である。第１減算処理８１１は、入力ノード３００の設計パラメータｘ［ｉ］を候補点Ｐａ（ａ１，ａ２，…，ａｎ）で減算し、第１減算結果８１１０を出力する処理である。

【0053】

絶対値処理８１２は、第１減算処理８１１の第１減算結果８１１０を絶対値ベクトル８１２０にする処理である。すなわち、距離ノード８１０は、設計パラメータｘ［ｉ］と候補点Ｐａとの差分の絶対値ベクトル８１２０、すなわち、設計パラメータｘ［ｉ］と候補点Ｐａとの間の距離を求める。

【0054】

コストノード８２０は、第２減算処理８２１と、ＲｅＬＵ活性化処理８２２と、重み付け処理８２３と、を実行する。第２減算処理８２１は、絶対値処理８１２の絶対値ベクトル８１２０の各軸ｊの要素について、離間距離ｔｈとの差分をとり、第２減算結果８２１０を出力する処理である。離間距離ｔｈは軸ｊごとに任意に設定可能なハイパーパラメータである。これにより、離間距離ｔｈ以上に離間された候補点Ｐｉのセットが取得される。この時点での出力は、離間が不十分な軸ｊに対して正であり、十分な軸ｊに対して負である。

【0055】

ＲｅＬＵ活性化処理８２２は、第２減算処理８２１からの第２減算結果８２１０を、ＲｅＬＵ関数に入力して活性化する。具体的には、たとえば、ＲｅＬＵ活性化処理８２２は、負の値（離間が十分な軸ｊの値）が入力されると、勾配０、正の値（離間が不十分な軸ｊの値）が入力されると勾配１となる出力を生成する。つまり、ＲｅＬＵ活性化処理８２２は、離間距離ｔｈが不十分な軸ｊに対して勾配を発生させ、候補点Ｐａから離間させるように入力にフィードバックする。

【0056】

重み付け処理８２３は、ＲｅＬＵ活性化処理８２２からの出力値の各々を適当な結合により重み付けし、コスト加算ノード３０３に出力する処理である。具体的には、たとえば、重み付け処理８２３は、ＲｅＬＵ活性化処理８２２からの出力値の集合から最小出力値を抽出してもよく、出力値の集合の和を算出してもよい。重み付け処理８２３は、結合時の重みを変更することにより、離間の優先度を調整することができる。

【0057】

ここで、コスト加算ノード３０３からの出力をＦ（ｘ）とすると、下記式（１），（２）により、損失関数出力ノード３０４は、設計パラメータｘ［ｉ］を修正する。なお、ηは学習率（０＜η≦１）であり、「←」は代入を表し、Ｌ（Ｆ（ｘ））は損失関数出力ノード３０４の出力である。損失関数は、一般には目標値との誤差について評価するが、Ｆ（ｘ）＞０となるように各ノードを設計していれば、目標値は常に０としてよい。つまり、実験計画装置１０１は関数Ｆ（ｘ）を単純に最小化させる動作を行う。

【0058】

ｄ｛Ｌ（Ｆ（ｘ）－０）｝／ｄｘ＝ｄＬ／ｄＦ×ｄＦ／ｄｘ・・・（１）
ｘ［ｉ］←ｘ［ｉ］－η×ｄＬ／ｄＦ×ｄＦ／ｄｘ・・・・・（２）

【0059】

なお、上記式（１），（２）による誤差逆伝播において、下記式（３）に示すように、重みづけ処理８２３に用いるＷを軸ｊごとに変化させることで、距離コストノード３０３の入力修正への寄与、つまり学習率ηを軸ｊごとに変化させることができる。なお、ｓｉｇｎ（ｘ）はｘが負の時に－１を、正の時に１を、０の時に０を返す関数である。Ｃ１ｉは推論モデルの出力値であり、重みＷに影響されない。

【0060】

ｄＦ（ｘ）／ｄｘｊ＝ｄＣ１ｉ／ｄｘｊ＋ｄＣ２ｉ／ｄｘｊ
＝ｄＣ１ｉ／ｄｘｊ－ｓｉｇｎ（ｘｊ－ａｊ）×Ｗｊ
（ただし、ｔｈｊ＜｜ｘｊ－ａｊ｜）・・・・（３）

【0061】

図９は、距離コストノード３０２－ｉの追加例を示す説明図である。図９では、図４に示したステップＳ４０４により新たな候補点Ｐ１が候補点出力リストに出力された場合に、当該候補点Ｐ１が設定される距離コストノード３０２－２を追加する例である。このようなグラフ構造の変更により、候補点Ｐ（ｉ―１）が追加される都度、距離コストノード３０２－ｉが接続される。

【0062】

なお、距離コストノード３０２－１が接続され、距離コストノード３０２－２が未接続状態、すなわち、候補点がＰ０のみである場合、距離コストノード３０２－１は、設計パラメータｘ［１］と候補点Ｐ０との入力により距離コストＣ２１を算出する。また、距離コストノード３０２－２が接続されると、距離コストノード３０２－１は、設計パラメータｘ［２］と候補点Ｐ０との入力により距離コストＣ２１を算出する。

【0063】

このように、ｉ－１番目までの距離コストノード３０２－（ｉ－１）は、距離コストノード３０２－ｉが追加される都度、入力される設計パラメータｘ［ｉ］が変わる。したがって、ｋ（ｋ＝１～ｉ）番目の距離コストノード３０２－ｋが、設計パラメータｘ［ｉ］と候補点Ｐ（ｋ－１）との入力により算出する距離コストＣ２ｋを、Ｃ２ｋ（ｉ，ｋ－１）と表記する。

【0064】

上記の例では、前者の距離コストＣ２１は、Ｃ２１（１，０）となり、後者の距離コストＣ２１は、Ｃ２１（２，０）となる。距離コストＣ２１（１，０）と距離コストＣ２１（２，０）とは異なる距離コストである。

【0065】

このように、実施例１によれば、離間距離ｔｈによって直観的に離間の程度を定めることができるため、実験的に使いやすい離散化された候補点Ｐｉ群を得ることができる。また、重み付け処理８２３において重みＷによって離間の優先度を決めることができる。単純に最小値や和を取ってもよく、その場合ハイパーパラメータが少なく使いやすい。また、距離コストの計算は単純な加減積算のみであるため、距離コストノード３０２－ｉにおいて勾配消失を生じず、勾配降下の収束に悪影響を与えない。また、離間が十分ならば、推論モデル３０１の最適化に影響を与えない。

【実施例0066】

つぎに、実施例２について説明する。実施例２では、実施例１との相違点を中心に説明するため、実施例１との共通部分については説明を省略する。実施例１では、候補点Ｐ（ｉ－１）が新たに出力されると、距離コストノード３０２－ｉが新たに追加された。実施例２では、実験計画装置１０１は、あらかじめ、グラフ構造において、複数の距離コストノード３０２－１，３０２－２，…，３０２－ｉを接続しておく。距離コストノード３０２－ｉの各々の候補点Ｐａの各値ｘａｊは、候補点Ｐａとして取りえない値ｉｎｆに設定しておく。すなわち、ｉｎｆは、距離コストノード３０２－ｉに入力されると、距離コストノード３０２－ｉが０を出力するような値である。

【0067】

そして、図４に示したステップＳ４０４により新たな候補点Ｐａが出力された場合に、実験計画装置１０１は、未選択の距離コストノード３０２－ｉを選択し、選択した距離コストノード３０２－ｉの候補点Ｐａの軸ｊごとの値ｉｎｆを、新たに出力された候補点Ｐａの値ａｊに置換する。

【0068】

図１０は、実施例２にかかる距離コストノード３０２－ｉの追加例を示す説明図である。説明を単純化するため、図１０では、あらかじめ用意された距離コストノード３０２－ｉの総数を３とするが、２または４以上でもよい。（Ａ）はグラフ構造の初期状態を示し、（Ｂ）は１個目の候補点Ｐ０の取得後のグラフ構造を示し、（Ｃ）は２個目の候補点Ｐ１の取得後のグラフ構造を示す。

【0069】

未選択の距離コストノード３０２－ｉに設定される候補点Ｐａの値ｉｎｆは、距離コストノード３０２－ｉのＲｅＬＵ関数に入力されると、勾配０を出力するような値である（ＲｅＬＵ（ｔｈ－｜ｉｎｆ－ｘ｜）＝０）。

【0070】

（Ａ）グラフ構造の初期状態において、実験計画装置１０１は、図４および図５（Ａ）に示したように、候補点出力条件を充足するまで（ステップＳ４０２：Ｎｏ）、勾配降下によるコスト最小化、すなわち、ΔＣ３０の算出と設計パラメータｘ［０］の修正とを繰り返す。このとき、推論モデル３０１はコストＣ１０をコスト加算ノード３０３に出力し、距離コストノード３０２－１～３０２－３は距離コストとして０を出力する。

【0071】

候補点出力条件を充足すると（ステップＳ４０２：Ｙｅｓ）、実験計画装置１０１は、図４および図５（Ａ）に示したように、候補点Ｐ０を候補点出力リストに追加する（ステップＳ４０４－０）。これにより、（Ｂ）に示すように、距離コストノード３０２－１に入力される値ｉｎｆは候補点Ｐ０の値ｘ０ｊに置換される。したがって、距離コストノード３０２－１は、設計パラメータｘ［１］が入力されると、距離コストＣ２１（１，０）を出力するようになる。

【0072】

（Ｂ）１個目の候補点Ｐ０取得後のグラフ構造において、実験計画装置１０１は、図４および図５（Ａ）に示したように、候補点出力条件を充足するまで（ステップＳ４０２：Ｎｏ）、勾配降下によるコスト最小化、すなわち、ΔＣ３１の算出と設計パラメータｘ［１］の修正とを繰り返す。このとき、推論モデル３０１はコストＣ１１をコスト加算ノード３０３に出力し、距離コストノード３０２－１は距離コストＣ２１（１，０）を出力し、距離コストノード３０２－２，３０２－３は距離コストとして０を出力する。

【0073】

候補点出力条件を充足すると（ステップＳ４０２：Ｙｅｓ）、実験計画装置１０１は、図４および図５（Ａ）に示したように、候補点Ｐ１を候補点出力リストに追加する（ステップＳ４０４－１）。これにより、（Ｃ）に示すように、距離コストノード３０２－２に入力される値ｉｎｆは候補点Ｐ１の値ｘ１ｊに置換される。したがって、距離コストノード３０２－２は、設計パラメータｘ［２］が入力されると、距離コストＣ２２（２，１）を出力するようになる。

【0074】

（Ｃ）２個目の候補点Ｐ１取得後のグラフ構造において、実験計画装置１０１は、図４および図５（Ａ）に示したように、候補点出力条件を充足するまで（ステップＳ４０２：Ｎｏ）、勾配降下によるコスト最小化、すなわち、ΔＣ３２の算出と設計パラメータｘ［２］の修正とを繰り返す。このとき、推論モデル３０１はコストＣ１２をコスト加算ノード３０３に出力し、距離コストノード３０２－１は距離コストＣ２１（２，１）を出力し、距離コストノード３０２－２は距離コストＣ２２（２，１）を出力し、距離コストノード３０２－３は距離コストとして０を出力する。

【0075】

候補点出力条件を充足すると（ステップＳ４０２：Ｙｅｓ）、実験計画装置１０１は、図４および図５（Ａ）に示したように、候補点Ｐ２を候補点出力リストに追加することになる（ステップＳ４０４－２）。

【0076】

このように、勾配降下による候補点Ｐａ生成前に、候補点Ｐａの値ｉｎｆが設定された複数の距離コストノード３０２－ｉを入力ノード３００およびコスト加算ノード３０３間に接続しておくことで、候補点Ｐａが追加される都度、候補点Ｐａの値ｉｎｆを書き換えるだけで、距離コストノード３０２－１～３０２－ｉでの演算を実行することができる。このように、実行開始時からグラフ構造が固定されるため、静的なグラフ構造となりスループットも向上する。