▶ 日本電気株式会社の特許一覧 ▶ 独立行政法人産業技術総合研究所の特許一覧
特開2022-119099情報処理装置、シミュレータシステム、ニューラルネットワークシステム、引数値決定方法およびプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022119099
(43)【公開日】2022-08-16
(54)【発明の名称】情報処理装置、シミュレータシステム、ニューラルネットワークシステム、引数値決定方法およびプログラム
(51)【国際特許分類】
G06N 99/00 20190101AFI20220808BHJP
G06N 7/00 20060101ALI20220808BHJP
G06N 3/02 20060101ALI20220808BHJP
【ＦＩ】
G06N99/00 180
G06N7/00 150
G06N3/02
【審査請求】未請求
【請求項の数】10
【出願形態】ＯＬ
(21)【出願番号】P 2021016101
(22)【出願日】2021-02-03
(71)【出願人】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(71)【出願人】
【識別番号】301021533
【氏名又は名称】国立研究開発法人産業技術総合研究所
(74)【代理人】
【識別番号】100106909
【弁理士】
【氏名又は名称】棚井 澄雄
(74)【代理人】
【識別番号】100134544
【弁理士】
【氏名又は名称】森 隆一郎
(74)【代理人】
【識別番号】100149548
【弁理士】
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100162868
【弁理士】
【氏名又は名称】伊藤 英輔
(72)【発明者】
【氏名】木佐森 慶一
(72)【発明者】
【氏名】小森 雄斗
(72)【発明者】
【氏名】鷲尾 隆
(72)【発明者】
【氏名】山崎 啓介
(57)【要約】
【課題】関数値が最大となる可能性がある引数値、または、関数値が最小となる可能性がある引数値を優先的に選択して関数値を観測できるようにする。
【解決手段】情報処理装置が、第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得する確率分布取得手段と、前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数の優先度を示す評価値を算出する第２関数を取得する関数取得手段と、前記評価関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定する引数値決定手段と、を備える。
【選択図】図１
【解決手段】情報処理装置が、第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得する確率分布取得手段と、前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数の優先度を示す評価値を算出する第２関数を取得する関数取得手段と、前記評価関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定する引数値決定手段と、を備える。
【選択図】図１
【特許請求の範囲】
【請求項1】
第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得する確率分布取得手段と、
前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数値に対する評価値を算出する第２関数を取得する関数取得手段と、
前記第２関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定する引数値決定手段と、
を備える情報処理装置。
前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数値に対する評価値を算出する第２関数を取得する関数取得手段と、
前記第２関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定する引数値決定手段と、
を備える情報処理装置。
【請求項2】
前記第２分布は、前記第１分布に基づく極値分布である、
請求項１に記載の情報処理装置。
請求項１に記載の情報処理装置。
【請求項3】
前記第２分布は、前記第１分布に基づくガンベル分布である、
請求項２に記載の情報処理装置。
請求項２に記載の情報処理装置。
【請求項4】
前記関数取得手段は、前記第２分布の累積分布関数を用いる前記第２関数を取得する、
請求項１から３の何れか一項に記載に情報処理装置。
請求項１から３の何れか一項に記載に情報処理装置。
【請求項5】
前記関数取得手段は、前記第１関数の大きさの指標値の、前記第２分布のもとでの期待値に基づく前記第２関数を取得する、
請求項１から３の何れか一項に記載の情報処理装置。
請求項１から３の何れか一項に記載の情報処理装置。
【請求項6】
前記関数取得手段は、前記ガンベル分布における平均を示す項と、前記ガンベル分布における分散を示す項とを含む前記第２関数を取得する、
請求項３に記載の情報処理装置。
請求項３に記載の情報処理装置。
【請求項7】
請求項１から６の何れか一項に記載の情報処理装置と、
シミュレータと、
前記情報処理装置を用いて前記シミュレータのパラメータ値を設定するパラメータ値設定手段と、
を備えるシミュレータシステム。
シミュレータと、
前記情報処理装置を用いて前記シミュレータのパラメータ値を設定するパラメータ値設定手段と、
を備えるシミュレータシステム。
【請求項8】
請求項１から６の何れか一項に記載の情報処理装置と、
ニューラルネットワークと、
前記情報処理装置を用いて前記ニューラルネットワークのパラメータ値を設定するパラメータ値設定手段と、
を備えるニューラルネットワークシステム。
ニューラルネットワークと、
前記情報処理装置を用いて前記ニューラルネットワークのパラメータ値を設定するパラメータ値設定手段と、
を備えるニューラルネットワークシステム。
【請求項9】
コンピュータが、
第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得し、
前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数の優先度を示す評価値を算出する第２関数を取得し、
前記第２関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定する、
ことを含む引数値決定方法。
第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得し、
前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数の優先度を示す評価値を算出する第２関数を取得し、
前記第２関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定する、
ことを含む引数値決定方法。
【請求項10】
コンピュータに、
第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得することと、
前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数の優先度を示す評価値を算出する第２関数を取得することと、
前記第２関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定することと、
を実行させるためのプログラム。
第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得することと、
前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数の優先度を示す評価値を算出する第２関数を取得することと、
前記第２関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定することと、
を実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、シミュレータシステム、ニューラルネットワークシステム、引数値決定方法およびプログラムに関する。
【背景技術】
【0002】
関数の形状について未知であり、関数の引数値を決定すればその引数値における関数値を観測可能だが観測にコストがかかる場合が考えられる。このような場合に、関数値がなるべく大きくなる引数値、または、関数値がなるべく小さくなる引数値を、効率よく探索することが求められることが考えられる。
例えば、特許文献１では、液体クロマトグラフ質量分析装置における印加電圧をパラメータとして、測定感度ができるだけ高くなるように、各パラメータの値を調整することが記載されている。また、特許文献１では、パラメータ探索手法の１つとしてベイズ最適化が記載されている。ベイズ最適化では、観測されたデータを用いて関数値の確率分布を推定し、推定結果に応じて次の観測点を決定する。そして、観測結果を用いて関数の確率分布を推定し直し、推定結果に応じて次の観測点を決定することを繰り返す。
例えば、特許文献１では、液体クロマトグラフ質量分析装置における印加電圧をパラメータとして、測定感度ができるだけ高くなるように、各パラメータの値を調整することが記載されている。また、特許文献１では、パラメータ探索手法の１つとしてベイズ最適化が記載されている。ベイズ最適化では、観測されたデータを用いて関数値の確率分布を推定し、推定結果に応じて次の観測点を決定する。そして、観測結果を用いて関数の確率分布を推定し直し、推定結果に応じて次の観測点を決定することを繰り返す。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】国際公開第２０１９／２４４４７４号
【発明の概要】
【発明が解決しようとする課題】
【0004】
ベイズ最適化のように関数値の確率分布が推定される場合に、関数値が最大となる可能性がある引数値、または、関数値が最小となる可能性がある引数値を優先的に選択して関数値を観測することができれば、関数値がなるべく大きくなる引数値、または、関数値がなるべく小さくなる引数値を、効率よく探索できる可能性がある。
【0005】
本発明の目的の一例は、上述の課題を解決することのできる情報処理装置、シミュレータシステム、ニューラルネットワークシステム、引数値決定方法およびプログラムを提供することである。
【課題を解決するための手段】
【0006】
本発明の第１の態様によれば、情報処理装置は、第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得する確率分布取得手段と、前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数値に対する評価値を算出する第２関数を取得する関数取得手段と、前記評価関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定する引数値決定手段と、を備える。
【0007】
本発明の第２の態様によれば、引数値決定方法は、コンピュータが、第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得し、前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数の優先度を示す評価値を算出する第２関数を取得し、前記評価関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定する、ことを含む。
【0008】
本発明の第３の態様によれば、プログラムは、コンピュータに、第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得することと、前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数の優先度を示す評価値を算出する第２関数を取得することと、前記評価関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定することと、を実行させるためのプログラムである。
【発明の効果】
【0009】
本発明によれば、関数値が最大となる可能性がある引数値、または、関数値が最小となる可能性がある引数値を優先的に選択して関数値を観測することができる。
【図面の簡単な説明】
【0010】
【図1】実施形態に係る観測システムの機能構成を示す概略ブロック図である。
【図2】実施形態に係る確率分布取得部が推定する目的関数の確率分布の例を示す図である。
【図3】実施形態に係る情報処理装置が目的関数の広域最適解を推定する処理手順の例を示すフローチャートである。
【図4】実施形態に係る評価関数の特性の例を示す図である。
【図5】フォレスタ関数の例を示す図である。
【図6】ＥＩを用いた場合のフォレスタ関数の最小値の推定結果の推移の例を示す図である。
【図7】実施形態に係るガンベルＥＩを用いた場合のフォレスタ関数の最小値の推定結果の推移の例を示す図である。
【図8】ＥＩおよびガンベルＥＩについてのフォレスタ関数の最小値の推定結果の例を示す図である。
【図9】ＵＣＢを用いた場合のフォレスタ関数の最小値の推定結果の推移の例を示す図である。
【図10】実施形態に係るガンベルＣＢを用いた場合のフォレスタ関数の最小値の推定結果の推移の例を示す図である。
【図11】ＵＣＢおよびガンベルＣＢについてのフォレスタ関数の最小値の推定結果の例を示す図である。
【図12】アルパイン関数の例を示す図である。
【図13】ＥＩを用いた場合のアルパイン関数の最小値の推定結果の推移の例を示す図である。
【図14】実施形態に係るガンベルＥＩを用いた場合のアルパイン関数の最小値の推定結果の推移の例を示す図である。
【図15】ＥＩおよびガンベルＥＩについてのアルパイン関数の最小値の推定結果の例を示す図である。
【図16】ＵＣＢを用いた場合のアルパイン関数の最小値の推定結果の推移の例を示す図である。
【図17】実施形態に係るガンベルＣＢを用いた場合のアルパイン関数の最小値の推定結果の推移の例を示す図である。
【図18】ＵＣＢおよびガンベルＣＢについてのアルパイン関数の最小値の推定結果の例を示す図である。
【図19】実施形態に係る情報処理装置の構成例を示す図である。
【図20】実施形態に係るシミュレータシステムの構成例を示す図である。
【図21】実施形態に係る混合比決定システムの構成例を示す図である。
【図22】実施形態に係るニューラルネットワークシステムの構成例を示す図である。
【図23】実施形態に係る引数値決定方法における処理手順の例を示すフローチャートである。
【図24】少なくとも１つの実施形態に係るコンピュータの構成を示す概略ブロック図である。
【発明を実施するための形態】
【0011】
以下、本発明の実施形態を説明するが、以下の実施形態は請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図１は、実施形態に係る観測システム１０の機能構成を示す概略ブロック図である。図１に示す構成で、観測システム１０は、情報処理装置１００と、観測対象２００とを備える。情報処理装置１００は、通信部１１０と、表示部１２０と、操作入力部１３０と、記憶部１８０と、制御部１９０とを備える。制御部１９０は、確率分布取得部１９１と、関数取得部１９２と、引数値決定部１９３と、関数値取得部１９４と、終了処理部１９５とを備える。
図１は、実施形態に係る観測システム１０の機能構成を示す概略ブロック図である。図１に示す構成で、観測システム１０は、情報処理装置１００と、観測対象２００とを備える。情報処理装置１００は、通信部１１０と、表示部１２０と、操作入力部１３０と、記憶部１８０と、制御部１９０とを備える。制御部１９０は、確率分布取得部１９１と、関数取得部１９２と、引数値決定部１９３と、関数値取得部１９４と、終了処理部１９５とを備える。
【0012】
観測システム１０は、観測対象２００に関する関数を観測して、その関数の値が最大値になる引数値、または、その関数の最大値を推定する。あるいは、観測システム１０が、観測対象２００に関する関数を観測して、その関数の値が最小値になる引数値、または、その関数の最小値を推定するようにしてもよい。
【0013】
ここでいう関数を観測することは、関数の引数値を設定し、その引数値の場合の関数値を取得することである。関数を観測することを、関数値をサンプリングするとも称する。観測によって得られる関数値にノイズが含まれていてもよい。
観測システム１０による観測対象となる、観測対象２００に関する関数を目的関数と称する。目的関数の値が最大値となる引数値と、目的関数の値が最小値となる引数値とを総称して、広域最適解とも表記する。目的関数の最大値と最小値とを総称して広域的極値とも表記する。
観測システム１０による観測対象となる、観測対象２００に関する関数を目的関数と称する。目的関数の値が最大値となる引数値と、目的関数の値が最小値となる引数値とを総称して、広域最適解とも表記する。目的関数の最大値と最小値とを総称して広域的極値とも表記する。
【0014】
目的関数は、観測可能、かつ、関数値を観測した引数値以外の引数値に対する関数値の確率分布を、観測結果に基づいて推定可能ないろいろな関数とすることができる。目的関数の引数は、スカラであってもよいし、ベクトルであってもよい。すなわち、目的関数が１変数関数であってもよいし、多変数関数であってもよい。観測対象２００は、目的関数が示されるいろいろなものとすることができる。
【0015】
目的関数の観測の対象となる引数値、および、観測で得られる関数値は、それぞれ、第１数値、および、第２数値の例に該当する。目的関数の引数値について上述したように、第１数値はスカラであってもよいしベクトルであってもよい。目的関数の観測結果における引数値と目的関数値との組み合わせは、第１数値と第２数値とが関連付けされているサンプルの例に該当する。
目的関数、または、目的関数にノイズが重畳された関数は、第１関数の例に該当する。
目的関数、または、目的関数にノイズが重畳された関数は、第１関数の例に該当する。
【0016】
例えば、観測対象２００が、パラメータを有するシステム、シミュレータ、または、装置であってもよい。そして、目的関数が、パラメータ値の入力を受けて観測対象２００の動作結果の評価値を出力する関数であってもよい。観測システム１０が、観測対象２００の動作結果に対する評価が最も高くなるパラメータ値を推定するようにしてもよい。
ここで、評価値を取得するために、実際に観測対象２００を動作させる必要がある場合など、目的関数の全体は不明だが、目的関数を観測できる場合が考えられる。
ここで、評価値を取得するために、実際に観測対象２００を動作させる必要がある場合など、目的関数の全体は不明だが、目的関数を観測できる場合が考えられる。
【0017】
そこで、観測システム１０が、目的関数の観測結果に基づいて、観測対象２００の動作結果の評価値が最大値になるパラメータ値を推定する。観測システム１０が、目的関数の観測を複数回行い、目的関数値が最も大きかった観測の際のパラメータ値を、推定結果のパラメータ値として出力するようにしてもよい。あるいは、観測システム１０が、目的関数の観測結果に基づいて目的関数を線形近似し、得られた近似式の値が最大になる引数値を、推定結果のパラメータ値として出力するようにしてもよい。
観測システム１０が取得するパラメータ値が、必ずしも実際に最適解であるとは限らないので、「推定する」と表記している。ここでの「最適解」は、観測対象２００の動作結果の評価値が最大値となるパラメータ値である。
観測システム１０が取得するパラメータ値が、必ずしも実際に最適解であるとは限らないので、「推定する」と表記している。ここでの「最適解」は、観測対象２００の動作結果の評価値が最大値となるパラメータ値である。
【0018】
情報処理装置１００は、観測システム１０について上述したように、目的関数を観測して、広域最適解、または、広域的極値を推定する。情報処理装置１００は、例えば、パソコン（Personal Computer；ＰＣ）またはワークステーション（Workstation；ＷＳ）など
のコンピュータを用いて構成されていてもよい。
のコンピュータを用いて構成されていてもよい。
【0019】
通信部１１０は、他の装置と通信を行う。例えば、通信部１１０が、パラメータ値を観測対象２００に送信することで、そのパラメータ値を観測対象２００に設定するようにしてもよい。さらに例えば、通信部１１０が、目的関数の観測のためのパラメータ値を観測対象２００に送信するようにしてもよい。また、通信部１１０が、情報処理装置１００が広域最適解として推定したパラメータ値を観測対象２００に送信するようにしてもよい。
また、通信部１１０が、観測対象２００に設けられたセンサから、目的関数値として用いられるセンサ測定データ、または、目的関数値を算出するためのセンサ測定データを受信するようにしてもよい。
また、通信部１１０が、観測対象２００に設けられたセンサから、目的関数値として用いられるセンサ測定データ、または、目的関数値を算出するためのセンサ測定データを受信するようにしてもよい。
【0020】
表示部１２０は、例えば液晶パネルまたはＬＥＤ（Light Emitting Diode、発光ダイオード）パネル等の表示画面を有し、各種画像を表示する。例えば、表示部１２０が、目的関数の値の確率分布、および、目的関数の観測結果の引数値および関数値の座標をグラフに表示するなど、目的関数の観測状況を表示するようしてもよい。また、表示部１２０が、広域最適解または広域的極値の推定結果を表示するようにしてもよい。
【0021】
また、情報処理装置１００が算出する引数値が、人手による観測対象２００に対する設定量を示す場合、表示部１２０が引数値を表示するようにしてもよい。例えば観測対象２００が、ある物の生産装置であり、目的関数の引数値が観測対象２００に人手で投入すべき各材料の量を示す場合、表示部１２０が、各材料の量を表示するようにしてもよい。ユーザが、表示部１２０が表示する引数値を参照して、観測対象２００に対する設定を行うようにしてもよい。
【0022】
操作入力部１３０は、例えばキーボードおよびマウス等の入力デバイスを有し、ユーザ操作を受け付ける。例えば、操作入力部１３０が、情報処理装置１００に対して広域最適解推定処理の開始を指示するユーザ操作を受け付けるようにしてもよい。
【0023】
記憶部１８０は、各種データを記憶する。例えば、記憶部１８０は、目的関数の観測結果の履歴情報を記憶する。記憶部１８０は、情報処理装置１００が備える記憶デバイスを用いて構成される。
制御部１９０は、情報処理装置１００の各部を制御して、各種処理を行う。制御部１９０の機能は、例えば情報処理装置１００が備えるＣＰＵ（Central Processing Unit、中央処理装置）が、記憶部１８０からプログラムを読み出して実行することで実行される。
制御部１９０は、情報処理装置１００の各部を制御して、各種処理を行う。制御部１９０の機能は、例えば情報処理装置１００が備えるＣＰＵ（Central Processing Unit、中央処理装置）が、記憶部１８０からプログラムを読み出して実行することで実行される。
【0024】
確率分布取得部１９１は、目的関数の観測結果に基づいて、目的関数の確率分布を推定する。関数の確率分布は、引数値ごとの、その引数値における関数値の確率分布である。
確率分布取得部１９１は、確率分布取得手段の例に該当する。確率分布取得部１９１が取得する目的関数の確率分布は、第１分布の例に該当する。
確率分布取得部１９１が、ガウス過程回帰（Gaussian Process Regression）によって目的関数の確率分布を推定するようにしてもよい。
確率分布取得部１９１は、確率分布取得手段の例に該当する。確率分布取得部１９１が取得する目的関数の確率分布は、第１分布の例に該当する。
確率分布取得部１９１が、ガウス過程回帰（Gaussian Process Regression）によって目的関数の確率分布を推定するようにしてもよい。
【0025】
図２は、確率分布取得部１９１が推定する目的関数の確率分布の例を示す図である。図２のグラフの横軸は目的関数の引数値を示し、縦軸は目的関数値を示す。引数値をｘで表し、目的関数値をｙで表している。
線Ｌ１１１は、真の目的関数を示す。ただし、確率分布取得部１９１にとって、真の目的関数は不明である。
線Ｌ１１１は、真の目的関数を示す。ただし、確率分布取得部１９１にとって、真の目的関数は不明である。
【0026】
点Ｐ１１、Ｐ１２は、それぞれ目的関数の測定結果を示す。図２の例では、確率分布取得部１９１は、点Ｐ１１およびＰ１２で例示される測定結果に基づいて、目的関数の確率分布を推定する。上述したように、目的関数の推定結果にノイズが含まれていてもよい。したがって、観測結果が真の目的関数からずれていてもよい。
【0027】
線Ｌ１１２は、確率分布取得部１９１が推定する確率分布における平均の例を示す。領域Ａ１１は、確率分布取得部１９１が推定する確率分布における９５パーセント信頼区間の例を示す。
確率分布取得部１９１が、目的関数の平均および分散を、それぞれ、目的関数の引数を引数とする関数として算出することで、目的関数の確率分布を推定するようにしてもよい。
確率分布取得部１９１が、目的関数の平均および分散を、それぞれ、目的関数の引数を引数とする関数として算出することで、目的関数の確率分布を推定するようにしてもよい。
【0028】
関数取得部１９２は、目的関数の観測対象の引数値を決定するための関数を取得する。具体的には、関数取得部１９２は、目的関数の引数値の入力を受けて、その引数値に対する評価値を出力する関数を取得する。ここでの引数値に対する評価値は、その引数値について目的関数の観測を行うことの優先度を示す評価値である。関数取得部１９２が取得する関数を、評価関数とも称する。この評価関数は、第２関数の例に該当する。関数取得部１９２は、関数取得手段の例に該当する。
目的関数の観測対象の引数値を、目的関数の観測点、あるいは単に観測点とも称する。
目的関数の観測対象の引数値を、目的関数の観測点、あるいは単に観測点とも称する。
【0029】
情報処理装置１００が、ベイズ最適化（Bayesian Optimization）によって広域最適解を推定するようにしてもよい。
ベイズ最適化は、関数の最大値または最小値を推定する方法の１つである。ここでは、ベイズ最適化で最大値または最小値の推定対象となる関数を目的関数と称する。
ベイズ最適化は、関数の最大値または最小値を推定する方法の１つである。ここでは、ベイズ最適化で最大値または最小値の推定対象となる関数を目的関数と称する。
【0030】
ベイズ最適化では、目的関数の観測結果にガウス過程回帰を適用して目的関数の確率分布を推定し、推定結果に基づいて、獲得関数（Acquisition Function）と呼ばれる関数を設定する。そして、ベイズ最適化では、獲得関数の値が最大となる引数値について目的関数の値を観測し、観測結果に基づいて目的関数の確率分布を推定し直し、獲得関数を更新する。ベイズ最適化では、このようにして目的関数の観測を繰り返して、目的関数の最大値または最小値を推定する。
情報処理装置１００が、ベイズ最適化によって広域最適解を推定する場合、関数取得部１９２が算出する評価関数は、獲得関数に該当する。
情報処理装置１００が、ベイズ最適化によって広域最適解を推定する場合、関数取得部１９２が算出する評価関数は、獲得関数に該当する。
【0031】
ベイズ最適化における獲得関数として、ＰＩ（Probability Inprovement）、ＥＩ（Expected Improvement）、および、ＵＣＢ（Upper Cofidential Bound）などが提案されている。
獲得関数ＰＩは、式（１）のように示される。
獲得関数ＰＩは、式（１）のように示される。
【0032】
【数1】
【0033】
ここでは、獲得関数ＰＩを、式（１）の左辺のようにαＰＩ（・）と表記する。
上記のように、目的関数の観測ごとに獲得関数が更新されることから、観測を行った回数で時刻を表すことにする。「ｘｔ」は、時刻ｔにおいて求められる引数値を示す。したがって「ｘｔ」は、ｔ＋１回目の観測で目的関数を観測すべき引数値を示す。
ｆ（・）は、目的関数を示す。ｆ（ｘｔ）は、ｔ＋１回目の観測で得られる目的関数値を示す。ここでは、観測で得られる目的関数値にノイズが重畳されないことを想定している。
上記のように、目的関数の観測ごとに獲得関数が更新されることから、観測を行った回数で時刻を表すことにする。「ｘｔ」は、時刻ｔにおいて求められる引数値を示す。したがって「ｘｔ」は、ｔ＋１回目の観測で目的関数を観測すべき引数値を示す。
ｆ（・）は、目的関数を示す。ｆ（ｘｔ）は、ｔ＋１回目の観測で得られる目的関数値を示す。ここでは、観測で得られる目的関数値にノイズが重畳されないことを想定している。
【0034】
ｙｂは、これまでの観測での目的関数の最適値を示す。ここでは、目的関数の最大値を推定する場合の例を示しており、ｙｂは、観測された目的関数値のうちの最大値を示す。このｙｂは、その時点（時刻ｔ）における目的関数の最大値の推定値として用いられる。
Ｐｒ｛・｝は、波括弧（｛｝）内の事象が生じる確率を示す。Ｐｒ｛ｆ（ｘｔ）－ｙｂ≧０｝は、ｆ（ｘｔ）－ｙｂ≧０となる確率を示す。したがって、ＰＩを用いたベイズ最適化では、次に目的関数を観測すべき引数値として、その観測で目的関数の最大値の推定値が改善される確率が最も高い引数値を選択する。
獲得関数ＰＩは、具体的には式（２）のように示される。
Ｐｒ｛・｝は、波括弧（｛｝）内の事象が生じる確率を示す。Ｐｒ｛ｆ（ｘｔ）－ｙｂ≧０｝は、ｆ（ｘｔ）－ｙｂ≧０となる確率を示す。したがって、ＰＩを用いたベイズ最適化では、次に目的関数を観測すべき引数値として、その観測で目的関数の最大値の推定値が改善される確率が最も高い引数値を選択する。
獲得関数ＰＩは、具体的には式（２）のように示される。
【0035】
【数2】
【0036】
Ｆ０，１（・）は、標準正規分布の累積分布関数（Cumulative Distribution Function、ＣＤＦ）を示す。
ｒ（・）は、式（３）のように示される。
ｒ（・）は、式（３）のように示される。
【0037】
【数3】
【0038】
μｔ（ｘ）は、時刻ｔにおける目的関数の推定値の確率分布の平均を示す関数である。σｔ（ｘ）は、時刻ｔにおける目的関数の推定値の確率分布の標準偏差を示す関数である。
【0039】
獲得関数ＥＩは、式（４）のように示される。
【0040】
【数4】
【0041】
ここでは、獲得関数ＥＩを、式（４）の左辺のようにαＥＩ（・）と表記する。
Ｅは、下付文字で示される条件下における期待値を示す。μｔ、σｔは、それぞれ、時刻ｔにおける目的関数の推定値の確率分布の平均、標準偏差を示し、Ｎ（μｔ，σｔ）は、時刻ｔにおける目的関数の推定値の確率分布としての正規分布を示す。ｍａｘ（・）は、引数のうち最大値を出力する関数である。したがって、式（４）の右辺は、次の観測での目的関数の最大値の推定値の改善幅の期待値を示す。
したがって、ＥＩを用いたベイズ最適化では、次に目的関数を観測すべき引数値として、その観測での目的関数の最大値の推定値の改善幅の期待値が最も大きい引数値を選択する。
獲得関数ＥＩは、具体的には式（５）のように示される。
Ｅは、下付文字で示される条件下における期待値を示す。μｔ、σｔは、それぞれ、時刻ｔにおける目的関数の推定値の確率分布の平均、標準偏差を示し、Ｎ（μｔ，σｔ）は、時刻ｔにおける目的関数の推定値の確率分布としての正規分布を示す。ｍａｘ（・）は、引数のうち最大値を出力する関数である。したがって、式（４）の右辺は、次の観測での目的関数の最大値の推定値の改善幅の期待値を示す。
したがって、ＥＩを用いたベイズ最適化では、次に目的関数を観測すべき引数値として、その観測での目的関数の最大値の推定値の改善幅の期待値が最も大きい引数値を選択する。
獲得関数ＥＩは、具体的には式（５）のように示される。
【0042】
【数5】
【0043】
φ（・）は、式（６）のように示される。
【0044】
【数6】
【0045】
Ｎ（０，１）は、標準正規分布を示す。
【0046】
獲得関数ＵＣＢは、式（７）のように示される。
【0047】
【数7】
【0048】
ｋＵＣＢは、目的関数の推定値の確率分布の平均μｔ－１（ｘ）と標準偏差σｔ－１（ｘ）との比重を調整する係数である。
領域Ｄが有限領域の場合、係数ｋＵＣＢを式（８）のように設定してもよい。
領域Ｄが有限領域の場合、係数ｋＵＣＢを式（８）のように設定してもよい。
【0049】
【数8】
【0050】
ｌｎは、自然対数を示す。
｜Ｄ｜は、領域Ｄの大きさを示す。
πは、円周率を示す。
δは、０＜δ＜１の定数を示す。
｜Ｄ｜は、領域Ｄの大きさを示す。
πは、円周率を示す。
δは、０＜δ＜１の定数を示す。
【0051】
ｄを正の整数として、領域Ｄが、ｄ次元の領域［０，ｒ］ｄの部分領域であるコンパクトな領域である場合、係数ｋＵＣＢを式（９）のように設定してもよい。
【0052】
【数9】
【0053】
ａは、ａ＞０の定数である。ｂは、ｂ＞０の定数である。
【0054】
上記のＰＩ、ＥＩ、ＵＣＢの何れも、目的関数の確率分布を示す正規分布に基づく。例えば、ＰＩは、式（２）に示されるように、標準正規分布の累積分布関数Ｆ０，１（・）に基づく。ＥＩは、式（５）および式（６）に示されるように、標準正規分布を示すφ（・）に基づく。ＵＣＢは、式（７）に示されるように、正規分布の標準偏差σｔ－１（・）に基づく。
【0055】
これに対して、関数取得部１９２は、上記の評価関数として、目的関数の確率分布における引数ごとの平均とは異なる平均を有する分布に基づく評価関数を取得する。
関数取得部１９２が、このような分布を用いた評価関数を取得することで、情報処理装置１００は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。
関数取得部１９２が、このような分布を用いた評価関数を取得することで、情報処理装置１００は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。
【0056】
関数取得部１９２が、目的関数の確率分布に基づく極値分布（Extreme Value Distribution）に基づく評価関数を取得するようにしてもよい。極値分布は、独立同分布（Independently Identically Distributed; i.i.d）に従う所定個のサンプルのうち、所定の条件以上に大きいサンプルの分布、または、所定の条件以上に小さいサンプルの分布である。
【0057】
極値分布のうち、所定の条件以上に大きいサンプルの分布は、極大値分布とも呼ばれる。極値分布のうち、所定の条件以上に小さいサンプルの分布は、極小値分布とも呼ばれる。情報処理装置１００が、目的関数の最大値を推定する場合、極大値分布に基づく評価関数を用いるようにしてもよい。情報処理装置１００が、目的関数の最小値を推定する場合、極小値分布に基づく評価関数を用いるようにしてもよい。
極大値分布の累積分布関数は、式（１０）のように示される。
極大値分布の累積分布関数は、式（１０）のように示される。
【0058】
【数10】
【0059】
μ、θ、γは何れも実数のパラメータであり、θ＞０である。また、１＋γ（ｘ－μ）／θ＞０である。「／」は、割り算を表す演算子である。
極小値分布の累積分布関数は、１－Ｆ（－ｘ）と表される。
極小値分布の累積分布関数は、１－Ｆ（－ｘ）と表される。
【0060】
関数取得部１９２が、目的関数の確率分布に基づくガンベル分布（Gumbel Distribution）に基づく評価関数を取得するようにしてもよい。ガンベル分布は、独立同分布に従う所定個のサンプルのうち、最大のサンプルの分布、または、最小のサンプルの分布である。ガンベル分布は、極値分布の一種である。以降、ガンベル分布を例として説明を行うが、評価関数を取得する処理は、ガンベル分布や、極値分布を用いる処理に限定されない。評価関数を取得する処理は、たとえば、Ｎ（ただし、Ｎ≧４）個のサンプルのうち２番目に大きなサンプルの分布、または、Ｍ（ただし、Ｍ≧６）個のサンプルのうち３番目に大きなサンプルの分布等を用いる処理であってもよい。言い換えると、評価関数を取得する処理は、サンプルの分布における平均と、抽出したサンプルにおける平均とが異なるような分布を用いる処理であればよい。
ｍ個のサンプル｛ｙ１，・・・，ｙｍ｝が、正規分布Ｎ（μ，σ）から生成される独立同分布のサンプルであるとし、これらのサンプルのうちの最大値をｙ＋と表記する。この場合、ガンベル分布における累積分布関数ＦＧ（ｙ＋）は、式（１１）のように示される。
ｍ個のサンプル｛ｙ１，・・・，ｙｍ｝が、正規分布Ｎ（μ，σ）から生成される独立同分布のサンプルであるとし、これらのサンプルのうちの最大値をｙ＋と表記する。この場合、ガンベル分布における累積分布関数ＦＧ（ｙ＋）は、式（１１）のように示される。
【0061】
【数11】
【0062】
ｅｘｐは、底がネイピア数ｅの指数関数、すなわちｅのべき乗を示す。
μＧは、ガンベル分布における平均であり、式（１２）のように示される。
μＧは、ガンベル分布における平均であり、式（１２）のように示される。
【0063】
【数12】
【0064】
Ｆμ，σ
－１（・）は、平均がμであり標準偏差がσである正規分布における分位点関数（Quantile Function）を示す。
σＧは、ガンベル分布における標準偏差であり、式（１３）のように示される。
σＧは、ガンベル分布における標準偏差であり、式（１３）のように示される。
【0065】
【数13】
【0066】
ｅは、ネイピア数を示す。
μＧ（ｘ）は、式（１２）に示される平均μＧを示す。
ガンベル分布における確率密度関数は、式（１４）のように示される。
μＧ（ｘ）は、式（１２）に示される平均μＧを示す。
ガンベル分布における確率密度関数は、式（１４）のように示される。
【0067】
【数14】
【0068】
関数取得部１９２が、式（１５）を用いて評価関数を算出するようにしてもよい。
【0069】
【数15】
【0070】
式（１５）では、ガンベル分布における平均μＧおよび標準偏差σＧを、ｘｔの関数として扱う。
式（１５）の右辺のｙｂに、その時点までの目的関数の観測における目的関数値の最大値を代入することで、評価関数が得られる。この評価関数を、ガンベルＰＩとも称する。
式（１５）の右辺のｙｂに、その時点までの目的関数の観測における目的関数値の最大値を代入することで、評価関数が得られる。この評価関数を、ガンベルＰＩとも称する。
【0071】
また、式（４）の右辺の正規分布Ｎ（μｔ，σｔ）を、式（１４）に示されるガンベル分布の確率密度関数ｆＧ（ｙ＋）に置き換えると、式（１６）に示される関数αＧＥＩ（ｘｔ）を得られる。
【0072】
【数16】
【0073】
式（１６）のｆＧは、ｆＧ（ｙ＋）を示す。
αＧＥＩ（ｘｔ）は、式（１７）のように示される。
αＧＥＩ（ｘｔ）は、式（１７）のように示される。
【0074】
【数17】
【0075】
γは、オイラー・マスケローニ定数（Euler-Mascheroni constant）を示す。
ｓｂは、式（１８）のように示される。
ｓｂは、式（１８）のように示される。
【0076】
【数18】
【0077】
Ｅ１（・）は、式（１９）のように示される。
【0078】
【数19】
【0079】
関数取得部１９２が、式（１７）から（１９）を用いて評価関数を算出するようにしてもよい。式（１７）および（１８）のｙｂに、その時点までの目的関数の観測における目的関数値の最大値を代入することで、評価関数が得られる。この評価関数を、ガンベルＥＩとも称する。
【0080】
関数取得部１９２が、式（２０）を用いて評価関数を算出するようにしてもよい。
【0081】
【数20】
【0082】
上記のように、δは、０＜δ＜１の定数を示す。
式（２０）に基づく評価関数を、ガンベルＣＢとも称する。
式（２０）に基づく評価関数を、ガンベルＣＢとも称する。
【0083】
引数値決定部１９３は、関数取得部１９２が算出する評価関数を用いて、次の観測点を決定する。次の観測点は、次に目的関数の観測を行うべき引数値である。
具体的には、引数値決定部１９３は、関数取得部１９２が算出する評価関数が最大になる引数値を、次の観測点に決定する。
引数値決定部１９３は、引数値決定手段の例に該当する。
具体的には、引数値決定部１９３は、関数取得部１９２が算出する評価関数が最大になる引数値を、次の観測点に決定する。
引数値決定部１９３は、引数値決定手段の例に該当する。
【0084】
関数値取得部１９４は、引数値決定部１９３が決定した観測点について目的関数を観測して目的関数値を取得する。例えば、関数値取得部１９４は、引数値決定部１９３が決定した引数値を、通信部１１０を介して観測対象２００に送信することで、この引数値を観測対象２００に設定する。そして、引数値決定部１９３は、観測対象２００に設定した引数値の場合の目的関数値に該当するセンサ測定データを、通信部１１０を介して観測対象２００から受信する。
【0085】
終了処理部１９５は、情報処理装置１００による広域最適解の推定の終了時の処理を行う。例えば、終了処理部１９５は、目的関数の観測の終了条件が成立しているか否かを判定する。終了条件が成立していると判定した場合、終了処理部１９５は、目的関数値の推定結果を出力する。
【0086】
図３は、情報処理装置１００が目的関数の広域最適解を推定する処理手順の例を示すフローチャートである。情報処理装置１００は、例えば、広域最適解の推定を指示するユーザ操作を操作入力部１３０が受け付けると、図３の処理を開始する。
図３の処理で、確率分布取得部１９１は、目的関数の確率分布の初期値を設定する（ステップＳ１０１）。例えば、関数値取得部１９４が、予め定められた引数値について目的関数を観測し、確率分布取得部１９１が、観測結果に基づいて目的関数の確率分布を推定するようにしてもよい。あるいは、確率分布取得部１９１が、目的関数の確率分布の初期値として、予め定められた確率分布を設定するようにしてもよい。
図３の処理で、確率分布取得部１９１は、目的関数の確率分布の初期値を設定する（ステップＳ１０１）。例えば、関数値取得部１９４が、予め定められた引数値について目的関数を観測し、確率分布取得部１９１が、観測結果に基づいて目的関数の確率分布を推定するようにしてもよい。あるいは、確率分布取得部１９１が、目的関数の確率分布の初期値として、予め定められた確率分布を設定するようにしてもよい。
【0087】
次に、関数取得部１９２は、評価関数を算出する（ステップＳ１０２）。例えば、関数取得部１９２が、評価関数のテンプレートに、その時点での観測結果のうち目的関数値の最大値など、観測結果を代入して評価関数を算出するようにしてもよい。
次に、引数値決定部１９３は、関数取得部１９２が算出した評価関数を用いて、次の観測点を算出する（ステップＳ１０３）。例えば、引数値決定部１９３は、評価関数が最大になる引数値を、次の観測点として算出する。
次に、引数値決定部１９３は、関数取得部１９２が算出した評価関数を用いて、次の観測点を算出する（ステップＳ１０３）。例えば、引数値決定部１９３は、評価関数が最大になる引数値を、次の観測点として算出する。
【0088】
次に、関数値取得部１９４は、引数値決定部１９３が算出した観測点について目的関数を観測し、観測結果の目的関数値を取得する（ステップＳ１０４）。
次に、終了処理部１９５は、観測の繰り返しの終了条件が成立しているか否かを判定する（ステップＳ１０５）。観測の繰り返しの終了条件は、特定の条件に限定されない。例えば、観測の繰り返しの終了条件は、観測が所定回数行われたことであってもよい。
次に、終了処理部１９５は、観測の繰り返しの終了条件が成立しているか否かを判定する（ステップＳ１０５）。観測の繰り返しの終了条件は、特定の条件に限定されない。例えば、観測の繰り返しの終了条件は、観測が所定回数行われたことであってもよい。
【0089】
あるいは、観測の繰り返しの終了条件は、観測の繰り返しによる広域的極値の推定値の変化の大きさ（絶対値）が所定の大きさよりも小さいことであってもよい。情報処理装置１００が、目的関数が最大値をとる引数値を推定する場合、観測の繰り返しの終了条件は、「観測された目的関数値の最大値が、前回の観測から増加しないことが、所定回数以上連続して生じること」であってもよい。情報処理装置１００が、目的関数が最小値をとる引数値を推定する場合、観測の繰り返しの終了条件は、「観測された目的関数値の最小値が、前回の観測から減少しないことが、所定回数以上連続して生じること」であってもよい。
【0090】
終了条件が成立していないと終了処理部１９５が判定した場合（ステップＳ１０５：ＮＯ）、確率分布取得部１９１は、目的関数の観測結果の履歴に基づいて、目的関数の確率分布を推定する（ステップＳ１０６）。この場合、確率分布取得部１９１は、目的関数の確率分布を更新する。
ステップＳ１０６の後、処理がステップＳ１０２へ遷移する。
ステップＳ１０６の後、処理がステップＳ１０２へ遷移する。
【0091】
一方、終了条件が成立していないと終了処理部１９５が判定した場合（ステップＳ１０５：ＹＥＳ）、情報処理装置１００は、図３の処理を終了する。この場合、終了処理部１９５が、目的関数値の広域最適解の推定値を出力するようにしてもよい。例えば、終了処理部１９５が、目的関数値の広域最適解の推定値を、表示部１２０に表示させるようにしてもよい。あるいは、終了処理部１９５が、目的関数値の広域最適解の推定値を、通信部１１０を介して観測対象２００に送信するようにしてもよい。
【0092】
図４は、評価関数の特性の例を示す図である。図４のグラフの横軸は、目的関数の広域的極値の推定値の改善度合いの指標値を示す。縦軸は、目的関数の観測が探索的か活用的かの指標値を示す。図４は、情報処理装置１００が、目的関数の最小値を推定する場合について解析の例を示している。
【0093】
線Ｌ２１１は、ガンベルＰＩの解析結果の例を示す。線Ｌ２１２は、ガンベルＥＩの解析結果の例を示す。線Ｌ２１３は、ガンベルＣＢの解析結果の例を示す。
線Ｌ２２１は、ＰＩの解析結果の例を示す。線Ｌ２２２は、ＥＩの解析結果の例を示す。評価関数との比較のため、これらの獲得関数についても、評価関数と同様に解析を行っている。
線Ｌ２２１は、ＰＩの解析結果の例を示す。線Ｌ２２２は、ＥＩの解析結果の例を示す。評価関数との比較のため、これらの獲得関数についても、評価関数と同様に解析を行っている。
【0094】
目的関数の広域的極値の推定値の改善度合いは、情報処理装置１００による広域的極値の推定値が、実際の広域的極値にどの程度近付いているか、あるいは遠ざかっているかを示す。
図４では、目的関数の広域的極値の推定値の改善度合の指標値として、ｒ＝（μ－ｆｂ）／σを横軸に示している。式に示されるように、この指標値ｒは、目的関数の予測値の平均μから、それまでの観測における目的関数値の最小値ｆｂを減算した差を、目的関数の予測値の確率分布の標準偏差σで除算する規格化を行った値である。
図４では、目的関数の広域的極値の推定値の改善度合の指標値として、ｒ＝（μ－ｆｂ）／σを横軸に示している。式に示されるように、この指標値ｒは、目的関数の予測値の平均μから、それまでの観測における目的関数値の最小値ｆｂを減算した差を、目的関数の予測値の確率分布の標準偏差σで除算する規格化を行った値である。
【0095】
また、ここでいう活用的とは、目的関数の観測結果から推定される目的関数値を重視して、次の観測点を決定することである。ここでいう探索的とは、目的関数の観測結果から推定される目的関数値よりも、広域的極値の推定値が改善される可能性を重視して、次の観測点を決定することである。
図４の例では、評価関数を、目的関数の推定値の確率分布の平均μに基づく項と、標準偏差σに基づく項とを含む形式にした場合の、それぞれの項の係数の大きさの比較を、活用的か探索的かを示す指標値として用いている。
図４の例では、評価関数を、目的関数の推定値の確率分布の平均μに基づく項と、標準偏差σに基づく項とを含む形式にした場合の、それぞれの項の係数の大きさの比較を、活用的か探索的かを示す指標値として用いている。
【0096】
目的関数の推定値の確率分布の平均μは、観測結果の座標を線形近似した座標と考えられる。したがって、この平均μの項の係数を大きくすることは、目的関数の観測結果から推定される目的関数値を重視する活用的であるといえる。
一方、標準偏差σが大きい場合、目的関数の推定値のばらつきが大きい。したがって、この標準偏差σの項の係数を大きくすることは、広域的極値の推定値が改善される可能性を重視する探索的であるといえる。
一方、標準偏差σが大きい場合、目的関数の推定値のばらつきが大きい。したがって、この標準偏差σの項の係数を大きくすることは、広域的極値の推定値が改善される可能性を重視する探索的であるといえる。
【0097】
図４を縦軸の方向に見て、線Ｌ２１１と線Ｌ２２１との比較では、線Ｌ２１１のほうが線Ｌ２２１よりも上にある。したがって、線Ｌ２１１で示されるガンベルＰＩと、線Ｌ２２１で示されるＰＩとを比較すると、同じ改善度合いを得られるときは、ガンベルＰＩのほうが、ＰＩよりも探索的であると言える。
また、線Ｌ２１２と線Ｌ２２２との比較では、改善度合いの指標値ｒが０より大きい領域では、線Ｌ２１２のほうが線Ｌ２２２よりも上にある。したがって、線Ｌ２１２で示されるガンベルＥＩと、線Ｌ２２２で示されるＥＩとを比較すると、同じ改善度合いを得られるときは、ガンベルＥＩのほうが、ＥＩよりも探索的であると言える。
また、線Ｌ２１２と線Ｌ２２２との比較では、改善度合いの指標値ｒが０より大きい領域では、線Ｌ２１２のほうが線Ｌ２２２よりも上にある。したがって、線Ｌ２１２で示されるガンベルＥＩと、線Ｌ２２２で示されるＥＩとを比較すると、同じ改善度合いを得られるときは、ガンベルＥＩのほうが、ＥＩよりも探索的であると言える。
【0098】
情報処理装置１００が探索的に観測点を決定して目的関数を観測することで、目的関数の推定値のばらつきが大きい観測点を優先的に観測することになり、比較的速く広域的極値に達するか、あるいは近付くことができる可能性がある。情報処理装置１００によれば、この点で、目的関数値がなるべく大きくなる引数値、または、目的関数値がなるべく小さくなる引数値を、効率よく探索できる可能性がある。
【0099】
また、情報処理装置１００が探索的に観測点を決定して目的関数を観測することで、目的関数の推定値のばらつきが大きい観測点を優先的に観測することになり、観測によって目的関数の推定値の分布が絞り込まれる程度が大きいといえる。したがって、情報処理装置１００によれば、比較的早い段階で目的関数の取り得る値が絞り込まれると期待される。情報処理装置１００によれば、この点でも、目的関数値がなるべく大きくなる引数値、または、目的関数値がなるべく小さくなる引数値を、効率よく探索できる可能性がある。
【0100】
目的関数の最小値の推定の実験例について説明する。
図５は、フォレスタ（Forrester）関数の例を示す図である。図５のグラフの横軸（ｘ軸）は引数値を示し、縦軸（ｙ軸）は関数値を示す。線Ｌ３１１は、１次元のフォレスタ関数を示す。線Ｌ３１１の関数は、式（２１）のように表される。
図５は、フォレスタ（Forrester）関数の例を示す図である。図５のグラフの横軸（ｘ軸）は引数値を示し、縦軸（ｙ軸）は関数値を示す。線Ｌ３１１は、１次元のフォレスタ関数を示す。線Ｌ３１１の関数は、式（２１）のように表される。
【0101】
【数21】
【0102】
関数の定義域は０＜ｘ＜１としている。また、観測の際にσ＝１．０のガウシアンノイズが重畳されるものとしている。
【0103】
実験では、引数値ｘ＝０．２、０．９のそれぞれについて目的関数の観測を行って、点Ｐ２１およびＰ２２の観測結果を取得し、観測結果に基づいて目的関数の推定値の確率分布の初期値を設定した。観測結果にノイズが含まれるため、点Ｐ２１およびＰ２２は、線Ｌ３１１からずれている。
ガンベルＥＩおよびガンベルＣＢのそれぞれを用いて目的関数の最小値を推定した。また、比較のために、ＥＩおよびＵＣＢのそれぞれを用いて目的関数の最小値を推定した。
ガンベルＥＩおよびガンベルＣＢのそれぞれを用いて目的関数の最小値を推定した。また、比較のために、ＥＩおよびＵＣＢのそれぞれを用いて目的関数の最小値を推定した。
【0104】
図６は、ＥＩを用いた場合のフォレスタ関数の最小値の推定結果の推移の例を示す図である。
図６のグラフの横軸は目的関数の観測を行った回数を示す。縦軸は、観測で得られた目的関数値のうちの最小値を示す。ノイズ生成の乱数を変えて最小値の推定を１００回行い、１００回分の推定結果をグラフに示している。
図６のグラフの横軸は目的関数の観測を行った回数を示す。縦軸は、観測で得られた目的関数値のうちの最小値を示す。ノイズ生成の乱数を変えて最小値の推定を１００回行い、１００回分の推定結果をグラフに示している。
【0105】
図７は、ガンベルＥＩを用いた場合のフォレスタ関数の最小値の推定結果の推移の例を示す図である。
図７のグラフの横軸は目的関数の観測を行った回数を示す。縦軸は、観測で得られた目的関数値のうちの最小値を示す。ガンベルＥＩについても、ノイズ生成の乱数を変えて最小値の推定を１００回行い、１００回分の推定結果をグラフに示している。
図７のグラフの横軸は目的関数の観測を行った回数を示す。縦軸は、観測で得られた目的関数値のうちの最小値を示す。ガンベルＥＩについても、ノイズ生成の乱数を変えて最小値の推定を１００回行い、１００回分の推定結果をグラフに示している。
【0106】
図８は、ＥＩおよびガンベルＥＩについてのフォレスタ関数の最小値の推定結果の例を示す図である。図８は、目的関数の観測を５０回行ったときの、観測で得られた目的関数値のうちの最小値を、１００回の推定について集計した例を示している。
図８のグラフの横軸は、観測で得られた目的関数値のうちの最小値を示す。縦軸は、横軸に示される最小値が観測された度数を示す。横軸に示される最小値について、３分の１（０．３３・・・）の階級幅ごとに、その階級の度数を示している。したがって、横軸に示される－１０から０までの範囲を、３０の区間に分割している。
図８のグラフの横軸は、観測で得られた目的関数値のうちの最小値を示す。縦軸は、横軸に示される最小値が観測された度数を示す。横軸に示される最小値について、３分の１（０．３３・・・）の階級幅ごとに、その階級の度数を示している。したがって、横軸に示される－１０から０までの範囲を、３０の区間に分割している。
【0107】
上側のグラフが、ＥＩを用いた推定結果を示し、下側のグラフが、ガンベルＥＩを用いた推定結果を示す。
なお、図５に示すフォレスタ関数の最小値が約－６（マイナス６）であるのに対し、図８に示す推定結果によれば、ＥＩ、ガンベルＥＩの何れでも、－６よりも小さい関数値が観測されている。これは、観測結果にノイズが含まれるためである。
なお、図５に示すフォレスタ関数の最小値が約－６（マイナス６）であるのに対し、図８に示す推定結果によれば、ＥＩ、ガンベルＥＩの何れでも、－６よりも小さい関数値が観測されている。これは、観測結果にノイズが含まれるためである。
【0108】
ＥＩ、ガンベルＥＩともに、横軸の－８付近および－３付近のそれぞれに、推定結果が集中的に表れている。
図８における最小値－８付近の推定結果は、図５のグラフの横軸の値０．８付近に示される、関数の最小値に対応する推定結果と考えられる。この最小値は、約－６である。
図８における最小値－３付近の推定結果は、図５のグラフの横軸の値０．１付近に示される、関数の極小値に対応する推定結果と考えられる。この最小値は、約－１である。
図８における最小値－８付近の推定結果は、図５のグラフの横軸の値０．８付近に示される、関数の最小値に対応する推定結果と考えられる。この最小値は、約－６である。
図８における最小値－３付近の推定結果は、図５のグラフの横軸の値０．１付近に示される、関数の極小値に対応する推定結果と考えられる。この最小値は、約－１である。
【0109】
図８の上側のグラフに示されるＥＩを用いた推定結果と、下側のグラフに示されるガンベルＥＩを用いた推定結果とを比較すると、ガンベルＥＩを用いる場合のほうが、－８付近の推定結果の割合が比較的大きく、－３付近の推定結果の割合が比較的小さい。
このことから、ガンベルＥＩを用いる場合のほうが、ＥＩを用いる場合よりも、局所解にとどまらずに広域最適解に到達できる可能性が高いと期待される。
このことから、ガンベルＥＩを用いる場合のほうが、ＥＩを用いる場合よりも、局所解にとどまらずに広域最適解に到達できる可能性が高いと期待される。
【0110】
図９は、ＵＣＢを用いた場合のフォレスタ関数の最小値の推定結果の推移の例を示す図である。
図９のグラフの横軸は目的関数の観測を行った回数を示す。縦軸は、観測で得られた目的関数値のうちの最小値を示す。ＵＣＢについても、ノイズ生成の乱数を変えて目的関数の推定を１００回行い、１００回分の推定結果をグラフに示している。
図９のグラフの横軸は目的関数の観測を行った回数を示す。縦軸は、観測で得られた目的関数値のうちの最小値を示す。ＵＣＢについても、ノイズ生成の乱数を変えて目的関数の推定を１００回行い、１００回分の推定結果をグラフに示している。
【0111】
図１０は、ガンベルＣＢを用いた場合のフォレスタ関数の最小値の推定結果の推移の例を示す図である。
図１０のグラフの横軸は目的関数の観測を行った回数を示す。縦軸は、観測で得られた目的関数値のうちの最小値を示す。ガンベルＣＢについても、ノイズ生成の乱数を変えて目的関数の推定を１００回行い、１００回分の推定結果をグラフに示している。
図１０のグラフの横軸は目的関数の観測を行った回数を示す。縦軸は、観測で得られた目的関数値のうちの最小値を示す。ガンベルＣＢについても、ノイズ生成の乱数を変えて目的関数の推定を１００回行い、１００回分の推定結果をグラフに示している。
【0112】
図１１は、ＵＣＢおよびガンベルＣＢについてのフォレスタ関数の最小値の推定結果の例を示す図である。図１１は、目的関数の観測を５０回行ったときの、観測で得られた目的関数値のうちの最小値を、１００回の推定について集計した例を示している。
図１１のグラフの横軸は、観測で得られた目的関数値のうちの最小値を示す。縦軸は、横軸に示される最小値が観測された度数を示す。横軸に示される最小値について、３分の１（０．３３・・・）の階級幅ごとに、その階級の度数を示している。
図１１のグラフの横軸は、観測で得られた目的関数値のうちの最小値を示す。縦軸は、横軸に示される最小値が観測された度数を示す。横軸に示される最小値について、３分の１（０．３３・・・）の階級幅ごとに、その階級の度数を示している。
【0113】
上側のグラフが、ＵＣＢを用いた推定結果を示し、下側のグラフが、ガンベルＣＢを用いた推定結果を示す。
なお、図５に示すフォレスタ関数の最小値が約－６であるのに対し、図１１に示す推定結果によれば、ＵＣＢ、ガンベルＣＢの何れでも、－６よりも小さい関数値が観測されている。これは、観測結果にノイズが含まれるためである。
なお、図５に示すフォレスタ関数の最小値が約－６であるのに対し、図１１に示す推定結果によれば、ＵＣＢ、ガンベルＣＢの何れでも、－６よりも小さい関数値が観測されている。これは、観測結果にノイズが含まれるためである。
【0114】
ＵＣＢ、ガンベルＣＢともに、横軸の－８付近および－３付近のそれぞれに、推定結果が集中的に表れている。
図１１における最小値－８付近の推定結果は、図５のグラフの横軸の値０．８付近に示される、関数の最小値に対応する推定結果と考えられる。この最小値は、約－６である。
図１１における最小値－３付近の推定結果は、図５のグラフの横軸の値０．１付近に示される、関数の極小値に対応する推定結果と考えられる。この最小値は、約－１である。
図１１における最小値－８付近の推定結果は、図５のグラフの横軸の値０．８付近に示される、関数の最小値に対応する推定結果と考えられる。この最小値は、約－６である。
図１１における最小値－３付近の推定結果は、図５のグラフの横軸の値０．１付近に示される、関数の極小値に対応する推定結果と考えられる。この最小値は、約－１である。
【0115】
図１１の上側のグラフに示されるＵＣＢを用いた推定結果と、下側のグラフに示されるガンベルＣＢを用いた推定結果とを比較すると、ガンベルＣＢを用いる場合のほうが、－８付近の推定結果の割合が比較的大きく、－３付近の推定結果の割合が比較的小さい。
このことから、ガンベルＣＢを用いる場合のほうが、ＵＣＢを用いる場合よりも、局所解にとどまらずに広域最適解に到達できる可能性が高いと期待される。
このことから、ガンベルＣＢを用いる場合のほうが、ＵＣＢを用いる場合よりも、局所解にとどまらずに広域最適解に到達できる可能性が高いと期待される。
【0116】
図１２は、アルパイン（Alpine）関数の例を示す図である。図１２のグラフｘ１軸およびｘ２軸は、それぞれ引数値を示し、ｙ軸は関数値を示す。図１２のグラフは２次元のアルパイン関数を示している。
図１２のグラフは、式（２２）のように示される。
図１２のグラフは、式（２２）のように示される。
【0117】
【数22】
【0118】
関数の定義域は、－２．０＜ｘｉ＜６．０（ｉ＝１、２）としている。
関数の最小値は、f(4.8939, 4.8939) = -8.6482 である。この最小値は、図１２のグラフでは手前側（ｘ１の値、および、ｘ２の値が大きい側）に位置している。
また、グラフの左側（ｘ１の値が小さく、ｘ２の値が大きい側）、右側（ｘ１の値が大きく、ｘ２の値が小さい側）、奥側（ｘ１の値、および、ｘ２の値が小さい側）に、それぞれ、関数の極小値が見受けられる。左側の極小値、および、右側の極小値が比較的小さく、奥側の極小値が比較的大きい。
また、観測の際にσ＝１．０のガウシアンノイズが重畳されるものとしている。
ガンベルＥＩおよびガンベルＣＢのそれぞれを用いて目的関数の最小値を推定した。また、比較のために、ＥＩおよびＵＣＢのそれぞれを用いて目的関数の最小値を推定した。
関数の最小値は、f(4.8939, 4.8939) = -8.6482 である。この最小値は、図１２のグラフでは手前側（ｘ１の値、および、ｘ２の値が大きい側）に位置している。
また、グラフの左側（ｘ１の値が小さく、ｘ２の値が大きい側）、右側（ｘ１の値が大きく、ｘ２の値が小さい側）、奥側（ｘ１の値、および、ｘ２の値が小さい側）に、それぞれ、関数の極小値が見受けられる。左側の極小値、および、右側の極小値が比較的小さく、奥側の極小値が比較的大きい。
また、観測の際にσ＝１．０のガウシアンノイズが重畳されるものとしている。
ガンベルＥＩおよびガンベルＣＢのそれぞれを用いて目的関数の最小値を推定した。また、比較のために、ＥＩおよびＵＣＢのそれぞれを用いて目的関数の最小値を推定した。
【0119】
図１３は、ＥＩを用いた場合のアルパイン関数の最小値の推定結果の推移の例を示す図である。
図１３のグラフの横軸は目的関数の観測を行った回数を示す。縦軸は、観測で得られた目的関数値のうちの最小値を示す。ノイズ生成の乱数を変えて最小値の推定を１００回行い、１００回分の推定結果をグラフに示している。
図１３のグラフの横軸は目的関数の観測を行った回数を示す。縦軸は、観測で得られた目的関数値のうちの最小値を示す。ノイズ生成の乱数を変えて最小値の推定を１００回行い、１００回分の推定結果をグラフに示している。
【0120】
図１４は、ガンベルＥＩを用いた場合のアルパイン関数の最小値の推定結果の推移の例を示す図である。
図１４のグラフの横軸は目的関数の観測を行った回数を示す。縦軸は、観測で得られた目的関数値のうちの最小値を示す。ガンベルＥＩについても、ノイズ生成の乱数を変えて最小値の推定を１００回行い、１００回分の推定結果をグラフに示している。
図１４のグラフの横軸は目的関数の観測を行った回数を示す。縦軸は、観測で得られた目的関数値のうちの最小値を示す。ガンベルＥＩについても、ノイズ生成の乱数を変えて最小値の推定を１００回行い、１００回分の推定結果をグラフに示している。
【0121】
図１５は、ＥＩおよびガンベルＥＩについてのアルパイン関数の最小値の推定結果の例を示す図である。図１５は、目的関数の観測を５０回行ったときの、観測で得られた目的関数値のうちの最小値を、１００回の推定について集計した例を示している。
図１５のグラフの横軸は、観測で得られた目的関数値のうちの最小値を示す。縦軸は、横軸に示される最小値が観測された度数を示す。横軸に示される最小値について、３分の１（０．３３・・・）の階級幅ごとに、その階級の度数を示している。
図１５のグラフの横軸は、観測で得られた目的関数値のうちの最小値を示す。縦軸は、横軸に示される最小値が観測された度数を示す。横軸に示される最小値について、３分の１（０．３３・・・）の階級幅ごとに、その階級の度数を示している。
【0122】
上側のグラフが、ＥＩを用いた推定結果を示し、下側のグラフが、ガンベルＥＩを用いた推定結果を示す。
なお、図１２に示すアルパイン関数の最小値が約－８．６であるのに対し、図１５に示す推定結果によれば、ＥＩ、ガンベルＥＩの何れでも、－８．６よりも小さい関数値が観測されている。これは、観測結果にノイズが含まれるためである。
なお、図１２に示すアルパイン関数の最小値が約－８．６であるのに対し、図１５に示す推定結果によれば、ＥＩ、ガンベルＥＩの何れでも、－８．６よりも小さい関数値が観測されている。これは、観測結果にノイズが含まれるためである。
【0123】
ＥＩ、ガンベルＥＩともに、横軸の－１０付近、－６付近、および、－３付近のそれぞれに、推定結果が集中的に表れている。
図１５における最小値－１０付近の推定結果は、関数の最小値に対応する推定結果と考えられる。
図１５における最小値－６付近の推定結果は、図１２のグラフの左側の極小値または右側の極小値に対応する推定結果と考えられる。
図１５における最小値－３付近の推定結果は、図１２のグラフの奥側の極小値に対応する推定結果と考えられる。
図１５における最小値－１０付近の推定結果は、関数の最小値に対応する推定結果と考えられる。
図１５における最小値－６付近の推定結果は、図１２のグラフの左側の極小値または右側の極小値に対応する推定結果と考えられる。
図１５における最小値－３付近の推定結果は、図１２のグラフの奥側の極小値に対応する推定結果と考えられる。
【0124】
図１５の上側のグラフに示されるＥＩを用いた推定結果と、下側のグラフに示されるガンベルＥＩを用いた推定結果とを比較すると、ガンベルＥＩのほうが、－１０付近の推定結果の割合が比較的大きく、－６付近の推定結果の割合、および、－３付近の推定結果の割合が比較的小さい。
このことから、ガンベルＥＩを用いる場合のほうが、ＥＩを用いる場合よりも、局所解にとどまらずに広域最適解に到達できる可能性が高いと期待される。
このことから、ガンベルＥＩを用いる場合のほうが、ＥＩを用いる場合よりも、局所解にとどまらずに広域最適解に到達できる可能性が高いと期待される。
【0125】
図１６は、ＵＣＢを用いた場合のアルパイン関数の最小値の推定結果の推移の例を示す図である。
図１６のグラフの横軸は目的関数の観測を行った回数を示す。縦軸は、観測で得られた目的関数値のうちの最小値を示す。ＵＣＢについても、ノイズ生成の乱数を変えて最小値の推定を１００回行い、１００回分の推定結果をグラフに示している。
図１６のグラフの横軸は目的関数の観測を行った回数を示す。縦軸は、観測で得られた目的関数値のうちの最小値を示す。ＵＣＢについても、ノイズ生成の乱数を変えて最小値の推定を１００回行い、１００回分の推定結果をグラフに示している。
【0126】
図１７は、ガンベルＣＢを用いた場合のアルパイン関数の最小値の推定結果の推移の例を示す図である。
図１７のグラフの横軸は目的関数の観測を行った回数を示す。縦軸は、観測で得られた目的関数値のうちの最小値を示す。ガンベルＣＢについても、ノイズ生成の乱数を変えて最小値の推定を１００回行い、１００回分の推定結果をグラフに示している。
図１７のグラフの横軸は目的関数の観測を行った回数を示す。縦軸は、観測で得られた目的関数値のうちの最小値を示す。ガンベルＣＢについても、ノイズ生成の乱数を変えて最小値の推定を１００回行い、１００回分の推定結果をグラフに示している。
【0127】
図１８は、ＵＣＢおよびガンベルＣＢについてのアルパイン関数の最小値の推定結果の例を示す図である。図１８は、目的関数の観測を５０回行ったときの、観測で得られた目的関数値のうちの最小値を、１００回の推定について集計した例を示している。
図１８のグラフの横軸は、観測で得られた目的関数値のうちの最小値を示す。縦軸は、横軸に示される最小値が観測された度数を示す。横軸に示される最小値について、３分の１（０．３３・・・）の階級幅ごとに、その階級の度数を示している。
図１８のグラフの横軸は、観測で得られた目的関数値のうちの最小値を示す。縦軸は、横軸に示される最小値が観測された度数を示す。横軸に示される最小値について、３分の１（０．３３・・・）の階級幅ごとに、その階級の度数を示している。
【0128】
上側のグラフが、ＵＣＢを用いた推定結果を示し、下側のグラフが、ガンベルＣＢを用いた推定結果を示す。
なお、図１８に示すアルパイン関数の最小値が約－８．６であるのに対し、図１８に示す推定結果によれば、ＵＣＢ、ガンベルＣＢの何れでも、－８．６よりも小さい関数値が観測されている。これは、観測結果にノイズが含まれるためである。
なお、図１８に示すアルパイン関数の最小値が約－８．６であるのに対し、図１８に示す推定結果によれば、ＵＣＢ、ガンベルＣＢの何れでも、－８．６よりも小さい関数値が観測されている。これは、観測結果にノイズが含まれるためである。
【0129】
ＵＣＢ、ガンベルＣＢともに、横軸の－１０付近および－６付近のそれぞれに、推定結果が集中的に表れている。また、ガンベルＣＢでは、横軸の－３付近にも推定結果が表れている。
図１８における最小値－１０付近の推定結果は、関数の最小値に対応する推定結果と考えられる。
図１８における最小値－６付近の推定結果は、図１２のグラフの左側の極小値または右側の極小値に対応する推定結果と考えられる。
図１８における最小値－３付近の推定結果は、図１２のグラフの奥側の極小値に対応する推定結果と考えられる。
図１８における最小値－１０付近の推定結果は、関数の最小値に対応する推定結果と考えられる。
図１８における最小値－６付近の推定結果は、図１２のグラフの左側の極小値または右側の極小値に対応する推定結果と考えられる。
図１８における最小値－３付近の推定結果は、図１２のグラフの奥側の極小値に対応する推定結果と考えられる。
【0130】
図１８の上側のグラフに示されるＵＣＢを用いた推定結果と、下側のグラフに示されるガンベルＣＢを用いた推定結果とを比較すると、－１０付近の推定結果の割合がおおよそ同じ大きさになっている。
このことから、ガンベルＣＢを用いる場合とＵＣＢを用いる場合とで同程度に、局所解にとどまらずに広域最適解に到達できると期待される。このように、ガンベルＣＢを用いる場合、いろいろな目的関数について、ＵＣＢを用いる場合以上、または少なくとも同程度の結果を得られると期待される。
このことから、ガンベルＣＢを用いる場合とＵＣＢを用いる場合とで同程度に、局所解にとどまらずに広域最適解に到達できると期待される。このように、ガンベルＣＢを用いる場合、いろいろな目的関数について、ＵＣＢを用いる場合以上、または少なくとも同程度の結果を得られると期待される。
【0131】
以上のように、確率分布取得部１９１は、第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得する。関数取得部１９２は、第１分布における第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、第１関数の引数値に対する評価値を算出する第２関数を取得する。引数値決定部１９３は、評価関数による評価値に基づいて、第１関数の関数値をサンプリングする引数値を決定する。
これにより、情報処理装置１００は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。
これにより、情報処理装置１００は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。
【0132】
また、第２分布は、第１分布に基づく極値分布である。
これにより、情報処理装置１００は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。また、評価関数が、指数関数を用いた比較的解析が容易な関数になると期待される。
これにより、情報処理装置１００は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。また、評価関数が、指数関数を用いた比較的解析が容易な関数になると期待される。
【0133】
また、第２分布は、第１分布に基づくガンベル分布である。
これにより、情報処理装置１００は、目的関数の広域的極値に基づく確率分布に基づいて次の観測点を決定することができ、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。また、評価関数が、指数関数を用いた比較的解析が容易な関数になると期待される。
これにより、情報処理装置１００は、目的関数の広域的極値に基づく確率分布に基づいて次の観測点を決定することができ、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。また、評価関数が、指数関数を用いた比較的解析が容易な関数になると期待される。
【0134】
また、関数取得部１９２は、第２分布の累積分布関数を用いる第２関数を取得する。
これにより、情報処理装置１００は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。また、評価関数が、累積分布関数を用いた比較的解析が容易な関数になると期待される。
これにより、情報処理装置１００は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。また、評価関数が、累積分布関数を用いた比較的解析が容易な関数になると期待される。
【0135】
また、関数取得部１９２は、プロバビリティ・オブ・インプルーブメントの獲得関数から、累積密度関数を第２分布の累積密度関数に置き換えた関数を、第２関数として取得する。
これにより、情報処理装置１００は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。また、評価関数が、比較的解析が容易な関数になると期待される。
これにより、情報処理装置１００は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。また、評価関数が、比較的解析が容易な関数になると期待される。
【0136】
また、関数取得部１９２は、第１関数の大きさの指標値の、第２分布のもとでの期待値に基づく第２関数を取得する。
これにより、情報処理装置１００は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。また、評価関数が、比較的解析が容易な関数になると期待される。
これにより、情報処理装置１００は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。また、評価関数が、比較的解析が容易な関数になると期待される。
【0137】
また、関数取得部１９２は、エクスペクティッド・インプルーブメントの獲得関数から、目的関数の推定値の改善度合いの指標値の、正規分布のもとでの期待値を、第１関数の推定値の改善度合いの指標値の、第２分布のもとでの期待値に置き換えた関数を、第２関数として取得する。
これにより、情報処理装置１００は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。また、評価関数が、比較的解析が容易な関数になると期待される。
これにより、情報処理装置１００は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。また、評価関数が、比較的解析が容易な関数になると期待される。
【0138】
また、関数取得手段は、ガンベル分布における平均を示す項と、ガンベル分布における分散を示す項とを含む前記第２関数を取得する。
これにより、情報処理装置１００は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。また、評価関数が、比較的解析が容易な関数になると期待される。
これにより、情報処理装置１００は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。また、評価関数が、比較的解析が容易な関数になると期待される。
【0139】
図１９は、実施形態に係る情報処理装置の構成例を示す図である。図１９に示す情報処理装置６１０は、確率分布取得部６１１と、関数取得部６１２と、引数値決定部６１３とを備える。
かかる構成で、確率分布取得部６１１は、第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得する。関数取得部６１２は、第１分布における第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、第１関数の引数値に対する評価値を算出する第２関数を取得する。引数値決定部６１３は、評価関数による評価値に基づいて、第１関数の関数値をサンプリングする引数値を決定する。
これにより、情報処理装置６１０は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。
かかる構成で、確率分布取得部６１１は、第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得する。関数取得部６１２は、第１分布における第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、第１関数の引数値に対する評価値を算出する第２関数を取得する。引数値決定部６１３は、評価関数による評価値に基づいて、第１関数の関数値をサンプリングする引数値を決定する。
これにより、情報処理装置６１０は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。
【0140】
確率分布取得部６１１は、確率分布取得手段の例に該当する。関数取得部６１２は、関数取得手段の例に該当する。引数値決定部６１３は、引数値決定手段の例に該当する。
確率分布取得部６１１は、例えば、図１に示される確率分布取得部１９１等の機能を用いて実現することができる。関数取得部６１２は、例えば、図１に示される関数取得部１９２等の機能を用いて実現することができる。引数値決定部６１３の機能は、例えば、図１に示される引数値決定部１９３等の機能を用いて実現することができる。
確率分布取得部６１１は、例えば、図１に示される確率分布取得部１９１等の機能を用いて実現することができる。関数取得部６１２は、例えば、図１に示される関数取得部１９２等の機能を用いて実現することができる。引数値決定部６１３の機能は、例えば、図１に示される引数値決定部１９３等の機能を用いて実現することができる。
【0141】
図２０は、実施形態に係るシミュレータシステムの構成例を示す図である。図２０にシミュレータシステム６２０は、シミュレータ６２１と、制御装置６２２と、情報処理装置６２４とを備える。制御装置６２２は、パラメータ値設定部６２３を備える。
情報処理装置６２４は、シミュレータ６２１のパラメータ値の入力を受けてシミュレータ６２１の処理に対する評価値を出力する関数を目的関数として、シミュレータ６２１の処理に対する評価値が最大になる、シミュレータ６２１のパラメータ値を推定する。情報処理装置６２４として、上述した情報処理装置１００を用いるようにしてもよい。あるいは、情報処理装置６２４として、上述した情報処理装置６１０を用いるようにしてもよい。
情報処理装置６２４は、シミュレータ６２１のパラメータ値の入力を受けてシミュレータ６２１の処理に対する評価値を出力する関数を目的関数として、シミュレータ６２１の処理に対する評価値が最大になる、シミュレータ６２１のパラメータ値を推定する。情報処理装置６２４として、上述した情報処理装置１００を用いるようにしてもよい。あるいは、情報処理装置６２４として、上述した情報処理装置６１０を用いるようにしてもよい。
【0142】
パラメータ値設定部６２３は、情報処理装置６２４を用いてシミュレータ６２１のパラメータ値を設定する。具体的には、パラメータ値設定部６２３は、情報処理装置６２４が推定するパラメータ値をシミュレータ６２１に設定する。
これにより、情報処理装置６２４は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。
シミュレータシステム６２０の構成は、図２０に示される構成に限定されない。例えば、制御装置６２２と、情報処理装置６２４とが、１つの装置として構成されていてもよい。
これにより、情報処理装置６２４は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。
シミュレータシステム６２０の構成は、図２０に示される構成に限定されない。例えば、制御装置６２２と、情報処理装置６２４とが、１つの装置として構成されていてもよい。
【0143】
図２１は、実施形態に係る混合比決定システムの構成例を示す図である。図２１に示す混合比決定システム６３０は、化学プラント６３１と、制御装置６３２と、情報処理装置６３４とを備える。制御装置６３２は、混合比決定部６３３を備える。
情報処理装置６３４は、化学プラント６３１の材料の混合比の入力を受けて、化学プラント６３１の動作結果に対する評価値を出力する関数を目的関数として、化学プラント６３１の動作結果に対する評価値が最大になる、化学プラント６３１の材料の混合比を推定する。情報処理装置６３４として、上述した情報処理装置１００を用いるようにしてもよい。あるいは、情報処理装置６３４として、上述した情報処理装置６１０を用いるようにしてもよい。
情報処理装置６３４は、化学プラント６３１の材料の混合比の入力を受けて、化学プラント６３１の動作結果に対する評価値を出力する関数を目的関数として、化学プラント６３１の動作結果に対する評価値が最大になる、化学プラント６３１の材料の混合比を推定する。情報処理装置６３４として、上述した情報処理装置１００を用いるようにしてもよい。あるいは、情報処理装置６３４として、上述した情報処理装置６１０を用いるようにしてもよい。
【0144】
混合比決定部６３３は、情報処理装置６３４を用いて化学プラント６３１の材料の混合比を決定し、決定した混合比に基づいて、化学プラント６３１の各材料の量を設定する。具体的には、混合比決定部６３３は、情報処理装置６３４が推定した化学プラント６３１の材料の混合比に基づいて、化学プラント６３１の各材料の量を設定する。
これにより、情報処理装置６３４は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。
混合比決定システム６３０の構成は、図２１に示される構成に限定されない。例えば、制御装置６３２と、情報処理装置６３４とが、１つの装置として構成されていてもよい。
これにより、情報処理装置６３４は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。
混合比決定システム６３０の構成は、図２１に示される構成に限定されない。例えば、制御装置６３２と、情報処理装置６３４とが、１つの装置として構成されていてもよい。
【0145】
図２２は、実施形態に係るニューラルネットワークシステムの構成例を示す図である。図２２に示すニューラルネットワークシステム６４０は、ニューラルネットワーク６４１と、制御装置６４２と、情報処理装置６４４とを備える。制御装置６４２は、パラメータ値設定部６４３を備える。
情報処理装置６４４は、ニューラルネットワーク６４１のパラメータ値の入力を受けてニューラルネットワーク６４１の処理に対する評価値を出力する関数を目的関数として、ニューラルネットワーク６４１の処理に対する評価値が最大になる、ニューラルネットワーク６４１のパラメータ値を推定する。情報処理装置６４４として、上述した情報処理装置１００を用いるようにしてもよい。あるいは、情報処理装置６２４として、上述した情報処理装置６１０を用いるようにしてもよい。
情報処理装置６４４は、ニューラルネットワーク６４１のパラメータ値の入力を受けてニューラルネットワーク６４１の処理に対する評価値を出力する関数を目的関数として、ニューラルネットワーク６４１の処理に対する評価値が最大になる、ニューラルネットワーク６４１のパラメータ値を推定する。情報処理装置６４４として、上述した情報処理装置１００を用いるようにしてもよい。あるいは、情報処理装置６２４として、上述した情報処理装置６１０を用いるようにしてもよい。
【0146】
パラメータ値設定部６４３は、情報処理装置６４４を用いてニューラルネットワーク６４１のパラメータ値を設定する。具体的には、パラメータ値設定部６４３は、情報処理装置６４４が推定するパラメータ値をニューラルネットワーク６４１に設定する。
これにより、情報処理装置６４４は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。
ニューラルネットワークシステム６４０の構成は、図２２に示される構成に限定されない。例えば、制御装置６４２と、情報処理装置６４４とが、１つの装置として構成されていてもよい。
これにより、情報処理装置６４４は、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。
ニューラルネットワークシステム６４０の構成は、図２２に示される構成に限定されない。例えば、制御装置６４２と、情報処理装置６４４とが、１つの装置として構成されていてもよい。
【0147】
図２３は、実施形態に係る引数値決定方法における処理手順の例を示すフローチャートである。図２３に示す引数値決定方法は、確率分布を取得すること（ステップＳ６１１）と、関数を取得すること（ステップＳ６１２）と、引数値を決定すること（ステップＳ６１３）とを含む。
【0148】
確率分布を取得すること（ステップＳ６１１）では、第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得する。
関数を取得すること（ステップＳ６１２）では、前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数の優先度を示す評価値を算出する第２関数を取得する。
引数値を決定すること（ステップＳ６１３）では、前記評価関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定する。
図２３に示される引数値決定方法によれば、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。
関数を取得すること（ステップＳ６１２）では、前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数の優先度を示す評価値を算出する第２関数を取得する。
引数値を決定すること（ステップＳ６１３）では、前記評価関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定する。
図２３に示される引数値決定方法によれば、目的関数の確率分布に基づく関数を用いる場合よりも、広域最適解を得られる可能性を重視して次の観測点を決定することができる。
【0149】
図２４は、少なくとも１つの実施形態に係るコンピュータの構成を示す概略ブロック図である。
図２４に示す構成で、コンピュータ７００は、ＣＰＵ７１０と、主記憶装置７２０と、補助記憶装置７３０と、インタフェース７４０と、不揮発性記録媒体７５０とを備える。
図２４に示す構成で、コンピュータ７００は、ＣＰＵ７１０と、主記憶装置７２０と、補助記憶装置７３０と、インタフェース７４０と、不揮発性記録媒体７５０とを備える。
【0150】
上記の情報処理装置１００、６１０、６２４、６３４および６４４、制御装置６２２、６３２および６４２のうち何れか１つ以上またはその一部が、コンピュータ７００に実装されてもよい。その場合、上述した各処理部の動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って上記処理を実行する。また、ＣＰＵ７１０は、プログラムに従って、上述した各記憶部に対応する記憶領域を主記憶装置７２０に確保する。各装置と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って通信を行うことで実行される。また、インタフェース７４０は、不揮発性記録媒体７５０用のポートを有し、不揮発性記録媒体７５０からの情報の読出、および、不揮発性記録媒体７５０への情報の書込を行う。
【0151】
情報処理装置１００がコンピュータ７００に実装される場合、制御部１９０およびその各部の動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って上記処理を実行する。
【0152】
また、ＣＰＵ７１０は、プログラムに従って、記憶部１８０に対応する記憶領域を主記憶装置７２０に確保する。
通信部１１０による他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。
表示部１２０による表示は、インタフェース７４０が表示装置を有し、ＣＰＵ７１０の制御に従って各種画像を表示することで実行される。
操作入力部１３０によるユーザ操作の受け付けは、インタフェース７４０が例えばキーボードおよびマウスなどの入力デバイスを有してユーザ操作を受け付け、受け付けたユーザ操作を示す情報をＣＰＵ７１０へ出力することで実行される。
通信部１１０による他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。
表示部１２０による表示は、インタフェース７４０が表示装置を有し、ＣＰＵ７１０の制御に従って各種画像を表示することで実行される。
操作入力部１３０によるユーザ操作の受け付けは、インタフェース７４０が例えばキーボードおよびマウスなどの入力デバイスを有してユーザ操作を受け付け、受け付けたユーザ操作を示す情報をＣＰＵ７１０へ出力することで実行される。
【0153】
情報処理装置６１０がコンピュータ７００に実装される場合、確率分布取得部６１１と、関数取得部６１２と、引数値決定部６１３との動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って上記処理を実行する。
【0154】
また、ＣＰＵ７１０は、プログラムに従って、情報処理装置６１０が処理を行うための記憶領域を主記憶装置７２０に確保する。
情報処理装置６１０と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。
情報処理装置６１０とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを有し、ＣＰＵ７１０の制御に従って動作することで実行される。
情報処理装置６１０と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。
情報処理装置６１０とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを有し、ＣＰＵ７１０の制御に従って動作することで実行される。
【0155】
情報処理装置６２４がコンピュータ７００に実装される場合、情報処理装置６２４の動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って上記処理を実行する。
【0156】
また、ＣＰＵ７１０は、プログラムに従って、情報処理装置６２４が処理を行うための記憶領域を主記憶装置７２０に確保する。
情報処理装置６２４と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。
情報処理装置６２４とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを有し、ＣＰＵ７１０の制御に従って動作することで実行される。
情報処理装置６２４と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。
情報処理装置６２４とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを有し、ＣＰＵ７１０の制御に従って動作することで実行される。
【0157】
情報処理装置６３４がコンピュータ７００に実装される場合、情報処理装置６３４の動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って上記処理を実行する。
【0158】
また、ＣＰＵ７１０は、プログラムに従って、情報処理装置６３４が処理を行うための記憶領域を主記憶装置７２０に確保する。
情報処理装置６３４と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。
情報処理装置６３４とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを有し、ＣＰＵ７１０の制御に従って動作することで実行される。
情報処理装置６３４と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。
情報処理装置６３４とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを有し、ＣＰＵ７１０の制御に従って動作することで実行される。
【0159】
情報処理装置６４４がコンピュータ７００に実装される場合、情報処理装置６４４の動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って上記処理を実行する。
【0160】
また、ＣＰＵ７１０は、プログラムに従って、情報処理装置６４４が処理を行うための記憶領域を主記憶装置７２０に確保する。
情報処理装置６４４と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。
情報処理装置６４４とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを有し、ＣＰＵ７１０の制御に従って動作することで実行される。
情報処理装置６４４と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。
情報処理装置６４４とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを有し、ＣＰＵ７１０の制御に従って動作することで実行される。
【0161】
制御装置６２２がコンピュータ７００に実装される場合、パラメータ値設定部６２３の動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って上記処理を実行する。
【0162】
また、ＣＰＵ７１０は、プログラムに従って、制御装置６２２が処理を行うための記憶領域を主記憶装置７２０に確保する。
制御装置６２２と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。
制御装置６２２とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを有し、ＣＰＵ７１０の制御に従って動作することで実行される。
制御装置６２２と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。
制御装置６２２とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを有し、ＣＰＵ７１０の制御に従って動作することで実行される。
【0163】
制御装置６３２がコンピュータ７００に実装される場合、混合比決定部６３３の動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って上記処理を実行する。
【0164】
また、ＣＰＵ７１０は、プログラムに従って、制御装置６３２が処理を行うための記憶領域を主記憶装置７２０に確保する。
制御装置６３２と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。
制御装置６３２とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを有し、ＣＰＵ７１０の制御に従って動作することで実行される。
制御装置６３２と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。
制御装置６３２とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを有し、ＣＰＵ７１０の制御に従って動作することで実行される。
【0165】
制御装置６４２がコンピュータ７００に実装される場合、パラメータ値設定部６４３の動作は、プログラムの形式で補助記憶装置７３０に記憶されている。ＣＰＵ７１０は、プログラムを補助記憶装置７３０から読み出して主記憶装置７２０に展開し、当該プログラムに従って上記処理を実行する。
【0166】
また、ＣＰＵ７１０は、プログラムに従って、制御装置６４２が処理を行うための記憶領域を主記憶装置７２０に確保する。
制御装置６４２と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。
制御装置６４２とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを有し、ＣＰＵ７１０の制御に従って動作することで実行される。
制御装置６４２と他の装置との通信は、インタフェース７４０が通信機能を有し、ＣＰＵ７１０の制御に従って動作することで実行される。
制御装置６４２とユーザとのインタラクションは、インタフェース７４０が表示装置および入力デバイスを有し、ＣＰＵ７１０の制御に従って動作することで実行される。
【0167】
上述したプログラムのうち何れか１つ以上が不揮発性記録媒体７５０に記録されていてもよい。この場合、インタフェース７４０が不揮発性記録媒体７５０からプログラムを読み出すようにしてもよい。そして、ＣＰＵ７１０が、インタフェース７４０が読み出したプログラムを直接実行するか、あるいは、主記憶装置７２０または補助記憶装置７３０に一旦保存して実行するようにしてもよい。
【0168】
なお、情報処理装置１００、６１０、６２４、６３４および６４４、制御装置６２２、６３２および６４２が行う処理の全部または一部を実行するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各部の処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ（Read Only Memory）、ＣＤ－ＲＯＭ（Compact Disc Read Only Memory）等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ（Read Only Memory）、ＣＤ－ＲＯＭ（Compact Disc Read Only Memory）等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
【0169】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
また、上記の実施形態の一部または全部は、以下の付記のようにも記載され得るが、以下には限定されない。
また、上記の実施形態の一部または全部は、以下の付記のようにも記載され得るが、以下には限定されない。
【0170】
（付記１）
第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得する確率分布取得手段と、
前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数値に対する評価値を算出する第２関数を取得する関数取得手段と、
前記評価関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定する引数値決定手段と、
を備える情報処理装置。
第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得する確率分布取得手段と、
前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数値に対する評価値を算出する第２関数を取得する関数取得手段と、
前記評価関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定する引数値決定手段と、
を備える情報処理装置。
【0171】
（付記２）
前記第２分布は、前記第１分布に基づく極値分布である、
付記１に記載の情報処理装置。
前記第２分布は、前記第１分布に基づく極値分布である、
付記１に記載の情報処理装置。
【0172】
（付記３）
前記第２分布は、前記第１分布に基づくガンベル分布である、
付記２に記載の情報処理装置。
前記第２分布は、前記第１分布に基づくガンベル分布である、
付記２に記載の情報処理装置。
【0173】
（付記４）
前記関数取得手段は、前記第２分布の累積分布関数を用いる前記第２関数を取得する、
付記１から３の何れか一つに記載に情報処理装置。
前記関数取得手段は、前記第２分布の累積分布関数を用いる前記第２関数を取得する、
付記１から３の何れか一つに記載に情報処理装置。
【0174】
（付記５）
前記関数取得手段は、プロバビリティ・オブ・インプルーブメントの獲得関数から、累積密度関数を前記第２分布の累積密度関数に置き換えた関数を、前記第２関数として取得する、
付記４に記載の情報処理装置。
前記関数取得手段は、プロバビリティ・オブ・インプルーブメントの獲得関数から、累積密度関数を前記第２分布の累積密度関数に置き換えた関数を、前記第２関数として取得する、
付記４に記載の情報処理装置。
【0175】
（付記６）
前記関数取得手段は、前記第１関数の大きさの指標値の、前記第２分布のもとでの期待値に基づく前記第２関数を取得する、
付記１から３の何れか一つに記載の情報処理装置。
前記関数取得手段は、前記第１関数の大きさの指標値の、前記第２分布のもとでの期待値に基づく前記第２関数を取得する、
付記１から３の何れか一つに記載の情報処理装置。
【0176】
（付記７）
前記関数取得手段は、エクスペクティッド・インプルーブメントの獲得関数から、目的関数の推定値の改善度合いの指標値の、正規分布のもとでの期待値を、前記第１関数の推定値の改善度合いの指標値の、前記第２分布のもとでの期待値に置き換えた関数を、前記第２関数として取得する、
付記６に記載の情報処理装置。
前記関数取得手段は、エクスペクティッド・インプルーブメントの獲得関数から、目的関数の推定値の改善度合いの指標値の、正規分布のもとでの期待値を、前記第１関数の推定値の改善度合いの指標値の、前記第２分布のもとでの期待値に置き換えた関数を、前記第２関数として取得する、
付記６に記載の情報処理装置。
【0177】
（付記８）
前記関数取得手段は、前記ガンベル分布における平均を示す項と、前記ガンベル分布における分散を示す項とを含む前記第２関数を取得する、
付記１から３の何れか一つに記載の情報処理装置。
前記関数取得手段は、前記ガンベル分布における平均を示す項と、前記ガンベル分布における分散を示す項とを含む前記第２関数を取得する、
付記１から３の何れか一つに記載の情報処理装置。
【0178】
（付記９）
付記１から８の何れか一つに記載の情報処理装置と、
シミュレータと、
前記情報処理装置を用いて前記シミュレータのパラメータ値を設定するパラメータ値設定手段と、
を備えるシミュレータシステム。
付記１から８の何れか一つに記載の情報処理装置と、
シミュレータと、
前記情報処理装置を用いて前記シミュレータのパラメータ値を設定するパラメータ値設定手段と、
を備えるシミュレータシステム。
【0179】
（付記１０）
付記１から８の何れか一つに記載の情報処理装置と、
前記情報処理装置を用いて化学プラントにおける材料の混合比の候補を決定する混合比決定手段と、
を備える混合比決定システム。
付記１から８の何れか一つに記載の情報処理装置と、
前記情報処理装置を用いて化学プラントにおける材料の混合比の候補を決定する混合比決定手段と、
を備える混合比決定システム。
【0180】
（付記１１）
付記１から８の何れか一項に記載の情報処理装置と、
ニューラルネットワークと、
前記情報処理装置を用いて前記ニューラルネットワークのパラメータ値を設定するパラメータ値設定手段と、
を備えるニューラルネットワークシステム。
付記１から８の何れか一項に記載の情報処理装置と、
ニューラルネットワークと、
前記情報処理装置を用いて前記ニューラルネットワークのパラメータ値を設定するパラメータ値設定手段と、
を備えるニューラルネットワークシステム。
【0181】
（付記１２）
コンピュータが、
第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得し、
前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数の優先度を示す評価値を算出する第２関数を取得し、
前記評価関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定する、
ことを含む引数値決定方法。
コンピュータが、
第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得し、
前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数の優先度を示す評価値を算出する第２関数を取得し、
前記評価関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定する、
ことを含む引数値決定方法。
【0182】
（付記１３）
コンピュータに、
第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得することと、
前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数の優先度を示す評価値を算出する第２関数を取得することと、
前記評価関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定することと、
を実行させるためのプログラム。
コンピュータに、
第１数値と第２数値が関連付けされているサンプルを複数含む集合に基づいて、前記第１数値から第２数値を算出する第１関数の確率分布である第１分布を取得することと、
前記第１分布における前記第１関数の引数ごとの平均とは異なる平均を有する第２分布に基づいて、前記第１関数の引数の優先度を示す評価値を算出する第２関数を取得することと、
前記評価関数による評価値に基づいて、前記第１関数の関数値をサンプリングする引数値を決定することと、
を実行させるためのプログラム。
【符号の説明】
【0183】
１０ 観測システム
１００、６１０、６２４、６３４、６４４ 情報処理装置
１１０ 通信部
１２０ 表示部
１３０ 操作入力部
１８０ 記憶部
１９０ 制御部
１９１、６１１ 確率分布取得部
１９２、６１２ 関数取得部
１９３、６１３ 引数値決定部
１９４ 関数値取得部
１９５ 終了処理部
２００ 観測対象
６２０ シミュレータシステム
６２１ シミュレータ
６２２、６３２、６４２ 制御装置
６２３、６４３ パラメータ値設定部
６３０ 混合比決定システム
６３１ 化学プラント
６３３ 混合比決定部
６４０ ニューラルネットワークシステム
６４１ ニューラルネットワーク
１００、６１０、６２４、６３４、６４４ 情報処理装置
１１０ 通信部
１２０ 表示部
１３０ 操作入力部
１８０ 記憶部
１９０ 制御部
１９１、６１１ 確率分布取得部
１９２、６１２ 関数取得部
１９３、６１３ 引数値決定部
１９４ 関数値取得部
１９５ 終了処理部
２００ 観測対象
６２０ シミュレータシステム
６２１ シミュレータ
６２２、６３２、６４２ 制御装置
６２３、６４３ パラメータ値設定部
６３０ 混合比決定システム
６３１ 化学プラント
６３３ 混合比決定部
６４０ ニューラルネットワークシステム
６４１ ニューラルネットワーク
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】