(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-02-01
(45)【発行日】2022-02-09
(54)【発明の名称】製品設計装置および該方法
(51)【国際特許分類】
G06F 30/27 20200101AFI20220202BHJP
【ＦＩ】
G06F30/27
【請求項の数】
5
(21)【出願番号】P 2018181509
(22)【出願日】2018-09-27
(65)【公開番号】P2020052737
(43)【公開日】2020-04-02
【審査請求日】2020-11-30
(73)【特許権者】
【識別番号】000001199
【氏名又は名称】株式会社神戸製鋼所
(74)【代理人】
【識別番号】100067828
【弁理士】
【氏名又は名称】小谷 悦司
(74)【代理人】
【識別番号】100115381
【弁理士】
【氏名又は名称】小谷 昌崇
(74)【代理人】
【識別番号】100111453
【弁理士】
【氏名又は名称】櫻井 智
(72)【発明者】
【氏名】和田 尭
【審査官】堀井 啓明
(56)【参考文献】
【文献】米国特許出願公開第２０１８／００９５９３６（ＵＳ，Ａ１）
【文献】特開２０１３－０５０８９９（ＪＰ，Ａ）
【文献】特開２０１１－１８７０５６（ＪＰ，Ａ）
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｆ ３０／００－３０／３９８
(57)【特許請求の範囲】
【請求項1】
製品に要求される要求項目を満たすように、前記製品を構成する構成要素の設計値を求める製品設計装置であって、複数の要求項目を満たすように、複数の構成要素における複数の設計値を、前記要求項目を目的変数とし前記構成要素を説明変数とする多点探索のベイズ最適化を用いることによって求める設計処理部と、
前記設計処理部で求めた複数の設計値を出力する出力部と、
前記複数の要求項目および前記複数の構成要素それぞれの各実績値を実績情報として記憶する実績情報記憶部とを備え、
前記設計処理部は、
前記実績情報記憶部に記憶された実績情報に基づいて、前記目的変数の事前分布を生成する事前分布生成処理を行う事前分布生成部と、
前記事前分布生成部で生成された前記目的変数の事前分布からベイズ推定によって前記目的変数の事後分布を生成する事後分布生成処理を行う事後分布生成部と、
前記事後分布生成部で生成された事後分布に基づく獲得関数の大域的最適解を前記複数の設計値として求める最適解演算処理を行う最適解演算部とを備え、
前記最適解演算部は、勾配法で前記獲得関数の大域的最適点を求め、
前記獲得関数ｑ－ＥＨＩ ＭＣ （ｘ （１：ｑ） ）は、次式Ｃ１で表され、前記獲得関数の勾配▽ｑ－ＥＨＩ ＭＣ （ｘ （１：ｑ） ）は、次式Ｃ２で表される、
製品設計装置。
ただし、Ｍは、モンテカルロサンプリングのサンプリング数であり、Ｆ ｍ，ｘ（１：ｑ） （１：ｄｆ） は、事後分布ｐ（ｆ （１：ｄｆ） ｜Ｄ ｎ ）のｘ （１：ｑ） に対するｍ番目のサンプル点であり、ｆ （１：ｄｆ） は、ｄ ｆ 個の目的変数｛ｆ （１） （ｘ）、ｆ （２） （ｘ）、・・・ｆ （ｄｆ） （ｘ）｝であり、前記式Ｃ２における偏微分は、次式Ｃ３および式Ｃ４で表される。
【数1】
【数2】
【数3】
【数4】
【請求項2】
製品に要求される要求項目を満たすように、前記製品を構成する構成要素の設計値を求める製品設計装置であって、複数の要求項目を満たすように、複数の構成要素における複数の設計値を、前記要求項目を目的変数とし前記構成要素を説明変数とする多点探索のベイズ最適化を用いることによって求める設計処理部と、
前記設計処理部で求めた複数の設計値を出力する出力部と、
前記複数の要求項目および前記複数の構成要素それぞれの各実績値を実績情報として記憶する実績情報記憶部とを備え、
前記設計処理部は、
前記実績情報記憶部に記憶された実績情報に基づいて、前記目的変数の事前分布を生成する事前分布生成処理を行う事前分布生成部と、
前記事前分布生成部で生成された前記目的変数の事前分布からベイズ推定によって前記目的変数の事後分布を生成する事後分布生成処理を行う事後分布生成部と、
前記事後分布生成部で生成された事後分布に基づく獲得関数の大域的最適解を前記複数の設計値として求める最適解演算処理を行う最適解演算部とを備え、
前記最適解演算部は、勾配法で前記獲得関数の大域的最適点を求め、
前記獲得関数ｑ－ＥＨＩＲ ＭＣ （ｘ （１：ｑ） ）は、次式Ｃ５で表され、前記獲得関数の勾配▽ｑ－ＥＨＩＲ ＭＣ （ｘ （１：ｑ） ）は、次式Ｃ６で表される、
製品設計装置。
ただし、Ｍは、モンテカルロサンプリングのサンプリング数であり、Ｆ ｍ，ｘ（１：ｑ） （１：ｄｆ） は、事後分布ｐ（ｆ （１：ｄｆ） ｜Ｄ ｎ ）のｘ （１：ｑ） に対するｍ番目のサンプル点であり、ｆ （１：ｄｆ） は、ｄ ｆ 個の目的変数｛ｆ （１） （ｘ）、ｆ （２） （ｘ）、・・・ｆ （ｄｆ） （ｘ）｝であり、前記式Ｃ６における偏微分は、次式Ｃ７および式Ｃ８で表され、勾配保証量ＨＶＲ ＭＣ （ｑ’） は、次式Ｃ９のように定義され、ＨＶＲ（Ｆ ｍ，ｘ（ｑ’） （１：ｄｆ） ）は、Ｆ ｍ，ｘ（ｑ’） （１：ｄｆ） を基準点とし、非劣解集合Ｄ ｎ ＊ と予め設定された限界点（ｌｉｍｉｔ ｐｏｉｎｔ）で支配されるｈｙｐｅｒｖｏｌｕｍｅを示す。
【数5】
【数6】
【数7】
【数8】
【数9】
【請求項3】
前記実績情報記憶部に記憶された実績情報に追加する前記複数の要求項目および前記複数の構成要素それぞれの各実績値を入力する入力部をさらに備え、前記設計処理部は、前記入力部から前記複数の要求項目および前記複数の構成要素それぞれの各実績値が入力された場合に、前記入力部から入力された前記複数の要求項目および前記複数の構成要素それぞれの各実績値を前記実績情報記憶部に記憶された実績情報に追加した後に、前記事前分布生成処理、前記事後分布生成処理および前記最適解演算処理それぞれを、前記事前分布生成部、前記事後分布生成部および前記最適解演算部それぞれに行わせる繰り返し処理部をさらに備える、
請求項１または請求項２に記載の製品設計装置。
【請求項4】
コンピュータによって実行され、製品に要求される要求項目を満たすように、前記製品を構成する構成要素の設計値を求める製品設計方法であって、複数の要求項目を満たすように、複数の構成要素における複数の設計値を、前記要求項目を目的変数とし前記構成要素を説明変数とする多点探索のベイズ最適化を用いることによって求める設計処理工程と、
前記設計処理工程で求めた複数の設計値を出力する出力工程と、
前記複数の要求項目および前記複数の構成要素それぞれの各実績値を実績情報として実績情報記憶部に記憶する記憶工程とを備え、
前記設計処理工程は、
前記実績情報記憶部に記憶された実績情報に基づいて、前記目的変数の事前分布を生成する事前分布生成工程と、
前記事前分布生成工程で生成された前記目的変数の事前分布からベイズ推定によって前記目的変数の事後分布を生成する事後分布生成工程と、
前記事後分布生成工程で生成された事後分布に基づく獲得関数の大域的最適解を前記複数の設計値として求める最適解演算工程とを備え、
前記最適解演算工程は、勾配法で前記獲得関数の大域的最適点を求め、
前記獲得関数ｑ－ＥＨＩＭＣ（ｘ（１：ｑ））は、次式Ｃ１で表され、前記獲得関数の勾配▽ｑ－ＥＨＩＭＣ（ｘ（１：ｑ））は、次式Ｃ２で表される、
製品設計方法。
ただし、Ｍは、モンテカルロサンプリングのサンプリング数であり、Ｆｍ，ｘ（１：ｑ） （１：ｄｆ）は、事後分布ｐ（ｆ（１：ｄｆ）｜Ｄｎ）のｘ（１：ｑ）に対するｍ番目のサンプル点であり、ｆ（１：ｄｆ）は、ｄｆ個の目的変数｛ｆ（１）（ｘ）、ｆ（２）（ｘ）、・・・ｆ（ｄｆ）（ｘ）｝であり、前記式Ｃ２における偏微分は、次式Ｃ３および式Ｃ４で表される。
【数10】
【数11】
【数12】
【数13】
【請求項5】
コンピュータによって実行され、製品に要求される要求項目を満たすように、前記製品を構成する構成要素の設計値を求める製品設計方法であって、複数の要求項目を満たすように、複数の構成要素における複数の設計値を、前記要求項目を目的変数とし前記構成要素を説明変数とする多点探索のベイズ最適化を用いることによって求める設計処理工程と、
前記設計処理工程で求めた複数の設計値を出力する出力工程と、
前記複数の要求項目および前記複数の構成要素それぞれの各実績値を実績情報として実績情報記憶部に記憶する記憶工程とを備え、
前記設計処理工程は、
前記実績情報記憶部に記憶された実績情報に基づいて、前記目的変数の事前分布を生成する事前分布生成工程と、
前記事前分布生成工程で生成された前記目的変数の事前分布からベイズ推定によって前記目的変数の事後分布を生成する事後分布生成工程と、
前記事後分布生成工程で生成された事後分布に基づく獲得関数の大域的最適解を前記複数の設計値として求める最適解演算工程とを備え、
前記最適解演算工程は、勾配法で前記獲得関数の大域的最適点を求め、
前記獲得関数ｑ－ＥＨＩＲＭＣ（ｘ（１：ｑ））は、次式Ｃ５で表され、前記獲得関数の勾配▽ｑ－ＥＨＩＲＭＣ（ｘ（１：ｑ））は、次式Ｃ６で表される、
製品設計方法。
ただし、Ｍは、モンテカルロサンプリングのサンプリング数であり、Ｆｍ，ｘ（１：ｑ） （１：ｄｆ）は、事後分布ｐ（ｆ（１：ｄｆ）｜Ｄｎ）のｘ（１：ｑ）に対するｍ番目のサンプル点であり、ｆ（１：ｄｆ）は、ｄｆ個の目的変数｛ｆ（１）（ｘ）、ｆ（２）（ｘ）、・・・ｆ（ｄｆ）（ｘ）｝であり、前記式Ｃ６における偏微分は、次式Ｃ７および式Ｃ８で表され、勾配保証量ＨＶＲＭＣ （ｑ’）は、次式Ｃ９のように定義され、ＨＶＲ（Ｆｍ，ｘ（ｑ’） （１：ｄｆ））は、Ｆｍ，ｘ（ｑ’） （１：ｄｆ）を基準点とし、非劣解集合Ｄｎ ＊と予め設定された限界点（ｌｉｍｉｔ ｐｏｉｎｔ）で支配されるｈｙｐｅｒｖｏｌｕｍｅを示す。
【数14】
【数15】
【数16】
【数17】
【数18】
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、製品における複数の設計値を求める製品設計装置および製品設計方法に関する。
【背景技術】
【0002】
製品の設計では、通常、製品を構成する構成要素の値（設計値）が、前記製品に要求される所望の要求項目を満たすように、設計される。この前記構成要素の設計値の決定では、前記構成要素の値を変更しながら試作やシミュレーションが実施され、前記要求項目を所定の許容範囲で満たすか否かが評価され、適当な前記構成要素の設計値が探索される。この試作やシミュレーションには、通常、時間や費用等のコストがかかる。このため、現実的には、試作やシミュレーションの回数が制限され、その中でより適切な構成要素の設計値を求めることが重要となる。
【0003】
このような場合に、少ない評価回数で未知数を最適化する手法として、例えば非特許文献１および非特許文献２等に開示されたベイズ最適化が知られている。このベイス最適化は、目的変数と説明変数との関係を表す未知の目的関数に関し、大域的最適解を効率よく探索する手法である。このベイズ最適化を製品設計に応用する場合、前記構成要素が前記説明変数に当てられ、前記要求項目が前記目的変数に当てられる。
【0004】
このベイス最適化は、事前分布を生成する事前分布生成工程と、この事前分布からベイズ推定（ベイズ定理）により事後分布を生成する事後分布生成工程と、前記事後分布に関する獲得関数の大域的最適解を求める最適解演算工程とを備える。この最適解演算工程では、獲得関数と呼ばれる評価基準に基づき、前記次に評価すべき点が決定される。前記事前分布生成工程では、例えば非特許文献３等に開示された、代表的な手法であるＧａｕｓｓｉａｎ Ｐｒｏｃｅｓｓ（ガウス過程、ＧＰ）が用いられ、使用可能な観測データ（実績値）に基づいてガウス分布に従う確率モデルが前記事前分布として生成される。前記最適解演算工程では、前記事後分布生成工程で生成された事後分布に基づく獲得関数が最大となる点が次に評価すべき点として決定される。この獲得関数には、例えば、非特許文献４に開示されたＰｒｏｂａｂｉｌｉｔｙ ｏｆ Ｉｍｐｒｏｖｅｍｅｎｔ（ＰＩ）や、非特許文献５に開示されたＥｘｐｅｃｔｅｄ Ｉｍｐｒｏｖｅｍｅｎｔ（ＥＩ）や、非特許文献６に開示されたＵｐｐｅｒ Ｃｏｎｆｉｄｅｎｃｅ Ｂｏｕｎｄ（ＵＣＢ）や、非特許文献７に開示されたＥｎｔｏｒｏｐｙ Ｓｅａｒｃｈ（ＥＳ）や、非特許文献８に開示されたＳｔｅｐｗｉｓｅ Ｕｎｃｅｒｔａｉｎｔｙ Ｒｅｄｕｃｔｉｏｎ（ＳＵＲ）や、非特許文献９に開示されたＫｎｏｗｌｅｄｇｅ Ｇｒａｎｄｉｅｎｔ（ＫＧ）等が知られている。
【0005】
このベイズ最適化において、最も単純なベイズ最適化は、１点ずつ未知の目的関数を評価することによって、１個の目的変数を最適化する場合であるが、例えば非特許文献１０および非特許文献１１等のように、複数の目的変数を最適化するベイズ最適化（多目的最適化のベイズ最適化）や、例えば非特許文献１２および非特許文献１３等のように、１点ずつではなく複数点で多点探索を行うベイズ最適化（多点探索のベイズ最適化）も知られている。
【先行技術文献】
【非特許文献】
【0006】
【文献】SHAHRIARI,B.,SWERSKY, K., WANG, Z., ADAMS, R. P., AND DE FREITAS, N. , Taking the human out of the loop: A review of Bayesian optimization. Proceedings of the IEEE (2016)
【文献】BROCHU, E., CORA, V. M., AND DE FREITAS, N. A tutorial on Bayesian optimization of expensive cost functions, with application to active user modeling and hierarchical reinforcement learning. arXiv (2010)
【文献】Carl Rasmussen and Chris Williams. Gaussian Processes for Machine Learning. MIT Press, 2006.
【文献】Torn, A. and Zilinskas, A. Global optimization, (1989)
【文献】Jones, Donald R., Matthias Schonlau, and William J. Welch. Efficient global optimization of expensive black-box functions. Journal of Global optimization 13.4 (1998): 455492.
【文献】Srinivas, N., Krause, A., Seeger, M., and Kakade, S. M. Gaussian process optimization in the bandit setting: No regret and experimental design, ICML (2010)
【文献】Hernandez-Lobato J. M., Hoffman M. W. and Ghahramani Z. Predictive Entropy Search for Efficient Global Optimization of Black-box Functions, NIPS (2014)
【文献】Victor Picheny Multiobjective optimization using Gaussian process emulators via stepwise uncertainty reduction Statistics and Computing (2015)
【文献】P. Frazier, W.B. Powell, and S. Dayanik, The knowledge gradient policy for correlated normal beliefs, INFORMS Journal on Computing (2009)
【文献】Emmerich MT, Deutz AH, Klinkenberg JW Hypervolume-Based Expected Improvement: Monotonicity Properties and Exact Computation Congress of Evolutionary Compu-tation(CEC) (2011)
【文献】Svenson J, Santner T Multiobjective Optimization of Expensive-to-Evaluate Deterministic Computer Simulator Models, Computational Statistics and Data Analysis (2016)
【文献】David Ginsbourger, Rodolphe Le Riche, Laurent Carraro. Kriging Is Well-Suited to Parallelize Optimization. Computational Intelligence in Expensive Optimization Problems (2010)
【文献】J. Wu and P. Frazier. The parallel knowledge gradient method for batch bayesian optimization. NIPS (2016)
【発明の概要】
【発明が解決しようとする課題】
【0007】
ところで、製品を設計する場合、要求項目（目的変数）が複数である場合が多い。このような場合にベイズ最適化を製品設計に応用しようとすると、従来では、１点ずつ評価することによって、前記複数の目的変数を最適化する必要があるため、時間等のコストがかかってしまう。
【0008】
本発明は、上述の事情に鑑みて為された発明であり、その目的は、要求項目が複数である場合でも、コストをより低減できる製品設計装置および製品設計方法を提供することである。
【課題を解決するための手段】
【0009】
本発明者は、種々検討した結果、上記目的は、以下の本発明により達成されることを見出した。すなわち、本発明の一態様にかかる製品設計装置は、製品に要求される要求項目を満たすように、前記製品を構成する構成要素の設計値を求める装置であって、複数の要求項目を満たすように、複数の構成要素における複数の設計値を、前記要求項目を目的変数とし前記構成要素を説明変数とする多点探索のベイズ最適化を用いることによって求める設計処理部と、前記設計処理部で求めた複数の設計値を出力する出力部とを備える。
【0010】
このような製品設計装置は、複数の要求項目を満たすように、複数の構成要素における複数の設計値を、前記要求項目を目的変数とし前記構成要素を説明変数とする多点探索のベイズ最適化、すなわち、多点探索での多目的最適化のベイズ最適化を用いることによって求めるので、要求項目が複数である場合でも、コストをより低減できる。
【0011】
そして、上述の製品設計装置において、前記複数の要求項目および前記複数の構成要素それぞれの各実績値を実績情報として記憶する実績情報記憶部をさらに備え、前記設計処理部は、前記実績情報記憶部に記憶された実績情報に基づいて、前記目的変数の事前分布を生成する事前分布生成処理を行う事前分布生成部と、前記事前分布生成部で生成された前記目的変数の事前分布からベイズ推定によって前記目的変数の事後分布を生成する事後分布生成処理を行う事後分布生成部と、前記事後分布生成部で生成された事後分布に基づく獲得関数の大域的最適解を前記複数の設計値として求める最適解演算処理を行う最適解演算部とを備え、前記最適解演算部は、勾配法で前記獲得関数の大域的最適点を求める。好ましくは、上述の製品設計装置において、前記事前分布生成部は、Ｇａｕｓｓｉａｎ Ｐｒｏｃｅｓｓ（ガウス過程）を用いて前記事前分布を生成する。ここで、前記獲得関数ｑ－ＥＨＩ
ＭＣ
（ｘ
（１：ｑ）
）は、後述の式６で表され、前記獲得関数の勾配▽ｑ－ＥＨＩ
ＭＣ
（ｘ
（１：ｑ）
）は、後述の式７で表される。これによれば、勾配法で前記獲得関数の大域的最適点を求める製品設計装置が提供できる。このような製品設計装置は、後述の式６および式７により近似的に勾配を計算できる。
【0012】
そして、上述の製品設計装置において、前記複数の要求項目および前記複数の構成要素それぞれの各実績値を実績情報として記憶する実績情報記憶部をさらに備え、前記設計処理部は、前記実績情報記憶部に記憶された実績情報に基づいて、前記目的変数の事前分布を生成する事前分布生成処理を行う事前分布生成部と、前記事前分布生成部で生成された前記目的変数の事前分布からベイズ推定によって前記目的変数の事後分布を生成する事後分布生成処理を行う事後分布生成部と、前記事後分布生成部で生成された事後分布に基づく獲得関数の大域的最適解を前記複数の設計値として求める最適解演算処理を行う最適解演算部とを備え、前記最適解演算部は、勾配法で前記獲得関数の大域的最適点を求める。好ましくは、上述の製品設計装置において、前記事前分布生成部は、Ｇａｕｓｓｉａｎ Ｐｒｏｃｅｓｓ（ガウス過程）を用いて前記事前分布を生成する。ここで、前記獲得関数ｑ－ＥＨＩＲ
ＭＣ
（ｘ
（１：ｑ）
）は、後述の式１６で表され、前記獲得関数の勾配▽ｑ－ＥＨＩＲ
ＭＣ
（ｘ
（１：ｑ）
）は、後述の式１７で表される。これによれば、勾配法で前記獲得関数の大域的最適点を求める製品設計装置が提供できる。このような製品設計装置は、後述の式１６および式１７により、勾配の消失を回避できる。
【0013】
他の一態様では、これら上述の製品設計装置において、前記実績情報記憶部に記憶された実績情報に追加する前記複数の要求項目および前記複数の構成要素それぞれの各実績値を入力する入力部をさらに備え、前記設計処理部は、前記入力部から前記複数の要求項目および前記複数の構成要素それぞれの各実績値が入力された場合に、前記入力部から入力された前記複数の要求項目および前記複数の構成要素それぞれの各実績値を前記実績情報記憶部に記憶された実績情報に追加した後に、前記事前分布生成処理、前記事後分布生成処理および前記最適解演算処理それぞれを、前記事前分布生成部、前記事後分布生成部および前記最適解演算部それぞれに行わせる繰り返し処理部をさらに備える。
【0014】
このような製品設計装置は、当該製品設計装置で求められた設計値で例えば試作やシミュレーション等によって製品を試した場合に、これによって新たに得られた各実績値を入力部から入力して新たな実績情報として、前記実績情報記憶部に記憶された実績情報に追加でき、前記新たに得られた実績情報を追加した追加の実績情報で新たな設計値を求めることができる。
【0015】
本発明の他の一態様にかかる製品設計方法は、コンピュータによって実行され、製品に要求される要求項目を満たすように、前記製品を構成する構成要素の設計値を求める方法であって、複数の要求項目を満たすように、複数の構成要素における複数の設計値を、前記要求項目を目的変数とし前記構成要素を説明変数とする多点探索のベイズ最適化を用いることによって求める設計処理工程と、前記設計処理工程で求めた複数の設計値を出力する出力工程と、前記複数の要求項目および前記複数の構成要素それぞれの各実績値を実績情報として実績情報記憶部に記憶する記憶工程とを備え、前記設計処理工程は、前記実績情報記憶部に記憶された実績情報に基づいて、前記目的変数の事前分布を生成する事前分布生成工程と、前記事前分布生成工程で生成された前記目的変数の事前分布からベイズ推定によって前記目的変数の事後分布を生成する事後分布生成工程と、前記事後分布生成工程で生成された事後分布に基づく獲得関数の大域的最適解を前記複数の設計値として求める最適解演算工程とを備え、前記最適解演算工程は、勾配法で前記獲得関数の大域的最適点を求める。ここで、前記獲得関数ｑ－ＥＨＩＭＣ（ｘ（１：ｑ））は、後述の式６で表され、前記獲得関数の勾配▽ｑ－ＥＨＩＭＣ（ｘ（１：ｑ））は、後述の式７で表される。
【0016】
このような製品設計方法は、複数の要求項目を満たすように、複数の構成要素における複数の設計値を、多点探索での多目的最適化のベイズ最適化を用いることによって求めるので、要求項目が複数である場合でも、コストをより低減できる。これによれば、勾配法で前記獲得関数の大域的最適点を求める製品設計方法が提供できる。このような製品設計方法は、後述の式６および式７により近似的に勾配を計算できる。
【0017】
本発明の他の一態様にかかる製品設計方法は、コンピュータによって実行され、製品に要求される要求項目を満たすように、前記製品を構成する構成要素の設計値を求める方法であって、複数の要求項目を満たすように、複数の構成要素における複数の設計値を、前記要求項目を目的変数とし前記構成要素を説明変数とする多点探索のベイズ最適化を用いることによって求める設計処理工程と、前記設計処理工程で求めた複数の設計値を出力する出力工程と、前記複数の要求項目および前記複数の構成要素それぞれの各実績値を実績情報として実績情報記憶部に記憶する記憶工程とを備え、前記設計処理工程は、前記実績情報記憶部に記憶された実績情報に基づいて、前記目的変数の事前分布を生成する事前分布生成工程と、前記事前分布生成工程で生成された前記目的変数の事前分布からベイズ推定によって前記目的変数の事後分布を生成する事後分布生成工程と、前記事後分布生成工程で生成された事後分布に基づく獲得関数の大域的最適解を前記複数の設計値として求める最適解演算工程とを備え、前記最適解演算工程は、勾配法で前記獲得関数の大域的最適点を求める。ここで、前記獲得関数ｑ－ＥＨＩＲＭＣ（ｘ（１：ｑ））は、後述の式１６で表され、前記獲得関数の勾配▽ｑ－ＥＨＩＲＭＣ（ｘ（１：ｑ））は、後述の式１７で表される。
【0018】
このような製品設計方法は、複数の要求項目を満たすように、複数の構成要素における複数の設計値を、多点探索での多目的最適化のベイズ最適化を用いることによって求めるので、要求項目が複数である場合でも、コストをより低減できる。これによれば、勾配法で前記獲得関数の大域的最適点を求める製品設計方法が提供できる。このような製品設計方法は、後述の式１６および式１７により、勾配の消失を回避できる。
【発明の効果】
【0021】
本発明にかかる製品設計装置および製品設計方法は、要求項目が複数である場合でも、コストをより低減できる。
【図面の簡単な説明】
【0022】
【図1】実施形態における製品設計装置の構成を示すブロック図である。
【図2】２個の目的変数ｙ（１）、ｙ（２）の場合における、ｈｙｐｅｒｖｏｌｕｍｅ ｉｍｐｒｏｖｅｍｅｎｔの改善しろを説明するための図である。
【図3】２個の目的変数ｙ（１）、ｙ（２）の場合における、獲得関数に対するモンテカルロサンプリングによる近似計算を説明するための図である。
【図4】実施形態における製品設計装置の動作を示すフローチャートである。
【図6】２個の目的変数ｙ（１）、ｙ（２）の場合における、ｈｙｐｅｒｖｏｌｕｍｅ ｉｍｐｒｏｖｅｍｅｎｔの勾配保証量を説明するための図である。
【発明を実施するための形態】
【0023】
以下、図面を参照して、本発明の１または複数の実施形態が説明される。しかしながら、発明の範囲は、開示された実施形態に限定されない。なお、各図において同一の符号を付した構成は、同一の構成であることを示し、適宜、その説明を省略する。本明細書において、総称する場合には添え字を省略した参照符号で示し、個別の構成を指す場合には添え字を付した参照符号で示す。
（第１実施形態）
図１は、実施形態における製品設計装置の構成を示すブロック図である。図１には、第１および第２実施形態における製品設計装置Ｄａ、Ｄｂが図示されており、図１では、第１実施形態の製品設計装置Ｄａにおける構成には、添え字「ａ」を備えた符号が付され、第２実施形態の製品設計装置Ｄｂにおける構成には、添え字「ｂ」を備えた符号が付され、第１および第２実施形態の製品設計装置Ｄａ、Ｄｂにおける共通な構成には、添え字の無い符号が付されている。図２は、２個の目的変数ｙ（１）、ｙ（２）の場合における、ｈｙｐｅｒｖｏｌｕｍｅ ｉｍｐｒｏｖｅｍｅｎｔの改善しろを説明するための図である。図３は、２個の目的変数ｙ（１）、ｙ（２）の場合における、獲得関数に対するモンテカルロサンプリングによる近似計算を説明するための図である。図２および図３における各横軸は、目的変数ｙ（１）であり、それら各縦軸は、目的変数ｙ（２）である。
（第１実施形態）
図１は、実施形態における製品設計装置の構成を示すブロック図である。図１には、第１および第２実施形態における製品設計装置Ｄａ、Ｄｂが図示されており、図１では、第１実施形態の製品設計装置Ｄａにおける構成には、添え字「ａ」を備えた符号が付され、第２実施形態の製品設計装置Ｄｂにおける構成には、添え字「ｂ」を備えた符号が付され、第１および第２実施形態の製品設計装置Ｄａ、Ｄｂにおける共通な構成には、添え字の無い符号が付されている。図２は、２個の目的変数ｙ（１）、ｙ（２）の場合における、ｈｙｐｅｒｖｏｌｕｍｅ ｉｍｐｒｏｖｅｍｅｎｔの改善しろを説明するための図である。図３は、２個の目的変数ｙ（１）、ｙ（２）の場合における、獲得関数に対するモンテカルロサンプリングによる近似計算を説明するための図である。図２および図３における各横軸は、目的変数ｙ（１）であり、それら各縦軸は、目的変数ｙ（２）である。
【0024】
第１実施形態における製品設計装置Ｄａは、製品に要求される要求項目を満たすように、前記製品を構成する構成要素の設計値を求める装置であり、例えば、図１に示すように、制御処理部１ａと、入力部２と、出力部３と、インターフェース部（ＩＦ部）４と、記憶部５とを備える。
【0025】
入力部２は、制御処理部１ａに接続され、例えば、設計値の演算開始を指示するコマンド等の各種コマンド、および、例えば、設計する製品の名称（例えば開発コード等）や後述の実績情報等の、前記設計値の演算を行う上で必要な各種データを製品設計装置Ｄａに入力する装置であり、例えば、所定の機能を割り付けられた複数の入力スイッチ、キーボードおよびマウス等である。出力部３は、制御処理部１ａに接続され、制御処理部１ａの制御に従って、入力部２から入力されたコマンドやデータ、および、当該製品設計装置Ｄａによって演算された設計値等を出力する装置であり、例えばＣＲＴディスプレイ、ＬＣＤ（液晶表示装置）および有機ＥＬディスプレイ等の表示装置やプリンタ等の印刷装置等である。
【0026】
ＩＦ部４は、制御処理部１ａに接続され、制御処理部１ａの制御に従って、外部機器との間でデータの入出力を行う回路であり、例えば、シリアル通信方式であるＲＳ－２３２Ｃのインターフェース回路、Ｂｌｕｅｔｏｏｔｈ（登録商標）規格を用いたインターフェース回路、ＩｒＤＡ（Ｉｎｆｒａｒｅｄ Ｄａｔａ Ａｓｓｃｏｉａｔｉｏｎ）規格等の赤外線通信を行うインターフェース回路、および、ＵＳＢ（Ｕｎｉｖｅｒｓａｌ Ｓｅｒｉａｌ Ｂｕｓ）規格を用いたインターフェース回路等である。また、ＩＦ部４は、外部機器との間で通信を行う回路であり、例えば、データ通信カードや、ＩＥＥＥ８０２．１１規格等に従った通信インターフェース回路等であっても良い。
【0027】
記憶部５は、制御処理部１ａに接続され、制御処理部１ａの制御に従って、各種の所定のプログラムおよび各種の所定のデータを記憶する回路である。前記各種の所定のプログラムには、例えば、製品設計装置Ｄａの各部２～５を制御する制御プログラムや、製品に要求される複数の要求項目を満たすように、前記製品を構成する複数の構成要素における複数の設計値を、前記要求項目を目的変数とし前記構成要素を説明変数とする多点探索のベイズ最適化を用いることによって求める設計処理プログラム等の制御処理プログラムが含まれる。前記設計処理プログラムは、後述の実績情報記憶部５１に記憶された実績情報に基づいて、前記目的変数の事前分布を生成する事前分布生成処理を行う事前分布生成プログラムと、前記事前分布生成プログラムで生成された前記目的変数の事前分布からベイズ推定によって前記目的変数の事後分布を生成する事後分布生成処理を行う事後分布生成プログラムと、前記事後分布生成プログラムで生成された事後分布に基づく獲得関数の大域的最適解を前記複数の設計値として求める最適解演算処理を行う最適解演算プログラムと、入力部２から前記複数の要求項目および前記複数の構成要素それぞれの各実績値が入力された場合に、入力部２から入力された前記複数の要求項目および前記複数の構成要素それぞれの各実績値を実績情報記憶部５１に記憶された実績情報に追加した後に、前記事前分布生成処理、前記事後分布生成処理および前記最適解演算処理それぞれを、前記事前分布生成プログラム、前記事後分布生成プログラムおよび前記最適解演算プログラムそれぞれに行わせる繰り返し処理プログラムとを含む。前記各種の所定のデータには、製品の名称や実績情報等の、これら各プログラムを実行する上で必要なデータが含まれる。このような記憶部５は、例えば不揮発性の記憶素子であるＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）や書き換え可能な不揮発性の記憶素子であるＥＥＰＲＯＭ（Ｅｌｅｃｔｒｉｃａｌｌｙ Ｅｒａｓａｂｌｅ Ｐｒｏｇｒａｍｍａｂｌｅ Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）等を備える。記憶部５は、前記所定のプログラムの実行中に生じるデータ等を記憶するいわゆる制御処理部１ａのワーキングメモリとなるＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）等を含む。また、記憶部５は、比較的記憶容量の大きいハードディスク装置を備えて構成されても良い。そして、記憶部５は、実績情報記憶部５１を機能的に備える。
【0028】
実績情報記憶部５１は、実績情報を記憶するものである。前記実績情報は、製造、試作およびシミュレート等された複数の製品それぞれにおける、前記複数の要求項目および前記複数の構成要素それぞれの各実績値（各観測データ）Ｄｎ（Ｄｎ＝｛（ｘ１、ｙ１）、（ｘ２、ｙ２）、・・・・、（ｘｎ、ｙｎ）｝（説明変数ｘｉ、目的変数ｙｉ））である。
【0029】
例えば、機械設計では、軽量でありながら、振動を抑制するために高い剛性が機械に求められ、前記機械の使用条件下で損傷しないように応力集中を避けるように、前記機械を設計する必要がある。このような場合に、前記機械の形状を決定したうえで、前記複数の要求項目は、前記機械の重量、剛性および最大応力を含み、前記複数の構成要素は、前記機械の各部材の各寸法を含む。
【0030】
また例えば、機械の動作を制御する制御装置のパラメータ設計では、前記制御装置が様々な複数の使用条件下で利用される場合、各使用条件下で前記機械の性能を最大にするように前記パラメータを設計する必要がある。例えば、前記機械が６軸多関節のロボットである場合、前記ロボットが比較的重い物体を持つ高負荷の使用条件下の場合、および、前記ロボットが比較的軽い物体を持つ低負荷の使用条件下の場合の両方の使用条件下で、前記ロボットの動作軌跡のへの追従性能が要求される。このような場合に、前記複数の要求項目は、各使用条件下の各性能を含み、前記複数の構成要素は、前記制御装置の各パラメータ（例えばＰＩＤ制御のＰＩＤゲイン等）を含む。
【0031】
より詳しくは、例えば、前記製品が鋼板である場合には、高強度で伸び易い鋼板が求められ、それを実現する鋼板の各組成成分を設計する必要がある。このような場合に、前記複数の要求項目は、強度および伸び易さを含み、前記複数の構成要素は、鋼板の各組成成分を含む。
【0032】
このような実績情報は、例えば、入力部２から入力されて実績情報記憶部５１に記憶されて良く、また例えば、実績情報を記録した記録媒体（例えばＣＤ－ＲＯＭ、ＤＶＤ－ＲＯＭおよびＵＳＢメモリ等）から、ＩＦ部４を介して入力されて実績情報記憶部５１に記憶されて良く、また例えば、実績情報を記憶した、ネットワークのサーバ装置から、前記ネットワークおよびＩＦ部４を介して入力されて実績情報記憶部５１に記憶されて良い。
【0033】
制御処理部１ａは、製品設計装置Ｄａの各部２～５を当該各部の機能に応じてそれぞれ制御し、後述の多点探索での多目的最適化のベイズ最適化を用いることによって、製品に要求される要求項目を満たすように、前記製品を構成する構成要素の設計値を求めるための回路である。制御処理部１ａは、例えば、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）およびその周辺回路を備えて構成される。制御処理部１ａは、制御処理プログラムが実行されることによって、制御部１１および設計処理部１２ａを機能的に備える。
【0034】
制御部１１は、当該製品設計装置Ｄａの各部２～５を当該各部の機能に応じてそれぞれ制御し、製品設計装置Ｄａの全体制御を司るものである。
【0035】
設計処理部１２ａは、複数の要求項目を満たすように、複数の構成要素における複数の設計値を、前記要求項目を目的変数とし前記構成要素を説明変数とする多点探索のベイズ最適化、すなわち、多点探索での多目的最適化のベイズ最適化を用いることによって求めるものである。設計処理部１２ａは、本実施形態では、事前分布生成部１２１と、事後分布生成部１２２と、最適解演算部１２３ａと、繰り返し処理部１２４とを機能的に備える。
【0036】
事前分布生成部１２１は、実績情報記憶部５１に記憶された実績情報に基づいて、前記目的変数の事前分布を生成する事前分布生成処理を行うものである。
【0037】
より具体的には、本実施形態では、例えば、複数の目的変数それぞれに対して、事前分布生成部１２１は、いわゆるＧａｕｓｓｉａｎ Ｐｒｏｃｅｓｓ（ガウス過程、ＧＰ）を用いることによって前記目的変数の事前分布を確率モデルとして生成する。前記ＧＰは、正定値カーネル関数ｋ（ｘ、ｘ’）で定義される事前分布ｐ（ｆ（ｘ））＝Ｎ（０、Ｋｎ）に従う確率過程である。ここで、関数ｆは、説明変数ｘと目的変数ｙ＝ｆ（ｘ）とを関係づける目的関数（未知の目的関数）であり、Ｋｎは、［Ｋｎ］ｉ，ｊ＝ｋ（ｘｉ、ｘｊ）の要素を持つｉ行ｊ列の共分散行列である。前記カーネル関数は、種々、提案されており、例えば、本実施形態では、次式１で定義されるＡｕｔｏｍａｔｉｃ Ｒｅｌｅｖａｎｃｅ Ｄｅｔｅｒｍｉｎａｔｉｏｎ（ＡＲＤ）型のＧａｕｓｓｉａｎカーネル関数が利用される。
【0038】
なお、ｘｉは、ｉ番目の製品の設計値（ベクトル）を表し、ｘｉは、製品の設計値ｘのｉ番目の要素（スカラー）を表す。
【0039】
【数1】
【0040】
ここで、σｋ、ｌｉは、カーネル関数の形状（プロファイル）を調整する０より大きな値のハイパーパラメータである。このため、本実施形態では、事前分布生成部１２１は、実績情報記憶部５１に記憶された実績情報（実測データ）Ｄｎに基づいて、例えば最尤推定により、これらハイパーパラメータσｋ、ｌｉを求め、前記目的変数の事前分布ｐ（ｆ（ｘ））を生成する。
【0041】
事後分布生成部１２２は、事前分布生成部１２１で生成された事前分布からベイズ推定（ベイズの定理）によって事後分布を生成する事後分布生成処理を行うものである。より具体的には、事後分布生成部１２２は、事前分布生成部１２１で求められた式１で表されるカーネル関数を用いた事前分布ｐ（ｆ（ｘ））＝Ｎ（０、Ｋｎ）から、次式２ないし式４で表される事後分布ｐ（ｆ（ｘ）｜Ｄｎ）を求める。
【0042】
【数2】
【0043】
【数3】
【0044】
【数4】
【0045】
ここで、ｋｎ（ｘ）＝［ｋ（ｘ、ｘ１）、ｋ（ｘ、ｘ２）、・・・、ｋ（ｘ、ｘｎ）］Ｔであり、Ｙ＝［ｙ１、ｙ２、・・・、ｙｎ］Ｔである。なお、ｙは、或る１つの設計値ｘに対応する目的変数を表し、Ｙは、複数の製品の目的関数を纏めたベクトルを表す。
【0046】
最適解演算部１２３ａは、事後分布生成部１２２で生成された事後分布に基づく獲得関数の大域的最適解を前記複数の設計値として求める最適解演算処理を行うものである。
【0047】
上述のように、従来、多目的最適化のベイズ最適化は、種々、提案されている。例えば、前記非特許文献１０に開示された手法は、上述のＥＩの考え方をいわゆるｈｙｐｅｒｖｏｌｕｍｅ ｉｍｐｒｏｖｅｍｅｎｔ（ＨＶＩ）へ拡張した手法（Ｅｘｐｅｃｔｅｄ ｈｙｐｅｒｖｏｌｕｍｅ ｉｍｐｒｏｖｅｍｅｎｔ（ＥＨＩ））であり、獲得関数Ｊ（ｘ）として、次式Ａが用いられ、ＨＶＩは、次式Ｂで定義される。
【0048】
【数5】
【0049】
【数6】
【0050】
ここで、Ｅ（ａ）は、ａの期待値であり、ｐ（ｆ（１：ｄｆ）｜Ｄｎ）は、１からｄｆまでのｄｆ個の目的変数ｆ（１：ｄｆ）の事後分布を表し、ｋ番目の目的変数と説明変数とを関係付けるｋ番目の目的関数をｆ（ｋ）とする場合に、目的変数ｆ（１：ｄｆ）＝｛ｆ（１）（ｘ）、ｆ（２）（ｘ）、・・・、ｆ（ｄｆ）（ｘ）｝である。
【0051】
ｄｆ個の目的変数ｆ（１：ｄｆ）を最小化する多目的最適化のベイズ最適化では、唯一の解が存在せず、いわゆるパレート解となる。このパレート解の集合により形成される目的変数空間上の面であるパレートフロントの解を探索することが目的となる。この探索では、観測データＤｎに基づく非劣解集合Ｄ＊
ｎによって形成される面（パレートフロント）に対し、新たな点を追加したＤｎ＋１（＝｛Ｄｎ、（ｘｎ＋１、ｆｎ＋１
（１：ｄｆ））際に改善される改善しろに基づいて解が探索される。この改善しろを求める指標は、例えば前記ｈｙｐｅｒｖｏｌｕｍｅ ｉｍｐｒｏｖｅｍｅｎｔやａｄｄｉｔｉｖｅ ｅｐｓｉｌｏｎ等があり、前記ｈｙｐｅｒｖｏｌｕｍｅ ｉｍｐｒｏｖｅｍｅｎｔでは、例えば、図２に示すように、基準点（ｒｅｆｅｒｅｎｃｅ ｐｏｉｎｔ）★を上限とし、非劣解集合Ｄｎ
＊によって支配される領域のＬｅｂｅｓｇｕｒｅ測度（ｈｙｐｅｒｖｏｌｕｍｅと呼ばれる）をＨＶ（Ｄｎ
＊）とする場合、前記改善しろを求める指標は、上述の式Ａのように獲得関数Ｊ（ｘ）として表される。
【0052】
一方、本実施形態では、このようなＥＨＩによる多目的最適化のベイズ最適化をさらに多点探索のベイズ最適化に拡張することによって、多点探索での多目的最適化のベイズ最適化が実現される。すなわち、本実施形態における多点探索での多目的最適化のベイズ最適化では、獲得関数ｑ－ＥＨＩ（ｘ（１：ｑ））として、次式５が用いられる。
【0053】
【数7】
【0054】
ここで、ＨＶＩ（ｆ（１：ｄｆ）（ｘ（１：ｑ）））は、ＨＶ（Ｄｎ
＊）に対してｑ個の候補点ｆ（１：ｄｆ）（ｘ（１：ｑ））を追加した場合のＨｙｐｅｒｖｏｌｕｍｅの改善量（改善しろ）である。ｐ（ｆ（１：ｄｆ））は、観測データＤｎが得られた下でのｘ（１：ｑ）におけるｆ（１：ｄｆ）の事後分布である。各目的変数ｆ（ｋ）は、独立したＧＰに従うものとし、ｐ（ｆ（１：ｄｆ））＝ｐ（ｆ（１）（ｘ（１：ｑ））｜Ｄｎ）×ｐ（ｆ（２）（ｘ（１：ｑ））｜Ｄｎ）×・・・×ｐ（ｆ（ｄｆ）（ｘ（１：ｑ））｜Ｄｎ）とする。
【0055】
この式５は、多変量ガウス分布に関する積分計算を必要とするため、解析的に解くことが難しい。このため、例えば図３に示すように、モンテカルロサンプリングにより、式５は、次式６のように近似される。
【0056】
【数8】
【0057】
ここで、Ｍは、サンプリング数であり、式６におけるＨＶＩの括弧内の文字変数は、確率分布ｐ（ｆ（１：ｄｆ）｜Ｄｎ）のｘ（１：ｑ）に対するｍ番目のサンプル点である。
【0058】
この式６の獲得関数ｑ－ＥＨＩＭＣ（ｘ（１：ｑ））に基づき候補点を決定するためには、獲得関数ｑ－ＥＨＩＭＣ（ｘ（１：ｑ））が最大となる点を探索する必要がある。多点探索の場合には、ｑｄｘの次元となるため、従来の１点探索のベイズ最適化と比較して、ｑ倍の高次元空間での探索となる。このため、本実施形態では、獲得関数の効率的な最適化を行うために、勾配法に基づき式６の獲得関数ｑ－ＥＨＩＭＣ（ｘ（１：ｑ））が最適化される。
【0059】
より具体的には、式６の獲得関数ｑ－ＥＨＩＭＣ（ｘ（１：ｑ））の勾配▽ｑ－ＥＨＩＭＣ（ｘ（１：ｑ））は、次式７で表され、この式７における偏微分は、次の式８および式９で表される。
【0060】
【数9】
【0061】
【数10】
【0062】
【数11】
【0063】
この式９より、式７の獲得関数の勾配▽ｑ－ＥＨＩＭＣ（ｘ（１：ｑ））を計算するためには、ＨＶＩの目的変数に関する偏微分∂ＨＶＩ（Ｆｍ
（１：ｄｆ））／∂Ｆｍ
（ｋ）（式９における乗算の前半部分）と、前記目的変数の説明変数に関する偏微分∂Ｆｍ
（ｋ）／∂ｘ（ｉ）（式９における乗算の後半部分）とを計算する必要がある。
【0064】
ＨＶＩの目的変数に関する偏微分∂ＨＶＩ（Ｆｍ
（１：ｄｆ））／∂Ｆｍ
（ｋ）は、基準となるＨＶＩ（Ｆｍ
（１：ｄｆ））と、Ｆｍ
（１：ｄｆ）の各要素に微小変動δｆを加えたＨＶＩ（・・・、Ｆｍ
（ｋ）＋δｆ、・・・）のｄｆ＋１回のＨＶＩ計算による数値微分で計算される。
【0065】
前記目的変数の説明変数に関する偏微分∂Ｆｍ
（ｋ）／∂ｘ（ｉ）も、ＨＶＩの目的変数に関する偏微分∂ＨＶＩ（Ｆｍ
（１：ｄｆ））／∂Ｆｍ
（ｋ）と同様に、数値微分で計算されて良い。しかしながら、ｘ（１：ｑ）の或る要素ｘｉ（ｑ’）に微小変動δｘを与えた点に関する確率分布ｐ（ｆ（１：ｄｆ）（・・・、ｘｉ（ｑ’）＋δｘ、・・・）｜Ｄｎ）を求める計算コストは、Ｏ（ｎ２）となり、観測データ数ｎに依存するため、ベイズ最適化による繰り返し探索が進むに従って大きくなる。このため、本実施形態では、確率分布ｐ（ｆ（１：ｄｆ）｜Ｄｎ）に従うＦｍ
（１：ｄｆ）の勾配が計算される。
【0066】
より具体的には、不変カーネルｋ（ｘ、ｘ’）に関して、Ｂｏｃｈｎｅｒ’ｓ定理（S. Bochner. Lectures on Fourier Integrals. Princeton University Press, 1959.参照）により、不変カーネルｋ（ｘ、ｘ’）のスペクトル密度に等しいフーリエ双対ｓ（ｗ）が存在し、正規化した確率密度関数をｐ（ｗ）＝ｓ（ｗ）／α、一様分布に従う確率変数をｂ～Ｕ［０、２π］とする場合に、不変カーネルｋ（ｘ、ｘ’）は、次式１０で表される。そして、ｐ（ｗ、ｂ）からサンプリングしたｒ個の点を纏めたＷ∈Ｒｒ×ｄｘ、ｂ∈Ｒｒを用いて次式１１の基底関数を定義すると、不変カーネルｋ（ｘ、ｘ’）は、基底関数の内積で近似できる（ｋ（ｘ、ｘ’）≒φ（ｘ）Ｔφ（ｘ’））。これにより、確率分布ｐ（ｆ（ｋ）｜Ｄｎ）に従うサンプルは、線形モデルの次式１２および次式１３で表される。ここで、Ａ＝ΦＴΦ＋σ２Ｉ，ΦＴ＝［φ（ｘ１）、φ（ｘ２）、・・・、φ（ｘｎ）］である。実際に、ｌｉｍｒ→∞ｇ（ｋ）は、ｐ（ｆ（ｋ）｜Ｄｎ）に従う真のサンプルに一致する（R. M. Neal. Bayesian Learning for Neural Networks. PhD thesis, University of Toronto, 1995.参照）。
【0067】
【数12】
【0068】
【数13】
【0069】
【数14】
【0070】
【数15】
【0071】
この式１２は、ｘの関数であるため、その勾配は、次式１４で表される。ここで、［Ｗ］：，ｉは、Ｗのｉ列目のベクトルを示す。この式１４を用いることにより、前記目的変数の説明変数に関する偏微分が求められる。
【0072】
【数16】
【0073】
以上より、式７の勾配が求められるから、勾配法により、式６、すなわち、式５の大域的最適解が前記構成要素の設計値として求められる。
【0074】
そして、制御処理部１ａは、その制御部１１によって、設計処理部１２ａの最適解演算部１２３ａで求められた大域的最適解を前記構成要素の設計値として出力部３から出力する。
【0075】
繰り返し処理部１２４は、入力部２から前記複数の要求項目および前記複数の構成要素それぞれの各実績値が入力された場合に、前記入力部２から入力された前記複数の要求項目および前記複数の構成要素それぞれの各実績値を実績情報記憶部５１に記憶された実績情報に追加した後に、前記事前分布生成処理、前記事後分布生成処理および前記最適解演算処理それぞれを、事前分布生成部１２１、事後分布生成部１２２および最適解演算部１２３ａそれぞれに行わせるものである。
【0076】
このような製品設計装置Ｄａは、例えば、デスクトップ型やノード型等のコンピュータによって構成可能である。
【0077】
次に、第１実施形態の動作について説明する。図４は、実施形態における製品設計装置の動作を示すフローチャートである。図５は、図４に示す獲得関数の最適化の動作を示すフローチャートである。図４および図５には、第１および第２実施形態の製品設計装置Ｄａ、Ｄｂにおける各動作が図示されており、図４および図５では、第１実施形態の製品設計装置Ｄａにおける動作には、添え字「ａ」を備えた符号が付され、第２実施形態の製品設計装置Ｄｂにおける動作には、添え字「ｂ」を備えた符号が付され、第１および第２実施形態の製品設計装置Ｄａ、Ｄｂにおける共通な動作には、添え字の無い符号が付されている。
【0078】
このような構成の製品設計装置Ｄａは、その電源が投入されると、必要な各部の初期化を実行し、その稼働を始める。その制御処理プログラムの実行によって、制御処理部１ａには、制御部１１および設計処理部１２ａが機能的に構成され、設計処理部１２ａには、事前分布生成部１２１、事後分布生成部１２２、最適解演算部１２３ａおよび繰り返し処理部１２４が機能的に構成される。なお、実績情報記憶部５１には、入力部２やＩＦ部４を介して実績情報が記憶されているものとする。
【0079】
例えば設計開始の指示を入力部２で受け付けると、図４において、まず、設計処理部１２ａの事前分布生成部１２１は、実績情報記憶部５１に記憶された実績情報に基づいて、前記目的変数の事前分布を生成する（Ｓ１、事前分布生成処理）。より具体的には、本実施形態では、事前分布生成部１２１は、例えば、実績情報記憶部５１に記憶された実績情報（実測データ）Ｄｎに基づいて、例えば最尤推定により、上述の式１におけるハイパーパラメータσｋ、ｌｉを求め、前記目的変数の事前分布ｐ（ｆ（ｘ））を生成する。
【0080】
次に、設計処理部１２ａの事後分布生成部１２２は、事前分布生成部１２１で生成された事前分布からベイズ推定（ベイズの定理）によって事後分布を生成する（Ｓ２、事後分布生成処理）。より具体的には、本実施形態では、事後分布生成部１２２は、例えば、事前分布生成部１２１で求められた式１で表される事前分布ｐ（ｆ（ｘ））＝Ｎ（０、Ｋｎ）から、次式２ないし式４で表される事後分布ｐ（ｆ（ｘ）｜Ｄｎ）を求める。
【0081】
次に、設計処理部１２ａの最適解演算部１２３ａは、事後分布生成部１２２で生成された事後分布に基づく獲得関数の大域的最適解を前記複数の設計値として求める（Ｓ３ａ、最適解演算処理）。本実施形態では、最適解演算部１２３ａは、上述の式５の大域的最適解を、ここでは、近似式の式６の大域的最適解を、例えば勾配法により、前記複数の設計値として求める。より具体的には、最適解演算部１２３ａは、獲得関数の勾配を表す上述の式７ないし式９において、ＨＶＩの目的変数に関する偏微分∂ＨＶＩ（Ｆｍ
（１：ｄｆ））／∂Ｆｍ
（ｋ）を数値微分で計算し、前記目的変数の説明変数に関する偏微分∂Ｆｍ
（ｋ）／∂ｘ（ｉ）を、上述の式１０ないし式１４を用いて計算することで、勾配法によって広域的最適解を、前記複数の設計値として求める。
【0082】
より詳しくは、図５において、まず、最適解演算部１２３ａは、事後分布生成部１２２で生成された事後分布ｐ（ｆ（ｘ）｜Ｄｎ）に基づく関数を複数生成し、候補点の初期値をランダム（無作為）に生成する（Ｓ３１）。前記複数の関数は、本実施形態では、上述の式１２および式１３を用いて生成される。次に、最適解演算部１２３ａは、これら生成した複数の関数に基づき式６の近似の獲得関数を求める（Ｓ３２ａ）。次に、最適解演算部１２３ａは、この近似の獲得関数の勾配を、数値微分や上述の各式を用いて求め（Ｓ３４）、この求めた勾配から、最急降下法、共役勾配法、準ニュートン法等の勾配法により、処理Ｓ３２ａで求めた近似の獲得関数が最大となる方向へ、次の候補点を求めて更新する（Ｓ３４）。そして、最適解演算部１２３ａは、勾配法の収束条件を満たすか否かを判定し、この判定の結果、前記収束条件を満たしていない場合（Ｎｏ）には、この更新した候補点を用いて次の候補点を求めるために、処理を処理Ｓ３２ａに戻し、一方、前記判定の結果、前記収束条件を満たしている場合（Ｙｅｓ）には、この更新した候補点を大域的最適解とし、図５に示す各処理を終了する。すなわち、図４に示す処理Ｓ４が終了する。前記収束条件は、例えば候補点が予め設定された所定の範囲内で収束しているか否かである。
【0083】
図４に戻って、次に、制御処理部１ａの制御部１１は、設計処理部１２ａの最適解演算部１２３ａで求められた大域的最適解を前記構成要素の設計値として出力部３から出力する（Ｓ４）。なお、必要に応じて、制御部１１は、設計処理部１２ａの最適解演算部１２３ａで求められた大域的最適解を前記構成要素の設計値としてＩＦ部４から出力しても良い。
【0084】
そして、設計処理部１２ａの繰り返し処理部１２４は、入力部２から、新たな各実績値の入力があるか否かを判定する（Ｓ５）。この判定の結果、入力が無い場合（Ｎｏ）には、繰り返し処理部１２４は、処理を処理Ｓ５に戻し、一方、前記判定の結果、入力が有る場合（Ｙｅｓ）には、繰り返し処理部１２４は、次に、処理Ｓ６を実行する。すなわち、繰り返し処理部１２４は、入力が有るまで処理Ｓ５を繰り返す。
【0085】
ユーザは、この出力された前記構成要素の設計値で例えば試作やシミュレーション等によって製品を試し、この試した製品の要求項目を求める。例えば、上述の機械設計の例では、有限要素解析（ＦＥＭ）によって機械の剛性や最大応力が求められる。この求めた要求項目が、予め設定された所望の条件（例えば仕様等）を満たしている場合には、前記構成要素の設計値で製品が設計できているので、製品設計装置Ｄａを用いた製品の設計を終了する。この場合では、ユーザは、例えば設計終了の指示を入力部２から入力し、製品設計装置Ｄａは、この設計終了を入力部２で受け付けると、割り込み処理で図４に示す各処理を終了する。一方、前記求めた要求項目が前記所望の条件を満たしていない場合には、新たな前記構成要素の設計値を求めるために、ユーザは、この試した製品における各要求項目および各設計値を入力部２から入力する。なお、上述のように前記求めた要求項目が、予め設定された所望の条件（例えば仕様等）を満たしている場合でも、より好ましい要求項目を満たす設計値を求めるために、あるいは、予め設定した試行回数を満たすために、新たな前記構成要素の設計値を求めるために、ユーザは、前記試した製品における各要求項目および各設計値を入力部２から入力しても良い。
【0086】
処理Ｓ６では、制御処理部１ａの繰り返し処理部１２４は、入力部２から前記複数の要求項目および前記複数の構成要素それぞれの各実績値の入力を受け付けると、前記入力部２から入力された前記複数の要求項目および前記複数の構成要素それぞれの各実績値を実績情報記憶部５１に記憶された実績情報に追加して実績情報を更新した後に、処理を処理Ｓ１に戻し、前記事前分布生成処理Ｓ１、前記事後分布生成処理Ｓ２および前記最適解演算処理Ｓ３ａそれぞれを、事前分布生成部１２１、事後分布生成部１２２および最適解演算部１２３ａそれぞれに行わせる。これによって新たな前記構成要素の設計値が求められ、ユーザは、新たな製品を試すことができる。
【0087】
以上説明したように、本実施形態における製品設計装置Ｄａおよびこれに実装された製品設計方法は、複数の要求項目を満たすように、複数の構成要素における複数の設計値を、前記要求項目を目的変数とし前記構成要素を説明変数とする多点探索のベイズ最適化、すなわち、多点探索での多目的最適化のベイズ最適化を用いることによって求めるので、要求項目が複数である場合でも、コストをより低減できる。
【0088】
上記製品品設計装置Ｄａおよび製品設計方法は、前記求められた設計値で例えば試作やシミュレーション等によって製品を試した場合に、これによって新たに得られた各実績値を入力部２から入力して新たな実績情報として、実績情報記憶部５１に記憶された実績情報に追加でき、この新たに得られた実績情報を追加した追加の実績情報で新たな設計値を求めることができる。
【0089】
本実施形態によれば、勾配法で前記獲得関数の大域的最適点を求める製品設計装置Ｄａおよび製品設計方法が提供でき、この製品設計装置Ｄａおよび製品設計方法は、上述の式６および式７により近似的に勾配を計算できる。
【0090】
次に、別の実施形態について説明する。
（第２実施形態）
図６は、２個の目的変数ｙ（１）、ｙ（２）の場合における、ｈｙｐｅｒｖｏｌｕｍｅ ｉｍｐｒｏｖｅｍｅｎｔの勾配保証量を説明するための図である。図６における各横軸は、目的変数ｙ（１）あり、それら各縦軸は、目的変数ｙ（２）である。
（第２実施形態）
図６は、２個の目的変数ｙ（１）、ｙ（２）の場合における、ｈｙｐｅｒｖｏｌｕｍｅ ｉｍｐｒｏｖｅｍｅｎｔの勾配保証量を説明するための図である。図６における各横軸は、目的変数ｙ（１）あり、それら各縦軸は、目的変数ｙ（２）である。
【0091】
第１実施形態における製品設計装置Ｄａは、上述の式５の獲得関数ｑ－ＥＨＩ（ｘ（１：ｑ））を用いたが、場合によっては勾配が消失する虞があるが、第２実施形態における製品設計装置Ｄｂは、この点を改良した装置である。
【0092】
このような第２実施形態における製品設計装置Ｄｂは、例えば、図１に示すように、制御処理部１ｂと、入力部２と、出力部３と、ＩＦ部４と、記憶部５とを備える。これら第２実施形態の製品設計装置Ｄｂにおける入力部２、出力部３、ＩＦ部４および記憶部５は、それぞれ、第１実施形態の製品設計装置Ｄａにおける入力部２、出力部３、ＩＦ部４および記憶部５と同様であるので、その説明を省略する。
【0093】
制御処理部１ｂは、上述の式６の獲得関数に代え後述の式１６の獲得関数を用いる点を除き制御処理部１ａと同様であり、製品設計装置Ｄｂの各部２～５を当該各部の機能に応じてそれぞれ制御し、多点探索での多目的最適化のベイズ最適化を用いることによって、製品に要求される要求項目を満たすように、前記製品を構成する構成要素の設計値を求めるための回路である。制御処理部１ｂは、制御処理プログラムが実行されることによって、制御部１１および設計処理部１２ｂを機能的に備える。この第２実施形態の製品設計装置Ｄｂにおける制御部１１は、第１実施形態の製品設計装置Ｄａにおける制御部１１と同様であるので、その説明を省略する。
【0094】
設計処理部１２ｂは、複数の要求項目を満たすように、複数の構成要素における複数の設計値を、多点探索での多目的最適化のベイズ最適化を用いることによって求めるものである。設計処理部１２ｂは、本実施形態では、事前分布生成部１２１と、事後分布生成部１２２と、最適解演算部１２３ｂと、繰り返し処理部１２４とを機能的に備える。これら第２実施形態の製品設計装置Ｄｂにおける事前分布生成部１２１、事後分布生成部１２２および繰り返し処理部１２４は、それぞれ、第１実施形態の製品設計装置Ｄａにおける事前分布生成部１２１、事後分布生成部１２２および繰り返し処理部１２４と同様であるので、その説明を省略する。
【0095】
最適解演算部１２３ｂは、事後分布生成部１２２で生成された事後分布に基づく獲得関数の大域的最適解を前記複数の設計値として求める最適解演算処理を行うものである。
【0096】
上述の式５の獲得関数ｑ－ＥＨＩ（ｘ（１：ｑ））は、候補点ｘ（１：ｑ）の改善しろが小さい値である場合でも、ｑ－ＥＨＩ＞０の小さい値となり、ｑ－ＥＨＩの改善方向（すなわち、勾配）が存在する。しかしながら、モンテカルロサンプリングによる式５の近似式である上述の式６の獲得関数ｑ－ＥＨＩＭＣ（ｘ（１：ｑ））は、このような場合では、ｑ－ＥＨＩＭＣ（ｘ（１：ｑ））＝０となる可能性が高くなり、その勾配▽ｑ－ＥＨＩＭＣ（ｘ（１：ｑ））＝０となってしまう場合がある。勾配が０になってしまうと勾配法では、探索が進まなくなる。そこで、各候補点ｘ（ｑ’）に対する勾配保証量ＨＶＲＭＣ
（ｑ’）が次式１５のように定義され、上述の式６の獲得関数ｑ－ＥＨＩＭＣ（ｘ（１：ｑ））は、次式１６のような獲得関数ｑ－ＥＨＩＲＭＣ（ｘ（１：ｑ））に改良される。ここで、ＨＶＲ（Ｆｍ，ｘ（ｑ’）
（１：ｄｆ））は、例えば図６に示すように、Ｆｍ，ｘ（ｑ’）
（１：ｄｆ）を基準点（ｒｅｆｅｒｅｎｃｅ ｐｏｉｎｔ）★とし、非劣解集合Ｄｎ
＊と予め設定された限界点（ｌｉｍｉｔ ｐｏｉｎｔ）で支配されるｈｙｐｅｒｖｏｌｕｍｅを示す。前記勾配保証量ＨＶＲＭＣ
（ｑ’）は、候補点がどれほど劣解であるかを表す指標であり、改善しろが小さいほど大きな値となる。
【0097】
【数17】
【0098】
【数18】
【0099】
ＨＶＲＭＣ
（ｑ’）≠０となるｑ’が存在する場合、すなわち、改善しろが非常に小さい候補点がある場合、この式１６の獲得関数ｑ－ＥＨＩＲＭＣ（ｘ（１：ｑ））は、候補点ｘ（ｑ’）に関し、勾配保証量ＨＶＲＭＣ
（ｑ’）によりその値が減少する。このため、式１６の獲得関数ｑ－ＥＨＩＲＭＣ（ｘ（１：ｑ））を最大化する際に、勾配保証量ＨＶＲＭＣ
（ｑ’）を減少させる作用が働き、候補点ｘ（ｑ’）が改善方向に向かう。なお、全ての候補点ｘ（ｑ’）において、ＨＶＲＭＣ
（ｑ’）＝０となれば、式１６の獲得関数ｑ－ＥＨＩＲＭＣ（ｘ（１：ｑ））は、式６の獲得関数ｑ－ＥＨＩＭＣ（ｘ（１：ｑ））に一致する。
【0100】
式１６の獲得関数の勾配▽ｑ－ＥＨＩＲＭＣ（ｘ（１：ｑ））は、次式１７のように表される。
【0101】
【数19】
【0102】
この式１７の第１項は、第１実施形態で説明した上述の式７と同様であり、第１実施形態と同様に求められる。前記式１７の第２項は、第１実施形態で説明した上述の式９と同様に、ＨＶＲの目的変数に関する偏微分と、目的変数の説明変数に関する偏微分とに分解でき、このＨＶＲの目的変数に関する偏微分は、第１実施形態で説明した上述のＨＶＩの目的変数に関する偏微分∂ＨＶＩ（Ｆｍ
（１：ｄｆ））／∂Ｆｍ
（ｋ）と同様に、数値微分で計算でき、前記目的変数の説明変数に関する偏微分は、第１実施形態で説明した上述の前記目的変数の説明変数に関する偏微分∂Ｆｍ
（ｋ）／∂ｘ（ｉ）と同様に、前記式１４で計算できる。
【0103】
以上より、式１７の勾配が求められるから、勾配法により、式１６の大域的最適解が前記構成要素の設計値として求められる。
【0104】
そして、制御処理部１ｂは、その制御部１１によって、設計処理部１２ｂの最適解演算部１２３ｂで求められた大域的最適解を前記構成要素の設計値として出力部３から出力する。
【0105】
第２実施形態における製品設計装置Ｄｂの動作は、上述の式６を用いる最適解演算処理Ｓ３ａに代え、上述の式１６を用いる最適解演算処理Ｓ３ｂを実行する点を除き、図４を用いて説明した第１実施形態における製品設計装置Ｄａの動作と同様であるので、その説明を省略する。そして、この第２実施形態の製品設計装置Ｄｂにおける最適解演算処理Ｓ３ｂは、式６の獲得関数を求める処理Ｓ３２ａに代えて式１６の獲得関数を求める処理Ｓ３２ｂを実行し、数値微分や上述の式７ないし式１４の各式を用いる処理Ｓ３３ａに代えて数値微分や上述の式７ないし式１４の各式に加えて式１７を用いる処理Ｓ３３ｂを実行する点を除き、図５を用いて説明した第１実施形態における製品設計装置Ｄａの動作と同様であるので、その説明を省略する。
【0106】
第２実施形態における製品設計装置Ｄｂおよびこれに実装された製品設計方法は、第１実施形態と同様に、複数の要求項目を満たすように、複数の構成要素における複数の設計値を、前記要求項目を目的変数とし前記構成要素を説明変数とする多点探索のベイズ最適化、すなわち、多点探索での多目的最適化のベイズ最適化を用いることによって求めるので、要求項目が複数である場合でも、コストをより低減できる。
【0107】
上記製品品設計装置Ｄａおよび製品設計方法は、式１６および式１７により、勾配の消失を回避できる。
【0108】
本発明を表現するために、上述において図面を参照しながら実施形態を通して本発明を適切且つ十分に説明したが、当業者であれば上述の実施形態を変更および／または改良することは容易に為し得ることであると認識すべきである。したがって、当業者が実施する変更形態または改良形態が、請求の範囲に記載された請求項の権利範囲を離脱するレベルのものでない限り、当該変更形態または当該改良形態は、当該請求項の権利範囲に包括されると解釈される。
【符号の説明】
【0109】
Ｄａ、Ｄｂ 製品設計装置
１ａ、１ｂ 制御処理部
２ 入力部
３ 出力部
４ インターフェース部（ＩＦ部）
５ 記憶部
１２ａ、１２ｂ 設計処理部
１２１ 事前分布生成部
１２２ 事後分布生成部
１２３ａ、１２３ｂ 最適解演算部
１２４ 繰り返し処理部
５１ 実績情報記憶部
１ａ、１ｂ 制御処理部
２ 入力部
３ 出力部
４ インターフェース部（ＩＦ部）
５ 記憶部
１２ａ、１２ｂ 設計処理部
１２１ 事前分布生成部
１２２ 事後分布生成部
１２３ａ、１２３ｂ 最適解演算部
１２４ 繰り返し処理部
５１ 実績情報記憶部
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
