(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2024-07-02
(45)【発行日】2024-07-10
(54)【発明の名称】予測装置、予測方法、及びプログラム
(51)【国際特許分類】
G16C 60/00 20190101AFI20240703BHJP
G16C 20/70 20190101ALI20240703BHJP
【FI】
G16C60/00
G16C20/70
(21)【出願番号】P 2023095375
(22)【出願日】2023-06-09
【審査請求日】2024-01-17
【早期審査対象出願】
(73)【特許権者】
【識別番号】000005083
【氏名又は名称】株式会社プロテリアル
(74)【復代理人】
【識別番号】100193390
【氏名又は名称】藤田 祐作
(74)【代理人】
【識別番号】100096091
【氏名又は名称】井上 誠一
(72)【発明者】
【氏名】石田 俊樹
(72)【発明者】
【氏名】小野 眞
【審査官】橋沼 和樹
(56)【参考文献】
【文献】国際公開第2020/152750(WO,A1)
【文献】国際公開第2022/249232(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G16C 10/00-99/00
(57)【特許請求の範囲】
【請求項1】
材料を撮像して得られた組織画像を学習用データとして、前記材料の組織画像を生成するための生成モデルを構築する生成モデル構築部と、
前記材料の組織画像とプロセス条件との対となるデータを学習することにより、任意の組織画像のプロセス条件を予測する回帰モデルであるプロセス条件予測モデルを構築するプロセス条件予測モデル構築部と、
前記生成モデル構築部により構築された生成モデル
にサンプリングされた潜在変数を入力することで材料の組織画像を生成し、生成した前記材料の組織画像を、前記プロセス条件予測モデル構築部により構築された前記プロセス条件予測モデル
に入力することで、前記材料の組織画像を生成するとともに当該組織画像のプロセス条件を予測する画像生成-予測部と、
を備えることを特徴とする予測装置。
【請求項2】
前記生成モデル構築部及び前記プロセス条件予測モデル構築部におけるエポック数は、前記生成モデルにより生成される組織画像の再構成精度と、前記プロセス条件予測モデルにより予測されるプロセス条件の分布とに基づいて決定される
ことを特徴とする請求項1に記載の予測装置。
【請求項3】
前記生成モデル構築部及び前記プロセス条件予測モデル構築部における前記エポック数を調整するための調整手段と、
を更に備えることを特徴とする請求項2に記載の予測装置。
【請求項4】
前記画像生成-予測部は、前記生成モデルによって生成した前記材料の組織画像に超解像処理を施した画像を前記プロセス条件予測モデルに入力し、プロセス条件を予測する
ことを特徴とする請求項1に記載の予測装置。
【請求項5】
前記プロセス条件予測モデル構築部は、学習する前記材料の組織画像として、当該材料の組織画像を前記生成モデルにより再構成した画像に超解像処理を施した画像を用いる
ことを特徴とする請求項1または請求項4に記載の予測装置。
【請求項6】
前記材料の組織画像と品質特性値との対となるデータを学習することにより、任意の組織画像の品質特性値を予測する回帰モデルである特性予測モデルを構築する特性予測モデル構築部と、を更に備え、
前記画像生成-予測部は、前記特性予測モデルを用いて生成した前記材料の組織画像の品質特性値を予測する
ことを特徴とする請求項1に記載の予測装置。
【請求項7】
前記画像生成-予測部により生成された前記材料の組織画像から、目標とする品質特性を有する前記材料の組織画像を取得する目標画像取得部と、
を更に備えることを特徴とする請求項6に記載の予測装置。
【請求項8】
前記目標画像取得部は、前記画像生成-予測部が予測した前記生成モデルによって生成した組織画像についての品質特性値が、所定の目標条件を満たすか否かを判定し、前記品質特性値が所定の目標条件を満たす場合に、前記生成した組織画像を前記目標とする品質特性を有する前記材料の組織画像とする
ことを特徴とする請求項7に記載の予測装置。
【請求項9】
前記目標とする品質特性を有する前記材料の組織画像について、プロセス条件および品質特性値の予測結果を可視化する可視化部と、
を更に備えることを特徴とする請求項8に記載の予測装置。
【請求項10】
前記生成モデル構築部及び特性予測モデル構築部におけるエポック数は、前記生成モデルにより生成される組織画像の再構成精度と、前記特性予測モデルにより予測される品質特性値の分布とに基づいて決定される
ことを特徴とする請求項6に記載の予測装置。
【請求項11】
前記生成モデル構築部及び特性予測モデル構築部における前記エポック数を調整するための調整手段と、
を更に備えることを特徴とする請求項10に記載の予測装置。
【請求項12】
前記画像生成-予測部は、前記生成モデルによって生成した前記材料の組織画像に超解像処理を施した画像を前記特性予測モデルに入力し、品質特性値を予測する
ことを特徴とする請求項6に記載の予測装置。
【請求項13】
前記特性予測モデル構築部は、学習する前記材料の組織画像として、当該材料の組織画像を前記生成モデルにより再構成した画像に超解像処理を施した画像を用いる
ことを特徴とする請求項6または請求項12に記載の予測装置。
【請求項14】
前記画像生成-予測部は、ランダムに組織画像を生成する場合と比較して、目標とする品質特性と関連が強い組織を含む組織画像をより多く生成するようにする、または、目標とする品質特性と関連が弱い組織を含む組織画像をより少なく生成するようにする
ことを特徴とする請求項6または請求項7に記載の予測装置。
【請求項15】
前記画像生成-予測部により生成された組織画像の品質特性値の分布が偏りをもっている
ことを特徴とする請求項6または請求項7に記載の予測装置。
【請求項16】
コンピュータが、
材料を撮像して得られた組織画像を学習用データとして、前記材料の組織画像を生成するための生成モデルを構築するステップと、
前記材料の組織画像とプロセス条件との対となるデータを学習することにより、任意の組織画像のプロセス条件を予測する回帰モデルであるプロセス条件予測モデルを構築するステップと、
前記生成モデルを構築するステップにより構築された前記生成モデル
にサンプリングされた潜在変数を入力することで材料の組織画像を生成し、生成した前記材料の組織画像を、前記プロセス条件予測モデルを構築するステップにより構築された前記プロセス条件予測モデル
に入力することで、前記材料の組織画像を生成するとともに当該組織画像のプロセス条件を予測するステップと、
を含む予測方法。
【請求項17】
コンピュータを、
材料を撮像して得られた組織画像を学習用データとして、前記材料の組織画像を生成するための生成モデルを構築する生成モデル構築部、
前記材料の組織画像とプロセス条件との対となるデータを学習することにより、任意の組織画像のプロセス条件を予測する回帰モデルであるプロセス条件予測モデルを構築するプロセス条件予測モデル構築部、
前記生成モデル構築部により構築された生成モデル
にサンプリングされた潜在変数を入力することで材料の組織画像を生成し、生成した前記材料の組織画像を、前記プロセス条件予測モデル構築部により構築された前記プロセス条件予測モデル
に入力することで、前記材料の組織画像を生成するとともに当該組織画像のプロセス条件を予測する画像生成-予測部、
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、材料開発を支援する技術に関する。
【背景技術】
【0002】
近年、情報科学、特にデータ科学を効果的に活用して、新材料を開発するマテリアルズインフォマティクスという技術分野が注目されている。マテリアルズインフォマティクスでは、様々な実験条件や実験結果等のデータを関連付けてデータベースに蓄積し、統計解析、機械学習、シミュレーション等を駆使して、新材料の開発に役立つ情報を抽出している。
【0003】
例えば、特許文献1、2では、材料の組成条件や熱処理条件等のプロセス条件と材料の品質特性値とを関係づけて回帰モデルを学習し、回帰モデルを使用して所望の品質特性値から材料のプロセス条件を予測する技術が記載されている。特許文献1、2で開示されるような回帰モデルを学習生成する手法は精度が高く、数値データを基本とする材料設計の分野では適用しやすいと考えられている。
【先行技術文献】
【特許文献】
【0004】
【文献】特許第6617842号
【文献】特許第6950119号
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1、2のように、材料のプロセス条件と品質特性値の数値データのみに基づき学習させた回帰モデルを使用して予測を行う方法では、プロセス条件の予測精度の更なる向上には限界があった。そのため、より精度の高い予測を実現するために、数値データ以外の情報、例えば、材料の組織情報等を考慮することが考えられる。
【0006】
本発明は、このような課題に鑑みてなされたもので、材料の組織情報を考慮したプロセス条件の予測が可能な予測装置等を提供することを目的とする。
【課題を解決するための手段】
【0007】
前述した課題を解決するための第1の発明は、材料を撮像して得られた組織画像を学習用データとして、前記材料の組織画像を生成するための生成モデルを構築する生成モデル構築部と、前記材料の組織画像とプロセス条件との対となるデータを学習することにより、任意の組織画像のプロセス条件を予測する回帰モデルであるプロセス条件予測モデルを構築するプロセス条件予測モデル構築部と、前記生成モデル構築部により構築された生成モデルにサンプリングされた潜在変数を入力することで材料の組織画像を生成し、生成した前記材料の組織画像を、前記プロセス条件予測モデル構築部により構築された前記プロセス条件予測モデルに入力することで、前記材料の組織画像を生成するとともに当該組織画像のプロセス条件を予測する画像生成-予測部と、を備えることを特徴とする予測装置である。
【0008】
第1の発明によれば、実験で得た組織画像やプロセス条件のデータを用いて生成モデルや回帰モデルを学習することで、材料の組織情報を考慮したプロセス条件の予測が可能となる。
【0009】
第1の発明において、前記生成モデル構築部及び前記プロセス条件予測モデル構築部におけるエポック数は、前記生成モデルにより生成される組織画像の再構成精度と、前記プロセス条件予測モデルにより予測されるプロセス条件の分布とに基づいて決定されることが望ましい。また、前記生成モデル構築部及び前記プロセス条件予測モデル構築部における前記エポック数を調整するための調整手段と、を更に備えることが望ましい。これにより、画像の再構成精度とプロセス条件の予測精度を両立させた学習モデル(生成モデル、プロセス条件予測モデル)を構築することができる。
【0010】
また、前記画像生成-予測部は、前記生成モデルによって生成した前記材料の組織画像に超解像処理を施した画像を前記プロセス条件予測モデルに入力し、プロセス条件を予測することが望ましい。
また、前記プロセス条件予測モデル構築部は、学習する前記材料の組織画像として、当該材料の組織画像を前記生成モデルにより再構成した画像に超解像処理を施した画像を用いることが望ましい。
超解像処理を施した画像を用いてプロセス条件予測モデルの学習や予測を行うことで、学習性能や予測性能を向上させることができる。
【0011】
第1の発明において、前記材料の組織画像と品質特性値との対となるデータを学習することにより、任意の組織画像の品質特性値を予測する回帰モデルである特性予測モデルを構築する特性予測モデル構築部と、を更に備え、前記画像生成-予測部は、前記特性予測モデルを用いて生成した前記材料の組織画像の品質特性値を予測することが望ましい。これにより、生成した材料の組織画像について、品質特性を更に予測することが可能となる。
【0012】
また、前記画像生成-予測部により生成された前記材料の組織画像から、目標とする品質特性を有する前記材料の組織画像を取得する目標画像取得部と、を更に備えることが望ましい。例えば、前記目標画像取得部は、前記画像生成-予測部が予測した前記生成モデルによって生成した組織画像についての品質特性値が、所定の目標条件を満たすか否かを判定し、前記品質特性値が所定の目標条件を満たす場合に、前記生成した組織画像を前記目標とする品質特性を有する前記材料の組織画像とする。これにより、目標とする品質特性を有する材料の組織画像を得ることが可能となる。
【0013】
また、前記目標とする品質特性を有する前記材料の組織画像について、プロセス条件および品質特性値の予測結果を可視化する可視化部と、を更に備えることが望ましい。これにより、目標とする品質特性を有する材料の組織画像について、プロセス条件や品質特性を評価しやすくなる。
【0014】
また、前記生成モデル構築部及び特性予測モデル構築部におけるエポック数は、前記生成モデルにより生成される組織画像の再構成精度と、前記特性予測モデルにより予測される品質特性値の分布とに基づいて決定されることが望ましい。また、前記生成モデル構築部及び特性予測モデル構築部における前記エポック数を調整するための調整手段と、を更に備えることが望ましい。これにより、画像の再構成精度と品質特性の予測精度を両立させた学習モデル(生成モデル、特性予測モデル)を構築することができる。
【0015】
また、前記画像生成-予測部は、前記生成モデルによって生成した前記材料の組織画像に超解像処理を施した画像を前記特性予測モデルに入力し、品質特性値を予測することが望ましい。
また、前記特性予測モデル構築部は、学習する前記材料の組織画像として、当該材料の組織画像を前記生成モデルにより再構成した画像に超解像処理を施した画像を用いることが望ましい。
超解像処理を施した画像を用いて特性予測モデルの学習や予測を行うことで、学習性能や予測性能を向上させることができる。
【0016】
また、前記画像生成-予測部は、ランダムに組織画像を生成する場合と比較して、目標とする品質特性と関連が強い組織を含む組織画像をより多く生成するようにする、または、目標とする品質特性と関連が弱い組織を含む組織画像をより少なく生成するようにすることが望ましい。これにより、目標とする品質特性に近い特性を持つ組織画像を効率的に生成することができる。
【0017】
また、前記画像生成-予測部により生成された組織画像の品質特性値の分布が偏りをもつことが望ましい。特定の品質特性をもつ組織画像がより頻繁に生成され、特定の品質要件に適合する組織画像を優先的に生成することができる。
【0018】
第2の発明は、コンピュータが、材料を撮像して得られた組織画像を学習用データとして、前記材料の組織画像を生成するための生成モデルを構築するステップと、前記材料の組織画像とプロセス条件との対となるデータを学習することにより、任意の組織画像のプロセス条件を予測する回帰モデルであるプロセス条件予測モデルを構築するステップと、前記生成モデルを構築するステップにより構築された前記生成モデルにサンプリングされた潜在変数を入力することで材料の組織画像を生成し、生成した前記材料の組織画像を、前記プロセス条件予測モデルを構築するステップにより構築された前記プロセス条件予測モデルに入力することで、前記材料の組織画像を生成するとともに当該組織画像のプロセス条件を予測するステップと、を含む予測方法である。
【0019】
第3の発明は、コンピュータを、材料を撮像して得られた組織画像を学習用データとして、前記材料の組織画像を生成するための生成モデルを構築する生成モデル構築部、前記材料の組織画像とプロセス条件との対となるデータを学習することにより、任意の組織画像のプロセス条件を予測する回帰モデルであるプロセス条件予測モデルを構築するプロセス条件予測モデル構築部、前記生成モデル構築部により構築された生成モデルにサンプリングされた潜在変数を入力することで材料の組織画像を生成し、生成した前記材料の組織画像を、前記プロセス条件予測モデル構築部により構築された前記プロセス条件予測モデルに入力することで、前記材料の組織画像を生成するとともに当該組織画像のプロセス条件を予測する画像生成-予測部、として機能させるためのプログラムである。
【発明の効果】
【0020】
本発明により、材料の組織情報を考慮したプロセス条件の予測が可能となる。
【図面の簡単な説明】
【0021】
【
図1】予測装置1として利用するコンピュータのハードウェア構成を示す図である。
【
図2】予測装置1の機能構成を示すブロック図である。
【
図3】生成モデル31としてVQVAEを用いた例を示す図である。
【
図4】生成モデル31により生成された希土類磁石の組織画像の例を示す図である。
【
図5】生成モデル31により生成された黒鉛鋳鉄の組織画像の例を示す図である。
【
図6】プロセス条件予測モデル構築部23を説明する図である。
【
図9】拡散処理における熱処理条件の例を示す図である。
【
図10】画像生成-予測部26における組織画像の生成とプロセス条件の予測について説明する図である。
【
図11】予測装置1が実行する処理の流れを示すフローチャートである。
【
図12】エポック数に応じた生成画像の違いを示す図である。
【
図13】エポック数と再構成ロスとの関係を示すグラフである。
【
図14】拡散源組成について、横軸を実測値、縦軸を予測値として表した図である。(a)は組成Fe、(b)は組成Ga、(c)は組成Cuの場合を表す。
【
図15】熱処理条件(加熱温度、保持時間)について、横軸を実測値、縦軸を予測値として表した図である。(a)は1段階目の熱処理条件(加熱温度、保持時間)、(b)は2段階目の熱処理条件(加熱温度、保持時間)を表す。
【
図16】生成画像の鮮明度と生成速度の関係を示す図である。
【
図17】生成画像に超解像処理を適用する例を示す図である。
【
図18】予測装置1aの機能構成を示すブロック図である。
【
図19】特性予測モデル構築部22を説明する図である。
【
図20】画像生成-予測部26における組織画像の生成と、品質特性値およびプロセス条件の予測について説明する図である。
【
図21】ランダムに生成した生成画像の品質特性値の予測値の分布を示す図である。
【
図22】予測装置1aが実行する処理の流れを示すフローチャートである。
【
図23】磁束密度Br[T]について横軸を実測値、縦軸を特性予測モデル32の予測値として表した図である。(a)は学習データの場合、(b)は検証データの場合、(c)はテストデータの場合を示す。
【
図24】高Br(磁束密度)-低HcJ(保磁力)を目標特性とした場合の生成画像5a、5b、5cの例を示す図である。
【
図25】低Br(磁束密度)-高HcJ(保磁力)を目標特性とした場合の生成画像5d、5e、5fの例を示す図である。
【
図26】高Br(磁束密度)-高HcJ(保磁力)を目標特性とした場合の生成画像5g、5h、5iの例を示す図である。
【
図27】生成した組織画像について品質特性の予測結果を可視化した例を示す図である。(a)は生成画像5gの磁束密度BrのSHAP分布図と保磁力HcJのSHAP分布図、(b)は生成画像5hの磁束密度BrのSHAP分布図と保磁力HcJのSHAP分布図、(c)は生成画像5iの磁束密度BrのSHAP分布図と保磁力HcJのSHAP分布図を表す。
【
図28】予測装置1bの機能構成を示すブロック図である。
【
図29】学習用組織画像41をエンコーダ211に入力して潜在変数Zを取得する例を説明する図である。
【
図30】潜在変数Zのデータ列に基いて、条件付き確率分布(自己回帰モデル34)を学習する例を説明する図である。
【
図31】自己回帰モデルソフトマックス関数342を、係数Tを追加した係数付きソフトマックス関数342aに修正する例を説明する図である。
【
図32】ソフトマックス関数342aの係数を変化させた場合の関数の変化を示す図である。
【
図33】予測装置1bが実行する処理の流れを示すフローチャートである。
【
図34】係数Tを調整した場合の生成画像の品質特性値の分布を示すグラフである。
【発明を実施するための形態】
【0022】
以下、図面に基づいて本発明の実施形態を詳細に説明する。本実施形態では、予測装置1を用いて希土類磁石の組織画像を生成しプロセス条件等を予測する例を説明する。なお、材料は、希土類磁石に限定されず、例えば、金属、磁石、セラミック、樹脂等を含む各種の材料についても適用可能である。
【0023】
[第1の実施の形態]
図1は本発明の実施形態に係る予測装置1のハードウェア構成の一例を示す図である。例えば、一般的なパーソナルコンピュータを予測装置1として利用する場合、予測装置1は、
図1に示すように、制御部101、記憶部102、通信部103、入力部104、表示部105、周辺機器I/F部106等がバス108を介して接続される。なお、
図1に示す構成は一例であり、予測装置1は用途、目的に応じて様々な構成を採ることが可能である。
【0024】
制御部101は、CPU(Central Processing Unit)、ROM(Read Only
Memory)、RAM(Random Access Memory)等を有する。CPUは、記憶部102やROM等の記録媒体に格納されるプログラムをRAM上のワークメモリ領域に呼び出して実行し、バス108を介して接続された各部を駆動制御して予測装置1の後述する各処理を実現する。
【0025】
ROMは不揮発性メモリであり、コンピュータのブートプログラムやBIOS等のプログラム、データ等を恒久的に保持している。RAMは揮発性メモリであり、記憶部102やROM等の記録媒体からロードしたプログラムやデータを一時的に保持するとともに、制御部101が各種処理を行うために使用するワークエリアを備える。
【0026】
記憶部102は、HDD(Hard Disc Drive)、SSD(Solid State Drive)、フラッシュメモリ等であり、制御部101が実行するプログラム、プログラム実行に必要なデータ、OS(Operation System)等が格納される。特に本実施形態では、後述する処理を予測装置1に実行させるためのアプリケーションプログラムが記憶部102に格納される。
【0027】
通信部103は、予測装置1の通信を媒介する通信インタフェース及び通信制御回路を含み、ネットワークを介した通信の制御を行う。ネットワークは、LAN(Local Area Network)、WAN(Wide Area Network)、インターネット等を含み、有線、無線を問わない。
【0028】
入力部104は、キーボード、マウス、またはタッチパネル等の入力装置、及び各種操作ボタン等を含む。入力部104は、入力されたデータや操作指示を制御部101に送信する。
【0029】
表示部105は、液晶パネル等のディスプレイ等を備え、制御部101の指示に従って画像やテキスト等のデータをディスプレイに表示する。
【0030】
周辺機器I/F部106は、周辺機器を接続するためのポートであり、USB、Bluetooth(登録商標)等の近距離無線通信等を含む。制御部101は周辺機器I/F部106を介して周辺機器とのデータの送受信を行う。周辺機器I/F部106には、例えばプリンタ等が接続される。
【0031】
次に、予測装置1の機能構成を説明する。
図2は、本実施形態に係る予測装置1の機能構成を示すブロック図である。図に示すように、予測装置1は、生成モデル構築部21、プロセス条件予測モデル構築部23、サンプリング部25、画像生成-予測部26、及び可視化部29を備える。予測装置1の制御部101が、記憶部102またはROMに記憶されたプログラムを読み出して実行することで、これらの機能を実現する。
【0032】
生成モデル構築部21は、材料を撮像して得られた組織画像41(以下、学習用組織画像41ともいう。)を学習用データとして、材料の組織画像を生成するための生成モデル31を構築する。学習用データとして用いる学習用組織画像41は、対象とする材料を電子顕微鏡等で撮像した画像である。学習用組織画像41は、プロセス条件(実測値)と紐づけて記憶部102または通信部103を介して通信接続可能なストレージ等に記憶されている。
【0033】
図3は、生成モデル構築部21による生成モデル31の構築の概念を説明する図である。
図3は、ベクトル量子化変分オートエンコーダ(VQVAE;Vector Quantized Variational Auto-encoder)の例を示している。エンコーダ211は、画像を低次元の潜在変数Zに圧縮する機能部であり、デコーダ212は潜在変数Zから元の画像を復元する機能部である。エンコーダ211及びデコーダ212は、例えば、CNN(畳み込みニューラルネットワーク)等のニューラルネットワークで構築される。図に示すように、材料を撮像して得た学習用組織画像41を学習用データとして、エンコーダ211、デコーダ212、及び埋め込みベクトルVを含むVQVAEを学習させることで、学習用組織画像41と似た画像(生成画像)51を生成する生成モデル31が構築される。
【0034】
なお、生成モデル31はVQVAEに限定されず、VAEやVQVAE2、敵対的生成ネットワーク(Generative Adversarial Networks;GAN)、ガウシアンコピュラ(Gaussian Copula)、その他の教師なし機械学習を用いてもよい。
【0035】
図4は生成モデル31により生成された希土類磁石の組織画像(生成画像)の例であり、希土類磁石を撮像して得た組織画像を学習用データとして学習させた生成モデル31により生成した画像である。
図5は生成モデル31により生成された黒鉛鋳鉄の組織画像(生成画像)の例であり、黒鉛鋳鉄を撮像して得た組織画像を学習用データとして学習させた生成モデル31により生成した画像である。
【0036】
次に、
図2のプロセス条件予測モデル構築部23について説明する。プロセス条件予測モデル構築部23は、材料の組織画像とプロセス条件との対となる学習用データ43を用いて、任意の組織画像(生成画像)のプロセス条件を予測する回帰モデル(プロセス条件予測モデル33)を学習し構築する。
【0037】
ここで、学習用データ43における材料の組織画像とは、生成モデル31を構築する際に使用した組織画像41(
図3参照)を生成モデル31により復元(再構成)した画像(以下、学習用生成画像51ともいう。)である。すなわち、学習用組織画像41を学習済みのエンコーダ211に入力して潜在変数Zを得て、その潜在変数Zを学習済みのデコーダ212に入力して得られる画像である。
【0038】
図6は、プロセス条件予測モデル構築部23によるプロセス条件予測モデル33の構築の概念を説明する図である。図に示すように、プロセス条件予測モデル構築部23は、材料の組織画像(学習用生成画像51)とそのプロセス条件とを対にした学習用データ43を学習器220に入力し、教師あり学習を行うことでプロセス条件予測モデル33を構築する。
【0039】
学習器220は、学習用データ43の学習用生成画像51を説明変数(入力)、その学習用生成画像51の対となるプロセス条件60を目的変数(出力)とし、CNN(畳み込みニューラルネットワーク)やその他の公知の機械学習によりプロセス条件予測モデル33を学習する。学習済みのプロセス条件予測モデル33は、プロセス条件が未知の組織画像(生成画像)を入力すると、その組織画像(生成画像)のプロセス条件60を予測し、出力する。
【0040】
なお、学習用生成画像51を説明変数としてプロセス条件予測モデル33を学習させているが、学習用生成画像51に替えて、学習用組織画像41を説明変数としてプロセス条件予測モデル33を学習させてもよい。また、学習用生成画像51を生成した際の潜在変数Zを説明変数としてプロセス条件予測モデル33を学習させてもよい。
【0041】
ここで、希土類磁石の製造工程について一例を説明する。
図7は、希土類磁石の製造工程を示すフローチャートである。図に示すように、SC合金の作製(ステップS1)、水素処理(ステップS2)、ジェットミル粉砕(ステップS3)、磁界中成形(ステップS4)の工程を経た後、焼結(ステップS5)、粗加工(ステップS6)が行われる。その後、拡散源塗布(ステップS7)、拡散処理(ステップS8)の工程を経て、仕上げ研削(ステップS9)、表面処理(ステップS10)が行われ、希土類磁石が製造される。本実施形態では、上記の製造工程のうち、拡散源塗布(ステップS7)と拡散処理(ステップS8)におけるプロセス条件を予測対象とする。
【0042】
図8は、ステップS7における拡散源塗布の例を示す図である。図の例では、容器において、ベース磁石であるNd-Fe-Bに拡散源としてPr-Fe-Cu-Gaを塗布した例を示している(但し、ベース磁石や拡散源は図の例に限定されない)。本実施形態では、拡散源組成を、拡散源塗布における予測対象のプロセス条件とする(
図14)。
【0043】
図9は、ステップS8における拡散処理の熱処理条件の例を示す図である。本実施形態では、拡散源をベース磁石に塗布した状態で2段階の熱処理を実施する。熱処理中に、拡散源がベース磁石中に拡散されることで、材料特性が変化する。本実施形態では、1段階目の熱処理条件(加熱温度TH、保持時間tH)、及び2段階目の熱処理条件(加熱温度TL、保持時間tL)を、拡散処理における予測対象のプロセス条件とする(
図15)。
【0044】
なお、予測対象とするプロセス条件は、上記した例に限定されず、種々のプロセス条件を予測対象とすることができる。また、
図7に例示した製造工程は、あくまで一例であり、他の製造工程を採用することができる。
【0045】
サンプリング部25は、組織画像を生成するために、生成モデル31のデコーダ212に入力する潜在変数Zをサンプリングする。
画像生成-予測部26は、生成モデル構築部21により構築された生成モデル31と、プロセス条件予測モデル構築部23により構築されたプロセス条件予測モデル33とを連結した画像生成-予測モデルを用いて、任意の組織画像を生成するとともに生成した組織画像のプロセス条件を予測する。具体的には、画像生成-予測部26は、サンプリング部25によりサンプリングされた潜在変数Zを、
図10に示すように生成モデル31のデコーダ212に入力し、生成画像51を生成する。また、画像生成-予測部26は、生成した生成画像51について、プロセス条件予測モデル33を用いてプロセス条件60を予測する。
【0046】
可視化部29は、画像生成-予測部26により生成された生成画像51とそのプロセス条件60を表示部105(画面)に表示する。また、可視化部29は、予測したプロセス条件60をグラフや組織画像5上にプロットしたプロセス条件マップで表示したり、SHAP値をグラフや組織画像5上にプロットしたSHAP分布図等で表示してもよい。
【0047】
次に、
図11のフローチャートを参照して、予測装置1が実行する処理(予測方法)の流れを説明する。
図11の各ステップの処理を予測装置1の制御部101が実行することで、予測装置1の各機能を実現する。
【0048】
予測装置1の制御部101は、ある材料を撮像して得られた組織画像41(学習用組織画像41)を学習用データとして記憶部102等から取得し、VQVAE等の生成モデル31を学習し構築する(ステップS101)。
【0049】
また、制御部101は、組織画像とプロセス条件との対となる学習用データ43を用いて、任意の組織画像(生成画像)のプロセス条件を予測する回帰モデルであるプロセス条件予測モデル33を構築する(ステップS102)。具体的には、制御部101は、学習用組織画像41を生成モデル31により復元(再構成)した画像である学習用生成画像51を説明変数(入力)、その対となるプロセス条件60を目的変数(出力)としてプロセス条件予測モデル33を学習することで、任意の組織画像(生成画像)からプロセス条件60を予測するプロセス条件予測モデル33を構築する。
【0050】
なお、ステップS101、S102において、学習用データとして用いる学習用組織画像41及び学習用生成画像51は所定サイズの矩形画像に分割して用いてもよい。
【0051】
次に、制御部101は、ステップS101で構築した生成モデル31と、ステップS102で構築したプロセス条件予測モデル33とを連結した画像生成-予測モデルを作成する(ステップS103)。画像生成-予測モデルは、生成モデル31により任意の生成画像51を出力するとともに、プロセス条件予測モデル33により生成画像51のプロセス条件60の予測値を出力するものである。
【0052】
ここで、オペレータは、ステップS103で作成した画像生成-予測モデルを検証データやテストデータを用いて検証/テストを行い、生成した生成画像51の再構成精度と、プロセス条件60の予測値の分布が適切であるか否かを判定する(ステップS104)。不適切な場合は(ステップS104;No)、オペレータは生成モデル31のハイパーパラメータを調整し(ステップS105)、生成モデル31の構築(ステップS101)やプロセス条件予測モデル33の構築(ステップS102)を再度行う。ハイパーパラメータは、例えばエポック数等である。
【0053】
なお、ステップS104において、制御部101は、オペレータが再構成精度とプロセス条件60の予測値の分布を目視で確認できるように、元画像と元画像を生成モデル31により復元した生成画像51を並べて表示したり、プロセス条件予測モデル33により予測したプロセス条件60の分布を表示部105に表示することが望ましい。また、ハイパーパラメータ調整画面へ移行するための「調整」ボタンと、次の処理へ移行するための「次へ」ボタンを表示して、適切/不適切の入力を受け付けるようにしてもよい。
【0054】
オペレータは、生成画像51の再構成精度と、プロセス条件60の予測値の分布が不適切であると判断すると(ステップS104;No)、例えば、ハイパーパラメータ調整画面へ移行するための「調整」ボタンを操作する。その場合、制御部101は、ハイパーパラメータ調整画面を表示し、オペレータからエポック数等の調整を受け付ける(ステップS105)。ステップS105における、制御部101が実行する「ハイパーパラメータ調整画面を表示し、オペレータからエポック数等の調整を受け付ける」機能は、本発明に係る「調整手段」の一例である。なお、ハイパーパラメータの調整は、調整画面上ではなく、プログラムの該当箇所を直接書き換えることで行ってもよい。
【0055】
オペレータは、ハイパーパラメータを調整しながら生成モデル31及びプロセス条件予測モデル33の学習、検証、テストを繰り返す(ステップS101~S105)。そして、生成した生成画像51の再構成精度と、プロセス条件60の予測値の分布が適切であるとオペレータが判断すると(ステップS104;Yes)、学習処理を終了し、次のステップS201へ進む。
【0056】
図12は、エポック数に応じた生成画像の違いを示す図である。
図12(a)は元画像、
図12(b)はエポック数30の場合における生成画像(元画像を復元した画像)、
図12(c)はエポック数400における生成画像(元画像を復元した画像)である。図に示すように、エポック数が30の場合と比較して、エポック数が400の場合のほうが、細部まで再現できており、再構成精度が高いことが分かる。
【0057】
図13は、エポック数と再構成ロスとの関係を示すグラフである。再構成ロスは、元画像と元画像を復元した画像(生成画像)の差を表す値である。再構成ロスが小さいほど画像の再構成精度が高いことを表す。
【0058】
図12、13に示すように、エポック数を増やすと画像の再構成精度が高くなるが、再構成精度が高すぎると、プロセス条件の分布に適度な広がりが得られなくなり、未知の生成画像に対するプロセス条件の予測精度が低下する可能性がある。そのため、本実施形態では、再構成精度とプロセス条件の予測精度を両立させた最適なエポック数を決定するために、
図11のステップS104~S105において、再構成精度とプロセス条件の予測値の分布の双方が適切か否かを確認しながらエポック数を調整する処理を設けている。
【0059】
なお、ステップS104において、制御部101が、再構成精度とプロセス条件の予測値の分布を所定の基準で評価し、適切/不適切を自動で判断してもよい。例えば、制御部101は、再構成精度については、再構成ロスが所定の閾値未満であれば適切、閾値以上であれば不適切と判断する。また、プロセス条件の予測値の分布については、分布の分散値等の統計指標が所定の条件を満たせば適切、所定の条件を満たさなければ不適切と判断する。そして、再構成精度およびプロセス条件の予測値の分布の双方が適切と判断された場合(ステップS104;Yes)、学習処理を終了し、ステップS201へ移行する。
【0060】
図14、
図15は、学習されたプロセス条件予測モデル33(回帰モデル)の予測性能を示すグラフである。
図14、
図15ともに、実測値を元に正規化処理を実施している。
図14は、拡散源組成について横軸を実測値、縦軸を予測値として表したグラフであり、(a)は組成Fe、(b)は組成Ga、(c)は組成Cuのグラフである。各グラフには回帰モデルの性能指標である決定係数R2を示しており、組成Fe、Ga、Guについて、それぞれ、決定係数R2がR2=0.9565、R2=0.9895、R2=0.9895である。
図15は、熱処理条件(加熱温度、保持時間)について横軸を実測値、縦軸を予測値として表したグラフであり、(a)は1段階目の熱処理条件(加熱温度、保持時間)、(b)は2段階目の熱処理条件(加熱温度、保持時間)のグラフである。1段階目の加熱温度、保持時間の決定係数R2がR2=0.9530、R2=0.9640であり、2段階目の加熱温度、保持時間の決定係数R2がR2=0.9726、R2=0.976である。
図14、
図15から、拡散源組成と熱処理条件の両方において高い予測精度が実現されており、良好な予測性能を持つプロセス条件予測モデル33が作成されていることが分かる。
【0061】
図11のフローチャートの説明に戻る。
制御部101は、画像生成-予測モデルの生成モデル31(デコーダ212)に入力する潜在変数Zをサンプリングする(ステップS201)。本実施形態では、潜在変数Zは、例えば、ランダムノイズ等の任意のデータである。
【0062】
制御部101は、ステップ201でサンプリングした潜在変数Z(ランダムノイズ等の任意のデータ)を入力として画像生成-予測モデルによって組織画像(生成画像51)を生成し、その生成画像51についてプロセス条件60を予測する(ステップS202)。制御部101の出力データは、生成画像51とその生成画像51から予測したプロセス条件60とを含むデータである。
【0063】
次に制御部101は、可視化処理を行う(ステップS203)。可視化処理では、制御部101は、生成した生成画像51(組織画像)とプロセス条件60の予測結果を表示部105に表示する。また、可視化の方法として、特開2021-111360に記載されている品質特性マップの生成方法等を用いてもよい。特開2021-111360では、組織画像を所定サイズの矩形領域に切り出し、切り出し領域毎に磁束密度や保磁力のSHAP値を算出し、SHAP値のマップを生成することが記載されている。SHAP(SHapley Additive exPlanations)とは、XAI(Explainable AI)技術の1つであり、予測モデルにて出力された予測結果に対して、それぞれの説明変数が予測結果に対してどのような影響を与えたかを定量的に算出する手法である。この方法を、プロセス条件の場合に適用することで、プロセス条件のマップ生成を行ってもよい。
【0064】
以上説明したように、本実施形態の予測装置1は、材料を撮像して得られた組織画像を学習用データとして生成モデル31を学習し、材料の組織画像とプロセス条件との対となるデータを学習データとしてプロセス条件予測モデル33学習し、生成モデル31とプロセス条件予測モデル33とを連結することで画像生成-予測モデルを構築する。これにより、任意の組織画像を生成できるとともに、生成した組織画像のプロセス条件を予測する学習モデルが構築されるため、材料の組織情報を考慮したプロセス条件の予測が可能となる。また、理想組織をもつ組織画像が与えられた場合に、その組織画像をプロセス条件予測モデル33に入力することで、理想組織を実現するプロセス条件を予測することができる。また、異常組織をもつ組織画像が与えられた場合に、その組織画像をプロセス条件予測モデル33に入力することで、異常組織のプロセス原因を予測することができる。
【0065】
(超解像処理の適用)
生成モデル31により生成される画像に超解像処理を施してもよい。これにより、計算コストを極端に増加させることなく鮮明度の高い生成画像を得ることができる。
図16は、生成画像の鮮明度と生成速度の関係を示す図である。図から分かるように、生成画像の鮮明度と生成速度はトレードオフの関係にある。つまり、鮮明度が高い生成画像を生成しようとすると、生成速度は遅くなる。生成モデル31の複雑性を高めることで、より鮮明度の高い生成画像を得ることは可能であるが、大量の画像を生成する場合は計算コストが膨大になる。そのため、生成モデル31自体を複雑にするのではなく、生成モデル31が生成した生成画像に超解像処理を施すことで、鮮明度を高めつつ計算コストの増大を抑制することができる。これにより、生成画像の鮮明度と生成速度のトレードオフが緩和される。
【0066】
図17は、生成画像に超解像処理を適用する例を示す図である。図に示すように、学習済みの生成モデル31のデコーダ212から出力された生成画像51に対して超解像処理を施す。これにより、鮮明化された生成画像51が得られる。超解像処理には、画像を鮮明化する公知の手法が用いられる。
【0067】
図11で示した処理のうち、超解像処理は画像生成時(
図11のステップS202)に適用することができる。具体的には、
図11のステップS202において、制御部101(画像生成-予測部26)は、画像生成-予測モデルの生成モデル31によって生成した組織画像(生成画像51)に対して超解像処理を施して鮮明化した生成画像51を出力し、鮮明化した生成画像51を画像生成-予測モデルの特性予測モデル32に入力して品質特性値61を予測する。
【0068】
また、特性予測モデル32の学習時(
図11のステップS102)に超解像処理を適用することもできる。具体的には、
図11のステップS102において、制御部101(特性予測モデル構築部22)は、学習用組織画像41を生成モデル31により復元(再構成)した学習用生成画像51に対して超解像処理を施して鮮明化した学習用生成画像51を説明変数(入力)、その対となる品質特性値61を目的変数(出力)として特性予測モデル32を学習する。
【0069】
以上のように、超解像技術を適用することで、生成モデル31の複雑度を増加させずに、生成画像51を鮮明化させることができる。その結果、生成画像を大量に生成する場合でも、現実的な生成速度で鮮明度の高い画像を生成することができる。
【0070】
[第2の実施の形態]
次に、第2の実施形態について説明する。第2の実施形態では、生成画像から更に品質特性値を予測する。
図18は、第2の実施形態に係る予測装置1aの機能構成を示すブロック図である。予測装置1aは、予測装置1の機能構成(
図2)に加え、特性予測モデル構築部22、目標画像取得部28を更に備える。
【0071】
生成モデル構築部21は、第1の実施形態と同様に、材料を撮像して得られた組織画像41(学習用組織画像41)を学習用データとして、材料の組織画像を生成するための生成モデル31を構築する。第2の実施形態では、学習用組織画像41は、プロセス条件(実測値)に加え、品質特性値(実測値)と紐づけられ、記憶部102または通信部103を介して通信接続可能なストレージ等に記憶されている。品質特性値は、材料特性値であり、例えば、磁束密度Br、保磁力HcJ等である。
【0072】
特性予測モデル構築部22は、材料の組織画像と品質特性値との対となる学習用データ42を用いて、任意の組織画像(生成画像)の品質特性値を予測する回帰モデル(特性予測モデル32)を学習し構築する。
【0073】
ここで、学習用データ42における材料の組織画像とは、生成モデル31を構築する際に使用した組織画像41(
図3参照)を生成モデル31により復元(再構成)した画像(学習用生成画像51)である。すなわち、学習用組織画像41を学習済みのエンコーダ211に入力して潜在変数Zを得て、その潜在変数Zを学習済みのデコーダ212に入力して得られる画像である。
【0074】
図19は、特性予測モデル構築部22による特性予測モデル32の構築の概念を説明する図である。図に示すように、特性予測モデル構築部22は、材料の組織画像(学習用生成画像51)とその品質特性値とを対にした学習用データ42を学習器221に入力し、教師あり学習を行うことで特性予測モデル32を構築する。
【0075】
学習器221は、学習用データ42の学習用生成画像51を説明変数(入力)、その学習用生成画像51の対となる品質特性値61を目的変数(出力)とし、CNN(畳み込みニューラルネットワーク)やその他の公知の機械学習により特性予測モデル32を学習する。学習済みの特性予測モデル32は、品質特性値が未知の組織画像(生成画像)を入力すると、その組織画像(生成画像)の品質特性値61を予測し、出力する。
【0076】
なお本実施形態では、学習用生成画像51を説明変数として特性予測モデル32を学習させているが、学習用組織画像41(実データ)を説明変数として特性予測モデル32を学習させることもできる。また、学習用生成画像51を生成した際の潜在変数Zを説明変数として特性予測モデル32を学習させることもできる。
【0077】
画像生成-予測部26は、生成モデル構築部21により構築された生成モデル31と、プロセス条件予測モデル33により構築されたプロセス条件予測モデル33と、特性予測モデル構築部22により構築された特性予測モデル32と連結した画像生成-予測モデルを用いて、任意の組織画像を生成するとともに生成した組織画像のプロセス条件と品質特性値を予測する。具体的には、画像生成-予測部26は、サンプリング部25によりランダムにサンプリングされた潜在変数Zを、
図20に示すように、生成モデル31のデコーダ212に入力し、生成画像51をランダムに生成する。そして、画像生成-予測部26は、生成した生成画像51について、プロセス条件予測モデル33を用いてプロセス条件60を予測し、特性予測モデル32を用いて品質特性値61を予測する。
【0078】
図21は、生成モデル31によってランダムに生成した生成画像51(希土類磁石の生成画像)の品質特性値61の予測値の分布を示す図である。グラフの縦軸は磁束密度Br、横軸は保磁力HcJを示す。縦軸、横軸ともに、最小値が0、最大値が1となるよう、実際のデータを用いて正規化処理を実施している。白で表した点「〇」は実験データの品質特性値の分布を示し、黒で表した点「●」はランダムに多数生成した生成画像51の中からサンプリングした生成画像51の品質特性値の予測値の分布を示す。図に示すように、生成画像51の品質特性値の予測値の分布が、実験データの品質特性値の分布の概ね全域をカバーできていることから、生成モデル31によって様々な特性を有する生成画像51を生成することができる。例えば、図に示すように、高Br-低HcJの特性を持つ生成画像51a、低Br-高HcJの予測特性を持つ生成画像51c、中間的な特性を持つ生成画像51b等を生成することができる。組織構造をみると、生成画像51aは粒界が細く、生成画像51cは粒界が太く、生成画像51bの粒界は生成画像51aと生成画像51cの中間程度となることが分かる。
【0079】
目標画像取得部28は、画像生成-予測部26により生成された組織画像(生成画像51)の中から、目標とする品質特性を有する材料の組織画像(生成画像5)を取得する。具体的には、目標画像取得部28は、画像生成-予測部26が予測した品質特性値61が所定の目標条件を満たすか否かを判定する。判定の結果、品質特性値61が所定の目標条件を満たす場合に、その生成画像51を、目標とする品質特性を有する材料の組織画像5として取得する。
【0080】
可視化部29は、目標画像取得部28により取得した目標とする品質特性を有する材料の組織画像5について、そのプロセス条件や品質特性値の予測結果を表示部105に表示する。また、可視化部29は、予測したプロセス条件60や品質特性値61をグラフや組織画像5上にプロットしたプロセス条件マップや特性マップで表示したり、SHAP値をグラフや組織画像5上にプロットしたSHAP分布図等で表示してもよい。
【0081】
次に、
図22のフローチャートを参照して、予測装置1aが実行する処理(予測方法)の流れを説明する。
図22の各ステップの処理を予測装置1aの制御部101が実行することで、予測装置1aの各機能を実現する。
【0082】
予測装置1aの制御部101は、ある材料を撮像して得られた組織画像41(学習用組織画像41)を学習用データとして記憶部102等から取得し、VQVAE等の生成モデル31を学習し構築する(ステップS101a)。
【0083】
次にステップS102aにおいて、制御部101は、組織画像とプロセス条件との対となる学習用データ43を用いて、任意の組織画像(生成画像)のプロセス条件を予測する回帰モデルであるプロセス条件予測モデル33を構築する。具体的には、制御部101は、学習用組織画像41を生成モデル31により復元(再構成)した画像である学習用生成画像51を説明変数(入力)、その対となるプロセス条件60を目的変数(出力)としてプロセス条件予測モデル33を学習することで、任意の組織画像(生成画像)からプロセス条件60を予測するプロセス条件予測モデル33を構築する。
【0084】
またステップS102aにおいて、制御部101は、組織画像と品質特性値との対となる学習用データ42を用いて、任意の組織画像(生成画像)の品質特性値を予測する回帰モデルである特性予測モデル32を構築する。具体的には、制御部101は、学習用組織画像41を生成モデル31により復元(再構成)した画像である学習用生成画像51を説明変数(入力)、その対となる品質特性値61を目的変数(出力)として特性予測モデル32を学習することで、任意の組織画像(生成画像)から品質特性値61を予測する特性予測モデル32を構築する。
【0085】
なお、ステップS101a、S102aにおいて、学習用データとして用いる学習用組織画像41及び学習用生成画像51は所定サイズの矩形画像に分割して用いてもよい。
【0086】
次に、制御部101は、ステップS101aで構築した生成モデル31と、ステップS102aで構築したプロセス条件予測モデル33及び特性予測モデル32とを連結した画像生成-予測モデルを作成する(ステップS103a)。画像生成-予測モデルは、生成モデル31により任意の生成画像51を出力するとともに、プロセス条件予測モデル33により当該生成画像51のプロセス条件60の予測値、及び特性予測モデル32により当該生成画像51の品質特性値61の予測値を出力するものである。
【0087】
ここで、オペレータは、ステップS103aで作成した画像生成-予測モデルを検証データやテストデータを用いて検証/テストを行い、生成した生成画像51の再構成精度と、プロセス条件60や品質特性値61の予測値の分布が適切であるか否かを判定する(ステップS104a)。不適切な場合は(ステップS104a;No)、オペレータは生成モデル31のハイパーパラメータを調整し(ステップS105a)、生成モデル31の構築(ステップS101a)、プロセス条件予測モデル33や特性予測モデル32の構築(ステップS102a)を再度行う。ハイパーパラメータは、例えばエポック数等である。
【0088】
なお、ステップS104aにおいて、制御部101は、オペレータが再構成精度とプロセス条件60や品質特性値61の予測値の分布を目視で確認できるように、元画像と元画像を生成モデル31により復元した生成画像51を並べて表示したり、プロセス条件予測モデル33により予測したプロセス条件60の分布や特性予測モデル32により予測した品質特性値61の分布を表示部105に表示することが望ましい。また、ハイパーパラメータ調整画面へ移行するための「調整」ボタンと、次の処理へ移行するための「次へ」ボタンを表示して、適切/不適切の入力を受け付けるようにしてもよい。
【0089】
オペレータは、生成画像51の再構成精度と、プロセス条件60や品質特性値61の予測値の分布が不適切であると判断すると(ステップS104a;No)、例えば、ハイパーパラメータ調整画面へ移行するための「調整」ボタンを操作する。その場合、制御部101は、ハイパーパラメータ調整画面を表示し、オペレータからエポック数等の調整を受け付ける(ステップS105a)。ステップS105aにおける、制御部101が実行する「ハイパーパラメータ調整画面を表示し、オペレータからエポック数等の調整を受け付ける」機能は、本発明に係る「調整手段」の一例である。なお、ハイパーパラメータの調整は、調整画面上ではなく、プログラムの該当箇所を直接書き換えることで行ってもよい。
【0090】
オペレータは、ハイパーパラメータを調整しながら生成モデル31、プロセス条件予測モデル33、及び特性予測モデル32の学習、検証、テストを繰り返す(ステップS101a~S105a)。そして、生成した生成画像51の再構成精度と、プロセス条件60や品質特性値61の予測値の分布が適切であるとオペレータが判断すると(ステップS104a;Yes)、学習処理を終了し、次のステップS201aへ進む。
【0091】
なお、ステップS104aにおいて、制御部101が、再構成精度とプロセス条件や品質特性値の予測値の分布を所定の基準で評価し、適切/不適切を自動で判断してもよい。例えば、制御部101は、再構成精度については、再構成ロスが所定の閾値未満であれば適切、閾値以上であれば不適切と判断する。また、プロセス条件や品質特性値の予測値の分布については、分布の分散値等の統計指標が所定の条件を満たせば適切、所定の条件を満たさなければ不適切と判断する。そして、再構成精度とプロセス条件や品質特性値の予測値の分布の双方が適切と判断された場合(ステップS104a;Yes)、学習処理を終了し、ステップS201aへ移行する。
【0092】
図23は、学習された特性予測モデル32(回帰モデル)の予測性能を示すグラフであり、磁束密度Brについて横軸を実測値、縦軸を予測値として表した図である。縦軸、横軸ともに、最小値が0、最大値が1となるよう、実測値を元に正規化処理を実施している。(a)は学習データを用いた場合、(b)は検証データを用いた場合、(c)はテストデータを用いた場合を示す。回帰モデルの決定係数R2が、学習データではR2=0.9805、検証データではR2=0.4286、テストデータではR2=0.4485となり、良好な予測性能を有する特性予測モデル32が作成されていることが分かる。
【0093】
図22のフローチャートの説明に戻る。
制御部101は、画像生成-予測モデルの生成モデル31(デコーダ212)に入力する潜在変数Zをサンプリングする(ステップS201a)。本実施形態では、潜在変数Zは、例えば、ランダムノイズ等の任意のデータである。
【0094】
制御部101は、ステップ201aでサンプリングした潜在変数Z(ランダムノイズ等の任意のデータ)を入力として画像生成-予測モデルによって組織画像(生成画像51)を生成し、その生成画像51についてプロセス条件60と品質特性値61を予測する(ステップS202a)。制御部101の出力データは、生成画像51とその生成画像51から予測したプロセス条件60と品質特性値61とを含むデータである。制御部101は、複数の出力データを生成し、各出力データについて品質特性値61が目標条件を満たすか(目標特性を満たすか)否かを判定する(ステップS203a)。また、制御部101は、目標特性を満たす画像が所定の目標数以上得られたか否かを判定する(ステップS204a)。目標特性を満たす画像が所定の目標数に満たない場合は(ステップS203a、ステップS204aのいずれかでNo)、ステップS201aへ戻り、画像生成-予測モデルによる出力データの生成を繰り返す。なお、実効性のある時間内で、一定の枚数の目標画像が得られない場合は、STARTに戻ってパラメータチューニングを行うことも有効である。
【0095】
図24~
図26は、各目標特性に応じた希土類磁石の生成画像51の例を示す。
図24は、高Br(磁束密度)-低HcJ(保磁力)を目標特性とした場合の生成画像5a、5b、5cの例を示している。目標条件は、以下の式(1)である。式中、Brpredは磁束密度の予測値、HcJpredは保磁力の予測値を表す。
【0096】
【0097】
図24の生成画像5a、5b、5cのサイズは、学習用データと同サイズの矩形小片画像サイズである。生成画像5aの品質特性の予測値は、Br:0.853[-]、HcJ:0.0805[-]であり、生成画像5bの品質特性の予測値は、Br:0.868[-]、HcJ:0.0779[-]であり、生成画像5cの品質特性の予測値は、Br:0.888[-]、HcJ:0.0894[-]である。
【0098】
また、
図25は、低Br(磁束密度)-高HcJ(保磁力)を目標特性とした場合の生成画像5d、5e、5fの例を示している。目標条件は、以下の式(2)である。
【0099】
【0100】
図25の生成画像5dの品質特性の予測値は、Br:0.325[-]、HcJ:0.896[-]であり、生成画像5eの品質特性の予測値は、Br:0.345[-]、HcJ:0.915[-]であり、生成画像5fの品質特性の予測値は、Br:0.366[-]、HcJ:0.914[-]である。
【0101】
また、
図26は、高Br(磁束密度)-高HcJ(保磁力)を目標特性とした場合の生成画像5g、5h、5iの例を示している。目標条件は、以下の式(3)である。
【0102】
【0103】
図26の生成画像5gの品質特性の予測値は、Br:0.817[-]、HcJ:0.811[-]であり、生成画像5hの品質特性の予測値は、Br:0.868[-]、HcJ:0.821[-]であり、生成画像5iの品質特性の予測値は、Br:0.817[-]、HcJ:0.815[-]である。
【0104】
図22のフローチャートの説明に戻る。
目標特性を満たす組織画像5が所定の目標数に達すると(ステップS203a、ステップS204aの双方でYes)、次に制御部101は、可視化処理を行う(ステップS205a)。
【0105】
可視化処理では、制御部101は、組織画像5について、プロセス条件60や品質特性値61の予測結果を表示部105に表示する。また、制御部101は、予測したプロセス条件60や品質特性値61をグラフや組織画像5上にプロットしたプロセス条件マップや特性マップで表示したり、SHAP値をグラフや組織画像5上にプロットしたSHAP分布図等を表示してもよい。
【0106】
図27は、品質特性値の可視化処理の一例であるSHAP値の分布図を示している。
図27(a)は、
図26の生成画像5gの磁束密度BrのSHAP分布図と保磁力HcJのSHAP分布図を表す。
図27(b)は、
図26の生成画像5hの磁束密度BrのSHAP分布図と保磁力HcJのSHAP分布図を表す。
図27(c)は、
図26の生成画像5iの磁束密度BrのSHAP分布図と保磁力HcJのSHAP分布図を表す。このように、生成画像とその品質特性を可視化することにより、材料の組織構造や品質特性を評価しやすくなる。
【0107】
以上説明したように、第2の実施形態の予測装置1aは、材料を撮像して得られた組織画像を学習用データとして生成モデル31を学習し、材料の組織画像と品質特性値との対となるデータを学習データとして特性予測モデル32を学習し、生成モデル31と特性予測モデル32とプロセス条件予測モデル33を連結することで画像生成-予測モデルを構築する。これにより、生成した組織画像について、プロセス条件と品質特性値を予測することができる。また、生成した組織画像の中から目標とする品質特性を有する組織画像5を取得し、その組織画像5、プロセス条件、品質特性値を可視化することで、目標特性をもつ組織構造や、目標特性を達成するためのプロセス条件を把握することができる。
【0108】
なお、第1の実施形態と同様に、画像生成時(
図22のステップS202a)や特性予測モデル32やプロセス条件予測モデル33の学習時(
図22のステップS102a)において、生成画像に超解像処理を施してもよい。
[第3の実施の形態]
次に、第3の実施形態について説明する。第2の実施形態では、生成画像をランダムに生成したが、目標となる品質特性に近い生成画像をより多く生成したほうが効率的である。第3の実施形態では、画像生成の方法に改良が加えられている。
【0109】
図28は、第3の実施形態に係る予測装置1bの機能構成を示すブロック図である。予測装置1bは、予測装置1aの構成(
図18)に加え、自己回帰モデル構築部24を更に備える。
【0110】
自己回帰モデル構築部24は、学習用組織画像41を学習済みの生成モデル31(エンコーダ211)に入力して得られる潜在変数Zに基いて、自己回帰モデル34(条件付き確率分布)を学習し構築する。
【0111】
自己回帰モデル34の学習について説明する。まず、
図3のVQVAEにおける埋め込みベクトルVについて補足する。
図3に示すように、1つ1つの埋め込みベクトルVには、D個の値が格納されており、この埋め込みベクトルVはK個存在する。KとDはハイパーパラメータであり、ユーザが事前に設定する。VQVAEの学習時には、この1つ1つの埋め込みベクトルVの中に含まれるD個の値が最適化される。
図3に示すように、潜在変数Zは、埋め込みベクトルVのインデックスから構成される2次元配列として表せる。例えば、潜在変数Zに含まれる「2」は、インデックスが2番目の埋め込みベクトルV
2を示している。
【0112】
自己回帰モデル構築部24は、
図3のVQVAEの学習後(生成モデル31の構築後)、
図29に示すように、学習用組織画像41を学習済みの生成モデル31のエンコーダ211に入力することで、潜在変数Zの2次元配列を取得する。潜在変数Zの2次元配列は、学習用組織画像41の数だけ取得される。潜在変数の2次元配列は、インデックスがランダムに配置されているわけではなく、一定の法則・パターンに従って配置されている。自己回帰モデル構築部24は、この法則・パターンを、自己回帰モデルにより学習する。
【0113】
具体的には、自己回帰モデル構築部24は、
図30に示すように、潜在変数Zの2次元配列を1次元のデータ列に変換して、このデータ列を時系列データと見なし、既に埋まっているインデックスの履歴に応じた条件付き確率分布(自己回帰モデル34)を学習する。
図30に示すように、自己回帰モデル34は、例えばニューラルネットワーク341とソフトマックス関数342から構成される構造を持つ。
【0114】
サンプリング部25は、自己回帰モデル構築部24により学習された自己回帰モデル34(条件付き確率分布)を利用して、潜在変数Zをサンプリングする。具体的には、潜在変数の2次元配列の左上から、各々の配列に入るインデックスを順番に自己回帰モデル34(条件付き確率分布)に基いてサンプリングしていく。サンプリング時には、
図30の条件付き確率分布に示されるように、配列に入る確率の高いインデックスと、配列に入る確率の低いインデックスが存在する。
【0115】
特に本実施形態では、サンプリング部25は、学習済みの自己回帰モデル34をそのまま用いてサンプリングを行うのではなく、自己回帰モデル34に含まれる条件付き確率分布の山部分と谷部分の高低を調整した上でサンプリングを行う。これにより、潜在変数Zの配列の中に入るインデックスの確率が調整される。
【0116】
一般的に材料組織には、析出物、粒界、ボイド等が存在するが、母相が最も多くの割合を占める。したがって、潜在変数Zの配列の中に入る確率の高いインデックス(条件付き確率の山部分)には、母相の割合が多い組織情報が含まれる傾向がある。反対に、潜在変数Zの配列の中に入る確率の低いインデックス(条件付確率の谷部分)には、母相の割合が少ない組織情報が含まれる傾向がある。
【0117】
上記のように、条件付き確率分布の山部分と谷部分の高低を調整することで、潜在変数Zの配列の中に入るインデックスの確率が調整されるため、特定の材料組織に着目して生成画像を生成することができる。例えば、目標とする品質特性に関連が強い材料組織を含む組織画像を多く生成したり、目標とする品質特性に関連が弱い材料組織を含む組織画像を少なく生成することができる。
【0118】
具体的には、サンプリング部25は、
図31に示すように、条件付き確率分布を表現するソフトマックス関数342を、係数Tを追加した係数付きソフトマックス関数342aに修正する。係数付きソフトマックス関数342aは次のように表される。
【0119】
【0120】
そして、サンプリング部25は、係数付きソフトマックス関数342aの係数Tを変化させることで条件付き確率分布の山部分と谷部分の高低を調整し、調整した条件付き確率分布(ソフトマックス関数342a)を有する自己回帰モデル34aに基いて、潜在変数Zをサンプリングする。
【0121】
図32は、ソフトマックス関数342aの係数を変化させた場合の関数の変化を示す図である。
図32に示すように、係数Tの値が大きいほど、ソフトマックス関数342a(条件付き確率分布)の山部分が低くなり、谷部分は高くなる。先に述べたように、条件付き確率の山部分には、母相の割合が多い組織情報が含まれる傾向がある。したがって、ソフトマックス関数342aの係数Tを大きくした状態でサンプリングを行うと、条件付き確率分布の山部分が低くなり、画像生成時に、母相の割合が多い組織情報が含まれるインデックスが出現しにくくなる。また、条件付き確率分布の谷部分が高くなるので、母相の割合が少ない(粒界、析出物、ボイドの割合が多い)組織情報が含まれるインデックスが出現しやすくなる。逆に、ソフトマックス関数342aの係数Tを小さくした状態でサンプリングを行うと、条件付き確率分布の山部分が低くなり、画像生成時に、母相の割合が多い組織情報が含まれるインデックスが出現しやすくなる。また、条件付き確率分布の谷部分が低くなるので、母相の割合が少ない(粒界、析出物、ボイドの割合が多い)組織情報が含まれるインデックスが出現しにくくなる。
【0122】
係数Tは目標とする品質特性に応じて適宜設定できる。例えば、高保磁力を目標特性とする場合には、粒界が保磁力と関係しているため(
図21参照)、母相の割合が少ない組織画像を多く生成することが効率的である。すなわち、係数Tを大きく設定することが望ましい。係数Tを大きくした状態でサンプリングを行うと、条件付き確率分布の谷部分が高くなるので、母相の割合が少ない(粒界の割合が多い)組織情報が含まれるインデックスが出現しやすくなり、母相の割合が少ない(粒界の割合が多い)組織画像が多く生成されるようになる。このように、目標特性に応じて係数Tにより母相の割合をコントロールした上で、サンプリングを行う。
【0123】
画像生成-予測部26は、サンプリング部25によりサンプリングされた潜在変数Zを、生成モデル31のデコーダ212に入力し、生成画像51を生成する。また画像生成-予測部26は、生成した生成画像51について、特性予測モデル32を用いて品質特性値61を予測し、プロセス条件予測モデル33を用いてプロセス条件60を予測する。画像生成-予測部26によって生成した生成画像51の品質特性値61の分布は均一な分布ではなく、偏りをもつ分布となる(
図34参照)。
【0124】
予測装置1bの他の機能構成(生成モデル構築部21、特性予測モデル構築部22、プロセス条件予測モデル構築部23、目標画像取得部28、可視化部29)については、予測装置1aの機能構成(
図18)と同様であるため、説明を省略する。また、予測装置1bのハードウェア構成は、予測装置1、1aのハードウェア構成(
図1)と同様である。
【0125】
次に、
図33のフローチャートを参照して、予測装置1bが実行する処理(予測方法)の流れを説明する。
図33の各ステップの処理を予測装置1bの制御部101が実行することで、予測装置1bの各機能を実現する。
【0126】
図33のステップS101a~S105aは、
図22のステップS101a~S105aと同様である。すなわち、制御部101は、学習用組織画像41を学習用データとして、VQVAE等の生成モデル31を学習し構築する(ステップS101a)。次に、制御部101は、学習用組織画像41を生成モデル31により復元(再構成)した画像である学習用生成画像51とプロセス条件との対となる学習用データ43を用いて、プロセス条件予測モデル33を学習し構築し、学習用生成画像51と品質特性値との対となる学習用データ42を用いて、特性予測モデル32を学習し構築する(ステップS102a)。そして、制御部101は、ステップS101aで構築した生成モデル31と、ステップS102aで構築したプロセス条件予測モデル33及び特性予測モデル32とを連結した画像生成-予測モデルを作成する(ステップS103a)。
【0127】
オペレータは、ステップS103aで作成した画像生成-予測モデルを検証データやテストデータを用いて検証/テストを行い、生成した生成画像51の再構成精度と、プロセス条件60や品質特性値61の予測値の分布が適切であるか否かを判定する(ステップS104a)。不適切な場合は(ステップS104a;No)、オペレータは生成モデル31のハイパーパラメータを調整し(ステップS105a)、生成モデル31の構築(ステップS101a)、プロセス条件予測モデル33や特性予測モデル32の構築(ステップS102a)を再度行う。
【0128】
オペレータは、生成画像51の再構成精度と、プロセス条件60や品質特性値61の予測値の分布が不適切であると判断すると(ステップS104a;No)、例えば、ハイパーパラメータ調整画面へ移行するための「調整」ボタンを操作する。その場合、制御部101は、ハイパーパラメータ調整画面を表示し、オペレータからエポック数等の調整を受け付ける(ステップS105a)。ステップS105aにおける、制御部101が実行する「ハイパーパラメータ調整画面を表示し、オペレータからエポック数等の調整を受け付ける」機能は、本発明に係る「調整手段」の一例である。なお、ハイパーパラメータの調整は、調整画面上ではなく、プログラムの該当箇所を直接書き換えることで行ってもよい。オペレータは、ハイパーパラメータを調整しながら生成モデル31、プロセス条件予測モデル33、及び特性予測モデル32の学習、検証、テストを繰り返す(ステップS101a~S105a)。そして、生成した生成画像51の再構成精度と、プロセス条件60や品質特性値61の予測値の分布が適切であるとオペレータが判断すると(ステップS104a;Yes)、学習処理を終了し、次のステップS106aへ進む。
【0129】
ステップS106aにおいて、制御部101は、自己回帰モデル34(条件付き確率分布)を学習し構築する。具体的には、制御部101は、まず学習用組織画像41を学習済みの生成モデル31のエンコーダ211に入力することで、潜在変数Zの2次元配列を取得する(
図29)。潜在変数Zの2次元配列は、学習用組織画像41の数だけ取得される。次に、制御部101は、取得した潜在変数Zに基いて、自己回帰モデル34を学習する。具体的には、制御部101は、
図30に示すように、潜在変数Zの2次元配列を1次元のデータ列に変換して、このデータ列を時系列データと見なし、既に埋まっているインデックスの履歴に応じた条件付き確率分布(自己回帰モデル34)を学習する。
図30に示すように、自己回帰モデル34は、例えばニューラルネットワーク341とソフトマックス関数342から構成される構造を持つ。
【0130】
次に、制御部101は、学習済みの自己回帰モデル34を利用して、潜在変数Zのサンプリングを行う(ステップS201a)。この際、制御部101は、自己回帰モデル34をそのまま用いて、潜在変数Zのサンプリングを行うのではなく、学習済みの自己回帰モデル34に含まれる条件付き確率分布を調整し、調整した条件付き確率分布に基いて、潜在変数Zをサンプリングする。具体的には、制御部101は、まず条件付き確率分布を表現するソフトマックス関数342を、係数Tを追加した係数付きソフトマックス関数342aに修正する。そして制御部101は、係数付きソフトマックス関数342aの係数Tを所定値に設定する。これにより、自己回帰モデル34に含まれる条件付き確率分布の山部分と谷部分の高低が調整される(
図32)。係数Tは目標とする品質特性に応じて適宜設定すればよい。そして制御部101は、係数が設定された係数付きソフトマックス関数342aを有する自己回帰モデル34a(
図31)に基いて、潜在変数Zをサンプリングする。
【0131】
以降の処理(
図33のステップS202a~S205a)は、第2の実施形態の処理(
図22のステップS202a~S205a)と同様である。すなわち、制御部101は、ステップ201でサンプリングした潜在変数Zを入力として画像生成-予測モデルによって組織画像(生成画像51)を生成し、その生成画像51について品質特性値61とプロセス条件60を予測する(ステップS202a)。次に、制御部101は、複数の出力データを生成し、各出力データについて品質特性値61が目標条件を満たすか(目標特性を満たすか)否かを判定し(ステップS203a)、また、目標特性を満たす画像が所定の目標数以上得られたか否かを判定する(ステップS204a)。目標特性を満たす画像が所定の目標数に満たない場合は(ステップS203a、ステップ204aのいずれかでNo)、ステップS201aへ戻り、画像生成-予測モデルによる出力データの生成を繰り返す。そして、目標特性を満たす組織画像5が所定の目標数に達すると(ステップS203a、ステップS204aの双方でYes)、制御部101は、可視化処理を行い(ステップS205a)、処理を終了する。可視化処理では、制御部101は、目標特性を満たす組織画像5について、プロセス条件60や品質特性値61の予測結果を表示部105に表示する。
【0132】
図34は、係数Tを調整した場合の品質特性値の分布を示すグラフである。白で表した点「〇」は、自己回帰モデル34aの係数付きソフトマックス関数342aの係数Tを標準値として潜在変数Zをサンプリングして生成画像を生成し、品質特性の予測結果をプロットしたものである。黒で表した点「●」は、自己回帰モデル34aの係数付きソフトマックス関数342aの係数Tを標準値より大きい所定の値として潜在変数Zをサンプリングして生成画像を生成し、品質特性の予測結果をプロットしたものである。
図34から、係数Tを大きい値とした点「●」のほうが、高保磁力側に品質特性値の分布が偏っていることが分かる。このように、係数Tを調整することで、目的の特性(
図25の場合は「高保磁力」)に近い生成画像をより多く生成することができる。
【0133】
以上、第3の実施形態について説明した。第3の実施形態によれば、学習用組織画像41を生成モデル31(エンコーダ211)に入力して得られる潜在変数Zに基いて自己回帰モデル34を学習し、自己回帰モデル34に含まれる条件付き確率分布に基いて潜在変数Zをサンプリングし、組織画像を生成する。この際、条件付き確率分布の山部分と谷部分の高低を調整した上で、潜在変数Zをサンプリングすることで、目標とする品質特性に近い特性を持つ組織画像を効率的に生成することができる。これにより、目的とする品質特性を持つ材料を効率的に開発することが可能となる。
【0134】
なお、第1、2の実施形態と同様に、画像生成時(
図33のステップS202a)や特性予測モデル32やプロセス条件予測モデル33の学習時(
図33のステップS102a)において、生成画像に超解像処理を施してもよい。
【0135】
以上、添付図面を参照して、本発明の好適な実施形態について説明したが、本発明は係る例に限定されない。当業者であれば、本願で開示した技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
【符号の説明】
【0136】
1、1a、1b……予測装置
21…………………生成モデル構築部
22…………………特性予測モデル構築部
23…………………プロセス条件予測モデル構築部
24…………………自己回帰モデル構築部
25…………………サンプリング部
26…………………画像生成-予測部
28…………………目標画像取得部
29…………………可視化部
31…………………生成モデル
32…………………特性予測モデル
33…………………プロセス条件予測モデル
34…………………自己回帰モデル
341………………ニューラルネットワーク
342………………ソフトマックス関数
342a……………係数付きソフトマックス関数
41…………………組織画像(実データ)
42…………………組織画像-品質特性値の対となるデータ
43…………………組織画像-プロセス条件の対となるデータ
51…………………組織画像(生成画像)
60…………………プロセス条件
61…………………品質特性値
5……………………目標特性を有する組織画像
【要約】
【課題】 材料の組織情報を考慮したプロセス条件の予測が可能な予測装置等を提供する。
【解決手段】 予測装置1は、材料を撮像して得られた組織画像を学習用データとして、材料の組織画像を生成するための生成モデル31を構築する生成モデル構築部21と、材料の組織画像とプロセス条件との対となるデータを学習することにより、任意の組織画像のプロセス条件を予測する回帰モデルであるプロセス条件予測モデル33を構築するプロセス条件予測モデル構築部23と、生成モデル構築部21により構築された生成モデル31とプロセス条件予測モデル構築部23により構築されたプロセス条件予測モデル33とを用いて、材料の組織画像を生成するとともに当該組織画像のプロセス条件を予測する画像生成-予測部26と、を備える。
【選択図】
図2