(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023042445
(43)【公開日】2023-03-27
(54)【発明の名称】破断面特徴領域判定モデル生成装置、破断面特徴領域判定モデル生成方法、プログラム、破断面特徴領域判定装置、及び、破断面特徴領域判定方法
(51)【国際特許分類】
G06T 7/00 20170101AFI20230317BHJP
G01N 33/204 20190101ALI20230317BHJP
G01N 3/08 20060101ALI20230317BHJP
【FI】
G06T7/00 350B
G01N33/204
G01N3/08
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2021149743
(22)【出願日】2021-09-14
(71)【出願人】
【識別番号】000006655
【氏名又は名称】日本製鉄株式会社
(74)【代理人】
【識別番号】110002044
【氏名又は名称】弁理士法人ブライタス
(72)【発明者】
【氏名】平野 弘二
【テーマコード(参考)】
2G055
2G061
5L096
【Fターム(参考)】
2G055AA01
2G055BA09
2G055FA01
2G055FA02
2G061AA14
2G061AB03
2G061BA04
2G061CA01
2G061DA11
2G061DA12
2G061EB07
2G061EC05
5L096AA06
5L096BA03
5L096BA18
5L096CA02
5L096CA17
5L096CA23
5L096DA01
5L096FA59
5L096HA08
5L096HA11
5L096KA04
5L096KA13
(57)【要約】
【課題】容易に得られるマクロ破断面画像から自動的に破断面の延性面、脆性面を判定することが可能なモデルを生成する。
【解決手段】材料の破断面画像と破断面画像における特徴領域の位置を表す情報とが関連付けられた複数のデータを学習データとして、機械学習により破断面画像の特徴領域を判定する破断面特徴領域判定モデルを生成するモデル生成部と、破断面特徴領域判定モデルを出力する出力部と、を備える、破断面特徴領域判定モデル生成装置を提供する。
【選択図】
図2
【特許請求の範囲】
【請求項1】
材料の破断面画像と前記破断面画像における特徴領域の位置を表す情報とが関連付けられた複数のデータを学習データとして、機械学習により破断面画像の特徴領域を判定する破断面特徴領域判定モデルを生成するモデル生成部と、
前記破断面特徴領域判定モデルを出力する出力部と、
を備える、破断面特徴領域判定モデル生成装置。
【請求項2】
前記モデル生成部は、前記破断面画像の前記特徴領域の判定において考慮する単位領域を、破壊組織を特定し得る必要最小領域よりも広い領域として、深層学習により前記破断面特徴領域判定モデルを生成する、請求項1に記載の破断面特徴領域判定モデル生成装置。
【請求項3】
前記材料の破断面を撮像して得られた原画像は、前記材料の破断面を、撮像装置の光軸に対して対称性を有するように照明して、前記撮像装置により撮像した画像である、請求項1または2に記載の破断面特徴領域判定モデル生成装置。
【請求項4】
1つの破断面画像から複数の破断面画像を生成する画像増殖部を有し、
前記画像増殖部は、前記材料の破断面を撮像して得られた原画像を、左右反転、上下反転、または、回転することにより、前記破断面画像を増殖し、
前記モデル生成部は、前記原画像、及び、前記画像増殖部により増殖された破断面画像を、前記学習データの破断面画像として用いる、請求項1~3のいずれか1項に記載の破断面特徴領域判定モデル生成装置。
【請求項5】
前記特徴領域は、脆性面または延性面である、請求項1~4のいずれか1項に記載の破断面特徴領域判定モデル生成装置。
【請求項6】
前記破断面特徴領域判定モデルは、当該破断面特徴領域判定モデルに入力された破断面画像の特徴領域を判定し、前記破断面画像上に前記特徴領域を示した判定後破断面画像を出力する、請求項1~5のいずれか1項に記載の破断面特徴領域判定モデル生成装置。
【請求項7】
前記モデル生成部は、
前記学習データとして、前記出力部から出力された前記破断面特徴領域判定モデルを用いて得られた前記判定後破断面画像に対してユーザが前記特徴領域を補正した補正後破断面画像を用いて、
前記破断面特徴領域判定モデルを再学習する、請求項6に記載の破断面特徴領域判定モデル生成装置。
【請求項8】
材料の破断面画像と前記破断面画像における特徴領域の位置を表す情報とが関連付けられた複数のデータを学習データとして、機械学習により破断面画像の特徴領域を判定する破断面特徴領域判定モデルを生成するモデル生成ステップと、
前記破断面特徴領域判定モデルを出力する出力ステップと、
を含む、破断面特徴領域判定モデル生成方法。
【請求項9】
コンピュータを、
材料の破断面画像と前記破断面画像における特徴領域の位置を表す情報とが関連付けられた複数のデータを学習データとして、機械学習により破断面画像の特徴領域を判定する破断面特徴領域判定モデルを生成するモデル生成部と、
前記破断面特徴領域判定モデルを出力する出力部と、
を備える、破断面特徴領域判定モデル生成装置として機能させるプログラム。
【請求項10】
材料の破断面を撮像して破断面画像を取得する破断面画像取得ステップと、
請求項1~7のいずれか1項に記載の破断面特徴領域判定モデル生成装置によって生成された破断面特徴領域判定モデルを用いて、前記破断面画像取得ステップにより取得された破断面画像における特徴領域を判定し、前記破断面画像上に前記特徴領域を示した判定後破断面画像を出力する特徴領域判定ステップと、
前記判定後破断面画像に基づいて、前記破断面における特徴領域の割合を算出する算出ステップと、
を含む、破断面の特徴領域率算出方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、破断面特徴領域判定モデル生成装置、破断面特徴領域判定モデル生成方法、プログラム、及び、これらを用いた破断面の特徴領域率算出方法に関する。
【背景技術】
【0002】
シャルピー衝撃試験、DWTT試験(Drop Weight Tear Test)等の破断試験は、鉄鋼製品等金属の靭性を評価する試験である。金属の靭性を測る指標としては、破断面面積に対する延性面の割合である延性面率、破断面面積に対する脆性面の割合である脆性面率がよく用いられる。以下、「延性面率」、「脆性面率」をまとめて「破面率」とも称する。
【0003】
破面率の計測においては、破断面のどこが延性面で脆性面かを判断する必要があるが、その判断には熟練を必要とし、人に依るばらつきが発生する。加えて、延性部と脆性部との境界領域が複雑な形状であるため、破面率の正確な算出には多くの時間を要する。具体的には、従来、破断面の画像に方眼状のマス目を重ね合わせ、破断面内で延性面もしくは脆性面に相当する領域のマス目を数えて、破断面における占有割合を破面率として算出することが行われている。
【0004】
このような状況から、例えば特許文献1には、破断面の特徴を画像処理によって求め、自動的に破断面を解析する手法が開示されている。
【先行技術文献】
【特許文献】
【0005】
【非特許文献】
【0006】
【非特許文献1】山際 謙太、“破断面解析におけるディープラーニングの活用事例の紹介”、材料(Journal of the Society of Materials Science, Japan)、Vol.69、No.9、pp.644-649、2020年9月
【非特許文献2】岡谷 貴之、“画像認識のための深層学習の研究動向─畳込みニューラルネットワークとその利用法の発展─”、人工知能(Journal of the Japanese Society for Artificial Intelligence)、Vol.31、No.2、pp.169-179、2016年3月
【非特許文献3】Dang Ha、“A guide to receptive field arithmetic for Convolutional Neural Networks”[令和3年4月16日検索]、インターネット〈URL:https://medium.com/mlreview/a-guide-to-receptive-field-arithmetic-for-convolutional-neural-networks-e0f514068807〉
【非特許文献4】Olaf Ronneberger、他2名、“U-Net: Convolutional Networks for Biomedical Image Segmentation”[令和3年4月16日検索]、インターネット〈URL:https://arxiv.org/abs/1505.04597〉
【発明の概要】
【発明が解決しようとする課題】
【0007】
一方、多くの産業分野において、機械学習手法によって学習された識別器を用いることで、膨大なデータから経験や知識を抽出して自動化に繋げる動きが活発である。特に、画像認識分野では、長年重要な問題とされてきた画像分類やセマンティック・セグメンテーションといった諸問題に対して、深層学習(Deep Learning)をはじめとするニューラルネットワークをベースとした識別器により飛躍的な精度向上が確認されている。
【0008】
例えば、非特許文献1には、破断面解析におけるディープラーニングの活用事例が開示されている。具体的には、非特許文献1には、ディンプル、ファセット、ストライエーションといった破壊組織を撮像した走査型電子顕微鏡(SEM)画像を学習データとして、多層型ニューラルネットワークに学習させ、SEM画像の破断面を分類する深層学習モデルを作成することが記載されている。しかし、SEM画像を得るには走査型電子顕微鏡が必要であり、撮影時間も要することから、より容易に得られるマクロ破断面画像(すなわち、SEM画像よりもマクロな破断面画像)から自動的に破断面の延性面、脆性面を判定できることが望ましい。
【0009】
しかしながら、非特許文献1の方法は、マクロ破断面画像の解析には適用できない。マクロ破断面画像の解析により得たい出力は、ストライエーションといった離散的な分類でなく、脆性面の割合を示す0~100%といった連続的に変化する量だからである。そこで、非特許文献1に記載の深層学習モデルの出力を離散値から連続値に変更することが考えられるが、本願発明者の実験によると、単に出力を連続値に変更するだけでは十分な精度が得られないことが判明した。
【0010】
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、SEM画像よりも容易に得られるマクロ破断面画像から自動的に破断面の延性面、脆性面を精度良く判定することが可能なモデルを生成する、破断面特徴領域判定モデル生成装置、破断面特徴領域判定モデル生成方法、プログラム、及び、これらを用いた破断面の特徴領域率算出方法を提供することにある。
【課題を解決するための手段】
【0011】
上記課題を解決するために、本発明のある観点によれば、材料の破断面画像と破断面画像における特徴領域の位置を表す情報とが関連付けられた複数のデータを学習データとして、機械学習により破断面画像の特徴領域を判定する破断面特徴領域判定モデルを生成するモデル生成部と、破断面特徴領域判定モデルを出力する出力部と、を備える、破断面特徴領域判定モデル生成装置が提供される。
【0012】
モデル生成部は、破断面画像の特徴領域の判定において考慮する単位領域を、破壊組織を特定し得る必要最小領域よりも広い領域として、深層学習により破断面特徴領域判定モデルを生成してもよい。
【0013】
材料の破断面を撮像して得られた原画像は、材料の破断面を、撮像装置の光軸に対して対称性を有するように照明して、撮像装置により撮像した画像であってもよい。
【0014】
破断面特徴領域判定モデル生成装置は、1つの破断面画像から複数の破断面画像を生成する画像増殖部を有してもよい。画像増殖部は、材料の破断面を撮像して得られた原画像を、左右反転、上下反転、または、回転することにより、破断面画像を増殖し、モデル生成部は、原画像、及び、画像増殖部により増殖された破断面画像を、学習データの破断面画像として用いる。
【0015】
特徴領域は、脆性面または延性面であってもよい。
【0016】
破断面特徴領域判定モデルは、当該破断面特徴領域判定モデルに入力された破断面画像の特徴領域を判定し、破断面画像上に特徴領域を示した判定後破断面画像を出力してもよい。
【0017】
モデル生成部は、学習データとして、出力部から出力された破断面特徴領域判定モデルを用いて得られた判定後破断面画像に対してユーザが特徴領域を補正した補正後破断面画像を用いて、破断面特徴領域判定モデルを再学習してもよい。
【0018】
また、上記課題を解決するために、本発明の別の観点によれば、材料の破断面画像と破断面画像における特徴領域の位置を表す情報とが関連付けられた複数のデータを学習データとして、機械学習により破断面画像の特徴領域を判定する破断面特徴領域判定モデルを生成するモデル生成ステップと、破断面特徴領域判定モデルを出力する出力ステップと、を含む、破断面特徴領域判定モデル生成方法が提供される。
【0019】
さらに、上記課題を解決するために、本発明の別の観点によれば、コンピュータを、材料の破断面画像と破断面画像における特徴領域の位置を表す情報とが関連付けられた複数のデータを学習データとして、機械学習により破断面画像の特徴領域を判定する破断面特徴領域判定モデルを生成するモデル生成部と、破断面特徴領域判定モデルを出力する出力部と、を備える、破断面特徴領域判定モデル生成装置として機能させるプログラムが提供される。
【0020】
また、上記課題を解決するために、本発明の別の観点によれば、材料の破断面を撮像して破断面画像を取得する破断面画像取得ステップと、上記の破断面特徴領域判定モデル生成装置によって生成された破断面特徴領域判定モデルを用いて、破断面画像取得ステップにより取得された破断面画像における特徴領域を判定し、破断面画像上に特徴領域を示した判定後破断面画像を出力する特徴領域判定ステップと、判定後破断面画像に基づいて、破断面における特徴領域の割合を算出する算出ステップと、を含む、破断面の特徴領域率算出方法が提供される。
【発明の効果】
【0021】
以上説明したように本発明によれば、破断面画像と、破断面画像における特徴領域(破断面の延性面、脆性面)の位置を表す情報とを関連付けた学習データを用いて機械学習を行うため、SEM画像よりも容易に得られるマクロ破断面画像であっても自動的に破断面の延性面、脆性面を精度良く判定することが可能なモデルを生成することができる。
【図面の簡単な説明】
【0022】
【
図1】シャルピー衝撃試験により得られた金属試験片の破断面画像の一例であって、原画像、及び、脆性面部分を示した破断面画像を示す。
【
図2】本発明の一実施形態に係る破断面特徴領域判定システムの一構成例を示すブロック図である。
【
図3】同実施形態に係る破断面特徴領域判定モデル生成方法の一例を示すフローチャートである。
【
図4】破断面画像の増殖処理を説明する説明図である。
【
図5】Receptive Fieldの大きさの確認方法を説明する説明図である。
【
図6】同実施形態に係る破断面の特徴領域率算出方法の一例を示すフローチャートである。
【
図7】撮像装置による破断面の一撮像例を示す模式図である。
【
図8】撮像装置による破断面の他の撮像例を示す模式図である。
【
図9】同実施形態に係る破断面特徴領域判定モデル生成装置または破断面特徴領域判定装置として機能する情報処理装置のハードウェア構成の一例を示すブロック図である。
【
図10】実施例として、破面率(ユーザ判定)と破面率(モデル判定)とを比較した結果を示すグラフである。
【
図11】実施例として、原画像に対して、人により脆性面を判定した結果と、破断面特徴領域判定モデルにより脆性面を判定した結果との一例を示す画像である。
【発明を実施するための形態】
【0023】
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0024】
[1.概要]
まず、
図1を参照して、本発明の一実施形態の概要を説明する。
図1は、シャルピー衝撃試験により得られた金属試験片の破断面画像の一例であって、原画像、及び、脆性面部分を示した破断面画像を示している。
【0025】
図1に示す原画像は、シャルピー衝撃試験により得られた金属試験片の破断面を、撮像装置によって撮像して得られた破断面画像である。破断面面積に対する延性面または脆性面の面積の割合である破面率を算出するためには、原画像において延性面または脆性面を特定する必要がある。
【0026】
従来、材料の破断面画像における延性面または脆性面の判定は、人が行っており、例えば次のように行っていた。まず、画像編集ソフトウェアを用いて、破断面画像に対して延性面または脆性面の部分をマーキングすることにより
図1中央に示すような判定後破断面画像を得ていた。
図1中央の判定後破断面画像内の黒色部分は、人によって脆性面と判定された部分を表している。人は、判定後破断面画像に方眼状のマス目を重ね合わせ、脆性面に相当する領域のマス目を数えて、脆性面率を算出していた。しかし、破断面画像における延性面、脆性面の判定には熟練を必要とし、人に依るばらつきが発生する。加えて、延性部と脆性部との境界領域が複雑な形状であるため、破面率の正確な算出には多くの時間を要する。
【0027】
そこで、本実施形態に係る手法では、材料の破断面画像と破断面画像における特徴領域(例えば、延性面、脆性面)の位置を表す情報とが関連付けられた複数のデータを学習データとして、機械学習により破断面画像の特徴領域を判定する破断面特徴領域判定モデルを生成する。すなわち、本実施形態に係る手法では、例えば、
図1中央に示したような判定後破断面画像が学習データとして用いられる。新たに取得された材料の破断面画像を破断面特徴領域判定モデルに入力することにより、例えば
図1下側に示すような、破断面画像に対して特徴領域がマーキングされた判定後破断面画像を得ることができる。
【0028】
上述したように、非特許文献1には、材料の破断面のSEM画像を学習データとして、多層型ニューラルネットワークに学習させ、SEM画像の破断面を分類する深層学習モデルを作成することが記載されている。ここで、材料の破断面の特徴には、マクロ視点によるものとミクロ視点によるものとがある。非特許文献1に記載の手法では、SEM画像から確認される破壊組織の模様、すなわちミクロ視点による特徴に着目している。例えば、SEM画像にディンプルの模様が表れていれば延性面と判定され、SEM画像にリバーパターンの模様が表れていれば脆性面と判定される。
【0029】
これに対して、本実施形態に係る手法では、SEM画像に比べて容易に得られるマクロ破断面画像を用いて、破断面画像の特徴領域を判定する破断面特徴領域判定モデルを生成する。本実施形態に係る手法では、マクロ視点による材料の破断面の特徴に着目し、目視により確認される色または形状(模様)等から破断面の特徴領域を判定する。例えば、延性面は鈍い灰白色であり、脆性面は光り輝く銀白色である。このように、本実施形態に係る手法では、ミクロン単位の破壊組織を特定し得るような破断面画像ではなく、それよりも広い領域を撮像した破断面画像を学習データとして用いる。このため、本実施形態では、破断面画像における特徴領域の判定対象の画素は、破壊組織を特定し得る必要最小領域よりも広い領域を表すものとなる。
【0030】
以下、本実施形態に係る手法について、詳細に説明する。
【0031】
[2.システム構成]
まず、
図2に基づいて、本発明の一実施形態に係る破断面特徴領域判定システム1を説明する。
図2は、本実施形態に係る破断面特徴領域判定システム1の一構成例を示すブロック図である。
【0032】
本実施形態に係る破断面特徴領域判定システム1は、
図2に示すように、破断面特徴領域判定モデル生成装置100と、破断面特徴領域判定装置200と、画像記憶装置300と、撮像装置400とを備える。
【0033】
(破断面特徴領域判定モデル生成装置)
破断面特徴領域判定モデル生成装置100は、破断面画像の特徴領域を判定する破断面特徴領域判定モデルを生成する。破断面特徴領域判定モデル生成装置100は、モデル生成部110と、出力部120と、画像増殖部130とを備える。
【0034】
モデル生成部110は、材料の破断面画像と破断面画像における特徴領域の位置を表す情報とが関連付けられた複数のデータを学習データとして、機械学習により破断面特徴領域判定モデルを生成する。ここで、破断面画像における特徴領域の位置を表す情報とは、
図1の判定後破断面画像に示したような、特徴領域としてマーキングされた領域を表示し得る情報をいう。例えば、破断面画像における特徴領域の位置を表す情報は、画像データであってもよく、破断面画像での画素位置を特定する情報であってもよい。破断面画像は、例えば、jpg、bmp、png等の画像データである。
【0035】
モデル生成部110は、後述する画像記憶装置300から、学習データとする複数のデータを取得する。モデル生成部110は、機械学習として深層学習を用いて、学習データから深層学習器である破断面特徴領域判定モデルを生成する。モデル生成部110によるモデル生成処理の詳細については後述する。モデル生成部110は、生成した破断面特徴領域判定モデルを出力部120へ出力する。
【0036】
出力部120は、破断面特徴領域判定モデルを外部装置へ出力する。例えば、出力部120は、破断面特徴領域判定装置200へ破断面特徴領域判定モデルを出力する。
【0037】
画像増殖部130は、1つの破断面画像から複数の破断面画像を生成する。モデル生成部110によるモデル生成処理では多くの学習データが必要である。画像増殖部130は、特徴領域の位置が特定された破断面画像を大量に効率よく得るために、1つの破断面画像を回転または反転して、複数の破断面画像を生成する。この際、画像増殖部130は、破断面画像における特徴領域の位置を表す情報も、破断面画像と同じ回転または反転を施し、深層学習の学習データとして使えるようにしておく。また、増殖の方法としては、回転、反転の他、明るさの変更、画像サイズの変更などを実施してもよい。
【0038】
画像増殖部130は、例えば画像記憶装置300に記録された破断面画像と破断面画像における特徴領域の位置を表す情報を取得し、取得した破断面画像と破断面画像における特徴領域の位置を表す情報から複数の破断面画像と破断面画像における特徴領域の位置を表す情報を生成して、画像記憶装置300に記録する。なお、本実施形態では、画像増殖部130は、破断面特徴領域判定モデル生成装置100に設けられているが、本発明は係る例に限定されず、別の装置に設けてもよい。また、例えば、モデル生成時に破断面画像と破断面画像における特徴領域の位置を表す情報とを画像記憶装置300から読み出す度に画像を増殖させてもよい。この場合、画像増殖部130はモデル生成部110に内包されることになる。
【0039】
(破断面特徴領域判定装置)
破断面特徴領域判定装置200は、破断面特徴領域判定モデルを用いて破断面画像における特徴領域を判定する。破断面特徴領域判定装置200は、判定部210と、補正処理部220と、割合算出部230と、表示部240と、入力部250と、データ出力部260とを備える。
【0040】
判定部210は、破断面特徴領域判定モデルを用いて破断面画像における特徴領域を判定し、破断面画像上に特徴領域を示した判定後破断面画像を出力する。判定部210は、破断面特徴領域判定モデル生成装置100から入力された破断面特徴領域判定モデルを用いて、新たに撮像装置400により取得された材料の破断面画像の特徴領域を判定する。判定部210は、破断面画像上に特徴領域を示した判定後破断面画像を、補正処理部220、割合算出部230、表示部240及びデータ出力部260へ出力する。なお、判定後破断面画像は、破断面画像の原画像と、破断面画像の特徴領域の位置を表す情報とが関連付けられたデータである。
【0041】
補正処理部220は、判定部210により判定された破断面画像における特徴領域を、ユーザの補正指示に基づき補正する。判定部210により判定された破断面画像の特徴領域が表示部240に表示されると、ユーザは、入力部250を介して、破断面画像の特徴領域を補正することができる。入力部250からユーザの補正指示が入力されると、補正処理部220は補正指示に基づき、破断面画像の特徴領域を補正する。補正処理部220は、特徴領域を補正した補正後破断面画像を、表示部240に出力する。また、補正処理部220は、特徴領域を補正した補正後破断面画像を、割合算出部230及びデータ出力部260に出力する。なお、補正後破断面画像は、補正後の破断面画像の原画像と、補正後の破断面画像の特徴領域の位置を表す情報とが関連付けられたデータである。また、判定部210による特徴領域の判定精度が十分に高い場合には、補正処理部220による補正を省略してもよい。
【0042】
割合算出部230は、破断面画像の破断面における特徴領域の割合(以下、「特徴領域率」ともいう。)を算出する。割合算出部230は、判定部210または補正処理部220から特徴領域の位置が特定された破断面画像(判定後破断面画像または補正後破断面画像)が入力されると、特徴領域率を算出し、算出結果を表示部240へ出力する。
【0043】
表示部240は、情報を表示する出力部であり、例えばディスプレイ装置である。表示部240は、判定部210または補正処理部220から特徴領域の位置が特定された破断面画像(判定後破断面画像または補正後破断面画像)、割合算出部230により算出された特徴領域率等を表示し、ユーザに通知する。
【0044】
入力部250は、ユーザからの指示を受け付けるインタフェース部であって、例えば、マウス、キーボード、タッチパネル等の、ユーザが操作する操作手段である。ユーザは、入力部250を操作して、破断面画像の特徴領域を補正し得る。入力部250は、入力された補正指示等の入力情報を補正処理部220に出力する。
【0045】
データ出力部260は、判定部210から入力された判定後破断面画像、及び、補正処理部220から入力された補正後破断面画像を、画像記憶装置300に記録する。データ出力部260から出力され、画像記憶装置300に記録されたデータは、破断面特徴領域判定モデル生成装置100の学習データとして利用し得る。
【0046】
(画像記憶装置)
画像記憶装置300は、材料の破断面画像と破断面画像における特徴領域の位置を表す情報とが関連付けられた複数のデータを記憶する記憶装置である。画像記憶装置300には、予め、材料の破断面画像に対して人が特徴領域を判定してマーキングした判定後破断面画像が記録されている。また、画像記憶装置300には、破断面特徴領域判定装置200から出力された判定後破断面画像及び補正後破断面画像も記録することができる。画像記憶装置300に記録されたデータは、破断面特徴領域判定モデル生成装置100によるモデル生成処理の学習データとして利用される。また、画像記憶装置300には、破断面特徴領域判定モデル生成装置100により増殖された破断面画像と、増殖された破断面画像における特徴領域の位置を表す情報とが記録される。
【0047】
(撮像装置)
撮像装置400は、材料の破断面を撮像する撮像装置である。撮像装置400の撮像画像は、材料の破断面の特徴を目視により判定可能な程度の解像度(マクロ視点)の破断面画像として、破断面特徴領域判定装置200へ出力される。
【0048】
以上、本実施形態に係る破断面特徴領域判定システム1について説明した。なお、
図2に示す破断面特徴領域判定システム1の各装置の構成は一例であり、複数の装置の機能を1つの装置が備えてもよく、1つの装置に含まれる複数の機能を異なる装置で実施するように構成することも可能である。
【0049】
[3.破断面特徴領域判定モデル生成方法]
次に、
図3~
図5に基づいて、本実施形態に係る破断面特徴領域判定モデル生成方法について説明する。
図3は、本実施形態に係る破断面特徴領域判定モデル生成方法の一例を示すフローチャートである。
図4は、破断面画像の増殖処理を説明する説明図である。
図5は、Receptive Fieldの大きさの確認方法を説明する説明図である。
【0050】
(S110:学習データ取得)
図3に示すように、まず、破断面特徴領域判定モデル生成装置100は、材料の破断面画像と破断面画像における特徴領域の位置を表す情報とが関連付けられた複数のデータを、学習データとして画像記憶装置300から取得する(S110)。画像記憶装置300には、過去に取得されたデータが記憶されている。これらのデータの破断面画像は、破断面特徴領域判定装置200に入力される破断面画像を撮像する撮像装置400と同一の撮像装置により撮像された画像であることが望ましいが、異なる撮像装置により撮像された画像であってもよい。
【0051】
ここで、後述するモデル生成処理では多くの学習データが必要である。そこで、特徴領域の位置が特定された破断面画像を大量に効率よく得るために、1つの破断面画像から複数の破断面画像を生成し、増殖された破断面画像も学習データとして用いてもよい。この場合、破断面特徴領域判定モデル生成装置100の画像増殖部130は、例えば画像記憶装置300に記録された破断面画像を取得し、取得した破断面画像を回転または反転して、複数の破断面画像を生成する。具体的には、画像増殖部130は、例えば
図4に示すように、原画像を、左右反転させたり、上下反転させたり、所定の角度だけ回転(例えば右に90°回転)させたりして、複数の破断面画像を生成する。これにより、大量破断面画像を効率よく得ることができる。
【0052】
(S120:モデル生成)
次いで、破断面特徴領域判定モデル生成装置100のモデル生成部110は、ステップS110により取得した学習データを用いて、機械学習により破断面特徴領域判定モデルを生成する(S120)。モデル生成部110は、学習データの破断面画像を入力情報として、生成される破断面特徴領域判定モデルが出力する特徴領域の位置を表す情報が、学習データの特徴領域の位置を表す情報に近づくように、モデルを最適化する。
【0053】
本実施形態では、機械学習として深層学習を用いる。ここで、深層学習モデルにおけるReceptive field(受容野とも呼ばれる。)の大きさについて説明する。深層学習のネットワーク構造の中のConvolutional Neural Network(CNN)では、ある画素の周りの画素との関係性を見る畳み込み操作を繰り返す。Receptive fieldの大きさとは、その画素が特徴領域であるか否かを判定する際に、最終的に、どの程度離れた位置にある画素の情報までを用いるかを表す量である(例えば、非特許文献2参照)。
【0054】
本実施形態では、深層学習を用いる場合に破断面画像の特徴領域の判定において考慮する単位領域(すなわち、Receptive field)を、破壊組織を特定し得る必要最小領域よりも広い領域に設定する。非特許文献1に例示された画像の大きさから判る通り、破壊組織を特定し得る必要最小領域は10μmのオーダーであるが、これよりもReceptive fieldを大きく設定することが望ましい。延性面のまわりには延性面が、脆性面のまわりには脆性面が、それぞれ存在する確率が高い。すなわち、延性面、脆性面はそれぞれがクラスター化する傾向にある。したがって、本実施形態に係るモデル生成処理のように、Receptive fieldを従来よりも広く設定し、判定対象の画素からなるべく離れた位置の画素の破断面の特徴を考慮して特徴領域を判定することで、判定精度を高めることができる。
【0055】
Receptive fieldの大きさは用いるCNNによって決まる。畳み込み層、プーリング層、転置畳み込み層、活性化層からなるCNNが与えられているときの、Receptive fieldの大きさの確認方法を
図5に示す。
図5は、模式化されたCNN、CNNへの入力画像G
in、及び、CNNからの出力画像G
outを示している。
【0056】
まず、CNNを構成する畳み込み層(転置畳み込み層)の重みを“1.0”、バイアスを“0.0”とし、活性化層を外す。次いで、中心の1画素(
図5の領域A)だけ“0”以外の値が設定され、他の画素は“0”の値が設定された入力画像G
inを用意する。そして、入力画像G
inをCNNに入力すると、入力画像G
inと同一画像サイズの出力画像G
outが得られる。この出力画像G
outにおいて、“0.0”以外の値となっている画素の領域(
図5の領域B)の大きさがReceptive fieldの大きさとなる。
【0057】
なお、Receptive fieldの大きさは、
図5に示す方法以外によっても確認することができる(例えば、非特許文献3)。
【0058】
モデル生成部110は、深層学習により破断面特徴領域判定モデルを生成すると、出力部120へ破断面特徴領域判定モデルを出力する。
【0059】
(S130:モデル出力)
破断面特徴領域判定モデル生成装置100の出力部120は、ステップS120にて生成された破断面特徴領域判定モデルを、破断面特徴領域判定装置200へ出力する(S130)。
【0060】
以上、本実施形態に係る破断面特徴領域判定モデル生成方法について説明した。本実施形態に係る破断面特徴領域判定モデル生成方法により、SEM画像よりも容易に得られるマクロ破断面画像から自動的に破断面の延性面、脆性面等の特徴領域を判定することが可能なモデルを生成することができる。
【0061】
[4.破断面の特徴領域率算出方法]
次に、
図6~
図8に基づいて、本実施形態に係る破断面の特徴領域率算出方法について説明する。
図6は、本実施形態に係る破断面の特徴領域率算出方法の一例を示すフローチャートである。
図7及び
図8は、撮像装置400による破断面の撮像例を示す模式図である。
【0062】
(S210:破断面画像取得)
図6に示すように、まず、撮像装置400を用いて、材料の破断面を撮像し、破断面画像を取得する(S210)。破断面画像は、
図7、
図8に示すように、撮像装置400を試験片10の破断面15に対向させて撮像することにより取得される。このとき、試験片10の破断面15を照明装置410により照明する。例えば、
図7に示すように、照明装置410により斜めから試験片10の破断面15を照射してもよい。
【0063】
また、照明装置410は、試験片10の破断面15を、撮像装置400の光軸に対して対称性を有するように照明してもよい。具体的には、
図7の右側の照明装置410に加え、撮像装置400の光軸に対して右側の照明装置410と対称となる位置に、照明装置(左側の照明装置410)を配置してもよい。もしくは、撮像装置400の光軸を中心とする環状の照明装置を設置してもよい。または、
図8に示すように、撮像装置400と試験片10の破断面15との間にハーフミラー420を設置し、照明装置410から照射された照明光をハーフミラー420によって撮像装置400の光軸と同軸上に反射させて、試験片10の破断面15を照明してもよい。この場合にも、撮像装置400の光軸を中心とする環状の照明装置と同様に、試験片10の破断面15を照明することができる。
【0064】
このように、試験片10の破断面15を、撮像装置400の光軸に対して対称性を有するように照明して、撮像装置400により試験片10の破断面15を撮像することで、撮像された破断面画像を増殖させて学習データとして用いたときの、モデル精度を高めることができる。
【0065】
データの増殖は、学習データとして用いる破断面画像に対してある種の変換を行っても出力は変わらないとの前提の下、変換後の破断面画像も学習に使う手法である。このようにデータを増殖することで、大量に学習データを必要とする深層学習の弱点を緩和する効果が得られる。
【0066】
例えば
図4に示したように、原画像を、左右反転させたり、上下反転させたり、所定の角度だけ回転(例えば右に90°回転)させたりすることにより、データを増殖させることができる。ここで、仮に照明が対称性を有しない場合は、撮像された破断面画像を左右反転、上下反転、回転させた画像は現実的には生じ得ないものとなり、データの増殖によるモデルの精度向上効果を得ることは困難である。一方、照明が対称性を有する場合、例えば環状の照明装置を用いた場合、得られた破断面画像を左右反転、上下反転、回転させても現実的にも生じ得るものとなる。このため、照明が対称性を有しない場合と比較して、
図4に示したようなデータの増殖によりモデルの精度向上効果が期待できる。
【0067】
また、照明装置410の照明光の色は白色でもよく、特に限定されないが、波長の短い光を用いれば、例えば照明光の色を青色とすれば、破断面のより細かい特徴を捉えた破断面画像を得ることができる。
【0068】
(S220:特徴領域判定)
次いで、破断面特徴領域判定装置200の判定部210は、破断面特徴領域判定モデル生成装置100によって生成された破断面特徴領域判定モデルを用いて、ステップS210により取得された破断面画像の特徴領域を判定する(S220)。判定部210は、ステップS210により取得された破断面画像を入力情報として、破断面特徴領域判定モデルに入力し、破断面特徴領域判定モデルから出力情報として破断面画像上に特徴領域を示した判定後破断面画像を得る。
【0069】
(S230:判定後破断面画像表示)
その後、判定部210は、破断面特徴領域判定モデルから出力情報として得た判定後破断面画像を、表示部240に出力する(S230)。表示部240は、破断面画像上に特徴領域を示した判定後破断面画像を表示する。
【0070】
(S240:特徴領域補正)
判定後破断面画像が表示部240に表示されると、ユーザは必要に応じて判定後破断面画像の特徴領域を補正する(S240)。破断面特徴領域判定モデルの精度によっては、特徴領域が正しく判定されていない場合がある。このような場合に、ユーザが補正を行う場合は、画像編集ソフトウェアを用いて、破断面画像に対して、特徴領域であるが特徴領域と判定されていない部分をマーキングしたり、特徴領域ではないが特徴領域と判定されている部分のマーキングを削除したりして、判定後破断面画像の特徴領域を補正する。
【0071】
入力部250から入力されたユーザによる補正指示は、補正処理部220に出力される。補正処理部220は、判定部210により判定された判定後破断面画像における特徴領域を、ユーザの補正指示に基づき補正する。補正処理部220は、ユーザが補正内容を確認できるように、特徴領域を補正した破断面画像を表示部240に出力する。
【0072】
(S250:画像記録)
ステップS240にてユーザが判定後破断面画像の特徴領域の補正を終えると、データ出力部260は、補正された判定後破断面画像を補正後破断面画像として、画像記憶装置300に記録する(S250)。画像記憶装置300に記録された補正後破断面画像は、破断面特徴領域判定モデルの再学習に利用することができる。
【0073】
(S260:特徴領域率算出)
また、割合算出部230は、補正後破断面画像に基づき、破断面における特徴領域の割合を算出する(S260)。割合算出部230は、破断面画像における破断面の面積に対する特徴領域の面積の割合を、特徴領域率(=(特徴領域面積)/(全破断面面積))として求める。特徴領域面積及び全破断面面積は、画素数をカウントすることにより求めてもよい。割合算出部230は、ユーザが特徴領域率を知ることができるように、算出した特徴領域率を表示部240に出力する。
【0074】
以上、本実施形態に係る破断面の特徴領域率算出方法について説明した。本実施形態によれば、破断面特徴領域判定モデルを用いて、破断面の延性面、脆性面等の特徴領域を判定することができる。また、初期学習にて生成された破断面特徴領域判定モデルはモデルの精度がそれほど高くない場合もある。この場合にも、ユーザは、破断面特徴領域判定モデルによる判定後破断面画像をもとに特徴領域を補正すればよく、ユーザが一から特徴領域を判定して破断面画像に対してマーキングを行う場合に比べて、作業負荷を著しく軽減することができ、特徴領域率を得るまでの検査時間も短縮できる。
【0075】
さらに、破断面特徴領域判定モデルによる判定後破断面画像、及び、ユーザによる補正後破断面画像を画像記憶装置300に記録しておくことで、これらのデータを破断面特徴領域判定モデルの再学習に利用することも可能である。これにより、容易に多くの学習データを用意することができ、破断面特徴領域判定モデルの精度を高めることができる。
【0076】
なお、
図6の説明においては、破断面特徴領域判定モデルによる判定後破断面画像の特徴領域をユーザにより補正する場合について説明したが、破断面特徴領域判定モデルの精度が高く、ユーザによる特徴領域の補正が不要である場合には、ステップS260の処理は、判定後破断面画像に基づいて特徴領域率を算出するようにしてもよい。
【0077】
[5.ハードウェア構成]
図9に基づいて、本実施形態に係る破断面特徴領域判定モデル生成装置100及び破断面特徴領域判定装置200のハードウェア構成について説明する。
図9は、本実施形態に係る破断面特徴領域判定モデル生成装置100または破断面特徴領域判定装置200として機能する情報処理装置900のハードウェア構成の一例を示すブロック図である。
【0078】
情報処理装置900は、プロセッサ(
図9ではCPU901)と、ROM903と、RAM905とを含む。また、情報処理装置900は、バス907と、入力I/F909と、出力I/F911と、ストレージ装置913と、ドライブ915と、接続ポート917と、通信装置919とを含む。
【0079】
CPU901は、演算処理装置および制御装置として機能する。CPU901は、ROM903、RAM905、ストレージ装置913、またはリムーバブル記録媒体925に記録された各種プログラムに従って、情報処理装置900内の動作全般またはその一部を制御する。ROM903は、CPU901が使用するプログラムあるいは演算パラメータ等を記憶する。RAM905は、CPU901が使用するプログラム、あるいは、プログラムの実行において適宜変化するパラメータ等を一次記憶する。これらはCPUバス等の内部バスにより構成されるバス907により相互に接続されている。
【0080】
バス907は、ブリッジを介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バスに接続されている。
【0081】
入力I/F909は、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ及びレバー等の、ユーザが操作する操作手段である入力装置921からの入力を受け付けるインタフェースである。入力I/F909は、例えば、ユーザが入力装置921を用いて入力した情報に基づいて入力信号を生成し、CPU901に出力する入力制御回路等として構成されている。入力装置921は、例えば、赤外線あるいはその他の電波を利用したリモートコントロール装置、あるいは、情報処理装置900の操作に対応したPDA等の外部機器927であってもよい。情報処理装置900のユーザは、入力装置921を操作し、情報処理装置900に対して各種のデータを入力したり処理動作を指示したりすることができる。
【0082】
出力I/F911は、入力された情報を、ユーザに対して視覚的または聴覚的に通知可能な出力装置923へ出力するインタフェースである。出力装置923は、例えば、CRTディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、ELディスプレイ装置およびランプ等の表示装置であってもよい。あるいは、出力装置923は、スピーカ及びヘッドホン等の音声出力装置や、プリンター、移動通信端末、ファクシミリ等であってもよい。出力I/F911は、出力装置923に対して、例えば、情報処理装置900により実行された各種処理にて得られた処理結果を出力するよう指示する。具体的には、出力I/F911は、表示装置に対して情報処理装置900による処理結果を、テキストまたはイメージで表示するよう指示する。また、出力I/F911は、音声出力装置に対し、再生指示を受けた音声データ等のオーディオ信号をアナログ信号に変換して出力するよう指示する。
【0083】
ストレージ装置913は、情報処理装置900の記憶部の1つであり、データ格納用の装置である。ストレージ装置913は、例えば、HDD(Hard Disk Drive)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイスまたは光磁気記憶デバイス等により構成される。ストレージ装置913は、CPU901が実行するプログラム、プログラムの実行により生成された各種データ、及び、外部から取得した各種データ等を格納する。
【0084】
ドライブ915は、記録媒体用リーダライタであり、情報処理装置900に内蔵あるいは外付けされる。ドライブ915は、装着されているリムーバブル記録媒体925に記録されている情報を読み出し、RAM905に出力する。また、ドライブ915は、装着されているリムーバブル記録媒体925に情報を書き込むことも可能である。リムーバブル記録媒体925は、例えば、磁気ディスク、光ディスク、光磁気ディスクまたは半導体メモリ等である。具体的には、リムーバブル記録媒体925は、CDメディア、DVDメディア、Blu-ray(登録商標)メディア、コンパクトフラッシュ(登録商標)(CompactFlash:CF)、フラッシュメモリ、SDメモリカード(Secure Digital memory card)等であってもよい。また、リムーバブル記録媒体925は、例えば、非接触型ICチップを搭載したICカード(Integrated Circuit card)または電子機器等であってもよい。
【0085】
接続ポート917は、機器を情報処理装置900に直接接続するためのポートである。接続ポート917は、例えば、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)ポート、RS-232Cポート等である。情報処理装置900は、接続ポート917に接続された外部機器927から、直接各種データを取得したり外部機器927に各種データを提供したりすることができる。
【0086】
通信装置919は、例えば、通信網929に接続するための通信デバイス等で構成された通信インタフェースである。通信装置919は、例えば、有線または無線LAN(Local Area Network)、Bluetooth(登録商標)またはWUSB(Wireless USB)用の通信カード等である。また、通信装置919は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、または、各種通信用のモデム等であってもよい。通信装置919は、例えば、インターネットや他の通信機器との間で、例えばTCP/IP等の所定のプロトコルに則して信号等を送受信することができる。また、通信装置919に接続される通信網929は、有線または無線によって接続されたネットワーク等により構成されている。例えば、通信網929は、インターネット、家庭内LAN、赤外線通信、ラジオ波通信または衛星通信等である。
【0087】
以上、情報処理装置900のハードウェア構成の一例を示した。上述の各構成要素は、汎用的な部材を用いて構成されてもよく、各構成要素の機能に特化したハードウェアにより構成されてもよい。情報処理装置900のハードウェア構成は、本実施形態を実施する時々の技術レベルに応じて適宜変更可能である。
【実施例0088】
本実施形態に係る手法の効果を検証すべく、
図2に示した破断面特徴領域判定システムを用いて、破断面特徴領域判定モデルを生成し、破断面画像における脆性面の判定と、脆性面率の算出を行った。本検証では、学習データとして1000サンプルデータを用意し、800サンプルデータを教師データとし、200サンプルデータを評価データとした。これらのサンプルデータの破断面画像は、
図8に示した照明構成で撮像装置により撮像した。照明光の色は白色とした。画像の空間分解能は6.7μm/pixelであった。破断面特徴領域判定モデルの生成には、CNNとして周知のU-Net(非特許文献4)を用いた。このとき、Receptive fieldの大きさは、1.7mm×1.7mmとした。
【0089】
まず、教師データのうち100サンプルデータを用いて最初の破断面特徴領域判定モデルを生成した。そして、最初に生成された破断面特徴領域判定モデルを用いて、別の教師データの100サンプルデータについて判定後破断面画像を得て、ユーザにより補正し、補正後破断面画像を得た。次いで、補正後破断面画像を得た100サンプルデータを教師データとして、最初の破断面特徴領域判定モデルを再学習し、2つ目の破断面特徴領域判定モデルを生成した。そして、2つ目の破断面特徴領域判定モデルを用いて、さらに別の教師データの100サンプルデータについて判定後破断面画像を得て、ユーザにより補正し、補正後破断面画像を得た。その後、補正後破断面画像を得た100サンプルデータを教師データとして、2つ目の破断面特徴領域判定モデルを再学習し、3つ目の破断面特徴領域判定モデルを生成した。その後も同様の処理を繰り返し、教師データとして用意した800サンプルデータをすべて用いて学習し終えたときの破断面特徴領域判定モデルを性能評価対象とした。
【0090】
破断面特徴領域判定モデルの評価データによる性能評価として、
図10に、人により破断面画像の脆性面を判定した結果に基づく脆性面率(破面率(ユーザ判定))と、破断面特徴領域判定モデルにより破断面画像の脆性面を判定した結果に基づく脆性面率(破面率(モデル判定))とを比較した結果を示す。
図10より、破面率(ユーザ判定)と破面率(モデル判定)とはほぼ一致しており、破断面特徴領域判定モデルに十分な精度が備わっていることがわかる。なお、特徴領域判定モデルにより破断面画像の脆性面を判定した結果に基づき脆性面率を算出するまでに要する時間は、人により破断面画像の脆性面を判定した結果に基づき脆性面率を算出するまでに要する時間の約1/10程度に短縮された。
【0091】
また、
図11に、原画像に対して、人により脆性面を判定した結果と、破断面特徴領域判定モデルにより脆性面を判定した結果との一例を示す。判定後破断面画像において、白い領域が脆性面と判定された領域である。
図11より、破断面特徴領域判定モデルによる判定結果は、人による判定結果とほぼ同一であることがわかる。
【0092】
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
【0093】
なお、上記説明では、破断面画像の特徴領域として、延性面または破断面が判定された例を示したが、本発明は係る例に限定されない。例えば、破断面画像の特徴領域として、延性面及び破断面の2つの領域を区別して、同時に判定し得る破断面特徴領域判定モデルを生成することも可能である。
材料の破断面画像と前記破断面画像における特徴領域の位置を表す情報とが関連付けられた複数のデータを学習データとして、機械学習により破断面画像の特徴領域を判定する破断面特徴領域判定モデルを生成するモデル生成部と、
前記破断面特徴領域判定モデルを出力する出力部と、
を備える、破断面特徴領域判定モデル生成装置。
前記モデル生成部は、前記破断面画像の前記特徴領域の判定において考慮する単位領域を、破壊組織を特定し得る必要最小領域よりも広い領域として、深層学習により前記破断面特徴領域判定モデルを生成する、請求項1に記載の破断面特徴領域判定モデル生成装置。
前記材料の破断面を撮像して得られた原画像は、前記材料の破断面を、撮像装置の光軸に対して対称性を有するように照明して、前記撮像装置により撮像した画像である、請求項1または2に記載の破断面特徴領域判定モデル生成装置。
前記破断面特徴領域判定モデルは、当該破断面特徴領域判定モデルに入力された破断面画像の特徴領域を判定し、前記破断面画像上に前記特徴領域を示した判定後破断面画像を出力する、請求項1~5のいずれか1項に記載の破断面特徴領域判定モデル生成装置。
材料の破断面画像と前記破断面画像における特徴領域の位置を表す情報とが関連付けられた複数のデータを学習データとして、機械学習により破断面画像の特徴領域を判定する破断面特徴領域判定モデルを生成するモデル生成ステップと、
前記破断面特徴領域判定モデルを出力する出力ステップと、
を含む、破断面特徴領域判定モデル生成方法。