(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-12-05
(45)【発行日】2024-12-13
(54)【発明の名称】検査システム、検査方法、モデル生成システム、判定システム、モデル生成方法、及び、プログラム
(51)【国際特許分類】
G01N 21/27 20060101AFI20241206BHJP
【FI】
G01N21/27 A
(21)【出願番号】P 2023529625
(86)(22)【出願日】2022-03-30
(86)【国際出願番号】 JP2022016280
(87)【国際公開番号】W WO2022264644
(87)【国際公開日】2022-12-22
【審査請求日】2023-12-06
(31)【優先権主張番号】P 2021101896
(32)【優先日】2021-06-18
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】314012076
【氏名又は名称】パナソニックIPマネジメント株式会社
(74)【代理人】
【識別番号】110002527
【氏名又は名称】弁理士法人北斗特許事務所
(72)【発明者】
【氏名】加藤 貴広
(72)【発明者】
【氏名】川口 蓉子
(72)【発明者】
【氏名】相川 恒
【審査官】井上 徹
(56)【参考文献】
【文献】特開2017-090130(JP,A)
【文献】特開2016-217899(JP,A)
【文献】特開2021-058361(JP,A)
【文献】特開2003-185588(JP,A)
【文献】特開2018-066608(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01J 3/00- 4/04
G01J 7/00- 9/04
G01N 21/00-21/01
G01N 21/17-21/61
G01N 21/84-21/958
G06V 10/143
G01B 11/00-11/30
H01L 21/64-21/66
G06T 7/00- 7/90
H04N 23/00-23/959
JSTPlus/JMEDPlus/JST7580(JDreamIII)
(57)【特許請求の範囲】
【請求項1】
検査対象と背景とを含む被写体が4以上の波長域で撮像されて得られた検査対象画像を取得する検査画像取得部と、
前記検査対象画像における前記検査対象の像のスペクトルである第1のスペクトルに、前記背景の像のスペクトルに基づく補正を行って第2のスペクトルを生成するスペクトル補正部と、
前記第2のスペクトルに基づいて、前記検査対象が第1の物質か否かを判定するスペクトル判定部と、
前記スペクトル判定部の判定の結果を出力する結果出力部と、を備え
、
前記スペクトル補正部は、第1の参照スペクトルと、第2の参照スペクトルと、に基づいて、前記第1のスペクトルに前記補正を行って前記第2のスペクトルを生成し、
前記第1の参照スペクトルは、第1参照画像における第2の物質の像のスペクトルであり、
前記第2の参照スペクトルは、第2参照画像における前記第2の物質の像のスペクトルであり、
前記第1参照画像は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が閾値未満である部分を含む前記第2の物質が撮像されて得られ、
前記第2参照画像は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が前記閾値以上である前記第2の物質が撮像されて得られる、
検査システム。
【請求項2】
前記第1の物質と、前記第2の物質とは異なる物質である、
請求項1に記載の検査システム。
【請求項3】
前記第1参照画像は、前記第2の物質の粒子が撮像されて得られた画像である、
請求項1又は2に記載の検査システム。
【請求項4】
前記第2参照画像は、前記第2の物質の粒子が撮像されて得られた画像である、
請求項3に記載の検査システム。
【請求項5】
前記第1参照画像は、前記第2の物質を含むTEGパターンが撮像されて得られた画像である、
請求項1又は2に記載の検査システム。
【請求項6】
前記第2参照画像は、前記第2の物質を含むTEGパターンが撮像されて得られた画像である、
請求項5に記載の検査システム。
【請求項7】
前記結果出力部は、前記第1の参照スペクトルと前記第2の参照スペクトルとのうち少なくとも一方を出力する、
請求項1から6のいずれか1項に記載の検査システム。
【請求項8】
前記結果出力部は、前記第2のスペクトルを出力する、
請求項1から7のいずれか1項に記載の検査システム。
【請求項9】
前記結果出力部は、前記第1のスペクトルを出力する、
請求項1から8のいずれか1項に記載の検査システム。
【請求項10】
寸法、形状、及び、配置のうち少なくとも1つが既知である所定の物質と、背景とが、4以上の波長域で撮像されて得られた第1参照画像と第2参照画像とを取得する参照画像取得部と、
前記第1参照画像における前記所定の物質の像のスペクトルである第1の参照スペクトルと、前記第2参照画像の前記所定の物質の像のスペクトルである第2の参照スペクトルと、に基づく教師データを用いて、スペクトル補正モデルを生成する補正モデル生成部と、を備え、
前記第1参照画像は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が閾値未満である部分を含む前記所定の物質が撮像されて得られ、
前記第2参照画像は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が前記閾値以上である前記所定の物質が撮像されて得られ、
前記スペクトル補正モデルは、検査対象と背景とを含む被写体が4以上の波長域で撮像されて得られた検査対象画像において、前記検査対象の像のスペクトルに、前記背景の像のスペクトルに基づく補正を行うための機械学習モデルである、
モデル生成システム。
【請求項11】
請求項10に記載のモデル生成システムからスペクトル補正モデルを取得する補正モデル取得部と、
検査対象と背景とを含む被写体が4以上の波長域で撮像されて得られた検査対象画像を取得する検査画像取得部と、
前記スペクトル補正モデルを用いて、前記検査対象画像における前記検査対象の像のスペクトルである第1のスペクトルを補正して第2のスペクトルを生成するスペクトル補正部と、
前記第2のスペクトルに基づいて、前記検査対象が第1の物質か否かを判定するスペクトル判定部と、
前記スペクトル判定部の判定の結果を出力する結果出力部と、を備える、
判定システム。
【請求項12】
検査対象と背景とを含む被写体が4以上の波長域で撮像されて得られた検査対象画像を取得し、
前記検査対象画像における前記検査対象の像のスペクトルである第1のスペクトルに、前記背景の像のスペクトルに基づく補正を行って第2のスペクトルを生成し、
前記第2のスペクトルに基づいて、前記検査対象が所定の物質か否かを判定し、
前記判定の結果を出力する、検査方法であって、
前記第2のスペクトルを生成する際に、第1の参照スペクトルと、第2の参照スペクトルと、に基づいて、前記第1のスペクトルに前記補正を行って前記第2のスペクトルを生成し、
前記第1の参照スペクトルは、第1参照画像における第2の物質の像のスペクトルであり、
前記第2の参照スペクトルは、第2参照画像における前記第2の物質の像のスペクトルであり、
前記第1参照画像は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が閾値未満である部分を含む前記第2の物質が撮像されて得られ、
前記第2参照画像は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が前記閾値以上である前記第2の物質が撮像されて得られる、
検査方法。
【請求項13】
請求項12に記載の検査方法を、1又は複数のプロセッサに実行させる、
プログラム。
【請求項14】
寸法、形状、及び、配置のうち少なくとも1つが既知である所定の物質と、背景とが、4以上の波長域で撮像されて得られる第1参照画像と第2参照画像とを取得し、
前記第1参照画像における前記所定の物質の像のスペクトルである第1の参照スペクトルと、前記第2参照画像における前記所定の物質の像のスペクトルである第2の参照スペクトルと、に基づく教師データを用いて、スペクトル補正モデルを生成する、モデル生成方法であって、
前記第1参照画像は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が閾値未満である部分を含む前記所定の物質が撮像されて得られ、
前記第2参照画像は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が前記閾値以上である部分を含む前記所定の物質が撮像されて得られ、
前記スペクトル補正モデルは、検査対象と背景とを含む被写体が4以上の波長域で撮像されて得られた検査対象画像において、前記検査対象の像のスペクトルに、前記背景の像のスペクトルに基づく補正を行うための機械学習モデルである、
モデル生成方法。
【請求項15】
請求項14に記載のモデル生成方法を、1又は複数のプロセッサに実行させる、
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、検査システム、検査方法、モデル生成システム、判定システム、モデル生成方法、及び、プログラムに関し、特に、4以上の波長域のデータを含む画像を用いた検査システム、検査方法、モデル生成システム、判定システム、モデル生成方法、及び、プログラムに関する。
【背景技術】
【0002】
三原色のRGBを用いた通常のカラー画像や肉眼による目視では判別が困難な物質を見分ける方法として、多くの波長域におけるデータを含む画像を用いる方法が利用されている(例えば、特許文献1参照)。通常のカラー画像は、R、G、Bのそれぞれに対応した波長域におけるデータを含む。つまり、通常のカラー画像は、3つの波長域におけるデータを含む。これに対し、いわゆる、マルチスペクトル画像やハイパースペクトル画像は、4以上の波長域におけるデータを含む。マルチスペクトル画像やハイパースペクトル画像は、可視光領域の波長域、紫外領域における波長域、赤外領域において4以上の波長域におけるデータを含む。例えば、特許文献1に開示のハイパースペクトル画像は、複数の波長域におけるデータを含んでいる。
【0003】
特許文献1に記載された従来のシステムにおける、多くの波長域におけるデータを含む画像を用いて物質を見分ける方法では、被写体の反射スペクトルと、画像データにおいて被写体の像に含まれる画素のスペクトルとが同一であると仮定して、物質の同定を行う。被写体は、検査対象と背景とを含む。しかしながら、被写体である検査対象と背景とが撮像された検査対象画像において、検査対象の像と背景の像とが十分に分離されていない場合がある。すなわち、検査対象の像に含まれる画素のスペクトルに、背景の反射スペクトルが混じることがある。したがって、検査対象の像に含まれる画素のスペクトルと、検査対象の物質本来のスペクトルとの間に差異が生じ、検査対象の物質の同定の精度が低下する場合がある。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【0005】
本開示は上記の点に鑑みてなされたものであり、検査対象と背景とが撮像された検査対象画像を用いた検査システム、検査方法、モデル生成システム、判定システム、モデル生成方法、及び、プログラムにおいて、検査対象の物質の同定の精度を向上させることを目的とする。
【0006】
本開示の一態様に係る検査システムは、検査画像取得部と、スペクトル補正部と、スペクトル判定部と、結果出力部と、を備える。前記検査画像取得部は、検査対象画像を取得する。前記検査対象画像は、検査対象と背景とを含む被写体が4以上の波長域で撮像されて得られる。前記スペクトル補正部は、第1のスペクトルに、背景の像のスペクトルに基づく補正を行って第2のスペクトルを生成する。前記第1のスペクトルは、前記検査対象画像における前記検査対象の像のスペクトルである。前記スペクトル判定部は、前記第2のスペクトルに基づいて、前記検査対象が第1の物質か否かを判定する。前記結果出力部は、前記スペクトル判定部の判定の結果を出力する。前記スペクトル補正部は、第1の参照スペクトルと、第2の参照スペクトルと、に基づいて、前記第1のスペクトルに前記補正を行って前記第2のスペクトルを生成する。前記第1の参照スペクトルは、第1参照画像における第2の物質の像のスペクトルである。前記第2の参照スペクトルは、第2参照画像における前記第2の物質の像のスペクトルである。前記第1参照画像は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が閾値未満である部分を含む前記第2の物質が撮像されて得られる。前記第2参照画像は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が前記閾値以上である前記第2の物質が撮像されて得られる。
【0007】
本開示の一態様に係るモデル生成システムは、参照画像取得部と、補正モデル生成部と、を備える。前記参照画像取得部は、第1参照画像と第2参照画像とを取得する。前記第1参照画像と前記第2参照画像とは、寸法、形状、及び、配置のうち少なくとも1つが既知である所定の物質と、背景とが、4以上の波長域で撮像されて得られる。前記補正モデル生成部は、第1の参照スペクトルと、第2の参照スペクトルと、に基づく教師データを用いて、スペクトル補正モデルを生成する。前記第1の参照スペクトルは、前記第1参照画像における前記所定の物質の像のスペクトルである。前記第2の参照スペクトルは、前記第2参照画像の前記所定の物質の像のスペクトルである。前記第1参照画像は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が閾値未満である部分を含む前記所定の物質が撮像されて得られる。前記第2参照画像は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が前記閾値以上である前記所定の物質が撮像されて得られる。前記スペクトル補正モデルは、検査対象画像において、検査対象の像のスペクトルに、背景の像のスペクトルに基づく補正を行うための機械学習モデルである。前記検査対象画像は、前記検査対象と前記背景とを含む被写体を4以上の波長域で撮像されて得られる。
【0008】
本開示の一態様に係る判定システムは、補正モデル取得部と、検査画像取得部と、スペクトル補正部と、スペクトル判定部と、結果出力部と、を備える。前記補正モデル取得部は、前記モデル生成システムからスペクトル補正モデルを取得する。前記検査画像取得部は、検査対象と背景とを含む被写体が4以上の波長域で撮像されて得られた検査対象画像を取得する。前記スペクトル補正部は、前記スペクトル補正モデルを用いて、前記検査対象画像における前記検査対象の像のスペクトルである第1のスペクトルを補正して第2のスペクトルを生成する。前記スペクトル判定部は、前記第2のスペクトルに基づいて、前記検査対象が第1の物質か否かを判定する。前記結果出力部は、前記スペクトル判定部の判定の結果を出力する。
【0009】
本開示の一態様に係る検査方法は、検査対象画像を取得し、前記検査対象画像における検査対象の像のスペクトルである第1のスペクトルに、背景の像のスペクトルに基づく補正を行って第2のスペクトルを生成し、前記第2のスペクトルに基づいて、前記検査対象が所定の物質か否かを判定し、判定の結果を出力する。前記検査対象画像は、前記検査対象と前記背景とを含む被写体が4以上の波長域で撮像されて得られる。前記第2のスペクトルを生成する際に、第1の参照スペクトルと、第2の参照スペクトルと、に基づいて、前記第1のスペクトルに前記補正を行って前記第2のスペクトルを生成する。前記第1の参照スペクトルは、第1参照画像における第2の物質の像のスペクトルである。前記第2の参照スペクトルは、第2参照画像における前記第2の物質の像のスペクトルである。前記第1参照画像は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が閾値未満である部分を含む前記第2の物質が撮像されて得られる。前記第2参照画像は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が前記閾値以上である前記第2の物質が撮像されて得られる。
【0010】
本開示の一態様に係るプログラムは、前記検査方法を、1又は複数のプロセッサに実行させる、プログラムである。
【0011】
本開示の一態様に係るモデル生成方法は、第1参照画像と第2参照画像とを取得し、第1の参照スペクトルと、第2の参照スペクトルと、に基づく教師データを用いて、スペクトル補正モデルを生成する。前記第1参照画像と前記第2参照画像とは、寸法、形状、及び、配置のうち少なくとも1つが既知である所定の物質と、背景とが、4以上の波長域で撮像されて得られる。前記第1の参照スペクトルは、前記第1参照画像における前記所定の物質の像のスペクトルである。前記第2の参照スペクトルは、前記第2参照画像における前記所定の物質の像のスペクトルである。前記第1参照画像は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が閾値未満である部分を含む前記所定の物質が撮像されて得られる。前記第2参照画像は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が前記閾値以上である部分を含む前記所定の物質が撮像されて得られる。前記スペクトル補正モデルは、検査対象画像において、検査対象の像のスペクトルに、背景の像のスペクトルに基づく補正を行うための機械学習モデルである。前記検査対象画像は、前記検査対象と前記背景とを含む被写体を4以上の波長域で撮像されて得られる。
【0012】
本開示の一態様に係るプログラムは、前記モデル生成方法を、1又は複数のプロセッサに実行させる、プログラムである。
【図面の簡単な説明】
【0013】
【
図1】
図1は、実施の形態に係る検査システムの機能ブロック図である。
【
図2】
図2は、第1の物質と、背景とが撮像されて得られた画像を示す模式図である。
【
図3】
図3Aは、第1の物質の反射スペクトルと、背景の反射スペクトルとを示すグラフである。
図3Bは、
図2に示す画像の1画素のスペクトルと、第1の物質の反射スペクトルと、背景の反射スペクトルとを示すグラフである。
図3Cは、
図2に示す画像の
図3Bとは異なる1画素のスペクトルと、第1の物質の反射スペクトルと、背景の反射スペクトルとを示すグラフである。
【
図4】
図4Aは、第1参照画像の被写体の一例を示す模式図である。
図4Bは、第2参照画像の被写体の一例を示す模式図である。
【
図5】
図5Aは、
図4Aの被写体が撮像されて得られた第1参照画像を示す模式図である。
図5Bは、
図4Bの被写体が撮像されて得られた第2参照画像を示す模式図である。
図5Cは、第1の参照スペクトルと第2の参照スペクトルの例を示すグラフである。
【
図6】
図6は、第1参照画像の物体の像と、物体の寸法、形状、及び、配置との関係を示す模式図である。
【
図7】
図7は、検査対象を含む被写体の一例を示す模式図である。
【
図8】
図8Aは、
図7の被写体が撮像されて得られた検査対象画像を示す模式図である。
図8Bは、
図8Aの検査対象画像における第1のスペクトルと、第2のスペクトルとの関係を示すグラフである。
【
図9】
図9は、同上の検査システムの動作を示すフローチャートである。
【
図10】
図10は、変形例1に係る検査システムの機能ブロック図である。
【
図11】
図11は、変形例2に係るモデル生成システムの機能ブロック図である。
【
図12】
図12は、教師画像の被写体の一例を示す模式図である。
【
図13】
図13Aは、
図12の被写体が撮像されて得られた教師画像を示す模式図である。
図13Bは、教師画像における第1のスペクトルと、第2のスペクトルとの関係を示すグラフである。
【
図14】
図14は、同上のモデル生成システムの動作を示すフローチャートである。
【発明を実施するための形態】
【0014】
以下、実施の形態に係る検査システム、検査方法、モデル生成システム、判定システム、モデル生成方法、及び、プログラムについて、図面を参照して説明する。
【0015】
(実施の形態)
1.検査システムの概要
実施の形態に係る検査システム100の構成について、図面を参照して説明する。
【0016】
1.1 検査システムの構成要素
実施の形態に係る検査システム100は、
図1に示すように、学習部10と、モデル格納部20と、処理部30とを備える。学習部10と、処理部30とのそれぞれは、撮像装置2に接続される。
【0017】
検査システム100は、撮像装置2から第1参照画像と第2参照画像とを取得し、スペクトル補正モデルを生成する。また、検査システム100は、撮像装置2から検査対象画像を取得し、スペクトル補正モデルに基づくスペクトル補正を行い、検査対象画像の被写体の物質を判定する。第1参照画像、第2参照画像、検査対象画像のそれぞれは、4以上の波長域の光強度情報を含む、いわゆる、マルチスペクトル画像、又は、ハイパースペクトル画像である。
【0018】
1.2 撮像装置
撮像装置2は、互いに重複しない4以上の波長域の光強度情報を含む画像を生成するカメラである。撮像装置2は、例えば、被写体からの光を4以上に分光する分光器を備える分光カメラである。撮像装置2は、例えば、いわゆる、マルチスペクトルカメラ、又は、ハイパースペクトルカメラである。
【0019】
撮像装置2が光強度を検知し画像に反映する波長域は、検査システム100の検査対象である第1の物質を特定するために必要な波長域を含む。第1の物質を特定するために必要な波長域は、例えば、第1の物質の吸収スペクトルのピーク波長、又は、第1の物質の反射スペクトルのピーク波長を含む。又は、第1の物質を特定するために必要な波長域は、例えば、第1の物質の反射スペクトルと、第1の物質との区別が必要な他の物質の反射スペクトルと、の差異が大きい波長域である。
【0020】
撮像装置2が光強度を検知し画像として保存する波長域のそれぞれは、可視光波長でもよく、又は、紫外線波長又は赤外線波長であってもよい。例えば、アルミニウムの近傍に存在し得る銀を検査対象とする場合、アルミニウムの反射スペクトルと銀の反射スペクトルとの差が顕著な300μm~400μmの波長範囲、及び/又は、800μm~900μmの波長範囲の一部を含むとしてもよい。
【0021】
撮像装置2は、被写体が撮像装置2によって撮像された画像を出力する。画像は、画素のそれぞれにおける各波長域の光強度情報を含む。以下、ある画素における各波長域の光強度情報を、その画素のスペクトルと呼ぶ。
【0022】
2.検査システムの各構成要素
以下、検査システム100の構成要素である、学習部10と、モデル格納部20と、処理部30と、結果出力部40とのそれぞれについて、より詳細に説明する。
【0023】
2.1 学習部
以下、学習部10の構成と動作について、より詳細に説明する。
【0024】
2.1.1 画像のスペクトルの補正
図2は、検査対象の物質である第1の物質と、背景とを含む被写体が撮像されてなる検査対象画像210を示す模式図である。
図2に示す検査対象画像210は、第1の物質の像211、212を黒で示し、背景の像209を白で示している。
図3Aは、第1の物質の反射スペクトル311と、背景の反射スペクトル312を示すグラフである。
図3Bは、
図2に示す検査対象画像210における第1の物質の像211に含まれる画素のスペクトル313を、反射スペクトル311と反射スペクトル312との対比で示すグラフである。
図3Cは、
図2に示す検査対象画像210における第1の物質の像212に含まれる画素のスペクトル314を、反射スペクトル311と反射スペクトル312との対比で示すグラフである。
【0025】
図3B及び
図3Cに示すように、第1の物質の像211における画素のスペクトル313及び第1の物質の像212における画素のスペクトル314は、第1の物質の反射スペクトル311とは必ずしも一致しない。かつ、
図3B及び
図3Cに示すように、像211と像212が、いずれも第1の物質の像であっても、像211における画素のスペクトル313と像212における画素のスペクトル314とは、必ずしも一致しない。その理由は、検査対象画像210において、2種類の物質の像の境界付近の画素では、2種類の物質からの反射光が混合しているためである。
【0026】
すなわち、第1の物質の像211と背景の像209との境界又はその近傍の画素のスペクトルは、第1の物質の反射スペクトル311と、背景の反射スペクトル312とが混合した状態である。そして、第1の物質の反射スペクトル311と、背景の反射スペクトル312との混合の程度は、第1の物質の寸法、形状、及び、配置に依存して変化する。
【0027】
例えば、第1の物質の寸法が小さいほど、第1の物質の像211、212と背景の像209との境界及びその近傍の画素において、スペクトルの混合が大きい。その理由は、スペクトルの混合は第1の物質の像211、212と背景の像209との境界に近いほど強いため、第1の物質の寸法が小さいと、第1の物質の像211、212の占める面積に対してスペクトルの混合の発生領域の面積が広いからである。
【0028】
また、同様の理由により、第1の物質の形状により、スペクトルの混合の程度が異なる。すなわち、第1の物質の像211、212と背景の像209との境界が長い形状ほど、第1の物質の像211、212と背景の像209との境界及びその近傍の画素において、スペクトルの混合の影響が大きくなる。したがって、例えば、第1の物質の形状において、短軸方向の長さに対する、長軸方向の長さの比が大きいほど、第1の物質の像211、212と背景の像209との境界及びその近傍の画素において、スペクトルの混合が大きい。
【0029】
さらに、背景に直交する方向以外から光が入射している場合、第1の物質の形状の長軸方向と、光の入射方向のなす角度に依存して、検査対象画像210においてスペクトル混合が発生する領域の形状や位置が異なる。
【0030】
学習部10は、上記理由に鑑みて、検査対象を含む被写体が撮像されてなる検査対象画像210において、各画素のスペクトルから、背景のスペクトルの影響を軽減するための補正モデルを作成する。
【0031】
2.1.2 学習部の構成と機能
以下、学習部10の各構成要素について説明する。
【0032】
学習部10は、
図1に示すように、参照画像取得部11と、補正モデル生成部12とを含む。参照画像取得部11は、例えば、プロセッサと、メモリと、プログラムとの組み合わせである。また、補正モデル生成部12は、例えば、プロセッサと、メモリと、プログラムとの組み合わせである。なお、参照画像取得部11のプロセッサと、補正モデル生成部12のプロセッサは、同一のプロセッサでもよい。プロセッサは、例えば、CPU(Central Processing Unit)、又は、GPU(Graphics Processing Unit)である。
【0033】
(1) 参照画像取得部の概要
参照画像取得部11は、以下の条件を満たす第1参照画像、第2参照画像、及び、第3参照画像のそれぞれを取得する。以下、第1参照画像、第2参照画像、及び、第3参照画像を総称して参照する際には「参照画像」と呼ぶ。参照画像取得部11は、参照画像から補正モデルの生成に必要な情報を取得し、補正モデル生成部12に出力する。
【0034】
(1.1) 第1参照画像の詳細
参照画像取得部11は、以下の条件を満たす第1参照画像421を、撮像装置2から取得する。第1参照画像421(
図5A参照)は、第2の物質213と背景215とを含む被写体411(
図4A参照)が、撮像装置2によって撮像された画像である。第1参照画像421は、補正モデルを作成するための教師データを作成するために用いられる。第2の物質は、補正モデルを作成するための教師データを作成するために用いる物質である。第2の物質は、例えば、第1の物質と同一の物質である。なお、後述するように、第2の物質は、第1の物質と異なる物質でもよい。
【0035】
また、第1参照画像421は、第2の物質からなる物体213(
図4A参照)の像を1以上含む。物体213は、短軸方向の長さ(幅)が閾値未満である。閾値は、以下のように定められる。第2の物質からなり短軸方向の長さ(幅)が閾値以上である物体と、背景とが隣接する状態を撮像した画像において、物体の像に含まれる画素のスペクトルにおける背景の反射スペクトルの混合の程度を第1の混合程度とする。第2の物質からなり短軸方向の長さ(幅)が閾値未満である物体と、背景とが隣接する状態を撮像した画像において、物体の像に含まれる画素のスペクトルにおける背景の反射スペクトルの混合の程度を、第2の混合程度とする。第2の混合程度は、第1の混合程度より大きい。閾値は、例えば、1mmである。
【0036】
なお、第1参照画像421は、物体213の像を複数含んでもよい。
図4Aは、第1参照画像421(
図5A参照)の被写体411の例を示す。被写体411は、物体213-1~213-25を含み、物体213-1~213-25のそれぞれは、上述の物体213の条件を満たす。
図5Aは、被写体411(
図4A参照)が撮像されてなる第1参照画像421を示す。第1参照画像421は、複数の像221-1~221-25を含む。複数の像221-1~221-25は、物体213-1~213-25のそれぞれの像である。以下、物体213-1~213-25の各々を区別しない場合には「物体213」という。また、像221-1~221-25の各々を区別しない場合は「像221」という。
【0037】
なお、物体213は、第2の物質からなり、短軸方向の長さ(幅)が閾値未満であれば、その形状は限定されない。物体213は、例えば、
図4Aに示すように、第2の物質の粒子でもよい。又は、例えば、物体213は、短軸方向の長さ(幅)が閾値未満である第2の物質を含む、TEG(Test Element Group)パターンでもよい。
【0038】
また、第1参照画像421において、物体213の寸法、形状、及び、配置を示すパラメータが既知である。
【0039】
寸法を示すパラメータは、例えば、最大対角線距離である。最大対角線距離は、最大対角線の長さである。
図6に示すように、最大対角線231は、撮像装置2からの平面視において、物体213と背景215との境界に存在する任意の2点を結んだ線分のうち、長さが最大となる線分である。例えば、撮像装置2からの平面視において、物体213の形状が楕円形である場合、最大対角線は、楕円の長径である。又は、例えば、撮像装置2からの平面視において、物体213の形状が平行四辺形である場合、最大対角線は、平行四辺形の2つの対角線のうち、長さの長い方の対角線である。
【0040】
形状を示すパラメータは、例えば、撮像装置2からの平面視において、物体213の面積を、最大対角線距離の二乗で割った面積率である。例えば、撮像装置2からの平面視において、物体213の形状が正方形である場合、面積率は50%である。また、例えば、撮像装置2からの平面視において、物体213の形状が縦横比3:1の長方形である場合、面積率は30%である。撮像装置2からの平面視において、物体213の形状が、面積に対する外周長の比が大きい形状であるほど、面積率は低くなる。
【0041】
配置を示すパラメータは、例えば、第1参照画像421の向きに対する、最大対角線231の向きを指す値である。例えば、最大対角線の方向と第1参照画像421のx軸となる方向とのなす角度θが20°である場合、向きを指す値は20°である。
【0042】
(1.2)第1参照画像に対する処理
参照画像取得部11は、上述の条件を満たす第1参照画像421を取得する。また、参照画像取得部11は、第1参照画像421の被写体である物体213のそれぞれについて、物体213の寸法、形状、及び、配置を示すパラメータを取得する。参照画像取得部11は、例えば、物体213を準備する際にあらかじめ取得された、物体213の寸法、形状、及び、配置のそれぞれを示すパラメータをデータベース(図示せず)から取得する。又は、参照画像取得部11は、後述するように、画像処理によって物体213の寸法、形状、及び、配置を示すパラメータを算出してもよい。
【0043】
参照画像取得部11は、第1参照画像421の像221に含まれる画素のスペクトルデータを、第1の参照スペクトル321(
図5C参照)として取得する。参照画像取得部11は、像221ごとに、第1の参照スペクトル321を物体213の寸法、形状、及び、配置と対応付けて、補正モデル生成部12に出力する。なお、参照画像取得部11は、像221を複数含む第1参照画像421について、像221のそれぞれについて、像221の第1の参照スペクトル321を、物体213の寸法、形状、及び、配置と対応付けて、補正モデル生成部12に出力する。また、参照画像取得部11は、複数の第1参照画像421を取得した場合、各第1参照画像421について、上述の処理を行う。
【0044】
(1.3)物体の寸法、形状、及び、配置を示すパラメータの算出方法
参照画像取得部11は、第1参照画像421に対して画像処理を行い、第1参照画像421の解像度を用いて、物体213の寸法、形状、及び、配置のそれぞれを示すパラメータを算出してもよい。画像処理は、例えば、以下の通りである。
【0045】
参照画像取得部11は、例えば、エッジ抽出処理により像221を第1参照画像421から抽出する。次に、参照画像取得部11は、像221の最大対角線像を検出する。最大対角線像は、像221の外周上の任意の2点を結ぶ線分のうち、長さが最大となる線分である。最大対角線像は最大対角線231の像であるから、最大対角線像の長さと第1参照画像421の解像度とに基づいて、参照画像取得部11は最大対角線距離を算出する。
【0046】
また、参照画像取得部11は、以下のように、形状を示すパラメータを算出する。例えば、参照画像取得部11は、像221に含まれる画素数を計測し、計測した画素数を、最大対角線像のピクセル単位の長さの二乗で除算して、像221の面積率を算出する。物体213の像211に含まれる画素数は、物体213の面積に比例する。また、最大対角線像の長さの二乗は、最大対角線距離の長さの二乗に比例する。さらに、物体213の像211に含まれる画素数と物体213の面積との比は、最大対角線像の長さの二乗と、最大対角線距離の長さの二乗との比と等しい。したがって、像211の面積率は、物体213の面積率と等しい。参照画像取得部11は、物体213の面積率に替えて、同じ値である像211の面積率を算出する。
【0047】
また、参照画像取得部11は、以下のように、配置を示すパラメータを算出する。例えば、参照画像取得部11は、最大対角線像の両端となる2つの第1参照画像421上の座標を算出する。そして、参照画像取得部11は、2つの第1参照画像421上の座標におけるy座標の差を、最大対角線像の長さで除算し、最大対角線像の方向と第1参照画像421のx軸とのなす角度θの正弦(sinθ)の値を算出する。参照画像取得部11は、算出した正弦の値sinθから最大対角線像の方向と第1参照画像421のx軸とのなす角度θを算出する。
【0048】
(1.4)第2参照画像及び第3参照画像
参照画像取得部11は、以下の条件を満たす第2参照画像422を、撮像装置2から取得する。
図4Bは、第2参照画像422の被写体412の例を示す。被写体412は、物体214を含む。第2参照画像422は、
図5Bに示すように、物体214の像222を含む。物体214は、撮像装置2からの平面視において、物体214の短軸方向の長さ(幅)が閾値以上である。すなわち、物体214は、撮像装置2からの平面視において、物体214の幅が必ず閾値以上である。上述したように、被写体の短軸方向の長さが閾値以上の物体は、被写体の短軸方向の長さが閾値未満の物体より背景のスペクトルの影響が小さい。すなわち、物体214の像222のスペクトルにおける背景215のスペクトルの影響は、第1参照画像421の像221の背景215のスペクトルの影響より小さい。
【0049】
なお、物体214は、撮像装置2からの平面視において、物体214の短軸方向の長さ(幅)が閾値以上であればよい。したがって、物体214は、例えば、撮像装置2からの平面視において、一辺が閾値の正方形を包含するような平板であってもよい。すなわち、物体214は、
図4Bに示す被写体412のようなバルクであってもよい。なお、物体214は、物体214の短軸方向の長さ(幅)が閾値以上であれば、粒子状であってもよく、TEGパターンであってもよい。
【0050】
参照画像取得部11は、第2参照画像422に含まれる物体214の像222に含まれる画素のスペクトルデータを、第2の参照スペクトル322(
図5C参照)として取得する。
【0051】
参照画像取得部11は、以下の条件を満たす第3参照画像を、撮像装置2から取得する。本実施の形態では、
図4A及び
図5Aに示すように、背景215を含む被写体411が撮像された第1参照画像421を第3参照画像としても使用する。第3参照画像は、背景215の像223を含む。参照画像取得部11は、第3参照画像における背景215の像223に含まれる画素のスペクトルデータを、背景の反射スペクトル323(
図5C参照)として抽出する。
【0052】
(2)補正モデル生成部の概要
補正モデル生成部12は、以下の手順により、スペクトルデータにおける背景の反射スペクトルの影響を推定する。第1参照画像421のいずれかの物体213-nの像221-nに含まれる画素の第1の参照スペクトル321をスペクトルA1(n)とする。インデックスnは、いずれの物体213を示すかを示すインデックスである。また、第2の参照スペクトル322をスペクトルA2とする。さらに、背景215の反射スペクトル323をスペクトルA3とする。そして、以下の等式を満たす値αを、物体213-nにおける背景スペクトルの影響αとする。
【0053】
A1(n)=α×A3+(1-α)×A2 …(式1)
【0054】
したがって、以下の式により影響αの値が求まる。
【0055】
α={A1(n)-A2}/{A3-A2} …(式2)
【0056】
補正モデル生成部12は、インデックスnごとに算出した影響αの値を、物体213-nの寸法、形状、及び、配置のそれぞれを示すパラメータと関連付ける。そして、補正モデル生成部12は、物体213の寸法、形状、及び、配置を入力値とし、影響αの値を正解データとする、機械学習の教師データを作成する。補正モデル生成部12は、作成した教師データを用いて機械学習を行い、補正モデルを生成する。機械学習の手法は、例えば、サポートベクタマシン、又は、ランダムフォレストを用いることができる。なお、機械学習の手法は、教師データを用いた学習手法であれば任意の手法でよく、例えば、ニューラルネットワークでもよい。教師データを用いた機械学習により、物体213の寸法、形状、及び、配置を入力として、物体213における背景スペクトルの影響αを出力する補正モデルが生成される。
【0057】
補正モデル生成部12は、生成した補正モデルを、補正モデル保持部21に出力する。
【0058】
2.2 モデル格納部
モデル格納部20は、補正モデル保持部21と、判定モデル保持部22とを含む。
【0059】
補正モデル保持部21は、上述した、補正モデル生成部12が生成した補正モデルを保持する記憶媒体である。なお、補正モデル保持部21は、他のシステムから取得した補正モデルを保持してもよい。他のシステムは、例えば、補正モデル生成部12を備える。又は、他のシステムは、例えば、補正モデル保持部21を備える。すなわち、補正モデル保持部21は、補正モデル生成部12が生成した補正モデル、又は、他のシステムが生成した補正モデルを保持する。
【0060】
判定モデル保持部22は、判定モデルを保持する記憶媒体である。判定モデルは、後述するように、検査対象216(
図7参照)が撮像された検査対象画像420(
図8参照)において、検査対象の像224に含まれる画素のスペクトルを補正したスペクトルに基づき、検査対象216の物質を特定するためのモデルである。
【0061】
2.3 処理部
処理部30は、
図1に示すように、検査画像取得部31と、スペクトル補正部32と、スペクトル判定部33とを含む。検査画像取得部31、スペクトル補正部32、スペクトル判定部33のそれぞれは、例えば、プロセッサを備えるコンピュータと、プログラムとで実現される。なお、検査画像取得部31、スペクトル補正部32、スペクトル判定部33のいずれか2つ又は全てを、単一のプロセッサを用いて実現してもよいし、単一のコンピュータを用いて実現してもよい。
【0062】
(1)検査画像取得部
検査画像取得部31は、
図8Aに示すような、検査対象216の像224と背景217の像225とを含む検査対象画像420を撮像装置2から取得する。検査対象画像420は、例えば、
図7に示す被写体410を撮像した画像である。被写体410は、検査対象216と背景217とを含む。検査対象画像420は、検査対象216の像224と、背景217の像225とを含む。
【0063】
検査画像取得部31は、例えば、エッジ抽出により、1以上の検査対象216の像224と、背景217の像225のそれぞれを抽出する。検査画像取得部31は、検査対象216の像224のそれぞれについて、参照画像取得部11と同様の手法により、像224の寸法を示すパラメータ、形状を示すパラメータ、及び、配置を示すパラメータを算出する。検査画像取得部31は、検査対象画像420に含まれる検査対象216の像224に含まれる画素のスペクトルを、第1のスペクトル315(
図8B参照)として取得する。検査画像取得部31は、検査対象画像420に含まれる検査対象216の像224のそれぞれについて、第1のスペクトル315を、像224の寸法、形状、及び、配置のそれぞれを示すパラメータと対応付けて、スペクトル補正部32に出力する。また、検査画像取得部31は、検査対象画像420における背景217の像225に含まれる画素のスペクトル316を、背景の反射スペクトルとして、スペクトル補正部32に出力する。また、検査画像取得部31は、検査対象画像420の全体を、スペクトル補正部32に出力する。
【0064】
(2)スペクトル補正部
スペクトル補正部32は、検査対象画像420における検査対象216の像224に含まれる画素の第1のスペクトル315について、補正モデルに基づいて、背景の反射スペクトル316の影響を軽減するための補正を行って、第2のスペクトル317を生成する。
【0065】
スペクトル補正部32は、補正モデル保持部21から、補正モデルを取得する。スペクトル補正部32は、検査対象画像420の検査対象216の像224のそれぞれについて、像224の寸法、形状、及び、配置のそれぞれを示すパラメータの組み合わせと、補正モデルとに基づいて、背景スペクトルの影響αの値を推定する。この処理により、第1参照画像421と検査対象画像420との間で、被写体の寸法、形状、及び、配置の特徴が同様であれば背景スペクトルの影響αも同様であるとの推定に基づき、像224における背景スペクトルの影響αの値が算出される。検査対象画像420の検査対象216の像224に含まれる画素の第1のスペクトル315をスペクトルA4(m)とする。インデックスmは、複数の像224のいずれを示すかを示すインデックスである。スペクトルA3は、背景217の像225のスペクトル316である。また、背景スペクトルの影響を軽減した第2のスペクトル317をスペクトルA5とすると、式1と同様、以下の等式が成立する。
【0066】
A4(m)=α×A3+(1-α)×A5 …(式3)
【0067】
したがって、以下の式により、第2のスペクトル317が算出できる。
【0068】
A5={A4(m)-α×A3}/(1-α) …(式4)
【0069】
スペクトル補正部32は、検査対象画像420において、いずれかの検査対象216の像224に含まれるすべての画素について、背景スペクトルの影響αの算出と、第2のスペクトル317であるスペクトルA5の算出とを行う。この処理により、
図8Bに示すように、検査対象画像420の像224について、像224に含まれる画素の第1のスペクトル315と背景217の像225に含まれる画素のスペクトル316に基づく、補正後の第2のスペクトル317が算出される。第2のスペクトル317は、第2参照画像422に含まれる像222の第2の参照スペクトル322と同程度に、背景のスペクトルの影響が低い。
【0070】
スペクトル補正部32は、検査対象画像420に対し、いずれかの検査対象216の像224に含まれる画素の全てについて、第1のスペクトル315を第2のスペクトル317に置き換えて補正後画像を生成する。スペクトル補正部32は、生成した補正後画像をスペクトル判定部33に出力する。
【0071】
なお、スペクトル補正部32は、他のシステムから、補正モデルを取得してもよい。他のシステムは、例えば、補正モデル保持部21を有する。又は、スペクトル補正部32は、補正モデルを保持する記憶部を内部に備え、補正モデル保持部21又は他のシステムから取得した補正モデルを保持してもよい。
【0072】
(3)スペクトル判定部
スペクトル判定部33は、補正後画像について、検査対象216の像224に含まれる画素の第2のスペクトル317に基づいて、検査対象216の物質を特定する。
【0073】
スペクトル判定部33は、スペクトル補正部32から補正後画像を取得する。スペクトル判定部33は、検査対象216の像224に含まれる画素の第2のスペクトル317を、補正後画像から取得する。スペクトル判定部33は、判定モデル保持部22から判定モデルを取得する。判定モデルは、検査対象216の像224に含まれる画素の第2のスペクトル317に基づいて、検査対象216の物質を判定するためのモデルである。判定モデルは、例えば、既知の物質の反射スペクトルを入力値とし、物質を特定する情報を正解とする教師データを用いて、予め生成された機械学習モデルである。物質を特定する情報は、例えば、物質の名称、又は、略称である。又は、物質を特定する情報は、例えば、所定の物質と一致するか否かの情報でもよい。スペクトル判定部33は、判定モデルと、検査対象216の像224に含まれる画素の第2のスペクトル317とから、検査対象216の物質を判定する。
【0074】
2.4 結果出力部
結果出力部40は、検査対象画像420にその像224が含まれる検査対象216の物質の判定結果をユーザーに示すデバイスである。結果出力部40は、例えば、ディスプレイ装置である。
【0075】
結果出力部40は、例えば、検査対象画像420における検査対象216の像224を、検査対象216の物質の種類によって異なる色に彩色して表示する。また、例えば、結果出力部40は、検査対象画像420の画素ごとの第2のスペクトルを表示してもよい。例えば、結果出力部40はタッチパネルであり、検査対象画像420のいずれかの画素にタッチされると、タッチされた画素の第2のスペクトル317を示してもよい。又は、例えば、結果出力部40はタッチパネルであり、検査対象画像420のいずれかの画素にタッチされると、タッチされた画素の検査対象画像420の第1のスペクトル315と、第2のスペクトル317とを比較可能な態様で示してもよい。また、例えば、結果出力部40は、第1参照画像421における物体213の像に含まれる画素の第1の参照スペクトル321と、第2の参照スペクトル322との一方または両方を表示してもよい。
【0076】
なお、結果出力部40はディスプレイ装置に限られず、例えば、スペクトル判定部33による検査対象216の物質の判定結果を保存するデータベース、又は、記憶媒体でもよい。
【0077】
3.検査システムの動作
以下、検査システム100の動作について説明する。
図9は、実施の形態に係る検査システム100の動作を示すフローチャートである。
【0078】
検査システム100は、参照画像の取得を行う(ステップS1)。検査システム100の参照画像取得部11は、上述した条件を満たす第1参照画像421、第2参照画像422、第3参照画像のそれぞれを取得する。参照画像取得部11は、物体213の像221を含む画像を、第1参照画像421として取得する。なお、補正モデルの精度を向上させるために、第1参照画像421から取得可能な物体213の像221の数は、複数であることが好ましい。したがって、参照画像取得部11は、物体213の像221を含む第1参照画像421を、複数取得する。又は、参照画像取得部11は、物体213の像221を複数含む第1参照画像421を取得する。また、参照画像取得部11は、物体214の像222を含む画像を、第2参照画像422として取得する。
【0079】
なお、参照画像取得部11は、物体213の像221と物体214の像222とを含む画像を、第1参照画像421として取得し、かつ、第2参照画像422として取得してもよい。また、参照画像取得部11は、背景215の像223を含む画像を、第3参照画像として取得する。なお、参照画像取得部11は、物体213の像221と背景215の像223とを含む画像を、第1参照画像421として取得し、かつ、第3参照画像として取得してもよい。又は、参照画像取得部11は、物体214の像222と背景215の像223とを含む画像を、第2参照画像422として取得し、かつ、第3参照画像として取得してもよい。又は、参照画像取得部11は、物体213の像221と物体214の像222と背景215の像223とを含む画像を、第1参照画像421、第2参照画像422、及び、第3参照画像として取得してもよい。
【0080】
参照画像取得部11は、例えば、撮像装置2から、参照画像のそれぞれを取得する。又は、参照画像取得部11は、撮像装置2が撮像した画像を保持している画像保持システムから、参照画像を取得してもよい。
【0081】
次に、検査システム100は、参照画像の情報抽出を行う(ステップS2)。検査システム100の参照画像取得部11は、1または複数の第1参照画像421から、複数の物体213の像221を特定する。参照画像取得部11は、複数の物体213のそれぞれについて、物体213の寸法、形状、及び、配置を示すパラメータを取得する。参照画像取得部11は、物体213の寸法、形状、及び、配置を示すパラメータを、上述したように、物体213の像221を含む第1参照画像421に対する上述した画像処理を行い、第1参照画像421の解像度を用いて算出する。又は、例えば、参照画像取得部11は、物体213の寸法、形状、及び、配置を示すパラメータの1以上について、ユーザーからの入力を受け付けてもよい。又は、例えば、参照画像取得部11は、物体213の寸法、形状、及び、配置を示すパラメータの1以上について、参照画像とともに、画像保持システムから取得してもよい。
【0082】
参照画像取得部11は、複数の物体213のそれぞれについて、物体213の寸法、形状、及び、配置を示すパラメータに、物体213の像221に含まれる画素のスペクトルである第1の参照スペクトル321を対応付けて、補正モデル生成部12に出力する。また、参照画像取得部11は、第2参照画像422における物体214の像222に含まれる画素のスペクトルを、第2の参照スペクトル322として、補正モデル生成部12に出力する。また、参照画像取得部11は、第3参照画像における背景215の像223に含まれる画素のスペクトルを、補正モデル生成部12に出力する。なお、検査システム100は、第2の参照スペクトル322に替えて、第2の物質の既知の反射スペクトルを補正モデル生成部12に出力してもよい。また、検査システム100は、第3参照画像における背景215の像223の画素のスペクトルに替えて、背景215の既知の反射スペクトルを補正モデル生成部12に出力してもよい。
【0083】
次に、検査システム100は、補正モデルの生成を行う(ステップS3)。検査システム100の補正モデル生成部12は、物体213のそれぞれにおける、第1の参照スペクトル321の背景スペクトルの影響αを算出する。補正モデル生成部12は、背景スペクトルの影響αを、第2の参照スペクトル322と、第3参照画像における背景215の像223の画素のスペクトルと、第1の参照スペクトル321とを用いて算出する。そして、補正モデル生成部12は、複数の物体213のそれぞれについて、物体213の寸法、形状、及び、配置を示すパラメータに、第1の参照スペクトル321の背景スペクトルの影響αを関連付ける。この処理により、物体213の寸法、形状、及び、配置を示すパラメータを入力値として、背景スペクトルの影響αを正解データとする、機械学習のための教師データが生成される。補正モデル生成部12は、教師データを用いて機械学習を行い、補正モデルを生成する。補正モデル生成部12は、生成した補正モデルを、補正モデル保持部21に出力する。
【0084】
次に、検査システム100は、検査対象画像420を取得する(ステップS4)。検査システム100の検査画像取得部31は、検査対象216の像224を含む画像を、検査対象画像420として撮像装置2から取得する。
【0085】
次に、検査システム100は、検査対象画像420の情報抽出を行う(ステップS5)。検査システム100の検査画像取得部31は、検査対象画像420から、1以上の検査対象216の像224と、背景217の像225のそれぞれを抽出する。検査画像取得部31は、検査対象216のそれぞれについて、参照画像取得部11と同様の手法により、検査対象216の像224に基づき、検査対象216の寸法を示すパラメータ、形状を示すパラメータ、及び、配置を示すパラメータを算出する。検査画像取得部31は、検査対象216のそれぞれについて、検査対象216の寸法、形状、及び、配置のそれぞれを示すパラメータと、検査対象216の像224に含まれる画素の第1のスペクトル315との組み合わせを、スペクトル補正部32に出力する。また、検査画像取得部31は、検査対象画像420の背景217の像225に含まれる画素のスペクトルを、背景217の像225のスペクトル316としてスペクトル補正部32に出力する。また、検査画像取得部31は、検査対象画像420の全体を、スペクトル補正部32に出力する。
【0086】
次に、検査システム100は、スペクトルの補正を行う(ステップS6)。検査システム100のスペクトル補正部32は、補正モデル保持部21から、補正モデルを取得する。スペクトル補正部32は、検査対象画像420の検査対象216のそれぞれについて、補正モデルを用いて、検査対象216の寸法、形状、及び、配置のそれぞれを示すパラメータから、第1のスペクトル315における背景スペクトルの影響αを推定する。スペクトル補正部32は、推定した背景スペクトルの影響αに基づき、検査対象216のそれぞれについて、検査対象216の像224に含まれる画素の第1のスペクトル315を補正して第2のスペクトル317を生成する。第2のスペクトル317は、背景スペクトルの影響αだけ背景のスペクトル316が第2のスペクトル317に影響を及ぼすことで、検査対象216の像224に含まれる画素の第1のスペクトル315が構成されるとの仮定に基づいて生成される。すなわち、第2のスペクトル317は、像224に含まれる画素の第1のスペクトル315から、背景のスペクトル316の影響を、第2の参照スペクトルと同程度に軽減したスペクトルである。
【0087】
スペクトル補正部32は、検査対象画像420について、検査対象216の像224に含まれるすべての画素の第1のスペクトル315を第2のスペクトル317に置き換えた画像である補正後画像を生成する。スペクトル補正部32は、補正後画像をスペクトル判定部33に出力する。
【0088】
次に、検査システム100は、検査対象216の同定を行う(ステップS7)。検査システム100のスペクトル判定部33は、補正後画像について、検査対象216の像224に含まれる画素の第2のスペクトル317に基づいて、検査対象216の物質を特定する。上述したように、第2のスペクトル317は、背景のスペクトル316の影響を第1の参照スペクトルと同程度に軽減したスペクトルである。したがって、第2のスペクトル317は、第1のスペクトル315よりも、検査対象216を構成する物質の反射スペクトルに近い。物質の特定の方法は、例えば、機械学習による判定モデルを用いる手法である。又は、物質の特定の方法は、例えば、既知の物質の反射スペクトルとの照合でもよい。
【0089】
以上の処理により、検査対象216の物質の判定が行われる。
【0090】
4.効果
実施の形態に係る検査システム100は、4以上の波長域の光強度情報を含む画像に基づいて検査対象216の物質を判定する。4以上の波長域は、その1以上が、紫外領域と赤外領域のいずれか一方に含まれてもよい。したがって、例えば、異種金属の近傍に存在する金属の物質の判定、異種樹脂の近傍に存在する樹脂の物質の判定など、目視で判別し辛い物質について検査を行うことができる。
【0091】
また、実施の形態に係る検査システム100は、スペクトル補正部32が、補正モデルに基づいて、検査対象画像420における検査対象216の像224に含まれる画素の第1のスペクトル315を補正する。したがって、スペクトル判定部33は、背景のスペクトル316の影響が軽減された第2のスペクトル317に基づいて、検査対象216の物質を判定することができる。したがって、検査対象216の像224の第1のスペクトル315への背景のスペクトル316の混合による、検査対象216の物質の判定の精度低下を防ぐことができる。したがって、検査対象216の判定の精度を向上させることができる。
【0092】
また、実施の形態に係る学習部10は、物体213の寸法、形状、及び、配置のそれぞれを示すパラメータの組み合わせを入力とし、背景スペクトルの影響αを出力とする補正モデルを生成する。すなわち、第1参照画像421と検査対象画像420について、被写体の寸法、形状、及び、配置が類似していれば背景スペクトルの影響αが類似しているとの推定に基づき、検査対象216の像224における背景スペクトルの影響αの値が算出される。したがって、補正モデルを生成するための教師用データを多種多様に揃えることで、容易に補正の精度を向上させることができ、検査対象216の物質の判定精度を向上させることができる。
【0093】
また、実施の形態に係る検査システム100では、第1参照画像421における物体213の像221の第1の参照スペクトル321における背景スペクトルの影響αについて、第1の参照スペクトル321に対する背景のスペクトルの比率で示す。すなわち、背景スペクトルの影響αは、第1の物質の反射スペクトル311の特徴や強度に依存しない。したがって、背景スペクトルの影響αが同程度であると推定できれば、第1参照画像421の被写体である第2の物質と、検査対象画像420の被写体である検査対象216の同定の対象である第1の物質とが、同一の物質でなくてもよい。例えば、背景の物質が樹脂であり、第2の物質と第1の物質とがいずれも金属材料である場合、第1の物質と第2の物質とが異種の金属であっても、背景スペクトルの影響αが同程度であると推定できる。すなわち、例えば、第2の物質として鉄を用いて生成した補正モデルを用いることで、第1の物質が銀である場合にも、スペクトル補正部32によるスペクトル補正により、背景の反射スペクトルの影響の軽減が可能と考えられる。したがって、第1の物質の種類ごとに、同種の物質を第2の物質とする補正モデルを生成する必要がなく、補正モデルの生成を省力化することができる。
【0094】
また、実施の形態に係る検査システム100では、スペクトル判定部33が、背景のスペクトル316の影響が軽減された第2のスペクトル317に基づいて、検査対象216の物質を判定することができる。したがって、判定モデルを機械学習で作成する場合において、同様に背景のスペクトル316の影響が小さい、短軸方向の幅が閾値以上である試料のスペクトルを使用することで、容易に判定精度を向上できる。また、判定モデルを作成するための教師データを作成する際に、短軸方向の幅が閾値未満である部分を含む試料のスペクトルを用いなくてよいため、判定モデルの生成を省力化することができる。さらに、背景のスペクトル316の影響が大きいスペクトルを入力として含む教師データを用いないことで、判定モデルの精度が低下することを防ぐことができる。
【0095】
なお、実施の形態に係るスペクトル判定部33では、補正後画像の検査対象216の像に含まれる各画素の第2のスペクトル317において、背景のスペクトル316の影響は少ない。したがって、判定モデルは機械学習により形成されたものに限られない。例えば、判定モデル保持部22は、既知の物質の反射スペクトルを保持する。スペクトル判定部33は、補正後画像の検査対象216の像に含まれる各画素の第2のスペクトル317と、判定モデル保持部22に保持された既知の物質の反射スペクトルとの一致度を算出する。スペクトル判定部33は、一致度が所定の閾値以上であれば、検査対象216が既知の物質であると判定する。一致度の判定は、例えば、相関処理を用いることができる。このような処理によっても、検査対象216の物質を特定することができる。
【0096】
(変形例1)
変形例1に係る検査システム130は、
図10に示すように、判定システム110と、モデル生成システム120とを備える点で、実施の形態に係る検査システム100(
図1参照)と異なる。
【0097】
モデル生成システム120は、
図10に示すように、学習部10と、モデル格納部23とを含む。学習部10は、実施の形態に係る検査システム100の学習部10(
図1参照)と同じ機能を有する。したがって、学習部10について、詳細な説明を省略する。モデル格納部23は、補正モデル保持部21を含む。補正モデル保持部21は、実施の形態に係る検査システム100の補正モデル保持部21(
図1参照)と同じ機能を有する。したがって、補正モデル保持部21について、詳細な説明を省略する。すなわち、モデル生成システム120は、検査システム100から、処理部30と、判定モデル保持部22とを除いた構成と同一である。モデル生成システム120は、検査システム100における、第1参照画像421、第2参照画像422、第3参照画像を用いて補正モデルを生成する動作を行う。すなわち、モデル生成システム120は、
図9のフローチャートにおける、ステップS1からS3までの動作を行う。
【0098】
判定システム110は、
図10に示すように、処理部30と、結果出力部40と、補正モデル取得部50と、モデル格納部24とを含む。結果出力部40は、実施の形態に係る検査システム100の結果出力部40(
図1参照)と同じ機能を有する。したがって、結果出力部40について、詳細な説明を省略する。また、処理部30は、スペクトル補正部32が補正モデルを補正モデル保持部21ではなく補正モデル取得部50から取得することを除き、検査システム100の処理部30(
図1参照)と同じ機能を有する。モデル格納部24は、判定モデル保持部22を含む。判定モデル保持部22は、検査システム100に係る判定モデル保持部22(
図1参照)と同じ機能を有する。補正モデル取得部50は、モデル生成システム120の補正モデル保持部21から補正モデルを取得する機能ブロックであり、例えば、モデル生成システム120の補正モデル保持部21と通信可能な通信デバイスである。すなわち、判定システム110は、検査システム100から、学習部10と、補正モデル保持部21を除き、補正モデル取得部50を追加した構成である。判定システム110は、検査システム100における、補正モデルを用いて検査対象画像420のスペクトルを補正し、検査対象216の物質を判定する動作を行う。すなわち、判定システム110は、
図9のフローチャートにおける、ステップS4からS7までの動作を行う。
【0099】
以上説明したように、変形例1に係る検査システム130は、補正モデルの生成をモデル生成システム120で行い、判定システム110は補正モデルを利用した検査対象216の物質の判定を実施する。すなわち、実施の形態に係る検査システム100の動作を、判定システム110と、モデル生成システム120とで協働して行う。
【0100】
本変形例によっても、実施の形態に係る検査システム100と同様の効果を得ることができる。また、本変形例によれば、例えば、1つのモデル生成システム120によって形成された補正モデルを、複数の判定システム110で利用することができる。したがって、判定システム110ごとに補正モデルを作成する必要がなく、補正モデルの生成を省力化することができる。
【0101】
なお、変形例1では、モデル生成システム120が補正モデル保持部21を有し、判定システム110が補正モデル取得部50を有する。この構成に替えて、モデル生成システム120が補正モデル送信部を有し、判定システム110が補正モデル保持部21を有する構成をとることができる。又は、例えば、検査システム130はモデル格納システムを含み、モデル生成システム120はモデル格納システムに補正モデルを出力し、判定システム110はモデル格納システムから補正モデルを取得する構成をとることもできる。モデル格納システムは、例えば、ネットワーク上のサーバである。又は、モデル格納システムは、例えば、記憶媒体である。
【0102】
(変形例2)
1.構成
変形例2に係るモデル生成システム150は、
図11に示すように、判定モデル生成システム140をさらに含む点で、変形例1に係るモデル生成システム120(
図10参照)と異なる。
【0103】
変形例2に係るモデル生成システム150は、補正モデル生成システム120と、判定モデル生成システム140とを含む。補正モデル生成システム120は、変形例1に係るモデル生成システム120と同一である。したがって、詳細な説明は省略する。
【0104】
判定モデル生成システム140は、
図11に示すように、モデル格納部24と、補正モデル取得部50と、学習部60とを備える。
【0105】
学習部60は、検査対象が撮像された教師画像を取得して、判定モデルを生成する。学習部60は、教師画像取得部61と、スペクトル補正部62と、判定モデル生成部63とを備える。
【0106】
教師画像取得部61は、教師画像430(
図13A参照)を取得する。教師画像430は、第1の物質218と背景219とを含む被写体413(
図12参照)が、撮像装置2で撮像されてなる画像である。教師画像取得部61は、例えば、エッジ抽出により、1以上の第1の物質218の像226と、背景219の像227のそれぞれを抽出する。教師画像取得部61は、第1の物質218のそれぞれについて、参照画像取得部11と同様の手法により、第1の物質218の寸法を示すパラメータ、形状を示すパラメータ、及び、配置を示すパラメータを算出する。教師画像取得部61は、第1の物質218のそれぞれについて、教師画像430における第1の物質218の像226に含まれる画素のスペクトルを、第1のスペクトル319として取得する。教師画像取得部61は、第1の物質218のそれぞれについて、第1のスペクトル319を、第1の物質218の寸法、形状、及び、配置のそれぞれを示すパラメータと対応付けて、スペクトル補正部62に出力する。また、教師画像取得部61は、教師画像430における背景219の像227に含まれる画素のスペクトルを、背景の反射スペクトル318(
図13B参照)として、スペクトル補正部62に出力する。また、教師画像取得部61は、教師画像430の全体を、スペクトル補正部62に出力する。
【0107】
スペクトル補正部62は、実施の形態に係るスペクトル補正部32と同様、教師画像430における第1の物質218の像226の第1のスペクトル319を補正する。スペクトル補正部62は、第1の物質218の像226のそれぞれについて、第1の物質218の寸法、形状、及び、配置のそれぞれを示すパラメータの組み合わせと、補正モデルとに基づいて、背景スペクトルの影響αの値を推定する。この処理により、第1参照画像421と教師画像430との間で、被写体の寸法、形状、及び、配置のそれぞれが同様であれば同様の背景スペクトルの影響αが存在するとの推定に基づき、教師画像430における背景スペクトルの影響αの値が算出される。
【0108】
スペクトル補正部62は、教師画像430において、いずれかの第1の物質218の像226に含まれるすべての画素について、背景スペクトルの影響αの算出を行う。スペクトル補正部62は、スペクトル補正部32と同様に、背景の反射スペクトル318と、画素ごとの、背景スペクトルの影響α及び画素の第1のスペクトル319とに基づき、画素ごとの第2のスペクトル320を算出する。スペクトル補正部62は、教師画像430に含まれる画素のうち、いずれかの第1の物質218の像226に含まれる画素の全てについて、第1のスペクトル319を第2のスペクトル320に置き換えた画像を、補正後画像として判定モデル生成部63に出力する。
【0109】
判定モデル生成部63は、補正後画像における第1の物質218の像226に含まれる画素の第2のスペクトル320を入力データ、第1の物質を示す情報を正解とする教師データを作成する。判定モデル生成部63は、上述の教師データを用いて機械学習を行い、判定モデルを生成する。機械学習としては、例えば、サポートベクタマシン、ランダムフォレストを用いることができる。なお、機械学習はこれに限られず、教師データを用いる機械学習であれば任意のものを用いてよく、例えば、ニューラルネットワークであってもよい。判定モデル生成部63は、生成した判定モデルを判定モデル保持部22に出力する。
【0110】
2.動作
以下、モデル生成システム150の動作について説明する。
図14は、変形例2に係るモデル生成システム150の動作を示すフローチャートである。なお、
図9に示す検査システム100の動作と同じ動作については同じステップ番号を付し、詳細な説明を省略する。
【0111】
モデル生成システム150は、参照画像の取得を行う(ステップS1)。モデル生成システム150の参照画像取得部11は、第1参照画像421、第2参照画像422、第3参照画像のそれぞれを取得する。詳細は実施の形態1と同じであるので省略する。
【0112】
次に、モデル生成システム150は、参照画像の情報抽出を行う(ステップS2)。モデル生成システム150の参照画像取得部11は、第1参照画像421、第2参照画像422、第3参照画像のそれぞれから、補正モデルの生成に必要な情報を抽出する。詳細は実施の形態1と同じであるので省略する。
【0113】
次に、モデル生成システム150は、補正モデルの生成を行う(ステップS3)。モデル生成システム150の補正モデル生成部12は、参照画像から抽出された情報に基づき、補正モデルを生成する。詳細は実施の形態1と同じであるので省略する。
【0114】
次に、モデル生成システム150は、教師画像430の取得を行う(ステップS8)。モデル生成システム150の教師画像取得部61は、第1の物質218と背景219とを含む被写体413が撮像されてなる教師画像430を撮像装置2から取得する。
【0115】
次に、モデル生成システム150は、教師画像430の情報抽出を行う(ステップS9)。モデル生成システム150の教師画像取得部61は、教師画像430から、1以上の第1の物質218の像226と、背景219の像227のそれぞれを抽出する。教師画像取得部61は、第1の物質218のそれぞれについて、像226に基づいて、第1の物質218の寸法、形状、及び、配置、のそれぞれを示すパラメータを算出する。教師画像取得部61は、第1の物質218のそれぞれについて、教師画像430における第1の物質218の像226に含まれる画素のスペクトルを、第1のスペクトル319として取得する。教師画像取得部61は、第1の物質218のそれぞれについて、第1のスペクトル319を、第1の物質218の寸法、形状、及び、配置のそれぞれを示すパラメータと対応付けて、スペクトル補正部62に出力する。また、教師画像取得部61は、教師画像430における背景219の像227に含まれる画素のスペクトルを、背景の反射スペクトル318として、スペクトル補正部62に出力する。また、教師画像取得部61は、教師画像430の全体を、スペクトル補正部62に出力する。
【0116】
次に、モデル生成システム150は、スペクトルの補正を行う(ステップS10)。モデル生成システム150のスペクトル補正部62は、第1の物質218のそれぞれについて、第1の物質218の寸法、形状、及び、配置のそれぞれを示すパラメータの組み合わせと、補正モデルとに基づいて、背景スペクトルの影響αの値を推定する。スペクトル補正部62は、背景219の反射スペクトル318と、画素ごとの、背景スペクトルの影響α及び画素の第1のスペクトル319とに基づき、画素ごとの第2のスペクトル320を算出する。スペクトル補正部62は、教師画像430に含まれる画素のうち、いずれかの第1の物質218の像226に含まれる画素の全てについて、第1のスペクトル319を第2のスペクトル320に置き換えた画像を、補正後画像として判定モデル生成部63に出力する。
【0117】
次に、モデル生成システム150は、判定モデルの作成を行う(ステップS11)。モデル生成システム150の判定モデル生成部63は、補正後画像における第1の物質218の像226に含まれる画素の第2のスペクトル320を入力データ、第1の物質を示す情報を正解とする教師データを作成する。判定モデル生成部63は、上述の教師データを用いて機械学習を行い、判定モデルを生成する。
【0118】
以上の処理により、第2のスペクトル320を入力として第1の物質の判定を行う判定モデルが生成される。
【0119】
3.効果
変形例2に係る判定モデルは、第2のスペクトル320に基づいて第1の物質の判定を行う機械学習モデルである。したがって、実施の形態に係る検査システム100、又は、変形例1に係る判定システム110において変形例2に係る判定モデルを用いることで、第1の物質の判定精度を向上させることができる。特に、判定モデルを生成するための第2のスペクトル320と、判定システムにおける第2のスペクトル317とで同様の補正が行われているため、背景のスペクトルの影響を小さくすることができる。
【0120】
また、実施の形態1と同様に、スペクトル補正部62によって補正が行われた後の第2のスペクトル320は、教師画像430の各画素の第1のスペクトル319と比べて、背景のスペクトル318の影響が、第2の参照スペクトルと同程度に軽減されている。すなわち、判定モデルの教師データにおける入力は、背景のスペクトル318の影響が小さい。したがって、判定モデルにおける背景スペクトルの影響を軽減することができる。すなわち、判定モデルの精度を向上させることができる。
【0121】
(実施の形態に係るその他の変形例)
(1)実施の形態および変形例では、参照画像取得部11は、第2の物質213について、寸法として最大対角線距離、形状として面積率、配置として最大対角線とx軸とがなす角度を算出する。補正モデル生成部12は、寸法、形状、及び、配置を入力とする補正モデルを生成する。検査画像取得部31は、検査対象216の像224に基づいて、検査対象216の寸法、形状、及び、配置を算出し、スペクトル補正部32は、検査対象216の寸法、形状、及び、配置を用いてスペクトルの補正を行う。
【0122】
しかしながら、補正モデルへの入力は、上述した例に限られない。補正モデルへの入力は、第1参照画像421の第2の物質213の像221の第1の参照スペクトル、又は、検査対象画像420の検査対象216の像224の第1のスペクトルに対して、背景のスペクトルの影響αの値に影響を及ぼす任意の要素であってよい。また、補正モデルへの入力として用いる要素は、寸法、形状、及び、配置の1以上でもよいし、これ以外の要素であってもよい。
【0123】
(2)実施の形態および各変形例では、補正モデル生成部12は、第2参照画像422における物体214の像222のスペクトル322を、第2の物質の反射スペクトルとする。また、補正モデル生成部12は、第3参照画像における背景215の像223のスペクトル323を、背景の反射スペクトルとする。しかしながら、補正モデル生成部12は、既知のデータである、第2の物質の反射スペクトルと、背景の反射スペクトルとを利用してもよい。この場合において、参照画像取得部11は、第2参照画像422における物体214の像についても、物体214の寸法、形状、及び、配置のそれぞれを示すパラメータと組み合わせて出力してもよい。また、補正モデル生成部12は、第2参照画像422における物体214の像についても、背景スペクトルの影響αを算出し、補正モデルを生成するための教師データの一部として用いてもよい。
【0124】
(まとめ)
第1の態様に係る検査システム(100;130)は、検査画像取得部(31)と、スペクトル補正部(32)と、スペクトル判定部(33)と、結果出力部(40)と、を備える。検査画像取得部(31)は、検査対象画像(420)を取得する。検査対象画像(420)は、検査対象(216)と背景(217)とを含む被写体(410)が4以上の波長域で撮像されて得られる。スペクトル補正部(32)は、第1のスペクトル(315)に、背景(217)の像(225)のスペクトル(316)に基づく補正を行って第2のスペクトル(317)を生成する。第1のスペクトル(315)は、検査対象画像(420)における検査対象(216)の像(224)のスペクトルである。スペクトル判定部(33)は、第2のスペクトル(317)に基づいて、検査対象(216)が第1の物質か否かを判定する。
【0125】
第1の態様に係る検査システム(100;130)によれば、背景(217)の像(225)のスペクトル(316)が、検査対象(216)が第1の物質か否かを判定する精度に与える影響を軽減することができる。したがって、検査対象(216)の特定精度を向上することができる。
【0126】
第2の態様に係る検査システム(100;130)では、第1の態様において、スペクトル補正部(32)は、第1の参照スペクトル(321)と、第2の参照スペクトル(322)と、に基づいて、第1のスペクトル(315)の補正を行って第2のスペクトル(317)を生成する。第1の参照スペクトル(321)は、第1参照画像(421)における第2の物質(213)の像(221)のスペクトルである。第2の参照スペクトル(322)は、第2参照画像(422)における第2の物質(214)の像(222)のスペクトルである。第1参照画像(421)は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が閾値未満である部分を含む第2の物質(213)が撮像されて得られる。第2参照画像(422)は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が閾値以上である第2の物質(214)が撮像されて得られる。
【0127】
第2の態様に係る検査システム(100;130)によれば、材質が同一で寸法が異なる2つのスペクトルである第1の参照スペクトル(321)と第2の参照スペクトル(322)とに基づいて背景(217)のスペクトル(316)の影響を軽減する補正を行う。したがって、背景(217)のスペクトル(316)の影響を精度良く軽減することができる。
【0128】
第3の態様に係る検査システム(100;130)では、第2の態様において、第1の物質と、第2の物質とは異なる物質である。
【0129】
第3の態様に係る検査システム(100;130)によれば、第1参照画像(421)及び第2参照画像(422)の被写体である第2の物質と、検査対象画像(420)の被写体に含まれ得る第1の物質とが同一である必要がない。したがって、第1の物質ごとに補正モデルを生成する必要がなく、補正モデルの生成を省力化することができる。
【0130】
第4の態様に係る検査システム(100;130)では、第2又は第3の態様において、第1参照画像(421)は、第2の物質の粒子(213)が撮像されて得られた画像である。
【0131】
第4の態様に係る検査システム(100;130)によれば、粒子状の第2の物質(213)を撮像して第1参照画像(421)を生成することができる。したがって、容易に補正モデルを生成することができる。また、粒子状の被写体(410)に適したスペクトル補正モデルが生成されるため、検査対象(216)が粒子状である場合に、スペクトルの補正を高精度で行うことができ、検査対象(216)の特定精度を向上することができる。
【0132】
第5の態様に係る検査システム(100;130)では、第4の態様において、第2参照画像(422)は、第2の物質の粒子(214)が撮像されて得られた画像である。
【0133】
第5の態様に係る検査システム(100;130)によれば、粒子状の第2の物質を撮像して第2参照画像(422)を生成することができる。したがって、粒径の異なる第2の物質を撮像することで第1参照画像(421)と第2参照画像(422)を容易に準備することができる。
【0134】
第6の態様に係る検査システム(100;130)では、第2又は第3の態様において、第1参照画像(421)は、第2の物質を含むTEGパターン(213)が撮像されて得られた画像である。
【0135】
第6の態様に係る検査システム(100;130)によれば、TEGパターンである被写体(410)に適したスペクトル補正モデルが生成される。したがって、検査対象(216)がTEGパターンである場合に、スペクトルの補正を高精度で行うことができ、検査対象(216)の特定精度を向上することができる。
【0136】
第7の態様に係る検査システム(100;130)では、第6の態様において、第2参照画像(422)は、第2の物質を含むTEGパターン(214)が撮像されて得られた画像である。
【0137】
第7の態様に係る検査システム(100;130)によれば、幅の異なる2種類のTEGパターンを第2の物質を用いて試料を作成し、試料を撮像することで容易に第1参照画像(421)と第2参照画像(422)とを準備することができる。
【0138】
第8の態様に係る検査システム(100;130)では、第2から第7のいずれか1つの態様において、結果出力部(40)は、第1の参照スペクトル(321)と第2の参照スペクトル(322)とのうち少なくとも一方を出力する。
【0139】
第8の態様に係る検査システム(100;130)によれば、第1の参照スペクトル(321)と第2の参照スペクトル(322)の一方又は両方をユーザーが確認することができる。したがって、スペクトル補正部(32)によるスペクトル補正が適切か否かをユーザーが確認することができる。
【0140】
第9の態様に係る検査システム(100;130)では、第1から第8のいずれか1つの態様において、結果出力部(40)は、第2のスペクトル(317)を出力する。
【0141】
第9の態様に係る検査システム(100;130)によれば、第2のスペクトル(317)をユーザーが確認することができる。したがって、スペクトル補正部(32)によるスペクトル補正が適切か否か、及び、スペクトル判定部(33)による判定が適切か否か、の少なくとも一方をユーザーが確認することができる。
【0142】
第10の態様に係る検査システム(100;130)では、第1から第9のいずれか1つの態様において、結果出力部(40)は、第1のスペクトル(315)を出力する。
【0143】
第10の態様に係る検査システム(100;130)によれば、第1のスペクトル(315)をユーザーが確認することができる。したがって、スペクトル補正部(32)によるスペクトル補正が適切か否かをユーザーが確認することができる。
【0144】
第11の態様に係るモデル生成システム(120)は、参照画像取得部(11)と、補正モデル生成部(12)と、を備える。参照画像取得部(11)は、第1参照画像(421)と第2参照画像(422)とを取得する。第1参照画像(421)と第2参照画像(422)とは、寸法、形状、及び、配置のうち少なくとも1つが既知である所定の物質と、背景(215)とが、4以上の波長域で撮像されて得られる。補正モデル生成部(12)は、第1の参照スペクトル(321)と、第2の参照スペクトル(322)と、に基づく教師データを用いて、スペクトル補正モデルを生成する。第1の参照スペクトル(321)は、第1参照画像(421)における所定の物質(213)の像(221)のスペクトルである。第2の参照スペクトル(322)は、第2参照画像(422)の所定の物質(214)の像(222)のスペクトルである。第1参照画像(421)は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が閾値未満である部分を含む所定の物質(213)が撮像されて得られる。第2参照画像(422)は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が閾値以上である所定の物質(214)が撮像されて得られる。スペクトル補正モデルは、検査対象画像(420)において、検査対象(216)の像(224)のスペクトル(315)に、背景(217)の像(225)のスペクトル(316)に基づく補正を行うための機械学習モデルである。検査対象画像(420)は、検査対象(216)と背景(217)とを含む被写体(410)を4以上の波長域で撮像されて得られる。
【0145】
第11の態様に係るモデル生成システム(120)によれば、材質が同一で寸法が異なる2つのスペクトルである第1の参照スペクトル(321)と第2の参照スペクトル(322)とに基づいて、補正モデルが生成される。本補正モデルを使用することで、検査対象(216)の像(224)のスペクトル(315)における背景(217)の像(225)のスペクトル(316)の影響を軽減する補正を行うことができる。
【0146】
第12の態様に係る判定システム(110)は、補正モデル取得部(50)と、検査画像取得部(31)と、スペクトル補正部(32)と、スペクトル判定部(33)と、結果出力部(40)と、を備える。補正モデル取得部(50)は、第11の態様に係るモデル生成システム(120)からスペクトル補正モデルを取得する。検査画像取得部(31)は、検査対象(216)と背景(217)とを含む被写体(410)が4以上の波長域で撮像されて得られた検査対象画像(420)を取得する。スペクトル補正部(32)は、スペクトル補正モデルを用いて、検査対象画像(420)における検査対象(216)の像(224)のスペクトルである第1のスペクトル(315)を補正して第2のスペクトル(317)を生成する。スペクトル判定部(33)は、第2のスペクトル(317)に基づいて、検査対象(216)が第1の物質であるか否かを判定する。結果出力部(40)は、スペクトル判定部(33)の判定の結果を出力する。
【0147】
第12の態様に係る判定システム(110)によれば、背景(217)の像(225)のスペクトル(316)が、検査対象(216)が第1の物質か否かを判定する精度に与える影響を軽減することができる。したがって、検査対象(216)の特定精度を向上することができる。
【0148】
第13の態様に係る検査方法は、検査対象画像(420)を取得し、検査対象画像(420)における検査対象(216)の像(224)のスペクトルである第1のスペクトル(315)に、背景(217)の像(225)のスペクトル(316)に基づく補正を行って第2のスペクトル(317)を生成し、第2のスペクトル(317)に基づいて、検査対象(216)が所定の物質か否かを判定し、判定の結果を出力する。検査対象画像(420)は、検査対象(216)と背景(217)とを含む被写体(410)が4以上の波長域で撮像されて得られる。
【0149】
第13の態様に係る検査方法によれば、背景(217)の像(225)のスペクトル(316)が、検査対象(216)が第1の物質か否かを判定する精度に与える影響を軽減することができる。したがって、検査対象(216)の特定精度を向上することができる。
【0150】
第14の態様に係るプログラムは、第13の態様に係る検査方法を、1又は複数のプロセッサに実行させる、プログラムである。
【0151】
第14の態様に係るプログラムによれば、プログラムを実行するプロセッサが、検査システム(100;130)として機能する。したがって、プロセッサが実行する検査方法により、背景(217)の像(225)のスペクトル(316)が、検査対象(216)が第1の物質か否かを判定する精度に与える影響を軽減することができる。したがって、検査対象(216)の特定精度を向上することができる。
【0152】
第15の態様に係るモデル生成方法は、第1参照画像(421)と第2参照画像(422)とを取得し、第1の参照スペクトル(321)と、第2の参照スペクトル(322)と、に基づく教師データを用いて、スペクトル補正モデルを生成する。第1参照画像(421)と第2参照画像(422)とは、寸法、形状、及び、配置のうち少なくとも1つが既知である所定の物質と、背景(215)とが、4以上の波長域で撮像されて得られる。第1の参照スペクトル(321)は、第1参照画像(421)における所定の物質(213)の像(221)のスペクトルである。第2の参照スペクトル(322)は、第2参照画像(422)における所定の物質(214)の像(222)のスペクトルである。第1参照画像(421)は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が閾値未満である部分を含む所定の物質(213)が撮像されて得られる。第2参照画像(422)は、寸法、形状、及び、配置のうち少なくとも1つが既知であって、かつ、幅が閾値以上である部分を含む所定の物質(214)が撮像されて得られる。スペクトル補正モデルは、検査対象画像(420)において、検査対象(216)の像(224)のスペクトル(315)に、背景(217)の像(225)のスペクトル(316)に基づく補正を行うための機械学習モデルである。検査対象画像(420)は、検査対象(216)と背景(217)とを含む被写体(410)を4以上の波長域で撮像されて得られる。
【0153】
第15の態様に係るモデル生成方法によれば、材質が同一で寸法が異なる2つのスペクトルである第1の参照スペクトル(321)と第2の参照スペクトル(322)とに基づいて、補正モデルが生成される。本補正モデルを使用することで、検査対象(216)の像(224)のスペクトル(315)における背景(217)の像(225)のスペクトル(316)の影響を軽減する補正を行うことができる。
【0154】
第16の態様に係るプログラムは、第15の態様に係るモデル生成方法を、1又は複数のプロセッサに実行させる、プログラムである。
【0155】
第16の態様に係るプログラムによれば、プログラムを実行するプロセッサが、モデル生成システム(120)として機能する。したがって、プロセッサが実行するモデル生成方法により、材質が同一で寸法が異なる2つのスペクトルである第1の参照スペクトル(321)と第2の参照スペクトル(322)とに基づいて、補正モデルが生成される。本補正モデルを使用することで、検査対象(216)の像(224)のスペクトル(315)における背景(217)の像(225)のスペクトル(316)の影響を軽減する補正を行うことができる。
【符号の説明】
【0156】
100、130 検査システム
110 判定システム
120 モデル生成システム
11 参照画像取得部
12 補正モデル生成部
110 判定システム
31 検査画像取得部
32 スペクトル補正部
33 スペクトル判定部
40 結果出力部
50 補正モデル取得部
213、214 第2の物質(所定の物質)
216 検査対象
215、217 背景
221、222 第2の物質の像
224 検査対象の像
223、225 背景の像
315 第1のスペクトル
316 背景の像のスペクトル
317 第2のスペクトル
321 第1の参照スペクトル
322 第2の参照スペクトル
410 被写体
420 検査対象画像
421 第1参照画像
422 第2参照画像