(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023076992
(43)【公開日】2023-06-05
(54)【発明の名称】自動欠陥分類装置
(51)【国際特許分類】
G01N 21/88 20060101AFI20230529BHJP
H01L 21/66 20060101ALI20230529BHJP
【FI】
G01N21/88 Z
H01L21/66 J
【審査請求】未請求
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2021190058
(22)【出願日】2021-11-24
(71)【出願人】
【識別番号】000219314
【氏名又は名称】東レエンジニアリング株式会社
(71)【出願人】
【識別番号】301014904
【氏名又は名称】東レエンジニアリング先端半導体MIテクノロジー株式会社
(72)【発明者】
【氏名】坪井 辰彦
(72)【発明者】
【氏名】大久保 憲治
【テーマコード(参考)】
2G051
4M106
【Fターム(参考)】
2G051AA51
2G051AB02
2G051AC21
2G051BB03
2G051CA04
2G051CB01
2G051DA07
2G051EA11
2G051EA14
2G051EB01
2G051EB05
2G051EB09
4M106AA01
4M106CA39
4M106DB04
4M106DJ27
4M106DJ28
(57)【要約】
【課題】 教師データを構成する欠陥画像が多くても、ユーザが付与した分類カテゴリに誤りを是正しやすくし、自動欠陥分類の精度を向上させることができる、自動欠陥分類装置を提供すること。
【解決手段】 教師データを用いて分類カテゴリが未知の欠陥画像に対する分類カテゴリを自動的に付与する自動欠陥分類装置において、
教師データ評価用分類器生成部と、特徴量算出部と、
欠陥画像の特徴量と、当該欠陥画像に付与されているものと同一及び異なる分類カテゴリに設定された特徴量の許容基準それぞれとの不一致度合いを算出する、カテゴリ不一致度算出部と、
算出した不一致度合いが最小となる分類カテゴリを選出し、選出した分類カテゴリがユーザにより付与された分類カテゴリと一致せず、かつ、不一致度合いが予め規定した基準値を超えていると判定されたものを分類間違い画像として検出する分類間違い画像検出部を備える。
【選択図】
図2
【特許請求の範囲】
【請求項1】
複数の欠陥画像それぞれに対して予めユーザにより分類カテゴリが付与された教師データを用いて、欠陥画像に対する分類器を生成し、当該分類器に基いて分類カテゴリが未知の欠陥画像に対して自動的に分類カテゴリを付与する、自動欠陥分類装置において、
前記教師データを入力する教師データ入力部と、
前記複数の欠陥画像に対して所定の処理を行う処理部とを備え、
前記処理部は、
前記分類カテゴリが未知の欠陥画像に対する分類器が生成される前の段階で、前記教師データに含まれる前記複数の欠陥画像に付与された前記分類カテゴリを評価するための評価用分類器を生成する、教師データ評価用分類器生成部と、
前記評価用分類器に基づいて、前記教師データに含まれた前記複数の欠陥画像それぞれに対して特徴量の算出処理を行う特徴量算出部と、
前記教師データに含まれた前記複数の欠陥画像それぞれに対して、当該欠陥画像の前記特徴量と、当該欠陥画像に付与されているものと同一及び異なる分類カテゴリに設定された特徴量の許容基準それぞれとの不一致度合いを算出する、カテゴリ不一致度算出部と、
前記教師データに含まれた前記複数の欠陥画像それぞれに対して、算出した前記不一致度合いが最小となる分類カテゴリを選出し、選出した当該分類カテゴリがユーザにより付与された前記分類カテゴリと一致せず、かつ前記不一致度合いが予め規定した基準値を超えていると判定されたものを、分類間違い画像として検出する分類間違い画像検出部を備えたことを特徴とする、自動欠陥分類装置。
【請求項2】
前記複数の欠陥画像および当該欠陥画像に付与された前記分類カテゴリを表示する表示部を備え、
前記表示部は、前記分類間違い画像のみを、他の前記複数の欠陥画像とは異なる形態で表示することを特徴とする、請求項1に記載の自動欠陥分類装置。
【請求項3】
前記表示部は、前記分類間違い画像のみを、特定領域に表示させる
ことを特徴とする、請求項2に記載の自動欠陥分類装置。
【請求項4】
前記表示部は、前記分類間違い画像に対して前記不一致度合いが予め規定した閾値より大きなものを選別して表示する
ことを特徴とする、請求項2又は請求項3に記載の自動欠陥分類装置。
【請求項5】
前記表示部は、前記分類間違い画像に対して、前記不一致度合いが最も少ない分類カテゴリを、再分類候補カテゴリとして表示する
ことを特徴とする、請求項2~4のいずれかに記載の自動欠陥分類装置。
【請求項6】
前記表示部は、前記分類間違い画像に付与されたものと同一及び異なる分類カテゴリとの不一致度合いを表示する
ことを特徴とする、請求項2~5のいずれかに記載の自動欠陥分類装置。
【請求項7】
前記表示部は、前記分類間違い画像に対して前記不一致度合いの大小に応じた色分け表示をすることを特徴とする、請求項2~6のいずれかに記載の自動欠陥分類装置。
【請求項8】
前記表示部は、前記分類間違い画像に対して前記分類カテゴリの変更を促す表示をすることを特徴とする、請求項2~7のいずれかに記載の自動欠陥分類装置。
【請求項9】
前記分類間違い画像に対して、ユーザによる前記分類カテゴリの変更を受け付ける、入力部を備えたことを特徴とする、請求項1~8のいずれかに記載の自動欠陥分類装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ユーザにより分類カテゴリが付与された複数の欠陥画像からなる教師データを用いて分類基準を作成し、当該分類基準に基づいて分類カテゴリが未知の欠陥画像に対して自動的に分類カテゴリを決定する、自動欠陥分類装置に関する。
【背景技術】
【0002】
例えば、半導体デバイスは、1枚の半導体ウエーハ上に多数の半導体デバイス回路(つまり、デバイスチップの繰り返し外観パターン)が層状に重なり合って形成された後、個々のチップ部品に個片化され、当該チップ部品がパッケージングされて、電子部品として単体で出荷されたり電気製品に組み込まれたりする。
【0003】
そして、個々のチップ部品が個片化される前に、1枚の半導体ウエーハを保持して成膜や露光・現像、エッチング、平滑化処理等が繰り返し行われ、その途中でウエーハ上に形成されたデバイスチップに対して欠陥検出や欠陥の種類の分類が行われている(例えば、特許文献1,2)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2007-071586号公報
【特許文献2】特開平11-344450号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
分類カテゴリが未知の欠陥画像に対して分類カテゴリを自動的に決定するために教師データを用いて分類基準が作成されるが、この教師データを構成する複数の欠陥画像は、ユーザにより分類カテゴリが付与されている。そのため、教師データにおいてユーザによる分類カテゴリの付与に誤りがあると、分類精度が低下する。
【0006】
一方、教師データを構成する複数の欠陥画像は、枚数が多いほど自動分類の精度が向上するが、目視による作業を伴うため枚数が多くなるにつれて間違いに気がつきにくくなるため、分類精度を向上させることが困難となる。
【0007】
先行文献2には、教師データに含まれる欠陥画像に付与された分類カテゴリ(つまり、ユーザが予め付与した分類カテゴリ)の修正に関する技術が開示されている。判別関数を算出、分類カテゴリの一致しない画像がユーザに提示される。分類精度を上げるためには、分類境界近傍に位置する教師画像もユーザによる確認が望ましいが、この手法では、分類境界近傍の分類カテゴリの一致する画像は表示されないため、分類精度を向上させることが困難であった。
【0008】
そこで本発明は、上記の問題点に鑑みてなされたものであり、
教師データを構成する欠陥画像が多くても、ユーザが付与した分類カテゴリに誤りを是正しやすくし、自動欠陥分類の精度を向上させることができる、自動欠陥分類装置を提供することを目的とする。
【課題を解決するための手段】
【0009】
以上の課題を解決するために、本発明に係る一態様は、
複数の欠陥画像それぞれに対して予めユーザにより分類カテゴリが付与された教師データを用いて、欠陥画像に対する分類器を生成し、当該分類器に基づいて分類カテゴリが未知の欠陥画像に対して自動的に分類カテゴリを付与する、自動欠陥分類装置において、
教師データを入力する教師データ入力部と、
複数の欠陥画像に対して所定の処理を行う処理部とを備え、
処理部は、
分類カテゴリが未知の欠陥画像に対する分類器が生成される前の段階で、教師データに含まれる複数の欠陥画像に付与された分類カテゴリを評価するための評価用分類器を生成する、教師データ評価用分類器生成部と、
評価用分類器に基づいて、教師データに含まれた複数の欠陥画像それぞれに対して特徴量の算出処理を行う特徴量算出部と、
教師データに含まれた複数の欠陥画像それぞれに対して、当該欠陥画像の特徴量と、当該欠陥画像に付与されているものと同一及び異なる分類カテゴリに設定された特徴量の許容基準それぞれとの不一致度合いを算出する、カテゴリ不一致度算出部と、
教師データに含まれた複数の欠陥画像それぞれに対して、算出した不一致度合いが最小となる分類カテゴリを選出し、選出した分類カテゴリがユーザにより付与された分類カテゴリと一致せず、かつ、不一致度合いが予め規定した基準値を超えていると判定されたものを分類間違い画像として検出する分類間違い画像検出部を備えたことを特徴としている。
【発明の効果】
【0010】
教師データを構成する欠陥画像が多くても、ユーザが付与した分類カテゴリの誤りを是正しやすくし、自動欠陥分類の精度を向上させることができる。
【図面の簡単な説明】
【0011】
【
図1】本発明を具現化する形態における欠陥画像の一例を示す画像図である。
【
図2】本発明を具現化する形態の一例の全体構成を示す概略図である。
【
図3】本発明を具現化する形態の一例の要部を示す概略図である。
【
図4】本発明を具現化する形態における表示部の一例を示す画像図である。
【
図5】本発明を具現化する形態の一例を示すフロー図である。
【
図6】本発明を具現化する別の形態における表示部の一例を示す画像図である。
【発明を実施するための形態】
【0012】
以下に、本発明を実施するための形態について、図を用いながら説明する。
【0013】
図1は、本発明を具現化する形態における欠陥画像Pnの一例を示す画像図である。
図1(a)~(d)には、欠陥X1~X4が含まれた欠陥画像P1~P4がそれぞれ例示されている。ここでは、欠陥X1~X4の分類カテゴリをそれぞれ、A欠陥,B欠陥,C欠陥,D欠陥とする。
一方、
図1(e)~(h)には、参考用として、欠陥のない画像P1’~P4’がそれぞれ例示されている。
【0014】
図2は、本発明に係る自動欠陥分類装置1を含む検査システム100の全体構成を示す概略図である。
【0015】
検査システム100は、検査対象Wを検査するための検査画像Pを撮像し、検査画像P内の欠陥Xの有無や個数、位置、欠陥種類等を検査し、検査結果を出力するものである。
具体的には、検査システム100は、自動欠陥分類装置1のほか、撮像部110、搬送部120、欠陥検出部140、制御部130等を含んで構成されている。
【0016】
搬送部110は、検査対象Wを保持しつつ、所定の速度で移動したり所定の場所で静止させたりするものである。具体的には、搬送部110は、検査対象Wを保持するワーク保持部や、検査対象Wを水平方向に移動・回転させるXYθステージ部等を備えている。
【0017】
撮像部120は、移動中または静止中の検査対象Wを撮像し、検査画像Pを出力するものである。具体的には、撮像部120は、鏡筒やレンズを備えた光学系本体部121、照明部122、撮像カメラ123を備えている。
【0018】
欠陥検出部130は、撮像部120から出力された検査画像Pを取得し、検査画像P内の欠陥Xを検出するものである。具体的には、欠陥検出部130は、検査画像P内に欠陥Xが含まれているかどうかを検査し、欠陥Xが含まれていれば、その欠陥Xの個数や位置、面積等の欠陥情報(つまり、検査結果)を付加して欠陥画像Pxを出力するように構成されている。
【0019】
制御部140は、検査システム100を統括して制御するものである。具体的には、制御部140は、自動欠陥分類装置1、搬送部110、撮像部120、欠陥検出部130等と接続されており、各部に対して制御信号を入出力して、所望の欠陥画像Pxを自動欠陥分類装置1に取得させるように構成されている。
【0020】
図3は、本発明を具現化する形態の一例の全体構成を示す概略図である。
図2には、本発明に係る自動欠陥分類装置1の概略図が示されている。
【0021】
自動欠陥分類装置1は、検査対象Wに潜む欠陥Xの種類を分類するものである。
具体的には、自動欠陥分類装置1は、検査システム100の欠陥検出部130から出力された欠陥画像Pxを取得し、複数の欠陥画像Pnそれぞれに対して予めユーザにより分類カテゴリが付与された教師データTを用いて、欠陥画像Pxを分類するための分類器を生成し、当該分類器に基づいて分類カテゴリが未知の欠陥画像Pxに対して自動的に分類カテゴリを付与するように構成されている。
より具体的には、自動欠陥分類装置1は、欠陥画像入力部GI、教師データ入力部2、操作入力部3、記憶部4、処理部5、表示部6、結果出力部7等を備えており、コンピュータ(ハードウェア)とその実行プログラム(ソフトウェア)等で構成されている。
【0022】
欠陥画像入力部GIは、欠陥画像Pxを入力するものである。
具体的には、欠陥画像入力部GIは、外部装置やホストコンピュータ等から出力された欠陥画像Pxのデータを取得するものである。
【0023】
教師データ入力部2は、教師データTを入力するものである。
具体的には、教師データ入力部2は、外部装置やホストコンピュータ等から出力された教師データTを取得するものである。
なお、教師データTには、複数の欠陥画像Pnと、これら欠陥画像Pnに含まれる欠陥Xの分類カテゴリとが、それぞれ紐付けて格納されている。
【0024】
操作入力部3は、ユーザによるカーソル(ポインタとも言う)操作や数値入力等を受け付けるものである。
具体的には、操作入力部3は、表示部6に表示された画像を選択したり、設定項目を選択・変更したり、数値を入力するものである。
なお、欠陥画像入力部GI、教師データ入力部2、操作入力部3は、コンピュータの入力部DIの一部で構成されている。
【0025】
記憶部4は、教師データTや欠陥画像Pn,Px、各処理に用いられるプログラム等を記憶するものである。
具体的には、記憶部4は、コンピュータのメモリーや補助記憶装置(SSD,HDDなど)で構成されている。
【0026】
処理部5は、複数の欠陥画像Pnや未知の欠陥画像Pxに対して所定の処理を行うものである。
具体的には、処理部5は、教師データ評価用分類器生成部51、特徴量算出部52、カテゴリ不一致度算出部53、分類間違い画像検出部54、自動欠陥分類器生成部57、欠陥カテゴリ分類部59等を備えており、コンピュータ(ハードウェア)とその実行プログラム(ソフトウェア)で構成されている。
【0027】
教師データ評価用分類器生成部51は、分類カテゴリが未知の欠陥画像Pxに対して分類カテゴリを付与するための自動欠陥分類器Baが生成される前の段階で、教師データTに含まれる複数の欠陥画像Pnに付与された分類カテゴリを評価するための評価用分類器Btを生成するものである。
具体的には、教師データ評価用分類器生成部51は、教師データTに基づく機械学習を行い、決定木等を含む評価用分類器Btの生成を行うものである。
より具体的には、教師データ評価用分類器生成部51は、複数の決定木を生成してこれらの予測結果を多数決等で決定するモデル(いわゆる、ランダムフォレスト)を含む評価用分類器Btを生成する。
【0028】
特徴量算出部52は、評価用分類器Btに基づいて、教師データTに含まれた複数の欠陥画像Pnそれぞれに対して特徴量の算出処理を行うものである。
具体的には、特徴量算出部52は、評価用分類器Bt内の決定木を予測結果の各分類カテゴリを通る特徴量の出現頻度を算出し、この出現頻度を正規化するなどして、分類カテゴリ毎の各特徴量の重みを計算する。そして、教師データTに含まれる複数の欠陥画像Pn全てを分類カテゴリ毎にグループ分けし、分けられた各分類カテゴリの画像群の特徴ベクトルから、分類カテゴリ毎に各特徴量の不一致度合いを判定するための許容基準(例えば、正常値の範囲)を算出し決定する。
なお、特徴量は、欠陥を判別・分類するために数値化されたもので、欠陥または欠陥候補に相当する画素領域の輝度値や色情報、背景との輝度差、長さ、幅、面積、周囲長、当該画素領域内の濃淡差等に関するデータ値である。
また、特徴ベクトルは、特徴量を成分とする多次元空間における1点として表示されるものであり、複数の特徴ベクトル点を多次元空間に表示した時、この点の距離が近いほど類似していることを示すものである。
【0029】
カテゴリ不一致度算出部53は、教師データTに含まれた複数の欠陥画像Pnそれぞれに対して、当該欠陥画像Pnの特徴量と、当該欠陥画像Pnに付与されているものと同一及び異なる分類カテゴリに設定された特徴量の許容基準それぞれとの不一致度合いを算出するものである。
具体的には、教師データTに含まれる複数の欠陥画像Pn全てについて、特徴量に基づいた特徴ベクトルを算出する。さらに、これら特徴ベクトルから、ユーザが分類した同一の分類カテゴリ毎に、特徴量の正常値の範囲を統計的に算出する。そして、カテゴリ不一致度算出部53は、教師データTに含まれる複数の欠陥画像Pn全てについて、ユーザが分類した同一の分類カテゴリ毎に、各欠陥画像Pnの特徴ベクトルの各特徴量成分が正常値の範囲に収まっているか否かを照合する(つまり、一致/不一致の判定をする)。そして、特徴量ベクトルの各特徴量成分に対して不一致と判定された特徴量を検出する。そして、分類カテゴリ毎に検出した不一致の特徴量に基づいて、適宜重み付けを加味等して、付与された分類カテゴリに対する不一致度合いを算出する。
【0030】
分類間違い画像検出部54は、複数の欠陥画像Pnそれぞれに対して、算出した不一致度合いが最小となる分類カテゴリを選出し、選出した分類カテゴリがユーザにより付与された分類カテゴリと一致せず、かつ不一致度合いが予め規定した基準値を超えていると判定されたものを、分類間違い画像Pwとして検出するものである。
具体的には、分類間違い画像検出部54は、教師データTに含まれる複数の欠陥画像Pn全てについて、カテゴリ不一致度算出部53で算出した不一致度合いが最小となる分類カテゴリを選出し、それがユーザにより付与された分類カテゴリと一致するかを判定する。そして、分類カテゴリが一致しないと判定された欠陥画像については、不一致度合いが予め規定した基準値(例えば、統計的処理で規定した閾値)を超えていると判定されたものを分類間違い画像Pwとして検出する。一方、不一致度合いが予め規定した基準値以下の場合、分類間違い画像Pwとして取り扱われない。なお、この基準値をゼロないし極めて低い値に設定しておくことで、分類カテゴリが一致しないと判定された欠陥画像の全てないし殆どが、分類間違い画像Pwとして検出される。一方、基準値を比較的大きな値に設定とすると、分類カテゴリが一致しないと判定された欠陥画像の一部ないし多くが、分類間違い画像Pwとして検出されなくなる。
【0031】
そして、処理部5は、分類間違い画像検出部54で検出された分類間違い画像Pwを、外部装置やホストコンピュータ等に出力したり、ユーザが視認できるように表示部6に表示させたりする。
【0032】
自動欠陥分類器生成部57は、欠陥画像Pxに対して分類カテゴリを付与するための自動欠陥分類器Baを生成するものである。
具体的には、自動欠陥分類器生成部57は、教師データ評価用分類器生成部51と同様の構成をしており、改善された教師データT’に基づいて機械学習が行われ、決定木等を含む自動欠陥分類器Baが生成される。
欠陥カテゴリ分類部59は、分類カテゴリが未知の欠陥画像Pxに対して分類カテゴリを付与するものである。
具体的には、欠陥カテゴリ分類部59は、自動欠陥分類器Baに基づいて、分類カテゴリが未知の欠陥画像Pxに対して分類カテゴリを付与するものである。
【0033】
表示部6は、複数の欠陥画像Pn、これら欠陥画像Pnに付与された分類カテゴリ、その他欠陥画像に関する情報、分類間違い画像Pw等を表示するものである。
具体的には、表示部6は、映像モニタやタッチパネル等(つまり、コンピュータの出力部DOの一部)で構成されている。より具体的には、表示部6は、上述の操作入力部3と組み合わせて、ユーザインターフェイスUを構成する。
【0034】
図4は、本発明を具現化する形態における表示部の一例を示す画像図である。
図4には、表示部6に表示される画像
図Gが例示されている。
【0035】
画像
図Gには、欠陥画像表示エリアG1、表示基準設定エリアG2、分類情報表示エリアG3、明るさ設定エリアG4、その他設定エリアG5等が含まれている。
【0036】
欠陥画像表示エリアG1は、複数の欠陥画像Pxとその欠陥画像Pxに付与された分類カテゴリとを表示するエリアである。
具体的には、欠陥画像表示エリアG1には、複数の欠陥画像Pxがマトリクス状(タイル状とも言う)に表示されており、その欠陥画像Pxの下に分類カテゴリが表示されている。さらに、欠陥画像表示エリアG1の右端には、複数の欠陥画像Pxを縦方向にスクロールさせる縦スクロールバーL11や上下移動ボタンB11,B12が設けられており、下端には、複数の欠陥画像Pxを横方向にスクロールさせる横スクロールバーL12や左右移動ボタンB13,B14が設けられており、欠陥画像表示エリアG1内に一度に表示しきれない(つまり、隠れている)他の欠陥画像Pxを確認できるように構成されている。
そして、分類間違い画像Pwについては、分類が正しい他の欠陥画像Pnと区別しやすいように、異なる形態で表示される。具体的には、分類間違い画像Pwの周りを点線Aで囲む表示をする(本例では、エリアG1中の左上、右下)。
【0037】
表示順序設定エリアG2は、欠陥画像表示エリアG1に表示させる欠陥画像Pxの順序を設定するエリアである。
具体的には、表示順序設定エリアG2は、予め登録された複数の表示順序(例えば、データリスト昇順、データリスト降順、カテゴリ昇順、カテゴリ降順、不一致度昇順、不一致度降順、・・・)の中から1つを選択して設定し、その方式が表示される。
なお、データリスト昇順/降順とは、欠陥画像Pnに付与された通し番号を基準にして昇順/降順に左上端から右側および下側にかけて整列させる方式である。
また、カテゴリ昇順/降順とは、欠陥画像Pnに付与された分類カテゴリを基準にして、昇順/降順に左上端から右側および下側にかけて整列させる方式である。
また、不一致度昇順/降順とは、欠陥画像Pnに付与された分類カテゴリの不一致度合いを基準にして、昇順/降順に左上端から右側および下側にかけて整列させる方式である。
例えば、表示基準設定エリアG2には、現在設定されている順序(本例では、データリスト昇順)が表示されているが、ボタンD21を押すと、他の表示順序がドロップダウン・リストとして表示される。そして、当該ドロップダウン・リスト内でカーソルCを移動・クリック等して表示したい順序(例えば、カテゴリ昇順)を選択することで、変更後の表示順序が表示され、欠陥画像表示エリアG1内の欠陥画像Pxがカテゴリ昇順に並べ替えられて表示される。
【0038】
分類情報表示エリアG3は、欠陥画像表示エリアG1に表示されている分類間違い画像Pwや欠陥画像PxのうちカーソルCを移動・クリック等して選択した画像(以下、選択画像と言う)に関する分類情報を表示するエリアである。具体的には、分類情報表示エリアG3には、MDC表示エリアG31、MDC候補表示エリアG32、不一致度合い表示エリアG33、分類変更先選択エリアG34、変更ボタンB33等が配置されている。
【0039】
MDC表示エリアG31は、選択画像について、ユーザが付与した分類カテゴリを表示するエリアである。例えば、MDC表示エリアG31には、A欠陥を示す「NG-A」が表示されている。
【0040】
MDC候補表示エリアG32は、選択画像に対する再分類候補カテゴリを表示するエリアである。具体的には、MDC候補表示エリアG32には、再分類候補カテゴリとして、不一致度合いが最も少ない分類カテゴリが表示される。
【0041】
不一致度合い表示エリアG33は、選択画像が各分類カテゴリ(NG-A,B,C,D,・・・)に分類された場合の不一致度合いを表示するエリアである。具体的には、不一致度合い表示エリアG33には、各分類カテゴリと不一致度合いが表形式で表示されている。
さらに不一致度合い表示エリアG33の右端には、複数の分類カテゴリを縦方向にスクロールさせる縦スクロールバーL31や上下移動ボタンB31,B32が設けられており、不一致度合い表示エリアG33内に一度に表示しきれない(つまり、隠れている)他の分類カテゴリと不一致度合いを確認できるように構成されている。
【0042】
分類カテゴリ変更先選択エリアG34は、選択画像に付与された分類カテゴリを変更する際に、どの分類カテゴリに変更するかを選択するためのエリアである。例えば、現在付与されている分類カテゴリ(本例では、NG-A)が表示されているが、ボタンD31を押すと、他の分類カテゴリ(NG-B,C,D,・・・)がドロップダウン・リストとして表示される。そして、当該ドロップダウン・リスト内でカーソルCを移動・クリック等して変更したい分類カテゴリ(例えば、NG-C)を選択することで、変更先の分類カテゴリが表示される(ただし、この時点で教師データTは未だ変更されていない)。
【0043】
変更ボタンB33は、変更を決定するためのスイッチボタンである。変更ボタンB33を押すことで、分類カテゴリ変更先選択エリアG34に表示されている分類カテゴリが、選択画像の分類カテゴリとして教師データTが変更される。
【0044】
明るさ設定エリアG4は、欠陥画像表示エリアG1に表示されている分類間違い画像Pwや欠陥画像Pxの明るさを変更・設定するためのエリアである。具体的には、明るさ設定エリアG4には、明るさ設定値表示エリアG41やスライドスイッチL41が配置されている。
明るさ設定値表示エリアG41には、現在の明るさ設定値が表示されている。
スライドスイッチL41は、明るさ設定値を変更するものである。スライドスイッチL41にカーソルCを合わせて、ドラッグ操作して左右に移動させることで、現在の明るさ設定値が変更され、欠陥画像表示エリアG1に表示されている分類間違い画像Pwや欠陥画像Pxの明るさが変更される。
【0045】
その他設定エリアG5は、上述の項目以外の設定や種々の操作指示等をするためのエリアである。
その他設定エリアG5には、分類間違い基準設定エリアG51や判定ボタンB51、表示項目切替ボタンB52、警告表示クリアボタンB53が配置されている。
【0046】
分類間違い基準設定エリアG51は、分類間違い画像Pwを検出するための、間違い判定方式を表示・設定するエリアである。
具体的には、分類間違い基準設定エリアG51は、予め登録された複数のMDC間違い判定方式(例えば、平均±3σ、平均±2σ、平均±σ、・・・)の中から1つを選択して設定し、その方式が表示される。例えば、分類間違い基準設定エリアG51には、現在設定されているMDC間違い判定方式(本例では、平均±3σ)が表示されているが、ボタンD51を押すと、他の判定方式(平均±2σ,平均±σ,・・・)がドロップダウン・リストとして表示される。そして、当該ドロップダウン・リスト内でカーソルCを移動・クリック等して変更したい判定方式(例えば、平均±2σ)を選択することで、変更後の判定方式が表示される(ただし、この時点では再判定されていない)。
【0047】
判定ボタンB51は、変更した判定方式でもう一度判定を行うためのスイッチボタンである。判定ボタンB51を押すことで、分類間違い基準設定エリアG51に表示されている判定方式に基づいて、分類間違い画像Pwが検出され、欠陥画像表示エリアG1に表示される。
【0048】
表示項目切替ボタンB52は、欠陥画像表示エリアG1に分類間違い画像Pwのみを表示させるか、分類間違い画像Pwと欠陥画像Pxの双方を表示させるかを切り替えるスイッチボタンである。例えば、表示項目切替ボタンB52は、押すたびにON/OFFの状態が切り替わると共に、略V字状(レ点とも言う)や白黒反転等のチェックマークの表示/非表示が切り替わるスイッチボタンである。具体的には、表示項目切替ボタンB52がONの時には分類間違い画像Pwのみが表示され、表示項目切替ボタンB52がOFFの時には、分類間違い画像Pwと欠陥画像Pxの双方が表示される。
【0049】
警告表示クリアボタンB53は、分類間違い画像Pwの周りを囲む点線Aの表示を非表示にするものである。具体的には、警告表示クリアボタンB53を押すことで、すべての点線Aが消去される。
【0050】
結果出力部ROは、分類結果を出力するものである。
具体的には、欠陥画像入力部GIで取得した分類カテゴリが未知の欠陥画像Pxに対して、自動欠陥分類器Baに基づいて自動的に付与された分類カテゴリ(つまり、分類結果)を、外部装置やホストコンピュータ等に出力するものである。
より具体的には、結果出力部ROは、コンピュータの出力部DOの一部で構成されている。
【0051】
[処理フロー]
図5は、本発明を具現化する形態の一例を示すフロー図である。
図5には、本発明に係る自動欠陥分類装置1を用いて、教師データTに潜んでいるユーザが付与した分類カテゴリの誤りを是正し、自動欠陥分類の精度を向上させるフローが示されている。
【0052】
先ず、外部装置やホストコンピュータ等から出力された教師データTを、教師データ入力部2から入力する(ステップs1)。具体的には、ユーザの指示に基づき、教師データTが外部装置やホストコンピュータ等から出力される。
【0053】
次に、教師データ評価用分類器生成部51で、教師データTに基づいて評価用分類器Btを生成する(ステップs2)。具体的には、ユーザがいずれかの画面等に表示された「実行」ボタン等を押すことで、現在の教師データTに基づく機械学習が開始され、評価用分類器Btの生成処理が行われる。
【0054】
次に、特徴量算出部52で、評価用分類器Btに基づいて、教師データTに含まれた複数の欠陥画像Pnそれぞれに対して特徴量の算出処理を行う(ステップs3)。
【0055】
次に、カテゴリ不一致度算出部53で、教師データTに含まれた複数の欠陥画像Pnそれぞれに対して、欠陥画像Pnの特徴量と、欠陥画像Pnに付与されているものと同一及び異なる分類カテゴリに設定された特徴量の許容基準それぞれとの不一致度合いを算出する(ステップs4)。
【0056】
次に、分類間違い画像検出部54で、複数の欠陥画像Pnそれぞれに対して、算出した不一致度合いが最小となる分類カテゴリを選出し、選出した分類カテゴリがユーザにより付与された分類カテゴリと一致せず、かつ不一致度合いが予め規定した基準値を超えていると判定されたものを分類間違い画像Pwとして検出する(ステップs5)。
【0057】
次に、表示部6に、分類間違い画像Pwに対して、分類が正しい他の欠陥画像Pnと区別しやすいように、異なる形態で表示させる(ステップs6)。例えば、上述の画像
図Gの様に、欠陥画像表示エリアG1中にて、分類間違い画像Pwの周りを点線Aで囲む表示をする。
【0058】
この後、ユーザにより分類間違い画像Pwの確認作業を行い、教師データTに含まれる分類カテゴリの変更(つまり、修正)が必要かどうか判断する(ステップs7)。
【0059】
必要に応じて、1つまたは複数の分類間違い画像Pwに対して、分類カテゴリの変更が行われる(ステップs8)、教師データTに対する改善が行われる。
【0060】
この後、教師データ評価用分類器生成部51にて、改善された教師データT’に基づく機械学習(再学習)を行い評価用分類器Btの再生成をするかどうかを判断する(ステップs9)。再学習が必要であれば、上述のステップs2~s9を繰り返し、再学習が必要なければ、一連のフローを終了する。
【0061】
この後、自動欠陥分類器生成部57を用いて、最新状態の(つまり、改善された)教師データT’に基づいて機械学習が行われ、自動欠陥分類器Baが生成される。その後、本発明に係る自動欠陥分類装置1では、欠陥カテゴリ分類部59にて自動欠陥分類器Baを用いて、分類カテゴリが未知の欠陥画像Pxに対する分類カテゴリの付与が行われる。
【0062】
本発明に係る自動欠陥分類装置1は、このような構成をしているため、教師データTを構成する欠陥画像Pnが多くても、ユーザが付与した分類カテゴリの誤りを是正しやすくし、自動欠陥分類の精度を向上させることができる。
【0063】
[変形例]
なお上述では、欠陥画像表示エリアG1に他の分類カテゴリが正しい他の欠陥画像Pnと共に、分類間違い画像Pwを表示させる構成を例示した。
しかし、分類間違い画像Pwのみを、特定領域G6に表示させる構成であっても良い。
【0064】
図6は、本発明を具現化する別の形態における表示部の一例を示す画像図である。
図6には、表示部6に表示される画像
図G2が例示されている。画像
図G2には、画面左上の特定領域G6が設定されている。
【0065】
特定領域G6は、分類間違い画像Pwのみを表示するエリアである。
具体的には、上述のフロー中のステップs5で分類間違い画像Pwと判定された画像を、特定領域G6に表示する(本例では、ステップs6に相当)。
【0066】
なお、画像
図G2には、画面左側の中央ないし下側に、欠陥画像表示エリアG1が設定されており、画面右側には、表示基準設定エリアG2、分類情報表示エリアG3、明るさ設定エリアG4、その他設定エリアG5等が表示されている。欠陥画像表示エリアG1~その他設定エリアG5の内容については、上述した画像
図G1に含まれるものと同様であるため、詳細な説明は省略する。
【0067】
このような構成とすることで、欠陥画像表示エリアG1内に多数ある欠陥画像Pnの中から表示形態の異なる分類間違い画像Pwを探す必要がなくなり、特定領域G6に意識を集中して確認作業をすれば良いので、ユーザの負担や作業時間が減り、好ましい。
【0068】
なお上述では、分類間違い画像検出部54にて、分類カテゴリが一致しないと判定された欠陥画像については、不一致度合いが予め規定した基準値を超えていると判定されたものを分類間違い画像Pwとして検出し、表示部6に表示する構成を示した。しかし、本発明を具現化する上で、分類間違い画像Pwを全て表示する構成に限らず、分類間違い画像に対して不一致度合いが予め規定した閾値より大きなものを選別して表示する構成としても良い。具体的には、閾値を予め登録しておいたり、ユーザが入力したりする構成とし、不一致度合いが閾値を超えた分類間違い画像Pwのみを、欠陥画像表示エリアG1に表示する。そうすることで、ユーザが付与した分類カテゴリの誤りが高いもの(つまり、自動分類の結果に影響を及ぼす可能性が高いもの)を重点的に確認・修正することができ、短時間で分類精度を向上させることができるため、好ましい。
【0069】
なお上述では、分類間違い画像Pwに対して、分類情報表示エリアG3のMDC候補表示エリアG32に、不一致度合いが最も少ない分類カテゴリを、再分類候補カテゴリとして表示する構成を例示した。この様な構成であれば、ユーザが正しいと思われる分類カテゴリを設定するために迷う時間を削減したり、別の誤った分類カテゴリを付与してしまうことを防止できるため、好ましい。
しかし、この様な構成は、本発明を具現化する上で必須では無く、省略されても良い。
【0070】
なお上述では、不一致度合い表示エリアG33に、分類間違い画像に付与されたものと同一及び異なる分類カテゴリとの不一致度合いを表示する構成を例示した。このような構成であれば、ユーザが付与した分類カテゴリと他の分類カテゴリの不一致度合いを見比べながら確認・修正ができるので、分類カテゴリを変更する/しないの判断の助けになるため、好ましい。
しかし、この様な不一致度合いの表示は、本発明を具現化する上で必須の構成では無く、省略されても良い。
【0071】
なお上述では、分類カテゴリが正しい他の欠陥画像Pnと区別しやすいように、異なる形態で表示される構成として、欠陥画像表示エリアG1に表示される分類間違い画像Pwの周りを点線Aで囲む表示を例示した。このような構成であれば、ユーザが分類間違い画像Pwを比較的短時間で直感的に見つけることができるため、好ましい。
しかし、点線Aで囲む表示に限らず、欠陥画像Pnの背景や欠陥画像表示エリアG1に用いられる色とは異なる色ないし識別のしやすい色(例えば、赤色や黄色など)で、分類間違い画像Pwを囲むような表示をしても良い。分類間違い画像Pwやその分類カテゴリを表示している領域の一部に、丸印や星印等のマークを表示させても良い。そうすることで、ユーザが分類間違い画像Pwを比較的短時間で直感的に見つけることができ、好ましい。
【0072】
また、分類間違い画像Pwに対して、画一的な表示をさせるだけでなく、分類カテゴリの不一致度合いの大小に応じた色分け表示をする構成であっても良い。具体的には、不一致度合いの高いものを赤色、不一致度合いが中程度のものを黄色、不一致度合いが低いものを緑色等のユーザが注目しやすい色で表示しても良い。或いは、不一致度合いの大小に応じて、点線の太さを変えて表示する構成であっても良い。
さらに、分類間違い画像Pwに対して、上述の点線Aや色付き枠を点滅表示させるなどして、ユーザに注目させ、分類間違い画像Pwに対して分類カテゴリの変更を促す表示をしても良い。そうすることで、分類間違い画像Pwの見落としを削減することができ、分類精度の向上につながるため、好ましい。
【0073】
なお上述では、複数の欠陥画像Pnおよび欠陥画像Pnに付与された分類カテゴリを表示する表示部6を備え、表示部6は、分類間違い画像Pwのみを、他の複数の欠陥画像Pnとは異なる形態で表示する構成を例示した。このような構成であれば、ユーザが自ら分類間違い画像Pwに付与された分類カテゴリや付加情報等を確認しながら修正する/しないの判断ができるため、好ましい。
しかし、表示部6は、本発明を具現化する上で必須の構成では無く、省略されても良い。
【0074】
なお上述では、分類間違い画像に対して、ユーザによる分類カテゴリの変更を受け付ける、入力部(本例では、操作入力部3)を備えた構成を例示した。このような構成であれば、ユーザが自ら分類間違い画像Pwに付与された分類カテゴリや付加情報等を確認しながら修正する/しないの判断ができるため、好ましい。
しかし、この様な入力部は、本発明を具現化する上で必須の構成では無く、省略されても良い。
【0075】
なお上述では、明るさ設定エリアG4は、欠陥画像表示エリアG1に表示されている分類間違い画像Pwや欠陥画像Pxの明るさを変更する構成を例示した。
しかし、この様な構成に限らず、これら画像のコントラストや色相等を変更させる構成であっても良い。
【0076】
なお上述では、その他設定エリアG5の警告表示クリアボタンB53を押すことで、欠陥画像表示エリアG1に表示された、分類間違い画像Pwの周りを囲む点線Aの表示を非表示にする(消去する)構成を例示した。
しかし、この様な構成に限らず、警告表示クリアボタンB53を押している間またはもう一度押すまで、点線Aが一時的に非表示となる構成であっても良い。
【0077】
なお上述では、教師データ入力部3は、教師データTを外部装置やホストコンピュータ等から取得(つまり、一括入力)する構成を例示した。しかし、分類カテゴリが未知の(つまり、分類カテゴリが付与されていない)欠陥画像Pnを1つずつ確認しながら、ユーザが欠陥カテゴリを付与(つまり、新規に手入力)する構成であっても良い。
【0078】
なお上述では、処理部5に欠陥カテゴリ分類部59を備えた構成を例示したが、検査システム100の欠陥検出部130に内蔵ないし隣接して備えられた構成であっても良い。
【0079】
なお上述では、自動欠陥分類器Baを生成する自動欠陥分類器生成部57が、評価用分類器Btを生成する教師データ評価用分類器生成部51とは別に備えられた構成を例示したが、これらは共通のプログラム処理等で構成されていても良い。或いは、教師データ評価用分類器生成部51を自動欠陥分類器生成部57として代用し、最後に生成された評価用分類器Btを自動欠陥分類器Baとして取り扱う構成であっても良い。
【符号の説明】
【0080】
1 自動欠陥分類装置
DI 入力部
GI 欠陥画像入力部
2 教師データ入力部
3 操作入力部
4 記憶部
5 処理部
6 表示部
DO 出力部
RO 結果出力部
51 教師データ評価用分類器生成部
52 特徴量算出部
53 カテゴリ不一致度算出部
54 分類間違い画像検出部
57 自動欠陥分類器生成部
59 欠陥カテゴリ分類部
G1 欠陥画像表示エリア
G2 表示順序設定エリア
G3 分類情報表示エリア
G4 明るさ設定エリア
G5 その他設定エリア
G6 特定領域
P 検査画像
Pn 欠陥画像(分類カテゴリが付与済)
Px 欠陥画像(分類カテゴリが未知)
Pw 分類間違い画像
T 教師データ(改善前)
T’ 教師データ(改善後)
Ba 自動欠陥分類器
Bt 評価用分類器
X 欠陥
W 検査対象
A 点線(注目表示)
C カーソル
100 検査システム
110 撮像部
120 搬送部
130 欠陥検出部
140 制御部