(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023147373
(43)【公開日】2023-10-13
(54)【発明の名称】自動欠陥分類装置
(51)【国際特許分類】
G01N 21/88 20060101AFI20231005BHJP
【FI】
G01N21/88 J
【審査請求】未請求
【請求項の数】3
【出願形態】OL
(21)【出願番号】P 2022054831
(22)【出願日】2022-03-30
(71)【出願人】
【識別番号】000219314
【氏名又は名称】東レエンジニアリング株式会社
(71)【出願人】
【識別番号】301014904
【氏名又は名称】東レエンジニアリング先端半導体MIテクノロジー株式会社
(72)【発明者】
【氏名】坪井 辰彦
【テーマコード(参考)】
2G051
【Fターム(参考)】
2G051AB02
2G051AC11
2G051CA04
2G051EB05
2G051EC01
2G051ED08
2G051FA02
(57)【要約】
【課題】 教師データを構成する欠陥画像が多くても、予めユーザが付与した分類カテゴリの誤りを是正しやすくし、自動欠陥分類の精度を向上させることができる、自動欠陥分類装置を提供すること。
【解決手段】 複数の欠陥画像それぞれに対して予めユーザにより当該欠陥画像がどの欠陥分類に属するかを明示する分類カテゴリが付与された教師データを用いて、欠陥画像に対する分類器を生成し、当該分類器を用いて分類カテゴリが未知の欠陥画像に対して自動的に分類カテゴリを付与する、自動欠陥分類装置において、
教師データを入力する教師データ入力部と、
複数の欠陥画像に対して所定の処理を行う処理部と、
欠陥画像を表示する表示部を備え、
処理部は、表示部における欠陥画像の欠陥部位の表示形式を、分類器が付与した当該欠陥画像の属する分類カテゴリに応じて変更して表示させる。
【選択図】
図1
【特許請求の範囲】
【請求項1】
複数の欠陥画像それぞれに対して予めユーザにより当該欠陥画像がどの欠陥分類に属するかを明示する分類カテゴリが付与された教師データを用いて、欠陥画像に対する分類器を生成し、当該分類器を用いて分類カテゴリが未知の欠陥画像に対して自動的に分類カテゴリを付与する、自動欠陥分類装置において、
前記教師データを入力する教師データ入力部と、
前記複数の欠陥画像に対して所定の処理を行う処理部と、
前記欠陥画像を表示する表示部を備え、
前記処理部は、前記表示部における前記欠陥画像の欠陥部位の表示形式を、前記分類器が付与した当該欠陥画像の属する前記分類カテゴリに応じて変更して表示させる
ことを特徴とする、自動欠陥分類装置。
【請求項2】
複数の欠陥画像それぞれに対して予めユーザにより当該欠陥画像がどの欠陥分類に属するかを明示する分類カテゴリが付与された教師データを用いて、欠陥画像に対する分類器を生成し、当該分類器を用いて分類カテゴリが未知の欠陥画像に対して自動的に分類カテゴリを付与する、自動欠陥分類装置において、
前記教師データを入力する教師データ入力部と、
前記複数の欠陥画像に対して所定の処理を行う処理部と、
前記欠陥画像を表示する表示部を備え、
前記処理部は、前記表示部における前記欠陥画像の欠陥部位の表示形式を、前記分類器が付与した当該欠陥画像の属する前記分類カテゴリの分類確度に応じて変更して表示させる
ことを特徴とする、自動欠陥分類装置。
【請求項3】
前記処理部は、
前記分類カテゴリが同一のカテゴリに分類された複数の前記欠陥画像のうち選択された一の画像を前記表示部に表示させる単一画像表示モードと、
前記分類カテゴリが同一のカテゴリに分類された複数の前記欠陥画像をマトリクス状に並べて前記表示部に表示させる画像一覧表示モードとを備え、
前記画像一覧表示モードにおいてユーザが選択した任意の欠陥画像を、前記単一画像表示モードで表示させる
ことを特徴とする、請求光1または請求項2に記載の自動欠陥分類装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ユーザにより分類カテゴリが付与された複数の欠陥画像からなる教師データを用いて分類基準を作成し、当該分類基準に基づいて分類カテゴリが未知の欠陥画像に対して自動的に分類カテゴリを決定する、自動欠陥分類装置に関する。
【背景技術】
【0002】
例えば、半導体デバイスは、1枚の半導体ウエーハ上に多数の半導体デバイス回路(つまり、デバイスチップの繰り返し外観パターン)が層状に重なり合って形成された後、個々のチップ部品に個片化され、当該チップ部品がパッケージングされて、電子部品として単体で出荷されたり電気製品に組み込まれたりする。
【0003】
そして、個々のチップ部品が個片化される前に、1枚の半導体ウエーハを保持して成膜や露光・現像、エッチング、平滑化処理等が繰り返し行われ、その途中でウエーハ上に形成されたデバイスチップに対して欠陥検出や欠陥の種類の分類が行われている(例えば、特許文献1)。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
分類カテゴリが未知の欠陥画像に対して分類カテゴリを自動的に決定するために教師データを用いて分類基準が作成されるが、この教師データを構成する複数の欠陥画像は、ユーザにより分類カテゴリが付与されている。そのため、教師データにおいてユーザによる分類カテゴリの付与に誤りがあると、分類精度が低下する。
【0006】
一方、教師データを構成する複数の欠陥画像は、枚数が多いほど自動分類の精度が向上するが、目視による作業を伴うため枚数が多くなるにつれて間違いに気がつきにくくなるため、分類精度を向上させることが困難であった。
【0007】
そこで本発明は、上記の問題点に鑑みてなされたものであり、
教師データを構成する欠陥画像が多くても、予めユーザが付与した分類カテゴリの誤りを是正しやすくし、自動欠陥分類の精度を向上させることができる、自動欠陥分類装置を提供することを目的とする。
【課題を解決するための手段】
【0008】
以上の課題を解決するために、本発明に係る一態様は、
複数の欠陥画像それぞれに対して予めユーザにより当該欠陥画像がどの欠陥分類に属するかを明示する分類カテゴリが付与された教師データを用いて、欠陥画像に対する分類器を生成し、当該分類器を用いて分類カテゴリが未知の欠陥画像に対して自動的に分類カテゴリを付与する、自動欠陥分類装置において、
教師データを入力する教師データ入力部と、
複数の欠陥画像に対して所定の処理を行う処理部と、
欠陥画像を表示する表示部を備え、
処理部は、表示部における欠陥画像の欠陥部位の表示形式を、分類器が付与した当該欠陥画像の属する分類カテゴリに応じて変更して表示させる。
【0009】
また、上述の課題を解決するために、本発明に係る別の一態様は、
複数の欠陥画像それぞれに対して予めユーザにより当該欠陥画像がどの欠陥分類に属するかを明示する分類カテゴリが付与された教師データを用いて、欠陥画像に対する分類器を生成し、当該分類器を用いて分類カテゴリが未知の欠陥画像に対して自動的に分類カテゴリを付与する、自動欠陥分類装置において、
教師データを入力する教師データ入力部と、
複数の欠陥画像に対して所定の処理を行う処理部と、
欠陥画像を表示する表示部を備え、
処理部は、表示部における欠陥画像の欠陥部位の表示形式を、分類器が付与した当該欠陥画像の属する分類カテゴリの分類確度に応じて変更して表示させる。
【発明の効果】
【0010】
教師データを構成する欠陥画像が多くても、予めユーザが付与した分類カテゴリの誤りを是正しやすくし、自動欠陥分類の精度を向上させることができる。
【図面の簡単な説明】
【0011】
【
図1】本発明を具現化する形態における欠陥画像の一例を示す画像図である。
【
図2】本発明を具現化する形態の一例を含む全体構成を示す概略図である。
【
図3】本発明を具現化する形態の一例の要部を示す概略図である。
【
図4】本発明を具現化する形態における表示部の一例を示す画像図である。
【
図5】本発明を具現化する形態の一例を示すフロー図である。
【
図6】本発明を具現化する形態における表示部の一例を示す画像図である。
【
図7】本発明を具現化する形態における表示部の一例を示す画像図である。
【
図8】本発明を具現化する形態における別の一例を示す画像図である。
【発明を実施するための形態】
【0012】
以下に、本発明を実施するための形態について、図を用いながら説明する。
【0013】
図1は、本発明を具現化する形態における欠陥画像の一例を示す画像図である。
図1(a)~(d)には、欠陥X1~X4が含まれた欠陥画像P1~P4がそれぞれ例示されている。ここでは、欠陥X1~X4の分類カテゴリをそれぞれ、A欠陥,B欠陥,C欠陥,D欠陥とする。
一方、
図1(e)~(h)には、参考用として、欠陥のない画像P1’~P4’がそれぞれ例示されている。
【0014】
図2は、本発明を具現化する形態の一例を含む全体構成を示す概略図である。
図2には、本発明に係る自動欠陥分類装置1を含む検査システム100の全体構成が示されている。
【0015】
検査システム100は、検査対象Wを検査するための検査画像Pを撮像し、検査画像P内の欠陥Xの有無や個数、位置、欠陥種類等を検査し、検査結果を出力するものである。
具体的には、検査システム100は、自動欠陥分類装置1のほか、撮像部110、搬送部120、欠陥検出部130、制御部140等を含んで構成されている。
【0016】
搬送部110は、検査対象Wを保持しつつ、所定の速度で移動したり所定の場所で静止させたりするものである。
具体的には、搬送部110は、検査対象Wを保持するワーク保持部や、検査対象Wを水平方向に移動・回転させるXYθステージ部等を備えている。
【0017】
撮像部120は、移動中または静止中の検査対象Wを撮像し、検査画像Pを出力するものである。
具体的には、撮像部120は、鏡筒やレンズを備えた光学系本体部121、照明部122、撮像カメラ123を備えている。
より具体的には、撮像部120は、低倍率レンズにて広い視野範囲を白黒カメラ等で撮像するものや、高倍率レンズにて狭い視野範囲をカラーカメラ等で撮像するものが例示できる。
【0018】
欠陥検出部130は、撮像部120から出力された検査画像Pを取得し、検査画像P内の欠陥Xを検出するものである。
具体的には、欠陥検出部130は、検査画像P内に欠陥Xが含まれているかどうかを検査し、欠陥Xが含まれていれば、欠陥画像Pxにその欠陥Xの個数や位置、面積等の欠陥情報(つまり、検査結果)を付加して出力するように構成されている。なお、欠陥検出部130は、詳細を後述する学習用の欠陥画像Ptを出力することもできる。
より具体的には、欠陥検出部130は、低倍率レンズで撮像した白黒画像等に基づいて検査するものや、高倍率レンズで撮像したカラー画像等に基づいて検査するものが例示できる。
【0019】
制御部140は、検査システム100を統括して制御するものである。具体的には、制御部140は、自動欠陥分類装置1、搬送部110、撮像部120、欠陥検出部130等と接続されており、各部に対して制御信号を入出力して、所望の欠陥画像Pxを自動欠陥分類装置1に取得させるように構成されている。
【0020】
図3は、本発明を具現化する形態の一例の要部を示す概略図である。
図3には、本発明に係る自動欠陥分類装置1の概略図が示されている。
【0021】
自動欠陥分類装置1は、検査対象Wにある欠陥Xの種類を分類するものである。
具体的には、自動欠陥分類装置1は、教師データTを用いて、欠陥画像に対する分類器を生成し、当該分類器を用いて分類カテゴリが未知の欠陥画像Pxに対して自動的に分類カテゴリを付与するものである。教師データTは、予め取得した複数の学習用の欠陥画像Pt(いわゆる、学習用画像)それぞれに対して予めユーザによりこれら欠陥画像Ptがどの欠陥分類に属するかを明示する分類カテゴリが付与されたものである。
より具体的には、自動欠陥分類装置1は、欠陥画像入力部GI、教師データ入力部2、操作入力部3、記憶部4、処理部5、表示部6、結果出力部RO等を備えており、コンピュータ(ハードウェア)とその実行プログラム(ソフトウェア)等で構成されており、
欠陥検出部130で検出された欠陥画像Pxにある欠陥Xの種類を判別し、分類カテゴリを付与する。
【0022】
欠陥画像入力部GIは、欠陥画像Pxを入力するものである。
具体的には、欠陥画像入力部GIは、欠陥検出部130から出力された等から出力された欠陥画像Pxを取得するものである。なお、欠陥画像入力部GIは、欠陥検出部130から出力された等から出力された、追加の学習用の欠陥画像Ptを取得することもできる。
【0023】
教師データ入力部2は、教師データTを入力するものである。
具体的には、教師データ入力部2は、外部装置やホストコンピュータ等から出力された教師データTを取得するものである。より具体的には、教師データ入力部2は、記録媒体や通信回線等を介して、教師データTを取得する。
なお、教師データTには、複数の欠陥画像Ptと、これら欠陥画像Ptに含まれる欠陥Xの分類カテゴリとが、それぞれ紐付けて格納されている。
【0024】
操作入力部3は、ユーザによるカーソル(ポインタとも言う)操作や数値入力等を受け付けるものである。
具体的には、操作入力部3は、表示部6に表示された画像を選択したり、設定項目を選択・変更したり、数値を入力するものである。
なお、欠陥画像入力部GI、教師データ入力部2、操作入力部3は、コンピュータの入力部DIの一部で構成されている。
【0025】
記憶部4は、教師データTや欠陥画像Pt,Px、各処理に用いられるプログラム等を記憶するものである。
具体的には、記憶部4は、コンピュータのメモリーや補助記憶装置(SSD,HDDなど)で構成されている。
【0026】
処理部5は、複数の欠陥画像Ptや未知の欠陥画像Pxに対して所定の処理を行うものである。さらに、処理部5は、表示部6における欠陥画像Ptの欠陥部位Qの表示形式を、変更して表示させるものである。
具体的には、処理部5は、予め登録された所定の手順やユーザによる操作(一例を下述する)等に基づいて、表示部6における欠陥画像Ptの欠陥部位Qの表示形式を、評価用の分類器Btが付与した欠陥画像の属する前記分類カテゴリに応じて変更して表示させるように構成されている。
より具体的には、処理部5は、教師データ評価用分類器生成部51、特徴量算出部52、分類確度算出部53、分類カテゴリ判定部54、欠陥部位表示変更部55、自動欠陥分類器生成部57、欠陥カテゴリ分類部59等を備えており、コンピュータ(ハードウェア)とその実行プログラム(ソフトウェア)で構成されている。
【0027】
教師データ評価用分類器生成部51は、分類カテゴリが未知の欠陥画像Pxに対して分類カテゴリを付与するための自動欠陥分類器Baが生成される前の段階で、教師データTに含まれる複数の欠陥画像Ptに付与された分類カテゴリを評価するための評価用の分類器Btを生成するものである。
具体的には、教師データ評価用分類器生成部51は、教師データTに基づく機械学習を行い、決定木等を含む評価用の分類器Btの生成を行うものである。
より具体的には、教師データ評価用分類器生成部51は、複数の決定木を生成してこれらの予測結果を多数決等で決定するモデル(いわゆる、ランダムフォレスト)を含む評価用の分類器Btを生成する。
【0028】
特徴量算出部52は、評価用の分類器Btに基づいて、教師データTに含まれた複数の欠陥画像Ptそれぞれに対して特徴量の算出処理を行うものである。
具体的には、特徴量算出部52は、教師データ評価用分類器生成部51で生成された評価用の分類器Bt内の決定木を予測結果の各分類カテゴリを通る特徴量の出現頻度を算出し、この出現頻度を正規化するなどして、分類カテゴリ毎の各特徴量の重みを計算する。そして、教師データTに含まれる複数の欠陥画像Pt全てを分類カテゴリ毎にグループ分けし、分けられた各分類カテゴリの画像群の特徴ベクトルから、分類カテゴリ毎に各特徴量の一致度合い(つまり、分類確度)を判定するための許容基準(例えば、正常値の範囲)を算出し決定する。
【0029】
分類確度算出部53は、教師データTに含まれた複数の欠陥画像Ptそれぞれに対して、欠陥画像Ptの特徴量と、欠陥画像Ptに付与されているものと同一及び異なる分類カテゴリに設定された特徴量の許容基準それぞれとの一致度合い(つまり、分類確度)を算出するものである。
具体的には、分類確度算出部53は、特徴量算出部52で算出された欠陥画像Ptそれぞれの特徴量に基づいて、ユーザが分類した同一の分類カテゴリ毎に、各欠陥画像Ptの特徴ベクトルの各特徴量成分が正常値の範囲に収まっているか否か等を統計的な処理等を行い、分類確度として算出する。
【0030】
分類カテゴリ判定部54は、評価用の分類器Btが付与した欠陥画像Ptの属する分類カテゴリを判定するものである。
具体的には、分類カテゴリ判定部54は、分類確度算出部53で算出した分類確度に基づいて、欠陥画像Ptがどの分類カテゴリに属するのが妥当か、欠陥画像Ptそれぞれに対して判定する。
【0031】
欠陥部位表示変更部55は、欠陥画像Ptの欠陥部位Qの表示形式を変更するものである。
具体的には、欠陥部位表示変更部55は、欠陥画像Ptに対して予め設定されたパラメータや手順に基づいて画像処理を行い、欠陥画像Ptの属する分類カテゴリ毎に欠陥部位Qの表示形式を変更する処理を行う。
例えば、欠陥画像Ptの属する分類カテゴリがA欠陥であれば、欠陥部位Qを「緑色」に変更し、B欠陥であれば「黄色」に変更し、C欠陥であれば「赤色」に変更する。
なお、どの欠陥を何色に変更して表示するかは、ユーザが予め設定しておき、適宜変更できるようにしておく。
【0032】
自動欠陥分類器生成部57は、欠陥画像Pxに対して分類カテゴリを付与するための自動欠陥分類器Baを生成するものである。
具体的には、自動欠陥分類器生成部57は、教師データ評価用分類器生成部51と同様の構成をしており、改善された教師データT’に基づいて機械学習が行われ、決定木等を含む自動欠陥分類器Baが生成される。
【0033】
欠陥カテゴリ分類部59は、分類カテゴリが未知の欠陥画像Pxに対して分類カテゴリを付与するものである。
具体的には、欠陥カテゴリ分類部59は、自動欠陥分類器Baに基づいて、分類カテゴリが未知の欠陥画像Pxに対して分類カテゴリを付与するものである。
【0034】
表示部6は、複数の欠陥画像Pt、これら欠陥画像Ptに付与された分類カテゴリ、その他欠陥画像に関する情報等を表示するものである。
具体的には、表示部6は、映像モニタやタッチパネル等(つまり、コンピュータの出力部DOの一部)で構成されており、処理部5で所定の処理がされた欠陥画像Pt等の表示が行われる。より具体的には、表示部6は、上述の操作入力部3と組み合わせて、ユーザインターフェイスUを構成する。
【0035】
図4、本発明を具現化する形態における表示部の一例を示す画像図である。
図4には、表示部6に表示される画像
図GAが例示されている。
【0036】
表示部6には、欠陥画像表示エリアG1、画像表示設定エリアG2、表示項目設定エリアG3、表示順序設定エリアG4、分類情報表示エリアG5等が含まれており、ユーザ操作による表示項目やパラメータ等の変更や確認等ができる。
【0037】
欠陥画像表示エリアG1は、表示選択されている欠陥画像Pt(本例では、画像番号001)を表示するエリアである。具体的には、欠陥画像表示エリアG1の右端には、表示中の欠陥画像Ptを縦方向にスクロールさせる縦スクロールバーL11や上下移動ボタンB11,B12が設けられており、下端には、表示中の欠陥画像Ptを横方向にスクロールさせる横スクロールバーL12や左右移動ボタンB13,B14が設けられており、欠陥画像表示エリアG1内に表示しきれない(つまり、隠れている)部位を確認できるように構成されている。
【0038】
画像表示設定エリアG2は、欠陥画像表示エリアG1に表示されている欠陥画像Ptの表示倍率や明るさを変更・設定するためのエリアである。
具体的には、画像表示設定エリアG2には、現在設定されている表示倍率(本例では、×1)が表示されている。そして、ボタンD21を押すと、他の表示倍率がドロップダウン・リストとして表示される。そして、当該ドロップダウン・リスト内でカーソルCを移動・クリック等して表示したい倍率(例えば、×2、×5、画像全体等)を選択することで、変更後の表示倍率が表示される。
また、画像表示設定エリアG2には、明るさ設定値表示エリアG21やスライドスイッチL21が配置されている。
明るさ設定値表示エリアG21には、現在の明るさ設定値が表示されている。
スライドスイッチL21は、明るさ設定値を変更するものである。スライドスイッチL21にカーソルCを合わせて、ドラッグ操作して左右に移動させることで、現在の明るさ設定値が変更され、欠陥画像表示エリアG1に表示されている欠陥画像Ptの明るさが変更される。
【0039】
表示項目設定エリアG3は、欠陥画像表示エリアG1に表示されている欠陥画像Ptの欠陥部位Qの表示形式を変更する/しないを設定するためのエリアである。
具体的には、表示項目設定エリアG3には、ボックスボタンB3が配置されている。そして、ボックスボタンB3をクリックする毎に、ボックスボタンB3内が白色と黒色に交互に切り替わり、その切り替えに応じて欠陥画像Ptの欠陥部位Qの表示形式が変更される。より具体的には、ボックスボタンB3が白色の時、欠陥部位Qは欠陥画像Ptのまま表示される。一方、ボックスボタンB3が黒色の時、詳細を下述する本発明を適用して欠陥画像Pの欠陥部位Qの表示形式が変更されて、色や模様が付いた状態で表示される。
【0040】
表示順序設定エリアG4は、欠陥画像表示エリアG1に表示させる欠陥画像Ptの順序を設定するエリアである。
具体的には、表示順序設定エリアG4は、予め登録された複数の表示順序(例えば、データリスト昇順、データリスト降順、カテゴリ昇順、カテゴリ降順、分類確度昇順、分類確度降順、・・・)の中から1つを選択して設定し、その方式で欠陥画像Ptが表示される。
なお、データリスト昇順/降順とは、欠陥画像Ptに付与された通し番号を基準にして昇順/降順に表示させる方式である。
また、カテゴリ昇順/降順とは、欠陥画像Ptに付与された分類カテゴリを基準にして、昇順/降順に表示させる方式である。
また、分類確度昇順/降順とは、欠陥画像Ptに付与された分類カテゴリの分類確度(一致度合い)を基準にして、昇順/降順に表示させる方式である。
【0041】
例えば、表示基準設定エリアG4には、現在設定されている順序(本例では、データリスト昇順)が表示されているが、ボタンD41を押すと、他の表示順序がドロップダウン・リストとして表示される。そして、当該ドロップダウン・リスト内でカーソルCを移動・クリック等して表示したい順序(例えば、カテゴリ昇順)を選択することで、変更後の表示順序が表示され、欠陥画像表示エリアG1内の欠陥画像Ptがカテゴリ昇順に並べ替えられて表示される。
さらに、表示順序設定エリアG4には、画像番号表示エリアG41や、10枚戻しボタンB41、1枚戻しボタンB42、1枚送りボタンB43、10枚送りボタン44等が配置されており、いずれかのボタンにカーソルCを合わせてクリックする毎に、画像番号表示エリアG41に表示される画像番号が変更され、その画像番号の欠陥画像Ptが欠陥画像表示エリアG1内に表示される。
【0042】
分類情報表示エリアG5は、欠陥画像表示エリアG1に表示されている欠陥画像PtのうちカーソルCを移動・クリック等して選択した画像(以下、選択画像と言う)に関する分類情報を表示するエリアである。具体的には、分類情報表示エリアG5には、MDC表示エリアG51、MDC候補表示エリアG52、分類確度表示エリアG53、分類変更先選択エリアG54、変更ボタンB53等が配置されている。
【0043】
MDC表示エリアG51は、選択画像について、ユーザが付与した分類カテゴリを表示するエリアである。例えば、MDC表示エリアG51には、A欠陥を示す「NG-A」が表示されている。
【0044】
MDC候補表示エリアG52は、選択画像に対する再分類候補カテゴリを表示するエリアである。具体的には、MDC候補表示エリアG52には、再分類候補カテゴリとして、分類確度が2番目に高い分類カテゴリが表示される。
【0045】
分類確度表示エリアG53は、欠陥画像表示エリアG1に表示されている欠陥画像Ptが属する分類カテゴリの分類確度(つまり、一致度合い)を表示するものである。具体的には、分類確度表示エリアG53には、各分類カテゴリと分類確度が表形式で表示されている。
さらに分類確度表示エリアG53の右端には、複数の分類カテゴリを縦方向にスクロールさせる縦スクロールバーL51や上下移動ボタンB51,B52が設けられており分類確度表示エリアG53内に一度に表示しきれない(つまり、隠れている)他の分類カテゴリと分類確度を確認できるように構成されている。
【0046】
分類カテゴリ変更先選択エリアG54は、選択画像に付与された分類カテゴリを変更する際に、どの分類カテゴリに変更するかを選択するためのエリアである。例えば、現在付与されている分類カテゴリ(本例では、NG-A)が表示されているが、ボタンD51を押すと、他の分類カテゴリ(NG-B,C,D,・・・)がドロップダウン・リストとして表示される。そして、当該ドロップダウン・リスト内でカーソルCを移動・クリック等して変更したい分類カテゴリ(例えば、NG-C)を選択することで、変更先の分類カテゴリが表示される(ただし、この時点で教師データTは未だ変更されていない)。
【0047】
変更ボタンB53は、分類カテゴリの変更を決定するためのスイッチボタンである。変更ボタンB53を押すことで、分類カテゴリ変更先選択エリアG54に表示されている分類カテゴリが、選択画像の分類カテゴリとして教師データTが変更される。
【0048】
なお、画像
図GAの右下には、ボタンB4,B5が配置されている。
ボタンB4が押されると、パラメータの変更等を保存し、表示中のウインドウが閉じられ、教師データTに対する改善が行われ、改善された教師データT’が生成される。
一方、ボタンB5が押されると、パラメータの変更等は保存されず、表示中のウインドウが閉じられる(つまり、教師データTに対する改善は行われず、教師データT’は生成されない)。
【0049】
結果出力部ROは、分類結果を出力するものである。
具体的には、欠陥画像入力部GIで取得した分類カテゴリが未知の欠陥画像Pxに対して、自動欠陥分類器Baに基づいて自動的に付与された分類カテゴリ(つまり、分類結果)を、外部装置やホストコンピュータ等に出力するものである。
より具体的には、結果出力部ROは、コンピュータの出力部DOの一部で構成されている。
【0050】
[処理フロー]
図5は、本発明を具現化する形態の一例を示すフロー図である。
図5には、本発明に係る自動欠陥分類装置1を用いて、ユーザが付与した分類カテゴリの誤りを含んだ教師データTを是正し、自動欠陥分類の精度を向上させるフローが示されている。
【0051】
先ず、外部装置やホストコンピュータ等から出力された教師データTを、教師データ入力部2から入力する(ステップs1)。具体的には、ユーザの指示に基づき、教師データTが外部装置やホストコンピュータ等から出力される。
【0052】
次に、教師データ評価用分類器生成部51で、教師データTに基づいて評価用の分類器Btを生成する(ステップs2)。具体的には、ユーザがいずれかの画面等に表示された「実行」ボタン等を押すことで、現在の教師データTに基づく機械学習が開始され、評価用分類器Btの生成処理が行われる。
【0053】
次に、特徴量算出部52で、評価用の分類器Btに基づいて、教師データTに含まれた複数の欠陥画像Ptそれぞれに対して特徴量の算出処理を行う(ステップs3)。
【0054】
次に、分類確度算出部53で、教師データTに含まれた複数の欠陥画像Ptそれぞれに対して、欠陥画像Ptの特徴量と、欠陥画像Ptに付与されているものと同一及び異なる分類カテゴリに設定された特徴量の許容基準それぞれとの一致度合い(つまり、分類確度)を算出する(ステップs4)。
【0055】
次に、分類カテゴリ判定部54で、複数の欠陥画像Ptそれぞれに対して、評価用の分類器Btが付与した欠陥画像Ptの属する分類カテゴリを判定する(ステップs5)。
【0056】
次に、表示部6における欠陥画像Ptの欠陥部位Qの表示形式を変更して表示させる(ステップs6)。
【0057】
この後、ユーザにより欠陥画像Ptの分類カテゴリの適否確認を行い、教師データTに含まれる分類カテゴリの変更(つまり、修正)が必要かどうか判断する(ステップs7)。
【0058】
必要に応じて、1つまたは複数の欠陥画像Ptに対して、分類カテゴリの変更が行われ(ステップs8)、教師データTに対する改善が行われ、改善された教師データT’が生成される。
【0059】
この後、教師データ評価用分類器生成部51にて、改善された教師データT’に基づく機械学習(再学習)を行い評価用の分類器Btの再生成をするかどうかを判断する(ステップs9)。再学習が必要であれば、上述のステップs2~s9を繰り返し、再学習が必要なければ、一連のフローを終了する。
【0060】
この後、自動欠陥分類器生成部57を用いて、最新状態の(つまり、改善された)教師データT’に基づいて機械学習が行われ、自動欠陥分類器Baが生成される。その後、本発明に係る自動欠陥分類装置1では、欠陥カテゴリ分類部59にて自動欠陥分類器Baを用いて、分類カテゴリが未知の欠陥画像Pxに対する分類カテゴリの付与が行われる。
【0061】
本発明に係る自動欠陥分類装置1は、このような構成をしているため、処理部5で複数の欠陥画像Ptに対して所定の処理を行い、表示部6における欠陥画像Ptの欠陥部位Qの表示形式を変更して表示させることができる。
そのため、教師データTを構成する欠陥画像Ptが多くても、ユーザが付与した分類カテゴリの誤りを是正しやすくし、自動欠陥分類の精度を向上させることができる。
【0062】
[表示モードについて]
本発明を具現化する上で、上述の構成に限らず、処理部5は、単一画像表示モードと、画像一覧表示モードとを備え、画像一覧表示モードにおいてユーザが選択した任意の欠陥画像Ptを、単一画像表示モードで表示させる構成としても良い。
【0063】
「単一画像表示モード」は、分類カテゴリが同一のカテゴリに分類された複数の欠陥画像Ptのうち選択された一の画像を表示部6に表示させるモードである。なお、
図4に例示した、表示部6に表示される画像
図GAが、「単一画像表示モード」での表示に相当するため、詳細な説明は省略する。
一方、「画像一覧表示モード」は、分類カテゴリが同一のカテゴリに分類された複数の欠陥画像Ptをマトリクス状に並べて表示部6に表示させるモードである。
【0064】
図6は、本発明を具現化する形態における表示部の一例を示す画像図である。
図6には、「画像一覧表示モード」で表示部6に表示される画像
図GBが例示されている。
【0065】
表示モードを切り替える場合、表示部6の欠陥画像表示エリアG1の上方等に、ボタンB1,B2を配置しておく。ボタンB1は、欠陥画像表示エリアG1を「単一画像表示モード」に切り替えて表示させるものである。一方、ボタンB2は、欠陥画像表示エリアG1を「画像一覧表示モード」に切り替えて表示させるものである。
具体的には、
図4に示す様な「単一画像表示モード」の画像
図GAの状態のとき、ボタンB2が押されると、
図6に示す様な「画像一覧表示モード」の画像
図GBに切り替わり、ボタンB1を押すと、
図4に示す様な「単一画像表示モード」の画像
図GAに切り替わる。
【0066】
「画像一覧表示モード」において、欠陥画像表示エリアG1は、複数の欠陥画像Ptとその欠陥画像Ptに付与された分類カテゴリとを表示するエリアである。
具体的には、欠陥画像表示エリアG1には、複数の欠陥画像Ptがマトリクス状(タイル状とも言う)に表示されており、その欠陥画像Ptの下に分類カテゴリが表示されている。さらに、欠陥画像表示エリアG1の右端には、複数の欠陥画像Ptを縦方向にスクロールさせる縦スクロールバーL11や上下移動ボタンB11,B12が設けられており、下端には、複数の欠陥画像Ptを横方向にスクロールさせる横スクロールバーL12や左右移動ボタンB13,B14が設けられており、欠陥画像表示エリアG1内に表示しきれない(つまり、隠れている)他の欠陥画像Ptを確認できるように構成されている。
【0067】
「画像一覧表示モード」は、表示順序設定エリアG4で設定した表示順序(例えば、データリスト昇順、データリスト降順、カテゴリ昇順、カテゴリ降順、分類確度昇順、分類確度降順、・・・)に基づいて、複数の欠陥画像Ptが表示される。
具体的には、データリスト昇順/降順であれば、欠陥画像Ptに付与された通し番号を基準にして昇順/降順に左上端から右側および下側にかけて、複数の欠陥画像Ptが整列・表示される。
一方、カテゴリ昇順/降順であれば、欠陥画像Ptに付与された分類カテゴリを基準にして、昇順/降順に左上端から右側および下側にかけて、複数の欠陥画像Ptが整列・表示される。
一方、分類確度昇順/降順であれば、欠陥画像Ptに付与された分類カテゴリの分類確度(一致度合い)を基準にして、昇順/降順に左上端から右側および下側にかけて、複数の欠陥画像Ptが整列・表示される。
また、「画像一覧表示モード」は、ユーザが選択した欠陥画像Pt(例えば、欠陥画像Pt上にユーザがカーソルCを移動させてシングルクリックする)の画像番号が画像番号表示エリアG41に表示される。
【0068】
[切替操作について]
「単一画像表示モード」と「画像一覧表示モード」があるとき、処理部5は、「画像一覧表示モード」においてユーザが以下の様な操作をすれば、ユーザが選択した任意の欠陥画像Ptを「単一画像表示モード」に切り替えて表示させる。
【0069】
具体的には、
図6に示す様な「画像一覧表示モード」の画像
図GBの状態において、拡大表示させたい欠陥画像Pt(本例では、最上段の左から2番目)の上にユーザがカーソルCを移動させてダブルクリックすることで、当該欠陥画像Ptを「単一画像表示モード」を表示させる。
或いは、拡大表示させたい欠陥画像Pt(本例では、最上段の左から2番目)の上にユーザがカーソルCを移動させてシングルクリックして画像選択状態にしてからボタンB1を押すことで、欠陥画像Ptを「単一画像表示モード」で表示させる。
【0070】
図7は、本発明を具現化する形態における表示部の一例を示す画像図である。
図7には、ユーザが選択した任意の欠陥画像Pt(本例では、画像番号002)を「単一画像表示モード」で表示部6の欠陥画像表示エリアG1に表示させた画像
図GCが例示されている。
【0071】
この様な構成であれば、画像一覧表示モードで複数の欠陥画像Ptの欠陥部位Qの色や模様等を俯瞰的に見たり、注目すべき欠陥画像Ptを単一画像表示モードで表示させて分類カテゴリの適否を判断することが可能となるため、好ましい。
例えば、画像一覧表示モードでは、欠陥部位Qが同じ表示形式(色や模様等)の欠陥画像Ptを見比べ、同一の分類カテゴリが付与されていることの適否をユーザが判断するのに役立つ。一方、単一画面表示モードでは、欠陥画像Ptを1枚ずつ送りながら、同じ表示形式(色や模様等)で表示されている欠陥部位Qに不自然さ(離れたところに欠陥部位Qが存在するとか、あるべきところに欠陥部位Qが存在していないとか等)の有無を確認することができる。
【0072】
そのため、教師データTを構成する欠陥画像Ptが多くても、予めユーザが付与した分類カテゴリの誤りを是正しやすくし、自動欠陥分類の精度を向上させることができる。
【0073】
なお本発明を具現化する上で、この様な表示モードの切り替えは必須の機能ではなく、上述した単一画面表示モードや画像一覧表示モードのいずれかと同じ表示方法で欠陥画像Ptを表示させても良い。この場合でも、欠陥部位Qの表示形式を変更しない場合(従来の表示)よりも分類カテゴリの誤りを是正しやすくし、自動欠陥分類の精度を向上させることができる。
【0074】
なお上述では、処理部5として、表示部6における欠陥画像の欠陥部位Qの表示形式を、分類器が付与した欠陥画像Ptの属する分類カテゴリに応じて変更して表示させる構成を示した。
【0075】
しかし、処理部5は、この様な構成に代えて、或いはこの様な構成に加えて、表示部6における欠陥画像の欠陥部位Qの表示形式を、分類器が付与した当陥画像Ptの属する分類カテゴリの分類確度に応じて変更して表示させる構成であっても良い。
【0076】
図8は、本発明を具現化する形態における表示部の一例を示す画像図である。
図8(a)~(c)には、表示部6の欠陥画像表示エリアG1に表示される欠陥画像Ptの欠陥部位Qの一例がそれぞれ示されている。
図8(a)~(c)に示された欠陥画像Ptは、いずれも同じ分類カテゴリに属する(例えば、A欠陥に分類されている)ものが示されているが、それぞれ分類確度が異なる。
【0077】
なお本例では、分類カテゴリの分類確度に応じて、欠陥部位Qのハッチング(つまり、模様)を変更して表示しているが、欠陥部位Qの色を変更しても良い。例えば、分類確度が高い場合は「緑色」に、分類確度が低い場合は「赤色」に、中くらいの場合は「黄色」に、表示形式を変更して表示されている。
【0078】
この様な構成であれば、単一画面表示モードで欠陥画像Ptを一枚ずつ送りながら確認するときでも、画像一覧表示モードで複数の欠陥画像Ptをまとめて確認するときでも、分類確度が低いものをユーザが認知した上で、分類カテゴリの修正要否を判断することができるので、好ましい。
【0079】
そのため、教師データTを構成する欠陥画像Ptが多くても、予めユーザが付与した分類カテゴリの誤りを是正しやすくし、自動欠陥分類の精度を向上させることができる。
【符号の説明】
【0080】
1 自動欠陥分類装置
DI 入力部
GI 欠陥画像入力部
2 教師データ入力部
3 操作入力部
4 記憶部
5 処理部
6 表示部
DO 出力部
RO 結果出力部
U ユーザインターフェイス
51 教師データ評価用分類器生成部
52 特徴量算出部
53 分類確度算出部
54 分類カテゴリ判定部
55 欠陥部位表示変更部
57 自動欠陥分類器生成部
59 欠陥カテゴリ分類部
G1 欠陥画像表示エリア
G2 画像表示設定エリア
G3 表示項目設定エリア
G4 表示順序設定エリア
G5 分類情報表示エリア
P 検査画像
Pt 学習用の欠陥画像(分類カテゴリが付与済)
Px 検査画像(分類カテゴリが未知)
T 教師データ(改善前)
T’ 教師データ(改善後)
Ba 自動欠陥分類器
Bt 評価用の分類器
X 欠陥
W 検査対象
Q 欠陥部位
C カーソル
100 検査システム
110 撮像部
120 搬送部
130 欠陥検出部
140 制御部