IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社キーエンスの特許一覧

特許7448710画像検査装置及び画像検査装置の設定方法
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-03-04
(45)【発行日】2024-03-12
(54)【発明の名称】画像検査装置及び画像検査装置の設定方法
(51)【国際特許分類】
   G01N 21/88 20060101AFI20240305BHJP
   G06T 7/00 20170101ALI20240305BHJP
【FI】
G01N21/88 J
G06T7/00 610C
G06T7/00 350C
【請求項の数】 6
(21)【出願番号】P 2023072108
(22)【出願日】2023-04-26
(62)【分割の表示】P 2019093205の分割
【原出願日】2019-05-16
(65)【公開番号】P2023090819
(43)【公開日】2023-06-29
【審査請求日】2023-05-24
(73)【特許権者】
【識別番号】000129253
【氏名又は名称】株式会社キーエンス
(74)【代理人】
【識別番号】110001427
【氏名又は名称】弁理士法人前田特許事務所
(72)【発明者】
【氏名】栗原 宣之
(72)【発明者】
【氏名】日野 俊一
【審査官】井上 徹
(56)【参考文献】
【文献】特開2013-142558(JP,A)
【文献】特開2004-12422(JP,A)
【文献】特開2013-120550(JP,A)
【文献】特開2020-125918(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01N 21/84-G01N 21/958
G01B 11/00-G01B 11/30
G01N 23/00-G01N 23/2276
H01L 21/64-H01L 21/66
G06T 7/00-G06T 7/90
JSTPlus/JMEDPlus/JST7580(JDreamIII)
IEEE Xplore
(57)【特許請求の範囲】
【請求項1】
撮像手段により撮像された検査対象物の画像に基づいて当該検査対象物の判定を行う画像検査装置において、
前記画像検査装置のモードを、当該画像検査装置の設定を行う設定モードと、検査を実行する運転モードとに切り替えるモード切替手段と、
使用者が前記画像に含まれるどの特徴量に基づいて検査を行うかを設定しその設定に従って良否判定を行うルールベース検査の前記設定モード時に、画像処理ツールの選択を受け付ける画像処理ツール選択手段と、
前記ルールベース検査の前記設定モード時に、前記画像処理ツール選択手段で選択された画像処理ツールを適用する範囲を規定するためのルールベース検査用ウィンドウの設定を受け付け、識別器によって、良品としての第一属性と不良品としての第二属性とのいずれに属するかの判定を行う学習ベース検査の前記設定モード時に、前記識別器が適用される範囲を規定するための学習ベース検査用ウィンドウの設定を受け付ける検査ウィンドウ設定手段と、
前記ルールベース検査の前記設定モード時に、前記画像処理ツール選択手段で選択された画像処理ツールのパラメータの調整を受け付けるパラメータ調整手段と、
前記学習ベース検査の前記設定モード時に、前記撮像手段により撮像されたライブ画像を、前記識別器によって識別される属性として前記第一属性及び前記第二属性のいずれかが付与された属性付与画像として登録する学習画像登録手段と、
前記学習ベース検査の前記設定モード時に、前記学習画像登録手段で登録された前記属性付与画像を学習し、前記第一属性及び前記第二属性のいずれの属性の画像かを識別する識別器を生成する識別器生成手段と、
前記設定モード時に前記ライブ画像をマスター画像として登録するマスター画像登録手段と、を備え、
前記検査ウィンドウ設定手段は、前記マスター画像登録手段で登録された前記マスター画像上で、前記ルールベース検査用ウィンドウと前記学習ベース検査用ウィンドウとの少なくとも一方の検査用ウィンドウの設定を受け付け、
前記運転モード時に、前記ルールベース検査用ウィンドウと前記学習ベース検査用ウィンドウとの少なくとも一方の検査用ウィンドウを設定し、前記ルールベース検査用ウィンドウが設定されている場合は、当該ルールベース検査用ウィンドウ内の画像に前記画像処理ツール選択手段で選択された画像処理ツールを適用することにより検査対象物の良否判定を行い、前記学習ベース検査用ウィンドウが設定されている場合は、前記撮像手段により新たに撮像された画像を前記識別器に入力することにより、検査対象物が前記第一属性及び前記第二属性のいずれの属性であるかの判定を行うことを特徴とする画像検査装置。
【請求項2】
請求項1に記載の画像検査装置において、
前記設定モード時に、前記ライブ画像を表示して、前記撮像手段の撮像条件の設定を受け付ける撮像設定手段をさらに備える、画像検査装置。
【請求項3】
請求項1に記載の画像検査装置において、
前記設定モード時に前記ライブ画像をマスター画像として登録するマスター画像登録手段を備え、
前記検査ウィンドウ設定手段は、前記マスター画像登録手段で登録された前記マスター 画像上で位置補正ウィンドウの設定を受け付け、
前記運転モード時に、前記位置補正ウィンドウの設定に基づいて、前記検査対象物の画 像を位置補正する、画像検査装置。
【請求項4】
請求項に記載の画像検査装置において、
前記学習ベース検査用ウィンドウが設定されている場合の前記運転モード時に、前記検査対象物の画像に前記学習ベース検査用ウィンドウを表示する、画像検査装置。
【請求項5】
請求項に記載の画像検査装置において、
前記学習ベース検査用ウィンドウが設定されている場合の前記運転モード時の、検査対象画像と、当該検査対象画像に関する前記識別器の識別結果と、を記憶する記憶装置と、
前記記憶装置に記憶される前記検査対象画像を、前記識別器によって識別される前記第一属性及び前記第二属性のいずれの属性かを入力させる追加学習指定手段と、
前記識別器生成手段は、前記追加学習指定手段が受け付けた属性が付与された前記属性付与画像に基づいて前記識別器を更新する、画像検査装置。
【請求項6】
撮像手段により撮像された検査対象物の画像に基づいて当該検査対象物の判定を行う画像検査装置の設定方法において、
前記画像検査装置のモードを、当該画像検査装置の設定を行う設定モードにした状態で使用者が前記画像に含まれるどの特徴量に基づいて検査を行うかを設定し、その設定に従って良否判定を行うルールベース検査の設定モード時に、画像処理ツールを選択する画像処理ツール選択ステップと、
前記ルールベース検査の前記設定モード時に、前記画像処理ツール選択ステップで選択された画像処理ツールを適用する範囲を規定するためのルールベース検査用ウィンドウを設定し、識別器によって、良品としての第一属性と不良品としての第二属性とのいずれに属するかの判定を行う学習ベース検査の前記設定モード時に、前記識別器が適用される範囲を規定するための学習ベース検査用ウィンドウを設定する検査ウィンドウ設定ステップと、
前記ルールベース検査の前記設定モード時に、前記画像処理ツール選択ステップで選択された画像処理ツールのパラメータを調整するパラメータ調整ステップと、
前記学習ベース検査の設定モード時に、前記撮像手段により撮像されたライブ画像を、前記識別器によって識別される属性として前記第一属性及び前記第二属性のいずれかが付与された属性付与画像として登録する学習画像登録ステップと、
前記学習ベース検査の前記設定モード時に、前記学習画像登録ステップで登録された前記属性付与画像を学習し、前記第一属性及び前記第二属性のいずれの属性の画像かを識別する識別器を生成する識別器生成ステップと、
前記設定モード時に前記ライブ画像をマスター画像として登録するマスター画像登録ステップと、を備え、
前記検査ウィンドウ設定ステップは、前記マスター画像登録ステップで登録された前記マスター画像上で、前記ルールベース検査用ウィンドウと前記学習ベース検査用ウィンドウとの少なくとも一方の検査用ウィンドウの設定を受け付けるステップであり、
検査を実行する運転モード時に、前記ルールベース検査用ウィンドウと前記学習ベース検査用ウィンドウとの少なくとも一方の検査用ウィンドウを設定し、前記ルールベース検査用ウィンドウが設定されている場合は、当該ルールベース検査用ウィンドウ内の画像に前記画像処理ツール選択ステップで選択された画像処理ツールを適用することにより検査対象物の良否判定を行い、前記学習ベース検査用ウィンドウが設定されている場合は、前記撮像手段により新たに撮像された画像を前記識別器に入力することにより、検査対象物が前記第一属性及び前記第二属性のいずれの属性であるかの判定を行うことを特徴とする画像検査装置の設定方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、検査対象物を撮像した画像に基づいて検査対象物の良否判定を行う画像検査装置及び画像検査装置の設定方法に関する。
【背景技術】
【0002】
例えば特許文献1に開示されているように、検査対象物を撮像した画像を用いた一般的な画像検査は、まずマスター画像を登録し、登録したマスター画像上で各種の画像検査ツールを設定することにより行われる。具体的には、まず、使用者はマスター画像を取得するための各種撮像設定を行い、設定された撮像設定にてマスター画像を取得する。次いで画像検査ツールを選択し、取得されたマスター画像上で選択された画像検査ツールを適用する範囲を規定するウィンドウを設定し、各画像検査ツールの個別設定を行う。その後、検査対象物を撮像して画像検査を実行し、所望の良否判定結果が得られているかどうかを確認する。所望の結果が得られている場合は、設定を完了するが、所望の結果が得られていない場合は、必要に応じてマスター画像を取得するための撮像設定を調整する。撮像設定が調整されるとマスター画像が変化するため、使用者は必要に応じて各画像検査ツールの個別設定を調整する。上記したような一般的な検査処理は、使用者が画像に含まれるどの特徴量に基づいて検査を行うかを設定するルールベースの画像検査である。ルールベースの画像検査では、画像検査装置が使用者の設定にしたがって良否判定を行うものであるため、使用者が良否判定基準を制御できる。
【0003】
上述したルールベースの画像検査では、運用時に画像内の検査対象物の様々な特徴量(色、エッジ、位置等)に基づいて検査対象物の良否の判定を行うことになる。色やエッジなどの特徴量がはっきりしている画像に対しては良否判定が容易であるが、例えば色ムラが多い検査対象物や、金属部品のように周囲の環境によってエッジの出方が変わりやすい検査対象物などでは、特徴量が撮像条件などによって変化しやすく、人間の目による検査では良否判定が容易であっても、画像検査装置では判定が難しく、ひいては、判定結果が安定しないことがある。
【0004】
このような難しい検査に対応が可能な検査処理技術として、良品が撮像された良品画像と不良品が撮像された不良品画像の特徴をそれぞれニューラルネットワークなどの公知の学習手段に学習させて識別器を生成し、運用時に新たに入力された検査対象物の画像が良品であるか、不良品であるかを識別器によって識別可能にする技術が知られている(例えば特許文献2参照)。
【先行技術文献】
【特許文献】
【0005】
【文献】特開2013-120550号公報
【文献】特開2018-5640号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、特許文献2のように画像検査に機械学習器を用いることにより、使用者は検査に用いる特徴量や閾値を設定する必要がなくなり、良品と不良品を分類するために有効な特徴量やその閾値を内部で自動的に選択、生成、判定を行うことが可能になる。この特許文献2のような学習ベースの検査は、検査用のウィンドウを設定し、良品と不良品画像を登録し、それらを機械学習器に学習させるだけで、検査設定が完了するため、検査設定が極めて簡便であり、従来は難しかった検査を可能にすることができるという長所を持っている。その一方で、学習ベースの検査は、学習に用いていない未知のデータが入力された場合の挙動が不安定であるという問題がある。すなわち、学習ベースの検査によって、検査対象物が良品であるか、不良品であるかの2クラス判別をさせる場合に、例えば学習データに存在していなかったような想定外の不良状態のものが入力されると、良品と間違えて判定してしまうおそれがあり、このことは工場などにおける検査工程では未然に防止する必要がある。
【0007】
上記したように、ルールベースの検査と学習ベースの検査は双方に長所及び短所が存在するため、両画像検査モードを画像検査装置に実装すれば、互いの短所を補完しつつ、長所を利用して検査精度の向上を図ることが可能になると考えられるが、上述したように両画像検査モードの設定概念が全く異なるため、各モードに合わせた適切な検査設定フローを構築する必要があり、煩雑であった。
【0008】
本発明は、かかる点に鑑みてなされたものであり、その目的とするところは、ルールベースの検査モードと学習ベースの検査モードとを画像検査装置に実装する場合に、各モードで適切な検査設定フローを容易に構築できるようにすることにある。
【課題を解決するための手段】
【0009】
上記目的を達成するために、第1の発明は、撮像手段により撮像された検査対象物の画像に基づいて当該検査対象物の良否判定を行う画像検査装置において、前記画像検査装置のモードを、当該画像検査装置の設定を行う設定モードと、検査を実行する運転モードとに切り替えるモード切替手段と、前記設定モード時に前記撮像手段の撮像条件の設定を受け付ける撮像設定手段と、前記設定モード時に前記撮像設定手段で設定された撮像条件で撮像された画像をマスター画像として登録するマスター画像登録手段と、使用者が前記画像に含まれるどの特徴量に基づいて検査を行うかを設定し、その設定に従って良否判定を行うルールベース検査と、識別器を生成し、その識別器によって良否判定を行う学習ベース検査のいずれかの選択を受け付ける検査種別選択手段と、前記ルールベース検査の前記設定モード時に、画像処理ツールの選択を受け付ける画像処理ツール選択手段と、前記ルールベース検査の前記設定モード時に、前記マスター画像登録手段で登録された前記マスター画像上で、前記画像処理ツール選択手段で選択された画像処理ツールを適用する範囲を規定するためのルールベース検査用ウィンドウの設定を受け付ける検査ウィンドウ設定手段と、前記ルールベース検査の前記設定モード時に、前記画像処理ツール選択手段で選択された画像処理ツールのパラメータの調整を受け付けるパラメータ調整手段と、前記学習ベース検査の前記設定モード時に、使用者により良品としての属性が付与された良品画像と、不良品としての属性が付与された不良品画像をそれぞれ登録する学習画像登録手段と、前記学習ベース検査の前記設定モード時に、前記学習画像登録手段で登録された良品画像と不良品画像を学習し、良品画像と不良品画像を識別する識別器を生成する識別器生成手段と、を備え、前記運転モード時に、前記検査種別選択手段により前記ルールベース検査が選択されている場合は、前記撮像手段により新たに撮像された画像に前記ルールベース検査用ウィンドウを設定して当該ルールベース検査用ウィンドウ内の画像に前記画像処理ツール選択手段で選択された画像処理ツールを適用することにより検査対象物の良否判定を行い、前記検査種別選択手段により前記学習ベース検査が選択されている場合は、前記撮像手段により新たに撮像された画像を前記識別器に入力することにより、検査対象物の良否判定を行うことを特徴とする。
【0010】
この構成によれば、ルールベースの検査モードと学習ベースの検査モードとを画像検査装置に実装することが可能になる。ルールベース検査の設定モード時にマスター画像を撮像する際、撮像設定手段により撮像手段の撮像条件の設定が行える。また、画像処理ツール選択手段により画像処理ツールの選択が行え、この画像処理ツールを適用する範囲をルールベース検査用ウィンドウにより規定し、さらに、画像処理ツールのパラメータの調整をパラメータ調整手段により行うことが可能になる。つまり、ルールベース検査の設定モード時には、使用者が、撮像条件をはじめ、画像処理ツールの種類、画像処理ツールの適用範囲、画像処理ツールのパラメータ調整を行うことができるので、所望の結果が得られるように、使用者が良否判定基準を制御した上でルールベース検査の運用モードに移行することが可能になる。
【0011】
ルールベース検査では、画像内の検査対象物の様々な特徴量(色、エッジ、位置等)に基づいて検査対象物の良否の判定を行うことができ、この検査を通常検査と呼ぶこともできる。通常検査では、画像検査装置の設定モード時に使用者がどのような特徴量に基づいて検査を行うか選択し、選択された特徴量に対して良否判定の基準となる閾値を使用者が設定し、運転モード時に新たに入力された検査画像から設定時に選択された特徴量を抽出し、抽出された特徴量を閾値と比較することにより検査対象物の良否判定を行うことができる。画像検査装置の運転モードは、画像検査装置の運用モードと呼ぶこともできる。
【0012】
一方、学習ベース検査の設定モード時には、使用者により良品としての属性が付与された良品画像と、不良品としての属性が付与された不良品画像とがそれぞれ学習画像登録手段により登録される。そして、登録された良品画像と不良品画像を学習することによって良品画像と不良品画像を識別する識別器が識別器生成手段により生成される。つまり、学習ベース検査の設定モード時には、使用者がルールベース検査時に行うような設定や調整は不要になり、学習ベース検査の運用モード時には識別器によって検査対象物の良否判定が行える。
【0013】
また、例えば事前に学習を済ませたニューラルネットワークに良品画像と不良品画像を入力することによって識別器を生成することができる。ニューラルネットワークの層は多層にすることができ、これにより、良品画像と不良品画像の識別能力を大きく向上させることができる。
【0014】
第2の発明は、前記学習画像登録手段は、前記検査種別選択手段により前記学習ベース検査に切り替えられ、かつ、前記モード切替手段により前記設定モードが選択された場合に、前記撮像手段により撮像条件を変化させて検査対象物を複数回撮像させることによって得られた複数の画像を良品画像として登録するように構成されていることを特徴とする。
【0015】
この構成によれば、撮像条件を変化させることによって良品画像を生成して登録することができるので、良品を複数用意することなく、良品画像と不良品画像の識別を可能にする識別器を生成することができる。
【0016】
第3の発明は、前記学習画像登録手段は、前記検査種別選択手段により前記学習ベース検査に切り替えられ、かつ、前記モード切替手段により前記設定モードが選択された場合に、照明条件と露光時間の少なくとも一方を変化させて前記撮像手段により検査対象物を複数回撮像させることによって得られた複数の画像を良品画像として登録するように構成されていることを特徴とする。
【0017】
この構成によれば、照明条件と露光時間の少なくとも一方を変化させることで、容易にかつ高速に良品画像を複数生成することができる。
【0018】
第4の発明は、前記学習画像登録手段は、前記検査種別選択手段により前記学習ベース検査に切り替えられ、かつ、前記モード切替手段により前記設定モードが選択された場合に、前記撮像手段により検査対象物を撮像させることによって得られた画像に基づいて複数の良品画像を自動生成して登録するように構成されていることを特徴とする。
【0019】
この構成によれば、撮像手段により撮像した画像に基づいて複数の良品画像を内部的に自動生成することができるので、良品を複数用意することなく、良品画像と不良品画像の識別を可能にする識別器を生成することができる。
【0020】
第5の発明は、前記マスター画像を表示する表示手段を備え、前記撮像設定手段は、前記ルールベース検査の前記設定モード時及び前記学習ベース検査の前記設定モード時に、前記撮像条件としての画像の明るさ調整及びフォーカス調整が可能な撮像条件設定ユーザーインターフェースを生成して前記表示手段に表示させるように構成されていることを特徴とする。
【0021】
この構成によれば、ルールベース検査の設定モード時と、学習ベース検査の設定モード時の両方で、撮像条件設定ユーザーインターフェースを表示手段に表示させ、共通の項目として、画像の明るさ調整及びフォーカス調整を行うことができる。
【0022】
第6の発明は、前記検査ウィンドウ設定手段は、前記学習ベース検査の前記設定モード時に、前記マスター画像登録手段で登録された前記マスター画像上で、差分検出の範囲を規定するための学習ベース検査用ウィンドウの設定を受け付けるように構成され、前記運転モード時に、前記学習ベース検査が選択されている場合は、前記撮像手段により新たに撮像された画像に前記学習ベース検査用ウィンドウを設定して当該学習ベース検査用ウィンドウ内の画像の差分検出を行い、差分検出結果に基づいて検査対象物の良否判定を行うように構成されていることを特徴とする。
【0023】
この構成によれば、学習ベース検査の設定モード時に学習ベース検査用ウィンドウを設定することで、使用者が差分検出したい範囲を規定することができる。運転モード時には、学習ベース検査用ウィンドウ内の画像の差分検出結果に基づいて検査対象物の良否判定を行うことができる。
【0024】
第7の発明は、撮像手段により撮像された検査対象物の画像に基づいて当該検査対象物の良否判定を行う画像検査装置の設定方法において、前記画像検査装置のモードを、当該画像検査装置の設定を行う設定モードにした状態で前記撮像手段の撮像条件を設定する撮像条件設定ステップと、前記撮像条件設定ステップで設定した撮像条件で撮像した画像をマスター画像として登録するマスター画像登録ステップと、使用者が前記画像に含まれるどの特徴量に基づいて検査を行うかを設定し、その設定に従って良否判定を行うルールベース検査の設定モード時に、画像処理ツールを選択する画像処理ツール選択ステップと、前記ルールベース検査の前記設定モード時に、前記マスター画像登録ステップで登録された前記マスター画像上で、前記画像処理ツール選択ステップで選択された画像処理ツールを適用する範囲を規定するためのルールベース検査用ウィンドウを設定する検査ウィンドウ設定ステップと、前記ルールベース検査の前記設定モード時に、前記画像処理ツール選択ステップで選択された画像処理ツールのパラメータを調整するパラメータ調整ステップと、識別器によって良否判定を行う学習ベース検査の設定モード時に、使用者により良品としての属性が付与された良品画像と、不良品としての属性が付与された不良品画像をそれぞれ登録する学習画像登録ステップと、前記学習ベース検査の前記設定モード時に、前記学習画像登録ステップで登録された良品画像と不良品画像を学習し、良品画像と不良品画像を識別する識別器を生成する識別器生成ステップと、を備え、検査を実行する運転モード時に、前記ルールベース検査が選択されている場合は、前記撮像手段により新たに撮像された画像に前記ルールベース検査用ウィンドウを設定して当該ルールベース検査用ウィンドウ内の画像に前記画像処理ツール選択ステップで選択された画像処理ツールを適用することにより検査対象物の良否判定を行い、前記学習ベース検査が選択されている場合は、前記撮像手段により新たに撮像された画像を前記識別器に入力することにより、検査対象物の良否判定を行うことを特徴とすることを特徴とする。
【0025】
この構成によれば、ルールベースの検査モードと学習ベースの検査モードとを画像検査装置に実装した場合に、ルールベース検査の設定モード時には、使用者が、マスター画像登録ステップで撮像条件を設定し、画像処理ツール選択ステップで画像処理ツールの種類を選択し、検査ウィンドウ設定ステップで画像処理ツールの適用範囲を設定し、パラメータ調整ステップで画像処理ツールのパラメータを調整できるので、所望の結果が得られるように、使用者が良否判定基準を制御した上でルールベース検査の運用モードに移行することが可能になる。
【0026】
一方、学習ベース検査の設定モード時には、学習画像登録ステップで良品画像と不良品画像とを登録し、識別器生成ステップで良品画像と不良品画像を識別する識別器を生成することができるので、使用者がルールベース検査時に行うような設定や調整は不要になる。
【0027】
第8の発明は、前記画像検査装置を設定モードにしてから、前記ルールベース検査と前記学習ベース検査のいずれかの選択を行った後、前記マスター画像登録ステップを行い、前記マスター画像登録ステップの後、前記ルールベース検査が選択されている場合には、前記画像処理ツール選択ステップ、前記検査ウィンドウ設定ステップ及び前記パラメータ調整ステップを行う一方、前記学習ベース検査が選択されている場合には、前記学習画像登録ステップ及び前記識別器生成ステップを行うことを特徴とする。
【0028】
この構成によれば、設定モードを選択した後、ルールベース検査の設定と、学習ベース検査の設定とをそれぞれ個別に行うことができる。
【発明の効果】
【0029】
本発明によれば、ルールベース検査と学習ベース検査の2つの検査モードを画像検査装置に実装して互いの短所を補完しつつ、長所を利用して検査精度の向上を図ることができ、しかも、ルールベース検査では使用者が良否判定基準を制御して所望の結果が得られるようにすることができるとともに、学習ベース検査では識別器を生成し、その識別器によって検査対象物の良否判定を行うことができるので、2つの検査モードのそれぞれで適切な検査設定フローを容易に構築できる。
【図面の簡単な説明】
【0030】
図1】本発明の実施形態に係る画像検査装置の構成を示す模式図である。
図2】画像検査装置のハードウエア構成を示す図である。
図3】画像検査装置のブロック図である。
図4】起動時ユーザーインターフェースを示す図である。
図5】検査種別選択ユーザーインターフェースを示す図である。
図6】撮像条件設定ユーザーインターフェースを示す図である。
図7】マスター画像登録ユーザーインターフェースを示す図である。
図8】学習設定ユーザーインターフェースを示す図である。
図9】検査ウィンドウ設定ユーザーインターフェースを示す図である。
図10】学習用ユーザーインターフェースを示す図である。
図11】学習完了後の学習設定ユーザーインターフェースを示す図である。
図12】画像処理ツールユーザーインターフェースを示す図である。
図13】基本ツールタブが選択されている場合の画像処理ツール選択用ユーザーインターフェースを示す図である。
図14】拡張タブが選択されている場合の画像処理ツール選択用ユーザーインターフェースを示す図である。
図15】出力割り当てユーザーインターフェースを示す図である。
図16】画像検査装置の設定手順を示すフローチャートである。
図17】運転モードユーザーインターフェースを示す図である。
図18】追加学習を行う場合の割り込み画面を示す図17相当図である。
図19】追加学習ユーザーインターフェースを示す図である。
図20】メニューを表示した運転モードユーザーインターフェースを示す図である。
図21】履歴種別選択を行う場合の割り込み画面を示す図20相当図である。
図22】良否判定後の検査対象画像を表示する運転画像履歴表示ユーザーインターフェースを示す図である。
図23】選択画像表示ユーザーインターフェースを示す図である。
図24】学習に用いられた画像を表示する学習画像履歴表示ユーザーインターフェースを示す図である。
図25】追加学習画像が異なる場合の図19相当図である。
図26】学習候補画像を表示する場合の割り込み画面を示す図22相当図である。
図27】標準検査モードの運転時のフローチャートである。
図28】良品らしい部分と不良品らしい部分とが含まれている検査対象画像の例を示す図であり、(A)は良品画像である確率が高い場合、(B)は良品画像の確率が半分程度の場合、(C)は不良品画像である確率が高い場合である。
図29】文字を含む検査対象画像の例を示す図であり、(A)は良品画像、(B)は領域が選択的に強調された検査対象画像である。
図30】(A)は良品画像、(B)は不良品画像、(C)は運転モード時に良品が撮像された場合の検査対象画像、(D)は運転モード時に不良品が撮像された場合の検査対象画像を示す図である。
図31】(A)は追加学習する不良品画像、(B)は追加学習後の運転モード時に不良品が撮像された場合の検査対象画像を示す図である。
図32】学習検査モードの運転時のフローチャートである。
図33】学習候補画像を提示する場合のフローチャートである。
図34】履歴画像のソート手順を示すフローチャートである。
図35】良品画像群と不良品画像群がプロットされて識別境界が生成された特徴量空間を模式的に示す図である。
図36】削除候補画像の提示手順を示すフローチャートである。
図37】追加学習によって識別境界が変化した場合における削除候補画像の提示手順を示すフローチャートである。
図38】追加学習によって識別境界が変化した場合を示す図35相当図である。
図39】削除候補画像と近隣画像との相対関係に基づいて削除候補画像を提示する手順を示すフローチャートである。
図40】削除候補画像と近隣画像との相対関係の判別方法を説明する図35相当図である。
【発明を実施するための形態】
【0031】
以下、本発明の実施形態を図面に基づいて詳細に説明する。尚、以下の好ましい実施形態の説明は、本質的に例示に過ぎず、本発明、その適用物或いはその用途を制限することを意図するものではない。
【0032】
図1は、本発明の実施形態に係る画像検査装置1の構成を示す模式図である。画像検査装置1は、例えば各種部品や製品等の検査対象物を撮像した画像に基づいて検査対象物の良否判定を行うための装置であり、工場等の生産現場等で使用することができる。検査対象物は、それ全体が検査対象であってもよいし、一部のみが検査対象であってもよい。また、1つの検査対象物に複数の検査対象が含まれていてもよい。また、画像には、複数の検査対象物が含まれていてもよい。
【0033】
画像検査装置1は、装置本体となる制御ユニット2と、撮像ユニット3と、表示装置(表示手段)4と、パーソナルコンピュータ5とを備えている。パーソナルコンピュータ5は、必須なものではなく、省略することもできる。表示装置4の代わりにパーソナルコンピュータ(表示手段)5を使用することもできる。図1では、画像検査装置1の構成例の一例として、制御ユニット2、撮像ユニット3、表示装置4及びパーソナルコンピュータ5を別々のものとして記載しているが、これらのうち、任意の複数を組み合わせて一体化することもできる。例えば、制御ユニット2と撮像ユニット3を一体化することや、制御ユニット2と表示装置4を一体化することもできる。また、制御ユニット2を複数のユニットに分割して一部を撮像ユニット3や表示装置4に組み込むことや、撮像ユニット3を複数のユニットに分割して一部を他のユニットに組み込むこともできる。
【0034】
(撮像ユニット3の構成)
図2に示すように、撮像ユニット3は、カメラモジュール(撮像手段)14と、照明モジュール15とを備えている。カメラモジュール14は、撮像光学系を駆動するAF用モータ141と、撮像基板142とを備えている。AF用モータ141は、撮像光学系のレンズを駆動することにより、自動でピント調整を実行する部分であり、従来から周知のコントラストオートフォーカス等の手法によってピント調整を行うことができる。撮像基板142は、撮像光学系から入射した光を受光する受光素子としてCMOSセンサ143と、FPGA144と、DSP145とを備えている。CMOSセンサ143は、カラー画像を取得することができるように構成された撮像センサである。CMOSセンサ143の代わりに、例えばCCDセンサ等の受光素子を用いることもできる。FPGA144及びDSP145は、撮像ユニット3の内部において画像処理を実行するためのものであり、CMOSセンサ143から出力された信号はFPGA144及びDSP145にも入力されるようになっている。
【0035】
照明モジュール15は、検査対象物を含む撮像領域を照明する発光体としてのLED(発光ダイオード)151と、LED151を制御するLEDドライバ152とを備えている。LED151による発光タイミング、発光時間、発光量は、LEDドライバ152によって任意に設定することができる。LED151は、撮像ユニット3に一体に設けてもよいし、撮像ユニット3とは別体として外部照明ユニットとして設けてもよい。図示しないが、照明モジュール15には、LED151から照射された光を反射するリフレクターや、LED151から照射された光が通過するレンズ等が設けられている。LED151から照射された光が検査対象物と、検査対象物の周辺領域に照射されるように、LED151の照射範囲が設定されている。発光ダイオード以外の発光体を使用することもできる。
【0036】
(制御ユニット2の構成)
制御ユニット2は、メイン基板13と、コネクタ基板16と、通信基盤17と、電源基板18とを備えている。メイン基板13には、FPGA131と、DSP132と、メモリ133とが搭載されている。FPGA131とDSP132は制御部13Aを構成するものであり、これらが一体化された主制御部を設けることもできる。
【0037】
メイン基板13の制御部13Aは、接続されている各基板及びモジュールの動作を制御する。例えば、制御部13Aは、照明モジュール15のLEDドライバ152に対してLED151の点灯/消灯を制御する照明制御信号を出力する。LEDドライバ152は、制御部13Aからの照明制御信号に応じて、LED151の点灯/消灯の切替及び点灯時間の調整を行うとともに、LED151の光量等を調整する。
【0038】
また、制御部13Aは、カメラモジュール14の撮像基板142に、CMOSセンサ143を制御する撮像制御信号を出力する。CMOSセンサ143は、制御部13Aからの撮像制御信号に応じて、撮像を開始するとともに、露光時間を任意の時間に調整して撮像を行う。すなわち、撮像ユニット3は、制御部13Aから出力される撮像制御信号に応じてCMOSセンサ143の視野範囲内を撮像し、視野範囲内に検査対象物があれば、検査対象物を撮像することになるが、検査対象物以外の物が視野範囲内にあれば、それも撮像することができる。例えば、画像検査装置1の設定時には、使用者により良品としての属性を付与された良品画像と、不良品としての属性を付与された不良品画像とを撮像することができる。画像検査装置1の運用時には、検査対象物を撮像することができる。また、CMOSセンサ143は、ライブ画像、即ち現在の撮像された画像を短いフレームレートで随時出力することができるように構成されている。
【0039】
CMOSセンサ143による撮像が終わると、撮像ユニット3から出力された画像信号は、メイン基板13のFPGA131に入力され、FPGA131及びDSP132によって処理されるとともに、メモリ133に記憶されるようになっている。メイン基板13の制御部13Aによる具体的な処理内容の詳細については後述する。
【0040】
コネクタ基板16は、電源インターフェース161に設けてある電源コネクタ(図示せず)を介して外部から電力の供給を受ける部分である。電源基板18は、コネクタ基板16で受けた電力を各基板及びモジュール等に分配する部分であり、具体的には、照明モジュール15、カメラモジュール14、メイン基板13、及び通信基板17に電力を分配する。電源基板18は、AF用モータドライバ181を備えている。AF用モータドライバ181は、カメラモジュール14のAF用モータ141に駆動電力を供給し、オートフォーカスを実現している。AF用モータドライバ181は、メイン基板13の制御部13AからのAF制御信号に応じて、AF用モータ141に供給する電力を調整する。
【0041】
通信基板17は、メイン基板13の制御部13Aから出力された検査対象物の良否判定信号、画像データ、ユーザーインターフェース等を表示装置4やパーソナルコンピュータ5、外部制御機器(図示せず)等に出力する。表示装置4やパーソナルコンピュータ5は、例えば液晶パネル等からなる表示パネルを有しており、画像データやユーザーインターフェース等は表示パネルに表示される。
【0042】
また、通信基板17は、表示装置4が有するタッチパネル41やパーソナルコンピュータ5のキーボード51等から入力された使用者の各種操作を受け付けることができるように構成されている。表示装置4のタッチパネル41は、例えば感圧センサを搭載した従来から周知のタッチ式操作パネルであり、使用者によるタッチ操作を検出して通信基板17へ出力する。パーソナルコンピュータ5は、キーボード51の他に、図示しないがマウスやタッチパネルを備えており、これら操作デバイスから入力された使用者の各種操作を受け付けることができるように構成されている。通信は、有線であってもよいし、無線であってもよく、いずれの通信形態も、従来から周知の通信モジュールによって実現することができる。
【0043】
制御ユニット2には、例えばハードディスクドライブ等の記憶装置(記憶手段)19が設けられている。記憶装置19には、後述する各制御及び処理を上記ハードウエアによって実行可能にするためのプログラムファイル80や設定ファイル等(ソフトウエア)、マスター画像、履歴画像、良否判定結果等が記憶されている。プログラムファイル80や設定ファイルは、例えば光ディスク等の記憶媒体90に格納しておき、この記憶媒体90に格納されたプログラムファイル80や設定ファイルを制御ユニット2にインストールすることができる。
【0044】
(画像検査装置1の具体的な構成)
図3は、画像検査装置1のブロック図であり、プログラムファイル80や設定ファイルがインストールされた制御ユニット2により、図3に示す各部及び手段が構成される。すなわち、画像検査装置1は、撮像設定部21と、マスター画像登録部23と、学習画像登録部24と、画像処理ツール選択部25と、パラメータ調整部26と、検査ウィンドウ設定部27と、検査種別選択部28と、モード切替部29と、識別器生成部30と、良否判定部31と、追加学習画像指定部32と、安定性評価値算出部33と、判定軸抽出部34とを備えている。これら各部(手段)は、ハードウエアのみで構成されていてもよいし、ハードウエアとソフトウエアとの組み合わせによって構成されていてもよい。また、図3に示す各部及び手段は、それぞれが独立したものであってもよいし、1つのハードウエアまたはソフトウエアによって複数の機能が実現されるように構成されたものであってもよい。また、図3に示す各部及び手段の機能は、メイン基板13の制御部13Aによる制御で実現することもできる。
【0045】
また、画像検査装置1は、撮像設定等の各種パラメータ設定、マスター画像の登録、良品画像と不良品画像とを内部で識別できるようにする識別器の生成(学習)等を行う設定モードと、実際の現場において検査対象物を撮像した画像に基づいて検査対象物の良否判定を行う運転モード(Runモード)とに切り替えられるようになっている。設定モードでは、使用者が所望の製品検査で良品と不良品とを分けることができるようにするための事前の作業を行う。設定モードと運転モードとの切替は、後述するユーザーインターフェース上で行うことができる他、設定モードの完了と同時に運転モードに自動で移行するように構成することもできる。運転モードにおいて、識別器による識別境界の修正や変更を行うこと、いわゆる追加学習を行うこともできる。
【0046】
また、画像検査装置1は、画像内の検査対象物の様々な特徴量(色、エッジ、位置等)に基づいて検査対象物の良否の判定を行うルールベースの検査モード(標準検査モード)と、識別器を生成し、生成した識別器によって検査対象物の良否の判定を行う学習ベースの検査モード(学習検査モード)とに切り替えられるようになっている。標準検査モードでは、使用者が画像に含まれるどの特徴量に基づいて検査を行うか、及び閾値等を設定し、その設定に従って良否判定を行う。標準検査モードと学習検査モードとの切替は、後述するユーザーインターフェース上で行うことができる。
【0047】
(起動時制御)
画像検査装置1が起動すると、制御ユニット2は図4に示すような起動時ユーザーインターフェース100を生成して表示装置4に表示させる。起動時ユーザーインターフェース100は、図示しないUI生成部等で生成することもできる。以下に述べる他のユーザーインターフェースもUI生成部等で生成することができる。
【0048】
起動時ユーザーインターフェース100には、センサ設定ボタン100aと、運転開始ボタン100bと、画像表示領域100cとが設けられている。センサ設定ボタン100aは、画像検査装置1の設定を行う際に操作するボタンである。運転開始ボタン100bは、検査を実行する運転モードとする際に操作するボタンである。画像表示領域100cには、撮像ユニット3で撮像された画像、記憶装置19に記憶されている画像、外部から読み込んだ画像等を表示することができるようになっている。
【0049】
図3に示すモード切替部29は、図4に示す起動時ユーザーインターフェース100のセンサ設定ボタン100aが押されたことを検出すると、画像検査装置1の設定を行う設定モードに切り替える。一方、モード切替部29は、起動時ユーザーインターフェース100の運転開始ボタン100bが押されたことを検出すると、運転モードに切り替える。つまり、モード切替部29は、画像検査装置1のモードを、当該画像検査装置1の設定を行う設定モードと、検査を実行する運転モードとに切り替える部分である。画像検査装置1のモード切替方法は上述したボタン操作以外の方法、例えば外部から入力された信号による切り替え等であってもよい。尚、「ボタンを押す」とは、表示装置4のタッチパネル41による操作、パーソナルコンピュータ5のキーボード51やマウス等による操作によって実行される。以下、ボタン操作については同様である。
【0050】
(検査種別選択部28の構成)
図3に示す検査種別選択部28は、標準検査モードと学習検査モードのいずれかの選択を受け付ける部分である。検査種別選択部28は、図5に示す検査種別選択ユーザーインターフェース101を生成して表示装置4に表示させる。検査種別選択ユーザーインターフェース101には、学習検査モード選択ボタン101aと、標準検査モード選択ボタン101bと、キャンセルボタン101cと、OKボタン101dとが設けられている。検査種別選択部28は、学習検査モード選択ボタン101aが押されたことを検出すると、学習検査モードに切り替える一方、標準検査モード選択ボタン101bが押されたことを検出すると、標準検査モードに切り替えるように構成されている。その後、OKボタン101dが押されると、受け付けられた検査モードが確定する。キャンセルボタン101cが押されると、図4に示す起動時ユーザーインターフェース100が表示装置4に表示される。
【0051】
使用者による標準検査モードと学習検査モードの選択を受け付ける部分は、上述した検査種別選択部28に限られるものではなく、例えば外部から入力された信号によって受け付けるように構成されていてもよい。
【0052】
図5に示す検査種別選択ユーザーインターフェース101には、学習検査モードの概略を説明する説明文や標準検査モードの概略を説明する説明文が表示される説明文表示領域101eが設けられている。学習検査モード選択ボタン101aが押されると、学習検査モードの概略を説明する説明文が説明文表示領域101eに表示され、また、標準検査モード選択ボタン101bが押されると、標準検査モードの概略を説明する説明文が説明文表示領域101eに表示されるようになっている。
【0053】
(撮像設定部21の構成)
図3に示す撮像設定部21は、設定モード時に撮像ユニット3の撮像条件の設定を受け付ける部分である。撮像条件には、例えば、露光時間、照明モジュール15から照射される光量、ゲイン、フォーカス調整、撮像を行うトリガ条件等が含まれているが、これらに限られるものではなく、撮像に関する条件設定が可能なものを含むことができる。
【0054】
撮像設定部21は、図6に示す撮像条件設定ユーザーインターフェース102を生成して表示装置4に表示させる。撮像条件設定ユーザーインターフェース102には、画像表示領域102aと、トリガ条件設定ボタン102bと、明るさ調整ボタン102cと、フォーカス調整ボタン102dと、次ステップボタン102eとが設けられている。画像表示領域102aには、CMOSセンサ143で撮像されたライブ画像が表示されるようになっている。ライブ画像とは、CMOSセンサ143で撮像されている現在の画像のことであり、撮像対象や明るさが変化すればほぼリアルタイムで画像表示領域102aの画像も変化する。符号Wは、検査対象物を示している。
【0055】
トリガ条件設定ボタン102bは、撮像ユニット3に撮像を開始させるための撮像トリガ信号を設定するためのボタンである。撮像設定部21は、トリガ条件設定ボタン102bが操作されたことを検出すると、撮像トリガ信号を設定可能なユーザーインターフェース(図示せず)を生成して表示装置4に表示させる。使用者は、例えば外部から入力される撮像トリガ信号を選択することで、CMOSセンサ143の視野範囲に検査対象物Wが入った状態で、撮像ユニット3による撮像を行うことが可能になる。撮像トリガ信号は、外部のPLC等から入力してもよいし、所定のタイミングで内部的に生成してもよい。
【0056】
明るさ調整ボタン102cは、露光時間、照明モジュール15から照射される光量、ゲイン等を調整するためのボタンであり、得られる画像の明るさを調整することができる。撮像設定部21は、明るさ調整ボタン102cが操作されたことを検出すると、露光時間等を調整可能なユーザーインターフェース(図示せず)を生成して表示装置4に表示させる。使用者は、画像表示領域102aの画像を見ながら当該画像の明るさ調整を行うことができる。画像の明るさについては、画像検査装置1が、検査の精度が高くなるように自動で調整することができ、使用者による調整は必須なものではない。
【0057】
フォーカス調整ボタン102dは、ピントを調整する際に操作されるボタンである。撮像設定部21は、フォーカス調整ボタン102dが操作されたことを検出すると、ピント調整が可能なユーザーインターフェース(図示せず)を生成して表示装置4に表示させる。基本的には、上述したオートフォーカス機能によって検査対象物Wにピントが合うように自動調整されるが、使用者がマニュアルフォーカスでピント合わせを行いたい場合に、この機能を使用することができる。
【0058】
次ステップボタン102eは、撮像条件の設定が終了した際に操作されるボタンである。撮像設定部21は、次ステップボタン102eが押されたことを検出すると、トリガ条件、明るさ、フォーカス等を確定させて次の工程であるマスター画像登録に移行する。
【0059】
(マスター画像登録部23の構成)
図3に示すマスター画像登録部23は、設定モード時に撮像設定部21で設定された撮像条件で撮像された画像をマスター画像として登録する部分である。マスター画像とは、画像検査枠、即ち検査ウィンドウを設定するための基準となる画像であり、良品の検査対象物Wが含まれる画像である。マスター画像は、記憶装置19に記憶させておくことができる。
【0060】
マスター画像登録部23は、図7に示すマスター画像登録ユーザーインターフェース103を生成して表示装置4に表示させる。マスター画像登録ユーザーインターフェース103には、マスター画像の候補となる画像を表示させるためのマスター候補画像表示領域103aと、ライブ画像登録ボタン103bと、履歴登録ボタン103cと、ファイル登録ボタン103dと、次ステップボタン103eとが設けられている。
【0061】
マスター画像登録部23は、マスター候補画像表示領域103aにライブ画像が表示されている状態で、ライブ画像登録ボタン103bが押されたことを検出すると、マスター候補画像表示領域103aに表示されているライブ画像をマスター画像として登録する。また、履歴登録ボタン103cは、画像履歴に残っている画像をマスター画像とする際に操作するボタンである。マスター画像登録部23は、履歴登録ボタン103cが押されたことを検出すると、過去に撮像された画像がマスター候補画像表示領域103aに表示される。マスター候補画像表示領域103aに表示された画像の中から所望の画像をマスター画像として選択し、登録することができる。過去に撮像された画像は自動的に記憶装置19に記憶させるようにしてもよいし、使用者が記憶操作を行うことによって記憶させるようにしてもよい。
【0062】
ファイル登録ボタン103dは、記憶装置19に記憶されている画像をマスター画像とする際に操作するボタンである。マスター画像登録部23は、ファイル登録ボタン103dが押されたことを検出すると、記憶装置19の特定のフォルダに記憶されている画像を読み込んでマスター候補画像表示領域103aに表示させ、この中から所望の画像をマスター画像として選択し、登録することができる。
【0063】
次ステップボタン103eは、マスター画像の登録が終了した際に操作されるボタンである。マスター画像登録部23は、次ステップボタン103eが押されたことを検出すると次の工程に移行する。
【0064】
(学習設定ユーザーインターフェース)
図8は、学習設定ユーザーインターフェース104を示すものである。マスター画像登録が終了して図7に示す次ステップボタン103eが押されると、制御ユニット2は、学習設定ユーザーインターフェース104を生成して表示装置4に表示させる。学習設定ユーザーインターフェース104には、マスター画像を表示するマスター画像表示領域104aと、検査ウィンドウ設定ボタン104bと、学習ボタン104cと、次ステップボタン104dとが設けられている。次ステップボタン104dは、次の工程に進む際に操作されるボタンである。
【0065】
(検査ウィンドウ設定部27の構成)
図3に示す検査ウィンドウ設定部27は、学習検査モードの設定モード時に、マスター画像登録部23で登録されたマスター画像上で、差分検出の範囲を規定するための学習検査用ウィンドウ(学習ベース検査用ウィンドウ)200A、200Bの設定を受け付けるように構成されている。検査ウィンドウ設定部27は、図8に示す検査ウィンドウ設定ボタン104bが押されたことを検出すると、図9に示す検査ウィンドウ設定ユーザーインターフェース105を生成して表示装置4に表示させる。学習検査用ウィンドウ200A、200Bの設定は必須ではない。学習検査用ウィンドウ200Aが第1学習ベース検査用ウィンドウであり、学習検査用ウィンドウ200Bが第2学習ベース検査用ウィンドウである。
【0066】
検査ウィンドウ設定ユーザーインターフェース105には、マスター画像が表示されるマスター画像表示領域105aと、検査ウィンドウ追加ボタン105bと、位置補正追加ボタン105cと、位置補正表示部105dと、第1検査ウィンドウ表示部105eと、第2検査ウィンドウ表示部105fと、OKボタン105gとが設けられている。検査ウィンドウ設定部27は、検査ウィンドウ追加ボタン105bが押されたことを検出すると、学習検査用ウィンドウ200A、200Bを設定可能な状態にする。学習検査用ウィンドウ200A、200Bは、マスター画像の検査対象物Wの全体を囲むように設定してもよいし、検査対象物Wの特徴となる一部のみ囲むように設定してもよい。学習検査用ウィンドウ200A、200Bは、例えば矩形状にすることができ、学習検査用ウィンドウ200A、200Bを描こうとする矩形の範囲を想定したとき、その上の角部から斜め下の角部までタッチ操作によってドラッグすることで学習検査用ウィンドウ200A、200Bがマスター画像表示領域105aに、マスター画像と重畳表示される。学習検査用ウィンドウ200A、200Bの位置や大きさ、形状は修正することができる。
【0067】
この例では、第1学習検査用ウィンドウ200Aと、第2学習検査用ウィンドウ200Bとを設定しているが、一方のみであってもよいし、3つ以上の学習検査用ウィンドウを設定してもよい。検査ウィンドウ追加ボタン105bを押すことで学習検査用ウィンドウの追加が可能になっている。第1検査ウィンドウ表示部105eは、学習検査用ウィンドウ200Aに対応しており、第2検査ウィンドウ表示部105fは、第2学習検査用ウィンドウ200Bに対応している。
【0068】
また、位置補正追加ボタン105cを押すと、位置補正処理を行う部分を特定する位置補正ウィンドウ201を設定することができる。位置補正ウィンドウ201の設定方法は、学習検査用ウィンドウ200A、200Bの設定方法と同様にすることができる。位置補正ウィンドウ201内の画像が位置補正処理の対象となり、従来から周知の手法により、位置補正ウィンドウ201内の画像を所定の位置に補正するとともに、所定の姿勢となるように補正する。
【0069】
図9に示す検査ウィンドウ設定ユーザーインターフェース105のOKボタン105gが押されると、図8に示す学習設定ユーザーインターフェース104が表示装置4に表示される。学習設定ユーザーインターフェース104の学習ボタン104cが押されると、学習画像登録に進む。
【0070】
(学習画像登録部24の構成)
図3に示す学習画像登録部24は、学習検査モードの設定モード時に、使用者により良品としての属性が付与された良品画像と、不良品としての属性が付与された不良品画像をそれぞれ登録する部分である。良品画像は、良品の検査対象物Wを撮像した画像であり、不良品画像はそれ以外の画像である。良品画像及び不良品画像は、マスター画像とは別に登録する。
【0071】
学習画像登録部24は、図8に示す学習設定ユーザーインターフェース104の学習ボタン104cが押されたことを検出すると、図10に示す学習用ユーザーインターフェース106を表示装置4に表示させる。学習用ユーザーインターフェース106には、学習用の画像としての良品画像及び不良品画像を表示可能な画像表示領域106aと、良品画像取得操作部106bと、不良品画像取得操作部106cと、学習開始ボタン106dと、ファイル読込ボタン106eと、履歴読込ボタン106fとが設けられている。
【0072】
画像表示領域106aには、ライブ画像を表示させることができるようになっている。画像表示領域106aにライブ画像として良品画像を表示させた状態で、良品画像取得操作部106bを操作すると、当該ライブ画像が良品画像として登録される。同様に、画像表示領域106aにライブ画像として不良品画像を表示させた状態で、不良品画像取得操作部106cを操作すると、当該ライブ画像が不良品画像として登録される。これを繰り返すことで複数の良品画像及び不良品画像を登録することができる。
【0073】
ファイル読込ボタン106eを押すと、記憶装置19の特定のフォルダに記憶されている画像が画像表示領域106aに表示される。画像表示領域106aに表示された画像が良品画像であるときに良品画像取得操作部106bを操作すると、当該画像が良品画像として登録される。同様に、画像表示領域106aに、記憶装置19から読み込んだ不良品画像を表示させた状態で、不良品画像取得操作部106cを操作すると、当該画像が不良品画像として登録される。
【0074】
履歴読込ボタン106fを押すと、過去に撮像された画像が画像表示領域106aに表示される。画像表示領域106aに表示された画像が良品画像であるときに良品画像取得操作部106bを操作すると、当該画像が良品画像として登録される。同様に、画像表示領域106aに、過去に撮像された不良品画像を表示させた状態で、不良品画像取得操作部106cを操作すると、当該画像が不良品画像として登録される。
【0075】
良品画像を登録する方法は上記した方法に限られるものではない。例えば、学習画像登録部24は、学習検査モードかつ設定モードが選択された場合に、撮像ユニット3により撮像条件を変化させて検査対象物Wを複数回撮像させることによって得られた複数の画像を良品画像として登録するように構成することができる。撮像条件には、例えば照明条件と露光時間を含むことができ、これらのうち、一方のみまたは両方を変化させ、変化させた都度、撮像ユニット3により検査対象物Wを撮像して得られた良品画像を学習画像とすることができる。照明条件は、例えば、照明モジュール15から照射される光量等を挙げることができる。
【0076】
また、学習画像登録部24は、学習検査モードかつ設定モードが選択された場合に、撮像ユニット3に検査対象物Wを撮像させることによって得られた画像に基づいて複数の良品画像を自動生成して登録するように構成することもできる。自動生成される画像は、新たに良品画像として判定される画像(自動生成良品画像)であり、1枚であっても2枚以上であってもよい。例えば、良品画像と不良品画像の識別に寄与している特徴量の良品範囲(具体的には明るさ範囲)を読み込み、良品範囲内となる明るさの画像を自動的に生成することで自動生成良品画像を得ることができる。具体的には、予め入力されている良品画像の明るさを画像処理によって変更させることで、良品範囲内で最も暗い画像と、最も明るい画像を生成することができ、また、良品範囲内の中間の明るさの画像も生成することができる。これにより、使用者が良品を複数用意することなく、良品画像を複数生成することができる。以上のようにして生成された自動生成良品画像は登録しておき、後述する学習時に使用することができる。撮像ユニット3によって撮像した良品画像と、自動生成良品画像とを学習に使用することができる。
【0077】
(識別器生成部30の構成)
図3に示す識別器生成部30は、学習検査モードの設定モード時に、学習画像登録部24で登録された良品画像と不良品画像を学習し、良品画像と不良品画像を識別する識別器を生成する部分である。識別器生成部30は、図10に示す学習用ユーザーインターフェース106の学習開始ボタン106dが押されたことを検出すると、学習画像登録部24で登録された良品画像と不良品画像を読み込む。識別器生成部30は、読み込んだ良品画像と不良品画像を複数層で構成された機械学習器に入力する。
【0078】
具体的には、識別器生成部30はニューラルネットワークを有しており、そのニューラルネットワークのパラメータの初期値をランダムに決定しておき、ニューラルネットワークから出力される画像認識の誤差をフィードバックしながらパラメータを調整していく、いわゆるディープラーニングの手法の他、周知の遺伝的アルゴリズム(GA)、強化学習、ニューロファジィなどの手法を採用してもよい。パラメータが調整されたニューラルネットワーク、即ち学習済みのニューラルネットワークが使用者に提供される形態であってもよいし、使用者がパラメータを調整する形態であってもよい。ニューラルネットワークは、事前に学習済みの複数層で構成されたニューラルネットワークであってもよい。
【0079】
識別器による良品画像と不良品画像の識別に寄与している特徴量は、例えば、明るさ、角度、色、形状、位置等があるが、これら以外の特徴量が良品画像と不良品画像の識別に寄与している場合もあるので、特徴量の種類は特に限定されない。
【0080】
識別器生成部30による学習が完了すると、図11に示すように、学習設定ユーザーインターフェース104には学習済み表示104eがなされる。
【0081】
また、識別器生成部30は、ニューラルネットワークに良品画像及び不良品画像を入力することで、例えば図35に示すように、特徴量空間における良品画像と不良品画像の識別境界を生成する。
【0082】
(画像処理ツール選択部25の構成)
以上が学習検査モードの設定手順である。標準検査モードの場合は以下の設定を行う。はじめに、図3に示す画像処理ツール選択部25について説明する。画像処理ツール選択部25は、モード切替部29により設定モードに切り替えられ、かつ、検査種別選択部28により標準検査モードの選択が受け付けられている場合に機能する部分であり、画像処理ツールの選択を受け付けることができるように構成されている。画像処理ツール選択部25は、設定モードかつ標準検査モードの場合に、図12に示す画像処理ツールユーザーインターフェース107を生成して表示装置4に表示させる。
【0083】
画像処理ツールユーザーインターフェース107には、マスター画像を表示するためのマスター画像表示領域107aと、ツール表示領域107bと、次ステップボタン107cとが設けられている。ツール表示領域107bには、選択された画像処理ツールが表示されるようになっており、表示されるツールの数は1つであってもよいし、複数であってもよい。本実施形態では、ツール表示領域107bに、輪郭ツール107d、色面積ツール107e、エッジピクセルツール107fが表示されている場合を示している。
【0084】
画像処理ツールユーザーインターフェース107には、ツール追加ボタン107gが設けられている。画像処理ツール選択部25は、ツール追加ボタン107gが押されたことを検出すると、図13に示す画像処理ツール選択用ユーザーインターフェース108を生成して表示装置4に表示させる。画像処理ツール選択用ユーザーインターフェース108には、基本ツールタブ108aと、拡張1タブ108bと、拡張2タブ108cと、キャンセルボタン108dと、OKボタン108eとが設けられている。使用者が基本ツールタブ108aを選択すると、図13に示すように基本ツールタブ108aに分類されている画像処理ツールが一覧形式で表示される。一方、使用者が拡張1タブ108bを選択すると、図14に示すように拡張1タブ108bに分類されている画像処理ツールが一覧形式で表示される。図示しないが、拡張2タブ108cを選択した場合も同様に表示できる。画像処理ツールは、従来から周知のものであり、例えば、エッジ抽出機能によって画像における検査対象物Wのエッジを抽出する処理を行い、特定のエッジのX軸に対する傾斜角度や長さ等を特徴量として用いることができる。
【0085】
基本ツールタブ108a、拡張1タブ108b及び拡張2タブ108cに分類されている画像処理ツールのうち、任意の画像処理ツールを選択することができる。選択後、OKボタン108eが押されたことを検出すると、選択された画像処理ツールが有効になり、図12に示すように、画像処理ツールユーザーインターフェース107のツール表示領域107bに表示される。一方、図13及び図14に示す画像処理ツール選択用ユーザーインターフェース108のキャンセルボタン108dが押されたことを検出すると、画像処理ツールの選択操作がキャセルされる。
【0086】
(標準検査モード時の検査ウィンドウ設定部27)
図3に示す検査ウィンドウ設定部27は、標準検査モードの設定モード時に、マスター画像登録部23で登録されたマスター画像上で、画像処理ツール選択部25で選択された画像処理ツールを適用する範囲を規定するための標準検査用ウィンドウ(ルールベース検査用ウィンドウ)の設定を受け付ける部分である。図12に示すように、標準検査用ウィンドウ202をマスター画像と重畳表示することができる。標準検査用ウィンドウ202の設定手法は、学習検査モード時の検査用ウィンドウの設定手法と同じにすることができる。また、標準検査用ウィンドウ202は複数設定することができる。さらに、学習検査モード時と同様に、位置補正ウィンドウ203を設定することもできる。
【0087】
(パラメータ調整部26の構成)
図3に示すパラメータ調整部26は、標準検査モードの設定モード時に、画像処理ツール選択部25で選択された画像処理ツールのパラメータの調整を受け付ける部分である。図12に示す画像処理ツールユーザーインターフェース107のツール表示領域107bには、画像処理ツール選択部25で選択された画像処理ツールが表示されており、輪郭ツール107d、色面積ツール107e、幅ツール107fのそれぞれについてパラメータの一つである閾値を調整可能なスライドバーが設けられている。スライドバーによって閾値を調整することができる他、例えば数値の入力によって閾値を調整することもできる。閾値以外のパラメータを画像処理ツール毎に調整することができ、パラメータ調整部26で調整可能なパラメータは特に限定されるものではない。
【0088】
(出力割り当て操作)
図8及び図11に示す学習設定ユーザーインターフェース104の次ステップボタン104、図12に示す画像処理ツールユーザーインターフェース107の次ステップボタン107cが押されたことを制御ユニット2が検出すると、出力割り当て工程に進む。制御ユニット2は、次ステップボタン104または次ステップボタン107cが押されたことを検出すると、図15に示す出力割り当てユーザーインターフェース109を生成して表示装置4に表示させる。
【0089】
出力割り当てユーザーインターフェース109には、出力関連の設定を行うための設定領域109aと、完了ボタン109bとが設けられている。設定領域109aでは、複数の出力関連の設定を行うことができるようになっており、例えば総合判定、ビジー、エラー等の設定が可能になっている。完了ボタン109bは出力関連の設定が完了した際に操作されるボタンである。完了ボタン109bが押されたことを制御ユニット2が検出すると、設定モードが終了し、例えば、図4に示す起動時ユーザーインターフェース100を表示装置4に表示させる。
【0090】
(画像検査装置1の設定方法)
上述したように、起動後、設定モードが選択されると、学習検査モードと標準検査モードのどちらの設定を行うのか選択を受け付け、受け付けられた検査モードの設定を行うことができる。学習検査モードと標準検査モードのいずれのモードが選択されても、撮像条件設定及びマスター画像登録を行うので、撮像条件設定及びマスター画像登録は、学習検査モードと標準検査モードに共通する設定事項である。
【0091】
学習検査モードの設定の場合、撮像条件設定及びマスター画像登録が完了すると、検出ウィンドウ設定及び学習用画像の入力・登録を行い、識別器を生成する。一方、標準検査モードの場合、撮像条件設定及びマスター画像登録が完了すると、画像処理ツール選択及び画像処理ツールのパラメータ調整を行う。その後、学習検査モードと標準検査モードのいずれのモードであっても同様な出力割り当てを行う。したがって、出力割り当ても、学習検査モードと標準検査モードに共通する設定事項である。
【0092】
以下、画像検査装置1の設定方法の例について図16に示すフローチャートに基づいて説明する。スタート後のステップSA1は起動操作であり、例えば電源の投入等である。ステップSA1が行われると、図4に示す起動時ユーザーインターフェース100が表示装置4に表示される。ステップSA2は、起動時ユーザーインターフェース100のセンサ設定ボタン100aを押すステップである。センサ設定ボタン100aが押されると、ステップSA3に進み、図5に示す検査種別選択ユーザーインターフェース101が表示装置4に表示される。ステップSA4では、検査種別選択ユーザーインターフェース101で選択された検査モードが学習検査モードであるか否かを判定する。ステップSA1~ステップSA4までは学習検査モードと標準検査モードに共通するステップである。
【0093】
図5に示す検査種別選択ユーザーインターフェース101の学習検査モード選択ボタン101aが押された場合には、ステップSA5に進む。ステップSA5では、図6に示す撮像条件設定ユーザーインターフェース102が表示装置4に表示されるので、使用者が撮像条件を設定する。これが撮像条件設定ステップである。ステップSA5が終了すると、ステップSA6に進み、図7に示すマスター画像登録ユーザーインターフェース103が表示装置4に表示される。このステップは、ステップSA5で設定した撮像条件で撮像した画像をマスター画像として登録するマスター画像登録ステップである。その後、ステップSA7に進むと、図8に示す学習設定ユーザーインターフェース104が表示装置4に表示されるので、検査ウィンドウ設定ボタン104bを押して検査ウィンドウを設定する。検査ウィンドウの設定が終わり、学習ボタン104cを押すと、ステップSA8に進む。ステップSA8では、図10に示す学習用ユーザーインターフェース106が表示装置4に表示される。これにより、学習用の画像としての良品画像を登録できる。また、ステップSA9では同じユーザーインターフェース106上で学習用の画像としての不良品画像を登録できる。ステップSA8とステップSA9とは入れ替わっていてもよい。ステップSA8及びステップSA9は学習画像登録ステップである。
【0094】
次いでステップSA10に進む。ステップSA10は、図10に示す学習用ユーザーインターフェース106の学習開始ボタン106dが押されると開始される。ステップSA10は、良品画像と不良品画像を学習し、良品画像と不良品画像を識別する識別器を生成する識別器生成ステップである。
【0095】
必須ではないが、ステップSA11及びステップSA12において追加学習を行うこともできる。使用者が追加学習を行う必要があると判断した場合、ステップSA11からステップSA12に進み、別の良品画像や不良品画像を登録して識別器生成部30に学習させる。学習が完了すると、図11に示す学習設定ユーザーインターフェース104が表示装置4に表示される。
【0096】
その後、ステップSA13に進む。ステップSA13では、図15に示す出力割り当てユーザーインターフェース109が表示装置4に表示され、これにより、出力関連の設定を行うことができる。
【0097】
一方、ステップSA4でNOと判定され、標準検査モードが選択された場合には、ステップSA14に進む。ステップSA14はステップSA5と同じである。また、その後のステップSA15はステップSA6と同じである。このフローチャートでは、ステップSA5、ステップSA6を、ステップSA14、ステップSA15と分けて記載しているが、ステップSA5とステップSA14が同じなので共通化することもでき、また、ステップSA6とステップSA15が同じなので共通化することもできる。
【0098】
その後、ステップSA16に進むと、図12に示す画像処理ツールユーザーインターフェース107が表示装置4に表示され、画像処理ツールを選択することができる。これが画像処理ツール選択ステップである。
【0099】
画像処理ツールを選択した後、ステップSA17に進む。ステップSA17では、マスター画像登録ステップ(ステップSA15)で登録されたマスター画像上で、画像処理ツール選択ステップ(ステップSA16)で選択された画像処理ツールを適用する範囲を規定するための検査用ウィンドウを設定する。これが検査ウィンドウ設定ステップである。
【0100】
検査用ウィンドウの設定が終了すると、ステップSA18に進む。ステップSA18では、画像処理ツール選択ステップ(ステップSA16)で選択された画像処理ツールのパラメータを調整する。これがパラメータ調整ステップである。その後、ステップSA13に進み、出力関連の設定を行う。以上のようにして、学習検査モードの設定と、標準検査モードの設定を行うことができる。
【0101】
(良否判定部31の構成)
次に運転モードに関連する部分について説明する。図3に示す良否判定部31は、運転モード時に、検査種別選択部28により標準検査モードが選択されている場合は、撮像ユニット3により新たに撮像された画像に標準検査用ウィンドウを設定して当該標準検査用ウィンドウ内の画像に画像処理ツール選択部25で選択された画像処理ツールを適用することにより検査対象物Wの良否判定を行い、検査種別選択部28により学習検査モードが選択されている場合は、撮像ユニット3により新たに撮像された画像を識別器に入力することにより、検査対象物Wの良否判定を行うように構成されている。学習検査モードが選択されている場合には、学習検査用ウィンドウを設定して差分検出の範囲を規定するようにしてもよい。
【0102】
良否判定部31は、図17に示すように学習検査用ウィンドウが複数設定されている場合には、学習検査用ウィンドウ毎に良否判定を行うように構成されている。すなわち、学習検査用ウィンドウ200A内の画像が良品画像であるか不良品画像であるかを判定するとともに、学習検査用ウィンドウ200B内の画像が良品画像であるか不良品画像であるかを判定し、個別に判定結果を出力する。良否判定部31は、複数の判定結果を考慮して総合判定結果を出力する。複数の判定結果が同じであれば、その結果を総合判定結果とし、相互に異なっていれば、総合判定結果を不良品画像であるとすることができる。
【0103】
良否判定部31は、図17に示す運転モードユーザーインターフェース120を生成して表示装置4に表示させる。運転モードユーザーインターフェース120は、運転モード画面を構成するものである。運転モードユーザーインターフェース120には、検査対象画像を表示する画像表示領域120aと、総合判定結果表示領域120bと、位置補正結果表示領域120cと、第1検査ウィンドウ結果表示領域120dと、第2検査ウィンドウ結果表示領域120eと、追加学習ボタン120fと、閾値調整ボタン120gとが設けられている。
【0104】
画像表示領域120aには、運転モード中に撮像ユニット3により新たに撮像された検査対象画像が表示される。総合判定結果表示領域120bには、画像表示領域120aに表示されている検査対象画像が良品画像であるか不良品画像であるかが表示される。具体的には、良品画像である場合には「OK」と表示され、不良品画像である場合には「NG」と表示されるようになっているが、これに限らず、良品画像であるか不良品画像であるかを使用者が判別できれば、どのような表示形態であってもよい。画像表示領域120aと、総合判定結果表示領域120bとを同一の運転モードユーザーインターフェース120に設けているので、運転モードにおいて、検査対象画像を良否判定結果とともに表示装置4に表示することができる。
【0105】
位置補正結果表示領域120cには、検査対象画像に含まれる検査対象物Wを位置補正した結果が表示される。位置補正が良好に行われているか、位置補正に失敗したかが総合判定結果とは別に位置補正結果表示領域120cに表示される。第1検査ウィンドウ結果表示領域120dには、学習検査用ウィンドウ200A内の画像の良否判定結果が表示され、また、第2検査ウィンドウ結果表示領域120eには、学習検査用ウィンドウ200B内の画像の良否判定結果が表示される。また、閾値調整ボタン120gは、良否判定の閾値を調整するためのボタンであり、良否判定部31は、閾値が調整された場合、その閾値に基づいて良否判定を行う。
【0106】
追加学習ボタン120fは、画像表示領域120aに表示されている検査対象画像を、後述するように追加で学習する場合に操作されるボタンである。
【0107】
また、良否判定部31は、標準検査モードの運転モード時には、画像処理ツールを使用して検査対象物Wの良否判定を行う。例えば、画像内の検査対象物Wの色、エッジ、位置等と、使用者により設定された閾値とを比較して検査対象物Wの良否の判定を行うことができる。良否判定結果は、学習検査モードの場合と同様にユーザーインターフェースに表示させることができる。
【0108】
(追加学習画像指定部32の構成)
図3に示す追加学習画像指定部32は、学習検査モード時の運転モード画面に表示された検査対象画像を良品画像又は不良品画像として追加学習させるか否かの指定を受け付ける部分である。追加学習画像指定部32は、図17に示す運転モードユーザーインターフェース120の追加学習ボタン120fが押されたことを検出すると、図18に示す割り込み画面121を生成し、運転モードユーザーインターフェース120の所定位置に表示する。追加学習ボタン120fが押されたということは、検査対象画像を良品画像又は不良品画像として追加学習させる指定操作が行われたということである。この指定操作が受け付けられると、良否判定部31は、良否判定処理、即ち運転モードを一時的に停止するように構成されている。
【0109】
割り込み画面121には、追加学習の対象となる画像を表示する画像表示領域121aと、メッセージ表示領域121bと、キャンセルボタン121cと、OKボタン121dとが設けられている。画像表示領域121aに表示される画像は、図17に示す運転モードユーザーインターフェース120の画像表示領域120aに表示されている現在の検査対象画像である。メッセージ表示領域121bには、運転モードを一時的に停止することを使用者に報知するためのメッセージが表示される。つまり、追加学習画像の指定を受け付けると、表示装置4は、運転モードを一時的に停止することを使用者に報知可能に構成されている。上記報知の形態はメッセージに限られるものではなく、他の形態であってもよい。
【0110】
キャンセルボタン121cは、追加学習をキャンセルするためのボタンである。追加学習画像指定部32は、キャンセルボタン121cが押されたことを検出すると、画像表示領域121aに表示されている画像の学習を行うことなく、割り込み画面121を消去して図17に示す運転モードユーザーインターフェース120を表示装置4に表示させる。
【0111】
OKボタン121dは、追加学習を実行させるためのボタンである。追加学習画像指定部32は、OKボタン121dが押されたことを検出すると、画像表示領域121aに表示されている画像を識別器生成部30に学習するように指示する。
【0112】
(追加学習処理)
図3に示す識別器生成部30は、追加学習画像指定部32により追加学習対象として指定された検査対象画像を良品画像又は不良品画像として追加学習し、識別器を更新するように構成されている。識別器生成部30は、追加学習画像指定部32により追加学習対象の画像が指定されたことを検出すると、図19に示す追加学習ユーザーインターフェース122を生成し、表示装置4に表示させる。追加学習ユーザーインターフェース122には、追加学習対象として指定された検査対象画像を表示する画像表示領域122aと、第1検査ウィンドウ学習指示領域122bと、第2検査ウィンドウ学習指示領域122cと、キャンセルボタン122dと、追加学習開始ボタン122eとが設けられている。第1検査ウィンドウ学習指示領域122bは、学習検査用ウィンドウ200Aで規定された範囲の画像を良品画像と不良品画像のどちらで追加学習させるかを入力するための領域であり、「NG」を選択すると、学習検査用ウィンドウ200Aで規定された範囲の画像を不良品画像として学習させ、「OK」を選択すると、学習検査用ウィンドウ200Aで規定された範囲の画像を良品画像として学習させる。また、第2検査ウィンドウ学習指示領域122cは、学習検査用ウィンドウ200Bで規定された範囲の画像を良品画像と不良品画像のどちらで追加学習させるかを入力するための領域であり、「NG」を選択すると、学習検査用ウィンドウ200Bで規定された範囲の画像を不良品画像として学習させ、「OK」を選択すると、学習検査用ウィンドウ200Bで規定された範囲の画像を良品画像として学習させる。このように、学習検査用ウィンドウ200Aで規定された範囲の画像と、学習検査用ウィンドウ200Bで規定された範囲の画像とを個別に学習させることができるようになっている。尚、学習検査用ウィンドウ200Aで規定された範囲の画像と、学習検査用ウィンドウ200Bで規定された範囲の画像の中から、一方のみを学習するような指示を受け付けるように構成することもできる。
【0113】
識別器生成部30は、キャンセルボタン122dが押されたことを検出すると、追加学習を行うことなく、図19に示す追加学習ユーザーインターフェース122を消去して、図17に示す運転モードユーザーインターフェース120に戻るので、識別器は更新されない。一方、識別器生成部30は、追加学習開始ボタン122eが押されたこと(追加学習の開始操作)を検出すると、追加学習を開始し、識別器が更新される。追加学習を行うことで、例えば図35に示す特徴量空間における識別境界が更新されることになる。
【0114】
(履歴画像の記憶)
図2に示す記憶装置19には、図3に示す良否判定部31により良否判定を行った複数の検査対象画像を良否判定結果とともに履歴画像として記憶するように構成されている。良否判定部31により良否判定を行った検査対象画像は、運転画像履歴フォルダに保存される。例えば、図17に示す運転モードユーザーインターフェース120の画像表示領域120aに表示されている検査対象画像と、総合判定結果表示領域120bに表示されている総合判定結果とを共通のID番号等に関連付けた状態で記憶装置19に記憶することができる。このとき、画像表示領域120aに表示されている検査対象画像と、位置補正結果表示領域120cに表示されている結果と、第1検査ウィンドウ結果表示領域120dに表示されている結果と、第2検査ウィンドウ結果表示領域120eに表示されている結果とを関連付けた状態で記憶装置19に記憶してもよい。
【0115】
また、記憶装置19には、学習画像履歴フォルダを設けることができる。学習画像履歴フォルダには、識別器生成部30が学習に使用した良品画像及び不良品画像が記憶されている。
【0116】
図20に示すように、運転モードユーザーインターフェース120の下部には、メニューを表示することができるようになっている。運転モードユーザーインターフェース120のメニューには、運転/学習画像履歴ボタン120hが設けられている。制御ユニット2は、運転/学習画像履歴ボタン120hが押されたことを検出すると、図21に示すように、履歴種別選択用割り込み画面123を生成し、運転モードユーザーインターフェース120の所定位置に表示する。履歴種別選択用割り込み画面123には、運転画像履歴ボタン123aと、学習画像履歴ボタン123bと、キャンセルボタン123cとが設けられている。運転画像履歴ボタン123aは、記憶装置19の運転画像履歴フォルダに保存されている良否判定後の検査対象画像を表示させる際に操作されるボタンである。制御ユニット2は、運転画像履歴ボタン123aが押されたことを検出すると、図22に示す運転画像履歴表示ユーザーインターフェース124を生成して表示装置4に表示させる。
【0117】
運転画像履歴表示ユーザーインターフェース124には、良否判定がされた複数の検査対象画像を一覧形式で表示する画像表示領域124aと、追加学習指定ボタン124bと、戻るボタン124cと、画像詳細ボタン124dと、学習候補画像ボタン124eとが設けられている。画像表示領域124aには、検査対象画像と良否判定結果とが関連付けられた状態で表示される。画像表示領域124aに表示された画像を、例えば使用者による選択操作によって選択することができるようになっている。制御ユニット2は、画像表示領域124aに表示された画像のいずれかが選択された状態で、画像詳細ボタン124dが押されたことを検出すると、図23に示す選択画像表示ユーザーインターフェース125を生成して表示装置4に表示させる。選択画像表示ユーザーインターフェース125には、運転画像履歴表示ユーザーインターフェース124で選択した画像を表示する画像表示領域125aと、位置補正結果表示領域125cと、第1検査ウィンドウ結果表示領域125dと、第2検査ウィンドウ結果表示領域125eと、追加学習実行ボタン125fと、戻るボタン125gとが設けられている。制御ユニット2は、追加学習実行ボタン125fが押されたことを検出すると、画像表示領域125aに表示されている画像を識別器生成部30に追加学習するように指示する。制御ユニット2は、戻るボタン125gが押されたことを検出すると、図22に示す運転画像履歴表示ユーザーインターフェース124を表示装置4に表示させる。これを繰り返すことで、複数の履歴画像を識別器生成部30に追加学習させることができる。
【0118】
制御ユニット2は、追加学習指定ボタン124bが押されたことを検出すると、図24に示す追加学習ユーザーインターフェース122を生成し、表示装置4に表示させる。図24に示す追加学習ユーザーインターフェース122は、図19に示すものと比べて追加学習画像が異なっている。
【0119】
制御ユニット2は、図22に示す運転画像履歴表示ユーザーインターフェース124の戻るボタン124cが押されたことを検出すると、図21に示す運転モードユーザーインターフェース120を表示装置4に表示させる。履歴種別選択用割り込み画面123の学習画像履歴ボタン123bは、記憶装置19の学習画像履歴フォルダに保存されている学習に用いられた画像を表示させる際に操作されるボタンである。制御ユニット2は、履歴種別選択用割り込み画面123の学習画像履歴ボタン123bが押されたことを検出すると、図24に示す学習画像履歴表示ユーザーインターフェース126を生成して表示装置4に表示させる。学習画像履歴表示ユーザーインターフェース126には、学習に用いられた画像を一覧形式で表示する画像表示領域126aと、削除ボタン126bと、戻るボタン126cとが設けられている。画像表示領域126aに表示された画像を、例えば使用者による選択操作によって選択することができるようになっている。制御ユニット2は、画像表示領域126aに表示された画像のいずれかが選択された状態で、削除ボタン126bが押されたことを検出すると、選択された画像を削除する。制御ユニット2は、学習画像が削除されたことを検出すると、当該画像が学習結果に反映されないように、識別器生成部30に識別器を更新させる。制御ユニット2は、戻るボタン126cが押されたことを検出すると、図21に示す運転モードユーザーインターフェース120を表示装置4に表示させる。
【0120】
(安定性評価値算出部33の構成)
図3に示す安定性評価値算出部33は、記憶装置19に記憶された複数の履歴画像の良否判定の安定性を示す安定性評価値を算出する部分である。安定性評価値算出部33は、良品らしさ又は不良品らしさを示す判定値と、良品と不良品を識別する閾値との近接度を算出し、当該近接度を安定性評価値とするように構成することができる。安定性評価値は、使用者が把握できるような形態、例えば数値等で表示装置4に表示させてもよいし、表示することなく、画像検査装置1に内部的に持たせておいてもよい。
【0121】
安定性評価値は、履歴画像の良否判定の安定性を示すものであることから、既に生成されている識別器による良否判定の安定性が高いか低いかを把握可能な値である。良否判定の安定性が高い場合には、その履歴画像は既に生成されている識別器によって安定的に識別できているので、追加学習の必要性が低い画像であると判断される。一方、良否判定の安定性が低い場合には、その履歴画像は既に生成されている識別器では識別が不安定であるので、識別器を更新するべく、追加学習の必要性が高い画像であると判断される。
【0122】
(追加学習候補の提示)
表示装置4は、安定性評価値算出部33が算出した安定性評価値に基づいて、識別器に追加学習させる候補画像を使用者に提示することが可能に構成されている。すなわち、制御ユニット2は、図22に示す運転画像履歴表示ユーザーインターフェース124の学習候補画像ボタン124eが押されたことを検出すると、図26に示すように、候補画像を使用者に提示する割り込み画面127を生成し、運転画像履歴表示ユーザーインターフェース124の所定位置に表示する。割り込み画面127には、候補画像を表示する画像表示領域127aと、キャンセルボタン127bと、OKボタン127cとが設けられている。画像表示領域127aに表示される画像は、安定性評価値に基づいて、既に生成されている識別器では識別が不安定であると判定される画像である。具体的には、良品らしさ又は不良品らしさを示す判定値と、良品と不良品を識別する閾値との近接度が高い画像とすることができ、この近接度が所定以上の履歴画像を候補画像として表示装置4によって使用者に提示することができる。
【0123】
画像表示領域127aには、既に生成されている識別器での識別が最も不安定な画像を表示することができるが、これに限らず、既に生成されている識別器での識別が最も不安定な画像、その次に不安定な画像を含む複数の候補画像を表示することもできる。
【0124】
また、表示装置4は、安定性評価値が第1の所定値未満の履歴画像を候補画像として使用者に提示するように構成されていてもよい。識別が安定している画像を候補画像としても識別器を更新させることができず、追加学習を行う意味が無いので、上記第1の所定値は、識別器生成部30に追加学習させることで識別器を更新させることができる程度の値とすることができる。
【0125】
表示装置4は、複数の候補画像を使用者に一度に提示するような表示形態で表示することもできる。この場合、安定性評価値の高い順または低い順に候補画像を並べて提示するように構成することができる。具体的な手順については後述する。
【0126】
複数の候補画像が表示装置4により提示された場合、使用者は、図3に示す追加学習画像指定部32によって追加学習画像としての指定を受け付けることができる。使用者が、複数の候補画像の中から1つの候補画像を選択すると、追加学習画像指定部32は、指定された候補画像を追加学習画像として受け付けるとともに、良品画像又は不良品画像の指定も受け付けた後、当該候補画像を識別器生成部30に追加学習させる。識別器生成部30は、使用者により指定された追加学習画像を、良品画像又は不良品画像として追加学習し、識別器を更新するように構成されている。
【0127】
表示装置4は、複数の履歴画像を時系列で表示する第1表示形態と、識別器に追加学習させる候補画像を使用者に提示する第2表示形態とに切り替え可能に構成されている。上記第1表示形態は、図22に示す運転画像履歴表示ユーザーインターフェース124の画像表示領域124aにおいて実現される。画像表示領域124aには、撮像した順、即ち良否判定がされた順に検査対象画像を表示することができる。また、上記第2表示形態は、図26に示す割り込み画面127で実現される。
【0128】
(標準検査モード運転時)
次に、標準検査モードの運転モード時の手順について図27に示すフローチャートに基づいて説明する。スタート後のステップSB1では検査対象画像を入力する。この検査対象画像は、撮像ユニット3によって所定のタイミングで撮像された画像であり、撮像ユニット3から良否判定部31に入力される。
【0129】
ステップSB2は、ステップSB1で撮像ユニット3により新たに撮像された検査対象画像を識別器に入力し、良否判定を行う良否判定ステップである。ステップSB2による判定結果に基づいて判定の閾値の調整が必要か否かを使用者が判定する。これがステップSB3であり、閾値の調整が必要であればステップSB4に進んで閾値を調整した後、ステップSB5に進む一方、閾値の調整が不要であればステップSB5に進む。ステップSB5では、判定が終わった検査対象画像と判定結果とを関連付けて記憶装置19に記憶する。
【0130】
(判定軸抽出部34の構成)
次に、図3に示す判定軸抽出部34について説明する。判定軸抽出部34は、学習画像登録部24により登録された良品画像及び不良品画像に基づいて、良品らしさまたは不良品らしさを示す判定軸を抽出する部分である。判定軸には、良品画像における良品らしさを示す第1の判定軸と、不良品画像における不良品らしさを示す第2の判定軸とが含まれているが、いずれか一方のみを抽出するようにしてもよい。判定軸の具体例としては、例えば色、明るさ、面積等を挙げることができるが、これら以外が判定軸であってもよい。
【0131】
ある判定軸で対象画像を測定して、予め設定された基準値と測定結果とを比較して対象画像の識別を行うことができる。例えば、色で判定する場合は判定軸として設定された色を表示装置4に表示するようにし、また、面積で判定する場合は判定軸として面積の算出に用いられた画素を表示装置4に表示する。これにより、学習検査モード時に画像検査装置1がどのような判定軸でもって画像識別を行っているのかを使用者が把握できる。
【0132】
判定軸抽出部34は、識別器生成部30が追加学習等によって識別器を更新した場合に、判定軸を抽出し直すように構成されている。すなわち、識別器が更新されると、良品らしさまたは不良品らしさを示す判定軸が変更される場合があり、判定軸抽出部34は識別器生成部30が識別器を更新したことを検出すると、判定軸を抽出する処理を行う。これにより、更新後の識別器と判定軸とを対応させることができる。
【0133】
制御ユニット2は、判定軸抽出部34で抽出した判定軸に基づいて良品らしさまたは不良品らしさを示す判定評価値を算出するように構成されている。例えば、良品の判定軸として設定された色に近いほど判定評価値が高くなるように判定評価値を算出し、一方、良品の判定軸として設定された色との相違が大きいほど判定評価値が低くなるように判定評価値を算出することができる。判定評価値には、第1の判定軸に基づいて算出された良品らしさを示す第1判定評価値と、第2の判定軸に基づいて算出された不良品らしさを示す第2判定評価値とが含まれているが、いずれか一方のみを算出するようにしてもよい。
【0134】
制御ユニット2は、算出された判定評価値により、良品としての特徴または不良品としての特徴を有する領域を選択的に強調した検査対象画像を生成し、表示装置4に表示させるように構成されている。第1判定評価値及び第2判定評価値を算出した場合、第1判定評価値と第2判定評価値とにより、良品としての特徴を有する領域を選択的に強調した検査対象画像と、不良品としての特徴を有する領域を選択的に強調した検査対象画像とを表示装置4に表示可能に構成することができる。
【0135】
また、第1判定評価値及び第2判定評価値を算出した場合、制御ユニット2は、第1判定評価値と第2判定評価値とを比較して、検査対象画像が良品としての特徴を多く有する場合は、良品としての特徴を有する領域を選択的に強調した検査対象画像を表示し、検査対象画像が不良品としての特徴を多く有する場合は、不良品としての特徴を有する領域を選択的に強調した検査対象画像を生成して表示装置4に表示させる。
【0136】
ここで「強調」とは、画像の一部を他の部分と区別することができるようにすることであり、例えば、良品としての特徴または不良品としての特徴を有する特定の領域のみ着色することによって強調することができ、特定の領域のみ着色した画像を表示装置4に表示させることができる。特に、判定軸抽出部34が色を判定軸として抽出した場合、不良品としての特徴を有する領域を当該不良品の色で着色することによって強調するように構成することや、良品としての特徴を有する領域を当該良品の色で着色することによって強調するように構成することができる。また、不良品としての特徴を有する領域に着色する色と、良品としての特徴を有する領域に着色する色とは変えることができる。さらに、良品としての特徴または不良品としての特徴を有する領域の色を、判定評価値の大きさに応じて変化させることができる。判定評価値が大きければ大きいほど色を濃くする、または判定評価値が小さければ小さいほど色を薄くすることができる。
【0137】
以下、表示例について説明する。図28は、良品らしい部分と不良品らしい部分とが含まれている検査対象画像の例を示す図であり、(A)は良品画像である確率が高い場合、(B)は良品画像の確率が半分程度の場合、(C)は不良品画像である確率が高い場合である。各図において符号400が付された灰色の部分が良品らしいと判定される部分であり、符号401が付された黒色の部分が不良品らしいと判定される部分である。
【0138】
(A)~(C)の上側に位置する図は検査対象画像であり、下側に位置する図は、良品としての特徴を有する領域または不良品としての特徴を有する領域を選択的に強調した検査対象画像である。判定軸は色である。(A)の場合、枠(検査用ウィンドウ)402によって囲まれた領域が灰色の部分400であることから、良品らしいと判定される部分である。このため、良品画像の確率が90%以上の高い確率となっている。枠402によって囲まれた領域は、良品の色(灰色)で着色されており、強調表示されている。良品画像の確率は、良否判定部31で算出することができる。
【0139】
(B)の場合、枠403によって囲まれた領域が灰色の部分400と黒色の部分401とを含んでおり、灰色の部分400の面積と、黒色の部分401の面積とが同程度であることから、良品らしいと判定することも、不良らしいと判定することも難しい。このため、良品画像の確率が5割に近い確率となっている。この場合、枠403によって囲まれた領域は、着色されていない。つまり、強調表示されていない。
【0140】
(C)の場合、枠404によって囲まれた領域が黒色の部分401であることから、不良品らしいと判定される部分である。このため、良品画像の確率が数%程度の低い確率となっている。枠403によって囲まれた領域は、不良品の色(黒)で着色されており、強調表示されている。
【0141】
図29は、文字を含む検査対象画像の例を示しており、(A)は良品画像、(B)は領域が選択的に強調された検査対象画像である。(B)に示すように、良品画像と同じ文字が検査対象画像にも存在する場合、その文字が記載された領域については良品らしいと判定することができる。枠405は、文字が記載された領域を囲むものであり、枠405によって囲まれた領域は強調するために着色されている。
【0142】
図30は、検査対象物Wの別の例を示しており、(A)は良品画像、(B)は不良品画像、(C)は運転モード時に良品が撮像された場合の検査対象画像、(D)は運転モード時に不良品が撮像された場合の検査対象画像を示す図である。(A)の良品画像には、白丸と文字が含まれているが、(B)の不良品画像には、白丸と文字が無い。この場合、良品らしさの判定軸は、「白丸がある」、「文字がある」となり、不良品らしさの判定軸は、「白丸がない」、「文字がない」となる。(C)に示すように、運転モード時に良品が撮像された場合、良品を囲む枠406の内部が、当該領域を強調するために濃く着色されている。一方、(D)に示すように、運転モード時に不良品が撮像された場合、不良品を囲む枠407の内部が、当該領域を強調するために白く着色されている。
【0143】
図31は、図30に示すケースにおいて追加学習した場合の図であり、(A)は追加学習に使用する不良品画像を示し、(B)は追加学習後の運転モード時に不良品が撮像された場合の検査対象画像を示している。(A)に示すように、追加学習に使用する不良品画像では、検査対象物Wの右側に白丸がある。つまり、不良品らしさの判定軸は「右側の白丸がある」となる。(B)に示すように、運転モード時に不良品が撮像された場合、不良品を囲む枠408の内部が、当該領域を強調するために白く着色されている。尚、強調領域を着色する色は特に限定されるものではない。
【0144】
(学習検査モードの運転時)
次に、学習検査モードの運転モード時の手順について図32に示すフローチャートに基づいて説明する。スタート後のステップSC1では検査対象画像を入力する。この検査対象画像は、撮像ユニット3によって所定のタイミングで撮像された画像であり、撮像ユニット3から良否判定部31に入力される。
【0145】
ステップSC2は、ステップSC1で撮像ユニット3により新たに撮像された検査対象画像を識別器に入力し、良否判定を行う良否判定ステップである。このステップでは、判定軸抽出部34により、良品らしさまたは不良品らしさを示す判定軸を抽出する。続くステップSC3は、良否判定ステップで良否判定された検査対象画像を、良否判定ステップによる良否判定結果とともに、図17に示す運転モードユーザーインターフェース120に表示する表示ステップである。
【0146】
ステップSC4では、運転モードユーザーインターフェース120に表示された画像を追加学習すると指定されたか否かを判定する。ステップSC4は、表示ステップで運転モードユーザーインターフェース120に表示された検査対象画像を良品画像又は不良品画像として追加学習させるか否かの指定を受け付ける追加学習設定ステップである。
【0147】
追加学習が指定されればステップSC5に進んで当該画像により追加学習を行う。つまり、ステップSC5は、追加学習設定ステップ(ステップSC4)により追加学習対象として指定された検査対象画像を良品画像又は不良品画像として追加学習し、識別器を更新するステップである。その後、ステップSC6において、画像を履歴画像として良否判定結果とともに記憶装置19に記憶させる。一方、ステップSC4で追加学習が指定されなければ、追加学習を行うことなくステップSC6に進む。ステップSC6は、記憶ステップである。
【0148】
(学習候補画像の提示手順)
図33は、学習候補画像を提示する場合のフローチャートである。スタート後のステップSD1は、安定性評価値算出ステップである。具体的には、図32に示すフローチャートのステップSC2(良否判定ステップ)で良否判定を行った検査対象画像の良品らしさ又は不良品らしさを示す判定値と、良品と不良品を識別する閾値との近接度を算出する。そして、当該近接度を、当該検査対象画像の良否判定の安定性を示す安定性評価値とする。また、安定性評価値算出ステップでは、図32に示すフローチャートのステップSC6(記憶ステップ)で記憶された複数の履歴画像の良否判定の安定性を示す安定性評価値を算出することもできる。
【0149】
ステップSD2では、ステップSD1で算出した安定性評価値に基づいて、識別器に追加学習させる候補画像を使用者に提示する。これが表示ステップである。例えば図26に示す運転画像履歴表示ユーザーインターフェース124を表示装置4に表示させる。
【0150】
ステップSD3では、候補画像を追加学習させると指定されたか否かを判定する。ステップSD3は、表示ステップで運転画像履歴表示ユーザーインターフェース124に表示された検査対象画像を良品画像又は不良品画像として追加学習させるか否かの指定を受け付ける追加学習設定ステップである。
【0151】
追加学習が指定されればステップSD4に進んで当該候補画像により追加学習を行う。つまり、ステップSD4は、追加学習設定ステップ(ステップSD3)により追加学習対象として指定された追加学習画像を良品画像又は不良品画像として追加学習し、識別器を更新するステップである。一方、ステップSD3で追加学習が指定されなければ、追加学習は行わない。
【0152】
(履歴画像のソート)
追加学習候補として使用者に提示する履歴画像をソートすることができる。スタート後のステップSE1では、安定性評価値算出部33が、履歴画像毎に、良品らしさ又は不良品らしさを示す判定値と、良品と不良品を識別する閾値との差分を計算する。これにより、判定値と閾値との近接度を得ることができる。記憶装置19が記憶している全ての履歴画像について差分計算を行ってもよいし、直近の複数の履歴画像のみについて差分計算を行ってもよい。
【0153】
ステップSE2では、制御ユニット2が、ステップSE1で計算した差分の小さい順に履歴画像をソートする。このとき、差分計算した全ての履歴画像をソートしてもよいし、差分が所定未満の複数の履歴画像のみソートしてもよい。
【0154】
ステップSE3では、制御ユニット2がステップSE2のソート結果を表示装置4に表示させる。制御ユニット2が、複数の履歴画像を差分の小さい順に並べて表示するユーザーインターフェースを生成するようにしてもよい。このユーザーインターフェースに表示する画像の数は、例えば5~10程度にすることができ、複数段に分けて表示してもよい。差分が小さいということは安定的に判定できていないということであるので、そのような画像は追加学習候補画像であり、この追加学習候補画像を使用者に複数提示することができる。
【0155】
ステップSE4では、候補画像を追加学習させると指定されたか否かを判定する。ステップSE4は、表示ステップで運転画像履歴表示ユーザーインターフェース124に表示された検査対象画像を良品画像又は不良品画像として追加学習させるか否かの指定を受け付ける追加学習設定ステップである。追加学習が指定されればステップSE5に進んで当該候補画像により追加学習を行う。つまり、ステップSE5は、追加学習設定ステップ(ステップSE4)により追加学習対象として指定された追加学習画像を良品画像又は不良品画像として追加学習し、識別器を更新するステップである。一方、ステップSE4で追加学習が指定されなければ、追加学習は行わない。
【0156】
(削除候補表示)
表示装置4は、安定性評価値が所定値以上の履歴画像を記憶装置19から削除する削除候補画像として使用者に提示するように構成されている。この所定値は、上記第1の所定値よりも高い第2の所定値としてもよいし、上記第1の所定値と同じにしてもよい。
【0157】
すなわち、上述したように、既に生成されている識別器によって安定的に識別できる画像は、安定性評価値が高く、追加学習の必要性が低い画像であると判断されるので、記憶装置19に保存していても殆ど役に立たない画像であり、記憶装置19のメモリを圧迫するだけであると考えられる。そのような画像を記憶装置19から削除することで、記憶装置19のメモリを節約できる。
【0158】
図35は、学習画像登録部24で登録された良品画像群と不良品画像群をある特徴量空間にプロットし、識別器生成部30で生成された識別器による良品画像と不良品画像との識別境界を示した模式図であり、図中、白色の領域は良品画像群がプロットされた領域であり、黒色の領域は不良品画像群がプロットされた領域である。
【0159】
良品画像群の中で、囲み線300で囲まれた良品画像は、識別境界から離れているので、囲み線300で囲まれた良品画像を追加学習させても識別境界が更新されず、学習する意味が殆ど無い。この囲み線300で囲まれた良品画像を削除候補画像として表示装置4が使用者に提示する。また、不良品画像群の中で、囲み線301で囲まれた不良品画像も識別境界から離れているので、囲み線301で囲まれた不良品画像を追加学習させても識別境界が更新されず、学習する意味が殆ど無い。この囲み線301で囲まれた不良品画像を削除候補画像として表示装置4が使用者に提示する。つまり、識別器による良品画像と不良品画像との識別境界から所定以上離れた履歴画像を削除候補画像として使用者に提示することができる。
【0160】
図36に示すフローチャートに基づいて削除候補画像の提示手順を説明する。スタート後のステップSF1では、識別器生成部30が、学習に用いた画像(履歴画像)の特徴量を算出する。特徴量を算出した後、ステップSF2に進み、履歴画像を図35に示すような特徴量空間上にプロットする。その後、ステップSF3に進み、制御ユニット2は、特徴量空間で履歴画像の位置を把握する。これにより、識別境界と、各履歴画像との位置関係を把握することができ、識別境界に近い履歴画像と、識別境界から所定以上離れた履歴画像とを分けることができる。
【0161】
ステップSF4では、ステップSF3では、識別境界の設定に寄与していない履歴画像を削除候補画像として選出する。識別境界の設定に寄与していない履歴画像は、識別境界から所定以上離れた履歴画像である。ステップSF5では、ステップSF4で選出された削除候補画像を制御ユニット2が表示装置4に表示させる。これにより、削除候補画像を使用者に提示することができる。使用者に一度に提示する削除候補画像は1つであってもよいし、複数であってもよい。
【0162】
ステップSF6では使用者による削除候補画像の削除操作が行われたか否かを判定する。削除操作が行われた場合にはステップSF7で削除候補画像を削除する。削除操作が行われなかった場合には、削除候補画像を削除することなく、終了する。削除操作は、1つの削除候補画像に対する操作であってもよいし、複数の削除候補画像に対する操作であってもよい。
【0163】
図37及び図38は、追加学習によって識別境界が変化した場合を示している。図37に示すフローチャートのステップSG1~SG4は、図36に示すフローチャートのステップSF1~SF4とそれぞれ同じである。図37に示すフローチャートのステップSG5では、上述したように追加学習したことによって識別境界が変化した場合に、新たな識別境界に対して削除候補画像を再計算する。
【0164】
例えば、図38の上側に示す特徴量空間の識別境界が、追加学習したことによって図38の下側に示す特徴量空間の識別境界へと変化した場合、識別境界と各良品画像との距離、識別境界と各不良品画像との距離を再度算出する。その後、ステップSG6に進み、新たな削除候補画像として、新たな識別境界から所定以上離れた履歴画像(囲み線302で囲まれた良品画像と、囲み線303で囲まれた不良品画像)を削除候補画像として選出する。使用者に提示する。次いで、ステップSG7に進み、囲み線302で囲まれた良品画像と、囲み線303で囲まれた不良品画像を削除候補画像として表示装置4に表示し、これにより、新たに選出した削除候補画像を使用者に提示する。ステップSG8、SG9は、図36に示すフローチャートのステップSF6、SF7と同じである。
【0165】
図39は削除候補画像と近隣画像との相対関係に基づいて削除候補画像を提示する手順を示すフローチャートである。ステップSH1~SH4は、図36に示すフローチャートのステップSF1~SF4とそれぞれ同じである。その後、ステップSH5では、削除候補画像と近隣画像との相対関係を算出する。次いで、ステップSH6では、今後の追加学習においても識別境界の設定に影響の少ない画像を削除候補画像として選出する。
【0166】
すなわち、特徴量空間上において、識別境界から所定以上離れた履歴画像と、当該履歴画像の近隣にプロットされた近隣画像との相対関係に基づいて識別境界の設定に寄与していないと判定される画像を削除候補画像として使用者に提示する。具体的には、図40の上側に示す特徴量空間の場合、囲み線300で囲まれた良品画像と、囲み線301で囲まれた不良品画像とが削除候補画像となり得る画像である。このうち、囲み線300で囲まれた良品画像の全ては、識別境界から所定以上離れているので全てが削除候補画像となり得るが、図40の下側の図において囲み線304で囲まれた画像に着目すると、その画像の周囲に存在する画像との相対関係からみて、識別境界の設定に寄与していないと判定することができる。つまり、囲み線304で囲まれた画像を取り囲むように履歴画像が位置しているので、囲み線304で囲まれた画像を削除しても、現在の識別境界に影響を及ぼすことはないとともに、これから生成されるであろう識別境界に影響を及ぼす可能性も極めて低い。したがって、ステップSH7を経ることで、削除しても識別境界の設定に殆ど影響を及ばさない画像を削除候補画像として使用者に提示することができる。ステップSH8、SH9は、図36に示すフローチャートのステップSF6、SF7と同じである。
【0167】
(実施形態の作用効果)
以上説明したように、この実施形態によれば、標準検査モードと学習検査モードとを画像検査装置1に実装し、検査モードを切り替えることでいずれの検査モードでも検査を実行することができ、各々の検査モードの長所を活かした検査を行うことができる。
【0168】
標準検査モードの設定モード時にマスター画像を撮像する際には、撮像条件の設定、画像処理ツールの選択を行うことができるとともに、この画像処理ツールを適用する範囲を検査用ウィンドウによって規定し、さらに、画像処理ツールのパラメータの調整を行うことができる。つまり、標準検査モード時には、使用者が、撮像条件をはじめ、画像処理ツールの種類、画像処理ツールの適用範囲、画像処理ツールのパラメータ調整を行うことができるので、所望の結果が得られるように、使用者が良否判定基準を制御した上で標準検査モードを実行することができる。例えば、標準検査モードでは、画像内の検査対象物の様々な特徴量(色、エッジ、位置等)に基づいて検査対象物の良否の判定を行うことができる。
【0169】
一方、学習検査モードの設定モード時には、使用者により良品としての属性が付与された良品画像と、不良品としての属性が付与された不良品画像とをそれぞれ登録することができ、登録された良品画像と不良品画像を学習することによって良品画像と不良品画像を識別する識別器を生成することができる。つまり、学習検査モードの設定モード時には、使用者が標準検査モード時に行うような設定や調整は不要になる。
【0170】
また、識別器によって良否判定を行った複数の検査対象画像が良否判定結果とともに履歴画像として記憶装置19に記憶され、このとき、複数の履歴画像の良否判定の安定性を示す安定性評価値を算出することができる。その安定性評価値に基づいて、識別器に追加学習させる候補画像を使用者に提示できる。
【0171】
したがって、記憶装置19に記憶されている履歴画像の数が膨大であっても、使用者は良否判定の安定性に基づいて提示された候補画像の中から追加学習画像を選択することができる。使用者による追加学習画像としての指定が受け付けられると、使用者により指定された追加学習画像を、良品画像又は不良品画像として追加学習することで識別器を更新することができる。
【0172】
また、良品画像または不良品画像に基づいて、良品らしさまたは不良品らしさを示す判定軸を抽出することができ、この判定軸に基づいて良品らしさまたは不良品らしさを示す判定評価値を算出できる。この判定評価値により、良品としての特徴または不良品としての特徴を有する領域を選択的に強調した検査対象画像を表示できるので、使用者は、学習検査を行う画像検査装置1がどのような判定軸でもって画像識別を行っているのかを把握できる。
【0173】
また、設定モードから運転モードに切り替えられると、新たに撮像された検査対象画像が識別器に入力され、良否判定が行われる。検査対象画像と良否判定結果は、共に表示装置4の運転モード画面に表示されるので、使用者は、検査対象画像と、その画像に対する良否判定結果とを把握することができる。このとき、検査対象画像に対する良否判定結果が正しければ運転モードを継続し、検査対象画像に対する良否判定結果が誤っていれば追加学習を行うことができる。したがって、運転モードから設定モードに切り替えることなく、運転モードのままで追加学習対象の画像を指定し、追加学習させて識別器を更新できる。
【0174】
上述の実施形態はあらゆる点で単なる例示に過ぎず、限定的に解釈してはならない。さらに、特許請求の範囲の均等範囲に属する変形や変更は、全て本発明の範囲内のものである。
【産業上の利用可能性】
【0175】
以上説明したように、本発明に係る画像検査装置は、検査対象物を撮像した画像に基づいて検査対象物の良否判定を行う場合に使用することができる。
【符号の説明】
【0176】
1 画像検査装置
2 制御ユニット
4 表示装置(表示手段)
13A 制御部
14 カメラモジュール(撮像手段)
15 照明モジュール
21 撮像設定部
23 マスター画像登録部
24 学習画像登録部
25 画像処理ツール選択部
26 パラメータ調整部
27 検査ウィンドウ設定部
28 検査種別選択部
29 モード切替部
30 識別器生成部
31 良否判定部
32 追加学習画像指定部
33 安定性評価値算出部
34 判定軸抽出部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29
図30
図31
図32
図33
図34
図35
図36
図37
図38
図39
図40