IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 沖電気工業株式会社の特許一覧

特開2024-119201判定方法、判定プログラム、判定装置及び外観検査装置
<>
  • 特開-判定方法、判定プログラム、判定装置及び外観検査装置 図1
  • 特開-判定方法、判定プログラム、判定装置及び外観検査装置 図2
  • 特開-判定方法、判定プログラム、判定装置及び外観検査装置 図3
  • 特開-判定方法、判定プログラム、判定装置及び外観検査装置 図4
  • 特開-判定方法、判定プログラム、判定装置及び外観検査装置 図5
  • 特開-判定方法、判定プログラム、判定装置及び外観検査装置 図6
  • 特開-判定方法、判定プログラム、判定装置及び外観検査装置 図7
  • 特開-判定方法、判定プログラム、判定装置及び外観検査装置 図8
  • 特開-判定方法、判定プログラム、判定装置及び外観検査装置 図9
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024119201
(43)【公開日】2024-09-03
(54)【発明の名称】判定方法、判定プログラム、判定装置及び外観検査装置
(51)【国際特許分類】
   G01N 21/88 20060101AFI20240827BHJP
   G06T 7/00 20170101ALI20240827BHJP
【FI】
G01N21/88 J
G06T7/00 350B
G06T7/00 610
【審査請求】未請求
【請求項の数】7
【出願形態】OL
(21)【出願番号】P 2023025933
(22)【出願日】2023-02-22
(71)【出願人】
【識別番号】000000295
【氏名又は名称】沖電気工業株式会社
(74)【代理人】
【識別番号】100174104
【弁理士】
【氏名又は名称】奥田 康一
(72)【発明者】
【氏名】傅 琳
【テーマコード(参考)】
2G051
5L096
【Fターム(参考)】
2G051AA61
2G051AA65
2G051AB14
2G051EB01
2G051EB05
2G051ED04
2G051ED21
5L096AA06
5L096BA03
5L096CA02
5L096DA02
5L096EA35
5L096HA11
5L096JA11
5L096KA04
(57)【要約】
【課題】対象物における判定の精度を高める。
【解決手段】外観検査装置1は、回路基板CBを撮影する撮像部7と、撮像部7により撮影された判定元画像IMbiを取得する取得部22と、判定元画像IMbiから不良が発生した検査領域ARiを特定する検査領域切出部24と、回路基板CBが撮影された良品元画像IMbrから抽出すべき特徴量を含む教師データセットを用いて学習処理が行われた学習モデルを使用して、判定元画像IMbiから検査領域ARiの判定用特徴量を抽出すると共に、良品元画像IMbrから検査領域ARiの第2特徴量としての良品特徴量を抽出する特徴量抽出部28と、良品特徴量と判定用特徴量との剥離を示す異常度を算出する異常度算出部26と、異常度から判定元画像IMbiを判定する再判定部27と、再判定部27による判定の結果を出力する表示部5とを設ける。
【選択図】図5

【特許請求の範囲】
【請求項1】
対象物が撮影された第1画像データを取得する取得ステップと、
前記第1画像データから不良が発生した領域を特定する切出領域特定ステップと、
前記対象物が撮影された第2画像データから抽出すべき特徴量を含む教師データセットを用いて学習処理が行われた学習モデルを使用して、前記第1画像データから前記領域の第1特徴量を抽出すると共に、前記第2画像データから前記領域の第2特徴量を抽出する特徴量抽出ステップと、
前記第2特徴量と前記第1特徴量との剥離を示す評価値を算出する評価値算出ステップと、
前記評価値から前記第1画像データを判定する判定ステップと
を有することを特徴とする判定方法。
【請求項2】
前記判定ステップは、
前記対象物が第1分類又は該第1分類とは異なる第2分類の何れに属するかを判定する
ことを特徴とする請求項1に記載の判定方法。
【請求項3】
前記特徴量抽出ステップよりも前において、前記第1画像データが良品又は不良品の何れであるかを判定する第1判定ステップ
をさらに有し、
前記特徴量抽出ステップは、
前記第1判定ステップにおいて不良と判定された前記第1画像データから前記領域の第1特徴量を抽出し、
前記評価値算出ステップは、
前記第1判定ステップにおいて不良と判定された前記第1画像データから抽出された前記領域の第1特徴量と、前記第2特徴量との乖離を示す前記評価値を算出する
ことを特徴とする請求項1に記載の判定方法。
【請求項4】
前記判定ステップによる判定結果を表示部に表示する表示ステップ
をさらに有することを特徴とする請求項1に記載の判定方法。
【請求項5】
情報処理装置に対し、
対象物が撮影された第1画像データを取得する取得ステップと、
前記第1画像データから不良が発生した領域を特定する切出領域特定ステップと、
前記対象物が撮影された第2画像データから抽出すべき特徴量を含む教師データセットを用いて学習処理が行われた学習モデルを使用して、前記第1画像データから前記領域の第1特徴量を抽出すると共に、前記第2画像データから前記領域の第2特徴量を抽出する特徴量抽出ステップと、
前記第2特徴量と前記第1特徴量との剥離を示す評価値を算出する評価値算出ステップと、
前記評価値から前記第1画像データを判定する判定ステップと
を実行させるための判定プログラム。
【請求項6】
対象物が撮影された第1画像データを取得する取得部と、
前記第1画像データから不良が発生した領域を特定する切出領域特定部と、
前記対象物が撮影された第2画像データから抽出すべき特徴量を含む教師データセットを用いて学習処理が行われた学習モデルを使用して、前記第1画像データから前記領域の第1特徴量を抽出すると共に、前記第2画像データから前記領域の第2特徴量を抽出する特徴量抽出部と、
前記第2特徴量と前記第1特徴量との剥離を示す評価値を算出する評価値算出部と、
前記評価値から前記第1画像データを判定する判定部と
を有する判定装置。
【請求項7】
対象物を撮影する撮像部と、
前記撮像部により撮影された第1画像データを取得する取得部と、
前記第1画像データから不良が発生した領域を特定する切出領域特定部と、
前記対象物が撮影された第2画像データから抽出すべき特徴量を含む教師データセットを用いて学習処理が行われた学習モデルを使用して、前記第1画像データから前記領域の第1特徴量を抽出すると共に、前記第2画像データから前記領域の第2特徴量を抽出する特徴量抽出部と、
前記第2特徴量と前記第1特徴量との剥離を示す評価値を算出する評価値算出部と、
前記評価値から前記第1画像データを判定する判定部と
前記判定部による判定の結果を出力する出力部と
を有する外観検査装置。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は判定方法、判定プログラム、判定装置及び外観検査装置に関し、例えば工業製品の外観を検査する外観検査装置に適用して好適なものである。
【背景技術】
【0002】
従来、外観検査装置として、例えば電子回路基板のような工業製品の製造工場に設置され、製造された工業製品(以下、対象物とも呼ぶ)を撮像して画像データを取得し、該画像データを基に該工業製品が正常(良品)又は異常(不良品)の何れであるかを判定する判定処理を行うものが広く普及している。
【0003】
この判定処理では、例えば得られた画像データに対してエッジ検出等の画像処理を経て特徴を強調することにより、同様の画像処理を経た良品の画像データとの差異を基に、例えば回路基板上におけるチップ部品の有無や実装位置のずれ等のような不良の発生の有無を判定する。
【0004】
また外観検査装置として、例えば得られた画像データを基に赤、緑及び青のような異なる色によるフィルタ画像データを複数生成し、コントラストが最も大きい等の条件を満たすものを用いることにより、判定精度の向上を図ったものも提案されている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2012-007952号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、このような外観検査装置においては、不良品に良く似た良品を良品であると精度良く判定することが難しい場合があり、対象物の判定の精度が低下してしまう場合があった。
【0007】
本発明は以上の点を考慮してなされたもので、対象物における判定の精度を高め得る判定方法、判定プログラム、判定装置及び外観検査装置を提案しようとするものである。
【課題を解決するための手段】
【0008】
かかる課題を解決するため本発明の判定方法においては、対象物が撮影された第1画像データを取得する取得ステップと、第1画像データから不良が発生した領域を特定する切出領域特定ステップと、対象物が撮影された第2画像データから抽出すべき特徴量を含む教師データセットを用いて学習処理が行われた学習モデルを使用して、第1画像データから領域の第1特徴量を抽出すると共に、第2画像データから領域の第2特徴量を抽出する特徴量抽出ステップと、第2特徴量と第1特徴量との剥離を示す評価値を算出する評価値算出ステップと、評価値から第1画像データを判定する判定ステップとを有するようにした。
【0009】
また本発明の判定プログラムにおいては、情報処理装置に対し、対象物が撮影された第1画像データを取得する取得ステップと、第1画像データから不良が発生した領域を特定する切出領域特定ステップと、対象物が撮影された第2画像データから抽出すべき特徴量を含む教師データセットを用いて学習処理が行われた学習モデルを使用して、第1画像データから領域の第1特徴量を抽出すると共に、第2画像データから領域の第2特徴量を抽出する特徴量抽出ステップと、第2特徴量と第1特徴量との剥離を示す評価値を算出する評価値算出ステップと、評価値から第1画像データを判定する判定ステップとを実行させるようにした。
【0010】
さらに本発明の判定装置においては、対象物が撮影された第1画像データを取得する取得部と、第1画像データから不良が発生した領域を特定する切出領域特定部と、対象物が撮影された第2画像データから抽出すべき特徴量を含む教師データセットを用いて学習処理が行われた学習モデルを使用して、第1画像データから領域の第1特徴量を抽出すると共に、第2画像データから領域の第2特徴量を抽出する特徴量抽出部と、第2特徴量と第1特徴量との剥離を示す評価値を算出する評価値算出部と、評価値から第1画像データを判定する判定部とを設けるようにした。
【0011】
さらに本発明の外観検査装置においては、対象物を撮影する撮像部と、撮像部により撮影された第1画像データを取得する取得部と、第1画像データから不良が発生した領域を特定する切出領域特定部と、対象物が撮影された第2画像データから抽出すべき特徴量を含む教師データセットを用いて学習処理が行われた学習モデルを使用して、第1画像データから領域の第1特徴量を抽出すると共に、第2画像データから領域の第2特徴量を抽出する特徴量抽出部と、第2特徴量と第1特徴量との剥離を示す評価値を算出する評価値算出部と、評価値から第1画像データを判定する判定部と、判定部による判定の結果を出力する出力部とを設けるようにした。
【0012】
本発明は、良品を不良品であると判定してしまっても、第1画像データ及び第2画像データにおける不良が発生した領域以外の領域が判定に与える影響を抑えて再判定することにより、良品であると正しく判定することができる。
【発明の効果】
【0013】
本発明によれば、良品を不良品であると判定してしまっても、第1画像データ及び第2画像データにおける不良が発生した領域以外の領域が判定に与える影響を抑えて再判定することにより、良品であると正しく判定することができ、かくして対象物の判定の精度を向上させ得る判定方法、判定プログラム、判定装置及び外観検査装置を実現できる。
【図面の簡単な説明】
【0014】
図1】外観検査装置のハードウェア構成を示すブロック図である。
図2】外観検査装置の機能構成を示すブロック図である。
図3】外観検査装置の機能構成のうち一次判定部及び二次判定部を示すブロック図である。
図4】検査領域切り出し処理の様子を説明する図であり、(A)は異常理由が誤部品の場合、(B)は異常理由が位置ずれの場合、(C)は異常理由がリード浮きの場合である。
図5】二次判定処理手順を示すフローチャートである。
図6】検査領域切り出し処理手順を示すフローチャートである。
図7】検査領域切り出し処理の有無による実験を示し、(A)は、良品特徴量が抽出される画像として良品元画像が用いられた場合、(B)は、判定用特徴量が抽出される画像として判定元画像が用いられた場合、(C)は、良品特徴量が抽出される画像として良品切出画像が用いられた場合、(D)は、判定用特徴量が抽出される画像として判定切出画像が用いられた場合である。
図8】検査領域切り出し処理の有無による異常度の度数分布グラフを示す図である。
図9】検査領域切り出し処理の有無による不良品の不良検出率を示す表である。
【発明を実施するための形態】
【0015】
以下、発明を実施するための形態(以下、これを実施の形態と呼ぶ)について、図面を用いて説明する。
【0016】
[1.外観検査装置の構成]
外観検査装置1は、例えば回路基板に電子部品を実装する製造工場に設置されており、該電子部品が実装された該回路基板を検査対象として、良品又は不良品を判定する判定処理を行う。この製造工場では、例えば回路基板に対しリフロー処理等を行うことにより、チップ状の微小な抵抗やコンデンサ等の表面実装部品(いわゆるチップ部品)を実装する実装処理を行う。以下では、電子部品が実装された回路基板を対象物とも呼ぶ。
【0017】
図1に示すように、判定装置としての外観検査装置1は、制御部2を中心とした情報処理装置として構成されており、該制御部2に記憶部3及び通信部4が接続され、さらに表示部5、操作部6及び撮像部7がそれぞれ接続されている。
【0018】
制御部2は、各種演算処理を行うCPU(Central Processing Unit)11、各種情報が予め記憶されたROM(Read Only Memory)12、及び各種情報を一時的に記憶するRAM(Random Access Memory)13等を有している。この制御部2は、RAM13をワークエリアとして使用しながら、ROM12や記憶部3等から読み出した各種プログラムをCPU11によって実行することにより、様々な処理を行う。
【0019】
記憶部3は、例えばSSD(Solid State Drive)やHDD(Hard Disk Drive)のような不揮発性の記憶媒体であり、各種プログラムや各種情報等を記憶する。通信部4は、例えばIEEE(Institute of Electrical and Electronics Engineers)802.3(IEEE802.3u/ab/an/ae)等の規格に準拠した有線LAN(Local Area Network)のインタフェース等を有している。この通信部4は、図示しないネットワークと接続されており、該ネットワークを介して、製造工場内に設置された他の機器や外部のサーバ装置等との間で種々の情報を送受信する。
【0020】
出力部としての表示部5は、例えば液晶パネルや有機EL(Electro Luminescence)パネルのような表示デバイスであり、制御部2の制御に基づき種々の情報を表示する。操作部6は、例えば表示部5を構成する液晶パネルの表面に設けられたタッチセンサや押下可能な操作ボタン等であり、外観検査装置1を使用する使用者からの操作指示を受け付ける。
【0021】
撮像部7は、例えば光を集光するレンズや光を電気信号に変換する撮像素子等を有している。また撮像部7は、例えば製造工場において電子部品が実装された回路基板(対象物)が搬送されるベルトコンベアの近傍等において、該対象物を良好に撮像し得る箇所に設置されている。この撮像部7は、制御部2の制御に基づき、レンズの光軸を中心とした撮像範囲から得られる光を用いて、対象物を含む2次元の画像を撮像して画像データを生成し、該画像データを該制御部2へ供給する。これに応じて制御部2は、供給された画像データを記憶部3に記憶させる。
【0022】
[2.判定処理の基本的原理]
次に、外観検査装置1において対象物を正常(良品、第1分類とも呼ぶ)又は異常(不良品、第2分類とも呼ぶ)と判定する判定処理の基本的原理について説明する。チップ部品が実装される回路基板には、該チップ部品の理想的な実装箇所が予め設定されており、該チップ部品の形状等に合わせて電極が設けられている。
【0023】
図4(A)及び図4(B)それぞれにおいて左側に示す図は、撮像部7(図1)により回路基板CBを撮像して得られた画像データにおける一部の領域である、SOP(Small Outline Package)部品であるチップIC部品MPと、該チップIC部品MPの周囲の回路基板CBとを含む、判定元画像IMbi1及びIMbi2を示したものである。
【0024】
図4(C)において左側に示す図は、撮像部7(図1)により回路基板CBを撮像して得られた画像データにおける一部の領域である、MTR(Mini Transistor)部品であるチップIC部品MPと、該チップIC部品MPの周囲の回路基板CBとを含む、判定元画像IMbi3を示したものである。以下では、判定元画像IMbi1、IMbi2及びIMbi3をまとめて判定元画像IMbiとも呼ぶ。
【0025】
チップIC部品MPは、平面視で四角形のボディBDと、該ボディBDにおける対向する2つの側面から外側に向かって突出するリードLDとにより構成されている。チップIC部品MPが正常に実装された場合、該チップIC部品MPの各リードLDと回路基板CBの各電極パッドとに渡るようにして、はんだ(図示せず)がそれぞれ付着する。はんだは、例えばリフロー工程等において所定の高温で溶解された後に凝固されることにより、回路基板CBの電極パッドに対しチップIC部品MPのリードLDを物理的に固定すると共に電気的に接続している。
【0026】
このうち判定元画像IMbi1(図4(A))は、「誤部品」と呼ばれる不良の一形態が撮像された画像である。この判定元画像IMbi1においては、実装されたチップIC部品MPの部品番号が指定された部品番号と異なっており、指定された部品とは異なる誤部品が実装されている。
【0027】
判定元画像IMbi2(図4(B))は、「位置ずれ」と呼ばれる不良の一形態が撮像された画像である。この判定元画像IMbi2においては、回路基板CBの表面に直交する方向から見た場合のチップIC部品MPの位置や傾き等が本来の実装領域から大きくずれている。
【0028】
判定元画像IMbi3(図4(C))は、「リード浮き」と呼ばれる不良の一形態が撮像された画像である。この判定元画像IMbi3においては、実装されたチップIC部品MPのリードLDが回路基板CBの表面から浮いており正常にはんだ付けされていない。
【0029】
このような判定元画像IMbiは、チップIC部品MP以外にも、該チップIC部品MPの周囲の回路基板CBも写り込んでいるため、外観検査装置1は、一次判定部21(図3)(詳細は後述する)による判定で、本来は正常であるはずの状態を異常と判断してしまう可能性がある。
【0030】
これに対し二次判定部23(図3)(詳細は後述する)は、一次判定部21による判定結果が異常である判定元画像IMbiに対して二次判定処理を行う。
【0031】
[3.外観検査処理]
次に、外観検査装置1における外観検査処理について説明する。外観検査装置1では、外観検査処理において、画像データから得られる特徴量について、前段の学習処理と後段の判定処理とによる機械学習処理を行う。また外観検査装置1の制御部2は、学習処理及び判定処理を行う際に、内部に複数の機能ブロックを形成する。以下では、機能ブロックの構成と、前段の学習処理と、後段の判定処理とについて、それぞれ説明する。
【0032】
またここでは、予め外観検査装置1の撮像部7(図1)により、製造工場において電子部品が実装された回路基板CB(すなわち対象物)が撮像され、生成された画像データが記憶部3に保存されているものとする。この画像データには、学習処理において使用される学習用画像データ(学習用データ又は第2画像データとも呼ぶ)と、判定処理において使用される判定用画像データ(判定用データ又は第1画像データとも呼ぶ)とが含まれる。
【0033】
学習用画像データは、予め良品であることが判明している対象物から得られた画像データであり、教師データとも呼ばれる。また判定用画像データは、製造工場において回路基板CBに電子部品が実装されたものの、不良の有無が未確認であるために検査を行うべき対象物から得られた画像データである。このうち判定用画像データには、例えば対象物である回路基板CBに割り当てられた製造番号や製造日時のような、該対象物との対応関係を表す情報も付与されている。
【0034】
[3-1.機能ブロックの構成]
次に、機能ブロックの構成について説明する。外観検査装置1の制御部2(図1)は、記憶部3に予め記憶された学習処理プログラム又は判定処理プログラムをそれぞれ読み出して実行することにより、図2及び図3に示すような各機能ブロックを形成する。なお図3においては、一次判定部21及び二次判定部23のみの構成を示すと共に、一次判定部21からデータ保存部30を介し二次判定部23へ供給されるデータと、二次判定部23内におけるデータの流れとを示している。具体的に制御部2は、一次判定部21、取得部22及び二次判定部23を形成し、また該二次判定部23内に検査領域切出部24、特徴量処理部25、異常度算出部26及び再判定部27を形成し、さらに該特徴量処理部25内に特徴量抽出部28を形成する。
【0035】
また記憶部3には、画像データ等が保存されるデータ保存部30と、該画像データから抽出された特徴量(詳しくは後述する)が保存される特徴量保存部31とが形成される。データ保存部30は、判定処理において用いられる複数の画像データ(判定用画像データ)(判定元画像とも呼ぶ)を保存している。またデータ保存部30は、学習処理において用いられる複数の画像データ(学習用画像データ)(良品元画像とも呼ぶ)を保存している。複数の学習用画像データは、一次判定部21により良品と判定されたデータにより構成される。これらの判定用画像データと学習用画像データとは、互いの別のデータとして用意されている。
【0036】
一次判定部21は、一次判定処理(第1判定ステップ)において、形状認識により回路基板CBの外観検査を行い、「良品」であるか又は「不良」であるかを示す判定結果をデータ保存部30に保存する。この判定結果には、良品元画像IMbr、判定元画像IMbi、部品領域情報IFp、カテゴリ情報IFc及び不良領域情報IFw等が含まれている。
【0037】
良品元画像IMbrは、一次判定部21により良品であると判定された回路基板CBの学習用画像データを示している。判定元画像IMbiは、不良の有無を判定するために検査を行うべき回路基板CBの判定用画像データを示している。
【0038】
部品領域情報IFpは、回路基板CBに搭載される各部品のサイズや、部品が回路基板CBに搭載される位置を示す座標値等、各部品の部品領域に関する情報を示している。カテゴリ情報IFcは、部品のどの部分を検査するかを示す検査項目に関する情報を示している。不良領域情報IFwは、一次判定部21において異常と判定された理由である異常理由、回路基板CBにおいて異常が発生した位置を示す座標値等、不良が発生した領域である不良領域に関する情報を示している。
【0039】
取得部22は、学習処理において、データ保存部30から複数個の画像データである複数個の学習用画像データを読み出し、二次判定部23の検査領域切出部24へ供給する。また取得部22は、判定処理において、データ保存部30から1個の画像データである判定用画像データを読み出し、二次判定部23の検査領域切出部24へ供給する。
【0040】
検査領域切出部24は、データ保存部30から部品領域情報IFp、不良領域情報IFw及びカテゴリ情報IFcを取得し、それらに基づいて検査領域ARiを決定する。検査領域ARiの決定方法については、図4を用いて後述する。また検査領域切出部24は、データ保存部30から取得した良品元画像IMbrから検査領域ARiの座標値の画像を切り出して良品切出画像IMtrを生成し、該良品切出画像IMtrを特徴量抽出部28へ供給する。それと共に検査領域切出部24は、データ保存部30から取得した判定対象となる画像である判定元画像IMbiから検査領域ARiの座標値の画像を切り出して判定切出画像IMtiを生成し、該判定切出画像IMtiを特徴量抽出部28へ供給する。
【0041】
特徴量処理部25は、機械学習処理(単に学習処理とも呼ばれる)における学習モデル(AIモデルとも呼ぶ)に相当する部分である。特徴量抽出部28は、二次判定処理における学習処理において抽出処理として検査領域切出部24から取得した良品切出画像IMtrをAIモデルに学習させて特徴量を抽出し、この特徴量を良品特徴量として学習済みAIモデルと合わせて特徴量保存部31に保存させる。具体的に特徴量抽出部28は、例えばニューラルネットワークとして構成されており、公開データセット等を用いて重みパラメータが学習されたものを使用する。また特徴量抽出部28は、必要に応じてRAM13や記憶部3(図1)を適宜利用することにより、機械学習のパラメータ等を適宜保持することができる。またこれらの学習処理では、画像データと特徴量とが対応付けられた教師データセットが使用される。
【0042】
また特徴量抽出部28は、二次判定処理において抽出処理として検査領域切出部24から取得した判定切出画像IMtiを特徴量保存部31から読み出したAIモデルに学習させて特徴量を抽出し、この特徴量を判定用特徴量として異常度算出部26へ供給する。
【0043】
異常度算出部26は、二次判定処理において、特徴量抽出部28から供給された判定用特徴量と、特徴量保存部31から読み出した良品特徴量及び学習済みAIモデルと、データ保存部30から読み出した不良領域情報IFwとを基に、該判定用特徴量と該良品特徴量との差異の大きさを表す異常度(以下これを評価値とも呼ぶ)を算出し、これを再判定部27へ供給する。具体的に異常度算出部26は、例えばマハラノビス距離を用いた演算処理等により、多次元空間内における判定用特徴量と良品特徴量との距離(以下これを剥離とも呼ぶ)を算出し、これを異常度とする。この異常度は、良品切出画像IMtrと判定切出画像IMtiの差分を示すパラメータである。
【0044】
再判定部27は、異常度算出部26から異常度を取得し、それを判定閾値と比較して良品か又は不良の何れであるかを判定して判定結果を決定する。これを換言すれば、再判定部27は、判定閾値との比較結果に応じて異常度を分類することになる。このため、判定処理を分類処理と呼ぶこともできる。
【0045】
[3-2.二次判定処理における検査領域の決定と切出画像の切り出しとについて]
ここで、図4を用いて、検査領域の決定と切出画像の切り出しとについて説明する。
【0046】
[3-2-1.異常理由が誤部品の場合]
図4(A)の左側は、一次判定部21により出力されたチップIC部品MPの判定元画像IMbi1であり、破線で示した枠内の領域が部品領域ARpを、一点鎖線で示した枠内の領域が不良領域ARw及び検査領域ARiをそれぞれ示している。なお図4(A)において不良領域ARw及び検査領域ARiは、チップIC部品MPのボディBDの外形よりも僅かに外側を囲うように作図されているが、実際には不良領域ARw及び検査領域ARiは、チップIC部品MPのボディBD外形と同一の範囲を囲っている。
【0047】
異常理由が誤部品であると一次判定部21において判定された場合、不良領域ARwは、チップIC部品MPのボディBDの部分となる。検査領域切出部24(図3)は、不良領域情報IFwにより示される異常理由が誤部品である場合、不良領域ARwと同一の領域である、チップIC部品MPのボディBDの部分を検査領域ARiとして設定する。
【0048】
具体的に検査領域切出部24は、例えば、不良領域ARwの矩形の始点及び終点の座標値を示す情報である不良領域情報IFwをデータ保存部30から取得する。続いて検査領域切出部24は、不良領域ARwと同一の領域を検査領域ARiとして設定し、該検査領域ARiを示す情報を検査領域情報として記憶する。
【0049】
続いて検査領域切出部24は、判定元画像IMbi1における検査領域ARiから、図4(A)の右側に示す判定切出画像IMti1を切り出す。検査領域ARiは不良領域ARwと同一の領域である、チップIC部品MPのボディBD部分の領域であるため、判定切出画像IMti1は、チップIC部品MPのボディBD部分の画像となっている。
【0050】
[3-2-2.異常理由が位置ずれの場合]
図4(B)の左側は、一次判定部21により出力されたチップIC部品MPの判定元画像IMbi2であり、破線で示した枠内の領域が部品領域ARp及び検査領域ARiを示しており、一点鎖線で示した枠内の領域が不良領域ARwを示している。
【0051】
異常理由が位置ずれであると一次判定部21において判定された場合、不良領域ARwは、回路基板CBにおける本来の実装領域にチップIC部品MPが実装されていた場合の該チップIC部品MPのボディBDの部分となる。検査領域切出部24は、不良領域情報IFwにより示される異常理由が位置ずれである場合、部品領域ARpと同一の領域を検査領域ARiとして設定する。
【0052】
具体的に検査領域切出部24は、例えば、部品領域ARpの矩形の始点及び終点の座標値と、チップIC部品MPのサイズとを含む情報である部品領域情報IFpをデータ保存部30から取得する。続いて検査領域切出部24は、部品領域ARpと同一の領域を検査領域ARiとして設定し、該検査領域ARiとチップIC部品MPのサイズを含む情報とを示す検査領域情報を記憶する。
【0053】
続いて検査領域切出部24は、判定元画像IMbi2における検査領域ARiから、図4(B)の右側に示す判定切出画像IMti2を切り出す。検査領域ARiは部品領域ARpと同一の領域であるため、判定切出画像IMti2は、位置ずれしたチップIC部品MPの一部分を含む画像となっている。
【0054】
[3-2-3.異常理由がリード浮きの場合]
図4(C)の左側は、一次判定部21により出力されたチップIC部品MPの判定元画像IMbi3であり、破線で示した枠内の領域が部品領域ARpを示しており、一点鎖線で示した枠内の領域が不良領域ARwを示しており、二点鎖線で示した枠内の領域が検査領域ARiを示している。
【0055】
異常理由がリード浮きであると一次判定部21において判定された場合、不良領域ARwは、チップIC部品MPのリードLDの部分となる。またこの場合、検査領域ARiは、不良領域ARwと同一の領域や、部品領域ARpと同一の領域とは異なる。このため二次判定部23は、判定元画像IMbi3から検査領域ARiを算出する。
【0056】
具体的に、例えば、判定元画像IMbi3のように、ボディBDに対しリードLDが図中で上側及び下側に配置されるようにチップIC部品MPが実装された場合について説明する。
【0057】
例えば、判定元画像IMbi3のように、チップIC部品MPの図中で下側のリードLDが不良と判定され、該リードLDを囲む領域が不良領域ARwとなった場合、検査領域切出部24は、不良領域ARwの座標と部品領域ARpの座標とを比較し、不良領域ARwが部品領域ARpの図中で上側又は下側の何れに位置しているかを判断する。
【0058】
続いて検査領域切出部24は、部品領域ARpの上下方向の中心を左右方向に沿う直線を中心線Lcとして設定する。また検査領域切出部24は、不良領域ARwが位置する側(すなわち下側)の部品領域ARpの端部を左右方向に沿う直線を境界線Lbとして設定する。
【0059】
さらに検査領域切出部24は、上下方向に関し上端部が中心線Lcに下端部が境界線Lbにそれぞれ沿い、左右方向に関し不良領域ARwを含む最小の矩形領域を検査領域ARiとして設定する。
【0060】
続いて検査領域切出部24は、判定元画像IMbi3における検査領域ARiから、図4(C)の右側に示す判定切出画像IMti3を切り出す。検査領域ARiは不良領域ARw及び部品領域ARpとは異なる領域であるため、判定切出画像IMti2は、不良と判定されたリードLDとボディBDの一部分とを含む画像となっている。
【0061】
[3-3.二次判定処理]
次に、二次判定部23による、一次判定部21で不良と判定された部品に対して再判定を行う二次判定処理手順RT1について、図5に示すフローチャートを用いて説明する。制御部2は、二次判定処理を行う場合、記憶部3から所定の判定処理プログラムを読み出して実行する。このとき制御部2は、所定の初期化処理等を行うと共に、図2及び図3に示した各機能ブロックを形成した上で、図5に示す二次判定処理手順RT1を開始し、ステップSP1に移る。
【0062】
ステップSP1において制御部2は、図6に示す検査領域切り出し処理手順SRT1を実行することにより、部品領域情報IFp、不良領域情報IFw及びカテゴリ情報IFcに基づいて検査領域切出部24により検査領域ARiを決定して良品切出画像IMtr及び判定切出画像IMtiを生成し、ステップSP2に移る。
【0063】
ステップSP2(特徴量抽出ステップ)において制御部2は、特徴量抽出部28により、検査領域切出部24から良品切出画像IMtrを取得し学習処理を行うことにより、該良品切出画像IMtrから特徴量を抽出して該特徴量を良品特徴量として学習済みAIモデルと合わせて特徴量保存部31に保存し、ステップSP3に移る。
【0064】
ステップSP3(特徴量抽出ステップ及び評価値算出ステップ)において制御部2は、特徴量抽出部28により、検査領域切出部24から判定切出画像IMtiを取得し、該判定切出画像IMtiから特徴量を抽出して該特徴量を判定用特徴量として異常度算出部26へ供給する。また制御部2は、異常度算出部26により、良品特徴量及び学習済みAIモデルを特徴量保存部31から取得し、判定用特徴量、良品特徴量、学習済みAIモデル及び不良領域情報IFwを用いて異常度を算出し、ステップSP4に移る。
【0065】
ステップSP4(判定ステップ及び表示ステップ)において制御部2は、再判定部27により、異常度算出部26から異常度を取得し、該異常度を所定の判定閾値と比較することにより良品であるか又は不良であるかを判定して判定結果を決定し、得られた判定結果を表す判定結果表示画面を表示部5(図1)に表示させた上で、ステップSP5に移り、二次判定処理手順RT1を終了する。
【0066】
[3-4.検査領域切り出し処理手順]
次に、二次判定部23による検査領域切り出し処理の具体的な処理手順について、図6に示すフローチャートを用いて詳細に説明する。制御部2は、二次判定処理手順RT1(図5)におけるステップSP1において図6に示す検査領域切り出し処理手順SRT1を開始し、ステップSP11へ移る。
【0067】
ステップSP11(取得ステップ)において制御部2は、検査領域切出部24により、一次判定部21から判定元画像IMbi及びカテゴリ情報IFcを取得し、該カテゴリ情報IFcを用いて検査領域ARiを算出する必要があるか否かを判定する。ステップSP11において肯定結果が得られると、このことは、検査領域ARiを算出する必要があることを表し、このとき制御部2は、ステップSP12へ移る。ここで、検査領域ARiを算出する必要があるか否かについて、図4を用いて説明する。
【0068】
判定元画像IMbi1(図4(A))のように、異常理由が誤部品である場合、検査領域ARiは不良領域ARwと同一の領域であるチップIC部品MPのボディBD部分の領域となるため、検査領域切出部24は、異常理由が誤部品である判定元画像IMbi1については、検査領域ARiを算出する必要がないと判定する。
【0069】
また、判定元画像IMbi2(図4(B))のように、異常理由が位置ずれである場合、検査領域ARiは、部品領域ARpと同一の領域となるため、検査領域切出部24は、異常理由が位置ずれである判定元画像IMbi2については、検査領域ARiを計算する必要がないと判定する。
【0070】
一方、判定元画像IMbi3(図4(C))のように、異常理由がリード浮きである場合、検査領域ARiは、不良領域ARwと同一の領域や、部品領域ARpと同一の領域とは異なるため、検査領域切出部24は、異常理由がリード浮き等、チップIC部品MPの微小の部分に関わる不良の場合である判定元画像IMbi3については、検査領域ARiを計算する必要があると判定する。
【0071】
ステップSP12(切出領域特定ステップ)において制御部2は、検査領域切出部24により、データ保存部30から部品領域情報IFp及び不良領域情報IFwを取得し、該部品領域情報IFp及び該不良領域情報IFwを用いて上述したように検査領域ARiを算出し決定する。
【0072】
一方、ステップSP11において否定結果が得られると、このことは、検査領域ARiを算出する必要がないことを表し、このとき制御部2は、ステップSP13へ移る。ステップSP13(切出領域特定ステップ)において制御部2は、検査領域切出部24により、データ保存部30から部品領域情報IFp及び不良領域情報IFwを取得し、該部品領域情報IFp及び該不良領域情報IFwを用いて上述したように検査領域ARiを決定する。
【0073】
ステップSP14(切出画像生成ステップ)において制御部2は、ステップSP12又はSP13において決定した検査領域ARiに基づいて、検査領域切出部24により、データ保存部30から取得した複数の良品元画像IMbrから検査領域ARiの座標値の画像を切り出して複数の良品切出画像IMtrを生成し、該複数の良品切出画像IMtrを特徴量抽出部28へ供給する。
【0074】
それと共に制御部2は、検査領域切出部24により、データ保存部30から取得した判定元画像IMbiから検査領域ARiの座標値の画像を切り出して判定切出画像IMtiを生成し、該判定切出画像IMtiを特徴量抽出部28へ供給する。続いて制御部2は、ステップSP15へ移り、検査領域切り出し処理手順SRT1を終了し、二次判定処理手順RT1(図5)におけるステップSP2へ移る。
【0075】
このように二次判定部23は、データ保存部30から取得した部品領域情報IFp、不良領域情報IFw及びカテゴリ情報IFcに基づいて検査領域ARiを特定し、良品元画像IMbr及び判定元画像IMbiから、検査領域ARiの座標値の画像を切り出して、良品切出画像IMtr及び判定切出画像IMtiを生成する。
【0076】
[4.効果等]
以上の構成において外観検査装置1は、一次判定部21において不良品であると判定された判定用画像データに対し、二次判定部23により二次判定処理を行うようにした。具体的に二次判定部23は、一次判定部21による外観検査において回路基板CBが不良品である判定された場合、判定元画像IMbi、部品領域情報IFp、不良領域情報IFw及びカテゴリ情報IFcを、データ保存部30から取得する。
【0077】
続いて二次判定部23は、検査領域切出部24により、部品領域情報IFp及び不良領域情報IFwに基づき、判定元画像IMbi中の検査領域ARiを特定する。また二次判定部23は、検査領域切出部24により、判定元画像IMbiから検査領域ARiの画像を判定切出画像IMtiとして切り出す。それと共に二次判定部23は、検査領域切出部24により、良品元画像IMbrから検査領域ARiと同一座標の画像を良品切出画像IMtrとして切り出す。
【0078】
続いて二次判定部23は、特徴量抽出部28により、複数の良品切出画像IMtrから良品特徴量(第2特徴量とも呼ぶ)を抽出する。また二次判定部23は、特徴量抽出部28により、判定切出画像IMtiから判定用特徴量(第1特徴量とも呼ぶ)を抽出する。
【0079】
続いて二次判定部23は、異常度算出部26により、判定用特徴量、良品特徴量及び不良領域情報IFwを用いて異常度を算出する。最後に二次判定部23は、再判定部27により、異常度を判定閾値と比較して良品か又は不良の何れであるかを判定するようにした。
【0080】
このように外観検査装置1は、予め良品元画像IMbrから特徴量を抽出しておくのではなく、回路基板CB上で発生した不良の領域である不良領域ARwに応じて検査領域ARiを決定し、複数の良品元画像IMbrから、該検査領域ARiと同じ座標値の領域である良品切出画像IMtrの良品特徴量を抽出すると共に、判定切出画像IMtiの判定用特徴量を抽出し、良品特徴量及び判定用特徴量に基づきから異常度を算出するようにした。
【0081】
このため外観検査装置1は、良品元画像IMbr及び判定元画像IMbiにおける部品領域ARp以外の背景領域の個体差の影響を抑えることができる。これにより外観検査装置1は、一次判定部21により不良品と判定された判定用画像データに対して二次判定部23により二次判定処理を行うことにより、不良品に似た良品であっても正しく良品と判定できるため、正常判定率を向上でき、良否判定の精度を向上できる。
【0082】
ここで、二次判定部23による検査領域切り出し処理の有無による実験例を紹介する。この実験例では、目視による評価(すなわち「良品」又は「不良品」)が予め判明している複数の画像データを用意した。その上で、この実験例では、各画像データから特徴量を抽出して異常度を算出し、さらに統計処理を行った。
【0083】
図7(A)は、本実施の形態とは異なり良品特徴量が抽出される画像として良品元画像IMbr101が用いられた場合の例を示している。図7(B)は、本実施の形態とは異なり判定用特徴量が抽出される画像として判定元画像IMbi101が用いられた場合の例を示している。このように、本実施の形態とは異なり、二次判定部23を適応せずに、良品特徴量が抽出される画像として良品元画像IMbr101が、判定用特徴量が抽出される画像として判定元画像IMbi101がそれぞれ用いられた場合を、二次判定部未適応とも呼ぶ。
【0084】
図8(A)は、二次判定部未適応における、各画像データから得られた異常度の度数分布を表したグラフであり、横軸が異常度を表すと共に縦軸が度数(データ数)を表している。また図8(A)では、目視による評価が「良」の場合(図中に「OK」と表記)と「不良」の場合(図中に「NG」と表記)とで、棒グラフ内のパターンを相違させている。
【0085】
この図8(A)では、異常度が0.5付近の箇所において、目視評価が「OK」であった画像データから得られた異常度(以下これをOK異常度と呼ぶ)と、目視評価が「NG」であった画像データから得られた異常度(以下これをNG異常度と呼ぶ)とが混在している。このことは、OK異常度とNG異常度とを容易に分離し得るような閾値を適切に設定することが難しく、該閾値を適切に設定できなかった場合に誤判定が生じ得ることを意味している。
【0086】
ここで、この実験例では、判定閾値Thを0.475に設定した。その結果、図9に示すように、OK異常度が判定閾値Th以下となった割合、すなわち正常な対象物を正常と判定する割合(以下これを正常判定率と呼ぶ)が59.6[%]となった。このことは、二次判定部未適応の場合、残りの40.4[%]の割合で、本来は「正常」であるにも関わらず「異常」と判定されること、すなわち誤判定が生じることを意味している。これを換言すれば、二次判定部未適応の場合、誤判定を抑え得るような適切な判定閾値Thを設定することが、必ずしも容易ではない。
【0087】
一方、図7(A)及び図7(B)と対応する図7(C)及び図7(D)は、図7(A)及び図7(B)と同じチップIC部品MPに対して、本実施の形態と同様に二次判定部23を適応し、良品特徴量が抽出される画像として良品切出画像IMtr101が、判定用特徴量が抽出される画像として判定切出画像IMti101がそれぞれ用いられた場合における例を示している。図7(C)は、図7(A)の良品元画像IMbr101から切り出された良品切出画像IMtr101を示している。図7(D)は、図7(B)の判定元画像IMbi101から切り出された判定切出画像IMti101を示している。
【0088】
図8(B)は、二次判定部適応における、各画像データから得られた異常度の度数分布を表したグラフである。この図8(B)では、OK異常度が0.45以下の範囲に分布している一方、NG異常度が0.5以上の範囲に分布しており、図8(A)と比較して、双方の分布が比較的大きく離れている。このことは、OK異常度とNG異常度とを容易に分離し得るような判定閾値Thを適切に設定することが比較的容易であり、該判定閾値Thを適切に設定することにより誤判定を容易に防止し得ることを意味している。
【0089】
この二次判定部適応の場合においても判定閾値Thを0.475に設定した。その結果、図9に示すように、正常判定率が100[%]となった。このことは、二次判定部適応の場合、OK異常度の分布範囲とNG異常度の分布範囲との間に判定閾値Thを設定するだけで、誤判定が生じないことを意味している。
【0090】
このように本実施の形態では、二次判定部23において検査領域ARiを特定することにより、誤判定を抑え得るような適切な閾値を設定することが、極めて容易となっている。
【0091】
ここで、判定閾値Thを単純に大きい値とするほど、多くのOK異常度が判定閾値Thよりも小さくなっていくため、正常判定率は高くなる。しかしながらその場合、NG異常度についても判定閾値Thよりも小さくなるものが出てくるため、不良品が良品と判定されてしまう可能性が高くなってしまう。このため外観検査装置1は、二次判定部23で二次判定処理を行うことにより、OK異常度の分布範囲とNG異常度の分布範囲とを大きく分離させ、OK異常度の分布範囲とNG異常度の分布範囲との間に最適な判定閾値Thを設定することができる。これにより外観検査装置1は、不良品を良品と判定してしまうことを防止できる。
【0092】
以上の構成によれば外観検査装置1は、対象物としての回路基板CBを撮影する撮像部7と、撮像部7により撮影された第1画像データとしての判定元画像IMbiを取得する取得部22と、判定元画像IMbiから不良が発生した領域としての検査領域ARiを特定する検査領域切出部24と、回路基板CBが撮影された第2画像データとしての良品元画像IMbrから抽出すべき特徴量を含む教師データセットを用いて学習処理が行われた学習モデルを使用して、判定元画像IMbiから検査領域ARiの第1特徴量としての判定用特徴量を抽出すると共に、良品元画像IMbrから検査領域ARiの第2特徴量としての良品特徴量を抽出する特徴量抽出部28と、良品特徴量と判定用特徴量との剥離を示す評価値としての異常度を算出する異常度算出部26と、異常度から判定元画像IMbiを判定する再判定部27と、再判定部27による判定の結果を出力する表示部5とを設けるようにした。
【0093】
これにより外観検査装置1は、良品を不良品であると判定してしまっても、判定元画像IMbi及び良品元画像IMbrにおける検査領域ARi以外の領域が判定に与える影響を抑えて再判定することにより、良品であると正しく判定することができる。
【0094】
[5.他の実施の形態]
なお上述した実施の形態においては、一次判定部21及び二次判定部23を外観検査装置1の機能として構成する場合について述べた。本発明はこれに限らず、一次判定部21を外観検査装置1の外部の装置の機能として構成し、二次判定部23のみを外観検査装置1の機能として構成しても良い。また上述した実施の形態においては、一次判定部21と二次判定部23とを別々に構成する場合について述べた。本発明はこれに限らず、一次判定部21と二次判定部23とを1つの判定部の機能として構成しても良い。
【0095】
さらに上述した実施の形態において外観検査装置1は、データ保存部30に保存された学習処理において用いられる複数の学習用画像データを良品のデータにより構成する場合について述べた。本発明はこれに限らず、外観検査装置1は、データ保存部30に保存された学習処理において用いられる複数の学習用画像データを不良品のデータを含んで構成しても良い。
【0096】
さらに上述した実施の形態においては、外観検査装置1に撮像部7(図1)を設け、該撮像部7により撮像された画像データをデータ保存部30に保存させておく形態について述べた。本発明はこれに限らず、例えば通信部4を介して接続される他の機器から画像データを取得し、データ保存部30に保存させておいても良い。この場合、他の機器としては、例えば撮像部7と同様の撮像機能や通信部4と同様の通信機能等を有するネットワークカメラ等を使用することができる。
【0097】
さらに上述した実施の形態においては、制御部2において判定処理プログラム等のプログラムを実行し、図2及び図3に示した各機能ブロックをソフトウェアにより構成する形態について述べた。しかし本発明はこれに限らず、例えば図2及び図3に示した各機能ブロックの少なくとも一部をハードウェアにより構成しても良い。
【0098】
さらに上述した実施の形態において外観検査装置1は、判定処理プログラム等の各プログラムを記憶部3に予め記憶しておく形態について述べた。本発明はこれに限らず、例えば所定のサーバ装置(図示せず)に各プログラムを保存しておき、外観検査装置1が通信部4(図1)により所定のネットワーク(図示せず)を介して該サーバ装置から該プログラムをダウンロードして実行するようにしても良い。
【0099】
さらに上述した実施の形態においては、回路基板CB上にチップIC部品MPが正常に実装されているか否かを判定する外観検査装置1に本発明を適用する場合について述べた。本発明はこれに限らず、他の種々の物体の外観の状態を判定する装置に本発明を適用しても良い。
【0100】
さらに本発明は、上述した実施の形態及び他の実施の形態に限定されるものではない。すなわち本発明は、上述した実施の形態と上述した他の実施の形態の一部又は全部を任意に組み合わせた実施の形態にも適用範囲が及ぶものである。また本発明は、上述した実施の形態及び他の実施の形態のうち任意の実施の形態に記載された構成の一部を抽出し、上述した実施の形態及び他の実施の形態のうちの任意の実施の形態の構成の一部と置換・転用した実施の形態や、抽出された構成の一部を任意の実施の形態に追加した実施の形態にも適用範囲が及ぶものである。
【0101】
さらに上述した実施の形態においては、撮像部としての撮像部7と、取得部としての取得部22と、切出領域特定部としての検査領域切出部24と、特徴量抽出部としての特徴量抽出部28と、評価値算出部としての異常度算出部26と、判定部としての再判定部27と、出力部としての表示部5とによって、外観検査装置としての外観検査装置1を構成する場合について述べた。本発明はこれに限らず、その他種々の構成でなる撮像部と、取得部と、切出領域特定部と、特徴量抽出部と、評価値算出部と、判定部と、出力部とによって、外観検査装置を構成しても良い。
【産業上の利用可能性】
【0102】
本発明は、例えば製品を製造する工場に設置される外観検査装置で利用できる。
【符号の説明】
【0103】
1……外観検査装置、2……制御部、3……記憶部、4……通信部、5……表示部、6……操作部、7……撮像部、21……一次判定部、22……取得部、23……二次判定部、24……検査領域切出部、25……特徴量処理部、26……異常度算出部、27……再判定部、28……特徴量抽出部、30……データ保存部、31……特徴量保存部、IMbr……良品元画像、IMbi……判定元画像、IMtr……良品切出画像、IMti……判定切出画像、IFp……部品領域情報、IFc……カテゴリ情報、IFw……不良領域情報、CB……回路基板、MP……チップIC部品、BD……ボディ、LD……リード、ARi……検査領域、ARp……部品領域、ARw……不良領域、Lc……中心線、Lb……境界線、Th……判定閾値。
図1
図2
図3
図4
図5
図6
図7
図8
図9