(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-03-11
(45)【発行日】2024-03-19
(54)【発明の名称】検査装置及び検査方法
(51)【国際特許分類】
G01B 11/30 20060101AFI20240312BHJP
G01N 21/88 20060101ALI20240312BHJP
【FI】
G01B11/30 A
G01N21/88 J
(21)【出願番号】P 2020043383
(22)【出願日】2020-03-12
【審査請求日】2023-01-11
(73)【特許権者】
【識別番号】000002945
【氏名又は名称】オムロン株式会社
(74)【代理人】
【識別番号】110002860
【氏名又は名称】弁理士法人秀和特許事務所
(72)【発明者】
【氏名】酒井 貴史
【審査官】眞岩 久恵
(56)【参考文献】
【文献】特開2019-184587(JP,A)
【文献】特開平08-136222(JP,A)
【文献】特開2017-116420(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01B 11/00-11/30
G01C 3/00-3/32
G01N 21/84-21/958
(57)【特許請求の範囲】
【請求項1】
検査対象物に、空間及び時間に対して周期的に変化する輝度分布を有する光を照射する照明部と、
前記光が照射された前記検査対象物の画像を複数の角度から同時に撮像する撮像部と、
前記撮像部によって、前記複数の角度から撮像された前記検査対象物の前記画像の、時間に対する周期的な輝度変化を取得する輝度変化取得部と、
前記輝度変化に基づいて、前記複数の角度から撮像された前記画像の位相分布情報を生成する位相分布情報生成部と、
前記複数の角度から撮像された前記画像の前記位相分布情報の間の差分である位相差情報を算出する位相差算出部と、
前記位相差情報に基づいて前記検査対象物の検査用画像を生成する検査用画像生成部と、
を備え、
前記照明部が照射する前記光は、
前記位相差情報が前記光の前記検査対象物による反射角度に対して一意となるように、空間に対して周波数変調された前記輝度分布を有することを特徴する検査装置。
【請求項2】
前記位相差情報に基づいて前記位相分布情報に対して位相接続を行う位相接続処理部を備え、
前記検査用画像生成部は、前記位相接続された前記位相分布情報に基づいて前記検査用画像を生成することを特徴とする請求項
1に記載の検査装置。
【請求項3】
前記位相接続処理部は、前記位相差情報と所定の閾値とに基づいて、前記位相分布情報に対して位相接続するための位相量を取得することを特徴とする請求項
2に記載の検査装置。
【請求項4】
前記位相接続処理部は、前記位相差情報と前記閾値とに基づいて、前記位相分布情報を、位相接続するための前記位相量に対応する複数の領域に分割することを特徴とする請求項
3に記載の検査装置。
【請求項5】
検査対象物に、空間及び時間に対して周期的に変化し、かつ、空間に対して周波数変調された輝度分布を有する光を照射する照射ステップと、
前記光が照射された前記検査対象物の画像を複数の角度から同時に撮像する撮像ステップと、
前記照射ステップ及び前記撮像ステップを繰り返して、前記画像の、時間について周期的な輝度変化を取得するステップと、
前記輝度変化に基づいて、前記複数の角度から撮像された前記画像の位相分布情報を生成するステップと、
前記複数の角度から撮像された前記画像の前記位相分布情報の間の差分である位相差情報を算出するステップと、
前記位相差情報に基づいて前記検査対象物の検査用画像を生成するステップと、
を含
み、
前記光は、前記位相差情報が前記光の前記検査対象物による反射角度に対して一意となるように、空間に対して周波数変調されていることを特徴とする検査方法。
【請求項6】
さらに、前記位相差情報に基づいて前記位相分布情報に対して位相接続を行うステップを含み、
前記位相差情報に基づいて前記検査対象物の検査用画像を生成するステップは、前記位相接続された前記位相分布情報に基づいて前記検査対象物の検査用画像を生成するステップを含むことを特徴とする請求項
5に記載の検査方法。
【請求項7】
前記位相接続を行うステップは、前記位相差情報と所定の閾値とに基づいて、前記位相分布情報に対して位相接続するための位相量を取得するステップを含むことを特徴とする請求項
6に記載の検査方法。
【請求項8】
前記位相接続を行うステップは、前記位相差情報と前記閾値とに基づいて、前記位相分布情報を、前記位相接続するための位相量に対応する複数の領域に分割するステップを含むことを特徴とする請求項
7に記載の検査方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、検査装置及び検査方法に関する。
【背景技術】
【0002】
従来、検査対象物を撮像した画像を用いて検査対象物の欠陥を検査する検査装置が提案されていた。
【0003】
このような検査装置として、照度が周期的に変化するパターン光を検査対象物に照射する照明部と、パターン光が照射されている検査対象物を撮像する撮像部とを備えている。照明部は、照度分布の位相をシフトさせた複数のパターン光を順次照射し、パターン光を照射する都度、撮像部が検査対象物を撮像し、得られた複数の輝度画像に基づいて各画素に対応する位相をプロットした位相分情報である位相画像を生成する。そして、位相画像に基づいて検査対象物の外観に係る欠陥検査を行っている(例えば、特許文献1、2、3を参照)。
【0004】
特許文献1に記載の技術では、検査対象物の位相画像と良品の位相画像との差分画像を検査用画像として用いて検査処理を行っている。特許文献2に記載の技術では、隣接画素との位相差分値を欠陥強調画像として、ヒストグラム解析によって欠陥抽出をしている。また、特許文献3に記載の技術では、基準平面との位相差分を欠陥強調画像として用いて検査処理を行っている。
【0005】
このように位相分布情報に基づいて検査用画像を生成する場合には、位相が不連続になる周期境界が欠陥の検出精度に影響を与えるという問題があった。
【先行技術文献】
【特許文献】
【0006】
【文献】特開2018-204994号公報
【文献】特開2014-20870号公報
【文献】特開2017-194273号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
本発明は、上記のような問題に鑑みてなされたものであり、位相分布情報に基づいて検査用画像を生成する場合に、位相が不連続になる境界部分の影響を低減することを目的とする。
【課題を解決するための手段】
【0008】
上記の課題を解決するための本発明は
検査対象物に、空間及び時間に対して周期的に変化する輝度分布を有する光を照射する照明部と、
前記光が照射された前記検査対象物の画像を複数の角度から同時に撮像する撮像部と、
前記撮像部によって、前記複数の角度から撮像された前記検査対象物の前記画像の、時間に対する周期的な輝度変化を取得する輝度変化取得部と、
前記輝度変化に基づいて、前記複数の角度から撮像された前記画像の位相分布情報を生成する位相分布情報生成部と、
前記複数の角度から撮像された前記画像の前記位相分布情報の間の差分である位相差情報を算出する位相差算出部と、
前記位相差情報に基づいて前記位相分布情報に対して位相接続を行う位相接続処理部と、
前記位相接続された前記位相分布情報に基づいて前記検査対象物の検査用画像を生成する検査用画像生成部と、
を備え、
前記照明部が照射する前記光は、空間に対して周波数変調された前記輝度分布を有することを特徴する。
【0009】
本発明によれば、空間及び時間に対して周期的な輝度分布を有する光が照射された検査対象物の画像を複数の角度から同時に撮像する撮像部を備えているので、検査対象物の画像の、時間に対する周期的な輝度変化に基づき、撮像された検査対象物の画像の位相分布情報を、複数の角度から撮像された画像のそれぞれについて生成することができる。そして、このように生成された複数の角度から撮像された検査対象物の画像に基づく位相分布情報の間で算出される位相の差分である位相差情報に基づいて、検査用画像を生成する。検査対象物を複数の角度から同時に検査対象物を撮像する撮像部において、撮像部が検査対象物を撮像する角度(観察角度)に応じて、検査対象物の同一の部位で正反射される光の位相は異なる。検査対象物に照射される光の輝度分布は、空間に対して周波数変調されたものであるため、異なる観察角度から撮像された検査対象物の画像の間での、対応点の輝度変化の位相の差は、観察角度の差によって変化する。このため、輝度分布の空間に対する周波数変調量を適切に設定することにより、周期境界による位相の不連続を含まない位相差情報を取得することができ、検査対象物の欠陥を検出するための検査用画像を生成する場合に、位相が不連続になる境界部分の影響を低減することができる。
ここで、空間的及び時間的に対して周期的に変化する輝度分布は、正弦波状の周期的な輝度変化であってもよいし、矩形波状の周期的な輝度変化であってもよく、これに限られない。
【0010】
また、本発明においては、
前記位相差情報が前記光の前記検査対象物による反射角度に対して一意となるように、前記輝度分布が空間に対して周波数変調されているようにしてもよい。
【0011】
これによれば、周期境界による位相の不連続を含まない位相差情報を取得することができるので、検査用画像を生成する場合に、位相が不連続になる境界部分の影響を低減することができるできる。
【0012】
また、本発明においては、
前記位相差情報に基づいて前記位相分布情報に対して位相接続を行う位相接続処理部を備え、
前記検査用画像生成部は、前記位相接続された前記位相分布情報に基づいて前記検査用画像を生成するようにしてもよい。
【0013】
このようにすれば、複数の角度から撮像された検査対象物の画像に基づく位相分布情報の間の差分である位相差情報に基づいて、位相分布情報の位相接続を行うので、撮像された検査対象物の画像の画素ごとに位相接続できる。このため、検査対象物に、取得された位相が不連続になる部位や位相が欠損する部位を含む可能性がある自由曲面を有する検査対象物に対しても、影響が他の画素に及びにくく、安定した位相接続が可能となり、生成された検査用画像による検査の精度が向上する。また、周波数が異なる輝度分布の光を検査対象物に複数回照射し、その画像を撮像する場合のように、位相接続に必要な撮像回数を増やす必要がない。従って、検査に要する時間も抑えつつ、検査の精度を向上させることができる。
【0014】
また、本発明においては、前記位相接続処理部は、前記位相差情報と所定の閾値とに基づいて、前記位相分布情報に対して位相接続するための位相量を取得するようにしてもよい。
【0015】
このような所定の閾値を、良品を撮像した画像に基づいて設定しておけば、位相接続のために適切な位相量を取得することができる。
【0016】
また、本発明においては、前記位相接続処理部は、前記位相差情報と前記閾値とに基づいて、前記位相分布情報を、前記位相接続するための位相量に対応する複数の領域に分割するようにしてもよい。
【0017】
このようにすれば、分割された領域に、それぞれ対応する位相量を用いることにより位相分布情報を位相接続することができる。
【0018】
また、本発明は、
検査対象物に、空間及び時間に対して周期的に変化し、かつ、空間に対して周波数変調された輝度分布を有する光を照射する照射ステップと、
前記光が照射された前記検査対象物の画像を複数の角度から同時に撮像する撮像ステップと、
前記照射ステップ及び前記撮像ステップを繰り返して、前記画像の、時間について周期的な輝度変化を取得するステップと、
前記輝度変化に基づいて、前記複数の角度から撮像された前記画像の位相分布情報を生成するステップと、
前記複数の角度から撮像された前記画像の前記位相分布情報の間の差分である位相差情報を算出するステップと、
前記位相差情報に基づいて前記検査対象物の検査用画像を生成するステップと、
を含む検査方法である。
【0019】
本発明によれば、空間及び時間に対して周期的な輝度分布を有する光が照射された検査対象物の画像を複数の角度から同時に撮像するので、検査対象物の画像の、時間に対する周期的な輝度変化に基づき、撮像された検査対象物の画像の位相分布情報を、複数の角度から撮像された画像のそれぞれについて生成することができる。そして、このように生成された複数の角度から撮像された検査対象物の画像に基づく位相分布情報の間で算出される位相の差分である位相差情報に基づいて、検査用画像を生成する。検査対象物を複数の角度から同時に検査対象物を撮像する際に、検査対象物を撮像する角度(観察角度)に応じて、検査対象物の同一の部位で正反射される光の位相は異なる。検査対象物に照射される光の輝度分布は、空間に対して周波数変調されたものであるため、異なる観察角度から撮像された検査対象物の画像の間での、対応点の輝度変化の位相の差は、観察角度の差によって変化する。このため、輝度分布の空間に対する周波数変調量を適切に設定することにより、周期境界による位相の不連続を含まない位相差情報を取得することができ、検査対象物の欠陥を検出するための検査用画像を生成する場合に、位相が不連続になる境界部分の影響を低減することができる。
ここで、空間的及び時間的に対して周期的に変化する輝度分布は、正弦波状の周期的な輝度変化であってもよいし、矩形波状の周期的な輝度変化であってもよく、これに限られない。
【0020】
また、本発明においては、
前記位相差情報が前記光の前記検査対象物による反射角度に対して一意となるように、空間に対して周波数変調されているようにしてもよい。
【0021】
これによれば、周期境界による位相の不連続を含まない位相差情報を取得することができるので、検査用画像を生成する場合に、位相が不連続になる境界部分の影響を低減することができるできる。
【0022】
また、本発明においては、
さらに、前記位相差情報に基づいて前記位相分布情報に対して位相接続を行うステップを含み、
前記位相差情報に基づいて前記検査対象物の検査用画像を生成するステップは、前記位相接続された前記位相分布情報に基づいて前記検査対象物の検査用画像を生成するようにしてもよい。
【0023】
このようにすれば、複数の角度から撮像された検査対象物の画像に基づく位相分布情報の間の差分である位相差情報に基づいて、位相分布情報の位相接続を行うので、撮像された検査対象物の画像の画素ごとに位相接続できる。このため、検査対象物に、取得された位相が不連続になる部位や位相が欠損する部位を含む可能性がある自由曲面を有する検査対象物に対しても、影響が他の画素に及びにくく、安定した位相接続が可能となり、生成された検査用画像による検査の精度が向上する。また、周波数が異なる輝度分布の光を検査対象物に複数回照射し、その画像を撮像する場合のように、位相接続に必要な撮像回数を増やす必要がない。従って、検査に要する時間も抑えつつ、検査の精度を向上させることができる。
【0024】
また、本発明においては、前記位相接続を行うステップは、前記位相差情報と所定の閾値とに基づいて、前記位相分布情報に対して位相接続するための位相量を取得するステップを含むようにしてもよい。
【0025】
このような所定の閾値を、良品を撮像した画像に基づいて設定しておけば、位相接続のために適切な位相量を取得することができる。
【0026】
また、本発明においては、前記位相接続を行うステップは、前記位相差情報と前記閾値とに基づいて、前記位相分布情報を、前記位相接続するための位相量に対応する複数の領域に分割するステップを含むようにしてもよい。
【0027】
このようにすれば、分割された領域に、それぞれ対応する位相量を用いることにより位相分布情報を位相接続することができる。
【発明の効果】
【0028】
本発明によれば、位相分布情報に基づいて検査用画像を生成する場合に、位相が不連続になる境界部分の影響を低減する技術を提供することが可能となる。
【図面の簡単な説明】
【0029】
【
図1】本発明の実施例における検査装置の概略構成図である。
【
図4】本発明の実施例における検査装置の機能ブロック図である。
【
図5】本発明の実施例における輝度分布の周波数変調を説明するグラフ及び図である。
【
図6】本発明の実施例における検査方法を説明するフローチャートである。
【
図7】本発明の実施例におけるパターン光の時間に対する周期的な輝度変化を示す図である。
【
図8】本発明の実施例における視点1の撮像画像の輝度変化と評価値の画像を示す図である。
【
図9】本発明の実施例における視点2の撮像画像の輝度変化と評価値の画像を示す図である。
【
図10】本発明の実施例における位相差画像のマッチングの例を示す図である。
【
図11】本発明の実施例における位相差画像を説明する図である。
【
図12】本発明の実施例のおける位相画像の領域分割例を示す図である。
【
図13】本発明の実施例における位相接続された位相画像と検査用画像を示す図である。
【発明を実施するための形態】
【0030】
〔適用例〕
以下、本発明の適用例について、図面を参照しつつ説明する。
図1は、本発明が適用される検査装置1の概略構成を示す。
検査装置1は、主として、制御ユニット、照明部3及び多視点撮像部4を含む。検査装置1は、パターン光が照射されたワークWの表面の位相画像に基づいて、ワークWの外観の欠陥の有無を検査する。
【0031】
これは、ワークWの表面によって反射されたパターン光の反射方向の変化が、撮像画像の明暗変化、すなわち位相の変化として検出されることから、ワークWの表面に傷等の欠陥が存在する場合には、この欠陥部の位相変化が周辺部と異なることを利用したものである。
【0032】
このようなワークWの位相画像を用いた欠陥の検査として従来行われていた方法の一例を、図を参照して説明する。ここでは、検査対象品であるハンマーヘッドH
0(
図14(A))をワークWとして生成した、
図14(A)において四角で囲った領域の位相画像PI
0(
図14(B))と、欠陥のない良品であるハンマーヘッドH
p(
図14(C))をワークWとして生成した、
図14(C)において四角で囲った領域の位相画像PI
p(図(14D))との差分である位相差画像を生成し、この位相差画像を検査用画像として、欠陥の有無を判断する。
【0033】
このように検査対象品と良品との位相差画像に基づいて欠陥の有無を判断する手法は、検査対象の立体形状のばらつきや、検査時のワークWの位置ずれに対して弱く、検査の精度を確保しづらい。
【0034】
本発明では、上述のように、検査対象品と良品との位相画像の差分に基づいて欠陥の有無を検査するのではなく、検査対象品の位相画像における周囲との比較によって欠陥を強調する。このような方法を採用する場合には、位相画像において位相接続が行われていないと、2πを単位とする周期境界で位相が不連続となる境界部分の存在により、検出精度が影響を受ける。
図13(A)は、本発明を適用した検査装置1により取得される位相接続が行われた位相画像を示し、
図13(C)は、位相接続が行われた位相画像にシェーディング補正を行った検査用画像を示す。一方、
図13(B)は、位相接続が行われていない位相画像を示し、
図13(D)は、位相接続が行われていない検査用画像を示す。
図13(C)と
図13(D)を比較すると、上述したように、位相接続が行われていない場合には、検査用画像において、周期境界の存在による影響が検査用画像に現れていることが理解できる。
【0035】
図2は、本発明における検出原理を模式的に説明する図である。
パターン光が照射されたワークWの表面を撮像した画像の各画素における位相を算出する際に、周期的な輝度分布を有するパターン光の位相を時間方向でシフトさせたパターン
光を照射し、互いに位相がシフトした複数のパターン光PL
1、PL
2、PL
3、PL
4が照射されたワークWの表面を撮像する。例えば、正弦波状の輝度分布を有するパターン光の位相をπ/2ずつシフトさせた4種類のパターン光PL
1、PL
2、PL
3、PL
4を照射し、パターン光ごとに撮像されたワークWの画像の4つの輝度値から位相を算出する。
【0036】
本発明では、周期的な輝度分布Ipの周波数を角度方向(矢印A1で示す。)に異なるようなパターン光をワークWに照射する。すなわち、パターン光が射出される照明部3の面方向に沿って、輝度分布Ipの周波数を変調させている。
照明部3によって照射されたパターン光のワークWの表面による正反射光を、複数の視点V1、V2、V3に配置されたカメラC1、C2、C3によって検出することによって、パターン光がワークWの表面に形成する縞の周波数の情報を取得することができ、この縞の周波数の情報を用いて位相接続を行うことができる。
【0037】
図3(A)及び
図3(B)は、上述の検出原理をより詳細に説明した図である。
図3(A)及び
図3(B)では、カメラC
1が視点V
1からワークWの表面を撮像し、カメラC
2が視点V
2からワークWの表面を撮像する。
図3(A)は、ワークWの表面の点P1において正反射され、カメラC
1及びカメラC
2にそれぞれ入射するパターン光の光路を示している。図(B)は、ワークWの表面の点P2において正反射され、カメラC
1及びカメラC
2にそれぞれ入射するパターン光の光路を示している。ワークWの表面の異なる位置を撮像すると、正反射に対応する照明位置がずれる。このような正反射に対応する照明位置のずれに対して、視点V
1及び視点V
2から撮像された画像から算出される位相差(角度差)が変化する。すなわち、ワークWの表面の点P
1を、カメラC
1によって撮像した画像から算出された位相をφ
1、カメラC
2によって撮像した画像から算出された位相をφ2とすると、視点V
1と視点V
2とに対する位相差はΔφ=φ
1-φ
2である。ワークWの表面の点P
2を、カメラC
1によって撮像した画像から算出された位相をφ´
1、カメラC
2によって撮像した画像から算出された位相をφ´
2とすると、視点V
1と視点V
2とに対する位相差はΔφ´=φ´
1-φ´
2である。
図3(B)に対する
図3(A)の場合のように、法線角度が大きくなると、Δφ>Δφ´となり、視点間の位相差が増加する。このため、視点V
1及び視点V
2からの撮像画像の対応点ごとに照明方向を算出することができ、撮像画像の画素ごとの位相接続をより精度よく行うことができる。
図3(A)では、ワークWの表面の点P
1に垂直な法線Nを破線の矢印で表示している。同様に、
図3(B)では、ワークWの表面の点P
2に垂直な法線N´を破線の矢印で表示している。ここで法線N及びN´は、照明部3からワークWの表面に入射する光の方向と、ワークWの表面で反射してカメラC
1又はC
2に入射する光の方向のなる二等分線に一致する。
【0038】
検査装置1では、異なる視点に配置された撮像部によって撮像された画像から取得された位相画像を位置合わせし、それぞれの位相画像の差分である視点間位相差画像を生成する。このとき、視点間位相差がワークWによる反射角度に対して一意となるようにパターン光の輝度分布Ipの周波数変調量を決定している。そして、視点間位相差と予め設定された閾値とを比較することにより、2πを単位として折り返す位相画像を、シフトさせる位相量に対応した領域に分割する。分割された位相画像の領域ごとに、対応する位相量をシフトさせることにより位相接続を行う。
【0039】
本発明によれば位相画像の画素ごとに位相接続を行うことができるので、ハンマーヘッドのように、自由曲面をなす光沢面を有するワークWに対しても安定した位相接続が可能となり、位相接続された位相画像に基づいて生成された検査用画像によって精度のよい欠陥検出が可能となる。
また、周期境界による不連続を含まない視点間位相差画像に基づいて検査用画像を生成
することにより、位相が不連続となる境界部分の影響を低減することができる。
【0040】
〔実施例1〕
以下に図面を参照して、本発明を実施するための形態を、実施例に基づいて例示的に詳しく説明する。ただし、この実施の形態に記載されている構成部品の寸法、材質、形状それらの相対配置などは、発明が適用される装置の構成や各種条件により適宜変更されるべきものである。すなわち、この発明の範囲を以下の実施の形態に限定する趣旨のものではない。
【0041】
<装置構成>
図1は、本実施例1に係る検査装置の概略構成を示す図である。検査装置1は、検査対象物であるワークWの表面における欠陥の有無を検査する。欠陥とは、例えば、ワークWの表面に形成された傷、汚れ、歪、打痕等であるが、これらに限られない。検査装置1においては、照明部3によってパターン光が照射されたワークWの表面を多視点撮像部4によって撮像することによって欠陥の有無を検査する。
【0042】
検査装置1は、主として、制御ユニット2、照明部3、カメラ41及びカメラ42を含む多視点撮像部4を含む。制御ユニット2は、表示部5、キーボード6及びマウス7を備えてもよい。また、制御ユニット2は、プログラマブルロジックコントローラ(PLC)等からなる外部制御装置8を含んで構成されてもよい。照明部3から照射され、ワークWの同一位置によって正反射された光が入射する位置に、カメラ41及びカメラ42は配置されており、ワークWに対するカメラ41とカメラ42の相対的な角度は予め知られている。カメラ41及びカメラ42のそれぞれとワークWと照明部3の輝度分布との3者間の相対的な位置関係によって、後述する、カメラ41及びカメラ42の各視点からワークWを撮像した画像から取得される位相が定まる。
【0043】
制御ユニット2は、一般的なコンピュータにより構成することができる。すなわち、制御ユニット2は、CPUやGPU等のプロセッサの制御部21と記憶部22を有するコンピュータである。記憶部22は、RAMやROM等の主記憶装置、EPROM、ハードディスクドライブ、リムーバブルメディア等の補助記憶装置を含む。なお、リムーバブルメディアは、例えば、USBメモリ、あるいは、CDやDVDのようなディスク記録媒体であってもよい。補助記憶装置には、オペレーティングシステム(OS)、各種プログラム、各種テーブル等が格納され、そこに格納されたプログラムを主記憶装置の作業領域にロードして実行し、プログラムの実行を通じて各構成部等が制御されることによって、後述する検査方法を実行する各機能を実現することができる。ただし、一部又は全部の機能はASICやFPGAのようなハードウェア回路によって実現されてもよい。なお、制御ユニット2は、単一のコンピュータで構成されてもよいし、互いに連携する複数台のコンピュータによって構成されてもよい。また、補助記憶装置は、制御ユニット2とは別に設けられてもよい。
【0044】
図4は、検査装置1の機能ブロック図である。制御ユニット2は、制御部21及び記憶部22に加えて、記憶部22に格納されたプログラムを実行することによって実現される、輝度変化取得部23、評価値算出部24、拡散成分画像処理部25、正反射成分画像処理部26、位相画像処理部27、欠陥検出部28及び良否判定部29を備える。位相画像処理部27は、位相差算出部271、位相接続処理部272及び補正処理部273を含む。各部の具体的な機能については、検査方法の説明に含めて説明する。
【0045】
照明部3は、記憶部22に記憶された照明条件221に従い、空間及び時間に対して周期的に変化する輝度分布を有するパターン光をワークWに照射する。照明部3は、複数の発光ダイオードが2次元的に配置されたパネル、液晶パネル、有機ELパネル等のフラッ
トパネルディスプレイや、プロジェクタと、プロジェクタから投影されたパターン光を反射するスクリーン等の拡散板によって構成することができる。ただし、照明部3の構成は上述のものに限られず、空間及び時間に対して周期的な輝度分布を有するパターン光を生成することできる装置であればよい。空間及び時間に対して周期的な輝度分布としては、正弦波状の周期的な輝度変化を例に説明するが、矩形波状の周期的な輝度変化であってもよく、これに限られない。
【0046】
多視点撮像部4は、ワークWの表面を異なる視点から撮像し得る装置である。多視点撮像部4は、レンズ等の集光光学系と、CCDや、CMOS等の撮像素子からなるイメージセンサと備えるカメラを複数(
図1ではカメラ41及びカメラ42の2台)組み合わせたものであってもよい。また、多視点撮像部4としては、格子状に配置された複数のカメラから構成されるカメラアレイ、プレノプティックカメラ(ライトフィールドカメラ)、複眼カメラや、一つの画素内に複数の光電変換部を有し、それぞれの画像情報を独立に出力する機能を有するCMOS(Dual Pixel CMOS)センサを搭載したカメラを用いることも
できる。このような多視点撮像部を構成する各カメラ間は時間同期させて撮像するよう制御される。また、多視点撮像部4は、1台のカメラを複数の視点に対応する位置に配置し、それぞれの位置で撮像するように構成してもよい。このような多視点撮像部4を構成する複数のカメラは、基線長が短く、平行ステレオで焦点面が共通となるように配置することが望ましい。ここでは、多視点撮像部4が、本発明の撮像部に対応する。
【0047】
以下に、検査装置1による検査方法の説明に先立って、照明部3から照射されるパターン光の特性について説明する。検査装置1の照明部3から照射されるパターン光は、空間周波数が線形に変化するように、空間に対して周波数変調されている。
図5(A)は、検査装置1において、パターン光が照射された理想的なワークWを撮像した画像を想定した場合における隣接画素との初期位相差を示すグラフである。
図5(A)の横軸は縞の延在方向に直交する方向(
図5(G)に示すY方向)の位置(ピクセル)を示し、縦軸は位相をラジアンで示したものである(
図5(B)も同様である)。従来のパターン光は、
図5(B)に示すように、Y方向の位置にかかわらず、隣接画素との初期位相差は一定である。これに対して、検査装置1の照明部3から照射されるパターン光の隣接画素との初期位相差は、Y方向に線形に変化する。
【0048】
図5(C)は、検査装置1において、パターン光が照射された理想的なワークWを撮像した画像を想定した場合における初期位相のプロファイルを、横軸にY方向の位置(ピクセル)をとり、縦軸にラジアンで表された位相をとって示したグラフである。
図5(D)は、従来のパターン光における初期位相のプロファイルを、同様に、横軸にY方向の位置(ピクセル)をとり、縦軸にラジアンで表された位相をとって示したグラフである。従来のパターン光では、
図5(B)に示すように隣接画素との初期位相差は一定であるから、初期位相はY方向に線形に増加する。これに対して、検査装置1の照明部3から照射されるパターン光の初期位相は、
図5(A)に示すように隣接画素との初期位相差がY方向に線形に増加するから、Y方向に単調に増加するが、その変化は線形ではなく、初期位相のプロファイルは下に凸な曲線となる。後述するように、パターン光の空間に対する周期的な輝度変化の周波数変調量は、視点間位相差がワークWの表面での反射角度に対して一意となるように設定することが望ましい。
【0049】
図5(E)は、検査装置1において、パターン光が照射された理想的なワークWを撮像した画像を想定した場合における輝度分布を、横軸にY方向の位置(ピクセル)をとり、縦軸に正規化した輝度をとって示したグラフである。
図5(F)は、従来のパターン光における輝度分布を、同様に、横軸にY方向の位置(ピクセル)をとり、縦軸に正規化した輝度をとって示したグラフである。従来のパターン光では、
図5(F)に示すように、輝度変化は、空間周波数が一定の正弦波で表される。これに対して、検査装置1の照明部3
から照射されるパターン光の輝度分布は、空間周波数がY方向に増加するように変調された正弦波で表される。
【0050】
図5(G)は、検査装置1の照明部3の照明パターンを示す。
図5(H)は、従来の検査装置の照明部の照明パターンを示す。従来の照明部の照明パターンでは、空間周波数がY方向に一定であるから、明暗の縞の間隔もY方向で変化しない。これに対して、検査装置1の照明部3の照明パターンは、空間周波数がY方向に増加するように変調されているから、明暗の縞の間隔はY方向に次第に密になっている。
【0051】
上述したパターン光の特性は、予め設定され、照明条件221の一部として記憶部22に記憶されている。また、検査装置1において、表示部5に表示される画面に従って、キーボード6又はマウス7によって、
図5(A)に示す隣接画素との初期位相差の傾き等のパターン光の特性に関する条件を設定できるようにしてもよい。
【0052】
<検査方法>
以下に、検査装置1における検査方法について説明する。
図6は、検査装置1における検査方法の手順を説明するフローチャートである。
【0053】
まず、制御部21は、検査装置1に対して所定位置に配置されたワークWに対して、照明部3が上述したように空間周波数を変調したパターン光を照射する(ステップS1)。ここでは、ステップS1が、本発明の照射ステップに対応する。
そして、制御部21は、照明部3によってワークWにパターン光を照射するタイミングと同期させて、多視点撮像部4によってワークWの画像を撮像する(ステップS2)。撮像した画像は記憶部22に記憶する。ここでは、ステップS2が、本発明の撮像ステップに対応する。
【0054】
検査装置1では、パターン光が照射されたワークWの表面を撮像した画像の位相を算出するために、照明部3が、時間方向にnステップで、位相を2π/nずつシフトさせたパターン光を照射し、これに同期して多視点撮像部4が、ワークWの画像の撮像を繰り返す(ステップS3)。ここでは、位相シフトのステップ数nを4としているが、これに限られず、3以上の任意の整数nに対して、nステップで位相を2π/nずつシフトさせるようにしてもよい。
【0055】
図7(A)は、検査装置1の照明部3における初期位相での照明パターンを示す。そして、
図7(B)、
図7(C)、
図7(D)は、検査装置1の照明部3において、π/2ずつシフトさせた位相での照明パターンを示す。すなわち、
図7(B)、
図7(C)、
図7(C)は、
図7(A)に示す初期位相での照明パターンから、それぞれπ/2、π、3π/2だけ位相をシフトさせた照明パターンである。
図7(A)~
図7(D)に示すように、明暗の位置は時間ステップに合せて変化するが、明暗の間隔は変化しない。参考のために、
図7(E)~
図7(H)に、Y方向に空間周波数が変調されていない正弦波で表される輝度分布を有する照明パターンを同様に4ステップで、初期位相からπ/2ずつ位相をシフトさせた照明パターンを示す。ここでも、明暗の位置は時間ステップに合せて変化するが、明暗の間隔は一定のままである。
【0056】
次に、輝度変化取得部23は、このように位相をシフトさせたパターン光が照射されたワークWの表面を撮像したn個の画像から、所定画素について、それぞれの位相に対するワークWの表面の輝度値、すなわちパターン光の位相シフトに対応するワークWの表面の輝度変化を取得する(ステップS4)。取得した輝度値は記憶部22に記憶する。
【0057】
初期位相(
図7(A))、初期位相からπ/2シフト(
図7(B))、πシフト(
図7
(C))、3π/2シフト(
図7(D))の各位相に対応する照明パターンのパターン光が照射されたワークWの表面を撮像した画像Im
1、Im
2、Im
3、Im
4から所定画素について取得された輝度をI
1、I
2、I
3、I
4とする。評価値算出部24は、このようにして取得される各画素の輝度変化から、拡散成分R
d、正反射成分R
S、位相φ
Sの評価値を算出する(ステップS5)。算出された評価値は、記憶部22に記憶する。ここでは、各画素の輝度変化から評価値として、拡散成分R
d、正反射成分R
S、位相φ
Sを算出しているが、評価値はこれらに限られず、検査対象物及び検出しようとする欠陥の特性に応じて適切な評価値を選択することができる。
【0058】
ここで、正反射成分R
Sは式(1)で与えられる。
【数1】
平均Mは式(2)で与えられ、拡散成分R
dは式(3)で与えれる。
【数2】
【数3】
そして、位相φは式(4)で与えられる。
【数4】
【0059】
ステップS5では、位相シフトされたパターン光が照射されたワークWを、視点1からカメラ41によって撮像した画像(以下、「第1視点画像」ともいい、照明パターンの各位相に対応する第1視点画像をIm
i(1)(i=1~4)と表記する。)について、拡散成分R
1d(以下、「第1視点拡散成分」ともいう。)、正反射成分R
1S(以下、「第1視点正反射成分」ともいう。)、位相φ
S1(以下、「第1視点位相」ともいう。)を取得する。ステップS5では、同様に、視点2からカメラ42によってワークWを撮像した画像(以下、「第2視点画像」ともいい、照明パターンの各位相に対応する第2視点画像をIm
i(2)(i=1~4)と表記する。)についても、拡散成分R
2d(以下、「第2視点拡散成分」ともいう。)、正反射成分R
2S(以下、「第2視点正反射成分」ともいう。)、位相φ
S2(以下、「第2視点位相」ともいう。)を取得する。
図8(A)は、第1視点画像Im
i(1)(i=1~4)の撮像画像を示す。
図8(B)、
図8(C)、
図8(D)、
図8(E)は、それぞれ、第1視点画像Im
i(1)(i=1~4)の撮像画像から生成したグレー画像GI
1、平均画像(以下、「第1視点平均画像」ともいう。)MI
1、正反射成分画像(以下、「第1視点正反射成分画像」ともいう。)SI
1、位相画像(以下、「第1視点位相画像」ともいう。)PI
1である。これらは、視点1からの撮像画像の各画素に、上述した評価値又は評価値を輝度値に変換した値)をプロットして生成されたものである。
図9(A)は、第2視点画像Im
i(2)(i=1~4)の撮像画像を示す。
図9(B)、
図9(C)、
図9(D)、
図9(E)は、それぞれ、
第2視点画像Im
i(2)(i=1~4)の撮像画像から生成したグレー画像GI
2、平均画像(以下、「第2視点平均画像」ともいう。)MI
2、正反射成分画像(以下、「第2視点正反射成分画像」ともいう。)SI
2、位相画像(以下、「第2視点位相画像」ともいう。)PI
2である。ここで、第1視点位相画像PI
1及び第2視点位相画像PI
2は、いずれも本発明の位相分布情報に対応する。
【0060】
<位相に対する処理>
次に、位相画像処理部27の位相差算出部271は、視点間位相差を算出して、視点間位相差画像を取得する(ステップS6)。ここでは、視点間位相差画像は、本発明の位相差情報に対応する。
視点間位相差画像とは、第1視点位相φS1と第2視点位相φS2との差分(視点間位相差)を輝度値に変換してプロットした画像である。この視点間位相差画像を取得するためには、視点1からの撮像画像と視点2からの撮像画像との対応点をステレオマッチングによって探索し、視点間の位置合わせをしておく。位置合わせされた位相画像は、記憶部22に記憶する。また、エピポーララインを事前のキャリブレーションによって求めておく。
【0061】
ステレオマッチングの手法としては、公知の方法を採用することができる。パッシブ手法として2視点からの撮像画像を用いる場合には、エッジベース等の特徴ベースマッチングや領域ベースマッチング等が挙げられる。また、パッシブ手法として多視点からの撮像画像を用いる場合には、マルチベースラインステレオ等が挙げられる。さらに、多視点撮像部4としてプレノプティックカメラ等を用いる場合には、パッシブ手法として、基線が短いことを活用する方法や視点間の幾何拘束を活用する方法のようにライトフィールドを積極的に活用する方法を採用してもよい。また、アクティブ手法としては、プロジェクタ等を用いてパターンを投影してその位置を使って対応位置の手がかりとする方法や、照度差ステレオや面パターン照明等でワークWの法線を算出して対応位置の手がかりとする方法が挙げられる。また、面パターン照明で分離した拡散反射画像を使ってパッシブステレオの手法を支援する方法でもよい。
【0062】
視点1からの撮像画像と視点2からの撮像画像とのマッチングの評価は、例えば、各視点の平均画像MI
1とMI
2との差分によって行うことができる。
図10(A)及び
図10(B)は、それぞれマッチングが成功した場合と失敗した場合の差分画像MI
pd、MI
ndを示す。マッチングが成功すると、差分値が小さくなるためにのっぺりとして全体的に暗い画像となる。
図10(A)及び
図10(B)のような、各視点の平均画像の差分を表示部5に表示し、ユーザが評価できるようにしてもよい。
【0063】
次に、位相差算出部271は、上述のようにして位置合わせされた第1視点位相画像PI
1(
図11(A))と第2視点位相画像PI
2(
図11(B))に対して、第1視点位相φ
S1と第2視点位相φ
S2との差分をプロットし視点間位相差画像PI
dif(
図11(C))を生成する。生成された視点間位相差画像PI
dif(
図11(C))は、記憶部22に記憶する。
図11(D)は、
図11(C)に示す位相差を横軸に沿って示した位相差のプロファイルを、縦軸の複数の位置について示したグラフである(横軸は座標〈ピクセル〉値、縦軸はπを単位とする位相差である。)。
図11(D)に示すように、横軸方向に800(ピクセル)付近までは位相差が単調に変化する良好な画像(
図11(C))が得られている。横軸方向に800(ピクセル)を超える、位相差の変動が大きい領域は後述する処理には用いない。視点間位相差がワークWの表面での反射角度に対して一意となるように、パターン光の周波数変調量を決められている。
【0064】
位相画像処理部27の位相接続処理部272は、ステップS6において取得した視点間位相差画像を用いて、位相接続を行う(ステップS7)。
まず、視点間位相差画像PI
difに基づいて、位相差量ごとに位相画像の領域を分割する。
図11(D)に示すように単調に変化する位相差と、閾値222とを比較して、位相画像を複数の領域に分割し、分割された領域ごとに対応して位相量をシフトさせる。
図12(A)、
図12(B)、
図12(C)、
図12(D)は、それぞれ第1領域R
1、第2領域R
2、第3領域R
3、第4領域R
4に割り当てられる領域を他の領域と区別して表示した図である。第1領域R
1には2π、第2領域R
2には4π、第3領域R
3には6π、第4領域R
4には8πというように、領域ごとにシフトさせる位相量が定まる。ここでは、閾値222は、本発明の所定の閾値に対応する。
上述した領域分割のための閾値222は、良品を撮像した画像から取得した位相画像及び位相差画像に基づいて設定され、記憶部22に記憶されている。
【0065】
次に、位相接続処理部272は、第1視点位相画像PI
1に対して、上述の処理によって分割された領域と対応する位相シフト量に従って、位相接続を行う。
図13(B)が位相接続を行っていない第1視点位相画像PI
1を示し、
図13(A)が位相接続を行った第1視点接続位相画像UPI
1を示す。
【0066】
次に、位相画像処理部27の補正処理部273は、位相接続された位相画像である第1視点接続位相画像UPI
1に対して、シェーディング補正を行う(ステップS8)。シェーディング補正を行うことにより、照明ムラ等の影響を除去し、全体の輝度レベルが揃えられる。
図13(C)は、シェーディング補正が行われた第1視点接続位相画像SUPI
1を示す。
図13(D)に、位相接続を行っていない第1視点位相画像PI
1にシェーディングを行った位相画像SPI
1を参考に示した。
図13(C)と
図13(D)と比較すると、位相接続によって周期境界の影響が除かれ、第1視点接続位相画像SUPI
1として、明瞭な画像が得られていることが分かる。
【0067】
欠陥検出部28は、ステップS8におけるシェーディング補正によって得られた第1視点接続位相画像SUPI
1を検査用画像として欠陥を検出する(ステップS9)。
ここでは、位相接続された位相画像である第1視点接続位相画像UPI
1に対して、シェーディング補正を行うことにより、検査用画像を生成しているが、ステップS6において取得された視点間位相差画像PI
difに基づいて検査用画像を生成することもできる。
図11(C)においても、位相が不連続となる周期境界が除去されているので、これにシェーディング補正を行い、欠陥検出に用いることができる。
【0068】
<拡散成分に対する処理>
ステップS5において得られた、第1視点拡散成分をプロットして得られた画像(以下、「第1視点拡散成分画像DI1」ともいう。)に対する処理を以下に説明する。
まず、拡散成分画像処理部25は、第1視点拡散成分画像DI1に対して、コントラスト補正を行う(ステップS10)。
次に、拡散成分画像処理部25は、コントラスト補正が行われた第1視点拡散成分画像DI1に対して画像フィルタ補正を行い、検査用画像を生成する(ステップS11)。画像フィルタ補正については、欠陥抽出処理に適合するように公知の方法を適宜採用することができ、限定されない。
そして、欠陥検出部28は、ステップS11で生成された検査用画像を用いて欠陥を検出する(ステップS12)。
【0069】
<正反射成分に対する処理>
ステップS5において得られた第1視点正反射画像SI1に対する処理を以下に説明する。
まず、正反射成分画像処理部26は、第1視点正反射画像SI1に対して、コントラスト補正を行う(ステップS13)。
次に、正反射成分画像処理部26は、コントラスト補正が行われた第1視点正反射画像SI1に対して、画像フィルタ補正を行い、検査用画像を生成する(ステップS14)。画像フィルタ補正については、欠陥抽出処理に適合するように公知の方法を適宜採用することができ、限定されない。
そして、欠陥検出部28は、ステップS14で生成された検査用画像を用いて欠陥を抽出する(ステップS15)。
【0070】
次に、ステップS9、ステップS12、ステップS15において、位相、拡散成分、正反射成分に基づいて検出された欠陥に対して、検査対象品であるワークWの良否判定を行う。位相、拡散成分、正反射成分に基づいて、抽出されやすい欠陥の特性が異なり得るので、これらの欠陥検出結果のいずれかを選択し又は組み合わせて、検査対象品の良否判定を行う。
【0071】
なお、以下には本発明の構成要件と実施例の構成とを対比可能とするために、本発明の構成要件を図面の符号付きで記載しておく。
<発明1>
検査対象物(W)に、空間及び時間に対して周期的に変化する輝度分布を有する光を照射する照明部(3)と、
前記光が照射された前記検査対象物の画像を複数の角度から同時に撮像する撮像部(4)と、
前記撮像部(4)によって、前記複数の角度から撮像された前記検査対象物(W)の前記画像の、時間に対する周期的な輝度変化を取得する輝度変化取得部(23)と、
前記輝度変化に基づいて、前記複数の角度から撮像された前記画像の位相分布情報を生成する位相分布情報生成部(24)と、
前記複数の角度から撮像された前記画像の前記位相分布情報の間の差分である位相差情報を算出する位相差算出部(271)と、
前記位相差情報に基づいて前記検査対象物(W)の検査用画像を生成する検査用画像生成部(273)と、
を備え、
前記照明部(W)が照射する前記光は、空間に対して周波数変調された前記輝度分布を有することを特徴する検査装置(1)。
<発明2>
検査対象物(W)に、空間及び時間に対して周期的に変化し、かつ、空間に対して周波数変調された輝度分布を有する光を照射する照射ステップ(ステップS1)と、
前記光が照射された前記検査対象物(W)の画像を複数の角度から同時に撮像する撮像ステップ(ステップS2)と、
前記照射ステップ及び前記撮像ステップを繰り返して、前記画像の、時間について周期的な輝度変化を取得するステップ(ステップS3、ステップS4)と、
前記輝度変化に基づいて、前記複数の角度から撮像された前記画像の位相分布情報を生成するステップ(ステップS5))と、
前記複数の角度から撮像された前記画像の前記位相分布情報の間の差分である位相差情報を算出するステップ(ステップS6)と、
前記位相差情報に基づいて前記検査対象物の検査用画像を生成するステップ(ステップS8)と、
を含む検査方法。
【符号の説明】
【0072】
1 : 検査装置
3 :照明部
4 :多視点撮像部
23 :輝度変化取得部
24 :評価値算出部
25 :拡散成分算出部
26 :正反射成分処理部
271 :位相差算出部
273 :補正処理部