ホーム > 特許ランキング > リコーエレメックス株式会社
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024017229
(43)【公開日】2024-02-08
(54)【発明の名称】検査システムおよび検査方法
(51)【国際特許分類】
G06T 7/586 20170101AFI20240201BHJP
G01N 21/88 20060101ALI20240201BHJP
G06T 7/00 20170101ALI20240201BHJP
G06V 10/25 20220101ALI20240201BHJP
G06V 10/60 20220101ALI20240201BHJP
【ＦＩ】
G06T7/586
G01N21/88 J
G06T7/00 610Z
G06V10/25
G06V10/60
【審査請求】未請求
【請求項の数】4
【出願形態】ＯＬ
(21)【出願番号】P 2022119737
(22)【出願日】2022-07-27
(71)【出願人】
【識別番号】000006932
【氏名又は名称】リコーエレメックス株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】太田 寛史
(72)【発明者】
【氏名】赤澤 圭一
(72)【発明者】
【氏名】加藤 洋一
【テーマコード（参考）】
2G051
5L096
【Ｆターム（参考）】
2G051AB01
2G051AB02
2G051BB20
2G051BC04
2G051CA04
2G051CB01
2G051EA12
2G051EA16
2G051ED04
5L096AA03
5L096AA06
5L096BA03
5L096CA04
5L096CA17
5L096DA01
5L096FA08
5L096FA17
5L096FA34
5L096FA67
5L096FA69
5L096GA55
5L096GA59
5L096HA01
(57)【要約】 （修正有）
【課題】検査対象物に対して空間的に強度が変化する光を照射することで得られた時系列に複数の撮像画像に基づいて検査対象物の検査を行う検査システムにおいて、高精度なマスク画像を生成する方法を提供する。
【解決手段】検査システムは、検査対象物に対して空間的に強度が変化する光を照射する照明部である照明装置１２０と、前記照明部によって照射された光が前記検査対象物の表面で反射することで発生した反射光を含む光を撮像する撮像部である時間相関カメラ１１０と、前記撮像部によって撮像された時系列に複数の前記撮像画像に基づいて、予め設定された各画素の輝度値に関する所定条件を用いて、前記撮像画像における検査対象領域を抽出するためのマスク領域を含むマスク画像を生成する処理部１０３を含むＰＣ１００と、を備える。
【選択図】図１
【解決手段】検査システムは、検査対象物に対して空間的に強度が変化する光を照射する照明部である照明装置１２０と、前記照明部によって照射された光が前記検査対象物の表面で反射することで発生した反射光を含む光を撮像する撮像部である時間相関カメラ１１０と、前記撮像部によって撮像された時系列に複数の前記撮像画像に基づいて、予め設定された各画素の輝度値に関する所定条件を用いて、前記撮像画像における検査対象領域を抽出するためのマスク領域を含むマスク画像を生成する処理部１０３を含むＰＣ１００と、を備える。
【選択図】図１
【特許請求の範囲】
【請求項1】
検査対象物に対して空間的に強度が変化する光を照射する照明部と、
前記照明部によって照射された光が前記検査対象物の表面で反射することで発生した反射光を含む光を撮像する撮像部と、
前記撮像部によって撮像された時系列に複数の撮像画像に基づいて、予め設定された各画素の輝度値に関する所定条件を用いて、前記撮像画像における検査対象領域を抽出するためのマスク領域を含むマスク画像を生成する処理部と、
を備える検査システム。
前記照明部によって照射された光が前記検査対象物の表面で反射することで発生した反射光を含む光を撮像する撮像部と、
前記撮像部によって撮像された時系列に複数の撮像画像に基づいて、予め設定された各画素の輝度値に関する所定条件を用いて、前記撮像画像における検査対象領域を抽出するためのマスク領域を含むマスク画像を生成する処理部と、
を備える検査システム。
【請求項2】
前記照明部は、前記検査対象物に対して周期的に空間的に強度が変化する光を照射し、
前記処理部は、
複数の前記撮像画像に基づいて、各画素について、最高輝度値を抽出することで最高輝度画像を生成するとともに、最低輝度値を抽出することで最低輝度画像を生成し、
前記最高輝度画像に基づいて、最高輝度値が、予め設定された上限輝度値以下の画素の領域を、第１領域として抽出し、
前記最低輝度画像に基づいて、最低輝度値が、予め設定された下限輝度値以上の画素の領域を、第２領域として抽出し、
前記第１領域と前記第２領域の共通の領域を前記マスク領域として前記マスク画像を生成する、請求項１に記載の検査システム。
前記処理部は、
複数の前記撮像画像に基づいて、各画素について、最高輝度値を抽出することで最高輝度画像を生成するとともに、最低輝度値を抽出することで最低輝度画像を生成し、
前記最高輝度画像に基づいて、最高輝度値が、予め設定された上限輝度値以下の画素の領域を、第１領域として抽出し、
前記最低輝度画像に基づいて、最低輝度値が、予め設定された下限輝度値以上の画素の領域を、第２領域として抽出し、
前記第１領域と前記第２領域の共通の領域を前記マスク領域として前記マスク画像を生成する、請求項１に記載の検査システム。
【請求項3】
前記照明部は、前記検査対象物に対して周期的に空間的に強度が変化する光を照射し、
前記処理部は、
複数の前記撮像画像に基づいて、各画素について、最高輝度値と最低輝度値の差である変位を算出することで輝度変位画像を生成し、
前記輝度変位画像に基づいて、前記変位が、予め設定された変位閾値以上の画素の領域を、第３領域として抽出し、
前記第１領域と前記第２領域と前記第３領域との共通の領域を前記マスク領域として前記マスク画像を生成する、請求項２に記載の検査システム。
前記処理部は、
複数の前記撮像画像に基づいて、各画素について、最高輝度値と最低輝度値の差である変位を算出することで輝度変位画像を生成し、
前記輝度変位画像に基づいて、前記変位が、予め設定された変位閾値以上の画素の領域を、第３領域として抽出し、
前記第１領域と前記第２領域と前記第３領域との共通の領域を前記マスク領域として前記マスク画像を生成する、請求項２に記載の検査システム。
【請求項4】
検査対象物に対して空間的に強度が変化する光を照射する照明部と、前記照明部によって照射された光が前記検査対象物の表面で反射することで発生した反射光を含む光を撮像する撮像部と、を備える検査システムによる検査方法であって、
前記撮像部によって撮像された時系列に複数の撮像画像に基づいて、予め設定された各画素の輝度値に関する所定条件を用いて、前記撮像画像における検査対象領域を抽出するためのマスク領域を含むマスク画像を生成する生成ステップを含む検査方法。
前記撮像部によって撮像された時系列に複数の撮像画像に基づいて、予め設定された各画素の輝度値に関する所定条件を用いて、前記撮像画像における検査対象領域を抽出するためのマスク領域を含むマスク画像を生成する生成ステップを含む検査方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、検査システムおよび検査方法に関する。
【背景技術】
【0002】
従来から、例えば、検査対象物に対して周期的に空間的に強度が変化する光を照射し、検査対象物の表面からの反射光を撮像して撮像画像を取得し、撮像画像の輝度変化等に基づいて検査対象物の異常を検出する技術が提案されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開２０１９－１７４２８８号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
上述の従来技術では、撮像画像における検査対象領域を抽出するためのマスク領域を含むマスク画像を生成するのが有効である。しかしながら、検査対象物の表面（検査面）が例えば光沢があって曲面である場合、正反射光で観察できる領域（正反射領域）は検査対象物の表面の僅かな歪みや設置誤差などによって変化するため、事前にマスク画像を用意するのは難しい。
【0005】
また、例えば、いわゆる時間相関技術（位相シフト法）の場合、強度画像、振幅画像、位相画像からマスクエッジを決定してマスク画像を生成することができる。しかし、正反射領域を特定せずに算出した振幅画像と位相画像は、位相シフト法が成立しない領域を含みうるため、正確であるとは限らない。
【0006】
そこで、本実施形態は、上述の事情に鑑みてなされたものであり、検査対象物に対して空間的に強度が変化する光を照射することで得られた時系列に複数の撮像画像に基づいて検査対象物の検査を行う検査システムにおいて、高精度なマスク画像を生成することを課題とする。
【課題を解決するための手段】
【0007】
実施形態の検査システムは、検査対象物に対して空間的に強度が変化する光を照射する照明部と、前記照明部によって照射された光が前記検査対象物の表面で反射することで発生した反射光を含む光を撮像する撮像部と、前記撮像部によって撮像された時系列に複数の前記撮像画像に基づいて、予め設定された各画素の輝度値に関する所定条件を用いて、前記撮像画像における検査対象領域を抽出するためのマスク領域を含むマスク画像を生成する処理部と、を備える。
【図面の簡単な説明】
【0008】
【発明を実施するための形態】
【0009】
以下、本発明の検査システムおよび検査方法の実施形態について説明する。なお、以下の実施形態では、位相シフト法を使う場合について説明するが、本発明はこれに限定されない。本発明は、ほかにも、例えば、光沢があって曲面である検査面について正反射光によって複数枚画像を取得し、これらの複数枚画像を合成する手法の全般（例えば空間コード化法や特許第６５９０４５５号公報の技術など）にも適用できる。
【0010】
実施形態の概要を説明すると、まず、図１～図１０を用いて、位相シフト法における強度画像、振幅画像、位相画像の生成などについて説明する。その後で、図１１～図１６を用いて、マスク画像の生成について説明する。
【0011】
実施形態の検査システムは、検査対象物を検査するために様々な構成を備えている。図１は、本実施形態の検査システムの構成例を示した図である。図１に示されるように、本実施形態の検査システムは、ＰＣ１００と、時間相関カメラ１１０と、照明装置１２０と、スクリーン１３０と、アーム１４０と、を備えている。
【0012】
アーム１４０は、検査対象物１５０を固定するために用いられ、ＰＣ１００からの制御に応じて、時間相関カメラ１１０が撮影可能な検査対象物１５０の表面の位置と向きを変化させる。
【0013】
照明装置１２０は、検査対象物１５０に対して周期的に空間的に強度が変化する光を照射する。具体的には、照明装置１２０は、ＰＣ１００からの縞パターンに従って、照射する光の強度を領域単位で制御する。また、照明装置１２０は、周期的な時間の遷移に従って当該領域単位の光の強度を制御できる。換言すれば、照明装置１２０は、光の強度の周期的な時間変化及び空間変化を与えることができる。なお、具体的な光の強度の制御手法については後述する。
【0014】
また、本実施形態では、位相シフト法を前提にしているので、照明装置１２０が検査対象物１５０に対して「周期的に」空間的に強度が変化する光を照射するものとした。しかし、位相シフト法以外では、「周期的に」は必要ではない場合がある。
【0015】
スクリーン１３０は、照明装置１２０から出力された光を拡散させた上で、検査対象物１５０に対して面的に光を照射する。本実施形態のスクリーン１３０は、照明装置１２０から入力された周期的な時間変化及び空間変化が与えられた光を、面的に検査対象物１５０に照射する。なお、照明装置１２０とスクリーン１３０との間には、集光用のフレネルレンズ等の光学系部品（図示されず）が設けられてもよい。
【0016】
なお、本実施形態は、照明装置１２０とスクリーン１３０とを組み合わせて、光強度の周期的な時間変化及び空間変化を与える面的な照射部を構成する例について説明するが、このような組み合わせに制限するものではなく、例えば、ＬＥＤを面的に配置して照明部を構成してもよい。また、市販のモニターやテレビなどの一般的なディスプレイによって照明部を構成してもよい。
【0017】
時間相関カメラ１１０は、光学系２１０と、イメージセンサ２２０と、データバッファ２３０と、制御部２４０と、参照信号出力部２５０と、を備えている。図２は、本実施形態の時間相関カメラ１１０の構成を示したブロック図である。
【0018】
光学系２１０は、撮影レンズ等を含み、時間相関カメラ１１０の外部の被写体（検査対象物を含む）からの光束を透過し、その光束により形成される被写体の光学像を結像させる。
【0019】
イメージセンサ２２０は、照明装置１２０によって照射された光が検査対象物１５０の表面で反射することで発生した反射光を含む光を、光学系２１０を介して撮像する。具体的には、イメージセンサ２２０は、光学系２１０を介して入射された光の強弱を光強度信号として画素毎に高速に出力可能なセンサである。
【0020】
本実施形態の光強度信号は、検査システムの照明装置１２０が被写体（検査対象物を含む）に対して光を照射し、当該被写体からの反射光を、イメージセンサ２２０が受け取ったものである。
【0021】
イメージセンサ２２０は、例えば従来のものと比べて高速に読み出し可能なセンサであり、行方向（ｘ方向）、列方向（ｙ方向）の２種類の方向に画素が配列された２次元平面状に構成されたものとする。そして、イメージセンサ２２０の各画素を、画素Ｐ（１，１），……，Ｐ（ｉ，ｊ），……，Ｐ（Ｘ，Ｙ）とする（なお、本実施形態の画像サイズをＸ×Ｙとする。）。なお、イメージセンサ２２０の読み出し速度を制限するものではなく、従来と同様であってもよい。
【0022】
イメージセンサ２２０は、光学系２１０によって透過された、被写体（検査対象物を含む）からの光束を受光して光電変換することで、被写体から反射された光の強弱を示した光強度信号（撮影信号）で構成される、２次元平面状のフレームを生成し、制御部２４０に出力する。本実施形態のイメージセンサ２２０は、読み出し可能な単位時間毎に、当該フレームを出力する。
【0023】
本実施形態の制御部２４０は、例えばＣＰＵ（Central Processing Unit）、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）等で構成され、ＲＯＭに格納された検査プログラムを実行することで、転送部２４１と、読出部２４２と、強度画像用重畳部２４３と、第１の乗算器２４４と、第１の相関画像用重畳部２４５と、第２の乗算器２４６と、第２の相関画像用重畳部２４７と、画像出力部２４８と、を実現する。なお、ＣＰＵ等で実現することに制限するものではなく、ＦＰＧＡ（Field Programmable Gate Array）やＡＳＩＣ（Application Specific Integrated Circuit）やＧＰＵ(Graphics Processing Unit)などで実現してもよい。
【0024】
転送部２４１は、イメージセンサ２２０から出力された、光強度信号で構成されたフレームを、データバッファ２３０に、時系列順に蓄積する。
【0025】
データバッファ２３０は、イメージセンサ２２０から出力された、光強度信号で構成されたフレームを、時系列順に蓄積する。
【0026】
図３は、本実施形態の時間相関カメラ１１０で時系列順に蓄積されたフレームを表した概念図である。図３に示されるように、本実施形態のデータバッファ２３０には、時刻ｔ（ｔ＝ｔ０，ｔ１，ｔ２，……，ｔｎ）毎の複数の光強度信号Ｇ（１，１，ｔ），……，Ｇ（ｉ，ｊ，ｔ），……，Ｇ（Ｘ，Ｙ，ｔ）の組み合わせで構成された複数のフレームＦｋ（ｋ＝１，２，……，ｎ）が、時系列順に蓄積される。なお、時刻ｔで作成される一枚のフレームは、光強度信号Ｇ（１，１，ｔ），……，Ｇ（ｉ，ｊ，ｔ），……，Ｇ（Ｘ，Ｙ，ｔ）で構成される。
【0027】
本実施形態の光強度信号（撮像信号）Ｇ（１，１，ｔ），……，Ｇ（ｉ，ｊ，ｔ），……，Ｇ（Ｘ，Ｙ，ｔ）には、フレーム画像Ｆｋ（ｋ＝１，２，……，ｎ）を構成する各画素Ｐ（１，１），……，Ｐ（ｉ，ｊ），……，Ｐ（Ｘ，Ｙ）が対応づけられている。
【0028】
イメージセンサ２２０から出力されるフレームは、光強度信号のみで構成されており、換言すればモノクロの画像データとも考えることができる。なお、本実施形態は、解像度、感度、及びコスト等を考慮して、イメージセンサ２２０がモノクロの画像データを生成する例について説明するが、イメージセンサ２２０としてモノクロ用のイメージセンサに制限するものではなく、カラー用のイメージセンサを用いてもよい。
【0029】
図２に戻り、本実施形態の読出部２４２は、データバッファ２３０から、光強度信号Ｇ（１，１，ｔ），……，Ｇ（ｉ，ｊ，ｔ），……，Ｇ（Ｘ，Ｙ，ｔ）をフレーム単位で、時系列順に読み出して、第１の乗算器２４４と、第２の乗算器２４６と、強度画像用重畳部２４３と、に出力する。
【0030】
本実施形態の時間相関カメラ１１０は、読出部２４２の出力先毎に画像データを生成する。換言すれば、時間相関カメラ１１０は、３種類の画像データを作成する。
【0031】
本実施形態の時間相関カメラ１１０は、３種類の画像データとして、強度画像データと、２種類の時間相関画像データと、を生成する。なお、本実施形態は、３種類の画像データを生成することに制限するものではなく、強度画像データを生成しない場合や、１種類又は３種類以上の時間相関画像データを生成する場合も考えられる。
【0032】
本実施形態のイメージセンサ２２０は、上述したように単位時間毎に、光強度信号で構成されたフレームを出力している。しかしながら、通常の画像データを生成するためには、撮影に必要な露光時間分の光強度信号が必要になる。そこで、本実施形態では、強度画像用重畳部２４３が、撮影に必要な露光時間分の複数のフレームを重畳して、強度画像データを生成する。なお、強度画像データの各画素値（光の強度を表す値）Ｇ（ｘ，ｙ）は、以下に示す式（１）から導き出すことができる。なお、露光時間は、ｔ０とｔｎの時間差とする。
【0033】
【数1】
【0034】
これにより、従来のカメラの撮影と同様に、被写体（検査対象物を含む）が撮影された強度画像データが生成される。そして、強度画像用重畳部２４３は、生成した強度画像データを、画像出力部２４８に出力する。
【0035】
時間相関画像データは、時間遷移に応じた光の強弱の変化を示す画像データである。つまり、本実施形態では、時系列順のフレーム毎に、当該フレームに含まれる光強度信号に対して、時間遷移を示した参照信号を乗算し、参照信号と光強度信号と乗算結果である時間相関値で構成された、時間相関値フレームを生成し、複数の時間相関値フレームを重畳することで、時間相関画像データを生成する。
【0036】
ところで、時間相関画像データを用いて、検査対象物の異常を検出するためには、イメージセンサ２２０に入力される光強度信号を、参照信号に同期させて変化させる必要がある。このために、照明装置１２０が、上述したように、スクリーン１３０を介して周期的に時間変化および縞の空間的な移動を与えるような、面的な光の照射を行うこととした。
【0037】
本実施形態では、２種類の時間相関画像データを生成する。参照信号は、時間遷移を表した信号であればよいが、本実施形態では、複素正弦波ｅ-jωtを用いる。なお、角周波数ω、時刻ｔとする。参照信号を表す複素正弦波ｅ-jωtが、上述した露光時間（換言すれば強度画像データ、時間相関画像を生成するために必要な時間）の一周期と相関をとるように、角周波数ωが設定されるものとする。換言すれば、照明装置１２０およびスクリーン１３０等の照明部によって形成された面的かつ動的な光は、検査対象物１５０の表面（反射面）の各位置で第一の周期（時間周期）での時間的な照射強度の変化を与えるとともに、表面に沿った少なくとも一方向に沿った第二の周期（空間周期）での空間的な照射強度の増減分布を与える。この面的な光は、表面で反射される際に、当該表面のスペック（法線ベクトルの分布等）に応じて複素変調される。時間相関カメラ１１０は、表面で複素変調された光を受光し、第一の周期の参照信号を用いて直交検波（直交復調）することにより、複素信号としての時間相関画像データを得る。このような複素時間相関画像データに基づく変復調により、表面の法線ベクトルの分布に対応した特徴を検出することができる。
【0038】
複素正弦波ｅ-jωtは、ｅ-jωt＝ｃｏｓ（ωｔ）－ｊ・ｓｉｎ（ωｔ）と表すこともできる。従って、時間相関画像データの各画素値Ｃ（ｘ，ｙ）は、以下に示す式（２）から導き出すことができる。
【0039】
【数2】
【0040】
本実施形態では、式（２）において、実数部を表す画素値Ｃ１（ｘ，ｙ）と、虚数部を表す画素値Ｃ２（ｘ，ｙ）と、に分けて２種類の時間相関画像データを生成する。
【0041】
このため、参照信号出力部２５０は、第１の乗算器２４４と、第２の乗算器２４６と、に対してそれぞれ異なる参照信号を生成し、出力する。本実施形態の参照信号出力部２５０は、複素正弦波ｅ-ｊωtの実数部に対応する第１の参照信号ｃｏｓωｔを第１の乗算器２４４に出力し、複素正弦波ｅ-jωtの虚数部に対応する第２の参照信号ｓｉｎωｔを第２の乗算器２４６に出力する。このように本実施形態の参照信号出力部２５０は、互いにヒルベルト変換対をなす正弦波および余弦波の時間関数として表される２種類の参照信号を出力する例について説明するが、参照信号は時間関数のような時間遷移に応じて変化する参照信号であればよい。
【0042】
そして、第１の乗算器２４４は、読出部２４２から入力されたフレーム単位で、当該フレームの光強度信号毎に、参照信号出力部２５０から入力された複素正弦波ｅ-jωtの実数部ｃｏｓωｔを乗算する。
【0043】
第１の相関画像用重畳部２４５は、撮影に必要な露光時間分の複数のフレームについて、第１の乗算器２４４の乗算結果を画素毎に重畳する処理を行う。これにより、第１の時間相関画像データの各画素値Ｃ１（ｘ，ｙ）が、以下の式（３）から導出される。
【0044】
【数3】
【0045】
そして、第２の乗算器２４６は、読出部２４２から入力されたフレームの光強度信号に対して、参照信号出力部２５０から入力された複素正弦波ｅ-jωtの虚数部ｓｉｎωｔを乗算する。
【0046】
第２の相関画像用重畳部２４７は、撮影に必要な露光時間分の複数のフレームについて、第２の乗算器２４６の乗算結果を画素毎に重畳する処理を行う。これにより、第２の時間相関画像データの各画素値Ｃ２（ｘ、ｙ）が、以下の式（４）から導出される。
【0047】
【数4】
【0048】
上述した処理を行うことで、２種類の時間相関画像データ、換言すれば２自由度を有する時間相関画像データを生成できる。
【0049】
また、本実施形態は、参照信号の種類を制限するものでない。例えば、本実施形態では、複素正弦波ｅ-jωtの実部と虚部の２種類の時間相関画像データを作成するが、光の振幅と、光の位相と、による２種類の画像データを生成してもよい。
【0050】
なお、本実施形態の時間相関カメラ１１０は、時間相関画像データとして、複数系統分作成可能とする。これにより、例えば複数種類の幅の縞が組み合わされた光が照射された際に、上述した実部と虚部とによる２種類の時間相関画像データを、縞の幅毎に作成可能とする。このために、時間相関カメラ１１０は、２個の乗算器と２個の相関画像用重畳部とからなる組み合わせを、複数系統分備えるとともに、参照信号出力部２５０は、系統毎に適した角周波数ωによる参照信号を出力可能とする。
【0051】
そして、画像出力部２４８が、２種類の時間相関画像データと、強度画像データと、をＰＣ１００に出力する。これにより、ＰＣ１００が、２種類の時間相関画像データと、強度画像データと、を用いて、検査対象物の異常を検出する。そのためには、被写体に対して光を照射する必要がある。
【0052】
本実施形態の照明装置１２０は、高速に移動する縞パターンを照射する。図４は、本実施形態の照明装置１２０が照射する縞パターンの一例を示した図である。図４に示す例では、縞パターンをｘ方向にスクロール（移動）させている例とする。白い領域が縞に対応した明領域、黒い領域が縞と縞との間に対応した間隔領域（暗領域）である。
【0053】
本実施形態では、時間相関カメラ１１０が強度画像データ及び時間相関画像データを撮影する露光時間で、照明装置１２０が照射する縞パターンが一周期分移動させる。これにより、照明装置１２０は、光の強度の縞パターンの空間的な移動により光の強度の周期的な時間変化を与える。本実施形態では、図４の縞パターンが一周期分移動する時間を、露光時間と対応させることで、時間相関画像データの各画素には、少なくとも、縞パターン一周期分の光の強度信号に関する情報が埋め込まれる。
【0054】
図４に示されるように、本実施形態では、照明装置１２０が矩形波に基づく縞パターンを照射する例について説明するが、矩形波以外を用いてもよい。本実施形態では、照明装置１２０がスクリーン１３０を介して照射されることで、矩形波の明暗の境界領域をぼかすことができる。
【0055】
本実施形態では、照明装置１２０が照射する縞パターンをＡ（１＋cos（ωｔ＋ｋｘ））と表す。すなわち、縞パターンには、複数の縞が反復的に（周期的に）含まれる。なお、検査対象物に照射される光の強度は０～２Ａの間で調整可能とし、光の位相ｋｘとする。ｋは、縞の波数である。ｘは、位相が変化する方向である。
【0056】
そして、フレームの各画素の光強度信号ｆ（ｘ，ｙ，ｔ）の基本周波数成分は、以下の式（５）として表すことができる。式（５）で示されるように、ｘ方向で縞の明暗が変化する。
【0057】
ｆ（ｘ，ｙ，ｔ）＝Ａ（１＋ｃｏｓ（ωｔ＋ｋｘ））
＝Ａ＋Ａ／２｛ｅj(ωt+kx)＋ｅ-j(ωt+kx)｝……（５）
＝Ａ＋Ａ／２｛ｅj(ωt+kx)＋ｅ-j(ωt+kx)｝……（５）
【0058】
式（５）で示されるように、照明装置１２０が照射する縞パターンの強度信号は、複素数として扱うことができる。
【0059】
そして、イメージセンサ２２０には、当該照明装置１２０からの光が被写体（検査対象物を含む）から反射して入力される。
【0060】
したがって、イメージセンサ２２０に入力される光強度信号Ｇ（ｘ，ｙ，ｔ）を、照明装置１２０が照射された際のフレームの各画素の光強度信号ｆ（ｘ，ｙ，ｔ）とできる。そこで、強度画像データを導出するための式（１）に式（５）を代入すると、式（６）を導出できる。なお、位相ｋｘとする。
【0061】
【数5】
【0062】
式（６）から、強度画像データの各画素には、露光時間Ｔに、照明装置１２０が出力している光の強度の中間値Ａを乗じた値が入力されていることが確認できる。さらに、時間相関画像データを導出するための式（２）に式（５）を代入すると、式（７）を導出できる。なお、ＡＴ／２を振幅とし、ｋｘを位相とする。
【0063】
【数6】
【0064】
これにより、式（７）で示された複素数で示された時間相関画像データは、上述した２種類の時間相関画像データと置き換えることができる。つまり、上述した実部と虚部とで構成される時間相関画像データには、検査体に照射された光強度変化における位相変化と振幅変化とが含まれている。換言すれば、本実施形態のＰＣ１００は、２種類の時間相関画像データに基づいて、照明装置１２０から照射された光の位相変化と、光の振幅変化と、を検出できる。そこで、本実施形態のＰＣ１００が、時間相関画像データ及び強度画像データに基づいて、画素毎に入る光の振幅を表した振幅画像データと、画素毎に入る光の位相変化を表した位相画像データと、を生成する。
【0065】
さらに、ＰＣ１００は、生成した振幅画像データと位相画像データとに基づいて、検査対象物の異常を検出する。
【0066】
ところで、検査対象物の表面形状に凹凸に基づく異常が生じている場合、検査対象物の表面の法線ベクトルの分布には異常に対応した変化が生じている。また、検査対象物の表面に光を吸収するような異常が生じている場合、反射した光の強度に変化が生じる。法線ベクトルの分布の変化は、光の位相変化及び振幅変化のうち少なくともいずれか一つとして検出される。そこで、本実施形態では、時間相関画像データ及び強度画像データを用いて、法線ベクトルの分布の変化に対応した、光の位相変化及び振幅変化のうち少なくともいずれか一つを検出する。これにより、表面形状の異常を検出可能となる。次に、検査対象物の異常、法線ベクトル、及び光の位相変化又は振幅変化の関係について説明する。
【0067】
図５は、実施形態の時間相関カメラ１１０による、検査対象物の異常の第１の検出例を示した図である。図５に示される例では、検査対象物５００に突形状の異常５０１がある状況とする。当該状況においては、異常５０１の点５０２の近傍領域においては、法線ベクトル５２１、５２２、５２３が異なる方向を向いていることを確認できる。そして、当該法線ベクトル５２１、５２２、５２３が異なる方向を向いていることで、異常５０１から反射した光に拡散（例えば、光５１１、５１２、５１３）が生じ、時間相関カメラ１１０のイメージセンサ２２０の任意の画素５３１に入る縞パターンの幅５０３が広くなる。
【0068】
図６は、図５に示される異常５０１が検査対象物５００にある場合に、当該異常に応じて変化する、光の振幅の例を表した図である。図６に示される例では、光の振幅を実部（Ｒｅ）と、虚部（Ｉｍ）に分けて２次元平面上に表している。図６では、図５の光５１１、５１２、５１３に対応する光の振幅６１１、６１２、６１３として示している。そして、光の振幅６１１、６１２、６１３は互いに打ち消し合い、イメージセンサ２２０の当該任意の画素５３１には、振幅６２１の光が入射する。
【0069】
したがって、図６に示される状況で、検査対象物５００の異常５０１が撮像された領域で振幅が小さいことが確認できる。換言すれば、振幅変化を示した振幅画像データで、周囲と比べて暗くなっている領域がある場合に、当該領域で光同士の振幅の打ち消し合いが生じていると推測できるため、当該領域に対応する検査対象物５００の位置で異常５０１が生じていると判断できる。
【0070】
本実施形態の検査システムは、図５の異常５０１のように傾きが急峻に変化しているものに限らず、緩やかに変化する異常も検出できる。図７は、実施形態の時間相関カメラ１１０による、検査対象物の異常の第２の検出例を示した図である。図７に示される例では、正常な場合は検査対象物の表面が平面（換言すれば法線が平行）となるが、検査対象物７００に緩やかな勾配７０１が生じた状況とする。このような状況においては、勾配７０１上の法線ベクトル７２１、７２２、７２３も同様に緩やかに変化する。したがって、イメージセンサ２２０に入力する光７１１、７１２、７１３も少しずつずれていく。図７に示される例では、緩やかな勾配７０１のために光の振幅の打ち消し合いは生じないため、図５、図６で表したような光の振幅はほとんど変化しない。しかしながら、本来スクリーン１３０から投影された光が、そのままイメージセンサに平行に入るはずが、緩やかな勾配７０１のために、スクリーン１３０から投影された光が平行の状態でイメージセンサに入らないために、光に位相変化が生じる。従って、光の位相変化について、周囲等との違いを検出することで、図７に示したような緩やかな勾配７０１による異常を検出できる。
【0071】
また、検査対象物の表面形状（換言すれば、検査対象物の法線ベクトルの分布）以外にも異常が生じる場合がある。図８は、実施形態の時間相関カメラ１１０による、検査対象物の異常の第３の検出例を示した図である。図８に示される例では、検査対象物８００に汚れ８０１が付着しているため、照明装置１２０から照射された光が吸収あるいは拡散反射し、時間相関カメラ１１０の、汚れ８０１を撮影している任意の画素領域では光がほとんど強度変化しない例を表している。換言すれば、汚れ８０１を撮影している任意の画素領域では、光強度は位相打ち消しを起こし振動成分がキャンセルされ、ほとんど直流的な明るさになる例を示している。
【0072】
このような場合、汚れ８０１を撮影している画素領域においては、光の振幅がほとんどないため、振幅画像データを表示した際に、周囲と比べて暗くなる領域が生じる。したがって、当該領域に対応する検査対象物８００の位置に、汚れ８０１等の異常があることを推定できる。
【0073】
このように、本実施形態では、時間相関画像データに基づいて、光の振幅の変化と、光の位相の変化と、を検出することで、検査対象物に異常があることを推定できる。
【0074】
図１に戻り、ＰＣ１００について説明する。ＰＣ１００は、検出システム全体の制御を行う。ＰＣ１００は、アーム制御部１０１と、照明制御部１０２と、処理部１０３と、を備える。
【0075】
アーム制御部１０１は、検査対象物１５０の時間相関カメラ１１０による撮像対象となる表面を変更するために、アーム１４０を制御する。本実施形態では、ＰＣ１００において、検査対象物の撮影対象となる表面を複数設定しておく。そして、時間相関カメラ１１０が検査対象物１５０の撮影が終了する毎に、アーム制御部１０１が、当該設定に従って、時間相関カメラ１１０が設定された表面を撮影できるように、アーム１４０が検査対象物１５０を移動させる。なお、本実施形態は撮影が終了する毎にアームを移動させ、撮影が開始する前に停止させることを繰り返すことに制限するものではなく、継続的にアーム１４０を駆動させてもよい。
【0076】
照明制御部１０２は、検査対象物１５０を検査するために照明装置１２０が照射する縞パターンを出力する。本実施形態の照明制御部１０２は、少なくとも３枚以上の縞パターンを、照明装置１２０に受け渡し、当該縞パターンを露光時間中に切り替えて表示するように照明装置１２０に指示する。
【0077】
図９は、照明制御部１０２が照明装置１２０に出力する縞パターンの例を示した図である。図９（Ｂ）に示す矩形波に従って、図９（Ａ）に示す黒領域と白領域とが設定された縞パターンが出力されるように、照明制御部１０２が制御を行う。
【0078】
本実施形態で照射する縞パターン毎の縞の間隔は、検出対象となる異常（欠陥）の大きさに応じて設定されるものとしてここでは詳しい説明を省略する。
【0079】
また、縞パターンを出力するための矩形波の角周波数ωは、参照信号の角周波数ωと同じ値とする。
【0080】
図９に示されるように、照明制御部１０２が出力する縞パターンは、矩形波として示すことができるが、スクリーン１３０を介することで、縞パターンの境界領域をぼかす、すなわち、縞パターンにおける明領域（縞の領域）と暗領域（間隔の領域）との境界での光の強度変化を緩やかにする（鈍らせる）ことで、正弦波に近似させることができる。図１０は、スクリーン１３０を介した後の縞パターンを表した波の形状の例を示した図である。図１０に示されるように波の形状が、正弦波に近づくことで、計測精度を向上させることができる。また、縞に明度が多段階に変化するグレー領域を追加したり、グラデーションを与えたりしてもよい。また、カラーの縞を含む縞パターンを用いてもよい。
【0081】
図１に戻り、処理部１０３は、時間相関カメラ１１０から入力された強度画像データと、時間相関画像データと、により、検査対象物１５０の検査対象面の法線ベクトルの分布と対応した特徴であって、周囲との違いによって異常を検出する特徴を算出するための処理を行う。なお、本実施形態は、検査を行うために、複素数で示した時間相関画像データ（複素時間相関画像データと称す）の代わりに、複素数相関画像データの実部と虚部とで分けた２種類の時間相関画像データを、時間相関カメラ１１０から受け取る。
【0082】
処理部１０３は、時間相関カメラ１１０から入力された強度画像データと、時間相関画像データと、に基づいて、振幅画像データと、位相画像データと、を生成する。
【0083】
振幅画像データは、画素毎に入る光の振幅を表した画像データとする。位相画像データは、画素毎に入る光の位相を表した画像データとする。
【0084】
本実施形態は振幅画像データの算出手法を制限するものではないが、例えば、処理部１０３は、２種類の時間相関画像データの画素値Ｃ１（ｘ，ｙ）及びＣ２（ｘ，ｙ）から、式（８）を用いて、振幅画像データの各画素値Ｆ（ｘ，ｙ）を導き出せる。
【0085】
【数7】
【0086】
そして、本実施形態では、振幅画像データの画素値（振幅）と、強度画像データの画素値と、に基づいて、異常が生じている領域があるか否かを判定できる。例えば、強度画像データの画素値（ＡＴ）を２で除算した値と、振幅画像データの振幅（打ち消し合いが生じない場合にはＡＴ／２となる）と、がある程度一致する領域は異常が生じていないと推測できる。一方、一致していない領域については、振幅の打ち消しが生じていると推測できる。なお、具体的な手法については後述する。
【0087】
同様に、処理部１０３は、画素値Ｃ１（ｘ，ｙ）及びＣ２（ｘ，ｙ）から、式（９）を用いて、位相画像データの各画素値Ｐ（ｘ，ｙ）を導き出せる。
【0088】
【数8】
【0089】
［マスク画像の生成］
次に、マスク画像の生成に関する処理部１０３の処理について説明する。処理部１０３は、時系列に複数の撮像画像に基づいて、予め設定された各画素の輝度値に関する所定条件を用いて、撮像画像における検査対象領域を抽出するためのマスク領域を含むマスク画像を生成する。なお、使用する撮像画像の枚数は、サンプリング定理から最低３枚以上である。
次に、マスク画像の生成に関する処理部１０３の処理について説明する。処理部１０３は、時系列に複数の撮像画像に基づいて、予め設定された各画素の輝度値に関する所定条件を用いて、撮像画像における検査対象領域を抽出するためのマスク領域を含むマスク画像を生成する。なお、使用する撮像画像の枚数は、サンプリング定理から最低３枚以上である。
【0090】
具体的には、処理部１０３は、複数の撮像画像に基づいて、各画素について、最高輝度値を抽出することで最高輝度画像を生成するとともに、最低輝度値を抽出することで最低輝度画像を生成する。
【0091】
また、処理部１０３は、複数の撮像画像に基づいて、各画素について、最高輝度値と最低輝度値の差である変位を算出することで輝度変位画像を生成する。
【0092】
また、処理部１０３は、最高輝度画像に基づいて、最高輝度値が、予め設定された上限輝度値以下の画素の領域を、第１領域として抽出する。ここで、上限輝度値は、最高輝度画像中のハレーションがない領域を抽出するために設定された値である。具体的には、上限輝度値は、例えば、市販の８ｂｉｔカメラであれば、画素値が２５０程度（階調最高値の９６～９８％程度）であるが、これに限定されず、カメラの性能等に応じて可変である。
【0093】
また、処理部１０３は、最低輝度画像に基づいて、最低輝度値が、予め設定された下限輝度値以上の画素の領域を、第２領域として抽出する。ここで、下限輝度値は、最低輝度画像中の画像がつぶれていない領域を抽出するために設定された値である。具体的には、下限輝度値は、例えば、市販の８ｂｉｔカメラであれば、画素値が５程度であるが、これに限定されず、カメラの性能等に応じて可変である。また、対象となる検査面が光沢面であって、例えば保持治具などの不要な物体が映り込む場合、照明強度を上げて下限輝度値も上げることで不要な物体を分離（排除）するようにしてもよい。
【0094】
また、処理部１０３は、輝度変位画像に基づいて、変位が、予め設定された変位閾値以上の画素の領域を、第３領域として抽出する。ここで、変位閾値は、輝度変位画像中の照明変調の効果が充分に表れている領域を抽出するために設定された値である。具体的には、変位閾値は、例えば、市販の８ｂｉｔカメラであれば、変位が１０程度であるが、これに限定されず、カメラの性能等に応じて可変である。なお、検査対象物の表面が光沢面であるが完全な鏡面ではない場合、正反射領域でない部位も照明光由来でない環境光などによってある程度の最低輝度値を持つことになる。したがって、変位が充分にある領域を選択することでこのような非正反射領域を除くことができる。
【0095】
そして、処理部１０３は、第１領域と第２領域と第３領域との共通の領域をマスク領域としてマスク画像を生成する。このマスク領域は、光沢のある被検査面上の正反射領域（位相シフト法が成立する領域）に対応している。なお、処理部１０３は、マスク画像を生成した後に、さらに、複数回の膨張処理・収縮処理などを用いてエッジ部分を調整してもよい。
【0096】
また、状況によっては、例えば、処理部１０３は、第３領域を用いず、第１領域と第２領域との共通の領域をマスク領域としてマスク画像を生成するようにしてもよい。
【0097】
次に、図１１、図１２を参照して、実施例１について説明する。なお、照明装置１２０が照射する縞パターンとしては、図４に示すものを用いる。図４に示す縞パターンにおいて、白黒１対で１周期とする。この縞パターンを、１／２４周期分ずつずらしながら、撮像画像を２４枚撮像する。
【0098】
図１１は、実施形態の実施例１で取得された撮像画像の例を示す図である。検査対象物１５０は、光沢のある自動車用アンテナカバーである。図１１（ａ）は撮像画像で、図１１（ｂ）は撮像画像から検査対象物１５０の部分を切り取ったものである。
【0099】
図１２は、実施形態の実施例１における計算結果の例を示した図である。（ａ）は、強度画像（撮像画像（生画像）２４枚の平均値）である。（ｂ）は、振幅画像である。（ｃ）は、位相画像である。（ｄ）は、マスク画像である。
【0100】
図１２からわかるように、位相シフト法で得られる強度画像、振幅画像、位相画像と比較して、高精度な画像マスクが得られている。なお、このマスク画像は、本実施形態の方法で共通領域を得た後、６回の膨張収縮でエッジ部分を整えたものである。
【0101】
次に、図１３～図１５を参照して、実施例２について説明する。なお、照明装置１２０が照射する縞パターンとしては、図１３に示すものを用いる。図１３は、実施形態の実施例２における正弦波投影パターンを示す図である。図１３に示す縞パターンにおいて、白黒１対で１周期とする。この縞パターンを、１／４周期分ずつずらしながら、撮像画像を４枚撮像する。
【0102】
【0103】
図１５は、実施形態の実施例２における計算結果の例を示した図である。（ａ）は、強度画像（撮像画像（生画像）４枚の平均値）である。（ｂ）は、振幅画像である。（ｃ）は、位相画像である。（ｄ）は、マスク画像である。
【0104】
図１５からわかるように、位相シフト法で得られる強度画像、振幅画像、位相画像と比較して、高精度な画像マスクが得られている。なお、このマスク画像は、本実施形態の方法で共通領域を得た後、６回の膨張収縮でエッジ部分を整えたものである。
【0105】
【0106】
【0107】
次に、ステップＳ２において、処理部１０３は、複数の撮像画像に基づいて、各画素について、最高輝度値を抽出することで最高輝度画像を生成する。
【0108】
次に、ステップＳ３において、処理部１０３は、複数の撮像画像に基づいて、各画素について、最低輝度値を抽出することで最低輝度画像を生成する。
【0109】
次に、ステップＳ４において、処理部１０３は、複数の撮像画像に基づいて、各画素について、最高輝度値と最低輝度値の差である変位を算出することで輝度変位画像を生成する。
【0110】
次に、ステップＳ５において、処理部１０３は、最高輝度画像に基づいて、最高輝度値が、予め設定された上限輝度値以下の画素の領域を、第１領域として抽出する。
【0111】
次に、ステップＳ６において、処理部１０３は、最低輝度画像に基づいて、最低輝度値が、予め設定された下限輝度値以上の画素の領域を、第２領域として抽出する。
【0112】
次に、ステップＳ７において、処理部１０３は、輝度変位画像に基づいて、変位が、予め設定された変位閾値以上の画素の領域を、第３領域として抽出する。
【0113】
次に、ステップＳ８において、処理部１０３は、第１領域と第２領域と第３領域との共通の領域をマスク領域としてマスク画像を生成する（図１２（ｄ）、図１５（ｄ））。その後、検査システムは、マスク画像を用いた処理によって、検査対象物の検査を行う。
【0114】
このように、本実施形態によれば、検査対象物１５０に対して空間的に強度が変化する光を照射することで得られた時系列に複数の撮像画像に基づいて検査対象物の検査を行う検査システムにおいて、予め設定された各画素の輝度値に関する所定条件（上限輝度値以下、下限輝度値以上、変位閾値以上など）を用いることで、高精度なマスク画像を生成することができる。具体的には、所定条件を用いて抽出した第１領域と第２領域と第３領域との共通の領域をマスク領域として、高精度なマスク画像を生成することができる。
【0115】
したがって、照明変調の効果が意図通りの信頼性をもって現れている領域を抽出できるため、例えば光沢のある検査対象物を正反射光を用いて複数枚撮像して画像合成する場合に、それがどのような手法（位相シフト法、空間コード化法、特許第６５９０４５５号公報の技術など）であっても、アルゴリズムが成立しない領域を容易かつ高速に排することができる。例えば、検査対象物の僅かな歪みや設置誤差などがあっても、高精度なマスク画像を得ることができる。
【0116】
上述した実施形態のＰＣ１００で実行される検査プログラムは、インストール可能な形式又は実行可能な形式のファイルでＣＤ－ＲＯＭ、フレキシブルディスク（ＦＤ）、ＣＤ－Ｒ、ＤＶＤ（Ｄｉｇｉｔａｌ Ｖｅｒｓａｔｉｌｅ Ｄｉｓｋ）等のコンピュータで読み取り可能な記録媒体に記録されて提供される。
【0117】
また、上述した実施形態のＰＣ１００で実行される検査プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、上述した実施形態のＰＣ１００で実行される検査プログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。
【0118】
本発明の実施形態や実施例を説明したが、これらの実施形態や実施例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態や実施例は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態や実施例は、発明の範囲や要旨に含まれるとともに、請求の範囲に記載された発明とその均等の範囲に含まれる。
【0119】
例えば、実施例１、２で、撮像画像の枚数をそれぞれ２４枚、４枚としたが、これらに限定されない。撮像画像の枚数は、３枚以上であれば任意の枚数であってよい。また、実施形態におけるその他の各数値についても、状況に応じて適宜変更可能である。
【符号の説明】
【0120】
１００…ＰＣ、１０１…アーム制御部、１０２…照明制御部、１０３…処理部、１１０…時間相関カメラ、１２０…照明装置（照明部）、１３０…スクリーン（照明部）、１４０…アーム、１５０…検査対象物。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】