(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024175521
(43)【公開日】2024-12-18
(54)【発明の名称】検査装置、検査方法およびプログラム
(51)【国際特許分類】
G01N 21/90 20060101AFI20241211BHJP
G01N 21/88 20060101ALI20241211BHJP
【FI】
G01N21/90 Z
G01N21/88 H
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2023093362
(22)【出願日】2023-06-06
(71)【出願人】
【識別番号】000002945
【氏名又は名称】オムロン株式会社
(74)【代理人】
【識別番号】110002860
【氏名又は名称】弁理士法人秀和特許事務所
(72)【発明者】
【氏名】小松 幸広
(72)【発明者】
【氏名】松田 健利
(72)【発明者】
【氏名】高山 正広
【テーマコード(参考)】
2G051
【Fターム(参考)】
2G051AA11
2G051AB01
2G051BA02
2G051BA20
2G051CA04
2G051CA06
2G051CC07
(57)【要約】
【課題】容器内におけるワークの有無を正確に検出する。
【解決手段】検査装置は、容器内を照明するための照明装置と、透過軸方向の異なる偏光フィルタが規則的に配列された撮像素子を有する偏光カメラと、処理装置と、を備え、処理装置は、照明装置により容器内を照明した状態で偏光カメラによって撮像された元画像を取得する画像取得部と、元画像から水滴の偏光成分を除去することで検査画像を生成する画像生成部と、検査画像に基づいて、容器内におけるワークの有無を検出する検出部と、を有する。
【選択図】
図5
【特許請求の範囲】
【請求項1】
容器内を照明するための照明装置と、
透過軸方向の異なる偏光フィルタが規則的に配列された撮像素子を有する偏光カメラと、
処理装置と、を備え、
前記処理装置は、
前記照明装置により前記容器内を照明した状態で、前記偏光カメラによって前記容器内を撮像した元画像を取得する画像取得部と、
前記元画像から水滴の偏光成分を除去することで検査画像を生成する画像生成部と、
前記検査画像に基づいて、前記容器内におけるワークの有無を検出する検出部と、
を有する検査装置。
【請求項2】
前記検出部は、前記検査画像に基づいて、前記容器内における前記ワークの個数を算出する、
請求項1に記載の検査装置。
【請求項3】
前記偏光カメラでは、隣り合う画素が前記透過軸方向の異なる前記偏光フィルタを透過した光の輝度値を取得する、
請求項1に記載の検査装置。
【請求項4】
前記画像生成部は、前記元画像から明度画像および偏光強度画像を作成し、前記明度画像および前記偏光強度画像に基づいて前記元画像から前記水滴の前記偏光成分を除去することで前記検査画像を生成する、
請求項1に記載の検査装置。
【請求項5】
前記元画像および前記検査画像の少なくとも一方を表示する表示部を備える、
請求項1に記載の検査装置。
【請求項6】
前記表示部は、前記元画像および前記検査画像の少なくとも一方における前記ワークを強調して前記元画像および前記検査画像の少なくとも一方を表示する、
請求項5に記載の検査装置。
【請求項7】
前記表示部は、前記元画像および前記検査画像を同時に又は切り替えて表示する、
請求項5に記載の検査装置。
【請求項8】
前記照明装置は、前記容器を囲むように配置されている、
請求項1に記載の検査装置。
【請求項9】
前記照明装置は、前記容器内に斜め方向から光を照射する、
請求項1に記載の検査装置。
【請求項10】
照明装置と、透過軸方向の異なる偏光フィルタが規則的に配列された撮像素子を有する偏光カメラと、処理装置と、を備える検査装置の検査方法であって、
前記照明装置により容器内を照明するステップと、
前記容器内を照明した状態で前記偏光カメラにより前記容器内を撮像するステップと、
前記偏光カメラによって撮像された元画像を前記処理装置によって取得するステップと、
前記処理装置によって、前記元画像から水滴の偏光成分を除去することで検査画像を生成するステップと、
前記処理装置によって、前記検査画像に基づいて、前記容器内におけるワークの有無を検出するステップと、
を含む検査方法。
【請求項11】
請求項10に記載の検査方法の各ステップをプロセッサに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、検査装置および検査方法に関する。
【背景技術】
【0002】
複数のワークを洗浄する場合、ワーク寸法よりも小さい孔を有する容器に複数のワークを入れて、水などの液体で複数のワークを洗浄することが行われている。ワークの研磨と洗浄とを行うバレル研磨装置が知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
複数のワークを洗浄した後、容器から複数のワークを取り出した際、容器内にワークが残ってしまうと、次の洗浄対象のワークを容器内に入れた場合に、容器内に洗浄後のワークと洗浄前のワークとが混在する。例えば、洗浄後のワークの種類と洗浄前のワークの種類とが異なる場合、洗浄前の複数のワークには異なる種類のワークが含まれてしまう。カメラを用いて洗浄後の容器内を撮像した画像からワークを検出することで、容器内にワークが残っているか否かを検出することが行われている。しかし、洗浄後の容器内に水滴が残っている場合、水滴とワークとの判別が正確にできずに、画像からワークを正確に検出できない場合がある。
【0005】
本発明は上記実情に鑑みてなされたものであって、その目的とするところは、容器内におけるワークの有無を正確に検出する技術を提供することにある。
【課題を解決するための手段】
【0006】
本発明は、容器内を照明するための照明装置と、透過軸方向の異なる偏光フィルタが規則的に配列された撮像素子を有する偏光カメラと、処理装置と、を備え、前記処理装置は、前記照明装置により前記容器内を照明した状態で前記偏光カメラによって撮像された元画像を取得する画像取得部と、前記元画像から水滴の偏光成分を除去することで検査画像を生成する画像生成部と、前記検査画像に基づいて、前記容器内におけるワークの有無を検出する検出部と、を有する検査装置を提供する。
【0007】
上記構成によれば、照明装置により容器内を照明した状態で偏光カメラによって撮像された元画像から水滴の偏光成分を除去することで検査画像を生成する。検査画像は、元画像から水滴の偏光成分を除去することで生成されているので、検査画像に基づいて、容器内におけるワークの有無を正確に検出することが可能である。例えば、容器を用いて複数のワークを洗浄し、容器内から複数のワークを取り出した場合において、容器内におけるワークの有無を検出する。容器内にワークが残っている場合、容器内に残っているワークを取り出す。これにより、次の洗浄対象のワークを容器内に入れた場合に、容器内に洗浄後のワークと洗浄前のワークとが混在することが回避される。
【0008】
前記検出部は、前記検査画像に基づいて、前記容器内における前記ワークの個数を算出してもよい。この構成によれば、容器内にワークが残っている場合において、容器内におけるワークの個数を把握することが可能である。
【0009】
前記偏光カメラでは、隣り合う画素が前記透過軸方向の異なる前記偏光フィルタを透過した光の輝度値を取得してもよい。この構成によれば、偏光カメラにおける隣り合う画素は、透過軸方向の異なる偏光フィルタを透過した光の輝度値を取得する。
【0010】
前記画像生成部は、前記元画像から明度画像および偏光強度画像を作成し、前記明度画像および前記偏光強度画像に基づいて前記元画像から前記水滴の前記偏光成分を除去することで前記検査画像を生成してもよい。この構成によれば、元画像から作成された明度画像および偏光強度画像に基づいて検査画像を生成することが可能である。
【0011】
上記検査装置は、前記元画像および前記検査画像の少なくとも一方を表示する表示部を備えてもよい。この構成によれば、ユーザは、元画像および検査画像の少なくとも一方を視認することが可能である。容器内にワークが残っている場合、ユーザは、検査画像を視認することで、容器内にワークが残っていることを認識すると共に、容器内におけるワークの位置を正確に確認することができる。
【0012】
前記表示部は、前記元画像および前記検査画像の少なくとも一方における前記ワークを強調して前記元画像および前記検査画像の少なくとも一方を表示してもよい。この構成によれば、ユーザは、強調表示されたワークを視認することで、容器内にワークが残っていることを認識すると共に、容器内におけるワークの位置をより正確に確認することができる。
【0013】
前記表示部は、前記元画像および前記検査画像を同時に又は切り替えて表示してもよい。この構成によれば、ユーザは、元画像および検査画像を同時に又は切り替えて視認することが可能である。
【0014】
前記照明装置は、前記容器を囲むように配置されてもよい。この構成によれば、容器を全方位から同時に照明することが可能である。
【0015】
前記照明装置は、前記容器内に斜め方向から光を照射してもよい。この構成によれば、容器内に照射される光の入射角をブリュースター角に近づけることが可能である。
【0016】
本発明は、照明装置と、透過軸方向の異なる偏光フィルタが規則的に配列された撮像素子を有する偏光カメラと、処理装置と、を備える検査装置の検査方法であって、前記照明装置により容器内を照明するステップと、前記容器内を照明した状態で前記偏光カメラにより前記容器内を撮像するステップと、前記偏光カメラによって撮像された元画像を前記処理装置によって取得するステップと、前記処理装置によって、前記元画像から水滴の偏光成分を除去することで検査画像を生成するステップと、前記処理装置によって、前記検査画像に基づいて、前記容器内におけるワークの有無を検出するステップと、を含む検査方法を提供してもよい。
【0017】
本発明は、上記検査方法の各ステップをプロセッサに実行させるためのプログラムを提供してもよい。
【0018】
本発明は、上記処理の少なくとも一部を有する検査システムとして捉えてもよいし、処理システム、制御装置、制御システム、画像処理装置、あるいは画像処理システムとして捉えてもよい。また、本発明は、上記処理の少なくとも一部を含む検査装置の制御方法、画像処理方法、検出方法、あるいは検査方法として捉えてもよいし、かかる方法を実現するためのプログラムやそのプログラムを記録した記録媒体として捉えることもできる。なお、上記手段および処理の各々は可能な限り互いに組み合わせて本発明を構成することができる。
【発明の効果】
【0019】
本発明によれば、容器内におけるワークの有無を正確に検出することができる。
【図面の簡単な説明】
【0020】
【
図1】
図1は、本発明の実施形態に係る検査装置の全体構成を模式的に示す図である。
【
図3】
図3は、偏光カメラの構造を模式的に示す図である。
【
図4】
図4Aは、照明装置の構造を模式的に示す図であり、
図4Bは照明装置の他の構成例を示す図である。
【
図5】
図5は、処理装置の論理構成(機能構成)を示すブロック図である。
【
図7】
図7は、偏光カメラの画像から偏光成分を抽出する方法を説明する図である。
【
図8】
図8は、検査装置の動作の一例を示すフローチャートである。
【
図9】
図9は、偏光情報算出処理のフローチャートである。
【
図11】
図11は、ユーザインターフェイス画面の一例を示す図である。
【発明を実施するための形態】
【0021】
(システム構成)
図1は、本発明の実施形態に係る検査装置(検査システム)の全体構成を模式的に示す図である。この検査装置1は、偏光カメラ10を利用してワークを画像化するための装置であり、例えば、工場の製造ラインにおいてワークの検出を行うために利用される。ワークは、例えば、最終製品、中間製品、半製品、部品、材料等である。ワークは、電子部品であってもよい。
【0022】
検査装置1は、主な構成として、偏光カメラ10、照明装置11、処理装置12、容器13を有する。偏光カメラ10は、偏光子が配列された撮像素子を有する撮像手段である。照明装置11は、容器13内に照明光Lを照射するための光源である。処理装置12は、検査装置1の全体の制御、および、偏光カメラ10で撮像された画像を用いた情報処理を実行する装置である。容器13は、洗浄後のワークを載置又は保持するための装置である。容器13を用いて、ワークを洗浄してもよい。容器13の色は、特に限定されないが、黒色であることが好ましい。容器13を黒色とすることで、照明光Lの反射が抑制される。
【0023】
容器13は、円筒容器又は円柱容器であってもよいし、他の形状の容器であってもよい。容器13は、下部の径より上部の径が大きなテーパー状の容器であってもよい。
図2は、容器13の一例を示す模式図である。容器13は、底部131と底部131に設けられた壁部132とを有する。底部131は、複数の孔を有するメッシュ形状である。容器13に入れた複数のワークが底部131の孔から落ちないように、底部131における複数の孔の径が設計されている。容器13内に複数のワークを入れて、水などの洗浄用液体を用いて複数のワークの洗浄が行われる。容器13内に複数のワークを入れた後、容器13内に洗浄用液体を流し込むことにより、容器13内の複数のワークを洗浄してもよい。洗浄用液体を貯留したタンクを用意してもよい。容器13内に複数のワークを入れた後、タンク内の洗浄用液体に容器13の底部131を浸漬することにより、容器13内の複数のワークを洗浄してもよい。複数のワークの洗浄が行われた後、容器13内から複数のワー
クが取り出され、容器13内にワークが残存しているか否かの確認が行われる。作業者などのユーザが容器13内から複数のワークを取り出してもよいし、ロボットハンド等の把持装置が容器13内から複数のワークを取り出してもよい。
【0024】
容器13は、バレル研磨装置に設けられてもよい。バレル研磨装置は、容器13内にワークと、研磨石と、洗浄用液体とを入れた後、容器13を回転させることでワークのバリなどを除去するように構成されている。ワークの研磨中は、容器13の底部131から研磨石および洗浄用液体が流れ落ちないように容器13の底部131にプレートを配置しておき、ワークの研磨の終了後に容器13の底部131からプレートを取り除く。これにより、ワークの研磨の終了後に容器13の底部131から研磨石および洗浄用液体が流れ落ちるようにする。
【0025】
偏光カメラ10は、容器13内のワークを天頂方向から撮像するように配置されている。容器13の底部131平行方向にX軸,Y軸をとり、容器13の底部131の垂直方向にZ軸をとったXYZ座標系を考えた場合、偏光カメラ10の光軸はZ軸に平行となる。
【0026】
本システムでは、容器13内の水滴で鏡面反射した光の偏光成分を偏光カメラ10で捉えるため、被写体表面に対する照明光Lの入射角ができるだけブリュースター角に近い方が望ましい。そこで、本実施形態では、照明光Lが容器13で遮られないよう、照明装置11の下端が容器13の上端とほぼ同じ高さになる程度に、照明装置11および容器13を配置し、照明光Lが斜め方向から容器13内に入射するようにしている。このように、照明装置11は、容器13内に斜め方向から照明光Lを照射する。
【0027】
(偏光カメラ)
図3を参照して、偏光カメラ10の構成の一例を説明する。
図3は、偏光カメラ10の構造を模式的に示す図である。
【0028】
偏光カメラ10は、撮像素子20に偏光子アレイ21を組み合わせた構造を有する。撮像素子20は、CCD(Charge Coupled Device)センサ、CMOS(Complementary Metal Oxide Semiconductor)センサなどの光電変換素子(画素とも称する)が2次元的に配列されたデバイスであり、イメージセンサとも呼ばれる。偏光子アレイ21は、多数の偏光子が2次元的に配列されたデバイスであり、1つの偏光フィルタ(偏光子)210が撮像素子20の1つの画素(受光素子)200に対応するように位置およびサイズが設計されている。偏光フィルタ210は、特定の方向の直線偏光のみを通過させる性質をもつ光学素子である。偏光フィルタ210が透過する直線偏光の振動方向を、その偏光フィルタ210の透過軸方向(偏光角度)と呼ぶ。本実施形態の偏光子アレイ21は、
図3に示すように、4種類の透過軸方向(0度、45度、90度、135度)の偏光フィルタ210が規則的に配列された構造を有する。具体的には、撮像素子20の2×2の4画素に、それぞれ異なる透過軸方向(0度、45度、90度、135度)の直線偏光成分が入射するような配列パターンがとられている。これにより、偏光カメラ10では、隣り合う画素200が透過軸方向の異なる偏光フィルタ210を透過した光の輝度値を取得する。
【0029】
撮像素子20および偏光子アレイ21の解像度(画素ピッチ)およびサイズ(画素数)は、被写体や画像の用途に応じて適宜設計すればよい。偏光子アレイ21の実現方法としては、ワイヤーグリッド、フォトニック結晶などがあるが、いずれの方法を用いてもよい。また、
図3では、4種類の透過軸方向の偏光子を2×2の4画素に組み合わせたが、偏光子の透過軸方向のバリエーションや配列は他の構成でもよい。
【0030】
(照明装置)
図4Aを参照して、照明装置11の構成の一例を説明する。
図4Aは、本実施形態の照
明装置11の構造を模式的に示す図であり、偏光カメラ10側から容器13を視たときの様子を示している。
図4Aに示す容器13は、円柱容器であるが、円筒容器又は他の形状の容器であってもよい。
【0031】
照明装置11は、容器13を囲むように配置された、4本の棒状照明30から構成される。4本の棒状照明30を同時に点灯すると、容器13を四方向(X正方向、X負方向、Y正方向、Y負方向)から照明することができる。したがって、容器13を全方位から同時に照明することができる。また、4本の棒状照明30を選択的に点灯させれば、照明方向を切り換えることができる。棒状照明30は、例えば、基板上に配置した複数のLED光源とそれらを覆うように配置した拡散板により構成される。
【0032】
なお、照明装置11の構造は
図4Aに示すものに限られない。例えば、
図4Bのような円環状の照明装置11を用いてもよい。円環状の照明装置11は、容器13を環状に囲むように配置されている。この構造でも容器13を全方位から同時に照明することができる。また、照明装置11に設けられた複数のLED光源を選択的に点灯させることで照明方向を任意に切り換えることも可能である。
図4Bに示す容器13は、円筒容器であるが、円柱容器又は他の形状の容器であってもよい。
【0033】
(処理装置)
図5を参照して、処理装置12の構成の一例を説明する。
図5は、本実施形態の処理装置12の論理構成(機能構成)を示すブロック図である。
【0034】
処理装置12は、主な構成として、カメラ制御部40、照明制御部41、画像処理部42を有する。カメラ制御部40は、偏光カメラ10の制御を担う。例えば、カメラ制御部40は、偏光カメラ10の撮像条件(露光時間、ゲインなど)の制御、偏光カメラ10からの画像データの取り込み、偏光カメラ10のキャリブレーションなどを実行する。照明制御部41は、照明装置11の制御を担う。例えば、照明制御部41は、照明条件(発光強度、発光時間など)の制御、光源ごとの点灯および消灯の制御などを実行する。
図5に示す構成では、処理装置12が照明制御部41を有しているが、この構成に限定されず、照明制御部41を処理装置12と外部接続してもよい。画像処理部42は、偏光カメラ10から取り込まれた画像に対する処理を実行する。
【0035】
画像処理部42は、画像取得部420、画像生成部421、検出部422、表示部423およびパラメータ受付部424などの機能を有する。画像取得部420は、偏光カメラ10によって撮像された画像(以下「元画像」とも称する)をカメラ制御部40を介して取得する。画像生成部421は、元画像に基づいて明度画像、偏光強度画像などを作成する。検出部422は、画像生成部421によって生成された検査画像に基づいて、容器13内におけるワークの有無を判定する。表示部423は、各種の画像をディスプレイ装置に表示する処理を行う。パラメータ受付部424は、検査装置1の動作を決定する各種の条件設定(パラメータ)の変更を受け付ける。画像処理部42の各処理の詳細は後述する。
【0036】
処理装置12は、例えば、CPU・GPUなどのプロセッサ、主記憶としてのメモリ、補助記憶としてのストレージ、ディスプレイやタブレット端末といった表示装置、マウスやタッチパネルなどの入力装置、ネットワークI/F等を備えたコンピュータにより構成してもよい。処理装置12に表示装置が内蔵されていてもよいし、処理装置12と表示装置とが外部接続されていてもよい。コンピュータとしては、パーソナルコンピュータ、タブレット端末、スマートフォン、フィールドコンピュータなどの汎用コンピュータを利用してもよいし、組み込み型コンピュータや専用装置でもよいし、偏光カメラ10やPLC(Programmable logic Controller)といった他の装置のコンピュータ資源を利用するも
のであってもよい。
図5に示す構成は、ストレージなどに格納されたプログラムをメモリにロードしプロセッサによって実行することにより、実現される。ただし、
図5に示す構成の一部もしくは全部を、ASIC(Application Specific Integrated Circuit)やF
PGA(Field Programmable Gate Array)などの専用デバイスで構成してもよい。また
、クラウドコンピューティングや分散コンピューティングを利用して、
図5に示す構成の一部や処理の一部を他の装置で実行してもよい。
【0037】
(偏光カメラによる透明物体の偏光成分の検出)
偏光カメラによる透明物体の偏光成分の検出の基本原理について説明する。
【0038】
図6Aに示すように、水滴などの透明物体Wに入射光50が斜めに入射したとき、入射光50の大部分は屈折光51となり透明物体Wを透過するが、入射光50の一部は透明物体Wの表面(界面)において鏡面反射し、反射光52となる。この鏡面反射において、入射光50に含まれるp波(電界の振動方向が入射面に平行な偏光成分)とs波(電界の振動方向が入射面に垂直な(つまり反射面に平行な)偏光成分)との間に反射率の差が生じる。
図6Bは、横軸に入射角、縦軸に反射率をとり、s波とp波の反射率の差の一例を示したものである。この例に示すように、s波の反射率は入射角αに応じて単調増加するが、p波の反射率は入射角αが0度から増すに従い徐々に減少し、ある角度(ブリュースター角と呼ばれる)で反射率が0となる。したがって、鏡面反射の場合に観測される反射光52は、s波、すなわち、反射面である透明物体Wの表面に平行な方向に振動する偏光成分が支配的となる。このような性質を利用し、偏光カメラによって偏光をとらえることで、透明物体Wの偏光成分を検出できる。
【0039】
偏光カメラ10には、容器13内の水滴の鏡面反射による偏光だけでなく、容器13内のワークで拡散反射した光も入射する。本実施形態においては、検査装置1は、偏光カメラ10の元画像から水滴の偏光成分(正反射成分)を抽出し、偏光カメラ10の元画像から水滴の偏光成分を除去することで、検査画像を生成する。また、本実施形態においては、検査装置1は、検査画像に基づいて、容器13内におけるワークの有無を判定する。
【0040】
図7を参照して、偏光カメラ10の画像から偏光成分を抽出する方法を説明する。受光素子で受光される偏光成分の強度は、偏光方向θと偏光子の透過軸方向とが一致した場合に最大となり、透過軸方向が偏光方向θからずれるに従い減少し、透過軸方向と偏光方向θが直交する場合に最小となる。つまり、偏光子の透過軸方向を0度~180度まで変化させていくと、受光素子で受光される偏光成分の強度は正弦波のように変化する。一方、入射光に含まれる拡散反射光成分の強度は、偏光子の透過軸方向に依らず、一定である。したがって、透過軸方向の異なる複数種類の偏光子を通して観測したときの光強度の変化(透過軸方向依存性)に基づいて、入射光に含まれる偏光成分の情報だけを抽出することができる。
【0041】
例えば、
図7に示すように、透過軸方向が0度、45度、90度、135度の4種類の偏光フィルタ210を通して、偏光方向θの偏光成分を含む入射光を観測するケースを想定する。このとき、各偏光フィルタ210に対応する画素200の輝度値(透過光の光強度に相当)には、透過軸方向に依存した差が生じている。この4点の輝度値に対し、正弦波をフィッティングすることで、偏光成分の偏光方向θおよび偏光強度を推定できる。
図7において、フィッティングカーブが最大となる角度が偏光成分の偏光方向θを表し、フィッティングカーブの振幅が偏光強度(偏光度とも呼ぶ)を表している。偏光カメラ10で得られた画像の各画素について、このような偏光抽出処理を適用することにより、偏光カメラ10の視野内に存在する透明物体Wで鏡面反射した偏光の情報(偏光方向、偏光強度など)をとらえることができる。画像生成部421は、偏光抽出処理を行い、偏光強度画像を生成する。本実施形態の画像生成部421による偏光抽出処理も、透過軸方向の異
なる複数種類の偏光子を通して観測したときの光強度の変化(透過軸方向依存性)に基づいて偏光情報を抽出する、という基本的な原理は同じである。
【0042】
(検査装置の動作例)
図8のフローチャートに沿って、検査装置1の動作の一例を説明する。
図8のフローチャートは、偏光カメラ10の下方に容器13が配置された後に実行される。ロボットや搬送装置を利用して容器13の搬送および位置決めを行ってもよいし、ユーザが偏光カメラ10の下方に容器13を配置してもよい。
【0043】
ステップS81にて、処理装置12のパラメータ受付部424が提供するユーザインターフェイスを利用して、ユーザが、偏光カメラ10の撮像条件や照明装置11の照明条件を設定する。ユーザは、ワークの色、サイズ、洗浄用液体の種類等に応じて、偏光カメラ10の撮像条件や照明装置11の照明条件を設定してもよい。なお、撮像条件や照明条件が予め設定されている場合、又は、設定されている撮像条件や照明条件を変更しない場合、ステップS81の処理を省略してもよい。
【0044】
ステップS82にて、容器13内の撮像が行われる。具体的には、処理装置12の照明制御部41が設定された照明条件に従って照明装置11を点灯させ、照明装置11が、容器13内に照明光を照射することで、容器13内を照明する。そして、容器13内を照明した状態で、カメラ制御部40が設定された撮像条件に従って偏光カメラ10を制御し、偏光カメラ10により容器13内を撮像する。ワークの色、サイズ、洗浄用液体の種類等に応じて、偏光カメラ10の撮像条件や照明装置11の照明条件を変更して、容器13内を複数回撮像してもよい。例えば、偏光カメラ10の露光時間を切り替えて、容器13内を複数回撮像してもよいし、偏光カメラ10のダイナミックレンジを変更して、容器13内を複数回撮像してもよい。
【0045】
ステップS83にて、処理装置12の画像取得部420が、偏光カメラ10により撮像された画像(元画像)を偏光カメラ10から取得する。元画像データは、メモリ又はストレージに格納され、画像処理部42による処理に供される。パラメータ受付部424が提供するユーザインターフェイスを利用して、ユーザが、画像処理部42で用いられる画像処理パラメータを設定してもよい。
【0046】
ステップS84にて、画像生成部421が、ステップS83で取得した画像の各画素について、明度を算出し、明度画像を作成する。ステップS85にて、画像生成部421が、ステップS83で取得した画像の各画素について、偏光強度を算出し、偏光強度画像を作成する。
【0047】
ステップS86にて、画像生成部421が、ステップS85で算出した偏光強度に実数の定数を乗算することで、偏光強度画像のゲイン調整を行う。ステップS85で算出した偏光強度が小さい場合があるので、画像生成部421は、偏光強度画像のゲイン調整を行う。パラメータ受付部424が提供するユーザインターフェイスを利用して、ユーザが、ゲインレベル(ゲイン値)を設定してもよい。画像生成部421は、ユーザによって設定されたゲインレベル又は予め設定されたゲインレベルを用いて、偏光強度画像のゲイン調整を行ってもよい。偏光強度画像のゲイン調整を行う必要がない場合、ステップS86の処理を省略してもよい。
【0048】
ステップS87にて、画像生成部421が、明度画像からゲイン調整を行った偏光強度画像を減算することで、検査画像(変換後画像)を生成する。これにより、元画像から水滴の偏光成分を除去する。ステップS88にて、画像生成部421が、所定の2値化レベルで、ステップS87で作成した検査画像を2値化することで、白画素部分と黒画素部分
とから構成される2値化された検査画像(2値化画像)を作成する。検出部422が、2値化された検査画像を作成してもよい。
【0049】
ステップS89にて、画像生成部421が、ラベリング処理を実行する。例えば、画像生成部421が、2値化された検査画像を構成する各画素のうち連結している白画素に同じラベルを付することにより、連結している白画素をグループ分けする。画像生成部421は、左右上下および斜め方向を含む8方向において隣接している白画素に同じラベルを付加してもよい。検出部422が、ラベリング処理を実行してもよい。
【0050】
ステップS90にて、検出部422が、2値化された検査画像に基づいて、容器13内におけるワークの有無を検出する。ステップS89でグループ分けされた複数の領域のうち、予め定められた基準値以上の面積(画素数)を有する領域がある場合、検出部422は、容器13内にワークが残っていると判定する。このようにして、検出部422は、容器13内にワークが有ることを検出する。ステップS89でグループ分けされた複数の領域のうち、基準値以上の面積を有する領域がない場合、検出部422は、容器13内にワークが残っていないと判定する。このようにして、検出部422は、容器13内にワークが無いことを検出する。なお、検出部422は、ステップS89でグループ分けされた複数の領域のうち、基準値以下の面積の領域はノイズとして無視する。ステップS90にて、検出部422は、検出結果を出力する。表示部423は、検出部422からの検出結果を受け付けて、検出結果を表示する。容器13内の撮像が複数回行われた場合、検出部422は、複数回の撮像毎の検出結果を出力する。容器13内の撮像が複数回行われた場合、表示部423は、複数回の撮像毎の検出結果を表示する。表示部423は、容器13内にワークが残っていることを示す検出結果、又は、容器13内にワークが残っていないことを示す検出結果を表示する。
【0051】
検出部422は、容器13内にワークが有ることを検出した場合、基準値以上の面積を有する領域に基づいて、容器13内におけるワークの個数を算出してもよい。検出部422は、基準値以上の面積を有する領域についてパターンマッチングを行うことで、容器13内におけるワークを検出し、容器13内におけるワークの個数をカウントしてもよい。ステップS90にて、検出部422は、判定結果を出力すると共に、容器13内に残っているワークの個数を出力してもよい。この場合、表示部423は、容器13内にワークが残っていることを示す判定結果と共に、容器13内に残っているワークの個数を表示する。
【0052】
上記では、画像生成部421は、元画像から明度画像および偏光強度画像を作成し、明度画像および偏光強度画像に基づいて元画像から水滴の偏光成分を除去することで検査画像を生成する例を示したが、これに限定されない。画像生成部421は、他の手法により、元画像から水滴の偏光成分を除去することで検査画像を生成してもよい。
【0053】
(偏光情報算出処理)
図9および
図10を参照して、画像生成部421の偏光情報(明度および偏光強度)の算出処理(
図8のステップS84、ステップS85)の一例を説明する。
図9は、偏光情報の算出処理のフローチャートであり、
図10は近傍画素の例を示す図である。ここでは、元画像のサイズ(画素数)をM行×N列とし、i行j列の画素を(i,j)、その画素の輝度値(光強度)をI(i,j)と表記する(i=1,2,・・・,M、j=1,2,・・・,N)。
図10は元画像の一部を拡大して示したものであり、それぞれの矩形が画素を表し、画素内の矢印は透過軸方向を表し、欄外に記載した記号は画素の行番号と列番号を表している。
【0054】
ステップS91にて、画像生成部421は、元画像から演算対象とする注目画素を選択
する。ステップS91では、(1,1)から(M,N)まで注目画素が順に選択されるものとする。
【0055】
ステップS92にて、画像生成部421は、注目画素の偏光情報を算出する際に参照する近傍画素を選択する。例えば、選択する近傍画素の範囲は、ユーザによって指定されたマスクサイズで決まる。ここでは、デフォルトのマスクサイズである2×2の場合を例に挙げて説明する。マスクサイズが2×2の場合、
図10に示すように、注目画素(i,j)に隣接する3つの画素(i-1,j-1)、(i-1,j)、(i,j-1)が近傍画素として選択される。なお、注目画素が元画像の境界にあり、近傍画素が存在しない場合には、ステップS91~S92の処理を省略してもよい。
【0056】
ステップS93にて、画像生成部421は、注目画素と近傍画素の輝度値(光強度)を基に、注目画素の偏光情報(明度、偏光強度)を算出する。透過軸方向が0度、45度、90度、135度の輝度値をそれぞれI1、I2、I3、I4とする場合、例えば、注目画素の明度I0および偏光強度Dは下記式により求まる。
【数1】
【0057】
図10の例では、4つの画素(i-1,j-1)、(i-1,j)、(i,j-1)、(i,j)に対応する透過軸方向は、それぞれ、90度、135度、45度、0度であるから、式(1)、(2)におけるI1~I4は下記式で与えられる。
I1=I(i,j)
I2=I(i,j-1)
I3=I(i-1,j-1)
I4=I(i-1,j)
【0058】
式(1)の明度I0は、注目画素に入射する入射光の強度を表す指標である。式(2)の偏光強度Dは、注目画素に入射する入射光に含まれる偏光成分の偏光の程度を表す指標である。なお、上記式(1)、(2)は一例であり、他の計算式によって明度および偏光強度に相当する指標を計算してもよい。
【0059】
ステップS94にて、画像生成部421は、元画像のすべての画素に対して偏光情報の算出処理が完了したか(すなわち、i=Mかつj=Nであるか)を確認し、未処理の画素がある場合にはステップS91に戻って次の注目画素に対する処理を実行する。
【0060】
以上述べた処理により、元画像のすべての画素について、偏光情報である偏光強度D、明度I0が算出される。偏光情報算出処理の演算結果は、例えば、各画素の座標(i,j)と偏光強度D(i,j)・明度I0(i,j)とを対応付けたデータ形式でメモリ又はストレージに保存される。
【0061】
また、画像生成部421は、注目画素と近傍画素の輝度値(例えば、透過軸方向が0度、45度、90度、135度の4種類の各偏光フィルタ210に対応する画素200の輝度値)から正弦波(サインカーブ)を求めてもよい。画像生成部421は、正弦波の最大
値と正弦波の最小値との差分(振幅)を偏光強度として算出することで、各画素の偏光強度を算出してもよい。或いは、画像生成部421は、元画像の白画像を増加する膨張処理を行った後の元画像と、元画像の白画像を減少する収縮処理を行った後の元画像との差分に基づいて、偏光強度画像を作成してもよい。
【0062】
図11は、パラメータ受付部424が提供するユーザインターフェイス(UI)画面の一例を示す図である。
図11に示すUI画面は、画像調整100、表示画像設定101、全体画像表示エリア102、拡大画像表示エリア103、倍率エリア104、画像表示設定105、OKボタン106、キャンセルボタン107から構成されている。例えば、表示部423は、
図11に示すUI画面を表示する。
図11のUI画面の構成やパラメータ項目は一例であり、
図11のUI画面の構成やパラメータ項目は適宜変更されてもよい。
【0063】
画像調整100は、偏光強度画像のゲイン調整を行うためのUIである。ユーザが、ゲイン入力エリア110にゲインレベルを直接入力してもよいし、スライダーバー111でゲインレベルを設定してもよい。表示画像設定101は、全体画像表示エリア102および拡大画像表示エリア103に表示する表示対象画像の種類を設定するためのUIである。全体画像表示エリア102は、画像の全体を表示するエリアである。拡大画像表示エリア103は、画像の一部を拡大して表示するエリアである。倍率エリア104は、拡大画像表示エリア103に表示される拡大画像の倍率を設定・表示するエリアである。ユーザは、倍率エリア104に倍率の値を直接入力して、拡大画像の倍率を設定することが可能である。
【0064】
画像表示設定105は、拡大画像表示エリア103に表示される画像の範囲を設定するためのUIである。例えば、ユーザは、マウスなどの操作機器で画像表示設定105を移動することが可能である。倍率エリア104に設定された拡大画像の倍率に応じて、画像表示設定105のサイズが変化する。ユーザは、マウスを用いて、拡大画像表示エリア103にカーソルを当て、マウスのホイールを上下することで、拡大画像の倍率をアップおよびダウンを行うことが可能である。OKボタン106が選択されることで、ユーザによって入力された設定等が確定し、キャンセルボタン107が選択されることで、ユーザによって入力された設定等が取り消される。
【0065】
図12A~
図12Cは、拡大画像表示エリア103に表示される画像の一例を示す図である。画像表示設定105で元画像(入力画像)が設定された場合、
図12Aに示すように、拡大画像表示エリア103に元画像(入力画像)が表示される。ユーザは、全体画像表示エリア102又は拡大画像表示エリア103に表示された元画像を視認することで、容器13内の状態を確認することができる。これにより、ユーザは、容器13内における水滴の位置を確認することができる。
【0066】
画像表示設定105で変換後画像が設定された場合、
図12Bに示すように、拡大画像表示エリア103に変換後画像が表示される。変換後画像は、元画像から水滴の偏光成分が除去され、ワークの拡散反射成分のみが残った検査画像である。したがって、ユーザは、全体画像表示エリア102又は拡大画像表示エリア103に表示された変換後画像を視認することで、容器13内のワークの有無を正確に確認することができる。検出部422の検出結果として容器13内にワークが残っているという結果が表示部423に表示された場合、ユーザは、全体画像表示エリア102又は拡大画像表示エリア103に表示された変換後画像を視認する。これにより、ユーザは、容器13内にワークが残っていることを認識すると共に、容器13内におけるワークの位置を確認することができる。
【0067】
画像表示設定105で重畳画像が設定された場合、
図12Cに示すように、拡大画像表示エリア103に重畳画像が表示される。重畳画像は、RGB調整された変換後画像を元
画像(入力画像)に重畳した画像である。変換後画像におけるワークをRGB調整し、RGB調整されたワークを元画像に重畳して表示することで、容器13内におけるワークが強調表示される。
【0068】
本実施形態によれば、検査装置1は、容器13内におけるワークの有無を正確に検出することができる。例えば、容器13を用いて複数のワークを洗浄し、容器13内から複数のワークを取り出した場合において、容器13内におけるワークの有無を正確に検出することが可能である。容器13内にワークが残っている場合、容器13内に残っているワークを取り出す。これにより、次の洗浄対象のワークを容器13内に入れた場合に、容器13内に洗浄後のワークと洗浄前のワークとが混在することが回避される。
【0069】
上記では、全体画像表示エリア102および拡大画像表示エリア103に表示する表示対象画像の種類を設定することにより、表示部423が、元画像、変換後画像および重畳画像を切り替えて表示する例を示したが、この表示例に限定されない。表示部423は、元画像、変換後画像および重畳画像のうちの2つを同時に表示してもよいし、元画像、変換後画像および重畳画像を同時に表示してもよい。容器13内の撮像が複数回行われた場合、表示部423は、複数回の撮像毎の元画像、変換後画像および重畳画像を切り替えて表示してもよい。容器13内の撮像が複数回行われた場合、表示部423は、複数回の撮像毎の元画像、変換後画像および重畳画像のうちの2つを同時に表示してもよいし、複数回の撮像毎の元画像、変換後画像および重畳画像を同時に表示してもよい。ユーザは、元画像、変換後画像および重畳画像を同時に又は切り替えて視認することが可能である。
【0070】
表示部423は、元画像および変換後画像(検査画像)の少なくとも一方におけるワークを強調して元画像および変換後画像の少なくとも一方を表示してもよい。画像生成部421が、変換後画像におけるワークをRGB調整し、RGB調整されたワークを元画像に重畳してもよい。これにより、表示部423は、元画像におけるワークを強調して元画像を表示する。画像生成部421が、変換後画像におけるワークをRGB調整してもよい。これにより、表示部423は、変換後画像におけるワークを強調して変換後画像を表示する。ユーザは、強調表示されたワークを視認することで、容器13内にワークが残っていることを認識すると共に、容器13内におけるワークの位置をより正確に確認することができる。
【0071】
(その他)
上記実施形態は、本発明の構成例を例示的に説明するものに過ぎない。本発明は上記の具体的な形態には限定されることはなく、その技術的思想の範囲内で種々の変形が可能である。
【0072】
例えば、偏光カメラ10および照明装置11の各配置や各構成は、
図1、
図4Aおよび
図4Bに示したものに限られず、被写体や用途に応じて適宜設計すればよい。すなわち、照明光の鏡面反射が偏光カメラ10で観測できさえすればよい。また、複数台の偏光カメラ10を設けてもよいし、可動式の偏光カメラ10や照明装置11を用いてもよい。複数台の偏光カメラ10を用いて、複数の画像を撮像してもよい。可動式の偏光カメラ10の位置を変更して、複数の画像を撮像してもよい。
【0073】
上記実施形態では、0度、45度、90度、135度の偏光子を用いたが、透過軸方向の設定はこれに限られない。撮像素子において異なる透過軸方向の偏光子を通過した光を観測でき、かつ、その観測結果から入射光に含まれる偏光情報を抽出できさえすればよい。
【0074】
<付記1>
容器(13)内を照明するための照明装置(11)と、
透過軸方向の異なる偏光フィルタ(210)が規則的に配列された撮像素子(20)を有する偏光カメラ(10)と、
処理装置(12)と、を備え、
前記処理装置(12)は、
前記照明装置(11)により前記容器(13)内を照明した状態で、前記偏光カメラ(10)によって前記容器(13)内を撮像した元画像を取得する画像取得部(420)と、
前記元画像から水滴の偏光成分を除去することで検査画像を生成する画像生成部(421)と、
前記検査画像に基づいて前記容器(13)内におけるワークの有無を検出する検出部(422)と、
を有する検査装置(1)。
<付記2>
前記検出部(422)は、前記検査画像に基づいて前記容器(13)内における前記ワークの個数を算出する、
付記1に記載の検査装置(1)。
<付記3>
前記偏光カメラ(10)では、隣り合う画素が前記透過軸方向の異なる前記偏光フィルタを透過した光の輝度値を取得する、
付記1又は2に記載の検査装置(1)。
<付記4>
前記画像生成部(421)は、前記元画像から明度画像および偏光強度画像を作成し、前記明度画像および前記偏光強度画像に基づいて前記元画像から前記水滴の前記偏光成分を除去することで前記検査画像を生成する、
付記1から3の何れか一つに記載の検査装置。
<付記5>
前記元画像および前記検査画像の少なくとも一方を表示する表示部(423)を備える、
付記1から4の何れか一つに記載の検査装置(1)。
<付記6>
前記表示部(423)は、前記元画像および前記検査画像の少なくとも一方における前記ワークを強調して前記元画像および前記検査画像の少なくとも一方を表示する、
付記5に記載の検査装置。
<付記7>
前記表示部(423)は、前記元画像および前記検査画像を同時に又は切り替えて表示する、
付記5に記載の検査装置(1)。
<付記8>
前記照明装置は、前記容器を囲むように配置されている、
付記1から7の何れか一つに記載の検査装置(1)。
<付記9>
前記照明装置は、前記容器内に斜め方向から光を照射する、
付記1から8の何れか一つに記載の検査装置(1)。
<付記10>
照明装置(11)と、透過軸方向の異なる偏光フィルタ(210)が規則的に配列された撮像素子(20)を有する偏光カメラ(10)と、処理装置(12)と、を備える検査装置(1)の検査方法であって、
前記照明装置(11)により容器(13)内を照明するステップ(S82)と、
前記容器(13)内を照明した状態で前記偏光カメラ(10)により前記容器(13)
内を撮像するステップ(S82)と、
前記偏光カメラ(10)によって撮像された元画像を前記処理装置(12)によって取得するステップ(S83)と、
前記処理装置(12)によって、前記元画像から水滴の偏光成分を除去することで検査画像を生成するステップ(S84~S87)と、
前記処理装置(12)によって、前記検査画像に基づいて前記容器(13)内におけるワークの有無を検出するステップ(S88~S90)と、
を含む検査方法。
<付記11>
付記10に記載の検査方法の各ステップをプロセッサに実行させるためのプログラム。
【符号の説明】
【0075】
1:検査装置
10:偏光カメラ
11:照明装置
12:処理装置
13:容器
20:撮像素子
21:偏光子アレイ
30:棒状照明
40:カメラ制御部
41:照明制御部
42:画像処理部
420:画像取得部
421:画像生成部
422:検出部
423:表示部
424:パラメータ受付部