(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-10-31
(45)【発行日】2022-11-09
(54)【発明の名称】外観検査システム、設定装置、画像処理装置、設定方法およびプログラム
(51)【国際特許分類】
G01N 21/89 20060101AFI20221101BHJP
【FI】
G01N21/89 Z
(21)【出願番号】P 2018044034
(22)【出願日】2018-03-12
【審査請求日】2020-03-06
(73)【特許権者】
【識別番号】000002945
【氏名又は名称】オムロン株式会社
(74)【代理人】
【識別番号】110001195
【氏名又は名称】弁理士法人深見特許事務所
(72)【発明者】
【氏名】加藤 豊
【審査官】平田 佳規
(56)【参考文献】
【文献】特開2011-209054(JP,A)
【文献】特開2013-166185(JP,A)
【文献】特開2001-165863(JP,A)
【文献】特開2015-163842(JP,A)
【文献】特開平08-091543(JP,A)
【文献】特開2019-158500(JP,A)
【文献】特開2019-100887(JP,A)
【文献】特開2017-203744(JP,A)
【文献】特開2017-146229(JP,A)
【文献】特表2016-530521(JP,A)
【文献】特開2006-308349(JP,A)
【文献】特開2005-241310(JP,A)
【文献】特開2003-295066(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01N 21/84 - 21/958
G01B 11/00 - 11/30
G03B 15/00 - 15/035
H01L 21/64 - 21/66
H04N 5/222- 5/257
H04N 7/18
H05K 3/00
H05K 3/34
H05K 13/00 - 13/08
(57)【特許請求の範囲】
【請求項1】
対象物と撮像装置との間の相対位置を異ならせつつ、前記対象物を前記撮像装置で撮像して外観検査を行なう外観検査システムであって、
前記対象物上において指定された複数の検査対象位置の各々について、検査時の前記対象物と前記撮像装置との間の相対位置を含む1または複数の撮像条件候補を決定する第1決定部を備え、
前記第1決定部は、前記複数の検査対象位置のうちの少なくとも1つの検査対象位置について複数の撮像条件候補を決定し、
前記複数の撮像条件候補に含まれる前記相対位置は互いに異なり、
予め定められた要件を満たすように、前記複数の検査対象位置の各々について
、決定された前記1または複数の撮像条件候補のうちいずれか1つを撮像条件として選択することにより、前記複数の検査対象位置を順次撮像するための撮像条件の変更経路を決定する第2決定部をさらに備える、外観検査システム。
【請求項2】
前記撮像装置は、前記対象物に光を照射するための照明部と、前記対象物からの反射光を撮像素子上に結像するためのレンズ部と、前記撮像素子を制御して画像データを出力するカメラ制御部とを含み、
前記撮像条件は、前記照明部の照明条件、前記レンズ部の光学条件および前記カメラ制御部の制御条件のうちの少なくとも一つを含む、請求項1に記載の外観検査システム。
【請求項3】
前記第2決定部は、前記複数の検査対象位置の撮像順および前記複数の検査対象位置について決定された撮像条件の少なくとも一方が互いに異なる複数の組合せパターンの各々について評価値を算出し、前記評価値に基づいて前記変更経路を決定する、請求項1または2に記載の外観検査システム。
【請求項4】
前記評価値は、撮像条件を逐次変更しつつ、前記複数の検査対象位置の全ての撮像を完了するのに要する時間に依存する項を含む評価関数を用いて算出される、請求項3に記載の外観検査システム。
【請求項5】
前記対象物に対して1つ以上の検査対象領域を設定し、前記検査対象領域に対応する検査要件を満たすように、前記検査対象領域に対応する一つ以上の検査対象位置を決定する第3決定部をさらに備える、請求項1から4のいずれか1項に記載の外観検査システム。
【請求項6】
請求項1から5のいずれか1項に記載の外観検査システムにおいて用いられ、前記変更経路を設定する設定装置であって、前記第1決定部と前記第2決定部とを備える設定装置。
【請求項7】
請求項1から5のいずれか1項に記載の外観検査システムにおいて用いられ、前記対象物の外観の良否を判定する画像処理装置であって、
前記複数の検査対象位置の各々について決定された撮像条件で撮像された画像を処理することにより、前記対象物の外観の良否を判定する判定部と、
前記判定部の判定に基づいて、前記複数の検査対象位置の各々の良否を示す第1判定結果、前記複数の検査対象位置の少なくとも1つを含む検査対象領域の良否を示す第2判定結果、および前記対象物の良否を示す第3判定結果のうちの少なくとも1つを出力する出力部とを備える、画像処理装置。
【請求項8】
対象物と撮像装置との間の相対位置を異ならせつつ、前記対象物を前記撮像装置で撮像して外観検査を行なう外観検査システムにおける設定方法であって、
前記対象物上において指定された複数の検査対象位置の各々について、検査時の前記対象物と前記撮像装置との間の相対位置を含む1または複数の撮像条件候補を決定する第1ステップを備え、
前記第1ステップは、前記複数の検査対象位置のうちの少なくとも1つの検査対象位置について複数の撮像条件候補を決定し、
前記複数の撮像条件候補に含まれる前記相対位置は互いに異なり、
予め定められた要件を満たすように、前記複数の検査対象位置の各々について
、決定された前記1または複数の撮像条件候補のうちいずれか1つを撮像条件として選択することにより、前記複数の検査対象位置を順次撮像するための撮像条件の変更経路を決定する第2ステップをさらに備える、設定方法。
【請求項9】
対象物と撮像装置との間の相対位置を異ならせつつ、前記対象物を前記撮像装置で撮像して外観検査を行なう外観検査システムをサポートするためのプログラムであって、
コンピュータに、
前記対象物上において指定された複数の検査対象位置の各々について、検査時の前記対象物と前記撮像装置との間の相対位置を含む1または複数の撮像条件候補を決定する第1ステップを実行させ、
前記第1ステップは、前記複数の検査対象位置のうちの少なくとも1つの検査対象位置について複数の撮像条件候補を決定し、
前記複数の撮像条件候補に含まれる前記相対位置は互いに異なり、
さらに前記コンピュータに、
予め定められた要件を満たすように、前記複数の検査対象位置の各々について
、決定された前記1または複数の撮像条件候補のうちいずれか1つを撮像条件として選択することにより、前記複数の検査対象位置を順次撮像するための撮像条件の変更経路を決定する第2ステップを実行させる、プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は、撮像画像を用いて対象物を検査する外観検査システム、外観検査システムの撮像条件を設定する設定装置、外観検査システムにおいて用いられる画像処理装置、ならびに外観検査システムの撮像条件を設定する設定方法およびプログラムに関する。
【背景技術】
【0002】
画像処理技術を用いて、樹脂や金属などの対象物を検査する外観検査システムが数多く提案されている。
【0003】
たとえば、特開2007-248241号公報(特許文献1)には、対象物を撮像するための撮像装置と、撮像装置の視野を照明するための照明装置と、撮像装置または対象物の位置および姿勢を変更可能に支持する支持装置と、撮像装置および支持装置の動作を制御する制御装置と、照明装置の照明下で撮像装置により生成された画像を取り込んで検査のための画像処理を行う画像処理装置とを備える検査装置が開示されている。制御装置は、対象物に対する複数回の撮像について、それぞれその撮像時に満足すべき対象物と撮像装置との関係を表す設定情報を作成する。特開2007-240434号公報(特許文献2)にも同様の技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2007-248241号公報
【文献】特開2007-240434号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上述した従来の検査装置では、対象物上の検査対象位置ごとに最適な撮像条件が設定される。しかしながら、複数の検査対象位置を順次撮像する際の撮像条件の変更経路については何ら考慮されていない。そのため、設計者は、対象物と撮像装置との間の相対位置を含む撮像条件の変更経路を予め設定しておく必要があった。しかしながら、最適な撮像条件の変更経路を手動で設定するには設計者の手間がかかる。
【0006】
本発明は、上記の問題を鑑みてなされたものであり、その目的は、対象物上の複数の検査対象位置を順次撮像する際の設計者による撮像条件設定の手間を低減することが可能な外観検査システム、当該外観検査システムの撮像条件を設定する設定装置、当該外観検査システムにおいて用いられる画像処理装置、設定方法およびプログラムを提供することである。
【課題を解決するための手段】
【0007】
本開示の一例によれば、対象物と撮像装置との間の相対位置を異ならせつつ、対象物を撮像装置で撮像して外観検査を行なう外観検査システムは、対象物上の複数の検査対象位置の各々について、検査時の対象物と撮像装置との間の相対位置を含む1または複数の撮像条件候補を決定する第1決定部を備える。第1決定部は、複数の検査対象位置のうちの少なくとも1つの検査対象位置について複数の撮像条件候補を決定する。外観検査システムは、予め定められた要件を満たすように、複数の検査対象位置の各々について決定された1または複数の撮像条件候補のうちいずれか1つを撮像条件として選択することにより、複数の検査対象位置を順次撮像するための撮像条件の変更経路を決定する第2決定部をさらに備える。
【0008】
この開示によれば、新製品または新品種の対象物の外観検査が必要になったときに、外観検査システムによって、予め定められた要件を満たす撮像条件の変更経路が自動的に決定される。その結果、対象物上の複数の検査対象位置を順次撮像する際の設計者による条件設定の手間を低減することができる。
【0009】
上述の開示において、撮像装置は、対象物に光を照射するための照明部と、対象物からの反射光を撮像素子上に結像するためのレンズ部と、撮像素子を制御して画像データを出力するカメラ制御部とを含む。撮像条件は、照明部の照明条件、レンズ部の光学条件およびカメラ制御部の制御条件のうちの少なくとも一つを含む。
【0010】
この開示によれば、照明部の照明条件、レンズ部の光学条件およびカメラ制御部の制御条件のうちの少なくとも一つの変更経路についても自動的に決定することができる。
【0011】
上述の開示において、第2決定部は、複数の検査対象位置の撮像順および複数の検査対象位置について決定された撮像条件の少なくとも一方が互いに異なる複数の組合せパターンの各々について評価値を算出し、評価値に基づいて変更経路を決定する。この開示によれば、評価値の演算によって自動的に撮像条件の変更経路が設定される。
【0012】
上述の開示において、評価値は、撮像条件を逐次変更しつつ、複数の検査対象位置の全ての撮像を完了するのに要する時間に依存する項を含む評価関数を用いて算出される。この開示によれば、全撮像時間の短い撮像条件の変更経路を自動的に設定することができる。
【0013】
上述の開示において、外観検査システムは、対象物に対して1つ以上の検査対象領域を設定し、検査対象領域に対応する検査要件を満たすように、検査対象領域に対応する一つ以上の検査対象位置を決定する第3決定部をさらに備える。この開示によれば、検査したい検査対象領域の中から検査対象位置を自動的に決定することができる。
【0014】
本開示の一例によれば、設定装置は、上記の外観検査システムにおいて用いられ、変更経路を設定する。設定装置は、上記の第1決定部と第2決定部とを備える。
【0015】
この開示によっても、対象物上の複数の検査対象位置を順次撮像する際の設計者による条件設定の手間を低減することができる。
【0016】
本開示の一例によれば、上記の外観検査システムにおいて用いられ、対象物の外観の良否を判定する画像処理装置は、複数の検査対象位置の各々について決定された撮像条件で撮像された画像を処理することにより、対象物の外観の良否を判定する判定部と、判定部の判定に基づいて、複数の検査対象位置の各々の良否を示す第1判定結果、複数の検査対象位置の少なくとも1つを含む検査対象領域の良否を示す第2判定結果、および対象物の良否を示す第3判定結果のうちの少なくとも1つを出力する出力部とを備える。
【0017】
この開示によれば、自動的に設定された撮像条件の変更経路に従って撮像された画像を用いて、対象物の外観の良否が判定され、その結果が出力される。これにより、ユーザは、対象物の外観の良否を容易に認識することができる。
【0018】
本開示の一例によれば、対象物と撮像装置との間の相対位置を異ならせつつ、対象物を撮像装置で撮像して外観検査を行なう外観検査システムにおける設定方法は、対象物上の複数の検査対象位置の各々について、検査時の対象物と撮像装置との間の相対位置を含む1または複数の撮像条件候補を決定する第1ステップを備える。第1ステップにおいて、複数の検査対象位置のうちの少なくとも1つの検査対象位置について複数の撮像条件候補が決定される。設定方法は、予め定められた要件を満たすように、複数の検査対象位置の各々について決定された1または複数の撮像条件候補のうちいずれか1つを撮像条件として選択することにより、複数の検査対象位置を順次撮像するための撮像条件の変更経路を決定する第2ステップをさらに備える。
【0019】
本開示の一例によれば、対象物と撮像装置との間の相対位置を異ならせつつ、対象物を撮像装置で撮像して外観検査を行なう外観検査システムをサポートするためのプログラムは、コンピュータに、対象物上の複数の検査対象位置の各々について、検査時の対象物と撮像装置との間の相対位置を含む1または複数の撮像条件候補を決定する第1ステップを実行させる。第1ステップにおいて、複数の検査対象位置のうちの少なくとも1つの検査対象位置について複数の撮像条件候補が決定される。プログラムは、さらにコンピュータに、予め定められた要件を満たすように、複数の検査対象位置の各々について決定された1または複数の撮像条件候補のうちいずれか1つを撮像条件として選択することにより、複数の検査対象位置を順次撮像するための撮像条件の変更経路を決定する第2ステップを実行させる。
【0020】
これらの開示によっても、対象物上の複数の検査対象位置を順次撮像する際の設計者による条件設定の手間を低減することができる。
【発明の効果】
【0021】
本発明によれば、対象物上の複数の検査対象位置を順次撮像する際の設計者による条件設定の手間を低減することができる。
【図面の簡単な説明】
【0022】
【
図1】本実施の形態に係る外観検査システムの概要を示す模式図である。
【
図2】ワークWに対して決定された複数の検査対象位置と、各検査対象位置に対して決定された撮像条件候補群との一例を示す図である。
【
図3】
図1に示す経路決定部によって決定された撮像条件の変更経路の一例を示す図である。
【
図5】
図1に示す撮像装置の別の例を示す図である。
【
図6】
図1に示す設定装置のハードウェア構成について示す模式図である。
【
図7】
図1に示す設定装置における処理の流れの一例を示すフローチャートである。
【
図8】ワークWの設計上の外観を示す模式図が表示された画面の一例を示す図である。
【
図9】検査対象領域が表示された画面の一例を示す図である。
【
図11】検査対象領域から決定された検査対象位置とそれに対応する実効視野との例を示す図である。
【
図12】検査対象領域から決定された全ての検査対象領域と実効視野とを示す図である。
【
図13】
図1に示す撮像条件決定部による撮像条件候補の決定方法の一例を示す図である。
【
図14】
図1に示す撮像条件決定部による撮像条件候補群の決定方法の別の例を示す図である。
【
図15】ワークWの設計上の外観の一例を示す図である。
【
図16】
図15に示す検査対象位置を撮像するときの
図4に示す例の撮像装置の位置の一例を示す図である。
【
図17】検査対象位置に対してそれぞれ決定された撮像条件候補群に含まれるカメラおよび照明部のX座標の分布を示す図である。
【
図18】
図4に示す例の撮像装置を用いたときの経路決定部によって決定された撮像条件の変更経路の一例を示す図である。
【
図19】
図15に示す検査対象位置を撮像するときの
図5に示す例の撮像装置の位置の一例を示す図である。
【
図20】検査対象位置に対してそれぞれ決定された撮像条件候補群に含まれるカメラのX座標および点灯される照明要素のU座標の分布を示す図である。
【
図21】
図5に示す例の撮像装置を用いたときの経路決定部によって決定された撮像条件の変更経路の一例を示す図である。
【
図22】評価関数(3)を用いたときの経路決定部によって決定された撮像条件の変更経路の一例を示す図である。
【
図23】変形例に係る外観検査システムを示す図である。
【
図24】ワークと撮像装置との間の相対位置を変更する別の形態を示す図である。
【
図25】ワークと撮像装置との間の相対位置を変更するさらに別の形態を示す図である。
【発明を実施するための形態】
【0023】
本発明の実施の形態について、図面を参照しながら詳細に説明する。なお、図中の同一または相当部分については、同一符号を付してその説明は繰返さない。
【0024】
§1 適用例
まず、
図1を参照して、本発明が適用される場面の一例について説明する。
図1は、本実施の形態に係る外観検査システム1の概要を示す模式図である。
【0025】
本実施の形態に係る外観検査システム1は、たとえば、工業製品の生産ラインなどにおいて、ステージ90上に載置された対象物(以下、「ワークW」とも称す。)上の複数の検査対象位置を撮像し、得られた画像を用いて、ワークWの外観検査を行う。外観検査では、ワークWの傷、汚れ、異物の有無、寸法などが検査される。
【0026】
ステージ90上に載置されたワークWの外観検査が完了すると、次のワークWがステージ90上に搬送される。このとき、ワークWは、ステージ90上の予め定められた位置に予め定められた姿勢で載置される。
【0027】
図1に示すように、外観検査システム1は、撮像装置10と、画像処理装置20と、ロボット30と、ロボットコントローラ40と、PLC(Programmable Logic Controller)50と、設定装置60とを備える。
【0028】
撮像装置10は、画像処理装置20からの指令に従って、撮像視野に存在する被写体を撮像して画像データを生成するものであり、被写体として外観検査の対象であるワークWを撮像する。
【0029】
画像処理装置20は、PLC50からの指令に従って、撮像装置10に対して撮像指令を出力する。画像処理装置20は、判定部21と出力部22とを含む。判定部21は、撮像装置10によって生成された画像データに対して予め定められた処理を実行することにより、ワークWの外観の良否を判定する。出力部22は、判定部21による判定結果を出力する。たとえば、出力部22は、図示しない表示装置または設定装置60が備える表示部61に判定結果を表示させる。
【0030】
ロボット30は、たとえば、基台31上に複数のアーム32が連結された垂直多関節ロボットである。複数のアーム32の各連結部には回転軸が含まれている。先端アーム32aの先端には、撮像装置10が取り付けられている。ロボットコントローラ40は、PLC50からの指令に応じてロボット30を制御し、ワークWと撮像装置10との間の相対位置およびワークWに対する撮像装置10の姿勢を変更する。
【0031】
なお、上述したように、ワークWは、ステージ90上の予め定められた位置に予め定められた姿勢で載置される。そのため、ロボット30は、ステージ90に対する撮像装置10の相対位置および姿勢を変更することにより、ワークWと撮像装置10との間の相対位置およびワークWに対する撮像装置10の姿勢を変更することができる。すなわち、ロボット30は、ステージ90上の点を原点とする座標系を用いて撮像装置10を移動することにより、ワークWと撮像装置10との間の相対位置およびワークWに対する撮像装置10の姿勢を変更することができる。
【0032】
PLC50は、撮像装置10がワークW上の複数の検査対象位置を順次撮像するように、ロボットコントローラ40および画像処理装置20を制御する。PLC50は、設定装置60によって設定された撮像条件の変更経路に従って、ロボットコントローラ40を制御する。さらに、PLC50は、撮像装置10が指定された撮像条件を満たしたタイミングで撮像指令を出力するように画像処理装置20を制御する。
【0033】
設定装置60は、ワークW上の複数の検査対象位置を順次撮像するための、ワークWと撮像装置10との間の相対位置を含む撮像条件の変更経路を設定する。設定装置60は、新製品または新品種のワークWの外観検査が必要となったときに、当該ワークWに適した撮像条件の変更経路を設定する。
【0034】
図1に示されるように、設定装置60は、表示部61と記憶部62と対象位置決定部63と撮像条件決定部64と経路決定部65とを備える。表示部61は、たとえばタッチパネルである。記憶部62は、例えば、ハードディスクドライブ、ソリッドステートドライブ等の補助記憶装置であり、対象位置決定部63と撮像条件決定部64と経路決定部65とで実行される処理プログラム、指定経路の設定に関する情報を示すデータ等を記憶する。
【0035】
対象位置決定部63は、記憶部62に格納されたワークWの設計上の表面を示す3次元設計データ(たとえばCAD(Computer-Aided Design)データ)を読み込み、表示部61にワークWの設計上の外観を示す模式図を表示させる。対象位置決定部63は、ユーザ入力に従って、ワークW上の検査対象領域を決定する。さらに、対象位置決定部63は、検査対象領域の全域が撮像されるように、検査対象領域内の複数の検査対象位置を決定する。
【0036】
撮像条件決定部64は、複数の検査対象位置の各々について、ワークWと撮像装置10との間の相対位置を含む撮像条件を決定する。ただし、撮像条件決定部64は、複数の検査対象位置のうちの少なくとも1つの検査対象位置について、複数の撮像条件候補を決定する。たとえば、検査対象位置におけるワークWの表面の法線方向に対して所定角度(たとえば20°)以内の撮像方向から検査対象位置を撮像することが許容されている場合、撮像条件決定部64は、当該検査対象位置について、ワークWと撮像装置10との間の相対位置が互いに異なる複数の撮像条件候補を決定する。
【0037】
経路決定部65は、予め定められた要件を満たすように、各検査対象位置について複数の撮像条件候補のうちいずれか1つを撮像条件として選択するとともに、複数の検査対象位置にそれぞれ対応する複数の撮像条件の順番を決定する。経路決定部65は、選択した撮像条件と決定した順番とに従って、ワークW上の複数の検査対象位置を順次撮像するための、ワークWと撮像装置10との間の相対位置を含む撮像条件の変更経路を決定する。
【0038】
図2は、ワークWに対して決定された複数の検査対象位置と、各検査対象位置に対して決定された撮像条件候補群との一例を示す図である。
図2に示す例では、7個の検査対象位置B1~B7が決定されている。さらに、検査対象位置B1に対して、撮像条件候補φ1_1,φ1_2,・・・からなる撮像条件候補群φ1が決定されている。同様に、検査対象位置B2~B7に対して、撮像条件候補群φ2~φ7が決定されている。
【0039】
図3は、経路決定部65によって決定された撮像条件の変更経路の一例を示す図である。撮像条件は、n個(nは1以上の整数)のパラメータによって示される。そのため、撮像条件は、
図3に示されるようなn次元の空間内で示される。たとえば、撮像条件は、ステージ90上の点を原点とするXYZ座標系における撮像装置10のX座標、Y座標およびZ座標と、撮像装置10の光軸の方向を特定するθx、θy、θzとの6個のパラメータを含む。θxは、撮像装置10の光軸をXY平面に投影した線とX軸とのなす角度であり、θyは、撮像装置10の光軸をYZ平面に投影した線とY軸とのなす角度であり、θzは、撮像装置10の光軸をZX平面に投影した線とZ軸とのなす角度である。XYZ座標は、ワークWと撮像装置10との間の相対位置を特定するパラメータであり、θx,θy,θzは、ワークWに対する撮像装置10の姿勢を特定するパラメータである。
【0040】
図3に示されるように、撮像条件候補群φ1~φ7(φ2、φ3は図示を省略)は、n次元の空間において、点ではなく、広がりを有する範囲で示される。経路決定部65は、予め定められた要求を満たすように、撮像条件候補群φ1~φ7の範囲からそれぞれ1点を選択するとともに、選択された7点を順に結ぶことにより、撮像条件の変更経路を決定する。
【0041】
予め定められた要求とは、たとえば、撮像条件を逐次変更しつつ、全ての検査対象位置の撮像を完了するのに要する時間をできるだけ短くするという要求である。この場合、
図3に示される撮像条件候補群φ1~φ7を順に結ぶ複数の線のうち撮像条件の変更に要する時間が最も短くなる線によって示される経路が、撮像条件の変更経路として決定される。たとえば、撮像条件候補群φ1で示されるワークWと撮像装置10との間の相対位置は、撮像条件候補群φ7で示されるワークWと撮像装置10との間の相対位置よりも撮像条件候補群φ4で示されるワークWと撮像装置10との間の相対位置に近い。そのため、経路決定部65は、撮像条件候補群φ1から選択した1点と、撮像条件候補群φ4から選択した1点とを結ぶ線によって示される経路を変更経路として決定する。
【0042】
このように、外観検査システム1は、撮像条件決定部64と経路決定部65とを備える。撮像条件決定部64は、複数の検査対象位置のうちの少なくとも1つの検査対象位置について、ワークWと撮像装置10との間の相対位置を含む複数の撮像条件候補を決定する。経路決定部65は、予め定められた要件を満たすように、複数の撮像条件候補のうちいずれか1つの撮像条件を選択することにより、複数の検査対象位置を順次撮像するための、撮像条件の変更経路を決定する。
【0043】
これにより、新製品または新品種の対象物の外観検査が必要になったときに、外観検査システム1によって、予め定められた要件を満たす撮像条件の変更経路が自動的に決定される。その結果、ワークW上の複数の検査対象位置を順次撮像する際の設計者による条件設定の手間を低減することができる。
【0044】
§2 具体例
次に、本実施の形態に係る外観検査システムの各構成の一例について説明する。
【0045】
<A.撮像装置>
図4は、撮像装置10の一例を示す図である。
図4に示す例の撮像装置10は、カメラ11と照明部15とを備える。カメラ11と照明部15とは一体化されている。照明部15は、ワークWに対して光を照射する。照明部15から照射された光は、ワークWの表面で反射し、カメラ11に入射する。
【0046】
カメラ11は、カメラ制御部12と撮像素子13とレンズ部14とを含む。レンズ部14は、ワークWからの反射光を撮像素子13上に結像する。レンズ部14は、1枚のレンズのみから構成されてもよいし、複数のレンズによって構成されてもよい。撮像素子13は、たとえばCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの光電変換素子であり、カメラ11の撮像視野からの光を画像信号に変換する。カメラ制御部12は、撮像素子13を制御して、画像データを出力する。
【0047】
照明部15における照明条件が可変である場合、撮像条件決定部64は、当該照明条件を含む撮像条件を決定してもよい。照明条件には、たとえば照明強度、発光色などが含まれる。レンズ部14の光学条件が可変である場合、撮像条件決定部64は、当該光学条件を含む撮像条件を決定してもよい。光学条件には、たとえば焦点位置、ズーム倍率(焦点距離)などが含まれる。カメラ制御部12における制御条件が可変である場合、撮像条件決定部64は、当該制御条件を含む撮像条件を決定してもよい。制御条件には、たとえばシャッター速度などが含まれる。撮像条件決定部64は、照明部15の照明条件、レンズ部14の光学条件およびカメラ制御部12の制御条件のうち少なくとも一つを含む撮像条件を決定してもよい。
【0048】
照明部15の形状は、特に限定されず、ドーム型、リング型(円形または角形)、バー型のいずれでもよい。
【0049】
図5は、撮像装置10の別の例を示す図である。
図5に示す例の撮像装置10は、
図4に示す例の撮像装置10と比較して、照明部15が複数の照明要素16a~16fから構成される点で相違する。複数の照明要素16a~16fは、別々に点灯制御される。そのため、複数の照明要素16a~16fのうちの一部の照明要素のみを点灯し、残りを消灯することができる。
図5に示す例の撮像装置10に対して、撮像条件決定部64は、複数の照明要素16a~16fのうち点灯される照明要素を示す照明パターン(照明条件の1つ)を含む撮像条件を決定してもよい。点灯される照明要素は、カメラ11上の点を原点とするU座標(
図5参照)で示される。
【0050】
図4および
図5に示す例では、カメラ11と照明部15とが一体化される。しかしながら、カメラ11と照明部15との間の相対位置が可変であってもよい。この場合、撮像条件決定部64は、カメラ11と照明部15との間の相対位置とカメラ11に対する照明部15の姿勢とを含む撮像条件を決定してもよい。カメラ11と照明部15との間の相対位置は、カメラ11上の点を原点とするUVW座標系で示される。カメラ11に対する照明部15の姿勢は、照明部15の光の照射方向を特定するθu、θv、θwのパラメータによって示される。θuは、照明部15の光の照射方向をUV平面に投影した線とU軸とのなす角度であり、θvは、照明部15の光の照射方向をVW平面に投影した線とV軸とのなす角度であり、θwは、照明部15の光の照射方向をWU平面に投影した線とW軸とのなす角度である。
【0051】
<B.設定装置のハードウェア構成>
図6は、設定装置60のハードウェア構成について示す模式図である。設定装置60は、CPU(Central Processing Unit)162、メインメモリ163、ハードディスク164、ディスプレイ166、入力デバイス167および通信インターフェイス(I/F)168を含む。これらの各部は、バス161を介して、互いにデータ通信可能に接続される。
【0052】
CPU162は、ハードディスク164にインストールされた設定プログラム165を含むプログラム(コード)をメインメモリ163に展開して、これらを所定順序で実行することで、各種の演算を実施する。メインメモリ163は、典型的には、DRAM(Dynamic Random Access Memory)などの揮発性の記憶装置である。
【0053】
ハードディスク164は、設定装置60が備える内部メモリであって、不揮発性の記憶装置であって、設定プログラム165等の各種プログラムを記憶する。なお、ハードディスク164に加えて、あるいは、ハードディスク164に代えて、フラッシュメモリなどの半導体記憶装置を採用してもよい。
【0054】
設定プログラム165は、設定装置60による撮像条件の変更経路を設定するための手順を示すプログラムである。設定プログラム165等の各種プログラムは、ハードディスク164に保存されている必要はなく、設定装置60と通信可能なサーバや、設定装置60と直接接続可能な外部メモリに保存されていてもよい。たとえば、外部メモリに設定装置60で実行される各種プログラムおよび各種プログラムで用いられる各種パラメータが格納された状態で流通し、設定装置60は、この外部メモリから各種プログラムおよび各種パラメータを読み出す。外部メモリは、コンピュータその他装置、機械等が記録されたプログラム等の情報を読み取り可能なように、当該プログラム等の情報を、電気的、磁気的、光学的、機械的又は化学的作用によって蓄積する媒体である。あるいは、設定装置60と通信可能に接続されたサーバなどからダウンロードしたプログラムやパラメータを設定装置60にインストールしてもよい。
【0055】
ディスプレイ166は、たとえば液晶ディスプレイである。入力デバイス167は、たとえばマウス、キーボード、タッチパッド等により構成される。
【0056】
通信I/F168は、PLC50とCPU162との間で各種データをやり取りする。なお、通信I/F168は、サーバとCPU162との間でデータをやり取りしてもよい。通信I/F168は、PLC50との間で各種データをやり取りするためのネットワークに対応するハードウェアを含む。
【0057】
図1に示す表示部61は、ディスプレイ166によって構成される。
図1に示す記憶部62は、メインメモリ163またはハードディスク164によって構成される。
図1に示す対象位置決定部63、撮像条件決定部64および経路決定部65は、CPU162、メインメモリ163およびハードディスク164によって実現される。
【0058】
なお、本実施の形態に係る設定プログラム165は、他のプログラムの一部に組み込まれて提供されるものであってもよい。また、代替的に、設定プログラム165の実行により提供される処理の一部もしくは全部を専用のハードウェア回路が行なってもよい。
【0059】
<C.設定装置における処理の流れ>
図7は、設定装置60における処理の流れの一例を示すフローチャートである。外観検査システム1によって新製品または新品種のワークWの外観検査が必要になったときに、設定装置60は、たとえば
図7に示すフローチャートに従った処理を行ない、新製品または新品種のワークWに適した撮像条件の変更経路を設定する。新製品または新品種のワークWの設計上の表面を示す3次元設計データは、予め記憶部62に格納される。
【0060】
図7に示す例では、まずステップS1において、対象位置決定部63は、記憶部62から3次元設計データを読み込む。次にステップS2において、対象位置決定部63は、3次元設計データで示されるワークWの設計上の外観を示す模式図を表示部61に表示し、ユーザ入力に従ってワークW上の検査対象領域を決定する。このとき、ワークWがステージ90上の予め定められた位置に予め定められた姿勢で載置されることを前提として、対象位置決定部63は、3次元設計データの座標系を、ステージ90上の点を原点とするXYZ座標系に変換する。そのため、検査対象領域は、ステージ90上の点を原点とするXYZ座標系で示される。
【0061】
次にステップS3において、対象位置決定部63は、検査対象領域に対応する検査要件を満たすように、検査対象領域内から複数の検査対象位置を決定する。
【0062】
次にステップS4において、撮像条件決定部64は、複数の検査対象位置の各々に対して、検査時のワークWと撮像装置10との間の相対位置を含む複数の撮像条件候補を決定する。
【0063】
次にステップS5において、経路決定部65は、撮像条件の変更経路の候補となる複数の組合せパターンの各々について、予め定められた要件に応じた評価関数の値(評価値)を算出する。複数の組合せパターンの各々は、複数の検査対象位置の各々に対して決定された複数の撮像条件候補の中から1つずつ選択された複数の撮像条件を、複数の検査対象位置の撮像順に並べたパターンである。複数の組合せパターンは、複数の検査対象位置の撮像順および少なくとも1つの検査対象位置の撮像条件の少なくとも一方が互いに異なる。評価関数は、たとえば、ワークWと撮像装置10との間の相対位置を含む撮像条件を逐次変更しつつ、複数の検査対象位置の全ての撮像を完了するのに要する時間(全撮像時間)に依存する項を含む。撮像時間が長くなるほど評価値は大きくなる。
【0064】
次にステップS6において、経路決定部65は、評価値に基づいて、撮像条件の変更経路を決定する。たとえば、全撮像時間に依存する項を含む評価関数によって評価値が算出される場合、経路決定部65は、評価値が最小となる組合せパターンを撮像条件の変更経路として決定する。
【0065】
なお、上記の例では、ステップS3において、検査対象領域から複数の検査対象位置が決定されるとした。しかしながら、ステップS2において、複数の検査対象領域が決定され、ステップS3において、複数の検査対象領域の各々から少なくとも1つの検査対象位置が決定されてもよい。これによっても、ステップS3により複数の検査対象位置が決定される。
【0066】
<D.対象位置決定部による検査対象領域の決定方法>
図8および
図9を参照して、対象位置決定部63による検査対象領域の決定方法の一例について説明する。
図8は、ワークWの設計上の外観を示す模式図が表示された画面の一例を示す図である。
図9は、検査対象領域が表示された画面の一例を示す図である。
【0067】
図8に示されるように、対象位置決定部63は、ワークWの3次元設計データによって示される設計上の外観を示す模式
図W0を含む画面61aを表示部61に表示させる。画面61aには、垂直方向を軸として模式
図W0を回転させるためのツールボタン71と、水平方向を軸として模式
図W0を回転させるためのツールボタン72とが含まれる。ユーザは、ツールボタン71,72を操作することにより、模式
図W0を適宜回転させることができる。
【0068】
対象位置決定部63は、ユーザから検査したい場所の指定を受け付ける。具体的には、ユーザは、入力デバイス167を用いて、ワークWの模式
図W0上における検査したい複数点をクリックする。
図8に示す画面61aでは、ユーザによってクリックされた複数点が丸印74によって示されている。
【0069】
対象位置決定部63は、模式
図W0上で指定された複数の丸印74を含む領域を検査対象領域として切り出す。具体的には、対象位置決定部63は、指定された各丸印74に対応するワークWの表面上の点から当該表面に沿って所定距離以内の範囲を求め、当該範囲の和集合を検査対象領域として切り出す。
【0070】
さらに、対象位置決定部63は、輪郭線が直線または円などの幾何学図形となるように検査対象領域を調整する。
図9に示す表示部61の画面61bには、輪郭線がワークWのいずれかの稜線と平行な直線となるように調整された検査対象領域75が示される。
【0071】
さらに、対象位置決定部63は、ユーザから検査対象領域75の微調整の指示を受け付け、当該指示に応じて検査対象領域75を微調整する。画面61bには、検査対象領域75を拡大または縮小するためのツールボタン76,77が含まれる。ユーザは、入力デバイス167を用いて、検査対象領域75の輪郭線を構成する一辺を選択し、ツールボタン76,77を操作することにより、検査対象領域75の拡大または縮小の指示を入力する。もしくは、ユーザは、入力デバイス167に含まれるマウスを用いて、検査対象領域75の輪郭線を構成する一辺上の点78をドラッグすることにより、検査対象領域75の拡大または縮小の指示を入力してもよい。これにより、対象位置決定部63は、検査対象領域75の拡大または縮小を行なう。このようにして、対象位置決定部63は、検査対象領域75を決定する。
図9に示す例では、直方体のワークWの6面のうちの4面の部分領域を集合した領域が検査対象領域75として決定されている。
【0072】
<E.対象位置決定部による検査対象位置の決定方法>
図10~
図12を参照して、対象位置決定部63による検査対象位置の決定方法の一例について説明する。
図10は、検査対象領域上の点の例を示す図である。
図11は、検査対象領域から決定された検査対象位置とそれに対応する実効視野との例を示す図である。
図12は、検査対象領域から決定された全ての検査対象領域と実効視野とを示す図である。
【0073】
カメラ解像度をR(pix)、要求される最小欠陥サイズをD(mm)とするとき、当該最小欠陥サイズの欠陥を認識できるという検査要件を満たすことが可能な最大の、撮像装置10による撮像視野FOVが設定される。撮像視野FOVの径は、一般に、比例定数aを用いてa×D×Rで表される。
【0074】
対象位置決定部63は、検査対象領域75を点の集合とみなし、法線ベクトルの分布を用いて、検査対象領域75内の点の近傍の3次元形状を調査することができる。たとえば、対象位置決定部63は、ワークWの3次元設計データに基づいて、検査対象領域75内の点から表面に沿って距離L以内の範囲における法線ベクトルの分布を求める。距離Lは、たとえば、撮像視野FOVの径(=a×D×R)に比例定数bを乗じた値(=b×a×D×R)である。
【0075】
図10に示す例では、点P1の近傍は平坦である。そのため、点P1からワークWの表面に沿って距離L以内の範囲内の法線ベクトルは、すべてベクトルn2となる。点P2は2面が交わる稜線の近傍に位置する。そのため、点P2からワークWの表面に沿って距離L以内の範囲内の法線ベクトルは、2つのベクトルn2,n4を含む。点P2は3面が交わる頂点の近傍に位置する。そのため、点P3からワークWの表面に沿って距離L以内の範囲内の法線ベクトルは、3つのベクトルn1,n2,n4を含む。したがって、対象位置決定部63は、検査対象領域75内の点から表面に沿って距離L以内の範囲の法線ベクトルの分布により、当該点の近傍が平坦であるのか、当該点の近傍に稜線が存在するのか、当該点の近傍に稜線が存在するのか、を判定できる。
【0076】
図11に示されるように、対象位置決定部63は、検査対象領域75の中から無作為に選択した1点を検査対象位置Biとして選択する。対象位置決定部63は、検査対象位置Biに対して、撮像装置10による実効視野FOV2iを求める。実効視野FOV2iは、検査対象位置Biを含み、1つの撮像条件を用いて撮像装置10が撮像可能かつ検査可能な視野である。対象位置決定部63は、検査対象位置Biの近傍の3次元形状に応じて実効視野FOV2iを決定する。実効視野FOV2iが取り得る最大径は、撮像視野FOVの径(=a×D×R)に設定される。
【0077】
たとえば、対象位置決定部63は、実効視野FOV2iにおける法線ベクトル分布のばらつきが所定範囲内に入るように、実効視野FOV2iを決定する。検査対象位置Biの近傍が平坦である場合、対象位置決定部63は、検査対象位置Biから表面に沿って距離a×D×R以内の範囲(つまり、撮像視野FOV)を実効視野FOV2iとして決定する。一方、検査対象位置Biの近傍に稜線または頂点が存在する場合、
図11に示されるように、対象位置決定部63は、検査対象位置Biから表面に沿って距離a×D×R以内の範囲から一部の範囲を除いた範囲を実効視野FOV2iとする。除かれる範囲は、法線ベクトル分布において最大の分布量を示す法線ベクトル以外の法線ベクトルを有する表面の範囲である。
【0078】
次に、対象位置決定部63は、検査対象領域75に属する点の集合から、決定した実効視野FOV2iに属する点の集合を除去し、残った点の集合の中から無作為に選択した1点を次の検査対象位置B(i+1)として選択する。対象位置決定部63は、選択した検査対象位置B(i+1)に対しても実効視野FOV2(i+1)を決定する。対象位置決定部63は、検査対象領域75に属する点の集合が0になるまで、この処理を繰り返す。これにより、
図12に示されるように、検査対象領域75から複数の検査対象位置Bi(i=1,2,・・・)が決定される。検査対象領域75内の全ての点は、複数の検査対象位置Bi(i=1,2,・・・)のいずれかの実効視野FOV2iに含まれる。上述したように、実効視野FOV2iが取り得る最大径は、撮像視野FOVの径に設定される。そのため、検査対象領域75の全域について最小欠陥サイズの欠陥が認識可能なように検査対象位置が決定される。
【0079】
なお、上記の説明では、対象位置決定部63は、検査対象領域75から無作為に検査対象位置Biを抽出するとした。しかしながら、対象位置決定部63は、予め定められた幾何学的条件に従って検査対象領域75から検査対象位置Biを抽出してもよい。あるいは、対象位置決定部63は、抽出された複数の検査対象位置Biが規則的に整列するように、検査対象領域75から検査対象位置Biを抽出してもよい。
【0080】
たとえば、ワークWにおいて稜線または頂点の近傍に欠陥が生じやすい場合、稜線または頂点の近傍を優先的に検査するという検査要件を満たすように、検査対象位置が決定されてもよい。たとえば、検査対象領域75内のうち、所定距離内に稜線または頂点が存在する点の集合から優先的に検査対象位置Biが抽出されてもよい。
【0081】
<F.撮像条件決定部による撮像条件の決定方法>
図13は、撮像条件決定部64による撮像条件候補の決定方法の一例を示す図である。撮像条件決定部64は、検査対象位置BiにおけるワークWの設計上の外観表面の法線上の相対位置候補Ci_1を中心とする相対位置候補群Ci内の複数の位置の各々を、ワークWに対する撮像装置10の相対位置候補として決定する。撮像条件決定部64は、決定した複数の相対位置候補Ci_1,Ci_2,・・・をそれぞれ含む複数の撮像条件候補φi_1,φi_2,・・・を決定すればよい。決定した複数の撮像条件候補φi_1,φi_2,・・・によって、検査対象位置Biに対する撮像条件候補群φiが構成される。
【0082】
相対位置候補Ci_1は、検査対象位置Biに対応する実効視野FOV2iを撮像可能であり、かつ、検査対象位置Biにピントが合う最適な被写体距離だけ検査対象位置Biから離れた位置である。相対位置候補群Ciは、被写界深度および許容傾斜範囲から定められる。許容傾斜範囲とは、カメラ11の光軸と検査対象位置BiにおけるワークWの表面の法線方向とのなす角度の許容範囲(たとえば、±20°)である。
【0083】
なお、撮像条件決定部64は、相対位置候補群Ci内において、一定間隔空けて配列される複数(有限個)の位置の各々を相対位置候補として決定すればよい。
【0084】
なお、撮像素子13が矩形であり、実効視野FOV2iが円形である場合、撮像装置10の矩形状の撮像範囲の中に実効視野FOV2iが包含(外接)するように、相対位置候補群Ciが決定される。
【0085】
図14は、撮像条件決定部64による撮像条件候補群の決定方法の別の例を示す図である。
図14には、リング型の照明部15を備えた撮像装置10に対する撮像条件候補の決定方法の例が示されている。
【0086】
検査対象位置Biの近傍のワークWの設計上の表面に凸部が存在する場合、照明部15から照射される光の一部が凸部に遮られ、検査対象位置Biに到達しないことがある。このような場合、検査対象位置Biの照射条件が変化し、正常に外観検査できない可能性がある。そこで、撮像条件決定部64は、検査対象位置Biの近傍におけるワークWの設計上の形状を考慮して、相対位置候補群Ciを決定してもよい。
【0087】
図14(a)には、検査対象位置Biの近傍に存在する凸部による照射条件の変化を考慮しないで決定された相対位置候補群Ciが示される。この場合、相対位置候補群Ci内の一部の位置に撮像装置10が配置された場合、照明部15から照射される光の一部が凸部に遮られる。
【0088】
そこで、撮像条件決定部64は、ワークWの3次元設計データに基づいて、照明部15から照射される光のシミュレーションを行なうことにより、照明部15から照射される光が凸部に遮られない撮像装置10の位置からなる相対位置候補群Ciを生成する。具体的には、撮像条件決定部64は、照明部15から照射される光が凸部に遮られる撮像装置10の位置を
図14(a)に示す相対位置候補群Ciから除去することにより、新たな相対位置候補群Ciを生成する。撮像条件決定部64は、照明部15のいずれかの点と検査対象位置Biとを結ぶ線分上にワークWの設計上の表面が存在する撮像装置10の位置を相対位置候補群Ciから除去すればよい。
図14(b)には、検査対象位置Biの近傍におけるワークWの設計上の形状を考慮して決定された相対位置候補群Ciが示される。
【0089】
撮像条件決定部64は、照明部15から照射される光のシミュレーションを行なうことなく、予め実験により定められたルールに従って、
図14(a)に示す相対位置候補群Ciから一部の位置を除去することにより、新たな相対位置候補群Ciを生成してもよい。当該ルールは、たとえば、検査対象位置Biから所定距離内に凸部が存在する場合、
図14(a)に示す相対位置候補群Ciから、凸部に応じて設定される平面よりも凸部側の位置を除去するというルールである。ここで、凸部に応じて設定される平面とは、たとえば、検査対象位置Biを通り、検査対象位置Biの法線方向から凸部とは反対側に所定角度傾斜した平面である。
【0090】
さらに、撮像条件決定部64は、ワークWに対する撮像装置10の相対位置候補とともに、照明部15の照明条件、レンズ部14の光学条件、カメラ制御部12の制御条件の少なくとも1つを含む撮像条件候補を決定してもよい。
【0091】
さらに、カメラ11と照明部15との間の相対位置が可変である場合には、撮像条件決定部64は、ワークWに対する撮像装置10の相対位置候補とともに、カメラ11と照明部15との間の相対位置およびカメラ11に対する照明部15の姿勢の少なくとも一方を含む撮像条件候補を決定してもよい。
図14(a)に示されるように、検査対象位置Biの近傍に凸部が存在する場合、ワークWに対する撮像装置10の相対位置候補ごとに、照射される光が凸部に遮られないように照明部15が取り得る位置および姿勢を含む撮像条件候補が決定される。たとえば、照明部15の位置を検査対象位置Biから遠ざけることにより、照明部15から照射される光が凸部によって遮られなくなる。
【0092】
<G.経路決定部による変更経路の決定方法>
次に、経路決定部65による撮像条件の変更経路の決定方法の一例について説明する。経路決定部65は、撮像条件の変更経路の候補となる複数の組合せパターンの各々について、以下に示す評価関数(1)を用いて評価値Eを算出する。
【0093】
【0094】
上述したように、複数の組合せパターンの各々は、複数の検査対象位置Biの各々に対して決定された撮像条件候補群φiの中から1つずつ選択された複数の撮像条件を、複数の検査対象位置Biの撮像順に従って並べたパターンである。そのため、検査対象位置がn個あり、検査対象位置Biに対してKi個の撮像条件候補が決定された場合、組合せパターンの個数は、(n×(n-1)×・・・2×1)×Kn×K(n-1)×・・・×K2×K1となる。
【0095】
評価関数(1)において、f(φi,φj)は、対応する組合せパターンにおいて撮像順が連続する2つの検査対象位置のうちの先に撮像する検査対象位置Biに対応する撮像条件から後に撮像する検査対象位置Bjに対応する撮像条件に変更するのに要する時間を示す。評価値Eは、対応する組合せパターンにおいて撮像順が連続する2つの検査対象位置ごとの当該時間の和を示す。すなわち、評価値Eは、撮像条件を逐次変更しつつ、全ての検査対象位置Biの撮像を完了するのに要する時間を表している。
【0096】
経路決定部65は、評価値Eが最小となる組合せパターンを撮像条件の変更経路として決定する。これにより、ワークWと撮像装置10との間の相対位置を含む撮像条件を逐次変更しつつ、全ての撮像を完了するのに要する時間が最小となる要件を満たす変更経路が自動的に決定される。
【0097】
f(φi,φj)は、ロボット30の制御条件等に応じて予め定められる。たとえば、検査対象位置Biごとに撮像装置10を一旦停止させる制御条件の場合には、撮像条件に到達したときにロボット30の各アーム32の速度が0となるようなf(φi,φj)が定められる。あるいは、検査対象位置Biごとに撮像装置10が停止せずに連続動作させる制御条件の場合には、撮像条件に到達したときのアーム32の速度に関する制限のないf(φi,φj)が定められる。
【0098】
撮像条件は、1つのパラメータから構成されてもよいし、複数のパラメータから構成されてもよい。上述したように、ワークWに対する撮像装置10の相対位置を特定するパラメータとしてXYZ座標を用い、ワークWに対する撮像装置10の姿勢を特定するパラメータとしてθx、θy、θzを用いる場合には、撮像条件は、少なくともこれら6つのパラメータから構成される。
【0099】
撮像条件が複数のパラメータから構成される場合、評価関数は、特定のパラメータの値に応じて変化する項を含んでもよい。たとえば、カメラ11の光軸と検査対象位置におけるワークWの表面の法線方向とのなす角度(以下、傾斜角度という)を示すパラメータについて、傾斜角度0°のときよりも傾斜角度20°のときの評価値が高くなるように、以下の評価関数(2)が定められる。
【0100】
【0101】
評価関数(2)において、パラメータの種類を示す要素番号が添え字k,lによって表される。評価関数(2)の第2項は、傾斜角度を示すパラメータの値に応じて変化する項である。
【0102】
図15は、ワークWの設計上の外観の一例を示す図である。
図15に示す例では、ワークWの上面は、4つの平面81~84によって構成される。平面81~84は、Y軸に沿ってこの順に配列される。平面81と平面83とは、Y軸に平行であり、X座標に比例してZ座標が減少する同一平面上に位置する。平面82と平面84とは、Y軸に平行であり、X座標に比例してZ座標が増大する同一平面上に位置する。
図15に示す例では、平面81~84の中心点が検査対象位置B1~B4にそれぞれ決定されている。
【0103】
図16は、
図15に示す検査対象位置B1~B4を撮像するときの
図4に示す例の撮像装置10の位置の一例を示す図である。
図16(a)には、検査対象位置B2,B4に対応する撮像装置10の位置が示される。
図16(b)には、検査対象位置B1,B3に対応する撮像装置10の位置が示される。
図16に示されるように検査対象位置B1~B4のX座標を0とするとき、検査対象位置B2,B4に対して、カメラ11および照明部15のX座標は負となる。一方、検査対象位置B1,B3に対して、カメラ11および照明部15のX座標は正となる。照明部15がカメラ11よりもX軸の正方向に位置しているため、照明部15のX座標はカメラ11のX座標よりも大きくなる。
【0104】
図17は、検査対象位置B1~B4に対してそれぞれ決定された撮像条件候補群φ1~φ4に含まれるカメラ11および照明部15のX座標の分布が示を示す図である。なお、
図15に示されるように、検査対象位置B1~B4はY軸に沿って等間隔に配置されている。そのため、撮像条件候補群φ1~φ4に含まれるカメラ11および照明部15のY座標は、この順に大きくなる。撮像条件候補群φ1~φ4において、カメラ11および照明部15のY座標の変動は、カメラ11および照明部15のX座標およびZ座標の変動よりも大きい。そのため、撮像条件候補群φ1~φ4から1つずつ選択された撮像条件をこの順に並べた組合せパターンに対する評価値Eが最も小さくなる。
【0105】
図18は、
図4に示す例の撮像装置10を用いたときの経路決定部65によって決定された撮像条件の変更経路A1の一例を示す図である。
図18に示されるように、撮像条件の変更経路A1によれば、撮像装置10は、X軸方向に振れながら、Y軸方向に沿ってジグザグに移動する。
【0106】
図19は、
図15に示す検査対象位置B1~B4を撮像するときの
図5に示す例の撮像装置10の位置の一例を示す図である。
図5に示す例の撮像装置10では、複数の照明要素16a~16fのうち点灯する照明要素を選択できる。そのため、
図19(a)に示されるように、照明要素16bを点灯させることにより、カメラ11のX座標を0とすることができる。また、
図19(b)に示されるように、照明要素16eを点灯させることにより、カメラ11のX座標を0とすることができる。
【0107】
図20は、検査対象位置B1~B4に対してそれぞれ決定された撮像条件候補群φ1~φ4に含まれるカメラ11のX座標および点灯される照明要素のU座標の分布を示す図である。
図20に示されるように、
図5に示す例の撮像装置10であれば、カメラ11のX座標の自由度が高まる。そのため、経路決定部65は、撮像装置10のX座標が一定となるように、撮像条件候補群φ1~φ4から1つずつ撮像条件を選択した組合せパターンを生成できる。そして、当該組合せパターンに対する評価値Eが最も小さくなる。
【0108】
図21は、
図5に示す例の撮像装置10を用いたときの経路決定部65によって決定された撮像条件の変更経路A2の一例を示す図である。
図21に示されるように、撮像条件の変更経路A2によれば、撮像装置10は、点灯する照明要素を変更することにより、X軸方向に振れる必要がない。
【0109】
ロボット30のアーム32の加減速の回数が多い場合、駆動系の負荷が大きくなり、ロボット30の寿命が縮まる。たとえば、
図18に示す変更経路A1の場合、X軸方向に沿った加減速回数が多くなる。そこで、経路決定部65は、以下の評価関数(3)を用いて評価値Eを算出してもよい。評価関数(3)において、第2項は、アーム32の加減速の回数に関する項である。a,bは比例係数である。
【0110】
【0111】
経路決定部65は、評価関数(3)を用いて評価値Eを算出することにより、アーム32の加減速の回数が少ない要件を満たす組合せパターンを撮像条件の変更経路として決定できる。
【0112】
図22は、評価関数(3)を用いたときの経路決定部65によって決定された撮像条件の変更経路A3の一例を示す図である。
図22に示されるように、撮像条件の変更経路A3によれば、撮像装置10は、検査対象位置B2,B4,B3,B1の順に撮像するように移動する。その結果、X軸方向の加減速の回数が少なくなる。
【0113】
<H.画像処理装置>
画像処理装置20は、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)、補助記憶装置、通信I/F等を含み、情報処理を行なう。補助記憶装置は、たとえば、ハードディスクドライブ、ソリッドステートドライブ等で構成され、CPUが実行するプログラム等を記憶する。
【0114】
画像処理装置20は、検査対象位置に対して撮像された画像を処理し、当該検査対象位置の良否判定結果を出力する。たとえば、画像処理装置20の判定部21は、特開2007-240434号公報に記載のように、予め記憶しておいた良品ワークの画像との間の差分画像を2値化し、しきい値を超えた画素数と基準値とを照合することにより、検査対象位置の良否を判定する。画像処理装置20の出力部22は、判定結果を図示しない表示装置に表示する。もしくは、画像処理装置20は、設定装置60が備える表示部61に良否結果を表示してもよい。
【0115】
なお、上述したように、撮像素子13が矩形であり、実効視野FOV2iが円形である場合、撮像装置10の矩形状の撮像範囲の中に実効視野FOV2iが包含(外接)するように、相対位置が決定される。そのため、撮像装置10によって撮像された画像には、実効視野FOV2i以外の領域が含まれる。判定部21は、画像の中から実効視野FOV2iに相当する部分のみを抽出し、抽出した部分画像に対してのみ画像処理を行なってもよい。これにより、判定部21の処理速度を向上させることができる。
【0116】
画像処理装置20の判定部21は、当該検査対象領域内の検査対象位置に対して撮像された画像に基づいて検査対象領域ごとに良否を判定してもよい。画像処理装置20の出力部22は、検査対象領域の良否の判定結果を出力してもよい。もしくは、判定部21は、ワークW全体の外観の良否を判定してもよい。出力部22は、ワークWの良否の判定結果を出力してもよい。もしくは、出力部22は、検査対象位置、検査対象領域およびワークWのうちの少なくとも2つに対する良否判定結果を出力してもよい。
【0117】
<I.外観検査システムの変形例>
図23は、変形例に係る外観検査システムを示す図である。
図23に示される外観検査システムは、
図1に示す外観検査システム1と比較して、PLC50を備えず、画像処理装置20の代わりに画像処理装置20aを備える点で相違する。画像処理装置20aは、上記の画像処理装置20の構成とPLC50の構成との両方を有する。
【0118】
図24は、ワークWと撮像装置10との間の相対位置を変更する別の形態を示す図である。
図24に示されるように、ロボット30は、撮像装置10ではなく、ワークWを移動させてもよい。
図24に示す例では、撮像装置10は固定される。このようにワークWを移動させることにより、ワークWと撮像装置10との間の相対位置を変更してもよい。
【0119】
図25は、ワークWと撮像装置10との間の相対位置を変更するさらに別の形態を示す図である。
図25に示されるように、ワークWは、回転テーブル91の上に載置されてもよい。回転テーブル91は、ロボットコントローラ40の指示に応じて回転する。これにより、ワークWと撮像装置10との間の相対位置を容易に変更することができる。
【0120】
なお、ロボット30は、垂直多関節ロボット以外のロボット(たとえば、水平多関節ロボット、直交ロボットなど)であってもよい。
【0121】
上記では、撮像視野FOVおよび実効視野FOV2を円形とした説明したが、撮像視野FOVおよび実効視野FOV2の形状は、円形に限定されず、たとえば矩形(長方形、正方形)であってもよい。
【0122】
<J.作用・効果>
以上のように、本実施の形態では、予め定められた要件を満たすように、複数の撮像条件候補のうちいずれか1つを撮像条件として選択することにより、複数の検査対象位置を順次撮像するための撮像条件の変更経路が決定される。
【0123】
これにより、新製品または新品種の対象物の外観検査が必要になったときに、外観検査システム1によって、予め定められた要件を満たす撮像条件の変更経路が自動的に決定される。その結果、ワークW上の複数の検査対象位置を順次撮像する際の設計者による条件設定の手間を低減することができる。
【0124】
撮像条件は、照明部15の照明条件、レンズ部14の光学条件およびカメラ制御部12の制御条件のうちの少なくとも一つを含んでもよい。
【0125】
経路決定部65は、複数の検査対象位置の撮像順およびいずれかの検査対象位置の撮像条件の少なくとも一方が互いに異なる複数の組合せパターンの各々について評価値を算出し、評価値に基づいて変更経路を決定する。これにより、評価値の演算によって自動的に撮像条件の変更経路が設定される。
【0126】
評価値は、撮像条件を逐次変更しつつ、複数の検査対象位置の全ての撮像を完了するのに要する時間に依存する項を含む評価関数を用いて算出される。これにより、全撮像時間の短い撮像条件の変更経路を自動的に設定することができる。
【0127】
対象位置決定部63は、ワークWに対して1つ以上の検査対象領域を設定し、検査対象領域に対応する検査要件を満たすように、検査対象領域に対応する一つ以上の検査対象位置を決定する。これにより、検査したい検査対象領域の中から検査対象位置を自動的に決定することができる。
【0128】
画像処理装置20は、複数の検査対象位置の各々に対応して決定された撮像条件で撮像された画像を処理する判定部21と、出力部22とを備える。出力部22は、複数の検査対象位置の各々の良否の判定結果、検査対象領域の良否の判定結果、およびワークWの良否の判定結果のうちの少なくとも1つを出力する。これにより、ユーザは、ワークWの外観の良否を容易に認識することができる。
【0129】
<K.付記>
以上のように、本実施の形態および変形例は以下のような開示を含む。
【0130】
(構成1)
対象物(W)と撮像装置(10)との間の相対位置を異ならせつつ、前記対象物(W)を前記撮像装置(10)で撮像して外観検査を行なう外観検査システム(1)であって、
前記対象物(W)上の複数の検査対象位置(Bi)の各々について、検査時の前記対象物(W)と前記撮像装置(10)との間の相対位置を含む1または複数の撮像条件候補を決定する第1決定部(64)を備え、
前記第1決定部(64)は、前記複数の検査対象位置(Bi)のうちの少なくとも1つの検査対象位置について複数の撮像条件候補を決定し、
予め定められた要件を満たすように、前記複数の検査対象位置(Bi)の各々について決定された前記1または複数の撮像条件候補のうちいずれか1つを撮像条件として選択することにより、前記複数の検査対象位置(Bi)を順次撮像するための撮像条件の変更経路を決定する第2決定部(65)をさらに備える、外観検査システム(1)。
【0131】
(構成2)
前記撮像装置(10)は、前記対象物(W)に光を照射するための照明部(15)と、前記対象物からの反射光を撮像素子(13)上に結像するためのレンズ部(14)と、前記撮像素子(13)を制御して画像データを出力するカメラ制御部(12)とを含み、
前記撮像条件は、前記照明部(15)の照明条件、前記レンズ部(14)の光学条件および前記カメラ制御部(12)の制御条件のうちの少なくとも一つを含む、構成1に記載の外観検査システム(1)。
【0132】
(構成3)
前記第2決定部(65)は、前記複数の検査対象位置(Bi)の撮像順および前記複数の検査対象位置(Bi)について決定された撮像条件の少なくとも一方が互いに異なる複数の組合せパターンの各々について評価値を算出し、前記評価値に基づいて前記変更経路を決定する、構成1または2に記載の外観検査システム(1)。
【0133】
(構成4)
前記評価値は、撮像条件を逐次変更しつつ、前記複数の検査対象位置(Bi)の全ての撮像を完了するのに要する時間に依存する項を含む評価関数を用いて算出される、構成3に記載の外観検査システム(1)。
【0134】
(構成5)
前記対象物(W)に対して1つ以上の検査対象領域(75)を設定し、前記検査対象領域(75)に対応する検査要件を満たすように、前記検査対象領域(75)に対応する一つ以上の検査対象位置(Bi)を決定する第3決定部(63)をさらに備える、構成1から4のいずれかに記載の外観検査システム(1)。
【0135】
(構成6)
構成1から5のいずれかに記載の外観検査システム(1)において用いられ、前記変更経路を設定する設定装置(60)であって、前記第1決定部(64)と前記第2決定部(65)とを備える設定装置(60)。
【0136】
(構成7)
構成1から5のいずれかに記載の外観検査システム(1)において用いられ、前記対象物(W)の外観の良否を判定する画像処理装置(20)であって、
前記複数の検査対象位置(Bi)の各々について決定された撮像条件で撮像された画像を処理することにより、前記対象物(W)の外観の良否を判定する判定部(21)と、
前記判定部(21)の判定に基づいて、前記複数の検査対象位置(Bi)の各々の良否を示す第1判定結果、前記複数の検査対象位置(Bi)の少なくとも1つを含む検査対象領域(75)の良否を示す第2判定結果、および前記対象物(W)の良否を示す第3判定結果のうちの少なくとも1つを出力する出力部(22)とを備える、画像処理装置(20)。
【0137】
(構成8)
対象物(W)と撮像装置(10)との間の相対位置を異ならせつつ、前記対象物(W)を前記撮像装置(10)で撮像して外観検査を行なう外観検査システム(1)における設定方法であって、
前記対象物(W)上の複数の検査対象位置(Bi)の各々について、検査時の前記対象物(W)と前記撮像装置(10)との間の相対位置を含む1または複数の撮像条件候補を決定する第1ステップを備え、
前記第1ステップにおいて、前記複数の検査対象位置(Bi)のうちの少なくとも1つの検査対象位置(Bi)について複数の撮像条件候補が決定され、
予め定められた要件を満たすように、前記複数の検査対象位置(Bi)の各々について決定された前記複数の撮像条件候補のうちいずれか1つを撮像条件として選択することにより、前記1または複数の検査対象位置を順次撮像するための撮像条件の変更経路を決定する第2ステップをさらに備える、設定方法。
【0138】
(構成9)
対象物(W)と撮像装置(10)との間の相対位置を異ならせつつ、前記対象物(W)を前記撮像装置(10)で撮像して外観検査を行なう外観検査システム(1)をサポートするためのプログラムであって、
コンピュータに、
前記対象物(W)上の複数の検査対象位置の各々について、検査時の前記対象物(W)と前記撮像装置(10)との間の相対位置を含む1または複数の撮像条件候補を決定する第1ステップを実行させ、
前記第1ステップにおいて、前記複数の検査対象位置のうちの少なくとも1つの検査対象位置について複数の撮像条件候補が決定され、
さらに前記コンピュータに、
予め定められた要件を満たすように、前記複数の検査対象位置の各々について決定された前記複数の撮像条件候補のうちいずれか1つを撮像条件として選択することにより、前記1または複数の検査対象位置を順次撮像するための撮像条件の変更経路を決定する第2ステップを実行させる、プログラム。
【0139】
今回開示された各実施の形態は全ての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内での全ての変更が含まれることが意図される。また、実施の形態および各変形例において説明された発明は、可能な限り、単独でも、組合せても、実施することが意図される。
【符号の説明】
【0140】
1 外観検査システム、10 撮像装置、11 カメラ、12 カメラ制御部、13 撮像素子、14 レンズ部、15 照明部、16a~16f 照明要素、20,20a 画像処理装置、21 判定部、22 出力部、30 ロボット、31 基台、32 アーム、32a 先端アーム、40 ロボットコントローラ、50 PLC、60 設定装置、61 表示部、61a,61b,61c 画面、62 記憶部、63 対象位置決定部、64 撮像条件決定部、65 経路決定部、71,72,76,77 ツールボタン、74 丸印、75 検査対象領域、79 画像、81~84 平面、90 ステージ、91 回転テーブル、161 バス、163 メインメモリ、164 ハードディスク、165 設定プログラム、166 ディスプレイ、167 入力デバイス、168 通信I/F、A1~A3 変更経路、B,B1~B7,Bi,Bj 検査対象位置、Ci 相対位置候補群、FOV 撮像視野、FOV2i,FOV2 実効視野、W ワーク、W0 模式図。