(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-05-26
(45)【発行日】2025-06-03
(54)【発明の名称】画像処理装置及び画像処理方法
(51)【国際特許分類】
G01N 21/88 20060101AFI20250527BHJP
【FI】
G01N21/88 Z
(21)【出願番号】P 2021137790
(22)【出願日】2021-08-26
【審査請求日】2024-06-10
(73)【特許権者】
【識別番号】000003997
【氏名又は名称】日産自動車株式会社
(74)【代理人】
【識別番号】110000486
【氏名又は名称】弁理士法人とこしえ特許事務所
(72)【発明者】
【氏名】平山 満
(72)【発明者】
【氏名】遠藤 健一
【審査官】比嘉 翔一
(56)【参考文献】
【文献】特開2018-112470(JP,A)
【文献】特開平08-050011(JP,A)
【文献】特開平01-210807(JP,A)
【文献】国際公開第2019/003337(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G01N21/00-G01N21/958
G01B 9/00-G01B11/30
JSTPlus/JMEDPlus/JST7580(JDream3)
(57)【特許請求の範囲】
【請求項1】
塗装された被検査品に、照射方向に対して垂直な面内において明部と暗部とが交互に且つ周期的に現れる明暗模様を照射させるとともに、前記被検査品の表面において、前記明暗模様を周期的に変化させる照射部と、
所定時間間隔で、前記明暗模様が照射された前記被検査品の表面の画像を複数取得する取得部と、
複数の前記画像にて、前記被検査品の表面に形成された塗膜の不規則な模様から所定のパターンを抽出する抽出部と、
前記所定のパターンを用いて、複数の前記画像の位置合わせを行う位置合わせ部と、
前記位置合わせを行った複数の前記画像を重ね合わせて合成画像を生成する生成部と、を備える、画像処理装置。
【請求項2】
前記照射部は、前記明暗模様を、前記明部と前記暗部とが整列する方向に、一対の前記明部及び前記暗部の1周期以上移動させる
ことにより前記明暗模様を周期的に変化させる、請求項1に記載の画像処理装置。
【請求項3】
前記抽出部は、前記複数の画像の中で、前記明部が照射された部分で前記パターンを抽出する、請求項1又は2に記載の画像処理装置。
【請求項4】
前記位置合わせ部は、前記取得部にて3つ以上の画像が取得された場合に、
前記パターンの位置が合うように前記複数の画像を移動させるときの移動量を、複数の異なる経路で算出し、
算出された複数の移動量の中央値を用いて、前記複数の画像の位置合わせを行う、請求項1~3のいずれか一項に記載の画像処理装置。
【請求項5】
前記明暗模様は、縦縞模様又は横縞模様である、請求項1~4のいずれか一項に記載の画像処理装置。
【請求項6】
前記塗膜には、光輝材を含む層が含まれている、請求項1~5のいずれか一項に記載の画像処理装置。
【請求項7】
プロセッサを用いて処理を行う画像処理方法において、
前記プロセッサは、
塗装された被検査品に、照射方向に対して垂直な面内において明部と暗部とが交互に且つ周期的に現れる明暗模様を照射させるとともに、前記被検査品の表面において、前記明暗模様を周期的に変化させ、
所定時間間隔で、前記明暗模様が照射された前記被検査品の表面の画像を複数取得し、
複数の前記画像にて、前記被検査品の表面に形成された塗膜の不規則な模様から所定のパターンを抽出し、
前記所定のパターンを用いて、複数の前記画像の位置合わせを行い、
前記位置合わせを行った複数の前記画像を重ね合わせて合成画像を生成する、画像処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像の位置を合わせる画像処理装置及び画像処理方法に関するものである。
【背景技術】
【0002】
表面に周期的な模様やテクスチャを有する製品について、製品の画像と、良品サンプルの画像とを比較して塗装面の欠陥の検査をする場合に、検査する製品の画像を周波数変換した第1周波数特性と、良品サンプルの画像を周波数変換した第2周波数特性とを算出し、第1周波数特性と第2周波数特性との差異から、キズや異物に起因する明るさ変化の影響(ノイズ)を除去するための補正値を決定し、補正値で補正された第1周波数特性を逆変換することで、ノイズが除去された製品の画像を生成し、ノイズが除去された製品の画像と、良品サンプルの画像とを用いて、製品の画像と、良品サンプルの画像との位置合わせを行うことが知られている(特許文献1)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上記従来技術では、製品の表面に不規則(ランダム)な模様が付されている場合に、被検査品の画像から得られる周波数特性と、良品サンプルの画像から得られる周波数特性とが不規則になるため、二つの周波数特性の差異からノイズ除去の補正値を決定することができず、被検査品の画像の位置合わせが実行できないという問題がある。
【0005】
本発明が解決しようとする課題は、不規則な模様を有する塗装が施された製品の画像の位置合わせを実行することができる画像処理装置及び画像処理方法を提供することである。
【課題を解決するための手段】
【0006】
本発明は、塗装された被検査品に、照射方向に対して垂直な面内において明部と暗部とが交互に且つ周期的に現れる明暗模様を照射させるとともに、被検査品の表面において、明暗模様を周期的に変化させ、所定時間間隔で、明暗模様が照射された被検査品の表面の画像を複数取得し、複数の画像にて、被検査品の表面に形成された塗膜の不規則な模様から所定のパターンを抽出し、抽出した所定のパターンを用いて、複数の画像の位置合わせを行い、位置合わせを行った複数の画像を重ね合わせて合成画像を生成することによって上記課題を解決する。
【発明の効果】
【0007】
本発明によれば、不規則な模様を有する塗装が施された製品の画像の位置合わせを実行することができる。
【図面の簡単な説明】
【0008】
【
図1】本発明に係る画像処理システムの実施形態の一つを示す構成図である。
【
図2A】明暗模様の一例を示す、
図1の照射装置の正面図である。
【
図2B】明暗模様の別の例を示す、
図1の照射装置の正面図である。
【
図2C】明暗模様のまた別の例を示す、
図1の照射装置の正面図である。
【
図3】
図1の照射装置と、撮像装置と、被検査品との位置関係を示す、画像処理システムの側面図である。
【
図4】
図1の画像処理装置の構成を示すブロック図である。
【
図5】塗装面において発生する主たる欠陥を示す図である。
【
図6A】明暗模様の周期的に変化を示す、
図1の照射装置の正面図である(その1)。
【
図6B】明暗模様の周期的に変化を示す、
図1の照射装置の正面図である(その2)。
【
図6C】明暗模様の周期的に変化を示す、
図1の照射装置の正面図である(その3)。
【
図7】照射装置と撮像装置の移動経路の一例を示す、被検査品の正面図である。
【
図8】撮像装置により取得された画像データの一例を示す図である。
【
図9A】本実施形態のパターン抽出の一例を示す図である(その1)。
【
図9B】本実施形態のパターン抽出の一例を示す図である(その2)。
【
図9C】本実施形態のパターン抽出の一例を示す図である(その3)。
【
図10A】
図9Cにて抽出されたパターンを用いた位置合わせを示す図である(その1)。
【
図10B】
図9Cにて抽出されたパターンを用いた位置合わせを示す図である(その2)。
【
図11】画像の位置合わせの方法の一例を示す図である。
【
図12】画像の移動量の算出方法の一例を示す図である。
【
図13A】
図8に示す画像を、
図1の画像処理システムで合成した合成画像を示す図である。
【
図13B】
図8に示す画像を、本発明の比較例に係る画像処理システムで合成した合成画像を示す図である。
【
図14】
図1の画像処理システムにおける情報処理手順の一例を示すフローチャートである。
【発明を実施するための形態】
【0009】
以下、本発明に係る画像処理装置と画像処理方法の実施形態を図面に基づいて説明する。
【0010】
[画像処理システムの構成]
図1は、本発明の実施形態の一つである画像処理システム1を示すブロック図である。本実施形態の画像処理システム1は、被検査品の表面における欠陥を強調して検出するための装置である。被検査品は特に限定されず、たとえば、ボンネット、バンパー、フェンダー、ドア、ドアミラー、ルーフパネル、ウィンドウシールド、リヤガラス、フロントグリルなどの車両の部品、スマートフォン及びタブレット端末用のタッチパネル、冷蔵庫及び洗濯機などの家電の外装部品、化粧品の容器、及びレンズなどが挙げられる。
【0011】
また、被検査品の表面における欠陥とは、被検査品の表面に存在する傷や異物などのことを言う。傷の例としては、被検査品を移送する途中で、被検査品と他の物品とが接触して生成した引っ掻き傷が挙げられる。一方、異物の例としては、被検査品に貼付されたマスキングテープを剥がすときに被検査品の表面に残った、マスキングテープの粘着層が挙げられる。このような傷や異物により被検査品の外観が損なわれるため、被検査品を塗装する際の検査工程、及び被検査品の最終的な品質検査工程などにおいて画像処理システム1を用い、表面に欠陥が存在する被検査品を取り除くことが好ましい。
【0012】
図1に示すように、画像処理システム1は、照射装置11と、撮像装置12と、搬送装置13と、画像処理装置14とを備える。画像処理システム1を構成する装置は、有線又は無線LANなどの公知の手段により、互いにデータの授受が可能な状態で接続されている。
【0013】
照射装置11は、被検査品の表面における欠陥を強調するための明暗模様を被検査品に照射するための装置であり、たとえば、液晶ディスプレイ及び有機ELディスプレイなどのフラットパネルディスプレイである。ディスプレイの大きさは、たとえば15~25型(インチ)であり、画面のアスペクト比は特に限定されない。また、照射装置11は、必要に応じて、照射装置11の照射を制御するための制御装置11aを備える。
【0014】
本実施形態の明暗模様は、照射装置11の照射方向に対して垂直な面内において、明部と暗部とが交互に且つ周期的に現れるものである。本実施形態において、明部とは、明暗模様において暗部よりも明度の高い部分のことを言うものとし、暗部とは、明暗模様において明部よりも明度の低い部分のことを言うものとする。以下、
図2A~2Cを用いて、明暗模様の例を示す。
【0015】
図2A~2Cは照射装置11の正面図であり、照射装置11の画面11bに明暗模様が表示されている。
図2Aに示す明暗模様は、照射装置11の照射方向であるz軸方向に対して垂直なxy平面内において、x軸方向に延在する矩形の明部Lと、同じくx軸方向に延在する矩形の暗部Dとが一対(つまり1周期Cyc)となり、これが連続する横縞模様である。
図2Bに示す明暗模様は、照射装置11の照射方向であるz軸方向に対して垂直なxy平面内において、y軸方向に延在する矩形の明部Lと、同じくy軸方向に延在する矩形の暗部Dとが一対(つまり1周期Cyc)となり、これが連続する縦縞模様である。照射装置11により照射される明暗模様は、これらの縦縞模様及び横縞模様、並びに縦縞模様と横縞模様とを組み合わせた格子模様のいずれであってもよい。
【0016】
明部Lと暗部Dとの明度差は、被検査品の表面における欠陥を強調することができる範囲内で適宜の値を設定することができる。すなわち、必要な明度差が確保されていれば、必ずしも明部Lが白色であり、暗部Dが黒色である必要はなく、他の色でもよい。ここで、白色とは、たとえば明度が90~100である色であり、黒色とは、たとえば明度が0~10である色である。また、明部Lと暗部Dの形状は、被検査品の表面に明暗模様の周期が複数表れ、欠陥を十分に強調することができる範囲内で適宜の形状とすることができる。なお、被検査品の表面における明度差のばらつきを減らして欠陥の検出精度を高めるため、明部Lと暗部Dとは同じ形状であることが好ましい。
【0017】
他の明暗模様としては、たとえば
図2Cに示す縞状の模様が挙げられる。
図2Cは、照射装置11の照射方向であるz軸方向に対して垂直なxy平面内において、x軸に対して反時計回りの方向に約45°傾いた方向に延在する矩形の明部Lと、同じくx軸に対して反時計回りの方向に約45°傾いた方向に延在する矩形の暗部Dとが一対(つまり1周期Cyc)となり、これが連続する縞状の模様である。このほか、
図2Bに示す縦縞状の明暗模様において、明部L及び暗部Dの形状を長方形形状からジグザグ形状に変更した模様、
図2A及び
図2Bに示す明暗模様において、明部L及び暗部Dの形状を長方形形状から波形形状に変更した模様などを用いることができる。
【0018】
図1に戻り、撮像装置12は、照射装置11により明暗模様が照射された被検査品の表面の画像データを取得するための装置であり、たとえば、CCDなどの撮像素子を備えるカメラである。カメラの画素数は、たとえば200~500万画素であり、視野は、たとえば60×60~200×200mmであり、焦点距離は、たとえば10~30mmである。また、撮像装置12により撮影される画像は、フルカラーであってもよく、モノクロであってもよい。また、撮像装置12が画像データを取得する頻度は、画像処理システム1における欠陥の検出速度に応じて適宜の値を設定することができ、たとえば0.01~0.1秒毎に1つの画像を撮影する。なお、
図1に示す画像処理システム1は一台の撮像装置12を備えるが、撮像装置12は複数台であってもよい。取得された画像データは、所定の時間間隔で画像処理装置14により取得される。
【0019】
搬送装置13は、照射装置11及び撮像装置12を被検査品に対して所定の姿勢となるように搬送するための装置である。搬送装置13は、たとえば、
図1に示すようなロボットアームであるが、必ずしも把持する部分を備える必要はなく、照射装置11の裏側に取付けらたり、照射装置11と一体となっていたりしてもよい。搬送装置13は、撮像装置12により被検査品の表面全体について画像データを取得できるように、アームの可動部を動作させて照射装置11と撮像装置12とを移動させる。このとき、撮像装置12と被検査品との間の距離が、撮像装置12の焦点距離の範囲内となるように制御される。また、搬送装置13は、必要に応じて、照射装置11及び撮像装置12の搬送を制御するための制御装置13aを備える。
【0020】
なお、本実施形態では、搬送装置13は照射装置11及び撮像装置12を搬送するが、被検査品が、たとえば車両のエンブレムのように比較的小さく、照射装置11及び撮像装置12と比較して移動が容易である場合には、搬送装置13は被検査品を搬送してもよい。この場合、搬送装置13は、たとえば、被検査品を固定する装置を備えた台であり、レール又は無限軌道を用いて台を移動するように構成される。
【0021】
次に、照射装置11と、撮像装置12と、被検査品との位置関係を説明する。
図3は、照射装置11と、撮像装置12と、搬送装置13の一部とを示す、画像処理システム1の側面図である。
図3に示す画像処理システム1では、撮像装置12がブラケットBを介して照射装置11に取付けられている。また、照射装置11の裏側には搬送装置13が取付けられ、照射装置11と撮像装置12とを移動させることができるようになっている。
【0022】
画像処理システム1では、
図3に示すように、照射装置11から被検査品Pに向けて明暗模様が照射される。撮像装置12は、被検査品Pの表面Sにて反射した光を検出し、被検査品Pの表面Sにおける明暗模様の画像データを取得する。欠陥がある部分と、欠陥がない部分とでは、反射する光の量が異なるため、取得された画像データにおける反射量の違いから欠陥を検出することができる。画像処理システム1では、反射量の違いを正確に算出するために、撮像装置12の取り付け位置を、照射装置11から照射された明暗模様の反射光が所定角度で入射する位置にする。たとえば、
図3に示すように、照射装置11から照射された明暗模様が被検査品Pの表面Sに入射する入射角θaと、被検査品Pの表面Sから撮像装置12に向けて反射する反射光の反射角θbとが同じ角度になる位置に、撮像装置12を取り付ける。
図3に示す取り付け位置であれば、撮像装置12は、照射装置11から照射された明暗模様のうち、被検査品Pの表面Sにて正反射したものを主として検出することができる。
【0023】
図1に戻り、画像処理装置14は、画像処理システム1に含まれる装置を協働させ、制御するための装置であり、たとえばコンピュータである。画像処理装置14は、被検査品に明暗模様を照射させる機能と、明暗模様を周期的に変化させる機能と、所定時間間隔で被検査品の表面の画像を取得する機能と、取得した画像にて塗膜の不規則な模様から所定のパターンを抽出する機能と、抽出した所定のパターンを用いて画像の位置合わせを行う機能と、位置合わせを行った複数の画像を重ね合わせて合成画像を生成する機能とを有する。
【0024】
これらの機能を実現するために、画像処理装置14は、
図4に示すように、プロセッサであるCPU(Central Processing Unit)141と、プログラムが格納されたROM(Read Only Memory)142と、アクセス可能な記憶装置として機能するRAM(Random Access Memory)143とを備える。CPU141は、ROM142に格納されたプログラムを実行することで、画像処理装置14として機能するための動作回路である。なお、画像処理装置14は、照射装置11、撮像装置12及び搬送装置13と共に設けられている必要はなく、これらの機器から離れた遠隔地のサーバーに設けられていてもよい。
【0025】
[処理部の機能]
画像処理装置14で用いるプログラムは、上述した画像処理装置14の機能を実現するための機能ブロックである処理部2を含む。処理部2は、照射装置11と、撮像装置12と、搬送装置13とを制御して画像データを取得し、取得した画像データを処理して欠陥を検出する機能を有する。
図4に示すように、処理部2は、照射部21と、取得部22と、抽出部23と、位置合わせ部24と、生成部25とを備える。
図4には、各部を便宜的に抽出して示す。
【0026】
処理部2の機能により検出される欠陥は、主として、塗装された被検査品の表面における塗装の欠陥である。被検査品Pに施される塗装の色は特に限定されないが、塗装には光輝材を含む層が含まれる。光輝材とは、金属光沢のような光沢を塗装に付与し、塗装を光輝性の仕上げにするための素材であり、たとえば、アルミ及び銅合金などの金属の粒子若しくは鱗片、シリカなどの鉱物の微細粒子が挙げられる。粒子の平均粒径は、たとえば0.1~30μmであり、鱗片であれば、厚みはたとえば0.01~1μmである。鱗片の厚みが0.01μm未満では下地が透過して見え、1μmを超えると鱗片が平滑に配向せず、表面に粒子が浮き上がって見える。また、平均粒径が0.1未満では光輝感が減少し、30μmを超えると光輝感が増大しすぎ、色の濃淡差が減少してしまう。
【0027】
塗装の欠陥の具体例を
図5に示す。
図5は、自動車のボディの上塗り塗装において発生する主たる塗装の欠陥を示す図である。自動車のボディの上塗り塗装において発生する主たる欠陥は、塗膜の表面に凹凸のある欠陥と、塗膜の表面に凹凸のない欠陥とに分類することができる。塗膜の表面に凹凸のある欠陥としては、たとえば、「ごみぶつ(ブツ)」と呼ばれる欠陥と、「ピンホール」と呼ばれる欠陥と、「ハジキ」と呼ばれる欠陥とが挙げられ、塗膜の表面に凹凸のない欠陥としては、たとえば、「シンナー染み」と呼ばれる欠陥と、「水染み」と呼ばれる欠陥とが挙げられる。
【0028】
「ごみぶつ(ブツ)」とは、上塗り塗料を塗装する前にボディに付着したゴミ、又は上塗り塗料を塗装している間にボディに付着したゴミが未乾燥の塗膜に残り、凸状に現れる欠陥である。たとえば、
図5の断面図に示すように、被検査品Pの表面SにゴミZ1が付着すると、ゴミZ1が付着した周囲の部分の塗装面が凸状に盛り上がり、「ごみぶつ(ブツ)」の欠陥となる。「ピンホール」とは、塗膜の底面側に残った上塗り塗料の溶剤が半硬化した塗膜を突き抜けて蒸発することで小さな孔として現れる欠陥である。たとえば、
図5の断面図に示すように、溶剤が半硬化した塗膜を突き抜けて蒸発すると、小さな孔Z2が生成して「ピンホール」となる。「ハジキ」とは、撥油性又は撥水性の物質が未乾燥の塗膜に飛散し、クレータ状に現れる欠陥である。たとえば、
図5の断面図に示すように、被検査品Pの表面に溶剤が飛散すると、クレータ状の凹部Z3が生成して「ハジキ」となる。各欠陥の画像の例を
図5に示す。破線で囲んだ部分X1~X3が、各欠陥が発生した部分である。
【0029】
「シンナー染み」とは、上塗り塗料を塗装する時に未乾燥の塗膜の内部にシンナー(上塗り塗料の溶剤など)が局部的に残留し、染みとなって現れる欠陥であり、「水染み」とは、上塗り塗料を塗装する時に未乾燥の塗膜の内部に水が局部的に残留し、染みとなって現れる欠陥である。「シンナー染み」と「水染み」は、たとえば、
図5の平面図に示すような円形で表れる。実際にこれらの欠陥が発生した部分の表面Sの画像を、
図5のX4及びX5として示す。このほか、アルミフレークと呼ばれる微細なアルミ粒子などが混合されたメタリック系上塗り塗料において、光輝性顔料が局部的に集中し、光輝性顔料の配向が不均一となる「メタル斑」、傷などが原因で塗膜が削られてボディの金属面が露出する「貫通欠陥」なども塗膜の表面に凹凸のない欠陥として挙げられる。
【0030】
図5に示すような欠陥は、光の当たり具合で見える場合と見えない場合とがあり、白い照明の元では見えなくなるものもある。そのため、画像処理システム1のような装置を用いて検出する場合には、欠陥が検出できるような照明の方法を予め設定する必要があるが、当該設定にはかなりの試行錯誤を要する。また、車両のように、被検査品Pの表面Sに凹凸が存在する場合には、検出した欠陥が、凹凸形状によるものか否かを判定するのが難しい。
【0031】
これらの課題に対応するため、画像処理システム1のような装置では、明度差により欠陥を強調する明暗模様を照射し、撮像装置12により明暗模様の画像を複数取得し、取得された複数の画像データを重ね合わせて欠陥を検出する。この場合に、
図3に示すように、搬送装置13にて照射装置11と撮像装置12とを断続的に移動させながら撮影すると、撮像装置12の撮影中は静止すべき搬送装置13が完全には静止せず、取得した画像の位置がずれることがある。位置がずれたままの画像を重ね合わせて合成すると、得られる合成画像がぼやけてしまい、正確に欠陥を検出することができない。この際、被検査品Pに位置合わせ用のしるしを付け、画像の位置を合わせることが考えられるが、外装部品の場合にはマーキングができない。
【0032】
そこで、本実施形態の処理部2では、被検査品Pの表面Sに形成された塗膜の不規則な模様から所定のパターンを抽出し、抽出したパターンを用いて位置合わせを行うことで、製品表面に位置合わせ用のマーキングを施すことなく、複数の画像の位置合わせを行う。以下、
図4に示す、画像処理装置14の各機能ブロックが果たす機能について説明する。
【0033】
照射部21は、塗装された被検査品Pに、照射装置11にて明暗模様を照射させるとともに、被検査品Pの表面Sにおいて、明暗模様を周期的に変化させる機能を有する。明暗模様を周期的に変化させるとは、被検査品Pの表面Sのある地点にて、照射装置11にて照射される明暗模様が、明部Lから暗部Dを経て再び明部Lとなる、又は暗部Dから明部Lを経て再び暗部Dとなるように変化させることをいう。つまり、被検査品Pの表面Sのある地点に、一対の明部Lと暗部Dとからなる1周期の模様を、少なくとも1周期分照射させる。好ましくは、照射部21は、明暗模様を2周期分以上照射させる。明暗模様の画像を複数周期分取得することで、明部Lと暗部Dとの境界部分がシャープに現れ、欠陥の検出精度が向上するからである。
【0034】
明暗模様の周期的に変化の具体例を、照射装置11の正面図である
図6A~6Cを用いて説明する。
図6Aでは、照射装置11の画面11bに、照射装置11の照射方向であるz軸方向に対して垂直なxy平面内において、x軸方向に延在する矩形の明部と、同じくx軸方向に延在する矩形の暗部とが一対(つまり1周期Cyc)となっている横縞模様が照射されている。ここで、
図6Aに示す明暗模様の明部と暗部とを、y軸の負方向に移動させるものとする。
図6Aの点Aに注目すると、
図6Aの状態では、点Aには明部L1が照射されている。明部と暗部とをy軸の負方向に移動させ、
図6Bの状態になると、点Aには暗部D1が照射されている。明部と暗部とをさらにy軸の負方向に移動させ、
図6Cの状態になると、点Aには明部L2が照射されている。この段階で、点Aについては、明部L1と暗部D1とからなる1周期の明暗模様が照射されたことになる。
【0035】
このように、照射部21は、明暗模様を、明部Lと暗部Dとが整列する方向に、一対の明部L及び暗部Dの1周期以上移動させる。明部Lと暗部Dとが整列する方向とは、
図2A及び6Aの明暗模様であればy軸方向であり、
図2B及び2Dの明暗模様であればx軸方向である。また、
図2Cの明暗模様は、x軸に対して約45°傾いたものであるため、明暗模様を移動させる際の軸は、x軸に対して約135°傾いた方向である。なお、明暗模様を移動させる方向は、軸の正方向と負方向のいずれでもよく、必ずしも一方向に移動させる必要はない。つまり、軸の正方向に明暗模様を移動させた後に、負方向に明暗模様を移動させてもよい。
【0036】
明暗模様を移動させる速度は、撮像装置12が画像データを取得することができる頻度に応じて適宜の値を設定することができる。一例として、撮像装置12が0.01~0.1秒毎に1つの画像を撮影することができる場合に、1周期でたとえば10枚の画像を撮影するのであれば、明暗模様を移動させる速度は、0.1~1.0秒で明暗模様が1周期移動する速度に設定する。つまり、撮像装置12の撮影頻度が決まっている場合は、1周期で撮影する画像の枚数が多いほど、明暗模様を移動させる速度を遅く設定し、1周期で撮影する画像の枚数が少ないほど、明暗模様を移動させる速度を早く設定する。このような設定は、照射部21の機能により、たとえば画像処理装置14と制御装置11aを用いて行われる。照射装置11から照射される明暗模様とは、つまりディスプレイに表示される明暗模様の映像であるので、画像処理装置14のプロセッサであるCPU141が制御装置11aに指示を出力し、制御装置11aが明暗模様の映像の再生を制御する。具体的には、制御装置11aにより、再生する映像の速さを調整したり、映像を再生又は逆再生したりする。
【0037】
図4に戻り、取得部22は、所定時間間隔で、明暗模様が照射された被検査品Pの表面Sの画像を、撮像装置12により取得する機能を有する。所定時間間隔は、撮像装置12が画像データを取得することができる頻度に応じて適宜の値を設定する。たとえば、撮像装置12が0.01~0.1秒毎に1つの画像を撮影することができる場合には、0.01~0.1秒を所定時間間隔に設定する。また、被検査品Pの表面Sの画像を取得する際には、被検査品Pの表面Sの全体について画像が取得できるように、取得部22の機能により搬送装置13を動作させ、照射装置11と撮像装置12とを移動させる。
【0038】
搬送装置13による照射装置11と撮像装置12との搬送について、被検査品Pの正面図である
図7を用いて説明する。
図7には、照射装置11と、ブラケットBで照射装置11に固定された撮像装置12と、被検査品Pの表面Sとが示されており、照射装置11には図示しない搬送装置13が取り付けられている。照射装置11と撮像装置12とは、初期状態において
図7右上の点Y1の位置にあり、表面Sの範囲R1を撮影しているものとする。この場合に、被検査品Pの表面Sの全体を撮影するには、搬送装置13を用いて、照射装置11と撮像装置12をたとえば経路Tに沿って移動させる。具体的には、表面Sの範囲R1の撮影が完了すると、点Y1から点Y2に移動し、表面Sの範囲R2を撮影する。次に、表面Sの範囲R2の撮影が完了すると、点Y2から点Y3に移動し、表面Sの範囲R3を撮影する。同じように、経路Tに沿って、点Y3→点Y4→点Y5→点Y6→点Y7→点Y8と、照射装置11と撮像装置12を移動させて、範囲R3→範囲R4→範囲R5→範囲R6→範囲R7→範囲R8の画像を順次取得する。これにより、被検査品Pの表面Sの全体について、撮像装置12により画像データを取得することができる。
【0039】
経路Tは、撮像装置12により画像データを取得できる範囲の大きさ、つまり範囲R1~R8の大きさにより変化する。たとえば、撮像装置12が範囲R1とR2の範囲を撮影できる場合には、経路Tは、被検査品Pの表面Sを図面の上下方向のみに移動する経路になる。このような搬送装置13による搬送は、たとえば画像処理装置14と制御装置13aを用いて行われる。画像処理装置14のプロセッサであるCPU141が制御装置13aに指示を出力し、制御装置13aが搬送装置13の可動部の動作を制御する。制御装置13aによる搬送装置13の可動部の制御には、たとえばティーチングを用いる。例として、経路Tに沿って照射装置11と撮像装置12を移動させる場合は、ティーチペンダントを用いて、経路Tに沿った移動における可動部の動作を制御装置13aに記憶させ、記憶した動きを再現させる。
【0040】
取得部22の機能により撮像装置12にて取得された画像データの例を
図8に示す。
図8に示す画像データは、光輝系の白色塗装が施されたルーフパネルを撮影したものである。照射装置11としては、フラットパネルディスプレイを用い、明暗模様は
図2Bに示すような縦縞模様であり、1周期あたり約0.1~0.5秒で変化させた。撮像装置12としては、400万画素(2048×2048)のモノクロCCDカメラを用いた。カメラの視野は200mm×200mmであるが、
図8に示す画像は、撮影した画像データから、破線の黒丸で示したごみぶつ(ブツ)の周囲の部分を切り出したものである。
図8に示す「1/10」~「10/10」の10枚の画像は、明暗模様が1周期変化する間に撮影された10枚の画像データであり、破線の黒丸で示したごみぶつ(ブツ)の部分に注目すると、照射される明暗模様が暗部D(「1/10」~「2/10」)→明部L(「3/10」~「7/10」)→暗部D(「8/10」~「10/10」)と1周期分変化していることがわかる。このように、取得部22の機能により、所定時間間隔で、明暗模様が照射された被検査品Pの表面Sのある地点について、少なくとも明暗模様の1周期分、複数の画像を取得する。
【0041】
図4に戻り、抽出部23は、取得部22の機能により取得された複数の画像にて、被検査品Pの表面Sに形成された塗膜の不規則な模様から所定のパターンを抽出する機能を有する。塗膜の不規則な模様とは、たとえば、塗装に含まれた光輝材による模様である。光輝材とは、金属の粒子若しくは鱗片、シリカなどの鉱物の微細粒子などであり、これらの粒子及び鱗片は、塗装の塗膜の中で基材に沿って配向している。この基材に沿って配向した光輝材を被検査品Pの表面Sから見ると、不規則に配置された粒子及び鱗片による模様が見て取れる。抽出部23は、特に、明暗模様の明部Lが照射された部分で、不規則な模様からパターンを抽出する。明暗模様の暗部Dでは、不規則な模様がうまく検出できず、パターン抽出ができない場合があるためである。
【0042】
所定のパターンを抽出する際には、取得された画像においてエッジ抽出の処理を行う。具体的には、抽出部23の機能により、画像処理装置14に格納された画像処理用ソフトウェアを用いて、微分フィルタ、プリューウィット(Prewitt)フィルタ、ソーベル(Sobel)フィルタ、2次微分フィルタ、ラプラシアンフィルタ、LoG(Laplacian of Gaussian)フィルタ、DoG(Difference of Gaussian)フィルタなどのフィルタを用いて、画像中で明るさが急に変化するエッジ部分を抽出する。エッジ抽出処理におけるフィルタの設定は、位置合わせに用いるパターンとしてのエッジが適切に抽出される範囲内で、適宜の設定とすることができる。
【0043】
パターン抽出の具体例を、
図9A~9Cを用いて説明する。
図9Aは、
図8の「1/10」の画像の一部を拡大して切り出したものである。まず、抽出部23の機能により、画像処理装置14を用いて、
図9Aに示す画像にて画像の明度を検出し、明部Lが照射されていると判断される部分を抽出する。抽出された部分を
図9Bに示す。次に、
図9Bに示す部分において、たとえば微分フィルタを用いてエッジを抽出する処理を行う。抽出されたエッジを
図9Cに示す。
図9Cにて細かな線で示される部分が、抽出されたエッジであり、位置合わせに用いるパターンである。このように、抽出部23は、取得部22の機能により取得された画像の一部(たとえば中心部分)を用いたパターン抽出を、複数の画像について行う。
【0044】
図4に戻り、位置合わせ部24は、抽出部23にて抽出された所定のパターンを用いて、複数の画像の位置合わせを行う機能を有する。複数の画像の位置合わせには、抽出したパターンを用いたマッチング処理を行う。位置合わせの一例として、
図9Cに示すパターン(抽出されたエッジ)を用いたものを
図10A~10Bに示す。
図10Aに示す画像は、
図8の「2/10」の画像の一部を拡大して切り出したものである。
図10Aに示す画像において、
図9B~9Cと同様に、明部Lが照射されていると判断される部分を抽出と、微分フィルタを用いてエッジ抽出処理を行うと、
図10Bに示すパターン(抽出されたエッジ)が得られる。
図9Aの画像と
図10Aの画像とは、明部Lと暗部Dの位置がわずかに移動している以外は同じであるため、
図10Bに示すパターンは、
図9Cに示すものと同じものか、非常に似ているものになる。
【0045】
次に、位置合わせ部24は、
図9C示すパターンを用いて、
図10Bに示す画像でパターンマッチングの処理を行う。パターンマッチングにより、
図9C示すパターンと、
図10Bに示すパターンが適合するものであることがわかり、あわせて、
図9C示すパターンの位置と、
図10Bに示すパターンの位置との差異(ずれ量)を算出することができる。この位置の差異(ずれ量)を図面の移動量とも言う。当該移動量(ずれ量)が発生する要因としては、エンブレムのような小さな被検査品Pを移動させながら、撮像装置12にて画像を撮影した場合のほか、撮像装置12にて画像を撮影している間に、静止している搬送装置13に他の物体が触れた場合などが考えられる。そして、位置合わせ部24は、
図10Aの画像を、算出した移動量分だけずらして、
図9Aの画像と重ね合わせる。このとき、位置合わせの基準である、
図9C示すパターンと
図10Bに示すパターンとは、重なり合っている。
【0046】
位置合わせを行う画像の組み合わせは、撮像装置12にて画像を撮影する頻度、照射装置11にて明暗模様を変化させる速度などを考慮し、パターンマッチングを用いて適切に画像の位置合わせが行える範囲内で、適宜の組み合わせとすることができるが、
図9C及び10Bに示すように、明暗模様の明部Lが照射された部分で不規則な模様からパターンを抽出する場合には、位置合わせを行う複数の画像が、近いタイミングで撮影されていることが好ましい。近いタイミングで撮影された画像であれば、パターン抽出を行う、明部Lが照射された部分の位置が大きく変化しないため、マッチングが行いやすいからである。
【0047】
たとえば、
図11に示すように、明暗模様をx軸の負方向に1周期移動させる間に5枚の時系列の画像を取得した場合には、1枚目~5枚目の各画像で所定のパターンを抽出する。
図11の場合は、N1~N4のパターンが抽出されたものとする。次に、1枚目の画像のパターンN1と、2枚目の画像のパターンN1とを重ね合わせて、1枚目の画像と2枚目の画像とのずれ量を算出する。ずれ量は、たとえばx軸方向とy軸歩行とで算出される。そして、算出されたずれ量(移動量)を用いて、1枚目の画像と2枚目の画像との位置合わせを行う。同様に、パターンN2を用いて、2枚目の画像と3枚目の画像との位置合わせを行い、パターンN3を用いて、3枚目の画像と4枚目の画像との位置合わせを行い、パターンN4を用いて、4枚目の画像と5枚目の画像との位置合わせを行う。全ての画像について位置合わせが完了するまで、位置合わせは繰り返し行われる。そして、1枚目~5枚目の全ての画像について位置合わせが完了すると、後述する生成部25の機能により合成され、欠陥Xが強調された合成画像が生成される。
【0048】
このように、時系列で取得された画像に対して、n番目(nは自然数)に取得された画像と、n+1番目に取得された画像とで位置合わせを行う。又はこれに代えて、時系列で取得された画像に対して、n番目(nは自然数)に取得された画像と、n+2番目に取得された画像とで位置合わせを行ってもよいし、n番目(nは自然数)に取得された画像と、n+1番目に取得された画像と、n+2番目に取得された画像とで位置合わせを行ってもよい。また、たとえば、組立て工場の組立てラインで、塗装された部品をベルトコンベヤーで搬送しながら欠陥を検出する場合など、被検査品Pを移動させながら画像を撮影した場合に、取得部22にて3つ以上の画像が取得されたときは、抽出されたパターンの位置が合うように画像を移動させる移動量を、複数の異なる経路で算出し、算出された複数の移動量の中央値を用いて、複数の画像の位置合わせを行ってもよい。例として、4枚の画像が取得された場合の移動量の算出方法を
図12に示す。
【0049】
図12では、時系列の4枚の画像が取得されており、位置合わせ部24の機能により、各画像間でパターンマッチングによる移動量の算出が行われているものとする。算出された移動量は、1枚目の画像と2枚目の画像との間がM
12、1枚目の画像と3枚目の画像との間がM
13、1枚目の画像と4枚目の画像との間がM
14、2枚目の画像と3枚目の画像との間がM
23、2枚目の画像と4枚目の画像との間がM
24、3枚目の画像と4枚目の画像との間がM
34であった。ここで、1枚目の画像と2枚目の画像との間の移動量は、パターンマッチングによって直接算出されたM
12以外に、M
13とM
23との差分、及びM
14とM
24との差分として、3通りの異なる経路で算出できる。これらM
12、M
13とM
23との差分、及びM
14とM
24との差分は同じ値になるが、いずれかのパターンマッチングが適切に行われていない場合は、3つの値が同じ値にならないことがある。この場合に、本実施形態では、算出された複数の移動量の中央値を用いて位置合わせを行う。M
12と、M
13とM
23との差分と、M
14とM
24との差分との場合は、2番目に高い値を用いることになる。
【0050】
平均値ではなく中央値を用いるのは、適切に算出されなかった移動量を考慮することで、画像の位置合わせの精度が下がるからである。中央値とすることで、適切に算出されなかった移動量を除いて位置合わせを行うことができる。また、このように位置合わせの移動量を複数の経路で重畳的に算出することで、一部のパターンマッチングにおいてエラーが発生した場合でも、全ての画像を適切に重ね合わせることができる。
【0051】
また、1枚目の画像と2枚目の画像との間の移動量だけでなく、2枚目の画像と3枚目の画像との間の移動量、及び3枚目の画像と4枚目の画像との間の移動量についても重畳的に算出することができる。2枚目の画像と3枚目の画像との間の移動量であれば、M23と、M13とM12との差分と、M24とM34との差分とを比較し、3枚目の画像と4枚目の画像との間の移動量であれば、M34と、M14とM13との差分と、M24とM24との差分とを比較する。
【0052】
図4に戻り、生成部25は、位置合わせ部24の機能により位置合わせを行った複数の画像を重ね合わせて合成画像を生成する機能を有する。合成画像とは、複数の画像データのデータを画素ごとに重ね合わせた、欠陥部分を強調して表示した画像である。このような合成画像を取得する方法としては、たとえば、各画像を処理して、画素ごとに最大の明度をとった「最大明度画像」と、画素ごとに最大の明度をとった「最小明度画像」を生成し、「最大明度画像」と「最小明度画像」との差分から「差分画像」を生成することで、欠陥を強調した合成画像を生成する方法が挙げられる。
【0053】
ごみぶつ(ブツ)やピンホールのような欠陥が発生した部分では、照射された明暗模様が乱反射するため、正反射した反射光が検出されない。そのため、モノクロカメラで撮影すると、明部Lが照射された場合は他の部分よりも明度が低くなり、暗部Dが照射された場合は他の部分よりも明度が高くなる。そのため、欠陥が発生した部分では、最大明度と最小明度との差が小さくなり、「差分画像」では明度が低い部分として黒く表示される。これに対して、欠陥が発生していない部分では乱反射が発生しないため、「差分画像」における明度差は明部Lと暗部Dとの明度差と同じ値となり、「差分画像」では明度が高い部分として白く表示される。「差分画像」から欠陥を検出する場合には、「差分画像」を走査して黒く表示部分を検出することで、欠陥が発生している部分を特定することができる。
【0054】
当該方法にて、
図8に示す10枚の画像を合成して生成した合成画像を
図13Aに示す。
図13Aに示す合成画像では、全体として境界部分が明確であり、特に、
図13Aの中心部分に破線の黒丸で示す部分に、黒く表示されたごみぶつ(ブツ)がくっきりと浮かび上がっている。処理部2は、画像処理装置14を用いて、生成部25により生成された合成画像の明度を計測し、黒く表示された部分を表面の欠陥として検出する。これに対して、本発明の比較例に係る画像処理システムにより、
図8に示す10枚の画像を合成して生成した合成画像を
図13Bに示す。
図13Bに示す合成画像では、全体として境界部分が不明確であり、特に、
図13Bの中心部分に破線の黒丸で示すごみぶつ(ブツ)がはっきりと浮かび上がっていない。当該画像では、画像処理装置14を用いた表面欠陥の検出に用いることはできない。
【0055】
ここまで機能ブロックの機能について説明してきた。なお、
図4に示す画像処理装置14は上記の機能ブロックを全て備えるが、単一の画像処理装置14が全ての機能ブロックを備える必要はなく、上記の機能ブロックのうち一部のものを、画像処理システム1に含まれる他の機器、又は図示しない別の情報処理装置に設けてもよい。たとえば、
図4に示す照射部21を、
図1に示す照射装置11に設けてもよい。この場合には、照射装置11のCPU、ROM、及びRAMを用いて照射部21の機能が実行されることになる。
【0056】
また、各機能ブロックの処理の全てを単一の装置にて実行する必要はなく、データが授受できる状態で接続された複数の装置をまたいで、各機能ブロックの機能を実現してもよい。たとえば、処理部2にて実行される処理のうち、一部の処理を
図1の撮像装置12にて実行し、残りの処理を画像処理装置14にて実行するようにしてもよい。この場合には、撮像装置12のCPU、ROM、及びRAMを用いて、処理部2の機能を実現するための処理の一部が行われることになる。
【0057】
[画像処理システムにおける処理]
図14を参照して、画像処理装置14が情報を処理する際の手順を説明する。
図14は、本実施形態の画像処理システム1における情報の処理を示すフローチャートの一例である。以下に説明する処理は、画像処理システム1のユーザーが、画像処理装置14に被検査品Pの表面Sの欠陥を検出する指示を入力した場合に、画像処理装置14において実行される。
【0058】
まず、ステップS1にて、取得部22の機能により、搬送装置13の動きを設定する。この際、たとえば画像処理装置14及びティーチペンダントを用いて、経路Tに沿った移動を制御装置13aに記憶させる。続くステップS2にて、照射部21の機能により、明暗模様を被検査品Pの表面Sに照射する。続くステップS3にて、取得部22の機能により、撮像装置12を用いて、被検査品Pの表面Sにおける明暗模様の画像を複数撮影し、時系列の画像データを取得する。続くステップS4にて、抽出部23の機能により、取得した各画像にてパターン抽出を行う。そして、ステップS5にて、各画像にて適切なパターン抽出できたか否かを判定する。適切なパターン抽出ができなかった場合には、ステップS3に戻り、再度画像を取得する。これに対して、適切なパターン抽出ができた場合には、ステップS6に進む。
【0059】
ステップS6にて、位置合わせ部24の機能により、時系列で取得された画像に対して、n番目(nは自然数)に取得された画像と、n+1番目に取得された画像との移動量を算出し、続くステップS7にて、算出された移動量だけ画像をずらして重ね合わせる。ステップS8にて、全ての画像の位置合わせを完了したか否かを判定する。全ての画像の位置合わせを完了していない場合には、ステップS5に戻り、位置合わせを繰り返す。これに対して、全ての画像の位置合わせを完了した場合は、ステップS9に進む。
【0060】
ステップS9にて、生成部25の機能により、位置合わせを行った複数の画像を合成し、合成画像を生成する。続くステップS10にて、欠陥を検出できる合成画像が生成できたか否かを判定する。欠陥を検出できるような合成画像が生成できなかった場合は、画像処理装置14の表示部分に検出結果を表示する。その後、ルーチンの実行を停止し、処理を終了する。これに対して、欠陥を検出できる合成画像が生成できた場合は、ステップS11に進む。ステップS11にて、処理部2の機能により、合成画像の明度差からから欠陥部分を検出し、ステップS12にて、画像処理装置14の表示部分に検出結果を表示する。その後、ルーチンの実行を停止し、処理を終了する。
【0061】
[本発明の実施態様]
以上のとおり、本実施形態によれば、塗装された被検査品Pに、照射方向に対して垂直な面内において明部Lと暗部Dとが交互に且つ周期的に現れる明暗模様を照射させるとともに、前記被検査品Pの表面Sにおいて、前記明暗模様を周期的に変化させる照射部21と、所定時間間隔で、前記明暗模様が照射された前記被検査品Pの表面Sの画像を複数取得する取得部22と、複数の前記画像にて、前記被検査品Pの表面Sに形成された塗膜の不規則な模様から所定のパターンを抽出する抽出部23と、前記所定のパターンを用いて、複数の前記画像の位置合わせを行う位置合わせ部24と、前記位置合わせを行った複数の前記画像を重ね合わせて合成画像を生成する生成部25と、を備える、画像処理装置14が提供される。これにより、不規則な模様を有する塗装が施された製品の画像の位置合わせを実行することができる。
【0062】
また、本実施形態の画像処理装置14によれば、前記照射部21は、前記明暗模様を、前記明部Lと前記暗部Dとが整列する方向に、一対の前記明部L及び前記暗部Dの1周期以上移動させる。これにより、より正確な位置合わせを実行することができる。
【0063】
また、本実施形態の画像処理装置14によれば、前記抽出部23は、前記複数の画像の中で、前記明部Lが照射された部分で前記パターンを抽出する。これにより、確実にパターン抽出を行うことができる。
【0064】
また、本実施形態の画像処理装置14によれば、前記位置合わせ部24は、前記取得部22にて3つ以上の画像が取得された場合に、前記パターンの位置が合うように前記複数の画像を移動させるときの移動量を、複数の異なる経路で算出し、算出された複数の移動量の中央値を用いて、前記複数の画像の位置合わせを行う。これにより、一部のパターンマッチングにおいてエラーが発生した場合でも、全ての画像を適切に重ね合わせることができる。
【0065】
また、本実施形態の画像処理装置14によれば、前記明暗模様は、縦縞模様又は横縞模様である。これにより、欠陥をより強調することができる。
【0066】
また、本実施形態の画像処理装置14によれば、前記塗膜には、光輝材を含む層が含まれている。これにより、確実にパターン抽出を行うことができる。
【0067】
また、本実施形態によれば、プロセッサを用いて処理を行う画像処理方法において、前記プロセッサは、塗装された被検査品Pに、照射方向に対して垂直な面内において明部Lと暗部Dとが交互に且つ周期的に現れる明暗模様を照射させるとともに、前記被検査品Pの表面Sにおいて、前記明暗模様を周期的に変化させ、所定時間間隔で、前記明暗模様が照射された前記被検査品の表面の画像を複数取得し、複数の前記画像にて、前記被検査品Pの表面Sに形成された塗膜の不規則な模様から所定のパターンを抽出し、前記所定のパターンを用いて、複数の前記画像の位置合わせを行い、前記位置合わせを行った複数の前記画像を重ね合わせて合成画像を生成する、画像処理方法が提供される。これにより、不規則な模様を有する塗装が施された製品の画像の位置合わせを実行することができる。
【符号の説明】
【0068】
1…画像処理システム
11…照射装置
11a…制御装置
11b…画面
12…撮像装置
13…搬送装置
13a…制御装置
14…画像処理装置
141…CPU(プロセッサ)
142…ROM
143…RAM
2…処理部
21…照射部
22…取得部
23…抽出部
24…位置合わせ部
25…生成部
A…点
B…ブラケット
Cyc…1周期
D…暗部
L…明部
M12、M13、M14、M23、M24、M34…移動量
N1、N2、N3、N4、N5…パターン
P…被検査品
R1、R2、R3、R4、R5、R6、R7、R8…範囲
S…被検査品の表面
T…経路
X、X1、X2、X3、X4、X5…欠陥
Y1、Y2、Y3、Y4、Y5、Y6、Y7、Y8…点
Z1…ゴミ
Z2…孔
Z3…クレータ状の凹部
θa…入射角
θb…反射角