(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-03-21
(45)【発行日】2024-03-29
(54)【発明の名称】外観検査システム、及び外観検査方法
(51)【国際特許分類】
G01N 21/88 20060101AFI20240322BHJP
【FI】
G01N21/88 J
(21)【出願番号】P 2019163345
(22)【出願日】2019-09-06
【審査請求日】2022-06-22
【前置審査】
(73)【特許権者】
【識別番号】000002299
【氏名又は名称】清水建設株式会社
(73)【特許権者】
【識別番号】000252182
【氏名又は名称】六甲バター株式会社
(74)【代理人】
【識別番号】100149548
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100161506
【氏名又は名称】川渕 健一
(74)【代理人】
【識別番号】100161207
【氏名又は名称】西澤 和純
(72)【発明者】
【氏名】田中 勇記
(72)【発明者】
【氏名】福原 貴成
(72)【発明者】
【氏名】村松 陽太郎
(72)【発明者】
【氏名】徳岡 篤
(72)【発明者】
【氏名】小泉 忠
(72)【発明者】
【氏名】泰中 仁志
【審査官】田中 洋介
(56)【参考文献】
【文献】特開2018-205163(JP,A)
【文献】特開2017-190962(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01N 21/84-21/958
G06T 7/00-7/90
G06V 10/00-40/20
(57)【特許請求の範囲】
【請求項1】
検査対象物の画像を用いて、前記検査対象物の良否を判別する外観検査システムであって、
前記検査対象物の前記画像を複数に分割することによって複数の分割画像を取得する画像処理部と、
複数の前記検査対象物の画像を用いた学習によって生成された学習モデルを用いて、前記画像処理部が取得した複数の前記分割画像の各々を再現した画像である再現画像を複数生成し、複数の前記分割画像の各々と、複数の前記再現画像の各々とに基づいて、前記検査対象物の良否を判別する判別部と、
前記判別部によって、判別された前記検査対象物の良否の結果を出力する出力部と
を備え、
前記画像処理部は、撮像部が撮像した画像に含まれる前記検査対象物の3面の画像から、前記検査対象物の部分を抽出し、抽出した前記検査対象物の部分の画像を複数に分割することによって複数の分割画像を取得
し、
前記判別部は、複数の前記分割画像の各々と、前記学習モデルを用いて複数の前記分割画像の各々を再現した複数の再現画像の各々との再現精度を、交差エントロピー、カルバックライブラ情報量、マハラノビス距離をベースとした評価関数を使用することによって複数導出し、導出した複数の前記再現精度に基づいて、前記検査対象物の良否を判別し、
前記検査対象物はアルミ箔に包装された製品である、外観検査システム。
【請求項2】
前記学習モデルは、複数の前記検査対象物の前記画像の各々を用いて、オートエンコーダによって生成されたモデルである、請求項1に記載の外観検査システム。
【請求項3】
前記学習モデルは、
複数の分割画像の各々と、各分割画像に表された検査対象物を再構成した画像とに基づいて、所定の損失関数を最小にするように前記学習モデルのパラメータを最適化したもので
ある、請求項1又は請求項2に記載の外観検査システム。
【請求項4】
前記判別部は、複数の前記再現精度の各々が、閾値以上であるか否かを判定し、複数の前記再現精度の閾値以上である割合に基づいて、前記検査対象物の良否を判定する、請求項
1に記載の外観検査システム。
【請求項5】
検査対象物の画像を用いて、前記検査対象物の良否を判別する外観検査システムが実行する外観検査方法であって、
前記検査対象物の前記画像を複数に分割することによって複数の分割画像を取得するステップと、
複数の前記検査対象物の画像を用いた学習によって生成された学習モデルを用いて、前記取得するステップで取得した複数の前記分割画像の各々を再現した画像である再現画像を複数生成し、複数の前記分割画像の各々と、複数の前記再現画像の各々とに基づいて、前記検査対象物の良否を判別するステップと、
前記判別するステップによって判別された前記検査対象物の良否の結果を出力するステップと
を有し、
前記取得するステップでは、前記検査対象物の3面の画像から、前記検査対象物の部分を抽出し、抽出した前記検査対象物の部分の画像を複数に分割することによって複数の分割画像を取得
し、
前記判別するステップは、複数の前記分割画像の各々と、前記学習モデルを用いて複数の前記分割画像の各々を再現した複数の再現画像の各々との再現精度を、交差エントロピー、カルバックライブラ情報量、マハラノビス距離をベースとした評価関数を使用することによって複数導出し、導出した複数の前記再現精度に基づいて、前記検査対象物の良否を判別し、
前記検査対象物はアルミ箔に包装された製品である、外観検査方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、外観検査システム、及び外観検査方法に関する。
【背景技術】
【0002】
チーズ等の食品は、アルミ箔などの主に樹脂を基材とした包装材料にて包装される。アルミ箔に包装されたチーズ等は、固化していない状態で、目視検査が行われ、冷却装置、乾燥装置等の固化装置に搬入される。アルミ箔に包装されたチーズ等は、その固化装置の内部で、コンベアにより搬送されつつ固化される。固化されたチーズ等は、撮像され、撮像された対象物を画像認識させることによって、検品作業が行われる。
検品作業に関して、台紙上のサンプル等の検査対象の数量の検査を好適に行う技術が知られている(例えば、特許文献1参照)。この技術では、検査システムは、検査装置、撮影装置、照明等を有し、表面に光沢があり凹凸を有する検査対象の数量の検査を行う。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
目視検査では、検品対象の良否を判断する基準が、人によって異なるため、目視検査の結果にばらつきが生じる。また、目視検査では、熟練者の経験値を、他者と共有し難い。
撮像された対象物を画像処理し、画像処理された対象物を画像認識させることによって検品作業を行う場合には、複雑な形状・反射の多い表面を有する製品などでは十分な精度が出せない。また、撮像された対象物を画像処理し、画像処理された対象物を画像認識させることによって検品作業を行う場合には、対象物の特定面に対して正面から撮影した画像を使用していた。このため、対象物の複数の他の面を画像認識させる場合には複数の他の面の数の撮影装置と、照明装置とが必要である。
本発明は、このような事情に鑑みてなされたものであり、その目的は、複雑な形状・反射の多い表面を有する検査対象物の検品作業における精度を向上できる外観検査システム、及び外観検査方法を提供することである。
【課題を解決するための手段】
【0005】
(1)本発明の一態様は、検査対象物の画像を用いて、前記検査対象物の良否を判別する外観検査システムであって、前記検査対象物の前記画像を複数に分割することによって複数の分割画像を取得する画像処理部と、複数の前記検査対象物の画像を用いた学習によって生成された学習モデルを用いて、前記画像処理部が取得した複数の前記分割画像の各々を再現した画像である再現画像を複数生成し、複数の前記分割画像の各々と、複数の前記再現画像の各々とに基づいて、前記検査対象物の良否を判別する判別部と、前記判別部によって、判別された前記検査対象物の良否の結果を出力する出力部とを備え、前記画像処理部は、撮像部が撮像した画像に含まれる前記検査対象物の3面の画像から、前記検査対象物の部分を抽出し、抽出した前記検査対象物の部分の画像を複数に分割することによって複数の分割画像を取得し、前記判別部は、複数の前記分割画像の各々と、前記学習モデルを用いて複数の前記分割画像の各々を再現した複数の再現画像の各々との再現精度を、交差エントロピー、カルバックライブラ情報量、マハラノビス距離をベースとした評価関数を使用することによって複数導出し、導出した複数の前記再現精度に基づいて、前記検査対象物の良否を判別し、前記検査対象物はアルミ箔に包装された製品である、外観検査システムである。
(2)本発明の一態様は、前記学習モデルは、複数の前記検査対象物の前記画像の各々を用いて、オートエンコーダによって生成されたモデルである、上記(1)に記載の外観検査システムである。
(3)本発明の一態様は、前記学習モデルは、複数の分割画像の各々と、各分割画像に表された検査対象物を再構成した画像とに基づいて、所定の損失関数を最小にするように前記学習モデルのパラメータを最適化したものである、上記(1)又上記(2)に記載の外観検査システムである。
(4)本発明の一態様は、前記判別部は、複数の前記再現精度の各々が、閾値以上であるか否かを判定し、複数の前記再現精度の閾値以上である割合に基づいて、前記検査対象物の良否を判定する、上記(1)に記載の外観検査システムである。
【0006】
(5)本発明の一態様は、検査対象物の画像を用いて、前記検査対象物の良否を判別する外観検査システムが実行する外観検査方法であって、前記検査対象物の前記画像を複数に分割することによって複数の分割画像を取得するステップと、複数の前記検査対象物の画像を用いた学習によって生成された学習モデルを用いて、前記取得するステップで取得した複数の前記分割画像の各々を再現した画像である再現画像を複数生成し、複数の前記分割画像の各々と、複数の前記再現画像の各々とに基づいて、前記検査対象物の良否を判別するステップと、前記判別するステップによって判別された前記検査対象物の良否の結果を出力するステップとを有し、前記取得するステップでは、前記検査対象物の3面の画像から、前記検査対象物の部分を抽出し、抽出した前記検査対象物の部分の画像を複数に分割することによって複数の分割画像を取得し、前記判別するステップは、複数の前記分割画像の各々と、前記学習モデルを用いて複数の前記分割画像の各々を再現した複数の再現画像の各々との再現精度を、交差エントロピー、カルバックライブラ情報量、マハラノビス距離をベースとした評価関数を使用することによって複数導出し、導出した複数の前記再現精度に基づいて、前記検査対象物の良否を判別し、前記検査対象物はアルミ箔に包装された製品である、外観検査方法である。
【発明の効果】
【0007】
本発明によれば、複雑な形状・反射の多い表面を有する検査対象物の検品作業における精度を向上できるという効果が得られる。
【図面の簡単な説明】
【0008】
【
図1】本発明の実施形態に係る外観検査システムの一例を示す図である。
【
図3】本実施形態に係る外観検査システムの制御装置の一例を示すブロック図である。
【
図4】本実施形態に係る外観検査システムにおける製品の載置の一例を示す図である。
【
図5】本実施形態に係る外観検査システムの動作の例1を示す図である。
【
図6】本実施形態に係る外観検査システムの動作の例2を示す図である。
【
図8】本実施形態に係る外観検査システムの動作の例1を示すシーケンスチャートである。
【
図9】本実施形態に係る外観検査システムの動作の例2を示すシーケンスチャートである。
【
図10】本実施形態の変形例1に係る外観検査システムの一例を示す図である。
【
図11】本実施形態の変形例1に係る外観検査システムの動作の一例を示すシーケンスチャートである。
【
図12】本実施形態の変形例2に係る外観検査システムの一例を示す図である。
【
図13】本実施形態の変形例2に係る外観検査システムにおける照明部の配置の一例を示す図である。
【
図14】本実施形態の変形例2に係る外観検査システムにおける製品の載置の一例を示す図である。
【
図15】本実施形態の変形例2に係る外観検査システムの動作の一例を示すシーケンスチャートである。
【発明を実施するための形態】
【0009】
次に、本実施形態の外観検査システム、及び外観検査方法を、図面を参照しつつ説明する。以下で説明する実施形態は一例に過ぎず、本発明が適用される実施形態は、以下の実施形態に限られない。
なお、実施形態を説明するための全図において、同一の機能を有するものは同一符号を用い、繰り返しの説明は省略する。
また、本願でいう「XXに基づいて」とは、「少なくともXXに基づく」ことを意味し、XXに加えて別の要素に基づく場合も含む。また、「XXに基づいて」とは、XXを直接に用いる場合に限定されず、XXに対して演算や加工が行われたものに基づく場合も含む。「XX」は、任意の要素(例えば、任意の情報)である。
【0010】
(実施形態)
(外観検査システム)
図1は、本発明の実施形態に係る外観検査システムの一例を示す図である。外観検査システムは、ワークW(検査対象物)の外観検査、つまりワークWの形状と、表面の状態とに基づいて、ワークWの良否を判断する。外観検査システムは、外観検査の開始タイミングを規定する検査開始トリガ信号を生成する。外観検査システムは、この検査開始トリガ信号に基づいて、ワークWを照明し、照明したワークWを撮像し、所定の処理を行うことによって、検査用の画像を取得する。外観検査システムは、取得した検査用の画像に基づいて、ワークWの良否を判別する。本実施形態では、ワークWの一例として、アルミ箔に包装されたチーズである製品を適用する場合について説明する。
外観検査システム100は、ベルトコンベアBCと、照明部102と、撮像部103と、制御装置150とを備える。制御装置150は、ベルトコンベアBCと、照明部102と、撮像部103と接続される。ベルトコンベアBCは、制御装置150によって制御される。ベルトコンベアBCは、輪状にした幅広のベルトを台車の上で回転させ、その上に製品101を載置して移動させる。
図1では、水平面を構成する互いに垂直である2軸をX軸とY軸とし、水平面に垂直な方向をZ軸とする。製品101は、ベルトコンベアBCによって、X軸の正の方向に移動する。製品101の移動方向を矢印で示す。
【0011】
次に、製品101について説明する。
図2は、製品の一例を示す図である。製品101はアルミ箔に包装されたチーズであるため、その表面は、アルミ箔である。このため、製品101の表面は、光沢があり、光を照射した場合に、その光が反射する場合がある。また、製品101は、アルミ箔を折り、溶融したチーズを注入することで成型する。このため、製品101の形状は、アルミ箔の折り目などによる凹凸を有する。
図1に戻り説明を続ける。
照明部102は、制御装置150によって制御される。照明部102は、製品101に光を照射する。照明部102が照射する光の色の一例は、青色である。製品101において、X軸とY軸とからなる平面に平行な面を、一主面とする。照明部102は、一主面と平行な第1軸周りに、第1角度θ1の入射角度で光を照射する。一主面の法線方向を0度とした場合に、第1角度θ1の一例は、50度以上70度以下であり、より好ましくは、55度以上65度以下である。本実施形態では、第1角度θ1を50度とした場合について説明を続ける。
【0012】
撮像部103は、制御装置150によって制御される。撮像部103は、製品101を撮像する。撮像部103は、照明部102が照射した光を、製品101が反射することによって得られる反射光を受光することによって撮像する。撮像部103は、複数の受光素子と、集光系光学系とを有している。受光素子は、集光系光学系を通して得られた光の強度を電気信号に変換するCCD(charge-coupled device)やCMOS(complementary metal oxide semiconductor)等の撮像素子からなるイメージセンサである。集光系光学系は、外部から入射する光を集光するための光学系である。具体的には、集光系光学系は、一以上の光学レンズを有している。撮像部103は、照明部102が照射した光を、製品101が反射した反射光を受光素子が受光できる位置に設置される。撮像部103は、撮像することによって得られる画像(以下「検査用の画像」という)を示す情報を、制御装置150に出力する。
図3は、本実施形態に係る外観検査システムの制御装置の一例を示すブロック図である。制御装置150は、CPU(Central Processing Unit)等のプロセッサによって所定のプログラムが実行されることにより機能するソフトウェア機能部である。ソフトウェア機能部は、CPU等のプロセッサ、プログラムを格納するROM(Read Only Memory)、データを一時的に記憶するRAM(Random Access Memory)、及びタイマー等の電子回路を備える。なお、制御装置150の少なくとも一部は、LSI(Large Scale Integration)等の集積回路であってもよい。制御装置150は、処理部152と、取得部154と、画像処理部156と、学習部157と、判別部158と、出力部160として機能する。
【0013】
処理部152は、ベルトコンベアBCを制御することによって、ベルトコンベアBCに載置された製品101を、X軸の正の方向に、搬送する。
図4は、本実施形態に係る外観検査システムにおける製品の載置の一例を示す図である。製品101の一主面の短辺の二辺と、照明部102が光を照射する方向とのなす角度が、一主面の法線方向から見て第2角度θ2となるように載置される。第2角度θ2の一例は、15度以上25度以下であり、より好ましくは、17.5度以上22.5度以下である。本実施形態では、第2角度θ2が、20度である場合について説明を続ける。
図3に戻り説明を続ける。
処理部152が、ベルトコンベアBCを制御することによって、製品101の一主面の中心が、位置Pと一致する。ここで、位置Pの一例は、照明部102と位置Pとを結んだ線と、位置Pから一主面の法線方向にのばした線とのなす角度が、第1角度θ1となる位置である。処理部152は、製品101の一主面の中心が、位置Pと一致する前に、照明部102を制御することによって、製品101に光を照射させる。処理部152は、製品101に光を照射させた状態で、製品101の一主面の中心が、位置Pと一致するタイミングで、撮像部103に、製品101を撮像させる。取得部154は、撮像部103が出力した検査用の画像を示す情報を取得し、取得した検査用の画像示す情報を、画像処理部156に出力する。
【0014】
図5は、本実施形態に係る外観検査システムの制御装置の処理の例1を示す図である。画像処理部156は、取得部154が出力した検査用の画像を示す情報を取得する。画像処理部156は、取得した検査用の画像を示す情報に基づいて、検査用の画像から、製品101の部分を切り出すことによって、製品101の画像を取得する(1)。画像処理部156は、取得した製品101の画像を複数に分割し、分割することによって得られる複数の分割画像の各々を取得する(2)。画像処理部156は、製品101の画像に基づいて、ピクセル数が4%から6%の面積で分割する。本実施形態では、一例として、製品101の画像を、4×4の16分割する場合について説明を続ける。
ベルトコンベアBCに製品101が、製品101の一主面の短辺の二辺と、照明部102が光を照射する方向とのなす角度が、一主面の法線方向から見て第2角度θ2となるように載置されているため、検査用の画像には、製品101の3面の画像(上面、短辺を含む側面、長辺を含む側面)が含まれている。さらに、製品101の表面は銀色で、光沢を有するため、撮像部103が撮像するときに、製品101には青色の光が照射される。製品101に対して、照明部102が所定の位置に設置されているため、照射された光の乱反射を抑えることができるため、コントラストを高くできる。製品101に青色の光が照射されることによって、青色の光がチーズの黄色成分に反応して、チーズ部分のコントラストを高くできるため、チーズ部分のコントラストをはっきりできる。ただし、金色などの銀色とは異なる色の包装の場合には包装とチーズのコントラスト差が出にくいため色調の検証を行うことが好ましい。この結果、検査用の画像に含まれる製品101の画像は、コントラストが高く、はっきりする。以下、複数の分割画像の各々を使用して、学習モデルを生成する場合と、生成した学習モデルを使用して、製品101の良否を判定する場合とに分けて説明を続ける。
【0015】
(学習モデルを生成する場合)
図5を参照して引き続き説明する。画像処理部156は、取得した複数の分割画像を、学習部157に出力する。学習部157は、画像処理部156が出力した複数の分割画像を取得し、取得した複数の分割画像の各々を使用して、変分オートエンコーダなどのオートエンコーダによって、複数の学習モデルを生成する。本実施形態では、学習部157は、製品101の画像を分割した数と同数の学習モデルを生成する場合について説明を続ける。つまり、画像処理部156によって、製品101の画像が、4×4の16分割されるため、分割することによって得られた複数の分割画像の各々に対応する学習モデルを生成する。変分オートエンコーダは、教師なし学習器として機能する。変分オートエンコーダは、複数の製品101の画像の各々に対応する複数の分割画像が入力されると、各分割画像に表された製品101のピクセルの位置の分布を学習し、各分割画像に表された製品101を再構成した画像(以下「再現画像」という)を出力する((3)-(4))。
図5に示される例では、学習部157は、各分割画像に表された製品101のピクセルの画素値の和を、画素数で割ることによって得られる平均値の分布を学習し、各分割画像に表された製品101を再構成した画像(以下「再構成平均値画像」という)を生成する。また、学習部157は、各分割画像に表された製品101のピクセルの画素値の2乗平均と平均の2乗との差によって得られる分散の分布を学習し、各分割画像に表された製品101を再構成した画像(以下「再構成分散画像」という)を生成する。学習部157は、生成した再構成平均値画像と、再構成分散画像とに基づいて、各16区分区画(32×32=1024)の最大値を、その区画の異常値とする。学習部157は、複数の分割画像の各々と、各分割画像に表された製品101を再構成した画像とに基づいて、所定の損失関数を最小にするようにモデルのパラメータを最適化することにより、入力されたデータを学習する。学習部157は、生成した学習モデルを、判別部158へ出力する。
【0016】
(製品の良否を判定する場合)
図6は、本実施形態に係る外観検査システムの制御装置の処理の例2を示す図である。(1)から(3)は、
図5を参照して説明した(1)-(3)と同様である。画像処理部156は、取得した分割画像の各々を、判別部158に出力する。判別部158は、学習部157が出力した学習モデルを取得し、取得した学習モデルを記憶する。判別部158は、取得した学習モデルを用いて、画像処理部156が出力した複数の分割画像の各々を再現した画像である再現画像を複数生成する(4)。判別部158は、複数の分割画像の各々と複数の再現画像の各々とに基づいて、複数の分割画像の各々と複数の再現画像の各々とを比較することによって、分割画像に対する再現画像の再現精度を導出する。具体的には、判別部158は、交差エントロピー、カルバックライブラ情報量、マハラノビス距離をベースとした評価関数を使用することによって、再現精度を導出する。
判別部158は、複数の分割画像の各々の再現精度の導出結果に基づいて、製品101の不具合を判定する(5)。
図5の(5)には、複数の分割画像のうち、再現精度の導出結果が閾値未満である分割画像が太線で示され、再現精度の導出結果が閾値以上である分割画像が破線で示されている。つまり、
図5の(5)では、16個の分割画像のうち、5個の分割画像が再現精度の導出結果が閾値未満であると評価されている。この場合、判別部158は、一例として、製品101の不具合を示す指標(以下「判定スコア」という)を、0.3125(5/16)に基づいて導出する。判別部158は、製品101の判定スコアを、出力部160に出力する。
出力部160は、判別部158が出力した製品101の判定スコアを取得し、取得した製品101の判定スコアを出力する。例えば、出力部160は、表示装置(図示なし)に、製品101の判定スコアを出力してもよい。また、製品101の判定スコアに基づいて、判定スコア閾値未満の製品101を、製品101の生産ラインから除去してもよい。
図7は、判定スコア閾値の設定例を示す図である。
図7は、重欠点品の製品とOK品の製品との分布を示す。
図7において、横軸は判定スコアであり、縦軸は尤度である。
図7に示されるように、判定スコア閾値の一例は、重欠点品とOK品との分布が重複する判定スコアに設定される。
【0017】
(外観検査システムの動作)
外観検査システム100の動作について、学習モデルを生成する場合と、製品の良否を判定する場合とに分けて説明する。学習モデルを生成する場合について説明する。
図8は、本実施形態に係る外観検査システムの動作の例1を示すシーケンスチャートである。ベルトコンベアBCに、製品101が、載置された後の動作について説明する。
(ステップS1)
制御装置150の処理部152は、ベルトコンベアBCにベルトを回転させるための制御信号を出力する。
(ステップS2)
ベルトコンベアBCは、制御装置150が出力した制御信号に基づいて動作する。ベルトコンベアBCは、製品101を搬送する。
(ステップS3)
処理部152は、照明部102に発光させるための制御信号を出力する。
(ステップS4)
照明部102は、制御装置150が出力した制御信号に基づいて、発光する。照明部102が発光することによって、製品101に光が照射される。
(ステップS5)
処理部152は、撮像部103に製品101を撮像させるための制御信号を出力する。
(ステップS6)
撮像部103は、制御装置150が出力した制御信号に基づいて、製品101を撮像する。
(ステップS7)
撮像部103は、製品101を撮像することによって得られた検査用の画像を示す情報を、制御装置150に出力する。
(ステップS8)
取得部154は、撮像部103が出力した検査用の画像を示す情報を取得し、取得した検査用の画像を示す情報を、画像処理部156に出力する。画像処理部156は、取得部154が出力した検査用の画像を示す情報を取得する。画像処理部156は、取得した検査用の画像を示す情報に基づいて、検査用の画像から、製品101の部分を切り出すことによって、製品101の画像を取得する。画像処理部156は、取得した製品101の画像を複数に分割し、分割することによって得られる複数の分割画像の各々を、学習部157に出力する。
(ステップS9)
学習部157は、画像処理部156が出力した複数の分割画像を取得し、取得した複数の分割画像の各々を使用して、変分オートエンコーダによって、複数の学習モデルを生成する。
(ステップS10)
学習部157は、生成した学習モデルを、判別部158へ出力する。
【0018】
(製品の良否を判定する場合)
図9は、本実施形態に係る外観検査システムの動作の例2を示すシーケンスチャートである。ベルトコンベアBCに製品101が載置された後の動作について説明する。ステップS11からステップS17は、
図7のステップS1からステップS7と同様である。
(ステップS18)
取得部154は、撮像部103が出力した検査用の画像を示す情報を取得し、取得した検査用の画像を示す情報を、画像処理部156に出力する。画像処理部156は、取得部154が出力した検査用の画像を示す情報を取得する。画像処理部156は、取得した検査用の画像を示す情報に基づいて、検査用の画像から、製品101の部分を切り出すことによって、製品101の画像を取得する。画像処理部156は、取得した製品101の画像を複数に分割し、分割することによって得られる複数の分割画像の各々を、判別部158に出力する。
(ステップS19)
判別部158は、画像処理部156が出力した複数の分割画像の各々を取得し、取得した複数の分割画像の各々の良否を判別する。判別部158は、複数の分割画像の各々の良否を判別した結果に基づいて、良と判別された割合に基づいて、製品101の良否を判別する。判別部158は、製品101の良否の判別結果を、出力部160に出力する。
(ステップS20)
出力部160は、判別部158が出力した製品101の良否の判別結果を取得し、取得した製品101の判別結果を出力する。
【0019】
前述した実施形態において、例えば、製品101の表面の色と、光を反射する程度とのいずれか一方又は両方に基づいて、青色以外の色の光が照射されてもよい。
本実施形態に係る外観検査システムによれば、 検査対象物(実施形態では製品101)の画像を用いて、検査対象物の良否を判別する外観検査システムであって、検査対象物の画像を複数に分割することによって複数の分割画像を取得する画像処理部と、複数の検査対象物の画像を用いた学習によって生成された学習モデルを用いて、画像処理部が取得した複数の分割画像の各々を再現した画像である再現画像を複数生成し、複数の分割画像の各々と、複数の再現画像の各々とに基づいて、検査対象物の良否を判別する判別部と、判別部によって、判別された検査対象物の良否の結果を出力する出力部とを備える。このように構成することによって、検査対象物の画像を複数に分割し、複数の分割画像の各々に対応する学習モデルに基づいて、複数の分割画像の各々の判定を行うため、検査対象物の画像を複数に分割しない場合よりも、微細な不具合箇所を検出できる。このため、検品作業における精度を向上できる。
【0020】
(変形例1)
(外観検査システム)
図10は、本実施形態の変形例1に係る外観検査システムの一例を示す図である。外観検査システム100aは、外観検査システム100に、撮像部104と、照明部105とを備える。制御装置150は、撮像部104と、照明部105と接続される。ベルトコンベアBCは、制御装置150によって制御される。
照明部105は、制御装置150によって制御される。照明部105は、製品101に光を照射する。照明部105が照射する光の色の一例は、青色である。照明部105は、一主面に対して、第1軸と同軸または平行な第2軸周りに、照明部102とは反対側から、第1a角度θ1aの入射角度で光を照射する。一主面の法線方向を0度とした場合に、第1a角度θ1aの一例は、50度以上70度以下であり、より好ましくは、55度以上65度以下である。本実施形態では、第1a角度θ1aを50度とした場合について説明を続ける。照明部105の一例は、
図3を適用できる。
撮像部103は、制御装置150によって制御される。撮像部103は、製品101を撮像する。撮像部104は、撮像部103と同様の構成であり、制御装置150によって制御される。撮像部104は、製品101を撮像する。撮像部104は、照明部105が照射した光を、製品101が反射することによって得られる反射光を受光することによって撮像する。撮像部104は、照明部105が照射した光を、製品101が反射した反射光を受光素子が受光する位置に設置される。撮像部104は、撮像することによって得られる検査用の画像を示す情報を、制御装置150に出力する。
本実施形態の変形例1に係る外観検査システムの制御装置の一例は、
図3を適用できる。ただし、処理部152は、ベルトコンベアBCを制御することによって、ベルトコンベアBCに載置された製品101を、X軸の正の方向に、搬送する。処理部152が、ベルトコンベアBCを制御することによって、製品101の一主面の中心が、位置Pと一致する。ここで、位置Pの一例は、照明部102と位置Pとを結んだ線と、位置Pから一主面の法線方向にのばした線とのなす角度が、第1角度θ1となる位置である。また、位置Pの一例は、照明部105と位置Pとを結んだ線と、位置Pから鉛直上向きにのばした線とのなす角度が、第1a角度θ1aとなる位置であってもよい。処理部152は、製品101の一主面の中心が、位置Pと一致する前に、照明部102と、照明部105とを制御することによって、製品101に光を照射させる。処理部152は、製品101に光を照射させた状態で、製品101の一主面の中心が、位置Pと一致するタイミングで、撮像部103と、撮像部104とに、製品101を撮像させる。取得部154は、撮像部103が出力した検査用の画像を示す情報を取得し、取得した検査用の画像示す情報を、画像処理部156に出力する。取得部154は、撮像部104が出力した検査用の画像を示す情報を取得し、取得した検査用の画像示す情報を、画像処理部156に出力する。
【0021】
(外観検査システムの動作)
図11は、本実施形態の変形例1に係る外観検査システムの動作の一例を示すシーケンスチャートである。ベルトコンベアBCに、製品101が、載置された後の動作について説明する。ステップS31からステップS32は、
図8を参照して説明したステップS11からステップS12を適用できる。
(ステップS33)
処理部152は、照明部102に発光させるための制御信号を出力する。制御装置150の処理部152は、照明部105に発光させるための制御信号を出力する。
(ステップS34)
照明部102は、制御装置150が出力した制御信号に基づいて、発光する。照明部102が発光することによって、製品101に光が照射される。
(ステップS35)
照明部105は、制御装置150が出力した制御信号に基づいて、発光する。照明部105が発光することによって、製品101に光が照射される。
【0022】
(ステップS36)
処理部152は、撮像部103に製品101を撮像させるための制御信号を出力する。制御装置150の処理部152は、撮像部104に製品101を撮像させるための制御信号を出力する。
(ステップS37)
撮像部103は、制御装置150が出力した制御信号に基づいて製品101を撮像する。
(ステップS38)
撮像部104は、制御装置150が出力した制御信号に基づいて製品101を撮像する。
(ステップS39)
撮像部103は、製品101を撮像することによって得られた検査用の画像を示す情報を、制御装置150に出力する。撮像部103は、製品101を撮像することによって得られた検査用の画像を示す情報を、制御装置150に出力する。ステップS39以降の処理は、
図8のステップS8からステップS10と、
図9のステップS18からステップS20とを適用できる。
【0023】
前述した実施形態の変形例1において、照明部102が照射する光の色と、照明部105が照射する光の色とが異なってもよい。
本実施形態の変形例に係る外観検査システムによれば、外観検査システム100に、検査対象物の一主面に対して、第1軸と同軸または平行な第2軸周りに、照明部102とは反対側から、第1角度の入射角度で光を照射する照明部105と、照明部105によって照射された検査対象物を、入射角度に対する反射角度で撮像する撮像部104とを備える。判別部は、撮像部103と、撮像部104とによって撮像された画像に基づいて、検査対象物の良否を判別し、一主面の対向する二辺と、第2照明部が照射する光の照明方向とが第2角度をなす。このように構成することによって、外観検査システム100の効果に加え、検査対象の画像の数を増加できるため、検査対象物の検品作業における精度を向上できる。
【0024】
(変形例2)
(外観検査システム)
図12は、本実施形態の変形例2に係る外観検査システムの一例を示す図である。外観検査システム100bは、外観検査システム100に、照明部107と、照明部108とを備える。制御装置150は、照明部107と、照明部108と接続される。
図13は、本実施形態の変形例2に係る外観検査システムにおける照明部の配置の一例を示す図である。
図13において、照明部102と、撮像部103とは省略されている。照明部107は、制御装置150によって制御される。照明部107は、製品101に光を照射する。照明部107が照射する光の色の一例は、青色である。照明部107は、製品101が載置された面に対して、一主面と平行かつ第1軸と垂直な第3軸周りに、第3角度θ3の入射角度で光を照射する。一主面の法線方向を0度とした場合に、第3角度θ3の一例は、15度以上25度以下であり、より好ましくは、17.5度以上22.5度以下である。本実施形態では、第3角度θ3を20度とした場合について説明を続ける。照明部107の一例は、複数のLEDをX方向に並べたものである。
照明部108は、制御装置150によって制御される。照明部108は、製品101に光を照射する。照明部107が照射する光の色の一例は、青色である。照明部108は、製品101が載置された面に対して、第3軸と平行な第4軸周りに、照明部107とは反対側から、第3角度θ3の入射角度で光を照射する。一主面の法線方向を0度とした場合に、第3角度θ3の一例は、15度以上25度以下であり、より好ましくは、17.5度以上22.5度以下である。本実施形態では、第3角度θ3を20度とした場合について説明を続ける。照明部108の一例は、複数のLEDをX方向に並べたものである。
【0025】
本実施形態の変形例2に係る外観検査システムの制御装置150の一例は、
図3を適用できる。
図14は、本実施形態の変形例2に係る外観検査システムにおける製品の載置の一例を示す図である。製品101の一主面の短辺の二辺と、照明部102が光を照射する方向とのなす角度が、一主面の法線方向から見て第2角度θ2となるように載置される。また、製品101の一主面の長辺の二辺と、照明部107と、照明部108とが光を照射する方向とのなす角度が、一主面の法線方向から見て第4角度θ4となるように載置される。第4角度θ4の一例は、65度以上75度以下であり、より好ましくは、67.5度以上72.5度以下である。本実施形態では、第4角度θ4が、70度である場合について説明を続ける。処理部152が、ベルトコンベアBCを制御することによって、製品101の一主面の中心が、位置Pと一致する。処理部152は、製品101の一主面の中心が、位置Pと一致する前に、照明部102と、照明部107と、照明部108とを制御することによって、製品101に光を照射させる。
【0026】
(外観検査システムの動作)
図15は、本実施形態の変形例2に係る外観検査システムの動作の一例を示すシーケンスチャートである。ここでは、ベルトコンベアBCに、製品101が、載置された後の動作について説明する。ステップS41からステップS42は、
図8を参照して説明したステップS11からステップS12を適用できる。
(ステップS43)
処理部152は、照明部102に発光させるための制御信号を出力し、照明部107に発光させるための制御信号を出力し、照明部108に発光させるための制御信号を出力する。
(ステップS44)
照明部102は、制御装置150が出力した制御信号に基づいて、発光する。照明部102が発光することによって、製品101に光が照射される。
(ステップS45)
照明部107は、制御装置150が出力した制御信号に基づいて、発光する。照明部107が発光することによって、製品101に光が照射される。
(ステップS46)
照明部108は、制御装置150が出力した制御信号に基づいて、発光する。照明部108が発光することによって、製品101に光が照射される。ステップS47からステップS49は、
図6のステップ5からステップS7を適用できる。ステップS50以降の処理は、
図8のステップS8からステップS10と、
図9のステップS18からステップS20とを適用できる。
【0027】
前述した実施形態の変形例2において、例えば、照明部102と、照明部107と、照明部108との各々が照射する光の色とが異なっていてもよい。
前述した実施形態の変形例2では、外観検査システム100に、照明部107と、照明部108とを適用した場合について説明したが、この限りでない。例えば、外観検査システム100に、照明部107と、照明部108とのいずれか一方又は両方を適用してもよい。また、例えば、外観検査システム100aに、照明部107と、照明部108とのいずれか一方又は両方を適用してもよい。
本実施形態の変形例2に係る外観検査システムによれば、外観検査システム100に、検査対象物が載置された面に対して、一主面と平行かつ第1軸と垂直な第3軸周りに、15度以上25度以下の入射角度で光を照射する照明部107を備える。このように構成することによって、外観検査システム100の効果に加え、照明部107によって、検査対象物に光を照射できるため、撮像部によって撮像された画像に含まれる検査対象物のコントラストをさらに高く、はっきりできる。このため、複雑な形状・反射の多い表面を有する検査対象物の検品作業における精度を向上できる。
また、検査対象物が載置された面に対して、第3軸と平行な第4軸周りに、照明部107とは反対側から、15度以上25度以下の入射角度で光を照射する照明部108を備える。このように構成することによって、外観検査システム100の効果に加え、照明部108によって、検査対象物に光を照射できるため、撮像部によって撮像された画像に含まれる検査対象物のコントラストをさらに高く、はっきりできる。このため、複雑な形状・反射の多い表面を有する検査対象物の検品作業における精度を向上できる。
【0028】
以上、本発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。例えば、上述した各装置の機能を実現するためのコンピュータプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行するようにしてもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものであってもよい。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、DVD(Digital Versatile Disc)等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。
さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
【符号の説明】
【0029】
100、100a、100b…外観検査システム、101…製品、102、105、107、108…照明部、103、104…撮像部、150…制御装置、152…処理部、154…取得部、156…画像処理部、157…学習部、158…判別部、160…出力部