(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2022-01-18
(54)【発明の名称】自動目視検査プロセスにおけるセットアップ段階の最適化
(51)【国際特許分類】
G01N 21/88 20060101AFI20220111BHJP
【FI】
G01N21/88 J
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2021527065
(86)(22)【出願日】2019-11-18
(85)【翻訳文提出日】2021-05-24
(86)【国際出願番号】 IL2019051260
(87)【国際公開番号】W WO2020100146
(87)【国際公開日】2020-05-22
(32)【優先日】2018-11-18
(33)【優先権主張国・地域又は機関】IL
(32)【優先日】2018-11-18
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】520228267
【氏名又は名称】インスペクト,エー.エム.ブイ リミテッド
(74)【代理人】
【識別番号】100114775
【氏名又は名称】高岡 亮一
(74)【代理人】
【識別番号】100121511
【氏名又は名称】小田 直
(74)【代理人】
【識別番号】100202751
【氏名又は名称】岩堀 明代
(74)【代理人】
【識別番号】100208580
【氏名又は名称】三好 玲奈
(74)【代理人】
【識別番号】100191086
【氏名又は名称】高橋 香元
(72)【発明者】
【氏名】ハイアット,ヨナタン
(72)【発明者】
【氏名】カルモン,ダン
【テーマコード(参考)】
2G051
【Fターム(参考)】
2G051AA01
2G051AB02
2G051AC11
2G051CA03
2G051CA04
2G051CB01
2G051DA06
2G051EB01
2G051EB05
(57)【要約】
本発明の実施形態は、検査ライン上の対象物の画像が、画像内の対象物の外観に基づいてクラスタに自動的にグループ化される目視検査プロセスのためのシステムおよび方法を提供する。クラスタ化された画像は、外観が異なる検査されるアイテムの参考として使用され得る画像の広範なデータベースを作成し、これにより、検査される対象物のすべての部分と外観が識別および検査されることが確実にされ、欠陥検出の成功率を高め、欠陥の誤検出を大幅に最小化する。
【選択図】
図1A
【特許請求の範囲】
【請求項1】
目視検査方法であって、
検査ラインの複数のセットアップ画像内の対象物を検出することであって、各セットアップ画像において、前記対象物が基準に適合する、検出することと、
前記基準の値に従って前記画像をクラスタにグループ化することと、
前記検査ラインの検査画像において前記対象物を検出することと、
前記検査画像内の前記対象物の前記基準の値に従って、前記検査画像を前記クラスタのうちの1つと比較することと、
前記比較に基づいて、前記検査画像内の前記対象物の欠陥を検出することと、を含む、方法。
【請求項2】
前記基準の値に従って前記画像をクラスタにグループ化することは、
第1の画像における前記基準の値と第2の画像における前記基準の値の差が閾値を超えている場合は、前記第1の画像を第1のクラスタに割り当て、前記第2の画像を第2のクラスタに割り当てることを含む、請求項1に記載の方法。
【請求項3】
所定の数の画像をクラスタにグループ化することを含み、前記閾値が前記所定の数に基づいて決定される、請求項2に記載の方法。
【請求項4】
前記閾値が、前記基準および前記対象物に基づく、請求項2に記載の方法。
【請求項5】
前記基準が前記画像内の前記対象物の空間的特徴を含む、請求項1に記載の方法。
【請求項6】
前記基準が前記対象物の視覚的特徴を含む、請求項1に記載の方法。
【請求項7】
前記セットアップ画像が、欠陥のない対象物の画像を含み、前記検査画像が、欠陥のない対象物または欠陥のある対象物のいずれかを含む、請求項1に記載の方法。
【請求項8】
ユーザ承認のために前記クラスタを表示することを含む、請求項1に記載の方法。
【請求項9】
前記クラスタを表示することは、各クラスタの代表物を表示することを含む、請求項8に記載のプロセス。
【請求項10】
ユーザ要求に応じて特定のクラスタの個々の画像を表示することを含む、請求項9に記載の方法。
【請求項11】
前記代表物は前記対象物の外形を含む、請求項8に記載のプロセス。
【請求項12】
前記対象物が2D対象物である場合、前記外形は、前記対象物の輪郭に大まかに従い、前記対象物が3D対象物である場合、前記外形は、前記対象物の前記輪郭に厳密に従う、請求項11に記載の方法。
【請求項13】
前記検出された欠陥を表示することを含む、請求項1に記載の方法。
【請求項14】
目視検査方法であって、
対象物の画像を、各画像内の前記対象物の外観に基づいて、クラスタに割り当てることと、
前記クラスタが前記対象物の完全な表現を達成したかどうかを決定することと、
前記対象物の完全な表現が達成された場合、連続する画像を前記クラスタに割り当てられた前記画像と比較することにより、前記連続する画像内の前記対象物の欠陥を検出することと、を含む、方法。
【請求項15】
前記クラスタが前記対象物の完全な表現を達成したかどうかを決定することは、前記クラスタ内の画像の数を決定することを含む、請求項14に記載の方法。
【請求項16】
前記クラスタが前記対象物の完全な表現を達成したかどうかを決定することは、前記クラスタに割り当てられた画像を互いに比較することを含む、請求項14に記載の方法。
【請求項17】
前記クラスタが前記対象物の完全な表現を達成したかどうかを決定することは、前記クラスタに割り当てられた各画像が、前記クラスタに割り当てられたすべての他の画像の、歪みのない参考として使用され得るかどうかを決定することを含む、請求項14に記載の方法。
【請求項18】
前記対象物の完全な表現が達成されない場合、前記クラスタに割り当てられた連続する画像を使用して、参考画像のデータベースを更新することを含む、請求項14に記載の方法。
【請求項19】
承認のために前記クラスタをユーザに表示することを含む、請求項18に記載の方法。
【請求項20】
前記クラスタに割り当てられた画像における欠陥を遡及的に検出することを含む、請求項14に記載の方法。
【請求項21】
目視検査のためのシステムであって、
ディスプレイと通信するプロセッサであって、
検査ライン上の対象物の画像を受信し、
前記画像内の前記対象物を検出し、
前記画像内の前記対象物の空間的特徴に基づいて、前記画像をクラスタに割り当て、
前記クラスタのステータスを決定し、
前記クラスタの代表物と前記クラスタの前記ステータスのインジケーションを表示させる、プロセッサを備える、システム。
【請求項22】
前記クラスタの前記ステータスの前記インジケーションが、異なるステータスごとに異なる視覚的特性を含む、請求項21に記載のシステム。
【請求項23】
前記視覚的特性は色を含む、請求項22に記載のシステム。
【請求項24】
前記プロセッサは、前記画像内の前記対象物が検出されたときに第1の視覚的特性を表示し、前記クラスタの前記ステータスを示すために第2の視覚的特性を表示する、請求項21に記載のシステム。
【請求項25】
目視検査方法であって、
対象物の画像を、前記画像内の前記対象物の外観に基づいて、クラスタに割り当てることと、
前記クラスタが前記対象物の完全な表現を達成したかどうかの決定に基づいて、前記クラスタのステータスを決定することと、
前記クラスタの前記ステータスに基づいて前記画像に検査アルゴリズムを適用するかどうかを決定し、それにより、すべてのクラスタが前記対象物の完全な表現を達成する前に、いくらかの対象物の検査を達成することと、を含む、方法。
【請求項26】
目視検査のためのシステムであって、
対象物のセットアップ画像と検査画像を受信するプロセッサであって、
各画像内の前記対象物の外観に基づいて、前記セットアップ画像と検査画像をクラスタにグループ化し、
検査画像を、前記クラスタにグループ化された前記セットアップ画像と比較し、
前記比較に基づいて、前記検査画像内の前記対象物の欠陥を検出し、
前記検出された欠陥を表示させる、プロセッサ、を備える、システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、自動化された目視検査プロセス、例えば、生産プロセス中のアイテムの検査に関わる。
【背景技術】
【0002】
生産プロセス中の検査は、生産の品質を確保するのに役立つ。例えば、製造工場での生産プロセス中の検査は、欠陥を識別し、例えば、欠陥を修理する、または欠陥部分を廃棄することによってこの識別に対応することで製品の品質を管理することを助ける。生産中、欠陥検出のプロセスは、品質保証(QA)、生産ラインでのゲーティングやソーティングのために必須であり、その結果、生産性を向上し、生産プロセスおよび作業手順を改善し、欠陥率を減少し、修正および無駄を減少することにおいて有用である。
【0003】
目視検査方法は、生産ラインで使用され、製造アイテムの完全性に対して機能的または審美的な影響を与え得る視覚的に検出可能な異常を識別する。生産ラインに対する既存の目視検査ソリューションは、カスタムメイドの自動化された目視検査システムに依存するが、これは通常、非常に高価であり、ハードウェアとソフトウェアコンポーネントの専門家による統合、および、周囲、カメラシステム装置、撮像パラメータおよびソフトウェアならびにアルゴリズムを設定することにおける専門家の関与を必要とする。
【0004】
既存の自動目視検査ソリューションは、通常、ソリューションがセットアップされた特定のアイテムと特定の撮像環境に限定される。視覚的な機械学習技術に基づくソリューションでさえも、検査対象の対象物を識別するためにユーザ入力に大きく依存し、検査ライン上の対象物または対象物の位置あるいは周囲の照明におけるすべての変更はシステムの手動調整を必要とする。
【0005】
追加的には、撮像環境および検査ライン上での撮像された対象物の物理的な場所および位置のわずかな変更でよってさえも、検査される対象物の外観は非常に変動する。異なる画像における対象物の3D形状および対象物の動きに応じて、異なる画像は、ある画像から別の画像への対象物の透視歪みやオクルージョンを示す。この変動性は、撮像された対象物の視覚的表現に大きく影響を与え、対象物の誤った識別や欠陥の誤った検出をしばしば引き起こし、検査プロセスにおける人間の検査官の頻繁かつ面倒な関与が必要となる。
【発明の概要】
【0006】
本発明の実施形態は、検査ライン上の対象物の画像が、画像内の対象物の外観に基づいてクラスタに自動的にグループ化される目視検査プロセスのためのシステムおよび方法を提供する。クラスタ化された画像は、外観が異なる検査されるアイテムの参考として使用し得る画像の広範なデータベースを作成する。参考の広範なデータベースにより、検査される対象物のすべての部分と外観が識別および検査されることを確実にし、欠陥検出の成功率を高め、欠陥の誤検出を大幅に最小化する。
【0007】
さらに、本発明の実施形態は、検査段階を開始する前にユーザ確認のために大量の検査されるアイテムを提示することを可能にし、それによってユーザの時間を効率的に利用し、検査プロセスを合理化する。
【0008】
一実施形態では、目視検査システムおよび方法は、検査ラインの複数のセットアップ画像において対象物を検出し、撮像された対象物の基準の値に従って画像をクラスタにグループ化することを含む。次に、検査ラインの検査画像で対象物が検出され、検査画像内の対象物の基準の値に従って、検査画像がクラスタのうちの1つと比較される。それにより、比較に基づいて、検査画像内の対象物の欠陥を検出することができる。
【0009】
参考画像の実質的にすべての可能な外観に対してクラスタが一旦作成されると、不正確な検出のリスクを大幅に減少して検査段階が開始され、それによって改善された検査プロセスが提供される。
【図面の簡単な説明】
【0010】
本発明はここで、より完全に理解され得るように、以下の例示的な図を参照して、特定の例および実施形態に関連して説明される。
【0011】
【
図1A】本発明の実施形態による、目視検査プロセスのセットアップ段階を概略的に示す。
【0012】
【
図1B】本発明の実施形態による、目視検査プロセスの検査段階を概略的に示す。
【0013】
【
図1C】本発明の実施形態による、ユーザインターフェースを概略的に示す。
【0014】
【
図2】本発明の実施形態による、目視検査のためのシステムの概略図である。
【0015】
【
図3A】本発明の実施形態による、目視検査ラインのセットアッププロセスのための方法の概略図である。
【0016】
【
図3B】本発明の実施形態による、セットアップ段階から検査段階に進むための方法の概略図である。
【0017】
【
図4】本発明の一実施形態による、必ずしも欠陥がないわけではない画像を使用する目視検査ラインのセットアッププロセスのための方法の概略図である。
【0018】
【
図5】本発明の実施形態による、クラスタ閾値を決定するための方法の概略図である。
【0019】
【
図6】本発明の実施形態による、画像をクラスタリングするための方法の概略図である。
【0020】
【
図7A】本発明の実施形態による、2D対象物のクラスタリングを概略的に示す。
【0021】
【
図7B】本発明の実施形態による、3D対象物のクラスタリングを概略的に示す。
【発明を実施するための形態】
【0022】
検査ラインプロセスは、検査段階の前にセットアップ段階を含んでもよい。一実施形態では、セットアップ段階において、欠陥のない製造されたアイテム(欠陥のないアイテム)のサンプルが検査ライン上で撮像される。画像(セットアップ画像および/または参考画像とも称される)は、プロセッサによって分析され、検査段階で実行される画像処理や検査アルゴリズム(例えば、欠陥検出アルゴリズム)のための参考画像として使用される。本発明の実施形態は、以下でさらに説明するように、セットアップ段階中に必ずしも欠陥がないわけではないサンプルを使用することも可能にする。
【0023】
検査段階では、検査されるアイテム(検査タスク、例えば、欠陥検出、ソーティングおよび/またはカウンティングのために分析されるべき製造されたアイテム)は、撮像されて検査画像を生成し、検査タスクはセットアップ画像および検査画像の分析に基づいて検査されるアイテムに対して実施され得る。
【0024】
セットアップ段階では、プロセッサは、空間特性および画像における欠陥のないアイテムの一意に表す特徴または属性、ならびに、欠陥のないアイテムの画像の最適パラメータ、例えば、最適撮像パラメータ(例えば、露光時間、焦点および照明)を学習する。これらの特性は、例えば、異なる撮像パラメータを使用して欠陥のないアイテムの画像を分析することによって、および、同じタイプの欠陥のないアイテムの異なる画像間の関係を分析することによって学習されてもよい。セットアップ段階中のこの分析により、新しい画像の撮像環境に関わらず、新しい画像における同じタイプのアイテム(欠陥がないか欠陥があるのいずれか)を弁別的に検出することが可能となり、次の検査段階中に最小の処理時間で撮像パラメータを続けて最適化することを可能にする。
【0025】
一実施形態では、セットアップ画像の分析は、欠陥のないアイテムがいかなる透視歪みも示さない空間範囲を決定するために使用される。異なる画像におけるアイテム間の透視歪みのレベルは、例えば、セットアップ画像間で対応する特徴がないアイテムの領域を検出することによって、アイテムの境界またはアイテム上のマーキングされた関心エリア間の交差場所および角度を分析することによって分析され得る。空間範囲の境界は、2つ(またはそれ超)のセットアップ画像(アイテムが異なるように位置決めされるおよび/または配向される)を比較し、どちらの画像が透視歪みを示しどちらが示さないかを決定することで計算されてもよい。
【0026】
次に、計算された範囲は、検査されるアイテムが歪みを回避するよう検査ライン上で配置される場所および/または向き、スケール、または他の配列の境界を決定するために使用され得る。追加的には、セットアップ画像の組を互いの参考として使用することで、プロセッサは、同様の空間分解を有する画像を検出することができ、この画像の組は、検査ライン上の各可能な位置/場所に対して登録、欠陥検出および他の分析を可能にするに十分な同様のセットアップ画像があるかを確認するために分析され得る。
【0027】
「十分なセットアップ画像」は、アイテムのタイプの本質的に完全な表現が達成されたときに収集される。例えば、上述のように、各参考画像を歪みのない参考として使用され得る空間範囲を決定することを可能にするように十分な画像が収集された場合、または、セットアップ画像を互いと比較した場合、新しいセットアップ画像が追加される際にいかなる新しい許容誤差または表面変動も発見されない。セットアップ画像の分析は、アイテムの可能な2D形状および3D特性(例えば、検査ライン上での回転)に関する情報を収集する、または、アイテムのセットアップ画像間で維持されるアイテムの一意に弁別的な特徴およびこれら一意の特徴間の空間関係を見つけるために実施されてもよい。
【0028】
セットアップ画像から収集された情報に基づき、プロセッサは同じタイプの第2のアイテムを検出し、第2のアイテムがプロセッサによって以前に学習されていなくても、検査タスクを実施することができる。これにより、プロセッサは、(同じタイプの)新しいアイテムがいつ撮像されたかを検出し、次に、新しいアイテムを分析し、例えば、検査されるアイテムの欠陥をセットアップ画像の分析に基づいて探すことが可能になる。新しいアイテムを分析することは、通常、検査アルゴリズム、例えば、欠陥検出アルゴリズムを適用することを含み、これは、一実施形態では、画像においてアイテムを検出し、検出されたアイテムの画像データを参考画像の画像データと比較することを含む。
【0029】
場合によっては、参考画像は、登録品質のレベルが低いか、全く登録できないことがある。他の場合では、参考画像は対象物の検出確率が低いか、対象物が検出されないことを示すこともある。さらに他の場合では、参考画像は、互いと比較された場合に低い相関関係を示してもよく、および/または画像内の対象物またはマーキングされた関心領域は互いと比較された場合に低い相関関係を示してもよい。これらの場合は、これらの画像内の対象物が比較するには違い過ぎることを示し得る。しかしながら、これらの画像は、通常はユーザによって注意深く監視されるセットアップ段階中に取得されるため、これらの画像は、検査ライン上での現実の状況を示し、ユーザによってそれほど注意深く監視されない検査段階中に同様の画像が取得される可能性がある。参考画像が対象物検出または欠陥検出の確率が低い場合、これらの参考画像と比較して検査画像は正確に分析されず、検査画像において対象物が検出されない、および/または検査画像で欠陥を検出しないまたは検査画像で欠陥を誤検出するリスクがある。
【0030】
本発明の実施形態は、このリスクを、すべての参考画像を他の同様の参考画像が十分にあるククラスタにグループ化されることを確実にし、クラスタ内の参考画像の比較、登録、および他の分析を実施することができることを確実にし、検査画像内の対象物が異なる視覚的外観を有している場合でもすべての検査画像の参考グループがあることを確実にすることで軽減する。
【0031】
対象物の外観(または視覚的外観)は、カメラから見える任意の特徴を含んでもよい。例えば、外観は、画像内の対象物の空間的特徴(例えば、カメラの視野(FOV)内での対象物または対象物の部分の位置決めおよび/または回転、対象物の形状および/またはサイズ、対象物上の目に見えるパターンまたはマーキングなど)を含んでもよい。
【0032】
参考画像の実質的にすべての可能な外観に対してクラスタが一旦作成されると、検査段階は不正確な検出のリスクを大幅に減少させて開始することができ、それによって、改善された検査処理が提供される。
【0033】
本発明の実施形態によると、撮像されている対象物の視覚的外観の違いに基づいて異なるクラスタに大量の参考画像が自動的にグループ化され得、それによって、検査される対象物の略1つ1つの異なる外観に対して十分に大きい参考が作成される。これにより、検査対象物の識別および対象物における欠陥の検出が大幅に向上される。
【0034】
「アイテム」および「対象物」といった用語は、ほとんど同じ意味で使用されてもよく、同じことを説明するものである。
【0035】
いくつかの実施形態では、異なるクラスタは、検査段階を始める前にユーザ確認を得るようユーザ(検査ラインのオペレータなど)に圧縮された方式で提示されてもよく、それにより、時間効率的で合理化された検査プロセスが可能となる。
【0036】
以下の説明では、本発明の様々な態様が説明される。説明の目的のために、本発明の完全な理解を提供するために、特定の構成および詳細が記載される。しかしながら、本明細書に提示される特定の詳細なく本発明が実施され得ることも当業者には明らかであろう。さらに、本発明を不明瞭にしないために、周知の特徴は省略または簡略化されてもよい。
【0037】
特に明記しない限り、以下の考察から明らかとなるように、明細書の考察中、「分析」、「処理」、「コンピューティング」、「計算」、「決定」、「検出」、「識別」、「作成」、「生産」などの用語を利用することは、コンピュータまたはコンピューティングシステム、または、コンピューティングシステムのレジスタおよび/またはメモリ内の物理的、例えば、電子的な量として表されるデータを、コンピューティングシステムのメモリ、レジスタまたは他のこのような情報格納、送信または表示デバイス内の物理的量として同様に表される他のデータに操作および/または変換する同様の電子コンピューティングデバイスのアクションおよび/またはプロセスを意味する。別段の記載がない限り、これらの用語は、人間のオペレータによるいかなるアクションからも独立してかつ行われることの無い、プロセッサの自動的アクションを意味する。
【0038】
一実施形態では、目視検査方法は、
図1Aにその例が概略的に示されるセットアップ段階と、
図1Bにその例が概略的に示される検査段階とを含む。一実施形態では、セットアップ画像(セットアップ段階中に取得される)は、欠陥のない対象物の画像を含み、検査画像(検査段階中に取得される)は、欠陥のない対象物または欠陥のある対象物のいずれかを含む。
【0039】
セットアップ段階では、対象物10は、検査ラインのいくつかのセットアップ画像11、12、13および14において検出される。各セットアップ画像において、対象物10は基準に適合する。
【0040】
基準は、例えば、画像内の対象物10の空間的特徴、例えば、画像内の対象物の位置または配置角度(カメラFOVに対するその位置、カメラFOVに対する三軸におけるその回転、カメラFOVに対するその形状またはスケールなど)を含んでもよい。基準の別の例は、対象物上の目に見えるマークのような1つ以上の視覚的特徴を含む。対象物および/または画像の他の特性を基準として使用してもよい。
【0041】
画像11、12、13および14は、基準の値に応じてクラスタ(例えば、クラスタAおよびクラスタB)にグループ化される。
図1Aに示される例では、画像をグループ化するための基準は、対象物10の位置決めである。対象物10が同様に位置決めされている、すなわち、同様の角度値によって定義され得る画像11および12は両方ともクラスタAに割り当てられ、対象物10が互いに対して同様に位置決めされているが画像11および12内の対象物10の位置決めとは異なる画像13および14はクラスタBに割り当てられる。
【0042】
次の検査段階(
図1B)では、検査画像は、検査画像内の対象物の基準の値に基づいてセットアップ画像のクラスタと比較される。例えば、対象物10は、検査画像15において検出される。検査画像15における対象物10の位置決め(例えば、画像内の点に関しての対象物10の角度)は、クラスタBに割り当てられたセットアップ画像内の対象物の位置決めと同様である(例えば、これらの画像すべては同様の角度値を有する対象物を含む)。したがって、クラスタB内の画像は、検査画像15内の対象物に対する適切な参考として使用することができ、検査画像15内の対象物10を検出するおよび/または対象物10上の欠陥を検出するための参考として使用することができるように検査画像15に十分に類似した参考画像が存在することを確実にする。そのため、検査画像15は、比較に基づいて対象物10上の欠陥を検出するために、クラスタBに割り当てられた画像と比較される。
【0043】
画像11、12、13、14、および15の各々における対象物10は、異なるアイテムであるが、すべての対象物10は同じタイプの対象物である。
【0044】
「同じタイプのアイテム」または「同じタイプの対象物」といった用語は、同じ物理的構成よりなり、形状および寸法、場合によっては、色および他の物理的特徴において互いと類似しているアイテムまたは対象物を指す。通常、単一の生産シリーズのアイテム、同じタイプのアイテムのバッチ、またはその生産ラインの同じ段階におけるアイテムのバッチは、「同じタイプのアイテム」であってもよい。例えば、検査されるアイテムが衛生用製品の場合、同じバッチの異なるシンクボールが同じタイプのアイテムである。
【0045】
欠陥は、例えば、アイテムの表面上の目に見える欠点、アイテムまたはアイテムの部分の望ましくないサイズ、アイテムまたはアイテムの部分の望ましくない形状または色、アイテムの望ましくない数の部分、アイテムの境界面の間違ったあるいは欠けているアセンブリ、破損または燃焼された部分、およびアイテムまたはアイテムの部分の不正確な位置合わせ、誤ったまたは欠陥のあるバーコード、および、一般に、ユーザ、すなわち、人間の検査官には画像から明らかとなる欠陥のないサンプルと検査されるアイテムとの間のあらゆる差を含んでもよい。いくつかの実施形態では、欠陥は、拡大された画像、または高解像度の画像、例えば、顕微鏡または他の特殊なカメラによって取得された画像等においてのみ目に見える欠点を含み得る。
【0046】
本発明の実施形態による方法は、目視検査のためのシステムによって実施されてもよく、その例は
図2に概略的に示される。
【0047】
検査ライン上のアイテムの自動目視検査に使用されてもよい例示的なシステムは、1つ以上のカメラ(複数可)103、およびユーザインターフェースデバイス106のようなデバイスおよび/またはストレージデバイス108のような他のデバイスと通信するプロセッサ102を含む。
【0048】
システムのコンポーネントは、有線または無線通信してもよく、好適なポートおよび/またはネットワークハブを含んでもよい。いくつかの実施形態では、プロセッサ102は、例えば、データ取り扱い、格納、処理電力、および通信能力のために通常製造プロセスで使用されるプログラマブルロジックコントローラ(PLC)のようなコントローラを介してストレージデバイス108および/またはユーザインターフェースデバイス106のようなデバイスと通信してもよい。コントローラは、USB、イーサネット、適切なケーブル配線などを介してプロセッサ102、ストレージデバイス108、ユーザインターフェースデバイス106、および/またはシステムの他のコンポーネントと通信してもよい。
【0049】
プロセッサ102は、例えば、1つ以上のプロセッサを含んでもよく、中央処理ユニット(CPU)、グラフィックス処理ユニット(GPU)、デジタル信号プロセッサ(DSP)、フィールドプログラマブルゲートアレイ(FPGA)、マイクロプロセッサ、コントローラ、チップ、マイクロチップ、集積回路(IC)、または任意の他の好適な多目的または特定のプロセッサあるいはコントローラであってもよい。プロセッサ102は、ローカルに埋め込まれるか、またはリモートであってもよい。
【0050】
ユーザインターフェースデバイス106は、ユーザに(例えば、モニタに表示されるテキストまたは他のコンテンツを介して)画像、指示および/または通知を表示するためのモニタまたはスクリーンのようなディスプレイを含んでもよい。ユーザインターフェースデバイス106はまた、ユーザからの入力を受信するように設計されてもよい。例えば、ユーザインターフェースデバイス106は、ユーザがフィードバックを入力することを可能にするようにモニタおよびキーボードおよび/またはマウスおよび/またはタッチスクリーンを含んでもよい。
【0051】
ストレージデバイス108は、例えば、ハードディスクドライブ(HDD)またはソリッドステートドライブ(SSD)のような揮発性および/または不揮発性ストレージ媒体を含むサーバであってもよい。ストレージデバイス108は、ローカルまたはリモートで、例えば、クラウドに接続することができる。いくつかの実施形態では、ストレージデバイス108は、参考画像および/または検査画像に関連する画像データを受信および管理するためのソフトウェアを含んでもよい。
【0052】
検査ライン105上の画像を取得するように構成されたカメラ(複数可)103は、通常、検査ライン105上に置かれるアイテム(例えば、アイテム104)がカメラ103のFOV103’内となるように、検査ライン105(例えば、コンベヤーベルト)に関連して置かれる。
【0053】
カメラ103は、CCDまたはCMOSあるいは他の適切なチップを含んでもよい。カメラ103は、2Dまたは3Dカメラであってもよい。いくつかの実施形態では、カメラ103は、例えば、スマートフォンまたはタブレットなどのモバイルデバイスを備える標準的なカメラを含んでもよい。他の実施形態では、カメラ103は特殊なカメラ、例えば、高解像度画像を取得するためのカメラである。
【0054】
システムは、カメラのFOV103’を照明するために、例えば、検査ライン105上のアイテム104を照明するためにLEDまたは他の適切な光源などの光源を含んでもよい。
【0055】
プロセッサ102は、1つ以上のカメラ(複数可)103から検査ライン105上の対象物の画像データ(反射光の強度を表すピクセル値ならびに部分的または完全な画像またはビデオなどのデータを含んでもよい)を受信し、本発明の実施形態によるプロセスを実行する。
【0056】
プロセッサ102は、通常、メモリユニット112と通信している。メモリユニット112は、カメラ(複数可)103から受信した画像データの少なくとも一部を格納してもよい。
【0057】
メモリユニット112は、例えば、ランダムアクセスメモリ(RAM)、ダイナミックRAM(DRAM)、フラッシュメモリ、揮発性メモリ、不揮発性メモリ、キャッシュメモリ、バッファ、短期メモリユニット、長期メモリユニット、または他の好適なメモリユニットあるいはストレージユニットを含んでもよい。
【0058】
いくつかの実施形態では、メモリユニット112は、プロセッサ102によって実行されると、本明細書で説明されるように、プロセッサ102の動作の実施を容易化する実行可能な命令を格納する。
【0059】
一実施形態では、プロセッサ102は、コンピュータビジョンおよび画像処理技術およびアルゴリズム(例えば、上述のような)を適用して、画像内の対象物の視覚的外観を決定し、対象物の視覚的外観に関連する基準に基づいて複数のグループまたはクラスタのうちの1つに画像を割り当てる。
【0060】
一実施形態では、プロセッサ102は、対象物の画像(例えば、セットアップ画像)を受信し、各画像内の対象物の外観に基づいて画像をクラスタにグループ化する。連続する画像が受信されると(例えば、セットアップ画像が取得された後に取得される検査画像)、クラスタに割り当てられ、少なくともクラスタにグループ化されたセットアップ画像と比較される。これにより、透視歪みの結果を低下させることなく現在の検査画像に匹敵する同じタイプの対象物の画像のグループが確実にされる。連続する画像におけるにおける対象物の欠陥は、比較に基づいて検出され得る。いくつかの実施形態では、プロセッサ102は、例えば、ユーザの承認のために、検出された欠陥を(例えば、ユーザインターフェースデバイス106を介して)を表示させる。
【0061】
いくつかの実施形態では、クラスタ(通常、各クラスタに関連する画像データ)は、参考画像データベース(例えば、ストレージデバイス108で維持されてもよい)に格納され、これは検査画像における欠陥検出のために後で使用される。いくつかの実施形態では、画像データは、参考画像が1つ以上の基準に基づいてクラスタにリンクされるようにデータベース内で維持される。例えば、
図1Aを参照すると、セットアップ画像11および12は、クラスタAを定義する基準(例えば、角度の値または角度の範囲として表現することができる位置)へのリンクと参考画像データベースに格納されてもよく、セットアップ画像13および14は、クラスタBを定義する基準へのリンクと参考画像データベースに格納されてもよい。
【0062】
検査段階では、検査画像(例えば、検査画像15)の基準(通常、基準の値)は、例えば、プロセッサ102によって決定される。
図1Aおよび1Bに示される例では、基準は位置であり、値は例えば、画像内の点に対する回転角度である。決定された基準および/または基準の値に基づいて、参考画像の適切なクラスタが容易に識別され、検査画像の参考として使用される。この場合、参考画像の適切なクラスタは、検査画像の同じまたは同様の基準および/または値によって定義されるクラスタとなる。
【0063】
その一例が
図1Cに概略的に示されるいくつかの実施形態では、プロセッサ102は、例えば、ユーザインターフェースデバイス106を介して、クラスタ(例えば、このクラスタに割り当てられた画像)またはクラスタの表現を表示させてもよい。次に、ユーザは、各クラスタを承認または不承認するために、ユーザインターフェースデバイス106を介して入力を提供してもよい。いくつかの実施形態では、クラスタID21、クラスタに含まれる画像22の数、および/またはクラスタに関する他の情報、ユーザ23への指示、およびアクションボタン24を表示することができる。
【0064】
各クラスタは、1つ以上の代表物、例えば、平均、中央値、またはクラスタからの他の代表対象物によって表されてもよい。したがって、ユーザにクラスタを表示することは、各クラスタの代表物を表示することを含んでもよい。
【0065】
いくつかの実施形態では、各クラスタは、対象物を囲う外形によって表される。外形は、対象物を囲う線、例えば、色付き線、破線または他のスタイルの線として、または、ユーザが通常見ることができる任意の他のインジケーションとしてディスプレイ(例えば、ユーザインターフェースデバイス106のディスプレイ)に表示されてもよい。
【0066】
例えば、モニタ20は、クラスタを描写する対象物の1つの代表物16、および任意選択的にすべての撮像された対象物の位置決めを示すグラフィカルマーク16’および16’’などを表示することによって異なるクラスタCおよびDを表示してもよい。それにより、ユーザはすべての撮像された対象物に関連して各クラスタに何が含まれるかをよりよく理解することができる。
【0067】
いくつかの実施形態では、ユーザ要求があると、特定のクラスタの個々の画像が表示されてもよい。例えば、ユーザは、クラスタの表示された代表物(例えば、代表物16)をクリックして、該クラスタに割り当てられた個々の画像を表示する新しいウィンドウまたはスクリーンを開いてもよい。それにより、本発明の実施形態によるユーザインターフェースは、全体としてクラスタを承認または不承認(例えば、削除)する、および/またはクラスタ内の個々の画像をユーザによって承認および/または不承認することを可能にする。
【0068】
クラスタが対象物の完全な表現を確実にするに十分な画像を含まない場合(本明細書および以下でさらに説明するように)、クラスタは「不完全」なステータスにあると決定され、十分な画像を含むクラスタは「完全」なステータスにあると決定されてもよい。
【0069】
いくつかの実施形態では、目視検査のためのシステムは、ディスプレイ(例えば、ユーザインターフェースデバイス106のモニタ)と通信するプロセッサ102を含み、検査ライン上の対象物の画像を受信し、画像内の対象物を検出し、画像内の対象物の外観に基づいて(例えば、画像内の対象物の空間的特徴に基づいて)画像をクラスタに割り当てる。プロセッサ102は、クラスタのステータスを決定し、クラスタのステータスのインジケーションとともにクラスタの代表物を表示させてもよい。クラスタのステータスのインジケーションは、ステータスごとに異なる視覚的特性を含んでもよい。例えば、視覚的特性は色であってもよく、完全なクラスタの代表物は不完全なクラスタの代表物とは異なる色で表示され得る。いくつかの実施形態では、プロセッサ102は、対象物が割り当てられたクラスタに応じて対象物の画像(例えば、画像11または12内の対象物10)にインジケーションが現れるようにしてもよい。プロセッサ102は、画像内の対象物が検出された場合は第1の視覚的特性(例えば、色または他の視覚的マーク)を表示させ、対象物が割り当てられたクラスタのステータスを示すために第2の視覚的特性を表示させてもよい。
【0070】
図3Aに概略的に示される一実施形態では、目視検査のセットアッププロセスのための方法がプロセッサ102によって実施されてもよい。この方法は、対象物の画像の第1の組基づいて対象物の視覚的外観を決定すること(302)を含む。同じタイプの対象物の画像の第2の組が取得され(304)、第1の組の画像の分析に基づいて、同じタイプの対象物が第2の組の画像において識別される(306)。第2の組からの各画像は、基準に基づいて複数のクラスタのうちの1つ(またはそれ超)に割り当てられ(308)、クラスタ(通常、クラスタに割り当てられた画像の画像データ)は参考画像のデータベースを更新するために使用される(310)。更新されたデータベースからの参考画像は、欠陥検出やその他の検査タスクを可能にするために検査段階で使用される。更新されたデータベースからの参考画像は、次に検査段階において使用され、欠陥検出および/または他の検査タスクを可能にする。
【0071】
図3Bに概略的に示される別の実施形態では、セットアップ段階中に、画像は、クラスタが十分な参考画像を含み、撮像パラメータの最適化を達成するまで、クラスタに割り当てられ、その後、プロセスは検査段階に進む。
【0072】
上述のとおり、アイテムの本質的に完全な表現が達成されると、十分な参考画像が収集される。例えば、対象物の完全な表現は、新しい検査画像各々が、検査画像の歪みのない参考として使用され得、かつ、撮像されたアイテムに典型的な許容誤差および変動を示す参考画像のグループをクラスタ内に有する場合に達成される。
【0073】
そのため、一実施形態では、目視検査方法は、通常、各画像内の対象物の外観に基づいて、対象物の画像をクラスタに割り当てること(312)を含む。各クラスタについて、対象物の完全な表現が達成されたかどうかが決定される(314)。対象物の完全な表現が達成された場合、クラスタは検査段階に進んでもよい(316)。すなわち、クラスタに割り当てられた連続する画像は、例えば、連続する画像をクラスタ内の画像と比較することによって、欠陥について検査される。
【0074】
対象物の完全な表現が達成されない場合(314)、クラスタ(通常、連続する画像内の対象物の外観に基づく)に割り当てられた連続する画像が参考画像として使用される。すなわち、連続する画像は、参考画像のデータベースを更新するために使用され、検査アルゴリズム(例えば、欠陥検出アルゴリズム)は連続する画像に適用されない。
【0075】
場合によっては、検査段階中、対象物の完全な表現がまだ達成されていないために、欠陥について検査することができないクラスタに割り当てられた画像が取得されてもよい。一実施形態では、検査プロセスをさえぎりながらクラスタが対象物の完全な表現を達成するのを待つのではなく、対象物の完全な表現を達成するためにクラスタに十分な画像が割り当てられるまで画像は格納されてもよく、完全なクラスタに割り当てられた追加の画像は検査されてもよい。一旦十分な画像がクラスタに割り当てられると、クラスタは完全となる。完全なクラスタおよび/または完全なクラスタからの画像は、ユーザ確認のために表示(例えば、ユーザインターフェースデバイス106を介して)されてもよい。一旦クラスタが完全になると、任意選択的にユーザ承認の後、画像は、遡及的に完全なクラスタと比較され、クラスタの完成前に取得された画像内の欠陥が検出されてもよい。そのため、欠陥は、クラスタに割り当てられた画像において遡及的に検出されてもよい。
【0076】
いくつかの実施形態では、対象物の完全な表現が達成されたかを決定することは、クラスタに割り当てられた画像を互いと比較することを含む。例えば、クラスタに割り当てられた各画像を、クラスタ内のすべての他の画像の歪みのない参考として使用することができるかを決定することは、クラスタ内の画像を互いと比較することで決定され得る。
【0077】
いくつかの実施形態では、クラスタは、所定の数の画像を含む。所定の数は、対象物の特性に特有であってもよい(例えば、2D対象物に対するクラスタは3D対象物に対するクラスタよりも少ない参考画像を必要としてもよく、これは、例えば、焦点深度技術を用いて定義され得る)。そのため、一実施形態では、対象物の完全な表現が達成されたかを決定することは、クラスタ内の画像の数を決定することを含む。例えば、所定の数の画像がクラスタ内にある場合、対象物の完全な表現が達成されたと決定されてもよい。
【0078】
一実施形態では、目視検査方法は、画像内の対象物の外観に基づいてクラスタに対象物の画像を割り当てることを含む。一実施形態では、クラスタのステータス(例えば、「完全」または「不完全」)は、クラスタが対象物の完全な表現を達成したか否かの決定に基づいて決定される。次に、プロセッサは、クラスタのステータスに基づいて画像に検査アルゴリズムを適用するか否かを決定する。これにより、すべてのクラスタが対象物の完全な表現を達成する前に、いくつかの対象物の検査を達成することが可能になる。
【0079】
例えば、
図3Aおよび3Bに例示されるような、本発明の実施形態による方法は、対象物に対するすべての可能な参考画像が取得される前、すなわち、セットアップ段階が完了する前でも、画像が割り当てられるクラスタに基づいていくつかの画像が検査に進むことができる改善された目視検査方法を可能にする。これにより、検査を早期に開始して、中断を最小限に抑え、プロセス中の特定のポイントにユーザの関与を集中させて進めることができるため、検査プロセスが大幅に合理化することができる。
【0080】
いくつかの実施形態では、クラスタは、参考画像のデータベースを更新する前に、承認のためにユーザに表示されてもよい。
【0081】
一実施形態では、画像の第1の組は、欠陥のないアイテムの画像のみを含み、画像の第2の組は、必ずしも欠陥がないわけではない画像を含む。そのため、必ずしも欠陥がないわけではない画像は、本発明の実施形態によると、セットアップ段階で使用することができる。
【0082】
例が
図4に概略的に示されるこの実施形態では、画像の第2の組は、画像の第1の組から決定された対象物の視覚的外観に基づいて、欠陥について分析され得る。本例では、対象物の視覚的外観は、欠陥のない対象物の画像の第1の組に基づいて決定される(402)。
【0083】
同じタイプの対象物の画像の第2の組が取得される(404)。第2の組の同じタイプの対象物は欠陥がなくても、欠陥があってもよい。同じタイプの対象物は識別され、第1の組で検出された視覚的外観に基づいて第2の組の画像における同じタイプの対象物で欠陥が検出されてもよい(406)。上述のとおり、第2の組からの各画像は、基準に基づいて複数のクラスタのうちの1つ以上に割り当てられ(408)、クラスタは参考画像のデータベースを更新するために使用される。
【0084】
ステップ(406)において検出された欠陥は、承認のためにユーザに表示される(410)。任意選択的には、クラスタも承認のためにユーザに表示に表示され得る。
【0085】
ユーザは、例えば、ユーザインターフェースデバイス106を介して、検出された欠陥が実際に欠陥であるか、または欠陥としてみなされないかを示してもよい。プロセッサ102は、ユーザ入力に基づいて欠陥検出アルゴリズムを更新してもよい。そのため、欠陥であってもなくてもよい第2の組の画像における変更は、クラスタの基準に該当する変更でなくてもユーザ承認のために提示され得、欠陥検出アルゴリズムは検査段階の開始前に微調整されてもよく、それによって目視検査プロセスをさらに合理化する。
【0086】
クラスタは、例えば、プロセッサ102によって事前に定義された基準に基づいておよび/または画像から検出された基準に基づいて作成されてもよい。いくつかの実施形態では、クラスタ閾値が決定され、これは画像がどのクラスタに割り当てられるかを決定するために画像がチェックされる閾値である。
【0087】
例えば、
図5に概略的に示されるように、プロセッサ102は、画像(参考または検査画像)を受信し(502)、画像を確認された画像の既存の組、通常参考画像と比較することができる(504)。比較に基づいて、プロセッサ102は、画像に対する基準を決定することができる(506)。例えば、画像内の対象物が、確認された画像の組内の対象物と比較して回転して位置決めされる場合、「位置決め」の基準が決定されてもよいおよび/または基準の値が決定されてもよい(例えば、確認された画像の組内の対象物と比較した回転角度)。基準を決定するために使用されてもよい画像間の差のいくつかの例では、画像フレーム(またはカメラFOVまたはカメラFOV内の点)に関連する変更された角度または位置、カメラFOVに対する1つ以上の軸における回転、カメラFOVに対するスケールの変更、対象物上の形状の変更および/または異なる視覚的パターンを含む。
【0088】
クラスタ閾値は、画像と確認された画像の組との間の差に基づいて決定されてもよい(508)。通常、クラスタ閾値は、基準に基づいておよび/または基準の値に基づいて決定される。例えば、クラスタ閾値は、角度の値または値の範囲、対象物のサイズおよび/または形状、視覚的マークの数または数の範囲、視覚的マークのサイズまたはサイズの範囲、対象物内の視覚的マークの場所または場所の範囲、視覚的マークの色または色の範囲などを含んでもよい。
【0089】
クラスタ閾値は、上限と下限など、2つの制限の間の範囲を含んでもよい。
【0090】
そのため、本発明の実施形態による方法は、所定の数の画像をクラスタにグループ化するステップを含んでもよく、クラスタに対する閾値は所定の数に基づいて決定される。
【0091】
他の実施形態では、閾値は、基準および対象物に基づく。
【0092】
そのため、例えば、第1の範囲内の角度によって確認された画像の組の画像内の対象物に関連して回転される同じタイプの対象物は、第1のクラスタを定義するか、またはそれに割り当てられてもよい。赤い丸のパターンを持つ同じタイプの対象物は、第2のクラスタを定義するまたはそれに割り当てることができ、緑の丸のパターンを持つ同じタイプの対象物は、第3のクラスタを定義する、またはそれに割り当てることができる。
【0093】
いくつかの実施形態では、単一の画像が2つ以上のクラスタに割り当てられてもよい。例えば、第1のクラスタ閾値は、第1の範囲の角度を含んでもよく、第2のクラスタ閾値は第1の範囲と部分的にオーバーラップする第2の範囲の角度を含んでもよい。対象物の位置決めがオーバーラップ内の角度である画像は、第1および第2のクラスタの両方に割り当てられてもよい。別の例では、単一の画像は、第1の基準(例えば、位置決め)に基づいて第1のクラスタに、第2の基準(例えば、目に見えるマーキング)に基づいて第2のクラスタに割り当てられてもよい。そのため、画像に対する欠陥検出のような検査タスクは、1つ以上のクラスタとの比較に基づいて実施されてもよい。
【0094】
一実施形態では、この方法は、第1の画像における基準の値と第2の画像における基準の値との差が閾値より大きい場合は、第1の画像を第1のクラスタに割り当て、第2の画像を第2のクラスタに割り当てることを含む。
【0095】
図6に概略的に示されるように、プロセッサ102は画像を受信し、画像の基準(および/または基準の値)を決定されてもよい(例えば、
図5に説明されるように)(602)。基準(および/または値)は、クラスタの基準、例えば、参考画像データベースからのクラスタAの基準(および/または値)と比較される(604)。画像の基準(および/または値)がクラスタAの基準(および/または値)と同じ場合(606)、画像はクラスタAに割り当てられる(608)。画像の基準(および/または値)がクラスタAの基準(および/または値)と同じでない場合(606)、画像の基準および/または値はクラスタAの閾値と比較される。画像の基準(および/または値)がクラスタAの閾値内(または上あるいは下)の場合(610)、画像はクラスタAに割り当てられる(608)。しかしながら、画像の基準(および/または値)がクラスタAの閾値内(または上あるいは下)でない場合(610)、例えば、基準およびその値がクラスタBの閾値と互換性がある場合、画像は別のクラスタ(例えば、クラスタB)に割り当てられる(612)。
【0096】
クラスタの基準および/または閾値は、例えば、検査対象の特定のタイプの対象物に応じて、事前に決定されてもよく、または動的であってもよい。
【0097】
図7Aに概略的に示される例では、パターン712を上に有する2次元対象物702が2つの画像71および72に示されている。対象物702は、(一点鎖線矢印で示すように)画像71と比較して画像72内で90°回転されるが、パターン712は、両方の画像71および72で見られる。そのため、画像71および72は、考えられる限りでは、対象物上の広範囲の目に見えるパターンによって定義される単一のクラスタに割り当てられ得る。
【0098】
図7Bに概略的に示される例では、対象物703は、画像73において見えるように、対象物の第1の表面(a)上のパターン713および対象物の第2の表面(b)上のパターン714を有する3次元対象物である。画像74内の対象物703は、(一点鎖線矢印で示すように)画像73内の対象物703と比較して90°長手軸に沿って回転される。この場合、回転により、対象物703の第1の表面(a)が閉じられ、第2の表面(b)は見えたままである。その結果、画像74においてパターン714は見えるがパターン713は見えない。画像73と74において異なるパターンが見られるため、これらの画像は同じクラスタに割り当てられない。
【0099】
一例では、所定の数の画像(例えば、20個)がクラスタにグループ化されてもよい。他の場合では、クラスタ内の画像の数は事前に決定されず、むしろ、検査対象の特定のタイプの対象物に依存する。例えば、クラスタは、上述のように、各参考画像が歪みのない参考として使用され得る空間範囲を決定することを可能にするに十分な画像を含んでもよい。
【0100】
一例では、外形は対象物(可能性として、平均または他の代表対象物)の周りに作成されてもよく、外形はクラスタ閾値として使用される。例えば、対象物が外形内に収まるすべての画像が同じクラスタに割り当てられてもよい。2D対象物を表す外形は、対象物の輪郭に大まかに従うが、3D対象物を表す外形は、通常、対象物の輪郭により厳密に従う。
【0101】
本発明の実施形態は、最小限のユーザの関与で、検査タスクの性能を改善するように参考画像の広範なデータベースを作成することを可能にする。
【国際調査報告】