IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ パナソニックIPマネジメント株式会社の特許一覧

特開2024-130933外観検査支援方法、外観検査支援システムおよびプログラム
<>
  • 特開-外観検査支援方法、外観検査支援システムおよびプログラム 図1
  • 特開-外観検査支援方法、外観検査支援システムおよびプログラム 図2
  • 特開-外観検査支援方法、外観検査支援システムおよびプログラム 図3
  • 特開-外観検査支援方法、外観検査支援システムおよびプログラム 図4
  • 特開-外観検査支援方法、外観検査支援システムおよびプログラム 図5
  • 特開-外観検査支援方法、外観検査支援システムおよびプログラム 図6
  • 特開-外観検査支援方法、外観検査支援システムおよびプログラム 図7
  • 特開-外観検査支援方法、外観検査支援システムおよびプログラム 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024130933
(43)【公開日】2024-09-30
(54)【発明の名称】外観検査支援方法、外観検査支援システムおよびプログラム
(51)【国際特許分類】
   G01N 21/88 20060101AFI20240920BHJP
【FI】
G01N21/88 Z
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2023040903
(22)【出願日】2023-03-15
(71)【出願人】
【識別番号】314012076
【氏名又は名称】パナソニックIPマネジメント株式会社
(74)【代理人】
【識別番号】110002000
【氏名又は名称】弁理士法人栄光事務所
(72)【発明者】
【氏名】井村 康治
(72)【発明者】
【氏名】堀内 孝治
(72)【発明者】
【氏名】濱田 匡夫
(72)【発明者】
【氏名】平澤 園子
【テーマコード(参考)】
2G051
【Fターム(参考)】
2G051AA07
2G051AA89
2G051AB07
2G051AC15
2G051BA20
2G051BC04
2G051CA03
2G051CA04
2G051CA06
2G051CB01
2G051CD02
(57)【要約】
【課題】検出が困難な異常を検出可能な条件を収集する。
【解決手段】外観検査支援方法は、対象物の表面に存在する欠陥である異常を撮影するカメラと対象物に対して照明光を照射する照明とを第1位置に移動させる第1のステップと、カメラの対象物に対する撮影角度を設定し、対象物に対する照明光の照射角度を設定し、カメラで撮影した対象物の撮影画像を画像処理し、画像処理した結果から異常を検出したか否かを判定する第2のステップと、第2のステップで異常を検出したと判定した場合、異常を検出した際のカメラおよび照明の位置、撮影角度および照射角度をデータベースに登録する第3のステップと、を備える。
【選択図】図1
【特許請求の範囲】
【請求項1】
対象物の表面に存在する欠陥である異常を撮影するカメラと前記対象物に対して照明光を照射する照明とを第1位置に移動させる第1のステップと、
前記カメラの前記対象物に対する撮影角度を設定し、前記対象物に対する照明光の照射角度を設定し、前記カメラで撮影した前記対象物の撮影画像を画像処理し、画像処理した結果から前記異常を検出したか否かを判定する第2のステップと、
前記第2のステップで前記異常を検出したと判定した場合、前記異常を検出した際の前記カメラおよび前記照明の位置、前記撮影角度および前記照射角度をデータベースに登録する第3のステップと、を備える、
外観検査支援方法。
【請求項2】
前記第2のステップで前記異常を検出していないと判定した場合、前記カメラと前記照明とを前記第1位置とは異なる第2位置に移動し、前記第2のステップを実行する、
請求項1に記載の外観検査支援方法。
【請求項3】
前記第1のステップにおいて前記カメラと前記照明との移動する位置に関する移動点リストを取得し、前記移動点リストに含まれる全ての位置に対して前記第2のステップおよび前記第3のステップを実行する、
請求項1に記載の外観検査支援方法。
【請求項4】
前記第3のステップにおいて、前記撮影画像、前記対象物の属性情報、前記異常の種類または前記異常の大きさをさらにデータベースに登録する、
請求項1に記載の外観検査支援方法。
【請求項5】
前記第2のステップは、前記カメラのズーム倍率を設定し、前記照明の照明光の強度を設定するステップをさらに含む、
請求項1に記載の外観検査支援方法。
【請求項6】
入力された検索条件に基づき前記データベースに登録されている異常の情報を検索し、検索された異常の情報を表示デバイスに表示する第4のステップを、さらに備える、
請求項4に記載の外観検査支援方法。
【請求項7】
前記異常の情報は、前記カメラの位置、前記照明の位置、前記撮影角度、前記照射角度、前記対象物の属性情報、前記異常の種類または前記異常の大きさである、
請求項6に記載の外観検査支援方法。
【請求項8】
前記第4のステップにおいて、前記異常の情報を基に前記対象物に対する前記照明の位置および角度と、前記対象物を見る人物の目の位置および角度との情報を含む模式図を生成し、前記模式図を前記表示デバイスに表示する、
請求項6に記載の外観検査支援方法。
【請求項9】
前記第4のステップにおいて、前記異常の情報のリストと、前記模式図と、前記撮影画像と、を含む表示画面を生成し、前記表示デバイスに表示する、
請求項8に記載の外観検査支援方法。
【請求項10】
入力された検索条件に基づき前記データベースから前記検索条件に適合する前記カメラの撮影条件および前記照明の照明条件を検索し、前記撮影条件および前記照明条件の下で撮影した撮影画像を画像処理し、画像処理した結果から前記異常を検出したか否かを判定する第5のステップを、さらに備える、
請求項1に記載の外観検査支援方法。
【請求項11】
対象物の表面に存在する欠陥である異常を撮影するカメラと前記対象物に対して照明光を照射する照明とを第1位置に移動させる駆動制御部と、
前記カメラの前記対象物に対する撮影角度を設定し、前記対象物に対する照明光の照射角度を設定するカメラ照明制御部と、
前記対象物を撮影した撮影画像を画像処理し、画像処理した結果から前記異常を検出したか否かを判定する画像処理部と、
前記画像処理部が前記異常を検出したと判定した場合、前記異常を検出した際の前記カメラおよび前記照明の位置、前記撮影角度および前記照射角度を登録するデータベースと、を備える、
外観検査支援システム。
【請求項12】
対象物の表面に存在する欠陥である異常を撮影するカメラと前記対象物に対して照明光を照射する照明とを第1位置に移動させる処理と、
前記カメラの前記対象物に対する撮影角度を設定し、前記対象物に対する照明光の照射角度を設定する処理と、
前記対象物を撮影した撮影画像を画像処理し、画像処理した結果から前記異常を検出したか否かを判定する処理と、
前記異常を検出したと判定した場合、前記異常を検出した際の前記カメラおよび前記照明の位置、前記撮影角度および前記照射角度をデータベースに登録する処理と、をコンピュータに実行させる、
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、外観検査支援方法、外観検査支援システムおよびプログラムに関する。
【背景技術】
【0002】
特許文献1には、検査対象となる車両の車体側面部である塗装面をカメラで撮影し、主制御装置の傷検出部での画像処理により傷候補を抽出する検査装置が開示されている。検査装置は、傷検出部では画像解析により抽出した傷候補の明度の標準偏差分布と傷候補の総数および傷候補の形状変動率を個別パラメータとしてそれぞれ求めた上で、それらの個別パラメータを加算した評価パラメータとしてサポートベクターマシンを用いた傷の類似度を求める。また、検査装置は、この傷の類似度が判定しきい値よりも大きいときに傷候補を傷と判定する。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2015-184143号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来、製造された車等において、外観(例えば、塗装面)に傷または凹み等の異常がないか調べる検査が検査者等の人物の目視で行われる。
【0005】
特許文献1では、塗装面のうち照明を用いて照明光の照射部分をカメラで撮影し、撮影画像を解析することで傷を検出する。しかしながら、非常に微細な傷または凹み(例えば、マイクロメートルオーダの大きさ)等の異常は、検査対象物に対する照明の角度とカメラの角度とが適切な状態にならないと検出できないため、カメラ等の機械を用いて自動で全て検出するのは難しい。一方、人物による目視の検査においても、非常に微細な傷または凹み等は検査対象物に当てる照明の角度と見る角度とが適切でないと確認できないため、経験を積んだ技能レベルの高い熟練した人物でないと十分に検査が行えないという課題がある。また、数センチメートルオーダの比較的大きい異常であっても、例えば、浅い傷である場合等、機械での検出および目視での確認が難しい場合がある。
【0006】
このように、異常の検出方法は、人物の経験に依存するため、照明の角度および検査対象を見る角度のパラメータを定量化するのが難しいという課題がある。
【0007】
本開示は、上述した従来の状況に鑑みて案出され、検出が困難な異常を検出可能な条件を収集することを目的とする。
【課題を解決するための手段】
【0008】
本開示は、対象物の表面に存在する欠陥である異常を撮影するカメラと前記対象物に対して照明光を照射する照明とを第1位置に移動させる第1のステップと、前記カメラの前記対象物に対する撮影角度を設定し、前記対象物に対する照明光の照射角度を設定し、前記カメラで撮影した前記対象物の撮影画像を画像処理し、画像処理した結果から前記異常を検出したか否かを判定する第2のステップと、前記第2のステップで前記異常を検出したと判定した場合、前記第1位置、前記撮影角度および前記照射角度をデータベースに登録する第3のステップと、を備える、外観検査支援方法を提供する。
【0009】
また、本開示は、対象物の表面に存在する欠陥である異常を撮影するカメラと前記対象物に対して照明光を照射する照明とを第1位置に移動させる駆動制御部と、前記カメラの前記対象物に対する撮影角度を設定し、前記対象物に対する照明光の照射角度を設定するカメラ照明制御部と、前記対象物を撮影した撮影画像を画像処理し、画像処理した結果から前記異常を検出したか否かを判定する画像処理部と、前記画像処理部が前記異常を検出したと判定した場合、前記第1位置、前記撮影角度および前記照射角度を登録するデータベースと、を備える、外観検査支援システムを提供する。
【0010】
また、本開示は、対象物の表面に存在する欠陥である異常を撮影するカメラと前記対象物に対して照明光を照射する照明とを第1位置に移動させる処理と、前記カメラの前記対象物に対する撮影角度を設定し、前記対象物に対する照明光の照射角度を設定する処理と、前記対象物を撮影した撮影画像を画像処理し、画像処理した結果から前記異常を検出したか否かを判定する処理と、前記異常を検出したと判定した場合、前記第1位置、前記撮影角度および前記照射角度をデータベースに登録する処理と、をコンピュータに実行させる、プログラムを提供する。
【0011】
なお、これらの包括的または具体的な態様は、システム、装置、方法、集積回路、コンピュータプログラム、または、記録媒体で実現されてもよく、システム、装置、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
【発明の効果】
【0012】
本開示によれば、検出が困難な異常を検出可能な条件を収集することができる。
【図面の簡単な説明】
【0013】
図1】実施の形態1の外観検査支援システム構成図
図2】移動点リストの一例を示す図
図3】異常の検出およびデータベースへの登録処理のフローチャート
図4】実施の形態2の外観検査支援システムのシステム構成図
図5】表示画面の一例を示す図
図6】実施の形態3の外観検査支援システムのシステム構成図
図7】検査対象物を検査する処理のフローチャート
図8】検査対象物の外観全体を検査する処理のフローチャート
【発明を実施するための形態】
【0014】
以下、図面を適宜参照して、本開示に係る外観検査支援方法、外観検査支援システムおよびプログラムを具体的に開示した実施の形態について、詳細に説明する。ただし、必要以上に詳細な説明は省略する場合がある。例えば、すでによく知られた事項の詳細説明および実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面および以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の記載の主題を限定することは意図されていない。
【0015】
従来、製造された物品において、外観に傷または凹み等の異常に関する検査が行われる。ここで、物品は、例えば、車、溶接、金属部品または化粧品等の商品である。外観検査は、カメラおよび照明を用いて自動で検出を行う場合、小さな異常(数ミリメートルもしくは数マイクロメートルの大きさの傷等)はカメラおよび照明の角度の条件が適切でないと検出できないため、全てを自動で検出するのが難しいという課題がある。また、異常が数センチメートル以上の大きさのあるものであったとしても、傷が浅い等の理由で検出するのが難しい場合もある。
【0016】
上述した理由から、外観検査では最終的に検査者の目視によって行われる。しかしながら、目視による外観検査(以下、目視検査と称する)においても見る角度と物品に当てる光の角度とが傷に対して適切な角度とならないとみることができず、経験のある熟練者でないと異常の発見が難しい。さらに、目視検査では、検査者の経験で得た直感に依存するところが大きく、目視検査を他者に教え新たな検査者を教育するのが難しいという課題がある。このような状況から、熟練した検査者が目視で発見した、通常発見が困難な異常を検出可能な条件(カメラの撮影条件および照明条件)をデータベース化したいというニーズがある。
【0017】
(実施の形態1)
まず、実施の形態1では、熟練した検査者が目視で発見した確認が困難な異常を検出可能な条件を収集しデータベースに登録する方法について説明する。
【0018】
図1を参照して、実施の形態1の外観検査支援システム構成について説明する。図1は、実施の形態1の外観検査支援システム構成図である。
【0019】
外観検査支援システム1は、検出装置10、駆動・登録装置20およびデータベースDBを含む。外観検査支援システム1は、検出装置10でワークWKを撮影し、ワークWKに含まれる異常SCをデータベースDBに登録する。
【0020】
検出装置10は、ワークWKを撮影する装置である。検出装置10は、カメラ11、照明12、駆動装置13,14およびレール15,16を含む。
【0021】
カメラ11は、ワークWKを撮影する。カメラ11は、レール15を移動する駆動装置13に取付けられる。カメラ11は、駆動装置13によってレール15を移動することでワークWKを様々な位置から撮影することができる。カメラ11は、チルト機構を有しワークWKに対してチルト回転自在であってもよいし、パン機構を有しワークWKに対しパン回転自在であってもよい。カメラ11は、少なくとも光学素子としてのレンズ(不図示)とイメージセンサ(不図示)とを有して構成される。レンズは、カメラ11の撮影した領域の画角内からの対象物により反射された光を入射してイメージセンサの受光面(言い換えると、撮影面)に対象物の光学像を結像する。イメージセンサは、例えばCharged Coupled Device(以下、「CCD」と称する)あるいはComplementary Metal Oxide Semiconductor(以下、「CMOS」と称する)などの固体撮影素子である。イメージセンサは、所定時間(例えば1/30(秒))ごとに、レンズを介して撮影面に結像した光学像を電気信号に変換する。例えば、所定時間が1/30(秒)である場合、カメラ11のフレームレートは30fpsとなる。また、カメラ11は、上述した所定時間ごとに、電気信号に所定の信号処理を施すことで画像データ(映像データ)を生成してもよい。カメラ11は、画像データ(映像データ)を通信I/F22を介して画像処理部214に出力する。なお、カメラ11は画像データと映像データとのどちらを画像処理部214に出力してもよいが、説明の便宜上画像データを出力することとし、以下、撮影画像と称する。
【0022】
カメラ11は、例えば、ズームレンズまたはフォーカスレンズ等の複数のレンズ(不図示)を有しワークWKに対するピント(フォーカス)調整およびワークWKの倍率(ズーム倍率)調整を行うことが可能である。
【0023】
照明12は、ワークWKに照明光を照射する。照明12は、例えば、Light Emitting Diode(以下、「LED」と称する)ライトまたは白色ランプ等である。照明12は、レール16を移動する駆動装置14に取付けられる。照明12は、駆動装置14によってレール16を移動することでワークWKを様々な位置から照らすことができる。照明12は、チルト機構を有しワークWKに対してチルト回転自在であってもよいし、パン機構を有しワークWKに対しパン回転自在であってもよい。
【0024】
駆動装置13は、カメラ11が接続されレール15内を移動する装置である。駆動装置14は、照明12が接続されレール16内を移動する装置である。駆動装置13,14は、例えば、アクチュエータである。駆動装置13は、駆動制御部211から通信I/F22を介して受信した信号に基づきレール15内を移動する。駆動装置14は、駆動制御部212から通信I/F22を介して受信した信号に基づきレール16内を移動する。
【0025】
レール15,16は例えば2次元平面内における格子形状、直線形状、略円形状またはそれらを組合せた任意の形状のレールである。また、レール15,16は、カメラ11および照明12が3次元空間内を移動できるよう、井桁形状またはドーム形状であってもよい。
【0026】
駆動・登録装置20は、検出装置10から取得した撮影画像を解析し異常SCの情報をデータベースDBに登録する装置である。駆動・登録装置20は、プロセッサ21、通信I/F22、メモリ23、入力デバイス24および通信I/F25を含む。
【0027】
プロセッサ21は、例えばCentral Processing Unit(以下、「CPU」と称する)、Digital Signal Processor(以下、「DSP」と称する)、Graphical Processing Unit(以下、「GPU」と称する)もしくはField Programmable Gate Array(以下、「FPGA」と称する)である。プロセッサ21は、駆動・登録装置20の全体的な動作を司るコントローラとして機能する。プロセッサ21は駆動・登録装置20の各部の動作を統括するための制御処理、駆動・登録装置20の各部との間のデータの入出力処理、データの演算処理およびデータの記憶処理を行う。プロセッサ21は、メモリ23に記憶されたプログラムに従って動作する。プロセッサ21は、動作時にメモリ23を使用し、プロセッサ21が生成または取得したデータをメモリ23に一時的に保存する。プロセッサ21は、メモリ23に記憶されたプログラムおよびデータを用いることで、駆動制御部211,212、移動指示部213、画像処理部214、カメラ・照明制御部215およびデータベース登録部216のそれぞれの機能を実現する。
【0028】
駆動制御部211は、移動指示部213から受信したカメラ11のレール15に対する位置を制御する信号を基に通信I/F22を介して駆動装置13を制御する。駆動制御部212は、移動指示部213から受信した照明12のレール16に対する位置を制御する信号を基に通信I/F22を介して駆動装置14を制御する。
【0029】
移動指示部213は、メモリ23に保存されているカメラ11および照明12のレール15,16内の位置に関する移動点リストLI(図2参照)に基づきカメラ11の位置に関する制御信号を駆動制御部211に出力する。移動指示部213は、メモリ23に保存されている移動点リストLIに基づき照明12の位置に関する制御信号を駆動制御部212に出力する。また、移動指示部213は、画像処理部214が解析した画像(以下、解析画像と称する)および撮影時刻等の情報をデータベース登録部216に出力する際、カメラ11および照明12の位置の情報をデータベース登録部216に出力する。
【0030】
画像処理部214は、カメラ11から受信した撮影画像の解析処理を行いワークWKに存在する異常SCを検出する。画像処理部214は、例えば、ノイズの除去と二値化処理を用いて撮影画像を処理し、ブロブ解析をすることで解析画像内の異常SCの有無および異常SCの大きさと形状とを特定する。また、画像処理部214は、エッジ検出処理を用いて解析画像内の異常SCの有無および異常SCの大きさと形状とを特定してもよい。また、画像処理部214は画像認識等の公知のArtificial Intelligence(以下、「AI」と称する)技術を用いて解析画像内の異常SCの有無および異常SCの大きさと形状とを特定してもよい。画像処理部214は、解析画像に異常SCがある場合、解析した解析画像および解析結果をデータベース登録部216に出力する。解析結果とは、異常SCの大きさ、形状および種類等の情報である。異常SCの種類とは、例えば、傷、凹みまたは汚れ等である。なお、画像処理部214は、異常SCが検出できなかった解析画像に関してもデータベース登録部216に出力してもよい。また、画像処理部214は、解析画像に異常SCがある場合、撮影画像をデータベース登録部216に出力してもよいし、解析画像および撮影画像の両方を出力してもよい。
【0031】
カメラ・照明制御部215は、カメラ11および照明12のワークWKに対する角度(つまり、チルト回転およびパン回転)を制御する。また、カメラ・照明制御部215は、照明12の照明光の強さ、カメラ11のズーム倍率およびピントを制御する。カメラ・照明制御部215は、制御信号を通信I/F22を介してカメラ11および照明12に出力する。カメラ・照明制御部215は、画像処理部214が解析画像および撮影時刻等の情報をデータベース登録部216に出力する際、カメラ11および照明12のワークWKに対する角度、照明12の照明光の強さ、カメラ11のズーム倍率およびピントの情報をデータベース登録部216に出力する。
【0032】
データベース登録部216は、移動指示部213から受信した情報、画像処理部214から受信した情報およびカメラ・照明制御部215から受信した情報を紐づけて通信I/F25を介してデータベースDBに送信し、データベースDBに登録する。
【0033】
通信I/F22は、検出装置10と駆動・登録装置20との間で無線または有線で通信を行うインターフェース回路である。ここでI/Fは、インターフェースのことを表す。検出装置10と駆動・登録装置20との通信は、ネットワークを介してもよい。通信I/F22による通信方式は、例えば、Wide Area Network)、LAN(Local Area Network(以下、「WAN」と称する)、Long Term Evolution(以下、「LTE」と称する)、5G等の移動体通信、電力線通信、近距離無線通信(例えばBluetooth(登録商標)通信)または携帯電話用の通信等である。
【0034】
メモリ23は、例えばRandom Access Memory(以下、「RAM」と称する)とRead Only Memory(以下、「ROM」と称する)とを用いて構成され、駆動・登録装置20の動作に必要なプログラム、さらには、動作中に生成されたデータを一時的に保持する。RAMは、例えば、駆動・登録装置20の動作中に使用されるワークメモリである。ROMは、例えば、駆動・登録装置20を制御するためのプログラムを予め記憶して保持する。メモリ23は、入力デバイス24からプロセッサ21に入力された移動点リストLIを一時的に保存してもよい。
【0035】
入力デバイス24は、移動点リストLI(図2参照)に関する情報の入力を受け付けるデバイスである。また、入力デバイス24は、ワークWKの属性に関する情報の入力を受け付ける。入力デバイス24は、例えば、マウス、キーボード、タッチパッド、タッチパネルのうち少なくとも1つを用いて構成され、駆動・登録装置20を使用するユーザの操作によって入力された情報を取得してプロセッサ21に出力する。
【0036】
通信I/F25は、駆動・登録装置20とデータベースDBとの間で無線または有線で通信を行うインターフェース回路である。通信I/F25による通信方式は、例えば、WAN、LAN、LTE、5G等の移動体通信、電力線通信、近距離無線通信(例えばBluetooth(登録商標)通信)または携帯電話用の通信等である。なお、通信I/F22と通信I/F25とは1つの通信I/Fで構成されてもよい。
【0037】
データベースDBは、通信I/F25を介してデータベース登録部216から受信した異常SCに関する情報を登録する。データベースDBは、駆動・登録装置20が異常SCを検出した際の、検出装置10の情報を異常SCの情報(形状、種類、大きさ等)および解析画像と紐づけて登録する。データベースDBは、不揮発性の記憶装置であり、例えば、Hard Disk Drive、Solid State Drive、Universal Serial Busメモリ、光ディスクまたは磁気テープである。なお、データベースDBは駆動・登録装置20に組み込まれてもよく、例えば、不揮発性メモリであってもよい。
【0038】
ワークWKは、異常SCを1つ有する対象物である。ワークWKに含まれる異常SCは、例えば、熟練した検査者でないと見つけるのが困難な異常(例えば、小さい傷、小さい凹み、浅い傷等)である。ワークWKは、異常SCの種類ごとに複数存在する。ワークWKは、例えば、位置が決められた所定の台の上に置いて検出装置10によって撮影される。ワークWKは異常SCを含んだ物体であればよくの大きさおよび形状は任意であってよいが、例えば、載置場所に応じて所定の大きさに加工されてもよい。この場合、ワークWKは、載置場所に対して一意の場所に置くことができる。ワークWKの大きさおよび形状に決まりがなく、様々な大きさおよび形状である場合は、例えば、所定の位置にワークWKの中心を合わせてワークWKは載置される。これにより、駆動・登録装置20は、検出した異常SCと、カメラ11の位置(つまり、レール15の座標)および照明12の位置(つまり、レール16の座標)とを対応させてデータベースDBに異常SCの情報を登録することができる。なお、ワークWK内の異常SCの位置は任意の位置であってよいが、高精度な情報によるデータベースDBを構築する観点からおよそ真ん中にあることが望まれる。ワークWKは、例えば、金属、塗装された金属、プラスティックまたはガラス等である。
【0039】
次に、図2を参照して、移動点リストLIについて説明する。図2は、移動点リストLIの一例を示す図である。
【0040】
移動点リストLIは、カメラ11と照明12とのレール15,16内の位置を示す表データ等の数値データである。
【0041】
各番号は、カメラ11のレール15のX座標およびY座標の値と、照明12のレール16のX座標およびY座標の値と、の情報を含む。例えば、番号1は、カメラ11のX座標が0、カメラ11のY座標が0、照明12のX座標が0および照明12のY座標が0である。図2に示す例では、単位はセンチメートルである。なお、単位は一例でありセンチメートルに限られない。ここで、カメラ11のXY座標は、レール15における座標であり、照明12のXY座標は、レール16における座標である。
【0042】
番号2は、カメラ11のX座標が5、カメラ11のY座標が0、照明12のX座標が0および照明12のY座標が0である。つまり、カメラ11および照明12を番号1から番号2に移動させると、カメラ11はX座標のみ5[cm]移動し、照明12は、移動しない。このように、カメラ11および照明12は、各番号の座標に順次移動してワークWKを撮影する。
【0043】
なお、移動点リストLIは、一例であり、各番号のXY座標の数値、および各番号の数値の変化方法は図2の例に限られない。
【0044】
次に、図3を参照して、異常SCの検出およびデータベースDBへの登録処理について説明する。図3は、異常SCの検出およびデータベースDBへの登録処理のフローチャートである。図3のフローチャートの各処理は、プロセッサ21によって実行される。
【0045】
移動指示部213は、入力デバイス24から入力された移動点リストLIを取得する(ステップSt100)。
【0046】
移動指示部213は、移動点リストLIの番号1(つまり、移動点リストLIの最初のデータ)の位置をカメラ11および照明12に対する(つまり、レール15およびレール16のXY座標)ワークWKの初期位置としてメモリ23に一時的に記録する(ステップSt101)。例えば、ワークWKが所定の位置に載置される場合、ワークWKのおよそ真ん中が初期位置となる。
【0047】
データベース登録部216は、入力デバイス24から入力されたワークWKの属性情報をメモリ23に一時的に登録する(ステップSt102)。ワークWKの属性情報は、ワークWKの種類および異常SCの種類等である。
【0048】
駆動制御部211は、移動指示部213から移動点リストLIの番号1のカメラ11のXY座標を受信する。駆動制御部211は、移動指示部213から受信した信号に基づき通信I/F22を介して駆動装置13にカメラ11を番号1の位置に移動させる信号を出力しカメラ11を移動させる。駆動制御部212は、移動指示部213から移動点リストLIの番号1の照明12のXY座標を受信する。駆動制御部212は、移動指示部213から受信した信号に基づき通信I/F22を介して駆動装置14に照明12を番号1の位置に移動させる信号を出力し照明12を移動させる(ステップSt103)。
【0049】
カメラ・照明制御部215は、カメラ11と照明12とをチルト回転およびパン回転を組み合わせてワークWKに対する向きを補正する(ステップSt104)。
【0050】
カメラ・照明制御部215は、カメラ11のズーム倍率と照明12の照明光の強度を設定し、カメラ11を制御しワークWKを撮影する(ステップSt105)。例えば、カメラ・照明制御部215は、予め決められたズーム倍率にカメラ11を適宜変更して、カメラ11にワークWKを撮影させる。例えば、ズーム倍率が、等倍、1.5倍および2倍に決められている場合、カメラ・照明制御部215は、カメラ11のズーム倍率を等倍、1.5倍および2倍に変更しそれぞれのズーム倍率でワークWKをカメラ11に撮影させる。つまり、カメラ・照明制御部215は、カメラ11に3つのズーム倍率で3回撮影させる。また、カメラ・照明制御部215は、照明光の強度を予め決められた強度に照明12を適宜変更してワークWKを撮影する。例えば、照明光の強度が、弱、中および強に決められている場合、カメラ・照明制御部215は、照明12の照明光の強度を弱、中および強に変更しそれぞれの照明光の強度においてワークWKをカメラ11に撮影させる。上述した例では、3×3の9枚の撮影画像をカメラ11は撮影する。なお、カメラ11のズーム倍率および照明12の照明光の強度は、一例であり、上述した例に限られない。カメラ11は、少なくとも1つの撮影画像を通信I/F22を介して画像処理部214に出力する。
【0051】
画像処理部214は、カメラ11から受信した撮影画像の画像処理を実施する(ステップSt106)。画像処理部214は、解析画像を生成する。
【0052】
画像処理部214は、解析画像に異常SCに含まれるか否かを判定する(ステップSt107)。
【0053】
画像処理部214は、解析画像に異常SCが含まれない(つまり、異常SCが検出されなかった)と判定した場合(ステップSt107,NO)、ステップSt109の処理を実行する。
【0054】
画像処理部214は、解析画像に異常SCが含まれる(つまり、異常SCが検出された)と判定した場合(ステップSt107,YES)、異常SCの形状および大きさを解析する。画像処理部214は、解析画像と、異常SCの形状および大きさの解析結果をデータベース登録部216に出力する。なお、画像処理部214は、撮影画像をデータベース登録部216に出力してもよいし、撮影画像と解析画像との両方を出力してもよい。また画像処理部214は、ステップSt105の処理でカメラ11によって撮影された複数の撮影画像に対する複数の解析画像を全てデータベース登録部216に出力してもよいし、異常SCが一番精度よく検出できた解析画像のみをデータベース登録部216に出力してもよい。データベース登録部216は、ステップSt102の処理でメモリ23に一時的に保存したワークWKの属性情報、カメラ11および照明12の位置情報および撮影時の情報をデータベースDBに通信I/F25を介して出力し登録する(ステップSt108)。撮影時の情報とは、撮影画像、解析画像、異常SCの種類、形状および大きさ、撮影時刻等およびワークWKに紐づけられた識別情報(ID:Identification)等である。例えば、ステップSt108の処理で、データベース登録部216は、ワークWKの属性情報として「IDが1、ワークWKの種類が金属、異常SCの種類が傷、異常SCの大きさが0.5[mm]」と、カメラ11の位置情報として「高さが20[cm]、位置(X,Y)=(5[cm],0[cm])、角度(K,T)=(5度,0度)、倍率が等倍」と、照明12の位置情報として「高さが15[cm]、位置(X,Y)=(-15[cm],0[cm])、角度(K,T)=(45度,0度)、照度が強」との情報を紐づけてデータベースDBに登録する。ここでK,Tは、一例として、それぞれチルト角、パン角を表す。以下、データベースDBに登録される異常SCの情報を異常登録情報と称する。
【0055】
移動指示部213は、移動点リストLIの全ての移動点(つまり、移動点リストLIに含まれる全ての番号)を回った(つまり、カメラ11と照明12を全ての移動点に移動させた)か否かを判定する(ステップSt109)。
【0056】
データベース登録部216は、移動点リストLIの全ての移動点を回ったと判定した場合(ステップSt109,YES)、処理を終了する。
【0057】
移動指示部213は、移動点リストLIの全ての移動点を回っていないと判定した場合(ステップSt109,NO)、移動点リストLIの次の番号の位置にカメラ11と照明12とを移動させる指示を駆動制御部211および駆動制御部212に出力する。駆動制御部211は、移動指示部213からの信号に基づき移動点リストLIの次の番号の位置にカメラ11を移動させ、駆動制御部212は、移動指示部213からの信号に基づき移動点リストLIの次の番号の位置に照明12を移動させる(ステップSt110)。プロセッサ21は、ステップSt110の処理の後、ステップSt104の処理を実行する。
【0058】
なお、プロセッサ21は、移動点リストLIを用いずベイズ推定等の統計的手法を用いてカメラ11および照明12の移動点を計算しながら、カメラ11および照明12を移動させてもよい。これにより、駆動・登録装置20は、移動点リストLIを用いて異常SCを検出するよりも少ない回数で検出を完了することができ、効率的に異常SCの情報を収集することができる。
【0059】
また、データベース登録部216がデータベースDBに登録する情報は、上述した例に限られず異常SCの検出の参考になる情報であればどのような情報でもよい。例えば、ワークWKのロット番号、製造番号または製造場所等の情報である。
【0060】
また、カメラ11は可視光カメラに限られず赤外線カメラであってもよい。また、外観検査支援システム1は、カメラを用いずレーザを用いて異常SCを検出してもよい。この場合、データベース登録部216は、赤外線カメラまたはレーザの情報をデータベースDBに登録してもよい。例えば、データベース登録部216は、異常SCの検出にどの機器(可視光カメラ、赤外線カメラ、レーザ)を用いたかの情報をデータベースDBに登録してもよい。
【0061】
また、ワークWKに、異常SCの周辺に予めマークをつけ、当該マークを画像処理部214が検出し、当該マークのエリア周辺のみを画像処理の対象としてもよい。これにより、外観検査支援システム1は、誤検知を抑制することができ、また処理時間を短縮することができる。
【0062】
これにより、外観検査支援システム1は、熟練した検査者でないと発見が困難な異常SCを検出するための条件を収集しデータベースDBを構築することができる。つまり、外観検査支援システム1は、定量的な評価が難しい異常SCの検出方法に関して、異常SCを検出可能なカメラ11および照明12の条件等をデータ化しデータベースDBを構築することができる。
【0063】
(実施の形態2)
実施の形態2では、実施の形態1の外観検査支援システム1で構築したデータベースDBを用いて、目視で発見が難しい異常SCを発見できる人物を育成することを支援する外観検査支援システム2について説明する。なお、実施の形態1と同一の構成に関しては同一符合を付記し説明を省略する。
【0064】
まず、図4を参照して、実施の形態2の外観検査支援システム2のシステム構成について説明する。図4は、実施の形態2の外観検査支援システム2のシステム構成図である。
【0065】
外観検査支援システム2は、検出装置10、駆動・登録装置20、データベースDBおよび表示装置30を含む。
【0066】
データベースDBは、実施の形態1で説明した通り、検出装置10および駆動・登録装置20を用いて収集された目視で発見が難しい異常SCに関する情報を保存したデータベースである。
【0067】
表示装置30は、データベースDBを用いて異常SCを検出できた時の撮影条件等を表示し、訓練中の検査者等に対する目視検査の技能向上を支援する。なお、表示装置30は、駆動・登録装置20に組み込まれてもよい。表示装置30は、通信I/F31、条件入力デバイス32、プロセッサ33、表示デバイス34およびメモリ35を含む。
【0068】
通信I/F31は、データベースDBと表示装置30との間で無線または有線で通信を行うインターフェース回路である。通信I/F31による通信方式は、例えば、WAN、LAN、LTE、5G等の移動体通信、電力線通信、近距離無線通信(例えばBluetooth(登録商標)通信)または携帯電話用の通信等である。
【0069】
条件入力デバイス32は、データベースDBに保存された複数の異常登録情報の中から所望の情報を検索するための条件(以下、検索条件と称する)の入力を受け付けるデバイスである。条件入力デバイス32は、検索条件としてワークWKの種類または異常SCの種類等の入力を受け付ける。条件入力デバイス32は、例えば、マウス、キーボード、タッチパッド、タッチパネルのうち少なくとも1つを用いて構成され、表示装置30を使用するユーザの操作によって受け付けられたデータあるいは情報を取得してプロセッサ33に出力する。
【0070】
プロセッサ33は、例えばCPU、DSP、GPUもしくはFPGAである。プロセッサ33は、表示装置30の全体的な動作を司るコントローラとして機能する。プロセッサ33は表示装置30の各部の動作を統括するための制御処理、表示装置30の各部との間のデータの入出力処理、データの演算処理およびデータの記憶処理を行う。プロセッサ33は、メモリ35に記憶されたプログラムに従って動作する。プロセッサ33は、動作時にメモリ35を使用し、プロセッサ33が生成または取得したデータをメモリ35に一時的に保存する。プロセッサ33は、メモリ35に記憶されたプログラムおよびデータを用いることで、検索処理部331、画像生成部332およびレイアウト生成部333のそれぞれの機能を実現する。
【0071】
検索処理部331は、条件入力デバイス32から入力された検索条件に基づきデータベースDBに保存された異常登録情報を検索する。検索処理部331は、例えば、条件入力デバイス32から、ワークWKの種類として「金属」との検索条件を受信した場合、データベースDBから「金属」に該当する異常登録情報を検索し抽出する。また、検索処理部331は、条件入力デバイス32から複数の検索条件を受信した場合は、全ての検索条件を満たす異常登録情報もしくは少なくとも1つの検索条件を満たす異常登録情報をデータベースDBの中から検索し抽出する。検索処理部331は、検索条件を基に抽出した異常登録情報を画像生成部332およびレイアウト生成部333に出力する。
【0072】
画像生成部332は、検索処理部331から受信した異常登録情報に基づき、異常SCを目視可能なワークWKに対する目の角度、照明の角度および目と照明との位置関係が直感的にわかる模式図(以下、目視ポイント画像と称する)を生成する。目視ポイント画像の例については図5で説明する。画像生成部332は、検索処理部331から複数の異常登録情報を受信した場合は、全ての異常登録情報に対する目視ポイント画像を生成する。画像生成部332は、作成した目視ポイント画像をレイアウト生成部333に出力する。
【0073】
レイアウト生成部333は、検索処理部331から受信した異常登録情報と、画像生成部332から受信した目視ポイント画像とを用いて表示デバイス34に表示する表示画面を生成する。レイアウト生成部333が、生成する表示画面の例は図5で説明する。レイアウト生成部333は、検索処理部331から複数の異常登録情報を受信した場合は、全ての異常登録情報に関する表示画面を生成する。レイアウト生成部333は、複数の表示画面を生成した場合、ユーザ操作に基づき表示画面を切り替え可能であってもよい。この場合、レイアウト生成部333は、表示画面を異なる異常登録情報に関する表示画面に切り替え可能な操作ボタンを含む表示画面を生成する。
【0074】
表示デバイス34は、レイアウト生成部333から通信I/F31を介して受信した表示画面を表示する。表示デバイス34は、例えば、ディスプレイ等である。なお、表示デバイス34は、タッチパネルディスプレイ等の入力を受け付け可能な表示デバイスであってもよく、その場合、条件入力デバイス32と一体に構成されてもよい。また、表示デバイス34は、表示装置30の外部にあってもよい。例えば、スマートフォン、パーソナルコンピュータ、タブレットまたはディスプレイ等の端末装置が表示装置30と通信可能に接続され表示デバイスとして用いられてもよい。
【0075】
メモリ35は、例えばRAMとROMとを用いて構成され、表示装置30の動作に必要なプログラム、さらには、動作中に生成されたデータを一時的に保持する。RAMは、例えば、表示装置30の動作中に使用されるワークメモリである。ROMは、例えば、表示装置30を制御するためのプログラムを予め記憶して保持する。メモリ35は、条件入力デバイス32に入力される検索条件、検索処理部331による異常登録情報の検索結果、画像生成部332の生成する目視ポイント画像およびレイアウト生成部333による表示画面を一時的に保存する。
【0076】
次に、図5を参照して、表示画面の一例を説明する。図5は、表示画面の一例を示す図である。
【0077】
表示画面MNは、レイアウト生成部333によって生成され表示デバイス34に表示される画面の一例である。
【0078】
リストLTは、ワークWKの種類、異常SCの種類および異常SCの検出パラメータ等をまとめた一覧データである。リストLTは、例えば、ワークWKの種別、異常SCの種別、異常SCの大きさ、照明12の高さ、照明12の位置、照明12の向き、照明12の照度、カメラ11の高さ、カメラ11の位置および/またはカメラ11の向き等を含む。ワークWKの種別は、どのような材料かに関する情報であり、例えば「金属」である。なお、ワークWKの種別は、車の塗装面、溶接箇所またはプラスティックボトル等の用途の情報であってもよい。異常SCの種別は、例えば「表面きず」である。照明12の照度は、例えば、100段階で照度を表してもよいし、「強・中・弱」のように表してもよい。なお、リストLTに表示する内容は上述した例に限られず、異常SCの登録日時、異常SCのIDまたは製造場所等の情報を表示してもよい。
【0079】
模式図AR1,AR2は、画像生成部332によって生成された目視ポイント画像である。模式図AR1,AR2は、ワークWKに対する照明SOの位置および角度と、ワークWKを見る人物の目EYの位置および角度との情報を含む。ワークWKを見る人物の目EYは、異常登録情報に登録されているカメラ11に対応し、異常SCを検出した際のカメラ11の撮影方向および位置を、目視ポイント画像において人物の目EYとして表される。例えば、模式図AR1は、ワークWK面の垂直方向の照明SOの角度が20度であり、目EYのワークWK面の垂直方向の角度が22度である。また、模式図AR2は、照明SOと目EYとがワークWKを挟んで対面(つまり、直線状)にある位置関係であることを示す。模式図AR2は、ワークWK面の平行方向の照明SOの角度が5度であり、目EYのワークWK面の平行方向の角度が5度である。模式図AR1は、ワークWKの異常SCが存在する面を横から見た図である。模式図AR2は、ワークWKの異常が存在する面を上から見た図である。なお、表示画面MNに表示する目視ポイント画像は、横から見た図および上から見た図に限られず、3次元画像でありユーザ操作によって360度回転可能な図であってもよい。また、表示画面MNには、模式図AR1または模式図AR2の一方のみ表示させてもよく、ユーザ操作によって模式図AR1または模式図AR2の2つの画像を切り替え可能であってもよい。また、模式図AR1,AR2は、ユーザ操作によって選択されるとポップアップ画面として拡大表示可能であってもよい。これにより、外観検査支援システム2は、目視ポイント画像をユーザに対し表示することで、異常SCを目視確認する際のワークWKに対する目の位置および角度と照明光を当てる位置および角度とをユーザが直感的に理解することを支援することができる。
【0080】
画像AR3は、ワークWKの撮影画像または解析画像である。例えば、画像AR3は、異常SC部分を拡大した画像である。また、画像AR3は、異常SC部分を拡大した画像である場合、ユーザ操作によってワークWK内の位置を変化可能であってもよい。また、画像AR3は、ユーザ操作によって拡大および縮小可能であってもよい。これにより、外観検査支援システム2は、ユーザが異常SCの状態を表示デバイス34を通じて事前に確認することで、異常SCを発見容易にすることを支援することができる。また、外観検査支援システム2は、ユーザ操作によって異常SCを表示デバイス34上で拡大および縮小可能であるため、ユーザが異常SCの形状を容易に確認することを支援することができる。
【0081】
これにより、外観検査支援システム2は、定量的に技能を継承するのが難しかった異常SCの目視検査に関して、データベースDBに登録された異常SCを検出するための条件を訓練中の検査者等のユーザに対し表示することで、異常SCを目視確認する技能を向上することを支援することができる。
【0082】
(実施の形態3)
実施の形態3では、実施の形態1の外観検査支援システム1で構築したデータベースDBを用いて、検査される対象物(以下、検査対象物と称する)に異常SCが存在するか否かを自動で検査をする外観検査支援システム3について説明する。なお、実施の形態1と同一の構成に関しては同一符合を付記し説明を省略する。
【0083】
まず、図6を参照して、実施の形態3の外観検査支援システム3のシステム構成について説明する。図6は、実施の形態3の外観検査支援システム3のシステム構成図である。
【0084】
外観検査支援システム3は、検出装置10、駆動・登録装置20、データベースDB、検査装置40および検査対象物撮影装置50を含む。
【0085】
データベースDBは、実施の形態1で説明した通り、検出装置10および駆動・登録装置20を用いて収集された目視で発見が難しい異常SCに関する情報を保存したデータベースである。
【0086】
検査装置40は、データベースDBおよび検査対象物OBを撮影する検査対象物撮影装置50と通信可能に接続される。検査装置40は、データベースDBに登録された異常登録情報を利用して、検査対象物撮影装置50から取得した撮影画像を解析し検査対象物OBに異常SCがあるか否かを判定する。検査対象物OBは、例えば、ベルトコンベア上を流れている物体(例えば、部品、金属片または生産品等)である。また、検査対象物OBは、車等の外観全体であってもよい。なお、検査装置40は、駆動・登録装置20に組み込まれてもよい。検査装置40は、通信I/F41、条件入力デバイス42、プロセッサ43、通信I/F44、メモリ45、データベース46および通知デバイス47を含む。
【0087】
通信I/F41は、データベースDBと検査装置40との間で無線または有線で通信を行うインターフェース回路である。通信I/F41による通信方式は、例えば、WAN、LAN、LTE、5G等の移動体通信、電力線通信、近距離無線通信(例えばBluetooth(登録商標)通信)または携帯電話用の通信等である。
【0088】
条件入力デバイス42は、データベースDBに保存された複数の異常登録情報の中から検査対象物OBに関する情報を検索するための検索条件の入力を受け付けるデバイスである。例えば、検査対象物OBが車の塗装面の場合、条件入力デバイス42は、ワークWKの種類として金属または車の塗装面が検索条件とし入力される。条件入力デバイス42は、例えば、マウス、キーボード、タッチパッド、タッチパネルのうち少なくとも1つを用いて構成され、検査装置40を使用するユーザの操作によって受け付けられたデータあるいは情報を取得してプロセッサ43に出力する。
【0089】
プロセッサ43は、例えばCPU、DSP、GPUもしくはFPGAである。プロセッサ43は、検査装置40の全体的な動作を司るコントローラとして機能する。プロセッサ43は検査装置40の各部の動作を統括するための制御処理、検査装置40の各部との間のデータの入出力処理、データの演算処理およびデータの記憶処理を行う。プロセッサ43は、メモリ45に記憶されたプログラムに従って動作する。プロセッサ43は、動作時にメモリ45を使用し、プロセッサ43が生成または取得したデータをメモリ45に一時的に保存する。プロセッサ43は、メモリ45に記憶されたプログラムおよびデータを用いることで、検索処理部431、移動指示部432、カメラ・照明制御部433、駆動制御部434,435および画像処理部436のそれぞれの機能を実現する。
【0090】
検索処理部431は、条件入力デバイス42から入力された検索条件に基づきデータベースDBに保存された異常登録情報を検索する。検索処理部431は、例えば、条件入力デバイス32から、ワークWKの種類として「金属」との検索条件を受信した場合、データベースDBから「金属」に該当する異常登録情報を検索し抽出する。また、検索処理部431は、条件入力デバイス42から複数の検索条件を受信した場合は、全ての検索条件を満たす異常登録情報もしくは少なくとも1つの検索条件を満たす異常登録情報をデータベースDBの中から検索し抽出する。検索処理部431は、検索条件を基に抽出した異常登録情報を移動指示部432およびカメラ・照明制御部433に出力する。
【0091】
移動指示部432は、検索処理部431から受信した異常登録情報に基づく位置にカメラ55を移動させる指示を駆動制御部434に出力する。移動指示部432は、検索処理部431から受信した異常登録情報に基づく位置に照明56を移動させる指示を駆動制御部435に出力する。また、車等の検査対象物OB全体を検査する場合、移動指示部432は、検査対象物OBに対してカメラ55および照明56をどのように動かすかに関するリスト(以下、全移動リストと称する)を用いてカメラ55および照明56を移動させる指示を駆動制御部434および駆動制御部435に出力する。全移動リストは、検査の管理者等のユーザによって予め定められたカメラ55のレール51のXY座標および照明56のレール52のXY座標の情報のリストである。全移動リストは、例えば、検査対象物OBの表面を所定の大きさの領域に分け、全ての領域に対するカメラ55および照明56のXY座標の情報を含む。つまりこの場合、移動指示部432は、全移動リストに含まれる各移動点において、異常登録情報に基づきカメラ55および照明56の位置を制御する。全移動リストは、例えば、メモリ45に保存されている。移動指示部432は、検査対象物OBに異常が検出された場合、異常が検査対象物OBのどの位置にあるかに関する情報(つまり、全移動リストのどの移動点で異常が検出されたか)をデータベース46に出力する。
【0092】
カメラ・照明制御部433は、検索処理部431から受信した異常登録情報に基づきカメラ55および照明56の検査対象物OBに対する角度(つまり、チルト回転およびパン回転)を制御する。また、カメラ・照明制御部433は、検索処理部431から受信した異常登録情報に基づき、照明56の照明光の強さ、カメラ55のズーム倍率およびピントを制御する。
【0093】
駆動制御部434は、移動指示部432から受信した信号に基づき通信I/F44を介して駆動装置53を制御しカメラ55を移動させる。駆動制御部435は、移動指示部432から受信した信号に基づき通信I/F44を介して駆動装置54を制御し照明56を移動させる。
【0094】
画像処理部436は、カメラ55が撮影した撮影画像を通信I/F44を介して取得する。画像処理部436は、ノイズの除去と二値化処理を用いて撮影画像を処理し、ブロブ解析をすることで異常の有無および異常の大きさと形状とを検知する。また、画像処理部436は、エッジ検出処理を用いて撮影画像を解析し、異常の有無および異常の大きさと形状とを検出してもよい。また、画像処理部436は、画像認識等の公知のAI技術を用いて解析画像内の異常の有無および異常の大きさと形状とを検出してもよい。画像処理部436は、検査対象物OBに異常が検出された場合、移動指示部432から出力される異常の位置に関する情報(つまり、異常が検出された際の全移動リストの情報)と撮影画像と異常の情報(例えば、異常の大きさまたは形状等)とを紐づけてデータベース46に登録する。なお、検査対象物OBがベルトコンベア上を流れている物体(例えば、部品、金属片または生産品等)の場合、画像処理部436は、異常を検出した場合、物体のID等の識別情報と撮影画像とを紐づけてデータベース46に登録してもよい。
【0095】
通信I/F44は、プロセッサ43と検査対象物撮影装置50との間で無線または有線で通信を行うインターフェース回路である。通信I/F44による通信方式は、例えば、WAN、LAN、LTE、5G等の移動体通信、電力線通信、近距離無線通信(例えばBluetooth(登録商標)通信)または携帯電話用の通信等である。
【0096】
メモリ45は、例えばRAMとROMとを用いて構成され、検査装置40の動作に必要なプログラム、さらには、動作中に生成されたデータを一時的に保持する。RAMは、例えば、検査装置40の動作中に使用されるワークメモリである。ROMは、例えば、検査装置40を制御するためのプログラムを予め記憶して保持する。メモリ45は、撮影画像、全移動リストおよび検索条件等を一時的に保存してもよい。
【0097】
データベース46は、移動指示部432から受信した全移動リストに関する情報、画像処理部436から受信した撮影画像、異常に関する情報および検査対象物OBの識別情報を登録する。つまり、データベース46は、検査対象物OBの検査結果を保存する。データベース46は、不揮発性メモリ等である。
【0098】
通知デバイス47は、検査対象物OBに異常が検出された旨の信号をプロセッサ43から受信し、ユーザに異常が検出された旨の通知を出力するデバイスである。ここでユーザとは、検査対象物OBを検査している人物または検査対象物OBの管理者等である。通知デバイス47は、例えば、パトランプ等のランプ、スピーカまたはディスプレイ等である。通知デバイス47は、例えば、異常が検出された旨の信号をプロセッサ43が受信した場合、ランプを光らせる、スピーカからアラート音を出力するまたはディスプレイに異常が検出された旨の表示をする。なお、通知デバイス47は、検査装置40から省略されてもよいし、検査装置40と通信可能に接続される端末装置等であってもよい。
【0099】
検査対象物撮影装置50は、検査対象物OBを撮影する装置である。検査対象物撮影装置50は、レール51,52、駆動装置53,54、カメラ55、照明56を含む。
【0100】
カメラ55は、検査対象物を撮影する。カメラ55は、レール51を移動する駆動装置53に取付けられる。カメラ55は、駆動装置53によってレール51を移動することで検査対象物OBを様々な位置から撮影することができる。カメラ55は、チルト機構を有し検査対象物OBに対してチルト回転自在であってもよいし、パン機構を有し検査対象物OBに対しパン回転自在であってもよい。カメラ55は、少なくとも光学素子としてのレンズ(不図示)とイメージセンサ(不図示)とを有して構成される。レンズは、カメラ55の撮影した領域の画角内からの対象物により反射された光を入射してイメージセンサの受光面(言い換えると、撮影面)に対象物の光学像を結像する。イメージセンサは、例えばCCDあるいはCMOSなどの固体撮影素子である。イメージセンサは、所定時間(例えば1/30(秒))ごとに、レンズを介して撮影面に結像した光学像を電気信号に変換する。例えば、所定時間が1/30(秒)である場合、カメラ55のフレームレートは30fpsとなる。また、カメラ55は、上述した所定時間ごとに、電気信号に所定の信号処理を施すことで撮影画像を生成してもよい。カメラ55は、撮影画像を通信I/F44を介して画像処理部436に出力する。
【0101】
カメラ55は、例えば、ズームレンズまたはフォーカスレンズ等の複数のレンズ(不図示)を有し検査対象物OBに対するピント(フォーカス)調整および検査対象物OBの倍率(ズーム)調整を行うことが可能である。
【0102】
照明56は、検査対象物OBに照明光を照射する。照明56は、例えば、LEDライトまたは白色ランプ等である。照明56は、レール52を移動する駆動装置54に取付けられる。照明56は、駆動装置54によってレール52を移動することで検査対象物OBを様々な位置から照らすことができる。照明56は、チルト機構を有し検査対象物OBに対してチルト回転自在であってもよいし、パン機構を有しワークWKに対しパン回転自在であってもよい。
【0103】
駆動装置53は、カメラ55が接続されレール51内を移動する装置である。駆動装置54は、照明56が接続されレール52内を移動する装置である。駆動装置53,54は、例えば、アクチュエータである。駆動装置53は、駆動制御部434から通信I/F44を介して受信した信号に基づきレール51内を移動する。駆動装置54は、駆動制御部435から通信I/F44を介して受信した信号に基づきレール52内を移動する。
【0104】
レール51,52は例えば2次元平面内における格子形状、直線形状、略円形状またはそれらを組合せた任意の形状のレールである。また、レール51,52は、カメラ55および照明56が3次元空間内を移動できるよう、井桁形状またはドーム形状であってもよい。
【0105】
次に、図7を参照して、検査対象物OBを検査する処理を説明する。図7は、検査対象物OBを検査する処理のフローチャートである。図7のフローチャートの各処理は、プロセッサ43によって実行される。
【0106】
検索処理部431は、条件入力デバイス42から検査対象物OBに関する検索条件を受信する(ステップSt200)。
【0107】
検索処理部431は、データベースDBに保存されている異常登録情報からステップSt200の処理で受信した検索条件に一致する異常登録情報(つまり、カメラの撮影条件および照明の条件)を検索する(ステップSt201)。ここで、検索処理部431が検索した異常登録情報の数をN(N:1以上の整数)とする。また、検索処理部431が検索したN個の異常登録情報のうち現在検査に用いているものをL番目の異常登録情報とする。Lは整数である。以下、プロセッサ43は、検索したN個の異常登録情報に基づき、カメラ55の検査対象物OBに対する位置および向きの撮影条件と、照明56の検査対象物OBに対する位置および向きの照明条件の下で、検査対象物OBをカメラ55に撮影させ、異常の検出を行う。
【0108】
検索処理部431は、L=0と設定し(ステップSt202)、ステップSt201の処理で検索したN個の異常登録情報のうち1つの異常登録情報を移動指示部432に出力する。移動指示部432は、L番目の検索結果のカメラ55および照明56の位置情報を駆動制御部434および駆動制御部435に出力する(ステップSt203)。検索処理部431は、L番目の検索結果のカメラ55および照明56の向きの情報をカメラ・照明制御部433に出力する。
【0109】
駆動制御部434は、ステップSt203の処理で受信した信号に基づきカメラ55を移動させる。駆動制御部435は、ステップSt203の処理で受信した信号に基づき照明56を移動させる。カメラ・照明制御部433は、検索処理部431から受信した情報に基づき、カメラ55および照明56の検査対象物OBに対する向きを調整する(ステップSt204)。
【0110】
カメラ・照明制御部433は、検索処理部431から受信した情報に基づきカメラ55の検査対象物OBに対する倍率および照明56の照度を調整する(ステップSt205)。
【0111】
カメラ・照明制御部433は、カメラ55に撮影を実行させる(ステップSt206)。
【0112】
画像処理部436は、カメラ55から取得した撮影画像に対し解析処理を行う(ステップSt207)。
【0113】
画像処理部436は、検査対象物OBに異常があるか否かを判定する(ステップSt208)。
【0114】
画像処理部436は、検査対象物OBに異常があると判定した場合(ステップSt208,YES)、異常検出後処理を実行する(ステップSt209)。画像処理部436は、異常検出後処理として、通知デバイス47に異常が検出されたことを通知させる信号を出力する。また、画像処理部436は、異常検出後処理として、物体のID等の識別情報と撮影画像とを紐づけてデータベース46に登録する。画像処理部436は、ステップSt209の処理の後、処理を終了する。
【0115】
画像処理部436は、検査対象物OBに異常がないと判定した場合(ステップSt208,NO)、異常が検出されなかった旨の信号を検索処理部431に出力する。検索処理部431は、L=L+1に設定する(ステップSt210)。
【0116】
検索処理部431は、LがN以上であるか否かを判定する(ステップSt211)。検索処理部431は、LがN以上である(つまり、検索された全ての異常登録情報に基づき検査した)と判定した場合(ステップSt211,YES)、処理を終了する。
【0117】
検索処理部431は、LがN以上ではない(つまり、検索された全ての異常登録情報に基づき検査が終了していない)と判定した場合(ステップSt211,NO)、再びステップSt203の処理を実行する。
【0118】
これにより、外観検査支援システム3は、検出が困難な異常の情報が登録されているデータベースDBを利用し、検査対象物OBの外観検査を行い、検出が困難な異常を自動で短時間に検出することができる。外観検査支援システム3は、例えば、データベースDBを用いることでベルトコンベア上を流れている物体の外観検査を高精度に行うことができる。また、外観検査支援システム3は、検出が困難な異常も含めて自動で検査対象物OBの外観検査を行うことで高効率に検査を行うことができる。
【0119】
また、外観検査支援システム3は、車等の外観全体を自動で検査することもできる。以下、図8のフローチャートを用いて、検査対象物の外観全体を自動で検査する方法を説明する。
【0120】
図8は、検査対象物の外観全体を検査する処理を説明する。図8は、検査対象物の外観全体を検査する処理のフローチャートである。図8のフローチャートの各処理はプロセッサ43によって実行される。なお、図7と同様の処理に関しては同一の符合を付記し説明を省略する。
【0121】
検索処理部431が実行するステップSt202の処理の後、移動指示部432は、メモリ45から全移動リストを取得する。移動指示部432は、全移動リストの最初の移動点(つまり、初期位置)にカメラ55と照明56とを移動させる指示を駆動制御部434および駆動制御部435に出力する。駆動制御部434は、移動指示部432から受信した信号に基づき駆動装置53を制御しカメラ55を初期位置に移動させる。駆動制御部435は、移動指示部432から受信した信号に基づき駆動装置54を制御し照明56を初期位置に移動させる(ステップSt300)。
【0122】
移動指示部432は、L番目の検索結果(つまり、異常登録情報)に基づき、ステップSt300の処理で移動させた領域におけるカメラ55と照明56との相対的な位置を調整する。つまり、移動指示部432は、ステップSt300の処理で移動させた領域をワークWKに対応するとし、異常登録情報に記録されたカメラと照明との位置関係と同じ位置関係になるようにカメラ55と照明56とを移動させる。移動指示部432は、L番目の検索結果に基づきカメラ55を移動させる信号を駆動制御部434に出力する。駆動制御部434は、移動指示部432から受信した信号に基づき駆動装置53を制御しカメラ55を移動させる。移動指示部432は、L番目の検索結果に基づき照明56を移動させる信号を駆動制御部435に出力する。駆動制御部435は、移動指示部432から受信した信号に基づき駆動装置54を制御し照明56を移動させる(ステップSt301)。
【0123】
プロセッサ43は、ステップSt301の処理の後、図7のフローチャートと同様にステップSt204からステップSt211までの処理を実行する。
【0124】
検索処理部431は、LがN以上であると判定した場合(ステップSt211,YES)、N個の全ての検索結果に基づく検査を完了したと移動指示部432に出力する。
【0125】
移動指示部432は、検査対象物OBの全領域を検査したか否か判定する(ステップSt302)。移動指示部432は、検査対象物OBの全領域を検査した(つまり、全移動リストの全ての位置を検査した)と判定した場合(ステップSt302,YES)、処理を終了する。移動指示部432は、検査対象物OBの全領域を検査していないと判定した場合(ステップSt302,NO)、検索処理部431からの信号に基づき全移動リストの次の移動点にカメラ55および照明56を移動させる指示を駆動制御部434および駆動制御部435に出力する。駆動制御部434は、検索処理部431から受信した信号に基づき駆動装置53を制御しカメラ55を移動させる。駆動制御部435は、検索処理部431から受信した信号に基づき駆動装置54を制御し照明56を移動させる(ステップSt303)。駆動制御部434,435は、ステップSt303の処理のあとステップSt301の処理を実行する。また、検索処理部431は、LがN未満であると判定した場合(ステップSt211,NO)、LがN未満である旨の信号を駆動制御部434,435に出力する。駆動制御部434,435は、検索処理部431からの信号を受信すると、ステップSt301の処理を実行する。
【0126】
これにより、外観検査支援システム3は、全移動リストの全ての移動点において、データベースDBに登録された異常登録情報を利用して発見が困難な異常を検出することができる。外観検査支援システム3は、車等の大きい検査対象物に関しても、外観に異常がないか自動で短時間に検査することができる。
【0127】
(本実施の形態のまとめ)
以上の本実施の形態の記載により、下記技術が開示される。
【0128】
<技術1>
本実施の形態に係る外観検査支援方法は、対象物(例えば、ワークWK)の表面に存在する欠陥である異常を撮影するカメラ(例えば、カメラ11)と対象物に対して照明光を照射する照明(例えば、照明12)とを第1位置に移動させる第1のステップと、カメラの対象物に対する撮影角度を設定し、対象物に対する照明光の照射角度を設定し、カメラで撮影した対象物の撮影画像を画像処理し、画像処理した結果から異常を検出したか否かを判定する第2のステップと、第2のステップで異常を検出したと判定した場合、異常を検出した際のカメラおよび照明の位置、撮影角度および照射角度をデータベース(例えば、データベースDB)に登録する第3のステップと、を備える。
【0129】
これにより、本実施の形態に係る外観検査支援方法は、検出が困難な異常が存在する対象物を予め用意し、異常を検出することで、検出が困難な異常を検出可能なカメラおよび照明の条件を収集することができる。
【0130】
<技術2>
技術1に記載の外観検査支援方法は、第2のステップで異常を検出していないと判定した場合、カメラと照明とを第1位置とは異なる第2位置に移動し、第2のステップを実行する。
【0131】
これにより、本実施の形態に係る外観検査支援方法は、検出が困難な異常が存在する対象物に対し、カメラと照明との位置および角度を様々に変更して撮影することで、異常を高精度に検出することができる。これにより、外観検査支援方法は、高精度な異常の検出条件を収集したデータベースを構築することができる。
【0132】
<技術3>
技術1または2に記載の外観検査支援方法において、第1のステップにおいてカメラと照明との移動する位置に関する移動点リストを取得し、移動点リストに含まれる全ての位置に対して第2のステップおよび第3のステップを実行する。
【0133】
これにより、本実施の形態に係る外観検査支援方法は、移動点リストに含まれる全ての位置にカメラおよび照明を移動させ異常を検出することで、全ての位置の中で最も異常が鮮明に検出できる条件を得ることができる。これにより、外観検査支援方法は、ユーザが異常をより目視し易い条件を収集することができる。
【0134】
<技術4>
技術1から3のいずれか1つに記載の外観検査支援方法は、第3のステップにおいて、撮影画像、対象物の属性情報、異常の種類または異常の大きさをさらにデータベースに登録する。
【0135】
これにより、本実施の形態に係る外観検査支援方法は、検出条件と検出した異常の情報と対象物の属性情報とを紐づけた情報を保存したデータベースを構築することができる。これにより、外観検査支援方法は、ユーザが様々な条件で検索可能な利用しやすいデータベースを構築することができる。
【0136】
<技術5>
技術1から4のいずれか1つに記載の外観検査支援方法において、第2のステップは、カメラのズーム倍率を設定し、照明の照明光の強度を設定するステップをさらに含む。
【0137】
これにより、本実施の形態に係る外観検査支援方法は、対象物の異常をより鮮明に撮影し高精度に検出することができる。外観検査支援方法は、異常を誤検知することを防ぎ、高精度な情報をデータベースに登録することができる。
【0138】
<技術6>
技術1から5のいずれか1つに記載の外観検査支援方法において、入力された検索条件に基づきデータベースに登録されている異常の情報を検索し、検索された異常の情報を表示デバイスに表示する第4のステップを、さらに備える。
【0139】
これにより、本実施の形態に係る外観検査支援方法は、データベースに登録されている異常の情報をユーザに対し表示することで、ユーザが検出が困難な異常を検出することを支援することができる。これにより、外観検査支援方法は、異常の目視確認に関して訓練中のユーザに対して、ユーザの目視確認の技能の向上を支援することができる。
【0140】
<技術7>
技術1から6のいずれか1つに記載の外観検査支援方法において、異常の情報は、カメラの位置、照明の位置、撮影角度、照射角度、対象物の属性情報、異常の種類または異常の大きさである。
【0141】
これにより、本実施の形態に係る外観検査支援方法は、ユーザが検索した異常の情報をユーザが確認可能にすることができる。
【0142】
<技術8>
技術1から7のいずれか1つに記載の外観検査支援方法において、第4のステップにおいて、異常の情報を基に対象物に対する照明の位置および角度と、対象物を見る人物の目の位置および角度との情報を含む模式図を生成し、模式図を前記表示デバイスに表示する。
【0143】
これにより、本実施の形態に係る外観検査支援方法は、対象物を見る位置および角度と対象物に対する照明の位置および角度とをユーザが直感的に理解することを支援することができる。
【0144】
<技術9>
技術1から8のいずれか1つに記載の外観検査支援方法において、第4のステップにおいて、異常の情報のリストと、模式図と、撮影画像と、を含む表示画面を生成し、表示デバイスに表示する。
【0145】
これにより、本実施の形態に係る外観検査支援方法は、ユーザが異常の情報、模式図および撮影画像を1つの画面で確認可能にし、ユーザに対する情報取得の利便性を向上させることができる。
【0146】
<技術10>
技術1から9のいずれか1つに記載の外観検査支援方法において、入力された検索条件に基づきデータベースから検索条件に適合するカメラの撮影条件および照明の照明条件を検索し、撮影条件および照明条件の下で撮影した撮影画像を画像処理し、画像処理した結果から異常を検出したか否かを判定する第5のステップを、さらに備える。
【0147】
これにより、本実施の形態に係る外観検査支援方法は、データベースを利用することで、検出が困難な異常を自動で検出することができる。
【0148】
以上、添付図面を参照しながら実施の形態について説明したが、本開示はかかる例に限定されない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例、修正例、置換例、付加例、削除例、均等例に想到し得ることは明らかであり、それらについても本開示の技術的範囲に属すると了解される。また、発明の趣旨を逸脱しない範囲において、上述した実施の形態における各構成要素を任意に組み合わせてもよい。
【産業上の利用可能性】
【0149】
本開示の技術は、検出が困難な異常を検出可能な条件を収集する外観検査支援方法、外観検査支援システムおよびプログラムとして有用である。
【符号の説明】
【0150】
1,2,3 外観検査支援システム
10 検出装置
11,55 カメラ
12,56,SO 照明
13,14,53,54 駆動装置
15,16,51,52 レール
20 駆動・登録装置
21,33,43 プロセッサ
22,25,31,41,44 通信I/F
23,35,45 メモリ
24 入力デバイス
30 表示装置
32,42 条件入力デバイス
34 表示デバイス
40 検査装置
47 通知デバイス
50 検査対象物撮影装置
211,212,434,435 駆動制御部
213,432 移動指示部
214,436 画像処理部
215,433 カメラ・照明制御部
216 データベース登録部
331,431 検索処理部
332 画像生成部
333 レイアウト生成部
DB,46 データベース
WK ワーク
SC 異常
LI 移動点リスト
LT リストLT
MN 表示画面
AR1,AR2 模式図
AR3 画像
EY 目
OB 検査対象物
図1
図2
図3
図4
図5
図6
図7
図8