IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日立金属株式会社の特許一覧

特開2024-142026外観検査システム、外観検査用管理装置、及び外観検査方法
<>
  • 特開-外観検査システム、外観検査用管理装置、及び外観検査方法 図1
  • 特開-外観検査システム、外観検査用管理装置、及び外観検査方法 図2
  • 特開-外観検査システム、外観検査用管理装置、及び外観検査方法 図3
  • 特開-外観検査システム、外観検査用管理装置、及び外観検査方法 図4
  • 特開-外観検査システム、外観検査用管理装置、及び外観検査方法 図5
  • 特開-外観検査システム、外観検査用管理装置、及び外観検査方法 図6
  • 特開-外観検査システム、外観検査用管理装置、及び外観検査方法 図7
  • 特開-外観検査システム、外観検査用管理装置、及び外観検査方法 図8
  • 特開-外観検査システム、外観検査用管理装置、及び外観検査方法 図9
  • 特開-外観検査システム、外観検査用管理装置、及び外観検査方法 図10
  • 特開-外観検査システム、外観検査用管理装置、及び外観検査方法 図11
  • 特開-外観検査システム、外観検査用管理装置、及び外観検査方法 図12
  • 特開-外観検査システム、外観検査用管理装置、及び外観検査方法 図13
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024142026
(43)【公開日】2024-10-10
(54)【発明の名称】外観検査システム、外観検査用管理装置、及び外観検査方法
(51)【国際特許分類】
   G01N 21/88 20060101AFI20241003BHJP
   G06T 7/00 20170101ALI20241003BHJP
   G06V 10/72 20220101ALI20241003BHJP
【FI】
G01N21/88 J
G06T7/00 610Z
G06T7/00 350B
G06V10/72
【審査請求】未請求
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2023053977
(22)【出願日】2023-03-29
(71)【出願人】
【識別番号】000005083
【氏名又は名称】株式会社プロテリアル
(74)【代理人】
【識別番号】110002583
【氏名又は名称】弁理士法人平田国際特許事務所
(72)【発明者】
【氏名】吉田 慶太
(72)【発明者】
【氏名】馬場 敏之
(72)【発明者】
【氏名】広瀬 慎太郎
(72)【発明者】
【氏名】副島 隆弘
【テーマコード(参考)】
2G051
5L096
【Fターム(参考)】
2G051AA90
2G051AB03
2G051AB04
2G051AB10
2G051EB05
5L096BA03
5L096CA02
5L096CA17
5L096KA04
(57)【要約】
【課題】複数の外観検査装置における検査精度の向上を図ることが可能な外観検査システム、外観検査用管理装置、及び外観検査方法を提供する。
【解決手段】外観検査システム1は、学習済モデル51,52を用いて、検査対象物の画像データから検査対象物の欠陥の有無を識別する複数の外観検査装置2と、外観検査用管理装置10とを備え、外観検査用管理装置10は、複数の外観検査装置2で検査対象物に欠陥が有ると識別された欠陥画像データ412,422を取得し記憶部12に記憶し、複数の外観検査装置2のそれぞれは、外観検査用管理装置10から、記憶部12に記憶された他装置の欠陥画像データ412,422、または当該欠陥画像データ412,422を用いて生成された生成欠陥画像データ413,423、または生成欠陥画像データ413,423を用いて作成された学習済モデル51,52を取得可能に構成される。
【選択図】図1
【特許請求の範囲】
【請求項1】
予め作成された学習済モデルを用いて、撮像装置で撮像した検査対象物の画像データから、前記検査対象物の欠陥の有無を識別する複数の外観検査装置と、
前記複数の外観検査装置のそれぞれと相互に通信可能に構成された外観検査用管理装置と、を備え、
前記外観検査用管理装置は、少なくとも、前記複数の外観検査装置で前記検査対象物に欠陥が有ると識別された前記画像データである欠陥画像データを取得し記憶部に記憶する画像データ取得処理部を有し、
前記複数の外観検査装置のそれぞれは、前記外観検査用管理装置から、前記記憶部に記憶された他の前記外観検査装置の前記欠陥画像データ、または当該欠陥画像データを用いて新たに生成された生成欠陥画像データ、または、前記生成欠陥画像データを用いて機械学習を行い作成された前記学習済モデルを取得可能に構成されている、
外観検査システム。
【請求項2】
前記外観検査用管理装置は、
所定の前記外観検査装置で前記検査対象物に欠陥が無いと判定された前記画像データである無欠画像データと、前記所定の外観検査装置とは異なる前記外観検査装置での前記欠陥画像データとを用いて、前記生成欠陥画像データを生成する画像生成処理部と、
前記所定の外観検査装置で取得した前記欠陥画像データ、前記無欠画像データ、及び前記生成欠陥画像データを学習用データとして機械学習を行い、前記所定の外観検査装置で用いる前記学習済モデルを作成するモデル作成処理部と、を有する、
請求項1に記載の外観検査システム。
【請求項3】
前記外観検査装置のそれぞれは、
自装置で前記検査対象物に欠陥が無いと判定された前記画像データである無欠画像データと、他の前記外観検査装置から取得した前記欠陥画像データとを用いて、前記生成欠陥画像データを生成する画像生成処理部と、
自装置で取得した前記欠陥画像データ及び前記無欠画像データと、前記生成欠陥画像データとを学習用データとして機械学習を行い、自装置の前記学習済モデルを作成するモデル作成処理部と、を有する、
請求項1に記載の外観検査システム。
【請求項4】
前記外観検査用管理装置は、所定の前記外観検査装置で前記検査対象物に欠陥が無いと判定された前記画像データである無欠画像データと、前記所定の外観検査装置とは異なる前記外観検査装置での前記欠陥画像データとを用いて、前記所定の外観検査装置用の前記生成欠陥画像データを生成する画像生成処理部を有し、
前記外観検査装置のそれぞれは、自装置で取得した前記欠陥画像データ及び前記無欠画像データと、前記外観検査用管理装置から取得した自装置用の前記生成欠陥画像データとを学習用データとして機械学習を行い、自装置の前記学習済モデルを作成するモデル作成処理部を有する、
請求項1に記載の外観検査システム。
【請求項5】
前記画像データ取得処理部は、前記複数の外観検査装置から取得した前記欠陥画像データを、少なくとも、欠陥の種類と紐づけて前記記憶部に記憶する、
請求項1に記載の外観検査システム。
【請求項6】
前記画像データ取得処理部は、前記複数の外観検査装置から取得した前記欠陥画像データを、さらに、撮像時の照明状態と紐づけて前記記憶部に記憶する、
請求項5に記載の外観検査システム。
【請求項7】
前記画像データ取得処理部は、前記複数の外観検査装置から、欠陥が無いと判定された前記画像データである無欠画像データを取得し前記記憶部に記憶するように構成され、
前記画像生成処理部は、他の前記外観検査装置の前記無欠画像データから、新たに所定の前記外観検査装置用の前記生成無欠画像データを生成し、
前記モデル作成処理部は、前記生成無欠画像データを用いて前記学習済モデルを作成する、
請求項2乃至4の何れか1項に記載の外観検査システム。
【請求項8】
予め作成された学習済モデルを用いて、撮像装置で撮像した検査対象物の画像データから、前記検査対象物の欠陥の有無を識別する複数の外観検査装置を管理する外観検査用管理装置であって、
前記複数の外観検査装置のそれぞれと相互に通信可能に構成されており、
少なくとも、前記複数の外観検査装置で前記検査対象物に欠陥が有ると識別された前記画像データである欠陥画像データを取得し記憶部に記憶する画像データ取得処理部を有し、
前記複数の外観検査装置のそれぞれに、前記記憶部に記憶された他の前記外観検査装置の前記欠陥画像データ、または当該欠陥画像データを用いて新たに生成された生成欠陥画像データ、または、前記生成欠陥画像データを用いて機械学習を行い作成された前記学習済モデルを出力可能に構成されている、
外観検査用管理装置。
【請求項9】
予め作成された学習済モデルを用いて、撮像装置で撮像した検査対象物の画像データから、前記検査対象物の欠陥の有無を識別する複数の外観検査装置を用いた外観検査方法であって、
前記複数の外観検査装置のそれぞれと相互に通信可能に外観検査用管理装置を設け、前記外観検査用管理装置の記憶部に、少なくとも、前記複数の外観検査装置で前記検査対象物に欠陥が有ると識別された前記画像データである欠陥画像データを記憶しておき、
所定の前記外観検査装置で前記検査対象物に欠陥が無いと判定された前記画像データである無欠画像データと、前記所定の外観検査装置とは異なる前記外観検査装置での前記欠陥画像データとを用いて、生成欠陥画像データを生成し、
前記所定の外観検査装置で取得した前記欠陥画像データ及び前記無欠画像データと、前記生成欠陥画像データとを学習用データとして機械学習を行い、前記所定の外観検査装置で用いる前記学習済モデルを作成する、
外観検査方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、外観検査システム、外観検査用管理装置、及び外観検査方法に関する。
【背景技術】
【0002】
従来、撮像装置で撮像した検査対象物の画像データと欠陥の有無との関係を機械学習した学習済モデルを用いて、検査対象物を撮像した画像データから欠陥の有無を識別する外観検査装置が知られている。
【0003】
通常、欠陥を有する不良品の数は、良品の数に比べて遥かにすくないため、機械学習に用いる欠陥有りの画像データが不足することが多い。そこで、特許文献1では、異なる種類の検査対象物を撮像した画像データを組み合わせることによって、所望の検査対象物における欠陥有りの画像データを生成する技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2020-106461号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、複数の外観検査装置を用いて外観検査を行う場合、外観検査装置毎に光源のバラつきや撮像装置の性能のバラつきがあるために、複数の外観検査装置で学習済モデルを共通化することは困難である。さらに、複数の外観検査装置は、それぞれ異なる製造ラインに配置されたり、それぞれ異なる製品の検査を行ったりする場合も多く、それぞれの外観検査装置で識別される欠陥の種類に偏りが生じやすい。そのため、ある外観検査装置において、例えば、特定の欠陥の検査精度が十分に得られない、といった不具合が生じるおそれがあった。
【0006】
そこで、本発明は、複数の外観検査装置における検査精度の向上を図ることが可能な外観検査システム、外観検査用管理装置、及び外観検査方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明は、上記課題を解決することを目的として、予め作成された学習済モデルを用いて、撮像装置で撮像した検査対象物の画像データから、前記検査対象物の欠陥の有無を識別する複数の外観検査装置と、前記複数の外観検査装置のそれぞれと相互に通信可能に構成された外観検査用管理装置と、を備え、前記外観検査用管理装置は、少なくとも、前記複数の外観検査装置で欠陥が有ると識別された前記画像データである欠陥画像データを取得し記憶部に記憶する画像データ取得処理部を有し、前記複数の外観検査装置それぞれは、前記外観検査用管理装置から、前記記憶部に記憶された他の前記外観検査装置の前記欠陥画像データ、または当該欠陥画像データを用いて新たに生成された生成欠陥画像データ、または、前記生成欠陥画像データを用いて機械学習を行い作成された前記学習済モデルを取得可能に構成されている、外観検査システムを提供する。
【0008】
また、本発明は、上記課題を解決することを目的として、予め作成された学習済モデルを用いて、撮像装置で撮像した検査対象物の画像データから、前記検査対象物の欠陥の有無を識別する複数の外観検査装置を管理する外観検査用管理装置であって、前記複数の外観検査装置のそれぞれと相互に通信可能に構成されており、少なくとも、前記複数の外観検査装置で欠陥が有ると識別された前記画像データである欠陥画像データを取得し記憶部に記憶する画像データ取得処理部を有し、前記複数の外観検査装置それぞれに、前記記憶部に記憶された他の前記外観検査装置の前記欠陥画像データ、または当該欠陥画像データを用いて新たに生成された生成欠陥画像データ、または、前記生成欠陥画像データを用いて機械学習を行い作成された前記学習済モデルを出力可能に構成されている、外観検査用管理装置を提供する。
【0009】
また、本発明は、上記課題を解決することを目的として、予め作成された学習済モデルを用いて、撮像装置で撮像した検査対象物の画像データから、前記検査対象物の欠陥の有無を識別する複数の外観検査装置を用いた外観検査方法であって、前記複数の外観検査装置のそれぞれと相互に通信可能に外観検査用管理装置を設け、前記外観検査用管理装置の記憶部に、少なくとも、前記複数の外観検査装置で欠陥が有ると識別された前記画像データである欠陥画像データを記憶しておき、所定の前記外観検査装置で欠陥が無いと判定された前記画像データである無欠画像データと、前記所定の外観検査装置とは異なる前記外観検査装置での前記欠陥画像データとを用いて、前記生成欠陥画像データを生成し、前記所定の外観検査装置で取得した前記欠陥画像データ、前記無欠画像データ、及び前記生成欠陥画像データを学習用データとして機械学習を行い、前記所定の外観検査装置で用いる前記学習済モデルを作成する、外観検査方法を提供する。
【発明の効果】
【0010】
本発明によれば、複数の外観検査装置における検査精度の向上を図ることが可能な外観検査システム、外観検査用管理装置、及び外観検査方法を提供できる。
【図面の簡単な説明】
【0011】
図1】本発明の一実施の形態に係る外観検査システムの概略構成図である。
図2】画像データ管理データベースの一例を示す図である。
図3】(a),(b)は、画像生成処理を説明する図である。
図4】(a),(b)は、モデル生成処理を説明する図である。
図5】外観検査時の制御フローを示すフロー図である。
図6】学習済モデルの作成、更新時の制御フローを示すフロー図である。
図7】画像データ取得処理のフロー図である。
図8】(a)は画像生成処理のフロー図であり、(b)は学習用データ作成処理のフロー図である。
図9】モデル作成処理のフロー図である。
図10】本発明の一変形例に係る外観検査システムの概略構成図である。
図11】本発明の一変形例に係る外観検査システムの概略構成図である。
図12】本発明の一変形例に係る外観検査システムの概略構成図である。
図13】外観検査装置の表示部に表示される外観検査結果表示画面の一例を示す図である。
【発明を実施するための形態】
【0012】
[実施の形態]
以下、本発明の実施の形態を添付図面にしたがって説明する。
【0013】
図1は、本実施の形態に係る外観検査システム1の概略構成図である。図1に示すように、外観検査システム1は、複数の外観検査装置2と、複数の外観検査装置2のそれぞれとネットワーク100を介して相互に通信可能に構成された外観検査用管理装置10(以下、単に管理装置10という)と、を備えている。ネットワーク100は、インターネットであってもよいし、ローカルエリアネットワークやワイドエリアネットワーク等の専用のイントラネットであってもよい。
【0014】
また、外観検査システム1は、ネットワーク100を介して管理装置10と相互に通信可能に構成された管理用端末101を備えている。管理用端末101は、ネットワーク100を介して管理装置10の設定等を行うための端末装置であり、例えばパーソナルコンピュータで構成される。ここでは、外観検査装置2での検査結果(欠陥の有無の識別結果)が管理用端末101でも確認できるように構成されている。
【0015】
(外観検査装置2)
外観検査装置2は、検査対象物の欠陥の有無を識別する装置である。ここでは、第1外観検査装置2aと第2外観検査装置2bの2つの外観検査装置2を用いる場合を説明するが、外観検査装置2の数はこれに限らず、3つ以上であってもよい。検査対象物については、特に限定するものではないが、ここではセラミックス材料、特に磁性材料を検査対象物とする場合について説明する。この場合、外観検査で検査する欠陥としては、キレツ(クラック)、カケ、ピンホール、黒皮ハガレ、ウネリ等が挙げられる。
【0016】
第1外観検査装置2aは、検査対象物を撮像する撮像装置21aと、制御部22aと、記憶部23aと、を有している。同様に、第2外観検査装置2bは、検査対象物を撮像する撮像装置21bと、制御部22bと、記憶部23bと、を有している。
【0017】
制御部22a,22bは、CPU等の演算素子、RAMやROM等のメモリ、ハードディスク等の記憶装置、LANカード等の通信デバイスである通信インターフェースを適宜組み合わせて実現されている。記憶部23a,23bは、メモリや記憶装置の所定の記憶領域により実現されている。制御部22a,22b及び記憶部23a,23bは、パーソナルコンピュータ等の演算装置により実現されていてもよい。
【0018】
制御部22a,22bは、欠陥識別処理部221a,221bと、送受信処理部222a,222bと、を有している。欠陥識別処理部221a,221bは、予め作成された学習済モデル51,52を用いて、撮像装置21a,21bで撮像した検査対象物の画像データから、検査対象物の欠陥の有無を識別する。
【0019】
第1外観検査装置2aの欠陥識別処理部221aは、記憶部23aに記憶された第1学習済モデル51を用いて、撮像装置21aで撮像された画像データから、検査対象物の欠陥の有無を識別する。そして、識別の結果、検査対象物に欠陥が無いと判定された場合には、識別に用いた画像データを第1無欠画像データ411として記憶部23aに記憶する。また、識別の結果、検査対象物に欠陥が有ると判定された場合には、識別に用いた画像データを第1欠陥画像データ412として記憶部23aに記憶する。以下、第1無欠画像データ411と第1欠陥画像データ412とをまとめて第1画像データ41と呼称する。
【0020】
同様に、第2外観検査装置2bの欠陥識別処理部221bは、記憶部23bに記憶された第2学習済モデル52を用いて、撮像装置21bで撮像された画像データから、検査対象物の欠陥の有無を識別する。そして、識別の結果、検査対象物に欠陥が無いと判定された場合には、識別に用いた画像データを第2無欠画像データ421として記憶部23bに記憶する。また、識別の結果、検査対象物に欠陥が有ると判定された場合には、識別に用いた画像データを第2欠陥画像データ422として記憶部23bに記憶する。以下、第2無欠画像データ421と第2欠陥画像データ422とをまとめて第2画像データ42と呼称する。
【0021】
ところで、複数の外観検査装置2a,2bを用いる場合、装置間で撮像装置21a,21bの性能差、照明の明るさ等の差といった個体差(機差)が存在する。そのため、複数の外観検査装置2a,2b間で共通の学習済モデル51,52を用いることは、検査精度の観点から望ましくない。本実施の形態では、各外観検査装置2a,2bのそれぞれにおいて、専用の学習済モデル51,52が用いられている。
【0022】
なお、図1では図示を簡略化して第1学習済モデル51及び第2学習済モデル52と示しているが、実際には、各外観検査装置2において、撮像する部位、撮像アングル、識別する欠陥の種類、及び照明の状態毎に、それぞれ学習済モデルが作成され記憶部23a,23bに記憶されている。制御部22a,22bは、外観検査を行う際には、予め設定された手順で照明の状態やアングルを変化させつつ順次検査対象物の撮像を行い、複数の画像データを取得する。そして、欠陥識別処理部221a,221bは、取得した複数の画像データのそれぞれについて、対応する学習済モデルを用いて欠陥の有無を識別する。このとき、1つの画像データで種類の異なる複数の欠陥の有無を識別すべく、1つの画像データに対して、複数の学習済みモデルを適用して欠陥の有無を識別するようにしてもよい。制御部22a,22bは、欠陥識別処理部221a,221bにより全ての画像データで検査対象物に欠陥が無いと判断されたときに、当該検査対象物が欠陥の無い良品であると判断し、検査対象物を良品出口から排出する。また、制御部22a,22bは、欠陥識別処理部221a,221bにより画像データの何れかで検査対象物に欠陥が有ると判断されたときに、当該検査対象物が欠陥の有る不良品であると判断し、検査対象物を不良品出口から排出する。
【0023】
上記のように、撮像装置21bで撮像される画像データは、撮像する部位やアングル、照明の状態が異なる。そのため、各画像データは、撮像する部位やアングル、照明の状態と紐づけられた状態で記憶部23a,23bに記憶されるように構成されている。さらに、欠陥が有ると判断された画像データ(第1欠陥画像データ412及び第2欠陥画像データ422)については、どのような種類の欠陥が有ると判断されたかという情報、すなわち欠陥の種類も紐づけて記憶される。制御部22a,22bは、画像データのIDやファイル名と、製品種類、撮像部位、撮像アングル、照明の状態、欠陥の種類とを紐づけたデータベースを作成し、第1画像データ管理データベース431または第2画像データ管理データベース432として記憶部23a,23bに記憶する。
【0024】
送受信処理部222a,222bは、外観検査装置2a,2bと管理装置10間でデータの送受信の処理を行う。より具体的には、送受信処理部222a,222bは、管理装置10から画像データ要求信号を受信したとき、記憶部23a,23bに記憶されている画像データ41,42と、画像データ管理データベース431,432とを管理装置10に送信する。なお、この際、前回の送信時から追加された画像データ41,42のみを送信するように送受信処理部222a,222bを構成してもよい。また、送受信処理部222a,222bは、管理装置10から学習済モデル51,52を受信したときに、受信した学習済モデル51,52を記憶部23a,23bに記憶し、学習済モデル51,52を更新する。
【0025】
(管理装置10)
管理装置10は、例えばサーバ装置により構成されている。管理装置10は、制御部11と、記憶部12と、を有している。管理装置10は、例えば、サーバ装置等のコンピュータであり、CPU等の演算素子、RAMやROM等のメモリ、ハードディスク等の記憶装置、LANカード等の通信デバイスである通信インターフェースを備えている。
【0026】
制御部11は、設定処理部111、画像データ取得処理部112、画像生成処理部113、学習用データ作成処理部114、モデル作成処理部115、及び出力処理部116を有している。記憶部12は、メモリや記憶装置の所定の記憶領域により実現されている。
【0027】
(設定処理部111)
設定処理部111は、管理装置10の各種設定を行うための設定処理を行うものである。設定処理部111では、例えば、画像データ取得処理部112による画像データ取得の方法や取得日時の設定等、各種制御に係る情報の設定を行うことができる。また、設定処理部111では、記憶部12に記憶する各種情報の登録・更新・削除等が可能である。本実施の形態では、各種情報の入力等は、ネットワーク100を介して管理用端末101により行われる。
【0028】
(画像データ取得処理部112)
画像データ取得処理部112は、少なくとも、複数の外観検査装置2での欠陥画像データ412,422を取得し記憶部12に記憶する画像データ取得処理を行う。本実施の形態では、画像データ取得処理部112は、無欠画像データ411,421を含む全ての画像データ(第1画像データ41及び第2画像データ42)と、画像データ管理データベース431,432とを外観検査装置2a,2bから取得する。
【0029】
また、画像データ取得処理部112は、取得した第1画像データ管理データベース431と第2画像データ管理データベース432とを統合して画像データ管理データベース43として記憶部12に記憶する。図2に示すように、画像データ管理データベース43は、画像データを特定可能な画像IDのそれぞれに対して、撮像した外観検査装置2のID、製品の種類、撮像した部位、アングル、欠陥の種類(欠陥画像データ412,422のみ)、照明状態等が紐づけられたデータベースである。図2の例では、製品の種類、撮像した部位、アングル、欠陥の種類、及び照明状態のそれぞれについては、予め設定された番号で表示している。なお、画像データ管理データベース43は、図示以外の情報を含んでいてもよい。
【0030】
このように、画像データ取得処理部112は、複数の外観検査装置2から取得した欠陥画像データを、少なくとも、欠陥の種類と紐づけて記憶部12に記憶する。また、画像データ取得処理部112は、複数の外観検査装置2から取得した無欠画像データ411,421及び欠陥画像データ412,422を、撮像した外観検査装置2のID、製品の種類、撮像した部位、アングル、及び撮像時の照明状態、と紐づけて記憶部12に記憶する。これにより、後述する画像生成処理において、合成に適した無欠画像データ411,421と欠陥画像データ412,422のペアを選びやすくなる。
【0031】
(画像生成処理部113)
画像生成処理部113は、所定の外観検査装置2a(または2b)での無欠画像データ411(または421)と、所定の外観検査装置2a(または2b)とは異なる外観検査装置2b(または2a)での欠陥画像データ422(または412)とを用いて、生成欠陥画像データ413(または423)を生成する画像生成処理を行う。
【0032】
より具体的には、図3(a)に示すように、画像生成処理部113は、第1無欠画像データ411と第2欠陥画像データ422とを基に、第1外観検査装置2a用の第1学習済モデル51の学習に用いる第1生成欠陥画像データ413を生成する。画像生成処理にあたっては、学習を行う第1学習済モデル51に対応する撮像部位、アングル、欠陥の種類、及び照明状態の第1無欠画像データ411と第2欠陥画像データ422のペアを、例えば無作為に選択するとよい。第1生成欠陥画像データ413を生成する手法については公知であるため、ここでは詳細を省略するが、例えば、第2欠陥画像データ422の欠陥部分を切り出した後、その切り出した欠陥部分を第1無欠画像データ411に合わせ込み、合わせ込んだ欠陥部分を周囲と馴染ませる処理を行うことで、第1生成欠陥画像データ413を生成するとよい。画像生成処理部113は、生成した第1生成欠陥画像データ413を記憶部12に記憶すると共に、生成した第1生成欠陥画像データ413に関する情報を画像データ管理データベース43に追加する。
【0033】
また、第2外観検査装置2b用の第2学習済モデル52の作成(更新)を行う場合には、図3(b)に示すように、画像生成処理部113は、第2無欠画像データ421と第1欠陥画像データ412とを基に、第2学習済モデル52の学習に用いる第2生成欠陥画像データ423を生成する。画像生成処理部113は、生成した第2生成欠陥画像データ423を記憶部12に記憶すると共に、生成した第2生成欠陥画像データ423に関する情報を画像データ管理データベース43に追加する。
【0034】
(学習用データ作成処理部114)
学習用データ作成処理部114は、作成する学習済モデル51,52に応じて、機械学習に用いる画像データを抽出する学習用データ作成処理を行う。より具体的には、学習用データ作成処理部114は、第1学習済モデル51の機械学習を行う場合、当該第1学習済モデル51に対応する撮像部位、アングル、欠陥の種類、及び照明状態の第1無欠画像データ411、第1欠陥画像データ412、及び第1生成欠陥画像データ413を抽出し、第1学習用データ61として記憶部12に記憶する。
【0035】
なお、この際、第1無欠画像データ411の数が多すぎる場合には、適宜数を減らす処理(例えば、所定数を無作為に選択する処理など)を行うようにしてもよい。また、第1欠陥画像データ412と第1生成欠陥画像データ413の合計数が予め設定した下限数よりも少ない場合には、画像生成処理部113に第1生成欠陥画像データ413の生成を行わせるようにしてもよい。
【0036】
同様に、学習用データ作成処理部114は、第2学習済モデル52の機械学習を行う場合には、当該第2学習済モデル52に対応する撮像部位、アングル、欠陥の種類、及び照明状態の第2無欠画像データ421、第2欠陥画像データ422、及び第2生成欠陥画像データ423を抽出し、第2学習用データ62として記憶部12に記憶する。なお、この際、第2無欠画像データ421の数が多すぎる場合には、適宜数を減らす処理を行うようにしてもよい。また、第2欠陥画像データ422と第2生成欠陥画像データ423の合計数が予め設定した下限数よりも少ない場合には、画像生成処理部113に第2生成欠陥画像データ423の生成を行わせるよう構成されていてもよい。
【0037】
(モデル作成処理部115)
モデル作成処理部115は、学習用データ61,62を用いて機械学習を行い、学習済モデル51,52を作成する。第1学習済モデル51を作成する場合、図4(a)に示すように、モデル作成処理部115は、第1学習用データ61に含まれる第1無欠画像データ411、第1欠陥画像データ412、及び第1生成欠陥画像データ413と、検査対象物の欠陥の有無との関係を機械学習し、機械学習の結果として第1学習済モデル51を作成する。
【0038】
より具体的には、第1無欠画像データ411、第1欠陥画像データ412、及び第1生成欠陥画像データ413の各画像データを説明変数のパラメータとし、検査対象物の欠陥の有無を目的変数として、説明変数と目的変数との相関性を表すモデル構造としての第1学習済モデル51を作成する。モデル作成処理部115は、入力された説明変数の各パラメータに対する目的変数のパラメータの相関性を、機械学習により自ら学習するための学習アルゴリズム等のソフトウェアを含んでいる。学習アルゴリズムは特に限定されず、公知の学習アルゴリズムを用いることができ、例えば、3層以上の層をなすニューラルネットワークを用いた所謂ディープラーニング等を用いることができる。
【0039】
モデル作成処理部115は、作成した第1学習済モデル51を記憶部12に記憶する。本実施の形態では、モデル作成処理部115による第1学習済モデル51の更新は、管理者等により随時行われるようにしてもよいし、例えば毎月1回など、定期的に更新されるようにしてもよい。また、本実施の形態では、画像データそのものを説明変数として扱ったが、第1無欠画像データ411、第1欠陥画像データ412、及び第1生成欠陥画像データ413に含まれる予め設定された特徴量(例えば所定の色の領域の面積、彩度のばらつき、エッジの角度など)を説明変数のパラメータとして用いてもよい。
【0040】
同様に、第2学習済モデル52を作成する場合、図4(b)に示すように、モデル作成処理部115は、第2学習用データ62に含まれる第2無欠画像データ421、第2欠陥画像データ422、及び第2生成欠陥画像データ423と、検査対象物の欠陥の有無との関係を機械学習し、機械学習の結果として第2学習済モデル52を作成する。
【0041】
(出力処理部116)
出力処理部116は、モデル作成処理部115で作成した学習済モデル51,52を、対応する外観検査装置2a,2bに送信する出力処理を行う。このように、本実施の形態に係る外観検査システム1では、複数の外観検査装置2a,2bそれぞれは、管理装置10にて生成欠陥画像データ413,423を用いて機械学習を行い作成された学習済モデル51,52を取得可能に構成されている。
【0042】
外観検査装置2a,2bでは、受信した学習済モデル51,52を自身の記憶部23a,23bに記憶し、学習済モデル51,52の更新を行う。なお、この際、なんらかの理由で不具合が生じた場合を考慮し、容易に復旧ができるように、更新前の学習済モデル51,52を保存しておくように外観検査装置2a,2bを構成してもよい。
【0043】
(無欠画像データ411,421の共有について)
本実施の形態では、複数の外観検査装置2間で、欠陥画像データ412、422を共有し、他装置の欠陥画像データ412、422を用いて自装置用の生成欠陥画像データ413,423を生成し、生成した生成欠陥画像データ413,423を機械学習に用いて学習済モデル51,52の作成、更新を行う場合ついて説明したが、欠陥画像データ412、422だけでなく、無欠画像データ411,421も共有するように構成してもよい。
【0044】
例えば、複数の外観検査装置2を異なる製造ラインに設けた場合など、同じ製品であっても検査対象物の外観の状態が異なるような場合がある。このような場合に、無欠画像データ411,421も共有するように構成しておけば、例えば、ある外観検査装置2を異なる製造ラインに移動させたような場合でも、高い検査精度で外観検査を行うことが可能になる。
【0045】
この場合、画像生成処理部113は、他の外観検査装置2の無欠画像データ411,421に適宜な画像処理(例えば、明度、彩度の調整など)を行い、新たに所定の外観検査装置2用の生成無欠画像データ(不図示)を生成する。そして、モデル作成処理部115は、生成した生成無欠画像データを用いて学習済モデル51,52を作成、更新するとよい。
【0046】
(過検出や見逃しへの対応について)
外観検査装置2による外観検査で欠陥が有ると判定されたにもかかわらず、人による検査で欠陥が無いと判定された「過検出」や、外観検査装置2による外観検査で欠陥が無いと識別されたにもかかわらず、人による検査で欠陥が発見された「見逃し」が生じた場合、同様の過検出や見逃しが生じるおそれがあるため、速やかに学習済モデル51,52の更新を行うことが望ましい。この場合、過検出となった画像データを無欠画像データ411,421に追加し、見逃しとなった画像データを欠陥画像データ412,422に追加すると共に、当該追加した画像データを含む学習用データ61,62を用いて機械学習を行うようにすればよい。
【0047】
また、他装置で同様の過検出や見逃しが生じることを抑制するために、他装置用に、過検出となった無欠画像データ411,421を用いた生成無欠画像データや、見逃しとなった欠陥画像データ412,422を用いた生成欠陥画像データ413,423を生成し、これらを機械学習に用いて学習済モデル51,52の更新を行うとよい。
【0048】
(外観検査時の制御フロー)
図5は、外観検査時の制御フローである。図5に示すように、まず、ステップS1にて、検査対象物を外観検査装置2に導入し撮像装置21a,21bにより撮像を行う。この際、予め設定されたアングル、照明状態で順次撮像を行い、複数の画像データを取得する。その後、ステップS2にて、欠陥識別処理を行う。欠陥識別処理では、欠陥識別処理部221a,221bが、ステップS1で取得した複数の画像データのそれぞれに対して、対応する学習済モデル51,52を用いて、欠陥の有無を識別する。
【0049】
その後、ステップS3にて、何れかの画像データで欠陥有りと識別されたかを判定する。ステップS3でNO(N)と判定された場合、すなわち全ての画像データで欠陥が無いと判定された場合には、ステップS4にて、検査対象物を良品と判断し、良品出口から排出する。その後、ステップS5にて、ステップS1で撮像した各画像データを無欠画像データ411,421として記憶部23a,23bに記憶し、ステップS6にて、各画像データの情報を画像データ管理データベース431,432に登録し、リターンする。
【0050】
ステップS3でYES(Y)と判定された場合、ステップS7にて、検査対象物を不良品と判断し、不良品出口から排出する。その後、ステップS8にて、欠陥が有ると判断された画像データを欠陥画像データ412,422として記憶部23a,23bに記憶する。この際、部位が異なる等して欠陥が無いと判断された画像データは、無欠画像データ411,421として記憶部23a,23bに記憶するとよい。その後、ステップS9にて、各画像データの情報を画像データ管理データベース431,432に登録し、リターンする。
【0051】
(学習済モデルの作成、更新時の制御フロー)
図6は、学習済モデルの作成、更新時の制御フローを示すフロー図である。図6の制御フローは、定期的に実行されてもよいし、管理者等により随時実行されてもよい。図6に示すように、ステップS10の画像データ取得処理、ステップS20の画像生成処理、ステップS30学習用データ作成処理、ステップS40のモデル作成処理、ステップS50の出力処理を順次行う。なお、ステップS10の画像データ取得処理のみを定期的に実行するようにし、ステップS20以降の各処理を、管理者等により随時実行するよう構成してもよい。また、図示していないが、図6の制御フローでは、更新または作成対象となる学習済モデル51,52が予め自動で、あるいは管理者による手動で指定される。管理者が手動で更新または作成対象となる学習済モデル51,52を指定する場合、例えば、管理用端末101からの入力により指定することができる。
【0052】
ステップS10の画像データ取得処理では、図7に示すように、まず、ステップS11にて、画像データ取得処理部112が、各外観検査装置2a,2bに画像データ要求信号を送信する。なお、ここでは、第1外観検査装置2aと第2外観検査装置2bの両方に画像データ要求信号を送信する場合を示しているが、必要に応じて、いずれか一方のみに画像データ要求信号を送信してもよい。
【0053】
画像データ要求信号を受信した第1外観検査装置2aの送受信処理部222aは、第1画像データ41と第1画像データ管理データベース431とを管理装置10に送信する(ステップS12)。この際、未送信の第1画像データ41と第1画像データ管理データベース431の情報のみを送信するようにしてもよい。同様に、画像データ要求信号を受信した第2外観検査装置2bの送受信処理部222bは、第2画像データ42と第2画像データ管理データベース432とを管理装置10に送信する(ステップS13)。
【0054】
その後、ステップS14にて、画像データ取得処理部112が、受信した第1及び第2画像データ41,42と、第1及び第2画像データ管理データベース431,432を記憶部12に記憶する。その後、ステップS15にて、第1及び第2画像データ管理データベース431,432を用いて画像データ管理データベース43を更新する。その後、リターンし、ステップS20に進む。
【0055】
ステップS20の画像生成処理では、図8(a)に示すように、まず、ステップS21にて、画像生成処理部113が、合成する無欠画像データ411,421と欠陥画像データ412,422のペアを選択する。この際、画像データ管理データベース43を参照し、機械学習を行う学習済モデル51,52に対応する撮像条件(アングル、照明状態等)及び対応する欠陥の種類の画像データを無作為に選択する。また、第1学習済モデル51を学習する際には第1無欠画像データ411と第2欠陥画像データ422のペアを、第2学習済モデル52を学習する際には第2無欠画像データ421と第1欠陥画像データ412のペアを選択する。なお、画像データの選択の際には、例えば、複数の候補画像データを管理用端末101の表示器に表示するなどして、管理者に合成する画像データのペアを選択させるよう構成することもできる。
【0056】
その後、ステップS22にて、選択した無欠画像データ411,421と欠陥画像データ412,422のペアを用いて生成欠陥画像データ413,423を生成する。その後、ステップS23にて、生成した生成欠陥画像データ413,423を記憶部12に記憶すると共に、当該生成欠陥画像データ413,423の情報を画像データ管理データベース43に登録する。その後、リターンしてステップS30の学習用データ作成処理に進む。
【0057】
なお、更新または作成する学習済モデル51,52に対応する欠陥画像データ412,422と生成欠陥画像データ413,423の合計数が、既に十分な数確保できている場合(すなわち、機械学習により十分な検査精度が得られる程度の数を確保できている場合)には、ステップS20は省略可能である。
【0058】
ステップS30の学習用データ作成処理では、図8(b)に示すように、まずステップS31にて、学習用データ作成処理部114が、更新または作成する学習済モデル51,52に対応する撮影条件(撮影部位、アングル、照明状態)及び対応する欠陥の種類の画像データ(無欠画像データ411,421、欠陥画像データ412,422、及び生成欠陥画像データ413,423)を抽出する。この際、欠陥画像データ412,422と生成欠陥画像データ413,423の合計数が所定数より少ない場合には、ステップS22に戻り、生成欠陥画像データ413,423の生成を行うようにしてもよい。また、無欠画像データ411,421の数が多い場合には、適宜な方法で学習用データ61,62に用いる無欠画像データ411,421の数を減らしてもよい。その後、ステップS32にて、抽出した各画像データを学習用データとして記憶部12に記憶する。その後、リターンし、ステップS40に進む。
【0059】
ステップS40のモデル作成処理では、図9に示すように、まず、ステップS41にて、モデル作成処理部115が、ステップS30で作成した学習用データ61,62を機械学習に用いて、学習済モデル51,52を作成(あるいは更新)する。その後、ステップS42にて、作成(あるいは更新)した学習済モデル51,52を記憶部12に記憶する。その後、リターンし、ステップS50に進む。
【0060】
ステップS50の出力処理では、ステップS40で作成した学習済モデル51,52を、対応する外観検査装置2に送信する。学習済モデル51,52を受信した外観検査装置2の送受信処理部222a,222bは、受信した学習済モデル51,52を記憶部に記憶し、学習済モデル51,52を更新する。以上により、処理を終了する。
【0061】
(変形例)
本実施の形態では、管理装置10を1つのサーバ装置で構成したが、これに限らず、管理装置10を複数のサーバ装置で構成してもよい。例えば、図10に示す外観検査システム1aのように、一方の第1サーバ装置10aに画像生成処理部113を搭載し、他方の第2サーバ装置10bにモデル作成処理部115を搭載することで、第1サーバ装置10aで画像生成に係る処理を担当させ、第2サーバ装置10bで機械学習に係る処理を担当させるなど、各サーバ装置10a,10bに役割分担をさせて、処理負荷の分散を図ることができる。
【0062】
また、本実施の形態では、管理装置10に画像生成処理部113やモデル作成処理部115を搭載したが、これに限らず、画像生成処理部113とモデル作成処理部115の両方または一方を外観検査装置2に搭載してもよい。
【0063】
例えば図11に示す外観検査システム1bのように、画像生成処理部113、学習用データ作成処理部114、及びモデル作成処理部115を、外観検査装置2のそれぞれに搭載してもよい。この場合、管理装置10には、少なくとも、各外観検査装置2から欠陥画像データ412,422を取得して記憶部12に記憶しておき、任意の外観検査装置2に、その任意の外観検査装置2とは異なる外観検査装置2の欠陥画像データ412,422を出力する機能が搭載されていればよい。つまり、複数の外観検査装置2のそれぞれは、管理装置10から、記憶部12に記憶された他の外観検査装置2の欠陥画像データ412,422を取得可能に構成されていてもよい。
【0064】
図11の外観検査システム1bでは、生成欠陥画像データ413,423の生成や、学習済モデル51,52の作成の各処理は、各外観検査装置2にて行われることになる。つまり、外観検査装置2のそれぞれは、自装置の無欠画像データ411,421と、他装置の欠陥画像データ412,422とを用いて、生成欠陥画像データ413,423を生成する画像生成処理部113と、自装置の無欠画像データ411,421及び欠陥画像データ412,422と、生成した生成欠陥画像データ413,423とを学習用データ61,62として機械学習を行い、自装置の学習済モデル51,52を作成するモデル作成処理部115と、を有してもよい。
【0065】
さらに、図12に示す外観検査システム1cのように、画像生成処理部113を管理装置10側に設け、学習用データ作成処理部114、及びモデル作成処理部115を、外観検査装置2のそれぞれに搭載してもよい。この場合、管理装置10において生成欠陥画像データ413,423の生成が行われ、生成した生成欠陥画像データ413,423が管理装置10から各外観検査装置2に出力されることになる。つまり、複数の外観検査装置2のそれぞれは、管理装置10から、欠陥画像データ412,413を用いて新たに生成された生成欠陥画像データ413,423を取得可能に構成されていてもよい。
【0066】
図12の外観検査システム1cでは、生成欠陥画像データ413,423の生成は管理装置10で行われ、学習済モデル51,52の作成は各外観検査装置2にて行われることになる。つまり、管理装置10は、所定の外観検査装置2での無欠画像データ411,421と、所定の外観検査装置2とは異なる外観検査装置2での欠陥画像データ412,422とを用いて、所定の外観検査装置2用の生成欠陥画像データ413,423を生成する画像生成処理部113を有し、かつ、外観検査装置2のそれぞれは、自装置の無欠画像データ411,421及び欠陥画像データ412,422と、管理装置10から取得した自装置用の生成欠陥画像データ413,423とを学習用データ61,62として機械学習を行い、自装置の学習済モデル51,52を作成するモデル作成処理部115を有してもよい。
【0067】
また、図示していないが、図12において学習用データ作成処理部114を管理装置10に搭載し、複数の外観検査装置2のそれぞれが、管理装置10から、学習用データ61,62を取得可能に構成されてもよい。
【0068】
さらにまた、本実施の形態では言及しなかったが、外観検査装置2は、検査対象物の欠陥の有無を識別した識別結果(外観検査の検査結果)が表示される表示部を有していてもよい。例えば、図13に示すように、表示部24に表示される外観検査結果表示画面25は、撮像画像を表示する撮像画像表示エリア25aと、欠陥の有無の識別結果を表示する識別結果表示エリア25bと、を有しているとよい。撮像画像表示エリア25aには、撮像した部位やアングル、照明状態等の撮像条件の情報が表示されることが望ましい。識別結果表示エリア25bには、撮像画像に対応する学習済モデル毎に、欠陥の有無の識別結果が表示されるとよい。なお、図13では図示を省略しているが、識別結果表示エリア25bには、識別にかかった時間や、判定に係るスコア(例えば、欠陥らしさを疑似カラーなどで画像表示したヒートマップも含む)等を表示してもよい。
【0069】
(実施の形態の作用及び効果)
以上説明したように、本実施の形態に係る外観検査システム1では、複数の外観検査装置2と、複数の外観検査装置2のそれぞれと相互に通信可能に構成された管理装置10と、を備え、管理装置10は、少なくとも、複数の外観検査装置2で検査対象物に欠陥が有ると識別された画像データである欠陥画像データ412,422を取得し記憶部12に記憶する画像データ取得処理部112を有し、複数の外観検査装置2のそれぞれは、管理装置10から、記憶部12に記憶された他の外観検査装置2の欠陥画像データ412,422、または当該欠陥画像データ412,422を用いて新たに生成された生成欠陥画像データ413,423、または、生成欠陥画像データ413,423を用いて機械学習を行い作成された学習済モデル51,52を取得可能に構成されている。
【0070】
このように構成することで、複数の外観検査装置2において、他装置で取得した欠陥画像データ412,422を利用して生成した自装置用の生成欠陥画像データ413,423を、自装置の機械学習に用いることが可能になり、複数の外観検査装置2における検査精度の向上を図ることが可能になる。
【0071】
複数の外観検査装置2は、それぞれ異なる製造ラインに配置されたり、それぞれ異なる製品の検査を行ったりする場合も多く、それぞれの外観検査装置2で識別される欠陥の種類に偏りが生じやすい。本実施の形態によれば、このような場合であっても、ある外観検査装置2において、例えば、特定の欠陥の検査精度が十分に得られない、といった不具合が生じることを抑制でき、外観検査の検査精度をより向上させることができる。
【0072】
(実施の形態のまとめ)
次に、以上説明した実施の形態から把握される技術思想について、実施の形態における符号等を援用して記載する。ただし、以下の記載における各符号等は、特許請求の範囲における構成要素を実施の形態に具体的に示した部材等に限定するものではない。
【0073】
[1]予め作成された学習済モデル(51,52)を用いて、撮像装置(21a,21b)で撮像した検査対象物の画像データから、前記検査対象物の欠陥の有無を識別する複数の外観検査装置(2)と、前記複数の外観検査装置(2)のそれぞれと相互に通信可能に構成された外観検査用管理装置(10)と、を備え、前記外観検査用管理装置(10)は、少なくとも、前記複数の外観検査装置(2)で前記検査対象物に欠陥が有ると識別された前記画像データである欠陥画像データ(412,422)を取得し記憶部(12)に記憶する画像データ取得処理部(112)を有し、前記複数の外観検査装置(2)のそれぞれは、前記外観検査用管理装置(10)から、前記記憶部(12)に記憶された他の前記外観検査装置(2)の前記欠陥画像データ(412,422)、または当該欠陥画像データ(412,422)を用いて新たに生成された生成欠陥画像データ(413,423)、または、前記生成欠陥画像データ(413,423)を用いて機械学習を行い作成された前記学習済モデル(51,52)を取得可能に構成されている、外観検査システム(1)。
【0074】
[2]前記外観検査用管理装置(10)は、所定の前記外観検査装置(2)で前記検査対象物に欠陥が無いと判定された前記画像データである無欠画像データ(411,421)と、前記所定の外観検査装置(2)とは異なる前記外観検査装置(2)での前記欠陥画像データ(412,422)とを用いて、前記生成欠陥画像データ(413,423)を生成する画像生成処理部(113)と、前記所定の外観検査装置(2)で取得した前記欠陥画像データ(412,422)、前記無欠画像データ(411,421)、及び前記生成欠陥画像データ(413,423)を学習用データ(61,62)として機械学習を行い、前記所定の外観検査装置(2)で用いる前記学習済モデル(51,52)を作成するモデル作成処理部(115)と、を有する、[1]に記載の外観検査システム(1)。
【0075】
[3]前記外観検査装置(2)のそれぞれは、自装置で前記検査対象物に欠陥が無いと判定された前記画像データである無欠画像データ(411,421)と、他の前記外観検査装置(2)から取得した前記欠陥画像データ(412,422)とを用いて、前記生成欠陥画像データ(413,423)を生成する画像生成処理部(113)と、自装置で取得した前記欠陥画像データ(412,422)及び前記無欠画像データ(411,421)と、前記生成欠陥画像データ(413,423)とを学習用データ(61,62)として機械学習を行い、自装置の前記学習済モデル(51,52)を作成するモデル作成処理部(115)と、を有する、[1]に記載の外観検査システム(1b)。
【0076】
[4]前記外観検査用管理装置(10)は、所定の前記外観検査装置(2)で前記検査対象物に欠陥が無いと判定された前記画像データである無欠画像データ(411,421)と、前記所定の外観検査装置(2)とは異なる前記外観検査装置(2)での前記欠陥画像データ(412,422)とを用いて、前記所定の外観検査装置(2)用の前記生成欠陥画像データ(413,423)を生成する画像生成処理部(113)を有し、前記外観検査装置(2)のそれぞれは、自装置で取得した前記欠陥画像データ(412,422)及び前記無欠画像データ(411,421)と、前記外観検査用管理装置(10)から取得した自装置用の前記生成欠陥画像データ(413,423)とを学習用データ(61,62)として機械学習を行い、自装置の前記学習済モデル(51,52)を作成するモデル作成処理部(115)を有する、[1]に記載の外観検査システム(1c)。
【0077】
[5]前記画像データ取得処理部(112)は、前記複数の外観検査装置(2)から取得した前記欠陥画像データ(412,422)を、少なくとも、欠陥の種類と紐づけて前記記憶部(12)に記憶する、[1]乃至[4]の何れか1項に記載の外観検査システム(1)。
【0078】
[6]前記画像データ取得処理部(112)は、前記複数の外観検査装置(2)から取得した前記欠陥画像データ(412,422)を、さらに、撮像時の照明状態と紐づけて前記記憶部(12)に記憶する、[5]に記載の外観検査システム(1)。
【0079】
[7]前記画像データ取得処理部(112)は、前記複数の外観検査装置から、欠陥が無いと判定された前記画像データである無欠画像データ(411,421)を取得し前記記憶部(12)に記憶するように構成され、前記画像生成処理部(113)は、他の前記外観検査装置の前記無欠画像データ(411,421)から、新たに所定の前記外観検査装置(2)用の前記生成無欠画像データを生成し、前記モデル作成処理部(115)は、前記生成無欠画像データを用いて前記学習済モデル(51,52)を作成する、[2]乃至[4]の何れか1項に記載の外観検査システム。
【0080】
[8]予め作成された学習済モデル(51,52)を用いて、撮像装置(21a,21b)で撮像した検査対象物の画像データから、前記検査対象物の欠陥の有無を識別する複数の外観検査装置(2)を管理する外観検査用管理装置(10)であって、前記複数の外観検査装置(2)のそれぞれと相互に通信可能に構成されており、少なくとも、前記複数の外観検査装置(2)で前記検査対象物に欠陥が有ると識別された前記画像データである欠陥画像データ(412,422)を取得し記憶部(12)に記憶する画像データ取得処理部(112)を有し、前記複数の外観検査装置(2)のそれぞれに、前記記憶部(12)に記憶された他の前記外観検査装置(2)の前記欠陥画像データ(412,422)、または当該欠陥画像データ(412,422)を用いて新たに生成された生成欠陥画像データ(413,423)、または、前記生成欠陥画像データ(413,423)を用いて機械学習を行い作成された前記学習済モデル(51,52)を出力可能に構成されている、外観検査用管理装置(10)。
【0081】
[9]予め作成された学習済モデル(51,52)を用いて、撮像装置(21a,21b)で撮像した検査対象物の画像データから、前記検査対象物の欠陥の有無を識別する複数の外観検査装置(2)を用いた外観検査方法であって、前記複数の外観検査装置(2)のそれぞれと相互に通信可能に外観検査用管理装置(10)を設け、前記外観検査用管理装置(10)の記憶部(12)に、少なくとも、前記複数の外観検査装置(2)で前記検査対象物に欠陥が有ると識別された前記画像データである欠陥画像データ(412,422)を記憶しておき、所定の前記外観検査装置(2)で前記検査対象物に欠陥が無いと判定された前記画像データである無欠画像データ(411,421)と、前記所定の外観検査装置(2)とは異なる前記外観検査装置(2)での前記欠陥画像データ(412,422)とを用いて、生成欠陥画像データ(413,423)を生成し、前記所定の外観検査装置(2)で取得した前記欠陥画像データ(412,422)及び前記無欠画像データ(411,421)と、前記生成欠陥画像データ(413,423)とを学習用データ(61,62)として機械学習を行い、前記所定の外観検査装置(2)で用いる前記学習済モデル(51,52)を作成する、外観検査方法。
【0082】
(付記)
以上、本発明の実施の形態を説明したが、上記に記載した実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明した特徴の組合せの全てが発明の課題を解決するための手段に必須であるとは限らない点に留意すべきである。また、本発明は、その趣旨を逸脱しない範囲で適宜変形して実施することが可能である。
【符号の説明】
【0083】
1…外観検査システム
2…外観検査装置
21a,21b…撮像装置
10…外観検査用管理装置(管理装置)
11…制御部
111…設定処理部
112…画像データ取得処理部
113…画像生成処理部
114…学習用データ作成処理部
115…モデル作成処理部
116…出力処理部
12…記憶部
411…第1無欠画像データ
412…第1欠陥画像データ
413…第1生成欠陥画像データ
421…第2無欠画像データ
422…第2欠陥画像データ
423…第2生成欠陥画像データ
43…画像データ管理データベース
51…第1学習済モデル
52…第2学習済モデル
61…第1学習用データ
62…第2学習用データ
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13