(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022187282
(43)【公開日】2022-12-19
(54)【発明の名称】検査装置、検査方法、ガラス板の製造方法、および検査プログラム
(51)【国際特許分類】
G01N 21/958 20060101AFI20221212BHJP
G06T 7/00 20170101ALI20221212BHJP
【FI】
G01N21/958
G06T7/00 610Z
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2021095236
(22)【出願日】2021-06-07
(71)【出願人】
【識別番号】000232243
【氏名又は名称】日本電気硝子株式会社
(74)【代理人】
【識別番号】110000338
【氏名又は名称】特許業務法人HARAKENZO WORLD PATENT & TRADEMARK
(72)【発明者】
【氏名】茗原 貴裕
(72)【発明者】
【氏名】植村 弥浩
(72)【発明者】
【氏名】三成 泰紀
【テーマコード(参考)】
2G051
5L096
【Fターム(参考)】
2G051AA42
2G051AB03
2G051EB05
2G051EC01
2G051FA02
5L096AA06
5L096BA03
5L096CA02
5L096DA02
5L096FA17
5L096FA69
5L096GA30
5L096GA51
5L096HA08
5L096HA11
5L096KA04
(57)【要約】
【課題】ガラス板に発生した欠陥のサイズ検出における人的コストの低減と検出精度の維持の両立。
【解決手段】検査装置(1)は、ガラス板を撮像した撮像画像を取得する画像取得部(101)と、ガラス板に発生した欠陥の位置および範囲を推論するように学習したサイズ検出モデル(112)に、撮像画像を入力して得られる推論結果における範囲のサイズを、欠陥のサイズとして検出するサイズ検出部(103)と、を備える。
【選択図】
図1
【特許請求の範囲】
【請求項1】
ガラス板を撮像した撮像画像を取得する画像取得部と、
ガラス板に発生した欠陥の位置および範囲を推論するように、当該位置および範囲を学習した学習済モデルに、前記撮像画像を入力して得られる推論結果における前記範囲のサイズを、撮像された前記ガラス板に発生した欠陥のサイズとして検出するサイズ検出部と、を備える検査装置。
【請求項2】
前記学習済モデルは、前記推論結果に対する信頼度をさらに出力し、
前記サイズ検出部は、前記信頼度が所定の閾値以上の前記推論結果における前記範囲のサイズを、撮像された前記ガラス板に発生した欠陥のサイズとして検出する、請求項1に記載の検査装置。
【請求項3】
前記サイズ検出部は、前記推論結果が複数得られた場合、当該複数の推論結果における複数の範囲を包含する領域のサイズを、撮像された前記ガラス板に発生した欠陥のサイズとして検出する、請求項1または2に記載の検査装置。
【請求項4】
前記サイズ検出部は、検出した欠陥のサイズが正常範囲外である場合、前記撮像画像を構成する各画素の画素値を数値解析して当該欠陥のサイズを再検出する、請求項1から3のいずれか1項に記載の検査装置。
【請求項5】
前記画像取得部は、前記ガラス板の端面を撮像した前記撮像画像を取得する、請求項1から4のいずれか1項に記載の検査装置。
【請求項6】
検査装置によって実行される検査方法であって、
ガラス板を撮像した撮像画像を取得する画像取得ステップと、
ガラス板に発生した欠陥の位置および範囲を推論するように、当該位置および範囲を学習した学習済モデルに、前記撮像画像を入力して得られる推論結果における前記範囲のサイズを、撮像された前記ガラス板に発生した欠陥のサイズとして検出するサイズ検出ステップと、を含む検査方法。
【請求項7】
ガラス原板を所定のサイズのガラス板に成型する工程と、検査装置により実行される、前記ガラス板の検査工程とを含むガラス板の製造方法であって、
前記検査工程は、
前記ガラス板を撮像した撮像画像を取得する画像取得ステップと、
前記ガラス板に発生した欠陥の位置および範囲を推論するように、当該位置および範囲を学習した学習済モデルに、前記撮像画像を入力して得られる推論結果における前記範囲のサイズを、撮像された前記ガラス板に発生した欠陥のサイズとして検出するサイズ検出ステップと、を含むガラス板の製造方法。
【請求項8】
請求項1に記載の検査装置としてコンピュータを機能させるための検査プログラムであって、前記画像取得部および前記サイズ検出部としてコンピュータを機能させるための検査プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ガラス板を撮像した画像に基づいてガラス板の欠陥検査を行う検査装置等に関する。
【背景技術】
【0002】
従来、ガラス板の製造におけるガラス板の欠陥検査、特に、ガラス板に生じた欠陥のサイズ検出は、目視により行われているため、人的コストの発生が避けられない。この問題に対し、特許文献1には、ガラス板の端面を撮像した画像に対して画像処理を行い、欠陥のサイズ検出を行う技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】国際公開第2004/079352号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
本願の発明者らは、上述のような従来技術では、十分な精度で欠陥のサイズを検出することができないことがあるという問題を見出した。これは、ガラス板を撮像した画像においては、欠陥周辺の濃淡が不鮮明となることが多いことが一因と考えられる。
【0005】
本発明は、ガラス板に発生した欠陥のサイズ検出において、人的コストの低減と検出精度の維持とを両立することができる検査装置等を提供することを目的としている。
【課題を解決するための手段】
【0006】
上記の課題を解決するために、本発明の一態様に係る検査装置は、ガラス板を撮像した撮像画像を取得する画像取得部と、ガラス板に発生した欠陥の位置および範囲を推論するように、当該位置および範囲を学習した学習済モデルに、前記撮像画像を入力して得られる推論結果における前記範囲のサイズを、撮像された前記ガラス板に発生した欠陥のサイズとして検出するサイズ検出部と、を備える。
【0007】
上記の課題を解決するために、本発明の一態様に係る検査方法は、検査装置によって実行される検査方法であって、ガラス板を撮像した撮像画像を取得する画像取得ステップと、ガラス板に発生した欠陥の位置および範囲を推論するように、当該位置および範囲を学習した学習済モデルに、前記撮像画像を入力して得られる推論結果における前記範囲のサイズを、撮像された前記ガラス板に発生した欠陥のサイズとして検出するサイズ検出ステップと、を含む。
【0008】
上記の課題を解決するために、本発明の一態様に係るガラス板の製造方法は、ガラス原板を所定のサイズのガラス板に成型する工程と、検査装置により実行される、前記ガラス板の検査工程とを含むガラス板の製造方法であって、前記検査工程は、前記ガラス板を撮像した撮像画像を取得する画像取得ステップと、前記ガラス板に発生した欠陥の位置および範囲を推論するように、当該位置および範囲を学習した学習済モデルに、前記撮像画像を入力して得られる推論結果における前記範囲のサイズを、撮像された前記ガラス板に発生した欠陥のサイズとして検出するサイズ検出ステップと、を含む。
【発明の効果】
【0009】
本発明の一態様によれば、ガラス板に発生した欠陥のサイズ検出において、人的コストの低減と検出精度の維持とを両立することができる。
【図面の簡単な説明】
【0010】
【
図1】本発明の実施形態1に係る検査システムの概要と、検査システムに含まれる検査装置の要部構成の一例を示すブロック図である。
【
図2】サイズ検出モデルによる欠陥の位置および範囲の推論の例を示す図である。
【
図3】上記検査装置による検査を伴うガラス板の製造工程の一例を示すフローチャートである。
【
図4】上記製造工程に含まれる検査工程の一例を示すフローチャートである。
【
図5】信頼度に基づく欠陥のサイズ検出の例を示す図である。
【
図6】本発明の実施形態2に係る検査工程の一例を示すフローチャートである。
【
図7】本発明の実施形態3に係るサイズ検出部が実行する欠陥のサイズ検出の概要を示す図である。
【
図8】本発明の実施形態3に係る検査工程の一例を示すフローチャートである。
【
図9】本発明の実施形態4に係る検査工程の一例を示すフローチャートである。
【発明を実施するための形態】
【0011】
〔実施形態1〕
(検査システム100)
以下、本発明の一実施形態について、詳細に説明する。
図1は、本実施形態に係る検査システム100の概要と、検査システム100に含まれる検査装置1の要部構成の一例を示すブロック図である。
【0012】
検査システム100は、ガラス板の端面に発生した欠陥のサイズを検出するシステムである。なお、本実施形態では、ガラス板は矩形状であるものとして説明するが、ガラス板の形状はこの例に限定されない。欠陥とは、例えば、ガラス板の端面に発生した、割れ、欠けなどである。検査システム100は、検査装置1、撮像装置2、画像記憶装置3、および検出結果記憶装置4を含む。
【0013】
検査装置1は、ガラス板の端面に発生した欠陥のサイズを検出する装置である。ガラス板の端面は、従来目視による欠陥のサイズ検出が行われており、また、画像処理を用いたサイズ検出は、撮像画像における欠陥周辺の濃淡の不鮮明さに起因して、正確なサイズ検出が難しい場合がある。詳細は後述するが、検査装置1は、端面に発生した欠陥の位置および範囲を推論するように学習された学習済モデルに撮像画像を入力して得られる欠陥の推論結果における範囲のサイズを、欠陥のサイズとして検出する。つまり、端面における欠陥のサイズの検出に人間が関与しないので、当該検出にかかる人的コストを低減することができる。また、当該学習済モデルの学習において、欠陥周辺の濃淡が不鮮明な端面の画像を教師データとして多数学習させることにより、欠陥周辺の濃淡が不鮮明な端面の画像からも精度よく欠陥を検出することが可能になる。よって、ガラス板の端面に発生した欠陥のサイズ検出において、人的コストの低減と検出精度の維持とを両立することができる。
【0014】
撮像装置2は、ガラス板の端面を撮像する装置である。ここで、端面とは、ガラス板の最も広い2面をそれぞれ上面・下面としたときの側面部分であり、外周部と呼ぶこともできる。以降、ガラス板の四方の端面をそれぞれ、X1端面、X2端面、Y1端面およびY2端面と表記する場合がある。なお、X1端面とX2端面が互いに平行な端面であり、Y1端面とY2端面が互いに平行な端面であるとする。
【0015】
撮像装置2は、一例としてガラス板を搬送する搬送装置(不図示)の搬送経路に沿った位置に配置され、搬送装置による搬送中のガラス板の端面の1つを所定の時間間隔で連続して撮像する。このように、1つの端面につき複数回の撮像を行うことにより、1つの端面を複数に分割した複数の撮像画像が得られ、また、各撮像画像における端面の解像度を検査に十分な程度に高いものとすることができる。無論、1回の撮像で1つの端面全体を撮像しても十分な解像度の撮像画像が得られるのであれば、撮像回数は1回で構わない。
【0016】
図1には撮像装置2を1つのみ図示しているが、撮像装置2はガラス板の端面ごとに設けてもよい。例えば、2つの撮像装置2を、搬送経路を挟んで互いに対向するように配置して、互いに平行な端面(例えば、X1端面とX2端面、あるいはY1端面とY2端面)を同時に撮像してもよい。また、搬送経路が分岐する場合、分岐ごとに撮像装置2を配置してもよい。
【0017】
また、図示は省略しているが、撮像装置2には照明装置および情報処理装置が付随しており、照明装置によりガラス板の端面に光を照射しながら、撮像装置2により端面を撮像することができるようになっている。
【0018】
情報処理装置は、撮像画像に付加情報を付与して画像記憶装置3に記憶させる装置である。付加情報には、撮像画像に写るガラス板を示すガラス識別情報と、当該撮像画像に写っているのがガラス板の何れの部分であるかを示すガラス位置情報とが含まれている。
【0019】
ガラス識別情報は、例えば、各ガラス板に付された識別番号であってもよい。ガラス位置情報は、ガラス板の何れの部分であるかを示す情報であればよい。例えば、ガラス板の搬送速度が一定であり、端面一カ所あたりの撮像回数も一定である場合、何回目の撮像で得られた撮像画像であるかを示す情報をガラス位置情報としてもよい。
【0020】
画像記憶装置3は、撮像装置2が撮像する撮像画像を記憶する記憶装置である。また、検出結果記憶装置4は、検査装置1が検出した検出結果、すなわち欠陥のサイズを示す情報を記憶する記憶装置である。なお、画像記憶装置3と検出結果記憶装置4は、それぞれ複数設けてもよい。例えば、端面ごとに画像記憶装置3と検出結果記憶装置4を設けてもよい。また、画像記憶装置3と検出結果記憶装置4を省略することも可能である。この場合、撮像装置2は撮像画像を検査装置1へ送信するようにし、検査装置1は検出結果を記憶部11に記憶するようにすればよい。
【0021】
(検査装置1)
検査装置1は、
図1に示すように、制御部10、記憶部11、および通信部12を備えている。制御部10は検査装置1の各部を統括して制御する。記憶部11は検査装置1が使用する各種データを記憶する。通信部12は検査装置1が他の装置と通信するためのものである。当該他の装置の典型例は、画像記憶装置3および検出結果記憶装置4である。
【0022】
制御部10は、
図1に示すように、画像取得部101、欠陥判定部102、およびサイズ検出部103を含む。記憶部11は、欠陥判定モデル111およびサイズ検出モデル112を記憶している。
【0023】
画像取得部101は、ガラス板を撮像した撮像画像を取得する。本実施形態では、画像取得部101が取得する撮像画像は、上述したとおり端面を撮像した撮像画像である。一例として、画像取得部101は、撮像画像を画像記憶装置3から通信部12を介して受信する。
【0024】
欠陥判定部102は、撮像画像に写る端面における欠陥の有無を判定する。具体的には、欠陥判定部102は、画像取得部101から取得した撮像画像を欠陥判定モデル111へ入力し、欠陥判定モデル111から出力された推論結果に基づいて欠陥の有無を判定する。
【0025】
ここで、欠陥判定モデル111について説明する。欠陥判定モデル111は、ガラス板の端面を撮像した撮像画像における欠陥の有無を推論するように学習した学習済みモデルである。このような欠陥判定モデル111は、欠陥の有無が既知の多数の撮像画像を教師データとした機械学習により構築することができる。機械学習のアルゴリズムは、撮像画像を欠陥有りと欠陥無しに2分類することが可能な欠陥判定モデル111を生成できるものであればよく、特に限定されない。例えば、画像の分類精度の高い、深層学習の畳み込みニューラルネットワーク等が好適であるが、この例に限られない。
【0026】
また、欠陥判定部102は、欠陥の種類についても判定してもよい。欠陥の種類についての判定も行う場合には、欠陥の種類ごとに教師データを用意し、それらの教師データとした機械学習を行えばよい。欠陥の種類としては、例えば、上述した割れ、欠けなどが挙げられる。
【0027】
サイズ検出部103は、サイズ検出モデル112に撮像画像を入力して得られる推論結果における欠陥の範囲のサイズを、撮像されたガラス板に発生した欠陥のサイズとして検出する。
【0028】
ここで、サイズ検出モデル112について説明する。サイズ検出モデル112は、ガラス板に発生した欠陥の位置および範囲を推論するように、当該位置および範囲を学習した学習済みモデルである。このようなサイズ検出モデル112は、欠陥が写る撮像画像に当該欠陥の位置および範囲を正解データとして対応付けた教師データを用いた機械学習により構築することができる。欠陥の位置および範囲は、例えば、その欠陥を囲む矩形で表してもよい。この場合、当該矩形の位置が欠陥の位置を示し、当該矩形の幅および高さが欠陥の範囲すなわちサイズを示す。
【0029】
この教師データとしては、欠陥周辺の濃淡が不鮮明な多数の撮像画像を用いることが好ましい。これにより、欠陥周辺の濃淡が不鮮明な撮像画像からも精度よく欠陥のサイズを検出することが可能になる。機械学習のアルゴリズムは、欠陥判定モデル111と同様、特に限定されない。
【0030】
また、欠陥判定部102が欠陥の種類を判定する場合、欠陥の種類毎にサイズ検出モデル112を予め用意しておき、欠陥判定部102が判定した種類に応じたサイズ検出モデル112でサイズ検出を行うようにしてもよい。これにより、サイズの検出精度を高めることができる。例えば、割れが生じたガラス板の端面を撮像した撮像画像を教師データとして、割れ欠陥用のサイズ検出モデル112を構築すると共に、欠けが生じたガラス板の端面を撮像した撮像画像を教師データとして、欠け欠陥用のサイズ検出モデル112を構築しておいてもよい。この場合、欠陥判定部102が割れ欠陥が発生していると判定した撮像画像については、割れ欠陥用のサイズ検出モデル112でサイズ検出を行えばよい。一方、欠陥判定部102が欠け欠陥が発生していると判定した撮像画像については、欠け欠陥用のサイズ検出モデル112でサイズ検出を行えばよい。
【0031】
(推論の例)
図2は、サイズ検出モデル112による欠陥の位置および範囲の推論の例を示す図である。この例において、撮像装置2がガラス板の端面を撮像した画像が撮像画像21である。撮像画像21の中央部に横方向に延びる黒色の部分がガラス板の端面であり、ガラス板の端面中央部付近の白く写っている部分が欠陥である。上述のように、撮像画像21は、画像記憶装置3に記憶される。
【0032】
検査装置1の画像取得部101は、画像記憶装置3から上記の撮像画像21を取得する。撮像画像21が取得されると、まず、欠陥判定部102が撮像画像21を欠陥判定モデル111に入力し、欠陥判定モデル111から出力される推論結果に基づいて欠陥の有無を判定する。撮像画像21には上述のように欠陥が写っているから欠陥判定部102は欠陥ありと判定する。なお、上述のように、欠陥判定部102は欠陥の種類についても判定してもよいが、ここでは欠陥の有無のみを判定する。
【0033】
欠陥判定部102が欠陥有りと判定した撮像画像21については、サイズ検出部103によるサイズの検出が行われる。すなわち、サイズ検出部103は、撮像画像21をサイズ検出モデル112へ入力し、サイズ検出モデル112が出力した推論結果を取得する。この推論結果は、撮像画像21における欠陥の位置および範囲を示している。
【0034】
サイズ検出部103は、上記の推論結果が示す範囲を欠陥のサイズを示すサイズ情報として検出結果記憶装置4に記憶させる。例えば、上記範囲が矩形である場合には、サイズ検出部103は、撮像画像21における当該矩形の位置を示す代表座標(例えば矩形の左上隅の座標)と、当該矩形の幅および高さを示すサイズ情報を記憶させればよい。
【0035】
図2に示す画像31には、サイズ検出モデル112の推論結果を矩形41で示している。図示のように、矩形41の幅および高さは、欠陥の幅および高さに等しくなっており、このことから正確な推論が行われたことがわかる。
【0036】
このような矩形はアノテーションとも呼ばれる。アノテーションを表示することにより、推論結果を検査装置1のユーザに目視確認させることができる。欠陥が写る撮像画像を教師データとした機械学習により構築したサイズ検出モデル112を用いることにより、このように欠陥部分を正確に検出することが可能になる。
【0037】
(ガラス板の製造工程における検査)
検査装置1による検査は、ガラス板の製造工程の一環として行われてもよい。ここでは、検査装置1による検査を伴うガラス板の製造工程の例を
図3に基づいて説明する。
図3は、検査装置1による検査を伴うガラス板の製造工程の一例を示すフローチャートである。
【0038】
S101では、ガラス原板が所定のサイズのガラス板に成型される。ガラス原板は、製品となるガラス板よりも大型のサイズのガラス板であり、ガラス原板の製造装置により製造される。S101において、ガラス原板は、例えば、当該ガラス原板を所定のサイズに切断する切断装置と、切断後のガラス板の端面を加工する加工装置により所定のサイズのガラス板に調整される。
【0039】
S102において、検査装置1は、検査工程を実行する。この検査工程で良品と判定されたガラス板が製品となる。検査工程の詳細については、
図4に基づいて以下説明する。
【0040】
(検査工程の流れ)
図4は、
図3に示す検査工程の一例を示すフローチャートである。なお、検査工程の開始前に、撮像装置2が検査対象のガラス板の端面を撮像し、その撮像画像が画像記憶装置3に記憶されているものとする。また、
図4に示す検査工程を実行するタイミングは特に限定されない。例えば、新たな画像が撮像されて画像記憶装置3に記憶される毎に行ってもよいし、1枚のガラス板の1つの端面の撮像が終了する毎に行ってもよいし、検査対象の全てのガラス板の全ての端面の撮像が終了した後で行ってもよい。
【0041】
S1(画像取得ステップ)において、画像取得部101は、画像記憶装置3から撮像画像を取得する。画像記憶装置3に複数の撮像画像が記憶されている場合には、未だ検査工程に供されていない撮像画像を取得すればよい。そして、画像取得部101は、取得した撮像画像を欠陥判定部102へ出力する。
【0042】
S2において、欠陥判定部102は、S1で取得された撮像画像を欠陥判定モデル111に入力し、欠陥判定モデル111から出力される推論結果に基づいて欠陥の有無を判定する。また、ここでは、欠陥判定部102は欠陥の種類についても判定するものとする。
【0043】
S3において、サイズ検出部103は、予め記憶部11に記憶されている複数のサイズ検出モデルのうち、S2で判定された欠陥の種類に対応するサイズ検出モデル112を、サイズ検出に使用することを決定する。なお、S2において欠陥が無いと判定された場合には、S3以降の処理は行われることなく、S1で取得された撮像画像についての検査工程は終了する。
【0044】
S4(サイズ検出ステップ)において、サイズ検出部103は、S3で決定したサイズ検出モデル112に、S1で取得された撮像画像を入力する。そして、サイズ検出部103は、サイズ検出モデル112から出力される推論結果における範囲のサイズを、欠陥のサイズとして検出する。例えば、上記範囲が矩形である場合には、サイズ検出部103は、当該矩形の幅および高さを欠陥の幅および高さとして検出する。なお、サイズ検出部103は、検出した幅および高さを実寸法に換算してもよい。
【0045】
S5において、サイズ検出部103は、S4で検出したサイズを検出結果記憶装置4に記憶させる。具体的には、サイズ検出部103は、欠陥の幅および高さを示すサイズ情報を検出結果記憶装置4へ送信し、記憶させる。以上で、S1で取得された撮像画像についての検査工程は終了する。
【0046】
なお、
図4には示していないが、
図4の検査工程は、少なくとも1枚の検査対象のガラス板の全ての端面について撮像された撮像画像の検査が終了するまで繰り返され、その後、
図3の製造工程に戻る。
【0047】
また、
図4の検査工程には、全ての端面について欠陥の有無が判定されたガラス板について、当該ガラス板が良品であるか、不良品であるかを判定するステップが含まれていてもよい。このステップで良品と判定されたガラス板が製品となる。良品と不良品の判定基準は適宜定めておけばよい。例えば、所定サイズ以上の欠陥が検出されたガラス板を不良品とし、欠陥が検出されなかったか、あるいは検出された欠陥が所定サイズ未満であったガラス板を良品としてもよい。この判定は、検査装置1が行ってもよいし、検査装置1とは異なる他の情報処理装置に行わせてもよい。
【0048】
(作用・効果)
以上のとおり、本実施形態に係る検査装置1は、ガラス板の端面を撮像した撮像画像を取得する画像取得部101を備える。さらに、検査装置1は、サイズ検出モデル112に撮像画像を入力して得られる推論結果における当該範囲のサイズを、撮像されたガラス板に発生した欠陥のサイズとして検出するサイズ検出部103を備える。ここで、サイズ検出モデル112は、端面に発生した欠陥の位置および範囲を推論するように、当該位置および範囲を学習した学習済みモデルである。
【0049】
また、本実施形態に係る検査方法は、以上のとおり、ガラス板を撮像した撮像画像を取得する画像取得ステップ(S1)と、ガラス板に発生した欠陥の位置および範囲を推論するように、当該位置および範囲を学習した学習済モデルであるサイズ検出モデル112に、上記撮像画像を入力して得られる推論結果における上記範囲のサイズを、撮像された上記ガラス板に発生した欠陥のサイズとして検出するサイズ検出ステップ(S4)と、を含む。
【0050】
さらに、本実施形態に係るガラス板の製造方法は、以上のとおり、ガラス原板を所定のサイズのガラス板に成型する工程(S101)と、検査装置1により実行される、上記ガラス板の検査工程(S102)とを含むガラス板の製造方法であって、上記検査工程は、上記ガラス板を撮像した撮像画像を取得する画像取得ステップ(S1)と、上記ガラス板に発生した欠陥の位置および範囲を推論するように、当該位置および範囲を学習した学習済モデルであるサイズ検出モデル112に、上記撮像画像を入力して得られる推論結果における上記範囲のサイズを、撮像された上記ガラス板に発生した欠陥のサイズとして検出する欠陥検出ステップ(S4)と、を含む。
【0051】
これらの構成によれば、欠陥のサイズ検出に人間が関与しないので、当該検出にかかる人的コストを低減することができる。また、サイズ検出モデル112の学習において、欠陥周辺の濃淡が不鮮明な多数の画像を教師データとして学習させることにより、欠陥周辺の濃淡が不鮮明な画像からも精度よく欠陥を検出することが可能になる。よって、ガラス板に発生した欠陥のサイズ検出において、人的コストの低減と検出精度の維持とを両立することができる。
【0052】
〔実施形態2〕
本発明の他の実施形態について、以下に説明する。なお、説明の便宜上、上記実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を繰り返さない。これは実施形態3以降も同様である。
【0053】
本実施形態では、サイズ検出モデル112が推論結果と共に出力する、当該推論結果の信頼度に基づいて欠陥のサイズを検出する例を説明する。より詳細には、本実施形態に係るサイズ検出部103は、当該信頼度が所定の閾値以上の推論結果における矩形のサイズを、撮像されたガラス板に発生した欠陥のサイズとして検出する。
【0054】
信頼度は、推論結果の確からしさを示す値であり、一例として、0以上1以下の数値である。本実施形態に係る信頼度は、数値が高いほど推論結果が実際に欠陥である可能性が高いことを示す。
【0055】
信頼度は、例えば撮像画像を構成する各画素の画素値を数値解析して算出してもよい。撮像画像において、欠陥の有る領域と無い領域とでは画素値(濃淡)が大きく変化している。そこで、画素値の変化量が小さい場合は信頼度を低く、画素値の変化量が大きい場合は信頼度を高くするなど、画素値の変化量に応じて信頼度を算出してもよい。これにより、画素値の変化量に対応する値の信頼度が算出される。
【0056】
(信頼度に基づくサイズ検出の例)
図5は、信頼度に基づく欠陥のサイズ検出の例を示す図である。
図5に示す撮像画像32は、欠陥が有るガラス板の端面を撮像した撮像画像に、サイズ検出モデル112の推論結果を示す矩形42~44と、これらの推論結果の信頼度を示す数値52~54を描画したものである。
【0057】
図示のように、この例では、サイズ検出モデル112は、矩形42~44でそれぞれ示される範囲が欠陥であると推論しており、それらの推論の信頼度は数値52~54に示されるようにそれぞれ0.95、0.90、および0.75である。
【0058】
ここで、例えば、信頼度の閾値を0.80に設定したとする。この場合、サイズ検出部103は、矩形42~44のうち、信頼度が0.80以上である矩形42および43については、それらのサイズをそれぞれ欠陥のサイズとして検出する。一方、サイズ検出部103は、信頼度が0.80未満である矩形44については、そのサイズを欠陥のサイズとして検出しない。
【0059】
このため、サイズ検出部103による最終的なサイズ検出の結果を撮像画像32上で表すと、
図5の下側に示すように、矩形42および矩形43のみとなる。この場合、サイズ検出部103は、矩形42の幅および高さを示すサイズ情報と、矩形43の幅および高さを示すサイズ情報を検出結果記憶装置4へ送信し、記憶させる。
【0060】
(検査工程の流れ)
図6は、本実施形態に係る検査工程の一例を示すフローチャートである。なお、当該フローチャートにおける、
図4のフローチャートと同じ処理には、
図4と同じ番号を付し、その説明は繰り返さない。
【0061】
S11において、サイズ検出部103は、S3で決定したサイズ検出モデル112に撮像画像21を入力し、欠陥のサイズの推論結果を取得する。この推論結果には、サイズ検出モデル112により欠陥があると推論された範囲の位置およびサイズに加え、当該推論の信頼度が含まれている。
【0062】
S12において、サイズ検出部103は、S11の推論で出力された信頼度が閾値以上の推論結果における範囲のサイズを、欠陥のサイズとして検出する。
【0063】
(作用・効果)
以上のとおり、本実施形態に係る検査装置1において、サイズ検出モデル112は、推論結果に対する信頼度をさらに出力する。また、サイズ検出部103は、信頼度が所定の閾値以上の推論結果における欠陥の範囲のサイズを、撮像されたガラス板に発生した欠陥のサイズとして検出する。
【0064】
これによれば、信頼度が高い推論結果における範囲のサイズが、欠陥のサイズとして検出されるので、欠陥でない部分に対して、推論結果として位置および範囲が得られたとしても、当該範囲のサイズを欠陥のサイズとして誤検出する可能性を低減させることができる。
【0065】
特に、ガラス板の搬送方向のばらつき等により、撮像時の光の当たり方等が変わり、欠陥がない部分にも色むらが生じることがある。このような色むらが生じた部分については、サイズ検出モデル112が欠陥部分と誤推論する可能性があるが、閾値を適切に設定することにより、製品の品質に問題のない色むら部分と真の欠陥部分とを区別して妥当な検出を行うことが可能になる。
【0066】
〔実施形態3〕
本実施形態に係るサイズ検出部103は、推論結果が複数得られた場合、当該複数の推論結果における複数の範囲を包含する領域のサイズを、撮像されたガラス板に発生した欠陥のサイズとして検出する。
【0067】
図7は、本実施形態のサイズ検出部103が実行する欠陥のサイズ検出の概要を示す図である。
図7に示す撮像画像33は、欠陥部分を含むガラス板の端面を撮像した撮像画像に、サイズ検出モデル112の推論結果を示す矩形45~48を描画したものである。
【0068】
本実施形態のサイズ検出部103は、このように1つの撮像画像において複数の欠陥部分の範囲が検出された場合、それらの範囲を包含する最小の領域のサイズを求める。例えば、サイズ検出部103は、矩形45~48を構成する辺のうち最も上側に位置する辺と、矩形45~48のうち最も下側に位置する辺とを特定し、それらの辺の間の距離を、求める領域の高さとしてもよい。また、サイズ検出部103は、矩形45~48を構成する辺うち最も左側に位置する辺と、矩形45~48のうち最も右側に位置する辺とを特定し、それらの辺の間の距離を、求める領域の幅としてもよい。
【0069】
サイズ検出部103は、このような処理により、矩形45~48を包含する包含領域61を特定することができる。そして、サイズ検出部103は、包含領域61の幅および高さを示すサイズ情報を検出結果記憶装置4へ送信し、記憶させる。
【0070】
なお、
図7の例では、互いに接する矩形45~48を包含する包含領域61を特定しているが、これに限定されるものではない。つまり、サイズ検出部103は、互いに接していない複数の範囲を包含する領域のサイズを、欠陥のサイズとして検出してもよい。
【0071】
この構成は、例えば、実際の欠陥の両端のみが欠陥として推論され、当該欠陥の中央部分は欠陥として推論されない場合に有効である。この場合、サイズ検出部103は、検出された両端の範囲を包含する包含領域を特定することにより、当該欠陥の実際のサイズと誤差が小さい包含領域のサイズを、欠陥のサイズとして検出することができる。
【0072】
(検査工程の流れ)
図8は、本実施形態に係る検査工程の一例を示すフローチャートである。なお、当該フローチャートにおける、
図4のフローチャートと同じ処理には、
図4と同じ番号を付している。また、
図6のフローチャートと同じ処理には、
図6と同じ番号を付している。同じ処理について説明は繰り返さない。
【0073】
S21において、サイズ検出部103は、S11で取得した推論結果が複数であるか否かを判定する。複数であると判定した場合(S21でYES)、検査工程はS22へ進む。一方、複数ではないと判定した場合(S21でNO)、検査工程はS23へ進む。
【0074】
S22において、サイズ検出部103は、S11で取得した推論結果が示す複数の範囲を包含する包含領域のサイズを求め、そのサイズを欠陥のサイズとして検出する。包含領域のサイズの求め方については
図7に基づいて説明したとおりである。
【0075】
S23において、サイズ検出部103は、取得した推論結果における範囲のサイズを欠陥のサイズとして検出する。すなわち、サイズ検出部103は、S11で取得した1つの推論結果に示される幅および高さを、欠陥のサイズとして検出する。
【0076】
(作用・効果)
以上のとおり、本実施形態に係る検査装置1において、サイズ検出部103は、推論結果が複数得られた場合、当該複数の推論結果における複数の範囲を包含する包含領域のサイズを、撮像されたガラス板に発生した欠陥のサイズとして検出する。
【0077】
この構成によれば、包含領域のサイズを欠陥のサイズとして検出するので、実際の欠陥とサイズの誤差が大きい複数の範囲が得られた場合であっても、当該複数の範囲を、実際の欠陥とサイズの誤差が小さい包含領域に修正することができる。結果として、複数の範囲が得られた場合であっても、サイズ検出モデル112を用いた欠陥のサイズ検出を、実際のサイズとの誤差がより小さいものとすることができる。
【0078】
また、複数の欠陥が検出されたガラス板であっても、検出された各欠陥のサイズが何れも小さいものである場合には、検査装置1が最終的にそのガラス板を良品と判定する可能性がある。実際に欠陥のサイズが小さい場合にはこの判定結果は妥当であるが、実際にはサイズの大きい欠陥が存在していて、その一部分が断片的に欠陥として検出されていた場合にはこの判定結果は誤判定である。本実施形態の構成によれば、複数の欠陥の範囲を包含する包含領域のサイズを検出するので、このような誤判定が生じる可能性を低減することができる。
【0079】
(変形例)
本実施形態は、実施形態2と組み合わせることが可能である。具体的には、サイズ検出部103は、信頼度が所定の閾値以上となる推論結果が複数ある場合、当該推論結果における範囲を包含する包含領域を特定し、当該包含領域のサイズを、撮像されたガラス板に発生した欠陥のサイズとして検出してもよい。
【0080】
〔実施形態4〕
本実施形態に係るサイズ検出部103は、検出した欠陥のサイズが正常範囲外である場合、撮像画像を構成する各画素の画素値を数値解析して当該欠陥のサイズを再検出する。正常範囲は例えばガラス板のサイズや一般的な欠陥のサイズ等を基準として予め定めておけばよい。正常範囲外の欠陥のサイズは、例えば、(1)推論結果としての矩形の幅が所定の第1数値範囲外、および(2)推論結果としての矩形の高さが所定の第2数値範囲外、という2つの条件の少なくともいずれかを満たしているサイズであってもよい。
【0081】
本実施形態に係るサイズ検出部103も、上述の各実施形態におけるサイズ検出部103と同様に、サイズ検出モデル112が出力した推論結果に基づいてサイズの検出を行う。本実施形態に係るサイズ検出部103は、検出した上記サイズが正常範囲内であるか否かを判定する点で、上述の各実施形態のサイズ検出部103と相違している。
【0082】
そして、本実施形態に係るサイズ検出部103は、検出した上記サイズが正常範囲外であった場合には、撮像画像を構成する各画素の画素値を数値解析して当該欠陥のサイズを再検出する。本実施形態に係るサイズ検出部103は、この点においても、上述の各実施形態のサイズ検出部103と相違している。なお、数値解析を行う処理ブロックをサイズ検出部103とは別の処理ブロックとしてもよい。
【0083】
数値解析による欠陥のサイズ検出方法は、特に限定されず、種々の方法を適用することができる。例えば、
図2等に示したように、撮像画像において、ガラス板の端面が写る領域とその背景領域との境界部分では画素値が大きく変化している。よって、サイズ検出部103は、まずこの画素値の変化に基づいてガラス板の端面が写る領域を抽出してもよい。
【0084】
また、
図2等に示したように、撮像画像に写るガラス板の端面において、欠陥が写っている部分は、欠陥のない部分と画素値が異なっている。よって、サイズ検出部103は、上述のようにして抽出したガラス板の端面が写る領域の中に、欠陥が写っている部分に特有の画素値からなる領域が含まれていれば、その領域の幅および高さを欠陥のサイズとして検出すればよい。そしてサイズ検出部103は、検出した幅および高さを示すサイズ情報を検出結果記憶装置4へ送信し、記憶させる。
【0085】
(検査工程の流れ)
図9は、本実施形態に係る検査工程の一例を示すフローチャートである。なお、当該フローチャートにおける、
図4のフローチャートと同じ処理には、
図4と同じ番号を付し、その説明は繰り返さない。
【0086】
S31において、サイズ検出部103は、S4で検出した欠陥のサイズが正常範囲内であるか否かを判定する。正常範囲内であると判定した場合(S31でYES)、検査工程はS5へ進む。正常範囲内でない、すなわち正常範囲外であると判定した場合(S31でNO)、検査工程はS32へ進む。
【0087】
S32において、サイズ検出部103は、サイズ検出モデル112が出力した推論結果に基づくサイズの検出結果を破棄し、S33において、サイズ検出部103は、撮像画像を構成する各画素の画素値を数値解析して欠陥のサイズを再検出する。この後、検査工程はS5に進む。
【0088】
S33から遷移したS5において、サイズ検出部103は、再検出が実行されたことを示す情報を、サイズ情報に対応付けて検出結果記憶装置4に記憶させてもよい。これにより、検査システム100のユーザは、再検出が行われた撮像画像を特定することができる。
【0089】
また、S32は省略されてもよい。この場合、S5において、サイズ検出部103は、S4の検出結果を示すサイズ情報と、S33の検出結果を示すサイズ情報の両方を検出結果記憶装置4に記憶させてもよい。
【0090】
(作用・効果)
以上のとおり、本実施形態に係る検査装置1において、サイズ検出部103は、検出した欠陥のサイズが正常範囲外である場合、撮像画像を構成する各画素の画素値を数値解析して当該欠陥のサイズを再検出する。
【0091】
この構成によれば、サイズが正常範囲外の欠陥については、撮像画像を構成する各画素の画素値を数値解析してサイズの再検出を行う。つまり、学習済モデルを用いた欠陥のサイズ検出とは別の方法でサイズの再検出を行うので、適切なサイズに修正することができる。
【0092】
〔変形例〕
上述の各実施形態では、ガラス板の端面に発生した欠陥のサイズを検出する例を説明したが、ガラス板の端面以外の部分に発生した欠陥のサイズを検出してもよい。また、上述の各実施形態では、ガラス原板から切り出したガラス板に発生した欠陥のサイズを検出する例を説明したが、対象となるガラス板はガラス原板から切り出したものに限られない。例えば、ガラス板を含む製品におけるガラス板部分に発生した欠陥のサイズを検出すること等も可能である。
【0093】
また、上述の各実施形態では、1台の検査装置により欠陥の有無(および種類)の判定と、サイズの検出の両方を行う例を示したが、これらの処理はそれぞれ別の装置に行わせてもよい。つまり、上述の各実施形態で説明した検査方法は、1台の検査装置により実行してもよいし、複数台の検査装置により実行してもよい。
【0094】
また、上述の各実施形態では、欠陥判定モデル111とサイズ検出モデル112をそれぞれ別のモデルとする例を説明したが、欠陥の有無と欠陥の位置および範囲を学習させた1つのモデルを用いてもよい。この場合、当該1つのモデルに撮像画像を入力すれば、欠陥の有無を示す推論結果が出力される。また、欠陥が有る場合には、その位置および範囲を示す推論結果もあわせて出力される。また、この1つのモデルに欠陥の種類についても推論させることも可能である。
【0095】
〔ソフトウェアによる実現例〕
検査装置1(以下、「装置」と呼ぶ)の機能は、当該装置としてコンピュータを機能させるためのプログラムであって、当該装置の各制御ブロック(特に制御部10に含まれる各部)としてコンピュータを機能させるためのプログラム(検査プログラム)により実現することができる。
【0096】
この場合、上記装置は、上記プログラムを実行するためのハードウェアとして、少なくとも1つの制御装置(例えばプロセッサ)と少なくとも1つの記憶装置(例えばメモリ)を有するコンピュータを備えている。この制御装置と記憶装置により上記プログラムを実行することにより、上記各実施形態で説明した各機能が実現される。
【0097】
上記プログラムは、一時的ではなく、コンピュータ読み取り可能な、1または複数の記録媒体に記録されていてもよい。この記録媒体は、上記装置が備えていてもよいし、備えていなくてもよい。後者の場合、上記プログラムは、有線または無線の任意の伝送媒体を介して上記装置に供給されてもよい。
【0098】
また、上記各制御ブロックの機能の一部または全部は、論理回路により実現することも可能である。例えば、上記各制御ブロックとして機能する論理回路が形成された集積回路も本発明の範疇に含まれる。この他にも、例えば量子コンピュータにより上記各制御ブロックの機能を実現することも可能である。
【0099】
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【符号の説明】
【0100】
1 検査装置
101 画像取得部
103 サイズ検出部
112 サイズ検出モデル