(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-05-02
(45)【発行日】2024-05-14
(54)【発明の名称】不良検知方法および不良検知装置
(51)【国際特許分類】
G06N 3/02 20060101AFI20240507BHJP
G01M 99/00 20110101ALI20240507BHJP
【FI】
G06N3/02
G01M99/00 Z
(21)【出願番号】P 2019226698
(22)【出願日】2019-12-16
【審査請求日】2022-11-29
(32)【優先日】2019-02-05
(33)【優先権主張国・地域又は機関】US
(32)【優先日】2019-05-03
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】512187343
【氏名又は名称】三星ディスプレイ株式會社
【氏名又は名称原語表記】Samsung Display Co.,Ltd.
【住所又は居所原語表記】1, Samsung-ro, Giheung-gu, Yongin-si, Gyeonggi-do, Republic of Korea
(74)【代理人】
【識別番号】110002619
【氏名又は名称】弁理士法人PORT
(72)【発明者】
【氏名】リ, ジャンファン
【審査官】福西 章人
(56)【参考文献】
【文献】米国特許出願公開第2018/0096243(US,A1)
【文献】米国特許出願公開第2018/0260704(US,A1)
【文献】特開2017-215277(JP,A)
【文献】米国特許出願公開第2013/0103213(US,A1)
【文献】特開2018-120300(JP,A)
【文献】特開2013-030542(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06N 3/00-99/00
G06F 18/00-18/40
G01M 99/00
(57)【特許請求の範囲】
【請求項1】
一つ以上の電子機器の製造工程で取得した複数の時系列センサデータ(time-series sensor data)を受信し、
前記複数の時系列センサデータを二次元データアレイ内に配列し、
前記二次元データアレイを畳み込みニューラルネットワークモデルに提供し、
前記畳み込みニューラルネットワークモデルを用いて不良状態と相関する前記二次元データアレイ内のパターンを識別し、
前記一つ以上の電子機器の製造工程で前記不良状態の不良指標(fault indicator)を提供し、
前記不良指標に基づいて前記電子機器が不良を含んでいるのかを分類すること、
を含み、
前記二次元データアレイは、前記畳み込みニューラルネットワークモデルに対する入力データの次元(dimension)を有
し、
前記二次元データアレイは第2の二次元データアレイに変換され、前記第2の二次元データアレイは互いに離れている複数のデータアレイを含む、不良検知方法。
【請求項2】
前記電子機器は、表示装置である、請求項1に記載の不良検知方法。
【請求項3】
前記電子機器は、表示装置のガラスパネルである、請求項1に記載の不良検知方法。
【請求項4】
前記畳み込みニューラルネットワークモデルは、VGG、Resnet、Alexnet、またはSqueezenetである、請求項1に記載の不良検知方法。
【請求項5】
前記分類結果は、前記不良状態の種類と位置を含む、請求項1に記載の不良検知方法。
【請求項6】
さらに、前記一つ以上の製造工程で前記不良を有する前記電子機器を廃棄することを含む、請求項1に記載の不良検知方法。
【請求項7】
一つ以上の電子機器の製造工程で取得した複数の時系列センサデータ(time-series sensor data)を受信し、
前記複数の時系列センサデータを二次元データアレイ内に配列し、
前記二次元データアレイを畳み込みニューラルネットワークモデルに提供し、
前記畳み込みニューラルネットワークモデルを用いて不良状態と相関する前記二次元データアレイ内のパターンを識別し、
前記一つ以上の電子機器の製造工程で前記不良状態の不良指標(fault indicator)を提供し、
前記不良指標に基づいて前記電子機器が不良を含んでいるのかを分類し、
前記複数の時系列センサデータをセンサの数に対応する第1次元および前記各センサのデータサンプル数に対応する第2次元を有する未加工トレースデータアレイに配置し、
前記未加工トレースデータアレイが前記二次元データアレイに適合するかどうかを判断し、
前記未加工トレースデータアレイを複数の未加工トレースデータアレイ片に分割し、
前記複数の未加工トレースデータアレイ片を前記二次元データアレイに配置すること、を含
み、
前記二次元データアレイは、前記畳み込みニューラルネットワークモデルに対する入力データの次元(dimension)を有する、不良検知方法。
【請求項8】
前記複数の未加工トレースデータアレイ片のそれぞれは、重複領域を含む、請求項
7に記載の不良検知方法。
【請求項9】
一つ以上の電子機器の製造工程で取得した複数の時系列センサデータ(time-series sensor data)を受信し、
前記複数の時系列センサデータを二次元データアレイ内に配列し、
前記二次元データアレイを畳み込みニューラルネットワークモデルに提供し、
前記畳み込みニューラルネットワークモデルを用いて不良状態と相関する前記二次元データアレイ内のパターンを識別し、
前記一つ以上の電子機器の製造工程で前記不良状態の不良指標(fault indicator)を提供し、
前記不良指標に基づいて前記電子機器が不良を含んでいるのかを分類し、
互いに異なる数のデータサンプルを有する複数の時系列センサデータセットを受信し、
前記複数の時系列センサデータセットのうち前記データサンプルの数が最も少ない第1時系列センサデータセットを決定し、
前記複数の時系列センサデータセットのうち残りの時系列センサデータセットのサイズを調整して前記残りの時系列センサデータセットが前記第1時系列センサデータセットのデータサンプル数と同じデータサンプル数を有するようにすること、を含み、
前記二次元データアレイは、前記畳み込みニューラルネットワークモデルに対する入力データの次元(dimension)を有する、不良検知方法。
【請求項10】
一つ以上の電子機器の製造工程で取得した複数の時系列センサデータ(time-series sensor data)を受信し、
前記複数の時系列センサデータを二次元データアレイ内に配列し、
前記二次元データアレイを畳み込みニューラルネットワークモデルに提供し、
前記畳み込みニューラルネットワークモデルを用いて不良状態と相関する前記二次元データアレイ内のパターンを識別し、
前記一つ以上の電子機器の製造工程で前記不良状態の不良指標(fault indicator)を提供し、
前記不良指標に基づいて前記電子機器が不良を含んでいるのかを分類し、
前記不良状態と相関する前記複数の時系列センサデータの部分集合を決定し、
前記二次元データアレイを再配列して前記複数の時系列センサデータの部分集合を隣接するように配置すること、を含
み、
前記二次元データアレイは、前記畳み込みニューラルネットワークモデルに対する入力データの次元(dimension)を有する、不良検知方法。
【請求項11】
一つ以上の電子機器の製造工程で取得した複数の時系列センサデータ(time-series sensor data)を受信し、
前記複数の時系列センサデータを二次元データアレイ内に配列し、
前記二次元データアレイを畳み込みニューラルネットワークモデルに提供し、
前記畳み込みニューラルネットワークモデルを用いて不良状態と相関する前記二次元データアレイ内のパターンを識別し、
前記一つ以上の電子機器の製造工程で前記不良状態の不良指標(fault indicator)を提供し、
前記不良指標に基づいて前記電子機器が不良を含んでいるのかを分類し、
前記一つ以上の製造工程内の複数の処理に対応するデータをそれぞれ有する複数の時系列センサデータセットを受信し、
前記複数の時系列センサデータセットの前記複数の処理のそれぞれのデータサイズを比較し、
前記複数の処理それぞれに対し、前記複数の時系列センサデータセットのうち最小ステップサイズを有する第1時系列センサデータセットを決定し、
残りの時系列センサデータセットの各処理に対応する時系列センサデータを写像して前記最小ステップサイズを有するようにし、
前記最小ステップサイズに写像される各工程を結合することによって前記複数の時系列センサデータセットのそれぞれに対して前記二次元データアレイを生成すること、を含
み、
前記二次元データアレイは、前記畳み込みニューラルネットワークモデルに対する入力データの次元(dimension)を有する、不良検知方法。
【請求項12】
前記残りの時系列センサデータセットの各処理に対応する時系列センサデータを写像して前記最小ステップサイズを有するようにすることは、前記最小ステップサイズの第1データサンプルを選択することを含む、請求項
11に記載の不良検知方法。
【請求項13】
さらに、前記残りの時系列センサデータセットの各処理に対応する時系列センサデータをデシメーション(decimation)で再サンプリングして前記最小ステップサイズを有する再サンプル時系列センサデータを求めることを含む、請求項
11に記載の不良検知方法。
【請求項14】
さらに、
前記複数の時系列センサデータの平均を決定し、
前記複数の時系列センサデータのそれぞれを移動させて平均が0になるようにし、
前記複数の時系列センサデータそれぞれを規格化して-1と+1との間の範囲に位置させること、を含む、請求項1に記載の不良検知方法。
【請求項15】
第1フォーマットの第1データセットで事前トレーニング済みの畳み込みニューラルネットワークモデルを提供し、
第2フォーマットの第2データセットを受信し、
前記第2データセットの前記第2フォーマットを前記第1フォーマットに変換して第3データセットを生成し、
前記畳み込みニューラルネットワークモデルを前記第3データセットで再トレーニングし、
更新された畳み込みニューラルネットワークモデルを求めること、を含
み、
前記第2データセットは、一つ以上の電子機器の製造工程で取得した複数の時系列センサデータであり、前記第1フォーマットは、二次元データアレイであり、
前記二次元データアレイは、前記更新された畳み込みニューラルネットワークモデルの入力データ次元を有し、
さらに、
前記二次元データアレイの前記第1フォーマットを有する前記第3データセットを前記更新された畳み込みニューラルネットワークモデルに提供し、
前記更新された畳み込みニューラルネットワークモデルを用いて不良状態と相関する前記二次元データアレイ内のパターンを識別し、
前記一つ以上の電子機器の製造工程で前記不良状態の不良指標(fault indicator)を提供し、
前記不良指標に基づいて前記電子機器が不良を含むと判断することと、
次の1)、2)、3)、および4)のうち少なくとも一つの処理と、を含む、不良検知方法。
1)前記複数の時系列センサデータをセンサの数に対応する第1次元と前記各センサのデータサンプル数に対応する第2次元を有する未加工トレースデータアレイに配置し、
前記未加工トレースデータアレイが前記二次元データアレイに適合するかどうかを判断し、
前記未加工トレースデータアレイを複数の未加工トレースデータアレイ片に分割し、
前記複数の未加工トレースデータアレイ片を前記二次元データアレイに配置すること
2)互いに異なる数のデータサンプルを有する複数の時系列センサデータセットを受信し、
前記複数の時系列センサデータセットのうち前記データサンプル数が最も少ない第1時系列センサデータセットを決定し、
前記複数の時系列センサデータセットのうち残りの時系列センサデータセットのサイズを調整して前記残りの時系列センサデータセットが前記第1時系列センサデータセットのデータサンプル数と同じデータサンプル数を有するようにすること
3)前記不良状態と相関する前記複数の時系列センサデータの部分集合を決定し、
前記二次元データアレイを再配列して前記複数の時系列センサデータの部分集合を隣接するように配置すること
4)前記一つ以上の製造工程内の複数の処理に対応するデータをそれぞれ有する複数の時系列センサデータセットを受信し、
前記複数の時系列センサデータセットの前記複数の処理のそれぞれのデータサイズを比較し、
前記複数の処理のそれぞれに対し、前記複数の時系列センサデータセットのうち最小ステップサイズを有する第1時系列センサデータセットを決定し、
残りの時系列センサデータセットの各処理に対応する時系列センサデータを写像して前記最小ステップサイズを有するようにし、
前記最小ステップサイズに写像される各工程を結合することによって前記複数の時系列センサデータセットのそれぞれに対して前記二次元データアレイを生成すること
【請求項16】
前記電子機器は、表示装置のガラスパネルである、請求項
15に記載の不良検知方法。
【請求項17】
前記更新された畳み込みニューラルネットワークモデルは、VGG、Resnet、Alexnet、またはSqueezenetである、請求項
15に記載の不良検知方法。
【請求項18】
さらに、前記一つ以上の製造工程で前記不良を有する前記電子機器を廃棄することを含む、請求項
15に記載の不良検知方法。
【請求項19】
プロセッサと、
プロセッサ実行可能命令を保存するメモリと、を含み、
前記プロセッサは、データ分析モデルを実行し、
前記データ分析モデルは、データ処理モジュールおよび分類器を含み、
前記データ処理モジュールは、
一つ以上の電子機器の製造工程で取得した複数の時系列センサデータ(time-series sensor data)を受信し、
前記複数の時系列センサデータを二次元データアレイ内に配列し、
前記二次元データアレイを畳み込みニューラルネットワークモデルに提供し、
前記分類器は、
不良状態と相関する前記二次元データアレイ内のパターンを識別し、
前記一つ以上の電子機器の製造工程で前記不良状態の不良指標(fault indicator)を提供し、
前記不良指標に基づいて前記電子機器が不良を含むと判断
し、
前記二次元データアレイは、前記畳み込みニューラルネットワークモデルに対する入力データの次元(dimension)を有し、
前記二次元データアレイは第2の二次元データアレイに変換され、前記第2の二次元データアレイは互いに離れている複数のデータアレイを含む、
不良検知装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、不良検知方法および不良検知装置に関し、特にトレースデータ(trace data)等でトレーニングした機械学習モデル、例えば畳み込みニューラルネットワークモデル(convolution neural network)を用いて不良を検知する装置および方法に関する。
【0002】
本出願は、2019年2月5日に米国特許庁に出願した米国特許出願番号第62/801,393号の優先権を主張し、ここに引用することによってこの出願の全体内容を本願に含む。
【背景技術】
【0003】
近年モバイル表示装置産業が急激に成長している。新しい類型の表示パネルと製造方法および工程が用いられ、かつ製品仕様が厳格になるにつれ品質を維持するための装備の改良と品質管理方法が必要である。品質管理の尺度は、早期不良検知(early fault detection)、異常工程状態の予測(abnormal process status prediction)および品質不良の予測(quality fault prediction)等を提供することができる。
【0004】
表示装置の製造工程で発生する不良状態の特性を理解するために、トレースデータ(trace data)分析を行い得る。トレースデータは、情報システムを通じて着手した活動記録(records of activity)で定義することができる。トレース(trace)は、状態(condition)および/または経路(passage)のしるし(sign)として残ったマーク(mark)であり、その過程で注目のイベント(event of interest)(例えば欠陥)が発生した証拠として記録される。トレースデータに対して情報システムはデータ収集および分析ツールとしての役割をする。
【0005】
製造過程で収集したトレースデータを用いて欠陥パネルを検知する分類器を具備および実行する必要がある。トレースデータは不良状態を検知または予測する情報を含まなければならない。現在、トレースデータは多様な製造過程で収集したセンサ入力の単なる集合である。このようなトレースデータは、表示パネルの欠陥の原因となる、またはそれと関連する不良状態を検知または予測できる情報を有している。
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明が解決しようとする課題は、表示装置など多様な電子機器の製造工程で取得したセンサデータを機械学習モデルに適用して不良状態または欠陥を検知または予測することである。
【課題を解決するための手段】
【0007】
本発明の一実施形態による不良検知方法は、一つ以上の電子機器の製造工程で取得した複数の時系列センサデータ(time-series sensor data)を受信する段階と、前記複数の時系列センサデータを二次元データアレイ内に配列する段階と、前記二次元データアレイを畳み込みニューラルネットワークモデルに提供する段階と、前記畳み込みニューラルネットワークモデルを用いて不良状態と相関する前記二次元データアレイ内のパターンを識別する段階と、前記一つ以上の電子機器の製造工程で前記不良状態の不良指標(fault indicator)を提供する段階と、前記不良指標に基づいて前記電子機器が不良を含んでいるのかを分類する段階と、を含み、前記二次元データアレイは、前記畳み込みニューラルネットワークモデルに対する入力データの次元(dimension)を有する。
【0008】
本発明の一実施形態による不良検知方法は、第1フォーマットの第1データセットで事前トレーニング済みの畳み込みニューラルネットワークモデルを提供する段階と、第2フォーマットの第2データセットを受信する段階と、前記第2データセットの前記第2フォーマットを前記第1フォーマットに変換して第3データセットを生成する段階と、前記畳み込みニューラルネットワークモデルを前記第3データセットで再トレーニングする段階と、更新された畳み込みニューラルネットワークモデルを求める段階と、を含む。
【0009】
本発明の一実施形態による不良検知装置は、プロセッサと、プロセッサ実行可能命令を保存するメモリと、を含み、前記プロセッサは、データ分析モデルを実行し、前記データ分析モデルは、データ処理モジュールおよび分類器を含み、前記データ処理モジュールは、一つ以上の電子機器の製造工程で取得した複数の時系列センサデータ(time-series sensor data)を受信し、前記複数の時系列センサデータを二次元データアレイ内に配列し、前記分類器は、不良状態と相関する前記二次元データアレイ内のパターンを識別し、前記一つ以上の電子機器の製造工程で前記不良状態の不良指標(fault indicator)を提供し、前記不良指標に基づいて前記電子機器が不良を含むと判断する。
【発明の効果】
【0010】
このように電子機器の製造工程で取得したセンサデータを機械学習モデルに適用することによって不良状態または欠陥を検知または予測することができる。
【図面の簡単な説明】
【0011】
【
図1】本発明の一実施形態による未加工トレースデータの変換方法を示す。
【
図2】数値データを二次元映像類似データに変換する三つの例を示す。
【
図3】本発明の一実施形態によるセンサ入力の併合過程を示す。
【
図4】本発明の一実施形態による入力データ順序の再配列過程を示す。
【
図5】本発明の一実施形態により長いセンサ入力データを二次元映像類似データに写像する例を示す。
【
図6】本発明の一実施形態により段階入力データを同じ面積のデータに写像するのを示す。
【
図7】本発明の一実施形態によるセンサ入力の併合を特性マップで示す。
【
図8】本発明の一実施形態による機械学習モデルの概略図である。
【
図9】本発明の一実施形態によりトレースデータを機械学習モデルに適用して予測結果を求める方法の概略図である。
【発明を実施するための形態】
【0012】
事件の実現と組み合わせの様々な新しい細目を含む、前のおよび他の特徴を添付した図面を参照してさらに詳細に説明し、請求範囲で指摘する。ここで説明する特定のシステムと方法は説明のためのものであり、これに限定するものではない。当業者であればここで説明した原理と特徴を本発明の範囲を逸脱せず、様々な多様な実施形態に適用できることが分かる。
【0013】
本明細書の一部として含まれた図面は一般的な説明と共に実施形態を示し、発明を実施するための具体的な内容に対する説明はここで説明する原理を説明して教示する。
【0014】
図面は必ずしもサイズ変更をしたものではなく、類似の構造または機能を有する要素は説明の便宜のために図面全体にわたって類似の図面番号を付する。図面はここで説明する様々な実施形態を説明するためのものである。図面はここで説明するすべての特徴をいずれも含むものではなく、発明の範囲を限定するものでもない。
【0015】
ここで説明する特徴と教示(features and teachings)は、独自にまたは他の特徴と教示と組み合わせて用いられ、トレースデータをデータ分析モデル(data analytic model)の入力に適したフォーマットに変換し、変換されたトレースデータを用いて製造工程で発生する表示パネルの不良状態(faulty condition)または欠陥を検知および/または予測するシステムおよび方法を提示する。このような多くの付加的な特徴と教示とは別に、そして組み合わせて用いる代表的な例を添付した図面を参照して詳細に説明する。この詳細な説明は当業者に単に本発明の実施形態についてさらに詳細に教示するためのものであり、特許請求の範囲を限定しようとするものではない。したがって、詳細な説明で提示した特徴の組み合わせは最も広い意味における本発明の実現に必ずしも必要なものではなく、単に本発明の特定の代表例を説明するものである。
【0016】
以下の詳細な説明では、説明のみを目的として本発明の完全な理解を提供するために特定の用語を定義する。しかし、このような具体的な内容が本発明を実現するために必ずしも必要とされないことは当業者に自明である。
【0017】
詳細な説明の一部は、コンピュータメモリ内のデータビットに加える動作の記号表現およびアルゴリズムで表現する。このようなアルゴリズムの説明および表現はデータ処理分野の当業者が他の当業者にその作業の本質を効果的に伝達する手段である。ここで、そして一般的に、アルゴリズムは、所望する結果につながる自己矛盾のない(self-consistent)一連の段階である。段階は、物理量(physical quantities)の物理的処理を必要とするものである。通常、必ずしもではないが、これらの量は、保存、転送、結合、比較などの処理が行われる電気的または磁気的信号の形態を取る。このような信号は時々原則的に一般的な使用のためにビット(bit)、値(value)、要素(element)、記号(symbol)、文字(characters)、項(term)、数字(numbers)等と呼ぶ場合もある。
【0018】
しかし、このような用語、および類似の用語は適切な物理量に関連しており、これら量に付けられた便利なラベルに過ぎないことに留意しければならない。以下の説明から明らかなように特に言及しない限り、「処理(processing)」、「計算(computing,calculating)」、「決定(determining)」、「表示(displaying)」等の用語を使うことはコンピュータシステムのレジスタまたはメモリ内の物理(電気)量で表されるデータをコンピュータシステムのメモリまたはレジスタ、または情報保存、転送または表示装置内の物理量を類似に示す他のデータに操作および変換するコンピュータシステムまたは類似の電子計算装置の動作(action)および過程(process)を意味する。
【0019】
また、代表例の様々な特徴と従属項は、本発明の付加的な有用な実施形態を提供するために明確に列挙されていない方式で結合されてもよい。元の開示(original disclosure)および請求要旨限定を目的としてエンティティグループ(groups of entities)のすべての値範囲(value range)または等級(indication)はすべての可能な中間値または中間エンティティを公開することを明示的に留意する。また、図面に示したサイズと形状は本発明の実現方法に対する理解を助けるためのものであって実施形態に示すサイズと形状に限定しようとするものではない。
【0020】
本システムおよび方法は、一次元時系列データ(one-dimensional time-series data)(以下、トレースデータまたは未加工(raw)トレースデータともいう)をデータ分析ツール(data analytic tool)の入力データに適したデータフォーマットに変換するデータ変換方法(data conversion scheme)を提示する。データ分析ツールはプロセッサとメモリを含むハードウェアコンピュータ装置またはハードウェアコンピュータ装置内に具現されたソフトウェアであり得る。データ分析ツールは、データ分析モデルを実行して入力データのパターンを識別または予測するデータ分類アルゴリズムを適用し得る。このようなデータ分類アルゴリズムは、一般的に機械学習(machine learning:ML)アルゴリズムと呼ばれ、より多くのデータでトレーニング(trained)、学習(learned)およびリファイン(refined)され得る。機械学習アルゴリズムの例としてはディープニューラルネットワーク(deep neural network:DNN)および畳み込みニューラルネットワーク(convolution neural network:CNN)があるが、これに限定されない。畳み込みニューラルネットワークは、ディープニューラルネットワークの一種であるが、一つ以上の畳み込み層を含み、入力に畳み込み演算を適用して次の層にその結果を伝達する。畳み込みは、視覚的または聴覚的刺激に対する人間ニューロンの反応を模倣したものである。畳み込みニューラルネットワークは、映像および音声認識など人間認識に対して高い正確度を示している。
【0021】
変換されたデータはデータ分析モデル、例えば、畳み込みニューラルネットワークモデルに提供され、電子機器の製造工程で発生するか発生した様々な不良状態または欠陥を検知および/または予測することができる。このような電子機器の例としては積層、除去、エッチング、パターニングなど半導体製造工程段階により製造する表示装置が挙げられる。しかし、半導体製造工程により製造するいかなる電子機器でも本発明のシステムおよび方法を適用することができる。
【0022】
データ分析モデルを用いて異常(anomalies)、故障(failures)、不良(faults)および欠陥(defects)と関連したパターンを検知し、検知したパターンに基づいてこれらを分類することによって不良状態または欠陥を早期に判断でき、不良があるか欠陥がある電子機器を製造工程で不良処理または破棄できるようにする。不良検知過程はそれぞれの製造工程で行われてもよい。この場合、修復不可能な不良があると判断した電子機器を次の製造工程に移行する前に破棄することができる。製造工程で不良状態を早期に検知すると電子機器の製造にかかる資源とコストを節約することができる。また、データ分析ツールは高生産性を達成しながらも不良と欠陥を減らすことのできる製造工程の媒介変数と条件を微調整(fine-tuning)することを助ける。
【0023】
未加工トレースデータは、様々なセンサが生成した圧力、温度、時間、密度などを示し、製造工程の条件と媒介変数を反映する時系列データの集合であり得る。未加工トレースデータは、単に時系列一次元データの集合であり、未加工トレースデータのサイズ、範囲および単位はセンサの種類と検知値(sensing value)の範囲に応じて変わり得る。
【0024】
未加工トレースデータは、データ分析ツールの入力として適切な形態でなくてもよい。また、未加工トレースデータが電子機器の不良状態または欠陥を信頼できるように予測できる信頼性のあるデータ分析モデルをトレーニングし、それに適するほどの十分な数のデータサンプルを有していなくてもよい。
【0025】
一実施形態によれば、本発明によるシステムおよび方法は、未加工トレースデータをデータ分析ツールの入力に適するデータフォーマットに変換する新たな方法を提示する。データ分析ツールは、不良状態と欠陥を予測および検知する予測可能でかつ信頼性のある分類を提供することができる。
【0026】
本発明の一実施形態によれば、変換されたトレースデータは、十分なデータサンプルを用いて事前トレーニング済みの(pre-trained)標準データ分析モデルに提供され得る。トレーニング(training)に用いられたデータサンプルは、トレースデータではない場合もあるが、限られた数のデータサンプルで未加工トレースデータをトレーニングさせてパターンを分類して変換されたトレースデータの不良および欠陥パターンを検知および予測するのに用いられるデータサンプルとしての役割を遂行することができる。一般に、電子機器製造システムのセンサから得られた未加工トレースデータは、機械学習(machine learning:ML)、ディープニューラルネットワーク(deep neural network:DNN)および/または畳み込みニューラルネットワーク(convolution neural network:CNN)を用いてパターンの予測可能な、繰り返し可能な、信頼性のあるパターン認識を行うのに充分でない限られた数のデータサンプルのみを提供することができる。本発明によるシステムおよび方法により変換されたトレースデータは、データ分析ツールに提供され、未加工トレースデータでは取得することのできない意味のある有用な結果を得ることができる。
【0027】
本発明によるシステムおよび方法は、1)長いセンサ入力データを二次元(2D)データに写像(mapping)、2)階段入力データ(step input data)を同じ面積のデータに写像、3)センサ入力を特性マップ(feature map)に併合、および4)センサ入力データの順序の再配置などを含む(しかし、これに限定されない)一つ以上の工程によってデータ分析モデルの分類性能を改善することができる。
【0028】
一実施形態によれば、本発明によるシステムおよび方法は、複数の一次元時系列トレースデータを受信し、二次元(2D)データに変換して表示装置の製造トレースデータを映像基盤のディープ機械学習(image-based deep machine learning)アルゴリズムと共に用いるようにする。特に、本発明によるシステムおよび方法は、トレースデータを2Dデータに変換するデータ変換方法を提供してパターン認識とパターン分類性能を改善することによって意味のある、信頼できる、予測可能な結果を算出する。
【0029】
本発明はまた、未加工トレースデータを機械学習に適したデータフォーマットに変換した後に機械学習(特に深層学習)アルゴリズムを用いて未加工トレースデータを分析する方法を提示する。
【0030】
図1は本発明の一実施形態による未加工トレースデータの変換方法を示す。データ変換システムは、データ処理モジュール(data preprocessing module)111および分類器112を含む。データ処理モジュール111は、未加工トレースデータ101を受信して前処理トレースデータ(preprocessed trace data)115に変換し、前処理トレースデータ115を分類器112に提供する。
【0031】
本発明の一実施形態によれば、データ処理モジュール111および分類器112のそれぞれは、データ処理およびパターン認識と分類を行うデータ処理単位および/またはプロセッサとメモリを含み得る。本発明の他の実施形態によれば、データ処理モジュール111と分類器112は、コンピュータ装置の一つのプロセッサを共有することができ、一つのマルチコアプロセッサの互いに異なるプロセッサコアを用いて互いに異なるスレッド(thread)を実行することができる。
【0032】
未加工トレースデータ101は、電子装置(例えば表示装置のガラス基板)の製造工程で様々なセンサから取得できる時系列データの集合であり得る。ここでは各センサから得られたデータを媒介変数(parameter)ともいう。一つのガラスパネルに対して、そのガラスパネルの製造工程で得られた媒介変数が複数であり得る。しかし、未加工トレースデータ101はまた、二つ以上のガラスパネルで得られたデータまたは一つのガラスパネルで得られた部分データ(partial data)の集合を示し得る。未加工トレースデータ101のフォーマット、長さ、単位および/または範囲は、製造工程だけでなくガラスパネルの偏差(例えばサイズ、解像度、種類)によっても変わり得る。同じ工程で製作した同じサイズのガラスパネルに対して、未加工トレースデータ101の偏差はサイズ未満であり得る。例えば、ガラスパネルの工程時間が互いに異なると、一つの未加工トレースデータ101セットが他の未加工トレースデータ101セットより長くてもよい。
【0033】
データ処理モジュール111は、未加工トレースデータ101を分類器112に入力できる規格化したフォーマットの前処理トレースデータ115に変換し得る。例えば、未加工トレースデータ101は、複数の媒介変数の一次元時系列データであり、前処理トレースデータ115は、二次元(2D)映像類似(image-like)データである。二次元映像類似データは、媒介変数に対応する第1次元と時間によるデータサンプルに対応する第2次元を有する。第1次元と第2次元は、二次元映像類似データのX座標とY座標に該当する。
【0034】
データ処理モジュール111の主な作業(task)の一つは、それぞれの未加工トレースデータ101セットを同じサイズ(size)と次元(dimension)の均一なサイズを有する前処理トレースデータ115に変換することによって、分類器112が不良または欠陥と関連するパターンを認識して分類できるようにすることである。データ処理モジュール111はまた、二次元映像類似データを規格化して中央にあるデータの平均値を移動させてそのデータのスケール(scale)および/または解像度を変えることができる。未加工トレースデータ101に適用できる他のデータ処理方法については以下で詳細に説明する。
【0035】
分類器112は、データ処理モジュール111から前処理トレースデータ115を受信し、パターン認識および分類を行い、出力データを生成するが、この出力データをここでは不良検知結果121という。不良検知結果121は、未加工トレースデータ101が不良パターン(すなわち、不良または不良なし)のみを含むことを示し得る。本発明の一実施形態によれば、不良検知結果121は、該当ガラスパネルに不良がある確率を与えられた範囲、例えば、0(不良なし)から100(明確に不良を含む)まで示し得る。本発明の他の実施形態によれば、出力データは不良検知結果121の分類細目、例えば、不良の種類(例えば、乾式エッチング工程の欠陥、ウィンドウ欠陥(window defect)、ムラ欠陥(Mura defect)、パーティクル欠陥(particle defect)等)および/または不良位置を含み得る。不良または欠陥の詳細情報は不良または欠陥の特性の識別に用いることができ、これにより製造工程を微細に調整したり、不良または欠陥が修復可能な場合、修復ツールを用いて不良を修復することもできる。
【0036】
データ処理モジュール111が生成した前処理トレースデータ115は、分類器112による深層学習アルゴリズムの適用に適したフォーマットである。分類器112が適正化した前処理トレースデータ115は不良検知識別および分類性能を高める。例えば、分類器112はディープニューラルネットワークを用いてパターンまたは二次元映像の特性を識別し得る。本実施形態でこのようなパターンは電子機器(例えば、表示装置のガラスパネル)の製造工程で発生する異常(anomalies)、不良(faults)および欠陥(defects)と関連し得る。本発明の一実施形態によれば、分類器112は、結局異常、不良、欠陥に繋がるか、繋がり得る未加工トレースデータ101の特定パターンを識別することができる。
【0037】
分類器112が実行するディープニューラルネットワークアルゴリズムは、2D映像データのパターンを識別するように特に考案され得るが、例えば、映像データから顔面認識(face recognition)、文字認識(character recognition)を行うか、音声データから音声認識(speech recognition)を行うようにすることができる。ディープニューラルネットワークアルゴリズムは、十分な数のデータサンプルで事前トレーニング(pre-trained)、事前テスト(pre-tested)、および事前検証(pre-validated)されたデータモデルを用い得る。一般に、大きいデータ集合(例えば数十万)でトレーニング、テスト、検証されたデータモデルは信頼することができ、再現可能な結果を与える。しかし、ディープニューラルネットワークアルゴリズムをトレーニング、テストおよび検証するのに用いるデータサンプルは目標とする分野(target application)のトレースデータである必要はない。上述したように、本発明によるシステムおよび方法は、目標分野の一つは製造工程で得られたセンサデータを用いて表示装置ガラスパネルの不良パネルを検知することである。データモデルをトレーニング、テストおよび検証するにはセンサデータサンプルの数が充分でない場合もあり、したがって、他のデータセットで事前トレーニング、事前テスト、事前検証されたデータモデルを用いることができるが、これも信頼性があり、再現可能な結果を生成することができる。以下でさらに詳しく説明するが、データ処理モジュール111がサイズ調整(resizing)、写像(mapping)、併合(merging)および再配列によりデータ処理を行う場合優れた分類結果を期待することができる。標準データモデルの例としてはCaffe、VGG、Resnet、AlexnetおよびSqueezenetなどがあるが、これに限定されない。
【0038】
本発明の一実施形態によれば、分類器112は二次元映像基盤の畳み込みニューラルネットワーク(2D image-based convolution neural network)を用いる。データモデルは多様な種類のデータフォーマットを受信し得る。例えば、データモデルは、二次元整数基盤のデータ(2D integer-based data)または二次元浮動点データ(2D floating point data)を受信し得る。データモデルが二次元浮動点データを受信すると、入力データ(例えばトレースデータ)の本来の解像度が維持され得る。適用可能な場合、データ処理モジュール111は、二次元整数基盤のデータを二次元浮動点データに変換することができ、畳み込みニューラルネットワークの入力でデータを規格化することができる。分類器112は二次元浮動点データフォーマットの規格化されたセンサ入力データを受信し、規格化された二次元浮動点センサ入力データに基づいて不良パターンを識別することができる。
【0039】
本発明の一実施形態によれば、データ処理モジュール111は分類性能を強化しながらも情報損失を最小化することによって未加工トレースデータ101を変換する。分類器112用にフォーマットされ、適正化された前処理トレースデータ115を用いると、分類器112の未加工トレースデータ101の分類結果を大きく改善することができる。分類器112の分類結果は分類性能を特徴づけてデータ処理を更新する多様な交差検証方法(cross-validation scheme)を用いて検証され得る。例えば、分類器112のCNNアルゴリズムまたはディープニューラルネットワークは、k-重交差検証(k-fold cross-validation)により検証され、より高くて一貫した分類正確度を提供することができる。
【0040】
図2は数値データを二次元映像類似データに変換する三つの例を示す。未加工トレースデータ(例えば、
図1の未加工トレースデータ101)の各サンプルは互いに異なる次元および/またはサイズであり得る。例えば、各サンプルのサンプリング時間および/または処理時間は互いに異なってもよい。本実施形態では、サンプル#1は(y-次元の)K時系列サンプルを含み、サンプル#2は(K-2)サンプルを含み、サンプル#3は(K-1)サンプルを含む。
図2に明確に示していないが、各サンプルはx-次元でも互いに異なる数の媒介変数を有し得る。時系列数値データが二次元映像類似データに変換される場合、未加工トレースデータの次元および/またはサイズの変化応じて各データサンプルのサイズも変化し得る。
【0041】
図3は本発明の一実施形態によるセンサ入力の併合過程を示す。それぞれの媒介変数(#1~#7)は互いに異なる分散(variance)を有する。各媒介変数の範囲は箱ひげ図(box plot)で表し、平均は各データサンプルに対する箱ひげ図において線で表している。各媒介変数の平均値は中間値から逸脱し得る。本実施形態で、各媒介変数は同じ数のデータサンプルを含むように表している。媒介変数はx-方向に配列し、時系列データのデータサンプルはy-方向に配列して二次元データを得ることができる。説明の目的で、データ値は2次元データのグレースケール(gray scale)で表した。未加工トレースデータが二次元データに変わると、低分散媒介変数、例えば、データサンプル(#3,#5)は欠陥として認識されにくいが、これはデータ値の範囲が小さいため欠陥値の範囲も小さいからである。
【0042】
図4は本発明の一実施形態による入力データ順序の再配列過程を示す。媒介変数(#2,#5,#7)に対応するデータは互いに離隔しており、特定種類の欠陥と密接に関連している。媒介変数(#2,#5,#7)が互いに離隔しているか散らばっている場合、その特定種類の欠陥を認識しにくい。一般に、この媒介変数のうち一つ以上と関連する欠陥は、この媒介変数が入力データで互いに近く位置する場合により認識しやすい。この場合、入力データの順序を再配列して分類器のパターン認識性能を強化することができる。本実施形態で、媒介変数(#2,#5,#7)に対応するデータが互いに近く位置すると不良パターン検知性能が改善される。入力データの再配列は様々な方法、例えば、各媒介変数に対するデータ値の範囲、平均値、中間値、偏差量およびデータの特性などに基づいて行われ得る。本発明の一実施形態によれば、共分散(covariance)または相関(correlation)行列(matrix)を用いて媒介変数の間の相関関係を判断して入力データで媒介変数を再配列し得る。しかし、本発明の範囲を逸脱せず他の媒介変数を用いて入力データを再配列することもできる。
【0043】
本発明の一実施形態によるシステムおよび方法は、製造工程で得られた未加工トレースデータから二次元映像類似データサンプルを生成する効果的な方法を提示する。分類器に提供される二次元入力データは、データ処理のための設定を変化させることによって一連のトレーニング、テストおよび検証過程で生成され得る。データ処理の例としてはデータ長さ調整、互いに異なるセンサ入力のサイズ調整、未加工トレースデータセットからの入力データ順序の再配列などを含むが、これに限定されない。
【0044】
ガラスパネルの総処理時間は、複数の単位工程段階の時間を含み得る。各工程段階では互いに異なる処理時間を有してもよく、それぞれの処理段階で未加工トレースデータのサイズが同一であるという保障はない。ガラスパネルの場合、データ処理モジュール111は、各ガラスパネルの総データサイズを調整して処理された二次元データを生成することによって処理段階の時間差に関係なく均一なサイズを有するようにする。この過程をここではデータ長さ調整という。データ長さ調整は、総センサ入力数(例えばx-方向のデータサイズ数)とデータサンプル数(例えばy-方向のデータサイズ数)を一致させる。
図1を再び参照すると、データ処理モジュール111はデータ長さ調整を行って未加工トレースデータ101のサイズを調整する。より詳細に説明すると、データ処理モジュール111は互いに異なるサイズの時系列未加工トレースデータから均一なサイズの二次元データを生成する。
【0045】
未加工トレースデータ101を分類器112に入力される二次元データに変換するための適正でかつ最良の性能設定を提供するために、データ処理モジュール111は未加工トレースデータ101のサイズ調整(resizing)、写像(mapping)、併合(merging)および再配列(rearranging)のうち少なくとも一つを行い得る。このようなデータ処理のうち一部は必須であり、他の一部は条件的および/または選択的であり得る。印加されるデータの特性および分類性能の結果に応じて、このようなデータ処理段階を実際のデータサンプルで継続的に検証して更新することによって分類器112の性能をさらに改善することができる。
【0046】
図5は本発明の一実施形態により長いセンサ入力データを二次元映像類似データに写像する例を示す。未加工トレースデータ101がMサンプリングポイントとNセンサ入力(または媒介変数)を有していると仮定する。未加工トレースデータ101は、初期に第1二次元アレイ(array)(M,N)で配列されている。しかし、分類器112は第2二次元アレイ(K,K)を有する二次元映像類似前処理されたトレースデータ115を受信し得る。本実施形態で、二次元映像類似データの行と列の数はKで互いに同一である。しかし、これは一つの例に過ぎず、本発明はこれに限定されない。すなわち、本発明の範囲を逸脱することなく列と行の数を変えることができる。説明の便宜のために、以下の説明では二次元データの行と列の数がKで互いに同じ場合に基づいている。
【0047】
未加工トレースデータ101においてサンプリングポイント数(M)が分類器112に入力される前処理トレースデータ115のサイズ(K)より大きいと、すなわち、M>Kであれば、データ処理モジュール111はデータ長さ調整を行うが、(M,N)アレイのサイズを調整して(K,K)アレイに合わせる。例えば、未加工トレースデータ101を複数の片(101a,101b)に分割する。この時、畳み込みに過去および未来のデータを提供する重複領域102は、分割データセット(101a,101b)の各片内に共通して含まれ得る。未加工トレースデータ101を二つの片に分割した後に、分割データセット(101a,101b)を(K,K)アレイ内に配置する。データの連続性を維持するために、分割データセットそれぞれは重複領域を含み得る。未加工トレースデータ101を(重複領域102を含む)分割データセット(101a,101b)に分割して(K,K)アレイに合わせた後に、分割データセット(101a,101b)を(K,K)アレイ内の任意位置に初期配置し得る。分割データセット(101a,101b)を配置するとき、これらを回転させて互いに分離させ得る。分割データセット(101a,101b)を配置した後に(K,K)アレイの空の領域を所定の数、例えば、0で満たし得る。充填数(filling number)はデータの種類、範囲およびフォーマットにより変わり得る。(K,K)アレイ内の分割データセット(101a,101b)の位置が決定されると、次の未加工トレースデータを同じ方式に分割して同じ位置に配置して一貫した分類結果を得る。
【0048】
本発明の一実施形態によれば、重複領域の最小サイズは畳み込みニューラルネットワーク第1層の畳み込みウィンドウサイズによって決定される。CNN第1層の5x5畳み込みウィンドウの場合には重複領域を5より大きい値に設定する。
【0049】
ガラスパネルの製造工程は、複数(L)の段階を含み得る。各段階は平均処理時間から大きく逸脱しなくても互いに異なるデータ長さを有してもよく、各段階は処理時間に対しては均一に変化し得る。
【0050】
図6は本発明の一実施形態により段階入力データを同じ面積のデータに写像することを示す。未加工データ(601,602)は、同じ数の処理段階、すなわち、段階(1)から段階(L)までを有する。未加工データ602段階(1)のサイズは、未加工データ601の段階(1)より大きい。互いに異なる未加工データの同じ段階のサイズが互いに異なる場合には、未加工データを写像して同じデータをサイズ調整未加工データ(resized raw data)603内の同一位置に配置する必要がある。同一段階のデータが二次元データ内の同一位置に配置されるとき分類性能が最も優れることをテストおよび検証する。同じデータを同一位置に配置するためには、各段階サイズを各段階の最小サイズに写像し得る。同一位置の同一データをサイズ調整および写像することによって、最も小さい段階のサイズに基づいて段階の最小サイズを決める。本実施形態では、サイズ調整未加工データ603段階(1)のサイズは、未加工データ602の段階(1)のサイズより小さい未加工データ601の段階(1)のサイズになるように決定される。未加工データのサイズ調整と写像を一般化すると、未加工データを単に短く切って必要なサイズになるようにすることもできる。例えば、未加工データ602の段階(1)に含まれた20個のサンプルから最初の15個のデータサンプルを取得することによってサイズを減らし得る。他の例としては、未加工データをデシメーション(decimation)で再サンプリングして各段階に必要なサイズを取得することができる。残った段階(2)から段階(L)まで同じサイズ調整と写像過程を繰り返してサイズ調整未加工データ603を取得することができる。
【0051】
本発明の一実施形態によれば、各センサ入力を(min,max)範囲から(-1,1)範囲に共通データサンプルに併合することによって未加工トレースデータを規格化し得る。-1から1までの範囲でデータを規格化すると偏差が大きい未加工トレースデータの間の差を減らし得る。
【0052】
図7は本発明の一実施形態によるセンサ入力の併合を特性マップで示す。元データ701をX値とY値の平均を0に配置するゼロ中心化(zero-centered)し、ゼロ中心化したデータ702を規格化して規格化データ703を生成することによってデータを(-1,1)範囲に合わせる。
【0053】
全部N個のセンサ入力または未加工トレースデータを特性マップに併合し得る。本発明の一実施形態によれば、最小-最大値をデータの規格化に用いる。すなわち、x-min(x)/max(x)-min(x)である。ここでxはセンサデータである。本発明の他の実施形態によれば、標準規格化を用い得る。すなわち、x-mean(x)/std.(x)である。ここで、meanは平均、std.は標準偏差を意味する。
【0054】
図8は本発明の一実施形態による機械学習モデルの概略図である。一実施形態によれば、機械学習モデルは畳み込みニューラルネットワークモデルを示す。先に、機械学習モデルを入手する(811)。ビッグデータセット(big dataset)821で事前トレーニング済みの機械学習モデルを用い得る。機械学習モデルのトレーニングに用いられるビッグデータセットは後ほど機械学習モデルに入力されるセンサ入力を示すトレースデータでなくてもよい。この場合には、機械学習モデルはImageNet、COCO(Microsoft Common Object in Context)およびPASCAL VOC(visual object classes)等のような他のソースデータを用いて事前トレーニングを受けることができる。他の実施形態によれば、機械学習モデルは先立って説明したような不良検知分野専用の信頼性があり、予測可能な結果を算出するのに十分大きいトレースデータ集合で事前トレーニングすることによって取得することができる。機械学習モデルの事前トレーニングに用いるデータの種類とは関係なく、機械学習モデルは次の段階で行われるトレースデータによる再トレーニング後に信頼性があり、再現可能な不良パターン分類および予測結果を達成することができる。
【0055】
事前トレーニング済みの機械学習モデルを入手した後に、事前トレーニング済みの機械学習モデルを再トレーニングおよび推論用トレースデータセット822で再トレーニングさせる。トレースデータセット822は、専用センサデータを含む位相データ分析(topological data analysis:TDA)データセットともいう。トレースデータセット822を整列してそのフォーマットを機械学習モデルの入力に適したフォーマットに変換し(812)、整列したトレースデータを再トレーニング用機械学習モデルに適用する(813)。所定の条件が満たされる時まで多数のトレースデータセット822で再トレーニング過程(re-training process)を繰り返す。例えば、あらかじめ定めた精密度(precision)、再現性(recall)および/または正確度(accuracy)が達成されると再トレーニング過程を完了し得る。場合によっては、平均精密度(mean-average precision)を達成すると再トレーニング過程を完了してもよい。機械学習モデルを再トレーニングした後に、機械学習モデルのネットワーク係数(network coefficients)をトレースデータ用に更新し、不良パターン分類および予測専用の更新された機械学習モデルを得ることができる(814)。
【0056】
トレースデータセット822は、事前トレーニング済みの機械学習モデルに用いられる大きいデータセットの一部であってもなくてもよい。場合によっては、機械学習モデルの事前トレーニングに用いられるビッグデータセット821が純粋にImageNet、COCO(Microsoft Common Object in Context)およびPASCAL VOC(visual object classes)等のソースデータであり得る。場合によっては、ビッグデータセット821がトレースデータセット822を機械学習モデルの再トレーニングに用いられるソースデータの一部として含み得る。特に機械学習モデルをトレースデータとは異なるソースデータで事前トレーニングした場合に、機械学習モデルの再トレーニング過程がトレースデータから学習した知識を移すのに重要である。この時、一つ以上の機械学習モデルの内部層(例えばソフトマックス層(softmax layer)、完全連結層(fully connected layer:FC layer))を更新して機械学習モデルで認識可能であり、かつ分類可能なクラスの差を反映するようにすることができる。例えば、ImageNetで事前トレーニング済みの機械学習モデルを465、567映像でトレーニングして20、121映像で検証し、機械学習モデルはワカモレ(guacamole)、ネックブレース(neck brace)、iPod(登録商標)、チャイム(chime)等を含む200個の互いに異なるクラスを識別し得る。多数のトレースデータセット822で事前トレーニング済みの機械学習モデルは例えば、乾式エッチング工程欠陥、ウィンドウ欠陥、ムラ欠陥、パーティクル欠陥など互いに異なる数と互いに異なる種類のクラスを識別し得る。トレースデータセット822を新しいトレースデータに更新し得、機械学習モデルを再び再トレーニングして分類正確度と不良パターンの認識を改善することができる。
【0057】
図9は本発明の一実施形態によりトレースデータを機械学習モデルに適用して予測結果を求める方法の概略図である。
図8を参照して説明したように機械学習モデルをトレースデータセットでトレーニングすると仮定する。トレースデータ921をサイズ調整(resizing)、写像(mapping)、併合(merging)および再配列することによってトレースデータ921を整列する(911)。例えば、トレースデータ921を機械学習モデルに適した入力フォーマットに変換し得る。次いで整列したトレースデータを機械学習モデルに適用する(912)。機械学習モデルは複数の不良クラスと関連する予測パターンと分類結果を生成し得る(913)。
【0058】
トレースデータ921は、表示パネルなど電子機器の製造工程で得られたセンサデータを含み得る。
図3ないし
図6を参照して説明したようにトレースデータ921はデータ整列過程911で変換および処理され、機械学習モデルに提供され得る。正確度、不良検知と予測結果を改善するために機械学習モデルを継続して更新して再トレーニングし得る。不良パターン検知および予測結果が生成されることによって機械学習モデルが更新および改善されることができる。これとは異なり、機械学習モデルの不良パターン検知および予測結果が実際の不良データと相関してもよく、相関結果とともに機械学習モデルが更新されて機械学習モデルの正確度、不良検知と予測結果をさらに改善することができる。
【0059】
本発明の一実施形態によれば、未加工トレースデータ101の順序を入力データの相関関係に応じて再配列して機械学習の学習を容易にすることができる。
図3を参照すると、相関するデータを互いに近く配置して入力データセットでパターンを容易に認識することができる。
【0060】
様々な他の方法で未加工トレースデータを再配列することもできる。例えば、高分散(high variance)データ入力を入力データの中央に配置して未加工トレースデータを再配列することによって高活性(high activity)パターンを捕らえることができる。他の例によれば、未加工トレースデータの類似パターンを互いに近く配置することによって高分散項目(items)を再配列されたデータ内で互いに近く配置することができる。
【0061】
先立って説明したサイズ調整(resizing)、写像(mapping)、併合(merging)および再配列(rearranging)を含むデータ処理をすべての組み合わせに用いて前処理トレースデータ115を生成することができる。このようなデータ処理はいずれも機械学習トレーニング、テストおよび/または検証を始める前に行われ得る。未来データが現在のデータと同じ分布を有するという仮定の下に同じ規則を未来データセットを含むすべてのデータセットに適用することができる。
【0062】
本発明によるシステムおよび方法は、複数の一次元時系列入力を二次元映像類似データに変換して他のディープニューラルネットワークから学習した内容を伝達する技術を提示する。本発明によるシステムおよび方法は、複数の一次元時系列入力を現存するディープニューラルネットワーク構造に適する二次元データに変換する公式的な方法を提示する。
【0063】
本発明は、方法(process)、装置(apparatus)、システム(system)、組成物(composition of matter)、コンピュータで読み取り可能な記憶媒体に保存されたコンピュータプログラム製品および/または連結されたメモリに保存および/またはメモリが提供する命令を実行するハードウェアプロセッサまたはプロセッサ装置などプロセッサを含む多様な方法で実現することができる。本明細書において、このような実現または本発明が取ることができる他の形態を技術(techniques)といえる。一般に、説明した方法の段階の順序は発明の範囲内で変えることができる。特に言及しない限り、課題を実行するプロセッサまたはメモリなどの部品(component)は与えられた見解でその課題を実行するように一時的に設定された汎用部品であり得、その課題を行うように製作された専用部品であり得る。ここで「プロセッサ」とは、コンピュータプログラム命令などデータを処理する一つ以上の装置、回路および/または処理コアを意味する。
【0064】
本発明の一つ以上の実施形態について本発明の原理を示す添付図面と共に詳細に説明した。本発明をこのような実施形態と結び付けて説明したが、本発明はいかなる実施形態に限定されない。本発明の範囲は特許請求の範囲によってのみ限定され、数多くの代替物、変形物および等価物を包括する。本発明の完全な理解のために多くの詳細な内容を説明した。このような詳細な内容は実施形態を示すためのものであり、このような詳細な内容の一部または全体がなくても請求範囲により本発明を実現することができる。本発明を明確にするために、本発明が属する技術分野に知られている内容は本発明が不要に曖昧になることを避けるためにその説明を省略した。
【0065】
本発明の一実施形態による不良検知方法は、一つ以上の電子機器の製造工程で取得した複数の時系列センサデータ(time-series sensor data)を受信する段階と、前記複数の時系列センサデータを二次元データアレイ内に配列する段階と、前記二次元データアレイを畳み込みニューラルネットワークモデルに提供する段階と、前記畳み込みニューラルネットワークモデルを用いて不良状態と相関する前記二次元データアレイ内のパターンを識別する段階と、前記一つ以上の電子機器の製造工程で前記不良状態の不良指標(fault indicator)を提供する段階と、前記不良指標に基づいて前記電子機器が不良を含むと判断する段階とを含み、前記二次元データアレイは前記畳み込みニューラルネットワークモデルに対する入力データの次元(dimension)を有する。
【0066】
前記電子機器は、表示装置であり得る。
【0067】
前記電子機器は、表示装置のガラスパネルであり得る。
【0068】
前記畳み込みニューラルネットワークモデルは、VGG、Resnet、Alexnet、またはSqueezenetであり得る。
【0069】
前記分類結果は、前記不良状態の種類と位置を含み得る。
【0070】
前記二次元データアレイは第2の二次元データアレイに変換され、前記第2の二次元データアレイは互いに離れている複数のデータアレイを含んでいてもよい。
【0071】
前記一つ以上の製造工程で前記不良を有する前記電子機器を廃棄する段階をさらに含み得る。
【0072】
前記複数の時系列センサデータをセンサの数に対応する第1次元と前記各センサのデータサンプル数に対応する第2次元を有する未加工トレースデータアレイに配置する段階と、前記未加工トレースデータアレイが前記二次元データアレイに適合するかどうかを判断する段階と、前記未加工トレースデータアレイを複数の未加工トレースデータアレイ片に分割する段階と、前記複数の未加工トレースデータアレイ片を前記二次元データアレイに配置する段階とをさらに含み得る。
【0073】
前記複数の未加工トレースデータアレイ片のそれぞれは、重複領域を含み得る。
【0074】
互いに異なる数のデータサンプルを有する複数の時系列センサデータセットを受信する段階、前記複数の時系列センサデータセットのうち前記データサンプル数が最も少ない第1時系列センサデータセットを決める段階と、前記複数の時系列センサデータセットのうち残りの時系列センサデータセットのサイズを調整して前記残りの時系列センサデータセットが前記第1時系列センサデータセットのデータサンプル数と同じデータサンプル数を有するようにする段階とをさらに含み得る。
【0075】
前記不良状態と相関する前記複数の時系列センサデータの部分集合を決める段階と、前記二次元データアレイを再配列して前記複数の時系列センサデータの部分集合を隣接するように配置する段階とをさらに含み得る。
【0076】
前記一つ以上の製造工程内の複数の処理段階に対応するデータをそれぞれ有する複数の時系列センサデータセットを受信する段階と、前記複数の時系列センサデータセットの前記複数の処理段階それぞれのデータサイズを比較する段階と、前記複数の処理段階のそれぞれに対し、前記複数の時系列センサデータセットのうち最小ステップサイズを有する第1時系列センサデータセットを決める段階と、残りの時系列センサデータセットの各処理段階に対応する時系列センサデータを写像して前記最小ステップサイズを有するようにする段階と、前記最小ステップサイズに写像される各工程段階を結合することによって前記複数の時系列センサデータセットのそれぞれに対して前記二次元データアレイを生成する段階とをさらに含み得る。
【0077】
前記残りの時系列センサデータセットの各処理段階に対応する時系列センサデータを写像して前記最小ステップサイズを有するようにする段階は、前記最小ステップサイズの第1データサンプルを選択する段階を含み得る。
【0078】
前記残りの時系列センサデータセットの各処理段階に対応する時系列センサデータをデシメーション(decimation)で再サンプリングして前記最小ステップサイズを有する再サンプル時系列センサデータを求める段階をさらに含み得る。
【0079】
前記複数の時系列センサデータの平均を決める段階と、前記複数の時系列センサデータのそれぞれを移動させて平均が0になるようにする段階と、前記複数の時系列センサデータそれぞれを規格化して-1と+1との間の範囲に位置させる段階とをさらに含み得る。
【0080】
本発明の一実施形態による不良検知方法は、第1フォーマットの第1データセットで事前トレーニング済みの畳み込みニューラルネットワークモデルを提供する段階と、第2フォーマットの第2データセットを受信する段階と、前記第2データセットの前記第2フォーマットを前記第1フォーマットに変換して第3データセットを生成する段階と、前記畳み込みニューラルネットワークモデルを前記第3データセットで再トレーニングする段階と、更新された畳み込みニューラルネットワークモデルを求める段階を含む。
【0081】
前記第2データセットは一つ以上の電子機器の製造工程で取得した複数の時系列センサデータであり、前記第1フォーマットは二次元データアレイであり、前記二次元データアレイは前記更新された畳み込みニューラルネットワークモデルの入力データ次元を有し、さらに、前記二次元データアレイの前記第1フォーマットを有する前記第3データセットを前記更新された畳み込みニューラルネットワークモデルに提供する段階と、前記更新された畳み込みニューラルネットワークモデルを用いて不良状態と相関する前記二次元データアレイ内のパターンを識別する段階と、前記一つ以上の電子機器の製造工程で前記不良状態の不良指標(fault indicator)を提供する段階と、前記不良指標に基づいて前記電子機器が不良を含むと判断する段階と、次の1)、2)、3)、および4)のうち少なくとも一つを含み得る。
【0082】
1)前記複数の時系列センサデータをセンサの数に対応する第1次元と前記各センサのデータサンプル数に対応する第2次元を有する未加工トレースデータアレイに配置する段階と、前記未加工トレースデータアレイが前記二次元データアレイに適合するかどうかを判断する段階と、前記未加工トレースデータアレイを複数の未加工トレースデータアレイ片に分割する段階と、前記複数の未加工トレースデータアレイ片を前記二次元データアレイに配置する段階。
【0083】
2)互いに異なる数のデータサンプルを有する複数の時系列センサデータセットを受信する段階と、前記複数の時系列センサデータセットのうち前記データサンプル数が最も少ない第1時系列センサデータセットを決める段階と、前記複数の時系列センサデータセットのうち残りの時系列センサデータセットのサイズを調整して前記残りの時系列センサデータセットが前記第1時系列センサデータセットのデータサンプル数と同じデータサンプル数を有するようにする段階。
【0084】
3)前記不良状態と相関する前記複数の時系列センサデータの部分集合を決める段階と、前記二次元データアレイを再配列して前記複数の時系列センサデータの部分集合を隣接するように配置する段階。
【0085】
4)前記一つ以上の製造工程内の複数の処理段階に対応するデータをそれぞれ有する複数の時系列センサデータセットを受信する段階と、前記複数の時系列センサデータセットの前記複数の処理段階それぞれのデータサイズを比較する段階と、前記複数の処理段階のそれぞれに対し、前記複数の時系列センサデータセットのうち最小ステップサイズを有する第1時系列センサデータセットを決める段階と、残りの時系列センサデータセットの各処理段階に対応する時系列センサデータを写像して前記最小ステップサイズを有するようにする段階と、前記最小ステップサイズに写像される各工程段階を結合することによって前記複数の時系列センサデータセットそれぞれに対して前記二次元データアレイを生成する段階。
【0086】
前記電子機器は、表示装置のガラスパネルであり得る。
【0087】
前記更新された畳み込みニューラルネットワークモデルは、VGG、Resnet、Alexnet、またはSqueezenetであり得る。
【0088】
前記一つ以上の製造工程で前記不良を有する前記電子機器を廃棄する段階をさらに含み得る。
【0089】
本発明の一実施形態による不良検知装置は、プロセッサと、プロセッサ実行可能命令を保存するメモリとを含み、前記プロセッサはデータ分析モデルを実行し、前記データ分析モデルは、データ処理モジュールおよび分類器を含み、前記データ処理モジュールは、一つ以上の電子機器の製造工程で取得した複数の時系列センサデータ(time-series sensor data)を受信し、前記複数の時系列センサデータを二次元データアレイ内に配列し、前記分類器は、不良状態と相関する前記二次元データアレイ内のパターンを識別し、前記一つ以上の電子機器の製造工程で前記不良状態の不良指標(fault indicator)を提供し、前記不良指標に基づいて前記電子機器が不良を含むと判断する。
【0090】
以上の詳細な説明は本発明の特定の実施形態を説明するものであり、限定のためのものではない。本発明の範囲内で様々な修正および変形が可能である。本発明の次の請求範囲によって定義される。
【符号の説明】
【0091】
101:未加工トレースデータ
101a,101b:分割データセット
102:重複領域
111:データ処理モジュール
112:分類器
115:前処理トレースデータ
121:不良検知結果
601,602:未加工データ
603:調整未加工データ
701:元データ
702:ゼロ中心化したデータ
703:規格化データ
821:ビッグデータセット
822:トレースデータセット
921:トレースデータ