特許 7161948 機械学習装置、機械学習方法、機械学習プログラム、及び検査装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2022-10-19

(45)【発行日】2022-10-27

(54)【発明の名称】機械学習装置、機械学習方法、機械学習プログラム、及び検査装置

(51)【国際特許分類】

   G06N 20/00 20190101AFI20221020BHJP

   G01N 21/88 20060101ALI20221020BHJP

   G06T 7/00 20170101ALI20221020BHJP

【ＦＩ】

G06N20/00 130

G01N21/88 Z

G06T7/00 350C

【請求項の数】 9

(21)【出願番号】P 2019010486

(22)【出願日】2019-01-24

(65)【公開番号】P2020042755

(43)【公開日】2020-03-19

【審査請求日】2021-11-29

(31)【優先権主張番号】P 2018168190

(32)【優先日】2018-09-07

(33)【優先権主張国・地域又は機関】JP

【新規性喪失の例外の表示】特許法第３０条第２項適用 ▲１▼発行日 平成３０年１０月２９日 ▲２▼刊行物「ディープラーニング活用の教科書」第３章 １２６～１３０頁 ▲３▼公開者 日経ＢＰ社

(73)【特許権者】

【識別番号】000005186

【氏名又は名称】株式会社フジクラ

(74)【代理人】

【識別番号】110000338

【氏名又は名称】特許業務法人ＨＡＲＡＫＥＮＺＯ ＷＯＲＬＤ ＰＡＴＥＮＴ ＆ ＴＲＡＤＥＭＡＲＫ

(72)【発明者】

【氏名】黒澤 公紀

(72)【発明者】

【氏名】中鳥 真一

【審査官】北川 純次

(56)【参考文献】

【文献】特開２０１７－０６２６７７（ＪＰ，Ａ）

【文献】特開２０１７－０５４３３１（ＪＰ，Ａ）

【文献】特開２０１７－１１１７３３（ＪＰ，Ａ）

【文献】米国特許出願公開第２０１７／００２４６４１（ＵＳ，Ａ１）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ２０／００

Ｇ０６Ｎ ３／０２－３／１０

Ｇ０１Ｎ ２１／８８

Ｇ０６Ｔ ７／００

(57)【特許請求の範囲】

【請求項1】

複数のグループの各々に属する物品の状態を、該物品を被写体として含む画像を参照して分類する複数の分類器からなる分類器群に、機械学習を行わせる機械学習装置であって、
上記分類器群に含まれる各分類器の分類精度をグループ毎に評価する評価部と、
上記分類器群に含まれる少なくとも１つの分類器の分類精度が予め定められた基準に達しない場合、上記分類器群が次のグループに属する物品に対する分類処理を実行する前に、上記分類器群に含まれる、上記少なくとも１つの分類器以外の分類器に追加学習を行わせる学習制御部と、を備えている、
ことを特徴とする機械学習装置。

【請求項2】

上記評価部は、上記分類器群に含まれる各分類器の分類精度を、該分類器が各物品の状態を分類することにより得られた分類結果と、人が各物品の状態を分類することにより得られた分類結果と、を比較することによって評価する、
ことを特徴とする請求項１に記載の機械学習装置。

【請求項3】

上記複数の分類器のうち、初期学習フェーズにおいて達成された分類精度が最も高い分類器を主分類器として、
上記評価部は、上記分類器群に含まれる各分類器の分類精度を、該分類器が各物品の状態を分類することにより得られた分類結果と、上記主分類器が各物品の状態を分類することにより得られた分類結果と、を比較することによって評価する、
ことを特徴とする請求項１に記載の機械学習装置。

【請求項4】

上記複数の分類器のうち、初期学習フェーズにおいて達成された分類精度が最も高い分類器を主分類器として、
第１の追加学習フェーズにおいて、
上記評価部は、上記分類器群に含まれる各分類器の分類精度を、該分類器が各物品の状態を分類することにより得られた分類結果と、人が各物品の状態を分類することにより得られた分類結果と、を比較することによって評価し、
上記第１の追加学習フェーズに後続する第２の追加学習フェーズにおいて、
上記評価部は、上記分類器群に含まれる各分類器の分類精度を、該分類器が各物品の状態を分類することにより得られた分類結果と、上記主分類器が各物品の状態を分類することにより得られた分類結果と、を比較することによって評価する、
ことを特徴とする請求項１に記載の機械学習装置。

【請求項5】

上記学習制御部は、上記分類器に含まれる上記主分類器以外の分類器の分類精度が予め定められた基準に達しない場合、上記分類器群が次のグループに属する物品に対する分類処理を実行する前に、上記主分類器に追加学習を行わせる、
ことを特徴とする請求項３又は４に記載の機械学習装置。

【請求項6】

上記学習制御部は、上記分類器群に含まれる少なくとも１つの分類器の分類精度が予め定められた基準に達しない場合、上記分類器群が次のグループに属する物品に対する分類処理を実行する前に、上記分類器群に含まれる全ての分類器に追加学習を行わせる、
ことを特徴とする請求項１～５の何れか１項に記載の機械学習装置。

【請求項7】

複数のグループの各々に属する物品の状態を、該物品を被写体として含む画像を参照して分類する複数の分類器からなる分類器群に、機械学習を行わせる機械学習方法であって、
上記分類器群に含まれる各分類器の分類精度をグループ毎に評価する評価ステップと、
上記分類器群に含まれる少なくとも１つの分類器の分類精度が予め定められた基準に達しない場合、上記分類器群が次のグループに属する物品に対する分類処理を実行する前に、上記分類器群に含まれる、上記少なくとも１つの分類器以外の分類器に追加学習を行わせる学習制御ステップと、を含んでいる、
ことを特徴とする機械学習方法。

【請求項8】

コンピュータを請求項１～６の何れか１項に記載の機械学習装置として動作させる機械学習プログラムであって、上記コンピュータを上記機械学習装置の各部として機能させることを特徴とする機械学習プログラム。

【請求項9】

請求項１～６の何れか１項に記載の機械学習装置と上記分類器群とを備え、上記分類器群を用いてロットに分けられた複数の物品の検査を行う、
ことを特徴とする検査装置。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、分類器に機械学習を行わせる機械学習装置、機械学習方法、及び機械学習プログラムに関する。また、本発明は、物品の検査を行う検査装置に関する。

【背景技術】

【0002】

物品を被写体として含む画像を参照して該物品の状態を分類する技術が広く用いられている。このような技術を、機械学習により構築された分類器を用いて実現する場合、長期に亘って分類精度を保つことが困難である。なぜなら、機械学習により構築された分類器の汎化能力が発揮されるのは、教師データとして用いられた画像に含まれる物品、或いは、その物品に類似する物品に対してであり、分類の対象となる物品そのものや、分類の対象となる物品を取り巻く環境などが変化すると、分類対象とする物品が分類器の汎化能力が発揮される範囲を超えてしまうからである。

【0003】

このような問題の解決に資する可能性のある技術としては、例えば、特許文献１に記載の音源種別識別装置が挙げられる。この音源種別判別装置は、ニューラルネットワーク（本明細書における分類器に相当）を用いて音源種別の判定を行う装置であり、ニューラルネットワークの学習結果を審査する審査手段と、審査手段の審査結果に基づいてニューラルネットワークの再学習（本明細書における追加学習に相当）を行う再学習手段と、を備えている。

【先行技術文献】

【特許文献】

【0004】

【文献】特開２００１－３３３０４号公報（２００１年２月９日公開）

【発明の概要】

【発明が解決しようとする課題】

【0005】

特許文献１に記載の音源種別判定手段のように、分類器の追加学習を行うことによって、分類の対象となる物品そのものや、分類の対象となる物品を取り巻く環境が変化しても、分類器の分類精度を長期に亘って保つことが可能になる。しかしながら、このような方法で追加学習を行う場合、物品の分類に用いる分類器の分類精度が低下する前に該分類器の追加学習を行うことができない。つまり、物品の分類に用いる分類器の一時的な分類精度の低下は避けられない。

【0006】

本発明は、上記の問題に鑑みてなされたものであり、物品の分類に用いる分類器の分類精度が低下する前に該分類器の追加学習を行うことが可能な機械学習装置、機械学習方法、及び機械学習プログラムを実現することにある。また、このような機械学習装置を備えた検査装置を実現することにある。

【課題を解決するための手段】

【0007】

上記の課題を解決するために、本発明の一態様に係る機械学習装置は、複数のグループの各々に属する物品の状態を、該物品を被写体として含む画像を参照して分類する複数の分類器からなる分類器群に、機械学習を行わせる機械学習装置であって、上記分類器群に含まれる各分類器の分類精度をグループ毎に評価する評価部と、上記分類器群に含まれる少なくとも１つの分類器の分類精度が予め定められた基準に達しない場合、上記分類器群が次のグループに属する物品に対する分類処理を実行する前に、上記分類器群に含まれる、上記少なくとも１つの分類器以外の分類器に追加学習を行わせる学習制御部と、を備えている。

【0008】

上記の課題を解決するために、本発明の一態様に係る機械学習方法は、複数のグループの各々に属する物品の状態を、該物品を被写体として含む画像を参照して分類する複数の分類器からなる分類器群に、機械学習を行わせる機械学習方法であって、上記分類器群に含まれる各分類器の分類精度をグループ毎に評価する評価ステップと、上記分類器群に含まれる少なくとも１つの分類器の分類精度が予め定められた基準に達しない場合、上記分類器群が次のグループに属する物品に対する分類処理を実行する前に、上記分類器群に含まれる、上記少なくとも１つの分類器以外の分類器に追加学習を行わせる学習制御ステップと、を含んでいる。

【0009】

上記の課題を解決するために、本発明の一態様に係る機械学習プログラムは、コンピュータを上述の機械学習装置として動作させる機械学習プログラムであって、上記コンピュータを上記機械学習装置の各部として機能させる。

【0010】

上記の課題を解決するために、本発明の一態様に係る検査装置は、上述の機械学習装置と上記分類器群とを備え、上記分類器群を用いてロットに分けられた複数の物品の検査を行う。なお、各ロットに含まれる物品の個数は、一律であってもよいし、一律でなくてもよい。

【0011】

これらの構成によれば、ある分類器の分類精度が低下したことをトリガーとして、その分類器以外の分類器の追加学習を行うことができる。すなわち、物品の分類に用いる分類器（その分類器以外の分類器）の分類精度が低下する前に、物品の分類に用いる分類器（その分類器以外の分類器）の追加学習を行うことができる。

【0012】

本発明の一態様に係る機械学習装置において、上記評価部は、上記分類器群に含まれる各分類器の分類精度を、該分類器が各物品の状態を分類することにより得られた分類結果と、人が各物品の状態を分類することにより得られた分類結果と、を比較することによって評価する、ことが好ましい。

【0013】

上記の構成によれば、各分類器の分類精度が、人が物品の状態を分類した結果に基づいて評価される。このため、主分類器の汎化能力に依らずに、追加学習を実施するべきタイミングを適切に特定することができる。

【0014】

本発明の一態様に係る機械学習装置において、上記複数の分類器のうち、初期学習フェーズにおいて達成された分類精度が最も高い分類器を主分類器として、上記評価部は、上記分類器群に含まれる各分類器の分類精度を、該分類器が各物品の状態を分類することにより得られた分類結果と、上記主分類器が各物品の状態を分類することにより得られた分類結果と、を比較することによって評価する、ことが好ましい。

【0015】

上記の構成によれば、各分類器の分類精度が、主分類器が物品の状態を分類した結果に基づいて評価される。このため、人が物品の状態を分類する作業を行うことなく、追加学習を実施するべきタイミングを適切に特定することができる。

【0016】

本発明の一態様に係る機械学習装置において、上記複数の分類器のうち、初期学習フェーズにおいて達成された分類精度が最も高い分類器を主分類器として、第１の追加学習フェーズにおいて、上記評価部は、上記分類器群に含まれる各分類器の分類精度を、該分類器が各物品の状態を分類することにより得られた分類結果と、人が各物品の状態を分類することにより得られた分類結果と、を比較することによって評価し、上記第１の追加学習フェーズに後続する第２の追加学習フェーズにおいて、上記評価部は、上記分類器群に含まれる各分類器の分類精度を、該分類器が各物品の状態を分類することにより得られた分類結果と、上記主分類器が各物品の状態を分類することにより得られた分類結果と、を比較することによって評価する、ことが好ましい。

【0017】

上記の構成によれば、第１の追加学習フェーズにおいては、主分類器の汎化能力に依らずに、追加学習を実施するべきタイミングを適切に特定することができ、第２の追加学習フェーズにおいては、人が物品の状態を分類する作業を行うことなく、追加学習を実施するべきタイミングを適切に特定することができる。

【0018】

本発明の一態様に係る機械学習装置において、上記学習制御部は、上記分類器に含まれる上記主分類器以外の分類器の分類精度が予め定められた基準に達しない場合、上記分類器群が次のグループに属する物品に対する分類処理を実行する前に、上記主分類器に追加学習を行わせる、ことが好ましい。

【0019】

上記の構成によれば、主分類器以外の分類器の分類精度が低下したことをトリガーとして、主分類器の追加学習を行うことができる。すなわち、物品の分類に用いる主分類器の分類精度が低下する前に、主分類器の追加学習を行うことができる。

【0020】

本発明の一態様に係る機械学習装置において、上記学習制御部は、上記分類器群に含まれる少なくとも１つの分類器の分類精度が予め定められた基準に達しない場合、上記分類器群が次のグループに属する物品に対する分類処理を実行する前に、上記分類器群に含まれる全ての分類器に追加学習を行わせる、ことが好ましい。

【0021】

上記の構成によれば、物品の分類に用いる分類器の分類精度の低下の予兆を検知する、その分類器以外の分類器の検知精度を、維持することができる。

【発明の効果】

【0022】

本発明の一態様によれば、物品の分類に用いる分類器の分類精度が低下する前に該分類器の追加学習を行うことが可能な機械学習装置、機械学習方法、及び機械学習プログラムを実現することができる。また、本発明の一態様によれば、このような機械学習装置を備えた検査装置を実現することができる。

【図面の簡単な説明】

【0023】

【図1】本発明の第１の実施形態に係る機械学習装置の物理的構成を示すブロック図である。

【図2】図１に示す機械学習装置の機能的構成を示すブロック図である。

【図3】（ａ）は、図１に示す機械学習装置が第１の追加学習フェーズにおいて実行する機械学習方法Ｓ１の流れを示すフローチャートである。（ｂ）は、第２の追加学習フェーズにおいて実行する機械学習方法Ｓ２の流れを示すフローチャートである。

【図4】本発明の第２の実施形態に係る検査装置の機能的構成を示すブロック図である。

【図5】図４に示す検査装置の実施例における、半導体レーザの製造プロセスの流れを示す模式図である。

【図6】図４に示す検査装置の実施例において、分類器群に含まれる各分類器の分類精度をグループ毎に示した箱髭図である。

【発明を実施するための形態】

【0024】

〔第１の実施形態〕
（機械学習装置の物理的構成）
本発明の第１の実施形態に係る機械学習装置１の物理的構成について、図１を参照して説明する。図１は、機械学習装置１の物理的構成を示すブロック図である。

【0025】

機械学習装置１は、図１に示すように、バス１０と、主メモリ１１と、プロセッサ１２と、補助メモリ１３と、入出力インターフェース１４と、を備えたコンピュータである。主メモリ１１、プロセッサ１２、補助メモリ１３、及び入出力インターフェース１４は、バス１０を介して互いに接続されている。主メモリ１１としては、例えば、単一又は複数の半導体ＲＡＭ（random access memory）が用いられる。プロセッサ１２としては、例えば、単一又は複数のマイクロプロセッサ、単一又は複数のデジタルシグナルプロセッサ、単一又は複数のマイクロコントローラ、又はこれらの組み合わせが用いられる。補助メモリ１３としては、例えば、単一又は複数のＨＤＤ（Hard Disk Drive）、単一又は複数のＳＳＤ（Solid State Drive）、又はこれらの組み合わせが用いられる。また、補助メモリ１３の一部又は全部は、通信インタフェース（図示せず）を介して接続されたネットワーク上のストレージであってもよい。入出力インターフェース１４としては、例えば、ＵＳＢ（Universal Serial Bus）インターフェース、赤外線やBluetooth（登録商標）等の近距離通信インターフェース、又はこれらの組み合わせが用いられる。

【0026】

入出力インターフェース１４には、例えば、入力装置２０及び出力装置３０が接続される。入力装置２０としては、例えば、キーボード、マウス、タッチパッド、マイク、又はこれらの組み合わせ等が用いられる。出力装置３０としては、例えば、ディスプレイ、プリンタ、スピーカ、又はこれらの組み合わせが用いられる。なお、機械学習装置１は、ノート型コンピュータのように、入力装置２０として機能するキーボート及びタッチパッド、並びに、出力装置３０として機能するディスプレイを内蔵していてもよい。また、機械学習装置１は、スマートフォン又はタブレット型コンピュータのように、入力装置２０及び出力装置３０として機能するタッチパネルを内蔵していてもよい。

【0027】

補助メモリ１３には、後述する機械学習方法Ｓ１をプロセッサ１２に実行させるためのプログラムＰが格納されている。プロセッサ１２は、補助メモリ１３に格納されたプログラムＰを主メモリ１１上に展開し、主メモリ１１上に展開されたプログラムＰに含まれる各命令を実行することによって、後述する機械学習方法Ｓ１に含まれる各ステップを実行する。また、補助メモリ１３には、後述する機械学習方法Ｓ１を実行するためにプロセッサ１２が参照する各種データが格納されている。

【0028】

なお、ここでは、内部記憶媒体である補助メモリ１３に格納されているプログラムＰに従ってプロセッサ１２が後述する機械学習方法Ｓ１を実行する形態について説明したが、これに限定されない。すなわち、外部記録媒体に格納されているプログラムＰに従ってプロセッサ１２が後述する機械学習方法Ｓ１を実行する形態を採用してもよい。この場合、外部記録媒体としては、コンピュータが読み取り可能な「一時的でない有形の媒体」、例えば、テープ、ディスク、カード、半導体メモリ、又はプログラマブル論理回路などを用いることができる。あるいは、通信インタフェース（図示せず）を介して接続されるネットワーク上から取得したプログラムＰに従ってプロセッサ１２が後述する機械学習方法Ｓ１を実施する形態を採用してもよい。この場合、ネットワークとしては、例えば、インターネット、有線ＬＡＮ（Local Area Network）、無線ＬＡＮ、又はこれらの少なくとも一部の組み合わせ等などを用いることができる。

【0029】

また、ここでは、単一のコンピュータを用いて機械学習装置１を実現する形態について説明したが、これに限定されない。すなわち、互いに通信可能に構成された複数のコンピュータを用いて機械学習装置１を実現する形態を採用してもよい。この場合、後述する機械学習方法Ｓ１を構成する各ステップを、これらのコンピュータにより並列的に実行することが可能になる。

【0030】

（機械学習装置の機能的構成）
機械学習装置１の機能的構成について、図２を参照して説明する。図２は、機械学習装置１の機能的構成を示すブロック図である。

【0031】

機械学習装置１は、図２に示すように、分類器群１０１と、評価部１０２と、学習制御部１０３と、を備えている。これらのブロックは、上述したプロセッサ１２が上述したプログラムＰの命令を実行することにより実現される機能ブロックである。

【0032】

分類器群１０１は、複数の分類器Ｃ１，Ｃ２，…，Ｃｎの集合である。ここで、ｎは、分類器Ｃ１，Ｃ２，…，Ｃｎの個数を表す任意の自然数である。各分類器Ｃｉ（ｉ＝１，２，…，ｎ）は、物品を被写体として含む画像を参照して該物品の状態を分類する分類処理を、機械学習により定められたアルゴリズム（以下、「モデル」と記載する）を用いて実行する。分類処理に利用可能なモデルとしては、例えば、物品を被写体として含む画像を入力とし、該物品の状態を出力とするニューラルネットワークが挙げられる。本実施形態においては、第１コンボリューション層（例えば、conv32 3*3）、第１ポーリング層（例えば、MaxPooling(2,2)）、第２コンボリューション層（例えば、conv32 3*3）、第２ポーリング層（例えば、MaxPooling(2,2)）、…、第６ポーリング層（例えば、MaxPooling(2,2)）、第６コンボリューション層（例えば、conv32 3*3）、第７ポーリング層（例えば、MaxPooling(2,2)）、第７コンボリューション層（例えば、GlobalAveragePooling）、及び、ソフトマックス層（例えば、softmax）をこの順に連結したＣＮＮ（Convolutional Nural Network）を分類処理に用いる。

【0033】

各分類器Ｃｉが用いるモデルは、分類器群１０１の運用を開始する前に実施される初期学習フェーズにおいて構築され、分類器群１０１の運用を開始した後に実施される追加学習フェーズにおいて最適化される。初期学習フェーズにおいては、（１）モデルの選択、（２）モデルの調整（ネットワーク構造及びハイパーパラメータの調整）、及び、（３）モデルの機械学習（以下、「初期学習」と記載する）が行われる。追加学習フェーズにおいては、（１）モデルの機械学習（以下、「追加学習」と記載する）が行われる。本実施形態においては、モデルとしてＣＮＮを用いているため、初期学習フェーズ及び追加学習フェーズにおけるモデルの機械学習は、深層学習により実現される。

【0034】

なお、本実施形態において、各分類器Ｃｉが用いるモデルの構造は、共通である。また、本実施形態において、各分類器Ｃｉが用いるモデルの教師用データは、共通である。この場合でも、各分類器Ｃｉが用いるモデルは、重み係数の異なる互いに独立なモデルとなる。なぜなら、各分類器Ｃｉが用いるモデルの学習には、乱数が用いられるからである。このため、各分類器Ｃｉの汎化能力は、互いに異なり得る。以下、分類器群１０１に含まれる分類器Ｃ１，Ｃ２，…，Ｃｎのうち、初期学習フェーズ終了時において分類精度が最も高い（汎化能力が最も高い）分類器を「主分類器」と記載する。また、分類器群１０１に含まれる分類器Ｃ１，Ｃ２，…，Ｃｎのうち、主分類器以外の分類器を「副分類器」と記載する。ここでは、説明の便宜上、分類器Ｃ１が主分類器であり、分類器Ｃ２，Ｃ３，…，Ｃｎが副分類器であると仮定する。分類器群１０１の運用時においては、主分類器Ｃ１による分類結果が、分類器群１０１による分類結果として参照される。分類器Ｃ２，Ｃ３，…，Ｃｎによる分類結果は、追加学習フェーズにおいて学習制御のため（特に、追加学習を実施するタイミングを特定するため）に参照される。

【0035】

なお、分類の対象となる物品は、予め複数のグループに分けられている。分類器群１０１は、物品の状態を分類する分類処理をグループ毎に実行する。すなわち、分類器群１０１は、例えば、第１のグループに属する各物品に対する分類処理を終えてから、第２のグループに属する各物品に対する分類処理を始め、第２のグループに属する各物品に対する分類処理を終えてから、第３のグループに属する物品の分類処理を始める。

【0036】

評価部１０２は、分類器群１０１に含まれる各分類器Ｃｉの分類精度を評価する評価処理をグループ毎に実行するブロックである。本実施形態において、評価部１０２は、追加学習フェーズの前半（以下、「第１の追加学習フェーズ」と記載する）においては、第１の評価方法に従って評価処理を実行し、追加学習フェーズの後半（以下、「第２の追加学習フェーズ」と記載する）においては、第２の評価方法に従って評価処理を実行する。なお、第１の追加学習フェーズの終了タイミング（第２の追加学習フェーズの開始タイミング）及び第２の追加学習フェーズの終了タイミングは、任意である。第２の追加学習フェーズは、分類器群１０１の運用終了時まで継続しても構わない。

【0037】

第１の評価方法は、各分類器Ｃｉの分類精度を、グループから選択された各物品について、該分類器Ｃｉが該物品の状態を分類した結果と、人が該物品の状態を分類した結果とを比較する方法である。ここで、グループから選択される物品は、グループに属する物品の全部であってもよいし、一部であってもよい。この場合、例えば、グループから選択された物品のうち、分類器Ｃｉが状態を分類した結果と人が状態を分類した結果とが一致する物品の個数を、グループから選択された物品の個数で除した商（人が状態を分類した結果を正解としたときの分類器Ｃｉの正解率）が、分類器Ｃｉの分類精度となる。

【0038】

第２の評価方法は、各分類器Ｃｉの分類精度を、グループから選択された各物品について、該分類器Ｃｉが該物品の状態を分類した結果と、主分類器Ｃ１が該物品の状態を分類した結果とを比較する方法である。ここで、グループから選択される物品は、グループに属する物品の全部であってもよいし、一部であってもよい。この場合、例えば、グループから選択された物品のうち、分類器Ｃｉが状態を分類した結果と主分類器Ｃ１が状態を分類した結果とが一致する物品の個数を、グループから選択された物品の個数で除した商（主分類器Ｃ１が分類した結果を正解としたときの分類器Ｃｉの正解率）が、分類器Ｃｉの分類精度となる。

【0039】

学習制御部１０３は、分類器群１０１に含まれる少なくとも１つの分類器Ｃｉの分類精度が予め定められた基準に達しない場合、分類器群１０１が次のグループに属する物品に対する分類処理を実行する前に、分類機群１０１に含まれる分類器Ｃｉ以外の少なくとも１つの分類器Ｃｊ（ｊ≠ｉ）に追加学習を行わせる学習制御処理を実行するブロックである。本実施形態において、学習制御部１０３は、分類器群１０１に含まれる少なくとも１つの分類器Ｃｉの分類精度が予め定められた基準に達しない場合、分類器群１０１が次のグループに属する物品に対する分類処理を実行する前に、分類機群１０１に含まれる全ての分類器Ｃ１，Ｃ２，…，Ｃｎに追加学習を行わせる。各分類器Ｃｉの分類精度が予め定められた基準に達しているか否かの判定は、例えば、評価部１０２にて評価された分類器Ｃｉの分類精度を予め定められた閾値と比較することによって実現される。

【0040】

ここで、分類器Ｃｉに追加学習を行わせるとは、分類器Ｃｉが分類処理に用いるモデルの重み係数を、教師データ（物品を被写体として含む画像と該物品の状態を人が分類した結果とのペアの集合）を用いて最適化することを指す。なお、分類器Ｃｉが状態Ａと分類するべき物品を状態Ｂと分類する誤分類を行った場合、追加学習に用いる教師データは、状態Ａと分類するべき物品を被写体として含む画像と該物品の状態を人が分類した結果（状態Ａ）とのペア、及び、状態Ｂと分類するべき物品を被写体として含む画像と該物品の状態を人が分類した結果（状態Ｂ）とのペアの少なくとも一方（好ましくは両方）を含むことが望ましい。これにより、分類器Ｃｉの汎化能力を効率的に向上させることが可能になるからである。

【0041】

（機械学習装置の効果）
物品を被写体として含む画像を参照して該物品の状態を分類する技術を、機械学習により構築された分類器を用いて実現する場合、長期に亘って分類精度を保つことが困難である。なぜなら、機械学習により構築された分類器の汎化能力が発揮されるのは、教師データとして用いられた画像に含まれる物品、或いは、その物品に類似する物品に対してであり、分類の対象となる物品そのものや、分類の対象となる物品を取り巻く環境などが変化すると、分類対象とする物品が分類器の汎化能力が発揮される範囲を超えてしまうからである。一例として、製造現場において利用される分類器、例えば、製造物を被写体として含む画像を参照して該製造物の状態を分類する分類器では、製造条件（人、機械、原材料、製造方法等）に変更が生じることがあるので、このような問題が頻繁に生じ得る。

【0042】

これに対して、機械学習装置１においては、分類器群１０１に含まれる少なくとも１つの分類器Ｃｉの分類精度が閾値を下回ったことを、製造条件の変化に起因して主分類器Ｃ１の分類精度の低下が生じる「予兆」として捉え、主分類器Ｃ１を含む全ての分類器Ｃ１，Ｃ２，…，Ｃｎの追加学習を実施する。このため、主分類器Ｃ１の分類精度の低下が生じる前に主分類器Ｃ１に追加学習を行わせることができ、主分類器Ｃ１の分類精度を高く維持することが可能になる。なお、主分類器Ｃ１に追加学習を行わせる際に、副分類器Ｃ２，Ｃ３，…，Ｃｎにも追加学習を行わせる構成を採用しているのは、副分類器Ｃ２，Ｃ３，…，Ｃｎが上述した「予兆」を検知する検知精度を維持するためである。

【0043】

（第１の追加学習フェーズにおける機械学習方法）
第１の追加学習フェーズにおいて実施される機械学習方法Ｓ１の流れについて、図３の（ａ）を参照して説明する。図３の（ａ）は、第１の追加学習フェーズにおいて機械学習方法Ｓ１の流れを示すフローチャートである。

【0044】

機械学習方法Ｓ１は、物品の状態を分類し終えたグループを対象グループとして、対象グループの次のグループに属する物品の分類を開始する前に実施される処理であり、図３の（ａ）に示すように、評価ステップＳ１０１と、判定ステップＳ１０２と、追加学習ステップＳ１０３と、を含む。

【0045】

評価ステップＳ１０１は、分類器群１０１に含まれる各分類器Ｃｉの分類精度を第１の評価方法に従って評価する評価処理を評価部１０２が実行するステップである。ここで、第１の評価方法とは、上述したように、各分類器Ｃｉの分類精度を、対象グループから選択された各物品について、該分類器Ｃｉが該物品の状態を分類した結果と、人が該物品の状態を分類した結果とを比較する方法である。評価ステップＳ１０１においては、例えば、対象グループから選択された物品のうち、分類器Ｃｉが状態を分類した結果と人が状態を分類した結果とが一致する物品の個数を、対象グループから選択された物品の個数で除した商（人が状態を分類した結果を正解としたときの分類器Ｃｉの正解率）が、分類器Ｃｉの分類精度として算出される。

【0046】

判定ステップＳ１０２は、評価ステップＳ１０１にて評価された分類精度が予め定められた閾値を下回る分類器Ｃｉが存在するか否かを判定するステップである。分類精度が閾値を下回る分類器Ｃｉが存在する場合には、後述する追加学習ステップＳ１０３が実行される。逆に、分類精度が閾値を下回る分類器Ｃｉが存在しない場合には、後述する追加学習ステップＳ１０３がされない。

【0047】

追加学習ステップＳ１０３は、分類機群１０１に含まれる全ての分類器Ｃ１，Ｃ２，…，Ｃｎに学習制御部１０３が追加学習を行わせるステップである。追加学習ステップＳ１０３においては、各分類器Ｃｉが分類処理に用いるモデルの重み係数が、教師データを用いて最適化される。

【0048】

以上のように、第１の追加学習フェーズにおいては、各分類器Ｃｉの分類精度が、人が物品の状態を分類した結果に基づいて評価される。このため、主分類器Ｃ１の汎化能力に依らずに、追加学習を実施するべきタイミングを適切に特定することができる。

【0049】

（第２の追加学習フェーズにおける機械学習方法）
第２の追加学習フェーズにおいて実施される機械学習方法Ｓ２の流れについて、図３の（ｂ）を参照して説明する。図３の（ｂ）は、第２の追加学習フェーズにおいて実施される機械学習方法Ｓ２の流れを示すフローチャートである。

【0050】

機械学習方法Ｓ２は、物品の状態を分類し終えたグループを対象グループとして、対象グループの次のグループに属する物品の分類を開始する前に実施される処理であり、図３の（ｂ）に示すように、評価ステップＳ２０１と、判定ステップＳ２０２と、追加学習ステップＳ２０３と、を含む。

【0051】

評価ステップＳ２０１は、分類器群１０１に含まれる各分類器Ｃｉの分類精度を第２の評価方法に従って評価する評価処理を評価部１０２が実行するステップである。ここで、第２の評価方法とは、上述したように、各分類器Ｃｉの分類精度を、対象グループから選択された各物品について、該分類器Ｃｉが該物品の状態を分類した結果と、主分類器Ｃ１が該物品の状態を分類した結果とを比較する方法である。評価ステップＳ２０１においては、例えば、対象グループから選択された物品のうち、分類器Ｃｉが状態を分類した結果と主分類器Ｃ１が状態を分類した結果とが一致する物品の個数を、対象グループから選択された物品の個数で除した商（主分類器Ｃ１が分類した結果を正解としたときの分類器Ｃｉの正解率）が、分類器Ｃｉの分類精度として算出される。

【0052】

判定ステップＳ２０２は、評価ステップＳ２０１にて評価された分類精度が予め定められた閾値を下回る分類器Ｃｉが存在するか否かを判定するステップである。分類精度が閾値を下回る分類器Ｃｉが存在する場合には、後述する追加学習ステップＳ２０３が実行される。逆に、分類精度が閾値を下回る分類器Ｃｉが存在しない場合には、後述する追加学習ステップＳ２０３が実行されない。

【0053】

追加学習ステップＳ２０３は、分類機群１０１に含まれる全ての分類器Ｃ１，Ｃ２，…，Ｃｎに学習制御部１０３が追加学習を行わせるステップである。追加学習ステップＳ２０３においては、各分類器Ｃｉが分類処理に用いるモデルの重み係数が、教師データを用いて最適化される。

【0054】

以上のように、第２の追加学習フェーズにおいては、各分類器Ｃｉの分類精度が、主分類器Ｃ１が物品の状態を分類した結果に基づいて評価される。このため、人が物品の状態を分類する作業を行うことなく、追加学習を実施するべきタイミングを適切に特定することができる。

【0055】

（変形例）
本実施形態においては、分類器群１０１の運用を開始した後に第１の追加学習フェーズ（各分類器Ｃｉの分類精度を、該分類器Ｃｉが物品の状態を分類した結果と人が該物品の状態を分類した結果とを比較することによって評価する）と第２の追加学習フェーズ（各分類器Ｃｉの分類精度を、該分類器Ｃｉが物品の状態を分類した結果と主分類器Ｃ１が該物品の状態を分類した結果とを比較することによって評価する）とを実施する構成を採用しているが、本発明は、これに限定されない。例えば、分類器群１０１の運用を開始した後に第１の追加学習フェーズのみを実施する構成を採用してもよいし、分類器群１０１の運用を開始した後に第２の追加学習フェーズのみを実施する構成を採用してもよい。

【0056】

（変形例２）
本実施形態においては、分類器群１０１が機械学習装置１の内部に含まれている（機械学習装置１と同じコンピュータで実行されている）構成を採用しているが、本発明は、これに限定されない。例えば、分類器群１０１が機械学習装置１の内部に含まれていない（機械学習装置１と異なるコンピュータで実行される）構成を採用しても構わない。すなわち、分類器群１０１は、機械学習装置１の必須の構成要素ではない。

【0057】

〔第２の実施形態〕
（検査装置２の機能的構成）
本発明の第２の実施形態に係る検査装置２の機能的構成について、図４を参照して説明する。図４は、検査装置２の機能的構成を示すブロック図である。なお、検査装置２の物理的構成は、図１に示す機械学習装置１の物理的構成と同様である。このため、検査装置２の物理的構成については、詳細な説明を省略する。

【0058】

検査装置２は、グループ（例えばロット）に分けられた複数の物品の検査を行うための装置であり、図４に示すように、機械学習装置１を含む。すなわち、検査装置２は、分類器群１０１と、評価部１０２と、学習制御部１０３と、を備えている。なお、検査対象とする複数の物品は、予めグループに分けされていてもよいし、予め定められた複数の時間帯の各々において検査した物品をそれぞれひとつのグループとしてもよい（例えば、第１の時間帯において検査した物品を第１のグループとし、第１の時間帯に続く第２の時間帯において検査した物品を第２のグループとするなど）。

【0059】

分類器群１０１は、各物品を被写体として含む画像を参照して該物品の状態を分類する分類処理を、学習により定められたアルゴリズムに従い実行する複数の分類器Ｃ１，Ｃ２，…，Ｃｎからなる。評価部１０２は、分類器群１０１に含まれる各分類器Ｃｉの分類精度をグループ毎に評価する評価処理を実行する。学習制御部１０３は、分類器群１０１に含まれる少なくとも１つの分類器Ｃｉの分類精度が予め定められた基準に達しない場合、次のグループに属する物品の検査を行う前に、分類器群１０１に含まれる、上記少なくとも１つの分類器Ｃｉ以外の分類器Ｃｊに追加学習（又は再学習）を行わせる。例えば、分類器群１０１に含まれる少なくとも１つの分類器Ｃｉの分類精度が予め定められた基準に達しない場合、次のロットに属する物品の検査を行う前に、分類器群１０１に含まれる全ての分類器Ｃ１，Ｃ２，…，Ｃｎに追加学習（又は再学習）を行わせる。なお、分類器群１０１、評価部１０２、及び学習制御部１０３の機能の詳細は、第１の実施形態において説明した通りである。なお、検査装置２における機械学習方法の流れは、図３を参照して説明した機械学習装置１における機械学習方法Ｓ１，Ｓ２の流れと同様である。

【0060】

（実施例１）
検査装置２の実施例について、図５及び図６を参照して説明する。

【0061】

図５は、半導体レーザの製造プロセスの流れを示す模式図である。

【0062】

半導体レーザの製造プロセスは、図５の上段に示すように、結晶成長プロセス、電極プロセス、素子化プロセスにより構成される。半導体レーザの製造プロセスにおいては、結晶成長プロセスにおいて形成されたウエハの外観検査が行われる。

【0063】

ウエハの外観検査は、図５の下段に示すように、（１）ウエハの一部を撮像する撮像工程と、（２）撮像工程にて得られた画像から各ＬＤチップに対応する部分画像を切り出す切出工程と、（３）切出工程にて得られた部分画像（ＬＤチップを被写体として含む画像）に基づいてＬＤチップの状態を分類する分類工程と、を含んでいる。

【0064】

本実施例に係る検査装置２は、３つの分類器Ｃ１，Ｃ２，Ｃ３からなる分類器群１０１を用いてこの分類工程を実施する。各分類器Ｃｉは、ＬＤチップを被写体として含む部分画像に基づいて、該ＬＤチップの状態を下記の７状態の何れかに分類する。状態が状態１～３の何れかに分類されたＬＤチップは、良品と見做され、状態が状態４～７の何れかに分類されたＬＤチップは、不良品と見做さる。

【0065】

状態１：欠陥なし、
状態２：チップ上に形成されたストライプの内部に薄い点欠陥がある、
状態３：上記ストライプ上に欠陥がある、
状態４：上記ストライプの内部に濃い点欠陥がある、
状態５：上記ストライプの内部に点欠陥以外の欠陥がある、
状態６：上記ストライプの外部に何らかの欠陥がある、
状態７：チップ上に粒子状異物が存在する。

【0066】

図６は、分類器群１０１に含まれる各分類器Ｃｉの分類精度をグループ毎に示した箱髭図である。本実施例においては、グループ５に対する検査において、分類器Ｃ２の分類精度が閾値９８％を下回り、グループ９に対する検査において、分類器Ｃ３の分類精度が閾値９８％を下回っている。このため、本実施例では、グループ６及びグループ１０に対する検査を開始する前に、３つの分類器Ｃ１，Ｃ２，Ｃ３の追加学習が実施される。なお、図６においては、分類器群１０１に含まれる少なくとも１つの分類器Ｃｉの分類精度が閾値を下回ることを、「予兆」と表現している。また、図６においては、分類器群１０１に含まれる３つの分類器Ｃ１，Ｃ２，Ｃ３の追加学習を実施することを、「打ち手」と表現している。

【0067】

〔付記事項〕
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。

【符号の説明】

【0068】

１ 機械学習装置
２ 検査装置
１０ バス
１１ 主メモリ
１２ プロセッサ
１３ 補助メモリ
１４ 入出力インターフェース
２０ 入力装置
３０ 出力装置
１０１ 分類器群
１０２ 評価部
１０３ 学習制御部
Ｃ１、Ｃ２、Ｃ３、Ｃｉ、Ｃｊ 分類器

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】