知財求人 - 知財ポータルサイト「IP Force」
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2025-04-04
(45)【発行日】2025-04-14
(54)【発明の名称】学習装置および学習方法
(51)【国際特許分類】
G06N 20/00 20190101AFI20250407BHJP
【ＦＩ】
G06N20/00
【請求項の数】
11
(21)【出願番号】P 2024571295
(86)(22)【出願日】2023-07-26
(86)【国際出願番号】 JP2023027295
【審査請求日】2024-12-04
【早期審査対象出願】
(73)【特許権者】
【識別番号】000006013
【氏名又は名称】三菱電機株式会社
(74)【代理人】
【識別番号】110003166
【氏名又は名称】弁理士法人山王内外特許事務所
(72)【発明者】
【氏名】松田 卓也
【審査官】渡辺 順哉
(56)【参考文献】
【文献】特開２０２２－０３７９５５（ＪＰ，Ａ）
【文献】特開２０２１－１５７６１９（ＪＰ，Ａ）
【文献】国際公開第２０２２／０４９６９１（ＷＯ，Ａ１）
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｎ ３／００－９９／００
(57)【特許請求の範囲】
【請求項1】
検査対象である画像データセットを取得する学習用画像取得部と、実行済みタスクである画像データセットの特徴量であって、当該実行済みタスクである画像データセットに対応する学習済モデルにおける複数の中間層での出力に基づく特徴量を取得する既存特徴量取得部と、
前記実行済みタスクである画像データセットに対応する学習済モデル、および、前記学習用画像取得部により取得された検査対象である画像データセットに基づいて、当該検査対象である画像データセットの特徴量であって、当該学習済モデルにおける前記複数の中間層での出力に基づく特徴量を抽出する特徴量抽出部と、
前記特徴量抽出部により抽出された検査対象である画像データセットの特徴量、および、前記既存特徴量取得部により取得された実行済みタスクである画像データセットの特徴量に基づいて、特徴量の類似度を算出する特徴量比較部と、
前記特徴量比較部により算出された特徴量の類似度に基づいて、前記実行済みタスクである画像データセットのうち、前記学習用画像取得部により取得された検査対象である画像データセットに対して特徴量の類似度が高い実行済みタスクである画像データセットに対応する学習済モデルを１つ以上選択するモデル選択部と、
前記学習用画像取得部により取得された検査対象である画像データセット、および、前記モデル選択部により選択された学習済モデルに基づいて、当該検査対象である画像データセットを当該学習済モデルに入力することで、良品分布である新規の学習済モデルを生成するモデル学習部と、
前記モデル学習部により生成された新規の学習済モデルに基づいて、当該新規の学習済モデルの精度が閾値以上であるかを判定するモデル評価部と、
前記モデル評価部による判定結果に基づいて、精度が閾値以上であると判定された新規の学習済モデルを示す情報を出力するモデル出力部と
を備えた学習装置。
【請求項2】
前記特徴量抽出部は、前記学習用画像取得部により取得された検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、前記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、特徴量として抽出することを特徴量とする請求項１記載の学習装置。
【請求項3】
前記特徴量抽出部は、前記学習用画像取得部により取得された検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、前記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、チャネルごとに平均化したベクトル群を、特徴量として抽出することを特徴量とする請求項１記載の学習装置。
【請求項4】
前記特徴量抽出部は、前記学習用画像取得部により取得された検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、前記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、全体で平均化したベクトルを、特徴量として抽出することを特徴量とする請求項１記載の学習装置。
【請求項5】
前記特徴量比較部は、前記特徴量抽出部により抽出された検査対象である画像データセットの全体の特徴量と、前記既存特徴量取得部により取得された実行済みタスクである画像データセットの全体の特徴量との類似度を、分布差を用いて算出することを特徴量とする請求項２または請求項３記載の学習装置。
【請求項6】
前記特徴量比較部は、前記特徴量抽出部により抽出された検査対象である画像データセットの全体の特徴量と、前記既存特徴量取得部により取得された実行済みタスクである画像データセットの全体の特徴量との類似度を、分布同士の共通領域を用いて算出することを特徴量とする請求項４記載の学習装置。
【請求項7】
前記特徴量比較部は、前記特徴量抽出部により抽出された検査対象である画像データセットの前記中間層ごとの特徴量と、前記既存特徴量取得部により取得された実行済みタスクである画像データセットの前記中間層ごとの特徴量との類似度を、分布差を用いてそれぞれ算出することを特徴量とする請求項２または請求項３記載の学習装置。
【請求項8】
前記特徴量比較部は、前記特徴量抽出部により抽出された検査対象である画像データセットの前記中間層ごとの特徴量と、前記既存特徴量取得部により取得された実行済みタスクである画像データセットの前記中間層ごとの特徴量との類似度を、分布同士の共通領域を用いてそれぞれ算出することを特徴量とする請求項４記載の学習装置。
【請求項9】
前記モデル学習部は、前記モデル選択部により選択された学習済モデルに、前記学習用画像取得部により取得された検査対象である画像データセットのうちの良品画像データセットを入力し、前記中間層ごとの出力を全て結合することで、良品分布である新規の学習済モデルを生成することを特徴量とする請求項１記載の学習装置。
【請求項10】
前記モデル学習部は、前記モデル選択部により選択された学習済モデルに、前記学習用画像取得部により取得された検査対象である画像データセットのうちの良品画像データセットを入力し、前記中間層ごとの出力の中からテンソルを選択的に結合することで、良品分布である新規の学習済モデルを生成することを特徴量とする請求項１記載の学習装置。
【請求項11】
学習用画像取得部、既存特徴量取得部、特徴量抽出部、特徴量比較部、モデル選択部、モデル学習部、モデル評価部、および、モデル出力部を備えた学習装置による学習方法であって、
前記学習用画像取得部が、検査対象である画像データセットを取得するステップと、
前記既存特徴量取得部が、実行済みタスクである画像データセットの特徴量であって、当該実行済みタスクである画像データセットに対応する学習済モデルにおける複数の中間層での出力に基づく特徴量を取得するステップと、
前記特徴量抽出部が、前記実行済みタスクである画像データセットに対応する学習済モデル、および、前記学習用画像取得部により取得された検査対象である画像データセットに基づいて、当該検査対象である画像データセットの特徴量であって、当該学習済モデルにおける前記複数の中間層での出力に基づく特徴量を抽出するステップと、
前記特徴量比較部が、前記特徴量抽出部により抽出された検査対象である画像データセットの特徴量、および、前記既存特徴量取得部により取得された実行済みタスクである画像データセットの特徴量に基づいて、特徴量の類似度を算出するステップと、
前記モデル選択部が、前記特徴量比較部により算出された特徴量の類似度に基づいて、前記実行済みタスクである画像データセットのうち、前記学習用画像取得部により取得された検査対象である画像データセットに対して特徴量の類似度が高い実行済みタスクである画像データセットに対応する学習済モデルを１つ以上選択するステップと、
前記モデル学習部が、前記学習用画像取得部により取得された検査対象である画像データセット、および、前記モデル選択部により選択された学習済モデルに基づいて、当該検査対象である画像データセットを当該学習済モデルに入力することで、良品分布である新規の学習済モデルを生成するステップと、
前記モデル評価部が、前記モデル学習部により生成された新規の学習済モデルに基づいて、当該新規の学習済モデルの評価が閾値以上であるかを判定するステップと、
前記モデル出力部が、前記モデル評価部による判定結果に基づいて、評価が閾値以上であると判定された新規の学習済モデルを示す情報を出力するステップと
を有する学習方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、学習済モデルを得る学習装置および学習方法に関する。
【背景技術】
【0002】
生産現場において、ある製品に対してＡＩ自動外観検査を適用する場合、所望の機能を実現するための教師データとして検査対象である画像データセットを収集する必要がある。そこで、従来から、転移学習などの過去モデルを利用した少データ学習の実現が求められている。
【0003】
一方、過去モデルが複数存在する場合、検査対象である画像データセットに最適なモデルを得るためには、全ての過去モデルを学習および評価して、最も精度の高いモデルを選択する必要がある。そのため、過去モデルの数が膨大である場合、最適なモデルを得るのに多大な学習コストが発生する。
【0004】
そこで、画像データセットの特徴などに基づいて過去モデルを選択して転移学習を行う手法が提案されている。
【0005】
上記のような転移学習技術としては、例えば特許文献１に開示された技術が挙げられる。
この技術は、複数のＡＩモデルを組み合わせて製品の良品および不良品の検査の精度を上げる方式の技術である。
この技術では、まず、検査データを複数の過去モデルに入力し、中間出力または最終出力の相関が一定以下の過去モデルを選択する。そして、選択したモデルを用いて複数のハイブリッドモデル候補を作成する。そして、ハイブリッドモデル候補の中から最も精度のよいものを採用する。
このように、この技術では、複数のハイブリッドモデルに検査データを入力し、それぞれのモデルの出力の重み付き和に基づいて、正しくラベル判定を行うように学習する。
この技術は、複数のＡＩモデルを組み合わせて製品の良品および不良品の検査の精度を上げる方式の技術である。
この技術では、まず、検査データを複数の過去モデルに入力し、中間出力または最終出力の相関が一定以下の過去モデルを選択する。そして、選択したモデルを用いて複数のハイブリッドモデル候補を作成する。そして、ハイブリッドモデル候補の中から最も精度のよいものを採用する。
このように、この技術では、複数のハイブリッドモデルに検査データを入力し、それぞれのモデルの出力の重み付き和に基づいて、正しくラベル判定を行うように学習する。
【先行技術文献】
【特許文献】
【0006】
【文献】国際公開第２０２２／２１５５５９号
【発明の概要】
【発明が解決しようとする課題】
【0007】
上記のように、既存の転移学習技術は、過去モデルに検査データ（検査対象である画像データセット）を入力した際の中間出力または最終出力の相関が低いモデルのペアを複数選択している。この場合、モデル同士は独立しているが、検査データに適切なモデルを選択できない可能性がある。
【0008】
本開示は、上記のような課題を解決するためになされたもので、従来に対し、検査対象である画像データセットに適切な学習済モデルを得ることを可能とする学習装置を提供することを目的としている。
【課題を解決するための手段】
【0009】
本開示に係る学習装置は、検査対象である画像データセットを取得する学習用画像取得部と、実行済みタスクである画像データセットの特徴量であって、当該実行済みタスクである画像データセットに対応する学習済モデルにおける複数の中間層での出力に基づく特徴量を取得する既存特徴量取得部と、実行済みタスクである画像データセットに対応する学習済モデル、および、学習用画像取得部により取得された検査対象である画像データセットに基づいて、当該検査対象である画像データセットの特徴量であって、当該学習済モデルにおける複数の中間層での出力に基づく特徴量を抽出する特徴量抽出部と、特徴量抽出部により抽出された検査対象である画像データセットの特徴量、および、既存特徴量取得部により取得された実行済みタスクである画像データセットの特徴量に基づいて、特徴量の類似度を算出する特徴量比較部と、特徴量比較部により算出された特徴量の類似度に基づいて、実行済みタスクである画像データセットのうち、学習用画像取得部により取得された検査対象である画像データセットに対して特徴量の類似度が高い実行済みタスクである画像データセットに対応する学習済モデルを１つ以上選択するモデル選択部と、学習用画像取得部により取得された検査対象である画像データセット、および、モデル選択部により選択された学習済モデルに基づいて、当該検査対象である画像データセットを当該学習済モデルに入力することで、良品分布である新規の学習済モデルを生成するモデル学習部と、モデル学習部により生成された新規の学習済モデルに基づいて、当該新規の学習済モデルの評価が閾値以上であるかを判定するモデル評価部と、モデル評価部による判定結果に基づいて、評価が閾値以上であると判定された新規の学習済モデルを示す情報を出力するモデル出力部とを備えたことを特徴とする。
【発明の効果】
【0010】
本開示によれば、上記のように構成したので、従来に対し、検査対象である画像データセットに適切な学習済モデルを得ることが可能となる。
【図面の簡単な説明】
【0011】
【図1】実施の形態１に係る学習システムの構成例を示すブロック図である。
【図2】実施の形態１に係る学習装置の構成例を示すブロック図である。
【図3】実施の形態１に係る学習装置の動作例を示すフローチャートである。
【図4】実施の形態１に係る学習装置の全体の動作概要を示す図である。
【図5】実施の形態１に係る学習装置の動作概要を示す図である。
【図6】実施の形態１に係る学習装置の動作概要を示す図である。
【図7】実施の形態１に係る学習装置の動作概要を示す図である。
【図8】実施の形態１に係る学習装置の動作概要を示す図である。
【図9】実施の形態２に係る学習装置の構成例を示すブロック図である。
【図10】実施の形態２に係る学習装置の動作例を示すフローチャートである。
【図11】実施の形態２に係る学習装置の動作概要を示す図である。
【図12】実施の形態２に係る学習装置の動作概要を示す図である。
【図13】実施の形態２に係る学習装置の動作概要を示す図である。
【発明を実施するための形態】
【0012】
以下、実施の形態について図面を参照しながら詳細に説明する。
実施の形態１．
図１は実施の形態１に係る学習システム１の構成例を示す図である。
学習システム１は、図１に示すように、学習装置１１、操作入力装置１２、記憶装置１３、および、表示出力装置１４を備えている。
実施の形態１．
図１は実施の形態１に係る学習システム１の構成例を示す図である。
学習システム１は、図１に示すように、学習装置１１、操作入力装置１２、記憶装置１３、および、表示出力装置１４を備えている。
【0013】
学習装置１１は、操作入力装置１２を介して入力された検査対象である画像データセット、および、記憶装置１３に記憶されている情報が示す実行済みタスクである画像データセットの特徴量および当該実行済みタスクである画像データセットに対応する学習済モデルに基づいて、新規の学習済モデルを示す情報を出力する。
この学習装置１１の構成例については後述する。
この学習装置１１の構成例については後述する。
【0014】
操作入力装置１２は、ユーザによる操作を受け付ける装置である。例えば、この操作入力装置１２は、ユーザから入力された検査対象である画像データセットを、学習装置１１に出力する。
【0015】
記憶装置１３は、学習システム１で扱われる各種のデータを記憶する。例えば、記憶装置１３は、実行済みタスクである画像データセットの特徴量および当該実行済タスクである画像データセットに対応する学習済モデルを示す情報を記憶する。
ここで、記憶装置１３としては、例えば、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、フラッシュメモリ、ＥＰＲＯＭ（Ｅｒａｓａｂｌｅ Ｐｒｏｇｒａｍｍａｂｌｅ ＲＯＭ）、ＥＥＰＲＯＭ（Ｅｌｅｃｔｒｉｃａｌｌｙ ＥＰＲＯＭ）などの不揮発性または揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、またはＤＶＤ（Ｄｉｇｉｔａｌ Ｖｅｒｓａｔｉｌｅ Ｄｉｓｃ）などが該当する。
ここで、記憶装置１３としては、例えば、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、フラッシュメモリ、ＥＰＲＯＭ（Ｅｒａｓａｂｌｅ Ｐｒｏｇｒａｍｍａｂｌｅ ＲＯＭ）、ＥＥＰＲＯＭ（Ｅｌｅｃｔｒｉｃａｌｌｙ ＥＰＲＯＭ）などの不揮発性または揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、またはＤＶＤ（Ｄｉｇｉｔａｌ Ｖｅｒｓａｔｉｌｅ Ｄｉｓｃ）などが該当する。
【0016】
表示出力装置１４は、学習装置１１により出力された新規の学習済モデルを示す情報を表示する。
【0017】
次に、学習装置１１の構成例について、図２を参照しながら説明する。
学習装置１１は、図２に示すように、学習用画像取得部１１０１、既存特徴量取得部１１０２、特徴量抽出部１１０３、特徴量比較部１１０４、モデル選択部１１０５、モデル学習部１１０６、モデル評価部１１０７、および、モデル出力部１１０８を備えている。
学習装置１１は、図２に示すように、学習用画像取得部１１０１、既存特徴量取得部１１０２、特徴量抽出部１１０３、特徴量比較部１１０４、モデル選択部１１０５、モデル学習部１１０６、モデル評価部１１０７、および、モデル出力部１１０８を備えている。
【0018】
学習用画像取得部１１０１は、検査対象である画像データセットを取得する。この際、学習用画像取得部１１０１は、操作入力装置１２を介して入力された検査対象である画像データセットを取得する。
【0019】
既存特徴量取得部１１０２は、実行済みタスクである画像データセットの特徴量を取得する。この際、既存特徴量取得部１１０２は、記憶装置１３に記憶されている情報が示す実行済みタスクである画像データセットの特徴量を取得する。また、この既存特徴量取得部１１０２により取得される実行済みタスクである画像データセットの特徴量は、当該実行済みタスクである画像データセットに対応する学習済モデルにおける複数の中間層での出力に基づく特徴量である。
【0020】
特徴量抽出部１１０３は、実行済みタスクである画像データセットに対応する学習済モデル、および、学習用画像取得部１１０１により取得された検査対象である画像データセットに基づいて、当該検査対象である画像データセットの特徴量を抽出する。この特徴量抽出部１１０３により抽出される検査対象である画像データセットの特徴量は、上記学習済モデルにおける上記複数の中間層での出力に基づく特徴量である。
【0021】
この際、例えば、特徴量抽出部１１０３は、上記検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、上記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、特徴量として抽出してもよい。
また、例えば、特徴量抽出部１１０３は、上記検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、上記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、チャネルごとに平均化したベクトル群を、特徴量として抽出してもよい。
また、例えば、特徴量抽出部１１０３は、上記検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、上記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、全体で平均化したベクトルを、特徴量として抽出してもよい。
また、例えば、特徴量抽出部１１０３は、上記検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、上記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、チャネルごとに平均化したベクトル群を、特徴量として抽出してもよい。
また、例えば、特徴量抽出部１１０３は、上記検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、上記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、全体で平均化したベクトルを、特徴量として抽出してもよい。
【0022】
なお、この際、特徴量抽出部１１０３は、記憶装置１３に記憶されている情報が示す実行済みタスクである画像データセットに対応する学習済モデルを取得した上で、上記の特徴量抽出を行う。
【0023】
特徴量比較部１１０４は、特徴量抽出部１１０３により抽出された検査対象である画像データセットの特徴量、および、既存特徴量取得部１１０２により取得された実行済みタスクである画像データセットの特徴量に基づいて、特徴量の類似度を算出する。
ここで、実施の形態１に係る学習装置１１では、特徴量比較部１１０４が、特徴量抽出部１１０３により抽出された検査対象である画像データセットの全体の特徴量と、既存特徴量取得部１１０２により取得された実行済みタスクである画像データセットの全体の特徴量との類似度を算出する。
ここで、実施の形態１に係る学習装置１１では、特徴量比較部１１０４が、特徴量抽出部１１０３により抽出された検査対象である画像データセットの全体の特徴量と、既存特徴量取得部１１０２により取得された実行済みタスクである画像データセットの全体の特徴量との類似度を算出する。
【0024】
この際、例えば、特徴量比較部１１０４は、上記検査対象である画像データセットの全体の特徴量と、上記実行済みタスクである画像データセットの全体の特徴量との類似度を、分布差を用いて算出してもよい。
また、例えば、特徴量比較部１１０４は、上記検査対象である画像データセットの全体の特徴量と、上記実行済みタスクである画像データセットの全体の特徴量との類似度を、分布同士の共通領域を用いて算出してもよい。
また、例えば、特徴量比較部１１０４は、上記検査対象である画像データセットの全体の特徴量と、上記実行済みタスクである画像データセットの全体の特徴量との類似度を、分布同士の共通領域を用いて算出してもよい。
【0025】
モデル選択部１１０５は、特徴量比較部１１０４により算出された特徴量の類似度に基づいて、実行済みタスクである画像データセットのうち、学習用画像取得部１１０１により取得された検査対象である画像データセットに対して特徴量の類似度が高い実行済みタスクである画像データセットに対応する学習済モデルを１つ以上選択する。
この際、例えば、モデル選択部１１０５は、実行済みタスクである画像データセットのうち、学習用画像取得部１１０１により取得された検査対象である画像データセットに対して特徴量の類似度が高い実行済みタスクである画像データセットの順に、当該画像データセットに対応する学習済モデルを１つ以上選択する。
この際、例えば、モデル選択部１１０５は、実行済みタスクである画像データセットのうち、学習用画像取得部１１０１により取得された検査対象である画像データセットに対して特徴量の類似度が高い実行済みタスクである画像データセットの順に、当該画像データセットに対応する学習済モデルを１つ以上選択する。
【0026】
モデル学習部１１０６は、学習用画像取得部１１０１により取得された検査対象である画像データセット、および、モデル選択部１１０５により選択された学習済モデルに基づいて、当該検査対象である画像データセットを当該学習済モデルに入力することで、新規の学習済モデルを生成する。なお、モデル学習部１１０６により生成される新規の学習済モデルは、良品分布である。
【0027】
この際、例えば、モデル学習部１１０６は、モデル選択部１１０５により選択された学習済モデルに、上記検査対象である画像データセットのうちの良品画像データセットを入力し、上記中間層ごとの出力を全て結合することで、新規の学習済モデルを生成する。
【0028】
モデル評価部１１０７は、モデル学習部１１０６により生成された新規の学習済モデルに基づいて、当該新規の学習済モデルの精度が閾値以上であるかを判定する。なお、閾値は学習済モデルを評価するための値に適宜設定可能である。
【0029】
モデル出力部１１０８は、モデル評価部１１０７による判定結果に基づいて、評価が閾値以上であると判定された新規の学習済モデルを示す情報を外部に出力する。
【0030】
次に、図１および図２に示す実施の形態１に係る学習装置１１の動作例について、図３～図８を参照しながら説明する。
実施の形態１に係る学習装置１１では、例えば図４に示すように、まず、検査対象（新規タスク）である画像データセットから、特徴量を抽出する（ステップＳＴ１）。図４の例では、検査対象である画像データセットが、画像データセットＸ（ボトルの口）であり、当該画像データセットＸの特徴量が特徴量Ｘ１～Ｘ３である場合を示している。
また、学習装置１１は、実行済みタスクである画像データセットの特徴量を取得する（ステップＳＴ２）。図４の例では、実行済みタスクである画像データセットが、３種類の画像データセット（画像データセットＡ（ナット）、画像データセットＢ（ケーブル断面）、および、画像データセットＣ（皮表面））である場合を示している。また、実行済みタスクである画像データセットには、特徴量および学習済モデルが対応付けられている。図４の例では、画像データセットＡには特徴量Ａおよび学習済モデルＡが対応付けられ、画像データセットＢには特徴量Ｂおよび学習済モデルＢが対応付けられ、画像データセットＣには特徴量Ｃおよび学習済モデルＣが対応付けられている。なお、これらの実行済みタスクである画像データセットに対応する特徴量および学習済モデルを示す情報は、記憶装置１３に予め保持されている。
そして、学習装置１１は、実行済みタスクである画像データセットの中から、検査対象である画像データセットに対して特徴量が類似する画像データセットを見つけ出し、当該見つけ出した画像データセットに対応する学習済モデルを選択する（ステップＳＴ３）。図４の例では、特徴量Ｘ１に対して特徴量Ａが類似し、特徴量Ｘ２に対して特徴量Ｂが類似しており、学習装置１１が、画像データセットＡに対応する学習済モデルＡおよび画像データセットＢに対応する学習済モデルＢを選択した場合を示している。
そして、学習装置１１は、選択した学習済モデルに基づいて新規の学習済モデル（良品分布）を生成する（ステップＳＴ４）。図４の例では、学習装置１１が、上記選択した学習済モデルＡおよび学習済モデルＢに基づいて、新規の学習済モデルＸを生成した場合を示している。
実施の形態１に係る学習装置１１では、例えば図４に示すように、まず、検査対象（新規タスク）である画像データセットから、特徴量を抽出する（ステップＳＴ１）。図４の例では、検査対象である画像データセットが、画像データセットＸ（ボトルの口）であり、当該画像データセットＸの特徴量が特徴量Ｘ１～Ｘ３である場合を示している。
また、学習装置１１は、実行済みタスクである画像データセットの特徴量を取得する（ステップＳＴ２）。図４の例では、実行済みタスクである画像データセットが、３種類の画像データセット（画像データセットＡ（ナット）、画像データセットＢ（ケーブル断面）、および、画像データセットＣ（皮表面））である場合を示している。また、実行済みタスクである画像データセットには、特徴量および学習済モデルが対応付けられている。図４の例では、画像データセットＡには特徴量Ａおよび学習済モデルＡが対応付けられ、画像データセットＢには特徴量Ｂおよび学習済モデルＢが対応付けられ、画像データセットＣには特徴量Ｃおよび学習済モデルＣが対応付けられている。なお、これらの実行済みタスクである画像データセットに対応する特徴量および学習済モデルを示す情報は、記憶装置１３に予め保持されている。
そして、学習装置１１は、実行済みタスクである画像データセットの中から、検査対象である画像データセットに対して特徴量が類似する画像データセットを見つけ出し、当該見つけ出した画像データセットに対応する学習済モデルを選択する（ステップＳＴ３）。図４の例では、特徴量Ｘ１に対して特徴量Ａが類似し、特徴量Ｘ２に対して特徴量Ｂが類似しており、学習装置１１が、画像データセットＡに対応する学習済モデルＡおよび画像データセットＢに対応する学習済モデルＢを選択した場合を示している。
そして、学習装置１１は、選択した学習済モデルに基づいて新規の学習済モデル（良品分布）を生成する（ステップＳＴ４）。図４の例では、学習装置１１が、上記選択した学習済モデルＡおよび学習済モデルＢに基づいて、新規の学習済モデルＸを生成した場合を示している。
【0031】
また、例えば図５に示すように、実施の形態１に係る学習装置１１では、学習済モデルが有する中間層のうちの複数の中間層を用いて特徴量抽出を行い、新規の学習済モデル（良品分布）を生成することを前提とする。図５の例では、上記複数の中間層が３つの層（ａ層、ｂ層およびｃ層）である場合を示している。
この場合、実施の形態１に係る学習装置１１は、過去モデル（実行済みタスクである画像データセットに対応する学習済モデル）を活用し、特徴量抽出を行う。また、良品分布生成の前提を踏まえると、特徴量抽出に有用な複数の中間層を過去モデルから活用することが望ましい。
この場合、実施の形態１に係る学習装置１１は、過去モデル（実行済みタスクである画像データセットに対応する学習済モデル）を活用し、特徴量抽出を行う。また、良品分布生成の前提を踏まえると、特徴量抽出に有用な複数の中間層を過去モデルから活用することが望ましい。
【0032】
そこで、例えば図６および図７に示すように、実施の形態１に係る学習装置１１では、上記複数の中間層での出力に基づく特徴量を用い、全体の特徴量の類似度が高い過去モデルを１つ以上選択する。図６の例では、学習装置１１が、画像データセットＸの特徴量Ｘ１と画像データセットＡの特徴量Ａとを比較した場合を示している。この場合、学習装置１１は、画像データセットＸを画像データセットＡに対応する学習済モデルＡに入力することで、特徴量Ｘ１を抽出する。なお、図６の例では、特徴量Ｘ１と特徴量Ａとの類似度が高い場合を示している。また、図７の例では、学習装置１１が、画像データセットＸの特徴量Ｘ３と画像データセットＣの特徴量Ｃとを比較した場合を示している。この場合、学習装置１１は、画像データセットＸを画像データセットＣに対応する学習済モデルＣに入力することで、特徴量Ｘ３を抽出する。なお、図７の例では、特徴量Ｘ３と特徴量Ｃとの類似度が低い場合を示している。
そして、例えば図８に示すように、学習装置１１は、選択した過去モデルに検査対象である画像データセットを入力し、上記中間層ごとの出力を全て結合することで、新規の学習済モデルを生成する。図８の例では、学習装置１１が、学習済モデルＡおよび学習済モデルＢを選択し、新規の学習済モデルＸを生成した場合を示している。
そして、例えば図８に示すように、学習装置１１は、選択した過去モデルに検査対象である画像データセットを入力し、上記中間層ごとの出力を全て結合することで、新規の学習済モデルを生成する。図８の例では、学習装置１１が、学習済モデルＡおよび学習済モデルＢを選択し、新規の学習済モデルＸを生成した場合を示している。
【0033】
図１および図２に示す実施の形態１に係る学習装置１１の動作例では、例えば図３に示すように、まず、学習用画像取得部１１０１は、検査対象である画像データセットを取得する（ステップＳＴ１０１）。この際、学習用画像取得部１１０１は、操作入力装置１２を介して入力された検査対象である画像データセットを取得する。
【0034】
【0035】
また、既存特徴量取得部１１０２は、実行済みタスクである画像データセットの特徴量を取得する（ステップＳＴ１０２）。この際、既存特徴量取得部１１０２は、記憶装置１３に記憶されている情報が示す実行済みタスクである画像データセットの特徴量を取得する。また、この既存特徴量取得部１１０２により取得される実行済みタスクである画像データセットの特徴量は、当該実行済みタスクである画像データセットに対応する学習済モデルにおける複数の中間層での出力に基づく特徴量である。
【0036】
図４～図８の例では、既存特徴量取得部１１０２は、画像データセットＡの特徴量Ａ、画像データセットＢの特徴量Ｂ、および、画像データセットＣの特徴量Ｃを取得している。なお、図６および図７の例では、既存特徴量取得部１１０２により取得される特徴量は、過去モデルのａ層、ｂ層およびｃ層での出力に基づく特徴量である。
【0037】
次いで、特徴量抽出部１１０３は、実行済みタスクである画像データセットに対応する学習済モデル、および、学習用画像取得部１１０１により取得された検査対象である画像データセットに基づいて、当該検査対象である画像データセットの特徴量を抽出する（ステップＳＴ１０３）。この特徴量抽出部１１０３により抽出される検査対象である画像データセットの特徴量は、上記学習済モデルにおける上記複数の中間層での出力に基づく特徴量である。
【0038】
この際、例えば、特徴量抽出部１１０３は、上記検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、上記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、特徴量として抽出してもよい。
また、例えば、特徴量抽出部１１０３は、上記検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、上記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、チャネルごとに平均化したベクトル群を、特徴量として抽出してもよい。
また、例えば、特徴量抽出部１１０３は、上記検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、上記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、全体で平均化したベクトルを、特徴量として抽出してもよい。
また、例えば、特徴量抽出部１１０３は、上記検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、上記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、チャネルごとに平均化したベクトル群を、特徴量として抽出してもよい。
また、例えば、特徴量抽出部１１０３は、上記検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、上記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、全体で平均化したベクトルを、特徴量として抽出してもよい。
【0039】
なお、この際、特徴量抽出部１１０３は、記憶装置１３に記憶されている情報が示す実行済みタスクである画像データセットに対応する学習済モデルを取得した上で、上記の特徴量抽出を行う。
【0040】
図４～図８の例では、特徴量抽出部１１０３は、特徴量Ｘ１～Ｘ３を抽出している。特徴量Ｘ１は、画像データセットＸを学習済モデルＡに入力することで抽出される特徴量である。また、特徴量Ｘ２は、画像データセットＸを学習済モデルＢに入力することで抽出される特徴量である。また、特徴量Ｘ３は、画像データセットＸを学習済モデルＣに入力することで抽出される特徴量である。なお、図６および図７の例では、特徴量抽出部１１０３により抽出される特徴量は、過去モデルのａ層、ｂ層およびｃ層での出力に基づく特徴量である。
【0041】
次いで、特徴量比較部１１０４は、特徴量抽出部１１０３により抽出された検査対象である画像データセットの特徴量、および、既存特徴量取得部１１０２により取得された実行済みタスクである画像データセットの特徴量に基づいて、特徴量の類似度を算出する（ステップＳＴ１０４）。
ここで、実施の形態１に係る学習装置１１では、特徴量比較部１１０４が、特徴量抽出部１１０３により抽出された検査対象である画像データセットの全体の特徴量と、既存特徴量取得部１１０２により取得された実行済みタスクである画像データセットの全体の特徴量との類似度を算出する。
ここで、実施の形態１に係る学習装置１１では、特徴量比較部１１０４が、特徴量抽出部１１０３により抽出された検査対象である画像データセットの全体の特徴量と、既存特徴量取得部１１０２により取得された実行済みタスクである画像データセットの全体の特徴量との類似度を算出する。
【0042】
この際、例えば、特徴量比較部１１０４は、上記検査対象である画像データセットの全体の特徴量と、上記実行済みタスクである画像データセットの全体の特徴量との類似度を、分布差を用いて算出してもよい。この際、特徴量比較部１１０４は、分布差として、例えば、Ｆｒｅｃｈｅｔ ｉｎｃｅｐｔｉｏｎ ｄｉｓｔａｎｃｅ、ＫＬダイバージェンス、ＪＳダイバージェンス、または、マハラノビス距離を採用することができる。
また、例えば、特徴量比較部１１０４は、上記検査対象である画像データセットの全体の特徴量と、上記実行済みタスクである画像データセットの全体の特徴量との類似度を、分布同士の共通領域を用いて算出してもよい。この際、特徴量比較部１１０４は、分布同士の共通領域として、例えば、Ｈｉｓｔｏｇｒａｍ ｉｎｔｅｒｓｅｃｔｉｏｎを採用することができる。
また、例えば、特徴量比較部１１０４は、上記検査対象である画像データセットの全体の特徴量と、上記実行済みタスクである画像データセットの全体の特徴量との類似度を、分布同士の共通領域を用いて算出してもよい。この際、特徴量比較部１１０４は、分布同士の共通領域として、例えば、Ｈｉｓｔｏｇｒａｍ ｉｎｔｅｒｓｅｃｔｉｏｎを採用することができる。
【0043】
次いで、モデル選択部１１０５は、特徴量比較部１１０４により算出された特徴量の類似度に基づいて、実行済みタスクである画像データセットのうち、学習用画像取得部１１０１により取得された検査対象である画像データセットに対して特徴量の類似度が高い実行済みタスクである画像データセットに対応する学習済モデルを１つ以上選択する（ステップＳＴ１０５）。
この際、例えば、モデル選択部１１０５は、実行済みタスクである画像データセットのうち、学習用画像取得部１１０１により取得された検査対象である画像データセットに対して特徴量の類似度が高い実行済みタスクである画像データセットの順に、当該画像データセットに対応する学習済モデルを１つ以上選択する。
この際、例えば、モデル選択部１１０５は、実行済みタスクである画像データセットのうち、学習用画像取得部１１０１により取得された検査対象である画像データセットに対して特徴量の類似度が高い実行済みタスクである画像データセットの順に、当該画像データセットに対応する学習済モデルを１つ以上選択する。
【0044】
図４～図８の例では、特徴量Ｘ１（ａ層、ｂ層およびｃ層の全体での特徴量）と特徴量Ａ（ａ層、ｂ層およびｃ層の全体での特徴量）、および、特徴量Ｘ２（ａ層、ｂ層およびｃ層の全体での特徴量）と特徴量Ｂ（ａ層、ｂ層およびｃ層の全体での特徴量）との類似度が高く、特徴量抽出部１１０３は、学習済モデルＡおよび学習済モデルＢを選択している。
一方、図４～図８の例では、特徴量Ｘ３（ａ層、ｂ層およびｃ層の全体での特徴量）と特徴量Ｃ（ａ層、ｂ層およびｃ層の全体での特徴量）との類似度は低く、特徴量抽出部１１０３は、学習済モデルＣについては選択を行っていない。
一方、図４～図８の例では、特徴量Ｘ３（ａ層、ｂ層およびｃ層の全体での特徴量）と特徴量Ｃ（ａ層、ｂ層およびｃ層の全体での特徴量）との類似度は低く、特徴量抽出部１１０３は、学習済モデルＣについては選択を行っていない。
【0045】
次いで、モデル学習部１１０６は、学習用画像取得部１１０１により取得された検査対象である画像データセット、および、モデル選択部１１０５により選択された学習済モデルに基づいて、当該検査対象である画像データセットを当該学習済モデルに入力することで、新規の学習済モデルを生成する（ステップＳＴ１０６）。なお、モデル学習部１１０６により生成される新規の学習済モデルは、良品分布である。
【0046】
この際、例えば、モデル学習部１１０６は、モデル選択部１１０５により選択された学習済モデルに、上記検査対象である画像データセットのうちの良品画像データセットを入力し、上記中間層ごとの出力を全て結合することで、新規の学習済モデルを生成する。
【0047】
図４～図８の例では、モデル学習部１１０６は、学習済モデルＡおよび学習済モデルＢから、新規の学習済モデルＸを生成している。この際、モデル学習部１１０６は、学習済モデルＡおよび学習済モデルＢに画像データセットＸをそれぞれ入力し、学習済モデルＡの上記中間層（ａ層、ｂ層およびｃ層）での出力と学習済モデルＢの上記中間層（ａ層、ｂ層およびｃ層）での出力とを全て結合することで、新規の学習済モデルＸ（良品分布）を生成している。
【0048】
次いで、モデル評価部１１０７は、モデル学習部１１０６により生成された新規の学習済モデルに基づいて、当該新規の学習済モデルの精度が閾値以上であるかを判定する（ステップＳＴ１０７）。なお、閾値は学習済モデルを評価するための値に適宜設定可能である。
【0049】
次いで、モデル出力部１１０８は、モデル評価部１１０７による判定結果に基づいて、評価が閾値以上であると判定された新規の学習済モデルを示す情報を外部に出力する（ステップＳＴ１０８）。
【0050】
ここで、従来技術では、複数の過去モデルの選択において、検査対象である画像データセットに適切な学習済モデルを選択できない可能性がある。
これに対し、実施の形態１に係る学習装置１１では、検査対象である画像データセットの特徴量（モデル中間出力に基づく特徴量）と、実行済みタスクである画像データセットの特徴量（モデル中間出力に基づく特徴量）とを比較することで、異常検知向けの新規の学習済モデルを生成することを考慮して、検査対象である画像データセットと類似したデータで学習済モデルを選択することができ、高精度化が期待できる。
これに対し、実施の形態１に係る学習装置１１では、検査対象である画像データセットの特徴量（モデル中間出力に基づく特徴量）と、実行済みタスクである画像データセットの特徴量（モデル中間出力に基づく特徴量）とを比較することで、異常検知向けの新規の学習済モデルを生成することを考慮して、検査対象である画像データセットと類似したデータで学習済モデルを選択することができ、高精度化が期待できる。
【0051】
以上のように、この実施の形態１によれば、学習装置１１は、検査対象である画像データセットを取得する学習用画像取得部１１０１と、実行済みタスクである画像データセットの特徴量であって、当該実行済みタスクである画像データセットに対応する学習済モデルにおける複数の中間層での出力に基づく特徴量を取得する既存特徴量取得部１１０２と、実行済みタスクである画像データセットに対応する学習済モデル、および、学習用画像取得部１１０１により取得された検査対象である画像データセットに基づいて、当該検査対象である画像データセットの特徴量であって、当該学習済モデルにおける複数の中間層での出力に基づく特徴量を抽出する特徴量抽出部１１０３と、特徴量抽出部１１０３により抽出された検査対象である画像データセットの特徴量、および、既存特徴量取得部１１０２により取得された実行済みタスクである画像データセットの特徴量に基づいて、特徴量の類似度を算出する特徴量比較部１１０４と、特徴量比較部１１０４により算出された特徴量の類似度に基づいて、実行済みタスクである画像データセットのうち、学習用画像取得部１１０１により取得された検査対象である画像データセットに対して特徴量の類似度が高い実行済みタスクである画像データセットに対応する学習済モデルを１つ以上選択するモデル選択部１１０５と、学習用画像取得部１１０１により取得された検査対象である画像データセット、および、モデル選択部１１０５により選択された学習済モデルに基づいて、当該検査対象である画像データセットを当該学習済モデルに入力することで、良品分布である新規の学習済モデルを生成するモデル学習部１１０６と、モデル学習部１１０６により生成された新規の学習済モデルに基づいて、当該新規の学習済モデルの評価が閾値以上であるかを判定するモデル評価部１１０７と、モデル評価部１１０７による判定結果に基づいて、評価が閾値以上であると判定された新規の学習済モデルを示す情報を出力するモデル出力部１１０８とを備えた。特に、実施の形態１に係る学習装置１１では、特徴量比較部１１０４が、特徴量抽出部１１０３により抽出された検査対象である画像データセットの全体の特徴量と、既存特徴量取得部１１０２により取得された実行済みタスクである画像データセットの全体の特徴量との類似度を算出し、学習済モデルの選択を行う。
これにより、実施の形態１に係る学習装置１１は、従来に対し、検査対象である画像データセットに適切な学習済モデルを得ることが可能となる。
これにより、実施の形態１に係る学習装置１１は、従来に対し、検査対象である画像データセットに適切な学習済モデルを得ることが可能となる。
【0052】
実施の形態２．
実施の形態１に係る学習装置１１では、検査対象である画像データセットの全体の特徴量と、実行済みタスクである画像データセットの全体の特徴量との類似度を算出し、学習済モデルの選択を行う場合について示した。これに対し、実施の形態２に係る学習装置１１では、検査対象である画像データセットの中間層ごとの特徴量と、実行済みタスクである画像データセットの中間層毎の特徴量との類似度を算出し、学習済モデル（中間層）の選択を行う場合について示す。
実施の形態１に係る学習装置１１では、検査対象である画像データセットの全体の特徴量と、実行済みタスクである画像データセットの全体の特徴量との類似度を算出し、学習済モデルの選択を行う場合について示した。これに対し、実施の形態２に係る学習装置１１では、検査対象である画像データセットの中間層ごとの特徴量と、実行済みタスクである画像データセットの中間層毎の特徴量との類似度を算出し、学習済モデル（中間層）の選択を行う場合について示す。
【0053】
図９は実施の形態２に係る学習装置１１の構成例を示す図である。この図９に示す実施の形態２に係る学習装置１１では、図２に示す実施の形態１に係る学習装置１１に対し、特徴量比較部１１０４が特徴量比較部１１０４ｂに変更され、モデル学習部１１０６がモデル学習部１１０６ｂに変更されている。図９に示す実施の形態２に係る学習装置１１におけるその他の構成例については、図２に示す実施の形態１に係る学習装置１１の構成例と同様であり、同一の符号を付して異なる部分についてのみ説明を行う。
【0054】
特徴量比較部１１０４ｂは、特徴量抽出部１１０３により抽出された検査対象である画像データセットの特徴量、および、既存特徴量取得部１１０２により取得された実行済みタスクである画像データセットの特徴量に基づいて、特徴量の類似度を算出する。
ここで、実施の形態２に係る学習装置１１では、特徴量比較部１１０４ｂが、特徴量抽出部１１０３により抽出された検査対象である画像データセットの上記中間層ごとの特徴量と、既存特徴量取得部１１０２により取得された実行済みタスクである画像データセットの上記中間層ごとの全体の特徴量との類似度をそれぞれ算出する。
ここで、実施の形態２に係る学習装置１１では、特徴量比較部１１０４ｂが、特徴量抽出部１１０３により抽出された検査対象である画像データセットの上記中間層ごとの特徴量と、既存特徴量取得部１１０２により取得された実行済みタスクである画像データセットの上記中間層ごとの全体の特徴量との類似度をそれぞれ算出する。
【0055】
この際、例えば、特徴量比較部１１０４ｂは、上記検査対象である画像データセットの上記中間層ごとの特徴量と、上記実行済みタスクである画像データセットの上記中間層ごとの特徴量との類似度を、分布差を用いてそれぞれ算出してもよい。
また、例えば、特徴量比較部１１０４ｂは、上記検査対象である画像データセットの上記中間層ごとの特徴量と、上記実行済みタスクである画像データセットの上記中間層ごとの特徴量との類似度を、分布同士の共通領域を用いてそれぞれ算出してもよい。
また、例えば、特徴量比較部１１０４ｂは、上記検査対象である画像データセットの上記中間層ごとの特徴量と、上記実行済みタスクである画像データセットの上記中間層ごとの特徴量との類似度を、分布同士の共通領域を用いてそれぞれ算出してもよい。
【0056】
モデル学習部１１０６ｂは、学習用画像取得部１１０１により取得された検査対象である画像データセット、および、モデル選択部１１０５により選択された学習済モデルに基づいて、当該検査対象である画像データセットを当該学習済モデルに入力することで、新規の学習済モデルを生成する。なお、モデル学習部１１０６ｂにより生成される新規の学習済モデルは、良品分布である。
【0057】
この際、例えば、モデル学習部１１０６ｂは、モデル選択部１１０５により選択された学習済モデルに、上記検査対象である画像データセットのうちの良品画像データセットを入力し、上記中間層ごとの出力の中からテンソルを選択的に結合することで、新規の学習済モデルを生成する。
【0058】
次に、図１および図９に示す実施の形態２に係る学習装置１１の動作例について、図１０～図１３を参照しながら説明する。
例えば図１１および図１２に示すように、実施の形態２に係る学習装置１１では、上記複数の中間層での出力に基づく特徴量を用い、上記中間層ごとの特徴量の類似度が高い過去モデルを１つ以上選択する。図１１の例では、学習装置１１が、画像データセットＸの特徴量Ｘ１と画像データセットＡの特徴量Ａとを比較した場合を示している。この場合、学習装置１１は、画像データセットＸを画像データセットＡに対応する学習済モデルＡに入力することで、特徴量Ｘ１を抽出する。なお、図１１の例では、ａ層およびｂ層に関して、特徴量Ｘ１と特徴量Ａとの類似度が高い場合を示している。また、図１２の例では、学習装置１１が、画像データセットＸの特徴量Ｘ２と画像データセットＢの特徴量Ｂとを比較した場合を示している。この場合、学習装置１１は、画像データセットＸを画像データセットＢに対応する学習済モデルＢに入力することで、特徴量Ｘ２を抽出する。なお、図１２の例では、ｃ層に関して、特徴量Ｘ２と特徴量Ｂとの類似度が高い場合を示している。
そして、例えば図１３に示すように、学習装置１１は、選択した過去モデルに検査対象である画像データセットを入力し、上記中間層ごとの出力の中からテンソルを選択的に結合することで、新規の学習済モデルを生成する。図１３の例では、学習装置１１が、学習済モデルＡ（ａ層およびｂ層）および学習済モデルＢ（ｃ層）を選択し、新規の学習済モデルＸを生成した場合を示している。
例えば図１１および図１２に示すように、実施の形態２に係る学習装置１１では、上記複数の中間層での出力に基づく特徴量を用い、上記中間層ごとの特徴量の類似度が高い過去モデルを１つ以上選択する。図１１の例では、学習装置１１が、画像データセットＸの特徴量Ｘ１と画像データセットＡの特徴量Ａとを比較した場合を示している。この場合、学習装置１１は、画像データセットＸを画像データセットＡに対応する学習済モデルＡに入力することで、特徴量Ｘ１を抽出する。なお、図１１の例では、ａ層およびｂ層に関して、特徴量Ｘ１と特徴量Ａとの類似度が高い場合を示している。また、図１２の例では、学習装置１１が、画像データセットＸの特徴量Ｘ２と画像データセットＢの特徴量Ｂとを比較した場合を示している。この場合、学習装置１１は、画像データセットＸを画像データセットＢに対応する学習済モデルＢに入力することで、特徴量Ｘ２を抽出する。なお、図１２の例では、ｃ層に関して、特徴量Ｘ２と特徴量Ｂとの類似度が高い場合を示している。
そして、例えば図１３に示すように、学習装置１１は、選択した過去モデルに検査対象である画像データセットを入力し、上記中間層ごとの出力の中からテンソルを選択的に結合することで、新規の学習済モデルを生成する。図１３の例では、学習装置１１が、学習済モデルＡ（ａ層およびｂ層）および学習済モデルＢ（ｃ層）を選択し、新規の学習済モデルＸを生成した場合を示している。
【0059】
図１および図９に示す実施の形態２に係る学習装置１１の動作例では、例えば図１０に示すように、まず、学習用画像取得部１１０１は、検査対象である画像データセットを取得する（ステップＳＴ２０１）。この際、学習用画像取得部１１０１は、操作入力装置１２を介して入力された検査対象である画像データセットを取得する。
【0060】
【0061】
また、既存特徴量取得部１１０２は、実行済みタスクである画像データセットの特徴量を取得する（ステップＳＴ２０２）。この際、既存特徴量取得部１１０２は、記憶装置１３に記憶されている情報が示す実行済みタスクである画像データセットの特徴量を取得する。また、この既存特徴量取得部１１０２により取得される実行済みタスクである画像データセットの特徴量は、当該実行済みタスクである画像データセットに対応する学習済モデルにおける複数の中間層での出力に基づく特徴量である。
【0062】
図４、図５、図１１～図１３の例では、既存特徴量取得部１１０２は、画像データセットＡの特徴量Ａ、画像データセットＢの特徴量Ｂ、および、画像データセットＣの特徴量Ｃを取得している。なお、図１１および図１２の例では、既存特徴量取得部１１０２により取得される特徴量は、過去モデルのａ層、ｂ層およびｃ層での出力に基づく特徴量である。
【0063】
次いで、特徴量抽出部１１０３は、実行済みタスクである画像データセットに対応する学習済モデル、および、学習用画像取得部１１０１により取得された検査対象である画像データセットに基づいて、当該検査対象である画像データセットの特徴量を抽出する（ステップＳＴ２０３）。この特徴量抽出部１１０３により抽出される検査対象である画像データセットの特徴量は、上記学習済モデルにおける上記複数の中間層での出力に基づく特徴量である。
【0064】
この際、例えば、特徴量抽出部１１０３は、上記検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、上記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、特徴量として抽出してもよい。
また、例えば、特徴量抽出部１１０３は、上記検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、上記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、チャネルごとに平均化したベクトル群を、特徴量として抽出してもよい。
また、例えば、特徴量抽出部１１０３は、上記検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、上記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、全体で平均化したベクトルを、特徴量として抽出してもよい。
また、例えば、特徴量抽出部１１０３は、上記検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、上記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、チャネルごとに平均化したベクトル群を、特徴量として抽出してもよい。
また、例えば、特徴量抽出部１１０３は、上記検査対象である画像データセットまたは当該検査対象である画像データセットのうちの良品画像データセットを、上記実行済みタスクである画像データセットに対応する学習済モデルに入力した際の複数の中間層での出力を、全体で平均化したベクトルを、特徴量として抽出してもよい。
【0065】
なお、この際、特徴量抽出部１１０３は、記憶装置１３に記憶されている情報が示す実行済みタスクである画像データセットに対応する学習済モデルを取得した上で、上記の特徴量抽出を行う。
【0066】
図４、図５、図１１～図１３の例では、特徴量抽出部１１０３は、特徴量Ｘ１～Ｘ３を抽出している。特徴量Ｘ１は、画像データセットＸを学習済モデルＡに入力することで抽出される特徴量である。また、特徴量Ｘ２は、画像データセットＸを学習済モデルＢに入力することで抽出される特徴量である。また、特徴量Ｘ３は、画像データセットＸを学習済モデルＣに入力することで抽出される特徴量である。なお、図１１および図１２の例では、特徴量抽出部１１０３により抽出される特徴量は、過去モデルのａ層、ｂ層およびｃ層での出力に基づく特徴量である。
【0067】
次いで、特徴量比較部１１０４ｂは、特徴量抽出部１１０３により抽出された検査対象である画像データセットの特徴量、および、既存特徴量取得部１１０２により取得された実行済みタスクである画像データセットの特徴量に基づいて、特徴量の類似度を算出する（ステップＳＴ２０４）。
ここで、実施の形態２に係る学習装置１１では、特徴量比較部１１０４ｂが、特徴量抽出部１１０３により抽出された検査対象である画像データセットの上記中間層ごとの特徴量と、既存特徴量取得部１１０２により取得された実行済みタスクである画像データセットの上記中間層ごとの特徴量との類似度をそれぞれ算出する。
ここで、実施の形態２に係る学習装置１１では、特徴量比較部１１０４ｂが、特徴量抽出部１１０３により抽出された検査対象である画像データセットの上記中間層ごとの特徴量と、既存特徴量取得部１１０２により取得された実行済みタスクである画像データセットの上記中間層ごとの特徴量との類似度をそれぞれ算出する。
【0068】
この際、例えば、特徴量比較部１１０４ｂは、上記検査対象である画像データセットの上記中間層ごとの特徴量と、上記実行済みタスクである画像データセットの上記中間層ごとの特徴量との類似度を、分布差を用いてそれぞれ算出してもよい。この際、特徴量比較部１１０４ｂは、分布差として、例えば、Ｆｒｅｃｈｅｔ ｉｎｃｅｐｔｉｏｎ ｄｉｓｔａｎｃｅ、ＫＬダイバージェンス、ＪＳダイバージェンス、または、マハラノビス距離を採用することができる。
また、例えば、特徴量比較部１１０４ｂは、上記検査対象である画像データセットの上記中間層ごとの特徴量と、上記実行済みタスクである画像データセットの上記中間層ごとの特徴量との類似度を、分布同士の共通領域を用いてそれぞれ算出してもよい。この際、特徴量比較部１１０４ｂは、分布同士の共通領域として、例えば、Ｈｉｓｔｏｇｒａｍ ｉｎｔｅｒｓｅｃｔｉｏｎを採用することができる。
また、例えば、特徴量比較部１１０４ｂは、上記検査対象である画像データセットの上記中間層ごとの特徴量と、上記実行済みタスクである画像データセットの上記中間層ごとの特徴量との類似度を、分布同士の共通領域を用いてそれぞれ算出してもよい。この際、特徴量比較部１１０４ｂは、分布同士の共通領域として、例えば、Ｈｉｓｔｏｇｒａｍ ｉｎｔｅｒｓｅｃｔｉｏｎを採用することができる。
【0069】
次いで、モデル選択部１１０５は、特徴量比較部１１０４ｂにより算出された特徴量の類似度に基づいて、実行済みタスクである画像データセットのうち、学習用画像取得部１１０１により取得された検査対象である画像データセットに対して特徴量の類似度が高い実行済みタスクである画像データセットに対応する学習済モデルを１つ以上選択する（ステップＳＴ２０５）。
この際、例えば、モデル選択部１１０５は、実行済みタスクである画像データセットのうち、学習用画像取得部１１０１により取得された検査対象である画像データセットに対して特徴量の類似度が高い実行済みタスクである画像データセットの順に、当該画像データセットに対応する学習済モデルを１つ以上選択する。
この際、例えば、モデル選択部１１０５は、実行済みタスクである画像データセットのうち、学習用画像取得部１１０１により取得された検査対象である画像データセットに対して特徴量の類似度が高い実行済みタスクである画像データセットの順に、当該画像データセットに対応する学習済モデルを１つ以上選択する。
【0070】
図４、図５、図１１～図１３の例では、ａ層およびｂ層に関する特徴量Ｘ１と特徴量Ａ、および、ｃ層に関する特徴量Ｘ２と特徴量Ｂとの類似度が高く、特徴量抽出部１１０３は、学習済モデルＡおよび学習済モデルＢを選択している。
一方、図４、図５、図１１～図１３の例では、ａ層、ｂ層およびｃ層に関する特徴量Ｘ３と特徴量Ｃとの類似度は低く、特徴量抽出部１１０３は、学習済モデルＣについては選択を行っていない。
一方、図４、図５、図１１～図１３の例では、ａ層、ｂ層およびｃ層に関する特徴量Ｘ３と特徴量Ｃとの類似度は低く、特徴量抽出部１１０３は、学習済モデルＣについては選択を行っていない。
【0071】
次いで、モデル学習部１１０６ｂは、学習用画像取得部１１０１により取得された検査対象である画像データセット、および、モデル選択部１１０５により選択された学習済モデルに基づいて、当該検査対象である画像データセットを当該学習済モデルに入力することで、新規の学習済モデルを生成する（ステップＳＴ２０６）。なお、モデル学習部１１０６ｂにより生成される新規の学習済モデルは、良品分布である。
【0072】
この際、例えば、モデル学習部１１０６ｂは、モデル選択部１１０５により選択された学習済モデルに、上記検査対象である画像データセットのうちの良品画像データセットを入力し、上記中間層ごとの出力の中からテンソルを選択的に結合することで、新規の学習済モデルを生成する。
【0073】
図４、図５、図１１～図１３の例では、モデル学習部１１０６ｂは、学習済モデルＡおよび学習済モデルＢから、新規の学習済モデルＸを生成している。この際、モデル学習部１１０６は、学習済モデルＡおよび学習済モデルＢに画像データセットＸをそれぞれ入力し、学習済モデルＡの上記類似度の高い中間層（ａ層およびｂ層）での出力と学習済モデルＢの上記類似度の高い中間層（ｃ層）での出力とを結合することで、新規の学習済モデルＸ（良品分布）を生成している。
【0074】
次いで、モデル評価部１１０７は、モデル学習部１１０６ｂにより生成された新規の学習済モデルに基づいて、当該新規の学習済モデルの精度が閾値以上であるかを判定する（ステップＳＴ２０７）。なお、閾値は学習済モデルを評価するための値に適宜設定可能である。
【0075】
次いで、モデル出力部１１０８は、モデル評価部１１０７による判定結果に基づいて、評価が閾値以上であると判定された新規の学習済モデルを示す情報を外部に出力する（ステップＳＴ２０８）。
【0076】
ここで、従来技術では、複数の過去モデルの選択において、検査対象である画像データセットに適切な学習済モデルを選択できない恐れがある。
これに対し、実施の形態２に係る学習装置１１では、検査対象である画像データセットの特徴量（モデル中間出力に基づく特徴量）と、実行済みタスクである画像データセットの特徴量（モデル中間出力に基づく特徴量）とを比較することで、異常検知向けの新規の学習済モデルを生成することを考慮して、検査対象である画像データセットと類似したデータで学習済モデル（中間層）を選択することができ、高精度化が期待できる。
これに対し、実施の形態２に係る学習装置１１では、検査対象である画像データセットの特徴量（モデル中間出力に基づく特徴量）と、実行済みタスクである画像データセットの特徴量（モデル中間出力に基づく特徴量）とを比較することで、異常検知向けの新規の学習済モデルを生成することを考慮して、検査対象である画像データセットと類似したデータで学習済モデル（中間層）を選択することができ、高精度化が期待できる。
【0077】
以上のように、この実施の形態２に係る学習装置１１では、特徴量比較部１１０４が、特徴量抽出部１１０３により抽出された検査対象である画像データセットの中間層ごとの特徴量と、既存特徴量取得部１１０２により取得された実行済みタスクである画像データセットの中間層ごとの特徴量との類似度を算出し、学習済モデル（中間層）の選択を行う。これにより、実施の形態２に係る学習装置１１は、従来に対し、新規データに適切な学習済モデルを得ることが可能となる。
【0078】
最後に、図１４を参照して、実施の形態１，２に係る学習装置１１のハードウェア構成例を説明する。ここでは、実施の形態１に係る学習装置１１のハードウェア構成例について説明するが、実施の形態２に係る学習装置１１のハードウェア構成例についても同様である。
学習装置１１における学習用画像取得部１１０１、既存特徴量取得部１１０２、特徴量抽出部１１０３、特徴量比較部１１０４、モデル選択部１１０５、モデル学習部１１０６、モデル評価部１１０７、および、モデル出力部１１０８の各機能は、処理回路５１により実現される。処理回路５１は、図１４Ａに示すように、専用のハードウェアであってもよいし、図１４Ｂに示すように、メモリ５３に格納されるプログラムを実行するＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、プロセッサ、またはＤＳＰ（Ｄｉｇｉｔａｌ Ｓｉｇｎａｌ Ｐｒｏｃｅｓｓｏｒ）ともいう）５２であってもよい。
学習装置１１における学習用画像取得部１１０１、既存特徴量取得部１１０２、特徴量抽出部１１０３、特徴量比較部１１０４、モデル選択部１１０５、モデル学習部１１０６、モデル評価部１１０７、および、モデル出力部１１０８の各機能は、処理回路５１により実現される。処理回路５１は、図１４Ａに示すように、専用のハードウェアであってもよいし、図１４Ｂに示すように、メモリ５３に格納されるプログラムを実行するＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、プロセッサ、またはＤＳＰ（Ｄｉｇｉｔａｌ Ｓｉｇｎａｌ Ｐｒｏｃｅｓｓｏｒ）ともいう）５２であってもよい。
【0079】
処理回路５１が専用のハードウェアである場合、処理回路５１は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ＡＳＩＣ（Ａｐｐｌｉｃａｔｉｏｎ Ｓｐｅｃｉｆｉｃ Ｉｎｔｅｇｒａｔｅｄ Ｃｉｒｃｕｉｔ）、ＦＰＧＡ（Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）、またはこれらを組み合わせたものが該当する。学習用画像取得部１１０１、既存特徴量取得部１１０２、特徴量抽出部１１０３、特徴量比較部１１０４、モデル選択部１１０５、モデル学習部１１０６、モデル評価部１１０７、および、モデル出力部１１０８の各部の機能それぞれを処理回路５１で実現してもよいし、各部の機能をまとめて処理回路５１で実現してもよい。
【0080】
処理回路５１がＣＰＵ５２の場合、学習用画像取得部１１０１、既存特徴量取得部１１０２、特徴量抽出部１１０３、特徴量比較部１１０４、モデル選択部１１０５、モデル学習部１１０６、モデル評価部１１０７、および、モデル出力部１１０８の機能は、ソフトウェア、ファームウェア、またはソフトウェアとファームウェアとの組み合わせにより実現される。ソフトウェアおよびファームウェアはプログラムとして記述され、メモリ５３に格納される。処理回路５１は、メモリ５３に記憶されたプログラムを読み出して実行することにより、各部の機能を実現する。すなわち、学習装置１１は、処理回路５１により実行されるときに、例えば図３に示した各ステップが結果的に実行されることになるプログラムを格納するためのメモリ５３を備える。また、これらのプログラムは、学習用画像取得部１１０１、既存特徴量取得部１１０２、特徴量抽出部１１０３、特徴量比較部１１０４、モデル選択部１１０５、モデル学習部１１０６、モデル評価部１１０７、および、モデル出力部１１０８の手順および方法をコンピュータに実行させるものであるともいえる。ここで、メモリ５３としては、例えば、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、フラッシュメモリ、ＥＰＲＯＭ（Ｅｒａｓａｂｌｅ Ｐｒｏｇｒａｍｍａｂｌｅ ＲＯＭ）、ＥＥＰＲＯＭ（Ｅｌｅｃｔｒｉｃａｌｌｙ ＥＰＲＯＭ）などの不揮発性または揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、またはＤＶＤ（Ｄｉｇｉｔａｌ Ｖｅｒｓａｔｉｌｅ Ｄｉｓｃ）などが該当する。
【0081】
なお、学習用画像取得部１１０１、既存特徴量取得部１１０２、特徴量抽出部１１０３、特徴量比較部１１０４、モデル選択部１１０５、モデル学習部１１０６、モデル評価部１１０７、および、モデル出力部１１０８の各機能について、一部を専用のハードウェアで実現し、一部をソフトウェアまたはファームウェアで実現するようにしてもよい。例えば、学習用画像取得部１１０１については専用のハードウェアとしての処理回路５１でその機能を実現し、既存特徴量取得部１１０２、特徴量抽出部１１０３、特徴量比較部１１０４、モデル選択部１１０５、モデル学習部１１０６、モデル評価部１１０７、および、モデル出力部１１０８については処理回路５１がメモリ５３に格納されたプログラムを読み出して実行することによってその機能を実現することが可能である。
【0082】
このように、処理回路５１は、ハードウェア、ソフトウェア、ファームウェア、またはこれらの組み合わせによって、上述の各機能を実現することができる。
【0083】
なお、各実施の形態の自由な組合わせ、或いは各実施の形態の任意の構成要素の変形、若しくは各実施の形態において任意の構成要素の省略が可能である。
【産業上の利用可能性】
【0084】
本開示に係る学習装置は、従来に対し、検査対象である画像データセットに適切な学習済モデルを得ることが可能となり、学習済モデルを得る学習装置などに用いるのに適している。
【符号の説明】
【0085】
１ 学習システム、１１ 学習装置、１２ 操作入力装置、１３ 記憶装置、１４ 表示出力装置、５１ 処理回路、５２ ＣＰＵ、５３ メモリ、１１０１ 学習用画像取得部、１１０２ 既存特徴量取得部、１１０３ 特徴量抽出部、１１０４，１１０４ｂ 特徴量比較部、１１０５ モデル選択部、１１０６，１１０６ｂ モデル学習部、１１０７ モデル評価部、１１０８ モデル出力部。
【要約】
検査対象である画像データセットを取得する学習用画像取得部（１１０１）と、実行済みタスクである画像データセットの特徴量を取得する既存特徴量取得部（１１０２）と、検査対象である画像データセットの特徴量を抽出する特徴量抽出部（１１０３）と、検査対象である画像データセットの特徴量、および、実行済みタスクである画像データセットの特徴量の類似度を算出する特徴量比較部（１１０４）と、特徴量の類似度に基づいて、実行済みタスクである画像データセットのうち、検査対象である画像データセットに対して特徴量の類似度が高い実行済みタスクである画像データセットに対応する学習済モデルを１つ以上選択するモデル選択部（１１０５）と、検査対象である画像データセットを、モデル選択部（１１０５）により選択された学習済モデルに入力することで、良品分布である新規の学習済モデルを生成するモデル学習部（１１０６）と、新規の学習済モデルの評価が閾値以上であるかを判定するモデル評価部（１１０７）と、評価が閾値以上であると判定された新規の学習済モデルを示す情報を出力するモデル出力部（１１０８）とを備えた。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】