特許 7520777 機械学習装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-07-12

(45)【発行日】2024-07-23

(54)【発明の名称】機械学習装置

(51)【国際特許分類】

   G06N 3/08 20230101AFI20240716BHJP

   G06N 3/0455 20230101ALI20240716BHJP

【ＦＩ】

G06N3/08

G06N3/0455

【請求項の数】 12

(21)【出願番号】P 2021110289

(22)【出願日】2021-07-01

(65)【公開番号】P2023007193

(43)【公開日】2023-01-18

【審査請求日】2023-03-15

(73)【特許権者】

【識別番号】000003078

【氏名又は名称】株式会社東芝

(74)【代理人】

【識別番号】110003708

【氏名又は名称】弁理士法人鈴榮特許綜合事務所

(72)【発明者】

【氏名】古庄 泰隆

(72)【発明者】

【氏名】坂田 幸辰

(72)【発明者】

【氏名】新田 修平

【審査官】渡辺 一帆

(56)【参考文献】

【文献】特開２０１９－１１３９１４（ＪＰ，Ａ）

【文献】米国特許出願公開第２０１６／０１５５１３６（ＵＳ，Ａ１）

【文献】特開２０１８－０４９３５５（ＪＰ，Ａ）

【文献】特開２０２０－１１３１１９（ＪＰ，Ａ）

【文献】加藤 聡太 ほか，"Contrastive Learningを用いた肺野CT画像からCOVID-19の自動判定"，電子情報通信学会技術研究報告，一般社団法人 電子情報通信学会，2021年03月，第120巻, 第431号，pp. 82-86，ISSN 2432-6380

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ３／０２－３／１０

(57)【特許請求の範囲】

【請求項1】

複数個の学習データに基づいて、入力データから前記入力データの特徴データを抽出する抽出層の第１の学習パラメータを訓練する第１学習部と、
前記複数個の学習データに学習済みの抽出層を適用して得られる複数個の学習特徴データに基づいて、前記入力データの再構成データを生成する再構成層の第２の学習パラメータを訓練する部であって、前記第２の学習パラメータは、前記特徴データの次元数個の代表ベクトルを表し、前記次元数個の代表ベクトルは、前記複数個の学習データの重み付き和で規定される、第２学習部と、
を具備する機械学習装置。

【請求項2】

学習データに前記学習済みの抽出層を適用して得られる学習特徴データと前記学習特徴データに学習済みの再構成層を適用して得られる学習再構成データとに基づいて、異常検知に関する過検出率を算出する算出部と、
前記過検出率を表示する表示部と、を更に備える、
請求項１記載の機械学習装置。

【請求項3】

前記算出部は、前記学習特徴データと前記学習再構成データとの誤差の確率分布を算出し、前記確率分布において前記誤差が閾値以上になる確率を前記過検出率として算出し、
前記表示部は、前記閾値に対する前記過検出率のグラフを表示する、
請求項２記載の機械学習装置。

【請求項4】

前記抽出層と前記再構成層とを含む機械学習モデルを利用した前記入力データの異常の有無の判定のための閾値を、操作者により前記グラフを介して指定された値に設定する設定部を更に備える、請求項３記載の機械学習装置。

【請求項5】

前記第１学習部は、前記学習データが正常データのみを含む場合、２個の正常データの内積と前記２個の正常データに対応する２個の特徴データの内積との正の相関が高くなるように前記第１の学習パラメータを訓練する、請求項１記載の機械学習装置。

【請求項6】

前記第１学習部は、前記学習データが正常データと異常データとを含む場合、正常データと異常データとの内積と、前記正常データに対応する特徴データと前記異常データに対応する特徴データとの内積と、の負の相関が高くなるように前記第１の学習パラメータを訓練する、請求項１記載の機械学習装置。

【請求項7】

前記第１学習部は、前記学習データの内積と前記学習データに対応する特徴データの内積とに基づく対照学習及び無相関化により前記第１の学習パラメータを訓練する、請求項１記載の機械学習装置。

【請求項8】

前記第２学習部は、前記学習特徴データと前記学習特徴データを前記再構成層に適用して得られる学習再構成データとの誤差最小化により前記第２の学習パラメータを訓練する、請求項１記載の機械学習装置。

【請求項9】

前記再構成層は、線形回帰モデルである、請求項８記載の機械学習装置。

【請求項10】

前記抽出層と前記再構成層とを含む機械学習モデルは、前記再構成データと前記入力データとの誤差と、閾値との比較に基づいて前記入力データの異常の有無の判定結果を出力する判定層を含む、請求項１記載の機械学習装置。

【請求項11】

前記次元数個の代表ベクトルは、前記複数個の学習データの重み付き和で規定され、
前記重みは、前記複数個の学習特徴データに基づく値を有する、
請求項１記載の機械学習装置。

【請求項12】

前記次元数個は、前記抽出層と前記再構成層とを含む機械学習モデルを実装する装置のメモリに対して割り当てられる、前記機械学習モデルに要する記憶容量に応じて決定される、請求項１記載の機械学習装置。

【発明の詳細な説明】

【技術分野】

【0001】

本発明の実施形態は、機械学習装置に関する。

【背景技術】

【0002】

与えられた診断用データの正常又は異常の判定を行う異常検知装置がある。異常検知装置は、診断用データを、事前に用意した正常データの重み付き和に適用して再構成し、その再構成誤差が閾値より大きければ異常であると判定する。診断用データを正常データの重み付き和で再構成するため、異常データの再構成誤差が正常データの再構成誤差と比較して大きくなることを利用して、高精度な異常検知を実現できる。しかし、正常データを正確に再構成するためには、多くの正常データをメモリに保存して、それらを用いて再構成を行う必要があるため、正常データの個数に依存した膨大なメモリ容量が再構成に要求されることとなる。

【先行技術文献】

【非特許文献】

【0003】

【文献】加藤佑一、他６名、“ニューラルネットワーク近傍法による異常検知の性能評価”、［online］、The 34th Annual Conference of the Japanese Society for Artificial Intelligence,2020、［令和３年６月１８日検索］、インターネット＜URL: https://www.jstage.jst.go.jp/article/pjsai/JSAI2020/0/JSAI2020_2I4GS202/_article/-char/ja/＞

【発明の概要】

【発明が解決しようとする課題】

【0004】

本発明が解決しようとする課題は、省メモリで高精度な異常検知を行うことである。

【課題を解決するための手段】

【0005】

実施形態に係る機械学習装置は、第１学習部と第２学習部とを有する。第１学習部は、複数個の学習データに基づいて、入力データから前記入力データの特徴データを抽出する抽出層の第１の学習パラメータを訓練する。第２学習部は、前記複数個の学習データに学習済みの抽出層を適用して得られる複数個の学習特徴データに基づいて、前記入力データの再構成データを生成する再構成層の第２の学習パラメータを訓練する部であって、前記第２の学習パラメータは、前記特徴データの次元数個の代表ベクトルを表し、前記次元数個の代表ベクトルは、前記複数個の学習データの重み付き和で規定される。

【図面の簡単な説明】

【0006】

【図1】本実施形態に係る機械学習モデルのネットワーク構成例を示す図

【図2】第１実施形態に係る機械学習装置の構成例を示す図

【図3】機械学習モデルの学習処理の流れの一例を示す図

【図4】再構成層の学習パラメータを模式的に示す図

【図5】代表ベクトルの画像表現例を示す図

【図6】閾値毎の過検出率を表すグラフの表示例を示す図

【図7】第２実施形態に係る異常検知装置の構成例を示す図

【図8】異常検知処理の流れの一例を示す図

【図9】再構成層における演算の数式表現を模式的に示す図

【図10】再構成層における演算の画像表現を模式的に示す図

【図11】機械学習モデルの異常検知性能を示すグラフ

【発明を実施するための形態】

【0007】

以下、図面を参照しながら本実施形態に係わる機械学習装置、異常検知装置及び異常検知方法を説明する。

【0008】

本実施形態に係る機械学習装置は、入力データの異常の有無を判定するための機械学習モデルを訓練するコンピュータである。本実施形態に係る異常検知装置は、機械学習装置により訓練された学習済みの機械学習モデルを利用して、異常検知対象に関する入力データの異常の有無を判定するコンピュータである。

【0009】

図１は、本実施形態に係る機械学習モデル１のネットワーク構成例を示す図である。図１に示すように、機械学習モデル１は、入力データを入力して、当該入力データの異常の有無の判定結果を出力するように訓練されたニューラルネットワークである。一例として、機械学習モデル１は、特徴抽出層１１、再構成層１２、誤差演算層１３及び判定層１４を有する。特徴抽出層１１、再構成層１２、誤差演算層１３及び判定層１４各々は、全結合層や畳み込み層、プーリング層、ソフトマックス層、その他の任意のネットワーク層により構成されればよい。

【0010】

本実施形態における入力データは、機械学習モデル１に入力されるデータであり、異常判定対象に関するデータである。本実施形態に係る入力データの種類としては、画像データ、ネットワークセキュリティーデータ、音声データ、センサデータ、映像データ等が適用可能である。本実施形態に係る入力データは異常判定対象に応じて種々様々である。例えば、異常判定対象が工業製品である場合、入力データとしては、当該工業製品の画像データ、当該工業製品のための製造機械からの出力データや当該製造機械の検査機器からの出力データが用いられる。他の例として、異常判定対象が人体である場合、入力データとしては、医用画像診断装置により得られた医用画像データ、臨床検査装置等により得られた臨床検査データ等が用いられる。

【0011】

特徴抽出層１１は、入力データを入力して当該入力データの特徴データを出力するネットワーク層である。再構成層１２は、特徴データを入力して、入力データを再現した再構成データを出力するネットワーク層である。誤差演算層１３は、入力データと再構成データとの誤差を演算するネットワーク層である。判定層１４は、誤差演算層１３から出力された誤差と、閾値との比較に基づいて入力データの異常の有無の判定結果を出力するネットワーク層である。判定結果としては、一例として、異常又は正常のクラスが出力される。

【0012】

特徴抽出層１１及び再構成層１２は、特徴抽出層１１及び再構成層１２の組み合わせにより、正常データを再現し、異常データを再現しないように各学習パラメータが訓練される。ここで、正常データとは、異常判定対象が正常である場合の入力データを意味し、異常データは、異常判定対象が異常である場合の入力データを意味する。典型的には、異常データは機械学習モデル１の訓練時において得ることができないものであり、正常データを用いて機械学習モデル１が訓練される。このため、特徴抽出層１１及び再構成層１２は、正常データを再現し、異常データを再現しないことができる。

【0013】

入力データが正常データである場合、入力データと再構成データとの誤差は、比較的小さい値を有するが、入力データが異常データである場合、入力データと再構成データとの誤差は、比較的大きい値を有することとなる。従って適切な閾値が設定されていれば、入力データが正常データである場合、正しく「正常」であると判定し、入力データが異常データである場合、正しく「異常」であると判定されることとなる。

【0014】

（第１実施形態）
図２は、第１実施形態に係る機械学習装置２の構成例を示す図である。図２に示すように、機械学習装置２は、処理回路２１、記憶装置２２、入力機器２３、通信機器２４及び表示機器２５を有するコンピュータである。処理回路２１、記憶装置２２、入力機器２３、通信機器２４及び表示機器２５間のデータ通信はバスを介して行われる。

【0015】

処理回路２１は、ＣＰＵ（Central Processing Unit）等のプロセッサとＲＡＭ（Random Access Memory）等のメモリとを有する。処理回路２１は、取得部２１１、第１学習部２１２、第２学習部２１３、過検出率算出部２１４、閾値設定部２１５及び表示制御部２１６を有する。処理回路２１は、本実施形態に係る機械学習に関する機械学習プログラムを実行することにより、上記各部２１１～２１６の各機能を実現する。機械学習プログラムは、記憶装置２２等の非一時的コンピュータ読み取り可能な記録媒体に記憶されている。機械学習プログラムは、上記各部２１１～２１６の全ての機能を記述する単一のプログラムとして実装されてもよいし、幾つかの機能単位に分割された複数のモジュールとして実装されてもよい。また、上記各部２１１～２１６は特定用途向け集積回路（Application Specific Integrated Circuit：ＡＳＩＣ）等の集積回路により実装されてもよい。この場合、単一の集積回路に実装されても良いし、複数の集積回路に個別に実装されてもよい。

【0016】

取得部２１１は、複数個の学習データを取得する。学習データは、学習用の入力データを意味する。学習データは、正常データであってもよいし、異常データであってもよい。

【0017】

第１学習部２１２は、複数個の学習データに基づいて特徴抽出層１１の第１の学習パラメータを訓練する。ここで、第１の学習パラメータは、特徴抽出層１１の学習パラメータを意味する。学習パラメータは、機械学習による訓練対象のパラメータであり、重みパラメータやバイアスが一例である。

【0018】

第２学習部２１３は、複数個の学習データに学習済みの特徴抽出層１１を適用して得られる複数個の学習特徴データに基づいて、再構成層１２の第２の学習パラメータを訓練する。ここで、第２の学習パラメータは、再構成層１２の学習パラメータを意味する。一例として、第２の学習パラメータは、特徴データの次元数個の代表ベクトルを表す。次元数個の代表ベクトルは、複数個の学習データの重み付き和で規定される。第２学習部２１３は、学習特徴データと当該学習特徴データを再構成層１２に適用して得られる学習再構成データとの誤差を最小化することにより第２の学習パラメータを訓練する。

【0019】

過検出率算出部２１４は、学習データに学習済みの特徴抽出層１１を適用して得られる学習特徴データと当該学習特徴データに学習済みの再構成層１２を適用して得られる学習再構成データとに基づいて、異常検知に関する過検出率を算出する。具体的には、過検出率算出部２１４は、学習特徴データと学習再構成データとの誤差の確率分布を算出し、確率分布において誤差が閾値以上になる確率を過検出率として算出する。

【0020】

閾値設定部２１５は、判定層１４で利用する異常検知のための閾値（以下、異常検知閾値と呼ぶ）を設定する。閾値設定部２１５は、異常検知閾値を、閾値毎の過検出率を表すグラフにおいて指定された値に設定する。

【0021】

表示制御部２１６は、種々の情報を表示機器２５に表示する。一例として、表示制御部２１６は、過検出率を所定の表示形態で表示する。具体的には、表示制御部２１６は、閾値毎の過検出率を表すグラフ等を表示する。

【0022】

記憶装置２２は、ＲＯＭ（Read Only Memory）やＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、集積回路記憶装置等により構成される。記憶装置２２は、学習データや機械学習プログラム等を記憶する。

【0023】

入力機器２３は、ユーザからの各種指令を入力する。入力機器２３としては、キーボードやマウス、各種スイッチ、タッチパッド、タッチパネルディスプレイ等が利用可能である。入力機器２３からの出力信号は処理回路２１に供給される。なお、入力機器２３としては、処理回路２１に有線又は無線を介して接続されたコンピュータの入力機器であってもよい。

【0024】

通信機器２４は、機械学習装置２にネットワークを介して接続された外部機器との間でデータ通信を行うためのインタフェースである。例えば、学習データの生成機器や保管機器等から学習データを受信する。

【0025】

表示機器２５は、種々の情報を表示する。一例として、表示機器２５は、表示制御部２１６による制御に従い過検出率を表示する。表示機器２５としては、ＣＲＴ（Cathode-Ray Tube）ディスプレイや液晶ディスプレイ、有機ＥＬ（Electro Luminescence）ディスプレイ、ＬＥＤ（Light-Emitting Diode）ディスプレイ、プラズマディスプレイ又は当技術分野で知られている他の任意のディスプレイが適宜利用可能である。また、表示機器２５は、プロジェクタでもよい。

【0026】

以下、第１実施形態に係る機械学習装置２による機械学習モデル１の学習処理について説明する。本実施例において入力データは、一例として、「０」から「９」までの１個の数字が描画された画像データであるとする。「０」が描画された画像データが異常データであり、その他の「１」から「９」の各々が描画された画像データが正常データであるとする。本実施例において学習データは正常データであるとする。

【0027】

図３は、機械学習モデル１の学習処理の流れの一例を示す図である。図３に示す学習処理は、処理回路２１が記憶装置２２等から機械学習プログラムを読み出して当該機械学習プログラムの記述に従い処理を実行することにより実現される。

【0028】

図３に示すように、取得部２１１は、正常データを取得する（ステップＳ３０１）。ステップＳ３０１においてはＮ個の正常データが取得されるものとする。ここで、正常データをｘｉ（ｉ＝１，２，・・・，Ｎ）と表す。添え字のｉは正常データの通し番号、Ｎは用意したデータ数であるとする。正常データｘｉは２８×２８の画像を整列して７８４次元の実数ベクトルにしたものであるとする。

【0029】

ステップＳ３０１が行われると第１学習部２１２は、ステップＳ３０１において取得された正常データｘｉに基づいて、特徴抽出層１１の学習パラメータΘを訓練する（ステップＳ３０２）。ステップＳ３０２において第１学習部２１２は、Ｎ個の正常データｘｉに基づく対照学習により特徴抽出層１１の学習パラメータΘを訓練する。以下、ステップＳ３０２を詳述する。

【0030】

特徴抽出層１１は、データｘを入力として、その特徴φ（ｘ）を出力する関数である。特徴抽出層１１には学習パラメータΘが割り当てられている。データｘは７８４次元の実数ベクトルであり、特徴Φ（ｘ）はＨ次元の実数ベクトルである。Ｈはデータｘの次元数よりも小さい次元数であれば、任意の自然数に設定されればよい。

【0031】

ステップＳ３０２において第１学習部２１２は、正常データｘｉから拡張正常データｘ´ｉを生成する。一例として、２８×２８の画像である正常データｘｉをランダムに回転や拡大縮小すること等によりデータ拡張処理を行い、データ拡張処理後の正常データを７８４次元のベクトルへ整列する。これにより拡張正常データｘ´ｉが生成される。拡張正常データｘ´ｉも正常データｘｉの一例である。

【0032】

次に第１学習部２１２は、未学習の特徴抽出層１１の学習パラメータΘを初期化する。学習パラメータΘの初期値はランダムに設定されればよい。なお学習パラメータΘの初期値は所定の値に設定されてもよい。

【0033】

次に、第１学習部２１２は、正常データｘｉを特徴抽出層１１に入力して特徴データｚ_２ｉ－１＝Φ（ｘｉ）を出力し、拡張正常データｘ´ｉを特徴抽出層１１に入力して特徴データｚ_２ｉ＝Φ（ｘ´ｉ）を出力する。

【0034】

第１学習部２１２は、学習パラメータΘを、（１）式に例示する対照損失関数Ｌを最小化するよう学習する。最適化法としては、確率的勾配降下法等が用いられればよい。対照損失関数Ｌは、特徴データｚ_２ｉ－１の特徴データｚ_２ｉに対する正規化温度スケールクロスエントロピー（normalized temperature-scaled cross entropy）ｌ（２ｉ－１，２ｉ）と、特徴データｚ_２ｉの特徴データｚ_２ｉ－１に対する正規化温度スケールクロスエントロピーｌ（２ｉ，２ｉ－１）との総和により規定される。Ｂは確率的勾配降下法のミニバッチ内で利用するデータの添え字集合、｜Ｂ｜は集合Ｂの要素数、ｓ_ｉ，ｊはベクトルｚ_ｉとベクトルｚ_ｊのコサイン類似度、τはユーザが設定する温度パラメータである。（１）式中の１はｋ≠ｉのときに１をとる特性関数である。

【0035】

【数1】

【0036】

（１）式に例示する対照損失関数Ｌを最小化することにより、特徴抽出層１１に対する対照学習が行われる。（１）式に例示する対照学習においては、ある正常データｘｉに基づく特徴データｚ_２ｉ－１とその拡張正常データｘ´ｉに基づく特徴データｚ_２ｉとのコサイン類似度が大きくなるように学習され、当該正常データｘｉに基づく特徴データｚ_２ｉ－１とそれに関連しないミニバッチ内のデータの特徴データｚ_ｊ（ただしｊ≠２ｉ，２ｉ－１）とのコサイン類似度が小さくなるように学習されることとなる。すなわち、ある正常データｘｉに基づく特徴データｚ_２ｉ－１とその拡張正常データｘ´ｉに基づく特徴データｚ_２ｉとの組合せが正例、当該正常データｘｉに基づく特徴データｚ_２ｉ－１とそれに関連しないミニバッチ内のデータの特徴データｚ_ｊとの組合せが負例として用いられる。なお、特徴データｚ_ｊは、当該正常データｘｉに関連しない他の正常データに基づく特徴データｚ_２ｉ－１と当該正常データｘｉに関連しない拡張正常データｘ´ｉに基づく特徴データｚ_２ｉとを含む。

【0037】

ステップＳ３０２が行われると第２学習部２１３は、ステップＳ３０１において取得された正常データｘｉに、ステップＳ３０２において生成された学習済みの特徴抽出層１１を適用して正常特徴データΦ（ｘｉ）を生成する（ステップＳ３０３）。

【0038】

ステップＳ３０３が行われると第２学習部２１３は、ステップＳ３０１において取得された正常データｘｉとステップＳ３０３において生成された正常特徴データΦ（ｘｉ）とに基づいて、再構成層１２の学習パラメータＷを訓練する（ステップＳ３０４）。再構成層１２は、線形回帰モデルであるとする。

【0039】

ステップＳ３０４において第２学習部２１３は、まず、正常特徴データΦ（ｘｉ）を未学習の再構成層１２に適用して正常再構成データｙｉ＝ＷΦ（ｘｉ）を生成する。次に第２学習部２１３は、正常データｘｉと正常再構成データｙｉとの誤差を最小化するように学習パラメータＷを最適化する。

【0040】

具体的には、（２）式に例示する損失関数Ｌを最小化するように学習パラメータＷが最適化される。損失関数Ｌは、正常データｘｉと正常再構成データｙｉとの２乗誤差の総和と、学習パラメータＷの正則化項との和により規定される。λはユーザが設定する正則化強度パラメータである。学習パラメータＷの正則化項を付与された損失回数Ｌを最小化することにより学習パラメータＷが決定されるので、再構成層１２による再構成はカーネルリッジ再構成と呼ぶことが可能である。

【0041】

【数2】

【0042】

（２）式を最小化する学習パラメータＷは、下記（３）式に示すように、解析的に表現することができる。Ｘは７８４×Ｎの実数値行列で各列に正常データｘｉ（ｉ＝１，２，・・・，Ｎ）を並べたもので、Φ（Ｘ）はＨ×Ｎの実数値行列で各列に上記正常データの特徴Φ（ｘｉ）を並べたものである。

【0043】

【数3】

【0044】

図４は、再構成層１２の学習パラメータＷを模式的に示す図である。図４に示すように、学習パラメータＷの横列数は入力データ（又は正常データ）の次元数Ｄに等しく、縦列数は特徴データの次元数Ｈに等しい。次元数Ｈは、正常データｘｉの個数Ｎよりも小さい。（３）式から分かるように、学習パラメータＷは、Ｈ個の代表ベクトルＶｈ（ｈは代表ベクトルを表す添字）を縦列に並べたものと考えることができる。各代表ベクトルＶｈは、事前に用意したＮ個の正常データｘｉの重みつき和に相当する。各重みは、Ｎ個の正常特徴データに基づく値を有する。より詳細には、各重みは、ｘｉ（３）式に示すΦ（Ｘ）^Ｔ［Φ（Ｘ）Φ（Ｘ）^Ｔ＋λＩ］^－１のうちの各正常データｘｉに対応する成分に対応する。

【0045】

図５は、代表ベクトルＶｈの画像表現例を示す図である。図５は、１２個の代表ベクトルＶ１～Ｖ１２を例示している。すなわち、図５において次元数Ｈ＝１２である。図５に示すように、各代表ベクトルＶｈは、正常データｘｉと同一の、２４×２４の画像サイズを有する画像データである。各代表ベクトルＶｈは、「１」～「９」までの数字画像の重み付き和であり、「１」～「９」までの数字のストローク等の特徴を備えていることが分かる。

【0046】

ここで、特徴抽出層１１と再構成層１２との学習の詳細について説明する。入力データｘと再構成データｙとの２乗誤差は、下記（４）式により表現することが可能である。

【0047】

【数4】

【0048】

（４）式によれば、高い異常検知精度を達成するためには、下記２つの性質を有することが望ましいことが分かる。

【0049】

１．入力データｘが正常データの場合、入力データｘとその再構成データｙとの誤差が小さい。
２．入力データｘが異常データの場合、入力データｘとその再構成データｙとの誤差が大きい。

【0050】

（４）式の右辺第３項に注目すると、上記２つの性質は次のように言い換えられる。

【0051】

１．入力データｘが正常データの場合、入力データの内積が大きい（又は小さい）なら特徴データの内積も大きい（又は小さい）。つまり、入力データの内積と特徴データの内積とは正の相関を有する。なお、入力データの内積は、（４）式のｘ^ＴＸであり、特徴データの内積は、（４）式のφ（Ｘ）^Ｔ｛φ（Ｘ）φ（Ｘ）^Ｔ＋λＩ｝^－１φ（ｘ）である。その計量は、共分散の逆行列である。
２．入力データｘが異常データの場合、入力データの内積が大きい（又は小さい）なら特徴データの内積も小さい（又は大きい）。つまり、入力データの内積と特徴データの内積とは負の相関を有する。

【0052】

本実施例においては、特徴抽出層１１が上記１．の性質を有するように学習パラメータΘが訓練される。すなわち、第１学習部２１２は、学習データが正常データ（厳密には、正常データ及び拡張正常データ）のみを含む場合、２個の正常データの内積と当該２個の正常データに対応する２個の特徴データの内積との正の相関が高くなるように特徴抽出層１１の学習パラメータを訓練する。なぜなら、学習時においては異常データを用意できないのが通常だからである。他の理由として、正常データとそれの拡張正常データとの内積が大きく、対照学習においては、正常データに基づく特徴データと当該正常データの拡張正常データに基づく特徴データとの対の内積が大きくなるように学習し、正常データに基づく特徴データとそれに関連しないミニバッチ内のデータの特徴データとの対の内積が小さくなるように学習しているからである。

【0053】

ステップＳ３０４が行われると過検出率算出部２１４は、ステップＳ３０３において生成された正常特徴データΦ（ｘｉ）に、ステップＳ３０４において生成された学習済みの再構成層１２を適用して正常再構成データｙｉを生成する（ステップＳ３０５）。

【0054】

ステップＳ３０５が行われると過検出率算出部２１４は、ステップＳ３０１において取得された正常データｘｉとステップＳ３０５において生成された正常再構成データｙｉとに基づいて、閾値毎に過検出率を算出する（ステップＳ３０６）。過検出率は、正常データを異常データであると判定する比率を意味する。

【0055】

ステップＳ３０６において過検出率算出部２１４は、まず、正常データｘｉと正常再構成データｙｉとの誤差の確率分布ｐを算出する。誤差は、正常データｘｉと正常再構成データｙｉとの相違を評価可能な指標であれば、２乗誤差やＬ１損失、Ｌ２損失等の指標でもよい。以下の説明では、誤差は２乗誤差であるとする。次に過検出率算出部２１４は、複数の閾値ｒ各々について、確率分布ｐにおいて２乗誤差が当該閾値ｒ以上になる確率（｜｜ｘｉ－ｙｉ｜｜＞ｒ）を算出する。閾値ｒは取り得る範囲の中から任意の値に設定されればよい。算出された確率が過検出率として用いられる。

【0056】

ステップＳ３０６が行われると表示制御部２１６は、閾値毎の過検出率を表すグラフを表示する（ステップＳ３０７）。閾値毎の過検出率を表すグラフは、表示機器２５等に表示される。

【0057】

図６は、閾値毎の過検出率を表すグラフの表示例を示す図である。図６に示すように、グラフの縦軸は過検出率を表し、横軸は閾値を表す。図６において閾値ｒと過検出率ｐとは、閾値ｒが高いほど過検出率ｐが小さくなる関係にある。

【0058】

ステップＳ３０７が行われると閾値設定部２１５は、判定層１４で利用する異常検知閾値を設定する（ステップＳ３０８）。例えば、操作者は、図６に示すグラフを観察して適切な閾値ｒを決定する。操作者は、決定された閾値ｒを、入力機器２３を介して指定する。指定方法としては、例えば、図６に示すグラフにおいて、閾値ｒをカーソル等で指定すればよい。あるいは、キーボード等で閾値ｒの数値が入力されてもよい。閾値設定部２１５は、指定された閾値ｒを、判定層１４で利用する異常検知閾値に設定する。

【0059】

ステップＳ３０１～Ｓ３０８が行われることにより、特徴抽出層１１の学習パラメータ、再構成層１２の学習パラメータ及び判定層１４の異常検知閾値が決定される。これら特徴抽出層１１の学習パラメータ、再構成層１２の学習パラメータ及び判定層１４の異常検知閾値は機械学習モデル１に設定される。これにより学習済みの機械学習モデル１が完成することとなる。学習済みの機械学習モデル１は記憶装置２２に保存される。また、学習済みの機械学習モデル１は通信機器２４を介して、第２実施形態に係る異常検知装置に送信される。

【0060】

以上により、機械学習モデル１の学習処理が終了する。

【0061】

なお、上記の実施例は、一例であって、本実施形態はこれに限定されず、種々の変形が可能である。例えば、ステップＳ３０６において過検出率算出部２１４は、特徴抽出層１１及び再構成層１２の訓練に利用した正解データを用いて過検出率を算出することとした。しかしながら、過検出率算出部２１４は、特徴抽出層１１及び再構成層１２の訓練に利用していない他の正解データを用いて過検出率を算出してもよい。

【0062】

ここで、非特許文献１に示すニューラルネットワーク近傍法を比較例に挙げて本実施例の重みパラメータＷの利点について説明する。ニューラルネットワーク近傍法においては、ＤＴＭ（data transformation matrix）を利用して再構成データが生成される。ＤＴＭのデータサイズは、学習データの個数と入力データの次元数とに依存する。学習データの個数は膨大である。従ってニューラルネットワーク近傍法においては、再構成データを生成するため、大きなメモリ容量が要求される。

【0063】

本実施形態に係る重みパラメータＷのデータサイズは、特徴データの次元数Ｈと入力データの次元数とに依存する。特徴データの次元数Ｈは、学習に利用する正常データの個数Ｎに比して少ない。よって、本実施形態に係る重みパラメータＷのデータサイズは、比較例に示すＤＴＭのデータサイズに比して小さい。よって本実施形態によれば、再構成データの生成に必要なメモリ容量を、比較例に比して低減することが可能になる。

【0064】

（第２実施形態）
図７は、第２実施形態に係る異常検知装置７の構成例を示す図である。図７に示すように、異常検知装置７は、処理回路７１、記憶装置７２、入力機器７３、通信機器７４及び表示機器７５を有するコンピュータである。処理回路７１、記憶装置７２、入力機器７３、通信機器７４及び表示機器７５間のデータ通信はバスを介して行われる。

【0065】

処理回路７１は、ＣＰＵ等のプロセッサとＲＡＭ等のメモリとを有する。処理回路７１は、取得部７１１、特徴抽出部７１２、再構成部７１３、誤差算出部７１４、判定部７１５及び表示制御部７１６を有する。処理回路７１は、本実施形態に係る機械学習モデルを利用した異常検知に関する異常検知プログラムを実行することにより、上記各部７１１～７１６の各機能を実現する。異常検知プログラムは、記憶装置７２等の非一時的コンピュータ読み取り可能な記録媒体に記憶されている。異常検知プログラムは、上記各部７１１～７１６の全ての機能を記述する単一のプログラムとして実装されてもよいし、幾つかの機能単位に分割された複数のモジュールとして実装されてもよい。また、上記各部７１１～７１６はＡＳＩＣ等の集積回路により実装されてもよい。この場合、単一の集積回路に実装されても良いし、複数の集積回路に個別に実装されてもよい。

【0066】

取得部７１１は、診断用データを取得する。診断用データは、異常検知対象のデータであって、学習済みの機械学習モデルへの入力データを意味する。

【0067】

特徴抽出部７１２は、診断用データを、機械学習モデル１の特徴抽出層１１に適用して、当該診断用データに対応する特徴データ（以下、診断用特徴データと呼ぶ）を生成する。

【0068】

再構成部７１３は、診断用特徴データを、機械学習モデル１の再構成層１２に適用して、診断用データを再現した再構成データ（以下、診断用再構成データと呼ぶ）を生成する。

【0069】

誤差算出部７１４は、診断用データと診断用特徴データとの誤差を算出する。より詳細には、誤差算出部７１４は、診断用データと診断用特徴データとを、機械学習モデル１の誤差演算層１３に適用して、誤差を算出する。

【0070】

判定部７１５は、診断用データと診断用特徴データとの誤差を異常判定閾値に対して比較して診断用データの異常の有無、換言すれば、異常又は正常を判定する。より詳細には、判定部７１５は、誤差を機械学習モデル１の判定層１４に適用して異常の有無の判定結果を出力する。

【0071】

表示制御部７１６は、種々の情報を表示機器７５に表示する。一例として、表示制御部７１６は、異常の有無の判定結果を所定の表示形態で表示する。

【0072】

記憶装置７２は、ＲＯＭやＨＤＤ、ＳＳＤ、集積回路記憶装置等により構成される。記憶装置７２は、第１実施形態に係る機械学習装置２により生成された学習済みの機械学習モデルや異常検知プログラム等を記憶する。

【0073】

入力機器７３は、ユーザからの各種指令を入力する。入力機器７３としては、キーボードやマウス、各種スイッチ、タッチパッド、タッチパネルディスプレイ等が利用可能である。入力機器７３からの出力信号は処理回路７１に供給される。なお、入力機器７３としては、処理回路７１に有線又は無線を介して接続されたコンピュータの入力機器であってもよい。

【0074】

通信機器７４は、異常検知装置７にネットワークを介して接続された外部機器との間でデータ通信を行うためのインタフェースである。例えば、診断用データの生成機器や保管機器等から学習データを受信する。また、機械学習装置２から学習済みの機械学習モデルを受信する。

【0075】

表示機器７５は、種々の情報を表示する。一例として、表示機器７５は、表示制御部７１６による制御に従い異常の有無の判定結果を表示する。表示機器７５としては、ＣＲＴディスプレイや液晶ディスプレイ、有機ＥＬディスプレイ、ＬＥＤディスプレイ、プラズマディスプレイ又は当技術分野で知られている他の任意のディスプレイが適宜利用可能である。また、表示機器７５は、プロジェクタでもよい。

【0076】

以下、第２実施形態に係る異常検知装置７による診断用データに対する異常検知処理について説明する。異常検知処理は、第１実施形態に係る機械学習装置２により生成された学習済みの機械学習モデル１を利用して行われる。学習済みの機械学習モデル１は、記憶装置７２等に記憶されているものとする。

【0077】

図８は、異常検知処理の流れの一例を示す図である。図８に示す異常検知処理は、処理回路７１が記憶装置７２等から異常検知プログラムを読み出して当該異常検知プログラムの記述に従い処理を実行することにより実現される。また、処理回路７１は、記憶装置７２等から学習済みの機械学習モデル１を読み出しているものとする。

【0078】

図８に示すように、取得部７１１は、診断用データを取得する（ステップＳ８０１）。診断用データは、異常検知対象のデータであり、異常か正常かは不明である。

【0079】

ステップＳ８０１が行われると特徴抽出部７１２は、ステップＳ８０１において取得された診断用データを、特徴抽出層１１に適用して、診断用特徴データを生成する（ステップＳ８０２）。特徴抽出層１１には、第１実施形態に係るステップＳ３０２において最適化された学習パラメータが割り当てられている。

【0080】

ステップＳ８０２が行われると再構成部７１３は、ステップＳ８０２において生成された診断用特徴データを、再構成層１２に適用して、診断用再構成データを生成する（ステップＳ８０３）。再構成層１２には、ステップＳ３０４において最適化された学習パラメータＷが割り当てられている。再構成層１２は、診断用特徴データΦ（ｘ）に学習パラメータＷを乗算することにより再構成データｙ＝ＷΦ（ｘ）を出力する。上記の通り、学習パラメータＷは、診断用特徴データΦ（ｘ）の次元数Ｈ個の代表ベクトルを有している。再構成層１２における演算は、各代表ベクトルの、当該代表ベクトルに対応する診断用特徴データΦ（ｘ）の成分を重みとする重み付き和に帰着される。

【0081】

図９は、再構成層１２における演算の数式表現を模式的に示す図である。上記の通り、学習パラメータＷは、診断用特徴データΦ（ｘ）の次元数Ｈ個の代表ベクトルＶｈを有している。診断用再構成データｙは、代表ベクトルＶｈの、当該代表ベクトルＶｈに対応する診断用特徴データΦ（ｘ）の成分φｈを重み（係数）とする重み付き和（線型結合）により算出される。成分φｈは、代表ベクトルＶｈに対する重みとして機能する。代表ベクトルＶｈは、再構成層１２の機械学習に利用したＮ個の正常データｘｉの重み付き和に相当する。ここでの重みは、上記の通り、（３）式に示すΦ（Ｘ）^Ｔ［Φ（Ｘ）Φ（Ｘ）^Ｔ＋λＩ］^－１のうちの各正常データｘｉに対応する成分に対応する。

【0082】

図１０は、再構成層１２における演算の画像表現を模式的に示す図である。図１０に示すように、再構成層１２においては、診断用特徴データに、代表ベクトルの重み付き和を作用させることにより、診断用再構成データが生成される。図１０に示すように、各代表ベクトルは、診断用データ（又は入力データ）と同等の数字画像である。各代表ベクトルには、「１」～「９」までの数字の重み付け和で表されるオブジェクトが描画されている。

【0083】

ステップＳ８０３が行われると誤差算出部７１４は、ステップＳ８０１において取得された診断用データとステップＳ８０３において生成された診断用再構成データとの誤差を算出する（ステップＳ８０４）。より詳細には、誤差算出部７１４は、診断用データと診断用再構成データとを誤差演算層１３に適用して誤差を算出する。誤差としては、ステップＳ６０６において算出された誤差、上記実施例においては、２乗誤差が用いられるとよい。

【0084】

ステップＳ８０４が行われると判定部７１５は、ステップＳ８０４において算出された誤差を、判定層１４に適用して、診断用データの異常の有無の判定結果を出力する（ステップＳ８０５）。判定層１４には、ステップＳ６０７で設定された異常検知閾値が割り当てられている。誤差が異常検知閾値より大きい場合、診断用データが異常であると判定される。誤差が異常検知閾値より小さい場合、診断用データが正常であると判定される。

【0085】

ステップＳ８０５が行われると表示制御部７１６は、ステップＳ８０５において出力された判定結果を表示する（ステップＳ８０６）。例えば、判定結果として、診断用データが異常であるか正常であるかが表示機器７５に表示されるとよい。

【0086】

ここで、本実施形態に係る機械学習モデル１の異常検知性能について説明する。異常検知性能は、正常データである入力データを正しく再現し、異常データである入力データを正しく再現しない能力である。

【0087】

図１１は、機械学習モデル１の異常検知性能を示すグラフである。図１１の縦軸は異常検知性能を示す平均ＡＵＣを表し、横軸は特徴データの次元数Ｈを表す。なお、平均ＡＵＣは、一例として、ＲＯＣ曲線のＡＵＣ（曲線下面積）の平均値により算出される。平均ＡＵＣは、異常データを正しく再現しない比率である真陽性率と正常データを正しく再現する比率である真陰性率との比率に相当する。ＫＲＲ（ＩＤＦＤ）は、本実施形態に係る機械学習モデル１であり、カーネルリッジ再構成を実現する特徴抽出層１１及び再構成層１２を有し、特徴抽出層１１の学習パラメータΘが本実施形態に係る対照学習により訓練されている。ＫＲＲ（ＩＤＦＤ）は、カーネルリッジ再構成であり、特徴抽出層の学習パラメータがＧＡＮにより訓練されている。ＫＲＲ（ＩＤＦＤ）は、カーネルリッジ再構成であり、特徴抽出層の学習パラメータがＳｉｍＣＬＲにより訓練されている。Ｎ４は、一般的なニューラルネットワーク近傍法である。Ｎ４［Ｋａｔｏ＋，２０２０］は、非特許文献１に示すニューラルネットワーク近傍法である。

【0088】

図１１に示すように、本実施形態に係るＫＲＲ（ＩＤＦＤ）では、Ｎ４の約１．５％のメモリ量で同程度の異常検知性能を発揮することが可能である。また、その他の手法と比較して、本実施形態に係るＫＲＲ（ＩＤＦＤ）は、同等のメモリ量で、高い異常検知性能を発揮することが分かる。

【0089】

以上により、異常検知処理が終了する。

【0090】

なお、上記の実施例は、一例であって、本実施形態はこれに限定されず、種々の変形が可能である。例えば、ステップＳ８０６において表示制御部７１６は、判定結果を表示することとした。しかしながら、判定結果は、他のコンピュータに転送され表示されてもよい。

【0091】

（変形例１）
上記の説明においては、学習データは正常データのみを含むものとした。しかしながら、本実施形態はこれに限定されない。変形例１に係る学習データは正常データと異常データとを含むものとする。

【0092】

変形例１に係る第１学習部２１２は、特徴抽出層１１が上記２．の性質（入力データｘが異常データの場合、入力データの内積が大きい（又は小さい）なら特徴データの内積も小）を有するように学習パラメータΘが対照学習により訓練される。すなわち、第１学習部２１２は、学習データが正常データと異常データとを含む場合、正常データと異常データとの内積と、当該正常データに対応する特徴データと当該異常データに対応する特徴データとの内積と、の負の相関が高くなるように特徴抽出層１１の学習パラメータΘを訓練する。

【0093】

異常データを学習データとして利用することにより、特徴抽出層１１による正常データと異常データとの識別性能が向上し、ひいては、機械学習モデル１による異常検知性能の向上が期待される。

【0094】

（変形例２）
変形例２に係る第１学習部２１２は、正常データの特徴データに基づく対照学習及び無相関化により学習パラメータΘを訓練してもよい。無相関化により、ある正常データと他の正常データとの相関を略ゼロにすることが可能になる。この場合、対照損失関数Ｌには、特徴データを無相関化する正規化項が追加されるとよい。無相関化のための正規化項Ｒは、一例として、下記（５）式のように規定される。正規化項Ｒは、（１）式の対照損失関数Ｌに加算される。ただし、（５）式のＨは特徴ベクトルzの次元数、ｒ｛ｉ，ｊ｝はベクトルのｉ，ｊ要素の相関係数、τは温度パラメータである。

【数5】

【0095】

無相関化を行うことにより、特徴抽出層１１による正常データと異常データとの識別性能が向上し、ひいては、機械学習モデル１による異常検知性能の向上が期待される。

【0096】

（変形例３）
上記の実施例において次元数Ｈは、予め決定されるものとした。変形例３に係る次元数Ｈは、機械学習モデル１を実装する異常検知装置７の記憶装置７２に対して割り当てられる、機械学習モデル１に要する記憶容量に応じて決定されてもよい。一例として、機械学習モデル１のための記憶容量に十分な余裕がない場合、次元数Ｈは比較的小さい値に設定されるとよい。他の例として、機械学習モデル１のための記憶容量に十分な余裕がある場合、機械学習モデル１の性能を重視して、次元数Ｈは比較的大きい値に設定されるとよい。機械学習モデル１に要する記憶容量は、操作者により指定されるとよい。処理回路２１は、指定された記憶容量と、次元数１個あたりに要する記憶容量とに基づいて次元数Ｈを算出することが可能である。

【0097】

（変形例４）
上記の実施例において機械学習モデル１は、図１に示すように、特徴抽出層１１、再構成層１２、誤差演算層１３及び判定層１４を有するものとした。しかしながら、本実施形態に係る機械学習モデル１は、少なくとも特徴抽出層１１と再構成層１２とを有していればよい。すなわち、入力データと再構成データとの誤差の計算と、異常検知閾値を利用した異常の有無の判定は、機械学習モデルに組み込まれる必要はない。この場合、変形例４に係る機械学習モデル１とは異なる、プログラム等に従い、入力データと再構成データとの誤差の計算と、異常検知閾値を利用した異常の有無の判定とが行われればよい。

【0098】

（付言）
上記の通り、第１実施形態に係る機械学習装置２は、入力データから当該入力データの特徴データを抽出する特徴抽出層１１と、当該特徴データから当該入力データの再構成データを生成する再構成層１２と、を学習する。機械学習装置２は、第１学習部２１２と第２学習部２１３とを有する。第１学習部２１２は、Ｎ個の学習データに基づいて特徴抽出層１１の第１の学習パラメータΘを訓練する。第２学習部２１３は、Ｎ個の学習データに学習済みの特徴抽出層１１を適用して得られるＮ個の学習特徴データに基づいて、前記再構成層の第２の学習パラメータＷを訓練する。学習パラメータＷは、特徴データの次元数個の代表ベクトルを表す。次元数個の代表ベクトルは、複数個の学習データの重み付き和で規定される。

【0099】

上記の通り、第２実施形態に係る異常検知装置７は、特徴抽出部７１２、再構成部７１３及び判定部７１５を有する。特徴抽出部７１２は、診断用データから特徴データを抽出する。再構成部７１３は、特徴データから再構成データを生成する。ここで、再構成部７１３は、特徴データと特徴データの次元数個の代表ベクトルとの重み付き和に基づいて、再構成データを生成する。判定部７１５は、診断用データと再構成データとに基づき診断用データの異常の有無を判定する。

【0100】

上記の構成によれば、省メモリ容量且つ高性能な異常検知性能を達成することができる。

【0101】

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

【符号の説明】

【0102】

１…機械学習モデル、２…機械学習装置、７…異常検知装置、１１…特徴抽出層、１２…再構成層、１３…誤差演算層、１４…判定層、２１…処理回路、２２…記憶装置、２３…入力機器、２４…通信機器、２５…表示機器、２６…表示制御部、７１…処理回路、７２…記憶装置、７３…入力機器、７４…通信機器、７５…表示機器、２１１…取得部、２１２…第１学習部、２１３…第２学習部、２１４…過検出率算出部、２１５…閾値設定部、２１６…表示制御部、７１１…取得部、７１２…特徴抽出部、７１３…再構成部、７１４…誤差算出部、７１５…判定部、７１６…表示制御部。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】