特許 7167084 異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2022-10-28

(45)【発行日】2022-11-08

(54)【発明の名称】異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法

(51)【国際特許分類】

   G06N 7/00 20060101AFI20221031BHJP

   G06F 11/07 20060101ALI20221031BHJP

   G06N 3/08 20060101ALI20221031BHJP

【ＦＩ】

G06N7/00 150

G06F11/07 140Q

G06F11/07 154

G06N3/08

【請求項の数】 24

(21)【出願番号】P 2020077546

(22)【出願日】2020-04-24

(62)【分割の表示】P 2017553636の分割

【原出願日】2016-12-01

(65)【公開番号】P2020119605

(43)【公開日】2020-08-06

【審査請求日】2020-05-25

【審判番号】

【審判請求日】2022-01-07

(31)【優先権主張番号】P 2015234923

(32)【優先日】2015-12-01

(33)【優先権主張国・地域又は機関】JP

(73)【特許権者】

【識別番号】515130201

【氏名又は名称】株式会社Ｐｒｅｆｅｒｒｅｄ Ｎｅｔｗｏｒｋｓ

(74)【代理人】

【識別番号】100091487

【弁理士】

【氏名又は名称】中村 行孝

(74)【代理人】

【識別番号】100118876

【弁理士】

【氏名又は名称】鈴木 順生

(74)【代理人】

【識別番号】100202429

【弁理士】

【氏名又は名称】石原 信人

(72)【発明者】

【氏名】岡野原 大輔

(72)【発明者】

【氏名】大野 健太

【合議体】

【審判長】篠原 功一

【審判官】林 毅

【審判官】山澤 宏

(56)【参考文献】

【文献】Ｄｉｅｄｅｒｉｋ Ｐ． Ｋｉｎｇｍａ ｅｔ ａｌ．、 Ａｕｔｏ－Ｅｎｃｏｄｉｎｇ Ｖａｒｉａｔｉｏｎａｌ Ｂａｙｅｓ， ａｒＸｉｖ：１３１２．６１１４， ２０１４年５月１日、（ＵＲＬ）ｈｔｔｐｓ：／／ａｒｘｉｖ．ｏｒｇ／ａｂｓ／１３１２．６１４４

【文献】Ｍａｙｕ Ｓａｋｕｒａｄａ ｅｔ ａｌ．， Ｈｙｐｅｒｓｐｅｃｔｒａｌ Ａｎｏｍａｌｙ Ｄｅｔｅｃｔｉｏｎ Ｕｓｉｎｇ Ａｕｔｏｅｎｃｏｄｅｒｓ ｗｉｔｈ Ｎｏｎｌｉｎｅａｒ Ｄｉｍｅｎｓｉｏｎａｌｉｔｙ Ｒｅｄｕｃｔｉｏｎ， ＭＬＳＤＡ’１４：Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ＭＬＳＤＡ ２０１４ ２ｎｄ Ｗｏｒｋｓｈｏｐ ｏｎ Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ ｆｏｒ Ｓｅｎｓｏｒｙ Ｄａｔａ Ａｎａｌｙｓｉｓ， ２０１４年１２月、（ＵＲＬ）ｈｔｔｐｓ：／／ｄｌ．ａｃｍ．ｏｒｇ／ｄｏｉ／ｐｄｆ／１０．１１４５／２６８９７４６．２６８９７４７

(58)【調査した分野】(Int.Cl.，ＤＢ名)

G06N3/08

G06N7/00

G06F11/07

(57)【特許請求の範囲】

【請求項1】

入力データを潜在変数にエンコードして当該潜在変数をデコードする所定の機械学習モデルに異常検出の処理対象のデータを入力し、当該所定の機械学習モデルから当該処理対象のデータに対応する出力データを取得する取得手段と、
前記所定の機械学習モデルから出力された、前記処理対象のデータに対応する前記出力データを少なくとも用いて、異常検出に関する処理を行う処理手段と、
を備え、
前記所定の機械学習モデルは、正常データに対応する潜在変数の確率分布を所定の確率分布でモデル化している、異常検出システム。

【請求項2】

前記所定の機械学習モデルは、正常データを含む訓練データを用いて、正常データに対応する潜在変数の確率分布が前記所定の確率分布に近づくように学習されたものである、
請求項１に記載の異常検出システム。

【請求項3】

前記所定の機械学習モデルは、前記エンコードを行うエンコーダ部と、前記デコードを行うデコーダ部とを有し、当該エンコーダ部および当該デコーダ部は、それぞれ、多層ニューラルネットワークで実装される、請求項１又は２に記載の異常検出システム。

【請求項4】

前記エンコーダ部および前記デコーダ部を実装する各多層ニューラルネットワークのパラメータは、潜在変数の確率分布に関する正則化項を含む所定関数に基づく誤差逆伝播法によって学習される、請求項３に記載の異常検出システム。

【請求項5】

前記正則化項は、前記所定の確率分布の、前記エンコーダ部によって前記正常データを含む訓練データからエンコードされた潜在変数の確率分布に対するカルバックライブラ距離に対応する、請求項４に記載の異常検出システム。

【請求項6】

前記所定の機械学習モデルは、ＶＡＥ、ＡＡＥ、ＬＶＡＥ、ＡＤＧＭのいずれかである、請求項１乃至３のいずれか1項に記載の異常検出システム。

【請求項7】

前記所定の機械学習モデルは、異常検出の処理対象のデータなしに、正常データに対応する潜在変数の確率分布を前記所定の確率分布でのモデル化を学習済みである、請求項１乃至６のいずれか1項に記載の異常検出システム。

【請求項8】

前記取得手段は、前記処理対象のデータを前記所定の機械学習モデルに入力して前記エンコードおよび前記デコードを行って、前記処理対象のデータに対応する前記出力データを取得する、請求項１乃至７のいずれか1項に記載の異常検出システム。

【請求項9】

前記処理手段は、前記所定の機械学習モデルから出力された、前記処理対象のデータに対応する前記出力データの他に、前記処理対象のデータも少なくとも用いて、前記異常検出に関する処理を行う、請求項１乃至８のいずれか1項に記載の異常検出システム。

【請求項10】

前記取得手段は、前記処理対象のデータを前記所定の機械学習モデルに入力し、当該入力された処理対象のデータに対する前記所定の機械学習モデルによる前記エンコードおよび前記デコードによって得られたデータを、前記処理対象のデータに対応する前記出力データとして取得し、
前記処理手段は、前記処理対象のデータおよび前記出力データを少なくとも用いて、前記異常検出に関する処理を行う、請求項１乃至９のいずれか1項に記載の異常検出システム。

【請求項11】

前記異常検出に関する処理は、前記所定の機械学習モデルによる前記処理対象のデータの尤度を計算する処理を含む、請求項１乃至１０のいずれか1項に記載の異常検出システム。

【請求項12】

前記出力データは、前記処理対象のデータの復元データであり、
前記異常検出に関する処理は、前記処理対象のデータと前記復元データとのずれを計算する処理を含む、請求項１乃至１０のいずれか1項に記載の異常検出システム。

【請求項13】

前記異常検出に関する処理によって得られるデータに基づいて、異常が判定される、請求項１乃至１２のいずれか1項に記載の異常検出システム。

【請求項14】

前記処理対象のデータおよび前記正常データは、センサデータである、請求項１乃至１３のいずれか1項に記載の異常検出システム。

【請求項15】

前記処理対象のデータおよび前記正常データは、前処理が行われたセンサデータである、請求項１４に記載の異常検出システム。

【請求項16】

前記センサデータは、画像データまたは物理量データである、請求項１４又は１５に記載の異常検出システム。

【請求項17】

前記所定の確率分布は、標準正規分布である、請求項１乃至１６のいずれか1項に記載の異常検出システム。

【請求項18】

異常検出の処理対象のデータを潜在変数にエンコードするエンコーダであって、正常データに対応する潜在変数の確率分布を所定の確率分布でモデル化し、当該エンコーダによって異常検出の処理対象の前記データがエンコードされた前記潜在変数に少なくとも基づいて当該データの異常検出に関する処理が行われる、エンコーダと、
前記エンコーダによってエンコードされた潜在変数をデコードするデコーダと、
異常検出の処理対象の前記データと、異常検出の処理対象の前記データを前記エンコーダによって前記潜在変数にエンコードして当該潜在変数を前記デコーダによってデコードすることで得られるデータと、に基づいて、異常検出の処理対象の前記データの異常の程度の指標を計算することを含む、異常検出に関する処理を行う処理手段と、
を備える異常検出システム。

【請求項19】

異常検出の処理対象のデータを潜在変数にエンコードするエンコーダであって、
１以上のコンピュータによって、
入力データを潜在変数にエンコードして当該潜在変数をデコードする所定の機械学習モデルに正常データを含む訓練データを入力し、当該訓練データを潜在変数にエンコードして当該訓練データに対応する潜在変数をデコードすることと、
前記所定の機械学習モデルに前記訓練データを入力して前記エンコードおよび前記デコードが行われて得られるデータと当該訓練データとのずれが減り、且つ、正常データの潜在変数の確率分布が所定の確率分布に近づくよう、前記所定の機械学習モデルのパラメータを更新することと、
が実行されて得られる前記所定の機械学習モデルのエンコーダ部のパラメータを有する、異常検出の処理対象のデータを潜在変数にエンコードするエンコーダ。

【請求項20】

入力データを潜在変数にエンコードして当該潜在変数をデコードする所定の機械学習モデルに異常検出の処理対象のデータを入力し、当該所定の機械学習モデルから当該処理対象のデータに対応する出力データを取得する取得工程と、
前記所定の機械学習モデルから出力された、前記処理対象のデータに対応する前記出力データを少なくとも用いて、異常検出に関する処理を行う処理工程と、
を備え、
前記所定の機械学習モデルは、正常データに対応する潜在変数の確率分布を所定の確率分布でモデル化している、異常検出方法。

【請求項21】

前記取得工程は、前記処理対象のデータを前記所定の機械学習モデルに入力し、当該入力された処理対象のデータに対する前記所定の機械学習モデルによる前記エンコードおよび前記デコードによって得られたデータを、前記処理対象のデータに対応する前記出力データとして取得し、
前記処理工程は、前記処理対象のデータおよび前記出力データを少なくとも用いて、前記異常検出に関する処理を行う、請求項２０に記載の異常検出方法。

【請求項22】

１以上のコンピュータに、
入力データを潜在変数にエンコードして当該潜在変数をデコードする所定の機械学習モデルに異常検出の処理対象のデータを入力し、当該所定の機械学習モデルから当該処理対象のデータに対応する出力データを取得する取得工程と、
前記所定の機械学習モデルから出力された、前記処理対象のデータに対応する前記出力データを少なくとも用いて、異常検出に関する処理を行う処理工程と、
を実行させるためのコンピュータプログラムであって、
前記所定の機械学習モデルは、正常データに対応する潜在変数の確率分布を所定の確率分布でモデル化している、コンピュータプログラム。

【請求項23】

前記取得工程は、前記処理対象のデータを前記所定の機械学習モデルに入力し、当該入力された処理対象のデータに対する前記所定の機械学習モデルによる前記エンコードおよび前記デコードによって得られたデータを、前記処理対象のデータに対応する前記出力データとして取得し、
前記処理工程は、前記処理対象のデータおよび前記出力データを少なくとも用いて、前記異常検出に関する処理を行う、請求項２２に記載のコンピュータプログラム。

【請求項24】

１以上のコンピュータによって、
入力データを潜在変数にエンコードして当該潜在変数をデコードする所定の機械学習モデルに正常データを含む訓練データを入力し、当該訓練データを潜在変数にエンコードして当該訓練データに対応する潜在変数をデコードする工程と、
前記所定の機械学習モデルに前記訓練データを入力して前記エンコードおよび前記デコードが行われて得られるデータと当該訓練データとのずれが減り、且つ、正常データの潜在変数の確率分布が所定の確率分布に近づくよう、前記所定の機械学習モデルのパラメータを更新する工程と、
を実行し、前記所定の機械学習モデルを、異常検出の処理対象のデータを入力して当該データが正常であるか異常であるかを判定するために用いられる異常検出モデルとして得る、異常検出モデルの生成方法。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法に関する。

【背景技術】

【0002】

従来、機械の故障判定及び故障原因の特定は、機械の正常稼働時のセンサデータと過去の故障時のセンサデータを比較することによって行われていた（例えば、下記特許文献１の図１３の故障判定の処理ルーチンを示したフローチャートを参照）。この判定のとき、センサデータを正確且つ効率的に比較するためには、当該センサデータの発信源であるセンサを正確且つ効率的に選択することによって、高精度且つ効率的に故障原因の分類を行うことができる。

【0003】

しかし、選択するセンサの数が多い場合、適当なセンサを選択するために、膨大な工数が必要となる。また、適当なセンサを選択するためには、機械に取り付けられているセンサ１つ１つの知識や対象機械の機械的な特性に対する知識が必要であった。

【先行技術文献】

【特許文献】

【0004】

【文献】特開２０１２－０９８９０１号公報

【発明の概要】

【発明が解決しようとする課題】

【0005】

今日の高度な制御を伴う機械などは、複数のセンサによって制御管理されている。例えば、自動車には、１台当たり１００種類以上のセンサが取り付けられている。また、新しい機械や未知の故障の場合、たとえ高度な専門知識と豊富な経験を有する特定の者であっても、対応することができなかった。そのため、高度な専門知識または豊富な経験を必要とせずに、効率的にセンサの選択を行う方法またはシステムが求められる。

【0006】

更に、効率的にセンサの選択を行えたとしても、対処が必要な事象におけるノイズ、エラー、故障を含め、センサのデータの定義は複雑である。その上、適用するアプリケーションによっても、対処が必要な事象の定義が異なるため、センサのデータを検出する汎用的な手段が求められる。

【0007】

また、センサデータを検出する手段は、センサデータやアプリケーション毎に異常値スコア関数の設計が必要である。したがって、センサデータやアプリケーションの数が増える度に異常値スコア関数を設計する必要があり、特徴設計中で異常検知に重要な情報を見逃す恐れもあった。

【0008】

また、データやアプリケーションセンサデータ周波数領域において、事象がそもそも稀な事象であり複合的な要因が重なる場合、モデル、ルール、又は、閾値設計が非常に困難であったので、より汎化性、適応性の高いシステムが求められる。

【0009】

本発明では、前述の従来技術における課題を解決するため、例えば、電力、水道、ガス、交通、通信、医療、金融、サービスなどの社会インフラを支える情報システムから出力される様々なセンサデータやアプリケーションデータを学習し、起こり得る事象の正常異常を判定（予測を含む）する異常検出システム、異常検出方法、異常検出プログラム及び学習済モデル生成方法を提供する。

【課題を解決するための手段】

【0010】

本発明の異常検出システムは、予め学習の行われた潜在変数モデルと同時確率モデルとを格納する格納手段と、異常検出対象の入力データを取得する取得手段と、前記格納手段に格納された潜在変数モデルに基づいて、前記入力データから潜在変数を推論するエンコーダと、前記格納手段に格納された同時確率モデルに基づいて、前記潜在変数から復元データを生成するデコーダと、前記入力データと復元データのずれに基づいて、当該入力データが正常であるか又は異常であるかを判定する判定手段と、を備えることを特徴とする。

【0011】

また、本発明の異常検出システムは、前記判定手段は、前記エンコーダ及びデコーダでの処理過程で得られるパラメータによって演算した尤度に基づいて、入力データと復元データのずれ量を判定するようにしたことを特徴とする。

【0012】

また、本発明の異常検出システムは、前記判定手段は、入力データと復元データの各次元ごとの成分のずれを演算して求め、何れかの次元において大きな乖離がある場合に異常であると判定するようにしたことを特徴とする。

【0013】

また、本発明の異常検出システムは、正常データからなる訓練データに基づいて潜在変数モデルと同時確率モデルとを学習する学習手段をさらに備えることを特徴とする。

【0014】

また、本発明の異常検出システムは、前記測定手段は、ＶＡＥ、ＡＡＥ、ＬＶＡＥ、ＡＤＧＭの何れかによって前記エンコーダ及びデコーダを構築したことを特徴とする。

【0015】

ところで、本発明は、上記のように異常検出システムの発明として記述できる他に、以下のようにそれぞれ異常検出方法及び異常検出プログラムの発明としても記述することができる。これはカテゴリが異なるだけで、実質的に同一の発明であり、同様の作用及び効果を奏する。また、本発明は、上記の異常検出システム、異常検出方法及び異常検出プログラムにおいて用いる学習済モデル生成方法の発明としても記述することができる。

【0016】

本発明に係る異常検出方法は、予め学習の行われた潜在変数モデルと同時確率モデルとを格納する格納手段を備える異常検出システムにより実行される異常検出方法であって、異常検出対象の入力データを取得する取得ステップと、前記格納手段に格納された潜在変数モデルに基づいて、前記入力データから潜在変数を推論する推論ステップと、前記格納手段に格納された同時確率モデルに基づいて、前記潜在変数から復元データを生成する生成ステップと、前記入力データと復元データのずれに基づいて、当該入力データが正常であるか又は異常であるかを判定する判定ステップと、を含むことを特徴とする。

【0017】

本発明に係る異常検出プログラムは、コンピュータを、予め学習の行われた潜在変数モデルと同時確率モデルとを格納する格納手段と、異常検出対象の入力データを取得する取得手段と、前記格納手段に格納された潜在変数モデルに基づいて、前記入力データから潜在変数を推論するエンコーダと、前記格納手段に格納された同時確率モデルに基づいて、前記潜在変数から復元データを生成するデコーダと、前記入力データと復元データのずれに基づいて、当該入力データが正常であるか又は異常であるかを判定する判定手段、として機能させることを特徴とする。

【0018】

本発明に係る学習済モデル生成方法は、入力データについて異常検出を行うための潜在変数モデルと同時確率モデルとからなる学習済モデル生成方法であって、正常なデータからなる少なくとも１以上の訓練データを取得する訓練データ取得ステップと、前記潜在変数モデルに基づいて、前記訓練データから潜在変数を推論する推論ステップと、前記同時確率モデルに基づいて、前記潜在変数から復元データを生成する生成ステップと、前記訓練データと復元データのずれを演算するずれ演算ステップと、前記ずれに基づいて前記潜在変数モデルと同時確率モデルのパラメータを更新するパラメータ更新ステップと、を含むことを特徴とする。

【発明の効果】

【0019】

本発明によれば、従来よりも簡単に故障原因を分類するために有効と考えられるセンサを選択することができる。例えば、機械知識を必要としなくとも故障原因を分類するために有効と考えられるセンサの選択が可能となる。

【0020】

本発明によれば、機器の状態を適切に異常判定へ反映させて、異常判定の誤報を減らすことができる。また、機器稼働データの変動要因に応じて従来よりも早期の異常判定が可能になる。それによって、保守員や運転員に対して適切な対応行動を提示することができる。

【0021】

本発明によれば、正常と診断されるセンサデータを用いて、学習データを更新することにより、外れ値の影響を抑制できる。また、経年劣化に追従することができる。

【図面の簡単な説明】

【0022】

【図1】本発明の実施形態に係る異常検出システムの機能ブロック図である。

【図2】本発明の実施形態に係る異常検出システムのハードウェア構成を示す図である。

【図3】本発明の実施形態に係る異常検出システムで実行される処理（異常検出方法）を示すフローチャートである。

【図4】本発明の実施形態に係る異常検出システムの実施例で実行される処理（異常検出方法）を示すフローチャートである。

【図5】ＶＡＥを利用した本発明の実施形態に係る異常検出システムを示す図（その１）である。

【図6】ＶＡＥを利用した本発明の実施形態に係る異常検出システムを示す図（その２）である。

【図7】ＶＡＥを利用した本発明の実施形態に係る異常検出システムで実行される処理（異常検出方法）を示すフローチャートである。

【図8】ＡＡＥを利用した本発明の実施例２に係る異常検出システムを表した概念図である。

【図9】ＬＶＡＥを利用した本発明の実施例３に係る異常検出システムを表した概念図である。

【図10】ＡＤＧＭを利用した本発明の実施例４に係る異常検出システムを表した概念図である。

【発明を実施するための形態】

【0023】

以下、図面とともに異常検出システム、異常検出方法及び異常検出プログラムの好適な実施形態について詳細に説明する。なお、図面の説明においては同一要素には同一符号を付し、重複する説明を省略する。

【0024】

図１は、本発明の実施形態に係る異常検出システム１の機能ブロック図である。図１に示す通り、異常検出システム１は、格納部１０（格納手段）、取得部１１（取得手段）、測定部１２（測定手段）、判定部１３（判定手段）及び学習部１４（学習手段）を含んで構成される。

【0025】

格納部１０は、潜在変数モデルと同時確率モデルとを格納する。格納部１０は例えばデータベースである。取得部１１は、センサが出力するセンサデータを取得する。測定部１２は、格納部１０によって格納された潜在変数モデルと同時確率モデルとに基づいて、取得部１１によって取得されたセンサデータの尤度を測定する。判定部１３は、測定部１２によって測定されたセンサデータの尤度に基づいて、当該センサデータが正常であるか又は異常であるかを判定する。学習部１４は、センサが出力するセンサデータに基づいて潜在変数モデルと同時確率モデルとを学習する。

【0026】

測定部１２は、取得部１１によって取得されたセンサデータについて、格納部１０によって格納された潜在変数モデルに基づいて当該センサデータの次元よりも低い次元に変換し、格納部１０によって格納された同時確率モデルに基づいて元の次元に変換することで尤度を測定してもよい。また、測定部１２は、変分自己符号化器を利用して尤度を測定してもよい。学習部１４は、センサが出力する正常時のセンサデータのみに基づいて潜在変数モデルと同時確率モデルとを学習してもよい。

【0027】

異常検出システム１は、ＣＰＵ等のハードウェアから構成されているものである。図２は、異常検出システム１のハードウェア構成の一例を示す図である。図１に示される異常検出システム１は、物理的には、図２に示すように、ＣＰＵ１００、主記憶装置であるＲＡＭ１０１及びＲＯＭ１０２、ディスプレイ等の入出力装置１０３、通信モジュール１０４、及び補助記憶装置１０５などを含むコンピュータシステムとして構成されている。

【0028】

図１に示す異常検出システム１の各機能ブロックの機能は、図２に示すＣＰＵ１００、ＲＡＭ１０１等のハードウェア上に所定のコンピュータソフトウェアを読み込ませることにより、ＣＰＵ１００の制御のもとで入出力装置１０３、通信モジュール１０４、及び補助記憶装置１０５を動作させるとともに、ＲＡＭ１０１におけるデータの読み出し及び書き込みを行うことで実現される。

【0029】

［異常検出システム１が含む工程］
異常検出システム１は、３つの工程を含む（図３）。
工程１；潜在変数モデルと同時確率モデルを同時に学習する工程（学習部１４により実現される）。
工程２；前記学習された潜在変数モデルと同時確率モデルを利用して、テスト用データ尤度ｐ（ｘ）を測定する工程（取得部１１及び測定部１２により実現される）。
工程３；前記尤度ｐ（ｘ）に関する情報を用いて正常か異常かを判定する工程（判定部１３により実現される）。

【0030】

［１．工程１について］
工程１は、潜在変数モデルと同時確率モデルを同時に学習する工程である。

【0031】

かかる工程１では、観測変数ｘから潜在変数ｚへ条件付き確率ｐ（ｚ｜ｘ）、及び、潜在変数から観測変数へ条件付き確率ｐ（ｘ｜ｚ）を学習する。

【0032】

前記条件付き確率ｐ（ｚ｜ｘ）及び条件付き確率ｐ（ｘ｜ｚ）の学習をするとき、ニューラルネットを利用してもよい。ニューラルネットを利用することによって、観測したデータ数によらず、パラメータ数に対して線形で学習することができる。

【0033】

潜在変数モデルとは、前記条件付き確率ｐ（ｚ｜ｘ）を、例えばニューラルネットを用いて、モデル化したものである。潜在変数モデルは格納部１０によって格納される。

【0034】

同時確率は、ｐ（ｘ，ｚ）で、又は、ｐ（ｚ）・ｐ（ｘ｜ｚ）で表される。そして同時確率モデルは、例えばニューラルネットを用いて、同時確率を独立にモデル化したものである。同時確率モデルは格納部１０によって格納される。

【0035】

ニューラルネットは、その構成を特に限定しない。例えば、全結合層、非線形関数（ｓｉｇｍｏｉｄ，ｒｅｌｕ）、バッチ正規化層、ドロップアウト層を含んでもよい。

【0036】

入力データ（センサが出力するセンサデータ）は取得部１１によってセンサなどから取得される。入力データは、特に限定しない。入力データは、例えば、多次元配列、テンソルなどである。取得部で取得する入力データは、センサからのセンサデータに限られず、異常検出の対象となるデータであれば様々なデータが対象となり得る。

【0037】

入力データｘがｎ次元ベクトルのとき、各値は、例えば、連続値、離散値などである。また、複数の入力データがあるときは、多次元配列又はテンソルに拡張することができる。

【0038】

センサの具体例としては、ロボットに搭載されているカメラ、３次元加速度センサ、アクチュエータ、温度センサ、湿度センサなどが挙げられる。センサデータの具体例としては、カメラからの画像データ、３次元加速度センサからの位置・速度・加速度情報、アクチュエータにかかる電流・電圧量、もしくはそれらを適当な時間的にウィンドウ幅で区切ったもの、もしくはその一つ一つを周波数分解したものなどが挙げられる。

【0039】

工程１から工程３において、ＳＶＭ，又はＬＯＦを利用して正常か異常かを判定してもよいし、変分自己符号化器（Ｖａｒｉａｔｉｏｎａｌ ＡｕｔｏＥｎｃｏｄｅｒ；以後、ＶＡＥと言う）を利用して正常か異常かを判定してもよい。特に、ＶＡＥを利用することがより好ましい（図５～７）。

【0040】

このとき、工程１においてＶＡＥを利用して、潜在変数モデル、すなわち観測変数ｘから潜在変数ｚへの条件付確率ｐ（ｚ｜ｘ）を学習するとき、その学習器をエンコーダと呼ぶ。一方、潜在変数ｚから観測変数ｘへの条件付確率ｐ（ｘ｜ｚ）を学習するとき、その学習器をデコーダと呼ぶ。

【0041】

エンコーダの入力は、センサデータであり、機器のテストを行うことで得られたものである（適当な時間間隔でのサンプリングが一定時間与えられている）。なお、テストは、連続的もしくは周期的に複数回行われる。デコーダの出力は、センサデータの各次元の異常度、尤度で表されている。

【0042】

ＶＡＥは、ＳＶＭ又はＬＯＦよりも、確率値を容易に出すことができる。故に、異常検出システム１は、ＶＡＥを利用するとき、ＳＶＭ又はＬＯＦを利用するときよりも、異なる物理量をもつセンサの場合でも、異常スコアを比較することがより容易になる。

【0043】

また、ＶＡＥは、ＳＶＭ又はＬＯＦよりも、データ表現の非線形な変換を容易に行うことができる。故に、異常検出システム１は、ＶＡＥを利用するとき、ＳＶＭ又はＬＯＦを利用するときよりも、より複雑なデータ表現の分布を作成することができる。

【0044】

また、ＶＡＥは、ＳＶＭ又はＬＯＦよりも、入力データの各次元について異常スコアを出すことができる。故に、異常検出システム１は、ＶＡＥを利用するとき、ＳＶＭ又はＬＯＦを利用するときよりも、異常事象の原因となる入力データソースの特定が容易である。

【0045】

また、ＶＡＥは、ＳＶＭ又はＬＯＦよりも、類似度をより高速に学習することができる。故に、異常検出システム１は、ＶＡＥを利用するとき、ＳＶＭ又はＬＯＦを利用するときよりも、マニュアルでデータ間の類似度を設計する必要がなくなる。

【0046】

例えば、ＶＡＥを利用するときは、下記の通りである。
ｐ（ｚ）～Ｎ（０，Ｉ）
ｐ（ｘ｜ｚ）～Ｎ（μ（ｚ），σ（ｚ））
Ｎ（μ，σ）は、平均μ，分散σからなる正規分布である。
μ（ｚ），σ（ｚ）は、ニューラルネットからの出力である。

【0047】

異常検出システム１では、エンコーダ及びデコーダでの条件付き確率ｐ（ｚ｜ｘ）及びｐ（ｘ｜ｚ）の学習の際に、損失関数を最小化する。ここでいう、損失関数は、例えば、負の対数尤度－ｌｏｇｐ（ｘ）などを利用することができる。
－ｌｏｇｐ（ｘ）＝－ｌｏｇΠｐ（ｘ＿ｉ）＝－Σｌｏｇ∫ｐ（ｘ＿ｉ｜ｚ）ｐ（ｚ）ｄｚ

【0048】

ｚによる積分をするとき、変分下限は下記の数式で算出される。変分下限は、正の対数尤度ｌｏｇｐ（ｘ）＝ｌｏｇΠｐ（ｘ＿ｉ）を下限値から評価する。
－ｌｏｇΠｐ（ｘ＿ｉ）＝－Σ＿ｉｌｏｇ∫ｐ（ｘ＿ｉ｜ｚ；θ）ｐ（ｚ）ｄｚ
＜＝－Σ＿ｉｑ（ｚ｜ｘ；ξ）∫ｌｏｇｐ（ｘ＿ｉ｜ｚ；θ）ｐ（ｚ）／ｑ（ｚ｜ｘ＿ｉ；ξ）ｄｚ
＝Σ＿ｉＥ＿｛ｑ（ｚ｜ｘ＿ｉ；ξ）｝［ｐ（ｘ＿ｉ｜ｚ；θ）］－ＫＬ（ｐ（ｚ）｜｜ｑ（ｚ｜ｘ＿ｉ；ξ））

【0049】

ここで、Ｅ＿｛ｑ（ｚ｜ｘ＿ｉ；ξ）｝［・］は、ｑ（ｚ｜ｘ＿ｉ；ξ）についての期待値である。ＫＬ（ｐ｜｜ｑ）は、分布ｐ，ｑのＫＬ距離である。

【0050】

上記の変分下限を最大化するために、θ，ξを最適化する。このとき、逆誤差伝搬法によって、学習速度を高速化することができる。例えば、Ｒｅｐａｒａｍｅｔｅｒｉｚａｔｉｏｎ Ｔｒｉｃｋを使うことができる。

【0051】

［２．工程２について］
工程２は、前記学習された潜在変数モデルと同時確率モデルを利用して、テスト用データ尤度ｐ（ｘ）を測定する工程である。

【0052】

［３．工程３について］
工程３は、前記尤度ｐ（ｘ）に関する情報を用いて正常か異常かを判定する工程である。

【0053】

かかる工程３では、前記テスト用データ尤度ｐ（ｘ）が閾値より小さいか否か、前記テスト用データ尤度ｐ（ｘ）のｎ次微分が閾値より小さいか否か、又は、それらの組み合わせ、の情報を用いて正常か異常かを判定する。

【0054】

例えば、あるセンサデータが示す値について正常か異常かを判定するとき、ｘ→ｚ→ｘ’と変換した際、ｘ’とｘの差を測ることで正常か異常を判定することができる。

【0055】

センサは、その対象、その個数を特に限定しない。例えば、時間毎、周波数毎の強さでもよいまた、センサは、異なる機器に対するものでも良い。

【0056】

［実施例１］
前述の通り、異常検出システム１は、繰り返し動作において外乱確率分布が正常時と異常時で変わるとき、正常時データで確率モデルＰを学習して、Ｐによる観測データｘ、尤度ｐ（ｘ）変化を異常予測する。

【0057】

以下、本発明の実施形態の一例として、５つの手順を実行するシステムを示す。以下、異常検出システム１の手順１から手順５について説明する（図４）。

【0058】

［手順１について］
手順１（取得部１１により実現）では、入力データに対しての前処理を行う。たとえばスペクトラム変換をしてもよい。

【0059】

［手順２について］
手順２（学習部１４により実現）では、正常状態にあるデータ群を訓練データとして入力し、入力データを復元するように確率モデルＰを学習する。例えば、スペクトラムを並べたベクトルを入力ｘとすることができる。

【0060】

次元数が数千次元のとき、高次元なベクトルの確率モデル推定は困難であった。そこで、異常検出システム１では、確率モデルの推定に、ディープラーニングを利用する。例えば、次の潜在変数モデルになる。なお、下記の数式の「：＝」は、「定義する」なる意味を示す。
ｐ（ｘ；θ）：＝∫ｐ（ｘ，ｚ；θ）ｄｚ ｐ（ｘ，ｚ；θ）：＝ｐ（ｘ｜ｚ；θ）ｐ（ｚ）

【0061】

ｚをＮ（０，Ｉ）から生成し、次にｚからｘをＮ（μ（ｚ；θ），σ（ｚ；θ））から生成する。但しμ（ｚ；θ），σ（ｚ；θ）パラメータθにより特徴付けられたニューラルネットを利用する。そして、訓練データＸの対数尤度Σｌｏｇｐ（ｘ；θ）を最大にするようにθを最適化する。

【0062】

当該θの最適化は、対数尤度の和の計算があるため困難であった。
ｐ（ｘ；θ）：＝∫ｐ（ｘ｜ｚ；θ）ｐ（ｚ）ｄｚ

【0063】

そこで、異常検出システム１では、次の変分下限を利用する。
ｌｏｇｐ（ｘ；θ）：＝ｌｏｇ∫ｐ（ｘ，ｚ；θ）ｄｚ
＝ｌｏｇ∫ｐ（ｘ，ｚ；θ）ｑ（ｚ｜ｘ；φ）／ｑ（ｚ｜ｘ；φ）ｄｚ
＞＝∫ｑ（ｚ｜ｘ；φ）ｌｏｇｐ（ｘ，ｚ；θ）／ｑ（ｚ｜ｘ；φ）ｄｚ
＝Ｅｑ（ｚ｜ｘ；φ）［ｌｏｇｐ（ｘ，ｚ；θ）／ｑ（ｚ｜ｘ；φ）］
＝Ｌ（θ，φ）

【0064】

ここでいうφは、同時確率モデルを生成するニューラルネットを特徴づけるパラメータを意味する。また、ｑ（ｚ，ｘ）は、そのニューラルネットによって定義される確率分布を意味する。そして、ｑ（ｚ｜ｘ）は、その確率分布ｑ（ｚ，ｘ）で計算したｚで条件付けられたｘの条件付き確率を意味する。

【0065】

このとき、Ｌ（θ，φ）を最大化するために、変分自己符号化器（Ｖａｒｉａｔｉｏｎａｌ ＡｕｔｏＥｎｃｏｄｅｒ；以後、ＶＡＥと言う）を利用することによって、θ及びφを同時に最適化する。
Ｌ（θ，φ）＝Ｅｑ（ｚ｜ｘ；φ）［ｌｏｇｐ（ｘ，ｚ；θ）／ｑ（ｚ｜ｘ；φ）］

【0066】

具体的には、確率的勾配降下法を利用することによって、Ｌ（θ，φ）最大化パラメータθ及びφについて勾配ｄＬ／ｄθ及びｄＬ／ｄφを求め、θ及びφを同時に最適化する。

【0067】

勾配ｄＬ／ｄφをモンテカルロ法で推定する場合、分散が大きくなり得る。そこで、変数変換トリック（ｒｅｐａｒａｍｅｔｅｒｉｚａｔｉｏｎ ｔｒｉｃｋとも言う）を利用することによって、勾配ｄＬ／ｄφをより速く推定することができる。

【0068】

エンコーダでのｑ（ｚ｜ｘ；φ）、およびデコーダでのｐ（ｘ｜ｚ；θ）の学習には、ニューラルネットワークを利用する。

【0069】

［手順３について］
手順３（測定部１２により実現）では、学習済みのエンコーダおよびデコーダを用意し、異常検知を行う判定データに対して、それを入力として、Ｐによる尤度ｐ（ｘ）を計算する。尤度ｐ（ｘ）というのは、判定データ入力に対して学習済みエンコーダおよびデコーダの出力結果との各次元の異常度に相関のあるものである。

【0070】

［手順４について］
手順４（測定部１２又は判定部１３により実現）では、尤度ｐ（ｘ）をスコアＳ（ｘ）に変換して平滑化する。たとえば変換処理は、対数などがある。

【0071】

スコアＳ（ｘ）値がバンピーな場合は、平滑化を行ったものを出力としてもよい。例えば、Ｌｏｃａｌｌｙ Ｗｅｉｇｈｔｅｄ Ｓｃａｔｔｅｒｐｌｏｔ Ｓｍｏｏｔｈｉｎｇを利用することができる。

【0072】

但し、上記の平滑化方法によって変化の立ち上がりが遅くなるときは、変化の立ち上がりがより早い平滑化方法を採用することができる。

【0073】

［手順５について］
手順５（判定部１３により実現）では、Ｓ（ｘ）が閾値を超えたとき、異常と判定する。

【0074】

［作用］
異常検出システム１は、潜在変数モデルと同時確率モデルの学習を同時に行う。故に、異常検出システム１は、特徴設計を必要としない。尚、前記潜在変数モデルと同時確率モデルのモデル化にニューラルネットを利用してもよい。

【0075】

異常検出システム１は、前記潜在変数モデルと同時確率モデルの学習を同時に行う工程における入力データが多次元配列又はテンソルであることを特徴とする。故に、異常検出システム１は、データやアプリケーションに対する事前知識が不要である。

【0076】

異常検出システム１は、ｎ個のセンサからなり、ｎ個の同時確率モデルを学習する。故に、異常検出システム１によれば、センサの数が増えた場合でも、同時確率モデルを学習することによって対応することができる。具体的には、ｎ個のセンサ間の相関を考慮し異常を検出することができる。

【0077】

異常検出システム１は、条件付き確率ｐ（ｚ｜ｘ）及び条件付き確率ｐ（ｘ｜ｚ）の学習をするとき、ニューラルネットを利用する。故に、異常検出システム１によれば、観測したセンサデータの数によらず、パラメータ数に対して線形で学習することができる。

【0078】

また、異常検出システム１によれば、例えば多数の機械に備わる多数センサから発信されるセンサデータ、例えば画像データを含む高次元のセンサデータ、又は、それらの組み合わせを含むセンサデータを統合的に扱うことができる。よって、より高い効率且つ高い処理速度で異常検出することができる。

【0079】

異常検出システム１は、潜在変数モデルを学習するとき、ＳＶＭ、ＬＯＦ、又は、ＶＡＥを利用する。故に、異常検出システム１は、入力データ表現を非線形に変換することができる。特に、ＶＡＥを利用するとき、入力データのパラメータ数に限らず非線形な変換をすることができる。

【0080】

異常検出システム１は、ＶＡＥを利用するとき、センサデータから類似度を学習することができる。故に、異常検出システム１は、センサデータ間の類似度の設計をマニュアルで設計する必要がない。

【0081】

異常検出システム１は、ＶＡＥを利用するとき、センサデータの次元を落とすことによって、センサデータの基礎となる特徴を獲得することができる。故に、異常検出システム１は、より広い範囲のデータ表現の変換をすることができる。

【0082】

異常検出システム１は、ＶＡＥを利用するとき、データのパラメータ数に限らず、線形の計算時間でデータ表現の変換をすることができる。よって、異常検出システム１は、データ表現の変換を高効率に行うことができる。

【0083】

異常検出システム１では、複数の異なる場所にある機器は、通信手段を用いて通信することで構成されてもよい。センサデータを通信手段によって他の演算装置に送り、その演算装置で学習及び異常検知の判定を行うことができる。

【0084】

例えば、異常検出システム１による判定結果を分析して判断されるアクションに対応する通知や所定の制御を行わせる出力処理をすることができる。

【0085】

また、異常検出システム１は、各工程の場所を限定しない。例えば、センサ設置と学習工程の実施を異なる場所で行うことができる。また、異常検出、又は、異常判定の場所を限定しない。同じ場所でも異なる場所でも行うことができる。

【0086】

［実施例２］
前記実施例１における異常検出システム１は、機械学習のモデルとしてＶＡＥを利用した場合を主として説明を行ったが、この実施例２においては、機械学習のモデルとして、ＡＡＥ（Adversarial AutoEncoder：敵対的自己符号化器）を利用する場合について説明を行う。

【0087】

図８は、ＡＡＥを利用した本発明の実施例２に係る異常検出システムを表した概念図である。異常検出システムにＡＡＥを利用する場合、この図８に示すように、エンコーダ（Encoder）及びデコーダ（Decoder）の学習に加えて、識別器（Discriminator）の学習も行うことが特徴である。

【0088】

ＡＡＥの学習処理の流れについて説明する。ＡＡＥの学習は、エンコーダ（Encoder）及びデコーダ（Decoder）の学習を行う復元段階（Reconstruction phase）と、識別器（Discriminator）の学習を行う正則化段階（Regularization phase）との２段階で行われる。復元段階の学習は、先ず、正常データである訓練データｘをエンコーダに入力して入力データの表現ｚ（潜在変数ｚ）を推論し、その入力データの表現ｚをデコーダに入力して復元データｘ^～を生成する。入力データの表現ｚを推論するのが潜在変数モデルであり、表現ｚから復元データｘ^～を生成するのが同時確率モデルである。次に、訓練データｘと復元データｘ^～を比較して再構成誤差（Reconstruction error）を計算する。そして、再構成誤差を参照して復元損失（Reconstruction loss）を減らすようにエンコーダ及びデコーダのパラメータを、例えば、確率的勾配降下法によって更新する。

【0089】

正則化段階の学習は、識別器の学習を行うが、その際に、識別器に入力する入力データの表現ｚ_０の推論を行うエンコーダについても合わせて学習を行うようになっている。先ず、正常データである訓練データｘをエンコーダに入力して潜在変数モデルに基づいて入力データの表現ｚ_０を推論し、他方で、サンプル生成器（Sampler）からサンプリングして偽の表現ｚ_１を生成する。好適な学習のためにｚ_０及びｚ_１はそれぞれ複数用意することが望ましい。ｚ_０とｚ_１に基づいて、識別器に入力する訓練データ（ｚ_０，０）、（ｚ_１，１）を作成する。ここで、０又は１はそれぞれ訓練データが正常データに基づく表現ｚ_０であるか偽の表現ｚ_１なのかを表す正解ラベルである。識別器において、訓練データ（ｚ_０，０）、（ｚ_１，１）を用いて、正常データに基づく表現ｚ_０と偽の表現ｚ_１を識別するように学習を行う。具体的には、識別器は、サンプル生成器（Sampler）からサンプリングされた偽の訓練データ（ｚ_１，１）から正常データに基づく訓練データ（ｚ_０，０）を区別するために、先ず、識別器のパラメータを更新する。次いで、識別器は、識別器における識別のためのネットワークを混乱させるように、エンコーダのパラメータを更新する。学習された識別器は、入力が本物のデータである確率（入力が事前分布のサンプルである確率）を出力する。このように、識別器において正常データと偽データを区別する処理において正則化誤差（Regularization error）を得て、この正則化誤差を用いて識別器のみならず、エンコーダのパラメータも更新して学習するようにすることで、エンコーダにおける推論の精度を高めるとともに識別器の識別精度を高める。

【0090】

ＡＡＥを用いた異常検出処理の流れについて説明する。十分に学習を行った学習済モデルを用意する。異常検出対象のデータを学習済モデルのエンコーダに入力して、異常検出対象のデータの表現の推論を行い、デコーダにおいて表現から復元データの生成を行う。得られた復元データと入力した異常検出対象のデータを比較して、両者のずれから異常を検出する。また、異常検出対象のデータの表現を識別器に入力することで、正常データに基づく表現か偽の表現かを識別させることもできる。

【0091】

以上のように、ＡＡＥを用いた異常検出システムによれば、潜在変数モデル及び同時確率モデルを予め正常なデータに基づいて学習し、同時に、識別器についても学習を行い、識別器の出力を用いて識別器のみならず、エンコーダ及びデコーダもまとめて学習するようにしたので、高精度の異常検出が可能となる。また、ＡＡＥでは、サンプリングができれば複雑な分布を利用できるため、デコーダの表現力が高まり、生成の精度が高くなることが期待される。

【0092】

［実施例３］
この実施例３においては、機械学習のモデルとして、ＬＶＡＥ（Ladder Variational AutoEncoder：はしご型変分自己符号化器）を利用する場合について説明を行う。

【0093】

図９は、ＬＶＡＥを利用した本発明の実施例３に係る異常検出システムを表した概念図である。異常検出システムにＬＶＡＥを利用する場合、この図９に示すように、エンコーダ（Encoder）とデコーダ（Decoder）の学習を行うが、このデコーダが表現ｚから復元データを生成する過程でエンコーダのパラメータを利用することが特徴である。

【0094】

ＬＶＡＥの学習処理の流れについて説明する。ＬＶＡＥの学習は、正常データである訓練データｘをエンコーダに入力して入力データの表現ｚ（潜在変数ｚ）を推論し、その入力データの表現ｚをデコーダに入力して復元データｘ^～を生成する点は、実施例１、２と同様である。詳しくは、図９の通り、入力データｘから各階層を経てｄ_１→ｄ_２→ｄ_３という順に階層毎の結果を得て最終的に表現ｚ_３を生成するのが潜在変数モデルであり、表現ｚ_３から各階層を経てｚ_３→ｚ_２→ｚ_１という順に階層毎の結果を得て最終的に復元データｘ^～を生成するのが同時確率モデルである。階層数は一例であり、これに限定されるものではない。

【0095】

デコーダにおいてｚ_３→ｚ_２→ｚ_１という順序を経て復元データｘ^～を生成する際に、エンコーダにおけるｄ_３から得られる平均μ^～ _３と分散σ^～ _３をｚ_３のサンプリングに利用する。なお、ｚ_３のサンプリングの際にノイズε_３を加えることで、確率関数的な部分があっても誤差逆伝播を可能としている。同様に、エンコーダにおけるｄ_２から得られる平均μ^～ _２と分散σ^～ _２をｚ_２のサンプリングに用いる平均μ_２及び分散σ_２を求めるために利用する。同様に、エンコーダにおけるｄ_１から得られる平均μ^～ _１と分散σ^～ _１をｚ_１のサンプリングに用いる平均μ_１及び分散σ_１を求めるために利用する。このように、デコーダの各層において、エンコーダの対応する層におけるパラメータを利用してデコーダの処理を行う。このようにしてデコーダにおいて生成した復元データｘ^～を訓練データｘと比較してその差分を計算し、差分がなくなるようにエンコーダ及びデコーダの各層のパラメータを更新する。以降も、訓練データｘと復元データｘ^～が一致するように学習を繰り返す。

【0096】

ＬＶＡＥを用いた異常検出処理の流れについて説明する。十分に学習を行った学習済モデルを用意する。異常検出対象のデータを学習済モデルのエンコーダに入力して、異常検出対象のデータの表現の推論を行い、デコーダにおいて表現から復元データの生成を行う。得られた復元データと入力した異常検出対象のデータを比較して、両者のずれから異常を検出する。

【0097】

以上のように、ＬＶＡＥを用いた異常検出システムによれば、デコーダの各層においてエンコーダの対応する層におけるパラメータを利用してデコーダの処理を行う構成となっているため、デコーダがモデリングする確率分布をエンコーダを通じてデータ依存的に修正することで、複数のサンプリングが入る複雑なモデルであっても適切に学習を行うことが可能となる。

【0098】

［実施例４］
この実施例４においては、機械学習のモデルとして、ＡＤＧＭ（Auxiliary Deep Generative Model：補助深層生成モデル）を利用する場合について説明を行う。

【0099】

図１０は、ＡＤＧＭを利用した本発明の実施例４に係る異常検出システムを表した概念図である。この図１０において、実線の矢印はサンプリング処理を表し、破線の矢印はデータのコピーを表し、一点鎖線の矢印は損失Ｌの計算を表している。異常検出システムにＡＤＧＭを利用する場合、この図１０に示すように、エンコーダ（Encoder）とデコーダ（Decoder）の学習を行うが、このＡＤＧＭは、実施例１のＶＡＥの概念に補助変数ａを加えて拡張したものである。ＡＤＧＭにおいて、入力データｘ、潜在変数ｚ、補助変数ａが与えられたとき、図１０の矢印の計算の流れが適当なニューラルネットワークで表現されているときには、確率分布ｑ（ｚ｜ａ，ｘ）、ｑ（ａ｜ｘ）、ｐ（ａ｜ｘ，ｚ）、ｐ（ｘ｜ｚ）を全て計算可能である。なお、ｐ（ｚ）は、所与の確率分布（例えば、標準正規分布）であるものとする。

【0100】

ＡＤＧＭの学習処理の流れについて説明する。ＡＤＧＭの学習は、正常データである訓練データｘをエンコーダに入力して入力データの表現ｚ（潜在変数ｚ）を推論し、その入力データの表現ｚをデコーダに入力して復元データｘ^～を生成する点は、実施例１乃至３と同様である。この実施例４では、さらに、訓練データｘと表現ｚを用いて補助変数ａを推論し、表現ｚと復元データｘ^～からも補助変数ａを推論する処理を行う。そして、損失（誤差関数）Ｌの値を以下の式で求める。
Ｌ＝ｌｏｇ［ｐ（ｘ^～｜ｚ）］＋ｌｏｇ［ｐ（ａ｜ｘ^～，ｚ）／ｑ（ａ｜ｘ）］＋ｌｏｇ［ｐ（ｚ）／ｑ（ｚ｜ａ，ｘ）］
この損失Ｌの値が十分に小さくなるように、学習を繰り返す。なお、損失Ｌの計算における対数尤度ｐ（ｘ）の計算は直接行うことが難しいので、変分下限を最大化することによって求める。

【0101】

ＡＤＧＭを用いた異常検出処理の流れについて説明する。十分に学習を行った学習済モデルを用意する。異常検出対象のデータを学習済モデルのエンコーダに入力して、異常検出対象のデータの表現の推論を行い、デコーダにおいて表現から復元データの生成を行う。得られた復元データと入力した異常検出対象のデータを比較して、両者のずれから異常を検出する。

【0102】

以上のように、ＡＤＧＭを用いた異常検出システムによれば、エンコーダ及びデコーダにおける処理に補助変数ａを導入して、補助変数ａを推論する処理も同時に行っていくようにしたので、デコーダが複雑な確率分布をモデリングできるようになり、生成の精度が高くなることが期待される。

【0103】

［異常検出の方法について］
前記実施例１においては、異常検出の方法として、尤度に基づいてセンサデータが正常であるか又は異常であるかを判定するものとして説明しており、この判定の方法は、実施例２乃至４においても採用することが可能である。また、実施例１乃至４の何れにおいても、尤度の計算は行わずに、入力データｘと復元データｘ^～とのずれを計算してずれの量に応じて異常か正常かを検出するようにしてもよい。具体的には、入力データｘと復元データｘ^～の各次元ごとに成分のずれを、例えば（ｘ_ｉ－ｘ_ｉ ^～）^２などの演算を行って求め、いずれかの次元において大きな乖離がある場合に異常であると判定するようにしてもよい。

【0104】

［学習時及び異常検出時の工夫１］
前記実施例１乃至４において、潜在変数ｚ、表現ｚ、補助変数ａ等の推論などは、確率的な関数からサンプリングによってそれぞれ値を得ているが、それぞれ１回だけサンプリングを行って潜在変数ｚ、表現ｚ、補助変数ａ等を得て損失Ｌの計算を行うものとして説明を行っていた。しかし、これに限らず、複数回サンプリングを行って、得られた値毎に損失Ｌを計算してその平均をとるようにしてもよい。このように、複数回のサンプリングを行うようにすることで、サンプリングの片寄りを吸収できるため、学習の効率化や異常検出精度の向上が期待できる。

【0105】

［学習時及び異常検出時の工夫２］
前記実施例１乃至４においては、学習過程及び異常検出過程の何れにおいても、入力データｘをエンコーダに入力して入力データの表現ｚ（潜在変数ｚ）を推論し、その入力データの表現ｚをデコーダに入力して復元データｘ^～を生成し、入力データｘと復元データｘ^～とを比較して異常検出を行うようにしていた。しかし、この場合、得られた復元データｘ^～が、十分に正常データの値と近づいていない場合があった。そこで、１回の推論、生成のプロセスで得られた復元データｘ^～をさらにエンコーダに入力するようにしてもよい。例えば、入力データｘから復元データｘ_０ ^～を生成し、復元データｘ_０ ^～から復元データｘ_１ ^～を生成し、復元データｘ_１ ^～から復元データｘ_２ ^～を生成するというように、得られた出力を再度エンコーダに入力するという処理を繰り返すことで、正常データの値に近い復元データを得ることが可能となる。この場合に、１回の推論、生成のプロセスごとに損失Ｌを計算して、損失Ｌの和をとるようにしてもよいし、複数回処理を繰り返して最終的に得られた復元データ（上記の例では、復元データｘ_２ ^～）を入力データｘと比較して損失Ｌを計算するようにしてもよい。このように、複数回の推論、生成のプロセスを繰り返した後に損失Ｌを計算するようにすることで、学習の効率化や異常検出精度の向上が期待できる。

【0106】

［他の実施形態］
異常検出システム１は、機械や電子機器の故障予兆システムに使用することができる。本実施形態に係る故障予知システムは、様々なデータソースから収集されるデータを逐次的に処理して起こり得る事象の予測だけでなく、把握された事象に対する適切なアクション（対処）の判断（イベントの発生）、及び、関連するシステムに対して判断されたアクションに対応する通知や所定の制御を行わせる出力処理を、一連の流れで制御することを実現させる。

【0107】

また、判断されたアクション（発生したイベント）に対し、実際に関連するシステムが行った実際のアクション結果（アクション自体を行っていない場合も含む）をフィードバック情報として蓄積し、事象の検出精度を向上させ、監視制御システムと連携するシステムに対して利用性の高い付加情報を提供できるようにする。

【0108】

例えば、工場内にある複数の産業機械やロボットの故障予知システムに使用することができるまた、電力などインフラ設備の異常予知システムに使用することができる。また、航空機や自動車などの複数の部品の異常予知システムに使用することができる。

【0109】

異常検出システム１は、消耗品や部品の交換時期の予知システムに使用することができる。本実施形態に係る予知システムは、様々なデータソースから収集されるデータを逐次的に処理して起こり得る事象の予測だけでなく、把握された事象に対する適切なアクション（対処）の判断（イベントの発生）、及び、関連するシステムに対して判断されたアクションに対応する通知や所定の制御を行わせる出力処理を、一連の流れで制御することを実現させる。

【0110】

また、判断されたアクション（発生したイベント）に対し、実際に関連するシステムが行った実際のアクション結果（アクション自体を行っていない場合も含む）をフィードバック情報として蓄積し、事象の検出精度を向上させ、監視制御システムと連携するシステムに対して利用性の高い付加情報を提供できるようにする。

【0111】

例えば、航空機や自動車などのエンジンオイルなど含む消耗品の交換時期の予測及び通知に使用することができる。また、工作機械のドリル歯などの消耗品の交換時期の予測及び通知に使用することができる。

【0112】

異常検出システム１は、汎用監視制御システムに使用することができる。本実施形態に係る監視制御システムは、様々なデータソースから収集されるデータを逐次的に処理して起こり得る事象の検知、把握された事象に対する適切なアクション（対処）の判断（イベントの発生）、及び、関連するシステムに対して判断されたアクションに対応する通知や所定の制御を行わせる出力処理を、一連の流れで制御することを実現させる。

【0113】

また、判断されたアクション（発生したイベント）に対し、実際に関連するシステムが行った実際のアクション結果（アクション自体を行っていない場合も含む）をフィードバック情報として蓄積し、事象の検出精度を向上させ、監視制御システムと連携するシステムに対して利用性の高い付加情報を提供できるようにする。

【0114】

例えば、ホームセキュリティ監視システムに使用することができる。また、ビルなどの建築物、公共施設、園芸などの監視システムに使用することができる。

【0115】

異常検出システム１は、ネットワークのセキュリティ監視システムに使用することができる。本実施形態に係る監視システムは、様々なデータソースから収集されるデータを逐次的に処理して起こり得る事象の検知、把握された事象に対する適切なアクション（対処）の判断（イベントの発生）、及び、関連するシステムに対して判断されたアクションに対応する通知や所定の制御を行わせる出力処理を、一連の流れで制御することを実現させる。

【0116】

また、判断されたアクション（発生したイベント）に対し、実際に関連するシステムが行った実際のアクション結果（アクション自体を行っていない場合も含む）をフィードバック情報として蓄積し、事象の検出精度を向上させ、監視制御システムと連携するシステムに対して利用性の高い付加情報を提供できるようにする。

【0117】

異常検出システム１は、医療画像診断システムに使用することができる。本実施形態に係る画像診断システムは、様々なデータソースから収集されるデータを逐次的に処理して起こり得る事象の検知、把握された事象に対する適切なアクション（対処）の判断（イベントの発生）、及び、関連するシステムに対して判断されたアクションに対応する通知や所定の制御を行わせる出力処理を、一連の流れで制御することを実現させる。

【0118】

また、判断されたアクション（発生したイベント）に対し、実際に関連するシステムが行った実際のアクション結果（アクション自体を行っていない場合も含む）をフィードバック情報として蓄積し、事象の検出精度を向上させ、監視制御システムと連携するシステムに対して利用性の高い付加情報を提供できるようにする。

【0119】

例えば、ガンの早期発見や早期治療のためにＣＴやＮＭＲによる画像認識技術が利用されている。従来は、それらの画像を医師の高度な専門性と豊富な経験を有する医師の判断によって、それらの画像から異常や現象を見つけ出していた。しかし、本システムを使用することによって、より高精度且つ高速に異常な現象（正常な組織画像のパターンと異なる異常な組織画像）を検出することができる。

【0120】

異常検出システム１は、再生医療における細胞製剤の品質管理に使用することができる。本実施形態に係る画像診断システムは、様々なデータソースから収集されるデータを逐次的に処理して起こり得る事象の検知、把握された事象に対する適切なアクション（対処）の判断（イベントの発生）、及び、関連するシステムに対して判断されたアクションに対応する通知や所定の制御を行わせる出力処理を、一連の流れで制御することを実現させる。

【0121】

また、判断されたアクション（発生したイベント）に対し、実際に関連するシステムが行った実際のアクション結果（アクション自体を行っていない場合も含む）をフィードバック情報として蓄積し、事象の検出精度を向上させ、監視制御システムと連携するシステムに対して利用性の高い付加情報を提供できるようにする。

【0122】

例えば、多能性幹細胞から各組織の幹細胞、前駆細胞、分化細胞に分化誘導する際、分化効率の不均一による最終産物である細胞製剤の不均一性が課題となっている。そこで、異常検出システム１を使用することによって、より高精度且つ高速に、正常な細胞画像のパターンと異なる異常な細胞画像が検出することができる。

【0123】

以上の異常検出システム１の各実施例で説明した構成は、あくまで一例である異常検出システム１は、技術思想を逸脱しない範囲内で適宜変更が可能である。また、それぞれの実施例で説明した構成は、互いに矛盾しない限り、組み合わせて用いても良い。

【0124】

以上、異常検出システム１は、１つ又は複数のコンピュータ装置で実現可能であり、各機能は、プログラムとして構成することができる。例えば、図２に示す補助記憶装置１０５に格納され、ＣＰＵ１００等の制御部が補助記憶装置１０５に格納された監視制御システムの機能毎のプログラムをＲＡＭ１０１に読み出し、ＲＡＭ１０１に読み出された該プログラムを制御部が実行し、１つ又は複数のコンピュータに本実施形態の各機能ブロックを動作させることができる。すなわち、本実施形態の監視制御スシステムの機能毎のプログラムがインストールされた１つ又は複数のコンピュータは、単独で又は連携して各機能を遂行するコンピュータ装置（システム）として動作することが可能である。

【0125】

また、上記プログラムは、コンピュータ読取可能な記録媒体に記録された状態で、コンピュータに提供することも可能であるコンピュータ読取可能な記録媒体としては、ＣＤ－ＲＯＭ等の光ディスク、ＤＶＤ－ＲＯＭ等の相変化型光ディスク、ＭＯ（Ｍａｇｎｅｔ Ｏｐｔｉｃａｌ）やＭＤ（Ｍｉｎｉ Ｄｉｓｋ）などの光磁気ディスク、フロッピー（登録商標）ディスクやリムーバブルハードディスクなどの磁気ディスク、コンパクトフラッシュ（登録商標）、スマートメディア、ＳＤメモリカード、メモリスティック等のメモリカードが挙げられる。また、本発明の目的のために特別に設計されて構成された集積回路（ＩＣチップ等）等のハードウェア装置も記録媒体として含まれる。

【0126】

なお、本発明の実施形態を説明したが、当該実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。この新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

【符号の説明】

【0127】

１ 異常検出システム
１０ 格納部
１１ 取得部
１２ 測定部
１３ 判定部
１４ 学習部

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】