特許 7493619 サイバーフィジカルシステムの障害検出

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-05-23

(45)【発行日】2024-05-31

(54)【発明の名称】サイバーフィジカルシステムの障害検出

(51)【国際特許分類】

   G06N 3/09 20230101AFI20240524BHJP

   G06N 3/0455 20230101ALI20240524BHJP

   G06N 3/0442 20230101ALI20240524BHJP

   G06F 18/2433 20230101ALI20240524BHJP

【ＦＩ】

G06N3/09

G06N3/0455

G06N3/0442

G06F18/2433

【請求項の数】 20

(21)【出願番号】P 2022567632

(86)(22)【出願日】2021-04-28

(65)【公表番号】

(43)【公表日】2023-06-13

(86)【国際出願番号】 US2021029583

(87)【国際公開番号】W WO2021225841

(87)【国際公開日】2021-11-11

【審査請求日】2022-12-26

(31)【優先権主張番号】63/021,291

(32)【優先日】2020-05-07

(33)【優先権主張国・地域又は機関】US

(31)【優先権主張番号】17/241,430

(32)【優先日】2021-04-27

(33)【優先権主張国・地域又は機関】US

(73)【特許権者】

【識別番号】504080663

【氏名又は名称】エヌイーシー ラボラトリーズ アメリカ インク

【氏名又は名称原語表記】ＮＥＣ Ｌａｂｏｒａｔｏｒｉｅｓ Ａｍｅｒｉｃａ， Ｉｎｃ．

(74)【代理人】

【識別番号】100123788

【弁理士】

【氏名又は名称】宮崎 昭夫

(74)【代理人】

【識別番号】100127454

【弁理士】

【氏名又は名称】緒方 雅昭

(72)【発明者】

【氏名】タン、 ルーアン

(72)【発明者】

【氏名】チェン、 ハイフォン

(72)【発明者】

【氏名】チェン、 ウェイ

(72)【発明者】

【氏名】リー、 ジュンワン

(72)【発明者】

【氏名】上村 純平

【審査官】多賀 実

(56)【参考文献】

【文献】特開２０１３－１４０１３５（ＪＰ，Ａ）

【文献】特開平０５－１１６６０１（ＪＰ，Ａ）

【文献】特開２０１６－１１９０８０（ＪＰ，Ａ）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ３／００－９９／００

Ｇ０６Ｆ １１／０７

Ｇ０６Ｆ １１／２２－１１／３６

Ｇ０６Ｆ １６／００－１６／９５８

Ｇ０６Ｆ １８／００－１８／４０

(57)【特許請求の範囲】

【請求項1】

ニューラルネットワークモデルを訓練するための方法であって、
データ特徴及びセンサ相関グラフ情報を含む正常状態の入力及び障害状態の入力をそれぞれ生成するために、正常状態の訓練データのセット及び障害状態の訓練データのセットを処理し（３０２）、
前記障害状態の訓練データに対する入力の類似性を提供する障害スコアと、前記正常状態の訓練データに対する入力の非類似性を提供する異常スコアとを生成するために、正常状態の入力と障害状態の入力を用いてニューラルネットワークモデルを訓練する（３０４）、方法。

【請求項2】

前記正常状態の訓練データのセット及び前記障害状態の訓練データのセットを処理することは、前記センサ相関グラフ情報を生成するために、センサのセットを関連するサブシステムのグループに分割することを含む、請求項１に記載の方法。

【請求項3】

前記センサのセットを分割することは、前記センサのセットの測定値間の相関に基づくソフトクラスタリングを含む、請求項２に記載の方法。

【請求項4】

前記正常状態の訓練データのセット及び前記障害状態の訓練データのセットを処理することは、長・短期記憶ニューラルネットワークを用いてローセンサデータから前記データ特徴を抽出することを含む、請求項２に記載の方法。

【請求項5】

前記正常状態の訓練データのセット及び前記障害状態の訓練データのセットを処理することは、前記正常状態の訓練データ及び前記障害状態の訓練データにおけるローセンサデータのそれぞれのセット毎に、前記データ特徴及び前記センサ相関グラフ情報を連結することを含む、請求項４に記載の方法。

【請求項6】

前記ニューラルネットワークを訓練することは、全結合層及びオートエンコーダを一緒に訓練し、前記障害スコアと前記異常スコアとをそれぞれ生成することを含む、請求項１に記載の方法。

【請求項7】

前記全結合層を訓練することは、目的関数

【数1】

を最小化することを含み、α及びβはハイパーパラメータであり、ηは重みパラメータであり、Ｎは正常状態の訓練データのセットであり、Ｆは障害状態の訓練データのセットであり、Ｆ（・）は全結合層の関数を表し、Ｘ_i,wは、時間ウィンドウｗの正常状態の入力及び障害状態の入力から選択された入力である、請求項６に記載の方法。

【請求項8】

前記正常状態の訓練データ及び前記障害状態の訓練データは、車両内の１つまたは複数のサブシステムの動作状態に関連する前記車両内のセンサからの測定値をそれぞれ含む、請求項１に記載の方法。

【請求項9】

障害検出に使用するために、前記ニューラルネットワークモデルのパラメータを前記車両に送信することをさらに有する、請求項８に記載の方法。

【請求項10】

前記ニューラルネットワークモデルに対する入力が閾値を超える障害スコア及び閾値未満の異常スコアを提供する判定に応答して、前記ニューラルネットワークモデルを再訓練することをさらに含む、請求項１に記載の方法。

【請求項11】

ニューラルネットワークモデルを訓練するための方法であって、
データ特徴及びセンサのセットを関連するサブシステムのグループに分割することに基づくセンサ相関グラフ情報をそれぞれ含む、正常状態の入力及び障害状態の入力をそれぞれ生成するために、正常状態の訓練データのセット及び障害状態の訓練データのセットを処理し（３０２）、
前記障害状態の訓練データに対する入力の類似性を提供する障害スコアと、前記正常状態の訓練データに対する入力の非類似性を提供する異常スコアとを生成するために、全結合層及びオートエンコーダを一緒に訓練することを含む、前記正常状態の入力と前記障害状態の入力を用いてニューラルネットワークモデルを訓練し（３０４）、
前記ニューラルネットワークモデルのパラメータを障害検出で使用するために車両に送信する（３１０）、方法。

【請求項12】

ニューラルネットワークモデルを訓練するためのシステムであって、
ハードウェアプロセッサ（６０２）と、
コンピュータプログラムコードを格納するメモリ（６０４）と、
を有し、前記コンピュータプログラムコードが前記ハードウェアプロセッサによって実行されると、前記ハードウェアプロセッサが、
データ特徴及びセンサ相関グラフ情報を含む正常状態の入力及び障害状態の入力をそれぞれ生成するために、正常状態の訓練データのセット及び障害状態の訓練データのセットを処理し（３０２）、
前記障害状態の訓練データに対する入力の類似性を提供する障害スコアと、前記正常状態の訓練データに対する入力の非類似性を提供する異常スコアとを生成するために、正常状態の入力と障害状態の入力を用いてニューラルネットワークモデルを訓練する（３０４）ように構成された、システム。

【請求項13】

前記コンピュータプログラムコードは、さらに前記ハードウェアプロセッサに、センサのセットを関連するサブシステムのグループに分割させ、前記センサ相関グラフ情報を生成させる、請求項１２に記載のシステム。

【請求項14】

前記コンピュータプログラムコードは、さらに前記ハードウェアプロセッサに、前記センサのセットの測定値間の相関に基づくソフトクラスタリングを実行させる、請求項１３に記載のシステム。

【請求項15】

前記コンピュータプログラムコードは、さらに前記ハードウェアプロセッサに、長・短期記憶ニューラルネットワークを用いてローセンサデータから前記データ特徴を抽出させる、請求項１３に記載のシステム。

【請求項16】

前記コンピュータプログラムコードは、さらに前記ハードウェアプロセッサに、前記正常状態の訓練データ及び前記障害状態の訓練データにおけるローセンサデータのそれぞれのセット毎に、前記データ特徴及び前記センサ相関グラフ情報を連結させる、請求項１５に記載のシステム。

【請求項17】

前記コンピュータプログラムコードは、さらに前記ハードウェアプロセッサに、全結合層及びオートエンコーダを一緒に訓練させ、前記障害スコアと前記異常スコアとをそれぞれ生成させる、請求項１２に記載のシステム。

【請求項18】

前記コンピュータプログラムコードは、さらに前記ハードウェアプロセッサに、目的関数

【数2】

を最小化させ、α及びβはハイパーパラメータであり、ηは重みパラメータであり、Ｎは正常状態の訓練データのセットであり、Ｆは障害状態の訓練データのセットであり、Ｆ（・）は全結合層の関数を表し、Ｘ_i,wは、時間ウィンドウｗの正常状態の入力及び障害状態の入力から選択された入力である、請求項１７に記載のシステム。

【請求項19】

前記正常状態の訓練データ及び前記障害状態の訓練データは、車両内の１つまたは複数のサブシステムの動作状態に関連する前記車両内のセンサからの測定値をそれぞれ含む、請求項１２に記載のシステム。

【請求項20】

前記コンピュータプログラムコードは、さらに前記ハードウェアプロセッサに、前記ニューラルネットワークモデルに対する入力が閾値を超える障害スコア及び閾値未満の異常スコアを提供する判定に応答して、前記ニューラルネットワークモデルを再訓練させる、請求項１２に記載のシステム。

【発明の詳細な説明】

【技術分野】

【0001】

この出願は、２０２１年４月２７日に出願された米国特許出願第１７／２４１，４３０号及び２０２０年５月７日に出願された米国仮特許出願第６３／０２１，２９１号を基礎とする優先権を主張し、その両方の開示の全てをここに取り込む。この出願は、代理人の案件整理番号２１００５の「車載自動車システムにおける障害検出の深層学習」と題する出願に関し、その開示の全てをここに取り込む。

【0002】

本発明は、サイバーフィジカルシステムの障害検出に関し、より詳細には、車両の電子制御ユニットからのセンサデータを用いて車両の障害を検出することに関する。

【背景技術】

【0003】

車両は複雑なシステムであり、エンジン、バッテリ、トランスミッション等の様々な機能の構成要素を含む。障害は、重大な安全上の問題と修理費用につながる可能性がある。

【発明の概要】

【0004】

ニューラルネットワークモデルを訓練するための方法は、データ特徴及びセンサ相関グラフ情報を含む、正常状態の入力及び障害状態の入力をそれぞれ生成するために、正常状態の訓練データのセット及び障害状態の訓練データのセットを処理することを含む。ニューラルネットワークモデルは、障害状態の訓練データに対する入力の類似性を提供する障害スコアと、正常状態の訓練データに対する入力の非類似性を提供する異常スコアとを生成するために、正常状態の入力と障害状態の入力を使用して訓練される。

【0005】

ニューラルネットワークモデルを訓練するための方法は、データ特徴及びセンサ相関グラフ情報を含む、正常状態の入力及び障害状態の入力をそれぞれ生成するために、正常状態の訓練データのセット及び障害状態の訓練データのセットを処理することを含む。センサ相関グラフ情報は、センサのセットを関連するサブシステムのグループに分割することに基づくことができる。正常状態の入力と障害状態の入力を用いて障害スコアと異常スコアをそれぞれ生成するために全結合層とオートエンコーダを一緒に訓練することを含む、ニューラルネットワークモデルが訓練される。障害スコアは、障害状態の訓練データに対する入力の類似性を提供し、異常スコアは、正常状態の訓練データに対する入力の非類似性を提供する。ニューラルネットワークモデルのパラメータは、障害検出で使用するために車両に送信される。

【0006】

ニューラルネットワークモデルを訓練するためのシステムは、ハードウェアプロセッサと、コンピュータプログラムコードを格納するメモリとを含む。コンピュータプログラムコードがハードウェアプロセッサで実行されると、ハードウェアプロセッサに、データ特徴及びセンサ相関グラフ情報を含む正常状態の入力及び障害状態の入力をそれぞれ生成するために、正常状態の訓練データのセット及び障害状態の訓練データのセットを処理させる。コンピュータプログラムコードは、さらにハードウェアプロセッサに、障害状態の訓練データに対する入力の類似性を提供する障害スコアと、正常状態の訓練データに対する入力の非類似性を提供する異常スコアとを生成するために、正常状態の入力と障害状態の入力を用いてニューラルネットワークモデルを訓練させる。

【0007】

これら及び他の特徴並びに利点は、以下の典型的な実施形態の詳細な説明を添付の図面と併せて読むことで明らかになるであろう。

【0008】

本開示では、後述するように、以下の図面を参照しながら好ましい実施形態について詳細に説明する。

【図面の簡単な説明】

【0009】

【図1】図１は、本発明の一実施形態による、多数の車両からの訓練データを用いて車両に送信される障害検出モデルを生成するモデル訓練システムの図である。

【0010】

【図2】図２は、本発明の一実施形態による、訓練された障害検出モデルを用いて車両サブシステムの障害を予測及び是正する車両の図である。

【0011】

【図3】図３は、本発明の一実施形態による、障害検出モデルを訓練し、使用するための方法のブロック／フロー図である。

【0012】

【図4】図４は、本発明の一実施形態による、障害検出モデルを訓練する方法のブロック／フロー図である。

【0013】

【図5】図５は、本発明の一実施形態による、障害検出モデルのブロック図である。

【0014】

【図6】図６は、本発明の一実施形態による、障害検出モデル訓練システムのブロック図である。

【0015】

【図7】図７は、本発明の一実施形態による、障害検出モデルのブロック図である。

【発明を実施するための形態】

【0016】

現代の車両には、各々が車両の小規模な動作ユニットを制御し、該動作ユニットの状態を報告できる、様々な電子制御ユニット（ＥＣＵ：Electronic Control Unit）が装備されている。ＥＣＵからのデータに基づいて、車両のシステムの障害を予測し、防止することができる。これにより、車両の損傷や人命の損失を防ぐことができる。ＥＣＵによって生成された時系列情報を用いて車両の障害を特定の期間予測することが可能であり、その障害の原因となる可能性が高い車両サブシステムに関するラベルが付与される。

【0017】

これは、正常動作状態下でのＥＣＵからの時系列情報を表すＳｎ及び障害動作状態下でのＥＣＵからの時系列情報を表すＳｆの訓練データの第１のセットを使用し、訓練されたニューラルネットワークモデルを用いて実行できる。訓練されたニューラルネットワークモデルを用いてｔ_iから（ｔ_i+σ_t）までの期間中、車両ｉのＥＣＵからの新しい時系列情報Ｓ_iのラベルを提供できる。ここで、σ_tは予測ウィンドウの期間である。さらに、訓練されたニューラルネットワークモデルは、障害が発生する可能性が高い車両内のサブシステムを識別できる障害ラベルを提供するために使用される。

【0018】

時系列情報は、ＥＣＵからリアルタイムでストリーミングされ、車両及びそのサブシステムの状態に関する現在の情報を提供できる。この情報を処理するモデルは、車両自体に実装され、低遅延で判定を行うことができる。モデルは、リモートで訓練できる、例えば様々な車両からＥＣＵの時系列情報を収集するクラウドベースのシステムで訓練し、使用するためにそれらの車両に分配できる。

【0019】

図１を参照すると、障害検出モデル訓練システム１０４の例が示されている。モデル訓練システム１０４は、複数の車両１０２から情報を収集する。この情報は、例えば車両１０２内のＥＣＵ１０６から収集することが可能であり、時系列情報で表すことができる。そのような時系列情報には、ＥＣＵによって時間と共に作成されたそれぞれの連続する測定値またはレポートを含む場合がある。したがって、各ＥＣＵ１０６は、それぞれのサブシステムに関連する情報を生成することが可能であり、この情報は、測定時間に応じて他のＥＣＵからの情報と関連付けることができる。

【0020】

訓練データは、教師有りまたは教師無し法でラベル付けされる。例えば、ドメインの専門家は、そのデータが正常な動作を反映しているか、または車両サブシステムの既知の障害状態を反映しているかに応じて、手動でデータにラベルを付与できる。他の例において、データは、教師無しクラスタリングプロセス等の教師無し法を用いて自動的にラベル付けされる場合がある。

【0021】

モデル訓練システム１０４が訓練データを用いて障害検出モデルを訓練した後、訓練されたモデルを車両１０２に配布できる。したがって、車両１０２は、モデル１０８のそれ自体のローカルコピーを有することができる。ＥＣＵ１０６によって新しい時系列情報が生成されると、モデル１０８は、該時系列情報が正常な動作を予測するか、それとも障害状態を予測するかについて判定を下すことができる。コントローラ１１０は、予測に基づいて、例えば障害による損傷を防止するように動作できる。

【0022】

訓練データを供給する車両は、訓練されたモデルを実装する車両１０２とは異なる場合があることを理解されたい。いくつかのケースでは、訓練されたモデル１０８が車両の特定のモデルに固有であるように、複数の車両１０２は全て同じモデルであってもよい。いくつかのケースでは、訓練されたモデル１０８が一般的であり、複数の異なる車両モデルにわたって効果的であるように、複数の車両１０２は異なるモデルであってもよい。いくつかのケースでは、追加の訓練データがモデル訓練システム１０４に提供されるため、モデル１０８はその初期実装後に更新される場合がある。したがって、モデル１０８は、車両の製造時または販売時に車両１０２に設置することが可能であり、有線または無線ネットワークコネクションを用いて車両１０２に送信することが可能である、または任意の他の適切な時点で、その他の適切なプロセスによって車両１０２に送信できる。

【0023】

本発明の原理は、自動車内のＥＣＵの特定の例に関連して説明するが、この例は限定を意図するものではないことを理解されたい。本明細書で説明する障害検出は、任意の適切なサイバーフィジカルシステムで実行することができる。さらに、本発明の原理は分散障害検出のコンテキストで説明するが、障害検出モデル１０８は中核拠点に収容されていてもよく、動作情報は障害検出のために該中核拠点に送信されてもよいことを理解されたい。

【0024】

図２を参照すると、車両１０２の追加の詳細が示されている。エンジン２０２、トランスミッション２０４及びブレーキ２０６を含む、車両１０２の多数の異なるサブシステムが示されている。これらのサブシステムは説明のために示したものであり、限定するものとして解釈するべきではないことを理解されたい。追加のサブシステムには、環境制御、ユーザインタフェース、ステアリング制御、ブレーキ制御等のユーザ向けシステムが含まれる場合がある。追加のサブシステムには、タイヤ空気圧の監視、位置検出、衝突の検出及び回避、自動運転のような、ユーザが直接操作しないシステムが含まれる場合がある。

【0025】

各サブシステムは、それぞれのサブシステムの状態測定を実行する１つまたは複数のＥＣＵ１０６によって監視される。例えば、ブレーキ２０６に関連するＥＣＵ１０６は、ブレーキ２０６によって加えられる圧力の量、ブレーキ２０６の温度及びブレーキ２０６が使用可能な残りの寿命を判定できる。ＥＣＵ１０６によって収集された情報はコントローラ１１０に供給される。

【0026】

ＥＣＵ１０６と車両１０２のサブシステムとの間の通信は、任意の適切な有線または無線通信媒体及びプロトコルによって伝達される。例えば、カーエリアネットワーク（ＣＡＮ）を通信に使用することができる。時系列情報は、ＥＣＵ１０６からコントローラ１１０に伝達されてもよく、コントローラ１１０からの命令は、車両１０２のそれぞれのサブシステムに伝達されてもよい。

【0027】

コントローラ１１０は、障害検出モデル１０８を用いて、ＥＣＵ１０６からの時系列情報が障害を予測するか否かを判定する。新しい時系列情報はモデル１０８に入力され、モデル１０８は、障害状態の原因であるサブシステムの情報を含むラベル（例えば、「正常」または「障害」）を出力する。

【0028】

コントローラ１１０は、車両１０２及びＥＣＵ１０６のサブシステムと内部で通信可能であり、外部のモデル訓練システム１０４と通信できる。例えば、コントローラ１１０は、モデル訓練システム１０４から更新されたモデルを受信することが可能であり、さらにＥＣＵ１０６で収集された時系列情報をモデル訓練システム１０４に戻すことができる。例えば、モデル１０８が、認識されている障害に適合しない異常な挙動を示す場合、コントローラ１１０は、対応する時系列情報をモデル訓練システム１０４に戻すことが可能であり、それはモデル１０８の以降の反復処理を訓練するために使用できる。

【0029】

図３を参照すると、障害検出モデルを訓練し、使用する方法が示されている。ブロック３００は障害検出モデルを作成する。ブロック３１０は、障害検出モデルを車両１０２等のシステムに配備する。ブロック３２０は、配備された障害検出モデルを用いて障害を検出する。ブロック３００、３１０及び３２０のそれぞれは、異なるエンティティで実行されてもよく、それぞれが他とは独立して実行されてもよい。

【0030】

モデルの作成３００は、訓練データ３０２の収集を含む。この訓練データの収集３０２は、車両１０２のＥＣＵ１０６から時系列データを受信することを含む。訓練データは、ドメインの専門家によってラベル付けされるか、教師無しまたは半教師有り法でラベル付けされる。したがって、訓練データは、「正常」または「障害」にラベル付けされた時系列情報を含むことができる。訓練データは、例えば、時系列を均一な時間長のセグメントに分割するために、スライド時間ウィンドウを用いてセグメントに分割できる。モデルの作成３００は、訓練データを用いてブロック３０４で障害検出モデルを訓練するが、これについては以下でより詳細に説明する。ブロック３０４の訓練は、異なるＥＣＵ１０６間の関係を表すグラフを判定することを含む。

【0031】

ブロック３１０は、障害検出モデルを車両１０２等の適切なシステムに配備する。この配備は、適切な有線または無線の通信媒体及びプロトコルを用いて実行できる。例えば、配備は、モバイルデータネットワークを用いて車両１０２に対するＯＴＡ（over-the-air）更新の一部として実行される。

【0032】

ブロック３２０は、配備された場所で障害検出を実行する。例えば、ブロック３２２は、ＥＣＵ１０６を用いて車両１０２の様々なサブシステムからシステム動作データを収集できる。ブロック３２３は、例えば、収集されたシステム動作データを配備された障害検出モデルに対する入力として用いることで障害または異常な挙動を検出する。以下でより詳細に説明するように、この検出は、システム動作データと既知の障害との間の類似性を表す障害スコアと、システム動作データとあらゆる既知の動作データパターンとの間の非類似性を表す異常スコアの、２つの異なるスコアを生成できる。

【0033】

ブロック３２４は、障害または異常な挙動の検出に応じて是正措置を実行する。この是正措置には、例えば、オペレータに潜在的な障害を通知すること、またはメンテナンスの日程を決めるためにサービスステーションと通信することが含まれる。是正措置は、例えば、障害を是正または防止するための自動措置を含むことができる。そのような自動措置には、車両１０２内の１つまたは複数の装置の設定を変更する、エンジン２０２を停止する、ブレーキ２０６をかける、ステアリングを変更する、ギアを変更する、並びにエンジン２０２、トランスミッション２０４またはブレーキ２０６の動作特性を変更して、悪条件を補償する等、１つまたは複数のサブシステムの動作状態の変更を含むことができる。

【0034】

図４を参照すると、ブロック３０４における障害検出モデルの訓練に関する追加の詳細が示されている。ブロック４０２は、システムの複数のセンサ間の関係グラフを構築する。続いて、ブロック４０２は、サブシステムに応じて関係グラフを分割する。例えば、車両のＥＣＵ１０６は、それぞれのサブシステムに応じてグループ化できる。

【0035】

ＥＣＵ１０６からのロー（raw）センサデータは、それがどのサブシステムに関連するかを示さない場合がある。但し、同じサブシステム内の信号は、別のサブシステムからの信号よりも相互に強い相関を持つ場合がある。したがって、ブロック４０２における分割は、センサデータに対する相関分析を用いて実行してもよく、異なるＥＣＵ１０６間の相関を表す相関グラフを生成してもよい。ＥＣＵ１０６のクラスタは、異なるサブシステムに関連付けることができる。

【0036】

このクラスタリングには、サブシステムを識別するためのソフトクラスタリング手法を含むことができる。例えば、２つのクラスタ間の接続ノードは、それぞれのサブシステムの両方に属している場合がある。これは、いくつかのＥＣＵ１０６が複数のサブシステムに関連している可能性があるという事実を反映している。例えば、エンジンのＲＰＭ情報はエンジンのサブシステムの信号であるが、ギアのサブシステムにも関連する。２つの信号が高い相関を有する（例えば、閾値よりも大きい程度まで相関する）場合、グラフは対応するノード間の境界を含む。

【0037】

ブロック４０４は、ロウ時系列情報及び相関グラフから特徴を抽出する。測定された信号の値及び異なるＥＣＵ１０６からの信号間の相関を含む、特徴の２つのカテゴリが含まれていてもよい。例えば、測定された信号は、エンジンのＲＰＭ、温度及びバッテリ電圧を含むことが可能であり、相関関係は、これらの信号の一方の変化が他方の信号の変化と相関することを反映する。

【0038】

信号の値は、正常な動作中は非常に動的になる可能性があり、特定の信号内の傾向は信頼できない可能性がある。しかしながら、異なる信号間の相関は、はるかに安定している可能性がある。したがって、異なる信号間の相関関係の大きな変化は、異常なイベントを示している可能性がある。

【0039】

ブロック４０６は、ラベル付けされた訓練データから抽出された特徴を用いて機械学習モデルを訓練する。以下でより詳細に説明するように、機械学習モデルを人工ニューラルネットワークとして実装することが特に考えられる。モデルは、障害の訓練データに対する入力の類似性を示す障害スコアと、正常な訓練データに対する入力の非類似性を示す異常スコアとを含む２つのスコアを生成するように訓練できる。

【0040】

図５を参照すると、障害検出モデル１０８の例示的なニューラルネットワーク構造が示されている。入力Ｘ_i,wは、適切な長さのセグメントに分割されたＥＣＵ１０６からのローデータとしてのＲ_i,wと、ＥＣＵ１０６間の相関を捕捉する相関グラフとしてのｇ_i,wとを含む２つの部分に分割される。ここで、ｉは特定の車両を表し、ｗは特定の時間枠を表す。長・短期記憶（ＬＳＴＭ：long-short term neural memory）ニューラルネットワーク層５０２は、ローデータＲ_i,wを処理する。連結器５０４は、ＬＳＴＭ層５０２によって出力された、処理されたローデータを相関グラフ情報ｇ_i,wと連結し、特徴埋め込みｈ（Ｘ_i,w）を形成する。

【0041】

ＬＳＴＭネットワークは、以降で用いるためにＬＳＴＭニューロン内で情報を格納する、様々なＲＮＮ（recurrent neural network）である。メモリの使用は、ニューロンの活性化関数によって制御される可能性がある。このメモリを使用すると、バックプロパゲーション中に勾配情報を保持するのに役に立つ。ＲＮＮは、順序付けられた連続する特徴ベクトル等、一連の情報を処理するために使用できる。これにより、ＲＮＮは、情報が自然なシーケンシャルであるテキスト処理や音声認識に適している。ＲＮＮの各ニューロンは、前の層からの新しい入力と、現在の層からの先の入力の２つの入力を受け取る。これにより、ＲＮＮ層は、ある入力から次の入力までのシーケンスの状態に関する情報を維持する。

【0042】

特徴埋め込みｈ（Ｘ_i,w）を使用して２つのスコアを生成できる。全結合層５０６は、特徴埋め込みを入力として取得し、特徴埋め込みと全結合層５０６を訓練するために使用される既知の障害訓練データとの間の類似性を表す障害スコアを生成する。オートエンコーダ５０８は、特徴埋め込みを入力として取得し、特徴埋め込みと、オートエンコーダ５０８を訓練するために使用される既知の正常な訓練データとの間の非類似性を表す異常スコアを生成する。

【0043】

したがって、異常スコアが低く、障害スコアが低い場合、システムは正常に動作している。障害スコアが高く、異常スコアも高い場合、障害が検出されている。異常スコアが高く、障害スコアが低い場合、車両は不明な状態にある。この新しい状態をよりよく理解するために、さらなる監視が必要になる場合があり、追加情報を収集して分析用に転送する場合がある。障害スコアが高く、異常スコアが低い場合、これはモデルに問題があることを示しており、再訓練が発動される可能性がある。システムの状態は、異常スコアと障害スコアが時間の経過と共にどのように変化するかという観点からも判断できる。障害スコアが増加している場合、障害が差し迫っている可能性があり、オペレータに警告を表示する場合がある。

【0044】

ブロック３０４の訓練中、障害スコアの損失と異常スコアの損失は一緒に考慮されてもよい。障害スコアの損失関数の場合、正常な訓練データと障害訓練データの両方を考慮することが可能であり、３つの部分の損失関数を提供する。正常な動作状態にあるシステムｉの場合、障害スコアＦ（Ｘ_i,w）は低く、時間の経過に伴う変動が小さいはずである。したがって、第１の障害損失コンポーネントは次のように表すことができる。

【数1】

ここで、ηは重みパラメータであり、Ｎは正常な動作状態を表す連続する訓練データのセットである。このコンポーネントの第１項は全ての時間ウィンドウｗにわたる絶対障害スコアを測り、第２項は時間ウィンドウｗ１及びｗ２の全てのペアの障害スコア間の差を測る。

【0045】

障害状態の車両ｉに関して、障害スコアＦ（Ｘ_i,w）は、システムの健全性の低下を表す、非減少であり得る。したがって、第２の障害損失コンポーネントは、次のように表すことができる。

【数2】

ここで、Ｆは障害動作状態を表す連続する訓練データのセットである。ウィンドウｗ１の障害スコアがその後のウィンドウｗ２の障害スコアよりも大きい場合、その差が損失に寄与する。それ以外の場合、２つのウィンドウ間で障害スコアが増加すると、その寄与はゼロになる。ウィンドウｗ１及びｗ１は、連続している場合もあれば、不連続な期間を表している場合もある。

【0046】

障害状態にあるシステムｉの最大障害スコアが、正常な動作状態にあるシステムｊの最大障害スコアよりも大きいことを確認するため、第３の障害損失成分は、次のように表すことができる。

【数3】

常に正常な動作状態にある車両の障害スコアが、障害状態にあるシステムの障害スコアを超えると、障害スコアの差が損失の一因となる。それ以外の場合、これら２台の車両の寄与はゼロである。

【0047】

総障害スコア損失は、次のように表すことができる。

【数4】

ここで、α及びβはハイパーパラメータである。

【0048】

異常スコアの損失関数は、正常な訓練データに焦点を当てて、正常な挙動からの逸脱を測定する。オートエンコーダネットワークには、エンコーダセクションと復号セクションの２つのセクションが含まれる場合がある。エンコーダセクションは、比較的高次元な入力の比較的低次元の埋め込みを作成することが可能であり、復号セクションは元の高次元な入力を再作成することができる。オートエンコーダネットワークは、元の入力をできるだけ厳密に再現するように訓練される。このようなネットワークは、様々な方法で使用できる。例えば、低次元の埋め込みは、元の入力の比較的コンパクトな表現として使用できる。一方、高次元の出力は、ノイズの多い入力から情報を再構築するために使用できる。

【0049】

したがって、オートエンコーダ５０８を用いて特徴埋め込みＡＥ（ｈ（Ｘ_i,w））の再構成を生成できる。そのため、異常スコアの損失関数は再構成エラー

【数5】

である可能性がある。

【0050】

訓練中、ＬＳＴＭ層５０２、全結合層５０６及びオートエンコーダ５０８のパラメータを調整して、これらの損失関数を一緒に最小化することができる。訓練データセットの第１のセット（正常な動作状態と障害状態の両方を含む）を用いてこの訓練を実行し、訓練データセットの第２のセットを用いて訓練済みの障害検出モデルの有効性を試験できる。

【0051】

障害検出中、ブロック３２３において、ＥＣＵ１０６で新たに取得されたデータのセットは、訓練された障害検出モデルに対する入力として使用され、新しい障害スコア及び新しい異常スコアが生成される。是正措置３２４は、これら２つのスコアの動態を比較することで判定される。両方のスコアが低い場合、車両は正常な動作状態にあり、ブロック３２４において警告や措置を実行する必要は無い。以前の測定値と比較して両方のスコアが増加している場合、障害が発生しているか、または間もなく発生する可能性があることを示し、ブロック３２４でオペレータに警告を発し、自動是正措置を実行すればよい。

【0052】

さらに、障害スコアと異常スコアとの比較は、障害検出モデル自体の有効性に関する情報を提供できる。例えば、障害スコアが低いままで、異常スコアが増加する場合、訓練データで明らかになった以外の状態がシステムに存在する可能性がある。これらの他の状態は、正常な動作や既知の障害状態に近くない場合がある。これらの場合、測定された情報はモデル訓練システム１０４に送り返され、そこでドメインの専門家が異常状態の解釈を提供し、以降の訓練データのセットに情報を追加する可能性がある。

【0053】

障害スコアが高いが、異常スコアが低い場合、障害検出モデルにおける過剰適合の結果である可能性がある。例えば、障害状態のサンプルが少なすぎる場合、または重みハイパーパラメータβが小さすぎる場合、モデルは障害状態と正常な動作状態とを正確に区別できない可能性がある。そのような場合、現在の動作状態をモデル訓練システム１０４に送り返すことが可能であり、それに応じて障害検出モデルの訓練を調整できる。

【0054】

本明細書に記載する実施形態は、全てハードウェアで実現してもよく、全てソフトウェアで実現してもよく、ハードウェアとソフトウェアの両方の要素を含んでいてもよい。好ましい実施形態において、本発明は、ファームウェア、常駐ソフトウェア、マイクロコード等を含むが、これらに限定されないソフトウェアでも実現可能である。

【0055】

実施形態には、コンピュータもしくは任意の命令実行システムによって使用される、または関連して使用されるプログラムコードを提供する、コンピュータで使用可能な、またはコンピュータで読み取り可能な媒体からアクセスできる、コンピュータプログラム製品を含んでもいてよい。コンピュータで使用可能な、またはコンピュータで読み取り可能な媒体には、命令実行システム、機器、もしくは装置によって使用される、または関連して使用されるプログラムを格納、伝達、伝搬または転送する任意の機器を含んでいてもよい。該媒体は、磁気媒体、光学媒体、電子媒体、電磁気媒体、赤外線媒体または半導体システム（または機器もしくは装置）、あるいは伝搬媒体であってもよい。該媒体には、半導体または固体メモリ、磁気テープ、取り外し可能なコンピュータディスケット、ランダムアクセスメモリ（ＲＡＭ）、リードオンリーメモリ（ＲＯＭ）、リジッド磁気ディスク及び光ディスク等のコンピュータで読み取り可能な媒体を含んでいてもよい。

【0056】

各コンピュータプログラムは、汎用または特別な目的を持つプログラム可能なコンピュータで読み取ることができる、機械で読み取り可能なストレージメディアまたは装置（例えば、プログラムメモリまたは磁気ディスク）に格納される。該コンピュータプログラムは、ストレージメディアまたは装置から本明細書に記載された手順を実行するコンピュータで読み出される、該コンピュータの設定及び制御動作のためのものである。本発明のシステムには、本明細書に記載した機能を実行する、特定の及び事前に定義された方法をコンピュータに動作させるように構成されたコンピュータプログラムを含む、コンピュータで読み取り可能なストレージメディアも考慮される。

【0057】

プログラムコードを格納及び／または実行するのに適したデータ処理システムは、システムバスを介してメモリ要素に直接または間接的に接続された少なくとも１つのプロセッサを備えていてもよい。このメモリ要素には、処理の実行中にバルクメモリ装置からコードが検索される回数を減らすために、プログラムコードの実際の実行中に用いられるローカルメモリ、バルクメモリ装置及び少なくともいくつかのプログラムコードを一時的に記憶するキャッシュメモリを備えていてもよい。入出力またはＩ／Ｏ装置（限定されるものではないが、キーボード、ディスプレイ、ポインティング装置等を含む）は、直接またはＩ／Ｏコントローラを介してシステムに接続されてもよい。

【0058】

ネットワークアダプタは、データ処理システムが、プライベートネットワークまたは公衆ネットワークを介して、他のデータ処理システムまたはリモートプリンタもしくはメモリ装置に接続されることを可能にするために、上記システムと接続されていてもよい。モデム、ケーブルモデム及びイーサネット（登録商標）カードは、現在利用可能なタイプのネットワークアダプタのほんの一例である。

【0059】

本明細書で用いる「ハードウェアプロセッササブシステム」または「ハードウェアプロセッサ」という用語は、１つ以上の特定のタスクを実行するために協働するプロセッサ、メモリ、ソフトウェアまたはそれらの組み合わせを指すことができる。有用な実施形態において、ハードウェアプロセッササブシステムは、１つまたは複数のデータ処理要素（例えば、論理回路、処理回路、命令実行デバイス等）を含むことができる。１つまたは複数のデータ処理要素は、中央処理装置、グラフィックス処理装置及び／または個別のプロセッサまたはコンピューティング要素ベースのコントローラ（例えば、論理ゲート等）を含めることができる。ハードウェアプロセッササブシステムは、１つ以上のオンボードメモリ（例えば、キャッシュ、専用メモリアレイ、読み出し専用メモリ等）を含むことができる。任意の実施形態において、ハードウェアプロセッササブシステムは、オンボードまたはオフボードとすることができる、またはハードウェアプロセッササブシステム（例えば、ＲＯＭ、ＲＡＭ、基本入出力システム（ＢＩＯＳ）等）で用いるための専用の１つ以上のメモリを含むことができる。

【0060】

任意の実施形態において、ハードウェアプロセッササブシステムは、１つ以上のソフトウェア要素を含み実行できる。１つ以上のソフトウェア要素は、特定の結果を達成するためにオペレーティングシステム及び／または１つ以上のアプリケーション及び／または特定のコードを含むことができる。

【0061】

他の実施形態において、ハードウェアプロセッササブシステムは、指定された結果を達成するために１つまたは複数の電子処理機能を実行する専用回路を含むことができる。そのような回路は、１つまたは複数の特定用途向け集積回路（ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）及び／またはプログラマブルロジックアレイ（ＰＬＡ）を含むことができる。

【0062】

ハードウェアプロセッササブシステムのこれら及び他の変形例もまた、本発明の実施形態によって考えられる。

【0063】

図６を参照すると、モデル訓練システム１０４に関するさらなる詳細が示されている。システム１０４は、ハードウェアプロセッサ６０２及びメモリ６０４を含む。ネットワークインタフェース６０６は、システム１０４と、車両１０２等の１つまたは複数のサイバーフィジカルシステムとの間の通信を提供する。ネットワークインタフェース６０６は、任意の適切な有線または無線通信媒体及びプロトコルを使用できる。システム１０４は、ソフトウェアをメモリ６０４に格納可能であり、ハードウェアプロセッサ６０２によって実行できる機能モジュールをさらに含む。機能モジュールの１つまたは複数は、例えばＡＳＩＣまたはＦＰＧＡの形式で、個別のハードウェアコンポーネントとして実装されてもよい。

【0064】

メモリ６０４は、障害状態の訓練データ６０８及び正常状態の訓練データ６１０を格納する。これらの訓練データセットのそれぞれには、例示的なサイバーフィジカルシステムで測定された時系列情報のデータセットが含まれる。例えば、既知の障害または既知の正常な動作状態にある一組の車両１０２のＥＣＵ１０６は、それぞれの障害状態の訓練データ６０８及び正常状態の訓練データ６１０を生成するために時間と共に監視される。モデルトレーナ６１２は、この情報を用いて上述したモデル１０８等の障害検出モデル６１４を訓練する。

【0065】

この障害検出モデル６１４は、実装のために異なるサイバーフィジカルシステムに送信されてもよい。例えば、ネットワークインタフェース６０６は、モデル６１４を車両群１０２に送信し、動作中に障害を識別及び予測するために使用できる。

【0066】

上述したように、障害検出モデル６１４は、脳等の生物学的神経系に触発された情報処理システムである人工ニューラルネットワーク（ＡＮＮ）として実装できる。ＡＮＮの重要な要素は、特定の問題を解決するために並行して動作する高度に相互接続された多数の処理要素（「ニューロン」と呼ばれる）を含む情報処理システムの構造である。ＡＮＮは、一連の訓練データを用いて訓練され、学習にはニューロン間に存在する重みの調整が含まれる。ＡＮＮは、このような学習プロセスを通して、パターン認識やデータ分類等の特定のアプリケーション用に構成される。

【0067】

図７を参照すると、ニューラルネットワークの一般化された図が示されている。３つの層と全結合ニューロンのセット数を持つＡＮＮの特定の構造が示されているが、これは説明のみを目的としていることを理解されたい。実際には、本実施形態は、任意の数の層及び任意のパターンまたはそれらの間の接続パターンを含む、任意の適切な形態をとることができる。

【0068】

ＡＮＮは、複雑または不正確なデータから意味を導き出す能力を示し、パターンを抽出し、人または他のコンピュータベースのシステムで検出するには複雑すぎるトレンドを検出するために使用できる。ニューラルネットワークの構造は、一般に、１つまたは複数の「隠れ」ニューロン７０４に情報を提供する入力ニューロン７０２を有することが知られている。入力ニューロン７０２と隠れニューロン７０４との間の接続７０８は重み付けされ、これらの重み付けされた入力は、隠れニューロン７０４内の何らかの関数に従って隠れニューロン７０４によって処理される。隠れニューロン７０４の任意の数の層及び異なる関数を実行するニューロンが存在する。畳み込みニューラルネットワーク、Ｍａｘｏｕｔネットワーク等、様々なニューラルネットワーク構造も存在する。これらは、隠れ層の構造及び関数、並びに層間の重みのパターンによって異なる。個々の層は、特定の関数を実行する場合があり、畳み込み層、プーリング層、全結合層、ソフトマックス層、またはその他の適切なタイプのニューラルネットワーク層を含む場合がある。最後に、出力ニューロンのセット７０６は、隠れニューロンの最後のセット７０４からの重み付けされた入力を受け入れて処理する。

【0069】

これは、情報が入力ニューロン７０２から出力ニューロン７０６に伝播する「フィードフォワード」計算を表している。フィードフォワード計算が完了すると、出力は訓練データから得られる目的の出力と比較される。訓練データに関連するエラーは「バックプロパゲーション」計算で処理され、そこで、隠れニューロン７０４と入力ニューロン７０２は、出力ニューロン７０６から逆方向に伝播するエラーに関する情報を受け取る。逆方向のエラー伝播が完了すると、重み付けされた接続７０８が更新されて、受信されたエラーを考慮して重みの更新が実行される。動作の３つのモード、フィードフォワード、バックプロパゲーション及び重みの更新は、互いに重複しないことに留意されたい。これは、ＡＮＮ計算の１つの種類にすぎず、代わりに任意の適切な形式の計算を使用できる。

【0070】

ＡＮＮを訓練するために、訓練データを訓練セットとテストセットとに分割できる。訓練データには、入力と既知の出力のペアが含まれる。訓練中、訓練セットの入力は、フィードフォワード伝搬を使用してＡＮＮに供給される。各入力の後、ＡＮＮの出力がそれぞれの既知の出力と比較される。ＡＮＮの出力とその特定の入力に関連付けられている既知の出力との間の不一致を使用してエラー値が生成される。このエラー値は、ＡＮＮを介して逆伝播され、その後、ＡＮＮの重み値が更新される。このプロセスは、訓練セット内のペアが無くなるまで継続する。

【0071】

訓練が完了した後、ＡＮＮはテストセットに対してテストされ、訓練が過剰適合を引き起こさなかったことが確認される。ＡＮＮが、既に訓練されたものを超えて、新しい入力に一般化できる場合、使用する準備ができている。ＡＮＮがテストセットの既知の出力を正確に再現しない場合、追加の訓練データが必要になるか、ＡＮＮのハイパーパラメータを調整する必要がある。

【0072】

ＡＮＮは、ソフトウェア、ハードウェアまたはこれら２つの組み合わせで実装できる。例えば、各重み７０８はコンピュータメモリに格納された重みの値として特徴付けることが可能であり、各ニューロンの活性化関数はコンピュータプロセッサによって実装できる。重みの値は、実数、バイナリ値または固定数の可能性から選択された値等、関連するニューロン出力に対して乗算される任意の適切なデータ値を格納できる。

【0073】

本明細書では本発明の「一実施形態」または「実施形態」、並びにその他の変形形態に言及し、実施形態に関連して説明した特定の関数、構成、特徴等が、本発明の少なくとも１つの実施形態に含まれることを意味する。したがって、「一実施形態において」または「実施形態において」という語句の出現、並びに本明細書全体を通して様々な場所に出現する任意の他の変形形態は、必ずしも全てが同じ実施形態を参照しているわけではない。しかしながら、本明細書で提供される本発明の教示を前提として、１つまたは複数の実施形態の特徴を組み合わせることができることを理解されたい。

【0074】

例えば、「Ａ／Ｂ」、「Ａ及び／またはＢ」、並びに「Ａ及びＢのうちの少なくとも１つ」の場合における「／」、「及び／または」、並びに「うちの少なくとも１つ」のうちのいずれかの使用は、第１に挙げた選択肢（Ａ）のみの選択、第２に挙げた選択肢（Ｂ）のみの選択、または両方の選択肢（Ａ及びＢ）の選択を含むことを意図したものと理解すべきである。さらに例を挙げれば、「Ａ、Ｂ及び／またはＣ」、並びに「Ａ、Ｂ及びＣのうちの少なくとも１つ」の場合、このような表現法は、第１に挙げた選択肢（Ａ）のみの選択、第２に挙げた選択肢（Ｂ）のみの選択、第３に挙げた選択肢（Ｃ）のみの選択、第１及び第２に挙げた選択肢（Ａ及びＢ）のみの選択、第１及び第３に挙げた選択肢（Ａ及びＣ）のみの選択、第２及び第３に挙げた選択肢（Ｂ及びＣ）のみの選択、または３つの選択肢全て（Ａ及びＢ及びＣ）の選択を含むことを意図したものである。上述した例は、当業者に容易に明らかとなるように、列挙される多数の項目に応じて拡大適用される。

【0075】

上記は、あらゆる観点において説明的（illustrative）かつ典型的（exemplary）であって限定的でないものと理解されるべきであり、本明細書で開示する本発明の範囲は、詳細な説明から決定されるべきではなく、特許法で認められた最大限の広さに基づいて解釈される特許請求の範囲から決定されるべきである。本明細書中に図示及び記載されている実施形態は、本発明の原理を説明するものにすぎず、本発明の範囲及び主旨から逸脱することなく当業者は様々な変更を実施することができることを理解されたい。当業者は、本発明の範囲及び精神から逸脱することなく、様々な他の特徴の組み合わせを実施できる。以上、本発明の態様について、特許法で要求される細部及び詳細な事項と共に説明したが、特許証で保護されることを要求する特許請求の範囲は、添付の特許請求の範囲に示されている。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】