特許 7450027 技術装置のシステム挙動の標準値範囲からの許容されない偏差を判定する方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-03-06

(45)【発行日】2024-03-14

(54)【発明の名称】技術装置のシステム挙動の標準値範囲からの許容されない偏差を判定する方法

(51)【国際特許分類】

   G06F 11/07 20060101AFI20240307BHJP

   G06F 18/10 20230101ALI20240307BHJP

   G06N 3/045 20230101ALI20240307BHJP

   G06N 3/096 20230101ALI20240307BHJP

【ＦＩ】

G06F11/07 160

G06F11/07 140R

G06F18/10

G06N3/045

G06N3/096

【請求項の数】 14

(21)【出願番号】P 2022523262

(86)(22)【出願日】2020-11-05

(65)【公表番号】

(43)【公表日】2022-12-20

(86)【国際出願番号】 EP2020081029

(87)【国際公開番号】W WO2021089659

(87)【国際公開日】2021-05-14

【審査請求日】2022-04-18

(31)【優先権主張番号】102019217071.4

(32)【優先日】2019-11-06

(33)【優先権主張国・地域又は機関】DE

(73)【特許権者】

【識別番号】591245473

【氏名又は名称】ロベルト・ボッシュ・ゲゼルシャフト・ミト・ベシュレンクテル・ハフツング

【氏名又は名称原語表記】ＲＯＢＥＲＴ ＢＯＳＣＨ ＧＭＢＨ

(74)【代理人】

【識別番号】100177839

【弁理士】

【氏名又は名称】大場 玲児

(74)【代理人】

【識別番号】100172340

【弁理士】

【氏名又は名称】高橋 始

(74)【代理人】

【識別番号】100182626

【弁理士】

【氏名又は名称】八島 剛

(72)【発明者】

【氏名】ローマー，アヒム

【審査官】渡辺 一帆

(56)【参考文献】

【文献】特開２０１８－１９２７５１（ＪＰ，Ａ）

【文献】特開平０８－０２９５３８（ＪＰ，Ａ）

【文献】WEN, T et al.，"Time Series Anomaly Detection Using Convolutional Neural Networks and Transfer Learning"，arXiv.org [online]，2019年05月，pp. 1-8，[retrieved on 2023.06.23], Retrieved from the Internet: <URL: https://arxiv.org/abs/1905.13628v1>，<DOI: 10.48550/arXiv.1905.13628>

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｆ １１／０７

Ｇ０６Ｆ １８／１０－１８／１５

Ｇ０６Ｎ ３／０２－ ３／１０

(57)【特許請求の範囲】

【請求項1】

技術装置（１，５）のシステム挙動の標準値範囲からの許容されない偏差をニューラルネットワーク（４）によって判定する方法において、学習段階で前記技術装置（１，５）の入力データ（２）と出力データ（３）が前記ニューラルネットワークに供給され、学習段階に後続する予測段階で前記技術装置（５）の入力データ（２）だけが前記ニューラルネットワーク（４）に供給され、前記ニューラルネットワーク（４）で出力比較データが計算され、前記技術装置（５）の出力データ（３）が前記ニューラルネットワーク（４）の出力比較データに対する相違に基づいて標準値範囲外にある場合に前記技術装置（５）の許容されない偏差が判断される、方法。

【請求項2】

前記ニューラルネットワーク（４）がベースネットワーク（６）とヘッドネットワーク（７）に下位区分され、学習段階の第１のセクションでは前記ベースネットワーク（６）と前記ヘッドネットワーク（７）がいずれも第１の技術装置（１）でトレーニングされ、学習段階の第２のセクションでは前記第１の技術装置（１）と同一構造である第２の技術装置（５）で前記ヘッドネットワーク（７）だけがトレーニングされることを特徴とする、請求項１に記載の方法。

【請求項3】

予測段階で前記ベースネットワーク（６）と前記ヘッドネットワーク（７）がいずれも前記第２の技術装置（５）の許容されない偏差の判定のために利用されることを特徴とする、請求項２に記載の方法。

【請求項4】

前記ヘッドネットワーク（７）のニューロンの数は前記ベースネットワーク（６）のニューロンの数よりも少ないことを特徴とする、請求項２または３に記載の方法。

【請求項5】

前記ベースネットワーク（６）の出力が前記ヘッドネットワーク（７）の入力として利用されることを特徴とする、請求項２から４までのいずれか１項に記載の方法。

【請求項6】

前記ヘッドネットワーク（７）に入力として前記第２の技術装置（５）の測定値が供給されることを特徴とする、請求項２から５までのいずれか１項に記載の方法。

【請求項7】

前記ヘッドネットワーク（７）に入力として入力データ（２）のタイプまたはクラスに関する情報が供給されることを特徴とする、請求項２から６までのいずれか１項に記載の方法。

【請求項8】

前記ニューラルネットワーク（４）はそれぞれ異なる入力データ（２）が供給される複数のベースネットワーク（６）を含むことを特徴とする、請求項２から７までのいずれか１項に記載の方法。

【請求項9】

異なる前記ベースネットワーク（６）の出力が共通のヘッドネットワーク（７）に供給されることを特徴とする、請求項８に記載の方法。

【請求項10】

入力データ（２）に前処理が施されてから、前記ニューラルネットワーク（４）で処理が行われることを特徴とする、請求項２から９までのいずれか１項に記載の方法。

【請求項11】

請求項１から１０までのいずれか１項に記載の方法を実施するために構成された手段を有している電子装置。

【請求項12】

請求項１から１０までのいずれか１項に記載の方法を実施するために構成された手段を有している車両の制御装置。

【請求項13】

請求項１から１０までのいずれか１項に記載の方法の各ステップを実行するために設計されたプログラムコードを有しているコンピュータプログラム製品。

【請求項14】

請求項１３に記載のコンピュータプログラム製品が格納されている機械可読の記憶媒体。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、技術装置のシステム挙動の標準値範囲からの許容されない偏差を人工ニューラルネットワークによって判定する方法に関する。

【背景技術】

【0002】

特許文献１には、２つの機械学習システムによって物体の走行動作を予測する方法が記載されている。第１の機械学習システムは、第１の入力量に依存して、物体を特徴づける出力量を判定し、第２の機械学習システムは、第２の入力量に依存して、物体の状態を特徴づける第２の出力量を判定する。物体の将来的な運動が、これらの出力量に依存して予測される。このとき第１の機械学習システムはディープニューラルネットワークを含んでおり、第２の学習システムは確率的グラフィカルモデルを含んでいる。

【0003】

特許文献２は、ニューラルネットワークの入力レイヤに供給される入力信号を基礎として、ニューラルネットワークのレイヤのシーケンスにより出力信号のシーケンスを判定する方法を開示している。先行する入力信号がニューラルネットワークをまだ伝播している間に、定義された時点で、ニューラルネットワークに新しい入力信号がすでに供給される。

【先行技術文献】

【特許文献】

【0004】

【文献】ドイツ特許第１０２０１８２０６８０５Ｂ３号明細書

【文献】ドイツ特許出願公開第１０２０１８２０９９１６Ａ１号明細書

【発明の概要】

【0005】

本発明の方法により、技術装置のシステム挙動の標準値範囲からの許容されない偏差を判定することができる。このようにして、技術装置の全面的または部分的な故障を、実際の故障発生が起こる前に予測することが可能であり、それにより、相応の対応策を早期に講じることができる。そのようにして簡易に具体化できる方策により、技術装置の状態監視を実行することができる。システム挙動の劣化やシステム異常を早期に判断することができる。標準値範囲を設定してこれと比較することで、技術装置の状態推移を継続して監視し、技術装置の適正な機能がいつまで保証されるかという時点、および適正な機能をいつから保証できなくなるかという時点または少なくとも完全には保証できなくなる時点を判断することが可能である。

【0006】

技術装置の許容されない偏差を判定する方法は人工ニューラルネットワークを利用し、学習段階で技術装置の入力データと出力データがこれに供給される。技術装置の入力データおよび出力データとの比較によって相応の組合せが人工ニューラルネットワークで作成され、ニューラルネットワークが技術装置のシステム挙動に合わせてトレーニングされる。

【0007】

学習段階に後続する予測段階で、装置のシステム挙動をニューラルネットワークで確実に予測することができる。そのために予測段階では技術装置の入力データだけがニューラルネットワークに供給され、出力比較データがニューラルネットワークで計算されて、これが技術装置の出力データと比較される。この比較のとき、好ましくは測定値として検出される技術装置の出力データと、ニューラルネットワークの出力比較データとの差異が大きく相違し過ぎていて限界値を超えていることが判明したときには、技術装置のシステム挙動の標準値範囲からの許容されない偏差が生じている。これを受けて適切な方策を講じることができ、たとえば警告信号が生起または保存され、あるいは技術装置の部分機能が不作動化される（技術装置のデグレード）。場合により、許容されない偏差が生じたケースでは代替の技術装置への切り替えをすることができる。

【0008】

上述した方法により、実際の技術装置を継続して監視することができる。学習段階では、技術装置の入力側からも出力側からも十分に多くの技術装置の情報がニューラルネットワークに供給され、それにより、技術装置を十分な精度でニューラルネットワークにマッピングしてシミュレーションすることができる。このことは、これに後続する予測段階で、技術装置を監視してシステム挙動の劣化を予測することを可能にする。このようにして、特に技術装置の残存利用期間を予測することができる。

【0009】

好ましい実施形態では、ニューラルネットワークはベースネットワークとヘッドネットワークに下位区分され、これらが共同でニューラルネットワークを形成する。ベースネットワークとヘッドネットワークはそれぞれ多数のレイヤで構成され、ベースネットワークとヘッドネットワークが協同作用するが、部分ネットワークに下位区分可能である。技術装置のタイプに依存して、たとえば畳み込み層や全結合層など、さまざまな種類のレイヤを特にヘッドネットワークで利用することができる。

【0010】

場合により、共通のヘッドネットワークと協同作用する複数のベースネットワークを設けるのが好ましいことがあり得る。たとえば、各々のハイダイナミックな測定チャネルについて、それぞれ１つのベースネットワークを利用することが可能である。

【0011】

学習段階では、ベースネットワークとヘッドネットワークがいずれも第１の技術装置のシステム挙動に合わせてトレーニングされる。このことは、学習段階の第１のセクションを形成する。これに後続する学習段階の第２のセクションで、第１の技術装置と同一構造の第２の技術装置でトレーニングが行われる。学習段階のこの第２のセクションではヘッドネットワークだけがトレーニングされ、ベースネットワークはトレーニングされない。

【0012】

この実施形態は、第２の技術装置の固有のシステム挙動に合わせてヘッドネットワークをトレーニングすることができるという利点を有し、ニューラルネットワークがインプリメントされる電子装置が比較的小さい計算容量しか備えていなくてよい。それに対して、第１の技術装置を用いた学習段階の第１のセクションでのトレーニングは、比較的大きい計算容量を備える別の電子装置で実行することができる。

【0013】

このように第１のセクションと第２のセクションとに学習段階を下位区分すること、ならびに、学習段階の第１のセクションでベースネットワークとヘッドネットワークをいずれもトレーニングし、学習段階の第２のセクションでヘッドネットワークだけをトレーニングすることは、一方では、技術装置のシステム挙動のニューラルネットワークでのマッピングの精度に関わる高い要求事項を満たし、他方では、制約された計算容量を有する電子装置でのニューラルネットワークの動作能力に関わる要求事項を満たす。特に、第１の技術装置を対象とする学習段階の第１のセクションを工場や開発環境などで集中的に実行し、それに対して学習段階の第２のセクションは分散的に、たとえば車両で実行することが可能である。このようなケースでは、学習段階の第２のセクションの実行はたとえば車両の制御装置で行われ、たとえばＥＳＰモジュール（エレクトロニックスタビリティプログラム）の制御装置で行われる。

【0014】

学習段階に後続する予測段階で、別の好ましい実施形態では、第２の技術装置の許容されない偏差の判定のためにベースネットワークとヘッドネットワークがいずれも利用される。ベースネットワークは学習段階の第１のセクションに基づき、技術的に同一構造の装置に合わせてトレーニングされており、ヘッドネットワークも同じく学習段階の第１のセクションに基づき、技術的に同一構造の装置に合わせてトレーニングされており、これに加えて学習段階の第２のセクションに基づき、特別な第２の技術装置に合わせてトレーニングされている。予測段階では、第２の技術装置のシステム挙動における許容されない偏差を判断するために、ベースネットワークとヘッドネットワークが協同作用する。予測段階は学習段階よりも少ない計算容量しか必要としないので、両方の部分ネットワーク－ベースネットワークとヘッドネットワーク－を、予測段階では計算容量の少ない電子装置で作動させることができる。

【0015】

別の好ましい実施形態では、ヘッドネットワークのニューロンの数はベースネットワークのニューロンの数よりも少ない。この相違は、たとえば少なくとも係数５または少なくとも係数１０であり得る。少なくとも１０倍小さいヘッドネットワークのもとでも、学習段階の第２のセクションでの第２の技術装置のシステム挙動に合わせた十分な適合化が保証される。

【0016】

ベースネットワークとヘッドネットワークの協同作用は、学習段階と予測段階で、ベースネットワークの出力がヘッドネットワークのための入力として利用されるように行われる。予測段階ではベースネットワークが、ニューラルネットワークによって監視される技術装置の入力データをさらに受信する。これに加えてヘッドネットワークに、第２の技術装置の入力データの測定値も供給することができ、特に、比較的さほど動的でない測定値の平均値を供給することができる。ベースネットワークに入力として供給される第２の技術装置の入力データも、同じく特にハイダイナミック領域の測定値を形成することができ、このような入力が時間領域または周波数領域でベースネットワークに供給される。

【0017】

ヘッドネットワークには、入力データのタイプやクラスに関する追加の入力情報を供給することができる。これは、たとえば好ましくは第２の技術装置で実行される操作のタイプに関する、クラスタ分析に基づく情報である。車両の技術装置、特にブレーキシステムやブレーキシステムのサブシステムのケースでは、これはたとえば走行操作の種類であり、たとえばブレーキプロセスや渋滞追従走行である。

【0018】

別の好ましい実施形態では、ベースネットワークおよび場合によりヘッドネットワークへ供給される入力データに前処理を施すことができる。好ましく実行される第１の前処理ステップは、システム挙動の許容されない偏差に関して点検される技術装置の、特に第２の技術装置の、利用できる測定値または利用できる測定値の部分集合を、一定の長さの時間区域に下位区分することを意図する。その追加または代替として、測定値またはその部分集合を周知のロジックに従って、たとえば操作固有に下位区分することも可能である。一時的にのみアクティブとなる技術装置の場合、アクティブ化のたびに下位区分を選択することもできる。

【0019】

別の好ましい前処理ステップは、たとえばｋ平均アルゴリズムを用いて、測定値にクラスタ分析が施されることを意図する。このような特定のクラスに関する情報を、特に直接的にヘッドネットワークに供給することができ、このことは情報精度の向上につながる。

【0020】

さらに別の好ましい前処理ステップでは、特にベースネットワークに供給される、好ましくはハイダイナミックな測定値である測定値に、入力データを時間領域から周波数領域へ転換するために、フーリエ変換、特に高速フーリエ変換または短時間フーリエ変換（ＳＴＦＴ）が施される。その際にＳＴＦＴが適用されるときは、データ量を削減するために、平均値、最大値、中央値、または最頻値を周波数領域ごとに援用することができる。このような前処理ステップの選択肢は、さほど動的でない入力データまたは測定データにも適用することができる。

【0021】

場合により、測定値におけるサンプリング動作の削減によって、動的な測定値のデータ量も削減することができる。

【0022】

さらに本発明は、上述した方法を実施するための手段を装備する、たとえば車両の制御装置などの電子装置に関する。このような手段は、特に、入力データと出力データの必要な計算と保存をするための少なくとも１つの計算ユニットおよび少なくとも１つの記憶ユニットである。

【0023】

さらに本発明は、上述した方法ステップを実行するために設計されたプログラムコードを有するコンピュータプログラム製品に関する。コンピュータプログラム製品は機械可読の記憶媒体に格納することができ、上述した電子装置で進行させることができる。

【0024】

本方法は、たとえばステアリングシステムやブレーキシステムなどの車両の技術システムの状態監視に適用可能である。電子装置は、このようなケースでは、技術装置のコンポーネントを制御可能である制御装置であるのが好ましい。さらに、大規模なシステムの内部で１つのサブシステムだけを技術装置として監視し、たとえば、ブレーキシステムでＥＳＰモジュール（エレクトロニックスタビリティプログラム）を監視することも可能である。

【0025】

その他の利点や好都合な実施形態は、下記の特許請求の範囲、図面の説明、および図面から読み取ることができる。図面は次のものを示す。

【図面の簡単な説明】

【0026】

【図1】入力データが供給されて出力データを生成する第１のＥＳＰモジュールを、ベースネットワークおよびヘッドネットワークが組み合わされてなる、学習段階の第１のセクションのもとにある並列につながれたニューラルネットワークとともに記号で表示したブロック図である。

【図2】図１のブロック図であるが、学習段階の第２のセクションのもとにある第２のＥＳＰモジュールおよびニューラルネットワークを含んでいる。

【図3】予測段階にある第２のＥＳＰモジュールおよびニューラルネットワークを含む、図２のブロック図である。

【図4】ニューラルネットワークのベースネットワークとヘッドネットワークを示す詳細図である。

【発明を実施するための形態】

【0027】

各図面において、同じコンポーネントには同じ符号が付されている。

【0028】

図１のブロック図には、車両のブレーキシステムのためのＥＳＰモジュールの形態の技術装置１の原理図が、入力データと出力データ、および並列につながれたニューラルネットワーク４とともに示されている。例示として技術装置として利用されるＥＳＰモジュール１は、所望の変調されたブレーキ圧をブレーキシステム内で生成するためのＥＳＰポンプと、ＥＳＰポンプを制御するための制御装置とを含んでいる。ＥＳＰモジュール１には、たとえば電気式に作動可能なＥＳＰモジュール１のＥＳＰポンプのための入力電流などの入力データ２が供給され、ＥＳＰモジュール１は入力データ２に対する反応として、たとえば液圧式のブレーキ圧などの出力データ３を生成する。

【0029】

技術装置１と並列に、学習段階で技術装置１のシステム挙動に合わせてトレーニングされるニューラルネットワーク４がつながれており、そのためにニューラルネットワーク４に学習段階で、技術装置１の入力データ２と出力データ３がいずれも供給される。

【0030】

ニューラルネットワーク４は、それぞれ複数のレイヤまたは層を有していて協同作用するベースネットワークとヘッドネットワークに下位区分されている。ベースネットワーク６の出力部がヘッドネットワーク７の入力部を形成する。ベースネットワーク６はヘッドネットワーク７よりも有意に大きく、ベースネットワークのニューロンの数はヘッドネットワーク７のニューロンの数より少なくとも係数５だけ、または少なくとも係数１０だけ多いのが好ましい。

【0031】

図１は、ベースネットワーク６とヘッドネットワーク７がいずれも技術装置１のシステム挙動に合わせてトレーニングされる、学習段階の第１のセクションを表している。この目的のためにベースネットワーク６に、技術装置１の入力データ２と出力データがいずれも入力として供給されて、ベースネットワーク６とヘッドネットワーク７で組合せが作成される。

【0032】

図１に示す学習段階の第１のセクションは、技術装置１の開発段階中に実行することができる。学習段階の第１のセクションの終了後に、ベースネットワーク６のためのトレーニングが終了する。

【0033】

図２は、ニューラルネットワーク４のための学習段階の第２のセクションを表しており、学習段階のこの第２のセクションは、第１の技術装置１と技術的に同一構造である第２の技術装置５で実行される。学習段階のこの第２のセクションはニューラルネットワーク４のヘッドネットワーク７だけを対象としており、それに対してベースネットワーク６は、学習段階の第２のセクションではトレーニングされない。この実施形態は、実行がさほど計算集中的ではなくなることに基づき、それに応じてさほど高性能でない制御装置で学習段階の第２のセクションを実行し、特に、第２の技術装置５の取付場所で直接実行することを可能にする。ＥＳＰモジュール５のケースでは、学習段階の第２のセクションをＥＳＰモジュールの制御装置で実行することができる。

【0034】

学習段階の第２のセクションでも、第２の技術装置５の入力データ２と出力データ３がニューラルネットワーク４に入力として供給され、ただし、ニューラルネットワークのヘッドネットワーク７にのみ供給される。

【0035】

図３は、ニューラルネットワーク４の予測段階における第２の技術装置５を示している。学習段階が完了しており、第２の技術装置５を用いた具体的な用途に合わせて、ヘッドネットワーク７が十分な仕方でトレーニングされている。図３に示す予測段階では、第２の技術装置５の入力データ２が入力としてニューラルネットワーク４に供給され、ベースネットワーク６とヘッドネットワーク７を有するニューラルネットワークで、学習された挙動を基礎としたうえで出力比較データが生成されて、これが第２の技術装置５の出力データ３と比較される。技術装置５の出力データ３が所与の標準値範囲外にある程度に偏差が大きいときには、技術装置５のシステム挙動の許容されない大きな劣化が生じており、そこから技術装置５の短い耐用寿命または差し迫った部分的故障もしくは全面失陥を推定することができる。これを受けて、たとえば警告信号の生起や技術装置５の機能範囲の縮減などの措置を講じることができる。

【0036】

図４には、ベースネットワーク６とヘッドネットワーク７とを有するニューラルネットワーク４の構造が詳細に示されている。ベースネットワーク６は複数の個別のベースネットワークまたはサブベースネットワーク６ａ，６ｂおよび６ｃを含んでいて、これらに入力データとしてそれぞれ測定値が、それぞれハイダイナミックな測定チャネルの時間領域または周波数領域で供給される。これは、学習段階では技術装置の入力データと出力データであり、予測段階では技術装置の入力データである。

【0037】

出力側で、サブベースネットワーク６ａ，６ｂおよび６ｃで生成されたデータがヘッドネットワーク７に入力として供給され、該ヘッドネットワークで、学習段階では新たな組合せが作成され、予測段階では着目される技術装置のシステム挙動に関する予想が行われる。学習段階の第２のセクションにおいては、図２にも見て取れるように、第２の技術装置の出力データを直接ヘッドネットワーク７へ入力として供給することができる。

【0038】

予測段階ではヘッドネットワーク７に追加の入力として、たとえば入力データのタイプやクラスに関する補足情報や、静的な測定値、もしくはさほど動的でない測定値の平均値などを供給することができる

【符号の説明】

【0039】

１ 技術装置
２ 入力データ
３ 出力データ
４ ニューラルネットワーク
５ 技術装置
６ ベースネットワーク
７ ヘッドネットワーク

【図1】

【図2】

【図3】

【図4】