特許 7242101 融合ニューラルネットワークモデルに基づくエンジンサージング故障の予測システム及び方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2023-03-10

(45)【発行日】2023-03-20

(54)【発明の名称】融合ニューラルネットワークモデルに基づくエンジンサージング故障の予測システム及び方法

(51)【国際特許分類】

   G06N 3/0442 20230101AFI20230313BHJP

   B64F 5/40 20170101ALI20230313BHJP

   B64D 27/10 20060101ALI20230313BHJP

   B64D 27/16 20060101ALI20230313BHJP

   F02D 43/00 20060101ALI20230313BHJP

【ＦＩ】

G06N3/0442

B64F5/40

B64D27/10

B64D27/16

F02D43/00 301Y

【請求項の数】 9

(21)【出願番号】P 2021576667

(86)(22)【出願日】2021-09-15

(65)【公表番号】

(43)【公表日】2023-01-18

(86)【国際出願番号】 CN2021118455

(87)【国際公開番号】W WO2022068587

(87)【国際公開日】2022-04-07

【審査請求日】2021-12-23

(31)【優先権主張番号】202011056637.4

(32)【優先日】2020-09-30

(33)【優先権主張国・地域又は機関】CN

(73)【特許権者】

【識別番号】521300544

【氏名又は名称】西南石油大学

【氏名又は名称原語表記】Ｓｏｕｔｈｗｅｓｔ Ｐｅｔｒｏｌｅｕｍ Ｕｎｉｖｅｒｓｉｔｙ

【住所又は居所原語表記】Ｎｏ． ８， Ｘｉｎｄｕ Ａｖｅｎｕｅ， Ｘｉｎｄｕ Ｄｉｓｔｒｉｃｔ， Ｃｈｅｎｇｄｕ， Ｓｉｃｈｕａｎ ６１０５００， Ｃｈｉｎａ

(74)【代理人】

【識別番号】110002262

【氏名又は名称】ＴＲＹ国際弁理士法人

(72)【発明者】

【氏名】鄭 ▲とく▼生

(72)【発明者】

【氏名】唐 暁瀾

(72)【発明者】

【氏名】呉 欣隆

(72)【発明者】

【氏名】▲どん▼ 碧穎

(72)【発明者】

【氏名】張 柯欣

(72)【発明者】

【氏名】蒋 東蒲

【審査官】北川 純次

(56)【参考文献】

【文献】特開２０１６－２０１０８８（ＪＰ，Ａ）

【文献】特表２０１９－５３５９５７（ＪＰ，Ａ）

【文献】中国特許出願公開第１１０８０７２５７（ＣＮ，Ａ）

【文献】中国特許出願公開第１１１６３９４６７（ＣＮ，Ａ）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ３／０２－３／１０

Ｂ６４Ｆ ５／４０

Ｂ６４Ｄ ２７／１０

Ｂ６４Ｄ ２７／１６

Ｆ０２Ｄ ４３／００

(57)【特許請求の範囲】

【請求項1】

エンジンの三次元構成時系列データを、所定の長さだけの予測時系列に生成させ、未来の一定の期間内、エンジンの稼働状態データの予測を実現する、ための予測モジュールと、
予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴を抽出する、ための特徴抽出モジュールと、
予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴に基づいて、サージング故障であるかどうかを判断する、ための分類モジュールと、を含み、
前記予測モジュールは、順次に接続される第一ＬＳＴＭ層と第二ＬＳＴＭ層を含み、
前記第一ＬＳＴＭ層は、エンジンの三次元構成時系列データを、ロットとなる二次元語義ベクトルにエンコードする、ためのエンコーダーであり、前記第二ＬＳＴＭ層は、二次元語義ベクトルを所定の長さだけの予測時系列にデコードするためのデコーダーであり、ロットとなる二次元語義ベクトルは、第一ＬＳＴＭ層における最後の一Ｃｅｌｌにより出力され、現在全体入力序列の語義特徴を示すものであり、
次に、二次元語義ベクトルをコピーし、現在序列長さと出力序列長さとが等しいようにして、データ予測の正確性を保証し、所定の長さだけの二次元語義ベクトルを所定の長さだけの予測時系列にデコードし、数が異なるＬＳＴＭ Ｃｅｌｌを設置することにより、所定の長さだけの予測時系列を生成することができ、最終的に、未来一定の期間内に、航空用エンジンの稼働状態のデータ値を取得することができる、ことを特徴とする融合ニューラルネットワークモデルに基づくエンジンのサージング故障予測システム。

【請求項2】

前記特徴抽出モジュールは、順次に接続される一次元畳み込み手段及び第三ＬＳＴＭ層を含み、
前記一次元畳み込み手段は、予測時系列の局所的特徴を抽出するためのものであり、前記第三ＬＳＴＭ層は、予測時系列におけるデータ間の語義関係、及び、全体序列傾向特徴を抽出するためのものである、ことを特徴とする請求項1に記載の融合ニューラルネットワークモデルに基づくエンジンのサージング故障予測システム。

【請求項3】

前記一次元畳み込み手段は、具体的に、順次に接続される、畳み込みステップ幅が１である二つの一次元畳み込み層を含む、ことを特徴とする請求項２に記載の融合ニューラルネットワークモデルに基づくエンジンのサージング故障予測システム。

【請求項4】

前記分類モジュールは、順次に接続される第一全結合層及び第二全結合層を含み、
前記第一全結合層は、予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴情報を加重マッピングするためのものであり、前記第二全結合層は、加重マッピングされた特徴情報を二項分類し、エンジンは未来一定の期間内、サージング故障であるかどうかを判断するためのものである、ことを特徴とする請求項1に記載の融合ニューラルネットワークモデルに基づくエンジンのサージング故障予測システム。

【請求項5】

エンジンの三次元構成時系列データを所定の長さだけの予測時系列に生成させ、ただし、前記エンジンの三次元構成時系列データを所定の長さだけの予測時系列に生成させることは、予測モジュールにより実現され、前記予測モジュールは、順次に接続される第一ＬＳＴＭ層及び第二ＬＳＴＭ層を含み、前記第一ＬＳＴＭ層は、エンジンの三次元構成時系列データをロットとなる二次元語義ベクトルにエンコードするためのエンコーダーであり、前記第二ＬＳＴＭ層は、二次元語義ベクトルを所定の長さだけの予測時系列にデコードするためのデコーダーであるステップと、
ロットとなる二次元語義ベクトルは、第一ＬＳＴＭ層における最後の一Ｃｅｌｌにより出力され、現在全体入力序列の語義特徴を表示するものであり、次に、二次元語義ベクトルをコピーし、現在序列長さと出力序列長さが等しいようにして、データ予測の正確性を保証し、所定の長さだけの二次元語義ベクトルを所定の長さだけの予測時系列にデコードし、数が異なるＬＳＴＭ Ｃｅｌｌを設置することにより、所定の長さだけの予測時系列を生成することができ、最終的に未来一定の期間内に、航空用エンジンの稼働状態のデータ値を取得することができるステップと、
予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴を抽出するステップと、
予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴に基づいて、サージング故障であるかどうかを判断するステップ、を含む、ことを特徴とする融合ニューラルネットワークモデルに基づくエンジンのサージング故障予測方法。

【請求項6】

前記予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴に基づいて、サージング故障であるかどうかを判断することは、具体的に、
予測時系列の局所的特徴、データ間の語義関係、及び全体序列傾向特徴情報を加重マッピングすること、
加重マッピングされた特徴情報を二項分類し、エンジンは未来一定の期間内にサージング故障であるかどうかを判断することを含む、ことを特徴とする請求項5に記載の融合ニューラルネットワークモデルに基づくエンジンのサージング故障予測方法。

【請求項7】

前記加重マッピングされた特徴情報を二項分類することは、具体的に、
Ｓｉｇｍｏｉｄ活性化関数を用いてエンジンは未来一定の期間内にサージング故障であるかどうかを判断し、関数は、

【請求項8】

スライディングウィンドウ法を用いて、エンジンに対する異なるモニタ装置によるデータのサブ序列を切り取り、サブ序列集合を取得し、
サブ序列集合におけるあるサブ序列を仕分けポイントサブ序列とすると、仕分けポイントサブ序列前のサブ序列を訓練集合、仕分けポイントサブ序列後ろのサブ序列を測定集合、それぞれとする、というデータ前処理ステップをさらに、含む、ことを特徴とする請求項５に記載の融合ニューラルネットワークモデルに基づくエンジンのサージング故障予測方法。

【請求項9】

二項分類の交差エントロピー関数を損失関数として用いて、逆伝播の訓練を行い、前記予測方法に基づくモデルにおける各ネットワーク層の重み係数勾配を取得し、各ネットワーク層の重み係数を更新し、前記損失関数は、

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、時系列データを予測する技術分野に関し、特に、融合ニューラルネットワークモデルに基づくエンジンサージングの故障予測システム及び方法に関する。

【背景技術】

【0002】

航空用エンジンは、飛行機の「心臓」である。エンジン故障は、飛行の故障にかなり大きな比例を占めており、しかも、一旦発生すると、極めて危なくなる。従って、如何にして、予め航空用エンジンの故障を予測しておくかということは、現在、飛行の安全性にとって早めに解決すべき課題となる。しかし、航空用エンジンのサージング故障は、よく見られ、非正常の稼働状態であり、エンジン部品が激しく振動することになり、ホットエンドが温度エクスカーションとなり、深刻な場合には飛行の安全性を脅かす恐れがある。そして、エンジンにサージングが発生しようとするときにサージングの現象を即時に発見して識別し、ひいては、サージングを解消する施策を取ることは、飛行の事故を避ける重要な前提の一つである。

【0003】

故障を予測する方法についての研究は、現在、多様化する傾向が現れ、主に、モデルに基づく予測方法、知識に基づく予測方法、及び、データに基づく予測方法に分けられる。

【0004】

１．モデルに基づく予測は、故障物理モデル及びシステムに基づく出入力モデルを主に含む。これらの方法は、リアルタイムの要求を満たすことができるが、エンジンそのものは、複雑な非線形振動システムであることから、予測モデルを構築することが極めて難しい。
２．知識に基づく予測は、正確な数学的モデルを必要とせず、そのエンジンに関連する各学科の専門家の知識及び経験を十分に発揮できるものの、専門家の知識ベースがカバーする故障モードが限られることから、実際の適用にあたり、様々な課題が解決されるべきである。
３．データに基づく予測は、正確なエンジン数学モデル及び物理モデルを必要としないということを最大の利点とし、データを基に、データに隠される情報を発掘して予測する。ただし、機械学習及びディープラーニングモデルに基づく故障予測技術は、段々と、現在流行している方法となり、特に、ディープラーニングに基づいてニューラルネットワークモデルを構築することにより、エンジン故障を予測することが済む方法は、初期の仮設によらず、原始データを処理することなく、直接に、構築されてきたネットワークモデルにより、予測性の特徴を自動的に学習することができる。

【0005】

さらに、航空用エンジンのセンサーデータが時系列データに該当することから、航空用エンジンのセンサーデータを予測することは、時系列データを予測する問題と見なされてもよい。従来における時系列を予測する方法には、主に、ＡＲ、ＭＲ、ＡＲＭＡ、ＡＲＩＭＡなどの線形モデルがあり、それらは、穏やかな時系列を予測することに比較的良い効果が存在する。しかしながら、証券市場データ、水文データ、又は、ここで言及している航空用エンジンのセンサーデータにとって、大部分が非線形特徴を有しており、従来の線形予測により比較的良い予測結果を得ることが難しい。

【0006】

現在、航空用エンジンのセンサーによる時系列データを予測する課題は、関連業界に、解決できる数多くの手段がまだ存在しておらず、大部分は、航空用エンジンのセンサーデータに基づいて、航空用エンジンの残り寿命を予測し、又は、故障を診断するなどの問題を解決するものである。ただし、データに基づいて、機械学習アルゴリズムを用いたり、ディープラーニングモデルを構築して予測したりする手段が極めて少なく、その大部分は、モデルや知識に基づいて予測を行うことから、手間がかかるのみならず、予測の正確性が高くない。

【発明の概要】

【発明が解決しようとする課題】

【0007】

本発明は、航空用エンジンのサージングの故障を予測する分野において、データに基づいて予測を行う技術の空白を補い、一層早めで正確に予め故障を予測しておくことができる、融合ニューラルネットワークモデルに基づくエンジンのサージング故障予測システム及び方法を提供することを目的とする。

【課題を解決するための手段】

【0008】

本発明に係る目的は、以下の技術的手段により実現される。
融合ニューラルネットワークモデルに基づくエンジンのサージング故障予測システムは、具体的に、
エンジンの三次元構成時系列データを所定の長さだけの予測時系列に生成させるための予測モジュールと、予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴を抽出するための特徴抽出モジュールと、予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴に基づいて、サージング故障であるかどうかを判断するための分類モジュールを含む。

【0009】

選択的には、前記予測モジュールは、順次に接続される第一ＬＳＴＭ層及び第二ＬＳＴＭ層を含み、前記第一ＬＳＴＭ層は、エンジンの三次元構成時系列データをロットとなる二次元語義ベクトルにエンコードするためのエンコーダーであり、前記第二ＬＳＴＭ層は、二次元語義ベクトルを所定の長さだけの予測時系列にデコードするためのデコーダーである。

【0010】

選択的には、前記特徴抽出モジュールは、順次に接続される一次元畳み込み手段及び第三ＬＳＴＭ層を含み、前記一次元畳み込み手段は、予測時系列の局所的特徴を抽出するためのものであり、前記第三ＬＳＴＭ層は、予測時系列におけるデータ間の語義関係、及び、全体序列傾向特徴を抽出するためのものである。

【0011】

選択的には、前記一次元畳み込み手段は、具体的に、順次に接続される、畳み込みステップ幅が１である二つの一次元畳み込み層を含む。

【0012】

選択的には、前記分類モジュールは、順次に接続される第一全結合層及び第二全結合層を含み、前記第一全結合層は、予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴情報を加重マッピングするためのものであり、前記第二全結合層は、加重マッピングされた特徴情報を二項分類し、エンジンは未来一定の期間内、サージング故障であるかどうかを判断するためのものである。

【0013】

本発明は、エンジンの三次元構成時系列データを所定の長さだけの予測時系列に生成させるステップと、
予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴を抽出するステップと、
予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴に基づいて、サージング故障であるかどうかを判断するステップを含む、融合ニューラルネットワークモデルに基づくエンジンのサージング故障予測方法をさらに含む。

【0014】

選択的には、前記予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴に基づいて、サージング故障であるかどうかを判断することは、具体的に、予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴情報を加重マッピングすること、加重マッピングされた特徴情報を二項分類し、エンジンは、未来一定の期間内、サージング故障であるかどうかを判断する、ことを含む。

【0015】

選択的には、前記加重マッピングされた特徴情報を二項分類することは、具体的に、
Ｓｉｇｍｏｉｄ活性化関数を用いてエンジンは未来一定の期間内にサージング故障であるかどうかを判断し、関数は、

【0016】

選択的には、前記方法は、スライディングウィンドウ法を用いてエンジンに対する異なるモニタ装置によるデータのサブ序列を切り取り、サブ序列集合を取得し、サブ序列集合におけるあるサブ序列を仕分けポイントサブ序列とすると、仕分けポイントサブ序列前のサブ序列を訓練集合、仕分けポイントサブ序列後のサブ序列を測定集合、それぞれとするというデータ前処理ステップをさらに含む。

【0017】

選択的には、前記方法は、二項分類交差エントロピー関数を損失関数として用いて、逆伝播の訓練を行い、前記予測方法に基づかれるモデルにおける各ネットワーク層の重み係数勾配を取得し、各ネットワーク層の重み係数を更新し、損失関数は、

【0018】

さらに説明すべきことは、上記したシステム又は方法において、各選択肢と対応する技術特徴同士を組み合わしてもよいし、新たな技術的手段に替えてもよい。

【発明の効果】

【0019】

従来技術に比べて、本発明による有益な効果が以下の通りである。
（１）本発明に係るシステム予測モジュールは、エンジンの三次元構成時系列データを所定の長さだけの予測時系列に生成させ、つまり、未来一定の期間内、エンジンの稼働状態データの予測を実現し、次に、特徴抽出モジュール及び分類モジュールにより、予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴を抽出して分類し、未来一定の期間内、エンジンの稼働状態データにサージング故障データを含むかどうかを判断することにより、エンジンサージング故障をより正確、迅速かつ事前に予測することができる。

【0020】

（２）本発明では、一次元畳み込み手段により予測時系列の局所的特徴を抽出し、第三ＬＳＴＭ層により予測時系列におけるデータ間の語義関係、及び、全体序列傾向特徴を抽出することにより、エンジンの時系列データについてより全面的な特徴情報を取得し、データ分類の正確性を高めることに役立つ。

【0021】

（３）本発明では、一次元畳み込み手段は、具体的に、順次に接続される、畳み込みステップ幅が１である二つの一次元畳み込み層を含み、プーリング層により特徴情報を抽出しなくても、よい多い特徴情報をそのまま保留でき、システムの正確性及び再現率を高めることができる。

【0022】

（４）本発明に係る方法は、エンジンの三次元構成時系列データを所定の長さだけの予測時系列に生成させ、未来一定の期間内、エンジンの稼働状態データの予測を実現し、次に、特徴抽出モジュールと分類モジュールにより予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴を抽出して分類し、未来一定の期間内、エンジンの稼働状態データにサージング故障データを含むかどうかを判断することにより、エンジンサージング故障をより正確、迅速かつ事前に予測することができる。

【0023】

（５）本発明では、Ｓｉｇｍｏｉｄ活性化関数を用いて、エンジンは、未来一定の期間内、サージング故障であるかどうかを判断し、エンジンに生じるサージング故障を（０、１）の区間にマッチングすることにより、本発明において、エンジンが未来一定の期間内、サージング故障であるかどうかを判断する予測の場合に適用され得る。

【0024】

（６）本発明では、スライディングウィンドウ法を用いてエンジンに対する異なるモニタ装置によるデータのサブ序列を切り取り、大量のサブ序列を取得しサブ序列集合を構成することにより、予測モデルを訓練することに役立ち、モデルを予測する正確率を高め、仕分けポイントサブ序列により訓練集合及び測定集合を仕分けることにより、未来データを導入してモデルを訓練する過程に過剰適合現象が発生してモデルによる最終の予測効果に影響を与えてしまうことを防ぐことができる。

【0025】

（７）本発明では、二項分類交差エントロピー関数を損失関数として逆伝播の訓練を行い、各ネットワーク層の重み係数を更新することができる。

【図面の簡単な説明】

【0026】

以下、図面を参照しながら、本発明における具体的な実施形態を詳しく説明するが、ここで説明する図面は、本願に対する更なる理解を提供して本願の一部に該当するためのものであり、これらの図面に使われる同じ参照符号は、同じ又は類似の部分を示し、本願における例示的実施例及びその説明は、本願を解釈するものであるが、本願を不正限定するものではない。

【図1】本発明の実施例１によるシステムのブロック図である。

【図2】本発明の実施例１による予測モジュールのブロック図である。

【図3】本発明の実施例１による予測モジュール予測グラフと真のデータグラフとの対照図である。

【図4】本発明の実施例１による一次元畳み込み手段のブロック図である。

【図5】本発明の実施例１によるシステム予測グラフと真のデータグラフとの対照図である。

【発明を実施するための形態】

【0027】

以下、図面を参照しながら、本発明の技術的手段を明確に、かつ、完全的に説明するが、明らかなことは、説明する実施例は、本発明の実施例の一部に過ぎず、実施例の全てではない。本発明の実施例に基づいて、当業者が創造性のない労働を前提として成すあらゆる他の実施例は、いずれも、本発明の保護の範囲に含まれる。

【0028】

本発明を説明するに当たって、説明すべきことは、「中心」、「上」、「下」、「左」、「右」、「鉛直」、「水平」、「内」、「外」などの指示に属する方向又は位置関係が図面に基づくものであり、本発明を簡便に説明し、又は、説明を簡素化にするためのものに過ぎず、係る装置又は素子が必ず特定する方位を有し、特定する方位で構成して操作しなければならないと明示に又は暗示的に示すべきではないことから、本発明を限定するものと理解されない。また、「第一」や 「第二」に属する表現は、説明を目的とするものに過ぎず、相対的重要性を有すると明示に又は暗示的に示すべきではない。

【0029】

本発明を説明するに当たって、説明すべきことは、他の明確な規定や限定がなければ、「取り付け」、「繋がり」、「接続」を広義的理解とすべき、例えば、固定して接続されてもよいし、着脱可能に接続されてもよいし、一体的に接続されてもよい。また、機械接続されてもよいし、電気接続されてもよい。さらに、直接接続されてもよいし、中間媒体を介して間接接続されてもよいし、二つの素子が内部で連通してもよい。当業者は、具体的な場合によって本発明において上記した表現の具体的な意味を理解可能である。

【0030】

なお、以下に説明する本発明の異なる実施形態に係る技術特徴は、同士に矛盾がなければ、互いに組み合わせても可能である。

【0031】

本発明は、融合ニューラルネットワークモデルに基づくエンジンのサージング故障予測システム及び方法を開示しており、システムは、予測及び分類の機能を有しており、先に、未来のセンサーデータを予測し、次に、それがサージングであるかどうかを判定する分類ステップを経て、最終に、航空用エンジンのサージング故障を事前に予測することが実現され得る。

【0032】

＜実施例１＞
実施例１は、図１に示すように、融合ニューラルネットワークモデルに基づくエンジンのサージング故障予測システムである。本発明は、融合ニューラルネットワーク（ＰＣＦＮＮ）に基づくシステムに、順次に接続される予測モジュール、特徴抽出モジュール及び分類モジュールを含む。具体的に、予測モジュールは、エンジンの三次元構成時系列データを、所定の長さだけの予測時系列に生成させるものである。特徴抽出モジュールは、予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴を抽出するためのものである。分類モジュールは、予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴に基づいて、サージング故障であるかどうかを判断するためのものである。本発明では、システムにおける予測モジュールは、エンジンの三次元構成時系列データ（時系列行列）を、所定の長さだけの予測時系列（予測序列行列）に生成させ、未来一定の期間内、エンジンの稼働状態データの予測を実現し、次に、特徴抽出モジュールと分類モジュールにより、予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴を抽出して分類し、未来一定の期間内、エンジンの稼働状態データにサージング故障データを含むかどうかを判断することにより、エンジンサージング故障をより正確、快速かつ事前に予測することができる。従来技術において畳み込み層とＬＳＴＭ層が順次に接続されるニューラルネットワークモデルに比べると、本発明は、未来一定の期間内、サージング故障が生じるかどうかについて予測を実現でき、経過データに限定して故障を診断することなく、より幅広い適用の見通しが存在している。

【0033】

さらに、図２に示すように、予測モジュールは、順次に接続される第一ＬＳＴＭ層と第二ＬＳＴＭ層を含み、第一ＬＳＴＭ層は、エンジンの三次元構成時系列データをロットとなる二次元語義ベクトルにエンコードするためのエンコーダーであり、第二ＬＳＴＭ層は、二次元語義ベクトルを所定の長さだけの予測時系列にデコードするためのデコーダーである。より具体的に、ロットとなる二次元語義ベクトルは、第一ＬＳＴＭ層における最後の一Ｃｅｌｌにより出力され、現在、全体入力序列の語義特徴を表現するものである。次に、当該語義ベクトルをコピーし、現在序列長さと出力序列長さが等しいようにして、データ予測の正確性を保証する。所定の長さだけの二次元語義ベクトルを所定の長さだけの予測時系列にデコードすることは、ＬＳＴＭデコーダーにおけるＣｅｌｌの数を設定して実現され、つまり、数が異なるＬＳＴＭ Ｃｅｌｌを設置することにより、所定の長さだけの予測時系列をし、最終に未来一定の期間内、航空用エンジンの稼働状態のデータ値を生成することができる。より詳しくすると、予測モジュールは、全結合層を含み、当該全結合層は、第二ＬＳＴＭ層に接続され、出力された三次元ベクトルにおけるＣｅｌｌ手段ニューロンの数を次元転換することにより、必要な時系列データについてタイミングごとの特徴数と対応する数だけ出力するためのものである。説明すべきことは、第二ＬＳＴＭ層により出力される特徴情報は、訓練された、ロットとなるデータ数、時間ステップ数（序列の長さ）、及び、各Ｃｅｌｌ手段のニューロン数を含む三次元ベクトルであり、ただし、三回目の次元、つまり、各Ｃｅｌｌ手段のニューロンの数は、一般的に、当該時間ステップのデータの特徴数を示し、ここで、現在のタイミングで、航空用エンジン検測装置の数、つまり現在タイミングの特徴数を示す。

【0034】

さらに、説明すべきことは、予測モジュールに係る活性化関数を選択する時に、例えば、Ｒｅｌｕ、Ｓｉｇｍｏｉｄ又はＴａｎｈを活性化関数として用いることなく、そのまま値を出力する。これは、まず、ＬＳＴＭ層自体にＴａｎｈ関数をデフォルト用いて、最後に出力されたものを活性化にするからであり、再度、Ｔａｎｈ関数及びそれと類似のＳｉｇｍｏｉｄ関数を用いることが無くなる。Ｒｅｌｕ関数そのものは、常に、深層ニューラルネットワークによる訓練に良く現れる勾配消失問題を避けるためのものである一方、本発明が言及する予測モジュールは、浅層ニューラルネットワークに該当していることから、再度、Ｒｅｌｕ関数を用いる必要が無くなる。

【0035】

さらに、特徴抽出モジュールは、順次に接続される一次元畳み込み手段及び第三ＬＳＴＭ層を含み、具体的に、所定の長さだけの予測序列行列を取得すると、入力序列の一部と当該予測序列を継ぎ合せるように再構成してから次の一次元畳み込み手段の入力として、一次元畳み込み手段により予測時系列の局所的特徴を抽出して特徴分析を行い、次に、第三ＬＳＴＭ層により、予測時系列におけるデータ間の語義関係、及び全体序列傾向特徴を再度抽出して、エンジンの時系列データについてより全面的な特徴情報を取得し、データ分類の正確性を高めることに役立つ。

【0036】

さらに、図４に示すように、一次元畳み込み手段は、具体的に、順次に接続される、畳み込みステップ幅が１である二つの一次元畳み込み層を含み、プーリング層により特徴情報を抽出しないでも、より多くの特徴情報をそのまま保留し、システムの正確性及び再現率を高めることができる。具体的に、二つの一次元畳み込み層は、それぞれ、Ｒｅｌｕ活性化関数を用いて、一部のニューロンが０を出力するようにして、ネットワークに希薄性を有させ、パラメータ間の相互依存性及び過剰適合が生じる確率を減らし、計算量を削減して訓練の速度が高くなる。さらに、説明するべきことは、従来のＣＮＮ構造が一般的に畳み込み層＋プーリング層となり、ただし、畳み込み層によりデータ特徴を抽出し、プーリング層により、抽出された特徴情報についてさらに次元を降下させる操作を行い、ただし、プーリング層は、さらに、特徴を取り出して、訓練の速度を向上させ、過剰適合を減らすことを目的とする。選択には、従来のＣＮＮ構造に畳み込みステップ幅が１よりも大きいストライド畳み込みを用いて、プーリング層による作用に替わってもよく、ただし、任意の所定の畳み込み層の出力の大きさを計算する式は、

【0037】

【0038】

表１に示すように、本発明が採用するプーリング層なしの畳み込みステップ幅が１である一次元畳み込み方式について測定結果が３つの指標による評価に、いずれも９５％程度であり、特に、モデルの再現率及び適合率を示す総合的な指標Ｆ１＿Ｓｃｏｒｅに、本手段が採用するプーリング層なしの畳み込みステップ幅が１である畳み込みに基づいて、９４．７％という最適な効果がなされてきた。

【0039】

さらに、分類モジュールは、順次に接続される第一全結合層及び第二全結合層を含み、第一全結合層は、予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴情報を加重マッピングするためのものであり、第二全結合層は、加重マッピングされた特徴情報（予測時系列の局所的特徴、データ間の語義関係、及び全体序列傾向特徴）を二項分類し、エンジンは未来一定の期間内サージング故障であるかどうかを判断するためのものである。一層詳しくすると、第一全結合層は、Ｒｅｌｕ活性化関数を用いて、一部のニューロンが０を出力するようにして、ネットワークに希薄性を有させ、パラメータ間の相互依存性及び過剰適合が生じる確率を減らし、計算量を削減して訓練の速度が高くなる。第二全結合層は、Ｓｉｇｍｏｉｄ活性化関数を用いて、加重マッピングされた特徴情報を二項分類する。

【0040】

本発明に係るシステムの性能を一層説明するためには、ＣＮＮ、ＲＮＮ及びＬＳＴＭモデルについて正確率（Ｐｒｅｃｉｓｉｏｎ）、再現率（Ｒｅｃａｌｌ）及び両前者に基づく加重平均値Ｆ１＿Ｓｃｏｒｅの性能を比較し、詳しい比較結果を表２に示す。

【0041】

【0042】

表２と共に図５を参照すると、本願に係る融合ニューラルネットワーク（ＰＣＦＮＮ）に基づくシステムは、その性能が明らかに従来技術の方よりも良いと分かり、未来一定の期間内、エンジンのサージング故障を正確に予測することができると共に、反復の回数が次第に増えるにつれ、訓練集合の正確率及び測定集合の正確率がそれぞれ上がる傾向にあり、しかも、過剰適合という現象が生じることはない。

【0043】

＜実施例２＞
本実施例は、実施例１と同様な発明の発想を有しており、実施例に基づいて、融合ニューラルネットワークモデルに基づくエンジンのサージング故障予測方法を提供しており、この方法は、
エンジンの三次元構成時系列データを所定の長さだけの予測時系列に生成させるＳ１ステップと、
予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴を抽出するＳ２ステップと、
予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴に基づいて、サージング故障であるかどうかを判断するＳ３ステップを含む。

【0044】

さらに、ステップＳ１に、エンジンの三次元構成時系列データを所定の長さだけの予測時系列に生成させることは、具体的に、以下のステップを含む。
ステップＳ１１は、エンジンの三次元構成時系列データをロットとなる二次元語義ベクトルにエンコードすると共に、所定の長さだけの二次元語義ベクトルに転換する。具体的に、当該語義ベクトルをコピーし、入力序列長さと出力序列長さとが等しいようにして、データを予測する正確性を保証する。
ステップＳ１２は、所定の長さだけの二次元語義ベクトルを所定の長さだけの予測時系列にデコードする。具体的に、ＬＳＴＭデコーダーにおけるＣｅｌｌの数を設置することにより実現し、つまり、数が異なるＬＳＴＭ Ｃｅｌｌを設置することにより所定の長さだけの予測時系列を生成し、最終に未来一定の期間内、航空用エンジンの稼働状態のデータ値を取得する。

【0045】

さらに、ステップＳ２では、順次に接続される、畳み込みステップ幅が１である二つの一次元畳み込み層により、予測時系列の局所的特徴を抽出する。ＬＳＴＭ層により、予測時系列におけるデータ間の語義関係、及び全体序列傾向特徴を抽出する。一層具体的に、二つの一次元畳み込み層は、それぞれ、Ｒｅｌｕ活性化関数を用いて、一部のニューロンが０を出力するようにして、ネットワークに希薄性を有させ、パラメータ間の相互依存性及び過剰適合が生じる確率を減らし、計算量を削減して訓練の速度が高くなる。Ｒｅｌｕ活性化の関数式は、

となり、
一層説明するべきことは、Ｒｅｌｕ関数によりネットワークが希薄となることから、第一ＬＳＴＭ層、第二ＬＳＴＭ層に当該活性化関数が使用されておらず、より多くの特徴情を保留して一次元畳み込み層による分析と抽出に提供する。

【0046】

さらに、ステップＳ３では、予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴に基づいて、サージング故障であるかどうかを判断することは、具体的に以下のステップを含む。
ステップＳ３１は、予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴情報を加重マッピングする。具体的に、全結合層により、予測時系列の局所的特徴、データ間の語義関係、及び、全体序列傾向特徴情報を加重マッピングし、当該全結合層によりＲｅｌｕ活性化関数を用いて、一部のニューロンが０を出力するようにして、ネットワークに希薄性を有させ、パラメータ間の相互依存性及び過剰適合が生じる確率を減らし、計算量を削減して訓練の速度が高くなる。Ｒｅｌｕ活性化関数は、具体的な式について一次元畳み込み層Ｒｅｌｕ活性化関数を参照可能であることから、ここで重複して説明しない。

【0047】

ステップＳ３２は、加重マッピングされた特徴情報を二項分類し、エンジンは未来一定の期間内、サージング故障であるかどうかを判断する。具体的に、全結合層により、加重マッピングされた特徴情報を二項分類し、エンジンは未来一定の期間内、サージング故障であるかどうかを判断する。

【0048】

さらに、加重マッピングされた特徴情報を二項分類することは、具体的に、以下のステップを含む。
ステップＳ３２１は、Ｓｉｇｍｏｉｄ活性化関数を用いて、エンジンは未来一定の期間内サージング故障であるかどうかを判断する。その関数は、

【0049】

さらに、ステップＳ１の前に、さらに、データ前処理ステップを含む。
ステップＳ０１は、スライディングウィンドウ法を用いて、エンジンに対するモニタ装置によるデータのサブ序列を切り取り、サブ序列集合を取得する。ただし、スライディングウィンドウ法を用いて、エンジンに対する異なるモニタ装置によるデータのサブ序列を取得することにより、大量のサブ序列を取得してサブ序列集合を構成でき、予測モデルを訓練することに役立ち、モデルによる予測の正確率を高めることができる。具体的な実施例としては、スライドステップ幅は１であり、サブ序列の長さがスライディングウィンドウ長さと対応しており、ウィンドウの大きさが６４であり、ただし、各序列における各タイミングに、異なるセンサー（航空用エンジンに対するモニタ装置）により採集したデータ（エンジンが稼働する状態データ）を記憶する。

【0050】

ステップＳ０２は、サブ序列集合におけるあるサブ序列を仕分けポイントサブ序列とすると、仕分けポイントサブ序列前のサブ序列を訓練集合、仕分けポイントサブ序列後ろのサブ序列を測定集合、それぞれとして、訓練集合及び測定集合についてそれぞれ、標準化するように処理を行う。ただし、仕分けポイントサブ序列を訓練集合及び測定集合に仕分けるということは、従来に序列データがランダムに乱れるようにしてからソートすることが予測モデルによる予測効果に影響を与えてしまう問題が無くなる。一層説明すべきことは、訓練集合及び測定集合を、それぞれ、標準化にするように処理することは、データの分布を、平均値が０、標準偏差が１である標準正規分布に転換し、量の次元が異なり、数値の差分が比較的大きいということにより生じた誤差を取り消して、重みパラメータを速めに収束させると共にモデル訓練の効果を高めることができる。

【0051】

さらに、モデル訓練の過程では、最後に、逆伝播訓練ステップをさらに含む。

【0052】

二項分類交差エントロピー関数を損失関数として用いて、逆伝播の訓練を行い、予測方法に基づくモデルにおいて各ネットワーク層の重み係数勾配を取得し、所定の最大反復回数になるまで、各ネットワーク層の重み係数を更新する。具体的、損失関数は、

【0053】

本発明に係る方法は、エンジンの三次元構成時系列データを所定の長さだけの予測時系列に生成させ、未来一定の期間内、エンジンが稼働する状態データを予測し、次に、特徴抽出モジュールと分類モジュールにより、予測時系列の局所的特徴、データ間の語義関係、及び全体序列傾向特徴を抽出して分類し、未来一定の期間内、エンジンの稼働状態データにサージング故障データを含むかどうかを判断し、エンジンサージング故障をより正確、迅速かつ事前に予測することができる。

【0054】

＜実施例３＞
本実施例は、記憶媒体を提供しており、実施例２と同じ発明の発想を有しており、コンピューターの命令が記憶されており、コンピューターの命令を実行すると、実施例２に係る融合ニューラルネットワークモデルに基づくエンジンのサージング故障予測方法のステップを実現する。

【0055】

このような理解に基づくと、本実施例に係る技術的手段は、本質的に、又は、従来技術に対して貢献を与えた部分、或いは、当該技術方案の一部について、ソフトウェア製品の形で提供されてもよい。当該コンピューターのソフトウェア製品は、記憶媒体に記憶されており、コンピューター装置（パソコン、サーバー、又は、ネットワーク装置などであってもよい）が本発明に係る各実施例の方法の全て又は一部のステップを実行する若干の命令セットを含む。前記の記憶媒体は、ＵＳＢメモリー、ポータブルストレージデバイス、リードオンリーメモリ（Ｒｅａｄ－Ｏｎｌｙ Ｍｅｍｏｒｙ、ＲＯＭ）、ランダムアクセスメモリ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ、ＲＡＭ）、フロッピーディスク（登録商標）又は光ディスクなどの様々なプログラムコードを記憶可能な媒体を含む。

【0056】

＜実施例４＞
本実施例は、端末をさらに提供しており、実施例２と同様な発明発想を有し、メモリー及びプロセッサーを含み、プロセッサーに実行されるコンピューターの命令がメモリーに記憶され、プロセッサーにより、コンピューターの命令を実行すると実施例２に係る融合ニューラルネットワークモデルに基づくエンジンのサージング故障予測方法のステップを実行する。プロセッサーは、シングルコア又はマルチコアを有する中央演算処理装置又は特定の集積回路、或いは本発明を実施するように配置される一つ又は複数の集積回路とされてもよい。

【0057】

本発明が提供する実施例では、各機能手段が一つの処理手段に集積されてもよいし、各手段として単独して物理的に存在してもよいし、二つ又は二つ以上の手段が一つの手段に集積されてもよい。

【0058】

以上の具体的な実施形態は、本発明に対する詳しい説明であるが、本発明の具体的な実施形態は、これらの説明に限定されると理解されるべきではなく、本発明の趣旨を逸脱しない限り、若干の簡単な推断や代替が当業者にとって可能であり、いずれも、本発明の保護範囲に含まれると見なされるべきである。

【図1】

【図2】

【図3】

【図4】

【図5】