特許 7393883 予め選択されたシグネチャを使用して任意長の時系列を特徴付けるためのシステムおよび方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2023-11-29

(45)【発行日】2023-12-07

(54)【発明の名称】予め選択されたシグネチャを使用して任意長の時系列を特徴付けるためのシステムおよび方法

(51)【国際特許分類】

   G06F 16/908 20190101AFI20231130BHJP

【ＦＩ】

G06F16/908

【請求項の数】 20

(21)【出願番号】P 2019115130

(22)【出願日】2019-06-21

(65)【公開番号】P2020013561

(43)【公開日】2020-01-23

【審査請求日】2022-06-21

(31)【優先権主張番号】16/037,606

(32)【優先日】2018-07-17

(33)【優先権主張国・地域又は機関】US

(73)【特許権者】

【識別番号】504407000

【氏名又は名称】パロ アルト リサーチ センター インコーポレイテッド

(74)【代理人】

【識別番号】100094569

【弁理士】

【氏名又は名称】田中 伸一郎

(74)【代理人】

【識別番号】100109070

【弁理士】

【氏名又は名称】須田 洋之

(74)【代理人】

【識別番号】100067013

【弁理士】

【氏名又は名称】大塚 文昭

(74)【代理人】

【識別番号】100086771

【弁理士】

【氏名又は名称】西島 孝喜

(74)【代理人】

【識別番号】100109335

【弁理士】

【氏名又は名称】上杉 浩

(74)【代理人】

【識別番号】100120525

【弁理士】

【氏名又は名称】近藤 直樹

(74)【代理人】

【識別番号】100139712

【弁理士】

【氏名又は名称】那須 威夫

(74)【代理人】

【識別番号】100158551

【弁理士】

【氏名又は名称】山崎 貴明

(72)【発明者】

【氏名】アヌラーグ・ギャンガリ

【審査官】齊藤 貴孝

(56)【参考文献】

【文献】特開２００７－２４１８６６（ＪＰ，Ａ）

【文献】米国特許出願公開第２００８／０２８６６２２（ＵＳ，Ａ１）

【文献】中国特許出願公開第１６６４５５５（ＣＮ，Ａ）

【文献】特開２０１７－２２４２６４（ＪＰ，Ａ）

【文献】特開平０９－０３４７１９（ＪＰ，Ａ）

【文献】特開２０１７－０６８７６５（ＪＰ，Ａ）

【文献】特開２００４－０３０５９９（ＪＰ，Ａ）

【文献】特開２００９－１８７１７５（ＪＰ，Ａ）

【文献】米国特許出願公開第２０１８／０１５７７４３（ＵＳ，Ａ１）

【文献】米国特許出願公開第２０１６／０１１０４７８（ＵＳ，Ａ１）

【文献】米国特許出願公開第２０１６／０２０３０３６（ＵＳ，Ａ１）

【文献】米国特許出願公開第２０１８／００８２２０１（ＵＳ，Ａ１）

【文献】欧州特許出願公開第０２９０５７８０（ＥＰ，Ａ１）

【文献】米国特許第０８３０６９３１（ＵＳ，Ｂ１）

【文献】米国特許出願公開第２０１７／０１２５０２０（ＵＳ，Ａ１）

【文献】米国特許出願公開第２０１８／０１７６２４３（ＵＳ，Ａ１）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｆ １６／００－１６／９５８

Ｇ０６Ｆ １８／００－１８／４０

(57)【特許請求の範囲】

【請求項1】

物理システムに関連付けられた時系列データの特徴付けを容易にするためのコンピュータ実施方法であって、
コンピューティングデバイスによって、１つ以上のシグネチャを決定することであって、シグネチャは既知の時系列データに対する基底関数を示す、決定することと、
既知の出力としての前記シグネチャに基づいてニューラルネットワークをトレーニングすることと、
前記トレーニングされたニューラルネットワークを前記時系列データに適用して、前記時系列データがそれぞれのシグネチャによって特徴付けられる確率を生成することと、
前記確率に基づいて前記時系列データおよび前記物理システムの分析を強化することと、を含む方法。

【請求項2】

前記トレーニングされたニューラルネットワークを前記時系列データの第１の部分に適用して、各シグネチャについて、前記時系列データがそれぞれのシグネチャによって特徴付けられる第１の確率を生成することであって、前記第１の部分は、第１の長さを有し、前記時系列データのうちの第１の数の最新エントリを含む、生成することと、
前記時系列データの第２の部分を決定することであって、前記第２の部分は、第２の長さを有し、前記時系列データのうちの第２の数の最新エントリを含む、決定することと、
前記第２の数のエントリを減らすことと、
前記トレーニングされたニューラルネットワークを前記減らされた第２の数のエントリに適用して、各シグネチャについて、前記時系列データがそれぞれのシグネチャによって特徴付けられる第２の確率を生成することと、
前記第１の確率および前記第２の確率に基づいて前記時系列データを特徴付けることと、をさらに含む、請求項１に記載の方法。

【請求項3】

前記第２の部分を決定すること、前記第２の数のエントリを減らすこと、そして前記トレーニングされたニューラルネットワークを前記減らされた第２の数のエントリに適用することは、整数でスケーリングされた前記第１の部分の長さが前記時系列データの全長よりも小さいと判定することに応答し、前記方法は、
前記第２の部分を前記第１の部分として設定することと、
前記整数に摂動を与えることと、をさらに含み、
前記時系列データを特徴付けることはさらに１つ以上の第２の確率に基づく、請求項２に記載の方法。

【請求項4】

前記第２の数が整数でスケーリングされた前記第１の数に等しく、前記第２の数のエントリを減らすことは前記整数に基づき、
前記時系列データは任意の長さである、請求項２に記載の方法。

【請求項5】

前記時系列データは固定長である、請求項１に記載の方法。

【請求項6】

前記ニューラルネットワークは、
前記シグネチャから生成されたデータ、
シグネチャに対応する時系列データである入力、および
決定されたシグネチャの数に等しいサイズのワンホットベクトルである出力であって、１に等しい値を有するベクトルエントリはシグネチャに関連付けられた添字に対応する出力、のうちの１つ以上に基づいてトレーニングされる、請求項１に記載の方法。

【請求項7】

前記生成された確率は、各シグネチャについて、前記時系列データが前記それぞれのシグネチャによって特徴付けられる相対的な割合または重みを示し、前記相対的な割合または重みは、決定されたすべてのシグネチャに対する前記それぞれのシグネチャの比較である、請求項１に記載の方法。

【請求項8】

前記ニューラルネットワークはリカレントニューラルネットワークである、請求項１に記載の方法。

【請求項9】

物理システムに関連付けられた時系列データの特徴付けを容易にするためのコンピュータシステムであって、
プロセッサと、
前記プロセッサによって実行されると、前記プロセッサに方法を行わせる命令を記憶している記憶デバイスと、を含んでおり、前記方法は、
１つ以上のシグネチャを決定することであって、シグネチャは既知の時系列データに対する基底関数を示す、決定することと、
既知の出力としての前記シグネチャに基づいてニューラルネットワークをトレーニングすることと、
前記トレーニングされたニューラルネットワークを前記時系列データに適用して、前記時系列データがそれぞれのシグネチャによって特徴付けられる確率を生成することと、
前記確率に基づいて前記時系列データおよび前記物理システムの分析を強化することとを含む、コンピュータシステム。

【請求項10】

前記方法が、
前記トレーニングされたニューラルネットワークを前記時系列データの第１の部分に適用して、各シグネチャについて、前記時系列データがそれぞれのシグネチャによって特徴付けられる第１の確率を生成することであって、前記第１の部分は、第１の長さを有し、前記時系列データのうちの第１の数の最新エントリを含む、生成することと、
前記時系列データの第２の部分を決定することであって、前記第２の部分は、第２の長さを有し、前記時系列データのうちの第２の数の最新エントリを含む、決定することと、
前記第２の数のエントリを減らすことと、
前記トレーニングされたニューラルネットワークを前記減らされた第２の数のエントリに適用して、各シグネチャについて、前記時系列データがそれぞれのシグネチャによって特徴付けられる第２の確率を生成することと、
前記第１の確率および前記第２の確率に基づいて前記時系列データを特徴付けることと、をさらに含む、請求項９に記載のコンピュータシステム。

【請求項11】

前記第２の部分を決定すること、前記第２の数のエントリを減らすこと、そして前記トレーニングされたニューラルネットワークを前記減らされた第２の数のエントリに適用することは、整数でスケーリングされた前記第１の部分の長さが前記時系列データの全長よりも小さいと判定することに応答し、前記方法は、
前記第２の部分を前記第１の部分として設定することと、
前記整数に摂動を与えることと、をさらに含み、
前記時系列データを特徴付けることはさらに１つ以上の第２の確率に基づく、請求項１０に記載のコンピュータシステム。

【請求項12】

前記第２の数は整数でスケーリングされた前記第１の数に等しく、前記第２の数のエントリを減らすことは前記整数に基づき、
前記時系列データは任意の長さである、請求項１０に記載のコンピュータシステム。

【請求項13】

前記時系列データは固定長である、請求項９に記載のコンピュータシステム。

【請求項14】

前記ニューラルネットワークは、
前記シグネチャから生成されたデータ、
シグネチャに対応する時系列データである入力、および
決定されたシグネチャの数に等しいサイズのワンホットベクトルである出力であって、１に等しい値を有するベクトルエントリはシグネチャに関連付けられた添字に対応する出力、のうちの１つ以上に基づいてトレーニングされる、請求項９に記載のコンピュータシステム。

【請求項15】

前記生成された確率は、各シグネチャについて、前記時系列データが前記それぞれのシグネチャによって特徴付けられる相対的な割合または重みを示し、前記相対的な割合または重みは、決定されたすべてのシグネチャに対する前記それぞれのシグネチャの比較である、請求項９に記載のコンピュータシステム。

【請求項16】

前記ニューラルネットワークはリカレントニューラルネットワークである、請求項９に記載のコンピュータシステム。

【請求項17】

コンピュータによって実行されると、前記コンピュータに方法を行わせる命令を記憶する非一時的コンピュータ可読記憶媒体であって、前記方法は、
コンピューティングデバイスによって、１つ以上のシグネチャを決定することであって、シグネチャは、既知の時系列データに対する基底関数を示す、決定することと、
既知の出力としての前記シグネチャに基づいてニューラルネットワークをトレーニングすることと、
前記トレーニングされたニューラルネットワークを物理システムに関連付けられた時系列データに適用して、前記時系列データがそれぞれのシグネチャによって特徴付けられる確率を生成することと、
前記確率に基づいて前記時系列データおよび前記物理システムの分析を強化することと、を含む、記憶媒体。

【請求項18】

前記方法は、
前記トレーニングされたニューラルネットワークを前記時系列データの第１の部分に適用して、各シグネチャについて、前記時系列データがそれぞれのシグネチャによって特徴付けられる第１の確率を生成することであって、前記第１の部分は、第１の長さを有し、前記時系列データのうちの第１の数の最新エントリを含む、生成することと、
前記時系列データの第２の部分を決定することであって、前記第２の部分は、第２の長さを有し、前記時系列データのうちの第２の数の最新エントリを含む、決定することと、
前記第２の数のエントリを減らすことと、
前記トレーニングされたニューラルネットワークを前記減らされた第２の数のエントリに適用して、各シグネチャについて、前記時系列データがそれぞれのシグネチャによって特徴付けられる第２の確率を生成することと、
前記第１の確率および前記第２の確率に基づいて前記時系列データを特徴付けることと、をさらに含む、請求項１７に記載の記憶媒体。

【請求項19】

前記第２の部分を決定すること、前記第２の数のエントリを減らすこと、そして前記トレーニングされたニューラルネットワークを前記減らされた第２の数のエントリに適用することは、整数でスケーリングされた前記第１の部分の長さが前記時系列データの全長よりも小さいと判定することに応答し、前記方法は、
前記第２の部分を前記第１の部分として設定することと、
前記整数に摂動を与えることと、をさらに含み、
前記時系列データを特徴付けることはさらに１つ以上の第２の確率に基づく、請求項１８に記載の記憶媒体。

【請求項20】

前記第２の数は整数でスケーリングされた前記第１の数に等しく、前記第２の数のエントリを減らすことは前記整数に基づき、
前記時系列データは任意の長さである、請求項１８に記載の記憶媒体。

【発明の詳細な説明】

【技術分野】

【0001】

本開示は、概して、時系列データを特徴付けることに関する。より具体的には、本開示は、予め選択されたシグネチャを使用して任意長の時系列を特徴付けるためのシステムおよび方法に関する。

【0002】

時系列データは、実変数またはカテゴリ変数の経時的配列である。すなわち、時系列データは、時間的順序で、かつ一般的には時間において連続的等間隔の点で添字付けされる（または別様に表される）一連のデータ点である。時系列データの一例は、風力タービンから経時的に生成される電力である。時系列データの分析は、データの次元数が大きいこと、および関心のある時間スケールの知識または変化の欠如が原因で、困難な場合がある。例えば、風力タービンの例における１分間の時系列データは、毎秒１，０００サンプル、合計６０，０００サンプルを生成するセンサによって記録されるサンプルデータを含み得る。この時系列データの次元数（すなわち、膨大な量）は、データを分析する上で難題を生み出す可能性がある。大量の６０，０００のサンプルのどの部分が有用なデータが含み得るかに関する知識の欠如も、データを分析する上で難題を生み出す可能性がある。

【0003】

一実施形態は、物理システムに関連付けられた時系列データの特徴付けを容易にするためのシステムを提供する。動作中に、システムは、コンピューティングデバイスによって、１つ以上のシグネチャを決定し、ここで、シグネチャは、既知の時系列データに対する基底関数を示す。システムは、既知の出力としてのシグネチャに基づいてニューラルネットワークをトレーニングする。システムは、トレーニングされたニューラルネットワークを時系列に適用して、時系列がそれぞれのシグネチャによって特徴付けられる確率を生成する。システムは、確率に基づいて時系列データおよび物理システムの分析を強化する。

【0004】

いくつかの実施形態では、システムは、トレーニングされたニューラルネットワークを時系列の第１の部分に適用して、各シグネチャについて、時系列がそれぞれのシグネチャによって特徴付けられる第１の確率を生成し、ここで、第１の部分は、第１の長さを有し、時系列のうちの第１の数の最新エントリを含む。システムは、時系列の第２の部分を決定し、ここで、第２の部分は、第２の長さを有し、時系列のうちの第２の数の最新エントリを含む。システムは第２の数のエントリを減らす。システムは、トレーニングされたニューラルネットワークを減らされた第２の数のエントリに適用して、各シグネチャについて、時系列がそれぞれのシグネチャによって特徴付けられる第２の確率を生成する。システムは、第１の確率および第２の確率に基づいて時系列を特徴付ける。

【0005】

いくつかの実施形態では、第２の部分を決定し、第２の数のエントリを減らし、そしてトレーニングされたニューラルネットワークを減らされた第２の数のエントリに適用することは、整数でスケーリングされた第１の部分の長さが時系列の全長よりも小さいと判定することに応答することである。システムはまた、第２の部分を第１の部分として設定し、整数に摂動を与える。時系列を特徴付けることはさらに、１つ以上の第２の確率に基づく。

【0006】

いくつかの実施形態では、第２の数は整数でスケーリングされた第１の数に等しく、第２の数のエントリを減らすことは整数に基づき、時系列は任意の長さである。

【0007】

いくつかの実施形態では、時系列は固定長である。

【0008】

いくつかの実施形態では、ネットワークは、シグネチャから生成されるデータ、シグネチャに対応する時系列である入力、決定されたシグネチャの数に等しいサイズのワンホットベクトルである出力であって、１に等しい値を有するベクトルエントリがシグネチャに関連付けられた添字に対応する出力、のうちの１つ以上に基づいてトレーニングされる。

【0009】

いくつかの実施形態では、生成された確率は、各シグネチャについて、時系列がそれぞれのシグネチャによって特徴付けられる相対的な割合または重みを示し、相対的な割合または重みは、決定されたすべてのシグネチャに対するそれぞれのシグネチャの比較である。

【0010】

いくつかの実施形態では、ニューラルネットワークはリカレントニューラルネットワークである。

【図面の簡単な説明】

【0011】

【図1】本発明の一実施形態に従う、任意長の時系列の特徴付けを容易にするための例示的な環境を示す。

【図2】本発明の一実施形態に従う、任意長の時系列の特徴付けを容易にするための例示的な環境を示す。

【図3】本発明の一実施形態に従う、例示的な時系列データを示す。

【図4】本発明の一実施形態に従う、例示的なシグネチャを示す。

【図5】本発明の一実施形態に従う、既知のシグネチャに基づいて例示的なネットワークをトレーニングすることを示す。

【図6】本発明の一実施形態に従う、図４の例示的なシグネチャに基づいて、固定長の時系列およびシグネチャ検出器を与えられ、確率ベクトルを決定することを示す。

【図7】本発明の一実施形態に従う、シグネチャ検出器およびダウンサンプラモジュールを使用する任意長の時系列の特性付けを示す。

【図8】本発明の一実施形態に従う、任意長の時系列の特徴付けを容易にするための方法を説明するフローチャートを表す。

【図9】本発明の一実施形態に従う、任意長の時系列の特徴付けを容易にするための方法を説明するフローチャートを表す。

【図10】本発明の一実施形態に従う、任意長の時系列の特徴付けを容易にする例示的な分散型コンピュータおよび通信システムを示す。

【発明を実施するための形態】

【0012】

以下の説明は、当業者に、実施形態を作り、使用するのを可能にさせるために提示され、特定の用途およびその要件の観点から提供されている。開示された実施形態に対する様々な修正形態が当業者にはすぐに明らかになり、本明細書に定義されている一般原則が、本開示の趣旨および範囲を逸脱しない限り、他の実施形態および用途に適用されてもよい。したがって、本発明は、示されている実施形態に限定されるものでなく、本明細書に開示されている原則および特徴と合致している最も広い範囲が与えられるべきである。

【0013】

概要
本明細書に記載の実施形態は、多量の時系列データを効果的に分析するという問題を解決する。時系列データは、実変数またはカテゴリ変数の経時的配列、例えば時間的順序で添字付けされた（または別様に表された）一連のデータポイントである。時系列データは、一般に、時間において連続的等間隔の点で取得される。時系列データの一例は、風力タービンから経時的に生成される電力である。時系列データの分析は、データの次元数が大きいこと、および関心のある時間スケールの知識または変化の欠如が原因で、困難な場合がある。例えば、風力タービンの例における１分間の時系列データは、毎秒１，０００サンプル、合計６０，０００サンプルを生成するセンサによって記録されるサンプルデータを含み得る。この時系列データの次元数（すなわち、膨大な量）は、データを分析する上で難題を生み出す可能性がある。大量の６０，０００のサンプルのどの部分が有用なデータを含み得るかに関する知識の欠如も、データを効果的に分析する上で難題を生み出す可能性がある。

【0014】

本明細書に記載の実施形態は、固定長の時系列における既知のシグネチャの相対的割合を特定し、さらにシグネチャ検出器に基づいて任意長の時系列を特徴付けるシグネチャ検出器システムを提供することによってこれらの難題に対処する。システムは、予め選択された既知のシグネチャとトレーニングデータとに基づいてリカレントニューラルネットワークをトレーニングする。続いて、システムは、トレーニングされたリカレントニューラルネットワークへの入力として固定長の時系列データを使用し、各シグネチャについて、時系列がそれぞれのシグネチャによって特徴付けられる確率を出力として生成する。リカレントニューラルネットワークをトレーニングすることは、図５に関連して以下に説明し、「シグネチャ検出器」に基づいて確率ベクトルを生成することは、図６に関連して以下に説明する。

【0015】

システムは、次いで、固定長にダウンサンプリングされた増加する数のエントリを入力時系列セットとして順次使用することによって、シグネチャ検出器を使用して任意長の時系列を特徴付けることができる。この場合、シグネチャ検出器の出力は、各順次入力時系列セットに対する多数の確率ベクトルであり、各ベクトルは、各シグネチャについて、任意長の時系列がそれぞれのシグネチャによって特徴付けられる確率を含む。シグネチャ検出器およびダウンサンプリングモジュールを使用して任意長の時系列を特徴付けることは、図７に関連して以下に説明する。

【0016】

したがって、本明細書に記載の実施形態は、物理システムに関連付けられた膨大な時系列データセットを分析する効率を向上させるコンピュータシステムを提供し、その向上は基本的に技術的なものである。向上された効率は、固定長の時系列における既知のシグネチャの相対的割合を特定するシグネチャ検出器を含み得、シグネチャ検出器は任意長の時系列データを特徴付けるために使用され得る。コンピュータシステムは、物理システムに関連付けられた大量の時系列データを分析するという技術的問題に対して技術的解決策（すなわち、予め選択されたシグネチャに基づいて物理システムに関連付けられた任意長の時系列データを特徴付けするための方法）を提供する。この技術的解決策は、膨大な量の時系列データの分析を強化し、物理システムの効率および有効性の両方を高めることができる。

【0017】

本明細書に記載の実施形態では、コンピュータシステムのユーザは、物理的対象に関連付けられた固定長の時系列データを使用して既知のシグネチャの相対的重みを決定し（例えば、その出力が確率ベクトルとして可視化されるシグネチャ検出器）、続いて、測定されている物理的対象に関連付けられた物理的特徴を変更することができる。さらに、ユーザは、シグネチャ検出器を使用して既知のシグネチャの相対的重みを決定し、測定されている物理的対象に関連付けられた物理的特徴を再び変更することができる。ユーザは、シグネチャ検出器の出力および物理システムに関連付けられた任意長の時系列データの特徴付けに基づいて、物理システムの効率および有効性を向上させるための任意の変更を加えることもできる。

【0018】

例示的な環境および通信
図１は、本発明の一実施形態に従う、任意長の時系列の特徴付けを容易にするための例示的な環境１００を示す。環境１００は、デバイス１０２および関連ユーザ１１２と、デバイス１０４および関連ユーザ１１４と、デバイス１０６とを含み得る。デバイス１０２、１０４、および１０６は、ネットワーク１２０を介して互いに通信できる。環境１００はまた、ある期間にわたって周期的な間隔でデータを記録することができるセンサを備えた物理的対象を含み得る。例えば、物理的対象は、複数のセンサ１１０．１～１１０．ｎを備えたブレード１１０などの複数のブレードを備えた風力タービン１０８であり得る。各センサはデータを記録して別のデバイスに送信することができる。例えば、センサ１１０．３は、時系列データ１３０をデバイス１０４に送信することができ、デバイス１０４は時系列データ１３０をデバイス１０２および１０６に送信することができる。時系列データ１３０を受信すると、デバイス１０２は、ユーザ１１２を介して、時系列データ１３０の「固定」長を選択し、１つ以上のシグネチャを選択し、選択された長さおよびシグネチャ１３１をデバイス１０６に送信する。シグネチャは時系列のデータに対する基底関数を示すことができ、デバイス１０２は、ユーザ１１２を介して、データを分析するための戦略に基づいて関心のあるまたは適切であり得る任意の数Ｍのシグネチャを選択することができる。デバイス１０４は、ユーザ１１４を介して、トレーニングデータ１３６を生成してデバイス１０６に送信することもできる。

【0019】

したがって、時系列データ１３０、トレーニングデータ１３６、ならびに選択された長さおよびシグネチャ１３１を受信すると、デバイス１０６は、各入力時系列が１つのシグネチャに対応するリカレントニューラルネットワークをトレーニングすることができる（ネットワークトレーニング機能１３２）。出力はＭサイズベクトル１３３であり、これは、１に等しいベクトルエントリがシグネチャに関連付けられた添字に対応するサイズＭのワンホットベクトルである。デバイス１０６は、さらなる分析のためにＭサイズベクトル１３３を生成してデバイス１０２に送り返すことができる。

【0020】

続いて、リカレントニューラルネットワークを使用して、固定サイズの入力を与えられると（同じくサイズＭの）確率ベクトルを生成することができ、ここで、相対確率は、入力データに対する対応するシグネチャの相対的重みを示す。図２は、本発明の一実施形態に従う、任意長の時系列の特徴付けを容易にするための例示的な環境２００を示す。環境２００では、センサ１１０．３は時系列データ１４０を記録してデバイス１０２、１０４、および１０６に送信することができる。時系列データ１４０を受信すると、デバイス１０２は、ユーザ１１２を介して、時系列データ１４０の長さＬを選択し、選択された長さ１４１をデバイス１０６に送信することができる。

【0021】

時系列データ１４０および選択された長さ１４１の両方を受信すると、デバイス１０６は、（図１に関して上述した）以前にトレーニングされたリカレントニューラルネットワークを使用して確率ベクトルを生成することができる（確率ベクトル生成機能１４２）。デバイス１０６は、さらなる分析のために確率ベクトル１４３をデバイス１０２に送り返すことができる。確率ベクトル１４３は、各シグネチャについて、時系列データ１４０がそれぞれのシグネチャによって特徴付けられる相対的重みを示す相対確率を有するＭサイズベクトルとすることができる。

【0022】

例示的な時系列データおよびシグネチャ
図３は、本発明の一実施形態に従う、例示的な時系列データ３００を示す。時系列データ３００は、風力タービン１０８のブレード１１０のセンサ１１０．３などの物理的センサからある期間にわたって収集されたデータに対応し得る。図３は、時間を表すｘ軸３０２、および電力（例えば、ブレード１１０．３によって生成される電力）を表すｙ軸３０４を含む。時間はｘ軸上に［（ｔ－１５）、（ｔ－１４）、（ｔ－１３）、…、（ｔ）］で記され、それぞれの時間に対応するデータは［（Ｘ_ｔ－１５）、（Ｘ_ｔ－１４）、（Ｘ_ｔ－１３）、…、（Ｘ_ｔ）］として記されている。時系列データ３００は、時間とともに非線形的に変化する。本明細書に記載の実施形態は、固定長の時系列データにおける既知のシグネチャの相対的割合を特定するシグネチャ検出器のための第１の方法と、シグネチャ検出器を使用して任意長の時系列データを特徴付ける第２の方法とを提供する。

【0023】

図４は、本発明の一実施形態に従う、例示的なシグネチャ４３０を示す。例示的なシグネチャ４３０は、シグネチャ４３１、４３２、および４３３を含み得る。シグネチャ４３１は、直流（ＤＣ）信号、または時間とともに変化しない一定の信号であり得る。シグネチャ４３２は、時間とともに一定の勾配で増加するランプ信号であり得る。シグネチャ４３３は、特定の周波数（例えば、３ヘルツ）の正弦波信号、または交流（ＡＣ）信号であり得る。

【0024】

３つのシグネチャ４３１、４３２、および４３３は、サイズＭ＝３のワンホットベクトルで表され得る。それぞれのシグネチャベクトルにおいて、１に等しい値を有するベクトルエントリは、それぞれのシグネチャの添字に対応する。例えば、シグネチャ４３１は、添字値［ｉ１、ｉ２、ｉ３］＝［１，０，０］を有するそれぞれのシグネチャベクトル４４１を有することができ、シグネチャ４３２は、添字値［ｉ１、ｉ２、ｉ３］＝［０、１、０］を有するそれぞれのシグネチャベクトル４４２を有することができ、そしてシグネチャ４３３は、添字値［ｉ１、ｉ２、ｉ３］＝［０、０、１］を有するそれぞれのシグネチャベクトル４４３を有することができる。シグネチャ４３１、４３２、および４３３を、図７の例示的な確率ベクトルにおいて、以下に論じる。

【0025】

既知のシグネチャの相対的割合の特定
図５は、本発明の一実施形態に従う、既知のシグネチャに基づいて例示的なネットワーク５００をトレーニングすることを示す。ネットワーク５００は、ノード５０２、５０４、５０６、および５０８、ならびに対応するそれぞれの入力５１２、５１４、５１６、および５１８を有するリカレントニューラルネットワークとすることができる。各ノードは入力および出力を有することができる。例えば、現在のノード５０６は、ノード５０４からの第１の入力（Ｗ＊Ｓ_ｔ－２）と、入力５１６からの第２の入力（Ｕ＊Ｘ_ｔ－１）とを有する。ノード５０６は、第１の入力および第２の入力の非線形関数である出力を有することができる。すなわち、Ｓ_ｔ－１＝ｇ（Ｗ＊Ｓ_ｔ－２＋Ｕ＊Ｘ_ｔ－１）である。項「ｇ」は非線形関数を示す。項「Ｓ_ｔ－２」は、前のノードからの出力である入力である。項ＵおよびＷは、リカレントニューラルネットワークの各ステップで一貫性のあるパラメータを表す。項「Ｘ_ｔ－１」は、現在のノードへの別の入力である。

【0026】

ネットワーク５００は、合成データまたはトレーニングデータを使用してトレーニングすることができる。システムは、所与の時系列（例えば、時系列３００）の長さＬを選択することができ、またＭ個の既知のシグネチャ（例えば、Ｍ＝３、図４の３つのシグネチャ）を選択することができる。システムは、シグネチャ４３１、４３２、および４３３に対応するワンホットベクトル５３０の既知の出力を与えられると、トレーニングデータを長さＬの複数の入力時系列として使用する。トレーニングネットワーク５００は、続いて、Ｕの適切な値を決定することができる。

【0027】

ネットワーク５００をトレーニングすると、固定長Ｌの時系列を、サイズＭの確率ベクトルを生成するための入力として渡すことができる。図６は、本発明の一実施形態に従う、固定長の時系列６１２およびシグネチャ検出器６１０を与えられて確率ベクトル６２０を決定することを示す。システムは、長さＬ＝４の入力６１２［（Ｘ_ｔ－３）、（Ｘ_ｔ－２）、（Ｘ_ｔ－１）、（Ｘ_ｔ）］をシグネチャ検出器６１０に渡し、出力６１４［Ｐ_{ｓｉｇ＿１}、Ｐ_{ｓｉｇ＿２}、Ｐ_{ｓｉｇ＿３}］を生成することができる。出力６１４は、サイズＭ＝３の確率ベクトル６２０［（ｐ＿ｓｉｇ６２０．１、ｐ＿ｓｉｇ６２０．２、ｐ＿ｓｉｇ６２０．３）に対応する。「ｐ＿ｓｉｇ６２０．１」は、所与の入力時系列６１２が対応するシグネチャ４３１によって特徴付けられ得る相対確率である。同様に、「ｐ＿ｓｉｇ６２０．２」は、所与の入力時系列６１２が対応するシグネチャ４３２によって特徴付けられ得る相対確率であり、「ｐ＿ｓｉｇ６２０．３」は、所与の入力時系列６１２が対応するシグネチャ４３３によって特徴付けられ得る相対確率である。確率ベクトル６２０（および出力６１４）は、［０．２、０．１、０．７］などの値を有することができる。

【0028】

したがって、既知のシグネチャの相対的割合を特定することによって、システムは、その出力が既知のシグネチャを表す成分を有する確率ベクトルであるシグネチャ検出器を提供する。システムは、既知のシグネチャに基づいて固定長の時系列を特徴付ける。この特徴付けは、別のシステムの効率を高めるための改善をなすようにユーザまたは他のクライアントを導くことができる。例えば、風力タービンの例では、システムは、センサ１１０．３からの固定長の示度を使用して、特定の既知のシグネチャの相対的割合を（確率ベクトルとして）決定することができ、確率ベクトルに基づいて、ユーザは、続いて、ブレード１１０の速度、サイズ、方向、もしくは他の特徴、またはセンサ１１０．３によって取得された示度に関する別の特徴を修正することができる。本明細書に記載の実施形態により、ユーザは、測定されている物理的対象に関連付けられた物理的特徴を修正することができ、それは、大量の時系列データの分析を強化することにより技術的問題に対する具体的な技術的解決策を提供する。

【0029】

任意長の時系列データの特徴付け
図７は、本発明の一実施形態に従う、シグネチャ検出器７２０およびダウンサンプラモジュール７１８を使用する任意長の時系列の特性付けを示す。図７は、時間７１２、７１４、７１６、および７１８によって示される時間的順序の動作を含む。システムは、（図３の時系列データ３００のように）任意長Ｑの時系列を取得することができる。システムは、時系列のうちの最新のＬ個のエントリを選択し、図５および図６に関して前述したシグネチャ検出器を使用してＭサイズの確率ベクトルを生成することができる。

【0030】

時間７１２において、システムは、長さＬ＝４の入力７３２［（Ｘ_ｔ－３）、（Ｘ_ｔ－２）、（Ｘ_ｔ－１）、（Ｘ_ｔ）］をシグネチャ検出器７２０に渡し、出力７１４［Ｐ_{ｓｉｇ＿１}、Ｐ_{ｓｉｇ＿２}、Ｐ_{ｓｉｇ＿３}］を生成することができる。出力７１４は、サイズＭ＝３であり、Ｍ個のシグネチャに対する相対確率に基づいて時系列を特徴付けるという点で確率ベクトル６２０と同様である。

【0031】

続いて、システムは、時系列のうちの最新のＨ＊Ｌ個のエントリ（Ｈは任意の正の整数）を選択し、選択されたエントリを１／Ｈに減らして（すなわちダウンサンプリングして）Ｌ個のエントリを得ることができる。システムは、再びＭサイズの確率ベクトルを生成することができる。システムは、Ｈ＊Ｌが任意長Ｑよりも大きくなるまで、Ｈを増加させ、選択し、減らし、そして生成するというステップを繰り返し続けることができる。

【0032】

具体的には、時間７１４において、システムは、Ｈ＝２を設定し、時系列のうちの最新の２＊４＝８個のエントリを選択することができる。システムは、Ｈ＊Ｌ＝８個のエントリを有する入力７４２［（Ｘ_ｔ－７）、（Ｘ_ｔ－６）、（Ｘ_ｔ－５）、（Ｘ_ｔ－４）、（Ｘ_ｔ－３）、（Ｘ_ｔ－２）、（Ｘ_ｔ－１）、（Ｘ_ｔ）］をダウンサンプラモジュール７１８に渡すことができる。ダウンサンプラモジュール７１８は、任意のダウンサンプリングアルゴリズムを使用し、エントリ数を１／Ｈ倍に減らしてＬ個のエントリを得ることができる。システムは、続いて、長さＬ＝４のダウンサンプリングされた入力７４３［（Ｘ_ｔ－７）、（Ｘ_ｔ－５）、（Ｘ_ｔ－３）、（Ｘ_ｔ－１）］をシグネチャ検出器７２０に送り、そして出力７４４［Ｐ_{ｓｉｇ＿１}、Ｐ_{ｓｉｇ＿２}、Ｐ_{ｓｉｇ＿３}］を生成することができる。

【0033】

時間７１６において、システムは、Ｈを１だけ増加させ、Ｈ＝２＋１＝３と設定し、時系列のうちの最新の３＊４＝１２個のエントリを選択することができる。システムは、Ｈ＊Ｌ＝１２個のエントリを有する入力７５２［（Ｘ_ｔ－１１）、（Ｘ_ｔ－１０）、（Ｘ_ｔ－９）、（Ｘ_ｔ－８）、（Ｘ_ｔ－７）、（Ｘ_ｔ－６）、（Ｘ_ｔ－５）、（Ｘ_ｔ－４）、（Ｘ_ｔ－３）、（Ｘ_ｔ－２）、（Ｘ_ｔ－１）、（Ｘ_ｔ）］をダウンサンプラモジュール７１８に渡すことができる。システムは、続いて、長さＬ＝４のダウンサンプリングされた入力７５３［（Ｘ_ｔ－１１）、（Ｘ_ｔ－８）、（Ｘ_ｔ－４）、（Ｘ_ｔ－１）］をシグネチャ検出器７２０に送り、そして出力７５４［Ｐ_{ｓｉｇ＿１}、Ｐ_{ｓｉｇ＿２}、Ｐ_{ｓｉｇ＿３}］を生成することができる。

【0034】

時間７１８において、システムは、Ｈを１だけ増加させ、Ｈ＝３＋１＝４と設定し、時系列のうちの最新の４＊４＝１６個のエントリを選択することができる。システムは、Ｈ＊Ｌ＝１６個のエントリを有する入力７６２［（Ｘ_ｔ－１５）、（Ｘ_ｔ－１４）、（Ｘ_ｔ－１３）、（Ｘ_ｔ－１２）、（Ｘ_ｔ－１１）、（Ｘ_ｔ－１０）、（Ｘ_ｔ－９）、（Ｘ_ｔ－８）、（Ｘ_ｔ－７）、（Ｘ_ｔ－６）、（Ｘ_ｔ－５））、（Ｘ_ｔ－４）、（Ｘ_ｔ－３）、（Ｘ_ｔ－２）、（Ｘ_ｔ－１）、（Ｘ_ｔ）］をダウンサンプラモジュール７１８に渡すことができるシステムは、続いて、長さＬ＝４のダウンサンプリングされた入力７６３［（Ｘ_ｔ－１５）、（Ｘ_ｔ－１１）、（Ｘ_ｔ－７）、（Ｘ_ｔ－３）］をシグネチャ検出器７２０に送り、そして出力７６４［Ｐ_{ｓｉｇ＿１}、Ｐ_{ｓｉｇ＿２}、Ｐ_{ｓｉｇ＿３}］を生成することができる。

【0035】

システムは、Ｈを再び増加させると、Ｈ＊ＬがＱよりも大きくなる（すなわち、５＊４＞１６）と判断することができる。Ｍサイズの確率ベクトル（すなわち、出力７３４、７４４、７５４、および７６４）の集合は、選択されたＭ＝３個のシグネチャを与えられて任意長Ｑ＝１６の時系列を特徴付ける確率ベクトル７８０である。

【0036】

したがって、図６および図７のシグネチャ検出器を使用することによって、システムは、既知のシグネチャに基づいて任意長の時系列を特徴付けることができる。この特徴付けによって、ユーザまたは他のクライアントは物理システムの効率を高めるための改善をなすことができる。例えば、風力タービンの例では、システムはセンサ１１０．３から任意長の時系列データを取得することができる。システムは、増加およびダウンサンプリングされた数のエントリを入力として使用し、各々が特定の既知のシグネチャの相対的割合を示す複数の確率ベクトルを出力として生成することによって、時系列の特徴付けを決定することができる。これらの確率ベクトルに基づいて、ユーザは、続いて、ブレード１１０の速度、サイズ、方向、もしくは他の特徴、またはセンサ１１０．３によって取得された示度に関する別の特徴を修正し、大量の時系列データの分析および物理システムのパフォーマンスの両方を強化することができる。

【0037】

任意長の時系列データを特徴付ける方法
図８は、本発明の一実施形態に従う、任意長の時系列データの特徴付けを容易にするための方法を説明するフローチャート８００を表す。動作中、システムは、コンピューティングデバイスによって、物理システムに関連付けられた時系列データに対する固定長を決定する（動作８０２）。システムは１つ以上のシグネチャを決定し、ここで、シグネチャは既知の時系列データに対する基底関数を表す（動作８０４）。システムは、既知の出力としてのシグネチャに基づいてリカレントニューラルネットワークをトレーニングする（動作８０６）。システムは、トレーニングされたニューラルネットワークを時系列に適用して、時系列がそれぞれのシグネチャによって特徴付けられる確率（動作８０８）、例えば、図６の確率ベクトル６２０を生成する。システムは、確率に基づいて時系列データおよび物理システムの分析を強化する（動作８１０）。動作は、図９のラベルＡに記載のように継続する。

【0038】

したがって、固定長の時系列の特徴付けは、Ｍを予め選択されたシグネチャの数とすると、サイズＭの確率ベクトル（例えば、図６のサイズＭ＝３の確率ベクトル６２０）として表すことができる。特徴付けは、図６のシグネチャ検出器６１０としても示されている。

【0039】

図９は、本発明の一実施形態に従う、任意長の時系列の特徴付けを容易にするための方法を説明するフローチャート９００を表す。動作中、システムは、トレーニングされたニューラルネットワークを時系列の第１の部分に適用して、各シグネチャについて、時系列がそれぞれのシグネチャによって特徴付けられる第１の確率を生成し、ここで、第１の部分は、第１の長さを有し、時系列のうちの第１の数の最新エントリを含む（動作９０２）。システムは、整数でスケーリングされた第１の部分の長さが時系列の全長よりも小さいかどうかを判定する（判断９０４）（例えば、図７のようにＨ＊Ｌ＜Ｑ）。

【0040】

整数でスケーリングされた第１の部分の長さが時系列の全長よりも小さくない場合、システムは時系列の第２の部分を決定し、ここで、第２の部分は、第２の長さと、整数でスケーリングされた第１の数に等しい第２の数の最新エントリとを有する（動作９０６）。システムは、整数に基づいて第２の数のエントリを減らす（動作９０８）（すなわち、図７に関して上述したようにダウンサンプリングする）。システムは、トレーニングされたニューラルネットワークを減らされた第２の数のエントリに適用して、各シグネチャについて、時系列がそれぞれのシグネチャによって特徴付けられる第２の確率を生成する（動作９１０）。システムは、第２の部分を第１の部分として設定し、整数に摂動を与える（動作９１２）（例えば、図７におけるようにＨ＝Ｈ＋１）。動作は判断９０４に戻る。（摂動を与えられた）整数でスケーリングされた第１の部分の長さが時系列の全長よりも小さい場合（判断９０４）、システムは第１の確率および第２の確率に基づいて時系列を特徴付ける（動作９１４）。

【0041】

したがって、任意長の時系列の特徴付けは、ＮをサイズＭの出力確率ベクトルを得るために入力データがシグネチャ検出器を通過する回数とし、Ｍを予め選択されたシグネチャの数とすると、サイズＮ＊Ｍの確率ベクトル（例えば、図７のサイズＮ＊Ｍ＝４＊３＝１２の確率ベクトル７８０）として表すことができる。

【0042】

例示的なコンピュータおよび通信システム
図１０は、本発明の一実施形態に従う、任意長の時系列の特徴付けを容易にする例示的な分散型コンピュータおよび通信システム１００２を示す。コンピュータシステム１００２は、プロセッサ１００４、メモリ１００６、および記憶デバイス１００８を含む。メモリ１００６は、被管理メモリの役割を果たす揮発性メモリ（例えば、ＲＡＭ）を含むことができ、１つ以上のメモリプールを記憶するのに使用され得る。さらに、コンピュータシステム１００２は、表示デバイス１０１０、キーボード１０１２、およびポインティングデバイス１０１４に連結され得る。記憶デバイス１００８は、オペレーティングシステム１０１６、コンテンツ処理システム１０１８、およびデータ１０３２を記憶することができる。

【0043】

コンテンツ処理システム１０１８は、コンピュータシステム１００２によって実行されると、コンピュータシステム１００２に本開示に記載の方法および／またはプロセスを行わせることができる命令を含むことができる。具体的には、コンテンツ処理システム１０１８は、コンピュータネットワークにわたって、データパケットを、他のネットワークノードにおよび／またはそこから、送信および／または受信するための命令を含み得る（通信モジュール１０２０）。データパケットは、時系列データ、トレーニングデータ、合成データ、ベクトル、選択された長さ、および選択されたシグネチャを含むことができる。

【0044】

コンテンツ処理システム１０１８は、１つ以上のシグネチャを決定するための命令をさらに含むことができ、ここで、シグネチャは時系列データに対する基底関数を示す（シグネチャ選択モジュール１０２２）。コンテンツ処理システム１０１８は、既知の出力としてのシグネチャに基づいてニューラルネットワークをトレーニングするための命令を含むことができる（ネットワークトレーニングモジュール１０２４）。コンテンツ処理システム１０１８は、トレーニングされたニューラルネットワークを時系列に適用して、時系列がそれぞれのシグネチャによって特徴付けられる確率を生成するための命令も含むことができる（確率生成モジュール１０２６）。コンテンツ処理システム１０１８は、確率に基づいて時系列データおよび物理システムの分析を強化するための命令を含むことができる（時系列特徴付けモジュール１０２８）。

【0045】

さらに、コンテンツ処理システム１０１８は、トレーニングされたニューラルネットワークを時系列の第１の部分に適用して、各シグネチャについて、時系列がそれぞれのシグネチャによって特徴付けられる第１の確率を生成するための命令を含むことができ、ここで、第１の部分は、第１の長さを有し、時系列のうちの第１の数の最新エントリを含む（確率生成モジュール１０２６）。コンテンツ処理システム１０１８は、時系列の第２の部分を決定するための命令を含むことができ、ここで、第２の部分は、第２の長さを有し、時系列のうちの第２の数の最新エントリを含む（時系列特徴付けモジュール１０２８）。コンテンツ処理システム１０１８は、第２の数のエントリを減らすための命令を含むこともできる（ダウンサンプリングモジュール１０３０）。コンテンツ処理システム１０１８は、トレーニングされたニューラルネットワークを減らされた第２の数のエントリに適用して、各シグネチャについて、時系列がそれぞれのシグネチャによって特徴付けられる第２の確率を生成するための命令を含むことができる（確率生成モジュール１０２６）。コンテンツ処理システム１０１８は、第１の確率および第２の確率に基づいて時系列を特徴付けるための命令をさらに含むことができる（時系列特徴付けモジュール１０２８）。

【0046】

データ１０３２は、本開示に記載の方法および／またはプロセスによって入力として要求されるかまたは出力として生成されるいかなるデータも含むことができる。具体的には、データ１０３２は少なくとも、シグネチャ、基底関数、時系列、長さ、ニューラルネットワーク、リカレントニューラルネットワーク、トレーニングされたネットワーク、入力、入力時系列、出力、出力ベクトル、ワンホットベクトル、添字、確率ベクトル、正の整数、時系列の一部、各シグネチャについて時系列がそれぞれのシグネチャによって特徴付けられる確率を示す確率ベクトル、時系列の最新の数のエントリ、減らされた数のエントリ、ダウンサンプリングアルゴリズム、シグネチャから生成されたデータ、各シグネチャについて時系列がそれぞれのシグネチャによって特徴付けられる相対的な割合または重み、および複数のシグネチャに対する１つのシグネチャの比較、を格納することができる。

【0047】

この詳細な説明に説明されているデータ構造およびコードは、コンピュータシステムによる使用のためのコードおよび／またはデータを格納することができるいずれのデバイスまたは媒体であってもよい、コンピュータ可読記憶媒体上に通常格納されている。コンピュータ可読記憶媒体は、揮発性メモリ、不揮発性メモリ、またディスクドライブ、磁気テープ、ＣＤ（コンパクトディスク）、ＤＶＤ（デジタルバーサタイルディスクまたはデジタルビデオディスク）などの磁気および光記憶デバイス、または現在知られているかまたは後に開発されるコンピュータ可読媒体を格納することができる他の媒体を含むが、それらに限定されるものではない。

【0048】

詳細な説明の項に説明されている方法およびプロセスは、上に説明されているようなコンピュータ可読記憶媒体に格納され得る、コードおよび／またはデータとして具体化され得る。コンピュータシステムが、コンピュータ可読記憶媒体上に格納されているコードおよび／またはデータを読み取り、実行すると、コンピュータシステムは、データ構造およびコードとして具体化され、かつコンピュータ可読記憶媒体内に格納されている方法およびプロセスを行う。

【0049】

さらに、上に説明されている方法およびプロセスは、ハードウェアモジュールまたは装置に含まれ得る。ハードウェアモジュールまたは装置は、特定用途向け集積回路（ＡＳＩＣ：Ａｐｐｌｉｃａｔｉｏｎ－Ｓｐｅｃｉｆｉｃ Ｉｎｔｅｇｒａｔｅｄ Ｃｉｒｃｕｉｔ）チップ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ：Ｆｉｅｌｄ－Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）、特定の時点で特定のソフトウェアモジュールまたは１つのコードを実行する専用または共有のプロセッサ、および現在知られているかまたは後に開発される他のプログラマブルロジックデバイスを含むことができるが、それらに限定されるものではない。ハードウェアモジュールまたは装置が起動されると、それらは、それら内に含まれている方法およびプロセスを行う。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】