IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ハネウェル・インターナショナル・インコーポレーテッドの特許一覧

特許7508572予測メンテナンス畳み込みニューラルネットワーク
<>
  • 特許-予測メンテナンス畳み込みニューラルネットワーク 図1
  • 特許-予測メンテナンス畳み込みニューラルネットワーク 図2
  • 特許-予測メンテナンス畳み込みニューラルネットワーク 図3
  • 特許-予測メンテナンス畳み込みニューラルネットワーク 図4
  • 特許-予測メンテナンス畳み込みニューラルネットワーク 図5
  • 特許-予測メンテナンス畳み込みニューラルネットワーク 図6
  • 特許-予測メンテナンス畳み込みニューラルネットワーク 図7
  • 特許-予測メンテナンス畳み込みニューラルネットワーク 図8
  • 特許-予測メンテナンス畳み込みニューラルネットワーク 図9
  • 特許-予測メンテナンス畳み込みニューラルネットワーク 図10
  • 特許-予測メンテナンス畳み込みニューラルネットワーク 図11
  • 特許-予測メンテナンス畳み込みニューラルネットワーク 図12
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-06-21
(45)【発行日】2024-07-01
(54)【発明の名称】予測メンテナンス畳み込みニューラルネットワーク
(51)【国際特許分類】
   G08B 31/00 20060101AFI20240624BHJP
   G06N 3/0464 20230101ALI20240624BHJP
   G16Y 20/20 20200101ALI20240624BHJP
   G16Y 40/10 20200101ALI20240624BHJP
   G16Y 40/20 20200101ALI20240624BHJP
   G16Y 40/40 20200101ALI20240624BHJP
   G05B 23/02 20060101ALI20240624BHJP
【FI】
G08B31/00 Z
G06N3/0464
G16Y20/20
G16Y40/10
G16Y40/20
G16Y40/40
G05B23/02 Z
【請求項の数】 4
(21)【出願番号】P 2022553004
(86)(22)【出願日】2021-03-04
(65)【公表番号】
(43)【公表日】2023-04-21
(86)【国際出願番号】 US2021020879
(87)【国際公開番号】W WO2021183363
(87)【国際公開日】2021-09-16
【審査請求日】2022-10-03
(31)【優先権主張番号】16/816,384
(32)【優先日】2020-03-12
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】500575824
【氏名又は名称】ハネウェル・インターナショナル・インコーポレーテッド
【氏名又は名称原語表記】Honeywell International Inc.
(74)【代理人】
【識別番号】100118902
【弁理士】
【氏名又は名称】山本 修
(74)【代理人】
【識別番号】100106208
【弁理士】
【氏名又は名称】宮前 徹
(74)【代理人】
【識別番号】100196508
【弁理士】
【氏名又は名称】松尾 淳一
(74)【代理人】
【氏名又は名称】鳥居 健一
(72)【発明者】
【氏名】サムセヴィッチ、ラマン
(72)【発明者】
【氏名】マリク、カレル
(72)【発明者】
【氏名】エンデル、ペトル
【審査官】石井 則之
(56)【参考文献】
【文献】米国特許出願公開第2019/0235484(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G08B 31/00
G06N 3/0464
G16Y 20/20
G16Y 40/10
G16Y 40/20
G16Y 40/40
G05B 23/02
(57)【特許請求の範囲】
【請求項1】
コンピュータ実装方法であって、
ユーザインターフェースを表示するように構成されたクエリ起動デバイスから予測テレメトリデータオブジェクトを予測ユニットにおいて受信することであって、前記予測テレメトリデータオブジェクトは、訓練された予測メンテナンス畳み込みニューラルネットワークを使用する予測推論を実施するために使用されるテレメトリデータオブジェクトであり、前記予測テレメトリデータオブジェクトが、1つ以上の予測時間ユニットにおいて複数の予測測定値に関連付けられ、前記複数の予測測定値の各予測測定値が、監視対象システム内の1つ以上のセンサデバイスのうちのあるセンサデバイスに関連付けられる、受信することと、
前記予測ユニットにおいて前記予測テレメトリデータオブジェクト及び前記監視対象システムの1つ以上のモデルに基づいて、メンテナンス予測を生成することであって、前記訓練された予測メンテナンス畳み込みニューラルネットワークの最終判別層の出力は前記メンテナンス予測として採用され、前記メンテナンス予測は前記関連付けられたセンサデバイスの予測メンテナンスの必要性を示す、生成することと、
前記予測ユニットにおいて前記メンテナンス予測に基づいて、1つ以上のメンテナンスの必要性の通知出力を生成することと、
前記予測ユニットにおいて前記ユーザインターフェースを使用して、前記クエリ起動デバイスに前記1つ以上のメンテナンスの必要性の通知出力を表示させることと、を含む、コンピュータ実装方法。
【請求項2】
前記1つ以上のモデルが、前記訓練された予測メンテナンス畳み込みニューラルネットワークを含み、前記予測テレメトリデータオブジェクトは前記予測メンテナンス畳み込みニューラルネットワークの入力構造によって定義されるデータフォーマットを含む、請求項1に記載のコンピュータ実装方法。
【請求項3】
前記予測テレメトリデータオブジェクトが、1つ以上の予測入力チャネルを含み、前記1つ以上の予測入力チャネルは複数の時間ユニットごとセンサごとの測定値のサブセットに基づいて決定され、各時間ユニットごとセンサごとの測定値は、前記1つ以上のセンサデバイスのうちのあるセンサデバイスと、1つ以上の時間ユニットのうちのある時間ユニットとに関連付けられており、前記1つ以上の予測入力チャネルの各予測入力チャネルが、前記1つ以上のセンサデバイスのうちのあるセンサデバイスに関連付けられる、請求項1に記載のコンピュータ実装方法。
【請求項4】
前記メンテナンス予測に関連付けられたターゲット分類カテゴリに関して、1つ以上の予測入力チャネルの入力チャネルごとのウエイト値を決定するステップと、
前記1つ以上の予測入力チャネルの入力チャネルごとのウエイト値および前記予測入力チャネルの特徴マップに基づいて、前記1つ以上の予測入力チャネルのヒートマップを生成するステップであって、前記予測入力チャネルの前記ヒートマップは、前記1つ以上の予測入力チャネルの複数の構成要素の各構成要素に対応する相対的な予測関連性を示す構成要素ごとの予測有意性値を示し、前記メンテナンス予測を生成する、ステップと
さらに含む、請求項3に記載のコンピュータ実装方法。
【発明の詳細な説明】
【背景技術】
【0001】
様々な方法、装置、及びシステムが、テレメトリデータに基づいて予測メンテナンスデータを実施するための技術を提供するように構成されている。
【発明の概要】
【0002】
概して、本明細書に開示される実施形態は、テレメトリデータに基づいて予測メンテナンスデータを実施することを可能にするように構成されている、方法、装置、システム、コンピューティングデバイスなどを提供する。例えば、本明細書に開示される特定の実施形態は、予測メンテナンス畳み込みニューラルネットワーク、メンテナンスデータオブジェクト、センサごとの予測入力チャネル、及び入力チャネルごとのヒートマップのうちの少なくとも1つを使用して、テレメトリデータに基づいて予測メンテナンスデータを実施するように構成されている、方法、装置、システム、コンピューティングデバイスなどを提供する。
【0003】
1つの態様によれば、方法が提供される。1つの実施形態では、本方法は、監視対象システムの訓練テレメトリデータオブジェクトを取得することと、訓練テレメトリデータオブジェクトに基づいて、訓練入力データオブジェクトを決定することであって、訓練入力データオブジェクトが、1つ以上の訓練入力チャネルを含み、1つ以上の訓練入力チャネルの各訓練入力チャネルが、1つ以上のセンサデバイスのうちのあるセンサデバイスに関連付けられ、更に、1つ以上の訓練入力チャネルの各訓練入力チャネルが、訓練入力チャネルのセンサデバイスに関連付けられた複数の時間ユニットごとセンサごとの訓練測定値の第1のサブセットに基づいて決定される、決定することと、監視対象システムのメンテナンスデータオブジェクトを取得することであって、メンテナンスデータオブジェクトが、1つ以上の訓練時間ユニットの1つ以上のメンテナンスクリティカル時間ユニットを識別する、取得することと、訓練入力データオブジェクト及びメンテナンスデータオブジェクトに基づいて、訓練された予測メンテナンス畳み込みニューラルネットワークを生成することであって、訓練された予測メンテナンス畳み込みニューラルネットワークが、監視対象システムの予測入力データオブジェクトを処理して、監視対象システムのメンテナンス予測を生成するように構成されている、生成することと、を含む。
【0004】
別の態様によれば、コンピュータプログラム製品が提供され得る。コンピュータプログラム製品は、少なくとも1つのコンピュータ可読記憶媒体を含み得、少なくとも1つのコンピュータ可読記憶媒体は、内部に記憶されているコンピュータ可読プログラムコード部分を有し、コンピュータ可読プログラムコード部分は、監視対象システムの訓練テレメトリデータオブジェクトを取得することと、訓練テレメトリデータオブジェクトに基づいて、訓練入力データオブジェクトを決定することであって、訓練入力データオブジェクトが、1つ以上の訓練入力チャネルを含み、1つ以上の訓練入力チャネルの各訓練入力チャネルが、1つ以上のセンサデバイスのうちのあるセンサデバイスに関連付けられ、更に、1つ以上の訓練入力チャネルの各訓練入力チャネルが、訓練入力チャネルのセンサデバイスに関連付けられた複数の時間ユニットごとセンサごとの訓練測定値の第1のサブセットに基づいて決定される、決定することと、監視対象システムのメンテナンスデータオブジェクトを取得することであって、メンテナンスデータオブジェクトが、1つ以上の訓練時間ユニットの1つ以上のメンテナンスクリティカル時間ユニットを識別する、取得することと、訓練入力データオブジェクト及びメンテナンスデータオブジェクトに基づいて、訓練された予測メンテナンス畳み込みニューラルネットワークを生成することであって、訓練された予測メンテナンス畳み込みニューラルネットワークが、監視対象システムの予測入力データオブジェクトを処理して、監視対象システムのメンテナンス予測を生成するように構成されている、生成することと、を行うように構成された実行可能な部分を含む。
【0005】
更に別の態様によれば、少なくとも1つのプロセッサと、コンピュータプログラムコードを含む少なくとも1つのメモリと、を備える、装置が提供される。1つの実施形態では、少なくとも1つのメモリ及びコンピュータプログラムコードは、プロセッサを用いて、装置に、監視対象システムの訓練テレメトリデータオブジェクトを取得することと、訓練テレメトリデータオブジェクトに基づいて、訓練入力データオブジェクトを決定することであって、訓練入力データオブジェクトが、1つ以上の訓練入力チャネルを含み、1つ以上の訓練入力チャネルの各訓練入力チャネルが、1つ以上のセンサデバイスのうちのあるセンサデバイスに関連付けられ、更に、1つ以上の訓練入力チャネルの各訓練入力チャネルが、訓練入力チャネルのセンサデバイスに関連付けられた複数の時間ユニットごとセンサごとの訓練測定値の第1のサブセットに基づいて決定される、決定することと、監視対象システムのメンテナンスデータオブジェクトを取得することであって、メンテナンスデータオブジェクトが、1つ以上の訓練時間ユニットの1つ以上のメンテナンスクリティカル時間ユニットを識別する、取得することと、訓練入力データオブジェクト及びメンテナンスデータオブジェクトに基づいて、訓練された予測メンテナンス畳み込みニューラルネットワークを生成することであって、訓練された予測メンテナンス畳み込みニューラルネットワークが、監視対象システムの予測入力データオブジェクトを処理して、監視対象システムのメンテナンス予測を生成するように構成されている、生成することと、を行わせるように構成され得る。
【図面の簡単な説明】
【0006】
このようにいくつかの実施形態を一般的な用語で説明してきたが、ここで、縮尺どおりに描かれていない添付図面を参照する。
図1】本明細書に開示される少なくともいくつかの実施形態が中で操作され得る、例示的なアーキテクチャのブロック図である。
図2】本明細書に開示される少なくともいくつかの実施形態による、例示的な予測メンテナンスコンピューティングデバイスのブロック図である。
図3】本明細書に開示される少なくともいくつかの実施形態による、例示的なクライアントコンピューティングデバイスのブロック図である。
図4】本明細書に開示される少なくともいくつかの実施形態による、例示的なテレメトリサーバコンピューティングデバイスのブロック図である。
図5】本明細書に開示される少なくともいくつかの実施形態による、予測メンテナンス畳み込みニューラルネットワークを訓練するための例示的な処理のフローチャート図である。
図6】本明細書に開示される少なくともいくつかの実施形態による、テレメトリデータオブジェクトの操作例を提供する。
図7】本明細書に開示される少なくともいくつかの実施形態による、入力データオブジェクトの操作例を提供する。
図8】本明細書に開示される少なくともいくつかの実施形態による、メンテナンスデータオブジェクトの操作例を提供する。
図9】本明細書に開示される少なくともいくつかの実施形態による、予測メンテナンス畳み込みニューラルネットワークの操作例を提供する。
図10】本明細書に開示される少なくともいくつかの実施形態による、訓練された予測メンテナンス畳み込みニューラルネットワークを使用して予測推論を実施するための例示的な処理のフローチャート図である。
図11】本明細書に開示される少なくともいくつかの実施形態による、入力オブジェクトごとのヒートマップの操作例を提供する。
図12】本明細書に開示される少なくともいくつかの実施形態による、入力チャネルごとのヒートマップを生成するための例示的な処理のフローチャート図である。
【発明を実施するための形態】
【0007】
ここで、本明細書に開示される様々な実施形態を、本開示の全てではなくいくつかの実施形態が示される添付図面を参照しながら以下により完全に記載する。実際に、本開示は、多くの異なる形態で具現化されてもよく、本明細書に記載される実施形態に限定されるものとして解釈されるべきではない。むしろ、これらの実施形態は、本開示が適用可能な法的要件を満たすように提供される。「又は」という用語は、別様に示唆されない限り、代替的及び連言的な意味の両方で本明細書にて使用される。「図示の」、「例」、及び「例示的な」という用語は、品質レベルの指示のない例として使用される。同様の数字は、全体を通して同様の要素を指す。
【0008】
概要
本開示の様々な実施形態は、畳み込みニューラルネットワークを訓練して、監視対象システムに関連付けられたテレメトリデータに基づいて、監視対象システムのメンテナンス予測を生成するための技術、並びに言及された畳み込みニューラルネットワークによって生成された出力に基づいて、メンテナンス関連の予測推論のための説明的メタデータを抽出するための技術を提示する。言及された技術を利用することにより、本開示の様々な実施形態は、効果的、効率的、及び解釈可能な方法で、監視対象システムの自動予測メンテナンスを実施することを可能にする。言及された技術はまた、監視対象システム(例えば、多数の影響を受けるユーザを有する大規模な監視対象システム)の所望の構成を、言及された大規模な監視対象システムに関連付けられた、過去の機能不全履歴ログ及び/又は過去のメンテナンス履歴ログの時間横断的分析に基づいて学習することを可能にする。そうすることで、本発明の様々な実施形態は、加熱、換気、及び空調システムなどの、多くの種類の物理システムを監視及びメンテナンスする効率及び効果の改善に実質的に寄与する。
【0009】
例示的なシステムアーキテクチャ
本明細書に開示される方法、装置、及びコンピュータプログラム製品は、様々なデバイスのいずれかによって具現化され得る。例えば、例示的な実施形態の方法、装置、及びコンピュータプログラム製品は、1つ以上のクエリ起動コンピューティングデバイスなどの、1つ以上のデバイスと通信するように構成されたサーバ又は他のネットワークエンティティなどの、ネットワークデバイス(例えば、エンタープライズプラットフォーム)によって具現化され得る。加えて、又はあるいは、コンピューティングデバイスは、パーソナルコンピュータ又はコンピュータワークステーションなどの、固定型コンピューティングデバイスを含み得る。また更に、例示的な実施形態は、ポータブルデジタルアシスタント(portable digital assistant、PDA)、携帯電話、スマートフォン、ラップトップコンピュータ、タブレットコンピュータ、ウェアラブル、又は前述のデバイスの任意の組み合わせなどの、様々なモバイルデバイスのいずれかによって具現化され得る。
【0010】
図1は、本明細書に開示される実施形態が中で操作され得る、例示的なシステムアーキテクチャ100を図示する。アーキテクチャ100は、クライアントコンピューティングデバイス102A、クライアントコンピューティングデバイスB 102B、及びクライアントコンピューティングデバイスC 102Cなどの、1つ以上のクライアントコンピューティングデバイス102A~Cと相互作用するように構成されている、予測メンテナンスシステム105を含む。予測メンテナンスシステム105は、クライアントコンピューティングデバイス102A~Cからのテレメトリデータに基づいて予測メンテナンスデータ分析を実施するための要求を受信することと、テレメトリに基づいて予測メンテナンスデータ分析を実施してメンテナンス予測を生成することと、生成されたメンテナンス予測をクライアントコンピューティングデバイス102A~Cに提供することと、を行うように構成され得る。
【0011】
テレメトリデータは、1つ以上の加熱、換気、及び空調システムなどの、1つ以上の監視対象システムに関連付けられ得る。いくつかの実施形態では、テレメトリデータは、1つ以上の監視対象システム(例えば、加熱、換気、及び空調システム)を監視するように構成された1つ以上のセンサデバイスの読み取り値を記録することによって取得されるデータを指す。テレメトリデータを生成するために読み取り値が使用されるセンサデバイスの例としては、バッグフィルタセンサ、オンコイル温度センサ、供給空気温度センサ、環境湿度センサ、ファン角度モーションセンサなどが挙げられる。いくつかの実施形態では、テレメトリデータは、監視対象システムの1つ以上の操作コマンドに基づいて生成されたデータを指す。
【0012】
予測メンテナンスシステム105は、ネットワーク104を使用してクライアントコンピューティングデバイス102A~Cと通信することができる。ネットワーク104は、例えば、有線若しくは無線ローカルエリアネットワーク(local area network、LAN)、パーソナルエリアネットワーク(personal area network、PAN)、メトロポリタンエリアネットワーク(metropolitan area network、MAN)、ワイドエリアネットワーク(wide area network、WAN)などを含む、任意の有線若しくは無線通信ネットワーク、並びに当該通信ネットワークを実装するのに必要な任意のハードウェア、ソフトウェア、及び/若しくはファームウェア(例えば、ネットワークルーターなど)を含み得る。例えば、通信ネットワーク104は、セルラー電話、802.11、802.16、802.20、及び/又はWiMaxネットワークを含み得る。更に、ネットワーク104は、インターネットなどの公衆ネットワーク、イントラネットなどのプライベートネットワーク、又はこれらの組み合わせを含み得、伝送制御プロトコル/インターネットプロトコル(Transmission Control Protocol/Internet Protocol、TCP/IP)ベースのネットワーキングプロトコルを含むが、これらに限定されない、現在利用可能な又は後に開発される様々なネットワーキングプロトコルを利用し得る。例えば、ネットワーキングプロトコルは、グループベース通信システムの必要性に適合するようにカスタマイズされ得る。いくつかの実施形態では、プロトコルは、Websocketチャネルを介して送信される、JavaScriptオブジェクト表記法(JavaScript Object Notation、JSON)オブジェクトのカスタムプロトコルである。いくつかの実施形態では、プロトコルは、JSON-RPC、JSON-REST/HTTPなどである。
【0013】
予測メンテナンスシステム105は、予測メンテナンスコンピューティングデバイス106及び記憶サブシステム108を含む。予測メンテナンスコンピューティングデバイス106は、テレメトリデータに基づいて予測メンテナンスを実施するように構成され得る。予測メンテナンスコンピューティングデバイス106は、訓練ユニット111、予測ユニット112、及び説明的メタデータユニット113を含む。予測メンテナンスコンピューティングデバイス106の言及された構成要素111~113の関数について、図5図12を参照して以下で説明する。
【0014】
記憶サブシステム108は、テレメトリデータ、並びに予測メンテナンスコンピューティングデバイス106によって利用される1つ以上の予測モデルに関連付けられたデータを記憶するように構成されている。記憶サブシステム108は、コンピュータネットワークを介して接続された複数の分散記憶ユニットなどの、1つ以上の記憶ユニットを含み得る。記憶サブシステム108内の各記憶ユニットは、1つ以上のデータアセット、及び/又は1つ以上のデータアセットのコンピュータ処理された特性に関する1つ以上のデータのうちの少なくとも1つを記憶することができる。更に、記憶サブシステム108内の各記憶ユニットは、ハードディスク、ROM、PROM、EPROM、EEPROM、フラッシュメモリ、MMC、SDメモリカード、メモリスティック、CBRAM、PRAM、FeRAM、NVRAM、MRAM、RRAM、SONOS、FJG RAM、ミリピードメモリ、レーストラックメモリなどを含むが、これらに限定されない、1つ以上の不揮発性記憶装置又はメモリ媒体を含み得る。
【0015】
予測メンテナンスシステム105は、クライアントコンピューティングデバイス102A~C、並びにテレメトリサーバコンピューティングデバイス107のうちの少なくとも1つからテレメトリデータを受信し得る。例えば、テレメトリサーバコンピューティングデバイス107は、1つ以上の監視対象システムに関連付けられた1つ以上のセンサデバイスの読み取り値を監視するように構成されたサーバデバイスであってもよい。テレメトリサーバコンピューティングデバイス107の例は、加熱、換気、及び空調システムに関連付けられたサーバデバイスである。テレメトリデータは、予測メンテナンスシステム105の記憶サブシステム108内に記憶され得る。テレメトリサーバコンピューティングデバイス107によって読み取り値が記録及び伝送されるセンサデバイスの例としては、バッグフィルタセンサ、オンコイル温度センサ、供給空気温度センサ、環境湿度センサ、ファン角度モーションセンサなどが挙げられる。いくつかの実施形態では、予測メンテナンスシステム105は、テレメトリサーバコンピューティングデバイス107から受信したテレメトリ信号に基づいてテレメトリデータを生成する。
【0016】
例示的な予測メンテナンスコンピューティングデバイス
予測メンテナンスコンピューティングデバイス106は、図2に示される装置200などの、1つ以上のコンピューティングシステムによって具現化される。装置200は、プロセッサ202、メモリ204、入出力回路206、及び通信回路208を含み得る。装置200は、本明細書に記載される操作を実行するように構成され得る。これらの構成要素202~208は、機能的制限に関して記載されているが、特定の実装例は、特定のハードウェアの使用を必然的に含むことを理解されたい。これらの構成要素202~208の特定のものは、同様の又は共通のハードウェアを含んでもよいことも理解されたい。例えば、回路の2つのセットは両方とも、同じプロセッサ、ネットワークインターフェース、記憶媒体などの使用を活用して、これらの関連付けられた関数を実施することができ、そのため、回路のセットごとに、重複するハードウェアは必要ない。
【0017】
いくつかの実施形態では、プロセッサ202(及び/又はプロセッサを補助するか若しくはプロセッサと他の方法で関連付けられたコプロセッサ若しくは任意の他の処理回路)は、装置の構成要素間で情報を渡すためのバスを介してメモリ204と通信してもよい。メモリ204は、非一時的であり、例えば、1つ以上の揮発性及び/又は不揮発性メモリを含んでもよい。換言すれば、例えば、メモリ204は、電子記憶デバイス(例えば、コンピュータ可読記憶媒体)であってもよい。メモリ204は、装置が、本開示に開示される例示的な実施形態に従って、様々な関数を行うことを可能にするために、情報、データ、コンテンツ、アプリケーション、命令などを記憶するように構成され得る。
【0018】
プロセッサ202は、複数の異なる方法で具現化されてもよく、例えば、独立して操作するように構成された1つ以上の処理デバイスを含んでもよい。いくつかの好ましい、かつ非限定的な実施形態では、プロセッサ202は、命令、パイプライン、及び/又はマルチスレッドの独立した実行を可能にするためにバスを介してタンデム型に構成された1つ以上のプロセッサを含んでもよい。「処理回路」という用語の使用は、シングルコアプロセッサ、マルチコアプロセッサ、装置内部の複数のプロセッサ、及び/又はリモートプロセッサ若しくは「クラウド」プロセッサを含むと理解されてもよい。
【0019】
いくつかの好ましい、かつ非限定的な実施形態では、プロセッサ202は、メモリ204に記憶されている命令、又は他の方法でプロセッサ202にアクセス可能な命令を実行するように構成され得る。いくつかの好ましい、かつ非限定的な実施形態では、プロセッサ202は、ハードコードされた機能性を実行するように構成されてもよい。したがって、ハードウェア方法若しくはソフトウェア方法によって構成されるか、又はそれらの組み合わせによって構成されるかにかかわらず、プロセッサ202は、それに応じて構成されている間、本明細書に開示される一実施形態による操作を実施することができる(例えば、回路内で物理的に具現化された)エンティティを表し得る。あるいは、別の例として、プロセッサ202がソフトウェア命令の実行体として具現化される場合、命令は、命令が実行されたときに本明細書に記載されるアルゴリズム及び/又は操作を実施するようにプロセッサ202を具体的に構成してもよい。
【0020】
いくつかの実施形態では、装置200は、入出力回路206を含んでもよく、入出力回路206は、プロセッサ202と通信して、ユーザに出力を提供し、いくつかの実施形態では、ユーザ入力の指示を受信することができる。入出力回路206は、ユーザインターフェースを含んでもよく、ディスプレイを含んでもよく、ウェブユーザインターフェース、モバイルアプリケーション、クエリ起動コンピューティングデバイス、キオスクなどを含んでもよい。いくつかの実施形態では、入出力回路206はまた、キーボード、マウス、ジョイスティック、タッチスクリーン、タッチエリア、ソフトキー、マイクロフォン、スピーカ、又は他の入出力機構を含んでもよい。プロセッサ及び/又はプロセッサを含むユーザインターフェース回路は、プロセッサ(例えば、メモリ204など)にアクセス可能なメモリ上に記憶されているコンピュータプログラム命令(例えば、ソフトウェア及び/又はファームウェア)を介して1つ以上のユーザインターフェース要素の1つ以上の関数を制御するように構成されてもよい。
【0021】
通信回路208は、データを、装置200と通信するネットワーク及び/又は任意の他のデバイス、回路、若しくはモジュールから受信し、並びに/又はそれらに伝送するように構成されている、ハードウェア、又はハードウェアとソフトウェアとの組み合わせのいずれかで具現化されたデバイス又は回路などの任意の手段であってもよい。この点に関して、通信回路208は、例えば、有線又は無線通信ネットワークとの通信を可能にするためのネットワークインターフェースを含み得る。例えば、通信回路208は、1つ以上のネットワークインターフェースカード、アンテナ、バス、スイッチ、ルーター、モデム、並びにサポートハードウェア及び/若しくはソフトウェア、又はネットワークを介した通信を可能にするのに好適な任意の他のデバイスを含んでもよい。加えて、又はあるいは、通信回路208は、アンテナ(単数又は複数)と相互作用して、アンテナを介した信号の伝送を引き起こすため、又はアンテナを介して受信した信号の受信を処理するための回路を含んでもよい。
【0022】
本明細書で論じる情報の全て又は一部は、装置200の1つ以上の構成要素によって受信、生成、及び/又は維持されるデータに基づき得ることにも留意されたい。いくつかの実施形態では、1つ以上の外部システム(リモートクラウドコンピューティング及び/又はデータ記憶システムなど)はまた、本明細書で論じられる機能性の少なくともいくつかを提供するために活用されてもよい。
【0023】
例示的なクライアントコンピューティングデバイス
ここで図3を参照すると、クライアントコンピューティングデバイス102A~Cは、図3に示される装置300などの、1つ以上のコンピューティングシステムによって具現化される。装置300は、プロセッサ302、メモリ304、入出力回路306、及び通信回路308を含み得る。これらの構成要素302~308は、機能的制限に関して記載されているが、特定の実装例は、特定のハードウェアの使用を必然的に含むことを理解されたい。これらの構成要素302~310の特定のものは、同様の又は共通のハードウェアを含んでもよいことも理解されたい。例えば、回路の2つのセットは両方とも、同じプロセッサ、ネットワークインターフェース、記憶媒体などの使用を活用して、これらの関連付けられた関数を実施することができ、そのため、回路のセットごとに、重複するハードウェアは必要ない。
【0024】
いくつかの実施形態では、プロセッサ302(及び/又はプロセッサを補助するか若しくはプロセッサと他の方法で関連付けられたコプロセッサ若しくは任意の他の処理回路)は、装置の構成要素間で情報を渡すためのバスを介してメモリ304と通信してもよい。メモリ304は、非一時的であり、例えば、1つ以上の揮発性及び/又は不揮発性メモリを含んでもよい。換言すれば、例えば、メモリ304は、電子記憶デバイス(例えば、コンピュータ可読記憶媒体)であってもよい。メモリ304は、1つ以上のデータベースを含み得る。更に、メモリ304は、装置300が、本開示に開示される例示的な実施形態に従って、様々な関数を行うことを可能にするために、情報、データ、コンテンツ、アプリケーション、命令などを記憶するように構成され得る。
【0025】
プロセッサ302は、複数の異なる方法で具現化されてもよく、例えば、独立して操作するように構成された1つ以上の処理デバイスを含んでもよい。いくつかの好ましい、かつ非限定的な実施形態では、プロセッサ302は、命令、パイプライン、及び/又はマルチスレッドの独立した実行を可能にするためにバスを介してタンデム型に構成された1つ以上のプロセッサを含んでもよい。「処理回路」という用語の使用は、シングルコアプロセッサ、マルチコアプロセッサ、装置内部の複数のプロセッサ、及び/又はリモートプロセッサ若しくは「クラウド」プロセッサを含むと理解されてもよい。
【0026】
いくつかの好ましい、かつ非限定的な実施形態では、プロセッサ302は、メモリ304に記憶されている命令、又は他の方法でプロセッサ302にアクセス可能な命令を実行するように構成され得る。いくつかの好ましい、かつ非限定的な実施形態では、プロセッサ302は、ハードコードされた機能性を実行するように構成されてもよい。したがって、ハードウェア方法若しくはソフトウェア方法によって構成されるか、又はそれらの組み合わせによって構成されるかにかかわらず、プロセッサ302は、それに応じて構成されている間、本明細書に開示される一実施形態による操作を実施することができる(例えば、回路内で物理的に具現化された)エンティティを表し得る。あるいは、別の例として、プロセッサ302がソフトウェア命令(例えば、コンピュータプログラム命令)の実行体として具現化される場合、命令は、命令が実行されたときに本明細書に記載されるアルゴリズム及び/又は操作を実施するようにプロセッサ302を具体的に構成してもよい。
【0027】
いくつかの実施形態では、装置300は、入出力回路306を含んでもよく、入出力回路306は、プロセッサ302と通信して、ユーザに出力を提供し、いくつかの実施形態では、ユーザ入力の指示を受信することができる。入出力回路306は、ユーザインターフェースを含んでもよく、ディスプレイを含んでもよく、ウェブユーザインターフェース、モバイルアプリケーション、クエリ起動コンピューティングデバイス、キオスクなどを含んでもよい。いくつかの実施形態では、入出力回路306はまた、キーボード(例えば、本明細書ではキーパッドとも称される)、マウス、ジョイスティック、タッチスクリーン、タッチエリア、ソフトキー、マイクロフォン、スピーカ、又は他の入出力機構を含んでもよい。プロセッサ及び/又はプロセッサを含むユーザインターフェース回路は、プロセッサ(例えば、メモリ304など)にアクセス可能なメモリ上に記憶されているコンピュータプログラム命令(例えば、ソフトウェア及び/又はファームウェア)を介して1つ以上のユーザインターフェース要素の1つ以上の関数を制御するように構成されてもよい。
【0028】
通信回路308は、データを、装置300と通信するネットワーク及び/又は任意の他のデバイス、回路、若しくはモジュールから受信し、並びに/又はそれらに伝送するように構成されている、ハードウェア、又はハードウェアとソフトウェアとの組み合わせのいずれかで具現化されたデバイス又は回路などの任意の手段であってもよい。この点に関して、通信回路308は、例えば、有線又は無線通信ネットワークとの通信を可能にするためのネットワークインターフェースを含み得る。例えば、通信回路308は、1つ以上のネットワークインターフェースカード、アンテナ、バス、スイッチ、ルーター、モデム、並びにサポートハードウェア及び/若しくはソフトウェア、又はネットワークを介した通信を可能にするのに好適な任意の他のデバイスを含んでもよい。加えて、又はあるいは、通信回路308は、アンテナ(単数又は複数)と相互作用して、アンテナを介した信号の伝送を引き起こすため、又はアンテナを介して受信した信号の受信を処理するための回路を含んでもよい。
【0029】
本明細書で論じる情報の全て又は一部は、装置300の1つ以上の構成要素によって受信、生成、及び/又は維持されるデータに基づき得ることにも留意されたい。いくつかの実施形態では、1つ以上の外部システム(リモートクラウドコンピューティング及び/又はデータ記憶システムなど)はまた、本明細書で論じられる機能性の少なくともいくつかを提供するために活用されてもよい。
【0030】
例示的なテレメトリサーバコンピューティングデバイス
ここで図4を参照すると、テレメトリサーバコンピューティングデバイス107は、図4に示される装置400などの、1つ以上のコンピューティングシステムによって具現化される。装置400は、プロセッサ402、メモリ404、入出力回路406、及び通信回路408を含み得る。これらの構成要素402~408は、機能的制限に関して記載されているが、特定の実装例は、特定のハードウェアの使用を必然的に含むことを理解されたい。これらの構成要素402~408の特定のものは、同様の又は共通のハードウェアを含んでもよいことも理解されたい。例えば、回路の2つのセットは両方とも、同じプロセッサ、ネットワークインターフェース、記憶媒体などの使用を活用して、これらの関連付けられた関数を実施することができ、そのため、回路のセットごとに、重複するハードウェアは必要ない。
【0031】
いくつかの実施形態では、プロセッサ402(及び/又はプロセッサを補助するか若しくはプロセッサと他の方法で関連付けられたコプロセッサ若しくは任意の他の処理回路)は、装置の構成要素間で情報を渡すためのバスを介してメモリ404と通信してもよい。メモリ404は、非一時的であり、例えば、1つ以上の揮発性及び/又は不揮発性メモリを含んでもよい。換言すれば、例えば、メモリ404は、電子記憶デバイス(例えば、コンピュータ可読記憶媒体)であってもよい。メモリ404は、1つ以上のデータベースを含み得る。更に、メモリ404は、装置400が、本開示に開示される例示的な実施形態に従って、様々な関数を行うことを可能にするために、情報、データ、コンテンツ、アプリケーション、命令などを記憶するように構成され得る。
【0032】
プロセッサ402は、複数の異なる方法で具現化されてもよく、例えば、独立して操作するように構成された1つ以上の処理デバイスを含んでもよい。いくつかの好ましい、かつ非限定的な実施形態では、プロセッサ402は、命令、パイプライン、及び/又はマルチスレッドの独立した実行を可能にするためにバスを介してタンデム型に構成された1つ以上のプロセッサを含んでもよい。「処理回路」という用語の使用は、シングルコアプロセッサ、マルチコアプロセッサ、装置内部の複数のプロセッサ、及び/又はリモートプロセッサ若しくは「クラウド」プロセッサを含むと理解されてもよい。
【0033】
いくつかの好ましい、かつ非限定的な実施形態では、プロセッサ402は、メモリ404に記憶されている命令、又は他の方法でプロセッサ402にアクセス可能な命令を実行するように構成され得る。いくつかの好ましい、かつ非限定的な実施形態では、プロセッサ402は、ハードコードされた機能性を実行するように構成されてもよい。したがって、ハードウェア方法若しくはソフトウェア方法によって構成されるか、又はそれらの組み合わせによって構成されるかにかかわらず、プロセッサ402は、それに応じて構成されている間、本明細書に開示される一実施形態による操作を実施することができる(例えば、回路内で物理的に具現化された)エンティティを表し得る。あるいは、別の例として、プロセッサ402がソフトウェア命令(例えば、コンピュータプログラム命令)の実行体として具現化される場合、命令は、命令が実行されたときに本明細書に記載されるアルゴリズム及び/又は操作を実施するようにプロセッサ402を具体的に構成してもよい。
【0034】
いくつかの実施形態では、装置400は、入出力回路406を含んでもよく、入出力回路406は、プロセッサ402と通信して、ユーザに出力を提供し、いくつかの実施形態では、ユーザ入力の指示を受信することができる。入出力回路406は、ユーザインターフェースを含んでもよく、ディスプレイを含んでもよく、ウェブユーザインターフェース、モバイルアプリケーション、クエリ起動コンピューティングデバイス、キオスクなどを含んでもよい。いくつかの実施形態では、入出力回路406はまた、キーボード(例えば、本明細書ではキーパッドとも称される)、マウス、ジョイスティック、タッチスクリーン、タッチエリア、ソフトキー、マイクロフォン、スピーカ、又は他の入出力機構を含んでもよい。プロセッサ及び/又はプロセッサを含むユーザインターフェース回路は、プロセッサ(例えば、メモリ404など)にアクセス可能なメモリ上に記憶されているコンピュータプログラム命令(例えば、ソフトウェア及び/又はファームウェア)を介して1つ以上のユーザインターフェース要素の1つ以上の関数を制御するように構成されてもよい。
【0035】
通信回路408は、データを、装置400と通信するネットワーク及び/又は任意の他のデバイス、回路、若しくはモジュールから受信し、並びに/又はそれらに伝送するように構成されている、ハードウェア、又はハードウェアとソフトウェアとの組み合わせのいずれかで具現化されたデバイス又は回路などの任意の手段であってもよい。この点に関して、通信回路408は、例えば、有線又は無線通信ネットワークとの通信を可能にするためのネットワークインターフェースを含み得る。例えば、通信回路408は、1つ以上のネットワークインターフェースカード、アンテナ、バス、スイッチ、ルーター、モデム、並びにサポートハードウェア及び/若しくはソフトウェア、又はネットワークを介した通信を可能にするのに好適な任意の他のデバイスを含んでもよい。加えて、又はあるいは、通信回路408は、アンテナ(単数又は複数)と相互作用して、アンテナを介した信号の伝送を引き起こすため、又はアンテナを介して受信した信号の受信を処理するための回路を含んでもよい。
【0036】
本明細書で論じる情報の全て又は一部は、装置400の1つ以上の構成要素によって受信、生成、及び/又は維持されるデータに基づき得ることにも留意されたい。いくつかの実施形態では、1つ以上の外部システム(リモートクラウドコンピューティング及び/又はデータ記憶システムなど)はまた、本明細書で論じられる機能性の少なくともいくつかを提供するために活用されてもよい。
【0037】
例示的なデータフロー及び操作
本開示の様々な実施形態は、畳み込みニューラルネットワークを訓練して、監視対象システムに関連付けられたテレメトリデータに基づいて、監視対象システムのメンテナンス予測を生成するための技術、並びに言及された畳み込みニューラルネットワークによって生成された出力に基づいて、メンテナンス関連の予測推論のための説明的メタデータを抽出するための技術を提示する。言及された技術を利用することにより、本開示の様々な実施形態は、効果的、効率的、及び解釈可能な方法で、監視対象システムの自動予測メンテナンスを実施することを可能にする。言及された技術はまた、監視対象システム(例えば、多数の影響を受けるユーザを有する大規模な監視対象システム)の所望の構成を、言及された大規模な監視対象システムに関連付けられた、過去の機能不全履歴ログ及び/又は過去のメンテナンス履歴ログの時間横断的分析に基づいて学習することを可能にする。そうすることで、本発明の様々な実施形態は、加熱、換気、及び空調システムなどの、多くの種類の物理システムを監視及びメンテナンスする効率及び効果を改善するための実質的な寄与を行う。
【0038】
予測メンテナンス畳み込みニューラルネットワークの訓練
図5は、予測メンテナンス畳み込みニューラルネットワークを訓練するための例示的な処理500のフローチャート図である。処理500の様々なステップを介して、予測メンテナンスコンピューティングデバイス106の訓練ユニット111は、監視対象システム、例えば、監視対象加熱、換気、空調システムのメンテナンスの必要性に関連する効率的、効果的、及び解釈可能な予測推論を実施するように構成された予測メンテナンス畳み込みニューラルネットワークを効率的かつ効果的に訓練することができる。
【0039】
本明細書で使用される場合、畳み込みニューラルネットワークとは、任意の機械学習モデルであって、機械学習モデルの入力データを、各々にプーリング層が(1つ以上の介在する層の直後又は後に)続く1つ以上の畳み込み層に従って処理する、任意の機械学習モデルであり、畳み込み層及びプーリング層の最終出力が、次いで、1つ以上の完全に接続された判別層などの、1つ以上の判別層に供給され得る。予測メンテナンス畳み込みニューラルネットワークは、監視対象システムに関連付けられたテレメトリデータに基づいて、監視対象システムの予測メンテナンスを実施するために使用される畳み込みニューラルネットワークである。本開示の様々な実施形態は、単一の監視対象システムに関して予測メンテナンスを実施することについて記載しているが、当業者であれば、開示される技術を使用して、任意の数の監視対象システムの予測メンテナンスを実施することができることを理解されよう。
【0040】
処理500は、訓練ユニット111が監視対象システムの訓練テレメトリデータオブジェクトを取得するステップ501で始まる。本明細書で使用される場合、テレメトリデータオブジェクトとは、1つ以上の時間ユニットのグループにわたる1つ以上のセンサデバイスのグループの測定値を含むデータオブジェクトである。したがって、テレメトリデータオブジェクトは、複数の時間ユニットごとセンサごとの測定値を含み、複数の時間ユニットごとセンサごとの測定値の各時間ユニットごとセンサごとの測定値は、1つ以上の時間ユニットのうちのある時間ユニット、及び1つ以上のセンサデバイスのうちのあるセンサデバイスに関連付けられる。訓練テレメトリデータオブジェクトは、予測メンテナンス畳み込みニューラルネットワークを訓練するために使用されるデータオブジェクトである。したがって、訓練テレメトリデータオブジェクトは、複数の時間ユニットごとセンサごとの訓練測定値を含み、複数の時間ユニットごとセンサごとの訓練測定値の各時間ユニットごとセンサごとの訓練測定値は、1つ以上の訓練時間ユニットのうちのある訓練時間ユニット、及び1つ以上のセンサデバイスのうちのあるセンサデバイスに関連付けられる。いくつかの実施形態では、テレメトリデータは、1つ以上のセンサデバイスからの測定値に基づいて決定されるデータを含む。
【0041】
テレメトリデータオブジェクト600の操作例を図6に提示する。図6に描かれるように、テレメトリデータオブジェクト600は、値が、時系列グラフのx軸によって定義される時間的ユニットの間の3つのセンサデバイス601の差圧測定値を描く時系列グラフを含む。図6に更に描かれるように、テレメトリデータオブジェクト600は、様々な時間ユニットごとセンサごとの測定値を含み、各時間ユニットごとセンサごとの測定値は、時系列グラフのx軸によって定義される1つ以上の訓練時間ユニットのうちのある訓練時間ユニット、及び3つのセンサデバイス601のうちのあるセンサデバイスに関連付けられる。例えば、時間ユニットごとセンサごとの測定値621は、バッグフィルタセンサデバイス及び時間ユニット602に関連付けられる。別の例として、時間ユニットごとセンサごとの測定値622は、バッグフィルタセンサデバイス及び時間ユニット602に関連付けられる。更に別の例として、時間ユニットごとセンサごとの測定値623は、オンコイル温度センサデバイス及び時間ユニット602に関連付けられる。
【0042】
図5に戻ると、操作502で、訓練ユニット111は、訓練テレメトリデータオブジェクトに基づいて訓練入力データオブジェクトを決定する。本明細書で使用される場合、入力データオブジェクトは、予測メンテナンス畳み込みニューラルネットワークに供給されるように構成されたデータオブジェクトである。入力データオブジェクトは、予測メンテナンス畳み込みニューラルネットワークの入力構造によって定義されるデータフォーマットを有する。いくつかの実施形態では、入力データオブジェクトのデータフォーマットは、関連する技術分野で、畳み込みニューラルネットワークベースの機械学習モデルの能力及び構造を助長することが知られているデータフォーマットのうちのものである。例えば、入力データオブジェクトは、画像フォーマット、オーディオフォーマットなどを有し得る。訓練入力データオブジェクトは、予測メンテナンス畳み込みニューラルネットワークを訓練するために使用される入力データオブジェクトである。
【0043】
入力データオブジェクトは、1つ以上の入力チャネルを有し、各入力チャネルは、それぞれのセンサデバイスに関連付けられ、それぞれのセンサデバイスに関連付けられたテレメトリデータオブジェクトの時間ユニットごとセンサごとの測定値のサブセットに基づいて決定される。いくつかの実施形態では、入力データオブジェクトが視覚データオブジェクト(例えば、画像データオブジェクト)である場合、入力データオブジェクトの1つ以上の入力チャネルは、画像データオブジェクトの1つ以上のカラーベースのチャネルに基づいて定義され、1つ以上のカラーベースのチャネルは、画像データオブジェクトのカラー符号化方式によって定義される。
【0044】
例えば、画像データオブジェクトがグレースケールカラー符号化方式を有する場合、画像データオブジェクトの入力チャネルは、ブラックカラーベースのチャネルに対応する第1の入力チャネル、並びにホワイトカラーベースのチャネルに対応する第2の入力チャネルを含む。別の例として、画像データオブジェクトが、レッド、グリーン、ブルー(red-green-blue、RGB)カラー符号化方式を有する場合、画像データオブジェクトの入力チャネルは、レッドカラーベースのチャネルに対応する第1の入力チャネル、グリーンカラーベースのチャネルに対応する第2の入力チャネル、及びブルーカラーベースのチャネルに対応する第3の入力チャネルを含む。
【0045】
上述のように、訓練入力データオブジェクトは、予測メンテナンス畳み込みニューラルネットワークを訓練するために使用される入力データオブジェクトである。したがって、訓練入力データオブジェクトは、1つ以上の訓練入力チャネルに関連付けられ、1つ以上の訓練入力チャネルの訓練入力チャネルは、訓練テレメトリデータオブジェクトに関連付けられた1つ以上のセンサデバイスのうちのあるセンサデバイスに関連付けられ、各訓練入力チャネルは、それぞれのセンサデバイスに関連付けられた訓練テレメトリデータオブジェクトの時間ユニットごとセンサごとの訓練測定値のサブセットに基づいて決定される。
【0046】
本開示の様々な実施形態は、各々が単一のセンサデバイスに関連付けられ、単一のセンサデバイスに関連付けられたテレメトリデータに基づいて決定される、入力チャネルについて記載しているが、当業者であれば、各入力チャネルを任意の数のセンサデバイスに関連付けることができ、かつ任意の数のセンサデバイスに関連付けられたテレメトリデータに基づいて決定することができることを理解されよう。更に、本開示の様々な実施形態は、画像ベースの入力データオブジェクトの入力チャネルについて記載しているが、当業者であれば、入力チャネルが、任意のデータフォーマットを有するデータオブジェクト内で作成され得ることを理解されよう。更に、本開示の様々な実施形態は、画像ベースの入力データオブジェクトのカラーベースの入力チャネルについて記載しているが、当業者であれば、画像ベースのデータオブジェクトが、特徴ベースの入力チャネルなどの非カラーベースの入力チャネルを含み得、各特徴ベースの入力チャネル自体が画像であり得、画像ベースの入力データオブジェクトが、画像ベースの入力データオブジェクトを生成するように特徴ベースの入力チャネルを互いに重ね合わせることによって生成されることを理解されよう。
【0047】
入力データオブジェクト700の操作例を図7に提示する。図7に描かれるように、入力データオブジェクト700は、3つの入力チャネル701~703を含み、3つの入力チャネル701~703の各入力チャネルは、図6のテレメトリデータオブジェクト600内に描かれる3つのセンサデバイス601のうちのあるセンサデバイスに関連付けられる。特に、入力チャネル701は、バッグフィルタセンサデバイスに関連付けられ、言及されたバッグフィルタセンサデバイスに関連付けられたテレメトリデータオブジェクト600の時間ユニットごとセンサごとの測定値のサブセットに基づいて決定され、入力チャネル702は、オンコイル温度センサデバイスに関連付けられ、言及されたバッグフィルタセンサデバイスに関連付けられたテレメトリデータオブジェクト600の時間ユニットごとセンサごとの測定値のサブセットに基づいて決定され、入力チャネル703は、供給空気温度センサデバイスに関連付けられ、言及されたバッグフィルタセンサデバイスに関連付けられたテレメトリデータオブジェクト600の時間ユニットごとセンサごとの測定値のサブセットに基づいて決定される。
【0048】
図5に戻ると、操作503で、訓練ユニット111は、メンテナンス入力データオブジェクトを取得する。本明細書で使用される場合、メンテナンス入力データオブジェクトは、メンテナンスクリティカル時間ユニットとして1つ以上の時間ユニット(例えば、訓練テレメトリデータオブジェクトに関連付けられた訓練時間ユニットの1つ以上の時間ユニット)を識別するデータオブジェクトである。いくつかの実施形態では、メンテナンスクリティカル時間ユニットを識別することに加えて、メンテナンス入力データオブジェクトは、各メンテナンスクリティカル時間ユニットに関連付けられたメンテナンスの必要性の識別子、各メンテナンスクリティカル時間ユニットに関連付けられた影響を受けるテナント識別子などのソース及び/又は緊急レベルといった、各メンテナンスクリティカル時間ユニットの1つ以上のメンテナンス時間ユニット特徴を提供する。メンテナンスデータオブジェクトを使用して、1つ以上の予測メンテナンス畳み込みニューラルネットワークを訓練すること、及び/又は訓練された予測メンテナンス畳み込みニューラルネットワークを使用した畳み込みニューラルネットワークベースの予測メンテナンス操作を実施することができる。メンテナンスデータオブジェクトのコンテンツは、監視対象システムに関連付けられたメンテナンスデータを使用して生成され、かつメンテナンスデータオブジェクトを使用して訓練されている予測メンテナンス畳み込みニューラルネットワークによって生成されたメンテナンス予測の構造に従って生成される。
【0049】
例えば、単一の監視対象システム(例えば、特定の建物の加熱、換気、及び空調システム)に関する任意の緊急レベルの予測されたメンテナンスの必要性を示すメンテナンス予測を生成するように構成された予測メンテナンス畳み込みニューラルネットワークを訓練するために、訓練ユニット111は、メンテナンスクリティカル時間ユニットとして、単一の監視対象システムに関連付けられたメンテナンスログの全てのタイムスタンプを識別するメンテナンスデータオブジェクトを生成することができる。別の例として、複数の監視対象システムに関する任意の緊急レベルの予測されたメンテナンスの必要性を示すメンテナンス予測を生成するように構成された予測メンテナンス畳み込みニューラルネットワークを訓練するために、訓練ユニット111は、メンテナンスクリティカル時間ユニットとして、監視対象システムのいずれか1つ以上に関連付けられたメンテナンスログの全てのタイムスタンプを識別するメンテナンスデータオブジェクトを生成することができる。更に別の例として、単一の監視対象システムに関する特定の緊急レベル及び/又は特定のソースの予測されたメンテナンスの必要性を示すメンテナンス予測を生成するように構成された予測メンテナンス畳み込みニューラルネットワークを訓練するために、訓練ユニット111は、単一の監視対象システムに関連付けられた、特定の緊急レベル及び/又は特定のソースを有するメンテナンスログの全てのタイムスタンプを識別するメンテナンスデータオブジェクトを生成することができる。更なる例として、単一の監視対象システムに関する、複数の特定の緊急レベル及び/又は複数の特定のソースのいずれかを有するメンテナンスログの全てのタイムスタンプを識別するメンテナンスデータオブジェクトを生成するために、訓練ユニット111は、単一の監視対象システムに関連付けられた、複数の特定の緊急レベルのうちの少なくとも1つ及び/又は複数の特定のソースのうちの少なくとも1つを有するメンテナンスログの全てのタイムスタンプを識別するメンテナンスデータオブジェクトを生成することができる。更なる例として、識別されたタイムスタンプの各メンテナンスログの予測特徴(例えば、ソース、緊急レベルなど)とともに、特定の基準を満たすメンテナンスログの全てのタイムスタンプを識別するメンテナンスデータオブジェクトを生成するために、訓練ユニット111は、識別されたタイムスタンプの各メンテナンスログの言及された予測特徴とともに、特定の基準を満たすメンテナンスログの全てのタイムスタンプを識別するメンテナンスデータオブジェクトを生成することができる。
【0050】
メンテナンスデータオブジェクト800の操作例を図8に提示する。図8に描かれるように、メンテナンスデータオブジェクト800は、各々がメンテナンスクリティカル時間ユニットを識別する1つ以上のエントリを含む。例えば、メンテナンスデータオブジェクト800のエントリ801は、メンテナンスクリティカル時間ユニットとして、2016年10月3日の18:08を識別する。別の例として、メンテナンスデータオブジェクト800のエントリ802は、メンテナンスクリティカル時間ユニットとして、2017年1月1日の16:43を識別する。更に別の例として、メンテナンスデータオブジェクト800のエントリ803は、メンテナンスクリティカル時間ユニットとして、2017年1月1日16:53を識別する。更なる例として、メンテナンスデータオブジェクト800のエントリ804は、メンテナンスクリティカル時間ユニットとして、2017年6月14日17:00を識別する。
【0051】
図5に戻ると、操作504で、訓練ユニット111は、訓練入力データオブジェクト及びメンテナンスデータオブジェクトに基づいて、訓練された予測メンテナンス畳み込みニューラルネットワークを生成する。いくつかの実施形態では、訓練された予測メンテナンス畳み込みニューラルネットワークを生成するために、訓練ユニット111は、最適化ベースの訓練アルゴリズムなどの1つ以上の訓練アルゴリズムを利用する。訓練された予測メンテナンス畳み込みニューラルネットワークを生成するのに適した最適化ベースの訓練アルゴリズムの例は、バックプロパゲーションを伴う勾配降下である。
【0052】
例えば、いくつかの実施形態では、訓練された予測メンテナンス畳み込みニューラルネットワークを生成するために、訓練ユニット111は、訓練されていない予測メンテナンス畳み込みニューラルネットワークに訓練入力データオブジェクトを提供する。次いで、訓練ユニット111は、訓練されていない予測メンテナンス畳み込みニューラルネットワークに従って、訓練入力データオブジェクトを処理して、訓練されていない予測メンテナンス畳み込みニューラルネットワークの推論されたメンテナンス予測を生成する。次いで、訓練ユニット111は、推論されたメンテナンス予測とメンテナンスデータオブジェクトによって示されるメンテナンスデータとの間の偏差に基づいて、訓練されていない予測メンテナンス畳み込みニューラルネットワークの誤差の尺度を生成する。次いで、訓練ユニット111は、訓練されていない予測メンテナンス畳み込みニューラルネットワークのパラメータに関する誤差の尺度の勾配を決定する。次いで、訓練ユニット111は、誤差の尺度を最小化するために、誤差の尺度を逆伝播して、訓練されていない予測メンテナンス畳み込みニューラルネットワークのパラメータを更新する。本開示の様々な実施形態は、誤差関数を最小化することを求める訓練アルゴリズムを開示しているが、当業者であれば、最適化ベースの訓練アルゴリズムが、コスト関数を最小化する代わりにユーティリティ関数を最大化することを求め得ることを理解されよう。
【0053】
予測メンテナンス畳み込みニューラルネットワーク900の操作例が図9に描かれている。図9に描かれるように、予測メンテナンス畳み込みニューラルネットワーク900は、1つ以上の入力チャネルを有する入力データオブジェクト931を取得し、入力データオブジェクト931を処理して、1つ以上の入力チャネルの各入力チャネルの特徴マップ932を生成し、かつ予測メンテナンス畳み込みニューラルネットワーク900の完全に接続された層902のグループに特徴マップ932を提供するように構成されている、特徴抽出層901のグループを含む。図9に更に描かれるように、特徴抽出層901のグループは、1つ以上の連続して順序付けられたサブグループを含み、各連続して順序付けられたサブグループは、畳み込み層(例えば、一次元畳み込み層)、続いてバッチ正規化層、続いて活性化層(例えば、正規化線形ユニット活性化関数を利用する活性化層)、続いてプーリング層を含む。図9に更に描かれるように、予測メンテナンス畳み込みニューラルネットワーク900は、特徴抽出層901のグループから特徴マップ932を受信し、特徴マップ932を処理してメンテナンス予測933を生成するように構成されている、完全に接続された層902のグループを含む。本開示の様々な実施形態は、完全に接続された判別層を有する畳み込みニューラルネットワークについて説明しているが、当業者であれば、他のタイプの機械学習モデルが、畳み込みニューラルネットワークの判別層として使用され得ることを理解されよう。
【0054】
訓練された予測メンテナンス畳み込みニューラルネットワークを使用して予測推論を実施する
訓練後、予測メンテナンス畳み込みニューラルネットワークを使用して、監視対象システムに関連付けられたテレメトリデータを使用した予測推論を実施して、言及された監視対象システムのメンテナンス予測を生成することができる。メンテナンス予測は、監視対象システムの予期されるメンテナンスの必要性に関する任意の予測である。例えば、メンテナンス予測は、監視対象システムが近将来に、及び/又は特定の時間枠内で、メンテナンスの必要性を有することになるかどうかに関する予測であってもよい。別の例として、メンテナンス予測は、監視対象システムが近将来に、及び/又は特定の時間枠内で、特定のタイプ及び/又は特定の緊急レベルのメンテナンスの必要性を有することになるかどうかに関する予測であってもよい。更に別の例として、メンテナンス予測は、既存のメンテナンスの必要性の予測されたタイプ及び/又は予測された緊急レベルに関する予測であってもよい。更なる例として、メンテナンス予測は、監視対象システムに関連付けられたハードウェアユニットの1つ以上の影響を受けるハードウェアユニットを説明し得、1つ以上の影響を受けるハードウェアユニットは、訓練された予測メンテナンス畳み込みニューラルネットワークを使用して予測テレメトリデータを処理することに基づいて決定される。
【0055】
図10は、訓練された予測メンテナンス畳み込みニューラルネットワークを使用して予測推論を実施するための例示的な処理1000のフローチャート図である。処理1000の様々な操作を介して、予測メンテナンスコンピューティングデバイス106の予測ユニット112は、監視対象システム、例えば、監視対象加熱、換気、空調システムのメンテナンスの必要性に関連する効率的、効果的、及び解釈可能な予測推論を効率的かつ効果的に実施することができる。本開示の様々な実施形態は、単一のコンピューティングデバイスの異なるユニットによって実施される訓練及び予測推論の処理について記載しているが、当業者であれば、言及された処理が各々、ネットワークを介して互いに接続されたコンピューティングデバイスのグループの別個のコンピューティングデバイスによって実施され得、かつ/又は分散方法で操作されるように構成され得ることを理解されよう。
【0056】
処理1000は、予測ユニット112が予測テレメトリデータオブジェクトを取得する操作1001で始まる。予測テレメトリデータオブジェクトは、訓練された予測メンテナンス畳み込みニューラルネットワークを利用する予測推論を実施するために使用されるテレメトリデータオブジェクト(例えば、図6に描かれる構造と同様の構造を有するテレメトリデータオブジェクト)である。したがって、予測テレメトリデータオブジェクトは、複数の時間ユニットごとセンサごとの予測測定値に関連付けられ、複数の時間ユニットごとセンサごとの予測測定値の各時間ユニットごとセンサごとの予測測定値は、1つ以上のセンサデバイスのうちのあるセンサデバイス、及び1つ以上の予測時間ユニットのうちのある予測時間ユニットに関連付けられる。いくつかの実施形態では、予測ユニット112は、クライアントコンピューティングデバイス102A~Cから予測テレメトリデータオブジェクトの少なくとも一部分を取得する。
【0057】
操作1002で、予測ユニット112は、予測テレメトリデータオブジェクトに基づいて予測入力データオブジェクトを決定する。予測入力データオブジェクトは、訓練された予測メンテナンス畳み込みニューラルネットワークを使用して予測推論を実施するように、訓練された予測メンテナンス畳み込みニューラルネットワークに供給される入力データオブジェクト(例えば、図7に描かれる構造と同様の構造を有する入力データオブジェクト)である。したがって、予測入力データオブジェクトは、1つ以上の予測入力チャネルを含み、1つ以上の予測入力チャネルの各予測入力チャネルは、予測テレメトリデータオブジェクトによって測定値がキャプチャされる1つ以上のセンサデバイスのうちのあるセンサデバイスに関連付けられ、更に、1つ以上の予測入力チャネルのうちの予測入力チャネルは、予測入力チャネルのセンサデバイスに関連付けられた予測テレメトリデータオブジェクト内の複数の時間ユニットごとセンサごとの測定値の第2のサブセットに基づいて決定される。
【0058】
操作1003で、予測ユニット112は、訓練された予測メンテナンス畳み込みニューラルネットワーク(例えば、図9に描かれるアーキテクチャを有する訓練された予測メンテナンス畳み込みニューラルネットワーク)に従って予測入力データオブジェクトを処理して、監視対象システムのメンテナンス予測を生成する。いくつかの実施形態では、予測ユニット112は、メンテナンス予測として、訓練された予測メンテナンス畳み込みニューラルネットワークの最終判別層の出力を採用する。いくつかの実施形態では、予測ユニット112は、訓練された予測メンテナンス畳み込みニューラルネットワークの最終判別層の出力に対して1つ以上の操作(例えば、1つ以上のソフトマックス正規化操作)を実施して、正規化された出力値を生成し、次いで、正規化された出力値が、メンテナンス予測を生成するために使用され得る。
【0059】
操作1004で、予測ユニット112は、生成されたメンテナンス予測に基づいて1つ以上の予測ベースの行為を実施する。予測ベースの行為の例としては、メンテナンス予測によって示されるメンテナンスの必要性に順応するように、監視対象システムの構成パラメータを設定すること、1つ以上のメンテナンスの必要性の通知を生成すること、メンテナンス予測によって示されるメンテナンスの必要性に順応するように、メンテナンス予測に基づいて、1つ以上のセンサデバイスの性能を調整すること、メンテナンス予測によって示されるメンテナンスの必要性に対処するように、1つ以上のメンテナンス予約を自動的にスケジューリングすることなどが挙げられる。
【0060】
訓練された予測メンテナンス畳み込みニューラルネットワークを使用して実施される予測推論のための説明的メタデータの生成
訓練された予測メンテナンス畳み込みニューラルネットワークによって生成され得るセンサごとの特徴マップを利用することにより、本開示の様々な実施形態は、入力チャネルごとのヒートマップを効率的かつ効果的に生成することができ、入力チャネルごとのヒートマップの各々は、対応する入力チャネルの特定の部分を、対応する入力チャネルのその他の部分と比較して、特定の予測関連性の比較的より高い程度の予測有意性を有するものとして強調する。かかる入力チャネルごとのヒートマップ1100の操作例を図11に提供する。図11に描かれるように、入力チャネルごとのヒートマップ1100は、図7の入力チャネル701の一部分1101を、特定の予測関連性のより大きな予測有意性を有するものとして示す。
【0061】
本開示の様々な実施形態によれば、各入力チャネルは1つ以上の対応するセンサデバイス(例えば、単一の対応するセンサデバイス)に関連付けられ得るため、センサごとのレベル及び/又はセンサグループごとのレベルで、説明的メタデータを生成することができる。これは、本開示の様々な実施形態と、入力チャネル横断的なレベルで説明的メタデータを生成する、メタデータを生成するための多くの既存の技術との間の重要な違いである。入力チャネルごとの説明的メタデータを生成することにより、本開示の様々な実施形態は、センサ測定値の関連付け及び生成されたメンテナンス予測についての非常にきめの細かい説明的メタデータを提示することができる。
【0062】
図12は、予測入力データオブジェクトの予測入力チャネルの入力チャネルごとのヒートマップを生成するための例示的な処理1200のフローチャート図である。処理1200の様々な操作を介して、予測メンテナンスコンピューティングデバイス106の説明的メタデータユニット113は、きめの細かいセンサ測定値をメンテナンス予測と相関させるメタデータを効率的かつ効果的に生成し、それに伴って、訓練された予測推論畳み込みニューラルネットワークを使用して実施される予測推論をより解釈可能にすることができる。本開示の様々な実施形態は、単一のコンピューティングデバイスの異なるユニットによって実施されるときの訓練処理、予測推論処理、及び説明的メタデータ生成処理について説明しているが、当業者であれば、言及された処理が、ネットワークを介して互いに接続され得る任意の数のコンピューティングデバイスによって実施され得、かつ/又は分散方法で操作されるように構成され得ることを理解されよう。
【0063】
処理1200は、説明的メタデータユニット113が、メンテナンス予測に関連付けられたターゲット分類カテゴリに関して予測入力チャネルの入力チャネルごとのウェイト値を決定する操作1201で始まる。いくつかの実施形態では、ターゲット分類カテゴリは、メンテナンス予測によって示され得る、監視対象システムのメンテナンス状態の候補分類カテゴリである。例えば、訓練された予測メンテナンス畳み込みニューラルネットワークが、監視対象システムが時間枠内のメンテナンスの必要性を有すると予測されるかどうかを説明するメンテナンス予測を生成するように構成されている場合、メンテナンス予測のターゲット分類カテゴリは、言及された時間枠内のメンテナンスの必要性の肯定的予測を示す候補分類カテゴリであり得るか、又は言及された時間枠内のメンテナンスの必要性の否定的予測を示す候補分類カテゴリであり得る。
【0064】
いくつかの実施形態では、ターゲット分類カテゴリに関する予測入力チャネルの入力チャネルごとのウェイト値を決定するために、説明的メタデータユニット113は最初に、予測入力カテゴリの特徴マップに関するターゲット分類カテゴリに関連付けられたターゲット分類カテゴリスコアの勾配を決定し、次いで、言及された、予測入力カテゴリの特徴マップに関するターゲット分類カテゴリに関連付けられたターゲット分類カテゴリスコアの決定された勾配に基づいて、ターゲット分類カテゴリに関する予測入力チャネルの入力チャネルごとのウェイト値を決定する。
【0065】
いくつかの実施形態では、特徴マップに関するターゲット分類カテゴリスコアの決定された勾配に基づいて、入力チャネルごとのウェイト値を決定するために、説明的メタデータユニット113は、決定された勾配にグローバル最大プーリング及び/又はグローバル平均プーリング操作を適用して、入力チャネルごとのウェイト値を決定する。いくつかの実施形態では、ターゲット分類カテゴリに関する予測入力チャネルの入力チャネルごとのウェイト値を決定するために、説明的メタデータユニット113は、Selvarajuらの「Grad-CAM:Visual Explanations from Deep Networks via Gradient-Based Localization」のページ4の方程式1、及びhttps://arxiv.org/pdf/1610.02391.pdfにてオンラインで入手可能な付随の説明arXiv:1610.02391[cs.CV](2016)(これ以降、Selvaraju)によって説明される操作を利用する。
【0066】
操作1202で、説明的メタデータユニット113は、センサデバイスの入力チャネルごとのウェイト値、及び訓練された予測メンテナンス畳み込みニューラルネットワークによって生成された予測入力チャネルの特徴マップに基づいて、予測入力チャネルの入力チャネルごとのヒートマップを生成する。予測入力チャネルの入力ごとのチャネルは、予測入力チャネルの複数の構成要素の各構成要素(例えば、各ピクセル、各オーディオ秒、各画像部分など)の構成要素ごとの予測有意性値を示し、構成要素ごとの予測有意性値は、特定のメンテナンス予測を生成することに対する、対応する構成要素の相対的な予測関連性を示す。いくつかの実施形態では、予測入力チャネルの入力チャネルごとのヒートマップを生成することは、例えば、Selvarajuによって開示される技術のいくつかの態様に従って、ガイド付きバックプロパゲーションを実施することを含む。
【0067】
いくつかの実施形態では、予測入力チャネルの入力チャネルごとのヒートマップを生成することは、予測入力チャネルの入力チャネルごとのウェイト値、及び特徴マップ予測入力チャネルに基づいて、入力チャネルごとの活性化出力を決定することと、入力チャネルごとの活性化出力に活性化関数(例えば、正規化線形ユニット活性化関数)を適用して、予測入力チャネルの入力チャネルごとのヒートマップを生成することと、を含む。いくつかの実施形態では、予測入力チャネルのセンサごとのヒートマップを生成することは、以下の方程式によって説明される操作を実施することを含む。
【0068】
【数1】
上の方程式1では、Lは、k番目の予測入力チャネル(及び/又はk番目の予測入力チャネルに関連付けられたセンサデバイス)の入力チャネルごとのヒートマップであり、ReLuは、正規化線形ユニット関数であり、aは、k番目の予測入力チャネルの入力チャネルごとのウェイト値であり、Aは、k番目の予測入力チャネルの特徴マップである。
【0069】
追加の実装例の詳細
例示的な処理システムを本明細書の図で説明してきたが、本明細書に記載される主題及び関数操作の実装例は、他のタイプのデジタル電子回路、又は本明細書に開示される構造及びそれらの構造的等価物を含む、コンピュータソフトウェア、ファームウェア、若しくはハードウェア、又はこれらのうちの1つ以上の組み合わせで実装することができる。
【0070】
本明細書に記載される主題及び動作の実施形態は、デジタル電子回路で、又は本明細書に開示される構造及びそれらの構造的等価物を含む、コンピュータソフトウェア、ファームウェア、若しくはハードウェアで、又はそれらのうちの1つ以上の組み合わせで実装することができる。本明細書に記載される主題の実施形態は、1つ以上のコンピュータプログラム、すなわち、情報/データ処理装置による実行のための、又は情報/データ処理装置の操作を制御するための、コンピュータ記憶媒体上に符号化された、コンピュータプログラム命令の1つ以上のモジュールとして、実装することができる。あるいは、又は加えて、プログラム命令は、情報/データ処理装置による実行のために好適な受信機装置へと送信する情報/データを符号化するために生成される人工的に生成された伝播信号、例えば、機械生成された電気信号、光学信号、又は電磁信号上に符号化することができる。コンピュータ可読記憶媒体は、コンピュータ可読記憶デバイス、コンピュータ可読記憶基板、ランダム又はシリアルアクセスメモリアレイ若しくはデバイス、あるいはこれらのうちの1つ以上の組み合わせであってもよいし、中に含まれていてもよい。更に、コンピュータ可読記憶媒体は伝播信号ではないが、コンピュータ可読記憶媒体は、人工的に生成された伝播信号で符号化されるコンピュータプログラム命令のソース又はデスティネーションとすることができる。コンピュータ可読記憶媒体はまた、1つ以上の別個の物理的構成要素又は媒体(例えば、複数のCD、ディスク、若しくは他の記憶デバイス)であってもよいし、中に含まれていてもよい。
【0071】
本明細書に記載される動作は、1つ以上のコンピュータ可読記憶デバイス上に記憶された、又は他のソースから受信された、情報/データ上で情報/データ処理装置により実施される動作として実装することができる。
【0072】
「データ処理装置」という用語は、例えば、プログラム可能なプロセッサ、コンピュータ、チップ上のシステム、又は複数の前述のもの若しくは前述のものの組み合わせを含む、データを処理するための全ての種類の装置、デバイス、及びマシンを包含する。装置は、専用論理回路、例えば、FPGA(field programmable gate array)(フィールドプログラマブルゲートアレイ)又はASIC(Application Specific Integrated Circuit)(特定用途向け集積回路)を含むことができる。装置はまた、ハードウェアに加えて、問題のコンピュータプログラムのための実行環境を作成するコード、例えば、プロセッサファームウェア、プロトコルスタック、データベース管理システム、オペレーティングシステム、クロスプラットフォームランタイム環境、仮想マシン、又はこれらのうちの1つ以上の組み合わせを構成するコードを含むことができる。装置及び実行環境は、ウェブサービス、分散コンピューティング、及びグリッドコンピューティングインフラなど、様々な異なるコンピューティングモデルインフラを実現することができる。
【0073】
コンピュータプログラム(プログラム、ソフトウェア、ソフトウェアアプリケーション、スクリプト、又はコードとしても知られる)は、コンパイル型又はインタプリタ型言語、宣言型又は手続き型言語を含む、任意の形態のプログラミング言語で書くことができ、また、スタンドアロンプログラムとして、又はモジュール、コンポーネント、サブルーチン、オブジェクト、若しくはコンピューティング環境内での使用に好適な他のユニットとしての形態を含む、任意の形態で展開することができる。コンピュータプログラムは、必ずしも必要ではないが、ファイルシステム内のファイルと一致してもよい。プログラムは、他のプログラム又は情報/データ(例えば、マークアップ言語文書内に記憶された1つ以上のスクリプト)を保持するファイルの部分内に、問題のプログラムに専用の単一のファイル内に、又は複数の協調ファイル(例えば、1つ以上のモジュール、サブプログラム、又はコードの部分を記憶するファイル)内に記憶することができる。コンピュータプログラムは、1つのコンピュータ上で、又は1つのサイトに位置する、若しくは複数のサイトにわたって分散し、通信ネットワークによって相互接続されている、複数のコンピュータ上で実行されるように展開することができる。
【0074】
本明細書に記載されるプロセス及び論理フローは、入力情報/データ上で動作し、出力を生成することによってアクションを実施するように1つ以上のコンピュータプログラムを実行する1つ以上のプログラム可能なプロセッサによって実施することができる。コンピュータプログラムの実行に好適なプロセッサとしては、例えば、汎用マイクロプロセッサ及び専用マイクロプロセッサの両方、並びに任意の種類のデジタルコンピュータの任意の1つ以上のプロセッサが挙げられる。概して、プロセッサは、読み取り専用メモリ、ランダムアクセスメモリ、又はこれらの両方から、命令及び情報/データを受信することになる。コンピュータの必須要素は、命令に従ってアクションを実施するためのプロセッサ、並びに命令及びデータを記憶するための1つ以上のメモリデバイスである。一般に、コンピュータはまた、データを記憶するための1つ以上の大容量記憶デバイス、例えば、磁気ディスク、光磁気ディスク、若しくは光ディスクを含むか、又はそれらから情報/データを受信する、若しくはそれらに情報/データを送信する、若しくは両方を行うように動作可能に連結される。しかしながら、コンピュータは、必ずしもそのようなデバイスを有する必要はない。コンピュータプログラム命令及び情報/データを記憶するのに好適なデバイスには、例示的な半導体メモリデバイス、例えば、EPROM、EEPROM、及びフラッシュメモリデバイスを含む、全ての形態の非揮発性メモリ、媒体、及びメモリデバイス、磁気ディスク、例えば、内部ハードディスク又は取り外し可能なディスク、磁気光学ディスク、並びにCD-ROM及びDVD-ROMディスクが含まれる。プロセッサ及びメモリは、専用論理回路によって補完されるか、又はその中に組み込まれ得る。
【0075】
ユーザとの相互作用を提供するために、本明細書に記載される主題の実施形態は、ユーザに情報/データを表示するためのディスプレイデバイス、例えば、CRT(cathode ray tube、陰極線管)又はLCD(liquid crystal display、液晶ディスプレイ)モニタ、並びにユーザがコンピュータに入力を提供することができる、キーボード及びポインティングデバイス、例えば、マウス又はトラックボールを有するコンピュータ上に実装することができる。他の種類のデバイスも、ユーザとの相互作用を提供するために使用することができ、例えば、ユーザに提供されるフィードバックは、任意の形態の感覚フィードバック、例えば、視覚フィードバック、聴覚フィードバック、又は触覚フィードバックとすることができ、ユーザからの入力は、音響、音声、又は触覚入力を含む、任意の形態で受信することができる。更に、コンピュータは、ユーザによって使用されるデバイスに文書を送信及び受信することによって、例えば、ウェブブラウザから受信された要求に応答して、ウェブページをユーザのクエリ起動コンピューティングデバイス上のウェブブラウザに送信することによって、ユーザと相互作用することができる。
【0076】
本明細書に記載される主題の実施形態は、バックエンド構成要素を(例えば、情報/データサーバとして)含む、又はミドルウェア構成要素(例えば、アプリケーションサーバ)を含む、又はフロントエンド構成要素(例えば、ユーザが本明細書に記載される主題の実装例と相互作用することができるグラフィカルユーザインターフェース若しくはウェブブラウザを有するクエリ起動コンピューティングデバイス)を含むコンピューティングシステム、あるいは1つ以上のそのようなバックエンド、ミドルウェア、又はフロントエンド構成要素の任意の組み合わせで実装することができる。システムの構成要素は、任意の形態又は媒体のデジタル情報/データ通信、例えば、通信ネットワークによって相互接続することができる。通信ネットワークの例としては、ローカルエリアネットワーク(「LAN」)及びワイドエリアネットワーク(「WAN」)、インターネットワーク(例えば、インターネット)、並びにピアツーピアネットワーク(例えば、アドホックピアツーピアネットワーク)が挙げられる。
【0077】
コンピューティングシステムは、クライアント及びサーバを含むことができる。クライアント及びサーバは、一般に互いにリモートであり、典型的には通信ネットワークを介して相互作用する。クライアントとサーバの関係は、それぞれのコンピュータ上で稼働し、かつ互いにクライアント-サーバの関係を有するコンピュータプログラムによって生じる。いくつかの実施形態では、サーバは、情報/データ(例えば、ハイパーテキストマークアップランゲージ(Hypertext Markup Language、HTML)ページ)をクエリ起動コンピューティングデバイスに(例えば、クエリ起動コンピューティングデバイスと相互作用するユーザに情報/データを表示し、ユーザからのユーザ入力を受信することを目的として)伝送する。クエリ起動コンピューティングデバイスにおいて生成された情報/データ(例えば、ユーザ相互作用の結果)は、サーバにおいてクエリ起動コンピューティングデバイスから受信され得る。
【0078】
本明細書は、多くの具体的な実装例の詳細を含むが、これらは、いかなる発明又は特許請求され得るものの範囲を制限するものとして解釈されるべきではなく、むしろ特定の発明の特定の実施形態に特有の特徴の説明として解釈されるべきである。別個の実施形態の文脈において本明細書に記載される特定の特徴はまた、単一の実施形態で組み合わせて実装され得る。逆に、単一の実施形態の文脈で説明される様々な特徴はまた、多数の実施形態において別々に、又は任意の好適なサブコンビネーションで実装することができる。更に、特徴は、特定の組み合わせで作用するものとして上記で説明され、最初はそのように特許請求され得るが、特許請求される組み合わせからの1つ以上の特徴は、場合によっては、組み合わせから削除することができ、特許請求される組み合わせは、サブコンビネーション又はサブコンビネーションの変形を対象とし得る。
【0079】
同様に、操作は、図面に特定の順序で描かれているが、これは、特に記載のない限り、望ましい結果を達成するために、そのような操作を、示される特定の順序若しくは漸進的な順序で実施すること、又は図示される全ての操作を実施することを要求するものとして理解されるべきではない。特定の状況では、マルチタスキング及び並列処理が有利であり得る。更に、上述の実施形態における様々なシステム構成要素の分離は、全ての実施形態においてそのような分離を必要とするものとして理解されるべきではなく、記載されるプログラム構成要素及びシステムは、一般に、単一のソフトウェア製品に一体化する、又は複数のソフトウェア製品にパッケージ化することができることを理解されたい。
【0080】
こうして、本主題の特定の実施形態が説明されてきた。他の実施形態は、以下の特許請求の範囲の範囲内である。場合によっては、特許請求の範囲に列挙されたアクションは、異なる順序で実行され得、依然として望ましい結果を達成することができる。加えて、添付の図に描かれる処理は、特に記載のない限り、望ましい結果を達成するために、示される特定の順序又は漸進的な順序を必ずしも必要としない。特定の実装例では、マルチタスキング及び並列処理が有利であり得る。
【0081】
結論
本明細書に記載される本発明の多くの修正例及び他の実施形態は、前述の説明及び関連付けられた図面に提示される教示の利益を有する、これらの本発明に関係がある当業者に着想されるであろう。したがって、本発明、開示される特定の実施形態に限定されるものではないこと、並びに修正例及び他の実施形態は、添付の特許請求の範囲の範囲内に含まれることが意図されることを理解されたい。特定の用語が本明細書で用いられているが、特に記載のない限り、これらは一般的かつ記述的な意味でのみ使用され、限定の目的では使用されない。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12