▶ 一般社団法人クラインシュタイン医工学パースペクティブの特許一覧
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023163616
(43)【公開日】2023-11-10
(54)【発明の名称】異常予測システム、方法及びコンピュータプログラム
(51)【国際特許分類】
G06N 3/02 20060101AFI20231102BHJP
【ＦＩ】
G06N3/02
【審査請求】有
【請求項の数】31
【出願形態】ＯＬ
(21)【出願番号】P 2022074629
(22)【出願日】2022-04-28
(71)【出願人】
【識別番号】519346516
【氏名又は名称】一般社団法人クラインシュタイン医工学パースペクティブ
(74)【代理人】
【識別番号】100118902
【弁理士】
【氏名又は名称】山本 修
(74)【代理人】
【識別番号】100106208
【弁理士】
【氏名又は名称】宮前 徹
(74)【代理人】
【識別番号】100196508
【弁理士】
【氏名又は名称】松尾 淳一
(74)【代理人】
【識別番号】100147991
【弁理士】
【氏名又は名称】鳥居 健一
(74)【代理人】
【識別番号】100201743
【弁理士】
【氏名又は名称】井上 和真
(72)【発明者】
【氏名】木村 洋紀
(72)【発明者】
【氏名】金 成泰
(57)【要約】
【課題】複数の測定器で得られた複数のデータ時系列の間に不整合が生じている場合でも、複数のデータ時系列からニューラルネットワークを用いて異常事象の発生を高い精度で予測し得る異常予測システムを提供する。
【解決手段】異常予測システムは、複数の測定器で得られた複数のデータ時系列から、複数の測定パラメータと当該複数の測定パラメータにそれぞれ割り当てられた複数の相対時間値とを配列要素として含む多次元配列データを再構成するように構成されたデータ再構成系と、前記多次元配列データを受け付ける入力層、１つまたは複数の再帰型ニューラルネットワークを含む中間層構造、及び、出力層を有するニューラルネットワーク構造に基づく演算を実行することにより異常事象に関する予測情報を算出するように構成された推論処理部とを備える。
【選択図】図１
【解決手段】異常予測システムは、複数の測定器で得られた複数のデータ時系列から、複数の測定パラメータと当該複数の測定パラメータにそれぞれ割り当てられた複数の相対時間値とを配列要素として含む多次元配列データを再構成するように構成されたデータ再構成系と、前記多次元配列データを受け付ける入力層、１つまたは複数の再帰型ニューラルネットワークを含む中間層構造、及び、出力層を有するニューラルネットワーク構造に基づく演算を実行することにより異常事象に関する予測情報を算出するように構成された推論処理部とを備える。
【選択図】図１
【特許請求の範囲】
【請求項1】
複数の測定器で得られた複数のデータ時系列から少なくとも１つの異常事象の発生を予測する異常予測システムであって、
前記複数のデータ時系列から、複数の測定パラメータと当該複数の測定パラメータにそれぞれ割り当てられた複数の相対時間値とを配列要素として含む多次元配列データを再構成するように構成されたデータ再構成系と、
前記多次元配列データを受容する入力層、１つまたは複数の再帰型ニューラルネットワークを含む中間層構造、及び出力層を有するニューラルネットワーク構造に基づく演算を実行することにより、前記異常事象に関する予測情報を算出するように構成された推論演算部と
を備える異常予測システム。
前記複数のデータ時系列から、複数の測定パラメータと当該複数の測定パラメータにそれぞれ割り当てられた複数の相対時間値とを配列要素として含む多次元配列データを再構成するように構成されたデータ再構成系と、
前記多次元配列データを受容する入力層、１つまたは複数の再帰型ニューラルネットワークを含む中間層構造、及び出力層を有するニューラルネットワーク構造に基づく演算を実行することにより、前記異常事象に関する予測情報を算出するように構成された推論演算部と
を備える異常予測システム。
【請求項2】
請求項１に記載の異常予測システムであって、前記予測情報は、前記異常事象の度合いを示すリスク度と、前記異常事象が発生するであろう予測時間との組を示す情報である、異常予測システム。
【請求項3】
請求項１に記載の異常予測システムであって、
前記データ再構成系は、
前記複数の測定器からそれぞれ供給された前記複数のデータ時系列を受け付けるデータ入力部と、
前記データ入力部を介して入力された前記複数のデータ時系列から前記多次元配列データを再構成するように構成されたデータ再構成部と
を含む、異常予測システム。
前記データ再構成系は、
前記複数の測定器からそれぞれ供給された前記複数のデータ時系列を受け付けるデータ入力部と、
前記データ入力部を介して入力された前記複数のデータ時系列から前記多次元配列データを再構成するように構成されたデータ再構成部と
を含む、異常予測システム。
【請求項4】
請求項３に記載の異常予測システムであって、
前記データ再構成部は、前記複数のデータ時系列から複数のベクトル系列を前記多次元配列データとして生成するように構成され、
前記複数のベクトル系列の各々は、前記複数の測定パラメータの各々を指定するための次元と、前記複数の相対時間値の各々を指定するための次元とを有し、
前記複数の再帰型ニューラルネットワークは、前記入力層を介して入力された前記複数のベクトル系列をそれぞれ並列に処理するように構成されている、異常予測システム。
前記データ再構成部は、前記複数のデータ時系列から複数のベクトル系列を前記多次元配列データとして生成するように構成され、
前記複数のベクトル系列の各々は、前記複数の測定パラメータの各々を指定するための次元と、前記複数の相対時間値の各々を指定するための次元とを有し、
前記複数の再帰型ニューラルネットワークは、前記入力層を介して入力された前記複数のベクトル系列をそれぞれ並列に処理するように構成されている、異常予測システム。
【請求項5】
請求項１に記載の異常予測システムであって、
前記データ再構成系は、
前記複数のデータ時系列からそれぞれ複数のベクトル系列を生成するように構成された複数の系列生成器と、
前記複数の系列生成器からそれぞれ供給された前記複数のベクトル系列を受け付けるデータ入力部と、
前記データ入力部を介して入力された前記複数のベクトル系列を統合することにより、前記入力層に入力されるべき前記多次元配列データを生成するように構成された統合部と
を含み、
前記複数の系列生成器の各系列生成器は、各々が少なくとも１つの測定パラメータと当該少なくとも１つの測定パラメータに割り当てられた相対時間値とをベクトル要素として有する複数のベクトルからなるベクトル系列を生成するように構成されており、
前記複数の再帰型ニューラルネットワークは、前記入力層を介して入力された前記複数のベクトル系列をそれぞれ並列に処理するように構成されている、異常予測システム。
前記データ再構成系は、
前記複数のデータ時系列からそれぞれ複数のベクトル系列を生成するように構成された複数の系列生成器と、
前記複数の系列生成器からそれぞれ供給された前記複数のベクトル系列を受け付けるデータ入力部と、
前記データ入力部を介して入力された前記複数のベクトル系列を統合することにより、前記入力層に入力されるべき前記多次元配列データを生成するように構成された統合部と
を含み、
前記複数の系列生成器の各系列生成器は、各々が少なくとも１つの測定パラメータと当該少なくとも１つの測定パラメータに割り当てられた相対時間値とをベクトル要素として有する複数のベクトルからなるベクトル系列を生成するように構成されており、
前記複数の再帰型ニューラルネットワークは、前記入力層を介して入力された前記複数のベクトル系列をそれぞれ並列に処理するように構成されている、異常予測システム。
【請求項6】
請求項４または５に記載の異常予測システムであって、
前記中間層構造は、
前記複数の再帰型ニューラルネットワークの出力を連結するように構成された連結層と、
前記連結層の出力を処理するように構成された順伝播型ニューラルネットワークと
を含む、異常予測システム。
前記中間層構造は、
前記複数の再帰型ニューラルネットワークの出力を連結するように構成された連結層と、
前記連結層の出力を処理するように構成された順伝播型ニューラルネットワークと
を含む、異常予測システム。
【請求項7】
請求項６に記載の異常予測システムであって、
前記順伝播型ニューラルネットワークは、
前記連結層の出力を処理するように構成された第１のサブニューラルネットワークと、
前記第１のサブニューラルネットワークと並列に配置され、前記連結層の出力を処理するように構成された第２のサブニューラルネットワークと
を含み、
前記推論演算部は、前記第１のサブニューラルネットワークの出力に基づいて前記異常事象の度合いを示すリスク度を生成し、前記第２のサブニューラルネットワークの出力に基づいて前記異常事象が発生するであろう予測時間を生成するように構成されている、異常予測システム。
前記順伝播型ニューラルネットワークは、
前記連結層の出力を処理するように構成された第１のサブニューラルネットワークと、
前記第１のサブニューラルネットワークと並列に配置され、前記連結層の出力を処理するように構成された第２のサブニューラルネットワークと
を含み、
前記推論演算部は、前記第１のサブニューラルネットワークの出力に基づいて前記異常事象の度合いを示すリスク度を生成し、前記第２のサブニューラルネットワークの出力に基づいて前記異常事象が発生するであろう予測時間を生成するように構成されている、異常予測システム。
【請求項8】
請求項４または５に記載の異常予測システムであって、
前記複数の測定器のうちの少なくとも１つは、対象物体の状態を測定するように構成されており、
前記連結層は、前記入力層を介して入力された前記対象物体の属性情報と、前記複数の再帰型ニューラルネットワークの出力とを連結するように構成されている、異常予測システム。
前記複数の測定器のうちの少なくとも１つは、対象物体の状態を測定するように構成されており、
前記連結層は、前記入力層を介して入力された前記対象物体の属性情報と、前記複数の再帰型ニューラルネットワークの出力とを連結するように構成されている、異常予測システム。
【請求項9】
請求項３に記載の異常予測システムであって、
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された１つまたは複数の畳み込みニューラルネットワークと、
前記１つまたは複数の畳み込みニューラルネットワークの出力を処理するように構成された前記１つまたは複数の再帰型ニューラルネットワークと
を含む、異常予測システム。
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された１つまたは複数の畳み込みニューラルネットワークと、
前記１つまたは複数の畳み込みニューラルネットワークの出力を処理するように構成された前記１つまたは複数の再帰型ニューラルネットワークと
を含む、異常予測システム。
【請求項10】
請求項９に記載の異常予測システムであって、前記多次元配列データは、３階のテンソルで構成されている、異常予測システム。
【請求項11】
請求項９に記載の異常予測システムであって、
前記中間層構造は、
前記再帰型ニューラルネットワークの出力を処理するように構成された第１のサブニューラルネットワークと、
前記第１のサブニューラルネットワークと並列に配置され、前記再帰型ニューラルネットワークの出力を処理するように構成された第２のサブニューラルネットワークと
をさらに含み、
前記推論演算部は、前記第１のサブニューラルネットワークの出力に基づいて前記異常事象の度合いを示すリスク度を生成し、前記第２のサブニューラルネットワークの出力に基づいて前記異常事象が発生するであろう予測時間を生成するように構成されている、異常予測システム。
前記中間層構造は、
前記再帰型ニューラルネットワークの出力を処理するように構成された第１のサブニューラルネットワークと、
前記第１のサブニューラルネットワークと並列に配置され、前記再帰型ニューラルネットワークの出力を処理するように構成された第２のサブニューラルネットワークと
をさらに含み、
前記推論演算部は、前記第１のサブニューラルネットワークの出力に基づいて前記異常事象の度合いを示すリスク度を生成し、前記第２のサブニューラルネットワークの出力に基づいて前記異常事象が発生するであろう予測時間を生成するように構成されている、異常予測システム。
【請求項12】
請求項９に記載の異常予測システムであって、
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された第１のサブ中間層構造と、
前記第１のサブ中間層構造と並列に配置され、前記入力層を介して入力された前記多次元配列データを処理するように構成された第２のサブ中間層構造と
を含み、
前記第１のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの少なくとも１つとして設けられた第１の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの１つとして設けられ、前記第１の畳み込みニューラルネットワークの出力を処理するように構成された第１の再帰型ニューラルネットワークと
を含み、
前記第２のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの別の少なくとも１つとして設けられた第２の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの別の１つとして設けられ、前記第２の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと
を含み、
前記推論演算部は、前記第１のサブ中間層構造の出力に基づいて前記異常事象の度合いを示すリスク度を生成し、前記第２のサブ中間層構造の出力に基づいて前記異常事象が発生するであろう予測時間を生成するように構成されている、異常予測システム。
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された第１のサブ中間層構造と、
前記第１のサブ中間層構造と並列に配置され、前記入力層を介して入力された前記多次元配列データを処理するように構成された第２のサブ中間層構造と
を含み、
前記第１のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの少なくとも１つとして設けられた第１の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの１つとして設けられ、前記第１の畳み込みニューラルネットワークの出力を処理するように構成された第１の再帰型ニューラルネットワークと
を含み、
前記第２のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの別の少なくとも１つとして設けられた第２の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの別の１つとして設けられ、前記第２の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと
を含み、
前記推論演算部は、前記第１のサブ中間層構造の出力に基づいて前記異常事象の度合いを示すリスク度を生成し、前記第２のサブ中間層構造の出力に基づいて前記異常事象が発生するであろう予測時間を生成するように構成されている、異常予測システム。
【請求項13】
請求項９に記載の異常予測システムであって、
前記複数の測定器のうちの少なくとも１つは、対象物体の状態を測定するように構成されており、
前記中間層構造は、前記１つまたは複数の再帰型ニューラルネットワークの出力と、前記入力層を介して入力された前記対象物体の属性情報とを連結するように構成された１つまたは複数の連結層をさらに含む、異常予測システム。
前記複数の測定器のうちの少なくとも１つは、対象物体の状態を測定するように構成されており、
前記中間層構造は、前記１つまたは複数の再帰型ニューラルネットワークの出力と、前記入力層を介して入力された前記対象物体の属性情報とを連結するように構成された１つまたは複数の連結層をさらに含む、異常予測システム。
【請求項14】
請求項１３に記載の異常予測システムであって、
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された第１のサブ中間層構造と、
前記第１のサブ中間層構造と並列に配置され、前記入力層を介して入力された前記多次元配列データを処理するように構成された第２のサブ中間層構造と
を含み、
前記第１のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの少なくとも１つとして設けられた第１の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの１つとして設けられ、前記第１の畳み込みニューラルネットワークの出力を処理するように構成された第１の再帰型ニューラルネットワークと、
前記複数の連結層のうちの１つとして設けられ、前記第１の再帰型ニューラルネットワークの出力と前記属性情報とを連結するように構成された第１の連結層と、
前記第１の連結層の出力を処理するように構成された第１の順伝播型ニューラルネットワークと
を含み、
前記第２のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの別の少なくとも１つとして設けられた第２の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの別の１つとして設けられ、前記第２の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと、
前記複数の連結層のうちの別の１つとして設けられ、前記第２の再帰型ニューラルネットワークの出力と前記属性情報とを連結するように構成された第２の連結層と、
前記第２の連結層の出力を処理するように構成された第２の順伝播型ニューラルネットワークと
を含む、異常予測システム。
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された第１のサブ中間層構造と、
前記第１のサブ中間層構造と並列に配置され、前記入力層を介して入力された前記多次元配列データを処理するように構成された第２のサブ中間層構造と
を含み、
前記第１のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの少なくとも１つとして設けられた第１の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの１つとして設けられ、前記第１の畳み込みニューラルネットワークの出力を処理するように構成された第１の再帰型ニューラルネットワークと、
前記複数の連結層のうちの１つとして設けられ、前記第１の再帰型ニューラルネットワークの出力と前記属性情報とを連結するように構成された第１の連結層と、
前記第１の連結層の出力を処理するように構成された第１の順伝播型ニューラルネットワークと
を含み、
前記第２のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの別の少なくとも１つとして設けられた第２の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの別の１つとして設けられ、前記第２の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと、
前記複数の連結層のうちの別の１つとして設けられ、前記第２の再帰型ニューラルネットワークの出力と前記属性情報とを連結するように構成された第２の連結層と、
前記第２の連結層の出力を処理するように構成された第２の順伝播型ニューラルネットワークと
を含む、異常予測システム。
【請求項15】
請求項１～５，９～１４のうちのいずれか１項に記載の異常予測システムであって、前記予測情報に応じて、前記複数の測定器のうちの少なくとも１つを含む機器の動作条件を変更する制御を行うフィードバック制御部をさらに備える異常予測システム。
【請求項16】
複数の測定器で得られた複数のデータ時系列から少なくとも１つの異常事象の発生を予測する方法であって、
前記複数のデータ時系列から、複数の測定パラメータと当該複数の測定パラメータにそれぞれ割り当てられた複数の相対時間値とを配列要素として含む多次元配列データを再構成するステップと、
前記多次元配列データを受容する入力層、１つまたは複数の再帰型ニューラルネットワークを含む中間層構造、及び出力層を有するニューラルネットワーク構造に基づく演算を実行することにより、前記異常事象に関する予測情報を算出するステップと
を備える方法。
前記複数のデータ時系列から、複数の測定パラメータと当該複数の測定パラメータにそれぞれ割り当てられた複数の相対時間値とを配列要素として含む多次元配列データを再構成するステップと、
前記多次元配列データを受容する入力層、１つまたは複数の再帰型ニューラルネットワークを含む中間層構造、及び出力層を有するニューラルネットワーク構造に基づく演算を実行することにより、前記異常事象に関する予測情報を算出するステップと
を備える方法。
【請求項17】
請求項１６に記載の方法であって、前記予測情報は、前記異常事象の度合いを示すリスク度と、前記異常事象が発生するであろう予測時間との組を示す情報である、方法。
【請求項18】
請求項１６に記載の方法であって、
前記多次元配列データを再構成する当該ステップは、前記複数のデータ時系列から複数のベクトル系列を前記多次元配列データとして生成するステップからなり、
前記複数のベクトル系列の各々は、前記複数の測定パラメータの各々を指定するための次元と、前記複数の相対時間値の各々を指定するための次元とを有し、
前記複数の再帰型ニューラルネットワークは、前記入力層を介して入力された前記複数のベクトル系列をそれぞれ並列に処理するように構成されている、方法。
前記多次元配列データを再構成する当該ステップは、前記複数のデータ時系列から複数のベクトル系列を前記多次元配列データとして生成するステップからなり、
前記複数のベクトル系列の各々は、前記複数の測定パラメータの各々を指定するための次元と、前記複数の相対時間値の各々を指定するための次元とを有し、
前記複数の再帰型ニューラルネットワークは、前記入力層を介して入力された前記複数のベクトル系列をそれぞれ並列に処理するように構成されている、方法。
【請求項19】
請求項１６に記載の方法であって、
前記多次元配列データを再構成する当該ステップは、
前記複数のデータ時系列から複数のベクトル系列を生成するステップと、
前記複数のベクトル系列を統合することにより、前記入力層に入力されるべき前記多次元配列データを生成するステップと
を含み、
前記複数のベクトル系列の各ベクトル系列は、各々が少なくとも１つの測定パラメータと当該少なくとも１つの測定パラメータに割り当てられた相対時間値とをベクトル要素として有する複数のベクトルからなり、
前記複数の再帰型ニューラルネットワークは、前記入力層を介して入力された前記複数のベクトル系列をそれぞれ並列に処理するように構成されている、方法。
前記多次元配列データを再構成する当該ステップは、
前記複数のデータ時系列から複数のベクトル系列を生成するステップと、
前記複数のベクトル系列を統合することにより、前記入力層に入力されるべき前記多次元配列データを生成するステップと
を含み、
前記複数のベクトル系列の各ベクトル系列は、各々が少なくとも１つの測定パラメータと当該少なくとも１つの測定パラメータに割り当てられた相対時間値とをベクトル要素として有する複数のベクトルからなり、
前記複数の再帰型ニューラルネットワークは、前記入力層を介して入力された前記複数のベクトル系列をそれぞれ並列に処理するように構成されている、方法。
【請求項20】
請求項１８または１９に記載の方法であって、
前記中間層構造は、
前記複数の再帰型ニューラルネットワークの出力を連結するように構成された連結層と、
前記連結層の出力を処理するように構成された順伝播型ニューラルネットワークと
を含む、方法。
前記中間層構造は、
前記複数の再帰型ニューラルネットワークの出力を連結するように構成された連結層と、
前記連結層の出力を処理するように構成された順伝播型ニューラルネットワークと
を含む、方法。
【請求項21】
請求項２０に記載の方法であって、
前記順伝播型ニューラルネットワークは、
前記連結層の出力を処理するように構成された第１のサブニューラルネットワークと、
前記第１のサブニューラルネットワークと並列に配置され、前記連結層の出力を処理するように構成された第２のサブニューラルネットワークと
を含み、
前記予測情報を算出する当該ステップは、前記第１のサブニューラルネットワークの出力に基づいて前記異常事象の度合いを示すリスク度を生成するステップと、前記第２のサブニューラルネットワークの出力に基づいて前記異常事象が発生するであろう予測時間を生成するステップとを含む、方法。
前記順伝播型ニューラルネットワークは、
前記連結層の出力を処理するように構成された第１のサブニューラルネットワークと、
前記第１のサブニューラルネットワークと並列に配置され、前記連結層の出力を処理するように構成された第２のサブニューラルネットワークと
を含み、
前記予測情報を算出する当該ステップは、前記第１のサブニューラルネットワークの出力に基づいて前記異常事象の度合いを示すリスク度を生成するステップと、前記第２のサブニューラルネットワークの出力に基づいて前記異常事象が発生するであろう予測時間を生成するステップとを含む、方法。
【請求項22】
請求項１８または１９に記載の方法であって、
前記複数の測定器のうちの少なくとも１つは、対象物体の状態を測定するように構成されており、
前記連結層は、前記入力層を介して入力された前記対象物体の属性情報と、前記複数の再帰型ニューラルネットワークの出力とを連結するように構成されている、方法。
前記複数の測定器のうちの少なくとも１つは、対象物体の状態を測定するように構成されており、
前記連結層は、前記入力層を介して入力された前記対象物体の属性情報と、前記複数の再帰型ニューラルネットワークの出力とを連結するように構成されている、方法。
【請求項23】
請求項１６に記載の方法であって、
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された１つまたは複数の畳み込みニューラルネットワークと、
前記１つまたは複数の畳み込みニューラルネットワークの出力を処理するように構成された前記１つまたは複数の再帰型ニューラルネットワークと
を含む、方法。
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された１つまたは複数の畳み込みニューラルネットワークと、
前記１つまたは複数の畳み込みニューラルネットワークの出力を処理するように構成された前記１つまたは複数の再帰型ニューラルネットワークと
を含む、方法。
【請求項24】
請求項２３に記載の方法であって、前記多次元配列データは、３階のテンソルで構成されている、方法。
【請求項25】
請求項２３に記載の方法であって、
前記中間層構造は、
前記再帰型ニューラルネットワークの出力を処理するように構成された第１のサブニューラルネットワークと、
前記第１のサブニューラルネットワークと並列に配置され、前記再帰型ニューラルネットワークの出力を処理するように構成された第２のサブニューラルネットワークと
をさらに含み、
前記予測情報を算出する当該ステップは、前記第１のサブニューラルネットワークの出力に基づいて前記異常事象の度合いを示すリスク度を生成するステップと、前記第２のサブニューラルネットワークの出力に基づいて前記異常事象が発生するであろう予測時間を生成するステップとを含む、方法。
前記中間層構造は、
前記再帰型ニューラルネットワークの出力を処理するように構成された第１のサブニューラルネットワークと、
前記第１のサブニューラルネットワークと並列に配置され、前記再帰型ニューラルネットワークの出力を処理するように構成された第２のサブニューラルネットワークと
をさらに含み、
前記予測情報を算出する当該ステップは、前記第１のサブニューラルネットワークの出力に基づいて前記異常事象の度合いを示すリスク度を生成するステップと、前記第２のサブニューラルネットワークの出力に基づいて前記異常事象が発生するであろう予測時間を生成するステップとを含む、方法。
【請求項26】
請求項２３に記載の方法であって、
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された第１のサブ中間層構造と、
前記第１のサブ中間層構造と並列に配置され、前記入力層を介して入力された前記多次元配列データを処理するように構成された第２のサブ中間層構造と
を含み、
前記第１のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの少なくとも１つとして設けられた第１の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの１つとして設けられ、前記第１の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと
を含み、
前記第２のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの別の少なくとも１つとして設けられた第２の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの別の１つとして設けられ、前記第２の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと
を含み、
前記予測情報を算出する当該ステップは、前記第１のサブ中間層構造の出力に基づいて前記異常事象の度合いを示すリスク度を生成するステップと、前記第２のサブ中間層構造の出力に基づいて前記異常事象が発生するであろう予測時間を生成するステップとを含む、方法。
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された第１のサブ中間層構造と、
前記第１のサブ中間層構造と並列に配置され、前記入力層を介して入力された前記多次元配列データを処理するように構成された第２のサブ中間層構造と
を含み、
前記第１のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの少なくとも１つとして設けられた第１の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの１つとして設けられ、前記第１の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと
を含み、
前記第２のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの別の少なくとも１つとして設けられた第２の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの別の１つとして設けられ、前記第２の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと
を含み、
前記予測情報を算出する当該ステップは、前記第１のサブ中間層構造の出力に基づいて前記異常事象の度合いを示すリスク度を生成するステップと、前記第２のサブ中間層構造の出力に基づいて前記異常事象が発生するであろう予測時間を生成するステップとを含む、方法。
【請求項27】
請求項２３に記載の方法であって、
前記複数の測定器のうちの少なくとも１つは、対象物体の状態を測定するように構成されており、
前記中間層構造は、前記１つまたは複数の再帰型ニューラルネットワークの出力と、前記入力層を介して入力された前記対象物体の属性情報とを連結するように構成された１つまたは複数の連結層をさらに含む、方法。
前記複数の測定器のうちの少なくとも１つは、対象物体の状態を測定するように構成されており、
前記中間層構造は、前記１つまたは複数の再帰型ニューラルネットワークの出力と、前記入力層を介して入力された前記対象物体の属性情報とを連結するように構成された１つまたは複数の連結層をさらに含む、方法。
【請求項28】
請求項２７に記載の方法であって、
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された第１のサブ中間層構造と、
前記第１のサブ中間層構造と並列に配置され、前記入力層を介して入力された前記多次元配列データを処理するように構成された第２のサブ中間層構造と
を含み、
前記第１のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの少なくとも１つとして設けられた第１の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの１つとして設けられ、前記第１の畳み込みニューラルネットワークの出力を処理するように構成された第１の再帰型ニューラルネットワークと、
前記複数の連結層のうちの１つとして設けられ、前記第１の再帰型ニューラルネットワークの出力と前記属性情報とを連結するように構成された第１の連結層と、
前記第１の連結層の出力を処理するように構成された第１の順伝播型ニューラルネットワークと
を含み、
前記第２のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの別の少なくとも１つとして設けられた第２の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの別の１つとして設けられ、前記第２の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと、
前記複数の連結層のうちの別の１つとして設けられ、前記第２の再帰型ニューラルネットワークの出力と前記属性情報とを連結するように構成された第２の連結層と、
前記第２の連結層の出力を処理するように構成された第２の順伝播型ニューラルネットワークと
を含む、方法。
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された第１のサブ中間層構造と、
前記第１のサブ中間層構造と並列に配置され、前記入力層を介して入力された前記多次元配列データを処理するように構成された第２のサブ中間層構造と
を含み、
前記第１のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの少なくとも１つとして設けられた第１の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの１つとして設けられ、前記第１の畳み込みニューラルネットワークの出力を処理するように構成された第１の再帰型ニューラルネットワークと、
前記複数の連結層のうちの１つとして設けられ、前記第１の再帰型ニューラルネットワークの出力と前記属性情報とを連結するように構成された第１の連結層と、
前記第１の連結層の出力を処理するように構成された第１の順伝播型ニューラルネットワークと
を含み、
前記第２のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの別の少なくとも１つとして設けられた第２の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの別の１つとして設けられ、前記第２の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと、
前記複数の連結層のうちの別の１つとして設けられ、前記第２の再帰型ニューラルネットワークの出力と前記属性情報とを連結するように構成された第２の連結層と、
前記第２の連結層の出力を処理するように構成された第２の順伝播型ニューラルネットワークと
を含む、方法。
【請求項29】
請求項１６～１９，２３～２８のうちのいずれか１項に記載の方法であって、前記予測情報に応じて、前記複数の測定器のうちの少なくとも１つを含む機器の動作条件を変更する制御を行うステップをさらに備える方法。
【請求項30】
不揮発性メモリから読み出されて単数または複数のプロセッサにより実行されるべきコンピュータプログラムであって、請求項１６～１９，２３～２８のうちのいずれか１項に記載の方法を前記単数または複数のプロセッサに実施させるように構成されているコンピュータプログラム。
【請求項31】
不揮発性メモリから読み出されて単数または複数のプロセッサにより実行されるべきコンピュータプログラムであって、請求項２９に記載の方法を前記単数または複数のプロセッサに実施させるように構成されているコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、機械学習モデルを用いて異常事象の発生を予測する技術に関し、特に、複数の測定器でそれぞれ得られた複数のデータ時系列から、機械学習によるニューラルネットワークモデルを用いて異常事象の発生を予測する技術に関するものである。
【背景技術】
【0002】
近年、機械学習の手法を用いて、１つまたは複数のパラメータで構成される入力データを解析することで、１つまたは複数のパラメータに関する予測、分類もしくは最適化を行う技術が提供されている。たとえば、機械学習の手法には、従来より決定木（ｄｅｃｉｓｉｏｎ ｔｒｅｅ）及びサポートベクターマシン（Ｓｕｐｐｏｒｔ Ｖｅｃｔｏｒ Ｍａｃｈｉｎｅ，ＳＶＭ）が使用されているところ、近年、脳内の神経細胞のネットワーク構造を模したニューラルネットワークモデル（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ Ｍｏｄｅｌ）も多用されている。ニューラルネットワークモデルは、人工ニューラルネットワーク（Ａｒｔｉｆｉｃｉａｌ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ，ＡＮＮ）、あるいは、単にニューラルネットワークと呼ばれることもある。機械学習に使用されるニューラルネットワークの多くは、複数の処理層の組合せからなる階層型のニューラルネットワークである。一般に、階層型のニューラルネットワークは、入力データを受け付ける入力層と、入力層の出力データを処理する１つまたは複数の中間層と、中間層の出力データに基づいて最終的な処理結果を出力する出力層とで構成されている。
【0003】
たとえば、特許文献１（特表２０２１－５２７９０６号公報）には、複数の時系列のシステム状態を示すシグネチャ行列を生成し、生成されたシグネチャ行列から、複数の畳み込みニューラルネットワークと複数の長短期記憶ニューラルネットワーク（ＬＳＴＭネットワーク：Ｌｏｎｇ Ｓｈｏｒｔ－Ｔｅｒｍ Ｍｅｍｏｒｙ ｎｅｔｗｏｒｋｓ）との組合せを用いて異常事象の発生を予測することができる技術が開示されている（特許文献１の図１～図４及び段落［００１５］～［００４７］参照）。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特表２０２１－５２７９０６号公報（国際公開第２０２０／０４６８０６号）
【発明の概要】
【発明が解決しようとする課題】
【0005】
ニューラルネットワークを用いて異常事象の発生を予測するときは、システムに関係する１つの測定器で得られた１つのデータ時系列から異常事象の発生を予測する場合よりも、システムに関係する複数の異なる測定器で得られた複数のデータ時系列から異常事象の発生を予測する場合の方が、高い予測精度が期待できるようにみえる。
【0006】
しかしながら、複数のデータ時系列の間で測定時間の不整合や次元の不整合が生じている場合には、前処理により当該複数のデータ時系列を統合してＮＮモデルに使用されるべき入力データが生成されたとしても、生成された入力データが不整合を有していると、予測精度が向上しないことがある。
【0007】
測定時間の不整合の例としては、第１の測定器の測定間隔が数秒間隔である（すなわち、第１の測定器が数秒ごとに測定量を与える）のに対し、第２の測定器の測定間隔が数分間隔である（すなわち、第２の測定器が数分ごとに測定量を与える）という場合がある。測定時間の不整合の別の例として、第１の測定器が等時間間隔で測定量を与えるのに対し、第２の測定器が不等時間間隔で測定量を与えるという場合もある。一方、次元の不整合の例としては、第１の測定器が２次元の測定量［ｘ（ｔ），ｙ（ｔ）］のデータ時系列を与えるのに対し、第２の測定器が１次元の測定量ｚ（ｔ）のデータ時系列を与えるという場合がある。ここで、ｘ（ｔ），ｙ（ｔ），ｚ（ｔ）の各々は測定値（すなわちスカラー量）であり、ｔは、離散的な測定時間を表す変数である。
【0008】
上記に鑑みて本開示の目的は、複数の測定器で得られた複数のデータ時系列の間に不整合が生じている場合でも、ニューラルネットワークを用いて異常事象の発生を高い精度で予測することができる異常予測システム、方法及びコンピュータプログラムを提供することにある。
【課題を解決するための手段】
【0009】
本開示の第１の態様による異常予測システムは、複数の測定器で得られた複数のデータ時系列から少なくとも１つの異常事象の発生を予測する異常予測システムであって、前記複数のデータ時系列から、複数の測定パラメータと当該複数の測定パラメータにそれぞれ割り当てられた複数の相対時間値とを配列要素として含む多次元配列データを再構成するように構成されたデータ再構成系と、前記多次元配列データを受容する入力層、１つまたは複数の再帰型ニューラルネットワークを含む中間層構造、及び出力層を有するニューラルネットワーク構造に基づく演算を実行することにより、前記異常事象に関する予測情報を算出するように構成された推論演算部とを備えたものである。
【0010】
本開示の第２の態様による方法は、複数の測定器で得られた複数のデータ時系列から少なくとも１つの異常事象の発生を予測する方法であって、前記複数のデータ時系列から、複数の測定パラメータと当該複数の測定パラメータにそれぞれ割り当てられた複数の相対時間値とを配列要素として含む多次元配列データを再構成するステップと、前記多次元配列データを受容する入力層、１つまたは複数の再帰型ニューラルネットワークを含む中間層構造、及び出力層を有するニューラルネットワーク構造に基づく演算を実行することにより、前記異常事象に関する予測情報を算出するステップとを備えたものである。
【0011】
本開示の第３の態様によるコンピュータプログラムは、不揮発性メモリから読み出されて単数または複数のプロセッサにより実行されるべきコンピュータプログラムであって、第２の態様による方法を前記単数または複数のプロセッサに実施させるように構成されているものである。
【発明の効果】
【0012】
本開示の第１ないし第３の態様によれば、複数の測定器で得られた複数のデータ時系列から、複数の測定パラメータと当該複数の測定パラメータにそれぞれ割り当てられた複数の相対時間値とを配列要素として含む多次元配列データが再構成され、当該多次元配列データを入力としてニューラルネットワーク構造に基づく演算が実行される。これにより、複数のデータ時系列の間に次元の不整合や測定時間の不整合が生じていたとしても、ニューラルネットワーク構造で不整合が補償され得る構成をもつ多次元配列データを生成すること、または、不整合をもたない多次元配列データを生成することが可能となる。ここで、ニューラルネットワーク構造で不整合が補償され得る構成とは、ニューラルネットワーク構造が不整合をもつ多次元配列データを受容しても当該多次元配列データを正常に処理することが可能となるように再構成された構成をいう。このような多次元配列データには、複数の測定パラメータのみならず、これら測定パラメータにそれぞれ割り当てられた（言い換えれば、刻印された）複数の相対時間値が時間情報として組み込まれているので、時間情報が正確に対応付けされた測定パラメータ群を入力としてニューラルネットワーク構造に基づく演算を実行することができる。これにより、予測情報を高い精度で算出することが可能となる。
【図面の簡単な説明】
【0013】
【図1】本開示に係る一実施形態の異常予測システムの構成を概略的に示すブロック図である。
【図2】複数のデータ時系列の間に測定時間の不整合が生じている状況の例を表す図である。
【図3】複数のデータ時系列の間に次元の不整合が生じている状況の例を表す図である。
【図4】ニューラルネットワーク構造を概略的に示すブロック図である。
【図5】実施形態に係る異常予測装置を実現するための情報処理装置の概略構成図である。
【図6】異常事象の発生を予測するための処理手順の例を概略的に表すフローチャートである。
【図7】ニューラルネットワーク構造で不整合が補償され得る構成をもつ多次元配列データを例示する図である。
【図8】ニューラルネットワーク構造で不整合が補償され得る構成をもつ多次元配列データを例示する図である。
【図9】ニューラルネットワーク構造を例示する図である。
【図10】ニューラルネットワーク構造を例示する図である。
【図11】ニューラルネットワーク構造を例示する図である。
【図12】実施例で実際に使用された７種類の測定パラメータと２次元の入力ベクトル系列との間の関係をテーブル形式で表す図である。
【図13】実施例の結果を示すグラフである。
【図14】実施例の結果をテーブル形式で示す図である。
【図15】ニューラルネットワーク構造を例示する図である。
【図16】ニューラルネットワーク構造における順伝播型ニューラルネットワークの一例を表す図である。
【図18】ニューラルネットワーク構造を例示する図である。
【図19】畳み込み及び非線形変換の方法を説明するための図である。
【図20】ニューラルネットワーク構造を例示する図である。
【図21】ニューラルネットワーク構造を例示する図である。
【図22】ニューラルネットワーク構造を例示する図である。
【図23】ニューラルネットワーク構造を例示する図である。
【図24】ニューラルネットワーク構造を例示する図である。
【図25】本開示に係る一実施形態の異常予測システムの構成を概略的に示すブロック図である。
【図26】ループ制御の処理手順の例を概略的に表すフローチャートである。
【図27】本開示に係る一実施形態の異常予測システムの構成を概略的に示すブロック図である。
【図28】異常事象の発生を予測するための処理手順の一例を概略的に示すフローチャートである。
【図29】本開示に係る一実施形態の異常予測システムの構成を概略的に示すブロック図である。
【図30】ループ制御の処理手順の一例を概略的に表すフローチャートである。
【発明を実施するための形態】
【0014】
以下、図面を参照しつつ、本開示に係る種々の実施形態について詳細に説明する。なお、図面全体において同一の参照符号を付された構成要素は、同一構成及び同一機能を有するものとする。
【0015】
図１は、本開示に係る一実施形態の異常予測システム１の構成を概略的に示すブロック図である。図１に示されるように、異常予測システム１は、各々が対象物体Ｔｇｔの観測または処理を行うための複数台の機器Ｅ０，…，ＥＫ－１と、これら機器Ｅ０，…，ＥＫ－１からそれぞれ供給された複数のデータ時系列Ｄ０，…，ＤＫ－１に基づいて少なくとも１つの異常事象の発生を予測するように構成された異常予測装置１０とを備えている。ここで、Ｋは、機器Ｅ０～ＥＫ－１の台数を表す３以上の正整数である。なお、機器Ｅ０，…，ＥＫ－１の台数は３以上に限定されるものではなく、２台の機器を備えるように異常予測システム１の構成が適宜変更されてもよい。
【0016】
機器Ｅ０，…，ＥＫ－１は、それぞれ測定器Ｓ０，…，ＳＫ－１を有する。各測定器Ｓｋは、当該各測定器Ｓｋを有する機器Ｅｋの状態または対象物体Ｔｇｔの状態を物理的（たとえば、光学的、電気的または音響的）に測定し、その結果得た測定量Ｄｋ（ｔ）の時系列からなるデータ時系列Ｄｋを出力するように構成されたモニタリングデバイスである。ここで、インデックスｋは、０～Ｋ－１の範囲内の任意の整数であり、英字ｔは、離散的な測定時間を表す変数である。測定量Ｄｋ（ｔ）は、スカラー量またはベクトル量として供給され得る。データ時系列Ｄｋは、たとえば、以下のように表現される。
【0017】
Ｄｋ＝［Ｄｋ（ｔ０），Ｄｋ（ｔ１），Ｄｋ（ｔ２），…］
ここで、ｔ０，ｔ１，ｔ２，…は、日付及び時刻の組または時刻のみを示す測定時間である。測定時間の情報については、測定器Ｓｎで計測された測定時間ｔが測定量Ｄｋ（ｔ）とともに異常予測装置１０に転送されてもよいし、あるいは、異常予測装置１０内のタイマー（図示せず）を用いて、転送されてきた各測定量Ｄｋ（ｔ）に測定時間ｔが割り当てられてもよい。
ここで、ｔ０，ｔ１，ｔ２，…は、日付及び時刻の組または時刻のみを示す測定時間である。測定時間の情報については、測定器Ｓｎで計測された測定時間ｔが測定量Ｄｋ（ｔ）とともに異常予測装置１０に転送されてもよいし、あるいは、異常予測装置１０内のタイマー（図示せず）を用いて、転送されてきた各測定量Ｄｋ（ｔ）に測定時間ｔが割り当てられてもよい。
【0018】
対象物体Ｔｇｔとしては、たとえば、人の生体、動植物の生体、または製造ライン上における未完成品または完成品が挙げられる。機器Ｅ０～ＥＫ－１は、たとえば、医療機器、製造機器またはモニタリング機器であればよい。測定器Ｓ０，…，ＳＫ－１は、機器Ｅ０～ＥＫ－１の状態を監視する機能、または、対象物体Ｔｇｔの状態を監視する機能を備えていればよい。機器Ｅｋが、人工透析機器、放射線治療機器、人工心肺機器（たとえば、ＥＣＭＯ：Ｅｘｔｒａｃｏｒｐｏｒｅａｌ Ｍｅｍｂｒａｎｅ Ｏｘｙｇｅｎａｔｉｏｎ）または電子血圧計などの医療機器として構成されている場合には、機器Ｅｋ内の測定器Ｓｋは、当該機器Ｅｋの内部の電流もしくは電圧の変化量、血液回路圧または透析液回路圧といった機器Ｅｋの動作状態を示す測定量Ｄｋ（ｔ）を生成したり、あるいは、脈拍数、血液酸素飽和度または血圧といった対象物体Ｔｇｔの生体状態（バイタルサインなど）を示す測定量Ｄｋ（ｔ）を生成したりすることができる。生体状態を示す測定量Ｄｋ（ｔ）として、対象物体Ｔｇｔである人の血液のアミノグラム（たとえば、４１種のアミノ酸及び代謝関連物質の濃度）の測定値から構成された多次元ベクトル量が使用されてもよい。たとえば、血液のアミノグラムの４１種の物質に関する測定値から４１次元のベクトル量を測定量Ｄｋ（ｔ）として構成することができる。
【0019】
なお、図１に示したように、測定器Ｓ０，Ｓ１，…，ＳＫ－１は、それぞれ機器Ｅ０，Ｅ１，…，ＥＫ－１に組み込まれている。図１の例では、１台の機器Ｅｋが１つの測定器Ｓｋを有しているが、これに限定されるものではない。１台の機器Ｅｋが複数の測定器を有するように制御システム１の構成が適宜変更されてもよい。
【0020】
異常予測装置１０は、伝送ケーブルなどの有線伝送路または無線伝送路を介して機器Ｅ０，…，ＥＫ－１と接続されている。機器Ｅ０，…，ＥＫ－１は、測定器Ｓ０，…，ＳＫ－１でそれぞれ得られたデータ時系列Ｄ０，…，ＤＫ－１を有線伝送路または無線伝送路を介して異常予測装置１０に送信する機能を有し、異常予測装置１０は、機器Ｅ０，…，ＥＫ－１からデータ時系列Ｄ０，…，ＤＫ－１を受信する機能を有している。
【0021】
図１に示されるように、異常予測装置１０は、機器Ｅ０，…，ＥＫ－１からそれぞれ供給されたデータ時系列Ｄ０，…，ＤＫ－１から多次元配列データを再構成するように構成されたデータ再構成系２０と、当該多次元配列データを入力とするニューラルネットワーク構造（以下「ＮＮ構造」という。）３０に基づく演算を実行することにより異常事象に関する予測情報を算出するように構成された推論演算部２７とを備えている。データ再構成系２０は、データ時系列Ｄ０，…，ＤＫ－１を受け付けて一時的に記憶するデータ入力部２３と、データ入力部２３を介して入力されたデータ時系列Ｄ０，…，ＤＫ－１から多次元配列データを生成するように構成されたデータ再構成部２５とを有する。推論演算部２７は、算出された予測情報を外部装置（図示せず）に出力することができる。
【0022】
データ再構成部２５は、データ時系列Ｄ０～ＤＫ－１の間に次元の不整合や測定時間の不整合が生じていたとしても、推論演算部２７のＮＮ構造３０で不整合が補償され得る構成をもつ多次元配列データを生成すること、または、不整合をもたない多次元配列データを生成することができる。ここで、ＮＮ構造３０で不整合が補償され得る構成とは、ＮＮ構造３０が不整合をもつ多次元配列データを受容しても当該多次元配列データを正常に処理することが可能となるようにデータ時系列Ｄ０～ＤＫ－１から再構成された構成をいう。
【0023】
図２は、データ時系列Ｄ０，Ｄ１，Ｄ２，Ｄ３の間に測定時間の不整合が生じている状況の例を表す図である。図２の例では、データ時系列Ｄ０は、等時間間隔で配列されている測定量Ｄ０（ｔ０），Ｄ０（ｔ１），Ｄ０（ｔ２），Ｄ０（ｔ３），Ｄ０（ｔ４），Ｄ０（ｔ５），Ｄ０（ｔ６），…の系列からなる。データ時系列Ｄ１は、等時間間隔で配列されている測定量Ｄ１（ｔ０），Ｄ１（ｔ２），Ｄ１（ｔ４），Ｄ１（ｔ６），…の系列からなるが、データ時系列Ｄ１の測定間隔は、データ時系列Ｄ０の測定間隔よりも長い。データ時系列Ｄ２は、等時間間隔で配列されている測定量Ｄ２（ｔ０），Ｄ２（ｔ１），Ｄ２（ｔ２），Ｄ２（ｔ３），Ｄ２（ｔ４），Ｄ２（ｔ５），Ｄ２（ｔ６），…の系列からなるが、データ時系列Ｄ２の測定間隔は、データ時系列Ｄ１の測定間隔よりもさらに長い。データ時系列Ｄ３は、不等時間間隔で配列されている測定量Ｄ３（ｔ０），Ｄ３（ｔ４），Ｄ３（ｔ６），…の系列からなる。図２に示されるように、たとえば、データ時系列Ｄ０，Ｄ２間では、測定量Ｄ０（ｔ０）に対応する測定量Ｄ２（ｔ０）が欠落しており、データ時系列Ｄ２，Ｄ３間では、測定量Ｄ２（ｔ１）に対応する測定量Ｄ３（ｔ１）が欠落していることが分かる。仮に、このようなデータ時系列Ｄ０～Ｄ３をそのまま統合してＮＮ構造３０に使用されるべき入力データが生成されれば、当該入力データは測定時間の不整合を含むことから、所望の予測精度を得ることができないおそれがある。
【0024】
図３は、データ時系列Ｄ０，Ｄ１，Ｄ２の間に次元の不整合が生じている状況の例を表す図である。図３の例では、データ時系列Ｄ０は、測定パラメータｘ０（ｔ），ｙ０（ｔ）からなる２次元のベクトル量Ｄ０（ｔ）の時系列であり、データ時系列Ｄ１は、測定パラメータｘ１（ｔ）からなる１次元のベクトル量（すなわちスカラー量）Ｄ１（ｔ）の時系列であり、データ時系列Ｄ２は、測定パラメータｘ２（ｔ）からなる１次元のベクトル量（すなわちスカラー量）Ｄ２（ｔ）の時系列である。データ時系列Ｄ０，Ｄ１間に次元の不整合が生じており、データ時系列Ｄ０，Ｄ２間に次元の不整合が生じていることが分かる。仮に、このようなデータ時系列Ｄ０～Ｄ２をそのまま統合して、ＮＮ構造３０に使用されるべき入力データが生成されれば、当該入力データは、ＮＮ構造３０に適合しない次元の不整合を含むおそれがある。この場合、ＮＮ構造３０に基づく演算が実行されたとしても所望の予測精度を得ることができないおそれがある。
【0025】
データ再構成部２５は、データ時系列Ｄ０，…，ＤＫ－１から、複数の測定パラメータと当該測定パラメータにそれぞれ割り当てられた相対時間値τとを配列要素として含む多次元配列データを再構成することができる。ここで、ギリシャ文字で表される相対時間値τは、共通の時間基準に基づいて設定される値であり、離散的な時間を表す変数である。測定パラメータは、スカラー量の測定値である。
【0026】
多次元配列データの配列要素である測定パラメータの各々は、データ時系列Ｄ０，…，ＤＫ－１の中から選択されたスカラー量の測定値（たとえば、図３の測定パラメータｘ０（ｔ），ｙ０（ｔ），ｘ１（ｔ）もしくはｘ２（ｔ））、または、補間もしくはゼロパディングにより付加されたスカラー量の値である。ゼロパディングとは、ゼロ値を付加することを意味する。このような測定パラメータの各々に相対時間値τが割り当てられる。多次元配列データは、推論演算部２７のＮＮ構造３０に受容される必要があるので、欠落した配列要素を含まないように構成される。データ再構成部２５は、データ時系列Ｄ０，…，ＤＫ－１の中から測定値を取捨選択することと相対時間値τの割り当てとにより、欠落した配列要素を含まない多次元配列データを再構成してもよいし、あるいは、データ時系列Ｄ０，…，ＤＫ－１の中から測定値を取捨選択することと、補間またはゼロパディングと、相対時間値τの割り当てとの組合せにより、欠落した配列要素を含まない多次元配列データを再構成してもよい。多次元配列データの具体例については後述する。
【0027】
図１を参照すると、推論演算部２７は、データ再構成部２５から入力された多次元配列データを用いてＮＮ構造３０に基づく演算を実行することにより、異常事象に関する予測情報を算出することができる。図４は、ＮＮ構造３０を概略的に示すブロック図である。図４に示されるように、ＮＮ構造３０は、多次元配列データを受容する入力層４０と、入力層４０を介して入力された多次元配列データを処理するための１つまたは複数の再帰型ニューラルネットワーク（Ｒｅｃｕｒｒｅｎｔ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ，ＲＮＮｓ）を含む中間層構造５０と、中間層構造５０の出力に基づいて予測情報を出力するように構成された出力層６０とを有する。ＮＮ構造３０は、確率的勾配降下法（Ｓｔｏｃｈａｓｔｉｃ Ｇｒａｄｉｅｎｔ Ｄｅｓｃｅｎｔ，ＳＧＤ）などの既知の機械学習（ｍａｃｈｉｎｅ ｌｅａｒｎｉｎｇ）アルゴリズムに従って、教師あり学習（ｓｕｐｅｒｖｉｓｅｄ ｌｅａｒｎｉｎｇ）または教師なし学習（ｕｎｓｕｐｅｒｖｉｓｅｄ ｌｅａｒｎｉｎｇ）により訓練可能な構造である。推論演算部２７は、学習済みのＮＮ構造３０を用いて予測情報を算出することができる。予測情報は、少なくとも１つの異常事象の度合いを示すリスク度と、当該異常事象が発生するであろう予測時間との組を示す情報である。ＮＮ構造３０の詳細については後述する。
【0028】
上記した異常予測装置１０の構成要素の全部または一部は、１つ以上のプロセッサを含む１台のコンピュータで実現されてもよいし、あるいは、通信路を介して相互に接続された複数台のコンピュータで実現されてもよい。異常予測装置１０の構成要素の全部または一部は、不揮発性メモリ（コンピュータ読み取り可能な記録媒体）から読み出されたソフトウェアまたはファームウェアのコード（命令群）による処理を実行する１つまたは複数の演算装置（Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔｓ）を含む１つ以上のプロセッサで実現されればよい。たとえば、演算装置としては、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）、ＧＰＵ（Ｇｒａｐｈｉｃｓ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）またはＮＰＵ（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｔ）が使用できる。ＧＰＵ及びＮＰＵは、人工ニューラルネットワーク（ＡＮＮ）に基づく演算（たとえばテンソル演算）に適した構造をもつように設計された演算装置である。ＮＰＵとしては、グーグル（Ｇｏｏｇｌｅ）社により開発されたＴＰＵ（Ｔｅｎｓｏｒ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）、インテル社により開発されたＶＰＵ（Ｖｉｓｉｏｎ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）、または、グラフコア（Ｇｒａｐｈｃｏｒｅ）社により開発されたＩＰＵ（Ｉｎｔｅｌｌｉｇｅｎｔ Ｐｒｏｃｅｓｓｏｒ Ｕｎｉｔ）が使用可能である。あるいは、異常予測装置１０の構成要素の全部または一部は、ＦＰＧＡ（Ｆｉｅｌｄ－Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）などの半導体集積回路を有する１つ以上のプロセッサにより実現可能である。あるいは、ＦＰＧＡなどの半導体集積回路と、ＣＰＵやＧＰＵなどの演算装置との組合せを含む１以上のプロセッサによって、異常予測装置１０の構成要素の全部または一部が実現されてもよい。
【0029】
図５は、異常予測装置１０を実現するハードウェア構成例である情報処理装置（コンピュータ）３００の概略構成図である。情報処理装置３００は、プロセッサ３０１、ランダムアクセスメモリ（ＲＡＭ：Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）３０２、不揮発性メモリ３０３、大容量メモリ３０４、入出力インタフェース３０５及び信号路３０６を含んで構成されている。信号路３０６は、プロセッサ３０１、ＲＡＭ３０２、不揮発性メモリ３０３、大容量メモリ３０４及び入出力インタフェース３０５を相互に接続するためのバスである。ＲＡＭ３０２は、プロセッサ３０１がディジタル信号処理を実行する際に使用されるデータ記憶領域である。プロセッサ３０１がＣＰＵやＧＰＵなどの演算装置を内蔵する場合には、不揮発性メモリ３０３は、プロセッサ３０１により実行されるソフトウェアのコードが格納されているデータ記憶領域を有する。たとえば、図１のデータ入力部２３は、入出力インタフェース３０５により実現可能であり、図１のデータ再構成部２５及び推論演算部２７は、プロセッサ３０１、ＲＡＭ３０２及び不揮発性メモリ３０３により実現可能である。大容量メモリ３０４は、プロセッサ３０１で算出された予測情報を格納することができる。
【0030】
【0031】
図６を参照すると、データ再構成部２５は、データ入力部２３に一時的に記憶されているデータ群の中からデータ時系列Ｄ０，…，ＤＫ－１を読み込み（ステップＳ１１）、当該データ時系列Ｄ０，…，ＤＫ－１から、複数の測定パラメータと当該複数の測定パラメータにそれぞれ割り当てられた複数の相対時間値τとを配列要素として含む多次元配列データを再構成する（ステップＳ１２）。
【0032】
次いで、推論演算部２７は、多次元配列データを入力としてニューラルネットワーク構造３０に基づく演算を実行することにより、異常事象に関する予測情報を算出する（ステップＳ１３）。
【0033】
その後、推論演算部２７は、処理を続行すると判定したときは（ステップＳ２０のＹＥＳ）、ステップＳ１１に処理を戻す。このとき、データ再構成部２５は、データ入力部２３に一時的に記憶されている一群のデータの中から新たなデータ時系列Ｄ０，…，ＤＫ－１を読み込み（ステップＳ１１）、当該新たなデータ時系列Ｄ０，…，ＤＫ－１から多次元配列データを再構成する（ステップＳ１２）。次いで、推論演算部２７は、当該多次元配列データを入力としてニューラルネットワーク構造３０に基づく演算を実行することにより、異常事象に関する予測情報を算出する（ステップＳ１３）。このようにして異常予測装置１０は、逐次的かつリアルタイムに異常事象の発生を予測することができる。最終的に、推論演算部２７は、処理を続行しないと判定したときは（ステップＳ２０のＮＯ）、処理を終了させる。
【0034】
以下、データ再構成部２５で生成される多次元配列データの種々の例について説明するとともに、多次元配列データを受容して処理し得るように構成されたＮＮ構造３０の種々の例について説明する。
【0035】
上記のとおり、データ再構成部２５は、データ時系列Ｄ０，…，ＤＫ－１から、複数の測定パラメータと当該測定パラメータにそれぞれ割り当てられた相対時間値τとを配列要素として含む多次元配列データを再構成することができる。データ時系列Ｄ０～ＤＫ－１の間に次元の不整合や測定時間の不整合が生じていたとしても、データ再構成部２５は、推論演算部２７のＮＮ構造３０で不整合が補償され得る構成をもつ多次元配列データを生成することができる。図７及び図８は、ＮＮ構造３０で不整合が補償され得る構成をもつ多次元配列データＭＤ１，ＭＤ２を例示する図である。図９～図１１の各図は、多次元配列データＭＤ１，ＭＤ２の各々が不整合を有する場合であっても、その不整合を補償しつつ多次元配列データＭＤ１，ＭＤ２の各々を処理できるように構成されたＮＮ構造を例示する図である。
【0036】
図７に示される多次元配列データＭＤ１は、複数のベクトル系列Ｇ０，Ｇ１，…，ＧＫ－１で構成されている。ｋ番目のベクトル系列Ｇｋは、各々が測定パラメータｐｋ（τ）とこれに割り当てられた相対時間値τとを配列要素として有する複数の２次元ベクトルｖｋ（τ）の系列である（τ＝τｋ,０，τｋ,１，τｋ,２，…，τｋ,Ｎ－１）。ここで、インデックスｋは、０～Ｋ－１の範囲内の任意の整数であり、Ｎは、可変の系列長（すなわち、２次元ベクトルの個数）を示す正整数である。各ベクトル系列Ｇｋは、測定パラメータｐｋ（τｋ,０），ｐｋ（τｋ,１），ｐｋ（τｋ,２），…，ｐｋ（τｋ,Ｎ－１）を指定するための次元と、相対時間値τｋ,０，τｋ,１，τｋ,２，…，τｋ,Ｎ－１を指定するための次元とを有している。たとえば、データ入力部２３から供給されたデータ時系列Ｄ０，…，ＤＫ－１の各々がスカラー量の時系列からなる場合には、データ再構成部２５は、データ時系列Ｄ０，…，ＤＫ－１からそれぞれ２次元ベクトル系列Ｇ０，Ｇ１，…，ＧＫ－１を再構成することができる。
【0037】
一方、図８に示される多次元配列データＭＤ２は、複数のベクトル系列Ｇ０，Ｇ１，…，ＧＫ－１で構成されている。０番目のベクトル系列Ｇ０は、各々が測定パラメータｐ０（τ），ｑ０（τ）とこれらに割り当てられた相対時間値τとを配列要素として有する複数の３次元ベクトルｖ０（τ）の系列である（τ＝τ０,０，τ０,１，τ０,２，…，τ０,Ｎ－１）。このベクトル系列Ｇ０は、測定パラメータｐ０（τ０,０），ｐ０（τ０,１），ｐ０（τ０,２），…，ｐ０（τ０,Ｎ－１）を指定するための次元と、測定パラメータｑ０（τ０,０），ｑ０（τ０,１），ｑ０（τ０,２），…，ｑ０（τ０,Ｎ－１）を指定するための次元と、相対時間値τ０,０，τ０,１，τ０,２，…，τ０,Ｎ－１を指定するための次元とを有している。０番目以外のｋ番目のベクトル系列Ｇｋは、各々が測定パラメータｐｋ（τ）とこれに割り当てられた相対時間値τとを配列要素として有する複数の２次元ベクトルｖｋ（τ）の系列である（τ＝τｋ,０，τｋ,１，τｋ,２，…，τｋ,Ｎ－１）。このベクトル系列Ｇｋは、測定パラメータｐｋ（τｋ,０），ｐｋ（τｋ,１），ｐｋ（τｋ,２），…，ｐｋ（τｋ,Ｎ－１）を指定するための次元と、相対時間値τｋ,０，τｋ,１，τｋ,２，…，τｋ,Ｎ－１を指定するための次元とを有している。よって、多次元配列データＭＤ２は、０番目のベクトル系列Ｇ０と０番目以外のｋ番目のベクトル系列Ｇｋとの間に次元の不整合を有している。たとえば、図３に示したように、０番目のデータ時系列Ｄ０が２次元ベクトル量の時系列からなり、０番目以外のｋ番目のデータ時系列Ｄｋがスカラー量の時系列からなる場合には、データ再構成部２５は、データ時系列Ｄ０から３次元ベクトル系列Ｇ０を再構成するとともに、データ時系列Ｄ１，…，ＤＫ－１からそれぞれ２次元ベクトル系列Ｇ１，…，ＧＫ－１を再構成することができる。
【0038】
なお、図７及び図８の例では、Ｋ個のベクトル系列Ｇ０，Ｇ１，…，ＧＫ－１の系列長はすべて同じ値（＝Ｎ）であるが、これに限定されるものではない。ｉ，ｊを１～Ｋの範囲内の互いに異なる任意整数（ｉ≠ｊ）とするとき、データ再構成部２５は、ｉ番目のベクトル系列Ｇｉの系列長とｊ番目のベクトル系列Ｇｊの系列長とが互いに異なるように多次元配列データＭＤ１，ＭＤ２の各々を構成することができる。
【0039】
図９は、一例としてのＮＮ構造３１を表す図である。図９を参照すると、ＮＮ構造３１は、ベクトル系列Ｇ０，…，ＧＫ－１からなる多次元配列データＭＤｘを受容する入力層４１と、入力層４１を介して入力されたベクトル系列Ｇ０，Ｇ１，…，ＧＫ－１をそれぞれ並列に処理するように構成された再帰型ニューラルネットワーク（ＲＮＮ）７００，７０１，…，７０Ｋ－１を含む中間層構造５１と、中間層構造５１の出力に基づいて予測情報を出力するように構成された出力層６１とを有する。ＮＮ構造３１は、図７及び図８に示した多次元配列データＭＤ１，ＭＤ２の各々を多次元配列データＭＤｘとして受容し処理することができる。ただし、ＮＮ構造３１で処理可能な多次元配列データは、図７及び図８に示したものに限定されるものではない。
【0040】
予測情報は、異常事象の度合いを示すリスク度Ｄｒと当該異常事象が発生するであろう予測時間Ｔｐとの組（Ｄｒ，Ｔｐ）を示す情報である。リスク度Ｄｒは、およそ０～１の範囲内の値を有する。リスク度Ｄｒが０の値に近いほど異常事象の度合いが低く、リスク度Ｄｒが１の値に近いほど異常事象の度合いが高くなるように、ＮＮ構造３１の機械学習を行うことが可能である。
【0041】
図９に示されるように中間層構造５１は、ＲＮＮ７００，…，７０Ｋ－１に加えて、ＲＮＮ７００，…，７０Ｋ－１の出力を連結するように構成された連結層７５と、連結層７５の出力を処理するように構成された順伝播型ニューラルネットワーク８１とをさらに含む。以下、説明の便宜上、「順伝播型ニューラルネットワーク」を「順伝播型ＮＮ」と呼ぶこととする。
【0042】
ＲＮＮ７００～７０Ｋ－１は、それぞれ、入力されるベクトル系列Ｇ０～ＧＫ－１のサイズ（ベクトル次元）に適合するように構成されており、基本的に同じ構成を有している。ｋ番目のＲＮＮ７０ｋは、入力層４１を介して入力されたｋ番目のベクトル系列Ｇｋを処理するように構成された再帰層（ＲＬ）７１ｋと、最終出力層（ＬＯ）７２ｋとを含む。再帰層７１ｋは、内部に有向閉路をもつニューラルネットワーク層であり、入力されたベクトル系列Ｇｋから時間依存の特徴量を抽出することができる。再帰層７１ｋとしては、たとえば、長短期記憶（Ｌｏｎｇ Ｓｈｏｒｔ－Ｔｅｒｍ Ｍｅｍｏｒｙ，ＬＳＴＭ）層、ＬＳＴＭ層の改良版、ゲート付き再帰型ユニット（Ｇａｔｅｄ Ｒｅｃｕｒｒｅｎｔ Ｕｎｉｔ，ＧＲＵ）層、または疑似ＲＮＮ（Ｑｕａｓｉ－ＲＮＮ，ＱＲＮＮ）層を使用することが可能である。これらＬＳＴＭ層、ＬＳＴＭ層の改良版、ＧＲＵ層及びＱＲＮＮ層の構成は、たとえば、下記の非特許文献１に開示されている。
【0043】
・非特許文献１：Nesma M. Rezk, Madhura Purnaprajna, Tomas Nordstrom, Zain Ul-Abdin: Recurrent Neural Networks: An Embedded Computing Perspective. IEEE Access 8: 57967-57996 (2020).
【0044】
今、ｋ番目のベクトル系列Ｇｋが、Ｎ個のベクトルｖｋ（τ０），ｖｋ（τ１），ｖｋ（τ２），…，ｖｋ（τＮ－１）の系列（Ｎは、可変の系列長を示す正整数）からなるとすれば、再帰層７１ｋは、Ｎ個のベクトルｖｋ（τ０），…，ｖｋ（τＮ－１）を順次処理することにより、Ｎ個の出力ベクトルｈｋ（τ０），…，ｈｋ（τＮ－１）の系列を生成するように構成されている。最終出力層７２ｋは、当該出力ベクトルの系列のうちの最終の出力ベクトルｈｋ（τＮ－１）を選択して出力するように構成されている。
【0045】
なお、ＲＮＮ７００～７０Ｋ－１の各々は、任意サイズの入力ベクトルの系列を処理し、任意サイズの出力ベクトルを生成するように個別に構成され得る。ここで、ベクトルのサイズとは、当該ベクトルの要素数（ベクトル次元）を意味する。たとえば、０番目のＲＮＮ７００が３次元ベクトル（サイズ３のベクトル）の系列を入力として４０次元の出力ベクトル（サイズ４０のベクトル）を生成するのに対し、１番目のＲＮＮ７０１が２次元ベクトル（サイズ２のベクトル）の系列を入力として５０次元の出力ベクトル（サイズ５０のベクトル）を生成するようにＲＮＮ７００，７０１を構成することが可能である。
【0046】
連結層７５は、ＲＮＮ７００，…，７０Ｋ－１の出力ベクトルｈ０（τＮ－１），…，ｈＫ－１（τＮ－１）を連結することができる。たとえば、各出力ベクトルｈｋ（τＮ－１）がサイズ４０をもつ（すなわち、４０次元ベクトルである）場合には、連結層７５は、出力ベクトルｈ０（τＮ－１），…，ｈＫ－１（τＮ－１）を連結して４０×Ｋのサイズをもつ連結ベクトル（すなわち、４０×Ｋ次元ベクトル）を生成しこれを出力することができる。
【0047】
順伝播型ＮＮ８１は、互いに並列に配置された２つのサブニューラルネットワーク９０，１００を有する。以下、説明の便宜上、「サブニューラルネットワーク」を「サブＮＮ」と呼ぶこととする。
【0048】
サブＮＮ９０，１００の各々は、連結層７５から入力された連結ベクトルを処理するように構成されている。サブＮＮ９０は、非線形変換層（ＮＬＬ）９１、線形変換層（ＬＬ）９２、非線形変換層（ＮＬＬ）９３、線形変換層（ＬＬ）９４、正規化層（ＮＬ）９５、線形変換層（ＬＬ）９７、非線形変換層（ＮＬＬ）９８及び線形変換層（ＬＬ）９９を有する。
【0049】
非線形変換層９１は、連結層７５から入力された連結ベクトルの各要素に対して、活性化関数を用いた非線形変換を行うように構成されている。活性化関数としては、たとえば、ランプ関数、または、ロジスティックシグモイド関数（ｌｏｇｉｓｔｉｃ ｓｉｇｍｏｉｄ ｆｕｎｃｔｉｏｎ）もしくは双曲線正接関数などのシグモイド関数が使用可能である。ランプ関数は、ＲｅＬＵ（Ｒｅｃｔｉｆｉｅｄ Ｌｉｎｅａｒ Ｕｎｉｔ：正規化線形関数）とも呼ばれている。
【0050】
線形変換層９２は、非線形変換層９１から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。重み行列をＷで表し、バイアスベクトルをｂで表し、入力ベクトルをｖｉｎで表し、出力ベクトルをｖｏｕｔで表すとすれば、一般に、線形変換は次式で表現できる。
ｖｏｕｔ＝Ｗ・ｖｉｎ＋ｂ
ｖｏｕｔ＝Ｗ・ｖｉｎ＋ｂ
【0051】
非線形変換層９３は、線形変換層９２の出力ベクトルの各要素に対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。線形変換層９４は、非線形変換層９３から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。正規化層９５は、線形変換層９４から入力されたベクトルの各要素に正規化を施して正規化ベクトルを生成することができる。正規化としては、たとえば、減算正規化（ｓｕｂｔｒａｃｔｉｖｅ ｎｏｒｍａｌｉｚａｔｉｏｎ）または除算正規化（ｄｉｖｉｓｉｖｅ ｎｏｒｍａｌｉｚａｔｉｏｎ）といった公知の方法が適用可能である。線形変換層９７は、その正規化ベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。非線形変換層９８は、線形変換層９７から入力されたベクトルの各要素に対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。そして、線形変換層９９は、非線形変換層９８から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うことによりスカラー量のリスク度Ｄｒを生成する。リスク度Ｄｒは、出力層６１のノードを介して外部に出力される。
【0052】
サブＮＮ１００の基本構成は、機械学習アルゴリズムにより更新されるパラメータ群（たとえば、重み行列の要素及びバイアスベクトルの要素）の値を除いて、サブＮＮ９０の基本構成と同じである。図９に示されるように、サブＮＮ１００は、非線形変換層（ＮＬＬ）１０１、線形変換層（ＬＬ）１０２、非線形変換層（ＮＬＬ）１０３、線形変換層（ＬＬ）１０４、正規化層（ＮＬ）１０５、線形変換層（ＬＬ）１０７、非線形変換層（ＮＬＬ）１０８及び線形変換層（ＬＬ）１０９を有する。
【0053】
非線形変換層１０１は、連結層７５から入力された連結ベクトルの各要素に対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。線形変換層１０２は、非線形変換層１０１から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。非線形変換層１０３は、線形変換層１０２の出力ベクトルの各要素に対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。線形変換層１０４は、非線形変換層１０３から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。正規化層１０５は、線形変換層１０４から入力されたベクトルの各要素に正規化を施して正規化ベクトルを生成することができる。線形変換層１０７は、その正規化ベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。非線形変換層１０８は、線形変換層１０７から入力されたベクトルに対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。そして、線形変換層１０９は、非線形変換層１０８から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うことによりスカラー量の予測時間Ｔｐを生成する。予測時間Ｔｐは、出力層６１のノードを介して外部に出力される。
【0054】
以上に説明したように図９に示したＮＮ構造３１は、入力層４１を介して入力されたベクトル系列Ｇ０，Ｇ１，…，ＧＫ－１をそれぞれ並列に受容し処理することができるＲＮＮ７００，７０１，…，７０Ｋ－１と、ＲＮＮ７００，７０１，…，７０Ｋ－１の出力を連結し得る連結層７５とを有している。このため、ベクトル系列Ｇ０，Ｇ１，…，ＧＫ－１の間で不整合が生じている場合（たとえば、図８に示すような次元の不整合が生じている場合）でも、ＮＮ構造３１はその不整合を補償することができるので、推論演算部２７は、ＮＮ構造３１に基づく信頼性の高い演算を実行することができる。また、各ベクトル系列Ｇｋは、各々が少なくとも１つの測定パラメータとこれに割り当てられた相対時間値とを配列要素としてもつ複数のベクトルの系列からなるので、ＮＮ構造３１は、時間情報が正確に対応付けされた測定パラメータ群を処理することができる。これにより、予測情報（Ｄｒ，Ｔｐ）を高い精度で算出することが可能となる。
【0055】
ところで、ＮＮ構造３１は、１種類の異常事象の発生を予測できるように構成されているが、これに限定されず、２種類以上の異常事象の発生を予測できるようにＮＮ構造３１の構成を適宜変形することができる。図１０は、ＮＮ構造３１の変形例であるＮＮ構造３２を表す図である。ＮＮ構造３２は２種類の異常事象の発生を予測できるように構成されている。
【0056】
図１０を参照すると、ＮＮ構造３２は、ベクトル系列Ｇ０，…，ＧＫ－１からなる多次元配列データＭＤｘを受容する入力層４１と、入力層４１を介して入力されたベクトル系列Ｇ０，Ｇ１，…，ＧＫ－１をそれぞれ並列に処理するように構成されたＲＮＮ７００，７０１，…，７０Ｋ－１を含む中間層構造５２と、中間層構造５２の出力に基づいて２種類の予測情報を出力するように構成された出力層６２とを有する。中間層構造５２は、ＲＮＮ７００，…，７０Ｋ－１の出力を連結するように構成された連結層７５と、連結層７５の出力を処理するように構成された順伝播型ＮＮ８２とをさらに含む。
【0057】
順伝播型ＮＮ８２は、互いに並列に配置された２つのサブＮＮ９０Ａ，１００Ａを有し、サブＮＮ９０Ａ，１００Ａの各々は、連結層７５から入力された連結ベクトルを処理するように構成されている。
【0058】
サブＮＮ９０Ａの構成は、図９のサブＮＮ９０の線形変換層９９に代えて２つの線形変換層（ＬＬ）９９１，９９２を有する点を除いて、サブＮＮ９０の構成と同じである。線形変換層９９１は、非線形変換層９８から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うことにより、第１の異常事象の度合いを示すスカラー量のリスク度Ｄｒ１を生成する。一方、線形変換層９９２は、非線形変換層９８から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うことにより、第２の異常事象の度合いを示すスカラー量のリスク度Ｄｒ２を生成する。リスク度Ｄｒ１，Ｄｒ２は、出力層６２のノードを介して外部に出力される。
【0059】
サブＮＮ１００Ａの構成は、図９のサブＮＮ１００の線形変換層１０９に代えて２つの線形変換層（ＬＬ）１０９１，１０９２を有する点を除いて、サブＮＮ１００の構成と同じである。線形変換層１０９１は、非線形変換層１０８から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うことにより、第１の異常事象が発生するであろう予測時間Ｔｐ１を生成する。一方、線形変換層１０９２は、非線形変換層１０８から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うことにより、第２の異常事象が発生するであろう予測時間Ｔｐ２を生成する。予測時間Ｔｐ１，Ｔｐ２は、出力層６２のノードを介して外部に出力される。
【0060】
なお、図９のＮＮ構造３１において、サブＮＮ９０の線形変換層９９に代えて３つ以上の線形変換層を有するようにサブＮＮ９０の構成を変更し、サブＮＮ１００の線形変換層１０９に代えて３つ以上の線形変換層を有するようにサブＮＮ１００の構成を変更してもよい。これにより、３種類以上の異常事象の発生を予測できるＮＮ構造を構築することができる。
【0061】
図１１は、ＮＮ構造３１の他の変形例であるＮＮ構造３３を表す図である。ＮＮ構造３３は、２種類の異常事象の発生を予測できるように構成されている。
【0062】
図１１を参照すると、ＮＮ構造３３は、ベクトル系列Ｇ０，…，ＧＫ－１からなる多次元配列データＭＤｘを受容する入力層４１と、入力層４１を介して入力されたベクトル系列Ｇ０，Ｇ１，…，ＧＫ－１をそれぞれ並列に処理するように構成されたＲＮＮ７００，７０１，…，７０Ｋ－１を含む中間層構造５３と、中間層構造５３の出力に基づいて２種類の予測情報を出力するように構成された出力層６３とを有する。中間層構造５３は、ＲＮＮ７００，…，７０Ｋ－１の出力を連結するように構成された連結層７５と、連結層７５の出力を処理するように構成された順伝播型ＮＮ８３とをさらに含む。
【0063】
順伝播型ＮＮ８３は、互いに並列に配置された４つのサブＮＮ９０，１００，１１０，１２０を有し、サブＮＮ９０，１００，１１０，１２０の各々は、連結層７５から入力された連結ベクトルを処理するように構成されている。
【0064】
図１１に示されるサブＮＮ９０，１００の構成は、それぞれ、図９に示されるサブＮＮ９０，１００の構成と同じである。サブＮＮ９０は、第１の異常事象の度合いを示すリスク度Ｄｒ１を生成し、サブＮＮ１００は、当該第１の異常事象が発生するであろう予測時間Ｔｐ１を生成することができる。リスク度Ｄｒ１及び予測時間Ｔｐ１は、出力層６３のノードを介して外部に出力される。
【0065】
図１１に示されるサブＮＮ１１０，１２０の基本構成は、機械学習アルゴリズムにより更新されるパラメータ群（たとえば、重み行列の要素及びバイアスベクトルの要素）の値を除いて、サブＮＮ９０，１００の基本構成とそれぞれ同じである。
【0066】
サブＮＮ１１０は、図１１に示されるように、非線形変換層（ＮＬＬ）１１１、線形変換層（ＬＬ）１１２、非線形変換層（ＮＬＬ）１１３、線形変換層（ＬＬ）１１４、正規化層（ＮＬ）１１５、線形変換層（ＬＬ）１１７、非線形変換層（ＮＬＬ）１１８及び線形変換層（ＬＬ）１１９を有する。非線形変換層１１１は、連結層７５から入力された連結ベクトルの各要素に対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。線形変換層１１２は、非線形変換層１１１から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。非線形変換層１１３は、線形変換層１１２の出力ベクトルの各要素に対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。線形変換層１１４は、非線形変換層１１３から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。正規化層１１５は、線形変換層１１４から入力されたベクトルの各要素に正規化を施して正規化ベクトルを生成することができる。線形変換層１１７は、その正規化ベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。非線形変換層１１８は、線形変換層１１７から入力されたベクトルの各要素に対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。そして、線形変換層１１９は、非線形変換層１１８から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うことにより、第２の異常事象の度合いを示すリスク度Ｄｒ２を生成する。リスク度Ｄｒ２は、出力層６３のノードを介して外部に出力される。
【0067】
サブＮＮ１２０は、図１１に示されるように、非線形変換層（ＮＬＬ）１２１、線形変換層（ＬＬ）１２２、非線形変換層（ＮＬＬ）１２３、線形変換層（ＬＬ）１２４、正規化層（ＮＬ）１２５、線形変換層（ＬＬ）１２７、非線形変換層（ＮＬＬ）１２８及び線形変換層（ＬＬ）１２９を有する。非線形変換層１２１は、連結層７５から入力された連結ベクトルの各要素に対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。線形変換層１２２は、非線形変換層１２１から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。非線形変換層１２３は、線形変換層１２２の出力ベクトルの各要素に対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。線形変換層１２４は、非線形変換層１２３から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。正規化層１２５は、線形変換層１２４から入力されたベクトルの各要素に正規化を施して正規化ベクトルを生成することができる。線形変換層１２７は、その正規化ベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。非線形変換層１２８は、線形変換層１２７から入力されたベクトルの各要素に対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。そして、線形変換層１２９は、非線形変換層１２８から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うことにより、第２の異常事象が発生するであろう予測時間Ｔｐ２を生成する。予測時間Ｔｐ２は、出力層６３のノードを介して外部に出力される。
【0068】
なお、図９のＮＮ構造３１において、サブＮＮ９０，１００の組と同じ基本構成を有するサブＮＮの組を２つ以上追加してもよい。これにより、３種類以上の異常事象の発生を予測できるＮＮ構造を構築することができる。
【0069】
【0070】
この実施例は、人工透析機器が、対象物体Ｔｇｔである透析中の人の生体状態をモニタリング（監視）することにより得られた測定データ群を用いて行われた。予測対象となる異常事象は、血圧低下であり、予測情報は、血圧低下のリスク度Ｄｒと、血圧低下が発生するであろう予測時間Ｔｐ（単位：秒）との組である。リスク度Ｄｒは、およそ０～１の範囲内の値を有する。リスク度Ｄｒが０の値に近いほど血圧低下の度合いが低く、リスク度Ｄｒが１の値に近いほど血圧低下の度合いが高い。
【0071】
図１２は、実施例で実際に使用された７種類の測定パラメータｐｋ（τ）と２次元の入力ベクトル系列Ｇｋとの間の関係をテーブル形式で表す図である（インデックスｋは、０～６の範囲内の整数である。）。血圧回路圧ｐ０（τ）、透析液回路圧ｐ１（τ）、除水達成量ｐ２（τ）、ヘマトクリット値ｐ３（τ）、脈拍数ｐ４（τ）、酸素飽和度ｐ５（τ）及び血圧値ｐ６（τ）が、監視パラメータとして実際に測定された。これら測定パラメータｐ０（τ）～ｐ６（τ）はいずれもスカラー量である。ここで、除水達成量ｐ２（τ）は、人の体内から除去された水分の積算量であり、ヘマトクリット値ｐ３（τ）は、血液中の血球成分の容積の割合であり、血液濃縮度の指標となり得る値である。血圧値ｐ６（τ）は、マンシェット（ｍａｎｃｈｅｔｔｅ）を用いて血圧計で計測された値である。マンシェットとは、血圧測定時に血圧計と接続されて人の上腕部を包み込む細長い環状帯である。
【0072】
除水達成量ｐ２（τ）は６０秒ごと、血圧値ｐ６（τ）は３０分ごと、その他の測定パラメータｐ０（τ），ｐ１（τ），ｐ３（τ）～ｐ５（τ）は２０秒ごとにそれぞれ測定された。このように測定間隔が不揃いであるので、ベクトル系列Ｇ０～Ｇ６からなる多次元配列データは、測定時間の不整合を有する。これに対し、ＮＮ構造３１のＲＮＮ７００～７０６は、ベクトル系列Ｇ０～Ｇ６をそれぞれ並列に受容し処理することができるので、不整合を補償することができる。
【0073】
学習データ及びテストデータについては、異常事象（血圧低下）の発生有りを示す５０個の測定データ群Λ１～Λ５０と、異常事象の発生無しを示す１２５個の測定データ群Φ１～Φ１２５とが用意された。学習データは、５０個の測定データ群Λ１～Λ５０からランダムに選択された４０個のデータ群λ１～λ４０と、１２５個の測定データ群Φ１～Φ１２５からランダムに選択された１００個のデータ群φ１～φ１００である。この学習データを用いて、測定データと、異常事象の有無及び異常事象の発生時間との間の関連をＮＮ構造３１に学習させた。予測精度の検証用のテストデータとしては、５０個の測定データ群Λ１～Λ５０のうちの残りの１０個のデータ群と、１２５個の測定データ群Φ１～Φ１２５のうちの残りの２５個のデータ群とが使用された。
【0074】
具体的には、モニタリング開始時を起点として２０分（＝１２００秒）刻みで区切り時刻が設定され、その起点から異常事象発生時点を含まない直前の区切り時刻までの時間区間の測定データ群が、学習の対象とされた。加えて、その時間区間より最後の２０分及び４０分だけ短い時間区間の測定データ群も学習の対象とされた。よって、学習データは、異常事象発生時点以降のデータを含まない。その理由は、異常事象発生前の測定データに起因する異常事象（血圧低下）の発生及びその発生時間の予見性を調べることが目的だからである。異常事象が観察されなかったデータについては、リスク度の値として０が割り当てられ、発生時間として、モニタリング工程のエンドポイントよりもさらに遠位の時点（＝２００００秒）が一律に割り当てられた。
【0075】
テストデータについては、モニタリング開始時から２時間（＝７２００秒）の時点までの時間区間が最初の時間区間として設定された。この最初の時間区間から２０分（＝１２００秒）刻みで長さを延長して得られた複数の時間区間における測定データ群が、テストデータの対象とされた。このようにした理由は、実際の治療においてリアルタイムで測定データが増えていく状況を模した条件を実現するとともに、異常事象の予測が可能な最も早い段階を探るためである。このテストデータを用いて、学習済みのＮＮ構造３１に基づく演算が実行された。リスク度Ｄｒが０．５を超えたデータ群は、異常事象の発生有りと判定された。また、予測時間Ｔｐについては、初めて５時間の治療時間（＝１８００秒）よりも小さい値をもつ時刻が採用された。
【0076】
図１３は、上記した条件下での実施例の結果を示すグラフである。図１３のグラフにおいて、横軸は、異常事象が発生した実際の時間ｔに対応し（単位：秒）、縦軸は、異常事象が発生するであろう予測時間τに対応する。図１４は、実施例の結果をテーブル形式で示す図である。すなわち、真陽性の数（Ｎａａ）は９、偽陽性の数（Ｎａｂ）は１、真陰性の数（Ｎｂｂ）は２４、偽陰性の数（Ｎｂａ）は１であった。よって、感度（再現率）は９０％（＝Ｎａａ／（Ｎａａ＋Ｎｂａ））、特異度は９６％（＝Ｎｂｂ／（Ｎａｂ＋Ｎｂｂ））、陽性予測的中率は９０％（＝Ｎａａ／（Ｎａａ＋Ｎａｂ））、陰性予測的中率は９６％（＝Ｎｂｂ／（Ｎｂｂ＋Ｎｂａ））という良好な検出性能が確認された。図１３のグラフには示されていないが、予測時間Ｔｐはすべて２０分以上前に異常事象の発生を予測するものであった。よって、血圧低下を予防する措置をとる時間的猶予を確保できるので、実用上のメリットがあると思われる。
【0077】
上記のとおり、図９～図１１に示したＮＮ構造３１，３２，３３の各々は、複数のベクトル系列Ｇ０，Ｇ１，…，ＧＫ－１からなる多次元配列データＭＤｘのみを受容するように構成されている。この代わりに、多次元配列データＭＤｘと対象物体Ｔｇｔの属性情報とを受容するようにそれらＮＮ構造の構成が変形されてもよい。
【0078】
対象物体Ｔｇｔの属性情報としては、たとえば、人などの生体の固有の情報から構成されるスカラー量またはベクトル量が使用可能である。より具体的には、たとえば、属性情報として、年齢、性別、肥満度（ＢＭＩ：Ｂｏｄｙ Ｍａｓｓ Ｉｎｄｅｘ）、及び、糖尿病などの特定の疾患の有無をそれぞれ示す数値が使用できる。この場合、図１に示されるデータ再構成部２５または推論演算部２７は、属性情報があらかじめ格納された内部メモリ（図示せず）を有し、この内部メモリから読み出された属性情報をＮＮ構造に供給するように構成されればよい。あるいは、データ再構成部２５または推論演算部２７は、外部の情報源（図示せず）から属性情報を取得し、取得された属性情報をＮＮ構造に供給するように構成されてもよい。
【0079】
図１５は、図９に示したＮＮ構造３１の変形例であるＮＮ構造３１Ｂを表す図である。ＮＮ構造３１Ｂは、ベクトル系列Ｇ０，…，ＧＫ－１からなる多次元配列データＭＤｘと対象物体Ｔｇｔの属性情報ＡＤとを受容する入力層４２と、入力層４２を介して入力されたベクトル系列Ｇ０，…，ＧＫ－１及び属性情報ＡＤを処理するように構成された中間層構造５１Ｂと、中間層構造５１Ｂの出力に基づいて２種類の予測情報を出力するように構成された出力層６２とを有する。中間層構造５１Ｂは、ベクトル系列Ｇ０，Ｇ１，…，ＧＫ－１をそれぞれ並列に処理するように構成されたＲＮＮ７００，７０１，…，７０Ｋ－１と、連結層７５Ｂと、互いに並列に配置されたサブＮＮ９０Ｂ，１００Ｂからなる順伝播型ＮＮ８１Ｂとを含む。
【0080】
連結層７５Ｂは、ＲＮＮ７００，７０１，…，７０Ｋ－１で生成されたＫ個のベクトルと属性情報ＡＤのスカラー値またはベクトルとを連結することで連結ベクトルを生成するように構成されている。たとえば、連結層７５Ｂは、ＲＮＮ７００，７０１，…，７０Ｋ－１からそれぞれ入力されたＫ個の２０次元ベクトルと属性情報ＡＤの１０次元ベクトルとを連結して、（Ｋ×２０＋１０）次元の連結ベクトルを生成するように構成され得る。
【0081】
サブＮＮ９０Ｂ，１００Ｂの各々は、連結層７５Ｂから入力された連結ベクトルを処理するように構成されている。サブＮＮ９０Ｂは、図９に示したサブＮＮ９０と同じ基本構成を有している。サブＮＮ９０Ｂは、非線形変換層（ＮＬＬ）９１Ｂ、線形変換層（ＬＬ）９２Ｂ、非線形変換層（ＮＬＬ）９３Ｂ、線形変換層（ＬＬ）９４Ｂ、正規化層（ＮＬ）９５Ｂ、線形変換層（ＬＬ）９７Ｂ、非線形変換層（ＮＬＬ）９８Ｂ及び線形変換層（ＬＬ）９９Ｂを有する。これら非線形変換層９１Ｂ、線形変換層９２Ｂ、非線形変換層９３Ｂ、線形変換層９４Ｂ、正規化層９５Ｂ、線形変換層９７Ｂ、非線形変換層９８Ｂ及び線形変換層９９Ｂは、図９に示したサブＮＮ９０における非線形変換層９１、線形変換層９２、非線形変換層９３、線形変換層９４、正規化層９５、線形変換層９７、非線形変換層９８及び線形変換層９９とそれぞれ同じ基本構成を有している。サブＮＮ９０Ｂはスカラー量のリスク度Ｄｒを生成し、リスク度Ｄｒは出力層６１のノードを介して外部に出力される。
【0082】
一方、サブＮＮ１００Ｂも、図９に示したサブＮＮ１００と同じ基本構成を有している。サブＮＮ１００Ｂは、非線形変換層（ＮＬＬ）１０１Ｂ、線形変換層（ＬＬ）１０２Ｂ、非線形変換層（ＮＬＬ）１０３Ｂ、線形変換層（ＬＬ）１０４Ｂ、正規化層（ＮＬ）１０５Ｂ、線形変換層（ＬＬ）１０７Ｂ、非線形変換層（ＮＬＬ）１０８Ｂ及び線形変換層（ＬＬ）１０９Ｂを有する。これら非線形変換層１０１Ｂ、線形変換層１０２Ｂ、非線形変換層１０３Ｂ、線形変換層１０４Ｂ、正規化層１０５Ｂ、線形変換層１０７Ｂ、非線形変換層１０８Ｂ及び線形変換層１０９Ｂは、図９に示したサブＮＮ１００における非線形変換層１０１、線形変換層１０２、非線形変換層１０３、線形変換層１０４、正規化層１０５、線形変換層１０７、非線形変換層１０８及び線形変換層１０９とそれぞれ同じ基本構成を有している。サブＮＮ１００Ｂはスカラー量の予測時間Ｔｐを生成し、予測時間Ｔｐは出力層６１のノードを介して外部に出力される。
【0083】
以上に説明したように図１５に示したＮＮ構造３１Ｂは、測定パラメータとこれら測定パラメータに割り当てられた相対時間値とを配列要素としてもつ多次元配列データＭＤｘに加えて、対象物体Ｔｇｔの属性情報ＡＤを受容して処理することができるので、推論演算部２７は、ＮＮ構造３１Ｂに基づいて、対象物体Ｔｇｔに関する予測情報（Ｄｒ，Ｔｐ）をより高い精度で算出することができる。
【0084】
図９～図１１及び図１５に示した順伝播型ＮＮ８１，８２，８３，８１Ｂの各構成は例であり、これらに限定されるものではない。たとえば、図９に示した順伝播型ＮＮ８１に代えて、図１６に示す順伝播型ＮＮ８１Ｃが使用されてもよい。図１６に示される順伝播型ＮＮ８１Ｃは２つのサブＮＮ９０Ｃ，１００Ｃを有している。サブＮＮ９０Ｃは、図９のサブＮＮ９０における非線形変換層９１を削除し、正規化層９５と線形変換層９７との間に非線形変換層（ＮＬＬ）９６を配置することにより構成されるものである。一方、サブＮＮ１００Ｃは、図９のサブＮＮ１００における非線形変換層１０１を削除し、正規化層１０５と非線形変換層１０７との間に非線形変換層（ＮＬＬ）１０６を配置することにより構成されるものである。
【0085】
また、図９～図１１及び図１５に示したサブＮＮ９０，１００，９０Ａ，１００Ａ，１１０，１２０，９０Ｂ，１００Ｂの各々は、互いに直列に結合された線形変換層、正規化層及び線形変換層の組合せ（たとえば、図９に示したような線形変換層９４、正規化層９５及び線形変換層９７の組合せ）を有している。このような組合せから、正規化層の後段の線形変換層を削除することで得られる、線形変換層及び正規化層の組合せが採用されてもよい（たとえば、図９に示したような線形変換層９４、正規化層９５及び線形変換層９７の組合せから線形変換層９７を削除することで得られる、線形変換層９４及び正規化層９５の組合せが採用されてもよい）。
【0086】
次に、不整合をもたない多次元配列データの例について説明するとともに、不整合をもたない多次元配列データを受容して処理し得るように構成されたＮＮ構造の種々の例について説明する。
【0087】
図１７Ａ及び図１７Ｂは、不整合をもたない多次元配列データＭＤ３を例示する図である。図１８及び図２０～図２４の各図は、多次元配列データＭＤ３を受容し処理できるように構成されたＮＮ構造を例示する図である。
【0088】
図１７Ａに示される多次元配列データＭＤ３は、３階のテンソルＴ１で構成されている。多次元配列データＭＤ３は、測定パラメータｐｊ（τｉ）とこれに割り当てられた相対時間値τｉとをテンソルＴ１の配列要素として有する。ここで、インデックスｊは、０～Ｊ－１の範囲内の整数であり、Ｊは、２以上の正整数であり、インデックスｉは、０～Ｎ－１の範囲内の整数であり、Ｎは、可変の正整数である。図１７Ｂに示されるように、多次元配列データＭＤ３は、Ｎ×Ｊ×２のサイズを有する。たとえば、図１に示されるデータ再構成部２５は、ｊ番目のデータ時系列Ｄｊを構成するスカラー量（測定値）系列から、インデックスｊをもつ測定パラメータｐｊ（τｉ）を再構成することができるが、これに限定されるものではない。また、ｊ番目のデータ時系列Ｄｊが多次元ベクトル量の系列からなる場合（たとえば、図３に示したデータ時系列Ｄ０の場合）には、データ再構成部２５は、その多次元ベクトル量の系列を複数のスカラー量系列に分解し、各スカラー量系列からテンソルＴ１の測定パラメータを得ることができる。相対時間値τｉが割り当てられるべき測定パラメータが欠落している場合には、データ再構成部２５は、その欠落している測定パラメータを補間またはゼロパディングにより補充してもよい。
【0089】
なお、テンソルで構成される多次元配列データのサイズは、Ｎ×Ｊ×２に限定されるものではなく、Ｎ×Ｊ×（Ｈｃ＋１）とすることができる。ここで、Ｈｃは１以上の整数である。たとえば、複数の色センサの各々で得られた測定量の時系列の供給を受けた場合には、データ再構成部２５は、Ｎ×Ｊ×（Ｈｃ＋１）のサイズ（Ｈｃは色センサの数）をもつ多次元配列データを再構成することが可能である。
【0090】
図１８は、一例としてのＮＮ構造３４を表す図である。ＮＮ構造３４は、３階のテンソルで構成された多次元配列データＭＤｙを受容する入力層４４と、入力層４４を介して入力された多次元配列データＭＤｙを処理するように構成された中間層構造５４と、中間層構造５４の出力に基づいて予測情報（Ｄｒ，Ｔｐ）を出力するように構成された出力層６４とを有している。中間層構造５４は、畳み込みニューラルネットワーク（Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ，ＣＮＮ）１３０，１３１及び再帰型ニューラルネットワーク（ＲＮＮ）１３２を含む。ＮＮ構造３４は、図１７に示した３階のテンソルＴ１で構成された多次元配列データＭＤ３を多次元配列データＭＤｙとして受容し処理できるように構成されている。
【0091】
中間層構造５４は、ＣＮＮ１３０，１３１及びＲＮＮ１３２に加えて、ＲＮＮ１３２の出力を処理するように構成された順伝播型ＮＮ１３３をさらに含む。ＣＮＮ１３０，１３１、ＲＮＮ１３２及び順伝播型ＮＮ１３３は、直列に結合されている。
【0092】
ＣＮＮ１３０は、畳込み層（ＣＬ）１４１、非線形変換層（ＮＬＬ）１４２及びプーリング層（ＰＬ）１４３を有する。畳込み層１４１は、入力された３階のテンソルのデータに対して、Ｍ個のフィルタを用いた畳み込みを実行して２階または３階のテンソルのデータを生成するように構成されている。ここで、Ｍは、フィルタの数すなわちチャネル数を示す１以上の整数である。畳み込みは、フィルタを用いた畳込み演算とバイアスを用いた加算演算とで構成される。１個のフィルタが使用される場合（Ｍ＝１の場合）には、畳込み層１４１は、２階のテンソル（すなわちマトリクス）のデータを出力し得、複数個のフィルタが使用される場合（Ｍが２以上の場合）には、畳込み層１４１は、３階のテンソルのデータを出力し得る。非線形変換層１４２は、畳込み層１４１から入力されたテンソルの各要素に対して、活性化関数を用いた非線形変換を行うように構成されている。活性化関数としては、たとえば、ランプ関数、または、ロジスティックシグモイド関数もしくは双曲線正接関数などのシグモイド関数が使用可能である。
【0093】
図１９は、畳み込み及び非線形変換の方法を説明するための図である。図１９は、入力テンソルＴｙ、フィルタＦ０，Ｆ１，…，ＦＭ－１、畳込み演算子２１００，２１０１，…，２１０Ｍ－１、加算演算子２１１０，２１１１，…，２１１Ｍ－１、活性化関数ｆ０（），ｆ１（），…，ｆＭ－１（）、及び、出力テンソルＴｚを表している。入力テンソルＴｙは、Ｎ×Ｊ×Ｈのサイズを有するテンソルである。ここで、Ｎ，Ｊはそれぞれ２以上の正整数であり、Ｈは１以上の整数である。Ｈ＝１の場合は、入力テンソルＴｙは２階のテンソル（マトリクス）となり、Ｈの値が２以上の場合は、入力テンソルＴｙは３階のテンソルとなる。図１８に示されるＣＮＮ１３０の畳込み層１４１は、３階のテンソルを入力として畳み込みを行うように構成されている。入力テンソルＴｙの要素は、ｄｉｊｈと表すことができる。ここで、インデックスｉ，ｊは、入力テンソルＴｙにおける所定の正方領域を指定するための整数、インデックスｈは、０～Ｈ－１の範囲内の整数である。Ｍは、フィルタＦ０～ＦＭ－１の数すなわちチャネル数を示す３以上の整数である。図１９の例では、チャネル数Ｍは３以上であるが、これに限定されるものではない。
【0094】
ｍ番目チャネルのフィルタＦｍは、Ｐ×Ｑ×Ｈのサイズを有するテンソルで構成されている。ここで、Ｐは、Ｎよりも小さい２以上の正整数であり、Ｑは、Ｊよりも小さい２以上の整数である。Ｈ＝１の場合は、フィルタＦｍは２階のテンソル（マトリクス）で構成され、Ｈの値が２以上の場合は、フィルタＦｍは３階のテンソルで構成される。図１８に示されるＣＮＮ１３０の畳込み層１４１は、３階のテンソルで構成された少なくとも１つのフィルタを用いて畳み込みを行うように構成されている。フィルタＦｍの要素（重み係数）は、ｗｐｑｈｍと表すことができる。ここで、インデックスｐは、０～Ｐ－１の範囲内の整数、インデックスｑは、０～Ｑ－１の範囲内の整数、ｈは、０～Ｈ－１の範囲内の整数である。
【0095】
図１９を参照すると、畳込み演算子２１００，２１０１，…，２１０Ｍ－１は、入力テンソルＴｙの要素ｄｉｊｈに対して並列に畳込み演算を行うことができる。加算演算子２１１０，２１１１，…，２１１Ｍ－１は、畳込み演算子２１００，２１０１，…，２１０Ｍ－１の出力にバイアスｂｉｊ０，ｂｉｊ１，…，ｂｉ,ｊ,Ｍ-１をそれぞれ加算する加算演算を並列に行うことができる。ｍ番目チャネルのバイアスｂｉｊｍは、２階のテンソル（マトリクス）として与えられる。
【0096】
具体的には、たとえば、次式に従って、各チャネルごとの畳み込みが実行可能である。
【数1】
【0097】
畳み込みの実行後は、次式に示されるように、各チャネルにおいて活性化関数ｆｍ（）を用いた非線形変換が実行される。
【数2】
【0098】
全てのチャネルの非線形変換により算出された要素ｚｉｊｍを統合することで出力テンソルＴｚが構成される。出力テンソルＴｚは、図１９に示されるように、Ｒ×Ｌ×Ｍのサイズを有している。ここで、Ｒは、Ｎ以下の正整数、Ｌは、Ｊ以下の正整数である。単一チャネルの場合（１つのフィルタが使用される場合）には、出力テンソルＴｚは２階のテンソル（マトリクス）で構成され、複数チャネルの場合（複数のフィルタが使用される場合）には、出力テンソルＴｚは３階のテンソルで構成される。
【0099】
図１８を参照すると、ＣＮＮ１３０のプーリング層１４３は、あらかじめ設定されたストライド（ｓｔｒｉｄｅ）の値に従い、非線形変換層１４２から入力されたテンソルのデータにプーリング処理（ｐｏｏｌｉｎｇ ｏｐｅｒａｔｉｏｎ）を施して出力テンソルを生成するように構成されている。プーリング処理としては、平均プーリング（ａｖｅｒａｇｅ ｐｏｏｌｉｎｇ）、最大プーリング（ｍａｘ ｐｏｏｌｉｎｇ）またはＬｐプーリング（Ｌｐ ｐｏｏｌｉｎｇ）といった公知の手法が適用可能である。
【0100】
ＣＮＮ１３１は、畳込み層（ＣＬ）１４５、非線形変換層（ＮＬＬ）１４６及びプーリング層（ＰＬ）１４７を有する。畳込み層１４５は、前段のＣＮＮ１３０から入力されたテンソルのデータに対して、１つまたは複数のフィルタを用いた畳み込み（すなわち、フィルタを用いた畳込み演算とバイアスを用いた加算演算）を実行するように構成されている。非線形変換層１４６は、畳込み層１４５から入力されたテンソルの各要素に対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。そして、プーリング層１４７は、あらかじめ設定されたストライドの値に従い、非線形変換層１４６の出力に平均プーリングなどのプーリング処理を施すように構成されている。
【0101】
ＲＮＮ１３２は、平坦化層（ＦＬ）１５１、再帰層（ＲＬ）１５２及び最終出力層（ＬＯ）１５３を有する。平坦化層１５１は、前段のＣＮＮ１３１の出力から、ベクトル系列（すなわち、複数のベクトルの系列）からなるマトリクスデータを生成することができる。再帰層１５２は、内部に有向閉路をもつニューラルネットワーク層であり、入力されたベクトル系列から時間依存の特徴量を抽出することができる。再帰層１５２としては、たとえば、ＬＳＴＭ層、ＬＳＴＭ層の改良版、ＧＲＵ層、またはＱＲＮＮ層を使用することが可能である。再帰層１５２は、平坦化層１５１から入力されたベクトル系列を処理することにより出力ベクトル系列を生成するように構成されている。最終出力層１５３は、当該出力ベクトル系列のうちの最終の出力ベクトルを選択して出力するように構成されている。
【0102】
順伝播型ＮＮ１３３は、線形変換層（ＬＬ）１６１、正規化層（ＮＬ）１６２、非線形変換層（ＮＬＬ）１６３及び線形変換層（ＬＬ）１６４Ａ，１６４Ｂを有する。線形変換層１６１は、ＲＮＮ１３２から入力されたベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。正規化層１６２は、線形変換層１６１から入力されたベクトルの各要素に減算正規化などの正規化を施して正規化ベクトルを生成することができる。非線形変換層１６３は、その正規化ベクトルの各要素に対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。そして、線形変換層１６４Ａは、非線形変換層１６３の出力に対して、重み行列とバイアスベクトルとを用いた線形変換を行うことによりスカラー量のリスク度Ｄｒを生成する。リスク度Ｄｒは、出力層６４のノードを介して外部に出力される。一方、線形変換層１６４Ｂは、非線形変換層１６３の出力に対して、重み行列とバイアスベクトルとを用いた線形変換を行うことによりスカラー量の予測時間Ｔｐを生成する。予測時間Ｔｐは、出力層６４のノードを介して外部に出力される。
【0103】
以上に説明したように図１８に示したＮＮ構造３４は、測定パラメータとこれら測定パラメータに割り当てられた相対時間値とを配列要素としてもつ多次元配列データＭＤｙを受容して処理することができるので、推論演算部２７は、ＮＮ構造３４に基づいて予測情報（Ｄｒ，Ｔｐ）を高い精度で算出することができる。
【0104】
図２０は、一例としてのＮＮ構造３５を表す図である。ＮＮ構造３５は、３階のテンソルで構成された多次元配列データＭＤｙを受容する入力層４４と、入力層４４を介して入力された多次元配列データＭＤｙを処理するように構成されたＣＮＮ１３０，１３１及びＲＮＮ１３２を含む中間層構造５５と、中間層構造５５の出力に基づいて予測情報（Ｄｒ，Ｔｐ）を出力するように構成された出力層６４とを有している。中間層構造５５は、さらに、互いに並列に配置された２つのサブＮＮ１３４Ａ，１３４Ｂからなる順伝播型ＮＮ１３４を有する。サブＮＮ１３４Ａ，１３４Ｂの各々は、ＲＮＮ１３２における最終出力層１５３の出力ベクトルを処理するように構成されている。
【0105】
サブＮＮ１３４Ａは、図２０に示されるように、線形変換層（ＬＬ）１６１Ａ、正規化層（ＮＬ）１６２Ａ、非線形変換層（ＮＬＬ）１６３Ａ、線形変換層（ＬＬ）１６４Ａ、非線形変換層（ＮＬＬ）１６５Ａ及び線形変換層（ＬＬ）１６６Ａを有する。線形変換層１６１Ａは、ＲＮＮ１３２の最終出力層１５３の出力ベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。正規化層１６２Ａは、線形変換層１６１Ａから入力されたベクトルの各要素に減算正規化などの正規化を施して正規化ベクトルを生成することができる。非線形変換層１６３Ａは、その正規化ベクトルの各要素に対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。線形変換層１６４Ａは、非線形変換層１６３Ａの出力に対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。非線形変換層１６５Ａは、線形変換層１６４Ａから入力されたベクトルの各要素に対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。そして、線形変換層１６６Ａは、非線形変換層１６５Ａの出力に対して、重み行列とバイアスベクトルとを用いた線形変換を行うことによりスカラー量のリスク度Ｄｒを生成する。リスク度Ｄｒは、出力層６４のノードを介して外部に出力される。
【0106】
一方、サブＮＮ１３４Ｂは、図２０に示されるように、線形変換層（ＬＬ）１６１Ｂ、正規化層（ＮＬ）１６２Ｂ、非線形変換層（ＮＬＬ）１６３Ｂ、線形変換層（ＬＬ）１６４Ｂ、非線形変換層（ＮＬＬ）１６５Ｂ及び線形変換層（ＬＬ）１６６Ｂを有する。線形変換層１６１Ｂは、ＲＮＮ１３２の最終出力層１５３の出力ベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。正規化層１６２Ｂは、線形変換層１６１Ｂから入力されたベクトルの各要素に減算正規化などの正規化を施して正規化ベクトルを生成することができる。非線形変換層１６３Ｂは、その正規化ベクトルの各要素に対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。線形変換層１６４Ｂは、非線形変換層１６３Ｂの出力に対して、重み行列とバイアスベクトルとを用いた線形変換を行うように構成されている。非線形変換層１６５Ｂは、線形変換層１６４Ｂから入力されたベクトルの各要素に対して、ランプ関数などの活性化関数を用いた非線形変換を行うように構成されている。そして、線形変換層１６６Ｂは、非線形変換層１６５Ｂの出力に対して、重み行列とバイアスベクトルとを用いた線形変換を行うことによりスカラー量の予測時間Ｔｐを生成する。予測時間Ｔｐは、出力層６４のノードを介して外部に出力される。
【0107】
以上に説明したように図２０に示したＮＮ構造３５も、測定パラメータとこれら測定パラメータに割り当てられた相対時間値とを配列要素としてもつ多次元配列データＭＤｙを受容して処理することができるので、推論演算部２７は、ＮＮ構造３５に基づいて予測情報（Ｄｒ，Ｔｐ）を高い精度で算出することができる。
【0108】
ところで、上記したＮＮ構造３４，３５の各々は１種類の異常事象の発生の発生を予測できるように構成されているが、これに限定されず、２種類以上の異常事象の発生を予測できるようにＮＮ構造３４またはＮＮ構造３５の構成を適宜変形することができる。図２１は、ＮＮ構造３５の変形例であるＮＮ構造３６を表す図である。ＮＮ構造３６は３種類の異常事象の発生を予測できるように構成されている。
【0109】
図２１を参照すると、ＮＮ構造３６は、３階のテンソルで構成された多次元配列データＭＤｙを受容する入力層４４と、入力層４４を介して入力された多次元配列データＭＤｙを処理するように構成されたＣＮＮ１３０，１３１及びＲＮＮ１３２を含む中間層構造５６と、中間層構造５６の出力に基づいて３種類の予測情報（Ｄｒ１，Ｔｐ１），（Ｄｒ２，Ｔｐ２），（Ｄｒ３，Ｔｐ３）を出力するように構成された出力層６６とを有している。中間層構造５６は、さらに、互いに並列に配置された２つのサブＮＮ１３５Ａ，１３５Ｂからなる順伝播型ＮＮ１３５を有する。サブＮＮ１３５Ａ，１３５Ｂの各々は、ＲＮＮ１３２における最終出力層１５３の出力ベクトルを処理するように構成されている。
【0110】
サブＮＮ１３５Ａは、図２１に示されるように、線形変換層（ＬＬ）１７１Ａ、正規化層（ＮＬ）１７２Ａ、非線形変換層（ＮＬＬ）１７３Ａ、線形変換層（ＬＬ）１７４Ａ、非線形変換層（ＮＬＬ）１７５Ａ、及び、互いに並列に配置された線形変換層（ＬＬ）１７６Ａ１，１７６Ａ２，１７６Ａ３を有する。機械学習アルゴリズムにより更新されるパラメータ群（たとえば、重み行列の要素及びバイアスベクトルの要素）の値を除いて、これら線形変換層１７１Ａ、正規化層１７２Ａ、非線形変換層１７３Ａ、線形変換層１７４Ａ及び非線形変換層１７５Ａは、それぞれ、図２０に示した線形変換層１６１Ａ、正規化層１６２Ａ、非線形変換層１６３Ａ、線形変換層１６４Ａ及び非線形変換層１６５Ａとそれぞれ同じ基本構成を有している。線形変換層１７６Ａ１～１７６Ａ３のうちのｉ番目の線形変換層１７６Ａｉは、非線形変換層１７５Ａの出力ベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うことにより第ｉの異常事象の度合いを示すスカラー量のリスク度Ｄｒｉを生成することができる（ｉは１～３の範囲内の任意の整数である。）。リスク度Ｄｒ１，Ｄｒ２，Ｄｒ３は、出力層６６のノードを介して外部に出力される。
【0111】
一方、サブＮＮ１３５Ｂは、図２１に示されるように、線形変換層（ＬＬ）１７１Ｂ、正規化層（ＮＬ）１７２Ｂ、非線形変換層（ＮＬＬ）１７３Ｂ、線形変換層（ＬＬ）１７４Ｂ、非線形変換層（ＮＬＬ）１７５Ｂ、及び、互いに並列に配置された線形変換層（ＬＬ）１７６Ｂ１，１７６Ｂ２，１７６Ｂ３を有する。機械学習アルゴリズムにより更新されるパラメータ群（たとえば、重み行列の要素及びバイアスベクトルの要素）の値を除いて、これら線形変換層１７１Ｂ、正規化層１７２Ｂ、非線形変換層１７３Ｂ、線形変換層１７４Ｂ及び非線形変換層１７５Ｂは、それぞれ、図２０に示した線形変換層１６１Ｂ、正規化層１６２Ｂ、非線形変換層１６３Ｂ、線形変換層１６４Ｂ及び非線形変換層１６５Ｂとそれぞれ同じ基本構成を有している。線形変換層１７６Ｂ１～１７６Ｂ３のうちのｊ番目の線形変換層１７６Ｂｊは、非線形変換層１７５Ｂの出力ベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うことにより第ｊの異常事象が発生するであろう予測時間Ｔｐｊを生成することができる（ｊは１～３の範囲内の任意の整数である。）。予測時間Ｔｐ１，Ｔｐ２，Ｔｐ３は、出力層６６のノードを介して外部に出力される。
【0112】
なお、図２１の例では、サブＮＮ１３５Ａにて非線形変換層１７５Ａの出力を処理するように並列に配置された線形変換層１７６Ａ１～１７６Ａ３の数は３つであり、サブＮＮ１３５Ｂにて非線形変換層１７５Ｂの出力を処理するように並列に配置された線形変換層１７６Ｂ１～１７６Ｂ３の数は３つであるが、これらに限定されるものではない。非線形変換層１７５Ａの出力を処理するように並列に配置される線形変換層の数を４つ以上とし、非線形変換層１７５Ｂの出力を処理するように並列に配置される線形変換層の数を４つ以上とするようにサブＮＮ１３５Ａ，１３５Ｂの構成が適宜変更されてもよい。これにより、４種類以上の異常事象の発生を予測できるＮＮ構造を構築することができる。
【0113】
図２２は、ＮＮ構造３５の他の変形例であるＮＮ構造３７を表す図である。ＮＮ構造３７は３種類の異常事象の発生を予測できるように構成されている。
【0114】
図２２を参照すると、ＮＮ構造３７は、３階のテンソルで構成された多次元配列データＭＤｙを受容する入力層４４と、入力層４４を介して入力された多次元配列データＭＤｙを処理するように構成されたＣＮＮ１３０，１３１及びＲＮＮ１３２を含む中間層構造５７と、中間層構造５７の出力に基づいて３種類の予測情報（Ｄｒ１，Ｔｐ１），（Ｄｒ２，Ｔｐ２），（Ｄｒ３，Ｔｐ３）を出力するように構成された出力層６６とを有している。中間層構造５７は、さらに、互いに並列に配置された６つのサブＮＮ１３６１，１３６２，１３６３，１３６４，１３６５，１３６６からなる順伝播型ＮＮ１３６を有する。サブＮＮ１３６１～１３６６の各々は、ＲＮＮ１３２における最終出力層１５３の出力ベクトルを処理するように構成されている。
【0115】
サブＮＮ１３６１～１３６３のうちのｉ番目のサブＮＮ１３６ｉは、図２２に示されるように、線形変換層（ＬＬ）１８１ｉ、正規化層（ＮＬ）１８２ｉ、非線形変換層（ＮＬＬ）１８３ｉ、線形変換層（ＬＬ）１８４ｉ、非線形変換層（ＮＬＬ）１８５ｉ及び線形変換層（ＬＬ）１８６ｉを有する（ｉは１～３の範囲内の任意の整数である。）。機械学習アルゴリズムにより更新されるパラメータ群（たとえば、重み行列の要素及びバイアスベクトルの要素）の値を除いて、これら線形変換層１８１ｉ、正規化層１８２ｉ、非線形変換層１８３ｉ、線形変換層１８４ｉ、非線形変換層１８５ｉ及び線形変換層１８６ｉは、図２０に示した線形変換層１６１Ａ、正規化層１６２Ａ、非線形変換層１６３Ａ、線形変換層１６４Ａ、非線形変換層１６５Ａ及び線形変換層１６６Ａとそれぞれ同じ基本構成を有している。ｉ番目の線形変換層１８６ｉは、非線形変換層１８５ｉの出力ベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うことにより第ｉの異常事象の度合いを示すスカラー量のリスク度Ｄｒｉを生成することができる。リスク度Ｄｒ１，Ｄｒ２，Ｄｒ３は、出力層６６のノードを介して外部に出力される。
【0116】
サブＮＮ１３６４～１３６６のうちのｊ番目のサブＮＮ１３６ｊは、図２２に示されるように、線形変換層（ＬＬ）１８１ｊ、正規化層（ＮＬ）１８２ｊ、非線形変換層（ＮＬＬ）１８３ｊ、線形変換層（ＬＬ）１８４ｊ、非線形変換層（ＮＬＬ）１８５ｊ及び線形変換層（ＬＬ）１８６ｊを有する（ｊは４～６の範囲内の任意の整数である。）。機械学習アルゴリズムにより更新されるパラメータ群（たとえば、重み行列の要素及びバイアスベクトルの要素）の値を除いて、これら線形変換層１８１ｊ、正規化層１８２ｊ、非線形変換層１８３ｊ、線形変換層１８４ｊ、非線形変換層１８５ｊ及び線形変換層１８６ｊは、図２０に示した線形変換層１６１Ｂ、正規化層１６２Ｂ、非線形変換層１６３Ｂ、線形変換層１６４Ｂ、非線形変換層１６５Ｂ及び線形変換層１６６Ｂとそれぞれ同じ基本構成を有している。ｊ番目の線形変換層１８６ｊは、非線形変換層１８５ｊの出力ベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うことにより第（ｊ－３）の異常事象が発生するであろう予測時間を生成することができる。予測時間Ｔｐ１，Ｔｐ２，Ｔｐ３は、出力層６６のノードを介して外部に出力される。
【0117】
なお、図２２の例では、ＲＮＮ１３２の出力ベクトルを処理するように並列に配置されたサブＮＮ１３６１～１３６６の数は６つであるが、これに限定されるものではない。ＲＮＮ１３２の出力ベクトルを処理するように並列に配置されるサブＮＮの数が８つ以上となるように順伝播型ＮＮ１３６の構成が適宜変更されてもよい。これにより、４種類以上の異常事象の発生を予測できるＮＮ構造を構築することができる。
【0118】
図２３は、一例としてのＮＮ構造３８を表す図である。図２３を参照すると、ＮＮ構造３８は、３階のテンソルで構成された多次元配列データＭＤｙを受容する入力層４４と、互いに並列に配置されたサブ中間層構造５８Ａ，５８Ｂからなる中間層構造と、この中間層構造の出力に基づいて予測情報（Ｄｒ，Ｔｐ）を出力するように構成された出力層６４とを有している。
【0119】
サブ中間層構造５８Ａは、畳み込みニューラルネットワーク（ＣＮＮ）１３０Ａ，１３１Ａ、再帰型ニューラルネットワーク（ＲＮＮ）１３２Ａ及び順伝播型ＮＮ１３７Ａを有する。ＣＮＮ１３０Ａ，１３１Ａ及びＲＮＮ１３２Ａは、機械学習アルゴリズムにより更新されるパラメータ群（たとえば、重み行列の要素及びバイアスベクトルの要素）の値を除いて、図１８に示したＣＮＮ１３０，１３１及び１３２とそれぞれ同じ基本構成を有している。また、順伝播型ＮＮ１３７Ａは、図２３に示されるように、線形変換層（ＬＬ）１９１Ａ、正規化層（ＮＬ）１９２Ａ、非線形変換層（ＮＬＬ）１９３Ａ、線形変換層（ＬＬ）１９４Ａ、非線形変換層（ＮＬＬ）１９５Ａ及び線形変換層（ＬＬ）１９６Ａを有する。機械学習アルゴリズムにより更新されるパラメータ群（たとえば、重み行列の要素及びバイアスベクトルの要素）の値を除いて、これら線形変換層１９１Ａ、正規化層１９２Ａ、非線形変換層１９３Ａ、線形変換層１９４Ａ、非線形変換層１９５Ａ及び線形変換層１９６Ａは、図２０に示した線形変換層１６１Ａ、正規化層１６２Ａ、非線形変換層１６３Ａ、線形変換層１６４Ａ、非線形変換層１６５Ａ及び線形変換層１６６Ａとそれぞれ同じ基本構成を有している。
【0120】
線形変換層１９６Ａは、非線形変換層１９５Ａの出力ベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うことにより異常事象の度合いを示すスカラー量のリスク度Ｄｒを生成することができる。リスク度Ｄｒは、出力層６４のノードを介して外部に出力される。
【0121】
一方、サブ中間層構造５８Ｂは、畳み込みニューラルネットワーク（ＣＮＮ）１３０Ｂ，１３１Ｂ、再帰型ニューラルネットワーク（ＲＮＮ）１３２Ｂ及び順伝播型ＮＮ１３７Ｂを有する。ＣＮＮ１３０Ｂ，１３１Ｂ及びＲＮＮ１３２Ｂは、機械学習アルゴリズムにより更新されるパラメータ群（たとえば、重み行列の要素及びバイアスベクトルの要素）の値を除いて、図１８に示したＣＮＮ１３０，１３１及び１３２とそれぞれ同じ基本構成を有している。また、順伝播型ＮＮ１３７Ｂは、図２３に示されるように、線形変換層（ＬＬ）１９１Ｂ、正規化層（ＮＬ）１９２Ｂ、非線形変換層（ＮＬＬ）１９３Ｂ、線形変換層（ＬＬ）１９４Ｂ、非線形変換層（ＮＬＬ）１９５Ｂ及び線形変換層（ＬＬ）１９６Ｂを有する。機械学習アルゴリズムにより更新されるパラメータ群（たとえば、重み行列の要素及びバイアスベクトルの要素）の値を除いて、これら線形変換層１９１Ｂ、正規化層１９２Ｂ、非線形変換層１９３Ｂ、線形変換層１９４Ｂ、非線形変換層１９５Ｂ及び線形変換層１９６Ｂは、図２０に示した線形変換層１６１Ｂ、正規化層１６２Ｂ、非線形変換層１６３Ｂ、線形変換層１６４Ｂ、非線形変換層１６５Ｂ及び線形変換層１６６Ｂとそれぞれ同じ基本構成を有している。
【0122】
線形変換層１９６Ｂは、非線形変換層１９５Ｂの出力ベクトルに対して、重み行列とバイアスベクトルとを用いた線形変換を行うことにより異常事象が発生するであろう予測時間Ｔｐを生成することができる。予測時間Ｔｐは、出力層６４のノードを介して外部に出力される。
【0123】
上記のとおり、図１８及び図２０～図２３に示したＮＮ構造３４，３５，３６，３７，３８の各々は、多次元配列データＭＤｙのみを受容するように構成されている。この代わりに、多次元配列データＭＤｙと対象物体Ｔｇｔの属性情報とを受容するようにそれらＮＮ構造の構成が変形されてもよい。具体的には、ＮＮ構造３４，３５，３６，３７，３８の各々において、入力層を介して入力された属性情報とＲＮＮ（再帰型ニューラルネットワーク）の出力とを連結するように構成された連結層を組み込むことで、ＮＮ構造の変形例を得ることができる。
【0124】
対象物体Ｔｇｔの属性情報としては、たとえば、人などの生体の固有の情報から構成されるスカラー量またはベクトル量が使用可能である。より具体的には、たとえば、属性情報として、年齢、性別、肥満度（ＢＭＩ）、及び、糖尿病などの特定の疾患の有無をそれぞれ示す数値が使用できる。この場合、図１に示されるデータ再構成部２５または推論演算部２７は、属性情報があらかじめ格納された内部メモリ（図示せず）を有し、この内部メモリから読み出された属性情報をＮＮ構造に供給するように構成されればよい。あるいは、データ再構成部２５または推論演算部２７は、外部の情報源（図示せず）から属性情報を取得し、取得された属性情報をＮＮ構造に供給するように構成されてもよい。
【0125】
図２４は、図２３に示したＮＮ構造３８の変形例であるＮＮ構造３９を表す図である。図２３を参照すると、ＮＮ構造３９は、３階のテンソルで構成された多次元配列データＭＤｙ及び対象物体Ｔｇｔの属性情報ＡＤを受容する入力層４９と、サブ中間層構造５９Ａ，５９Ｂからなる中間層構造と、この中間層構造の出力に基づいて予測情報（Ｄｒ，Ｔｐ）を出力するように構成された出力層６４とを有している。
【0126】
サブ中間層構造５９Ａは、ＣＮＮ１３０Ａ，１３１Ａ、ＲＮＮ１３２Ａ、連結層７６Ａ及び順伝播型ＮＮ１３８Ａを有する。連結層７６Ａは、ＲＮＮ１３２Ａの出力ベクトルと、入力層４９を介して入力された属性情報ＡＤのスカラー値またはベクトルとを連結することで連結ベクトルを生成することができる。たとえば、連結層７６Ａは、ＲＮＮ１３２Ａから入力された４０次元のベクトルと、属性情報ＡＤの１０次元のベクトルとを連結して５０次元の連結ベクトルを生成するように構成され得る。
【0127】
順伝播型ＮＮ１３８Ａは、連結層７６Ａから入力された連結ベクトルを処理するように構成されており、図２３に示した順伝播型ＮＮ１３７Ａと同じ基本構成を有する。図２４に示されるように、順伝播型ＮＮ１３８Ａは、線形変換層（ＬＬ）２０１Ａ、正規化層（ＮＬ）２０２Ａ、非線形変換層（ＮＬＬ）２０３Ａ、線形変換層（ＬＬ）２０４Ａ、非線形変換層（ＮＬＬ）２０５Ａ及び線形変換層（ＬＬ）２０６Ａを有する。これら線形変換層２０１Ａ、正規化層２０２Ａ、非線形変換層２０３Ａ、線形変換層２０４Ａ、非線形変換層２０５Ａ及び線形変換層２０６Ａは、図２３に示した順伝播型ＮＮ１３７Ａにおける線形変換層１９１Ａ、正規化層１９２Ａ、非線形変換層１９３Ａ、線形変換層１９４Ａ、非線形変換層１９５Ａ及び線形変換層１９６Ａとそれぞれ同じ基本構成を有している。線形変換層２０６Ａは、非線形変換層２０５Ａの出力に対して、重み行列とバイアスベクトルとを用いた線形変換を行うことによりスカラー量のリスク度Ｄｒを生成する。リスク度Ｄｒは、出力層６４のノードを介して外部に出力される。
【0128】
一方、サブ中間層構造５９Ｂは、ＣＮＮ１３０Ｂ，１３１Ｂ、ＲＮＮ１３２Ｂ、連結層７６Ｂ及び順伝播型ＮＮ１３８Ｂを有する。連結層７６Ｂは、ＲＮＮ１３２Ｂの出力ベクトルと、入力層４９を介して入力された属性情報ＡＤのスカラー値またはベクトルとを連結することで連結ベクトルを生成することができる。たとえば、連結層７６Ｂは、ＲＮＮ１３２Ｂから入力された４０次元のベクトルと、属性情報ＡＤの１０次元のベクトルとを連結して５０次元の連結ベクトルを生成するように構成され得る。
【0129】
順伝播型ＮＮ１３８Ｂは、連結層７６Ｂから入力された連結ベクトルを処理するように構成されており、図２３に示した順伝播型ＮＮ１３７Ｂと同じ基本構成を有する。図２４に示されるように、順伝播型ＮＮ１３８Ｂは、線形変換層（ＬＬ）２０１Ｂ、正規化層（ＮＬ）２０２Ｂ、非線形変換層（ＮＬＬ）２０３Ｂ、線形変換層（ＬＬ）２０４Ｂ、非線形変換層（ＮＬＬ）２０５Ｂ及び線形変換層（ＬＬ）２０６Ｂを有する。これら線形変換層２０１Ｂ、正規化層２０２Ｂ、非線形変換層２０３Ｂ、線形変換層２０４Ｂ、非線形変換層２０５Ｂ及び線形変換層２０６Ｂは、図２３に示した順伝播型ＮＮ１３８Ｂにおける線形変換層１９１Ｂ、正規化層１９２Ｂ、非線形変換層１９３Ｂ、線形変換層１９４Ｂ、非線形変換層１９５Ｂ及び線形変換層１９６Ｂとそれぞれ同じ基本構成を有している。線形変換層２０６Ｂは、非線形変換層２０５Ｂの出力に対して、重み行列とバイアスベクトルとを用いた線形変換を行うことによりスカラー量の予測時間Ｔｐを生成する。予測時間Ｔｐは、出力層６４のノードを介して外部に出力される。
【0130】
以上に説明したように図２４に示したＮＮ構造３９は、測定パラメータとこれら測定パラメータに割り当てられた相対時間値とを配列要素としてもつ多次元配列データＭＤｙに加えて、対象物体Ｔｇｔの属性情報ＡＤを受容して処理することができるので、推論演算部２７は、ＮＮ構造３９に基づいて、対象物体Ｔｇｔに関する予測情報（Ｄｒ，Ｔｐ）をより高い精度で算出することができる。
【0131】
なお、図２３及び図２４の例では、多次元配列データＭＤｙを並列に処理するように並列に配置されたサブ中間層構造の数は２つであるが、これに限定されるものではない。多次元配列データＭＤｙを並列に処理するように並列に配置されるサブ中間層構造の数が４つ以上となるようにＮＮ構造３８，３９の各構成が適宜変形されてもよい。これにより、２種類以上の異常事象の発生を予測できるＮＮ構造を構築することができる。
【0132】
次に、上記した予測情報を用いたフィードバック制御システムについて説明する。図２５は、本開示に係る一実施形態の異常予測システム２の構成を概略的に示すブロック図である。
【0133】
図２５に示されるように、異常予測システム２は、各々が対象物体Ｔｇｔの観測または処理を行うための複数台の機器Ｅ０，…，ＥＫ－１と、これら機器Ｅ０，…，ＥＫ－１からそれぞれ供給された複数のデータ時系列Ｄ０，…，ＤＫ－１に基づいて少なくとも１つの異常事象の発生の発生を予測するように構成された異常予測装置１１とを備えている。ここで、Ｋは、機器Ｅ０～ＥＫ－１の台数を表す３以上の正整数である。機器Ｅ０，…，ＥＫ－１は、それぞれ測定器Ｓ０，…，ＳＫ－１を有する。図２５に示される各測定器Ｓｋの機能は、図１に示した測定器Ｓｋの機能と同じである。なお、機器Ｅ０，…，ＥＫ－１の台数は３以上に限定されるものではなく、２台の機器を備えるように異常予測システム２の構成が適宜変更されてもよい。
【0134】
異常予測装置１１は、図１に示した異常予測装置１０と同様に、機器Ｅ０，…，ＥＫ－１からそれぞれ供給されたデータ時系列Ｄ０，…，ＤＫ－１から多次元配列データを再構成するように構成されたデータ再構成系２０と、当該多次元配列データを入力とするＮＮ構造３０に基づく演算を実行することにより異常事象に関する予測情報を算出するように構成された推論演算部２７とを備えている。異常予測装置１１は、さらに、推論演算部２７で算出された予測情報に応じて、機器Ｅ０，…，ＥＫ－１の動作条件を変更するループ制御を行うように構成されたフィードバック制御部２８を備える。
【0135】
フィードバック制御部２８は、当該予測情報に応じて、機器Ｅ０，…，ＥＫ－１の動作条件を適応的に変更するための制御情報ＣＴを生成し、制御情報ＣＴを機器Ｅ０，…，ＥＫ－１に供給することができる。機器Ｅ０，…，ＥＫ－１は、制御情報ＣＴに応じた動作を行うように構成されている。たとえば、リスク度Ｄｒ及び予測時間Ｔｐの組が所定の条件に合致したとき（たとえば、リスク度Ｄｒがあらかじめ定めた閾値を超えたとき）をトリガとして、フィードバック制御部２８は、制御情報ＣＴを生成してもよい。これにより、異常事象が実際に発生することを未然に防ぐことが可能となる。
【0136】
上記のループ制御は、機器Ｅ０，…，ＥＫ－１の動作の強度が、特定の動作の強度を調節するための測定パラメータに依存する場合に有効である。たとえば、送液濃度及び運転温度など速度系のパラメータがこれにあたる。このループ制御が有効に機能するためには、異常事象発生の予測が早期になされること（たとえば、予測情報Ｔｐが生成された時刻と予測時間Ｔｐとの間の差が２０分以上あること）が望ましい。すなわち、機器Ｅ０，…，ＥＫ－１の制御系による変更がモニタリングに反映されるための時間的猶予が必要である。
【0137】
次に、図２６を参照しつつ、上記した異常予測装置１１による処理手順について以下に説明する。図２６は、ループ制御の処理手順の一例を概略的に表すフローチャートである。図２６に示されるステップＳ１１～Ｓ１３は、図６に示したステップＳ１１～Ｓ１３と同様である。
【0138】
ステップＳ１３の後は、フィードバック制御部２８は、生成された予測情報（Ｄｒ，Ｔｐ）が所定の条件と合致するかどうかを判定する（ステップＳ１４）。たとえば、機器Ｅｋの運転温度が許容範囲を超えるという異常事象のリスク度Ｄｒが閾値を超えたかどうかに応じて、予測情報が所定の条件と合致したか否かを判定することができる。予測情報が所定の条件と合致しないときは（ステップＳ１４のＮＯ）、フィードバック制御部２８は、処理をステップＳ１１に戻す。
【0139】
一方、予測情報が所定の条件と合致したときは（ステップＳ１４のＹＥＳ）、フィードバック制御部２８は、予測情報に応じて、機器Ｅ０，…，ＥＫ－１のうちの少なくとも１つの機器の動作条件を変更するための制御情報ＣＴを生成し（ステップＳ１５）、制御情報ＣＴを送信する（ステップＳ１６）。その後、フィードバック制御部２８は、処理を続行すると判定したときは（ステップＳ２０のＹＥＳ）、ステップＳ１１に処理を戻す。最終的に、処理を続行しないと判定したときは（ステップＳ２０のＮＯ）、フィードバック制御部２８は処理を終了させる。
【0140】
以上に説明したように異常予測システム３は、データ再構成系２０、推論演算部２７及びフィードバック制御部２８を備えているので、異常事象の発生を未然に防ぐことができ、機器Ｅ０，…，ＥＫ－１を安全に動作させることが可能となる。
【0141】
次に、他の実施形態の異常予測システムについて説明する。上記した異常予測システム１，２では、異常予測装置１０，１１内のデータ再構成部２５が、測定パラメータに相対時間値τを割り当てる機能を有している。この代わりに、測定パラメータに相対時間値τを割り当てる機能を機器が備える実施形態もあり得る。図２７は、そのような実施形態の１つである異常予測システム３の構成を概略的に示すブロック図である。
【0142】
図２７に示されるように、異常予測システム３は、各々が対象物体Ｔｇｔの観測または処理を行うための複数台の機器Ｕ０，…，ＵＫ－１と、これら機器Ｕ０，…，ＵＫ－１からそれぞれ供給された複数のベクトル系列Ｇ０，…，ＧＫ－１に基づいて少なくとも１つの異常事象の発生の発生を予測するように構成された異常予測装置１２とを備えている。ここで、Ｋは、機器Ｕ０～ＵＫ－１の台数を表す３以上の正整数である。機器Ｕ０～ＵＫ－１は、たとえば、医療機器、製造機器またはモニタリング機器であればよい。なお、機器Ｕ０，…，ＵＫ－１の台数は３以上に限定されるものではなく、２台の機器を備えるように異常予測システム３の構成が適宜変更されてもよい。
【0143】
機器Ｕ０，…，ＵＫ－１は、それぞれ測定器Ｓ０，…，ＳＫ－１を有する。図２７に示される各測定器Ｓｋの機能は、図１に示した測定器Ｓｋの機能と同じである。各測定器Ｓｋは、当該各測定器Ｓｋを有する機器Ｕｋの状態または対象物体Ｔｇｔの状態を物理的（たとえば、光学的、電気的または音響的）に測定し、その結果得た測定量Ｄｋ（ｔ）の時系列からなるデータ時系列Ｄｋを出力するように構成されている。
【0144】
さらに機器Ｕ０，…，ＵＫ－１は、それぞれ系列生成器Ｖ０，…，ＶＫ－１を有している。系列生成器Ｖ０，…，ＶＫ－１は、測定器Ｓ０，…，ＳＫ－１から入力されたデータ時系列Ｄ０，…，ＤＫ－１からそれぞれベクトル系列Ｇ０，…，ＧＫ－１を並列に生成するように構成されている。１つのベクトル系列Ｇｋは、各々が少なくとも１つの測定パラメータとこれに割り当てられた相対時間値τとをベクトル要素としてもつ複数のベクトルの系列からなる。系列生成器Ｖ０，…，ＶＫ－１は、機器Ｕ０，…，ＵＫ－１内のタイマー（図示せず）を用いて、共通の時間基準に基づく相対時間値τを測定パラメータに割り当てる機能を有している。具体的には、系列生成器Ｖ０，…，ＶＫ－１で生成されるベクトル系列Ｇ０，…，ＧＫ－１は、図７または図８に示したベクトル系列Ｇ０，…，ＧＫ－１であればよい。ただし、図７及び図８の例では、ベクトル系列Ｇ０，…，ＧＫ－１の系列長はすべて同じ値（＝Ｎ）であるが、これに限定されるものではない。ｉ，ｊを１～Ｋの範囲内の互いに異なる任意整数（ｉ≠ｊ）とするとき、ｉ番目の系列生成器Ｖｉで生成されるベクトル系列Ｇｉの系列長と、ｊ番目の系列生成器Ｖｊで生成されるベクトル系列Ｇｊの系列長とが互いに異なっていてもよい。
【0145】
異常予測装置１２は、伝送ケーブルなどの有線伝送路または無線伝送路を介して機器Ｕ０，…，ＵＫ－１と接続されている。機器Ｕ０，…，ＵＫ－１は、系列生成器Ｖ０，…，ＶＫ－１でそれぞれ得られたベクトル系列Ｇ０，…，ＧＫ－１を有線伝送路または無線伝送路を介して異常予測装置１２に送信する機能を有し、異常予測装置１２は、機器Ｕ０，…，ＵＫ－１からベクトル系列Ｇ０，…，ＧＫ－１を受信する機能を有している。
【0146】
図２７に示されるように、異常予測装置１２は、機器Ｕ０，…，ＵＫ－１からそれぞれ供給されたベクトル系列Ｇ０，…，ＧＫ－１を受け付けて一時的に記憶するデータ入力部２４と、データ入力部２４を介して入力されたベクトル系列Ｇ０，…，ＧＫ－１を統合することにより、ＮＮ構造３０の入力層に入力されるべき多次元配列データを生成するように構成された統合部２６と、当該多次元配列データを入力とするＮＮ構造３０に基づく演算を実行することにより異常事象に関する予測情報を算出するように構成された推論演算部２７とを備えている。図２７に示されるＮＮ構造３０は、図９～図１１及び図１６に示したＮＮ構造３１～３３，３１Ｂのいずれかと同じ構成を有していればよい。よって、ベクトル系列Ｇ０，…，ＧＫ－１の間で不整合が生じている場合（たとえば、図８に示すような次元の不整合が生じている場合）でも、ＮＮ構造３０はその不整合を補償することができるので、推論演算部２７は、ＮＮ構造３０に基づく信頼性の高い演算を実行することができる。
【0147】
異常予測システム３では、図２７に示されるように、系列生成器Ｖ０，…，ＶＫ－１、データ入力部２４及び統合部２６の組合せによって、データ再構成系２１が構成されている。
【0148】
【0149】
図２８を参照すると、統合部２６は、データ入力部２４に一時的に記憶されているデータ群の中からベクトル系列Ｇ０，…，ＧＫ－１を読み込み（ステップＳ１１Ａ）、当該ベクトル系列Ｇ０，…，ＧＫ－１を統合することにより、推論演算部２７（すなわちＮＮ構造３０の入力層）に入力されるべき多次元配列データを生成する（ステップＳ１２Ａ）。
【0150】
次いで、推論演算部２７は、多次元配列データを入力としてニューラルネットワーク構造３０に基づく演算を実行することにより、異常事象に関する予測情報を算出する（ステップＳ１３）。
【0151】
その後、推論演算部２７は、処理を続行すると判定したときは（ステップＳ２０のＹＥＳ）、ステップＳ１１Ａに処理を戻す。このとき、統合部２６は、データ入力部２４に一時的に記憶されている一群のデータの中から新たなベクトル系列Ｇ０，…，ＧＫ－１を読み込み（ステップＳ１１Ａ）、当該新たなベクトル系列Ｇ０，…，ＧＫ－１から多次元配列データを生成する（ステップＳ１２Ａ）。次いで、推論演算部２７は、当該多次元配列データを入力としてニューラルネットワーク構造３０に基づく演算を実行することにより、異常事象に関する予測情報を算出する（ステップＳ１３）。このようにして異常予測装置１２は、逐次的かつリアルタイムに異常事象の発生を予測することができる。最終的に、推論演算部２７は、処理を続行しないと判定したときは（ステップＳ２０のＮＯ）、処理を終了させる。
【0152】
次に、上記した異常予測システム３の変形例であるフィードバック制御システムについて説明する。図２９は、本開示に係る一実施形態の異常予測システム４の構成を概略的に示すブロック図である。
【0153】
図２９に示されるように、異常予測システム４は、各々が対象物体Ｔｇｔの観測または処理を行うための複数台の機器Ｕ０，…，ＵＫ－１と、これら機器Ｕ０，…，ＵＫ－１からそれぞれ供給された複数のベクトル系列Ｇ０，…，ＧＫ－１に基づいて少なくとも１つの異常事象の発生の発生を予測するように構成された異常予測装置１３とを備えている。なお、機器Ｕ０，…，ＵＫ－１の台数は３以上に限定されるものではなく、２台の機器を備えるように異常予測システム４の構成が適宜変更されてもよい。
【0154】
異常予測装置１３は、図２７に示した異常予測装置１２と同様に、データ入力部２４、統合部２６及び推論演算部２７を備えている。これらデータ入力部２４、統合部２６及び系列生成器Ｖ０，…，ＶＫ－１によって、データ再構成系２１が構成される。異常予測装置１３は、さらに、推論演算部２７で算出された予測情報に応じて、機器Ｕ０，…，ＵＫ－１の動作条件を変更するループ制御を行うように構成されたフィードバック制御部２８を備える。
【0155】
フィードバック制御部２８は、当該予測情報に応じて、機器Ｕ０，…，ＵＫ－１の動作条件を適応的に変更するための制御情報ＣＴを生成し、制御情報ＣＴを機器Ｕ０，…，ＵＫ－１に供給することができる。機器Ｕ０，…，ＵＫ－１は、制御情報ＣＴに応じた動作を行うように構成されている。たとえば、リスク度Ｄｒ及び予測時間Ｔｐの組が所定の条件に合致したとき（たとえば、リスク度Ｄｒがあらかじめ定めた閾値を超えたとき）をトリガとして、フィードバック制御部２８は、制御情報ＣＴを生成してもよい。これにより、異常事象が実際に発生することを未然に防ぐことが可能となる。
【0156】
次に、図３０を参照しつつ、上記した異常予測装置１３による処理手順について以下に説明する。図３０は、ループ制御の処理手順の一例を概略的に表すフローチャートである。図３０に示されるステップＳ１１Ａ～Ｓ１３は、図２８に示したステップＳ１１Ａ～Ｓ１３と同様であり、図３０に示されるステップＳ１４～Ｓ２０は、図２６に示したステップＳ１４～Ｓ２０と同様である。
【0157】
ステップＳ１３の後は、フィードバック制御部２８は、生成された予測情報（Ｄｒ，Ｔｐ）が所定の条件と合致するかどうかを判定する（ステップＳ１４）。予測情報が所定の条件と合致しないときは（ステップＳ１４のＮＯ）、フィードバック制御部２８は、処理をステップＳ１１Ａに戻す。一方、予測情報が所定の条件と合致したときは（ステップＳ１４のＹＥＳ）、フィードバック制御部２８は、予測情報に応じて、機器Ｕ０，…，ＵＫ－１のうちの少なくとも１つの機器の動作条件を変更するための制御情報ＣＴを生成し（ステップＳ１５）、制御情報ＣＴを送信する（ステップＳ１６）。その後、フィードバック制御部２８は、処理を続行すると判定したときは（ステップＳ２０のＹＥＳ）、ステップＳ１１Ａに処理を戻す。最終的に、処理を続行しないと判定したときは（ステップＳ２０のＮＯ）、フィードバック制御部２８は処理を終了させる。
【0158】
以上に説明したように異常予測システム４は、データ再構成系２１及び推論演算部２７及びフィードバック制御部２８を備えているので、異常事象の発生を未然に防ぐことができ、機器Ｕ０，…，ＵＫ－１を安全に動作させることが可能となる。
【0159】
図１に示した異常予測装置１０の場合と同様に、上記した異常予測装置１１～１３における各異常予測装置の構成要素の全部または一部は、１つ以上のプロセッサを含む１台のコンピュータで実現されてもよいし、あるいは、通信路を介して相互に接続された複数台のコンピュータで実現されてもよい。各異常予測装置の構成要素の全部または一部は、不揮発性メモリ（コンピュータ読み取り可能な記録媒体）から読み出されたソフトウェアまたはファームウェアのコード（命令群）による処理を実行する１つまたは複数の演算装置（Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔｓ）を含む１つ以上のプロセッサで実現されればよい。あるいは、各異常予測装置の構成要素の全部または一部は、ＦＰＧＡなどの半導体集積回路を有する１つ以上のプロセッサにより実現可能である。あるいは、ＦＰＧＡなどの半導体集積回路と、ＣＰＵやＧＰＵなどの演算装置との組合せを含む１以上のプロセッサによって、各異常予測装置の構成要素の全部または一部が実現されてもよい。
【0160】
以上、図面を参照して本開示に係る種々の実施形態について述べたが、これら実施形態は例示であり、これら実施形態以外の様々な形態もあり得る。たとえば、図１８及び図２０～図２４の例では、各中間層構造または各サブ中間層構造における直列に結合されたＣＮＮ（畳み込みニューラルネットワーク）の数は２つであるが、これに限定されるものではない。ＣＮＮの数が１つまたは３つ以上となるように各中間層構造または各サブ中間層構造が適宜変更されてもよい。
【0161】
【0162】
また、上記したとおり、図１及び図２５に示した異常予測システム１，２の各々は、複数台の機器Ｅ０，…，ＥＫ－１を含むように構成されているが、この代わりに、異常予測システム１，２の各々の外に機器Ｅ０，…，ＥＫ－１が配置されるように（言い換えれば、異常予測システム１，２が機器Ｅ０，…，ＥＫ－１を含まない形態で機器Ｅ０，…，ＥＫ－１の出力を利用するように）異常予測システム１，２の構成が変更されてもよい。
【0163】
本発明の趣旨及び範囲から逸脱することなく、上記実施形態の変更、追加及び改良を適宜行うことができることが理解されるべきである。本発明の範囲は、特許請求の範囲の記載に基づいて解釈されるべきであり、さらにその均等物を含むものと理解されるべきである。
【産業上の利用可能性】
【0164】
本開示に係る異常予測装置、方法及びコンピュータプログラムは、異常事象の発生を高い精度で予測することができるので、たとえば、工業生産における不良品の発生の予測、機器動作の障害発生の予測、医療監視における機器障害発生の予測、及び、医療監視における生体の有害事象発生の予測のために好適に使用することができる。
【符号の説明】
【0165】
１～４：異常予測システム、１０～１３：異常予測装置、２０，２１：データ再構成系、２３，２４：データ入力部、２５：データ再構成部、２６：統合部、２７：推論演算部、２８：フィードバック制御部、３０～３９：ニューラルネットワーク構造（ＮＮ構造）、４０～４２，４４，４８，４９：入力層、５０～５７：中間層構造、５８Ａ，５８Ｂ，５９Ａ，５９Ｂ：サブ中間層構造、６０～６４，６６：出力層、７００～７０Ｋ-１：再帰型ニューラルネットワーク（ＲＮＮ）、８１，８１Ｂ，８１Ｃ，８２，８３：順伝播型ニューラルネットワーク（順伝播型ＮＮ）、９０，９０Ａ，９０Ｂ，９０Ｃ，１００，１００Ａ，１００Ｂ，１００Ｃ，１１０，１２０：サブニューラルネットワーク（サブＮＮ）、１３０，１３０Ａ，１３０Ｂ，１３１，１３１Ａ，１３１Ｂ：畳み込みニューラルネットワーク（ＣＮＮ）、１３２，１３２Ａ，１３２Ｂ：再帰型ニューラルネットワーク（ＲＮＮ）、１３３，１３４，１３５，１３６，１３７Ａ，１３７Ｂ，１３８Ａ，１３８Ｂ：順伝播型ニューラルネットワーク（順伝播型ＮＮ）、１３４Ａ，１３４Ｂ，１３５Ａ，１３５Ｂ，１３６１～１３６６：サブニューラルネットワーク（サブＮＮ）、３００：情報処理装置、３０１：プロセッサ、３０２：ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）、３０３：不揮発性メモリ、３０４：大容量メモリ、３０５：入出力インタフェース、３０６：信号路。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【手続補正書】
【提出日】2023-07-27
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
複数の測定器で得られた複数のデータ時系列から少なくとも１つの異常事象の発生を予測する異常予測システムであって、
前記複数のデータ時系列から、複数の測定パラメータと当該複数の測定パラメータにそれぞれ割り当てられた複数の相対時間値とを配列要素として含む多次元配列データを再構成するように構成されたデータ再構成系と、
前記多次元配列データを受容する入力層、１つまたは複数の再帰型ニューラルネットワークを含む中間層構造、及び出力層を有するニューラルネットワーク構造に基づく演算を実行することにより、前記異常事象に関する予測情報を算出するように構成された推論演算部と
を備える異常予測システム。
前記複数のデータ時系列から、複数の測定パラメータと当該複数の測定パラメータにそれぞれ割り当てられた複数の相対時間値とを配列要素として含む多次元配列データを再構成するように構成されたデータ再構成系と、
前記多次元配列データを受容する入力層、１つまたは複数の再帰型ニューラルネットワークを含む中間層構造、及び出力層を有するニューラルネットワーク構造に基づく演算を実行することにより、前記異常事象に関する予測情報を算出するように構成された推論演算部と
を備える異常予測システム。
【請求項2】
請求項１に記載の異常予測システムであって、前記予測情報は、前記異常事象の度合いを示すリスク度と、前記異常事象が発生するであろう予測時間との組を示す情報である、異常予測システム。
【請求項3】
請求項１に記載の異常予測システムであって、
前記データ再構成系は、
前記複数の測定器からそれぞれ供給された前記複数のデータ時系列を受け付けるデータ入力部と、
前記データ入力部を介して入力された前記複数のデータ時系列から前記多次元配列データを再構成するように構成されたデータ再構成部と
を含む、異常予測システム。
前記データ再構成系は、
前記複数の測定器からそれぞれ供給された前記複数のデータ時系列を受け付けるデータ入力部と、
前記データ入力部を介して入力された前記複数のデータ時系列から前記多次元配列データを再構成するように構成されたデータ再構成部と
を含む、異常予測システム。
【請求項4】
請求項３に記載の異常予測システムであって、
前記データ再構成部は、前記複数のデータ時系列から複数のベクトル系列を前記多次元配列データとして生成するように構成され、
前記複数のベクトル系列の各々は、前記複数の測定パラメータの各々を指定するための次元と、前記複数の相対時間値の各々を指定するための次元とを有し、
前記複数の再帰型ニューラルネットワークは、前記入力層を介して入力された前記複数のベクトル系列をそれぞれ並列に処理するように構成されている、異常予測システム。
前記データ再構成部は、前記複数のデータ時系列から複数のベクトル系列を前記多次元配列データとして生成するように構成され、
前記複数のベクトル系列の各々は、前記複数の測定パラメータの各々を指定するための次元と、前記複数の相対時間値の各々を指定するための次元とを有し、
前記複数の再帰型ニューラルネットワークは、前記入力層を介して入力された前記複数のベクトル系列をそれぞれ並列に処理するように構成されている、異常予測システム。
【請求項5】
請求項１に記載の異常予測システムであって、
前記データ再構成系は、
前記複数のデータ時系列からそれぞれ複数のベクトル系列を生成するように構成された複数の系列生成器と、
前記複数の系列生成器からそれぞれ供給された前記複数のベクトル系列を受け付けるデータ入力部と、
前記データ入力部を介して入力された前記複数のベクトル系列を統合することにより、前記入力層に入力されるべき前記多次元配列データを生成するように構成された統合部とを含み、
前記複数の系列生成器の各系列生成器は、各々が少なくとも１つの測定パラメータと当該少なくとも１つの測定パラメータに割り当てられた相対時間値とをベクトル要素として有する複数のベクトルからなるベクトル系列を生成するように構成されており、
前記複数の再帰型ニューラルネットワークは、前記入力層を介して入力された前記複数のベクトル系列をそれぞれ並列に処理するように構成されている、異常予測システム。
前記データ再構成系は、
前記複数のデータ時系列からそれぞれ複数のベクトル系列を生成するように構成された複数の系列生成器と、
前記複数の系列生成器からそれぞれ供給された前記複数のベクトル系列を受け付けるデータ入力部と、
前記データ入力部を介して入力された前記複数のベクトル系列を統合することにより、前記入力層に入力されるべき前記多次元配列データを生成するように構成された統合部とを含み、
前記複数の系列生成器の各系列生成器は、各々が少なくとも１つの測定パラメータと当該少なくとも１つの測定パラメータに割り当てられた相対時間値とをベクトル要素として有する複数のベクトルからなるベクトル系列を生成するように構成されており、
前記複数の再帰型ニューラルネットワークは、前記入力層を介して入力された前記複数のベクトル系列をそれぞれ並列に処理するように構成されている、異常予測システム。
【請求項6】
請求項４または５に記載の異常予測システムであって、
前記中間層構造は、
前記複数の再帰型ニューラルネットワークの出力を連結するように構成された連結層と、
前記連結層の出力を処理するように構成された順伝播型ニューラルネットワークと
を含む、異常予測システム。
前記中間層構造は、
前記複数の再帰型ニューラルネットワークの出力を連結するように構成された連結層と、
前記連結層の出力を処理するように構成された順伝播型ニューラルネットワークと
を含む、異常予測システム。
【請求項7】
請求項６に記載の異常予測システムであって、
前記順伝播型ニューラルネットワークは、
前記連結層の出力を処理するように構成された第１のサブニューラルネットワークと、
前記第１のサブニューラルネットワークと並列に配置され、前記連結層の出力を処理するように構成された第２のサブニューラルネットワークと
を含み、
前記推論演算部は、前記第１のサブニューラルネットワークの出力に基づいて前記異常事象の度合いを示すリスク度を生成し、前記第２のサブニューラルネットワークの出力に基づいて前記異常事象が発生するであろう予測時間を生成するように構成されている、異常予測システム。
前記順伝播型ニューラルネットワークは、
前記連結層の出力を処理するように構成された第１のサブニューラルネットワークと、
前記第１のサブニューラルネットワークと並列に配置され、前記連結層の出力を処理するように構成された第２のサブニューラルネットワークと
を含み、
前記推論演算部は、前記第１のサブニューラルネットワークの出力に基づいて前記異常事象の度合いを示すリスク度を生成し、前記第２のサブニューラルネットワークの出力に基づいて前記異常事象が発生するであろう予測時間を生成するように構成されている、異常予測システム。
【請求項8】
請求項６または７に記載の異常予測システムであって、
前記複数の測定器のうちの少なくとも１つは、対象物体の状態を測定するように構成されており、
前記連結層は、前記入力層を介して入力された前記対象物体の属性情報と、前記複数の再帰型ニューラルネットワークの出力とを連結するように構成されている、異常予測システム。
前記複数の測定器のうちの少なくとも１つは、対象物体の状態を測定するように構成されており、
前記連結層は、前記入力層を介して入力された前記対象物体の属性情報と、前記複数の再帰型ニューラルネットワークの出力とを連結するように構成されている、異常予測システム。
【請求項9】
請求項３に記載の異常予測システムであって、
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された１つまたは複数の畳み込みニューラルネットワークと、
前記１つまたは複数の畳み込みニューラルネットワークの出力を処理するように構成された前記１つまたは複数の再帰型ニューラルネットワークと
を含む、異常予測システム。
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された１つまたは複数の畳み込みニューラルネットワークと、
前記１つまたは複数の畳み込みニューラルネットワークの出力を処理するように構成された前記１つまたは複数の再帰型ニューラルネットワークと
を含む、異常予測システム。
【請求項10】
請求項９に記載の異常予測システムであって、前記多次元配列データは、３階のテンソルで構成されている、異常予測システム。
【請求項11】
請求項９に記載の異常予測システムであって、
前記中間層構造は、
前記再帰型ニューラルネットワークの出力を処理するように構成された第１のサブニューラルネットワークと、
前記第１のサブニューラルネットワークと並列に配置され、前記再帰型ニューラルネットワークの出力を処理するように構成された第２のサブニューラルネットワークと
をさらに含み、
前記推論演算部は、前記第１のサブニューラルネットワークの出力に基づいて前記異常事象の度合いを示すリスク度を生成し、前記第２のサブニューラルネットワークの出力に基づいて前記異常事象が発生するであろう予測時間を生成するように構成されている、異常予測システム。
前記中間層構造は、
前記再帰型ニューラルネットワークの出力を処理するように構成された第１のサブニューラルネットワークと、
前記第１のサブニューラルネットワークと並列に配置され、前記再帰型ニューラルネットワークの出力を処理するように構成された第２のサブニューラルネットワークと
をさらに含み、
前記推論演算部は、前記第１のサブニューラルネットワークの出力に基づいて前記異常事象の度合いを示すリスク度を生成し、前記第２のサブニューラルネットワークの出力に基づいて前記異常事象が発生するであろう予測時間を生成するように構成されている、異常予測システム。
【請求項12】
請求項９に記載の異常予測システムであって、
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された第１のサブ中間層構造と、
前記第１のサブ中間層構造と並列に配置され、前記入力層を介して入力された前記多次元配列データを処理するように構成された第２のサブ中間層構造と
を含み、
前記第１のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの少なくとも１つとして設けられた第１の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの１つとして設けられ、前記第１の畳み込みニューラルネットワークの出力を処理するように構成された第１の再帰型ニューラルネットワークと
を含み、
前記第２のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの別の少なくとも１つとして設けられた第２の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの別の１つとして設けられ、前記第２の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと
を含み、
前記推論演算部は、前記第１のサブ中間層構造の出力に基づいて前記異常事象の度合いを示すリスク度を生成し、前記第２のサブ中間層構造の出力に基づいて前記異常事象が発生するであろう予測時間を生成するように構成されている、異常予測システム。
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された第１のサブ中間層構造と、
前記第１のサブ中間層構造と並列に配置され、前記入力層を介して入力された前記多次元配列データを処理するように構成された第２のサブ中間層構造と
を含み、
前記第１のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの少なくとも１つとして設けられた第１の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの１つとして設けられ、前記第１の畳み込みニューラルネットワークの出力を処理するように構成された第１の再帰型ニューラルネットワークと
を含み、
前記第２のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの別の少なくとも１つとして設けられた第２の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの別の１つとして設けられ、前記第２の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと
を含み、
前記推論演算部は、前記第１のサブ中間層構造の出力に基づいて前記異常事象の度合いを示すリスク度を生成し、前記第２のサブ中間層構造の出力に基づいて前記異常事象が発生するであろう予測時間を生成するように構成されている、異常予測システム。
【請求項13】
請求項９に記載の異常予測システムであって、
前記複数の測定器のうちの少なくとも１つは、対象物体の状態を測定するように構成されており、
前記中間層構造は、前記１つまたは複数の再帰型ニューラルネットワークの出力と、前記入力層を介して入力された前記対象物体の属性情報とを連結するように構成された１つまたは複数の連結層をさらに含む、異常予測システム。
前記複数の測定器のうちの少なくとも１つは、対象物体の状態を測定するように構成されており、
前記中間層構造は、前記１つまたは複数の再帰型ニューラルネットワークの出力と、前記入力層を介して入力された前記対象物体の属性情報とを連結するように構成された１つまたは複数の連結層をさらに含む、異常予測システム。
【請求項14】
請求項１３に記載の異常予測システムであって、
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された第１のサブ中間層構造と、
前記第１のサブ中間層構造と並列に配置され、前記入力層を介して入力された前記多次元配列データを処理するように構成された第２のサブ中間層構造と
を含み、
前記第１のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの少なくとも１つとして設けられた第１の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの１つとして設けられ、前記第１の畳み込みニューラルネットワークの出力を処理するように構成された第１の再帰型ニューラルネットワークと、
前記複数の連結層のうちの１つとして設けられ、前記第１の再帰型ニューラルネットワークの出力と前記属性情報とを連結するように構成された第１の連結層と、
前記第１の連結層の出力を処理するように構成された第１の順伝播型ニューラルネットワークと
を含み、
前記第２のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの別の少なくとも１つとして設けられた第２の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの別の１つとして設けられ、前記第２の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと、
前記複数の連結層のうちの別の１つとして設けられ、前記第２の再帰型ニューラルネットワークの出力と前記属性情報とを連結するように構成された第２の連結層と、
前記第２の連結層の出力を処理するように構成された第２の順伝播型ニューラルネットワークと
を含む、異常予測システム。
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された第１のサブ中間層構造と、
前記第１のサブ中間層構造と並列に配置され、前記入力層を介して入力された前記多次元配列データを処理するように構成された第２のサブ中間層構造と
を含み、
前記第１のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの少なくとも１つとして設けられた第１の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの１つとして設けられ、前記第１の畳み込みニューラルネットワークの出力を処理するように構成された第１の再帰型ニューラルネットワークと、
前記複数の連結層のうちの１つとして設けられ、前記第１の再帰型ニューラルネットワークの出力と前記属性情報とを連結するように構成された第１の連結層と、
前記第１の連結層の出力を処理するように構成された第１の順伝播型ニューラルネットワークと
を含み、
前記第２のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの別の少なくとも１つとして設けられた第２の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの別の１つとして設けられ、前記第２の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと、
前記複数の連結層のうちの別の１つとして設けられ、前記第２の再帰型ニューラルネットワークの出力と前記属性情報とを連結するように構成された第２の連結層と、
前記第２の連結層の出力を処理するように構成された第２の順伝播型ニューラルネットワークと
を含む、異常予測システム。
【請求項15】
請求項１～５，９～１４のうちのいずれか１項に記載の異常予測システムであって、前記予測情報に応じて、前記複数の測定器のうちの少なくとも１つを含む機器の動作条件を変更する制御を行うフィードバック制御部をさらに備える異常予測システム。
【請求項16】
複数の測定器で得られた複数のデータ時系列から少なくとも１つの異常事象の発生を予測するためにコンピュータによって実行される方法であって、
前記複数のデータ時系列から、複数の測定パラメータと当該複数の測定パラメータにそれぞれ割り当てられた複数の相対時間値とを配列要素として含む多次元配列データを再構成するステップと、
前記多次元配列データを受容する入力層、１つまたは複数の再帰型ニューラルネットワークを含む中間層構造、及び出力層を有するニューラルネットワーク構造に基づく演算を実行することにより、前記異常事象に関する予測情報を算出するステップと
を備える方法。
前記複数のデータ時系列から、複数の測定パラメータと当該複数の測定パラメータにそれぞれ割り当てられた複数の相対時間値とを配列要素として含む多次元配列データを再構成するステップと、
前記多次元配列データを受容する入力層、１つまたは複数の再帰型ニューラルネットワークを含む中間層構造、及び出力層を有するニューラルネットワーク構造に基づく演算を実行することにより、前記異常事象に関する予測情報を算出するステップと
を備える方法。
【請求項17】
請求項１６に記載の方法であって、前記予測情報は、前記異常事象の度合いを示すリスク度と、前記異常事象が発生するであろう予測時間との組を示す情報である、方法。
【請求項18】
請求項１６に記載の方法であって、
前記多次元配列データを再構成する当該ステップは、前記複数のデータ時系列から複数のベクトル系列を前記多次元配列データとして生成するステップからなり、
前記複数のベクトル系列の各々は、前記複数の測定パラメータの各々を指定するための次元と、前記複数の相対時間値の各々を指定するための次元とを有し、
前記複数の再帰型ニューラルネットワークは、前記入力層を介して入力された前記複数のベクトル系列をそれぞれ並列に処理するように構成されている、方法。
前記多次元配列データを再構成する当該ステップは、前記複数のデータ時系列から複数のベクトル系列を前記多次元配列データとして生成するステップからなり、
前記複数のベクトル系列の各々は、前記複数の測定パラメータの各々を指定するための次元と、前記複数の相対時間値の各々を指定するための次元とを有し、
前記複数の再帰型ニューラルネットワークは、前記入力層を介して入力された前記複数のベクトル系列をそれぞれ並列に処理するように構成されている、方法。
【請求項19】
請求項１６に記載の方法であって、
前記多次元配列データを再構成する当該ステップは、
前記複数のデータ時系列から複数のベクトル系列を生成するステップと、
前記複数のベクトル系列を統合することにより、前記入力層に入力されるべき前記多次元配列データを生成するステップと
を含み、
前記複数のベクトル系列の各ベクトル系列は、各々が少なくとも１つの測定パラメータと当該少なくとも１つの測定パラメータに割り当てられた相対時間値とをベクトル要素として有する複数のベクトルからなり、
前記複数の再帰型ニューラルネットワークは、前記入力層を介して入力された前記複数のベクトル系列をそれぞれ並列に処理するように構成されている、方法。
前記多次元配列データを再構成する当該ステップは、
前記複数のデータ時系列から複数のベクトル系列を生成するステップと、
前記複数のベクトル系列を統合することにより、前記入力層に入力されるべき前記多次元配列データを生成するステップと
を含み、
前記複数のベクトル系列の各ベクトル系列は、各々が少なくとも１つの測定パラメータと当該少なくとも１つの測定パラメータに割り当てられた相対時間値とをベクトル要素として有する複数のベクトルからなり、
前記複数の再帰型ニューラルネットワークは、前記入力層を介して入力された前記複数のベクトル系列をそれぞれ並列に処理するように構成されている、方法。
【請求項20】
請求項１８または１９に記載の方法であって、
前記中間層構造は、
前記複数の再帰型ニューラルネットワークの出力を連結するように構成された連結層と、
前記連結層の出力を処理するように構成された順伝播型ニューラルネットワークと
を含む、方法。
前記中間層構造は、
前記複数の再帰型ニューラルネットワークの出力を連結するように構成された連結層と、
前記連結層の出力を処理するように構成された順伝播型ニューラルネットワークと
を含む、方法。
【請求項21】
請求項２０に記載の方法であって、
前記順伝播型ニューラルネットワークは、
前記連結層の出力を処理するように構成された第１のサブニューラルネットワークと、
前記第１のサブニューラルネットワークと並列に配置され、前記連結層の出力を処理するように構成された第２のサブニューラルネットワークと
を含み、
前記予測情報を算出する当該ステップは、前記第１のサブニューラルネットワークの出力に基づいて前記異常事象の度合いを示すリスク度を生成するステップと、前記第２のサブニューラルネットワークの出力に基づいて前記異常事象が発生するであろう予測時間を生成するステップとを含む、方法。
前記順伝播型ニューラルネットワークは、
前記連結層の出力を処理するように構成された第１のサブニューラルネットワークと、
前記第１のサブニューラルネットワークと並列に配置され、前記連結層の出力を処理するように構成された第２のサブニューラルネットワークと
を含み、
前記予測情報を算出する当該ステップは、前記第１のサブニューラルネットワークの出力に基づいて前記異常事象の度合いを示すリスク度を生成するステップと、前記第２のサブニューラルネットワークの出力に基づいて前記異常事象が発生するであろう予測時間を生成するステップとを含む、方法。
【請求項22】
請求項２０または２１に記載の方法であって、
前記複数の測定器のうちの少なくとも１つは、対象物体の状態を測定するように構成されており、
前記連結層は、前記入力層を介して入力された前記対象物体の属性情報と、前記複数の再帰型ニューラルネットワークの出力とを連結するように構成されている、方法。
前記複数の測定器のうちの少なくとも１つは、対象物体の状態を測定するように構成されており、
前記連結層は、前記入力層を介して入力された前記対象物体の属性情報と、前記複数の再帰型ニューラルネットワークの出力とを連結するように構成されている、方法。
【請求項23】
請求項１６に記載の方法であって、
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された１つまたは複数の畳み込みニューラルネットワークと、
前記１つまたは複数の畳み込みニューラルネットワークの出力を処理するように構成された前記１つまたは複数の再帰型ニューラルネットワークと
を含む、方法。
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された１つまたは複数の畳み込みニューラルネットワークと、
前記１つまたは複数の畳み込みニューラルネットワークの出力を処理するように構成された前記１つまたは複数の再帰型ニューラルネットワークと
を含む、方法。
【請求項24】
請求項２３に記載の方法であって、前記多次元配列データは、３階のテンソルで構成されている、方法。
【請求項25】
請求項２３に記載の方法であって、
前記中間層構造は、
前記再帰型ニューラルネットワークの出力を処理するように構成された第１のサブニューラルネットワークと、
前記第１のサブニューラルネットワークと並列に配置され、前記再帰型ニューラルネットワークの出力を処理するように構成された第２のサブニューラルネットワークと
をさらに含み、
前記予測情報を算出する当該ステップは、前記第１のサブニューラルネットワークの出力に基づいて前記異常事象の度合いを示すリスク度を生成するステップと、前記第２のサブニューラルネットワークの出力に基づいて前記異常事象が発生するであろう予測時間を生成するステップとを含む、方法。
前記中間層構造は、
前記再帰型ニューラルネットワークの出力を処理するように構成された第１のサブニューラルネットワークと、
前記第１のサブニューラルネットワークと並列に配置され、前記再帰型ニューラルネットワークの出力を処理するように構成された第２のサブニューラルネットワークと
をさらに含み、
前記予測情報を算出する当該ステップは、前記第１のサブニューラルネットワークの出力に基づいて前記異常事象の度合いを示すリスク度を生成するステップと、前記第２のサブニューラルネットワークの出力に基づいて前記異常事象が発生するであろう予測時間を生成するステップとを含む、方法。
【請求項26】
請求項２３に記載の方法であって、
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された第１のサブ中間層構造と、
前記第１のサブ中間層構造と並列に配置され、前記入力層を介して入力された前記多次元配列データを処理するように構成された第２のサブ中間層構造と
を含み、
前記第１のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの少なくとも１つとして設けられた第１の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの１つとして設けられ、前記第１の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと
を含み、
前記第２のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの別の少なくとも１つとして設けられた第２の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの別の１つとして設けられ、前記第２の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと
を含み、
前記予測情報を算出する当該ステップは、前記第１のサブ中間層構造の出力に基づいて前記異常事象の度合いを示すリスク度を生成するステップと、前記第２のサブ中間層構造の出力に基づいて前記異常事象が発生するであろう予測時間を生成するステップとを含む、方法。
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された第１のサブ中間層構造と、
前記第１のサブ中間層構造と並列に配置され、前記入力層を介して入力された前記多次元配列データを処理するように構成された第２のサブ中間層構造と
を含み、
前記第１のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの少なくとも１つとして設けられた第１の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの１つとして設けられ、前記第１の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと
を含み、
前記第２のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの別の少なくとも１つとして設けられた第２の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの別の１つとして設けられ、前記第２の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと
を含み、
前記予測情報を算出する当該ステップは、前記第１のサブ中間層構造の出力に基づいて前記異常事象の度合いを示すリスク度を生成するステップと、前記第２のサブ中間層構造の出力に基づいて前記異常事象が発生するであろう予測時間を生成するステップとを含む、方法。
【請求項27】
請求項２３に記載の方法であって、
前記複数の測定器のうちの少なくとも１つは、対象物体の状態を測定するように構成されており、
前記中間層構造は、前記１つまたは複数の再帰型ニューラルネットワークの出力と、前記入力層を介して入力された前記対象物体の属性情報とを連結するように構成された１つまたは複数の連結層をさらに含む、方法。
前記複数の測定器のうちの少なくとも１つは、対象物体の状態を測定するように構成されており、
前記中間層構造は、前記１つまたは複数の再帰型ニューラルネットワークの出力と、前記入力層を介して入力された前記対象物体の属性情報とを連結するように構成された１つまたは複数の連結層をさらに含む、方法。
【請求項28】
請求項２７に記載の方法であって、
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された第１のサブ中間層構造と、
前記第１のサブ中間層構造と並列に配置され、前記入力層を介して入力された前記多次元配列データを処理するように構成された第２のサブ中間層構造と
を含み、
前記第１のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの少なくとも１つとして設けられた第１の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの１つとして設けられ、前記第１の畳み込みニューラルネットワークの出力を処理するように構成された第１の再帰型ニューラルネットワークと、
前記複数の連結層のうちの１つとして設けられ、前記第１の再帰型ニューラルネットワークの出力と前記属性情報とを連結するように構成された第１の連結層と、
前記第１の連結層の出力を処理するように構成された第１の順伝播型ニューラルネットワークと
を含み、
前記第２のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの別の少なくとも１つとして設けられた第２の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの別の１つとして設けられ、前記第２の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと、
前記複数の連結層のうちの別の１つとして設けられ、前記第２の再帰型ニューラルネットワークの出力と前記属性情報とを連結するように構成された第２の連結層と、
前記第２の連結層の出力を処理するように構成された第２の順伝播型ニューラルネットワークと
を含む、方法。
前記中間層構造は、
前記入力層を介して入力された前記多次元配列データを処理するように構成された第１のサブ中間層構造と、
前記第１のサブ中間層構造と並列に配置され、前記入力層を介して入力された前記多次元配列データを処理するように構成された第２のサブ中間層構造と
を含み、
前記第１のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの少なくとも１つとして設けられた第１の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの１つとして設けられ、前記第１の畳み込みニューラルネットワークの出力を処理するように構成された第１の再帰型ニューラルネットワークと、
前記複数の連結層のうちの１つとして設けられ、前記第１の再帰型ニューラルネットワークの出力と前記属性情報とを連結するように構成された第１の連結層と、
前記第１の連結層の出力を処理するように構成された第１の順伝播型ニューラルネットワークと
を含み、
前記第２のサブ中間層構造は、
前記複数の畳み込みニューラルネットワークのうちの別の少なくとも１つとして設けられた第２の畳み込みニューラルネットワークと、
前記複数の再帰型ニューラルネットワークのうちの別の１つとして設けられ、前記第２の畳み込みニューラルネットワークの出力を処理するように構成された第２の再帰型ニューラルネットワークと、
前記複数の連結層のうちの別の１つとして設けられ、前記第２の再帰型ニューラルネットワークの出力と前記属性情報とを連結するように構成された第２の連結層と、
前記第２の連結層の出力を処理するように構成された第２の順伝播型ニューラルネットワークと
を含む、方法。
【請求項29】
請求項１６～１９，２３～２８のうちのいずれか１項に記載の方法であって、前記予測情報に応じて、前記複数の測定器のうちの少なくとも１つを含む機器の動作条件を変更する制御を行うステップをさらに備える方法。
【請求項30】
不揮発性メモリから読み出されて単数または複数のプロセッサにより実行されるべきコンピュータプログラムであって、請求項１６～１９，２３～２８のうちのいずれか１項に記載の方法を前記単数または複数のプロセッサに実施させるように構成されているコンピュータプログラム。
【請求項31】
不揮発性メモリから読み出されて単数または複数のプロセッサにより実行されるべきコンピュータプログラムであって、請求項２９に記載の方法を前記単数または複数のプロセッサに実施させるように構成されているコンピュータプログラム。