知財求人 - 知財ポータルサイト「IP Force」
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-11
(45)【発行日】2024-11-19
(54)【発明の名称】情報処理装置、情報処理方法、およびプログラム
(51)【国際特許分類】
G06N 20/00 20190101AFI20241112BHJP
【ＦＩ】
G06N20/00 130
【請求項の数】
10
(21)【出願番号】P 2023556013
(86)(22)【出願日】2021-10-29
(86)【国際出願番号】 JP2021039967
(87)【国際公開番号】W WO2023073903
(87)【国際公開日】2023-05-04
【審査請求日】2024-04-16
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】110000338
【氏名又は名称】弁理士法人 ＨＡＲＡＫＥＮＺＯ ＷＯＲＬＤ ＰＡＴＥＮＴ ＆ ＴＲＡＤＥＭＡＲＫ
(72)【発明者】
【氏名】岡嶋 穣
【審査官】今城 朋彬
(56)【参考文献】
【文献】特開２０１９－０６１４９４（ＪＰ，Ａ）
【文献】特開２０１８－０２７５７７（ＪＰ，Ａ）
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｎ ２０／００
(57)【特許請求の範囲】
【請求項1】
複数の特徴量の集合として表現される事例を取得する取得手段と、前記事例に含まれる少なくとも何れかの特徴量を目的変数とし、前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力する予測手段と、
前記複数の予測結果を参照して、事例の異常度を出力する異常度出力手段とを備える
ことを特徴とする情報処理装置。
【請求項2】
前記予測手段は、前記部分集合のそれぞれに対して１以上の予測モデルもしくは予測ルールを用いることで前記予測結果を複数出力する
ことを特徴とする請求項１に記載の情報処理装置。
【請求項3】
前記複数の特徴量のそれぞれの間の関連性が予め与えられ、前記部分集合は、前記少なくとも何れかの特徴量との関連度が相対的に低い特徴量により構成される
ことを特徴とする請求項１または２に記載の情報処理装置。
【請求項4】
前記取得手段は、前記関連性に関する情報を更に取得し、前記予測手段は、
前記関連性に関する情報を参照して、前記少なくとも何れかの特徴量との関連度が相対的に低い特徴量を特定し、特定した特徴量により前記部分集合を構成する
ことを特徴とする請求項３に記載の情報処理装置。
【請求項5】
前記予測手段は、前記少なくとも何れかの特徴量を除く特徴量から１以上の特徴量をランダムに選択し、
前記選択を繰り返して得られた部分集合のそれぞれを前記説明変数として用いて、前記予測結果を複数出力する
ことを特徴とする請求項２に記載の情報処理装置。
【請求項6】
前記予測手段は、前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量を参照して学習された決定木に含まれる各ノードからルールを抽出するルール抽出手段を備え、
前記抽出されたルールのそれぞれを用いて前記予測結果を複数出力する
ことを特徴とする請求項２に記載の情報処理装置。
【請求項7】
前記ルール抽出手段は、前記決定木の各ノードから抽出されたルールから冗長なルールを除外した少数のルールに絞り込むことで前記予測結果を出力するために用いる複数のルールを選択する
ことを特徴とする請求項６に記載の情報処理装置。
【請求項8】
前記異常度出力手段は、前記事例に含まれる特徴量の値であって、前記目的変数に対応する特徴量の値である真値と前記予測結果とを比較することにより、前記真値の確からしさを表す確率値を計算する確率計算手段を備え、前記複数の予測結果のそれぞれに対応する複数の前記確率値を用いた演算により前記異常度を算出する
請求項１乃至７のいずれか１項に記載の情報処理装置。
【請求項9】
複数の特徴量の集合として表現される事例を取得すること、前記事例に含まれる少なくとも何れかの特徴量を目的変数とし、前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力すること、
前記複数の予測結果を参照して、事例の異常度を出力することを含む
ことを特徴とする情報処理方法。
【請求項10】
コンピュータを、複数の特徴量の集合として表現される事例を取得する取得手段と、
前記事例に含まれる少なくとも何れかの特徴量を目的変数とし、前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力する予測手段と、
前記複数の予測結果を参照して、事例の異常度を出力する異常度出力手段とを備える情報処理装置として機能させる
ことを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、異常な事例をより正確に検知できるようにする情報処理装置、情報処理方法、およびプログラムに関する。
【背景技術】
【0002】
従来、複数の事例を参照して事前に学習した予測モデルを用いることで、事例に含まれる特徴量を予測し、予測した特徴量の値が、事例に含まれる特徴量の値である真値と大きく乖離している事例を異常な事例として検知する技術が知られている。
【0003】
例えば、特許文献１には、Ｄ個の特徴量から成るデータを事例として学習し、１個の特徴量のそれぞれを目的変数とし、残りのＤ－１個の特徴量を説明変数として予測モデルを学習することが開示されている。
【0004】
特許文献１では、異常であるか否かを判定すべき事例のＤ個の特徴量が、それぞれ学習済のＤ個の予測モデルを用いて予測される。そして、例えば、それぞれの予測値と真値の差異を平均化して閾値と比較することにより当該事例が異常であるか否かが判定される。
【0005】
また、１つの特徴量を予測するときに、それぞれ異なる複数個の予測モデルを用いて予測し、それぞれの予測モデルによる予測値が真値からどれだけ乖離しているかを表す外れ度合いを求める技術も提案されている（例えば、非特許文献１参照）。非特許文献１によれば、例えば、それぞれの予測モデルによる予測値の外れ度合いを足し合わせ、閾値と比較することで、当該事例が異常であるか否かが判定される。
【先行技術文献】
【特許文献】
【0006】
【文献】米国特許出願 2005/0283511号公報
【非特許文献】
【0007】
【文献】K. Noto et. al., “FRaC: A feature-modeling approach for semi-supervised and unsupervised anomaly detection”, 2012
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかしながら、事例の中で、ある特徴量が異常な値となることに連動して多くの他の特徴量がやはり異常な値となる場合、他の特徴量から当該特徴量を予測できてしまう。このような場合、当該事例を異常な事例として判定できない。特許文献１および非特許文献２では、この点が考慮されていなかった。
【0009】
本発明の一態様は、上記の問題に鑑みてなされたものであり、その目的の一例は、異常な事例をより正確に検知できるようにする技術を提供することである。
【課題を解決するための手段】
【0010】
本発明の一側面に係る情報処理装置は、複数の特徴量の集合として表現される事例を取得する取得手段と、前記事例に含まれる少なくとも何れかの特徴量を目的変数とし、前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力する予測手段と、前記複数の予測結果を参照して、事例の異常度を出力する異常度出力手段とを備える。
【0011】
本発明の一側面に係る情報処理方法は、複数の特徴量の集合として表現される事例を取得すること、前記事例に含まれる少なくとも何れかの特徴量を目的変数とし、前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力すること、前記複数の予測結果を参照して、事例の異常度を出力することを含む。
【0012】
本発明の一側面に係るプログラムは、コンピュータを、複数の特徴量の集合として表現される事例を取得する取得手段と、前記事例に含まれる少なくとも何れかの特徴量を目的変数とし、前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力する予測手段と、前記複数の予測結果を参照して、事例の異常度を出力する異常度出力手段とを備える情報処理装置として機能させる。
【発明の効果】
【0013】
本発明の一態様によれば、異常な事例をより正確に検知できるようにする技術を提供することができる。
【図面の簡単な説明】
【0014】
【図1】本発明の例示的実施形態１に係る情報処理装置の構成例を示すブロック図である。
【図2】本発明の例示的実施形態１に係る情報処理方法の流れを示すフローチャートである。
【図3】本発明の例示的実施形態２に係る異常判定装置の構成例を示すブロック図である
【図4】事例データの例を説明する図である。
【図5】予測部による処理を概略的に説明する図である。
【図6】異常判定装置による異常判定処理の例を説明するフローチャートである。
【図7】説明変数特定処理の詳細な例について説明するフローチャートである。
【図8】予測処理の詳細な例について説明するフローチャートである。
【図9】異常度出力処理の詳細な例について説明するフローチャートである。
【図10】予測ルールの例を説明する図である。
【図11】本発明の例示的実施形態３に係る異常判定装置の構成例を示すブロック図である。
【図12】予測処理の別の例について説明するフローチャートである。
【図13】複数の決定木からルールを抽出する場合の例を説明する図である。
【図14】複数の決定木からルールを抽出する場合の例を説明する図である。
【図15】予測処理のさらに別の例について説明するフローチャートである。
【図16】ルールの絞り込みを説明する図である。
【図17】本発明の例示的実施形態４に係る異常判定・学習装置の構成例を示すブロック図である。
【図18】異常判定・学習装置による学習処理の例を説明するフローチャートである。
【図19】パラメータ更新処理の詳細な例について説明するフローチャートである。
【図20】各機能を実現するソフトウェアであるプログラムの命令を実行するコンピュータの例を示すブロック図である。
【発明を実施するための形態】
【0015】
〔例示的実施形態１〕
本発明の第１の例示的実施形態について、図面を参照して詳細に説明する。本例示的実施形態は、後述する例示的実施形態の基本となる形態である。
本発明の第１の例示的実施形態について、図面を参照して詳細に説明する。本例示的実施形態は、後述する例示的実施形態の基本となる形態である。
【0016】
＜情報処理装置２０の概要＞
本例示的実施形態に係る情報処理装置２０は、概略的に言えば、複数の特徴量から成る事例であって、与えられた事例が異常であるか否かを予測する装置である。
本例示的実施形態に係る情報処理装置２０は、概略的に言えば、複数の特徴量から成る事例であって、与えられた事例が異常であるか否かを予測する装置である。
【0017】
より具体的に言えば、情報処理装置２０は、一例として、
複数の特徴量の集合として表現される事例を取得する取得手段と、
事例に含まれる少なくとも何れかの特徴量を目的変数とし、複数の特徴量のうち、少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力する予測手段と、
複数の予測結果を参照して、事例の異常度を出力する異常度出力手段とを備える。
複数の特徴量の集合として表現される事例を取得する取得手段と、
事例に含まれる少なくとも何れかの特徴量を目的変数とし、複数の特徴量のうち、少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力する予測手段と、
複数の予測結果を参照して、事例の異常度を出力する異常度出力手段とを備える。
【0018】
【0019】
図１に示すように、情報処理装置２０は、取得部２１、予測部２２および異常度出力部２３を備える。取得部２１は、本例示的実施形態において取得手段を実現する構成である。予測部２２は、本例示的実施形態において予測手段を実現する構成である。異常度出力部２３は、本例示的実施形態において異常度出力手段を実現する構成である。
【0020】
取得部２１は、複数の特徴量の集合として表現される事例を取得する。
【0021】
予測部２２は、事例に含まれる少なくとも何れかの特徴量を目的変数とし、複数の特徴量のうち、少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力する。
【0022】
例えば、事例に含まれる特徴量がＤ個ある場合、特徴量の部分集合は、目的変数に対応する１個の特徴量を除いたＤ－１個の特徴量のうち、任意の個数（０個を含む）の特徴量の組み合わせとなる。
【0023】
異常度出力部２３は、複数の予測結果を参照して、事例の異常度を出力する。
【0024】
異常度出力部２３は、例えば、予測結果が現実の事例からどれだけ乖離しているかを表す外れ度合いを、複数の予測結果のそれぞれについて求める。そして異常度出力部２３は、複数の予測結果のそれぞれの外れ度合いを用いて、事例が異常である確からしさを表す異常度を算出して出力する。
【0025】
＜情報処理装置２０の効果＞
本例示的実施形態に係る情報処理装置２０によれば、事例に含まれる少なくとも何れかの特徴量を目的変数とし、複数の特徴量のうち、少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果が複数出力される。従って、異常な事例をより正確に検知できる。すなわち、互いに異なる複数の部分集合を説明変数とした予測結果が複数得られるので、ある特徴量が異常な値となることに連動して多くの他の特徴量がやはり異常な値となる場合であっても、当該特徴量の異常度を得ることができる。
本例示的実施形態に係る情報処理装置２０によれば、事例に含まれる少なくとも何れかの特徴量を目的変数とし、複数の特徴量のうち、少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果が複数出力される。従って、異常な事例をより正確に検知できる。すなわち、互いに異なる複数の部分集合を説明変数とした予測結果が複数得られるので、ある特徴量が異常な値となることに連動して多くの他の特徴量がやはり異常な値となる場合であっても、当該特徴量の異常度を得ることができる。
【0026】
＜情報処理装置２０による情報処理方法の流れ＞
以上のように構成された情報処理装置２０が実行する情報処理方法の流れについて、図２を参照して説明する。図２は、情報処理方法の流れを示すフローチャートである。同図に示されるように、情報処理は、ステップＳ１１乃至ステップＳ１３を含んでいる。
以上のように構成された情報処理装置２０が実行する情報処理方法の流れについて、図２を参照して説明する。図２は、情報処理方法の流れを示すフローチャートである。同図に示されるように、情報処理は、ステップＳ１１乃至ステップＳ１３を含んでいる。
【0027】
ステップＳ１１において、取得部２１は、複数の特徴量の集合として表現される事例を取得する。
【0028】
ステップＳ１２において、予測部２２は、事例に含まれる少なくとも何れかの特徴量を目的変数とし、前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力する。
【0029】
ステップＳ１３において、異常度出力部２３は、複数の予測結果を参照して、事例の異常度を出力する。
【0030】
＜情報処理方法の効果＞
本例示的実施形態に係る情報処理方法によれば、事例に含まれる少なくとも何れかの特徴量を目的変数とし、複数の特徴量のうち、少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果が複数出力される。従って、異常な事例をより正確に検知できる。すなわち、互いに異なる複数の部分集合を説明変数とした予測結果が複数得られるので、ある特徴量が異常な値となることに連動して多くの他の特徴量がやはり異常な値となる場合であっても、当該特徴量の異常度を得ることができる。
本例示的実施形態に係る情報処理方法によれば、事例に含まれる少なくとも何れかの特徴量を目的変数とし、複数の特徴量のうち、少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果が複数出力される。従って、異常な事例をより正確に検知できる。すなわち、互いに異なる複数の部分集合を説明変数とした予測結果が複数得られるので、ある特徴量が異常な値となることに連動して多くの他の特徴量がやはり異常な値となる場合であっても、当該特徴量の異常度を得ることができる。
【0031】
〔例示的実施形態２〕
本発明の第２の例示的実施形態について、図面を参照して詳細に説明する。なお、例示的実施形態１にて説明した構成要素と同じ機能を有する構成要素については、同じ符号を付し、その説明を適宜省略する。
本発明の第２の例示的実施形態について、図面を参照して詳細に説明する。なお、例示的実施形態１にて説明した構成要素と同じ機能を有する構成要素については、同じ符号を付し、その説明を適宜省略する。
【0032】
＜異常判定装置１０の構成＞
本例示的実施形態に係る異常判定装置１０の構成について、図３を参照して説明する。図３は、異常判定装置１０の構成例を示すブロック図である。図３に示すように、異常判定装置１０は、情報処理装置２０、記憶部３０、通信部４１、入力部４２、および出力部４３を含んでいる。
本例示的実施形態に係る異常判定装置１０の構成について、図３を参照して説明する。図３は、異常判定装置１０の構成例を示すブロック図である。図３に示すように、異常判定装置１０は、情報処理装置２０、記憶部３０、通信部４１、入力部４２、および出力部４３を含んでいる。
【0033】
情報処理装置２０は、例示的実施形態１において説明した情報処理装置２０と同様の機能を有する機能ブロックである。
【0034】
記憶部３０は、例えば、半導体メモリデバイスなどにより構成され、データを記憶する。この例では、記憶部３０に事例データおよびモデルパラメータが記憶されている。
【0035】
ここで、モデルパラメータは、予測部２２が予測結果を得るために用いる予測モデルを規定するパラメータであり、一例として、当該予測モデルによって参照される重み係数や閾値等を含み得る。本例示的実施形態では、一例として、同図に示されているように、記憶部３０には、複数のモデルパラメータのセットが記憶されており、これら複数のモデルパラメータのセットは、一例として、それぞれ異なる複数の予測モデルに適用される。
【0036】
通信部４１は、異常判定装置１０を、ネットワークに接続するためのインタフェースである。ネットワークの具体的構成は本例示的実施形態を限定するものではないが、一例として、無線ＬＡＮ（Local Area Network）、有線ＬＡＮ、ＷＡＮ（Wide Area Network）、公衆回線網、モバイルデータ通信網、又は、これらのネットワークの組み合わせを用いることができる。
【0037】
入力部４２は、異常判定装置１０に対する各種の入力を受け付ける。入力部４２の具体的構成は本例示的実施形態を限定するものではないが、一例として、キーボード及びタッチパッド等の入力デバイスを備える構成とすることができる。また、入力部４２は、赤外線や電波等の電磁波を介してデータの読み取りを行うデータスキャナ、及び、環境の状態をセンシングするセンサ等を備える構成としてもよい。
【0038】
出力部４３は、異常判定装置１０による処理結果を出力する機能ブロックである。出力部４３の具体的構成は本例示的実施形態を限定するものではないが、一例として、ディスプレイ、スピーカ、プリンタなどにより構成され、異常判定装置１０による各種処理結果などを画面上に表示したり、音声や図として出力したりする。
【0039】
本例示的実施形態による異常判定装置１０は、複数の事例を教師データとして事前に実行された機械学習により得られた複数の予測モデルのモデルパラメータのセットを記憶部３０に記憶している。異常判定装置１０は、与えられた事例の特徴量を、事前に学習した予測モデルにより予測することで当該事例が異常であるか否かを判定する。
【0040】
【0041】
図４に示されるテスト事例１６は、異常であるか否かを判定すべき事例とされる。上述したように、取得部２１は、複数の特徴量の集合として表現される事例としてテスト事例１６を取得する。
【0042】
例えば、事例データ１５の第１番目の事例は、特徴量ｘ１の値が－１０２であり、特徴量ｘ２の値が－１０２であり、特徴量ｘ３の値が－１であり、特徴量ｘ４の値が－１である。事例データ１５の第２番目の事例は、特徴量ｘ１の値が－１０１であり、特徴量ｘ２の値が－１０１であり、特徴量ｘ３の値が－１であり、特徴量ｘ４の値が－１である。
【0043】
事例データ１５の各事例では、常に特徴量ｘ１の値は特徴量ｘ２の値と等しく、特徴量ｘ３の値は特徴量ｘ４の値と等しくなっている。また、特徴量ｘ１乃至特徴量ｘ４の値では、常に正負の符号が一致している。この条件に合致する事例は正常であり、合致しない事例は異常である。
【0044】
例えば、特徴量ｘ１の値を目的変数とし、特徴量ｘ１以外の特徴量を説明変数として線形予測モデルを学習する場合を考える。この場合、学習された予測モデルは、ｘ１＝１＊ｘ２＋０＊ｘ３＋０＊Ｘ４となる。ここで、「＊」は積を表す演算記号とする。この予測モデルにより、事例データ１５における全ての事例の特徴量ｘ１の値を予測することが可能となる。
【0045】
実際に存在する事例においては、多くの場合、異常な事例を入手することが難しく、事例の特徴量から、事例が異常であることを予測する予測モデルを生成することは難しい。
【0046】
一般に、充分に多くの正常な事例を教師データとして学習された予測モデルにより予測された特徴量が、実際に事例に含まれる特徴量と等しいかまたは近い値であれば、当該事例は正常である可能性が高い。目的変数となる特徴量と説明変数となる特徴量との相関関係が学習を通して予測モデルに反映され、正常な事例の条件を満たすように、特徴量が予測されると考えられるからである。
【0047】
換言すれば、予測モデルにより予測された特徴量が、実際に事例に含まれる特徴量と乖離していれば、当該事例は異常である可能性が高い。このように、予測モデルにより予測された特徴量と、実際に事例に含まれる特徴量との乖離によって事例が異常であるか否かを判定することができる。この場合、異常な事例を入手することができなくても、正常な事例を学習することで予測モデルを生成することができる。
【0048】
ところで、テスト事例１６は、特徴量ｘ１の値は特徴量ｘ２の値と等しいが、特徴量ｘ１乃至特徴量ｘ４の値では、正負の符号が一致していないので異常と判定されるべき事例である。
【0049】
しかしながら、上述の予測モデルにより特徴量ｘ１の値を予測すると、ｘ１＝１＊１００＋０＊（－１）＋０＊（－１）となり、特徴量ｘ１の値を正しく予測できてしまう。このように、特徴量ｘ３および特徴量ｘ４に対して、特徴量ｘ１および特徴量ｘ２が同時に異常となった場合、単に、特徴量ｘ１以外の全ての特徴量を説明変数とした予測モデルによる予測では、正確に異常を判定することができない。
【0050】
そこで、本例示的実施形態においては、事例に含まれる特徴量の目的変数に対応する特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測モデルを用いた予測を実行する。例えば、事例データ１５の場合、目的変数を特徴量ｘ１とした場合、特徴量ｘ３のみを用いて特徴量ｘ１を予測する予測モデルも学習される。
【0051】
いまの場合、学習された予測モデルは、ｘ１＝１００＊ｘ３となる。この予測モデルは、事例データ１５に含まれる事例の全てを教師データとした機械学習を実行したとしても、予測誤差を０にすることができない。すなわち、この予測モデルによる予測誤差は、２，１，０，１，および２となり、それぞれの予測誤差がほぼ同じ頻度で出現することになる。なお、予測誤差を０にすることができない予測モデルを弱い予測モデルと称することもある。
【0052】
この弱い予測モデルを用いてテスト事例１６の特徴量ｘ１の値を予測すると、ｘ１＝－１００となり、正しく予測できない。
【0053】
このように本例示的実施形態では、目的変数に対応する特徴量以外の特徴量の一部を使った予測モデルを用いる。すなわち、弱い予測モデルをあえて用いることでより、予測された特徴量が、実際に事例に含まれる特徴量から乖離する予測結果を出力させ、その予測結果を利用して事例が異常であるか否かを判定する。
【0054】
このようにすることで、例えば、ある特徴量が異常な値となることに連動して多くの他の特徴量がやはり異常な値となる事例についても、適切に異常を判定できるようになる。
【0055】
ここでは、一例として、線形予測モデルを用いる予測について説明したが、線形予測モデルとは異なる方式の予測モデルが用いられるようにしてもよい。例えば、非線形のＳＶＭや、決定木などの予測モデルが用いられるようにしてもよい。あるはまた、後述するように、予測モデルに代えて予測ルールが用いられるようにしてもよい。
【0056】
本例示的実施形態における特徴量の部分集合と予測モデルは、具体的には、次のようにして決まる。例えば、事例の特徴量がｘ１乃至ｘ４の４個であり、ｘ４を目的変数とする場合、説明変数の組み合わせは、下記の８通りになる。
【0057】
［］
［ｘ１］， ［ｘ２］， ［ｘ３］
［ｘ１，ｘ２］， ［ｘ１， ｘ３］， ［ｘ２， ｘ３］
［ｘ１， ｘ２， ｘ３］
なお、［］は、事例に含まれる特徴量を０個用いる場合を表している。
［ｘ１］， ［ｘ２］， ［ｘ３］
［ｘ１，ｘ２］， ［ｘ１， ｘ３］， ［ｘ２， ｘ３］
［ｘ１， ｘ２， ｘ３］
なお、［］は、事例に含まれる特徴量を０個用いる場合を表している。
【0058】
本例示的実施形態によれば、予測部２２が、部分集合のそれぞれに対応する予測モデルを用いることで予測結果を複数出力する。このようにすることで、弱い予測モデルを用いた予測結果を得ることができる。
【0059】
ここで、予測モデルのそれぞれは、上述した説明変数の組み合わせにより異なることになるが、同じ説明変数の組み合わせを用いた複数の予測モデルが用いられるようにしてもよい。例えば、説明変数が［ｘ１， ｘ２， ｘ３］であるＳＶＭの予測モデルと、説明変数が［ｘ１， ｘ２， ｘ３］である決定木の予測モデルがそれぞれ用いられるようにしてもよい。すなわち、部分集合のそれぞれに対して１以上の予測モデルまたは予測ルールが用いられる。
【0060】
また、事例が異常であるか否かを判定する際に、複数の特徴量の予測結果を用いてもよい。例えば、事例の特徴量が、ｘ１乃至ｘ８である場合、ｘ１を目的変数とし、ｘ２乃至ｘ８の部分集合を説明変数とした予測結果と、ｘ２を目的変数とし、ｘ１およびｘ３乃至ｘ８の部分集合を説明変数とした予測結果と・・・のように複数の特徴量の予測結果が用いられてもよい。
【0061】
このようにすることで、より正確に事例が異常であるか否かを判定することができる。
【0062】
また、目的変数となる特徴量と説明変数となる特徴量との関連性を考慮すればさらに正確な判定も可能となる。
【0063】
例えば、水道管の上流から下流に向かって複数のセンサが設けられている場合を考える。このとき、水道管の上流で水漏れが発生すると、下流のセンサは、同時に異常な値を取ることになる。この場合、センサから出力される特徴量は関連度が高く、それぞれの特徴量から互いに予測できてしまうことがある。
【0064】
そこで、例えば、事例に含まれる複数の特徴量のそれぞれの間の関連性が予め与えられ、説明変数として用いられる部分集合は、目的変数に対応する特徴量との関連度が相対的に低い特徴量により構成されるようにしてもよい。
【0065】
このようにすることで、多くの特徴量が同時に異常になっても、目的関数の特徴量が実際に事例に含まれる特徴量から乖離した予測結果を出力できる予測モデルを用いることができる。これにより、異常な事例が誤って正常と判定されてしまう可能性を低くすることができる。
【0066】
なお、予測モデルまたは予測ルールのそれぞれは、記憶部３０に記憶された複数のモデルパラメータのセットによって規定される。
【0067】
異常度出力部２３は、このようにして出力された予測結果を用いて与えられた事例が異常である確からしさを表す異常度を算出して出力する。なお、異常度算出の詳細については後述する。
【0068】
（予測モデルの数の絞り込みの例）
一方で、これらの予測モデルの機械学習を全て実行すると計算コストが著しく高くなる。また、あまりにも多くの予測モデルを用いると、事例が異常と判定された理由の事後的な認識可能性である解釈性も低下する。
一方で、これらの予測モデルの機械学習を全て実行すると計算コストが著しく高くなる。また、あまりにも多くの予測モデルを用いると、事例が異常と判定された理由の事後的な認識可能性である解釈性も低下する。
【0069】
そこで、予測モデルの数が絞り込まれるようにしてもよい。例えば、部分集合の数を限定するか、又は部分集合を構成する特徴量の数を限定することで、予測モデルの数を絞り込むことができる。
【0070】
例えば、取得部２１が、関連性に関する情報を取得し、予測部２２が、関連性に関する情報を参照して、少なくとも何れかの特徴量との関連度が相対的に低い特徴量を特定し、特定した特徴量により部分集合を構成するようにしてもよい。
【0071】
この場合、部分集合を構成する特徴量が、関連度の相対的に低い特徴量に限定されるため、特徴量の数が限定されることになり、予測モデルの数を絞り込むことが可能となる。例えば、８通りの特徴量の組み合わせの中から４通りの組み合わせを選択することができる。そして、選択された組み合わせのそれぞれが説明変数として用いられる予測モデルだけを用いた予測が行われるようにすることで、予測モデルの数を絞り込こむことが可能となる。
【0072】
このようにすることで、予測モデルの数が膨大になることを避けることができ、計算コストが低下し、解釈性も高められる。
【0073】
上述の例では、目的変数に対応する特徴量との関連度が相対的に低い特徴量によって説明変数を構成することで予測モデルの数を絞り込むこととしたが、別の方式により予測モデルの数を絞り込むようにしてもよい。例えば、目的変数に対応する特徴量以外の特徴量の中から任意に選択された所定の数の特徴量のみによって説明変数を構成し、この選択を繰り返すことで予測モデルの数を絞り込むようにしてもよい。
【0074】
すなわち、予測部２２は、目的変数に対応する特徴量を除く特徴量から１以上の特徴量をランダムに選択し、選択を繰り返して得られた部分集合のそれぞれを説明変数として用いて、予測結果を複数出力するようにしてもよい。
【0075】
この場合、選択を繰り返す回数を限定することにより、部分集合の数が限定されるので、予測モデルの数を絞り込むことが可能となる。このようにすることで、予測モデルの数が膨大になることを避けることができ、計算コストが低下し、解釈性も高められる。
【0076】
特徴量のランダムな選択を繰り返して予測モデルを生成するアルゴリズムの例は、疑似コードを用いて次のように表現される。ここでは、特徴量の数がＬ個とされ、Ｔ回選択を繰り返す場合のアルゴリズムを示す。
【0077】
models = []
for i in range(L):
models[i] = []
for j in range(T): #Tは事前に決める適当な定数
features = random_select(i, L, K) #i以外のL-1個の特徴量からK個ランダムに選ぶ
models[i][j] = training(i, features) #選ばれた特徴量で特徴量x_iを予測するモデルを訓練事例集合を元に作成
この例では、選択回数Ｔを小さくするほど、予測モデルの数が少なくなる。
for i in range(L):
models[i] = []
for j in range(T): #Tは事前に決める適当な定数
features = random_select(i, L, K) #i以外のL-1個の特徴量からK個ランダムに選ぶ
models[i][j] = training(i, features) #選ばれた特徴量で特徴量x_iを予測するモデルを訓練事例集合を元に作成
この例では、選択回数Ｔを小さくするほど、予測モデルの数が少なくなる。
【0078】
（予測部の処理の概略）
図５は、上述した本例示的実施の形態における予測部２２による処理を概略的に説明する図である。この例では、事例に含まれる特徴量として、特徴量１乃至特徴量ＤのＤ個が存在するものとする。
図５は、上述した本例示的実施の形態における予測部２２による処理を概略的に説明する図である。この例では、事例に含まれる特徴量として、特徴量１乃至特徴量ＤのＤ個が存在するものとする。
【0079】
図５に示されるように、予測部２２は、特徴量１を予測するために、Ｐ_１個の予測モデルを用いた予測処理を実行する。また、予測部２２は、特徴量３を予測するために、Ｐ_２個の予測モデルを用いた予測処理を実行し、特徴量３を予測するために、Ｐ_３個の予測モデルを用いた予測処理を実行し、・・・特徴量Ｄを予測するために、Ｐ_Ｄ個の予測モデルを用いた予測処理を実行する。
【0080】
＜異常判定装置１０による異常判定処理の流れ＞
次に、図６のフローチャートを参照して、本例示的実施形態の異常判定装置１０による異常判定処理の例を説明する。
次に、図６のフローチャートを参照して、本例示的実施形態の異常判定装置１０による異常判定処理の例を説明する。
【0081】
ステップＳ３１において、取得部２１は、異常であるか否かを判定すべき事例を取得する。
【0082】
ステップＳ３２において、予測部２２は、説明変数特定処理を実行する。これにより、ステップＳ３１で取得した事例において目的変数に対応する特徴量を予測するための説明変数が特定される。
【0083】
【0084】
ステップＳ５１において、予測部２２は、ステップＳ３１で取得された事例の特徴量を収集する。例えば、事例にＤ個の特徴量が含まれる場合、Ｄ個の特徴量が収集される。
【0085】
ステップＳ５２において、予測部２２は、目的変数となる特徴量を特定する。目的変数となる特徴量は任意に選択されてもよいし、予め指定されるようにしてもよい。目的変数となる特徴量が予め指定される場合、例えば、入力部４２を介して受け付けられた操作または所定の情報などにより指定される。
【0086】
ステップＳ５３において、取得部２１は、事例に含まれる複数の特徴量のそれぞれの間の関連性を表す情報である関連性情報を取得する。関連性情報は、例えば、予め事例データを分析することで得られた各特徴量間の相関度が記述された情報などとされる。
【0087】
取得部２１は、例えば、入力部４２または通信部４１を介して関連性情報を取得する。あるいはまた、記憶部３０に予め関連性情報が記憶されているようにしてもよい。
【0088】
ステップＳ５４において、予測部２２は、ステップＳ５３の処理で取得した関連性情報を参照し、ステップＳ５２の処理で特定された目的変数の特徴量との関連度が相対的に低い特徴量を特定する。
【0089】
ステップＳ５５において、予測部２２は、ステップＳ５４の処理で特定した関連度が相対的に低い特徴量を用いて、特徴量の部分集合を複数抽出する。このとき、ステップＳ５４の処理で特定された特徴量の１部または全部から成る特徴量の組み合わせが複数抽出される。
【0090】
ステップＳ５６において、予測部２２は、ステップＳ５５の処理で抽出された特徴量の部分集合を、ステップＳ５２の処理で特定された目的変数を予測するための説明変数として特定する。このとき、複数の部分集合のそれぞれが、説明変数として特定される。すなわち、複数の予測モデルに対応する複数通りの説明変数が特定される。
【0091】
このようにして、説明変数特定処理が実行される。
【0092】
ここでは、目的変数の特徴量との関連度が相対的に低い特徴量を特定し、特定した特徴量により説明変数となる部分集合を抽出する場合の例について説明した。しかし、説明変数となる部分集合は、異なる方式で抽出されるようにしてもよい。例えば、目的変数に対応する特徴量を除く特徴量から１以上の特徴量をランダムに選択し、選択を繰り返して得られた部分集合が抽出されるようにしてもよい。
【0093】
図６に戻って、ステップＳ３２の処理の後、予測部２２は、ステップＳ３３において予測処理を実行する。これにより、ステップＳ５６の処理で特定された説明変数を用いた目的変数の予測が行われる。
【0094】
【0095】
ステップＳ７１において、予測部２２は、部分集合に対応する予測モデルを選択する。このとき、ステップＳ５５の処理で抽出された特徴量の部分集合（すなわち、説明変数）に対応する予測モデルが選択される。なお、上述したように、同じ説明変数の組み合わせを用いた複数の予測モデルが選択されるようにしてもよい。このような複数の予測モデルは、予め記憶部３０に記憶されたモデルパラメータのセットによって規定される。
【0096】
ステップＳ７２において、予測部２２は、ステップＳ７１の処理で選択された予測モデルを用いて目的変数を予測する。
【0097】
ステップＳ７３において、予測部２２は、次の部分集合があるか否かを判定する。次の部分集合があると判定された場合、処理は、ステップＳ７１にもどり、次の部分集合に対応する予測モデルが選択され、目的変数が予測される。このようにして、複数の部分集合に対応する複数の予測結果が得られる。
【0098】
ステップＳ７３において、次の部分集合はないと判定された場合、処理は、ステップＳ７４に進み、予測部２２は、予測結果を出力する。これにより、上述した複数の予測結果が出力される。
【0099】
このようにして、予測処理が実行される。
【0100】
図６に戻って、ステップＳ３３の処理の後、処理は、ステップＳ３４に進み、異常度出力部２３は、異常度出力処理を実行する。これにより、ステップＳ３１で取得された事例の異常度が算出されて出力される。
【0101】
図３に示されるように、本例示的実施形態の異常度出力部２３は、確率計算部１０１を有している。確率計算部１０１は、目的変数に対応する特徴量の値である真値と予測結果とを比較することにより、真値の確からしさを表す確率値ｐを計算する。なお、確率値ｐは、複数の予測結果のそれぞれについて算出される。
【0102】
このようにして算出された確率値を用いて、事例が異常であるか否かを判定するために、適切な異常度を計算することができる。
【0103】
【0104】
ここでは、事例に含まれる特徴量ｘの数がＤ個であり、特徴量の部分集合が次のように表されるものとして説明する。
【0105】
【数1】
【0106】
そして、それぞれの部分集合に対応する予測モデルは、Ｃi1，Ｃi2，Ｃi3，・・・ＣiPiで表されるものとする。
【0107】
ステップＳ９１において、確率計算部１０１は、ステップＳ７４の処理で出力された複数の予測結果のそれぞれについて確率値ｐを算出する。
【0108】
ステップＳ９２において、異常度出力部２３は、ステップＳ９１の処理で算出された確率値ｐに基づいて、異常度の算出に用いられるパラメータであるＳｕｒｐｒｉｓａｌを算出する。なお、Ｓｕｒｐｒｉｓａｌは、ステップＳ９１で算出された確率値ｐのそれぞれについて算出される。すなわち、Ｓｕｒｐｒｉｓａｌも、やはり複数の予測結果のそれぞれについて算出される。
【0109】
Ｓｕｒｐｒｉｓａｌは、予測結果の意外性を表す値とされ、確率値ｐが小さいほど大きい値となる。Ｓｕｒｐｒｉｓａｌは、次の式により表される。
【0110】
【数2】
【0111】
【数3】
【0112】
一方で、ステップＳ７４の処理で出力された複数の予測結果は、意外性の小さいものが多いこともある。すなわち、ステップＳ９２において、算出されるＳｕｒｐｒｉｓａｌのほとんどが、小さい値となることもある。このような場合、目的変数を正確に予測できなかった予測結果が異常度の算出において有効に活用されないことになる。
【0113】
そこで、例えば、もっとも意外性の高い予測結果に対応するＳｕｒｐｒｉｓａｌを用いて異常度が算出されるようにしてもよい。この場合、異常度は、例えば、次の式により算出される。
【0114】
【数4】
【0115】
換言すれば、異常度が、複数予測結果の確率値ｐのうち、最も値の小さい順に、ｋ個（ｋは自然数）の確率値ｐを用いた演算により算出されるようにしてもよい。
【0116】
このようにすることで、単純にＳｕｒｐｒｉｓａｌの最大値を用いる場合と比較して、より安定した異常度を算出することができる。すなわち、１つではなく、３つの予測結果が異常度に反映されるため、例えば、事例により異常度が極端に変化することが回避されやすい。
【0117】
あるいはまた、予測に用いられる説明変数の数に注目した重みづけを行って異常度が算出されるようにしてもよい。例えば、少ない説明変数のみを用いる予測において目標変数を正確に予測できない事例は、一見して明らかに異常な事例であることが多い。
【0118】
そこで、異常度が、複数の確率値を、確率値に対応する予測結果を得るために用いた説明変数の数が多いほど重みが小さくなるように重み付けする重み係数と、複数の確率値を用いた演算により算出されるようにしてもよい。この場合、異常度は、例えば、次式により算出される。
【0119】
【数5】
【0120】
このようにして異常度算出処理が実行される。また、これにより、図６の異常度判定処理が終了することになる。ステップＳ９３で算出された異常度は、事例が異常である確からしさを表すものなので、例えば、異常度の値を閾値と比較することなどにより、事例が異常であるか否かを判定することができる。
【0121】
＜異常判定処理装置および異常判定処理の効果＞
このように、本例示的実施形態に係るに異常判定処理装置および異常判定処理おいては、事例に含まれる特徴量の目的変数に対応する特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測モデルを用いた予測が実行される。このようにすることで、弱い予測モデルをあえて用いることができ、より適正に異常度を算出することができる。その結果、事例が異常であるか否かをより正確に判定できる。
このように、本例示的実施形態に係るに異常判定処理装置および異常判定処理おいては、事例に含まれる特徴量の目的変数に対応する特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測モデルを用いた予測が実行される。このようにすることで、弱い予測モデルをあえて用いることができ、より適正に異常度を算出することができる。その結果、事例が異常であるか否かをより正確に判定できる。
【0122】
〔例示的実施形態３〕
例示的実施形態２においては、予測部２２が、主に予測モデルを用いた予測を行う例について説明した。しかし、予測部２２が、予測ルールを用いた予測を行うようにしてもよい。
例示的実施形態２においては、予測部２２が、主に予測モデルを用いた予測を行う例について説明した。しかし、予測部２２が、予測ルールを用いた予測を行うようにしてもよい。
【0123】
（単一の決定木から抽出される予測ルールの例）
図１０は、例示的実施形態における予測ルールの例を説明する図である。同図には、特徴量ｘ１および特徴量ｘ２を用いて特徴量ｘ３を予測する単一の決定木からルールを抽出する例が示されている。
図１０は、例示的実施形態における予測ルールの例を説明する図である。同図には、特徴量ｘ１および特徴量ｘ２を用いて特徴量ｘ３を予測する単一の決定木からルールを抽出する例が示されている。
【0124】
この決定木は、深さ０に１つの内部ノード、深さ１に２つの内部ノード、深さ２に４つの内部ノードがあり、合計７つの内部ノードを有している。ここで、それぞれの内部ノードは、ひとつのＩＦ－ＴＨＥＮルールと見なすことができる。
【0125】
すなわち、深さ０の内部ノードは、ルールＩＤ０のＩＦ－ＴＨＥＮルールと見なすことができ、深さ１の内部ノードは、ルールＩＤ１およびルールＩＤ１のＩＦ－ＴＨＥＮルールと見なすことができる。さらに、深さ２の内部ノードは、ルールＩＤ３乃至ルールＩＤ６のＩＦ－ＴＨＥＮルールと見なすことができる。
【0126】
ＩＦ－ＴＨＥＮルールは、条件に当てはまるときのみ予測を出力し、それ以外のときは予測を出力しない、不完全な予測モデルと考えることもできる。
【0127】
＜異常判定装置１０の構成＞
図１１は、本例示的実施形態における異常判定装置１０の構成例を示すブロック図である。同図に示されるように、本例示的実施形態においては、予測部２２が、複数の特徴量のうち、目的変数に対応する特徴量を除く特徴量を参照して学習された決定木に含まれる各ノードからルールを抽出するルール抽出部８１を有している。そして、予測部２２は、抽出されたルールのそれぞれを用いて予測結果を複数出力する。図１１におけるその他の構成は図３と同様なので、詳細な説明は省略する。
図１１は、本例示的実施形態における異常判定装置１０の構成例を示すブロック図である。同図に示されるように、本例示的実施形態においては、予測部２２が、複数の特徴量のうち、目的変数に対応する特徴量を除く特徴量を参照して学習された決定木に含まれる各ノードからルールを抽出するルール抽出部８１を有している。そして、予測部２２は、抽出されたルールのそれぞれを用いて予測結果を複数出力する。図１１におけるその他の構成は図３と同様なので、詳細な説明は省略する。
【0128】
【0129】
ステップＳ１１１において、予測部２２は、目的変数を予測するための単一の決定木を取得する。この決定木は、例えば、事例に含まれる特徴量のうち、目的変数に対応する特徴量を除いた全ての特徴量を用いて目的変数を予測する予測モデルとされる。この決定木の予測モデルは、記憶部３０に予め記憶されたモデルパラメータにより規定される。
【0130】
ステップＳ１１２において、予測部２２のルール抽出部８１は、ルールを抽出する。このとき、例えば、図６を参照して説明したステップＳ３２の説明変数特定処理により特定された説明変数に対応する特徴量の部分集合からなるルールが抽出される。
【0131】
ステップＳ１１３において、予測部２２は、ステップＳ１１２で抽出されたルールにより目的変数を予測する。
【0132】
ステップＳ１１４において、予測部２２は、次の部分集合があるか否かを判定する。次の部分集合があると判定された場合、処理は、ステップＳ１１２にもどり、次の部分集合に対応するルールが抽出され、目的変数が予測される。このようにして、複数の部分集合に対応する複数の予測結果が得られる。
【0133】
ステップＳ１１２において、次の部分集合はないと判定された場合、処理は、ステップＳ１１５に進み、予測部２２は、予測結果を出力する。これにより、複数の予測結果が出力される。
【0134】
このようにして本例示的実施形態における予測処理が実行される。上述したように、予測結果が決定木に含まれる各ノードから抽出されたルールを用いて得られるので、計算コストが低下する。
【0135】
（複数の決定木から抽出される予測ルールの例）
ここでは、一例として、目的変数に対応する特徴量を除いた全ての特徴量を用いて目的変数を予測する単一の決定木からルールを抽出する例について説明したが、複数の決定木からルールが抽出されるようにしてもよい。
ここでは、一例として、目的変数に対応する特徴量を除いた全ての特徴量を用いて目的変数を予測する単一の決定木からルールを抽出する例について説明したが、複数の決定木からルールが抽出されるようにしてもよい。
【0136】
例えば、図１３および図１４に示されるように、特徴量ｘ_ｉを目的変数として予測するための説明変数となる特徴量を、特徴量ｘ_ｉ以外の特徴量の中からランダムに選ぶことにより、それぞれの説明変数に対応する決定木が用いられるようにしてもよい。図１３および図１４は、複数の決定木からルールを抽出する場合の例を説明する図である。
【0137】
例えば、特徴量ｘ１乃至特徴量ｘ８があり、特徴量ｘ１を目的変数とする。この場合、説明変数となる特徴量は、特徴量ｘ２乃至特徴量ｘ８となり、特徴量ｘ２乃至特徴量ｘ８の中からランダムに１以上の特徴量が選択される。
【0138】
例えば、特徴量ｘ２、特徴量ｘ３、および特徴量ｘ４が組み合わせ１として選択され、特徴量ｘ６、特徴量ｘ７、および特徴量ｘ８が組み合わせ２として選択されたとする。いまの場合、組み合わせ１に対応して決定木１２１Ａが生成され、組み合わせ２に対応して決定木１２１Ｂが生成される。
【0139】
そして、決定木１２１Ａおよび決定木１２１Ｂから、それぞれＩＦ－ＴＨＥＮルールが抽出される。例えば、図１４に示されるように、決定木１２１ＡからＩＦ－ＴＨＥＮルール１２２Ａが抽出され、決定木１２１ＢからＩＦ－ＴＨＥＮルール１２２Ｂが抽出される。
【0140】
このように抽出されたＩＦ－ＴＨＥＮルール１２２Ａと、ＩＦ－ＴＨＥＮルール１２２Ｂとが結合され、ルール集合１２３が生成される。ルール集合１２３は、特徴量ｘ１を予測するための説明変数であって、特徴量ｘ２乃至特徴量ｘ８の部分集合を説明変数とするＩＦ－ＴＨＥＮルールの集合となる。
【0141】
＜複数の決定木を用いる場合の予測処理の流れ＞
次に、図１５のフローチャートを参照して、予測部２２が複数の決定木から抽出されたルールを用いて目的変数を予測する場合の予測処理の例について説明する。
次に、図１５のフローチャートを参照して、予測部２２が複数の決定木から抽出されたルールを用いて目的変数を予測する場合の予測処理の例について説明する。
【0142】
ステップＳ１３１において、予測部２２は、特徴量の部分集合を選択する。このとき、例えば、事例に含まれる特徴量のうち、目的変数に対応する特徴量を除いた全ての特徴量の中から説明変数となる特徴量がランダムに選択される。
【0143】
ステップＳ１３２において、予測部２２は、目的変数を予測するための決定木を取得する。この決定木は、ステップＳ１３１で選択された特徴量を用いて目的変数を予測する予測モデルとされる。この決定木の予測モデルは、記憶部３０に予め記憶されたモデルパラメータにより規定される。
【0144】
ステップＳ１３３において、予測部２２のルール抽出部８１は、ステップＳ１３２で取得された決定木からルールを抽出する。
【0145】
ステップＳ１３４において、予測部２２は、次の部分集合があるか否かを判定する。次の部分集合があると判定された場合、処理は、ステップＳ１３１にもどり、次の部分集合に対応する決定木が取得され、ルールが抽出される。このようにして、複数の決定木のそれぞれからルールが抽出されていく。
【0146】
ステップＳ１３４において、次の部分集合がないと判定された場合、処理は、ステップＳ１３５に進む。
【0147】
ステップＳ１３５において、予測部２２は、ステップＳ１３３で抽出されたルールのそれぞれを結合してルール集合を生成する。
【0148】
ステップＳ１３６において、予測部２２は、ステップＳ１３５の処理で生成されたルール集合を用いて目的変数となる特徴量を予測する。これにより、ルール集合に含まれるルールのそれぞれに対応して複数の予測結果が出力される。
【0149】
このようにして、予測処理が実行される。
【0150】
（予測ルールの絞り込みの例）
ところで、図１３および図１４を参照して説明した例においては、複数の決定木のそれぞれからルールを結合したルール集合をそのまま用いて予測が行われる。しかしながら、ルール集合には、冗長なルールや、あまり予測に役立たないルールが複数含まれることがある。
ところで、図１３および図１４を参照して説明した例においては、複数の決定木のそれぞれからルールを結合したルール集合をそのまま用いて予測が行われる。しかしながら、ルール集合には、冗長なルールや、あまり予測に役立たないルールが複数含まれることがある。
【0151】
予測部２２は、例えば、図１６に示されるように、冗長なルールや、あまり予測に役立たないルールを除外してルール集合１２３に含まれるルールを絞り込み、絞り込みルール集合１２４を生成するようにしてもよい。
【0152】
ルールを絞り込む方式の一例として、「Yuzuru Okajima, Kunihiko Sadamasa. Decision List Optimization based on Continuous Relaxation: The SIAM International Conference on Data Mining (SDM19), 2019」に記載された技術を利用できる。この技術は、確率的勾配降下法（stochastic gradient decent (SGD)）を用い、ルール集合を入力として、予測に役立つルールだけからなるルールのリスト(決定リスト)を出力する。
【0153】
このように、予測部２２は、抽出されたルールから冗長なルールを除外した少数のルールに絞り込むことで予測結果を出力するために用いる複数のルールを選択するようにしてもよい。ルールの数が絞り込まれることで、計算コストがさらに低下する。
【0154】
絞り込みルール集合を生成するアルゴリズムの例は、疑似コードを用いて次のように表現される。ここでは、事例に含まれる特徴量がＤ個あり、特徴量ｘ_ｉに対して予測ルールの集合Ｒ_ｉが得られることとする。
rulesets = []
for i in [1, ..., D]:
ruleset_i = [] #x_iを予測するルールの集合R_i
for j in [1, ..., T]:#Tは事前に決める適当な定数
features = random_select(i, D, K) #i以外のD-1個の特徴量からK個ランダムに選ぶ
tree = training(i, features) #選ばれた特徴量で特徴量x_iを予測する決定木を訓練事例集合を元に作成
rules = get_rules_from_tree(tree) #決定木からルール抽出
ruleset_i.append(rules) #抽出されたルールをR_iに追加
rulesets[i] = filter(ruleset_i) #ルール集合の絞込
絞り込みルール集合を用いて与えられた事例ｘの異常度を計算するアルゴリズムの例は、疑似コードを用いて次のように表現される。ここでは、事例として、ｘ＝［ｘ１，ｘ２，．．．］という、Ｄ個の要素をもつベクトルが入力されるものとする。
surprisals = []
for i in [1, ..., D]: #D個の特徴量に関して
rules = get_applicable(rulesets[i]) #ルール集合R_iのうちx_iが当てはまるルールを抽出
error = get_error(rules.predict, x_i) #ルールの予測値とx_iの誤差を計算
surprisals[i] = get_surprisal(error) #誤差から特徴量のsurprisalを計算
score = get_anomaly_score(surprisals) #D個の特徴量のsurprisalから事例の異常度を計算
〔例示的実施形態４〕
次に、本発明の第４の例示的実施形態について、図面を参照して詳細に説明する。なお、例示的実施形態１乃至例示的実施形態３にて説明した構成要素と同じ機能を有する構成要素については、同じ符号を付し、その説明を適宜省略する。
rulesets = []
for i in [1, ..., D]:
ruleset_i = [] #x_iを予測するルールの集合R_i
for j in [1, ..., T]:#Tは事前に決める適当な定数
features = random_select(i, D, K) #i以外のD-1個の特徴量からK個ランダムに選ぶ
tree = training(i, features) #選ばれた特徴量で特徴量x_iを予測する決定木を訓練事例集合を元に作成
rules = get_rules_from_tree(tree) #決定木からルール抽出
ruleset_i.append(rules) #抽出されたルールをR_iに追加
rulesets[i] = filter(ruleset_i) #ルール集合の絞込
絞り込みルール集合を用いて与えられた事例ｘの異常度を計算するアルゴリズムの例は、疑似コードを用いて次のように表現される。ここでは、事例として、ｘ＝［ｘ１，ｘ２，．．．］という、Ｄ個の要素をもつベクトルが入力されるものとする。
surprisals = []
for i in [1, ..., D]: #D個の特徴量に関して
rules = get_applicable(rulesets[i]) #ルール集合R_iのうちx_iが当てはまるルールを抽出
error = get_error(rules.predict, x_i) #ルールの予測値とx_iの誤差を計算
surprisals[i] = get_surprisal(error) #誤差から特徴量のsurprisalを計算
score = get_anomaly_score(surprisals) #D個の特徴量のsurprisalから事例の異常度を計算
〔例示的実施形態４〕
次に、本発明の第４の例示的実施形態について、図面を参照して詳細に説明する。なお、例示的実施形態１乃至例示的実施形態３にて説明した構成要素と同じ機能を有する構成要素については、同じ符号を付し、その説明を適宜省略する。
【0155】
＜異常判定・学習装置１０Ａの構成＞
本例示的実施形態に係る異常判定・学習装置１０Ａの構成について、図１７を参照して説明する。異常判定・学習装置１０Ａは、異常判定装置１０における記憶部３０のモデルパラメータのセットを学習する機能をさらに有する装置である。
本例示的実施形態に係る異常判定・学習装置１０Ａの構成について、図１７を参照して説明する。異常判定・学習装置１０Ａは、異常判定装置１０における記憶部３０のモデルパラメータのセットを学習する機能をさらに有する装置である。
【0156】
同図に示されるように、異常判定・学習装置１０Ａは、情報処理装置２０Ａを有している。情報処理装置２０Ａは、図３に示される情報処理装置２０と同様に、取得部２１、予測部２２、および異常度出力部２３を有するとともに、教師データ取得部２４および学習部２５をさらに有している。異常判定・学習装置１０Ａのその他の構成は、図３に示される異常判定装置１０と同様である。
【0157】
情報処理装置２０Ａに含まれる教師データ取得部２４は、事例データを参照して教師データを取得する。学習部２５は、教師データ取得部２４が取得した教師データを用いて機械学習を行い、予測モデルを学習させる。
【0158】
＜異常判定・学習装置１０Ａによる学習処理の流れ＞
図１８は、異常判定・学習装置１０Ａによる学習処理の例を説明するフローチャートである。
図１８は、異常判定・学習装置１０Ａによる学習処理の例を説明するフローチャートである。
【0159】
ステップＳ１５１において、教師データ取得部２４は、事例を取得する。このとき、学習の対象となる複数の事例が取得される。
【0160】
ステップＳ１５２において、教師データ取得部２４は、説明変数特定処理を実行する。これにより、目的変数の予測に用いられる説明変数が特定される。この処理は、図７を参照して説明した処理と同様の処理なので詳細な説明は省略する。教師データ取得部２４は、予測部２２を制御してステップＳ１５２の説明変数特定処理を実行させるようにしてもよい。
【0161】
なお、ステップＳ１５２の説明変数特定処理では、図７を参照して上述したように、複数の予測モデルに対応する複数通りの説明変数が特定される。
【0162】
また、ステップＳ１５２では、ステップＳ１５１で取得された複数の事例のそれぞれについて説明変数が特定される。
【0163】
ステップＳ１５３において、教師データ取得部２４および学習部２５は、パラメータ更新処理を実行する。
【0164】
【0165】
ステップＳ１７１において、教師データ取得部２４は、目的変数に対応する特徴量と説明変数に対応する特徴量の組から成る教師データを取得する。このとき、例えば、図７のステップＳ５２で特定された目的変数に対応する特徴量と、ステップＳ５６で特定された説明変数に対応する特徴量が、図１８のステップＳ１５１で取得された事例から抽出されて教師データとされる。
【0166】
なお、教師データは、ステップＳ１５１で取得された複数の事例のそれぞれに対応して複数取得される。
【0167】
ステップＳ１７２において、学習部２５は、ステップＳ１７１で取得された教師データを用いて重み行列の各成分を計算する。このとき、例えば、目的変数を予測するために、説明変数に乗じられる重み行列の各成分が計算される。このとき、複数通りの説明変数のそれぞれに対して乗じられる重み行列の各成分が、それぞれ計算される。計算された重み行列の各成分は、モデルパラメータのセットとなる。
【0168】
なお、ここでは、一例として、線形予測モデルにより目的変数を求める場合の例について説明しているが、他の方式の予測モデルが用いられるようにしてもよい。要は、ステップＳ１７２において、予測モデルのモデルパラメータのセットが計算されるようにすればよい。
【0169】
ステップＳ１７３において、学習部２５は、モデルパラメータを更新する。
【0170】
なお、ステップＳ１７２およびステップＳ１７３の処理は、ステップＳ１７１で取得された教師データの数に応じて複数回実行され、モデルパラメータが繰り返し更新されることになる。このように、モデルパラメータが更新されることにより、予測モデルの学習が進むことになる。
【0171】
このようにしてパラメータ更新処理が実行される。パラメータ更新処理が終了すると、図１８の学習処理が終了し、１つの目的変数を予測するために用いられる複数の予測モデルのモデルパラメータのセットが得られる。学習処理は、目的変数を変えて複数回実行される。これにより、図６のステップＳ３３で実行される予測処理において用いられる予測モデルのモデルパラメータのセットが得られる。
【0172】
＜異常判定・学習装置および学習処理の効果＞
このように、本例示的実施形態に係る異常判定・学習装置および学習処理によれば、予測処理において用いられる予測モデルのモデルパラメータを得ることができる。また、得られたモデルパラメータの予測モデルを用いて予測処理を実行し、事例が異常であるか否かを判定することができる。
このように、本例示的実施形態に係る異常判定・学習装置および学習処理によれば、予測処理において用いられる予測モデルのモデルパラメータを得ることができる。また、得られたモデルパラメータの予測モデルを用いて予測処理を実行し、事例が異常であるか否かを判定することができる。
【0173】
〔ソフトウェアによる実現例〕
情報処理装置２０、異常判定装置１０、および異常判定・学習装置１０Ａの一部又は全部の機能は、集積回路（ＩＣチップ）等のハードウェアによって実現してもよいし、ソフトウェアによって実現してもよい。
情報処理装置２０、異常判定装置１０、および異常判定・学習装置１０Ａの一部又は全部の機能は、集積回路（ＩＣチップ）等のハードウェアによって実現してもよいし、ソフトウェアによって実現してもよい。
【0174】
後者の場合、情報処理装置２０、異常判定装置１０、および異常判定・学習装置１０Ａは、例えば、各機能を実現するソフトウェアであるプログラムの命令を実行するコンピュータによって実現される。このようなコンピュータの一例（以下、コンピュータＣと記載する）を図２０に示す。
【0175】
コンピュータＣは、少なくとも１つのプロセッサＣ１と、少なくとも１つのメモリＣ２と、を備えている。メモリＣ２には、コンピュータＣを情報処理装置２０、異常判定装置１０、または異常判定・学習装置１０Ａとして動作させるためのプログラムＰが記録されている。コンピュータＣにおいて、プロセッサＣ１は、プログラムＰをメモリＣ２から読み取って実行することにより、情報処理装置２０、異常判定装置１０、または異常判定・学習装置１０Ａの各機能が実現される。
【0176】
プロセッサＣ１としては、例えば、ＣＰＵ（Central Processing Unit）、ＧＰＵ（Graphic Processing Unit）、ＤＳＰ（Digital Signal Processor）、ＭＰＵ（Micro Processing Unit）、ＦＰＵ（Floating point number Processing Unit）、ＰＰＵ（Physics Processing Unit）、マイクロコントローラ、又は、これらの組み合わせなどを用いることができる。メモリＣ２としては、例えば、フラッシュメモリ、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、又は、これらの組み合わせなどを用いることができる。
【0177】
なお、コンピュータＣは、プログラムＰを実行時に展開したり、各種データを一時的に記憶したりするためのＲＡＭ（Random Access Memory）を更に備えていてもよい。また、コンピュータＣは、他の装置との間でデータを送受信するための通信インタフェースを更に備えていてもよい。また、コンピュータＣは、キーボードやマウス、ディスプレイやプリンタなどの入出力機器を接続するための入出力インタフェースを更に備えていてもよい。
【0178】
また、プログラムＰは、コンピュータＣが読み取り可能な、一時的でない有形の記録媒体Ｍに記録することができる。このような記録媒体Ｍとしては、例えば、テープ、ディスク、カード、半導体メモリ、又はプログラマブルな論理回路などを用いることができる。コンピュータＣは、このような記録媒体Ｍを介してプログラムＰを取得することができる。また、プログラムＰは、伝送媒体を介して伝送することができる。このような伝送媒体としては、例えば、通信ネットワーク、又は放送波などを用いることができる。コンピュータＣは、このような伝送媒体を介してプログラムＰを取得することもできる。
【0179】
〔付記事項１〕
本発明は、上述した実施形態に限定されるものでなく、請求項に示した範囲で種々の変更が可能である。例えば、上述した実施形態に開示された技術的手段を適宜組み合わせて得られる実施形態についても、本発明の技術的範囲に含まれる。
本発明は、上述した実施形態に限定されるものでなく、請求項に示した範囲で種々の変更が可能である。例えば、上述した実施形態に開示された技術的手段を適宜組み合わせて得られる実施形態についても、本発明の技術的範囲に含まれる。
【0180】
〔付記事項２〕
上述した実施形態の一部又は全部は、以下のようにも記載され得る。ただし、本発明は、以下の記載する態様に限定されるものではない。
上述した実施形態の一部又は全部は、以下のようにも記載され得る。ただし、本発明は、以下の記載する態様に限定されるものではない。
【0181】
（付記１）
複数の特徴量の集合として表現される事例を取得する取得手段と、
前記事例に含まれる少なくとも何れかの特徴量を目的変数とし、前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力する予測手段と、
前記複数の予測結果を参照して、事例の異常度を出力する異常度出力手段とを備える
ことを特徴とする情報処理装置。
複数の特徴量の集合として表現される事例を取得する取得手段と、
前記事例に含まれる少なくとも何れかの特徴量を目的変数とし、前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力する予測手段と、
前記複数の予測結果を参照して、事例の異常度を出力する異常度出力手段とを備える
ことを特徴とする情報処理装置。
【0182】
（付記２）
前記予測手段は、
前記部分集合のそれぞれに対して１以上の予測モデルもしくは予測ルールを用いることで前記予測結果を複数出力する
ことを特徴とする付記１に記載の情報処理装置。
前記予測手段は、
前記部分集合のそれぞれに対して１以上の予測モデルもしくは予測ルールを用いることで前記予測結果を複数出力する
ことを特徴とする付記１に記載の情報処理装置。
【0183】
（付記３）
前記複数の特徴量のそれぞれの間の関連性が予め与えられ、
前記部分集合は、前記少なくとも何れかの特徴量との関連度が相対的に低い特徴量により構成される
ことを特徴とする付記１または２に記載の情報処理装置。
前記複数の特徴量のそれぞれの間の関連性が予め与えられ、
前記部分集合は、前記少なくとも何れかの特徴量との関連度が相対的に低い特徴量により構成される
ことを特徴とする付記１または２に記載の情報処理装置。
【0184】
（付記４）
前記取得手段は、前記関連性に関する情報を更に取得し、
前記予測手段は、
前記関連性に関する情報を参照して、前記少なくとも何れかの特徴量との関連度が相対的に低い特徴量を特定し、特定した特徴量により前記部分集合を構成する
ことを特徴とする付記３に記載の情報処理装置。
前記取得手段は、前記関連性に関する情報を更に取得し、
前記予測手段は、
前記関連性に関する情報を参照して、前記少なくとも何れかの特徴量との関連度が相対的に低い特徴量を特定し、特定した特徴量により前記部分集合を構成する
ことを特徴とする付記３に記載の情報処理装置。
【0185】
（付記５）
前記予測手段は、
前記少なくとも何れかの特徴量を除く特徴量から１以上の特徴量をランダムに選択し、
前記選択を繰り返して得られた部分集合のそれぞれを前記説明変数として用いて、前記予測結果を複数出力する
ことを特徴とする付記２に記載の情報処理装置。
前記予測手段は、
前記少なくとも何れかの特徴量を除く特徴量から１以上の特徴量をランダムに選択し、
前記選択を繰り返して得られた部分集合のそれぞれを前記説明変数として用いて、前記予測結果を複数出力する
ことを特徴とする付記２に記載の情報処理装置。
【0186】
（付記６）
前記予測手段は、
前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量を参照して学習された決定木に含まれる各ノードからルールを抽出するルール抽出手段を備え、
前記抽出されたルールのそれぞれを用いて前記予測結果を複数出力する
ことを特徴とする付記２に記載の情報処理装置。
前記予測手段は、
前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量を参照して学習された決定木に含まれる各ノードからルールを抽出するルール抽出手段を備え、
前記抽出されたルールのそれぞれを用いて前記予測結果を複数出力する
ことを特徴とする付記２に記載の情報処理装置。
【0187】
（付記７）
前記ルール抽出手段は、
前記決定木の各ノードから抽出されたルールから冗長なルールを除外した少数のルールに絞り込むことで前記予測結果を出力するために用いる複数のルールを選択する
ことを特徴とする付記６に記載の情報処理装置。
前記ルール抽出手段は、
前記決定木の各ノードから抽出されたルールから冗長なルールを除外した少数のルールに絞り込むことで前記予測結果を出力するために用いる複数のルールを選択する
ことを特徴とする付記６に記載の情報処理装置。
【0188】
（付記８）
前記異常度出力手段は、前記事例に含まれる特徴量の値であって、前記目的変数に対応する特徴量の値である真値と前記予測結果とを比較することにより、前記真値の確からしさを表す確率値を計算する確率計算手段を備え、
前記複数の予測結果のそれぞれに対応する複数の前記確率値を用いた演算により前記異常度を算出する
付記１乃至７のいずれか１項に記載の情報処理装置。
前記異常度出力手段は、前記事例に含まれる特徴量の値であって、前記目的変数に対応する特徴量の値である真値と前記予測結果とを比較することにより、前記真値の確からしさを表す確率値を計算する確率計算手段を備え、
前記複数の予測結果のそれぞれに対応する複数の前記確率値を用いた演算により前記異常度を算出する
付記１乃至７のいずれか１項に記載の情報処理装置。
【0189】
（付記９）
前記異常度は、
前記複数の確率値のうち、最も値の小さい順に、ｍ個（ｍは自然数）の確率値を用いた演算により算出される付記８に記載の情報処理装置。
前記異常度は、
前記複数の確率値のうち、最も値の小さい順に、ｍ個（ｍは自然数）の確率値を用いた演算により算出される付記８に記載の情報処理装置。
【0190】
（付記１０）
前記異常度は、
前記複数の確率値を、前記確率値に対応する前記予測結果を得るために用いた前記説明変数の数が多いほど重みが小さくなるように重み付けする重み係数と、複数の前記確率値を用いた演算により算出される
ことを特徴とする付記８に記載の情報処理装置。
前記異常度は、
前記複数の確率値を、前記確率値に対応する前記予測結果を得るために用いた前記説明変数の数が多いほど重みが小さくなるように重み付けする重み係数と、複数の前記確率値を用いた演算により算出される
ことを特徴とする付記８に記載の情報処理装置。
【0191】
（付記１１）
複数の特徴量の集合として表現される事例を取得すること、
前記事例に含まれる少なくとも何れかの特徴量を目的変数とし、前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力すること、
前記複数の予測結果を参照して、事例の異常度を出力することを含む
ことを特徴とする情報処理方法。
複数の特徴量の集合として表現される事例を取得すること、
前記事例に含まれる少なくとも何れかの特徴量を目的変数とし、前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力すること、
前記複数の予測結果を参照して、事例の異常度を出力することを含む
ことを特徴とする情報処理方法。
【0192】
（付記１２）
コンピュータを、
複数の特徴量の集合として表現される事例を取得する取得手段と、
前記事例に含まれる少なくとも何れかの特徴量を目的変数とし、前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力する予測手段と、
前記複数の予測結果を参照して、事例の異常度を出力する異常度出力手段とを備える情報処理装置として機能させる
ことを特徴とするプログラム。
コンピュータを、
複数の特徴量の集合として表現される事例を取得する取得手段と、
前記事例に含まれる少なくとも何れかの特徴量を目的変数とし、前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力する予測手段と、
前記複数の予測結果を参照して、事例の異常度を出力する異常度出力手段とを備える情報処理装置として機能させる
ことを特徴とするプログラム。
【0193】
〔付記事項３〕
上述した実施形態の一部又は全部は、更に、以下のように表現することもできる。
上述した実施形態の一部又は全部は、更に、以下のように表現することもできる。
【0194】
少なくとも１つのプロセッサを備え、前記プロセッサは、
複数の特徴量の集合として表現される事例を取得する取得処理と、
前記事例に含まれる少なくとも何れかの特徴量を目的変数とし、前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力する予測処理と、
前記複数の予測結果を参照して、事例の異常度を出力する異常度出力処理とを
を実行する。
複数の特徴量の集合として表現される事例を取得する取得処理と、
前記事例に含まれる少なくとも何れかの特徴量を目的変数とし、前記複数の特徴量のうち、前記少なくとも何れかの特徴量を除く特徴量の部分集合であって、互いに異なる複数の部分集合を説明変数とした予測結果を複数出力する予測処理と、
前記複数の予測結果を参照して、事例の異常度を出力する異常度出力処理とを
を実行する。
【0195】
なお、この情報処理装置は、更にメモリを備えていてもよく、このメモリには、前記取得処理と、前記出力列生成処理とを前記プロセッサに実行させるためのプログラムが記憶されていてもよい。また、このプログラムは、コンピュータ読み取り可能な一時的でない有形の記録媒体に記録されていてもよい。
【符号の説明】
【0196】
１０ 異常判定装置
１０Ａ 異常判定・学習装置
２０ 情報処理装置
２０Ａ 情報処理装置
２１ 取得部
２２ 予測部
２３ 異常度出力部
２４ 教師データ取得部
２５ 学習部
３０ 記憶部
４１ 通信部
４２ 入力部
４３ 出力部
８１ ルール抽出部
１０１ 確率計算部
１０Ａ 異常判定・学習装置
２０ 情報処理装置
２０Ａ 情報処理装置
２１ 取得部
２２ 予測部
２３ 異常度出力部
２４ 教師データ取得部
２５ 学習部
３０ 記憶部
４１ 通信部
４２ 入力部
４３ 出力部
８１ ルール抽出部
１０１ 確率計算部
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】