特開 2024-140599 情報処理プログラム，情報処理装置及び情報処理方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024140599

(43)【公開日】2024-10-10

(54)【発明の名称】情報処理プログラム，情報処理装置及び情報処理方法

(51)【国際特許分類】

   G06N 3/04 20230101AFI20241003BHJP

   G06N 5/045 20230101ALI20241003BHJP

【ＦＩ】

G06N3/04 100

G06N5/045

【審査請求】未請求

【請求項の数】4

【出願形態】ＯＬ

(21)【出願番号】P 2023051802

(22)【出願日】2023-03-28

(71)【出願人】

【識別番号】000005223

【氏名又は名称】富士通株式会社

(74)【代理人】

【識別番号】110003649

【氏名又は名称】弁理士法人真田特許事務所

(74)【代理人】

【識別番号】100189201

【弁理士】

【氏名又は名称】横田 功

(72)【発明者】

【氏名】松尾 達

(57)【要約】

【課題】ノードラベルが複数ある場合に予測結果に寄与したノードラベルをノード毎に特定する。
【解決手段】予測モデルに対する入力グラフデータに含まれる、予測モデルによる予測に寄与した部分要素を特定し、ノードのノードラベルと当該ノードが予測に寄与するノードか否かの情報とを関連付けた訓練データを用いて訓練された、ノードラベルの入力に応じて予測に寄与するノードであるか否かを判定する訓練済みモデルに、特定した部分要素に含まれるノードのノードラベルを入力した際の判定結果に基づいて、部分要素に含まれるノードについての予測に寄与したノードラベルを特定し、特定した部分要素を示す情報と、特定した予測に寄与したノードラベルとを出力する。
【選択図】図２

【特許請求の範囲】

【請求項1】

予測モデルに対する入力グラフデータに含まれる、前記予測モデルによる予測に寄与した部分要素を特定し、
ノードのノードラベルと当該ノードが前記予測に寄与するノードか否かの情報とを関連付けた訓練データを用いて訓練された、ノードラベルの入力に応じて予測に寄与するノードであるか否かを判定する訓練済みモデルに、特定した前記部分要素に含まれるノードのノードラベルを入力した際の判定結果に基づいて、前記部分要素に含まれるノードについての予測に寄与したノードラベルを特定し、
特定した前記部分要素を示す情報と、特定した予測に寄与したノードラベルとを出力する、
処理をコンピュータに実行させる、情報処理プログラム。

【請求項2】

ベクトルデータ向け学習によって、前記訓練済みモデルを訓練する、
処理を前記コンピュータに実行させる、請求項１に記載の情報処理プログラム。

【請求項3】

予測モデルに対する入力グラフデータに含まれる、前記予測モデルによる予測に寄与した部分要素を特定し、
ノードのノードラベルと当該ノードが前記予測に寄与するノードか否かの情報とを関連付けた訓練データを用いて訓練された、ノードラベルの入力に応じて予測に寄与するノードであるか否かを判定する訓練済みモデルに、特定した前記部分要素に含まれるノードのノードラベルを入力した際の判定結果に基づいて、前記部分要素に含まれるノードについての予測に寄与したノードラベルを特定し、
特定した前記部分要素を示す情報と、特定した予測に寄与したノードラベルとを出力する、
プロセッサを備える、情報処理装置。

【請求項4】

予測モデルに対する入力グラフデータに含まれる、前記予測モデルによる予測に寄与した部分要素を特定し、
ノードのノードラベルと当該ノードが前記予測に寄与するノードか否かの情報とを関連付けた訓練データを用いて訓練された、ノードラベルの入力に応じて予測に寄与するノードであるか否かを判定する訓練済みモデルに、特定した前記部分要素に含まれるノードのノードラベルを入力した際の判定結果に基づいて、前記部分要素に含まれるノードについての予測に寄与したノードラベルを特定し、
特定した前記部分要素を示す情報と、特定した予測に寄与したノードラベルとを出力する、
処理をコンピュータが実行する、情報処理方法。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、情報処理プログラム，情報処理装置及び情報処理方法に関する。

【背景技術】

【0002】

グラフデータは、人やモノのつながりを表現可能なデータ形式である。Social Network Service（ＳＮＳ）や化合物，通話履歴，取引履歴におけるつながりがグラフデータとして表されることがある。

【0003】

グラフデータにおいて、つながりの主体はノードと称され、つながりはエッジと称される。ノードやエッジには属性情報を持たせることもあり、属性情報はノードラベルやエッジラベルと称されることがある。なお、一つのノードやエッジに複数のラベルを持たせてもよい。

【0004】

図１は、化合物におけるグラフデータを例示する図である。

【0005】

図１においては、符号Ａ１に示すように、ＣＨ_３ＣＯＯＨ（酢酸）のグラフデータが例示されている。図１に示す例において、丸印で示されているノードは原子であり、ノード間のつながりであるエッジは原子間の結合である。また、ノードの属性情報であるノードラベルはＨ（水素）やＣ（炭素），Ｏ（酸素）等の原子種であり、エッジの属性情報であるエッジラベルは単結合や二重結合等の結合種である。

【0006】

グラフデータが何らかのベクトルデータに変換され、ベクトルデータが学習可能な機械学習技術（決定木やRandom Forest等）で学習されることがある。例えば、化合物のグラフデータから、各原子種の数や分子量，特定の部分構造を持つかどうかが学習される。

【0007】

また、グラフデータをそのまま扱えるGraph Neural Network（ＧＮＮ）等のグラフArtificial Intelligence（ＡＩ）が存在する。

【0008】

複雑な内部構造を持つＡＩは、予測結果の説明が容易でないことがある。このような問題は、ブラックボックス問題と称される。

【0009】

このようなＡＩの予測結果を説明可能にする技術として、Explainable Artificial Intelligence（ＸＡＩ）が存在する。また、グラフＡＩ向けのＸＡＩとして、GNNExplainer等のグラフＸＡＩも存在する。

【0010】

GNNExplainerでは、個々のグラフデータの予測結果を説明する技術であり、任意のグラフＡＩに適用可能である。予測に寄与したグラフデータの部分構造（別言すれば、サブグラフ）が特定され、サブグラフが説明として提示される。元のグラフとサブグラフによる予測結果の相互情報量が最大となるようなサブグラフが導出されてよい。また、ノードラベルが複数ある場合は、ノードラベルも特定可能であってよい。

【先行技術文献】

【非特許文献】

【0011】

【非特許文献1】Ying, R., Bourgeois, D., You, J., Zitnik, M., & Leskovec, J. 「GNNExplainer: Generating Explanations for Graph Neural Networks.」Advances in Neural Information Processing Systems 32 (NeurIPS 2019)，２０１９年１１月１３日

【発明の概要】

【発明が解決しようとする課題】

【0012】

しかしながら、ノードラベルが複数ある場合に予測結果に寄与したノードラベルをノード毎に特定することができないおそれがある。例えば、GNNExplainerでは、全ノード一律にノードラベルが特定される。予測結果に寄与したノードラベルがノード毎に異なる可能性があるため、その場合は予測結果の説明が不適切になってしまうことがある。

【0013】

１つの側面では、ノードラベルが複数ある場合に予測結果に寄与したノードラベルをノード毎に特定することを目的とする。

【課題を解決するための手段】

【0014】

１つの側面では、情報処理装置は、入力グラフデータに含まれる予測に寄与した部分要素を特定し、ノードのノードラベルと当該ノードが予測に寄与するノードか否かの情報とを関連付けた訓練データを用いて訓練された、ノードラベルの入力に応じて予測に寄与するノードであるか否かを判定する訓練済みモデルに、特定した前記部分要素に含まれるノードのノードラベルを入力した際の判定結果に基づいて、前記部分要素に含まれるノードについての予測に寄与したノードラベルを特定し、特定した前記部分要素を示す情報と、特定した予測に寄与したノードラベルとを出力する。

【発明の効果】

【0015】

１つの側面では、ノードラベルが複数ある場合に予測結果に寄与したノードラベルをノード毎に特定することができる。

【図面の簡単な説明】

【0016】

【図1】化合物におけるグラフデータを例示する図である。

【図2】実施形態における予測結果に寄与したノードラベルの第１の表示例を示す図である。

【図3】実施形態における予測結果に寄与したノードラベルの第２の表示例を示す図である。

【図4】実施形態における寄与ノードラベルの特定処理を説明するフローチャートである。

【図5】関連例におけるＡＩグラフモデルの学習処理を説明する図である。

【図6】実施形態における寄与ノード予測モデルの学習処理を説明する図である。

【図7】実施形態における予測結果に寄与したサブグラフの特定処理を説明する図である。

【図8】実施形態におけるグラフのデータ表現を例示する図である。

【図9】変形例におけるグラフのデータ表現を例示する図である。

【図10】実施形態における教師ラベルのデータ表現を例示する図である。

【図11】実施形態における寄与ノード及び非寄与ノードのデータ表現を例示する図である。

【図12】変形例における寄与ノード及び非寄与ノードのデータ表現を例示する図である。

【図13】変形例におけるノードラベルのデータ表現を例示する図である。

【図14】実施形態における寄与ノードラベルのデータ表現を例示する図である。

【図15】実施形態における情報処理装置のハードウェア構成例を模式的に示すブロック図である。

【図16】関連例における寄与ノードラベルの表示例と実施形態における寄与ノードラベルの表示例とを比較する図である。

【発明を実施するための形態】

【0017】

〔Ａ〕実施形態
以下、図面を参照して一実施の形態を説明する。ただし、以下に示す実施形態はあくまでも例示に過ぎず、実施形態で明示しない種々の変形例や技術の適用を排除する意図はない。すなわち、本実施形態を、その趣旨を逸脱しない範囲で種々変形して実施することができる。また、各図は、図中に示す構成要素のみを備えるという趣旨ではなく、他の機能等を含むことができる。以下、各図において同一の符号は同様の機能を有するため、その説明を省略する場合がある。

【0018】

図２は、実施形態における予測結果に寄与したノードラベルの第１の表示例を示す図である。

【0019】

実施形態では、図２に示すように、真に予測結果に寄与したノードラベルが情報処理装置１の表示装置１３１（図１５を用いて後述）に表示される。

【0020】

符号Ｂ１に示すように、表示装置１３１には、５つのノードで構成される予測データが表示されてよい。符号Ｂ２に示すように、表示装置１３１には、予測結果の説明が表示される。符号Ｂ２に示す例では、ノード＃１，＃２，＃３の予測結果の説明が表示される。

【0021】

符号Ｂ３に示すように、予測結果に寄与したノードラベルがテーブル中に例えば★印で表示される。符号Ｂ３に示す例では、ノード＃１ではラベルＡ，Ｃが予測結果に寄与しており、ノード＃２ではラベルＡ，Ｂが予測結果に寄与しており、ノード＃３ではラベルＡ，Ｃ，Ｅが予測結果に寄与していることが示されている。

【0022】

このように、実施形態においては、特定した部分要素を示す情報（別言すれば、ノード番号）と、特定した予測に寄与したノードラベルとが出力される。

【0023】

図３は、実施形態における予測結果に寄与したノードラベルの第２の表示例を示す図である。

【0024】

図３に示す例では、符号Ｃ１に示す予測データの表示形式は、図２の符号Ｂ１に示した予測データの表示形式と同様である。一方、図３に示す例では、符号Ｃ２に示す予測結果の説明において、真に予測結果に寄与したノードラベルが対応するノード（図３に示す例ではノード＃１，＃２，＃３）に対してポップアップ形式で示されている。

【0025】

図３に示す第２の表示例も、情報処理装置１の表示装置１３１（図１５を用いて後述）に表示されてよい。

【0026】

実施形態においては、予測結果に寄与したサブグラフ、すなわち寄与ノードと寄与ノードラベルの特定が以下の（１），（２）の２段階に分けて行われる。

【0027】

（１）予測に寄与したノードが特定される。ノードの特定は、グラフＸＡＩを用いて実現されてよい。

【0028】

（２）特定した各ノードについて予測に寄与したノードラベルが各々特定される。予測に寄与するノードか否かをノードラベルから予測する機械学習モデルが事前学習されてよい。このモデルで上記（１）の各ノードの予測に寄与したノードラベルがベクトルＸＡＩで特定されてよい。ベクトルＸＡＩは、ベクトルデータを学習可能な機械学習技術向けのＸＡＩである。ベクトルＸＡＩの具体的な技術例としては、ＬＩＭＥやＳＨＡＰが挙げられる
実施形態におけるサブグラフの特定に係る処理を、図４に示すフローチャート（ステップＳ１～Ｓ５）に従って説明する。

【0029】

グラフＡＩモデルの学習が行われる（ステップＳ１）。

【0030】

寄与ノード予測モデルの学習データが作成される（ステップＳ２）。具体的には、グラフＸＡＩによる説明、非寄与ノードの抽出及び学習データの作成が行われてよい。

【0031】

寄与ノード予測モデルの学習が行われる（ステップＳ３）。

【0032】

以上のステップＳ２，Ｓ３における処理は、寄与ノード予測モデルの事前学習であり、上述した予測結果に寄与したサブグラフの特定の（２）における事前学習に対応する。

【0033】

寄与ノード予測モデルの予測データが作成される（ステップＳ４）。具体的には、グラフＸＡＩによる説明及び予測データの作成が行われてよい。

【0034】

寄与ノードラベルが特定される（ステップＳ５）。そして、寄与ノードラベルの特定処理は終了する。

【0035】

以上のステップＳ４，Ｓ５における処理は、予測結果に寄与したサブグラフの特定である。

【0036】

図５は、関連例におけるグラフＡＩモデル６０３の学習処理を説明する図である。

【0037】

学習用グラフデータである複数個のグラフ６０１と、各グラフの正解データであってグラフＡＩの予測対象である教師ラベル６０２とが入力されると、符号Ｄ１に示すグラフＡＩモデル学習が行われる。

【0038】

グラフＡＩモデル学習では、入力がグラフ６０１で出力が教師ラベル６０２となるように、グラフＡＩ技術によりグラフＡＩモデル６０３を学習する。

【0039】

図６は、実施形態における寄与ノード予測モデル１０７の学習処理を説明する図である。

【0040】

符号Ｄ１において、複数個のグラフ１０１と、説明対象のグラフＡＩモデルであるグラフＡＩモデル１０２とが入力されると、符号Ｄ１１に示すグラフＸＡＩの説明が行われる。なお、グラフ１０１は図５に示したグラフ６０１と同様のものであってよく、グラフＡＩモデル１０２は、図５に示したグラフＡＩモデル６０３と同一のものである。

【0041】

グラフＸＡＩの説明では、予測結果に寄与する寄与ノード１０３が特定される。寄与ノード１０３は、一つのグラフに対して複数のノードが存在してよい。また、寄与ノード１０３だけでなく、予測結果に寄与するエッジも特定されてよい。

【0042】

符号Ｄ２において、グラフ１０１及び寄与ノード１０３が入力されると、符号Ｄ２１に示す非寄与ノード抽出が行われる。

【0043】

非寄与ノード抽出では、寄与ノード１０３以外のノードが非寄与ノード１０４として抽出される。なお、非寄与ノード抽出では、全ノードのうち全ての非寄与ノード１０４が抽出されなくてもよく、寄与ノード１０３と同数の非寄与ノード１０４が抽出されてよい。

【0044】

符号Ｄ３において、グラフ１０１，寄与ノード１０３及び非寄与ノード１０４が入力されると、符号Ｄ３１に示す学習データ作成が行われる。

【0045】

学習データ作成では、寄与ノード１０３及び非寄与ノード１０４について各ノードのノードラベル１０５が全て抽出され、寄与又は非寄与の別が教師ラベル１０６に設定される。なお、ノードラベル１０５において、１データは、１ノードの全ノードラベル（別言すれば、ベクトルデータ）であってよい。

【0046】

符号Ｄ４において、ノードラベル１０５及び教師ラベル１０６が入力されると、符号Ｄ４１に示すように、寄与ノード予測モデル学習が行われる。

【0047】

寄与ノード予測モデル学習では、入力がノードラベル１０５で出力が教師ラベル１０６となるように寄与ノード予測モデル１０７がベクトルデータ向け学習技術によって学習される。寄与ノード予測モデル１０７は、入力したノードラベル１０５を持つノードが寄与ノード１０３又は非寄与ノード１０４のいずれかであるかを予測するモデルである。

【0048】

図７は、実施形態における予測結果に寄与したサブグラフの特定処理を説明する図である。

【0049】

符号Ｅ１において、説明対象のグラフデータである１データのグラフ１０１と、説明対象のグラフＡＩモデルであるグラフＡＩモデル１０２とが入力されると、符号Ｅ１１に示すグラフＸＡＩ説明が行われる。なお、グラフＡＩモデル１０２は、図６に示したグラフＡＩモデル１０２と同一のものである。

【0050】

グラフＸＡＩ説明では、予測結果に寄与する複数の寄与ノード１０３が特定される。なお、寄与ノード１０３だけでなく、予測結果に寄与するエッジも特定されてよい。

【0051】

符号Ｅ２において、グラフ１０１及び寄与ノード１０３が入力されると、符号Ｅ２１に示す予測データ作成が行われる。

【0052】

予測データ作成では、各寄与ノード１０３のノードラベル１０５が全て抽出される。

【0053】

符号Ｅ３において、ノードラベル１０５及び寄与ノード予測モデル１０７が入力されると、符号Ｅ３１に示す寄与ノードラベル特定が行われる。

【0054】

寄与ノードラベル特定では、ノード毎に予測結果に寄与するノードラベル１０５が寄与ノードラベル１０８としてベクトルＸＡＩによって特定される。

【0055】

そして、符号Ｅ４において、最終的に、寄与ノード１０３及び寄与ノードラベル１０８が出力される。１つのノードに対して複数種類のノードラベル（別言すれば、ベクトルデータ）が設定される。なお、エッジが特定されて最終的な出力に含められてよい。

【0056】

このように、ノードラベルと予測に寄与するノードか否かの情報とを関連付けた訓練データを用いて訓練された、ノードラベルの入力に応じて予測に寄与するノードであるか否かを判定する訓練済みモデル（別言すれば、図７の寄与ノード予測モデル１０７）に、特定した部分要素に含まれるノードのノードラベルを入力した際の判定結果に基づいて、部分要素に含まれるノードについての予測に寄与したノードラベルが特定される。

【0057】

図８は、実施形態におけるグラフのデータ表現を例示する図である。

【0058】

図８において、ノードは原子に対応し、エッジは原子間の結合に対応し、ノードラベルＡは炭素や酸素等の原子種であり、ノードラベルＢは原子番号（符号Ｆ１に示すグラフには不図示）に対応する。

【0059】

符号Ｆ１には、原子種及び原子番号をノードラベルとする化合物（ＣＨ_３ＣＯＯＨ；酢酸）のグラフが例示されている。

【0060】

符号Ｆ２に示すノードｖｓノードラベルの対応表には、ノード番号毎に、ノードラベルＡの原子種とノードラベルＢの原子番号とが対応付けられている。

【0061】

符号Ｆ３に示すエッジリストには、結合関係にある２つのノードのノード番号が、一方をノードＡとして、他方をノードＢとして示されている。

【0062】

図９は、変形例におけるグラフのデータ表現を例示する図である。

【0063】

図９に示す例においては、複数個のグラフを扱う場合に、符号Ｇ１に示すノードｖｓノードラベルの対応表及び符号Ｇ２に示すエッジリストに、グラフ番号の列が追加されている。図９に示す例では、グラフ番号がグラフ＃１又はグラフ＃２によって特定されている。

【0064】

図１０は、実施形態における教師ラベルのデータ表現を例示する図である。

【0065】

用途毎にグラフ番号又はノード番号と教師ラベルとの対応表が利用されてよい。

【0066】

グラフＡＩモデル用（別言すれば、グラフに対する予測）では、符号Ｈ１に示すグラフ番号と教師ラベルとの対応表が用いられてよい。符号Ｈ１に示す対応表では、グラフに対して０／１のいずれかを予測する二値分類が行われている。

【0067】

寄与ノード予測モデル用（別言すれば、ノードに対する予測）では、符号Ｈ２に示すノード番号と教師ラベルとの対応表が用いられてよい。符号Ｈ２に示す対応表では、グラフに対して寄与ノード／非寄与ノード（０／１で表されてもよい）のいずれかを予測する二値分類が行われている。

【0068】

図１１は、実施形態における寄与ノード及び非寄与ノードのデータ表現を例示する図である。

【0069】

符号Ｉ３に示す寄与ノード及び符号Ｉ４に示す非寄与ノードは、符号Ｉ１に示すノードｖｓノードラベルの対応表と符号Ｉ２に示すエッジリストとを含むグラフのデータ表現におけるノード番号のリストとして表現されてよい。

【0070】

なお、寄与ノードと非寄与ノードとの間でノード番号は重複しない。また、非寄与ノードをサンプリングした場合は、両ノードに登場しないノード番号（＃６，＃８）も存在する。

【0071】

図１２は、変形例における寄与ノード及び非寄与ノードのデータ表現を例示する図である。

【0072】

複数個のグラフを扱う場合は、図１１に示した場合と比較して符号Ｊ１に示すノードｖｓノードラベルの対応表，符号Ｊ２に示すエッジリスト，符号Ｊ３に示す寄与ノード及び符号Ｊ４に示す非寄与ノードにおいて、グラフ番号の列が追加されている。図１２に示す例においては、グラフ番号がグラフ＃１又はグラフ＃２で表されている。

【0073】

図１３は、変形例におけるノードラベルのデータ表現を例示する図である。

【0074】

ノードｖｓノードラベルの対応表は、ノード番号とノードラベルの対応表で表現される。また、用途毎に対象ノードが限定され得、寄与ノード予測モデルの学習データ用は寄与ノード／非寄与ノードに限定され、寄与ノード予測モデルの予測データ用は全ノードとなる。複数のグラフを扱う場合はノード番号が重複し得るので固有化されてよい。

【0075】

図１３に示す例では、符号Ｋ１に示すように、ノードｖｓノードラベルの対応表において、グラフ＃１のノード＃１～＃８及びグラフ＃２のノード＃１が存在しており、グラフ＃１のノード＃１とグラフ＃２のノード＃１とでノード番号が重複している。そこで、符号Ｋ２に示すように、グラフ番号の列は削除され、グラフ＃２のノード＃１はノード＃９に変換される。

【0076】

図１４は、実施形態における寄与ノードラベルのデータ表現を例示する図である。

【0077】

寄与ノードラベルは、各ノードラベルの重要度を数値化することによって、ノードラベルがデータ表現されてよい。重要度は、二値（０／１）又は実数値で表現されてよい。

【0078】

図１４に示す例では、符号Ｌ１に示すテーブルにおけるノードラベルＡ及びノードラベルＢが、符号Ｌ２に示すテーブルにおいてノードラベルＡの寄与度及びノードラベルＢの寄与度として、それぞれ０／１の二値で表現されている。

【0079】

図１５は、実施形態における情報処理装置１のハードウェア構成例を模式的に示すブロック図である。

【0080】

図１５に示すように、情報処理装置１は、ＣＰＵ１１，メモリ部１２，表示制御部１３，記憶装置１４，入力ＩＦ１５，外部記録媒体処理部１６及び通信ＩＦ１７を備える。

【0081】

メモリ部１２は、記憶部の一例であり、例示的に、Read Only Memory（ＲＯＭ）及びRandom Access Memory（ＲＡＭ）などである。メモリ部１２のＲＯＭには、Basic Input/Output System（ＢＩＯＳ）等のプログラムが書き込まれてよい。メモリ部１２のソフトウェアプログラムは、ＣＰＵ１１に適宜に読み込まれて実行されてよい。また、メモリ部１２のＲＡＭは、一時記録メモリあるいはワーキングメモリとして利用されてよい。

【0082】

表示制御部１３は、表示装置１３１と接続され、表示装置１３１を制御する。表示装置１３１は、液晶ディスプレイやOrganic Light-Emitting Diode（ＯＬＥＤ）ディスプレイ，Cathode Ray Tube（ＣＲＴ），電子ペーパーディスプレイ等であり、オペレータ等に対する各種情報を表示する。表示装置１３１は、入力装置と組み合わされたものでもよく、例えば、タッチパネルでもよい。

【0083】

記憶装置１４は、高ＩＯ性能の記憶装置であり、例えば、Dynamic Random Access Memory（ＤＲＡＭ）やＳＳＤ，Storage Class Memory（ＳＣＭ），ＨＤＤが用いられてよい。

【0084】

入力ＩＦ１５は、マウス１５１やキーボード１５２等の入力装置と接続され、マウス１５１やキーボード１５２等の入力装置を制御してよい。マウス１５１やキーボード１５２は、入力装置の一例であり、これらの入力装置を介して、オペレータが各種の入力操作を行う。

【0085】

外部記録媒体処理部１６は、記録媒体１６０が装着可能に構成される。外部記録媒体処理部１６は、記録媒体１６０が装着された状態において、記録媒体１６０に記録されている情報を読み取り可能に構成される。本例では、記録媒体１６０は、可搬性を有する。例えば、記録媒体１６０は、フレキシブルディスク、光ディスク、磁気ディスク、光磁気ディスク、又は、半導体メモリ等である。

【0086】

通信ＩＦ１７は、外部装置との通信を可能にするためのインタフェースである。

【0087】

ＣＰＵ１１は、プロセッサ（別言すれば、コンピュータ）の一例であり、種々の制御や演算を行う処理装置である。ＣＰＵ１１は、メモリ部１２に読み込まれたOperating System（ＯＳ）やプログラムを実行することにより、寄与ノードラベルの特定処理等の種々の機能を実現する。なお、ＣＰＵ１１は、複数のＣＰＵを含むマルチプロセッサであってもよいし、複数のＣＰＵコアを有するマルチコアプロセッサであってもよく、或いは、マルチコアプロセッサを複数有する構成であってもよい。

【0088】

情報処理装置１全体の動作を制御するための装置は、ＣＰＵ１１に限定されず、例えば、ＭＰＵやＤＳＰ，ＡＳＩＣ，ＰＬＤ，ＦＰＧＡのいずれか１つであってもよい。また、情報処理装置１全体の動作を制御するための装置は、ＣＰＵ，ＭＰＵ，ＤＳＰ，ＡＳＩＣ，ＰＬＤ及びＦＰＧＡのうちの２種類以上の組み合わせであってもよい。なお、ＭＰＵはMicro Processing Unitの略称であり、ＤＳＰはDigital Signal Processorの略称であり、ＡＳＩＣはApplication Specific Integrated Circuitの略称である。また、ＰＬＤはProgrammable Logic Deviceの略称であり、ＦＰＧＡはField Programmable Gate Arrayの略称である。

【0089】

〔Ｂ〕効果
図１６は、関連例における寄与ノードラベルの表示例と実施形態における寄与ノードラベルの表示例とを比較する図である。

【0090】

ノードラベルが複数ある場合に予測結果に寄与したノードラベルをノード毎に特定することができる。上述した実施形態では、グラフＸＡＩで予測結果に寄与したノードを特定したのち、各ノードについて予測結果に寄与したノードラベルを、ベクトルＸＡＩを有効活用して個別に特定する。

【0091】

符号Ｍ１に示すように、関連例ではノード毎にノードラベルを特定できないため、「ラベルＡとＣが特定される」というような大雑把で不正確な特定となる。一方、実施形態においては、符号Ｍ２に示すように、予測結果に寄与したノードラベルをきめ細やかに特定できる。

【0092】

上述した実施形態における情報処理プログラム，情報処理装置及び情報処理方法によれば、例えば以下の作用効果を奏することができる。

【0093】

予測モデルに対する入力グラフデータに含まれる、予測モデルによる予測に寄与した部分要素が特定される。ノードのノードラベルと当該ノードが予測に寄与するノードか否かの情報とを関連付けた訓練データを用いて訓練された、ノードラベルの入力に応じて予測に寄与するノードであるか否かを判定する訓練済みモデルに、特定した部分要素に含まれるノードのノードラベルを入力した際の判定結果に基づいて、部分要素に含まれるノードについての予測に寄与したノードラベルが特定される。特定した部分要素を示す情報と、特定した予測に寄与したノードラベルとが出力される。

【0094】

これにより、ノードラベルが複数ある場合に予測結果に寄与したノードラベルをノード毎に特定することができる。

【0095】

〔Ｃ〕その他
開示の技術は上述した実施形態に限定されるものではなく、本実施形態の趣旨を逸脱しない範囲で種々変形して実施することができる。本実施形態の各構成及び各処理は、必要に応じて取捨選択することができ、あるいは適宜組み合わせてもよい。

【0096】

〔Ｄ〕付記
以上の実施形態に関し、更に以下の付記を開示する。

【0097】

（付記１）
予測モデルに対する入力グラフデータに含まれる、前記予測モデルによる予測に寄与した部分要素を特定し、
ノードのノードラベルと前記ノードが前記予測に寄与するノードか否かの情報とを関連付けた訓練データを用いて訓練された、ノードラベルの入力に応じて予測に寄与するノードであるか否かを判定する訓練済みモデルに、特定した前記部分要素に含まれるノードのノードラベルを入力した際の判定結果に基づいて、前記部分要素に含まれるノードについての予測に寄与したノードラベルを特定し、
特定した前記部分要素を示す情報と、特定した予測に寄与したノードラベルとを出力する、
処理をコンピュータに実行させる、情報処理プログラム。

【0098】

（付記２）
ベクトルデータ向け学習によって、前記訓練済みモデルを訓練する、
処理を前記コンピュータに実行させる、付記１に記載の情報処理プログラム。

【0099】

（付記３）
予測モデルに対する入力グラフデータに含まれる、前記予測モデルによる予測に寄与した部分要素を特定し、
ノードのノードラベルと当該ノードが前記予測に寄与するノードか否かの情報とを関連付けた訓練データを用いて訓練された、ノードラベルの入力に応じて予測に寄与するノードであるか否かを判定する訓練済みモデルに、特定した前記部分要素に含まれるノードのノードラベルを入力した際の判定結果に基づいて、前記部分要素に含まれるノードについての予測に寄与したノードラベルを特定し、
特定した前記部分要素を示す情報と、特定した予測に寄与したノードラベルとを出力する、
プロセッサを備える、情報処理装置。

【0100】

（付記４）
前記プロセッサは、
ベクトルデータ向け学習によって、前記訓練済みモデルを訓練する、
付記３に記載の情報処理装置。

【0101】

（付記５）
予測モデルに対する入力グラフデータに含まれる、前記予測モデルによる予測に寄与した部分要素を特定し、
ノードのノードラベルと当該ノードが前記予測に寄与するノードか否かの情報とを関連付けた訓練データを用いて訓練された、ノードラベルの入力に応じて予測に寄与するノードであるか否かを判定する訓練済みモデルに、特定した前記部分要素に含まれるノードのノードラベルを入力した際の判定結果に基づいて、前記部分要素に含まれるノードについての予測に寄与したノードラベルを特定し、
特定した前記部分要素を示す情報と、特定した予測に寄与したノードラベルとを出力する、
処理をコンピュータが実行する、情報処理方法。

【0102】

（付記６）
ベクトルデータ向け学習によって、前記訓練済みモデルを訓練する、
処理を前記コンピュータが実行する、付記５に記載の情報処理方法。

【符号の説明】

【0103】

１ ：情報処理装置
１１ ：ＣＰＵ
１２ ：メモリ部
１３ ：表示制御部
１４ ：記憶装置
１５ ：入力ＩＦ
１６ ：外部記録媒体処理部
１７ ：通信ＩＦ
１０１，６０１：グラフ
１０２，６０３：グラフＡＩモデル
１０３ ：寄与ノード
１０４ ：非寄与ノード
１０５ ：ノードラベル
１０６，６０２：教師ラベル
１０７ ：寄与ノード予測モデル
１０８ ：寄与ノードラベル
１３１ ：表示装置
１５１ ：マウス
１５２ ：キーボード
１６０ ：記録媒体

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】