知財求人 - 知財ポータルサイト「IP Force」
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024056576
(43)【公開日】2024-04-23
(54)【発明の名称】判定プログラム、判定方法、および情報処理装置
(51)【国際特許分類】
G06N 20/00 20190101AFI20240416BHJP
【ＦＩ】
G06N20/00
【審査請求】未請求
【請求項の数】8
【出願形態】ＯＬ
(21)【出願番号】P 2022163582
(22)【出願日】2022-10-11
(71)【出願人】
【識別番号】000005223
【氏名又は名称】富士通株式会社
(74)【代理人】
【識別番号】100104190
【弁理士】
【氏名又は名称】酒井 昭徳
(72)【発明者】
【氏名】小御門 道
(72)【発明者】
【氏名】丸橋 弘治
(57)【要約】
【課題】判定結果の根拠を解釈し易くする情報を提示すること。
【解決手段】情報処理装置は、グラフインスタンス７００の判定結果７１１を生成する。情報処理装置は、判定結果７１１の根拠を表す根拠情報として、グラフインスタンス７００が表すグラフの隣接行列の各要素に対応するスコアを示すスコア行列７１２を生成する。情報処理装置は、スコア行列７１２のうち、すべてのスコアがＴｈｒｅｓｈｏｌｄ以下である場合、根拠情報を補助する参考情報を生成する。情報処理装置は、例えば、参考情報として、判定結果７１１とは逆の内容を示す判定結果であるいずれかのグラフインスタンスを特定する。情報処理装置は、判定結果７１１と共に、判定結果７１１の根拠を表す根拠情報と、判定結果７１１の根拠を表す根拠情報を補助する参考情報とを出力する。
【選択図】図７
【解決手段】情報処理装置は、グラフインスタンス７００の判定結果７１１を生成する。情報処理装置は、判定結果７１１の根拠を表す根拠情報として、グラフインスタンス７００が表すグラフの隣接行列の各要素に対応するスコアを示すスコア行列７１２を生成する。情報処理装置は、スコア行列７１２のうち、すべてのスコアがＴｈｒｅｓｈｏｌｄ以下である場合、根拠情報を補助する参考情報を生成する。情報処理装置は、例えば、参考情報として、判定結果７１１とは逆の内容を示す判定結果であるいずれかのグラフインスタンスを特定する。情報処理装置は、判定結果７１１と共に、判定結果７１１の根拠を表す根拠情報と、判定結果７１１の根拠を表す根拠情報を補助する参考情報とを出力する。
【選択図】図７
【特許請求の範囲】
【請求項1】
所定の判定処理による第１グラフデータの第１判定結果を取得し、
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、
取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、
特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する、
処理をコンピュータに実行させることを特徴とする判定プログラム。
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、
取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、
特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する、
処理をコンピュータに実行させることを特徴とする判定プログラム。
【請求項2】
前記訓練済み機械学習モデルを用いて、特定した前記第２グラフデータの前記所定の特徴に関する１以上の第２スコアを算出する、
処理を前記コンピュータに実行させ、
前記出力する処理は、
前記記憶部に記憶された前記第２判定結果と、特定した前記第２グラフデータと、算出した前記１以上の第２スコアとを、取得した前記第１判定結果に対応付けて出力する、ことを特徴とする請求項１に記載の判定プログラム。
処理を前記コンピュータに実行させ、
前記出力する処理は、
前記記憶部に記憶された前記第２判定結果と、特定した前記第２グラフデータと、算出した前記１以上の第２スコアとを、取得した前記第１判定結果に対応付けて出力する、ことを特徴とする請求項１に記載の判定プログラム。
【請求項3】
前記出力する処理は、
前記記憶部に記憶された前記第２判定結果と、特定した前記第２グラフデータと、算出した前記１以上の第２スコアと、前記第１グラフデータと、取得した前記１以上の第１スコアとを、取得した前記第１判定結果に対応付けて出力する、ことを特徴とする請求項２に記載の判定プログラム。
前記記憶部に記憶された前記第２判定結果と、特定した前記第２グラフデータと、算出した前記１以上の第２スコアと、前記第１グラフデータと、取得した前記１以上の第１スコアとを、取得した前記第１判定結果に対応付けて出力する、ことを特徴とする請求項２に記載の判定プログラム。
【請求項4】
前記出力する処理は、
取得した前記１以上の第１スコアの少なくともいずれかの第１スコアが前記閾値以上である場合、前記第１グラフデータと、取得した前記１以上の第１スコアとを、取得した前記第１判定結果に対応付けて出力する、ことを特徴とする請求項１～３のいずれか一つに記載の判定プログラム。
取得した前記１以上の第１スコアの少なくともいずれかの第１スコアが前記閾値以上である場合、前記第１グラフデータと、取得した前記１以上の第１スコアとを、取得した前記第１判定結果に対応付けて出力する、ことを特徴とする請求項１～３のいずれか一つに記載の判定プログラム。
【請求項5】
前記訓練済み機械学習モデルは、グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する、前記グラフデータの隣接行列の各要素に対応するスコアを算出する、ことを特徴とする請求項１～３のいずれか一つに記載の判定プログラム。
【請求項6】
前記１以上のグラフデータのそれぞれのグラフデータについて、当該グラフデータと、前記第１グラフデータとの差異の大きさを示す指標値を算出する、
処理を前記コンピュータに実行させ、
前記特定する処理は、
取得した前記１以上の第１スコアのすべての第１スコアが前記閾値未満である場合、前記記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果であり、算出した前記指標値が基準値未満である第２グラフデータを特定する、ことを特徴とする請求項１～３のいずれか一つに記載の判定プログラム。
処理を前記コンピュータに実行させ、
前記特定する処理は、
取得した前記１以上の第１スコアのすべての第１スコアが前記閾値未満である場合、前記記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果であり、算出した前記指標値が基準値未満である第２グラフデータを特定する、ことを特徴とする請求項１～３のいずれか一つに記載の判定プログラム。
【請求項7】
所定の判定処理による第１グラフデータの第１判定結果を取得し、
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、
取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、
特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する、
処理をコンピュータが実行することを特徴とする判定方法。
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、
取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、
特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する、
処理をコンピュータが実行することを特徴とする判定方法。
【請求項8】
所定の判定処理による第１グラフデータの第１判定結果を取得し、
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、
取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、
特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する、
制御部を有することを特徴とする情報処理装置。
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、
取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、
特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する、
制御部を有することを特徴とする情報処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、判定プログラム、判定方法、および情報処理装置に関する。
【背景技術】
【0002】
従来、判定処理を実施した際に判定結果の根拠を提示するためのＸＡＩ（Ｅｘｐｌａｉｎａｂｌｅ Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ）と呼ばれる技術が存在する。例えば、グラフデータに対する、ＧＮＮ（Ｇｒａｐｈ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ）の判定結果の根拠として、グラフデータの隣接行列の各要素に対応する、所定のトポロジー特徴に関するスコアを提示するＧＸＡＩ（Ｇｒａｐｈ ＸＡＩ）が存在する。
【0003】
先行技術としては、例えば、ＧＮＮを用いて、グラフデータに対する所定の判定処理をブラックボックス的に実施し、グラフデータの判定結果を取得するものがある。
【先行技術文献】
【非特許文献】
【0004】
【非特許文献1】Ｙｕａｎ， Ｈａｏ， ｅｔ ａｌ． “Ｅｘｐｌａｉｎａｂｉｌｉｔｙ ｉｎ ｇｒａｐｈ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ： Ａ ｔａｘｏｎｏｍｉｃ ｓｕｒｖｅｙ．” ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：２０１２．１５４４５ （２０２０）．
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、従来技術では、利用者が、提示された判定結果の根拠を適切に解釈することが難しい場合がある。例えば、利用者は、隣接行列の全要素に対応するスコアが比較的小さいことが、判定結果の根拠として提示された場合、所定のトポロジー特徴が現れないと解釈すればよいのか、または、判定結果の根拠特定に失敗したと解釈すればよいのかを判断することが難しい。
【0006】
１つの側面では、本発明は、判定結果の根拠を解釈し易くする情報を提示することを目的とする。
【課題を解決するための手段】
【0007】
１つの実施態様によれば、所定の判定処理による第１グラフデータの第１判定結果を取得し、グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する判定プログラム、判定方法、および情報処理装置が提案される。
【発明の効果】
【0008】
一態様によれば、判定結果の根拠を解釈し易くする情報を提示することが可能になる。
【図面の簡単な説明】
【0009】
【発明を実施するための形態】
【0010】
以下に、図面を参照して、本発明にかかる判定プログラム、判定方法、および情報処理装置の実施の形態を詳細に説明する。
【0011】
（実施の形態にかかる判定方法の一実施例）
図１は、実施の形態にかかる判定方法の一実施例を示す説明図である。情報処理装置１００は、判定結果の根拠を解釈し易くする情報を提示するためのコンピュータである。情報処理装置１００は、例えば、サーバ、または、ＰＣ（Ｐｅｒｓｏｎａｌ Ｃｏｍｐｕｔｅｒ）などである。
図１は、実施の形態にかかる判定方法の一実施例を示す説明図である。情報処理装置１００は、判定結果の根拠を解釈し易くする情報を提示するためのコンピュータである。情報処理装置１００は、例えば、サーバ、または、ＰＣ（Ｐｅｒｓｏｎａｌ Ｃｏｍｐｕｔｅｒ）などである。
【0012】
判定結果は、例えば、グラフデータに対する判定処理によって生成される。グラフデータは、例えば、１以上のノードと、ノード間を接続する１以上のエッジとによって形成されるグラフを示す。グラフデータは、例えば、化合物の構造を表すグラフを示す。判定結果は、例えば、ラベルとして採用され、グラフデータに対して付与されてもよい。
【0013】
判定処理は、例えば、グラフデータが示す化合物の特性を判定する処理である。判定処理は、具体的には、グラフデータが示す化合物に毒性があるか否かを判定する。判定処理は、具体的には、ＧＮＮモデルを用いて実施される。ＧＮＮモデルは、具体的には、グラフデータの入力に応じて、グラフデータに対する判定処理を実施し、判定結果を出力するモデルである。ＧＮＮモデルは、具体的には、グラフデータに対する判定処理を、ブラックボックス的に実施する。ＧＮＮモデルの一例については、具体的には、上記非特許文献１を参照することができる。
【0014】
ここで、利用者は、グラフデータに対する判定結果の根拠を把握したいと望むことがある。例えば、利用者は、以降、グラフデータが示す化合物を取り扱い、または、研究するために、グラフデータに対する判定結果を把握すると共に、判定結果の根拠を把握したいと望むことがある。
【0015】
ここで、ＧＮＮモデルは、例えば、グラフデータに対する判定処理をブラックボックス的に実施するものの、グラフデータに特定のトポロジー特徴が現れるか否かに応じて、判定処理を実施すると仮定する。ＧＮＮモデルは、具体的には、グラフデータに特定のトポロジー特徴が現れれば、グラフデータが示す化合物が特定のトポロジー特徴に対応する特定の特性を有すると判定すると仮定する。ＧＮＮモデルは、具体的には、グラフデータに特定のトポロジー特徴が現れなければ、グラフデータが示す化合物が特定のトポロジー特徴に対応する特定の特性を有さないと判定すると仮定する。
【0016】
上述した仮定に基づいて、グラフデータに対するＧＮＮモデルの判定結果の根拠を推定し、利用者に提示可能にするＧＸＡＩモデルが考えられる。例えば、ＧＸＡＩモデルは、グラフデータの入力に応じて、ＧＮＮの判定結果の根拠を表す、グラフデータの隣接行列の各要素に対応する、所定のトポロジー特徴に関するスコアを算出して出力する。例えば、ＧＸＡＩモデルを用いれば、グラフデータに対するＧＮＮモデルの判定結果の根拠として、グラフデータの隣接行列の各要素に対応する、所定のトポロジー特徴に関するスコアを、利用者が参照可能に出力することができる。
【0017】
しかしながら、利用者が、提示された判定結果の根拠を適切に解釈することが難しい場合がある。例えば、ＧＮＮモデルが、グラフデータに特定のトポロジー特徴が現れないために、グラフデータが示す化合物が特定のトポロジー特徴に対応する特定の特性を有さないと判定した場合が考えられる。この場合、ＧＸＡＩモデルは、グラフデータに特定のトポロジー特徴が現れないため、グラフデータの隣接行列の各要素に対応するスコアの値が比較的小さくなるよう、グラフデータの隣接行列の各要素に対応するスコアを算出する。
【0018】
一方で、ＧＸＡＩモデルの生成時、ＧＸＡＩモデルの生成に用いる学習データ数の不足などの事情により、ＧＸＡＩモデルの精度が悪くなってしまうことが考えられる。精度は、例えば、グラフデータに特定のトポロジー特徴が現れるか否かを判定する正確性である。例えば、精度が悪いＧＸＡＩモデルが、誤って、グラフデータに特定のトポロジー特徴が現れないと判定してしまい、グラフデータの隣接行列の各要素に対応するスコアの値が比較的小さくなってしまうことが考えられる。
【0019】
このように、グラフデータの隣接行列の各要素に対応するスコアの値が比較的小さいという事象は、グラフデータに特定のトポロジー特徴が現れないことを意味するとも、ＧＸＡＩモデルの精度が悪いことを意味するとも解釈することができる。従って、利用者は、判定結果の根拠として提示された、グラフデータの隣接行列の各要素に対応するスコアの値が比較的小さいという事象を、適切に解釈することが難しい。
【0020】
例えば、利用者は、グラフデータの隣接行列の各要素に対応するスコアが比較的小さいという事象が、グラフデータに特定のトポロジー特徴が現れないことを意味すると解釈してもよいのか否かを、適切に判断することができない。例えば、利用者は、ＧＸＡＩモデルの精度がよいことを信頼することができなければ、グラフデータの隣接行列の各要素に対応するスコアが比較的小さいという事象が、グラフデータに特定のトポロジー特徴が現れないことを意味すると納得することが難しい。
【0021】
そこで、本実施の形態では、判定結果の根拠を解釈し易くする情報を提示することができる判定方法について説明する。
【0022】
図１において、情報処理装置１００は、記憶部１１０を有する。記憶部１１０は、所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する。記憶部１１０は、例えば、図４に後述する履歴情報管理テーブル４００に対応する。
【0023】
所定の判定処理は、例えば、グラフデータの入力に応じて、グラフデータに対する判定処理を実施し、判定結果を出力する第１訓練済み機械学習モデルを用いて実施される。第１訓練済み機械学習モデルは、例えば、ＧＮＮモデルである。所定の判定処理は、具体的には、グラフデータが示す化合物に毒性があるか否かを判定する。情報処理装置１００は、例えば、第１訓練済み機械学習モデルを記憶していてもよい。
【0024】
情報処理装置１００は、グラフデータの入力に応じて、所定の判定処理によるグラフデータの判定結果の根拠を表す、グラフデータの所定の特徴に関する１以上のスコアを算出する第２訓練済み機械学習モデルを記憶する。所定の特徴は、例えば、トポロジー特徴である。トポロジー特徴は、例えば、グラフデータにおけるノード間の接続関係に現れる特徴である。第２訓練済み機械学習モデルは、例えば、ＧＸＡＩモデルである。１以上のスコアは、例えば、グラフデータの隣接行列の各要素に対応するスコアを含む。
【0025】
情報処理装置１００は、処理対象とする第１グラフデータ１０１を取得する。情報処理装置１００は、例えば、利用者の操作入力に基づき、第１グラフデータ１０１の入力を受け付けることにより、第１グラフデータ１０１を取得する。情報処理装置１００は、例えば、第１グラフデータ１０１を、他のコンピュータから受信することにより取得する。
【0026】
（１－１）情報処理装置１００は、所定の判定処理による第１グラフデータ１０１の第１判定結果を取得する。情報処理装置１００は、例えば、第１訓練済み機械学習モデルを用いて、取得した第１グラフデータ１０１に対して所定の判定処理を実施し、所定の判定処理による第１グラフデータ１０１の第１判定結果を生成することにより取得する。
【0027】
（１－２）情報処理装置１００は、第２訓練済み機械学習モデルを用いて算出された、第１グラフデータ１０１の所定の特徴に関する１以上の第１スコアを取得する。１以上の第１スコアは、例えば、第１グラフデータ１０１の隣接行列の各要素に対応する、所定のトポロジー特徴に関するスコアである。情報処理装置１００は、例えば、第２訓練済み機械学習モデルを用いて、取得した第１グラフデータ１０１の所定の特徴に関する１以上の第１スコアを算出することにより取得する。
【0028】
（１－３）情報処理装置１００は、取得した１以上の第１スコアのすべての第１スコアが閾値未満である場合、記憶部１１０を参照して、１以上のグラフデータのうち、取得した第１判定結果とは異なる第２判定結果である第２グラフデータ１０２を特定する。第２判定結果は、例えば、第１判定結果とは逆の内容を示す判定結果である。
【0029】
（１－４）情報処理装置１００は、特定した第２グラフデータ１０２の所定の特徴に関する情報を、取得した第１判定結果に対応付けて出力する。第２グラフデータ１０２の所定の特徴に関する情報は、例えば、第２グラフデータ１０２自体である。第２グラフデータ１０２の所定の特徴に関する情報は、例えば、第２訓練済み機械学習モデルを用いて算出された、第２グラフデータ１０２の所定の特徴に関する１以上の第２スコアであってもよい。
【0030】
１以上の第２スコアは、例えば、第２グラフデータ１０２の隣接行列の各要素に対応する、所定のトポロジー特徴に関するスコアである。１以上の第２スコアは、具体的には、第２訓練済み機械学習モデルを用いて算出された、第２グラフデータ１０２の隣接行列の各要素に対応する、所定のトポロジー特徴に関するスコアである。これにより、情報処理装置１００は、第１判定結果の根拠を解釈し易くする情報を提示することができる。
【0031】
情報処理装置１００は、例えば、第２グラフデータ１０２自体と、１以上の第１スコアとを、第１判定結果に対応付けて、利用者が参照可能に出力する。情報処理装置１００は、具体的には、第１グラフデータ１０１と、１以上の第１スコアと、第２グラフデータ１０２と、第２判定結果とを、第１判定結果に対応付けて、利用者が参照可能に出力してもよい。
【0032】
これにより、情報処理装置１００は、例えば、第１グラフデータ１０１と、第２グラフデータ１０２とを、利用者が比較可能にすることができる。情報処理装置１００は、第１グラフデータ１０１と、第２グラフデータ１０２とを比較した結果を参照して、利用者が第１判定結果の根拠である１以上の第１スコアが、何を意味するのかを解釈し易くすることができる。
【0033】
情報処理装置１００は、例えば、第２グラフデータ１０２の所定の特徴に関する１以上の第２スコアを、第１判定結果に対応付けて、利用者が参照可能に出力する。情報処理装置１００は、具体的には、第１グラフデータ１０１と、１以上の第１スコアと、第２グラフデータ１０２と、１以上の第２スコアと、第２判定結果とを、第１判定結果に対応付けて、利用者が参照可能に出力してもよい。
【0034】
これにより、情報処理装置１００は、例えば、１以上の第１スコアと、１以上の第２スコアとを、利用者が比較可能にすることができる。情報処理装置１００は、１以上の第１スコアと、１以上の第２スコアとを比較した結果を参照して、利用者が第１判定結果の根拠である１以上の第１スコアが、何を意味するのかを解釈し易くすることができる。
【0035】
情報処理装置１００は、取得した１以上の第１スコアの少なくともいずれかの第１スコアが閾値以上である場合、取得した１以上の第１スコアを、第１判定結果に対応付けて出力する。情報処理装置１００は、取得した１以上の第１スコアの少なくともいずれかの第１スコアが閾値以上である場合、第２グラフデータ１０２を特定しなくてもよい。
【0036】
情報処理装置１００は、例えば、第１グラフデータ１０１と、１以上の第１スコアとを、第１判定結果に対応付けて、利用者が参照可能に出力する。これにより、情報処理装置１００は、利用者が第１判定結果の根拠である１以上の第１スコアを解釈可能にすることができる。
【0037】
ここでは、情報処理装置１００が、第１グラフデータ１０１に対して所定の判定処理を実施する場合について説明したが、これに限らない。例えば、他のコンピュータが、第１グラフデータ１０１に対して所定の判定処理を実施する場合があってもよい。この場合、情報処理装置１００は、例えば、所定の判定処理による第１グラフデータ１０１の第１判定結果を、他のコンピュータから受信することにより取得する。
【0038】
ここでは、情報処理装置１００が、第２訓練済み機械学習モデルを用いて、第１グラフデータ１０１の所定の特徴に関する１以上の第１スコアを算出する場合について説明したが、これに限らない。例えば、他のコンピュータが、第２訓練済み機械学習モデルを用いて、第１グラフデータ１０１の所定の特徴に関する１以上の第１スコアを算出する場合があってもよい。この場合、情報処理装置１００は、例えば、第１グラフデータ１０１の所定の特徴に関する１以上の第１スコアを、他のコンピュータから受信することにより取得する。
【0039】
ここでは、情報処理装置１００が、単独で動作する場合について説明したが、これに限らない。例えば、上述したように、情報処理装置１００が、他のコンピュータと協働する場合があってもよい。例えば、複数のコンピュータが、情報処理装置１００としての機能を実現する場合があってもよい。具体的には、クラウド上に、情報処理装置１００としての機能が実現される場合があってもよい。情報処理装置１００が、他のコンピュータと協働する場合の一例については、具体的には、図２を用いて後述する。
【0040】
（情報処理システム２００の一例）
次に、図２を用いて、図１に示した情報処理装置１００を適用した、情報処理システム２００の一例について説明する。情報処理システム２００は、図１に示した情報処理装置１００が、他のコンピュータと協働する場合に対応する。
次に、図２を用いて、図１に示した情報処理装置１００を適用した、情報処理システム２００の一例について説明する。情報処理システム２００は、図１に示した情報処理装置１００が、他のコンピュータと協働する場合に対応する。
【0041】
【0042】
情報処理システム２００において、情報処理装置１００と判定処理装置２０１とは、有線または無線のネットワーク２１０を介して接続される。ネットワーク２１０は、例えば、ＬＡＮ（Ｌｏｃａｌ Ａｒｅａ Ｎｅｔｗｏｒｋ）、ＷＡＮ（Ｗｉｄｅ Ａｒｅａ Ｎｅｔｗｏｒｋ）、インターネットなどである。また、情報処理システム２００において、情報処理装置１００とクライアント装置２０２とは、有線または無線のネットワーク２１０を介して接続される。
【0043】
情報処理装置１００は、グラフデータに対する所定の判定処理による判定結果の根拠を解釈し易くする情報を提示可能にするためのコンピュータである。グラフデータは、グラフを表すデータである。グラフデータは、例えば、グラフを形成する１以上のノードと、ノード間を接続する１以上のエッジとを示す。所定の判定処理は、例えば、グラフデータが示す化合物の特性を判定する判定処理である。所定の判定処理は、例えば、ＧＮＮモデルを用いて実施される判定処理である。
【0044】
情報処理装置１００は、１以上のグラフデータのそれぞれのグラフデータと、所定の判定処理による当該グラフデータの判定結果とを対応付けて、記憶部に記憶する。情報処理装置１００は、例えば、それぞれのグラフデータと、所定の判定処理による当該グラフデータの判定結果とを対応付けたレコードを、図４に後述する履歴情報管理テーブル４００を用いて記憶する。
【0045】
情報処理装置１００は、１以上のグラフデータのそれぞれのグラフデータと、当該グラフデータの判定結果の根拠として所定の算出処理により算出された当該グラフデータの隣接行列の各要素に対応するスコアとを対応付けて、記憶部に記憶していてもよい。所定の算出処理は、例えば、所定の判定処理によるグラフデータの判定結果の根拠を推定する推定処理である。
【0046】
所定の算出処理は、具体的には、所定の判定処理によるグラフデータの判定結果の根拠として、当該グラフデータの隣接行列の各要素に対応する、所定のトポロジー特徴に関するスコアを算出する算出処理である。情報処理装置１００は、例えば、それぞれのグラフデータと、所定の算出処理により算出された当該グラフデータの隣接行列の各要素に対応するスコアとを対応付けたレコードを、図４に後述する履歴情報管理テーブル４００を用いて記憶する。
【0047】
情報処理装置１００は、処理対象とする第１グラフデータを取得する。情報処理装置１００は、例えば、処理対象とする第１グラフデータを含む判定依頼を、クライアント装置２０２から受信し、判定依頼から、処理対象とする第１グラフデータを抽出することにより取得する。
【0048】
情報処理装置１００は、第１グラフデータに対して所定の判定処理および所定の算出処理を実施することを要求する第１処理要求を生成し、判定処理装置２０１に送信する。情報処理装置１００は、第１処理要求に対する応答として、所定の判定処理による第１グラフデータの第１判定結果と、第１グラフデータの隣接行列の各要素に対応する第１スコアとを、判定処理装置２０１から受信する。情報処理装置１００は、第１グラフデータの隣接行列の各要素に対応する第１スコアが閾値以上であるか否かを判定する。
【0049】
情報処理装置１００は、第１グラフデータの隣接行列の全要素に対応する第１スコアが閾値未満であり、閾値以上の第１スコアが存在しない場合、記憶部から、第１判定結果とは異なる第２判定結果である第２グラフデータを検索する。情報処理装置１００は、例えば、記憶部から、第１判定結果とは逆の内容を示す第２判定結果である第２グラフデータを検索する。
【0050】
情報処理装置１００は、第２グラフデータを発見した場合、記憶部から、第２グラフデータの第２判定結果と、所定の算出処理により算出された第２グラフデータの隣接行列の各要素に対応する第２スコアとを取得する。情報処理装置１００は、第１グラフデータと、第１判定結果と、第２グラフデータと、第２判定結果と、第２スコアとを、判定依頼の応答として、クライアント装置２０２に送信する。
【0051】
情報処理装置１００は、第１グラフデータの隣接行列の少なくともいずれかの要素に対応する第１スコアが閾値以上である場合、第１判定結果と、第１スコアとを、判定依頼の応答として、クライアント装置２０２に送信する。情報処理装置１００は、例えば、システム管理者によって用いられる。情報処理装置１００は、例えば、サーバ、または、ＰＣなどである。
【0052】
判定処理装置２０１は、グラフデータに対して所定の判定処理および所定の算出処理を実施するためのコンピュータである。判定処理装置２０１は、処理対象とする第１グラフデータを含む第１処理要求を、情報処理装置１００から受信する。判定処理装置２０１は、受信した第１処理要求から、処理対象とする第１グラフデータを抽出することにより取得する。
【0053】
判定処理装置２０１は、取得した第１グラフデータに対して所定の判定処理を実施し、所定の判定処理による第１グラフデータの第１判定結果を生成する。判定処理装置２０１は、取得した第１グラフデータに対して所定の算出処理を実施し、第１グラフデータの隣接行列の各要素に対応する第１スコアを算出する。判定処理装置２０１は、生成した第１判定結果と、算出した第１スコアとを、情報処理装置１００に送信する。判定処理装置２０１は、例えば、システム管理者によって用いられる。判定処理装置２０１は、例えば、サーバ、または、ＰＣなどである。
【0054】
クライアント装置２０２は、システム利用者によって用いられるコンピュータである。システム利用者は、例えば、第１グラフデータの判定結果を参照および把握したいと考える作業者である。クライアント装置２０２は、例えば、システム利用者の操作入力に基づき、処理対象とする第１グラフデータを生成し、生成した第１グラフデータを含む判定依頼を生成する。クライアント装置２０２は、生成した判定依頼を、情報処理装置１００に送信する。
【0055】
クライアント装置２０２は、判定依頼の応答を、情報処理装置１００から受信する。クライアント装置２０２は、判定依頼の応答として、第１グラフデータと、第１判定結果と、第２グラフデータと、第２判定結果と、第２スコアとを受信する。クライアント装置２０２は、判定依頼の応答として受信した、第１グラフデータと、第１判定結果と、第２グラフデータと、第２判定結果と、第２スコアとを対応付けて、システム利用者が参照可能に出力する。
【0056】
クライアント装置２０２は、判定依頼の応答として、第１判定結果と、第１スコアとを、情報処理装置１００から受信する。クライアント装置２０２は、判定依頼の応答として受信した、第１判定結果と、第１スコアとを対応付けて、システム利用者が参照可能に出力する。クライアント装置２０２は、例えば、ＰＣ、タブレット端末、または、スマートフォンなどである。
【0057】
ここでは、情報処理装置１００と、判定処理装置２０１とが異なる装置である場合について説明したが、これに限らない。例えば、情報処理装置１００が、判定処理装置２０１としての機能を有し、判定処理装置２０１としても動作する場合があってもよい。
【0058】
ここでは、情報処理装置１００と、クライアント装置２０２とが異なる装置である場合について説明したが、これに限らない。例えば、情報処理装置１００が、クライアント装置２０２としての機能を有し、クライアント装置２０２としても動作する場合があってもよい。以下の説明では、主に、情報処理装置１００が単独で動作する場合について説明する。
【0059】
（情報処理システム２００の利用例）
次に、図２に示した情報処理システム２００の利用例について説明する。情報処理システム２００は、例えば、化合物を表すグラフデータを処理対象とする場合に利用することができる。情報処理システム２００は、具体的には、作業者が、グラフデータが表す化合物が有する特性を判定した判定結果を参照および把握したいと考える場合に利用することができる。特性は、例えば、毒性の有無である。情報処理システム２００は、具体的には、作業者が、グラフデータが表す化合物が有する特性を判定した判定結果の根拠または理由などを納得し易くすることができる。
次に、図２に示した情報処理システム２００の利用例について説明する。情報処理システム２００は、例えば、化合物を表すグラフデータを処理対象とする場合に利用することができる。情報処理システム２００は、具体的には、作業者が、グラフデータが表す化合物が有する特性を判定した判定結果を参照および把握したいと考える場合に利用することができる。特性は、例えば、毒性の有無である。情報処理システム２００は、具体的には、作業者が、グラフデータが表す化合物が有する特性を判定した判定結果の根拠または理由などを納得し易くすることができる。
【0060】
（情報処理装置１００のハードウェア構成例）
次に、図３を用いて、情報処理装置１００のハードウェア構成例について説明する。
次に、図３を用いて、情報処理装置１００のハードウェア構成例について説明する。
【0061】
図３は、情報処理装置１００のハードウェア構成例を示すブロック図である。図３において、情報処理装置１００は、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）３０１と、メモリ３０２と、ネットワークＩ／Ｆ（Ｉｎｔｅｒｆａｃｅ）３０３と、記録媒体Ｉ／Ｆ３０４と、記録媒体３０５とを有する。また、各構成部は、バス３００によってそれぞれ接続される。
【0062】
ここで、ＣＰＵ３０１は、情報処理装置１００の全体の制御を司る。メモリ３０２は、例えば、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）およびフラッシュＲＯＭなどを有する。具体的には、例えば、フラッシュＲＯＭやＲＯＭが各種プログラムを記憶し、ＲＡＭがＣＰＵ３０１のワークエリアとして使用される。メモリ３０２に記憶されるプログラムは、ＣＰＵ３０１にロードされることにより、コーディングされている処理をＣＰＵ３０１に実行させる。メモリ３０２は、例えば、図４に後述する履歴情報管理テーブル４００を記憶する。
【0063】
ネットワークＩ／Ｆ３０３は、通信回線を通じてネットワーク２１０に接続され、ネットワーク２１０を介して他のコンピュータに接続される。そして、ネットワークＩ／Ｆ３０３は、ネットワーク２１０と内部のインターフェースを司り、他のコンピュータからのデータの入出力を制御する。ネットワークＩ／Ｆ３０３は、例えば、モデムやＬＡＮアダプタなどである。
【0064】
記録媒体Ｉ／Ｆ３０４は、ＣＰＵ３０１の制御に従って記録媒体３０５に対するデータのリード／ライトを制御する。記録媒体Ｉ／Ｆ３０４は、例えば、ディスクドライブ、ＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）、ＵＳＢ（Ｕｎｉｖｅｒｓａｌ Ｓｅｒｉａｌ Ｂｕｓ）ポートなどである。記録媒体３０５は、記録媒体Ｉ／Ｆ３０４の制御で書き込まれたデータを記憶する不揮発メモリである。記録媒体３０５は、例えば、ディスク、半導体メモリ、ＵＳＢメモリなどである。記録媒体３０５は、情報処理装置１００から着脱可能であってもよい。
【0065】
情報処理装置１００は、上述した構成部の他、例えば、キーボード、マウス、ディスプレイ、プリンタ、スキャナ、マイク、スピーカーなどを有してもよい。また、情報処理装置１００は、記録媒体Ｉ／Ｆ３０４や記録媒体３０５を複数有していてもよい。また、情報処理装置１００は、記録媒体Ｉ／Ｆ３０４や記録媒体３０５を有していなくてもよい。
【0066】
（履歴情報管理テーブル４００の記憶内容）
次に、図４を用いて、履歴情報管理テーブル４００の記憶内容の一例について説明する。履歴情報管理テーブル４００は、例えば、図３に示した情報処理装置１００のメモリ３０２や記録媒体３０５などの記憶領域により実現される。
次に、図４を用いて、履歴情報管理テーブル４００の記憶内容の一例について説明する。履歴情報管理テーブル４００は、例えば、図３に示した情報処理装置１００のメモリ３０２や記録媒体３０５などの記憶領域により実現される。
【0067】
図４は、履歴情報管理テーブル４００の記憶内容の一例を示す説明図である。図４に示すように、履歴情報管理テーブル４００は、グラフデータと、判定結果と、スコアとのフィールドを有する。履歴情報管理テーブル４００は、グラフデータごとに各フィールドに情報を設定することにより、履歴情報がレコード４００－ａとして記憶される。ａは、任意の整数である。
【0068】
グラフデータのフィールドには、グラフデータが設定される。グラフデータのフィールドには、グラフデータを特定する情報が設定されていてもよい。判定結果のフィールドには、所定の判定処理による上記グラフデータの判定結果が設定される。判定結果のフィールドには、具体的には、ＧＮＮモデルによる上記グラフデータの判定結果が設定される。スコアのフィールドには、上記判定結果の根拠を表すスコアが設定される。
【0069】
スコアのフィールドには、例えば、上記グラフデータの隣接行列の各要素に対応する、所定のトポロジー特徴に関するスコアが設定される。スコアのフィールドには、具体的には、ＧＸＡＩモデルにより算出された、上記グラフデータの隣接行列の各要素に対応する、所定のトポロジー特徴に関するスコアが設定される。
【0070】
（判定処理装置２０１のハードウェア構成例）
判定処理装置２０１のハードウェア構成例は、具体的には、図３に示した情報処理装置１００のハードウェア構成例と同様であるため、説明を省略する。
判定処理装置２０１のハードウェア構成例は、具体的には、図３に示した情報処理装置１００のハードウェア構成例と同様であるため、説明を省略する。
【0071】
（クライアント装置２０２のハードウェア構成例）
クライアント装置２０２のハードウェア構成例は、具体的には、図３に示した情報処理装置１００のハードウェア構成例と同様であるため、説明を省略する。
クライアント装置２０２のハードウェア構成例は、具体的には、図３に示した情報処理装置１００のハードウェア構成例と同様であるため、説明を省略する。
【0072】
（情報処理装置１００の機能的構成例）
次に、図５を用いて、情報処理装置１００の機能的構成例について説明する。
次に、図５を用いて、情報処理装置１００の機能的構成例について説明する。
【0073】
図５は、情報処理装置１００の機能的構成例を示すブロック図である。情報処理装置１００は、記憶部５００と、取得部５０１と、判定部５０２と、算出部５０３と、特定部５０４と、出力部５０５とを含む。
【0074】
記憶部５００は、例えば、図３に示したメモリ３０２や記録媒体３０５などの記憶領域によって実現される。以下では、記憶部５００が、情報処理装置１００に含まれる場合について説明するが、これに限らない。例えば、記憶部５００が、情報処理装置１００とは異なる装置に含まれ、記憶部５００の記憶内容が情報処理装置１００から参照可能である場合があってもよい。
【0075】
取得部５０１～出力部５０５は、制御部の一例として機能する。取得部５０１～出力部５０５は、具体的には、例えば、図３に示したメモリ３０２や記録媒体３０５などの記憶領域に記憶されたプログラムをＣＰＵ３０１に実行させることにより、または、ネットワークＩ／Ｆ３０３により、その機能を実現する。各機能部の処理結果は、例えば、図３に示したメモリ３０２や記録媒体３０５などの記憶領域に記憶される。
【0076】
記憶部５００は、各機能部の処理において参照され、または更新される各種情報を記憶する。記憶部５００は、例えば、第１訓練済み機械学習モデルを記憶する。第１訓練済み機械学習モデルは、例えば、グラフデータの入力に応じて、所定の判定処理によるグラフデータの判定結果の根拠を表す、当該グラフデータの所定の特徴に関する、当該グラフデータの隣接行列の各要素に対応するスコアを算出する訓練済み機械学習モデルである。第１訓練済み機械学習モデルは、具体的には、ＧＸＡＩモデルである。
【0077】
所定の特徴は、例えば、グラフデータが表すグラフにおけるノード間の接続関係に関する特徴である。所定の特徴は、具体的には、ネットワークトポロジー特徴である。ノードは、例えば、グラフが表す化合物を形成する要素に対応する。記憶部５００は、具体的には、第１訓練済み機械学習モデルを規定する第１パラメータを記憶する。第１訓練済み機械学習モデルは、例えば、予め自装置利用者によって設定される。自装置利用者は、例えば、グラフデータの判定結果を参照および把握したいと考える作業者である。第１訓練済み機械学習モデルは、例えば、取得部５０１によって取得されてもよい。
【0078】
所定の判定処理は、例えば、グラフデータに対応する特性を判定する判定処理である。所定の判定処理は、具体的には、グラフデータが示す化合物の特性を判定する判定処理である。所定の判定処理は、具体的には、第２訓練済み機械学習モデルによって実施される。第２訓練済み機械学習モデルは、例えば、グラフデータの入力に応じて、所定の判定処理によるグラフデータの判定結果を生成する訓練済み機械学習モデルである。第２訓練済み機械学習モデルは、具体的には、ＧＮＮモデルである。記憶部５００は、例えば、第２訓練済み機械学習モデルを記憶する。記憶部５００は、具体的には、第２訓練済み機械学習モデルを規定する第２パラメータを記憶する。第２訓練済み機械学習モデルは、例えば、予め自装置利用者によって設定される。第２訓練済み機械学習モデルは、例えば、取得部５０１によって取得されてもよい。
【0079】
記憶部５００は、例えば、所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する。記憶部５００は、具体的には、第２訓練済み機械学習モデルを用いて生成された、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する。記憶部５００は、具体的には、図４に示した履歴情報管理テーブル４００を記憶する。判定結果は、例えば、判定部５０２によって生成される。判定結果は、例えば、取得部５０１によって取得されてもよい。
【0080】
記憶部５００は、例えば、１以上のグラフデータのそれぞれのグラフデータの所定の特徴に関する、当該グラフデータの隣接行列の各要素に対応するスコアを記憶していてもよい。記憶部５００は、具体的には、第１訓練済み機械学習モデルを用いて算出された、１以上のグラフデータのそれぞれのグラフデータの所定の特徴に関する、当該グラフデータの隣接行列の各要素に対応するスコアを記憶していてもよい。記憶部５００は、具体的には、図４に示した履歴情報管理テーブル４００を記憶する。スコアは、例えば、算出部５０３によって算出される。スコアは、例えば、取得部５０１によって取得されてもよい。
【0081】
取得部５０１は、各機能部の処理に用いられる各種情報を取得する。取得部５０１は、取得した各種情報を、記憶部５００に記憶し、または、各機能部に出力する。また、取得部５０１は、記憶部５００に記憶しておいた各種情報を、各機能部に出力してもよい。取得部５０１は、例えば、自装置利用者の操作入力に基づき、各種情報を取得する。取得部５０１は、例えば、情報処理装置１００とは異なる装置から、各種情報を受信してもよい。
【0082】
取得部５０１は、例えば、処理対象とする第１グラフデータを取得してもよい。取得部５０１は、具体的には、自装置利用者の操作入力に基づき、第１グラフデータの入力を受け付けることにより、第１グラフデータを取得する。取得部５０１は、具体的には、第１グラフデータを、他のコンピュータから受信することにより取得する。
【0083】
取得部５０１は、例えば、所定の判定処理による第１グラフデータの第１判定結果を取得してもよい。取得部５０１は、具体的には、自装置利用者の操作入力に基づき、所定の判定処理による第１グラフデータの第１判定結果の入力を受け付けることにより、第１判定結果を取得する。取得部５０１は、具体的には、所定の判定処理による第１グラフデータの第１判定結果を、他のコンピュータから受信することにより取得する。取得部５０１は、具体的には、所定の判定処理による第１グラフデータの第１判定結果を、自装置の判定部５０２で生成しない場合、第１判定結果を取得することが考えられる。
【0084】
取得部５０１は、例えば、第１グラフデータの所定の特徴に関する１以上の第１スコアを取得してもよい。１以上の第１スコアは、例えば、第１訓練済み機械学習モデルを用いて算出される。取得部５０１は、具体的には、自装置利用者の操作入力に基づき、第１グラフデータの所定の特徴に関する１以上の第１スコアの入力を受け付けることにより、１以上の第１スコアを取得する。取得部５０１は、具体的には、第１グラフデータの所定の特徴に関する１以上の第１スコアを、他のコンピュータから受信することにより取得する。取得部５０１は、具体的には、第１グラフデータの所定の特徴に関する１以上の第１スコアを、自装置の算出部５０３で算出しない場合、１以上の第１スコアを取得することが考えられる。
【0085】
取得部５０１は、例えば、第１訓練済み機械学習モデルを取得してもよい。取得部５０１は、具体的には、第１訓練済み機械学習モデルを規定する第１パラメータを取得する。取得部５０１は、より具体的には、自装置利用者の操作入力に基づき、第１訓練済み機械学習モデルを規定する第１パラメータの入力を受け付けることにより、第１訓練済み機械学習モデルを規定する第１パラメータを取得する。取得部５０１は、より具体的には、第１訓練済み機械学習モデルを規定する第１パラメータを、他のコンピュータから受信することにより取得する。
【0086】
取得部５０１は、例えば、第２訓練済み機械学習モデルを取得してもよい。取得部５０１は、具体的には、第２訓練済み機械学習モデルを規定する第２パラメータを取得する。取得部５０１は、より具体的には、自装置利用者の操作入力に基づき、第２訓練済み機械学習モデルを規定する第２パラメータの入力を受け付けることにより、第２訓練済み機械学習モデルを規定する第２パラメータを取得する。取得部５０１は、より具体的には、第２訓練済み機械学習モデルを規定する第２パラメータを、他のコンピュータから受信することにより取得する。
【0087】
取得部５０１は、例えば、１以上のグラフデータを取得してもよい。グラフデータは、例えば、サンプルとなる。取得部５０１は、具体的には、自装置利用者の操作入力に基づき、１以上のグラフデータの入力を受け付けることにより、１以上のグラフデータを取得する。取得部５０１は、具体的には、１以上のグラフデータを、他のコンピュータから受信することにより取得する。
【0088】
取得部５０１は、例えば、所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を取得してもよい。取得部５０１は、具体的には、自装置利用者の操作入力に基づき、所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果の入力を受け付けることにより、判定結果を取得する。取得部５０１は、具体的には、所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を、他のコンピュータから受信することにより取得する。
【0089】
取得部５０１は、例えば、１以上のグラフデータのそれぞれのグラフデータの所定の特徴に関する、当該グラフデータの隣接行列の各要素に対応するスコアを取得してもよい。取得部５０１は、具体的には、自装置利用者の操作入力に基づき、１以上のグラフデータのそれぞれのグラフデータの所定の特徴に関する、当該グラフデータの隣接行列の各要素に対応するスコアの入力を受け付けることにより、スコアを取得する。取得部５０１は、具体的には、１以上のグラフデータのそれぞれのグラフデータの所定の特徴に関する、当該グラフデータの隣接行列の各要素に対応するスコアを、他のコンピュータから受信することにより取得する。
【0090】
取得部５０１は、いずれかの機能部の処理を開始する開始トリガーを受け付けてもよい。開始トリガーは、例えば、自装置利用者による所定の操作入力があったことである。開始トリガーは、例えば、他のコンピュータから、所定の情報を受信したことであってもよい。開始トリガーは、例えば、いずれかの機能部が所定の情報を出力したことであってもよい。
【0091】
取得部５０１は、例えば、第１グラフデータを取得したことを、判定部５０２と、算出部５０３と、特定部５０４との処理を開始する開始トリガーとして受け付けてもよい。取得部５０１は、例えば、第１判定結果と、１以上の第１スコアとを取得したことを、特定部５０４の処理を開始する開始トリガーとして受け付けてもよい。
【0092】
判定部５０２は、グラフデータに対する所定の判定処理を実施し、グラフデータの判定結果を生成する。判定部５０２は、例えば、所定の判定処理による第１グラフデータの第１判定結果を生成する。判定部５０２は、具体的には、第２訓練済み機械学習モデルに対して、第１グラフデータを入力することにより、第２訓練済み機械学習モデルによって、所定の判定処理による第１グラフデータの第１判定結果を生成する。判定部５０２は、具体的には、第１グラフデータと、第１グラフデータの第１判定結果とを対応付けて、記憶部５００に記憶してもよい。これにより、判定部５０２は、第１グラフデータの第１判定結果を、作業者が参照可能にすることができる。
【0093】
判定部５０２は、例えば、所定の判定処理による１以上のグラフデータのそれぞれのグラフデータの判定結果を生成してもよい。判定部５０２は、具体的には、第２訓練済み機械学習モデルに対して、１以上のグラフデータのそれぞれのグラフデータを入力することにより、第２訓練済み機械学習モデルによって、所定の判定処理によるそれぞれのグラフデータの判定結果を生成する。判定部５０２は、具体的には、１以上のグラフデータのそれぞれのグラフデータと、当該グラフデータの判定結果とを対応付けて、記憶部５００に記憶する。これにより、判定部５０２は、記憶部５００の記憶内容を適切に更新することができる。
【0094】
算出部５０３は、所定の算出処理を実施し、グラフデータの所定の特徴に関する１以上のスコアを算出する。所定の算出処理は、例えば、所定の判定処理によるグラフデータの判定結果の根拠を推定する推定処理である。所定の算出処理は、具体的には、所定の判定処理によるグラフデータの判定結果の根拠として、当該グラフデータの隣接行列の各要素に対応する、所定の特徴に関するスコアを算出する算出処理である。
【0095】
算出部５０３は、例えば、第１グラフデータの所定の特徴に関する１以上の第１スコアを算出する。算出部５０３は、具体的には、第１訓練済み機械学習モデルに対して第１グラフデータを入力することにより、第１訓練済み機械学習モデルによって、１以上の第１スコアを算出する。算出部５０３は、第１グラフデータと、算出した１以上の第１スコアとを対応付けて、記憶部５００に記憶してもよい。これにより、算出部５０３は、第１判定結果の根拠を表す根拠情報を得ることができる。
【0096】
算出部５０３は、例えば、特定部５０４で特定した第２グラフデータの所定の特徴に関する１以上の第２スコアを算出してもよい。算出部５０３は、具体的には、第１訓練済み機械学習モデルに対して、第２グラフデータを入力することにより、第１訓練済み機械学習モデルによって、１以上の第２スコアを算出する。算出部５０３は、第２グラフデータと、算出した１以上の第２スコアとを対応付けて、記憶部５００に記憶してもよい。これにより、算出部５０３は、第１判定結果の根拠を表す根拠情報を解釈し易くするための参考情報となる１以上の第２スコアを得ることができる。
【0097】
算出部５０３は、例えば、１以上のグラフデータのそれぞれのグラフデータの所定の特徴に関する１以上のスコアを算出してもよい。算出部５０３は、具体的には、第１訓練済み機械学習モデルに対して１以上のグラフデータのそれぞれのグラフデータを入力することにより、第１訓練済み機械学習モデルによって、１以上の第１スコアを算出する。算出部５０３は、１以上のグラフデータのそれぞれのグラフデータと、算出した１以上のスコアとを対応付けて、記憶部５００に記憶してもよい。これにより、算出部５０３は、記憶部５００の記憶内容を適切に更新することができる。
【0098】
特定部５０４は、取得した１以上の第１スコアのそれぞれの第１スコアが閾値未満であるか否かを判定する。閾値は、例えば、予め自装置利用者によって設定される。例えば、１以上の第１スコアのすべての第１スコアが閾値未満であり、１以上の第１スコアのうち、閾値以上である第１スコアが存在しない場合が考えられる。
【0099】
この場合、特定部５０４は、記憶部５００を参照して、１以上のグラフデータのうち、取得した第１判定結果とは異なる第２判定結果である第２グラフデータを特定する。特定部５０４は、例えば、記憶部５００を参照して、第１判定結果と逆の内容を示す第２判定結果に対応付けられた第２グラフデータを特定する。これにより、特定部５０４は、第１判定結果の根拠を表す根拠情報を解釈し易くするための参考情報となる第２グラフデータを得ることができる。
【0100】
特定部５０４は、例えば、１以上のグラフデータのそれぞれのグラフデータについて、当該グラフデータと、第１グラフデータとの差異の大きさを示す指標値を算出してもよい。指標値は、例えば、それぞれのグラフデータが表すグラフ間の距離である。指標値は、例えば、それぞれのグラフデータの類似度を示す。
【0101】
指標値は、例えば、グラフのノードのパラメータを各次元とする多次元空間における、それぞれのグラフデータが表すグラフ間の距離である。ノードのパラメータは、例えば、ノードの内容を示す。ノードのパラメータは、例えば、ノードに対応する化合物を形成する要素の種類を示していてもよい。距離は、例えば、ユークリッド距離である。
【0102】
指標値は、例えば、それぞれのグラフデータが表すグラフのうち、一方のグラフに、何本のエッジを追加または削除すれば、他方のグラフと一致するのかを示す。指標値は、例えば、追加または削除するエッジの本数によって表現される。指標値は、例えば、それぞれのグラフデータの隣接行列同士の差異の大きさを示していてもよい。指標値は、具体的には、隣接行列の各要素の値を各次元とする多次元空間における、それぞれのグラフデータの隣接行列同士の距離であってもよい。指標値は、例えば、それぞれのグラフデータが表す化合物同士の差異の大きさを示していてもよい。指標値は、具体的には、それぞれのグラフデータが表す化合物同士の特性値の差分であってもよい。
【0103】
これにより、特定部５０４は、第２グラフデータを特定する指針を得ることができ、第２グラフデータの候補が複数存在する場合、第２グラフデータを特定し易くすることができる。特定部５０４は、第２グラフデータの候補のうち、第１グラフデータと比較する対象として適切な第２グラフデータを特定し易くすることができる。
【0104】
特定部５０４は、具体的には、１以上の第１スコアのうち、閾値以上である第１スコアが存在しない場合、１以上のグラフデータのそれぞれのグラフデータについて、当該グラフデータと、第１グラフデータとの差異の大きさを示す指標値を算出してもよい。これにより、特定部５０４は、指標値を算出する処理による処理負担の増大化を抑制することができる。
【0105】
上述したように、１以上の第１スコアのすべての第１スコアが閾値未満であり、１以上の第１スコアのうち、閾値以上である第１スコアが存在しない場合がある。この場合、特定部５０４は、例えば、記憶部５００を参照して、１以上のグラフデータのうち、取得した第１判定結果とは異なる第２判定結果であり、かつ、算出した指標値が基準値未満である第２グラフデータを特定してもよい。基準値は、例えば、予め自装置利用者によって設定される。
【0106】
これにより、特定部５０４は、第１判定結果の根拠を表す根拠情報を解釈し易くするための参考情報となる第２グラフデータを得ることができる。特定部５０４は、第２グラフデータの候補のうち、第１グラフデータと比較する対象として適切な第２グラフデータを特定し易くすることができる。特定部５０４は、例えば、第２グラフデータの候補のうち、第１グラフデータと比較的類似したグラフを表すものの判定結果が異なる第２グラフデータの候補を、第２グラフデータとして特定することができる。
【0107】
ここで、第２グラフデータの候補が、第１グラフデータと比較的類似したグラフを表すものの、第１グラフデータと判定結果が異なるとすれば、当該候補と、第１グラフデータとの相違点は、判定結果の差異を生じる原因と考えられる。第１グラフデータと判定結果が異なる第２グラフデータの候補が、第１グラフデータと類似する度合いが大きいほど、当該候補と、第１グラフデータとの相違点は、判定結果の差異を生じる原因のみを表す確率が高くなると考えられる。従って、情報処理装置１００は、第１グラフデータと比較する対象として適切な第２グラフデータを特定し易くすることができる。
【0108】
出力部５０５は、少なくともいずれかの機能部の処理結果を出力する。出力形式は、例えば、ディスプレイへの表示、プリンタへの印刷出力、ネットワークＩ／Ｆ３０３による外部装置への送信、または、メモリ３０２や記録媒体３０５などの記憶領域への記憶である。これにより、出力部５０５は、少なくともいずれかの機能部の処理結果を自装置利用者に通知可能にし、情報処理装置１００の利便性の向上を図ることができる。
【0109】
出力部５０５は、特定した第２グラフデータの所定の特徴に関する情報を、取得した第１判定結果に対応付けて出力する。所定の特徴に関する情報は、例えば、第２グラフデータ自体である。所定の特徴に関する情報は、例えば、１以上の第２スコアであってもよい。これにより、出力部５０５は、第１グラフデータを利用する作業者が、第１グラフデータの第１判定結果の根拠を解釈し易くすることができる。
【0110】
出力部５０５は、第２判定結果と、第２グラフデータと、１以上の第２スコアとを、取得した第１判定結果に対応付けて出力する。これにより、出力部５０５は、第１グラフデータの第１判定結果の根拠を解釈し易くなるよう、第２判定結果と、第２グラフデータと、１以上の第２スコアとを、第１グラフデータを利用する作業者が参照可能にすることができる。
【0111】
出力部５０５は、記憶部５００に記憶された第２判定結果と、特定した第２グラフデータと、算出した１以上の第２スコアと、第１グラフデータと、取得した１以上の第１スコアとを、取得した第１判定結果に対応付けて出力する。これにより、出力部５０５は、第１グラフデータの第１判定結果の根拠となる１以上の第１スコアを、第１グラフデータを利用する作業者が参照可能にすることができる。出力部５０５は、第１グラフデータの第１判定結果の根拠を解釈し易くなるよう、第２判定結果と、第２グラフデータと、１以上の第２スコアとを、第１グラフデータを利用する作業者が参照可能にすることができる。
【0112】
出力部５０５は、取得した１以上の第１スコアの少なくともいずれかの第１スコアが閾値以上である場合、第１グラフデータと、１以上の第１スコアとを、第１判定結果に対応付けて出力する。これにより、出力部５０５は、第１グラフデータの第１判定結果の根拠となる１以上の第１スコアを、第１グラフデータを利用する作業者が参照可能にすることができる。
【0113】
ここでは、情報処理装置１００が、取得部５０１と、判定部５０２と、算出部５０３と、特定部５０４と、出力部５０５とを含む場合について説明したが、これに限らない。例えば、情報処理装置１００が、いずれかの機能部を含まない場合があってもよい。例えば、情報処理装置１００が、判定部５０２と、算出部５０３とを含まない場合があってもよい。この場合、情報処理装置１００は、第１判定結果、および、１以上の第１スコアなどを、取得部５０１で取得することが考えられる。
【0114】
【0115】
図６～図９は、情報処理装置１００の動作例を示す説明図である。図６～図９において、情報処理装置１００は、学習済みＧＮＮモデル６０１を記憶する。学習済みＧＮＮモデル６０１は、グラフインスタンスの入力に応じて、所定の判定処理による当該グラフインスタンスの判定結果を生成して出力するモデルである。
【0116】
グラフインスタンスは、化合物に対応するグラフデータである。グラフインスタンスは、例えば、グラフを表す。グラフインスタンスは、具体的には、グラフを形成する１以上のノードと、ノード間を接続する１以上のエッジとを示す。所定の判定処理は、化合物に毒性があるか否かを判定する判定処理である。判定結果は、化合物に毒性があるか否かを示す。
【0117】
情報処理装置１００は、学習済みＧＸＡＩモデル６０２を記憶する。学習済みＧＸＡＩモデル６０２は、グラフインスタンスの入力に応じて、当該グラフインスタンスが表すグラフの隣接行列の各要素に対応するスコアを算出して出力するモデルである。スコアは、学習済みＧＮＮモデル６０１により生成されたグラフインスタンスの判定結果の根拠を表す。
【0118】
情報処理装置１００は、１以上のグラフインスタンスのそれぞれのグラフインスタンスと、学習済みＧＮＮモデル６０１により生成された、当該グラフインスタンスの判定結果とを対応付けたレコードを含む履歴情報管理テーブル４００を記憶する。レコードは、さらに、学習済みＧＸＡＩモデル６０２により算出された、グラフインスタンスが表すグラフの隣接行列の各要素に対応するスコアを示すスコア行列を、グラフインスタンスに対応付けて含んでいてもよい。ここで、スコア行列のそれぞれのスコアの行番号および列番号は、具体的には、グラフインスタンスが表すグラフの隣接行列のそれぞれの要素の行番号および列番号に対応する。
【0119】
図６において、情報処理装置１００は、処理対象とする化合物Ａのグラフインスタンス６００を取得する。グラフインスタンス６００は、化合物Ａに対応するグラフインスタンスである。グラフインスタンス６００は、例えば、グラフを表す。グラフインスタンス６００は、具体的には、グラフを形成する１以上のノードと、ノード間を接続する１以上のエッジとを示す。グラフインスタンス６００は、具体的には、化合物Ａに毒性があるか否かを把握しようと考えた作業者によって指定される。
【0120】
（６－１）情報処理装置１００は、グラフインスタンス６００を、学習済みＧＮＮモデル６０１に入力することにより、グラフインスタンス６００の判定結果６１１を生成する。判定結果６１１は、グラフインスタンス６００に対応する化合物Ａに毒性があるか否かを示す。判定結果６１１は、例えば、化合物Ａに毒性があるか否かを示すフラグ情報を含む。フラグ情報は、例えば、値が１であれば、毒性があることを示し、値が０であれば、毒性がないことを示す。図６の例では、判定結果６１１は、具体的には、値が１のフラグ情報を含み、化合物Ａに毒性があることを示す。
【0121】
（６－２）情報処理装置１００は、グラフインスタンス６００を、学習済みＧＸＡＩモデル６０２に入力することにより、グラフインスタンス６００が表すグラフの隣接行列の各要素に対応するスコアを算出する。スコアは、グラフインスタンス６００の判定結果６１１の根拠を表す。情報処理装置１００は、算出したグラフインスタンス６００が表すグラフの隣接行列の各要素に対応するスコアを示すスコア行列６１２を記憶する。情報処理装置１００は、グラフインスタンス６００と、グラフインスタンス６００の判定結果６１１と、スコア行列６１２とを対応付けたレコードを、履歴情報管理テーブル４００に追加しておいてもよい。
【0122】
（６－３）情報処理装置１００は、スコア行列６１２が示すそれぞれのスコアがＴｈｒｅｓｈｏｌｄ以下であるか否かを判定する。例えば、Ｔｈｒｅｓｈｏｌｄ＝０．３である。図中では、Ｔｈｒｅｓｈｏｌｄより大きいスコアは、ハッチを付して示される。
【0123】
図６の例では、情報処理装置１００は、スコア行列６１２のうち、１行２列目のスコアと、１行３列目のスコアと、２行１列目のスコアと、２行３列目のスコアと、３行１列目のスコアと、３行２列目のスコアとが、Ｔｈｒｅｓｈｏｌｄより大きいと判定する。情報処理装置１００は、スコア行列６１２のうち、１行２列目のスコアと、１行３列目のスコアと、２行１列目のスコアと、２行３列目のスコアと、３行１列目のスコアと、３行２列目のスコアとを除いたスコアが、Ｔｈｒｅｓｈｏｌｄ以下であると判定する。
【0124】
（６－４）情報処理装置１００は、スコア行列６１２のうち、少なくともいずれかのスコアがＴｈｒｅｓｈｏｌｄより大きい場合、判定結果６１１と共に、判定結果６１１の根拠を表す根拠情報を出力する。根拠情報は、例えば、スコア行列６１２である。
【0125】
根拠情報は、例えば、スコア行列６１２のうち、Ｔｈｒｅｓｈｏｌｄより大きいスコアに対応する、化合物Ａを表すグラフ内のノードおよびエッジを識別可能に、当該グラフを示すグラフインスタンス６２０であってもよい。情報処理装置１００は、具体的には、スコア行列６１２と、グラフインスタンス６２０とを対応付けて、作業者が参照可能に出力する。
【0126】
これにより、情報処理装置１００は、判定結果６１１を、作業者が参照可能にすることができる。情報処理装置１００は、判定結果６１１の根拠を表す根拠情報を、作業者が参照可能にすることができる。情報処理装置１００は、作業者が、判定結果６１１の根拠を表す根拠情報を参照して、判定結果６１１の根拠または理由などを納得し易くすることができる。次に、図７の説明に移行する。
【0127】
図７において、情報処理装置１００は、処理対象とする化合物Ｂのグラフインスタンス７００を取得する。グラフインスタンス７００は、化合物Ｂに対応するグラフインスタンスである。グラフインスタンス７００は、例えば、グラフを表す。グラフインスタンス７００は、具体的には、グラフを形成する１以上のノードと、ノード間を接続する１以上のエッジとを示す。グラフインスタンス７００は、具体的には、化合物Ｂに毒性があるか否かを把握しようと考えた作業者によって指定される。
【0128】
（７－１）情報処理装置１００は、グラフインスタンス７００を、学習済みＧＮＮモデル６０１に入力することにより、グラフインスタンス７００の判定結果７１１を生成する。判定結果７１１は、グラフインスタンス７００に対応する化合物Ｂに毒性があるか否かを示す。判定結果７１１は、例えば、化合物Ｂに毒性があるか否かを示すフラグ情報を含む。フラグ情報は、例えば、値が１であれば、毒性があることを示し、値が０であれば、毒性がないことを示す。図７の例では、判定結果７１１は、具体的には、値が０のフラグ情報を含み、化合物Ｂに毒性がないことを示す。
【0129】
（７－２）情報処理装置１００は、グラフインスタンス７００を、学習済みＧＸＡＩモデル６０２に入力することにより、グラフインスタンス７００が表すグラフの隣接行列の各要素に対応するスコアを算出する。スコアは、グラフインスタンス７００の判定結果７１１の根拠を表す。情報処理装置１００は、算出したグラフインスタンス７００が表すグラフの隣接行列の各要素に対応するスコアを示すスコア行列７１２を記憶する。
【0130】
（７－３）情報処理装置１００は、スコア行列７１２が示すそれぞれのスコアがＴｈｒｅｓｈｏｌｄ以下であるか否かを判定する。図７の例では、情報処理装置１００は、スコア行列７１２のうち、すべてのスコアが、Ｔｈｒｅｓｈｏｌｄ以下であると判定する。
【0131】
（７－４）情報処理装置１００は、スコア行列７１２のうち、すべてのスコアがＴｈｒｅｓｈｏｌｄ以下である場合、判定結果７１１の根拠を表す根拠情報を補助する参考情報を生成する。根拠情報は、例えば、スコア行列７１２である。根拠情報は、例えば、スコア行列７１２のうち、Ｔｈｒｅｓｈｏｌｄより大きいスコアが存在しないことを識別可能に、化合物Ｂを表すグラフを示すグラフインスタンス７２０であってもよい。次に、図８の説明に移行する。
【0132】
図８において、情報処理装置１００は、判定結果７１１の根拠を表す根拠情報を補助する参考情報を生成する。情報処理装置１００は、例えば、履歴情報管理テーブル４００を参照して、判定結果７１１の根拠を表す根拠情報を補助する参考情報として、判定結果７１１とは逆の内容を示す判定結果であるいずれかのグラフインスタンスを特定する。情報処理装置１００は、例えば、判定結果７１１のフラグ情報＝０であるため、履歴情報管理テーブル４００を参照して、判定結果７１１の根拠を表す根拠情報を補助する参考情報として、フラグ情報＝１であるいずれかのグラフインスタンスを特定する。
【0133】
図８の例では、情報処理装置１００は、具体的には、履歴情報管理テーブル４００を参照して、グラフインスタンス７００と、フラグ情報＝１であるそれぞれのグラフインスタンスとの距離を算出する。距離は、例えば、グラフインスタンスのパラメータを各次元とする多次元空間８００上の距離である。距離を算出する手法については、具体的には、下記参考文献１を参照することができる。
【0134】
参考文献１ ： Ｇｏｄｄａｒｄ， Ｗａｙｎｅ， ａｎｄ Ｏｒｔｒｕｄ Ｒ． Ｏｅｌｌｅｒｍａｎｎ． “Ｄｉｓｔａｎｃｅ ｉｎ ｇｒａｐｈｓ．” Ｓｔｒｕｃｔｕｒａｌ Ａｎａｌｙｓｉｓ ｏｆ Ｃｏｍｐｌｅｘ Ｎｅｔｗｏｒｋｓ． Ｂｉｒｋｈａｕｓｅｒ Ｂｏｓｔｏｎ， ２０１１． ４９－７２．
【0135】
また、情報処理装置１００は、履歴情報管理テーブル４００を参照して、多次元空間８００を、毒性がない化合物を表すグラフを示すグラフインスタンスが存在する領域と、毒性がある化合物を表すグラフを示すグラフインスタンスが存在する領域とに分割する。
【0136】
便宜上、図中では、多次元空間８００を形成するいずれかの２次元平面を示す。図中の○は、フラグ情報＝０であるグラフインスタンスに対応する位置を示す。図中の×は、フラグ情報＝１であるグラフインスタンスに対応する位置を示す。図中の△は、具体的には、グラフインスタンス７００に対応する位置を示す。図中の□は、具体的には、フラグ情報＝１であるグラフインスタンスの一例に対応する位置を示す。
【0137】
図中のハッチ領域は、毒性がない化合物を表すグラフを示すグラフインスタンスが存在する領域に対応する。図中の無地領域は、具体的には、毒性がある化合物を表すグラフを示すグラフインスタンスが存在する領域に対応する。
【0138】
情報処理装置１００は、具体的には、分割した毒性がある化合物を表すグラフを示すグラフインスタンスが存在する領域に存在し、フラグ情報＝１である１以上のグラフインスタンスを特定する。情報処理装置１００は、具体的には、特定した１以上のグラフインスタンスのうち、算出した距離が比較的短いグラフインスタンス８０１を、参考情報として特定する。グラフインスタンス８０１は、例えば、グラフインスタンス６００である。ある判定結果とは逆の内容を示す判定結果であるいずれかのグラフインスタンスを特定する一例については、具体的には、下記参考文献２を参照することができる。
【0139】
参考文献２ ： Ｋａｎａｍｏｒｉ， Ｋｅｎｔａｒｏ， ｅｔ ａｌ． “ＤＡＣＥ： Ｄｉｓｔｒｉｂｕｔｉｏｎ－Ａｗａｒｅ Ｃｏｕｎｔｅｒｆａｃｔｕａｌ Ｅｘｐｌａｎａｔｉｏｎ ｂｙ Ｍｉｘｅｄ－Ｉｎｔｅｇｅｒ Ｌｉｎｅａｒ Ｏｐｔｉｍｉｚａｔｉｏｎ．” ＩＪＣＡＩ． ２０２０．
【0140】
情報処理装置１００は、参考情報として、特定したグラフインスタンス８０１が表すグラフの隣接行列の各要素に対応するスコアを算出してもよい。情報処理装置１００は、判定結果７１１と共に、判定結果７１１の根拠を表す根拠情報と、判定結果７１１の根拠を表す根拠情報を補助する参考情報とを出力する。情報処理装置１００は、具体的には、スコア行列７１２と、グラフインスタンス７２０とを、特定したグラフインスタンス８０１とを対応付けて、作業者が参照可能に出力する。
【0141】
これにより、情報処理装置１００は、判定結果７１１を、作業者が参照可能にすることができる。情報処理装置１００は、判定結果７１１の根拠を表す根拠情報を、作業者が参照可能にすることができる。情報処理装置１００は、判定結果７１１の根拠を表す根拠情報を補助する参考情報を、作業者が参照可能にすることができる。
【0142】
情報処理装置１００は、作業者が、判定結果７１１の根拠を表す根拠情報を補助する参考情報を参照して、判定結果７１１の根拠を表す根拠情報が、何を意味するのかを解釈し易くすることができる。情報処理装置１００は、例えば、作業者が、グラフインスタンス７００と、グラフインスタンス８０１とを比較可能にすることができる。
【0143】
情報処理装置１００は、具体的には、作業者が、比較した結果に基づいて、グラフインスタンス８０１が表すグラフが有するトポロジー特徴が、グラフインスタンス７００が表すグラフには現れないことを把握可能にすることができる。このため、情報処理装置１００は、作業者が、判定結果７１１の根拠を表す根拠情報が、何を意味するのかを解釈し易くすることができる。
【0144】
そして、情報処理装置１００は、作業者が、判定結果７１１の根拠を表す根拠情報を解釈した結果に基づいて、判定結果７１１の根拠または理由などを納得し易くすることができる。次に、図９の説明に移行し、情報処理装置１００が、参考情報を生成するか否かを、どのように制御するのかについて詳細に説明する。
【0145】
図９において、スコア行列６１２のように、少なくともいずれかのスコアがＴｈｒｅｓｈｏｌｄより大きい場合が考えられる。この場合、グラフインスタンス６００が表すグラフは、判定結果６１１の根拠となり得るトポロジー特徴を有すると考えられる。また、Ｔｈｒｅｓｈｏｌｄより大きいいずれかのスコアが、グラフインスタンス６００が表すグラフのいずれの箇所に、トポロジー特徴が現れるのかを表すと考えられる。箇所は、例えば、ノードおよびエッジの組み合わせである。
【0146】
このため、作業者は、少なくともいずれかのスコアがＴｈｒｅｓｈｏｌｄより大きい場合、当該いずれかのスコアを、判定結果６１１の根拠として納得し易く、当該いずれかのスコアが、何を意味するのかを解釈し易いと考えられる。従って、この場合、情報処理装置１００は、判定結果６１１の根拠を表す根拠情報を補助する参考情報を生成しなくてもよいと判断することができる。
【0147】
情報処理装置１００は、判定結果６１１の根拠を表す根拠情報を補助する参考情報を生成せずに済ませることができ、処理負担の増大化を抑制することができる。情報処理装置１００は、判定結果６１１の根拠を表す根拠情報を出力することができ、作業者が、判定結果６１１の根拠を表す根拠情報を参照して、判定結果６１１の根拠または理由などを納得し易くすることができる。
【0148】
一方で、スコア行列７１２のように、いずれのスコアもＴｈｒｅｓｈｏｌｄ以下であり、Ｔｈｒｅｓｈｏｌｄより大きいスコアが存在しない場合が考えられる。この場合、グラフインスタンス７００が表すグラフは、判定結果７１１の根拠となり得るトポロジー特徴を有さないと考えられる。換言すれば、判定結果７１１の根拠は、グラフインスタンス７００が表すグラフが、特定のトポロジー特徴を有さないことである。
【0149】
しかしながら、作業者は、いずれのスコアもＴｈｒｅｓｈｏｌｄ以下である場合、当該スコアを参照しても、グラフインスタンス７００が表すグラフが、特定のトポロジー特徴を有さないことを、判定結果７１１の根拠として納得することが難しい。例えば、作業者は、いずれのスコアもＴｈｒｅｓｈｏｌｄ以下であることを、ＧＸＡＩモデル６０２の精度が悪いことを示すと解釈し、判定結果７１１の根拠として納得し難いことがある。
【0150】
従って、この場合、情報処理装置１００は、判定結果７１１の根拠を表す根拠情報を補助する参考情報を生成することが好ましいと判断することができる。情報処理装置１００は、参考情報として、判定結果７１１とは逆の内容を示す判定結果である、グラフインスタンス７００と比較する他のグラフインスタンスを特定することができる。情報処理装置１００は、例えば、判定結果７１１とは逆の内容を示す判定結果であるため、特定のトポロジー特徴を有すると考えられるグラフを表す他のグラフインスタンスを特定することができる。
【0151】
情報処理装置１００は、特定したグラフインスタンスを、グラフインスタンス７００と比較可能に出力することができる。情報処理装置１００は、作業者が、特定のトポロジー特徴を有さないグラフを表すグラフインスタンス７００と、特定のトポロジー特徴を有すると考えられるグラフを表す他のグラフインスタンスとを比較可能にすることができる。
【0152】
このため、情報処理装置１００は、作業者が、いずれのスコアもＴｈｒｅｓｈｏｌｄ以下であることを示す根拠情報に対して、グラフインスタンス７００が表すグラフが特定のトポロジー特徴を有さないことを示すと解釈し易くすることができる。情報処理装置１００は、作業者が、いずれのスコアもＴｈｒｅｓｈｏｌｄ以下であることを示す根拠情報に対して、ＧＸＡＩモデル６０２の精度が悪いことを示すと解釈せずに済ませることができる。
【0153】
このように、情報処理装置１００は、作業者が、判定結果７１１の根拠を表す根拠情報を補助する参考情報を参照して、判定結果７１１の根拠を表す根拠情報が、何を意味するのかを解釈し易くすることができる。そして、情報処理装置１００は、作業者が、判定結果７１１の根拠を表す根拠情報が、何を意味するのかを解釈し易くすることができる。
【0154】
（全体処理手順）
次に、図１０を用いて、情報処理装置１００が実行する、全体処理手順の一例について説明する。全体処理は、例えば、図３に示したＣＰＵ３０１と、メモリ３０２や記録媒体３０５などの記憶領域と、ネットワークＩ／Ｆ３０３とによって実現される。
次に、図１０を用いて、情報処理装置１００が実行する、全体処理手順の一例について説明する。全体処理は、例えば、図３に示したＣＰＵ３０１と、メモリ３０２や記録媒体３０５などの記憶領域と、ネットワークＩ／Ｆ３０３とによって実現される。
【0155】
図１０は、全体処理手順の一例を示すフローチャートである。図１０において、情報処理装置１００は、学習済みＧＮＮモデルと、学習済みＧＸＡＩモデルと、対象のグラフインスタンスとを取得する（ステップＳ１００１）。
【0156】
次に、情報処理装置１００は、学習済みＧＮＮモデルを用いて、対象のグラフインスタンスに対する判定処理を実施し、判定結果を表すラベルを取得し、対象のグラフインスタンスに付与する（ステップＳ１００２）。そして、情報処理装置１００は、学習済みＧＸＡＩモデルを用いて、対象のグラフインスタンスに対する算出処理を実施し、判定結果の根拠として、隣接行列の各要素に対応するスコアを算出する（ステップＳ１００３）。
【0157】
次に、情報処理装置１００は、算出したスコアのうち、閾値以上のスコアが存在するか否かを判定する（ステップＳ１００４）。ここで、閾値以上のスコアが存在する場合（ステップＳ１００４：Ｙｅｓ）、情報処理装置１００は、ステップＳ１００７の処理に移行する。一方で、閾値以上のスコアが存在しない場合（ステップＳ１００４：Ｎｏ）、情報処理装置１００は、ステップＳ１００５の処理に移行する。
【0158】
ステップＳ１００５では、情報処理装置１００は、対象のグラフインスタンスに付与したラベルとは反対の判定結果を示す逆ラベルが付与された他のグラフインスタンスと、当該逆ラベルとを抽出する（ステップＳ１００５）。
【0159】
次に、情報処理装置１００は、取得した対象のグラフインスタンスと、取得したラベルと、抽出した他のグラフインスタンスと、抽出した逆ラベルと、算出したスコアとを対応付けて出力する（ステップＳ１００６）。そして、情報処理装置１００は、全体処理を終了する。
【0160】
ステップＳ１００７では、情報処理装置１００は、取得した対象のグラフインスタンスと、取得したラベルと、算出したスコアとを対応付けて出力する（ステップＳ１００７）。そして、情報処理装置１００は、全体処理を終了する。これにより、情報処理装置１００は、作業者が、ラベルとした判定結果の根拠を解釈し易くすることができる。
【0161】
ここで、情報処理装置１００は、図１０の一部ステップの処理の順序を入れ替えて実行してもよい。例えば、ステップＳ１００２，Ｓ１００３の処理の順序は入れ替え可能である。また、情報処理装置１００は、図１０の一部ステップの処理を省略してもよい。
【0162】
以上説明したように、情報処理装置１００によれば、所定の判定処理による第１グラフデータの第１判定結果を取得することができる。情報処理装置１００によれば、第１訓練済み機械学習モデルを用いて算出された、第１グラフデータの所定の特徴に関する１以上の第１スコアを取得することができる。情報処理装置１００によれば、取得した１以上の第１スコアのすべての第１スコアが閾値未満である場合、記憶部５００を参照して、１以上のグラフデータのうち、取得した第１判定結果とは異なる第２判定結果である第２グラフデータを特定することができる。情報処理装置１００によれば、特定した第２グラフデータの所定の特徴に関する情報を、取得した第１判定結果に対応付けて出力することができる。これにより、情報処理装置１００は、作業者が、１以上の第１スコアを解釈し易くすることができ、第１判定結果を理解し易くすることができる。
【0163】
情報処理装置１００によれば、第１訓練済み機械学習モデルを用いて、特定した第２グラフデータの所定の特徴に関する１以上の第２スコアを算出することができる。情報処理装置１００によれば、第２判定結果と、特定した第２グラフデータと、算出した１以上の第２スコアとを、取得した第１判定結果に対応付けて出力することができる。これにより、情報処理装置１００は、作業者が、第２グラフデータと、１以上の第２スコアとを参照可能にすることができ、効率よく、１以上の第１スコアを解釈し易くすることができ、第１判定結果を理解し易くすることができる。
【0164】
情報処理装置１００によれば、第２判定結果と、特定した第２グラフデータと、算出した１以上の第２スコアと、第１グラフデータと、取得した１以上の第１スコアとを、取得した第１判定結果に対応付けて出力することができる。これにより、情報処理装置１００は、作業者が、第２グラフデータと、１以上の第２スコアとの組み合わせと、第１グラフデータと、１以上の第１スコアとの組み合わせとを比較可能にすることができる。このため、情報処理装置１００は、作業者が、効率よく、１以上の第１スコアを解釈し易くすることができ、第１判定結果を理解し易くすることができる。
【0165】
情報処理装置１００によれば、取得した１以上の第１スコアの少なくともいずれかの第１スコアが閾値以上である場合、第１グラフデータと、取得した１以上の第１スコアとを、取得した第１判定結果に対応付けて出力することができる。これにより、情報処理装置１００は、作業者が、第１判定結果の根拠を表す１以上の第１スコアを参照可能にすることができる。情報処理装置１００は、第２グラフデータを特定せずに済ませることができ、処理負担の増大化を抑制することができる。
【0166】
情報処理装置１００によれば、グラフデータの入力に応じて、所定の判定処理によるグラフデータの判定結果の根拠を表す、グラフデータの所定の特徴に関する、グラフデータの隣接行列の各要素に対応するスコアを算出する第１訓練済み機械学習モデルを記憶することができる。これにより、情報処理装置１００は、比較的精度よく算出された１以上の第１スコアを取得可能にすることができ、１以上の第１スコアを解釈し易くすることができる。
【0167】
情報処理装置１００によれば、１以上のグラフデータのそれぞれのグラフデータについて、当該グラフデータと、第１グラフデータとの差異の大きさを示す指標値を算出することができる。情報処理装置１００によれば、１以上の第１スコアのすべての第１スコアが閾値未満である場合、１以上のグラフデータのうち、取得した第１判定結果とは異なる第２判定結果であり、算出した指標値が基準値未満である第２グラフデータを特定することができる。これにより、情報処理装置１００は、第１グラフデータと比較する対象として適切な第２グラフデータを特定し易くすることができる。
【0168】
情報処理装置１００によれば、第１訓練済み機械学習モデルに対して第１グラフデータを入力することにより、第１訓練済み機械学習モデルによって算出された１以上の第１スコアを取得することができる。これにより、情報処理装置１００は、１以上の第１スコアを他のコンピュータで算出せずに済ませることができる。
【0169】
情報処理装置１００によれば、第２訓練済み機械学習モデルに対して、第１グラフデータを入力することにより、第２訓練済み機械学習モデルによって生成された所定の判定処理による第１グラフデータの第１判定結果を取得することができる。これにより、情報処理装置１００は、第１判定結果を他のコンピュータで生成せずに済ませることができる。
【0170】
情報処理装置１００によれば、第２訓練済み機械学習モデルに対して、１以上のグラフデータのそれぞれのグラフデータを入力することにより、第２訓練済み機械学習モデルによって生成された所定の判定処理によるそれぞれのグラフデータの判定結果を取得し、記憶部５００に記憶することができる。これにより、情報処理装置１００は、記憶部５００の記憶内容を適切に更新することができる。
【0171】
情報処理装置１００によれば、所定の特徴として、ネットワークトポロジー特徴を採用することができる。これにより、情報処理装置１００は、ネットワークトポロジー特徴を考慮した第１判定結果を取得することができる。情報処理装置１００は、作業者が、ネットワークトポロジー特徴を考慮した第１判定結果を理解し易くすることができる。
【0172】
なお、本実施の形態で説明した判定方法は、予め用意されたプログラムをＰＣやワークステーションなどのコンピュータで実行することにより実現することができる。本実施の形態で説明した判定プログラムは、コンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行される。記録媒体は、ハードディスク、フレキシブルディスク、ＣＤ（Ｃｏｍｐａｃｔ Ｄｉｓｃ）－ＲＯＭ、ＭＯ（Ｍａｇｎｅｔｏ Ｏｐｔｉｃａｌ ｄｉｓｃ）、ＤＶＤ（Ｄｉｇｉｔａｌ Ｖｅｒｓａｔｉｌｅ Ｄｉｓｃ）などである。また、本実施の形態で説明した判定プログラムは、インターネットなどのネットワークを介して配布してもよい。
【0173】
上述した実施の形態に関し、さらに以下の付記を開示する。
【0174】
（付記１）所定の判定処理による第１グラフデータの第１判定結果を取得し、
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、
取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、
特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する、
処理をコンピュータに実行させることを特徴とする判定プログラム。
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、
取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、
特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する、
処理をコンピュータに実行させることを特徴とする判定プログラム。
【0175】
（付記２）前記訓練済み機械学習モデルを用いて、特定した前記第２グラフデータの前記所定の特徴に関する１以上の第２スコアを算出する、
処理を前記コンピュータに実行させ、
前記出力する処理は、
前記記憶部に記憶された前記第２判定結果と、特定した前記第２グラフデータと、算出した前記１以上の第２スコアとを、取得した前記第１判定結果に対応付けて出力する、ことを特徴とする付記１に記載の判定プログラム。
処理を前記コンピュータに実行させ、
前記出力する処理は、
前記記憶部に記憶された前記第２判定結果と、特定した前記第２グラフデータと、算出した前記１以上の第２スコアとを、取得した前記第１判定結果に対応付けて出力する、ことを特徴とする付記１に記載の判定プログラム。
【0176】
（付記３）前記出力する処理は、
前記記憶部に記憶された前記第２判定結果と、特定した前記第２グラフデータと、算出した前記１以上の第２スコアと、前記第１グラフデータと、取得した前記１以上の第１スコアとを、取得した前記第１判定結果に対応付けて出力する、ことを特徴とする付記２に記載の判定プログラム。
前記記憶部に記憶された前記第２判定結果と、特定した前記第２グラフデータと、算出した前記１以上の第２スコアと、前記第１グラフデータと、取得した前記１以上の第１スコアとを、取得した前記第１判定結果に対応付けて出力する、ことを特徴とする付記２に記載の判定プログラム。
【0177】
（付記４）前記出力する処理は、
取得した前記１以上の第１スコアの少なくともいずれかの第１スコアが前記閾値以上である場合、前記第１グラフデータと、取得した前記１以上の第１スコアとを、取得した前記第１判定結果に対応付けて出力する、ことを特徴とする付記１～３のいずれか一つに記載の判定プログラム。
取得した前記１以上の第１スコアの少なくともいずれかの第１スコアが前記閾値以上である場合、前記第１グラフデータと、取得した前記１以上の第１スコアとを、取得した前記第１判定結果に対応付けて出力する、ことを特徴とする付記１～３のいずれか一つに記載の判定プログラム。
【0178】
（付記５）前記訓練済み機械学習モデルは、グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する、前記グラフデータの隣接行列の各要素に対応するスコアを算出する、ことを特徴とする付記１～３のいずれか一つに記載の判定プログラム。
【0179】
（付記６）前記１以上のグラフデータのそれぞれのグラフデータについて、当該グラフデータと、前記第１グラフデータとの差異の大きさを示す指標値を算出する、
処理を前記コンピュータに実行させ、
前記特定する処理は、
取得した前記１以上の第１スコアのすべての第１スコアが前記閾値未満である場合、前記記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果であり、算出した前記指標値が基準値未満である第２グラフデータを特定する、ことを特徴とする付記１～３のいずれか一つに記載の判定プログラム。
処理を前記コンピュータに実行させ、
前記特定する処理は、
取得した前記１以上の第１スコアのすべての第１スコアが前記閾値未満である場合、前記記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果であり、算出した前記指標値が基準値未満である第２グラフデータを特定する、ことを特徴とする付記１～３のいずれか一つに記載の判定プログラム。
【0180】
（付記７）前記１以上の第１スコアを取得する処理は、
前記訓練済み機械学習モデルに対して前記第１グラフデータを入力することにより、前記訓練済み機械学習モデルによって算出された１以上の第１スコアを取得する、ことを特徴とする付記１～３のいずれか一つに記載の判定プログラム。
前記訓練済み機械学習モデルに対して前記第１グラフデータを入力することにより、前記訓練済み機械学習モデルによって算出された１以上の第１スコアを取得する、ことを特徴とする付記１～３のいずれか一つに記載の判定プログラム。
【0181】
（付記８）前記第１判定結果を取得する処理は、
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果を生成する第２訓練済み機械学習モデルに対して、前記第１グラフデータを入力することにより、前記第２訓練済み機械学習モデルによって生成された前記所定の判定処理による前記第１グラフデータの第１判定結果を取得する、ことを特徴とする付記１～３のいずれか一つに記載の判定プログラム。
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果を生成する第２訓練済み機械学習モデルに対して、前記第１グラフデータを入力することにより、前記第２訓練済み機械学習モデルによって生成された前記所定の判定処理による前記第１グラフデータの第１判定結果を取得する、ことを特徴とする付記１～３のいずれか一つに記載の判定プログラム。
【0182】
（付記９）グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果を生成する第２訓練済み機械学習モデルに対して、前記１以上のグラフデータのそれぞれのグラフデータを入力することにより、前記第２訓練済み機械学習モデルによって生成された前記所定の判定処理による前記それぞれのグラフデータの判定結果を取得し、前記記憶部に記憶する、
処理を前記コンピュータに実行させることを特徴とする付記１～３のいずれか一つに記載の判定プログラム。
処理を前記コンピュータに実行させることを特徴とする付記１～３のいずれか一つに記載の判定プログラム。
【0183】
（付記１０）前記所定の特徴は、ネットワークトポロジー特徴である、ことを特徴とする付記１～３のいずれか一つに記載の判定プログラム。
【0184】
（付記１１）所定の判定処理による第１グラフデータの第１判定結果を取得し、
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、
取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、
特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する、
処理をコンピュータが実行することを特徴とする判定方法。
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、
取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、
特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する、
処理をコンピュータが実行することを特徴とする判定方法。
【0185】
（付記１２）所定の判定処理による第１グラフデータの第１判定結果を取得し、
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、
取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、
特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する、
制御部を有することを特徴とする情報処理装置。
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、
取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、
特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する、
制御部を有することを特徴とする情報処理装置。
【符号の説明】
【0186】
１００ 情報処理装置
１０１ 第１グラフデータ
１０２ 第２グラフデータ
１１０，５００ 記憶部
２００ 情報処理システム
２０１ 判定処理装置
２０２ クライアント装置
２１０ ネットワーク
３００ バス
３０１ ＣＰＵ
３０２ メモリ
３０３ ネットワークＩ／Ｆ
３０４ 記録媒体Ｉ／Ｆ
３０５ 記録媒体
４００ 履歴情報管理テーブル
５０１ 取得部
５０２ 判定部
５０３ 算出部
５０４ 特定部
５０５ 出力部
６００，６２０，７００，７２０，８０１ グラフインスタンス
６０１ ＧＮＮモデル
６０２ ＧＸＡＩモデル
６１１，７１１ 判定結果
６１２，７１２ スコア行列
８００ 多次元空間
１０１ 第１グラフデータ
１０２ 第２グラフデータ
１１０，５００ 記憶部
２００ 情報処理システム
２０１ 判定処理装置
２０２ クライアント装置
２１０ ネットワーク
３００ バス
３０１ ＣＰＵ
３０２ メモリ
３０３ ネットワークＩ／Ｆ
３０４ 記録媒体Ｉ／Ｆ
３０５ 記録媒体
４００ 履歴情報管理テーブル
５０１ 取得部
５０２ 判定部
５０３ 算出部
５０４ 特定部
５０５ 出力部
６００，６２０，７００，７２０，８０１ グラフインスタンス
６０１ ＧＮＮモデル
６０２ ＧＸＡＩモデル
６１１，７１１ 判定結果
６１２，７１２ スコア行列
８００ 多次元空間
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】