特開 2023-62877 情報表示装置および情報表示方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2023062877

(43)【公開日】2023-05-09

(54)【発明の名称】情報表示装置および情報表示方法

(51)【国際特許分類】

   G06N 3/02 20060101AFI20230427BHJP

   G06Q 10/04 20230101ALI20230427BHJP

【ＦＩ】

G06N3/02

G06Q10/04

【審査請求】未請求

【請求項の数】11

【出願形態】ＯＬ

(21)【出願番号】P 2021173036

(22)【出願日】2021-10-22

(71)【出願人】

【識別番号】000005108

【氏名又は名称】株式会社日立製作所

(74)【代理人】

【識別番号】110001678

【氏名又は名称】藤央弁理士法人

(72)【発明者】

【氏名】福田 幸二

【テーマコード（参考）】

5L049

【Ｆターム（参考）】

5L049AA04

(57)【要約】

【課題】ノード間における貢献の可視化を図ること。
【解決手段】プログラムを実行するプロセッサと、前記プログラムを記憶する記憶デバイスと、を有する情報表示装置は、グラフを構成する複数のノードの各々のノードの特徴量と、前記ノードの推測値と、前記推測値に対する前記ノードおよび他ノードの貢献度と、ノード間の接続関係と、を記憶するデータベースにアクセス可能であり、前記ノードの指定を受け付ける指定処理と、前記指定処理によって指定された前記ノードの前記推測値に対する前記ノードおよび前記他ノードの貢献度を前記データベースから取得する取得処理と、前記取得処理によって取得された前記ノードおよび前記他ノードの貢献度を表示可能に出力する出力処理と、を実行する。
【選択図】図１３

【特許請求の範囲】

【請求項1】

プログラムを実行するプロセッサと、前記プログラムを記憶する記憶デバイスと、を有する情報表示装置であって、
グラフを構成する複数のノードの各々のノードの特徴量と、前記ノードの推測値と、前記推測値に対する前記ノードおよび他ノードの貢献度と、ノード間の接続関係と、を記憶するデータベースにアクセス可能であり、
前記プロセッサは、
前記ノードの指定を受け付ける指定処理と、
前記指定処理によって指定された前記ノードの前記推測値に対する前記ノードおよび前記他ノードの貢献度を前記データベースから取得する取得処理と、
前記取得処理によって取得された前記ノードおよび前記他ノードの貢献度を表示可能に出力する出力処理と、
を実行することを特徴とする情報表示装置。

【請求項2】

請求項１に記載の情報表示装置であって、
前記プロセッサは、
前記ノードの前記推測値に対する前記ノードおよび前記他ノードの貢献度を表示する第１表示と、前記ノードおよび前記他ノードの前記推測値に対する前記ノードの貢献度を表示する第２表示と、のうちいずれかの選択を受け付ける選択処理を実行し、
前記取得処理では、前記プロセッサは、前記第１表示が選択された場合、前記ノードの前記推測値に対する前記ノードおよび前記他ノードの貢献度を取得し、前記第２表示が選択された場合、前記ノードおよび前記他ノードの前記推測値に対する前記ノードの貢献度を前記データベースから取得し、
前記出力処理では、前記プロセッサは、前記第１表示が選択された場合、前記ノードおよび前記他ノードの貢献度を表示可能に出力し、前記第２表示が選択された場合、前記ノードおよび前記他ノードの前記推測値に対する前記ノードの貢献度を表示可能に出力する、
ことを特徴とする情報表示装置。

【請求項3】

請求項１に記載の情報表示装置であって、
前記出力処理では、前記プロセッサは、前記ノードの前記推測値に対する前記ノードおよび前記他ノードの貢献度を、前記グラフに表示可能に出力する、
ことを特徴とする情報表示装置。

【請求項4】

請求項１に記載の情報表示装置であって、
前記出力処理では、前記プロセッサは、前記ノードの前記推測値に対する前記ノードおよび前記他ノードの貢献度を、前記ノードと前記他ノードとの距離と前記貢献度との関係を示すグラフで表示可能に出力する、
ことを特徴とする情報表示装置。

【請求項5】

請求項２に記載の情報表示装置であって、
前記出力処理では、前記プロセッサは、前記ノードおよび前記他ノードの前記推測値に対する前記ノードの貢献度を、前記グラフに表示可能に出力する、
ことを特徴とする情報表示装置。

【請求項6】

請求項１に記載の情報表示装置であって、
前記出力処理では、前記プロセッサは、前記ノードおよび前記他ノードの前記推測値に対する前記ノードの貢献度を、前記ノードと前記他ノードとの距離と前記貢献度との関係を示すグラフで表示可能に出力する、
ことを特徴とする情報表示装置。

【請求項7】

請求項１に記載の情報表示装置であって、
前記プロセッサは、
前記グラフが入力されたグラフ畳み込みニューラルネットワークの複数段の中間層の層番号の入力を受け付ける入力処理を実行し、
前記取得処理では、前記プロセッサは、前記入力処理によって入力された層番号に対応する前記ノードの前記推測値に対する前記ノードおよび前記他ノードの貢献度を、前記データベースから取得する、
ことを特徴とする情報表示装置。

【請求項8】

請求項７に記載の情報表示装置であって、
前記中間層は、プーリング層を含み、
前記出力処理では、前記プロセッサは、前記入力処理によって入力された層番号に対応する前記プーリング層のプーリング結果に基づいて、前記ノードに関連する関連ノードを表示可能に出力する、
ことを特徴とする情報表示装置。

【請求項9】

プログラムを実行するプロセッサと、前記プログラムを記憶する記憶デバイスと、を有する情報表示装置であって、
グラフを構成する複数のノードの各々のノードの特徴量と、前記ノードの推測値と、前記推測値に対する前記ノードおよび他ノードの貢献度と、ノード間の接続関係と、を記憶するデータベースにアクセス可能であり、
前記プロセッサは、
前記ノードの指定を受け付ける指定処理と、
前記指定処理によって指定された前記ノードおよび前記他ノードの前記推測値に対する前記ノードの貢献度を前記データベースから取得する取得処理と、
前記取得処理によって取得された前記ノードおよび前記他ノードの前記推測値に対する前記ノードの貢献度を表示可能に出力する出力処理と、
を実行することを特徴とする情報表示装置。

【請求項10】

プログラムを実行するプロセッサと、前記プログラムを記憶する記憶デバイスと、を有する情報表示装置による情報表示方法であって、
グラフを構成する複数のノードの各々のノードの特徴量と、前記ノードの推測値と、前記推測値に対する前記ノードおよび他ノードの貢献度と、ノード間の接続関係と、を記憶するデータベースにアクセス可能であり、
前記プロセッサは、
前記ノードの指定を受け付ける指定処理と、
前記指定処理によって指定された前記ノードの前記推測値に対する前記ノードおよび前記他ノードの貢献度を前記データベースから取得する取得処理と、
前記取得処理によって取得された前記ノードおよび前記他ノードの貢献度を表示可能に出力する出力処理と、
を実行することを特徴とする情報表示方法。

【請求項11】

プログラムを実行するプロセッサと、前記プログラムを記憶する記憶デバイスと、を有する情報表示装置による情報表示方法であって、
グラフを構成する複数のノードの各々のノードの特徴量と、前記ノードの推測値と、前記推測値に対する前記ノードおよび他ノードの貢献度と、ノード間の接続関係と、を記憶するデータベースにアクセス可能であり、
前記プロセッサは、
前記ノードの指定を受け付ける指定処理と、
前記指定処理によって指定された前記ノードおよび前記他ノードの前記推測値に対する前記ノードの貢献度を前記データベースから取得する取得処理と、
前記取得処理によって取得された前記ノードおよび前記他ノードの前記推測値に対する前記ノードの貢献度を表示可能に出力する出力処理と、
を実行することを特徴とする情報表示方法。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、情報を表示する情報表示装置および情報表示方法に関する。

【背景技術】

【0002】

下記特許文献１は、サブネットワークの入出力特性を出力する情報処理装置を開示する。この情報処理装置は、データの入力を受け付ける入力ノードと、前記入力ノードに多段に接続される複数の中間ノードと、をデータの種類ごとに有して構成される複数のサブネットワークと、前記複数のサブネットワークからの出力データを用いてデータを出力する出力ノードと、を備えて構成されるニューラルネットワークに対する処理を行う。この情報処理装置は、前記複数のサブネットワークのいずれかである第１サブネットワークの前記入力ノードに複数のサンプルデータを入力し、前記複数のサンプルデータのそれぞれに対応する前記第１サブネットワークからの複数の出力データを取得する出力データ取得部と、前記サンプルデータと前記出力データとに基づいて、前記第１サブネットワークの入出力特性を出力する入出力特性出力部と、を備える。

【0003】

下記特許文献２は、個人化コンテンツ推薦のためのリアルタイムグラフに基づく埋め込み構築方法を開示する。この埋め込み方法は、推薦対象となるコンテンツ間の関係を示すグラフを生成する段階、グラフを利用してコンテンツの埋め込みを学習する段階、および学習が完了したグラフにコンテンツと関連するユーザの活動を反映してユーザの埋め込みを実行する段階を含む。

【先行技術文献】

【特許文献】

【0004】

【特許文献1】特開２０２１－３９７１０号公報

【特許文献2】特開２０２１－２６７７９号公報

【発明の概要】

【発明が解決しようとする課題】

【0005】

しかしながら、上述した従来技術では、ノード間における貢献の関係については考慮されていない。

【0006】

本発明は、ノード間における貢献の可視化を図ることを目的とする。

【課題を解決するための手段】

【0007】

本願において開示される発明の一側面となる情報表示装置は、プログラムを実行するプロセッサと、前記プログラムを記憶する記憶デバイスと、を有する情報表示装置であって、グラフを構成する複数のノードの各々のノードの特徴量と、前記ノードの推測値と、前記推測値に対する前記ノードおよび他ノードの貢献度と、ノード間の接続関係と、を記憶するデータベースにアクセス可能であり、前記プロセッサは、前記ノードの指定を受け付ける指定処理と、前記指定処理によって指定された前記ノードの前記推測値に対する前記ノードおよび前記他ノードの貢献度を前記データベースから取得する取得処理と、
前記取得処理によって取得された前記ノードおよび前記他ノードの貢献度を表示可能に出力する出力処理と、を実行することを特徴とする。

【0008】

本願において開示される発明の他の側面となる情報表示装置は、プログラムを実行するプロセッサと、前記プログラムを記憶する記憶デバイスと、を有する情報表示装置であって、グラフを構成する複数のノードの各々のノードの特徴量と、前記ノードの推測値と、前記推測値に対する前記ノードおよび他ノードの貢献度と、ノード間の接続関係と、を記憶するデータベースにアクセス可能であり、前記プロセッサは、前記ノードの指定を受け付ける指定処理と、前記指定処理によって指定された前記ノードおよび前記他ノードの前記推測値に対する前記ノードの貢献度を前記データベースから取得する取得処理と、前記取得処理によって取得された前記ノードおよび前記他ノードの前記推測値に対する前記ノードの貢献度を表示可能に出力する出力処理と、を実行することを特徴とする。

【発明の効果】

【0009】

本発明の代表的な実施の形態によれば、ノード間における貢献の可視化を図ることができる。前述した以外の課題、構成及び効果は、以下の実施例の説明により明らかにされる。

【図面の簡単な説明】

【0010】

【図1】図１は、情報表示装置のハードウェア構成例を示すブロック図である。

【図2】図２は、入力グラフの一例を示す説明図である。

【図3】図３は、ノードＤＢの一例を示す説明図である。

【図4】図４は、エッジＤＢの一例を示す説明図である。

【図5】図５は、ＧＣＮの構成例を示す説明図である。

【図6】図６は、ＥＭＢＥＤＤＩＮＧ層の一例を示す説明図である。

【図7】図７は、ＲＧＣＮ層の一例を示す説明図である。

【図8】図８は、ＲｅＬＵ層の一例を示す説明図である。

【図9】図９は、ｄｒｏｐｏｕｔ層の一例を示す説明図である。

【図10】図１０は、ｍａｘ層の一例を示す説明図である。

【図11】図１１は、ＧＣＮ層とｃｏｎｃａｔ層との接続関係を示す説明図である。

【図12】図１２は、ＭＬＰ層およびソフトマックス層の一例を示す説明図である。

【図13】図１３は、第１グラフ表示の一例を示す説明図である。

【図14】図１４は、第２グラフ表示の一例を示す説明図である。

【図15】図１５は、情報表示装置によるグラフ表示処理手順例を示すフローチャートである。

【図16】図１６は、第１グラフ表示の他の例を示す説明図である。

【図17】図１７は、第２グラフ表示の他の例を示す説明図である。

【図18】図１８は、実施例２にかかるＧＣＮの一例を示す説明図である。

【図19】図１９は、ｐｏｏｌｉｎｇ層の一例を示す説明図である。

【図20】図２０は、実施例２にかかるＧＣＮ層とｃｏｎｃａｔ層５０３との接続関係を示す説明図である。

【発明を実施するための形態】

【実施例0011】

＜情報表示装置のハードウェア構成例＞
図１は、情報表示装置のハードウェア構成例を示すブロック図である。情報表示装置１００は、プロセッサ１０１と、記憶デバイス１０２と、入力デバイス１０３と、出力デバイス１０４と、通信インターフェース（通信ＩＦ）１０５と、を有する。プロセッサ１０１、記憶デバイス１０２、入力デバイス１０３、出力デバイス１０４、および通信ＩＦ１０５は、バス１０６により接続される。プロセッサ１０１は、情報表示装置１００を制御する。記憶デバイス１０２は、プロセッサ１０１の作業エリアとなる。また、記憶デバイス１０２は、各種プログラムやデータを記憶する非一時的なまたは一時的な記録媒体である。記憶デバイス１０２としては、たとえば、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）、ＨＤＤ（Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）、フラッシュメモリがある。入力デバイス１０３は、データを入力する。入力デバイス１０３としては、たとえば、キーボード、マウス、タッチパネル、テンキー、スキャナ、マイク、センサがある。出力デバイス１０４は、データを出力する。出力デバイス１０４としては、たとえば、ディスプレイ、プリンタ、スピーカがある。通信ＩＦ１０５は、ネットワークと接続し、データを送受信する。

【0012】

＜入力グラフ＞
図２は、入力グラフの一例を示す説明図である。入力グラフ２００は、複数（図２では１０個）のノードＮ１～Ｎ１０と、ノードＮ１～Ｎ１０のうち２つのノード間を接続する複数（図２では１０本）のエッジＥ１～Ｅ１０と、を有する。ノードＮ１～Ｎ１０を区別しない場合は、ノードＮと表記する。エッジＥ１～Ｅ１０を区別しない場合は、エッジＥと表記する。

【0013】

＜ノードＤＢ＞
図３は、ノードＤＢの一例を示す説明図である。ノードＤＢ３００は、入力グラフ２００のノードＮ１～Ｎ１０の各々に関する情報を記憶するデータベースである。ノードＤＢ３００は、記憶デバイス１０２に記憶される。ノードＤＢ３００は、フィールドとして、ノードＩＤ３０１と、特徴量３０２と、推測値３０３と、貢献度３０４と、を有する。

【0014】

ノードＩＤ３０１は、ノードＮを一意に特定する識別情報である。特徴量３０２は、因子Ｆ１～Ｆｎ（ｎは１以上の整数）からなるｎ次元のベクトルである。推測値３０３は、入力グラフ２００を、学習済みのＧＣＮ（Ｇｒａｐｈ Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｔｗｏｒｋ：グラフ畳み込みネットワーク）に入力した結果、出力されるノードＮごとの予測結果Ｙである。

【0015】

貢献度３０４は、ノードＮごとに算出されるノードＮ１～Ｎ１０のノードＮへの貢献を数値化した情報である。貢献度の算出には、ＳＨＡＰ（ＳＨａｐｌｅｙ Ａｄｄｉｔｉｖｅ ｅｘＰｌａｎａｔｉｏｎｓ）あるいはＬＩＭＥ（Ｌｏｃａｌ Ｉｎｔｅｒｐｒｅｔａｂｌｅ Ｍｏｄｅｌ－ａｇｎｏｓｔｉｃ Ｅｘｐｌａｎａｔｉｏｎｓ）といった公知の手段を用いることができる。典型的には、あるノードＮの各ノードＮ１～Ｎ１０からの貢献度３０４の合計が、当該ノードＮの推測値３０３となる。

【0016】

＜エッジＤＢ＞
図４は、エッジＤＢの一例を示す説明図である。エッジＤＢ４００は、入力グラフ２００のエッジＥ１～Ｅ１０の各々に関する情報を記憶するデータベースである。エッジＤＢ４００は、記憶デバイス１０２に記憶される。エッジＤＢ４００は、フィールドとして、エッジＩＤ４０１と、第１ノードＩＤ４０２と、第２ノードＩＤ４０３と、を有する。

【0017】

エッジＩＤ４０１は、エッジＥを一意に特定する識別情報である。第１ノードＩＤ４０２は、第１ノードＮを一意に特定する識別情報である。第２ノードＩＤ４０３は、第２ノードＮを一意に特定する識別情報である。第１ノードＮとは、エッジＥの一端に接続されるノードＮであり、第２ノードＮとは、エッジＥの他端に接続されるノードＮである。

【0018】

なお、図示はしないが、エッジＤＢ４００は、エッジＥごとにエッジＥの特徴量やエッジ長を格納してもよい。エッジＥの特徴量は、エッジＥの両端の２つのノードＮの畳み込み演算において、ノードが持つ特徴量３０２に加えて使用される。

【0019】

＜ＧＣＮ＞
図５は、ＧＣＮの構成例を示す説明図である。ＧＣＮ５００は、ＥＭＢＥＤＤＩＮＧ層５０１と、１層以上のＧＣＮ層５０２－１～５０２－ｍ（ｍは１以上の整数）と、ｃｏｎｃａｔ層５０３と、ＭＬＰ（Ｍｕｌｔｉ－Ｌａｙｅｒ Ｐｅｒｃｅｐｔｒｏｎ）層５０４と、ソフトマックス層５０５と、を有する。ＧＣＮ層５０２－１～５０２－ｍを区別しない場合は、ＧＣＮ層５０２－ｊ（ｊは、１≦ｊ≦ｍを満たす整数）と表記する。ＧＣＮ層５０２－ｊの出力は、次のＧＣＮ層５０２－ｊ＋１に入力されると同時に、ｃｏｎｃａｔ層５０３にも入力され、ＪＫ－Ｎｅｔ（Ｊｕｍｐｉｎｇ Ｋｎｏｗｌｅｄｇｅ Ｎｅｔｗｏｒｋ）を構成する。

【0020】

ＧＣＮ層５０２－ｊは、ＲＧＣＮ（Ｒｅｌａｔｉｏｎａｌ Ｇｒａｐｈ Ｃｏｎｖｏｌｕｔｉｏｎ Ｎｅｔｗｏｒｋ）層５２１－ｊと、ｎｏｒｍａｌｉｚａｔｉｏｎ層５２２－ｊと、ＲｅＬＵ層５２３－ｊと、ｄｒｏｐｏｕｔ層５２４－ｊと、ｍａｘ層５２５－ｊと、を含む。

【0021】

図６は、ＥＭＢＥＤＤＩＮＧ層５０１の一例を示す説明図である。ＥＭＢＥＤＤＩＮＧ層５０１は、入力グラフ２００のノードＮに含まれる特徴量３０２の前処理を実行する。図６では、企業に関する企業ノードＮａを例に挙げて説明する。企業ノードＮａは、特徴量３０２としてＦ１（従業員数）、Ｆ２（年商）、Ｆ３（業種）、…を有する。変換Ｃ１は無変換であり、特徴量Ｆ１の値がそのまま用いられる。変換Ｃ２は、対数変換であり、特徴量Ｆ２の値が対数変換される。変換Ｃ３は、ワンホット化であり、種類別に「０」または「１」を付与する。変換後の企業ノードＮａと学習パラメータである重みＷａとの積和演算により、積和演算結果６００が出力される。

【0022】

図７は、ＲＧＣＮ層５２１－ｊの一例を示す説明図である。図７では、ノードＮ９に着目して説明するが、他のノードＮ１～Ｎ８、Ｎ１０も同様である。ノードＮ９の隣接ノードはノードＮ８である。ノードＮ９の隣接エッジはエッジＥ９である。ＲＧＣＮ層５２１－ｊは、ノードＮ９の特徴量Ｆ（Ｎ９）を、ノードＮ９の特徴量Ｆ（Ｎ９）、隣接ノードＮ８の特徴量Ｆ（Ｎ８）、および隣接エッジＥ９の特徴量Ｆ（Ｅ９）（ｊ＝１の場合のみ）を畳み込んだ畳み込み演算結果Ｆ（Ｎ９）ｕｄで更新する。

【0023】

図５において、ｎｏｒｍａｌｉｚａｔｉｏｎ層５２２－ｊは、特徴量３０２毎の絶対値のばらつきを抑えるため、各ノードＮ、エッジＥ毎に、ＲＧＣＮ層５２１－ｊの畳み込み演算結果が平均値＝０、分散＝１となるように正規化する。

【0024】

図８は、ＲｅＬＵ層５２３－ｊの一例を示す説明図である。ＲｅＬＵ層５２３－ｊは、ｎｏｒｍａｌｉｚａｔｉｏｎ層５２２－ｊによる正規化結果８０１であるノードＮの更新後の特徴量３０２をＲｅＬＵ関数に入力し、ノードＮの更新後の特徴量３０２内の負の値を０に変換する。変換後の畳み込み演算結果８０２では、「－３」および「－１」が「０」に変換されている。ＲｅＬＵ関数を用いることで勾配消失が起きにくくなり、学習が進まなくなる問題が抑制される。

【0025】

図９は、ｄｒｏｐｏｕｔ層５２４－ｊの一例を示す説明図である。図９では、ノードＮ８～Ｎ１０を例に挙げて説明するが、ノードＮ１～Ｎ７についても同様である。ｄｒｏｐｏｕｔ層５２４－ｊは、ノードＮが持つ特徴量３０２のうち、一定の割合で特徴量３０２の値を０に置換する。この割合はハイパーパラメタの１つとなる。図９では、ノードＮ８の特徴量Ｆ（Ｎ８）、ノードＮ９の特徴量Ｆ（Ｎ９）、およびノードＮ１０の特徴量Ｆ（Ｎ１０）がそれぞれ特徴量Ｆ（Ｎ８）ｕｄ、特徴量Ｆ（Ｎ９）ｕｄ、およびノードＮ１０の特徴量Ｆ（Ｎ１０）ｕｄに更新される。

【0026】

図１０は、ｍａｘ層５２５－ｊの一例を示す説明図である。図１０では、ノードＮ８を例に挙げて説明する。ノードＮ８および隣接ノードＮ７、Ｎ９およびＮ１０のそれぞれのｄｒｏｐｏｕｔ層５２４－ｊからの出力結果を、特徴量Ｆ（Ｎ８）、Ｆ（Ｎ７）、Ｆ（Ｎ９）およびＦ（Ｎ１０）とする。ｍａｘ層５２５－ｊは、学習パラメータである重みＷ（Ｎ８）、Ｗ（Ｎ７）、Ｗ（Ｎ９）およびＷ（Ｎ１０）と、特徴量Ｆ（Ｎ８）、Ｆ（Ｎ７）、Ｆ（Ｎ９）およびＦ（Ｎ１０）との畳み込み演算により、畳み込み演算結果ＣＲ（Ｎ８）、ＣＲ（Ｎ７）、ＣＲ（Ｎ９）およびＣＲ（Ｎ１０）を得る。図１０では、これらを３次元ベクトルで表記する。

【0027】

ｍａｘ層５２５－ｊは、畳み込み演算結果ＣＲ（Ｎ８）、ＣＲ（Ｎ７）、ＣＲ（Ｎ９）およびＣＲ（Ｎ１０）の同次元の因子の最大値ベクトルを生成し、ノードＮ８の更新後の特徴量Ｆ（Ｎ８）ｕｄとする。

【0028】

図１１は、ＧＣＮ層５０２－１～５０２－ｍとｃｏｎｃａｔ層５０３とで構成されるＪＫ－Ｎｅｔ（Ｊｕｍｐｉｎｇ Ｋｎｏｗｌｅｄｇｅ Ｎｅｔｗｏｒｋ）の接続関係を示す説明図である。ＧＣＮ層５０２－１～５０２－（ｍ－１）はそれぞれ、後段のＧＣＮ層５０２－２～５０２－ｍおよびｃｏｎｃａｔ層５０３に、畳み込み演算で得られたノードＮの特徴量Ｆ（Ｎ）－１～Ｆ（Ｎ）－（ｍ－１）を出力する。ＧＣＮ層５０２－ｍは、ｃｏｎｃａｔ層５０３に、畳み込み演算で得られたノードＮの特徴量Ｆ（Ｎ）－ｍを出力する。ｃｏｎｃａｔ層５０３は、特徴量Ｆ（Ｎ）－１～Ｆ（Ｎ）－ｍを結合する。

【0029】

図１２は、ＭＬＰ層５０４およびソフトマックス層５０５の一例を示す説明図である。ＭＬＰ層５０４は、ｃｏｎｃａｔ層５０３からの出力結果から推測値をノードＮごとに算出する。ソフトマックス層５０５は、ＭＬＰ層５０４からの出力結果をソフトマックス関数に入力することにより、０～１の確率値を推測値３０３として算出する。

【0030】

図１２において、（Ａ）は２クラス分類、（Ｂ）は４クラス分類、（Ｃ）は回帰を示す。（Ａ）～（Ｃ）において、ＭＬＰ層５０４は、ｃｏｎｃａｔ層５０３での結合結果を入力する。（Ａ）および（Ｂ）において、ＭＬＰ層５０４は、最終段の演算結果をソフトマックス層５０５に入力する。ソフトマックス層５０５は、（Ａ）２クラス分類の場合、０～１の値を推測値３０３（Ｙ）としてノードＮごとに出力し、（Ｂ）４クラス分類の場合、推測値Ｙとして４次元ベクトルを出力する。この４次元ベクトルの各値は、０～１の値で、かつ、４つの値の合計は１である。（Ｃ）回帰の場合、ソフトマックス層５０５は、ソフトマックス層５０５を介さずに予測結果を示す推測値３０３（Ｙ）を出力する。

【0031】

ここで、ノードＤＢ３００の推測値３０３および貢献度３０４について補足する。情報表示装置１００は、ＧＣＮモデル５００により、ノードＮの推測値３０３に対する各ノードＮの貢献度３０４を示すＳＨＡＰ（ＳＨａｐｌｅｙ Ａｄｄｉｔｉｖｅ ｅｘＰｌａｎａｔｉｏｎｓ）値をノードＮの特徴量３０４ごとに算出する。またエッジＥが特徴量を持つ場合には、エッジＥの特徴量ごとの貢献度を算出する。情報表示装置１００は、入力グラフ２００のＧＣＮモデル５００への入力に先立って、ＧＣＮモデル５００の中間層の層数、具体的には、たとえば、ＧＣＮ層５０２－ｊの層番号ｊの指定を、ユーザ操作により受け付ける。情報表示装置１００は、ＧＣＮ層５０２－１から、指定された層番号ｊのＧＣＮ層５０２－ｊまでを用いて、推測値３０３および貢献度３０４をノードＮの特徴量ごとに算出する。

【0032】

情報表示装置１００は、層番号ｊの指定による推測値３０３の演算を事前に行って、推測値３０３および貢献度３０４をノードＤＢ３００に格納しておく。具体的には、たとえば、情報表示装置１００は、ＧＣＮ層５０２－１の場合の重みフィルタによる推測値３０３および貢献度３０４、ＧＣＮ層５０２－１～５０２－２の場合のの重みフィルタによる推測値３０３および貢献度３０４、ＧＣＮ層５０２－１～５０２－３の場合の重みフィルタによる推測値３０３および貢献度３０４、…、ＧＣＮ層５０２－１～５０２－ｊの場合の重みフィルタによる推測値３０３および貢献度３０４、…、ＧＣＮ層５０２－１～５０２－ｍの場合の重みフィルタによる推測値３０３および貢献度３０４を、ノードＤＢ３００に格納しておく。

【0033】

その後、ユーザから、ノードＮの推測値３０３および貢献度３０４についての表示指示を受け付けると、情報表示装置１００は、ノードＤＢ３００に格納されたノードＮの推測値３０３および貢献度３０４を参照して、ノードＮの推測値３０３および貢献度３０４に関する情報を表示する。なお、以下では、ノードＮの貢献度３０４を１次元の数値としているが、実際にはノードＮの貢献度３０４は特徴量３０２の次元と同じだけ次元を持つ。必要に応じてユーザは、特徴量３０２の特定の次元の数値を選択する、あるいは、全ての次元の総和をとる、など、あらかじめノードＮが持つ特徴量３０２を１次元の集約する方法を指定することができる。

【0034】

ただし、情報表示装置１００は、ノードＮの推測値３０３および貢献度３０４についての表示指示を受け付けたタイミングで、ユーザから指定された層番号ｊまでのＧＣＮ層５０２－ｊを用いて、ノードＮの推測値３０３および貢献度３０４を算出し、算出したノードＮの推測値３０３および貢献度３０４に関する情報を表示してもよい。

【0035】

＜グラフ表示例＞
図１３は、第１グラフ表示の一例を示す説明図である。第１グラフ表示は、表示画面１３００において、ユーザから指定されたノード（以下、指定ノード）Ｎの推測値３０３に対する各ノードＮの貢献度３０４を表示する例である。指定ノードＮに貢献するノードＮを貢献ノードＮと称す。なお、あるノードＮから１本のエッジＥで接続される他のノードＮまでの距離を１ホップと称す。層番号ｊが大きいほど、指定ノードＮの推測値３０３に対する貢献度３０４が得られるノードＮまでのホップ数も大きくなる。

【0036】

図１３中、矢印の始点側のノードＮが貢献ノードＮ２～Ｎ６、Ｎ８（自ノードＮ４含む）であり、矢印の終端側のノードＮが指定ノードＮ４である。図１３の例では、ノードＮ１、Ｎ７、Ｎ９、Ｎ１０の指定ノードＮ４に対する貢献度３０４の値は「０」であるため、矢印は表示されていない。貢献ノードＮ２～Ｎ６、Ｎ８の指定ノードＮ４に対する貢献度３０４の値Ｄ４２、Ｄ４３、Ｄ４４、Ｄ４５、Ｄ４６、Ｄ４８は、貢献ノードＮ２～Ｎ６、Ｎ８に関連付けて表示される。

【0037】

貢献度３０４の値Ｄ４２、Ｄ４３、Ｄ４４、Ｄ４５、Ｄ４６、Ｄ４８の合計が指定ノードＮ４の推測値３０３の値Ｙとなる。図１３では、貢献度３０４の値Ｄ４２、Ｄ４３、Ｄ４４、Ｄ４５、Ｄ４６、Ｄ４８を吹き出しで表示したが、情報表示装置１００は、ヒートマップにように色の強調によって表示してもよい。

【0038】

図１４は、第２グラフ表示の一例を示す説明図である。第２グラフ表示は、表示画面１４００において、各ノードＮの推測値３０３に対する指定ノードＮの貢献度３０４を表示する例である。指定ノードＮに貢献されるノードＮを被貢献ノードＮと称す。なお、図１４においても指定ノードＮをノードＮ４とする。

【0039】

図１４中、矢印の始点側のノードＮが指定ノードＮ４であり、矢印の終端側のノードＮが被貢献ノードＮ２～Ｎ６、Ｎ８（自ノードＮ４含む）である。図１４の例では、指定ノードＮ４のノードＮ１、Ｎ７、Ｎ９、Ｎ１０に対する貢献度３０４の値は「０」であるため、矢印は表示されていない。指定ノードＮ４の被貢献ノードＮ２～Ｎ６、Ｎ８に対する貢献度３０４の値Ｄ２４、Ｄ３４、Ｄ４４、Ｄ５４、Ｄ６４、Ｄ８４は、被貢献ノードＮ２～Ｎ６、Ｎ８への矢印に関連付けて表示される。

【0040】

貢献度３０４の値Ｄ２４、Ｄ３４、Ｄ４４、Ｄ５４、Ｄ６４、Ｄ８４はそれぞれ、被貢献ノードＮ２～Ｎ６、Ｎ８の各推測値３０３の値Ｙの一部となる。図１４では、貢献度３０４の値Ｄ２４、Ｄ３４、Ｄ４４、Ｄ５４、Ｄ６４、Ｄ８４を吹き出しで表示したが、情報表示装置１００は、ヒートマップにように色の強調によって表示してもよい。

【0041】

また、図１３および図１４において、ノードＮの種別がノードＤＢ３００に登録されている場合、情報表示装置１００は、ノードＮの種別ごとに色が異なるように表示してもよい。

【0042】

図１５は、情報表示装置１００によるグラフ表示処理手順例を示すフローチャートである。情報表示装置１００は、ユーザの入力デバイス１０３の操作により、表示方法の選択を受け付ける（ステップＳ１５０１）。情報表示装置１００は、ユーザの入力デバイス１０３の操作により、ＧＣＮ層ＧＣＮの層番号ｊの入力を受け付ける（ステップＳ１５０２）。情報表示装置１００は、ユーザの入力デバイス１０３の操作により、ノードの指定を受け付ける（ステップＳ１５０３）。なお、ステップＳ１５０１～Ｓ１５０３は順不同でよい。

【0043】

情報処理装置は、ステップＳ１５０１で選択された表示方法が、第１グラフ表示（図１３を参照）であるか、第２グラフ表示（図１４を参照）であるかを判断する（ステップＳ１５０４）。ステップＳ１５０１で選択された表示方法が、第１グラフ表示である場合（ステップＳ１５０４：第１）、情報表示装置１００は、ステップＳ１５０２で入力した層番号ｊに対応し、かつ、指定ノードＮの推測値３０３に対する各ノードＮの貢献度３０４を取得する（ステップＳ１５０５）。貢献度３０４の取得とは、ノードＤＢ３００からの読出しでもよく、ＧＣＮＮ５００による算出でもよい。そして、情報表示装置１００は、図１３に示したような第１グラフ表示を実行する（ステップＳ１５０６）。

【0044】

また、ステップＳ１５０１で選択された表示方法が、第２グラフ表示である場合（ステップＳ１５０４：第２）、情報表示装置１００は、ステップＳ１５０２で入力した層番号ｊに対応し、かつ、各ノードＮの推測値３０３に対する指定ノードＮの貢献度３０４を取得する（ステップＳ１５０７）。そして、情報表示装置１００は、図１４に示したような第２グラフ表示を実行する（ステップＳ１５０８）。これにより、グラフ表示処理が終了する。

【0045】

図１６は、第１グラフ表示の他の例を示す説明図であり、図１７は、第２グラフ表示の他の例を示す説明図である。図１６は、棒グラフ１６００により、指定ノードＮ４の推測値３０３に対する各ノードＮ２～Ｎ６、Ｎ８の貢献度３０４の値Ｄ４２，Ｄ４３，Ｄ４４，Ｄ４５，Ｄ４６，Ｄ４８を表示する例である。図１７は、棒グラフ１７００により、各ノードＮ２～Ｎ６、Ｎ８の推測値３０３に対する指定ノードＮ４の貢献度３０４の値Ｄ２４，Ｄ３４，Ｄ４４，Ｄ５４，Ｄ６４，Ｄ８４を表示する例である。

【0046】

また、図１６および図１７において、ノードＮの種別がノードＤＢ３００に登録されている場合、情報表示装置１００は、ノードＮの種別ごとに棒の色が異なるように表示してもよい。

【実施例0047】

つぎに、実施例２について説明する。実施例２では、実施例１との相違点について説明する。実施例２では、プーリングにより入力グラフ２００を、あるノードＮとその近隣ノードＮとを、あるまとまったノード群としてグループ化することで縮小化する。

【0048】

図１８は、実施例２にかかるＧＣＮＮの一例を示す説明図である。実施例２では、ｄｒｏｐｏｕｔ層５２４－ｊとｍａｘ層５２５－ｊとの間に、ｐｏｏｌｉｎｇ層１８２１－ｊを配置したＧＣＮ層１８０２－ｊを有するＧＣＮＮ１８００が用いられる。

【0049】

図１９は、ｐｏｏｌｉｎｇ層１８２１－ｊの一例を示す説明図である。まず、ｐｏｏｌｉｎｇ層１８２１－ｊは、（Ａ）エッジＥごとにエッジＥの特徴量を算出する。エッジＥ１０を例に挙げると、ｐｏｏｌｉｎｇ層１８２１－ｊは、エッジＥ１０の両端のノード８、Ｎ１０の特徴量Ｆ（Ｎ８）、Ｆ（Ｎ１０）と学習パラメータＷ（Ｎ８）、Ｗ（Ｎ１０）との畳み込み演算により、エッジＥ１０の特徴量Ｆ（Ｅ１０）を算出する。特徴量Ｆ（Ｅ１０）の値を「７」とする。他のエッジＥ１～Ｅ９についても同様に算出される。

【0050】

つぎに、ｐｏｏｌｉｎｇ層１８２１－ｊは、エッジＥの特徴量Ｆ（Ｅ）がしきい値（例として「５」）以下のエッジＥで分断して、ノードＮをグループ分けする。これにより、ノードＮ２，Ｎ３がノード群Ｇ１、ノードＮ４，Ｎ５がノード群Ｇ２、ノードＮ６，Ｎ７がノード群Ｇ３、ノードＮ８～Ｎ１０がノード群Ｇ４となる。

【0051】

そして、ｐｏｏｌｉｎｇ層１８２１－ｊは、ノード群Ｇごとに特徴量のプーリングを実行する。ノード群Ｇ４を例に挙げると、ノード群Ｇ４内のノードＮ８～Ｎ１０の特徴量Ｆ（Ｎ８）～Ｆ（Ｎ１０）を加算して、ノード群Ｇ４の特徴量Ｆ（Ｇ４）を出力する。他のノード群Ｇ１～Ｇ３についても同様である。なお、ノードＮ１は、どのノード群Ｇ１～Ｇ４にも属さないノードＮである。

【0052】

図２０は、実施例２にかかるＧＣＮ層１８０２－１～１８０２－ｍとｃｏｎｃａｔ層５０３との接続関係を示す説明図である。図２０では、例として、ノードＮ９に着目し、ｊ＝４とする。また、ｍａｘ層５２５－ｊの処理については省略する。ＧＣＮ層１８０２－１～１８０２－４はプーリングを実行する。

【0053】

具体的には、たとえば、ＧＣＮ層１８０２－１は、ノードＮ９の特徴量Ｆ（Ｎ９）をｃｏｎｃａｔ層５０３に出力し、図１９に示したように、ノード群Ｇ４の特徴量Ｆ（Ｇ４）を算出する。ＧＣＮ層１８０２－２は、ノード群Ｇ４の特徴量Ｆ（Ｇ４）をｃｏｎｃａｔ層５０３に出力し、ノード群Ｇ４０を生成してその特徴量Ｆ（Ｇ４０）を算出する。ＧＣＮ層１８０２－３は、ノード群Ｇ４０の特徴量Ｆ（Ｇ４０）をｃｏｎｃａｔ層５０３に出力し、ノード群Ｇ４００を生成してその特徴量Ｆ（Ｇ４００）を算出する。ＧＣＮ層１８０２－４は、ノード群Ｇ４００の特徴量Ｆ（Ｇ４００）をｃｏｎｃａｔ層５０３に出力する。

【0054】

ｃｏｎｃａｔ層５０３は、特徴量Ｆ（Ｎ９）、特徴量Ｆ（Ｇ４）、特徴量Ｆ（Ｇ４０）および特徴量Ｆ（Ｇ４００）を結合して、ノードＮ９の更新後の特徴量Ｆ（Ｎ９）ｕｄを生成する。

【0055】

なお、ＧＣＮ層１８０２－１～１８０２－４の各々のプーリング結果であるノード群については、ノードＮのエントリと同様、ノードＤＢ３００およびエッジＤＢ４００に格納される。また、各ノードＮがどのＧＣＮ層１８０２－ｊまでのプーリングにより、どのノード群に所属するかといった所属情報も、ノードＤＢ３００に格納されるものとする。

【0056】

ノードＮ９を指定ノードＮとした場合、ＧＣＮ層１８０２－２まで演算すると、情報表示装置１００は、ノード群Ｇ４内のノードＮが、ノード群Ｇ４外の他ノードＮに比べて、ノードＮ９と強い関係がある関連ノードＮとして表示可能に出力する。また、ＧＣＮ層１８０２－３まで演算すると、情報表示装置１００は、ノード群Ｇ４０内のノードＮが、ノード群Ｇ４０外の他ノードＮに比べて、ノードＮ９と強い関係がある関連ノードＮとして表示可能に出力する。また、ＧＣＮ層１８０２－４まで演算すると、情報表示装置１００は、ノード群Ｇ４００内のノードＮが、ノード群Ｇ４００外の他ノードＮに比べて、ノードＮ９と強い関係がある関連ノードＮとして表示可能に出力する。

【0057】

このように、各ｐｏｏｌｉｎｇ層１８２１－ｊの特徴をｃｏｎｃａｔ層５０３で結合することにより、ノードＮの更新後の特徴量は、ノードＮ個別の特徴と、近隣ノードＮを含めた特徴と、より広い範囲の特徴と、入力グラフ２００全体の特徴と、を含む。したがって、実施例１に比べて、指定ノードＮの推測値３０３に貢献する貢献ノードＮをより広範囲に特定することができ、指定ノードＮの貢献度３０４で貢献される被貢献ノードＮをより広範囲に特定することができる。