(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-08-07
(45)【発行日】2023-08-16
(54)【発明の名称】潜在グラフを生成してグラフ変数を推定するモデル、プログラム及び装置、並びに当該モデルの生成方法
(51)【国際特許分類】
G06N 3/04 20230101AFI20230808BHJP
G06Q 50/00 20120101ALI20230808BHJP
【FI】
G06N3/04 100
G06Q50/00 300
(21)【出願番号】P 2020018690
(22)【出願日】2020-02-06
【審査請求日】2022-04-20
【新規性喪失の例外の表示】特許法第30条第2項適用 令和元年11月20日ウインクあいちにおいて開催された第22回情報論的学習理論ワークショップ(IBIS 2019)で公開
(73)【特許権者】
【識別番号】000208891
【氏名又は名称】KDDI株式会社
(73)【特許権者】
【識別番号】508354533
【氏名又は名称】Unipos株式会社
(74)【代理人】
【識別番号】100135068
【氏名又は名称】早原 茂樹
(74)【代理人】
【識別番号】100141313
【氏名又は名称】辰巳 富彦
(72)【発明者】
【氏名】小西 達也
(72)【発明者】
【氏名】黒川 茂莉
(72)【発明者】
【氏名】水谷 優斗
【審査官】多賀 実
(56)【参考文献】
【文献】特開2019-128603(JP,A)
【文献】特開2011-243113(JP,A)
【文献】大知 正直 ほか,「異種ネットワーク上のノードエンベッディング法による萌芽的研究分野特定のための分散表現抽出」,人工知能学会全国大会論文集 第33回全国大会(2019) [online],一般社団法人人工知能学会,2019年06月,セッションID:1K3-J-4-03, pp.1-4,[2019年7月1日 検索], インターネット:<URL:https://www.jstage.jst.go.jp/article/pjsai/JSAI2019/0/JSAI2019_1K3J403/_pdf/-char/ja>
(58)【調査した分野】(Int.Cl.,DB名)
G06N 3/00-99/00
G06Q 50/00
(57)【特許請求の範囲】
【請求項1】
互いに異なる複数のグラフについて、それぞれに係る複数のグラフ情報のいずれかを入力とし、潜在グラフに係る潜在グラフ情報を生成して出力する潜在グラフ生成手段と、
当該潜在グラフ情報を入力とし、前記潜在グラフ生成手段に入力されたグラフ情報に係るグラフについての目的変数を推定するグラフ変数推定手段と
してコンピュータを機能させ、
前記潜在グラフ生成手段及び前記グラフ変数推定手段は、当該複数のグラフの各々のグラフ情報に係る学習データによって学習されている
ことを特徴とするグラフ変数推定モデル。
【請求項10】
請求項1から9のいずれか1項に記載されたグラフ変数推定モデルを用いて、入力され
たグラフ情報から、当該グラフ情報に係るグラフについての目的変数を推定するグラフ変
数推定手段としてコンピュータを機能させることを特徴とするグラフ変数推定プログラム。
【請求項12】
互いに異なる複数のグラフについて、それぞれに係る複数のグラフ情報のいずれかを入力として潜在グラフに係る潜在グラフ情報を生成し出力するための潜在グラフ生成手段の出力側に、当該潜在グラフ情報を入力として前記潜在グラフ生成手段に入力されたグラフ情報に係るグラフについての目的変数を推定するためのグラフ変数推定手段を接続するステップと、
当該複数のグラフの各々のグラフ情報に係る学習データによって、前記潜在グラフ生成手段及び前記グラフ変数推定手段の学習を行うステップと
を有することを特徴とするコンピュータにおけるグラフ変数推定モデルの生成方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、グラフの構造から当該グラフに係る情報を推定する技術に関する。
【背景技術】
【0002】
近年、SNS(Social Networking Service)といったようなユーザ間のコミュニケーションを目的とするコミュニティ内ネットワークが様々な場所や環境で普及している。またそれに伴い、各ネットワークにおける利用状況、例えば所定のアクションが実施された割合やユーザの定着率等を正確に把握し、当該ネットワークの維持・管理や改良・改善に役立てたいとのニーズが少なからず存在している。
【0003】
例えば、Unipos株式会社の提供する"Unipos"サービスは、従業員同士が、日頃の仕事の成果や行動に感謝・賞賛するメッセージとともに,ポイントを送り合えるWebサービスである。具体的には非特許文献1に開示されているように、「カード」「拍手」で組織内の賞賛を表現可能なコミュニティ内ネットワークを提供するものとなっており、当該ネットワークの利用状況を正確に把握することは、コミュニティの活性化・目標達成にも役立つものとなる。
【0004】
ここでこのようなネットワークは、複数のノード(節点)とこれらをリンクさせるエッジ(辺)とから構成されるグラフによって表現可能である。すなわち、会社や学校といったような複数の組織のそれぞれに設けられたコミュニティ内ネットワークは、互いに異なる複数のドメインにおけるグラフとして把握することができる。
【0005】
したがって、このようなネットワークを表現するグラフについての機械学習モデルを構築すれば、当該モデルを用いて、当該ネットワークにおける所定の目的変数(例えばユーザの投稿率や離脱率)を推定することも可能となるのである。ただし、特にグラフが所定のドメインに限定されたものである場合、このような機械学習モデルの構築に必要となる十分な量の学習データを如何に確保するかが従来、大きな問題となってきた。
【0006】
このようなドメインに係るグラフ特有の問題に対処する技術として、例えば非特許文献2は、互いにノードを部分的に共有する複数のグラフについて、各グラフにおける周囲のノードとのリンクの有無から、同一のノードが紐づけられる処理を実施可能にする技術を開示している。
【先行技術文献】
【非特許文献】
【0007】
【文献】Unipos株式会社,「貢献を見える化し組織を強くする ピアボーナス「Unipos」」,[令和2年1月21日検索],インターネット<URL: https://unipos.me/ja/>
【文献】Fanjin Zhang, et al., “OAG: Toward Linking Large-scale Heterogeneous Entity Graphs”, KDD’19 Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining, pp.2585-2595, 2019年
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかしながら、上記の非特許文献2に記載されたような従来技術をもってしても依然、必要とされるだけの学習データを確保することの困難な場合が多数存在し、この場合、モデルによる最終的な推定性能を十分に高めることのできない問題が生じていた。
【0009】
特に、他のグラフとの間でノードが全く共有されない、又は共有されるノードの割合が極端に低い、いわゆるヘテロ性の高いグラフにおいては、互いにノードを部分的に共有するグラフを前提とした非特許文献2に記載の技術をもってしても、ノードの対応付けができない又は有効に実施されない状況に対処することはできない。
【0010】
したがって、このようなヘテロ性の高いグラフにおける目的変数を推定するモデルを構築する際には、当該グラフについての個別のデータを用いるしかなく、すなわちドメイン毎にモデルを学習させるしかないので、結局、学習に利用可能なデータ数やパターン数が制限され、学習データ量の不足によって高精度な予測モデルが構築困難となる問題が生じていたのである。
【0011】
そこで、本発明は、他のグラフとの間のノード共有に依存せずに、1つのグラフに係るデータに限定されない学習データを利用可能とするグラフ変数推定モデル、グラフ変数推定装置、及び当該モデルの生成方法を提供することを目的とする。
【課題を解決するための手段】
【0012】
本発明によれば、
互いに異なる複数のグラフについて、それぞれに係る複数のグラフ情報のいずれかを入力とし、潜在グラフに係る潜在グラフ情報を生成して出力する潜在グラフ生成手段と、
当該潜在グラフ情報を入力とし、潜在グラフ生成手段に入力されたグラフ情報に係るグラフについての目的変数を推定するグラフ変数推定手段と
してコンピュータを機能させ、
潜在グラフ生成手段及びグラフ変数推定手段は、当該複数のグラフの各々のグラフ情報に係る学習データによって学習されている
ことを特徴とするグラフ変数推定モデルが提供される。
【0013】
この本発明のグラフ変数推定モデルにおける一実施形態として、潜在グラフ生成手段は、互いに異なる複数の潜在グラフのそれぞれに係る複数の潜在グラフ情報を、それぞれ生成して出力する複数の潜在グラフ生成部を含み、
グラフ変数推定手段は、入力として取り込んだ当該複数の潜在グラフ情報、又は当該複数の潜在グラフ情報のそれぞれから生成された複数の中間情報を結合する結合部を有することも好ましい。また、上記の実施形態において、当該複数の潜在グラフは、互いに異なる潜在ノードを含むグラフであることも好ましい。
【0014】
さらに、本発明のグラフ変数推定モデルにおいて、潜在グラフ生成手段は、当該潜在グラフのノードに係る潜在ノード情報を含む潜在グラフ情報を生成して出力することも好ましい。また、当該潜在グラフのエッジに係る潜在エッジ情報を含む潜在グラフ情報を生成して出力することも好ましい。さらにここで、当該潜在エッジ情報は、当該潜在グラフの各エッジに係る値を行列成分とする行列に係る情報であることも好ましい。
【0015】
また、本発明のグラフ変数推定モデルにおける他の実施形態として、潜在グラフ生成手段は、Nを2以上の整数として、第1の潜在グラフ生成段から第Nの潜在グラフ生成段までのN個の潜在グラフ生成段が順次連結したものであり、
各潜在グラフ生成段は、互いに異なる複数の潜在グラフのそれぞれに係る複数の潜在グラフ情報を、それぞれ生成して出力する複数の潜在グラフ生成部を含み、
nを2以上であってN以下の整数として、第nの潜在グラフ生成段の各潜在グラフ生成部は、第(n-1)の潜在グラフ生成段の複数の潜在グラフ生成部からの複数の潜在グラフ情報を入力として、自らに係る潜在グラフ情報を生成して出力し、
グラフ変数推定手段は、第Nの潜在グラフ生成段から入力として取り込んだ複数の潜在グラフ情報、又は当該複数の潜在グラフ情報のそれぞれから生成された複数の中間情報を結合する結合部を有することも好ましい。
【0016】
さらに、本発明のグラフ変数推定モデルにおいて、潜在グラフ生成手段に入力されるグラフ情報は、このグラフ情報に係るグラフの各エッジに係る値を行列成分とする行列に係る情報であることも好ましい。
【0017】
また、本発明のグラフ変数推定モデルにおける具体例として、当該グラフは、コミュニケーションツールをもって形成されるネットワークを表現したものであり、当該グラフのノードはコミュニケーション主体に係る情報であって、当該グラフのエッジは、当該コミュニケーション主体間のコミュニケーションに係る情報であり、当該目的変数は、潜在グラフ生成手段に入力されたグラフ情報に係るグラフによって表現されたネットワークにおける当該コミュニケーション主体の活動の程度又は状況を示す値をとる変数であることも好ましい。
【0018】
本発明によれば、また、以上に述べたグラフ変数推定モデルを用いて、入力されたグラ
フ情報から、当該グラフ情報に係るグラフについての目的変数を推定するグラフ変数推定
手段としてコンピュータを機能させるグラフ変数推定プログラムが提供される。
【0019】
本発明によれば、また、以上に述べたグラフ変数推定モデルを用いて、入力されたグラフ情報から、当該グラフ情報に係るグラフについての目的変数を推定することを特徴とするグラフ変数推定装置が提供される。
【0020】
本発明によれば、さらに、互いに異なる複数のグラフについて、それぞれに係る複数のグラフ情報のいずれかを入力として潜在グラフに係る潜在グラフ情報を生成し出力するための潜在グラフ生成手段の出力側に、当該潜在グラフ情報を入力として潜在グラフ生成手段に入力されたグラフ情報に係るグラフについての目的変数を推定するためのグラフ変数推定手段を接続するステップと、
当該複数のグラフの各々のグラフ情報に係る学習データによって、潜在グラフ生成手段及びグラフ変数推定手段の学習を行うステップと
を有することを特徴とするコンピュータにおけるグラフ変数推定モデルの生成方法が提供される。
【発明の効果】
【0021】
本発明のグラフ変数推定モデル、グラフ変数推定装置、及び当該モデルの生成方法によれば、他のグラフとの間のノード共有に依存せずに、1つのグラフに係るデータに限定されない学習データを利用することができる。
【図面の簡単な説明】
【0022】
【
図1】本発明によるグラフ変数推定モデルを用いてグラフ変数推定処理を実施するグラフ変数推定装置の一実施形態を示す模式図である。
【
図2】グラフ変数推定処理対象であるグラフとコミュニティ内ネットワークとの関係を概略的に説明するための模式図である。
【
図3】本発明によるグラフ変数推定モデルにおける他の実施形態を示す模式図である。
【
図4】本発明によるグラフ変数推定モデルにおける更なる他の実施形態を示す模式図である。
【
図5】本発明によるグラフ変数推定モデルにおける更なる他の実施形態を示す模式図である。
【
図6】本発明によるグラフ変数推定モデルを用いて実際にグラフ変数推定処理を実施した実施例におけるグラフ変数推定結果を説明するためのグラフである。
【発明を実施するための形態】
【0023】
以下、本発明の実施形態について、図面を用いて詳細に説明する。
【0024】
[グラフ変数推定装置,グラフ変数推定モデル]
図1は、本発明によるグラフ変数推定モデルを用いてグラフ変数推定処理を実施するグラフ変数推定装置の一実施形態を示す模式図である。また、
図2は、グラフ変数推定処理対象であるグラフとコミュニティ内ネットワークとの関係を概略的に説明するための模式図である。
【0025】
図1に示した本実施形態のグラフ変数推定装置9は、
(a)所定のコミュニティ(例えば会社A)において所定のコミュニケーションツールをもって形成されるコミュニティ内ネットワーク(例えば会社A内のSNS(Social Networking Service))についての特徴的な情報、例えば全てのコミュニケーション主体(ユーザ)間における所定のアクション(例えば「いいね!」の送信)の実績に係る情報等
に基づいて、
(b)当該コミュニティ内ネットワークにおける「目的変数」であって、ネットワーク内のコミュニケーション主体(ユーザ)の活動の程度又は状況を示す値をとる所定の「目的変数」(例えば投稿率、ユーザ離脱率・定着率や、所定のアクションの実施率等)
を推定する装置であり、具体的には、
(c)本発明によるグラフ変数推定モデル1を用いて、当該コミュニケーションツールの利用における活動の程度又は状況に係る目的変数を推定する。
【0026】
また同じく
図1に示した本実施形態のグラフ変数推定モデル1は、上記の所定のコミュニティを含めた複数のコミュニティ(例えば会社A,B,C,・・・)のそれぞれにおける複数のコミュニティ内ネットワーク(例えば会社A,B,C,・・・内のSNS)のそれぞれについての特徴的な情報と、対応する正解の目的変数値とを含む学習データによって構築されている。
【0027】
具体的には、
図2に示したように、複数のコミュニティA,B,C,・・・において、
(a)当該コミュニティ内ネットワーク(C
A,C
B,C
C)を、それぞれグラフA,グラフB,グラフC,・・・として表現し、
(b)当該グラフ(A,B,C,・・・)のノードは、コミュニケーション主体(例えばコミュニティ内ネットワークC
Aならば、ユーザA1,ユーザA2,・・・)に係る情報であって、
(c)当該グラフのエッジは、コミュニケーション主体間(例えばコミュニティ内ネットワークC
Aならば、ユーザA1とユーザA2の間等)の所定のアクション等のコミュニケーションに係る情報であるとする。
【0028】
また本実施形態においては、複数のコミュニティ内ネットワークの間において、コミュニケーション主体(ユーザ)の重複が無く又は極めて少数しか存在せず、したがって、これらのネットワークを表現する複数のグラフはいずれも、他のグラフとの間でノードが全く共有されない、又は共有されるノードの割合が極端に低い、いわゆるヘテロ性の高いグラフであるとする。ちなみに、以下に説明する本発明に係るグラフ変数推定処理は勿論、ヘテロ性のない又は低いグラフ、すなわち所定以上のノード共有が存在するグラフに対しても、適用可能となっている。
【0029】
図1に戻って、このような状況・設定の下で、グラフ変数推定モデル1はその特徴として、
(A)互いに異なる複数のグラフについて、それぞれに係る複数の「グラフ情報」のいずれかを入力とし、潜在グラフに係る「潜在グラフ情報」を生成して出力する潜在グラフ生成手段(
図1では潜在グラフ生成レイヤ11)と、
(B)「潜在グラフ情報」を入力とし、潜在グラフ生成手段(潜在グラフ生成レイヤ11)に入力された「グラフ情報」に係るグラフについての「目的変数」を推定するグラフ変数推定手段(
図1ではグラフ変数推定レイヤ12)と
を有し、
(C)潜在グラフ生成手段(潜在グラフ生成レイヤ11)及びグラフ変数推定手段(グラフ変数推定レイヤ12)は、当該複数のグラフの各々の「グラフ情報」に係る学習データによって学習されている
ことを特徴とする。
【0030】
ここで、上記構成(A)の「グラフ情報」は本実施形態において、このグラフ情報に係るグラフが表現しているコミュニティ内ネットワークについての特徴的な情報(例えば全てのユーザ間における所定のアクション(例えば"Unipos"サービスにおける「カード」や「拍手」の送信)の実績に係る情報等)を表現したものであり、一例として、このグラフ情報に係るグラフにおける各エッジに係る値を行列成分とする隣接行列とすることができる。
【0031】
このようにグラフ変数推定モデル1は、入力される「グラフ情報」から「潜在グラフ情報」を生成し、それにより「目的変数」を推定可能なモデルとなっているが、その構築(学習)においては、推定時に入力される「グラフ情報」に係るグラフに限定されず、それを含めた(又はそれを含まないでもよいが)複数のグラフに係る学習データによって構築(学習)されるのである。
【0032】
すなわち、後述するようにグラフ間で共有される「潜在グラフ情報」が生成されるので、本実施形態のようにこれら複数のグラフの各々がヘテロ性の高いグラフとなっている場合でも、グラフ変数推定モデル1は、これら複数のグラフに係る学習データによって構築(学習)可能となっている。言い換えると、他のグラフとの間のノード共有が存在するか否かに依存せずに、1つのグラフに係るデータに限定されない学習データを利用することができるのである。またその結果、グラフ変数推定モデル1の構築(学習)の際には、高いモデル推定性能を実現するのに十分な量の学習データを確保することが、より容易になるのである。
【0033】
この点、従来は、ヘテロ性の高い複数のグラフが存在していても、いずれのグラフも他のグラフとの間でノードを(ほとんど)共有していないので、結局、各グラフのデータのみを用いてグラフ毎に個別の推定モデルを構築(学習)するしかなく、学習データ不足の問題が生じていた。これに対し、本実施形態のグラフ変数推定モデル1は、ノードの(ほとんど)共有されない複数のグラフ間においてグラフの特徴量表現を共有するための機構である潜在グラフ生成手段を備えているので、上記の問題を解決又は大幅に改善するのである。
【0034】
さらに、グラフ変数推定モデル1では、互いに異なる複数のグラフの特徴を部分的に写像する潜在グラフ(潜在ノード,潜在エッジ)を仮定し、グラフの情報から「潜在グラフ情報」(潜在ノード情報,潜在エッジ情報)への写像関数の学習を、複数のグラフの各々について実施することによって、互いに異なる複数のグラフを潜在的に紐づけつつ推定モデル全体の学習処理を効率的に進めることが可能となっている。
【0035】
特に本実施形態においては、ノードを(ほとんど)共有しないヘテロ性の高い複数のグラフから、潜在グラフ(潜在ノード,潜在エッジ)への写像関数を学習させ、さらに潜在グラフから「目的変数」への写像関数を定義することによって、これらのヘテロ性の高いグラフにおいて、潜在グラフ(潜在ノード,潜在エッジ)を共有させ、この潜在的な共有関係を利用したグラフ変数推定モデル1を、効率的且つ効果的に構築(学習)させることが可能となるのである。
【0036】
またさらに、
図1に示したグラフ変数推定モデル1においては、その好適な実施形態として、
(A’)潜在グラフ生成手段(潜在グラフ生成レイヤ11)が、互いに異なる複数の潜在グラフのそれぞれに係る複数の「潜在グラフ情報」を、それぞれ生成して出力する複数の潜在グラフ生成部(11a,11b,11c,・・・)を含み、
(B’)グラフ変数推定手段(グラフ変数推定レイヤ12)が、入力として取り込んだ複数の「潜在グラフ情報」、又はこれら複数の「潜在グラフ情報」のそれぞれから生成された複数の中間情報を結合する結合部122を有している。
【0037】
ここで、複数の「潜在グラフ情報」はそれぞれ、互いに異なる複数の潜在グラフ(例えば互いに異なる数の潜在ノードを含む複数の潜在グラフ)に係る情報となっている。このように、この好適な実施形態でのグラフ変数推定モデル1においては、その中間での処理として、入力された「グラフ情報」を一先ず、互いに異なる(例えば潜在ノード数の異なる)複数の潜在グラフの各々へ集約して(各潜在ノード数を反映した結果としての)特徴を抽出し、次いで、これらの特徴に相当する複数の「潜在グラフ情報」(又はそれらから生成される中間情報)を結合部で取りまとめて推定処理を行っている。
【0038】
したがって、入力された「グラフ情報」を、互いに異なる複数の潜在グラフに係る複数の「潜在グラフ情報」へ落とし込むので、この入力された「グラフ情報」が複数のグラフのうちのいずれに係る情報であっても、その特徴をより適切に捉えた「潜在グラフ情報」の生成される可能性が高まる。またその結果、複数のグラフのうちのいずれに係る「グラフ情報」が入力されても、最終的に高い精度で「目的変数」を推定することが可能となるのである。
【0039】
なお、グラフ変数推定モデル1の上記構成(A)~(C)は、当該モデルを実現する機械学習アルゴリズムを具現したプログラムの構成・構造を表現したものである。ここで本実施形態において適用されている機械学習アルゴリズムは、ニューラルネットワーク(NN,Neural Networks)であり、特に本技術分野において先進的とされていて推定精度の向上化に資するDNN(Deep Neural Networks)とすることができる。ただし当然に、グラフ変数推定モデル1を実現する機械学習アルゴリズムは、NN(DNN)に限定されるものではない。
【0040】
[モデル構成,装置構成]
同じく
図1によれば、グラフ変数推定モデル1は、グラフ変数推定装置9に搭載された本発明によるグラフ変数推定プログラムに取り込まれてグラフ変数推定処理の主要ステップを実行可能にするモデルであり、その構成要素として、
(a)入力部10と、
(b)潜在グラフ生成部(11a,11b,11c,・・・)を備えた潜在グラフ生成手段としての潜在グラフ生成レイヤ11と、
(c)第1グラフ変数推定部(121a,121b,121c,・・・)、結合部122及び第2グラフ変数推定部123を備えたグラフ変数推定手段としてのグラフ変数推定レイヤ12と
を有している。
【0041】
またこのうち、潜在グラフ生成部(11a,11b,11c,・・・)は各々、潜在ノード生成部(11an,11bn,11cn,・・・)及び潜在行列生成部(11ae,11be,11ce,・・・)を備えている。ここで、潜在グラフ生成部は1つだけ設定されてもよいが、本実施形態のように任意の2以上の数だけ設定されることも好ましい。
【0042】
同じく
図1において、グラフ変数推定装置9は、入力部91と、学習部92と、グラフ変数推定部93と、出力部94とを備えており、このうち学習部92及び
グラフ変数推定部93は、本発明によるグラフ変数推定プログラムの一実施形態を保存したプロセッサ・メモリの機能と捉えることができる。またこのことから、グラフ変数推定装置9は、グラフ変数推定の専用装置であってもよいが、本発明によるグラフ変数推定プログラムを搭載した、例えばクラウドサーバ、非クラウドのサーバ装置、パーソナル・コンピュータ(PC)、ノート型若しくはタブレット型コンピュータ、又はスマートフォン等とすることも可能である。
【0043】
以下、上述した各構成要素について説明を行う。最初に、入力部10は、互いに異なる複数のグラフのそれぞれに係る複数のグラフ情報のいずれかであって、その目的変数を推定したい推定対象としての「グラフ情報」を入力とし、この「グラフ情報」を、各潜在グラフ生成部(11a,11b,11c,・・・)へ出力する。
【0044】
ここで本実施形態では、「グラフ情報」として、このグラフ情報に係るグラフの各エッジに係る値を行列成分とする隣接行列を採用する。具体的にこの隣接行列として例えば、n個(nは2以上の整数)のノードを有するグラフにおいて、ノードi(i=1,・・・,n)とノードj(j=1,・・・,n)とをリンクするエッジeijの値(例えばノードi(j)からノードj(i)へ所定のアクションがあった場合に1,それ以外は0)を行列成分Mijとする行列M(={Mij|対角成分は0})を採用することができる。
【0045】
同じく
図1において、潜在グラフ生成レイヤ11は、入力部10から出力された(複数のグラフのうちの推定対象のグラフに係る)「グラフ情報」を入力とし、「潜在グラフ情報」を生成して出力する。本実施形態では、潜在グラフ生成レイヤ11における複数の潜在グラフ生成部(11a,11b,11c,・・・)が、いずれもこの「グラフ情報」を入力とし、互いに異なる複数の潜在グラフのそれぞれに係る複数の「潜在グラフ情報」を、それぞれ生成して出力する。
【0046】
すなわち、複数の潜在グラフ生成部(11a,11b,11c,・・・)は、例えば会社A,B,C,・・・のSNS_A,SNS_B,SNS_C,・・・を表現したグラフA,B,C,・・・についての隣接行列A,B,C,・・・のいずれかを入力とし、それぞれ潜在グラフ(潜在ノード,潜在エッジ(潜在隣接行列))a,b,c,・・・の特徴量である「潜在グラフ情報」を出力する写像関数として機能するのである。また、複数の潜在グラフ生成部(11a,11b,11c,・・・)のそれぞれに係る複数の潜在グラフa,b,c,・・・は、本実施形態において互いに異なる潜在ノードを含むグラフ、例えば互いにサイズ(潜在ノード数)の異なるグラフとなっている。
【0047】
さらに本実施形態では、
図1に示したように、このような複数の潜在グラフa,b,c,・・・の特徴量である「潜在グラフ情報」として、
(a)潜在ノードan,bn,cn,・・・の特徴量である「潜在ノード情報」、及び
(b)潜在エッジae,be,ce,・・・の特徴量である「潜在エッジ情報」
を、それぞれ生成する潜在ノード生成部(11an,11bn,11cn,・・・)及び潜在行列生成部(11ae,11be,11ce,・・・)が、各潜在グラフ生成部内に設けられている。なお本実施形態では、上記(b)の「潜在エッジ情報」として、潜在グラフの隣接行列(潜在隣接行列)で表現されたエッジの特徴量である「潜在行列情報」を採用している。
【0048】
ここで、潜在ノード生成部(11an,11bn,11cn,・・・)は、予め規定された個数の潜在ノードに係る特徴量であって予め規定された次元数の特徴量を出力するように設定されており、この出力が「潜在ノード情報」となるのである。また、潜在行列生成部(11ae,11be,11ce,・・・)は、潜在ノードの個数に合わせて規定された次元(例えば潜在ノードが5個ならば5×5)を有する隣接行列相当の特徴量を出力するように設定されており、この出力が「潜在エッジ情報(潜在行列情報)」となるのである。
【0049】
また、潜在ノード生成部及び潜在行列生成部のいずれか一方のみが設けられていて、「潜在グラフ情報」が「潜在ノード情報」及び「潜在エッジ情報(潜在行列情報)」のいずれか一方のみを含む形態をとることも可能である。
【0050】
さらに、以上に説明した潜在グラフ生成部(潜在ノード生成部,潜在行列生成部)は、NN、特にDNNで構成されていることも好ましい。これにより、グラフ変数推定モデル1における潜在グラフに関する設定変更、例えば潜在グラフ生成部の数の変更等も、比較的容易に実施可能となるのである。
【0051】
同じく
図1において、グラフ変数推定レイヤ12は、上述した複数の「潜在グラフ情報」を入力とし、潜在グラフ生成レイヤ11に入力された「グラフ情報」(隣接行列)に係るグラフについての「目的変数」を推定する。
【0052】
本実施形態において、このグラフ変数推定レイヤ12における複数の第1グラフ変数推定部(121a,121b,121c,・・・)はそれぞれ、複数の潜在グラフ生成部(11a,11b,11c,・・・)から出力される「潜在ノード情報」及び「潜在エッジ情報(潜在行列情報)」を入力とし、それらを結合(concatenate)して、中間情報としての「結合潜在グラフ情報」を出力する。
【0053】
次いで、グラフ変数推定レイヤ12の結合部122は、複数の第1グラフ変数推定部(121a,121b,121c,・・・)のそれぞれから出力される複数の「結合潜在グラフ情報」(中間情報)に対し、(concatenate、平均化や、最大値選択等を含む意味での)結合処理を行って、設定した全ての潜在グラフを反映した「統合潜在グラフ情報」を出力する。例えば非常に単純化したケースではあるが、潜在グラフが2つ設定されており、それぞれの「結合潜在グラフ情報」が[0, 1]及び[2, 3]である場合、結合部122の出力は、[0, 1, 2, 3]となる。その後、グラフ変数推定レイヤ12の第2グラフ変数推定部123は、この「統合潜在グラフ情報」を入力とし、設定された「目的変数」の推定値を出力するのである。
【0054】
このように、グラフ変数推定レイヤ12は、推定対象として当初モデル1へ入力された「グラフ情報」、例えば会社BのSNS_Bを表現したグラフBについての隣接行列B、から生成された複数の潜在グラフに係る複数の「潜在グラフ情報」に対し、(concatenate、平均化や、最大値選択等を含む意味での)結合処理を行い、例えば会社BのSNS_Bにおける所定の「目的変数」を出力する写像関数として機能するのである。
【0055】
ここで、推定すべき所定の「目的変数」は、当初モデル1へ入力された「グラフ情報」に係るコミュニティ内ネットワークにおけるコミュニケーション主体(ユーザ)の活動の程度又は状況を示す変数とすることができる。具体的にはこの「目的変数」として、例えば会社BのSNS_B全体における所定期間での投稿率(又は総投稿数)、ユーザ離脱率(又はユーザの総離脱人数)や、所定のアクション(例えば「いいね!」の送信)の実施率(又は総アクション実施回数)等を採用することができる。ちなみに、このような「目的変数」の推定値は、例えばコミュニティ全体の活性化指標として活用することも可能なものとなっている。
【0056】
また、他の態様の「目的変数」として、例えば会社BのSNS_Bにおける、ユーザ毎の投稿確率、ユーザ毎の離脱確率や、ユーザ毎の所定のアクション(例えば「いいね!」の送信)の実施確率を設定してもよい。
【0057】
なお、以上に説明したグラフ変数推定レイヤ(第1グラフ変数推定部,結合部,第2グラフ変数推定部)についても、NN、特にDNNで構成することができ、さらに言えば、GNN(Graph Neural Networks)を用いて構成することも好ましい。
【0058】
ここでGNNは、グラフ構造を直接取り扱い可能なDNNであり、その一例として、Attentionを導入してグラフの畳み込みを行うGraph Attention Networksが挙げられる。いずれにしてもこのようなNNで構成することにより、グラフ変数推定モデル1における潜在グラフに関する設定変更、例えば潜在グラフ生成部の数の変更等も、比較的容易に実施可能となるのである。
【0059】
<グラフ変数推定モデル1の構築(学習)>
以上
図1を用いて、グラフ変数推定モデル1の潜在グラフ生成レイヤ11及びグラフ変数推定レイヤ12における各機能構成要素について説明を行った。ここで、これらの構成は、上述したようにNN、特にDNNをもって構築可能であるが、この場合、モデル1全体は、エンドツーエンド(End-to-End)の学習処理によって構築されることも好ましい。すなわちこの場合、入力(グラフ情報)と出力(正解の目的変数値)とだけを用い、途中で発生する潜在グラフ・潜在グラフ生成手段の生成・構築処理等を全て学習で行ってしまうのである。
【0060】
またこの際、必要となる学習データは、目的変数の推定対象であるコミュニティ内ネットワーク(例えば会社BのSNS_B)を含む複数のコミュニティ内ネットワーク(例えば会社A,B,C,・・・のSNS_A,SNS_B,SNS_C,・・・)についての複数グラフ情報(例えばそれぞれ対応するグラフA,B,C,・・・の隣接行列A,B,C,・・・)と、対応する正解データ(正解の目的変数値)とを紐づけたものとすることができる。
【0061】
すなわち、グラフ変数推定モデル1の構築(学習)処理においては、目的変数の推定対象であるコミュニティ内ネットワーク(例えば会社BのSNS_B)に係るデータのみならず、他の複数のコミュニティ内ネットワーク(例えば会社A,B,C,・・・のSNS_A,SNS_B,SNS_C,・・・)に係るデータを学習データとして利用することができるのである。
【0062】
ここで、これらのコミュニティ内ネットワーク(例えばSNS_A,SNS_B,SNS_C,・・・)は、潜在グラフ(潜在ノード,潜在エッジ)を共有させる処理を行うので、互いにノードを(ほとんど)共有しないヘテロ性の高いネットワークであってもよい。このようなネットワークであっても個々のグラフ情報ならば比較的に取得し易いことから、(通常困難な場合の多い)十分な量の学習データの確保が実現可能となるのである。ただし、より好適な潜在グラフを共有させるべく、これら複数のコミュニティ内ネットワークは、同一の又は類似したコミュニケーションツールを使用したネットワークであることも好ましい。
【0063】
いずれにしても、以上説明したようなエンドツーエンド学習は、
(ア)各ドメイン(例えば会社A,B,C,・・・の各々)のグラフの「グラフ情報(隣接行列)」から「潜在グラフ情報」への写像関数と、
(イ)「潜在グラフ情報」から「目的変数」への写像関数と
を一挙に生成する手法となっている。
【0064】
ここで、上記(ア)の写像関数は、いわば各ドメインに固有の特徴を捉える関数となっており、またそれ故、互いに異なるドメイン(を表現するヘテロ性の高いグラフ)を仲介する潜在グラフを定義した関数となっている。すなわち、各ドメイン(を表現するヘテロ性の高いグラフ)固有の特徴を、これらのドメインに共有された潜在グラフをもって表現可能となっているのである。
【0065】
一方、上記(イ)の写像関数は、より抽象的なドメイン表現である潜在グラフ(潜在ノード)の特徴を捉える関数となっている。このような段階的な特徴を表現する相補的な写像関数によって、入力となる各グラフの「グラフ情報(隣接行列)」から最終的な出力である「目的変数」を好適に表現するモデルを構築(学習)することができるのである。
【0066】
[モデルの他の実施形態]
図3は、本発明によるグラフ変数推定モデルにおける他の実施形態を示す模式図である。
【0067】
図3に示した実施形態では、グラフ変数推定モデル1において潜在グラフ生成レイヤ11(
図1)の代わりに、潜在グラフ生成手段としての潜在グラフ生成レイヤ11-1が設けられている。
【0068】
この潜在グラフ生成レイヤ11-1は、Nを2以上の整数として、第1の潜在グラフ生成段から第Nの潜在グラフ生成段までのN個の潜在グラフ生成段が順次連結したものとすることができるが、
図3に示した本実施形態では、N=3であって、第1の潜在グラフ生成段11A、第2の潜在グラフ生成段11B、及び第3の潜在グラフ生成段11Cが順次連結したものとなっている。
【0069】
また、各潜在グラフ生成段(11A,11B,11C)は、互いに異なる複数の潜在グラフのそれぞれに係る複数の「潜在グラフ情報」を、それぞれ生成して出力する複数の潜在グラフ生成部(11Aa,11Ab,・・・,11Ba,11Bb,11Bc,・・・,11Ca,11Cb,11Cc,11Cd,・・・,)を含んでいる。
【0070】
次いで、nを2以上であってN以下の整数として、第nの潜在グラフ生成段の各潜在グラフ生成部は、第(n-1)の潜在グラフ生成段の複数の潜在グラフ生成部からの複数の「潜在グラフ情報」を入力として、自らに係る「潜在グラフ情報」を生成して出力する。例えば、潜在グラフ生成段11Cの潜在グラフ生成部11Caは、潜在グラフ生成段11Bにおける複数の潜在グラフ生成部(11Ba,11Bb,11Bc,・・・)のそれぞれから複数の「潜在グラフ情報」を受け取り、自らに係る「潜在グラフ情報」を生成して出力するのである。
【0071】
ここで本実施形態では、各潜在グラフ生成段の各潜在グラフ生成部(例えば潜在グラフ生成部11Aa)内には、潜在ノード生成部及び潜在行列生成部(例えば潜在ノード生成部11Aan及び潜在行列生成部11Aae)が設けられている。したがって、以上に述べた各段各生成部で生成され出力される「潜在グラフ情報」は、(
図1の実施形態と同様)「潜在ノード情報」と「潜在エッジ情報(潜在行列情報)」とを含むものとなっている。
【0072】
なお図示していないが、本実施形態においても、グラフ変数推定レイヤ(12)は
図1に示したものと同様の構成を有していて、第Nの潜在グラフ生成段(
図3では潜在グラフ生成段11C)から、(
図1の実施形態と同様)複数の「潜在グラフ情報」(潜在ノード情報,潜在エッジ情報)を入力として取り込み、これらの潜在グラフ情報又はこれらの潜在グラフ情報のそれぞれから生成された複数の中間情報に対し、結合部122(
図1)によって(concatenate、平均化や、最大値選択等を含む意味での)結合処理を行って、「目的変数」の推定処理を実施するのである。
【0073】
以上説明したように、潜在グラフ生成レイヤを多段構成とすることによって、例えば複数のヘテロ性の高いグラフの間で共有される潜在グラフ(潜在グラフ情報)を設計する余地を、より拡大することが可能となる。すなわち、各潜在グラフ生成段における各潜在グラフ生成部において、より好適な潜在グラフを設定し、それらのパラメータを調整することによって、複数のヘテロ性の高いグラフの各々における「目的変数」を、より高い精度で推定することも可能となるのである。
【0074】
また勿論、このような多段の潜在グラフ生成レイヤ11-1を含むグラフ変数推定モデル1も、複数のヘテロ性の高いグラフに係る学習データによって構築(学習)することができ、すなわち、他のグラフとの間のノード共有に依存せずに、1つのグラフに係るデータに限定されない学習データを利用することができるのである。
【0075】
図4は、本発明によるグラフ変数推定モデルにおける更なる他の実施形態を示す模式図である。
【0076】
図4(A)に示した実施形態では、グラフ変数推定モデル1において潜在グラフ生成レイヤ11(
図1)の代わりに、潜在グラフ生成手段としての潜在グラフ生成レイヤ11-2が設けられている。
【0077】
この潜在グラフ生成レイヤ11-2は、潜在グラフ生成レイヤ11(
図1)と同様、複数の潜在グラフ生成部(11-2a,11-2b,・・・)を含んでいるが、これら潜在グラフ生成部は各々、潜在ノード生成部(11-2an,11-2bn,・・・)のみから構成されており、潜在行列生成部は備えていない。
【0078】
一方、
図4(B)に示した実施形態では、グラフ変数推定モデル1において潜在グラフ生成レイヤ11(
図1)の代わりに、潜在グラフ生成手段としての潜在グラフ生成レイヤ11-3が設けられている。
【0079】
この潜在グラフ生成レイヤ11-3も、潜在グラフ生成レイヤ11(
図1)と同様、複数の潜在グラフ生成部(11-3a,11-3b,・・・)を含んでいるが、これら潜在グラフ生成部は各々、潜在行列生成部(11-3ae,11-3be,・・・)のみから構成されており、潜在ノード生成部は備えていない。
【0080】
以上の説明したような実施形態においても、グラフ変数推定レイヤ(12)は
図1に示したものと同様の構成を有していて、「潜在ノード情報」又は「潜在エッジ情報(潜在行列情報)」である「潜在グラフ情報」を入力として、「目的変数」の推定処理を実施することができる。
【0081】
また勿論、このような潜在ノード及び潜在エッジの一方のみに係る潜在グラフ生成レイヤ(11-2,11-3)を含むグラフ変数推定モデル1も、複数のヘテロ性の高いグラフに係る学習データによって構築(学習)することができ、すなわち、他のグラフとの間のノード共有に依存せずに、1つのグラフに係るデータに限定されない学習データを利用することができるのである。
【0082】
ちなみに、以上に説明した潜在ノード及び潜在エッジの一方のみに係る潜在グラフ生成レイヤについても、
図3で説明したような多段構造を採用することが可能である。
【0083】
図5は、本発明によるグラフ変数推定モデルにおける更なる他の実施形態を示す模式図である。
【0084】
図5に示した実施形態では、グラフ変数推定モデル1においてグラフ変数推定レイヤ12(
図1)の代わりに、グラフ変数推定手段としてのグラフ変数推定レイヤ12-1が設けられている。
【0085】
このグラフ変数推定レイヤ12-1は、
図1に示したような第1グラフ変数推定部を備えておらず、
(a)複数の潜在グラフ生成部(11a,11b,・・・)の各々から入力として取り込んだ複数の潜在グラフ情報の全てに対し、(concatenate、平均化、最大値選択等を含む意味での)結合処理を行う結合部121-1と、
(b)結合部121-1からの出力に基づき「目的変数」の推定値を出力するグラフ変数推定部122-1と
を備えている。
【0086】
このようなよりシンプルな構造を有するグラフ変数推定レイヤ12-1を含むグラフ変数推定モデル1も勿論、複数のヘテロ性の高いグラフに係る学習データによって構築(学習)することができ、すなわち、他のグラフとの間のノード共有に依存せずに、1つのグラフに係るデータに限定されない学習データを利用することができるのである。
【0087】
ここで、以上に説明したグラフ変数推定レイヤ12-1の前段となる潜在グラフ生成手段として、
図3に示した潜在グラフ生成レイヤ11-1や、
図4(A)に示した潜在グラフ生成レイヤ11-2、さらには
図4(B)に示した潜在グラフ生成レイヤ11-3を採用することも当然に可能である。
【0088】
ちなみに上記とは逆に、これらの潜在グラフ生成レイヤ11-1(
図3)、潜在グラフ生成レイヤ11-2(
図4(A))、及び潜在グラフ生成レイヤ11-3(
図4(B))のうちのいずれを採用した場合においても、その後段となるグラフ変数推定レイヤには、グラフ情報を入力としてグラフに係る所定の目的変数を出力するグラフ変数推定用NN(Graph Neural Networks)を含む、グラフ変数の推定が可能な任意の推定器を用いるように設定することが可能である。すなわち、本発明における一実施形態としてのこれらの潜在グラフ生成レイヤは、グラフ変数推定モデルを構築する観点からすると、モデル構成部分として高い汎用性を有しているのである。
【0089】
次に、
図1に戻り、以上に説明したようなグラフ変数推定モデル1を搭載し、(コミュニティ内ネットワークについての特徴的な情報である)入力されたグラフ情報(隣接行列)から、当該グラフ情報(隣接行列)に係るグラフについての所定の目的変数を推定可能とするグラフ変数推定装置9について説明する。
【0090】
図1において、グラフ変数推定装置9の入力部91は、通信機能を備えていて、例えば外部に設置された互いに異なる複数のSNS管理サーバにおける各SNS管理情報データベースから、所定の目的変数(例えば全体の投稿率)に係る正解目的変数ラベルの付されたグラフ情報(隣接行列)を受信し、所定のデータ形式に変換した上で、学習部92に保存させる。また、入力部91は、オペレータによって入力された又は当該SNS管理サーバから受信された、推定対象のSNSを表現したグラフのグラフ情報(隣接行列)を受け取り、所定のデータ形式に変換した上で、グラフ変数推定部93へ出力する。
【0091】
学習部92は、自ら保存している正解目的変数ラベルの付されたグラフ情報(隣接行列)群を用いて、グラフ変数推定モデル1を構築し、グラフ変数推定部93に出力する。この際、上述したようなエンドツーエンド学習処理によって、グラフ変数推定モデル1を構築することができる。
【0092】
グラフ変数推定部93は、入力部91より受け取った推定対象のSNSを表現したグラフのグラフ情報(隣接行列)を、学習部92から受け取った学習済みのグラフ変数推定モデル1へ入力し、その出力として、所望の目的変数(例えば全体の投稿率)の推定値を取得して、出力部94へ出力する。
【0093】
出力部94は、受け取った目的変数推定値に係る情報を例えば、ディスプレイに表示させたり、(通信機能を備えている場合に)外部の情報処理装置に送信したりすることができる。ここで、表示・送信される目的変数推定値に係る情報は、例えば「推定対象のSNSにおける期間**での全体の投稿率は**%である」旨の情報となる。
【0094】
[実施例]
図6は、グラフ変数推定モデル1を用いて実際にグラフ変数推定処理を実施した実施例におけるグラフ変数推定結果を説明するためのグラフである。
【0095】
本実施例においては、Unipos株式会社の提供する"Unipos"サービスにおける、互いに共通する人員を有さない22社(人員ノードの共有が存在しない22ドメイン)についての延べ1326週間分のサービス利用ログを用い、グラフ変数推定レイヤ12がGraph Attention Networksを用いて構成されているグラフ変数推定モデル1を構築した。
【0096】
ここで、"Unipos"サービス(URL: https://unipos.me/ja/)は、従業員同士が、日頃の仕事の成果や行動に感謝・賞賛するメッセージとともに,ポイントを送り合えるWebサービスである。具体的には「カード」「拍手」で組織内の賞賛を表現するものとなっている。
【0097】
また、学習時及び推定時にモデルへ入力するグラフ情報として、「おくる→もらう」「拍手」を1週間単位で集計して、
(a)各週における「カード」の投稿数の隣接行列、
(b)各週における「カード」のポイント数の隣接行列、
(c)各週における「拍手」の投稿数の隣接行列、及び
(d)各週における「拍手」のポイント数の隣接行列
を生成した上で、これらのうち連続する2週間分の隣接行列(a)~(d)、すなわち計8つの隣接行列を、この入力するグラフ情報とした。さらに、推定すべき目的変数は、1週間先の「週内で一度でも「カード」を投稿した人の割合」に設定された。
【0098】
また、本実施例のグラフ変数推定結果を評価すべく、比較例として、上記と同様の入力グラフ情報の下で構築した、22社それぞれについてのGraph Attention Networksを用い、同じ目的変数の推定処理を行った。なお、これらの会社(ドメイン)毎に構築されたGraph Attention Networksは当然、潜在グラフ生成手段を備えていない従来技術によるものであった。
【0099】
以上説明した本実施例及び比較例における上記の目的変数の推定結果を、
図6のグラフに示している。同グラフにおいては、横軸が0から1までの値に規格化した実測値(規格化実測値)であり、縦軸が0から1までの値に規格化した推定値(規格化推定値)であって、それらのなす座標系に対し本実施例及び比較例における目的変数推定結果がプロットされている。またさらに、本実施例及び比較例における(規格化推定値が規格化実測値と一致する度合いを表す)決定係数R
2が算出されている。
【0100】
図6のグラフによれば、本実施例では、決定係数R
2は正値であって0.58に達しており、決定係数R
2が負値(-0.42)となってしまう比較例とは対照的に、良好な結果が得られている。これにより、本実施例で構築されたグラフ変数推定モデル1は、ヘテロ性の高いドメイングラフにおける目的変数推定処理において、従来モデルよりも高い推定精度を有することが理解される。
【0101】
以上詳細に説明したように、本発明によるグラフ変数推定モデルは、入力されるグラフ情報から潜在グラフ情報を生成し、それにより目的変数を推定するモデルとなっており、その構築(学習)においては、推定時に入力されるグラフ情報に係るグラフに限定されず、それを含めた(又はそれを含まないでもよいが)複数のグラフに係る学習データによって構築(学習)されるのである。
【0102】
すなわちグラフ間で共有される潜在グラフ情報が生成されるので、これら複数のグラフの各々がヘテロ性の高いグラフとなっている場合においても、本発明によるグラフ変数推定モデルは、これら複数のグラフに係る学習データによって構築(学習)可能となっている。言い換えると、他のグラフとの間のノード共有に依存せずに、1つのグラフに係るデータに限定されない学習データを利用することができる。またその結果、グラフ変数推定モデルの構築(学習)の際には、高いモデル推定性能を実現するのに十分な量の学習データを確保することが、より容易になるのである。
【0103】
さらに、本発明は特に、SNS等のコミュニティ内ネットワークサービスを提供する業者が、当該サービスの利用状況の把握やサービス内ユーザ行動の予測等を行って、当該ネットワークを適切に維持・管理し、さらには改良・改善を行う場面において、大いに役立つものとなり得るのである。
【0104】
前述した本発明の種々の実施形態について、本発明の技術思想及び見地の範囲の種々の変更、修正及び省略は、当業者によれば容易に行うことができる。前述の説明はあくまで例であって、何ら制約しようとするものではない。本発明は、特許請求の範囲及びその均等物として限定するものにのみ制約される。
【符号の説明】
【0105】
1 グラフ変数推定モデル
10 入力部
11、11-1、11-2、11-3 潜在グラフ生成レイヤ(潜在グラフ生成手段)
11A、11B、11C 潜在グラフ生成段
11a、11b、11c、11Aa、11Ab、11Ba、11Bb、11Bc、11Ca、11Cb、11Cc、11Cd、11-2a、11-2b、11-3a、11-3b 潜在グラフ生成部
11an、11bn、11cn、11Aan、11Abn、11Ban、11Bbn、11Bcn、11Can、11Cbn、11Ccn、11Cdn、11-2an、11-2bn 潜在ノード生成部
11ae、11be、11ce、11Aae、11Abe、11Bae、11Bbe、11Bce、11Cae、11Cbe、11Cce、11Cde、11-3ae、11-3be 潜在行列生成部
12、12-1 グラフ変数推定レイヤ(グラフ変数推定手段)
121a、121b、121c 第1グラフ変数推定部
122、121-1 結合部
122-1 グラフ変数推定部
123 第2グラフ変数推定部
9 グラフ変数推定装置
91 入力部
92 学習部
93 グラフ変数推定部
94 出力部