特開 2025-6604 情報処理プログラム、情報処理方法及び情報処理装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2025006604

(43)【公開日】2025-01-17

(54)【発明の名称】情報処理プログラム、情報処理方法及び情報処理装置

(51)【国際特許分類】

   G06Q 50/10 20120101AFI20250109BHJP

【ＦＩ】

G06Q50/10

【審査請求】未請求

【請求項の数】8

【出願形態】ＯＬ

(21)【出願番号】P 2023107501

(22)【出願日】2023-06-29

(71)【出願人】

【識別番号】000005223

【氏名又は名称】富士通株式会社

(74)【代理人】

【識別番号】110002147

【氏名又は名称】弁理士法人酒井国際特許事務所

(72)【発明者】

【氏名】佐久間 義友

【テーマコード（参考）】

5L049

5L050

【Ｆターム（参考）】

5L049CC11

5L050CC11

(57)【要約】

【課題】受信した情報の信憑性の確認を容易にする情報処理プログラム、情報処理方法及び情報処理装置を提供する。
【解決手段】データの確からしさを示すプロパティ情報であってプロパティ情報の信頼度を示す信頼度情報が付与されたプロパティ情報を入力として前記データの信憑性を出力する学習済みの信憑性判定傾向モデル１１４を有し、受信者が受信した所定データの確からしさを示す第１プロパティ情報を取得し、第１プロパティ情報の生成主体のうち受信者が信頼する生成主体が登録された信頼リスト１１２に基づいて、第１プロパティ情報の信頼度を示す第１信頼度情報を生成し、第１信頼度情報を付与した第１プロパティ情報を信憑性判定傾向モデル１１４に入力して、所定データの信憑性を判定して結果を提示する処理をコンピュータに実行させる。
【選択図】図１１

【特許請求の範囲】

【請求項1】

データの確からしさを示すプロパティ情報であって前記プロパティ情報の信頼度を示す信頼度情報が付与された前記プロパティ情報を入力として前記データの信憑性を出力する学習済みの第１機械学習モデルを有し、
受信者が受信した所定データの確からしさを示す第１プロパティ情報を取得し、
前記第１プロパティ情報の生成主体のうち前記受信者が信頼する前記生成主体が登録された信頼リストに基づいて、前記第１プロパティ情報の信頼度を示す第１信頼度情報を生成し、
前記第１信頼度情報を付与した前記第１プロパティ情報を前記第１機械学習モデルに入力して、前記所定データの信憑性を判定して結果を提示する
処理をコンピュータに実行させることを特徴とする情報処理プログラム。

【請求項2】

前記第１プロパティ情報の前記取得は、前記所定データ、前記第１プロパティ情報及び前記生成主体の関係を表すグラフ情報を取得することで行い、
前記グラフ情報に前記第１信頼度情報を付加した固有グラフ情報を入力データとして前記第１機械学習モデルに学習させる
ことを特徴とする請求項１に記載の情報処理プログラム。

【請求項3】

第２プロパティ情報に対する前記受信者の過去の信頼度の判断結果に基づいて学習が行われた、特定のプロパティ情報及び前記特定のプロパティ情報の生成主体の情報を入力として前記特定のプロパティ情報の信頼度情報を出力する第２機械学習モデルをさらに有し、
前記第１信頼度情報の前記生成は、前記第１プロパティ情報のうち前記信頼リストに登録されていない前記生成主体に紐づけられた第３プロパティ情報及び前記第３プロパティ情報の生成主体の情報を前記第２機械学習モデルに入力して、前記第１信頼度情報を生成することを特徴とする請求項２に記載の情報処理プログラム。

【請求項4】

前記第１プロパティ情報に対する前記受信者の信頼度の判定結果を受信して、前記第２機械学習モデルを更新する処理を前記コンピュータにさらに実行させることを特徴とする請求項３に記載の情報処理プログラム。

【請求項5】

前記所定データに対する前記受信者の信憑性の判断結果を受信して、前記信憑性の判断結果を基に前記第１機械学習モデルを更新する処理を前記コンピュータにさらに実行させることを特徴とする請求項１に記載の情報処理プログラム。

【請求項6】

前記信憑性の判断結果に加えて、前記受信者により信頼度が高いと判断される仮想プロパティ情報を用いて前記第１機械学習モデルを更新する処理を前記コンピュータに実行させることを特徴とする請求項５に記載の情報処理プログラム。

【請求項7】

情報処理装置が、
データの確からしさを示すプロパティ情報であって前記プロパティ情報の信頼度を示す信頼度情報が付与された前記プロパティ情報を入力として前記データの信憑性を出力する学習済みの第１機械学習モデルを有し、
受信者が受信した所定データの確からしさを示す第１プロパティ情報を取得し、
前記第１プロパティ情報の生成主体のうち前記受信者が信頼する前記生成主体が登録された信頼リストに基づいて、前記第１プロパティ情報の信頼度を示す第１信頼度情報を生成し、
前記第１信頼度情報を付与した前記第１プロパティ情報を前記第１機械学習モデルに入力して、前記所定データの信憑性を判定して結果を提示する
処理を実行することを特徴とする情報処理方法。

【請求項8】

受信者が受信した所定データの確からしさを示す第１プロパティ情報を取得するデータ保持部と、
前記データ保持部が取得した前記第１プロパティ情報の生成主体のうち前記受信者が信頼する前記生成主体が登録された信頼リストに基づいて、前記第１プロパティ情報の信頼度を示す第１信頼度情報を生成する生成部と
前記生成部により生成された前記第１信頼度情報を付与した前記第１プロパティ情報を、データの確からしさを示すプロパティ情報であって前記プロパティ情報の信頼度を示す信頼度情報が付与された前記プロパティ情報を入力として前記データの信憑性を出力する学習済みの第１機械学習モデルに入力して、前記所定データの信憑性を判定して結果を提示する信憑性判定部と
を備えたことを特徴とする情報処理装置。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、情報処理プログラム、情報処理方法及び情報処理装置に関する。

【背景技術】

【0002】

インターネット上には、ニュースサイトの記事やＳＮＳ（Social Networking Service）を通じて提供される情報といった様々な情報があふれている。これらのインターネット上に存在する情報には、誤った内容を含む情報である偽情報が含まれていることがある。近年、このような偽情報が、経済や社会に混乱をもたらすことが問題視されている。

【0003】

そこで、偽情報対策として、インターネット上のデータの確からしさを汎用的に確認する技術が提案されている。この技術では、インターネット上のデータに対して、データの発信者及び受信者以外の第三者による確認や評価に関する評価を表すプロパティ情報が付与される。そして、プロパティ情報及びそのプロパティ情報を提供した第三者である提供者の情報が、受信者にグラフ化して利用者に開示される。これにより、受信者はプロパティ情報が付与されたデータの信憑性を判断することができ、データの信頼性を高めることができる。グラフには、例えば、データの発信者及びプロパティ情報の提供者の情報それぞれが、データに関連する要素にあたるノードとして表される。

【0004】

さらに、このようなグラフを用いた技術の利用方法として、以下の様な技術が考えられる。例えば、真偽の明らかなデータ及びプロパティ情報を含む学習データを用いて機械学習モデルに学習させる。そして、学習済みの機械学習モデルに未知のデータ及びそのデータに対するプロパティ情報を入力して、データの真偽を出力させることができる。

【0005】

また、情報の信憑性に関する技術として、複数評価者の評価信頼度及び評価傾向を用いて機械学習モデルに学習させ、評価者による評価が付されたニュースの信憑性を判定する技術が提案されている。他にも、投稿者の投稿履歴を機械学習モデルに学習させ、学習済みの機械学習モデルを用いて製品レビュー投稿の不正を判定する技術が提案されている。また、レポートを受信してそのレポートのカテゴリを特定し、特定したカテゴリに対応する機械学習モデルを用いてレポートの信頼性を評価する技術が提案されている。

【先行技術文献】

【特許文献】

【0006】

【特許文献1】特表２０２０－５０８５１８号公報

【特許文献2】特開２０２２－１４７０１３号公報

【特許文献3】米国特許出願公開第２０２１／０２８９１６６号明細書

【発明の概要】

【発明が解決しようとする課題】

【0007】

しかしながら、機械学習モデルに未知のデータ及びプロパティ情報を入力して真偽の判定結果を得る技術では、各プロパティ情報の提供者がどれほど信頼できるかが明確でない状態で判定が行われる。そして、プロパティ情報の提供者がどれほど信頼できるかは、受信者や判断対象によって異なる。

【0008】

例えば、経済学の専門書についての「分かり易い」という説明文の信憑性を受信者が確かめたい場合を例に説明する。この場合に、その専門書に対して、経済学の専門家は分かり易いと評価し、経済学を勉強し始めた者の分かり難いと評価することが考えられる。この状況では、説明文の受信者が経済学にある程度精通していれば、受信者は、経済学を勉強し始めた人よりも専門家の意見を信頼して説明文が真であると捉える。これに対して、説明文の受信者が経済学の初学者であれば、受信者は、専門家よりも経済学を勉強し始めた人の意見を信頼して説明文が偽であると捉える。このように、受信者の属性によりプロパティ情報の提供者の信頼度は変化する。

【0009】

そこで、機械学習モデルに未知のデータ及びプロパティ情報を入力して真偽の判定結果を得る技術では、プロパティ情報の提供者の信頼度が考慮されておらず、受信者にとっての適切な信憑性の判定結果を得ることが困難である。したがって、受信情報についての信憑性判断を適切に行えるようにすることは困難である。

【0010】

また、複数評価者の評価信頼度及び評価傾向を用いて機械学習モデルに学習させて信憑性を評価する技術では、一般的な評価者の情報に基づいており、データを取得した受信者にとってのその取得したデータ信憑性を得ることは困難である。また、投稿者の投稿履歴を機械学習モデルに学習させ製品レビュー投稿の不正を判定する技術やレポートのカテゴリに応じた機械学習モデルを用いて信頼性を評価する技術でも、データを取得した受信者にとってのその取得したデータ信憑性は考慮されていない。そのため、いずれの技術を用いても、受信情報についての信憑性判断を適切に行えるようにすることは困難である。

【0011】

開示の技術は、上記に鑑みてなされたものであって、受信情報についての信憑性判断を適切に行えるようにする情報処理プログラム、情報処理方法及び情報処理装置を提供することを目的とする。

【課題を解決するための手段】

【0012】

本願の開示する情報処理プログラム、情報処理方法及び情報処理装置の一つの態様において、データの確からしさを示すプロパティ情報であって前記プロパティ情報の信頼度を示す信頼度情報が付与された前記プロパティ情報を入力として前記データの信憑性を出力する学習済みの第１機械学習モデルを有し、受信者が受信した所定データの確からしさを示す第１プロパティ情報を取得し、前記第１プロパティ情報の生成主体のうち前記受信者が信頼する前記生成主体が登録された信頼リストに基づいて、前記第１プロパティ情報の信頼度を示す第１信頼度情報を生成し、前記第１信頼度情報を付与した前記第１プロパティ情報を前記第１機械学習モデルに入力して、前記所定データの信憑性を判定して結果を提示する処理をコンピュータに実行させる。

【発明の効果】

【0013】

１つの側面では、本発明は、受信情報についての信憑性判断を適切に行えるようにすることができる。

【図面の簡単な説明】

【0014】

【図1】図１は、実施例に係る情報処理システムのシステム構成図である。

【図2】図２は、実施例に係る情報処理装置のブロック図である。

【図3】図３は、グラフ情報の一例を示す図である。

【図4】図４は、信頼リストの一例を示す図である。

【図5】図５は、信頼リストを用いた信頼度のラベル付けの一例を示す図である。

【図6】図６は、信頼度判定モデルを用いた信頼度のラベル付けの一例を示す第１の図である。

【図7】図７は、信頼度判定モデルを用いた信頼度のラベル付けの一例を示す第２の図である。

【図8】図８は、判断対象情報へ向かうエッジへの信頼度のラベル付けの一例を示す図である。

【図9】図９は、信憑性判定傾向モデルを用いた信憑性判定の一例を示す図である。

【図10】図１０は、信憑性判定傾向モデルのパラメータ更新の一例を示す図である。

【図11】図１１は、実施例に係る信憑性判定処理の全体的な流れを示す図である。

【図12】図１２は、実施例に係る情報処理装置による信憑性判定処理のフローチャートである。

【図13】図１３は、情報処理装置のハードウェア構成図である。

【発明を実施するための形態】

【0015】

以下に、本願の開示する情報処理プログラム、情報処理方法及び情報処理装置の実施例を図面に基づいて詳細に説明する。なお、以下の実施例により本願の開示する情報処理プログラム、情報処理方法及び情報処理装置が限定されるものではない。

【実施例0016】

図１は、実施例に係る情報処理システムのシステム構成図である。図２は、実施例に係る情報処理装置のブロック図である。図２では、通信の流れが分かり易いようにインターネット４を省略して記載したが、実際には、図１に示すように、各装置はインターネット４を介して通信を行う。

【0017】

情報処理システム１００は、情報処理装置１、受信者端末装置２及びサーバ群３を有する。情報処理装置１、受信者端末装置２及びサーバ群３それぞれインターネット４に接続され、相互にデータの送受信を行うことが可能である。

【0018】

サーバ群３は、信頼度判定モデル管理サーバ３１、信憑性判定傾向モデル管理サーバ３２、信頼リスト管理サーバ３３、グラフ情報管理サーバ３４及びＳＮＳサーバ３５を有する。ＳＮＳサーバ３５は、真偽の判定対象となる情報を提供する装置である。受信者は、ＳＮＳサーバ３５から提供された情報について信憑性がどのくらいであるかの判断を行う。この判断のために、受信者は、後述する情報処理装置１による信憑性判定処理を利用する。信憑性の判定対象となる情報を提供するサーバは、ＳＮＳサーバ３５以外のサーバであってもよい。

【0019】

グラフ情報管理サーバ３４は、受信者が信憑性を判断する対象とした情報の入力を情報処理装置１から受ける。以下では、受信者が信憑性を判断する対象とした情報を「判断対象情報」と呼ぶ。そして、グラフ情報管理サーバ３４は、判断対象情報を根（ルート）とする判断対象情報についてのグラフ情報１１１を、ＳＮＳサーバ３５から提供される情報を含むインターネット４上の様々な情報を取得して作成する。ここで、グラフ情報１１１には１つの起点から分岐を繰り返して階層化されたグラフが登録され、そのグラフにおける階層の起点が根と呼ばれる。すなわち、グラフ情報１１１は根を起点とする階層構造又はツリー構造を有する。そして、グラフ情報管理サーバ３４は、作成した判断対象情報についてのグラフ情報１１１を情報処理装置１に送信する。

【0020】

信頼度判定モデル管理サーバ３１、信憑性判定傾向モデル管理サーバ３２及び信頼リスト管理サーバ３３は、受信者が所有する情報を管理するサーバである。図１では、信頼度判定モデル管理サーバ３１、信憑性判定傾向モデル管理サーバ３２及び信頼リスト管理サーバ３３は、インターネット４に接続されるように記載したが、例えば、受信者のローカル環境に配置されてもよい。信頼度判定モデル管理サーバ３１、信憑性判定傾向モデル管理サーバ３２及び信頼リスト管理サーバ３３は、インターネット４を介して受信者に関する各種情報を情報処理装置１へ提供する。

【0021】

受信者端末装置２は、ＳＮＳサーバ３５から提供された情報の信憑性を判断する受信者が操作する端末装置である。受信者端末装置２は、判断対象情報の指定を情報処理装置１に通知する。また、受信者端末装置２は、受信者からの指定を受けて、受信者に対応する信頼リスト１１２、信頼度判定モデル１１３及び信憑性判定傾向モデル１１４の指定を情報処理装置１に通知する。信頼リスト１１２、信頼度判定モデル１１３及び信憑性判定傾向モデル１１４の詳細については後で説明する。

【0022】

受信者端末装置２は、判断対象情報に対する信憑性の判定結果及びその信憑性の判断材料となるグラフ情報１１１を情報処理装置１から受信する。そして、受信者端末装置２は、それらの情報をモニタに表示させるなどして受信者に提供する。

【0023】

その後、情報処理装置１の信憑性の判定結果に対する受信者から情報処理装置１へのフィードバックする情報が存在する場合、受信者端末装置２は、指定されたフィードバック情報２０を情報処理装置１へ送信する。フィードバック情報２０の詳細については後で説明する。

【0024】

情報処理装置１は、信頼度判定モデル管理サーバ３１、信憑性判定傾向モデル管理サーバ３２、信頼リスト管理サーバ３３及びグラフ情報管理サーバ３４から取得した情報を用いて、受信者及び判断対象情報に応じた判断対象情報の信憑性判定処理を実行する。また、情報処理装置１は、判断対象情報の信憑性の判断材料となる情報が付加された受信者固有の固有グラフ情報を生成する。そして、情報処理装置１は、判断対象情報の信憑性の判定結果及び固有グラフ情報を受信者端末装置２へ送信する。

【0025】

以下に、図２を参照して、情報処理装置１による信憑性判定処理の詳細について説明する。情報処理装置１は、図２に示すように、データ保持部１１、固有グラフ情報生成部１２、信憑性判定部１３、出力部１４及び機械学習モデル更新部１５を有する。

【0026】

データ保持部１１は、判断対象情報、受信者に対応する信頼リスト１１２、信頼度判定モデル１１３及び信憑性判定傾向モデル１１４の指定の通知を受信者端末装置２から受信する。例えば、受信者端末装置２のモニタに表示されたＳＮＳ投稿の文章における信憑性の判定対象とする部分へのマウスなどを用いたドラッグ操作により、判定対象情報がデータ保持部１１に入力される。判定対象情報には予め決められたトピックのうちどのトピックに属するかの情報が付加される。また、判定対象情報には、その判定対象情報に対するプロパティ情報についての情報が付加されてもよい。

【0027】

そして、データ保持部１１は、判断対象情報についてのグラフ情報１１１の作成をサーバ群３のグラフ情報管理サーバ３４に指示する。その後、データ保持部１１は、受信者から指定された判断対象情報を根とする階層構造を有するグラフが登録された判断対象情報のグラフ情報１１１をグラフ情報管理サーバ３４から受信する。そして、データ保持部１１は、受信した判断対象情報についてのグラフ情報１１１を格納する。

【0028】

図３は、グラフ情報の一例を示す図である。グラフ情報１１１は、例えば、判断対象情報１２０、複数のプロパティ情報１２１及びプロパティ情報１２１のそれぞれの生成主体を示す複数のエンティティ１２２とから構成されるグラフ構造を有する情報である。プロパティ情報１２１は、データもしくは個人、法人又はデバイス等についての属性や機能に関する情報であるプロパティをデジタル署名によって改ざん不可能な形式で記録したデータである。プロパティ情報１２１には、その生成主体を示す情報が含まれてもよい。

【0029】

図３に示すように、グラフ情報１１１は、受信者により受信された判断対象情報１２０を根とする階層構造で表される情報が登録される。グラフ情報１１１では、例えば、受信者により受信された判断対象情報１２０に対して３つのプロパティ情報１２１が対応付けられる。そして、３つプロパティ情報それぞれにエンティティ１２２が対応付けられる。例えば、「Ａ川：災害警報なし」というプロパティ情報１２１に対して、河川課職員であることを示すエンティティ１２２が対応付けられる。さらに、各エンティティ１２２に対するプロパティ情報１２１が存在する場合、それぞれが対応付けられる。また、それぞれのエンティティ１２２に対するプロパティ情報１２１に対して、さらにエンティティ１２２が対応付けられる。例えば、河川職員を表すエンティティ１２２に対して、「職員証：河川課」というプロパティ情報１２１が対応付けられる。そして、そのプロパティ情報１２１の生成主体として、「Ｂ市」を表すエンティティ１２２が対応付けられる。このように、グラフ情報１１１は、判断対象情報１２０を階層構造の起点である根として、プロパティ情報１２１と各プロパティ情報１２１の生成主体であるエンティティ１２２とが繋げられた階層構造を有する。

【0030】

利用者は、このグラフ情報１１１を見ることで、判断対象情報１２０に対して、どの様な評価がどの生成主体から行われたかを確認することができる。ただし、この状態のグラフ情報１１１は誰にとっても同じ汎用的な情報を表し、利用者は、単に判断対象情報１２０に関連するプロパティ情報１２１の内容及びその生成主体を確認することはできるが、自分にとって各生成主体がどの程度信頼できるかを把握することは困難である。

【0031】

図２に戻って説明を続ける。データ保持部１１は、受信者により指定された信頼リスト１１２をサーバ群３の信頼リスト管理サーバ３３から受信する。そして、データ保持部１１は、受信した信頼リスト１１２を格納する。

【0032】

図４は、信頼リストの一例を示す図である。図４に示すように、信頼リスト１１２は、受信者毎且つ判断対象のトピック毎に作成される。信頼リスト１１２は、受信者が特定のトピックにおいてプロパティ情報を信頼できるとする生成主体のリストである。信頼リスト１１２は、判断対象情報のトピックと受信者が信頼できるとした生成主体の一意の識別子が記述される。一意の識別子には、例えば、ＤＩＤ（Decentralized Identifier）を用いることができる。本実施例では、プロパティ情報に信頼リスト１１２で扱うものと同種の識別子を用いて生成主体が誰かを示す情報が付加されている。

【0033】

例えば、図４の信頼リスト１１２は、災害というトピックに対するリストである。そして、図４の信頼リスト１１２であれば、受信者は、受信者が住む自治体であるＢ市及び水位センサ等の位置情報を発行するＧＰＳ（Global Positioning System）が信頼する生成主体として指定されている。例えば、シンタックス１３０は、ＤＩＤを用いた信頼リスト１１２のドキュメントの一例である。

【0034】

図２に戻って説明を続ける。データ保持部１１は、受信者により指定された信頼度判定モデル１１３をサーバ群３の信頼度判定モデル管理サーバ３１から受信する。そして、データ保持部１１は、受信した信頼度判定モデル１１３を格納する。

【0035】

信頼度判定モデル１１３は、グラフ情報１１１に登録されたプロパティ情報の信頼度を、根である判断対象情報からそのプロパティ情報まで辿れる経路を含むグラフ情報１１１の一部分を用いて判定する機械学習モデルである。ここでは、信頼度を判定したい判断対象情報から辿れるグラフ情報１１１の一部分を「サブグラフ情報」と呼ぶ。例えば、図３であれば、判断対象情報１２０から辿って水位センサを示すエンティティ１２２を経由してＧＰＳを示すエンティティ１２２までを含む情報がサブグラフ情報の一例である。

【0036】

すなわち、信頼度判定モデル１１３は、グラフ情報１１１において信頼リスト１１２で明示されていない特定の生成主体からのプロパティ情報の信頼度を他の生成主体との関係性に基づいて判定する際に用いられる。具体的には、信頼度判定モデル１１３は、受信者により信頼度が高いと判定された生成主体からどのようなプロパティ情報が特定の生成主体に対して発行されているかを学習することで、特定の生成主体から得られるプロパティ情報の信頼度を判定する。例えば、信頼度判定モデル１１３は、同じトピック等といった同種の判断対象情報に関するプロパティ情報の信頼度についての受信者自身の過去の判断を機械学習に用いることができる。

【0037】

信頼度判定モデル１１３は、「第２機械学習モデル」の一例にあたる。さらに、信頼度判定モデル１１３の機械学習に用いられた学習データに含まれるプロパティ情報が、「第２プロパティ情報」の一例にあたる。すなわち、信頼度判定モデル１１３は、特定のプロパティ情報及び特定のプロパティ情報の生成主体の情報を入力として特定のプロパティ情報の信頼度情報を出力する機械学習モデルであり、受信者の第２プロパティ情報に対する過去の信頼度の判断結果に基づいて機械学習が行われる。

【0038】

図２に戻って説明を続ける。データ保持部１１は、受信者により指定された信憑性判定傾向モデル１１４をサーバ群３の信憑性判定傾向モデル管理サーバ３２から受信する。そして、データ保持部１１は、受信した信憑性判定傾向モデル１１４を格納する。

【0039】

信憑性判定傾向モデル１１４は、判断対象情報に対する受信者固有のグラフ情報である固有グラフ情報の入力を受けて、その判断対象情報に対する信憑性の判定結果を出力する機械学習モデルである。信憑性の判定結果は、例えば、真、偽又は不明といった情報や信憑性の高さを示した数値等で表される。信憑性判定傾向モデル１１４は、判断対象情報と同じトピックにおける過去の受信者自身による信憑性の判断を用いて機械学習が行われる。信憑性判定傾向モデル１１４は、例えば、入力としてグラフを用いることが可能なGraph Neural Network（ＧＮＮ）等を用いることができる。信憑性判定傾向モデル１１４は、「第１機械学習モデル」の一例にあたる。

【0040】

固有グラフ情報生成部１２は、グラフ情報１１１、信頼リスト１１２及び信頼度判定モデル１１３をデータ保持部１１から取得する。そして、固有グラフ情報生成部１２は、信頼リスト１１２及び信頼度判定モデル１１３を用いて、グラフ情報１１１における各プロパティ情報に対して信頼度の情報を付加した固有グラフ情報を生成する。そして、固有グラフ情報生成部１２は、生成した固有グラフ情報を信憑性判定部１３及び出力部１４へ出力する。以下に、固有グラフ情報生成部１２による固有グラフ情報の作成の詳細について説明する。

【0041】

固有グラフ情報生成部１２は、グラフ情報１１１において信頼リスト１１２に記載された生成主体からのプロパティ情報については「信頼度が高い」ことを表すラベルを付与する。図５は、信頼リストを用いた信頼度のラベル付けの一例を示す図である。

【0042】

例えば、信頼リスト１１２に、受信者が住む自治体であるＢ市が登録されており且つ水位センサ等の位置情報をプロパティ情報として発行するＧＰＳは登録されていない場合について考える。固有グラフ情報生成部１２は、図５のグラフ情報１１１におけるＢ市を表すエンティティ１２２ａからプロパティ情報１２１ａに延びるエッジ１４１に信頼度が高いことを表すラベル付けとして「Ｈ」を付与する（ステップＳ１）。この場合、ＧＰＳは信頼リスト１１２に登録されていないため、固有グラフ情報生成部１２は、図５のグラフ情報１１１におけるＧＰＳからプロパティ情報に延びるエッジにはラベル付けを行わない。

【0043】

ここで、判断対象情報が、「所定データ」の一例にあたる。また、グラフ情報１１１における判断対象情報に対するプロパティ情報が、「第１プロパティ情報」の一例にあたる。さらに、信頼リスト１１２に登録された生成主体からプロパティ情報に延びるエッジに付された信頼度を表すラベルが、「第１信頼度情報」の一例にあたる。すなわち、固有グラフ情報生成部１２は、第１プロパティ情報の生成主体のうち受信者が信頼する生成主体が登録された信頼リスト１１２に基づいて、第１プロパティ情報の信頼度を示す第１信頼度情報を生成する。また、固有グラフ情報生成部１２は、所定データ、第１プロパティ情報及び生成主体の関係を表すグラフ情報１１１を取得することで前記第１プロパティ情報を取得する。

【0044】

以下の説明では、グラフ情報１１１において、ラベル「Ｈ」は信頼度が高いことを表し、ラベル「Ｌ」は信頼度が低いことを表す。ここで、本実施例では、固有グラフ情報生成部１２は、信頼度が高いか低いかを表す情報によるラベル付けを行ったが、信頼度の高さを示す数値をラベルとして用いてもよい。

【0045】

次に、固有グラフ情報生成部１２は、信頼リスト１１２に記載されていない生成主体によるプロパティ情報については、信頼度判定モデル１１３に信頼度を判定したい判断対象情報を根としたサブグラフ情報を入力して出力される信頼度の判定結果を示すラベルを付与する。図６は、信頼度判定モデルを用いた信頼度のラベル付けの一例を示す第１の図である。また、図７は、信頼度判定モデルを用いた信頼度のラベル付けの一例を示す第２の図である。

【0046】

固有グラフ情報生成部１２は、図６に示すグラフ情報１１１のうち判断対象情報１２０から辿り水位センサのエンティティ１２２ｃを経由して信頼リスト１１２に登録されていないＧＰＳのエンティティ１２２ｂまでを含むサブグラフ情報１４２を抽出する。次に、固有グラフ情報生成部１２は、サブグラフ情報１４２を信頼度判定モデル１１３に入力する（ステップＳ２）。そして、固有グラフ情報生成部１２は、信頼度判定モデル１１３から出力される信頼度の判定結果を得る。ここでは、固有グラフ情報生成部１２は、サブグラフ情報１４２のエンティティ１２２ｂで示されるＧＰＳ及びエンティティ１２２ｃで示される水位センサから提供されるいずれのプロパティ情報も信頼度が高いことを示す出力１４３を得る（ステップＳ３）。

【0047】

そして、図７に示すように、固有グラフ情報生成部１２は、エンティティ１２２ｂからプロパティ情報１２１ｂに延びるエッジ１４４に信頼度が高いことを示すラベルである「Ｈ」を付与する。また、固有グラフ情報生成部１２は、エンティティ１２２ｃからプロパティ情報１２１ｃに延びるエッジ１４５に信頼度が高いことを示すラベルである「Ｈ」を付与する（ステップＳ４）。

【0048】

ここで、例えば、ＧＰＳが、「信頼リスト１１２に登録されていない生成主体」にあたる。そして、ＧＰＳから提供されたプロパティ情報１２１ｂ及びプロパティ情報１１２ｂが付与された水位センサから提供されたプロパティ情報１２１ｃが、「第３プロパティ情報及び前記第３プロパティ情報の生成主体の情報」の一例にあたる。また、エッジ１４４及び１４５に付与されたラベルが、「第１信頼度情報」の一例にあたる。すなわち、固有グラフ情報生成部１２は、第３プロパティ情報及び第３プロパティ情報の生成主体の情報を第２機械学習モデルである信頼度判定モデル１１３に入力して第１信頼度情報を生成する。

【0049】

次に、固有グラフ情報生成部１２は、グラフ情報１１１の判断対象情報から離れたエッジから順次、信頼度判定モデル１１３を用いて各生成主体を示すプロパティ情報に対する信頼度のラベルを判定して、各エッジに信頼度を示すラベルを付与する。ここで、判断対象情報から離れたエッジから順次ラベル付与を行うことで、固有グラフ情報生成部１２は、ラベル付与対象から下層のエッジに振られたラベルの情報も用いて、信頼度判定を行うことができる。固有グラフ情報生成部１２は、グラフ情報１１１の全てのエッジに信頼度ラベルを付与することで、固有ラベル情報を生成する。図８は、判断対象情報へ向かうエッジへの信頼度のラベル付けの一例を示す図である。

【0050】

例えば、固有グラフ情報生成部１２は、図８に示すように、エッジ１４１の信頼度を表すラベルが「Ｈ」であることを確認する。次に、固有グラフ情報生成部１２は、エッジ１４１のラベルの情報、並びに、エンティティ１２２ｄ及び１２２ａを含むサブグラフ情報を信頼度判定モデル１１３に入力する。そして、固有グラフ情報生成部１２は、入力に対する出力として、河川課職員を表すエンティティ１２２ｄから提供されるプロパティ情報１２１ｄの信頼度の判定結果を取得する。ここでは、固有グラフ情報生成部１２は、プロパティ情報１２１ｄの信頼度を表すラベルとして「Ｈ」を取得して、エッジ１４６に付与する。また、固有グラフ情報生成部１２は、プロパティ情報１２１ｅを含むサブグラフ情報を信頼度判定モデル１１３に入力して、河川課職員を騙る人を表すエンティティ１２２ｅから提供されるプロパティ情報１２１ｅの信頼度の判定結果を取得する。この場合、河川課職員を騙る人を表すエンティティ１２２ｅに延びるエッジは存在しないため、固有グラフ情報生成部１２は、その存在しないエッジについてのラベルの情報の入力は行わない。ここでは、固有グラフ情報生成部１２は、エンティティ１２２ｅから提供されるプロパティ情報１２１ｅの信頼度を示すラベルとして「Ｌ」を取得して、エッジ１４７に付与する（ステップＳ５）。

【0051】

図２に戻って説明を続ける。信憑性判定部１３は、信憑性判定傾向モデル１１４をデータ保持部１１から取得する。また、信憑性判定部１３は、受信者の固有グラフ情報の入力を固有グラフ情報生成部１２から受ける。次に、信憑性判定部１３は、信憑性判定傾向モデル１１４に固有グラフ情報を入力して、信憑性判定傾向モデル１１４から出力される信憑性の判定結果を取得する。その後、信憑性判定部１３は、取得した信憑性の判定結果を出力部１４へ出力する。また、信憑性判定部１３は、診断対象情報に対する信憑性の判定結果を機械学習モデル更新部１５へ出力する。

【0052】

図９は、信憑性判定傾向モデルを用いた信憑性判定の一例を示す図である。信憑性判定部１３は、固有グラフ情報生成部１２から取得した個別グラフ情報１５０を信憑性判定傾向モデル１１４へ入力する（ステップＳ６）。そして、信憑性判定部１３は、信憑性判定傾向モデル１１４から入力された判断対象情報に対する信憑性の判定結果１４８を取得する（ステップＳ７）。信憑性判定部１３は、例えば、図９に示すように、判断対象情報の信憑性の判定結果１４８として、「真」、「不明」又は「偽」のいずれかを示す情報を取得する。

【0053】

図２に戻って説明を続ける。出力部１４は、受信者の固有グラフ情報の入力を固有グラフ情報生成部１２から受ける。また、出力部１４は、判断対象情報の信憑性の判定結果の入力を信憑性判定部１３から受ける。そして、出力部１４は、受信者の固有グラフ情報及び判断対象情報の信憑性の判定結果を受信者端末装置２へ送信して、受信者に提供する。

【0054】

受信者は、提供された固有グラフ情報及び判断対象情報の信憑性の判定結果を、受信者端末装置２を用いて確認して判断対象の信憑性を判断する。その後、受信者は、受信者端末装置２等を用いて、判断対象に対して最終的に下した信憑性の判断結果を示す信憑性判断結果情報２１を生成する。また、受信者は、受信者端末装置２等を用いて、取得した固有グラフ情報には現状付加されていないがもし付加されていれば受信者が判断対象の信憑性が高いと判断するプロパティ情報の案である仮想評価情報２２を生成する。また、受信者は、取得した固有グラフ情報において付された信憑性のラベルのうちその値を修正するラベルがある場合には、そのラベル及び修正値を示す信頼度ラベル修正情報２３を生成する。そして、受信者端末装置２は、信憑性判断結果情報２１、仮想評価情報２２及び信頼度ラベル修正情報２３をフィードバック情報２０として情報処理装置１へ送信する。

【0055】

また、出力部１４は、更新された信頼度判定モデル１１３及び信憑性判定傾向モデル１１４の送信依頼を機械学習モデル更新部１５から受ける。そして、出力部１４は、更新された信頼度判定モデル１１３及び信憑性判定傾向モデル１１４を受信者端末装置２へ送信する。

【0056】

機械学習モデル更新部１５は、信憑性判断結果情報２１、仮想評価情報２２及び信頼度ラベル修正情報２３を含むフィードバック情報２０を受信者端末装置２から受信する。また、機械学習モデル更新部１５は、診断対象情報に対する信憑性の判定結果の入力を信憑性判定部１３から受ける。そして、機械学習モデル更新部１５は、信頼度ラベル修正情報２３で指定されたラベルの修正情報を用いて、信頼度判定モデル１１３の出力と受信者の判断との間の誤差が小さくなるように、信頼度判定モデル１１３のパラメータを更新する。

【0057】

また、機械学習モデル更新部１５は、信憑性判断結果情報２１に登録された信憑性の判定結果と自己が判定した判断対象情報の信憑性を比較し、さらに、仮想評価情報２２を用いて、信憑性判定傾向モデル１１４のパラメータを更新する。この場合、機械学習モデル更新部１５は、信憑性判定傾向モデル１１４の出力と受信者の判断との間の誤差が小さくなるように、信憑性判定傾向モデル１１４のパラメータを更新する。

【0058】

例えば、信頼度判定モデル１１３及び信憑性判定傾向モデル１１４がＧＮＮ等のニューラルネットワークとしてモデリングされている場合を例に説明する。その場合、機械学習モデル更新部１５は、確率的勾配降下法（ＳＧＤ：Stochastic Gradient Descent）やAdamなどの、ニューラルネットワークの出力と正解ラベルである受信者の判断との誤差に基づく手法を用いてパラメータの更新を行うことができる。

【0059】

図１０は、信憑性判定傾向モデルのパラメータ更新の一例を示す図である。機械学習モデル更新部１５は、信憑性判定傾向モデル１１４から出力された信憑性を「真」とする判定結果１４９を取得する。また、機械学習モデル更新部１５は、受信者Ｐにより信憑性が「偽」と判断された信憑性判断結果情報２１を取得する。次に、機械学習モデル更新部１５は、判定結果１４９と信憑性判断結果情報２１とを比較判定する（ステップＳ８）。そして、機械学習モデル更新部１５は、比較結果と仮想評価情報２２とを用いて信憑性判定傾向モデル１１４のパラメータを更新する（ステップＳ９）。

【0060】

ここで、本実施例では、受信者からフィードバックされた仮想評価情報２２を用いて信憑性判定傾向モデル１１４のパラメータを更新することで、情報処理装置１による信憑性判定の信頼度を上げることができる。ただし、仮想評価情報２２は、受信者からフィードバックされる信憑性判定の信頼度を上げるためのデータの一例であり、信憑性判定の信頼度向上に寄与することが可能なデータであれば他のデータを用いてもよい。また、仮想評価情報２２等の信憑性判定の信頼度を上げるための特別なデータを用いなくても、機械学習モデル更新部１５は、信憑性判断結果情報２１を基に信憑性判定傾向モデル１１４のパラメータを更新することは可能である。この仮想評価情報２２が、「仮想プロパティ情報」の一例にあたる。

【0061】

その後、機械学習モデル更新部１５は、更新した信頼度判定モデル１１３及び信憑性判定傾向モデル１１４を出力部１４へ出力して、受信者端末装置２への送信を依頼する。受信者は、受信者端末装置２を用いて、送られてきた更新された信頼度判定モデル１１３を信頼度判定モデル管理サーバ３１へ送信して、信頼度判定モデル管理サーバ３１が保持する自己の信頼度判定モデル１１３を更新させる。同様に、受信者は、受信者端末装置２を用いて、送られてきた更新された信憑性判定傾向モデル１１４を信憑性判定傾向モデル管理サーバ３２へ送信して、信憑性判定傾向モデル管理サーバ３２が保持する自己の信憑性判定傾向モデル１１４を更新させる。

【0062】

ここで、本実施例では、信頼度判定モデル管理サーバ３１及び信憑性判定傾向モデル管理サーバ３２が保持する信頼度判定モデル１１３及び信憑性判定傾向モデル１１４の更新を受信者に行わせたが、この更新は機械学習モデル更新部１５が行ってもよい。

【0063】

図１１は、実施例に係る信憑性判定処理の全体的な流れを示す図である。次に、図１１を参照して、情報処理装置１による信憑性判定処理の全体像をまとめて再度説明する。

【0064】

受信者は、ＳＮＳサーバ３５から得た判断対象情報の信憑性を判断するために、受信者端末装置２を用いて判断対象情報、信頼リスト１１２、信頼度判定モデル１１３及び信憑性判定傾向モデル１１４の指定を情報処理装置１に入力する。データ保持部１１は、受信者により指定された信頼リスト１１２を信頼リスト管理サーバ３３から受信して格納する。また、データ保持部１１は、受信者により指定された信頼度判定モデル１１３を信頼度判定モデル管理サーバ３１から取得して格納する。また、データ保持部１１は、受信者により指定された信憑性判定傾向モデル１１４を信憑性判定傾向モデル管理サーバ３２から取得して格納する。また、データ保持部１１は、入力された判断対象情報についてのグラフ情報１１１の作成指示をグラフ情報管理サーバ３４に依頼する。その後、データ保持部１１は、グラフ情報管理サーバ３４により作成された判断対象情報についてのグラフ情報１１１を受信して格納する。固有グラフ情報生成部１２は、データ保持部１１に格納されたグラフ情報１１１、信頼リスト１１２及び信頼度判定モデル１１３を用いて、固有グラフ情報１５１を生成する（ステップＳ１１）。

【0065】

信憑性判定部１３は、固有グラフ情報生成部１２により生成された固有グラフ情報１５１を信憑性判定傾向モデル１１４に入力する（ステップＳ１２）。そして、信憑性判定部１３は、信憑性判定傾向モデル１１４から出力された信憑性の判定結果１５２を取得する。

【0066】

出力部１４は、信憑性判定部１３から取得した信憑性の判定結果１５２を受信者端末装置２へ送信する（ステップＳ１３）。また、出力部１４は、固有グラフ情報生成部１２により生成された固有グラフ情報１５１を受信者端末装置２へ送信する（ステップＳ１４）。受信者端末装置２は、固有グラフ情報１５１及び信憑性の判定結果１５２を含む結果情報１５３をモニタに表示する等して受信者Ｐに提供する。

【0067】

受信者Ｐは、結果情報１５３を確認して、判断対象情報の信憑性を判断する。その後、受信者Ｐは、信憑性判断結果情報２１、仮想評価情報２２及び信頼度ラベル修正情報２３を含むフィードバック情報２０を情報処理装置１の機械学習モデル更新部１５へ送信する（ステップＳ１５）。

【0068】

機械学習モデル更新部１５は、フィードバック情報２０に含まれる信憑性判断結果情報２１及び仮想評価情報２２を用いて信憑性判定傾向モデル１１４のパラメータを更新する（ステップＳ１６）。また、機械学習モデル更新部１５は、フィードバック情報２０に含まれる信頼度ラベル修正情報２３を用いて信頼度判定モデル１１３のパラメータを更新する（ステップＳ１７）。次の時には、情報処理装置１は、パラメータが更新された信頼度判定モデル１１３及び信憑性判定傾向モデル１１４を用いて信憑性判定処理を実行する。

【0069】

図１２は、実施例に係る情報処理装置による信憑性判定処理のフローチャートである。次に、図１２を参照して、実施例に係る情報処理装置１による信憑性判定処理の流れを説明する。

【0070】

データ保持部１１は、判断対象情報、信頼リスト１１２、信頼度判定モデル１１３及び信憑性判定傾向モデル１１４の指定の入力を受信者端末装置２から受ける（ステップＳ１０１）。

【0071】

次に、データ保持部１１は、指定された信頼度判定モデル１１３、信憑性判定傾向モデル１１４及び信頼リスト１１２を信頼度判定モデル管理サーバ３１、信憑性判定傾向モデル管理サーバ３２、信頼リスト管理サーバ３３から取得する（ステップＳ１０２）。

【0072】

また、データ保持部１１は、入力された判断対象情報についてのグラフ情報１１１の作成指示をグラフ情報管理サーバ３４に依頼する。その後、データ保持部１１は、判断対象情報についてのグラフ情報１１１をグラフ情報管理サーバ３４から取得する（ステップＳ１０３）。

【0073】

固有グラフ情報生成部１２は、データ保持部１１に格納されたグラフ情報１１１、信頼リスト１１２及び信頼度判定モデル１１３を用いて、固有グラフ情報１５１を生成する（ステップＳ１０４）。

【0074】

信憑性判定部１３は、固有グラフ情報生成部１２により生成された固有グラフ情報１５１を信憑性判定傾向モデル１１４に入力してその出力を得ることで、診断対象情報の信憑性を判定する（ステップＳ１０５）。

【0075】

出力部１４は、固有グラフ情報生成部１２により生成された固有グラフ情報及び信憑性判定部１３から取得した信憑性の判定結果を受信者端末装置２へ出力する（ステップＳ１０６）。受信者Ｐは、結果情報１５３を確認して、判断対象情報の信憑性を判断する。

【0076】

その後、機械学習モデル更新部１５は、受信者からのフィードバックがあるか否かを判定する（ステップＳ１０７）。フィードバックがない場合（ステップＳ１０７：否定）、機械学習モデル更新部１５は処理を終了する。

【0077】

これに対して、フィードバックがある場合（ステップＳ１０７：肯定）、その後、機械学習モデル更新部１５は、信憑性判断結果情報２１、仮想評価情報２２及び信頼度ラベル修正情報２３を含むフィードバック情報２０を受信者端末装置２から取得する（ステップＳ１０８）。

【0078】

また、機械学習モデル更新部１５は、フィードバック情報２０に含まれる信頼度ラベル修正情報２３を用いて信頼度判定モデル１１３のパラメータを更新する（ステップＳ１０９）。

【0079】

次に、機械学習モデル更新部１５は、フィードバック情報２０に含まれる信憑性判断結果情報２１及び仮想評価情報２２を用いて信憑性判定傾向モデル１１４のパラメータを更新する（ステップＳ１１０）。

【0080】

その後、出力部１４は、機械学習モデル更新部１５により更新された信頼度判定モデル１１３及び信憑性判定傾向モデル１１４を受信者端末装置２へ送信する（ステップＳ１１１）。

【0081】

以上に説明したように、本実施例に係る情報処理装置は、信頼リスト、信頼度判定モデルを用いて、判断対象情報のグラフ情報に示された各生成主体によるプロパティ情報の信頼度を判定して、グラフ情報に信頼度を示すラベルを付加して固有グラフ情報を生成する。そして、情報処理装置は、生成した固有グラフ情報を信憑性判定傾向モデルに用いて判断対象情報の信憑性を判定する。受信者は、診断対象情報についての信憑性の判定結果及び固有グラフ情報に基づいて、診断対象情報の信憑性を判断することができる。さらに、情報処理装置は、受信者による信憑性の判断の結果の情報を含むフィードバック情報を取得して信頼度判定モデル及び信憑性判定傾向モデルを更新する。

【0082】

信頼度判定モデルは、受信者からフィードバックされた信憑性の判断結果を用いて機械学習が行われるため、各生成主体からのプロパティ情報の信憑性を受信者の判断傾向に応じて判定することができる。そして、信頼リストに記載された受信者が信頼する生成主体の情報や信頼度判定モデルを用いて、グラフ情報に信頼度のラベル付けを行うことで、受信者の判断傾向にしたがった信頼度を表す固有グラフ情報を生成することができる。さらに、固有グラフ情報を用いて診断対象情報の信憑性を判定することで、受信者目線の各生成主体に対する信頼度を反映した固有グラフ情報により判断対象の信憑性を判定することができ、受信者の判断傾向にしたがった信憑性の判定結果を得ることができる。これにより、受信者が受信した確からしさが不明なデータに対して、グラフ情報を用いて信憑性の判断を支援する際に、受信者目線の生成主体の信頼度を考慮してデータの信憑性の判断を支援すること可能となる。したがって、インターネット等から受信した受信情報についての信憑性判断を適切に行えるようにすることが可能となる。

【0083】

（ハードウェア構成）
図１３は、情報処理装置のハードウェア構成図である。次に、図１３を参照して、情報処理装置１の各機能を実現するためのハードウェア構成の一例について説明する。

【0084】

図１６に示すように、情報処理装置１は、例えば、ＣＰＵ（Central Processing Unit）９１、メモリ９２、ハードディスク９３、ネットワークインタフェース９４を有する。ＣＰＵ９１は、バスを介して、メモリ９２、ハードディスク９３及びネットワークインタフェース９４に接続される。

【0085】

ネットワークインタフェース９４は、情報処理装置１と外部装置との間の通信のためのインタフェースである。ネットワークインタフェース９４は、例えば、受信者端末装置２、信頼度判定モデル管理サーバ３１、信憑性判定傾向モデル管理サーバ３２、信頼リスト管理サーバ３３及びグラフ情報管理サーバ３４とＣＰＵ９１との間の通信を中継する。

【0086】

ハードディスク９３は、補助記憶装置である。ハードディスク９３は、図１に例示した、グラフ情報１１１、信頼リスト１１２、信頼度判定モデル１１３及び信憑性判定傾向モデル１１４を格納することができる。また、ハードディスク９３は、図１に例示した、データ保持部１１、固有グラフ情報生成部１２、信憑性判定部１３、出力部１４及び機械学習モデル更新部１５の機能を実現するためのプログラムを含む各種プログラムを格納する。

【0087】

メモリ９２は、主記憶装置である。メモリ９２は、例えば、ＤＲＡＭ（Dynamic Random Access Memory）を用いることができる。

【0088】

ＣＰＵ９１は、ハードディスク９３から各種プログラムを読み出して、メモリ９２に展開して実行する。これにより、ＣＰＵ９１は、図１に例示した、データ保持部１１、固有グラフ情報生成部１２、信憑性判定部１３、出力部１４及び機械学習モデル更新部１５の機能を実現する。

【符号の説明】

【0089】

１ 情報処理装置
２ 受信者端末装置
３ サーバ群
４ インターネット
１１ データ保持部
１２ 固有グラフ情報生成部
１３ 信憑性判定部
１４ 出力部
１５ 機械学習モデル更新部
３１ 信頼度判定モデル管理サーバ
３２ 信憑性判定傾向モデル管理サーバ
３３ 信頼リスト管理サーバ
３４ グラフ情報管理サーバ
３５ ＳＮＳサーバ
１００ 情報処理システム
１１１ グラフ情報
１１２ 信頼リスト
１１３ 信頼度判定モデル
１１４ 信憑性判定傾向モデル

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】