特開2024-153182サーバ装置、システム、サーバ装置の制御方法及びプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024153182
(43)【公開日】2024-10-29
(54)【発明の名称】サーバ装置、システム、サーバ装置の制御方法及びプログラム
(51)【国際特許分類】
G06Q 50/10 20120101AFI20241022BHJP
【ＦＩ】
G06Q50/10
【審査請求】未請求
【請求項の数】9
【出願形態】ＯＬ
(21)【出願番号】P 2023066920
(22)【出願日】2023-04-17
(71)【出願人】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100168310
【弁理士】
【氏名又は名称】▲高▼橋 幹夫
(72)【発明者】
【氏名】佐藤 雄亮
【テーマコード（参考）】
5L049
5L050
【Ｆターム（参考）】
5L049CC11
5L050CC11
(57)【要約】
【課題】ＡＩを用いたサービスが提供するサービス内容を事前に検証可能とする、サーバ装置を提供する。
【解決手段】サーバ装置は、判断ルール生成手段と、公開手段と、を備える。判断ルール生成手段は、少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する。公開手段は、サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として当該生成された判断ルールを公開する。
【選択図】図１
【解決手段】サーバ装置は、判断ルール生成手段と、公開手段と、を備える。判断ルール生成手段は、少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する。公開手段は、サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として当該生成された判断ルールを公開する。
【選択図】図１
【特許請求の範囲】
【請求項1】
少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する、判断ルール生成手段と、
前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する、公開手段と、
を備える、サーバ装置。
前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する、公開手段と、
を備える、サーバ装置。
【請求項2】
前記公開手段は、前記サービス提供用ＡＩを用いて提供されるサービスのサービス利用規約と、前記判断ルールを含むサービス概略情報と、を公開する、請求項１に記載のサーバ装置。
【請求項3】
利用者のユーザデータを取得し、前記取得したユーザデータを前記サービス提供用ＡＩに入力し、前記サービス提供用ＡＩの出力結果を得る、ＡＩ実行手段と、
前記取得したユーザデータを用いて前記判断ルールを実行することで得られる実行結果に基づいて、前記サービス提供用ＡＩの出力結果の妥当性を説明する、妥当性説明情報を生成する、妥当性説明情報生成手段と、
前記サービス提供用ＡＩの出力結果と共に前記妥当性説明情報を前記利用者に提供する、提供手段と、
をさらに備える、請求項２に記載のサーバ装置。
前記取得したユーザデータを用いて前記判断ルールを実行することで得られる実行結果に基づいて、前記サービス提供用ＡＩの出力結果の妥当性を説明する、妥当性説明情報を生成する、妥当性説明情報生成手段と、
前記サービス提供用ＡＩの出力結果と共に前記妥当性説明情報を前記利用者に提供する、提供手段と、
をさらに備える、請求項２に記載のサーバ装置。
【請求項4】
前記ＡＩ実行手段は、前記サービス提供用ＡＩを秘密計算によって実行する、請求項３に記載のサーバ装置。
【請求項5】
前記サービス提供用ＡＩの出力結果と前記判断ルールの実行結果の合致率を算出し、前記算出された合致率が閾値よりも低い場合、前記サービス提供用ＡＩを用いてサービスを提供するサービス事業者に、前記判断ルールの検証を要求する、要求手段と、
前記サービス事業者から前記判断ルールの更新指示を取得した場合、前記判断ルールの再学習を行う、再学習手段と、
をさらに備える、請求項４に記載のサーバ装置。
前記サービス事業者から前記判断ルールの更新指示を取得した場合、前記判断ルールの再学習を行う、再学習手段と、
をさらに備える、請求項４に記載のサーバ装置。
【請求項6】
前記サービス提供用ＡＩは、前記少なくとも１以上のブラックボックス型ＡＩと少なくとも１以上のホワイトボックス型ＡＩを含んで構成される、請求項１乃至５のいずれか一項に記載のサーバ装置。
【請求項7】
利用者のユーザデータを記憶する、第１のサーバと、
前記利用者のユーザデータに関する、データ共有を制御する、流通制御サーバと、
少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩを用いて前記利用者にサービスを提供する、第２のサーバと、
を含み、
前記第２のサーバは、
前記サービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する、判断ルール生成手段と、
前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する、公開手段と、
前記利用者のユーザデータのデータ共有を前記流通制御サーバに要請することで、前記第１のサーバから前記利用者のユーザデータを取得し、前記取得したユーザデータを前記サービス提供用ＡＩに入力し、前記サービス提供用ＡＩの出力結果を得る、ＡＩ実行手段と、
前記取得したユーザデータを用いて前記判断ルールを実行することで得られる実行結果に基づいて、前記サービス提供用ＡＩの出力結果の妥当性を説明する、妥当性説明情報を生成する、妥当性説明情報生成手段と、
前記サービス提供用ＡＩの出力結果と共に前記妥当性説明情報を前記利用者に提供する、提供手段と、
を備える、システム。
前記利用者のユーザデータに関する、データ共有を制御する、流通制御サーバと、
少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩを用いて前記利用者にサービスを提供する、第２のサーバと、
を含み、
前記第２のサーバは、
前記サービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する、判断ルール生成手段と、
前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する、公開手段と、
前記利用者のユーザデータのデータ共有を前記流通制御サーバに要請することで、前記第１のサーバから前記利用者のユーザデータを取得し、前記取得したユーザデータを前記サービス提供用ＡＩに入力し、前記サービス提供用ＡＩの出力結果を得る、ＡＩ実行手段と、
前記取得したユーザデータを用いて前記判断ルールを実行することで得られる実行結果に基づいて、前記サービス提供用ＡＩの出力結果の妥当性を説明する、妥当性説明情報を生成する、妥当性説明情報生成手段と、
前記サービス提供用ＡＩの出力結果と共に前記妥当性説明情報を前記利用者に提供する、提供手段と、
を備える、システム。
【請求項8】
サーバ装置において、
少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成し、
前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する、サーバ装置の制御方法。
少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成し、
前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する、サーバ装置の制御方法。
【請求項9】
サーバ装置に搭載されたコンピュータに、
少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する処理と、
前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する処理と、
を実行させるためのプログラム。
少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する処理と、
前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する処理と、
を実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、サーバ装置、システム、サーバ装置の制御方法及びプログラムに関する。
【背景技術】
【0002】
近年、ＡＩ（Artificial Intelligence）を用いたサービスの提供が行われている。ＡＩの出力結果を検証するための技術等が開発されている。
【0003】
例えば、特許文献１には、ブラックボックス化された機械学習モデルが出力する予測値の予測精度が悪化した要因を特定することが可能な機械学習モデル精度分析システムを提供する、と記載されている。特許文献１のホワイトボックスモデル作成部は、ブラックボックスモデルの作成に合わせて、ブラックボックスモデルの作成に用いられた入力データを説明変数とし、ブラックボックスモデルが出力する予測値を目的変数としてホワイトボックスモデルを作成する。精度悪化要因特定部は、ブラックボックスモデルの予測値の精度が判定される判定期間に、ブラックボックスモデルから出力される予測値の精度が変化したことが判定されると、判定期間に蓄積された入力データをホワイトボックスモデルに入力する。精度悪化要因特定部は、当該入力データをホワイトボックスモデルに入力して、予測値の精度が変化した要因を特定する。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開２０２２－０４６１４５号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
近年におけるＡＩ関連技術の進展は目覚ましく、ＡＩを用いて利用者にサービスが提供される機会が増加している。また、情報バンク等のデータ連携基盤を利用するサービスも数多く登場している。このような状況において、ＡＩを活用した高度なサービスを利用者に提供することが求められている。とりわけ、複数のＡＩを活用した高度なサービスの提供が求められている。
【0006】
ここで、利用者は、ＡＩを用いたサービスの提供申し込みをする前に、当該ＡＩを用いたサービスが提供するサービス内容（ＡＩの出力結果）の妥当性を検証できないという問題がある。とりわけ、ブラックボックス型ＡＩがサービスの提供に用いられている場合、サービス提供者であっても、当該ＡＩが出力する結果を説明することができない。
【0007】
本発明は、ＡＩを用いたサービスが提供するサービス内容を事前に検証可能とすることに寄与する、サーバ装置、システム、サーバ装置の制御方法及びプログラムを提供することを主たる目的とする。
【課題を解決するための手段】
【0008】
本発明の第１の視点によれば、少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する、判断ルール生成手段と、前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する、公開手段と、を備える、サーバ装置が提供される。
【0009】
本発明の第２の視点によれば、利用者のユーザデータを記憶する、第１のサーバと、前記利用者のユーザデータに関する、データ共有を制御する、流通制御サーバと、少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩを用いて前記利用者にサービスを提供する、第２のサーバと、を含み、前記第２のサーバは、前記サービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する、判断ルール生成手段と、前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する、公開手段と、前記利用者のユーザデータのデータ共有を前記流通制御サーバに要請することで、前記第１のサーバから前記利用者のユーザデータを取得し、前記取得したユーザデータを前記サービス提供用ＡＩに入力し、前記サービス提供用ＡＩの出力結果を得る、ＡＩ実行手段と、前記取得したユーザデータを用いて前記判断ルールを実行することで得られる実行結果に基づいて、前記サービス提供用ＡＩの出力結果の妥当性を説明する、妥当性説明情報を生成する、妥当性説明情報生成手段と、前記サービス提供用ＡＩの出力結果と共に前記妥当性説明情報を前記利用者に提供する、提供手段と、を備える、システムが提供される。
【0010】
本発明の第３の視点によれば、サーバ装置において、少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成し、前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する、サーバ装置の制御方法が提供される。
【0011】
本発明の第４の視点によれば、サーバ装置に搭載されたコンピュータに、少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する処理と、前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する処理と、を実行させるためのプログラムが提供される。
【発明の効果】
【0012】
本発明の各視点によれば、ＡＩを用いたサービスが提供するサービス内容を事前に検証可能とすることに寄与する、サーバ装置、システム、サーバ装置の制御方法及びプログラムが提供される。なお、本発明の効果は上記に限定されない。本発明により、当該効果の代わりに、又は当該効果と共に、他の効果が奏されてもよい。
【図面の簡単な説明】
【0013】
【発明を実施するための形態】
【0014】
はじめに、一実施形態の概要について説明する。なお、この概要に付記した図面参照符号は、理解を助けるための一例として各要素に便宜上付記したものであり、この概要の記載はなんらの限定を意図するものではない。また、特段の釈明がない場合には、各図面に記載されたブロックはハードウェア単位の構成ではなく、機能単位の構成を表す。各図におけるブロック間の接続線は、双方向及び単方向の双方を含む。一方向矢印については、主たる信号（データ）の流れを模式的に示すものであり、双方向性を排除するものではない。なお、本明細書及び図面において、同様に説明されることが可能な要素については、同一の符号を付することにより重複説明が省略され得る。
【0015】
一実施形態に係るサーバ装置１００は、判断ルール生成手段１０１と、公開手段１０２と、を備える（図１参照）。判断ルール生成手段１０１は、少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する（図２のステップＳ１）。公開手段１０２は、サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として当該生成された判断ルールを公開する（ステップＳ２）。
【0016】
データ連携基盤を利用するサービスの増加に伴い、複数のサービスを連携させることで「高度なサービス」を実現するニーズが高まることが予想される。連携させる複数のサービスがＡＩを利用する場合、その総体である「高度なサービス」が提供したサービスの妥当性の説明が求められる。即ち、複数のＡＩを連携させて得られる結果に対する根拠の説明が求められる。ここで、複数のＡＩのなかにブラックボックス型ＡＩが含まれると、上記高度なサービスの提供したサービス内容の妥当性に関する説明が困難になる。
【0017】
上記状況を鑑みて、サーバ装置１００は、ブラックボックス型ＡＩを含むサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成し、当該生成した判断ルールを公開する。当該公開された判断ルールを参照することで、利用者は、提供されるサービスを使い始める前（サービスの申し込みをする前）に、妥当な内容の結果が提供されるか否か検証（確認）できる。
【0018】
以下に具体的な実施形態について、図面を参照してさらに詳しく説明する。
【0019】
［第１の実施形態］
第１の実施形態について、図面を用いてより詳細に説明する。
第１の実施形態について、図面を用いてより詳細に説明する。
【0020】
［システム構成］
図３は、第１の実施形態に係る情報流通システムの概略構成の一例を示す図である。図３に示すように、情報流通システムの参加メンバー（アクター）には、情報流通事業者と、サービス事業者と、が含まれる。
図３は、第１の実施形態に係る情報流通システムの概略構成の一例を示す図である。図３に示すように、情報流通システムの参加メンバー（アクター）には、情報流通事業者と、サービス事業者と、が含まれる。
【0021】
情報流通事業者は、サービス事業者に蓄積されたパーソナルデータのデータ流通サービス（情報流通サービス）のプラットフォームを提供する事業者である。情報流通事業者は、サービス事業者間のデータ流通を制御する。情報流通事業者は、流通制御サーバ１０を備える。
【0022】
流通制御サーバ１０は、情報流通事業者により運営される。流通制御サーバ１０は、サービス事業者間のデータ流通を制御（実現）するサーバ装置である。流通制御サーバ１０は、サービス事業者が保持するデータの情報流通サービスを実現する。
【0023】
サービス事業者は、個人にサービスを提供する主体である。サービス事業者は、民間の事業者であってもよいし公的機関であってもよい。サービス事業者には、例えば、利用者に医療サービスを提供する医療機関（病院、薬局等）、小売業者、顧客に語学、スポーツ、芸術等を教える教育事業者等が例示される。
【0024】
各サービス事業者は、顧客にサービスを提供するためのサービスサーバ２０を備える。サービスサーバ２０は、サービス事業者により管理、運営される。サービスサーバ２０は、サービス事業者が利用者にサービスを提供することで生じたデータ、利用者にサービスを提供するために必要なデータ等を保持（記憶）する。サービス事業者は、利用者に提供するサービスに関するユーザデータを保持する。
【0025】
サービス事業者のなかには、ＡＩ（Artificial Intelligence）を用いたサービスを提供するＡＩサービス事業者が含まれる。ＡＩサービス事業者が運営するサービスサーバ２０をＡＩサービスサーバ２１と表記する。
【0026】
このように、情報流通システムには、利用者のユーザデータを記憶する、サービスサーバ２０（第１のサーバ）と、利用者のユーザデータに関する、データ共有を制御する、流通制御サーバ１０と、ＡＩサービスサーバ２１（第２のサーバ）と、が含まれる。ＡＩサービスサーバ２１は、少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩを用いて利用者にサービスを提供する。サービス提供用ＡＩの説明は後述する。
【0027】
情報流通システムを利用する利用者は、端末３０を使用する。
【0028】
図３に示す各装置はネットワークを介して相互に接続されている。例えば、流通制御サーバ１０とサービスサーバ２０は、有線又は無線の通信手段により接続され、相互に通信が可能となるように構成されている。
【0029】
図３に示す構成は例示であって、本願開示の情報流通システムの構成等を限定する趣旨ではない。例えば、情報流通事業者には２台以上の流通制御サーバ１０が含まれていてもよい。
【0030】
［システムの概略動作］
続いて、第１の実施形態に係る情報流通システムの概略動作について説明する。
続いて、第１の実施形態に係る情報流通システムの概略動作について説明する。
【0031】
はじめに、病院等に蓄積されたユーザデータの流通（データ共有）について説明する。その後、複数のサービス事業者のうちのＡＩサービス事業者が、複数のＡＩ（学習モデル）を用いたサービスを利用者に提供する場合について説明する。
【0032】
利用者は、サービスの提供を受けたいサービス事業者と個別に契約を締結する。例えば、利用者は、氏名等をサービス事業者に提供しつつ当該サービス事業者と新たな契約（サービスを享受するための契約）をしたい旨を申し出る。
【0033】
例えば、病院を受診したい利用者は、氏名等が記載された健康保険証等を当該病院に提出する。あるいは、オンラインショッピングに係るサービスを提供するＥＣ（Electronic Commerce）事業者については、利用者は、当該ＥＣ事業者が運営するサービスサーバ２０にアクセスしアカウントを生成する。
【0034】
サービス事業者は、新規な顧客（利用者）を識別するための「個人識別ＩＤ」を生成する。例えば、病院は、利用者（患者）を管理するための診察券番号を採番し、当該診察券番号を個人識別ＩＤとして生成する。ＥＣ事業者は、顧客を管理するための会員番号等を個人識別ＩＤとして生成する。サービスサーバ２０は、生成した個人識別ＩＤ（例えば、診察券番号や会員番号等）をデータベース等に記憶する。
【0035】
個人識別ＩＤが生成されると、利用者は、サービス事業者からサービスの提供を受けることができる。例えば、利用者は病院から医療サービス（健康診断や診察等）を受ける。あるいは、利用者は、ＥＣ事業者を利用してオンラインショッピングを行う。
【0036】
サービス事業者が利用者にサービスを提供したこと等で生じたユーザデータを、データ流通の対象とするためには、データの「蓄積」が必要になる。データ蓄積は、サービス事業者（ユーザデータの提供元）が、ユーザデータを第三者に提供可能なデータとして情報流通システムに登録することである。
【0037】
流通制御サーバ１０は、データ蓄積者（サービス事業者）から利用者に提供されるサービスに関するデータをデータ流通の対象とするためのデータ蓄積を制御する。即ち、流通制御サーバ１０は、ユーザデータを第三者に提供可能なデータとして情報流通システムに登録するためのデータ蓄積を制御する。蓄積されたデータがデータ流通の対象となる。
【0038】
情報流通システムにおけるデータ流通の手段として「共有」が存在する。流通制御サーバ１０は、データ蓄積により登録されたユーザデータを一のサービスサーバ２０から他のサービスサーバ２０に共有するためのデータ共有を制御する。
【0039】
「共有」は、サービス事業者が、他のサービス事業者により蓄積されたデータを取得するための手段である。例えば、病院が利用者にサービス提供することで生成されたデータをＥＣ事業者が取得する際に「共有」によるデータ流通が用いられる。ＥＣ事業者は、データ共有により病院から取得したデータを用いて利用者によりよいサービスを提供する。
【0040】
「共有」は、サービス利用者自身の利便性の向上に用いられるため、利用者にデータ流通に対する対価（利用者に対する対価）は支払われない。「共有」は、利用者がサービス事業者からより良いサービスの提供を受けるため他のサービス事業者が蓄積したデータを活用するために使用されるためである。
【0041】
流通制御サーバ１０は、データ共有先（データの供給を受けるサービス事業者）が蓄積されたデータを取得するためのデータ共有を制御する。
【0042】
＜システムアカウントの生成＞
情報流通システムの利用者は事前に登録（利用者登録、システム登録）を行う必要がある。より具体的には、利用者は、流通制御サーバ１０にアクセスし、アカウント生成のための手続きを行う。以降の説明において、情報流通システムに生成されたアカウントを「システムアカウント」と表記する。
情報流通システムの利用者は事前に登録（利用者登録、システム登録）を行う必要がある。より具体的には、利用者は、流通制御サーバ１０にアクセスし、アカウント生成のための手続きを行う。以降の説明において、情報流通システムに生成されたアカウントを「システムアカウント」と表記する。
【0043】
システムアカウントを生成するため、利用者は、所持する端末３０を操作して、流通制御サーバ１０にアクセスする。端末３０のアクセスに応じて、流通制御サーバ１０は、システムアカウントを生成するためのＷＥＢ（ウェブ）ページを表示する。
【0044】
利用者は、システムアカウント生成のための操作（例えば、所定ボタンの押下）を行い、システムアカウントを生成する。その際、流通制御サーバ１０は、利用者のシステムアカウント生成に必要な情報を取得する。具体的には、流通制御サーバ１０は、利用者のログイン情報（ログインＩＤ、パスワード）や個人情報（氏名、生年月日、連絡先、口座情報等）を取得する。
【0045】
ログイン情報、個人情報等を取得すると、流通制御サーバ１０は、当該利用者を情報流通システムにおいて一意に識別するためのユーザＩＤ（Identifier）を生成する。
【0046】
流通制御サーバ１０は、当該生成された利用者のユーザＩＤ、ログイン情報及び個人情報（例えば、氏名、生年月日、連絡先）等を対応付けて記憶する。流通制御サーバ１０は、これらの情報を「利用者情報データベース」に記憶する。利用者情報データベースの詳細は後述する。
【0047】
流通制御サーバ１０は、生成したユーザＩＤを利用者（端末３０）に払い出す。端末３０は、払い出されたユーザＩＤを記憶する。
【0048】
＜ＩＤの連携＞
上述のように、サービス事業者が保持するユーザデータをデータ流通の対象とするためには、「データ蓄積」が必要となる。データ蓄積を実現するためには、システムアカウントのＩＤ（ユーザＩＤ）とサービス事業者が生成したＩＤ（個人識別ＩＤ）を連携する必要がある。
上述のように、サービス事業者が保持するユーザデータをデータ流通の対象とするためには、「データ蓄積」が必要となる。データ蓄積を実現するためには、システムアカウントのＩＤ（ユーザＩＤ）とサービス事業者が生成したＩＤ（個人識別ＩＤ）を連携する必要がある。
【0049】
例えば、図４に示すように、利用者は病院の窓口において、当該病院が保持するユーザデータの活用を希望している旨を病院職員に伝える（データ活用の申し込みを行う）。病院職員は、利用者の個人特定情報、利用者の個人識別ＩＤ（例えば、診察券番号）及び事業者コードを病院端末４０に入力する。
【0050】
なお、個人特定情報は、利用者を特定するための情報である。個人特定情報には、利用者の氏名、又は、氏名と生年月日の組み合わせ等が例示される。
【0051】
また、事業者コードは、情報流通システムに参加するサービス事業者を識別するための識別情報（ＩＤ）である。例えば、病院とＥＣ事業者には異なるコードが割り当てられる。事業者コードは、任意の手段によりシステム参加者（情報流通事業者、サービス事業者）の間で共有される。例えば、サービス事業者が情報流通システムに参加する際、情報流通事業者が当該サービス事業者に割り当てる事業者コードを生成する。情報流通事業者は、当該生成した事業者コードをサービス事業者等に通知する。
【0052】
病院端末４０は、取得した個人特定情報、個人識別ＩＤ及び事業者コードを含む「ＩＤ連携要求」を流通制御サーバ１０に送信する。
【0053】
あるいは、ＥＣ事業者のユーザデータの活用を希望する利用者は、端末３０を操作して、当該ＥＣ事業者のサービスサーバ２０にアクセスする（図５参照）。利用者は、ＥＣ事業者のアカウントにログインし、当該アカウント上でデータ活用のための申請を行う。当該申請に応じて、サービスサーバ２０は、利用者の個人特定情報、個人識別ＩＤ及び事業者コードを含む「ＩＤ連携要求」を流通制御サーバ１０に送信する。
【0054】
流通制御サーバ１０は、病院端末４０やサービスサーバ２０からＩＤ連携希望者の個人特定情報、個人識別ＩＤ及びＩＤ連携の対象となるサービス事業者（例えば、病院、ＥＣ事業者）の事業者コードを取得する。
【0055】
流通制御サーバ１０は、事業者コードからＩＤ連携の対象となっているサービス事業者を特定する。また、流通制御サーバ１０は、個人特定情報からシステムアカウントに登録された利用者を特定する。流通制御サーバ１０は、当該特定した利用者のアカウントにおいてサービス事業者と個人識別ＩＤを対応付ける。
【0056】
個人識別ＩＤがシステムアカウントに登録されると（ＩＤ連携が完了すると）、ＩＤ連携の対象となったサービス事業者は、データ活用を希望する利用者のユーザデータを「蓄積」可能となる。
【0057】
＜データ蓄積＞
サービス事業者は、利用者にサービスを提供すると、当該利用者の個人識別ＩＤとユーザデータ（パーソナルデータ）を対応付けて記憶する。例えば、病院は、利用者の診察を行い病名が得られると、当該利用者の個人識別ＩＤ（診察券番号等）と病名（例えば、胃がん等の具体的な病名）を対応付けて記憶する。例えば、サービスサーバ２０は、「顧客情報データベース」を用いて利用者の個人識別ＩＤとユーザデータを対応付けて記憶する。なお、顧客情報データベースの詳細は後述する。
サービス事業者は、利用者にサービスを提供すると、当該利用者の個人識別ＩＤとユーザデータ（パーソナルデータ）を対応付けて記憶する。例えば、病院は、利用者の診察を行い病名が得られると、当該利用者の個人識別ＩＤ（診察券番号等）と病名（例えば、胃がん等の具体的な病名）を対応付けて記憶する。例えば、サービスサーバ２０は、「顧客情報データベース」を用いて利用者の個人識別ＩＤとユーザデータを対応付けて記憶する。なお、顧客情報データベースの詳細は後述する。
【0058】
サービス事業者のサービスサーバ２０は、ＩＤ連携の完了した利用者（データ活用の申し込みをした利用者）に関し、ユーザデータ（サービス提供の結果生じるデータ、サービスの提供に必要なデータ）を記憶するたびにデータ蓄積に関する制御を行う。
【0059】
具体的には、サービスサーバ２０は、利用者のユーザデータを蓄積データ（データ流通対象のユーザデータ）として情報流通システムに登録する。具体的には、サービスサーバ２０は、ＩＤ連携の完了した利用者に関する「所在情報」を流通制御サーバ１０に送信する（図６参照）。
【0060】
所在情報は、ユーザデータの保管場所（データの蓄積主体；サービス事業者）等に関する情報である。所在情報には、ユーザデータ（蓄積データ）を識別するためのデータＩＤ、個人識別ＩＤ、事業者コード、保持するデータの種類等が含まれる。
【0061】
流通制御サーバ１０は、取得した所在情報を「所在情報データベース」に記憶する。所在情報データベースの詳細は後述する。所在情報データベースは、データＩＤ、個人識別ＩＤ、事業者コード及びデータ種類等を対応付けて記憶する。
【0062】
＜データ共有＞
他のサービス事業者が蓄積したデータ（他のサービス事業者が利用者にサービスを提供した結果生じたユーザデータ）の取得を希望するサービス事業者は、「共有」によって当該データを取得する。
他のサービス事業者が蓄積したデータ（他のサービス事業者が利用者にサービスを提供した結果生じたユーザデータ）の取得を希望するサービス事業者は、「共有」によって当該データを取得する。
【0063】
ここでは、図７を参照しつつ、ＥＣ事業者Ｂが、病院Ａに蓄積された利用者のデータ（診察結果；病名）を「共有」により取得する場合について説明する。なお、病院はサービスサーバ２０－１を備え、ＥＣ事業者はサービスサーバ２０－２を備える。
【0064】
ＥＣ事業者Ｂ（サービスサーバ２０－２）は、「共有要請」を流通制御サーバ１０に送信する（ステップＳ１１）。
【0065】
流通制御サーバ１０は、共有要請に基づいて、データ流通の対象者である利用者と流通させるデータのデータ蓄積者（病院Ａ）を特定する。流通制御サーバ１０は、特定された対象者が所持する端末３０に対して、データ共有に関する問合せを送信する（ステップＳ１２）。
【0066】
データ共有の問合せを受信した端末３０は、データ共有に関する利用者の意思を取得する。例えば、端末３０は、ＧＵＩ（Graphical User Interface）を用いて利用者の意思を取得する。上記の例では、端末３０は、「病院の診察結果をＥＣ事業者へ共有することで、より良いサービスが受けられます。共有しますか？」といった内容のＧＵＩを表示し、利用者の意思（データ共有に同意、不同意）を取得する。
【0067】
端末３０は、データ共有の問合せに対する応答（データ共有に同意、又は、データ共有を拒否）を流通制御サーバ１０に送信する（ステップＳ１３）。
【0068】
利用者の同意が得られれば、流通制御サーバ１０は、データ共有元（病院Ａ）に対して共有指示を送信する（ステップＳ１４）。
【0069】
共有指示を受信した病院Ａ（サービスサーバ２０－１）は、顧客情報データベースを参照し、対象となる利用者の診察結果（病名）等を指定されたデータ共有先であるサービスサーバ２０－２に送信する（ステップＳ１５）。
【0070】
＜複数のＡＩを用いたサービスの提供＞
続いて、ＡＩサービス事業者が、複数のＡＩを用いたサービスを利用者に提供する場合について説明する。
続いて、ＡＩサービス事業者が、複数のＡＩを用いたサービスを利用者に提供する場合について説明する。
【0071】
図８に示すＡＩサービス事業者は、複数のＡＩ（機械学習により得られる複数の学習モデル）を用いて利用者にサービスを提供する。ＡＩサービス事業者が用いるＡＩ（Artificial Intelligence）のなかには、少なくとも１以上のブラックボックス型ＡＩが含まれる。
【0072】
ブラックボックス型ＡＩは、ＡＩによる出力結果（判断結果、分析結果）の根拠を提示できないタイプのＡＩである。対して、ホワイトボックス型ＡＩは、ＡＩによる出力結果の判断根拠を提示できるタイプのＡＩである。
【0073】
以下の説明では、ＡＩサービス事業者が「健康アドバイス」に関するサービスを利用者に提供する場合を例にとりシステムの動作等を説明する。
【0074】
ＡＩサービス事業者は、複数のＡＩを用いて健康アドバイスサービスを利用者に提供する。図９に示すように、健康アドバイスサービスは、複数のＡＩを用いて提供される。なお、以降の説明において、健康アドバイスサービスを提供するための複数のＡＩ（ＡＩの集合、ＡＩ群）を「健康アドバイスＡＩ」と表記する。ＡＩサービス事業者は、健康アドバイスＡＩを、少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩとして用いる。
【0075】
図９に示すように、健康アドバイスＡＩは、睡眠サポートＡＩ、食事レコメンドＡＩ、運動レコメンドＡＩ、サプリメントレコメンドＡＩ及びスケジュール生成ＡＩからなる。ＡＩサービス事業者は、これら複数のＡＩから構成される健康アドバイスＡＩを用いて、利用者に対して健康アドバイスサービスを提供する。例えば、健康アドバイスＡＩを構成する複数のＡＩのうち食事レコメンドＡＩがブラックボックス型ＡＩである。
【0076】
健康アドバイスＡＩには、利用者のユーザデータが入力データとして入力される。例えば、利用者（健康アドバイスサービスを享受する利用者）の運動量、食事メニュー、睡眠時間、体組成、バイタルデータ等の情報が「実績情報」として健康アドバイスＡＩに入力される。
【0077】
実績情報の全部又は一部の情報は、各ＡＩに入力される。各ＡＩは、入力された実績情報を使って結果を出力する。例えば、睡眠サポートＡＩは、運動量を用いて当該運動量から推奨される睡眠時間を出力する。
【0078】
健康アドバイスＡＩでは、スケジュール生成ＡＩが、他のＡＩからの出力を取得し、利用者の健康維持等に推奨されるスケジュールを出力する。ここで、上述のように、食事レコメンドＡＩはブラックボックス型ＡＩであるので、当該食事レコメンドＡＩを含んで構成される健康アドバイスＡＩの出力結果の全部又は一部は判断根拠が提示されない。
【0079】
なお、個別のＡＩに関する動作やＡＩを健康アドバイスＡＩに関する詳細な説明を省略する。個別のＡＩ等に関する詳細な説明は本願開示の趣旨とは異なるためである。
【0080】
図８に説明を戻す。利用者は、健康アドバイスサービスを提供するＡＩサービス事業者にサービス提供の申し込みを行う。その際、利用者は、ＡＩサービス事業者により公開されている、健康アドバイスサービスの利用規約と健康アドバイスサービスの概略を確認する。
【0081】
ＡＩサービス事業者は、健康アドバイスサービスの概要や、当該サービスで用いられるＡＩの概略、健康アドバイスＡＩがどのような規則に従って動作するか利用者が確認可能な情報等を「サービス概略情報」としてウェブページ等で公開する。
【0082】
なお、以降の説明において、健康アドバイスＡＩ（サービス提供用ＡＩ）が出力結果を得るまでの判断（過程）を条件式によって示すルールを「判断ルール」と表記する。判断ルールの詳細は後述する。
【0083】
利用者は、公開されたサービス利用規約やサービス概略情報を参照する。利用者は、健康アドバイスサービスの内容に納得すると、健康アドバイスサービスを申し込む。即ち、利用者は、公開されたサービス利用規約やサービス概略情報に同意すると、健康アドバイスサービスの申し込みを行う。
【0084】
サービス提供の申し込みに応じて、ＡＩサービス事業者のＡＩサービスサーバ２１は、健康アドバイスＡＩに入力するための入力データ（利用者の実績情報；例えば、運動量、食事メニュー等）を他のサービス事業者から取得する。
【0085】
具体的には、ＡＩサービスサーバ２１は、運動量等のユーザデータを記憶するサービス事業者のサービスサーバ２０から「データ共有」により当該運動量等のユーザデータを取得する。
【0086】
ＡＩサービスサーバ２１は、取得したユーザデータを上述の「実績情報」として複数のＡＩからなる健康アドバイスＡＩに入力する。ＡＩサービスサーバ２１は、健康アドバイスＡＩの出力結果を用いて健康アドバイスサービスを利用者に提供する。例えば、ＡＩサービスサーバ２１は、健康アドバイスＡＩの出力結果（推奨スケジュール）を利用者の端末３０に表示する。
【0087】
利用者にサービスを提供する際（推奨スケジュールを提示する際）、ＡＩサービスサーバ２１は、健康アドバイスサービスの出力結果（推奨スケジュール）の妥当性を利用者が検証可能（判断可能）な情報を生成する。ＡＩサービスサーバ２１は、複数のＡＩを用いて提供されるサービスの出力結果の妥当性を利用者本人が検証可能とする「妥当性説明情報」を生成する。
【0088】
ＡＩサービスサーバ２１は、推奨スケジュールと共に上記生成された妥当性説明情報も併せて利用者に提供する。具体的には、ＡＩサービスサーバ２１は、妥当性説明情報を含む「サービス結果説明」を利用者に提供する。例えば、ＡＩサービスサーバ２１は、サービス結果説明を利用者の端末３０に表示する。
【0089】
また、ＡＩサービスサーバ２１は、利用者にサービスを提供するたびに判断ルールの検証を行う。具体的には、ＡＩサービスサーバ２１は、健康アドバイスＡＩの出力結果と、上記判断ルールの実行結果と、を比較する。ＡＩサービスサーバ２１は、２つの結果の合致率を算出し、当該算出された合致率が閾値よりも低い場合、判断ルールの検討をＡＩサービス事業者に要求する。
【0090】
具体的には、ＡＩサービスサーバ２１は、合致率が低く算出された入力データ（実績情報）、出力データ（推奨スケジュール）及び合致率等を含む「判断ルール検証要求」をＡＩサービス事業者の管理者等が所持する管理者端末５０に送信する。
【0091】
管理者端末５０は、判断ルール検証要求に含まれる情報を管理者等に提示する。管理者等は、提示された情報を参照し、判断ルールの更新が必要か否か判断する。
【0092】
判断ルールの更新が必要と判断した場合、管理者等は、ＡＩサービスサーバ２１に対して判断ルールの更新を指示する。具体的には、管理者端末５０は、「判断ルール更新指示」をＡＩサービスサーバ２１に送信する。
【0093】
判断ルール更新指示の受信に応じて、ＡＩサービスサーバ２１は、判断ルールを生成するための学習モデルに関する再学習を実行し、判断ルールを更新する。
【0094】
続いて、第１の実施形態に係る情報流通システムに含まれる各装置の詳細について説明する。
【0095】
［流通制御サーバ］
図１０は、第１の実施形態に係る流通制御サーバ１０の処理構成（処理モジュール）の一例を示す図である。図１０を参照すると、流通制御サーバ１０は、通信制御部２０１と、利用者登録部２０２と、ＩＤ連携部２０３と、所在情報管理部２０４と、データ流通制御部２０５と、記憶部２０６と、を備える。
図１０は、第１の実施形態に係る流通制御サーバ１０の処理構成（処理モジュール）の一例を示す図である。図１０を参照すると、流通制御サーバ１０は、通信制御部２０１と、利用者登録部２０２と、ＩＤ連携部２０３と、所在情報管理部２０４と、データ流通制御部２０５と、記憶部２０６と、を備える。
【0096】
通信制御部２０１は、他の装置との間の通信を制御する手段である。例えば、通信制御部２０１は、サービスサーバ２０からデータ（パケット）を受信する。また、通信制御部２０１は、サービスサーバ２０に向けてデータを送信する。通信制御部２０１は、他の装置から受信したデータを他の処理モジュールに引き渡す。通信制御部２０１は、他の処理モジュールから取得したデータを他の装置に向けて送信する。このように、他の処理モジュールは、通信制御部２０１を介して他の装置とデータの送受信を行う。通信制御部２０１は、他の装置からデータを受信する受信部としての機能と、他の装置に向けてデータを送信する送信部としての機能と、を備える。
【0097】
利用者登録部２０２は、上述の利用者登録（利用者のシステム登録）を実現する手段である。利用者登録部２０２は、利用者の端末３０から個人情報（氏名、生年月日、連絡先、口座情報等）を取得する。
【0098】
利用者登録部２０２は、当該個人情報を取得すると、利用者を識別するためのユーザＩＤを生成する。例えば、利用者登録部２０２は、利用者のシステム登録のたびに一意な値を採番し、当該採番された値をユーザＩＤとして用いる。
【0099】
利用者登録部２０２は、ユーザＩＤと個人情報を利用者情報データベースに記憶する（図１１参照）。なお、図１１に示すように、利用者情報データベースは、ユーザＩＤ、個人情報及びサービス事業者ごとの個人識別ＩＤを対応付けて記憶する。また、図１１に示す利用者情報データベースは例示であって、記憶する項目等を限定する趣旨ではない。例えば、利用者登録された日時等が利用者情報データベースに登録されていてもよい。
【0100】
利用者登録部２０２は、生成したユーザＩＤを端末３０に送信する。
【0101】
ＩＤ連携部２０３は、上述のＩＤ連携を実現する手段である。ＩＤ連携部２０３は、サービス事業者の端末（例えば、病院端末４０）やサービスサーバ２０から「ＩＤ連携要求」を受信する。ＩＤ連携要求には、ＩＤ連携（サービス事業者の登録）を希望する利用者の個人特定情報、個人識別ＩＤ及び事業者コードが含まれる。
【0102】
ＩＤ連携部２０３は、個人特定情報（利用者の氏名、氏名と生年月日の組み合わせ等）をキーとして利用者情報データベースを検索し、対応する利用者を特定する。ＩＤ連携部２０３は、当該特定された利用者の個人識別ＩＤフィールドのうち事業者コードに対応するフィールドにＩＤ連携要求に含まれる個人識別ＩＤを設定する。即ち、ＩＤ連携部２０３は、個人特定情報からシステムアカウントに登録された利用者を特定し、当該特定した利用者のアカウントにおいてサービス事業者と個人識別ＩＤを対応付ける。
【0103】
所在情報管理部２０４は、サービス事業者から取得する所在情報を管理する手段である。所在情報管理部２０４は、サービス事業者が利用者にサービスを提供することで発生したユーザデータを第三者に提供可能なデータとして情報流通システムに登録するためのデータ蓄積を制御する。
【0104】
所在情報管理部２０４は、各サービスサーバ２０から取得した所在情報を所在情報データベースに記憶する（図１２参照）。図１２に示すように、所在情報データベースは、個人識別ＩＤ、事業者コード、データＩＤ、データ種類、データ蓄積日等を対応付けて記憶する。
【0105】
【0106】
データ流通制御部２０５は、「共有」によるデータ流通を制御する手段である。
【0107】
データ流通制御部２０５は、サービスサーバ２０から共有要請を受信する。共有要請には、データ取得の対象となる利用者の個人識別ＩＤ、共有要請の送信元の事業者コード、取得を希望するデータ種類が含まれる。図７の例では、ＥＣ事業者Ｂ（サービスサーバ２０－２）が利用者に対して生成した個人識別ＩＤ、ＥＣ事業者Ｂの事業者コード、データ種類として「病名」が共有要請に含まれる。
【0108】
データ流通制御部２０５は、共有要請に含まれる個人識別ＩＤ、事業者コードに基づいてデータ流通の対象者を特定する。具体的には、データ流通制御部２０５は、図１１に示す利用者情報データベースを参照し、当該対象者を特定する。上記の例では、ＥＣ事業者Ｂから「ＥＣ０１」の個人識別ＩＤを含む共有要請を受信すると、データ流通制御部２０５は、図１１に示す１行目のエントリから利用者がデータ流通の対象者であることを把握する。
【0109】
その後、データ流通制御部２０５は、特定された利用者の個人識別ＩＤと共有要請に含まれるデータ種類を用いて必要なデータを蓄積しているサービス事業者を特定する。具体的には、データ流通制御部２０５は、図１２に示す所在情報データベースを参照し、共有要請に含まれるデータ種類に対応するデータを蓄積するサービス事業者を特定する。上記の例では、利用者の個人識別ＩＤ「ＨＬ０１」と共有要請に含まれるデータ種類「病名」に基づき、病院Ａが特定される。
【0110】
利用者の個人識別ＩＤと共有要請に含まれるデータ種類の組み合わせが所在情報データベースに記憶されていない場合には、データ流通制御部２０５は、共有要請の送信元に対してデータ共有不可を示す否定応答を送信する。上記の例では、利用者の個人識別ＩＤ「ＨＬ０１」とデータ種類「病名」の組み合わせが所在情報データベースに登録されていなければ、否定応答がＥＣ事業者Ｂ（サービスサーバ２０－２）に送信される。
【0111】
データ流通の対象者と流通させるデータの蓄積者が特定されると、データ流通制御部２０５は、データ流通対象者に対してデータ共有の問い合わせを行う。具体的には、データ流通制御部２０５は、データ流通対象者の連絡先に、データ共有に関する問合せを送信する。上記の例では、利用者が所持する端末３０に上記問合せが送信される。
【0112】
なお、データ共有の問合せには、データ共有の要請元、データ蓄積者、データ共有されるデータ種類等の情報が含まれる。上記の例では、データ共有の要請元としてＥＣ事業者Ｂ、データ蓄積者として病院Ａ、データ共有されるデータ種類として「病名」がそれぞれ設定される。
【0113】
データ流通制御部２０５は、データ共有の問合せに対する応答を端末３０から受信する。
【0114】
利用者がデータ共有を拒否している場合には、データ流通制御部２０５は、データ共有不可をデータ共有要請元に通知する。上記の例では、データ流通制御部２０５は、ＥＣ事業者Ｂのサービスサーバ２０－２に対して共有要請に対する否定応答を送信する。
【0115】
利用者がデータ共有に同意した場合には、データ流通制御部２０５は、データ蓄積者に対して共有指示を送信する。上記の例では、データ蓄積者である病院Ａのサービスサーバ２０－１に共有指示が送信される。
【0116】
共有指示には、データ蓄積者が生成した個人識別ＩＤと、データ共有先に関する情報と、データ共有する対象のデータ種類と、が含まれる。上記の例では、利用者の個人識別ＩＤ「ＨＬ０１」と、ＥＣ事業者Ｂのサービスサーバ２０－２のアドレスと、データ種類「病名」を含む共有指示が病院Ａのサービスサーバ２０－１に送信される。
【0117】
このように、データ流通制御部２０５は、データ共有に同意した利用者（対象者）の個人識別ＩＤであってデータ蓄積者が生成した個人識別ＩＤを含む共有指示を送信する。
【0118】
記憶部２０６は、流通制御サーバ１０の動作に必要な情報を記憶する。記憶部２０６には、利用者情報データベース等が構築される。
【0119】
［サービスサーバ］
図１３は、第１の実施形態に係るサービスサーバ２０の処理構成（処理モジュール）の一例を示す図である。図１３を参照すると、サービスサーバ２０は、通信制御部３０１と、ＩＤ連携制御部３０２と、データ流通要請部３０３と、データ蓄積制御部３０４と、データ流通部３０５と、記憶部３０６と、を備える。
図１３は、第１の実施形態に係るサービスサーバ２０の処理構成（処理モジュール）の一例を示す図である。図１３を参照すると、サービスサーバ２０は、通信制御部３０１と、ＩＤ連携制御部３０２と、データ流通要請部３０３と、データ蓄積制御部３０４と、データ流通部３０５と、記憶部３０６と、を備える。
【0120】
通信制御部３０１は、他の装置との間の通信を制御する手段である。例えば、通信制御部３０１は、流通制御サーバ１０からデータ（パケット）を受信する。また、通信制御部３０１は、流通制御サーバ１０に向けてデータを送信する。通信制御部３０１は、他の装置から受信したデータを他の処理モジュールに引き渡す。通信制御部３０１は、他の処理モジュールから取得したデータを他の装置に向けて送信する。このように、他の処理モジュールは、通信制御部３０１を介して他の装置とデータの送受信を行う。通信制御部３０１は、他の装置からデータを受信する受信部としての機能と、他の装置に向けてデータを送信する送信部としての機能と、を備える。
【0121】
ＩＤ連携制御部３０２は、利用者のＩＤ連携に関する制御を行う手段である。ＩＤ連携制御部３０２は、ＧＵＩ（Graphical User Interface）等を用いてアカウントにログインしている利用者からＩＤ連携の要望を取得する。ＩＤ連携制御部３０２は、利用者からの要望に応じて、個人特定情報（ログインしている利用者の氏名等）、個人識別ＩＤ（当該利用者の会員番号等）及び事業者コードを含む「ＩＤ連携要求」を流通制御サーバ１０に送信する。
【0122】
なお、利用者の個人識別ＩＤ、個人特定情報及びユーザデータ等は、顧客情報データベースを用いて管理される（図１４参照）。図１４に示すように、顧客情報データベースは、利用者のＩＤ連携が完了しているか否かの情報（フラグ）を保持する。ＩＤ連携制御部３０２は、ＩＤ連携を完了すると、対応する利用者のＩＤ連携状態フィールドにフラグをセットする（図１４では、丸印が設定されている）。
【0123】
データ流通要請部３０３は、利用者のデータに関するデータ流通（データ共有）を情報流通事業者に要請する手段である。データ流通要請部３０３は、サービス事業者の職員等の操作に応じて、共有要請を流通制御サーバ１０に送信する。具体的には、データ流通要請部３０３は、データ取得の対象となる利用者の個人識別ＩＤ、自装置の事業者コード、取得を希望するデータ種類を含む共有要請を流通制御サーバ１０に送信する。
【0124】
データ蓄積制御部３０４は、利用者に対してサービスを提供した結果生じるユーザデータの蓄積に関する制御を行う手段である。データ蓄積制御部３０４は、利用者の個人識別ＩＤと、当該利用者のユーザデータ（利用者にサービスを提供した結果生じたデータ、又は、利用者に提供するサービスに必要なデータ）を対応付けて顧客情報データベースに記憶する。
【0125】
図１４に示すように、データ蓄積制御部３０４は、発生したデータの種類に応じたフィールドにユーザデータを記憶する（具体的なデータの内容を記憶する）。その際、データ蓄積制御部３０４は、ユーザデータを識別するためのデータＩＤを生成し、ユーザデータ及びデータ蓄積日と対応付けて記憶する。なお、図１４は、病院Ａのサービスサーバ２０に構築された顧客情報データベースの一例を示す。
【0126】
ここで、ＩＤ連携が完了している利用者に関し、データ蓄積制御部３０４は、ユーザデータを顧客情報データベースに記憶するたびに、所在情報を流通制御サーバ１０に送信する。例えば、個人識別ＩＤ「ＨＬ０１」の利用者にサービスが提供され、診察結果として病名のデータが発生した場合を考える。この場合、個人識別ＩＤ「ＨＬ０１」、事業者コード「病院Ａ」、データＩＤ「ＨＬＤ０１」、データ種類「病名」を含む所在情報が流通制御サーバ１０に送信される。
【0127】
データ流通部３０５は、「共有」によるデータ流通を実現する手段である。データ流通部３０５は、流通制御サーバ１０から受信した「共有指示」を処理する。
【0128】
共有指示を受信した場合には、データ流通部３０５は、顧客情報データベースを参照し、共有指示に含まれる個人識別ＩＤ、データ種類に対応するエントリを特定する。例えば、個人識別ＩＤ「ＨＬ０１」、データ種類「病名」を含む共有指示を受信した場合には、データ流通部３０５は、図１４の最上段に示されるエントリを特定する。
【0129】
データ流通部３０５は、特定されたエントリの対応するデータ種類フィールドに記載されたユーザデータを共有指示で指定されたデータ共有先に送信する。図７及び図１４の例では、「胃がん」がＥＣ事業者Ｂのサービスサーバ２０－２に送信される。
【0130】
なお、データ流通部３０５は、共有指示に基づいて共有データを送信する際、利用者の個人特定情報（氏名等）を相手先のサービスサーバ２０に送信してもよい。また、データ流通部３０５は、提供データを受信した事業者が、取得データの対応付けを可能とするように提供データにＩＤを付与してもよい。例えば、データ流通部３０５は、利用者の個人特定情報のハッシュ値を計算し、当該ハッシュ値を利用者のＩＤとしてデータ流通先に送信してもよい。
【0131】
記憶部３０６は、サービスサーバ２０の動作に必要な情報を記憶する。
【0132】
［ＡＩサービスサーバ］
図１５は、第１の実施形態に係るＡＩサービスサーバ２１の処理構成（処理モジュール）の一例を示す図である。ＡＩサービスサーバ２１は、図１３に示すサービスサーバ２０の処理モジュールに加え、公開情報制御部３０７と、ＡＩサービス提供部３０８と、判断ルール検証要求部３０９と、をさらに備える。
図１５は、第１の実施形態に係るＡＩサービスサーバ２１の処理構成（処理モジュール）の一例を示す図である。ＡＩサービスサーバ２１は、図１３に示すサービスサーバ２０の処理モジュールに加え、公開情報制御部３０７と、ＡＩサービス提供部３０８と、判断ルール検証要求部３０９と、をさらに備える。
【0133】
以下、ＡＩサービスサーバ２１が備える、公開情報制御部３０７、ＡＩサービス提供部３０８及び判断ルール検証要求部３０９を中心に説明を行う。通信制御部３０１等のサービスサーバ２０の処理モジュールと重複するＡＩサービスサーバ２１の処理モジュールに関する説明を省略する。
【0134】
公開情報制御部３０７は、利用者に提供する公開情報（サービス利用規約、サービス概略情報）に関する制御を行う手段である。
【0135】
ＡＩサービス事業者は、健康アドバイスサービスの提供を開始する前に、当該健康アドバイスサービスに関する「サービス利用規約」及び「サービス概略情報」を生成し公開する。
【0136】
はじめに、公開情報制御部３０７は、ＧＵＩ等を用いて、ＡＩサービス事業者の管理者等から、健康アドバイスサービスのサービス概要やサービス内容の妥当性に関する説明文等を取得する。
【0137】
続いて、公開情報制御部３０７は、健康アドバイスＡＩの動作や詳細等の情報を利用者が確認するための「サービス概略情報」を生成する。サービス概略情報には、サービス利用規約のバージョン、判断ルールのバージョン、健康アドバイスＡＩに使用されるＡＩの情報、入力データ及び出力データの説明、判断ルール等が含まれる。
【0138】
上述のように、判断ルールは、少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが、出力結果を得るまでの判断を条件式によって示すルールである。あるいは、判断ルールは、複数のＡＩから構成されるサービス提供用ＡＩの動作をモデル化した情報である。より具体的には、判断ルールは、サービス提供用ＡＩへの入力データ（実績情報）から出力結果（推奨スケジュール）が生成されるプロセスを表現する。あるいは、判断ルールは、サービス提供用ＡＩの入力データから当該サービス提供用ＡＩによる出力データを予測するルールである。
【0139】
判断ルールは、例えば、健康アドバイスＡＩの判断（健康アドバイスＡＩが結果を得るまでの過程）を複数の条件ツリーによって表現する決定木である。以下の説明において、決定木を構成する各条件ツリーを「基本ルール」と表記する。基本ルール（条件ツリー）は、ＩＦ、ＴＨＥＮ、ＥＬＳＥからなる条件文である。
【0140】
【0141】
ＡＩサービス事業者の管理者等は、管理者端末５０を操作して、判断ルールを含むサービス概略情報を生成するために必要な情報をＡＩサービスサーバ２１に入力する。具体的には、ＡＩサービス事業者の管理者等は、健康アドバイスＡＩに関する情報を「ＡＩパラメータ」としてＡＩサービスサーバ２１に入力する。公開情報制御部３０７は、ＧＵＩ等を用いて図１７に示すようなＡＩパラメータを取得する。
【0142】
図１７に示すように、ＡＩパラメータには、健康アドバイスＡＩで用いられる各ＡＩ（学習モデル）の説明、入力データ（実績情報）の各項目に関する説明、出力データ（推奨スケジュール）の各項目に関する説明、教師データ等が含まれる。
【0143】
なお、教師データは、健康アドバイスＡＩの生成に用いられたデータであってもよいし、複数のＡＩによる連合学習により得られたデータであってもよい。あるいは、多数の被検者を対象としたトライアルにより得られたデータが教師データとして用いられてもよい。
【0144】
公開情報制御部３０７は、取得したＡＩパラメータに含まれる教師データを用いて上記判断ルール（複数の基本ルールからなる決定木）を生成する。なお、当該判断ルールの生成には「ルール発見型推論技術」と称される技術を用いることができる。
【0145】
ルール発見型推論技術の詳細は、下記の参考文献１等を参考にすることができる。そのため、本書での詳細な説明を省略する。
【0146】
参考文献１：国際公開第２０１９／１６７２４０号
【0147】
ルール発見型推論技術は、入力データをニューラルネットワーク（ＮＮ；Neural Network）に入力する。ニューラルネットワークは、入力データが満たす条件を示す条件データを生成する。ルール発見型推論技術は、条件データの条件を満たす用例データ（教師データの入力データ）に対応する正解データ（教師データの出力データ）に基づいて、予測データを生成する。条件データと予測データを組み合わせることで、ＡＩに関する、入力データから出力結果を予測するための予測ルールが生成される。当該生成された予測ルールが判断ルールに相当する。
【0148】
ルール発見型推論技術を用いて判断ルールを生成すると、公開情報制御部３０７は、「サービス利用規約」と「サービス概略情報」を生成する。
【0149】
例えば、公開情報制御部３０７は、ＡＩサービス事業者の管理者等から取得した情報（健康アドバイスサービスのサービス概要、サービス内容の妥当性に関する説明文等）を用いて、図１８に示すような「サービス利用規約」を生成する。
【0150】
また、公開情報制御部３０７は、ＡＩサービス事業者の管理者等から取得したＡＩパラメータと上記生成された判断ルールを用いて図１９に示すような「サービス概略情報」を生成する。
【0151】
なお、公開情報制御部３０７は、サービス利用規約と判断ルールのバージョン管理を行う。公開情報制御部３０７は、サービス利用規約及び判断ルールが更新されるたびにバージョンを更新する。
【0152】
公開情報制御部３０７は、生成したサービス利用規約及びサービス概略情報を公開する。例えば、公開情報制御部３０７は、ウェブページ等で図１８や図１９に示されるサービス利用規約、サービス概略情報を公開する。なお、公開情報制御部３０７は、サービス概略情報を表示するためのリンクを生成し、当該リンクをサービス利用規約に埋め込む。図１８の例では、下線が付された「こちら」がサービス概略情報に遷移するためのリンクである。
【0153】
このように、公開情報制御部３０７は、少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する、判断ルール生成手段としての機能を備える。さらに、公開情報制御部３０７は、サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報（サービス概略情報）の一部として生成された判断ルールを公開する、公開手段としての機能を備える。公開情報制御部３０７は、サービス提供用ＡＩを用いて提供されるサービスのサービス利用規約と、判断ルールを含むサービス概略情報と、を公開する。
【0154】
ＡＩサービス提供部３０８は、複数のＡＩを用いて利用者にサービスを提供する手段である。
【0155】
ＡＩサービス提供部３０８は、ウェブページ等において利用者のサービス提供申し込みを受け付ける。ＡＩサービス提供部３０８は、端末３０を用いてＡＩサービスサーバ２１にアクセスした利用者から健康アドバイスサービスの提供申し込みを受け付ける。その際、ＡＩサービス提供部３０８は、公開されているサービス利用規約とサービス概略情報の確認を利用者に求めつつ、サービスの提供に伴うユーザデータ（個人情報）の利用に関する利用者の同意を取得する。
【0156】
サービス提供の申し込みを受け付けると、ＡＩサービス提供部３０８は、健康アドバイスサービスの提供に必要なデータを取得する。
【0157】
具体的には、ＡＩサービス提供部３０８は、健康アドバイスサービスの提供に必要なユーザデータに関する「共有要請」の送信をデータ流通要請部３０３に依頼する。ＡＩサービス提供部３０８は、データ共有によりサービス事業者から健康アドバイスＡＩの実行に必要なユーザデータ（例えば、運動量等）を取得する。
【0158】
ＡＩサービス提供部３０８は、取得したユーザデータを複数のＡＩからなる健康アドバイスＡＩに入力する。ＡＩサービス提供部３０８は、健康アドバイスＡＩから出力結果（推奨スケジュール）を取得する。
【0159】
さらに、ＡＩサービス提供部３０８は、取得したユーザデータ（実績情報）と判断ルールを用いて、上記健康アドバイスＡＩによって生成された推奨スケジュールに関する「妥当性説明情報」を生成する。具体的には、ＡＩサービス提供部３０８は、判断ルール（決定木）に利用者のユーザデータ（実績情報）を適用して、該当する基本ルールを特定する。
【0160】
ＡＩサービス提供部３０８は、特定した基本ルールの内容を用いて「妥当性説明情報」を生成する。例えば、ＡＩサービス提供部３０８は、決定木に実績情報を当て嵌めて特定された基本ルールを文章化することで妥当性説明情報を生成する。
【0161】
例えば、ＡＩサービス提供部３０８は、「起床時刻について、お客様の１日の運動量が３００Ｋｃａｌ以上のため７時間以上の睡眠時間が確保されています。」といった内容の妥当性説明情報を生成する。
【0162】
ＡＩサービス提供部３０８は、生成した妥当性説明情報等を用いて「サービス結果説明」を生成する。例えば、ＡＩサービス提供部３０８は、図２０に示すようなサービス結果説明を生成する。図２０に示すように、サービス結果説明には、サービス利用規約及び判断ルールのバージョンと妥当性説明情報が含まれる。
【0163】
ＡＩサービス提供部３０８は、健康アドバイスＡＩの出力結果（推奨スケジュール）と当該出力結果に関する「サービス結果説明」を利用者に提示する。例えば、ＡＩサービス提供部３０８は、サービス結果説明等を利用者の端末３０に表示する。
【0164】
このように、ＡＩサービス提供部３０８は、利用者のユーザデータを取得し、当該取得したユーザデータをサービス提供用ＡＩに入力し、サービス提供用ＡＩの出力結果を得る、ＡＩ実行手段としての機能を備える。ＡＩサービス提供部３０８は、取得したユーザデータを用いて判断ルールを実行することで得られる実行結果に基づいて、サービス提供用ＡＩの出力結果の妥当性を説明する、妥当性説明情報を生成する、妥当性説明情報生成手段としての機能を備える。ＡＩサービス提供部３０８は、サービス提供用ＡＩの出力結果と共に妥当性説明情報を利用者に提供する、提供手段としての機能を備える。
【0165】
判断ルール検証要求部３０９は、判断ルール検証をＡＩサービス事業者等に要求する手段である。
【0166】
ここで、判断ルールの生成に用いられる教師データ等に起因して、判断ルールは、複数のＡＩからなるＡＩ群（健康アドバイスＡＩ）の動作を完全に予測できないことがある。そのため、健康アドバイスＡＩの出力結果と、判断ルールの実行結果（実績情報を判断ルールに適用した結果）には差分が生じ得る。
【0167】
判断ルール検証要求部３０９は、健康アドバイスＡＩの出力結果と判断ルールの実行結果が大きく違う場合に、判断ルールに関する検証をＡＩサービス事業者（ＡＩサービス事業者の管理者等）に要求する。
【0168】
具体的には、判断ルール検証要求部３０９は、健康アドバイスＡＩの出力結果と判断ルール実行結果の合致率を算出する。例えば、判断ルール検証要求部３０９は、健康アドバイスＡＩの出力結果と判断ルール実行結果を入力すると合致率を出力するような学習モデルを用いて合致率を算出する。
【0169】
例えば、当該学習モデルは、２つの出力結果に含まれる項目（例えば、起床時間、朝食メニュー等）が一致すれば、高い合致率を出力する。対して、学習モデルは、２つの出力結果に含まれる項目が一致しなければ、低い合致率を出力する。例えば、健康アドバイスＡＩの出力には起床時間が含まれ、判断ルールの実行結果に起床時間が含まれないような場合には、低い合致率が出力される。
【0170】
あるいは、同じ項目（例えば、起床時間）であっても、学習モデルは、その内容の違いが大きければ低い合致率を出力する。例えば、健康アドバイスＡＩの出力する起床時間が「７：００」であって、判断ルールの実行結果の起床時間が「１８：００」のような場合には、低い合致率が出力される。
【0171】
判断ルール検証要求部３０９は、合致率が所定の閾値よりも低い場合、判断ルールの検討をＡＩサービス事業者等に要求する。具体的には、判断ルール検証要求部３０９は、合致率が低く算出された入力データ（実績情報）、出力データ（推奨スケジュール）及び合致率等を含む「判断ルール検証要求」を管理者端末５０に送信する。
【0172】
ＡＩサービス事業者の管理者等は、ＡＩサービスサーバ２１から取得した情報を参照して判断ルールの更新が必要か否か判断する。例えば、上述の例のように、判断ルールの実行結果に健康アドバイスＡＩが出力する項目が含まれていないような場合、管理者等は、判断ルールの更新が必要と判断する。
【0173】
この場合、判断ルール検証要求部３０９は、管理者等の端末３０から「判断ルール更新指示」を受信する。判断ルール更新指示には、判断ルールを再生成（再学習）するための教師データが含まれる。
【0174】
例えば、ＡＩサービス事業者の管理者等は、ＡＩパラメータに設定した教師データを見直して、再学習用の教師データを生成する。例えば、管理者等は、判断ルールの生成に用いられる教師データにおける入出力の項目（パラメータ）を増減し、新たな教師データを生成する。管理者端末５０は、生成した新たな教師データを含む「判断ルール更新指示」をＡＩサービスサーバ２１に送信する。
【0175】
判断ルール検証要求部３０９は、判断ルール更新指示に含まれる教師データを公開情報制御部３０７に引き渡し、判断ルールの再生成（再学習）を指示する。
【0176】
公開情報制御部３０７は、取得した教師データを用いて判断ルールの再学習を行う。判断ルールが再学習により更新されると、公開情報制御部３０７は、判断ルールのバージョンを変更しつつ当該判断ルールを公開する。
【0177】
このように、判断ルール検証要求部３０９は、サービス提供用ＡＩの出力結果と判断ルールの実行結果の合致率を算出し、算出された合致率が閾値よりも低い場合、サービス提供用ＡＩを用いてサービスを提供するサービス事業者に、判断ルールの検証を要求する。また、公開情報制御部３０７は、サービス事業者から判断ルールの更新指示を取得した場合、判断ルールの再学習を行う、再学習手段としての機能を備える。
【0178】
上記説明したＡＩサービスサーバ２１の動作をまとめると図２１に示すフローチャートのとおりとなる。
【0179】
ＡＩサービスサーバ２１は、ＡＩパラメータを取得し、健康アドバイスＡＩに対応する判断ルールを生成する（ステップＳ１０１）。
【0180】
ＡＩサービスサーバ２１は、生成した判断ルール等を用いてサービス概略情報を生成する。ＡＩサービスサーバ２１は、健康アドバイスサービスのサービス利用規約及びサービス概略情報を公開する（ステップＳ１０２）。
【0181】
ＡＩサービスサーバ２１は、利用者から健康アドバイスサービスの提供申し込みを受け付ける（サービス申し込みを受付；ステップＳ１０３）。
【0182】
ＡＩサービスサーバ２１は、利用者に健康アドバイスサービスを提供するために必要なユーザデータをデータ共有により取得する（データ共有の実行；ステップＳ１０４）。
【0183】
ＡＩサービスサーバ２１は、取得したユーザデータ（実績情報）を健康アドバイスＡＩに入力することで利用者に提供する結果（推奨スケジュール）を取得する（健康アドバイスＡＩを実行；ステップＳ１０５）。
【0184】
ＡＩサービスサーバ２１は、利用者のユーザデータを判断ルールに適用して健康アドバイスＡＩが出力した結果に対する妥当性説明情報を生成する（ステップＳ１０６）。
【0185】
ＡＩサービスサーバ２１は、健康アドバイスＡＩの出力結果（推奨スケジュール）と当該結果に関するサービス結果説明（妥当性説明情報）を利用者に提供する（ステップＳ１０７）。
【0186】
ＡＩサービスサーバ２１は、健康アドバイスＡＩの出力結果と判断ルールの実行結果を比較し、２つの結果の合致率を計算する（ステップＳ１０８）。
【0187】
合致率が閾値以上であれば（ステップＳ１０９、Ｙｅｓ分岐）、ＡＩサービスサーバ２１は、処理を終了する。
【0188】
合致率が閾値より小さければ（ステップＳ１０９、Ｎｏ分岐）、ＡＩサービスサーバ２１は、判断ルール検証要求を管理者端末５０に送信する（ステップＳ１１０）。
【0189】
判断ルール更新指示を管理者端末５０から受信した場合、ＡＩサービスサーバ２１は、判断ルールの再学習を実行する（ステップＳ１１１）。
【0190】
［端末］
図２２は、第１の実施形態に係る端末３０の処理構成（処理モジュール）の一例を示す図である。図２２を参照すると、端末３０は、通信制御部４０１と、個人情報入力部４０２と、問合せ処理部４０３と、記憶部４０４と、を備える。
図２２は、第１の実施形態に係る端末３０の処理構成（処理モジュール）の一例を示す図である。図２２を参照すると、端末３０は、通信制御部４０１と、個人情報入力部４０２と、問合せ処理部４０３と、記憶部４０４と、を備える。
【0191】
通信制御部４０１は、他の装置との間の通信を制御する手段である。例えば、通信制御部４０１は、流通制御サーバ１０からデータ（パケット）を受信する。また、通信制御部４０１は、流通制御サーバ１０に向けてデータを送信する。通信制御部４０１は、他の装置から受信したデータを他の処理モジュールに引き渡す。通信制御部４０１は、他の処理モジュールから取得したデータを他の装置に向けて送信する。このように、他の処理モジュールは、通信制御部４０１を介して他の装置とデータの送受信を行う。通信制御部４０１は、他の装置からデータを受信する受信部としての機能と、他の装置に向けてデータを送信する送信部としての機能と、を備える。
【0192】
個人情報入力部４０２は、利用者登録の際に個人情報を流通制御サーバ１０に入力する手段である。個人情報入力部４０２は、任意の手段を用いて個人情報（氏名、生年月日、連絡先、口座情報等）を流通制御サーバ１０に入力する。例えば、個人情報入力部４０２は、ＧＵＩを用いて上記個人情報を利用者から取得し、当該取得した個人情報を流通制御サーバ１０に送信する。
【0193】
個人情報入力部４０２は、流通制御サーバ１０から払い出されたユーザＩＤを記憶部４０４に記憶する。
【0194】
問合せ処理部４０３は、データ共有の問合せを処理する手段である。問合せ処理部４０３は、問い合わせの内容（データ共有）に合わせたＧＵＩを用いて利用者の意思（同意、不同意）を取得する。問合せ処理部４０３は、利用者の意思を含む応答を流通制御サーバ１０に送信する。
【0195】
記憶部４０４は、端末３０の動作に必要な情報を記憶する。
【0196】
なお、健康アドバイスサービス申し込みやサービス提供結果の表示等を担う端末３０の処理モジュールに関する説明を省略する。サービス申し込み等に関する端末３０の動作は当業者にとって明らかなためである。
【0197】
［病院端末］
病院端末４０には、スマートフォン、タブレット等の携帯端末装置やコンピュータ（パーソナルコンピュータ、ノートパソコン）等が例示される。病院端末４０は、病院職員の操作を受け付け、流通制御サーバ１０等と通信可能であれば任意の機器、デバイスとすることができる。また、病院端末４０の構成等は当業者にとって明らかであるので、詳細な説明を省略する。
病院端末４０には、スマートフォン、タブレット等の携帯端末装置やコンピュータ（パーソナルコンピュータ、ノートパソコン）等が例示される。病院端末４０は、病院職員の操作を受け付け、流通制御サーバ１０等と通信可能であれば任意の機器、デバイスとすることができる。また、病院端末４０の構成等は当業者にとって明らかであるので、詳細な説明を省略する。
【0198】
病院端末４０は、病院職員の操作に応じて、ＩＤ連携要求を流通制御サーバ１０に送信すればよい。また、病院端末４０は、ＩＤ連携要求を自社のサービスサーバ２０にも送信する。サービスサーバ２０（ＩＤ連携制御部３０２）は、ＩＤ連携要求に含まれる個人識別ＩＤに対応する利用者のエントリ（顧客情報データベースのエントリ）のＩＤ連携状態フィールドにフラグをセットする。
【0199】
［管理者端末］
管理者端末５０には、スマートフォン、タブレット等の携帯端末装置やコンピュータ（パーソナルコンピュータ、ノートパソコン）等が例示される。管理者端末５０は、ＡＩサービス事業者の管理者等の操作を受け付け、流通制御サーバ１０等と通信可能であれば任意の機器、デバイスとすることができる。また、管理者端末５０の構成等は当業者にとって明らかであるので、詳細な説明を省略する。
管理者端末５０には、スマートフォン、タブレット等の携帯端末装置やコンピュータ（パーソナルコンピュータ、ノートパソコン）等が例示される。管理者端末５０は、ＡＩサービス事業者の管理者等の操作を受け付け、流通制御サーバ１０等と通信可能であれば任意の機器、デバイスとすることができる。また、管理者端末５０の構成等は当業者にとって明らかであるので、詳細な説明を省略する。
【0200】
管理者端末５０は、ＧＵＩ等を用いてＡＩパラメータを管理者等から取得し、当該取得したＡＩパラメータ（判断ルールを生成するための教師データを含むＡＩパラメータ）をＡＩサービスサーバ２１に入力する。また、管理者端末５０は、判断ルール検証要求をＡＩサービスサーバ２１から受信すると、当該要求に含まれる情報を管理者等に提示する。管理者端末５０は、判断ルールの更新が必要と判断した管理者等の操作に応じて、判断ルール更新指示（判断ルールを再学習するための教師データを含む判断ルール更新指示）をＡＩサービスサーバ２１に送信する。
【0201】
続いて、第１の実施形態に係る変形例について説明する。
【0202】
利用者にサービスを提供する際（健康アドバイスＡＩに実績情報を入力し、推奨スケジュールを取得する際）、ＡＩサービスサーバ２１は、「秘密計算技術」を用いてもよい。ＡＩサービス提供部３０８は、サービス提供用ＡＩを秘密計算によって実行してもよい。
【0203】
秘密計算技術の詳細は、下記の参考文献２等を参考にすることができる。そのため、本書での詳細な説明を省略する。
【0204】
参考文献２：国際公開第２０２０／１６５９３２号
【0205】
秘密計算技術を用いることで、ＡＩサービスサーバ２１は、データを秘匿したまま計算処理が行える。秘密計算技術を用いることで、計算する側（ＡＩサービス事業者側）は、データの内容を知ることなく、計算結果を得ることができる。秘密計算技術では、データは複数に分割される。分割されたデータそれぞれは、複数のサーバへ分散されて所定の処理が実行される（健康アドバイスＡＩが実行される）。そのため、秘密計算技術を用いることで、非常に高いレベルのセキュリティが確保される。
【0206】
ＡＩサービスサーバ２１は、ＡＩサービス提供部３０８の実行に関する処理を秘密計算で行うことで、利用者の情報（実績情報、運動量等の具体的なユーザデータ）を知ることなく、推奨スケジュールを得ることができる。そのため、利用者の個人情報、プライバシーが適切に保護される。
【0207】
以上のように、第１の実施形態に係るＡＩサービスサーバ２１は、サービス提供用ＡＩに関する判断ルールを生成し、公開する。当該公開された判断ルールを参照することで、サービスの提供申し込みを考えている利用者は、サービスの提供を受ける前に、妥当なサービス内容が提供されるのか否か確認できる。即ち、ブラックボックス型ＡＩを含む複数のＡＩが連携してサービスを提供する場合、ＡＩサービスサーバ２１は、当該複数のＡＩが出力する結果の妥当性を説明する情報を適切なタイミングで生成する。例えば、健康アドバイスＡＩのように、ブラックボックス型ＡＩを含む場合、健康アドバイスＡＩの出力結果（推奨スケジュール）の妥当性を確認できなければ、利用者は、健康アドバイスサービスの申し込みを決定できない。そのため、ＡＩサービスサーバ２１は、利用者が上記妥当性を検証可能な判断ルールを事前に公開し、利用者の判断を助ける。
【0208】
ＡＩサービスサーバ２１は、サービス登録時（データ連携基盤へのサービス登録時）に、バージョン管理された判断ルールを生成する。ＡＩサービスサーバ２１は、サービスの利用規約にリンクを張ることで上記判断ルールを利用者が確認可能にする。このように、第１の実施形態に係るシステムには、高度なサービスの運営者が、サービス利用規約に同意する前の利用者に向けた「判断ルール」を生成する機能が含まれる。より具体的には、サービス運営者がサービス利用規約を管理するサービス利用規約管理機能と、ＡＩパラメータから判断ルールを生成する判断ルール管理機能がシステム（データ連携基盤）に含まれる。
【0209】
また、ＡＩサービスサーバ２１は、サービス内容が提示された利用者に向けてパーソナライズされた「妥当性説明情報」を生成する機能を備える。即ち、ＡＩサービスサーバ２１は、ユーザデータ（実績情報；個人情報）を利用するため個人同意を取得した後に健康アドバイスＡＩを実行する。その際、ＡＩサービスサーバ２１は、秘密計算技術を用いることで、利用者の実績情報（個人情報）を知ることなく判断根拠を生成することができる。このように、第１の実施形態に係るシステム（データ連携基盤）は、同意管理機能と、暗号化機能と、妥当性説明生成機能と、妥当性説明提示機能と、を備える。同意管理機能は、妥当性説明を要求するサービス利用者の同意（個人情報の利用に関する同意）を取得する。暗号化機能は、健康アドバイスＡＩに入力されるデータを暗号化し、秘密計算を実行する。妥当性説明生成機能は、暗号化された入力データと健康アドバイスＡＩが生成した出力結果から判断ルールを用いて妥当性説明を生成する。妥当性説明提示機能は、サービス利用者に妥当性説明を提示する。これらの機能の働きによって、利用者は、健康アドバイスＡＩから提案された推奨スケジュールの実施前に、当該スケジュールが自身にとって妥当な内容か否か検討できる。
【0210】
さらに、ＡＩサービスサーバ２１は、妥当性説明情報（判断ルール）の精度を継続的に確認する機能を備える。即ち、ＡＩサービスサーバ２１は、健康アドバイスＡＩの出力結果と判断ルールの実行結果の合致率が低下した場合、サービス事業者に対して判断ルールの検証を要求する。ＡＩサービスサーバ２１は、サービス事業者から提供される教師データ（新たな教師データ）を用いて判断ルールの再学習を行う。ＡＩサービスサーバ２１は、バージョン管理しつつ、再学習により得られた判断ルールを公開する。第１の実施形態に係るシステムは、妥当性精度確認補助システムである。妥当性精度確認補助システムは、妥当性説明精度管理機能と、妥当性精度通知機能と、を備える。妥当性説明精度管理機能は、判断ルールにより生成された妥当性説明情報と健康アドバイスＡＩが生成した出力結果の合致率を算出することで妥当性説明情報の精度を確認する。妥当性精度通知機能は、算出された合致率があらかじめ指定された閾値を下回った場合、健康アドバイスサービスの運営者に判断ルールの精度低下を通知する。
【0211】
続いて、情報流通システムを構成する各装置のハードウェアについて説明する。図２３は、ＡＩサービスサーバ２１のハードウェア構成の一例を示す図である。
【0212】
ＡＩサービスサーバ２１は、情報処理装置（所謂、コンピュータ）により構成可能であり、図２３に例示する構成を備える。例えば、ＡＩサービスサーバ２１は、プロセッサ３１１、メモリ３１２、入出力インターフェイス３１３及び通信インターフェイス３１４等を備える。上記プロセッサ３１１等の構成要素は内部バス等により接続され、相互に通信可能に構成されている。
【0213】
但し、図２３に示す構成は、ＡＩサービスサーバ２１のハードウェア構成を限定する趣旨ではない。ＡＩサービスサーバ２１は、図示しないハードウェアを含んでもよいし、必要に応じて入出力インターフェイス３１３を備えていなくともよい。また、ＡＩサービスサーバ２１に含まれるプロセッサ３１１等の数も図２３の例示に限定する趣旨ではなく、例えば、複数のプロセッサ３１１がＡＩサービスサーバ２１に含まれていてもよい。
【0214】
プロセッサ３１１は、例えば、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro Processing Unit）、ＤＳＰ（Digital Signal Processor）等のプログラマブルなデバイスである。あるいは、プロセッサ３１１は、ＦＰＧＡ（Field Programmable Gate Array）、ＡＳＩＣ（Application Specific Integrated Circuit）等のデバイスであってもよい。プロセッサ３１１は、オペレーティングシステム（ＯＳ；Operating System）を含む各種プログラムを実行する。
【0215】
メモリ３１２は、ＲＡＭ（Random Access Memory）、ＲＯＭ（Read Only Memory）、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）等である。メモリ３１２は、ＯＳプログラム、アプリケーションプログラム、各種データを格納する。
【0216】
入出力インターフェイス３１３は、図示しない表示装置や入力装置のインターフェイスである。表示装置は、例えば、液晶ディスプレイ等である。入力装置は、例えば、キーボードやマウス等のユーザ操作を受け付ける装置である。
【0217】
通信インターフェイス３１４は、他の装置と通信を行う回路、モジュール等である。例えば、通信インターフェイス３１４は、ＮＩＣ（Network Interface Card）等を備える。
【0218】
ＡＩサービスサーバ２１の機能は、各種処理モジュールにより実現される。当該処理モジュールは、例えば、メモリ３１２に格納されたプログラムをプロセッサ３１１が実行することで実現される。また、当該プログラムは、コンピュータが読み取り可能な記憶媒体に記録することができる。記憶媒体は、半導体メモリ、ハードディスク、磁気記録媒体、光記録媒体等の非トランジェント（non-transitory）なものとすることができる。即ち、本発明は、コンピュータプログラム製品として具現することも可能である。また、上記プログラムは、ネットワークを介してダウンロードするか、あるいは、プログラムを記憶した記憶媒体を用いて、更新することができる。さらに、上記処理モジュールは、半導体チップにより実現されてもよい。
【0219】
なお、流通制御サーバ１０、サービスサーバ２０等もＡＩサービスサーバ２１と同様に情報処理装置により構成可能であり、その基本的なハードウェア構成はＡＩサービスサーバ２１と相違する点はないので説明を省略する。
【0220】
情報処理装置であるＡＩサービスサーバ２１は、コンピュータを搭載し、当該コンピュータにプログラムを実行させることでＡＩサービスサーバ２１の機能が実現できる。また、ＡＩサービスサーバ２１は、当該プログラムによりＡＩサービスサーバ２１の制御方法を実行する。
【0221】
［変形例］
なお、上記実施形態にて説明した情報流通システムの構成、動作等は例示であって、システムの構成等を限定する趣旨ではない。
なお、上記実施形態にて説明した情報流通システムの構成、動作等は例示であって、システムの構成等を限定する趣旨ではない。
【0222】
上記実施形態では、ＡＩサービス事業者から提供されるサービスとして健康アドバイスサービスを例にとり説明を行った。しかし、ＡＩサービス事業者から提供されるサービスを健康アドバイスサービスに限定する趣旨ではないことは当然である。
【0223】
上記実施形態では、サービス提供用ＡＩには、ブラックボックス型ＡＩとホワイトボックス型ＡＩが混在する場合について説明した。本願開示の対象とするサービス提供用ＡＩは、少なくとも１以上のブラックボックス型ＡＩを含んでいれば他の構成は任意とすることができる。例えば、サービス提供用ＡＩには、図９に示すような各ＡＩの出力をまとめるＡＩ（スケジュール生成ＡＩ）が存在しなくてもよい。例えば、サービス提供用ＡＩは、複数のＡＩが並列に配置される構成を備えていてもよい。
【0224】
ＡＩサービスサーバ２１は、判断ルールでは健康アドバイスＡＩの出力結果を適切に説明できない場合、その旨のメッセージを含むサービス結果説明を生成してもよい。
【0225】
上記実施形態では、流通制御サーバ１０の内部に利用者情報データベースが構成される場合について説明したが、当該データベースは外部のデータベースサーバ等に構築されてもよい。即ち、流通制御サーバ１０の一部の機能は別のサーバに実装されていてもよい。より具体的には、上記説明した「データ流通制御部（データ流通制御手段）」等がシステムに含まれるいずれかの装置に実装されていればよい。
【0226】
各装置（流通制御サーバ１０、サービスサーバ２０等）間のデータ送受信の形態は特に限定されないが、これら装置間で送受信されるデータは暗号化されていてもよい。これらの装置間では、利用者の個人情報等が送受信され、これらの情報を適切に保護するためには、暗号化されたデータが送受信されることが望ましい。
【0227】
上記説明で用いた流れ図（フローチャート、シーケンス図）では、複数の工程（処理）が順番に記載されているが、実施形態で実行される工程の実行順序は、その記載の順番に制限されない。実施形態では、例えば各処理を並行して実行する等、図示される工程の順番を内容的に支障のない範囲で変更することができる。
【0228】
上記の実施形態は本願開示の理解を容易にするために詳細に説明したものであり、上記説明したすべての構成が必要であることを意図したものではない。また、複数の実施形態について説明した場合には、各実施形態は単独で用いてもよいし、組み合わせて用いてもよい。例えば、実施形態の構成の一部を他の実施形態の構成に置き換えることや、実施形態の構成に他の実施形態の構成を加えることも可能である。さらに、実施形態の構成の一部について他の構成の追加、削除、置換が可能である。
【0229】
上記の説明により、本発明の産業上の利用可能性は明らかであるが、本発明は、利用者に提供されるサービスに関する蓄積データを流通する情報流通システムなどに好適に適用可能である。
【0230】
上記の実施形態の一部又は全部は、以下の付記のようにも記載され得るが、以下には限られない。
［付記１］
少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する、判断ルール生成手段と、
前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する、公開手段と、
を備える、サーバ装置。
［付記２］
前記公開手段は、前記サービス提供用ＡＩを用いて提供されるサービスのサービス利用規約と、前記判断ルールを含むサービス概略情報と、を公開する、付記１に記載のサーバ装置。
［付記３］
利用者のユーザデータを取得し、前記取得したユーザデータを前記サービス提供用ＡＩに入力し、前記サービス提供用ＡＩの出力結果を得る、ＡＩ実行手段と、
前記取得したユーザデータを用いて前記判断ルールを実行することで得られる実行結果に基づいて、前記サービス提供用ＡＩの出力結果の妥当性を説明する、妥当性説明情報を生成する、妥当性説明情報生成手段と、
前記サービス提供用ＡＩの出力結果と共に前記妥当性説明情報を前記利用者に提供する、提供手段と、
をさらに備える、付記２に記載のサーバ装置。
［付記４］
前記ＡＩ実行手段は、前記サービス提供用ＡＩを秘密計算によって実行する、付記３に記載のサーバ装置。
［付記５］
前記サービス提供用ＡＩの出力結果と前記判断ルールの実行結果の合致率を算出し、前記算出された合致率が閾値よりも低い場合、前記サービス提供用ＡＩを用いてサービスを提供するサービス事業者に、前記判断ルールの検証を要求する、要求手段と、
前記サービス事業者から前記判断ルールの更新指示を取得した場合、前記判断ルールの再学習を行う、再学習手段と、
をさらに備える、付記４に記載のサーバ装置。
［付記６］
前記サービス提供用ＡＩは、前記少なくとも１以上のブラックボックス型ＡＩと少なくとも１以上のホワイトボックス型ＡＩを含んで構成される、付記１乃至５のいずれか一項に記載のサーバ装置。
［付記７］
利用者のユーザデータを記憶する、第１のサーバと、
前記利用者のユーザデータに関する、データ共有を制御する、流通制御サーバと、
少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩを用いて前記利用者にサービスを提供する、第２のサーバと、
を含み、
前記第２のサーバは、
前記サービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する、判断ルール生成手段と、
前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する、公開手段と、
前記利用者のユーザデータのデータ共有を前記流通制御サーバに要請することで、前記第１のサーバから前記利用者のユーザデータを取得し、前記取得したユーザデータを前記サービス提供用ＡＩに入力し、前記サービス提供用ＡＩの出力結果を得る、ＡＩ実行手段と、
前記取得したユーザデータを用いて前記判断ルールを実行することで得られる実行結果に基づいて、前記サービス提供用ＡＩの出力結果の妥当性を説明する、妥当性説明情報を生成する、妥当性説明情報生成手段と、
前記サービス提供用ＡＩの出力結果と共に前記妥当性説明情報を前記利用者に提供する、提供手段と、
を備える、システム。
［付記８］
サーバ装置において、
少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成し、
前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する、サーバ装置の制御方法。
［付記９］
サーバ装置に搭載されたコンピュータに、
少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する処理と、
前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する処理と、
を実行させるためのプログラム。
［付記１］
少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する、判断ルール生成手段と、
前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する、公開手段と、
を備える、サーバ装置。
［付記２］
前記公開手段は、前記サービス提供用ＡＩを用いて提供されるサービスのサービス利用規約と、前記判断ルールを含むサービス概略情報と、を公開する、付記１に記載のサーバ装置。
［付記３］
利用者のユーザデータを取得し、前記取得したユーザデータを前記サービス提供用ＡＩに入力し、前記サービス提供用ＡＩの出力結果を得る、ＡＩ実行手段と、
前記取得したユーザデータを用いて前記判断ルールを実行することで得られる実行結果に基づいて、前記サービス提供用ＡＩの出力結果の妥当性を説明する、妥当性説明情報を生成する、妥当性説明情報生成手段と、
前記サービス提供用ＡＩの出力結果と共に前記妥当性説明情報を前記利用者に提供する、提供手段と、
をさらに備える、付記２に記載のサーバ装置。
［付記４］
前記ＡＩ実行手段は、前記サービス提供用ＡＩを秘密計算によって実行する、付記３に記載のサーバ装置。
［付記５］
前記サービス提供用ＡＩの出力結果と前記判断ルールの実行結果の合致率を算出し、前記算出された合致率が閾値よりも低い場合、前記サービス提供用ＡＩを用いてサービスを提供するサービス事業者に、前記判断ルールの検証を要求する、要求手段と、
前記サービス事業者から前記判断ルールの更新指示を取得した場合、前記判断ルールの再学習を行う、再学習手段と、
をさらに備える、付記４に記載のサーバ装置。
［付記６］
前記サービス提供用ＡＩは、前記少なくとも１以上のブラックボックス型ＡＩと少なくとも１以上のホワイトボックス型ＡＩを含んで構成される、付記１乃至５のいずれか一項に記載のサーバ装置。
［付記７］
利用者のユーザデータを記憶する、第１のサーバと、
前記利用者のユーザデータに関する、データ共有を制御する、流通制御サーバと、
少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩを用いて前記利用者にサービスを提供する、第２のサーバと、
を含み、
前記第２のサーバは、
前記サービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する、判断ルール生成手段と、
前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する、公開手段と、
前記利用者のユーザデータのデータ共有を前記流通制御サーバに要請することで、前記第１のサーバから前記利用者のユーザデータを取得し、前記取得したユーザデータを前記サービス提供用ＡＩに入力し、前記サービス提供用ＡＩの出力結果を得る、ＡＩ実行手段と、
前記取得したユーザデータを用いて前記判断ルールを実行することで得られる実行結果に基づいて、前記サービス提供用ＡＩの出力結果の妥当性を説明する、妥当性説明情報を生成する、妥当性説明情報生成手段と、
前記サービス提供用ＡＩの出力結果と共に前記妥当性説明情報を前記利用者に提供する、提供手段と、
を備える、システム。
［付記８］
サーバ装置において、
少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成し、
前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する、サーバ装置の制御方法。
［付記９］
サーバ装置に搭載されたコンピュータに、
少なくとも１以上のブラックボックス型ＡＩを含んで構成されるサービス提供用ＡＩが出力結果を得るまでの判断を条件式によって示す判断ルールを生成する処理と、
前記サービス提供用ＡＩを用いて提供されるサービスのサービス概要を説明するための情報の一部として前記生成された判断ルールを公開する処理と、
を実行させるためのプログラム。
【0231】
なお、引用した上記の先行技術文献の各開示は、本書に引用をもって繰り込むものとする。以上、本発明の実施形態を説明したが、本発明はこれらの実施形態に限定されるものではない。これらの実施形態は例示にすぎないということ、及び、本発明のスコープ及び精神から逸脱することなく様々な変形が可能であるということは、当業者に理解されるであろう。即ち、本発明は、請求の範囲を含む全開示、技術的思想にしたがって当業者であればなし得る各種変形、修正を含むことは勿論である。
【符号の説明】
【0232】
１０ 流通制御サーバ
２０ サービスサーバ
２０－１ サービスサーバ
２０－２ サービスサーバ
２１ ＡＩサービスサーバ
３０ 端末
４０ 病院端末
５０ 管理者端末
１００ サーバ装置
１０１ 判断ルール生成手段
１０２ 公開手段
２０１ 通信制御部
２０２ 利用者登録部
２０３ ＩＤ連携部
２０４ 所在情報管理部
２０５ データ流通制御部
２０６ 記憶部
３０１ 通信制御部
３０２ ＩＤ連携制御部
３０３ データ流通要請部
３０４ データ蓄積制御部
３０５ データ流通部
３０６ 記憶部
３０７ 公開情報制御部
３０８ ＡＩサービス提供部
３０９ 判断ルール検証要求部
３１１ プロセッサ
３１２ メモリ
３１３ 入出力インターフェイス
３１４ 通信インターフェイス
４０１ 通信制御部
４０２ 個人情報入力部
４０３ 問合せ処理部
４０４ 記憶部
２０ サービスサーバ
２０－１ サービスサーバ
２０－２ サービスサーバ
２１ ＡＩサービスサーバ
３０ 端末
４０ 病院端末
５０ 管理者端末
１００ サーバ装置
１０１ 判断ルール生成手段
１０２ 公開手段
２０１ 通信制御部
２０２ 利用者登録部
２０３ ＩＤ連携部
２０４ 所在情報管理部
２０５ データ流通制御部
２０６ 記憶部
３０１ 通信制御部
３０２ ＩＤ連携制御部
３０３ データ流通要請部
３０４ データ蓄積制御部
３０５ データ流通部
３０６ 記憶部
３０７ 公開情報制御部
３０８ ＡＩサービス提供部
３０９ 判断ルール検証要求部
３１１ プロセッサ
３１２ メモリ
３１３ 入出力インターフェイス
３１４ 通信インターフェイス
４０１ 通信制御部
４０２ 個人情報入力部
４０３ 問合せ処理部
４０４ 記憶部
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】