特開 2023-59787 情報処理方法、プログラム及び情報処理装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2023059787

(43)【公開日】2023-04-27

(54)【発明の名称】情報処理方法、プログラム及び情報処理装置

(51)【国際特許分類】

   G06N 20/00 20190101AFI20230420BHJP

   G06F 16/17 20190101ALI20230420BHJP

【ＦＩ】

G06N20/00

G06F16/17 100

【審査請求】未請求

【請求項の数】12

【出願形態】ＯＬ

(21)【出願番号】P 2022003266

(22)【出願日】2022-01-12

(31)【優先権主張番号】63/256,121

(32)【優先日】2021-10-15

(33)【優先権主張国・地域又は機関】US

(71)【出願人】

【識別番号】302064762

【氏名又は名称】株式会社日本総合研究所

(74)【代理人】

【識別番号】100114557

【弁理士】

【氏名又は名称】河野 英仁

(74)【代理人】

【識別番号】100078868

【弁理士】

【氏名又は名称】河野 登夫

(72)【発明者】

【氏名】染田 拓

(72)【発明者】

【氏名】長田 繁幸

(57)【要約】

【課題】異なるエンティティ間におけるデータを好適に活用することができる情報処理方法等を提供する。
【解決手段】情報処理方法は、第１エンティティの第１識別器及び前記第１識別器に対する第１損失関数を取得し、前記第１エンティティとは異なる第２エンティティのデータのうち前記第１エンティティ及び前記第２エンティティで合意したデータ列のデータを、前記第１エンティティ及び前記第２エンティティで共通する共通データ構造に変換し、変換後の前記第２エンティティのデータ及び前記第１損失関数に基づき前記第１識別器を学習する処理をコンピュータが実行する。
【選択図】図１

【特許請求の範囲】

【請求項1】

第１エンティティの第１識別器及び前記第１識別器に対する第１損失関数を取得し、
前記第１エンティティとは異なる第２エンティティのデータのうち前記第１エンティティ及び前記第２エンティティで合意したデータ列のデータを、前記第１エンティティ及び前記第２エンティティで共通する共通データ構造に変換し、
変換後の前記第２エンティティのデータ及び前記第１損失関数に基づき前記第１識別器を学習する
処理をコンピュータが実行する情報処理方法。

【請求項2】

前記第１損失関数の評価値に基づいて前記第１識別器の学習を実行する
請求項１に記載の情報処理方法。

【請求項3】

前記第２エンティティにおける前記第１識別器の学習に対する前記第１損失関数の評価値を前記第１エンティティへ送信し、
前記第１エンティティから終了命令を受信した場合に、前記第２エンティティにおける前記第１識別器の学習を終了する
請求項１又は請求項２に記載の情報処理方法。

【請求項4】

前記第２エンティティにおける学習済みの前記第１識別器を前記第１エンティティへ送信する
請求項１から請求項３のいずれか１項に記載の情報処理方法。

【請求項5】

前記第２エンティティのデータには含まれない偽データを生成し、
前記共通データ構造に変換した偽データ、前記第２エンティティのデータ及び前記第１損失関数に基づき前記第１識別器を学習する
請求項１から請求項４のいずれか１項に記載の情報処理方法。

【請求項6】

前記第１エンティティ及び前記第２エンティティで合意したデータ列におけるデータのＮ－ｇｒａｍに基づいて前記共通データ構造を規定する
請求項１から請求項５のいずれか１項に記載の情報処理方法。

【請求項7】

前記第２エンティティの第２識別器及び前記第２識別器に対する第２損失関数を前記第１エンティティへ送信し、
前記第１エンティティにおける前記第２識別器の学習に対する前記第２損失関数の評価値が所定値未満となった場合に、前記第１エンティティにおける学習済みの前記第２識別器を前記第１エンティティから受信する
請求項１から請求項６のいずれか１項に記載の情報処理方法。

【請求項8】

前記第１識別器は、前記共通データ構造における列数に対応するノード数を有する入力層と、前記第１エンティティのデータに含まれるサンプル数に所定のオフセット数を加えた数に対応するノード数を有する出力層とを備える
請求項１から請求項７のいずれか１項に記載の情報処理方法。

【請求項9】

前記第１エンティティのデータのうち前記第１エンティティ及び前記第２エンティティで合意したデータ列のデータを前記共通データ構造に変換し、
変換後の前記第１エンティティのデータを前記第１識別器に入力し、
前記第１識別器から出力される識別結果に基づいて、前記第１エンティティ及び前記第２エンティティに共通するデータを特定する
請求項１から請求項８のいずれか１項に記載の情報処理方法。

【請求項10】

第１エンティティの第１識別器及び前記第１識別器に対する第１損失関数を取得し、
前記第１エンティティとは異なる第２エンティティのデータのうち前記第１エンティティ及び前記第２エンティティで合意したデータ列のデータを、前記第１エンティティ及び前記第２エンティティで共通する共通データ構造に変換し、
変換後の前記第２エンティティのデータ及び前記第１損失関数に基づき前記第１識別器を学習する
処理をコンピュータに実行させるためのプログラム。

【請求項11】

第１エンティティの第１識別器及び前記第１識別器に対する第１損失関数を取得し、
前記第１エンティティとは異なる第２エンティティのデータのうち前記第１エンティティ及び前記第２エンティティで合意したデータ列のデータを、前記第１エンティティ及び前記第２エンティティで共通する共通データ構造に変換し、
変換後の前記第２エンティティのデータ及び前記第１損失関数に基づき前記第１識別器を学習する
処理を実行する制御部を備える
情報処理装置。

【請求項12】

第１識別器及び前記第１識別器に対する第１損失関数を第２エンティティへ出力し、
前記第２エンティティのデータを用いて学習された前記第１識別器を前記第２エンティティから取得し、
前記第２エンティティとは異なる第１エンティティのデータを前記第１識別器に入力し、
前記第１識別器から出力される識別結果に基づいて、前記第１エンティティ及び前記第２エンティティに共通するデータを特定する
処理をコンピュータが実行する情報処理方法。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、情報処理方法、プログラム及び情報処理装置に関する。

【背景技術】

【0002】

情報処理技術の進化に伴い、データ分析などを目的として異なる事業者間でデータを共有することが重要視されている。しかし、プライバシー保護の観点から、顧客の同意を得ることなく個人の特定につながるデータを事業者間で共有することはできない。そこで、プライバシーを保護した状態のままデータを分析する手法が提案されている。

【0003】

例えば特許文献１には、共同分析する企業間でデータを共有することなく深層学習を行う連合学習の技術が開示されている。

【0004】

特許文献２には、各企業の保有するデータを暗号化された状態のまま演算するＰＳＩ（Private Set Intersection）の技術が開示されている。

【先行技術文献】

【特許文献】

【0005】

【非特許文献1】Jiang Jichu，Kantarci Burak，Oktug Sema and Soyata Tolga，“Federated Learning in Smart City Sensing：Challenges and Opportunities，” Sensors 2020； 20．6230．10．3390／s20216230，October 2020．

【非特許文献2】長尾 佳高、宮地 充子、“プライバシを保護したデータ突合プロトコル”、情報処理学会コンピュータセキュリティシンポジウム２０２０、２０２０年１０月。

【発明の概要】

【発明が解決しようとする課題】

【0006】

しかしながら、従来の手法においては、異なるエンティティ間におけるデータを好適に活用するという観点において改善の余地がある。

【0007】

本開示の目的は、異なるエンティティ間におけるデータを好適に活用することができる情報処理方法等を提供することである。

【課題を解決するための手段】

【0008】

本開示の一態様に係る情報処理方法は、第１エンティティの第１識別器及び前記第１識別器に対する第１損失関数を取得し、前記第１エンティティとは異なる第２エンティティのデータのうち前記第１エンティティ及び前記第２エンティティで合意したデータ列のデータを、前記第１エンティティ及び前記第２エンティティで共通する共通データ構造に変換し、変換後の前記第２エンティティのデータ及び前記第１損失関数に基づき前記第１識別器を学習する処理をコンピュータが実行する。

【0009】

本開示の一態様に係る情報処理方法は、第１識別器及び前記第１識別器に対する第１損失関数を第２エンティティへ出力し、前記第２エンティティのデータを用いて学習された前記第１識別器を前記第２エンティティから取得し、前記第２エンティティとは異なる第１エンティティのデータを前記第１識別器に入力し、前記第１識別器から出力される識別結果に基づいて、前記第１エンティティ及び前記第２エンティティに共通するデータを特定する処理をコンピュータが実行する。

【発明の効果】

【0010】

本開示によれば、異なるエンティティ間におけるデータを好適に活用することができる。

【図面の簡単な説明】

【0011】

【図1】情報処理システムの構成例を示す模式図である。

【図2】顧客ＤＢに記憶されるデータの内容例を示す図である。

【図3】ユーザＤＢに記憶されるデータの内容例を示す図である。

【図4】第１識別器の概要を示す説明図である。

【図5】情報処理システムにおける処理の流れを説明する説明図である。

【図6】共通データ構造の定義に関する処理手順の一例を示すシーケンス図である。

【図7】第１識別器の生成に関する処理手順の一例を示すシーケンス図である。

【図8】第１識別器の生成に関する処理手順の一例を示すシーケンス図である。

【図9】共通データを特定する処理手順の一例を示すシーケンス図である。

【図10】第２実施形態における情報処理システムの構成例を示す模式図である。

【図11】第２識別器の生成に関する処理手順の一例を示すシーケンス図である。

【図12】第２識別器の生成に関する処理手順の一例を示すシーケンス図である。

【発明を実施するための形態】

【0012】

本発明の実施形態に係る情報処理方法、プログラム及び情報処理装置の具体例を、以下に図面を参照しつつ説明する。なお、本発明はこれらの例示に限定されるものではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。また、以下に記載する実施形態の少なくとも一部を任意に組み合わせてもよい。
なお、以下に記載する実施形態に示すシーケンスは限定されるものではなく、矛盾の無い範囲で、各処理手順はその順序を変更して実行されてもよく、また並行して複数の処理が実行されてもよい。各処理の処理主体は限定されるものではなく、矛盾の無い範囲で、各装置の処理を他の装置が実行してもよい。

【0013】

（第１実施形態）
図１は、情報処理システム１００の構成例を示す模式図である。情報処理システム１００は、第１情報処理装置１及び第２情報処理装置２を備える。第１情報処理装置１及び第２情報処理装置２は、インターネット等のネットワークＮに通信接続され、ネットワークＮを介してデータの送受信が可能である。

【0014】

第１情報処理装置１及び第２情報処理装置２はそれぞれ、例えばサーバコンピュータ、パーソナルコンピュータ、量子コンピュータ等であり、種々の情報処理、情報の送受信を行う。第１情報処理装置１及び第２情報処理装置２はそれぞれ、異なる事業者（エンティティ）により管理されている。本実施形態では、一例として、第１情報処理装置１が銀行業者に管理され、第２情報処理装置２がウェブサービス提供業者に管理されているものとする。銀行業者が第１エンティティ、すなわち第１情報処理装置１を管理する事業者に対応する。ウェブサービス提供業者が第２エンティティ、すなわち第２情報処理装置２を管理する事業者に対応する。なお第１エンティティ及び第２エンティティの業種は上記の例に限定されるものでないことは勿論である。例えば、第１エンティティが電気事業者であり、第２エンティティがウェブサービス提供業者であってもよい。

【0015】

図１では、情報処理システム１００が２つの情報処理装置により構成される例を示しているが、本実施形態は限定されるものではない。情報処理システム１００は、３つ以上の情報処理装置を備え、３つ以上のエンティティを含む構成であってもよい。

【0016】

本実施形態の情報処理システム１００では、複数の事業者それぞれの保有するデータを連携し、後述する第１識別器を用いて複数の事業者間におけるデータの共通集合を識別する。本実施形態において、データの共通集合とは、複数の事業者に共通して存在するユーザ（顧客）に関するデータを意味する。共通集合の識別結果を活用することで、よりユーザに適した情報の提供が可能となる。例えば、銀行業者は、ウェブサービスの利用実態のある顧客に対し、ウェブサービスと連携したキャンペーンの情報を優先的に提供することができる。情報処理システム１００では、後述する共通データ構造Ｃを定義することにより、複数の事業者間においてそれぞれの保有するデータそのものを直接共有することなく、上述のような一連の処理を実行する。これにより容易且つ秘匿性を向上したデータ連携が可能となる。

【0017】

このような情報処理システム１００の構成及び詳細な処理内容について以下に説明する。

【0018】

図１に示すように、第１情報処理装置１は、制御部１１、記憶部１２、通信部１３及び入出力部１４を備える。第１情報処理装置１は複数のコンピュータからなるマルチコンピュータであってもよく、ソフトウェアによって仮想的に構築された仮想マシンであってもよい。

【0019】

制御部１１は、一又は複数のＣＰＵ（Central Processing Unit）、ＧＰＵ（Graphics Processing Unit）等を用いたプロセッサを備える。制御部１１は、内蔵するＲＯＭ（Read Only Memory）又はＲＡＭ（Random Access Memory）等のメモリ、クロック、カウンタ等を用い、各構成部を制御して処理を実行する。

【0020】

記憶部１２は、例えばハードディスク、フラッシュメモリ、ＳＳＤ（Solid State Drive）等の不揮発性メモリを備える。記憶部１２は、制御部１１が参照するプログラム及びデータを記憶する。記憶部１２は、複数の記憶装置により構成されていてもよく、第１情報処理装置１に接続された外部記憶装置であってもよい。記憶部１２に記憶されるプログラムには、後述する第１識別器を用いた処理をコンピュータに実行させるためのプログラム１Ｐが含まれる。

【0021】

記憶部１２に記憶されるデータには、第１エンティティの有する顧客情報（第１エンティティデータ）を格納する顧客ＤＢ１２１（Data Base ：データベース）、第１識別器１２２及び第１損失関数１２３が含まれる。

【0022】

第１識別器１２２は、第１情報処理装置１及び第２情報処理装置２それぞれに保有されるデータにおける共存データを識別するための識別器である。第１識別器１２２は、例えばニューラルネットワークにより構成される機械学習モデルである。第１識別器１２２は、人工知能ソフトウェアを構成するプログラムモジュールとしての利用が想定される。第１識別器１２２は、その定義情報によって定義される。第１識別器１２２の定義情報は、例えば、第１識別器１２２の構造情報や層の情報、各層が備えるノードの情報、ノード間の重み及びバイアスなどのパラメータを含む。記憶部１２には、第１識別器１２２に関する定義情報が記憶される。第１損失関数１２３は、第１識別器１２２の学習に用いる損失関数（誤差関数）である。

【0023】

記憶部１２に記憶されるプログラム（プログラム製品）は、記録媒体にコンピュータ読み取り可能に記録されている態様であってもよい。記憶部１２は、図示しない読出装置によって記録媒体１Ａから読み出されたプログラムを記憶する。また、図示しない通信網に接続されている図示しない外部コンピュータからプログラムをダウンロードし、記憶部１２に記憶させたものであってもよい。プログラム１Ｐは、単一のコンピュータ上で、また
は１つのサイトにおいて配置されるか、もしくは複数のサイトにわたって分散され、通信ネットワークによって相互接続された複数のコンピュータ上で実行されるように展開することができる。

【0024】

通信部１３は、ネットワークＮを介した外部装置との通信に関する処理を行うための通信モジュールを備える。制御部１１は、通信部１３を介し、第２情報処理装置２との間でデータを送受信する。

【0025】

入出力部１４は、外部装置を接続するための入出力Ｉ／Ｆ（インタフェース）である。入出力部１４に接続される外部装置には、例えば各種の情報を表示する表示装置、ユーザの入力操作を受け付ける入力装置（いずれも不図示）等が含まれてもよい。

【0026】

第２情報処理装置２は、第１情報処理装置１と同様のハードウェア構成であり、制御部２１、記憶部２２、通信部２３及び入出力部２４を備える。第２情報処理装置２は複数のコンピュータからなるマルチコンピュータであってもよく、ソフトウェアによって仮想的に構築された仮想マシンであってもよい。

【0027】

記憶部２２は、不揮発性メモリを備え、制御部２１が参照するプログラム及びデータを記憶する。記憶部２２に記憶されるプログラムには、第１識別器１２２の学習に関する処理をコンピュータに実行させるためのプログラム２Ｐが含まれる。記憶部２２に記憶されるデータには、第２エンティティの有するユーザ情報（第２エンティティデータ）を格納するユーザＤＢ２２１が含まれる。

【0028】

図２は、顧客ＤＢ１２１に記憶されるデータの内容例を示す図である。顧客ＤＢ１２１には、銀行業者の顧客に関する各種データを含む顧客情報が記憶されている。顧客情報には、例えば複数の顧客それぞれの顧客ＩＤ、氏名、年齢、性別、住所、電話番号、口座情報等が含まれている。顧客情報は、複数の顧客に関するデータ（サンプル）により構成されるデータ集合である。顧客ＤＢ１２１は、顧客情報の内容に適したデータ構造により各種データを記憶する。

【0029】

図３は、ユーザＤＢ２２１に記憶されるデータの内容例を示す図である。ユーザＤＢ２２１には、ウェブサービス提供業者のユーザに関する各種データを含むユーザ情報が記憶されている。ユーザ情報には、例えば複数のユーザそれぞれのユーザＩＤ、氏名、性別、住所、電話番号、購入日、カード番号等が含まれている。ユーザ情報は、複数のユーザに関するデータ（サンプル）により構成されるデータ集合である。ユーザＤＢ２２１は、ユーザ情報の内容に適したデータ構造により各種データを記憶する。

【0030】

図４は、第１識別器１２２の概要を示す説明図である。第１識別器１２２は、各事業者におけるデータのサンプルが入力された場合、当該サンプルのクラスを示す情報を出力するように構成される。第１識別器１２２の識別結果は、当該サンプルが他の事業者におけるデータに存在するか否かを示す情報となる。なお「サンプル」とは、各事業者におけるデータ集合から抽出されたデータを意味する。

【0031】

詳細は後述するが、本実施形態の情報処理システム１００では、第１エンティティの第１情報処理装置１において未学習状態の第１識別器１２２が生成される。未学習状態の第１識別器１２２は、第２エンティティの第２情報処理装置２へ送信され、第２エンティティの保有する第２エンティティデータ（ユーザ情報）を用いて学習される。学習完了後、学習済みの第１識別器１２２が第２情報処理装置２から第１情報処理装置１へ送信される。第１エンティティの第１情報処理装置１は、第１エンティティの保有する第１エンティティデータ（顧客情報）及び学習済みの第１識別器１２２を用いて演算を行い、第１デー
タ及び第２データの両方に存在するサンプルを特定する。以下では、入力情報が顧客情報のサンプルである場合を例に挙げて説明する。

【0032】

第１識別器１２２は、例えばニューラルネットワークより構成される学習モデルである。第１識別器１２２は、顧客情報の入力を受け付ける入力層と、当該顧客情報の特徴量を抽出する中間層（隠れ層）と、クラスを示す情報を出力する出力層とを有する。中間層は、入力されたそれぞれの値の特徴量を抽出する複数のノードを有し、各種パラメータを用いて抽出された特徴量を出力層に受け渡す。出力層は、例えば全結合層により構成され、中間層から出力された特徴量に基づいてクラスを示す情報を出力する。

【0033】

第１識別器１２２の入力層は、顧客情報における所定列（例えば電話番号列）の各データが入力される。入力層に入力される電話番号は、顧客情報及びユーザ情報の構造を共通化させるための共通データ構造Ｃに変換して入力される。共通データ構造Ｃの詳細は後述する。入力層の有するノード数は、共通データ構造Ｃの列数と同じとなるよう構成されている。共通データ構造Ｃに変換後の各サンプルにおける各列の値がそれぞれ、入力層の各ノードに入力される。

【0034】

第１識別器１２２の出力層は、設定されているクラスに各々対応する複数のノードを有する。出力層は、例えば活性化関数としてソフトマックス関数を用いて構成される。出力層の各ノードは、各クラスに対する確度をスコアとして出力する。第１情報処理装置１は、スコアが最も高いクラス、あるいはスコアが閾値以上であるクラスを出力層の出力値とすることができる。なお出力層は、それぞれのクラスの確度を出力する複数の出力ノードを有する代わりに、最も確度の高いクラスを出力する１個の出力ノードを有してもよい。出力層の有するノード数は、顧客情報に含まれるサンプル数に、所定のオフセット数を加算した数となるよう構成されている。オフセット数は、例えばユーザ情報に含まれるサンプル数や後述するガベージデータ数等に基づいて適宜設定されてよい。

【0035】

本実施形態では、第１識別器１２２がニューラルネットワークであるとしたが、第１識別器１２２の構成は限定されず、例えばＣＮＮ（Convolutional Neural Network）、ＲＮＮ（Recurrent Neural Network）、ＳＶＭ（Support Vector Machine）、決定木、Ｔｒａｎｓｆｏｒｍｅｒ等、その他の学習アルゴリズムに基づくモデルであってもよい。

【0036】

第１識別器１２２は、共通データ構造Ｃに変換したユーザ情報における電話番号列の各データと、各データのクラスとが対応付けられた訓練データを用意し、当該訓練データを用いて未学習のニューラルネットワークを機械学習させることにより生成することができる。各データに対応付けられるクラスは、例えば各データのユーザＩＤ等に基づいて、一のクラスに対し一のユーザＩＤが対応するよう設定されてよい。すなわち、ユーザ情報に含まれる全てのサンプルに対して異なるクラスが割り当てられる。

【0037】

訓練データにはさらに、実際のユーザ情報には含まれない電話番号であるガベージデータ（偽データ）が含まれてもよい。第２情報処理装置２は、ユーザ情報には含まれないランダムに生成した電話番号を共通データ構造Ｃに変換したガベージデータと、ガベージデータ用に割り当てられたクラスとを対応付たデータセットを生成し、訓練データに追加する。訓練データにガベージデータを加えることにより、第１識別器１２２の識別精度を向上させることができる。ガベージデータは、乱数発生器等により生成されてもよい。

【0038】

第２情報処理装置２は、サンプルに対し、サンプルのクラスを示すラベルが付与された情報群を訓練データとして取得する。第２情報処理装置２は、取得した訓練データを用いて第１識別器１２２を学習する。第２情報処理装置２は、サンプルに応じたクラスを出力するよう、例えば誤差逆伝播法を用いて、第１識別器１２２を構成する各種パラメータを
最適化する。

【0039】

図５は、情報処理システム１００における処理の流れを説明する説明図である。上述したように、情報処理システム１００では、第１情報処理装置１により生成された第１識別器１２２に対し、第２情報処理装置２のユーザ情報を用いて学習を行う。そして学習済みの第１識別器１２２を用いて、第１情報処理装置１の顧客情報に対する識別処理を行う。このように、情報処理システム１００では、第１エンティティ及び第２エンティティそれぞれが、互いに保有するデータを共有することなく第１識別器１２２を構築する、所謂連合学習を実行する。

【0040】

連合学習においては、連携する各事業者の有するデータ構造が異なることが想定される。特に、本実施形態のように異業種間においてはデータ構造の異なる可能性が高い。データ構造が類似性を有さない場合、各事業者の有するデータをそのまま第１識別器１２２に用いることは困難である。そこで、従来、各事業者間におけるデータの連携にあたり、それぞれの保有するデータに関する各種情報を共有し、業界の用語などを用いて、各種情報に対し相互に分析を繰り返す事前処理が行われている。事前処理は煩雑でありコストを要する。

【0041】

本実施形態では、簡略化された事前処理により、事業者間におけるデータ構造を共通化するための共通データ構造Ｃを定義することで、事業者間における連合学習を可能にする。以下、図５を用いて処理の流れを具体的に説明する。

【0042】

まず初めに、第１情報処理装置１は、顧客ＤＢ１２１に記憶する顧客情報のデータ構造、サンプル数、列数、各列の名称、意味、入力規則などを含むデータ概要情報を第２情報処理装置２へ公開する。同様に、第２情報処理装置２は、ユーザＤＢ２２１に記憶するユーザ情報のデータ概要情報を第１情報処理装置１へ公開する。第１情報処理装置１及び第２情報処理装置２は、互いのデータ概要情報に基づいて、相互に保有するデータの中から重複する可能性が高いと合意した１つ以上の列を決定する。以下では、一例として電話番号列を使用する場合を説明する。

【0043】

第１情報処理装置１及び第２情報処理装置２は、指定した電話番号列に係るデータの構造を共通化するための共通データ構造Ｃと、電話番号列に係るデータを当該共通データ構造Ｃへ変換するためのデータ変換方法とを定義する。

【0044】

例えば電話番号を変換対象データとする場合、共通データ構造Ｃとして二次元配列、データ変換方法としてＮ－ｇｒａｍが定義される。図５の中央下側に示すように、共通データ構造Ｃは、文字種類のＮ乗数の列を有するマトリクスとして定義される。一例として、電話番号に対しＮ＝４のＮ－ｇｒａｍを用いる場合、文字種類は０～９の１０種類であり、共通データ構造Ｃの列数は１０⁴である。共通データ構造Ｃの行数は、サンプル数に対応して適宜設定される。このように、データ変換方法に応じた共通データ構造Ｃが規定される。

【0045】

第１情報処理装置１は、顧客情報の電話番号列に格納される各電話番号（サンプル）に対しＮ＝４のＮ－ｇｒａｍ分割を行い、各値の出現有無を判定する。図５中央では、簡易的に顧客情報が６列×３行のデータであり、第４列目の電話番号列を共通データ構造Ｃへ変換する概念を例示している。

【0046】

第１情報処理装置１は、共通データ構造Ｃの各列（００００～９９９９）に、各値の出現有無の判定結果を示す情報を格納する。図５の例において、０は出現無、１は出現有を示す。これにより、図５の下側に示すように、共通データ構造Ｃに変換した変換後顧客情
報が得られる。

【0047】

同様に、第２情報処理装置２においても、ユーザ情報の電話番号列（図５の例にて第３列目）に格納される各電話番号に対し、データ変換方法に従ってデータ構造の変換が行われ、共通データ構造Ｃに変換した変換後ユーザ情報が得られる。

【0048】

上記の変換後ユーザ情報を用いて、第２情報処理装置２側で第１識別器１２２が学習される。学習が完了すると、サンプルに対し当該サンプルのクラスを適切に認識可能に学習された第１識別器１２２が構築される。

【0049】

学習済みの第１識別器１２２を用いて、第１情報処理装置１側で顧客情報の各サンプルに対するクラスが推定される。具体的には、第１識別器１２２に変換後顧客情報の各サンプルを入力し、顧客情報における全てのサンプルのクラスの識別結果を求める。

【0050】

ここで、活性化関数としてソフトマックス関数を用いたニューラルネットワークにより識別器を生成した場合において、訓練データに一様に分布したクラスに属するデータを用いたときには、未学習のクラスに属するデータのクラスが少数の特定クラスにバイアスされて予測されるという知見がある。このような知見に基づき、ユーザ情報を用いて十分に学習させた第１識別器１２２によりクラスを推定した場合において、複数のサンプルに対し共通するクラスを示す認識結果が得られたときは、それら共通するクラスに対応付けられた複数のサンプルは全て、訓練データに含まれないデータ、すなわちユーザ情報に存在しないデータであるとみなすことができる。

【0051】

上記より、１つのクラスに対し１つのサンプルのみが対応するとの識別結果が得られた場合、当該サンプルは顧客情報及びユーザ情報の両方に存在するとみなす。１つのクラスに対し複数のサンプルが対応するとの識別結果が得られた場合、当該クラスに対応付けられるサンプルは顧客情報にのみ存在し、ユーザ情報に存在しないとみなす。

【0052】

上述の判定基準に従い、第１識別器１２２によるクラスの識別結果に基づいて、顧客情報のサンプルのうちユーザ情報に含まれるサンプル、すなわち顧客情報及びユーザ情報の共通集合を特定することができる。

【0053】

上記では、事業者間の重複データとして電話番号を使用する例を説明したが、顧客情報及びユーザ情報から選択されるデータの種類は限定されないことは勿論である。重複データとして指定されるデータは、例えばカード番号、氏名、住所等であってもよい。データが氏名又は住所等の文字を含む場合、例えば各文字列を所定のハッシュ関数によりハッシュ値へ変換し、変換後のハッシュ値に対しＮ－ｇｒａｍ分割を行ってもよい。共通データ構造Ｃ及びデータ変換方法は、指定されるデータに応じて適宜に定義されてよい。

【0054】

図６は、共通データ構造の定義に関する処理手順の一例を示すシーケンス図である。以下の処理は、第１情報処理装置１の記憶部１２に記憶するプログラム１Ｐに従って制御部１１により実行されるとともに、第２情報処理装置２の記憶部２２に記憶するプログラム２Ｐに従って制御部２１により実行される。

【0055】

第１情報処理装置１の制御部１１は、顧客ＤＢ１２１に記憶する顧客情報に基づき顧客情報のデータ概要情報を生成し、生成したデータ概要情報を公開する（ステップＳ１０１）。同様に第２情報処理装置２の制御部２１は、ユーザＤＢ２２１に記憶するユーザ情報に基づきユーザ情報のデータ概要情報を生成し、生成したデータ概要情報を公開する（ステップＳ２０１）。データ概要情報の公開は、例えば、情報処理システム１００に含まれる各装置がアクセス可能な記憶領域に記憶させることにより行われてよい。

【0056】

第１情報処理装置１の制御部１１は、公開された第２エンティティにおけるユーザ情報のデータ概要情報を取得する（ステップＳ１０２）。同様に第２情報処理装置２の制御部２１は、公開された第１エンティティにおける顧客情報のデータ概要情報を取得する（ステップＳ２０２）。なおデータ概要情報は、第１情報処理装置１及び第２情報処理装置２間で直接送受信されることにより、相互にデータ概要情報を取得するものであってもよい。

【0057】

第１情報処理装置１の制御部１１は、取得したユーザ情報のデータ概要情報に基づいて、ユーザ情報における１つ以上の列（例えば電話番号列）を特定し、特定した列を指定するための情報を第２情報処理装置２へ送信する（ステップＳ１０３）。制御部１１は、例えばデータ概要における各列の名称、意味、入力規則等と、顧客情報とを比較することにより、顧客情報と重複する可能性が高いユーザ情報の列を特定する。

【0058】

第２情報処理装置２の制御部２１は、特定した列を指定するための情報を受信する（ステップＳ２０３）。制御部２１は、列の指定に対する応答として、受信した列の指定に合意する旨を示す情報を第１情報処理装置１へ送信する（ステップＳ２０４）。

【0059】

第１情報処理装置１の制御部１１は、合意する旨を示す情報を受信する（ステップＳ１０４）。これにより、第１情報処理装置１及び第２情報処理装置２間で、それぞれの保有するデータのうち連合学習に使用するデータ列が共有される。

【0060】

第１情報処理装置１の制御部１１は、合意に係る電話番号列のデータ内容に応じて、共通データ構造Ｃ及び当該共通データ構造Ｃとするためのデータ変換方法を定義する（ステップＳ１０５）。例えば、データ変換方法はＮ＝４のＮ－ｇｒａｍを用いた文字列の出現頻度の算出を含み、共通データ構造Ｃは、００００から９９９９までの１０⁴の列数を有する二次元配列である。制御部１１は、共通データ構造Ｃ及びデータ変換方法の定義情報を記憶部１２に記憶するとともに、第２情報処理装置２へ送信する（ステップＳ１０６）。

【0061】

第２情報処理装置２の制御部２１は、共通データ構造Ｃ及びデータ変換方法の定義情報を受信し（ステップＳ２０５）、記憶部２２に記憶する。

【0062】

上述の処理において、各処理の主体は限定されるものではない。例えば、第２情報処理装置２がデータ列の特定を行ってもよく、共通データ構造Ｃ及びデータ変換方法の定義を行うものであってもよい。

【0063】

図７及び図８は、第１識別器１２２の生成に関する処理手順の一例を示すシーケンス図である。

【0064】

第１情報処理装置１の制御部１１は、第１識別器１２２及び該第１識別器１２２に対する第１損失関数１２３を生成する（ステップＳ１１１）。生成される第１識別器１２２は、未学習状態のニューラルネットワークモデルである。制御部１１は、共通データ構造Ｃ、顧客情報及びユーザ情報のサンプル数等に基づいて、第１識別器１２２の構造情報、層の情報及びノードの情報等の定義情報を決定する。また制御部１１は、第１識別器１２２に応じて、第１識別器１２２の評価に適した第１損失関数１２３を決定する。第１損失関数１２３は、例えば負の対数尤度、平均二乗誤差等であってもよい。

【0065】

制御部１１は、生成した第１識別器１２２及び第１損失関数１２３を第２情報処理装置２へ送信する（ステップＳ１１２）。

【0066】

第２情報処理装置２の制御部２１は、第１識別器１２２及び第１損失関数１２３を受信する（ステップＳ２１１）。制御部２１は、ガベージクラスに属するデータ、すなわちユーザ情報に存在しないランダムな値を持つガベージデータを生成する（ステップＳ２１２）。

【0067】

制御部２１は、ユーザＤＢ２２１を参照して、ユーザ情報のデータのうち予め合意したデータ列のデータ（サンプル）を抽出する。制御部２１は、抽出したサンプル及びガベージデータを含むユーザ情報を共通データ構造Ｃに変換し（ステップＳ２１３）、変換後ユーザ情報を生成する。制御部２１は、生成した変換後ユーザ情報を記憶部２２に一時的に記憶する。

【0068】

第１情報処理装置１の制御部１１は、第１識別器１２２の学習要求を第２情報処理装置２へ送信する（ステップＳ１１３）。

【0069】

第２情報処理装置２の制御部２１は、学習要求を受信する（ステップＳ２１４）。なお、制御部２１は、第１識別器１２２及び第１損失関数１２３を受信した後、学習要求を受信することなくステップＳ２１５以降の処理を実行してもよい。

【0070】

制御部２１は、第１識別器１２２の学習のための訓練データを取得する（ステップＳ２１５）。具体的には、制御部２１は、変換後ユーザ情報の各データに対し、サンプルのクラスを示すラベルを付与したデータセットを生成することにより、訓練データとして取得する。

【0071】

制御部２１は、取得した訓練データを用いて第１識別器１２２の学習を行う（ステップＳ２１６）。具体的には、制御部２１は、訓練データに含まれる変換後ユーザ情報を入力データとして第１識別器１２２に入力し、第１識別器１２２から出力されるクラスを取得する。制御部２１は、出力されたクラスと、正解値であるクラスとの誤差を最適化するよう、例えば誤差逆伝播法を用いて、各種パラメータを調整する。

【0072】

制御部２１は、例えば所定のエポック数の学習を終了した後、第１損失関数１２３を用いて求められる第１識別器１２２の評価値を取得する（ステップＳ２１７）。制御部２１は、取得した評価値を第１情報処理装置１へ送信する（ステップＳ２１８）。

【0073】

第１情報処理装置１の制御部１１は、第１識別器１２２の評価値を受信する（ステップＳ１１４）。制御部１１は、受信した評価値に基づいて、第１識別器１２２の学習を終了する否かを判定する（ステップＳ１１５）。制御部１１は、例えば、受信した評価値が予め設定される閾値未満であるか否かを判定することにより、学習を終了するか否かを判定してよい。

【0074】

受信した評価値が予め設定される閾値以上であることにより、学習を終了しないと判定した場合（ステップＳ１１５：ＮＯ）、制御部１１は、処理をステップＳ１１３へ戻し、第２情報処理装置２に対する学習及び評価値送信の要求を繰り返す。

【0075】

受信した評価値が予め設定される閾値未満であることにより、学習を終了すると判定した場合（ステップＳ１１５：ＹＥＳ）、制御部１１は、第１識別器１２２の学習に対する終了命令及び第１識別器１２２の要求を第２情報処理装置２へ送信する（ステップＳ１１６）。

【0076】

第２情報処理装置２の制御部２１は、終了命令及び第１識別器１２２の要求を受信する
（ステップＳ２１９）。制御部２１は、第１識別器１２２の学習を終了し、学習済みの第１識別器１２２の定義情報を第１情報処理装置１へ送信する（ステップＳ２２０）。なお、学習を終了するか否かの判定は、第２情報処理装置２が実行してもよい。この場合、第２情報処理装置２は、予め第１情報処理装置１から判定基準となる閾値を取得し、取得した閾値を用いて学習を終了するか否かを判定するものであってよい。

【0077】

第１情報処理装置１の制御部１１は、学習済みの第１識別器１２２を受信し（ステップＳ１１７）、記憶部１２に記憶する第２識別器２２２の定義情報を更新する。

【0078】

制御部１１は、第２情報処理装置２における学習に対するインセンティブを決定する（ステップＳ１１８）。インセンティブは、例えば学習料金、ポイント等により第２情報処理装置２へ与えられる。制御部１１は、例えば第２エンティティにおける第１識別器１２２の学習量、第１識別器１２２における第１損失関数１２３の評価値、及び第１識別器１２２の学習に使用された前記第２エンティティのデータ量（ユーザ情報のデータ量）の少なくとも１つに応じて、第２エンティティに対するインセンティブを決定する。第１識別器１２２の学習量（例えば学習に要した学習時間）が大きい程、より多くのインセンティブが付与される。第１損失関数１２３の評価値が小さい程、より多くのインセンティブが付与される。ユーザ情報のデータ量（例えばサンプル数）が大きい程、より多くのインセンティブが付与される。制御部１１は、決定したインセンティブを第２情報処理装置２へ送信してもよい。

【0079】

上述の処理において、第２情報処理装置２における学習の進捗状況が第１情報処理装置１において認識可能に構成されてもよい。例えば、第２情報処理装置２は、第２情報処理装置２における学習実行の有無、学習を開始してからの経過時間、学習回数等の進捗状況を所定間隔で第１情報処理装置１へ送信する。学習の進捗状況を情報処理システム１００内で共有することにより、自装置以外で実行される学習状況を適切に把握することができるため、利便性を向上し得る。

【0080】

図９は、共通データを特定する処理手順の一例を示すシーケンス図である。

【0081】

第１情報処理装置１の制御部１１は、顧客ＤＢ１２１を参照して、顧客情報のデータのうち予め合意したデータ列のデータ（サンプル）を抽出する。制御部１１は、定義済みのデータ変換方法に従い、抽出した各サンプルを共通データ構造Ｃに変換し（ステップＳ１３１）、変換後顧客情報を生成する。

【0082】

制御部１１は、変換後顧客情報のサンプルを第１識別器１２２に入力する（ステップＳ１３２）。詳細には、制御部１１は、共通データ構造Ｃにおける各列の値をそれぞれ、各列に対応付けられる第１識別器１２２の入力ノードに入力する。制御部１１は、第１識別器１２２から出力されるクラスの識別結果を取得する（ステップＳ１３３）。制御部１１は、顧客情報の全てサンプルに対し上記第１識別器１２２による識別処理を行い、全てのサンプルに対するクラスを推定する。

【0083】

制御部１１は、全てのサンプルに対するクラスの識別結果に基づいて、顧客情報及びユーザ情報に共通して存在するサンプル、すなわち顧客情報及びユーザ情報の共通集合を特定する（ステップＳ１３４）。

【0084】

上述の処理において、第１識別器１２２は、第２情報処理装置２側のみにおいて学習されるものに限定されず、第１情報処理装置１側においてさらに学習されるものであってもよい。第１情報処理装置１は、例えばステップＳ１１４において評価値とともに、学習途中の第１識別器１２２を取得する。第１情報処理装置１は、共通データ構造に変換した顧
客情報の各データと、サンプルのクラスを示すラベルとを対応付けた訓練データを用いて、第１識別器１２２の学習を実行する。第１情報処理装置１は、学習を行った第１識別器１２２における評価値を算出し、学習を終了するか否かを判定する。学習を終了しない場合、再度第１情報処理装置１による学習を行ってもよく、学習を行った第１識別器１２２を第２情報処理装置２へ送信し、更なる第１識別器１２２の学習を第２情報処理装置２へ要求してもよい。第２情報処理装置２及び第１情報処理装置１の両方で学習を行うことにより、第１識別器１２２の精度をより向上することができる。

【0085】

上記では、第１エンティティ及び第２エンティティ間でデータ連携を行う構成を説明したが本実施形態は限定されるものではなく、情報処理システム１００は３つ以上のエンティティを含むものであってもよい。例えば、第１情報処理装置１の要求に応じて、第２エンティティの第２情報処理装置２及び第３エンティティの第３情報処理装置（不図示）を含む複数の情報処理装置において、各エンティティの保有するデータを用いて第１識別器１２２の学習が行われてもよい。第１情報処理装置１は、複数の情報処理装置それぞれから受信する第１識別器１２２の定義情報を統合して、第１識別器１２２を構築する。

【0086】

上述の処理によれば、共通データ構造Ｃを定義することにより、第１情報処理装置１及び第２情報処理装置２それぞれの保有する構造の異なるデータを好適に活用することができる。第１情報処理装置１又は第２情報処理装置２は、データ概要情報のうち必要な情報（認識可能な情報）のみに基づいて、共通データ構造Ｃに変換するデータ列を指定できるため、データ連携のための事前準備が容易となる。

【0087】

例えば、事業者間におけるデータそのものを共有する場合には、共有する事業者に対しデータを送信することが必要とされる。個人情報保護の観点から、送信対象のデータが個人を特定し得るデータであるときはデータの暗号化が必要であるといったことに加え、個人を特定し得る情報を暗号化したものについても個人情報として保護を行うことが必要とされている。このため、個人情報に係るデータを使用するためには個人の同意を取得しなければならず、容易にデータを利用することができない。本実施形態では、第１識別器１２２を通して事業者間におけるデータ連携を実現することで、事業者間におけるデータそのものの共有を不要とするため、それぞれの事業者におけるデータを容易に活用でき、データの秘匿性を向上し得る。

【0088】

第１情報処理装置１は、第１識別器１２２を用いて、精度よく顧客情報とユーザ情報との共通集合を得ることができる。第１識別器１２２は、予めユーザ情報に存在しないガベージデータを訓練データに加えて学習を行う。これにより、本実施形態の共通データ構造Ｃのように、文字列の出現頻度に基づいてデータ変換を行うものであっても、偽陽性と判定される可能性を低減し、第１識別器１２２の認識精度を向上することができる。

【0089】

（第２実施形態）
第２実施形態では、第２情報処理装置２の学習要求に応じて、第１情報処理装置１側で第２識別器を学習する構成を説明する。以下では主に第１実施形態との相違点を説明し、第１実施形態と共通する構成については同一の符号を付してその詳細な説明を省略する。

【0090】

図１０は、第２実施形態における情報処理システム１００の構成例を示す模式図である。第２情報処理装置２の記憶部２２には、プログラム２Ｐ及びユーザＤＢ２２１に加えて、第２識別器２２２及び第２損失関数２２３が記憶されている。

【0091】

第２識別器２２２は、第１情報処理装置１及び第２情報処理装置２それぞれに保有されるデータにおける共存データを識別するための識別器である。第２識別器２２２は、例えばニューラルネットワークにより構成される機械学習モデルである。第２識別器２２２は
、人工知能ソフトウェアを構成するプログラムモジュールとしての利用が想定される。第２損失関数２２３は、第２識別器２２２の学習に用いる損失関数である。第２損失関数２２３は、例えば負の対数尤度であってもよい。

【0092】

第２識別器２２２は、各事業者におけるデータから抽出したサンプルが入力された場合、当該サンプルのクラスを示す情報を出力するように構成される。第２識別器２２２の構成は、図４に示した第１識別器１２２と同様であってよい。

【0093】

第２実施形態では、第２情報処理装置２の学習要求に応じて、第１情報処理装置１が顧客情報を用いて第２識別器２２２を学習する。第２情報処理装置２は、学習済みの第２識別器２２２を第１情報処理装置１から受信し、ユーザ情報及び学習済みの第２識別器２２２を用いて演算を行い、ユーザ情報と顧客情報との共通集合を特定する。

【0094】

図１１及び図１２は、第２識別器２２２の生成に関する処理手順の一例を示すシーケンス図である。

【0095】

第２情報処理装置２の制御部２１は、第２識別器２２２及び該第２識別器２２２に対する第２損失関数２２３を生成する（ステップＳ２４１）。生成される第２識別器２２２は、未学習状態のニューラルネットワークモデルである。制御部２１は、生成した第２識別器２２２及び第２損失関数２２３を第１情報処理装置１へ送信する（ステップＳ２４２）。

【0096】

第１情報処理装置１の制御部１１は、第２識別器２２２及び第２損失関数２２３を受信する（ステップＳ１４１）。制御部２１は、顧客情報に存在しないランダムな値を持つガベージクラスに属するガベージデータを生成する（ステップＳ１４２）。

【0097】

制御部１１は、顧客ＤＢ１２１を参照して、顧客情報のデータのうち予め合意したデータ列のデータ（サンプル）を抽出する。制御部２１は、抽出したサンプル及びガベージデータを含む顧客情報を共通データ構造Ｃに変換し（ステップＳ１４３）、変換後顧客情報を生成する。使用するデータ列は、第１識別器１２２の学習に用いるデータ列と同一であってもよく、異なるものであってもよい。

【0098】

第２情報処理装置２の制御部２１は、第２識別器２２２の学習要求を第１情報処理装置１へ送信する（ステップＳ２４３）。

【0099】

第１情報処理装置１の制御部１１は、学習要求を受信する（ステップＳ１４４）。制御部１１は、変換後顧客情報の各データに対し、サンプルのクラスを示すラベルを付与したデータセットを生成することにより、第２識別器２２２の学習のための訓練データを取得する（ステップＳ１４５）。

【0100】

制御部１１は、取得した訓練データを用いて第２識別器２２２の学習を行う（ステップＳ１４６）。具体的には、制御部１１は、訓練データに含まれる変換後顧客情報を入力データとして第２識別器２２２に入力し、第２識別器２２２から出力されるクラスを取得する。制御部１１は、出力されたクラスと、正解値であるクラスとの誤差を最適化するよう、例えば誤差逆伝播法を用いて、各種パラメータを調整する。

【0101】

制御部１１は、例えば所定のエポック数の学習を終了した後、第２損失関数２２３を用いて求められる第２識別器２２２の評価値を取得する（ステップＳ１４７）。制御部１１は、取得した評価値を第２情報処理装置２へ送信する（ステップＳ１４８）。

【0102】

第２情報処理装置２の制御部２１は、第２損失関数２２３の評価値を受信する（ステップＳ２４４）。制御部１１は、受信した評価値に基づいて、第２識別器２２２の学習を終了する否かを判定する（ステップＳ２４５）。

【0103】

例えば受信した評価値が予め設定される閾値以上であることにより、学習を終了しないと判定した場合（ステップＳ２４５：ＮＯ）、制御部２１は、処理をステップＳ２４３へ戻し、第１情報処理装置１に対する学習及び評価値送信の要求を繰り返す。

【0104】

受信した評価値が予め設定される閾値未満であることにより、学習を終了すると判定した場合（ステップＳ２４５：ＹＥＳ）、制御部２１は、第２識別器２２２の学習に対する終了命令及び第２識別器２２２の要求を第１情報処理装置１へ送信する（ステップＳ２４６）。

【0105】

第１情報処理装置１の制御部１１は、終了命令及び第２識別器２２２の要求を受信する（ステップＳ１４９）。制御部１１は、第２識別器２２２の学習を終了し、学習済みの第２識別器２２２として、学習済みの第２識別器２２２の定義情報を第２情報処理装置２へ送信する（ステップＳ１５０）。

【0106】

第２情報処理装置２の制御部２１は、学習済みの第２識別器２２２を受信し（ステップＳ２４７）、記憶部２２に記憶する第２識別器２２２の定義情報を更新する。制御部２１は、第１情報処理装置１における学習に対するインセンティブを決定する（ステップＳ２４８）。

【0107】

以降、第２情報処理装置２の制御部２１は、図９で示した第１実施形態における第１情報処理装置１と同様の処理を実行することによりユーザ情報と顧客情報とに共通して存在するサンプルを特定することができる。具体的には、第２情報処理装置２は、ユーザ情報を共通データ構造Ｃに変換した変換後ユーザ情報を生成し、生成した変換後ユーザ情報のサンプルをそれぞれ学習済みの第２識別器２２２へ入力する。第２情報処理装置２は、全てのサンプルに対し第２識別器２２２から出力されるクラスの識別結果を取得する。第２情報処理装置２は、取得した全てのサンプルに対する識別結果に基づいて、ユーザ情報と顧客情報との共通集合を特定する。

【0108】

本実施形態によれば、第１情報処理装置１及び第２情報処理装置２のそれぞれにおいて識別器の学習を行う。各エンティティはそれぞれ、学習済みの識別器を取得することができるため、情報処理システム１００におけるデータの活用度を向上することができる。

【符号の説明】

【0109】

１００ 情報処理システム
１ 第１情報処理装置
１１ 制御部
１２ 記憶部
１３ 通信部
１４ 入出力部
１Ｐ プログラム
１Ａ 記録媒体
１２１ 顧客ＤＢ
１２２ 第１識別器
１２３ 第１損失関数
２ 第２情報処理装置
２１ 制御部
２２ 記憶部
２３ 通信部
２４ 入出力部
２Ｐ プログラム
２Ａ 記録媒体
２２１ ユーザＤＢ
２２２ 第２識別器
２２３ 第２損失関数

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】