特開 2022-76277 モデルのデータ提供方法、モデルのデータ提供システム、サーバ装置、及びコンピュータプログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2022076277

(43)【公開日】2022-05-19

(54)【発明の名称】モデルのデータ提供方法、モデルのデータ提供システム、サーバ装置、及びコンピュータプログラム

(51)【国際特許分類】

   G06N 20/00 20190101AFI20220512BHJP

【ＦＩ】

G06N20/00

【審査請求】未請求

【請求項の数】10

【出願形態】ＯＬ

(21)【出願番号】P 2020186620

(22)【出願日】2020-11-09

(71)【出願人】

【識別番号】507228172

【氏名又は名称】株式会社ＪＳＯＬ

(74)【代理人】

【識別番号】100114557

【弁理士】

【氏名又は名称】河野 英仁

(74)【代理人】

【識別番号】100078868

【弁理士】

【氏名又は名称】河野 登夫

(72)【発明者】

【氏名】松崎 健一

(72)【発明者】

【氏名】石川 淳也

(72)【発明者】

【氏名】鈴木 悠哉

(57)【要約】

【課題】モデルのデータ提供方法、モデルのデータ提供システム、サーバ装置、及びコンピュータプログラムを提供する。
【解決手段】モデルのデータ提供方法は、サーバに記憶するグローバルモデルのデータを複数のノードに対して配布し、前記複数のノードが処理するローカルデータによって、各ノードに前記グローバルモデルを基にローカルモデルを学習させ、学習後のローカルモデル及びローカルモデルのバージョン情報を各ノードから取得し、前記複数のノード夫々から取得した複数のローカルモデルのデータに基づいて、グローバルモデルのデータを更新し、取得したローカルモデルのデータ、及び、更新後のグローバルモデルのデータを夫々、バージョン情報と対応付けて記憶し、異なるバージョン情報が対応付けられたグローバルモデル及びローカルモデルから、選択を受け付け、選択されたモデルのデータを前記複数のノード又は他の装置へ配布する処理を含む。
【選択図】図１

【特許請求の範囲】

【請求項1】

サーバに記憶するグローバルモデルのデータを複数のノードに対して配布し、
前記複数のノードが処理するローカルデータによって、各ノードに前記グローバルモデルを基にローカルモデルを学習させ、
学習後のローカルモデル及びローカルモデルのバージョン情報を各ノードから取得し、
前記複数のノード夫々から取得した複数のローカルモデルのデータに基づいて、グローバルモデルのデータを更新し、
取得したローカルモデルのデータ、及び、更新後のグローバルモデルのデータを夫々、バージョン情報と対応付けて記憶し、
異なるバージョン情報が対応付けられたグローバルモデル及びローカルモデルから、選択を受け付け、
選択されたモデルのデータを前記複数のノード又は他の装置へ配布する
処理を含むモデルのデータ提供方法。

【請求項2】

前記複数のノードに、各ノードの処理対象であるローカルデータに基づいて、異なるバージョン情報が対応付けられたグローバルモデル及びローカルモデルの精度に基づく評価値を算出させ、
算出された評価値に基づいて、グローバルモデル又はローカルモデルの選択を受け付ける
処理を含む請求項１に記載のモデルのデータ提供方法。

【請求項3】

異なるバージョン情報が対応付けられたグローバルモデル及びローカルモデルから、複数のグローバルモデル及び／又はローカルモデルの選択を受け付け、
グローバルモデル及び／又はローカルモデルそれぞれに、前記ノードが処理するデータを入力して得られる複数の出力結果の比較に基づき、前記データに対する結果を特定させる
請求項１又は２に記載のモデルのデータ提供方法。

【請求項4】

異なるバージョン情報が対応付けられたグローバルモデル及びローカルモデルの内、前記複数のノード夫々に、モデルを選択させ、
所定数以上のノードで選択されたモデルを選出する
請求項１から請求項３のいずれか１項に記載のモデルのデータ提供方法。

【請求項5】

前記グローバルモデル及びローカルモデルのバージョン情報と対応付けて、学習に用いられたローカルデータのデータ量、データ特性、又は学習量を記憶し、
前記データ量、データ特性又は学習量を示すデータと共に、前記グローバルモデル及びローカルモデルの選択肢を出力し選択を受け付ける
請求項１から請求項４のいずれか１項に記載のモデルのデータ提供方法。

【請求項6】

前記グローバルモデルのデータの配布、ローカルモデルの学習、ローカルモデルのデータに基づくグローバルモデルのデータの更新を繰り返す過程における前記グローバルモデル及びローカルモデルの評価値を各算出し、
前記評価値に基づき、配布、更新の対象であるグローバルモデルを、前記グローバルモデル又はローカルモデルから選出する
請求項１から請求項５のいずれか１項に記載のモデルのデータ提供方法。

【請求項7】

ローカルデータを各々処理する複数のノードと、該複数のノードから通信接続されるサーバとを含み、
前記サーバは、前記複数のノードへグローバルモデルのデータを配布し、
前記複数のノードは夫々、処理対象のローカルデータのデータによって前記グローバルモデルからローカルモデルの学習を各々進め、
前記サーバが備える処理部は、
学習後の前記ローカルモデル及びローカルモデルのバージョン情報を前記複数のノードから取得し、
前記複数のノード夫々から取得した学習後のローカルモデルのデータに基づいてグローバルモデルのデータを更新し、
取得したローカルモデルのデータ、及び、更新後のグローバルモデルのデータを夫々、バージョン情報と対応付けて記憶し、
異なるバージョン情報が対応付けられたグローバルモデル及びローカルモデルから、選択を受け付け、
選択されたモデルのデータを前記複数のノード又は他の装置へ配布する
モデルのデータ提供システム。

【請求項8】

複数のノードと通信接続する通信部と、
記憶するグローバルモデルのデータに対する処理部と
を備え、
前記処理部により、
記憶するグローバルモデルのデータを前記複数のノードに対して配布し、
前記複数のノードで処理するローカルデータによって前記グローバルモデルを基に学習したローカルモデルのデータをバージョン情報と対応付けて取得し、
前記複数のノード夫々から取得した学習後のローカルモデルのデータに基づいてグローバルモデルのデータを更新し、
取得したローカルモデルのデータ、及び、更新後のグローバルモデルのデータを夫々、バージョン情報と対応付けて記憶し、
異なるバージョン情報が対応付けられたグローバルモデル及びローカルモデルから、選択を受け付け、
選択されたモデルのデータを前記複数のノード又は他の装置へ配布する
サーバ装置。

【請求項9】

複数のノードに通信接続が可能なコンピュータに、
記憶するグローバルモデルのデータを前記複数のノードに対して配布し、
前記複数のノードで処理するローカルデータによって前記グローバルモデルを基に学習したローカルモデルのデータをバージョン情報と対応付けて取得し、
前記複数のノード夫々から取得した学習後のローカルモデルのデータに基づいてグローバルモデルのデータを更新し、
取得したローカルモデルのデータ、及び、更新後のグローバルモデルのデータを夫々、バージョン情報と対応付けて記憶し、
異なるバージョン情報が対応付けられたグローバルモデル及びローカルモデルから、選択を受け付け、
選択されたモデルのデータを前記複数のノード又は他の装置へ配布する
処理を実行させるコンピュータプログラム。

【請求項10】

サーバと通信接続されるコンピュータに、
前記サーバから配布されるグローバルモデルのデータを基にして処理対象のローカルデータを用いたローカルモデルを学習する処理と、学習後のローカルモデルのデータを前記サーバへ送信する処理とを繰り返し、
異なるバージョン情報が対応付けられたグローバルモデルのデータ及びローカルモデルのデータを取得し、
取得したデータに対応する複数のグローバルモデル及び／又はローカルモデルそれぞれに、データを入力して得られる複数の出力結果の比較に基づいて前記データに対する結果を特定する
処理を実行させるコンピュータプログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、分散学習の実用化のためのモデルのデータ提供方法、モデルのデータ提供システム、サーバ装置、及びコンピュータプログラムに関する。

【背景技術】

【0002】

深層学習に基づく学習モデルを用いた判定、認識等が実用化されている。学習モデルは多様な技術分野で活用できることが確認されている。学習モデルの精度を各種分野で実用化できる程度に向上するために膨大なトレーニングデータを用いたとしてもパラメータの収束に長時間を要し、精度が良くなるとも限らない。

【0003】

特許文献１には、学習対象の学習モデルのレプリカを複数用意し、それらの複数のモデルレプリカが、非同期で独自に学習する方法が開示されている。特許文献１では、パラメータサーバが複数に断片化されており、学習モデルの複数のレプリカが夫々、非同期で、断片化されたパラメータサーバからパラメータを取得して学習し、パラメータを各パラメータサーバへ返すことを繰り返す。このような分散処理により、学習モデルのパラメータが早期に収束するとされている。

【先行技術文献】

【特許文献】

【0004】

【特許文献1】米国特許第８７６８８７０号明細書

【発明の概要】

【発明が解決しようとする課題】

【0005】

特許文献１に開示されているような分散処理による深層学習の方法であっても、トレーニングデータは集約している。しかしながら、医療、金融、認証といった分野のデータは個人データであって機密性が高い。モデルの精度を高めるためにトレーニングデータとしてデータを集約するためには、データの提供に各個人の同意が必要である上、同意が得られたとしてもデータ管理の安全性に対するリスクが常につきまとう。

【0006】

本発明は、斯かる事情に鑑みてなされたものであり、分散学習に基づく学習モデルの実用化を促進するモデルのデータ提供方法、モデルのデータ提供システム、サーバ装置、及びコンピュータプログラムを提供することを目的とする。

【課題を解決するための手段】

【0007】

本開示の一実施形態のモデルのデータ提供方法は、サーバに記憶するグローバルモデルのデータを複数のノードに対して配布し、前記複数のノードが処理するローカルデータによって、各ノードに前記グローバルモデルを基にローカルモデルを学習させ、学習後のローカルモデル及びローカルモデルのバージョン情報を各ノードから取得し、前記複数のノード夫々から取得した複数のローカルモデルのデータに基づいて、グローバルモデルのデータを更新し、取得したローカルモデルのデータ、及び、更新後のグローバルモデルのデータを夫々、バージョン情報と対応付けて記憶し、異なるバージョン情報が対応付けられたグローバルモデル及びローカルモデルから、選択を受け付け、選択されたモデルのデータを前記複数のノード又は他の装置へ配布する処理を含む。

【0008】

本開示の一実施形態のモデルのデータ提供システムは、ローカルデータを各々処理する複数のノードと、該複数のノードから通信接続されるサーバとを含み、前記サーバは、前記複数のノードへグローバルモデルのデータを配布し、前記複数のノードは夫々、処理対象のローカルデータのデータによって前記グローバルモデルからローカルモデルの学習を各々進め、前記サーバが備える処理部は、学習後の前記ローカルモデル及びローカルモデルのバージョン情報を前記複数のノードから取得し、前記複数のノード夫々から取得した学習後のローカルモデルのデータに基づいてグローバルモデルのデータを更新し、取得したローカルモデルのデータ、及び、更新後のグローバルモデルのデータを夫々、バージョン情報と対応付けて記憶し、異なるバージョン情報が対応付けられたグローバルモデル及びローカルモデルから、選択を受け付け、選択されたモデルのデータを前記複数のノード又は他の装置へ配布する。

【0009】

本開示の一実施形態のサーバ装置は、複数のノードと通信接続する通信部と、記憶するグローバルモデルのデータに対する処理部とを備え、前記処理部により、記憶するグローバルモデルのデータを前記複数のノードに対して配布し、前記複数のノードで処理するローカルデータによって前記グローバルモデルを基に学習したローカルモデルのデータをバージョン情報と対応付けて取得し、前記複数のノード夫々から取得した学習後のローカルモデルのデータに基づいてグローバルモデルのデータを更新し、取得したローカルモデルのデータ、及び、更新後のグローバルモデルのデータを夫々、バージョン情報と対応付けて記憶し、異なるバージョン情報が対応付けられたグローバルモデル及びローカルモデルから、選択を受け付け、選択されたモデルのデータを前記複数のノード又は他の装置へ配布する。

【0010】

本開示の一実施形態のコンピュータプログラムは、複数のノードに通信接続が可能なコンピュータに、記憶するグローバルモデルのデータを前記複数のノードに対して配布し、前記複数のノードで処理するローカルデータによって前記グローバルモデルを基に学習したローカルモデルのデータをバージョン情報と対応付けて取得し、前記複数のノード夫々から取得した学習後のローカルモデルのデータに基づいてグローバルモデルのデータを更新し、取得したローカルモデルのデータ、及び、更新後のグローバルモデルのデータを夫々、バージョン情報と対応付けて記憶し、異なるバージョン情報が対応付けられたグローバルモデル及びローカルモデルから、選択を受け付け、選択されたモデルのデータを前記複数のノード又は他の装置へ配布する処理を実行させる。

【0011】

本開示のモデルのデータ提供方法、モデルのデータ提供システム、サーバ装置、及びコンピュータプログラムでは、グローバルモデルのデータは、各ノードで学習されたローカルモデルによって更新され、サーバにて学習用のデータを集約せずに多くのデータを用いた学習が実現される。実際にノードで利用するために選択できるモデルの対象として、グローバルモデルのみならず、他のノードで学習されたローカルモデルが含まれる。

【0012】

本開示の一実施形態のモデルのデータ提供方法は、前記複数のノードに、各ノードの処理対象であるローカルデータに基づいて、異なるバージョン情報が対応付けられたグローバルモデル及びローカルモデルの精度に基づく評価値を算出させ、算出された評価値に基づいて、グローバルモデル又はローカルモデルの選択を受け付ける処理を含む。

【0013】

本開示のモデルのデータ提供方法では、グローバルモデルのみならずローカルモデルについても、評価値が算出されて記憶され、他のノードから閲覧が可能になる。これにより、ノードは、他のノードで学習されて自ノードにとって適したモデルも使用可能である。

【0014】

本開示の一実施形態のモデルのデータ提供方法は、異なるバージョン情報が対応付けられたグローバルモデル及びローカルモデルから、複数のグローバルモデル及び／又はローカルモデルの選択を受け付け、グローバルモデル及び／又はローカルモデルそれぞれに、前記ノードが処理するデータを入力して得られる複数の出力結果の比較に基づき、前記データに対する結果を特定させる。

【0015】

本開示の一実施形態のコンピュータプログラムは、サーバと通信接続されるコンピュータに、前記サーバから配布されるグローバルモデルのデータを基にして処理対象のローカルデータを用いたローカルモデルを学習する処理と、学習後のローカルモデルのデータを前記サーバへ送信する処理とを繰り返し、異なるバージョン情報が対応付けられたグローバルモデルのデータ及びローカルモデルのデータを取得し、取得したデータに対応する複数のグローバルモデル及び／又はローカルモデルそれぞれに、データを入力して得られる複数の出力結果の比較に基づいて前記データに対する結果を特定する処理を実行させる。

【0016】

本開示のモデルのデータ提供方法及びコンピュータプログラムでは、グローバルモデル及びローカルモデルの一覧から、複数の指定が可能であり、複数のモデルに対してデータを入力した場合に複数のモデルそれぞれから得られる結果を比較できる。比較の結果、より多くのモデルから得られた結果で、前記データに対する結果を特定することで、より精度良い結果を得ることが可能になる。

【0017】

本開示の一実施形態のモデルのデータ提供方法は、異なるバージョン情報が対応付けられたグローバルモデル及びローカルモデルの内、前記複数のノード夫々に、モデルを選択させ、所定数以上のノードで選択されたモデルを選出する。

【0018】

本開示のモデルのデータ提供方法では、各ノードから選択された履歴によって、所定数以上のノードで選択されたモデルが選出される。ローカルモデルをも含め、モデル内で多くのノードで利用されるモデルがどのモデルであるかが特定可能になる。選出されたモデルが以後、優先的に配布されてもよいし、バージョンアップ、更新対象とされてもよい。

【0019】

本開示の一実施形態のモデルのデータ提供方法は、前記グローバルモデル及びローカルモデルのバージョン情報と対応付けて、学習に用いられたローカルデータのデータ量、データ特性、又は学習量を記憶し、前記データ量、データ特性又は学習量を示すデータと共に、前記グローバルモデル及びローカルモデルの選択肢を出力し選択を受け付ける。

【0020】

本開示のモデルのデータ提供方法では、グローバルモデルのみならずローカルモデルさえも、各ノードで利用するために選択できる。各モデルがどのようなローカルデータによって学習されたかが出力されることによって、自ノードにとって適切なモデルを選択できる。

【0021】

本開示の一実施形態のモデルのデータ提供方法は、前記グローバルモデルのデータの配布、ローカルモデルの学習、ローカルモデルのデータに基づくグローバルモデルのデータの更新を繰り返す過程における前記グローバルモデル及びローカルモデルの評価値を各算出し、前記評価値に基づき、配布、更新の対象であるグローバルモデルを、前記グローバルモデル又はローカルモデルから選出する。

【0022】

本開示のモデルのデータ提供方法では、グローバルモデルのみならずローカルモデルをも含むモデルの中から、評価値によって適切なモデルが選出される。選出されたモデルのデータは優先的に選択されるように出力されてもよいし、以後の更新対象としてグローバルモデルのデータとして各ノードに再配布されてもよい。

【発明の効果】

【0023】

本開示のモデルのデータ提供方法によれば、グローバルモデルのみならず、他のノードで学習されたローカルモデルについても、ノードにとって精度が高い結果が得られる場合には利用可能になる。

【図面の簡単な説明】

【0024】

【図1】第１の実施形態のモデル提供システムの概要図である。

【図2】ノードの構成を示すブロック図である。

【図3】サーバの構成を示すブロック図である。

【図4】モデル提供システムにおけるモデルの学習処理手順の一例を示すフローチャートである。

【図5】配布されたグローバルモデルに基づくローカルモデルの学習処理手順の一例を示すフローチャートである。

【図6】サーバにおけるグローバルモデルの更新処理の一例を示すフローチャートである。

【図7】モデルの選択の処理手順の一例を示すフローチャートである。

【図8】モデルの一覧画面の一例を示す。

【図9】モデルの個別画面の一例を示す。

【図10】ノードにおけるモデル利用手順の一例を示すフローチャートである。

【図11】第２の実施形態におけるモデルの選択の処理手順の一例を示すフローチャートである。

【図12】第３の実施形態のモデル提供システムにおける学習処理手順の一例を示すフローチャートである。

【図13】第３の実施形態におけるローカルモデルの更新手順の一例を示すフローチャートである。

【図14】モデル選択の処理手順の一例を示すフローチャートである。

【図15】第３の実施形態におけるモデル一覧画面の一例を示す。

【図16】モデルの選出に基づく更新処理手順の一例を示すフローチャートである。

【図17】モデルの選出に基づく更新処理手順の一例を示すフローチャートである。

【図18】モデルの選出に基づく抽出処理手順の一例を示すフローチャートである。

【図19】第３の実施形態におけるモデル一覧画面の他の一例を示す。

【図20】第４の実施形態のモデル提供システムの概要図である。

【図21】第４の実施形態におけるローカルモデルの更新手順の一例を示すフローチャートである。

【図22】第４の実施形態におけるモデル一覧画面の一例を示す。

【発明を実施するための形態】

【0025】

本開示をその実施の形態を示す図面を参照して具体的に説明する。

【0026】

（第１の実施形態）
図１は、第１の実施形態のモデル提供システム１００の概要図である。モデル提供システム１００は、データを記憶する記憶装置２に対して１又は複数設けられたノード１と、サーバ３と、ノード１及びサーバ３間を通信接続する通信網Ｎとを含む。

【0027】

記憶装置２は、物理量を測定するセンサ、画像を撮影するカメラ等、学習対象のデータを入出力する機器との間でデータの入出力が可能であり、それらのデータを蓄積する。記憶装置２は、操作によって入力されるデータに応じて出力する特定用途の計算機に接続されてもよい。記憶装置２は、ユーザが用いる情報端末の記憶装置であってもよい。記憶装置２は、クライアント装置からデータを収集するサーバ装置に使用される記憶装置であってもよい。

【0028】

ノード１は、記憶装置２が記憶しているデータと同種のデータが入力された場合に、データに基づいて認識結果、判定結果、又は新たなデータを出力するように、モデルの深層学習を実行する。サーバ３は、ノード１に対してモデルを提供するコンピュータであると共に、ノード１と協働してモデルを学習するモデル提供システム１００を実現する。記憶装置２が記憶しているデータ（以下、ローカルデータという）をトレーニングデータとしてモデルの学習を実行するには、これらにアクセスできる必要がある。本実施の形態のモデル提供システム１００は、サーバ３からのローカルデータへのアクセスを不可とした状態で、学習を進行させることができる。

【0029】

サーバ３は、初期的に、第０次グローバルモデル５１を得る。サーバ３は、第０次グローバルモデル５１を、通信網Ｎを介してノード１へ配布する。サーバ３からノード１へ配布されるグローバルモデル５１の実体（データ）は、学習済みのパラメータのみ、又は、学習済みのパラメータとプログラムの両方である。グローバルモデル５１は、モデルの構成を定義する定義データ（ネットワーク定義、損失や予め設定されるハイパーパラメータを含む）と、学習対象の重み係数等のパラメータとであってもよい。

【0030】

学習対象のモデルは、深層学習と呼ばれる学習の対象であればアーキテクチャは問わない。深層学習のモデルの種類は、入力データ及び出力データの内容に応じて適切に選択されるべきである。以下説明する学習対象のモデルは、畳み込み層を含むＣＮＮ（Convolutional Neural Network）を用いた分類系、検出系、又は生成系等のいずれでもよいし、時系列要素を加味して学習するＲＮＮ（Recurrent Neural Network）であってもよい。

【0031】

通信網Ｎは、所謂インターネットである公衆通信網、キャリアネットワークを含む。通信網Ｎは、モデル提供システム１００用の専用回線であってもよい。

【0032】

ノード１は、記憶装置２との間のローカルネットワークＬＮに基づいて、記憶装置２に蓄積されたローカルデータにアクセス可能である。ノード１は、アクセス可能なローカルデータを用いて深層学習を実行する。ローカルデータに対しては既に、ノード１が設置されている場所のオペレータによってアノテーションが実施済であるとよい。ノード１は、サーバ３から配布される第０次グローバルモデル５１を取得する。ノード１は、第０次グローバルモデル５１を基に、ローカルデータをトレーニングデータとして学習を進行し、第１次ローカルモデル５２を得る。

【0033】

ノード１は、第１次ローカルモデル５２を、サーバ３へ送信する。ローカルデータはサーバ３へ送信されないから、ローカルデータの抽象化、匿名化等の処理は不要である。

【0034】

サーバ３は、複数のノード１夫々から第１次ローカルモデル５２を複数受信し、受信した複数の第１次ローカルモデル５２に対して統計処理を実行して第１次グローバルモデル５１を作成する。サーバ３は、第１次グローバルモデル５１を、複数のノード１へ再配布する。再配布されるグローバルモデル５１は、重み係数のみであってもよい。再配布される重み係数は学習対象であってもよいし、全体であってもよい。再配布されるグローバルモデル５１は、前回の更新からの差分に対応するものであってもよい。

【0035】

モデル提供システム１００は、サーバ３からノード１への第ｎ次グローバルモデル５１の配布、第ｎ次グローバルモデル５１のノード１におけるローカルデータを用いた学習、学習によって得られる第（ｎ＋１）次ローカルモデル５２のサーバ３への送信、サーバ３での第（ｎ＋１）次ローカルモデル５２の収集及び第（ｎ＋１）次グローバルモデル５１の作成（更新）を繰り返す。

【0036】

これにより、サーバ３からローカルデータへのアクセスを許可することなく、分散学習が可能になる。モデル提供システム１００では、グローバルモデル５１の配布と、ローカルモデル５２の学習とを繰り返していく学習過程において、ノード１で学習されたローカルモデル５２も含む複数のモデルから、グローバルモデル５１を更新する。また、ノード１で学習されたローカルモデル５２及び導出されたグローバルモデル５１の中から、ノード１又はシステム外の情報処理装置４で利用するモデルを選択することを可能とする。

【0037】

このようなモデルの提供方法を実現するモデル提供システム１００の構成について詳細に説明する。

【0038】

図２は、ノード１の構成を示すブロック図である。ノード１は、パーソナルコンピュータ又はサーバコンピュータである。ノード１は、処理部１０、記憶部１１、通信部１２、表示部１３及び操作部１４を備える。

【0039】

処理部１０は、ＣＰＵ（Central Processing Unit ）及び／又はＧＰＵ（Graphics Processing Unit）を用いたプロセッサである。処理部１０は、記憶部１１に記憶されているノードプログラム１Ｐに基づき、記憶装置２からのデータの読み出し、サーバ３との間でのモデルの送受信、及びモデル学習を含む処理を実行する。

【0040】

記憶部１１は、例えばハードディスク、フラッシュメモリ、ＳＳＤ（Solid State Drive）等の不揮発性メモリを用いる。記憶部１１は、処理部１０が参照するデータを記憶する。記憶部１１は、ノードプログラム１Ｐを記憶する。記憶部１１は、深層学習用のライブラリ１Ｌを記憶する。ノードプログラム１Ｐ及び／又は深層学習用のライブラリ１Ｌは、記録媒体８に記憶してあるノードプログラム８Ｐ及び／又は深層学習用のライブラリ８Ｌを処理部１０が読み出して記憶部１１に複製したものであってもよい。記憶部１１は、サーバ３から取得するグローバルモデル５１、及び、ローカルデータによって学習されるローカルモデル５２夫々を記憶する。

【0041】

通信部１２は、通信網Ｎを介したデータ通信、及び、ローカルネットワークＬＮを介した記憶装置２との通信を各々実現する。通信部１２は具体的には、例えばネットワークカードである。処理部１０は、通信部１２によって記憶装置２からデータを読み出し、サーバ３との間でデータを送受信する。

【0042】

表示部１３は、液晶ディスプレイ、有機ＥＬ（Electro Luminescence）ディスプレイ等のディスプレイである。表示部１３は、記憶部１１に記憶されているデータに基づく情報、又はサーバ３から提供されるデータを含む画面を表示する。表示部１３は、タッチパネル内蔵型ディスプレイであってもよい。

【0043】

操作部１４は、処理部１０との間で入出力が可能なキーボード及びポインティングデバイス等のユーザインタフェースである。操作部１４は、音声入力部であってもよい。操作部１４は、表示部１３のタッチパネルであってもよい。操作部１４は、物理ボタンであってもよい。操作部１４は、ノード１のオペレータによる操作データを処理部１０へ通知する。

【0044】

図３は、サーバ３の構成を示すブロック図である。サーバ３は、サーバコンピュータである。サーバ３は、処理部３０、記憶部３１及び通信部３２を備える。サーバ３は、以下の説明においては１台のサーバコンピュータによって構成されるものとして説明するが、複数台のサーバコンピュータをネットワークで通信接続して分散処理させる態様であってもよい。サーバ３は、通信網Ｎを介して各ノード１から通信接続が可能なクラウド型であってもよいし、仮想的なプライベートネットワークを介して各ノード１と通信接続するオンプレミス型であってもよい。

【0045】

処理部３０は、ＣＰＵ及び／又はＧＰＵを用いたプロセッサである。処理部３０は、記憶部３１に記憶されているサーバプログラム３Ｐに基づき、グローバルモデル５１の学習処理を実行する。

【0046】

記憶部３１は、例えばハードディスク、ＳＳＤ等の不揮発性メモリを用いる。記憶部３１は、処理部３０が参照するデータを記憶する。記憶部３１は、サーバプログラム３Ｐを記憶する。サーバプログラム３Ｐは、Ｗｅｂサーバプログラムを含む。記憶部３１は、グローバルモデル５１、複数のノード１から送信されるローカルモデル５２を記憶する。サーバプログラム３Ｐは、記録媒体９に記憶してあるサーバプログラム９Ｐを処理部３０が読み出して記憶部３１に複製したものであってもよい。

【0047】

通信部３２は、通信網Ｎを介したデータ通信を実現する。通信部３２は具体的には、例えばネットワークカードである。処理部３０は、通信部３２によって複数のノード１との間でデータを送受信する。

【0048】

このように構成されるモデル提供システム１００における学習処理手順について説明する。図４は、モデル提供システム１００におけるモデルの学習処理手順の一例を示すフローチャートである。

【0049】

サーバ３は、予め用意された初期的な（第０次）グローバルモデル５１を取得する（ステップＳ１）。初期的なグローバルモデル５１は、特定のノード１で第０次モデルとして作成されたモデルであってもよいし、ノード１ではなく特定の場所で学習されたモデルであってもよく、予め記憶部３１に記憶してあるとよい。ステップＳ１の取得は、予め記憶部３１に記憶されているグローバルモデル５１の読み出しを含む。

【0050】

サーバ３は、取得した第０次グローバルモデル５１をノード１へ配布する（ステップＳ２）。

【0051】

サーバ３は、ノード１へ配布したグローバルモデル５１を基に、ノード１で学習されるローカルモデル５２を取得する（ステップＳ３）。

【0052】

サーバ３は、取得したローカルモデル５２に対して統計処理を実行し、次世代のグローバルモデル５１に更新する（ステップＳ４）。ステップＳ４においてサーバ３は、更新（ラウンド）回数を、加算して記憶してもよい。

【0053】

サーバ３は、学習完了条件を満たすか否か判断する（ステップＳ５）。

【0054】

ステップＳ５についてサーバ３は例えば、更新回数が所定回数に到達したか否かで判断する。サーバ３は、グローバルモデル５１の精度の向上が前回の更新に比して見られない場合に、学習が完了したと判断してもよい。

【0055】

学習完了条件を満たさないと判断された場合（Ｓ５：ＮＯ）、サーバ３は、更新後のグローバルモデル５１を複数のノード１へ再分配し（ステップＳ６）、処理をステップＳ３へ戻す。

【0056】

ステップＳ６においてサーバ３は、グローバルモデル５１をそのまま再配布するのではなく、重み係数等のパラメータのみを再配布してもよい。

【0057】

ステップＳ６においてサーバ３は、何回目の更新後のグローバルモデル５１であるのか、即ち第ｎ次グローバルモデル５１の「ｎ」を示すデータを共に送信するとよい。

【0058】

学習完了条件を満たすと判断された場合（Ｓ５：ＹＥＳ）、サーバ３は、更新後のグローバルモデル５１を、ノード１以外へも配布可能なグローバルモデル５１として、バージョン情報と対応付けて記憶し（ステップＳ７）、処理を終了する。バージョン情報は、ステップＳ５にて学習完了条件を満たすと判断されるまでローカルモデル５２の学習及びグローバルモデル５１の更新を実行した回数に対応する。バージョン情報は、ラウンド情報をマイナーな情報として含んでもよい。

【0059】

サーバ３は、図４のフローチャートに示した処理手順を、複数、例えば月に一度といった周期で実行する。その都度、グローバルモデルのバージョンが上昇し、より実用的なモデルとなる。

【0060】

図５は、配布されたグローバルモデル５１に基づくローカルモデル５２の学習処理手順の一例を示すフローチャートである。図５のフローチャートに示す処理は、サーバ３がステップＳ２又はステップＳ６でグローバルモデル５１を配布した場合に、複数のノード１夫々で実行する処理である。

【0061】

ノード１の処理部１０は、配布されたグローバルモデル５１を受信し、記憶部１１に記憶する（ステップＳ３０１）。

【0062】

ノード１の処理部１０は、記憶したグローバルモデル５１をインスタンスとしてロードする（ステップＳ３０２）。処理部１０は、記憶装置２に記憶してあるローカルデータをトレーニングデータとして取得し（ステップＳ３０３）、これをグローバルモデル５１に与えて学習を実行する（ステップＳ３０４）。

【0063】

ステップＳ３０４において処理部１０は、ロードしたグローバルモデル５１に対してローカルデータの入力データを入力する。処理部１０は、出力されたデータと、ローカルデータに含まれる前記入力データに対応する結果データとに対する損失を算出する。処理部１０は、算出した損失に基づいて配布されたグローバルモデル５１における重み係数を含むパラメータを学習する。

【0064】

ノード１の処理部１０は、学習完了条件を満たすか否かを判断する（ステップＳ３０５）。ステップＳ３０５において処理部１０は、学習（更新）回数が所定回数（１回以上）を満たすことを学習完了条件とする。処理部１０は、学習後のグローバルモデル５１の出力精度が記憶してある所定値以上である場合に、学習完了条件を満たすと判断してもよい。処理部１０は、出力精度の変化が所定範囲内に収まり、収束していると判断できる場合に学習完了条件を満たすと判断してもよい。

【0065】

学習完了条件を満たさないと判断された場合（Ｓ３０５：ＮＯ）、処理部１０は処理をステップＳ３０４）へ戻す。これにより、学習が続行される。

【0066】

学習完了条件を満たすと判断された場合（Ｓ３０５：ＹＥＳ）、処理部１０は学習を終了し、パラメータが更新されたグローバルモデル５１を、ローカルモデル５２としてバージョン情報と対応付けて記憶する（ステップＳ３０６）。ここでバージョン情報は、グローバルモデル５１のバージョン情報と一致するものとする。バージョン情報は日時であってもよい。１つのバージョンに対して最新のローカルモデル５２が上書き記憶されてもよいし、異なるラウンド毎にローカルモデル５２が記憶されてもよい。

【0067】

ノード１の処理部１０は、記憶したローカルモデル５２を、サーバ３へ送信し（ステップＳ３０７）、処理を終了する。これにより、サーバ３は、複数のノード１夫々から、ローカルデータで学習されたローカルモデル５２を取得することができる。

【0068】

ステップＳ３０７において処理部１０は、第ｎ次のローカルモデル５２なのか、又は元となるグローバルモデル５１が第ｎ次なのかの「ｎ」を示すデータ（１回のバージョンアップにおける更新回数）を共に送信するとよい。ステップＳ３０７においてノード１は、後述するように１回の学習完了までの更新回数に対応するラウンド情報を得られる場合にはそのラウンド情報を、ローカルモデル５２に対応付けて送信してもよい。

【0069】

図５のフローチャートに示した処理によってノード１からは、ローカルデータがサーバ３へ送信されることがない点が、着目されるべきである。ローカルデータの匿名化も実行されない。ノード１から送信されるデータは、モデルそのものである。ローカルデータの特性は反映されているが、データの送信はされない。

【0070】

図６は、サーバ３におけるグローバルモデル５１の更新処理の一例を示すフローチャートである。図６のフローチャートに示す処理手順は、図４のフローチャートに示す処理手順の内のステップＳ４の詳細に対応する。

【0071】

サーバ３の処理部３０は、ノード１から送信されるローカルモデル５２をバージョン情報と対応付けて取得し（ステップＳ４０１）、ノード１の識別データ及びバージョン情報と対応付けてローカルモデル５２を記憶する（ステップＳ４０２）。ステップＳ４０１においてサーバ３の処理部３０は、非同期に各ノード１から送信されるローカルモデル５２を取得する。ステップＳ４０２においてサーバ３の処理部３０は、図４のフローチャートにおけるステップＳ５で学習完了条件を満たすと判断されるまで、各ノード１からの最新のローカルモデル５２を記憶する。ラウンド毎に、ラウンド情報が対応付けてられている場合に、処理部３０は、学習完了までのラウンド毎のローカルモデル５２を記憶してもよい。

【0072】

処理部３０は、取得したローカルモデル５２でグローバルモデル５１を更新すべきか否かを判断する（ステップＳ４０３）。ステップＳ４０３において処理部３０は、グローバルモデル５１を配布した配布先のノード１全てからローカルモデル５２を取得できた場合に更新すべきであると判断してもよい。ステップＳ４０３において処理部３０は、予め決定しておいた代表的の複数のノード１からローカルモデル５２を取得できた場合に更新すべきであると判断してもよい。

【0073】

更新すべきでないと判断された場合（Ｓ４０３：ＮＯ）、サーバ３の処理部３０は処理をステップＳ４０１へ戻す。更新すべきであると判断されるまで、各ノード１から送信されるローカルモデル５２を取得し、集約する。

【0074】

更新すべきであると判断された場合（Ｓ４０３：ＹＥＳ）、サーバ３の処理部３０は、複数のノード１からのローカルモデル５２の平均を求める（ステップＳ４０４）。処理部３０は、平均を新たなグローバルモデル５１として更新する（ステップＳ４０５）。ステップＳ４０４において処理部３０は例えば、ローカルモデル５２に含まれる各重み係数の平均を算出する。

【0075】

処理部３０は、更新後のグローバルモデル５１を、ラウンド情報、例えば更新回数（第ｎ次）を示すデータ「ｎ」と対応付けて記憶し（ステップＳ４０６）、グローバルモデル５１の更新処理を終了する。これにより、第ｎ－１次グローバルモデル５１は、第ｎ次グローバルモデル５１に更新される。

【0076】

ステップＳ４０６において処理部３０は、各世代のグローバルモデル５１を、更新回数を遡って読み出し可能に記憶部３１に記憶する。

【0077】

上述したように第１の実施形態のモデル提供システム１００では、ローカルデータはサーバ３へ送信されることなしに、各所に記憶されているローカルデータを用いた学習結果に基づいてグローバルモデル５１が実用化される。各所のローカルデータのみでは、データ量が不足するような場合であっても、１箇所に集約させた大量のデータによる学習よりも精度よく、且つ早期に実用可能なモデルを提供することが可能になる。

【0078】

第１の実施形態では、サーバ３がグローバルモデル５１の学習（更新）及び改訂（バージョンアップ）の過程でラウンド情報、及びバージョン情報と対応付けて、グローバルモデル５１と、ノード１から取るローカルモデル５２とを記憶している。サーバ３は、バージョン別、ラウンド毎に、ノード１に対し、各バージョンのグローバルモデル５１及びローカルモデル５２から選択を受け付ける。

【0079】

図７は、モデルの選択の処理手順の一例を示すフローチャートである。サーバ３は、サーバプログラム３Ｐに基づく以下の処理手順により、ノード１からのリクエストに応じて、記憶してあるグローバルモデル５１及びローカルモデル５２の中から、選択を受け付ける。ノード１は、ノードプログラム１Ｐに基づく以下の処理手順により、オペレータからの選択操作を受け付け、利用するモデルをノード１に取得する。

【0080】

ノード１のオペレータは、サーバ３から提供されるＷｅｂページへのアクセスを試みる。ノード１の処理部１０は、ノードプログラム１Ｐに含まれるＷｅｂブラウザプログラムに基づき、リクエストをサーバ３へ送信する（ステップＳ２０１）。以下、Ｗｅｂブラウザプログラムに基づく処理は、Ｗｅｂブラウザのバックグラウンドで実行されてもよい。

【0081】

サーバ３は、リクエストを受信する（ステップＳ６０１）。サーバ３の処理部３０は、リクエストに含まれるノード１のアカウント情報に応じて、アカウントに対応するグローバルモデル５１及びローカルモデル５２の一覧を含むＷｅｂページをノード１へ送信する（ステップＳ６０２）。

【0082】

ノード１の管理者毎に、サーバ３へのアクセス用のアカウントが発行されている。アカウントは、アカウントＩＤ、認証情報、権限のデータを含む。サーバ３は、記憶部３１にアカウントデータを記憶している。ノード１の管理者向けのアカウントには、グローバルモデル５１及びローカルモデル５２の選択及びダウンロードの権限が対応付けられている。ダウンロードが可能なグローバルモデル５１及びローカルモデル５２は、アカウント毎に設定されていてもよい。

【0083】

ノード１では処理部１０が、グローバルモデル５１及びローカルモデル５２の一覧を受信し（ステップＳ２０２）、表示部１３に表示する（ステップＳ２０３）。処理部１０は、グローバルモデル５１及びローカルモデル５２の一覧から、いずれか１又は複数の選択を受け付ける（ステップＳ２０４）。処理部１０は、選択されたモデルの指定をサーバ３へ送信する（ステップＳ２０５）。

【0084】

サーバ３は、モデルの指定を受信し（ステップＳ６０３）、指定されたモデル（グローバルモデル５１又はローカルモデル５２）を、ノード１へ送信し（ステップＳ６０４）、サーバ３の処理を終了する。

【0085】

ノード１は、指定したグローバルモデル５１又はローカルモデル５２をサーバ３から取得し（ステップＳ２０６）、受信したグローバルモデル５１又はローカルモデル５２に、記憶装置２に記憶されているローカルデータを用いて精度の評価値を算出する（ステップＳ２０７）。

【0086】

ノード１の処理部１０は、算出した評価値を表示し（ステップＳ２０８）、利用するか否かの選択を受け付ける（ステップＳ２０９）。利用すると選択された場合（Ｓ２０９：ＹＥＳ）、処理部１０は、対象のモデルを記憶部１１に記憶する（ステップＳ２１０）。記憶されたグローバルモデル５１又はローカルモデル５２は、以後、ノード１で利用可能になる。

【0087】

処理部１０は、利用しないと選択された場合（Ｓ２０９：ＮＯ）、又は、Ｓ２１０の後、他のモデルを取得するか否か判断し（ステップＳ２１１）、取得しないと判断された場合（Ｓ２１１：ＮＯ）、処理を終了する。

【0088】

取得すると判断された場合（Ｓ２１１：ＹＥＳ）、処理をステップＳ２０３へ戻す。

【0089】

図７のフローチャートに示す処理手順の内、ステップＳ２０７－Ｓ２１１の処理手順は必須ではなく、ステップＳ２０４で指定されたグローバルモデル５１又はローカルモデル５２をそのまま記憶して利用してもよい。

【0090】

図８は、モデルの一覧画面１３１の一例を示す。図８の一覧画面１３１は、サーバ３から送信されるグローバルモデル５１及びローカルモデル５２一覧を含むページを表示した例（Ｓ２０３）を示す。一覧には、グローバルモデル５１及びローカルモデル５２のモデル名及びバージョン情報を示すテキストを含む。バージョン情報は、異なるラウンド別にされてもよい。バージョン情報を示すテキストは、個別ページへのリンクを含んで選択可能にしてある。図８では、グローバルモデル５１とローカルモデル５２とが区別されている。ローカルモデル５２のモデル名には、モデルを学習させたノードを識別するデータが含まれている。例えば、図８の一覧中、末尾に「_ndA」が付加されているモデル名のローカルモデル５２は、「ノードＡ」で学習されたものである。ローカルモデル５２のモデル名バージョン名を示すテキストが選択されると、ノード１の処理部１０によって、モデルの指定が受け付けられる。

【0091】

図９は、モデルの個別画面１３２の一例を示す。図９の個別画面１３２は、図８の一覧画面１３１にていずれかのバージョン名のテキストが選択され、モデルが指定された場合に表示される。図９の個別画面１３２は、指定されたモデルに対して算出された評価値を含む。個別画面１３２には、利用するか否かの選択を受け付けるインタフェース１３３を含む。インタフェース１３３が選択された場合、利用することが受け付けられ（Ｓ２０９：ＹＥＳ）、選択されたモデルが記憶部１１に記憶され、以後、モデルが利用される。全画面に戻るためのインタフェース１３４が選択された場合、他のモデルを取得すると判断され（Ｓ２１１：ＹＥＳ）、図８のモデルの一覧画面１３１へ戻る。

【0092】

第１の実施形態に示したように、モデル提供システム１００では、各ノード１で学習されたローカルモデル５２を集約して更新されたグローバルモデル５１のみならず、他のノード１から集約されたローカルモデル５２についても、他のノード１に対して提供可能である。

【0093】

図７のフローチャートに示した処理手順によってノード１で選択されたグローバルモデル５１及びローカルモデル５２の利用について説明する。図７－図９で説明したように、ノード１は、複数のグローバルモデル５１及びローカルモデル５２を取得する。同一のモデル「model-image2segmentation」についてノード１は、「ver. 4.0」及び「ver. 3.0」の異なるバージョンのグローバルモデル５１、並びに、モデル名の末尾にノードの識別データ「_ndA」が付加されているローカルモデル５２を取得できる。

【0094】

ノード１のオペレータは、同一の入力データ及び出力データについていずれのモデルを採用してもよい。ノード１は、バージョン違いのグローバルモデル５１、及びローカルモデル５２を用い、各々からの出力データの多数決を自動的に取るようにしてもよい。

【0095】

図１０は、ノード１におけるモデル利用手順の一例を示すフローチャートである。ノード１は、ノードプログラム１Ｐに基づき、１つのモデルについてバージョン違いのグローバルモデル５１、及びローカルモデル５２の指定をサーバ３へ送信する（ステップＳ２２１）。

【0096】

サーバ３では、指定されたモデルのバージョン違いのグローバルモデル５１、及びローカルモデル５２をノード１へ送信する。

【0097】

ノード１は、指定したモデルのバージョン違いのグローバルモデル５１、及びローカルモデル５２を受信し、取得する（ステップＳ２２２）。

【0098】

ノード１の処理部１０は、取得したバージョン違いのグローバルモデル５１、及びローカルモデル５２それぞれに、記憶装置２に記憶されているローカルデータを入力データとして与え、複数の出力データを取得する（ステップＳ２２３）。

【0099】

処理部１０は、取得した複数の出力データの結果を比較し（ステップＳ２２４）、最も多くの出力データから得られる結果を特定する（ステップＳ２２５）。

【0100】

処理部１０は、特定した結果を表示部に出力して表示し（ステップＳ２２６）、記憶して（ステップＳ２２７）、処理を終了する。

【0101】

ステップＳ２２５において処理部１０は例えば、モデルが判定結果を出力するモデルである場合、判定結果の多数決をとる。モデルが画像のセグメンテーション結果を出力するモデルである場合、平均、ＡＮＤ、ＯＲ等の演算を実行してもよい。ステップＳ２２５で結果を特定する際、ノード１の処理部１０は、ステップＳ２２２で取得した複数のモデルそれぞれに対して算出できる評価値を用い、評価値が高いモデルからの出力データが、結果に影響し易いように、精度を重みとして利用してもよい。

【0102】

（第２の実施形態）
第２の実施形態では、サーバ３に記憶されるローカルモデル５１は、ノード１で最適化したものを含んでもよい。第２の実施形態におけるモデル提供システム１００の構成は、処理の詳細を除いて第１の実施形態のモデル提供システム１００と同様の構成であるから、共通する構成については同一の符号を付して詳細な説明を省略する。

【0103】

図１１は、第２の実施形態におけるモデルの選択の処理手順の一例を示すフローチャートである。図１１のフローチャートに示す処理手順の内、第１の実施形態の図７のフローチャートに示した処理手順と共通する手順については同一のステップ番号を付して詳細な説明を省略する。

【0104】

第２の実施形態では、取得したモデルを利用するとして選択された場合（Ｓ２０９：ＹＥＳ）、ノード１は、アクセスできる記憶装置２に記憶されたローカルデータで再学習を実行してから（ステップＳ２１２）、バージョン情報と対応付けて記憶する（Ｓ２１０）。

【0105】

ノード１の処理部１０は、再学習後のグローバルモデル５１又はローカルモデル５２を、バージョン情報と対応付けてサーバ３へ送信し（ステップＳ２１３）、処理をステップＳ２１１へ進める。

【0106】

サーバ３では、再学習後のグローバルモデル５１又はローカルモデル５２、並びにバージョン情報を受信し（ステップＳ６０５）、ノード１の識別データ及びバージョン情報と共に記憶する（ステップＳ６０６）。以後、このノード１での再学習後のグローバルモデル５１又はローカルモデル５２も、ステップＳ６０２で送信される一覧に含まれる。

【0107】

（第３の実施形態）
第３の実施形態モデル提供システム１００は、ノード１にて、グローバルモデル５１及びローカルモデル５２に対してローカルデータに基づく評価値を算出し、その評価値を共にノード１に出力して選択時にノード１のオペレータに参照できるようにする。第３の実施形態におけるモデル提供システム１００の構成は、上述の処理の詳細を除いて第１の実施形態のモデル提供システム１００と同様の構成であるから、共通する構成については同一の符号を付して詳細な説明を省略する。

【0108】

図１２は、第３の実施形態のモデル提供システム１００における学習処理手順の一例を示すフローチャートである。図１２のフローチャートに示す処理手順の内、第１の実施形態の図４のフローチャートに示す処理手順と共通する手順については同一のステップ番号を付して詳細な説明を省略する。

【0109】

第２の実施形態において、サーバ３は、集約したローカルモデル５２に基づいてグローバルモデル５１を更新した後（Ｓ４）、更新後のグローバルモデル５１について評価値の算出を受けるべく、各ノード１へ送信する（ステップＳ５０１）。

【0110】

各ノードでは、ローカルデータを更新後のグローバルモデル５１に与えた評価値を算出し、サーバ３へ送信する。

【0111】

サーバ３は、各ノード１から送信された評価値を取得し（ステップＳ５０２）、取得した評価値に基づいて総評価値を算出し（ステップＳ５０３）、取得した評価値及び総評価値を、更新後のグローバルモデル５１のラウンド情報と対応付けて記憶する（ステップＳ５０４）。

【0112】

これにより、各グローバルモデル５１には、ノード１での評価値を各バージョンに対して記憶しておき、グローバルモデル５１の一覧に評価値を含めることが可能になる。

【0113】

図１３は、第３の実施形態におけるローカルモデル５２の更新手順の一例を示すフローチャートである。図１３のフローチャートに示す処理手順のうち、図５のフローチャートに示した処理手順と共通する手順については同一のステップ番号を付して詳細な説明を省略する。

【0114】

ノード１の処理部１０は、配布されたグローバルモデル５１の学習実行前に、取得したローカルデータのデータ量（データ件数）を算出し、記憶しておく（ステップＳ３１１）。

【0115】

処理部１０は、学習完了条件を満たすと（Ｓ３０５：ＹＥＳ）、学習処理後に得られるローカルモデル５２の評価値を算出する（ステップＳ３１２）。ステップＳ３１２において処理部１０は、評価値として、ローカルデータを入力した場合の精度の平均値等を算出する。処理部１０は、評価値として、Ａ／Ｂ／Ｃの判定結果を導出してもよい。

【0116】

処理部１０は、学習後のローカルモデル５２と共に、ステップＳ３１１で記憶しておいたローカルモデル５２の学習に用いたローカルデータのデータ量と、ステップＳ３１２で算出した評価値とを共にサーバ３へ送信し（ステップＳ３１３）、処理を終了する。

【0117】

これにより、ローカルモデル５２の学習の元となったローカルデータのデータ量を、ローカルモデル５２の評価の指標として参照することが可能になる。

【0118】

図１４は、モデル選択の処理手順の一例を示すフローチャートである。図１４のフローチャートに示す処理手順の内、第１の実施形態の図７のフローチャートに示した処理手順と共通する手順については同一のステップ番号を付して詳細な説明を省略する。

【0119】

第３の実施形態では、ノード１からリクエストが送信されると（Ｓ２０１）、サーバ３はリクエストを受信する（Ｓ６０１）。サーバ３の処理部３０は、ノード１のアカウント情報に応じて、アカウントに対応するグローバルモデル５１及びローカルモデル５２の内、評価値及び総評価値が所定値以上であるモデルを抽出する（ステップＳ６１２）。処理部３０は、抽出したモデルを優先的に出力するためのモデルと評価値とを含む一覧のＷｅｂページをノード１へ送信する（ステップＳ６１３）。

【0120】

ノード１では処理部１０が、グローバルモデル５１及びローカルモデル５２の一覧を受信して表示する（Ｓ２０２，Ｓ２０３）。ステップＳ２０３において処理部１０は、各モデルに対応付けられている評価値及び総評価値を、各モデルのモデル名及びバージョン名と共に表示する。処理部１０は、一覧から選択を受け付け（Ｓ２０４）、選択されたモデルの指定をサーバ３へ送信する（Ｓ２０５）。ステップＳ２０４において処理部１０は、評価値に基づいて、グローバルモデル５１又はローカルモデル５２の選択を受け付けることができる。

【0121】

サーバ３の処理部３０は、モデルの指定を受信し（Ｓ６０３）、指定されたモデルそのものを送信すると（Ｓ６０４）、指定されたグローバルモデル５１又はローカルモデル５２について、指定された履歴を記憶しておき（ステップＳ６１４）、処理を終了する。これにより、ノード１でオペレータに選択されたグローバルモデル５１又はローカルモデル５２の履歴が記憶部３１に記憶される。

【0122】

第３の実施形態のモデル提供システム１００では、図１４のフローチャートに示したように、指定されたグローバルモデル５１又はローカルモデル５２を記憶する（Ｓ６１４）。指定されたモデルの数量、指定回数等が蓄積された後には、サーバ３は、所定数以上のノード１から指定されたグローバルモデル５１又はローカルモデル５２を、選出することができる。グローバルモデル５１及びローカルモデル５２に対する各ノード１からの投票が可能になる、と言える。

【0123】

図１５は、第３の実施形態におけるモデル一覧画面１３１の一例を示す。図１５に示すように、モデル一覧画面１３１には、グローバルモデル５１に対して算出された総評価値が対応付けて表示され、ローカルモデル５２には評価値が共に出力される。図１５に示すように、モデル一覧画面１３１には、ローカルモデル５２と共に送信されるデータ量が対応付けて出力される。モデル一覧画面１３１を確認するオペレータは、これらの評価値、あるいはローカルモデル５２の学習に用いられたデータ量を基に、利用するモデルを選択することができる。

【0124】

第３の実施形態では、算出された評価値、又は、選択されたモデルの履歴を記憶することにより、評価値又はモデルの選択履歴に基づいて、サーバ３が、ローカルモデル５２を含めた過去のバージョンのモデルの中から、いずれかを選出することができる。サーバ３は、所定値以上の評価値が算出されたグローバルモデル５１及びローカルモデル５２を選出してもよいし、投票数、即ち、所定数以上のノード１で選択されたグローバルモデル５１及びローカルモデル５２を選出してもよい。

【0125】

以下のようにしてモデルの選出が行われてもよい。第１の実施形態の図７のフローチャートに示したように、各ノード１のローカルデータで、グローバルモデル５１と、他のノード１で学習されたローカルモデル５２とに対する評価値を算出してから選択されたモデルを、その評価値と共にサーバ３へ送信する。そしてサーバ３は、モデルの選択履歴（Ｓ６１４）を、評価値と共に記憶し、評価値及び選択履歴を基に、所定数以上のノード１で選出されたグローバルモデル５１及びローカルモデル５２の内、最も評価値が高いモデルを１つ選出してもよい。

【0126】

選出されたグローバルモデル５１又はローカルモデル５２が、以後のモデル一覧画面１３１に優先的に表示されるようにしてもよい。選出されたグローバルモデル５１又はローカルモデル５２がその後、各ノード１で選択されたモデルをノード１へ配布して更新を続けるグローバルモデル５１として選出されてもよい。この場合、図４のフローチャートに示した学習の処理手順の内のステップＳ１において、選出されたグローバルモデル５１又はローカルモデル５２を取得し、以後、Ｓ２～Ｓ７の処理を実行する。

【0127】

図１６及び図１７は、モデルの選出に基づく更新処理手順の一例を示すフローチャートである。図１６及び図１７のフローチャートは、サーバ３が、ノード１へ配布して更新を続けるモデルとして選出する場合の処理手順を示す。図１６及び図１７のフローチャートに示す処理手順の内、図１２のフローチャートに示した処理手順と共通する手順については同一の符号を付して詳細な説明を省略する。

【0128】

サーバ３の処理部３０は、同一モデル名のバージョンの異なるグローバルモデル５１、及び、そのグローバルモデル５１に対応するローカルモデル５２の選択履歴を参照する（ステップＳ１０１）。

【0129】

処理部３０は、同一モデル名のグローバルモデル５１、及び対応するローカルモデル５２の内、所定数以上のノード１で選択されているグローバルモデル５１又はローカルモデル５２を抽出する（ステップＳ１０２）。

【0130】

処理部３０は、抽出したグローバルモデル５１又はローカルモデル５２の内、最も評価値が高いグローバルモデル５１又はローカルモデル５２を選出する（ステップＳ１０３）。ステップＳ１０２及びステップＳ１０３により、より多くのノード１に支持されているグローバルモデル５１、又はローカルモデル５２が選出される。

【0131】

処理部３０は、選出したグローバルモデル５１又はローカルモデル５２を各ノード１へ配布する（ステップＳ１０４）。配布したグローバルモデル５１又はローカルモデル５２について評価値を取得し、記憶する（ステップＳ１０５）。

【0132】

ステップＳ１０４及びＳ１０５の処理に対して各ノード１は、評価値を算出し、配布されたグローバルモデル５１又はローカルモデル５２を基に、ローカルモデル５２を学習する。

【0133】

処理部３０は、各ノード１で学習されたローカルモデルを取得し（Ｓ３）、取得したローカルモデルを統計処理してグローバルモデル５１を更新する（Ｓ４）。

【0134】

処理部３０は、更新後のグローバルモデル５１について評価値の算出を受けるべく、各ノード１へ送信し（Ｓ５０１）、算出された評価値を取得する（Ｓ５０２）。

【0135】

処理部３０は、複数のノード１毎に、更新前後のグローバルモデル５１（又はローカルモデル５２）の内、より多くのノード１で評価値が高く算出されたモデルを選出する（ステップＳ５１３）。ステップＳ５１３において、更新後のグローバルモデル５１に高い評価値を更新前よりも算出するノード１と、更新前のグローバルモデル５１（又はローカルモデル５２）に更新後よりも高い評価値を算出するノード１とが存在する。ステップＳ５１３において処理部３０は、それらのノード１の多数決を取る。

【0136】

処理部３０は、選出したモデルについて学習完了条件を満たすか否かを判断する（Ｓ５）。

【0137】

学習完了条件を満たさないと判断された場合（Ｓ５：ＮＯ）、処理部３０は、ステップＳ５１３で選出されたグローバルモデル５１をノードへ配布し（ステップＳ５１６）、処理をステップＳ３へ戻す。

【0138】

ステップＳ１０１－Ｓ１０３における選択履歴に基づくモデルの選出と、ステップＳ５１３における更新前後のモデルに対して算出された評価値に基づく多数決とは、一方のみが実施されてもよい。

【0139】

図１８は、モデルの選出に基づく抽出処理手順の一例を示すフローチャートである。サーバ３は、一定の周期で、記憶しているグローバルモデル５１及びローカルモデル５２について、同一モデル名のグローバルモデル５１及び対応するローカルモデル５２を対象に、以下の処理を実行する。サーバ３の処理部３０は、例えば図１４のフローチャートに示した処理の内のステップＳ６１２で実行する。

【0140】

サーバ３の処理部３０は、同一モデル名のバージョンの異なるグローバルモデル５１の選択履歴を参照する（ステップＳ７０１）。処理部３０は、同一モデル名のグローバルモデル５１、及び対応するローカルモデル５２の内、所定数以上のノード１で選択されているグローバルモデル５１又はローカルモデル５２を抽出する（ステップＳ７０２）。

【0141】

処理部３０は、抽出したグローバルモデル５１又はローカルモデル５２の内、最も評価値が高いグローバルモデル５１又はローカルモデル５２を選出する（ステップＳ７０３）。ステップＳ７０２及びステップＳ７０３により、より多くのノード１に支持されているグローバルモデル５１、又はローカルモデル５２が選出される。

【0142】

処理部３０は、選出したグローバルモデル５１又はローカルモデル５２を記憶し（ステップＳ７０４）、処理を終了する。

【0143】

図１９は、第３の実施形態におけるモデル一覧画面１３１の他の一例を示す。図１９のモデル一覧画面１３１では、図１５のモデル一覧画面１３１と比較して、選出されたグローバルモデル５１又はローカルモデル５２が選出されているために、同一モデルに関して１つずつが表示されている。モデル一覧画面１３１を確認するオペレータは、これらの選択実績に基づいて、利用するモデルを選択することができる。

【0144】

（第４の実施形態）
モデル提供システム１００は、ニューラルネットワークを始めとする深層学習のモデルに適用できる。例えば、入力データは画像データであり、出力データは画像データの画像に写っている被写体の検出結果、又は被写体に対する判定結果である。他の例では、入力データは、入出金データであり、出力データは評価等の判定結果、あるいは企業業況変化（成長または劣化）に関する予測値や経済予測に関する予測値である。他の例では、入力データは、工場、生産設備に設けられた各種センサからの測定データであり、出力データは異常／正常を含む生産管理に関するデータである。他の例では、入力データはテキストデータであり、出力データは判定結果、または予測データである。

【0145】

第４の実施形態では、モデル提供システム１００を、医療施設にて患者に関して得られる医療データから、患者に特定の病気の症状が発生しているか否かの診断を支援する診断支援データを出力するモデルの学習に適用させた例を挙げて説明する。以下の説明では、医療データは、例えば検査で撮影された眼底写真の画像データである。

【0146】

図２０は、第４の実施形態のモデル提供システム１００の概要図である。第４の実施形態におけるモデル提供システム１００の構成は基本的に、第１の実施形態のモデル提供システム１００と同様である。第４の実施形態のモデル提供システム１００の構成の内、第１の実施形態のモデル提供システム１００と共通する構成については同一の符号を付して詳細な説明を省略する。

【0147】

第４の実施形態においてノード１及び情報処理装置は、医療施設に設けられている。ノード１及び情報処理装置は、患者の眼底写真を撮影する撮影装置から得られる画像データを取得できる。ノード１が設けられている医療施設では、撮影装置は記憶装置２に対して画像データを出力する。撮影装置は、異なる種類の装置を含む。

【0148】

第４の実施形態においてグローバルモデル５１、ローカルモデル５２及び配布可能として記憶されたモデルは、画像データが入力された場合に、緑内障の診断を支援するデータ及び精度を出力するように学習されるモデルである。トレーニングデータとして用いられるローカルデータは、入力データとして画像データと、出力データとして眼底写真におけるDisc部分とCup部分とをセグメンテーションした結果の画像データである。出力データはその他、症状がみられるか否かを医師又は技師が判定した判定結果を含むデータセットであってもよい。ローカルデータの入力データである画像データは、撮影装置の種類を示す装置データと対応付けられている。装置データは型番でもよいし、装置メーカを識別するデータであってもよい。

【0149】

第４の実施形態においてモデル学習システム１００では、サーバ３が予め特定の医療施設で複数の異なるアーキテクチャで作成された初期的なグローバルモデル（第０次グローバルモデル）５１を取得する。サーバ３は、異なるアーキテクチャの第０次グローバルモデル５１を、トレーニングに協力する医療施設のノード１へ各配布する。

【0150】

各ノード１は、配布された複数の第０次グローバルモデル５１を受信し、異なる第０次グローバルモデル５１に基づいてそれぞれ、ローカルデータをトレーニングデータとして学習を進行し、複数の第１次ローカルモデル５２を得る。ノード１は、異なるアーキテクチャで学習された第１次ローカルモデル５２をサーバ３へ送信する。

【0151】

サーバ３は、各ノード１から取得したローカルモデル５２を、異なるアーキテクチャ毎に、加重平均して第１次グローバルモデル５１を作成する。ここでサーバ３は、各ローカルモデル５２の重み係数の加重平均を算出する。サーバ３は、作成された第１次グローバルモデル５１を、複数のノード１へ再配布する。

【0152】

サーバ３は、配布した第ｎ次グローバルモデル５１から作成される第（ｎ＋１）次ローカルモデル５２の取得、第（ｎ＋１）次ローカルモデル５２からの第（ｎ＋１）次グローバルモデル５１の更新を、異なるアーキテクチャ毎に繰り返す。

【0153】

サーバ３は、異なるアーキテクチャ毎に繰り返して得られたグローバルモデル５１を、相互に比較し、精度がより高いアーキテクチャのグローバルモデル５１を選択し、配布可能なモデルとしてノード１及び情報処理装置４へ提供する。

【0154】

これにより、個人情報そのものである検査結果の画像データが、サーバ３へ集約されることなく、且つ、異なる医療施設に亘って多くのデータを用いて学習することが可能になる。そして診断支援データについて、各ノード１からノード１に有用なモデルを選択することが可能になる。

【0155】

第４の実施形態におけるサーバ３及びノード１によるモデル学習に関する処理は、第１から第３の実施形態に示した処理手順と同様である。ただし第４の実施形態では、各ノード１は、ローカルモデル５２の更新の際に、ローカルデータの特性をサーバ３へ送信する。

【0156】

図２１は、第４の実施形態におけるローカルモデル５２の更新手順の一例を示すフローチャートである。図２１のフローチャートに示す処理手順のうち、第１の実施形態の図５のフローチャートに示した処理手順と共通する手順については同一のステップ番号を付して詳細な説明を省略する。

【0157】

ノード１の処理部１０は、配布されたグローバルモデル５１の学習実行前に、取得したローカルデータのデータ量（データ件数）を算出し、記憶しておく（ステップＳ３２１）。処理部１０は、予め記憶部１１に記憶してある、又は記憶装置２に画像データと対応付けられている、撮影装置の装置データを取得し、記憶する（ステップＳ３２２）。ステップＳ３２２で処理部１０は、ローカルデータの特性として、装置の種類のみならず、ローカルデータのアノテーション精度等の特性を取得してもよい。

【0158】

処理部１０は、学習完了条件を満たし（Ｓ３０５：ＹＥＳ）、学習後のローカルモデル５２を記憶すると（Ｓ３０６）、処理部１０は、学習処理後に得られるローカルモデル５２の評価値を算出する（ステップＳ３２３）。ステップＳ３２３において処理部１０は、評価値として、ローカルデータを入力した場合の精度の平均値等を算出する。処理部１０は、評価値として、Ａ／Ｂ／Ｃの判定結果を導出してもよい。

【0159】

処理部１０は、学習後のローカルモデル５２と共に、ステップＳ３２１で記憶しておいたローカルデータのデータ量と、ステップＳ３２２で記憶しておいた装置データと、ステップＳ３２３で算出した評価値を、サーバ３へ送信し（ステップＳ３２４）、処理を終了する。

【0160】

これにより、ローカルモデル５２の学習の元となったローカルデータのデータ量、特性等がサーバ３にてローカルモデル５２と対応付けて記憶される。サーバ３から、モデルの一覧を取得するに際し、ノード１のオペレータは、他のノード１のローカルモデル５２の評価の指標として、これらの特性を参照することが可能になる。

【0161】

図２２は、第４の実施形態におけるモデル一覧画面１３１の一例を示す。図２２に示すように、各モデルの内、ローカルモデル５２には、評価値の他に、学習に用いられたローカルデータのデータ特性が出力され、選択時に参照可能である。図２２に示す例では、データ特性として、撮影装置の仕様データ（型番）と、データ件数を含む。オペレータは、これらのデータ特性を基に、利用するモデルを、ローカルモデル５２も含めて選択することができる。

【0162】

上述のように開示された実施の形態は全ての点で例示であって、制限的なものではない。本発明の範囲は、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内での全ての変更が含まれる。

【符号の説明】

【0163】

１ ノード
１０ 処理部
１１ 記憶部
２ 記憶装置
３ サーバ
３０ 処理部
３１ 記憶部
３Ｐ サーバプログラム
５１ グローバルモデル
５２ ローカルモデル

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】

【図17】

【図18】

【図19】

【図20】

【図21】

【図22】