特許 7280935 サーバ装置、学習済モデル提供プログラム、学習済モデル提供方法及び学習済モデル提供システム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2023-05-16

(45)【発行日】2023-05-24

(54)【発明の名称】サーバ装置、学習済モデル提供プログラム、学習済モデル提供方法及び学習済モデル提供システム

(51)【国際特許分類】

   G06N 3/098 20230101AFI20230517BHJP

   G06N 20/00 20190101ALI20230517BHJP

【ＦＩ】

G06N3/098

G06N20/00

【請求項の数】 23

(21)【出願番号】P 2021192435

(22)【出願日】2021-11-26

(62)【分割の表示】P 2020103320の分割

【原出願日】2017-03-21

(65)【公開番号】P2022031811

(43)【公開日】2022-02-22

【審査請求日】2021-11-26

(73)【特許権者】

【識別番号】515130201

【氏名又は名称】株式会社Ｐｒｅｆｅｒｒｅｄ Ｎｅｔｗｏｒｋｓ

(74)【代理人】

【識別番号】100091487

【弁理士】

【氏名又は名称】中村 行孝

(74)【代理人】

【識別番号】100120031

【弁理士】

【氏名又は名称】宮嶋 学

(74)【代理人】

【識別番号】100118876

【弁理士】

【氏名又は名称】鈴木 順生

(74)【代理人】

【識別番号】100202429

【弁理士】

【氏名又は名称】石原 信人

(72)【発明者】

【氏名】河合 圭悟

(72)【発明者】

【氏名】比戸 将平

(72)【発明者】

【氏名】久保田 展行

(72)【発明者】

【氏名】田中 大輔

【審査官】坂庭 剛史

(56)【参考文献】

【文献】特開２０１６－１７３７８２（ＪＰ，Ａ）

【文献】米国特許出願公開第２０１２／０２８４２１３（ＵＳ，Ａ１）

【文献】米国特許第０５２３９６１９（ＵＳ，Ａ）

【文献】国際公開第２０１５／１３８７５７（ＷＯ，Ａ１）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ３／００－９９／００

Ｇ０６Ｆ １６／００－１６／９５８

Ｇ０６Ｑ ５０／００－５０／３４

(57)【特許請求の範囲】

【請求項1】

複数のモデルを記憶する、少なくとも１つのストレージと、
少なくとも１つのプロセッサと、を備え、
前記少なくとも１つのプロセッサは、
第１デバイスから取得したデータを用いて算出したスコアに基づいて、前記複数のモデルから少なくとも１つのモデルを選択することと、
選択した前記少なくとも１つのモデルを前記第１デバイスから取得したデータに含まれるモデル学習用のデータを用いて追加学習することにより、前記第１デバイス向けの第１モデルを生成することと、
前記第１モデルを送信することと、
を実行し、
前記モデル学習用のデータは、前記第１デバイスにより取得されたデータである、
モデル生成装置。

【請求項2】

前記第１デバイスは、少なくとも、ロボット、自動車、プロセスオートメーション装置、インフラ機器、農業機器、ヘルスケア装置、作業を行う機械、異常検出装置、分類装置のいずれか１つである、
請求項１に記載のモデル生成装置。

【請求項3】

前記第１デバイスは、作業を行う機械であって、
前記モデル学習用のデータは、前記第１デバイスによる作業において取得されたデータである、
請求項１に記載のモデル生成装置。

【請求項4】

前記第１デバイス向けの前記第１モデルの利用は、前記第１デバイスではなく自装置が決定する、
請求項１乃至請求項３のいずれか１項に記載のモデル生成装置。

【請求項5】

前記少なくとも１つのストレージに記憶された前記複数のモデルには、前記第１デバイス以外のデバイスにより取得されたモデル学習用のデータを用いて追加学習されたモデルが含まれる、
請求項１乃至請求項４のいずれか１項に記載のモデル生成装置。

【請求項6】

前記少なくとも１つのストレージに記憶された前記複数のモデルには、前記第１デバイスにより取得されたモデル学習用のデータを用いて追加学習されたモデルが含まれる、 請求項１乃至請求項５のいずれか１項に記載のモデル生成装置。

【請求項7】

前記少なくとも１つのプロセッサは、選択した前記少なくとも１つのモデルの一部のパラメータを更新する
ことにより、前記第１モデルを生成する、
請求項１乃至請求項６のいずれか１項に記載のモデル生成装置。

【請求項8】

前記少なくとも１つのプロセッサは、選択した前記少なくとも１つのモデルに新たなパラメータを追加して
、前記第１モデルを生成する、
請求項１乃至請求項７のいずれか１項に記載のモデル生成装置。

【請求項9】

前記少なくとも１つのプロセッサは、前記第１デバイス以外のデバイスのデータを用いて前記第１モデルを生成する、
請求項１乃至請求項８のいずれか１項に記載のモデル生成装置。

【請求項10】

第１モデルはニューラルネットワークである、
請求項１乃至請求項９のいずれか１項に記載のモデル生成装置。

【請求項11】

少なくとも１つのストレージと、
少なくとも１つのプロセッサと、を備え、
前記少なくとも１つのプロセッサは、
少なくとも１台のモデル生成装置にデータを送信することと、
送信した前記データに基づいて生成された第１モデルを、前記少なくとも１台のモデル生成装置から受信することと、
取得したデータを用いて前記第１モデルを追加学習することにより、第２モデルを生成することと、
を実行し、
送信した前記データは、少なくともモデル学習用のデータを含む、
デバイス。

【請求項12】

少なくとも、ロボット、自動車、プロセスオートメーション装置、インフラ機器、農業機器、ヘルスケア装置、作業を行う機械、異常検出装置、分類装置のいずれか１つである、
請求項１１に記載のデバイス。

【請求項13】

作業を行う機械であって、
前記モデル学習用のデータは、作業において取得されたデータである、
請求項１２に記載のデバイス。

【請求項14】

前記第１モデルの利用は、前記少なくとも１台のモデル生成装置によって決定される、
請求項１１乃至請求項１３のいずれか１項に記載のデバイス。

【請求項15】

前記第１モデルは、送信した前記データに基づく追加学習により生成されたモデルである、
請求項１１乃至請求項１４のいずれか１項に記載のデバイス。

【請求項16】

前記少なくとも１つのプロセッサは、前記第２モデルを前記少なくとも１台のモデル生成装置に送信する、
請求項１１乃至請求項１５のいずれか１項に記載のデバイス。

【請求項17】

前記少なくとも１つのプロセッサは、前記第２モデルを前記少なくとも１台のモデル生成装置に送信せずに、前記第２モデルに関する情報を前記少なくとも１台のモデル生成装置に送信する、
請求項１１乃至請求項１５のいずれか１項に記載のデバイス。

【請求項18】

少なくとも１つのプロセッサにより、
第１デバイスから取得したデータを用いて算出したスコアに基づいて、複数のモデルから少なくとも１つのモデルを選択することと、
選択した前記少なくとも１つのモデルを前記第１デバイスから取得したデータに含まれるモデル学習用のデータを用いて追加学習することにより、前記第１デバイス向けの第１モデルを生成することと、
前記第１モデルを送信することと、
を実行し、
前記モデル学習用のデータは、前記第１デバイスにより取得されたデータである、
モデル生成方法。

【請求項19】

少なくとも１つのプロセッサに、
第１デバイスから取得したデータを用いて算出したスコアに基づいて、複数のモデルから少なくとも１つのモデルを選択することと、
選択した前記少なくとも１つのモデルを前記第１デバイスから取得したデータに含まれるモデル学習用のデータを用いて追加学習することにより、前記第１デバイス向けの第１モデルを生成することと、
前記第１モデルを送信することと、
を実行させるプログラムであって、
前記モデル学習用のデータは、前記第１デバイスにより取得されたデータである、
プログラム。

【請求項20】

少なくとも１つのプロセッサを有するデバイスと、
前記デバイスとは異なる他デバイスと、
を備え、
前記少なくとも１つのプロセッサは、
前記他デバイスから取得したデータを用いて算出したスコアに基づいて、複数のモデルから少なくとも１つのモデルを選択することと、
選択した前記少なくとも１つのモデルを前記他デバイスから取得したデータに含まれるモデル学習用のデータを用いて追加学習することにより、前記他デバイス向けの第１モデルを生成することと、
前記第１モデルを送信することと、
を実行し、
前記モデル学習用のデータは、前記他デバイスにより取得されたデータである、
モデル生成システム。

【請求項21】

少なくとも１つのプロセッサにより、
少なくとも１台のモデル生成装置にデータを送信することと、
送信した前記データに基づいて生成された第１モデルを、前記少なくとも１台のモデル生成装置から受信することと、
取得したデータを用いて前記第１モデルを追加学習することにより、第２モデルを生成することと、
を実行し、
送信した前記データは、少なくともモデル学習用のデータを含む、
方法。

【請求項22】

少なくとも１つのプロセッサに、
少なくとも１台のモデル生成装置にデータを送信することと、
送信した前記データに基づいて生成された第１モデルを、前記少なくとも１台のモデル生成装置から受信することと、
取得したデータを用いて前記第１モデルを追加学習することにより、第２モデルを生成することと、
を実行させるプログラムであって、
送信した前記データは、少なくともモデル学習用のデータを含む、
プログラム。

【請求項23】

少なくとも１つのプロセッサを有するデバイスと
少なくとも１台のモデル生成装置と、
を備え、
前記少なくとも１つのプロセッサは、
前記少なくとも１台のモデル生成装置にデータを送信することと、
送信した前記データに基づいて生成された第１モデルを、前記少なくとも１台のモデル生成装置から受信することと、
取得したデータを用いて前記第１モデルを追加学習することにより、第２モデルを生成することと、
を実行し、
送信した前記データは、少なくともモデル学習用のデータを含む、
システム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、深層学習等による学習済みモデルを用いて判定・分類等の処理を行う産業上の装置に対して、低コストで学習済みモデルの導入及び最適化を行うための技術に関するものである。

【背景技術】

【0002】

従来、工作機械等のデバイスや完成品の異常検出装置等において、深層学習等によって生成された学習済みモデルを用いて作業対象の特定や異常検出処理等が行われてきた。これらのデバイスにおいては、それぞれのデバイスの作業環境・作業条件等に特化した学習を行うことで作業精度、異常検出精度の向上を図っている。

【0003】

このような学習済モデルを用いたデバイスとしては、例えば、特許文献１及び特許文献２が挙げられる。特許文献１に記載の進化型画像自動分類装置は、様々な特徴量から学習器によって画像を分類する装置であり、特許文献２に記載の金属の表面品質評価装置は、金属の表面を撮影した画像に基づいて学習器で金属の表面品質評価を行うための装置である。

【先行技術文献】

【特許文献】

【0004】

【文献】特開２００７－２１３４８０号公報

【文献】特開２０１１－１９１２５２号公報

【発明の概要】

【発明が解決しようとする課題】

【0005】

特許文献１及び特許文献２を含め、機械学習等によって学習させた学習器を利用して判定・分類等を行う場合には、デバイスの作業環境・作業条件等に特化した学習器の構成を設定した上で学習を行う必要がある。そのような設定を行ってゼロから学習させて精度の高い判定・分類を行えるようになるまでには相当のコストを要する。そして、そのようにしてコストをかけて学習済モデルを得たとしても、作業環境・作業条件等が異なるデバイスにおいては同じ学習済モデルを使用することはできないので、また一から学習を行わせる必要があるという問題があった。

【0006】

これを解決するために、様々な作業環境・作業条件等に対応可能な汎用的な学習モデルを用意するという方法が考えられる。しかし、汎用的な学習モデルは様々な作業環境・作業条件等に対応できるため様々な状況に適用できるメリットがあるが、汎用であるがため、どのような各環境・条件においてはそれに特化したモデルと比べると精度が低くなるという問題があった。また、モデルの複雑性が増し、それを実現するために必要な情報量が大きくなってしまい、演算コストの増加、メモリコストの増加が生じてしまうという問題があった。さらには、各デバイス個体特有の特性をもつ場合、その個体差をも吸収するような汎用性を担保しなければいけないという問題もあった。

【0007】

本発明は、上記問題点に鑑みなされたものであり、環境・条件等の異なる様々なデバイスに対して最適な学習済モデルを選択して供給可能なサーバ装置、学習済モデル提供プログラム、学習済モデル提供方法及び学習済モデル提供システムを提供することを目的とする。

【課題を解決するための手段】

【0008】

本発明に係るサーバ装置は、学習済モデルを用いて処理を行う学習器を具備した少なくとも１以上のデバイスと通信ネットワークを介して通信可能なサーバ装置であって、様々なデバイスの環境、条件に合わせて予め学習を行った共有モデルを複数記憶させた記憶部と、前記デバイスから環境、条件の情報を含むデバイスデータを取得するデバイスデータ取得部と、取得したデバイスデータに基づいて当該デバイスに最適な共有モデルを選択する対象共有モデル選択部と、選択した共有モデルを当該デバイスに対して送信する送信部とを具備してなることを特徴とする。

【0009】

また、本発明に係るサーバ装置は、共有モデルの追加学習を行うためのサンプルデータを利用して共有モデルに対して追加学習を行う追加学習処理部と、追加学習済モデルを記憶して管理する追加学習済モデル管理部とを具備し、前記送信部は、共有モデルに対して追加学習を行った際には当該デバイスに対して追加学習済モデルを送信するようにしたことを特徴とする。

【0010】

また、本発明に係るサーバ装置は、前記対象共有モデル選択部は、デバイスデータ取得部において取得したデバイスデータの内容が、前記追加学習済モデル管理部によって記憶された他のデバイスに基づく追加学習済モデルを適用可能なものである場合には、共有モデルよりも当該追加学習済モデルを優先して選択するようにし、前記送信部は、選択された追加学習済モデルを当該デバイスに送信するようにしたことを特徴とする。

【0011】

また、本発明に係るサーバ装置は、共有モデルに対して追加学習処理を行う機能を有したデバイスから送信された追加学習済モデルを受信して記憶部に記憶させる追加学習済モデル管理部を備えたことを特徴とする。

【0012】

また、本発明に係るサーバ装置は、前記対象共有モデル選択部は、前記デバイスから得たデバイスデータに基づいて各共有モデルの当該デバイスに対する適合度を評価したスコアをそれぞれ算出し、そのスコアに従って共有モデルの選択を行うようにしたことを特徴とする。

【0013】

また、本発明に係るサーバ装置は、前記対象共有モデル選択部は、デバイスデータに基づいて機械学習を使って最適な共有モデルを選択すること予め学習した学習済モデルによって共有モデルを選択するようにしたことを特徴とする。

【0014】

本発明に係る学習済モデル提供プログラムは、学習済モデルを用いて処理を行う学習器を具備した少なくとも１以上のデバイスと通信ネットワークを介して通信可能なサーバ装置に学習済モデルの選択処理を実行させるための各機能を実現させるための学習済モデル提供プログラムであって、前記サーバ装置に、様々なデバイスの環境、条件に合わせて予め学習を行った共有モデルを記憶手段によって複数記憶させる記憶機能と、前記デバイスから環境、条件の情報を含むデバイスデータを取得するデバイスデータ取得機能と、取得したデバイスデータに基づいて当該デバイスに最適な共有モデルを選択する対象共有モデル選択機能と、選択した共有モデルを当該デバイスに対して送信する送信機能とを実現させることを特徴とする。

【0015】

本発明に係る学習済モデル提供方法は、学習済モデルを用いて処理を行う学習器を具備したデバイスに対して最適な学習済モデルを選択して提供する処理を実行するための学習済モデル提供方法であって、様々なデバイスの環境、条件に合わせて予め学習を行った共有モデルを記憶手段によって複数記憶させる記憶処理と、前記デバイスから環境、条件の情報を含むデバイスデータを取得するデバイスデータ取得処理と、取得したデバイスデータに基づいて当該デバイスに最適な共有モデルを選択する対象共有モデル選択処理と、選択した共有モデルを当該デバイスに対して送信する送信処理とを含むことを特徴とする。

【0016】

本発明に係る学習済モデル提供システムは、学習済モデルを用いて処理を行う学習器を具備した少なくとも１以上のデバイスと、前記デバイスと通信ネットワークを介して通信可能な少なくとも１以上のサーバ装置とを具備してなる学習済モデル提供システムであって、様々なデバイスの環境、条件に合わせて予め学習を行った共有モデルを少なくとも１以上記憶させた記憶部を前記サーバ装置及び／又はデバイスに備え、学習済モデルを必要とするデバイスから環境、条件の情報を含むデバイスデータを取得するデバイスデータ取得部と、取得したデバイスデータに基づいて当該デバイスに最適な共有モデルを検索して選択する対象共有モデル選択部とを前記サーバ装置に備え、選択された共有モデルを学習済モデルを必要とする前記デバイスに対して送信する送信部をサーバ装置及び／又はデバイスに備えていることを特徴とする。

【0017】

また、本発明に係る学習済モデル提供システムは、前記対象共有モデル選択部は、学習済モデルを必要とするデバイスから得たデバイスデータに基づいて各共有モデルの当該デバイスに対する適合度を評価したスコアをそれぞれ算出し、そのスコアに従って共有モデルの選択を行うようにしたことを特徴とする。

【0018】

また、本発明に係る学習済モデル提供システムは、前記デバイスは、共有モデルに対して追加学習処理を行う機能を有しており、前記サーバ装置は、前記デバイスから送信された追加学習済モデルを受信して記憶部に記憶させる追加学習済モデル管理部を備えており、前記サーバ装置の対象共有モデル選択部は、共有モデルに加えて追加学習済モデルも選択肢に含めて選択を行うようにしたことを特徴とする。

【0019】

また、本発明に係る学習済モデル提供システムは、前記デバイスは、共有モデルに対して追加学習処理を行う機能を有し、また、追加学習済モデルを記憶させる記憶部と、追加学習済モデルの選択に必要な情報を前記サーバ装置に送信する追加学習済モデル情報送信部とを備えており、前記サーバ装置の対象共有モデル選択部は、前記共有モデルに加えて前記デバイスの記憶部に記憶された追加学習済モデルも選択肢に含めて選択を行うようにしたことを特徴とする。

【発明の効果】

【0020】

本発明によれば、様々なデバイスの環境、条件に合わせて予め学習を行った共有モデルをその環境や条件に応じて分類されて複数記憶させたサーバ装置において最適な共有モデルを選択してデバイスに送信することで、上述したようなこれまでの汎用的な学習モデルを使った場合に対して、状況に合わせた高精度な判別／分類を実現しつつ、かつ学習モデルで表現する複雑性が減少するために演算およびメモリのコストは下げられるメリットがある。またデバイスで独自に学習済モデルを生成する場合に比較して導入コストを大幅に低減できるというメリットがある。また、追加学習処理機能を持たせることで、デバイスの環境・条件により特化した追加学習済モデルを得られるため、デバイスにおいて精度の高い推論処理を追加的に実施することが可能となる。この追加学習処理において、デバイスの環境・条件に応じて適切な共有モデルをベースに追加学習を行うことによって、転移学習と呼ばれる作用の効果を多く得ることができる。転移学習は、デバイスの環境・条件が全く同一ではない環境間において、他環境で作成した共有モデルの重みをうまく使うことによって、追加学習させたい環境で、効率よく学習を行うことを期待するものである。また、追加学習済モデルをサーバ装置においても記憶させて管理するようにすることで、同一環境・条件の他のデバイスから要求があった時に、追加学習済モデルを即座に提供することが可能となる。これは、汎用的な学習モデルを利用する場合に比較して、追加学習のための演算コスト及びメモリコストを縮小することが可能となる。さらに、少なくとも１以上のデバイスと少なくとも１以上のサーバ装置とを具備してなる学習済モデル提供システムを構成することで、複数のサーバ装置及び／又はデバイスの記憶部に記憶された共有モデルから最適な共有モデルを選択してデバイスに提供することが可能となるため、より膨大なデータの選択肢の中から最適な共有モデルを選択可能となる。

【図面の簡単な説明】

【0021】

【図1】本発明に係るサーバ装置１０の構成を表したブロック図である。

【図2】追加学習の学習処理の流れを示したフローチャート図である。

【図3】デバイス２０において推論処理を行うまでの流れを示したフローチャート図である。

【発明を実施するための形態】

【0022】

［第１の実施の形態］
以下、図面を参照しながら、第１の実施の形態に係るサーバ装置の例について説明する。図１は、本発明に係るサーバ装置１０の構成を表したブロック図である。サーバ装置１０は、複数のデバイス２０１、２０２、・・・、２０ｎと通信ネットワーク３０を介して通信可能に接続されている。なお、サーバ装置１０及びデバイス２０１～２０ｎは、専用マシンとして設計した装置であってもよいが、一般的なコンピュータによって実現可能なものであるものとする。この場合に、サーバ装置１０及びデバイス２０１～２０ｎは、一般的なコンピュータが通常備えているであろうＣＰＵ（Central Processing Unit：中央演算処理装置）、ＧＰＵ（Graphics Processing Unit：画像処理装置）、メモリ、ハードディスクドライブ等のストレージなどを適宜備えているものとする（図示省略）。また、これらの一般的なコンピュータを本例のサーバ装置１０として機能させるためにプログラムよって各種処理が実行されることは言うまでもない。

【0023】

サーバ装置１０は、デバイスデータ取得部１１と、対象共有モデル選択部１２と、追加学習処理部１３と、追加学習済モデル管理部１４と、記憶部１５とを少なくとも備えている。

【0024】

デバイスデータ取得部１１は、デバイス２０１～２０ｎの何れかにおいて生成されたデバイスの環境、条件の情報を含むデバイスデータを取得する機能を有する。ここで、デバイスデータとは、デバイスの環境、条件、データの単位等の属性を定義するために必要なデータ、追加で学習を行うために必要なラベル情報付のサンプルデータ、実際のデバイスにおけるセンサデータ、ネットワークのログデータなどデバイスで取得可能な様々なデータを含むものである。少なくとも、共有モデルを選択するために必要なデータを含んだデバイスデータである必要がある。具体的には、工場のロボットの位置データやアクチュエータトルク量、加速度センサデータ、車載カメラやレーザーレーダーなどで取得されるデプスを含むもしくは含まない画像データ、変位センサデータ、プロセスオートメーションの各種プロセスデータ、インフラや農業、バイオヘルスケアなどにおける各種データなどのセンサデータ、ネットワークのログデータや、正常品や異常品を含む製品の写真データや、音声データ、機械の種類、ワークの種類、センサの種類、地理的情報など、様々なデータがデバイスデータとして使用され得る。

【0025】

また、デバイスの環境、条件は、例えば、デバイスがピッキングを行う作業機械である場合であってピッキングの対象となるワーク形状の種類がいくつかに分かれているといった場合などのように、デバイスに要求される環境、条件等は個別に異なる。また、製品を異常品と正常品を判定する装置なのか、製品を複数項目に分類するための装置なのかなど、学習器に求められる機能もデバイスごとに異なる。そのため、デバイスごとに異なる個別の環境、条件等の情報をデバイスデータとして取得する必要がある。この環境、条件等の情報は、フォーマットに従ってデバイス側で入力されるものであってもよいし、様々なデータからサーバ装置１０において判別して環境、条件等の情報を定義するようにしてもよい。その際には、取得したデータを用いて機械学習によって環境、条件等の情報の定義を特定する手法であってもよい。

【0026】

対象共有モデル選択部１２は、デバイスデータ取得部１１において取得したデバイスデータに基づいて、当該デバイスに最適な共有モデルを選択する機能を有する。ここで、共有モデルとは、様々なデバイスの環境、条件に合わせて予め学習を行ったモデルのことをいい、後述する記憶部１５に複数の共有モデルを予め記憶させておく。予め行う学習の程度としてはどのような水準に設定してもよいが、少なくとも、デバイスでゼロから学習を行うよりも効率が良くコストダウンに寄与する程度に学習が行われているものであることが好ましい。この対象共有モデル選択部１２における選択は、取得したデバイスデータに基づいて行うが、取得したデバイスデータのうち何れを共有モデルの選択のために利用するかは適宜決定可能なものである。また共有モデルの選択の方法は、デバイスデータの各項目の一致度から自動的に選択してもよいし、一致度の高い共有モデルを複数個複数個ユーザに提示してユーザに選択させるようにしてもよい。項目の一致度は、例えば、デバイスデータの各項目が一致するか否かを項目ごとに判定して、項目の一致数によって判定する。なお、デバイスの環境、条件等の定義にマッチした共有モデルが見つからない場合には、その定義に適したニューラルネットワークの構造からなる新規のモデルを生成するようにしてもよい。なお、対象となる共有モデルの選択方法は、予め設定した規則に基づいて共有モデルが選択される方法であってもよいし、最適な共有モデルを選択するための学習モデルを学習させた共有モデル選択についての学習済モデル（共有モデル及び追加学習済モデルとは異なる学習済モデルであり、共有モデルの選択行為を学習したもの）によって共有モデルを選択する方法であってもよい。

【0027】

また、対象共有モデル選択部１２において最適な共有モデルを選択する手法として、前記デバイスから得た環境、条件をもとに各共有モデルに対して評価したスコアをそれぞれ算出し、そのスコアに従って選択を行うようにしてもよい。共有モデルの適合度の評価であるスコアは、機械の種類、ワークの種類、センサの種類、地理的情報などのベースとなる環境・条件についてのデバイスデータに加えて、工場のロボットの位置データやアクチュエータトルク量、加速度センサデータ、車載カメラやレーザーレーダーなどで取得されるデプスを含むもしくは含まない画像データ、変位センサデータ、プロセスオートメーションの各種プロセスデータ、インフラや農業、バイオヘルスケアなどにおける各種データなどのセンサデータ、ネットワークのログデータや、正常品や異常品を含む製品の写真データや、音声データなどのより詳細なデバイスデータを加味して評価を行う。これらの各項目をどのように評価してスコア化するかを予め設定しておき、共有モデルごとに項目毎の点数を合計した合計スコアを算出する。実際の共有モデルの選択は、最もスコアの高い共有モデルを自動的に選択するようにしてもよいし、スコアの高い共有モデルを複数個ユーザに提示してユーザに選択させるようにしてもよい。なお、適合度の評価であるスコアを算出して最適な共有モデルを選択するための学習モデルを学習させて学習済モデルによって共有モデルを選択する方法であってもよい。この場合、各デバイスデータをどのようにスコア化するかについても学習モデルが学習していくため、最適な共有モデルの選択が可能となる。

【0028】

追加学習処理部１３は、対象共有モデル選択部１２において選択された共有モデルに対して追加学習を行う機能を有する。共有モデルは、予め学習が行われているとはいえ、そのデバイスに特化した環境、条件での学習は行っていない状況であるため、高精度の判定、分類等を行うためには、追加の学習を行って微調整することが好ましい。そこで、デバイスデータ取得部１１において、追加学習において入力データとして用いるためのサンプルデータを併せて取得し、取得したサンプルデータを用いて共有モデルの追加学習を行う。ここで追加学習においては、ニューラルネットワークの全層を対象にして重みを再学習することに限らず、一部をフリーズさせておいてそれ以外の層だけを学習しなおすことや、層をさらに追加することも含まれる。これにより、そのデバイスに特化した環境、条件での学習内容が追加されて、より最適なモデルとして微調整された追加学習済モデルを生成することができる。追加学習処理部１３として機能するためには、学習器として機能するための構成がサーバ装置１０に求められる。

【0029】

追加学習済モデル管理部１４は、追加学習処理部１３において生成された追加学習済モデルを後述する記憶部１５に対して記憶させるとともに、対象となるデバイスに対して追加学習済モデルを送信する機能を有する。また、追加学習済モデルを条件の一致する他のデバイスで利用可能なように、その環境、条件等の定義情報を設定した上で管理する機能を有する。このように、追加学習済モデルに対しても環境、条件等の定義情報を定めておくことにより、対象共有モデル選択部１２において、デバイスに適した共有モデルを選択する際に、他のデバイスに基づいて生成された追加学習済モデルについても選択肢の候補とすることが可能となる。

【0030】

記憶部１５は、様々なデバイスの環境、条件に合わせて予め学習を行った複数の共有モデルを記憶させる機能を有する。また、共有モデルに対してデバイスに特化した環境、条件を学習させるためのサンプルデータを適用して学習させた追加学習済モデルについても、この記憶部１５に記憶させる。なお、記憶部１５は、必ずしもサーバ装置１０にある必要はなく、デバイス側に具備されているようなシステムでもよい。その場合には、サーバ装置１０において対象となる共有モデルが何れに格納されているかの情報を保持し、必要に応じて格納場所からデバイスに転送する。

【0031】

次に、サーバ装置１０において共有モデルを選択し、追加学習を行うまでの処理の流れについて説明を行う。図２に示すのは、追加学習の学習処理の流れを示したフローチャート図である。この図２において、先ず、デバイスに適した共有モデルを選択するために、デバイスデータを収集する（Ｓ１１）。具体的には、デバイス２０から送信されるデバイスデータをデバイスデータ取得部１１において受信してデバイスデータを収集する。収集したデバイスデータに基づいて、デバイスデータの属性を定義する（Ｓ１２）。デバイスデータの属性とは、共有モデルを選択するために必要なデバイスの環境、条件等の情報であり、これを定義する。そして、定義したデバイスデータの属性に基づいて、共有モデルを検索する（Ｓ１３）。このときの検索対象として、他のデバイスで追加学習を行って生成された追加学習済モデルも含めるようにしてもよい。検索の結果、該当する共有モデルが存在するか否かを判定する（Ｓ１４）。該当する共有モデルが存在した場合には、当該共有モデルを選択して次のステップ（Ｓ１６）に進み、該当する共有モデルが存在しなかった場合には、デバイス２０の条件に一致したニューラルネットワークの構成からなる学習モデルを新規に生成して（Ｓ１５）、次のステップ（Ｓ１６）に進む。

【0032】

共有モデルを選択、若しくは、新規に学習モデルを生成した後に、その共有モデル若しくは新規学習モデルに対して、学習器によって追加の学習を実施する（Ｓ１６）。追加の学習は、デバイス２０から収集した追加学習を行うためのサンプルデータを利用して行う。追加学習の完了後、生成した追加学習済モデルを記憶部１５に記憶させる（Ｓ１７）。サーバ装置１０は、この生成した追加学習済モデルをデバイス２０に送信する。

【0033】

なお、デバイス２０側において追加学習処理を行う機能を備えている場合や、選択された共有モデルが追加学習の必要のない状態でデバイス２０の条件にマッチしている場合には、この図２のステップ（Ｓ１６）とステップ（Ｓ１７）は省略して、選択された共有モデルをそのままデバイス２０に送信することもあり得る。

【0034】

次に、デバイス２０において共有モデルをダウンロードして、推論処理を行うまでの流れについて説明を行う。図３に示すのは、デバイス２０において推論処理を行うまでの流れを示したフローチャート図である。この図３において、推論処理を行いたいデバイス２０は、先ず、デバイスデータの収集を行う（Ｓ２１）。収集したデバイスデータに基づいて、デバイスデータの属性を定義する（Ｓ２２）。なお、このデバイスデータの属性の定義は、サーバ装置１０側において行ってもよい。そして、デバイスデータを用いて最適な共有モデルを検索するために、サーバ装置１０に対してデバイスデータを送信する（Ｓ２３）。デバイスデータを受信したサーバ装置１０では、最適な共有モデルの選択が行われ、必要に応じて追加学習が行われる。そして、デバイス２０において、サーバ装置１０で選択された共有モデル若しくは追加学習済モデルを学習器にダウンロードして記憶させる（Ｓ２４）。最後に、デバイス２０では、共有モデル若しくは追加学習済モデルを学習器に記憶させた状態において、デバイスデータを利用して学習器において推論処理を行って、出力データとしての推論結果を得る（Ｓ２５）。

【0035】

出力データは、行う推論処理によって全く異なるものであるが、例えば、予定している行動の正しさの判定、部品の異常度の判定、システム異常度の判定、良品か不良品かの検査結果、映像に映ったオブジェクトの名前（分類処理）、映像に映った人物の人種、性別などの特徴、特定のルールに基づいて加工された写真、音声、文章などが出力データとして出力される。

【0036】

なお、デバイス２０に側において追加学習処理を行う機能を備えている場合には、図３のステップ（Ｓ２４）の後で、共有モデルに対して追加学習を行うようにしてもよい。デバイス２０側で追加学習を行った場合には、その追加学習済モデルをサーバ装置１０にアップロードする構成とすれば、デバイス２０側で追加学習を行った追加学習済モデルについても、他のデバイスで利用することが可能となる。

【0037】

図１の状態を例に本発明の具体的な運用例を説明すると、例えば、デバイス２０１がサーバ装置１０に対してデバイスデータを送信して選択された共有モデルが「モデルＡ」であり、デバイス２０１のデバイスデータに含まれるサンプルデータに基づいて追加学習を行って得られた追加学習済モデルが「モデルＡ’」であったとする。また、デバイス２０２がサーバ装置１０に対してデバイスデータを送信して選択された共有モデルが「モデルＢ」であり、デバイス２０２のデバイスデータに含まれるサンプルデータに基づいて追加学習を行って得られた追加学習済モデルが「モデルＢ’」であったとする。このように、デバイス２０１、２０２はそれぞれ、自身のデバイスの環境、条件等の情報を含むデバイスデータをサーバ装置１０に送信するだけで最適かつ追加学習済みの学習済モデルを取得できるので、デバイス２０１、２０２において独自に学習済モデルを生成する場合に比較して導入コストを大幅に低減できるというメリットがある。

【0038】

また、図１において、デバイス２０ｎがサーバ装置１０に対してデバイスデータを送信して共有モデルを要求したときに、デバイス２０ｎのデバイスデータから定義される環境、条件等がデバイス２０１と同一であり、同じ学習済モデルを適用できるとサーバ装置１０が判断した場合には、「モデルＡ」に基づいて追加学習を行うのではなく、追加学習済モデルである「モデルＡ’」をデバイス２０ｎに送信すれば、デバイス２０ｎでそのまま推論処理が可能となる。このように、同一環境、条件の他のデバイスに基づいて生成された追加学習済モデルが存在する場合には直接それを利用することが可能となるため、より一層導入コストを抑え、かつ、導入までの時間短縮が可能となる。また、汎用的な学習モデルを利用する場合に比較して、最適なニューラルネットワークのサイズを適用できるため、追加学習のための演算コスト及びメモリコストを縮小することが可能となる。

【0039】

また、同一工場内において扱う製品が変更されるような状況において、従来は製品が変わる度にゼロから学習を行う必要があったが、本発明のサーバ装置１０によれば、扱う製品の変更のタイミングで最適な共有モデルを再度検索してダウンロードすればよいことになる。すなわち、同一のデバイス２０における処理内容が変更されるような場合に最適な共有モデルの導入が容易であるというメリットがある。そして、同じ処理内容の他のデバイスによって追加学習済モデルが生成されていれば、追加学習処理の手間をかけることなる精度の高い推論処理を行える追加学習済モデルを即座に導入できるというメリットがある。このように、多数のデバイス２０１～２０ｎがサーバ装置１０にアクセスして追加学習済モデルのデータが蓄積されていくという点も、本発明のサーバ装置１０のメリットである。

【0040】

前記第１の実施の形態においては、共有モデルと追加学習済モデルとを分けて説明を行っていたが、学習の程度が異なるというだけで、どちらも学習済モデルであることには変わりがない。すなわち、他のデバイスから見たときに、学習の程度に応じて共有モデルと追加学習済モデルを適宜選択可能であれば、必ずしも、図１の記憶部１５のように、区別して記憶させておく必要はない。共有モデルや追加学習済モデルに対して検索時に最適なモデルを検索するための情報が付されていれば、同じ学習済モデルとして扱ってしまって差し支えないといえる。この場合には、追加学習済モデル管理部１４がなくとも本発明のサーバ装置１０が機能するといえる。

【0041】

前記第１の実施の形態においては、サーバ装置１０に追加学習処理部１３を設けていたが、これに限定されるものではなく、追加学習処理部１３に相当する追加学習処理機能を各デバイス２０側に設けるものであってもよい。この場合に、デバイス２０側で生成した追加学習済モデルをサーバ装置１０に送信する構成であってもよいが、追加学習済モデル全体はサーバ装置１０には送信せずに、追加学習済モデルの選択に必要な情報のみをサーバ装置１０に送信する構成であってもよい。他のデバイス２０が同じ追加学習済モデルを必要としたときにだけ、サーバ装置１０若しくは必要とするデバイス２０に直接送信する構成とすることができる。これにより、サーバ装置１０に必要なデータ領域を縮小することが可能となる。

【0042】

前記第１の実施の形態においては、図１に示すように、１つのサーバ装置１０と複数のデバイス２０１～２０ｎが通信ネットワーク３０を介して接続される構成を例に説明を行ったが、これに限定されるものではなく、例えば、複数のサーバ装置１０が格納された共有モデル（追加学習済モデルも含む）を相互に認識した状態で通信ネットワーク３０を介して通信可能に構成することで、他のサーバ装置１０から共有モデルを検索してデバイスに対して提供可能としてもよい。このように複数のサーバ装置と複数のデバイスからなる学習済モデル提供システムを構成することで、複数のサーバ装置１０の何れかに記憶された共有モデルをデバイス２０に対して提供可能となるため、より膨大なデータの選択肢の中から最適な共有モデルを選択可能となる。

【0043】

前記第１の実施の形態においては、追加学習処理部１３における追加学習の対象データは、そのデバイスでのみ取得したデバイスデータを使って学習していたが、これにとどまる必要はなく、同一環境・条件の他のデバイスで取得したデータを使用したり、同一環境・条件の他のデバイスで生成した学習済モデルを使用して更新したりしてもよい。また、同一環境・条件の複数のデバイスにおいてそれぞれ生成された追加学習済モデルを混合して混合学習済モデルを生成するようにしてもよい。学習モデルの混合については、既知の様々な手法が適用可能である。

【産業上の利用可能性】

【0044】

本発明は、学習済モデルを用いた推論処理を必要とする分野であればどのような分野であっても適用可能な技術であり、学習済モデルのデータベースとして運用することが可能である。

【符号の説明】

【0045】

１０ サーバ装置
１１ デバイスデータ取得部
１２ 対象共有モデル選択部
１３ 追加学習処理部
１４ 追加学習済モデル管理部
１５ 記憶部
２０、２０１～２０ｎ デバイス
３０ 通信ネットワーク

【図1】

【図2】

【図3】