特開 2024-20743 推論装置、推論システム、及び推論方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024020743

(43)【公開日】2024-02-15

(54)【発明の名称】推論装置、推論システム、及び推論方法

(51)【国際特許分類】

   G06N 20/00 20190101AFI20240207BHJP

【ＦＩ】

G06N20/00 130

【審査請求】未請求

【請求項の数】7

【出願形態】ＯＬ

(21)【出願番号】P 2022123163

(22)【出願日】2022-08-02

(71)【出願人】

【識別番号】000000099

【氏名又は名称】株式会社ＩＨＩ

(74)【代理人】

【識別番号】100088155

【弁理士】

【氏名又は名称】長谷川 芳樹

(74)【代理人】

【識別番号】100113435

【弁理士】

【氏名又は名称】黒木 義樹

(74)【代理人】

【識別番号】100170818

【弁理士】

【氏名又は名称】小松 秀輝

(74)【代理人】

【識別番号】100124800

【弁理士】

【氏名又は名称】諏澤 勇司

(72)【発明者】

【氏名】伊藤 拓海

(57)【要約】

【課題】学習モデルのパラメータを機械学習によって効率よく更新すること。
【解決手段】推論装置３は、入力情報を基に機械学習の学習モデルを用いて推論結果を生成する推論部３０２と、学習モデルの複数のパラメータを教師データを用いた機械学習によって更新する学習部３０１と、を備え、学習部３０１は、学習モデルに関するデータ及び教師データを記憶する記憶部３０６，３０７と、外部の推論装置３から複数のパラメータのうちの一部のパラメータを受信するパラメータ受信部３０３と、一部のパラメータを記憶部３０７内の学習モデルに関するデータに反映するとともに、記憶部３０７に記憶された学習モデルの複数のパラメータを、記憶部３０６に記憶された教師データを用いて更新する学習演算部３０４と、更新された複数のパラメータのうちからランダムに選択された他部のパラメータを、外部の推論装置３に送信するパラメータ送信部３０５と、を含む。
【選択図】図２

【特許請求の範囲】

【請求項1】

外部からの入力情報を基に機械学習の学習モデルを用いて推論結果を生成する推論部と、
前記学習モデルの複数のパラメータを教師データを用いた機械学習によって更新する学習部と、を備え、
前記学習部は、
前記学習モデルに関するデータ及び前記教師データを記憶する記憶部と、
外部の推論装置から前記複数のパラメータのうちの一部のパラメータを受信するパラメータ受信部と、
前記一部のパラメータを前記記憶部内の前記学習モデルに関するデータに反映するとともに、前記記憶部に記憶された前記学習モデルによって特定される前記学習モデルの前記複数のパラメータを、前記記憶部に記憶された前記教師データを用いて更新する学習演算部と、
前記学習演算部によって更新された前記複数のパラメータのうちからランダムに選択された他部のパラメータを、外部の推論装置に送信するパラメータ送信部と、
を含む、推論装置。

【請求項2】

前記学習演算部は、前記学習演算部による前記教師データを用いた１エポックごとの機械学習処理の前に前記一部のパラメータを反映する、
請求項１に記載の推論装置。

【請求項3】

前記パラメータ送信部は、前記学習演算部による前記教師データを用いた１エポックごとの機械学習処理の後に選択された前記他部のパラメータを送信する、
請求項１又は２に記載の推論装置。

【請求項4】

前記学習演算部は、前記一部のパラメータを反映した前記学習モデルの推論精度が反映前後で向上する場合に、前記一部のパラメータを前記記憶部内の前記学習モデルに関するデータに反映する、
請求項１又は２に記載の推論装置。

【請求項5】

前記推論部による前記推論結果に基づいて外部装置を制御する制御部をさらに備える、
請求項１又は２に記載の推論装置。

【請求項6】

請求項１又は２に記載の推論装置を複数備え、
前記複数の推論装置は、互いにデータを送受信可能にネットワークを介して接続され、前記ネットワークを介して、互いに前記一部のパラメータあるいは前記他部のパラメータを送受信する、
推論システム。

【請求項7】

外部からの入力情報を基に機械学習の学習モデルを用いて推論結果を生成する推論部と、
前記学習モデルの複数のパラメータを教師データを用いた機械学習によって更新する学習部と、を備えた推論装置を用いた推論方法であって、
前記学習部が、前記学習モデルに関するデータ及び前記教師データを記憶部内に記憶し、
前記学習部が、外部の推論装置から前記複数のパラメータのうちの一部のパラメータを受信して、前記一部のパラメータを前記記憶部内の前記学習モデルに関するデータに反映し、
前記学習部が、記憶した前記学習モデルによって特定される前記学習モデルの前記複数のパラメータを、記憶した前記教師データを用いて更新し、
前記学習部が、更新した前記複数のパラメータのうちからランダムに選択された他部のパラメータを、外部の推論装置に送信する、
推論方法。

【発明の詳細な説明】

【技術分野】

【0001】

本開示は、推論情報を生成する推論装置、推論システム、及び推論方法に関するものである。

【背景技術】

【0002】

従来から、機械学習によって構築された学習モデルを用いて推論結果を生成する装置が知られている。例えば、特許文献１には、学習モデルを生成する学習部と、出力データを推定する推定部を備える機械学習モデル構築装置が記載されている。また、下記特許文献２には、学習モデルをクラウド側からダウンロードして適用するエッジサーバにおいて、ダウンロードした学習モデルの新バージョンに基づく新学習データおよび旧バージョンに基づく旧学習データと、教師データを比較・検証し、その結果に基づき適した新旧バージョンの一方を決定する技術が記載されている。また、下記特許文献３には、マスターエッジおよび計算エッジを含むＬ－ＤＮＮアーキテクチャが記載され、各デバイスが低速学習モジュールおよび高速学習モジュールを備え、オンデバイスでの学習を使用することが記載されている。

【先行技術文献】

【特許文献】

【0003】

【特許文献1】特開２０２０－８６７７８号公報

【特許文献2】特開２０１９－１３９７３４号公報

【特許文献3】特開２０２０－５２０００７号公報

【発明の概要】

【発明が解決しようとする課題】

【0004】

しかしながら、上述した特許文献１～３に記載の技術では、学習モデルを、推論部を備える装置内で生成するか、クラウド内で生成している。そのため、複数の推論装置において共通の構成の学習モデルを用いて推論結果を生成するシステムが構築された場合に、学習モデルのパラメータを機械学習によって効率よく更新することが困難である。

【0005】

そこで、本開示は、かかる課題に鑑みて為されたものであり、複数の推論装置を含むシステムが構築された場合に、学習モデルのパラメータを機械学習によって効率よく更新することができる推論装置を提供することを目的とする。

【課題を解決するための手段】

【0006】

上記課題を解決するため、本開示の一側面に係る推論装置は、外部からの入力情報を基に機械学習の学習モデルを用いて推論結果を生成する推論部と、学習モデルの複数のパラメータを教師データを用いた機械学習によって更新する学習部と、を備え、学習部は、学習モデルに関するデータ及び教師データを記憶する記憶部と、外部の推論装置から複数のパラメータのうちの一部のパラメータを受信するパラメータ受信部と、一部のパラメータを記憶部内の学習モデルに関するデータに反映するとともに、記憶部に記憶された学習モデルによって特定される学習モデルの複数のパラメータを、記憶部に記憶された教師データを用いて更新する学習演算部と、学習演算部によって更新された複数のパラメータのうちからランダムに選択された他部のパラメータを、外部の推論装置に送信するパラメータ送信部と、を含む。

【0007】

あるいは、本開示の他側面に係る推論方法は、外部からの入力情報を基に機械学習の学習モデルを用いて推論結果を生成する推論部と、学習モデルの複数のパラメータを教師データを用いた機械学習によって更新する学習部と、を備えた推論装置を用いた推論方法であって、学習部が、学習モデルに関するデータ及び教師データを記憶部内に記憶し、学習部が、外部の推論装置から複数のパラメータのうちの一部のパラメータを受信して、一部のパラメータを記憶部内の学習モデルに関するデータに反映し、学習部が、記憶した学習モデルによって特定される学習モデルの複数のパラメータを、記憶した教師データを用いて更新し、学習部が、更新した複数のパラメータのうちからランダムに選択された他部のパラメータを、外部の推論装置に送信する。

【0008】

上記一側面あるいは上記他側面によれば、推論装置内に、入力情報を基に推論結果を生成する推論部と、学習モデルの複数のパラメータを更新する学習部とが備えられ、学習部は、複数のパラメータのうちの一部のパラメータを外部の推論装置から受信して学習モデルに反映し、その学習モデルの複数のパラメータを教師データを用いた機械学習によって更新し、更新した複数のパラメータから他部のパラメータをランダムに選択して送信する。これにより、複数の推論装置を含むシステムを構築した場合に、複数の推論装置の間で学習モデルの複数のパラメータを選択的に相互に交換しながら、複数の推論装置ごとに、学習モデルを教師データを用いた機械学習によって構築できる。これにより、同一構成の学習モデルを用いる複数の推論装置において、学習モデルのパラメータを機械学習によって効率よく更新することができる。

【0009】

あるいは、本開示のさらなる他側面に係る推論システムは、上記推論装置を複数備え、上記複数の推論装置は、互いにデータを送受信可能にネットワークを介して接続され、ネットワークを介して、互いに一部のパラメータあるいは他部のパラメータを送受信する。

【0010】

上記のさらなる他側面によれば、複数の推論装置の間で学習モデルの複数のパラメータを、ネットワークを介して、選択的に相互に交換しながら、複数の推論装置ごとに、学習モデルを教師データを用いた機械学習によって構築できる。これにより、推論システム内で同一構成の学習モデルを用いる複数の推論装置において、学習モデルのパラメータを機械学習によって効率よく更新することができる。

【0011】

上記一側面においては、学習演算部は、学習演算部による教師データを用いた１エポックごとの機械学習処理の前に一部のパラメータを反映してもよい。

【0012】

かかる構成を採れば、教師データを用いた機械学習処理において、外部の推論装置によって更新された一部のパラメータを更新した後に複数のパラメータを更新でき、推論精度が高められた学習モデルを効率よく構築することができる。

【0013】

また、上記一側面においては、パラメータ送信部は、学習演算部による教師データを用いた１エポックごとの機械学習処理の後に選択された他部のパラメータを送信してもよい。

【0014】

この場合、外部の推論装置における教師データを用いた機械学習処理において、自己の推論装置によって更新された一部のパラメータを更新させた後に複数のパラメータを更新させることができ、外部の推論装置において推論精度が高められた学習モデルを効率よく構築することができる。

【0015】

また、上記一側面においては、学習演算部は、一部のパラメータを反映した学習モデルの推論精度が反映前後で向上する場合に、一部のパラメータを記憶部内の学習モデルに関するデータに反映してもよい。

【0016】

この場合、教師データを用いた機械学習処理において、外部の推論装置によって更新された一部のパラメータを、推論精度が向上する場合に更新するので、推論精度が高められた学習モデルをより効率よく構築することができる。

【0017】

また、上記一側面においては、推論部による推論結果に基づいて外部装置を制御する制御部をさらに備えてもよい。この場合、精度の高められた推論結果を基に外部装置を制御することができ、外部装置を適切に制御することができる。

【発明の効果】

【0018】

本開示によれば、複数の推論装置を含むシステムが構築された場合に、学習モデルのパラメータを機械学習によって効率よく更新することができる。

【図面の簡単な説明】

【0019】

【図1】本開示の好適な一実施形態に係る推論システムの構成概略図である。

【図2】図１の推論装置の機能構成を示すブロック図である。

【図3】推論システムの構成例を示すブロック図である。

【図4】推論システムにおけるパラメータの反映のイメージを示す図である。

【図5】本実施形態におけるトレーニング処理の手順を示すフローチャートである。

【図6】本実施形態における推論処理の手順を示すフローチャートである。

【発明を実施するための形態】

【0020】

以下、添付図面を参照して本発明の実施形態を詳細に説明する。なお、図面の説明において同一又は相当要素には同一の符号を付し、重複する説明を省略する。

【0021】

図１は、本開示の一実施形態に係る推論システム１の構成概略図である。同図に示される推論システム１は、複数の推論装置を用いて、ある対象物を撮像した画像を基に対象物に関する推論結果を生成し、複数の推論装置による推論結果を基に外部装置を制御するコンピュータシステムである。複数の推論装置が生成する推論結果としては、対象物の種類、対象物の位置座標、あるいは、対象物の大きさ、等が挙げられる。外部装置の制御内容としては、アクチュエータの動作タイミング、アクチュエータの動作方向、あるいは、アクチュエータの動作速度等の制御が挙げられる。推論システム１の設置環境としては、工場における製造ライン、河川の沿岸、重機械の周囲、あるいは、道路の周辺、等の対象物である動体が存在する環境が挙げられる。

【0022】

推論システム１は、分散配置された複数の推論装置３を含む。これらの複数の推論装置３は、それぞれ、少なくとも１つの他の推論装置３（本実施形態では少なくとも３つの推論装置３）との間で、通信ネットワークＮＷを介してピアツーピア（Ｐ２Ｐ）でデータ通信が可能に接続されている。複数の推論装置３は、通信ネットワークＮＷとして、有線通信ネットワークを用いてもよいし、無線通信ネットワークを用いてもよい。複数の推論装置３は、後述するように、学習モデルの一部のパラメータあるいは他部のパラメータを送受信する。

【0023】

図２は、複数の推論装置３のそれぞれの機能構成を示すブロック図である。それぞれの推論装置３は、物理的には、１又は複数のＣＰＵ（あるいはＧＰＵ）と、ＲＡＭ及びＲＯＭ等の主記憶装置と、外部との間でデータを送受信するデータ送受信デバイスである通信モジュールと、半導体メモリ及びハードディスク装置等の補助記憶装置と、マウス、タッチパネル及びキーボード等の入力デバイスと、ディスプレイ及びスピーカ等の出力デバイスとを含むコンピュータシステムとして構成されている。また、それぞれの推論装置３には、カメラ、各種センサ（距離センサなど）等のセンシングデバイス５が電気的に接続されている。センシングデバイス５は、推論装置３の制御によって対象物に関する検出データ（撮像画像データ、距離データ等）を取得する。さらに、それぞれの推論装置３には、外部装置を制御するための操作用コントローラ等の制御装置７も電気的に接続されている。図２に示す推論装置３の各機能は、ＣＰＵ、ＧＰＵ、ＲＡＭ等のハードウェア上に１又は複数の所定のコンピュータソフトウェアを読み込ませることにより、ＣＰＵ、ＧＰＵの制御のもとで通信モジュール、入力デバイス、および出力デバイスを動作させるとともに、ＲＡＭや補助記憶装置におけるデータの読み出し及び書き込みを行うことで実現される。ただし、それぞれの推論装置は、１台のコンピュータによって構成されていてもよいし、２台以上のコンピュータによって構成されていてもよく、例えば、後述する学習部の機能と推論部の機能とが別々のコンピュータによって実現されてもよい。

【0024】

推論装置３は、機能的には、学習部３０１と推論部３０２とを備え、学習部３０１は、パラメータ受信部３０３、学習演算部３０４、パラメータ送信部３０５、教師データ記憶部３０６、及び、学習モデル記憶部３０７を含んで構成され、推論部３０２は、データ入力部３０８、推論演算部３０９、及び、データ出力部（制御部）３１０を含んで構成される。以下、推論装置３の各機能部の機能について詳細に説明する。

【0025】

パラメータ受信部３０３は、Ｐ２Ｐ接続された外部の推論装置３から、学習モデル記憶部３０７に予め記憶された学習モデルの複数のパラメータのうちの選択された一部のパラメータを受信する。ここで複数のパラメータとしては、学習モデルとして畳み込みニューラルネットワーク（ＣＮＮ：Convolutional Neural Network）等のニューラルネットワークのモデルが採用されている場合には、ニューラルネットワーク内の２つのノード間のデータの伝達時に使用される重みパラメータ等が挙げられる。

【0026】

学習モデル記憶部３０７は、推論装置３においての推論処理において使用される機械学習の学習モデルのデータをその学習モデルの複数のパラメータとともに記憶するデータ記憶領域である。教師データ記憶部３０６は、学習モデル記憶部３０７に記憶された学習モデルの複数のパラメータを機械学習のトレーニングによって更新する際に使用される教師データを記憶するデータ記憶領域である。教師データ記憶部３０６に記憶される教師データは、予め推論装置３の外部から取得されたデータを含んでもよいし、推論装置３に接続されたセンシングデバイス５から受信される検出データを含んでもよい。この教師データは、学習モデルに入力される入力データとその入力データに対応する正解データ（ラベル）とが含まれうる。

【0027】

学習演算部３０４は、パラメータ受信部３０３によって受信された一部のパラメータを、学習モデル記憶部３０７に記憶されている学習モデルのデータに反映する。この際、学習演算部３０４は、一部のパラメータの反映後の学習モデルのデータを基に、その学習モデルに教師データ記憶部３０６に記憶されている教師データを入力し、その結果生成された推論結果の推論精度が、反映前の学習モデルを用いた推論結果の推論精度よりも向上する場合に、一部のパラメータを学習モデル記憶部３０７内の学習モデルのデータに上書きする（反映する）。

【0028】

さらに、学習演算部３０４は、学習モデル記憶部３０７に記憶されている学習モデルのデータによって特定される複数のパラメータを、教師データ記憶部３０６に記憶されているラベル付きの教師データを用いてトレーニングすることによって、更新する。なお、学習演算部３０４は、外部の複数の推論装置３のそれぞれから受信された一部のパラメータを、教師データを用いた１エポックごとのトレーニング（機械学習処理）の処理の前に反映する。また、学習演算部３０４は、トレーニングによって更新した複数のパラメータのうちの他部のパラメータを、学習モデル記憶部３０７に記憶されているデータの中からランダムに選択して読み出し、読み出した他部のパラメータをパラメータ送信部３０５に引き渡す。このとき、学習演算部３０４は、他部のパラメータの選択及び引き渡しを、教師データを用いた１エポックごとのトレーニング（機械学習処理）の処理の後のタイミングで実行する。

【0029】

パラメータ送信部３０５は、学習演算部３０４から１エポックのトレーニングの処理毎に引き渡された他部のパラメータを、外部の複数の推論装置３に送信する。このとき、送信先の外部の推論装置３は、自己の推論装置３にＰ２Ｐ接続されている全ての推論装置３であってもよいし、自己の推論装置３にＰ２Ｐ接続されている全ての推論装置３の中から選択された推論装置３であってもよい。

【0030】

データ入力部３０８は、センシングデバイス５によって取得された対象物に関する検出データの入力を受ける。また、データ入力部３０８は、入力された検出データを、その都度、教師データ記憶部３０６に教師データとして蓄積及び記憶するとともに、推論演算部３０９に引き渡す。

【0031】

推論演算部３０９は、データ入力部３０８から引き渡された検出データを、学習モデル記憶部３０７からデータを読み出すことによって機能する機械学習の学習モデルに入力し、その学習モデルによって出力される出力データを推論結果として生成する。推論演算部３０９の生成する推論結果は、例えば、対象物の種類、対象物の位置座標、あるいは、対象物の大きさ、等である。また、推論演算部３０９は、生成した推論結果を、入力データに対応した訓練データの正解データ（ラベル）として、教師データ記憶部３０６に記憶してもよい。

【0032】

データ出力部３１０は、推論演算部３０９によって生成された推論結果を基に、外部装置の制御内容を決定し、その制御内容を指示する制御信号を制御装置７に送信する。これにより、データ出力部３１０は、制御装置７を介して外部装置の動作を制御することができる。決定する制御内容としては、外部装置がアクチュエータの場合、アクチュエータの動作タイミング、アクチュエータの動作方向、あるいは、アクチュエータの動作速度等が挙げられる。

【0033】

図３には、推論システム１の構成例を示す。この例では、推論システム１には、２台の推論装置３が含まれ、互いにデータ通信可能に構成される。一方の推論装置３は、Ａ地点に設置され、センシングデバイス５であるカメラと、アクチュエータを制御する制御装置７とが電気的に接続されている。他方の推論装置３は、Ａ地点とは離れたＢ地点に設置され、センシングデバイス５であるカメラと、アクチュエータを制御する制御装置７とが電気的に接続されている。それぞれのセンシングデバイス５は、Ａ地点とＢ地点との間を移動する対象物Ｓの撮像画像データを取得し、それぞれの推論装置３に入力する。それぞれの制御装置７は、それぞれの推論装置３から受信した制御信号を基に、外部装置の動作を制御する。

【0034】

図４には、Ｎ台（Ｎは任意の整数）の推論装置３によって構成される推論システム１におけるパラメータの反映のイメージを示す。ここでは、Ｎ台の推論装置３の学習モデル記憶部３０７においては、同一のアルゴリズム構成の学習モデルのデータが記憶されており、それぞれのデータには、同一種類および同一数の複数のパラメータＰ_１，Ｐ_２，…，Ｐ_Ｎが含まれている。ある推論装置３は、１エポックのトレーニングの処理の後に、更新した複数のパラメータＰ_１のうちの一部のパラメータｅ_ｋを、他の推論装置３に送信する。これに対して、他の推論装置３は、受信した一部のパラメータパラメータｅ_ｋを、学習モデルの推論精度が向上することを条件に自装置内に記憶されている複数のパラメータＰ_２中の該当するパラメータに上書き（反映）する。同様にして、複数の推論装置３の間で一部のパラメータｅ_ｉ，ｅ_ｊ，ｅ_ｌが送受信および上書きされる。

【0035】

以下、推論装置３における各種処理の動作手順について説明する。まず、図５を参照しながら、推論装置３のトレーニング処理の手順について説明する。

【0036】

まず、ある推論装置３のパラメータ受信部３０３が、外部の推論装置３から学習モデルの一部のパラメータを受信する（ステップＳ１０１）。次に、推論装置３の学習演算部３０４によって、一部のパラメータを反映後の学習モデルに教師データが入力されることにより推論結果が取得され、その推論結果と教師データに含まれる正解データ（ラベル）とを基に推論精度が算出される（ステップＳ１０２）。そして、学習演算部３０４によって、推論精度が一部のパラメータの反映前後で向上したか否かが判定される（ステップＳ１０３）。判定の結果、推論精度が低下した場合は（ステップＳ１０３；Ｎｏ）、学習モデルのデータへの一部のパラメータの反映がキャンセルされる一方で、推論精度が向上した場合は（ステップＳ１０３；Ｙｅｓ）、学習モデルのデータへの一部のパラメータの反映が実行される（ステップＳ１０４）。

【0037】

その後、推論装置３の学習演算部３０４によって、学習モデル記憶部３０７に記憶されている学習モデルの複数のパラメータが、学習モデルの教師データを用いた１エポックのトレーニングが実行されることにより、更新される（ステップＳ１０５）。次に、学習演算部３０４によって、更新された複数のパラメータの中の他部のパラメータが選択されて読み出される（ステップＳ１０６）。さらに、パラメータ送信部３０５によって、読み出された他部のパラメータがＰ２Ｐ接続された外部の推論装置３に送信される（ステップＳ１０７）。その後、外部の推論装置３からの一部のパラメータの受信の有無が監視され（ステップＳ１０８）、一部のパラメータの受信がある場合には（ステップＳ１０８；Ｙｅｓ）、推論装置３の処理がステップＳ１０１に戻されてトレーニング処理が繰り返され、一部のパラメータの受信がない場合には（ステップＳ１０８；Ｎｏ）、推論装置３におけるトレーニング処理が終了される。

【0038】

次に、図６を参照しながら、推論装置３の推論処理の手順について説明する。まず、センシングデバイス５から検出データが取得された（ステップＳ２０１）ことを契機に推論処理が開始される。検出データが取得されると、推論装置３の推論演算部３０９によって、学習モデル記憶部３０７から読み出されて機能する学習モデルに検出データが入力され、その結果、学習モデルから出力された出力データが推論結果として生成される（ステップＳ２０２）。そして、推論装置３のデータ出力部３１０によって、推論結果を基に制御装置７を介して外部装置の動作が制御される（ステップＳ２０３）。この外部装置の動作制御は、検出データの取得ごとに繰り返される。

【0039】

以上説明した推論システム１の推論装置３によれば、推論装置３内に、検出データを基に推論結果を生成する推論部３０２と、学習モデルの複数のパラメータを更新する学習部３０１とが備えられ、学習部３０１は、複数のパラメータのうちの一部のパラメータを外部の推論装置３から受信して学習モデルに反映し、その学習モデルの複数のパラメータを教師データを用いた機械学習によって更新し、更新した複数のパラメータから他部のパラメータをランダムに選択して送信する。これにより、複数の推論装置３を含む推論システム１を構築した場合に、複数の推論装置３の間で学習モデルの複数のパラメータを選択的に相互に交換しながら、複数の推論装置３ごとに、学習モデルを教師データを用いた機械学習によって構築できる。これにより、同一構成の学習モデルを用いる複数の推論装置３において、学習モデルのパラメータを機械学習によって効率よく更新することができる。

【0040】

また、複数の推論装置３を含む推論システム１の構成によれば、複数の推論装置３の間で学習モデルの複数のパラメータを、通信ネットワークＮＷを介して、選択的に相互に交換しながら、複数の推論装置３ごとに、学習モデルを教師データを用いた機械学習によって構築できる。これにより、推論システム１内で同一構成の学習モデルを用いる複数の推論装置３において、学習モデルのパラメータを機械学習によって効率よく更新することができる。

【0041】

特に、本実施形態によれば、学習モデルの構築を集中的に実行するサーバ装置が不要となり、システムの運用コストが削減される。また、サーバ装置における処理負荷の集中がなくなり処理負荷が複数の推論装置３に分散され、複数の推論装置３間で直接データ通信が可能とされているため、通信遅延による処理速度の低下が回避される。また、個々の推論装置３で学習が可能となるので、システムの冗長化、及び学習時のゼロダウンタイム化が実現される。さらに、複数の推論装置３による学習の並列化が可能となり、学習速度が高速化されるとともに、個々の推論装置３における学習処理の演算コストの増加を抑えることができる。また、推論装置３における学習モデルのダウンロードが不要となり、ネットワーク上の通信量が削減され、その結果システム全体の負荷が低下する。

【0042】

また、本実施形態によれば、推論装置３内で学習部３０１と推論部３０２が分けて備えられているので、推論処理のリアルタイム性が向上される。さらに、推論部３０２における推論結果が学習部３０１におけるトレーニング処理にフィードバックされているので、学習モデルの逐次の高精度化が実現される。

【0043】

本実施形態においては、学習演算部３０４が、教師データを用いた１エポックごとのトレーニング処理の前に一部のパラメータを反映し、パラメータ送信部３０５が、学習演算部３０４による教師データを用いた１エポックごとのトレーニング処理の後に選択された他部のパラメータを送信している。これにより、推論システム１に含まれる複数の推論装置３において推論精度が高められた学習モデルを効率よく構築することができる。

【0044】

また、本実施形態においては、学習演算部３０４が、一部のパラメータを反映した学習モデルの推論精度が反映前後で向上する場合に、一部のパラメータを学習モデル記憶部３０７内の学習モデルに関するデータに反映している。このような構成により、教師データを用いたトレーニング処理において、外部の推論装置３によって更新された一部のパラメータを、推論精度が向上する場合に更新するので、推論精度が高められた学習モデルをより効率よく構築することができる。

【0045】

また、本実施形態においては、推論演算部３０９による推論結果に基づいて外部装置を制御するデータ出力部３１０を備えている。これにより、精度の高められた推論結果を基に外部装置を制御することができ、外部装置を適切に制御することができる。

【0046】

以上、本発明の種々の実施形態について説明したが、本発明は上記実施形態に限定されるものではなく、各請求項に記載した要旨を変更しない範囲で変形し、又は他のものに適用したものであってもよい。

【0047】

上記実施形態は、下記のような制御例に適用することができる。
・外部装置としてのドローンの飛行制御を行う例。
・外部装置としてのアクチュエータの動作タイミング、動作方向、あるいは、動作速度を制御する例。
・学習モデルの入力データとして高度センサの高度データを用いる例。
・学習モデルの出力データ（推論結果）として、ドローンの自己位置、検出物体までの距離、検出物体の種類、あるいは検出物体の大きさを用いる例。

【0048】

本発明の推論装置は、［１］「外部からの入力情報を基に機械学習の学習モデルを用いて推論結果を生成する推論部と、学習モデルの複数のパラメータを教師データを用いた機械学習によって更新する学習部と、を備え、学習部は、学習モデルに関するデータ及び教師データを記憶する記憶部と、外部の推論装置から複数のパラメータのうちの一部のパラメータを受信するパラメータ受信部と、一部のパラメータを記憶部内の学習モデルに関するデータに反映するとともに、記憶部に記憶された学習モデルによって特定される学習モデルの複数のパラメータを、記憶部に記憶された教師データを用いて更新する学習演算部と、学習演算部によって更新された複数のパラメータのうちからランダムに選択された他部のパラメータを、外部の推論装置に送信するパラメータ送信部と、を含む、推論装置」である。

【0049】

本発明の推論装置は、［２］「 学習演算部は、学習演算部による教師データを用いた１エポックごとの機械学習処理の前に一部のパラメータを反映する、上記［１］に記載の推論装置」であってもよい。

【0050】

本発明の推論装置は、［３］「 パラメータ送信部は、学習演算部による教師データを用いた１エポックごとの機械学習処理の後に選択された他部のパラメータを送信する、上記［１］又は［２］に記載の推論装置」であってもよい。

【0051】

本発明の推論装置は、［４］「学習演算部は、一部のパラメータを反映した学習モデルの推論精度が反映前後で向上する場合に、一部のパラメータを記憶部内の学習モデルに関するデータに反映する、上記［１］～［３］のいずれかに記載の推論装置」であってもよい。

【0052】

本発明の推論装置は、［５］「推論部による推論結果に基づいて外部装置を制御する制御部をさらに備える、上記［１］～［４］のいずれかに記載の推論装置」であってもよい。

【0053】

本発明の推論システムは、［６］「上記［１］～［５］に記載の推論装置を複数備え、複数の推論装置は、互いにデータを送受信可能にネットワークを介して接続され、ネットワークを介して、互いに一部のパラメータあるいは他部のパラメータを送受信する、推論システム」である。

【符号の説明】

【0054】

１ 推論システム
３ 推論装置
５ センシングデバイス
７ 制御装置
３０１ 学習部
３０２ 推論部
３０３ パラメータ受信部
３０４ 学習演算部
３０５ パラメータ送信部
３０６ 教師データ記憶部
３０７ 学習モデル記憶部
３０８ データ入力部
３０９ 推論演算部
３１０ データ出力部（制御部）
ＮＷ 通信ネットワーク
Ｓ 対象物

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】