特開 2022-93863 モデル生成装置、データ処理装置、モデル生成方法、及びプログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2022093863

(43)【公開日】2022-06-24

(54)【発明の名称】モデル生成装置、データ処理装置、モデル生成方法、及びプログラム

(51)【国際特許分類】

   G06N 3/08 20060101AFI20220617BHJP

【ＦＩ】

G06N3/08 120

【審査請求】未請求

【請求項の数】9

【出願形態】ＯＬ

(21)【出願番号】P 2020206577

(22)【出願日】2020-12-14

(71)【出願人】

【識別番号】000005016

【氏名又は名称】パイオニア株式会社

(71)【出願人】

【識別番号】520001073

【氏名又は名称】パイオニアスマートセンシングイノベーションズ株式会社

(74)【代理人】

【識別番号】100110928

【弁理士】

【氏名又は名称】速水 進治

(74)【代理人】

【識別番号】100127236

【弁理士】

【氏名又は名称】天城 聡

(72)【発明者】

【氏名】稗田 渉

(57)【要約】

【課題】ニューラルネットワークを用いたモデルにおいて、精度の低下を抑制しつつ計算量を減らす。
【解決手段】モデル生成装置１０は、訓練部１３２、統計データ生成部１３４、不活性ノード選択部１３６、及び不活性処理部１３８を備えている。訓練部１３２は、訓練データを用いてモデルを訓練する。統計データ生成部１３４は、モデルが有する複数のノード別に、第１統計データ及び第２統計データの少なくとも一方を生成する。第１統計データは、複数の訓練データを入力したときの当該ノードの出力の統計データである。第２統計データは、ノードで用いられる複数のパラメータの統計データである。不活性ノード選択部１３６は、第１統計データ及び第２統計データの少なくとも一方を用いて、複数のノードのうち不活性とすべきノードを選択する。不活性処理部１３８は、選択されたノードを不活性にする。
【選択図】図３

【特許請求の範囲】

【請求項1】

ニューラルネットワークを有するモデルを生成するモデル生成装置であって、
前記モデルが有する複数のノード別に、複数の訓練データを入力したときの当該ノードの出力の第１統計データ、及び当該ノードで用いられる複数のパラメータの第２統計データの少なくとも一方を生成する統計データ生成部と、
前記第１統計データ及び前記第２統計データの少なくとも一方を用いて、前記複数のノードのうち不活性とすべきノードを選択する不活性ノード選択部と、
選択された前記ノードを不活性にする不活性処理部と、
を備えるモデル生成装置。

【請求項2】

請求項１に記載のモデル生成装置において、
前記統計データ生成部は、少なくとも前記第１統計データを生成し、
前記第１統計データは、標準偏差及び変動係数の少なくとも一方を含み、
前記不活性ノード選択部は、標準偏差及び変動係数の前記少なくとも一方が基準値以下のノードを、前記不活性とすべきノードとして選択するモデル生成装置。

【請求項3】

請求項１に記載のモデル生成装置において、
前記統計データ生成部は、少なくとも前記第２統計データを生成し、
前記第２統計データは、標準偏差及び変動係数の少なくとも一方を含み、
前記不活性ノード選択部は、標準偏差及び変動係数の前記少なくとも一方が基準値以下のノードを、前記不活性とすべきノードとして選択するモデル生成装置。

【請求項4】

請求項１～３のいずれか一項に記載のモデル生成装置において、
前記モデルは、前記ニューラルネットワークの構成を示す複数のリンク別に、当該リンクで行われるべき演算を行う演算処理部を有しており、
前記不活性処理部は、前記不活性にすべきノードに対応する前記演算処理部を無効にする、モデル生成装置。

【請求項5】

請求項１～４のいずれか一項に記載のモデル生成装置において、
前記モデルは、画像またはＬｉＤＲが生成した点群データを処理するモデルであるモデル生成装置。

【請求項6】

請求項１～５のいずれか一項に記載のモデル生成装置によって生成されたモデルを記憶するモデル記憶部と、
前記モデル記憶部が記憶している前記モデルを用いてデータを処理するデータ処理部と、
を備えるデータ処理装置。

【請求項7】

請求項６に記載のデータ処理装置において、
前記データは、画像またはＬｉＤＲの測定結果であり、
前記モデルは、前記画像または前記ＬｉＤＲの測定結果から対象物の有無を検知する処理である、データ処理装置。

【請求項8】

コンピュータが、ニューラルネットワークを有するモデルを生成するモデル生成方法であって、
前記コンピュータに、
前記モデルが有する複数のノード別に、複数の訓練データを入力したときの当該ノードの出力の第１統計データ、及び当該ノードで用いられる複数のパラメータの第２統計データの少なくとも一方を生成する統計データ生成処理と、
前記第１統計データ及び前記第２統計データの少なくとも一方を用いて、前記複数のノードのうち不活性とすべきノードを選択する不活性ノード選択処理と、
選択された前記ノードを不活性にする不活性処理と、
を行うモデル生成方法。

【請求項9】

コンピュータを、ニューラルネットワークを有するモデルを生成するモデル生成装置として動作させるためのプログラムであって、
前記コンピュータに、
前記モデルが有する複数のノード別に、複数の訓練データを入力したときの当該ノードの出力の第１統計データ、及び当該ノードで用いられる複数のパラメータの第２統計データの少なくとも一方を生成する統計データ生成機能と、
前記第１統計データ及び前記第２統計データの少なくとも一方を用いて、前記複数のノードのうち不活性とすべきノードを選択する不活性ノード選択機能と、
選択された前記ノードを不活性にする不活性処理機能と、
を持たせるプログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、モデル生成装置、データ処理装置、モデル生成方法、及びプログラムに関する。

【背景技術】

【0002】

近年は、様々な分野でニューラルネットワークを用いたモデルが使用されている。例えば特許文献１には、移動中の人が見た場合に顕著性が高いと感じる領域を高い精度で検出するために、ニューラルネットワークを用いることが記載されている。

【先行技術文献】

【特許文献】

【0003】

【特許文献1】特開２０２０－１８４１４６号公報

【発明の概要】

【発明が解決しようとする課題】

【0004】

ニューラルネットワークを用いたモデルの課題の一つに、計算量を減らすことがある。本発明の課題の一例は、ニューラルネットワークを用いたモデルにおいて、精度の低下を抑制しつつ計算量を減らすことである。

【課題を解決するための手段】

【0005】

請求項１に記載の発明は、ニューラルネットワークを有するモデルを生成するモデル生成装置であって、
前記モデルが有する複数のノード別に、複数の訓練データを入力したときの当該ノードの出力の第１統計データ、及び当該ノードで用いられる複数のパラメータの第２統計データの少なくとも一方を生成する統計データ生成部と、
前記第１統計データ及び前記第２統計データの少なくとも一方を用いて、前記複数のノードのうち不活性とすべきノードを選択する不活性ノード選択部と、
選択された前記ノードを不活性にする不活性処理部と、
を備えるモデル生成装置である。

【0006】

請求項６に記載の発明は、請求項１～５のいずれか一項に記載のモデル生成装置によって生成されたモデルを記憶するモデル記憶部と、
前記モデル記憶部が記憶している前記モデルを用いてデータを処理するデータ処理部と、
を備えるデータ処理装置である。

【0007】

請求項８に記載の発明は、コンピュータが、ニューラルネットワークを有するモデルを生成するモデル生成方法であって、
前記コンピュータに、
前記モデルが有する複数のノード別に、複数の訓練データを入力したときの当該ノードの出力の第１統計データ、及び当該ノードで用いられる複数のパラメータの第２統計データの少なくとも一方を生成する統計データ生成処理と、
前記第１統計データ及び前記第２統計データの少なくとも一方を用いて、前記複数のノードのうち不活性とすべきノードを選択する不活性ノード選択処理と、
選択された前記ノードを不活性にする不活性処理と、
を行うモデル生成方法である。

【0008】

請求項９に記載の発明は、コンピュータを、ニューラルネットワークを有するモデルを生成するモデル生成装置として動作させるためのプログラムであって、
前記コンピュータに、
前記モデルが有する複数のノード別に、複数の訓練データを入力したときの当該ノードの出力の第１統計データ、及び当該ノードで用いられる複数のパラメータの第２統計データの少なくとも一方を生成する統計データ生成機能と、
前記第１統計データ及び前記第２統計データの少なくとも一方を用いて、前記複数のノードのうち不活性とすべきノードを選択する不活性ノード選択機能と、
選択された前記ノードを不活性にする不活性処理機能と、
を持たせるプログラムである。

【発明の効果】

【0009】

本発明によれば、ニューラルネットワークを用いたモデルにおいて、精度の低下を抑制しつつ計算量を減らすことができる。

【図面の簡単な説明】

【0010】

【図1】実施形態に係るモデル生成装置の使用環境を説明するための図である。

【図2】モデル生成装置が行う処理の一例を説明するための図である。

【図3】モデル生成装置の機能構成の一例を示す図である。

【図4】第１統計データ及び第２統計データを説明するための図である。

【図5】不活性処理部が行う処理の一例を説明するための図である。

【図6】データ処理装置の機能構成の一例を示す図である。

【図7】モデル生成装置のハードウエア構成例を示す図である。

【図8】モデル生成装置が行う処理の一例を示すフローチャートである。

【発明を実施するための形態】

【0011】

以下、本発明の実施の形態について、図面を用いて説明する。尚、すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。

【0012】

図１は、実施形態に係るモデル生成装置１０の使用環境を説明するための図である。モデル生成装置１０は、データを処理するモデルを生成する。このモデルは、データ処理装置２０がデータを処理する際に使用される。より具体的には、このモデルは、ニューラルネットワークを用いており、訓練データを用いた訓練が行われることにより生成される。モデル生成装置１０は、この訓練を行う。

【0013】

本図に示す例において、データ処理装置２０は、測定装置３０が生成したデータを処理する。測定装置３０は、例えば撮像装置やＬｉＤＡＲである。データ処理装置２０は、撮像装置が生成した画像やＬｉＤＡＲが生成した点群データを処理することにより、対象物の有無及びその種類を検知する。例えば測定装置３０が車両などの移動体に搭載されている場合、対象物は、この移動体の周囲に存在する物や、路面に描かれたマーク（車線を含む）である。

【0014】

ただし、モデル生成装置１０が生成するモデルの用途は、上記した例に限定されない。

【0015】

図２は、モデル生成装置１０が行う処理の一例を説明するための図である。上記したように、モデル生成装置１０が生成するモデルはニューラルネットワークを有している。図２（Ａ）に示すように、ニューラルネットワークは、複数の層を有している。各層は、複数のノードを有していることが多い。そして本実施形態において、ノード間の接続をリンクと表現する。

【0016】

ノードには複数の値が入力される。これら複数の値は、一つ前の層を構成する複数のノードそれぞれの出力である。そしてノードの内部において、複数の入力値に所定の係数が乗じられる。この乗算の結果の和はそのノードの出力となる。

【0017】

そしてモデル生成装置１０は、モデルが行う演算量を減らすことを目的として、図２（Ｂ）に示すように、結果に与える影響が少ないノードを選択し、このノード（以下、不活性ノードと記載）を不活性にする処理（以下、不活性処理と記載）を行う。不活性処理は、不活性ノードにつながるリンク（以下、不活性リンクと記載）を無効にする処理である。不活性リンクは、不活性ノードへの入力を示すリンクと、不活性リンクからの出力を示すリンクの双方を含む。この不活性ノードの選択処理及び不活性処理の詳細については後述する。

【0018】

図３は、モデル生成装置１０の機能構成の一例を示す図である。本図に示す例において、モデル生成装置１０は、訓練データ取得部１２０及びモデル生成部１３０を備えている。

【0019】

訓練データ取得部１２０は、訓練データを取得する。本図に示す例において、訓練データは訓練データ記憶部１１０に記憶されている。訓練データ取得部１２０は、訓練データ記憶部１１０から訓練データを読み出す。

【0020】

モデル生成部１３０は、訓練データ取得部１２０が読み出した訓練データを用いて、ニューラルネットワークを用いたモデルを生成及び更新する。

【0021】

より詳細には、モデル生成部１３０は、訓練部１３２、統計データ生成部１３４、不活性ノード選択部１３６、及び不活性処理部１３８を備えている。

【0022】

訓練部１３２は、訓練データを用いてモデルを訓練する。これにより、ニューラルネットワークを構成する複数のノード別に、複数のパラメータ（例えば重み係数）が決定される。複数のパラメータは、例えばノード別の行列で記述される。

【0023】

統計データ生成部１３４は、不活性ノードを選択する際に用いられる統計データを複数のノード別に生成する。この統計データには、第１統計データ及び第２統計データがある。図４に示すように、第１統計データは、複数の訓練データを入力したときの当該ノードの出力の統計データである。第２統計データは、当該ノードで用いられる複数のパラメータの統計データである。

【0024】

不活性ノード選択部１３６は、第１統計データ及び第２統計データの少なくとも一方を用いて、不活性ノードを選択する。第１統計データは、例えば標準偏差及び変動係数の少なくとも一方を含んでいる。第２統計データも、例えば標準偏差及び変動係数の少なくとも一方を含んでいる。標準偏差や変動係数が小さいことは、そのノードがモデルの出力に与える影響が小さいことを意味している。そこで不活性ノード選択部１３６は、第１統計データ及び／又は第２統計データの標準偏差及び／又は変動係数が基準値以下のノードを、不活性ノートとして選択する。ここで用いられる基準値は、例えばモデル生成装置１０のユーザによって設定される。また、第１統計データ用の基準値と、第２統計データ用の基準値は互いに異なるのが好ましい。

【0025】

なお、不活性ノード選択部１３６は、第１統計データ及び第２統計データの双方を用いる場合、第１統計データ及び第２統計データの双方で基準を満たしたノードを不活性ノードとして選択してもよいし、第１統計データ及び第２統計データの一方で基準を満たしたノードを不活性ノードとして選択してもよい。

【0026】

不活性処理部１３８は、不活性ノード選択部１３６が選択した不活性ノードに対して不活性処理を行う。不活性処理は、上記したように、不活性ノードにつながる不活性リンクを無効にする処理である。不活性処理の一例については、図５を用いて後述する。

【0027】

図３に示す例において、モデル生成装置１０は、さらにモデル記憶部１４０及びモデル送信部１５０を備えている。モデル記憶部１４０は、モデル生成部１３０が生成したモデル（不活性処理が行われた後のモデル）を記憶する。モデル送信部１５０は、モデル記憶部１４０に記憶されたモデルをデータ処理装置２０に送信する。なお、モデル記憶部１４０は、さらに、不活性処理が行われる前のモデルを記憶してもよい。

【0028】

なお、図３に示した例において、訓練データ記憶部１１０はモデル生成装置１０の一部となっている。ただし訓練データ記憶部１１０は、モデル生成装置１０の外部に位置していてもよい。

【0029】

図５は、不活性処理部１３８が行う処理の一例を説明するための図である。訓練部１３２が生成するモデルは、ニューラルネットワークの構成を示す複数のリンク別に、当該リンクで行われるべき演算を行う演算処理部を有している。そして不活性処理部１３８は不活性ノードにつながる不活性リンクに対応する演算処理部を無効にする。

【0030】

例えば訓練部１３２は、ニューラルネットワークを構成する複数のノード毎に、図５に示すプログラムを生成する。このプログラムは、複数のリンク別に、当該リンクに相当する部分（演算処理部の一例）を有している。不活性処理部１３８は、不活性リンクに相当する部分を無効にすることにより、不活性ノードを不活性にする。

【0031】

図６は、データ処理装置２０の機能構成の一例を示す図である。データ処理装置２０は、入力データ取得部２３０及びデータ処理部２４０を備えている。

【0032】

入力データ取得部２３０は、測定装置３０による測定結果を示すデータ（以下、入力データと記載）を取得する。例えば測定装置３０が撮像装置である場合、入力データは画像であり、測定装置３０がＬｉＤＡＲである場合、入力データはＬｉＤＡＲから各測定点までの距離を示す点群データである。

【0033】

データ処理部２４０は、モデル生成装置１０が生成したモデルを用いて入力データを処理することにより、出力データを生成する。

【0034】

データ処理部２４０は、当該データ処理部２４０が用いるモデルをモデル記憶部２２０から読み出す。本図に示す例において、モデル記憶部２２０はデータ処理装置２０の一部となっている。ただしモデル記憶部２２０はデータ処理装置２０の外部に位置していてもよい。

【0035】

本図に示す例において、データ処理装置２０は、さらに記憶処理部２１０、表示処理部２５０、及びディスプレイ２６０を備えている。

【0036】

記憶処理部２１０は、モデル生成装置１０からモデルを取得し、モデル記憶部２２０に記憶させる。記憶処理部２１０は、モデル生成装置１０からモデルを更新するためのデータ（例えばモデルのパラメータ）を取得した場合、このデータを用いて、モデル記憶部２２０に記憶されているモデルを更新する。この更新処理は、繰り返し行われるのが好ましい。

【0037】

表示処理部２５０は、データ処理部２４０が生成した出力データをディスプレイ２６０に表示させる。

【0038】

図７は、モデル生成装置１０のハードウエア構成例を示す図である。モデル生成装置１０は、バス１０１０、プロセッサ１０２０、メモリ１０３０、ストレージデバイス１０４０、入出力インタフェース１０５０、及びネットワークインタフェース１０６０を有する。

【0039】

バス１０１０は、プロセッサ１０２０、メモリ１０３０、ストレージデバイス１０４０、入出力インタフェース１０５０、及びネットワークインタフェース１０６０が、相互にデータを送受信するためのデータ伝送路である。ただし、プロセッサ１０２０などを互いに接続する方法は、バス接続に限定されない。

【0040】

プロセッサ１０２０は、ＣＰＵ（Central Processing Unit） やＧＰＵ（Graphics Processing Unit）などで実現されるプロセッサである。

【0041】

メモリ１０３０は、ＲＡＭ（Random Access Memory）などで実現される主記憶装置である。

【0042】

ストレージデバイス１０４０は、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、メモリカード、又はＲＯＭ（Read Only Memory）などで実現される補助記憶装置である。ストレージデバイス１０４０はモデル生成装置１０の各機能（例えば訓練データ取得部１２０、訓練部１３２、統計データ生成部１３４、不活性ノード選択部１３６、不活性処理部１３８、及びモデル送信部１５０）を実現するプログラムモジュールを記憶している。プロセッサ１０２０がこれら各プログラムモジュールをメモリ１０３０上に読み込んで実行することで、そのプログラムモジュールに対応する各機能が実現される。また、ストレージデバイス１０４０は訓練データ記憶部１１０及びモデル記憶部１４０としても機能する。

【0043】

入出力インタフェース１０５０は、モデル生成装置１０と各種入出力機器とを接続するためのインタフェースである。

【0044】

ネットワークインタフェース１０６０は、モデル生成装置１０をネットワークに接続するためのインタフェースである。このネットワークは、例えばＬＡＮ（Local Area Network）やＷＡＮ（Wide Area Network）である。ネットワークインタフェース１０６０がネットワークに接続する方法は、無線接続であってもよいし、有線接続であってもよい。モデル生成装置１０は、ネットワークインタフェース１０６０を介してデータ処理装置２０と通信してもよい。

【0045】

なお、データ処理装置２０のハードウエア構成も、図７に示した通りである。この場合、ストレージデバイス１０４０はデータ処理装置２０の各機能（例えば記憶処理部２１０、入力データ取得部２３０、データ処理部２４０、及び表示処理部２５０）を実現するプログラムモジュールを記憶している。また、ストレージデバイス１０４０はモデル記憶部２２０としても機能する。

【0046】

図８は、モデル生成装置１０が行う処理の一例を示すフローチャートである。まずモデル生成装置１０の訓練データ取得部１２０は、訓練データ記憶部１１０から訓練データを読み出す（ステップＳ１０）。次いで訓練部１３２は、訓練データ取得部１２０が読み出した訓練データを用いてモデルを訓練する。これにより、複数のノード毎に、複数のパラメータが決定する（ステップＳ２０）。

【0047】

次いで統計データ生成部１３４は、第１統計データ及び／又は第２統計データを生成する。第１統計データを生成する際、統計データ生成部１３４は、訓練部１３２が使用した訓練データを用いてもよいし、この訓練データとは別のデータを用いてもよい（ステップＳ３０）。

【0048】

次いで不活性ノード選択部１３６は、第１統計データ及び／又は第２統計データを用いて不活性ノードを選択する（ステップＳ４０）。次いで不活性処理部１３８は、ステップＳ４０で選択された不活性ノードを用いて複数の不活性リンクを特定し、これら複数の不活性リンクを無効にする（不活性処理：ステップＳ５０）。次いで、不活性処理部１３８は、不活性処理を行った後のモデルをモデル記憶部１４０に記憶させる（ステップＳ６０）。

【0049】

以上、本実施形態によれば、モデル生成装置１０の不活性ノード選択部１３６は、第１統計データ及び／又は第２統計データを用いて不活性ノードを選択する。このため、ニューラルネットワークを用いたモデルにおいて、精度の低下を抑制しつつ計算量を減らすことができる。また、不活性ノードを選択するときにユーザにかかる負荷は小さい。

【0050】

また図５を用いて説明したように、モデル生成装置１０の訓練部１３２が生成するモデルは、ニューラルネットワークの構成を示す複数のリンク別に、当該リンクで行われるべき演算を行う演算処理部を有している。そしてモデル生成装置１０の不活性処理部１３８は不活性ノードにつながる不活性リンクに対応する演算処理部を無効にする。したがって不活性処理部１３８は、不活性処理を容易に行える。

【0051】

以上、図面を参照して本発明の実施形態について述べたが、これらは本発明の例示であり、上記以外の様々な構成を採用することもできる。

【0052】

また、上述の説明で用いた複数のフローチャートでは、複数の工程（処理）が順番に記載されているが、各実施形態で実行される工程の実行順序は、その記載の順番に制限されない。各実施形態では、図示される工程の順番を内容的に支障のない範囲で変更することができる。また、上述の各実施形態は、内容が相反しない範囲で組み合わせることができる。

【符号の説明】

【0053】

１０ モデル生成装置
２０ データ処理装置
３０ 測定装置
１１０ 訓練データ記憶部
１２０ 訓練データ取得部
１３０ モデル生成部
１３２ 訓練部
１３４ 統計データ生成部
１３６ 不活性ノード選択部
１３８ 不活性処理部
１４０ モデル記憶部
１５０ モデル送信部
２１０ 記憶処理部
２２０ モデル記憶部
２３０ 入力データ取得部
２４０ データ処理部
２５０ 表示処理部
２６０ ディスプレイ

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】