(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023124376
(43)【公開日】2023-09-06
(54)【発明の名称】情報処理装置、情報処理方法およびプログラム
(51)【国際特許分類】
G06N 3/08 20230101AFI20230830BHJP
【ＦＩ】
G06N3/08
【審査請求】未請求
【請求項の数】11
【出願形態】ＯＬ
(21)【出願番号】P 2022028107
(22)【出願日】2022-02-25
(71)【出願人】
【識別番号】000000295
【氏名又は名称】沖電気工業株式会社
(74)【代理人】
【識別番号】100140958
【弁理士】
【氏名又は名称】伊藤 学
(74)【代理人】
【識別番号】100137888
【弁理士】
【氏名又は名称】大山 夏子
(74)【代理人】
【識別番号】100190942
【弁理士】
【氏名又は名称】風間 竜司
(72)【発明者】
【氏名】川村 聡志
(57)【要約】
【課題】高精度なニューラルネットワークを構築する。
【解決手段】入力データと、第１のニューラルネットワークとに基づいて、入力データの第１の推論結果を出力することと、第１の推論結果に基づく第１の評価結果を出力することと、第１の評価結果に基づいて第１のニューラルネットワークの第１の重みパラメータを更新することと、入力データと、更新後の第１の重みパラメータが設定された第１のニューラルネットワークと、第２のニューラルネットワークと、第２のニューラルネットワークの重み係数とに基づいて、入力データの第２の推論結果を出力することと、第２の推論結果に基づく第２の評価結果を出力することと、第２の評価結果に基づいて、重み係数を更新することと、更新後の第１の重みパラメータと、第２のニューラルネットワークの第２の重みパラメータと、更新後の重み係数とに基づいて、第２の重みパラメータを更新することと、を含む方法。
【選択図】図１
【解決手段】入力データと、第１のニューラルネットワークとに基づいて、入力データの第１の推論結果を出力することと、第１の推論結果に基づく第１の評価結果を出力することと、第１の評価結果に基づいて第１のニューラルネットワークの第１の重みパラメータを更新することと、入力データと、更新後の第１の重みパラメータが設定された第１のニューラルネットワークと、第２のニューラルネットワークと、第２のニューラルネットワークの重み係数とに基づいて、入力データの第２の推論結果を出力することと、第２の推論結果に基づく第２の評価結果を出力することと、第２の評価結果に基づいて、重み係数を更新することと、更新後の第１の重みパラメータと、第２のニューラルネットワークの第２の重みパラメータと、更新後の重み係数とに基づいて、第２の重みパラメータを更新することと、を含む方法。
【選択図】図１
【特許請求の範囲】
【請求項1】
第１の入力データと、第１のニューラルネットワークとに基づいて、前記第１の入力データの第１の推論結果を出力する第１の演算部と、
前記第１の推論結果に基づく第１の評価結果を出力する第１の評価部と、
前記第１の評価結果に基づいて前記第１のニューラルネットワークの第１の重みパラメータを更新する第１の更新部と、
第２の入力データと、更新後の前記第１の重みパラメータが設定された前記第１のニューラルネットワークと、第２のニューラルネットワークと、前記第２のニューラルネットワークの重み係数とに基づいて、前記第２の入力データの第２の推論結果を出力する第２の演算部と、
前記第２の推論結果に基づく第２の評価結果を出力する第２の評価部と、
前記第２の評価結果に基づいて、前記重み係数を更新する重み係数更新部と、
前記更新後の第１の重みパラメータと、前記第２のニューラルネットワークの第２の重みパラメータと、更新後の前記重み係数とに基づいて、前記第２の重みパラメータを更新する第２の更新部と、
を備える、情報処理装置。
前記第１の推論結果に基づく第１の評価結果を出力する第１の評価部と、
前記第１の評価結果に基づいて前記第１のニューラルネットワークの第１の重みパラメータを更新する第１の更新部と、
第２の入力データと、更新後の前記第１の重みパラメータが設定された前記第１のニューラルネットワークと、第２のニューラルネットワークと、前記第２のニューラルネットワークの重み係数とに基づいて、前記第２の入力データの第２の推論結果を出力する第２の演算部と、
前記第２の推論結果に基づく第２の評価結果を出力する第２の評価部と、
前記第２の評価結果に基づいて、前記重み係数を更新する重み係数更新部と、
前記更新後の第１の重みパラメータと、前記第２のニューラルネットワークの第２の重みパラメータと、更新後の前記重み係数とに基づいて、前記第２の重みパラメータを更新する第２の更新部と、
を備える、情報処理装置。
【請求項2】
前記第２の演算部は、
前記更新後の前記第１の重みパラメータが設定された前記第１のニューラルネットワークおよび前記第２のニューラルネットワークそれぞれの第１層に対して、前記第２の入力データを入力する、
請求項１に記載の情報処理装置。
前記更新後の前記第１の重みパラメータが設定された前記第１のニューラルネットワークおよび前記第２のニューラルネットワークそれぞれの第１層に対して、前記第２の入力データを入力する、
請求項１に記載の情報処理装置。
【請求項3】
前記第２の演算部は、
前記更新後の前記第１の重みパラメータが設定された前記第１のニューラルネットワークおよび前記第２のニューラルネットワークそれぞれの第２層以降に対して、直前の層からの出力に対する前記重み係数による重み付き和を入力する、
請求項１または２に記載の情報処理装置。
前記更新後の前記第１の重みパラメータが設定された前記第１のニューラルネットワークおよび前記第２のニューラルネットワークそれぞれの第２層以降に対して、直前の層からの出力に対する前記重み係数による重み付き和を入力する、
請求項１または２に記載の情報処理装置。
【請求項4】
前記第２の評価部は、前記第２の評価結果と教師ラベルとに基づく損失を算出し、前記損失に基づいて前記第２の評価結果を出力する、
請求項１～３のいずれか一項に記載の情報処理装置。
請求項１～３のいずれか一項に記載の情報処理装置。
【請求項5】
前記重み係数更新部は、
前記第２の評価結果に基づく誤差逆伝播法によって前記重み係数を更新する、
請求項１～４のいずれか一項に記載の情報処理装置。
前記第２の評価結果に基づく誤差逆伝播法によって前記重み係数を更新する、
請求項１～４のいずれか一項に記載の情報処理装置。
【請求項6】
前記第２の更新部は、
前記更新後の第１の重みパラメータと、前記第２のニューラルネットワークの第２の重みパラメータとに対する、前記更新後の重み係数による重み付き和によって、前記第２の重みパラメータを更新する、
請求項１～５のいずれか一項に記載の情報処理装置。
前記更新後の第１の重みパラメータと、前記第２のニューラルネットワークの第２の重みパラメータとに対する、前記更新後の重み係数による重み付き和によって、前記第２の重みパラメータを更新する、
請求項１～５のいずれか一項に記載の情報処理装置。
【請求項7】
前記重み係数は、前記第１のニューラルネットワークおよび前記第２のニューラルネットワークに含まれる層ごとに設けられる、
請求項１～６のいずれか一項に記載の情報処理装置。
請求項１～６のいずれか一項に記載の情報処理装置。
【請求項8】
前記第１の入力データと前記第２の入力データとは、同じデータである、
請求項１～７のいずれか一項に記載の情報処理装置。
請求項１～７のいずれか一項に記載の情報処理装置。
【請求項9】
前記第１の入力データと前記第２の入力データとは、異なるデータである、
請求項１～７のいずれか一項に記載の情報処理装置。
請求項１～７のいずれか一項に記載の情報処理装置。
【請求項10】
第１の入力データと、第１のニューラルネットワークとに基づいて、前記第１の入力データの第１の推論結果を出力することと、
前記第１の推論結果に基づく第１の評価結果を出力することと、
前記第１の評価結果に基づいて前記第１のニューラルネットワークの第１の重みパラメータを更新することと、
第２の入力データと、更新後の前記第１の重みパラメータが設定された前記第１のニューラルネットワークと、第２のニューラルネットワークと、前記第２のニューラルネットワークの重み係数とに基づいて、前記第２の入力データの第２の推論結果を出力することと、
前記第２の推論結果に基づく第２の評価結果を出力することと、
前記第２の評価結果に基づいて、前記重み係数を更新することと、
前記更新後の第１の重みパラメータと、前記第２のニューラルネットワークの第２の重みパラメータと、更新後の前記重み係数とに基づいて、前記第２の重みパラメータを更新することと、
を備える、情報処理方法。
前記第１の推論結果に基づく第１の評価結果を出力することと、
前記第１の評価結果に基づいて前記第１のニューラルネットワークの第１の重みパラメータを更新することと、
第２の入力データと、更新後の前記第１の重みパラメータが設定された前記第１のニューラルネットワークと、第２のニューラルネットワークと、前記第２のニューラルネットワークの重み係数とに基づいて、前記第２の入力データの第２の推論結果を出力することと、
前記第２の推論結果に基づく第２の評価結果を出力することと、
前記第２の評価結果に基づいて、前記重み係数を更新することと、
前記更新後の第１の重みパラメータと、前記第２のニューラルネットワークの第２の重みパラメータと、更新後の前記重み係数とに基づいて、前記第２の重みパラメータを更新することと、
を備える、情報処理方法。
【請求項11】
コンピュータを、
第１の入力データと、第１のニューラルネットワークとに基づいて、前記第１の入力データの第１の推論結果を出力する第１の演算部と、
前記第１の推論結果に基づく第１の評価結果を出力する第１の評価部と、
前記第１の評価結果に基づいて前記第１のニューラルネットワークの第１の重みパラメータを更新する第１の更新部と、
第２の入力データと、更新後の前記第１の重みパラメータが設定された前記第１のニューラルネットワークと、第２のニューラルネットワークと、前記第２のニューラルネットワークの重み係数とに基づいて、前記第２の入力データの第２の推論結果を出力する第２の演算部と、
前記第２の推論結果に基づく第２の評価結果を出力する第２の評価部と、
前記第２の評価結果に基づいて、前記重み係数を更新する重み係数更新部と、
前記更新後の第１の重みパラメータと、前記第２のニューラルネットワークの第２の重みパラメータと、更新後の前記重み係数とに基づいて、前記第２の重みパラメータを更新する第２の更新部と、
を備える情報処理装置として機能させるプログラム。
第１の入力データと、第１のニューラルネットワークとに基づいて、前記第１の入力データの第１の推論結果を出力する第１の演算部と、
前記第１の推論結果に基づく第１の評価結果を出力する第１の評価部と、
前記第１の評価結果に基づいて前記第１のニューラルネットワークの第１の重みパラメータを更新する第１の更新部と、
第２の入力データと、更新後の前記第１の重みパラメータが設定された前記第１のニューラルネットワークと、第２のニューラルネットワークと、前記第２のニューラルネットワークの重み係数とに基づいて、前記第２の入力データの第２の推論結果を出力する第２の演算部と、
前記第２の推論結果に基づく第２の評価結果を出力する第２の評価部と、
前記第２の評価結果に基づいて、前記重み係数を更新する重み係数更新部と、
前記更新後の第１の重みパラメータと、前記第２のニューラルネットワークの第２の重みパラメータと、更新後の前記重み係数とに基づいて、前記第２の重みパラメータを更新する第２の更新部と、
を備える情報処理装置として機能させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、情報処理方法およびプログラムに関する。
【背景技術】
【0002】
ニューラルネットワーク（以下、「ＮＮ」とも記す。）は、画像認識などの問題において高い性能を有する。このＮＮを活用した分野において、学習用データを用いてＮＮを学習し、評価用データを用いてＮＮの性能の検証を行う。しかし、学習中におけるＮＮのパラメータは学習用データに依存することで激しく変化し、パラメータの激しい変化は過学習にもつながる恐れがある。過学習とは学習用データに過度に適応することであり、評価用データに対する精度が劣化する現象のことを差す。
【0003】
近年、この課題解決のため、ＮＮを保存する際に、ＮＮパラメータに対して指数移動平均（Ｅｘｐｏｎｅｎｔｉａｌｌｙ Ｍｏｖｉｎｇ Ａｖｅｒａｇｅ： ＥＭＡ）を適用した頑強性向上手法が取り入れられることが多い。ＥＭＡは検証用ＮＮを学習用ＮＮとは別に用意し、学習用ＮＮのパラメータと検証用ＮＮのパラメータとの重み付き和を取る手法である。この手法により汎化性能が向上し、評価用データにおいても高精度な識別が期待できる。ＥＭＡの処理は、式（１）のように示される。
【0004】
【数1】
【0005】
非特許文献１に記載の方法は、特に画像認識におけるＥＭＡを用いた半教師あり学習の手法の一つであり、学習されたＮＮに比べるとＥＭＡによって保存されたＮＮのほうが検証用データでの精度が高いことを示している。ここで、半教師有り学習とは、ＮＮの学習に必要とされる膨大な入力データと教師ラベルの内、一部にのみ教師ラベルが存在する状態で学習する手法であり、人手による教師ラベル付与作業の負担を軽減できる。
【0006】
非特許文献２に記載の方法は、敵対的生成ネットワーク（Ｇｅｎｅｒａｔｉｖｅ Ａｄｖｅｒｓａｒｉａｌ Ｎｅｔｗｏｒｋ： ＧＡＮ）の学習にＥＭＡを用いた学習手法の一つであり、学習されたＮＮに比べるとＥＭＡによって保存されたＮＮのほうが安定して学習が進むことを示している。ここで、ＧＡＮとはＮＮに入力されるデータの特徴を学習する手法であり、実在しないが高品質のデータを生成したり、入力データの特徴に沿ったデータの変換をしたりできる。
【先行技術文献】
【非特許文献】
【0007】
【非特許文献1】Zhaowei Cai、他5名、"Exponential Moving Average Normalizationfor Self-supervised and Semi-supervised Learning"、[online]、［令和4年2月9日検索］、インターネット＜https://arxiv.org/abs/2101.08482＞
【非特許文献2】Yasin Yazici、他5名、"THE UNUSUAL EFFECTIVENESS OF AVERAGING IN GAN TRAINING"、[online]、［令和4年2月9日検索］、インターネット＜https://arxiv.org/abs/1806.04498＞
【発明の概要】
【発明が解決しようとする課題】
【0008】
非特許文献１に記載の方法および非特許文献２に記載の方法は、式（１）の係数αが常に一定であり、学習開始時に人手で設定するパラメータとなる。しかし、学習対象となるＮＮまたは使用するデータセットによって適切な係数αが異なることも考えられる。したがって、ユーザは係数αを変えながら、ＮＮの学習を複数回試行したり、学習後のＮＮの分析をしたりする必要があり、ユーザの負担が高くなる。
【0009】
そこで、本発明は、これらの問題点を解決すべく提案されたものであり、ユーザの負担を軽減しつつ、高精度なニューラルネットワークを構築することを可能とする技術が提供されることが望まれる。
【課題を解決するための手段】
【0010】
上記問題を解決するために、本発明のある観点によれば、第１の入力データと、第１のニューラルネットワークとに基づいて、前記第１の入力データの第１の推論結果を出力する第１の演算部と、前記第１の推論結果に基づく第１の評価結果を出力する第１の評価部と、前記第１の評価結果に基づいて前記第１のニューラルネットワークの第１の重みパラメータを更新する第１の更新部と、第２の入力データと、更新後の前記第１の重みパラメータが設定された前記第１のニューラルネットワークと、第２のニューラルネットワークと、前記第２のニューラルネットワークの重み係数とに基づいて、前記第２の入力データの第２の推論結果を出力する第２の演算部と、前記第２の推論結果に基づく第２の評価結果を出力する第２の評価部と、前記第２の評価結果に基づいて、前記重み係数を更新する重み係数更新部と、前記更新後の第１の重みパラメータと、前記第２のニューラルネットワークの第２の重みパラメータと、更新後の前記重み係数とに基づいて、前記第２の重みパラメータを更新する第２の更新部と、を備える、情報処理装置が提供される。
【0011】
前記第２の演算部は、前記更新後の前記第１の重みパラメータが設定された前記第１のニューラルネットワークおよび前記第２のニューラルネットワークそれぞれの第１層に対して、前記第２の入力データを入力してもよい。
【0012】
前記第２の演算部は、前記更新後の前記第１の重みパラメータが設定された前記第１のニューラルネットワークおよび前記第２のニューラルネットワークそれぞれの第２層以降に対して、直前の層からの出力に対する前記重み係数による重み付き和を入力してもよい。
【0013】
前記第２の評価部は、前記第２の評価結果と教師ラベルとに基づく損失を算出し、前記損失に基づいて前記第２の評価結果を出力してもよい。
【0014】
前記重み係数更新部は、前記第２の評価結果に基づく誤差逆伝播法によって前記重み係数を更新してもよい。
【0015】
前記第２の更新部は、前記更新後の第１の重みパラメータと、前記第２のニューラルネットワークの第２の重みパラメータとに対する、前記更新後の重み係数による重み付き和によって、前記第２の重みパラメータを更新してもよい。
【0016】
前記重み係数は、前記第１のニューラルネットワークおよび前記第２のニューラルネットワークに含まれる層ごとに設けられてもよい。
【0017】
前記第１の入力データと前記第２の入力データとは、同じデータであってもよい。
【0018】
前記第１の入力データと前記第２の入力データとは、異なるデータであってもよい。
【0019】
また、本発明の別の観点によれば、第１の入力データと、第１のニューラルネットワークとに基づいて、前記第１の入力データの第１の推論結果を出力することと、前記第１の推論結果に基づく第１の評価結果を出力することと、前記第１の評価結果に基づいて前記第１のニューラルネットワークの第１の重みパラメータを更新することと、第２の入力データと、更新後の前記第１の重みパラメータが設定された前記第１のニューラルネットワークと、第２のニューラルネットワークと、前記第２のニューラルネットワークの重み係数とに基づいて、前記第２の入力データの第２の推論結果を出力することと、前記第２の推論結果に基づく第２の評価結果を出力することと、前記第２の評価結果に基づいて、前記重み係数を更新することと、前記更新後の第１の重みパラメータと、前記第２のニューラルネットワークの第２の重みパラメータと、更新後の前記重み係数とに基づいて、前記第２の重みパラメータを更新することと、を備える、情報処理方法が提供される。
【0020】
また、本発明の別の観点によれば、コンピュータを、第１の入力データと、第１のニューラルネットワークとに基づいて、前記第１の入力データの第１の推論結果を出力する第１の演算部と、前記第１の推論結果に基づく第１の評価結果を出力する第１の評価部と、前記第１の評価結果に基づいて前記第１のニューラルネットワークの第１の重みパラメータを更新する第１の更新部と、第２の入力データと、更新後の前記第１の重みパラメータが設定された前記第１のニューラルネットワークと、第２のニューラルネットワークと、前記第２のニューラルネットワークの重み係数とに基づいて、前記第２の入力データの第２の推論結果を出力する第２の演算部と、前記第２の推論結果に基づく第２の評価結果を出力する第２の評価部と、前記第２の評価結果に基づいて、前記重み係数を更新する重み係数更新部と、前記更新後の第１の重みパラメータと、前記第２のニューラルネットワークの第２の重みパラメータと、更新後の前記重み係数とに基づいて、前記第２の重みパラメータを更新する第２の更新部と、を備える情報処理装置として機能させるプログラムが提供される。
【発明の効果】
【0021】
以上説明したように本発明によれば、ユーザの負担を軽減しつつ、高精度なニューラルネットワークを構築することを可能とする技術が提供される。
【図面の簡単な説明】
【0022】
【図1】本発明の第１の実施形態に係る学習装置の機能構成例を示す図である。
【図2】同実施形態に係る演算部および二重演算部それぞれの処理を説明するための図である。
【図3】同実施形態に係る学習装置によって実行される学習段階の動作例を示すフローチャートである。
【図4】同実施形態に係る二重演算部の処理を説明するための図である。
【図5】本発明の第１の実施形態に係る学習装置の例としての情報処理装置のハードウェア構成を示す図である。
【発明を実施するための形態】
【0023】
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0024】
また、本明細書および図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なる数字を付して区別する場合がある。ただし、実質的に同一の機能構成を有する複数の構成要素等の各々を特に区別する必要がない場合、同一符号のみを付する。また、異なる実施形態の類似する構成要素については、同一の符号の後に異なるアルファベットを付して区別する場合がある。ただし、異なる実施形態の類似する構成要素等の各々を特に区別する必要がない場合、同一符号のみを付する。
【0025】
（０．実施形態の概要）
本発明の実施形態の概要について説明する。本発明の実施形態では、ニューラルネットワークの学習を行う情報処理装置（以下、「学習装置」とも言う。）について説明する。学習装置においては、学習用データに基づいてニューラルネットワークの学習が行われる（学習段階）。その後、識別装置において、学習済みのニューラルネットワークと識別用データ（テストデータ）とに基づいて識別結果が出力される（推論段階）。
本発明の実施形態の概要について説明する。本発明の実施形態では、ニューラルネットワークの学習を行う情報処理装置（以下、「学習装置」とも言う。）について説明する。学習装置においては、学習用データに基づいてニューラルネットワークの学習が行われる（学習段階）。その後、識別装置において、学習済みのニューラルネットワークと識別用データ（テストデータ）とに基づいて識別結果が出力される（推論段階）。
【0026】
本発明の実施形態では、学習装置と識別装置とが同一のコンピュータによって実現される場合を主に想定する。しかし、学習装置と識別装置とは、別のコンピュータによって実現されてもよい。かかる場合には、学習装置によって生成された学習済みのニューラルネットワークが識別装置に提供される。例えば、学習済みのニューラルネットワークは、学習装置から識別装置に記録媒体を介して提供されてもよいし、通信を介して提供されてもよい。
【0027】
以下では、学習装置において実行される「学習段階」について説明する。以下では、ニューラルネットワークを「ＮＮ」とも表記する。
【0028】
（１．第１の実施形態）
まず、本発明の第１の実施形態について説明する。
まず、本発明の第１の実施形態について説明する。
【0029】
（学習装置の構成）
図１を参照しながら、本発明の第１の実施形態に係る学習装置の構成例について説明する。図１は、本発明の第１の実施形態に係る学習装置１０の機能構成例を示す図である。図１に示されるように、本発明の第１の実施形態に係る学習装置１０は、学習用データセット１０１と、入力部１０２と、学習用ＮＮ１１０と、評価部１２１と、更新部１２２と、検証用ＮＮ１３０と、ＥＭＡ評価部１４１と、ＥＭＡ更新部１４２と、保存部１４３とを備える。
図１を参照しながら、本発明の第１の実施形態に係る学習装置の構成例について説明する。図１は、本発明の第１の実施形態に係る学習装置１０の機能構成例を示す図である。図１に示されるように、本発明の第１の実施形態に係る学習装置１０は、学習用データセット１０１と、入力部１０２と、学習用ＮＮ１１０と、評価部１２１と、更新部１２２と、検証用ＮＮ１３０と、ＥＭＡ評価部１４１と、ＥＭＡ更新部１４２と、保存部１４３とを備える。
【0030】
学習用ＮＮ１１０は、第１のニューラルネットワークの例に該当し、重みパラメータ１１１を含んで構成される。重みパラメータ１１１は、第１の重みパラメータの例に該当し得る。また、学習装置１０は、重みパラメータ１１１が設定された学習用ＮＮ１１０を用いて演算を行う演算部１１２を含んで構成される。検証用ＮＮ１３０は、第２のニューラルネットワークの例に該当し、ＥＭＡ重みパラメータ１３１と、ＥＭＡ係数１３２とを含んで構成される。ＥＭＡ重みパラメータ１３１は、第２の重みパラメータの例に該当し得る。学習装置１０は、ＥＭＡ重みパラメータ１３１およびＥＭＡ係数１３２を用いて演算を行う二重演算部１３３を含んで構成される。
【0031】
入力部１０２、演算部１１２、評価部１２１、更新部１２２、二重演算部１３３、ＥＭＡ評価部１４１、ＥＭＡ更新部１４２および保存部１４３などは、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）またはＧＰＵ（Ｇｒａｐｈｉｃｓ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）などの演算装置を含み、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）により記憶されているプログラムが演算装置によりＲＡＭに展開されて実行されることにより、その機能が実現され得る。
【0032】
このとき、当該プログラムを記録した、コンピュータに読み取り可能な記録媒体も提供され得る。あるいは、これらのブロックは、専用のハードウェアにより構成されていてもよいし、複数のハードウェアの組み合わせにより構成されてもよい。演算装置による演算に必要なデータは、図示しない記憶部によって適宜記憶される。
【0033】
学習用データセット１０１、重みパラメータ１１１、ＥＭＡ重みパラメータ１３１およびＥＭＡ係数１３２は、図示しない記憶部によって記憶される。かかる記憶部は、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）、ハードディスクドライブまたはフラッシュメモリなどのメモリによって構成されてよい。
【0034】
初期状態において、重みパラメータ１１１、ＥＭＡ重みパラメータ１３１およびＥＭＡ係数１３２それぞれには、初期値が設定されている。例えば、重みパラメータ１１１、ＥＭＡ重みパラメータ１３１およびＥＭＡ係数１３２それぞれに設定される初期値は、ランダムな値であってよいが、どのような値であってもよい。例えば、重みパラメータ１１１、ＥＭＡ重みパラメータ１３１およびＥＭＡ係数１３２それぞれに設定される初期値は、あらかじめ学習によって得られた学習済みの値であってもよい。
【0035】
（学習用データセット１０１）
学習用データセット１０１は、複数の学習用データ（以下、「入力データ」とも言う。）を含んで構成される。複数の入力データそれぞれには、教師ラベルが対応付けられていてよい。なお、本発明の実施形態では、入力データが画像データである場合（特に、静止画像データである場合）を主に想定する。しかし、入力データの種類は特に限定されず、静止画像データ以外も入力データとして用いられ得る。例えば、入力データは、複数のフレームを含んだ動画像データであってもよいし、時系列データまたは音声データであってもよい。
学習用データセット１０１は、複数の学習用データ（以下、「入力データ」とも言う。）を含んで構成される。複数の入力データそれぞれには、教師ラベルが対応付けられていてよい。なお、本発明の実施形態では、入力データが画像データである場合（特に、静止画像データである場合）を主に想定する。しかし、入力データの種類は特に限定されず、静止画像データ以外も入力データとして用いられ得る。例えば、入力データは、複数のフレームを含んだ動画像データであってもよいし、時系列データまたは音声データであってもよい。
【0036】
（入力部１０２）
入力部１０２は、学習用データセット１０１から入力データを順次に取得し、取得した入力データをもとにミニバッチを作成し、作成したミニバッチを学習用ＮＮ１１０の演算部１１２および検証用ＮＮ１３０の二重演算部１３３それぞれに出力する。ミニバッチのサイズは特に限定されない。また、ここでは、学習用ＮＮ１１０および検証用ＮＮ１３０
それぞれに入力される入力データは同じデータである場合を主に想定する。しかし、学習用ＮＮ１１０および検証用ＮＮ１３０それぞれに入力される入力データは異なるデータであってもよい。
入力部１０２は、学習用データセット１０１から入力データを順次に取得し、取得した入力データをもとにミニバッチを作成し、作成したミニバッチを学習用ＮＮ１１０の演算部１１２および検証用ＮＮ１３０の二重演算部１３３それぞれに出力する。ミニバッチのサイズは特に限定されない。また、ここでは、学習用ＮＮ１１０および検証用ＮＮ１３０
それぞれに入力される入力データは同じデータである場合を主に想定する。しかし、学習用ＮＮ１１０および検証用ＮＮ１３０それぞれに入力される入力データは異なるデータであってもよい。
【0037】
演算部１１２および二重演算部１３３それぞれは、ニューロンによって構築される計算グラフが処理順に接続されて構成されており、全体として１つのニューラルネットワークとみなされ得る。より詳細に、演算部１１２および二重演算部１３３それぞれは、畳み込み層、プーリング層および活性化関数を主に含んでよい。以下では、畳み込み層として、２次元畳み込み層が用いられる場合を主に想定するが、３次元畳み込み層が用いられてもよい。
【0038】
（演算部１１２）
演算部１１２は、入力部１０２から出力されたミニバッチに含まれる入力データと学習用ＮＮ１１０とに基づいて推論結果を得る。演算部１１２は、第１の演算部の例に該当し得る。また、演算部１１２によって得られる推論結果は、第１の推論結果の例に該当し得る。より詳細に、演算部１１２は、重みパラメータ１１１が設定された学習用ＮＮ１１０にミニバッチに含まれる入力データを入力させたことに基づいて、学習用ＮＮ１１０から出力されるデータを推論結果として得る。
演算部１１２は、入力部１０２から出力されたミニバッチに含まれる入力データと学習用ＮＮ１１０とに基づいて推論結果を得る。演算部１１２は、第１の演算部の例に該当し得る。また、演算部１１２によって得られる推論結果は、第１の推論結果の例に該当し得る。より詳細に、演算部１１２は、重みパラメータ１１１が設定された学習用ＮＮ１１０にミニバッチに含まれる入力データを入力させたことに基づいて、学習用ＮＮ１１０から出力されるデータを推論結果として得る。
【0039】
なお、演算部１１２から出力される推論結果の形式は、特に限定されない。しかし、演算部１１２から出力される推論結果の形式は、教師ラベルの形式と合わせて設定されているのがよい。例えば、教師ラベルが分類問題のクラスを示し、クラス数分の長さを有するｏｎｅ－ｈｏｔベクトルである場合、演算部１１２から出力される推論結果の形式も、クラス数分の長さを有するベクトルであってよい。このとき、演算部１１２から出力される推論結果は、クラスごとの値（以下、「推論値」とも言う。）を含み得る。
【0040】
一例として、演算部１１２によって全クラスの推論値の合計が１になるように調整される場合には、それぞれのクラスに対応する推論値は、それぞれのクラスに対応する確率に相当し得る。しかし、全クラスの推論値の合計は、演算部１１２によって１になるように調整されていなくてもよい。いずれの場合であっても、演算部１１２から出力される推論値は、そのクラスの確からしさが高いほど、大きい値であり得る。
【0041】
ここで、図２を参照しながら、演算部１１２の処理について説明する。
【0042】
図２は、本発明の第１の実施形態に係る演算部１１２および二重演算部１３３それぞれの処理を説明するための図である。図２を参照すると、演算部１１２の構成例が示されている。図２に示された例では、演算部１１２によって用いられる学習用ＮＮ１１０の複数の層のうち、第ｉ層（ただし、ｉ＝１，２，・・・，ｎ）が畳み込み層であるとし、その畳み込み層が「ｆｉ」と表現されている。畳み込み層ｆｉには、重みパラメータ１１１のうち第ｉ層に対応する重みパラメータが設定される。
【0043】
また、畳み込み層ｆｉへの入力がｘｉと表現され、その畳み込み層ｆｉからの出力がｙｉと表現されている。ただし、学習用ＮＮ１１０のｉ番目の処理層は、畳み込み層でなくてもよい。なお、第１層への入力ｘ１は、入力部１０２から出力された入力データである。第２層以降への入力ｘｉ（ｉ≧２）は、直前の層からの出力ｙｉ－１である。演算部１１２は、学習用ＮＮ１１０の最終層に対応する出力ｙｎを推論結果として評価部１２１に出力する。
【0044】
図１に戻って説明を続ける。
【0045】
（評価部１２１）
評価部１２１は、ミニバッチごとの推論結果に基づいて評価結果を得る。評価部１２１は、第１の評価部の例に該当し得る。より詳細に、評価部１２１は、ミニバッチごとに、推論結果と目標とに基づいて損失を算出し、ミニバッチごとに、損失に基づいて評価結果を得る。評価部１２１は、評価結果を更新部１２２に出力する。
評価部１２１は、ミニバッチごとの推論結果に基づいて評価結果を得る。評価部１２１は、第１の評価部の例に該当し得る。より詳細に、評価部１２１は、ミニバッチごとに、推論結果と目標とに基づいて損失を算出し、ミニバッチごとに、損失に基づいて評価結果を得る。評価部１２１は、評価結果を更新部１２２に出力する。
【0046】
ここで、目標は特定の目標に限定されず、一般的なニューラルネットワークにおいて用いられる目標と同様の目標が用いられてよい。例えば、教師あり学習が行われる場合、目標は、入力データに対応する教師ラベルであってもよい。
【0047】
損失の算出に用いられる損失関数は特定の関数に限定されず、一般的なニューラルネットワークにおいて用いられる損失関数と同様の損失関数が用いられてよい。例えば、損失関数は、教師ラベルと推論結果との差分に基づく平均二乗誤差であってもよいし、教師ラベルと推論結果との差分に基づく交差エントロピー誤差であってもよい。
【0048】
（更新部１２２）
更新部１２２は、評価部１２１から出力された評価結果に基づいて、重みパラメータ１１１の更新を行う。これによって、推論結果が教師ラベルに近づくように、重みパラメータ１１１が訓練され得る。更新部１２２は、第１の更新部の例に該当し得る。より詳細に、更新部１２２は、評価結果に基づく誤差逆伝播法（バックプロパゲーション）によって重みパラメータ１１１を更新してよい。
更新部１２２は、評価部１２１から出力された評価結果に基づいて、重みパラメータ１１１の更新を行う。これによって、推論結果が教師ラベルに近づくように、重みパラメータ１１１が訓練され得る。更新部１２２は、第１の更新部の例に該当し得る。より詳細に、更新部１２２は、評価結果に基づく誤差逆伝播法（バックプロパゲーション）によって重みパラメータ１１１を更新してよい。
【0049】
なお、更新部１２２は、重みパラメータ１１１の更新が終わるたびに、学習用ＮＮ１１０の学習の終了条件が満たされたか否かを判断する。学習の終了条件が満たされていないと判断された場合には、入力部１０２によって次の入力データが取得され、演算部１１２、評価部１２１および更新部１２２それぞれによって、当該次の入力データに基づく各自の処理が再度実行される。一方、学習用ＮＮ１１０の学習の終了条件が満たされたと判断された場合には、学習が終了される。
【0050】
なお、学習用ＮＮ１１０の学習の終了条件は特に限定されず、学習用ＮＮ１１０の学習がある程度行われたことを示す条件であればよい。
【0051】
具体的に、学習用ＮＮ１１０の学習の終了件は、損失が閾値よりも小さいという条件を含んでもよい。あるいは、学習用ＮＮ１１０の学習の終了条件は、当該損失の変化が閾値よりも小さいという条件（当該損失が収束状態になったという条件）を含んでもよい。あるいは、学習用ＮＮ１１０の学習の終了条件は、重みパラメータ１１１の更新が所定の回数行われたという条件を含んでもよい。あるいは、学習用ＮＮ１１０の精度（例えば、正解率など）が算出される場合、学習用ＮＮ１１０の学習の終了条件は、精度が所定の割合（例えば、９０％など）を超えるという条件を含んでもよい。
【0052】
（二重演算部１３３）
二重演算部１３３は、入力部１０２から出力されたミニバッチに含まれる入力データと、更新部１２２による更新後の重みパラメータ１１１が設定された学習用ＮＮ１１０と、検証用ＮＮ１３０と、ＥＭＡ係数１３２とに基づいて、推論結果（以下、「ＥＭＡ推論結果」とも言う。）を得る。ＥＭＡ推論結果は、第２の推論結果の例に該当し得る。二重演算部１３３は、第２の演算部の例に該当し得る。ＥＭＡ係数１３２は、スカラーの係数であり、検証用ＮＮ１３０の重み係数に該当する。以下では、ＥＭＡ係数１３２は、時刻ｔごとに変化するため、時刻ｔにおけるＥＭＡ係数１３２を重み係数αｔとも表現する。
二重演算部１３３は、入力部１０２から出力されたミニバッチに含まれる入力データと、更新部１２２による更新後の重みパラメータ１１１が設定された学習用ＮＮ１１０と、検証用ＮＮ１３０と、ＥＭＡ係数１３２とに基づいて、推論結果（以下、「ＥＭＡ推論結果」とも言う。）を得る。ＥＭＡ推論結果は、第２の推論結果の例に該当し得る。二重演算部１３３は、第２の演算部の例に該当し得る。ＥＭＡ係数１３２は、スカラーの係数であり、検証用ＮＮ１３０の重み係数に該当する。以下では、ＥＭＡ係数１３２は、時刻ｔごとに変化するため、時刻ｔにおけるＥＭＡ係数１３２を重み係数αｔとも表現する。
【0053】
なお、時刻ｔは、重みパラメータ１１１、ＥＭＡ重みパラメータ１３１およびＥＭＡ係数１３２それぞれに対応する更新回数を示す。ここでは一例として、時刻ｔの初期値が０であり、重みパラメータ１１１、ＥＭＡ重みパラメータ１３１またはＥＭＡ係数１３２それぞれの更新のたびに、その重みパラメータまたは係数に対応する時刻ｔが１増加する場合を想定する。
【0054】
ここで、図２を再度参照しながら、二重演算部１３３の処理について説明する。
【0055】
図２を参照すると、二重演算部１３３の構成例が示されている。図２に示された例では、二重演算部１３３によって用いられる検証用ＮＮ１３０の複数の層のうち、第ｉ層（ただし、ｉ＝１，２，・・・，ｎ）が畳み込み層であるとし、その畳み込み層が「ｆ’ｉ」と表現されている。畳み込み層ｆ’ｉには、ＥＭＡ重みパラメータ１３１のうち第ｉ層に対応する重みパラメータが設定される。畳み込み層ｆ’ｉと畳み込み層ｆｉとは、設定される重みパラメータは異なるが、実行する処理は同じであってよい。
【0056】
また、畳み込み層ｆ’ｉへの入力がＸｉと表現され、その畳み込み層ｆ’ｉからの出力がＺ’ｉと表現されている。ただし、検証用ＮＮ１３０の第ｉ層は、畳み込み層でなくてもよい。なお、ここでは、検証用ＮＮ１３０の第１層への入力Ｘ１が、学習用ＮＮ１１０の第１層への入力ｘ１と同じである場合を想定する。しかし、検証用ＮＮ１３０の第１層への入力Ｘ１は、学習用ＮＮ１１０の第１層への入力ｘ１と異なってもよい。すなわち、学習用ＮＮ１１０への入力データと、検証用ＮＮ１３０への入力データとは同じでなくてもよい。
【0057】
また、二重演算部１３３によって、学習用ＮＮ１１０に含まれる畳み込み層ｆｉも用いられる。図２を参照すると、二重演算部１３３によって用いられる畳み込み層ｆｉへの入力がＸｉと表現され、その畳み込み層ｆ’ｉからの出力がＺｉと表現されている。二重演算部１３３は、畳み込み層ｆ’ｉからの出力Ｚ’ｉ＝ｆ’ｉ（Ｘｉ）と、畳み込み層ｆｉからの出力Ｚｉ＝ｆｉ（Ｘｉ）と、ＥＭＡ係数１３２であるαｔとに基づいて、出力Ｙｉを算出する。
【0058】
より詳細に、二重演算部１３３は、出力Ｚｉ＝ｆｉ（Ｘｉ）と出力Ｚ’ｉ＝ｆ’ｉ（Ｘｉ）とに対する、ＥＭＡ係数１３２であるαｔによる重み付き和によって、出力Ｙｉを算出する。すなわち、二重演算部１３３は、Ｚｉ＝ｆｉ（Ｘｉ）に（１－αｔ）を乗算し、出力Ｚ’ｉ＝ｆ’ｉ（Ｘｉ）にαｔを乗算し、乗算結果同士を足し合わせることによって、出力Ｙｉを算出する。かかる出力Ｙｉの算出式は、以下の式（２）によって表現される。
【0059】
【数2】
【0060】
式（２）は、ｆｉとｆ’ｉとにおいて、対応する重みパラメータごとに計算される。第１層への入力Ｘ１は、ミニバッチに含まれる入力データであり、第２層以降への入力Ｘｉ（ｉ≧２）は、直前の層からの出力Ｙｉ－１である。二重演算部１３３は、最終層に対応する出力ＹｎをＥＭＡ推論結果としてＥＭＡ評価部１４１に出力する。なお、二重演算部１３３から出力されるＥＭＡ推論結果の形式は、演算部１１２から出力される推論結果の形式と同様であってよい。
【0061】
図１に戻って説明を続ける。
【0062】
（ＥＭＡ評価部１４１）
ＥＭＡ評価部１４１は、ミニバッチごとのＥＭＡ推論結果に基づいて評価結果（以下、「ＥＭＡ評価結果」とも言う。）を得る。ＥＭＡ評価部１４１は、第２の評価部の例に該当し得る。ＥＭＡ評価結果は、第２の評価結果の例に該当し得る。より詳細に、ＥＭＡ評価部１４１は、ミニバッチごとに、ＥＭＡ推論結果と目標とに基づいて損失を算出し、ミニバッチごとに、損失に基づいてＥＭＡ評価結果を得る。ＥＭＡ評価部１４１は、ＥＭＡ評価結果をＥＭＡ更新部１４２に出力する。
ＥＭＡ評価部１４１は、ミニバッチごとのＥＭＡ推論結果に基づいて評価結果（以下、「ＥＭＡ評価結果」とも言う。）を得る。ＥＭＡ評価部１４１は、第２の評価部の例に該当し得る。ＥＭＡ評価結果は、第２の評価結果の例に該当し得る。より詳細に、ＥＭＡ評価部１４１は、ミニバッチごとに、ＥＭＡ推論結果と目標とに基づいて損失を算出し、ミニバッチごとに、損失に基づいてＥＭＡ評価結果を得る。ＥＭＡ評価部１４１は、ＥＭＡ評価結果をＥＭＡ更新部１４２に出力する。
【0063】
ここで、目標は特定の目標に限定されず、一般的なニューラルネットワークにおいて用いられる目標と同様の目標が用いられてよい。例えば、教師あり学習が行われる場合、目標は、入力データに対応する教師ラベルであってもよい。
【0064】
損失の算出に用いられる損失関数は特定の関数に限定されず、一般的なニューラルネットワークにおいて用いられる損失関数と同様の損失関数が用いられてよい。例えば、損失関数は、教師ラベルとＥＭＡ推論結果との差分に基づく平均二乗誤差であってもよいし、教師ラベルとＥＭＡ推論結果との差分に基づく交差エントロピー誤差であってもよい。
【0065】
あるいは、損失関数は、以下の式（３）に示されるように、Ｌａｂｅｌ Ｓｍｏｏｔｈｉｎｇが適用された教師ラベルとＥＭＡ推論結果との差分に基づく交差エントロピー誤差であってもよい。
【0066】
【数3】
【0067】
ここで、ｌｅｍａは、ＥＭＡ推論結果に基づく損失関数であり、Ｃは分類問題におけるクラス数であり、δはノイズの量であり、ｑは、正解クラスを１、それ以外を０とするｏｎｅ－ｈｏｔベクトルによって表現される教師ラベルである。ｑｌｓは、Ｌａｂｅｌ Ｓｍｏｏｔｈｉｎｇが適用された教師ラベルである。
【0068】
（ＥＭＡ更新部１４２）
ＥＭＡ更新部１４２は、ＥＭＡ評価部１４１から出力されたＥＭＡ評価結果に基づいて、ＥＭＡ係数１３２を更新する。これによって、ＥＭＡ推論結果が教師ラベルに近づくように、ＥＭＡ重みパラメータ１３１が訓練され得る。ＥＭＡ更新部１４２は、重み係数更新部の例に該当し得る。より詳細に、ＥＭＡ更新部１４２は、ＥＭＡ評価結果に基づく誤差逆伝播法（バックプロパゲーション）によってＥＭＡ係数１３２である重み係数αｔを更新してよい。一例として、重み係数αｔの更新式は、以下の式（４）によって表現され得る。
ＥＭＡ更新部１４２は、ＥＭＡ評価部１４１から出力されたＥＭＡ評価結果に基づいて、ＥＭＡ係数１３２を更新する。これによって、ＥＭＡ推論結果が教師ラベルに近づくように、ＥＭＡ重みパラメータ１３１が訓練され得る。ＥＭＡ更新部１４２は、重み係数更新部の例に該当し得る。より詳細に、ＥＭＡ更新部１４２は、ＥＭＡ評価結果に基づく誤差逆伝播法（バックプロパゲーション）によってＥＭＡ係数１３２である重み係数αｔを更新してよい。一例として、重み係数αｔの更新式は、以下の式（４）によって表現され得る。
【0069】
【数4】
【0070】
ここで、ｌｅｍａは、ＥＭＡ推論結果に基づく損失関数であり、μは学習率である。ＥＭＡ係数１３２である重み係数αｔの更新条件が設定されており、更新条件が満たされた場合に重み係数αｔが更新されてもよい。例えば、更新条件は、重みパラメータ１１１が更新されたという条件であってもよいし、ユーザによってあらかじめ指定された更新タイミングが到来したという条件であってもよい。
【0071】
更新タイミングとしては、更新間隔（例えば、所定の回数に１回など）が指定されていてもよい。あるいは、重み係数αｔの更新間隔は、重みパラメータ１１１の更新開始から常に等間隔であってもよいが、等間隔でなくてもよい。例えば、重み係数αｔは、重みパラメータ１１１の更新開始直後の初期段階（例えば、重みパラメータ１１１が所定の更新回数だけ更新されるまでの段階など）において更新されなくてもよい。
【0072】
（保存部１４３）
保存部１４３は、更新後の重みパラメータ１１１と、ＥＭＡ重みパラメータ１３１と、更新後のＥＭＡ係数１３２とに基づいて、ＥＭＡ重みパラメータ１３１を更新する。保存部１４３は、第２の更新部の例に該当し得る。
保存部１４３は、更新後の重みパラメータ１１１と、ＥＭＡ重みパラメータ１３１と、更新後のＥＭＡ係数１３２とに基づいて、ＥＭＡ重みパラメータ１３１を更新する。保存部１４３は、第２の更新部の例に該当し得る。
【0073】
より詳細に、保存部１４３は、更新後の重みパラメータ１１１とＥＭＡ重みパラメータ１３１とに対する、更新後のＥＭＡ係数１３２による重み付き和によって、ＥＭＡ重みパラメータ１３１を更新する。すなわち、保存部１４３は、更新後の重みパラメータ１１１に（１－αｔ＋１）を乗算し、ＥＭＡ重みパラメータ１３１にαｔ＋１を乗算し、乗算結果同士を足し合わせることによって、更新後のＥＭＡ重みパラメータ１３１を算出する。かかる更新後のＥＭＡ重みパラメータ１３１の算出式は、以下の式（５）によって表現される。
【0074】
【数5】
【0075】
以上に説明したように、学習装置１０による学習によって、重みパラメータ１１１が更新されるとともに、ＥＭＡ重みパラメータ１３１が更新される。
【0076】
以上、本発明の第１の実施形態に係る学習装置の構成例について説明した。
【0077】
（学習段階の動作）
続いて、図３を参照しながら、本発明の第１の実施形態に係る学習装置１０によって実行される「学習段階」の動作の流れについて説明する。図３は、本発明の第１の実施形態に係る学習装置１０によって実行される学習段階の動作例を示すフローチャートである。
続いて、図３を参照しながら、本発明の第１の実施形態に係る学習装置１０によって実行される「学習段階」の動作の流れについて説明する。図３は、本発明の第１の実施形態に係る学習装置１０によって実行される学習段階の動作例を示すフローチャートである。
【0078】
まず、入力部１０２は、学習用データセット１０１からバッチサイズの入力データを取得することによってミニバッチを作成し、作成したミニバッチを学習用ＮＮ１１０の演算部１１２に出力する（Ｓ１０１）。
【0079】
続いて、演算部１１２は、入力部１０２によって作成されたミニバッチと重みパラメータ１１１が設定された学習用ＮＮ１１０とに基づいて、ミニバッチに対応する推論結果を得る（Ｓ１０２）。演算部１１２は、ミニバッチに対応する推論結果を評価部１２１に出力する。
【0080】
評価部１２１は、演算部１１２から出力される推論結果を評価して評価結果を得る。評価部１２１は、評価結果を更新部１２２に出力する（Ｓ１０３）。更新部１２２は、評価部１２１から出力される評価結果に基づいて、学習用ＮＮ１１０の重みパラメータ１１１を更新する（Ｓ１０４）。検証用ＮＮ１１０を更新する場合（Ｓ１０５において「ＮＯ」）、すなわち、ＥＭＡ係数１３２（重み係数αｔ）の更新条件が満たされない場合、Ｓ１１０に動作が移行される。
【0081】
一方、二重演算部１３３は、検証用ＮＮ１１０を更新する場合（Ｓ１０５において「ＹＥＳ」）、すなわち、ＥＭＡ係数１３２（重み係数αｔ）の更新条件が満たされた場合、入力部１０２からミニバッチを入力する。そして、二重演算部１３３は、入力部１０２から入力したミニバッチと、更新後の重みパラメータ１１１が設定された学習用ＮＮ１１０と、ＥＭＡ重みパラメータ１３１が設定された検証用ＮＮ１３０と、ＥＭＡ係数１３２とに基づいて、式（２）を用いてＥＭＡ推論結果を得る。二重演算部１３３は、ＥＭＡ推論結果をＥＭＡ評価部１４１に出力する（Ｓ１０６）。
【0082】
ＥＭＡ評価部１４１は、二重演算部１３３から出力されるＥＭＡ推論結果を評価してＥＭＡ評価結果を得る（Ｓ１０７）。ＥＭＡ評価部１４１は、ＥＭＡ評価結果をＥＭＡ更新部１４２に出力する。ＥＭＡ更新部１４２は、ＥＭＡ評価部１４１から出力されるＥＭＡ評価結果に基づいてＥＭＡ係数１３２である重み係数αｔを更新する（Ｓ１０８）。
【0083】
その後、保存部１４３は、更新後の重みパラメータ１１１と、ＥＭＡ重みパラメータ１３１と、更新後のＥＭＡ係数１３２とに基づいて、式（５）を用いて、ＥＭＡ重みパラメータ１３１を更新する（Ｓ１０９）。
【0084】
学習用ＮＮ１１０の学習の終了条件が満たされない場合（Ｓ１１０において「ＮＯ」）、Ｓ１０１に動作が移行される。一方、学習用ＮＮ１１０の学習の終了条件が満たされた場合（Ｓ１１０において「ＹＥＳ」）は、学習が終了される。
【0085】
以上、本発明の第１の実施形態に係る学習装置１０によって実行される「学習段階」の動作の流れについて説明した。
【0086】
（第１の実施形態のまとめ）
以上に説明したように、本発明の第１の実施形態に係る学習装置１０は、検証用ＮＮの構築におけるＥＭＡ処理において、検証用ＮＮの重みパラメータと学習用ＮＮの重みパラメータとの重み付き和を計算するときに用いられる係数を学習可能とする。これにより、最適な係数が自動的に決定されるため、安定した学習が可能になるという効果が享受される。また、これによって、係数を調整するユーザの負担が軽減され得るという効果が享受される。
以上に説明したように、本発明の第１の実施形態に係る学習装置１０は、検証用ＮＮの構築におけるＥＭＡ処理において、検証用ＮＮの重みパラメータと学習用ＮＮの重みパラメータとの重み付き和を計算するときに用いられる係数を学習可能とする。これにより、最適な係数が自動的に決定されるため、安定した学習が可能になるという効果が享受される。また、これによって、係数を調整するユーザの負担が軽減され得るという効果が享受される。
【0087】
以上、本発明の第１の実施形態について説明した。
【0088】
（２．第２の実施形態）
続いて、本発明の第２の実施形態について説明する。本発明の第１の実施形態においては、ＥＭＡ係数１３２がスカラーの係数αｔである場合について説明した。これは、ＮＮを構築する全ての層が同じ値によって重み付けされることを意味する。本発明の第２の実施形態においては、ＥＭＡ係数がＮＮに含まれる層ごとに設けられる場合について説明する。
続いて、本発明の第２の実施形態について説明する。本発明の第１の実施形態においては、ＥＭＡ係数１３２がスカラーの係数αｔである場合について説明した。これは、ＮＮを構築する全ての層が同じ値によって重み付けされることを意味する。本発明の第２の実施形態においては、ＥＭＡ係数がＮＮに含まれる層ごとに設けられる場合について説明する。
【0089】
なお、本発明の第２の実施形態に係る学習装置１０の機能構成図は、本発明の第１の実施形態に係る学習装置１０の機能構成図（図１）と同様である。また、本発明の第２の実施形態に係る学習装置１０は、本発明の第１の実施形態に係る学習装置１０と比較して、ＥＭＡ係数１３２、二重演算部１３３、ＥＭＡ更新部１４２および保存部１４３が有する機能が異なり、その他の構成要素が有する機能は同様である。
【0090】
したがって、以下では、本発明の第２の実施形態に係る学習装置１０が有する、ＥＭＡ係数１３２、二重演算部１３３、ＥＭＡ更新部１４２および保存部１４３について主に説明し、その他の構成要素が有する機能の詳細な説明は省略する。
【0091】
本発明の第２の実施形態において、ＥＭＡ係数１３２は、重み係数αｔ，ｉ（ｉ＝１，２，・・・，ｎ）によって表現される。すなわち、本発明の第２の実施形態において、ＥＭＡ係数１３２である重み係数αｔは、学習用ＮＮ１１０または検証用ＮＮ１３０を構成する層の総数ｎと同じ数設けられている。
【0092】
（二重演算部１３３）
二重演算部１３３は、入力部１０２から出力されたミニバッチに含まれる入力データと、更新部１２２による更新後の重みパラメータ１１１が設定された学習用ＮＮ１１０と、検証用ＮＮ１３０と、層ごとに設けられたＥＭＡ係数１３２とに基づいて、ＥＭＡ推論結果を得る。
二重演算部１３３は、入力部１０２から出力されたミニバッチに含まれる入力データと、更新部１２２による更新後の重みパラメータ１１１が設定された学習用ＮＮ１１０と、検証用ＮＮ１３０と、層ごとに設けられたＥＭＡ係数１３２とに基づいて、ＥＭＡ推論結果を得る。
【0093】
図４は、本発明の第２の実施形態に係る二重演算部１３３の処理を説明するための図である。図４を参照すると、二重演算部１３３の構成例が示されている。図４に示された例では、第ｋ層と第（ｋ＋１）層（ただし、ｋ＝１，２，・・・，ｎ－１）に着目する。なお、畳み込み層ｆｋは、本発明の第１の実施形態に係る畳み込み層ｆｉと同様の構成を有し、畳み込み層ｆ’ｋは、本発明の第１の実施形態に係る畳み込み層ｆ’ｉと同様の構成を有する。
【0094】
そして、畳み込み層ｆ’ｋへの入力がＸｋと表現され、その畳み込み層ｆ’ｋからの出力がＺ’ｋと表現されている。また、畳み込み層ｆｋへの入力がＸｋと表現され、その畳み込み層ｆ’ ｋからの出力がＺｋと表現されている。二重演算部１３３は、畳み込み層ｆ’ｋからの出力Ｚ’ｋ＝ｆ’ｋ（Ｘｋ）と、畳み込み層ｆｋからの出力Ｚｋ＝ｆｋ（Ｘｋ）と、第ｋ層に対応するＥＭＡ係数１３２であるαｔ，ｋとに基づいて、出力Ｙｋを算出する。
【0095】
より詳細に、二重演算部１３３は、出力Ｚｋ＝ｆｋ（Ｘｋ）と出力Ｚ’ｋ＝ｆ’ｋ（Ｘｋ）とに対する、第ｋ層に対応するＥＭＡ係数１３２であるαｔ，ｋによる重み付き和によって、出力Ｙｋを算出する。すなわち、二重演算部１３３は、Ｚｋ＝ｆｋ（Ｘｋ）に（１－αｔ，ｋ）を乗算し、出力Ｚ’ｋ＝ｆ’ｋ（Ｘｋ）にαｔ，ｋを乗算し、乗算結果同士を足し合わせることによって、出力Ｙｋを算出する。かかる出力Ｙｋの算出式は、以下の式（６）によって表現される。
【0096】
【数6】
【0097】
なお、出力Ｙｋは、第（ｋ＋１）層への入力Ｘｋ＋１となる。そして、第（ｋ＋１）層における処理も、第ｋ層と同様にして実行される。すなわち、二重演算部１３３は、畳み込み層ｆ’ｋ＋１からの出力Ｚ’ｋ＋１＝ｆ’ｋ＋１（Ｘｋ＋１）と、畳み込み層ｆｋ＋１からの出力Ｚｋ＋１＝ｆｋ＋１（Ｘｋ＋１）と、ＥＭＡ係数１３２であるαｔ，ｋ＋１とに基づいて、出力Ｙｋ＋１を算出する。
【0098】
より詳細に、二重演算部１３３は、出力Ｚ’ｋ＋１＝ｆ’ｋ＋１（Ｘｋ＋１）と出力Ｚｋ＋１＝ｆｋ＋１（Ｘｋ＋１）とに対する、ＥＭＡ係数１３２であるαｔ，ｋ＋１による重み付き和によって、出力Ｙｋ＋１を算出する。すなわち、二重演算部１３３は、Ｚｋ＋１＝ｆｋ＋１（Ｘｋ＋１）に（１－αｔ，ｋ＋１）を乗算し、出力Ｚ’ｋ＋１＝ｆ’ｋ＋１（Ｘｋ＋１）にαｔ，ｋ＋１を乗算し、乗算結果同士を足し合わせることによって、出力Ｙｋ＋１を算出する。
【0099】
なお、出力Ｙｋ＋１は、第（ｋ＋２）層への入力Ｘｋ＋２となる。このようにして、第１層から最終層までの各層による処理が実行され、最終層に対応する出力Ｙｎが算出される。二重演算部１３３は、最終層に対応する出力ＹｎをＥＭＡ推論結果としてＥＭＡ評価部１４１に出力する。
【0100】
（ＥＭＡ更新部１４２）
ＥＭＡ更新部１４２は、ＥＭＡ評価部１４１から出力されたＥＭＡ評価結果に基づいて、ＥＭＡ係数１３２である重み係数αｔ，ｋ（ｋ＝１，２，・・・，ｎ）を更新する。これによって、ＥＭＡ推論結果が教師ラベルに近づくように、ＥＭＡ重みパラメータ１３１が訓練され得る。より詳細に、ＥＭＡ更新部１４２は、ＥＭＡ評価結果に基づく誤差逆伝播法（バックプロパゲーション）によってＥＭＡ係数１３２である重み係数αｔ，ｋ（ｋ＝ｎ，ｎ－１，・・・，１）を順に更新してよい。一例として、重み係数αｔ，ｋの更新式は、以下の式（７）によって表現され得る。
ＥＭＡ更新部１４２は、ＥＭＡ評価部１４１から出力されたＥＭＡ評価結果に基づいて、ＥＭＡ係数１３２である重み係数αｔ，ｋ（ｋ＝１，２，・・・，ｎ）を更新する。これによって、ＥＭＡ推論結果が教師ラベルに近づくように、ＥＭＡ重みパラメータ１３１が訓練され得る。より詳細に、ＥＭＡ更新部１４２は、ＥＭＡ評価結果に基づく誤差逆伝播法（バックプロパゲーション）によってＥＭＡ係数１３２である重み係数αｔ，ｋ（ｋ＝ｎ，ｎ－１，・・・，１）を順に更新してよい。一例として、重み係数αｔ，ｋの更新式は、以下の式（７）によって表現され得る。
【0101】
【数7】
【0102】
（保存部１４３）
保存部１４３は、第１層から最終層までの各層について、更新後の重みパラメータ１１１に（１－αｔ＋１，ｋ）を乗算し、ＥＭＡ重みパラメータ１３１にαｔ＋１，ｋを乗算し、乗算結果同士を足し合わせることによって、更新後のＥＭＡ重みパラメータ１３１を算出する。かかる更新後のＥＭＡ重みパラメータ１３１の算出式は、以下の式（８）によって表現される。
保存部１４３は、第１層から最終層までの各層について、更新後の重みパラメータ１１１に（１－αｔ＋１，ｋ）を乗算し、ＥＭＡ重みパラメータ１３１にαｔ＋１，ｋを乗算し、乗算結果同士を足し合わせることによって、更新後のＥＭＡ重みパラメータ１３１を算出する。かかる更新後のＥＭＡ重みパラメータ１３１の算出式は、以下の式（８）によって表現される。
【0103】
【数8】
【0104】
以上に説明したように、学習装置１０による学習によって、重みパラメータ１１１が更新されるとともに、ＥＭＡ重みパラメータ１３１が更新される。
【0105】
以上、本発明の第２の実施形態に係る学習装置の構成例について説明した。
【0106】
（学習段階の動作）
続いて、本発明の第２の実施形態に係る学習装置１０によって実行される「学習段階」の動作の流れについて説明する。本発明の第２の実施形態に係る学習装置１０によって実行される「学習段階」の動作例を示すフローチャートは、本発明の第１の実施形態に係る学習装置１０によって実行される「学習段階」の動作例を示すフローチャート（図２）と同様である。
続いて、本発明の第２の実施形態に係る学習装置１０によって実行される「学習段階」の動作の流れについて説明する。本発明の第２の実施形態に係る学習装置１０によって実行される「学習段階」の動作例を示すフローチャートは、本発明の第１の実施形態に係る学習装置１０によって実行される「学習段階」の動作例を示すフローチャート（図２）と同様である。
【0107】
また、本発明の第２の実施形態に係る学習装置１０は、本発明の第１の実施形態に係る学習装置１０と比較して、二重演算部１３３、ＥＭＡ更新部１４２および保存部１４３の動作の詳細が異なり、その他の動作の詳細は同様である。したがって、以下では、本発明の第２の実施形態に係る学習装置１０が有する二重演算部１３３、ＥＭＡ更新部１４２および保存部１４３の動作について主に説明を行い、他の動作についての詳細な説明は省略する。
【0108】
本発明の第２の実施形態においても、本発明の第１の実施形態と同様に、Ｓ１０１～Ｓ１０５が実行される。
【0109】
続いて、二重演算部１３３は、入力部１０２から入力したミニバッチと、更新後の重みパラメータ１１１が設定された学習用ＮＮ１１０と、ＥＭＡ重みパラメータ１３１が設定された検証用ＮＮ１３０と、第１層から最終層までの各層に対応するＥＭＡ係数１３２とに基づいて、式（６）を用いてＥＭＡ推論結果を得る。二重演算部１３３は、ＥＭＡ推論結果をＥＭＡ評価部１４１に出力する（Ｓ１０６）。
【0110】
ＥＭＡ評価部１４１は、二重演算部１３３から出力されるＥＭＡ推論結果を評価してＥＭＡ評価結果を得る（Ｓ１０７）。ＥＭＡ評価部１４１は、ＥＭＡ評価結果をＥＭＡ更新部１４２に出力する。ＥＭＡ更新部１４２は、ＥＭＡ評価部１４１から出力されるＥＭＡ評価結果に基づいて、式（７）を用いて第１層から最終層までの各層に対応するＥＭＡ係数１３２を更新する（Ｓ１０８）。
【0111】
その後、保存部１４３は、更新後の重みパラメータ１１１と、ＥＭＡ重みパラメータ１３１と、第１層から最終層までの各層に対応する更新後のＥＭＡ係数１３２とに基づいて、式（８）を用いて、ＥＭＡ重みパラメータ１３１を更新する（Ｓ１０９）。
【0112】
本発明の第２の実施形態においても、本発明の第１の実施形態と同様に、Ｓ１１０が実行される。
【0113】
以上、本発明の第２の実施形態に係る学習装置１０によって実行される「学習段階」の動作の流れについて説明した。
【0114】
（第２の実施形態のまとめ）
以上に説明したように、本発明の第２の実施形態によれば、検証用ＮＮの構築におけるＥＭＡ処理において、検証用ＮＮの重みパラメータと学習用ＮＮの重みパラメータとの重み付き和を計算するときに用いられる係数が学習可能であるたけでなく、その係数が学習用ＮＮの層ごとに設けられる。これにより、最適な係数が層ごとに自動的に決定されるため、本発明の第１の実施形態と同様の効果が享受され得るだけでなく、さらに自由度の高い検証用ＮＮが構築され得る。
以上に説明したように、本発明の第２の実施形態によれば、検証用ＮＮの構築におけるＥＭＡ処理において、検証用ＮＮの重みパラメータと学習用ＮＮの重みパラメータとの重み付き和を計算するときに用いられる係数が学習可能であるたけでなく、その係数が学習用ＮＮの層ごとに設けられる。これにより、最適な係数が層ごとに自動的に決定されるため、本発明の第１の実施形態と同様の効果が享受され得るだけでなく、さらに自由度の高い検証用ＮＮが構築され得る。
【0115】
以上、本発明の第２の実施形態について説明した。
【0116】
（３．ハードウェア構成例）
続いて、本発明の第１の実施形態に係る学習装置１０のハードウェア構成例について説明する。なお、本発明の第２の実施形態に係る学習装置１０のハードウェア構成も、本発明の第１の実施形態に係る学習装置１０のハードウェア構成と同様に実現され得る。
続いて、本発明の第１の実施形態に係る学習装置１０のハードウェア構成例について説明する。なお、本発明の第２の実施形態に係る学習装置１０のハードウェア構成も、本発明の第１の実施形態に係る学習装置１０のハードウェア構成と同様に実現され得る。
【0117】
以下では、本発明の第１の実施形態に係る学習装置１０のハードウェア構成例として、情報処理装置９００のハードウェア構成例について説明する。なお、以下に説明する情報処理装置９００のハードウェア構成例は、学習装置１０のハードウェア構成の一例に過ぎない。したがって、学習装置１０のハードウェア構成は、以下に説明する情報処理装置９００のハードウェア構成から不要な構成が削除されてもよいし、新たな構成が追加されてもよい。
【0118】
図５は、本発明の第１の実施形態に係る学習装置１０の例としての情報処理装置９００のハードウェア構成を示す図である。情報処理装置９００は、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）９０１と、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）９０２と、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）９０３と、ホストバス９０４と、ブリッジ９０５と、外部バス９０６と、インタフェース９０７と、入力装置９０８と、出力装置９０９と、ストレージ装置９１０と、通信装置９１１と、を備える。
【0119】
ＣＰＵ９０１は、演算処理装置および制御装置として機能し、各種プログラムに従って情報処理装置９００内の動作全般を制御する。また、ＣＰＵ９０１は、マイクロプロセッサであってもよい。ＲＯＭ９０２は、ＣＰＵ９０１が使用するプログラムや演算パラメータ等を記憶する。ＲＡＭ９０３は、ＣＰＵ９０１の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。これらはＣＰＵバス等から構成されるホストバス９０４により相互に接続されている。
【0120】
ホストバス９０４は、ブリッジ９０５を介して、ＰＣＩ（Ｐｅｒｉｐｈｅｒａｌ Ｃｏｍｐｏｎｅｎｔ Ｉｎｔｅｒｃｏｎｎｅｃｔ／Ｉｎｔｅｒｆａｃｅ）バス等の外部バス９０６に接続されている。なお、必ずしもホストバス９０４、ブリッジ９０５および外部バス９０６を分離構成する必要はなく、１つのバスにこれらの機能を実装してもよい。
【0121】
入力装置９０８は、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、スイッチおよびレバー等ユーザが情報を入力するための入力手段と、ユーザによる入力に基づいて入力信号を生成し、ＣＰＵ９０１に出力する入力制御回路等から構成されている。情報処理装置９００を操作するユーザは、この入力装置９０８を操作することにより、情報処理装置９００に対して各種のデータを入力したり処理動作を指示したりすることができる。
【0122】
出力装置９０９は、例えば、ＣＲＴ（Ｃａｔｈｏｄｅ Ｒａｙ Ｔｕｂｅ）ディスプレイ装置、液晶ディスプレイ（ＬＣＤ）装置、ＯＬＥＤ（Ｏｒｇａｎｉｃ Ｌｉｇｈｔ Ｅｍｉｔｔｉｎｇ Ｄｉｏｄｅ）装置、ランプ等の表示装置およびスピーカ等の音声出力装置を含む。
【0123】
ストレージ装置９１０は、データ格納用の装置である。ストレージ装置９１０は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置等を含んでもよい。ストレージ装置９１０は、例えば、ＨＤＤ（Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）で構成される。このストレージ装置９１０は、ハードディスクを駆動し、ＣＰＵ９０１が実行するプログラムや各種データを格納する。
【0124】
通信装置９１１は、例えば、ネットワークに接続するための通信デバイス等で構成された通信インタフェースである。また、通信装置９１１は、無線通信または有線通信のどちらに対応してもよい。
【0125】
以上、本発明の第１の実施形態に係る学習装置１０のハードウェア構成例について説明した。
【0126】
（４．まとめ）
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
【0127】
本発明の第１の実施形態および本発明の第２の実施形態では、学習用データが画像データである場合（特に、静止画像データである場合）について主に説明した。しかし、学習用データの種類は特に限定されない。例えば、学習用データの種類に合わせた特徴量が抽出されれば、静止画像データ以外も学習用データとして用いられ得る。例えば、学習用データは、複数のフレームを含んだ動画像データであってもよいし、音声データであってもよいし、他の時系列データであってもよい。
【0128】
このとき、学習用データが静止画像データである場合には、学習用ＮＮ１１０および検証用ＮＮ１３０それぞれに含まれる畳み込み層として２次元畳み込み層が用いられるのが一般的である。一方、学習用ＮＮ１１０および検証用ＮＮ１３０それぞれに含まれる畳み込み層として３次元畳み込み層が用いられれば、学習用データとして動画像データが適用され得る。
【0129】
本発明の第１の実施形態および本発明の第２の実施形態では、ＥＭＡ係数１３２、すなわち重み係数αに対する制限が設けられていない。しかし、重み係数αに対して（０，１）の範囲に写像される関数を適用してもよい。例えば、（０，１）の範囲に写像される関数は、シグモイド関数sgmなどであってもよい。これによって、より安定した重み係数αの学習が行われることが期待され得る。αにシグモイド関数が適用された場合には、式（２）および式（５）は、以下の式（９）および式（１０）に置き換えられる。
【0130】
【数9】
【0131】
【数10】
【符号の説明】
【0132】
１０ 学習装置
１０１ 学習用データセット
１０２ 入力部
１１１ 重みパラメータ
１１２ 演算部
１２１ 評価部
１２２ 更新部
１３１ ＥＭＡ重みパラメータ
１３２ ＥＭＡ係数
１３３ 二重演算部
１４１ ＥＭＡ評価部
１４２ ＥＭＡ更新部
１４３ 保存部
１０１ 学習用データセット
１０２ 入力部
１１１ 重みパラメータ
１１２ 演算部
１２１ 評価部
１２２ 更新部
１３１ ＥＭＡ重みパラメータ
１３２ ＥＭＡ係数
１３３ 二重演算部
１４１ ＥＭＡ評価部
１４２ ＥＭＡ更新部
１４３ 保存部
【図1】
【図2】
【図3】
【図4】
【図5】