特許 7431473 ニューロン－レベル塑性制御を通じて破局的忘却を克服するための方法およびこれを行うコンピューティングシステム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-02-06

(45)【発行日】2024-02-15

(54)【発明の名称】ニューロン－レベル塑性制御を通じて破局的忘却を克服するための方法およびこれを行うコンピューティングシステム

(51)【国際特許分類】

   G06N 3/08 20230101AFI20240207BHJP

【ＦＩ】

G06N3/08

【請求項の数】 3

(21)【出願番号】P 2022542682

(86)(22)【出願日】2020-07-24

(65)【公表番号】

(43)【公表日】2023-03-15

(86)【国際出願番号】 KR2020009823

(87)【国際公開番号】W WO2021153864

(87)【国際公開日】2021-08-05

【審査請求日】2022-08-26

(31)【優先権主張番号】10-2020-0009615

(32)【優先日】2020-01-28

(33)【優先権主張国・地域又は機関】KR

(73)【特許権者】

【識別番号】519208133

【氏名又は名称】ディープ バイオ インク

(74)【代理人】

【識別番号】100120008

【弁理士】

【氏名又は名称】山田 くみ子

(72)【発明者】

【氏名】ペク イニョン

(72)【発明者】

【氏名】オ サンジュン

(72)【発明者】

【氏名】カク テヨン

【審査官】渡辺 順哉

(56)【参考文献】

【文献】特表２０１９－５２５３２９（ＪＰ，Ａ）

【文献】特表２０１８－５１３５０７（ＪＰ，Ａ）

【文献】欧州特許出願公開第０３４７７５９１（ＥＰ，Ａ１）

【文献】PAIK, Inyoung ほか，Overcoming Catastrophic Forgetting by Neuron-level Plasticity Control，arXiv[online]，2019年07月31日，[retrieved on 2023.07.18], Retrieved from the Internet: <URL:https://arxiv.org/pdf/1907.13322.pdf>

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ３／００－９９／００

(57)【特許請求の範囲】

【請求項1】

第１のニューロン乃至第Ｎのニューロン（ここで、Ｎは２以上の整数）から構成される人工ニューラルネットワークモデルに対するニューロン－レベル塑性の制御方法であって、
コンピューティングシステムが、継続学習（ｃｏｎｔｉｎｕａｌ ｌｅａｒｎｉｎｇ）の対象となる複数の作業のそれぞれに見合うトレーニングデータセットを取得するステップと、
前記コンピューティングシステムが、前記複数の作業のそれぞれに対して、前記作業に見合う学習プロセスを行うステップと、
を含むが、
前記作業に見合う学習プロセスを行うステップは、
前記コンピューティングシステムが、前記作業に見合うトレーニングデータセットに含まれている複数の個別データのそれぞれに対して（ここで、前記複数の個別データのそれぞれには、それに見合う正解ラベルが与えられる）、前記個別データに基づいて重み調節プロセスを行うステップと、
前記コンピューティングシステムが、前記人工ニューラルネットワークを構成する複数のレイヤーのそれぞれに対して、前記レイヤーに含まれている自由ニューロンのうち、重要度が最も大きな一部である重要ニューロンを選択するステップと、
前記人工ニューラルネットワーク内の自由ニューロンから前記重要ニューロンへと向かうすべての接続の重みを０に固定するステップと、
前記コンピューティングシステムが、前記作業に見合うトレーニングデータセットにて、前記重み調節プロセスを行うステップを２以上のエポック（ｅｐｏｃｈ）に見合う分だけ繰り返し行うステップと、
前記重要ニューロンを入力ノードとするすべての接続の重みを固定するステップと、を含み、
前記重み調節プロセスを行うステップは、
前記人工ニューラルネットワークモデルに前記個別データを入力して、前記個別データに見合う予測値を取得するステップと、
前記予測値および前記個別データに与えられた正解ラベルに基づいて、交差エントロピー（Ｃｒｏｓｓ Ｅｎｔｒｏｐｙ）を算出するステップと、
前記人工ニューラルネットワークモデルに含まれているそれぞれのニューロンｎｉに対して（ここで、ｉは１≦ｉ≦Ｎの整数）、前記ニューロンｎｉを入力ノードとするすべての接続の重みを調節するステップと、
を含み、
前記ニューロンｎｉを入力ノードとするすべての接続の重みを調節するステップは、
正規化済みのテイラー基準の移動平均であるニューロンｎｉの重要度Ｃｉを算出するステップと、
下記の数１に基づいて、ニューロンｎｉの学習率ηiを算出するステップと、

【数1】

（ここで、αおよびβは、予め定義された前記人工ニューラルネットワークモデルのハイパーパラメーターであり、ηmaxは、予め定義された学習率の上限であり、ｔは、前記トレーニングデータセット内における前記個別データの順番である。）
算出された前記学習率ηiを適用した勾配降下法（ｇｒａｄｉｅｎｔ ｄｅｓｃｅｎｔ）を通じて、前記ニューロンｎｉを入力ノードとするすべての接続の重みを更新するステップと、
を含むニューロン－レベル塑性の制御方法。

【請求項2】

データ処理装置にインストールされ、請求項１に記載の方法を行うために記録媒体に格納されたコンピュータープログラム。

【請求項3】

コンピューティングシステムであって、
プロセッサーと、
前記プロセッサーにより起動されるコンピュータープログラムを格納するメモリと、
を備え、
前記コンピュータープログラムは、前記プロセッサーにより起動される場合、前記コンピューティングシステムが、請求項１に記載の方法を行うようにするコンピューティングシステム。

【発明の詳細な説明】

【技術分野】

【0001】

人工ニューラルネットワークにおいて破局的忘却（ｃａｔａｓｔｒｏｐｈｉｃ ｆｏｒｇｅｔｔｉｎｇ）の問題を解決するために、ニューロン－レベル塑性制御（ｎｅｕｒｏｎ－ｌｅｖｅｌ ｐｌａｓｔｉｃｉｔｙ ｃｏｎｔｒｏｌ；ＮＰＣ）と呼ばれる簡単かつ効果的であり、しかも、新規なソリューションが提案される。

【背景技術】

【0002】

深層ニューラルネットワークで人工一般知能を実現する過程において、破局的忘却（ｃａｔａｓｔｒｏｐｈｉｃ ｆｏｒｇｅｔｔｉｎｇ）は、依然として最も根本的な挑戦の一つである。最も頻繁に用いられる学習アルゴリズムである勾配降下法（ｇｒａｄｉｅｎｔ ｄｅｓｃｅｎｔ）は、色々な作業に対するニューラルネットワークを順次に訓練させるために適用されるときに問題を引き起こしてしまう。勾配降下法（ｇｒａｄｉｅｎｔ ｄｅｓｃｅｎｔ）が現在の作業に対するニューラルネットワークを最適化させるとき、以前の作業に関する知識は、新たな知識により破局的に（ｃａｔａｓｔｒｏｐｈｉｃａｌｌｙ）上書きされてしまう。

【0003】

問題の最初の発見［ＭｃＣｌｏｓｋｅｙ Ｃｏｈｅｎ（１９８９） ＭｃＣｌｏｓｋｅｙ ａｎｄ Ｃｏｈｅｎ］以来、人工ニューラルネットワークにおいて破局的忘却を緩和させるための様々な接近法が提案された。このような接近方式の一つは、すべてのミニバッチに色々な作業のデータを含めることである。このような方法は、以前の作業の性能を保持する上で効果的であるかもしれないが、以前の作業に関するトレーニングデータを保持しなければならないというオーバーヘッドが生じる。以前のデータの限られた一部のみを用いるか［Ｇｅｐｐｅｒｔｈ Ｋａｒａｏｇｕｚ（２０１６）Ｇｅｐｐｅｒｔｈ ａｎｄ Ｋａｒａｏｇｕｚ， Ｌｏｐｅｚ－Ｐａｚ（２０１７）］、あるいは、以前のデータを用いずに［Ｌｉ Ｈｏｉｅｍ（２０１８）Ｌｉ ａｎｄ Ｈｏｉｅｍ， Ｓｈｉｎ ｅｔ～ａｌ．（２０１７）Ｓｈｉｎ， Ｌｅｅ， Ｋｉｍ， ａｎｄ Ｋｉｍ， Ｋａｍｒａ ｅｔ～ａｌ．（２０１７）Ｋａｍｒａ， Ｇｕｐｔａ， ａｎｄ Ｌｉｕ， Ｚａｃａｒｉａｓ Ａｌｅｘａｎｄｒｅ（２０１８）Ｚａｃａｒｉａｓ ａｎｄ Ａｌｅｘａｎｄｒｅ， Ｋｉｍ ｅｔ～ａｌ．（２０１８）Ｋｉｍ， Ｋｉｍ， ａｎｄ Ｌｅｅ］類似の効果を成し遂げようとするいくつかの試みがあった。

【0004】

別の方法は、以前の知識が含まれているニューラルネットワークの一部を分離し、ネットワークの他の部分を用いて新たな作業を学ぶことである。ここには、ネットワークの他の部分を新たな作業に割り当てて新たな作業を学習できるニューラルネットワークのための動的アーキテクチャー設計が含まれる［Ｆｅｒｎａｎｄｏ ｅｔ～ａｌ．（２０１７）Ｆｅｒｎａｎｄｏ， Ｂａｎａｒｓｅ， Ｂｌｕｎｄｅｌｌ， Ｚｗｏｌｓ， Ｈａ， Ｒｕｓｕ， Ｐｒｉｔｚｅｌ， ａｎｄ Ｗｉｅｒｓｔｒａ， Ａｌｊｕｎｄｉ ｅｔ～ａｌ．（２０１７）Ａｌｊｕｎｄｉ， Ｃｈａｋｒａｖａｒｔｙ， ａｎｄ Ｔｕｙｔｅｌａａｒｓ， Ｌｅｅ ｅｔ～ａｌ．（２０１７）Ｌｅｅ， Ｙｕｎ， Ｈｗａｎｇ， ａｎｄ Ｙａｎｇ］。提案されたアルゴリズムは、ネットワークの他の部分を用いて色々な作業を学習するため、我々の作業は、このような接近と密接に関連している。ここで、部分の単位は、個別ニューロンである。

【0005】

弾性的重み統合（Ｅｌａｓｔｉｃ ｗｅｉｇｈｔ ｃｏｎｓｏｌｉｄａｔｉｏｎ；ＥＷＣ）［Ｋｉｒｋｐａｔｒｉｃｋ ｅｔ～ａｌ．（２０１７）Ｋｉｒｋｐａｔｒｉｃｋ， Ｐａｓｃａｎｕ， Ｒａｂｉｎｏｗｉｔｚ， Ｖｅｎｅｓｓ， Ｄｅｓｊａｒｄｉｎｓ， Ｒｕｓｕ， Ｍｉｌａｎ， Ｑｕａｎ， Ｒａｍａｌｈｏ， Ｇｒａｂｓｋａ－Ｂａｒｗｉｎｓｋａ， ｅｔ～ａｌ．］は、この分野において成し遂げられた注目すべき発展である。Ｆｉｓｈｅｒ情報マトリックスの対角線を用いて、ＥＷＣは、以前の作業に重要なニューラルネットワークの接続重み（接続重み付け）に相当する媒介変数を識別しかつ統合する。このような方式で、ネットワークは、以前に学んだ知識を保持しながら、より重要度の低い媒介変数を用いて新たな作業を学習することができる。ＥＷＣは、多大な関心を引き寄せたため、多くの研究において採択された［Ｌｅｅ ｅｔ ａｌ． （２０１７） Ｌｅｅ， Ｋｉｍ， Ｊｕｎ， Ｈａ， Ｚｈａｎｇ， Ｎｇｕｙｅｎ ｅｔ ａｌ． （２０１７） Ｎｇｕｙｅｎ， Ｌｉ， Ｂｕｉ， ａｎｄ Ｔｕｒｎｅｒ， Ｌｉｕ ｅｔ ａｌ． （２０１８） Ｌｉｕ， Ｍａｓａｎａ， Ｈｅｒｒａｎｚ， Ｖａｎ～ ｄｅ Ｗｅｉｊｅｒ， Ｌｏｐｅｚ ａｎｄ Ｂａｇｄａｎｏｖ， Ｚｅｎｋｅ ｅtａｌ． （２０１７） Ｚｅｎｋｅ， Ｐｏｏｌｅ， Ｇａｎｇｕｌｉ］。ＥＷＣ単独の性能は、かなりの改善の余地がある［Ｐａｒｉｓｉ ｅｔ ａｌ． （２０１８） Ｐａｒｉｓｉ， Ｋｅｍｋｅｒ， Ｐａｒｔ， Ｋａｎａｎ， Ｗｅｒｍｔｅｒ］。最近の研究においては、ＥＷＣを正規化の手段として、別の方法を結合して用いられた［Ｋｉｍ ｅｔ～ａｌ．（２０１８）Ｋｉｍ， Ｋｉｍ， ａｎｄ Ｌｅｅ， Ｌｅｅ ｅｔ～ａｌ．（２０１７）Ｌｅｅ， Ｙｕｎ， Ｈｗａｎｇ， ａｎｄ Ｙａｎｇ］。

【先行技術文献】

【非特許文献】

【0006】

Ｒｅｆｅｒｅｎｃｅｓ

【文献】［Ａｌｊｕｎｄｉ ｅｔ～ａｌ．（２０１７）Ａｌｊｕｎｄｉ， Ｃｈａｋｒａｖａｒｔｙ， ａｎｄ Ｔｕｙｔｅｌａａｒｓ］ Ａｌｊｕｎｄｉ， Ｒ．， Ｃｈａｋｒａｖａｒｔｙ， Ｐ．， ａｎｄ Ｔｕｙｔｅｌａａｒｓ， Ｔ． ＥｘｐｅｒＴｇａｔｅ： Ｌｉｆｅｌｏｎｇ ｌｅａｒｎｉｎｇ ｗｉｔｈ ａ ｎｅｔｗｏｒｋ ｏｆ ｅｘｐｅｒｔｓ． ｐｐ． ３３６６－３３７５， ２０１７．

【文献】［Ｄｅ～Ｖｒｉｅｓ ｅｔ～ａｌ．（２０１７）Ｄｅ～Ｖｒｉｅｓ， Ｓｔｒｕｂ， Ｍａｒｙ， Ｌａｒｏｃｈｅｌｌｅ， Ｐｉｅｔｑｕｉｎ， ａｎｄ Ｃｏｕｒｖｉｌｌｅ］ Ｄｅ Ｖｒｉｅｓ， Ｈ．， Ｓｔｒｕｂ， Ｆ．， Ｍａｒｙ， Ｊ．， Ｌａｒｏｃｈｅｌｌｅ， Ｈ．， Ｐｉｅｔｑｕｉｎ， Ｏ．， ａｎｄ Ｃｏｕｒｖｉｌｌｅ， Ａ． Ｃ． Ｍｏｄｕｌａｔｉｎｇ ｅａｒｌｙ ｖｉｓｕａｌ ｐｒｏｃｅｓｓｉｎｇ ｂｙ ｌａｎｇｕａｇｅ． ｐｐ． ６５９４－６６０４， ２０１７．

【文献】［Ｆｅｒｎａｎｄｏ ｅｔ～ａｌ．（２０１７）Ｆｅｒｎａｎｄｏ， Ｂａｎａｒｓｅ， Ｂｌｕｎｄｅｌｌ， Ｚｗｏｌｓ， Ｈａ， Ｒｕｓｕ， Ｐｒｉｔｚｅｌ， ａｎｄ Ｗｉｅｒｓｔｒａ］ Ｆｅｒｎａｎｄｏ， Ｃ．， Ｂａｎａｒｓｅ， Ｄ．， Ｂｌｕｎｄｅｌｌ， Ｃ．， Ｚｗｏｌｓ， Ｙ．， Ｈａ， Ｄ．， Ｒｕｓｕ， Ａ． Ａ．， Ｐｒｉｔｚｅｌ， Ａ．， ａｎｄ Ｗｉｅｒｓｔｒａ， Ｄ． ＰａｔｈＮｅｔ： Ｅｖｏｌｕｔｉｏｎｃｈａｎｎｅｌｓ ｇｒａｄｉｅｎｔ ｄｅｓｃｅｎｔ ｉｎ ｓｕｐｅｒ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ． ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１７０１．０８７３４， ２０１７．

【文献】［Ｇｅｐｐｅｒｔｈ Ｋａｒａｏｇｕｚ（２０１６）Ｇｅｐｐｅｒｔｈ ａｎｄ Ｋａｒａｏｇｕｚ］ Ｇｅｐｐｅｒｔｈ， Ａ． ａｎｄ Ｋａｒａｏｇｕｚ， Ｃ． Ａ ｂｉｏ－ｉｎｓｐｉｒｅｄ ｉｎｃｒｅｍｅｎｔａｌ ｌｅａｒｎｉｎｇ ａｒｃｈｉｔｅｃｔｕｒｅ ｆｏｒ ａｐｐｌｉｅｄ ｐｅｒｃｅｐｔｕａｌ ｐｒｏｂｌｅｍｓ． Ｃｏｇｎｉｔｉｖｅ Ｃｏｍｐｕｔａｔｉｏｎ， ８０ （５）：０ ９２４－９３４， ２０１６．

【文献】［Ｈｅ ｅｔ～ａｌ．（２０１６）Ｈｅ， Ｚｈａｎｇ， Ｒｅｎ， ａｎｄ Ｓｕｎ］ Ｈｅ， Ｋ．， Ｚｈａｎｇ， Ｘ．， Ｒｅｎ， Ｓ．， ａｎｄ Ｓｕｎ， Ｊ． Ｄｅｅｐ ｒｅｓｉｄｕａｌ ｌｅａｒｎｉｎｇ ｆｏｒ ｉｍａｇｅ ｒｅｃｏｇｎｉｔｉｏｎ． ｐｐ． ７７０－７７８， ２０１６．

【文献】［Ｉｏｆｆｅ Ｓｚｅｇｅｄｙ（２０１５）Ｉｏｆｆｅ ａｎｄ Ｓｚｅｇｅｄｙ］ Ｉｏｆｆｅ， Ｓ． ａｎｄ Ｓｚｅｇｅｄｙ， Ｃ． Ｂａｔｃｈ ｎｏｒｍａｌｉｚａｔｉｏｎ： Ａｃｃｅｌｅｒａｔｉｎｇ ｄｅｅｐ ｎｅｔｗｏｒｋ ｔｒａｉｎｉｎｇ ｂｙ ｒｅｄｕｃｉｎｇ ｉｎｔｅｒｎａｌ ｃｏｖａｒｉａｔｅ ｓｈｉｆｔ． ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１５０２．０３１６７， ２０１５．

【文献】［Ｋａｍｒａ ｅｔ～ａｌ．（２０１７）Ｋａｍｒａ， Ｇｕｐｔａ， ａｎｄ Ｌｉｕ］ Ｋａｍｒａ， Ｎ．， Ｇｕｐｔａ， Ｕ．， ａｎｄ Ｌｉｕ， Ｙ． Ｄｅｅｐ ｇｅｎｅｒａｔｉｖｅ ｄｕａｌ ｍｅｍｏｒｙ ｎｅｔｗｏｒｋ ｆｏｒ ｃｏｎｔｉｎｕａｌ ｌｅａｒｎｉｎｇ． ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１７１０．１０３６８， ２０１７．

【文献】［Ｋｉｍ ｅｔ～ａｌ．（２０１８）Ｋｉｍ， Ｋｉｍ， ａｎｄ Ｌｅｅ］ Ｋｉｍ， Ｈ．－Ｅ．， Ｋｉｍ， Ｓ．， ａｎｄ Ｌｅｅ， Ｊ． Ｋｅｅｐ ａｎｄ ｌｅａｒｎ： Ｃｏｎｔｉｎｕａｌ ｌｅａｒｎｉｎｇ ｂｙ ｃｏｎｓｔｒａｉｎｉｎｇ ｔｈｅ ｌａｔｅｎｔ ｓｐａｃｅ ｆｏｒ ｋｎｏｗｌｅｄｇｅ ｐｒｅｓｅｒｖａｔｉｏｎ ｉｎ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ． ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１８０５．１０７８４， ２０１８．

【文献】［Ｋｉｒｋｐａｔｒｉｃｋ ｅｔ～ａｌ．（２０１７）Ｋｉｒｋｐａｔｒｉｃｋ， Ｐａｓｃａｎｕ， Ｒａｂｉｎｏｗｉｔｚ， Ｖｅｎｅｓｓ， Ｄｅｓｊａｒｄｉｎｓ， Ｒｕｓｕ， Ｍｉｌａｎ， Ｑｕａｎ， Ｒａｍａｌｈｏ， Ｇｒａｂｓｋａ－Ｂａｒｗｉｎｓｋａ， ｅｔ～ａｌ．］ Ｋｉｒｋｐａｔｒｉｃｋ， Ｊ．， Ｐａｓｃａｎｕ， Ｒ．， Ｒａｂｉｎｏｗｉｔｚ， Ｎ．， Ｖｅｎｅｓｓ， Ｊ．， Ｄｅｓｊａｒｄｉｎｓ， Ｇ．， Ｒｕｓｕ， Ａ． Ａ．， Ｍｉｌａｎ， Ｋ．， Ｑｕａｎ， Ｊ．， Ｒａｍａｌｈｏ， Ｔ．， Ｇｒａｂｓｋａ－Ｂａｒｗｉｎｓｋａ， Ａ．， ｅｔ ａｌ． Ｏｖｅｒｃｏｍｉｎｇ ｃａｔａｓｔｒｏｐｈｉｃ ｆｏｒｇｅｔｔｉｎｇ ｉｎ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ． Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ｎａｔｉｏｎａｌ ａｃａｄｅｍｙ ｏｆ ｓｃｉｅｎｃｅｓ， ｐｐ． ２０１６１１８３５， ２０１７．

【文献】［Ｋｒｉｚｈｅｖｓｋｙ Ｈｉｎｔｏｎ（２００９）Ｋｒｉｚｈｅｖｓｋｙ ａｎｄ Ｈｉｎｔｏｎ］ Ｋｒｉｚｈｅｖｓｋｙ， Ａ． ａｎｄ Ｈｉｎｔｏｎ， Ｇ． Ｌｅａｒｎｉｎｇ ｍｕｌｔｉｐｌｅ ｌａｙｅｒｓ ｏｆ ｆｅａｔｕｒｅｓ ｆｒｏｍ ｔｉｎｙ ｉｍａｇｅｓ． ２００９．

【文献】［ＬｅＣｕｎ ｅｔ～ａｌ．（１９９８）ＬｅＣｕｎ， Ｂｏｔｔｏｕ， Ｂｅｎｇｉｏ， ａｎｄ Ｈａｆｆｎｅｒ］ ＬｅＣｕｎ， Ｙ．， Ｂｏｔｔｏｕ， Ｌ．， Ｂｅｎｇｉｏ， Ｙ．， ａｎｄ Ｈａｆｆｎｅｒ， Ｐ． Ｇｒａｄｉｅｎｔ－ｂａｓｅｄ ｌｅａｒｎｉｎｇ ａｐｐｌｉｅｄ ｔｏ ｄｏｃｕｍｅｎｔ ｒｅｃｏｇｎｉｔｉｏｎ． Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ＩＥＥＥ， ８６０ （１１）：０ ２２７８－２３２４， １９９８．

【文献】［Ｌｅｅ ｅｔ～ａｌ．（２０１７）Ｌｅｅ， Ｙｕｎ， Ｈｗａｎｇ， ａｎｄ Ｙａｎｇ］ Ｌｅｅ， Ｊ．， Ｙｕｎ， Ｊ．， Ｈｗａｎｇ， Ｓ．， ａｎｄ Ｙａｎｇ， Ｅ． Ｌｉｆｅｌｏｎｇ ｌｅａｒｎｉｎｇ ｗｉｔｈ ｄｙｎａｍｉｃａｌｌｙ ｅｘｐａｎｄａｂｌｅ ｎｅｔｗｏｒｋｓ． ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１７０８．０１５４７， ２０１７ ａ ．

【文献】［Ｌｅｅ ｅｔ～ａｌ．（２０１７）Ｌｅｅ， Ｋｉｍ， Ｊｕｎ， Ｈａ， ａｎｄ Ｚｈａｎｇ］ Ｌｅｅ， Ｓ．－Ｗ．， Ｋｉｍ， Ｊ．－Ｈ．， Ｊｕｎ， Ｊ．， Ｈａ， Ｊ．－Ｗ．， ａｎｄ Ｚｈａｎｇ， Ｂ．－Ｔ． Ｏｖｅｒｃｏｍｉｎｇ ｃａｔａｓｔｒｏｐｈｉｃ ｆｏｒｇｅｔｔｉｎｇ ｂｙ ｉｎｃｒｅｍｅｎｔａｌ ｍｏｍｅｎｔ ｍａｔｃｈｉｎｇ． ｐｐ． ４６５２－４６６２， ２０１７ ｂ ．

【文献】［Ｌｉｕ ｅｔ～ａｌ．（２０１８）Ｌｉｕ， Ｍａｓａｎａ， Ｈｅｒｒａｎｚ， Ｖａｎ～ｄｅ Ｗｅｉｊｅｒ， Ｌｏｐｅｚ， ａｎｄ Ｂａｇｄａｎｏｖ］ Ｌｉｕ， Ｘ．， Ｍａｓａｎａ， Ｍ．， Ｈｅｒｒａｎｚ， Ｌ．， Ｖａｎ ｄｅ Ｗｅｉｊｅｒ， Ｊ．， Ｌｏｐｅｚ， Ａ． Ｍ．， ａｎｄ Ｂａｇｄａｎｏｖ， Ａ． Ｄ． Ｒｏｔａｔｅ ｙｏｕｒ ｎｅｔｗｏｒｋｓ： Ｂｅｔｔｅｒ ｗｅｉｇｈｔ ｃｏｎｓｏｌｉｄａｔｉｏｎ ａｎｄ ｌｅｓｓ ｃａｔａｓｔｒｏｐｈｉｃ ｆｏｒｇｅｔｔｉｎｇ． ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１８０２．０２９５０， ２０１８．

【文献】［Ｌｉ Ｈｏｉｅｍ（２０１８）Ｌｉ ａｎｄ Ｈｏｉｅｍ］ Ｌｉ， Ｚ． ａｎｄ Ｈｏｉｅｍ， Ｄ． Ｌｅａｒｎｉｎｇ ｗｉｔｈｏｕｔ ｆｏｒｇｅｔｔｉｎｇ． ＩＥＥＥ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｐａｔｔｅｒｎ Ａｎａｌｙｓｉｓ ａｎｄ Ｍａｃｈｉｎｅ Ｉｎｔｅｌｌｉｇｅｎｃｅ， ４００ （１２）：０ ２９３５－２９４７， ２０１８．

【文献】［Ｌｏｐｅｚ－Ｐａｚ（２０１７）］ Ｌｏｐｅｚ－Ｐａｚ， Ｄ． Ｇｒａｄｉｅｎｔ ｅｐｉｓｏｄｉｃ ｍｅｍｏｒｙ ｆｏｒ ｃｏｎｔｉｎｕａｌ ｌｅａｒｎｉｎｇ． Ａｄｖａｎｃｅｓ ｉｎ Ｎｅｕｒａｌ Ｉｎｆｏｒｍａｔｉｏｎ Ｐｒｏｃｅｓｓｉｎｇ Ｓｙｓｔｅｍｓ， ｐｐ． ６４６７－６４７６， ２０１７．

【文献】［Ｌｕｏ Ｗｕ（２０１７）Ｌｕｏ ａｎｄ Ｗｕ］ Ｌｕｏ， Ｊ．－Ｈ． ａｎｄ Ｗｕ， Ｊ． Ａｎ ｅｎｔｒｏｐｙ－ｂａｓｅｄ ｐｒｕｎｉｎｇ ｍｅｔｈｏｄ ｆｏｒ ｃｎｎ ｃｏｍｐｒｅｓｓｉｏｎ． ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１７０６．０５７９１， ２０１７．

【文献】［Ｌｕｏ ｅｔ～ａｌ．（２０１７）Ｌｕｏ， Ｗｕ， ａｎｄ Ｌｉｎ］ Ｌｕｏ， Ｊ．－Ｈ．， Ｗｕ， Ｊ．， ａｎｄ Ｌｉｎ， Ｗ． Ｔｈｉｎｅｔ： Ａ ｆｉｌｔｅｒ ｌｅｖｅｌ ｐｒｕｎｉｎｇ ｍｅｔｈｏｄ ｆｏｒ ｄｅｅｐ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ ｃｏｍｐｒｅｓｓｉｏｎ． ｐｐ． ５０６８－５０７６， ２０１７．

【文献】［ＭｃＣｌｏｓｋｅｙ Ｃｏｈｅｎ（１９８９）ＭｃＣｌｏｓｋｅｙ ａｎｄ Ｃｏｈｅｎ］ ＭｃＣｌｏｓｋｅｙ， Ｍ． ａｎｄ Ｃｏｈｅｎ， Ｎ． Ｊ． Ｃａｔａｓｔｒｏｐｈｉｃ ｉｎｔｅｒｆｅｒｅｎｃｅ ｉｎ ｃｏｎｎｅｃｔｉｏｎｉｓｔ ｎｅｔｗｏｒｋｓ： Ｔｈｅ ｓｅｑｕｅｎｔｉａｌ ｌｅａｒｎｉｎｇ ｐｒｏｂｌｅｍ． ２４：０ １０９－１６５， １９８９．

【文献】［Ｍｅｒｍｉｌｌｏｄ ｅｔ～ａｌ．（２０１３）Ｍｅｒｍｉｌｌｏｄ， Ｂｕｇａｉｓｋａ， ａｎｄ Ｂｏｎｉｎ］ Ｍｅｒｍｉｌｌｏｄ， Ｍ．， Ｂｕｇａｉｓｋａ， Ａ．， ａｎｄ Ｂｏｎｉｎ， Ｐ． Ｔｈｅ ｓｔａｂｉｌｉｔｙ－ｐｌａｓｔｉｃｉｔｙ ｄｉｌｅｍｍａ： Ｉｎｖｅｓｔｉｇａｔｉｎｇ ｔｈｅ ｃｏｎｔｉｎｕｕｍ ｆｒｏｍ ｃａｔａｓｔｒｏｐｈｉｃ ｆｏｒｇｅｔｔｉｎｇ ｔｏ ａｇｅ－ｌｉｍｉｔｅｄ ｌｅａｒｎｉｎｇ ｅｆｆｅｃｔｓ． Ｆｒｏｎｔｉｅｒｓ ｉｎ ｐｓｙｃｈｏｌｏｇｙ， ４：０ ５０４， ２０１３．

【文献】［Ｍｏｌｃｈａｎｏｖ ｅｔ～ａｌ．（２０１６）Ｍｏｌｃｈａｎｏｖ， Ｔｙｒｅｅ， Ｋａｒｒａｓ， Ａｉｌａ， ａｎｄ Ｋａｕｔｚ］ Ｍｏｌｃｈａｎｏｖ， Ｐ．， Ｔｙｒｅｅ， Ｓ．， Ｋａｒｒａｓ， Ｔ．， Ａｉｌａ， Ｔ．， ａｎｄ Ｋａｕｔｚ， Ｊ． Ｐｒｕｎｉｎｇ ｃｏｎｖｏｌｕｔｉｏｎａｌ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ ｆｏｒ ｒｅｓｏｕｒｃｅ ｅｆｆｉｃｉｅｎｔ ｉｎｆｅｒｅｎｃｅ． ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１６１１．０６４４０， ２０１６．

【文献】［Ｎｇｕｙｅｎ ｅｔ～ａｌ．（２０１７）Ｎｇｕｙｅｎ， Ｌｉ， Ｂｕｉ， ａｎｄ Ｔｕｒｎｅｒ］ Ｎｇｕｙｅｎ， Ｃ． Ｖ．， Ｌｉ， Ｙ．， Ｂｕｉ， Ｔ． Ｄ．， ａｎｄ Ｔｕｒｎｅｒ， Ｒ． Ｅ． Ｖａｒｉａｔｉｏｎａｌ ｃｏｎｔｉｎｕａｌ ｌｅａｒｎｉｎｇ． ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１７１０．１０６２８， ２０１７．

【文献】［Ｐａｒｉｓｉ ｅｔ～ａｌ．（２０１８）Ｐａｒｉｓｉ， Ｋｅｍｋｅｒ， Ｐａｒｔ， Ｋａｎａｎ， ａｎｄ Ｗｅｒｍｔｅｒ］ Ｐａｒｉｓｉ， Ｇ． Ｉ．， Ｋｅｍｋｅｒ， Ｒ．， Ｐａｒｔ， Ｊ． Ｌ．， Ｋａｎａｎ， Ｃ．， ａｎｄ Ｗｅｒｍｔｅｒ， Ｓ． Ｃｏｎｔｉｎｕａｌ ｌｉｆｅｌｏｎｇ ｌｅａｒｎｉｎｇ ｗｉｔｈ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ： Ａ ｒｅｖｉｅｗ． ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１８０２．０７５６９， ２０１８．

【文献】［Ｒｅａｌ ｅｔ～ａｌ．（２０１８）Ｒｅａｌ， Ａｇｇａｒｗａｌ， Ｈｕａｎｇ， ａｎｄ Ｌｅ］ Ｒｅａｌ， Ｅ．， Ａｇｇａｒｗａｌ， Ａ．， Ｈｕａｎｇ， Ｙ．， ａｎｄ Ｌｅ， Ｑ． Ｖ． Ｒｅｇｕｌａｒｉｚｅｄ ｅｖｏｌｕｔｉｏｎ ｆｏｒ ｉｍａｇｅ ｃｌａｓｓｉｆｉｅｒ ａｒｃｈｉｔｅｃｔｕｒｅ ｓｅａｒｃｈ． ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１８０２．０１５４８， ２０１８．

【文献】［Ｓａｌｉｍａｎｓ ｅｔ～ａｌ．（２０１６）Ｓａｌｉｍａｎｓ， Ｇｏｏｄｆｅｌｌｏｗ， Ｚａｒｅｍｂａ， Ｃｈｅｕｎｇ， Ｒａｄｆｏｒｄ， ａｎｄ Ｃｈｅｎ］ Ｓａｌｉｍａｎｓ， Ｔ．， Ｇｏｏｄｆｅｌｌｏｗ， Ｉ．， Ｚａｒｅｍｂａ， Ｗ．， Ｃｈｅｕｎｇ， Ｖ．， Ｒａｄｆｏｒｄ， Ａ．， ａｎｄ Ｃｈｅｎ， Ｘ． Ｉｍｐｒｏｖｅｄ ｔｅｃｈｎｉｑｕｅｓ ｆｏｒ ｔｒａｉｎｉｎｇ ＧＡＮｓ． ｐｐ． ２２３４－２２４２， ２０１６．

【文献】［Ｓｈｉｎ ｅｔ～ａｌ．（２０１７）Ｓｈｉｎ， Ｌｅｅ， Ｋｉｍ， ａｎｄ Ｋｉｍ］ Ｓｈｉｎ， Ｈ．， Ｌｅｅ， Ｊ． Ｋ．， Ｋｉｍ， Ｊ．， ａｎｄ Ｋｉｍ， Ｊ． Ｃｏｎｔｉｎｕａｌ ｌｅａｒｎｉｎｇ ｗｉｔｈ ｄｅｅｐ ｇｅｎｅｒａｔｉｖｅ ｒｅｐｌａｙ． ｐｐ． ２９９０－２９９９， ２０１７．

【文献】［Ｓｉｍｏｎｙａｎ Ｚｉｓｓｅｒｍａｎ（２０１４）Ｓｉｍｏｎｙａｎ ａｎｄ Ｚｉｓｓｅｒｍａｎ］ Ｓｉｍｏｎｙａｎ， Ｋ． ａｎｄ Ｚｉｓｓｅｒｍａｎ， Ａ． Ｖｅｒｙ ｄｅｅｐ ｃｏｎｖｏｌｕｔｉｏｎａｌ ｎｅｔｗｏｒｋｓ ｆｏｒ ｌａｒｇｅ－ｓｃａｌｅ ｉｍａｇｅ ｒｅｃｏｇｎｉｔｉｏｎ． ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１４０９．１５５６， ２０１４．

【文献】［Ｕｌｙａｎｏｖ ｅｔ～ａｌ．（２０１６）Ｕｌｙａｎｏｖ， Ｖｅｄａｌｄｉ， ａｎｄ Ｌｅｍｐｉｔｓｋｙ］ Ｕｌｙａｎｏｖ， Ｄ．， Ｖｅｄａｌｄｉ， Ａ．， ａｎｄ Ｌｅｍｐｉｔｓｋｙ， Ｖ． Ｉｎｓｔａｎｃｅ ｎｏｒｍａｌｉｚａｔｉｏｎ： Ｔｈｅ ｍｉｓｓｉｎｇ ｉｎｇｒｅｄｉｅｎｔ ｆｏｒ ｆａｓｔ ｓｔｙｌｉｚａｔｉｏｎ． ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１６０７．０８０２２， ２０１６．

【文献】［Ｗｉｋｉｐｅｄｉａ ｃｏｎｔｒｉｂｕｔｏｒｓ（２０１８）］ Ｗｉｋｉｐｅｄｉａ ｃｏｎｔｒｉｂｕｔｏｒｓ． Ｅｒｒｏｒ ｆｕｎｃｔｉｏｎ― Ｗｉｋｉｐｅｄｉａ， ｔｈｅ ｆｒｅｅ ｅｎｃｙｃｌｏｐｅｄｉａ， ２０１８． ＵＲＬ ｈｔｔｐｓ：／／ｅｎ．ｗｉｋｉｐｅｄｉａ．ｏｒｇ／ｗｉｋｉ／Ｅｒｒｏｒ＿ｆｕｎｃｔｉｏｎ． ［Ｏｎｌｉｎｅ； ａｃｃｅｓｓｅｄ ２３－Ｊａｎ－２０１９］．

【文献】［Ｙｕ ｅｔ～ａｌ．（２０１８）Ｙｕ， Ｌｉ， Ｃｈｅｎ， Ｌａｉ， Ｍｏｒａｒｉｕ， Ｈａｎ， Ｇａｏ， Ｌｉｎ， ａｎｄ Ｄａｖｉｓ］ Ｙｕ， Ｒ．， Ｌｉ， Ａ．， Ｃｈｅｎ， Ｃ．－Ｆ．， Ｌａｉ， Ｊ．－Ｈ．， Ｍｏｒａｒｉｕ， Ｖ． Ｉ．， Ｈａｎ， Ｘ．， Ｇａｏ， Ｍ．， Ｌｉｎ， Ｃ．－Ｙ．， ａｎｄ Ｄａｖｉｓ， Ｌ． Ｓ． ＮＩＳＰ： Ｐｒｕｎｉｎｇ ｎｅｔｗｏｒｋｓ ｕｓｉｎｇ ｎｅｕｒｏｎ ｉｍｐｏｒｔａｎｃｅ ｓｃｏｒｅ ｐｒｏｐａｇａｔｉｏｎ． ｐｐ． ９１９４－９２０３， ２０１８．

【文献】［Ｚａｃａｒｉａｓ Ａｌｅｘａｎｄｒｅ（２０１８）Ｚａｃａｒｉａｓ ａｎｄ Ａｌｅｘａｎｄｒｅ］ Ｚａｃａｒｉａｓ， Ａ． Ｓ． ａｎｄ Ａｌｅｘａｎｄｒｅ， Ｌ． Ａ． Ｏｖｅｒｃｏｍｉｎｇ ｃａｔａｓｔｒｏｐｈｉｃ ｆｏｒｇｅｔｔｉｎｇ ｉｎ ｃｏｎｖｏｌｕｔｉｏｎａｌ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ ｂｙ ｓｅｌｅｃｔｉｖｅ ｎｅｔｗｏｒｋ ａｕｇｍｅｎｔａｔｉｏｎ． ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１８０２．０８２５０， ２０１８．

【文献】［Ｚｅｎｋｅ ｅｔ～ａｌ．（２０１７）Ｚｅｎｋｅ， Ｐｏｏｌｅ， ａｎｄ Ｇａｎｇｕｌｉ］ Ｚｅｎｋｅ， Ｆ．， Ｐｏｏｌｅ， Ｂ．， ａｎｄ Ｇａｎｇｕｌｉ， Ｓ． Ｃｏｎｔｉｎｕａｌ ｌｅａｒｎｉｎｇ ｔｈｒｏｕｇｈ ｓｙｎａｐｔｉｃ ｉｎｔｅｌｌｉｇｅｎｃｅ． ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１７０３．０４２００， ２０１７．

【発明の概要】

【発明が解決しようとする課題】

【0007】

この研究において、我々は、ＥＷＣの限界を明らかにし、ニューロン－レベルの塑性制御（ＮＰＣ）といった改善されたアルゴリズムを提案する。その名から明らかなように、ＮＰＣは、畳み込みニューラルネットワーク（ＣＮＮ：Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ）において各ニューロンまたは各フィルターの塑性を制御して既存の知識を保持する。これは、個別的な接続重みを統合して作動するＥＷＣとは対照的である。ＮＰＣの別の主な特徴は、重要な媒介変数を特定の値に近いように保持する代わりに、学習率（ｌｅａｒｎｉｎｇ ｒａｔｅ）を調整して重要なニューロンを安定化させることである。このような特性は、ＮＰＣの効率性を高めることの他にも、作業数とは無関係にメモリ効率性を高めることができる。すなわち、ＮＰＣは、作業ごとの媒介変数値の集まりの代わりに、一つのニューロン当たりに単一の重要度値さえ格納すれば済むことから、作業数とは無関係にメモリの使用量が一貫して保持されることが可能である。

【0008】

以前の研究においては、一般に、作業の切り換えの正確なタイミングが知られていると仮定していた。したがって、学習アルゴリズムは、作業が変更される度に色々なパラメーター（媒介変数）値セットといったコンテキストを明示的に保持し、コンテキストに切り換えることができた。これに対し、ＮＰＣは、情報を保持することなく、各ニューロンの重要性を評価し続け、重要度の移動平均に応じて学習率を簡単に調整してニューロンの塑性を制御する。したがって、ＮＰＣは、分類損失（ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｌｏｓｓ）を計算する上で欠かせない現在の作業の識別子（ＩＤ）を除いて、学習スケジュールに関する情報を求めない。一方、予め定められた学習スケジュールがあれば、ＮＰＣをさらに向上させることができる。このために、スケジュールされたＮＰＣ（ＳＮＰＣ）と呼ばれるＮＰＣの拡張を提案して、学習スケジュールに従って重要なニューロンをさらに明確に保存する。各作業に対して、ＳＮＰＣは、重要なニューロンを識別し、他の作業を訓練する間にこれを統合する。実験結果は、ＮＰＣとＳＮＰＣが接続レベル統合接近方式よりも致命的な忘却を減らす上で実質的にさらに効果的であるということを示す。特に、ｉＭＮＩＳＴデータセットに対するＳＮＰＣ評価において、破局的忘却の影響はほとんど消えていた。

【課題を解決するための手段】

【0009】

ニューロン－レベル塑性制御（ｎｅｕｒｏｎ－ｌｅｖｅｌ ｐｌａｓｔｉｃｉｔｙ ｃｏｎｔｒｏｌ；ＮＰＣ）を通じた破局的忘却を克服するための方法が提供される。

【0010】

ニューロン－レベル塑性制御（ｎｅｕｒｏｎ－ｌｅｖｅｌ ｐｌａｓｔｉｃｉｔｙ ｃｏｎｔｒｏｌ；ＮＰＣ）を通じた破局的忘却を克服するための方法を行うコンピューティングシステムが提供される。

【発明の効果】

【0011】

インクリメンタルＭＮＩＳＴ（ｉｎｃｒｅｍｅｎｔａｌ ＭＮＩＳＴ；ｉＭＮＩＳＴ）およびインクリメンタルＣＩＦＡＲ１００（ｉｎｃｒｅｍｅｎｔａｌ ＣＩＦＡＲ１００）データセットに関する実験結果は、ＮＰＣおよびＳＮＰＣが接続レベル統合接近方式に比べて遥かに効果的であるということを示し、特に、ＳＮＰＣは、二つのデータセットにおいて卓越した性能を示す。

【図面の簡単な説明】

【0012】

【図1】接続－レベルとニューロン－レベル統合とを比較するための図である。図１（ａ）は、Ｔａｓｋ １に重要なニューロンおよび接続を示す。図１（ｂ）は、接続－レベル統合である。重要な接続が統合されているものの、ニューロンは、Ｔａｓｋ ２を学習する間に変更され得る他の入接続（入ってくる接続）により影響を受ける虞がある。図１（ｃ）は、ニューロン－レベル統合である。ＮＰＣは、重要ニューロンのすべての入接続を統合し、これは、ニューロンの知識を保存する上でより一層効果的である。

【図2】重要度値Ｃ_ｉのヒストグラムの例を示す。図２（ａ）は、均等化前の元の分布であり、図２（ｂ）は、均等化済みの分布である。

【図3】ｉＭＮＩＳＴデータセットにおいて継続的な学習アルゴリズムの検証正確度を示す。図３（ａ）は、各瞬間まで訓練された作業の平均検証正確性を示し、図３（ｂ）は、学習アルゴリズムに応じた５種類の作業の訓練曲線を示す。ＳＮＰＣとＮＰＣは、継続的な学習アルゴリズムの中で、それぞれ最高の性能を示す。

【図4】ｉＣＩＦＡＲ１００データセットにおいて継続的な学習アルゴリズムの有効性検証正確度を示す。図４（ａ）は、各瞬間まで訓練された作業の平均検証正確性を示し、図３（ｂ）は、学習アルゴリズムに応じた５種類の課題の訓練曲線を示す。ＳＮＰＣとＮＰＣは、継続的な学習アルゴリズムの中で、それぞれ最高の性能を示す。訓練曲線間の差は、ｉＭＮＩＳＴよりもｉＣＩＦＡＲ１００の方においてより一層際立つ。

【図5】互いに異なる設定下における５番目のｉＣＩＦＡＲ１００作業の訓練曲線を示す。図５の線（ａ）は、Ｔ_１からＴ_４まで学習した後のＳＮＰＣ学習Ｔ_５の訓練曲線であり、図５の点線（ｂ）は、ランダムに初期化されたパラメーターからニューロンの１４．３３％（＝ｒ_５）のみが変化するように許容された完全ＶＧＧネット（ｆｕｌｌ ＶＧＧ ｎｅｔ）の部分訓練の訓練曲線であり、図５の点線（ｃ）は、ランダムに初期化されたパラメーターから始まって、オリジナルモデルの１４．３３％のみを備えるように縮小された部分ＶＧＧネットの訓練の訓練曲線である。

【図6】本発明の一実施形態に係るコンピューティングシステムの概略構成を示すブロック図である。

【図7】本発明の一実施形態に係るコンピューティングシステムが行うニューロン－レベル塑性の制御方法を示すフローチャートである。

【図8】本発明の一実施形態に係るコンピューティングシステムが行うスケジュールされたニューロン－レベル塑性の制御方法を示すフローチャートである。

【発明を実施するための形態】

【0013】

Ｉ．理論的な背景となる研究
本発明の理解への一助となるために、以下では、まず、本発明の理論的な背景となる研究について紹介する。

【0014】

要約Ａｂｓｔｒａｃｔ
人工ニューラルネットワークにおいて破局的忘却の問題（ｉｓｓｕｅ ｏｆ ｃａｔａｓｔｒｏｐｈｉｃ ｆｏｒｇｅｔｔｉｎｇ）を解決するために、ニューロン－レベル塑性制御（ｎｅｕｒｏｎ－ｌｅｖｅｌ ｐｌａｓｔｉｃｉｔｙ ｃｏｎｔｒｏｌ；ＮＰＣ）と呼ばれる簡単かつ効果的であり、しかも、新規なソリューションが提案される。提案された方法は、新たなタスクを学習する間に接続レベルではなく、神経レベルにおいてネットワークの塑性を制御して既存の知識を保存する。ニューロン－レベル塑性制御は、各ニューロンが重要性を評価し、低い学習速度を適用して重要なニューロンを統合する。

【0015】

また、スケジュールされたＮＰＣ（ｓｃｈｅｄｕｌｅｄ ＮＰＣ；ＳＮＰＣ）と呼ばれるＮＰＣの拡張が提案される。この拡張は、学習スケジュール情報を用いて重要なニューロンをより明確に保護する。インクリメンタルＭＮＩＳＴ（ｉｎｃｒｅｍｅｎｔａｌ ＭＮＩＳＴ；ｉＭＮＩＳＴ）およびインクリメンタルＣＩＦＡＲ１００（ｉｎｃｒｅｍｅｎｔａｌ ＣＩＦＡＲ１００）データセットに対する実験結果は、ＮＰＣおよびＳＮＰＣが接続レベル統合接近方式に比べて遥かに効果的であるということを示し、特に、ＳＮＰＣは、二つのデータセットにおいて卓越した性能を示す。

【0016】

１．概要（Ｉｎｔｒｏｄｕｃｔｉｏｎ）
深層ニューラルネットワークにて人工一般知能を実現する過程において、破局的忘却（ｃａｔａｓｔｒｏｐｈｉｃ ｆｏｒｇｅｔｔｉｎｇ）は、依然として最も根本的な挑戦の一つである。最も頻繁に用いられる学習アルゴリズムである勾配降下法（ｇｒａｄｉｅｎｔ ｄｅｓｃｅｎｔ）は、色々な作業に対するニューラルネットワークを順次に訓練させるために適用されるときに問題を引き起こしてしまう。勾配降下法（ｇｒａｄｉｅｎｔ ｄｅｓｃｅｎｔ）が現在の作業に対するニューラルネットワークを最適化させるとき、以前の作業に関する知識は、新たな知識により破局的に（ｃａｔａｓｔｒｏｐｈｉｃａｌｌｙ）上書きされてしまう。

【0017】

問題の初期の発見［ＭｃＣｌｏｓｋｅｙ Ｃｏｈｅｎ（１９８９） ＭｃＣｌｏｓｋｅｙ ａｎｄ Ｃｏｈｅｎ］以来、人工ニューラルネットワークにおいて破局的忘却を緩和させるための様々な接近法が提案された。このような接近方式の一つは、すべてのミニバッチに色々な作業のデータを含めることである。このような方法は、以前の作業の性能を保持する上で効果的であるかもしれないが、以前の作業に関するトレーニングデータを保持しなければならないというオーバーヘッドが生じる。以前のデータの限られた一部のみを用いるか［Ｇｅｐｐｅｒｔｈ Ｋａｒａｏｇｕｚ（２０１６）Ｇｅｐｐｅｒｔｈ ａｎｄ Ｋａｒａｏｇｕｚ， Ｌｏｐｅｚ－Ｐａｚ（２０１７）］、あるいは、以前のデータを用いずに［Ｌｉ Ｈｏｉｅｍ（２０１８）Ｌｉ ａｎｄ Ｈｏｉｅｍ， Ｓｈｉｎ ｅｔ～ａｌ．（２０１７）Ｓｈｉｎ， Ｌｅｅ， Ｋｉｍ， ａｎｄ Ｋｉｍ， Ｋａｍｒａ ｅｔ～ａｌ．（２０１７）Ｋａｍｒａ， Ｇｕｐｔａ， ａｎｄ Ｌｉｕ， Ｚａｃａｒｉａｓ Ａｌｅｘａｎｄｒｅ（２０１８）Ｚａｃａｒｉａｓ ａｎｄ Ａｌｅｘａｎｄｒｅ， Ｋｉｍ ｅｔ～ａｌ．（２０１８）Ｋｉｍ， Ｋｉｍ， ａｎｄ Ｌｅｅ］類似の効果を成し遂げようとするいくつかの試みがあった。

【0018】

別の方法は、以前の知識が含まれているニューラルネットワークの一部を分離し、ネットワークの他の部分を用いて新たな作業を学ぶことである。ここには、ネットワークの他の部分を新たな作業に割り当てて新たな作業を学習できるニューラルネットワークのための動的アーキテクチャー設計が含まれる［Ｆｅｒｎａｎｄｏ ｅｔ～ａｌ．（２０１７）Ｆｅｒｎａｎｄｏ， Ｂａｎａｒｓｅ， Ｂｌｕｎｄｅｌｌ， Ｚｗｏｌｓ， Ｈａ， Ｒｕｓｕ， Ｐｒｉｔｚｅｌ， ａｎｄ Ｗｉｅｒｓｔｒａ， Ａｌｊｕｎｄｉ ｅｔ～ａｌ．（２０１７）Ａｌｊｕｎｄｉ， Ｃｈａｋｒａｖａｒｔｙ， ａｎｄ Ｔｕｙｔｅｌａａｒｓ， Ｌｅｅ ｅｔ～ａｌ．（２０１７）Ｌｅｅ， Ｙｕｎ， Ｈｗａｎｇ， ａｎｄ Ｙａｎｇ］。提案されたアルゴリズムは、ネットワークの他の部分を用いて色々な作業を学習するため、我々の作業は、このような接近と密接に関連している。ここで、部分の単位は、個別ニューロンである。

【0019】

弾性的重み統合（Ｅｌａｓｔｉｃ ｗｅｉｇｈｔ ｃｏｎｓｏｌｉｄａｔｉｏｎ；ＥＷＣ）［Ｋｉｒｋｐａｔｒｉｃｋ ｅｔ～ａｌ．（２０１７）Ｋｉｒｋｐａｔｒｉｃｋ， Ｐａｓｃａｎｕ， Ｒａｂｉｎｏｗｉｔｚ， Ｖｅｎｅｓｓ， Ｄｅｓｊａｒｄｉｎｓ， Ｒｕｓｕ， Ｍｉｌａｎ， Ｑｕａｎ， Ｒａｍａｌｈｏ， Ｇｒａｂｓｋａ－Ｂａｒｗｉｎｓｋａ， ｅｔ～ａｌ．］は、この分野において成し遂げられた注目すべき発展である。Ｆｉｓｈｅｒ情報マトリックスの対角線を用いて、ＥＷＣは、以前の作業に重要なニューラルネットワークの接続重みに相当する媒介変数を識別しかつ統合する。このような方式で、ネットワークは、以前に学んだ知識を保持しながら、より重要度の低い媒介変数を用いて新たな作業を学習することができる。ＥＷＣは、多大な関心を引き寄せたため、多くの研究において採択された［Ｌｅｅ ｅｔ ａｌ． （２０１７） Ｌｅｅ， Ｋｉｍ， Ｊｕｎ， Ｈａ， Ｚｈａｎｇ， Ｎｇｕｙｅｎｅｔ ａｌ． （２０１７） Ｎｇｕｙｅｎ， Ｌｉ， Ｂｕｉ， ａｎｄ Ｔｕｒｎｅｒ， Ｌｉｕ ｅｔ ａｌ． （２０１８） Ｌｉｕ， Ｍａｓａｎａ， Ｈｅｒｒａｎｚ， Ｖａｎ～ ｄｅ Ｗｅｉｊｅｒ， Ｌｏｐｅｚ ａｎｄ Ｂａｇｄａｎｏｖ， Ｚｅｎｋｅ ｅｔ ａｌ． （２０１７） Ｚｅｎｋｅ， Ｐｏｏｌｅ， Ｇａｎｇｕｌｉ］。ＥＷＣ単独の性能は、かなりの改善の余地がある［Ｐａｒｉｓｉ ｅｔ ａｌ． （２０１８） Ｐａｒｉｓｉ， Ｋｅｍｋｅｒ， Ｐａｒｔ， Ｋａｎａｎ， Ｗｅｒｍｔｅｒ］。最近の研究においては、ＥＷＣを正規化の手段として、別の方法を結合して用いられた［Ｋｉｍ ｅｔ～ａｌ．（２０１８）Ｋｉｍ， Ｋｉｍ， ａｎｄ Ｌｅｅ， Ｌｅｅ ｅｔ～ａｌ．（２０１７）Ｌｅｅ， Ｙｕｎ， Ｈｗａｎｇ， ａｎｄ Ｙａｎｇ］。

【0020】

この研究において、我々は、ＥＷＣの限界を明らかにし、ニューロン－レベルの塑性制御（ＮＰＣ）といった改善されたアルゴリズムを提案する。その名から明らかなように、ＮＰＣは、畳み込みニューラルネットワーク（ＣＮＮ：Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ）において各ニューロンまたは各フィルターの塑性を制御して既存の知識を保持する。これは、個別的な接続重みを統合して作動するＥＷＣとは対照的である。ＮＰＣの別の主な特徴は、重要な媒介変数を特定の値に近いように保持する代わりに、学習率（ｌｅａｒｎｉｎｇ ｒａｔｅ）を調整して重要なニューロンを安定化させることである。このような特性は、ＮＰＣの効率性を高めることの他にも、作業数とは無関係にメモリ効率性を高めることができる。すなわち、ＮＰＣは、作業ごとの媒介変数値の集まりの代わりに、一つのニューロン当たりに単一の重要度値さえ格納すれば済むことから、作業数とは無関係にメモリの使用量が一貫して保持されることが可能である。

【0021】

以前の研究においては、一般に、作業の切り換えの正確なタイミングが知られていると仮定していた。したがって、学習アルゴリズムは、作業が変更される度に色々なパラメーター（媒介変数）値セットといったコンテキストを明示的に保持し、コンテキストに切り換えることができた。これに対し、ＮＰＣは、情報を保持することなく、各ニューロンの重要性を評価し続け、重要度の移動平均に応じて学習率を簡単に調整してニューロンの塑性を制御する。したがって、ＮＰＣは、分類損失（ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｌｏｓｓ）を計算する上で欠かせない現在の作業の識別子（ＩＤ）を除いて、学習スケジュールに関する情報を求めない。一方、予め定められた学習スケジュールがあれば、ＮＰＣをさらに向上させることができる。このために、スケジュールされたＮＰＣ（ＳＮＰＣ）と呼ばれるＮＰＣの拡張を提案して、学習スケジュールに従って重要なニューロンをさらに明確に保存する。各作業に対して、ＳＮＰＣは、重要なニューロンを識別し、他の作業を訓練する間にこれを統合する。実験結果は、ＮＰＣとＳＮＰＣが接続レベル統合接近方式よりも致命的な忘却を減らす上で実質的にさらに効果的であるということを示す。特に、ｉＭＮＩＳＴデータセットに対するＳＮＰＣ評価において、破局的忘却の影響はほとんど消えていた。

【0022】

２．ニューロン－レベル対接続－レベル統合（Ｎｅｕｒｏｎ－ｌｅｖｅｌ Ｖｅｒｓｕｓ Ｃｏｎｎｅｃｔｉｏｎ－ｌｅｖｅｌ Ｃｏｎｓｏｌｉｄａｔｉｏｎ）
ＥＷＣとその後続研究［Ｋｉｒｋｐａｔｒｉｃｋ ｅｔ～ａｌ．（２０１７）Ｋｉｒｋｐａｔｒｉｃｋ， Ｐａｓｃａｎｕ， Ｒａｂｉｎｏｗｉｔｚ， Ｖｅｎｅｓｓ， Ｄｅｓｊａｒｄｉｎｓ， Ｒｕｓｕ， Ｍｉｌａｎ， Ｑｕａｎ， Ｒａｍａｌｈｏ， Ｇｒａｂｓｋａ－Ｂａｒｗｉｎｓｋａ， ｅｔ～ａｌ．， Ｌｅｅ ｅｔ～ａｌ．（２０１７）Ｌｅｅ， Ｋｉｍ， Ｊｕｎ， Ｈａ， ａｎｄ Ｚｈａｎｇ， Ｎｇｕｙｅｎ ｅｔ～ａｌ．（２０１７）Ｎｇｕｙｅｎ， Ｌｉ， Ｂｕｉ， ａｎｄ Ｔｕｒｎｅｒ， Ｌｉｕ ｅｔ～ａｌ．（２０１８）Ｌｉｕ， Ｍａｓａｎａ， Ｈｅｒｒａｎｚ， Ｖａｎ～ｄｅ Ｗｅｉｊｅｒ， Ｌｏｐｅｚ， ａｎｄ Ｂａｇｄａｎｏｖ， Ｚｅｎｋｅ ｅｔ～ａｌ．（２０１７）Ｚｅｎｋｅ， Ｐｏｏｌｅ， ａｎｄ Ｇａｎｇｕｌｉ］は、ニューラルネットワークの接続重みに知識が格納されるという考え方に重点を置くものの、このような接続間の相関関係は強調されない。ＥＷＣの損失関数は、下記の数１のように定義される。ここで、Ｔ_ｎは、ｎ番目の作業を示す。

【0023】

【数1】

（１）

【0024】

ニューラルネットワークの重みは、概ね独立的であり、ニューラルネットワークは、その重みにより線形的に近似可能であるという示唆的な仮定がある。しかしながら、深層ニューラルネットワークの構造は、本質的に階層的であり、媒介変数の間には強い相関関係がある。したがって、媒介変数値が他の値の重要性に影響を与える虞があるため、接続重みを独立的に考慮することは適切ではない。

【0025】

我々は、ニューロンまたはＣＮＮフィルターが人工ニューラルネットワークの統合に関する知識の基本単位に対する個別接続よりもさらに適切であると主張する。既存の接続－レベルアルゴリズムは、ニューロンにより表わされる重要な知識の保存を保証しない。たとえ学習アルゴリズムが重要なニューロンに対する接続の一部を統合するとしても、ニューロンは自由な受信接続を保持した可能性があり、この接続の変更は、ニューロンにより伝達される知識に深刻な影響を与える虞がある。

【0026】

図１は、深層ニューラルネットワークの接続レベル統合の限界をより明確に示している。図１において、接続重みθ₁とθ₂の値は０に近く、これは、学習アルゴリズムがそれらの重要度を最小限に評価するようにする。すなわち、θ₁とθ₂の値を個別的に変更した方が、Ｔａｓｋ １の出力に重要な影響を及ぼさない。このような状況下で、最小限の重要性により、接続レベルアルゴリズムは、二つの接続パラメーターを統合しない。しかしながら、後続学習の最中に二つのパラメーターが両方とも高速にて増加すれば、Ｔａｓｋ １に深刻な影響を及ぼす虞がある。これらが互いに密接に連関しているからである。この問題点は、同一のフィルターが異なる位置の色々な出力ノードの間に共有される畳み込みレイヤーにおいて特に深刻になる虞がある。したがって、たとえ接続レベル統合という考え方を完璧に実現できたとしても、破局的忘却を完全に除去することはできない。

【0027】

この問題を克服するために、図１（ｃ）に示すように、接続－レベルではなく、ニューロン－レベルにおいて塑性を制御することを提案する。提案されたアルゴリズムであるＮＰＣは、個別的には重要に評価されない可能性がある接続を含んでいる重要なニューロンのすべての入接続を統合する。結果的に、ＮＰＣは、接続－レベル統合アルゴリズムよりもさらに効果的に、重要ではないニューロンの変更からさらに重要なニューロンを保護する。

【0028】

重要ではないニューロンＹから重要なニューロンＸへの接続は小さいことがある。そうではなければ、評価アルゴリズムがＹを重要なニューロンと決定するからである。図１の例において、ＮＰＣは、Ｘのすべての入接続を統合するため、結果的にθ₁の値が小さく保持されてθ₂の変更がＸに深刻な影響を及ぼさない。これに対し、ＮＰＣは、たとえ個別的に重要であるとしても、目的地ニューロン（ｄｅｓｔｉｎａｔｉｏｎ ｎｅｕｒｏｎ）が重要ではない接続は統合しない。したがって、全体的に、統合された接続の総数は許容可能である。

【0029】

３．ニューロン－レベル塑性制御（Ｎｅｕｒｏｎ－ｌｅｖｅｌ Ｐｌａｓｔｉｃｉｔｙ Ｃｏｎｔｒｏｌ）
３．１ 重要度評価（Ｉｍｐｏｒｔａｎｃｅ Ｅｖａｌｕａｔｉｏｎ）
各ニューロンの重要性を評価するためにネットワークプルーニング分野において用いられるテイラー（Ｔａｙｌｏｒ）拡張に基づいて基準（ｃｒｉｔｅｒｉｏｎ）を調整する［Ｍｏｌｃｈａｎｏｖ ｅｔ ａｌ． （２０１６） Ｍｏｌｃｈａｎｏｖ， Ｔｙｒｅｅ， Ｋａｒｒａｓ， Ａｉｌａ ａｎｄ Ｋａｕｔｚ］。ネットワーク定理において性能がさらに優秀であると主張する別の方法があるとはいえ［Ｙｕ ｅＴ～ ａｌ． （２０１８） Ｙｕ， Ｌｉ， Ｃｈｅｎ， Ｌａｉ， Ｍｏｒａｒｉｕ， Ｈａｎ， Ｇａｏ， Ｌｉｎ， Ｄａｖｉｓ， Ｌｕｏ Ｗｕ （２０１７） Ｌｕｏ ａｎｄ Ｗｕ Ｌｕｏ ｅｔ ａｌ． （２０１７） Ｌｕｏ， Ｗｕ， Ｌｉｎ］、計算の効率性によりテイラー基準を選択した。テイラー基準（Ｔａｙｌｏｒ ｃｒｉｔｅｒｉｏｎ）は、逆伝播（ｂａｃｋ－ｐｒｏｐａｇａｔｉｏｎ）の間に計算されるニューロンに対する損失関数の勾配度（ｇｒａｄｉｅｎｔ）から計算される。したがって、これは、最小限の追加計算により訓練過程に容易に統合されることが可能である。

【0030】

この研究において、我々は、下記の数４で表わされた正規化済みのテイラー基準の移動平均にて時間ｔにｉ番目のニューロンｎ_ｉの重要度Ｃ_ｉ ^（ｔ）を定義する。ここで、Ｎ_{ｌａｙｅｒ}は、レイヤーのノード数である。

【0031】

【数2】

（２）

【0032】

【数3】

（３）

【0033】

【数4】

（４）

【0034】

もし、ノードが色々な位置（例えば、ＣＮＮの畳み込みフィルター）において共有されるのであれば、我々は、本来の論文［Ｍｏｌｃｈａｎｏｖ ｅｔ ａｌ． （２０１６） Ｍｏｌｃｈａｎｏｖ， Ｔｙｒｅｅ， Ｋａｒｒａｓ， Ａｉｌａ ａｎｄ Ｋａｕｔｚ］に従って、絶対値を考慮する前にすべての位置の重要度値を平均する。しかしながら、我々は、異なる数のニューロンから構成された層の間においてさらに厳しい釣り合いを保つために、Ｌ２－ｎｏｒｍの代わりに、数３のような平方平均（ｑｕａｄｒａｔｉｃ ｍｅａｎ）を用いる。

【0035】

我々の初期の実験において、我々は、図２（ａ）のように、分布が概ねガウシアンであることを見出した。我々は、相対的な重要性をさらに上手く区別するために、下記の数５を用いて分布を均一分布に均等化した。ここで、

は、相補誤差関数（ｃｏｍｐｌｅｍｅｎｔａｒｙ ｅｒｒｏｒ ｆｕｎｃｔｉｏｎ）［Ｗｉｋｉｐｅｄｉａ ｃｏｎｔｒｉｂｕｔｏｒｓ （２０１８）］である。図２（ｂ）は、イークワラゼイション後の重要度の分布を示す。

【0036】

【数5】

（５）

【0037】

３．２ 塑性制御（Ｐｌａｓｔｉｃｉｔｙ Ｃｏｎｔｒｏｌ）
安定性－塑性ジレンマ（ｓｔａｂｉｌｉｔｙ－ｐｌａｓｔｉｃｉｔｙ ｄｉｌｅｍｍａ）は、人工および生物学的な神経システムの両方ともにおいてよく知られている制約である［Ｍｅｒｍｉｌｌｏｄ ｅｔ ａｌ． （２０１３） Ｍｅｒｍｉｌｌｏｄ， Ｂｕｇａｉｓｋａ， Ｂｏｎｉｎ］。破局的忘却（ｃａｔａｓｔｒｏｐｈｉｃ ｆｏｒｇｅｔｔｉｎｇ）は、同一のトレード－オフの問題（すなわち、多重作業のためのニューラルネットワークの性能を最大化させる最適な個所を決定するために試みること）の結果であるとみなすことができる。我々は、各ニューロンｎ_ｉに対して異なる学習率（ｌｅａｒｎｉｎｇ ｒａｔｅ）η_iを適用して各ニューロンの塑性を制御する。もし、η_iが高ければ、ニューロンは、既存の知識を速やかに失う代わりに、新たな知識を積極的に学ぶことになる。これに対し、η_iが低ければ、既存の知識（ｋｎｏｗｌｅｄｇｅ）をさらに上手く保存することができる。しかしながら、そのニューロンは、新たな知識を学ぶことをはばかる筈である。

【0038】

ニューラルネットワークが良好な安定性－塑性の釣り合いを見出すことを励ますために、我々は、反対の役割を果たすη_iの関数にて二つの損失を定義し、その後、我々は、それらを結合する。第一番目の関数は、既存の知識の忘れを最小化させるための安定性側面の損失である。それは、η_i＝０から始まる単調増加関数であり、現在の知識の量により制限されなければならない。我々は、a₁tC_iを用いて現在の知識の上限をヒューリスティックに近似する（ここで、ａ_１はスケーリング定数であり、t>=1は、現在のトレーニング段階である）。ここで、我々の実験においては、一定の速度（ｒａｔｅ）にて新たな作業（ｔａｓｋ）を提供するため、知識の総量がトレーニング時間に正比例すると仮定する。η_iの単調増加関数を作るために、tanh(b₁η)を上限（ｕｐｐｅｒ ｂｏｕｎｄ）と結合する。ここで、ｂ_１は、ｔａｎｈ関数の勾配（傾斜）を制御するための別の定数である。結果的に、安定性損失（ｓｔａｂｉｌｉｔｙ－ｌｏｓｓ）は、a₁tC_itanh(b₁η_i)と定義される。

【0039】

第二番目の関数は、新たな知識に対する嫌気（ｒｅｌｕｃｔａｎｃｅ）を減らすための塑性側面の損失である。上限η_i＝０から始まって０まで単調に減少するη_iの減少関数である。この場合、上限は、既存の知識を考慮せず、したがって、Ｃ_ｉもしくはｔとは関連性がない。したがって、塑性損失（ｐｌａｓｔｉｃｉｔｙ－ｗｉｓｅ ｌｏｓｓ）は、a₂(1-tanh(b₂η_i))と定義される。ここで、ａ_２とｂ_２は、スケールと勾配を制御するための定数である。

【0040】

安定性と塑性との釣り合いを見出すために、下記の数６の結合損失関数を最小化させるη_iを選択する。

【0041】

【数6】

【0042】

df/dη_i=0にセットして、我々は、下記の数７を得る。ここで、

である。

【0043】

【数7】

【数8】

【0044】

関数cosh(b₂η)/cosh(b₁η)の性質は、b₁>=b₂ であるか、もしくは、b₁<b₂であるかに応じて大きく左右される。もし、b₁>=b₂であれば、最適なη_iは、単純階段関数（ｓｉｍｐｌｅ ｓｔｅｐ ｆｕｎｃｔｉｏｎ）となる。したがって、我々は、b₁<b₂を制約条件として設定する。

【0045】

もし、tC_i>βであれば、f(η_i)は、η_iに対して厳格に増加し、最適なη_iは、最小値、すなわち、η_i=０である。tC_i>=βである場合に対して、我々は、上記の数７を解くためにテイラー近似を適用する。cosh(b₂η)/cosh(b₁η)の閉じた形態の逆関数が存在しないからである。ｃｏｓｈが偶関数（ｅｖｅｎ ｆｕｎｃｔｉｏｎ）であれば、下記の数９から明らかなように、偶数次数（ｅｖｅｎ ｄｅｇｒｅｅ ｔｅｒｍ）のみが残ることになる。

【0046】

【数9】

【0047】

小さなη_iに対して

であると仮定すれば、数９の解き方は、下記の数１０の通りである。このとき、

である。

【0048】

【数10】

【0049】

上記の数１０において、tC_i=βであるとき、η_i=０であり、これは、二つの関数が連続して接続されるようにする。それぞれtC_i>βであり、かつ、tC_i<=βであるとき、二つのケースを結合すれば、数７のソリューションは、下記の数１１のように与えられる。このとき、α，β＞０は、ハイパーパラメーターである。

【0050】

【数11】

（１１）

【0051】

数１１において、Ｃ_ｉが大きければ大きいほど、η_iが小さくなるため、その次の学習において重要なニューロンが統合（ｃｏｎｓｏｌｉｄａｔｉｎｇ）される。しかしながら、もし、Ｃ_ｉ＝０であれば、η_iは発散（ｄｉｖｅｒｇｅ）する。これは、塑性－安定性ジレンマの視点から説明することができる。もし、ニューロンが全く知識がなければ、既存の知識の損失を考慮せず、できる限り新たな知識を学ぶことが好ましい。しかしながら、たとえニューロンが失う知識がないとしても、学習速度が高くはないものの、学習効率を高める適切な学習率であるため、これは、実際に誤ったことである。したがって、大きな学習率により問題が生じないように学習率の上限を設定した。数７の最終解は、下記の数（１２）である。

【0052】

【数12】

（１２）

【0053】

下記のＡｌｇｏｒｉｔｈｍ １は、ＮＰＣアルゴリズムを示す。ＮＰＣは、予め定められた学習スケジュールなしに起動されるように設計されたものの、現在のトレーニングサンプルが属している作業に関する知識が必要であるため、各作業の損失を計算することが避けられない。しかしながら、各作業に最適化された最新のパラメーターセットのような追加的な作業－特化（ｔａｓｋ－ｓｐｅｃｉｆｉｃ）情報が必要ではない。逆伝搬アルゴリズムにより計算される活性化および勾配度から簡単に計算されることを考慮すれば、ＮＰＣを実現するオーバーヘッドは最小となる。

【0054】

【0055】

３．３ インスタンス正規化（Ｉｎｓｔａｎｃｅ Ｎｏｒｍａｌｉｚａｔｉｏｎ）
バッチ正規化（Ｂａｔｃｈ Ｎｏｒｍａｌｉｚａｔｉｏｎ；ＢＮ）は、深層ニューラルネットワーク（ｄｅｅｐ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ）訓練に重要な役割を果たす［Ｉｏｆｆｅ Ｓｚｅｇｅｄｙ （２０１５） Ｉｏｆｆｅ ａｎｄ Ｓｚｅｇｅｄｙ］。しかしながら、平均および分散が作業の切り換えに大きく影響を受けるため、継続的な学習環境においてはバニラ―バッチ正規化が正常に作動しない。この場合、条件付き一括処理正規化［Ｄｅ ～ Ｖｒｉｅｓ ｅｔ ａｌ． （２０１７） Ｄｅ ～ Ｖｒｉｅｓ， Ｓｔｒｕｂ， Ｍａｒｙ， Ｌａｒｏｃｈｅｌｌｅ， Ｐｉｅｔｑｕｉｎ ａｎｄ Ｃｏｕｒｖｉｌｌｅ］および仮想一括正規化［Ｓａｌｉｍａｎｓ ｅｔ ａｌ． （２０１６） Ｓａｌｉｍａｎｓ， Ｇｏｏｄｆｅｌｌｏｗ， Ｚａｒｅｍｂａ， Ｃｈｅｕｎｇ， Ｒａｄｆｏｒｄ ａｎｄ Ｃｈｅｎ］などのいくつかの代案がある。しかしながら、これらの二種類の方法は、ＳＮＰＣに適用することができるものの、作業－特化情報を保持・管理するため、ＮＰＣには向いていない。したがって、アフィン変換（ａｆｆｉｎｅ ｔｒａｎｓｆｏｒｍ）と移動平均が除去されるインスタンス正規化の単純化されたバージョン［Ｕｌｙａｎｏｖ ｅｔ ａｌ． （２０１６） Ｕｌｙａｎｏｖ， Ｖｅｄａｌｄｉ ａｎｄ Ｌｅｍｐｉｔｓｋｙ］を適用する。インスタンス正規化が各サンプルに独立的に適用できるということに鑑みると、トレーニング時間だけではなく、テスト時間にもモデルパラメーターを特別な操作なしに作動させる。

【0056】

４．スケジュールされたＮＰＣ（Ｓｃｈｅｄｕｌｅｄ ＮＰＣ）
４．１ 学習スケジュールを用いるＮＰＣ（ＮＰＣ Ｕｓｉｎｇ Ｌｅａｒｎｉｎｇ Ｓｃｈｅｄｕｌｅ）
ＮＰＣは、予め定められた学習スケジュールに依存しない。しかしながら、作業切り換えスケジュールが利用可能であるとき、性能を改善するためにその情報を積極的利用することが好ましい。学習スケジュールが実際に予め定められたわけではないものの、最近、継続的な学習に関する研究は、これと類似する状況において評価されたことがある。［Ｌｉ Ｈｏｉｅｍ（２０１８）Ｌｉ ａｎｄ Ｈｏｉｅｍ， Ｓｈｉｎ ｅｔ～ａｌ．（２０１７）Ｓｈｉｎ， Ｌｅｅ， Ｋｉｍ， ａｎｄ Ｋｉｍ， Ｋａｍｒａ ｅｔ～ａｌ．（２０１７）Ｋａｍｒａ， Ｇｕｐｔａ， ａｎｄ Ｌｉｕ， Ｇｅｐｐｅｒｔｈ Ｋａｒａｏｇｕｚ（２０１６）Ｇｅｐｐｅｒｔｈ ａｎｄ Ｋａｒａｏｇｕｚ， Ｌｏｐｅｚ－Ｐａｚ（２０１７）， Ｆｅｒｎａｎｄｏ ｅｔ～ａｌ．（２０１７）Ｆｅｒｎａｎｄｏ， Ｂａｎａｒｓｅ， Ｂｌｕｎｄｅｌｌ， Ｚｗｏｌｓ， Ｈａ， Ｒｕｓｕ， Ｐｒｉｔｚｅｌ， ａｎｄ Ｗｉｅｒｓｔｒａ， Ｌｅｅ ｅｔ～ａｌ．（２０１７）Ｌｅｅ， Ｙｕｎ， Ｈｗａｎｇ， ａｎｄ Ｙａｎｇ， Ａｌｊｕｎｄｉ ｅｔ～ａｌ．（２０１７）Ａｌｊｕｎｄｉ， Ｃｈａｋｒａｖａｒｔｙ， ａｎｄ Ｔｕｙｔｅｌａａｒｓ， Ｋｉｒｋｐａｔｒｉｃｋ ｅｔ～ａｌ．（２０１７）Ｋｉｒｋｐａｔｒｉｃｋ， Ｐａｓｃａｎｕ， Ｒａｂｉｎｏｗｉｔｚ， Ｖｅｎｅｓｓ， Ｄｅｓｊａｒｄｉｎｓ， Ｒｕｓｕ， Ｍｉｌａｎ， Ｑｕａｎ， Ｒａｍａｌｈｏ， Ｇｒａｂｓｋａ－Ｂａｒｗｉｎｓｋａ， ｅｔ～ａｌ．， Ｌｅｅ ｅｔ～ａｌ．（２０１７）Ｌｅｅ， Ｋｉｍ， Ｊｕｎ， Ｈａ， ａｎｄ Ｚｈａｎｇ， Ｎｇｕｙｅｎ ｅｔ～ａｌ．（２０１７）Ｎｇｕｙｅｎ， Ｌｉ， Ｂｕｉ， ａｎｄ Ｔｕｒｎｅｒ， Ｌｉｕ ｅｔ～ａｌ．（２０１８）Ｌｉｕ， Ｍａｓａｎａ， Ｈｅｒｒａｎｚ， Ｖａｎ～ｄｅ Ｗｅｉｊｅｒ， Ｌｏｐｅｚ， ａｎｄ Ｂａｇｄａｎｏｖ， Ｚｅｎｋｅ ｅｔ～ａｌ．（２０１７）Ｚｅｎｋｅ， Ｐｏｏｌｅ， ａｎｄ Ｇａｎｇｕｌｉ， Ｚａｃａｒｉａｓ Ａｌｅｘａｎｄｒｅ（２０１８）Ｚａｃａｒｉａｓ ａｎｄ Ａｌｅｘａｎｄｒｅ， Ｋｉｍ ｅｔ～ａｌ．（２０１８）Ｋｉｍ， Ｋｉｍ， ａｎｄ Ｌｅｅ］

【0057】

下記のＡｌｇｏｒｉｔｈｍ ２は、作業切り換えスケジュールに関する知識をより積極的に活用するように設計されたＮＰＣの拡張であるスケジュールされたニューロン－レベル塑性制御（Ｓｃｈｅｄｕｌｅｄ Ｎｅｕｒｏｎ－ｌｅｖｅｌ Ｐｌａｓｔｉｃｉｔｙ Ｃｏｎｔｒｏｌ；ＳＮＰＣ）アルゴリズムを提示する。

【0058】

【0059】

学習が始まると、特定の作業に割り当てられたニューロンがないため、すべてのニューロンは自由である（すなわち、いかなる作業であろうとも、学習することができる）。スケジュールが与えられれば、ＳＮＰＣは、各作業に最も重要な自由ニューロンの部分集合を選択して当該作業に割り当てる。しかる後、他の作業を学びながら予測できない方式により修正され得る自由ニューロンの影響から選択済みのニューロンを保護する。これは、自由ニューロンから選択済みのニューロンへの接続重みを０に凍結することにより成し遂げられる。しかしながら、このような方式により自由ニューロンから選択済みのニューロンへの接続を除去すれば、潜在的な問題が生じることが懸念される。第一に、ニューラルネットワークの容量が減ることが懸念される。第二に、新たな知識が以前の作業に対するネットワーク性能を向上させる上で邪魔になることが懸念される。第一番目の問題は、すべての作業の総和に対してモデル容量が十分ではないときに性能に深刻な影響を及ぼすことが懸念されるものの、より大きなニューラルネットワークにおいては比較的に容易に緩和させることができる。第二番目の問題は、遠隔可能性があるものの、実際にこのような現象はほとんど予想することができない。以前の作業に関する知識がいかなる方式によろうとも保持されない限り、統合されていないニューロンの変更によりほとんど常に破局的忘却を引き起こす虞がある。

【0060】

４．２ 作業ごとのニューロン割り当て（Ｐｅｒ－ｔａｓｋ Ｎｅｕｒｏｎ Ａｌｌｏｃａｔｉｏｎ）
ＳＮＰＣは、ｒ_ｋ×Ｎ_{ｌａｙｅｒ}により各作業に割り当てるべきニューロンの数を決定する（ここで、ｒ_ｋは、Ｔ_ｋに割り当てられるニューロンの割合であり、

である）。ＳＮＰＣは、すべての階層において同一の値を共有して作業間の釣り合いと単純性を向上させる。

【0061】

しかしながら、以前に統合されたニューロンからの接続の有用性が当該作業に直接的に割り当てられたニューロンに匹敵しないという点を考慮するとき、作業ごとにｒ_ｋを均等に振り分け（ｒ_１＝ｒ_２＝．．．＝ｒ_ｋ）てはいけない。前者が後者よりもμ＜１倍に見合う分だけ有用であるとすれば、作業Ｔ_ｋに使用可能な接続の総有用性は、下記の数１３によるＶ_ｋに比例することになる。ここで、第一番目の項は、Ｔ_ｋに割り当てられたニューロン間の接続の総有用性を示し、第二番目の項は、以前に統合されたニューロンからＴ_ｋに対するニューロンへの接続の総有用性を示す。

【0062】

【数13】

（１３）

【0063】

したがって、公正な振り分けのためには、すべてのＶ_ｋがすべての作業に対して同一ではなければならない。この制約条件は、一般に、閉じた形態のソリューションがない非線形関係を示すため、我々は、数値的に解を見出した。５つの作業を学習するとき（ｋ＝５）、μ＝０．５であり、ｒ_ｋの値がそれぞれ０．２８６２、０．２２３５、０．１８５９、０．１６１０および０．１４３３である場合、ニューラルネットワークは、釣り合いのとれた結果を示す。最適な分布は、作業のしにくさもしくは作業間の類似性といった他の要因により影響を受ける可能性がある。しかしながら、この研究においては、このような作業－特化要素を考慮しない。

【0064】

５．実験（Ｅｘｐｅｒｉｍｅｎｔｓ）
５．１ データセットおよび実現詳細（Ｄａｔａｓｅｔｓ ａｎｄ Ｉｍｐｌｅｍｅｎｔａｔｉｏｎ Ｄｅｔａｉｌ）
我々は、ＭＮＩＳＴ［ＬｅＣｕｎ ｅｔ～ａｌ．（１９９８）ＬｅＣｕｎ， Ｂｏｔｔｏｕ， Ｂｅｎｇｉｏ， ａｎｄ Ｈａｆｆｎｅｒ］およびＣＩＦＡＲ１００［Ｋｒｉｚｈｅｖｓｋｙ Ｈｉｎｔｏｎ（２００９）Ｋｒｉｚｈｅｖｓｋｙ ａｎｄ Ｈｉｎｔｏｎ］データセットの増分バージョンを実験した。ここで、Ｌクラスを含むデータセットは、Ｌ／ＫクラスのＫサブセットに分けられ、それぞれは、ｋ番目の作業に分類される。ＭＮＩＳＴおよびＣＩＦＡＲ１００の場合、Ｋを５に設定した。事前処理のために、二つのデータセットの両方ともにパディングの大きさが４であるランダム切り抜き（ｒａｎｄｏｍ ｃｒｏｐｐｉｎｇ）を適用し、増分ＣＩＦＡＲ１００（ｉＣＩＦＡＲ１００）データセットに対する追加的な任意の水平反転（ｒａｎｄｏｍ ｈｏｒｉｚｏｎｔａｌ ｆｌｉｐ）を適用した。また、一貫性を保つために、すべての実験において、一つのエポック（ｅｐｏｃｈ）単位を総トレーニングデータ数が表示される周期と再定義した。例えば、元々ＭＮＩＳＴデータセットに６０，０００個のトレーニングサンプルがあるため、１２，０００個のサンプルを５回処理することとｉＭＮＩＳＴデータセットの一つのエポックを定義した。このようなエポックの新たな定義とともに、我々は、ｉＭＮＩＳＴの各作業に対する下位集合においては１０エポックに見合う分だけモデルを学習し、ｉＣＩＦＡＲ１００の各下位集合においては３０エポックに見合う分だけモデルを学習した。我々は、実験において、ｉＣＩＦＡＲ１００の最初の５個の部分集合を用いた。我々は、すべての作業にミニバッチサイズ２５６を用いた。

【0065】

我々は、ＶＧＧ－１６［Ｓｉｍｏｎｙａｎ Ｚｉｓｓｅｒｍａｎ（２０１４）Ｓｉｍｏｎｙａｎａｎｄ Ｚｉｓｓｅｒｍａｎ］ネットワークを僅かに修正して用いた。上述したように、すべてのバッチ正規化レイヤーをインスタンス正規化レイヤーに取り替えた。最終分類階層（ｆｉｎａｌ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｌａｙｅｒ）の場合、各対象作業に対して完全接続階層（ｆｕｌｌｙ－ｃｏｎｎｅｃｔｅｄ ｌａｙｅｒ）を配置した。各作業に対する交差エントロピー損失（ｃｒｏｓｓ－ｅｎｔｒｏｐｙ ｌｏｓｓ）は、現在の作業に属する出力ノードにおいてのみ計算された。

【0066】

我々は、すべての実験において、α＝０．１、η_max＝０．１に設定した。ＮＰＣの場合、βを２００に設定した。しかしながら、ＳＮＰＣにおいては、重要なノードの学習率を０に完全に落とす必要がなかったため、ＳＮＰＣに対してはさらに大きな値である５００を設定した。すべての実験において、ミニバッチサイズが２５６であるプレーンＳＧＤオプティマイザー（ｐｌａｉｎ ＳＧＤ ｏｐｔｉｍｉｚｅｒ）を用いた。

【0067】

比較のために、ＥＷＣ、Ｌ２正規化および基準線ＳＧＤという３種類の既存の学習アルゴリズムを実現した。ＥＷＣの場合、λ＝１０００に設定して実験環境において最高の性能を示すようにした。ＮＰＣアルゴリズムを用いなかった場合、学習率を０．０１に設定した。

【0068】

５．２ 実験結果（Ｅｘｐｅｒｉｍｅｎｔａｌ Ｒｅｓｕｌｔｓ）
図３および図４は、それぞれｉＭＮＩＳＴとｉＣＩＦＡＲ１００において５種類の継続学習アルゴリズム（ＮＰＣ、ＳＮＰＣ、ＥＷＣ、Ｌ２正規化およびＳＧＤ）の性能を示す。図３において、ＮＰＣおよびＳＮＰＣは、平均正確度（ａｃｃｕｒａｃｙ）の側面からみて、ＥＷＣおよびＬ２ｒｅｇよりも優れた性能を示す。それらの訓練曲線は、ネットワークがＮＰＣまたはＳＮＰＣにより訓練されるときに、先行して学習した知識が後続して学習した知識によりはるかに影響を少なく受けたということを示す。特に、ＳＮＰＣの場合、第一番目の作業の性能は、後続学習の影響をほとんど受けない。その結果は、ＳＮＰＣがその影響が消える時点までｉＭＮＩＳＴに対して破局的忘却を緩和させるということを示す。

【0069】

我々は、ｉＭＮＩＳＴデータセットに対する追加構成をテストした。媒介変数ごとの塑性制御（ｐａｒａｍｅｔｅｒ－ｗｉｓｅ ｐｌａｓｔｉｃｉｔｙ ｃｏｎｔｒｏｌ；ＰＰＣ）は、ニューロンレベルではなく、接続レベルにおいて塑性を制御する。ＮＰＣと同様に、我々は、テイラー基準を用いて重要性を評価した。我々は、β＝３００を用いたが、これは、ＰＰＣがｉＭＮＩＳＴアルゴリズムの最後の作業を十分に学べるようにするβの最小値である。ＰＰＣの性能はＮＰＣよりも悪かった。これは、ニューロンが、ニューラルネットワーク統合の単位として、接続よりもさらに適切であるということを確認してくれる。

【0070】

図４は、ＮＰＣおよびＳＮＰＣがｉＣＩＦＡＲ１００において他のアルゴリズムよりも高い平均正確度を提供し、ｉＭＮＩＳＴよりもさらに成し遂げ難いということを示す。しかしながら、ＮＰＣは、以前の作業よりも最後の作業の方の正確度が低い。他のアルゴリズムにおいても同じ問題が観察されたが、ＮＰＣにおいてはより一層深刻である。我々は、主な理由が、ニューラルネットワークの部分的な統合がモデルの学習能力（ｌｅａｒｎｉｎｇ ｃａｐａｃｉｔｙ）を費やすからであると仮定する。このような問題は、ｉＭＮＩＳＴにおいて明確に観察されなかった。その単純性のおかげで、ＶＧＧネットワークが残りのニューロンが提供する最小容量にて以降の作業をマスターすることができたからである。ＮＰＣとＳＮＰＣとのこのような違いは、ＮＰＣが既存の知識をより一層上手く保存するものの、モデルの学習能力をさらに早く費やすということを示す。すなわち、ＮＰＣは、一つの作業当たりに割り当てられたニューロン数に対する制限や正規化がないため、モデルは、一般に、以前の作業にほとんどのニューロンを用いる傾向にある。したがって、ＮＰＣは、以前の作業に関する知識を致命的な忘却から保護するためにニューロンのかなりの部分を統合し、その結果、図４に示すように、最後の作業において性能が低下する。しかしながら、ＳＮＰＣは、各作業に対してｒ_ｋ×Ｎ_{ｌａｙｅｒ}個のニューロンのみを統合し、以降の作業が特定の数のニューロンを活用することを保証するため、容量の枯渇の問題により困難さが低い。

【0071】

また、我々は、ニューラルネットワークが継続的な学習のための以前の作業よりも以降の作業の方をさらに速く学習するということを観察した。その理由は、ニューラルネットワークが以前の作業において学んだ知識を活用するため、以降の作業が伝達された知識から利益を得ることができるからである。これを明らかにするために、我々は、ＳＮＰＣが最後の作業を学びながら以前の作業において予め訓練された知識を再使用するか否かをテストするための簡単な実験を行った。我々は、他の設定において、ニューロンの１４．３３％（ｒ_５と同じ割合）のみを用いてｉＣＩＦＡＲ１００において３つのＶＧＧネットワークインスタンスを訓練した。図５において、線（ａ）は、４種類の先行作業後のＳＮＰＣ訓練Ｔ_５の学習曲線を示す。点線（ｂ）は、ランダムに初期化されかつ固定された他のニューロンに接続されたニューロンの１４．３３％のみを学習したことを示す。最後に、点線（ｃ）は、ネットワークがランダムに初期化された媒介変数から始まってニューロンの１４．３３％のみを学習するときの学習曲線である。図５は、ＳＮＰＣが他の二つの設定よりもはるかに速く作業を学習するということを示す。これは、ＳＮＰＣが以前の作業において得た知識を積極的に再使用するということを確認してくれる。

【0072】

６ 結論（Ｃｏｎｃｌｕｓｉｏｎ）
この研究においては、ニューロンレベルにおいてニューラルネットワークの塑性を制御するＮＰＣおよびＳＮＰＣという二つの継続的な学習アルゴリズムを提案した。ＮＰＣは、各作業に最適化された最新の媒介変数セットのような情報を保持しない。したがって、予め定義された学習スケジュールなしに実行することができない。これに対し、ＳＮＰＣは、学習スケジュールが予め定義されており、重要なニューロンをより明示的に保護するために積極的に活用する。ｉＭＮＩＳＴおよびｉＣＩＦＡＲ１００データセットの実験結果によれば、ＮＰＣおよびＳＮＰＣは、接続間の関係を考慮しない既存の接続レベル統合アルゴリズムよりもはるかに効果的である。特に、ｉＭＮＩＳＴデータセットに対するＳＮＰＣの結果においては、破局的忘却がほとんど消えていた。

【0073】

ＮＰＣとＳＮＰＣは、継続的な学習において著しく改善されたものの、依然として課題が残っている。情報に対するＮＰＣの従属性は最小であるものの、分類損失を計算するためには、作業を識別しなければならないという事実により依然として制限される。なお、ＮＰＣは、塑性を制御する単位と方法を定義するものの、各ニューロンの重要性を評価しかつ管理するための戦略は探索してみる余地がある。

【0074】

実験する間に、我々は、分類において最高の性能を示すわけではなく、持続的な学習環境において概念を認証するのにさらに集中した。例えば、［Ｒｅａｌ ｅｔ～ａｌ．（２０１８）Ｒｅａｌ， Ａｇｇａｒｗａｌ， Ｈｕａｎｇ， ａｎｄ Ｌｅ］のような最新の分類モデルは、単一の作業環境においてＶＧＧよりもはるかに高い容量を示す。単純性を好む別の選択は、インスタンス正規化であるが、これは、性能のための最善の選択ではない可能性がある。

【0075】

より多様性に富んだアーキテクチャーにＮＰＣを適用するために、残留接続（ｒｅｓｉｄｕａｌ ｃｏｎｎｅｃｔｉｏｎ）［Ｈｅ ｅｔ～ａｌ．（２０１６）Ｈｅ， Ｚｈａｎｇ， Ｒｅｎ， ａｎｄ Ｓｕｎ］は、解決すべき邪魔物の一つである。色々なニューロン出力の合算を解析し、いかなるニューロンを保存すべきであるかを決定することは特に重要であり、重要ではないニューロンが追加されるときに、明らかではない問題である。

【0076】

ｉＣＩＦＡＲ１００などの一般的なオンライン学習ベンチマークは、同じ作業を再び訪れないため、モデルが一節（ｐａｓｓａｇｅ）を単にブロックして破局的忘却を引き起こす虞がある。しかしながら、作業を２回以上訓練することができる状況においては、今後作業を学習する間に取得した知識を統合してモデルをさらに向上させることが好ましい。これは、ＮＰＣには問題にならないものの、ＳＮＰＣにとっては以降の作業に対するニューロンが以前の作業に対するニューロンに依存して大きくなる虞があるという点を考慮すれば、問題になる可能性がある。十分に低い学習速度を用いることの他に、簡単な解決策の一つは、見直された作業をまるで新たな作業であるかのように取り扱うことである。しかしながら、これは、破局的忘却の影響を緩和させることができるものの、モデルの容量がはるかに大きくなければならないため、長期的な観点からみて、実際的な問題を引き起こす虞がある。

【0077】

重要度の評価に用いたテイラー基準とほぼ同様に、ネットワーク定理に関する研究は、ディープラーニング（深層学習）モデルが驚くべきことに小さな大きさにて複雑な知識を学べる方法を示す。しかしながら、明らかな介入がなければ、深層ニューラルネットワークは、実際に必要な容量よりもさらに多い容量を費やす傾向にある。ＳＮＰＣは、作業ごとのニューロンの割り当てによりこの問題を避けるが、作業が累積されるときにモデル容量が枯渇されるため、ＮＰＣは、この問題から除外されない。モデルの大きさとは無関係に、最初のいくつかの作業がほとんどのモデルを占める傾向にあるということを観察した。我々は、モデルが一つの作業当たりに最小容量を用いるように強制する方法があるのであれば、ＮＰＣが大きな利益を得る筈であると考える。

【0078】

ＩＩ．本発明において提案する方法およびシステム
上述した以上の研究によるニューロン－レベル塑性制御（ＮＰＣ）またはスケジュールされたＮＰＣ（ＳＮＰＣ）を通じて破局的忘却を克服するための方法は、コンピューティングシステムにより行われることができる。

【0079】

上述のコンピューティングシステムとは、本発明の技術的な思想を実現するための演算能力をもったデータ処理装置のことをいい、一般に、ネットワークを介してクライアントが接続可能なサーバーなどのデータ処理装置だけではなく、パソコン、携帯端末のように特定のサービスが行えるいかなる装置もコンピューティングと定義可能であるということを本発明の技術分野における平均的な専門家は容易に推論できる筈である。

【0080】

一方、上述のコンピューティングシステムは、本発明の技術的な思想を実現するために必要なハードウェアリソース（ｒｅｓｏｕｒｃｅ）及び／又はソフトウェアを備えることができ、必ずしも一つの物理的な構成要素を意味したり、一台の装置を意味したりするとは限らない。すなわち、上述のコンピューティングシステムは、本発明の技術的な思想を実現するために備えられるハードウェア及び／又はソフトウェアの論理的な結合を意味することもあり、必要に応じては、互いに離れている装置に設けられてそれぞれの機能を行うことにより本発明の技術的な思想を実現するための論理的な構成の集合により実現されてもよい。なお、上述のコンピューティングシステムは、本発明の技術的な思想を実現するためのそれぞれの機能または役割ごとに別途に実現される構成の集合を意味することもある。 上述のコンピューティングシステムは、多数のモジュールの形態として実現されることが可能である。

【0081】

この明細書において、モジュールとは、本発明の技術的な思想を行うためのハードウェアおよびハードウェアを駆動するためのソフトウェアの機能的、構造的な結合を意味することがある。例えば、モジュールは、所定のコードと所定のコードが実行されるためのハードウェアリソースの論理的な単位を意味することがあり、必ずしも物理的に接続されたコードを意味したり、一種類のハードウェアを意味したりするとは限らないということは、本発明の技術分野における平均的な専門家にとっては容易に推論されることが可能である。

【0082】

図６は、本発明の一実施形態に係るコンピューティングシステムの構成を示す図である。

【0083】

図６を参照すると、コンピューティングシステム１００は、入力モジュール１１０と、出力モジュール１２０と、格納モジュール１３０と、制御モジュール１４０と、を備えていてもよい。

【0084】

入力モジュール１１０は、本発明の技術的な思想を実現する上で必要とされる各種のデータをコンピューティング装置１１０の外部から入力されることができる。例えば、入力モジュール１１０は、トレーニングデータセット、各種のパラメーター及び／又はハイパーパラメーターを入力されることができる。

【0085】

出力モジュール１２０は、コンピューティングシステム１００に格納されていたり、コンピューティングシステム１００が生成したりしたデータを外部に出力することができる。

【0086】

格納モジュール１３０は、本発明の技術的な思想を実現する上で必要とされる各種の情報及び／又はデータを格納することができる。例えば、格納モジュール１３０は、ニューラルネットワークモデル（ｎｅｕｒａｌ ｎｅｔｗｏｒｋ ｍｏｄｅｌ）、トレーニングデータ、各種のパラメーター及び／又はハイパーパラメーターを格納することができる。格納モジュール１３０は、ランダムアクセスメモリ（ＲＡＭ：Ｒａｍｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）などの揮発性メモリやハードディスクドライブ（ＨＤＤ：Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）やソリッドステートディスク（ＳＳＤ：Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｉｓｋ）などの不揮発性メモリを備えていてもよい。

【0087】

制御モジュール１４０は、コンピューティングシステム１００に備えられている他の構成要素（例えば、入力モジュール１１０、出力モジュール１２０及び／又は格納モジュール１３０）を制御することができる。制御モジュール１４０は、シングルコアＣＰＵやマルチコアＣＰＵ、ＧＰＵなどのプロセッサーを備えていてもよい。

【0088】

また、制御モジュール１４０は、上述した研究によるニューロン－レベル塑性制御（ＮＰＣ）またはスケジュールされたＮＰＣ（ＳＮＰＣ）を行うことができる。例えば、制御モジュール１４０は、格納モジュール１３０に格納されたニューラルネットワークモデルおよびトレーニングデータを上述したＮＰＣアルゴリズムまたはＳＮＰＣアルゴリズムに適用することができる。

【0089】

図７は、制御モジュール１４０が行うニューロン－レベル塑性の制御方法を示すフローチャートである。

【0090】

図８は、制御モジュール１４０が行うスケジュールされたニューロン－レベル塑性の制御方法を示すフローチャートである。

【0091】

一方、実現例に応じて、コンピューティングシステム１００は、少なくとも一つのプロセッサーおよびプロセッサーにより起動されるプログラムを格納するメモリを備えていてもよい。プロセッサーは、シングルコアＣＰＵもしくはマルチコアＣＰＵを備えていてもよい。メモリは、高速ランダムアクセスメモリを備えていてもよく、一台以上の磁気ディスク記憶装置、フラッシュメモリ装置、またはその他の不揮発性ソリッドステートメモリ装置などの不揮発性メモリを備えていてもよい。プロセッサーおよびその他の構成要素によるメモリへのアクセスは、メモリコントローラーにより制御されることが可能である。

【0092】

一方、本発明の実施形態に係る方法は、コンピューターにて読み取り可能なプログラム指令の形態として実現されてコンピューターにて読み取り可能なメモリもしくは記録媒体に格納されてもよい。コンピューターにて読み取り可能な記録媒体は、コンピューターシステムにより読み取られ得るデータが記憶されるあらゆる種類の記録装置を網羅する。

【0093】

記録媒体に書き込まれるプログラム指令は、本発明のために特別に設計されかつ構成されたものであってもよく、ソフトウェア分野における当業者に公知となって使用可能なものであってもよい。

【0094】

コンピューターにて読取り可能な記録媒体の例としては、ハードディスク、フロッピーディスクおよび磁気テープなどの磁気媒体（ｍａｇｎｅｔｉｃ ｍｅｄｉａ）、ＣＤ－ＲＯＭ、ＤＶＤなどの光記録媒体（ｏｐｔｉｃａｌ ｍｅｄｉａ）、フロプティカルディスク（ｆｌｏｐｔｉｃａｌ ｄｉｓｋ）などの磁気－光媒体（ｍａｇｎｅｔｏ－ｏｐｔｉｃａｌ ｍｅｄｉａ）および読み取り専用のメモリ（ＲＯＭ）、ランダムアクセスメモリ（ＲＡＭ）、フラッシュメモリなどのようにプログラム指令を記憶しかつ実行するように特別に構成されたハードウェア装置が挙げられる。なお、コンピューターにて読取り可能な記録媒体は、ネットワークにより結ばれたコンピューターに分散されて、分散方式によりコンピューターにて読取り可能なコードが記憶されかつ起動されてもよい。

【0095】

プログラム指令の例としては、コンパイラーにより作成されるもののような機械語コードだけではなく、インタープリターなどを用いて電子的に情報を処理する装置、例えば、コンピューターにより実行可能な高級言語コードが挙げられる。

【0096】

上述したハードウェア装置は、本発明の動作を行うために一つ以上のソフトウェアモジュールとして作動するように構成されてもよく、その逆もまた同様である。

【0097】

上述した本発明の説明は、単なる例示のためのものであり、本発明が属する技術分野における通常の知識を有する者は、本発明の技術的な思想や必須的な特徴を変更することなく、他の具体的な形態へと容易に変形できるということが理解できる筈である。よって、上述した実施形態は、あらゆる面において例示的なものに過ぎず、限定的なものではないものと理解すべきである。例えば、単一型であると説明されている各構成要素は、分散されて実施されてもよく、同様に、分散されていると説明されている構成要素も、組み合わせられた形態に実施されてもよい。

【0098】

本発明の範囲は、上記の詳細な説明よりは特許請求の範囲によって表わされ、特許請求の範囲の意味及び範囲、並びにその均等概念から導き出されるあらゆる変更または変形された形態もまた本発明の範囲に含まれるものと解釈されるべきである。

【産業上の利用可能性】

【0099】

本発明は、ニューロン－レベル塑性制御を通じて破局的忘却を克服するための方法およびこれを行うコンピューティングシステムに利用可能である。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】