ホーム > 特許ランキング > 株式会社ＪＶＣケンウッド
知財求人 - 知財ポータルサイト「IP Force」
特開2024-173962機械学習装置、推論装置、機械学習方法、および機械学習プログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024173962
(43)【公開日】2024-12-13
(54)【発明の名称】機械学習装置、推論装置、機械学習方法、および機械学習プログラム
(51)【国際特許分類】
G06N 3/092 20230101AFI20241206BHJP
【ＦＩ】
G06N3/092
【審査請求】有
【請求項の数】3
【出願形態】ＯＬ
(21)【出願番号】P 2024163849
(22)【出願日】2024-09-20
(62)【分割の表示】P 2021032801の分割
【原出願日】2021-03-02
(71)【出願人】
【識別番号】308036402
【氏名又は名称】株式会社ＪＶＣケンウッド
(72)【発明者】
【氏名】竹原 英樹
(72)【発明者】
【氏名】木田 晋吾
(72)【発明者】
【氏名】楊 尹誠
(57)【要約】
【課題】追加で学習できるタスク数と追加したタスクの精度を目標タスクに対して最適に
することができる機械学習技術を提供する。
【解決手段】初期化率決定部２２は、ニューラルネットワークモデルの層の深さに応じて
第１タスクのニューラルネットワークモデルの重みを初期化する第１初期化率を決定する
。機械学習実行部２４は、第１タスクを機械学習して第１タスクの学習済みニューラルネ
ットワークモデルを生成する。初期化部２６は、第１タスクの学習済みニューラルネット
ワークモデルの重みを第１初期化率に基づいて初期化して、第２タスクで用いるための第
１タスクの初期化学習済みニューラルネットワークモデルを生成する。
【選択図】図２
することができる機械学習技術を提供する。
【解決手段】初期化率決定部２２は、ニューラルネットワークモデルの層の深さに応じて
第１タスクのニューラルネットワークモデルの重みを初期化する第１初期化率を決定する
。機械学習実行部２４は、第１タスクを機械学習して第１タスクの学習済みニューラルネ
ットワークモデルを生成する。初期化部２６は、第１タスクの学習済みニューラルネット
ワークモデルの重みを第１初期化率に基づいて初期化して、第２タスクで用いるための第
１タスクの初期化学習済みニューラルネットワークモデルを生成する。
【選択図】図２
【特許請求の範囲】
【請求項1】
複数のタスクから１つのタスクを選択するタスク入力部と、
前記選択されたタスクの学習後に初期化されていない重みを特定する情報である有効パ
ラメータ情報を取得し、取得した有効パラメータ情報に基づき、前記複数のタスクを学習
済みであるニューラルネットワークモデルの重みを前記選択されたタスクで利用される重
み以外の重みを０に設定した推論用ニューラルネットワークモデルを生成する推論モデル
生成部と、
前記選択されたタスクを前記推論用ニューラルネットワークモデルにもとづいて推論す
る推論部とを含むことを特徴とする推論装置。
前記選択されたタスクの学習後に初期化されていない重みを特定する情報である有効パ
ラメータ情報を取得し、取得した有効パラメータ情報に基づき、前記複数のタスクを学習
済みであるニューラルネットワークモデルの重みを前記選択されたタスクで利用される重
み以外の重みを０に設定した推論用ニューラルネットワークモデルを生成する推論モデル
生成部と、
前記選択されたタスクを前記推論用ニューラルネットワークモデルにもとづいて推論す
る推論部とを含むことを特徴とする推論装置。
【請求項2】
複数のタスクから１つのタスクを選択するタスク入力ステップと、
前記選択されたタスクの学習後に初期化されていない重みを特定する情報である有効パ
ラメータ情報を取得し、取得した有効パラメータ情報に基づき、前記複数のタスクを学習
済みであるニューラルネットワークモデルの重みを前記選択されたタスクで利用される重
み以外の重みを０に設定した推論用ニューラルネットワークモデルを生成する推論モデル
生成ステップと、
前記選択されたタスクを前記推論用ニューラルネットワークモデルにもとづいて推論す
る推論ステップとを含むことを特徴とする推論方法。
前記選択されたタスクの学習後に初期化されていない重みを特定する情報である有効パ
ラメータ情報を取得し、取得した有効パラメータ情報に基づき、前記複数のタスクを学習
済みであるニューラルネットワークモデルの重みを前記選択されたタスクで利用される重
み以外の重みを０に設定した推論用ニューラルネットワークモデルを生成する推論モデル
生成ステップと、
前記選択されたタスクを前記推論用ニューラルネットワークモデルにもとづいて推論す
る推論ステップとを含むことを特徴とする推論方法。
【請求項3】
複数のタスクから１つのタスクを選択するタスク入力ステップと、
前記選択されたタスクの学習後に初期化されていない重みを特定する情報である有効パ
ラメータ情報を取得し、取得した有効パラメータ情報に基づき、前記複数のタスクを学習
済みであるニューラルネットワークモデルの重みを前記選択されたタスクで利用される重
み以外の重みを０に設定した推論用ニューラルネットワークモデルを生成する推論モデル
生成ステップと、
前記選択されたタスクを前記推論用ニューラルネットワークモデルにもとづいて推論す
る推論ステップとをコンピュータに実行させることを特徴とする推論プログラム。
前記選択されたタスクの学習後に初期化されていない重みを特定する情報である有効パ
ラメータ情報を取得し、取得した有効パラメータ情報に基づき、前記複数のタスクを学習
済みであるニューラルネットワークモデルの重みを前記選択されたタスクで利用される重
み以外の重みを０に設定した推論用ニューラルネットワークモデルを生成する推論モデル
生成ステップと、
前記選択されたタスクを前記推論用ニューラルネットワークモデルにもとづいて推論す
る推論ステップとをコンピュータに実行させることを特徴とする推論プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、機械学習技術に関する。
【背景技術】
【0002】
人間は長期にわたる経験を通して新しい知識を学習することができ、昔の知識を忘れな
いように維持することができる。一方、畳み込みニューラルネットワーク（Convolutiona
l Neural Network(CNN)）の知識は学習に使用したデータセットに依存しており、データ
分布の変化に適応するためにはデータセット全体に対してＣＮＮのパラメータの再学習が
必要となる。ＣＮＮでは、新しいタスクについて学習していくにつれて、昔のタスクに対
する推定精度は低下していく。このようにＣＮＮでは連続学習を行うと新しいタスクの学
習中に昔のタスクの学習結果を忘れてしまう致命的忘却(catastrophic forgetting)が避
けられない。
いように維持することができる。一方、畳み込みニューラルネットワーク（Convolutiona
l Neural Network(CNN)）の知識は学習に使用したデータセットに依存しており、データ
分布の変化に適応するためにはデータセット全体に対してＣＮＮのパラメータの再学習が
必要となる。ＣＮＮでは、新しいタスクについて学習していくにつれて、昔のタスクに対
する推定精度は低下していく。このようにＣＮＮでは連続学習を行うと新しいタスクの学
習中に昔のタスクの学習結果を忘れてしまう致命的忘却(catastrophic forgetting)が避
けられない。
【0003】
致命的忘却を回避する手法として、継続学習（incremental learningまたはcontinual
learning）が提案されている。継続学習とは、新しいタスクや新しいデータが発生した時
に、最初からモデルを学習するのではなく、現在の学習済みのモデルを改善して学習する
学習方法である。継続学習の一つの手法としてＰａｃｋＮｅｔがある（非特許文献１）。
ＰａｃｋＮｅｔによる継続学習では、追加するタスクの順序において利用する重みを変更
している。
learning）が提案されている。継続学習とは、新しいタスクや新しいデータが発生した時
に、最初からモデルを学習するのではなく、現在の学習済みのモデルを改善して学習する
学習方法である。継続学習の一つの手法としてＰａｃｋＮｅｔがある（非特許文献１）。
ＰａｃｋＮｅｔによる継続学習では、追加するタスクの順序において利用する重みを変更
している。
【先行技術文献】
【非特許文献】
【0004】
【非特許文献1】Mallya, Arun, and Svetlana Lazebnik. “Packnet: Adding multiple tasks to a single network by iterative pruning.” Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2018.
【発明の概要】
【発明が解決しようとする課題】
【0005】
ＰａｃｋＮｅｔでは、追加で学習できるタスク数と追加したタスクの精度が目標タスク
に対して向上されないという課題があった。
に対して向上されないという課題があった。
【0006】
本発明はこうした状況に鑑みてなされたものであり、その目的は、追加で学習できるタ
スク数と追加したタスクの精度を目標タスクに対して最適にすることができる機械学習技
術を提供することにある。
スク数と追加したタスクの精度を目標タスクに対して最適にすることができる機械学習技
術を提供することにある。
【課題を解決するための手段】
【0007】
上記課題を解決するために、本発明のある態様の機械学習装置は、ニューラルネットワ
ークモデルの層の深さに応じて第１タスクのニューラルネットワークモデルの重みを初期
化する第１初期化率を決定する初期化率決定部と、前記第１タスクを機械学習して第１タ
スクの学習済みニューラルネットワークモデルを生成する機械学習実行部と、前記第１タ
スクの学習済みニューラルネットワークモデルの重みを前記第１初期化率に基づいて初期
化して、第２タスクで用いるための前記第１タスクの初期化学習済みニューラルネットワ
ークモデルを生成する初期化部とを含む。
ークモデルの層の深さに応じて第１タスクのニューラルネットワークモデルの重みを初期
化する第１初期化率を決定する初期化率決定部と、前記第１タスクを機械学習して第１タ
スクの学習済みニューラルネットワークモデルを生成する機械学習実行部と、前記第１タ
スクの学習済みニューラルネットワークモデルの重みを前記第１初期化率に基づいて初期
化して、第２タスクで用いるための前記第１タスクの初期化学習済みニューラルネットワ
ークモデルを生成する初期化部とを含む。
【0008】
本発明の別の態様は、推論装置である。この装置は、複数のタスクから１つのタスクを
選択するタスク入力部と、前記複数のタスクを学習済みであるニューラルネットワークモ
デルの重みを前記選択されたタスクで利用される重み以外の重みを０に設定した新たなニ
ューラルネットワークモデルを生成する推論モデル生成部と、前記選択されたタスクを前
記新たなニューラルネットワークモデルにもとづいて推論する推論部とを含む。
選択するタスク入力部と、前記複数のタスクを学習済みであるニューラルネットワークモ
デルの重みを前記選択されたタスクで利用される重み以外の重みを０に設定した新たなニ
ューラルネットワークモデルを生成する推論モデル生成部と、前記選択されたタスクを前
記新たなニューラルネットワークモデルにもとづいて推論する推論部とを含む。
【0009】
本発明のさらに別の態様は、機械学習方法である。この方法は、ニューラルネットワー
クモデルの層の深さに応じて第１タスクのニューラルネットワークモデルの重みを初期化
する第１初期化率を決定する初期化率決定ステップと、前記第１タスクを機械学習して第
１タスクの学習済みニューラルネットワークモデルを生成する機械学習実行ステップと、
前記第１タスクの学習済みニューラルネットワークモデルの重みを前記第１初期化率に基
づいて初期化して、第２タスクで用いるための前記第１タスクの初期化学習済みニューラ
ルネットワークモデルを生成する初期化ステップとを含む。
クモデルの層の深さに応じて第１タスクのニューラルネットワークモデルの重みを初期化
する第１初期化率を決定する初期化率決定ステップと、前記第１タスクを機械学習して第
１タスクの学習済みニューラルネットワークモデルを生成する機械学習実行ステップと、
前記第１タスクの学習済みニューラルネットワークモデルの重みを前記第１初期化率に基
づいて初期化して、第２タスクで用いるための前記第１タスクの初期化学習済みニューラ
ルネットワークモデルを生成する初期化ステップとを含む。
【0010】
なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、記録媒
体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効で
ある。
体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効で
ある。
【発明の効果】
【0011】
本発明によれば、追加で学習できるタスク数と追加したタスクの精度を目標タスクに対
して最適にすることができる機械学習技術を提供することができる。
して最適にすることができる機械学習技術を提供することができる。
【図面の簡単な説明】
【0012】
【図1】実施の形態に係る機械学習装置および推論装置の構成図である。
【図6】ニューラルネットワークモデルの各層の入出力チャネル数、入出力チャネル間の重み数、各層の総重み数、パラメータ数を説明する図である。
【図8】タスク３に関するニューラルネットワークモデルの初期化率の所定値を説明する図である。
【発明を実施するための形態】
【0013】
図１は、実施の形態に係る機械学習装置１００および推論装置２００の構成図である。
機械学習装置１００は、タスク入力部１０、継続学習部２０、および記憶部３０を含む。
推論装置２００は、タスク入力部４０、タスク判定部５０、推論モデル生成部６０、推論
部７０、および推論結果出力部８０を含む。
機械学習装置１００は、タスク入力部１０、継続学習部２０、および記憶部３０を含む。
推論装置２００は、タスク入力部４０、タスク判定部５０、推論モデル生成部６０、推論
部７０、および推論結果出力部８０を含む。
【0014】
継続学習では、致命的忘却なく新たなタスクを学習することが求められる。本実施の形
態の機械学習装置１００は、継続学習の中で特に新しいタスクを学習済みモデルに追加で
学習させることを目的とする。
態の機械学習装置１００は、継続学習の中で特に新しいタスクを学習済みモデルに追加で
学習させることを目的とする。
【0015】
機械学習装置１００は、複数のタスクから継続学習によりターゲットモデルと有効パラ
メータ情報を生成する装置である。ここでは説明を簡単にするため、タスクとして以下の
３つがあるとして説明するが、タスクの数や種類は任意である。
メータ情報を生成する装置である。ここでは説明を簡単にするため、タスクとして以下の
３つがあるとして説明するが、タスクの数や種類は任意である。
【0016】
タスク１は、第１のデータセットであるＩｍａｇｅＮｅｔデータセットを用いた画像認
識タスクである。タスク２は、第２のデータセットであるＰｌａｃｅｓ３６５データセッ
トを用いた画像認識タスクである。タスク３は、第３のデータセットであるＣＵＢＳ Ｂ
ｉｒｄｓデータセットを用いた画像認識タスクである。推論装置２００に入力されるタス
クＮは、ターゲットモデルが学習済みのタスクであるタスク１からタスク３のいずれかの
タスクである。ここでは、各タスクに異なるデータセットをそれぞれ割り当てたが、各タ
スクが異なる認識タスクであればこれに限定されない。１つのデータセットを複数のタス
クに分割してもよい。例えば、ＩｍａｇｅＮｅｔデータセットの中の異なる１０クラスを
タスク１、タスク２、タスク３にそれぞれ割り当ててもよい。また、各タスクの画像は図
示しないカメラ等の画像取得部からタスク入力部１０へ入力される画像であってもよい。
例えば、タスク１を既存画像のデータセットとし、タスク２以降を図示しないカメラ等か
らタスク入力部１０へ入力される画像のデータセットとしてもよい。
識タスクである。タスク２は、第２のデータセットであるＰｌａｃｅｓ３６５データセッ
トを用いた画像認識タスクである。タスク３は、第３のデータセットであるＣＵＢＳ Ｂ
ｉｒｄｓデータセットを用いた画像認識タスクである。推論装置２００に入力されるタス
クＮは、ターゲットモデルが学習済みのタスクであるタスク１からタスク３のいずれかの
タスクである。ここでは、各タスクに異なるデータセットをそれぞれ割り当てたが、各タ
スクが異なる認識タスクであればこれに限定されない。１つのデータセットを複数のタス
クに分割してもよい。例えば、ＩｍａｇｅＮｅｔデータセットの中の異なる１０クラスを
タスク１、タスク２、タスク３にそれぞれ割り当ててもよい。また、各タスクの画像は図
示しないカメラ等の画像取得部からタスク入力部１０へ入力される画像であってもよい。
例えば、タスク１を既存画像のデータセットとし、タスク２以降を図示しないカメラ等か
らタスク入力部１０へ入力される画像のデータセットとしてもよい。
【0017】
タスク入力部１０は、複数のタスク（ここではタスク１、タスク２、タスク３）を継続
学習部２０に順次供給する。
学習部２０に順次供給する。
【0018】
継続学習部２０は、複数のタスク（ここではタスク１、タスク２、タスク３）を順次用
いてニューラルネットワークモデルを継続学習してターゲットモデルと有効パラメータ情
報を生成する。
いてニューラルネットワークモデルを継続学習してターゲットモデルと有効パラメータ情
報を生成する。
【0019】
ターゲットモデルは、継続学習部２０で生成される学習済みニューラルネットワークモ
デルである。ターゲットモデルは、継続学習によって最終的に複数のタスク（ここではタ
スク１、タスク２、タスク３）の学習済みニューラルネットワークとなる。有効パラメー
タ情報は、継続学習部２０で生成される学習済みニューラルネットワークモデルに対して
、タスク毎に有効にする学習済みニューラルネットワークモデルの重み等のパラメータを
特定する情報である。有効パラメータ情報の詳細は後述する。
デルである。ターゲットモデルは、継続学習によって最終的に複数のタスク（ここではタ
スク１、タスク２、タスク３）の学習済みニューラルネットワークとなる。有効パラメー
タ情報は、継続学習部２０で生成される学習済みニューラルネットワークモデルに対して
、タスク毎に有効にする学習済みニューラルネットワークモデルの重み等のパラメータを
特定する情報である。有効パラメータ情報の詳細は後述する。
【0020】
記憶部３０は、ターゲットモデルと有効パラメータ情報を記憶する。
【0021】
推論装置２００は、機械学習装置１００で生成されたターゲットモデルと有効パラメー
タ情報を用いて、複数のタスクについて推論結果を生成する装置である。
タ情報を用いて、複数のタスクについて推論結果を生成する装置である。
【0022】
タスク入力部４０は、タスクＮを推論部７０に供給する。タスク判定部５０は、推論部
７０に供給されるタスクＮが学習済みのいずれのタスクであるか（ここではタスク１、タ
スク２、タスク３のいずれか）を判定し、判定結果を推論モデル生成部６０に供給する。
本実施の形態ではユーザがタスク１からタスク３のいずれであるかを指定するものとする
が、何らかの方法で自動判定してもよい。
７０に供給されるタスクＮが学習済みのいずれのタスクであるか（ここではタスク１、タ
スク２、タスク３のいずれか）を判定し、判定結果を推論モデル生成部６０に供給する。
本実施の形態ではユーザがタスク１からタスク３のいずれであるかを指定するものとする
が、何らかの方法で自動判定してもよい。
【0023】
推論モデル生成部６０は、機械学習装置１００の記憶部３０から取得したターゲットモ
デルと有効パラメータ情報を記憶し、ターゲットモデルと有効パラメータ情報に基づいて
推論モデルを生成し、推論部７０に供給する。
デルと有効パラメータ情報を記憶し、ターゲットモデルと有効パラメータ情報に基づいて
推論モデルを生成し、推論部７０に供給する。
【0024】
推論部７０は、推論モデル生成部６０により生成された推論モデルにもとづいてタスク
Ｎを推論し、推論結果を推論結果出力部８０に供給する。推論結果出力部９０は、推論結
果を出力する。
Ｎを推論し、推論結果を推論結果出力部８０に供給する。推論結果出力部９０は、推論結
果を出力する。
【0025】
図２は、機械学習装置１００の継続学習部２０の詳細な構成図である。継続学習部２０
は、タスク類似度導出部２１、初期化率決定部２２、機械学習実行部２４、初期化部２６
、およびファインチューニング部２８を含む。
は、タスク類似度導出部２１、初期化率決定部２２、機械学習実行部２４、初期化部２６
、およびファインチューニング部２８を含む。
【0026】
【0027】
タスク類似度導出部２１は、タスク１に対しては最初のタスクであるからタスク類似度
は算出しない。
は算出しない。
【0028】
初期化率決定部２２は、ニューラルネットワークの層の深さに応じてニューラルネット
ワークモデルの初期化率を所定値に決定する（Ｓ１０）。タスク１ではニューラルネット
ワークモデルの全ての重みを初期化の対象とする。所定値については後述する。
ワークモデルの初期化率を所定値に決定する（Ｓ１０）。タスク１ではニューラルネット
ワークモデルの全ての重みを初期化の対象とする。所定値については後述する。
【0029】
機械学習実行部２４は、タスク１についてニューラルネットワークモデルを機械学習し
て学習済みニューラルネットワークモデルを生成する（Ｓ２０）。
て学習済みニューラルネットワークモデルを生成する（Ｓ２０）。
【0030】
図４は、機械学習実行部２４において用いられるニューラルネットワークモデルの構造
を示す図である。
を示す図である。
【0031】
本実施の形態では、ニューラルネットワークモデルはディープニューラルネットワーク
であるＶＧＧ１６とする。ＶＧＧ１６は畳み込み層（ＣＯＮＶ）が１３層、全結合層（Ｄ
ｅｎｓｅ）が３層、プーリング層が５層で構成される。学習対象となる層は畳み込み層と
全結合層である。プーリング層は畳み込み層の出力である特徴マップをサブサンプルする
層である。入力に近い層を浅い層、出力に近い層を深い層と呼ぶ。ニューラルネットワー
クモデルはＶＧＧ１６に限らず、各層の数も本実施の形態に限らない。
であるＶＧＧ１６とする。ＶＧＧ１６は畳み込み層（ＣＯＮＶ）が１３層、全結合層（Ｄ
ｅｎｓｅ）が３層、プーリング層が５層で構成される。学習対象となる層は畳み込み層と
全結合層である。プーリング層は畳み込み層の出力である特徴マップをサブサンプルする
層である。入力に近い層を浅い層、出力に近い層を深い層と呼ぶ。ニューラルネットワー
クモデルはＶＧＧ１６に限らず、各層の数も本実施の形態に限らない。
【0032】
【0033】
ニューラルネットワークの層毎に初期化率は所定値に設定される。図５（ａ）では、Ｃ
ＯＮＶ１－１、ＣＯＮＶ１－２、ＣＯＮＶ２－１、ＣＯＮＶ２－２、ＣＯＮＶ３－１、Ｃ
ＯＮＶ３－２、ＣＯＮＶ３－３については初期化率が０％に設定され、ＣＯＮＶ４－１、
ＣＯＮＶ４－２、ＣＯＮＶ４－３、ＣＯＮＶ５－１、ＣＯＮＶ５－２、ＣＯＮＶ５－３、
Ｄｅｎｓｅ６、Ｄｅｎｓｅ７、Ｄｅｎｓｅ８については初期化率が５０％に設定される。
ＯＮＶ１－１、ＣＯＮＶ１－２、ＣＯＮＶ２－１、ＣＯＮＶ２－２、ＣＯＮＶ３－１、Ｃ
ＯＮＶ３－２、ＣＯＮＶ３－３については初期化率が０％に設定され、ＣＯＮＶ４－１、
ＣＯＮＶ４－２、ＣＯＮＶ４－３、ＣＯＮＶ５－１、ＣＯＮＶ５－２、ＣＯＮＶ５－３、
Ｄｅｎｓｅ６、Ｄｅｎｓｅ７、Ｄｅｎｓｅ８については初期化率が５０％に設定される。
【0034】
図５（ｂ）では、ＣＯＮＶ１－１、ＣＯＮＶ１－２については初期化率が１０％に設定
され、ＣＯＮＶ２－１、ＣＯＮＶ２－２については初期化率が２０％に設定され、ＣＯＮ
Ｖ３－１、ＣＯＮＶ３－２、ＣＯＮＶ３－３については初期化率が３０％に設定され、Ｃ
ＯＮＶ４－１、ＣＯＮＶ４－２、ＣＯＮＶ４－３については初期化率が４０％に設定され
、ＣＯＮＶ５－１、ＣＯＮＶ５－２、ＣＯＮＶ５－３、Ｄｅｎｓｅ６、Ｄｅｎｓｅ７、Ｄ
ｅｎｓｅ８については初期化率が５０％に設定される。
され、ＣＯＮＶ２－１、ＣＯＮＶ２－２については初期化率が２０％に設定され、ＣＯＮ
Ｖ３－１、ＣＯＮＶ３－２、ＣＯＮＶ３－３については初期化率が３０％に設定され、Ｃ
ＯＮＶ４－１、ＣＯＮＶ４－２、ＣＯＮＶ４－３については初期化率が４０％に設定され
、ＣＯＮＶ５－１、ＣＯＮＶ５－２、ＣＯＮＶ５－３、Ｄｅｎｓｅ６、Ｄｅｎｓｅ７、Ｄ
ｅｎｓｅ８については初期化率が５０％に設定される。
【0035】
ニューラルネットワークモデルの階層について、浅い層よりも深い層の初期化率が大き
くなるように設定することが好ましい。初期化率が大きいほどタスク２以降で利用可能な
重みが増加する。以下ではタスク１に関するニューラルネットワークモデルの初期化率の
所定値は図５（ａ）の例であるとして説明する。
くなるように設定することが好ましい。初期化率が大きいほどタスク２以降で利用可能な
重みが増加する。以下ではタスク１に関するニューラルネットワークモデルの初期化率の
所定値は図５（ａ）の例であるとして説明する。
【0036】
再び図２および図３を参照する。初期化部２６は、学習済みニューラルネットワークモ
デルの重みを各層の初期化率に基づいて初期化する（Ｓ３０）。ここで、初期化するとは
ニューラルネットワークの重みを０（ゼロ）にすることである。学習済みニューラルネッ
トワークモデルの層毎に、各層の重みの中で０に近い重みから順に初期化率に相当する割
合の重みを０に初期化する。
デルの重みを各層の初期化率に基づいて初期化する（Ｓ３０）。ここで、初期化するとは
ニューラルネットワークの重みを０（ゼロ）にすることである。学習済みニューラルネッ
トワークモデルの層毎に、各層の重みの中で０に近い重みから順に初期化率に相当する割
合の重みを０に初期化する。
【0037】
初期化対象外となった重みはタスク１で利用される重みとなり、初期化対象となった重
みはタスク２以降で利用される重みとなる。
みはタスク２以降で利用される重みとなる。
【0038】
タスク１の有効パラメータ情報は、タスク１で利用される重み、すなわちタスク１の学
習後に初期化されていない重みを特定する情報である。初期化部２６は、タスク１の有効
パラメータ情報を記憶部３０に記憶させる。
習後に初期化されていない重みを特定する情報である。初期化部２６は、タスク１の有効
パラメータ情報を記憶部３０に記憶させる。
【0039】
有効パラメータ情報は、ニューラルネットワークモデルの全ての重みにそれぞれ１ビッ
トずつ割り当てられる２値の情報である。初期化部２６は、ニューラルネットワークモデ
ルの全ての重みについて、重みが０であれば符号「０」を、重みが０以外であれば符号「
１」を割り当てて符号列として記憶部３０に記憶させてもよい。
トずつ割り当てられる２値の情報である。初期化部２６は、ニューラルネットワークモデ
ルの全ての重みについて、重みが０であれば符号「０」を、重みが０以外であれば符号「
１」を割り当てて符号列として記憶部３０に記憶させてもよい。
【0040】
図６は、ニューラルネットワークモデルの各層の入出力チャネル数、入出力チャネル間
の重み数、各層の総重み数、パラメータ数を説明する図である。
の重み数、各層の総重み数、パラメータ数を説明する図である。
【0041】
初期化率が５０％である場合、例えば、ＣＯＮＶ４－１であれば、１１７９６４８個の
重みの内の５０％である５８９８２４個の重みを初期化する。
重みの内の５０％である５８９８２４個の重みを初期化する。
【0042】
再び図２および図３を参照する。ファインチューニング部２８は、初期化した重みを変
更しないようにしてタスク１について学習済みニューラルネットワークモデルをファイン
チューニングしてターゲットモデルを生成する（Ｓ４０）。ファインチューニングの対象
とする重みはタスク１で利用される初期化されていない重みである。
更しないようにしてタスク１について学習済みニューラルネットワークモデルをファイン
チューニングしてターゲットモデルを生成する（Ｓ４０）。ファインチューニングの対象
とする重みはタスク１で利用される初期化されていない重みである。
【0043】
次にタスク２に対する継続学習部２０の動作を説明する。
【0044】
【0045】
タスク類似度導出部２１は、学習済みタスクであるタスク１とターゲットタスクである
タスク２のデータ分布の確率密度関数の距離をタスク類似度として導出する（Ｓ５０）。
ここでは、２つの確率密度関数の距離としてＪｅｎｓｅｎ－Ｓｈａｎｎｏｎダイバージェ
ンス（ＪＳダイバージェンス）を用いる。ＪＳダイバージェンスは０から１までの値をと
る。ＪＳダイバージェンスが小さいほど２つの確率密度関数の距離は近く、ＪＳダイバー
ジェンスが大きいほど２つの確率密度関数の距離は大きくなる。よって、ＪＳダイバージ
ェンスが小さいほどタスク類似度が大きくなるように設定し、ＪＳダイバージェンスが大
きいほどタスク類似度が小さくなるように設定する。
タスク２のデータ分布の確率密度関数の距離をタスク類似度として導出する（Ｓ５０）。
ここでは、２つの確率密度関数の距離としてＪｅｎｓｅｎ－Ｓｈａｎｎｏｎダイバージェ
ンス（ＪＳダイバージェンス）を用いる。ＪＳダイバージェンスは０から１までの値をと
る。ＪＳダイバージェンスが小さいほど２つの確率密度関数の距離は近く、ＪＳダイバー
ジェンスが大きいほど２つの確率密度関数の距離は大きくなる。よって、ＪＳダイバージ
ェンスが小さいほどタスク類似度が大きくなるように設定し、ＪＳダイバージェンスが大
きいほどタスク類似度が小さくなるように設定する。
【0046】
ここでは、タスク類似度を導出するために、ＪＳダイバージェンスを用いたが、カルバ
ック・ライブラー・ダイバージェンス（ＫＬＤ）など２つの確率密度関数の距離を評価で
きる尺度であれば任意の尺度を用いてもよい。
ック・ライブラー・ダイバージェンス（ＫＬＤ）など２つの確率密度関数の距離を評価で
きる尺度であれば任意の尺度を用いてもよい。
【0047】
初期化率決定部２２は、ニューラルネットワークの層の深さとタスク類似度に応じてタ
ーゲットモデルの初期化率を所定値に決定する（Ｓ６０）。所定値については後述する。
ーゲットモデルの初期化率を所定値に決定する（Ｓ６０）。所定値については後述する。
【0048】
初期化率が適用される対象となる重みはどのタスクにも割り当てられていない重みであ
る。いずれかのタスクに割り当てられている重みは初期化対象外である。
る。いずれかのタスクに割り当てられている重みは初期化対象外である。
【0049】
図８は、タスク２に関するニューラルネットワークモデルの初期化率の所定値を説明す
る図である。
る図である。
【0050】
ニューラルネットワークの層の深さとタスク類似度に基づいて以下のように初期化率を
所定値に設定する。
所定値に設定する。
【0051】
学習済みタスクであるタスク１で初期化されないＣＯＮＶ１－１からＣＯＮＶ３－３の
重みは初期化対象とする重みはないため、初期化率は０である。
重みは初期化対象とする重みはないため、初期化率は０である。
【0052】
タスク類似度が大きいすなわちＪＳダイバージェンス（ＪＳＤ）が小さい場合、階層が
浅い方の初期化率を大きく、階層が深い方の初期化率を小さく設定する。
浅い方の初期化率を大きく、階層が深い方の初期化率を小さく設定する。
【0053】
タスク類似度が大きいすなわちＪＳＤが小さい場合、タスク類似度が小さいすなわちＪ
ＳＤが大きい場合と比較して初期化率を大きく設定する。
ＳＤが大きい場合と比較して初期化率を大きく設定する。
【0054】
タスク類似度が大きいすなわちＪＳＤが小さい場合、ＣＯＮＶ４－Ｘ（Ｘ＝１，２，３
）の重みは更新しない。
）の重みは更新しない。
【0055】
より具体的には、一例であるが、図８に示すように、ＪＳＤ＜０．１の場合、ＣＯＮＶ
４－１、ＣＯＮＶ４－２、ＣＯＮＶ４－３については初期化率が１００％に設定され、Ｃ
ＯＮＶ５－１、ＣＯＮＶ５－２、ＣＯＮＶ５－３については初期化率が９５％に設定され
、Ｄｅｎｓｅ６、Ｄｅｎｓｅ７、Ｄｅｎｓｅ８については初期化率が８０％に設定される
。
４－１、ＣＯＮＶ４－２、ＣＯＮＶ４－３については初期化率が１００％に設定され、Ｃ
ＯＮＶ５－１、ＣＯＮＶ５－２、ＣＯＮＶ５－３については初期化率が９５％に設定され
、Ｄｅｎｓｅ６、Ｄｅｎｓｅ７、Ｄｅｎｓｅ８については初期化率が８０％に設定される
。
【0056】
０．１≦ＪＳＤ＜０．５の場合、ＣＯＮＶ４－１、ＣＯＮＶ４－２、ＣＯＮＶ４－３、
ＣＯＮＶ５－１、ＣＯＮＶ５－２、ＣＯＮＶ５－３については初期化率が９０％に設定さ
れ、Ｄｅｎｓｅ６、Ｄｅｎｓｅ７、Ｄｅｎｓｅ８については初期化率が７５％に設定され
る。
ＣＯＮＶ５－１、ＣＯＮＶ５－２、ＣＯＮＶ５－３については初期化率が９０％に設定さ
れ、Ｄｅｎｓｅ６、Ｄｅｎｓｅ７、Ｄｅｎｓｅ８については初期化率が７５％に設定され
る。
【0057】
０．５≦ＪＳＤ＜０．９の場合、ＣＯＮＶ４－１、ＣＯＮＶ４－２、ＣＯＮＶ４－３、
ＣＯＮＶ５－１、ＣＯＮＶ５－２、ＣＯＮＶ５－３、Ｄｅｎｓｅ６、Ｄｅｎｓｅ７、Ｄｅ
ｎｓｅ８については初期化率が７５％に設定される。
ＣＯＮＶ５－１、ＣＯＮＶ５－２、ＣＯＮＶ５－３、Ｄｅｎｓｅ６、Ｄｅｎｓｅ７、Ｄｅ
ｎｓｅ８については初期化率が７５％に設定される。
【0058】
０．９≦ＪＳＤの場合、ＣＯＮＶ４－１、ＣＯＮＶ４－２、ＣＯＮＶ４－３、ＣＯＮＶ
５－１、ＣＯＮＶ５－２、ＣＯＮＶ５－３、Ｄｅｎｓｅ６、Ｄｅｎｓｅ７、Ｄｅｎｓｅ８
については初期化率が５０％に設定される。
５－１、ＣＯＮＶ５－２、ＣＯＮＶ５－３、Ｄｅｎｓｅ６、Ｄｅｎｓｅ７、Ｄｅｎｓｅ８
については初期化率が５０％に設定される。
【0059】
以上により、類似度が大きいタスクの場合、より上位の特徴が学習済みタスクと似てい
るため、より上位の特徴量を学ぶ層は初期化率を大きくして、これ以降に追加されるタス
クのために初期化された重みを残しておくことができる。
るため、より上位の特徴量を学ぶ層は初期化率を大きくして、これ以降に追加されるタス
クのために初期化された重みを残しておくことができる。
【0060】
タスク１とタスク２の類似度が高い場合、タスク１に割り当てられた重みをタスク２の
推論のために共用することができる確率が高くなるため、タスク２に割り当てるために新
たに初期化する重みの数を減らすことができる。逆に、タスク１とタスク２の類似度が低
い場合、タスク１に割り当てられた重みをタスク２の推論のために共用することができる
確率が低くなるため、タスク２に割り当てるために新たに初期化する重みの数を増やす必
要がある。
推論のために共用することができる確率が高くなるため、タスク２に割り当てるために新
たに初期化する重みの数を減らすことができる。逆に、タスク１とタスク２の類似度が低
い場合、タスク１に割り当てられた重みをタスク２の推論のために共用することができる
確率が低くなるため、タスク２に割り当てるために新たに初期化する重みの数を増やす必
要がある。
【0061】
再び図２および図７を参照する。機械学習実行部２４はターゲットタスクであるタスク
２を用いて、学習済みタスクの重みを変更しないようにしてターゲットモデルを転移学習
して学習済みニューラルネットワークモデルを生成する（Ｓ７０）。ここで学習済みタス
クの重みはタスク１で利用される重みである。転移学習の前後で学習済みタスクに割り当
てられた重みは変化しない。なお、ここでは学習済みタスクの重みを変更しないようにし
てターゲットモデルを学習することを、学習済みタスクの重みを別のタスクに転移するも
のとして転移学習と称したが、単純に学習と称してもよい。
２を用いて、学習済みタスクの重みを変更しないようにしてターゲットモデルを転移学習
して学習済みニューラルネットワークモデルを生成する（Ｓ７０）。ここで学習済みタス
クの重みはタスク１で利用される重みである。転移学習の前後で学習済みタスクに割り当
てられた重みは変化しない。なお、ここでは学習済みタスクの重みを変更しないようにし
てターゲットモデルを学習することを、学習済みタスクの重みを別のタスクに転移するも
のとして転移学習と称したが、単純に学習と称してもよい。
【0062】
初期化部２６は、学習済みニューラルネットワークモデルの重みを初期化率に基づいて
初期化してターゲットモデルの第１候補を生成する（Ｓ８０）。
初期化してターゲットモデルの第１候補を生成する（Ｓ８０）。
【0063】
学習済みタスクの重みを含む初期化対象外の重みはタスク２で利用される重みとして割
り当てられる。
り当てられる。
【0064】
タスク２の有効パラメータ情報はタスク２で利用される重みであり、初期化されていな
い重みを特定する情報である。初期化部２６は、タスク２の有効パラメータ情報を記憶部
３０に記憶する。
い重みを特定する情報である。初期化部２６は、タスク２の有効パラメータ情報を記憶部
３０に記憶する。
【0065】
ファインチューニング部２８は、学習済みタスクの重みと初期化した重みを変更しない
ようにしてタスク２についてターゲットモデルの第１候補をファインチューニングしてタ
ーゲットモデルの第２候補を生成する（Ｓ９０）。
ようにしてタスク２についてターゲットモデルの第１候補をファインチューニングしてタ
ーゲットモデルの第２候補を生成する（Ｓ９０）。
【0066】
ファインチューニング部２８は、ターゲットモデルの第１候補とターゲットモデルの第
２候補の内、より精度の高い方の候補を最終的なターゲットモデルとして決定する（Ｓ１
００）。基本的にはターゲットモデルの第２候補を最終的なターゲットモデルとして選択
すればよいが、ターゲットモデルの汎化性能を高めるためにターゲットモデルの重みの学
習に利用する訓練用データとは異なる評価用データを用いて学習終了時のターゲットモデ
ルの第１候補と第２候補の推論精度を評価して、より精度の高い方の候補を最終的なター
ゲットモデルとして決定することがより好ましい。
２候補の内、より精度の高い方の候補を最終的なターゲットモデルとして決定する（Ｓ１
００）。基本的にはターゲットモデルの第２候補を最終的なターゲットモデルとして選択
すればよいが、ターゲットモデルの汎化性能を高めるためにターゲットモデルの重みの学
習に利用する訓練用データとは異なる評価用データを用いて学習終了時のターゲットモデ
ルの第１候補と第２候補の推論精度を評価して、より精度の高い方の候補を最終的なター
ゲットモデルとして決定することがより好ましい。
【0067】
このように、ニューラルネットワークモデルの層の深さとタスク間の類似度に基づいて
学習済みニューラルネットワークモデルの初期化率を設定して新たなタスクを学習させる
ことにより、タスクの特性に合わせて新たなタスクを学習させる継続学習が可能となる。
これにより、無駄に重みを利用することが低減されて、追加で学習できるタスク数を増加
させることができる。また、有用な重みを初期化することが低減されて、追加したタスク
の推論精度を高く維持することができる。
学習済みニューラルネットワークモデルの初期化率を設定して新たなタスクを学習させる
ことにより、タスクの特性に合わせて新たなタスクを学習させる継続学習が可能となる。
これにより、無駄に重みを利用することが低減されて、追加で学習できるタスク数を増加
させることができる。また、有用な重みを初期化することが低減されて、追加したタスク
の推論精度を高く維持することができる。
【0068】
タスク３についてはタスク２の場合と同様の処理になるが、タスク類似度の導出方法の
みが異なる。
みが異なる。
【0069】
タスク類似度導出部２１は、タスク３とタスク１のタスク類似度３１と、タスク３とタ
スク２のタスク類似度３２を導出する。タスク類似度３１とタスク類似度３２のうち、タ
スク類似度の大きい方のタスクを学習済みタスクとする。
スク２のタスク類似度３２を導出する。タスク類似度３１とタスク類似度３２のうち、タ
スク類似度の大きい方のタスクを学習済みタスクとする。
【0070】
一般に、タスク類似度導出部２１は、複数の学習済みタスクの中からターゲットタスク
との類似度が最も大きい１つの学習済みタスクを学習済みタスクとして選択する。
との類似度が最も大きい１つの学習済みタスクを学習済みタスクとして選択する。
【0071】
ただし、タスクの数が増加した場合、全てのタスクに対してタスク類似度を導出するの
は効率的ではない。そのため、タスク類似度を導出する対象を下記のように選定すること
もできる。
（１）新しいタスクを優先的に導出対象として選定する。例えば、新しく入力されたタス
クの順に所定数のタスクを導出対象として残す。
（２）初期化率の小さいタスク（類似していないタスク）を優先的に導出対象として選定
する。例えば、初期化率の小さいタスクの順に所定数のタスクを導出対象として残す。
（３）初期化率が所定値より小さいタスク（類似していないタスク）を導出対象として選
定する。例えば、初期化率が所定値より小さい所定数のタスクを導出対象として残す。
（４）上記の（１）と（２）の組み合わせ
（５）上記の（１）と（３）の組み合わせ
このように、複数の学習済みタスクの中でターゲットタスクとの類似度が最も大きいま
たは比較的大きいタスクを学習済みタスクとすることにより、ターゲットタスクに要する
重みを少なくすることができる。
は効率的ではない。そのため、タスク類似度を導出する対象を下記のように選定すること
もできる。
（１）新しいタスクを優先的に導出対象として選定する。例えば、新しく入力されたタス
クの順に所定数のタスクを導出対象として残す。
（２）初期化率の小さいタスク（類似していないタスク）を優先的に導出対象として選定
する。例えば、初期化率の小さいタスクの順に所定数のタスクを導出対象として残す。
（３）初期化率が所定値より小さいタスク（類似していないタスク）を導出対象として選
定する。例えば、初期化率が所定値より小さい所定数のタスクを導出対象として残す。
（４）上記の（１）と（２）の組み合わせ
（５）上記の（１）と（３）の組み合わせ
このように、複数の学習済みタスクの中でターゲットタスクとの類似度が最も大きいま
たは比較的大きいタスクを学習済みタスクとすることにより、ターゲットタスクに要する
重みを少なくすることができる。
【0072】
次に、推論装置２００と動作を説明する。図９は、タスクＮに対する推論装置２００の
動作を説明するフローチャートである。
動作を説明するフローチャートである。
【0073】
タスク判定部５０は、推論部７０に入力されるタスクＮがタスク１からタスク３のいず
れであるかを判定する（Ｓ２００）。本実施の形態ではユーザーがいずれのタスクである
かを指定する。
れであるかを判定する（Ｓ２００）。本実施の形態ではユーザーがいずれのタスクである
かを指定する。
【0074】
推論モデル生成部６０は、学習済みターゲットモデルと有効パラメータ情報に基づいて
推論用ニューラルネットワークモデル（以下、「推論モデル」と呼ぶ）を生成する（Ｓ２
１０）。ターゲットモデルはタスク１からタスク３について学習済みのニューラルネット
ワークモデルである。タスクＮがタスクｉ（ｉは１～３のいずれか）であると判定された
場合、推論モデル生成部６０は、タスクｉの有効パラメータ情報に基づいてターゲットモ
デルにおいてタスクｉで利用する重み以外の重みは０に設定した推論モデルを生成する。
具体的には、推論モデル生成部６０は、有効パラメータ情報の符号列を読み出して、符号
が「１」であればその符号に対応する重みはそのまま変更せず、一方、符号が「０」であ
ればその符号に該当する重みは０に変更するようにしてもよい。
推論用ニューラルネットワークモデル（以下、「推論モデル」と呼ぶ）を生成する（Ｓ２
１０）。ターゲットモデルはタスク１からタスク３について学習済みのニューラルネット
ワークモデルである。タスクＮがタスクｉ（ｉは１～３のいずれか）であると判定された
場合、推論モデル生成部６０は、タスクｉの有効パラメータ情報に基づいてターゲットモ
デルにおいてタスクｉで利用する重み以外の重みは０に設定した推論モデルを生成する。
具体的には、推論モデル生成部６０は、有効パラメータ情報の符号列を読み出して、符号
が「１」であればその符号に対応する重みはそのまま変更せず、一方、符号が「０」であ
ればその符号に該当する重みは０に変更するようにしてもよい。
【0075】
推論部７０は、タスクｉについて生成した推論モデルで入力されたタスクＮの推論結果
を生成する（Ｓ２２０）。
を生成する（Ｓ２２０）。
【0076】
本実施の形態では、初期化部２６は学習済みニューラルネットワークモデルの重みを初
期化率に基づいて重み単位で初期化したが、初期化部２６は学習済みニューラルネットワ
ークモデルの重みを初期化率に基づいてフィルタ単位で初期化してもよい。
期化率に基づいて重み単位で初期化したが、初期化部２６は学習済みニューラルネットワ
ークモデルの重みを初期化率に基づいてフィルタ単位で初期化してもよい。
【0077】
以上説明した機械学習装置１００および推論装置２００の各種の処理は、ＣＰＵやメモ
リ等のハードウェアを用いた装置として実現することができるのは勿論のこと、ＲＯＭ（
リード・オンリ・メモリ）やフラッシュメモリ等に記憶されているファームウェアや、コ
ンピュータ等のソフトウェアによっても実現することができる。そのファームウェアプロ
グラム、ソフトウェアプログラムをコンピュータ等で読み取り可能な記録媒体に記録して
提供することも、有線あるいは無線のネットワークを通してサーバと送受信することも、
地上波あるいは衛星ディジタル放送のデータ放送として送受信することも可能である。
リ等のハードウェアを用いた装置として実現することができるのは勿論のこと、ＲＯＭ（
リード・オンリ・メモリ）やフラッシュメモリ等に記憶されているファームウェアや、コ
ンピュータ等のソフトウェアによっても実現することができる。そのファームウェアプロ
グラム、ソフトウェアプログラムをコンピュータ等で読み取り可能な記録媒体に記録して
提供することも、有線あるいは無線のネットワークを通してサーバと送受信することも、
地上波あるいは衛星ディジタル放送のデータ放送として送受信することも可能である。
【0078】
以上述べたように、本実施の形態の機械学習装置１００によれば、学習済みタスクと目
標タスクの類似度あるいは相関度に応じて継続学習するターゲットモデルの重みの利用率
を変更することにより、追加で学習できるタスク数と追加したタスクの精度を目標タスク
に対して最適にすることができる。
標タスクの類似度あるいは相関度に応じて継続学習するターゲットモデルの重みの利用率
を変更することにより、追加で学習できるタスク数と追加したタスクの精度を目標タスク
に対して最適にすることができる。
【0079】
以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構
成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例
も本発明の範囲にあることは当業者に理解されるところである。
成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例
も本発明の範囲にあることは当業者に理解されるところである。
【符号の説明】
【0080】
１０ タスク入力部、 ２０ 継続学習部、 ２１ タスク類似度導出部、 ２２ 初
期化率決定部、 ２４ 機械学習実行部、 ２６ 初期化部、 ２８ ファインチューニ
ング部、 ３０ 記憶部、 ４０ タスク入力部、 ５０ タスク判定部、 ６０ 推論
モデル生成部、 ７０ 推論部、 ８０ 推論結果出力部、 １００ 機械学習装置、
２００ 推論装置。
期化率決定部、 ２４ 機械学習実行部、 ２６ 初期化部、 ２８ ファインチューニ
ング部、 ３０ 記憶部、 ４０ タスク入力部、 ５０ タスク判定部、 ６０ 推論
モデル生成部、 ７０ 推論部、 ８０ 推論結果出力部、 １００ 機械学習装置、
２００ 推論装置。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
