特許 7559953 学習装置、学習済みモデルの生成方法、演算装置、演算方法およびプログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-09-24

(45)【発行日】2024-10-02

(54)【発明の名称】学習装置、学習済みモデルの生成方法、演算装置、演算方法およびプログラム

(51)【国際特許分類】

   G06N 3/082 20230101AFI20240925BHJP

   G06N 3/0495 20230101ALI20240925BHJP

【ＦＩ】

G06N3/082

G06N3/0495

【請求項の数】 10

(21)【出願番号】P 2023534535

(86)(22)【出願日】2021-07-15

(86)【国際出願番号】 JP2021026584

(87)【国際公開番号】W WO2023286232

(87)【国際公開日】2023-01-19

【審査請求日】2024-01-09

(73)【特許権者】

【識別番号】000004237

【氏名又は名称】日本電気株式会社

(74)【代理人】

【識別番号】100149548

【弁理士】

【氏名又は名称】松沼 泰史

(74)【代理人】

【識別番号】100181135

【弁理士】

【氏名又は名称】橋本 隆史

(72)【発明者】

【氏名】柿崎 和也

(72)【発明者】

【氏名】古川 潤

【審査官】大倉 崚吾

(56)【参考文献】

【文献】米国特許出願公開第２０１８／００４６９１５（ＵＳ，Ａ１）

【文献】米国特許出願公開第２０１８／０３００６２９（ＵＳ，Ａ１）

【文献】中国特許出願公開第１１１２２２６２９（ＣＮ，Ａ）

【文献】中国特許出願公開第１１２４８８０７０（ＣＮ，Ａ）

【文献】中国特許出願公開第１１２６７１７４６（ＣＮ，Ａ）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ３／００－９９／００

(57)【特許請求の範囲】

【請求項1】

ニューラルネットワークモデルのエッジの刈り取り位置に係る複数のパターンを決定する刈り取り位置決定部であって、入力サンプルと出力サンプルの組である学習用データに基づいて、前記ニューラルネットワークモデルのエッジのうち前記刈り取り位置に係るエッジの重みをゼロとしたものに前記入力サンプルを入力したときに前記出力サンプルが出力されるように、前記複数のパターンを決定する刈り取り位置決定部
を備える学習装置。

【請求項2】

前記学習用データに基づいて、前記入力サンプルを入力したときに前記出力サンプルが出力されるように、前記ニューラルネットワークモデルのパラメータを更新する更新部
を備え、
前記刈り取り位置決定部は、前記パラメータが更新された前記ニューラルネットワークモデルに基づいて前記複数のパターンを決定する
請求項１に記載の学習装置。

【請求項3】

前記刈り取り位置決定部は、前記ニューラルネットワークモデルのエッジのうち前記刈り取り位置に係るエッジの重みをゼロとしたものに前記入力サンプルを入力したときに前記出力サンプルが出力され、かつ、前記パターン別の計算結果の差異が大きくなるように、前記複数のパターンを決定する
請求項１または請求項２に記載の学習装置。

【請求項4】

コンピュータに、
ニューラルネットワークモデルのエッジの刈り取り位置に係る複数のパターンを決定するステップであって、入力サンプルと出力サンプルの組である学習用データに基づいて、前記ニューラルネットワークモデルのエッジのうち前記刈り取り位置に係るエッジの重みをゼロとしたものに前記入力サンプルを入力したときに前記出力サンプルが出力されるように、前記複数のパターンを決定するステップ
を実行させるためのプログラム。

【請求項5】

コンピュータが、ニューラルネットワークモデルのエッジの刈り取り位置に係る複数のパターンを決定するステップであって、前記コンピュータが、入力サンプルと出力サンプルの組である学習用データに基づいて、前記ニューラルネットワークモデルのエッジのうち前記刈り取り位置に係るエッジの重みをゼロとしたものに前記入力サンプルを入力したときに前記出力サンプルが出力されるように、前記複数のパターンを決定するステップ
を備える枝刈り位置決定方法。

【請求項6】

学習済みニューラネットワークモデルのエッジの刈り取り位置に係る複数のパターンを決定する刈り取り位置決定部と、
前記複数のパターンごとに、前記学習済みニューラネットワークモデルのエッジのうち前記パターンが示す刈り取り位置に係るエッジの重みをゼロとした部分モデルに入力データを入力して得られた各出力データの代表値を演算する演算部と
を備える演算装置。

【請求項7】

前記刈り取り位置決定部は、請求項５に記載の枝刈り位置決定方法によって決定された前記複数のパターンを取得する
請求項６に記載の演算装置。

【請求項8】

前記演算部は、前記学習済みニューラネットワークモデルの後段の層を除去した部分モデルに前記入力データを入力することで、前記出力データとして前記入力データの特徴量を得る
請求項６または請求項７に記載の演算装置。

【請求項9】

コンピュータが、学習済みニューラネットワークモデルのエッジの刈り取り位置に係る複数のパターンを決定するステップと、
前記コンピュータが、前記複数のパターンごとに、前記学習済みニューラネットワークモデルのエッジのうち前記パターンが示す刈り取り位置に係るエッジの重みをゼロとした部分モデルに入力データを入力して得られた各出力データの代表値を演算するステップと
を備える演算方法。

【請求項10】

コンピュータに、
学習済みニューラネットワークモデルのエッジの刈り取り位置に係る複数のパターンを決定するステップと、
前記複数のパターンごとに、前記学習済みニューラネットワークモデルのエッジのうち前記パターンが示す刈り取り位置に係るエッジの重みをゼロとした部分モデルに入力データを入力して得られた各出力データの代表値を演算するステップと
を実行させるためのプログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、学習装置、学習済みモデルの生成方法、演算装置、演算方法およびプログラムに関する。

【背景技術】

【0002】

機械学習において、入力データに所定のノイズを加えることで誤判定を誘発させる敵対的サンプル（Adversarial Examples）という攻撃手法が知られている。この手法は、学習済みモデルの演算の傾向に基づいて、誤判定させる対象となるデータと特徴量が近くなるようにノイズが算出される。複数のニューラルネットワークモデルを用いて敵対的サンプルに対してロバストな予測を行うＰＥＤＭ（Promoting Ensemble Diversity Method）と呼ばれる技術が知られている（例えば、非特許文献１を参照）。

【先行技術文献】

【非特許文献】

【0003】

【文献】Tianyu Pang, Taufik Xu, Chao Du, Ning Chen, Jun Zhu. “Improving Adversarial Robustness via Promoting Ensemble Diversity” ICML, 2019

【発明の概要】

【発明が解決しようとする課題】

【0004】

ＰＥＤＭは、複数のニューラルネットワークモデルを用いるため、使用するニューラルネットワークモデルの数に比例してパラメータ数が増大する。つまり、使用するニューラルネットワークモデルの数に比例して計算に必要な記憶容量が増大する。
本開示の目的の一例は、上述した課題を解決するために、敵対的サンプルに対するロバスト性を高め、かつ記憶容量の増大を抑えることができる学習装置、学習済みモデルの生成方法、演算装置、演算方法およびプログラムを提供することにある。

【課題を解決するための手段】

【0005】

本発明の第１の態様によれば、学習装置は、ニューラルネットワークモデルのエッジの刈り取り位置に係る複数のパターンを決定する刈り取り位置決定部であって、入力サンプルと出力サンプルの組である学習用データに基づいて、前記ニューラルネットワークモデルのエッジのうち前記刈り取り位置に係るエッジの重みをゼロとしたものに前記入力サンプルを入力したときに前記出力サンプルが出力されるように、前記複数のパターンを決定する刈り取り位置決定部を備える。

【0006】

本発明の第２の態様によれば、プログラムは、コンピュータに、ニューラルネットワークモデルのエッジの刈り取り位置に係る複数のパターンを決定するステップであって、入力サンプルと出力サンプルの組である学習用データに基づいて、前記ニューラルネットワークモデルのエッジのうち前記刈り取り位置に係るエッジの重みをゼロとしたものに前記入力サンプルを入力したときに前記出力サンプルが出力されるように、前記複数のパターンを決定するステップを実行させる。

【0007】

本発明の第３の態様によれば、枝刈り位置決定方法は、ニューラルネットワークモデルのエッジの刈り取り位置に係る複数のパターンを決定するステップであって、入力サンプルと出力サンプルの組である学習用データに基づいて、前記ニューラルネットワークモデルのエッジのうち前記刈り取り位置に係るエッジの重みをゼロとしたものに前記入力サンプルを入力したときに前記出力サンプルが出力されるように、前記複数のパターンを決定するステップを備える。

【0008】

本発明の第４の態様によれば、演算装置は、学習済みニューラネットワークモデルのエッジの刈り取り位置に係る複数のパターンを決定する刈り取り位置特定部と、前記複数のパターンごとに、前記学習済みニューラネットワークモデルのエッジのうち前記パターンが示す刈り取り位置に係るエッジの重みをゼロとした部分モデルに入力データを入力して得られた各出力データの代表値を演算する演算部とを備える。

【0009】

本発明の第５の態様によれば、演算方法は、学習済みニューラネットワークモデルのエッジの刈り取り位置に係る複数のパターンを決定するステップと、前記複数のパターンごとに、前記学習済みニューラネットワークモデルのエッジのうち前記パターンが示す刈り取り位置に係るエッジの重みをゼロとした部分モデルに入力データを入力して得られた各出力データの代表値を演算するステップとを備える。

【0010】

本発明の第６の態様によれば、プログラムは、コンピュータに、学習済みニューラネットワークモデルのエッジの刈り取り位置に係る複数のパターンを決定するステップと、前記複数のパターンごとに、前記学習済みニューラネットワークモデルのエッジのうち前記パターンが示す刈り取り位置に係るエッジの重みをゼロとした部分モデルに入力データを入力して得られた各出力データの代表値を演算するステップとを実行させる。

【発明の効果】

【0011】

上記態様のうち少なくとも１つの態様によれば、敵対的サンプルに対するロバスト性を高め、かつ記憶容量の増大を抑えることができる。

【図面の簡単な説明】

【0012】

【図1】第１の実施形態に係る認証システムの構成を示す概略ブロック図である。

【図2】第１の実施形態に係る学習装置によって学習される分類モデルの構成図である。

【図3A】第１の実施形態に係る学習装置による特徴量モデルの学習方法を示すフローチャート（パート１）である。

【図3B】第１の実施形態に係る学習装置による特徴量モデルの学習方法を示すフローチャート（パート２）である。

【図4】第１の実施形態に係る認証装置による認証方法を示すフローチャートである。

【図5】第２の実施形態に係る学習装置による特徴量モデルの学習方法を示すフローチャートである。

【図6】学習装置の基本構成を示す概略ブロック図である。

【図7】演算装置の基本構成を示す概略ブロック図である。

【図8】少なくとも１つの実施形態に係るコンピュータの構成を示す概略ブロック図である。

【発明を実施するための形態】

【0013】

〈第１の実施形態〉
《認証システムの構成》
以下、図面を参照しながら実施形態について詳しく説明する。
図１は、第１の実施形態に係る認証システム１の構成を示す概略ブロック図である。
認証システム１は、学習装置１０と認証装置２０とを備える。
学習装置１０は、生体データが入力されると当該生体データの特徴量を出力するように、特徴量抽出モデルのパラメータを学習させる。生体データの例としては、顔画像、静脈画像、指紋データ、音声データなどが挙げられる。特徴量抽出モデルは、ニューラルネットワークなどの機械学習モデルによって表される。
認証装置２０は、学習装置１０によって学習されたパラメータを有する特徴量抽出モデル（学習済みモデル）を用いて、生体データに基づくユーザの認証を行う。
なお、第１の実施形態に係る認証システム１は、学習装置１０と認証装置２０とを別個の装置として備えるが、これに限られない。例えば、他の実施形態に係る認証システム１は、認証装置２０が学習装置１０の機能を有していてもよい。

【0014】

《学習装置１０の構成》
第１の実施形態に係る認証システム１は、分類モデルＭ０のエッジを異なるパターンで切り取ることで、アンサンブル学習のためのＫ個の弱学習器を構成する。すなわち、第１の実施形態に係る認証システム１は、分類モデルＭ０の部分モデルを弱学習器とする。

【0015】

学習装置１０は、分類モデル記憶部１１、データセット取得部１２、刈り取り位置決定部１３、演算部１４、摂動生成部１５、更新部１６、モデル抽出部１７、出力部１８を備える。

【0016】

分類モデル記憶部１１は、ニューラルネットワークによって構成された分類モデルＭ０を記憶する。図２は、第１の実施形態に係る学習装置１０によって学習される分類モデルＭ０の構成図である。分類モデルＭ０は、図２に示すように、入力層Ｍ０１、中間層Ｍ０２、出力層Ｍ０３を備える。入力層Ｍ０１は、入力された生体データをベクトルとして中間層Ｍ０２に出力する。中間層Ｍ０２は、２層以上のニューラルネットワークによって構成され、全結合層を１つ以上有する。中間層Ｍ０２は、ＣＮＮ（Convolutional Neural Network）によって構成されてもよい。中間層Ｍ０２は、入力層Ｍ０１から入力されたベクトルを、低次元の特徴ベクトルに変換し、出力層Ｍ０３に出力する。特徴ベクトルは特徴量の一例である。出力層Ｍ０３は、中間層Ｍ０２から入力された特徴ベクトルから、当該特徴ベクトルが表す人物の事後確率を示すＰ次元のベクトルに変換する。
また、分類モデル記憶部１１は、分類モデルＭ０の各エッジについて、刈り取り位置の決定に用いるスコアを記憶する。スコアの初期値は乱数によって決定される。分類モデル記憶部１１は、各エッジについて、アンサンブル数Ｋだけスコアを記憶する。

【0017】

データセット取得部１２は、入力サンプルである生体データと、出力サンプルである人物ラベルとを関連付けた学習用データセットを取得する。人物ラベルは、データセットにおける人物の数をＰとした場合に、Ｐ次元のワンホットベクトルによって表される。

【0018】

演算部１４は、刈り取り位置決定部１３が生成したマスクベクトルによって分類モデルＭ０のエッジをマスクした部分モデルに入力データを入力することで、出力ベクトルを計算する。

【0019】

摂動生成部１５は、部分モデルに基づいて、敵対的サンプルを生成するための摂動ベクトルを演算する。摂動ベクトルは、入力データに加算することで部分モデルが出力するベクトルのうち最も大きい値を有する要素を異ならせるためのベクトルである。摂動ベクトルの生成方法は、例えば参考文献１（Aleksander Madry, Aleksandar Makelov, Ludwig Schmidt, Dimitris Tsipras, Adrian Vladu, “Towards Deep Learning Models Resistant to Adversarial Attacks”, ICLR 2018）に示されるPGD Attack法を用いることができる。

【0020】

刈り取り位置決定部１３は、分類モデル記憶部１１が記憶する各エッジのスコアに基づいて中間層Ｍ０２のうち全結合層に係るエッジの刈り取り位置のパターンを決定する。具体的には、刈り取り位置決定部１３は、予め定められた刈り取り率に基づいて、分類モデルＭ０のエッジをマスクするＫ個のマスクベクトルを生成する。マスクベクトルは、分類モデルＭ０のエッジに対応する要素を有するベクトルである。マスクベクトルの全要素のうち刈り取り率相当の要素の値が０であり、他の要素の値が１である。

【0021】

更新部１６は、データセット取得部１２が取得した学習用データセットを用いて、生体データを分類モデルＭ０に入力したときに、当該生体データに該当する人物の事後確率を示すＰ次元のベクトルを出力するように、分類モデルＭ０のパラメータを学習させる。また、更新部１６は、分類モデル記憶部１１が記憶する各エッジのスコアを更新する。

【0022】

モデル抽出部１７は、更新部１６によって学習された分類モデルＭ０のうち入力層Ｍ０１および中間層Ｍ０２からなる部分モデルを、特徴量抽出モデルとして抽出する。
出力部１８は、モデル抽出部１７によって抽出された特徴量抽出モデルと、刈り取り位置決定部１３が決定した複数のマスクベクトルとを認証装置２０に出力する。出力は、ネットワーク等を介した通信によってなされてもよいし、可搬性の記憶装置を介してなされてもよい。

【0023】

《学習方法》
図３Ａ及び図３Ｂは、第１の実施形態に係る学習装置１０による特徴量モデルの学習方法を示すフローチャートである。
学習装置１０のデータセット取得部１２は、図示しないデータベースから予め用意されたデータセットを取得する（ステップＳ１）。刈り取り位置決定部１３は、乱数に基づいてエッジの刈り取り位置を決定するためのスコアｓ_ｉｊの初期値を生成し、分類モデル記憶部１１に記録する（ステップＳ２）。ここで、スコアの添え字であるｉは弱学習器の番号を示し、ｊはエッジの番号を示す。つまり、ｉはアンサンブル数Ｋ以下の自然数であり、ｊはエッジの総数Ｎ以下の自然数である。

【0024】

演算部１４は、ステップＳ１で取得したデータセットに含まれる入力サンプルと出力サンプルの組を１つずつ選択し（ステップＳ３）、選択した組ごとに以下のステップＳ４の処理を実行する。

【0025】

演算部１４は、分類モデルＭ０にステップＳ３で選択した入力サンプルを入力し、出力ベクトルを計算する（ステップＳ４）。

【0026】

更新部１６は、複数の入力サンプルおよび複数の弱学習器について計算された出力ベクトルを用いて、以下の式（１）に基づいて第１損失関数Ｌ_１を算出する（ステップＳ５）。

【0027】

【数1】

【0028】

式（１）において、Ｄはデータセットの集合を示す。θは分類モデルＭ０を示す。ｘは入力サンプルを示す。ｙは出力サンプルを示す。ｆ（θ，ｘ）は、モデルθにデータｘを入力して得られる出力ベクトルを示す。つまり、第１の実施形態において第１損失関数Ｌ_１は、クロスエントロピー誤差である。

【0029】

更新部１６は、算出した第１損失関数Ｌ_１が小さくなるように、分類モデル記憶部１１が記憶する分類モデルＭ０のパラメータを更新する（ステップＳ６）。これにより、更新部１６は、生体データを分類モデルＭ０に入力したときに、当該生体データに該当する人物の事後確率を示すＰ次元のベクトルを出力するように、分類モデルＭ０のパラメータを学習させることができる。

【0030】

更新部１６は、分類モデルＭ０のパラメータの更新処理を所定の第１エポック数だけ実行したか否かを判定する（ステップＳ７）。分類モデルＭ０のパラメータの更新処理の実行回数が第１エポック数未満である場合（ステップＳ７：ＮＯ）、学習装置１０は処理をステップＳ３に戻し、パラメータの更新処理を繰り返す。

【0031】

他方、分類モデルＭ０のパラメータの更新処理の実行回数が第１エポック数に至った場合（ステップＳ７：ＹＥＳ）、刈り取り位置決定部１３は、スコアの上位ｋ％の要素を１とし、残りの要素を０とするＫ個のマスクベクトルを生成する（ステップＳ８）。すなわち、刈り取り位置決定部１３は、各エッジのｉ番目のスコアｓ_ｉ０－ｓ_ｉＮの値を抽出し、そのうち上位ｋ％の要素を１とし、残りの要素を０とするマスクベクトルを、ｉ番目の弱学習器を生成するためのマスクベクトルとして生成する。

【0032】

学習装置１０は、生成されたマスクベクトルを１つずつ選択し（ステップＳ９）、選択したマスクベクトルごとに以下のステップＳ１０からステップＳ１３の処理を実行する。演算部１４は、ステップＳ３からステップＳ７の処理によって学習された分類モデルＭ０にステップＳ９で選択したマスクベクトルを適用し、中間層Ｍ０２の一部のエッジの伝達関数をゼロに置き換えた弱学習器を生成する（ステップＳ１０）。すなわち、演算部１４は、中間層Ｍ０２のエッジの刈り取りを行う。

【0033】

演算部１４は、取得したデータセットに含まれる入力サンプルと出力サンプルの組を１つずつ選択し（ステップＳ１１）、選択した組ごとに以下のステップＳ１２からステップＳ１３の処理を実行する。なお、ステップＳ１１からステップＳ１３の処理はバッチ処理として実行されてよい。

【0034】

演算部１４は、ステップＳ１０で生成した弱学習器にステップＳ１１で選択した入力サンプルを入力し、出力ベクトルを計算する（ステップＳ１２）。摂動生成部１５は、ステップＳ１２で生成した弱学習器とステップＳ１１で選択した入力サンプルとに基づいて、摂動ベクトルを生成する（ステップＳ１３）。

【0035】

更新部１６は、複数の入力サンプルおよび複数の弱学習器について計算された出力ベクトルおよび摂動ベクトルを用いて、以下の式（２）に基づいて第２損失関数Ｌ_２を算出する（ステップＳ１４）。

【0036】

【数2】

【0037】

式（２）において、Ｍ_ｋは刈り取り割合ｋのマスクベクトルの集合を示す。Ｌ_ｎは、以下の式（２）で表される誤差基準関数を示す。Ｌ_ｄは、以下の式（３）で表されるダイバーシティ基準関数を示す。

【0038】

【数3】

【0039】

【数4】

【0040】

式（４）においてθ_１，…θ_Ｋは、弱学習器を示す。∇ｆ（θ，ｘ）は、モデルθとデータｘの組み合わせに対する摂動ベクトルを示す。つまり、第１の実施形態においてダイバーシティ基準関数Ｌ_ｄは、弱学習器どうしの摂動ベクトルのコサイン距離の平均値を表す。ダイバーシティ基準関数Ｌ_ｄは、刈り取り位置のパターン別の計算結果の差異が大きくなるように各エッジのスコアを更新するための評価基準である。計算結果の差異の大きさを表す方法の一例として、計算結果の距離が挙げられる。

【0041】

更新部１６は、各弱学習器について、第２損失関数Ｌ_２の傾きが負の傾きとなるエッジに係るスコアを加算し、第２損失関数Ｌ_２の傾きが正の傾きとなるエッジに係るスコアを減算することで、スコアを更新する（ステップＳ１５）。これにより、第２損失関数Ｌ_２を小さくするエッジに係るスコアが高くなる。スコアの更新は、例えば参考文献２（Vivek Ramanujan, Mitchell Wortsman, Aniruddha Kembhavi, Ali Farhadi, Mohammad Rastegari, “What’s Hidden in a Randomly Weighted Neural Network?”, CVPR 2020）に記載のedge-popupアルゴリズムに基づいて行うことができる。

【0042】

更新部１６は、スコアの更新処理を所定の第２エポック数だけ実行したか否かを判定する（ステップＳ１６）。スコアの更新処理の実行回数が第２エポック数未満である場合（ステップＳ１６：ＮＯ）、学習装置１０は処理をステップＳ８に戻し、マスクベクトルの生成およびスコアの更新処理を繰り返す。

【0043】

他方、スコアの更新処理の実行回数が第２エポック数に至った場合（ステップＳ１６：ＹＥＳ）、モデル抽出部１７は、分類モデル記憶部１１が記憶する分類モデルＭ０のうち入力層Ｍ０１および中間層Ｍ０２からなる部分モデルを、特徴量抽出モデルとして抽出する（ステップＳ１７）。刈り取り位置決定部１３は、分類モデル記憶部１１が記憶するスコアの上位ｋ％の要素を１とし、残りの要素を０とするＫ個のマスクベクトルを生成する（ステップＳ１８）。出力部１８は、ステップＳ１７で抽出された特徴量抽出モデルとステップＳ１８で生成されたマスクベクトルとを認証装置２０に出力する（ステップＳ１９）。なお、弱学習器は、学習処理が終了するとともに破棄される。

【0044】

《認証装置２０の構成》
図１を参照すると、認証装置２０は、ユーザデータ記憶部２１、モデル取得部２２、抽出モデル記憶部２３、生体データ取得部２４、弱学習器生成部２５、特徴量抽出部２６、類似度算出部２７、および認証部２８を備える。

【0045】

ユーザデータ記憶部２１は、ユーザのアカウントデータと、当該ユーザの生体データとを関連付けて記憶する。
モデル取得部２２は、学習装置１０から学習済みの特徴量抽出モデルおよびＫ個のマスクベクトルを取得する。
抽出モデル記憶部２３は、モデル取得部２２が取得した学習済みの特徴量抽出モデルおよびＫ個のマスクベクトルを記憶する。

【0046】

生体データ取得部２４は、認証装置２０に設けられたセンサ等から認証対象となる生体データを取得する。
弱学習器生成部２５は、抽出モデル記憶部２３が記憶するマスクベクトルによって特徴量抽出モデルのエッジをマスクしたＫ個の弱学習器を生成する。つまり、弱学習器生成部２５は、特徴量抽出モデルのエッジのうち刈り取り位置を決定する刈り取り位置決定部の一例である。

【0047】

特徴量抽出部２６は、生成した各弱学習器を用いてユーザデータ記憶部２１が記憶する生体データおよび生体データ取得部２４が取得した生体データからサブ特徴ベクトルを抽出する。特徴量抽出部２６は、各弱学習器から得られたサブ特徴ベクトルの要素平均を求めることで特徴ベクトルを得る。

【0048】

類似度算出部２７は、２つの特徴ベクトルどうしの類似度を算出する。類似度の尺度の例としては、Ｌ２距離、コサイン類似度、ＰＬＤＡ（Probabilistic Linear Discriminant Analysis）などが挙げられる。

【0049】

認証部２８は、類似度算出部２７が算出した類似度に基づいて、ユーザデータ記憶部２１に記憶されたユーザであるか否かの認証を行う。認証部２８は、ユーザデータ記憶部２１に記憶されたユーザであると判定した場合、当該ユーザのアカウントデータを返す。

【0050】

《認証方法》
図４は、第１の実施形態に係る認証装置２０による認証方法を示すフローチャートである。なお、認証方法の実行に先立ってモデル取得部２２は、学習装置１０から学習済みの特徴量抽出モデルおよびＫ個のマスクベクトルを取得し、抽出モデル記憶部２３に記録しているものとする。

【0051】

認証装置２０の生体データ取得部２４は、認証装置２０に接続されたセンサ等から生体データを取得する（ステップＳ２１）。弱学習器生成部２５は、抽出モデル記憶部２３が記憶する特徴量抽出モデルにＫ個のマスクベクトルをそれぞれ適用し、一部のエッジの伝達関数をゼロに置き換えたＫ個の弱学習器を生成する（ステップＳ２２）。

【0052】

特徴量抽出部２６は、ステップＳ２１で取得した生体データを、ステップＳ２２で生成したＫ個の弱学習器に入力することで、Ｋ個のサブ特徴ベクトルを算出する（ステップＳ２３）。特徴量抽出部２６は、Ｋ個のサブ特徴ベクトルの要素平均を求めることで、特徴ベクトルを算出する（ステップＳ２４）。

【0053】

次に、認証装置２０は、ユーザデータ記憶部２１が記憶するユーザを１つずつ選択し（ステップＳ２５）、以下に示すステップＳ２６からステップＳ２８を実行する。

【0054】

まず、特徴量抽出部２６は、ステップＳ２５で選択されたユーザに関連付けられた生体データを、ステップＳ２３で生成したＫ個の弱学習器に入力することで、Ｋ個のサブ特徴ベクトルを算出する（ステップＳ２６）。特徴量抽出部２６は、Ｋ個のサブ特徴ベクトルの要素平均を求めることで、特徴ベクトルを算出すｆる（ステップＳ２７）。次に、類似度算出部２７は、ステップＳ２４で算出した特徴ベクトルとステップＳ２７で算出した特徴ベクトルとの類似度を算出する（ステップＳ２８）。

【0055】

認証部２８は、ユーザデータ記憶部２１が記憶する各ユーザについて、取得された生体データとの類似度を算出すると、算出された類似度のうち、所定の認証閾値を超えるものがあるか否かを判定する（ステップＳ２９）。すべての類似度が認証閾値以下である場合（ステップＳ２９：ＮＯ）、認証部２８は、ステップＳ２１で取得した生体データによる認証に失敗したと判定し（ステップＳ３０）、処理を終了する。

【0056】

他方、少なくとも１つの類似度が認証閾値を超える場合（ステップＳ２９：ＹＥＳ）、認証部２８は、最も高い類似度に係るユーザを特定し（ステップＳ３１）、当該ユーザのアカウントデータを出力する（ステップＳ３２）。なお、弱学習器は、認証処理が終了するとともに破棄される。

【0057】

《作用・効果》
このように、第１の実施形態に係る認証システム１によれば、１つの特徴量抽出モデルを異なる位置でマスクすることで、特徴量抽出モデルと同様に特徴量を抽出可能な複数の弱学習器を生成することができる。これは、学習装置１０が分類モデルＭ０の一部のエッジを刈り取った弱学習器に入力サンプルを入力したときに出力サンプルが出力されるように、分類モデルＭ０のパラメータを更新したことによる。Ｋ個の弱学習器のアンサンブル演算によって特徴量を抽出することができることから、第１の実施形態に係る認証システム１は敵対的サンプルに対するロバスト性が高いといえる。また、第１の実施形態におけるＫ個の弱学習器は、１つの特徴量抽出モデルから生成されることから、認証システム１が保持しておくべきモデルは、１つの特徴量抽出モデルだけであるため、第１の実施形態に係る認証システム１はＫ個の弱学習器を用いたアンサンブル演算が可能であるにもかかわらず、記憶容量の増大を抑えることができる。

【0058】

なお、アンサンブル学習によって敵対的サンプルに対するロバスト性を高める非特許文献１に記載の手法で得られるモデルのデータサイズは３２×Ｐ×Ｋである。これに対し、第１の実施形態に係る分類モデルＭ０のデータサイズは３２×Ｐである。Ｐは１つのモデルのパラメータ数を示し、Ｋはモデル数を示す。これは、１つのパラメータが32 bit floatで表されるためである。つまり、第１の実施形態に係る分類モデルＭ０は、非特許文献１に記載の手法と比較してデータサイズをＫ分の１に抑えられる。

【0059】

〈第２の実施形態〉
第１の実施形態に係る認証システム１は、予め分類モデルＭ０のパラメータを学習し、その後スコアを学習することで、マスクベクトルを生成する。これに対し、第２の実施形態に係る認証システムは、分類モデルＭ０のパラメータとスコアとを並行して学習する。

【0060】

《学習方法》
図５は、第２の実施形態に係る学習装置１０による特徴量モデルの学習方法を示すフローチャートである。
学習装置１０のデータセット取得部１２は、図示しないデータベースから予め用意されたデータセットを取得する（ステップＳ４１）。刈り取り位置決定部１３は、乱数に基づいてエッジの刈り取り位置を決定するためのスコアｓ_ｉｊの初期値を生成し、分類モデル記憶部１１に記録する（ステップＳ４２）。次に、刈り取り位置決定部１３は、スコアの上位ｋ％の要素を１とし、残りの要素を０とするＫ個のマスクベクトルを生成する（ステップＳ４３）。

【0061】

学習装置１０は、生成されたマスクベクトルを１つずつ選択し（ステップＳ４４）、選択したマスクベクトルごとに以下のステップＳ４５からステップＳ４８の処理を実行する。演算部１４は、分類モデル記憶部１１が記憶する分類モデルＭ０にステップＳ４４で選択したマスクベクトルを適用し、中間層Ｍ０２の一部のエッジの伝達関数をゼロに置き換えた弱学習器を生成する（ステップＳ４５）。

【0062】

演算部１４は、取得したデータセットに含まれる入力サンプルと出力サンプルの組を１つずつ選択し（ステップＳ４６）、選択した組ごとに以下のステップＳ４７からステップＳ４８の処理を実行する。なお、ステップＳ４６からステップＳ４８の処理はバッチ処理として実行されてよい。

【0063】

演算部１４は、ステップＳ４５で生成した弱学習器にステップＳ４６で選択した入力サンプルを入力し、出力ベクトルを計算する（ステップＳ４７）。摂動生成部１５は、ステップＳ４５で生成した弱学習器とステップＳ４６で選択した入力サンプルとに基づいて、摂動ベクトルを生成する（ステップＳ４８）。

【0064】

更新部１６は、複数の入力サンプルおよび複数の弱学習器について計算された出力ベクトルおよび摂動ベクトルを用いて、以下の式（５）に基づいて第３損失関数Ｌ_３を算出する（ステップＳ４９）。なお、式（５）におけるＬ_ｎは、第１の実施形態の式（３）で表される誤差基準関数を示す。Ｌ_ｄは、第１の実施形態の式（４）で表されるダイバーシティ基準関数を示す。

【0065】

【数5】

【0066】

更新部１６は、算出した損失関数Ｌが小さくなるように、分類モデル記憶部１１が記憶する分類モデルＭ０のパラメータを更新する（ステップＳ５０）。このとき更新部１６は、弱学習器ではなく分類モデルＭ０を更新する。これにより、更新部１６は、生体データを、弱学習器に入力したときに、当該生体データに該当する人物の事後確率を示すＰ次元のベクトルを出力するように、分類モデルＭ０のパラメータを学習させることができる。

【0067】

また、更新部１６は、各弱学習器について、損失関数の傾きが負の傾きとなるエッジに係るスコアを加算し、損失関数の傾きが正の傾きとなるエッジに係るスコアを減算することで、スコアを更新する（ステップＳ５１）。これにより、損失関数を小さくするエッジに係るスコアが高くなる。

【0068】

更新部１６は、分類モデルＭ０のパラメータの更新処理を所定のエポック数だけ実行したか否かを判定する（ステップＳ５２）。分類モデルＭ０のパラメータの更新処理の実行回数が所定のエポック数未満である場合（ステップＳ５２：ＮＯ）、学習装置１０は処理をステップＳ４３に戻し、マスクベクトルの生成およびパラメータの更新処理を繰り返す。

【0069】

他方、分類モデルＭ０のパラメータの更新処理の実行回数が所定のエポック数に至った場合（ステップＳ５２：ＹＥＳ）、モデル抽出部１７は、分類モデル記憶部１１が記憶する分類モデルＭ０のうち入力層Ｍ０１および中間層Ｍ０２からなる部分モデルを、特徴量抽出モデルとして抽出する（ステップＳ５３）。刈り取り位置決定部１３は、分類モデル記憶部１１が記憶するスコアの上位ｋ％の要素を１とし、残りの要素を０とするＫ個のマスクベクトルを生成する（ステップＳ５４）。出力部１８は、ステップＳ５３で抽出された特徴量抽出モデルとステップＳ５４で生成されたマスクベクトルとを認証装置２０に出力する（ステップＳ５５）。なお、弱学習器は、学習処理が終了するとともに破棄される。

【0070】

《認証方法》
第２の実施形態に係る認証装置２０による認証方法は、第１の実施形態と同様である。

【0071】

《作用・効果》
このように、第２の実施形態に係る認証システム１によれば、第１の実施形態と同様に、１つの特徴量抽出モデルを異なる位置でマスクすることで、特徴量抽出モデルと同様に特徴量を抽出可能な複数の弱学習器を生成することができる。

【0072】

〈他の実施形態〉
以上、図面を参照して一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、様々な設計変更等をすることが可能である。すなわち、他の実施形態においては、上述の処理の順序が適宜変更されてもよい。また、一部の処理が並列に実行されてもよい。

【0073】

上述した実施形態に係る学習装置１０および認証装置２０は、それぞれ別個のコンピュータによって構成されるが、他の実施形態においては１つのコンピュータで実現されてもよい。

【0074】

上述した実施形態に係る認証装置２０は、特徴量抽出モデルによって抽出された特徴量の類似度によって認証処理を行うが、これに限られない。例えば、他の実施形態に係る認証装置２０は、分類モデルＭ０の出力に基づいて認証処理を行ってもよい。また上述した実施形態においては、学習済みモデルを用いた演算装置を生体認証を行う認証装置２０に適用したが、これに限られない。例えば、他の実施形態に係る演算装置は、生体データでないデータ、例えば製品の画像などを入力し、正規品であるか否かの判定を行う装置など、生体認証以外の処理を行う者であってもよい。

【0075】

上述した実施形態に係る学習装置１０は、分類モデルＭ０のパラメータの更新と、刈り取り位置の決定とを行うが、これに限られない。例えば、他の実施形態に係る学習装置１０は、分類モデルＭ０の学習処理を行わず、既存の学習済みの分類モデルＭ０について刈り取り位置を決定してもよい。

【0076】

また、上述した実施形態に係る学習装置１０は、スコアに基づいて刈り取り位置を決定するが、これに限られない。例えば、他の実施形態に係る学習装置１０は、刈り取り率ｋ％のマスクベクトルの集合からランダムにマスクベクトルを選択し、式（２）に示す誤差関数が小さくなる組み合わせを探索することで、Ｋ個のマスクベクトルを決定してもよい。

【0077】

上述した実施形態に係る学習装置１０は、式（４）に示すダイバーシティ基準関数を用いることで、刈り取り位置のパターン別の計算結果の差異が大きくなるように分類モデルＭ０のパラメータを更新するが、これに限られない。例えば、他の実施形態に係る学習装置１０は、例えば弱学習器による計算結果のうち、正解ラベルをマスクしたベクトル同士の距離が大きくなるような損失関数を用いてもよい。すなわち学習装置１０は、摂動ベクトルを計算せずに分類モデルＭ０のパラメータを更新してもよい。

【0078】

上述した実施形態に係る認証装置２０は、学習装置１０が生成したＫ個のマスクベクトルを用いてアンサンブル演算を行うが、これに限られない。例えば、他の実施形態に係る認証装置２０は、任意に決定したＫ個のマスクベクトルを用いてアンサンブル演算を行ってもよい。

【0079】

〈基本構成〉
図６は、学習装置０１０の基本構成を示す概略ブロック図である。
上述した実施形態では、学習装置０１０の一実施形態として図１に示す学習装置１０について説明したが、学習装置０１０の基本構成は、図６に示すとおりである。
すなわち、学習装置０１０は、刈り取り位置決定部０１１を基本構成とする。

【0080】

刈り取り位置決定部０１１は、ニューラルネットワークモデルのエッジの刈り取り位置に係る複数のパターンを決定する。刈り取り位置決定部０１１は、入力サンプルと出力サンプルの組である学習用データに基づいて、ニューラルネットワークモデルのエッジのうち刈り取り位置に係るエッジの重みをゼロとしたものに入力サンプルを入力したときに出力サンプルが出力されるように、複数のパターンを決定する。刈り取り位置決定部０１１は、刈り取り位置決定部１３に相当する。

【0081】

これにより、学習装置０１０は、敵対的サンプルに対するロバスト性を高め、かつ記憶容量の増大を抑えることができることができる。

【0082】

図７は、演算装置０２０の基本構成を示す概略ブロック図である。
上述した実施形態では、演算装置０２０の一実施形態として図１に示す認証装置２０について説明したが、演算装置０２０の基本構成は、図７に示すとおりである。
すなわち、演算装置０２０は、刈り取り位置決定部０２１および演算部０２２を基本構成とする。

【0083】

刈り取り位置決定部０２１は、学習済みモデルのエッジの刈り取り位置の複数のパターンを決定する。刈り取り位置決定部０２１は、弱学習器生成部２５に相当する。
演算部０２２は、複数のパターンごとに、学習済みニューラネットワークモデルのエッジのうち各パターンが示す刈り取り位置に係るエッジの重みをゼロとした部分モデルに入力データを入力して得られた各出力データの代表値を演算する。演算部０２２は、特徴量抽出部２６に相当する。

【0084】

これにより、演算装置０２０は、敵対的サンプルに対するロバスト性を高め、かつ記憶容量の増大を抑えることができることができる。

【0085】

〈コンピュータ構成〉
図８は、少なくとも１つの実施形態に係るコンピュータの構成を示す概略ブロック図である。
コンピュータ９０は、プロセッサ９１、メインメモリ９３、ストレージ９５、インタフェース９７を備える。
上述の学習装置１０および認証装置２０は、コンピュータ９０に実装される。そして、上述した各処理部の動作は、プログラムの形式でストレージ９５に記憶されている。プロセッサ９１は、プログラムをストレージ９５から読み出してメインメモリ９３に展開し、当該プログラムに従って上記処理を実行する。また、プロセッサ９１は、プログラムに従って、上述した各記憶部に対応する記憶領域をメインメモリ９３に確保する。プロセッサ９１の例としては、ＣＰＵ（Central Processing Unit）、ＧＰＵ（Graphic Processing Unit）、マイクロプロセッサなどが挙げられる。

【0086】

プログラムは、コンピュータ９０に発揮させる機能の一部を実現するためのものであってもよい。例えば、プログラムは、ストレージに既に記憶されている他のプログラムとの組み合わせ、または他の装置に実装された他のプログラムとの組み合わせによって機能を発揮させるものであってもよい。なお、他の実施形態においては、コンピュータ９０は、上記構成に加えて、または上記構成に代えてＰＬＤ（Programmable Logic Device）などのカスタムＬＳＩ（Large Scale Integrated Circuit）を備えてもよい。ＰＬＤの例としては、ＰＡＬ(Programmable Array Logic)、ＧＡＬ(Generic Array Logic)、ＣＰＬＤ(Complex Programmable Logic Device)、ＦＰＧＡ（Field Programmable Gate Array）が挙げられる。この場合、プロセッサ９１によって実現される機能の一部または全部が当該集積回路によって実現されてよい。このような集積回路も、プロセッサの一例に含まれる。

【0087】

ストレージ９５の例としては、磁気ディスク、光磁気ディスク、光ディスク、半導体メモリ等が挙げられる。ストレージ９５は、コンピュータ９０のバスに直接接続された内部メディアであってもよいし、インタフェース９７または通信回線を介してコンピュータ９０に接続される外部メディアであってもよい。また、このプログラムが通信回線によってコンピュータ９０に配信される場合、配信を受けたコンピュータ９０が当該プログラムをメインメモリ９３に展開し、上記処理を実行してもよい。少なくとも１つの実施形態において、ストレージ９５は、一時的でない有形の記憶媒体である。

【0088】

また、当該プログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、当該プログラムは、前述した機能をストレージ９５に既に記憶されている他のプログラムとの組み合わせで実現するもの、いわゆる差分ファイル（差分プログラム）であってもよい。

【符号の説明】

【0089】

１…認証システム １０…学習装置 １１…分類モデル記憶部 １２…データセット取得部 １３…刈り取り位置決定部 １４…演算部 １５…摂動生成部 １６…更新部 １７…モデル抽出部 １８…出力部 ２０…認証装置 ２１…ユーザデータ記憶部 ２２…モデル取得部 ２３…抽出モデル記憶部 ２４…生体データ取得部 ２５…弱学習器生成部 ２６…特徴量抽出部 ２７…類似度算出部 ２８…認証部 ９０…コンピュータ ９１…プロセッサ ９３…メインメモリ ９５…ストレージ ９７…インタフェース

【図1】

【図2】

【図3A】

【図3B】

【図4】

【図5】

【図6】

【図7】

【図8】