特許 6906469 情報処理装置、情報処理方法、及びプログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】6906469

(24)【登録日】2021年7月1日

(45)【発行日】2021年7月21日

(54)【発明の名称】情報処理装置、情報処理方法、及びプログラム

(51)【国際特許分類】

   G06N 3/02 20060101AFI20210708BHJP

   G06F 21/16 20130101ALI20210708BHJP

【ＦＩ】

   G06N3/02

   G06F21/16

【請求項の数】7

【全頁数】13

(21)【出願番号】特願2018-71118(P2018-71118)

(22)【出願日】2018年4月2日

(65)【公開番号】特開2019-185135(P2019-185135A)

(43)【公開日】2019年10月24日

【審査請求日】2020年5月29日

(73)【特許権者】

【識別番号】000208891

【氏名又は名称】ＫＤＤＩ株式会社

(74)【代理人】

【識別番号】100166006

【弁理士】

【氏名又は名称】泉 通博

(74)【代理人】

【識別番号】100124084

【弁理士】

【氏名又は名称】黒岩 久人

(74)【代理人】

【識別番号】100153280

【弁理士】

【氏名又は名称】寺川 賢祐

(72)【発明者】

【氏名】福島 和英

(72)【発明者】

【氏名】披田野 清良

(72)【発明者】

【氏名】清本 晋作

【審査官】 大桃 由紀雄

(56)【参考文献】

【文献】 国際公開第２０１６／１６７０７６（ＷＯ，Ａ１）

【文献】 Yusuke Uchida, et al.，Embedding Watermarks into Deep Neural Networks，arXiv，2017年04月20日，[オンライン], [検索日2021年06月01], インターネット <URL: https://arxiv.org/abs/1701.04082v2>

(58)【調査した分野】（Int.Cl.，ＤＢ名）

Ｇ０６Ｎ ３／０２

Ｇ０６Ｆ ２１／１６

(57)【特許請求の範囲】

【請求項1】

目的タスクを検出するため複数の層を備えるニューラルネットワークの各層の重みを取得する重み取得部と、
前記重みを所定の規則に従って縮約した縮約重みに基づいて特徴量を生成する特徴量生成部と、
前記特徴量をファジーエクストラクタ（Fuzzy Extractors）に入力して得られた認証鍵を、前記ニューラルネットワークの出所を検証するための認証鍵として生成する鍵生成部と、
前記ニューラルネットワークと前記認証鍵とを紐づけて記憶部に記憶させる認証鍵管理部と、
を備える情報処理装置。

【請求項2】

前記特徴量生成部は、
前記重みの絶対値が所定の丸め閾値未満の重みを０に置換する丸め部と、
前記丸め部が置換した後の重みである丸め重みを複数のクラスタにクラスタリングするクラスタリング部と、
前記複数のクラスタそれぞれに含まれる丸め重みの統計量を並べたベクトルを前記特徴量として生成する統計量算出部と、
を備える、請求項１に記載の情報処理装置。

【請求項3】

前記鍵生成部は、
前記特徴量を入力とする所定のハッシュ関数の出力値を前記認証鍵として生成するハッシュ値生成部と、
誤り訂正符号を発生させて前記特徴量との排他的論理和である補助データを生成する補助データ生成部と、を備え、
前記認証鍵管理部は、前記ニューラルネットワーク、前記認証鍵、及び前記補助データを紐づけて前記記憶部に記憶させる、
請求項１又は２に記載の情報処理装置。

【請求項4】

前記鍵生成部は、異なるニューラルネットワーク毎に異なるシードを割り当てるシード割り当て部をさらに備え、
前記ハッシュ値生成部は、前記特徴量と前記シードとの排他的論理和を入力とする前記ハッシュ関数の出力値を前記認証鍵として生成し、
前記認証鍵管理部は、前記ニューラルネットワーク、前記認証鍵、前記補助データに、さらに前記シードを紐づけて前記記憶部に記憶させる、
請求項３に記載の情報処理装置。

【請求項5】

前記鍵生成部は、認証対象とするニューラルネットワークの各層の重みに基づいて生成した特徴量と前記補助データとの排他的論理和に誤り訂正処理を実行する誤り訂正部をさらに備え、
前記ハッシュ値生成部は、前記誤り訂正部の出力と、前記記憶部に記憶されているシードとの排他的論理和を入力とする前記ハッシュ関数の出力値を認証用の認証鍵として出力し、
前記情報処理装置は、
前記ハッシュ関数が出力した前記認証用の認証鍵と、前記記憶部に記憶されている認証鍵とが一致する場合、認証対象とするニューラルネットワークと、前記記憶部に記憶されている認証鍵に紐づけられているニューラルネットワークとが同一であると認証する認証部をさらに備える、
請求項４に記載の情報処理装置。

【請求項6】

プロセッサが、
目的タスクを検出するため複数の層を備えるニューラルネットワークの各層の重みを取得するステップと、
前記重みを所定の規則に従って縮約した縮約重みに基づいて特徴量を生成するステップと、
前記ニューラルネットワークの出所を検証するための認証鍵を前記特徴量からファジーエクストラクタ（Fuzzy Extractors）を用いて生成するステップと、
前記ニューラルネットワークと前記認証鍵とを紐づけて記憶部に記憶させるステップと、
を実行する情報処理方法。

【請求項7】

コンピュータに、
目的タスクを検出するため複数の層を備えるニューラルネットワークの各層の重みを取得する機能と、
前記重みを所定の規則に従って縮約した縮約重みに基づいて特徴量を生成する機能と、
前記ニューラルネットワークの出所を検証するための認証鍵を前記特徴量からファジーエクストラクタ（Fuzzy Extractors）を用いて生成する機能と、
前記ニューラルネットワークと前記認証鍵とを紐づけて記憶部に記憶させる機能と、
を実現させるプログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、情報処理装置、情報処理方法、及びプログラムに関する。

【背景技術】

【0002】

近年、ＣＰＵ（Central Processing Unit）及びＧＰＵ（Graphics Processing Unit）の高速化、メモリの大容量化、及び機械学習技術が急速に進んできている。このため、数十万から百万といったオーダーの学習データを用いる機械学習が可能となり、精度の高い識別技術や分類技術が確立されつつある（非特許文献１参照）。

【先行技術文献】

【非特許文献】

【0003】

【非特許文献1】Yangqing Jia, Evan Shelhamer, Jeff Donahue, Sergey Karayev, Jonathan Long, Ross Girshick, Sergio Guadarrama, and Trevor Darrell. Caffe: Convolutional architecture for fast feature embedding. In Proceedings of the 22nd ACM international conference on Multimedia (pp. 675-678). ACM.

【発明の概要】

【発明が解決しようとする課題】

【0004】

大量の学習データに基づく機械学習を実行するためには大量の計算コストがかかる。また、大量の学習データを用意すること、及び用意した学習データを機械学習に用いるために加工する前処理にも膨大な労力を要する。一方で、機械学習によって生成された学習モデルはデジタルデータであり、その複製は容易である。さらに、一般に学習モデル生成に用いられた学習データを、学習モデル自体から推測することは難しい。

【0005】

このため、学習モデルを生成した者は、その学習モデルが第三者によって不正に利用されたとしても、不正を立証することが難しい。収集した学習データと、学習データに基づいて生成された学習モデルとはそれぞれ労力をかけて取得した価値あるものであり、不正利用から学習モデルを守ることが望まれている。

【0006】

本発明はこれらの点に鑑みてなされたものであり、学習モデルの出所を特定することができる技術を提供することを目的とする。

【課題を解決するための手段】

【0007】

本発明の第１の態様は、情報処理装置である。この装置は、目的タスクを検出するため複数の層を備えるニューラルネットワークの各層の重みを取得する重み取得部と、前記重みを所定の規則に従って縮約した縮約重みに基づいて特徴量を生成する特徴量生成部と、前記特徴量をファジーエクストラクタ（Fuzzy Extractors）に入力して得られた認証鍵を、前記ニューラルネットワークの出所を検証するための認証鍵として生成する鍵生成部と、前記ニューラルネットワークと前記認証鍵とを紐づけて記憶部に記憶させる認証鍵管理部と、を備える。

【0008】

前記特徴量生成部は、前記重みの絶対値が所定の丸め閾値未満の重みを０に置換する丸め部と、前記丸め部が置換した後の重みである丸め重みを複数のクラスタにクラスタリングするクラスタリング部と、前記複数のクラスタそれぞれに含まれる丸め重みの統計量を並べたベクトルを前記特徴量として生成する統計量算出部と、を備えてもよい。

【0009】

前記鍵生成部は、前記特徴量を入力とする所定のハッシュ関数の出力値を前記認証鍵として生成するハッシュ値生成部と、誤り訂正符号を発生させて前記特徴量との排他的論理和である補助データを生成する補助データ生成部と、を備えてもよく、前記認証鍵管理部は、前記ニューラルネットワーク、前記認証鍵、及び前記補助データを紐づけて前記記憶部に記憶させてもよい。

【0010】

前記鍵生成部は、異なるニューラルネットワーク毎に異なるシードを割り当てるシード割り当て部をさらに備えてもよく、前記ハッシュ値生成部は、前記特徴量と前記シードとの排他的論理和を入力とする前記ハッシュ関数の出力値を前記認証鍵として生成してもよく、前記認証鍵管理部は、前記ニューラルネットワーク、前記認証鍵、前記補助データに、さらに前記シードを紐づけて前記記憶部に記憶させてもよい。

【0011】

前記鍵生成部は、認証対象とするニューラルネットワークの各層の重みに基づいて生成した特徴量と前記補助データとの排他的論理和に誤り訂正処理を実行する誤り訂正部をさらに備えてもよく、前記ハッシュ値生成部は、前記誤り訂正部の出力と、前記記憶部に記憶されているシードとの排他的論理和を入力とする前記ハッシュ関数の出力値を認証用の認証鍵として出力してもよく、前記情報処理装置は、前記ハッシュ関数が出力した前記認証用の認証鍵と、前記記憶部に記憶されている認証鍵とが一致する場合、認証対象とするニューラルネットワークと、前記記憶部に記憶されている認証鍵に紐づけられているニューラルネットワークとが同一であると認証する認証部をさらに備えてもよい。

【0012】

本発明の第２の態様は、情報処理方法である。この方法において、プロセッサが、目的タスクを検出するため複数の層を備えるニューラルネットワークの各層の重みを取得するステップと、前記重みを所定の規則に従って縮約した縮約重みに基づいて特徴量を生成するステップと、前記ニューラルネットワークの出所を検証するための認証鍵を前記特徴量からファジーエクストラクタを用いて生成するステップと、前記ニューラルネットワークと前記認証鍵とを紐づけて記憶部に記憶させるステップと、を実行する。

【0013】

本発明の第３の態様は、プログラムである。このプログラムは、コンピュータに、目的タスクを検出するため複数の層を備えるニューラルネットワークの各層の重みを取得する機能と、前記重みを所定の規則に従って縮約した縮約重みに基づいて特徴量を生成する機能と、前記ニューラルネットワークの出所を検証するための認証鍵を前記特徴量からファジーエクストラクタを用いて生成する機能と、前記ニューラルネットワークと前記認証鍵とを紐づけて記憶部に記憶させる機能と、を実現させる。

【発明の効果】

【0014】

本発明によれば、学習モデルの出所を特定することができる。

【図面の簡単な説明】

【0015】

【図1】実施の形態の概要を説明するための図である。

【図2】実施の形態に係る情報処理装置の機能構成を模式的に示す図である。

【図3】実施の形態に係る特徴量生成部の機能構成を模式的に示す図である。

【図4】実施の形態に係る特徴量生成部が実行する特徴量生成処理を説明するための図である。

【図5】実施の形態に係る鍵生成部の機能構成を模式的に示す図である。

【図6】鍵生成部と認証鍵管理部とによって構成されるファジーエクストラクタの機能構成を模式的に示す図である。

【図7】実施の形態に係る情報処理装置が実行する認証価値の登録処理の流れを説明するためのフローチャートである。

【図8】鍵生成部と認証鍵管理部とによって構成されるファジーエクストラクタの機能構成の別の例を示す模式図である。

【発明を実施するための形態】

【0016】

＜実施の形態の概要＞
図１は、実施の形態の概要を説明するための図である。図１を参照して、実施の形態の概要を述べる。

【0017】

実施の形態に係る情報処理装置の好適な処理対象は、ニューラルネットワークを用いて生成した学習モデルである。ニューラルネットワークのモデルパラメータは、例えばそのモデルパラメータを不正に入手した第三者がファインチューニングを施すことにより、学習モデルの性能をほとんど変えることなくモデルパラメータの値を改変することができる。このため、例えばバイナリコンペア等の単純な手法を用いて正当なモデルパラメータと不正利用が疑われるモデルパラメータとを比較しただけでは、モデルパラメータの作成者は、他者が用いているモデルパラメータが不正利用であることを立証するのは難しい。

【0018】

そこで、実施の形態に係る情報処理装置は、まず学習モデルを構成するモデルパラメータから、改変に対してロバストな特徴量を抽出する。詳細は後述するが、実施の形態に係る情報処理装置は、モデルパラメータを縮約することによってパラメータ間の変動を丸めることにより、改変に対してロバストな特徴量を抽出する。

【0019】

続いて、実施の形態に係る情報処理装置は、抽出した特徴量を既知のファジーエクストラクタに入力することにより、各学習モデルに固有の認証鍵を生成する。ファジーエクストラクタは生体情報等のノイズの多い信号から認証鍵を生成する技術である。実施の形態に係る情報処理装置は改変にロバストな特徴量をノイズ耐性が高いファジーエクストラクタに入力して認証鍵を生成するため、ファインチューニング等によってモデルパラメータの値が改変されたとしても、学習モデルの出所を精度高く検出することができる。

【0020】

＜実施の形態に係る情報処理装置１の機能構成＞
図２は、実施の形態に係る情報処理装置１の機能構成を模式的に示す図である。情報処理装置１は、記憶部２と制御部３とを備える。

【0021】

記憶部２は、情報処理装置１を実現するコンピュータのＢＩＯＳ（Basic Input Output System）等を格納するＲＯＭ（Read Only Memory）や情報処理装置１の作業領域となるＲＡＭ（Random Access Memory）、ＯＳ（Operating System）やアプリケーションプログラム、当該アプリケーションプログラムの実行時に参照される種々の情報を格納するＨＤＤ（Hard Disk Drive）やＳＳＤ（Solid State Drive）等の大容量記憶装置である。

【0022】

制御部３は、情報処理装置１のＣＰＵやＧＰＵ等のプロセッサであり、記憶部２に記憶されたプログラムを実行することによって重み取得部３０、特徴量生成部３１、鍵生成部３２、認証鍵管理部３３、認証部３４として機能する。なお、詳細は後述するが、鍵生成部３２と認証鍵管理部３３とは、ファジーエクストラクタを構成する。

【0023】

図２は、情報処理装置１が単一の装置で構成されている場合の例を示している。しかしながら、情報処理装置１は、例えばクラウドコンピューティングシステムのように複数のプロセッサやメモリ等の計算リソースによって実現されてもよい。この場合、制御部３を構成する各部は、複数の異なるプロセッサの中の少なくともいずれかのプロセッサがプログラムを実行することによって実現される。

【0024】

重み取得部３０は、目的タスクを検出するため複数の層を備えるニューラルネットワークの各層の重みを取得する。ニューラルネットワークの学習モデルにおいては、ニューラルネットワークの各層の重みがモデルパラメータとなる。

【0025】

特徴量生成部３１は、重み取得部３０が取得した重みを所定の規則に従って縮約した縮約重みを生成する。なお、「所定の規則」の詳細は後述する。特徴量生成部３１は、生成した縮約重みに基づいて特徴量を生成する。鍵生成部３２は、特徴量生成部３１が生成した特徴量をファジーエクストラクタに入力して得られた認証鍵を、ニューラルネットワークの出所を検証するための認証鍵として生成する。認証鍵管理部３３は、ニューラルネットワークと認証鍵とを紐づけて記憶部２に記憶させる。これにより、情報処理装置１は、ニューラルネットワークの出所を精度よく特定するための認証鍵を生成することができる。

【0026】

図３は、実施の形態に係る特徴量生成部３１の機能構成を模式的に示す図である。特徴量生成部３１は、丸め部３１０、クラスタリング部３１１、及び統計量算出部３１２を含む。以下、図３を参照して、特徴量生成部３１が重みを縮約する際の「所定の規則」について説明する。

【0027】

丸め部３１０は、重み取得部３０が取得した重みの絶対値が所定の丸め閾値未満である重みを０に置換する。ここで、「所定の丸め閾値」とは、丸め部３１０が重みを縮約する際に参照する縮約対象判定閾値である。所定の丸め閾値の値は、縮約対象の重みの平均値及び標準偏差等を勘案して実験により定めればよい。

【0028】

図４（ａ）−（ｄ）は、実施の形態に係る特徴量生成部３１が実行する特徴量生成処理を説明するための図である。図４（ａ）−（ｂ）は、１から３までの３つの番号が振られた３つのノードを含む層と、４から６までの３つの番号が振られた３つのノードを含む層との２層のネットワークを示している。以下、１から３までの３つの番号が振られた３つのノードを含む層を「第１層」、４から６までの３つの番号が振られた３つのノードを含む層を「第２層」と呼ぶ。

【0029】

図４（ａ）において、第１層と第２層とは全層結合している。図４（ａ）には、各ノード間の重みｗ_ｉｊ（ｉ＝１，２，３、ｊ＝４，５，６）を表形式で図示している。ここで「ノード間の重み」とは、第１層のノードの出力を第２層のノードの入力に変換する際に乗じられる係数である。例えば、第１層のノードの出力をｘ_ｉ、第２層の入力をｙ_ｊとすると、ｙ_ｊは以下の式（１）で表される。

【0030】

【数1】

【0031】

図４（ｂ）は、丸め部３１０が丸め閾値を１．０として重みｗ_ｉｊを丸めた結果を示している。丸め部３１０に丸められた結果、ｗ_１５、ｗ_１６、ｗ_２４、ｗ_２５、及びｗ_３６が削除されている。なお、図４（ａ）に示す重みｗ_ｉｊのうち、値にアンダーラインが付された重みｗ_ｉｊは、丸め部３１０が丸める対象とした重みｗ_ｉｊである。また、図４（ａ）において、ノード間のつながりを破線で示している個所は、丸め部３１０が丸める対象とした個所を示している。

【0032】

このように、丸め部３１０が重みｗ_ｉｊを閾値処理することにより、丸め閾値以下の小さな重みｗ_ｉｊの変動は全て刈り取られることになる。これにより、重みｗ_ｉｊの変動に対するロバスト性を高めることができる。

【0033】

特徴量生成部３１中のクラスタリング部３１１は、丸め部３１０が置換した後の重みである丸め重みを複数のクラスタにクラスタリングする。図４（ｃ）は、クラスタリング部３１１によるクラスタリングの結果を示すための模式図である。クラスタリング部３１１は、丸め部３１０が丸めの対象としなかったｗ_１４、ｗ_２６、ｗ_３４、及びｗ_３５の４つの重みをクラスタリングの対象とする。なお、クラスタリング部３１１は、例えばｋ−ｍｅａｎｓ法などの既知のクラスタリング手法を用いて丸め重みをクラスタリングすればよい。

【0034】

図４（ｃ）は、クラスタリング部３１１が、重みｗ_ｉｊを、ｗ_１４とｗ_２６とを含む第１クラスタＣ１、ｗ_３４を含む第２クラスタＣ２、及びｗ_３５を含む第３クラスタｃ３の３つのクラスタに分類した場合の例を示している。

【0035】

統計量算出部３１２は、クラスタリング部３１１がクラスタリングした複数のクラスタそれぞれに含まれる丸め重みの統計量を並べたベクトルを特徴量として生成する。図４（ｄ）は、統計量算出部３１２が特徴量を生成するための統計量として、各クラスタに含まれる丸め重みの平均値を採用した場合の各クラスタの特徴量を示している。

【0036】

なお、統計量算出部３１２は、各クラスタに含まれる重みｗ_ｉｊを代表するための値であれば、平均値以外の統計量を採用してもよい。例えば、統計量算出部３１２は、平均値に変えて、例えば最頻値や中央値を、特徴量を生成するための統計量として採用してもよい。

【0037】

このように、クラスタリング部３１１が重みｗ_ｉｊをクラスタリングすることにより、重みｗ_ｉｊに多少の変動があったとしても、重みｗ_ｉｊは概ね同じクラスタにクラスタリングされる。さらに、統計量算出部３１２が各クラスタの統計量を特徴量とすることにより、重みｗ_ｉｊに変動があったとしても統計処理によって丸められる。これにより、統計量算出部３１２は、重みｗ_ｉｊの変動に対するロバスト性の高い特徴量を生成できる。

【0038】

以上より、特徴量生成部３１は、ニューラルネットワークの各層の重みに基づいて特徴量を生成することができる。

【0039】

続いて、認証鍵の生成及び認証鍵を用いた認証について説明する。
図５は、実施の形態に係る鍵生成部３２の機能構成を模式的に示す図である。鍵生成部３２は、ハッシュ値生成部３２０、補助データ生成部３２１、シード割り当て部３２２、及び誤り訂正部３２３を含む。

【0040】

シード割り当て部３２２は、異なるニューラルネットワーク毎に異なるシードを割り当てる。ハッシュ値生成部３２０は、まず、特徴量生成部３１が生成した特徴量と、シード割り当て部３２２が割り当てたシードとの排他的論理和を生成する。続いて、ハッシュ値生成部３２０は、生成した排他的論理和を入力とする所定のハッシュ関数の出力値を、認証鍵として生成する。ハッシュ関数は、ＭＤ５（Message Digest Algorithm 5）やＳＨＡ−２（Secure Hash Algorithm 2）等、既知のハッシュ関数を用いて実現できる。

【0041】

補助データ生成部３２１は、まず、誤り訂正符号を発生させる。続いて、補助データ生成部３２１は、発生させた誤り訂正符号と、特徴量生成部３１が生成した特徴量との排他的論理和を生成する。補助データ生成部３２１が生成した誤り訂正符号と特徴量との排他的論理和は、ニューラルネットワークの出所を検証する際の補助データとして使用される。

【0042】

認証鍵管理部３３は、特徴量生成の元となったニューラルネットワーク、ハッシュ値生成部３２０が生成した認証鍵、補助データ生成部３２１が生成した補助データ、及びシード割り当て部３２２が割り当てたシードを紐づけて記憶部２に記憶させる。以上より、鍵生成部３２は、ニューラルネットワーク毎に異なる認証鍵を生成し、記憶部２に登録することができる。

【0043】

続いて、ニューラルネットワークの認証時の動作について説明する。
誤り訂正部３２３は、認証対象とするニューラルネットワークの各層の重みに基づいて生成した特徴量と、記憶部２から読み出した補助データとの排他的論理和に誤り訂正処理を実行する。ハッシュ値生成部３２０は、誤り訂正部３２３の出力と、記憶部２に記憶されているシードとの排他的論理和を入力とするハッシュ関数の出力値を認証用の認証鍵として出力する。

【0044】

認証部３４は、ハッシュ関数が出力した認証用の認証鍵と、記憶部２に記憶されている認証鍵とが一致することを条件として、認証対象とするニューラルネットワークの正当性を認証する。これにより、情報処理装置１は、学習モデルの出所を特定することができる。

【0045】

上述したように、実施の形態に係る情報処理装置１における鍵生成部３２と認証鍵管理部３３とは、ファジーエクストラクタを構成している。

【0046】

図６（ａ）−（ｂ）は、鍵生成部３２と認証鍵管理部３３とによって構成されるファジーエクストラクタの機能構成を模式的に示す図である。具体的には、図６（ａ）は認証鍵の生成時の機能構成を示す図であり、図６（ｂ）は、認証時の機能構成を模式的に示す図である。

【0047】

図６（ａ）に示すように、認証鍵の登録時には、ニューラルネットワークから抽出された特徴量とシードとの排他的論理和がハッシュ関数に入力され、その出力が認証鍵となる。また、特徴量と誤り訂正符号との排他的論理和が補助データとなる。シード、認証鍵、及び補助データがニューラルネットワークと紐づけて記憶部２に登録される。

【0048】

図６（ｂ）に示すように、認証鍵を用いた認証時には、認証対象のニューラルネットワークから抽出された特徴量と、記憶部２から読み出された補助データとの排他的論理和が、誤り訂正器に入力される。誤り訂正された排他的論理和と補助データとの排他的論理和に対し、さらに記憶部２から読み出されたシードとの排他的論理和が生成され、ハッシュ関数の入力となる。ハッシュ関数が出力した認証鍵が、記憶部２に登録されている認証鍵と一致する場合、認証部３４は、認証対象のニューラルネットワークは、記憶部２に登録されているニューラルネットワークと一致すると判定する。

【0049】

このように、実施の形態に係る情報処理装置１において、ファジーエクストラクタの内部で誤り訂正処理が実行されるため、ノイズ耐性のある認証を実行することができる。また、ファジーエクストラクタに入力する特徴量も、閾値処理とクラスタリングによる代表値抽出とを用いてロバスト性を上げている。これにより、情報処理装置１は、ファインチューニング等によって学習モデルのモデルパラメータが改変されたとしても、学習モデルの出所を特定できる確率を高めることができる。

【0050】

＜情報処理装置１が実行する学習方法の処理フロー＞
図７は、実施の形態に係る情報処理装置１が実行する認証価値の登録処理の流れを説明するためのフローチャートである。本フローチャートにおける処理は、例えば情報処理装置１が起動したときに開始する。

【0051】

重み取得部３０は、目的タスクを検出するため複数の層を備えるニューラルネットワークの各層の重みを取得する（Ｓ２）。特徴量生成部３１は、重み取得部３０が取得した重みを所定の規則に従って縮約し、縮約重みを生成する（Ｓ４）。特徴量生成部３１は、生成した縮約重みに基づいて特徴量を生成する（Ｓ６）。

【0052】

鍵生成部３２は、特徴量生成部３１が生成した特徴量をファジーエクストラクタに入力して得られた認証鍵を、特徴量のニューラルネットワークの出所を検証するための認証鍵として生成する（Ｓ８）。認証鍵管理部３３は、ニューラルネットワークと認証鍵とを紐づけて記憶部２に記憶させる（Ｓ１０）。

【0053】

認証鍵管理部３３がニューラルネットワークと認証鍵とを紐づけて記憶部２に記憶させると、本フローチャートにおける処理は終了する。

【0054】

＜実施の形態に係る情報処理装置１が奏する効果＞
以上説明したように、実施の形態に係る情報処理装置１によれば、学習モデルの出所を特定することができる。

【0055】

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、装置の分散・統合の具体的な実施の形態は、以上の実施の形態に限られず、その全部又は一部について、任意の単位で機能的又は物理的に分散・統合して構成することができる。また、複数の実施の形態の任意の組み合わせによって生じる新たな実施の形態も、本発明の実施の形態に含まれる。組み合わせによって生じる新たな実施の形態の効果は、もとの実施の形態の効果を合わせ持つ。

【0056】

＜変形例＞
上記では、鍵生成部３２がシード割り当て部３２２を備える場合、すなわちファジーエクストラクタがシードを利用する場合について説明した。ニューラルネットワーク毎に異なるシードを生成して登録することにより、認証の信頼性を高められる点で効果がある。しかしながら、ニューラルネットワークの出所を検証するという目的に対しては、シードは必ずしも必要ではない。

【0057】

図８（ａ）−（ｂ）は、鍵生成部３２と認証鍵管理部３３とによって構成されるファジーエクストラクタの機能構成の別の例を示す模式図であり、シードを利用しない場合の例を示す図である。具体的には、図８（ａ）は、シードを用いない場合の認証鍵の生成時の機能構成を示す図である。また、図８（ｂ）は、シードを利用しない場合の認証時の機能構成を模式的に示す図である。

【0058】

図８（ａ）に示すように、認証鍵の登録時において、ハッシュ値生成部３２０は、特徴量を入力とする所定のハッシュ関数の出力値を認証鍵として生成する。補助データ生成部３２１は、誤り訂正符号と特徴量との排他的論理和を補助データとして生成する。なお、認証鍵管理部３３は、ニューラルネットワーク、認証鍵、及び補助データを紐づけて記憶部２に記憶させる。

【0059】

図８（ｂ）に示すように、認証時には、認証対象のニューラルネットワークから抽出された特徴量と、記憶部２から読み出された補助データとの排他的論理和が、誤り訂正器に入力される。誤り訂正された排他的論理和と補助データとの排他的論理和が、ハッシュ関数の入力となる。ハッシュ関数が出力した認証鍵が、記憶部２に登録されている認証鍵と一致する場合、認証部３４は、認証対象のニューラルネットワークは、記憶部２に登録されているニューラルネットワークと一致すると判定する。

【0060】

このように、ファジーエクストラクタ内でシードの割り当てをしなくても、ニューラルネットワークの出所を検証するための認証鍵の登録と、出所を検証するための認証を実施することができる。シードを利用する場合と比較して、登録に必要なデータを削減でき、また、認証時の演算を減らして高速化できる点で効果がある。

【符号の説明】

【0061】

１・・・情報処理装置
２・・・記憶部
３・・・制御部
３０・・・重み取得部
３１・・・特徴量生成部
３１０・・・丸め部
３１１・・・クラスタリング部
３１２・・・統計量算出部
３２・・・鍵生成部
３２０・・・ハッシュ値生成部
３２１・・・補助データ生成部
３２２・・・シード割り当て部
３２３・・・誤り訂正部
３３・・・認証鍵管理部
３４・・・認証部

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】