特開 2024-20923 学習プログラム、学習方法および情報処理装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024020923

(43)【公開日】2024-02-15

(54)【発明の名称】学習プログラム、学習方法および情報処理装置

(51)【国際特許分類】

   G06N 20/00 20190101AFI20240207BHJP

   G06N 3/02 20060101ALI20240207BHJP

   G06T 7/00 20170101ALI20240207BHJP

【ＦＩ】

G06N20/00

G06N3/02

G06T7/00 350C

【審査請求】未請求

【請求項の数】6

【出願形態】ＯＬ

(21)【出願番号】P 2022123481

(22)【出願日】2022-08-02

(71)【出願人】

【識別番号】000005223

【氏名又は名称】富士通株式会社

(74)【代理人】

【識別番号】110002147

【氏名又は名称】弁理士法人酒井国際特許事務所

(72)【発明者】

【氏名】吉井 章人

(72)【発明者】

【氏名】徳本 晋

【テーマコード（参考）】

5L096

【Ｆターム（参考）】

5L096DA01

5L096EA03

5L096EA15

5L096EA16

5L096GA59

5L096HA11

5L096KA04

5L096KA13

(57)【要約】

【課題】摂動操作を行った入力データを用いて学習モデルを再訓練する場合に、デグレードの発生を抑止すること。
【解決手段】情報処理装置１００は、第１の複数のデータと、第１の複数のデータに対して特定の摂動を加えて生成された第２の複数のデータとを取得する。情報処理装置１００は、特定の摂動の程度に応じたパラメータを決定する。情報処理装置１００は、第１の複数のデータと第２の複数のデータとを入力とし、第１の複数のデータに対する機械学習モデルの出力結果と第２の複数のデータに対する機械学習モデルの出力結果との比較結果と、比較結果の係数であるパラメータとを含む損失関数に基づいて、機械学習モデルの訓練を実行する。
【選択図】図１

【特許請求の範囲】

【請求項1】

第１の複数のデータと、第１の複数のデータに対して特定の摂動を加えて生成された第２の複数のデータとを取得し、
前記特定の摂動の程度に応じたパラメータを決定し、
前記第１の複数のデータと前記第２の複数のデータとを入力とし、前記第１の複数のデータに対する機械学習モデルの出力結果と前記第２の複数のデータに対する前記機械学習モデルの出力結果との比較結果と、前記比較結果の係数である前記パラメータとを含む損失関数に基づいて、前記機械学習モデルの訓練を実行する、
処理をコンピュータに実行させることを特徴とする学習プログラム。

【請求項2】

前記パラメータを決定する処理は、前記特定の摂動の程度に応じた第１パラメータに加えて、前記摂動の種類に応じた第２パラメータを更に決定することを特徴とする請求項１に記載の学習プログラム。

【請求項3】

前記訓練を実行する処理は、前記比較結果の係数である前記第１パラメータと、前記比較結果の他の係数である前記第２パラメータとを含む前記損失関数に基づいて、前記機械学習モデルの訓練を実行することを特徴とする請求項２に記載の学習プログラム。

【請求項4】

前記摂動の種別には、回転、平行移動、拡大が含まれ、前記パラメータを決定する処理は、前記摂動の種別が回転の場合には、前記摂動の種類が平行移動または拡大の場合に決定される第２パラメータの値よりも大きな値の第２パラメータを決定することを特徴とする請求項３に記載の学習プログラム。

【請求項5】

第１の複数のデータと、第１の複数のデータに対して特定の摂動を加えて生成された第２の複数のデータとを取得し、
前記特定の摂動の程度に応じたパラメータを決定し、
前記第１の複数のデータと前記第２の複数のデータとを入力とし、前記第１の複数のデータに対する機械学習モデルの出力結果と前記第２の複数のデータに対する前記機械学習モデルの出力結果との比較結果と、前記比較結果の係数である前記パラメータとを含む損失関数に基づいて、前記機械学習モデルの訓練を実行する、
処理をコンピュータが実行することを特徴とする学習方法。

【請求項6】

第１の複数のデータと、第１の複数のデータに対して特定の摂動を加えて生成された第２の複数のデータとを取得し、
前記特定の摂動の程度に応じたパラメータを決定し、
前記第１の複数のデータと前記第２の複数のデータとを入力とし、前記第１の複数のデータに対する機械学習モデルの出力結果と前記第２の複数のデータに対する前記機械学習モデルの出力結果との比較結果と、前記比較結果の係数である前記パラメータとを含む損失関数に基づいて、前記機械学習モデルの訓練を実行する、
処理を実行する制御部を有する情報処理装置。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、訓練データを用いた学習技術に関する。

【背景技術】

【0002】

ディープラーニングによって訓練される学習モデルには、画像を分類する学習モデルがある。係る学習モデルは、多様なＡＩ（Artificial Intelligence）のタスクにおいて利用される。

【0003】

たとえば、学習モデルの頑健性を改善する技術として、従来技術１がある。従来技術１では、予め定義された摂動操作を入力画像に施し、遺伝アルゴリズムによってデータ拡張（data augmentation）を行い、学習モデルへの入力データを生成する。従来技術１では、データ拡張した入力データを用いて、学習モデルを再訓練することで、同じ対象物の画像に対して、環境変化による摂動が加わった場合の耐性を、学習モデルに与えることができる。

【0004】

図９は、従来技術１の摂動操作の一例を説明するための図である。摂動操作の種類と摂動操作の度合いとの関係を示すデータを「摂動パラメータ」と表記する。入力画像Ｉｍ１に対して、摂動パラメータ「回転＝０．１２、明度＝１．０」に応じた摂動操作を実行することで、入力データＩｍ１－１が生成される。入力画像Ｉｍ１に対して、摂動パラメータ「回転＝０．０、明度＝０．０６」に応じた摂動操作を実行することで、入力データＩｍ１－２が生成される。入力画像Ｉｍ１に対して、摂動パラメータ「回転＝０．１２、明度＝０．０６」に応じた摂動操作を実行することで、入力データＩｍ１－３が生成される。

【0005】

従来技術１では、全ての摂動パラメータを試すのではなく、特定の基準で複数の摂動パラメータを評価する。従来技術１では、評価結果を基にして、複数の摂動パラメータから頑健性の改善に有効な摂動パラメータを選択し、選択した摂動パラメータに応じた摂動操作を行って、入力データを生成し、学習モデルの再訓練に利用する。

【0006】

一方、学習モデルを再訓練する従来技術として、従来技術２がある。従来技術２の説明では、あるデータセットによって最初に訓練しておいた学習モデルを「ｈ_１」とする。ｈ_１を再訓練した学習モデルを「ｈ_２」とする。

【0007】

従来技術２では、式（１）に示す損失関数Ｌ_Ｃを用いて、学習モデル（ｈ_１）を再訓練する。式（１）において、「Ｌ」は、クロスエントロピー等の従来の損失項である。「λ_Ｃ」は、ペナルティ項「Ｄ」を調整する係数である。ペナルティ項「Ｄ」は、ｈ_１で正解していたデータサンプルについて、ペナルティを与える項である。

【0008】

【数1】

【0009】

たとえば、ペナルティ項「Ｄ」は、式（２）に示される。式（２）の白抜きの「１」は、indicator functionであり、カッコ内に示される条件を満たす場合に、「１」を出力し、カッコ内の条件を満たさない場合に「０」を出力する。式（２）のカッコ内の条件「ｈ_１（ｘ）＝ｙ」は、再訓練時に、データサンプル「ｘ」をｈ_１に入力して得られる結果と、再訓練前のデータサンプル「ｘ」の正解値「ｙ」とが同一であるという条件である。

【0010】

【数2】

【0011】

従来技術２では、ペナルティ項「Ｄ」を利用することで、ｈ_１で正解していたのに、再訓練後のｈ_２で新しく間違うようになったデータサンプルを少なく抑えようとしている。

【先行技術文献】

【非特許文献】

【0012】

【非特許文献1】Gao, X., Saha, R.K., Prasad, M.R., and Roychoudhury, A., Fuzz Testing based Data Augmentation to Improve Robustness of Deep Neural Networks（In proceedings of ICSE 2020）

【非特許文献2】Bansal, G., Nushi, B., Kamar, E., Weld, D., Lasecki, W., and Horvitz, E., Updates in Human-AI Teams: Understanding and Addressing the Performance/Compatibility Tradeoff (In proceedings of AAAI 2019)

【発明の概要】

【発明が解決しようとする課題】

【0013】

上述した従来技術１と、従来技術２とを組み合わせた参考技術について説明する。かかる参考技術では、従来技術１のように、より効果の高い摂動パラメータを探索し、訓練時の損失関数は、従来技術２の損失関数を用いる。

【0014】

図１０は、参考技術を説明するための図である。図１０に示すように、参考技術を実行する装置５０は、摂動操作探索部５１と、損失関数評価部５２と、最適化部５３とを有する。装置５０は、訓練データセット１０ａと、訓練ラベル１０ｂとを基にして、学習モデルｍ_Ｃを訓練しており、ここでは、学習モデルｍ_Ｃを再訓練する場合の処理について説明する。学習モデルｍ_Ｃは、ＤＮＮ（Deep Neural Network）等である。

【0015】

訓練データセット１０ａには、複数の訓練データが含まれる。訓練ラベル１０ｂには、各訓練データに対する正解ラベルがそれぞれ設定される。

【0016】

装置５０の摂動操作探索部５１は、摂動パラメータの集合１５を評価し、頑健性の改善に有効な摂動パラメータを探索する。摂動操作探索部５１は、探索した摂動パラメータに応じた摂動操作を、訓練データセット１０ａの各訓練データに対して実行することで、入力データセットを生成する。

【0017】

装置５０の損失関数評価部５２および最適化部５３は、摂動操作探索部５１によって生成された入力データセットと、訓練ラベル１０ｂとを基にして、学習モデルｍ_Ｃを再訓練する。損失関数評価部５２は、学習モデルｍ_Ｃを再訓練する場合の損失関数として、式（１）で説明した損失関数Ｌ_Ｃの値を算出する。最適化部５３は、損失関数Ｌ_Ｃの値が最小化するように、学習モデルｍ_Ｃを再訓練する。

【0018】

続いて、図１０で説明した参考技術の問題点について説明する。参考技術のように、訓練データセット１０ａに対して摂動操作を行った入力データセットを用いて、学習モデルｍ_Ｃの再訓練を行うと、頑健性が向上する一方で、デグレードが発生する場合がある。デグレードは、再訓練前には正しく分類できていたデータサンプルを、再訓練後には正しく分類できなくなることである。

【0019】

図１１は、学習モデルのデグレードを説明するための図である。図１１の説明では、データサンプル１１ａ，１１ｂ，１１ｃ，１１ｄ，１１ｅ，１１ｆ，１１ｇ，１１ｈ，１１ｉ，１１ｊを用いて説明を行う。再訓練前の学習モデルｍ_Ｃに、データサンプル１１ａ～１１ｊをそれぞれ入力し、データサンプル１１ａ～１１ｈの分類結果が正解となり、データサンプル１１ｉ，１１ｊの分類結果が不正解となる場合、再訓練前の学習モデルｍ_Ｃの正解率は「８０％」となる。

【0020】

一方、再訓練後の学習モデルｍ_Ｃに、データサンプル１１ａ～１１ｊをそれぞれ入力し、データサンプル１１ａ，１１ｃ～１１ｈの分類結果が正解となり、データサンプル１１ｉｂの分類結果が不正解となる場合、再訓練後の学習モデルｍ_Ｃの正解率は「９０％」となる。

【0021】

図１１で説明した例では、再訓練前よりも再訓練後のほうが、正解率が向上しているものの、再訓練前には正しく分類できていたデータサンプル１１ｂを、再訓練後には正しく分類できなくなっており、学習モデルｍ_Ｃにデグレードが発生している。

【0022】

参考技術では、摂動操作によって多様な入力データを生成して、学習モデルの再訓練を行っており、摂動操作前に正解していた入力データについては、損失関数にペナルティを与えている。

【0023】

たとえば、摂動操作を行った入力データを用いた再訓練で、参考技術のように一律のペナルティを与えると、摂動が小さく分類が容易な入力データにおいては、ペナルティ項の影響が相対的に大きくなる。これによって、デグレードを抑制する効果が高まりすぎて、摂動を加えたことによる効果が小さくなる。一方、摂動が大きく分類が困難な入力データにおいては、ペナルティ項の影響が相対的に小さくなり、デグレードを抑止する効果が低下する。

【0024】

すなわち、摂動操作を行った入力データを用いて学習モデルを再訓練する場合に、デグレードの発生を抑止することが求められている。

【0025】

１つの側面では、本発明は、摂動操作を行った入力データを用いて学習モデルを再訓練する場合に、デグレードの発生を抑止することができる学習プログラム、学習方法および情報処理装置を提供することを目的とする。

【課題を解決するための手段】

【0026】

第１の案では、コンピュータに次の処理を実行する。コンピュータは、第１の複数のデータと、第１の複数のデータに対して特定の摂動を加えて生成された第２の複数のデータとを取得する。コンピュータは、特定の摂動の程度に応じたパラメータを決定する。コンピュータは、第１の複数のデータと第２の複数のデータとを入力とし、第１の複数のデータに対する機械学習モデルの出力結果と第２の複数のデータに対する機械学習モデルの出力結果との比較結果と、比較結果の係数であるパラメータとを含む損失関数に基づいて、機械学習モデルの訓練を実行する。

【発明の効果】

【0027】

摂動操作を行った入力データを用いて学習モデルを再訓練する場合に、デグレードの発生を抑止することができる。

【図面の簡単な説明】

【0028】

【図1】図１は、本実施例に係る情報処理装置の処理を説明するための図である。

【図2】図２は、画像の意味が変わる摂動操作の一例を示す図である。

【図3】図３は、摂動種類に対応する設定値の一例を示す図である。

【図4】図４は、情報処理装置の処理の実例を示す図である。

【図5】図５は、本実施例に係る情報処理装置の構成を示す機能ブロック図である。

【図6】図６は、本実施例に係る情報処理装置の処理手順を示すフローチャートである。

【図7】図７は、ペナルティ項調整処理の処理手順を示すフローチャートである。

【図8】図８は、実施例の情報処理装置と同様の機能を実現するコンピュータのハードウェア構成の一例を示す図である。

【図9】図９は、従来技術１の摂動操作の一例を説明するための図である。

【図10】図１０は、参考技術を説明するための図である。

【図11】図１１は、学習モデルのデグレードを説明するための図である。

【発明を実施するための形態】

【0029】

以下に、本願の開示する学習プログラム、学習方法および情報処理装置の実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。

【実施例0030】

図１は、本実施例に係る情報処理装置の処理を説明するための図である。図１に示すように、この情報処理装置１００は、データ拡張部１５１、ペナルティ項調整部１５２、損失関数評価部１５３、最適化部１５４を有する。

【0031】

情報処理装置１００には、訓練データセット１０ａ、訓練ラベル１０ｂ、摂動パラメータテーブル２０、学習モデルｍ_０が入力される。訓練データセット１０ａには、複数の訓練データが含まれる。訓練ラベル１０ｂには、各訓練データに対する正解ラベルがそれぞれ設定される。

【0032】

摂動パラメータテーブル２０には、摂動種類（回転、平行移動、拡大）と、パラメータ強度（摂動操作の度合い）とが設定される。本実施例の説明では、適宜、摂動種類と、パラメータ強度との組を、摂動パラメータと表記する。図１に示す摂動パラメータテーブル２０の例では、回転、平行移動、拡大に対する３種類の摂動パラメータが設定されている。

【0033】

学習モデルｍ_０は、データ拡張を行っていない訓練データセット１０ａおよび訓練ラベル１０ｂによって訓練された、訓練済みの学習モデルである。学習モデルｍ_０は、たとえばＤＮＮである。再訓練前の学習モデルを「ｍ_０」とし、再訓練後の学習モデルを「ｍ_Ｃ」と表記する。

【0034】

情報処理装置１００のデータ拡張部１５１は、摂動パラメータテーブル２０から、一つの摂動パラメータを選択する。データ拡張部１５１は、選択した摂動パラメータに応じた摂動操作を、訓練データセット１０ａの各訓練データに対して実行することで、入力データセットを生成する。データ拡張部１５１は、訓練データセット１０ａおよび入力データセットを、学習モデルｍ_Ｃに入力する。

【0035】

情報処理装置１００のペナルティ項調整部１５２は、データ拡張部１５１によって選択された摂動パラメータを基にして、損失関数Ｌ_Ｃに含まれるペナルティ項Ｄの係数λ_１，λ_２を調整する。たとえば、情報処理装置１００が利用する損失関数Ｌ_Ｃは、式（３）に示す関数である。式（３）において、「Ｌ」は、クロスエントロピー等の損失項である。Ｄ（ｍ_０）は、学習モデルｍ_０で正解していた訓練データについて、ペナルティを与える項である。

【0036】

【数3】

【0037】

たとえば、データ拡張前の訓練データを学習モデルｍ_０に入力した際の分類結果と、データ拡張後の訓練データを学習モデルｍ_０に入力した際の分類結果とが同じクラスに分類される場合、Ｄ（ｍ_０）＝Ｌとなる。一方、データ拡張前の訓練データを学習モデルｍ_０に入力した際の分類結果と、データ拡張後の訓練データを学習モデルｍ_０に入力した際の分類結果とが同じクラスに分類されない場合、Ｄ（ｍ_０）＝０となる。

【0038】

ペナルティ項調整部１５２が、係数λ_１を調整する処理について説明する。ペナルティ項調整部１５２は、データ拡張部１５１によって選択された摂動パラメータに対応する摂動操作が画像の意味（正解ラベル）まで変える操作である場合には、係数λ_１を「１」に設定する。一方、ペナルティ項調整部１５２は、データ拡張部１５１によって選択された摂動パラメータに対応する摂動操作が画像の意味まで変える操作でない場合には、係数λ_１を「０」に設定する。

【0039】

具体的に、ペナルティ項調整部１５２は、データ拡張部１５１によって選択された摂動パラメータの摂動種類が「回転」である場合には、係数λ_１を「１」に設定する。一方、ペナルティ項調整部１５２は、データ拡張部１５１によって選択された摂動パラメータに対応する摂動種類が「平行移動」または「拡大」である場合には、係数λ_１を「０」に設定する。

【0040】

図２は、画像の意味が変わる摂動操作の一例を示す図である。摂動操作前の画像を画像Ｉｍ２－１とする。画像Ｉｍ２－１に摂動操作「回転＝１８０°」を実行すると、画像Ｉｍ２－２となる。画像Ｉｍ２－１の意味は「６」であり、画像Ｉｍ２－２の意味は「９」であるため、図２に示す摂動操作は、画像の意味が変わる摂動操作である。

【0041】

なお、ペナルティ項調整部１５２は、参考文献（Shorten, C. and Khoshgoftaar, T. M., A Survey on Image Data Augmentation for Deep Learning, Journal of Big Data (2019)）等に記されている観点を基準に、摂動操作後に画像のラベルが摂動操作前の画像のラベルと同じであるか否かを判定し、係数λ_１の値を決定してもよい。ペナルティ項調整部１５２は、摂動操作後の画像のラベルが、摂動操作前の画像のラベルと同じでない場合には、係数λ_１を「１」に設定する。ペナルティ項調整部１５２は、摂動操作後の画像のラベルが、摂動操作前の画像のラベルと同じ場合には、係数λ_１を「０」に設定する。

【0042】

続いて、ペナルティ項調整部１５２が、係数λ_２を調整する処理について説明する。ペナルティ項調整部１５２は、摂動操作前の訓練データと、摂動操作後の訓練データとの乖離具合に応じて、係数λ_２を調整する。たとえば、ペナルティ項調整部１５２は、式（４）に基づいて、係数λ_２を決定する。

【0043】

【数4】

【0044】

式（４）において、「ｐ」は、パラメータ強度である。「ｂ」は、ベースラインである。ｍａｘ（｜ｐ－ｂ｜）は、摂動種類に応じた摂動操作の最大値である。摂動種類に対応する、ベースラインｂおよびｍａｘ（｜ｐ－ｂ｜）は、ペナルティ項調整部１５２に予め設定される。ペナルティ項調整部１５２は、式（４）に示す、パラメータ強度ｐ、ベースラインｂ、ｍａｘ（｜ｐ－ｂ｜）の値を、データ拡張部１５１によって選択された摂動パラメータの摂動種類に応じて設定し、係数λ_２を決定する。

【0045】

図３は、摂動種類に対応する設定値の一例を示す図である。図３では、参考として、摂動種類に対応するパラメータ強度ｐの一例もあわせて示す。

【0046】

たとえば、摂動種類「回転」に対応するベースラインは「ｂ＝０°」に設定される。摂動種類「回転」に対応するｍａｘ（｜ｐ－ｂ｜）は、「１８０°（あるいは３６０°）」に設定される。

【0047】

摂動種類「平行移動」に対応するベースラインは「ｂ＝０ｐｘ」に設定される。摂動種類「平行移動」に対応するｍａｘ（｜ｐ－ｂ｜）は、「画像サイズ」に設定される。たとえば、画像サイズは、訓練データの画像サイズである。

【0048】

摂動種類「拡大」に対応するベースラインは「ｂ＝１．０」に設定される。摂動種類「拡大」に対応するｍａｘ（｜ｐ－ｂ｜）は、「現実的な値」が設定される。現実的な値は、事前に設定される値であり、想定される最大拡大倍率が設定される。

【0049】

ペナルティ項調整部１５２は、上記の処理を行うことで、損失関数Ｌ_Ｃに含まれるペナルティ項Ｄの係数λ_１，λ_２を決定し、係数λ_１，λ_２を、損失関数評価部１５３に出力する。

【0050】

図１の説明に戻る。情報処理装置１００の損失関数評価部１５３は、式（３）に示した損失関数Ｌ_Ｃの値を算出する。たとえば、損失関数評価部１５３は、データ拡張後の入力データセットを学習モデルｍ_Ｃに入力した際の出力結果と訓練ラベル１０ｂとのクロスエントロピー等を基にして、損失項Ｌの値を算出する。

【0051】

また、損失関数評価部１５３は、データ拡張前の訓練データセット１０ａを学習モデルｍ_Ｃに入力した際の第１分類結果と、データ拡張後の入力データセットを学習モデルｍ_Ｃに入力した際の第１分類結果とを算出する。損失関数評価部１５３は、第１分類結果と第２分類結果とが同じクラスに分類される場合には、Ｄ（ｍ_０）＝Ｌとする。損失関数評価部１５３は、第１分類結果と第２分類結果とが同じクラスに分類されない場合には、Ｄ（ｍ_０）＝０とする。

【0052】

損失関数評価部１５３は、上記処理により、損失項Ｌの値、ペナルティ項Ｄ（ｍ_０）の値を算出し、式（３）に基づいて、損失関数Ｌ_Ｃの値を算出する。

【0053】

情報処理装置１００の最適化部１５４は、上述した損失関数評価部１５３によって算出される損失関数Ｌ_Ｃの値が最小化されるように、学習モデルｍ_Ｃのパラメータを調整する処理を繰り返し実行する（学習モデルｍ_Ｃを再訓練する）。情報処理装置１００は、再訓練後の学習モデルｍ_Ｃを出力する。

【0054】

上記のように、本実施例に係る情報処理装置１００は、摂動操作を行った入力データを用いて学習モデルを再訓練する場合に、摂動パラメータに応じて、ペナルティ項の係数λ_１，λ_２を調整することで、デグレードを抑止する。また、情報処理装置１００によれば、再訓練によって、学習モデルｍ_Ｃの頑健性を向上させることもできる。

【0055】

図４は、情報処理装置の処理の実例を示す図である。情報処理装置１００は、最初の訓練済みの学習モデルｍ_０にあるデータサンプル（訓練データ）１２ａを入力すると、学習モデルｍ_０から出力される分類結果が正解ラベル１２ｂと一致し、正解となるものとする。

【0056】

情報処理装置１００は、図１で説明したように、あるデータサンプル１２ａに摂動操作を与えながら、再訓練を行う。たとえば、データ拡張部１５１は、摂動パラメータ「摂動種類＝回転、パラメータ強度＝４５°」によって、データサンプル１２ａに摂動操作を加えることで、入力データ１２ａ－１を生成する。

【0057】

データ拡張部１５１は、摂動パラメータ「摂動種類＝拡大、パラメータ強度＝１．２」によって、データサンプル１２ａに摂動操作を加えることで、入力データ１２ａ－２を生成する。

【0058】

ペナルティ項調整部１５２は、摂動パラメータ「摂動種類＝回転、パラメータ強度＝４５°」を基にして、「係数λ_１＝１，λ_２＝０．２５」を決定する。

【0059】

ペナルティ項調整部１５２は、摂動パラメータ「摂動種類＝拡大、パラメータ強度＝１．２」を基にして、「係数λ_１＝０，λ_２＝０．０５」を決定する。

【0060】

損失関数評価部１５３は、入力データ１２ａ－１を用いて、再訓練を行う場合には、「係数λ_１＝１，λ_２＝０．２５」を用いて、損失関数Ｌ_Ｃの値を算出する。損失関数評価部１５３は、入力データ１２ａ－２を用いて、再訓練を行う場合には、「係数λ_１＝０，λ_２＝０．０５」を用いて、損失関数Ｌ_Ｃの値を算出する。最適化部１５４は、損失関数の値が最小化されるように、学習モデルｍ_Ｃのパラメータを調整する。

【0061】

ここで、図４に示すように、摂動パラメータ「摂種類＝回転、パラメータ強度＝４５°」の方が、摂動パラメータ「摂動種類＝拡大、パラメータ強度＝１．２」よりも、Ｄ（ｍ_０）に乗算される係数λ_１，λ_２（影響度）が大きくなっている。すなわち、学習モデルｍ_０で正解していたデータサンプルと同じ正解ラベルで、変化の大きい摂動（回転）が適用されても、オリジナルのデータサンプルと同じ結果を維持しようとする度合いが大きいといえ、デグレードの発生を抑止することができる。

【0062】

次に、図１に示した情報処理装置１００の構成例について説明する。図５は、本実施例に係る情報処理装置の構成を示す機能ブロック図である。図５に示すように、情報処理装置１００は、通信部１１０、入力部１２０、表示部１３０、記憶部１４０、制御部１５０を有する。

【0063】

通信部１１０は、ネットワークを介して、外部装置等とデータ通信を実行する。通信部１１０は、訓練データセット１０ａ、訓練ラベル１０ｂ、摂動パラメータテーブル２０、学習モデルｍ_０を外部装置等から受信してもよい。

【0064】

入力部１２０は、操作者による入力操作に対応して、制御部１５０に対して各種の情報を入力する。

【0065】

表示部１３０は、制御部１５０から出力される情報を表示する。

【0066】

記憶部１４０は、訓練データセット１０ａ、訓練ラベル１０ｂ、摂動パラメータテーブル２０、学習モデルｍ_０、学習モデルｍ_Ｃを有する。

【0067】

訓練データセット１０ａは、複数の訓練データを有する。各訓練データは、画像データである。訓練ラベル１０ｂには、各訓練データに対する正解ラベルがそれぞれ設定される。訓練データセット１０ａ、訓練ラベル１０ｂに関するその他の説明は、図１で説明した訓練データセット１０ａ、訓練ラベル１０ｂに関すると同様である。

【0068】

摂動パラメータテーブル２０は、摂動種類と、パラメータ強度とを対応付けて保持する。摂動パラメータテーブル２０に関するその他の説明は、図１で説明した摂動パラメータテーブル２０に関する説明と同様である。

【0069】

学習モデルｍ_０は、訓練データセット１０ａおよび訓練ラベル１０ｂを基にして訓練された、学習モデル（訓練済みの学習モデル）である。

【0070】

学習モデルｍ_Ｃは、学習モデルｍ_０を再訓練することで得られる学習モデルである。たとえば、情報処理装置１００は、図１で説明した処理を実行することで、学習モデルｍ_Ｃを得る。なお、図５では、学習モデルｍ_０と、学習モデルｍ_Ｃとを別々に示したが、学習モデルｍ_０のパラメータが再訓練によって更新された学習モデルが、学習モデルｍ_Ｃとなる。

【0071】

制御部１５０は、データ拡張部１５１、ペナルティ項調整部１５２、損失関数評価部１５３、最適化部１５４を有する。

【0072】

データ拡張部１５１は、摂動パラメータテーブル２０から、一つの摂動パラメータを選択する。データ拡張部１５１は、選択した摂動パラメータに応じた摂動操作を、訓練データセット１０ａの各訓練データに対して実行することで、入力データセットを生成する。データ拡張部１５１は、訓練データセット１０ａおよび入力データセットを、学習モデルｍ_Ｃに入力する。データ拡張部１５１に関するその他の説明は、図１で説明したデータ拡張部１５１に関する説明と同様である。

【0073】

ペナルティ項調整部１５２は、ペナルティ項調整部１５２は、データ拡張部１５１によって選択された摂動パラメータを基にして、損失関数Ｌ_Ｃに含まれるペナルティ項Ｄの係数λ_１，λ_２を調整する。ペナルティ項調整部１５２は、調整した係数λ_１，λ_２を、損失関数評価部１５３に出力する。ペナルティ項調整部１５２に関するその他の説明は、図１で説明したペナルティ項調整部１５２に関する説明と同様である。

【0074】

損失関数評価部１５３は、式（３）に示した損失関数Ｌ_Ｃの値を算出し、算出結果を最適化部１５４に出力する。損失関数評価部１５３に関するその他の説明は、図１で説明した損失関数評価部１５３に関する説明と同様である。

【0075】

最適化部１５４は、損失関数評価部１５３によって算出される損失関数Ｌ_Ｃの値が最小化されるように、学習モデルｍ_Ｃのパラメータを調整する。最適化部１５４に関するその他の説明は、図１で説明した最適化部１５４に関する説明と同様である。

【0076】

情報処理装置１００のデータ拡張部１５１、ペナルティ項調整部１５２、損失関数評価部１５３、最適化部１５４は、上記の処理を繰り返し実行することで、学習モデルｍ_０を再訓練し、学習モデルｍ_Ｃを得る。

【0077】

次に、本実施例にかかる情報処理装置１００の処理手順の一例について説明する。図６は、本実施例に係る情報処理装置の処理手順を示すフローチャートである。図６に示すように、情報処理装置１００の制御部１５０は、epochの値を０に設定する（ステップＳ１０１）。

【0078】

情報処理装置１００のデータ拡張部１５１は、摂動パラメータテーブル２０から、摂動パラメータを選択する（ステップＳ１０２）。情報処理装置１００のペナルティ項調整部１５２は、ペナルティ項調整処理を実行する（ステップＳ１０３）。

【0079】

データ拡張部１５１は、摂動パラメータに応じたで摂動操作を訓練データセット１０ａに適用し、入力データセットを生成する（ステップＳ１０４）。データ拡張部１５１は、学習モデルｍ_Ｃに、訓練データセット１０ａおよび入力データセットを入力する（ステップＳ１０５）。

【0080】

情報処理装置１００の損失関数評価部１５３は、損失関数Ｌ_Ｃの値を計算する（ステップＳ１０６）。情報処理装置１００の最適化部１５４は、損失関数Ｌ_Ｃの値が最小化するように、学習モデルｍ_Ｃのパラメータを最適化する（ステップＳ１０７）。

【0081】

制御部１５０は、epochの値に１を加算することで、epochの値を更新する（ステップＳ１０８）。制御部１５０は、epochの値が閾値よりも小さい場合には（ステップＳ１０９，Ｙｅｓ）、ステップＳ１０２に移行する。制御部１５０は、epochの値が閾値よりも小さくない場合には（ステップＳ１０９，Ｎｏ）、処理を終了する。

【0082】

次に、図６のステップＳ１０３に示したペナルティ項調整処理の処理手順の一例について説明する。図７は、ペナルティ項調整処理の処理手順を示すフローチャートである。図７に示すように、情報処理装置１００のペナルティ項調整部１５２は、データ拡張部１５１が選択した摂動パラメータを取得する（ステップＳ２０１）。

【0083】

ペナルティ項調整部１５２は、摂動パラメータの摂動種類を基にして、係数λ_１を判定する（ステップＳ２０２）。ペナルティ項調整部１５２は、摂動パラメータのパラメータ強度を特定する（ステップＳ２０３）。

【0084】

ペナルティ項調整部１５２は、摂動パラメータの摂動種別に応じたベースラインｂおよびｍａｘ（｜ｐ－ｂ｜）を特定する（ステップＳ２０４）。ペナルティ項調整部１５２は、式（４）を基にして、係数λ_２を算出する（ステップＳ２０５）。ペナルティ項調整部１５２は、係数λ_１，λ_２を損失関数評価部１５３に出力する（ステップＳ２０６）。

【0085】

次に、本実施例に係る情報処理装置１００の効果について説明する。情報処理装置１００は、摂動操作を行った入力データを用いて学習モデルを再訓練する場合に、摂動パラメータに応じて、ペナルティ項の係数λ_１，λ_２を調整することで、デグレードを抑止することができる。また、情報処理装置１００によれば、再訓練によって、学習モデルｍ_Ｃの頑健性を向上させることもできる。

【0086】

情報処理装置１００は、係数λ_１を調整する場合に、摂動パラメータに対応する摂動操作が画像の意味（正解ラベル）まで変える操作である場合、係数λ_１を「１」に設定する。一方、情報処理装置１００は、摂動パラメータに対応する摂動操作が画像の意味を操作でない場合には、係数λ_１を「０」に設定する。これによって、摂動操作が画像の意味まで変える操作（たとえば、回転）を行った入力データセットを用いて再訓練する場合のＤ（ｍ_０）の影響度を、より大きくすることができ、デグレードを抑止できる。

【0087】

情報処理装置１００は、摂動操作前の訓練データと、摂動操作後の訓練データ（入力データ）との乖離具合に応じて、係数λ_２を調整する。たとえば、情報処理装置１００は、式（４）に基づいて、係数λ_２を決定する。これによって、摂動操作による乖離具合のより大きい入力データを用いて再訓練する場合のＤ（ｍ_０）の影響度を、より大きくすることができ、デグレードを抑止できる。

【0088】

次に、上記実施例に示した情報処理装置１００と同様の機能を実現するコンピュータのハードウェア構成の一例について説明する。図８は、実施例の情報処理装置と同様の機能を実現するコンピュータのハードウェア構成の一例を示す図である。

【0089】

図８に示すように、コンピュータ２００は、各種演算処理を実行するＣＰＵ２０１と、ユーザからのデータの入力を受け付ける入力装置２０２と、ディスプレイ２０３とを有する。また、コンピュータ２００は、有線または無線ネットワークを介して、外部装置等との間でデータの授受を行う通信装置２０４と、インタフェース装置２０５とを有する。また、コンピュータ２００は、各種情報を一時記憶するＲＡＭ２０６と、ハードディスク装置２０７とを有する。そして、各装置２０１～２０７は、バス２０８に接続される。

【0090】

ハードディスク装置２０７は、データ拡張プログラム２０７ａ、ペナルティ項調整プログラム２０７ｂ、損失関数評価プログラム２０７ｃ、最適化プログラム２０７ｄを有する。また、ＣＰＵ２０１は、各プログラム２０７ａ～２０７ｄを読み出してＲＡＭ２０６に展開する。

【0091】

データ拡張プログラム２０７ａは、データ拡張プロセス２０６ａとして機能する。ペナルティ項調整プログラム２０７ｂは、ペナルティ項調整プロセス２０６ｂとして機能する。損失関数評価プログラム２０７ｃは、損失関数評価プロセス２０６ｃとして機能する。最適化プログラム２０７ｄは、最適化プロセス２０６ｄとして機能する。

【0092】

データ拡張プロセス２０６ａの処理は、データ拡張部１５１の処理に対応する。ペナルティ項調整プロセス２０６ｂの処理は、ペナルティ項調整部１５２の処理に対応する。損失関数評価プロセス２０６ｃの処理は、損失関数評価部１５３の処理に対応する。最適化プロセス２０６ｄの処理は、最適化部１５４の処理に対応する。

【0093】

なお、各プログラム２０７ａ～２０７ｄについては、必ずしも最初からハードディスク装置２０７に記憶させておかなくても良い。例えば、コンピュータ２００に挿入されるフレキシブルディスク（ＦＤ）、ＣＤ－ＲＯＭ、ＤＶＤ、光磁気ディスク、ＩＣカードなどの「可搬用の物理媒体」に各プログラムを記憶させておく。そして、コンピュータ２００が各プログラム２０７ａ～２０７ｄを読み出して実行するようにしてもよい。

【0094】

以上の各実施例を含む実施形態に関し、さらに以下の付記を開示する。

【0095】

（付記１）第１の複数のデータと、第１の複数のデータに対して特定の摂動を加えて生成された第２の複数のデータとを取得し、
前記特定の摂動の程度に応じたパラメータを決定し、
前記第１の複数のデータと前記第２の複数のデータとを入力とし、前記第１の複数のデータに対する機械学習モデルの出力結果と前記第２の複数のデータに対する前記機械学習モデルの出力結果との比較結果と、前記比較結果の係数である前記パラメータとを含む損失関数に基づいて、前記機械学習モデルの訓練を実行する、
処理をコンピュータに実行させることを特徴とする学習プログラム。

【0096】

（付記２）前記パラメータを決定する処理は、前記特定の摂動の程度に応じた第１パラメータに加えて、前記摂動の種類に応じた第２パラメータを更に決定することを特徴とする付記１に記載の学習プログラム。

【0097】

（付記３）前記訓練を実行する処理は、前記比較結果の係数である前記第１パラメータと、前記比較結果の他の係数である前記第２パラメータとを含む前記損失関数に基づいて、前記機械学習モデルの訓練を実行することを特徴とする付記２に記載の学習プログラム。

【0098】

（付記４）前記摂動の種別には、回転、平行移動、拡大が含まれ、前記パラメータを決定する処理は、前記摂動の種別が回転の場合には、前記摂動の種類が平行移動または拡大の場合に決定される第２パラメータの値よりも大きな値の第２パラメータを決定することを特徴とする付記３に記載の学習プログラム。

【0099】

（付記５）第１の複数のデータと、第１の複数のデータに対して特定の摂動を加えて生成された第２の複数のデータとを取得し、
前記特定の摂動の程度に応じたパラメータを決定し、
前記第１の複数のデータと前記第２の複数のデータとを入力とし、前記第１の複数のデータに対する機械学習モデルの出力結果と前記第２の複数のデータに対する前記機械学習モデルの出力結果との比較結果と、前記比較結果の係数である前記パラメータとを含む損失関数に基づいて、前記機械学習モデルの訓練を実行する、
処理をコンピュータが実行することを特徴とする学習方法。

【0100】

（付記６）前記パラメータを決定する処理は、前記特定の摂動の程度に応じた第１パラメータに加えて、前記摂動の種類に応じた第２パラメータを更に決定することを特徴とする付記５に記載の学習方法。

【0101】

（付記７）前記訓練を実行する処理は、前記比較結果の係数である前記第１パラメータと、前記比較結果の他の係数である前記第２パラメータとを含む前記損失関数に基づいて、前記機械学習モデルの訓練を実行することを特徴とする付記６に記載の学習方法。

【0102】

（付記８）前記摂動の種別には、回転、平行移動、拡大が含まれ、前記パラメータを決定する処理は、前記摂動の種別が回転の場合には、前記摂動の種類が平行移動または拡大の場合に決定される第２パラメータの値よりも大きな値の第２パラメータを決定することを特徴とする付記７に記載の学習方法。

【0103】

（付記９）第１の複数のデータと、第１の複数のデータに対して特定の摂動を加えて生成された第２の複数のデータとを取得し、
前記特定の摂動の程度に応じたパラメータを決定し、
前記第１の複数のデータと前記第２の複数のデータとを入力とし、前記第１の複数のデータに対する機械学習モデルの出力結果と前記第２の複数のデータに対する前記機械学習モデルの出力結果との比較結果と、前記比較結果の係数である前記パラメータとを含む損失関数に基づいて、前記機械学習モデルの訓練を実行する、
処理を実行する制御部を有する情報処理装置。

【0104】

（付記１０）前記制御部が実行する前記パラメータを決定する処理は、前記特定の摂動の程度に応じた第１パラメータに加えて、前記摂動の種類に応じた第２パラメータを更に決定することを特徴とする付記９に記載の情報処理装置。

【0105】

（付記１１）前記制御部が実行する前記訓練を実行する処理は、前記比較結果の係数である前記第１パラメータと、前記比較結果の他の係数である前記第２パラメータとを含む前記損失関数に基づいて、前記機械学習モデルの訓練を実行することを特徴とする付記１０に記載の情報処理装置。

【0106】

（付記１２）前記摂動の種別には、回転、平行移動、拡大が含まれ、前記制御部が実行する前記パラメータを決定する処理は、前記摂動の種別が回転の場合には、前記摂動の種類が平行移動または拡大の場合に決定される第２パラメータの値よりも大きな値の第２パラメータを決定することを特徴とする付記１１に記載の情報処理装置。

【符号の説明】

【0107】

１０ａ 訓練データセット
１０ｂ 訓練ラベル
２０ 摂動パラメータテーブル
１００ 情報処理装置
１１０ 通信部
１２０ 入力部
１３０ 表示部
１４０ 記憶部
１５０ 制御部
１５１ データ拡張部
１５２ ペナルティ項調整部
１５３ 損失関数評価部
１５４ 最適化部

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】