特開 2023-171356 情報処理装置および機械学習方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2023171356

(43)【公開日】2023-12-01

(54)【発明の名称】情報処理装置および機械学習方法

(51)【国際特許分類】

   G06N 20/00 20190101AFI20231124BHJP

【ＦＩ】

G06N20/00 160

【審査請求】未請求

【請求項の数】5

【出願形態】ＯＬ

(21)【出願番号】P 2023083252

(22)【出願日】2023-05-19

(31)【優先権主張番号】202231028920

(32)【優先日】2022-05-19

(33)【優先権主張国・地域又は機関】IN

(71)【出願人】

【識別番号】000005223

【氏名又は名称】富士通株式会社

(71)【出願人】

【識別番号】517249934

【氏名又は名称】インディアン インスティテュート オブ サイエンス

(74)【代理人】

【識別番号】110002147

【氏名又は名称】弁理士法人酒井国際特許事務所

(72)【発明者】

【氏名】竹森 翔

(72)【発明者】

【氏名】河東 孝

(72)【発明者】

【氏名】梅田 裕平

(72)【発明者】

【氏名】ラングワニ ハーシュ

(72)【発明者】

【氏名】ラマスブラマニアン シュリニヴァース

(72)【発明者】

【氏名】ラーダークリシュナン ヴェンカテシュ バブ

(57)【要約】

【課題】信頼度の高い予測ラベルを持つラベルなし訓練データを使用して、機械学習を実行すること。
【解決手段】情報処理装置は、入力された指標に基づいて、利得行列を決定する。情報処理装置は、利得行列を基にして、ラベルが付与されていない複数の訓練データから、機械学習モデルの訓練に使用する第１の訓練データを選択する。情報処理装置は、第１の訓練データと第１の訓練データから予測される予測ラベルと、利得行列を含む損失関数とを基にして、機械学習モデルを訓練する。
【選択図】図２

【特許請求の範囲】

【請求項1】

入力された指標に基づいて、利得行列を決定し、
前記利得行列を基にして、ラベルが付与されていない複数の訓練データから、機械学習モデルの訓練に使用する第１の訓練データを選択し、
前記第１の訓練データと前記第１の訓練データから予測される予測ラベルと、前記利得行列を含む損失関数とを基にして、前記機械学習モデルを訓練する、
処理を実行する制御部を有する情報処理装置。

【請求項2】

前記第１の訓練データを選択する処理は、前記第１の訓練データを拡張したデータを前記機械学習モデルに入力した際の出力確率の分布と、前記利得行列に基づく確率分布との擬距離が閾値以下である場合に、前記第１の訓練データを選択する処理を含む、ことを特徴とする請求項１に記載の情報処理装置。

【請求項3】

前記制御部は、前記第１の訓練データに対して、第１強度のデータ拡張を実行して得られた第１のデータを、前記機械学習モデルに入力した際の出力結果を基にして、前記予測ラベルを生成する処理を更に実行する、ことを特徴とする請求項１に記載の情報処理装置。

【請求項4】

前記機械学習モデルを訓練する処理は、前記第１の訓練データに対して、前記第１強度よりも強い第２強度でデータ拡張して得られた第２のデータを、前記機械学習モデルに入力した際の出力結果と、前記第１のデータを前記機械学習モデルに入力した際の出力結果をベクトル化した値とを損失関数に入力することによって実行される、ことを特徴とする請求項３に記載の情報処理装置。

【請求項5】

入力された指標に基づいて、利得行列を決定し、
前記利得行列を基にして、ラベルが付与されていない複数の第１の訓練データから、機械学習モデルの訓練に使用する第１の訓練データを選択し、
選択した第１の訓練データと、選択した第１の訓練データから予測される予測ラベルと、ラベルが付与された第２の訓練データと、前記利得行列を含む損失関数とを基にして、前記機械学習モデルのパラメータを訓練する
処理をコンピュータが実行することを特徴とする機械学習方法。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、機械学習技術に関する。

【背景技術】

【0002】

異常検知や医療における画像診断に機械学習アルゴリズムを適用し、訓練データセットを用いて分類器（機械学習モデル）を訓練する場合、訓練データセットがクラス不均衡なデータセットになる傾向がある。たとえば、異常検知の分類器の訓練を行う場合には、訓練データセットのほとんどに、異常なしラベルが付与される。医療診断の分類器の訓練を行う場合も、訓練データセットに異常なしラベルが多く付与される。

【0003】

クラス不均衡な訓練データセットを用いて、分類器の訓練を行う場合、分類器の精度だけでは、機械学習アルゴリズムの性能を適切に評価することが難しいため、より複雑な指標が用いられる場合がある。より複雑な指標とは、例えば、損失関数としてよく用いられる交差エントロピーでは最適化が難しい指標である。

【0004】

以下において、従来技術１および従来技術２について説明を行う。

【0005】

まず、従来技術１で用いられる基本的な指標について説明する。分類器を「Ｆ：Ｘ→［Ｋ］」と定義する。ここで「Ｘ」は、入力の空間を示す。［Ｋ］＝｛１，・・・，Ｋ｝は、ラベルの集合である。

【0006】

Ｋ行Ｋ列の混同行列Ｃ［Ｆ］を式（１）のように定義する。式（１）において、Ｄはデータの分布である。式（１）において、「１」は、指示関数である。指示関数において、「ｙ＝ｉ，Ｆ（ｘ）＝ｊ」が成立する場合には、指示関数の値は「１」となり、成立しない場合には、指示関数の値は「０」である。また、式（１）のＥは、期待値の計算に対応する。

【0007】

【数1】

【0008】

各ｉに対して、クラス分布（class distribution）を、式（２）で定義する。

【0009】

【数2】

【0010】

分類器の精度ａｃｃ［Ｆ］は、式（３）で定義される。たとえば、精度は、分類器に入力した全データのうち、正解したデータ数の割合に対応する。

【0011】

【数3】

【0012】

分類器のクラス毎の再現率（recall）ｒｅｃ_ｉ［Ｆ］は、式（４）で定義される。再現率は、判別したいデータの数のうち、実際に判別できた割合に対応する。たとえば、第１クラスに分類されるべき複数のデータのうち、どれだけ、分類器が第１クラスに分類できたのかを示す。

【0013】

【数4】

【0014】

分類器のクラス毎の適合率（precision）ｐｒｅｃ_ｉ［Ｆ］は、式（５）で定義される。適合率は、「判別対象のデータ」を判別した数のうち、実際に正解している割合に対応する。たとえば、適合率は、分類器が第１クラスに分類した複数のデータのうち、実際に第１クラスに分類されるべきデータである割合である。

【0015】

【数5】

【0016】

分類器がクラスｉであると予測した割合はカバレッジ（coverage）と定義される。カバレッジｃｏｖ_ｉ［Ｆ］は式（６）で定義される。

【0017】

【数6】

【0018】

ここで、最悪時の再現率は、式（７）で定義される。最悪時の再現率は、クラス不均衡なデータセットに対して役立つ指標である。

【0019】

【数7】

【0020】

同様に、データセットが、クラス不均衡なデータセットである場合、分類器の予測が特定のクラスに偏ってしまう問題があるので、カバレッジ制約の最適化が重要である。式（８）は、カバレッジ制約下における平均再現率の最適化を行うための指標の一例である。たとえば、式（８）では、カバレッジを「０．９５×π_ｉ」以上とする条件下で、各クラス１～Ｋの再現率の合計値を最大化するという指標である。

【0021】

【数8】

【0022】

また、適合率に関する制約下で最適化を行う指標もあり、式（９）で示される。たとえば、式（９）では、適合率を「τ（閾値）」以上とする条件下で、精度ａｃｃ［Ｆ］を最大化するという指標である。

【0023】

【数9】

【0024】

上記の式（７）、（８）、（９）等で説明した最適化を行うことが困難な指標については、コスト考慮型学習に帰着させることができる。コスト考慮型学習は、式（１０）に示される。コスト考慮型学習では、利得行列Ｇ（gain Matrix）を用いて、最大化を目指す。

【0025】

【数10】

【0026】

たとえば、最悪時の再現率は、連続緩和により、式（１１）のように示される。式（１１）において、Δ_Ｋ－１⊂Ｒ^Ｋは、確率単体である。たとえば、「Δ_Ｋ－１」は、Ｋ次元のベクトルで、各成分が正の値であり、各成分の値を足して１になるベクトルの集合を示す。最悪時の再現率において、利得行列Ｇは、式（１２）で与えられる。式（１２）において、「δ」は、Kronecker deltaである。

【0027】

【数11】

【0028】

【数12】

【0029】

なお、カバレッジ制約については、ラグランジュ係数λ∈Ｒ^Ｋにより、利得行列Ｇは、式（１３）で与えられる。ここで、式（１３）のλ_ｉは、全てのｊに対して、λ_ｊ≧０とする。

【0030】

【数13】

【0031】

λの学習と、コスト考慮型学習とを交互に繰り返すことで、元の指標の学習を行うことができる。元の指標は、最悪時の再現率、カバレッジ制約下における平均再現率等である。

【0032】

ここで、通常の機械学習に用いられるcross-entropy損失関数は、コスト考慮型学習にとっては適切ではないため、従来技術１では、コスト考慮型学習のための損失関数を提案している。

【0033】

たとえば、利得行列Ｇを、Ｇ＝ＭＤと分解する。Ｍ，Ｄは、Ｋ行Ｋ列の行列であり、Ｄは、対角行列である。分解の仕方はいくつかあるが、たとえば、Ｄを、式（１４）、または、Ｄ（１５）に示す式で定義する。

【0034】

【数14】

【0035】

【数15】

【0036】

分類器の出力確率をｐ（ｘ）とし、ラベルｙ＝１，・・・，Ｋとすると、hybrid損失関数は、式（１６）で定義される。式（１６）に含まれるｒ_ｉ（ｘ）は、式（１７）で定義される。

【0037】

【数16】

【0038】

【数17】

【0039】

利得行列Ｇが対角行列のときは、式（１６）に示したhybrid損失関数は、logit-adjustment（LA）損失関数と呼ばれる。従来技術１では、（ｘ，ｙ）～Ｄのとき、式（１８）に示す期待値Ｅが最小化されるように、分類器のパラメータを訓練する。

【0040】

【数18】

【0041】

続いて、従来技術２について説明する。従来技術２では、ラベル付き訓練データと、ラベルなし訓練データとを用いた半教師あり学習を行う。ラベル付き訓練データを｛（ｘ_ｂ，ｙ_ｂ）：ｂ＝１，・・・，Ｂ｝とする。ラベルなし訓練データを｛ｕ_ｂ∈Ｘ：ｂ＝１，・・・，μＢ｝とする。

【0042】

図６は、従来技術２を説明するための図である。従来技術２では、強データ拡張（strong augmentation）と、弱データ拡張（weak augmentation）と呼ばれる２種類のデータ拡張を使用する。

【0043】

図６において、ラベルなし訓練データＩｍ１に対して、強データ拡張を実行することで、データＩｍ１－１が生成される。訓練データＩｍ１に対して、弱データ拡張を実行することで、データＩｍ１－２が生成される。

【0044】

従来技術２では、データＩｍ１－１をモデル１０に入力することで、モデル１０から、出力確率ｐ１－１が出力される。従来技術２では、データＩｍ１－２をモデル１０に入力することで、モデル１０から、出力確率ｐ１－２が出力される。従来技術２では、出力確率ｐ１－２を基にして、Pseudo-label５を生成する。たとえば、Pseudo-label５は、出力確率ｐ１－２の各成分のうち最大となる成分に「１」を設定し、他の成分を０に設定された出力確率である。従来技術２では、出力確率ｐ１－１と、Pseudo-label５とのcross-entropyを利用した損失関数を用いて、モデル１０の訓練を行う。

【0045】

以下の説明では適宜、強データ拡張されたラベルなし訓練データを、Ａ（ｕ_ｂ）と表記する。弱データ拡張されたラベルなし訓練データを、α（ｕ_ｂ）と表記する。

【0046】

従来技術２では、式（１９）の損失関数Ｌを用いて、モデル１０の訓練を行う。式（１９）において、損失関数ｌ_ｓは、ラベルあり訓練データの損失関数である。損失関数ｌ_ｕは、ラベルなし訓練データの損失関数である。λ_ｕは、０以上の値が設定される。

【0047】

【数19】

【0048】

損失関数ｌ_ｓは、式（２０）で定義される。式（２０）において、ｙ_ｂは、訓練データに設定されたラベルに対応する。ｑ_ｂは、弱データ拡張での出力確率であり、「ｑ_ｂ＝ｐ（α（ｕ_ｂ））」で定義される。たとえば、２つの確率ｐ_１，ｐ_２に対してＨ（ｐ_１，ｐ_２）でcross-entropyを示す。Ｈ（ｙ_ｂ，ｑ_ｂ）は、ｙ_ｂと、ｑ_ｂとのcross-entropyである。

【0049】

【数20】

【0050】

損失関数ｌ_ｕは、ラベルなし訓練データｕ_ｂの強データ拡張における出力確率と、ラベルなし訓練データｕ_ｂの弱データ拡張における出力確率との差で定義される。具体的に、損失関数ｌ_ｕは、式（２１）で定義される。ｑ_ｂは、弱データ拡張したラベルなし訓練データを分類器に入力した場合の出力確率「ｑ_ｂ＝ｐ（α（ｕ_ｂ））」である。ｐはモデル１０の出力確率である。「ｑ’_ｂ」は、argmax（ｑ_ｂ）番目の成分だけが「１」となるone-hotベクトルを示す。ｐ（Ａ（ｕ_ｂ））は、強データ拡張したラベルなし訓練データを分類器に入力した場合の出力確率である。

【0051】

【数21】

【0052】

また、式（２１）において、「τ」はアルゴリズムのパラメータである。「１（ｍａｘ ｑ_ｂ＞τ）」によって、ラベルなしの訓練データセットのうち、予測ラベルが信頼できる訓練データだけが、モデル１０の訓練に使用されることが示される。予測ラベルは、図６で説明した、Pseudo-labelに対応する。

【先行技術文献】

【非特許文献】

【0053】

【非特許文献1】Narasimhan, H., Menon, A.K.: Training over-parameterized models with non-decomposable objectives, NeurIPS 2021

【非特許文献2】Sohn et al., FixMatch: Simplifying Semi-Supervised Learning with Consistency and Confidence, NeurIPS 2020

【発明の概要】

【発明が解決しようとする課題】

【0054】

たとえば、従来技術１と従来技術２とを単純に組み合わせると、最適化が困難な指標をコスト考慮型学習に帰着させた後、半教師あり学習の手法で最適化を行うことになる。この場合、ラベルあり訓練データセットに加えて、ラベルなし訓練データセットのうち、予測ラベルが信頼できる訓練データを使用して、分類器の訓練を行うことになる。具体的には、式（２１）に示した「１（ｍａｘ ｑ_ｂ＞τ）」を満たすｑ_ｂに対応する、ラベルなし訓練データを使用する。

【0055】

しかしながら、従来技術１と従来技術２とを単純に組み合わせた技術では、最適化が困難な指標については、ラベルなし訓練データに対応するほとんどのｑ_ｂが「１（ｍａｘ ｑ_ｂ＞τ）」を満たさない。すなわち、実際には、信頼性の高い予測ラベルに対応するラベルなし訓練データが多く含む場合であっても、ラベルなし訓練データのほとんどが、分類器の訓練に使用されないという問題が発生する。

【0056】

１つの側面では、本発明は、信頼度の高い予測ラベルを持つラベルなし訓練データを使用して、機械学習を実行することができる機械学習方法を提供することを目的とする。

【課題を解決するための手段】

【0057】

第１の案では、コンピュータが次の処理を実行する。コンピュータは、入力された指標に基づいて、利得行列を決定する。コンピュータは、利得行列を基にして、ラベルが付与されていない複数の訓練データから、機械学習モデルの訓練に使用する第１の訓練データを選択する。コンピュータは、第１の訓練データと第１の訓練データから予測される予測ラベルと、利得行列を含む損失関数とを基にして、機械学習モデルを訓練する。

【発明の効果】

【0058】

信頼度の高い予測ラベルを持つラベルなし訓練データを使用して、機械学習を実行することができる。

【図面の簡単な説明】

【0059】

【図1】図１は、指標と利得行列Ｇとの関係を示す図である。

【図2】図２は、本実施例に係る情報処理装置の構成を示す機能ブロック図である。

【図3】図３は、本実施例に係る情報処理装置の処理手順を示すフローチャート（１）である。

【図4】図４は、本実施例に係る情報処理装置の処理手順を示すフローチャート（２）である。

【図5】図５は、実施例の情報処理装置と同様の機能を実現するコンピュータのハードウェア構成の一例を示す図である。

【図6】図６は、従来技術２を説明するための図である。

【発明を実施するための形態】

【0060】

以下に、本願の開示する情報処理装置および機械学習方法の実施例を図面に基づいて詳細に説明する。なお、本実施例により、開示技術が限定されるものではない。また、以下の実施例は、矛盾しない範囲で適宜組み合わせてもよい。

【実施例0061】

本実施例に係る情報処理装置は、ラベルあり訓練データの損失関数と、ラベルなし訓練データの損失関数とを含む損失関数を用いて、分類器（機械学習モデル）のパラメータを訓練する。

【0062】

本実施例では、ラベルなし訓練データの損失関数において、予測ラベルが信頼できるラベルなし訓練データの定義を、ＫＬダイバージェンス（Kullback－Leibler divergence）を用いて定義する。ＫＬダイバージェンスは、２つの確率分布の擬距離を示し、２つの確率分布がどれほど似ているかを示す尺度である。

【0063】

たとえば、情報処理装置は、式（２２）に示す条件を満たす場合に、該当するラベル無し訓練データを、予測ラベルが信頼できるラベルなし訓練データとして選択する。式（２２）の「ｑ_ｂ」は、出力確率であって、ラベルなし訓練データを弱データ拡張し、弱データ拡張したデータを分類器に入力した際の出力確率「ｑ_ｂ＝ｐ（α（ｕ_ｂ））」である。Ｄ_ＫＬは、ＫＬダイバージェンスを示す。「τ」はアルゴリズムのパラメータであり事前に設定される。

【0064】

【数22】

【0065】

式（２２）において、ｙ’は、予測ラベル（pseudo label）であり、式（２３）で定義される。

【0066】

【数23】

【0067】

式（２２）の定義は、理論上は、ｑ_ｂが、式（２４）の値に収束することを根拠とする。

【0068】

【数24】

【0069】

なお、情報処理装置は、式（２２）の利得行列Ｇの定義を、指定される指標に応じて特定する。情報処理装置は、指標の指定を外部から受け付ける。図１は、指標と利得行列Ｇとの関係を示す図である。図１に示すように、情報処理装置は、指標が「最悪時の再現率」の場合には、利得行列Ｇは、式（１２）に示す利得行列を利用する。情報処理装置は、指標が「カバレッジ制約下における平均再現率」の場合には、利得行列Ｇは、式（１３）に示す利得行列を使用する。情報処理装置は、指標が「適合率制約下における精度」の場合には、利得行列Ｇは、式（２５）に示す利得行列を使用する。

【0070】

【数25】

【0071】

情報処理装置は、式（２６）の損失関数Ｌ’を用いて、分類器のパラメータを訓練する。式（２６）の損失関数Ｌ’において、損失関数ｌ_ｓは、ラベルあり訓練データの損失関数である。損失関数ｌ’_ｕは、ラベルなし訓練データの損失関数である。λ_ｕは、０以上の値が設定される。

【0072】

【数26】

【0073】

損失関数ｌ_ｓは、式（２６ａ）で定義される。

【0074】

【数26a】

【0075】

損失関数ｌ’_ｕは、式（２７）で定義される。式（２７）は、式（２１）と比較して、式（２１）の「１（ｍａｘ ｑ_ｂ＞τ）」が、式（２２）で説明したＫＬダイバージェンスを用いた定義に置き換わっている。また、式（２７）では、クロスエントロピーＨの代わりに、式（１６）で説明したhybrid損失関数を用いる。ｑ_ｂは、弱データ拡張したラベルなし訓練データを分類器に入力した場合の出力確率「ｑ_ｂ＝ｐ（α（ｕ_ｂ））」である。ｐは分類器の出力確率である。「ｑ’_ｂ」は、argmax（ｑ_ｂ）番目の成分だけが「１」となるone-hotベクトルを示す。ｐ（Ａ（ｕ_ｂ））は、強データ拡張したラベルなし訓練データを分類器に入力した場合の出力確率である。

【0076】

【数27】

【0077】

上記のように、情報処理装置は、ラベルあり訓練データと、ラベルなし訓練データと、指標に応じた利得行列Ｇと基にして、損失関数Ｌ’の値が最小化されるように、分類器のパラメータを訓練する。これによって、いくつかの最適化が困難な指標についても、適切に信頼度の高い予測ラベルを導くラベルなし訓練データを使用して、分類器の訓練を実行できる。最適化が困難な指標は、図１で説明した最悪時の再現率、カバレッジ制約下における平均再現率、適合率制約下における再現度等である。

【0078】

続いて、本実施例に係る情報処理装置の構成例について説明する。図２は、本実施例に係る情報処理装置の構成を示す機能ブロック図である。図２に示すように、情報処理装置１００は、通信部１１０、入力部１２０、表示部１３０、記憶部１４０、制御部１５０を有する。

【0079】

通信部１１０は、ネットワークを介して外部装置等とデータ通信を実行する。通信部１１０は、後述するラベル付き訓練データセット１４１、ラベルなし訓練データセット１４２、検証データセット１４３等を、外部装置から受信してもよい。

【0080】

入力部１２０は、利用者からの操作を受付ける。利用者は、入力部１２０を用いて、指標の指定を行う。

【0081】

表示部１３０は、制御部１５０の処理結果を表示する。

【0082】

記憶部１４０は、ラベル付き訓練データセット１４１、ラベルなし訓練データセット１４２、検証データセット１４３、初期値データ１４４、分類器データ１４５を有する。たとえば、記憶部１４０は、メモリ等により実現される。

【0083】

ラベル付き訓練データセット１４１は、複数のラベル付き訓練データを含む。ラベル付き訓練データは、入力データと、正解ラベルとの組から成る。ラベル付き訓練データを｛（ｘ_ｂ，ｙ_ｂ）：ｂ＝１，・・・，Ｂ｝とする。

【0084】

ラベルなし訓練データセット１４２は、複数のラベルなし訓練データを含む。ラベルなし訓練データは、入力データを含み、正解ラベルを有さない。ラベルなし訓練データを｛ｕ_ｂ∈Ｘ：ｂ＝１，・・・，μＢ｝とする。ラベルなし訓練データに対する予測ラベル（pseudo-label）は、後述する制御部１５０によって生成される。

【0085】

検証データセット１４３は、複数の検証データを含む。検証データは、入力データと、正解ラベルとの組から成る。検証データセット１４３は、混同行列を推定する場合に使用される。

【0086】

初期値データ１４４は、iteration回数Ｔ、学習率ω等を有する。iteration回数Ｔ、学習率ωは、分類器を訓練する場合に利用される。

【0087】

分類器データ１４５は、訓練の対象となる分類器Ｆのデータである。たとえば、分類器Ｆは、ＮＮ（Neural Network）である。

【0088】

制御部１５０は、受付部１５１、生成部１５２、訓練実行部１５３を有する。たとえば、制御部１５０は、プロセッサにより実現される。

【0089】

受付部１５１は、入力部１２０から、指標の入力を受け付ける。たとえば、受付部１５１が受け付ける指標は、最悪時の再現率、カバレッジ制約下における平均再現率、適合率制約下における再現率等である。受付部１５１は、受け付けた指標を、訓練実行部１５３に出力する。

【0090】

生成部１５２は、ラベルなし訓練データｕ_ｂに対して、強データ拡張を実行することで、訓練データＡ（ｕ_ｂ）を生成する。生成部１５２は、ラベルなし訓練データに対して、弱データ拡張を実行することで、訓練データα（ｕ_ｂ）を生成する。

【0091】

生成部１５２は、分類器データ１４５を読み出し、分類器Ｆに、訓練データα（ｕ_ｂ）を入力することで、出力確率ｑ_ｂを算出する。出力確率ｑ_ｂは、「ｑ_ｂ＝ｐ（α（ｕ_ｂ））」で定義される。また、生成部１５２は、上記の式（２３）を計算することで、ラベルなし訓練データに対する予測ラベルｙ’を算出する。

【0092】

生成部１５２は、ラベルなし訓練データｕ_ｂと、訓練データＡ（ｕ_ｂ）と、訓練データα（ｕ_ｂ）と、出力確率ｑ_ｂと、予測ラベルｙ’とを、訓練実行部１５３に出力する。

【0093】

生成部１５２は、ラベルなし訓練データセット１４２に含まれる各ラベルなし訓練データについて、上記処理を繰り返し実行する。なお、係る生成部１５２の処理を、後述する訓練実行部１５３が実行してもよい。

【0094】

訓練実行部１５３は、指定された指標に応じた利得行列を基にして、ラベルなし訓練データｕ_ｂから、分類器Ｆの訓練に使用するラベルなし訓練データを選択する。たとえば、訓練実行部１５３は、式（２２）の条件を満たす複数のラベルなし訓練データを選択する。

【0095】

訓練実行部１５３は、選択した複数のラベルなし訓練データと、かかるラベルなし訓練データに対応する予測ラベルと、ラベル付き訓練データセット１４１と、損失関数Ｌ’とを基にして、損失関数Ｌ’の値が最小化されるように、分類器Ｆのパラメータを訓練する。損失関数Ｌ’は、上記の式（２６）に示される。

【0096】

ここで、指標として「カバレッジ制約下における平均再現率」が指定された場合の、訓練実行部１５３の処理手順の一例について説明する。図３は、本実施例に係る情報処理装置の処理手順を示すフローチャート（１）である。図３の説明では、ラベル付き訓練データを「Ｓ_Ｓ」と表記する。ラベルなし訓練データを「Ｓ_ｕ」と表記する。検証データを「Ｓ_ｖａｌ」と表記する。iteration回数を「Ｔ」と表記する。学習率を「ω」と表記する。

【0097】

図３に示すように、情報処理装置１００の訓練実行部１５３は、分類器Ｆ^０と、ラグランジュ乗数λ^０とを初期化する（ステップＳ１０１）。なお、λ^０は各成分が0以上であるK次元ベクトルである。訓練実行部１５３は、ｔ＝０に設定する（ステップＳ１０２）。

【0098】

訓練実行部１５３は、ラグランジュ乗数を更新する（ステップＳ１０３）。ステップＳ１０３において、訓練実行部１５３は、次の処理を実行する。訓練実行部１５３は、検証データセット１４３を用いて、混同行列Ｃ’［Ｆ^ｔ］を推定する。具体的に、訓練実行部１５３は、式（２８）を基にして、混同行列Ｃ’［Ｆ^ｔ］を推定する。式（２８）において、｜Ｓ_ｖａｌ｜は、検証データセット１４３に含まれる検証データの数である。

【0099】

【数28】

【0100】

訓練実行部１５３は、ラグランジュ乗数λ^ｔ＋１を、式（２９）を基にして算出する。また、訓練実行部１５３は、式（２９）を基にして、ラグランジュ乗数λ^ｔ＋１を計算した後に、式（３０）を基にして、ラグランジュ乗数λ^ｔ＋１の値を特定する。

【0101】

【数29】

【0102】

【数30】

【0103】

ステップＳ１０４の説明に移行する。訓練実行部１５３は、カバレッジ制約下における平均再現率に対応する利得行列Ｇを選択する（ステップＳ１０４）。カバレッジ制約下における平均再現率に対応する利得行列Ｇを、式（３１）に示す。

【0104】

【数31】

【0105】

訓練実行部１５３は、分類器Ｆを確率的勾配法により更新する（ステップＳ１０５）。ステップＳ１０５において、訓練実行部１５３は、バッチＢ_Ｓ，Ｂ_ｕをそれぞれ、Ｓ_Ｓ，Ｓ_ｕからサンプリングする。訓練実行部１５３は、バッチＢ_Ｓ，Ｂ_ｕと、式（３１）の利得行列とを基にして、式（２６）で定義した損失関数Ｌ’が最小化されるように、確率勾配法で分類器Ｆ^ｔのパラメータを更新し、更新後の分類器を分類器Ｆ^ｔ＋１とする。

【0106】

訓練実行部１５３は、ｔ＝ｔ＋１によって、ｔを更新する（ステップＳ１０６）。訓練実行部１５３は、ｔ＞Ｔの条件を満たさない場合には（ステップＳ１０７，Ｎｏ）、ステップＳ１０３に移行する。一方、訓練実行部１５３は、ｔ＞Ｔの条件を満たす場合には（ステップＳ１０７，Ｙｅｓ）、処理を終了する。

【0107】

続いて、指標として「適合率制約下における精度」が指定された場合の、訓練実行部１５３の処理手順の一例について説明する。図４は、本実施例に係る情報処理装置の処理手順を示すフローチャート（２）である。図４の説明では、ラベル付き訓練データを「Ｓ_Ｓ」と表記する。ラベルなし訓練データを「Ｓ_ｕ」と表記する。検証データを「Ｓ_ｖａｌ」と表記する。iteration回数を「Ｔ」と表記する。学習率を「ω」と表記する。

【0108】

図４に示すように、情報処理装置１００の訓練実行部１５３は、分類器Ｆ^０と、ラグランジュ乗数λ^０とを初期化する（ステップＳ２０１）。なお、λ^０は各成分が0以上であるK次元ベクトルである。訓練実行部１５３は、ｔ＝０に設定する（ステップＳ２０２）。

【0109】

訓練実行部１５３は、ラグランジュ乗数を更新する（ステップＳ２０３）。ステップＳ２０３の処理は、図３のステップＳ１０３の処理と同様である。

【0110】

訓練実行部１５３は、適合率制約下における精度に対応する利得行列Ｇを選択する（ステップＳ２０４）。適合率制約下における精度に対応する利得行列Ｇを、式（３２）に示す。

【0111】

【数32】

【0112】

訓練実行部１５３は、分類器Ｆを確率的勾配法により更新する（ステップＳ２０５）。ステップＳ２０５の処理は、図３のステップＳ１０５の処理と同様である。

【0113】

訓練実行部１５３は、ｔ＝ｔ＋１によって、ｔを更新する（ステップＳ２０６）。訓練実行部１５３は、ｔ＞Ｔの条件を満たさない場合には（ステップＳ２０７，Ｎｏ）、ステップＳ２０３に移行する。一方、訓練実行部１５３は、ｔ＞Ｔの条件を満たす場合には（ステップＳ２０７，Ｙｅｓ）、処理を終了する。

【0114】

次に、本実施例に係る情報処理装置１００の効果について説明する。情報処理装置１００は、予測ラベルが信頼できるラベルなし訓練データの定義を、ＫＬダイバージェンスを用いて定義し、入力された指標に応じた利得行列を選択し、信頼度の高い予測ラベルを導くラベルなし訓練データを選択する。情報処理装置１００は、ラベルあり訓練データと、選択したラベルなし訓練データと、指標に応じた利得行列Ｇとを含む損失関数Ｌ’とを基にして、損失関数Ｌ’の値が最小化されるように、分類器のパラメータを訓練する。これによって、いくつかの最適化が困難な指標についても、適切に信頼度の高い予測ラベルを導くラベルなし訓練データを使用して、分類器Ｆの訓練を実行できる。

【0115】

情報処理装置１００は、ラベルなし訓練データに対して、データ拡張を実行し、拡張したデータを分類器に入力した際に出力される出力確率の分布と、利得行列に基づく確率分布との擬距離が閾値以下である場合に、該当するラベルなし訓練データを選択する。これによって、適切に信頼度の高い予測ラベルを導くラベルなし訓練データを使用することができる。

【0116】

情報処理装置１００は、分類器Ｆに、弱データ拡張した訓練データα（ｕ_ｂ）を入力することで、出力確率ｑ_ｂを算出し、出力確率ｑ_ｂを基にして、予測ラベルｙ’を算出する。これによって、ラベルなし訓練データに対して、予測ラベルを設定し、訓練に使用することができる。

【0117】

情報処理装置１００は、弱データ拡張したラベルなし訓練データを分類器Ｆに入力した場合の出力確率となるｑ_ｂと、強データ拡張したラベルなし訓練データを分類器Ｆに入力した場合の出力確率を示すｐ（Ａ（ｕ_ｂ））とをhybrid損失関数に入力した値を基にして、分類器Ｆを訓練する。すなわち、ラベルなしデータを用いて、分類器Ｆを訓練することができる。

【0118】

次に、上記実施例に示した情報処理装置１００と同様の機能を実現するコンピュータのハードウェア構成の一例について説明する。図５は、実施例の情報処理装置と同様の機能を実現するコンピュータのハードウェア構成の一例を示す図である。

【0119】

図５に示すように、コンピュータ２００は、各種演算処理を実行するＣＰＵ２０１と、ユーザからのデータの入力を受け付ける入力装置２０２と、ディスプレイ２０３とを有する。また、コンピュータ２００は、有線または無線ネットワークを介して、外部装置等との間でデータの授受を行う通信装置２０４と、インタフェース装置２０５とを有する。また、コンピュータ２００は、各種情報を一時記憶するＲＡＭ２０６と、ハードディスク装置２０７とを有する。そして、各装置２０１～２０７は、バス２０８に接続される。

【0120】

ハードディスク装置２０７は、受付プログラム２０７ａ、生成プログラム２０７ｂ、訓練実行プログラム２０７ｃを有する。また、ＣＰＵ２０１は、各プログラム２０７ａ～２０７ｃを読み出してＲＡＭ２０６に展開する。

【0121】

受付プログラム２０７ａは、受付プロセス２０６ａとして機能する。生成プログラム２０７ｂは、生成プロセス２０６ｂとして機能する。訓練実行プログラム２０７ｃは、訓練実行プロセス２０６ｃとして機能する。

【0122】

受付プロセス２０６ａの処理は、受付部１５１の処理に対応する。生成プロセス２０６ｂの処理は、生成部１５２の処理に対応する。訓練実行プロセス２０６ｃの処理は、訓練実行部１５３の処理に対応する。

【0123】

なお、各プログラム２０７ａ～２０７ｃについては、必ずしも最初からハードディスク装置２０７に記憶させておかなくても良い。例えば、コンピュータ２００に挿入されるフレキシブルディスク（ＦＤ）、ＣＤ－ＲＯＭ、ＤＶＤ、光磁気ディスク、ＩＣカードなどの「可搬用の物理媒体」に各プログラムを記憶させておく。そして、コンピュータ２００が各プログラム２０７ａ～２０７ｃを読み出して実行するようにしてもよい。

【0124】

以上の各実施例を含む実施形態に関し、さらに以下の付記を開示する。

【0125】

（付記１）入力された指標に基づいて、利得行列を決定し、
前記利得行列を基にして、ラベルが付与されていない複数の訓練データから、機械学習モデルの訓練に使用する第１の訓練データを選択し、
前記第１の訓練データと前記第１の訓練データから予測される予測ラベルと、前記利得行列を含む損失関数とを基にして、前記機械学習モデルを訓練する、
処理を実行する制御部を有する情報処理装置。

【0126】

（付記２）前記第１の訓練データを選択する処理は、前記第１の訓練データを拡張したデータを前記機械学習モデルに入力した際の出力確率の分布と、前記利得行列に基づく確率分布との擬距離が閾値以下である場合に、前記第１の訓練データを選択する処理を含む、ことを特徴とする付記１に記載の情報処理装置。

【0127】

（付記３）前記制御部は、前記第１の訓練データに対して、第１強度のデータ拡張を実行して得られた第１のデータを、前記機械学習モデルに入力した際の出力結果を基にして、前記予測ラベルを生成する処理を更に実行する、ことを特徴とする付記１に記載の情報処理装置。

【0128】

（付記４）前記機械学習モデルを訓練する処理は、前記第１の訓練データに対して、前記第１強度よりも強い第２強度でデータ拡張して得られた第２のデータを、前記機械学習モデルに入力した際の出力結果と、前記第１のデータを前記機械学習モデルに入力した際の出力結果をベクトル化した値とを損失関数に入力することによって実行される、ことを特徴とする付記３に記載の情報処理装置。

【0129】

（付記５）入力された指標に基づいて、利得行列を決定し、
前記利得行列を基にして、ラベルが付与されていない複数の第１の訓練データから、機械学習モデルの訓練に使用する第１の訓練データを選択し、
選択した第１の訓練データと、選択した第１の訓練データから予測される予測ラベルと、ラベルが付与された第２の訓練データと、前記利得行列を含む損失関数とを基にして、前記機械学習モデルのパラメータを訓練する
処理をコンピュータが実行することを特徴とする機械学習方法。

【0130】

（付記６）前記第１の訓練データを選択する処理は、前記第１の訓練データを拡張したデータを前記機械学習モデルに入力した際の出力確率の分布と、前記利得行列に基づく確率分布との擬距離が閾値以下である場合に、前記第１の訓練データを選択する処理を含む、ことを特徴とする付記５に記載の機械学習方法。

【0131】

（付記７）前記制御部は、前記第１の訓練データに対して、第１強度のデータ拡張を実行して得られた第１のデータを、前記機械学習モデルに入力した際の出力結果を基にして、前記予測ラベルを生成する処理を更に実行する、ことを特徴とする付記５に記載の機械学習方法。

【0132】

（付記８）前記機械学習モデルを訓練する処理は、前記第１の訓練データに対して、前記第１強度よりも強い第２強度でデータ拡張して得られた第２のデータを、前記機械学習モデルに入力した際の出力結果と、前記第１のデータを前記機械学習モデルに入力した際の出力結果をベクトル化した値とを損失関数に入力することによって実行される、ことを特徴とする付記７に記載の機械学習方法。

【符号の説明】

【0133】

１００ 情報処理装置
１１０ 通信部
１２０ 入力部
１３０ 表示部
１４０ 記憶部
１４１ ラベル付き訓練データセット
１４２ ラベルなし訓練データセット
１４３ 検証データセット
１４４ 初期値データ
１４５ 分類器データ
１５０ 制御部
１５１ 受付部
１５２ 生成部
１５３ 訓練実行部

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】