知財求人 - 知財ポータルサイト「IP Force」
特許7367859学習装置、学習済みモデル生成方法、分類装置、分類方法、及びプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-10-16
(45)【発行日】2023-10-24
(54)【発明の名称】学習装置、学習済みモデル生成方法、分類装置、分類方法、及びプログラム
(51)【国際特許分類】
G06N 20/00 20190101AFI20231017BHJP
【ＦＩ】
G06N20/00 130
【請求項の数】
9
(21)【出願番号】P 2022516507
(86)(22)【出願日】2020-04-21
(86)【国際出願番号】 JP2020017163
(87)【国際公開番号】W WO2021214861
(87)【国際公開日】2021-10-28
【審査請求日】2022-10-14
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】110002044
【氏名又は名称】弁理士法人ブライタス
(72)【発明者】
【氏名】佐藤 敦
【審査官】武田 広太郎
(56)【参考文献】
【文献】特開２０１７－１０２５４０（ＪＰ，Ａ）
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｎ ２０／００
(57)【特許請求の範囲】
【請求項1】
２クラス分類のためのスコア関数を機械学習するための装置であって、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いて、前記スコア関数のパラメータを機械学習によって更新する、スコア関数最適化部を備え、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする学習装置。
【請求項2】
請求項１に記載の学習装置であって、前記訓練データを前記スコア関数に入力して、前記訓練データ毎にスコアを算出する、スコア算出部を備え、
前記スコア関数最適化部は、
予め設定した偽陽性率に対して偽陽性となる負例の訓練データについては、正例の訓練データとのペアに対する重みを１に、そうでない負例の訓練データについては、正例の訓練データとのペアに対する重みをλに設定し、
前記重みλの値を減少させながら、
前記スコア関数を更新する、
ことを特徴とする学習装置。
【請求項3】
２クラス分類のためのスコア関数を機械学習するための方法であって、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いて、前記スコア関数のパラメータを機械学習によって更新し、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする学習済みモデル生成方法。
【請求項4】
請求項３に記載の学習済みモデル生成方法であって、前記訓練データを前記スコア関数に入力して、前記訓練データ毎にスコアを算出し、
前記スコア関数の更新において、
予め設定した偽陽性率に対して偽陽性となる負例の訓練データについては、正例の訓練データとのペアに対する重みを１に、そうでない負例の訓練データについては、正例の訓練データとのペアに対する重みをλに設定し、
前記重みλの値を減少させながら、
前記スコア関数を更新する、
ことを特徴とする学習済みモデル生成方法。
【請求項5】
コンピュータによって、２クラス分類のためのスコア関数を機械学習するためのプログラムであって、前記コンピュータに、
ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いて、前記スコア関数のパラメータを機械学習によって更新させる、ステップを実行させ、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とするプログラム。
【請求項6】
請求項５に記載のプログラムであって、前記コンピュータに、
前記訓練データを前記スコア関数に入力して、前記訓練データ毎にスコアを算出させる、ステップを更に実行させ、
前記スコア関数のパラメータの更新において、
予め設定した偽陽性率に対して偽陽性となる負例の訓練データについては、正例の訓練データとのペアに対する重みを１に、そうでない負例の訓練データについては、正例の訓練データとのペアに対する重みをλに設定し、
前記重みλの値を減少させながら、
前記スコア関数のパラメータを更新する、
ことを特徴とするプログラム。
【請求項7】
テストデータをスコア関数に入力して、スコアを算出する、スコア算出部と、算出された前記スコアの値に基づいて、前記テストデータを２クラスに分類する、分類部と、を備え、
前記スコア関数は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いた、機械学習を行うことによって、パラメータが更新された関数であり、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする分類装置。
【請求項8】
テストデータをスコア関数に入力して、スコアを算出し、算出された前記スコアの値に基づいて、前記テストデータを２クラスに分類し、
前記スコア関数は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いた、機械学習を行うことによって、パラメータが更新された関数であり、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする分類方法。
【請求項9】
コンピュータに、テストデータをスコア関数に入力して、スコアを算出させる、ステップと、
算出された前記スコアの値に基づいて、前記テストデータを２クラスに分類させる、ステップと、
を実行させ、
前記スコア関数は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いた、機械学習を行うことによって、パラメータが更新された関数であり、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、２クラス分類に用いるスコア関数のパラメータを機械学習するための、学習装置、及び学習済みモデル生成方法に関し、更には、２クラス分類を行う分類装置、分類方法に関し、更には、これらを実現するためのプログラムに関する。
【背景技術】
【0002】
近年、観測データが正例クラス及び負例クラスのいずれであるかを判定する２クラス分類が行われている。２クラス分類では、観測データに応じて、スコアを出力するスコア関数のパラメータが機械学習され、２クラス分類を行う学習済みモデルが生成される。２クラス分類は、例えば、画像データを利用した、映像監視、故障診断、検品、及び医用画像診断等で利用されている。
【0003】
但し、２クラス分類では、負例クラスの訓練データに比べて正例クラスの訓練データが極端に少ない事態が生じ易く、この場合、十分な分類精度が確保できないことがある。この問題を解消するため、例えば、非特許文献１は、ｐａｒｔｉａｌ ＡＵＣ（以下「ｐＡＵＣ」と表記する）が大きくなるように、スコア関数のパラメータを学習する学習方法を開示している。この学習方法によれば、負例から、分類が難しいデータが特に抽出されてパラメータの学習が行われるため、上述の問題が解消されると思われる。
【0004】
ここで、ＡＵＣ（Area Under the Curve）及びｐＡＵＣについて、図８を用いて説明する。図８は、ＡＵＣ及びｐＡＵＣを説明するための図である。図８には、ＲＯＣ（Receiver Operating Characteristic）曲線が示されている。ＲＯＣ曲線は、スコア関数における正例と負例とを決める閾値を変化させて、真陽性率（縦軸）と偽陽性率（横軸）とをプロットして得られる曲線である。また、真陽性率は検出正解率を示し、偽陽性率は誤検知率を示している。
【0005】
図８の上段の図に示すように、ＡＵＣは、ＲＯＣ（Receiver Operating Characteristic）曲線の横軸側（下側）の領域の面積を示す。また、図８の下段の図に示すように、ｐＡＵＣは、偽陽性率の値をある固定値βとしたときのＡＵＣの値であり、ＲＯＣ曲線、横軸、固定値βを通る縦軸とで囲まれた領域の面積を示している。
【0006】
また、特許文献１も、負例クラスの訓練データに比べて正例クラスの訓練データが極端に少ない場合における、スコア関数のパラメータの学習方法を開示している。特許文献１に開示された方法では、スコア関数として、正例クラスの確率モデルと負例クラスの学習モデルとの比を採用することで、上述の問題を解消している。
【先行技術文献】
【特許文献】
【0007】
【文献】特開２０１７－１０２５４０号公報
【非特許文献】
【0008】
【文献】H. Narasimhan and S. Agarwal, “A Structural SVM Based Approach for Optimizing Partial AUC”, Int’l Conf. on Machine Learning (ICML), 2013.
【発明の概要】
【発明が解決しようとする課題】
【0009】
しかしながら、非特許文献１に開示された学習方法では、正例クラスのデータが極端にすくない上述の場合に、スコア関数のパラメータが訓練データに適合しすぎてしまい、観測データに対する精度が低下する過学習になり易いという問題がある。過学習とは、訓練データだけに最適化されてしまって汎用性のない状態に陥ることである。
【0010】
一方、特許文献１に開示された学習方法では、非特許文献１に開示された学習方法に比べて過学習にはなりにくいと考えられるが、２つの確率モデルが必要となるため、深層ネットワーク等の非線形モデルを使うことができず、結果、分類精度の向上に限界がある。
【0011】
本発明の目的の一例は、上記問題を解消し、正例クラスのデータが負例クラスのデータに比べて少ない場合の２クラス分類において、過学習の抑制と分類精度の向上とを図り得る、学習装置、分類装置、学習済みモデル生成方法、分類方法及びプログラムを提供することにある。
【課題を解決するための手段】
【0012】
上記目的を達成するため、本発明の一側面における学習装置は、２クラス分類のためのスコア関数を機械学習するための装置であって、
ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いて、前記スコア関数のパラメータを機械学習によって更新する、スコア関数最適化部を備え、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする。
ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いて、前記スコア関数のパラメータを機械学習によって更新する、スコア関数最適化部を備え、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする。
【0013】
また、上記目的を達成するため、本発明の一側面における学習済みモデル生成方法は、２クラス分類のためのスコア関数を機械学習するための方法であって、
ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いて、前記スコア関数のパラメータを機械学習によって更新する、スコア関数最適化ステップを有し、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする。
ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いて、前記スコア関数のパラメータを機械学習によって更新する、スコア関数最適化ステップを有し、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする。
【0014】
更に、上記目的を達成するため、本発明の一側面における第１のプログラムは、コンピュータによって、２クラス分類のためのスコア関数を機械学習するためのプログラムであって、
前記コンピュータに、
ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いて、前記スコア関数のパラメータを機械学習によって更新する、スコア関数最適化ステップを実行させ、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする。
前記コンピュータに、
ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いて、前記スコア関数のパラメータを機械学習によって更新する、スコア関数最適化ステップを実行させ、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする。
【0015】
更に、上記目的を達成するため、本発明の一側面における分類装置は、
テストデータをスコア関数に入力して、スコアを算出する、スコア算出部と、
算出された前記スコアの値に基づいて、前記テストデータを２クラスに分類する、分類部と、を備え、
前記スコア関数は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いた、機械学習を行うことによって、パラメータが更新された関数であり、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする。
テストデータをスコア関数に入力して、スコアを算出する、スコア算出部と、
算出された前記スコアの値に基づいて、前記テストデータを２クラスに分類する、分類部と、を備え、
前記スコア関数は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いた、機械学習を行うことによって、パラメータが更新された関数であり、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする。
【0016】
更に、上記目的を達成するため、本発明の一側面における分類方法は、
テストデータをスコア関数に入力して、スコアを算出する、スコア算出ステップと、
算出された前記スコアの値に基づいて、前記テストデータを２クラスに分類する、分類ステップと、を有し、
前記スコア関数は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いた、機械学習を行うことによって、パラメータが更新された関数であり、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする。
テストデータをスコア関数に入力して、スコアを算出する、スコア算出ステップと、
算出された前記スコアの値に基づいて、前記テストデータを２クラスに分類する、分類ステップと、を有し、
前記スコア関数は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いた、機械学習を行うことによって、パラメータが更新された関数であり、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする。
【0017】
更に、上記目的を達成するため、本発明の一側面における第２のプログラムは、
コンピュータに、
テストデータをスコア関数に入力して、スコアを算出する、スコア算出ステップと、
算出された前記スコアの値に基づいて、前記テストデータを２クラスに分類する、分類ステップと、
を実行させ、
前記スコア関数は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いた、機械学習を行うことによって、パラメータが更新された関数であり、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする。
コンピュータに、
テストデータをスコア関数に入力して、スコアを算出する、スコア算出ステップと、
算出された前記スコアの値に基づいて、前記テストデータを２クラスに分類する、分類ステップと、
を実行させ、
前記スコア関数は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いた、機械学習を行うことによって、パラメータが更新された関数であり、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする。
【発明の効果】
【0018】
以上のように本発明によれば、正例クラスのデータが負例クラスのデータに比べて少ない場合の２クラス分類において、過学習の抑制と分類精度の向上とを図ることができる。
【図面の簡単な説明】
【0019】
【発明を実施するための形態】
【0020】
【0021】
【0022】
図１に示す、実施の形態１における学習装置１００は、２クラス分類のためのスコア関数を機械学習するための装置である。図１に示すように、実施の形態１における学習装置１００は、スコア関数最適化部１０を備えている。
【0023】
スコア関数最適化部１０は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、重みλの値を減少させながら、指標が最大化するように、訓練データを用いて、スコア関数のパラメータを機械学習によって更新する。
【0024】
ここで、ＡＵＣは、背景技術の欄でも述べたように、スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示す。ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり上述の、曲線、横軸、固定値を通る縦軸とで囲まれた領域の面積を示す。
【0025】
このように、実施の形態１では、ｐＡＵＣだけでなく、ＡＵＣも指標として用いて、スコア関数のパラメータの機械学習が行われるので、ｐＡＵＣだけを用いた場合の過学習が抑制される。また、実施の形態１では、２つの確率モデルは不要で、深層ネットワークなどの非線形モデルも学習できることから、分類精度の向上も図られる。実施の形態１によれば、正例クラスのデータが負例クラスのデータに比べて少ない場合の２クラス分類において、過学習の抑制と分類精度の向上とを図ることができる。
【0026】
【0027】
図２に示すように、実施の形態１では、学習装置１００は、訓練データを入力する端末装置２００に、データ通信可能に接続されている。端末装置２００の具体例としては、汎用のコンピュータ、スマートフォン、タブレット型端末装置などが挙げられる。
【0028】
また、図２に示すように、実施の形態１では、学習装置１００は、上述したスコア関数最適化部１０に加えて、スコア算出部２０と、訓練データ格納部３０とを備えている。
【0029】
訓練データ格納部３０は、端末装置２００から送信されてきた訓練データを格納する。訓練データには、正例と負例とが含まれている。スコア算出部２０は、訓練データ格納部３０に格納されている各訓練データを、スコア関数に入力して、訓練データ毎にスコアを算出する。
【0030】
スコア関数最適化部１０は、実施の形態１では、拡張ＡＵＣ計算部１１と、重み可変部１２とを備えている。拡張ＡＵＣ計算部１１は、ＡＵＣに重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を、指標ｅＡＵＣとして計算する。また、スコア関数がｆ（ｘ；θ）で表され、そのパラメータがθであるとすると、指標ｅＡＵＣ（θ，λ）は、下記の数１によって計算される。
【0031】
【数1】
【0032】
上記の数１は、具体的には下記の数２及び数３に書き換えられる。数２において、Ｉ＊（ ）は０－１関数を微分可能にしたものである。Ｉ＊（ ）としては、例えば、シグモイド関数、又は任意の単調増加関数が用いられる。ｘｉ
＋は正例の訓練データ、ｘｊ
－は負例の訓練データ、Ｎ＋は正例の訓練データの数、Ｎ－は負例の訓練データの数を示している。Ｚは、予め設定した偽陽性率βに対して偽陽性となる負例の訓練データの集合を表す。
【0033】
【数2】
【0034】
【数3】
【0035】
スコア関数最適化部１０は、スコア算出部２０で算出されたスコアの値から、予め設定した偽陽性率βに対して偽陽性となる負例の訓練データの集合Ｚを選定し、集合Ｚに含まれる負例の訓練データｘｊについてはｗｊを１に、そうでない負例の訓練データｘｊについてはｗｊをλに設定した後、拡張ＡＵＣ計算部１１に上記数２に基づく指標ｅＡＵＣ（θ，λ）を計算させ、重み可変部１２に重みλの値を減少させながら、スコア関数最適化部１０は、上記数３を用いて指標ｅＡＵＣ（θ，λ）を最大化するパラメータθを計算し、パラメータθを更新する。
【0036】
［装置動作］
次に、実施の形態１における学習装置１００の動作について図３を用いて説明する。図３は、実施の形態１における学習装置の動作を示すフロー図である。以下の説明においては、適宜図１及び図２を参照する。また、実施の形態１では、学習装置１００を動作させることによって、学習済みモデル生成方法が実施される。よって、実施の形態１における学習済みモデル生成方法の説明は、以下の学習装置１００の動作説明に代える。
次に、実施の形態１における学習装置１００の動作について図３を用いて説明する。図３は、実施の形態１における学習装置の動作を示すフロー図である。以下の説明においては、適宜図１及び図２を参照する。また、実施の形態１では、学習装置１００を動作させることによって、学習済みモデル生成方法が実施される。よって、実施の形態１における学習済みモデル生成方法の説明は、以下の学習装置１００の動作説明に代える。
【0037】
図３に示すように、スコア関数最適化部１０は、まず、重みλの値を初期値である「１」に設定する（ステップＡ１）。次に、スコア算出部２０は、訓練データ格納部３０から、予め格納されている訓練データを取得し、訓練データ毎に、スコア関数を用いてスコアを算出する（ステップＡ２）。
【0038】
次に、スコア関数最適化部１０は、拡張ＡＵＣ計算部１１によって、上記数２を用いて、指標ｅＡＵＣ（θ，λ）を計算する（ステップＡ３）。
【0039】
具体的には、ステップＡ３では、スコア関数最適化部１０は、ステップＡ２で算出されたスコアの値から、予め設定した偽陽性率βに対して偽陽性となる負例の訓練データの集合Ｚを選定し、集合Ｚに含まれる負例の訓練データｘｊについてはｗｊを１に、そうでない負例の訓練データｘｊについてはｗｊをλに設定した後、拡張ＡＵＣ計算部１１によって上記数２を用いて指標ｅＡＵＣ（θ，λ）を計算する。
【0040】
そして、スコア関数最適化部１０は、上記数３を用いて、ステップＡ３で算出した指標ｅＡＵＣ（θ，λ）を最大化するパラメータθを算出し、パラメータθを更新する（ステップＡ４）。
【0041】
具体的には、スコア関数最適化部１０は、一般的な山登り法により、現在のパラメータθの近傍で、目的関数である指標ｅＡＵＣ（θ，λ）の値が最も大きくなる近傍を探索する。つまり、スコア関数最適化部１０は、現在のパラメータθに、微小な値△θを加え、指標ｅＡＵＣ（θ，λ）の値を最大にする△θを特定すると、θ＋△θを、新たなパラメータθに更新する。
【0042】
次に、重み可変部１２は、現在の重みλの値を一定値分減少させた値を、新たな重みλに更新する（ステップＡ５）。
【0043】
次に、スコア関数最適化部１０は、終了条件が満たされているかどうかを判定する（ステップＡ６）。ステップＡ６の終了条件としては、例えば、重みλの値が０に近い値（閾値）以下であることが挙げられる。
【0044】
ステップＡ６の判定の結果、終了条件が満たされていない場合は、更新後のパラメータθと更新後の重みλを用いてステップＡ２に戻る。
【0045】
一方、ステップＡ６の判定の結果、終了条件が満たされている場合は、スコア関数最適化部１０は、算出したスコア関数のパラメータθを出力する（ステップＡ７）。
【0046】
［実施の形態１における効果］
図４を用いて、実施の形態１における効果を説明する。図４は、従来技術において学習対象となる訓練データのスコアの一例と、実施の形態１において学習対象となる訓練データのスコアの一例とを示す図である。ｓｉ ＋は正例の訓練データｘｉ ＋のスコアであり、ｓｉ ＋＝ｆ（ｘｉ ＋；θ）として得られる。ｓｊ －は負例の訓練データｘｊ －のスコアであり、ｓｊ －＝ｆ（ｘｊ －；θ）として得られる。ただし、負例についてはスコアの大きい順にソートされている。
図４を用いて、実施の形態１における効果を説明する。図４は、従来技術において学習対象となる訓練データのスコアの一例と、実施の形態１において学習対象となる訓練データのスコアの一例とを示す図である。ｓｉ ＋は正例の訓練データｘｉ ＋のスコアであり、ｓｉ ＋＝ｆ（ｘｉ ＋；θ）として得られる。ｓｊ －は負例の訓練データｘｊ －のスコアであり、ｓｊ －＝ｆ（ｘｊ －；θ）として得られる。ただし、負例についてはスコアの大きい順にソートされている。
【0047】
従来技術は、ｐＡＵＣが指標となるので、偽陽性となるβＮ－個の負例とＮ＋個の正例のペア、つまりβＮ－×Ｎ＋個のペアが学習対象となり、ｓｉ
＋＞ｓｊ
－となるペアの数が増えるように、スコア関数のパラメータθが更新される。
【0048】
実施の形態１では、学習の初期段階では重みλの値が１に設定されるのでＡＵＣが指標となる。すなわち、Ｎ－×Ｎ＋個の正例と負例とのすべてのペアが学習対象となり、ｓｉ
＋＞ｓｊ
－となるペアの数が増えるように、スコア関数のパラメータθが更新される。学習が進むにつれ重みλの値が０に近づくので、目的関数におけるＡＵＣの影響は徐々に軽減され、ｅＡＵＣは従来技術の指標であるｐＡＵＣに近づくことになる。ここで、予め設定した偽陽性率βに対してスコア上位のβＮ－個の負例が、偽陽性となる負例の訓練データの集合Ｚである。
【0049】
ただし、λが０になる前に学習は終了するため、従来技術のようにβＮ－×Ｎ＋個のペアが学習対象として限定されることはなく、Ｎ－×Ｎ＋個の正例と負例とのすべてのペアが学習対象となる。つまり、従来技術では、学習対象となるペアの数が少ないため過学習となるが、実施の形態１では、すべてのペアが学習対象となるため過学習は抑制される。また、実施の形態１では、２つの確率モデルは必要ないため、深層ネットワーク等の非線形モデルを使うことができ、分類精度の向上も図られる。
【0050】
［プログラム］
実施の形態１におけるプログラムは、コンピュータに、図３に示すステップＡ１～Ａ７を実行させるプログラムであれば良い。このプログラムをコンピュータにインストールし、実行することによって、本実施の形態１における学習装置１００と学習済みモデル生成方法とを実現することができる。この場合、コンピュータのプロセッサは、スコア関数最適化部１０及びスコア算出部２０として機能し、処理を行なう。
実施の形態１におけるプログラムは、コンピュータに、図３に示すステップＡ１～Ａ７を実行させるプログラムであれば良い。このプログラムをコンピュータにインストールし、実行することによって、本実施の形態１における学習装置１００と学習済みモデル生成方法とを実現することができる。この場合、コンピュータのプロセッサは、スコア関数最適化部１０及びスコア算出部２０として機能し、処理を行なう。
【0051】
また、本実施の形態１では、訓練データ格納部３０は、コンピュータに備えられたハードディスク等の記憶装置に、これらを構成するデータファイルを格納することによって実現されていても良いし、別のコンピュータの記憶装置によって実現されていても良い。コンピュータとしては、汎用のＰＣの他に、スマートフォン、タブレット型端末装置が挙げられる。
【0052】
実施の形態１におけるプログラムは、複数のコンピュータによって構築されたコンピュータシステムによって実行されても良い。この場合は、例えば、各コンピュータが、それぞれ、スコア関数最適化部１０及びスコア算出部２０のいずれかとして機能しても良い。
【0053】
【0054】
【0055】
図５に示す、実施の形態２における分類装置１０１は、スコア関数を用いてテストデータを２クラスに分類するための装置である。図５に示すように、実施の形態２では、分類装置１０１は、実施の形態１と同様に、端末装置２００に、データ通信可能に接続されている。端末装置２００の具体例としては、汎用のコンピュータ、スマートフォン、タブレット型端末装置などが挙げられる。但し、実施の形態２では、端末装置２００は、分類装置１０１に対して、２クラス分類の対象となるテストデータを入力する。
【0056】
また、図５に示すように、実施の形態２における分類装置１０１は、スコア算出部４０と、分類部５０と、テストデータ格納部６０と、スコア関数格納部７０とを備えている。このうち、テストデータ格納部６０は、入力されたテストデータを格納する。
【0057】
スコア関数格納部７０は、２クラス分類に用いるスコア関数を格納している。スコア関数は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、指標が最大化するように、訓練データを用いた機械学習を行うことによって、パラメータが更新された関数である。具体的には、実施の形態２で用いられるスコア関数は、実施の形態１によってパラメータが更新されたスコア関数である。
【0058】
スコア算出部４０は、スコア関数格納部７０からスコア関数を取得し、取得したスコア関数に、テストデータ格納部６０から取り出したテストデータを入力して、スコアを算出する。なお、実施の形態２におけるスコア算出部４０は、実施の形態１において図２に示したスコア算出部２０と同様の機能を有している。
【0059】
分類部５０は、スコア算出部４０によって算出されたスコアの値に基づいて、テストデータを２クラス、例えば、正例又は負例に分類する。また、分類部５０は、分類結果を、端末装置２００に送信することができる。
【0060】
［装置動作］
次に、実施の形態２における分類装置１０１の動作について図６を用いて説明する。図６は、実施の形態２における分類装置の動作を示すフロー図である。以下の説明においては、適宜図５を参照する。また、実施の形態２では、分類装置１０１を動作させることによって、分類方法が実施される。よって、実施の形態２における分類方法の説明は、以下の分類装置１０１の動作説明に代える。
次に、実施の形態２における分類装置１０１の動作について図６を用いて説明する。図６は、実施の形態２における分類装置の動作を示すフロー図である。以下の説明においては、適宜図５を参照する。また、実施の形態２では、分類装置１０１を動作させることによって、分類方法が実施される。よって、実施の形態２における分類方法の説明は、以下の分類装置１０１の動作説明に代える。
【0061】
図６に示すように、最初に、スコア算出部４０は、テストデータ格納部６０からテストデータを取得する（ステップＢ１）。
【0062】
次に、スコア算出部４０は、スコア関数格納部７０からスコア関数を取得し、取得したスコア関数に、ステップＢ１で取得したテストデータを入力して、スコアを算出する（ステップＢ２）。
【0063】
次に、分類部５０は、ステップＢ２によって算出されたスコアの値に基づいて、テストデータを２クラス、例えば、正例又は負例に分類する（ステップＢ３）。また、分類部５０は、分類結果を、端末装置２００に送信する。
【0064】
以上のように、実施の形態２によれば、実施の形態１でパラメータが更新されたスコア関数を用いて、テストデータを２クラスに分類することができる。また、このため、高い分類精度が得られることになる。
【0065】
［プログラム］
実施の形態２におけるプログラムは、コンピュータに、図６に示すステップＢ１～Ｂ３を実行させるプログラムであれば良い。このプログラムをコンピュータにインストールし、実行することによって、本実施の形態２における分類装置１０１と分類方法とを実現することができる。この場合、コンピュータのプロセッサは、スコア算出部４０及び分類部５０として機能し、処理を行なう。
実施の形態２におけるプログラムは、コンピュータに、図６に示すステップＢ１～Ｂ３を実行させるプログラムであれば良い。このプログラムをコンピュータにインストールし、実行することによって、本実施の形態２における分類装置１０１と分類方法とを実現することができる。この場合、コンピュータのプロセッサは、スコア算出部４０及び分類部５０として機能し、処理を行なう。
【0066】
また、本実施の形態２では、テストデータ格納部６０及びスコア関数格納部７０は、コンピュータに備えられたハードディスク等の記憶装置に、これらを構成するデータファイルを格納することによって実現されていても良いし、別のコンピュータの記憶装置によって実現されていても良い。コンピュータとしては、汎用のＰＣの他に、スマートフォン、タブレット型端末装置が挙げられる。
【0067】
実施の形態２におけるプログラムは、複数のコンピュータによって構築されたコンピュータシステムによって実行されても良い。この場合は、例えば、各コンピュータが、それぞれ、スコア算出部４０及び分類部５０のいずれかとして機能しても良い。
【0068】
（物理構成）
ここで、実施の形態１又は２におけるプログラムを実行することによって、各装置を実現するコンピュータについて図７を用いて説明する。図７は、実施の形態１における学習装置及び実施の形態２における分類装置を実現するコンピュータの一例を示すブロック図である。
ここで、実施の形態１又は２におけるプログラムを実行することによって、各装置を実現するコンピュータについて図７を用いて説明する。図７は、実施の形態１における学習装置及び実施の形態２における分類装置を実現するコンピュータの一例を示すブロック図である。
【0069】
図７に示すように、コンピュータ１１０は、ＣＰＵ（Central Processing Unit）１１１と、メインメモリ１１２と、記憶装置１１３と、入力インターフェイス１１４と、表示コントローラ１１５と、データリーダ／ライタ１１６と、通信インターフェイス１１７とを備える。これらの各部は、バス１２１を介して、互いにデータ通信可能に接続される。
【0070】
また、コンピュータ１１０は、ＣＰＵ１１１に加えて、又はＣＰＵ１１１に代えて、ＧＰＵ（Graphics Processing Unit）、又はＦＰＧＡ（Field-Programmable Gate Array）を備えていても良い。この態様では、ＧＰＵ又はＦＰＧＡが、実施の形態１におけるプログラムを実行することができる。
【0071】
ＣＰＵ１１１は、記憶装置１１３に格納された、コード群で構成された実施の形態１におけるプログラムをメインメモリ１１２に展開し、各コードを所定順序で実行することにより、各種の演算を実施する。メインメモリ１１２は、典型的には、ＤＲＡＭ（Dynamic Random Access Memory）等の揮発性の記憶装置である。
【0072】
また、実施の形態１におけるプログラムは、コンピュータ読み取り可能な記録媒体１２０に格納された状態で提供される。なお、本実施の形態１におけるプログラムは、通信インターフェイス１１７を介して接続されたインターネット上で流通するものであっても良い。
【0073】
また、記憶装置１１３の具体例としては、ハードディスクドライブの他、フラッシュメモリ等の半導体記憶装置が挙げられる。入力インターフェイス１１４は、ＣＰＵ１１１と、キーボード及びマウスといった入力機器１１８との間のデータ伝送を仲介する。表示コントローラ１１５は、ディスプレイ装置１１９と接続され、ディスプレイ装置１１９での表示を制御する。
【0074】
データリーダ／ライタ１１６は、ＣＰＵ１１１と記録媒体１２０との間のデータ伝送を仲介し、記録媒体１２０からのプログラムの読み出し、及びコンピュータ１１０における処理結果の記録媒体１２０への書き込みを実行する。通信インターフェイス１１７は、ＣＰＵ１１１と、他のコンピュータとの間のデータ伝送を仲介する。
【0075】
また、記録媒体１２０の具体例としては、ＣＦ（Compact Flash（登録商標））及びＳＤ（Secure Digital）等の汎用的な半導体記憶デバイス、フレキシブルディスク（Flexible Disk）等の磁気記録媒体、又はＣＤ－ＲＯＭ（Compact Disk Read Only Memory）などの光学記録媒体が挙げられる。
【0076】
なお、実施の形態１における学習装置１００及び実施の形態２における分類装置１０１は、プログラムがインストールされたコンピュータではなく、各部に対応したハードウェアを用いることによっても実現可能である。更に、実施の形態１における学習装置１００及び実施の形態２における分類装置１０１は、一部がプログラムで実現され、残りの部分がハードウェアで実現されていてもよい。
【0077】
上述した実施の形態１の一部又は全部は、以下に記載する（付記１）～（付記９）によって表現することができるが、以下の記載に限定されるものではない。
【0078】
（付記１）
２クラス分類のためのスコア関数を機械学習するための装置であって、
ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いて、前記スコア関数のパラメータを機械学習によって更新する、スコア関数最適化部を備え、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする学習装置。
２クラス分類のためのスコア関数を機械学習するための装置であって、
ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いて、前記スコア関数のパラメータを機械学習によって更新する、スコア関数最適化部を備え、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする学習装置。
【0079】
（付記２）
付記１に記載の学習装置であって、
前記訓練データを前記スコア関数に入力して、前記訓練データ毎にスコアを算出する、スコア算出部を備え、
前記スコア関数最適化部は、
予め設定した偽陽性率に対して偽陽性となる負例の訓練データについては、正例の訓練データとのペアに対する重みを１に、そうでない負例の訓練データについては、正例の訓練データとのペアに対する重みをλに設定し、
前記重みλの値を減少させながら、
前記スコア関数のパラメータを更新する、
ことを特徴とする学習装置。
付記１に記載の学習装置であって、
前記訓練データを前記スコア関数に入力して、前記訓練データ毎にスコアを算出する、スコア算出部を備え、
前記スコア関数最適化部は、
予め設定した偽陽性率に対して偽陽性となる負例の訓練データについては、正例の訓練データとのペアに対する重みを１に、そうでない負例の訓練データについては、正例の訓練データとのペアに対する重みをλに設定し、
前記重みλの値を減少させながら、
前記スコア関数のパラメータを更新する、
ことを特徴とする学習装置。
【0080】
（付記３）
２クラス分類のためのスコア関数を機械学習するための方法であって、
ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いて、前記スコア関数のパラメータを機械学習によって更新する、スコア関数最適化ステップを有し、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする学習済みモデル生成方法。
２クラス分類のためのスコア関数を機械学習するための方法であって、
ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いて、前記スコア関数のパラメータを機械学習によって更新する、スコア関数最適化ステップを有し、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする学習済みモデル生成方法。
【0081】
（付記４）
付記３に記載の学習済みモデル生成方法であって、
前記訓練データを前記スコア関数に入力して、前記訓練データ毎にスコアを算出する、スコア算出ステップを更に有し、
前記スコア関数最適化ステップにおいて、
予め設定した偽陽性率に対して偽陽性となる負例の訓練データについては、正例の訓練データとのペアに対する重みを１に、そうでない負例の訓練データについては、正例の訓練データとのペアに対する重みをλに設定し、
前記重みλの値を減少させながら、
前記スコア関数のパラメータを更新する、
ことを特徴とする学習済みモデル生成方法。
付記３に記載の学習済みモデル生成方法であって、
前記訓練データを前記スコア関数に入力して、前記訓練データ毎にスコアを算出する、スコア算出ステップを更に有し、
前記スコア関数最適化ステップにおいて、
予め設定した偽陽性率に対して偽陽性となる負例の訓練データについては、正例の訓練データとのペアに対する重みを１に、そうでない負例の訓練データについては、正例の訓練データとのペアに対する重みをλに設定し、
前記重みλの値を減少させながら、
前記スコア関数のパラメータを更新する、
ことを特徴とする学習済みモデル生成方法。
【0082】
（付記５）
コンピュータによって、２クラス分類のためのスコア関数を機械学習するためのプログラムを記録したプログラムであって、
前記コンピュータに、
ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いて、前記スコア関数のパラメータを機械学習によって更新する、スコア関数最適化ステップを実行させ、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とするプログラム。
コンピュータによって、２クラス分類のためのスコア関数を機械学習するためのプログラムを記録したプログラムであって、
前記コンピュータに、
ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いて、前記スコア関数のパラメータを機械学習によって更新する、スコア関数最適化ステップを実行させ、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とするプログラム。
【0083】
（付記６）
付記５に記載のプログラムであって、
前記コンピュータに、
前記訓練データを前記スコア関数に入力して、前記訓練データ毎にスコアを算出する、スコア算出ステップを更に実行させ、
前記スコア関数最適化ステップにおいて、
予め設定した偽陽性率に対して偽陽性となる負例の訓練データについては、正例の訓練データとのペアに対する重みを１に、そうでない負例の訓練データについては、正例の訓練データとのペアに対する重みをλに設定し、
前記重みλの値を減少させながら、
前記スコア関数のパラメータを更新する、
ことを特徴とするプログラム。
付記５に記載のプログラムであって、
前記コンピュータに、
前記訓練データを前記スコア関数に入力して、前記訓練データ毎にスコアを算出する、スコア算出ステップを更に実行させ、
前記スコア関数最適化ステップにおいて、
予め設定した偽陽性率に対して偽陽性となる負例の訓練データについては、正例の訓練データとのペアに対する重みを１に、そうでない負例の訓練データについては、正例の訓練データとのペアに対する重みをλに設定し、
前記重みλの値を減少させながら、
前記スコア関数のパラメータを更新する、
ことを特徴とするプログラム。
【0084】
（付記７）
テストデータをスコア関数に入力して、スコアを算出する、スコア算出部と、
算出された前記スコアの値に基づいて、前記テストデータを２クラスに分類する、分類部と、を備え、
前記スコア関数は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いた、機械学習を行うことによって、パラメータが更新された関数であり、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする分類装置。
テストデータをスコア関数に入力して、スコアを算出する、スコア算出部と、
算出された前記スコアの値に基づいて、前記テストデータを２クラスに分類する、分類部と、を備え、
前記スコア関数は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いた、機械学習を行うことによって、パラメータが更新された関数であり、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする分類装置。
【0085】
（付記８）
テストデータをスコア関数に入力して、スコアを算出する、スコア算出ステップと、
算出された前記スコアの値に基づいて、前記テストデータを２クラスに分類する、分類ステップと、を有し、
前記スコア関数は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いた、機械学習を行うことによって、パラメータが更新された関数であり、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする分類方法。
テストデータをスコア関数に入力して、スコアを算出する、スコア算出ステップと、
算出された前記スコアの値に基づいて、前記テストデータを２クラスに分類する、分類ステップと、を有し、
前記スコア関数は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いた、機械学習を行うことによって、パラメータが更新された関数であり、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とする分類方法。
【0086】
（付記９）
コンピュータに、
テストデータをスコア関数に入力して、スコアを算出する、スコア算出ステップと、
算出された前記スコアの値に基づいて、前記テストデータを２クラスに分類する、分類ステップと、
を実行させ、
前記スコア関数は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いた、機械学習を行うことによって、パラメータが更新された関数であり、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とするプログラム。
コンピュータに、
テストデータをスコア関数に入力して、スコアを算出する、スコア算出ステップと、
算出された前記スコアの値に基づいて、前記テストデータを２クラスに分類する、分類ステップと、
を実行させ、
前記スコア関数は、ＡＵＣに正の実数である重みλを乗算した値とｐＡＵＣに重み（１－λ）を乗算した値との合計値を指標とし、前記重みλの値を減少させながら、前記指標が最大化するように、訓練データを用いた、機械学習を行うことによって、パラメータが更新された関数であり、
前記ＡＵＣは、前記スコア関数における正例と負例とを決める閾値を変化させ、縦軸を真陽性率、横軸を偽陽性率として得られる曲線の横軸側の領域の面積を示し、
前記ｐＡＵＣは、偽陽性率の値を特定の固定値としたときのＡＵＣの値であり、前記曲線、前記横軸、前記固定値を通る縦軸とで囲まれた領域の面積を示している、
ことを特徴とするプログラム。
【0087】
以上、実施の形態１を参照して本願発明を説明したが、本願発明は上記実施の形態１に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
【産業上の利用可能性】
【0088】
以上のように本発明によれば、正例クラスのデータが負例クラスのデータに比べて少ない場合の２クラス分類において、過学習の抑制と分類精度の向上とを図ることができる。本発明は、２クラス分類が実行される各種システムに有用である。
【符号の説明】
【0089】
１０ スコア関数最適化部
１１ 拡張ＡＵＣ計算部
１２ 重み可変部
２０ スコア算出部
３０ 訓練データ格納部
４０ スコア算出部
５０ 分類部
６０ テストデータ格納部
７０ スコア関数格納部
１００ 学習装置
１０１ 分類装置
１１０ コンピュータ
１１１ ＣＰＵ
１１２ メインメモリ
１１３ 記憶装置
１１４ 入力インターフェイス
１１５ 表示コントローラ
１１６ データリーダ／ライタ
１１７ 通信インターフェイス
１１８ 入力機器
１１９ ディスプレイ装置
１２０ 記録媒体
１２１ バス
２００ 端末装置
１１ 拡張ＡＵＣ計算部
１２ 重み可変部
２０ スコア算出部
３０ 訓練データ格納部
４０ スコア算出部
５０ 分類部
６０ テストデータ格納部
７０ スコア関数格納部
１００ 学習装置
１０１ 分類装置
１１０ コンピュータ
１１１ ＣＰＵ
１１２ メインメモリ
１１３ 記憶装置
１１４ 入力インターフェイス
１１５ 表示コントローラ
１１６ データリーダ／ライタ
１１７ 通信インターフェイス
１１８ 入力機器
１１９ ディスプレイ装置
１２０ 記録媒体
１２１ バス
２００ 端末装置
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
