特許 7568216 学習装置、学習方法、及び学習プログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-10-07

(45)【発行日】2024-10-16

(54)【発明の名称】学習装置、学習方法、及び学習プログラム

(51)【国際特許分類】

   G06N 3/09 20230101AFI20241008BHJP

   G06F 18/2325 20230101ALI20241008BHJP

   G06F 18/2413 20230101ALI20241008BHJP

【ＦＩ】

G06N3/09

G06F18/2325

G06F18/2413

【請求項の数】 8

(21)【出願番号】P 2020183106

(22)【出願日】2020-10-30

(65)【公開番号】P2022073239

(43)【公開日】2022-05-17

【審査請求日】2023-08-23

(73)【特許権者】

【識別番号】516231419

【氏名又は名称】ソフトバンクロボティクスグループ株式会社

(73)【特許権者】

【識別番号】504137912

【氏名又は名称】国立大学法人 東京大学

(74)【代理人】

【識別番号】100099759

【弁理士】

【氏名又は名称】青木 篤

(74)【代理人】

【識別番号】100123582

【弁理士】

【氏名又は名称】三橋 真二

(74)【代理人】

【識別番号】100114018

【弁理士】

【氏名又は名称】南山 知広

(74)【代理人】

【識別番号】100180806

【弁理士】

【氏名又は名称】三浦 剛

(74)【代理人】

【識別番号】100160716

【弁理士】

【氏名又は名称】遠藤 力

(72)【発明者】

【氏名】馬目 信人

(72)【発明者】

【氏名】篠原 修二

【審査官】多賀 実

(56)【参考文献】

【文献】特開平０３－２６０８６２（ＪＰ，Ａ）

【文献】特開２００１－３３１８３９（ＪＰ，Ａ）

【文献】特開平０５－０１２４４９（ＪＰ，Ａ）

【文献】特開２００９－０４２９９７（ＪＰ，Ａ）

【文献】中国特許出願公開第１１０４４３２６７（ＣＮ，Ａ）

【文献】Lydia Fischer et al.，'Certainty-based Prototype Insertion/Deletion for Classification with Metric Adaptation'，ESANN 2015 proceedings, 23rd European Symposium on Artificial Neural Networks，[online]，2015年，ES2015-88: pp.7-12，[令和6年6月13日検索], インターネット:<URL: https://www.esann.org/sites/default/files/proceedings/legacy/es2015-88.pdf>

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｆ １８／００－１８／４０

Ｇ０６Ｎ ３／００－９９／００

(57)【特許請求の範囲】

【請求項1】

プロトタイプラベル、及び前記プロトタイプラベルに対応するプロトタイプ特徴量をそれぞれが含む複数のプロトタイプを記憶する記憶部と、
入力特徴量を示す入力特徴量データと、前記入力特徴量に関連付けられた教師ラベルを示す教師ラベルデータとを含む学習データを取得する学習データ取得部と、
前記入力特徴量が入力された学習モデルによって出力された予測ラベルを取得する予測ラベル取得部と、
前記入力特徴量と関連付けられた前記教師ラベルを、前記入力特徴量の入力に応じて前記学習モデルが前記予測ラベルとして出力する確度を示す確信度、前記教師ラベル、及び前記予測ラベルに基づいて、プロトタイプを前記記憶部に追加するか否かを決定するプロトタイプ追加部と、
を有することを特徴とする学習装置。

【請求項2】

プロトタイプ追加部は、前記予測ラベルが前記教師ラベルに一致せず、且つ、前記確信度が所定のしきい値より大きいときに、前記学習データをプロトタイプとして追加することを決定する、請求項１に記載の学習装置。

【請求項3】

追加される前記プロトタイプに含まれる前記プロトタイプラベルは、前記入力特徴量に関連付けられた教師ラベルである、請求項１又は２に記載の学習装置。

【請求項4】

前記複数のプロトタイプのそれぞれは、前記学習モデルによって出力された予測ラベルと前記入力特徴量に関連付けられた教師ラベルとが一致した頻度を少なくとも示す共起頻度情報を更に含み、
前記確信度は、前記共起頻度情報から演算される、請求項１に記載の学習装置。

【請求項5】

前記プロトタイプ追加部がプロトタイプを追加すると決定しなかったときに、少なくとも前記教師ラベルと前記予測ラベルとの間の一致度に基づいて、前記共起頻度情報を変更する共起頻度変更部と、
変更された前記共起頻度情報に基づいて、前記確信度を演算する確信度演算部と、
を更に有する、請求項４に記載の学習装置。

【請求項6】

前記確信度から、前記学習モデルが学習するときに使用される学習率を演算する学習率演算部と、
前記学習率に基づいて、前記プロトタイプ特徴量を更新するプロトタイプ特徴量更新部と、
を更に有する、請求項５に記載の学習装置。

【請求項7】

プロトタイプラベル、及び前記プロトタイプラベルに対応するプロトタイプ特徴量をそれぞれが含む複数のプロトタイプを記憶する記憶部を有する学習装置に学習モデルを学習させる学習方法であって、
入力特徴量を示す入力特徴量データと、前記入力特徴量に関連付けられた教師ラベルを示す教師ラベルデータとを含む学習データを取得し、
前記入力特徴量が入力された学習モデルによって出力された予測ラベルを取得し、
前記入力特徴量と関連付けられた前記教師ラベルを、前記入力特徴量の入力に応じて前記学習モデルが前記予測ラベルとして出力する確度を示す確信度、前記教師ラベル、及び前記予測ラベルに基づいて、プロトタイプを記憶部に追加するか否かを決定する、
ことを含むことを特徴とする学習方法。

【請求項8】

プロトタイプラベル、及び前記プロトタイプラベルに対応するプロトタイプ特徴量をそれぞれが含む複数のプロトタイプを記憶する記憶部を有する学習装置に学習モデルを学習させる制御プログラムであって、
入力特徴量を示す入力特徴量データと、前記入力特徴量に関連付けられた教師ラベルを示す教師ラベルデータとを含む学習データを取得し、
前記入力特徴量が入力された学習モデルによって出力された予測ラベルを取得し、
前記入力特徴量と関連付けられた前記教師ラベルを、前記入力特徴量の入力に応じて前記学習モデルが前記予測ラベルとして出力する確度を示す確信度、前記教師ラベル、及び前記予測ラベルに基づいて、プロトタイプを記憶部に追加するか否かを決定する、
処理を前記学習装置に実行させることを特徴とする学習プログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、学習装置、学習方法、及び学習プログラムに関する。

【背景技術】

【0002】

従来から、画像処理及び音声処理等において、学習ベクトル量子化（Learning Vector Quantization，ＬＶＱ）を使用して情報を符号化することが知られている。ＬＶＱは、入力ベクトルをラベルに割り当てるプロトタイプベクトルを学習する教師あり学習モデルであり、例えば、特許文献１に示すように、入力ベクトルに対するラベルを出力する分類器として使用可能なのでパターン認識等に活用される。

【0003】

ＬＶＱを使用した機械学習において、入力層、競合層及び出力層を有するＬＶＱニューラルネットワークが用いられる。入力層は、入力ベクトルを格納する。競合層は、各ラベルを代表する特徴ベクトルであるプロトタイプベクトルとラベルを有し、入力層から得られた入力ベクトルと最近傍にあるプロトタイプベクトルを出力する。出力層は、競合層から得られたプロトタイプベクトルのラベルを線形に出力する。

【0004】

非特許文献１に示すように、ＬＶＱニューラルネットワークによる学習アルゴリズムでは、例えば、以下の（１）～（４）の手順で実行される。
（１）学習データの入力特徴量に相当する入力ベクトルが入力層に入力される。
（２）競合層において、入力層から得られた入力ベクトルと最近傍にあるプロトタイプベクトルのラベルが「勝者」に決定される。
（３）入力ベクトルのラベルと「勝者」に決定されたプロトタイプベクトルのラベルとが同一であった場合は、プロトタイプベクトルを学習率に応じて入力ベクトルに近づける。入力ベクトルｘのラベルと「勝者」に決定されたプロトタイプベクトルのラベルとが異なる場合はプロトタイプベクトルを学習率に応じて入力ベクトルから遠ざける。
（４）上記（１）～（３）の処理を繰り返してプロトタイプベクトルを学習する。

【先行技術文献】

【特許文献】

【0005】

【文献】特開２００４－１１０１９６号公報

【非特許文献】

【0006】

【文献】T. Kohonen, “Improved versions of learning vector quantization,” in Proceedings of the IEEE International Joint Conference on Neural Networks, pp.545-550, 1990

【発明の概要】

【発明が解決しようとする課題】

【0007】

ＬＶＱ等のように学習率を使用してオンライン機械学習が可能な学習モデルでは、学習装置に記憶されるプロトタイプは、学習精度に応じてオペレータにより順次追加される。しかしながら、学習装置に記憶されるプロトタイプの数が少ない場合、学習精度が低くなる。一方、学習装置に記憶されるプロトタイプの数が多い場合、又は学習装置に多くのプロトタイプが追加される場合、学習装置が記憶可能な容量を超えると学習装置による学習が不能になるおそれがある。また、学習装置に記憶されるプロトタイプの数が多い場合、又は学習装置に多くのプロトタイプが追加される場合、学習装置による学習処理に要する時間が長くなり学習効率が低下するおそれがある。

【0008】

本発明は、このような課題を解決すべくなされたものであり、プロトタイプを自律して追加可能な学習装置、学習方法、及び学習プログラムを提供することを目的とする。

【課題を解決するための手段】

【0009】

本発明に係る学習装置は、プロトタイプラベル、及びプロトタイプラベルに対応するプロトタイプ特徴量をそれぞれが含む複数のプロトタイプを記憶する記憶部と、入力特徴量を示す入力特徴量データと、入力特徴量に関連付けられた教師ラベルを示す教師ラベルデータとを含む学習データを取得する学習データ取得部と、入力特徴量が入力された学習モデルによって出力された予測ラベルを取得する予測ラベル取得部と、入力特徴量と関連付けられた教師ラベルを、入力特徴量の入力に応じて学習モデルが予測ラベルとして出力する確度を示す確信度、教師ラベル、及び予測ラベルに基づいて、プロトタイプを記憶部に追加するか否かを決定するプロトタイプ追加部とを有する。

【0010】

さらに、本発明に係る学習装置では、プロトタイプ追加部は、予測ラベルが教師ラベルに一致せず、且つ、教師データの確信度が所定のしきい値より大きいときに、学習データをプロトタイプとして追加することを決定することが好ましい。

【0011】

さらに、本発明に係る学習装置では、追加されるプロトタイプに含まれるプロトタイプラベルは、入力特徴量に関連付けられた教師ラベルであることが好ましい。

【0012】

さらに、本発明に係る学習装置は、複数のプロトタイプのそれぞれは、入力特徴量が入力された学習モデルによって出力された予測ラベルと入力特徴量に関連付けられた教師ラベルとが一致した頻度を少なくとも示す共起頻度情報を更に含み、確信度は、共起頻度情報から演算されることが好ましい。

【0013】

さらに、本発明に係る学習装置は、プロトタイプ追加部がプロトタイプを追加しなかったときに、少なくとも教師ラベルと予測ラベルとの間の一致度に基づいて、共起頻度情報を変更する共起頻度変更部と、変更された共起頻度情報に基づいて、確信度を演算する確信度演算部とを更に有することが好ましい。

【0014】

さらに、本発明に係る学習装置は、確信度から、学習モデルが学習するときに使用される学習率を演算する学習率演算部と、学習率に基づいて、プロトタイプ特徴量を更新するプロトタイプ特徴量更新部とを更に有することが好ましい。

【0015】

また、本発明に係る学習方法は、プロトタイプラベル、及びプロトタイプラベルに対応するプロトタイプ特徴量をそれぞれが含む複数のプロトタイプを記憶する記憶部を有する学習装置に学習モデルを学習させる学習方法であって、入力特徴量を示す入力特徴量データと、入力特徴量に関連付けられた教師ラベルを示す教師ラベルデータとを含む学習データを取得し、学習モデルによって出力された予測ラベルを取得し、入力特徴量と関連付けられた教師ラベルを、入力特徴量の入力に応じて学習モデルが予測ラベルとして出力する確度を示す確信度及び教師ラベルと予測ラベルとが一致したか否かに基づいて、プロトタイプを追加するか否かを決定する。

【0016】

本発明に係る制御プログラムは、プロトタイプラベル、及びプロトタイプラベルに対応するプロトタイプ特徴量をそれぞれが含む複数のプロトタイプを記憶する記憶部を有する学習装置に学習モデルを学習させる制御プログラムであって、入力特徴量を示す入力特徴量データと、入力特徴量に関連付けられた教師ラベルを示す教師ラベルデータとを含む学習データを取得し、学習モデルによって出力された予測ラベルを取得し、入力特徴量と関連付けられた教師ラベルを、入力特徴量の入力に応じて学習モデルが予測ラベルとして出力する確度を示す確信度及び教師ラベルと予測ラベルとが一致したか否かに基づいて、プロトタイプを追加するか否かを決定する処理を学習装置に実行させる。

【発明の効果】

【0017】

本発明に係る学習装置、学習方法、及び学習プログラムは、プロトタイプを自律して追加できる。

【図面の簡単な説明】

【0018】

【図1】実施形態に係る学習装置の概要を説明するための説明図である。

【図2】実施形態に係る学習装置のブロック図である。

【図3】図２に示す学習モデルの模式図である。

【図4】図２に示すプロトタイプテーブルを示す図である。

【図5】図２に示す確信度テーブルを示す図である。

【図6】図２に示す学習率テーブルを示す図である。

【図7】図２に示す学習装置による学習処理を示すフローチャートである。

【図8】図７に示すＳ１０６の処理のより詳細な処理を示すフローチャートである。

【図9】実施形態に係る学習装置の適用例を説明するための図（その１）であり、（ａ）は使用したデータを示す図であり、（ｂ）はしきい値が０．５の場合の第１実施例であり、（ｃ）はしきい値が０．８の場合の第２実施例である。

【図10】実施形態に係る学習装置の適用例を説明するための図（その２）であり、（ａ）は使用したデータを示す図であり、（ｂ）はしきい値が０．５の場合の第１実施例であり、（ｃ）はしきい値が０．８の場合の第２実施例である。

【発明を実施するための形態】

【0019】

以下、図面を参照しつつ、本発明の様々な実施形態について説明する。ただし、本発明の技術的範囲はそれらの実施形態に限定されず、特許請求の範囲に記載された発明とその均等物に及ぶ点に留意されたい。

【0020】

（実施形態に係る学習装置の概要）
図１は、実施形態に係る学習装置の概要を説明するための説明図である。実施形態に係る学習装置は、例えば、パーソナル・コンピュータ（Personal Computer、ＰＣ）である。実施形態に係る学習装置は、サーバ装置、タブレット端末又はタブレットＰＣ等の電子計算機であってもよい。

【0021】

学習装置は、入力特徴量を示す入力特徴量データと、入力特徴量と関連付けられた教師ラベルを示す教師ラベルデータとを含む学習データを使用して、記憶部に記憶されるプロトタイプ特徴量を更新しながら学習モデルを学習させる学習処理を実行する。学習装置は、入力特徴量と関連付けられた教師ラベルを、入力特徴量の入力に応じて学習モデルが予測ラベルとして出力する確度を示す確信度、教師ラベル、及び予測ラベルに基づいて、新たなプロトタイプを記憶部に追加するか否かを決定する。より詳細には、学習装置は、教師ラベルの確信度が所定のしきい値より大きく、且つ、予測ラベルが教師ラベルに一致しなかったときに、学習データを新たなプロトタイプとして記憶部に追加することを決定する。学習装置は、確信度及び予測ラベルに基づいて新たなプロトタイプを追加するか否かを決定することで、プロトタイプを自律して追加することができる。

【0022】

以下、学習装置が、ＬＶＱニューラルネットワークを学習モデルとして使用する学習アルゴリズムを例に、プロトタイプを追加する処理の概略について説明する。

【0023】

学習装置が有する記憶部は、「りんご」、「みかん」、「ぶどう」及び「なし」のそれぞれに対応する４つのプロトタイプ及び確信度Ｒ_iを記憶する。４つのプロトタイプのそれぞれは、プロトタイプラベルＬ（ｍ_i）と、プロトタイプラベルに対応するプロトタイプベクトルｍ_iとを含む。プロトタイプベクトルｍ_iは、プロトタイプ特徴量の一例である。図１に示す例では、「りんご」のプロトタイプに含まれるプロトタイプベクトルｍ_iに対応する画像は、「りんご」として一般的な皮の色が赤色である「赤りんご」の画像である。

【0024】

確信度Ｒ_iは、入力ベクトルｘと関連付けられた教師ラベルＬ（ｘ）を、入力ベクトルｘの入力に応じて学習モデルが予測ラベルＬ（ｍ_j）として出力する確度を示す数値である。「りんご」の確信度Ｒ_iは、一例では「０．５」であり、好ましくは「０．８」である所定のしきい値Ｒ_THよりも大きい値になっている。

【0025】

まず、学習装置は、入力ベクトルｘを示す入力ベクトルデータと、教師ラベルＬ（ｘ）を示す教師ラベルデータとを含む学習データを取得する。次いで、学習装置は、学習モデルを使用して、予測ラベルＬ（ｍ_j）を取得する。学習モデルは、入力ベクトルｘが入力されることに応じて予測ラベルＬ（ｍ_j）を出力する。

【0026】

図１に示す例では、りんごを示す教師ラベルＬ（ｘ）に関連付けられた入力ベクトルｘである画像が学習モデルに入力される。学習モデルに入力される入力ベクトルｘに対応する画像は、「りんご」のプロトタイプに含まれるプロトタイプベクトルｍ_iに対応する「赤りんご」の画像とは異なる皮の色が青色である「青りんご」の画像である。

【0027】

学習モデルは、「りんご」のプロトタイプに含まれるプロトタイプベクトルｍ_iに対応する画像とは異なる「青りんご」の画像を示す入力ベクトルｘが入力され、予測ラベルＬ（ｍ_j）を教師ラベルＬ（ｘ）に対応する「りんご」ではなく「なし」として出力する。

【0028】

次いで、学習装置は、確信度Ｒ_iがしきい値Ｒ_THより大きく、且つ、予測ラベルＬ（ｍ_j）が教師ラベルＬ（ｘ）に一致しないと判定し、プロトタイプを追加する。追加されるプロトタイプのプロトタイプラベルは「りんご」を示す教師ラベルＬ（ｘ）であり、プロトタイプベクトルは「青りんご」の画像を示す入力ベクトルｘである。

【0029】

実施形態に係る学習装置は、プロトタイプを自律して追加するので、既存の学習装置と比べて長期間に亘って逐次的に継続して学習処理を実行することができる。

【0030】

また、実施形態に係る学習装置は、確信度Ｒ_iがしきい値Ｒ_THより大きく、且つ、予測ラベルＬ（ｍ_j）が教師ラベルＬ（ｘ）に一致しないと判定したときに、学習モデルに学習させないので、プロトタイプベクトルを誤って学習することはない。例えば、「赤りんご」の画像を示すプロトタイプベクトルｍ_iに「青りんご」の画像を示すベクトルを教師ベクトルｘとして学習させた場合、「りんご」のプロトタイプベクトルｍ_iは、青色と赤色の中間の黄色のベクトルに誤って学習される。実施形態に係る学習装置は、確信度Ｒ_iがしきい値Ｒ_THより大きく、且つ、予測ラベルＬ（ｍ_j）が教師ラベルＬ（ｘ）に一致しないときに、学習モデルに学習させないことで、学習モデルが誤って学習することを防止できる。

【0031】

実施形態に係る学習装置は、確信度Ｒ_iがしきい値Ｒ_THより大きく、且つ、予測ラベルＬ（ｍ_j）が教師ラベルＬ（ｘ）に一致しないときに、新たなプロトタイプを追加することで、同一のラベルに関連づけられた複数のプロトタイプを有することができる。例えば、「赤りんご」及び「青りんご」の画像を示すプロトタイプベクトルｍ_iを有することで、学習モデルは、「りんご」は、皮の色が赤色である「赤りんご」だけではなく、皮の色が青色の「青りんご」があるという追加の知識を取得することができる。

【0032】

（実施形態に係る学習装置の構成及び機能）
図２は、学習装置１のブロック図である。

【0033】

学習装置１は、通信部１１と、記憶部１２と、入力部１３と、出力部１４と、処理部２０とを有する。学習装置１は、入力特徴量を示す入力特徴量データと、入力特徴量と関連付けられた教師ラベルを示す教師ラベルデータとを含む学習データを使用して、記憶部に記憶されるプロトタイプ特徴量を更新することで学習モデルを学習させる学習処理を実行する。通信部１１、記憶部１２、入力部１３、出力部１４及び処理部２０は、バス１５を介して通信可能に接続される。

【0034】

通信部１１は、Bluetooth（登録商標）の通信方式に従った近距離無線通信を行い、外部装置との間で端末間無線通信を確立させて、直接無線通信を行う。近距離無線通信の通信方式は、Bluetooth（登録商標）に限定されず、例えば、Bluetooth（登録商標） Low Energy等でもよい。また、通信部１１は、近距離無線通信を行うためのものに限定されず、例えば、赤外線通信等による各種信号を受信するものでもよい。この場合、通信部１１は、外部装置から受信した所定の電波を特定の信号に変調してデータを生成してもよい。また、通信部１１は、ＵＳＢ（Universal Serial Bus）等と接続するためのインタフェース、有線又は無線のＬＡＮ（Local Area Network）の通信インターフェース等を含む、通信インターフェースでもよい。

【0035】

記憶部１２は、例えば、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）等の半導体メモリ装置、磁気テープ装置、磁気ディスク装置、又は光ディスク装置のうちの少なくとも一つを備える。記憶部１２は、処理部２０での処理に用いられるオペレーティングシステムプログラム、ドライバプログラム、制御プログラム及びデータ等を記憶する。記憶部１２に記憶されるドライバプログラムは、通信部１１を制御する通信デバイスドライバプログラム、入力部１３を制御する入力デバイスドライバプログラム、及び、出力部１４を制御する出力デバイスドライバプログラム等である。記憶部１２に記憶される制御プログラムは、後述する各種処理を実行するためのアプリケーションプログラム等である。記憶部１２に記憶される各種プログラムは、例えばＣＤ－ＲＯＭ、ＤＶＤ－ＲＯＭ等のコンピュータ読み取り可能な可搬型記録媒体から、公知のセットアッププログラム等を用いて記憶部１２にインストールされてもよい。

【0036】

記憶部１２は、例えば学習モデル１６、複数のプロトタイプを示すプロトタイプテーブル１７、確信度テーブル１８、及び学習率テーブル１９を記憶する。また、記憶部１２は、所定の処理に係るデータを一時的に記憶してもよい。

【0037】

図３は、学習モデル１６の模式図である。

【0038】

学習モデル１６は、入力層、競合層及び出力層を有し、入力特徴量の一例である入力ベクトルｘが入力されることに応じて予測ラベルを出力する。入力層、競合層及び出力層は、少なくとも１つの人工ニューロン（以下、単に「ニューロン」と称する）が設定される。

【0039】

入力層は、学習データに含まれる入力特徴量データに対応する入力ベクトルｘが入力される。入力特徴量データは、所定のデータ配列にしたがった複数のデータを含むデータ群である。入力特徴量データが総ピクセル数ｎの画像データであるとき、入力ベクトルｘ｛ｘ₁，ｘ₂，・・・ｘ_n｝は、当該画像データの各ピクセルの色の値等を示すｘ₁，ｘ₂，・・・ｘ_nである。入力ベクトルｘは、どのようなベクトルでもよい。例えば、入力特徴量データが花に関する４種類の属性パラメータ値である場合、入力ベクトルｘ｛ｘ₁，ｘ₂，ｘ₃，ｘ₄｝は、花びらの長さの値ｘ₁、花びらの幅の値ｘ₂、萼片の長さの値ｘ₃、及び萼片の幅の値ｘ₄である。

【0040】

競合層は、プロトタイプベクトルに対応するニューロンを含む。競合層に含まれるニューロンの数は、予め設定された複数のラベルの数（ｋ）以上である。例えば、複数のラベルのうちのｉ番目のラベルのプロトタイプベクトルは、ｍ_i｛μ₁，μ₂，・・・μ_n｝である。競合層のｋ個のニューロンのそれぞれにおいて、入力層から入力された入力ベクトルｘ｛ｘ₁，ｘ₂，・・・ｘ_n｝とプロトタイプベクトルｍ_i｛μ₁，μ₂，・・・μ_n｝との間の距離が算出される。なお、プロトタイプベクトルｍ_iの次元数は、入力ベクトルｘの次元数と同一であり、プロトタイプベクトルｍ_iにおけるμ₁，μ₂，・・・μ_nの初期値は、どのような値でもよい。

【0041】

出力層は、競合層の各ニューロンから出力された距離の中で最も短い距離に対応するプロトタイプラベルを、予測ラベルＬ（ｍ_j）として出力する。

【0042】

図４は、プロトタイプテーブル１７を示す図である。

【0043】

プロトタイプテーブル１７は、プロトタイプラベルＬ（ｍ_i）、プロトタイプベクトルｍ_i、及び共起頻度情報（ａ_i、ｂ_i、ｃ_i及びｄ_i）のそれぞれをプロトタイプ毎に識別子に関連付けて記憶する。識別子「１」に関連付けられるプロトタイプは「りんご」に対応し、識別子「２」に関連付けられるプロトタイプは「みかん」に対応する。また、識別子「３」に関連付けられるプロトタイプは「ぶどう」に対応し、識別子「４」に関連付けられるプロトタイプは「なし」に対応する。なお、プロトタイプテーブル１７は、４つのプロトタイプを記憶するが、プロトタイプテーブルに記憶されるプロトタイプの数は、複数であればよい。また、プロトタイプが記憶部１２に記憶される態様は、プロトタイプテーブル１７に限定されない。

【0044】

図５は、確信度テーブル１８を示す図である。

【0045】

確信度テーブル１８は、確信度Ｒ_iをプロトタイプ毎に、プロトタイプテーブル１７の識別子と同一の識別子に関連付けて記憶する。識別子「１」に関連付けられる確信度Ｒ₁は「りんご」に対応する学習率であり、識別子「２」に関連付けられる確信度Ｒ₂は「みかん」に対応する学習率である。また、識別子「３」に関連付けられる確信度Ｒ₃は「ぶどう」に対応する学習率であり、識別子「４」に関連付けられる確信度Ｒ₄は「なし」に対応する学習率である。なお、確信度テーブル１８は、４つの確信度Ｒ_iを記憶するが、確信度テーブル１８に記憶される確信度Ｒ_iの数は、プロトタイプテーブル１７に記憶されるプロトタイプの数と同一であればよい。

【0046】

図６は、学習率テーブル１９を示す図である。

【0047】

学習率テーブル１９は、学習率α_iをプロトタイプ毎に、プロトタイプテーブル１７及び確信度テーブル１８の識別子と同一の識別子に関連付けて記憶する。識別子「１」に関連付けられる学習率α₁は「りんご」に対応する学習率であり、識別子「２」に関連付けられる学習率α₂は「みかん」に対応する学習率である。また、識別子「３」に関連付けられる学習率α₃は「ぶどう」に対応する学習率であり、識別子「４」に関連付けられる学習率α₄は「なし」に対応する学習率である。なお、学習率テーブル１９は、４つの学習率α_iを記憶するが、学習率テーブル１９に記憶される学習率α_iの数は、プロトタイプテーブル１７に記憶されるプロトタイプの数と同一であればよい。

【0048】

入力部１３は、例えば、キーボード、マウス、又はタッチパネル等のポインティングデバイスである。ユーザは、入力部１３を用いて、文字、数字及び記号、若しくは、出力部１４の表示画面上の位置等を入力することができる。入力部１３は、ユーザにより操作されると、その操作に対応する信号を発生する。そして、発生した信号は、ユーザの指示として処理部２０に供給される。

【0049】

出力部１４は、液晶ディスプレイである。なお、出力部１４は、有機ＥＬ（Electro-Luminescence）ディスプレイ等でもよい。出力部１４は、処理部２０から供給された映像データに応じた映像や、画像データに応じた画像等を表示する。

【0050】

処理部２０は、一又は複数個のプロセッサ及びその周辺回路を備える。処理部２０は、学習装置１の全体的な動作を統括的に制御するものであり、例えば、ＣＰＵ（Central Processing Unit）である。処理部２０は、記憶部１２に記憶されているプログラム及びユーザによる入力部１３の操作に応じて入力された各種指示等に基づいて、各種情報処理を適切な手順で実行し、且つ、通信部１１及び出力部１４の動作を制御する。処理部２０は、記憶部１２に記憶されているオペレーティングシステムプログラム、ドライバプログラム及び制御プログラムに基づいて各種情報処理を実行する。また、処理部２０は、複数のプログラムを並列に実行することができる。

【0051】

処理部２０は、学習データ取得部２１と、予測ラベル取得部２２と、プロトタイプ追加部２３と、共起頻度変更部２４と、確信度演算部２５と、学習率演算部２６と、プロトタイプ特徴量更新部２７とを有する。これらの各部は、処理部２０が備えるプロセッサで実行されるプログラムにより実現される機能モジュールである。あるいは、これらの各部は、ファームウェアとして学習装置１に実装されてもよい。

【0052】

（学習装置１による学習処理）
図７は、学習装置１による学習処理を示すフローチャートである。図７に示す学習処理は、予め記憶部１２に記憶されている制御プログラムに基づいて、主に処理部２０により、学習装置１の各要素と協働して実行される。

【0053】

まず、学習データ取得部２１は、入力特徴量を示す入力特徴量データと、入力特徴量と関連付けられた教師ラベルを示す教師ラベルデータとを含む学習データを取得する（Ｓ１０１）。具体的には、学習データ取得部２１は、入力ベクトルｘを示す入力特徴量データと、入力ベクトルｘと関連付けられた教師ラベルＬ（ｘ）を示す教師ラベルデータとを含む学習データを取得する。

【0054】

次いで、予測ラベル取得部２２は、学習モデル１６を使用して、予測ラベルＬ（ｍ_j）を取得する（Ｓ１０２）。予測ラベル取得部２２は、学習モデル１６の入力層に入力ベクトルｘを入力して、学習モデル１６から出力されるラベルを予測ラベルＬ（ｍ_j）として取得する。

【0055】

次いで、プロトタイプ追加部２３は、Ｓ１０２の処理で予測された予測ラベルＬ（ｍ_j）が、Ｓ１０１で取得された教師ラベルＬ（ｘ）に一致するか否かを判定する（Ｓ１０３）。

【0056】

プロトタイプ追加部２３は、予測ラベルＬ（ｍ_j）が教師ラベルＬ（ｘ）に一致しないと判定する（Ｓ１０３－ＮＯ）と、教師ラベルＬ（ｘ）の確信度Ｒ_iが所定のしきい値Ｒ_THより大きいか否かを判定する（Ｓ１０４）。プロトタイプ追加部２３は、確信度Ｒ_i、教師ラベルＬ（ｍ_j）、及び予測ラベルＬ（ｘ）に基づいて、プロトタイプを記憶部１２に追加するか否かを決定する。

【0057】

プロトタイプ追加部２３は、確信度Ｒ_iが所定のしきい値Ｒ_THより大きいと判定する（Ｓ１０４－ＹＥＳ）と、新たなプロトタイプを追加する（Ｓ１０５）。追加するプロトタイプのプロトタイプベクトルは、Ｓ１０１の処理で取得された入力特徴量データに対応する入力ベクトルｘである。また、追加するプロトタイプのプロトタイプラベルは、Ｓ１０１の処理で取得された教師ラベルデータに対応する教師ラベルＬ（ｘ）である。Ｓ１０５の処理が終了すると、Ｓ１０６～Ｓ１１０の処理を実行することなく、学習装置１による学習処理は終了する。

【0058】

Ｓ１０３の処理で予測ラベルＬ（ｍ_j）が教師ラベルＬ（ｘ）に一致すると判定される（Ｓ１０３－ＹＥＳ）、又は確信度Ｒ_iが所定のしきい値Ｒ_TH以下であると判定する（Ｓ１０４－ＮＯ）と、処理はＳ１０６に進む。

【0059】

次いで、共起頻度変更部２４は、教師ラベルＬ（ｘ）、予測ラベルＬ（ｍ_j）及びプロトタイプラベルＬ（ｍ_i）の間の一致度に基づいて、共起頻度情報を変更する（Ｓ１０６）。共起頻度変更部２４は、教師ラベルＬ（ｘ）、予測ラベルＬ（ｍ_j）及びプロトタイプラベルＬ（ｍ_i）が一致するか否かを示す情報を共起頻度情報に反映するように共起頻度情報を変更する。

【0060】

図８は、図７に示すＳ１０６の処理のより詳細な処理を示すフローチャートである。

【0061】

まず、共起頻度変更部２４は、識別子ｉに関連付けられたプロトタイプラベルＬ（ｍ_i）をプロトタイプテーブル１７から取得する（Ｓ２０１）。次いで、共起頻度変更部２４は、Ｓ２０１で取得したプロトタイプラベルＬ（ｍ_i）とＳ１０２の処理で取得された予測ラベルＬ（ｍ_j）とが一致するか否かを判定する（Ｓ２０２）。

【0062】

共起頻度変更部２４は、プロトタイプラベルＬ（ｍ_i）と予測ラベルＬ（ｍ_j）とが一致すると判定する（Ｓ２０２－ＹＥＳ）と、予測ラベルＬ（ｍ_j）とＳ１０１で取得された教師ラベルＬ（ｘ）とが一致するか否かを判定する（Ｓ２０３）。

【0063】

共起頻度変更部２４は、予測ラベルＬ（ｍ_j）と教師ラベルＬ（ｘ）とが一致すると判定する（Ｓ２０３－ＹＥＳ）と第１共起頻度ａ_iに数値「１」を加算する（Ｓ２０４）。共起頻度変更部２４は、予測ラベルＬ（ｍ_j）と教師ラベルＬ（ｘ）とが一致しないと判定する（Ｓ２０３－ＮＯ）と第２共起頻度ｂ_iに数値「１」を加算する（Ｓ２０５）。

【0064】

共起頻度変更部２４は、プロトタイプラベルＬ（ｍ_i）と予測ラベルＬ（ｍ_j）とが一致しないと判定する（Ｓ２０２－ＮＯ）と、予測ラベルＬ（ｍ_j）とＳ１０１で取得した教師ラベルＬ（ｘ）とが一致するか否かを判定する（Ｓ２０６）。

【0065】

共起頻度変更部２４は、予測ラベルＬ（ｍ_j）と教師ラベルＬ（ｘ）とが一致すると判定する（Ｓ２０６－ＹＥＳ）と第３共起頻度ｃ_iに数値「１」を加算する（Ｓ２０７）。共起頻度変更部２４は、予測ラベルＬ（ｍ_j）と教師ラベルＬ（ｘ）とが一致しないと判定する（Ｓ２０６－ＮＯ）と第４共起頻度ｄ_iに数値「１」を加算する（Ｓ２０８）。

【0066】

Ｓ１０６の処理が終了すると、確信度演算部２５は、Ｓ１０６の変更された共起頻度情報に基づいて、確信度Ｒ_iを演算する（Ｓ１０７）。確信度演算部２５は、２つの事象の因果関係を示す式である因果推論モデルを使用して確信度Ｒ_iを演算する。具体的には、確信度演算部２５は、以下の式（１）を使用して、プロトタイプテーブル１７に記憶される共起頻度毎に確信度Ｒ_iを演算する。

【0067】

【数1】

【0068】

次いで、学習率演算部２６は、Ｓ１０７の処理で演算された確信度Ｒ_iから学習率α_iを演算し（Ｓ１０８）、演算した学習率α_iを学習率テーブル１９に記憶する。具体的には、学習率演算部２６は、以下の式（２）を使用して、プロトタイプテーブル１７に記憶される共起頻度情報毎に学習率α_iを演算する。

【0069】

【数2】

【0070】

Ｓ１０７の処理が終了すると、学習率演算部２６は、学習率テーブル１９において識別子に関連付けられて記憶された全ての学習率α_iを更新したか否かを判定する（Ｓ１０９）。学習率演算部２６によって学習率テーブル１９において識別子に関連付けられて記憶された全ての学習率α_iを更新したと判定される（Ｓ１０９－ＹＥＳ）まで、Ｓ１０６～Ｓ１０９の処理が繰り返される。Ｓ１０６～Ｓ１０９の処理が繰り返されることで、「りんご」、「みかん」、「ぶどう」及び「なし」のそれぞれに対応する学習率α₁～α₄が順次更新される。

【0071】

学習率テーブル１９の全ての学習率α_iを更新したと判定される（Ｓ１０９－ＹＥＳ）と、プロトタイプ特徴量更新部２７は、Ｓ１０８の処理で更新された学習率に基づいて、プロトタイプテーブル１７に記憶されたプロトタイプ特徴量を更新する（Ｓ１１０）。具体的には、プロトタイプ特徴量更新部２７は、プロトタイプテーブル１７に記憶されるプロトタイプベクトルｍ_iを、Ｓ１０７の処理で更新された学習率α_iに基づいて、式（３）を使用して更新する。

【0072】

【数3】

【0073】

プロトタイプ特徴量更新部２７がプロトタイプ特徴量を更新することで、学習データを使用した学習モデル１６の学習処理は終了する。

【0074】

（実施形態に係る学習装置の作用効果）
学習装置１は、プロトタイプを自律して追加するので、既存の学習装置と比べて長期間に亘って逐次的に継続して学習処理を実行することができる。

【0075】

また、学習装置１は、確信度Ｒ_iがしきい値Ｒ_THより大きく、且つ、予測ラベルＬ（ｍ_j）が教師ラベルＬ（ｘ）に一致しないと判定したときに、学習モデルに学習させないので、プロトタイプベクトルを誤って学習することはない。

【0076】

また、学習装置１は、確信度Ｒ_iがしきい値Ｒ_THより大きく、且つ、予測ラベルＬ（ｍ_j）が教師ラベルＬ（ｘ）に一致しないときに、新たなプロトタイプを追加することで、同一のラベルに関連づけられた複数のプロトタイプを有することができる。

【0077】

また、学習装置１は、確信度Ｒ_iを使用して自律的に学習率α_iを更新するので、学習精度を向上させるために適切な学習率を設定するために学習処理を繰り返すことなく、学習効率が向上する。

【0078】

また、学習装置１では、学習率α_iは、学習が進展して確信度Ｒ_iが上昇するに伴って低下するので、確信度Ｒ_iが略１００％になると学習率α_iは略０％になり、学習装置１は、学習を停止させることなく、確信度Ｒ_iが高い予測ラベルＬ（ｍ_j）を出力可能になる。

【0079】

また、学習装置１では、１つの学習データに基づいて、全てのプロトタイプに対応する学習率α_iが更新されるので、学習装置１は、より少ない学習データで確信度Ｒ_iが高い予測ラベルＬ（ｍ_j）を出力可能になる。

【0080】

（実施形態に係る学習装置の変形例）
学習装置１は、ＬＶＱニューラルネットワークを学習モデルとして使用するが、実施形態に係る学習装置は、学習率を使用してオンライン機械学習が可能な学習モデルを学習モデルとして使用してもよい。また、学習装置１は、学習モデル１６を記憶部１２に記憶するが、実施形態に係る学習装置は、使用する学習モデルを記憶部に記憶せずにインターネット及びＬＡＮ等の通信網を介して通信可能に接続されたサーバに記憶された学習モデルを使用してもよい。

【0081】

また、学習装置１は、式（１）を使用して確信度Ｒ_iを演算するが、実施形態に係る学習装置は、少なくとも教師ラベルＬ（ｘ）と予測ラベルＬ（ｍ_j）との間の一致度に基づいて、前記共起頻度を変更すればよい。

【0082】

例えば、確信度Ｒ_iは、以下の式（４）を使用して演算されてもよい。

【0083】

【数4】

【0084】

式（４）を使用して確信度Ｒ_iを演算するとき、第１共起頻度ａ_iは予測ラベルが前記教師ラベルに一致した回数を示し、第２共起頻度ｂ_iは予測ラベルが前記教師ラベルに一致した回数を示してもよい。

【0085】

また、確信度Ｒ_iは、以下の式（５）～（７）の何れかを使用して演算されてもよい。

【0086】

【数5】

【0087】

【数6】

【0088】

【数7】

【0089】

また、学習装置１は、式（２）を使用して学習率α_iを演算するが、実施形態に係る学習装置は、確信度Ｒ_iが上昇するに従って学習率α_iが低下するように前記学習率を演算すればよい。例えば、学習装置１は、第１共起頻度と第２共起頻度の合計の頻度における第１共起頻度の比率が増加するに従って学習率が低下するように、学習率を更新してもよい。また、第１共起頻度、第２共起頻度及び第３共起頻度の合計の頻度における第１共起頻度の比率が増加するに従って学習率が低下するように、学習率を更新してもよい。さらに、第１共起頻度、第２共起頻度、第３共起頻度及び第４共起頻度の合計の頻度における第１共起頻度及び前記第４共起頻度の合計の比率が増加するに従って学習率が低下するように、学習率を更新してもよい。

【0090】

なお、学習装置１では、第１共起頻度ａ_i、第２共起頻度ｂ_i、第３共起頻度ｃ_i及び第４共起頻度ｄ_iは回数として規定されたが、実施形態に係る学習装置では、それぞれの事象が発生する頻度を示すパラメータと規定されればよい。

【0091】

（実施形態に係る学習装置の適用例）
図９及び１０は、実施形態に係る学習装置の適用例を説明するための図である。図９は第１適用例を説明するための図であり、図１０は第２適用例を説明するための図である。図９及び１０において、（ａ）は使用したデータを示す図であり、（ｂ）はしきい値Ｒ_THが０．５の場合の第１実施例であり、（ｃ）はしきい値Ｒ_THが０．８の場合の第２実施例である。図９及び１０において、横軸は第１の数値ｘを示し、縦軸は第２の数値ｙを示す。

【0092】

図９に示す第１適用例は、ドーナツ状にデータが配置された第１群１０１と、第１群１０１の周囲を囲むように配置された第２群１０２と、正弦状に配置された第３群１０３と、円形状に配置された第４群１０４及び第５群１０５とを有する。図９（ｂ）及び９（ｃ）において、第１群１０１に対応するプロトタイプベクトルは丸印で示され、第２群１０２に対応するプロトタイプベクトルは三角印で示され、第３群１０３に対応するプロトタイプベクトルは四角印で示される。また、第４群１０４に対応するプロトタイプベクトルはひし形印で示され、第５群１０５に対応するプロトタイプベクトルはバツ印で示される。

【0093】

しきい値Ｒ_THが０．５である第１実施例において、第１群１０１に対応する第１プロトタイプベクトル１１１は、第１群１０１の配置に対応する領域に略ドーナツ状に配置される。また、第２群１０２に対応する第２プロトタイプベクトル１１２は、第２群１０２の配置に対応する領域に第１プロトタイプベクトル１１１の周囲を囲むように配置される。第３群１０３に対応する第３プロトタイプベクトル１１３は、ｘの座標が０．０～０．６でありｙの座標が０．４～０．９である領域に正弦状に配置される。また、第３群１０３に対応する第３プロトタイプベクトル１１３は、ｘの座標が０．６～１．０でありｙの座標が０．０～０．４である領域に一点のみ配置される。

【0094】

第４群１０４に対応する第４プロトタイプベクトル１１４は、第４群１０４に対応する領域に第３プロトタイプベクトル１１３との境界を明確にするように配置される。第５群１０５に対応する第５プロトタイプベクトル１１５は、第５群１０５に対応する領域に１点のみ配置される。

【0095】

しきい値Ｒ_THが０．８である第２実施例において、第１群１０１に対応する第１プロトタイプベクトル１２１は、第１群１０１の配置に対応する領域に１点のみ配置される。また、第２群１０２に対応する第２プロトタイプベクトル１２２は、第２群１０２の配置に対応する領域に第１プロトタイプベクトル１２１の周囲を囲むように配置される。第３群１０３に対応する第３プロトタイプベクトル１２３は、ｘの座標が０．０～０．６でありｙの座標が０．４～０．９である領域に正弦状に配置される。また、第３群１０３に対応する第３プロトタイプベクトル１２３は、ｘの座標が０．６～１．０でありｙの座標が０．０～０．４である領域に一点のみ配置される。

【0096】

第４群１０４に対応する第４プロトタイプベクトル１２４は、第４群１０４に対応する領域に第３プロトタイプベクトル１２３との境界を明確にするように配置される。第５群１０５に対応する第５プロトタイプベクトル１２５は、第５群１０５に対応する領域に１点のみ配置される。

【0097】

図１０に示す第２適用例は、第１群２０１、第２群２０２及び第３群２０３のそれぞれが円形状の領域に配置される。第１群２０１は、ｘの座標が０．２～０．８でありｙの座標が０．４～０．９である領域に配置される。第２群２０２は、ｘの座標が０．０～０．５でありｙの座標が０．１～０．６である領域に配置される。第３群２０３は、ｘの座標が０．５～１．０でありｙの座標が０．１～０．６である領域に配置される。

【0098】

しきい値Ｒ_THが０．５である第１適用例において、第１群２０１に対応する第１プロトタイプベクトル２１１は、第１群２０１に対応する領域に配置される。第１プロトタイプベクトル２１１は、第２群２０２に対応する第２プロトタイプベクトル２１２及び第３群２０３に対応する第３プロトタイプベクトル２１３との境界を形成するように配置される。第２群２０２に対応する第２プロトタイプベクトル２１２は、第２群２０２に対応する領域にする第１プロトタイプベクトル２１１との境界を形成するように配置される。第３群２０３に対応する第３プロトタイプベクトル２１３は、第３群２０３に対応する領域にする第１プロトタイプベクトル２１１との境界を形成するように配置される。

【0099】

しきい値Ｒ_THが０．８である第２適用例において、第１群２０１に対応する第１プロトタイプベクトル２２１は、第１群２０１の配置に対応する領域に３点配置される。第２群２０２に対応する第２プロトタイプベクトル２２２は、第２群２０２の配置に対応する領域に１点のみ配置される。第３群２０３に対応する第３プロトタイプベクトル２２３は、第３群２０３の配置に対応する領域に１点のみ配置される。

【0100】

しきい値Ｒ_THが０．８である第２適用例は、しきい値Ｒ_THが０．５である第１適用例よりもプロトタイプベクトルの数が少ないため、学習精度が第１適用例よりも低いが、より少ないプロトタイプベクトルの数で学習モデルを形成できる。

【0101】

また、実施形態に係る学習装置は、ガラスおよび電離層のレーダの分類、並びに乳がんの診断等の種々のタスクに適用可能である。ガラスの分類は、犯罪捜査に活用可能であり、Ｒ_TH＝0.5とした際の学習装置は、ガラスに含まれる９の成分を特徴量として持つ６種類にラベリングされる２１４のガラスを２０個程度のプロトタイプにより適切に分類することが可能である。

【0102】

電離層のレーダの分類は、電離層内の自由電子の分布の調査に活用可能であり、Ｒ_TH＝0.5とした際の学習装置は、システム上で確認できた３４のパルスを特徴量として持つ２種類にラベリングされる３５１のレーダの品質を５０個程度のプロトタイプにより適切に分類することが可能である。乳がんの診断は、医療補助に活用可能であり、Ｒ_TH＝0.5とした際の学習装置は、各細胞核の半径、面積等を含む３０の情報を特徴量として持つ２種類にラベリングされる５６９の乳房腫瘤の穿刺吸引のデジタル画像を７０個程度のプロトタイプにより適切に分類することが可能である。

【0103】

実施形態に係る学習装置は、予測ラベルが教師ラベルに一致せず且つ教師ラベルの確信度が大きいときに学習データを新たなプロトタイプとして追加することで、同一のラベルを有し且つ特徴量が異なる複数のプロトタイプを、必要十分な量で記憶できる。

【符号の説明】

【0104】

１ 学習装置
２１ 学習データ取得部
２２ 予測ラベル取得部
２３ プロトタイプ追加部
２４ 共起頻度変更部
２５ 確信度演算部
２６ 学習率演算部
２７ プロトタイプ特徴量更新部
１６ 学習モデル

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】