知財求人 - 知財ポータルサイト「IP Force」
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2025026182
(43)【公開日】2025-02-21
(54)【発明の名称】能動学習プログラム、方法、及び装置
(51)【国際特許分類】
G06N 3/091 20230101AFI20250214BHJP
【ＦＩ】
G06N3/091
【審査請求】未請求
【請求項の数】9
【出願形態】ＯＬ
(21)【出願番号】P 2023131606
(22)【出願日】2023-08-10
(71)【出願人】
【識別番号】000005223
【氏名又は名称】富士通株式会社
(74)【代理人】
【識別番号】110001519
【氏名又は名称】弁理士法人太陽国際特許事務所
(72)【発明者】
【氏名】坂井 靖文
(57)【要約】
【課題】なるべく少ないラベル付きデータで機械学習モデルの精度を向上させるための能動学習による訓練コストを抑制する。
【解決手段】能動学習装置は、誤差予測訓練データ群３４を用いて訓練された誤差予測モデル２６に基づいて、ラベル無しデータ群３６に含まれる複数のラベル無しデータの各々に対するエネルギー予測モデル２４の予測誤差を予測し（Ｅ）、複数のラベル無しデータから予測誤差が大きいラベル無しデータを選択して、正解ラベルとなるエネルギーの情報を付与してラベル付きデータを生成し（Ｆ）、生成したラベル付きデータをエネルギー予測訓練データとして用いて、エネルギー予測モデル２４を訓練する（Ａ）。
【選択図】図１０
【解決手段】能動学習装置は、誤差予測訓練データ群３４を用いて訓練された誤差予測モデル２６に基づいて、ラベル無しデータ群３６に含まれる複数のラベル無しデータの各々に対するエネルギー予測モデル２４の予測誤差を予測し（Ｅ）、複数のラベル無しデータから予測誤差が大きいラベル無しデータを選択して、正解ラベルとなるエネルギーの情報を付与してラベル付きデータを生成し（Ｆ）、生成したラベル付きデータをエネルギー予測訓練データとして用いて、エネルギー予測モデル２４を訓練する（Ａ）。
【選択図】図１０
【特許請求の範囲】
【請求項1】
複数のデータと、前記複数のデータの各々に対する第１機械学習モデルの予測誤差との組を訓練データとして用いて訓練された第２機械学習モデルに基づいて、複数のラベル無しデータの各々に対する前記第１機械学習モデルの予測誤差を予測し、
予測された前記予測誤差に基づいて、前記複数のラベル無しデータから選択したラベル無しデータに正解ラベルを付与してラベル付きデータを生成し、
生成した前記ラベル付きデータを用いて、前記第１機械学習モデルを再訓練する、
ことを含む処理をコンピュータに実行させるための能動学習プログラム。
予測された前記予測誤差に基づいて、前記複数のラベル無しデータから選択したラベル無しデータに正解ラベルを付与してラベル付きデータを生成し、
生成した前記ラベル付きデータを用いて、前記第１機械学習モデルを再訓練する、
ことを含む処理をコンピュータに実行させるための能動学習プログラム。
【請求項2】
前記複数のラベル無しデータから、予測された前記予測誤差が所定値以上のラベル無しデータ、又は予測された前記予測誤差が上位所定個のラベル無しデータを選択する請求項１に記載の能動学習プログラム。
【請求項3】
複数のラベル付きデータの各々を前記第１機械学習モデルに入力して得られる予測結果の各々と、前記複数のラベル付きデータの正解ラベルの各々とから前記予測誤差の各々を算出し、算出した予測誤差の各々と前記複数のラベル付きデータの各々とから複数の前記訓練データを生成し、
前記訓練データを用いて前記第２機械学習モデルを訓練する、
ことをさらに含む処理を前記コンピュータに実行させるための請求項１又は請求項２に記載の能動学習プログラム。
前記訓練データを用いて前記第２機械学習モデルを訓練する、
ことをさらに含む処理を前記コンピュータに実行させるための請求項１又は請求項２に記載の能動学習プログラム。
【請求項4】
再訓練された前記第１機械学習モデルの精度が所定の基準を満たすまで、前記予測誤差の予測、及び前記ラベル付きデータの生成を繰り返す請求項１又は請求項２に記載の能動学習プログラム。
【請求項5】
前記選択したラベル無しデータから生成された前記ラベル付きデータに基づいて生成した前記訓練データを用いて、前記第２機械学習モデルを再訓練する請求項４に記載の能動学習プログラム。
【請求項6】
前記ラベル付きデータは、分子の構造データに正解ラベルとして分子のエネルギーの情報が付与されたデータであり、
前記第１機械学習モデルは、分子の構造データが入力された場合に、前記分子のエネルギーを予測結果として出力する機械学習モデルである、
請求項１又は請求項２に記載の能動学習プログラム。
前記第１機械学習モデルは、分子の構造データが入力された場合に、前記分子のエネルギーを予測結果として出力する機械学習モデルである、
請求項１又は請求項２に記載の能動学習プログラム。
【請求項7】
前記ラベル付きデータを生成することは、前記選択したラベル無しデータである前記分子の構造データから、密度汎関数理論を用いて前記分子のエネルギーを計算することを含む請求項６に記載の能動学習プログラム。
【請求項8】
複数のデータと、前記複数のデータの各々に対する第１機械学習モデルの予測誤差との組を訓練データとして用いて訓練された第２機械学習モデルに基づいて、複数のラベル無しデータの各々に対する前記第１機械学習モデルの予測誤差を予測し、
予測された前記予測誤差に基づいて、前記複数のラベル無しデータから選択したラベル無しデータに正解ラベルを付与してラベル付きデータを生成し、
生成した前記ラベル付きデータを用いて、前記第１機械学習モデルを再訓練する、
ことを含む処理をコンピュータが実行する能動学習方法。
予測された前記予測誤差に基づいて、前記複数のラベル無しデータから選択したラベル無しデータに正解ラベルを付与してラベル付きデータを生成し、
生成した前記ラベル付きデータを用いて、前記第１機械学習モデルを再訓練する、
ことを含む処理をコンピュータが実行する能動学習方法。
【請求項9】
複数のデータと、前記複数のデータの各々に対する第１機械学習モデルの予測誤差との組を訓練データとして用いて訓練された第２機械学習モデルに基づいて、複数のラベル無しデータの各々に対する前記第１機械学習モデルの予測誤差を予測する誤差予測部と、
予測された前記予測誤差に基づいて、前記複数のラベル無しデータから選択したラベル無しデータに正解ラベルを付与してラベル付きデータを生成する第１生成部と、
生成した前記ラベル付きデータを用いて、前記第１機械学習モデルを再訓練する第１訓練部と、
を含む能動学習装置。
予測された前記予測誤差に基づいて、前記複数のラベル無しデータから選択したラベル無しデータに正解ラベルを付与してラベル付きデータを生成する第１生成部と、
生成した前記ラベル付きデータを用いて、前記第１機械学習モデルを再訓練する第１訓練部と、
を含む能動学習装置。
【発明の詳細な説明】
【技術分野】
【0001】
開示の技術は、能動学習プログラム、能動学習方法、及び能動学習装置に関する。
【背景技術】
【0002】
従来、分子の構造データに基づいて、その分子のエネルギーを予測するニューラルネットワークが提案されている。このニューラルネットワークは、「構造」と「エネルギー」とからなるラベル付きデータを用いて教師あり学習により訓練される。この「エネルギー」は、例えば、密度汎関数理論（ＤＦＴ：Density Functional Theory）と呼ばれる数値計算手法で計算される。ＤＦＴによる分子のエネルギーの計算時間は非常に長く、１つの構造のエネルギーの計算に、半日から３日かかる場合もある。そのため、教師あり学習のためのラベル付きデータを大量に集めることが困難である。
【0003】
そこで、可能な限り少ないラベル付きデータでニューラルネットワークを高精度化するための能動学習の手法が提案されている。例えば、ニューラルネットワークによるエネルギーの予測値の不確かさを予測する機械学習モデルを用いて、ラベル無しデータについて、エネルギーの予測値の不確かさを予測する技術が提案されている。この技術は、予測された不確かさが大きいラベル無しデータに対してラベル付けを行い、ラベル付けされたデータを用いて、エネルギーを予測するニューラルネットワークの訓練を行う。
【0004】
また、能動学習に関連する技術として、特徴量からなる訓練用例を受け付け、訓練用例にラベルを付与し、ラベルが付与された訓練用例を用いて１つ以上の生徒モデルを生成し、生徒モデルによる予測とラベルとの誤差を算出する情報処理装置が提案されている。この装置は、誤差を予測するモデルである誤差予測モデルを生成し、誤差予測モデルに基づき、誤差が大きくなると予測される用例を出力する。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】国際公開２０２２／１１３３３８号
【非特許文献1】Kristof T. Schutt, Oliver T. Unke, and Michael Gastegger, "Equivariant Message Passing for the Prediction of Tensorial Properties and Molecular Spectra," PMLR, 2021.
【非特許文献2】Johannes Gasteiger, Muhammed Shuaibi, Anuroop Sriram, Stephan Gunnemann, Zachary Ulissi, C. Lawrence Zitnick, and Abhishek Das, "GemNet-OC: Developing Graph Neural Networks for Large and Diverse Molecular Simulation Datasets," Transactions on Machine Learning Research, 2022.
【非特許文献3】Joseph Musielewicz, Xiaoxiao Wang, Tian Tian, and Zachary Ulissi, "FINETUNA: Fine-tuning Accelerated Molecular Simulations," arXiv:2205.01223v2 [physics.comp-ph] 1 Jul 2022.
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、ニューラルネットワークによるエネルギーの予測値の不確かさを予測する機械学習モデルを用いる従来技術では、不確かさを予測するために複数のニューラルネットワークを必要とする。すなわち、この従来技術は、能動学習のために複数のニューラルネットワークを用意する必要があり、能動学習による訓練コストが高いという問題がある。
【0007】
一つの側面として、開示の技術は、なるべく少ないラベル付きデータで機械学習モデルの精度を向上させるための能動学習による訓練コストを抑制することを目的とする。
【課題を解決するための手段】
【0008】
一つの態様として、開示の技術は、第２機械学習モデルに基づいて、複数のラベル無しデータの各々に対する前記第１機械学習モデルの予測誤差を予測する。第２機械学習モデルは、複数のデータと、前記複数のデータの各々に対する第１機械学習モデルの予測誤差との組を訓練データとして用いて訓練されている。そして、開示の技術は、予測された前記予測誤差に基づいて、前記複数のラベル無しデータから選択したラベル無しデータに正解ラベルを付与してラベル付きデータを生成し、生成した前記ラベル付きデータを用いて、前記第１機械学習モデルを再訓練する。
【発明の効果】
【0009】
一つの側面として、なるべく少ないラベル付きデータで機械学習モデルの精度を向上させるための能動学習による訓練コストを抑制することができる、という効果を有する。
【図面の簡単な説明】
【0010】
【図1】分子のエネルギー予測のＮＮについて説明するための図である。
【図2】背景技術を説明するための図である。
【図3】背景技術における不確かさ予測ＮＮを説明するための図である。
【図4】本実施形態に係る能動学習装置の機能ブロック図である。
【図5】エネルギー予測モデルを説明するための図である。
【図6】誤差予測モデルを説明するための図である。
【図7】ＤＦＴによるエネルギーの計算値と、エネルギー予測モデルによるエネルギーの予測値との関係の一例を示す図である。
【図8】能動学習装置として機能するコンピュータの概略構成を示すブロック図である。
【図9】能動学習処理の一例を示すフローチャートである。
【図10】能動学習装置における処理の概略を示す図である。
【図11】本手法の効果についての検証結果を示す図である。
【発明を実施するための形態】
【0011】
以下、図面を参照して、開示の技術に係る実施形態の一例を説明する。
【0012】
実施形態の詳細を説明する前に、分子のエネルギー予測のための機械学習モデルの教師あり学習に向けた能動学習における課題について説明する。
【0013】
図１に示すように、分子の構造データに基づいて、その分子のエネルギーを予測するニューラルネットワーク（以下、「ＮＮ」とも表記する）は、「構造」と「エネルギー」とからなるラベル付きデータを用いて教師あり学習により訓練される。すなわち、分子の構造データをＮＮへ入力し、ＮＮからの出力である予測された分子のエネルギーと、正解のエネルギーとの差を逆伝播することによりＮＮのパラメータを更新する。この正解となるエネルギーは、例えば、ＤＦＴと呼ばれる数値計算手法で計算される。ＤＦＴによる分子のエネルギーの計算時間は非常に長いため、教師あり学習のためのラベル付きデータを大量に集めることが困難である。
【0014】
そこで、可能な限り少ないラベル付きデータでＮＮを高精度化するための能動学習の手法が提案されている。具体的には、能動学習を実行する情報処理装置は、図２のＡに示すように、エネルギーの予測値の不確かさを予測する不確かさ予測ＮＮを用いて、ラベル無しデータ群に含まれる各ラベル無しデータについて、エネルギーの予測値の不確かさを予測する。そして、情報処理装置は、複数のラベル無しデータのうち、不確かさ予測ＮＮで予測された不確かさが大きいラベル無しデータを選択する。情報処理装置は、図２のＢに示すように、選択したラベル無しデータに、例えばＤＦＴ等で計算したエネルギーを正解ラベルとして付与して、ラベル付きデータを生成する。
【0015】
また、情報処理装置は、図２のＣに示すように、生成したラベル付きデータが追加された訓練データを用いて、エネルギーを予測するエネルギー予測ＮＮを再訓練する。情報処理装置は、図２のＤに示すように、検証データを用いて、再訓練されたエネルギー予測ＮＮを評価し、エネルギー予測ＮＮの精度が基準を満たす場合には、訓練を終了する。一方、エネルギー予測ＮＮの精度が基準を満たさない場合には、情報処理装置は、図２のＥに示すように、ラベル無しデータ群から、上記Ｂでラベルが付与されたデータを除いて、不確かさを予測する処理から繰り返す。
【0016】
このように、エネルギーの予測値の不確かさを不確かさ予測ＮＮで予測したうえで、その不確かさが大きいラベル無しデータを、ラベル付けの対象のデータとして選択することで、エネルギー予測ＮＮを効率的に訓練することができるデータが選択される。
【0017】
しかし、例えば、非特許文献３に記載の技術では、この不確かさ予測ＮＮが、図３に示すように、複数のニューラルネットで構成されている。具体的には、それぞれ重み等が異なる複数（図３の例では、Ｎ個）のエネルギー予測ＮＮで、同じ分子の構造データを入力として、その分子のエネルギーを予測させる。そして、各エネルギー予測ＮＮの予測値のばらつきを、その構造データの不確かさとして利用する。このような構成のため、非特許文献３に記載の技術では、不確かさを予測するために複数のニューラルネットワークを用意する必要があり、訓練コストが高くなる。
【0018】
そこで、本実施形態では、単一のニューラルネットでエネルギーの予測値の不確かさを予測する手法について提案する。以下、本実施形態に係る能動学習装置について詳述する。
【0019】
図４に示すように、能動学習装置１０は、機能的には、第１訓練部１２と、検証部１４と、第２訓練部１６と、誤差予測部１８と、第１生成部２０と、第２生成部２２とを含む。また、能動学習装置１０の所定の記憶領域には、エネルギー予測モデル２４と、誤差予測モデル２６とが記憶される。エネルギー予測モデル２４は、開示の技術の「第１機械学習モデル」の一例であり、誤差予測モデル２６は、開示の技術の「第２機械学習モデル」の一例である。
【0020】
第１訓練部１２は、エネルギー予測訓練データ群３０を用いて、エネルギー予測モデル２４を訓練する。エネルギー予測訓練データ群３０には、分子の構造データと、その分子のエネルギーの正解ラベルとの組である複数のエネルギー予測訓練データが含まれる。エネルギー予測モデル２４は、ニューラルネットワーク等で構成された機械学習モデルである。エネルギー予測モデル２４は、図５に示すように、分子の構造データが入力された場合に、その分子のエネルギーの予測値を出力する。
【0021】
具体的には、第１訓練部１２は、エネルギー予測訓練データの分子の構造データをエネルギー予測モデル２４に入力して出力されるエネルギーの予測値と、正解ラベルが示すエネルギーとが一致するようにエネルギー予測モデル２４のパラメータを更新する。また、第１訓練部１２は、後述する第１生成部２０により生成されたラベル付きデータがエネルギー予測訓練データ群３０に追加された場合、追加後のエネルギー予測訓練データ群３０を用いて、エネルギー予測モデル２４を再訓練する。
【0022】
検証部１４は、検証データ群３２を用いて、エネルギー予測モデル２４の精度を検証する。検証データ群３２には、分子の構造データに、その分子のエネルギーの正解ラベルが付与されたラベル付きデータであって、エネルギー予測モデル２４の訓練に用いられていない複数のラベル付きデータが検証データとして含まれる。
【0023】
検証部１４は、検証データの分子の構造データについてエネルギー予測モデル２４で予測された予測値と、検証データの正解ラベルとに基づいて、エネルギー予測モデル２４の予測精度を算出する。検証部１４は、予測精度が予め定めた基準を満たすか否かを検証する。検証部１４は、予測精度が予め定めた基準を満たす場合、エネルギー予測モデル２４の訓練を終了する。一方、検証部１４は、予測精度が予め定めた基準を満たさない場合、各機能部の処理を繰り返し実行させ、エネルギー予測モデル２４及び誤差予測モデル２６を再訓練する。
【0024】
第２訓練部１６は、誤差予測訓練データ群３４を用いて、誤差予測モデル２６を訓練する。誤差予測訓練データ群３４には、分子の構造データと、その分子のエネルギーをエネルギー予測モデル２４で予測した場合の予測値の誤差（以下、「予測誤差」ともいう）の正解ラベルとの組である複数の誤差予測訓練データが含まれる。誤差予測モデル２６は、単一のニューラルネットワーク等で構成された機械学習モデルである。誤差予測モデル２６は、図６に示すように、分子の構造データが入力された場合に、その分子のエネルギーの予測誤差の予測値を出力する。
【0025】
具体的には、第２訓練部１６は、誤差予測訓練データの分子の構造データを誤差予測モデル２６に入力して出力されるエネルギーの予測誤差の予測値と、正解ラベルが示す予測誤差とが一致するように誤差予測モデル２６のパラメータを更新する。また、第２訓練部１６は、後述する第２生成部２２で生成される誤差予測訓練データが誤差予測訓練データ群３４に追加された場合、追加後の誤差予測訓練データ群３４を用いて、誤差予測モデル２６を再訓練する。
【0026】
誤差予測部１８は、誤差予測モデル２６に基づいて、ラベル無しデータ群３６に含まれる複数のラベル無しデータの各々に対するエネルギー予測モデル２４の予測誤差を予測する。
【0027】
第１生成部２０は、誤差予測部１８により予測された予測誤差に基づいて、複数のラベル無しデータから、ラベル付けの対象となるラベル無しデータを選択する。すなわち、本実施形態では、誤差予測部１８により予測された予測誤差を、エネルギー予測モデル２４に対するラベル無しデータの予測結果の不確かさとして用いるものである。
【0028】
具体的には、第１生成部２０は、ラベル無しデータ群３６に含まれる複数のラベル無しデータから、誤差予測モデル２６により予測された予測誤差が所定値以上のラベル無しデータ、又は予測誤差が上位所定個のラベル無しデータを選択する。すなわち、不確かさが大きいラベル無しデータを選択する。第１生成部２０は、選択したラベル無しデータに対する正解ラベルとなるエネルギーの情報を取得する。
【0029】
例えば、第１生成部２０は、ラベル無しデータが示す分子の構造データについて、ＤＦＴで計算されたエネルギーの情報を取得する。ＤＦＴによるエネルギーの計算は、能動学習装置１０の内部で実行されてもよいし、外部装置で実行されてもよい。外部装置で実行する場合、第１生成部２０は、ラベル無しデータが示す分子の構造データを外部装置へ出力し、外部装置から計算結果を取得する。また、第１生成部２０は、ラベル無しデータが示す分子の構造データを表示装置に表示する等してユーザに提示し、ユーザにより入力される計算結果を取得するようにしてもよい。
【0030】
第１生成部２０は、選択したラベル無しデータの分子の構造データに、取得したエネルギーの情報を正解ラベルとして付与して、ラベル付きデータを生成する。第１生成部２０は、生成したラベル付きデータをエネルギー予測訓練データとして、エネルギー予測訓練データ群３０に追加する。また、第１生成部２０は、生成したラベル付きデータを第２生成部２２へ受け渡す。
【0031】
第２生成部２２は、第１生成部２０から受け渡されたラベル付きデータの分子の構造データをエネルギー予測モデル２４に入力し、エネルギーの予測値を取得する。また、第２生成部２２は、ラベル付きデータの正解ラベルが示すエネルギーと、取得したエネルギーの予測値とから予測誤差を算出する。
【0032】
図７に、ＤＦＴによるエネルギーの計算値と、エネルギー予測モデル２４によるエネルギーの予測値との関係の一例を示す。図７に示すグラフの各プロットは、１つの構造データに関する計算値及び予測値に相当する。図７に示す線Ａは、計算値と予測値とが一致する場合、すなわち予測誤差が０の場合を表している。すなわち、第２生成部２２は、線Ａと各プロットとの距離を、そのプロットに対応する構造データについての予測誤差として算出する。
【0033】
第２生成部２２は、第１生成部２０から受け渡されたラベル付きデータの分子の構造データと、算出した予測誤差との組を誤差予測訓練データとして生成する。第２生成部２２は、生成した誤差予測訓練データを誤差予測訓練データ群３４に追加する。
【0034】
能動学習装置１０は、例えば図８に示すコンピュータ４０で実現されてよい。コンピュータ４０は、ＣＰＵ（Central Processing Unit）４１と、ＧＰＵ（Graphics Processing Unit）４２と、一時記憶領域としてのメモリ４３と、不揮発性の記憶装置４４とを備える。また、コンピュータ４０は、入力装置、表示装置等の入出力装置４５と、記憶媒体４９に対するデータの読み込み及び書き込みを制御するＲ／Ｗ（Read/Write）装置４６とを備える。また、コンピュータ４０は、インターネット等のネットワークに接続される通信Ｉ／Ｆ（Interface）４７を備える。ＣＰＵ４１、ＧＰＵ４２、メモリ４３、記憶装置４４、入出力装置４５、Ｒ／Ｗ装置４６、及び通信Ｉ／Ｆ４７は、バス４８を介して互いに接続される。
【0035】
記憶装置４４は、例えば、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、フラッシュメモリ等である。記憶媒体としての記憶装置４４には、コンピュータ４０を、能動学習装置１０として機能させるための能動学習プログラム５０が記憶される。能動学習プログラム５０は、第１訓練プロセス制御命令５２と、検証プロセス制御命令５４と、第２訓練プロセス制御命令５６と、誤差予測プロセス制御命令５８と、第１生成プロセス制御命令６０と、第２生成プロセス制御命令６２とを有する。また、記憶装置４４は、エネルギー予測モデル２４及び誤差予測モデル２６の各々を構成する情報が記憶される情報記憶領域７０を有する。
【0036】
ＣＰＵ４１は、能動学習プログラム５０を記憶装置４４から読み出してメモリ４３に展開し、能動学習プログラム５０が有する制御命令を順次実行する。ＣＰＵ４１は、第１訓練プロセス制御命令５２を実行することで、図４に示す第１訓練部１２として動作する。また、ＣＰＵ４１は、検証プロセス制御命令５４を実行することで、図４に示す検証部１４として動作する。また、ＣＰＵ４１は、第２訓練プロセス制御命令５６を実行することで、図４に示す第２訓練部１６として動作する。また、ＣＰＵ４１は、誤差予測プロセス制御命令５８を実行することで、図４に示す誤差予測部１８として動作する。また、ＣＰＵ４１は、第１生成プロセス制御命令６０を実行することで、図４に示す第１生成部２０として動作する。また、ＣＰＵ４１は、第２生成プロセス制御命令６２を実行することで、図４に示す第２生成部２２として動作する。また、ＣＰＵ４１は、情報記憶領域７０から情報を読み出して、エネルギー予測モデル２４及び誤差予測モデル２６の各々をメモリ４３に展開する。これにより、能動学習プログラム５０を実行したコンピュータ４０が、能動学習装置１０として機能することになる。なお、プログラムを実行するＣＰＵ４１はハードウェアである。また、プログラムの一部は、ＧＰＵ４２により実行されてもよい。
【0037】
なお、能動学習プログラム５０により実現される機能は、例えば半導体集積回路、より詳しくはＡＳＩＣ（Application Specific Integrated Circuit）、ＦＰＧＡ（Field-Programmable Gate Array）等で実現されてもよい。
【0038】
次に、本実施形態に係る能動学習装置１０の動作について説明する。エネルギー予測モデル２４の訓練が指示されると、能動学習装置１０において、図９に示す能動学習処理が実行される。なお、能動学習処理は、開示の技術の能動学習方法の一例である。以下、図１０に示す、本実施形態に係る能動学習装置１０における処理の概略と合わせて、図９に示す能動学習処理について説明する。
【0039】
ステップＳ１０で、第１訓練部１２が、エネルギー予測訓練データ群３０を用いて、エネルギー予測モデル２４を訓練する（図１０のＡ）。次に、ステップＳ１２で、検証部１４が、検証データの分子の構造データについてエネルギー予測モデル２４で予測された予測値と、検証データの正解ラベルとに基づいて、エネルギー予測モデル２４の予測精度を算出する。次に、ステップＳ１４で、検証部１４が、算出した予測精度が予め定めた基準を満たすか否かを判定する（図１０のＢ）。基準を満たさない場合には、ステップＳ１６へ移行する。
【0040】
ステップＳ１６では、第２生成部２２が、ラベル付きデータの分子の構造データをエネルギー予測モデル２４に入力し、エネルギーの予測値を取得する。次に、ステップＳ１８で、第２生成部２２が、ラベル付きデータの正解ラベルが示すエネルギーと、取得したエネルギーの予測値とから予測誤差を算出する。そして、第２生成部２２が、ラベル付きデータの分子の構造データと、算出した予測誤差との組を誤差予測訓練データとして生成し、誤差予測訓練データ群３４に追加する（図１０のＣ）。
【0041】
次に、ステップＳ２０で、第２訓練部１６が、誤差予測訓練データ群３４を用いて、誤差予測モデル２６を訓練する（図１０のＤ）。次に、ステップＳ２２で、誤差予測部１８が、誤差予測モデル２６に基づいて、ラベル無しデータ群３６に含まれる複数のラベル無しデータの各々に対するエネルギー予測モデル２４の予測誤差を予測する（図１０のＥ）。
【0042】
次に、ステップＳ２４で、第１生成部２０が、複数のラベル無しデータから、予測された予測誤差が大きいラベル無しデータを選択する。そして、第１生成部２０が、選択したラベル無しデータに対する正解ラベルとなるエネルギーの情報を取得し、選択したラベル無しデータの分子の構造データに、取得したエネルギーの情報を正解ラベルとして付与して、ラベル付きデータを生成する（図１０のＦ）。そして、第１生成部２０が、生成したラベル付きデータをエネルギー予測訓練データとして、エネルギー予測訓練データ群３０に追加し（図１０のＧ）、ステップＳ１０に戻る。
【0043】
ステップＳ１４で、算出した予測精度が予め定めた基準を満たすと判定されると、能動学習処理は終了する。
【0044】
以上説明したように、本実施形態に係る能動学習装置は、複数のデータと、複数のデータの各々に対するエネルギー予測モデルの予測誤差との組を訓練データとして用いて、誤差予測モデルを訓練する。能動学習装置は、誤差予測モデルに基づいて、複数のラベル無しデータの各々に対するエネルギー予測モデルの予測誤差を予測し、予測誤差に基づいて、複数のラベル無しデータから選択したラベル無しデータに正解ラベルを付与してラベル付きデータを生成する。そして、能動学習装置は、生成したラベル付きデータを用いて、エネルギー予測モデルを再訓練する。このように、本実施形態では、単一のニューラルネットワーク等で構成された誤差予測モデルにより予測される予測誤差が大きいラベル無しデータに対してラベル付けを行う。これにより、複数のニューラルネットワークで構成された機械学習モデルによりラベル無しデータの不確かさを予測する場合に比べ、能動学習による訓練コストを抑制することができる。
【0045】
ここで、本実施形態に係る手法（以下、「本手法」という）で能動学習を行う場合でも、なるべく少ないラベル付きデータで機械学習モデルの精度を向上させることができることを検証した実験結果について説明する。
【0046】
本検証では、本手法と比較するため、エネルギー予測モデルの教師あり学習のための訓練データを、用意した訓練データからランダムにサンプリングにより選択する手法を比較手法とした。本検証では、分子の構造データと、その分子のエネルギーとの組のデータを３７７０個用意し、そのうちの２８７０個を訓練データ、残りの９００個を訓練に用いない検証データとした。また、２８７０個の訓練データの全ての構造データを、ラベル付けの対象とするラベル無しデータ群として使用し、２８７０個の訓練データの全ての構造データとエネルギーとの組を、教師あり学習に使用した。
【0047】
図１１に、実験結果として、各手法について、教師あり学習に使用したラベル付きデータの数と、その数のラベル付きデータで教師あり学習が実行されたエネルギー予測モデルによるエネルギーの予測誤差との関係を示す。図に示すように、本手法は、比較手法に比べ、より少ないラベル付きデータの数で、エネルギー予測モデルの精度を改善することができている。なお、全てのラベル付きデータを訓練に使用した場合は、本手法と比較手法との精度は当然ながら同等となる。
【0048】
なお、上記実施形態では、分子の構造データからエネルギーを予測する場合について説明したが、開示の技術を適用可能なデータはこの例に限定されない。特に、大量のラベル付きデータを用意することが困難な場合に、開示の技術を適用する効果が高い。
【0049】
また、上記実施形態では、能動学習プログラムが記憶装置に予め記憶（インストール）されているが、これに限定されない。開示の技術に係るプログラムは、ＣＤ－ＲＯＭ、ＤＶＤ－ＲＯＭ、ＵＳＢメモリ等の記憶媒体に記憶された形態で提供されてもよい。
【0050】
以上の実施形態に関し、さらに以下の付記を開示する。
【0051】
（付記１）
複数のデータと、前記複数のデータの各々に対する第１機械学習モデルの予測誤差との組を訓練データとして用いて訓練された第２機械学習モデルに基づいて、複数のラベル無しデータの各々に対する前記第１機械学習モデルの予測誤差を予測し、
予測された前記予測誤差に基づいて、前記複数のラベル無しデータから選択したラベル無しデータに正解ラベルを付与してラベル付きデータを生成し、
生成した前記ラベル付きデータを用いて、前記第１機械学習モデルを再訓練する、
ことを含む処理をコンピュータに実行させるための能動学習プログラム。
複数のデータと、前記複数のデータの各々に対する第１機械学習モデルの予測誤差との組を訓練データとして用いて訓練された第２機械学習モデルに基づいて、複数のラベル無しデータの各々に対する前記第１機械学習モデルの予測誤差を予測し、
予測された前記予測誤差に基づいて、前記複数のラベル無しデータから選択したラベル無しデータに正解ラベルを付与してラベル付きデータを生成し、
生成した前記ラベル付きデータを用いて、前記第１機械学習モデルを再訓練する、
ことを含む処理をコンピュータに実行させるための能動学習プログラム。
【0052】
（付記２）
前記複数のラベル無しデータから、予測された前記予測誤差が所定値以上のラベル無しデータ、又は予測された前記予測誤差が上位所定個のラベル無しデータを選択する付記１に記載の能動学習プログラム。
前記複数のラベル無しデータから、予測された前記予測誤差が所定値以上のラベル無しデータ、又は予測された前記予測誤差が上位所定個のラベル無しデータを選択する付記１に記載の能動学習プログラム。
【0053】
（付記３）
複数のラベル付きデータの各々を前記第１機械学習モデルに入力して得られる予測結果の各々と、前記複数のラベル付きデータの正解ラベルの各々とから前記予測誤差の各々を算出し、算出した予測誤差の各々と前記複数のラベル付きデータの各々とから複数の前記訓練データを生成し、
前記訓練データを用いて前記第２機械学習モデルを訓練する、
ことをさらに含む処理を前記コンピュータに実行させるための付記１又は付記２に記載の能動学習プログラム。
複数のラベル付きデータの各々を前記第１機械学習モデルに入力して得られる予測結果の各々と、前記複数のラベル付きデータの正解ラベルの各々とから前記予測誤差の各々を算出し、算出した予測誤差の各々と前記複数のラベル付きデータの各々とから複数の前記訓練データを生成し、
前記訓練データを用いて前記第２機械学習モデルを訓練する、
ことをさらに含む処理を前記コンピュータに実行させるための付記１又は付記２に記載の能動学習プログラム。
【0054】
（付記４）
再訓練された前記第１機械学習モデルの精度が所定の基準を満たすまで、前記予測誤差の予測、及び前記ラベル付きデータの生成を繰り返す付記１～付記３のいずれか１項に記載の能動学習プログラム。
再訓練された前記第１機械学習モデルの精度が所定の基準を満たすまで、前記予測誤差の予測、及び前記ラベル付きデータの生成を繰り返す付記１～付記３のいずれか１項に記載の能動学習プログラム。
【0055】
（付記５）
前記選択したラベル無しデータから生成された前記ラベル付きデータに基づいて生成した前記訓練データを用いて、前記第２機械学習モデルを再訓練する付記３に記載の能動学習プログラム。
前記選択したラベル無しデータから生成された前記ラベル付きデータに基づいて生成した前記訓練データを用いて、前記第２機械学習モデルを再訓練する付記３に記載の能動学習プログラム。
【0056】
（付記６）
前記ラベル付きデータは、分子の構造データに正解ラベルとして分子のエネルギーの情報が付与されたデータであり、
前記第１機械学習モデルは、分子の構造データが入力された場合に、前記分子のエネルギーを予測結果として出力する機械学習モデルである、
付記１～付記５のいずれか１項に記載の能動学習プログラム。
前記ラベル付きデータは、分子の構造データに正解ラベルとして分子のエネルギーの情報が付与されたデータであり、
前記第１機械学習モデルは、分子の構造データが入力された場合に、前記分子のエネルギーを予測結果として出力する機械学習モデルである、
付記１～付記５のいずれか１項に記載の能動学習プログラム。
【0057】
（付記７）
前記ラベル付きデータを生成することは、前記選択したラベル無しデータである前記分子の構造データから、密度汎関数理論を用いて前記分子のエネルギーを計算することを含む付記６に記載の能動学習プログラム。
前記ラベル付きデータを生成することは、前記選択したラベル無しデータである前記分子の構造データから、密度汎関数理論を用いて前記分子のエネルギーを計算することを含む付記６に記載の能動学習プログラム。
【0058】
（付記８）
複数のデータと、前記複数のデータの各々に対する第１機械学習モデルの予測誤差との組を訓練データとして用いて訓練された第２機械学習モデルに基づいて、複数のラベル無しデータの各々に対する前記第１機械学習モデルの予測誤差を予測し、
予測された前記予測誤差に基づいて、前記複数のラベル無しデータから選択したラベル無しデータに正解ラベルを付与してラベル付きデータを生成し、
生成した前記ラベル付きデータを用いて、前記第１機械学習モデルを再訓練する、
ことを含む処理をコンピュータが実行する能動学習方法。
複数のデータと、前記複数のデータの各々に対する第１機械学習モデルの予測誤差との組を訓練データとして用いて訓練された第２機械学習モデルに基づいて、複数のラベル無しデータの各々に対する前記第１機械学習モデルの予測誤差を予測し、
予測された前記予測誤差に基づいて、前記複数のラベル無しデータから選択したラベル無しデータに正解ラベルを付与してラベル付きデータを生成し、
生成した前記ラベル付きデータを用いて、前記第１機械学習モデルを再訓練する、
ことを含む処理をコンピュータが実行する能動学習方法。
【0059】
（付記９）
前記複数のラベル無しデータから、予測された前記予測誤差が所定値以上のラベル無しデータ、又は予測された前記予測誤差が上位所定個のラベル無しデータを選択する付記８に記載の能動学習方法。
前記複数のラベル無しデータから、予測された前記予測誤差が所定値以上のラベル無しデータ、又は予測された前記予測誤差が上位所定個のラベル無しデータを選択する付記８に記載の能動学習方法。
【0060】
（付記１０）
複数のラベル付きデータの各々を前記第１機械学習モデルに入力して得られる予測結果の各々と、前記複数のラベル付きデータの正解ラベルの各々とから前記予測誤差の各々を算出し、算出した予測誤差の各々と前記複数のラベル付きデータの各々とから複数の前記訓練データを生成し、
前記訓練データを用いて前記第２機械学習モデルを訓練する、
ことをさらに含む処理を前記コンピュータが実行する付記８又は付記９に記載の能動学習方法。
複数のラベル付きデータの各々を前記第１機械学習モデルに入力して得られる予測結果の各々と、前記複数のラベル付きデータの正解ラベルの各々とから前記予測誤差の各々を算出し、算出した予測誤差の各々と前記複数のラベル付きデータの各々とから複数の前記訓練データを生成し、
前記訓練データを用いて前記第２機械学習モデルを訓練する、
ことをさらに含む処理を前記コンピュータが実行する付記８又は付記９に記載の能動学習方法。
【0061】
（付記１１）
再訓練された前記第１機械学習モデルの精度が所定の基準を満たすまで、前記予測誤差の予測、及び前記ラベル付きデータの生成を繰り返す付記８～付記１０のいずれか１項に記載の能動学習方法。
再訓練された前記第１機械学習モデルの精度が所定の基準を満たすまで、前記予測誤差の予測、及び前記ラベル付きデータの生成を繰り返す付記８～付記１０のいずれか１項に記載の能動学習方法。
【0062】
（付記１２）
前記選択したラベル無しデータから生成された前記ラベル付きデータに基づいて生成した前記訓練データを用いて、前記第２機械学習モデルを再訓練する付記１０に記載の能動学習方法。
前記選択したラベル無しデータから生成された前記ラベル付きデータに基づいて生成した前記訓練データを用いて、前記第２機械学習モデルを再訓練する付記１０に記載の能動学習方法。
【0063】
（付記１３）
前記ラベル付きデータは、分子の構造データに正解ラベルとして分子のエネルギーの情報が付与されたデータであり、
前記第１機械学習モデルは、分子の構造データが入力された場合に、前記分子のエネルギーを予測結果として出力する機械学習モデルである、
付記８～付記１２のいずれか１項に記載の能動学習方法。
前記ラベル付きデータは、分子の構造データに正解ラベルとして分子のエネルギーの情報が付与されたデータであり、
前記第１機械学習モデルは、分子の構造データが入力された場合に、前記分子のエネルギーを予測結果として出力する機械学習モデルである、
付記８～付記１２のいずれか１項に記載の能動学習方法。
【0064】
（付記１４）
前記ラベル付きデータを生成することは、前記選択したラベル無しデータである前記分子の構造データから、密度汎関数理論を用いて前記分子のエネルギーを計算することを含む付記１３に記載の能動学習方法。
前記ラベル付きデータを生成することは、前記選択したラベル無しデータである前記分子の構造データから、密度汎関数理論を用いて前記分子のエネルギーを計算することを含む付記１３に記載の能動学習方法。
【0065】
（付記１５）
複数のデータと、前記複数のデータの各々に対する第１機械学習モデルの予測誤差との組を訓練データとして用いて訓練された第２機械学習モデルに基づいて、複数のラベル無しデータの各々に対する前記第１機械学習モデルの予測誤差を予測する誤差予測部と、
予測された前記予測誤差に基づいて、前記複数のラベル無しデータから選択したラベル無しデータに正解ラベルを付与してラベル付きデータを生成する第１生成部と、
生成した前記ラベル付きデータを用いて、前記第１機械学習モデルを再訓練する第１訓練部と、
を含む能動学習装置。
複数のデータと、前記複数のデータの各々に対する第１機械学習モデルの予測誤差との組を訓練データとして用いて訓練された第２機械学習モデルに基づいて、複数のラベル無しデータの各々に対する前記第１機械学習モデルの予測誤差を予測する誤差予測部と、
予測された前記予測誤差に基づいて、前記複数のラベル無しデータから選択したラベル無しデータに正解ラベルを付与してラベル付きデータを生成する第１生成部と、
生成した前記ラベル付きデータを用いて、前記第１機械学習モデルを再訓練する第１訓練部と、
を含む能動学習装置。
【0066】
（付記１６）
前記第１生成部は、前記複数のラベル無しデータから、予測された前記予測誤差が所定値以上のラベル無しデータ、又は予測された前記予測誤差が上位所定個のラベル無しデータを選択する付記１５に記載の能動学習装置。
前記第１生成部は、前記複数のラベル無しデータから、予測された前記予測誤差が所定値以上のラベル無しデータ、又は予測された前記予測誤差が上位所定個のラベル無しデータを選択する付記１５に記載の能動学習装置。
【0067】
（付記１７）
複数のラベル付きデータの各々を前記第１機械学習モデルに入力して得られる予測結果の各々と、前記複数のラベル付きデータの正解ラベルの各々とから前記予測誤差の各々を算出し、算出した予測誤差の各々と前記複数のラベル付きデータの各々とから複数の前記訓練データを生成する第２生成部と、
前記訓練データを用いて前記第２機械学習モデルを訓練する第２訓練部と、
をさらに含む付記１５又は付記１６に記載の能動学習装置。
複数のラベル付きデータの各々を前記第１機械学習モデルに入力して得られる予測結果の各々と、前記複数のラベル付きデータの正解ラベルの各々とから前記予測誤差の各々を算出し、算出した予測誤差の各々と前記複数のラベル付きデータの各々とから複数の前記訓練データを生成する第２生成部と、
前記訓練データを用いて前記第２機械学習モデルを訓練する第２訓練部と、
をさらに含む付記１５又は付記１６に記載の能動学習装置。
【0068】
（付記１８）
再訓練された前記第１機械学習モデルの精度が所定の基準を満たすまで、前記予測誤差の予測、及び前記ラベル付きデータの生成を繰り返す付記１５～付記１７のいずれか１項に記載の能動学習装置。
再訓練された前記第１機械学習モデルの精度が所定の基準を満たすまで、前記予測誤差の予測、及び前記ラベル付きデータの生成を繰り返す付記１５～付記１７のいずれか１項に記載の能動学習装置。
【0069】
（付記１９）
前記第２生成部は、前記第１生成部により生成された前記ラベル付きデータに基づいて前記訓練データを生成し、
前記第２訓練部は、前記第１生成部により生成された前記ラベル付きデータに基づいて生成された前記訓練データを用いて、前記第２機械学習モデルを再訓練する、
付記１７に記載の能動学習装置。
前記第２生成部は、前記第１生成部により生成された前記ラベル付きデータに基づいて前記訓練データを生成し、
前記第２訓練部は、前記第１生成部により生成された前記ラベル付きデータに基づいて生成された前記訓練データを用いて、前記第２機械学習モデルを再訓練する、
付記１７に記載の能動学習装置。
【0070】
（付記２０）
前記ラベル付きデータは、分子の構造データに正解ラベルとして分子のエネルギーの情報が付与されたデータであり、
前記第１機械学習モデルは、分子の構造データが入力された場合に、前記分子のエネルギーを予測結果として出力する機械学習モデルである、
付記１５～付記１９のいずれか１項に記載の能動学習装置。
前記ラベル付きデータは、分子の構造データに正解ラベルとして分子のエネルギーの情報が付与されたデータであり、
前記第１機械学習モデルは、分子の構造データが入力された場合に、前記分子のエネルギーを予測結果として出力する機械学習モデルである、
付記１５～付記１９のいずれか１項に記載の能動学習装置。
【符号の説明】
【0071】
１０ 能動学習装置
１２ 第１訓練部
１４ 検証部
１６ 第２訓練部
１８ 誤差予測部
２０ 第１生成部
２２ 第２生成部
２４ エネルギー予測モデル
２６ 誤差予測モデル
３０ エネルギー予測訓練データ群
３２ 検証データ群
３４ 誤差予測訓練データ群
３６ ラベル無しデータ群
４０ コンピュータ
４１ ＣＰＵ
４２ ＧＰＵ
４３ メモリ
４４ 記憶装置
４５ 入出力装置
４６ Ｒ／Ｗ装置
４７ 通信Ｉ／Ｆ
４８ バス
４９ 記憶媒体
５０ 能動学習プログラム
５２ 第１訓練プロセス制御命令
５４ 検証プロセス制御命令
５６ 第２訓練プロセス制御命令
５８ 誤差予測プロセス制御命令
６０ 第１生成プロセス制御命令
６２ 第２生成プロセス制御命令
７０ 情報記憶領域
１２ 第１訓練部
１４ 検証部
１６ 第２訓練部
１８ 誤差予測部
２０ 第１生成部
２２ 第２生成部
２４ エネルギー予測モデル
２６ 誤差予測モデル
３０ エネルギー予測訓練データ群
３２ 検証データ群
３４ 誤差予測訓練データ群
３６ ラベル無しデータ群
４０ コンピュータ
４１ ＣＰＵ
４２ ＧＰＵ
４３ メモリ
４４ 記憶装置
４５ 入出力装置
４６ Ｒ／Ｗ装置
４７ 通信Ｉ／Ｆ
４８ バス
４９ 記憶媒体
５０ 能動学習プログラム
５２ 第１訓練プロセス制御命令
５４ 検証プロセス制御命令
５６ 第２訓練プロセス制御命令
５８ 誤差予測プロセス制御命令
６０ 第１生成プロセス制御命令
６２ 第２生成プロセス制御命令
７０ 情報記憶領域
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
