特許 7597240 機械学習プログラム、機械学習方法および情報処理装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-12-02

(45)【発行日】2024-12-10

(54)【発明の名称】機械学習プログラム、機械学習方法および情報処理装置

(51)【国際特許分類】

   G06N 20/00 20190101AFI20241203BHJP

【ＦＩ】

G06N20/00

【請求項の数】 8

(21)【出願番号】P 2023554195

(86)(22)【出願日】2021-10-21

(86)【国際出願番号】 JP2021039020

(87)【国際公開番号】W WO2023067782

(87)【国際公開日】2023-04-27

【審査請求日】2024-02-15

(73)【特許権者】

【識別番号】000005223

【氏名又は名称】富士通株式会社

(74)【代理人】

【識別番号】110002147

【氏名又は名称】弁理士法人酒井国際特許事務所

(72)【発明者】

【氏名】金月 寛彰

【審査官】真木 健彦

(56)【参考文献】

【文献】MAZANKIEWICZ Alan et al，INCREMENTAL REAL-TIME PERSONALIZATION IN HUMAN ACTIVITY RECOGNITION USING DOMAIN ADAPTIVE BATCH NORMALIZATION，arXiv:2005.12178v2，Cornell University，2020年12月21日，P.1-17，インターネット<URL:https://arxiv.org/pdf/2005.12178.pdf>

【文献】IMBREA Alexandru-Ionut，Automated Machine Learning Techniques for Data Streams，arXiv:2106.07317v1，Cornell University，2021年06月14日，全11頁，インターネット<URL:https://arxiv.org/pdf/2106.07317.pdf>

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ２０／００

(57)【特許請求の範囲】

【請求項1】

正解ラベルを含まない第１のデータの第１の機械学習モデルへの入力に応じた前記第１の機械学習モデルの第１の出力のエントロピーを含む損失関数に基づいて、前記第１の機械学習モデルの第１の位置に対応する第１の一又は複数の層のパラメータを固定しつつ第２の位置に対応する第２の一又は複数の層のパラメータを更新することによって、第２の機械学習モデルを生成し、
前記第１のデータの前記第２の機械学習モデルへの入力に応じた前記第２の機械学習モデルの第２の出力のエントロピーを含む損失関数に基づいて、前記第２の機械学習モデルの前記第２の位置に対応する第３の一又は複数の層のパラメータは固定しつつ前記第１の位置に対応する第４の一又は複数の層のパラメータを更新することによって、第３の機械学習モデルを生成する、
処理をコンピュータに実行させる機械学習プログラム。

【請求項2】

生成された前記第３の機械学習モデルに前記第１のデータを入力し、前記第３の機械学習モデルの出力結果に基づき、前記第１のデータに対する予測を実行する、処理を前記コンピュータに実行させることを特徴とする請求項１に記載の機械学習プログラム。

【請求項3】

正解ラベルを含む訓練データの入力に応じた前記第１の機械学習モデルの出力結果と前記正解ラベルの誤差が小さくなるように、前記第１の機械学習モデルが有する各層のパラメータを更新することによって、前記第１の機械学習モデルを生成する、処理を前記コンピュータに実行させ、
前記第２の機械学習モデルを生成する処理は、
予測対象である前記第１のデータの前記第１の機械学習モデルの入力に応じた前記損失関数に基づいて、前記訓練データを用いて生成された前記第１の機械学習モデルを更新した前記第２の機械学習モデルを生成し、
前記第３の機械学習モデルを生成する処理は、
前記第１のデータの前記第２の機械学習モデルの入力に応じた前記損失関数に基づいて、前記第２の機械学習モデルを更新した前記第３の機械学習モデルを生成する、
ことを特徴とする請求項１に記載の機械学習プログラム。

【請求項4】

前記第１の機械学習モデルは、少なくともBatch Normalization層とFully Connected層とを有する機械学習モデルであり、
前記第２の機械学習モデルを生成する処理は、
前記第１のデータの前記第１の機械学習モデルへの入力に応じた前記Batch Normalization層の出力のエントロピーを含む前記損失関数に基づいた前記エントロピーを最小化する機械学習により、前記第１の機械学習モデルの前記第１の位置に対応する前記Fully Connected層のパラメータを固定しつつ前記第２の位置に対応する前記Batch Normalization層のパラメータを更新することによって、前記第２の機械学習モデルを生成し、
前記第３の機械学習モデルを生成する処理は、
前記第１のデータの前記第２の機械学習モデルへの入力に応じた前記Fully Connected層の出力のエントロピーを含む前記損失関数に基づいた前記エントロピーを最小化する機械学習により、前記第２の機械学習モデルの前記第２の位置に対応する前記Batch Normalization層のパラメータを固定しつつ前記第１の位置に対応する前記Fully Connected層のパラメータを更新することによって、前記第３の機械学習モデルを生成する、
ことを特徴とする請求項１に記載の機械学習プログラム。

【請求項5】

前記第１の位置に対応する第１の一又は複数の層は、機械学習により更新されるパラメータの数が閾値以上である各層であり、
前記第２の位置に対応する第１の一又は複数の層は、前記パラメータの数が前記閾値未満である各層である、ことを特徴とする請求項１に記載の機械学習プログラム。

【請求項6】

前記損失関数は、機械学習により更新される更新対象の層の出力のエントロピーを条件付きエントロピーとして最小化するように、前記更新対象の層の重みを更新する損失関数である、ことを特徴とする請求項１に記載の機械学習プログラム。

【請求項7】

正解ラベルを含まない第１のデータの第１の機械学習モデルへの入力に応じた前記第１の機械学習モデルの第１の出力のエントロピーを含む損失関数に基づいて、前記第１の機械学習モデルの第１の位置に対応する第１の一又は複数の層のパラメータを固定しつつ第２の位置に対応する第２の一又は複数の層のパラメータを更新することによって、第２の機械学習モデルを生成し、
前記第１のデータの前記第２の機械学習モデルへの入力に応じた前記第２の機械学習モデルの第２の出力のエントロピーを含む損失関数に基づいて、前記第２の機械学習モデルの前記第２の位置に対応する第３の一又は複数の層のパラメータは固定しつつ前記第１の位置に対応する第４の一又は複数の層のパラメータを更新することによって、第３の機械学習モデルを生成する、
処理をコンピュータが実行する機械学習方法。

【請求項8】

正解ラベルを含まない第１のデータの第１の機械学習モデルへの入力に応じた前記第１の機械学習モデルの第１の出力のエントロピーを含む損失関数に基づいて、前記第１の機械学習モデルの第１の位置に対応する第１の一又は複数の層のパラメータを固定しつつ第２の位置に対応する第２の一又は複数の層のパラメータを更新することによって、第２の機械学習モデルを生成し、
前記第１のデータの前記第２の機械学習モデルへの入力に応じた前記第２の機械学習モデルの第２の出力のエントロピーを含む損失関数に基づいて、前記第２の機械学習モデルの前記第２の位置に対応する第３の一又は複数の層のパラメータは固定しつつ前記第１の位置に対応する第４の一又は複数の層のパラメータを更新することによって、第３の機械学習モデルを生成する、
制御部を有する情報処理装置。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、機械学習プログラム等に関する。

【背景技術】

【0002】

データの識別や分類などを行う機械学習モデルが利用されている。機械学習モデルの運用では、時間経過に伴い、機械学習に使用した正解ラベル付きの訓練データとはデータの分布や性質などが徐々に異なってくる「コンセプトドリフト」が発生することがある。機械学習モデルは、訓練データの通りに判別や分類を行うので、コンセプトドリフトにより運用中に入力データの傾向（データ分布）が変化すると、精度が劣化する。このようなコンセプトドリフト後のデータに対応させるために、新たな訓練データを用いて機械学習モデルの再訓練が行われる。

【先行技術文献】

【非特許文献】

【0003】

【文献】Sergey Ioffe，Christian Szegedy，「Batch Normalization：Accelerating Deep Network Training by Reducing Internal Covariate Shift」，arXiv：1502.03167v3 ［cs.LG］ 2 Mar 2015

【発明の概要】

【発明が解決しようとする課題】

【0004】

しかしながら、上記技術では、機械学習モデルの精度を維持することが難しい。例えば、コンセプトドリフトが発生するたびに、逐次的に再訓練を実行することで、機械学習モデルの精度劣化を抑制することができるが、コンセプトドリフトに対応した正解ラベル付きの訓練データをその都度用意するには工数がかかる。このため、精度が劣化した場合に、訓練データが用意できるまで、精度が劣化した機械学習モデルを使用し続けることにもなる。

【0005】

一つの側面では、機械学習モデルの精度劣化を抑制することができる機械学習プログラム、機械学習方法および情報処理装置を提供することを目的とする。

【課題を解決するための手段】

【0006】

第１の案では、機械学習プログラムは、正解ラベルを含まない第１のデータの第１の機械学習モデルへの入力に応じた前記第１の機械学習モデルの第１の出力のエントロピーを含む損失関数に基づいて、前記第１の機械学習モデルの第１の位置に対応する第１の一又は複数の層のパラメータを固定しつつ第２の位置に対応する第２の一又は複数の層のパラメータを更新することによって、第２の機械学習モデルを生成し、前記第１のデータの前記第２の機械学習モデルへの入力に応じた前記第２の機械学習モデルの第２の出力のエントロピーを含む損失関数に基づいて、前記第２の機械学習モデルの前記第２の位置に対応する第３の一又は複数の層のパラメータは固定しつつ前記第１の位置に対応する第４の一又は複数の層のパラメータを更新することによって、第３の機械学習モデルを生成する、処理をコンピュータに実行させる。

【発明の効果】

【0007】

一実施形態によれば、機械学習モデルの精度劣化を抑制することができる。

【図面の簡単な説明】

【0008】

【図1】図１は、実施例１にかかる機械学習モデルを説明する図である。

【図2】図２は、機械学習モデルの出力結果のモニタリングを説明する図である。

【図3】図３は、コンセプトドリフトを説明する図である。

【図4】図４は、実施例１にかかる機械学習モデルの運用を説明する図である。

【図5】図５は、実施例１にかかる情報処理装置の機能構成を示す機能ブロック図である。

【図6】図６は、訓練データＤＢに記憶される訓練データの例を示す図である。

【図7】図７は、出力結果ＤＢに記憶される情報の例を示す図である。

【図8】図８は、事前処理を説明する図である。

【図9】図９は、運用時の訓練手法を説明する図である。

【図10】図１０は、運用時の逐次訓練を説明する図である。

【図11】図１１は、運用時のバッチ訓練を説明する図である。

【図12】図１２は、実施例１にかかる逐次訓練処理の流れを示すフローチャートである。

【図13】図１３は、実施例１にかかるバッチ訓練処理の流れを示すフローチャートである。

【図14】図１４は、精度劣化の比較を説明する図である。

【図15】図１５は、ハードウェア構成例を説明する図である。

【発明を実施するための形態】

【0009】

以下に、本発明にかかる機械学習プログラム、機械学習方法および情報処理装置の実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。また、各実施例は、矛盾のない範囲内で適宜組み合わせることができる。

【0010】

図１は、実施例１にかかる機械学習モデルを説明する図である。図１に示すように、学習フェーズでは、情報処理装置１０は、正解ラベル付きの訓練データを用いた機械学習により機械学習モデルを生成する。そして、運用フェーズでは、情報処理装置１０は、生成された機械学習モデルに、運用時に取得される入力データを入力して、多クラス分類や２クラス分類などを実行する。例えば、情報処理装置１０は、機械学習モデルを用いて、画像データに写っている人物や物を特定する。

【0011】

機械学習モデルの導入後、機械学習モデルの精度は、時間の経過に伴い劣化することがあるので、出力結果のモニタリングを行うことが多い。図２は、機械学習モデルの出力結果のモニタリングを説明する図である。図２に示すように、管理者等は、運用時の入力データの入力に応じて機械学習モデルが出力した出力結果を監視する。このとき、管理者等は、モニタリングにより通常とは異なる異常値の検出を行い、異常値が所定回数発生した場合などに機械学習モデルの再訓練が必要と判断する。また、管理者等は、モニタリングにより精度劣化の予測を行い、精度が許容精度を下回ると判断した場合に、機械学習モデルの再訓練が必要と判断する。

【0012】

時間の経過に伴う機械学習モデルの精度劣化の要因の一つは、データの分布が変化するコンセプトドリフトが挙げられる。図３は、コンセプトドリフトを説明する図である。図３に示すように、時間経過とともに、クラスＡの分布がＡ_１からＡ_２へ変化する。この場合、機械学習モデルは、クラスＡ_１に基づく機械学習を実行しているので、クラスＡ_２のデータが入力されてもクラスＡと正確に識別することができない。なお、コンセプトドリフトによるデータの変化例としては、スパムフィルタにフィルタリングされないように変化するメールスパム、電気需要や株価、夏から冬や朝から夜などのように変化する撮像環境に依存する画像データなどが挙げられる。

【0013】

このようなコンセプトドリフト後のデータに機械学習モデルを追従させるために、新たな訓練データを用いて機械学習モデルの再訓練が行われるが、コンセプトドリフトに対応した正解ラベル付きの新たな訓練データをその都度用意するには工数がかかる。

【0014】

なお、コンセプトドリフトに追従させる技術として、半教師学習も知られている。半教師学習は、データの分布が同じという仮定のもとで、大量のラベルが付いていないデータを用いて学習を行う手法である。ただし、コンセプトドリフトのようなデータの分布が変化する場合に、半教師学習を適用すると精度が逆に劣化にしてしまう。なぜなら、正解ラベルのない運用データは、正解ラベルがある学習データに比べて非常に少なく、少量の運用データかつ分布が変化した運用データを用いて半教師学習を実行すると過学習が起こり、精度劣化を引き起こすからである。

【0015】

そこで、実施例１にかかる情報処理装置１０は、機械学習モデルの運用中のコンセプトドリフトを正解ラベルなしで追従するために、特定の層（レイヤー）ごとに順番に、射影空間のデータ分布を高密度な射影を形成するための損失関数を適用させることで、コンセプトドリフトに精度よく追従させる。

【0016】

図４は、実施例１にかかる機械学習モデルの運用を説明する図である。図４に示すように、学習フェーズでは、情報処理装置１０は、正解ラベル付きの訓練データを用いた機械学習により機械学習モデルを生成する。運用フェーズでは、情報処理装置１０は、運用時の入力データを機械学習モデルに入力して機械学習モデルの機械学習を実行し、機械学習後の機械学習モデルに入力データを入力して、多クラス分類や２クラス分類などを実行する。

【0017】

例えば、情報処理装置１０は、運用データである正解ラベルを含まない第１のデータの第１の機械学習モデルへの入力に応じた第１の機械学習モデルの第１の出力のエントロピーを含む損失関数に基づいて、第１の機械学習モデルの第１の位置に対応する第１の一又は複数の層のパラメータを固定しつつ第２の位置に対応する第２の一又は複数の層のパラメータを更新することによって、第１の機械学習モデルを更新した第２の機械学習モデルを生成する。

【0018】

また、情報処理装置１０は、第１のデータの第２の機械学習モデルへの入力に応じた第２の機械学習モデルの第２の出力のエントロピーを含む損失関数に基づいて、第２の機械学習モデルの第２の位置に対応する第３の一又は複数の層のパラメータは固定しつつ第１の位置に対応する第４の一又は複数の層のパラメータを更新することによって、第２の機械学習モデルを更新した第３の機械学習モデルを生成する。

【0019】

すなわち、情報処理装置１０は、訓練データと比べて少ない運用データを用いた教師なしの機械学習を実行する際に、機械学習モデル１４が有する更新対象のパラメータの数が異なる複数の層を一気に更新するのではなく、段階的に更新することで、過学習による精度劣化を抑制する。

【0020】

そして、情報処理装置１０は、生成された第３の機械学習モデルに第１のデータを再度入力し、第３の機械学習モデルの出力結果に基づき、第１のデータに対する予測を実行する。

【0021】

このように、情報処理装置１０は、機械学習モデルの運用中に、内部空間が高密度になりやすい学習ができる損失関数（Conditional Entropy Minimization）を特定のレイヤーごとに順番に適用することで、運用と訓練とを並行して実行することができ、機械学習モデルの精度劣化を抑制することができる。

【0022】

図５は、実施例１にかかる情報処理装置１０の機能構成を示す機能ブロック図である。図５に示すように、情報処理装置１０は、通信部１１、記憶部１２、制御部２０を有する。

【0023】

通信部１１は、他の装置との間の通信を制御する。例えば、通信部１１は、サーバ、カメラ、管理者端末などの外部装置から、機械学習モデルによる予測対象の運用データを受信する。

【0024】

記憶部１２は、各種データや制御部２０が実行するプログラムなどを記憶する。例えば、記憶部１２は、訓練データＤＢ１３、機械学習モデル１４、出力結果ＤＢ１５を記憶する。

【0025】

訓練データＤＢ１３は、機械学習モデル１４の機械学習に用いられる訓練データを記憶する。図６は、訓練データＤＢ１３に記憶される訓練データの例を示す図である。図６に示すように、訓練データＤＢ１３に記憶される各訓練データは、「入力データ、正解ラベル」を有する。

【0026】

ここで、「入力データ」は、機械学習の説明変数であり、例えば画像データなどである。「正解ラベル」は、機械学習の目的変数であり、例えば画像データに写っている人物などである。図６の例では、データＡ１とラベルＡとが対応付けられた訓練データを図示している。例えば、訓練データＤＢ１３は、画像分類などの機械学習モデル１４を生成する場合には、訓練データとして、正解ラベル「犬」が付与された画像データや正解ラベル「猫」が付与された画像データなどを記憶する。

【0027】

機械学習モデル１４は、機械学習により生成されるモデルである。例えば、機械学習モデル１４は、ディープニューラルネットワーク（DNN：Deep Neural Network）などを用いたモデルであり、ニューラルネットワークや他の機械学習アルゴリズムを採用することができる。なお、本実施例では、後述する制御部により機械学習モデル１４が生成される例を説明するが、他の装置で生成されたものでもよい。

【0028】

出力結果ＤＢ１５は、機械学習モデル１４の運用により得られた出力結果を記憶する。具体的には、出力結果ＤＢ１５は、機械学習モデル１４により予測された予測結果を記憶する。図７は、出力結果ＤＢ１５に記憶される情報の例を示す図である。図７に示すように、出力結果ＤＢ１５は、「運用データ、出力結果」を対応付けて記憶する。ここで、「運用データ」は、機械学習モデル１４に入力された予測対象のデータであり、「出力結果」は、機械学習モデル１４により予測された予測結果である。図７の例では、機械学習モデル１４にデータＸを入力して、出力結果Ｘが取得されたことが示されている。

【0029】

制御部２０は、情報処理装置１０全体を司る処理部である。例えば、制御部２０は、事前処理部２１、運用処理部２２を有する。

【0030】

事前処理部２１は、機械学習モデル１４の運用前の事前処理として、機械学習モデル１４を生成する。具体的には、事前処理部２１は、訓練データＤＢ１３に記憶される各訓練データを用いた機械学習により、機械学習モデル１４の各種パラメータを更新することで、機械学習モデル１４を生成する。

【0031】

図８は、事前処理を説明する図である。図８に示すように、事前処理部２１は、訓練データＤＢ１３の訓練データ「データＡ１、ラベルＡ」を機械学習モデル１４に入力し、機械学習モデル１４の出力結果と正解ラベル「ラベルＡ」との誤差が小さくなるように、機械学習モデル１４の機械学習を実行する。

【0032】

運用処理部２２は、予測部２３と機械学習部２４を有し、機械学習モデル１４による予測と機械学習モデル１４の再訓練とを実行する。

【0033】

予測部２３は、生成された機械学習モデル１４を用いて予測を実行する。例えば、予測部２３は、予測対象の運用データＸを受信すると、運用データＸを機械学習モデル１４に入力して出力結果Ｘを取得する。そして、予測部２３は、「運用データＸ」と「出力結果Ｘ」と対応付けて出力結果ＤＢ１５に格納する。

【0034】

機械学習部２４は、機械学習モデル１４の運用中に、運用データを用いた機械学習により機械学習モデル１４の訓練を実行する。すなわち、機械学習部２４は、運用開始後に、機械学習モデル１４の再訓練を行って、機械学習モデル１４を更新する。

【0035】

具体的には、機械学習部２４は、運用データの機械学習モデル１４の入力に応じた機械学習モデル１４の第１の出力のエントロピーを含む損失関数に基づいて、機械学習モデル１４の第１の位置に対応する第１の一又は複数の層のパラメータを固定しつつ第２の位置に対応する第２の一又は複数の層のパラメータを更新する。このようにして、機械学習部２４は、機械学習モデル１４における第２の位置の層のパラメータが更新された、第２の機械学習モデルの一例である更新後の機械学習モデル１４を生成する。

【0036】

続いて、機械学習部２４は、同じ運用データの更新後の機械学習モデル１４への入力に応じた更新後の機械学習モデル１４の第２の出力のエントロピーを含む損失関数に基づいて、更新後の機械学習モデル１４の第２の位置に対応する第３の一又は複数の層のパラメータは固定しつつ第１の位置に対応する第４の一又は複数の層のパラメータを更新する。このようにして、機械学習部２４は、更新後の機械学習モデル１４における第１の位置の層のパラメータがさらに更新された、第３の機械学習モデルの一例である更新後の機械学習モデル１４を生成する。

【0037】

例えば、機械学習モデル１４に、ＢＮ（Batch Normalization）層とＦＣ（Fully Connected）層とが含まれる例で説明する。この場合、機械学習部２４は、機械学習モデル１４の第１の位置に対応する一又は複数のＦＣ層のパラメータを固定しつつ、機械学習モデル１４の第２の位置に対応する一又は複数のＢＮ層のパラメータを、運用データを用いた教師なし学習により更新して、機械学習モデル１４を更新する。続いて、機械学習部２４は、更新後の機械学習モデル１４の第２の位置に対応する一又は複数のＢＮ層の更新後のパラメータを固定しつつ、機械学習モデル１４の第１の位置に対応する一又は複数のＦＣ層のパラメータを、運用データを用いた教師なし学習により更新して、機械学習モデル１４をさらに更新する。

【0038】

ここで、運用時の機械学習について詳細に説明する。図９は、運用時の訓練手法を説明する図である。図９に示すように、機械学習モデル１４には、ＢＮ層とＦＣ層とが含まれる。ここで、ＢＮ層は、バッチごとの入力の平均を０、標準偏差を１にするよう正規化する層であり、Future Extractorの中の一部で、通常、畳み込み層の間と間に何層か存在する。なお、層の数はモデルのアーキテクチャにより変わる。ＦＣ層は、Future Extractorで特徴量抽出が行われたあとにその特徴を使用して実際に分類する全結合層のことであり、この全結合層（通常１～３層）は最終層として配置され、予想クラス数分のアウトプットを行う。

【0039】

そこで、機械学習部２４は、ＢＮ層以外の各層のパラメータが更新されないように固定しつつＢＮ層のパラメータを更新する更新処理（Ｎ－Ｓｔｅｐ）と、ＦＣ層以外の各層のパラメータが更新されないように固定しつつＦＣ層のパラメータを更新する更新処理（ＦＣ－Ｓｔｅｐ）とを順番に実行する。このＮ－Ｓｔｅｐは、正規化したあとにアフィン変換がかかるがそのときのパラメータのみを調整する更新処理であり、ＦＣ－Ｓｔｅｐは、ＦＣ層の重みを直接調整する更新処理である。

【0040】

また、Ｎ－ＳｔｅｐおよびＦＣ－Ｓｔｅｐで使用する損失関数には、式（１）に示す条件付きエントロピーを最小化するように重みを更新する損失関数を採用することができる。式（１）におけるＣはクラス数、ｙハットは正解ラベルではなく機械学習モデル１４の予測クラスである。この場合、機械学習部２４は、深層学習の空間内で、同じクラスに分類されるデータ間が集まるように機械学習を実行する。

【0041】

【数1】

【0042】

なお、損失関数には、Pseudo Labelingを採用することもできる。この場合、交差エントロピーを使用することになるが、交差エントロピーは通常、正解ラベルが使用される。そこで、本実施例では、正解ラベルｙではなく、代わりにモデルの予測ｙハットを用いて交差エントロピーの算出が行われる。別例として、Virtual Adversarial Trainingを採用することもできる。この場合、分類として間違い易い方向の摂動（ノイズ）を加え、ノイズ前とノイズ挿入後のＫＬ距離（Kullback－Leibler divergence）を最小化するように機械学習が実行される。

【0043】

上述したように、情報処理装置１０は、機械学習モデル１４の運用フェーズでは、予測と機械学習（再訓練）を実行することで、コンセプトドリフトに追従することができる。ここで、情報処理装置１０は、運用フェーズにおける機械学習を、運用データごとに逐次的に実行することもでき、ある程度の運用データをまとめてバッチ処理で実行することもできるので、その詳細について説明する。なお、情報処理装置１０は、いずれに手法により機械学習モデル１４の更新を行う場合でも、Ｎ－ＳｔｅｐとＦＣ－Ｓｔｅｐとを交互に、指定されたイテレーション数分実行し、学習率を徐々に低下させていく。

【0044】

図１０は、運用時の逐次訓練を説明する図である。図１０に示すように、運用処理部２２は、運用データが入力されるごとに、機械学習モデル１４の機械学習を実行し、パラメータ更新後の機械学習モデル１４を用いて予測を実行することができる。

【0045】

例えば、運用処理部２２は、運用データＸを受信すると、運用データＸを訓練データに用いたＮ－Ｓｔｅｐにより、機械学習モデル１４のＢＮ層のパラメータを更新する。続いて、運用処理部２２は、ＢＮ層が更新された機械学習モデル１４に対して、同じ運用データＸを訓練データに用いたＦＣ－Ｓｔｅｐにより、機械学習モデル１４のＦＣ層のパラメータを更新する。そして、運用処理部２２は、ＢＮ層、ＦＣ層の順に更新された機械学習モデル１４に運用データＸを入力し、出力結果Ｘを取得する。

【0046】

その後、運用処理部２２は、新たな運用データＹを受信すると、運用データＹを訓練データに用いたＮ－Ｓｔｅｐにより、機械学習モデル１４のＢＮ層のパラメータを更新する。続いて、運用処理部２２は、ＢＮ層が更新された機械学習モデル１４に対して、同じ運用データＹを訓練データに用いたＦＣ－Ｓｔｅｐにより、機械学習モデル１４のＦＣ層のパラメータを更新する。そして、運用処理部２２は、ＢＮ層、ＦＣ層の順に更新された機械学習モデル１４に運用データＹを入力し、出力結果Ｙを取得する。

【0047】

さらにその後、運用処理部２２は、新たな運用データＺを受信すると、運用データＺを訓練データに用いたＮ－Ｓｔｅｐにより、機械学習モデル１４のＢＮ層のパラメータを更新する。続いて、運用処理部２２は、ＢＮ層が更新された機械学習モデル１４に対して、同じ運用データＺを訓練データに用いたＦＣ－Ｓｔｅｐにより、機械学習モデル１４のＦＣ層のパラメータを更新する。そして、運用処理部２２は、ＢＮ層、ＦＣ層の順に更新された機械学習モデル１４に運用データＺを入力し、出力結果Ｚを取得する。

【0048】

このように、情報処理装置１０は、逐次的に機械学習を実行することで、コンフリクトドリフトにリアルタイムに追従することができ、機械学習モデル１４の精度を高精度に維持することができる。

【0049】

図１１は、運用時のバッチ訓練を説明する図である。図１１に示すように、運用処理部２２は、運用データが入力されるごとに予測を実行し、一定数の運用データに対する処理が完了した場合や運用開始から一定時間経過した場合に、バッチ処理により機械学習モデル１４の機械学習を実行し、機械学習モデル１４のパラメータを更新することができる。

【0050】

例えば、運用処理部２２は、運用データＸ１を受信すると、運用データＸ１を機械学習モデル１４に入力し、出力結果Ｘ１を取得する。このような予測処理が運用データＸＡに対してまで実行される。その後、バッチ処理のタイミングになると、運用処理部２２は、それまでに受信された運用データＸ１から運用データＸＡまでの各データを訓練データに用いたＮ－Ｓｔｅｐにより、機械学習モデル１４のＢＮ層のパラメータを更新する。続いて、運用処理部２２は、ＢＮ層が更新された機械学習モデル１４に対して、同じ運用データＸ１から運用データＸＡまでの各データを訓練データに用いたＦＣ－Ｓｔｅｐにより、機械学習モデル１４のＦＣ層のパラメータを更新する。運用処理部２２は、指定されたイテレーション数のＮ－ＳｔｅｐとＦＣ－Ｓｔｅｐとを繰り返したのち、ＢＮ層、ＦＣ層の順に更新された機械学習モデル１４を用いて、その後の運用データに対する予測を再開する。

【0051】

その後、運用処理部２２は、運用データＸＢを受信すると、運用データＸＢを機械学習モデル１４に入力し、出力結果ＸＢを取得して予測を実行する。このような予測処理が運用データＸＣに対してまで実行される。その後、バッチ処理のタイミングになると、運用処理部２２は、再開後に受信された運用データＸＢから運用データＸＣまでの各データを訓練データに用いたＮ－Ｓｔｅｐにより、機械学習モデル１４のＢＮ層のパラメータを更新する。続いて、運用処理部２２は、ＢＮ層が更新された機械学習モデル１４に対して、同じ運用データＸＢから運用データＸＣまでの各データを訓練データに用いたＦＣ－Ｓｔｅｐにより、機械学習モデル１４のＦＣ層のパラメータを更新する。運用処理部２２は、指定されたイテレーション数のＮ－ＳｔｅｐとＦＣ－Ｓｔｅｐとを繰り返したのち、ＢＮ層、ＦＣ層の順に更新された機械学習モデル１４を用いて、その後の運用データに対する予測を再開する。

【0052】

このように、情報処理装置１０は、バッチ処理で機械学習を実行することで、高速な予測処理を維持しつつコンフリクトドリフトに追従することができ、精度と処理速度との両立を図ることができる。

【0053】

図１２は、実施例１にかかる逐次訓練処理の流れを示すフローチャートである。なお、イテレーション数が１である例で説明するが、イテレーション数は任意に設定変更することができる。

【0054】

図１２に示すように、事前処理部２１は、処理開始が指示されると（Ｓ１０１：Ｙｅｓ）、訓練データを用いて機械学習モデル１４を生成する（Ｓ１０２）。

【0055】

その後、運用処理部２２は、運用データを受信すると（Ｓ１０３：Ｙｅｓ）、運用データを機械学習モデル１４に入力して順伝播を実行し、機械学習モデル１４の出力を得る（Ｓ１０４）。続いて、運用処理部２２は、順伝播の結果を用いて、ＢＮ層のみにエントロピーを最小化するように誤差逆伝播を実行し、ＢＮ層のパラメータを更新する（Ｓ１０５）。

【0056】

さらに、運用処理部２２は、運用データを機械学習モデル１４に入力して順伝播を実行し、機械学習モデル１４の出力を得る（Ｓ１０６）。続いて、運用処理部２２は、順伝播の結果を用いて、ＦＣ層のみにエントロピーを最小化するように誤差逆伝播を実行し、ＦＣ層のパラメータを更新する（Ｓ１０７）。

【0057】

その後、運用処理部２２は、ＢＮ層、ＦＣ層が順番に更新された機械学習モデル１４に、運用データを再度入力して順伝播させて予測を実行し（Ｓ１０８）、出力結果（予測結果）を取得する（Ｓ１０９）。

【0058】

そして、運用を継続する場合（Ｓ１１０：Ｎｏ）、Ｓ１０３以降が繰り返され、運用を終了する場合（Ｓ１１０：Ｙｅｓ）、運用処理部２２は、処理を終了する。なお、Ｓ１０４からＳ１０７は、指定されたイテレーション数分実行される。

【0059】

図１３は、実施例１にかかるバッチ訓練処理の流れを示すフローチャートである。図１３に示すように、事前処理部２１は、処理開始が指示されると（Ｓ２０１：Ｙｅｓ）、訓練データを用いて機械学習モデル１４を生成する（Ｓ２０２）。

【0060】

そして、バッチ処理タイミングではなく（Ｓ２０３：Ｎｏ）、運用データを受信した場合（Ｓ２０４：Ｙｅｓ）、運用処理部２２は、機械学習モデル１４に運用データを入力して予測を実行し（Ｓ２０５）、出力結果を取得する（Ｓ２０６）。

【0061】

その後、運用を継続する場合（Ｓ２０７：Ｎｏ）、Ｓ２０３以降が繰り返され、運用を終了する場合（Ｓ２０７：Ｙｅｓ）、運用処理部２２は、処理を終了する。

【0062】

一方、Ｓ２０４において、運用処理部２２は、運用データを受信しない場合（Ｓ２０４：Ｎｏ）、Ｓ２０３以降を繰り返す。

【0063】

また、Ｓ２０３において、運用処理部２２は、バッチ処理タイミングである場合（Ｓ２０３：Ｙｅｓ）、バッチ処理を実行して機械学習モデル１４を更新し（Ｓ２０８）、Ｓ２０４以降を実行する。なお、バッチ処理は、図１２のＳ１０４からＳ１０７に対応し、指定されたイテレーション数分実行される。

【0064】

上述したように、情報処理装置１０は、運用前に生成された元の機械学習モデル１４のアーキテクチャを変えることなく、機械学習モデル１４の一部のレイヤーの重みの調整だけで、コンセプトドリフトに追従することができる。また、情報処理装置１０は、運用中に、コンセプトドリフト検出用に他の機械学習モデルや、コンセプトドリフト追従用に他の機械学習モデルを用意する必要がないので、運用中の機械学習モデル１４のコンセプトドリフトへの適用による精度劣化の抑制と迅速な予測を両立させることができる。

【0065】

ここで、正解ラベル付きのオープンデータセットにより訓練した各機械学習モデルに対して、コンセプトドリフトを発生させた場合の精度劣化の検証結果を説明する。各機械学習モデルには、訓練データ後の再訓練を行わない元モデル、ＴＴＮ（Tree Tensor Network）を用いた機械学習モデル、ＰＬ（Pseudo－Label）法を用いた機械学習モデル、実施例１による手法であってＮ－Ｓｔｅｐ、ＦＣ－Ｓｔｅｐの順に更新した機械学習モデル、実施例１による手法であってＦＣ－Ｓｔｅｐ、Ｎ－Ｓｔｅｐの順に更新した機械学習モデルを準備した。また、コンセプトドリフトは、オープンデータセットの各画像データに対して、ガウスノイズ、ショットノイズ、インパルスノイズ、デフォーカスブラー、グラスブラーのそれぞれを用いて、何らかのノイズを付加した画像データを生成した。

【0066】

検証は、訓練に使用した画像データとノイズが付加された画像データとを各機械学習モデルに入力したときの出力結果のエラー率を評価した。図１４は、精度劣化の比較を説明する図である。図１４に示すように、各ノイズが付加された画像データについて、元モデル、ＴＮＴ法、ＰＬ法のいずれよりも、実施例１による手法が、エラー率が少ないことが検証された。また、実施例１による手法では、ＢＮ層を更新するＮ－Ｓｔｅｐを先に実行した方がエラー率も若干小さいこともわかった。上述したように、実施例１による手法は、参考となる他のいずれの手法と比較しても、機械学習モデルの精度劣化を抑制することができる。

【0067】

上記実施例で用いたデータ例、数値例、層数例、各ＤＢの情報等は、あくまで一例であり、任意に変更することができる。また、情報処理装置１０は、Ｎ－ＳｔｅｐとＦＣ－Ｓｔｅｐのいずれを先に実行してもよい。

【0068】

また、運用中の機械学習（再訓練）の対象は、ＢＮ層とＦＣ層とに限ったものではない。例えば、情報処理装置１０は、機械学習モデル１４が有する各層を、パラメータ数が所定値未満である第１の層群とパラメータ数が所定値以上である第２の層群とに分類する。そして、情報処理装置１０は、運用データを用いた機械学習により、第２の属性群の各層のパラメータを固定しつつ第１の属性の各層のパラメータ更新を実行した後、第１の属性群の各層のパラメータを固定しつつ第２の属性の各層のパラメータ更新を実行することもできる。

【0069】

また、上記実施例では、訓練データを用いて生成された機械学習モデル１４の運用中を例にして説明したが、実施例１で説明したＮ－Ｓｔｅｐなどの手法の適用場面は、運用中に限ったことではない。例えば、訓練データとは異なる環境に機械学習モデル１４を適用する場合に、適用（運用）に先立って、適用先のデータを用いた上記Ｎ－ＳｔｅｐおよびＦＣ－Ｓｔｅｐを実行して、運用開始前に機械学習モデル１４を適用環境に予め適用させることもできる。なお、異なる環境としては、画像データの撮像環境や画像データを撮像するカメラの解像度を含む性能などが挙げられる。

【0070】

上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更されてもよい。

【0071】

また、各装置の構成要素の分散や統合の具体的形態は図示のものに限られない。例えば、事前処理部２１と運用処理部２２とが統合されてもよい。つまり、その構成要素の全部または一部は、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合されてもよい。さらに、各装置の各処理機能は、その全部または任意の一部が、ＣＰＵおよび当該ＣＰＵにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。

【0072】

図１５は、ハードウェア構成例を説明する図である。図１５に示すように、情報処理装置１０は、通信装置１０ａ、ＨＤＤ（Hard Disk Drive）１０ｂ、メモリ１０ｃ、プロセッサ１０ｄを有する。また、図１５に示した各部は、バス等で相互に接続される。

【0073】

通信装置１０ａは、ネットワークインタフェースカードなどであり、他の装置との通信を行う。ＨＤＤ１０ｂは、図５に示した機能を動作させるプログラムやＤＢを記憶する。

【0074】

プロセッサ１０ｄは、図５に示した各処理部と同様の処理を実行するプログラムをＨＤＤ１０ｂ等から読み出してメモリ１０ｃに展開することで、図５等で説明した各機能を実行するプロセスを動作させる。例えば、このプロセスは、情報処理装置１０が有する各処理部と同様の機能を実行する。具体的には、プロセッサ１０ｄは、事前処理部２１と運用処理部２２等と同様の機能を有するプログラムをＨＤＤ１０ｂ等から読み出す。そして、プロセッサ１０ｄは、事前処理部２１と運用処理部２２等と同様の処理を実行するプロセスを実行する。

【0075】

このように、情報処理装置１０は、プログラムを読み出して実行することで機械学習方法を実行する情報処理装置として動作する。また、情報処理装置１０は、媒体読取装置によって記録媒体から上記プログラムを読み出し、読み出された上記プログラムを実行することで上記した実施例と同様の機能を実現することもできる。なお、この他の実施例でいうプログラムは、情報処理装置１０によって実行されることに限定されるものではない。例えば、他のコンピュータまたはサーバがプログラムを実行する場合や、これらが協働してプログラムを実行するような場合にも、上記実施例が同様に適用されてもよい。

【0076】

このプログラムは、インターネットなどのネットワークを介して配布されてもよい。また、このプログラムは、ハードディスク、フレキシブルディスク（ＦＤ）、ＣＤ－ＲＯＭ、ＭＯ（Magneto－Optical disk）、ＤＶＤ（Digital Versatile Disc）などのコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行されてもよい。

【符号の説明】

【0077】

１０ 情報処理装置
１１ 通信部
１２ 記憶部
１３ 訓練データＤＢ
１４ 機械学習モデル
１５ 出力結果ＤＢ
２０ 制御部
２１ 事前処理部
２２ 運用処理部
２３ 予測部
２４ 機械学習部

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】