特許 7593115 機械学習プログラム、機械学習方法及び機械学習装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-11-25

(45)【発行日】2024-12-03

(54)【発明の名称】機械学習プログラム、機械学習方法及び機械学習装置

(51)【国際特許分類】

   G06N 20/00 20190101AFI20241126BHJP

【ＦＩ】

G06N20/00 130

【請求項の数】 7

(21)【出願番号】P 2021000550

(22)【出願日】2021-01-05

(65)【公開番号】P2022105916

(43)【公開日】2022-07-15

【審査請求日】2023-09-07

(73)【特許権者】

【識別番号】000005223

【氏名又は名称】富士通株式会社

(74)【代理人】

【識別番号】110002147

【氏名又は名称】弁理士法人酒井国際特許事務所

(72)【発明者】

【氏名】成田 顕一郎

【審査官】福西 章人

(56)【参考文献】

【文献】特開２０２０－１４６４３３（ＪＰ，Ａ）

【文献】国際公開第２０１６／１５１６１８（ＷＯ，Ａ１）

【文献】特表２０１８－５１３４９０（ＪＰ，Ａ）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ３／００－９９／００

Ｇ０６Ｆ １８／００－１８／４０

(57)【特許請求の範囲】

【請求項1】

第１の機械学習モデルのパラメータを更新することによって生成された一又は複数の機械学習モデルのうち第２の機械学習モデルへ第１データを入力して、前記第２の機械学習モデルが算出した前記第１データの特徴量の第１の分布を特定し、
前記第１の分布と、前記一又は複数の機械学習モデルのそれぞれが生成される際のパラメータの更新に使用された訓練データについて、前記一又は複数の機械学習モデルのそれぞれが算出した前記訓練データの特徴量の分布とを比較し、
前記比較の結果に基づいて、前記一又は複数の機械学習モデルから特定の機械学習モデルを選択し、
前記第１データの特徴量に基づいてラベル付けされた特定の訓練データに基づいて、前記特定の機械学習モデルのパラメータを更新することによって、新しい機械学習モデルを生成する、
処理をコンピュータに実行させることを特徴とする機械学習プログラム。

【請求項2】

前記比較する処理は、前記一又は複数の機械学習モデルを含むモデル情報を参照することによって実行され、
前記新しい機械学習モデルを前記特定の訓練データの特徴量の分布と対応付けて前記モデル情報に追加する処理をさらに前記コンピュータに実行させる、
ことを特徴とする請求項１に記載の機械学習プログラム。

【請求項3】

前記第１の分布は、前記第１データを前記第２の機械学習モデルに入力して得られた判定結果と、前記第１データの特徴量とに基づいて前記第１データをクラスタリングすることによって作成したクラスタの中心座標及び密度を含み、
前記比較する処理は、前記第１の分布の中心座標及び密度と、前記一又は複数の機械学習モデルのそれぞれに対応付けられたクラスタの中心座標及び密度とを比較する処理を含む、
ことを特徴とする請求項１に記載の機械学習プログラム。

【請求項4】

特定された前記第１の分布に基づいて前記第２の機械学習モデルの出力精度が劣化したか否かを判定する処理をさらに前記コンピュータに実行させ、
前記比較する処理は、前記判定する処理により前記第２の機械学習モデルが劣化したと判定された場合に、実行される、ことを特徴とする請求項１、２又は３に記載の機械学習プログラム。

【請求項5】

前記機械学習モデルは、ニューラルネットワークを含み、
前記特徴量は、前記ニューラルネットワークの出力層のニューロンが出力する値である、
ことを特徴とする請求項１～４のいずれか１つに記載の機械学習プログラム。

【請求項6】

第１の機械学習モデルのパラメータを更新することによって生成された一又は複数の機械学習モデルのうち第２の機械学習モデルへ第１データを入力して、前記第２の機械学習モデルが算出した前記第１データの特徴量の第１の分布を特定し、
前記第１の分布と、前記一又は複数の機械学習モデルのそれぞれが生成される際のパラメータの更新に使用された訓練データについて、前記一又は複数の機械学習モデルのそれぞれが算出した前記訓練データの特徴量の分布とを比較し、
前記比較の結果に基づいて、前記一又は複数の機械学習モデルから特定の機械学習モデルを選択し、
前記第１データの特徴量に基づいてラベル付けされた特定の訓練データに基づいて、前記特定の機械学習モデルのパラメータを更新することによって、新しい機械学習モデルを生成する、
処理をコンピュータが実行することを特徴とする機械学習方法。

【請求項7】

第１の機械学習モデルのパラメータを更新することによって生成された一又は複数の機械学習モデルのうち第２の機械学習モデルへ第１データを入力して、前記第２の機械学習モデルが算出した前記第１データの特徴量の第１の分布を特定し、
前記第１の分布と、前記一又は複数の機械学習モデルのそれぞれが生成される際のパラメータの更新に使用された訓練データについて、前記一又は複数の機械学習モデルのそれぞれが算出した前記訓練データの特徴量の分布とを比較し、
前記比較の結果に基づいて、前記一又は複数の機械学習モデルから特定の機械学習モデルを選択し、
前記第１データの特徴量に基づいてラベル付けされた特定の訓練データに基づいて、前記特定の機械学習モデルのパラメータを更新することによって、新しい機械学習モデルを生成する制御部
を含むことを特徴とする機械学習装置。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、機械学習プログラム、機械学習方法及び機械学習装置に関する。

【背景技術】

【0002】

訓練データを用いて作成された機械学習モデルに基づいて分類、予測などを行う場合、運用開始後に、コンセプトドリフトにより、精度の劣化が発生することがある。ここで、コンセプトドリフトとは、機械学習モデルを訓練する際に使われていた訓練データと運用開始後に入力されるデータとのあいだでデータ分布の変化が生じることである。

【0003】

図１２は、コンセプトドリフトを説明するための図である。図１２に示すように、コンセプトドリフトには、突然ドリフト（Sudden Drift）、段階的ドリフト（Gradual Drift）及び漸進的ドリフト（Incremental Drift）がある。突然ドリフトは、データの分布が突然変わるドリフトである。段階的ドリフトは、データの分布が段階的に変わるドリフトである。漸進的ドリフトは、データの分布が漸進的に変わるドリフトである。コンセプトドリフトの中で漸進的ドリフトはデータが少しずつ変化するため特に検出が難しい。

【0004】

データの分布の経年変化による機械学習モデルの精度低下を防ぐため、定期的に機械学習モデルの再訓練が行われる。ただし、システムにて運用中の運用モデル自体を再訓練により更新することは、システムの安定的な運用を考慮すると現実的ではない。そこで、運用モデルと並列に更新モデルを用意することが行われる。初期の更新モデルは、運用モデルをコピーすることで作成される。更新モデルは、コンセプトドリフトに対応するように更新される。更新モデルの更新は、例えば定期的に行われ、複数の更新モデルが時系列で生成されてもよい。そして、適宜、運用モデルを更新モデルに置き換えることによって、精度劣化が抑制される。

【0005】

なお、従来技術として、自動化プロセスのコンテキストを含むプロセスデータによってトレーニングされる自動化システムのための機械学習モデルに関し、コンセプトドリフトがある場合に、学習モデルをポストドリフトプロセスデータで再トレーニングする技術がある。

【0006】

また、ストリーム処理において入力データの性質変化により学習モデルが更新される場合に、入力データと学習モデルとのタイミングの不整合が生じることで学習モデルを用いた予測処理結果の精度が低下することを防止する従来技術がある。ここで、ストリーム処理とは、リアルタイムの入力データに対してタイムリーに処理結果を返す処理である。

【0007】

また、従来技術として、トレーニングデータセットのデータ分布を計算し、計算したデータ分布に新しいデータが従う尤度を計算し、計算した尤度が第１の閾値よりも小さい回数が第２の閾値を超えた場合に機械学習モデルを再トレーニングする技術がある。

【先行技術文献】

【特許文献】

【0008】

【文献】特表２０１８－５１３４９０号公報

【文献】特開２０１７－０６８７１０号公報

【文献】米国特許出願公開第２０１８／０２８５７７２号明細書

【発明の概要】

【発明が解決しようとする課題】

【0009】

運用モデルに対して運用中のデータに基づいてモデルのパラメータが更新された更新モデルを用意しておき、コンセプトドリフトにより運用モデルの精度が劣化した場合に更新モデルへ切り替えることによって、精度劣化を抑制することができる。その際、コンセプトドリフトに追従するためには、より新しいデータに基づいて更新を行う方がよい。したがって、最新のデータに基づいて更新モデルを更新し、更新した更新モデルで運用モデルを置き換えることが行われる。しかしながら、更新モデルの更新処理に時間がかかると、精度が劣化した運用モデルを使用し続けるという問題がある。

【0010】

図１３は、更新モデルの更新処理に時間がかかることで精度が劣化した運用モデルを使用し続ける問題を説明するための図である。図１３は、リアルタイムに画像を判定する場合を示す。図１３に示すように、運用モデルに基づいて、入力センサからの画像データに対して、リアルタイム画像判定が行われる。

【0011】

運用モデルの精度が落ちると、更新モデルの更新が開始され、運用中に更新モデルの更新が行われる。そして、何回かの更新モデルの更新が行われた後、運用モデルの更新が決定されると、最後に更新モデルが更新され、最後に更新された更新モデルで運用モデルが更新される。ただし、更新モデルの更新に時間がかかると、最後の更新モデルの更新が完了して運用モデルが更新されるまでは更新前の運用モデルの使用が継続される。

【0012】

本発明は、１つの側面では、更新モデルの更新時間を短縮することを目的とする。

【課題を解決するための手段】

【0013】

１つの態様では、機械学習プログラムは、コンピュータに、第１の機械学習モデルのパラメータを更新することによって生成された一又は複数の機械学習モデルのうち第２の機械学習モデルへ第１データを入力する処理を実行させる。そして、前記機械学習プログラムは、前記コンピュータに、前記第２の機械学習モデルが算出した前記第１データの特徴量の第１の分布を特定する処理を実行させる。そして、前記機械学習プログラムは、前記コンピュータに、前記第１の分布と、前記一又は複数の機械学習モデルのそれぞれが生成される際のパラメータの更新に使用された訓練データについて、前記一又は複数の機械学習モデルのそれぞれが算出した前記訓練データの特徴量の分布とを比較する処理を実行させる。そして、前記機械学習プログラムは、前記コンピュータに、前記比較の結果に基づいて、前記一又は複数の機械学習モデルから特定の機械学習モデルを選択する処理を実行させる。そして、前記機械学習プログラムは、前記コンピュータに、前記データの特徴量に基づいてラベル付けされた特定の訓練データに基づいて、前記特定の機械学習モデルのパラメータを更新することによって、新しい機械学習モデルを生成する処理を実行させる。

【発明の効果】

【0014】

１つの側面では、本発明は、更新モデルの更新時間を短縮することができる。

【図面の簡単な説明】

【0015】

【図1】図１は、実施例１に係る機械学習装置の機能構成を示す図である。

【図2】図２は、実施例２に係る分類システムの構成を示す図である。

【図3】図３は、ＨＤＬ技術を説明するための図である。

【図4】図４は、密度に基づくクラスタリングを説明するための図である。

【図5A】図５Ａは、モデル管理部が管理する複数のモデルを説明するための第１の図である。

【図5B】図５Ｂは、モデル管理部が管理する複数のモデルを説明するための第２の図である。

【図6】図６は、実施例２に係る機械学習装置の機能構成を示す図である。

【図7】図７は、クラスタの情報を示す図である。

【図8】図８は、過去モデル記憶部の一例を示す図である。

【図9】図９は、劣化検知部による処理のフローを示すフローチャートである。

【図10】図１０は、ドリフト対応モデルの更新処理のシーケンスを示す図である。

【図11】図１１は、実施例１及び２に係る機械学習プログラムを実行するコンピュータのハードウェア構成を示す図である。

【図12】図１２は、コンセプトドリフトを説明するための図である。

【図13】図１３は、ＨＤＬモデルの更新処理に時間がかかることで精度が劣化した運用モデルを使用し続ける問題を説明するための図である。

【発明を実施するための形態】

【0016】

以下に、本願の開示する機械学習プログラム、機械学習方法及び機械学習装置の実施例を図面に基づいて詳細に説明する。なお、実施例は開示の技術を限定するものではない。

【実施例1】

【0017】

図１は、実施例１に係る機械学習装置５ａの機能構成を示す図である。図１に示すように、機械学習装置５ａは、劣化検知部１０ａとモデル管理部２０ａとを有する。劣化検知部１０ａは、運用モデルの劣化を検知し、運用モデルの劣化を検知すると運用モデルを更新する。ここで、運用モデルとは運用中の機械学習モデルである。劣化検知部１０ａは、運用モデルをコピーしてドリフト対応モデルとして記憶する。そして、劣化検知部１０ａは、入力データを基にドリフト対応モデルを更新する。そして、劣化検知部１０ａは、運用モデルが劣化すると、ドリフト対応モデルを運用モデルにコピーする。

【0018】

モデル管理部２０ａは、ドリフト対応モデルを入力データの特徴量の分布（以下、「入力データ分布」という）と対応付けて管理する。モデル管理部２０ａは、劣化検知部１０ａがドリフト対応モデルとして用いたモデルを全て管理する。

【0019】

劣化検知部１０ａは、モデル記憶部１１ａと、分類部１２ａと、分布情報生成部１３ａと、判定部１４ａと、ラベル付部１５ａと、モデルアクセス部１６ａと、学習部１７ａとを有する。モデル管理部２０ａは、過去モデル記憶部２１ａと、登録部２２ａと、比較部２３ａと、選択部２４ａとを有する。

【0020】

モデル記憶部１１ａは、ドリフト対応モデルを記憶する。具体的には、モデル記憶部１１ａは、ドリフト対応モデルとしてニューラルネットワークのパラメータを記憶する。パラメータには、ニューロン間の重みが含まれる。ニューロン間の重みは、学習により更新される。

【0021】

分類部１２ａは、モデル記憶部１１が記憶するドリフト対応モデルに基づいて入力データを分類する。

【0022】

分布情報生成部１３ａは、所定の数（例えば３００）の入力データに対して、入力データ分布を生成する。

【0023】

判定部１４ａは、ドリフト対応モデルの更新が必要であるか否かを判定し、更新が必要であると判定した場合には、学習部１７ａに学習を指示する。判定部１４ａは、例えば、分類部１２ａによる分類結果とユーザにより指定された正解が一致する割合に基づいて、ドリフト対応モデルの更新が必要であるか否かを判定する。

【0024】

ラベル付部１５ａは、判定部１４ａによりドリフト対応モデルの更新が必要であると判定された場合に、入力データにラベル（正解）を付加して訓練データを作成する。そして、ラベル付部１５ａは、作成した訓練データを学習部１７ａに渡す。

【0025】

モデルアクセス部１６ａは、モデル管理部２０ａにアクセスする。モデルアクセス部１６ａは、分布情報生成部１３ａにより生成された入力データ分布を指定して、入力データ分布が類似するモデルをモデル管理部２０ａに問い合わせ、モデル管理部２０ａから応答として取得したモデルの情報を学習部１７ａに渡す。

【0026】

また、モデルアクセス部１６ａは、分布情報生成部１３ａにより生成された入力データ分布と学習部１７ａにより生成されたドリフト対応モデルの情報を対応付けて登録するようにモデル管理部２０ａに依頼する。

【0027】

学習部１７ａは、モデルアクセス部１６ａから受け取ったモデルの情報と、ラベル付部１５から受け取った訓練データを用いて学習を行い新たなドリフト対応モデルを生成する。生成されたドリフト対応モデルは、モデルアクセス部１６ａによりモデル管理部２０ａに登録される。学習部１７ａは、生成したドリフト対応モデルをモデル記憶部１１ａに格納する。すなわち、学習部１７ａは、モデル記憶部１１ａに記憶されたドリフト対応モデルのパラメータを更新する。なお、学習部１７ａは、モデル記憶部１１ａに記憶されたドリフト対応モデルのパラメータを更新する際に、ドリフト対応モデルに対してファインチューニングを行ってもよい。

【0028】

過去モデル記憶部２１ａは、ドリフト対応モデルの情報を入力データ分布と対応付けて記憶する。

【0029】

登録部２２ａは、モデルアクセス部１６ａからドリフト対応モデルの情報と入力データ分布とを受け取り、過去モデル記憶部２１ａに登録する。

【0030】

比較部２３ａは、モデルアクセス部１６ａから入力データ分布を受け取り、過去モデル記憶部２１ａが記憶する入力データ分布と比較して類似度を計算する。

【0031】

選択部２４ａは、比較部２３ａにより各ドリフト対応モデルについて計算された類似度に基づいて、モデルアクセス部１６ａから受け取った入力データ分布に最も類似するドリフト対応モデルを過去モデル記憶部２１ａから選択する。そして、選択部２４ａは、選択したドリフトモデルの情報をモデルアクセス部１６ａに渡す。

【0032】

なお、分類部１２ａ、分布情報生成部１３ａ、判定部１４ａ、ラベル付部１５ａ、モデルアクセス部１６ａ、学習部１７ａ、登録部２２ａ、比較部２３ａ及び選択部２４ａは、特許請求の範囲の制御部に対応する。

【0033】

このように、実施例１では、分布情報生成部１３ａが、入力データ分布を生成する。そして、比較部２３ａが、分布情報生成部１３ａにより生成された入力データ分布を過去モデル記憶部２１が記憶する入力データ分布と比較し、選択部２４ａが、比較部２３ａによる比較に基づいて最も類似するモデルを選択する。また、ラベル付部１５ａが、入力データにラベル付けを行って訓練データを作成する。そして、学習部１７ａが、選択部２４ａにより選択されたモデルとラベル付部１５ａにより作成された訓練データを用いて学習を行いドリフト対応モデルを生成する。したがって、学習部１７ａは、高速に学習を行うことができ、ドリフト対応モデルの更新時間を短縮することができる。

【実施例2】

【0034】

まず、実施例２に係る分類システムについて説明する。図２は、実施例２に係る分類システムの構成を示す図である。図２に示すように、実施例２に係る分類システム１は、入力センサ２と、データ記憶装置３と、分類装置４と、機械学習装置５と、表示装置６とを有する。

【0035】

入力センサ２は、分類対象のデータを取得するセンサである。例えば、画像を分類する場合には、入力センサ２はカメラである。データ記憶装置３は、入力センサ２により取得された入力データを記憶する。データ記憶装置３は、例えば、画像データを記憶する。

【0036】

分類装置４は、データ記憶装置３が記憶する入力データを運用モデルを用いて分類する装置である。例えば、分類装置４は、カメラが撮影した画像をリアルタイムで分類する。

【0037】

機械学習装置５は、データ記憶装置３が記憶する入力データを用いて機械学習により運用モデルを生成する装置である。機械学習装置５は、劣化検知部１０とモデル管理部２０とを有する。

【0038】

劣化検知部１０は、ＨＤＬ（High Durability Learning）技術に基づいて運用モデルの劣化を検知し、運用モデルの劣化を検知すると運用モデルを更新する。ＨＤＬは、機械学習モデルの精度劣化を推定する技術である。図３は、ＨＤＬ技術を説明するための図である。図３に示すように、ＨＤＬ技術では、運用モデルとは別にＨＤＬモデルが用いられる。ＨＤＬモデルとはＨＤＬ技術において用いられる機械学習モデルである。また、図３では、機械学習モデルは入力データを２つの値のいずれかに分類する。例えば、機械学習モデルは、人の画像を入力し、制服を着用しているか否かを判定し、着用又は非着用を出力する。

【0039】

まず、運用モデルをコピーすることでＨＤＬモデルが作成される。そして、図３に示すように、ＨＤＬモデルは、運用モデルが入力するデータ（データ＃１、データ＃２、・・・）を入力し、運用モデルと同様に、入力データが２つの値のいずれであるかを判定する。判定は、出力層のニューロンの出力値に基づいて行われる。出力層のニューロンの出力値と判定結果に基づいてＤＴ空間（Durable Topology Space）に点９がプロットされる。

【0040】

ＤＴ空間の各軸は出力層の各ニューロンの出力値に対応する。ＤＴ空間は、入力データの特徴量空間である。図３では、出力層のニューロンは３つあるので、ＤＴ空間は３次元空間であるが、説明の便宜上、ＤＴ空間が２次元で表されている。判定結果は点９の種類（○と●）により表される。ＨＤＬモデルが劣化していない場合には、ＤＴ空間において○の集まりと●の集まりは分離される。なお、入力データは３つ以上の値のうちの１つに判定されてもよい。

【0041】

ＨＤＬ技術では、点９は密度に基づいてクラスタリングされ、○を含むクラスタＡと●を含むクラスタＢが作成される。図４は、密度に基づくクラスタリングを説明するための図である。図４の横軸は特徴量を示し、縦軸は点９の密度（例えば、特徴量の単位区間あたりの点９の個数）を示す。図４は、特徴量の分布を示す。なお、図４では、説明の便宜上ＤＴ空間の次元を１としている。図４に示すように、特徴量の密度に基づいてクラスタＡとクラスタＢが特定される。各クラスタは、例えば中心点により特定される。

【0042】

クラスタＡにもクラスタＢにも属さない点９は、ＨＤＬモデルの劣化により生じる。そして、ＨＤＬ技術では、クラスタＡに属する点９に対応する入力データとクラスタＢに属する点９に対応する入力データを訓練データとして用いて再学習が行われ、ＨＤＬモデルが更新される。クラスタＡに属する点９に対応する入力データは○でラベル付けされ、クラスタＢに属する点９に対応する入力データは●でラベル付けされる。

【0043】

このように、ＨＤＬ技術では、ドリフトの発生をＤＴ空間における密度分布の移動とし、常に密度の中心を追いかけることでドリフトにＨＤＬモデルを追従させる。そして、運用モデルの劣化が検知されると、運用モデルがＨＤＬモデルで置き換えられる。したがって、ＨＤＬ技術は、コンセプトドリフトによる運用モデルの精度の劣化を防ぐことができる。また、ＨＤＬ技術では、再学習に用いられる訓練データのラベル付けは自動で行われる。したがって、ＨＤＬ技術は、運用コストの増大を防ぐことができる。

【0044】

図２に戻って、劣化検知部１０は、運用モデルをコピーしてドリフト対応モデル（ＨＤＬモデル）として記憶する（ｔ１）。そして、劣化検知部１０は、入力データを基にドリフト対応モデルを更新する（ｔ２）。そして、劣化検知部１０は、運用モデルが劣化すると、ドリフト対応モデルを運用モデルにコピーする（ｔ３）。

【0045】

モデル管理部２０は、ドリフト対応モデルをＤＴ空間の情報と対応付けて管理する。モデル管理部２０は、劣化検知部１０がドリフト対応モデルとして用いたモデルを全て管理する。図５Ａ及び図５Ｂは、モデル管理部２０が管理する複数のモデルを説明するための図である。図５Ａに示すように、劣化検知部１０は、更新前のドリフト対応モデルをベースに分類を行い、分類結果を基にクラスタリングする（ｔ１１）。そして、劣化検知部１０は、クラスタ中心付近のデータを学習データとして抽出する（ｔ１２）。

【0046】

ここで、劣化検知部１０は、ＤＴ空間における分析でクラスタから外れたデータを除外するため、学習データが不足する。そこで、劣化検知部１０は、更新前のドリフト対応モデルをドリフト対応モデル更新時に利用し、少ないデータをカバーする。

【0047】

すなわち、劣化検知部１０は、初回モデル（運用モデルのコピー）と入力データ群＃１を用いてドリフト対応モデル＃１を作成し、ドリフト対応モデル＃１と入力データ群＃２を用いてドリフト対応モデル＃２を作成する。同様に、劣化検知部１０は、ドリフト対応モデル＃３、ドリフト対応モデル＃４、・・・、を作成する。そして、モデル管理部２０は、ドリフト対応モデル＃１、ドリフト対応モデル＃２、・・・、をそれぞれ入力データ群＃１の特徴量の分布、入力データ群＃２の特徴量の分布、・・・、と対応付けて管理する。

【0048】

ただし、直前のドリフト対応モデルが最適であるとは限らない。図５Ｂは、直前のドリフト対応モデルが最適でない例を示す図である。図５Ｂにおいて、入力データ群は、Ａ、Ｂ、Ｃ、Ｄ、Ｅとドリフトする。したがって、直近の入力データ群Ｅはドリフト的にはＤに近いが、Ｅに基づくモデルと最も類似性が高いモデルはＡに基づくモデルである。

【0049】

そこで、モデル管理部２０は、ＤＴ空間の情報（例えば、クラスタの中心座標）とモデルを対応付けて管理し、劣化検知部１０は、ドリフト対応モデルを更新する際に、ＤＴ空間の情報を基にモデル管理部２０に問合せを行って最適な過去モデルを取得する。そして、劣化検知部１０は、取得したモデルに基づいてドリフト対応モデルを更新する。なお、過去モデルの中に適当なモデルがない場合には、劣化検知部１０は、モデル管理部２０から直近のモデルを取得する。

【0050】

図２に戻って、表示装置６は、分類装置４による分類結果、劣化検知部１０によるドリフト対応モデル及び運用モデルの更新に関するメッセージ、モデル管理部２０により管理されるモデルの情報などを表示する。

【0051】

次に、機械学習装置５の機能構成について説明する。図６は、機械学習装置５の機能構成を示す図である。図６に示すように、劣化検知部１０は、モデル記憶部１１と、分類部１２と、クラスタ生成部１３と、判定部１４と、ラベル付部１５と、モデルアクセス部１６と、学習部１７とを有する。モデル管理部２０は、過去モデル記憶部２１と、登録部２２と、比較部２３と、選択部２４とを有する。

【0052】

モデル記憶部１１は、ドリフト対応モデルを記憶する。具体的には、モデル記憶部１１は、ドリフト対応モデルとしてニューラルネットワークのパラメータを記憶する。パラメータには、ニューロン間の重みが含まれる。ニューロン間の重みは、学習により更新される。

【0053】

分類部１２は、モデル記憶部１１が記憶するドリフト対応モデルに基づいて入力データを分類する。分類部１２は、分類結果とＤＴ空間の座標をクラスタ生成部１３に通知する。

【0054】

クラスタ生成部１３は、所定の数（例えば３００）の入力データに対する分類部１２による分類結果とＤＴ空間の座標に基づいてＤＴ空間の点９のクラスタリングを行い、クラスタを生成する。クラスタ生成部１３は、ＤＴ空間における点９の分布を特定する。クラスタ生成部１３は、ＤＴ空間における点９の密度に基づいてクラスタリングを行う。クラスタ生成部１３は、分類部１２による分類数と同じ数のクラスタを生成する。クラスタ生成部１３は、クラスタの情報を特定する。

【0055】

図７は、クラスタの情報を示す図である。図７に示すように、クラスタの情報には、クラスタの中心座標、クラスタの密度（分散）、データ量（入力データの個数）が含まれる。クラスタの情報は、入力データの特徴量の分布を示す。

【0056】

判定部１４は、クラスタ生成部１３により生成されたクラスタの情報に基づいて、ドリフト対応モデルの更新が必要であるか否かを判定し、更新が必要であると判定した場合には、学習部１７に学習を指示する。判定部１４は、例えば、いずれのクラスタにも属さない入力データの割合に基づいて、ドリフト対応モデルの更新が必要であるか否かを判定する。

【0057】

ラベル付部１５は、判定部１４によりドリフト対応モデルの更新が必要であると判定された場合に、いずれかのクラスタに属する点９に対応する入力データにクラスタに対応する分類結果をラベル（正解）として付加して訓練データを作成する。そして、ラベル付部１５は、作成した訓練データを学習部１７に渡す。

【0058】

モデルアクセス部１６は、モデル管理部２０にアクセスする。モデルアクセス部１６は、クラスタ生成部１３により生成されたクラスタの情報を指定して、クラスタの情報が類似するモデルをモデル管理部２０に問い合わせ、モデル管理部２０から応答として取得したモデルの情報を学習部１７に渡す。

【0059】

また、モデルアクセス部１６は、クラスタ生成部１３により生成されたクラスタの情報と学習部１７により生成されたドリフト対応モデルの情報を対応付けて登録するようにモデル管理部２０に依頼する。

【0060】

学習部１７は、モデルアクセス部１６から受け取ったモデルの情報と、ラベル付部１５から受け取った訓練データを用いて学習を行い新たなドリフト対応モデルを生成する。生成されたドリフト対応モデルは、モデルアクセス部１６によりモデル管理部２０に登録される。学習部１７は、生成したドリフト対応モデルをモデル記憶部１１に格納する。すなわち、学習部１７は、モデル記憶部１１に記憶されたドリフト対応モデルのパラメータを更新する。なお、学習部１７は、モデル記憶部１１に記憶されたドリフト対応モデルのパラメータを更新する際に、ドリフト対応モデルに対してファインチューニングを行ってもよい。

【0061】

過去モデル記憶部２１は、ドリフト対応モデルの情報をクラスタの情報と対応付けて記憶する。図８は、過去モデル記憶部２１の一例を示す図である。図８に示すように、過去モデル記憶部２１は、ＨＤＬ情報とモデル識別子とを対応付けてドリフト対応モデルごとに記憶する。ＨＤＬ情報には、データ量と密度情報とクラスタ中心座標とが含まれる。モデル識別子は、ドリフト対応モデルを識別する識別子である。モデル管理部２０は、ドリフト対応モデルに含まれるパラメータなどの情報を識別子と対応付けて別途記憶する。

【0062】

データ量は、入力データの個数である。密度情報は、クラスタの密度（分散）である。クラスタ中心座標は、クラスタの中心の座標である。例えば、「ｍｏｄｅｌ２０２００６１８．ｍｏｄｅｌ」で識別されるドリフト対応モデルでは、入力データの個数は「３００」である。また、「ｍｏｄｅｌ２０２００６１８．ｍｏｄｅｌ」で識別されるドリフト対応モデルでは、２つのクラスタの密度は「０．８２３」と「０．７４」であり、２つのクラスタの中心の座標は（０．３，０．５）と（０．７，０．２）である。

【0063】

登録部２２は、モデルアクセス部１６からドリフト対応モデルの情報とクラスタの情報とを受け取り、過去モデル記憶部２１に登録する。

【0064】

比較部２３は、モデルアクセス部１６からクラスタの情報を受け取り、過去モデル記憶部２１が記憶する各クラスタの情報と比較して類似度を計算する。具体的には、比較部２３は、ＨＤＬ情報を列単位で正規化し、類似度を計算する。

【0065】

選択部２４は、比較部２３により各ドリフト対応モデルについて計算された類似度に基づいて、モデルアクセス部１６から受け取ったクラスタの情報にＨＤＬ情報が最も類似するドリフト対応モデルを過去モデル記憶部２１から選択する。そして、選択部２４は、選択したドリフトモデルの情報をモデルアクセス部１６に渡す。

【0066】

なお、分類部１２、クラスタ生成部１３、判定部１４、ラベル付部１５、モデルアクセス部１６、学習部１７、登録部２２、比較部２３及び選択部２４は、特許請求の範囲の制御部に対応する。

【0067】

次に、劣化検知部１０による処理のフローについて説明する。図９は、劣化検知部１０による処理のフローを示すフローチャートである。図９に示すように、劣化検知部１０は、運用モデルが入力する入力データを用いて、ドリフト対応モデルに基づいて分類を行う（ステップＳ１）。そして、劣化検知部１０は、分類結果と入力データの特徴量に基づいてクラスタリングを行い、クラスタの情報に基づいて、劣化検知の精度が劣化したか否かを判定する（ステップＳ２）。ここで、劣化検知の精度が劣化したとは、ドリフト対応モデルの精度が劣化したことを意味する。そして、劣化検知の精度が劣化していない場合には、劣化検知部１０は、ステップＳ６に移動する。

【0068】

一方、劣化検知の精度が劣化した場合には、劣化検知部１０は、モデル管理部２０から学習用モデルを取得する（ステップＳ３）。ここで、劣化検知部１０は、クラスタの情報に基づいて、入力データの特徴量が類似する過去のドリフト対応モデルを学習用モデルとして取得する。そして、劣化検知部１０は、取得したドリフト対応モデルといずれかのクラスタに属する入力データを用いて学習を行ってドリフト対応モデルを作成し（ステップＳ４）、ドリフト対応モデルを更新する（ステップＳ５）。

【0069】

そして、劣化検知部１０は、運用モデルの精度が劣化したか否かを判定し（ステップＳ６）、劣化していない場合には、ステップＳ１に戻り、劣化した場合には、ドリフト対応モデルを用いて運用モデルを更新し（ステップＳ７）、ステップＳ１に戻る。

【0070】

このように、劣化検知部１０は、入力データの特徴が類似する過去のドリフト対応モデルを用いて学習を行うので、高速に学習を行うことができる。

【0071】

図１０は、ドリフト対応モデルの更新処理のシーケンスを示す図である。図１０に示すように、劣化検知部１０は、運用モデルが入力する入力データを用いて、ドリフト対応モデルに基づいて分類を行う（ステップＳ１１）。そして、劣化検知部１０は、分類結果とＤＴ空間の座標に基づいてクラスタを生成し、クラスタの情報を特定する（ステップＳ１２）。すなわち、劣化検知部１０は、ドリフト対応モデルが算出した入力データの特徴量の分布を特定する。

【0072】

そして、劣化検知部１０は、ドリフト対応モデルの劣化を検知し（ステップＳ１３）、クラスタの情報を指定して類似モデルの問合せをモデル管理部２０に行う（ステップＳ１４）。そして、劣化検知部１０は、いずれかのクラスタに属する入力データを用いて訓練データを生成する（ステップＳ１５）。

【0073】

劣化検知部１０から問合せを受け取ると、モデル管理部２０は、劣化検知部１０により指定されたクラスタの情報を過去モデル記憶部２１が記憶する各モデルのＨＤＬ情報と比較する（ステップＳ１６）。すなわち、モデル管理部２０は、入力データの特徴量の分布と、過去モデル記憶部２１が記憶する各モデルを生成する際に使用された訓練データの特徴量の分布とを比較する。そして、モデル管理部２０は、比較結果に基づいてモデルを選択する（ステップＳ１７）。そして、モデル管理部２０は、劣化検知部１０に、選択したモデルの情報を通知する（ステップＳ１８）。

【0074】

劣化検知部１０は、訓練データに基づいて、通知されたモデルのパラメータを更新することによって新しいドリフト対応モデルを生成し（ステップＳ１９）、生成したドリフト対応モデルでモデル記憶部１１のドリフト対応モデルを更新する（ステップＳ２０）。そして、劣化検知部１０は、モデル管理部２０に、ドリフト対応モデルの登録を依頼する（ステップＳ２１）。そして、モデル管理部２０は、依頼されたドリフト対応モデルを登録する（ステップＳ２２）。

【0075】

このように、モデル管理部２０が劣化検知部１０により指定されたクラスタの情報とＨＤＬ情報に基づいてモデルを選択するので、劣化検知部１０は、モデル管理部２０により選択されたモデルを用いて学習を高速に行うことができる。

【0076】

上述してきたように、実施例２では、分類部１２が、モデル記憶部１１が記憶するドリフト対応モデルに基づいて入力データを分類し、クラスタ生成部１３が、分類部１２による分類結果とＤＴ空間の座標に基づいてクラスタを生成する。そして、比較部２３が、分類部１２により生成されたクラスタの情報を過去モデル記憶部２１が記憶するＨＤＬ情報と比較し、選択部２４が、比較部２３による比較に基づいて最も類似するモデルを選択する。また、ラベル付部１５が、分類部１２により生成されたいずれかのクラスタに分類された入力データにラベル付けを行って訓練データを作成する。そして、学習部１７が、選択部２４により選択されたモデルとラベル付部１５により作成された訓練データを用いて学習を行いドリフト対応モデルを生成する。したがって、学習部１７は、高速に学習を行うことができ、ドリフト対応モデルの更新時間を短縮することができる。

【0077】

また、実施例２では、モデルアクセス部１６は、学習部１７により生成されたドリフト対応モデルの登録をモデル管理部２０に依頼し、登録部２２が、登録を依頼されたドリフト対応モデルを過去モデル記憶部２１に登録する。したがって、機械学習装置５は、ドリフト対応モデルを蓄積することができ、類似性の高いドリフト対応モデルを用いて学習を行うことができる。

【0078】

また、実施例２では、機械学習装置５は、クラスタの情報として、クラスタの中心座標及び密度を用いるので、類似するモデルの過去モデル記憶部２１からの選択を正確に行うことができる。

【0079】

なお、実施例１及び２では、機械学習装置５ａ及び５について説明したが、機械学習装置５ａ及び５が有する構成をソフトウェアによって実現することで、同様の機能を有する機械学習プログラムを得ることができる。そこで、機械学習プログラムを実行するコンピュータについて説明する。

【0080】

図１１は、実施例１及び２に係る機械学習プログラムを実行するコンピュータのハードウェア構成を示す図である。図１１に示すように、コンピュータ５０は、メインメモリ５１と、ＣＰＵ（Central Processing Unit）５２と、ＬＡＮ（Local Area Network）インタフェース５３と、ＨＤＤ（Hard Disk Drive）５４とを有する。また、コンピュータ５０は、スーパーＩＯ（Input Output）５５と、ＤＶＩ（Digital Visual Interface）５６と、ＯＤＤ（Optical Disk Drive）５７とを有する。

【0081】

メインメモリ５１は、プログラムやプログラムの実行途中結果等を記憶するメモリである。ＣＰＵ５２は、メインメモリ５１からプログラムを読み出して実行する中央処理装置である。ＣＰＵ５２は、メモリコントローラを有するチップセットを含む。

【0082】

ＬＡＮインタフェース５３は、コンピュータ５０をＬＡＮ経由で他のコンピュータに接続するためのインタフェースである。ＨＤＤ５４は、プログラムやデータを格納するディスク装置であり、スーパーＩＯ５５は、マウスやキーボード等の入力装置を接続するためのインタフェースである。ＤＶＩ５６は、液晶表示装置を接続するインタフェースであり、ＯＤＤ５７は、ＤＶＤの読み書きを行う装置である。

【0083】

ＬＡＮインタフェース５３は、ＰＣＩエクスプレス（ＰＣＩｅ）によりＣＰＵ５２に接続され、ＨＤＤ５４及びＯＤＤ５７は、ＳＡＴＡ（Serial Advanced Technology Attachment）によりＣＰＵ５２に接続される。スーパーＩＯ５５は、ＬＰＣ（Low Pin Count）によりＣＰＵ５２に接続される。

【0084】

そして、コンピュータ５０において実行される機械学習プログラムは、コンピュータ５０により読み出し可能な記録媒体の一例であるＤＶＤに記憶され、ＯＤＤ５７によってＤＶＤから読み出されてコンピュータ５０にインストールされる。あるいは、機械学習プログラムは、ＬＡＮインタフェース５３を介して接続された他のコンピュータシステムのデータベース等に記憶され、これらのデータベースから読み出されてコンピュータ５０にインストールされる。そして、インストールされた機械学習プログラムは、ＨＤＤ５４に記憶され、メインメモリ５１に読み出されてＣＰＵ５２によって実行される。

【0085】

また、実施例１及び２では、機械学習モデルにニューラルネットワークを用いる場合について説明したが、機械学習装置５ａ及び５は、他の機械学習モデルを用いてもよい。また、実施例１及び２では、機械学習モデルに基づいて入力データの分類を行う場合について説明したが、分類システム１の代わりのシステムが、機械学習モデルに基づいて判定や予測を行ってもよい。また、実施例１及び２では、入力データの特徴量として出力層のニューロンの出力値を用いる場合について説明したが、機械学習装置５ａ及び５は、入力データの特徴量として他の値を用いてもよい。また、実施例２では、クラスタの中心座標及び密度を用いる場合について説明したが、機械学習装置５は、入力データの特徴量の分布を示す情報として他の情報を用いてもよい。また、実施例１及び２では、ドリフト対応モデルを更新する場合について説明したが、機械学習装置５ａ及び５は、ドリフト対応モデル以外の過去の機械学習モデルを用いてもよい。

【符号の説明】

【0086】

１ 分類システム
２ 入力センサ
３ データ記憶装置
４ 分類装置
５，５ａ 機械学習装置
６ 表示装置
１０，１０ａ 劣化検知部
１１，１１ａ モデル記憶部
１２，１２ａ 分類部
１３ クラスタ生成部
１３ａ 分布情報生成部
１４，１４ａ 判定部
１５，１５ａ ラベル付部
１６，１６ａ モデルアクセス部
１７，１７ａ 学習部
２０，２０ａ モデル管理部
２１，２１ａ 過去モデル記憶部
２２，２２ａ 登録部
２３，２３ａ 比較部
２４，２４ａ 選択部
５０ コンピュータ
５１ メインメモリ
５２ ＣＰＵ
５３ ＬＡＮインタフェース
５４ ＨＤＤ
５５ スーパーＩＯ
５６ ＤＶＩ
５７ ＯＤＤ

【図1】

【図2】

【図3】

【図4】

【図5A】

【図5B】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】