▶ 株式会社荏原製作所の特許一覧 ▶ 国立大学法人福井大学の特許一覧
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023174361
(43)【公開日】2023-12-07
(54)【発明の名称】機械学習方法及び機械学習装置
(51)【国際特許分類】
G06N 20/00 20190101AFI20231130BHJP
【ＦＩ】
G06N20/00
【審査請求】未請求
【請求項の数】9
【出願形態】ＯＬ
(21)【出願番号】P 2022087178
(22)【出願日】2022-05-27
(71)【出願人】
【識別番号】000000239
【氏名又は名称】株式会社荏原製作所
(71)【出願人】
【識別番号】504145320
【氏名又は名称】国立大学法人福井大学
(74)【代理人】
【識別番号】100214248
【弁理士】
【氏名又は名称】青山 純
(74)【代理人】
【識別番号】100214260
【弁理士】
【氏名又は名称】相羽 昌孝
(72)【発明者】
【氏名】高東 智佳子
(72)【発明者】
【氏名】中村 由美子
(72)【発明者】
【氏名】杉山 和彦
(72)【発明者】
【氏名】本田 知己
(57)【要約】
【課題】機械学習による学習モデルの性能を向上させることを可能とする機械学習方法を提供する。
【解決手段】機械学習方法は、所定の期間における各時点のデータで構成されるデータセットを用いて学習モデルの機械学習を行う。機械学習方法は、期間を学習期間と検証期間とに区分し、データセットを学習データと検証データとに分割するデータセット分割処理と、学習候補期間を複数の分割学習期間に区分する学習候補期間区分処理と、分割学習期間に対応する学習データを用いて分割学習期間毎の学習期間評価モデルを生成し、検証データを用いて分割学習期間毎の学習期間評価モデルの評価指標を算出する学習期間評価処理と、学習候補期間区分処理及び学習期間評価処理を、所定の終了条件を満たすまで繰り返し行い、終了条件を満たすとき、評価指標が高い分割学習期間を学習対象期間に選定する学習期間選定処理と、学習対象期間に対応する学習データを用いて機械学習が行われた学習モデルを出力するモデル出力処理とを行う。
【選択図】 図１
【解決手段】機械学習方法は、所定の期間における各時点のデータで構成されるデータセットを用いて学習モデルの機械学習を行う。機械学習方法は、期間を学習期間と検証期間とに区分し、データセットを学習データと検証データとに分割するデータセット分割処理と、学習候補期間を複数の分割学習期間に区分する学習候補期間区分処理と、分割学習期間に対応する学習データを用いて分割学習期間毎の学習期間評価モデルを生成し、検証データを用いて分割学習期間毎の学習期間評価モデルの評価指標を算出する学習期間評価処理と、学習候補期間区分処理及び学習期間評価処理を、所定の終了条件を満たすまで繰り返し行い、終了条件を満たすとき、評価指標が高い分割学習期間を学習対象期間に選定する学習期間選定処理と、学習対象期間に対応する学習データを用いて機械学習が行われた学習モデルを出力するモデル出力処理とを行う。
【選択図】 図１
【特許請求の範囲】
【請求項1】
コンピュータにより、所定の期間において所定の現象の経時的な変化に応じて取得された各時点のデータを時系列に並べて構成されるデータセットを用いて学習モデルの機械学習を行う機械学習方法であって、
前記期間を学習期間と検証期間とに区分し、前記学習期間を初期の学習候補期間に設定するとともに、前記データセットを、前記学習期間に対応する学習データと、前記検証期間に対応する検証データとに分割するデータセット分割処理と、
前記学習候補期間を複数の分割学習期間に区分する学習候補期間区分処理と、
前記分割学習期間に対応する前記学習データを用いて前記学習モデルの機械学習を前記分割学習期間毎に行うことで前記分割学習期間毎の学習期間評価モデルを生成し、前記検証データを用いて前記分割学習期間毎の前記学習期間評価モデルの検証をそれぞれ行うことで前記学習期間評価モデルの評価指標を前記分割学習期間毎に算出する学習期間評価処理と、
前記学習候補期間区分処理及び前記学習期間評価処理を、所定の終了条件を満たすまで、前記評価指標が高い前記分割学習期間を次の前記学習候補期間に設定して繰り返し行うとともに、前記終了条件を満たすとき、前記評価指標が高い前記分割学習期間を学習対象期間に選定する学習期間選定処理と、
前記学習対象期間に対応する前記学習データを用いて機械学習が行われた前記学習モデルを、学習済みモデルとして出力するモデル出力処理と、を行う、
機械学習方法。
前記期間を学習期間と検証期間とに区分し、前記学習期間を初期の学習候補期間に設定するとともに、前記データセットを、前記学習期間に対応する学習データと、前記検証期間に対応する検証データとに分割するデータセット分割処理と、
前記学習候補期間を複数の分割学習期間に区分する学習候補期間区分処理と、
前記分割学習期間に対応する前記学習データを用いて前記学習モデルの機械学習を前記分割学習期間毎に行うことで前記分割学習期間毎の学習期間評価モデルを生成し、前記検証データを用いて前記分割学習期間毎の前記学習期間評価モデルの検証をそれぞれ行うことで前記学習期間評価モデルの評価指標を前記分割学習期間毎に算出する学習期間評価処理と、
前記学習候補期間区分処理及び前記学習期間評価処理を、所定の終了条件を満たすまで、前記評価指標が高い前記分割学習期間を次の前記学習候補期間に設定して繰り返し行うとともに、前記終了条件を満たすとき、前記評価指標が高い前記分割学習期間を学習対象期間に選定する学習期間選定処理と、
前記学習対象期間に対応する前記学習データを用いて機械学習が行われた前記学習モデルを、学習済みモデルとして出力するモデル出力処理と、を行う、
機械学習方法。
【請求項2】
コンピュータにより、所定の期間において所定の現象の経時的な変化に応じて取得された各時点のデータを時系列に並べて構成されるデータセットを用いて学習モデルの機械学習を行う機械学習方法であって、
前記期間を学習期間と検証期間とに区分し、前記学習期間を初期の学習候補期間に設定するとともに、前記データセットを、前記学習期間に対応する学習データと、前記検証期間に対応する検証データとに分割するデータセット分割処理と、
前記学習期間を複数のサブ学習期間に区分し、前記学習データを複数の前記サブ学習期間に対応する複数のサブ学習データに分割する学習データ分割処理と、
前記学習候補期間に含まれる複数の前記サブ学習期間を複数の分割学習期間に区分する学習候補期間区分処理と、
前記分割学習期間に含まれる前記サブ学習期間に対応する前記サブ学習データを用いて前記学習モデルの機械学習を前記分割学習期間毎に行うことで前記分割学習期間毎の学習期間評価モデルを生成し、前記検証データを用いて前記分割学習期間毎の前記学習期間評価モデルの検証をそれぞれ行うことで前記学習期間評価モデルの評価指標を前記分割学習期間毎に算出する学習期間評価処理と、
前記学習候補期間区分処理及び前記学習期間評価処理を、所定の終了条件を満たすまで、前記評価指標が高い前記分割学習期間を次の前記学習候補期間に設定して繰り返し行うとともに、前記終了条件を満たすとき、前記評価指標が高い前記分割学習期間に含まれる前記サブ学習期間を学習対象期間に選定する学習期間選定処理と、
前記学習対象期間に対応する前記サブ学習データを用いて機械学習が行われた前記学習モデルを、学習済みモデルとして出力するモデル出力処理と、を行う、
機械学習方法。
前記期間を学習期間と検証期間とに区分し、前記学習期間を初期の学習候補期間に設定するとともに、前記データセットを、前記学習期間に対応する学習データと、前記検証期間に対応する検証データとに分割するデータセット分割処理と、
前記学習期間を複数のサブ学習期間に区分し、前記学習データを複数の前記サブ学習期間に対応する複数のサブ学習データに分割する学習データ分割処理と、
前記学習候補期間に含まれる複数の前記サブ学習期間を複数の分割学習期間に区分する学習候補期間区分処理と、
前記分割学習期間に含まれる前記サブ学習期間に対応する前記サブ学習データを用いて前記学習モデルの機械学習を前記分割学習期間毎に行うことで前記分割学習期間毎の学習期間評価モデルを生成し、前記検証データを用いて前記分割学習期間毎の前記学習期間評価モデルの検証をそれぞれ行うことで前記学習期間評価モデルの評価指標を前記分割学習期間毎に算出する学習期間評価処理と、
前記学習候補期間区分処理及び前記学習期間評価処理を、所定の終了条件を満たすまで、前記評価指標が高い前記分割学習期間を次の前記学習候補期間に設定して繰り返し行うとともに、前記終了条件を満たすとき、前記評価指標が高い前記分割学習期間に含まれる前記サブ学習期間を学習対象期間に選定する学習期間選定処理と、
前記学習対象期間に対応する前記サブ学習データを用いて機械学習が行われた前記学習モデルを、学習済みモデルとして出力するモデル出力処理と、を行う、
機械学習方法。
【請求項3】
前記学習対象期間を除く前記学習期間を複数のサブ学習期間に区分し、前記学習対象期間に対応する前記学習データを除く前記学習データを前記複数の前記サブ学習期間に対応する複数のサブ学習データに分割する学習データ分割処理と、
複数の前記サブ学習データの各々を用いて前記学習済みモデルの検証をそれぞれ行うことで前記学習済みモデルの評価指標を前記サブ学習期間毎に算出し、前記学習済みモデル
の前記評価指標が所定の追加条件を満たす前記サブ学習期間を追加対象期間に選定する追加期間選定処理とをさらに行い、
前記モデル出力処理は、
前記学習対象期間及び前記追加対象期間の少なくとも一方に対応する前記学習データを用いて機械学習が行われた前記学習モデルを、学習済みモデルとして出力する、
請求項１に記載の機械学習方法。
複数の前記サブ学習データの各々を用いて前記学習済みモデルの検証をそれぞれ行うことで前記学習済みモデルの評価指標を前記サブ学習期間毎に算出し、前記学習済みモデル
の前記評価指標が所定の追加条件を満たす前記サブ学習期間を追加対象期間に選定する追加期間選定処理とをさらに行い、
前記モデル出力処理は、
前記学習対象期間及び前記追加対象期間の少なくとも一方に対応する前記学習データを用いて機械学習が行われた前記学習モデルを、学習済みモデルとして出力する、
請求項１に記載の機械学習方法。
【請求項4】
前記学習対象期間に対応する前記サブ学習データを除く複数の前記サブ学習データの各々を用いて前記学習済みモデルの検証をそれぞれ行うことで前記学習済みモデルの評価指標を前記サブ学習期間毎に算出し、前記学習済みモデルの前記評価指標が所定の追加条件を満たす前記サブ学習期間を追加対象期間に選定する追加期間選定処理をさらに行い、
前記モデル出力処理は、
前記学習対象期間及び前記追加対象期間の少なくとも一方に対応する前記サブ学習データを用いて機械学習が行われた前記学習モデルを、学習済みモデルとして出力する、
請求項２に記載の機械学習方法。
前記モデル出力処理は、
前記学習対象期間及び前記追加対象期間の少なくとも一方に対応する前記サブ学習データを用いて機械学習が行われた前記学習モデルを、学習済みモデルとして出力する、
請求項２に記載の機械学習方法。
【請求項5】
前記学習候補期間区分処理は、
複数の前記分割学習期間の各々が前記学習候補期間の時系列において離散的な期間をそれぞれ含むように、前記学習候補期間を複数の前記分割学習期間に区分する、
請求項１に記載の機械学習方法。
複数の前記分割学習期間の各々が前記学習候補期間の時系列において離散的な期間をそれぞれ含むように、前記学習候補期間を複数の前記分割学習期間に区分する、
請求項１に記載の機械学習方法。
【請求項6】
前記学習候補期間区分処理は、
複数の前記分割学習期間の各々が前記学習候補期間の時系列において離散的な期間をそれぞれ含むように、複数の前記サブ学習期間における時系列をランダムにして複数の前記分割学習期間に区分する、
請求項２に記載の機械学習方法。
複数の前記分割学習期間の各々が前記学習候補期間の時系列において離散的な期間をそれぞれ含むように、複数の前記サブ学習期間における時系列をランダムにして複数の前記分割学習期間に区分する、
請求項２に記載の機械学習方法。
【請求項7】
前記データセット分割処理は、
前記期間を前記学習期間と前記検証期間とに区分する際、前記検証期間を前記期間の時系列において離散的に設定する、
請求項１乃至請求項６のいずれか一項に記載の機械学習方法。
前記期間を前記学習期間と前記検証期間とに区分する際、前記検証期間を前記期間の時系列において離散的に設定する、
請求項１乃至請求項６のいずれか一項に記載の機械学習方法。
【請求項8】
所定の期間において所定の現象の経時的な変化に応じて取得された各時点のデータを時系列に並べて構成されるデータセットを用いて学習モデルの機械学習を行う機械学習部を備える機械学習装置であって、
前記機械学習部は、
前記期間を学習期間と検証期間とに区分し、前記学習期間を初期の学習候補期間に設定するとともに、前記データセットを、前記学習期間に対応する学習データと、前記検証期間に対応する検証データとに分割するデータセット分割処理と、
前記学習候補期間を複数の分割学習期間に区分する学習候補期間区分処理と、
前記分割学習期間に対応する前記学習データを用いて前記学習モデルの機械学習を前記分割学習期間毎に行うことで前記分割学習期間毎の学習期間評価モデルを生成し、前記検証データを用いて前記分割学習期間毎の前記学習期間評価モデルの検証をそれぞれ行うことで前記学習期間評価モデルの評価指標を前記分割学習期間毎に算出する学習期間評価処理と、
前記学習候補期間区分処理及び前記学習期間評価処理を、所定の終了条件を満たすまで、前記評価指標が高い前記分割学習期間を次の前記学習候補期間に設定して繰り返し行うとともに、前記終了条件を満たすとき、前記評価指標が高い前記分割学習期間を学習対象期間に選定する学習期間選定処理と、
前記学習対象期間に対応する前記学習データを用いて機械学習が行われた前記学習モ
デルを、学習済みモデルとして出力するモデル出力処理と、を行う、
機械学習装置。
前記機械学習部は、
前記期間を学習期間と検証期間とに区分し、前記学習期間を初期の学習候補期間に設定するとともに、前記データセットを、前記学習期間に対応する学習データと、前記検証期間に対応する検証データとに分割するデータセット分割処理と、
前記学習候補期間を複数の分割学習期間に区分する学習候補期間区分処理と、
前記分割学習期間に対応する前記学習データを用いて前記学習モデルの機械学習を前記分割学習期間毎に行うことで前記分割学習期間毎の学習期間評価モデルを生成し、前記検証データを用いて前記分割学習期間毎の前記学習期間評価モデルの検証をそれぞれ行うことで前記学習期間評価モデルの評価指標を前記分割学習期間毎に算出する学習期間評価処理と、
前記学習候補期間区分処理及び前記学習期間評価処理を、所定の終了条件を満たすまで、前記評価指標が高い前記分割学習期間を次の前記学習候補期間に設定して繰り返し行うとともに、前記終了条件を満たすとき、前記評価指標が高い前記分割学習期間を学習対象期間に選定する学習期間選定処理と、
前記学習対象期間に対応する前記学習データを用いて機械学習が行われた前記学習モ
デルを、学習済みモデルとして出力するモデル出力処理と、を行う、
機械学習装置。
【請求項9】
所定の期間において所定の現象の経時的な変化に応じて取得された各時点のデータを時系列に並べて構成されるデータセットを用いて学習モデルの機械学習を行う機械学習部を備える機械学習装置であって、
前記機械学習部は、
前記期間を学習期間と検証期間とに区分し、前記学習期間を初期の学習候補期間に設定するとともに、前記データセットを、前記学習期間に対応する学習データと、前記検証期間に対応する検証データとに分割するデータセット分割処理と、
前記学習期間を複数のサブ学習期間に区分し、前記学習データを複数の前記サブ学習期間に対応する複数のサブ学習データに分割する学習データ分割処理と、
前記学習候補期間に含まれる複数の前記サブ学習期間を複数の分割学習期間に区分する学習候補期間区分処理と、
前記分割学習期間に含まれる前記サブ学習期間に対応する前記サブ学習データを用いて前記学習モデルの機械学習を前記分割学習期間毎に行うことで前記分割学習期間毎の学習期間評価モデルを生成し、前記検証データを用いて前記分割学習期間毎の前記学習期間評価モデルの検証をそれぞれ行うことで前記学習期間評価モデルの評価指標を前記分割学習期間毎に算出する学習期間評価処理と、
前記学習候補期間区分処理及び前記学習期間評価処理を、所定の終了条件を満たすまで、前記評価指標が高い前記分割学習期間を次の前記学習候補期間に設定して繰り返し行うとともに、前記終了条件を満たすとき、前記評価指標が高い前記分割学習期間に含まれる前記サブ学習期間を学習対象期間に選定する学習期間選定処理と、
前記学習対象期間に対応する前記サブ学習データを用いて機械学習が行われた前記学習モデルを、学習済みモデルとして出力するモデル出力処理と、を行う、
機械学習装置。
前記機械学習部は、
前記期間を学習期間と検証期間とに区分し、前記学習期間を初期の学習候補期間に設定するとともに、前記データセットを、前記学習期間に対応する学習データと、前記検証期間に対応する検証データとに分割するデータセット分割処理と、
前記学習期間を複数のサブ学習期間に区分し、前記学習データを複数の前記サブ学習期間に対応する複数のサブ学習データに分割する学習データ分割処理と、
前記学習候補期間に含まれる複数の前記サブ学習期間を複数の分割学習期間に区分する学習候補期間区分処理と、
前記分割学習期間に含まれる前記サブ学習期間に対応する前記サブ学習データを用いて前記学習モデルの機械学習を前記分割学習期間毎に行うことで前記分割学習期間毎の学習期間評価モデルを生成し、前記検証データを用いて前記分割学習期間毎の前記学習期間評価モデルの検証をそれぞれ行うことで前記学習期間評価モデルの評価指標を前記分割学習期間毎に算出する学習期間評価処理と、
前記学習候補期間区分処理及び前記学習期間評価処理を、所定の終了条件を満たすまで、前記評価指標が高い前記分割学習期間を次の前記学習候補期間に設定して繰り返し行うとともに、前記終了条件を満たすとき、前記評価指標が高い前記分割学習期間に含まれる前記サブ学習期間を学習対象期間に選定する学習期間選定処理と、
前記学習対象期間に対応する前記サブ学習データを用いて機械学習が行われた前記学習モデルを、学習済みモデルとして出力するモデル出力処理と、を行う、
機械学習装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、機械学習方法及び機械学習装置に関する。
【背景技術】
【0002】
従来、データセットに対して機械学習を行う際、交差検証（クロスバリデーション）と呼ばれる手法が用いられている。交差検証は、データセットを学習データと検証データとに分割し、学習データを用いて学習モデルの機械学習を行い、検証データを用いて機械学習が行われた学習モデルの性能を評価するものである（例えば、特許文献１、特許文献２参照）。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開２０１９－００３４０８号公報
【特許文献2】特開２０１９－０６１５６５号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
交差検証を用いた際に、学習データ内に、例えば、他のデータと特徴が著しく異なるような特異なデータが含まれていた場合、その特異なデータの影響により学習モデルの性能が低下する可能性があった。
【0005】
本発明は、上述した課題に鑑みてなされたものであって、機械学習による学習モデルの性能を向上させることを可能とする機械学習方法及び機械学習装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するために、本発明の一態様に係る機械学習方法は、
コンピュータにより、所定の期間において所定の現象の経時的な変化に応じて取得された各時点のデータを時系列に並べて構成されるデータセットを用いて学習モデルの機械学習を行う機械学習方法であって、
前記期間を学習期間と検証期間とに区分し、前記学習期間を初期の学習候補期間に設定するとともに、前記データセットを、前記学習期間に対応する学習データと、前記検証期間に対応する検証データとに分割するデータセット分割処理と、
前記学習候補期間を複数の分割学習期間に区分する学習候補期間区分処理と、
前記分割学習期間に対応する前記学習データを用いて前記学習モデルの機械学習を前記分割学習期間毎に行うことで前記分割学習期間毎の学習期間評価モデルを生成し、前記検証データを用いて前記分割学習期間毎の前記学習期間評価モデルの検証をそれぞれ行うことで前記学習期間評価モデルの評価指標を前記分割学習期間毎に算出する学習期間評価処理と、
前記学習候補期間区分処理及び前記学習期間評価処理を、所定の終了条件を満たすまで、前記評価指標が高い前記分割学習期間を次の前記学習候補期間に設定して繰り返し行うとともに、前記終了条件を満たすとき、前記評価指標が高い前記分割学習期間を学習対象期間に選定する学習期間選定処理と、
前記学習対象期間に対応する前記学習データを用いて機械学習が行われた前記学習モデルを、学習済みモデルとして出力するモデル出力処理と、を行う。
コンピュータにより、所定の期間において所定の現象の経時的な変化に応じて取得された各時点のデータを時系列に並べて構成されるデータセットを用いて学習モデルの機械学習を行う機械学習方法であって、
前記期間を学習期間と検証期間とに区分し、前記学習期間を初期の学習候補期間に設定するとともに、前記データセットを、前記学習期間に対応する学習データと、前記検証期間に対応する検証データとに分割するデータセット分割処理と、
前記学習候補期間を複数の分割学習期間に区分する学習候補期間区分処理と、
前記分割学習期間に対応する前記学習データを用いて前記学習モデルの機械学習を前記分割学習期間毎に行うことで前記分割学習期間毎の学習期間評価モデルを生成し、前記検証データを用いて前記分割学習期間毎の前記学習期間評価モデルの検証をそれぞれ行うことで前記学習期間評価モデルの評価指標を前記分割学習期間毎に算出する学習期間評価処理と、
前記学習候補期間区分処理及び前記学習期間評価処理を、所定の終了条件を満たすまで、前記評価指標が高い前記分割学習期間を次の前記学習候補期間に設定して繰り返し行うとともに、前記終了条件を満たすとき、前記評価指標が高い前記分割学習期間を学習対象期間に選定する学習期間選定処理と、
前記学習対象期間に対応する前記学習データを用いて機械学習が行われた前記学習モデルを、学習済みモデルとして出力するモデル出力処理と、を行う。
【0007】
また、本発明の他の態様に係る機械学習方法は、
コンピュータにより、所定の期間において所定の現象の経時的な変化に応じて取得された各時点のデータを時系列に並べて構成されるデータセットを用いて学習モデルの機械学習を行う機械学習方法であって、
前記期間を学習期間と検証期間とに区分し、前記学習期間を初期の学習候補期間に設定するとともに、前記データセットを、前記学習期間に対応する学習データと、前記検証期間に対応する検証データとに分割するデータセット分割処理と、
前記学習期間を複数のサブ学習期間に区分し、前記学習データを複数の前記サブ学習期間に対応する複数のサブ学習データに分割する学習データ分割処理と、
前記学習候補期間に含まれる複数の前記サブ学習期間を複数の分割学習期間に区分する学習候補期間区分処理と、
前記分割学習期間に含まれる前記サブ学習期間に対応する前記サブ学習データを用いて前記学習モデルの機械学習を前記分割学習期間毎に行うことで前記分割学習期間毎の学習期間評価モデルを生成し、前記検証データを用いて前記分割学習期間毎の前記学習期間評価モデルの検証をそれぞれ行うことで前記学習期間評価モデルの評価指標を前記分割学習期間毎に算出する学習期間評価処理と、
前記学習候補期間区分処理及び前記学習期間評価処理を、所定の終了条件を満たすまで、前記評価指標が高い前記分割学習期間を次の前記学習候補期間に設定して繰り返し行うとともに、前記終了条件を満たすとき、前記評価指標が高い前記分割学習期間に含まれる前記サブ学習期間を学習対象期間に選定する学習期間選定処理と、
前記学習対象期間に対応する前記サブ学習データを用いて機械学習が行われた前記学習モデルを、学習済みモデルとして出力するモデル出力処理と、を行う。
コンピュータにより、所定の期間において所定の現象の経時的な変化に応じて取得された各時点のデータを時系列に並べて構成されるデータセットを用いて学習モデルの機械学習を行う機械学習方法であって、
前記期間を学習期間と検証期間とに区分し、前記学習期間を初期の学習候補期間に設定するとともに、前記データセットを、前記学習期間に対応する学習データと、前記検証期間に対応する検証データとに分割するデータセット分割処理と、
前記学習期間を複数のサブ学習期間に区分し、前記学習データを複数の前記サブ学習期間に対応する複数のサブ学習データに分割する学習データ分割処理と、
前記学習候補期間に含まれる複数の前記サブ学習期間を複数の分割学習期間に区分する学習候補期間区分処理と、
前記分割学習期間に含まれる前記サブ学習期間に対応する前記サブ学習データを用いて前記学習モデルの機械学習を前記分割学習期間毎に行うことで前記分割学習期間毎の学習期間評価モデルを生成し、前記検証データを用いて前記分割学習期間毎の前記学習期間評価モデルの検証をそれぞれ行うことで前記学習期間評価モデルの評価指標を前記分割学習期間毎に算出する学習期間評価処理と、
前記学習候補期間区分処理及び前記学習期間評価処理を、所定の終了条件を満たすまで、前記評価指標が高い前記分割学習期間を次の前記学習候補期間に設定して繰り返し行うとともに、前記終了条件を満たすとき、前記評価指標が高い前記分割学習期間に含まれる前記サブ学習期間を学習対象期間に選定する学習期間選定処理と、
前記学習対象期間に対応する前記サブ学習データを用いて機械学習が行われた前記学習モデルを、学習済みモデルとして出力するモデル出力処理と、を行う。
【発明の効果】
【0008】
本発明の態様に係る機械学習方法によれば、学習期間選定処理により、学習候補期間区分処理及び学習期間評価処理が繰り返し行われることで、学習期間評価モデルの評価指標が高い分割学習期間が学習対象期間に選定されて、その学習対象期間に対応する学習データを用いて学習モデルの機械学習が行われる。したがって、機械学習による学習モデルの性能を向上させることができる。
【0009】
上記以外の課題、構成及び効果は、後述する発明を実施するための形態にて明らかにされる。
【図面の簡単な説明】
【0010】
【図1】機械学習装置１の一例を示す構成図である。
【図2】コンピュータ２００の一例を示すハードウエア構成図である。
【図3】第１の実施形態に係る機械学習方法Ｓ１の一例を示すフローチャートである。
【図5】第１の実施形態に係る機械学習方法Ｓ１の実行例を示す図である。
【図7】第１の実施形態に係る機械学習方法Ｓ１における評価指標の算出例を示す図である。
【図8】第２の実施形態に係る機械学習方法Ｓ２の一例を示すフローチャートである。
【図10】第２の実施形態に係る機械学習方法Ｓ２の実行例を示す図である。
【図12】第２の実施形態に係る機械学習方法Ｓ２における評価指標の算出例を示す図である。
【発明を実施するための形態】
【0011】
以下、図面を参照して本発明を実施するための実施形態について説明する。以下では、本発明の目的を達成するための説明に必要な範囲を模式的に示し、本発明の該当部分の説明に必要な範囲を主に説明することとし、説明を省略する箇所については公知技術によるものとする。
【0012】
（第１の実施形態）
図１は、第１の実施形態に係る機械学習装置１の一例を示す構成図である。機械学習装置１は、データセットＤを用いて学習モデルＭの機械学習を行う機械学習方法Ｓ１を実行可能な装置であり、例えば、汎用又は専用のコンピュータ（後述の図２参照）で構成される。
図１は、第１の実施形態に係る機械学習装置１の一例を示す構成図である。機械学習装置１は、データセットＤを用いて学習モデルＭの機械学習を行う機械学習方法Ｓ１を実行可能な装置であり、例えば、汎用又は専用のコンピュータ（後述の図２参照）で構成される。
【0013】
データセットＤは、所定の期間Ｐにおいて所定の現象の経時的な変化に応じて取得された各時点のデータを時系列に並べて構成される。所定の現象は、例えば、観測対象の状態を表す１又は複数の変量が経時的に変化するものであり、例えば、機械的現象、電磁気的現象、熱的現象、音響的現象、化学的現象、生理的現象等であり、自然現象や経済現象でもよい。それぞれの現象にて観測対象の状態を表す変量は、例えば、各種のセンサにより所定の時間周期で計測されて、その計測された変量をデータとして数値化（デジタル化）し、時系列順に収集・蓄積することで、機械学習方法Ｓ１にて用いられるデータセットＤとして構成される。なお、データセットＤは、過去に収集されたものでもよいし、リアルタイムで収集されたものでもよい。
【0014】
機械学習装置１は、その主要な構成要素として、制御部１０と、記憶部１１と、入力部１２と、出力部１３と、通信部１４と、機器接続部１５とを備える。
【0015】
制御部１０は、記憶部１１に記憶された機械学習プログラム１１０を実行することで、機械学習部１００として機能し、機械学習方法Ｓ１にて行われる各種の処理を実行する。記憶部１１は、機械学習プログラム１１０と、機械学習プログラム１１０で使用される各種のデータとを記憶する他に、例えば、オペレーティングシステム（ＯＳ）、他のプログラムやデータ等を記憶する。入力部１２は、各種の入力操作を受け付けるとともに、出力部１３は、表示画面や音声を介して各種の情報を出力することで、ユーザインターフェースとして機能する。通信部１４は、有線又は無線のネットワークに接続されて、他の装置（不図示）との間で各種のデータを送受信する通信インターフェースとして機能する。機器接続部１５は、スキャナ、プリンタ等の外部機器、センサ等の計測機器、及び、ＵＳＢメモリ、ＣＤ－ＲＯＭ、ＤＶＤ等の記憶媒体との接続インターフェースとして機能する。
【0016】
機械学習方法Ｓ１では、データセットＤを用いて学習モデルＭの機械学習を行うことにより、学習済みモデルを任意の利用システムに提供する。データセットＤが、例えば、機器や設備（機器や設備の構成部品の１つでもよい）における監視対象や制御対象の変量に基づくものである場合には、学習済みモデルは、未知の変量（過去に収集されたものでもよいし、リアルタイムで収集されたものでもよい）が入力されることで、監視対象の状態（異常、故障、それらの予兆等）を推定したり、制御対象を制御したりするために用いられる。
【0017】
学習モデルＭは、任意の機械学習アルゴリズムや機械学習手法を実現するモデルであり、二値分類や多値分類のような分類問題を扱うものでよいし、回帰問題を扱うものでもよ
い。学習モデルＭは、例えば、決定木、回帰木等のツリー型、バギング、ブースティング等のアンサンブル学習、ディープニューラルネットワーク、再帰型ニューラルネットワーク、畳み込みニューラルネットワーク、ＬＳＴＭ等のニューラルネット型(ディープラー
ニングを含む)、階層型クラスタリング、非階層型クラスタリング、ｋ近傍法、ｋ平均法
等のクラスタリング型、主成分分析、因子分析、ロジスティク回帰等の多変量解析、サポートベクターマシン等が挙げられるが、これらの例に限られない。また、学習モデルＭは、機械学習手法として、教師あり学習、教師なし学習及び強化学習のいずれを適用したものでもよい。
い。学習モデルＭは、例えば、決定木、回帰木等のツリー型、バギング、ブースティング等のアンサンブル学習、ディープニューラルネットワーク、再帰型ニューラルネットワーク、畳み込みニューラルネットワーク、ＬＳＴＭ等のニューラルネット型(ディープラー
ニングを含む)、階層型クラスタリング、非階層型クラスタリング、ｋ近傍法、ｋ平均法
等のクラスタリング型、主成分分析、因子分析、ロジスティク回帰等の多変量解析、サポートベクターマシン等が挙げられるが、これらの例に限られない。また、学習モデルＭは、機械学習手法として、教師あり学習、教師なし学習及び強化学習のいずれを適用したものでもよい。
【0018】
図２は、コンピュータ２００の一例を示すハードウエア構成図である。コンピュータ２００は、機械学習装置１を構成する装置の一例であり、汎用又は専用のコンピュータとして構成される。
【0019】
コンピュータ２００は、図２に示すように、その主要な構成要素として、バス２１０、プロセッサ２１２、メモリ２１４、入力デバイス２１６、出力デバイス２１７、表示デバイス２１８、ストレージ装置２２０、通信Ｉ／Ｆ（インターフェース）部２２２、外部機器Ｉ／Ｆ部２２４、Ｉ／Ｏ（入出力）デバイスＩ／Ｆ部２２６、及び、メディア入出力部２２８を備える。なお、上記の構成要素は、コンピュータ２００が使用される用途に応じて適宜省略されてもよい。
【0020】
プロセッサ２１２は、１つ又は複数の演算処理装置（ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）、ＭＰＵ（Ｍｉｃｒｏ－ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ）、ＤＳＰ（ｄｉｇｉｔａｌ ｓｉｇｎａｌ ｐｒｏｃｅｓｓｏｒ）、ＧＰＵ（Ｇｒａｐｈｉｃｓ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）等）で構成され、コンピュータ２００全体を統括する制御部１０として動作する。メモリ２１４は、各種のデータ及びプログラム２３０を記憶し、例えば、メインメモリとして機能する揮発性メモリ（ＤＲＡＭ、ＳＲＡＭ等）と、不揮発性メモリ（ＲＯＭ）、フラッシュメモリ等とで構成される。
【0021】
入力デバイス２１６は、例えば、キーボード、マウス、テンキー、電子ペン等で構成され、入力部１２として機能する。出力デバイス２１７は、例えば、音（音声）出力装置、バイブレーション装置等で構成され、出力部１３として機能する。表示デバイス２１８は、例えば、液晶ディスプレイ、有機ＥＬディスプレイ、電子ペーパー、プロジェクタ等で構成され、出力部１３として機能する。入力デバイス２１６及び表示デバイス２１８は、タッチパネルディスプレイのように、一体的に構成されていてもよい。ストレージ装置２２０は、例えば、ＨＤＤ（Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）、ＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）等で構成され、記憶部１１として機能する。ストレージ装置２２０は、オペレーティングシステムやプログラム２３０の実行に必要な各種のデータを記憶する。
【0022】
通信Ｉ／Ｆ部２２２は、インターネットやイントラネット等のネットワーク２４０に有線又は無線により接続され、所定の通信規格に従って他のコンピュータとの間でデータの送受信を行う通信部１４として機能する。外部機器Ｉ／Ｆ部２２４は、カメラ、プリンタ、スキャナ、リーダライタ等の外部機器２５０に有線又は無線により接続され、所定の通信規格に従って外部機器２５０との間でデータの送受信を行う機器接続部１５として機能する。Ｉ／ＯデバイスＩ／Ｆ部２２６は、各種のセンサ、アクチュエータ等のＩ／Ｏデバイス２６０に接続され、Ｉ／Ｏデバイス２６０との間で、例えば、センサによる検出信号やアクチュエータへの制御信号等の各種の信号やデータの送受信を行う機器接続部１５として機能する。メディア入出力部９２８は、例えば、ＤＶＤ（Ｄｉｇｉｔａｌ Ｖｅｒｓａｔｉｌｅ Ｄｉｓｃ）ドライブ、ＣＤ（Ｃｏｍｐａｃｔ Ｄｉｓｃ）ドライブ等のドライブ装置、メモリカードスロット、ＵＳＢコネクタで構成され、ＤＶＤ、ＣＤ、メモリカ
ード、ＵＳＢメモリ等のメディア（非一時的な記憶媒体）９７０に対してデータの読み書きを行う機器接続部１５として機能する。
ード、ＵＳＢメモリ等のメディア（非一時的な記憶媒体）９７０に対してデータの読み書きを行う機器接続部１５として機能する。
【0023】
上記構成を有するコンピュータ２００において、プロセッサ２１２は、ストレージ装置２２０に記憶されたプログラム２３０をメモリ２１４に呼び出して実行し、バス２１０を介してコンピュータ２００の各部を制御する。なお、プログラム２３０は、ストレージ装置２２０に代えて、メモリ２１４に記憶されていてもよい。プログラム２３０は、インストール可能なファイル形式又は実行可能なファイル形式でメディア２７０に記録され、メディア入出力部２２８を介してコンピュータ２００に提供されてもよい。プログラム２３０は、通信Ｉ／Ｆ部２２２を介してネットワーク２４０経由でダウンロードすることによりコンピュータ２００に提供されてもよい。また、コンピュータ２００は、プロセッサ２１２がプログラム２３０を実行することで実現する各種の機能を、例えば、ＦＰＧＡ（ｆｉｅｌｄ－ｐｒｏｇｒａｍｍａｂｌｅ ｇａｔｅ ａｒｒａｙ）、ＡＳＩＣ（ａｐｐｌｉｃａｔｉｏｎ ｓｐｅｃｉｆｉｃ ｉｎｔｅｇｒａｔｅｄ ｃｉｒｃｕｉｔ）等のハードウエアで実現するものでもよい。
【0024】
コンピュータ２００は、例えば、据置型コンピュータや携帯型コンピュータで構成され、任意の形態の電子機器である。また、コンピュータ２００は、クライアント型コンピュータでもよいし、サーバ型コンピュータやクラウド型コンピュータでもよい。
【0025】
【0026】
図３及び図４は、第１の実施形態に係る機械学習方法Ｓ１の一例を示すフローチャートである。図５及び図６は、第１の実施形態に係る機械学習方法Ｓ１の実行例を示す図である。図７は、第１の実施形態に係る機械学習方法Ｓ１における評価指標の算出例を示す図である。
【0027】
まず、ステップＳ１００（データセット取得処理）にて、機械学習装置１は、所定の期間Ｐにおける各時点のデータを時系列順に含むデータセットＤを取得する。なお、データセットＤは、記憶部１１に記憶されたものを読み出してもよいし、通信部１４を介して他の装置から受信してもよいし、機器接続部１５を介して記憶媒体に記録されたものを参照してもよいし、機器接続部１５を介して計測機器により計測されたものでもよい。
【0028】
次に、ステップＳ１１０（データセット分割処理）にて、期間Ｐを学習期間ＰＬと検証期間ＰＴとに区分し、学習期間ＰＬを初期の学習候補期間ＰＬ１に設定するとともに、データセットＤを、学習期間ＰＬに対応する学習データＤＬと、検証期間ＰＴに対応する検証データＤＴとに分割する。
【0029】
期間Ｐは、例えば、「９：１」のような所定のデータ割合により、学習期間ＰＬ（例えば、９０％）と検証期間ＰＴ（例えば、１０％）とに区分される。その際、検証期間ＰＴを期間Ｐの時系列において離散的に設定するようにしてもよい。例えば、期間Ｐが、３５日間である場合、前期（１～１２日目）のうちの１日間、中期（１３～２４日目）のうちの１日間、後期（２５～３５日目）のうちの１日間のように、期間Ｐの時系列において分散されるのがより好ましく、検証期間ＰＴが、６日目、１８日目、３０日目として設定されるようにしてもよい。これにより、検証データに含まれるデータの偏りを抑制することができる。
【0030】
また、初期の学習候補期間ＰＬ１は、後述の学習期間選定処理Ｓ１５０～Ｓ１５２にて学習候補期間区分処理Ｓ１３０及び学習期間評価処理Ｓ１４０、Ｓ１４１が繰り返し実行
されるときの学習候補期間ＰＬｉ（ただし、ｉ＝１，２，…，Ｒ（Ｒは２以上の整数））の初期値を示すものである。「ｉ」は、繰り返し回数を示す変数（インデックス）であり、データセット分割処理Ｓ１１０にて、繰り返し回数ｉ＝１として初期化される。また、「Ｒ」は、繰り返し回数の上限値を示し、本実施形態では、繰り返し上限値Ｒ＝３であるものとして説明する。
されるときの学習候補期間ＰＬｉ（ただし、ｉ＝１，２，…，Ｒ（Ｒは２以上の整数））の初期値を示すものである。「ｉ」は、繰り返し回数を示す変数（インデックス）であり、データセット分割処理Ｓ１１０にて、繰り返し回数ｉ＝１として初期化される。また、「Ｒ」は、繰り返し回数の上限値を示し、本実施形態では、繰り返し上限値Ｒ＝３であるものとして説明する。
【0031】
次に、ステップＳ１３０（学習候補期間区分処理）にて、学習候補期間ＰＬｉを複数の分割学習期間ＰＬＤｉ，ｊ（ただし、ｊ＝１，２，…，Ｓ（Ｓは２以上の整数））に区分する。「ｊ」は、複数の分割学習期間ＰＬＤｉ，ｊを識別するための識別子を示す変数（インデックス）である。また、「Ｓ」は、複数の分割学習期間ＰＬＤｉ，ｊを区分するときの区分数を示し、本実施形態では、区分数Ｓ＝２であるものとして説明する。したがって、本実施形態では、繰り返し回数ｉが「１」である場合の初期の学習候補期間ＰＬ１は、区分数Ｓが「２」に対応して、２つの分割学習期間ＰＬＤ１，１、ＰＬＤ１，２に区分される。
【0032】
なお、複数の分割学習期間ＰＬＤｉ，ｊの各々が、学習候補期間ＰＬｉの時系列において離散的な期間をそれぞれ含むように、複数の分割学習期間ＰＬＤｉ，ｊに区分されるようにしてよい。例えば、学習候補期間ＰＬ１が、３５日間のうち、６、１８、３０日目を除く３２日間である場合、分割学習期間ＰＬＤ１，１には、１～５、１９～２９日目を含む１６日間、分割学習期間ＰＬＤ１，２には、７～１７、３１～３５日目を含む１６日間のように区分される。これにより、複数の分割学習期間ＰＬＤｉ，ｊの各々に含まれるデータの偏りを抑制することができる。
【0033】
次に、ステップＳ１４０、Ｓ１４１（学習期間評価処理）にて、分割学習期間ＰＬＤｉ，ｊに対応する学習データＤＬである分割学習データＤＬＤｉ，ｊを用いて学習モデルＭの機械学習を分割学習期間ＰＬＤｉ，ｊ毎に行うことで分割学習期間ＰＬＤｉ，ｊ毎の学習期間評価モデルＭＬｉ，ｊを生成する。そして、検証データＤＴを用いて分割学習期間ＰＬＤｉ，ｊ毎の学習期間評価モデルＭＬｉ，ｊの検証をそれぞれ行うことで学習期間評価モデルＭＬｉ，ｊの評価指標ＥＬｉ，ｊを分割学習期間ＰＬＤｉ，ｊ毎に算出する。
【0034】
学習期間評価モデルＭＬｉ，ｊの評価指標ＥＬｉ，ｊは、例えば、正解率、適合率、再現率、特異率、Ｆ値等であり、単一の評価指標を用いてもよいし、複数の評価指標を組み合わせて用いてもよい。本実施形態では、評価指標ＥＬｉ，ｊとして適合率を用いるものとして説明すると、繰り返し回数ｉが「１」である場合には、分割学習期間ＰＬＤ１，１を用いて機械学習が行われた学習期間評価モデルＭＬ１，１の適合率（評価指標ＥＬ１，１＝３６．５％）と、分割学習期間ＰＬＤ１，２を用いて機械学習が行われた学習期間評価モデルＭＬ１，２の適合率（評価指標ＥＬ１，２＝２３．６％）とがそれぞれ算出される。
【0035】
次に、ステップＳ１５０～Ｓ１５２（学習期間選定処理）にて、学習候補期間区分処理Ｓ１３０及び学習期間評価処理Ｓ１４０、Ｓ１４１を繰り返して行う繰り返し処理を終了するか否かを、所定の終了条件に応じて判定する（ステップＳ１５０）。終了条件は、例えば、繰り返し回数ｉをインクリメントとしたときに、繰り返し回数ｉが繰り返し上限値Ｒ（本実施形態では、Ｒ＝３）を超えたか否か、評価指標ＥＬｉ，ｊが所定の限界値（例えば、下限値）を外れたか否か等により判定される。
【0036】
そして、終了条件を満たしていないとき（ステップＳ１５１：Ｎｏ）、繰り返し処理を継続するために、評価指標ＥＬｉ，ｊが高い分割学習期間ＰＬＤｉ，ｊを次の学習候補期間ＰＬｉに設定して（ステップＳ１５１）、ステップＳ１３０に戻ることで、上記の学習候補期間区分処理Ｓ１３０及び学習期間評価処理Ｓ１４０、Ｓ１４１を、終了条件を満た
すまで繰り返し行う。例えば、本実施形態では、繰り返し回数ｉが「１」である場合、評価指標ＥＬ１，１が高い分割学習期間ＰＬＤ１，１が次の学習候補期間ＰＬ２に設定される。なお、区分数Ｓが「２」の場合には、評価指標ＥＬｉ，ｊが高い方の１つの分割学習期間ＰＬＤｉ，ｊが次の学習候補期間ＰＬｉに設定されるが、区分数Ｓが「３以上」の場合には、評価指標ＥＬｉ，ｊが最も高い１つの分割学習期間ＰＬＤｉ，ｊが次の学習候補期間ＰＬｉに設定されてもよいし、評価指標ＥＬｉ，ｊが高い順に複数の分割学習期間ＰＬＤｉ，ｊが次の学習候補期間ＰＬｉに設定されてもよい。
すまで繰り返し行う。例えば、本実施形態では、繰り返し回数ｉが「１」である場合、評価指標ＥＬ１，１が高い分割学習期間ＰＬＤ１，１が次の学習候補期間ＰＬ２に設定される。なお、区分数Ｓが「２」の場合には、評価指標ＥＬｉ，ｊが高い方の１つの分割学習期間ＰＬＤｉ，ｊが次の学習候補期間ＰＬｉに設定されるが、区分数Ｓが「３以上」の場合には、評価指標ＥＬｉ，ｊが最も高い１つの分割学習期間ＰＬＤｉ，ｊが次の学習候補期間ＰＬｉに設定されてもよいし、評価指標ＥＬｉ，ｊが高い順に複数の分割学習期間ＰＬＤｉ，ｊが次の学習候補期間ＰＬｉに設定されてもよい。
【0037】
一方、終了条件を満たすとき（ステップＳ１５１：Ｙｅｓ）、繰り返し処理を終了し、評価指標ＥＬｉ，ｊが高い分割学習期間ＰＬＤｉ，ｊを学習対象期間ＰＬＦに選定する（ステップＳ１５２）。なお、区分数Ｓが「２」の場合には、評価指標ＥＬｉ，ｊが高い方の１つの分割学習期間ＰＬＤｉ，ｊが学習対象期間ＰＬＦに設定されるが、区分数Ｓが「３以上」の場合には、評価指標ＥＬｉ，ｊが最も高い１つの分割学習期間ＰＬＤｉ，ｊが学習対象期間ＰＬＦに設定されてもよいし、評価指標ＥＬｉ，ｊが高い順に複数の分割学習期間ＰＬＤｉ，ｊが学習対象期間ＰＬＦに設定されてもよい。
【0038】
そして、ステップＳ１６０（第１のモデル出力処理）にて、学習対象期間ＰＬＦに対応する学習データＤＬ（以下、「学習対象データＤＬＦ」という）を用いて機械学習が行われた学習モデルＭを、第１の学習済みモデルＭＦ１として出力する。第１の学習済みモデルＭＦ１の出力先としては、記憶部１１でもよいし、他の装置でもよい。第１の学習済みモデルＭＦ１には、例えば、学習モデルＭを特徴付けるための学習済みの係数やパラメータが含まれる。なお、後述の第２のモデル出力処理ステップＳ１９０にて第２の学習済みモデルＭＦ１を出力する場合には、第１の学習済みモデルＭＦ１の出力は省略されてもよい。
【0039】
次に、ステップＳ１７０（学習データ分割処理）にて、学習対象期間ＰＬＦを除く学習期間ＰＬＣを複数のサブ学習期間ＰＬＳｋ（ｋ＝２，３，…，Ｔ（Ｔは３以上の整数））に区分し、学習対象期間ＰＬＦに対応する学習対象データＤＬＦを除く学習データＤＬＣを複数のサブ学習期間ＰＬＳｋに対応する複数のサブ学習データＤＬＳｋに分割する。「Ｔ」は、複数のサブ学習データＤＬＳｋに分割するときの分割数を示し、本実施形態では、分割数Ｔ＝７（＝２Ｒ－１＝２３－１）であり、７つのサブ学習データＤＬＳｋ（ｋ＝２，３，…，８）に分割されるものとして説明する。
【0040】
次に、ステップＳ１８０、Ｓ１８１（追加期間選定処理）にて、複数のサブ学習データＤＬＳｋの各々を用いて第１の学習済みモデルＭＦ１の検証をそれぞれ行うことで第１の学習済みモデルＭＦ１の評価指標ＥＦｋをサブ学習期間ＰＬＳｋ毎に算出する。そして、第１の学習済みモデルＭＦ１の評価指標ＥＦｋが所定の追加条件を満たすサブ学習期間ＰＬＳｋを追加対象期間ＰＬＡに選定する。追加条件は、例えば、評価指標ＥＦｋの値に対する閾値を用いて、評価指標ＥＦｋがその閾値を超えたか否かにより判定される。その結果、追加対象期間ＰＬＡとしては、１つのサブ学習期間ＰＬＳｋが選定されてもよいし、複数のサブ学習期間ＰＬＳｋが選定されてもよい。図６及び図７の例では、２つのサブ学習期間ＰＬＳ２、ＰＬＳ６が追加対象期間ＰＬＡとして選定された場合が図示されている。
【0041】
そして、ステップＳ１９０（第２のモデル出力処理）にて、学習対象期間ＰＬＦ及び追加対象期間ＰＬＡの少なくとも一方に対応する学習データＤＬを用いて機械学習が行われた学習モデルＭを、第２の学習済みモデルＭＦ２として出力する。すなわち、学習対象期間ＰＬＦに対応する学習対象データＤＬＦ、及び、追加対象期間ＰＬＡに対応するサブ学習データＤＬＳｋ（図６及び図７の例では、ＤＬＳ２、ＤＬＳ６）の少なくとも一方を用いて学習モデルＭの機械学習を行い、第２の学習済みモデルＭＦ２として出力し、一連の
処理を終了する。第２の学習済みモデルＭＦ２の出力先としては、第１の学習済みモデルＭＦ１と同様に、記憶部１１でもよいし、他の装置でもよい。第２の学習済みモデルＭＦ２には、第１の学習済みモデルＭＦ１と同様に、例えば、学習モデルＭを特徴付けるための学習済みの係数やパラメータが含まれる。
処理を終了する。第２の学習済みモデルＭＦ２の出力先としては、第１の学習済みモデルＭＦ１と同様に、記憶部１１でもよいし、他の装置でもよい。第２の学習済みモデルＭＦ２には、第１の学習済みモデルＭＦ１と同様に、例えば、学習モデルＭを特徴付けるための学習済みの係数やパラメータが含まれる。
【0042】
なお、第２の学習済みモデルＭＦ２は、追加対象期間ＰＬＡに対応するサブ学習データＤＬＳｋを用いて第１の学習済みモデルＭＦ１の機械学習（再学習）を追加的に行ってもよいし、学習対象データＤＬＦ及び追加対象期間ＰＬＡに対応するサブ学習データＤＬＳｋ用いて、初期化された学習モデルＭの機械学習を行ってもよい。また、第２の学習済みモデルＭＦ２として、学習対象データＤＬＦ及びサブ学習データＤＬＳｋを任意に組み合わせて学習モデルＭの機械学習を行うことで複数の第２の学習済みモデルＭＦ２が出力されてもよく、例えば、学習対象データＤＬＦ及びサブ学習データＤＬＳ２、ＤＬＳ６を用いて機械学習が行われた学習モデルＭと、学習対象データＤＬＦ及びサブ学習データＤＬＳ２を用いて機械学習が行われた学習モデルＭと、学習対象データＤＬＦ及びサブ学習データＤＬＳ６を用いて機械学習が行われた学習モデルＭとが出力されてもよい。
【0043】
以上のように、本実施形態に係る機械学習方法Ｓ１によれば、学習期間選定処理Ｓ１５０～Ｓ１５２により、学習候補期間区分処理Ｓ１３０及び学習期間評価処理Ｓ１４０、Ｓ１４１が繰り返し行われることで、学習期間評価モデルＭＬｉ，ｊの評価指標ＥＬｉ，ｊが高い分割学習期間ＰＬＤｉ，ｊが学習対象期間ＰＬＦに選定されて、その学習対象期間ＰＬＦに対応する学習対象データＤＬＦを用いて学習モデルＭの機械学習が行われる。したがって、機械学習による学習モデルの性能を向上させることができる。
【0044】
また、追加期間選定処理ステップＳ１８０、Ｓ１８１により、第１の学習済みモデルＭＦ１の評価指標ＥＦｋが所定の追加条件を満たすサブ学習期間ＰＬＳｋが追加対象期間ＰＬＡに選定されて、その追加対象期間ＰＬＡに対応するサブ学習データＤＬＳｋを用いて学習モデルＭの機械学習が行われる。したがって、学習対象データＤＬＦを用いて機械学習を行うことによる過学習をサブ学習データＤＬＳｋで抑制しつつ、学習モデルの性能を向上させることができる。
【0045】
（第２の実施形態）
本実施形態に係る機械学習装置１の基本的な構成は、第１の実施形態と共通し、機械学習装置１の制御部１０（機械学習部１００）により行われる機械学習方法Ｓ２の詳細が、第１の実施形態における機械学習方法Ｓ１と相違する。具体的には、第１の実施形態では、学習データ分割処理Ｓ１７０が、第１のモデル出力処理Ｓ１６０の後に行われるのに対し、第２の実施形態では、学習データ分割処理Ｓ２２０が、データセット分割処理Ｓ２１０の後に行われる点で相違する。以下では、本実施形態に係る機械学習装置１の制御部１０（機械学習部１００）により行われる機械学習方法Ｓ２の詳細について、図８乃至図１２を参照して説明する。
本実施形態に係る機械学習装置１の基本的な構成は、第１の実施形態と共通し、機械学習装置１の制御部１０（機械学習部１００）により行われる機械学習方法Ｓ２の詳細が、第１の実施形態における機械学習方法Ｓ１と相違する。具体的には、第１の実施形態では、学習データ分割処理Ｓ１７０が、第１のモデル出力処理Ｓ１６０の後に行われるのに対し、第２の実施形態では、学習データ分割処理Ｓ２２０が、データセット分割処理Ｓ２１０の後に行われる点で相違する。以下では、本実施形態に係る機械学習装置１の制御部１０（機械学習部１００）により行われる機械学習方法Ｓ２の詳細について、図８乃至図１２を参照して説明する。
【0046】
図８及び図９は、第２の実施形態に係る機械学習方法Ｓ２の一例を示すフローチャートである。図１０及び図１１は、第２の実施形態に係る機械学習方法Ｓ２の実行例を示す図である。図１２は、第２の実施形態に係る機械学習方法Ｓ２における評価指標の算出例を示す図である。
【0047】
まず、ステップＳ２００（データセット取得処理）にて、ステップＳ１００と同様に、機械学習装置１は、所定の期間Ｐにおける各時点のデータを時系列順に含むデータセットＤを取得する。
【0048】
次に、ステップＳ２１０（データセット分割処理）にて、ステップＳ１１０と同様に、
期間Ｐを学習期間ＰＬと検証期間ＰＴとに区分し、学習期間ＰＬを初期の学習候補期間ＰＬ１に設定するとともに、データセットＤを、学習期間ＰＬに対応する学習データＤＬと、検証期間ＰＴに対応する検証データＤＴとに分割する。
期間Ｐを学習期間ＰＬと検証期間ＰＴとに区分し、学習期間ＰＬを初期の学習候補期間ＰＬ１に設定するとともに、データセットＤを、学習期間ＰＬに対応する学習データＤＬと、検証期間ＰＴに対応する検証データＤＴとに分割する。
【0049】
初期の学習候補期間ＰＬ１は、後述の学習期間選定処理Ｓ２５０～Ｓ２５２にて学習候補期間区分処理Ｓ２３０及び学習期間評価処理Ｓ２４０、Ｓ２４１が繰り返し実行されるときの学習候補期間ＰＬｉ（ｉ＝１，２，…，Ｒ（Ｒは２以上の整数））の初期値を示すものである。「ｉ」は、繰り返し回数を示す変数（インデックス）であり、データセット分割処理Ｓ２１０にて、繰り返し回数ｉ＝１として初期化される。また、「Ｒ」は、繰り返し回数の上限値を示すものであり、本実施形態では、繰り返し上限値Ｒ＝３であるものとして説明する。
【0050】
次に、ステップＳ２２０（学習データ分割処理）にて、学習期間ＰＬを複数のサブ学習期間ＰＬＳｋ（ｋ＝１，２，…，Ｔ（Ｓは２以上の整数））に区分し、学習データＤＬを複数のサブ学習期間ＰＬＳｋに対応する複数のサブ学習データＤＬＳｋに分割する。「Ｔ」は、複数のサブ学習データＤＬＳｋに分割するときの分割数を示し、本実施形態では、分割数Ｔ＝８（＝２Ｒ＝２３）であり、８つのサブ学習データＤＬＳｋ（ｋ＝１，３，…，８）に分割されるものとして説明する。
【0051】
次に、ステップＳ２３０（学習候補期間区分処理）にて、学習候補期間ＰＬｉに含まれる複数のサブ学習期間ＰＬＳｋを複数の分割学習期間ＰＬＤｉ，ｊ（ただし、ｊ＝１，２，…，Ｓ（Ｓは２以上の整数））に区分する。「ｊ」は、複数の分割学習期間ＰＬＤｉ，ｊを識別するための識別子を示す変数（インデックス）である。また、「Ｓ」は、複数の分割学習期間ＰＬＤｉ，ｊを区分するときの区分数を示し、本実施形態では、区分数Ｓ＝２であるものとして説明する。したがって、本実施形態では、繰り返し回数ｉが「１」である場合の初期の学習候補期間ＰＬ１は、区分数Ｓが「２」に対応して、２つの分割学習期間ＰＬＤ１，１、ＰＬＤ１，２に区分されるが、その際、４つのサブ学習期間ＰＬＳ１～ＰＬＳ４を含む分割学習期間ＰＬＤ１，１と、４つのサブ学習期間ＰＬＳ５～ＰＬＳ８を含む分割学習期間ＰＬＤ１，２とに区分される。
【0052】
なお、複数の分割学習期間ＰＬＤｉ，ｊの各々が、学習候補期間ＰＬｉの時系列において離散的な期間をそれぞれ含むように、複数のサブ学習期間ＰＬＳｋにおける時系列をランダムにして、複数の分割学習期間ＰＬＤｉ，ｊに区分されるようにしてよい。例えば、分割学習期間ＰＬＤ１，１が４つのサブ学習期間ＰＬＳ１、ＰＬＳ３、ＰＬＳ５、ＰＬＳ７を含み、分割学習期間ＰＬＤ１，２が４つのサブ学習期間ＰＬＳ２、ＰＬＳ４、ＰＬＳ６、ＰＬＳ８を含むように区分されてもよい。これにより、複数のサブ学習期間ＰＬＳｋの各々に含まれるデータの偏りを抑制することができる。
【0053】
次に、ステップＳ２４０、Ｓ２４１（学習期間評価処理）にて、分割学習期間ＰＬＤｉ，ｊに含まれるサブ学習期間ＰＬＳｋに対応するサブ学習データＤＬＳｋを用いて学習モデルＭの機械学習を分割学習期間ＰＬＤｉ，ｊ毎に行うことで分割学習期間ＰＬＤｉ，ｊ毎の学習期間評価モデルＭＬｉ，ｊを生成する。そして、検証データＤＴを用いて分割学習期間ＰＬＤｉ，ｊ毎の学習期間評価モデルＭＬｉ，ｊの検証をそれぞれ行うことで学習期間評価モデルＭＬｉ，ｊの評価指標ＥＬｉ，ｊを分割学習期間ＰＬＤｉ，ｊ毎に算出する。
【0054】
次に、ステップＳ２５０～Ｓ２５２（学習期間選定処理）にて、ステップＳ１５０～Ｓ１５２と同様に、学習候補期間区分処理Ｓ２３０及び学習期間評価処理Ｓ２４０、Ｓ２４１を繰り返して行う繰り返し処理を終了するか否かを、所定の終了条件に応じて判定する（ステップＳ２５０）。終了条件は、例えば、繰り返し回数ｉをインクリメントとしたと
きに、繰り返し回数ｉが繰り返し上限値Ｒ（本実施形態では、Ｒ＝３）を超えたか否か、評価指標ＥＬｉ，ｊが所定の限界値（例えば、下限値）を外れたか否か等により判定される。
きに、繰り返し回数ｉが繰り返し上限値Ｒ（本実施形態では、Ｒ＝３）を超えたか否か、評価指標ＥＬｉ，ｊが所定の限界値（例えば、下限値）を外れたか否か等により判定される。
【0055】
そして、終了条件を満たしていないとき（ステップＳ２５１：Ｎｏ）、繰り返し処理を継続するために、評価指標ＥＬｉ，ｊが高い分割学習期間ＰＬＤｉ，ｊを次の学習候補期間ＰＬｉに設定して（ステップＳ２５１）、ステップＳ２３０に戻ることで、上記の学習候補期間区分処理Ｓ２３０及び学習期間評価処理Ｓ２４０、Ｓ２４１を、終了条件を満たすまで繰り返し行う。
【0056】
一方、終了条件を満たすとき（ステップＳ２５１：Ｙｅｓ）、繰り返し処理を終了し、評価指標ＥＬｉ，ｊが高い分割学習期間ＰＬＤｉ，ｊに含まれるサブ学習期間ＰＬＳｋを学習対象期間ＰＬＦに選定する（ステップＳ２５２）。
【0057】
そして、ステップＳ２６０（第１のモデル出力処理）にて、ステップＳ１６０と同様に、学習対象期間ＰＬＦに対応するサブ学習データＤＬＳｋ（以下、「学習対象データＤＬＦ」という）を用いて機械学習が行われた学習モデルＭを、第１の学習済みモデルＭＦ１として出力する。
【0058】
次に、ステップＳ２８０、Ｓ２８１（追加期間選定処理）にて、学習対象期間ＰＬＦに対応する学習対象データＤＬＦを除く複数のサブ学習データＤＬＳｋの各々を用いて第１の学習済みモデルＭＦ１の検証をそれぞれ行うことで第１の学習済みモデルＭＦ１の評価指標ＥＦｋをサブ学習期間ＰＬＳｋ毎に算出する。そして、第１の学習済みモデルＭＦ１の評価指標ＥＦｋが所定の追加条件を満たすサブ学習期間ＰＬＳｋを追加対象期間ＰＬＡに選定する。図１１及び図１２の例では、２つのサブ学習期間ＰＬＳ２、ＰＬＳ６が追加対象期間ＰＬＡとして選定された場合が図示されている。
【0059】
そして、ステップＳ２９０（第２のモデル出力処理）にて、学習対象期間ＰＬＦ及び追加対象期間ＰＬＡの少なくとも一方に対応するサブ学習データＤＬＳｋを用いて機械学習が行われた学習モデルＭを、第２の学習済みモデルＭＦ２として出力する。すなわち、学習対象期間ＰＬＦに対応する学習対象データＤＬＦ、及び、追加対象期間ＰＬＡに対応するサブ学習データＤＬＳｋ（図１１及び図１２の例では、ＤＬＳ２、ＤＬＳ６）の少なくとも一方を用いて学習モデルＭの機械学習を行い、第２の学習済みモデルＭＦ２として出力し、一連の処理を終了する。
【0060】
以上のように、本実施形態に係る機械学習方法Ｓ２によれば、学習期間選定処理Ｓ２５０～Ｓ２５２により、学習候補期間区分処理Ｓ２３０及び学習期間評価処理Ｓ２４０、Ｓ２４１が繰り返し行われることで、学習期間評価モデルＭＬｉ，ｊの評価指標ＥＬｉ，ｊが高い分割学習期間ＰＬＤｉ，ｊに含まれるサブ学習期間ＰＬＳｋが学習対象期間ＰＬＦに選定されて、その学習対象期間ＰＬＦに対応する学習対象データＤＬＦを用いて学習モデルＭの機械学習が行われる。したがって、機械学習による学習モデルの性能を向上させることができる。
【0061】
また、追加期間選定処理ステップＳ２８０、Ｓ２８１により、第１の学習済みモデルＭＦ１の評価指標ＥＦｋが所定の追加条件を満たすサブ学習期間ＰＬＳｋが追加対象期間ＰＬＡに選定されて、その追加対象期間ＰＬＡに対応するサブ学習データＤＬＳｋを用いて学習モデルＭの機械学習が行われる。したがって、学習対象データＤＬＦを用いて機械学習を行うことによる過学習をサブ学習データＤＬＳｋで抑制しつつ、学習モデルの性能を向上させることができる。
【0062】
（他の実施形態）
本発明は上述した実施形態に制約されるものではなく、本発明の主旨を逸脱しない範囲内で種々変更して実施することが可能である。そして、それらはすべて、本発明の技術思想に含まれるものである。
本発明は上述した実施形態に制約されるものではなく、本発明の主旨を逸脱しない範囲内で種々変更して実施することが可能である。そして、それらはすべて、本発明の技術思想に含まれるものである。
【0063】
上記実施形態では、機械学習装置１の制御部１０（機械学習部１００）により行われる機械学習方法Ｓ１、Ｓ２は、単一の装置で実現されるものとして説明したが、機械学習方法Ｓ１、Ｓ２に含まれる各処理が複数の装置で分散して行われることで複数の装置で実現されてもよい。
【0064】
上記実施形態では、機械学習方法Ｓ１、Ｓ２の詳細を示すフローチャートにおいて、各ステップの実行順序を適宜入れ替えてもよいし、一部のステップを省略してもよい。例えば、機械学習方法Ｓ１において、ステップＳ１７０以降の処理は省略されてもよいし、機械学習方法Ｓ２において、ステップＳ２８０以降の処理は省略されてもよい。
【0065】
上記実施形態では、機械学習方法Ｓ１、Ｓ２が、例えば、終了条件、追加条件、データ割合、繰り返し上限値Ｒ、区分数Ｓ、分割数Ｔ等の各種の条件や設定に従って行われるものとして説明したが、これらの条件や設定は、適宜変更されてもよく、例えば、ユーザインターフェースとして機能する入力部１２及び出力部１３により表示画面上で変更可能に構成されていてもよい。
【0066】
上記実施形態では、機械学習方法Ｓ１、Ｓ２におけるデータセット分割処理Ｓ１１０、Ｓ２１０は、データセットＤを学習データＤＬと検証データＤＴとに分割するものであり、所謂ホールドアウト検証の手法を採用したものであるが、機械学習方法Ｓ１、Ｓ２に、例えば、ｋ－分割交差検証、層化k分割交差検証、シャッフル分割交差検証、時系列分割
交差検証、スライド型交差検証等のような交差検証の手法を適宜組み合わせてもよい。
交差検証、スライド型交差検証等のような交差検証の手法を適宜組み合わせてもよい。
【符号の説明】
【0067】
１…機械学習装置、１０…制御部、１１…記憶部、１２…入力部、１３…出力部、
１４…通信部、１５…機器接続部、
１００…機械学習部、１１０…機械学習プログラム、２００…コンピュータ
１４…通信部、１５…機器接続部、
１００…機械学習部、１１０…機械学習プログラム、２００…コンピュータ
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
