特許 7283578 データ生成プログラム及び方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2023-05-22

(45)【発行日】2023-05-30

(54)【発明の名称】データ生成プログラム及び方法

(51)【国際特許分類】

   G06N 20/00 20190101AFI20230523BHJP

【ＦＩ】

G06N20/00 130

【請求項の数】 9

(21)【出願番号】P 2021562430

(86)(22)【出願日】2019-12-06

(86)【国際出願番号】 JP2019047909

(87)【国際公開番号】W WO2021111630

(87)【国際公開日】2021-06-10

【審査請求日】2022-02-16

(73)【特許権者】

【識別番号】000005223

【氏名又は名称】富士通株式会社

(74)【代理人】

【識別番号】110001519

【氏名又は名称】弁理士法人太陽国際特許事務所

(72)【発明者】

【氏名】鈴木 成人

【審査官】金沢 史明

(56)【参考文献】

【文献】米国特許出願公開第２０１８／００８２２２４（ＵＳ，Ａ１）

【文献】特開２０１９－１０１９８２（ＪＰ，Ａ）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ２０／００

(57)【特許請求の範囲】

【請求項1】

システムにおけるジョブ実行時に消費された各計測点における電力を示す波形データをクラスタリングし、
各クラスタに含まれる波形データに基づいて、統計的にデータの水増しを行う第１の手法と、データの特徴量に基づいてデータの水増しを行う第２の手法とを併用して、各クラスタに含まれる波形データの数が所定範囲となるように、波形データを生成する
ことを含む処理をコンピュータに実行させるためのデータ生成プログラム。

【請求項2】

クラスタに含まれる波形データの数が前記所定範囲より少ないクラスタについて、前記クラスタに含まれる波形データの数が所定数になるまで、前記第１の手法により波形データを生成し、前記クラスタに含まれる波形データ及び前記第１の手法により生成された波形データに基づいて、前記クラスタに含まれる波形データの数が前記所定範囲となるまで、前記第２の手法により波形データを生成する請求項１に記載のデータ生成プログラム。

【請求項3】

前記所定数を、前記第１の手法と前記第２の手法とを併用して生成された波形データ群と、前記第２の手法により生成された波形データ群との類似度に基づいて決定する請求項２に記載のデータ生成プログラム。

【請求項4】

前記第１の手法により生成された波形データの数に対する前記類似度の値にガウス過程を適用して、前記所定数として最適な値を決定する請求項３に記載のデータ生成プログラム。

【請求項5】

クラスタに含まれる波形データ数をｎ、前記所定範囲に含まれる数をＮ、前記所定数をＸとし、前記第１の手法により（Ｎ－ｎ）×０．５まで生成し、前記第２の手法によりＮ個まで生成した第１の波形データ群と、前記第２の手法によりＮ個まで生成した第２の波形データ群との前記類似度が閾値以上の場合、前記第２の手法により（Ｎ－ｎ）個の波形データを生成し、前記類似度が前記閾値未満の場合、前記第１の手法によりＸ個まで波形データを生成し、前記第２の手法によりＮ個まで波形データを生成する請求項３又は請求項４に記載のデータ生成プログラム。

【請求項6】

波形データをクラスタリングする際、適切なクラスタ数を決定する請求項１～請求項５のいずれか１項に記載のデータ生成プログラム。

【請求項7】

前記所定範囲を、全波形データの数をクラスタ数で除算した値を基準とした範囲とする請求項１～請求項６のいずれか１項に記載のデータ生成プログラム。

【請求項8】

クラスタに含まれる波形データの数が前記所定範囲を超えるクラスタについては、前記クラスタに含まれる波形データの数が前記所定範囲となるように、前記クラスタに含まれる波形データをランダムに削除する請求項１～請求項７のいずれか１項に記載のデータ生成プログラム。

【請求項9】

システムにおけるジョブ実行時に消費された各計測点における電力を示す波形データをクラスタリングし、
各クラスタに含まれる波形データに基づいて、統計的にデータの水増しを行う第１の手法と、データの特徴量に基づいてデータの水増しを行う第２の手法とを併用して、各クラスタに含まれる波形データの数が所定範囲となるように、波形データを生成する
ことを含む処理をコンピュータが実行するデータ生成方法。

【発明の詳細な説明】

【技術分野】

【0001】

開示の技術は、データ生成プログラム及びデータ生成方法に関する。

【背景技術】

【0002】

電力会社に支払う電気料金は、「電気料金＝契約電力料金＋電力量料金単価×１ヶ月の電力使用量」という式で計算される。また、契約電力料金は、前年（過去１年間）で最も電力を使用した３０分間の電力使用量（最大需要電力）で決定される。そのため一度でも３０分間の平均電力が契約電力を超過すれば、次年度の電気料金が増加することになる。

【0003】

また、例えば、ＨＰＣ（High Performance Computer）等は、膨大な電力を消費するため、契約電力料金が高額になる。

【0004】

そこで、電気料金を抑えるため、契約電力を超過しないようにジョブをスケジューリングする技術が求められている。具体的には、ジョブ実行前に、各ジョブの情報を用いた分類により、そのジョブの実行時に消費される電力の予測を行う。ジョブの実行を開始して一定時間経過後からは、分類されたジョブ毎に作成した予測モデルを使用して、計測された電力とモデルとを用いて、各ジョブの電力の時系列予測を行う。そして、各ジョブの時系列予測の結果を積算して、全ジョブの電力を時系列予測することにより、契約電力を超過しないようにジョブスケジューリングを行う。

【0005】

予測モデルは、過去に実行されたジョブの消費電力の実績を学習データとして学習することで生成される。ここで、学習データの数が十分でない場合、例えば、ＶＡＥ（Variable Auto Encoder）を使用したデータ水増し技術で、学習データを増やす手法が知られている。

【0006】

ＶＡＥに関して、複数のデータから潜在的要因、具体的には感情を推定する際に、ラベリング作業を削減することができ、いずれかのデータに欠損が生じても感情を推定する情報処理装置が提案されている。この装置は、訓練データを用いて半教師あり学習の機械学習を実行し、学習済みのモデルを用いて、観測データからその潜在要因としての人物の感情を推定して出力する。また、この装置は、再帰型ニューラルネットワーク（ＲＮＮ）とＶＡＥとの組合せにより機械学習を実行する。

【0007】

また、データの水増しに関して、十分な実績値が揃っていない場合でも保守部品の生涯需要を予測する方法が提案されている。この方法は、部品毎、部品の保守開始からの経過年毎に、経過年までの累計製品出荷台数と、製品１台当たりの部品需要量を変換関数により変換した正規化部品需要量を算出し、部品をグループに分類する。また、この方法は、グループ毎、経過（ｋ＋１）年目以降の経過年毎に、経過年の正規化部品需要量を予測するための線形回帰式を構築する。また、この方法は、入力された予測対象部品が属するグループを特定し、線形回帰式を使用して、予測対象部品の予測対象年における部品の需要量の予測値を算出する。

【0008】

また、電力予測に関して、負荷構成等の電力消費に関する情報を汎用的かつ高精度に予測する予測装置が提案されている。この予測装置は、時刻毎の電力消費の値と当該電力消費に関する情報とを含んで構成されるパターンを複数記憶し、予測対象の時刻毎の電力消費の値及び各パターンの電力消費の値に基づいて、予測対象が分類されるパターンを特定する。そして、この予測装置は、特定されたパターンの当該電力消費に関する情報に基づいた出力を行う。

【先行技術文献】

【特許文献】

【0009】

【文献】特開２０１８－１５２００４号公報

【文献】特開２０１２－１５５６８４号公報

【文献】特開２０１５－２３１３２８号公報

【発明の概要】

【発明が解決しようとする課題】

【0010】

学習データとして使用するために水増しされるデータの質が低いと、生成される予測モデルによる予測精度が低下してしまう、という問題がある。

【0011】

一つの側面として、開示の技術は、予測モデルの予測精度を向上させることができる学習データを生成することを目的とする。

【課題を解決するための手段】

【0012】

一つの態様として、開示の技術は、システムにおけるジョブ実行時に消費された各計測点における電力を示す波形データをクラスタリングする。また、開示の技術は、各クラスタに含まれる波形データに基づいて、統計的にデータの水増しを行う第１の手法と、データの特徴量に基づいてデータの水増しを行う第２の手法とを併用する。そして、開示の技術は、各クラスタに含まれる波形データの数が所定範囲となるように、波形データを生成する。

【発明の効果】

【0013】

一つの側面として、予測モデルの予測精度を向上させることができる、という効果を有する。

【図面の簡単な説明】

【0014】

【図1】予測システムの概略構成を示すブロック図である。

【図2】ジョブ電力ＤＢの一例を示す図である。

【図3】全ての波形データをそのままＶＡＥの入出力に設定する場合の問題点を説明するための図である。

【図4】データ生成部の機能ブロック図である。

【図5】適切なクラスタ数の決定を説明するための図である。

【図6】１クラスタ当たりの波形データの数をＮに調整することを説明するための図である。

【図7】ＢＯＸ－ＣＯＸ変換とＶＡＥとを併用した波形データの水増しを説明するための図である。

【図8】波形データに応じてＢＯＸ－ＣＯＸ変換による水増し数が異なることを説明するための図である。

【図9】適切なＸの値の決定を説明するための図である。

【図10】クラスタ毎に波形データをＶＡＥの入出力に設定する場合を説明するための図である。

【図11】学習データセットの作成を説明するための図である。

【図12】予測装置として機能するコンピュータの概略構成を示すブロック図である。

【図13】データ生成処理の一例を示すフローチャートである。

【図14】学習処理の一例を示すフローチャートである。

【図15】予測処理の一例を示すフローチャートである。

【発明を実施するための形態】

【0015】

以下、図面を参照して、開示の技術に係る実施形態の一例を説明する。

【0016】

図１に示すように、予測システム１００は、ＨＰＣ（High Performance Computer）等の管理対象システム４０と、管理対象システム４０を管理する管理装置３０と、管理対象システム４０でのジョブ実行時の消費電力を予測する予測装置２０とを含む。

【0017】

管理装置３０は、機能的には、図１に示すように、スケジューリング部３２と、制御部３４とを含む。また、管理装置３０の所定の記憶領域には、ジョブ電力ＤＢ（Database）３６が記憶される。

【0018】

スケジューリング部３２は、各ジョブの実行に関するスケジュールを決定する。この際、スケジューリング部３２は、後述する予測装置２０の予測部２４により予測される各ジョブの消費電力の予測結果に基づいて、全ジョブの合計の消費電力が契約電力を超えないように、各ジョブのスケジュールを決定する。

【0019】

制御部３４は、スケジューリング部３２により決定されたスケジュールに従ってジョブが実行されるよう、管理対象システム４０に指示を出力することにより、ジョブの実行を制御する。

【0020】

ジョブ電力ＤＢ３６には、図２に示すように、管理対象システム４０で計測点毎に計測されたジョブ毎の消費電力が記憶される。計測点は、所定時間間隔（例えば、５分間隔）であり、ジョブの実行開始から時間の経過にしたがって、計測点１、計測点２、・・・となる。以下では、計測点ｉを「Ｔｉ」と表記する。また、図２の例では、ユーザにより設定されるジョブの最大実行時間に相当する計測点を「Ｔｍａｘ」としている。例えば、ジョブの最大実行時間が２４時間で、計測点の時間間隔が５分毎の場合、Ｔｍａｘ＝Ｔ２８８となる。

【0021】

予測装置２０は、機能的には、図１に示すように、データ生成部１０と、学習部２２と、予測部２４とを含む。また、予測装置２０の所定の記憶領域には、波形データＤＢ２６と、予測モデル２８とが記憶される。なお、データ生成部１０は、開示の技術のデータ生成装置の一例である。

【0022】

データ生成部１０は、管理対象システム４０におけるジョブ毎の消費電力を予測する予測モデル２８を学習するための波形データを生成する。波形データとは、各ジョブの計測点毎の電力値の時系列データである。すなわち、波形データのデータ構造は、管理装置３０のジョブ電力ＤＢ３６に記憶された電力値と同様である。以下では、ジョブ電力ＤＢ３６に記憶された電力値を、「過去の波形データ」ともいう。

【0023】

予測モデル２８を学習するための波形データとしては、上述の過去の波形データを用いることができる。ここで、過去の波形データの数が少ない場合、予測モデル２８を適切に学習することができないため、データ生成部１０は、過去の波形データを水増しして波形データを生成する。

【0024】

この水増しによる波形データの生成において、ＶＡＥ（Variable Auto Encoder）を用いることを考える。ＶＡＥは、図３に示すように、入力データを潜在変数に変換するニューラルネットワークであるエンコーダと、潜在変数から元の入力データを復元するニューラルネットワークであるデコーダとを含む。学習時においては、入力と出力とに同じ波形データ群を設定し、潜在変数を学習する。そして、水増し対象の波形データを学習されたＶＡＥに入力することにより、新たな波形データを生成する。ＶＡＥのニューラルネットワークは、波形データの特徴を獲得するものであるため、原則的には、ＶＡＥで生成される波形データは、元の波形データと類似した特徴を有するデータとなる。

【0025】

しかし、水増し対象の波形データの多様性が大きい場合、学習時にニューラルネットワークで獲得される特徴のばらつきが大きくなり、潜在変数を適切に学習することができない。潜在変数が適切に学習されていないＶＡＥで生成された波形データは、予測モデル２８の学習に適さない、質の低いものとなる可能性が高い。

【0026】

そこで、データ生成部１０は、過去の波形データ全てに対して水増しを実施するのではなく、最初に似た波形データ群に分類してから、予測精度に寄与する波形データのみを対象として水増しを実施する。以下、データ生成部１０について詳述する。

【0027】

図４に示すように、データ生成部１０は、さらに、クラスタリング部１１と、決定部１２と、削除部１３と、第１生成部１４と、第２生成部１５とを含んだ構成で表すことができる。

【0028】

クラスタリング部１１は、管理装置３０のジョブ電力ＤＢ３６から過去の波形データを取得し、取得した波形データをクラスタリングする。クラスタリングには、例えば、ｋ－ｍｅａｎｓ法等の手法を用いることができる。また、クラスタリング部１１は、クラスタリングに際して、適切なクラスタ数を決定する。

【0029】

具体的には、クラスタリング部１１は、クラスタ数の設定を変更しながらクラスタリングを行い、各クラスタに含まれる波形データのばらつきの、全クラスタ分の和を算出する。ばらつきの和としては、例えば、クラスタ中心と、各波形データとの残差平方和（ＳＳＥ：Sum of squared Error）を用いることができる。そして、クラスタリング部１１は、図５に示すように、横軸にクラスタ数、縦軸にＳＳＥの値をとり、例えば、エルボー法等により飽和ポイントを特定する。飽和ポイントは、例えば、各クラスタ数に対して、前のクラスタ数に対するＳＳＥの減少率を算出し、前のクラスタ数の減少率の所定値以下（例えば、５０％以下）の減少率となったクラスタ数として定義しておくことができる。

【0030】

クラスタリング部１１は、決定したクラスタ数と、決定したクラスタ数で波形データをクラスタリングした結果とを決定部１２へ受け渡す。

【0031】

決定部１２は、１クラスタ当たりの得たい波形データの数Ｎを決定する。例えば、決定部１２は、「Ｎ＝全波形データ数／クラスタ数」のようにＮを決定する。図６に示すように、１クラスタ当たりの波形データの数をＮに調整することで、様々な波形の種類に対して、予測モデル２８を均等に学習することができる。

【0032】

そこで、決定部１２は、クラスタに含まれる波形データの数が、決定した数Ｎを超えているクラスタについては、各クラスタに含まれる波形データ及びＮの値を削除部１３に受け渡す。一方、クラスタに含まれる波形データの数が、決定した数Ｎ以下のクラスタについては、各クラスタに含まれる波形データ及びＮの値を第１生成部１４及び第２生成部１５に受け渡す。

【0033】

ここで、本実施形態では、統計的にデータの水増しを行う第１生成部１４と、データの特徴量に基づいてデータの水増しを行う第２生成部１５とを併用して、各クラスタに含まれる波形データの数がＮ個となるように、波形データを生成する。本実施形態では、第１生成部１４は、ＢＯＸ－ＣＯＸ変換による水増し、第２生成部１５は、ＶＡＥによる水増しを行う場合について説明する。以下、２つの手法を併用する理由について説明する。

【0034】

クラスタリング部１１では、ユーグリッド距離に基づいてクラスタリングを行うため、各クラスタ内の波形データの数は不均衡になる。例えば、３９２個のジョブを２０個のクラスタに分類した際、各クラスタに分類される波形データの数が（１２６，２，１，２９，１，１２，１９７，１，２，１，１，１，１１，１，１，１，１，１，１，１）のようになる場合がある。この例では、多くの波形データを含むクラスタがある一方、１つしか波形データが含まれないクラスタが存在する。

【0035】

ＶＡＥは、上述したように、エンコーダ及びデコーダであるニューラルネットワークでデータの特徴量を獲得し、獲得した特徴量を用いてデータの水増しを行う。このように特徴量に基づいてデータの水増しを行う手法では、水増しで得られるデータのランダム性が高いため、学習データとして用いるのに適した質の高いデータを生成することができる。すなわち、特徴量に基づいて水増しするため、学習させたい特徴を反映したデータを適切に水増しすることができる。ただし、元のデータの数が少な過ぎるとデータの特徴量が獲得できないため、元のデータが所定数（最低１００個程度）に満たない場合には、水増しを行うことができない。

【0036】

一方、データを正規分布に近づけるための変換を行うＢＯＸ－ＣＯＸ変換のように、統計的手法により水増しを行う場合、元のデータが１つでも水増しすることができる。ただし、統計的手法の場合、水増しされるデータは、ランダム性が低く、ＶＡＥのような特徴量に基づく手法に比べ、学習データとしては質の悪いデータとなる。

【0037】

そこで、本実施形態では、図７に示すように、各クラスタに含まれる波形データの数ｎから、ＶＡＥを適用可能な数ＸまでＢＯＸ－ＣＯＸ変換で水増しした上で、ＶＡＥにより１クラスタ当たりの得たい数Ｎまで水増しする。

【0038】

ここで、ＢＯＸ－ＣＯＸ変換を用いてＸ個まで波形データを水増しする場合、Ｘを適切に定めることにより、ＶＡＥによる質の高い波形データの生成を最大限に行うことができる。しかし、適切なＸの値は不明であり、また、各クラスタに含まれる波形データによっても異なる。

【0039】

具体的には、図８に示すように、波形データが示す波形の形状がシンプルな場合、その波形の変化が乏しく、ＶＡＥにより特徴量を獲得し難いため、ＶＡＥの潜在変数の学習のために、ベースとなる波形データが多く必要となる（図８中のＸ１）。一方、波形の形状が複雑な場合、ＶＡＥにより特徴量を獲得し易いため、ベースとなる波形データが少なくても（図８中のＸ２）、ＶＡＥの潜在変数を学習することができる。

【0040】

そこで、決定部１２は、クラスタ毎に、ＢＯＸ－ＣＯＸ変換を用いてＸ個まで波形データを水増しする場合のＸを決定する。具体的には、決定部１２は、複数のＸの値の各々について、第１生成部１４にＸ個まで波形データを生成させ、第２生成部１５にＮ個まで波形データを生成させて、第１の波形データ群とする。また、決定部１２は、第２生成部１５のみにＮ個まで波形データを生成させて、第２の波形データ群とする。決定部１２は、第１の波形データ群と第２の波形データ群との類似度に基づいて、クラスタ毎にＸを決定する。類似度は、実行時間が異なるジョブについての波形データ同士を評価することを考慮して、両波形データ群の平均同士から、動的時間伸縮法（ＤＴＷ：Dynamic Time Warping）により算出することができる。

【0041】

決定部１２は、図９に示すように、Ｘの値に対する類似度の変化から、適切なＸの値を決定する。類似度が高い場合、ＢＯＸ－ＣＯＸ変換を用いて水増しした場合と、ＶＡＥのみで水増しした場合との差が小さいことを示しており、ＢＯＸ－ＣＯＸ変換による水増しを行わなくてもＶＡＥにより質の高い波形データを生成できていることを示す。したがって、できるだけ類似度が高く、かつ小さいＸの値を決定することが望ましい。

【0042】

例えば、決定部１２は、上記の図９に示すＸの値に対する類似度の変化にガウス過程を適用して、最適なＸを探索して決定することができる。探索のアルゴリズムにガウス過程を用いることにより、値の変化が上に凸の形状となる場合において、最小の探索数で最適値を探索することができる。

【0043】

また、クラスタに含まれる波形データのみで十分ＶＡＥを適用可能な場合もあることを考慮して、決定部１２は、第１の波形データ群と第２の波形データ群との類似度の閾値判定を行ってもよい。例えば、決定部１２は、ＢＯＸ－ＣＯＸ変換により（Ｎ－ｎ）×０．５まで生成し、ＶＡＥによりＮ個まで生成した第１の波形データ群と、ＶＡＥのみによりＮ個まで生成した第２の波形データ群との類似度を算出する。そして、決定部１２は、類似度が閾値以上の場合、ＶＡＥによりＮ個まで波形データを生成し、類似度が閾値未満の場合、上記のように適切なＸを探索して、ＢＯＸ－ＣＯＸ変換とＶＡＥとを併用して波形データを生成することができる。

【0044】

決定部１２は、決定したＸの値（Ｘ＝０の場合を含む）を第２生成部１５へ通知する。

【0045】

削除部１３は、決定部１２から受け渡されたクラスタに含まれる波形データの数がＮとなるように、そのクラスタに含まれる波形データをランダムに削除する。なお、類似する波形データが同一のクラスタに含まれているため、削除する波形データをランダムに選択しても問題ない。削除部１３は、削除後のＮ個の波形データを波形データＤＢ２６に記憶する。

【0046】

第１生成部１４は、上述したように、Ｘを決定する過程において、統計的手法（本実施形態では、ＢＯＸ－ＣＯＸ変換）により、波形データを生成する。具体的には、第１生成部１４は、決定部１２の指示により、Ｘの値を変更しながら、ＢＯＸ－ＣＯＸ変換により、クラスタ毎にＸ個まで波形データを生成し、生成した波形データを決定部１２及び第２生成部１５へ受け渡す。

【0047】

第２生成部１５は、上述したように、Ｘを決定する過程において、特徴量に基づく手法（本実施形態では、ＶＡＥ）により、波形データを生成する。具体的には、第２生成部１５は、決定部１２の指示により、クラスタに含まれる波形データ、及び第１生成部１４から受け渡された（Ｘ－ｎ）個の波形データを用いて、ＶＡＥにより、クラスタ毎に（Ｎ－Ｘ）個の波形データを生成する。なお、Ｘは０の場合があり、この場合、第１生成部１４から受け渡される波形データはない。

【0048】

第２生成部１５において、クラスタ毎にＶＡＥを適用することにより、図１０に示すように、ＶＡＥの入力及び出力の各々に設定する波形データ群は、その波形データ群に含まれる各波形データが類似したものとなる。これにより、ＶＡＥの潜在変数の学習が適切に進み、学習済みのＶＡＥで生成された波形データの品質が高まる。

【0049】

また、第２生成部１５は、決定部１２からＸの値が通知されると、通知されたＸの値について、第１生成部１４から受け渡された（Ｘ－ｎ）個の波形データ、生成した（Ｎ－Ｘ）個の波形データ、及びクラスタに含まれるｎ個の波形データを、波形データＤＢ２６に記憶する。

【0050】

これにより、波形データＤＢ２６には、ジョブ毎に、クラスタ数ｋ×Ｎ個の波形データが学習データとして記憶されることになる。波形データＤＢ２６のデータ構造は、図２に示すジョブ電力ＤＢ３６のデータ構造と同様である。

【0051】

学習部２２は、波形データＤＢ２６に記憶された波形データを用いて、予測モデル２８のパラメータを学習する。予測モデル２８としては、例えば、時系列データの学習手法であるＲＮＮ（Recurrent Neural Network）等を用いることができる。ＲＮＮでは、時刻ｔの隠れ層の内容が、次の時刻ｔ＋１の入力として扱われる。

【0052】

具体的には、学習部２２は、各波形データを整形する。具体的には、学習部２２は、まだ電力値が得られていない期間（現在～ジョブの最大実行時間）、及びジョブが既に完了している場合には、ジョブ終了時点～ジョブの最大実行時間における各計測点に対する電力値を０にする。

【0053】

学習部２２は、整形済みの波形データから、図１１に示すように、１計測点ずつずらしながら、問題（Ａ）部分と答え（Ｂ）部分とを抽出し、学習データセットを作成する。問題（Ａ）は、予測時において予測モデル２８に入力される電力値の時系列データに相当し、答え（Ｂ）は、予測モデル２８に入力された時系列データに対して予測される後の時間の電力値の時系列データの正解に相当する。すなわち、図１１の例では、Ｔ１～Ｔ６の電力値が入力された場合に、Ｔ７～Ｔ１２の電力値を予測する場合を表している。

【0054】

学習部２２は、作成した学習データセットの問題（Ａ）と答え（Ｂ）とを対応付けて、予測モデル２８のパラメータを学習する。

【0055】

予測部２４は、電力値の予測対象のジョブの実行が開始されると、該当のジョブの波形データを取得し、学習部２２と同様に、波形データを整形する。予測部２４は、整形後の波形データから、学習時の問題（Ａ）と同じ計測点分の電力値の時系列データを抽出し、予測モデル２８に入力し、後の時間の電力値の時系列データを予測し、予測結果を管理装置３０のスケジューリング部３２へ出力する。

【0056】

予測装置２０は、例えば図１２に示すコンピュータ５０で実現することができる。コンピュータ５０は、ＣＰＵ（Central Processing Unit）５１と、一時記憶領域としてのメモリ５２と、不揮発性の記憶部５３とを備える。また、コンピュータ５０は、入力部、表示部等の入出力装置５４と、記憶媒体５９に対するデータの読み込み及び書き込みを制御するＲ／Ｗ（Read/Write）部５５とを備える。また、コンピュータ５０は、インターネット等のネットワークに接続される通信Ｉ／Ｆ（Interface）５６を備える。ＣＰＵ５１、メモリ５２、記憶部５３、入出力装置５４、Ｒ／Ｗ部５５、及び通信Ｉ／Ｆ５６は、バス５７を介して互いに接続される。

【0057】

記憶部５３は、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、フラッシュメモリ等によって実現できる。記憶媒体としての記憶部５３には、コンピュータ５０を、予測装置２０として機能させるためのデータ生成プログラム６０、学習プログラム７０、及び予測プログラム８０が記憶される。データ生成プログラム６０は、クラスタリングプロセス６１と、決定プロセス６２と、削除プロセス６３と、第１生成プロセス６４と、第２生成プロセス６５とを有する。また、記憶部５３は、波形データＤＢ２６及び予測モデル２８の各々を構成する情報が記憶される情報記憶領域９０を有する。

【0058】

ＣＰＵ５１は、データ生成プログラム６０を記憶部５３から読み出してメモリ５２に展開し、データ生成プログラム６０が有するプロセスを順次実行する。ＣＰＵ５１は、クラスタリングプロセス６１を実行することで、図４に示すクラスタリング部１１として動作する。また、ＣＰＵ５１は、決定プロセス６２を実行することで、図４に示す決定部１２として動作する。また、ＣＰＵ５１は、削除プロセス６３を実行することで、図４に示す削除部１３として動作する。また、ＣＰＵ５１は、第１生成プロセス６４を実行することで、図４に示す第１生成部１４として動作する。また、ＣＰＵ５１は、第２生成プロセス６５を実行することで、図４に示す第２生成部１５として動作する。また、ＣＰＵ５１は、情報記憶領域９０から情報を読み出して、波形データＤＢ２６及び予測モデル２８の各々をメモリ５２に展開する。

【0059】

また、ＣＰＵ５１は、学習プログラム７０を記憶部５３から読み出してメモリ５２に展開して実行することで、図１に示す学習部２２として動作する。また、ＣＰＵ５１は、予測プログラム８０を記憶部５３から読み出してメモリ５２に展開して実行することで、図１に示す予測部２４として動作する。これにより、データ生成プログラム６０、学習プログラム７０、及び予測プログラム８０を実行したコンピュータ５０が、予測装置２０として機能することになる。なお、プログラムを実行するＣＰＵ５１はハードウェアである。

【0060】

なお、各プログラムにより実現される機能は、例えば半導体集積回路、より詳しくはＡＳＩＣ（Application Specific Integrated Circuit）等で実現することも可能である。

【0061】

なお、管理装置３０のハードウェア構成は、予測装置２０と同様に、ＣＰＵ、メモリ、記憶部、入出力装置５４、Ｒ／Ｗ部、通信Ｉ／Ｆ等を備えるコンピュータで実現することができるため、詳細な説明を省略する。

【0062】

次に、本実施形態に係る予測システム１００の作用について説明する。管理装置３０により制御され、管理対象システム４０においてジョブが実行される。ジョブの実行に伴い、管理装置３０のジョブ電力ＤＢ３６に、管理対象システム４０で計測点毎に計測されたジョブ毎の消費電力が記憶される。そして、所定のタイミング（例えば、７日毎）で、予測装置２０において、図１３に示すデータ生成処理が実行される。なお、データ生成処理は、開示の技術のデータ生成方法の一例である。

【0063】

ステップＳ１１で、クラスタリング部１１が、管理装置３０のジョブ電力ＤＢ３６から過去の波形データを取得する。

【0064】

次に、ステップＳ１２で、クラスタリング部１１が、クラスタ数を表す変数ｋに初期値（例えば、１０）を設定する。

【0065】

次に、ステップＳ１３で、クラスタリング部１１が、取得した波形データを、例えば、ｋ－ｍｅａｎｓ法等の手法を用いて、ｋ個にクラスタリングする。

【0066】

次に、ステップＳ１４で、クラスタリング部１１が、クラスタ数ｋにおけるＳＳＥを算出し、エルボー法により、クラスタ数ｋが、横軸にクラスタ数、縦軸にＳＳＥの値をとったグラフにおける飽和ポイントとなったか否かを判定する。飽和ポイントの場合には、クラスタリング部１１が、クラスタ数ｋと、クラスタ数ｋで波形データをクラスタリングした結果とを決定部１２へ受け渡し、処理はステップＳ１６へ移行する。一方、飽和ポイントではない場合には、処理はステップＳ１５へ移行し、クラスタリング部１１が、ｋに所定値（例えば、１０）を加算してクラスタ数を変更し、処理はステップＳ１３に戻る。

【0067】

ステップＳ１６では、決定部１２が、クラスタリング部１１から受け渡されたクラスタ数ｋ及びクラスタ結果を用いて、１クラスタ当たりの得たい波形データの数Ｎを、例えば「Ｎ＝全波形データ数／ｋ」のように決定する。

【0068】

次に、ステップＳ１７で、決定部１２が、クラスタリング部１１から受け渡されたクラスタ結果に含まれるクラスタの内、以降の処理が未処理のクラスタが存在するか否かを判定する。未処理のクラスタが存在する場合には、処理はステップＳ１８へ移行し、決定部１２が、未処理のクラスタを１つ選択する。

【0069】

次に、ステップＳ１９で、決定部１２が、選択したクラスタ内の波形データの数ｎが上記ステップＳ１６で決定したＮを超えているか否かを判定する。ｎ＞Ｎの場合には、決定部１２が、選択したクラスタに含まれる波形データ及びＮの値を削除部１３に受け渡し、処理はステップＳ２０へ移行する。一方、ｎ≦Ｎの場合には、処理はステップＳ２１へ移行する。

【0070】

ステップＳ２０では、削除部１３が、決定部１２から受け渡されたクラスタに含まれる波形データの数がＮとなるように、そのクラスタに含まれる波形データをランダムに削除する。そして、削除部１３が、削除後のＮ個の波形データを波形データＤＢ２６に記憶し、処理はステップＳ１７に戻る。

【0071】

一方、ステップＳ２１では、決定部１２が、選択したクラスタについて、ＢＯＸ－ＣＯＸ変換による波形データの水増しが必要か否かを判定する。具体的には、決定部１２が、選択したクラスタに含まれる波形データ及びＮの値を第１生成部１４及び第２生成部１５に受け渡す。そして、決定部１２は、第１生成部１４に、ＢＯＸ－ＣＯＸ変換により（Ｎ－ｎ）×０．５まで波形データを生成させ、第２生成部１５に、ＶＡＥによりＮ個まで波形データを生成させ、第１の波形データ群とする。また、決定部１２は、第２生成部１５に、ＶＡＥによりＮ個まで波形データを生成させ、第２の波形データ群とする。そして、決定部１２が、第１の波形データ群と第２の波形データ群との類似度を算出する。

【0072】

決定部１２は、類似度が閾値以上の場合、ＢＯＸ－ＣＯＸ変換による波形データの水増しは不要と判定し、Ｘ＝０であることを第２生成部１５へ通知し、処理はステップＳ２４へ移行する。一方、類似度が閾値未満の場合、決定部１２は、ＢＯＸ－ＣＯＸ変換による波形データの水増しが必要と判定し、処理はステップＳ２２へ移行する。

【0073】

ステップＳ２２では、決定部１２が、複数のＸの値の各々について、第１生成部１４に
Ｘ個まで波形データを生成させ、第２生成部１５にＮ個まで波形データを生成させて、第１の波形データ群とする。決定部１２は、Ｘの値に対する、第１の波形データ群と第２の波形データ群との類似度の変化にガウス過程を適用して、最適なＸを探索して決定し、決定したＸの値を第２生成部１５へ通知する。

【0074】

次に、ステップＳ２３で、第２生成部１５が、決定部１２から通知されたＸの値について、Ｘを決定する過程において、ＢＯＸ－ＣＯＸ変換とＶＡＥとを併用してＮ個まで生成した波形データを、波形データＤＢ２６に記憶する。すなわち、第２生成部１５は、第１生成部１４から受け渡された（Ｘ－ｎ）個の波形データ、生成した（Ｎ－Ｘ）個の波形データ、及びクラスタに含まれるｎ個の波形データを、波形データＤＢ２６に記憶する。そして、処理はステップＳ１７に戻る。

【0075】

一方、ステップＳ２４では、第２生成部１５が、Ｘを決定する過程において、ＶＡＥのみでＮ個まで生成した波形データを、波形データＤＢ２６に記憶する。すなわち、第２生成部１５は、生成した（Ｎ－ｎ）個の波形データ、及びクラスタに含まれるｎ個の波形データを、波形データＤＢ２６に記憶する。そして、処理はステップＳ１７に戻る。

【0076】

ステップＳ１７で、決定部１２が、全てのクラスタについて処理が終了していると判定すると、データ生成処理は終了する。

【0077】

また、予測モデル２８を生成する所定のタイミング（例えば、１か月毎）で、予測装置２０において、図１４に示す学習処理が実行される。本実施形態では、６計測点分の電力値の時系列データを用いて、その直後の６計測点分の電力値の時系列データを予測する予測モデル２８を生成する場合について説明する。

【0078】

ステップＳ３１で、学習部２２が、波形データＤＢ２６に記憶された波形データを取得する。そして、学習部２２が、波形データの各々の現在～ジョブの最大実行時間、及びジョブが既に完了している場合には、ジョブ終了時点～ジョブの最大実行時間における各計測点に対する電力値を０にして、波形データの各々を整形する。

【0079】

次に、ステップＳ３２で、学習部２２が、計測点を特定するための変数ｉに１を設定する。

【0080】

次に、ステップＳ３３で、学習部２２が、整形済みの波形データから、問題（Ａ）に相当する、計測点Ｔｉ～Ｔ（ｉ＋５）の電力値の時系列データと、答え（Ｂ）に相当する、計測点Ｔ（ｉ＋６）～Ｔ（ｉ＋１１）の電力値の時系列データとを抽出する。そして、学習部２２が、抽出した問題（Ａ）及び答え（Ｂ）を学習データセットとして作成し、所定の記憶領域に保存する。

【0081】

次に、ステップＳ３４で、学習部２２が、Ｔ（ｉ＋５）が、ジョブの最大実行時間に相当する計測点Ｔｍａｘに到達したか否かを判定する。Ｔ（ｉ＋５）＝Ｔｍａｘの場合は、処理はステップＳ３６へ移行する。一方、Ｔ（ｉ＋５）がまだＴｍａｘに到達していない場合には、処理はステップＳ３５へ移行し、学習部２２が、ｉを１インクリメントして、処理はステップＳ３３に戻る。

【0082】

ステップＳ３６では、学習部２２は、作成した学習データセットの問題（Ａ）と答え（Ｂ）とを対応付けて、予測モデル２８のパラメータを学習し、学習したパラメータを所定の記憶領域に記憶し、学習処理は終了する。

【0083】

また、電力値の予測対象のジョブの実行が開始される都度、予測装置２０において、図１５に示す予測処理が実行される。

【0084】

ステップＳ４１で、予測部２４が、計測点を特定するための変数ｉに１を設定する。

【0085】

次に、ステップＳ４２で、初回の予測に用いる電力値の時系列データが取得されるまで、所定時間待機する。本実施形態では、６計測点分の電力値の時系列データを予測に用いるため、計測点が５分間隔であるとすると、３０分待機することになる。

【0086】

次に、ステップＳ４３で、予測部２４が、管理装置３０のジョブ電力ＤＢ３６から、予測対象のジョブの波形データを取得し、学習処理のステップＳ３１と同様に整形する。

【0087】

次に、ステップＳ４４で、予測部２４が、整形済みの波形データから、計測点Ｔｉ～Ｔ（ｉ＋５）の電力値の時系列データを抽出して、予測モデル２８に入力する。そして、予測部２４は、予測モデル２８から得られる、計測点Ｔ（ｉ＋６）～Ｔ（ｉ＋１１）の電力値の時系列データの予測結果を、管理装置３０のスケジューリング部３２へ出力する。

【0088】

次に、ステップＳ４５で、予測部２４が、予測対象のジョブが完了したか否かを判定する。この判定は、管理装置３０からジョブの完了が通知されたか、所定数以上の計測点において連続して電力値が０か否か等に基づいて行うことができる。ジョブが完了した場合には、予測処理は終了し、ジョブが完了していない場合には、処理はステップＳ４６へ移行する。

【0089】

ステップＳ４６では、予測部２４が、Ｔ（ｉ＋５）が計測点Ｔｍａｘに到達したか否かを判定する。Ｔ（ｉ＋５）＝Ｔｍａｘの場合は、予測処理は終了する。一方、Ｔ（ｉ＋５）がまだＴｍａｘに到達していない場合には、処理はステップＳ４７へ移行し、予測部２４が、ｉを１インクリメントする。そして、ジョブの実行による次の１計測点分の電力値が取得されるのを待つため、所定時間（ここでは、５分）待機した後に、処理はステップＳ４３に戻る。

【0090】

以上説明したように、本実施形態における予測システムによれば、予測装置において、データ生成部が、波形データをクラスタリングし、予測精度に寄与する波形データのみを対象として水増しを実施する。予測精度に寄与する波形データとは、クラスタに含まれる波形データの数が所定範囲より少ないクラスタの波形データである。このクラスタについて、ＶＡＥを適用して水増しを行うことで、ＶＡＥの入力及び出力の各々に設定する波形データ群は、その波形データ群に含まれる各波形データが類似したものとなる。これにより、ＶＡＥの潜在変数の学習が適切に進み、学習済みのＶＡＥで生成された波形データの品質が高まる。また、クラスタに含まれる波形データが少なく、ＶＡＥを適用できない場合には、ＢＯＸ－ＣＯＸ変換により、波形データを適切な数まで水増しした上で、ＶＡＥを適用する。これにより、ＶＡＥの適用が可能になると共に、ＶＡＥによる質の高い波形データの生成を最大限に行うことができる。このように水増しされた波形データを予測モデルの学習に用いることにより、予測モデルの予測精度を向上させることができる。

【0091】

なお、上記実施形態では、波形データの水増しの統計的手法として、ＢＯＸ－ＣＯＸ変換を一例とし、特徴量に基づく手法として、ＶＡＥを一例として説明したが、これに限定されない。例えば、統計的手法としては、Ｊａｉｎ－Ｄｕｂｅｓ法、特徴量に基づく手法としては、敵対的生成ネットワーク等、他の手法を適用してもよい。

【0092】

また、上記実施形態では、データ生成プログラムが記憶部に予め記憶（インストール）されている態様を説明したが、これに限定されない。開示の技術に係るプログラムは、ＣＤ－ＲＯＭ、ＤＶＤ－ＲＯＭ、ＵＳＢメモリ等の記憶媒体に記憶された形態で提供することも可能である。

【符号の説明】

【0093】

１０ データ生成部
１１ クラスタリング部
１２ 決定部
１３ 削除部
１４ 第１生成部
１５ 第２生成部
２０ 予測装置
２２ 学習部
２４ 予測部
２６ 波形データＤＢ
２８ 予測モデル
３０ 管理装置
３２ スケジューリング部
３４ 制御部
３６ ジョブ電力ＤＢ
４０ 管理対象システム
５０ コンピュータ
５１ ＣＰＵ
５２ メモリ
５３ 記憶部
５９ 記憶媒体
６０ データ生成プログラム
１００ 予測システム

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】