特開 2024-132396 情報処理装置、情報処理システム、ＧＰＵ枚数計算方法、制御方法およびプログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024132396

(43)【公開日】2024-10-01

(54)【発明の名称】情報処理装置、情報処理システム、ＧＰＵ枚数計算方法、制御方法およびプログラム

(51)【国際特許分類】

   G06F 9/50 20060101AFI20240920BHJP

   G06F 1/3206 20190101ALI20240920BHJP

   G06F 1/3287 20190101ALI20240920BHJP

【ＦＩ】

G06F9/50 120A

G06F1/3206

G06F1/3287

【審査請求】未請求

【請求項の数】10

【出願形態】ＯＬ

(21)【出願番号】P 2023043138

(22)【出願日】2023-03-17

(71)【出願人】

【識別番号】000004237

【氏名又は名称】日本電気株式会社

(74)【代理人】

【識別番号】100149548

【弁理士】

【氏名又は名称】松沼 泰史

(74)【代理人】

【識別番号】100181135

【弁理士】

【氏名又は名称】橋本 隆史

(72)【発明者】

【氏名】小林 竜也

【テーマコード（参考）】

5B011

【Ｆターム（参考）】

5B011DA01

5B011EA01

5B011EA02

5B011LL07

(57)【要約】

【課題】処理の実行に必要なＧＰＵの数を把握する方法を提供する。
【解決手段】情報処理装置は、処理対象の全データの一部を抜き出して、抜き出した前記データを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、所定の期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する手段、を備える。
【選択図】図３

【特許請求の範囲】

【請求項1】

処理対象の全データの一部を抜き出して、抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、所定の期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する手段、
を備える情報処理装置。

【請求項2】

前記算出する手段は、前記抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、前記ＧＰＵの数と前記実行時間の関係を示す近似式を導出し、前記近似式に基づいて、前記ＧＰＵの数の最小値を算出する、
請求項１に記載の情報処理装置。

【請求項3】

前記全データのデータ数と抜き出した前記データのデータ数の比と、前記実行時間と、に基づいて、前記全データを処理対象として前記処理を実行したときの全実行時間を予測する手段、
をさらに備え、
前記最小値を算出する手段は、前記全実行時間と前記期待実行時間とを比較して、前記期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する、
請求項１又は請求項２に記載の情報処理装置。

【請求項4】

前記予測する手段は、全ての前記ＧＰＵを用いたときの前記全実行時間を予測し、
前記最小値を算出する手段は、当該全実行時間の予測値が前記期待実行時間以内となるときに前記ＧＰＵの数の最小値を算出する、
請求項３に記載の情報処理装置。

【請求項5】

前記処理は深層学習処理である、
請求項１又は請求項２に記載の情報処理装置。

【請求項6】

請求項１又は請求項２に記載の情報処理装置と、複数のＧＰＵが搭載された１台のサーバ、又は、１つ又は複数のＧＰＵが搭載された１台又は複数台のサーバと、を備え、
前記情報処理装置は、
前記ＧＰＵの数の最小値分の前記ＧＰＵの電源をオンとし、それ以外の前記ＧＰＵの電源をオフにするよう前記サーバに指示する手段、
をさらに備え、
前記サーバは、
前記指示に基づいて、前記ＧＰＵの電源のオンとオフを制御する手段、
を備える情報処理システム。

【請求項7】

前記情報処理装置は、
前記サーバが備える前記ＧＰＵの数を変化させて前記サーバに前記処理を実行させる手段と、
前記ＧＰＵの数ごとの前記実行時間を測定する手段と、
をさらに備える請求項６に記載の情報処理システム。

【請求項8】

処理対象の全データの一部を抜き出して、抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、所定の期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する、
ＧＰＵ枚数計算方法。

【請求項9】

複数のＧＰＵが搭載された１台のサーバ、又は、１つ又は複数のＧＰＵが搭載された１台又は複数台のサーバを含む情報処理システムの制御方法であって、
請求項８に記載のＧＰＵ枚数計算方法を実行するステップと、
前記ＧＰＵの数の最小値分の前記ＧＰＵの電源をオンとし、それ以外の前記ＧＰＵの電源をオフするステップと、
を有する制御方法。

【請求項10】

コンピュータに、
処理対象の全データの一部を抜き出して、抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、所定の期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する処理、
を実行させるプログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、情報処理装置、情報処理システム、ＧＰＵ枚数計算方法、制御方法およびプログラムに関する。

【背景技術】

【0002】

分散深層学習の学習処理では、ＧＰＵ（Graphics Processing Unit）の枚数に性能(スループット)がスケールするわけではない。ＧＰＵ枚数が増えるほど１枚当たりの性能が落ちるため、ＧＰＵ枚数を増やすほど電力効率が悪くなる。そのため、ＧＰＵ単体の電力効率は、学習に使用するＧＰＵ枚数が少ないほど高くなる。また、ＧＰＵはアイドル状態でも電力を消費するため、使用しないＧＰＵは無駄に電力を消費する。

【0003】

特許文献１には、マルチプロセッサシステムにおいて複数のプロセッサが動作すると、電力消費量が増加することを課題として、待ち状態にあるプロセッサの動作周波数を減らすことにより消費電力を削減する技術が開示されている。特許文献１の技術は、ＣＰＵ（Central Processing Unit）を対象としているが、分散深層学習システムにおけるＧＰＵに対して、プロセッサ単位で動作周波数を変えることにより消費電力を削減する制御を適用することはできない。

【0004】

一般的に、分散深層学習において、学習処理の際に使用するＧＰＵ枚数は明示的に指定され、指定された数のＧＰＵを使用して学習が行われる。このとき、学習に使用しないＧＰＵは常にアイドル状態となる。また、学習内容によっては多くのＧＰＵを使用せずとも十分高速に処理することができるが、そのような場合でも使用しない全てのＧＰＵがアイドル状態となり、無駄な電力を消費する。

【先行技術文献】

【特許文献】

【0005】

【特許文献1】特開２００８－７７６４０号公報

【発明の概要】

【発明が解決しようとする課題】

【0006】

ＧＰＵの電力効率を上げるためには、学習に使用するＧＰＵのみを使用し、残りのＧＰＵの電源をオフにすることが好ましい。その為には、学習に使用するＧＰＵの数を把握する必要がある。

【0007】

そこでこの発明は、上述の課題を解決する情報処理装置、情報処理システム、ＧＰＵ枚数計算方法、制御方法およびプログラムを提供することを目的としている。

【課題を解決するための手段】

【0008】

本発明の一態様によれば、情報処理装置は、処理対象の全データの一部を抜き出して、抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、所定の期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する手段、を備える。

【0009】

本発明の一態様によれば、情報処理システムは、上記の情報処理装置と、複数のＧＰＵが搭載された１台のサーバ、又は、１つ又は複数のＧＰＵが搭載された１台又は複数台のサーバと、を備え、前記情報処理装置は、前記ＧＰＵの数の最小値分の前記ＧＰＵの電源をオンとし、それ以外の前記ＧＰＵの電源をオフにするよう指示する手段をさらに備え、前記サーバは、前記指示に基づいて、前記ＧＰＵの電源のオンとオフを制御する手段、を備える。

【0010】

本発明の一態様によれば、ＧＰＵ枚数計算方法は、処理対象の全データの一部を抜き出して、抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、所定の期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する。

【0011】

本発明の一態様によれば、制御方法は、複数のＧＰＵが搭載された１台のサーバ、又は、１つ又は複数のＧＰＵが搭載された１台又は複数台のサーバを含む情報処理システムの制御方法であって、上記のＧＰＵ枚数計算方法を実行するステップと、前記ＧＰＵの数の最小値分の前記ＧＰＵの電源をオンとし、それ以外の前記ＧＰＵの電源をオフするステップと、を有する。

【0012】

本発明の一態様によれば、プログラムは、コンピュータに、処理対象の全データの一部を抜き出して、抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、所定の期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する処理、を実行させる。

【発明の効果】

【0013】

本発明によれば、処理の実行に必要なＧＰＵの数を把握することができる。

【図面の簡単な説明】

【0014】

【図1】実施形態に係る分散深層学習システムの一例を示す図である。

【図2】実施形態に係る分散深層学習システムの要部のブロック図である。

【図3】実施形態に係る分散深層学習システムの動作の一例を示すフローチャートである。

【図4】実施形態に係るＧＰＵ枚数計算処理の一例を示すフローチャートである。

【図5】最小構成を有する情報処理装置の構成を示すブロック図である。

【図6】最小構成を有するＧＰＵ枚数計算方法のフローチャートである。

【発明を実施するための形態】

【0015】

以下、本発明の各実施形態に係る分析装置について図面を参照して説明する。以下の説明に用いる図面において本発明に関係ない部分の構成については、記載を省略し、図示しない場合がある。

【0016】

＜実施形態＞
（構成）
図１は、本発明の実施形態に係る分散深層学習システムの一例を示す図である。一般に、分散深層学習システムは、複数のＧＰＵを搭載した複数台ＧＰＵサーバをインフィニバンド等で接続したシステム構成を有する。図１に示すように、分散深層学習システム１０は、サーバ１～５と、クライアント端末６とを含む。サーバ１～４はＧＰＵを搭載している。サーバ１～４をＧＰＵサーバ１～４と呼ぶ。ＧＰＵサーバ１～４は、１枚又は複数枚のＧＰＵを搭載している。図１には、ＧＰＵサーバを４台含む構成を例示しているが、ＧＰＵサーバの台数は１台であってもよいし、５台以上であってもよい。また、１台のＧＰＵサーバに搭載されるＧＰＵの枚数は１枚でも複数枚でもよい。但し、１台の場合には、そのＧＰＵサーバには、複数枚のＧＰＵが搭載されているとする。一例として、ＧＰＵサーバ１～４が複数枚のＧＰＵを備える構成を前提として説明を行う。また、ＧＰＵサーバ１～４に搭載されたＧＰＵは全て同種のモデル（同一性能）であるとする。

【0017】

ＧＰＵサーバ１～４は、ハブ７を通じて、互いに通信可能に接続されている。また、ＧＰＵサーバ１～４は、ハブ７を通じて、サーバ５と通信可能に接続されている。サーバ５は、ＧＰＵサーバ１～４を用いて、分散深層学習の実行を制御する。サーバ５を管理サーバ５と呼ぶ。例えば、ＧＰＵサーバ１～４がそれぞれ３枚のＧＰＵを搭載しており、３枚のＧＰＵで学習が可能な処理が存在する場合、１台のＧＰＵサーバ（例えば、ＧＰＵサーバ１）が備える３枚のＧＰＵを用いて学習を実行してもよいし、ＧＰＵサーバ１が備える２枚のＧＰＵと他のＧＰＵサーバ（例えば、ＧＰＵサーバ２）が備える１枚のＧＰＵとを用いて学習処理を実行するようにしてもよい。管理サーバ５とクライアント端末６は、通信可能に接続されている。クライアント端末６は、ユーザの操作に用いられる。例えば、ユーザは、クライアント端末６を操作して、管理サーバ５に分散深層学習の実行や停止の指示を行う。

【0018】

図２は、分散深層学習システム１０の要部の機能を表したブロック図である。図２には、ＧＰＵサーバ１～４を代表して、ＧＰＵサーバ１の構成例を示しているが、ＧＰＵサーバ２～４についても同様である。

【0019】

管理サーバ５は、ＧＰＵ枚数計算部５１と、制御部５２と、通信部５３とを備える。
ＧＰＵ枚数計算部５１は、分散深層学習に必要なＧＰＵの最適な枚数（最小枚数）を計算する。この計算のアルゴリズムについては、後に図４を参照して詳しく説明する。
制御部５２は、分散深層学習処理を制御する。例えば、制御部５２は、ＧＰＵ枚数計算部５１にＧＰＵの最適な数を計算させ、その計算結果に基づいてＧＰＵサーバ１～４に搭載されたＧＰＵのうち、必要な数のＧＰＵを電源オンとし、残りのＧＰＵの電源をオフにするよう指示する。そして、制御部５２は、ＧＰＵサーバ１～４に分散深層学習を実行させる。
通信部５３は、ＧＰＵサーバ１などの他装置とのデータ通信を行う。例えば、制御部５２がＧＰＵサーバ１～４にＧＰＵの電源オンや電源オフを指示する場合、あるいは、深層学習の実行を指示する場合、通信部５３を通じて、これらの指示情報が、ＧＰＵサーバ１～４へ送信される。

【0020】

ＧＰＵサーバ１は、ＧＰＵ電源制御部１１と、学習実行部１２と、通信部１３と、ＧＰＵ１４と、を備える。
ＧＰＵ電源制御部１１は、ＧＰＵ１４の電源のオンとオフを切り替える。
学習実行部１２は、管理サーバ５の指示に基づいて、分散深層学習を行う。
通信部１３は、管理サーバ５などの他装置とのデータ通信を行う。例えば、管理サーバ５からＧＰＵ１４の電源オンや電源オフの指示、あるいは、深層学習の実行指示を受け取る場合、ＧＰＵサーバ１は、通信部１３を通じて、これらの指示情報を受け取る。

【0021】

ＧＰＵ１４は、ＧＰＵサーバ１に搭載されたＧＰＵである。図２のブロック図では、ＧＰＵ１４を１つ備えるように記載しているが、これは１枚のＧＰＵを意味するのではなく、ＧＰＵサーバ１が備えるＧＰＵ全体を表している。つまり、ＧＰＵサーバ１に複数枚のＧＰＵが搭載されている場合、ＧＰＵ１４は、複数のＧＰＵを含む。ＧＰＵ１４が複数のＧＰＵを含む場合、ＧＰＵ電源制御部１１は、それぞれのＧＰＵの電源オンと電源オフを個別に切り替えることができる。

【0022】

（動作）
次に本実施形態の省電力制御を適用したときの情報処理システムの動作について図３、図４を参照して説明する。分散深層学習システム１０は、以下に説明する制御により、ＧＰＵの電力効率を改善し、システム全体の総消費電力を抑制しつつ、学習処理を行う。

【0023】

（１）学習処理全体のフロー
図３は、実施形態に係る情報処理システムの動作の一例を示すフローチャートである。
図３に本実施形態に係る省電力制御を適用した分散深層学習システム１０の学習処理の全体フローを示す。
最初に、クライアント端末６から学習処理に必要となる学習用プログラム、データセット、期待学習時間などのデータを管理サーバ５へ送信し、管理サーバ５を通じてＧＰＵサーバ１～４に転送し、学習処理の開始を管理サーバに依頼する（ステップＳ１０１）。

【0024】

次に管理サーバ５からＧＰＵサーバ１～４に対して全ＧＰＵの電源オンを指示する（ステップＳ１０２）。制御部５２は、通信部５３を通じて、電源オンの指示情報をＧＰＵサーバ１～４へ送信する。ＧＰＵサーバ１～４のそれぞれは、管理サーバ５からの指示を受信し、自装置に搭載された全てのＧＰＵの電源をオンにする（ステップＳ１０３）。例えば、ＧＰＵサーバ１では、ＧＰＵ電源制御部１１がＧＰＵ１４の電源をオンにする。

【0025】

次に管理サーバ５のＧＰＵ枚数計算部５１が、本実施形態に係るＧＰＵ枚数計算処理のアルゴリズムを用いて、学習に使用するＧＰＵ枚数を計算する（ステップＳ１０４）。ＧＰＵ枚数計算方法のアルゴリズムの詳細については、次に図４を参照して説明する。

【0026】

次に管理サーバ５の制御部５２は、ＧＰＵ枚数の計算結果に基づいて、ＧＰＵサーバ１～４に使用しないＧＰＵの電源オフを指示する（ステップＳ１０５）。ＧＰＵサーバ１～４のそれぞれは、管理サーバ５からの電源オフの指示を受信し、自装置に搭載された使用しないＧＰＵの電源をオフにする（ステップＳ１０６）。例えば、ＧＰＵサーバ１では、ＧＰＵ電源制御部１１がＧＰＵ１４のうち使用しないＧＰＵの電源をオフにする。

【0027】

次に管理サーバ５の制御部５２は、ＧＰＵサーバ１～４に対して学習処理の実行を指示する（ステップＳ１０７）。ＧＰＵサーバ１～４のそれぞれは、管理サーバ５からの学習処理の実行指示を受信し、学習処理を実行する（ステップＳ１０８）。

【0028】

次に学習処理の実行が完了すると、管理サーバ５の制御部５２はＧＰＵサーバ１～４に対して学習処理に使用した全てのＧＰＵの電源オフを指示する（ステップＳ１０９）。ＧＰＵサーバ１～４のそれぞれは、管理サーバ５からの電源オフの指示を受信し、学習処理に使用した全ＧＰＵの電源をオフにする（ステップＳ１１０）。例えば、ＧＰＵサーバ１では、ＧＰＵ電源制御部１１がＧＰＵ１４のうち学習処理に使用したＧＰＵの電源をオフにする。最後にクライアント端末６が、学習結果を出力する（ステップＳ１１１）。

【0029】

（２）ＧＰＵ枚数計算処理のフロー
次に、学習に必要な最適なＧＰＵ枚数を計算する処理について説明する。
図４は、実施形態に係るＧＰＵ枚数計算処理の一例を示すフローチャートである。
最初に、管理サーバ５のＧＰＵ枚数計算部５１は、学習用のデータセットの中から一部分を抜き出し、データ数の少ないデータセットを作成する（ステップＳ２０１）。例えば、ＧＰＵ枚数計算部５１は、学習用のデータセット全体からランダムにデータセットを選択する。

【0030】

次に、管理サーバ５のＧＰＵ枚数計算部５１は、学習に使用するＧＰＵ枚数に最大枚数を設定し、制御部５２がＧＰＵサーバ１～４にデータ数の少ないデータセットを転送し、このデータセットで学習を行わせる。ＧＰＵ枚数計算部５１は、学習時間を測定する（ステップＳ２０２）。ここで、ＧＰＵサーバ１～４は、同一性能のＧＰＵを搭載している。また、ＧＰＵ以外の構成（ＣＰＵ、メモリ、ディスク等）が性能に与える影響は少ない。そのためＧＰＵサーバ１～４の性能差は無視できる。

【0031】

次に、管理サーバ５のＧＰＵ枚数計算部５１は、学習時間の測定結果から、ＧＰＵ枚数最大時における、実際の学習に使用するデータセットでの学習時間を予測する（ステップＳ２０３）。例としてSGD（Stochastic Gradient Descent：確率的勾配降下法）で学習する場合、１エポックあたりの学習時間はデータ数に比例するため、最終的な実行時間は、おおよそ「データ数の少ないデータセットで学習にかかった時間」に「実際のデータセットのデータ数」と「データ数の少ないデータセットのデータ数」の比を乗じ、さらに終了条件となるエポック数をかけたものとなる。なお、学習時間の測定に用いる最適化手法は、SDG以外にもバッチ勾配降下法、ミニバッチ勾配降下法などがあり、SGDに代えてこれらの手法を用いて学習時間を測定してもよい。バッチ勾配降下法、ミニバッチ勾配降下法においても、最終的な実行時間の計算方法は上記した計算方法と同様である。

【0032】

なお、ステップＳ２０１で抜き出すデータに特徴があるような場合や学習するAIモデルに特徴がある場合、上記の計算方法では全データセットを学習する時に必要な学習時間を計算できない可能性がある。これは、抜き出すデータ数を多くすることで解決することができる。しかし、そのようなケースを検出することは難しいので、そうなる可能性があるAIモデルやデータセットの場合には、例えば、ユーザが、事前にステップS２０１にて抜き出すデータセットを増やすような設定しておくことで対処する。

【0033】

次にＧＰＵ枚数計算部５１は、予測した学習時間が、所定の期待学習時間以内かどうかを判定する（ステップS２０４）。予測した学習時間が期待学習時間を超えていた場合（ステップS２０４；Ｎｏ）、ＧＰＵ枚数計算部５１は、予測した学習時間を出力して処理を終了する(ステップS２０５)。この場合、ＧＰＵサーバ１～４が搭載する全てのＧＰＵを使用して学習を実行することになるので、図３のステップＳ１０５にて、電源オフが指示されるＧＰＵはない。

【0034】

一方、予測した学習時間が期待学習時間以内であれば（ステップＳ２０４；Ｙｅｓ）、のＧＰＵ枚数計算部５１は、学習処理に使用するＧＰＵ枚数を１、２、４、８、・・・と変化させ、各ＧＰＵ枚数にて、ステップＳ２０１で抜き出したデータセットの学習を行ったときの学習時間を測定する（ステップＳ２０６）。例えば、ＧＰＵサーバ１～４が３枚ずつＧＰＵを搭載しているとする。変化させるＧＰＵ枚数が１や２の場合、例えば、制御部５２は、ＧＰＵサーバ１に１枚または２枚のＧＰＵを用いて学習させ、ＧＰＵ枚数計算部５１が、それぞれの学習時間を測定する。また、変化させるＧＰＵ枚数が４の場合、管理サーバ５は、例えば、ＧＰＵサーバ１に３枚のＧＰＵを用いて学習させ、ＧＰＵサーバ２に１枚のＧＰＵを用いて学習させ、このときの学習時間を測定する。ＧＰＵ枚数が８の場合も同様にして、管理サーバ５は、ＧＰＵサーバ１～４に搭載されたＧＰＵのうち８枚を指定して、データ数の少ないデータセットを学習したときの学習時間を測定する。なお、ここで示したＧＰＵサーバ１～４へのＧＰＵの割り当ては、一例であってこれに限定されない。例えば、ＧＰＵ枚数が２の場合、ＧＰＵサーバ１～２の各々に１枚ずつのＧＰＵを用いて学習させ、そのときの学習時間を測定してもよい。また、学習時間の測定に用いるＧＰＵの割り当ては、ＧＰＵサーバ１～４側で決定してもよい。

【0035】

学習時間が測定できると、次に管理サーバ５は、測定により得られたＧＰＵ枚数と学習時間の関係から最小二乗法などを用いてそれらに対する近似式を導出する（ステップＳ２０７）。ＧＰＵ枚数計算部５１は、ステップＳ２０３で説明した方法で、測定した学習時間から全データセットを学習した場合の学習時間を予測する。ＧＰＵ枚数計算部５１は、ＧＰＵ枚数と学習に必要な時間（全データセットの学習時間の予測値）の関係を示す近似式を導出する。最後にＧＰＵ枚数計算部５１は、導出した近似式から所定の期待学習時間以内で学習が完了する最小のＧＰＵ枚数を算出する（ステップＳ２０８）。管理サーバ５の制御部５２は、ステップS２０８にて算出された最小のＧＰＵ枚数のＧＰＵサーバ１～４への割り当てを決定し、図３のステップＳ１０５にて、割り当てから外れたＧＰＵの電源オフをＧＰＵサーバ１～４へ指示する。

【0036】

一般にサーバの台数を減らし、1台のサーバにより多くのＧＰＵを搭載したほうが、全体の消費電力は少なくなる。これは、ＧＰＵ以外の構成（例えば、CPU、メモリ、ディスク等）が消費する電力を減らすことが出来るためである。また、サーバ間の通信がボトルネックになりやすいため、使用するＧＰＵを1台のサーバに集中したほうが学習時間は短くなる傾向がある。例えば、ステップＳ２０８で算出した最小のＧＰＵ枚数が３枚の場合、管理サーバ５は、学習に使用する３枚のＧＰＵの割り当てをＧＰＵサーバ１に集中させてもよい。この場合、管理サーバ５は、図３のステップＳ１０５にて、ＧＰＵサーバ１にはＧＰＵの電源オフを指示せず、ＧＰＵサーバ２～４には、全ＧＰＵの電源オフを指示する。

【0037】

なお、上記のＧＰＵ割り当ては一例である。管理サーバ５は、３枚のＧＰＵの割り当てをＧＰＵサーバ１に１枚、ＧＰＵサーバ２に２枚のように割り当ててもよいし、それ以外の方法で割り当てを決定してもよい（例えば、ＧＰＵを電源オンにする時間が均等になるように割り当てるなど）。ＧＰＵサーバ１に１枚、ＧＰＵサーバ２に２枚割り当てる場合、管理サーバ５は、図３のステップS１０５にて、ＧＰＵサーバ１には２枚のＧＰＵを電源オフするように指示し、ＧＰＵサーバ２には１枚のＧＰＵを電源オフするように指示し、ＧＰＵサーバ３～４には、全ＧＰＵの電源オフを指示する。

【0038】

また、図３のステップＳ１０５にて、管理サーバ５が、使用しないＧＰＵの枚数と電源オフの指示をＧＰＵサーバ１～４へ送信し、ＧＰＵサーバ１～４側で電源オフするＧＰＵの割り当てを決定（例えば、ＧＰＵを電源オンにする時間が均等になるように割り当てるなど）するようにしてもよい。

【0039】

図４のフローチャートにおいて、ステップＳ２０５の出力処理は省略することができる。ステップＳ２０６にて学習時間を測定するＧＰＵ枚数は１、２、４、８、・・・でなくてもよい。例えば、１、３、５、・・・でもよいし、１０、８、６、・・・のように徐々にＧＰＵ枚数を減らすように変化させてもよい。また、ステップＳ２０７にて近似式を導出するときに最小二乗法ではなく最小絶対値法を用いて近似式を導出してもよい。

【0040】

（効果）
一般的な分散深層学習システムであれば、使用するＧＰＵ枚数を明示的に指定する必要があり、その場合、必要以上に早く学習処理が完了するが電力効率が悪い、電力効率は良いが学習処理に時間がかかりすぎるというような状況になることがある。また、使用していないＧＰＵはアイドル状態となりその分無駄に電力を消費してしまう。

【0041】

これに対し、本実施形態によれば、学習に使用するデータセットの一部を使って学習時間を予測し、期待する学習時間で学習が完了する最小のＧＰＵ枚数を計算する。このアルゴリズムを分散深層学習システムに適用し、使用しないＧＰＵの電源をオフにすることで学習処理でのＧＰＵの電力効率を向上するとともに、システム全体の総消費電力を抑制することができる。

【0042】

本実施形態の省電力制御、つまり、図４のＧＰＵ枚数計算処理により必要なＧＰＵ枚数を算出し、必要のないＧＰＵの電源をオフにする制御は、分散深層学習システムだけではなく、各種のＧＰＵクラスタシステム、ＧＰＵサーバ（複数枚のＧＰＵが搭載された１台のＧＰＵサーバでもよいし、１又は複数枚のＧＰＵが搭載された１台のＧＰＵサーバ群であってもよい。）に適用することができる。例えば、ディスアグリゲーテッドコンピューティングでは、アプリケーションの要件に応じてリソース構成を組むため、本実施形態のＧＰＵ枚数計算処理により、アプリケーションの要件を満たすＧＰＵ枚数を計算し、電源オンするＧＰＵ枚数の最適化に活用することができる。

【0043】

（最小構成）
図５は、最小構成を有する情報処理装置の構成を示すブロック図である。
情報処理装置８００は、ＧＰＵ枚数計算手段８１０を備える。
ＧＰＵ枚数計算手段８１０は、処理対象のデータの一部を抜き出して、抜き出した前記データを処理対象として、ＧＰＵの数を変化させて前記処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数から、所定の期待時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する。これにより、電力効率が最大となるＧＰＵ枚数を算出することが可能であり、それによってＧＰＵの電力効率を改善し、消費電力を抑制することが出来る。
管理サーバ５は、情報処理装置８００の一例である。ＧＰＵ枚数計算部５１は、ＧＰＵ枚数計算手段８１０の一例である。

【0044】

図６は、最小構成を有するＧＰＵ枚数計算方法のフローチャートである。
ＧＰＵ枚数計算手段８１０は、処理対象のデータの一部を抜き出して、抜き出したデータを処理対象として、ＧＰＵの数を変化させつつ前記処理を実行したときのＧＰＵ数ごとの実行時間の測定値を取得する（ステップＳ８０１）。
次に、ＧＰＵ枚数計算手段８１０は、ＧＰＵの数ごとの実行時間の測定値と処理に用いたＧＰＵの数から、所定の期待時間以内に処理を完了させることができる最小のＧＰＵ枚数を算出する（ステップＳ８０２）。

【0045】

なお、上述した実施形態におけるＧＰＵサーバ１～４、管理サーバ５、クライアント端末６の一部をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、ＧＰＵサーバ１～４、管理サーバ５、クライアント端末６に内蔵されたコンピュータシステムであって、ＯＳ（Ｏｐｅｒａｔｉｎｇ Ｓｙｓｔｅｍ）や周辺機器等のハードウェアを含むものとする。

【0046】

また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ－ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。

【0047】

また、上述した実施形態におけるＧＰＵサーバ１～４、管理サーバ５、クライアント端末６の一部、または全部を、ＬＳＩ（Ｌａｒｇｅ Ｓｃａｌｅ Ｉｎｔｅｇｒａｔｉｏｎ）等の集積回路として実現してもよい。ＧＰＵサーバ１～４、管理サーバ５、クライアント端末６の各機能部は個別にプロセッサ化してもよいし、一部、または全部を集積してプロセッサ化してもよい。また、集積回路化の手法はＬＳＩに限らず専用回路、または汎用プロセッサで実現してもよい。また、半導体技術の進歩によりＬＳＩに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いてもよい。

【0048】

以上、図面を参照してこの発明の一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、この発明の要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。また、本発明の一態様は、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。また、上記各実施形態や変形例に記載された要素であり、同様の効果を奏する要素同士を置換した構成も含まれる。

【0049】

上記実施形態の一部または全部は、以下の付記のように記載されうるが、以下には限られない。

【0050】

（付記１）
処理対象の全データの一部を抜き出して、抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、前記ＧＰＵの数と前記実行時間の関係を示す近似式を導出し、所定の期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する手段、を備える情報処理装置である。

【0051】

（付記２）
前記算出する手段は、前記抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、前記ＧＰＵの数と前記実行時間の関係を示す近似式を導出し、前記近似式に基づいて、前記ＧＰＵの数の最小値を算出する、付記１に記載の情報処理装置である。

【0052】

（付記３）
前記算出する手段は、前記抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、前記ＧＰＵの数と前記実行時間の関係を算出し、前記関係に基づいて、前記ＧＰＵの数の最小値を算出する、付記１に記載の情報処理装置である。

【0053】

（付記４）
前記全データのデータ数と抜き出した前記データのデータ数の比と、前記実行時間と、に基づいて、前記全データを処理対象として前記処理を実行したときの全実行時間を予測する手段、をさらに備え、前記最小値を算出する手段は、前記全実行時間と前記期待実行時間とを比較して、前記期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する、付記１から付記３の何れか１つに記載の情報処理装置である。

【0054】

（付記５）
前記予測する手段は、全ての前記ＧＰＵを用いたときの前記全実行時間を予測し、
前記最小値を算出する手段は、当該全実行時間の予測値が前記期待実行時間以内となるときに前記ＧＰＵの数の最小値を算出する、付記４に記載の情報処理装置である。

【0055】

（付記６）
前記処理は深層学習処理である、付記１から付記５の何れかに記載の情報処理装置である。

【0056】

（付記７）
付記１～付記６に記載の情報処理装置と、複数のＧＰＵが搭載された１台のサーバ、又は、１つ又は複数のＧＰＵが搭載された１台又は複数台のサーバと、を備え、前記情報処理装置は、前記ＧＰＵの数の最小値分の前記ＧＰＵの電源をオンとし、それ以外の前記ＧＰＵの電源をオフにするよう指示する手段、をさらに備え、前記サーバは、前記指示に基づいて、前記ＧＰＵの電源のオンとオフを制御する手段、を備える情報処理システムである。

【0057】

（付記８）
前記情報処理装置は、前記サーバが備える前記ＧＰＵの数を変化させて前記処理を実行させる手段と、前記ＧＰＵの数ごとの前記実行時間を測定する手段と、をさらに備える付記５に記載の情報処理システムである。

【0058】

（付記９）
処理対象の全データの一部を抜き出して、抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、所定の期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する、ＧＰＵ枚数計算方法である。

【0059】

（付記１０）
複数のＧＰＵが搭載された１台のサーバ、又は、１つ又は複数のＧＰＵが搭載された１台又は複数台のサーバを含む情報処理システムの制御方法であって、付記９に記載のＧＰＵ枚数計算方法を実行するステップと、前記ＧＰＵの数の最小値分の前記ＧＰＵの電源をオンとし、それ以外の前記ＧＰＵの電源をオフするステップと、を有する制御方法である。

【0060】

（付記１１）
コンピュータに、処理対象の全データの一部を抜き出して、抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、所定の期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する処理、を実行させるプログラムである。

【符号の説明】

【0061】

１，２，３，４・・・ＧＰＵサーバ
１１・・・ＧＰＵ電源制御部
１２・・・学習実行部
１３・・・通信部
１４・・・ＧＰＵ
５・・・管理サーバ
５１・・・ＧＰＵ枚数計算部
５２・・・制御部
５３・・・通信部
６・・・クライアント端末
７・・・ハブ

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】