(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022178423
(43)【公開日】2022-12-02
(54)【発明の名称】管理プログラムおよび管理方法
(51)【国際特許分類】
G06F 9/50 20060101AFI20221125BHJP
【ＦＩ】
G06F9/50 150Z
【審査請求】未請求
【請求項の数】5
【出願形態】ＯＬ
(21)【出願番号】P 2021085214
(22)【出願日】2021-05-20
(71)【出願人】
【識別番号】000005223
【氏名又は名称】富士通株式会社
(74)【代理人】
【識別番号】100092978
【弁理士】
【氏名又は名称】真田 有
(74)【代理人】
【識別番号】100189201
【弁理士】
【氏名又は名称】横田 功
(72)【発明者】
【氏名】加賀美 崇紘
(72)【発明者】
【氏名】今出 広明
(57)【要約】
【課題】タスクを計算ノードに効率的に割り当て、システム稼働率を向上させる。
【解決手段】一つのＤＡＧ（Directed Acyclic Graph：有向非巡回グラフ）を構成する２つ以上のタスクを、連続する２つ以上の計算ノードに割り当てる。
【選択図】図８
【解決手段】一つのＤＡＧ（Directed Acyclic Graph：有向非巡回グラフ）を構成する２つ以上のタスクを、連続する２つ以上の計算ノードに割り当てる。
【選択図】図８
【特許請求の範囲】
【請求項1】
複数の計算ノードを管理する管理装置において、
一つのＤＡＧ（Directed Acyclic Graph：有向非巡回グラフ）を構成する２つ以上のタスクを、連続する２つ以上の計算ノードに割り当てる
処理をプロセッサに実行させることを特徴とする管理プログラム。
一つのＤＡＧ（Directed Acyclic Graph：有向非巡回グラフ）を構成する２つ以上のタスクを、連続する２つ以上の計算ノードに割り当てる
処理をプロセッサに実行させることを特徴とする管理プログラム。
【請求項2】
前記２つ以上のタスク間のデータ通信量に基づいて、前記ＤＡＧを更新する
処理を前記プロセッサに実行させることを特徴とする請求項１に記載の管理プログラム。
処理を前記プロセッサに実行させることを特徴とする請求項１に記載の管理プログラム。
【請求項3】
前記ＤＡＧから前記データ通信量が閾値以下の有向辺を削除して前記ＤＡＧを分割する
処理を前記プロセッサに実行させることを特徴とする請求項２に記載の管理プログラム。
処理を前記プロセッサに実行させることを特徴とする請求項２に記載の管理プログラム。
【請求項4】
前記複数の計算ノードのうちの一部の計算ノードが他の計算ノードとの同期を伴う並列計算を伴う第１のジョブを処理中であり、
前記２つ以上のタスクが非同期で動作する第２のジョブを構成する
ことを特徴とする請求項１～３のいずれか１項に記載の管理プログラム。
前記２つ以上のタスクが非同期で動作する第２のジョブを構成する
ことを特徴とする請求項１～３のいずれか１項に記載の管理プログラム。
【請求項5】
複数の計算ノードを管理する管理装置において、
一つのＤＡＧ（Directed Acyclic Graph：有向非巡回グラフ）を構成する２つ以上のタスクを、連続する２つ以上の計算ノードに割り当てる
処理をプロセッサが実行することを特徴とする管理方法。
一つのＤＡＧ（Directed Acyclic Graph：有向非巡回グラフ）を構成する２つ以上のタスクを、連続する２つ以上の計算ノードに割り当てる
処理をプロセッサが実行することを特徴とする管理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、管理プログラムおよび管理方法に関する。
【背景技術】
【0002】
クラスタコンピューティングシステムにおいて、ＨＰＣ（High Performance Computing）ジョブとＡＩ（Artificial Intelligence）ジョブとは別々のクラスタで管理されている。
【0003】
ＨＰＣジョブは、科学技術計算などの並列計算を主とするジョブであり、複数ノードで同期して処理される。一方、ＡＩジョブは、統計処理などの分散処理を主とするジョブであり、複数ノード間において非同期で処理される。
近年、クラスタコンピューティングシステムにおいて、これらのＨＰＣジョブとＡＩジョブとを同一クラスタ環境上で扱うニーズが高まっている。
近年、クラスタコンピューティングシステムにおいて、これらのＨＰＣジョブとＡＩジョブとを同一クラスタ環境上で扱うニーズが高まっている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特表２０２０－５２２８２４号公報
【特許文献2】特開２０１９－８７０３９号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
一般に、ＨＰＣジョブはタスク間（ノード間）の通信量が多いため、ＨＰＣジョブの処理に用いられる個々の計算ノード間の距離ができるだけ近くなるように割り当てる必要がある。そのため、ＨＰＣジョブについては、割り当てられる計算ノードが一つの集合となるように割り当てることが行なわれている。
【0006】
一方、ＡＩジョブは、一般にタスク間（ノード間）の通信量は多くないため、ジョブが利用する個々の計算ノード間の距離を気にする必要がない。そのため、ＡＩジョブについては、ＨＰＣジョブの隙間を埋めるように、ＨＰＣジョブが割り当てられていない計算ノードに割り当てることが考えられる。
図１４は従来のクラスタコンピューティングシステムにおいて計算ノードにＨＰＣジョブとＡＩジョブとを割り当てた例を示す図である。
図１４は従来のクラスタコンピューティングシステムにおいて計算ノードにＨＰＣジョブとＡＩジョブとを割り当てた例を示す図である。
【0007】
図１４に示す例においては、Tofu（Torus fusion）インターコネクトで４行×４列の計算ノードを接続するクラスタコンピューティングシステムを示す。
【0008】
Tofu#2, #3において連続する８つの計算ノードにＨＰＣジョブＡが割り当てられている。また、Tofu#1における２つの計算ノードにＨＰＣジョブＢが、また、Tofu#4における２つの計算ノードにＨＰＣジョブＣが、それぞれ割り当てられている。
【0009】
さらに、Tofu#2, #3に割り当てられているＨＰＣジョブＡを挟んで対向する位置において、Tofu#1における２つの計算ノードとTofu#4における２つの計算ノードとにＡＩジョブＡがそれぞれ割り当てられている。
【0010】
しかしながら、この図１４に示す例において、ＡＩジョブＡの実行時に、Tofu#1上にある計算ノードとTofu#4上にある計算ノードとの間で通信が行なわれると、これらの間に位置するTofu#2, #3の計算ノードにおいてＨＰＣジョブＡの通信により干渉が生じるおそれがある。
【0011】
すなわち、ＨＰＣジョブとＡＩジョブの通信経路が干渉することによりＨＰＣジョブの通信性能低下や性能ぶれが生じ、システム稼働率が低下するおそれがある。
１つの側面では、本発明は、タスクを計算ノードに効率的に割り当て、システム稼働率を向上させることができるようにすることを目的とする。
１つの側面では、本発明は、タスクを計算ノードに効率的に割り当て、システム稼働率を向上させることができるようにすることを目的とする。
【課題を解決するための手段】
【0012】
このため、この管理プログラムは、複数の計算ノードを管理する管理装置において、一つのＤＡＧ（Directed Acyclic Graph：有向非巡回グラフ）を構成する２つ以上のタスクを、連続する２つ以上の計算ノードに割り当てる処理をプロセッサに実行させる。
【発明の効果】
【0013】
一実施形態によれば、タスクを計算ノードに効率的に割り当て、システム稼働率を向上させることができる。
【図面の簡単な説明】
【0014】
【図1】実施形態の一例としてのコンピュータシステムのハードウェア構成を模式的に示す図である。
【図2】実施形態の一例としてのコンピュータシステムの管理ノードの機能構成を例示する図である。
【図3】ＤＡＧを例示する図である。
【図4】実施形態の一例としてのコンピュータシステムのタスクグループ生成部によるタスクグループの生成方法を説明するための図である。
【図5】実施形態の一例としてのコンピュータシステムにおけるグラフとタスクグループとの関係を示す図である。
【図6】実施形態の一例としてのコンピュータシステムにおける通信量計測情報を例示する図である。
【図7】実施形態の一例としてのコンピュータシステムにおけるスケジューラによるＡＩジョブの初回実行時における計算ノードへの割り当て方法を説明するための図である。
【図8】実施形態の一例としてのコンピュータシステムにおけるスケジューラによるＡＩジョブの初回実行時における計算ノードへの割り当て方法を説明するための図である。
【図9】実施形態の一例としてのコンピュータシステムにおけるＤＡＧ更新部によるＤＡＧの更新手法を説明するための図である。
【図10】実施形態の一例としてのコンピュータシステムにおけるＤＡＧ更新部によるＡＩジョブの２回目以降実行時の処理を説明するための図である。
【図11】実施形態の一例としてのコンピュータシステムにおけるＤＡＧ更新部によるＡＩジョブの２回目以降実行時の処理を説明するための図である。
【図12】実施形態の一例としてのコンピュータシステムにおけるＡＩジョブの初回実行時の処理を説明するためのフローチャートである。
【図13】実施形態の一例としてのコンピュータシステムにおけるＡＩジョブの２回目以降の実行時の処理を説明するためのフローチャートである。
【図14】従来のクラスタコンピューティングシステムにおいて計算ノードにＨＰＣジョブとＡＩジョブとを割り当てた例を示す図である。
【発明を実施するための形態】
【0015】
以下、図面を参照して本管理プログラムおよび管理方法にかかる実施の形態を説明する。ただし、以下に示す実施形態はあくまでも例示に過ぎず、実施形態で明示しない種々の変形例や技術の適用を排除する意図はない。すなわち、本実施形態を、その趣旨を逸脱しない範囲で種々変形して実施することができる。また、各図は、図中に示す構成要素のみを備えるという趣旨ではなく、他の機能等を含むことができる。
【0016】
（Ａ）構成
図１は実施形態の一例としてのコンピュータシステム１のハードウェア構成を模式的に示す図、図２はその管理ノード１０の機能構成を例示する図である。
コンピュータシステム１は、クラスタコンピューティングシステムであって、図１に示すように、計算ノード群４および管理ノード１０を備える。
図１は実施形態の一例としてのコンピュータシステム１のハードウェア構成を模式的に示す図、図２はその管理ノード１０の機能構成を例示する図である。
コンピュータシステム１は、クラスタコンピューティングシステムであって、図１に示すように、計算ノード群４および管理ノード１０を備える。
【0017】
計算ノード群４は、複数の計算ノード２どうしを直接リンク３で接続する直接網で接続されている。直接網は、例えば、直線，リング，集中結合網，ツリー，完全結合網，２次元メッシュ，３次元メッシュ，トーラスのいずれかであってもよい。また、直接網は、Tofuインターコネクト，超立方体（ハイパーキューブ），超立方体環（Cube Connected Cycles），スター，完全結合のいずれかであってもよい。また、直接網は、これらに限定されるものではなく、適宜変更して実施することができる。
【0018】
図１に示す例においては、計算ノード群４は、複数の計算ノード２をｘ軸およびｙ軸で表される２次元平面上に配置した２次元メッシュである例を示す。従って、図１に例示する計算ノード群４においては、各計算ノード２を（x, y）座標で表すことができる。
【0019】
計算ノード２は、演算機能を備えるコンピュータであり、互いに同様のハードウェア構成を有する。計算ノード２は、例えば、図示しない、ＣＰＵ（Central Processing Unit），メモリ，記憶装置およびネットワークインタフェースを有する。
【0020】
記憶装置は、ハードディスクドライブ（Hard Disk Drive：ＨＤＤ）、ＳＳＤ（Solid State Drive）、ストレージクラスメモリ（Storage Class Memory：ＳＣＭ）等の記憶装置であって、種々のデータを格納するものである。
【0021】
ネットワークインタフェースは、リンク３に接続され、計算ノード２は、このネットワークインタフェースおよびリンク３を介して他の計算ノード２や管理ノード１０と通信加納に接続される。
【0022】
ＣＰＵは、種々の制御や演算を行なう処理装置であり、メモリに格納されたＯＳ（Operating System）やプログラムを実行することにより、種々の機能を実現する。例えば、計算ノード２は、管理ノード１０によって割り当てられるＨＰＣジョブのタスク（ＨＰＣタスク）やＡＩジョブのタスク（ＡＩタスク）を実行する。また、計算ノード２は、必要に応じて、ＨＰＣジョブやＡＩジョブのタスクの実行結果等を、リンク３を介して他の計算ノード２との間で送受信する。
【0023】
各計算ノード２が実行するタスク（ＨＰＣタスク，ＡＩタスク）は、管理ノード１０によって割り当てられ、計算ノード２はこのように割り当てられたタスクを、順次、処理する。
【0024】
本コンピュータシステム１においては、ＨＰＣジョブとＡＩジョブとを処理する。ＨＰＣジョブは、複数の計算ノード２間の同期を伴う並列計算を伴う第１のジョブに相当する。ＡＩジョブは、２つ以上のタスクが非同期で動作する第２のジョブに相当する。
【0025】
管理ノード１０は、計算ノード群４の複数の計算ノード２を管理する管理装置である。管理ノード１０は、コンピュータ（情報処理装置）であって、例えば、図１に示すように、プロセッサ１１，メモリ１２，記憶装置１３，グラフィック処理装置１４，入力インタフェース１５，光学ドライブ装置１６，機器接続インタフェース１７およびネットワークインタフェース１８を構成要素として有する。これらの構成要素１１～１８は、バス１９を介して相互に通信可能に構成される。
【0026】
プロセッサ（制御部）１１は、管理ノード１０全体を制御する。プロセッサ１１は、マルチプロセッサであってもよい。プロセッサ１１は、例えばＣＰＵ，ＭＰＵ（Micro Processing Unit），ＤＳＰ（Digital Signal Processor），ＡＳＩＣ（Application Specific Integrated Circuit），ＰＬＤ（Programmable Logic Device），ＦＰＧＡ（Field Programmable Gate Array）のいずれか一つであってもよい。また、プロセッサ１１は、ＣＰＵ，ＭＰＵ，ＤＳＰ，ＡＳＩＣ，ＰＬＤ，ＦＰＧＡのうちの２種類以上の要素の組み合わせであってもよい。
【0027】
そして、プロセッサ１１が制御プログラム（管理プログラム：図示省略）を実行することにより、図２に例示する、ＤＡＧ生成部１０１，ＤＡＧ更新部１０２，タスクグループ生成部１０３，タスク間通信量測定部１０６およびスケジューラ１０４としての機能が実現される。
【0028】
なお、管理ノード１０は、例えばコンピュータ読み取り可能な非一時的な記録媒体に記録されたプログラム（管理プログラム，ＯＳプログラム）を実行することにより、ＤＡＧ生成部１０１，ＤＡＧ更新部１０２，タスクグループ生成部１０３，タスク間通信量測定部１０６およびスケジューラ１０４としての機能を実現する。
【0029】
管理ノード１０に実行させる処理内容を記述したプログラムは、様々な記録媒体に記録しておくことができる。例えば、管理ノード１０に実行させるプログラムを記憶装置１３に格納しておくことができる。プロセッサ１１は、記憶装置１３内のプログラムの少なくとも一部をメモリ１２にロードし、ロードしたプログラムを実行する。
【0030】
また、管理ノード１０（プロセッサ１１）に実行させるプログラムを、図示しない、光ディスク，メモリ装置，メモリカード等の非一時的な可搬型記録媒体に記録しておくこともできる。可搬型記録媒体に格納されたプログラムは、例えばプロセッサ１１からの制御により、記憶装置１３にインストールされた後、実行可能になる。また、プロセッサ１１が、可搬型記録媒体から直接プログラムを読み出して実行することもできる。
【0031】
メモリ１２は、ＲＯＭ（Read Only Memory）およびＲＡＭ（Random Access Memory）を含む記憶メモリである。メモリ１２のＲＡＭは管理ノード１０の主記憶装置として使用される。ＲＡＭには、プロセッサ１１に実行させるプログラムの少なくとも一部が一時的に格納される。また、メモリ１２には、プロセッサ１１による処理に必要な各種データが格納される。
【0032】
記憶装置１３は、ＨＤＤ、ＳＳＤ、ストレージクラスメモリＳＣＭ等の記憶装置であって、種々のデータを格納するものである。記憶装置１３は、管理ノード１０の補助記憶装置として使用される。
【0033】
記憶装置１３には、ＯＳプログラム，情報処理プログラムおよび各種データが格納される。なお、補助記憶装置としては、ＳＣＭやフラッシュメモリ等の半導体記憶装置を使用することもできる。また、複数の記憶装置１３を用いてＲＡＩＤ（Redundant Arrays of Inexpensive Disks）を構成してもよい。
【0034】
グラフィック処理装置１４には、図示しないモニタが接続されている。グラフィック処理装置１４は、プロセッサ１１からの命令に従って、画像をモニタの画面に表示させる。モニタとしては、ＣＲＴ（Cathode Ray Tube）を用いた表示装置や液晶表示装置等が挙げられる。
【0035】
入力インタフェース１５には、図示しないキーボードおよびマウスが接続されている。入力インタフェース１５は、キーボードやマウスから送られてくる信号をプロセッサ１１に送信する。なお、マウスは、ポインティングデバイスの一例であり、他のポインティングデバイスを使用することもできる。他のポインティングデバイスとしては、タッチパネル，タブレット，タッチパッド，トラックボール等が挙げられる。
【0036】
光学ドライブ装置１６は、レーザ光等を利用して、図示しない光ディスクに記録されたデータの読み取りを行なう。光ディスクは、光の反射によって読み取り可能にデータを記録された可搬型の非一時的な記録媒体である。光ディスクには、ＤＶＤ（Digital Versatile Disc），ＤＶＤ－ＲＡＭ，ＣＤ－ＲＯＭ（Compact Disc Read Only Memory），ＣＤ－Ｒ（Recordable）／ＲＷ（ReWritable）等が挙げられる。
【0037】
機器接続インタフェース１７は、管理ノード１０に周辺機器を接続するための通信インタフェースである。例えば、機器接続インタフェース１７には、図示しない、メモリ装置やメモリリーダライタを接続してもよい。メモリ装置は、機器接続インタフェース１７との通信機能を搭載した非一時的な記録媒体、例えばＵＳＢ（Universal Serial Bus）メモリである。メモリリーダライタは、メモリカードへのデータの書き込み、またはメモリカードからのデータの読み出しを行なう。メモリカードは、カード型の非一時的な記録媒体である。
【0038】
管理ノード１０は、図２に示すように、ＤＡＧ（Directed Acyclic Graph：有向非巡回グラフ）生成部１０１，ＤＡＧ更新部１０２，タスクグループ生成部１０３，タスク間通信量測定部１０６、タスク間通信情報ＤＢ（Data Base）１０５およびスケジューラ１０４としての機能を備える。
【0039】
以下に示す例においては、本コンピュータシステム１においてＡＩジョブとして機械学習モデルに対する訓練データを用いた訓練（機械学習）を行なう例を示し、訓練データを変えながら複数回の訓練（ＡＩジョブ）を繰り返し実行する。
すなわち、本コンピュータシステム１においては、同一ジョブ（プログラム）に対し、訓練データを変えながら複数回ジョブを実行する。
ＤＡＧ生成部１０１は、ＡＩジョブに基づきＤＡＧを生成する。
すなわち、本コンピュータシステム１においては、同一ジョブ（プログラム）に対し、訓練データを変えながら複数回ジョブを実行する。
ＤＡＧ生成部１０１は、ＡＩジョブに基づきＤＡＧを生成する。
【0040】
ＡＩジョブは一般に複数のタスク（Task）を備える。また、本コンピュータシステム１においては、１つの計算ノード２に１つのタスクが配置されるものとする。
【0041】
ＡＩジョブにおいては、タスク間のデータの流れをＤＡＧで記述することができる。ＤＡＧにおいては、データ通信が発生するタスクどうしを有向辺（枝）で繋いで表す。ＤＡＧをグラフといってもよい。
図３はＤＡＧを例示する図である。
図３はＤＡＧを例示する図である。
【0042】
この図３に示す例おいては、７つのタスク（Task#1～#7）に基づいて生成された２つのＤＡＧを示す。以下、各タスク（Task）に対して、符号“#”とユニークな数字とを組み合わせたタスク番号を付して表すことで個々のタスクを識別する場合がある。
【0043】
図３に示す例においては、Task#１はTask#4にデータを送信する。また、Task#2, #3はそれぞれTask#5にデータを送信し、Task#5, #6はそれぞれTask#7にデータを送信する。
【0044】
ＤＡＧ生成部１０１は、ＡＩジョブスケジューラとしての既知の機能を用いてＤＡＧを生成する。例えば、分散処理フレームワークとして既知のApache Spark（登録商標）はＤＡＧ生成機能を有している。ＤＡＧ生成部１０１は、このApache Sparkの機能を用いてＡＩジョブのプログラムを解析してＤＡＧを生成してもよい。
ＤＡＧ生成部１０１は、例えば、投入されたジョブをスケジューリングする前に、当該ジョブのプログラムを解析することでＤＡＧを生成する。
ＤＡＧ生成部１０１は、例えば、投入されたジョブをスケジューリングする前に、当該ジョブのプログラムを解析することでＤＡＧを生成する。
【0045】
また、ＤＡＧの生成に際して、１つのプログラムから複数のグラフが生成されることもある。図３に示す例においては、Task#1, #4を備えるグラフ（グラフ＃１）と、Task#2, #3, #5～#7を備えるグラフ（グラフ＃２）との２つのグラフ（ＤＡＧ）が生成されている。
【0046】
ＡＩ分野の機械学習において、同じＡＩジョブ（プログラム）に対して与える機械学習データ（訓練データ）を変えながら機械学習を反復実行するものとする。また、同一のプログラムからは同一のＤＡＧが生成され、学習データが異なってもタスク間のデータ通信量は大きくは変わらないものとする。
【0047】
タスクグループ生成部１０３は、ＤＡＧ生成部１０１が生成したＤＡＧに基づき、タスクグループを生成する。以下、タスク間でデータの送受信が行なわれることで関連性を有する複数のタスクを同一のタスクグループとして取り扱う。タスクグループ生成部１０３は、１つのグラフ（ＤＡＧ）内において連結される複数のタスクを同一のグループとするようにタスクグループを生成する。
タスクグループ生成部１０３は、同一のＤＡＧに属する複数のタスクを一つのタスクグループとして設定する。
タスクグループ生成部１０３は、同一のＤＡＧに属する複数のタスクを一つのタスクグループとして設定する。
【0048】
タスクグループ生成部１０３は、ＤＡＧ生成部１０１が生成したＤＡＧを読み込み、同一のＤＡＧ（同一グラフ）に所属するタスクを判別することでタスクグループを生成する。
図４は実施形態の一例としてのコンピュータシステム１のタスクグループ生成部１０３によるタスクグループの生成方法を説明するための図である。
図４において、符号ＡはＤＡＧ生成部１０１がプログラムから生成したＤＡＧを示し、符号Ｂは符号Ａに示したＤＡＧから生成されるタスクグループを示す。
図４は実施形態の一例としてのコンピュータシステム１のタスクグループ生成部１０３によるタスクグループの生成方法を説明するための図である。
図４において、符号ＡはＤＡＧ生成部１０１がプログラムから生成したＤＡＧを示し、符号Ｂは符号Ａに示したＤＡＧから生成されるタスクグループを示す。
【0049】
図４に示す例においては、符号Ａに示すように、Task#1, #4を備えるグラフと、Task#2, #3, #5～#7を備えるグラフとの２つのグラフ（ＤＡＧ）が示されている。
【0050】
以下、複数のＤＡＧ（グラフ）に対して符号“#”と数字とを組み合わせグラフ番号を付して表すことで個々のグラフを識別する場合がある。また、複数のタスクグループに対して符号“#”と数字とを組み合わせタスクグループ番号を付して表すことで個々のタスクグループを識別する場合がある。
図４に示す例においては、Task#1, #4を備えるグラフをグラフ＃１と示し、Task#2, #3, #5～#7を備えるグラフをグラフ＃２と示す。
図４に示す例においては、Task#1, #4を備えるグラフをグラフ＃１と示し、Task#2, #3, #5～#7を備えるグラフをグラフ＃２と示す。
【0051】
タスクグループ生成部１０３は、符号Ｂに示すように、グラフ＃１に基づいてタスクグループ＃１を生成する。タスクグループ＃１にはTask#1, #4が含まれる。また、タスクグループ生成部１０３は、グラフ＃２に基づいてタスクグループ＃２を生成する。タスクグループ＃２には、Task#2, #3, #5～#7が含まれる。
図５は実施形態の一例としてのコンピュータシステム１におけるグラフとタスクグループとの関係を示す図である。
この図５に示す例においては、グラフ＃１に基づいて生成されたタスクグループ#１と、グラフ＃２に基づいて生成されたタスクグループ#２とを示す。
図５は実施形態の一例としてのコンピュータシステム１におけるグラフとタスクグループとの関係を示す図である。
この図５に示す例においては、グラフ＃１に基づいて生成されたタスクグループ#１と、グラフ＃２に基づいて生成されたタスクグループ#２とを示す。
【0052】
この図５においては、グラフ＃１，＃２を構成する情報として、データ送信元のタスクを特定する情報（SRC）と、データの送信先を特定する情報（DST）との組み合わせを示す。これらのSRCとDSTとの組み合わせがＤＡＧにおける有向辺を表す。
【0053】
また、図５に示す例において、タスクグループ＃１は、グラフ＃１に所属するタスク（所属タスク）のタスク番号“1, 4”と、所属タスクの総数“2”とを示す。また、タスクグループ＃２は、グラフ＃２に所属するタスク（所属タスク）のタスク番号“2, 3, 5, 6, 7”と、所属タスクの総数“5”とを示す。
【0054】
データ送信元のタスクを特定する情報（SRC）を送信元タスク番号といってもよい。また、データの送信先を特定する情報（DST）を送信先タスク番号といってもよい。
【0055】
また、タスクグループ生成部１０３は、後述するＤＡＧ更新部１０２によりＤＡＧが更新されると、この更新後のＤＡＧに基づいてダスクグループを作成（更新）する。
【0056】
タスク間通信量測定部１０６は、後述するスケジューラ１０４によりタスクを割り当てられた各計算ノード（割当ノード）１０におけるジョブの実行中に、タスク間のデータ通信量を測定する。タスク間通信量測定部１０６は、測定したタスク間のデータ通信量を通信量計測情報としてタスク間通信情報ＤＢ１０５に記憶させる。なお、タスク間のデータ通信量は既知の手法で取得することができ、その説明は省略する。
図６は実施形態の一例としてのコンピュータシステム１における通信量計測情報を例示する図である。
図６は実施形態の一例としてのコンピュータシステム１における通信量計測情報を例示する図である。
【0057】
図６に例示する通信量計測情報は、データ送信元（SRC）のタスクを特定する情報（送信元タスク番号）と、データの送信先（DST）のタスクを特定する情報（送信先タスク番号）と、これらのタスク間で送信されたデータ通信量（SIZE）とを対応付けている。
スケジューラ１０４は、計算ノード２に対してタスクの割り当てを行なう。
スケジューラ１０４は、計算ノード２に対してタスクの割り当てを行なう。
【0058】
ＡＩジョブの初回実行時（最初の訓練データ利用時）において、スケジューラ１０４は、ＡＩジョブのプログラムから生成されたＤＡＧの構造に基づき、タスク間の通信量を予測する。
【0059】
スケジューラ１０４は、データ通信がＤＡＧにおいて枝（有向辺）で結ばれたタスク間にのみ発生することに基づいて、ＡＩジョブの初回実行時におけるタスク間の通信量を予測する。具体的には、スケジューラ１０４は、各タスク間の通信量が等しいものと予測（仮定）する。そして、スケジューラ１０４は、同一のタスクグループに所属するタスクを、計算ノード群４において隣接する（連続する）計算ノード２に割り当てる。スケジューラ１０４は、タスクグループのタスクを、当該タスクグループにおける他のタスクを割り当てた計算ノード２に隣接していない（不連続の）計算ノード２には割り当てない。
【0060】
また、スケジューラ１０４は、ＡＩジョブの２回目以降実行時（新たな訓練データ利用時）においても、同一のタスクグループに所属する複数のタスクを、計算ノード群４において隣接（連続）する複数の計算ノード２に割り当てる。
【0061】
同一のタスクグループに所属するタスクを、計算ノード群４において隣接する計算ノード２に割り当てられない場合（例えば、ジョブを割り当て可能な空き計算ノード２が不足している等）には、スケジューラ１０４は、ＡＩジョブの割り当てを行なわず、その実行を打ち切る。
【0062】
図７および図８は実施形態の一例としてのコンピュータシステム１におけるスケジューラ１０４によるＡＩジョブの初回実行時（最初の訓練データ利用時）における計算ノード２への割り当て方法を説明するための図である。
【0063】
図７において、符号Ａは計算ノード群４における各計算ノード２のジョブの実行状況を示し、符号Ｂは符号Ａに示した各計算ノード２のジョブの実行状況を２次元配列で示す。
【0064】
図７および図８に示す例においては、計算ノード群４が、ｘ軸およびｙ軸で表される２次元平面上に配置した２次元メッシュとして構成されている。すなわち、計算ノード群４においては、ｘ軸方向に６つの計算ノード２を並べ、且つ、ｙ軸方向に５つの計算ノード２を並べることで、６×５のマトリックス状に計算ノード２が配置されている。
【0065】
図７の符号Ａにおいては、計算ノード群４を構成する３０個の計算ノード２のうち、６×２の１２個の計算ノード２（符号Ｐ１参照）と、３×１の３個の計算ノード２（符号Ｐ２参照）と、１×２の２個の計算ノード２（符号Ｐ３参照）とにＨＰＣジョブが割り当てられている。
【0066】
図７の符号Ｂに例示する２次元配列においては、符号Ａに示した計算ノード群４におけるｘ座標値とｙ座標値との組み合わせで各計算ノード２を表す。また、当該配列中において、ＨＰＣジョブを実行中の計算ノード２に1を設定し、ＨＰＣジョブおよびＡＩジョブのいずれも実行していない計算ノード（空き計算ノード）２に0を設定している。このように、計算ノード群４における各計算ノード２のジョブの実行状況を示す２次元配列をジョブ実行状況情報といってもよい。スケジューラ１０４は、ジョブ実行状況情報を作成する。ジョブ実行状況情報を構成する情報は、例えば、メモリ１２や記憶装置１３等の所定の記憶領域に記憶される。
【0067】
スケジューラ１０４は、このようなジョブ実行状況情報を参照することで、計算ノード群４における各計算ノード２の空き状況を管理し、ジョブを割り当て可能な計算ノード2を把握する。
【0068】
例えば、スケジューラ１０４は、ジョブ実行状況情報に対して、（ｘ，ｙ）＝（０，０）を始点として、0が隣接する要素（空き計算ノード２）を検索し、隣接（連続）する空き計算ノード数をカウントする。すなわち、スケジューラ１０４は、ジョブ実行状況情報を参照して、隣接する空き計算ノード２によって構成される空き計算ノード２の集合（空き計算ノード２の塊）を検索する。そして、スケジューラ１０４は、検索した空き計算ノード２の集合（空き計算ノード２の塊）に含まれる空き計算ノード２の数（隣接空き計算ノード数）を計数する。
【0069】
符号Ｂに示す例においては、３×２の６個の計算ノード２（符号Ｐ４参照）が空き計算ノード２の集合に相当し、その隣接空き計算ノード数は６である。また、２×２の４個の計算ノード２（符号Ｐ５参照）が空き計算ノード２の集合に相当し、その隣接空き計算ノード数は４である。さらに、２×１の２個の計算ノード２（符号Ｐ６参照）が空き計算ノード２の集合に相当し、その隣接空き計算ノード数は２である。またさらに、１×１の１個の計算ノード２（符号Ｐ７参照）が空き計算ノード２の集合に相当し、その隣接空き計算ノード数は１である。
【0070】
そして、スケジューラ１０４は、“隣接する空き計算ノード数”≧“タスクグループのタスク数”であれば、その隣接する空き計算ノード数に対応する空き計算ノード２の集合に、当該タスクグループのタスクを割り当てる。
【0071】
また、この際、スケジューラ１０４は、隣接空き計算ノード数がタスクグループのタスク数になるべく近い空き計算ノード２の集合をタスクグループの割当先として優先して選択することが望ましい。
【0072】
図８において、符号Ｃは図７の符号Ｂに示した２次元配列に対してタスクを割り当てる例を示し、符号Ｄは符号Ｃにおいて割り当てられたタスクを計算ノード群４に反映させた後における各計算ノード２のジョブの実行状況を示す。
図８の符号Ｃにおいては、タスク数が２のタスクグループ＃１と、タスク数が５のタスクグループ＃２とを割り当てる例を示す。
図８の符号Ｃにおいては、タスク数が２のタスクグループ＃１と、タスク数が５のタスクグループ＃２とを割り当てる例を示す。
【0073】
スケジューラ１０４は、隣接空き計算ノード数が2の空き計算ノード２の集合を、タスク数が2のタスクグループ＃１の割り当て先として決定する（符号Ｐ８参照）。また、スケジューラ１０４は、隣接空き計算ノード数が６の空き計算ノード6の集合を、タスク数が5のタスクグループ＃２の割り当て先として決定する（符号Ｐ９参照）。
【0074】
これにより、図８の符号Ｄに示すように、計算ノード群４において、ＡＩジョブのタスクグループ＃１の各ジョブは、隣接する計算ノード２にそれぞれ割り当てられる。また、同様に、ＡＩジョブのタスクグループ＃２の各ジョブも、それぞれ隣接する計算ノード２にそれぞれ割り当てられる。
【0075】
ＤＡＧ更新部１０２は、ＡＩジョブの２回目以降実行時（新たな訓練データ利用時）において、前回ジョブ実行時にタスク間通信量測定部１０６が計測したタスク間通信量を用いてＤＡＧを更新する。
図９は実施形態の一例としてのコンピュータシステム１におけるＤＡＧ更新部１０２によるＤＡＧの更新手法を説明するための図である。
図９において、符号Ａは更新前のＤＡＧを例示し、符号ＢはＤＡＧ更新部１０２による更新後のＤＡＧを例示する。
符号Ａに示すように、更新前においては２つのＤＡＧ（グラフ）＃１，＃２を備え、更新後においては３つのグラフ＃１～＃３を備える。
図９は実施形態の一例としてのコンピュータシステム１におけるＤＡＧ更新部１０２によるＤＡＧの更新手法を説明するための図である。
図９において、符号Ａは更新前のＤＡＧを例示し、符号ＢはＤＡＧ更新部１０２による更新後のＤＡＧを例示する。
符号Ａに示すように、更新前においては２つのＤＡＧ（グラフ）＃１，＃２を備え、更新後においては３つのグラフ＃１～＃３を備える。
【0076】
図９に例示するＤＡＧにおいては、タスク間を接続する矢印（有向辺）の太さがタスク間のデータ通信量を表しており、太い矢印（例えば、符号Ａのグラフ＃１のTask#1からTask#4への有向辺）は、データ通信量が所定閾値より大きいことを示す（符号Ｐ０参照）。一方、細い矢印（例えば、符号Ａのグラフ＃２のTask#5からTask#7への有向辺）は、データ通信量が所定の閾値以下であることを示す（符号Ｐ１参照）。
【0077】
ＤＡＧの更新において、ＤＡＧ更新部１０２は、ＤＡＧ生成部１０１によって作成されたＤＡＧを読み込み、この読み込んだＤＡＧから、データ通信量が閾値以下のタスク間の枝（有向辺）を削除する。
図９に示す例においては、ＤＡＧ更新部１０２は、データ通信量が小さいグラフ＃２のTask#5からTask#7への有向辺（符号Ｐ１参照）を削除する。
図９に示す例においては、ＤＡＧ更新部１０２は、データ通信量が小さいグラフ＃２のTask#5からTask#7への有向辺（符号Ｐ１参照）を削除する。
【0078】
これにより、符号Ｂに示すように、更新後のＤＡＧにおいては、Task#6からTask#7への有向辺がグラフ＃２から切り離され、新たにグラフ＃３が生成される。すなわち、ＤＡＧ更新部１０２は、ＤＡＧの更新を行なうことでＤＡＧの分割を行なう。
【0079】
また、ＤＡＧ更新部１０２は、有向辺を削除することでＤＡＧを複数のＤＡＧに分割することができるかを確認する。確認の結果、有向辺を削除することでＤＡＧを分割することができると判断した場合に、ＤＡＧ更新部１０２はＤＡＧを分割する。
【0080】
例えば、ＤＡＧの有向辺を削除することで、２つ以上のタスクが当該ＤＡＧから独立する場合に、ＤＡＧ更新部１０２はＤＡＧを分割することができると判断してよい。また、当該ＤＡＧから１つのタスクだけが切り離される場合には、ＤＡＧを分割することができないと判断してよく、この場合にはＤＡＧの分割は行なわない。
【0081】
【0082】
図１０において、符号Ａは、対象ＡＩジョブが前回実行された際にタスク間通信量測定部１０６により計測されたタスク間の通信状況を例示する。また、符号Ｂは、符号Ａに示す通信状況に基づいて作成された通信量計測情報を例示する。
【0083】
【0084】
ＤＡＧ更新部１０２は、通信量計測情報に基づいてＤＡＧの更新を行なう。図１１の符号Ｃにおいては、グラフ＃２のTask#5からTask#7へのデータ通信量（SIZE）が閾値5以下である（図１０の符号Ｐ１および図１１の符号Ｐ２参照）。ＤＡＧ更新部１０２は、図１１の符号Ｄに示すように、通信量が閾値以下のタスク間の有向辺（グラフ＃２のTask#5からTask#7への有向辺）を削除する（図１１の符号Ｐ３参照）。
【0085】
グラフ＃２におけるTask#5からTask#7への有向辺が削除されることで、更新後のグラフ＃２においては、Task#6からTask#7への有向辺がグラフ＃２から切り離され、グラフ＃３が分割（生成）される。このように、ＤＡＧ更新部１０２は、ＤＡＧの更新を行なうことでグラフ＃２を分割してグラフ＃３を生成する。
【0086】
（Ｂ）動作
上述の如く構成された実施形態の一例としてのコンピュータシステム１におけるＡＩジョブの初回実行時の処理を、図１２に示すフローチャート（ステップＳ１０～Ｓ５０）に従って説明する。
ステップＳ１０において、ＤＡＧ生成部１０１は、割り当て対象となるＡＩジョブのプログラムを解析し、１つ以上のＤＡＧ（グラフ）を生成する。
ステップＳ２０において、タスクグループ生成部１０３は、生成されたＤＡＧ毎にタスクグループを生成する。
ステップＳ３０において、スケジューラ１０４は、同一のタスクグループに所属するタスクを、計算ノード群４において隣接する計算ノード２に割り当てる。
上述の如く構成された実施形態の一例としてのコンピュータシステム１におけるＡＩジョブの初回実行時の処理を、図１２に示すフローチャート（ステップＳ１０～Ｓ５０）に従って説明する。
ステップＳ１０において、ＤＡＧ生成部１０１は、割り当て対象となるＡＩジョブのプログラムを解析し、１つ以上のＤＡＧ（グラフ）を生成する。
ステップＳ２０において、タスクグループ生成部１０３は、生成されたＤＡＧ毎にタスクグループを生成する。
ステップＳ３０において、スケジューラ１０４は、同一のタスクグループに所属するタスクを、計算ノード群４において隣接する計算ノード２に割り当てる。
【0087】
ステップＳ４０において、スケジューラ１０４によりタスクを割り当てられた各計算ノード（割当ノード）１０がそれぞれタスク（ＡＩジョブ）を実行する。タスク間通信量測定部１０６は、各計算ノード（割当ノード）１０におけるＡＩジョブの実行中に、タスク間のデータ通信量を測定する。
【0088】
ステップＳ５０において、タスク間通信量測定部１０６は、ジョブの終了後に、測定したタスク間のデータ通信量を通信量計測情報としてタスク間通信情報ＤＢ１０５に記憶させる。その後、処理を終了する。
【0089】
次に、実施形態の一例としてのコンピュータシステム１におけるＡＩジョブの２回目以降の実行時の処理を、図１３に示すフローチャート（ステップＳ１０，Ｓ１１～Ｓ１３，Ｓ２０～Ｓ５０）に従って説明する。
ステップＳ１０において、ＤＡＧ生成部１０１は、割り当て対象となるＡＩジョブのプログラムを解析し、１つ以上のＤＡＧ（グラフ）を生成する。
ステップＳ１０において、ＤＡＧ生成部１０１は、割り当て対象となるＡＩジョブのプログラムを解析し、１つ以上のＤＡＧ（グラフ）を生成する。
【0090】
ステップＳ１１～Ｓ１３において、ＤＡＧ更新部１０２はＤＡＧの更新を行なう。すなわち、ステップＳ１１において、ＤＡＧ更新部１０２は、ＤＡＧ毎に、データ通信量が予め設定した閾値以下のタスク間の枝（有向辺）を削除する。
【0091】
ステップＳ１２において、ＤＡＧ更新部１０２は、各ＤＡＧについて、有向辺の削除により複数のＤＡＧに分割可能であるかを判断する。確認の結果、有向辺の削除により複数のＤＡＧに分割可能である場合には（ステップＳ１２のＹＥＳルート参照）、ステップＳ１３に移行する。
ステップＳ１３においてＤＡＧ更新部１０２はＤＡＧの分割を行なう。その後、ステップＳ２０に移行する。
ステップＳ１３においてＤＡＧ更新部１０２はＤＡＧの分割を行なう。その後、ステップＳ２０に移行する。
【0092】
また、ステップＳ１２における確認の結果、有向辺の削除により複数のＤＡＧに分割不可能である場合には（ステップＳ１２のＮＯルート参照）、ＤＡＧの分割を行なわずに、ステップＳ２０に移行する。
ステップＳ２０において、タスクグループ生成部１０３は、生成されたＤＡＧ毎にタスクグループを生成する。
ステップＳ３０において、スケジューラ１０４は、同一のタスクグループに所属するタスクを、計算ノード群４において隣接する計算ノード２に割り当てる。
ステップＳ２０において、タスクグループ生成部１０３は、生成されたＤＡＧ毎にタスクグループを生成する。
ステップＳ３０において、スケジューラ１０４は、同一のタスクグループに所属するタスクを、計算ノード群４において隣接する計算ノード２に割り当てる。
【0093】
ステップＳ４０において、スケジューラ１０４によりタスクを割り当てられた各計算ノード（割当ノード）１０がそれぞれタスク（ＡＩジョブ）を実行する。タスク間通信量測定部１０６は、各計算ノード（割当ノード）１０におけるＡＩジョブの実行中に、タスク間のデータ通信量を測定する。
【0094】
ステップＳ５０において、タスク間通信量測定部１０６は、ジョブの終了後に、測定したタスク間のデータ通信量を通信量計測情報としてタスク間通信情報ＤＢ１０５に記憶させる。その後、処理を終了する。
【0095】
（Ｃ）効果
このように、実施形態の一例としてのコンピュータシステム１によれば、タスクグループ生成部１０３が、同一のＤＡＧに属する複数のタスクを一つのタスクグループとして設定する。
このように、実施形態の一例としてのコンピュータシステム１によれば、タスクグループ生成部１０３が、同一のＤＡＧに属する複数のタスクを一つのタスクグループとして設定する。
【0096】
そして、スケジューラ１０４が、同一のタスクグループに所属するタスクを、計算ノード群４において隣接する（連続する）計算ノード２に割り当てる。これにより、ＡＩジョブの実行において、連続する計算ノード２内においてタスク間のデータ通信が行なわれ、ＨＰＣジョブに影響を与えることがない。すなわち、ＨＰＣジョブとＡＩジョブの通信経路が干渉することを抑止することができ、ＨＰＣジョブの通信性能低下や性能ぶれが生じることがない。
【0097】
また、タスク間通信量測定部１０６が、各計算ノード２におけるジョブの実行中に、タスク間のデータ通信量を測定し、ＤＡＧ更新部１０２が、ＡＩジョブの２回目以降実行時（新たな訓練データ利用時）において、前回ジョブ実行時に計測されたタスク間通信量を用いてＤＡＧを更新する。このＤＡＧの更新において、ＤＡＧ更新部１０２は、データ通信量が閾値以下のタスク間の枝（有向辺）を削除する。
【0098】
これにより、同一のＤＡＧを構成するタスクグループにおいて、データ通信量が閾値以下のタスクを切り離すことで、タスクグループを構成するタスクの数を削減することができる。従って、スケジューラ１０４による、同一のタスクグループに所属するタスクを、計算ノード群４において隣接する（連続する）計算ノード２に割り当てる処理を容易に行なうことができるようになる。また、計算ノード群４におけるタスクの実行状況に応じて、計算ノード２へのタスクの割り当てを柔軟に行なうことができる。
【0099】
（Ｄ）その他
本発明は上述した実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で種々変形して実施することができる。
本発明は上述した実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で種々変形して実施することができる。
【0100】
例えば、上述した実施形態においては、計算ノード群４が２次元メッシュである例を示したが、これに限定されるものではない。計算ノード群４は、例えば、直線，リング，集中結合網，ツリー，完全結合網，２次元メッシュ，３次元メッシュ，トーラスのいずれかであってもよい。
【0101】
また、上述した実施形態においては、計算ノード群４においてＨＰＣジョブとＡＩジョブとを実行する例を示したが、これに限定されるものではなく、これら以外のジョブを実行させてもよく、種々変形して実施することができる。
また、上述した開示により本実施形態を当業者によって実施・製造することが可能である。
また、上述した開示により本実施形態を当業者によって実施・製造することが可能である。
【0102】
（Ｅ）付記
以上の実施形態に関し、さらに以下の付記を開示する。
（付記１）
複数の計算ノードを管理する管理装置において、
一つのＤＡＧ（Directed Acyclic Graph：有向非巡回グラフ）を構成する２つ以上のタスクを、連続する２つ以上の計算ノードに割り当てる
処理をプロセッサに実行させることを特徴とする管理プログラム。
以上の実施形態に関し、さらに以下の付記を開示する。
（付記１）
複数の計算ノードを管理する管理装置において、
一つのＤＡＧ（Directed Acyclic Graph：有向非巡回グラフ）を構成する２つ以上のタスクを、連続する２つ以上の計算ノードに割り当てる
処理をプロセッサに実行させることを特徴とする管理プログラム。
【0103】
（付記２）
前記２つ以上のタスク間のデータ通信量に基づいて、前記ＤＡＧを更新する
処理を前記プロセッサに実行させることを特徴とする付記１に記載の管理プログラム。
前記２つ以上のタスク間のデータ通信量に基づいて、前記ＤＡＧを更新する
処理を前記プロセッサに実行させることを特徴とする付記１に記載の管理プログラム。
【0104】
（付記３）
前記ＤＡＧから前記データ通信量が閾値以下の有向辺を削除して前記ＤＡＧを分割する
処理を前記プロセッサに実行させることを特徴とする付記２に記載の管理プログラム。
前記ＤＡＧから前記データ通信量が閾値以下の有向辺を削除して前記ＤＡＧを分割する
処理を前記プロセッサに実行させることを特徴とする付記２に記載の管理プログラム。
【0105】
（付記４）
前記複数の計算ノードのうちの一部の計算ノードが他の計算ノードとの同期を伴う並列計算を伴う第１のジョブを処理中であり、
前記２つ以上のタスクが非同期で動作する第２のジョブを構成する
ことを特徴とする付記１～３のいずれか１項に記載の管理プログラム。
前記複数の計算ノードのうちの一部の計算ノードが他の計算ノードとの同期を伴う並列計算を伴う第１のジョブを処理中であり、
前記２つ以上のタスクが非同期で動作する第２のジョブを構成する
ことを特徴とする付記１～３のいずれか１項に記載の管理プログラム。
【0106】
（付記５）
複数の計算ノードを管理する管理装置において、
一つのＤＡＧ（Directed Acyclic Graph：有向非巡回グラフ）を構成する２つ以上のタスクを、連続する２つ以上の計算ノードに割り当てる
処理をプロセッサが実行することを特徴とする管理方法。
複数の計算ノードを管理する管理装置において、
一つのＤＡＧ（Directed Acyclic Graph：有向非巡回グラフ）を構成する２つ以上のタスクを、連続する２つ以上の計算ノードに割り当てる
処理をプロセッサが実行することを特徴とする管理方法。
【0107】
（付記６） 前記２つ以上のタスク間のデータ通信量に基づいて、前記ＤＡＧを更新する
処理を前記プロセッサが実行することを特徴とする付記５に記載の管理方法。
処理を前記プロセッサが実行することを特徴とする付記５に記載の管理方法。
【0108】
（付記７）
前記ＤＡＧから前記データ通信量が閾値以下の有向辺を削除して前記ＤＡＧを分割する
処理を前記プロセッサが実行することを特徴とする付記６に記載の管理方法。
前記ＤＡＧから前記データ通信量が閾値以下の有向辺を削除して前記ＤＡＧを分割する
処理を前記プロセッサが実行することを特徴とする付記６に記載の管理方法。
【0109】
（付記８）
前記複数の計算ノードのうちの一部の計算ノードが他の計算ノードとの同期を伴う並列計算を伴う第１のジョブを処理中であり、
前記２つ以上のタスクが非同期で動作する第２のジョブを構成する
ことを特徴とする付記５～７のいずれか１項に記載の管理方法。
前記複数の計算ノードのうちの一部の計算ノードが他の計算ノードとの同期を伴う並列計算を伴う第１のジョブを処理中であり、
前記２つ以上のタスクが非同期で動作する第２のジョブを構成する
ことを特徴とする付記５～７のいずれか１項に記載の管理方法。
【符号の説明】
【0110】
１ コンピュータシステム
２ 計算ノード
３ リンク
４ 計算ノード群
１０ 管理ノード
１１ プロセッサ（処理部）
１２ メモリ
１３ 記憶装置
１４ グラフィック処理装置
１５ 入力インタフェース
１６ 光学ドライブ装置
１７ 機器接続インタフェース
１７ａ メモリ装置
１８ ネットワークインタフェース
１９ バス
１０１ ＤＡＧ生成部
１０２ ＤＡＧ更新部
１０３ タスクグループ生成部
１０４ スケジューラ
１０５ タスク間通信情報ＤＢ
１０６ タスク間通信量測定部
２ 計算ノード
３ リンク
４ 計算ノード群
１０ 管理ノード
１１ プロセッサ（処理部）
１２ メモリ
１３ 記憶装置
１４ グラフィック処理装置
１５ 入力インタフェース
１６ 光学ドライブ装置
１７ 機器接続インタフェース
１７ａ メモリ装置
１８ ネットワークインタフェース
１９ バス
１０１ ＤＡＧ生成部
１０２ ＤＡＧ更新部
１０３ タスクグループ生成部
１０４ スケジューラ
１０５ タスク間通信情報ＤＢ
１０６ タスク間通信量測定部
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】