特開 2024-110228 中継プログラム、中継方法、情報処理装置、並びに、情報処理システム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024110228

(43)【公開日】2024-08-15

(54)【発明の名称】中継プログラム、中継方法、情報処理装置、並びに、情報処理システム

(51)【国際特許分類】

   G06F 15/177 20060101AFI20240807BHJP

   G06F 9/50 20060101ALI20240807BHJP

【ＦＩ】

G06F15/177 A

G06F9/50 120Z

【審査請求】未請求

【請求項の数】8

【出願形態】ＯＬ

(21)【出願番号】P 2023014694

(22)【出願日】2023-02-02

(71)【出願人】

【識別番号】000005223

【氏名又は名称】富士通株式会社

(74)【代理人】

【識別番号】110003649

【氏名又は名称】弁理士法人真田特許事務所

(74)【代理人】

【識別番号】100189201

【弁理士】

【氏名又は名称】横田 功

(72)【発明者】

【氏名】桑村 慎哉

【テーマコード（参考）】

5B045

【Ｆターム（参考）】

5B045HH06

5B045KK06

(57)【要約】

【課題】アプリケーションを実行する情報処理装置にリソースが追加される場合における、アプリケーションの実行時間の短縮を図る。
【解決手段】アプリケーション２２が利用するリソースである第１リソースを初期化するための初期化要求を取得し、前記初期化要求に基づき、前記アプリケーションが実行される情報処理装置に前記第１リソースを割り当てるための割当要求を、複数の前記リソースを管理する管理システム６に送信し、前記アプリケーションに、前記第１リソースに実行させる計算処理の前に行なう事前処理を開始させ、前記管理システムからの前記割当要求に対する割当完了応答の受信に応じて、前記第１リソースに前記初期化要求を送信し、前記事前処理の完了後の前記アプリケーションからの前記計算処理の計算要求の取得に応じて、前記第１リソースに前記計算要求を送信する。
【選択図】図６

【特許請求の範囲】

【請求項1】

アプリケーションが利用するハードウェアリソースである第１リソースを初期化するための初期化要求を、前記アプリケーションから取得し、
前記初期化要求に基づき、前記アプリケーションが実行される第１のコンピュータに前記第１リソースを割り当てるための割り当て要求を、複数の前記ハードウェアリソースを管理する管理システムに送信し、
前記アプリケーションに、前記第１リソースに実行させる計算処理の前に行なう事前処理を開始させ、
前記管理システムからの前記割り当て要求に対する割り当て完了応答であって、前記複数のハードウェアリソースから前記第１リソースを前記第１のコンピュータに割り当てたことを示す前記割り当て完了応答の受信に応じて、前記第１リソースに前記初期化要求を送信し、
前記事前処理の完了後の前記アプリケーションからの前記計算処理の計算要求の取得に応じて、前記第１リソースに前記計算要求を送信する、
中継処理をコンピュータに実行させる、中継プログラム。

【請求項2】

前記第１リソースに前記計算要求を送信する処理は、前記アプリケーションから前記計算要求を取得し、且つ、前記第１リソースから前記初期化要求に応じた初期化が完了したことを示す完了応答を受信した場合に、前記第１リソースに前記計算要求を送信する、処理を含む、
請求項１に記載の中継プログラム。

【請求項3】

前記第１のコンピュータである前記コンピュータに、前記アプリケーションよりも下位のレイヤにおいて前記中継処理を実行させ、
前記アプリケーションに前記事前処理を開始させる処理は、前記初期化要求に対する初期化完了応答を前記アプリケーションに送信する、処理を含む、
請求項１又は請求項２に記載の中継プログラム。

【請求項4】

前記第１のコンピュータである前記コンピュータに、前記アプリケーションの一部の機能として、前記中継処理を実行させる、
請求項１又は請求項２に記載の中継プログラム。

【請求項5】

前記複数のハードウェアリソースのうちの前記第１リソースを備える第２のコンピュータである前記コンピュータに、前記中継処理を実行させる、
請求項１又は請求項２に記載の中継プログラム。

【請求項6】

アプリケーションが利用するハードウェアリソースである第１リソースを初期化するための初期化要求を、前記アプリケーションから取得し、
前記初期化要求に基づき、前記アプリケーションが実行される第１のコンピュータに前記第１リソースを割り当てるための割り当て要求を、複数の前記ハードウェアリソースを管理する管理システムに送信し、
前記アプリケーションに、前記第１リソースに実行させる計算処理の前に行なう事前処理を開始させ、
前記管理システムからの前記割り当て要求に対する割り当て完了応答であって、前記複数のハードウェアリソースから前記第１リソースを前記第１のコンピュータに割り当てたことを示す前記割り当て完了応答の受信に応じて、前記第１リソースに前記初期化要求を送信し、
前記事前処理の完了後の前記アプリケーションからの前記計算処理の計算要求の取得に応じて、前記第１リソースに前記計算要求を送信する、
中継処理をコンピュータが実行する、中継方法。

【請求項7】

アプリケーションが利用するハードウェアリソースである第１リソースを初期化するための初期化要求を、前記アプリケーションから取得し、
前記初期化要求に基づき、前記アプリケーションが実行される第１の情報処理装置に前記第１リソースを割り当てるための割り当て要求を、複数の前記ハードウェアリソースを管理する管理システムに送信し、
前記アプリケーションに、前記第１リソースに実行させる計算処理の前に行なう事前処理を開始させ、
前記管理システムからの前記割り当て要求に対する割り当て完了応答であって、前記複数のハードウェアリソースから前記第１リソースを前記第１の情報処理装置に割り当てたことを示す前記割り当て完了応答の受信に応じて、前記第１リソースに前記初期化要求を送信し、
前記事前処理の完了後の前記アプリケーションからの前記計算処理の計算要求の取得に応じて、前記第１リソースに前記計算要求を送信する、
中継処理を実行する制御部を備える、情報処理装置。

【請求項8】

アプリケーションを実行する第１の情報処理装置と、
複数のハードウェアリソースを備える複数の第２の情報処理装置と、
前記複数のハードウェアリソースを管理する管理システムと、
中継処理を実行する制御部と、を備え、
前記制御部は、
前記アプリケーションが利用するハードウェアリソースである第１リソースを初期化するための初期化要求を、前記アプリケーションから取得し、
前記初期化要求に基づき、前記第１の情報処理装置に前記第１リソースを割り当てるための割り当て要求を、前記管理システムに送信し、
前記アプリケーションに、前記第１リソースに実行させる計算処理の前に行なう事前処理を開始させ、
前記管理システムからの前記割り当て要求に対する割り当て完了応答であって、前記複数のハードウェアリソースから前記第１リソースを前記第１の情報処理装置に割り当てたことを示す前記割り当て完了応答の受信に応じて、前記第１リソースに前記初期化要求を送信し、
前記事前処理の完了後の前記アプリケーションからの前記計算処理の計算要求の取得に応じて、前記第１リソースに前記計算要求を送信する、
情報処理システム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、中継プログラム、中継方法、情報処理装置、並びに、情報処理システムに関する。

【背景技術】

【0002】

ハードウェアリソースの利用効率の向上、柔軟な構成の物理サーバの提供、等を実現するための技術として、コンポーザブルインフラ（Composable Infrastructure：CI、又は、Composable Disaggregated Infrastructure：CDI）が知られている。

【0003】

コンポーザブルインフラは、サーバ等の情報処理装置と、サーバから分離した複数のハードウェアリソースを含むリソースプールと、を高速なインターコネクトで接続するアーキテクチャによって実現される。ハードウェアリソースとしては、ＧＰＵ（Graphics Processing Unit）及びアクセラレータ等の処理装置（処理ユニット）、並びに、メモリ及びストレージ等の記憶装置、等の種々のリソース（資源）が挙げられる。

【0004】

コンポーザブルインフラにより、サーバで実行されるアプリケーションにおいてリソース（一例としてＧＰＵ）が必要になった時点で、サーバに当該リソース（ＧＰＵ）を追加できる。このように、コンポーザブルインフラでは、サーバへの動的なリソースの追加が可能である。

【0005】

コンポーザブルインフラは、管理システムを備える。管理システムは、サーバへのリソースの割り当てを管理する。例えば、管理システムは、リソースの割り当て要求の受信に応じて、インターコネクトの接続の切り替えを行なうスイッチを制御し、サーバにリソースを認識させることで、サーバへのリソースの割り当てを実現する。

【0006】

以下、コンポーザブルインフラの運用形態の一例として、以下の（１）～（５）の処理を説明する。

【0007】

（１）アプリケーションがＧＰＵを必要とする場合、例えば画像に対する物体検出等のＡＩ（Artificial Intelligence）タスクが実行される場合、アプリケーションは、管理システムにリソース割り当て要求を発行し、動作（例えばＡＩタスク）を中断する。

【0008】

（２）管理システムは、リソース割り当て要求の受信に応じてサーバにＧＰＵを割り当て、サーバ（アプリケーション）にリソース割り当ての完了応答を発行する。

【0009】

（３）アプリケーションは、完了応答の受信に応じて、割り当てられたＧＰＵを認識し、当該ＧＰＵを初期化するための初期化要求を当該ＧＰＵ（リソースプール）に発行する。

【0010】

（４）アプリケーションは、初期化要求に対する初期化の完了応答の受信に応じて、中断していた動作（例えばＡＩタスク）を再開し、計算要求をＧＰＵに発行し、ＧＰＵから計算結果を受信する。

【0011】

（５）アプリケーションによるＧＰＵの利用（計算）が終了すると、管理システムは、サーバへのＧＰＵの割り当てを解放する。

【先行技術文献】

【特許文献】

【0012】

【特許文献1】特開２０１２－３２８７３号公報

【発明の概要】

【発明が解決しようとする課題】

【0013】

アプリケーションの実行中にリソースプールからサーバにＧＰＵ等のリソースを割り当てる（追加する）運用形態においては、サーバへのリソースの割り当てが完了するまで、アプリケーションの実行が中断される。

【0014】

例えば、リソースの割り当てを含むハードウェアの構成変更には、数十秒程度の時間がかかることがあるため、アプリケーションの実行は、数十秒程度の時間に亘って中断される。また、追加されるリソースの数が増加すると、中断時間はさらに長くなる。

【0015】

このように、コンポーザブルインフラの上述した運用形態においては、アプリケーションの実行の開始から終了までの実行時間が長期化することがある。

【0016】

１つの側面では、本発明は、アプリケーションを実行する情報処理装置にリソースが追加される場合における、アプリケーションの実行時間の短縮を図ることを目的の１つとする。

【課題を解決するための手段】

【0017】

１つの側面では、中継プログラムは、中継処理をコンピュータに実行させる。前記中継処理は、アプリケーションが利用するハードウェアリソースである第１リソースを初期化するための初期化要求を、前記アプリケーションから取得する処理を含んでよい。また、前記中継処理は、前記初期化要求に基づき、前記アプリケーションが実行される第１のコンピュータに前記第１リソースを割り当てるための割り当て要求を、複数の前記ハードウェアリソースを管理する管理システムに送信する処理を含んでよい。さらに、前記中継処理は、前記アプリケーションに、前記第１リソースに実行させる計算処理の前に行なう事前処理を開始させる処理を含んでよい。また、前記中継処理は、前記管理システムからの前記割り当て要求に対する割り当て完了応答であって、前記複数のハードウェアリソースから前記第１リソースを前記第１のコンピュータに割り当てたことを示す前記割り当て完了応答の受信に応じて、前記第１リソースに前記初期化要求を送信する処理を含んでよい。さらに、前記中継処理は、前記事前処理の完了後の前記アプリケーションからの前記計算処理の計算要求の取得に応じて、前記第１リソースに前記計算要求を送信する処理を含んでよい。

【発明の効果】

【0018】

１つの側面では、本発明は、アプリケーションを実行する情報処理装置にリソースが追加される場合における、アプリケーションの実行時間を短縮することができる。

【図面の簡単な説明】

【0019】

【図1】一実施形態に係るシステムのハードウェア構成例を示すブロック図である。

【図2】一実施形態に係るサーバの一例としてのコンピュータのハードウェア構成例を示すブロック図である。

【図3】図１に示すサーバのソフトウェア構成例を示すブロック図である。

【図4】中継モジュールの実装例を説明するための図である。

【図5】中継モジュールの実装例を説明するための図である。

【図6】一実施形態に係るシステムの動作例を説明するためのシーケンス図である。

【図7】一実施形態に係る中継モジュールの初期化制御部の動作例を説明するフローチャートである。

【図8】一実施形態に係る中継モジュールの割り当て判定部の動作例を説明するフローチャートである。

【図9】一実施形態に係る中継モジュールの計算制御部の動作例を説明するフローチャートである。

【図10】一実施形態の変形例に係るサーバのソフトウェア構成例を示すブロック図である。

【図11】一実施形態の変形例に係る初期化制御部の実装例を説明するための図である。

【図12】一実施形態の変形例に係るシステムの動作例を説明するためのシーケンス図である。

【発明を実施するための形態】

【0020】

以下、図面を参照して本発明の実施の形態を説明する。ただし、以下に説明する実施形態は、あくまでも例示であり、以下に明示しない種々の変形又は技術の適用を排除する意図はない。例えば、本実施形態を、その趣旨を逸脱しない範囲で種々変形して実施することができる。なお、以下の説明で用いる図面において、同一符号を付した部分は、特に断らない限り、同一若しくは同様の部分を表す。

【0021】

〔Ａ〕ハードウェア構成例
図１は、一実施形態に係るシステム１のハードウェア構成例を示すブロック図である。図１に示すように、システム１は、例示的に、複数（図１では３台）のサーバ２（図１ではサーバ＃０～＃２と表記），リソースプール３，インターコネクト４，スイッチ５，及び管理システム６を備えてよい。

【0022】

システム１は、サーバ２にリソースプール３内のリソースを割り当て、サーバ２にリソースを用いた処理を実行させる情報処理システムの一例である。

【0023】

複数のサーバ２の各々は、情報処理装置（第１の情報処理装置）又はコンピュータの一例である。サーバ２は、ハードウェアリソースとして、少なくともＣＰＵ（Central Processing Unit）２ａを備えてよい。ＣＰＵ２ａは、プロセッサの一例であり、アプリケーションを含む種々のソフトウェアを実行する。

【0024】

サーバ２は、汎用コンピュータであってもよいし、リソースプール３を利用することを前提として、コンピュータを構成するハードウェアリソースのうちの少なくとも一部の実装を省略したコンピュータであってもよい。

【0025】

一実施形態では、サーバ２は、例えば、ＣＰＵ２ａ以外に、サーバ２が単独で動作可能な最低限のハードウェアリソースを備える汎用コンピュータであるものとして説明する。以下、ハードウェアリソースを、単にハードウェア（ＨＷ）又はリソースと表記する場合がある。

【0026】

図２は、一実施形態に係るサーバ２の一例としてのコンピュータ１０のハードウェア構成例を示すブロック図である。図２に示すように、コンピュータ１０は、ハードウェア構成として、例示的に、プロセッサ１０ａ，グラフィック処理装置１０ｂ，メモリ１０ｃ，記憶部１０ｄ，ＩＦ（Interface）部１０ｅ，ＩＯ（Input / Output）部１０ｆ，及び読取部１０ｇを備えてよい。

【0027】

プロセッサ１０ａは、種々の制御や演算を行なう演算処理装置の一例である。プロセッサ１０ａは、コンピュータ１０内の各ブロックとバス１０ｊで相互に通信可能に接続されてよい。なお、プロセッサ１０ａは、複数のプロセッサを含むマルチプロセッサであってもよいし、複数のプロセッサコアを有するマルチコアプロセッサであってもよく、或いは、マルチコアプロセッサを複数有する構成であってもよい。

【0028】

プロセッサ１０ａとしては、例えば、図１に示すＣＰＵ２ａが挙げられる。また、プロセッサ１０ａの他の例としては、ＭＰＵ，ＡＰＵ，ＤＳＰ，ＡＳＩＣ，ＦＰＧＡ等の集積回路（ＩＣ；integrated circuit）が挙げられる。なお、プロセッサ１０ａとして、これらの集積回路の２以上の組み合わせが用いられてもよい。ＭＰＵはMicro Processing Unitの略称である。ＡＰＵはAccelerated Processing Unitの略称である。ＤＳＰはDigital Signal Processorの略称であり、ＡＳＩＣはApplication Specific ICの略称であり、ＦＰＧＡはField-Programmable Gate Arrayの略称である。

【0029】

グラフィック処理装置１０ｂは、ＩＯ部１０ｆのうちのモニタ等の出力装置に対する画面表示制御を行なう。また、グラフィック処理装置１０ｂは、機械学習モデルを利用した機械学習処理及び推論処理を実行するアクセラレータとしての構成を有してもよい。グラフィック処理装置１０ｂとしては、種々の演算処理装置、例えば、ＧＰＵ（Graphics Processing Unit），ＡＰＵ，ＤＳＰ，ＡＳＩＣ又はＦＰＧＡ等の集積回路（ＩＣ）が挙げられる。

【0030】

メモリ１０ｃは、種々のデータやプログラム等の情報を格納するハードウェアの一例である。メモリ１０ｃとしては、例えばＤＲＡＭ（Dynamic Random Access Memory）等の揮発性メモリ，ＰＭ（Persistent Memory）等の不揮発性メモリ、の一方又は双方が挙げられる。

【0031】

記憶部１０ｄは、種々のデータやプログラム等の情報を格納するハードウェアの一例である。記憶部１０ｄとしては、ＨＤＤ（Hard Disk Drive）等の磁気ディスク装置，ＳＳＤ等の半導体ドライブ装置，不揮発性メモリ等の各種記憶装置が挙げられる。不揮発性メモリとしては、例えば、フラッシュメモリ，ＳＣＭ（Storage Class Memory），ＲＯＭ（Read Only Memory）等が挙げられる。

【0032】

記憶部１０ｄは、コンピュータ１０の各種機能の全部若しくは一部を実現するプログラム１０ｈ（中継プログラム）を格納してよい。

【0033】

例えば、サーバ２のプロセッサ１０ａは、記憶部１０ｄに格納されたプログラム１０ｈをメモリ１０ｃに展開して実行することにより、後述するサーバ２又は２Ａ（例えば、図３に示す制御部２４又は図１０に示す制御部２４Ａ）としての機能を実現できる。

【0034】

ＩＦ部１０ｅは、サーバ２とリソースプール３又は管理システム６との間の接続及び通信の制御等を行なう通信ＩＦの一例である。例えば、ＩＦ部１０ｅは、ＰＣＩｅ（Peripheral Component Interconnect express），イーサネット（登録商標），インフィニバンド（InfiniBand），ミリネット（Myrinet）等の、インターコネクト４の通信規格に準拠したアダプタを含んでよい。当該アダプタは、無線及び有線の一方又は双方の通信方式に対応してよい。また、当該アダプタは、例えば、ＦＣ（Fibre Channel）等の光通信に準拠してもよい。

【0035】

例えば、サーバ２は、ＩＦ部１０ｅ及びインターコネクト４を介して、リソースプール３及び管理システム６のそれぞれと相互に通信可能に接続されてよい。なお、プログラム１０ｈは、当該通信ＩＦを介して、インターコネクト４又は図示しないネットワークからコンピュータ１０にダウンロードされ、記憶部１０ｄに格納されてもよい。

【0036】

ＩＯ部１０ｆは、入力装置及び出力装置の一方又は双方を含んでよい。入力装置としては、例えば、キーボード，マウス，タッチパネル等が挙げられる。出力装置としては、例えば、モニタ，プロジェクタ，プリンタ等の表示装置が挙げられる。また、ＩＯ部１０ｆは、入力装置及び出力装置が一体となったタッチパネル等を含んでもよい。出力装置は、グラフィック処理装置１０ｂに接続されてもよい。

【0037】

読取部１０ｇは、記録媒体１０ｉに記録されたデータやプログラムの情報を読み出すリーダの一例である。読取部１０ｇは、記録媒体１０ｉを接続可能又は挿入可能な接続端子又は装置を含んでよい。読取部１０ｇとしては、例えば、ＵＳＢ（Universal Serial Bus）等に準拠したアダプタ，記録ディスクへのアクセスを行なうドライブ装置，ＳＤカード等のフラッシュメモリへのアクセスを行なうカードリーダ等が挙げられる。なお、記録媒体１０ｉにはプログラム１０ｈが格納されてもよく、読取部１０ｇが記録媒体１０ｉからプログラム１０ｈを読み出して記憶部１０ｄに格納してもよい。

【0038】

記録媒体１０ｉとしては、例示的に、磁気／光ディスクやフラッシュメモリ等の非一時的なコンピュータ読取可能な記録媒体が挙げられる。磁気／光ディスクとしては、例示的に、フレキシブルディスク，ＣＤ（Compact Disc），ＤＶＤ（Digital Versatile Disc），ブルーレイディスク，ＨＶＤ（Holographic Versatile Disc）等が挙げられる。フラッシュメモリとしては、例示的に、ＵＳＢメモリやＳＤカード等の半導体メモリが挙げられる。

【0039】

上述したコンピュータ１０のハードウェア構成は例示である。従って、コンピュータ１０内でのハードウェアの増減（例えば任意のブロックの追加や削除）、分割、任意の組み合わせでの統合、又は、バスの追加若しくは削除等は適宜行なわれてもよい。

【0040】

図１の説明に戻り、リソースプール３は、１種類以上のハードウェアのプールを備えてよい。例えば、リソースプール３は、複数のメモリ３０ａを備えるメモリプール３１，複数のＧＰＵ３０ｂを備えるＧＰＵプール３２，並びに複数のＳＳＤ３０ｃを備えるＳＳＤプール３３を備えてよい。以下、メモリプール３１，ＧＰＵプール３２及びＳＳＤプール３３をプール３０と表記する場合がある。

【0041】

各プール３０は、特定の種類のハードウェアを複数搭載した情報処理装置（第２の情報処理装置）又はコンピュータの一例である。特定の種類のハードウェアとは、プール３０がリソースプール３として提供するハードウェアである。例えば、特定の種類のハードウェアは、メモリプール３１ではメモリ３０ａであり、ＧＰＵプール３２ではＧＰＵ３０ｂであり、ＳＳＤプール３３ではＳＳＤ３０ｃである。特定の種類のハードウェアとしては、図１に示すハードウェアに限定されるものではなく、例えば、アクセラレータや、その他の種々のハードウェアが挙げられる。

【0042】

各プール３０は、例えば、特定の種類のハードウェアを多く搭載した汎用コンピュータであってもよい。或いは、各プール３０は、リソースプール３として利用されることを前提として、コンピュータを構成するハードウェアリソースのうちの少なくとも一部の実装を省略したコンピュータであってもよい。一実施形態では、各プール３０は、例えば、リソースプール３として利用されることを前提としたコンピュータであるものとして説明する。

【0043】

各プール３０は、図２に示すコンピュータ１０と同様のハードウェア構成を備えてもよい。この場合、各プール３０のコンピュータ１０内でのハードウェアの増減（例えば任意のブロックの追加や削除）、分割、任意の組み合わせでの統合、又は、バスの追加若しくは削除等は適宜行なわれてもよい。なお、メモリ３０ａは、図２に示すメモリ１０ｃと同様であってもよく、ＧＰＵ３０ｂは、図２に示すグラフィック処理装置１０ｂと同様であってもよく、ＳＳＤ３０ｃは、図２に示す記憶部１０ｄと同様であってもよい。

【0044】

インターコネクト４は、スイッチ５の切り替えに応じて、サーバ２，リソースプール３及び管理システム６を相互に通信可能に接続するネットワーク（高速インターコネクト）である。インターコネクト４は、例えば、ＰＣＩｅ，イーサネット（登録商標），インフィニバンド，ミリネット等の高速なバスアーキテクチャに対応したネットワークであってよい。

【0045】

スイッチ５は、サーバ２，リソースプール３及び管理システム６間の接続の切り替え（オン／オフ）を行なう。例えば、スイッチ５は、管理システム６からの制御に応じて、インターコネクト４におけるサーバ２，リソースプール３及び管理システム６間の接続を切り替えてよい。

【0046】

管理システム６は、リソースプール３内の複数のハードウェアリソースの管理，サーバ２への複数のハードウェアリソースの割り当て（追加）及び割り当て解除（削除）の管理，等のシステム１全体の管理を行なう。例えば、管理システム６は、サーバ２からのリソースの割り当て要求の受信に応じて、スイッチ５を制御してサーバ２にリソースを認識させることで、サーバ２へのリソースの割り当てを実現してよい。管理システム６による、ハードウェアリソースの管理、並びに、サーバ２へのハードウェアリソースの割り当ての管理は、例えば、既知の種々の手法が用いられてよい。

【0047】

〔Ｂ〕ソフトウェア構成例
図３は、図１に示すサーバ２のソフトウェア構成例を示すブロック図である。図３に示すように、サーバ２は、例示的に、メモリ部２１，アプリケーション２２，及び中継モジュール２３を備えてよい。アプリケーション２２及び中継モジュール２３は、制御部２４の一例である。

【0048】

メモリ部２１は、記憶領域の一例であり、サーバ２が利用する種々のデータを記憶する。メモリ部２１は、例えば、図２に示すメモリ１０ｃ及び記憶部１０ｄのうちの一方又は双方が有する記憶領域により実現されてもよい。

【0049】

図３に示すように、メモリ部２１は、例示的に、複数の画像２１ａ，複数の変換済画像２１ｂ，及び複数のコマンド２１ｃを記憶可能であってよい。

【0050】

アプリケーション２２は、サーバ２が有するハードウェアリソース及びリソースプール３内のハードウェアリソースの一方又は双方を利用した、種々の処理を実行するプログラム（アプリケーションプログラム）である。図３では図示を省略するが、アプリケーション２２は、サーバ２のＣＰＵ２ａにより実行されるＯＳ（Operating System）上で実行されてもよい。

【0051】

一実施形態では、アプリケーション２２は、画像２１ａを用いたＡＩタスク、例えば画像解析処理を実行するものとする。例えば、アプリケーション２２は、リソースプール３のＧＰＵプール３２を利用して、画像解析処理を行なうための機械学習モデルの訓練（機械学習処理）を実行する。訓練に先立ち、アプリケーション２２は、複数の画像２１ａの各々の画像サイズ，形式等を変換して変換済画像２１ｂを取得する前処理を行なう。そして、アプリケーション２２は、変換済画像２１ｂをＧＰＵプール３２のＧＰＵ３０ｂに送信し、ＧＰＵ３０ｂから受信する訓練結果を用いて機械学習モデルのパラメータを更新することで、機械学習モデルを訓練する。

【0052】

中継モジュール２３は、アプリケーション２２と、管理システム６又はリソースプール３との間で通信される種々のコマンド（要求及び応答）を中継するソフトウェアモジュールである。

【0053】

例えば、中継モジュール２３は、管理システム６によるアプリケーション２２へのリソースの割り当て状況に応じて、アプリケーション２２から発行されるハードウェアリソースの初期化コマンドを遅延させてよい。中継モジュール２３による中継処理の詳細は後述する。

【0054】

中継モジュール２３は、種々の形態でサーバ２に実装されてよい。一例として、中継モジュール２３は、アプリケーション２２とは別体のソフトウェアとしてサーバ２に実装されてもよい。例えば、中継モジュール２３は、ミドルウェア，ライブラリ，ドライバのいずれかに実装されてもよく、或いは、これらの２つ以上に跨がって又は分散して実装されてもよい。

【0055】

図４及び図５は、中継モジュール２３の実装例を説明するための図である。図４は、中継モジュール２３がアプリケーション２２とライブラリ２０ｃとの間、例えばミドルウェア又はライブラリ２０ｃに実装される例を示す。図５は、中継モジュール２３がドライバ２０ｂとリソース２０ａとの間、例えばドライバ２０ｂに実装される例を示す。

【0056】

なお、リソース２０ａは、サーバ２が有するハードウェアリソースであり、ＣＰＵ２ａを含んでよい。

【0057】

ドライバ２０ｂ及びライブラリ２０ｃは、アプリケーション２２がリソース２０ａを利用するために用いられるモジュールであり、これらの少なくとも一部はＯＳに実装されてもよい。

【0058】

図４又は図５に例示するように、中継モジュール２３は、アプリケーション２２の下位の階層（レイヤ）に実装されてよい。これにより、中継モジュール２３は、アプリケーション２２の動作に起因する種々のコマンド２１ｃを取得できる。図４の例では、中継モジュール２３は、アプリケーション２２又はライブラリ２０ｃが発行するコマンド２１ｃ、或いは、アプリケーション２２又はライブラリ２０ｃ宛のコマンド２１ｃを受け取る。また、図５の例では、中継モジュール２３は、ドライバ２０ｂからリソース２０ａに対する操作内容（コマンド２１ｃ）を受け取り、ドライバ２０ｂの代わりにリソース２０ａに対する操作を行なう。

【0059】

このように、中継モジュール２３は、コマンド２１ｃの取得を通じて、リソースプール３の初期化の遅延を実現する。なお、サーバ２では、既存のソフトウェアスタックを維持しつつ（換言すれば、サーバ２の他のソフトウェアコンポーネントについては既存の構成を利用しつつ）、中継モジュール２３の追加によって、一実施形態に係る手法を実現することができる。

【0060】

図３の説明に戻り、中継モジュール２３は、例示的に、初期化制御部２３ａ，割り当て判定部２３ｂ，及び計算制御部２３ｃを備えてよい。

【0061】

以下、図６を参照して、初期化制御部２３ａ，割り当て判定部２３ｂ，及び計算制御部２３ｃの処理の一例を説明する。図６は、一実施形態に係るシステム１の動作例を説明するためのシーケンス図である。

【0062】

初期化制御部２３ａは、リソースプール３内のリソース（第１リソース）の初期化に関する初期化コマンドをアプリケーション２２から取得する。初期化コマンドは、アプリケーション２２が利用するハードウェアリソースである第１リソースを初期化するための初期化要求の一例である。

【0063】

なお、以下、１つのリソースを対象とする初期化コマンドを例に挙げ、中継モジュール２３による１つ（１組）の初期化コマンドに対する中継処理の一例を説明する。複数のリソースを対象とする複数（複数組）の初期化コマンドが発行された場合、中継モジュール２３は、初期化コマンドごとに中継処理を実行してよい。

【0064】

初期化コマンドは、例えば、リソース認識コマンドと、リソース初期化コマンドとを含んでよい。

【0065】

リソース認識コマンドは、アプリケーション２２（サーバ２）が認識可能なリソースをアプリケーション２２が検出するためのコマンドである。リソース認識コマンドは、例えばアプリケーション２２又はライブラリ２０ｃから管理システム６に発行される。リソース認識コマンドには、アプリケーション２２が利用しようとするハードウェアリソースの情報、例えばメモリ３０ａ，ＧＰＵ３０ｂ，ＳＳＤ３０ｃ等の種別を示す情報が含まれてもよい。或いは、リソース認識コマンドには、リソースプール３内の特定のハードウェアリソースを示す情報が含まれてもよい。

【0066】

リソース初期化コマンドは、アプリケーション２２が認識したリソースに対する初期化を行なうコマンドである。リソース初期化コマンドは、例えばアプリケーション２２からリソースプール３のリソースに発行される。初期化コマンドは、例えばリソースに設定する初期値等の情報を含んでもよい。一例として、初期化コマンドは、リソースがＧＰＵ３０ｂである場合、ＧＰＵ３０ｂに確保するメモリサイズ等の情報を含んでもよい。

【0067】

アプリケーション２２は、初期化コマンドのうちのリソース認識コマンドを発行する（図６の処理Ｐ１）。

【0068】

初期化制御部２３ａは、リソース認識コマンドを取得すると、当該リソース認識コマンドに基づき、サーバ２にリソースを割り当てるためのリソース割り当てコマンドを、管理システム６に送信する（図６の処理Ｐ２）。リソース割り当てコマンドは、サーバ２にリソースを割り当てるための割り当て要求の一例である。なお、初期化制御部２３ａは、リソース認識コマンド（コマンド２１ｃ）をメモリ部２１に格納（記録）してよい。

【0069】

管理システム６は、初期化制御部２３ａ（サーバ２）からリソース割り当てコマンドを受信すると、リソース割り当てコマンドに基づき、リソースプール３の中からサーバ２にリソースを割り当てる。管理システム６によるリソースの割り当て処理は、上述したように、１つのリソースあたり数十秒程度の時間がかかる場合がある。

【0070】

初期化制御部２３ａは、リソース割り当てコマンドを管理システム６に送信すると、管理システム６からの完了の応答を待たずに、アプリケーション２２にリソース割り当ての完了応答を通知する（図６の処理Ｐ３）。例えば、初期化制御部２３ａは、完了応答に、割り当てられたリソースの情報として、擬似的なハードウェアリソースの情報を含めてもよい。

【0071】

完了応答をアプリケーション２２に送信すると、アプリケーション２２からリソース初期化コマンドが発行される（図６の処理Ｐ４）。

【0072】

初期化制御部２３ａは、アプリケーション２２から発行されたリソース初期化コマンドを取得すると、当該リソース初期化コマンド（コマンド２１ｃ）をメモリ部２１に格納（記録）し、アプリケーション２２にリソースの初期化処理の完了応答を通知する（図６の処理Ｐ５）。リソースの初期化処理は、初期化要求に対する初期化完了応答の一例である。

【0073】

アプリケーション２２は、初期化制御部２３ａからリソースの初期化処理の完了応答を受信すると、リソースを用いた処理、例えば機械学習処理を開始する。例えば、アプリケーション２２は、機械学習処理の前処理を実行する（図６の処理Ｐ６）。前処理は、第１リソースに実行させる計算処理の前に行なう事前処理の一例である。

【0074】

一例として、ＡＩタスクが画像認識である場合、アプリケーション２２は、前処理において、画像２１ａをメモリ部２１から読み出し、変換済画像２１ｂに変換してメモリ部２１に格納する。例えば、前処理では、画像２１ａの明るさ及び彩度等の色の調整，画像２１ａのリサイズ，画像２１ａの画素のパラメータの正規化，機械学習モデルが受け付けるデータ形式への変換等が行なわれてよい。リサイズでは、画像２１ａを機械学習モデルが受け付ける画像のサイズに合わせるための拡大又は縮小等が行なわれてよい。正規化では、画像２１ａの画素のパラメータを0～255の間に収めるための変換処理が行なわれてよい。

【0075】

例えば機械学習処理に用いられる画像２１ａの場合、複数枚の画像２１ａに対してまとめて前処理が行なわれるため、数十秒程度の処理時間がかかることがある。また、複数の画像２１ａが動画像のデータである場合、前処理では、さらに動画像のデコード処理が発生するため、さらに処理時間が増加する。

【0076】

このように、アプリケーション２２による「前処理」は、管理システム６による「リソース割り当て処理」と同程度の時間的スケール（オーダー）を持つ。

【0077】

そこで、初期化制御部２３ａは、初期化コマンドの受信に応じて、アプリケーション２２に前処理を開始させる。例えば、一実施形態に係る初期化制御部２３ａは、初期化コマンドの受信に応じて、リソース割り当ての完了応答及びリソース初期化処理の完了応答を投機的にアプリケーション２２に通知する。アプリケーション２２は、これらの完了応答の受信と、前処理の完了とに応じて計算コマンドを発行するように設計されているため、アプリケーション２２に変更を加えずに、実際のリソースの割り当て及び初期化に先んじて、前処理の開始を実現できる。

【0078】

これにより、リソース割り当て処理と前処理とを略並行して実行させることができる。従って、前処理の処理時間が十分に長い場合、前処理の処理時間により、リソース割り当て処理の処理時間を相殺することができる、換言すれば、リソース割り当て処理の処理時間を隠蔽することができる。これにより、アプリケーション２２の実行時間の短縮を実現できる。

【0079】

割り当て判定部２３ｂは、管理システム６によるリソース割り当て処理が完了したか否かを判定する。

【0080】

例えば、割り当て判定部２３ｂは、メモリ部２１にリソース認識コマンドが格納されている場合に、リソース割り当て処理が未完了であると判定してよい。また、割り当て判定部２３ｂは、管理システム６から、割り当て要求に対する割り当て完了応答であって、第１リソースをサーバ２に割り当てたことを示す割り当て完了応答を受信すると（図６の処理Ｐ７）、リソース割り当てが完了したと判定するとともに、メモリ部２１に格納されたリソース認識コマンドを削除してよい。

【0081】

初期化制御部２３ａは、割り当て判定部２３ｂによるリソース割り当て処理の完了の判定に応じて、換言すれば、割り当て完了応答の受信に応じて、割り当てられたリソースに対して、メモリ部２１に格納したリソース初期化コマンドを発行する（図６の処理Ｐ８）。なお、初期化制御部２３ａは、メモリ部２１に格納したリソース初期化コマンドを、処理Ｐ７で実際にサーバ２に割り当てられたリソースの初期化に適した形式，情報等に変換してから、割り当てられたリソースに送信してもよい。

【0082】

また、初期化制御部２３ａは、リソースから、リソース初期化コマンドに応じた初期化が完了したことを示す完了応答を受信すると（図６の処理Ｐ９）、メモリ部２１に格納されたリソース初期化コマンドを削除してよい。

【0083】

アプリケーション２２は、前処理が完了すると、計算コマンドを発行する（図６の処理Ｐ１０）。

【0084】

計算制御部２３ｃは、アプリケーション２２からの計算コマンドの取得に応じて、割り当てられたリソースに計算コマンドを送信する（図６の処理Ｐ１１）。計算コマンドは、第１リソースに実行させる計算要求の一例であり、例えば、前処理により変換された変換済画像２１ｂを含んでよい。

【0085】

例えば、計算制御部２３ｃは、アプリケーション２２から計算コマンドが発行されると、当該計算コマンド（コマンド２１ｃ）をメモリ部２１に格納（記録）してよい。

【0086】

計算制御部２３ｃは、割り当て判定部２３ｂによりリソース割り当て処理が完了したと判定され、且つ、初期化制御部２３ａが第１リソースから初期化の完了応答を受信すると、メモリ部２１に格納された計算コマンドを当該第１リソースに送信してよい。これにより、実際にサーバ２に割り当てられ、且つ、実際に初期化が完了した第１リソースに、確実に計算コマンドを渡すことができる。

【0087】

また、計算制御部２３ｃは、計算コマンドを第１リソースに送信すると、メモリ部２１から計算コマンドを削除してよい。

【0088】

以上のように、中継モジュール２３は、アプリケーション２２がリソースの初期化処理を開始後（初期化コマンドを発行後）に、サーバ２へのリソースの割り当ての開始をトリガし、割り当ての完了を待たずにアプリケーション２２に初期化の完了を通知する。そして、中継モジュール２３は、リソースの割り当て完了後に、割り当てられたリソースの初期化の開始をトリガする。このように、中継モジュール２３は、リソースの初期化を遅延させる。

【0089】

これにより、アプリケーション２２は、リソース（例えばＧＰＵ）の割り当て完了及び初期化完了を待たずに、リソースを利用した処理（例えば前処理）を開始できる。従って、リソースの割り当てが完了してから処理を開始する場合（例えば上述した（１）～（５）の処理）と比較して、アプリケーション２２の実行時間を短縮できる。また、前処理の処理時間の長さによっては、リソースの初期化の完了タイミングと、リソースを用いた計算処理の実行タイミングとを合わせる（又は近付ける）ことができ、リソースの初期化にかかる処理時間を隠蔽することが可能となる。

【0090】

〔Ｃ〕動作例
次に、図７～図９を参照して、一実施形態に係るシステム１（中継モジュール２３）の動作例を説明する。

【0091】

〔Ｃ－１〕初期化制御の動作例
図７は、一実施形態に係る中継モジュール２３の初期化制御部２３ａの動作例を説明するフローチャートである。なお、図７では、１つ（１組）の初期化コマンドがアプリケーション２２から発行される場合の動作例を示す。アプリケーション２２から複数（複数組）の初期化コマンドが発行される場合には、図７に示す処理が初期化コマンドごとに実行されてよい。

【0092】

図７に例示するように、初期化制御部２３ａは、アプリケーション２２から初期化コマンドのうちのリソース認識コマンドを取得すると（ステップＳ１）、リソース認識コマンドをメモリ部２１に格納する（ステップＳ２）。

【0093】

初期化制御部２３ａは、リソース認識コマンドに基づき、管理システム６にリソース割り当てコマンドを発行する（ステップＳ３）。

【0094】

初期化制御部２３ａは、リソース割り当ての完了を待たずに、アプリケーション２２にリソース割り当ての完了応答を通知する（ステップＳ４）。

【0095】

初期化制御部２３ａは、アプリケーション２２から初期化コマンドのうちのリソース初期化コマンドを取得すると（ステップＳ５）、リソース初期化コマンドをメモリ部２１に格納する（ステップＳ６）。

【0096】

初期化制御部２３ａは、リソース初期化の完了を待たずに、アプリケーション２２にリソース初期化の完了応答を通知する（ステップＳ７）。

【0097】

初期化制御部２３ａは、リソースの割り当ての完了を待ち合わせる（ステップＳ８，ステップＳ８でＮＯ）。

【0098】

リソースの割り当てが完了した場合（ステップＳ８でＹＥＳ）、例えば割り当て判定部２３ｂから完了済みを示す通知を取得した場合、初期化制御部２３ａは、サーバ２に割り当てられたリソースに、メモリ部２１に格納されたリソース初期化コマンドを送信する（ステップＳ９）。

【0099】

初期化制御部２３ａは、リソースの初期化の完了を待ち合わせる（ステップＳ１０，ステップＳ１０でＮＯ）。

【0100】

リソースの初期化が完了した場合（ステップＳ１０でＹＥＳ）、例えば初期化制御部２３ａがリソースから初期化の完了応答を受信した場合、初期化制御部２３ａは、メモリ部２１に格納されたリソース初期化コマンドを削除し（ステップＳ１１）、初期化制御が終了する。

【0101】

なお、図７に示すステップＳ４の処理は、ステップＳ１～Ｓ５の間のいずれのタイミングで実行されてもよい。また、図７に示すステップＳ７の処理は、ステップＳ５～Ｓ８の間のいずれのタイミングで実行されてもよい。ステップＳ７の処理がステップＳ８以降に実行されてもよいが、この場合、アプリケーション２２の実行時間の短縮効果は減少する。

【0102】

〔Ｃ－２〕割り当て判定処理の動作例
図８は、一実施形態に係る中継モジュール２３の割り当て判定部２３ｂの動作例を説明するフローチャートである。なお、図８では、初期化制御部２３ａが１つのリソース割り当てコマンドを管理システム６に送信した場合の動作例を示す。初期化制御部２３ａが複数のリソース割り当てコマンドを管理システム６に送信した場合には、図８に示す処理がリソース割り当てコマンドごとに実行されてよい。

【0103】

図８に例示するように、割り当て判定部２３ｂは、管理システム６からリソース割り当ての完了応答を受信する（ステップＳ２１）。

【0104】

割り当て判定部２３ｂは、メモリ部２１に格納されたリソース認識コマンドを削除し（ステップＳ２２）、初期化制御部２３ａに割り当て完了済みを通知して（ステップＳ２３）、割り当て判定処理が終了する。

【0105】

なお、ステップＳ２２，Ｓ２３の処理は、逆順であってもよいし、並行して実行されてもよい。

【0106】

〔Ｃ－３〕計算制御の動作例
図９は、一実施形態に係る中継モジュール２３の計算制御部２３ｃの動作例を説明するフローチャートである。なお、図９では、１つ（１組）以上の初期化コマンドにより、１つ以上のリソースがアプリケーション２２に割り当てられる場合の動作例を示す。

【0107】

計算制御部２３ｃは、アプリケーション２２から計算コマンドを取得すると（ステップＳ３１）、計算コマンドをメモリ部２１に格納する（ステップＳ３２）。

【0108】

計算制御部２３ｃは、全てのリソースの割り当てが完了したか否かを判定する（ステップＳ３３）。例えば、計算制御部２３ｃは、計算コマンドを発行したアプリケーション２２が要求した全てのリソースから割り当ての完了応答を受信した場合に、全てのリソースの割り当てが完了したと判定してもよい。或いは、計算制御部２３ｃは、計算コマンドを発行したアプリケーション２２から発行されたリソース認識コマンドがメモリ部２１に存在しない（残っていない）場合に、全てのリソースの割り当てが完了したと判定してもよい。

【0109】

少なくとも１つのリソースの割り当てが完了していない場合（ステップＳ３３でＮＯ）、計算制御部２３ｃは、全てのリソースの割り当ての完了を待ち合わせる。

【0110】

全てのリソースの割り当てが完了した場合（ステップＳ３３でＹＥＳ）、計算制御部２３ｃは、未送信のリソース初期化コマンドが有るか否かを判定する（ステップＳ３４）。

【0111】

未送信のリソース初期化コマンドが有る場合（ステップＳ３４でＹＥＳ）、計算制御部２３ｃは、初期化制御部２３ａに、割り当てられたリソースに未送信のリソース初期化コマンドを送信させ（ステップＳ３５）、処理がステップＳ３６に移行する。

【0112】

未送信のリソース初期化コマンドが無い場合（ステップＳ３４でＮＯ）、計算制御部２３ｃは、全てのリソースが初期化済みか否かを判定する（ステップＳ３６）。例えば、計算制御部２３ｃは、計算コマンドを発行したアプリケーション２２が要求した全てのリソースから初期化の完了応答を受信した場合に、全てのリソースの初期化が完了したと判定してもよい。或いは、計算制御部２３ｃは、計算コマンドを発行したアプリケーション２２から発行されたリソース初期化コマンドがメモリ部２１に存在しない（残っていない）場合に、全てのリソースの初期化が完了したと判定してもよい。

【0113】

少なくとも１つのリソースの初期化が完了していない場合（ステップＳ３６でＮＯ）、計算制御部２３ｃは、全てのリソースの初期化の完了を待ち合わせる。

【0114】

全てのリソースの初期化が完了した場合（ステップＳ３６でＹＥＳ）、計算制御部２３ｃは、サーバ２に割り当てられ、初期化が完了したリソースに計算コマンドを送信し（ステップＳ３７）、メモリ部２１に格納された計算コマンドを削除する（ステップＳ３８）。

【0115】

計算制御部２３ｃは、リソースからの計算コマンドに対する計算結果の受信を待ち合わせる（ステップＳ３９，ステップＳ３９でＮＯ）。

【0116】

リソースから計算結果を受信すると（ステップＳ３９でＹＥＳ）、計算制御部２３ｃは、アプリケーション２２に計算結果を通知し（ステップＳ４０）、計算制御が終了する。

【0117】

〔Ｄ〕変形例
一実施形態では、中継モジュール２３が、アプリケーション２２の下位の階層（レイヤ）に実装されるものとして説明したが、これに限定されるものではない。中継モジュール２３の少なくとも一部の機能は、例えば、アプリケーション２２の一部の機能として、アプリケーション２２と同じ階層（レイヤ）に実装されてもよい。

【0118】

図１０は、一実施形態の変形例に係るサーバ２Ａのソフトウェア構成例を示すブロック図であり、図１１は、一実施形態の変形例に係る初期化制御部２３Ａの実装例を説明するための図である。図１０及び図１１は、初期化制御部２３Ａがアプリケーション２２に実装される例を示す。

【0119】

図１０及び図１１に示すように、変形例に係るサーバ２Ａは、一実施形態に係るサーバ２（図３参照）と比較して、中継モジュール２３に代えて、アプリケーション２２Ａ内に初期化制御部２３Ａを備える点が異なる。初期化制御部２３Ａは、中継処理を行なう中継モジュールの一例である。初期化制御部２３Ａを備えるアプリケーション２２Ａは、制御部２４Ａの一例である。なお、システム１Ａ及びサーバ２Ａのハードウェア構成例は、図１及び図２に示すシステム１及びサーバ２のハードウェア構成例と同様であってよい。

【0120】

初期化制御部２３Ａは、一実施形態に係る初期化制御部２３ａ及び割り当て判定部２３ｂ（図３参照）の少なくとも一部の機能を備えてよい。

【0121】

変形例に係るアプリケーション２２Ａは、初期化コマンドを発行すると、初期化コマンドに対する完了応答の受信を待たずに、前処理を開始する。また、アプリケーション２２Ａは、前処理の完了後、且つ、初期化制御部２３Ａからの初期化コマンドに対する完了応答の通知後に、計算コマンドを発行する。

【0122】

初期化制御部２３Ａは、初期化コマンド、すなわちリソース認識コマンド及びリソース初期化コマンドの各々を取得すると、管理システム６及びリソースに対して、一実施形態に係る初期化制御部２３ａと同様の処理を行なってよい。

【0123】

一方、初期化制御部２３Ａは、リソース認識コマンド及びリソース初期化コマンドの各々について、アプリケーション２２Ａに対しては、完了応答の投機的な通知を抑制してよい。アプリケーション２２Ａは、初期化制御部２３Ａを備えることで、初期化コマンドの発行後、初期化制御部２３Ａからの通知を待たずに、前処理を開始するからである。

【0124】

このように、アプリケーション２２Ａでは、初期化制御部２３Ａによるリソースの初期化処理と、アプリケーション２２Ａによる前処理とが並行して動作可能である。従って、変形例では、初期化制御部２３Ａにより、完了応答の投機的な通知を省略しつつ、アプリケーション２２Ａに前処理を開始させることができる。

【0125】

なお、アプリケーション２２Ａは、リソースの割り当て及び初期化が実際に完了したことを示す完了応答を初期化制御部２３Ａから通知される。このため、前処理の完了後、且つ、完了応答の取得後にアプリケーション２２から発行される計算コマンドは、初期化制御部２３Ａにおいて中継（遅延）されずに、リソースに送信されてよい。換言すれば、初期化制御部２３Ａでは、一実施形態に係る計算制御部２３ｃの機能が省略されてもよい。

【0126】

図１２は、一実施形態の変形例に係るシステム１Ａの動作例を説明するためのシーケンス図である。

【0127】

図１２に示すように、アプリケーション２２Ａは、初期化コマンドのうちのリソース認識コマンドを発行する（図１２の処理Ｐ２１）。また、アプリケーション２２Ａは、リソース認識コマンドの発行後（又は発行前）より、前処理を開始する（処理Ｐ２２）。

【0128】

初期化制御部２３Ａは、リソース認識コマンドを取得すると、当該リソース認識コマンドに基づき、サーバ２Ａにリソースを割り当てるためのリソース割り当てコマンドを、管理システム６に送信する（図１２の処理Ｐ２３）。なお、初期化制御部２３Ａは、リソース認識コマンド（コマンド２１ｃ）をメモリ部２１に格納（記録）してもよい。

【0129】

管理システム６は、初期化制御部２３Ａ（サーバ２）からリソース割り当てコマンドを受信すると、リソース割り当てコマンドに基づき、リソースプール３の中からサーバ２Ａにリソースを割り当てる。

【0130】

初期化制御部２３Ａは、管理システム６によるリソース割り当て処理が完了したか否かを判定する。当該判定手法は、一実施形態に係る割り当て判定部２３ｂと同様であってよい。

【0131】

初期化制御部２３Ａは、管理システム６から、リソースの割り当て完了応答を受信すると（図１２の処理Ｐ２４）、リソース割り当てが完了したと判定する。なお、初期化制御部２３Ａは、メモリ部２１に格納されたリソース認識コマンドを削除してもよい。

【0132】

初期化制御部２３Ａは、リソースの割り当て完了応答をアプリケーション２２Ａに通知する（図１２の処理Ｐ２５）。

【0133】

アプリケーション２２Ａは、完了応答を取得すると、リソース初期化コマンドを発行する（図１２の処理Ｐ２６）。

【0134】

初期化制御部２３Ａは、アプリケーション２２Ａから発行されたリソース初期化コマンドを取得すると、当該リソース初期化コマンドをリソースに送信する（図１２の処理Ｐ２７）。なお、初期化制御部２３Ａは、当該リソース初期化コマンド（コマンド２１ｃ）をメモリ部２１に格納（記録）してもよい。

【0135】

初期化制御部２３Ａは、リソースから、リソース初期化コマンドに応じた初期化が完了したことを示す完了応答を受信すると（図１２の処理Ｐ２８）、アプリケーション２２Ａにリソースの初期化処理の完了応答を通知する（図１２の処理Ｐ２９）。なお、初期化制御部２３Ａは、メモリ部２１に格納されたリソース初期化コマンドを削除してもよい。

【0136】

アプリケーション２２Ａは、前処理が完了し、且つ、初期化制御部２３Ａからリソースの初期化処理の完了応答を取得すると、計算コマンドを発行する（図１２の処理Ｐ３０）。計算コマンドは、前処理で変換した変換済画像２１ｂを含んでよい。

【0137】

以上のように、変形例に係るシステム１Ａによっても、リソース割り当て処理と前処理とを略並行して実行させることができる。従って、前処理の処理時間が十分に長い場合、前処理の処理時間により、リソース割り当て処理の処理時間を相殺することができる、換言すれば、リソース割り当て処理の処理時間を隠蔽することができる。これにより、アプリケーション２２Ａの実行時間の短縮を実現できる。

【0138】

〔Ｅ〕その他
上述した実施形態及び変形例に係る技術は、以下のように変形、変更して実施することができる。

【0139】

例えば、図３に示す中継モジュール２３が備える機能ブロック２３ａ～２３ｃは、任意の組み合わせで併合してもよく、それぞれ分割してもよい。また、例えば、図１０に示す初期化制御部２３Ａの機能は、分割してもよい。

【0140】

また、図４及び図５に示す例では、中継モジュール２３がサーバ２に実装される例を示すが、これに限定されるものではない。中継モジュール２３は、例えば、リソースプール３の少なくとも１つのプール３０を実現するコンピュータ、一例として、アプリケーション２２が利用する第１リソースを備えるコンピュータ（第２の情報処理装置）に実装されてもよい。

【0141】

また、一実施形態及び変形例では、アプリケーション２２又は２２Ａがリソース認識コマンド及びリソース初期化コマンドを発行するものとしたが、これに限定されるものではない。例えば、ライブラリ２０ｃがリソース認識コマンド及びリソース初期化コマンドの一方又は双方を発行してもよい。

【0142】

さらに、一実施形態及び変形例では、アプリケーション２２又は２２Ａが実行されている状態で（実行中に）、サーバ２又は２Ａにリソースを追加する運用形態を例に挙げたが、運用形態はこれに限定されるものではない。

【0143】

例えば、アプリケーション２２又は２２Ａの実行前にリソースをサーバ２又は２Ａに追加し、リソースの追加後に、アプリケーション２２又は２２Ａの実行を開始する、という運用形態においても、一実施形態又は変形例に係る手法を適用可能である。

【0144】

このような運用形態では、サーバ２又は２Ａへのリソースの割り当てが完了している。このため、中継モジュール２３又は初期化制御部２３Ａは、アプリケーション２２又は２２Ａからのリソース認識コマンドに対して、実際に第１リソースの割り当てが完了したことを示す完了応答をアプリケーション２２又は２２Ａに通知すればよい。完了応答の通知後の処理は、一実施形態又は変形例に係る処理と同様である。

【0145】

このような運用形態においても、アプリケーション２２は、リソース初期化コマンドの完了応答の受信前に前処理を開始でき、アプリケーション２２Ａは、リソース認識コマンドの送信後（又は送信前）に前処理を開始できる。従って、アプリケーション２２又は２２Ａの実行時間の短縮を実現できる。

【0146】

〔Ｆ〕付記
以上の実施形態及び変形例に関し、さらに以下の付記を開示する。

【0147】

（付記１）
アプリケーションが利用するハードウェアリソースである第１リソースを初期化するための初期化要求を、前記アプリケーションから取得し、
前記初期化要求に基づき、前記アプリケーションが実行される第１のコンピュータに前記第１リソースを割り当てるための割り当て要求を、複数の前記ハードウェアリソースを管理する管理システムに送信し、
前記アプリケーションに、前記第１リソースに実行させる計算処理の前に行なう事前処理を開始させ、
前記管理システムからの前記割り当て要求に対する割り当て完了応答であって、前記複数のハードウェアリソースから前記第１リソースを前記第１のコンピュータに割り当てたことを示す前記割り当て完了応答の受信に応じて、前記第１リソースに前記初期化要求を送信し、
前記事前処理の完了後の前記アプリケーションからの前記計算処理の計算要求の取得に応じて、前記第１リソースに前記計算要求を送信する、
中継処理をコンピュータに実行させる、中継プログラム。

【0148】

（付記２）
前記第１リソースに前記計算要求を送信する処理は、前記アプリケーションから前記計算要求を取得し、且つ、前記第１リソースから前記初期化要求に応じた初期化が完了したことを示す完了応答を受信した場合に、前記第１リソースに前記計算要求を送信する、処理を含む、
付記１に記載の中継プログラム。

【0149】

（付記３）
前記第１のコンピュータである前記コンピュータに、前記アプリケーションよりも下位のレイヤにおいて前記中継処理を実行させ、
前記アプリケーションに前記事前処理を開始させる処理は、前記初期化要求に対する初期化完了応答を前記アプリケーションに送信する、処理を含む、
付記１又は付記２に記載の中継プログラム。

【0150】

（付記４）
前記第１のコンピュータである前記コンピュータに、前記アプリケーションの一部の機能として、前記中継処理を実行させる、
付記１又は付記２に記載の中継プログラム。

【0151】

（付記５）
前記複数のハードウェアリソースのうちの前記第１リソースを備える第２のコンピュータである前記コンピュータに、前記中継処理を実行させる、
付記１又は付記２に記載の中継プログラム。

【0152】

（付記６）
アプリケーションが利用するハードウェアリソースである第１リソースを初期化するための初期化要求を、前記アプリケーションから取得し、
前記初期化要求に基づき、前記アプリケーションが実行される第１のコンピュータに前記第１リソースを割り当てるための割り当て要求を、複数の前記ハードウェアリソースを管理する管理システムに送信し、
前記アプリケーションに、前記第１リソースに実行させる計算処理の前に行なう事前処理を開始させ、
前記管理システムからの前記割り当て要求に対する割り当て完了応答であって、前記複数のハードウェアリソースから前記第１リソースを前記第１のコンピュータに割り当てたことを示す前記割り当て完了応答の受信に応じて、前記第１リソースに前記初期化要求を送信し、
前記事前処理の完了後の前記アプリケーションからの前記計算処理の計算要求の取得に応じて、前記第１リソースに前記計算要求を送信する、
中継処理をコンピュータが実行する、中継方法。

【0153】

（付記７）
前記第１リソースに前記計算要求を送信する処理は、前記アプリケーションから前記計算要求を取得し、且つ、前記第１リソースから前記初期化要求に応じた初期化が完了したことを示す完了応答を受信した場合に、前記第１リソースに前記計算要求を送信する、処理を含む、
付記６に記載の中継方法。

【0154】

（付記８）
前記第１のコンピュータである前記コンピュータが、前記アプリケーションよりも下位のレイヤにおいて前記中継処理を実行し、
前記アプリケーションに前記事前処理を開始させる処理は、前記初期化要求に対する初期化完了応答を前記アプリケーションに送信する、処理を含む、
付記６又は付記７に記載の中継方法。

【0155】

（付記９）
前記第１のコンピュータである前記コンピュータが、前記アプリケーションの一部の機能として、前記中継処理を実行する、
付記６又は付記７に記載の中継方法。

【0156】

（付記１０）
前記複数のハードウェアリソースのうちの前記第１リソースを備える第２のコンピュータである前記コンピュータが、前記中継処理を実行する、
付記６又は付記７に記載の中継方法。

【0157】

（付記１１）
アプリケーションが利用するハードウェアリソースである第１リソースを初期化するための初期化要求を、前記アプリケーションから取得し、
前記初期化要求に基づき、前記アプリケーションが実行される第１の情報処理装置に前記第１リソースを割り当てるための割り当て要求を、複数の前記ハードウェアリソースを管理する管理システムに送信し、
前記アプリケーションに、前記第１リソースに実行させる計算処理の前に行なう事前処理を開始させ、
前記管理システムからの前記割り当て要求に対する割り当て完了応答であって、前記複数のハードウェアリソースから前記第１リソースを前記第１の情報処理装置に割り当てたことを示す前記割り当て完了応答の受信に応じて、前記第１リソースに前記初期化要求を送信し、
前記事前処理の完了後の前記アプリケーションからの前記計算処理の計算要求の取得に応じて、前記第１リソースに前記計算要求を送信する、
中継処理を実行する制御部を備える、情報処理装置。

【0158】

（付記１２）
前記制御部は、前記第１リソースに前記計算要求を送信する処理において、前記アプリケーションから前記計算要求を取得し、且つ、前記第１リソースから前記初期化要求に応じた初期化が完了したことを示す完了応答を受信した場合に、前記第１リソースに前記計算要求を送信する、
付記１１に記載の情報処理装置。

【0159】

（付記１３）
前記情報処理装置は、前記第１の情報処理装置であり、
前記制御部は、
前記アプリケーションよりも下位のレイヤに実装される中継モジュールにより前記中継処理を実行し、
前記アプリケーションに前記事前処理を開始させる処理において、前記初期化要求に対する初期化完了応答を前記アプリケーションに送信する、
付記１１又は付記１２に記載の情報処理装置。

【0160】

（付記１４）
前記情報処理装置は、前記第１の情報処理装置であり、
前記制御部は、前記アプリケーションの一部の機能として実装される中継モジュールにより前記中継処理を実行する、
付記１１又は付記１２に記載の情報処理装置。

【0161】

（付記１５）
前記情報処理装置は、前記複数のハードウェアリソースのうちの前記第１リソースを備える第２の情報処理装置である、
付記１１又は付記１２に記載の情報処理装置。

【0162】

（付記１６）
アプリケーションを実行する第１の情報処理装置と、
複数のハードウェアリソースを備える複数の第２の情報処理装置と、
前記複数のハードウェアリソースを管理する管理システムと、
中継処理を実行する制御部と、を備え、
前記制御部は、
前記アプリケーションが利用するハードウェアリソースである第１リソースを初期化するための初期化要求を、前記アプリケーションから取得し、
前記初期化要求に基づき、前記第１の情報処理装置に前記第１リソースを割り当てるための割り当て要求を、前記管理システムに送信し、
前記アプリケーションに、前記第１リソースに実行させる計算処理の前に行なう事前処理を開始させ、
前記管理システムからの前記割り当て要求に対する割り当て完了応答であって、前記複数のハードウェアリソースから前記第１リソースを前記第１の情報処理装置に割り当てたことを示す前記割り当て完了応答の受信に応じて、前記第１リソースに前記初期化要求を送信し、
前記事前処理の完了後の前記アプリケーションからの前記計算処理の計算要求の取得に応じて、前記第１リソースに前記計算要求を送信する、
情報処理システム。

【0163】

（付記１７）
前記制御部は、前記第１リソースに前記計算要求を送信する処理において、前記アプリケーションから前記計算要求を取得し、且つ、前記第１リソースから前記初期化要求に応じた初期化が完了したことを示す完了応答を受信した場合に、前記第１リソースに前記計算要求を送信する、
付記１６に記載の情報処理システム。

【0164】

（付記１８）
前記制御部は、
前記第１の情報処理装置に備えられ、
前記アプリケーションよりも下位のレイヤに実装される中継モジュールにより前記中継処理を実行し、
前記アプリケーションに前記事前処理を開始させる処理において、前記初期化要求に対する初期化完了応答を前記アプリケーションに送信する、
付記１６又は付記１７に記載の情報処理システム。

【0165】

（付記１９）
前記制御部は、
前記第１の情報処理装置に備えられ、
前記アプリケーションの一部の機能として実装される中継モジュールにより前記中継処理を実行する、
付記１６又は付記１７に記載の情報処理システム。

【0166】

（付記２０）
前記制御部は、前記複数の第２の情報処理装置のうちの前記第１リソースを備える前記第２の情報処理装置に備えられる、
付記１６又は付記１７に記載の情報処理システム。

【符号の説明】

【0167】

１、１Ａ システム
１０ コンピュータ
２、２Ａ サーバ
２０ａ リソース
２０ｂ ドライバ
２０ｃ ライブラリ
２１ メモリ部
２１ａ 画像
２１ｂ 変換済画像
２１ｃ コマンド
２２、２２Ａ アプリケーション
２３ 中継モジュール
２３ａ、２３Ａ 初期化制御部
２３ｂ 割り当て判定部
２３ｃ 計算制御部
２４、２４Ａ 制御部
３ リソースプール
３０ プール
３０ａ メモリ
３０ｂ ＧＰＵ
３０ｃ ＳＳＤ
３１ メモリプール
３２ ＧＰＵプール
３３ ＳＳＤプール
４ インターコネクト
５ スイッチ
６ 管理システム

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】