特許6051733IP Force 特許公報全文掲載

技術分野

制御システム等

発明が解決しようとする課題[発明の詳細な説明]から抜粋

GCは、特定のプロセスがメモリ領域を参照する予定があるとしても、プロセスが参照していないと判断する場合には、該メモリ領域を回収する。そのため、プロセスが該メモリ領域におけるデータを処理する場合に、メモリ管理機能は、再び、ディスクから該メモリ領域にデータを読み込む。プロセスとGCとの間において競合が発生するため、システムの処理性能は、劣化する。 図17と図18とを参照しながら、プロセスとGCとの間において競合が発生することに起因する性能劣化の例について説明する。図17は、本発明に関連する分散データストアが有するデータの一例を概念的に表す図である。図18は、本発明に関連するジョブに関する定義の一例を概念的に表す図である。 分散データストアは、処理すべきデータ(以降、「処理データ」と表す)を有する。
図17において、処理データは、A、B、C、V、W、X、Y、及び、Zである。各ノードは、入出力インターフェースを介して、処理データを保持する。 また、分散システムは、1つのデータを、複数のノードにおいて重複して保持することもできる。その場合、分散システムは、あるノードにおいて障害が発生する場合でも、リモートノードが保持するデータから、自ノードにデータを復元する。この例において、分散システムは、1つのデータに対して、1つの複製データを保持する。 図17において、データ(A)は、処理データAの複製であることを表す。即ち、Node−3(ノード−3)におけるディスク型データストアは、処理データAの複製と、処理データBの複製とを記憶する。以下の説明においては、オリジナルのデータ(例えば、データセットA)をマスターデータと表し、複製したデータ(例えば、データセット(A))を複製データと表すこともある。 データセットA、B、Cは、バッチ処理の処理対象データであり、それぞれのデータ間に依存関係が無いとする。例えば、データセットA、B、Cは、店舗エリアA、店舗エリアB、店舗エリアCにおける商品の取引データである。以下の説明において、データセットA、B、及び、Cが、データセットX、Y、及び、Zに依存するとする。例えば、データセットAがデータセットXに依存し、データセットBがデータセットX、及び、Yに依存し、データセットCがデータセットX、Y、及び、Zに依存するとする
データセットA、B、Cのデータサイズは、それぞれ、図17におけるNode−1乃至Node−3のオンメモリ型データストアが確保可能なメモリサイズを総和した値よりも極めて大きいとする。ただし、データセットA、B、及び、Cのデータサイズは、ディスク型データストアが確保可能なディスク容量の総和よりは十分に小さいとする。 データセットX、Y、及び、Zは、それぞれのデータ間に依存性が無いとする。例えば、データセットX、Y、及び、Zは、商品マスターデータのデータセットである。 さらに、データセットX、Y、Z、V、及び、Wのデータサイズを総和したサイズは、Node−1乃至Node−3におけるオンメモリ型データストアが確保可能なメモリサイズの総和よりも大きく、かつ、全てのデータは、オンメモリ型データストアに配置できないとする。さらに、本例では、データセットXとYとを合わせたデータサイズは、各ノードにおける各々のオンメモリ型データストアが格納可能な上限サイズであるとする。 図17を参照すると、オンメモリ型データストア(図17における「メモリ」の列にある値が記憶するデータを表す)は、データセットX、Yを有し、ディスク型データストア(図17における「ディスク」の列にある値が記憶するデータを表す)は、データセットZ、V、Wを有する。 ジョブ制御は、図18に示すjob1のジョブ定義に基づき、job1に含まれるstep1(図18におけるstep1−1と、step1−2と、step1−3とを合わせた処理と等価)の処理をNode−1と、Node−2と、Node−3とに振り分ける。ジョブ制御は、分散データストアが保持するデータの配置情報を参照することにより、可能な限り処理対象のデータが存在するノードに、分割する処理を割り当てる。 図17を参照すると、例えば、処理データセット(以降、単に「データセット」と表す)AのマスターデータがNode−2に存在するため、Node−2は、step1−2が処理を開始する。Node−1は、データセットBのマスターデータを有するため、step1−1を処理する。Node−2は、データセットCのマスターデータを有する一方で、Node−1は、データセットCの複製(コピー)データを有する。しかしながら、Node−1は、step1−1を処理し、Node−2は、step1−2を処理する。負荷分散のため、Node−3は、残りのstep1−3を処理する。 しかしながら、Node−3は、分散データストアにデータセットCを持たないため、マスターデータを有するNode−2から、ネットワークを介して、データセットCをコピーする。 Node−2は、step1−2において、ディスク型データストアからデータセットAを読み取る。次に、Node−2は、データセットAがデータセットXに依存するため、読み込んだデータセットAと、Node−2のオンメモリ型データストアにおけるデータセットXとを結合し、結合したデータを処理する。 Node−1は、step1−1において、Node−1のディスク型データストアからデータセットBを読み取る。次に、Node−1は、step1−1において、データセットBがデータセットXとYとに依存するため、読み込んだデータセットAと、Node−1のオンメモリ型データストアにおけるデータセットX、Yとを結合し、結合したデータを処理する。しかしながら、Node−1におけるオンメモリ型データストアは、データセットYを有さないため、ネットワークを介して、Node−3にあるデータセットYを参照する。 Node−3は、step1−3において、Node−3のディスク型データストアからデータセットCをと読み取る。次に、Node−3は、step1−3において、データセットCがデータセットX、Y、及び、Zに依存するため、読み取ったデータセットCと、Node−3のオンメモリ型データストアが有するデータセットX、Y、及び、Zとの結合処理を行う。しかしながら、Node−3におけるオンメモリ型データストアは、データセットZを有さない。 そのため、Node−3は、step1−3において、データセットZに含まれるデータに対するアクセスが発生するたびに、Node−3のディスク型データストアからデータを読み込む。そのため、Node−3は、step1−3において処理性能が劣化し、その結果、job1全体の処理性能も劣化する。 さらに、Node−3は、データセットZの全てを、オンメモリ型データストアに保持できない。加えて、Node−3は、オンメモリ型データストアに、データセットXおよびYを既に有する。そのため、Node−3のオンメモリ型データストアは、データセットZを記憶する空き容量を持たない。その結果、Node−3は、データセットZを、空き容量が存在するNode−1のオンメモリ型データストアに格納する。 データ管理部は、データセットY、または、Zに含まれるデータの中で、参照時刻が最も古いデータを、ディスク型データストアにパージする。しかしながら、該データを処理するノードは、パージされたデータを読み込むこともある。その処理は、追加的にディスクに対する入出力を伴うため、step1−3およびjob1の処理性能は、劣化する。 上述した説明においては、分散データストアを実現する方法として、各ノードは、1つのハッシュキーに関連付けされている。しかしながら、コンテキストハッシュ法における分散ハッシュテーブルによって、複数のノードが、1つのハッシュキーを共有することもある。 そこで、本発明の主たる目的は、処理性能の劣化を低減する制御システム等を提供することである。

課題を解決するための手段[発明の詳細な説明]から抜粋

前述の目的を達成するために、本発明に係る制御システムは、以下の構成を備えることを特徴とする。
【発明の効果】
本発明に係る制御システム等によれば、処理性能の劣化を低減することできる。

この発明についての権利主張の範囲[特許請求の範囲]

知財ポータルサイト IP Force にログインして確認する (無料)

この特許公報に記載されている図面[図面の簡単な説明]から抜粋

【図1】本発明の第1の制御システムの構成を示すブロック図である。

【図2】本発明の第1の制御システムにおける処理の流れを示すフローチャートである。

【図3】本発明の第1の実施形態における参照データを特定する元となるデータの一例を概念的に示す図である。

【図4A】本発明の第1の実施形態における参照データを特定する元となるデータの一例を概念的に示す図である。

【図4B】本発明の第1の実施形態における参照データを特定する元となるデータの一例を概念的に示す図である。

【図5】本発明の第2の制御システムの構成を示すブロック図である。

【図6】本発明の第2の制御システムにおける処理の流れを示すフローチャートである。

【図7】本発明の第2の記憶部におけるデータの一例を概念的に示す図である。

【図8】本発明の第2の記憶部におけるジョブ実行履歴の一例を概念的に示す図である。

【図9】本発明の第3の制御システムの構成を示すブロック図である。

【図10】本発明の第3の制御システムにおける処理の流れを示すフローチャートである。

【図11】本発明の第4の制御システムの構成を示すブロック図である。

【図12】本発明の第4の制御システムにおける処理の流れを示すフローチャートである。

【図13】本発明の第4の管理部における処理の概念図である。

【図14】本発明の各制御システムを実現可能な計算処理装置のハードウェア構成を、概略的に示すブロック図である。

【図15】本発明に関連する分散バッチ実行基盤におけるシステムの構成を示すブロック図である。

【図16】本発明に関連するデータ管理部が管理するメタデータの一例を概念的に表す図である。

【図17】本発明に関連する分散データストアが有するデータの一例を概念的に表す図である。

【図18】本発明に関連するジョブに関する定義の一例を概念的に表す図である。

選択図 図1出願人が指定した本件の代表的な図

1 制御システム   2 命令部   3 ガベッジコレクタ   4 メモリ   5 メモリ管理部   6 計算処理システム   7 制御システム   8 命令部   9 記憶部   10 計算処理システム   11 制御システム   12 命令部   13 記憶部   14 解析部   15 計算処理システム   16 制御システム   17 管理部   18 計算処理システム   20 計算処理装置   21 CPU   22 メモリ   23 ディスク   24 不揮発性記録媒体   25 入力装置   26 出力装置   30 分散バッチ実行基盤   31 分散データストア   32 分散並列システム   33 アプリケーション管理部   34 バッチ実行管理機構部   35 ジョブ制御部   36 管理インターフェース   37 アプリケーションリポジトリ   38 ジョブリポジトリ   39 データ管理部

全ての図面はログインすると無料で閲覧できます。ログイン・ユーザー登録

[広告欄]

ログインすれば広告は減ります

ログインすれば広告は減ります