(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024038033
(43)【公開日】2024-03-19
(54)【発明の名称】系統メタデータの生成、アクセス、及び表示
(51)【国際特許分類】
G06F 16/25 20190101AFI20240312BHJP
【FI】
G06F16/25
【審査請求】有
【請求項の数】20
【出願形態】OL
【外国語出願】
(21)【出願番号】P 2023216403
(22)【出願日】2023-12-22
(62)【分割の表示】P 2021191498の分割
【原出願日】2017-12-01
(31)【優先権主張番号】62/428,860
(32)【優先日】2016-12-01
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】509123208
【氏名又は名称】アビニシオ テクノロジー エルエルシー
(74)【代理人】
【識別番号】100079108
【弁理士】
【氏名又は名称】稲葉 良幸
(74)【代理人】
【識別番号】100109346
【弁理士】
【氏名又は名称】大貫 敏史
(74)【代理人】
【識別番号】100117189
【弁理士】
【氏名又は名称】江口 昭彦
(74)【代理人】
【識別番号】100134120
【弁理士】
【氏名又は名称】内藤 和彦
(72)【発明者】
【氏名】クレメンス,デイビッド
(72)【発明者】
【氏名】ラディヴォイェヴィック,ドゥサン
(72)【発明者】
【氏名】ガラルノー,ネイル
(57)【要約】 (修正有)
【課題】系統メタデータを生成し、それにアクセスし表示するためのデータ構造及び方法を提供する。
【解決手段】方法は、データソースからノード及び辺を記述するメタデータの一部を受信し、メタデータの一部を表すデータ構造のインスタンスを生成し、データ構造のインスタンスをランダムアクセスメモリ内に記憶し、少なくとも1つの特定のデータ要素の識別を含むクエリを受信し、特定のデータ要素の系統の表現をコンピュータシステムのディスプレイに表示させるためにデータ構造の少なくとも1つのインスタンスを使用する。データ構造の少なくとも1つのインスタンスは、対応するノードを識別する識別値、対応するノードのそれぞれの特性を表す1つ又は複数の特性値、及びそれぞれの識別値に対する1つ又は複数のポインタを含み、各ポインタは対応するそれぞれの識別値によって識別されるノードに関連する辺を表す。
【選択図】
図1A
【特許請求の範囲】
【請求項1】
データ処理機器によって実行される方法であって、
データソースからメタデータの一部を受信することであって、前記メタデータの一部はノード及び辺を記述し、前記辺の少なくとも一部は或るノードに対する別のノードの影響をそれぞれ表し、各辺は単一の方向を有する、受信すること、
前記メタデータの一部を表すデータ構造のインスタンスを生成することであって、前記データ構造の少なくとも1つのインスタンスは
対応するノードを識別する識別値、
前記対応するノードのそれぞれの特性を表す1つ又は複数の特性値、及び
それぞれの識別値に対する1つ又は複数のポインタであって、各ポインタは前記対応するそれぞれの識別値によって識別されるノードに関連する辺を表す、1つ又は複数のポインタ
を含む、生成すること、
前記データ構造の前記インスタンスをランダムアクセスメモリ内に記憶すること、
少なくとも1つの特定のデータ要素の識別を含むクエリを受信すること、及び
前記特定のデータ要素の系統の表現をコンピュータシステムのディスプレイに表示させるために前記データ構造の少なくとも1つのインスタンスを使用すること
を含む、方法
【請求項2】
前記クエリが系統の種類の識別、並びに前記識別される系統の種類にどの種類のノード及び辺が関連するのかを識別するウォークプランを含む、請求項1に記載の方法。
【請求項3】
前記ウォークプランが、対応するノードのそれぞれの特性を表す1つ又は複数の特性値に基づいて辺をたどり又は収集するための条件を含む、請求項2に記載の方法。
【請求項4】
前記識別値の少なくとも1つが、前記クエリ内で識別される前記特定のデータ要素に対応するノードを表す、請求項1~3の何れか一項に記載の方法。
【請求項5】
前記データ処理機器が前記クエリに対する応答を返すように構成され、前記応答は前記特定のデータ要素の系統を記述するメタデータを含む、請求項1~4の何れか一項に記載の方法。
【請求項6】
前記特定のデータ要素の系統を記述する前記メタデータがノード及び辺のシーケンスを記述するメタデータを含み、前記シーケンスの前記ノードのうちの1つは前記特定のデータ要素を表す、請求項5に記載の方法。
【請求項7】
前記1組のメタデータがそれぞれのノードに関連するテキスト文字列を含み、前記データ構造が前記テキスト文字列の少なくとも1つを省く、請求項1~6の何れか一項に記載の方法。
【請求項8】
前記データ構造の前記インスタンスを生成することが、系統に関連するメタデータを識別すること及び前記識別したメタデータを前記データ構造によって定められる形式で記憶することを含む、請求項1~7の何れか一項に記載の方法。
【請求項9】
前記ポインタの少なくとも1つが前記ランダムアクセスメモリの一部に関連するメモリ位置への参照を含み、前記メモリ位置は前記識別値の1つに対応するノードの位置に対応する、請求項1~8の何れか一項に記載の方法。
【請求項10】
前記クエリを受信することに応答し、
前記クエリによって識別される前記特定のデータ要素に対応する少なくとも1つの識別情報を含む前記データ構造のインスタンスにアクセスすることを含む、前記データ構造を使用して記憶されるデータにアクセスすること、及び
前記データ構造を使用して記憶される前記データに基づいて前記クエリに対する応答を生成することであって、前記応答は系統メタデータを含み、前記系統メタデータはノード及び辺のシーケンスを記述し、前記シーケンスの前記ノードのうちの1つは前記特定のデータ要素を表す、生成すること
を含む、請求項1~9の何れか一項に記載の方法。
【請求項11】
前記データ構造の第1のインスタンスにアクセスすることであって、前記データ構造の前記第1のインスタンスは前記クエリによって識別される前記特定のデータ要素に対応する第1の識別情報によって識別される、アクセスすること、
前記第1の識別情報に関連するポインタにアクセスすることであって、前記ポインタは前記第1の識別情報に関連する、アクセスすること、
前記データ構造の第2のインスタンスにアクセスすることであって、前記データ構造の前記第2のインスタンスは第2の識別情報によって識別され、前記第2の識別情報は前記第1の識別情報に関連する前記ポインタによって参照されるメモリ位置に記憶されている、アクセスすること、及び
前記データ構造の前記第2のインスタンスのデータを収集すること
を含み、
前記応答が前記第2の識別情報に関連するノードを表すデータを含む、
請求項1~10の何れか一項に記載の方法。
【請求項12】
スケジュールされた間隔で前記データソースに要求を伝送することを含み、前記メタデータの一部は前記要求の1つに応答して前記データソースから受信される、請求項1~11の何れか一項に記載の方法。
【請求項13】
実行可能命令を記憶する少なくとも1つの非一時的コンピュータ可読記憶媒体と、
前記命令を実行するように構成される1個又は複数個のプロセッサと
を含むシステムであって、
前記命令を実行することが、
データソースからメタデータの一部を受信することであって、前記メタデータの一部はノード及び辺を記述し、前記辺の少なくとも一部は或るノードに対する別のノードの影響をそれぞれ表し、各辺は単一の方向を有する、受信すること、
前記メタデータの一部を表すデータ構造のインスタンスを生成することであって、前記データ構造の少なくとも1つのインスタンスは
対応するノードを識別する識別値、
前記対応するノードのそれぞれの特性を表す1つ又は複数の特性値、及び
それぞれの識別値に対する1つ又は複数のポインタであって、各ポインタは前記対応するそれぞれの識別値によって識別されるノードに関連する辺を表す、1つ又は複数のポインタ
を含む、生成すること、
前記データ構造の前記インスタンスをランダムアクセスメモリ内に記憶すること、
少なくとも1つの特定のデータ要素の識別を含むクエリを受信すること、及び
前記特定のデータ要素の系統の表現をコンピュータシステムのディスプレイに表示させるために前記データ構造の少なくとも1つのインスタンスを使用すること
を引き起こす、システム。
【請求項14】
非一時的コンピュータ可読記憶装置であって、
実行されるとき、
データソースからメタデータの一部を受信することであって、前記メタデータの一部はノード及び辺を記述し、前記辺の少なくとも一部は或るノードに対する別のノードの影響をそれぞれ表し、各辺は単一の方向を有する、受信すること、
前記メタデータの一部を表すデータ構造のインスタンスを生成することであって、前記データ構造の少なくとも1つのインスタンスは
対応するノードを識別する識別値、
前記対応するノードのそれぞれの特性を表す1つ又は複数の特性値、及び
それぞれの識別値に対する1つ又は複数のポインタであって、各ポインタは前記対応するそれぞれの識別値によって識別されるノードに関連する辺を表す、1つ又は複数のポインタ
を含む、生成すること、
前記データ構造の前記インスタンスをランダムアクセスメモリ内に記憶すること、
少なくとも1つの特定のデータ要素の識別を含むクエリを受信すること、及び
前記特定のデータ要素の系統の表現をコンピュータシステムのディスプレイに表示させるために前記データ構造の少なくとも1つのインスタンスを使用すること
を含む操作を実行する命令を記憶する、非一時的コンピュータ可読記憶装置。
【請求項15】
システムであって、
データソースからメタデータの一部を受信するための手段であって、前記メタデータの一部はノード及び辺を記述し、前記辺の少なくとも一部は或るノードに対する別のノードの影響をそれぞれ表し、各辺は単一の方向を有する、受信するための手段と、
前記メタデータの一部を表すデータ構造のインスタンスを生成するための手段であって、前記データ構造の少なくとも1つのインスタンスは
対応するノードを識別する識別値、
前記対応するノードのそれぞれの特性を表す1つ又は複数の特性値、及び
それぞれの識別値に対する1つ又は複数のポインタであって、各ポインタは前記対応するそれぞれの識別値によって識別されるノードに関連する辺を表す、1つ又は複数のポインタ
を含む、生成するための手段と、
前記データ構造の前記インスタンスをランダムアクセスメモリ内に記憶するための手段と、
少なくとも1つの特定のデータ要素の識別を含むクエリを受信するための手段と、
前記特定のデータ要素の系統の表現をコンピュータシステムのディスプレイに表示させるために前記データ構造の少なくとも1つのインスタンスを使用するための手段と
を含む、システム。
【請求項16】
データ処理機器によって実行される方法であって、
少なくとも1つの特定のデータ要素の識別を含むクエリを受信すること、
系統の種類の識別を受信すること、
前記識別される系統の種類にどの種類のノード及び辺が関連するのかを識別するウォークプランを受信することであって、
前記ウォークプランは、1)辺の種類に対応する少なくとも1つの識別情報、2)前記辺の種類に関する横断方向に対応する少なくとも1つの識別情報、及び3)前記辺を横断するとき取るべきアクションに対応する少なくとも1つのインジケータ
を含む、ウォークプランを受信すること、
前記ウォークプランに基づいてノード及び辺を横断すること、及び
前記ノード及び辺の前記横断に基づいて、前記特定のデータ要素の系統の表現をコンピュータシステムのディスプレイに表示させること
を含む、方法。
【請求項17】
前記ノードがデータ構造のそれぞれのインスタンスに対応し、前記辺が前記データ構造のそれぞれのインスタンスへのそれぞれのポインタに対応する、請求項16に記載の方法。
【請求項18】
前記データ構造のインスタンスが、
対応するノードを識別する識別値、
前記対応するノードのそれぞれの特性を表す1つ又は複数の特性値、及び
それぞれの識別値への1つ又は複数のポインタであって、各ポインタは前記対応するそれぞれの識別値によって識別されるノードに関連する辺を表す、1つ又は複数のポインタ
を含む、請求項17に記載の方法。
【請求項19】
前記ウォークプランが、前記クエリによって識別される前記特定のデータ要素のデータの種類に基づいて選択される、請求項16~18の何れか一項に記載の方法。
【請求項20】
前記ウォークプランが構造化文書を含む、請求項16~19の何れか一項に記載の方法。
【発明の詳細な説明】
【技術分野】
【0001】
技術分野
本願は系統メタデータ、例えばデータ記憶システム内に記憶されるデータ要素の系統を生成し、それにアクセスし、それを表示するためのデータ構造及び方法に関する。
【背景技術】
【0002】
背景
企業はデータを管理するためにデータウェアハウジング、顧客関係管理、データマイニング等のデータ処理システムを使用する。多くのデータ処理システムにおいて、データはデータベースファイル、運用システム、フラットファイル、インターネット、他の情報源等の多くの異なるデータソースから中央リポジトリ内にプルされる。多くの場合、データシステム内にロードされる前にデータが変換される。変換は、クレンジング、統合、及び抽出を含む。データ、データのソース、及びデータシステム内に記憶されるデータに生じている変換を追跡するためにメタデータを使用することができる。メタデータ(「データに関するデータ」と呼ばれることもある)とは、他のデータの属性、形式、元、履歴、相互関係等を記述するデータである。メタデータの管理は複雑なデータ処理システムにおいて中心的な役割を果たし得る。
【0003】
利用者は特定のデータが様々なデータソースからどのように導出されるのかを調査したい場合がある。例えば利用者はデータセット又はデータオブジェクトがどのように生成されたのか、又はどのソースからデータセット又はデータオブジェクトがインポートされたのかを知りたい場合がある。導出元のソースまでデータセットを追跡することをデータ系統追跡(又は「アップストリームデータ系統追跡」)と呼ぶ。利用者は特定のデータセットがどのように使用されているのか、例えばどのアプリケーションが所与のデータセットを読み出したのかを調査したい場合がある(「ダウンストリームデータ系統追跡」又は「インパクト解析」と呼ばれる)。利用者は或るデータセットが他のデータセットとどのように関係するのかを知ることに興味がある場合もある。例えば利用者はデータセットが修正されているのかどうかや、どのテーブルが影響を受けるのかを知りたい場合がある。
【0004】
一種のメタデータである系統は、データ系統に関する質問(例えば「所与の値がどこから来たのか?」、「出力値はどのように計算されたのか?」や、「どのアプリケーションがこのデータを作り出し、このデータに依存するのか?」)に対する回答を利用者が得ることを可能にする。利用者は提案された修正(例えば「この部分が変更された場合、他の何処が影響を受けるのか?」や「このソースフォーマットが変更される場合、どのアプリケーションが影響を受けるのか?」)の結果を理解することができる。利用者は技術上のメタデータ及びビジネス上のメタデータの両方が関与する回答への質問も得ることができる(例えば「どのグループがこのデータを作成し使用する責任を負うのか?」、「このアプリケーションを最後に変更したのは誰か?」や、「どのような変更を彼らは加えたのか?」)。
【0005】
これらの質問に対する回答は複雑なデータ処理システムを解析し、その問題に対処するのを助けることができる。例えば或るデータ要素が異常値を有する場合、任意の数の過去の入力又はデータ処理ステップがその異常値に関与している可能性がある。従って、関心のあるデータ要素を表す視覚要素、並びに関心のあるデータ要素に影響を及ぼす又は関心のあるデータ要素の影響を受ける他のデータ要素を表す視覚要素を含む図の形式で系統を利用者に提示する場合がある。利用者はその図を見て、関心のあるデータ要素に影響を及ぼす他のデータ要素及び/又は変換を視覚的に識別することができる。一例として、この情報を使用することにより、利用者はデータ要素及び/又は変換の何れかが異常値の原因であり得るかどうかを知り、問題が発見される場合は根底にあるデータ処理ステップの何れかを訂正する(又は訂正するためにフラグを立てる)ことができる。別の例として、この情報を使用することにより、利用者はシステムの一部に必須であり得る(例えばそのためシステムからそれらを除去することで関心のあるデータ要素が影響を受けることになる)任意のデータ要素若しくは変換、及び/又はシステムの一部に必須ではない可能性がある(例えばそのためシステムからそれらを除去しても関心のあるデータ要素は影響を受けない)データ要素若しくは変換を識別することができる。
【発明の概要】
【課題を解決するための手段】
【0006】
概要
とりわけ本発明者らはデータ処理機器によって実行される方法を記載し、その方法は、データソースからメタデータの一部を受信することであって、メタデータの一部はノード及び辺を記述し、辺の少なくとも一部は或るノードに対する別のノードの影響をそれぞれ表し、各辺は単一の方向を有する、受信すること、メタデータの一部を表すデータ構造のインスタンスを生成することであって、データ構造の少なくとも1つのインスタンスは対応するノードを識別する識別値、対応するノードのそれぞれの特性を表す1つ又は複数の特性値、及びそれぞれの識別値に対する1つ又は複数のポインタを含み、各ポインタは対応するそれぞれの識別値によって識別されるノードに関連する辺を表す、生成すること、データ構造のインスタンスをランダムアクセスメモリ内に記憶すること、少なくとも1つの特定のデータ要素の識別を含むクエリを受信すること、及び特定のデータ要素の系統の表現をコンピュータシステムのディスプレイに表示させるためにデータ構造の少なくとも1つのインスタンスを使用することを含む。
【0007】
これらの技法は、方法として、システムとして、及び/又はコンピュータ可読記憶装置上に記憶されるコンピュータプログラム製品としてを含む幾つかのやり方で実装することができる。
【0008】
これらの技法の態様は以下の利点の1つ又は複数を含み得る。系統メタデータは、系統メタデータに対するクエリに応答するとき速度及び効率を得るように設計された専用データ構造を使用して記憶することができる。系統メタデータはメモリ内に記憶することができ、そのため系統メタデータを記憶するコンピュータシステムは、系統メタデータがメモリ内に記憶されていない場合(例えば系統メタデータがハードディスク又は別の種類の記憶技法の中に記憶されそこからアクセスされる場合)よりも速く系統メタデータに対するクエリに応答することができる。本明細書に記載する技法を使用し、系統データを他の技法よりもはるかに速く、例えば500倍速く取得することができる。
【図面の簡単な説明】
【0009】
図面の説明
【
図2A】メタデータの閲覧環境内で表示される情報の一例を示す。
【
図2B】メタデータの閲覧環境内で表示される情報の一例を示す。
【
図2C】メタデータの閲覧環境内で表示される情報の一例を示す。
【
図2D】メタデータの閲覧環境内で表示される情報の一例を示す。
【
図2E】メタデータの閲覧環境内で表示される情報の一例を示す。
【
図5A】専用データ構造によって定められる形式で系統メタデータを記憶するための手続きを表す流れ図を示す。
【
図5B】系統メタデータを表示させるための手続きを表す流れ図を示す。
【
図6】専用データ構造の形式で記憶される系統メタデータを横断するための手続きを表す流れ図を示す。
【発明を実施するための形態】
【0010】
様々な図面の中の同様の参照番号は同様の要素を示す。
【0011】
説明
メタデータへのアクセスを管理するシステムは特定のデータ要素の系統を要求する利用者からクエリを受信し、それに応答してデータ要素の系統を表す図を送ることができる。データ要素が相対的に大量のデータを記憶するデータ記憶システムに属する場合、メタデータへのアクセスを管理するシステムはデータ要素の系統を処理し、対応する図を生成するために大量の処理時間を費やす必要があり得る。しかし、系統メタデータを処理することに充てられその種の処理に最適化されるシステムを導入することにより、その処理を加速しより効率的にすることができる。従って本明細書は、専用のシステムを使用しない場合よりも概して高速且つ効率的なやり方で系統メタデータを処理し記憶するために専用のシステムを使用する技法を記載する。
【0012】
図1Aは、系統メタデータを記憶し、それを環境内の他のシステムに提供する系統サーバ102を含むメタデータ処理環境100を示す。メタデータ処理環境100は、メタデータを得るための要求に概して応答するメタデータサーバ104も含む。メタデータサーバ104は、メタデータデータベース108内に記憶されるメタデータ106にアクセスできる。メタデータ106は、メタデータデータベース108にメタデータ112A~Cを継続的に与えるデータソース110A~Cから来る。例えばデータソース110A~Cは、リレーショナルデータベース、フラットファイル、ネットワークソース等の任意の組合せとすることができる。
【0013】
使用中、メタデータサーバ104は利用者118によって操作されるユーザ端末116から受信されるクエリ114に応答する。例えばユーザ端末116は、パーソナルコンピュータ、ラップトップコンピュータ、タブレット装置、スマートフォン等の計算装置とすることができる。一部の例では、例えばメタデータサーバ104がネットワーク上でデータへのアクセスを提供するように構成され、ウェブブラウザとインタフェース可能なウェブサーバを含む又はウェブサーバと通信する場合、ユーザ端末116がウェブブラウザ等のネットワークベースのユーザアプリケーションを動作させる。概して、本明細書に記載のコンピュータシステム間の対話の多くは、インターネット又はその種のネットワーク上で一般に使用される通信プロトコルを使用する同様の通信ネットワークを使用して行われ得る。
【0014】
メタデータサーバ104は、複数の種類のメタデータに対するクエリに応答するように構成される。一種のメタデータは系統メタデータなので、メタデータサーバ104は、メタデータデータベース108内に記憶される特定のデータ要素の系統を記述するメタデータ106にアクセスすることにより、特定のデータ要素、例えばデータソース110A~Cの1つによって記憶されるデータ要素120の系統を要求するクエリ114を処理することができる。次いでメタデータサーバ104はユーザ端末116に系統メタデータ122、例えば系統図形式の系統メタデータを提供することができる(
図2A~
図2Eに関して以下で説明する)。
【0015】
一部の例では、系統メタデータに関するクエリ114を処理することは、メタデータサーバ104の相対的に大量の処理時間を必要とし及び/又は相対的に大量の処理資源を使用するタスクである。例えばクエリ114を処理するために、メタデータサーバ104はメタデータデータベース108内に記憶されるメタデータ106にアクセスする必要があり得る。この例では、必要なメタデータの全てにアクセスするために、メタデータサーバ104がメタデータデータベース108に対するクエリを生成する処理資源を費やす必要がある。更に、メタデータデータベース108にクエリを伝送し、応答を待つプロセスはレイテンシ、例えば通信ネットワークレイテンシを発生させる。加えて一部の例では、系統図を作成するのに必要なメタデータを抽出するために、メタデータデータベース108から受信されるメタデータをメタデータサーバ104が処理しなければならない。例えばメタデータデータベース108は系統メタデータ以外に様々な種類のメタデータを記憶するので、メタデータデータベース108から受信されるメタデータは関心のあるデータ要素の系統に直接関係しない情報を含む場合があり、そのため系統に関係しない情報を識別し除去するために追加の処理時間が使われる。
【0016】
一部の実装形態では、例えばメタデータ処理環境100の性能を改善するために、系統サーバ102を使用してメタデータサーバ104に系統メタデータを提供する。系統サーバ102は、系統サーバを使用しない技法よりも概して高速且つ効率的にアクセス可能な形式で系統メタデータ124を記憶する専用のシステムである。具体的には、系統サーバ102は、系統メタデータに対するクエリに応答するとき速度及び効率を得るように設計された専用データ構造を使用して系統メタデータ124を記憶する。特定のデータ構造を使用して記憶される全てのデータが同じやり方で構成されるように、データ構造はデータの構成を定める。データ構造の技法については
図3に関して以下でより詳細に説明する。
【0017】
使用中、系統メタデータ128を取得するために系統サーバ102がメタデータデータベース108にクエリ126を伝送する。系統サーバ102は、理想的には広範な多数の、例えばデータソース110A~Cによって記憶されるデータ要素120の殆ど又は全てに関する系統メタデータを記憶する。このようにして、系統サーバ102はクエリが行われ得るデータ要素120の殆どについて系統のクエリに応答することができる。系統サーバ102がメタデータデータベース108から系統メタデータ128を受信すると、系統サーバ102は記憶済みの系統メタデータ124を含む自らのデータ構造を更新する。一部の例では、相対的に最新の多数の系統メタデータを記憶するために、系統サーバ102がメタデータデータベース108に新たなクエリ126を定期的に、例えば毎時、毎日、又は別の間隔で送信する。例えばこの間隔は、例えば系統サーバ102によって保持されるスケジュールデータに対応するスケジュール済みの間隔であり得る。
【0018】
図1Bでより詳細に示すように、メタデータサーバ104は系統メタデータに対するクエリ114(例えばユーザ端末116上で系統図を表示するために使用可能な系統メタデータに対するクエリ)を受信し、そのクエリ114を系統サーバ102に提供することができる。次いで系統サーバは、クエリ114に応答して系統メタデータ122を返すことができる。メタデータサーバ104は、系統メタデータをメタデータデータベース108から取得すること等の他の技法を使用して取得される系統メタデータと比較し、受信した系統メタデータ122をユーザ端末116に提供する前に準備するのに処理時間をさほど費やす必要がなく、処理資源をさほど使用する必要がない。
【0019】
図1C及び
図1Dは、系統サーバ102及びメタデータサーバ104の要素並びにそれらがどのように対話するのかを示す。上記のように、メタデータサーバ104は特定のデータ要素の系統を要求するクエリ114を受信する。クエリ114は、系統が要求された特定のデータ要素(例えば
図1Aのデータ要素120のうちの1つ)を識別する。メタデータサーバ104はデータ要素の識別を使用して、そのデータ要素に関係する系統メタデータを集めるために使用可能な1組のウォークプラン132からウォークプラン130を選択する。ウォークプラン130は、1組の系統メタデータを特定のやり方で横断(「ウォーク」)する方法を記述するデータ構造(例えばXML文書等のタグ付き部分を含む構造化文書)である。一部の例では、データ要素のデータの種類に基づいてウォークプランを選択することができる。例えば特定のデータの種類がウォークプラン132のうちの特定のものに関連し得る(例えばメタデータサーバ104にとってアクセス可能な関連のインデックス内に記憶される関連)。ウォークプラン132については
図4に関して以下で詳細に説明する。
【0020】
ウォークプラン130が選択されると、メタデータサーバ104が系統サーバ102にクエリ114及びウォークプラン130を伝送する。それに応答し、系統サーバ102が、自らの系統メタデータのデータ構造134の中からクエリ114に関連する系統メタデータを識別する。データ構造134は、系統メタデータに対するクエリに応答するのに必要な如何なるデータも省くことなしに、系統メタデータを含むのに必要な記憶空間量を最小化するやり方で構成される系統メタデータの表現である。従って、系統サーバ102は典型的には自らのデータ構造134内に記憶されるデータを使用して、クエリ114に応答するためにメタデータサーバ104が必要とする系統メタデータの全てをメタデータサーバ104に提供することができる。データ構造134については
図3に関して以下で詳細に説明する。
【0021】
一部の実装形態では、データ構造134が高速アクセス(例えばデータの高速の読出し及び書込み)のために系統サーバ102のメモリ135内にロードされる。メモリの一例はランダムアクセスメモリである。ランダムアクセスメモリは、同じサイズ(例えばバイトやワード)の他の任意の項目とほぼ同じ時間で各データ項目にアクセスできるようなやり方でデータ項目を記憶する。対照的に、磁気ディスク等の他の種類のデータ記憶域は、ディスクの現在の物理的状態(例えば磁気リード/ライトヘッドの位置)にもよるが、一部のデータ項目にアクセスするのに他のデータ項目よりも長い時間がかかることを生じさせる物理的制約を有する。ランダムアクセスメモリ内に記憶されるデータ項目は、典型的にはそのデータ項目に固有のアドレスに又は少数のデータ項目間で共有されるアドレスに記憶される。ランダムアクセスメモリは典型的には揮発性であり、そのためランダムアクセスメモリがアクティブ電源から切断される(例えばコンピュータシステムが受電できなくなる)場合、ランダム内に記憶されるデータが失われる。対照的に、磁気ディスク及び他の一部の種類のデータ記憶域は不揮発性であり、アクティブ電源なしでもデータを保持する。
【0022】
系統サーバ102はデータ構造134をメモリ135内に記憶するので、系統サーバ102はデータ構造をメモリ135内に記憶しない技法よりも速く系統メタデータを読み書きすることができる。具体的には、データ使用量を最小化するやり方でデータ構造134が構成される。例えばデータ構造134は、メタデータサーバ104から得られる元の系統メタデータ内にあるテキスト文字列等のデータを省くことができる。従って系統サーバ102の使用中、データ構造134の全て、例えば系統メタデータを表すデータの全てをメモリ135内に記憶することができる。コンピュータシステムは、(例えばアドレス指定の制限により)所与の時間に使用可能なランダムアクセスメモリの量に関する制約を概して有する。更に、ランダムアクセスメモリは他の種類のデータ記憶域(例えば磁気ディスク)よりも1バイト当たり高価である傾向がある。従ってランダムアクセスメモリを使用した場合、データ構造134は特定のコンピュータシステム上でのその合算したサイズについて上限を有する可能性がある。従って、本明細書に記載の技法(例えば
図3に関して以下で説明する技法)はデータ構造のサイズを最小化するが、クエリ114によって要求され得る系統に関する情報は保つ。
【0023】
一部の実装形態では、メタデータサーバ104が系統メタデータ137(例えば
図1Aに示すメタデータデータベース108から受信される系統メタデータ)も記憶する。しかしメタデータサーバ104は、例えば系統サーバ102のデータ構造を使用しないので、自らの記憶済みの系統メタデータ137の殆どをランダムアクセスメモリ内に記憶しない。従ってメタデータサーバ104も幾らかの系統メタデータ137を記憶しても、メタデータサーバ104はメタデータサーバ104にローカルに記憶されていない任意のメタデータを得るために系統サーバ102の系統メタデータ124にアクセスすることができる。系統サーバ102が使用されていない場合、幾らかの系統メタデータ137を記憶するメタデータサーバ104はメタデータデータベース108(
図1A)内に記憶される系統メタデータに概してアクセスし、そのことには上記のように系統サーバ102を使用することと比べて性能の不利益があり得る。
【0024】
ここではランダムアクセスメモリを主たる例として使用したが、他の種類のメモリも系統サーバ102と共に使用することができる。例えば別の種類のメモリはフラッシュメモリである。ランダムアクセスメモリと異なり、フラッシュメモリは不揮発性である。しかし、フラッシュメモリは典型的にはデータ項目にアクセスすることに対する制約を有する。一部の種類のフラッシュメモリは、個々にアクセス可能なデータ項目とは対照的に、データ項目の集合(例えばデータ項目のブロック)が一度にアクセス可能な最小データ単位であるやり方で構成される。例えば一部の種類のフラッシュメモリ上でデータ項目を削除するために、全ブロックを削除しなければならない。残りのデータ項目を保つには、残りのデータ項目をフラッシュメモリに再書込みすることができる。
【0025】
系統サーバ102はウォークプラン130を使用してデータ構造134を横断し、クエリ114に応答するデータ構造内に記憶される系統メタデータを収集する。
図1Dに示すように、次いで系統サーバ102が系統メタデータ139を含む応答138をメタデータサーバ104に送り返す。メタデータサーバ104は系統メタデータ139を使用してクエリ114に対する自らの応答140を生成することができる。応答140は幾つかある形式のうちの1つを取り得る。一部の例では応答140が、系統サーバ102から受信される同じ系統メタデータ139を例えば最小限の後処理を伴う形式で含む。一部の例では、メタデータサーバ104が系統メタデータ139に対する後処理を実行する。例えば人間が読めない符号化形式で系統メタデータ139が受信される場合、例えばメタデータサーバ104は系統メタデータ139の形式を人間が読める形式に変更することができる。一部の例では、メタデータサーバ104が系統メタデータ139に基づいて系統図を生成し、系統図を表すデータを応答140に組み込む。(
図2A~
図2Eに関して以下で詳細に説明するように)例えば応答140が系統図である場合、一部の例では応答140がユーザ端末116(
図1A)に伝送される。一部の例では、応答140が中間システムに伝送されてからユーザ端末に伝送され及び/又はユーザ端末に伝送するのに適した形式に処理される。
【0026】
図2Aは、メタデータの閲覧環境内で表示される情報の一例を示す。一部の例では、メタデータの閲覧環境がユーザ端末、例えば
図1Aに示すユーザ端末116上で実行されるインタフェースである。
図2Aの例では、メタデータの閲覧環境がデータ系統
図200Aに関する情報を表示する。メタデータの閲覧環境の一例は、利用者(例えば
図1Aに示す利用者118)がメタデータを視覚化し編集することを可能にするウェブベースのアプリケーションである。メタデータの閲覧環境を使用し、利用者は標準のウェブブラウザを使用して企業内の何処からでもメタデータを探索し、解析し、管理することができる。メタデータオブジェクトのそれぞれの種類は1つ又は複数のビュー又は視覚的表現を有する。
図2Aのメタデータの閲覧環境は、標的要素206Aに関する系統図を示す。
【0027】
例えばこの系統図は、メタデータサーバ104(
図1A)内に記憶されるメタデータオブジェクトを表すデータ及び/又は処理ノードに関する端から端までの系統、つまり所与の開始オブジェクトが依存するオブジェクト(そのソース)及び所与の開始オブジェクトが影響を及ぼすオブジェクト(その標的)を表示する。この例では、メタデータオブジェクトの2つの例であるデータ要素202Aと変換204Aとの間のつながりが示されている。これらのメタデータオブジェクトは図中のノードによって表現されている。データ要素202Aは例えばデータセット、データセット内のテーブル、テーブル内のカラム、及びファイル、メッセージ、レポート内のフィールドを表し得る。変換204Aの一例は、単一のデータ要素出力がどのように作成されるのかを記述する実行ファイル(executable)の要素である。ノード間のつながりはメタデータオブジェクト間の関係に基づく。
【0028】
図2Bは、
図2Aに示す同じ標的要素206Aに関する対応する系統
図200Bを示すが、各要素202Bがグループ化され、コンテキストに基づいてグループ内に表示されている。例えばデータ要素202Bは、データセット208B(例えばテーブル、ファイル、メッセージ、レポート)、(グラフ、計画、プログラム等の実行ファイル及びそれらが作用するデータセットを含む)アプリケーション210B、及びシステム212B内でグループ化されている。システム212Bは、データ及びデータを処理するアプリケーションの機能上のグループ化であり、システムはアプリケーション及びデータグループ(例えばデータベース、ファイルグループ、メッセージングシステム、データセットのグループ)で構成される。変換204Bが、実行ファイル214B、アプリケーション210B、及びシステム212B内でグループ化される。グラフ、計画、プログラム等の実行ファイルはデータセットを読み書きする。既定でどのグループを展開し、どのグループを折り畳むのかをパラメータが設定することができる。不要な詳細度を除去することにより、かかるパラメータの設定は利用者が自分にとって重要なグループの詳細だけを見ることを可能にする。
【0029】
データ系統の計算を行うためにメタデータの閲覧環境を使用することは幾つかの理由から有用である。例えばデータ要素と変換との間の関係を計算し示すことは、報告された値が所与のフィールドレポートに関してどのように計算されたのかを利用者が突き止めるのを助け得る。利用者はどのデータセットが特定の種類のデータを記憶するのか、及びどの実行ファイルがそのデータセットに対して読み書きするのかを見ることもできる。ビジネス用語の場合、データ系統図はどのデータ要素(例えばカラムやフィールド)が特定のビジネス用語(例えば企業内での定義)に関連するのかを示すことができる。
【0030】
メタデータの閲覧環境内で示されるデータ系統図はインパクト解析でも利用者を助けることができる。とりわけ利用者は、データセットにカラム又はフィールドが追加される場合にどのダウンストリーム実行ファイルが影響を受けるのか、及び誰が通知される必要があるのかを知りたい場合がある。インパクト解析は所与のデータ要素がどこで使用されるのかを明らかにすることができ、そのデータ要素を変更する分岐(ramification)も明らかにすることができる。同様に、利用者は実行ファイル内の変更によってどのデータセットが影響を受けるのか、又は製作から特定のデータベーステーブルを除去しても大丈夫かどうかを見ることができる。
【0031】
データ系統図を生成するためにメタデータの閲覧環境を使用してデータ系統の計算を行うことはビジネス用語を管理するのに有用である。例えば或る企業内の従業員にとって、その企業の全体にわたるビジネス用語の意味、それらの用語間の関係、及びそれらの用語が指すデータについて一致をみることが望ましい場合が多い。ビジネス用語を整合的に使用することは企業データの透明性を高めることができ、ビジネス要件の伝達を助ける。従って、ビジネス用語の基礎を成す物理データを何処で見つけることができるのか、及びどのビジネスロジックが計算に使用されるのかを知ることが重要である。
【0032】
データノード間の関係を見ることはメタデータを管理し維持する際にも有用であり得る。例えば利用者は誰がメタデータ片を変更したのか、メタデータ片のソース(又は「レコードのソース」)は何なのか、又は外部ソースからメタデータをロードし若しくはリロードするときどのような変更が加えられたのかを知りたい場合がある。メタデータを維持する際、指定の利用者がメタデータオブジェクト(ビジネス用語等)を作成できるようにすること、メタデータオブジェクトの特性(他のオブジェクトに対するオブジェクトの記述や関係等)を編集できるようにすること、又は使われなくなったメタデータオブジェクトを削除できるようにすることが望ましい場合がある。
【0033】
メタデータの閲覧環境はオブジェクトの幾つかのグラフィカルビューを提供し、利用者がメタデータを探索し解析することを可能にする。例えば利用者はシステム及びアプリケーションのコンテンツを閲覧し、任意のオブジェクトの詳細を探索することができ、上記のデータ系統解析やインパクト解析等の様々な種類の依存性解析を利用者が容易に行うことを可能にするデータ系統ビューを使用してオブジェクト間の関係も見ることができる。オブジェクトの階層構造も見ることができ、特定のオブジェクトについて階層構造を検索することができる。オブジェクトが見つかると、そのオブジェクトに利用者が容易に戻ることを可能にするブックマークをオブジェクトについて作成することができる。
【0034】
適切な許可により、利用者はメタデータの閲覧環境内でメタデータを編集することができる。例えば利用者はオブジェクトの記述を更新し、ビジネス用語を作成し、オブジェクト間の関係を定め(ビジネス用語をレポート内のフィールドやテーブル内のカラムにリンクすること等)、オブジェクトを移動し(例えば或るアプリケーションから別のアプリケーションにデータセットを移動すること)、又はオブジェクトを削除することができる。
【0035】
図2Cでは、標的要素206Aに関する対応する系統
図200Cを示すが、標的データ要素206Aの計算に関与しているアプリケーションに合わせて分解能のレベルが設定されている。とりわけアプリケーション202C、204C、206C、208C、及び210Cを示しており、それはそれらのアプリケーションだけが標的データ要素206Aに関する計算に直接関与するからである。(例えば図中に更に多くの又は少ない詳細を表示するために)利用者が異なる分解能のレベルで系統図の任意の部分を見たい場合、利用者は対応する展開/折畳ボタン212Cを活性化することができる。
【0036】
図2Dは、異なる分解能のレベルでの対応する系統
図200Dを示す。この例では展開/折畳ボタン212Cが利用者によって活性化されており、メタデータの閲覧環境が今度も同じ系統図を表示しているが、アプリケーション202C内のデータセット214D及び実行ファイル216Dを表示するためにアプリケーション202Cが展開されている。
【0037】
図2Eは、異なる分解能のレベルでの対応する系統
図200Eを示す。この例ではカスタム展開によって展開される全てのものを表示することに利用者が決めている。最終的なデータソースである(例えばアップストリームシステムを有さない)任意のフィールド又はカラムが展開される。加えて、特定のフラグが立てられているフィールドも展開される。この例では、系統内の重要な中間点にあるデータセット及びフィールド上に特定のフラグが立てられており、1つのカラムは系統が表示されているカラムである。
【0038】
系統の他の例が、参照によりその全体を本明細書に援用する「VISUALIZING RELATIONSHIPS BETWEEN DATA ELEMENTS AND GRAPHICAL REPRESENTATIONS OF DATA ELEMENT ATTRIBUTES」と題された米国特許出願第12/629,466号の中で記載されている。
【0039】
メタデータの閲覧環境内で要素及び関係を見ることは、それらを表すノードの各々に関連する情報を追加することによってより有用にされ得る。関連情報をノードに追加する1つの例示的なやり方は特定のノード上に情報をグラフィカルにオーバレイすることである。これらのグラフィックはノードによって表されるデータの幾らかの値又は特性を示すことができ、メタデータデータベース内の任意の特性であり得る。この手法には、通常は共通点のない2つ以上の情報片(データのノードとノードによって表されるデータの特性との間の関係)を組み合わせ、有用な情報を「脈絡内に」おこうとする利点がある。例えばデータノード間の関係の視覚的表現と共に、メタデータの品質、メタデータの新しさ、レコード情報のソース等の特性を表示することができる。この情報の一部は表形式でアクセス可能とすることができるが、データの様々なノード間の関係と共にデータの特性を見ることの方が利用者にとって役立つ可能性がある。利用者は、メタデータの閲覧環境内のデータ要素及び/又は変換ノード上にデータのどの特性を表示するのかを選ぶことができる。どの特性を表示するのかは既定のシステム設定に従って設定することもできる。
【0040】
図1Aに関して上記で説明したように、系統サーバ102はデータ構造134を使用して系統メタデータをメモリ(例えばランダムアクセスメモリ)内に記憶する。
図3はデータ構造300の一例を示す。使用中、系統サーバ102はデータ構造300の多くのインスタンスを含む。データ構造のインスタンスは、データ構造によって定められるやり方でフォーマットされるデータの集合(例えばビットの集合)である。本明細書に記載のデータ構造300のインスタンスは「ノード」と呼ぶ場合がある。
【0041】
データ構造300の各インスタンスはメタデータオブジェクト、例えば
図2Aに示すデータ要素202A又は変換204Aの1つを表す。一部の例では、データ構造300の各インスタンスは系統図、例えば
図2A~
図2Eに示す
図200A~200Eの中で表示され得るノードを表す。
【0042】
使用中、系統サーバ102はデータ構造に固有のメモリ位置302に各データ構造300を記憶する。各データ構造300は典型的には他のデータ構造のメモリ位置を指す。
【0043】
データ構造300は幾つかのフィールドで構成される。フィールドとはデータの集合、例えばデータ構造300のインスタンスを作るビットのサブセットである。識別情報フィールド310は、データ構造300のインスタンスに関する一意識別情報を表すデータを含む。種類フィールド312は、データ構造300の対応するインスタンスによって表されるメタデータオブジェクトの種類を表すデータを含む。一部の例では、種類は「データ要素」や「変換」等であり得る。一部の例では、種類フィールド312がデータ構造300のインスタンス内に含まれる前進辺及び後退辺の数も示す。特性フィールド314は、データ構造300の対応するインスタンスによって表されるメタデータオブジェクトの様々な特性をそれぞれ表す。特性フィールド314の例は、メタデータオブジェクトを識別するテキストラベルを含む「名前」フィールド、及びメタデータオブジェクトのサブタイプ、例えばメタデータオブジェクトがファイルオブジェクトを表すのか、実行ファイルオブジェクトを表すのか、データベースオブジェクト又は別のサブタイプを表すのかを示す「サブタイプ」フィールドを含み得る。他の種類の特性も使用することができる。概して、種類フィールド312及び特性フィールド314は系統サーバ102の特定のインスタンスについてカスタマイズすることができ、本明細書で挙げる例に制限されない。
【0044】
データ構造は、前進辺316A~C及び後退辺316D~Fを表すフィールドも含む。これらの辺フィールド316A~Fは、系統サーバ102がデータ構造からデータ構造に「ウォーク」し、系統メタデータを集めるときデータ構造のデータを収集することを可能にする。最も広い意味で、部分データを「収集する」ことに言及する場合、将来のアクション(例えば収集したデータを伝送すること)に関係するものとしてデータの一部を識別することを意味する。データの一部を収集することはデータを複製すること、例えば将来のアクションに使用されるバッファ又は待ち行列にデータを複製することを含む場合がある。
【0045】
それぞれの辺フィールド316A~Fは、ポインタフィールド320A~Bを含む。ポインタフィールド320A~Bは、それぞれのメモリ位置322A~Bのアドレスを記憶する。概して、ポインタフィールド320A~Bによって参照されるメモリ位置322A~Bは、データ構造300の別のインスタンスを記憶するメモリの部分を指す。このようにして、メタデータオブジェクトを表すデータ構造の或るインスタンスが、他のメタデータオブジェクトを表すデータ構造の1つ又は複数の他のインスタンスに「リンク」される。従って辺316A~Dは、例えば
図2A~
図2Eの系統図の例200A~Eの中で示すメタデータオブジェクト間の関係に対応し得る。例えば前進辺316Aは、メタデータオブジェクト(例えばデータ構造300のこのインスタンスによって表されるメタデータオブジェクト)が別のメタデータオブジェクト(例えばメモリ位置322Aにあるデータ構造のインスタンスによって表されるメタデータオブジェクト)に有する影響を表す。別の例として、後退辺316Dは、別のメタデータオブジェクト(例えばメモリ位置322Bにあるデータ構造のインスタンスによって表されるメタデータオブジェクト)がデータ構造300のこのインスタンスのメタデータオブジェクトに対して有する影響を表す。
【0046】
それぞれの辺フィールド316A~Fは1つ又は複数のフラグ324も含む。フラグ324は、その関連する辺に関する情報のインジケータである。一部の例では、フラグ324の1つが、複数のあり得る種類から選択される関連する辺の種類を示し得る。多くの種類の辺があり得る。例えば一部の種類の辺は、入力/出力辺(或るオブジェクトからの出力及び別のオブジェクトへの入力を表す)、要素/データセット辺(要素と要素が属するデータセットとの間の関連を表す)、及びアプリケーション/親辺(実行可能アプリケーションとアプリケーションに関連するデータセットも含むコンテナ等のコンテナとの間の関連を表す)である。
【0047】
データ構造300の要素の多くは典型的には相対的に少量のデータを使用する。例えば識別情報フィールド310、種類フィールド312、及び特性フィールド314に関連するデータは合わせても数バイト、例えば32バイトにしかならない可能性がある。これらのフィールドは僅か数ビットの中に一般に使用される情報を符号化し、例えばノードについて8個のあり得る種類しかない場合、種類フィールド312は僅か3ビット長とすることができる。ノードの種類を表すテキストの文字列等のより複雑なデータは使用する必要がない。更に、メモリ位置322A~Cに関連するデータは、典型的にはデータ構造300をインスタンス化するソフトウェアを実行するコンピュータシステムの種類に関連するメモリアドレスの長さと同じデータ量である。従って、系統メタデータを記憶するための他の技法によって使用されるデータと比較し、データ構造300の殆どの又は全てのインスタンスが相対的に少量のデータを合計で使用し得る。
【0048】
図4は、ウォークプラン400の一例を示す。
図1Cに関して上記で説明したように、ウォークプラン400は典型的にはメタデータサーバ104によって記憶される。使用中、メタデータサーバ104は系統メタデータを要求するとき系統サーバ102にウォークプランを提供する。
【0049】
ウォークプラン400は、系統サーバ102の記憶済みのデータ構造134を横断するとき系統サーバ102によって使用される情報を記述する。概して、系統メタデータ、例えば特定のメタデータオブジェクトに関係する系統メタデータに対するクエリを受信した場合、それに応答して全ての種類の系統メタデータを返す必要はない。一部の例では、クエリにもよるが、一部の種類の辺に関連する系統メタデータをクエリに応答したものではないことを理由に返す必要がない場合がある。
【0050】
従ってウォークプラン400は、系統サーバ102によって記憶される系統メタデータによって表される辺の種類の中にあり得る辺の種類ごとにレコード402A~Cを含む。レコード402Aは、レコード402Aに対応する辺の種類を示すデータを含む辺の種類フィールド404を含む。レコード402Aは、前進方向410に関してフォローフラグ406、ノード収集フラグ408、及び辺収集フラグ409も含み、後退方向416に関してフォローフラグ412、ノード収集フラグ414、及び辺収集フラグ415も含む。
【0051】
フォローフラグ406、412は、系統サーバ102が自らのデータ構造134を横断するときこの辺の種類の辺をたどるべきかどうかを示す。言い換えれば、前進方向410のフォローフラグ406は系統サーバ102が、
図3を参照してデータ構造300のインスタンスの前進辺フィールド316Aのポインタフィールド320Aによって識別されるメモリ位置322Aにアクセスすべきかどうかを示す。同様に、後退方向416のフォローフラグ412は系統サーバ102が、
図3を参照してデータ構造300のインスタンスの後退辺フィールド316Dのポインタフィールド320bによって識別されるメモリ位置322bにアクセスすべきかどうかを示す。
【0052】
ノード収集フラグ408、414は、系統サーバ102が自らのデータ構造134を横断するとき、この辺の種類によって指される「ノード」と呼ばれることがあるデータ構造300(
図3)のインスタンスを収集すべきかどうかを示す。データ構造300のインスタンスを収集することに言及する場合、クエリを処理する系統サーバ102(
図1A)がクエリを処理することに応答して返されるデータにインスタンス(又はノード)のデータが追加されることを意味する。従ってノードが収集される場合、データ構造300のインスタンスによって表されるメタデータオブジェクトに関連するデータは、系統サーバ102によって返される系統メタデータの中にある。
【0053】
辺収集フラグ409、415は、系統サーバ102が(例えばデータ構造300のインスタンスのポインタフィールド320Aに対応する)辺を収集すべきかどうかを示す。辺が収集される場合、辺を表すデータは系統サーバ102によって返される系統メタデータの中にある。一部の実装形態では、辺がノード間のデータフローを表さない場合はその辺を収集しなくても良い。例えば辺は、(或るノードによって表される)データオブジェクトと(別のノードによって表している)データオブジェクトのコンテナとの間の関連を表すことができる。このようにして、ウォークプラン400内でノード収集フラグ408、414及び辺収集フラグ409、415を使用することにより、系統メタデータ内に含めるために収集される場合もされない場合もあるノードを様々なやり方で互いに関連させることができ、ノードは系統メタデータ内に含めるために収集される場合もされない場合もある様々なデータを表し得る。
【0054】
一部の実装形態では、使用中、ウォークプラン400を1つ又は複数のXML(拡張マーク付け原語)文書形式で表すことができる。XML文書は「タグ」によって分けられた部分の集合である。タグは典型的にはラベル(例えばタグの種類を識別するラベル)を含み、1つ又は複数の属性も含み得る。タグは開始タグ及び終了タグの形式で、開始タグが対応する終了タグと対にされるようにもたらされることがある。このようにしてタグは階層的とすることができ、そのため例えば別のタグの開始タグと終了タグとの対の間にタグを配置することにより、タグが他のタグの中に「ネスト」される。
【0055】
XML文書形式のウォークプランの一例を以下に示す:
<lineageServerPlan direction=“both”conditionalOnArg=“!autoFilterEnabled”replacesQueries=“walk”>
<useEdge name=“DE-Tr”>
<condition special=“ExelnterfaceCallStack” />
<condition special=“ControlFilter” />
<condition special=“Summarization” />
</useEdge>
<useEdge name=“Tr-DE”>
<condition special=“ExelnterfaceCallStack” />
<condition special=“ControlFilter” />
<condition special=“Summarization” />
</useEdge>
<useEdge name=“DE-DS”direction=“forward”collectEdge=“false”
conditionalOnArg=“walkDSlevel” />
<useEdge name=“Tr-Exe”direction=“forward”collectEdge=“false”
conditionalOnArg=“walkDSlevel” />
<useEdge name=“DS-Exe”conditionalOnArg=“walkDSlevel”>
<condition special=“ExeInterfaceCallStack” />
<condition special=“DSLevelIfNoDE” />
</useEdge>
<useEdge name=“Exe-DS”conditionalOnArg=“walkDSlevel”>
<condition special=“ExeInterfaceCallStack” />
<condition special=“DSLevelIfNoDE” />
</useEdge>
<useEdge name=“DE-DS”direction=“backward”collectEdge=“false”>
<condition special=“DSLevelIfNoDE” />
</useEdge>
<useEdge name=“Tr-Exe”direction=“backward”collectEdge=“false”>
<condition special=“DSLevelIfNoDE” />
</useEdge>
</lineageServerP1an>
【0056】
この例では、「useEdge」タグは所与の種類の辺に関する情報を指定する。各「useEdge」タグはレコード(例えばウォークプラン400のレコード402A~C)に対応し得る。「name」属性は辺の種類(例えば辺の種類404)を指定し、「direction」属性は方向(例えば前進方向410や後退方向416)を指定し、「collectEdge」属性は辺を収集するかどうかを指定する(例えば収集フラグ408、414)。他のタグも使用することができる。例えば上記の例の中で示した「condition special」タグは、指定の辺の種類の辺がたどられる場合に実行されるカスタム規則を指定するために使用される。一部の例では、辺をたどるべきかどうか及び/又は収集すべきかどうかを判定するための条件をカスタム規則が指定し得る。
【0057】
図5Aは、専用データ構造、例えば
図3に示すデータ構造300によって定められる形式で系統メタデータを記憶するための手続き500を表す流れ図を示す。手続き500は、例えば
図1Aに示す系統サーバ102のコンポーネントによって実行され得る。
【0058】
この手続きは、メタデータソースに系統メタデータを要求する(502)。例えばメタデータソースは
図1Aに示すメタデータデータベース108とすることができる。この要求は定期的な間隔又は半定期的な間隔、例えば毎時、10分ごと、1分ごと、又は他の任意の間隔で行われる要求であり得る。一部の例では、この要求がイベント、例えばメタデータソースにおいて新たなメタデータを入手できるという通知等のイベントに応答して行われ得る。
【0059】
系統メタデータは典型的には各ノードがメタデータオブジェクトを表すようにノード及び辺を記述し、辺は或るノードに対する別のノードの単向の影響をそれぞれ表し、例えばそのため各辺は単一の方向を有する。
【0060】
一部の例では、例えば系統サーバ102が系統メタデータを表す1組の最初のデータ構造をまだ生成していない場合、この要求はデータソースによって記憶されている全ての系統メタデータに対する要求である。一部の例では、例えば系統サーバ102が1組の既存の記憶済みデータ構造を更新している場合、この要求は前回の要求から追加され又は変更されている系統メタデータに対する要求である。
【0061】
この手続きはメタデータソースからデータ、例えば系統メタデータを受信する(504)。例えば系統メタデータは、メタデータオブジェクト及びメタデータオブジェクト間の関係を表すデータであり得る。
【0062】
この手続きはデータ構造、例えば
図3に示すデータ構造300のインスタンスを生成する(506)。例えばデータ構造は、メタデータソースから受信されるデータに対応する情報を含み得る。一部の例では、データ構造の各インスタンスがメタデータソースから受信されるそれぞれのノードに対応する。データ構造は識別値、例えばデータ構造のインスタンスに対応するノードを識別する識別値のためのフィールドを含み得る。データ構造は、データ構造のインスタンスに対応するノードの特性を表す特性フィールドも含み得る。データ構造は、他のノードの識別値へのポインタも可能であり、そのためポインタはそれぞれの識別値に対応するノードへの辺を表す。
【0063】
この手続きはデータ構造を記憶する(508)。例えばデータ構造はメモリ、例えば
図1Cに示すメモリ135内に記憶することができる。一部の例では、データ構造がランダムアクセスメモリ内に記憶される。データ構造は系統メタデータを記憶するために使用されるので、系統に関係しない任意のデータ(例えばメタデータソースに記憶されている他の種類のメタデータ)を省き、データ構造を記憶するのに必要なデータ量を減らすことができる。
【0064】
使用中、この手続きは例えば定期的にスケジュールされた次の間隔で、メタデータソースに系統メタデータを要求すること(502)に戻る。
【0065】
図5Bは、系統メタデータを表示させるための手続き520を表す流れ図を示す。手続き520は、例えば
図1Aに示す系統サーバ102のコンポーネントによって実行され得る。概して系統サーバは特定のデータ要素、例えばメタデータオブジェクトの系統を記述するメタデータを含む、クエリに対する応答を返すように構成される。一部の例では、メタデータはノード及び辺のシーケンスを記述し、そのシーケンスのノードのうちの1つは特定のデータ要素を表す。一部の例では、
図5Aに関して上記で説明した手続き500によって記憶される系統メタデータにアクセスするために手続き520が使用される。
【0066】
この手続きはクエリ、例えば系統メタデータに対するクエリを受信する(522)。一部の例では、このクエリは系統メタデータが要求されるメタデータオブジェクトを識別する。
【0067】
一部の実装形態では、このクエリは系統の種類の識別、及び識別される系統の種類にどの種類の辺が関連するのかを識別するウォークプランを含む。一部の例では、ウォークプランは、対応するノードのそれぞれの特性を表す1つ又は複数の特性値に基づいて辺をたどり又は収集するための条件を含む。ウォークプラン400の一例を
図4に示す。
【0068】
この手続きは系統メタデータを集める(524)。例えば、受信クエリのメタデータオブジェクトを表すノードにアクセスしそれを収集することができ、他のノードを収集するために辺(例えばメモリ位置へのポインタ)を横断することができる。系統メタデータを集めることについては
図6に関して以下でより詳細に説明する。
【0069】
この手続きは、集めた系統メタデータを伝送する(526)。例えば、集めた系統メタデータはクエリを発行したコンピュータシステムに伝送することができる。
【0070】
集めた系統メタデータの伝送後、集めた系統メタデータがコンピュータシステム、例えば
図1Aに示すユーザ端末116上で表示させられる場合がある(528)。例えば系統メタデータは、
図2A~
図2Eに示す系統
図200A~200E等の系統図の形式で表示することができる。
【0071】
図6は、専用データ構造、例えば
図3に示すデータ構造300のインスタンスの形式で記憶される系統メタデータを横断するための手続き600を表す流れ図を示す。手続き600は、例えば
図1Aに示す系統サーバ102のコンポーネントによって実行され得る。
【0072】
この手続きはクエリ及びウォークプラン、例えば
図1Cに示すクエリ114及びウォークプラン130を受信する(602)。この手続きは、クエリ114によって参照されるメタデータオブジェクトを表す初期ノード(例えば
図3に示すデータ構造300のインスタンス)にアクセスアクセスする(604)。例えば初期ノードは、メタデータオブジェクトに関連するデータを記憶する識別情報フィールド310(
図3)によって識別され得る。次いでその初期ノードが「現在の」ノードとして使用され、待ち行列から現在のノードが選択され、現在のノードに操作が適用されるこのプロセスの再帰的な部分が始まる。言い換えれば、初期ノードは待ち行列の最初のノードとして待ち行列内に配置され、この手続きが実行されるにつれて他のノードが続いて待ち行列に追加される。
【0073】
この手続きは、現在のノード内に残っている前進辺ポインタ(例えばまだアクセスされていない前進辺ポインタ)があるかどうかを判定する(606)。かかる前進辺ポインタがある場合、この手続きはまだアクセスされていない次のポインタにアクセスし(608)、例えばポインタのメモリ位置にアクセスしてそのメモリ位置に記憶されているデータを取得する。この手続きは、例えばポインタに関連する辺の種類に従い、(
図4に関して上記で説明した)ウォークプランに基づいてそのポインタにおけるノードを「ウォーク」(例えば処理)するかどうかを判定する(610)。ウォークしない場合、この手続きは別のポインタにアクセスする(608)。ウォークする場合、この手続きはそのポインタにおけるノードを収集するかどうかを判定する(611)。収集する場合、この手続きはクエリに応答して返されるノードのデータを記憶し(612)、次いでそのポインタにアクセスできるようにそのノードを待ち行列内に配置する(614)。収集しない場合、この手続きはノードを待ち行列内に入れるだけである。
【0074】
現在のノード内の前進辺ポインタの全てが横断されると、この手続きは現在のノード内に残っている後退辺ポインタがあるかどうかを判定する(616)。かかる後退辺ポインタがある場合、この手続きは次の後退辺ポインタにアクセスする(608)。
【0075】
前進辺ポインタ又は後退辺ポインタが残っていない場合、この手続きは待ち行列内にノードがどれか残っているかどうかを判定する(618)。残っている場合、この手続きは待ち行列内の次のノードにアクセスし(620)、待ち行列内の次のノードを現在のノードとして使用して上記の操作を実行する。ノードが残っていない場合、この手続きは他のシステムに伝送するために収集済みのデータを準備する(622)。例えば収集済みのデータは伝送されるので、特定の形式で構成することができる。別の例として、収集済みのデータ内の符号化データを復号することができる。例えば符号化値を含むデータフィールドは値に対応するテキスト文字列に変換することができる。
【0076】
データを伝送する準備ができると、例えば
図5Bのデータ伝送526に関して説明したようにデータを伝送することができる。
【0077】
本明細書に記載したシステム及び技法は、例えば適切なソフトウェア命令を実行するプログラム可能計算システムを使用して実装することができ、書替え可能ゲートアレイ(FPGA)等の適切なハードウェアによって実装することができ、又は何らかの混成形式で実装することができる。例えばプログラムされた手法では、1つ又は複数のプログラムされた計算システム又はプログラム可能な計算システム(分散、クライアント/サーバ、又はグリッド等の様々なアーキテクチャのものであり得る)上で実行される1つ又は複数のコンピュータプログラム内の手続きをソフトウェアが含むことができ、かかる計算システムは少なくとも1個のプロセッサ、(揮発性及び/又は不揮発性のメモリ及び/又は記憶要素を含む)少なくとも1つのデータ記憶システム、(少なくとも1つの入力装置又はポートを使用して入力を受け付け、少なくとも1つの出力装置又はポートを使用して出力を行うための)少なくとも1つのユーザインタフェースをそれぞれ含む。ソフトウェアは、例えばデータフローグラフの設計、構成、及び実行に関係するサービスを提供するより大きいプログラムの1つ又は複数のモジュールを含み得る。プログラムのモジュール(例えばデータフローグラフの要素)は、データリポジトリ内に記憶されるデータモデルに従うデータ構造又は他の組織化されたデータとして実装され得る。
【0078】
揮発性記憶媒体や不揮発性記憶媒体又は他の任意の非一時的媒体の中に具体化されるもの等、或る期間(例えばダイナミックRAM等のダイナミックメモリ装置のリフレッシュ期間の間の時間)にわたって媒体の物理的特性(例えば表面ピット及びランド、磁区、電荷)を使用してソフトウェアを非一時的な形式で記憶することができる。命令をロードすることに備えて、ソフトウェアは、(例えば汎用又は専用の計算システム又は計算装置によって読出し可能な)CD-ROMや他のコンピュータ可読媒体等の有形の非一時的媒体上に与えることができ、又はソフトウェアがそこで実行される計算システムの有形の非一時的媒体までネットワークの通信媒体上で届けられ得る(例えば伝搬信号内に符号化される)。処理の一部又は全てが専用コンピュータ上で、又はコプロセッサ、書替え可能ゲートアレイ(FPGA)、専用の特定用途向け集積回路(ASIC)等の専用ハードウェアを使用して実行され得る。処理は分散式に実装されても良く、その場合ソフトウェアによって指定される計算の異なる部分が異なる計算要素によって実行される。本明細書に記載した処理を実行するために記憶装置媒体がコンピュータによって読み出されるときコンピュータを構成し動作させるために、そのような各コンピュータプログラムは、好ましくは汎用又は専用のプログラム可能コンピュータによってアクセス可能な記憶装置のコンピュータ可読記憶媒体(例えばソリッドステートメモリ又は媒体、磁気媒体、光学媒体)上に記憶され又はかかるコンピュータ可読記憶媒体にダウンロードされる。本発明のシステムは、コンピュータプログラムで構成される有形の非一時的媒体として実装されると考えられる場合もあり、そのように構成される媒体は本明細書に記載した処理ステップの1つ又は複数を実行するようにコンピュータを特定の且つ既定のやり方で動作させる。
【0079】
本発明の幾つかの実施形態を説明してきた。それでもなお、上記の説明は添付の特許請求の範囲によって定める本発明の範囲を限定するのではなく例示することを目的としていることを理解すべきである。従って他の実施形態も以下の特許請求の範囲に含まれる。例えば本発明の範囲から逸脱することなしに様々な修正を加えることができる。加えて、上記のステップの一部は順序に依存しない場合があり、従って説明したのと異なる順序で実行することができる。
【手続補正書】
【提出日】2024-01-18
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
データベースからの系統を有するデータ構造を更新するためのデータ処理システムによって実行される方法であって、更新することは、系統を決定する効率を高める、方法であって、
前記方法は、
所与のデータ項目又は所与の変換の系統を特定するデータ構造を前記データ処理システムのメモリに記憶することであって、前記系統は、前記所与のデータ項目又は前記所与の変換に影響を与え、又は前記所与のデータ項目又は前記所与の変換から影響を受ける、データ項目又は変換を特定する、ことと、
前記所与のデータ項目又は前記所与の変換の系統を表すデータをデータベースから時々受信し、
前記受信したデータに基づいて、前記所与のデータ項目又は前記所与の変換に影響を与え、又は前記所与のデータ項目又は前記所与の変換から影響を受ける、データ項目又は変換を識別し、
前記識別されたデータ項目又は前記識別された変換を表す別のデータ構造を参照するために前記データ構造を更新することにより、
前記データ構造により特定される系統を更新することと、
を含む方法。
【請求項2】
前記データ構造を更新することは、前記識別されたデータ項目又は前記識別された変換を表す別のデータ構造のメモリ位置を参照するために前記データ構造のポインタを更新することを含む、請求項1に記載の方法。
【請求項3】
前記識別されたデータ項目又は前記識別された変換の系統を特定する第2のデータ構造を生成することと、
前記第2のデータ構造を前記データ処理システムの前記メモリに記憶することと、
を更に含む、請求項1に記載の方法。
【請求項4】
前記識別されたデータ項目又は前記識別された変換の系統を表す前記データを、一定の間隔で又はスケジュールされた間隔で、前記データベースから受信することを更に含む、請求項1に記載の方法。
【請求項5】
前記識別されたデータ項目又は前記識別された変換の系統を表す前記データは、前記データベースに伝送された要求に応答して受信される、請求項1に記載の方法。
【請求項6】
系統の要求を含むクエリを受信することと、
前記クエリに基づいて、前記要求された系統を決定するために、前記データ構造と少なくとも一つの他のデータ構造にアクセスすることと、
前記クエリに対する応答を生成することであって、前記応答は、前記要求された系統を表すデータを含むことと、
を更に含む、請求項1に記載の方法。
【請求項7】
前記要求された系統を決定する命令を含むウォークプランにアクセスすることと、
前記要求された系統を決定するために、前記ウォークプランに従って、前記データ構造と前記少なくとも一つの他のデータ構造とからデータを収集することと、
を更に含む、請求項6に記載の方法。
【請求項8】
データベースからの系統を有するデータ構造を更新するためのシステムであって、更新することは、系統を決定する効率を高める、システムであって、
前記システムは、
少なくとも一つのプロセッサと、
操作を実行するために前記少なくとも一つのプロセッサにより実行可能な命令を記憶する少なくとも一つのコンピュータ可読媒体と、を備え、
前記操作は、
所与のデータ項目又は所与の変換の系統を特定するデータ構造をメモリに記憶することであって、前記系統は、前記所与のデータ項目又は前記所与の変換に影響を与え、又は前記所与のデータ項目又は前記所与の変換から影響を受ける、データ項目又は変換を特定する、ことと、
前記所与のデータ項目又は前記所与の変換の系統を表すデータをデータベースから時々受信し、
前記受信したデータに基づいて、前記所与のデータ項目又は前記所与の変換に影響を与え、又は前記所与のデータ項目又は前記所与の変換から影響を受ける、データ項目又は変換を識別し、
前記識別されたデータ項目又は前記識別された変換を表す別のデータ構造を参照するために前記データ構造を更新することにより、
前記データ構造により特定される系統を更新することと、
を含む、システム。
【請求項9】
前記データ構造を更新することは、前記識別されたデータ項目又は前記識別された変換を表す別のデータ構造のメモリ位置を参照するために前記データ構造のポインタを更新することを含む、請求項8に記載のシステム。
【請求項10】
前記少なくとも一つのコンピュータ可読媒体は、操作を実行するために前記少なくとも一つのプロセッサにより実行可能な命令を記憶しており、
前記操作は、
前記識別されたデータ項目又は前記識別された変換の系統を特定する第2のデータ構造を生成することと、
前記第2のデータ構造を前記データ処理システムの前記メモリに記憶することと、
を更に含む、請求項8に記載のシステム。
【請求項11】
前記少なくとも一つのコンピュータ可読媒体は、操作を実行するために前記少なくとも一つのプロセッサにより実行可能な命令を記憶しており、
前記操作は、
前記識別されたデータ項目又は前記識別された変換の系統を表す前記データを、一定の間隔で又はスケジュールされた間隔で、前記データベースから受信することを更に含む、請求項8に記載のシステム。
【請求項12】
前記識別されたデータ項目又は前記識別された変換の系統を表す前記データは、前記データベースに伝送された要求に応答して受信される、請求項8に記載のシステム。
【請求項13】
前記少なくとも一つのコンピュータ可読媒体は、操作を実行するために前記少なくとも一つのプロセッサにより実行可能な命令を記憶しており、
前記操作は、
系統の要求を含むクエリを受信することと、
前記クエリに基づいて、前記要求された系統を決定するために、前記データ構造と少なくとも一つの他のデータ構造にアクセスすることと、
前記クエリに対する応答を生成することであって、前記応答は、前記要求された系統を表すデータを含むことと、
を更に含む、請求項8に記載のシステム。
【請求項14】
前記少なくとも一つのコンピュータ可読媒体は、操作を実行するために前記少なくとも一つのプロセッサにより実行可能な命令を記憶しており、
前記操作は、
前記要求された系統を決定する命令を含むウォークプランにアクセスすることと、
前記要求された系統を決定するために、前記ウォークプランに従って、前記データ構造と前記少なくとも一つの他のデータ構造とからデータを収集することと、
を更に含む、請求項13に記載のシステム。
【請求項15】
操作を実行するために少なくとも一つのプロセッサにより実行可能な命令を記憶する少なくとも一つの非一時的コンピュータ可読媒体であって、
前記操作は、
所与のデータ項目又は所与の変換の系統を特定するデータ構造をメモリに記憶することであって、前記系統は、前記所与のデータ項目又は前記所与の変換に影響を与え、又は前記所与のデータ項目又は前記所与の変換から影響を受ける、データ項目又は変換を特定する、ことと、
前記所与のデータ項目又は前記所与の変換の系統を表すデータをデータベースから時々受信し、
前記受信したデータに基づいて、前記所与のデータ項目又は前記所与の変換に影響を与え、又は前記所与のデータ項目又は前記所与の変換から影響を受ける、データ項目又は変換を識別し、
前記識別されたデータ項目又は前記識別された変換を表す別のデータ構造を参照するために前記データ構造を更新することにより、
前記データ構造により特定される系統を更新することと、
を含む、少なくとも一つの非一時的コンピュータ可読媒体。
【請求項16】
前記データ構造を更新することは、前記識別されたデータ項目又は前記識別された変換を表す別のデータ構造のメモリ位置を参照するために前記データ構造のポインタを更新することを含む、請求項15に記載の少なくとも一つの非一時的コンピュータ可読媒体。
【請求項17】
前記少なくとも一つの非一時的コンピュータ可読媒体は、操作を実行するために前記少なくとも一つのプロセッサにより実行可能な命令を記憶しており、
前記操作は、
前記識別されたデータ項目又は前記識別された変換の系統を特定する第2のデータ構造を生成することと、
前記第2のデータ構造を前記データ処理システムの前記メモリに記憶することと、
を更に含む、請求項15に記載の少なくとも一つの非一時的コンピュータ可読媒体。
【請求項18】
前記少なくとも一つの非一時的コンピュータ可読媒体は、操作を実行するために前記少なくとも一つのプロセッサにより実行可能な命令を記憶しており、
前記操作は、
前記識別されたデータ項目又は前記識別された変換の系統を表す前記データを、一定の間隔で又はスケジュールされた間隔で、前記データベースから受信することを更に含む、請求項15に記載の少なくとも一つの非一時的コンピュータ可読媒体。
【請求項19】
前記識別されたデータ項目又は前記識別された変換の系統を表す前記データは、前記データベースに伝送された要求に応答して受信される、請求項15に記載の少なくとも一つの非一時的コンピュータ可読媒体。
【請求項20】
前記少なくとも一つの非一時的コンピュータ可読媒体は、操作を実行するために前記少なくとも一つのプロセッサにより実行可能な命令を記憶しており、
前記操作は、
系統の要求を含むクエリを受信することと、
前記クエリに基づいて、前記要求された系統を決定するために、前記データ構造と少なくとも一つの他のデータ構造にアクセスすることと、
前記クエリに対する応答を生成することであって、前記応答は、前記要求された系統を表すデータを含むことと、
を更に含む、請求項15に記載の少なくとも一つの非一時的コンピュータ可読媒体。
【外国語明細書】