特許 7649634 プリフェッチ動作の調整方法及びその管理システム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2025-03-12

(45)【発行日】2025-03-21

(54)【発明の名称】プリフェッチ動作の調整方法及びその管理システム

(51)【国際特許分類】

   G06F 12/0862 20160101AFI20250313BHJP

【ＦＩ】

G06F12/0862

【請求項の数】 20

(21)【出願番号】P 2020158486

(22)【出願日】2020-09-23

(65)【公開番号】P2021051747

(43)【公開日】2021-04-01

【審査請求日】2023-08-02

(31)【優先権主張番号】62/903,642

(32)【優先日】2019-09-20

(33)【優先権主張国・地域又は機関】US

(31)【優先権主張番号】16/887,567

(32)【優先日】2020-05-29

(33)【優先権主張国・地域又は機関】US

(73)【特許権者】

【識別番号】390019839

【氏名又は名称】三星電子株式会社

【氏名又は名称原語表記】Ｓａｍｓｕｎｇ Ｅｌｅｃｔｒｏｎｉｃｓ Ｃｏ．，Ｌｔｄ．

【住所又は居所原語表記】１２９，Ｓａｍｓｕｎｇ－ｒｏ，Ｙｅｏｎｇｔｏｎｇ－ｇｕ，Ｓｕｗｏｎ－ｓｉ，Ｇｙｅｏｎｇｇｉ－ｄｏ，Ｒｅｐｕｂｌｉｃ ｏｆ Ｋｏｒｅａ

(74)【代理人】

【識別番号】110000051

【氏名又は名称】弁理士法人共生国際特許事務所

(72)【発明者】

【氏名】朴 熙 權

(72)【発明者】

【氏名】洪 一 九

(72)【発明者】

【氏名】李 好 彬

(72)【発明者】

【氏名】奇 亮 ソク

【審査官】田名網 忠雄

(56)【参考文献】

【文献】米国特許出願公開第２０１１／０１３１３８０（ＵＳ，Ａ１）

【文献】特開２０１１－２５８０１６（ＪＰ，Ａ）

【文献】特開２０１４－１２７１１６（ＪＰ，Ａ）

【文献】特開２０１９－１３３６６２（ＪＰ，Ａ）

【文献】特開２０１４－０３８５１１（ＪＰ，Ａ）

【文献】特表２００７－５２０８１２（ＪＰ，Ａ）

【文献】米国特許出願公開第２０１９／００６５３７７（ＵＳ，Ａ１）

【文献】米国特許出願公開第２００９／００５５５９５（ＵＳ，Ａ１）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｆ １２／０８６２

(57)【特許請求の範囲】

【請求項1】

プロセッサ上で実行される管理システムのプリフェッチ動作の調整方法であって、
プリフェッチ距離を設定する段階と、
プリフェッチトリガーキーにアクセスする段階と、
目標キーが前記プリフェッチトリガーキーから前記プリフェッチ距離の外にあると判定する段階と、
目標キーが前記プリフェッチトリガーキーから前記プリフェッチ距離の外にあると判定した場合、前記プリフェッチ距離を増加させる段階と、
プリフェッチ先読みバッファから後続プリフェッチトリガーキーの後続目標キーを正しくフェッチする段階と、を有することを特徴とするプリフェッチ動作の調整方法。

【請求項2】

追加の後続プリフェッチトリガーキーが前記プリフェッチ先読みバッファにないと判定する段階と、
追加の後続プリフェッチトリガーキーが前記プリフェッチ先読みバッファにないと判定した場合、前記追加の後続プリフェッチトリガーキーの追加の後続目標キーに対するプリフェッチ動作を省略する段階と、を更に有することを特徴とする請求項１に記載のプリフェッチ動作の調整方法。

【請求項3】

追加の後続プリフェッチトリガーキーが前記プリフェッチ先読みバッファにないと判定した場合、前記プリフェッチ距離を減少させる段階を更に有することを特徴とする請求項２に記載のプリフェッチ動作の調整方法。

【請求項4】

前記プリフェッチ距離を減少させる段階は、前記プリフェッチ距離を１つのキー分減少させる段階を含むことを特徴とする請求項３に記載のプリフェッチ動作の調整方法。

【請求項5】

前記プリフェッチ距離を増加させる段階は、前記プリフェッチ距離を指数関数的に増加させる段階を含むこと特徴とする請求項１に記載のプリフェッチ動作の調整方法。

【請求項6】

前記プリフェッチ先読みバッファがオーバーフローしたことを判定する段階と、
前記プリフェッチ先読みバッファがオーバーフローしたことを判定した場合、追加の後続プリフェッチトリガーキーに対応するデータがキャッシュされたことを示すように前記追加の後続プリフェッチトリガーキーのキャッシュされたフラグを変更し、前記追加の後続プリフェッチトリガーキーに対応するデータをキー値データベースのキャッシュに挿入する段階と、を更に有することを特徴とする請求項１に記載のプリフェッチ動作の調整方法。

【請求項7】

前記後続プリフェッチトリガーキーがプリフェッチ動作候補である各々のキーを追跡するための、仮想キャッシュとして動作するシミュレーションキャッシュに存在すると判定する段階と、
前記後続プリフェッチトリガーキーが前記シミュレーションキャッシュに存在すると判定した場合、プリフェッチ動作を再初期化する段階と、を更に有することを特徴とする請求項６に記載のプリフェッチ動作の調整方法。

【請求項8】

記憶装置からプリフェッチ先読みバッファにデータを転送するためのプリフェッチ動作の管理システムであって、
前記管理システムは、
プリフェッチ距離を設定し、
プリフェッチトリガーキーにアクセスし、
目標キーが前記プリフェッチトリガーキーから前記プリフェッチ距離の外にあると判定し、
目標キーが前記プリフェッチトリガーキーから前記プリフェッチ距離の外にあると判定した場合、前記プリフェッチ距離を増加させ、
プリフェッチ先読みバッファから後続プリフェッチトリガーキーの後続目標キーを正しくフェッチするように構成されることを特徴とするプリフェッチ動作の管理システム。

【請求項9】

追加の後続プリフェッチトリガーキーが前記プリフェッチ先読みバッファにないと判定し、
追加の後続プリフェッチトリガーキーが前記プリフェッチ先読みバッファにないと判定した場合、前記追加の後続プリフェッチトリガーキーの追加の後続目標キーに対するプリフェッチ動作を省略するように更に構成されることを特徴とする請求項８に記載のプリフェッチ動作の管理システム。

【請求項10】

追加の後続プリフェッチトリガーキーが前記プリフェッチ先読みバッファにないと判定した場合、前記プリフェッチ距離を減少させるように更に構成されることを特徴とする請求項９に記載のプリフェッチ動作の管理システム。

【請求項11】

前記プリフェッチ距離を減少させる場合、前記プリフェッチ距離を１つのキー分減少させるように構成されることを特徴とする請求項１０に記載のプリフェッチ動作の管理システム。

【請求項12】

前記プリフェッチ距離を増加させる場合、前記プリフェッチ距離を指数関数的に増加させるように構成されることを特徴とする請求項８に記載のプリフェッチ動作の管理システム。

【請求項13】

前記管理システムは、
前記プリフェッチ先読みバッファがオーバーフローしたことを判定し、
前記プリフェッチ先読みバッファがオーバーフローしたことを判定した場合、追加の後続プリフェッチトリガーキーに対応するデータがキャッシュされたことを示すように前記追加の後続プリフェッチトリガーキーのキャッシュされたフラグを変更し、前記追加の後続プリフェッチトリガーキーに対応するデータをキー値データベースのキャッシュに挿入するように更に構成されることを特徴とする請求項８に記載のプリフェッチ動作の管理システム。

【請求項14】

前記管理システムは、
前記後続プリフェッチトリガーキーがプリフェッチ動作候補である各々のキーを追跡するための、仮想キャッシュとして動作するシミュレーションキャッシュに存在すると判定し、
前記後続プリフェッチトリガーキーが前記シミュレーションキャッシュに存在すると判定した場合、プリフェッチ動作を再初期化するように構成されることを特徴とする請求項１３に記載のプリフェッチ動作の管理システム。

【請求項15】

記憶装置からプリフェッチ先読みバッファにデータを転送するためのプリフェッチ動作の管理システム上に実装された非一時的なコンピュータ読み取り可能な記録媒体であって、
前記非一時的なコンピュータ読み取り可能な記録媒体は、プロセッサ上で実行される際に、プリフェッチ動作の調整方法を実行させるコンピュータコードを有し、
前記方法は、
プリフェッチ距離を設定する段階と、
プリフェッチトリガーキーにアクセスする段階と、
目標キーが前記プリフェッチトリガーキーから前記プリフェッチ距離の外にあると判定する段階と、
目標キーが前記プリフェッチトリガーキーから前記プリフェッチ距離の外にあると判定した場合、前記プリフェッチ距離を増加させる段階と、
プリフェッチ先読みバッファから後続プリフェッチトリガーキーの後続目標キーを正しくフェッチする段階と、を有することを特徴とする非一時的なコンピュータ読み取り可能な記録媒体。

【請求項16】

前記方法は、
追加の後続プリフェッチトリガーキーが前記プリフェッチ先読みバッファにないと判定する段階と、
追加の後続プリフェッチトリガーキーが前記プリフェッチ先読みバッファにないと判定した場合、前記追加の後続プリフェッチトリガーキーの追加の後続目標キーに対するプリフェッチ動作を省略する段階と、を更に有することを特徴とする請求項１５に記載の非一時的なコンピュータ読み取り可能な記録媒体。

【請求項17】

前記方法は、追加の後続プリフェッチトリガーキーが前記プリフェッチ先読みバッファにないと判定した場合、前記プリフェッチ距離を減少させる段階を更に有することを特徴とする請求項１６に記載の非一時的なコンピュータ読み取り可能な記録媒体。

【請求項18】

前記プリフェッチ距離を増加させる段階は、前記プリフェッチ距離を指数関数的に増加させる段階を含むことを特徴とする請求項１５に記載の非一時的なコンピュータ読み取り可能な記録媒体。

【請求項19】

前記方法は、
前記プリフェッチ先読みバッファがオーバーフローしたことを判定する段階と、
前記プリフェッチ先読みバッファがオーバーフローしたことを判定した場合、追加の後続プリフェッチトリガーキーに対応するデータがキャッシュされたことを示すように前記追加の後続プリフェッチトリガーキーのキャッシュされたフラグを変更し、前記追加の後続プリフェッチトリガーキーに対応するデータをキー値データベースのキャッシュに挿入する段階と、を更に有することを特徴とする請求項１５に記載の非一時的なコンピュータ読み取り可能な記録媒体。

【請求項20】

前記方法は、
前記後続プリフェッチトリガーキーがプリフェッチ動作候補である各々のキーを追跡するための、仮想キャッシュとして動作するシミュレーションキャッシュに存在すると判定する段階と、
前記後続プリフェッチトリガーキーが前記シミュレーションキャッシュに存在すると判定した場合、プリフェッチ動作を再初期化する段階と、を更に有することを特徴とする請求項１９に記載の非一時的なコンピュータ読み取り可能な記録媒体。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、一般にプリフェッチ（ＰＲＥＦＥＴＣＨＩＮＧ）動作の調整方法及びその管理システムに関し、より詳細には、記憶装置におけるプリフェッチ動作に関するデータ格納及びデータ検索の際の調整方法及びその管理システムに関する。

【背景技術】

【0002】

プリフェッチは、データをメインメモリ（例えば、キー値デバイス（Ｋｅｙ－Ｖａｌｕｅ ｄｅｖｉｃｅ：ＫＶ ｄｅｖｉｃｅ））から一時的な記憶装置（例えば、キャッシュメモリ）にデータを転送し、データを後で使用できるように準備する過程をいう。データは、一般にメインメモリでよりも一時的メモリで更に速くアクセスされるため、プリフェッチが使用される。即ち、プリフェッチは、比較的直ぐに必要になると予想される結果を有するフェッチ（Ｆｅｔｃｈ）動作を開始することで、フェッチ動作を加速化するのに使用される。

【0003】

格納システムにおけるプリフェッチ動作は、増加又は減少したアドレッシングでデータの読み取り、処理、及び書き込みを行うデータへのシーケンシャルアクセスパターンを増加させるのに有用である。例えば、ＫＶＳＳＤ（Ｋｅｙ－Ｖａｌｕｅ Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）を使用して実行されるシーケンシャルアクセスは、プリフェッチ動作を使用して向上する。しかし、与えられた格納システムへの入／出力パターン（Ｉｎｐｕｔ／Ｏｕｔｐｕｔ ｐａｔｔｅｒｎ：Ｉ／Ｏ ｐａｔｔｅｒｎ）を考慮することなくプリフェッチ動作を実行すると（例えば、入／出力パターンがシーケンシャルかランダムかを考慮することなくプリフェッチ動作を実行する場合）、プリフェッチ動作は、システムに負担をかけるか又は入／出力帯域幅を無駄にして、システム性能に悪影響を及ぼす。例えば、プリフェッチ要求そのものが入／出力の負担をシステムにかける。

【0004】

上記背景技術は、本発明の背景に対する理解を助けるためのものであるだけであり、従来技術ではない内容を含むこともある。

【先行技術文献】

【特許文献】

【0005】

【文献】国際公開第２０１５／１０５７２１号

【発明の概要】

【発明が解決しようとする課題】

【0006】

本発明は、上記従来の問題点に鑑みてなされたものであって、本発明の目的は、データ格納及びデータ検索が改善されたプリフェッチ動作の調整方法及びその管理システムを提供することにある。

【課題を解決するための手段】

【0007】

上記目的を達成するためになされた本発明の一態様によるプリフェッチ動作の調整方法は、プリフェッチ距離を設定する段階と、プリフェッチトリガーキーにアクセスする段階と、前記プリフェッチトリガーキーから前記プリフェッチ距離外にある目標キーを設定する段階と、前記プリフェッチ距離を増加させる段階と、プリフェッチ先読みバッファからの後続プリフェッチトリガーキーの後続目標キーを正しくフェッチする段階と、を有する。

【0008】

前記プリフェッチ動作の調整方法は、追加の後続プリフェッチトリガーキーが前記プリフェッチ先読みバッファにないと決定する段階と、前記追加の後続プリフェッチトリガーキーの追加の後続目標キーに対するプリフェッチ動作を省略する段階と、を更に有し得る。
前記プリフェッチ動作の調整方法は、プリフェッチ距離を減少させる段階を更に有し得る。
前記プリフェッチ距離を減少させる段階は、前記プリフェッチ距離を１つのキー分減少させ得る。
前記プリフェッチ距離を増加させる段階は、前記プリフェッチ距離を指数関数的に増加させ得る。
前記プリフェッチ動作の調整方法は、前記プリフェッチ先読みバッファがオーバーフローしたことを確認する段階と、追加の後続プリフェッチトリガーキーに対応するエントリをキー値データベースのキャッシュに挿入する段階と、を更に有し得る。
前記プリフェッチ動作の調整方法は、シミュレーションキャッシュに前記後続プリフェッチトリガーキーが存在すると決定する段階と、プリフェッチ動作を再初期化する段階とを、更に有し得る。

【0009】

上記目的を達成するためになされた本発明の一態様による記憶装置からプリフェッチ先読みバッファにデータを転送するためのプリフェッチ動作の管理システムは、プリフェッチ距離を設定し、プリフェッチトリガーキーにアクセスし、前記プリフェッチトリガーキーから前記プリフェッチ距離外にある目標キーを設定し、前記プリフェッチ距離を増加させ、プリフェッチ先読みバッファからの後続プリフェッチトリガーキーの後続目標キーを正しくフェッチするように構成される。

【0010】

前記プリフェッチ動作の管理システムは、追加の後続プリフェッチトリガーキーが前記プリフェッチ先読みバッファにないと決定し、前記追加の後続プリフェッチトリガーキーの追加の後続目標キーに対するプリフェッチ動作を省略するように更に構成され得る。
前記プリフェッチ動作の管理システムは、前記プリフェッチ距離を減少させるように更に構成され得る。
前記プリフェッチ距離を減少させる場合、前記プリフェッチ距離を１つのキー分減少させるように構成され得る。
前記プリフェッチ距離を増加させる場合、前記プリフェッチ距離を指数関数的に増加させるように構成され得る。
前記管理システムは、前記プリフェッチ先読みバッファがオーバーフローしたことを確認し、追加の後続プリフェッチトリガーキーに対応するエントリをキー値データベースのキャッシュに挿入するように更に構成され得る。
前記管理システムは、シミュレーションキャッシュに前記後続プリフェッチトリガーキーが存在すると決定し、プリフェッチ動作を再初期化するように構成され得る。

【0011】

上記目的を達成するためになされた本発明の一態様による記憶装置からプリフェッチ先読みバッファにデータを転送するためのプリフェッチ動作の管理システム上に実装された非一時的なコンピュータ読み取り可能な記録媒体は、プロセッサ上で実行される際に、プリフェッチ動作の調整方法を実行させるコンピュータコードを有し、前記方法は、プリフェッチ距離を設定する段階と、プリフェッチトリガーキーにアクセスする段階と、前記プリフェッチトリガーキーから前記プリフェッチ距離外にある目標キーを設定する段階と、前記プリフェッチ距離を増加させる段階と、プリフェッチ先読みバッファからの後続プリフェッチトリガーキーの後続目標キーを正しくフェッチする段階と、を有する。

【0012】

前記コンピュータコードは、前記プロセッサ上で実行される際に、追加の後続プリフェッチトリガーキーが前記プリフェッチ先読みバッファにないと決定する段階と、前記追加の後続プリフェッチトリガーキーの追加の後続目標キーに対するプリフェッチ動作を省略する段階と、を更に実行させ得る。
前記コンピュータコードは、前記プロセッサ上で実行される際に、前記プリフェッチ距離を減少させる段階を更に実行させ得る。
前記コンピュータコードは、前記プロセッサ上で実行される際に、前記プリフェッチ距離を指数関数的に増加させる段階を実行させるように構成され得る。
前記コンピュータコードは、前記プロセッサ上で実行される際に、前記プリフェッチ先読みバッファがオーバーフローしたことを確認する段階と、追加の後続プリフェッチトリガーキーに対応するエントリをキー値データベースのキャッシュに挿入する段階と、を更に実行させ得る。
前記コンピュータコードは、前記プロセッサ上で実行される際に、シミュレーションキャッシュに前記後続プリフェッチトリガーキーが存在すると決定する段階と、プリフェッチ動作を再初期化する段階と、を更に実行させ得る。

【発明の効果】

【0013】

本発明によれば、プリフェッチメカニズムを提供することで、データ格納及び検索を改善することができる。
また、プリフェッチ動作の結果により対応する負担がシステムに加わる度合い及び／又はプリフェッチ動作の効率性に基づいて活動性が調整される。

【図面の簡単な説明】

【0014】

【図1】本発明の一実施形態による性能認識プリフェッチ及びキーアクセスが可能なシステムを示すブロック図である。

【図2A】本発明の一実施形態によるプリフェッチ距離を増加、維持、及び減少させる方法を示すブロック図である。

【図2B】本発明の一実施形態によるプリフェッチ距離を増加、維持、及び減少させる方法を示すブロック図である。

【図2C】本発明の一実施形態によるプリフェッチ距離を増加、維持、及び減少させる方法を示すブロック図である。

【図3】本発明の一実施形態によるデータプリフェッチ方法を示すフローチャートである。

【発明を実施するための形態】

【0015】

以下、本発明を実施するための形態の具体例を、図面を参照しながら詳細に説明する。しかし、説明する実施形態は、様々な異なる形態で実現され、本明細書で説明する実施形態に限定されるものではない。むしろ、実施形態は、例示として提供されて本開示が徹底且つ完全なものになり、本発明の態様及び特徴を当業者に完全に伝えられるであろう。従って、当業者が態様及び特徴を理解するのに必要としないプロセス、要素、及び技術は説明しない。

【0016】

特に記載がない限り、類似する参照番号は、図面及び記載された説明全体に亘って同一の要素を表すため、その説明は繰り返さない。また、説明に関連のない部分は、実施形態の説明を明確にするために示さないこともある。図面において、要素、層、及び領域の相対的な大きさは、実施形態の説明を明確にするために誇張することもある。

【0017】

本明細書において、様々な実施形態について完全に理解できるように様々な特定の詳細事項が説明を目的として提示されている。しかし、様々な実施形態は、特定の詳細事項がないか又は１つ以上の等価の構成で実施されることが明らかである。或いは、公知の構造及び装置は、様々な実施形態を不必要に曖昧にならないようにブロック図の形態で示す。

【0018】

また、「第１」、「第２」、「第３」などの用語は、本明細書で様々な要素、構成要素、領域、層、及び／又はセクション、これらの要素、構成要素、領域、及び／又はセクションションを説明するために使用されるが、これらの用語に限定するものではない。これらの用語は、１つの要素、構成要素、領域、層、及び／又はセクションを他の要素、構成要素、領域、層、及び／又はセクションと区別するために使用される。従って、後述する第１要素、構成要素、領域、層、及び／又はセクションは、本発明の思想や範囲を逸脱することなく、第２要素、構成要素、領域、層、及び／又はセクションとし得る。

【0019】

本明細書で使用する用語は、単に特定の実施形態を説明するためのものであり、本発明を限定するものではない。本明細書で使用する単数の表現は、文脈上明確に異なる意味を持たない限り、複数の表現を含む。本明細書において、「含む」又は「有する」という用語は、特徴、数字、段階、動作、構造的要素、部分、又はそれらの組み合わせが存在することを示し、１つ以上の他の特徴、数字、段階、動作、構造的要素、部分、又はこれらの組み合わせの追加の存在や確率を排除しないことを理解すべきである。本明細書で使用する「及び／又は」という用語は、１つ以上の関連項目の任意の且つ全ての組み合わせを含む。

【0020】

本明細書で使用する「実質的に」、「約」、「およそ」、及びこれと似た用語は、程度ではなく、近似値として使用し、当業者が認識する測定値又は計算値の固有偏差を説明するためのものである。本明細書で使用する「約」又は「およそ」という用語は、言及する値及び特定の数量の測定に関する誤差（即ち、測定システムの限界）を考慮して、当業者によって決定される特定値の許容可能な偏差範囲内の値を含む。例えば、「約」は、言及する値の１つ以上の標準偏差以内又は±３０％、２０％、１０％、５％以内を意味する。更に、本発明の実施形態を説明する際に「してもよい」は「本発明の１つ以上の実施形態」を指す。

【0021】

特定の実施形態を異なって実施する場合、特定のプロセスの順序は、説明する順序と異なって行ってもよい。例えば、連続して説明する２つのプロセスは、実質的に同時に行ってもよく、又は説明する順序と逆の順序で行ってもよい。

【0022】

本発明の実施形態による電子又は電気装置及び／又は他の関連装置又は構成要素は、任意の適切なハードウェア、ファームウェア（例えば、応用－特定用途向け集積回路）、ソフトウェア又はハードウェア、ファームウェア及びソフトウェアの組み合わせを利用して実装される。例えば、装置の様々な構成要素は、１つの集積回路（Ｉｎｔｅｇｒａｔｅｄ Ｃｉｒｃｕｉｔ：ＩＣ）チップ又は別のＩＣチップに形成される。装置の様々な構成要素は、フレキシブルプリント回路フィルム、テープキャリアパッケージ（Ｔａｐｅ Ｃａｒｒｉｅｒ Ｐａｃｋａｇｅ：ＴＣＰ）、プリント回路基板（Ｐｒｉｎｔｅｄ Ｃｉｒｃｕｉｔ Ｂｏａｒｄ：ＰＣＢ）上に実装されるか、又は１つの基板上に形成される。

【0023】

更に、装置の様々な構成要素は、１つ以上のプロセッサ又はコンピューティング装置上で実行され、コンピュータプログラム命令を実行し、本明細書で説明する様々な機能を行うために他のシステムの構成要素と相互作用するプロセス又はスレッド（ｔｈｒｅａｄ）である。コンピュータプログラム命令は、ランダムアクセスメモリ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ：ＲＡＭ）などの標準メモリ装置を使用してコンピューティング装置内に実装されるメモリに格納される。コンピュータプログラム命令は、ＣＤ－ＲＯＭやフラッシュドライブなどの非一時的なコンピュータ読み取り可能な記録媒体に格納される。また、当業者は、本発明による実施形態の思想及び範囲を逸脱することなく、様々なコンピューティング装置の機能が単一のコンピューティング装置に結合若しくは統合されるか、又は特定のコンピューティング装置の機能が１つ以上の他のコンピューティング装置に分散されることを認識すべきである。

【0024】

特に定義しない限り、本明細書で使用する全ての用語（技術的用語及び科学的用語を含む）は、本発明が属する技術分野の通常の知識を有する者が一般に理解するものと同じ意味を有する。また、通常使用される辞書に定義されている用語は、本明細書で明らかに定義しない限り、関連技術及び／又は本明細書の文脈における意味と一致する意味を有すると解釈すべきであり、理想的又は過度に形式的な意味に解釈すべきではない。

【0025】

一部の先読み（ｒｅａｄ－ａｈｅａｄ）メカニズムは、先読み状態を管理しない。代わりに、先読み動作は、ミスしたページ又は既読として示されたページ（例えば、「ＰＧ＿先読み」（「ＰＧ＿ｒｅａｄａｈｅａｄ」）として示されたページ）にアクセスする場合にのみトリガーされる。従って、先読みメカニズムは、システムの輻輳が検出されるまで（例えば、ＰＧ＿先読みインジケーターの使用が検出されるまで）、プリフェッチウィンドウのサイズを増加させるためにプリフェッチ距離を単に増加させる。また、先読みメカニズムは、プリフェッチ先読みバッファ又は他の場所でページが検索されるか否かとは無関係である。先読みメカニズムは、全ての新たな非同期先読みトリガーを単に先読み（又は、ＰＧ＿先読み）インジケーターに示す。

【0026】

従って、プリフェッチ制御メカニズムを使用して入／出力アクセスパターンを自動的に識別することによって、システム動作にやや利点がある。

【0027】

ＫＶＳＳＤ等のキー値デバイスは、ホストサーバ又はストレージアレイコントローラによって要求されたデータブロックの読み取り及び書き込みとは対照的に、デバイス上にオブジェクト様の（ｏｂｊｅｃｔ－ｌｉｋｅ）格納方式を実現する。

【0028】

キー値デバイスは、オブジェクトキー値ペアとキー値デバイスの基本ブロックとの間で有効に変換するオブジェクト変換層（Ｏｂｊｅｃｔ Ｔｒａｎｓｌａｔｉｏｎ Ｌａｙｅｒ：ＯＴＬ）を有する。また、ＶＳＳＤは、デバイスレベルでキー値インタフェースを提供し、性能の向上及びストレージ管理の単純化を提供する。

【0029】

即ち、これは、高性能スケーリング、変換プロセッサ（例えば、オブジェクトデータ及びブロックデータ間の変換）の単純化及び駆動能力の拡張を可能にする。ＫＶＳＳＤのファームウェア内のキー値ストアロジックを統合することで、ＫＶＳＳＤはホストソフトウェアとの演算を減らし、アプリケーションの直接データ要求に応答する。ＫＶＳＳＤは、処理能力を提供するために、フラッシュ変換層（Ｆｌａｓｈ Ｔｒａｎｓｌａｔｉｏｎ Ｌａｙｅｒ：ＦＴＬ）ソフトウェアを使用して拡張することができるＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）ハードウェアを更に使用する。

【0030】

上述のように、プリフェッチは、比較的速く必要になると予想されるフェッチ動作を開始することにより、フェッチ動作を加速化するために使用される。しかし、通常、プリフェッチは、どのようなデータが必要かを知る前に発生する。従って、最終的に使用しないデータをプリフェッチすることにより、時間及びリソースを浪費する危険がある。即ち、一時的な記憶装置からデータに迅速にアクセスするために得られる利点は、メインメモリから一時的な記憶装置の転送データの多くが一時的な記憶装置によってアクセスされない場合に関連するシステムオーバーヘッドによって相殺される。従って、以下に説明するように、プリフェッチポリシーは、比較的近い時点に一時的な記憶装置から検索されることが予想されるデータのみをプリフェッチすることを追求する。

【0031】

本発明による実施形態は、プリフェッチ動作が不必要にシステムの負担を増やす場合にプリフェッチ動作を減らし、プリフェッチ動作の範囲が有効ではない場合にプリフェッチ動作を増やすことによって、改善されたデータ格納及び検索方法を提供する。即ち、本発明の実施形態は、以下に説明するように、データプリフェッチ距離に対応するデータの量をプリフェッチするために、プリフェッチ距離を設定し（例えば、繰り返し）、プリフェッチ距離があまり大きくないかについて又は逆に有用なサイズよりも大きいかについてシステム性能を分析し、分析結果に基づいてプリフェッチ距離を調整する段階を含む性能認識プリフェッチ技術に関する。

【0032】

性能認識プリフェッチ技術は、キー値システムのプリフェッチデータをプリフェッチ動作中に発生する入／出力帯域幅又はシステムリソースに関する問題を解決する。

【0033】

このようなプリフェッチ動作に関する問題は、１つ以上のプリフェッチグループウィンドウのプリフェッチ距離を適応させることにより解決され、プリフェッチ要求バッファが満たされてデータが転送されなくても、プリフェッチ動作候補である各々のキーを追跡するシミュレーションキャッシュを実現することで解決される。即ち、シミュレーションキャッシュは、「実際」にプリフェッチ要求を転送することなく使用され、入／出力要求の数を減少させる。

【0034】

図１は、本発明の一実施形態による性能認識プリフェッチ及びキーアクセスが可能なシステムを示すブロック図であり、図２Ａ～図２Ｃは、本発明の一実施形態によるプリフェッチ距離を増加、維持、及び減少させる方法を示すブロック図である。

【0035】

図１、図２Ａ～図２Ｃを参照すると、プリフェッチ距離２１０（又は、プリフェッチウィンドウサイズ）は１つのプリフェッチ動作でどのくらいのデータがプリフェッチされるか決定し、プリフェッチ距離２１０が大きいほど、プリフェッチ動作中にキャッシュメモリに配置するためにストレージから検索されるデータの量が大きくなる。プリフェッチ距離２１０のサイズは、システム性能（例えば、後述するキー値デバイス１６０、キー値ドライバ１７０、及びキャッシュメモリ１３０を含むキー値データベース１８０を有するキー値システム１００のシステム性能）と、プリフェッチヒット率（例えば、プリフェッチされたデータから目標データが見つかる決定率及びプリフェッチされたデータの量は、プリフェッチ距離２１０によって決定）との組み合わせを考慮して調整する。

【0036】

例えば、通常、プリフェッチされたデータのうちから目標データが見つからない場合、プリフェッチ距離２１０は増加し（例えば、指数関数的、直線的、増分的、及びその他の方法で増加）、従って後続プリフェッチ動作でプリフェッチされるデータの量が増加する。しかし、図２Ｃに示すように、システム性能が低下し始めるか又はプリフェッチ動作に応じて所望の利点が得られない場合、プリフェッチ距離２１０が減少するか又はプリフェッチ動作が省略される。

【0037】

一部の実施形態において、キー値システム１００は、有効なプリフェッチ距離２１０になると予想されることを最初に決定する。即ち、キー値システム１００は、どのくらい先にプリフェッチが行われるかを決定する（例えば、プリフェッチ距離２１０は、５１２バイトになる）。説明を簡略にするため、後述する実施形態では、比較的小さなプリフェッチ距離２１０（例えば、１つのキー～８つのキーのプリフェッチ距離２１０）を使用する。

【0038】

キー値システム１００は、キー値システム１００がプリフェッチ距離２１０内のプリフェッチトリガーキー２２０に対応する読み取り値（ｒｅａｄ ｖａｌｕｅ）（又は、読み取りデータ（ｒｅａｄ ｄａｔａ））をフェッチすることが可能な場合、プリフェッチ距離２１０が効率的であると決定する（例えば、キー値システム１００のキー値データベース１８０のキャッシュ１３０から、又はキー値システム１００のキー値ドライバ１７０のプリフェッチ先読みバッファ１５０（又は、プリフェッチバッファ）からの読み取り値をフェッチすることが可能であり、キャッシュ１３０は価値（ｖａｌｕｅ）キャッシュである）。

【0039】

本明細書において、プリフェッチトリガーキー２２０は、与えられたプリフェッチウィンドウの先頭にあり、プリフェッチウィンドウのサイズは、プリフェッチ距離２１０と同一である。プリフェッチトリガーキー２２０は、読み取り値が正しくプリフェッチされるか否かに応じて、プリフェッチ距離２１０を増加させるためのトリガーとして動作する。

【0040】

プリフェッチ距離２１０が非効率的と決定された場合（例えば、プリフェッチトリガーキー２２０に対応する読み取り値がプリフェッチ距離２１０内に無い場合）、キー値システム１００は、プリフェッチ距離２１０が効率的と決定されるまで、プリフェッチ距離２１０を増加させる。

【0041】

従って、プリフェッチ先読みバッファ１５０から目標データがフェッチされると、キー値システム１００は、「ヒット」が発生したと決定する。その際、キー値システム１００は、プリフェッチ距離２１０を「検索－有効」プリフェッチ距離として示す。その後、後にアクセスされる各目標キーに対するヒットが発生する限り、プリフェッチ距離２１０は、「検索－有効」プリフェッチ距離で維持される。しかし、プリフェッチトリガーキー２２０に対応する目標データがプリフェッチ距離２１０を使用するプリフェッチ先読みバッファ１５０からフェッチすることができない場合、キー値システム１００は、「ミス」が発生したと決定し、プリフェッチ距離２１０を増加させる。

【0042】

その後、キー値システム１００は、任意の後続アクセスキーに対する目標キーをプリフェッチするために唯１つの先読み要求を転送する。目標キーとアクセスキーとの距離はプリフェッチ距離２１０に等しい。先読み要求は、プリフェッチされたページが比較的直ぐに必要になると予想して（例えば、キー値システム１００に接続されたユーザアプリケーションによって必要な場合）、バッファ（例えば、プリフェッチ先読みバッファ１５０）で複数のページを非同期にプリフェッチする入／出力要求である。

【0043】

図２Ａを参照すると、本例示において、第１キー（例えば、図２Ａに「１」と示される第１キー）は、プリフェッチ動作を開始するために最初にアクセスされる（動作（１）参照）。キー値システム１００は、第１キーに対応する読み取り値がキャッシュ１３０に存在するか否かを判断するために、第１キーに関する「キャッシュされた」フラグを検査する。

【0044】

第１キーがキャッシュ１３０に存在しない場合、キー値システム１００は、要求されたキーである第１キーに対応する要求がキー値データベース１８０のプリフェッチ要求バッファ１１０（又は、プリフェッチ要求キュー（ｑｕｅｕｅ））に存在するか否かを確認するために、「プリフェッチされた」フラグを検査する。

【0045】

第１キーがデータベース１８０のキャッシュ１３０及びプリフェッチ要求バッファ１１０に存在しない場合、キー値システム１００は、要求されたキーである第１キーに対する読み取り要求（例えば、「読み取り（又は、取得）要求」）を同期入／出力経路１９５を介して提出する。同期入／出力経路１９５は、入／出力経路１９５に対応するキー値デバイス１６０（例えば、ＫＶＳＳＤ装置）とデータベース１８０との間にある。

【0046】

次に、第１キーに対応する「読み取り値」がキー値デバイス１６０からキャッシュ１３０に挿入され、第１キーの「キャッシュされた」フラグは、第１キーに対応するデータがキャッシュされたことを示すように変更される。

【0047】

その後、プリフェッチ要求は、アクセスされたキーの直前のキー及び直後のキー（例えば、第１キーの直前のキー及び直後のキー）の各々に提出される。即ち、プリフェッチ要求が正方向及び逆方向に提出される。従って、本例示において、第０キー及び第２キーに対してプリフェッチ要求が提出され（動作（２）参照）、第０キー及び第２キーは、プリフェッチトリガーキー２２０として扱われる。

【0048】

第０キー及び第２キーに対応するデータに対する要求は、プリフェッチ要求バッファ１１０に入力され、第０キー及び第２キーは、関連する「プリフェッチされた」フラグによってプリフェッチされたとしてフラグが立てられる（例えば、第０キー及び第２キーに対するプリフェッチ要求が提出された後、又は第１キーに対する読み取り（又は取得）要求が提出される前）。次に、第１キー及び第２キーに対応するデータに対する要求は、非同期入／出力経路１９０（例えば、キー値ドライバ１７０とキー値データベース１８０との非同期入／出力経路１９０）を介して要求キュー１４０に進む。要求キュー１４０は、非同期要求キューである。

【0049】

次に、第１キー値のコピーは、キャッシュ１３０からユーザデバイス（又は、ユーザアプリケーション）に戻される。

【0050】

次に、キーがアクセスされる方向に沿って（例えば、ユーザアプリケーションによってアクセスされる方向）第０キー（逆方向）又は第２キー（正方向）がアクセスされる。本例示において、第２キーは、第２キーに対する「読み取り（又は取得）要求」を転送することによりアクセスされる（動作（３）参照）。キー値システム１００は、第２キーがキャッシュ１３０にキャッシュされるか、又はプリフェッチ要求バッファ１１０にプリフェッチされるかを決定するために、第２キーに関するフラグ（即ち、「キャッシュされたフラグ」及び「プリフェッチされたフラグ」）を検査する。

【0051】

第２キーがプリフェッチされて第２キーに関する要求がプリフェッチ要求バッファ１１０に位置するため、第２キーに対するキー値デバイス１６０とキー値データベース１８０との間の同期入／出力経路１９５を介して読み取り（又は、取得）要求がキー値デバイス１６０に提出される。

【0052】

次に、キー値ドライバ１７０は、要求キュー１４０及びプリフェッチ先読みバッファ１５０の双方を検査して、第２キーに対応する要求が存在するか否かを判断する。第２キーが要求キュー１４０に示されているため、キー値ドライバ１７０は、保留中の要求キュー１４０からの第２キーに対応する非同期要求を取り消し、代わりに第２キーに対応する同期要求を同期入／出力経路１９５を介して提出する。

【0053】

キー値ドライバ１７０は、第２キーに関する読み取り値を戻す。第２キーがキャッシュ１３０になかったため、第２キーの読み取り値は、例えば先読みミス（「ｒｅａｄ－ａｈｅａｄ ｍｉｓｓ」）のフラグと共に戻される。例えば、第２キーの読み取り値は、同期入／出力経路１９５を介して戻される。次に、第２キーは、キー値デバイス１６０からキャッシュ１３０に移動される。

【0054】

従って、キー値データベース１８０は、要求されたキーである第２キーがプリフェッチされたものの、先読み要求が失敗したことを認識する。そのため、プリフェッチ距離２１０は、増加し（例えば、本例示では、２つのキーのプリフェッチ距離２１０まで。但し、プリフェッチ距離２１０の増加の度合いは制限されず、他の実施形態では異なる）、プリフェッチキーに対して１つ以上のフラグ（例えば、キーがプリフェッチトリガーキーであるか否かを示すフラグ、及び／又はキーが正方向又は逆方向に読み取られていることを示すフラグ）が設定される。

【0055】

プリフェッチ距離２１０が２つのキーに増加した状態で、第３キー及び第４キーはプリフェッチされ、第３キーはプリフェッチトリガーキー２２０（即ち、動作（４）を参照すると、プリフェッチ距離２１０に対応する２つのキーの内の最初のキー）になる。

【0056】

第３キー及び第４キーに対応する要求は、プリフェッチ要求バッファ１１０に配置され、続いて非同期入／出力経路１９０（例えば、プリフェッチ要求バッファ１１０と要求キュー１４０との間）を介して提出され、要求キュー１４０に配置される。次に、第２キーと同様に、キー値ドライバ１７０は、第３キーに対する読み取り（又は取得）要求を同期入／出力経路１９５を介して提出し、要求キュー１４０からの第３キーを取り消す。

【0057】

その後、第３キーに関する値のコピーは、「先読みミス」のフラグと共にキー値デバイス１６０から同期入／出力経路１９５を介してキャッシュ１３０に提出される（動作（５）参照）。上述と同様に、第３キーは、プリフェッチトリガーキー２２０であるため、「先読みミス」のフラグによりプリフェッチ距離２１０が再び増加する。本例示において、プリフェッチ距離２１０は、４つのキーに増加する（例えば、プリフェッチ距離２１０は２倍になる）。しかし、プリフェッチ距離２１０が増加する度合いは制限されず、他の例示では更に（例えば、徐々に）増加することに留意すべきである。

【0058】

本例示において、第５キー、第６キー、及び第７キーは、その後プリフェッチされる。第５キーは、プリフェッチ距離２１０に対応する三つのキーの内の最初のキーであるため、第５キーはプリフェッチトリガーキー２２０である（動作（６）参照）。

【0059】

第４キーはアクセスされ、これにより、第３キーがアクセスされたときからプリフェッチ先読みバッファ１５０に第４キーが位置してヒットが発生する（動作（７）参照）。即ち、読み取り（取得）要求は同期入／出力経路１９５を介して提出され、キー値ドライバ１７０が要求キュー１４０及びプリフェッチ先読みバッファ１５０の双方を確認することで、第４キーはプリフェッチ先読みバッファ１５０で識別されてヒットが発生する。

【0060】

その後、非同期要求は、キー値ドライバ１７０によって非同期入／出力経路１９０を介してキー値デバイス１６０に提出され、キー値デバイス１６０から第０キー、第４キー、第５キー、第６キー、及び第７キーが検索されて、非同期入／出力経路１９０を介してプリフェッチ先読みバッファ１５０に配置される。

【0061】

次に、第４キーに関する値は、「先読みヒット」のフラグと共にユーザデバイス（又はユーザアプリケーション）に戻される。その後、第４キーは、プリフェッチ先読みバッファ１５０から同期入／出力経路１９５を介してキャッシュ１３０に移動し、プリフェッチ先読みバッファ１５０から除去される。第４キーは、キャッシュされたものとしてフラグが立てられる。

【0062】

図２Ｂを参照すると、第４キーにアクセスする間に値に関する「先読みヒット」が決定され、また第４キーはプリフェッチトリガーキー２２０ではないため、１つの追加のキーである第８キーが４つのキーと同じプリフェッチ距離２１０でプリフェッチされる（動作（８）参照）。即ち、第８キーのプリフェッチは、第８キーが非同期入／出力経路１９０を介してプリフェッチ要求バッファ１１０から要求キュー１４０に伝達され、要求された第８キーのフラグがプリフェッチ目標（例えば、プリフェッチ距離２１０を増加させるためのトリガーフラグは、これにより第８キーをプリフェッチトリガーキー２２０として示す）に継承されるように発生する。

【0063】

続いて、第５キーに対して読み取り（取得）要求が提出される（動作（９）参照）。第９キーは、第８キーと同様に、プリフェッチ要求バッファ１１０に提出された後、非同期入／出力経路１９０を介して要求キュー１４０に提出される。従って、第５キーがプリフェッチ先読みバッファ１５０に位置しないため、第５キーに関する「先読みミス」のフラグは戻される。その後、第９キー、第１０キー、第１１キー、第１２キー、及び第１３キーがプリフェッチ要求バッファ１１０に配置されるようにプリフェッチされる（動作（１０）参照）。

【0064】

プリフェッチ先読みバッファ１５０は、第５キーに対する読み取り（取得）要求により第５キーにアクセスする際に、第６キー、第７キー、及び第８キーで予め満たされているため、その後第６キー、第７キー、及び第８キーの各々に提出された読み取り（取得）要求に対応する第６キー、第７キー、及び第８キーのアクセスはヒットする（動作（１１）参照）。第６キー、第７キー、及び第８キーの各々のアクセスがヒットしたことからプリフェッチ距離２１０は変更されず、第１４キー、第１５キー、及び第１６キーは、プリフェッチ要求バッファ１１０に位置するようにプリフェッチされる（動作（１２）参照）。

【0065】

図２Ｃを参照すると、第９キーは、プリフェッチトリガーキー２２０にアクセスされ、第５キーに対するアクセスの結果として第９キーがプリフェッチ先読みバッファ１５０に存在するため、ヒットが発生する（動作（１３）参照）。プリフェッチ距離２１０は変更されず、その後単一キーである第１７キーがプリフェッチされる（動作（１４）参照）。

【0066】

次に、第１０キー、第１１キー、第１２キー、第１３キー、第１４キー、第１５キー、及び第１６キーは順次にアクセスされ、キーは有効プリフェッチ距離２１０内にあるため（即ち、先読みバッファ１５０に位置する）、キーは全てヒットとして示される（動作（１５）参照）。従って、第１０キー、第１１キー、第１２キー、第１３キー、第１４キー、第１５キー、及び第１６キーの各々に対する読み取り（取得）要求の結果として、第１８キー、第１９キー、第２０キー、第２１キー、第２２キー、第２３キー、及び第２４キー等の後続キーがプリフェッチ要求バッファ１１０に配置されるようにプリフェッチされる（動作（１６）参照）。

【0067】

上述の例示において、プリフェッチ距離２１０は、増加率に応じて増加する。例えば、キー値システム１００は、最初に２つの連続したキーをカバーするようにプリフェッチ距離２１０を設定する。次に、プリフェッチトリガーキー２２０がプリフェッチ先読みバッファ１５０から目標キーを検索できずにミスを示す場合、キー値システム１００は、プリフェッチ距離２１０を２倍にして４つの連続キーをカバーする。そして、プリフェッチトリガーキー２２０がプリフェッチ先読みバッファ１５０から目標キーを再度検索できない場合、キー値システム１００は、プリフェッチ距離２１０を２倍にして８つの連続キーをカバーする。但し、本発明の実施形態は、これに限定されない（例えば、プリフェッチ距離２１０は、線形的に増加する）。

【0068】

図２Ｃに示すように、目標キーが有効にフェッチされるようにプリフェッチ距離２１０が増加すると（即ち、キー値システム１００が後続アクセスプリフェッチトリガーキー２２０に対する有効プリフェッチ距離２１０を見つけると）、キー値システム１００は、「プリフェッチカウント（ｐｒｅｆｅｔｃｈｉｎｇ ｃｏｕｎｔ）」を「１」に設定する。そして、プリフェッチ距離２１０は、暫くの間保たれる（例えば、目標キーである第１７キー、第２５キー、第３３キー、及び第４１キーのために）。

【0069】

しかし、図２Ｃに示すように、他のシナリオにおいて、本発明の実施形態によるキー値システム１００は、適切な場合にプリフェッチ距離２１０を減少させる。例えば、有効プリフェッチ距離２１０が設定され、プリフェッチトリガーキー２２０以外のキー（例えば、プリフェッチ距離２１０を調整した後、プリフェッチウィンドウの第１キー以外のキー）のアクセス後にバッファ１５０からキーに対する読み取りの試みが失敗した場合、キー値システム１００は、キー値システム１００の入／出力負荷を変更し、有効プリフェッチ距離２１０がキー値システム１００に負担をかけることなくプリフェッチキーでプリフェッチ先読みバッファ１５０を満たすのに適するよりも大きいと決定する。従って、システムの入／出力負荷を低減するために、キー値システム１００はキーに対するプリフェッチを省略し、後続キーのプリフェッチキーポインタはプリフェッチ距離２１０を減少させることによって（例えば、１つ以上のその前のプリフェッチ距離２１０を減少させることによって）変更される。

【0070】

図２Ｃに示す例示において、第４６キーがアクセスされるが、プリフェッチミスを示し、キー値システム１００のシステム入／出力状態が変更したことを示す（動作（１７）参照）。その結果、キー値システム１００は、プリフェッチ動作を中止し、次のキーアクセスまで全てのキーに対するプリフェッチを省略して、プリフェッチ距離２１０を減少させる（例えば、プリフェッチ距離２１０を８つのキーから７つのキーに減少させる（動作（１８）参照））。

【0071】

プリフェッチ動作が中止されるため、第４７キーがアクセスされると、プリフェッチ先読みバッファ１５０に第４７キーが満たされた結果としてヒットが示され（動作（１９）参照）、プリフェッチ動作が再開されて１つの追加のキーである第５５キーがプリフェッチされる（動作（２０）参照）。

【0072】

従って、有効プリフェッチ距離２１０を見つけた後、プリフェッチ先読みバッファ１５０からのフェッチが更に頻繁に失敗すると（例えば、ミス率が増加した場合）、キー値システム１００は、プリフェッチ距離２１０が大きすぎると判断して潜在的にプリフェッチ先読みバッファ１５０のオーバーフローを引き起こす。その結果、キー値システム１００は、キー値システム１００が入／出力要求によって過負荷となったと判断し、キー値システム１００に対する不要な負担を避けるためにプリフェッチ動作の中止を決定する。このような状況は、入／出力アクセスパターンがシーケンシャルアクセスパターンからランダムアクセスパターンに移動するように、アプリケーションの動作が変更する場合に発生する。即ち、入／出力パターンがランダムアクセスパターンに対応する際、通常プリフェッチ先読みバッファ１５０は満たされるか又はオーバーフローするまで満たされ続ける。

【0073】

本発明の実施形態によると、キー値システム１００は、入／出力アクセスパターンが変化したか否かを判断するために、シミュレーションキャッシュ１２０（図１参照、例えば、キャッシュ）（又は仮想シミュレーションキャッシュ）を使用する。その結果、キー値システム１００は、プリフェッチ動作を開始し、仮想キャッシュとして動作するシミュレーションキャッシュ１２０を介してバッファを管理する。プリフェッチ先読みバッファ１５０にオーバーフローが発生すると、キー値システム１００は、キー値デバイス１６０に対するプリフェッチ要求の転送を中止し、代わりにキーをシミュレーションキャッシュ１２０に挿入する。

【0074】

即ち、本発明の実施形態によるキー値システム１００は、ランダムアクセスパターンの検出を効果的に行う。一般に、プリフェッチ動作はランダムアクセスパターンに有用ではないため、キー値システム１００は、プリフェッチ要求バッファ１１０が満たされた場合、入／出力アクセスパターンをランダムと決定する。ランダムアクセスパターンが決定された場合、キー値システム１００は、キャッシュ１３０内にないか又は先読みバッファ１５０内に位置しない新たにアクセスされたキーに対するプリフェッチを中止する。

【0075】

従って、適切な場合、キー値システム１００は、物理的なプリフェッチ要求バッファ１１０の代わりにシミュレーションキャッシュ１２０を使用する。一部の実施形態において、シミュレーションキャッシュ１２０のサイズは、プリフェッチ要求バッファ１１０のサイズと等しい。しかし、プリフェッチ要求バッファ１１０とは異なり、シミュレーションキャッシュ１２０の使用は、キー値ドライバ１７０に実際的には要求を提出しない。更に、シミュレーションキャッシュ１２０が満たされた場合、キー値システム１００は、プリフェッチ動作を中止する代わりに、最も古いキーを単に除去する。

【0076】

シミュレーションキャッシュ１２０を使用することにより、キー値システム１００は、プリフェッチ要求バッファ１１０が満たされてキー値デバイス１６０にデータが提出されなくても、プリフェッチ演算候補である各キーに対して順次シミュレーションキャッシュ数値を昇順に生成し、それにより入／出力要求数は減少する。

【0077】

逆に、シーケンシャルアクセスパターンに対してプリフェッチ要求バッファ１１０でヒットが発生すると、キー値システム１００のメカニズムは、ヒットキーを除去して新たなキーを挿入し、プリフェッチサイズが有効プリフェッチ距離２１０未満に保たれる。本明細書で説明するように、キャッシュされるか又はプリフェッチされない全ての新たなキーアクセスは、独自のプリフェッチ距離２１０を有する。従って、例えばスレッドが２つのシーケンシャルアクセスストリームを有する場合、各々のアクセスストリームは、独自のプリフェッチ距離２１０を有する。

【0078】

従って、プリフェッチ動作の中止後、プリフェッチ動作が再開される際に（例えば、入／出力パターンがランダムから順次に変更される際に）、その後ミスが発生すると、キー値システム１００は、プリフェッチ先読みバッファ１５０の利用可能性を検査し、現在のキーのシミュレーション番号をシミュレーションキャッシュ１２０からプリフェッチ先読みバッファ１５０に挿入する。それにより、キー値システム１００は、プリフェッチグループとプリフェッチ動作を再開する。

【0079】

即ち、シミュレーションキャッシュ１２０でプリフェッチヒットが発生すると（例えば、入／出力パターンがランダムから順次に変更される際に）、キー値システム１００は、シミュレーションキャッシュ１２０の使用を中止し、プリフェッチ先読みバッファ１５０を使用して実際のプリフェッチ動作を再び開始するために、プリフェッチ要求バッファ１１０の最も古いキーを除去して新たにプリフェッチされたキーを挿入する。ヒットがシミュレーションキャッシュ１２０で発生したと決定されると、データがプリフェッチされた場合にプリフェッチ先読みバッファ１５０でヒットが発生したと推定される。その結果、キー値システム１００がキーを読み取ってキーをシミュレーションキャッシュ１２０で見つけた場合、キー値システム１００は、新たなシーケンシャルアクセスパターンが発生したと判断してプリフェッチ動作を再び開始する。

【0080】

プリフェッチ先読みバッファ１５０に利用可能な空間がない場合、キー値システム１００は、単にシミュレーション番号をシミュレーションキャッシュ１２０のキーに設定する。プリフェッチトリガーキー２２０に関するプリフェッチミスが発生する場合、プリフェッチ距離２１０は再び増加する。

【0081】

上述の例示によると、プリフェッチ先読みバッファ１５０がオーバーフローするまで、通常キー値のシステムは、プリフェッチ動作を行い、プリフェッチ要求をキー値デバイス１６０に転送する。プリフェッチ先読みバッファ１５０がオーバーフローすると、キー値システム１００は、入／出力パターンがランダムアクセスパターンに変更されたと決定し、その際キー値システム１００への負担を軽減するために、プリフェッチ動作を非活性化する。

【0082】

キー値システム１００がプリフェッチ先読みバッファ１５０に対するプリフェッチを中止すると、キー値システム１００は、シミュレーションキャッシュ１２０を使用する間、プリフェッチ先読みバッファ１５０を使用する代わりにプリフェッチ先読みバッファ１５０への新たな要求を待つ。プリフェッチ動作の中止の間、シミュレーションキャッシュ１２０を使用する際に任意の新たな要求に対する空間を与えるために、キー値システム１００は、シミュレーションキャッシュ１２０の最も古い要求を除去する。次に、シミュレーションキャッシュ１２０でヒットが発生すると、キー値システム１００は、入／出力アクセスパターンがシーケンシャルパターンに再び戻ったと仮定して、プリフェッチ動作を再び開始する。

【0083】

本発明の実施形態による性能認識プリフェッチは、以下のように要約される。キー値システム１００は、システム状態に基づいて先読み要求カウントを調整する。プリフェッチトリガーキー２２０に対する先読みミスはプリフェッチ距離２１０が小さすぎることを示し、キー値システム１００は、より多くのプリフェッチされたキーを転送することによりプリフェッチ距離を増加させる。プリフェッチトリガーキー２２０に対する先読みヒットにより唯１つのプリフェッチ要求が転送される。非トリガーキー（即ち、プリフェッチトリガーキー２２０以外のキー）に対する先読みミスはキー値システム１００が入／出力の混雑状態にあることを示し、キー値システム１００は次のプリフェッチ要求を省略してプリフェッチ距離２１０を減少させる。プリフェッチ先読みバッファ１５０が満たされた場合、プリフェッチキーがシミュレーションキャッシュ１２０に追加され、キーがシミュレーションキャッシュ１２０で見つかって入／出力パターンを示した場合、キー値システム１００はプリフェッチ動作を再開する。

【0084】

図３は、本発明の一実施形態によるデータプリフェッチ方法を示すフローチャートである。

【0085】

図３を参照すると、ステップＳ３０１において、本実施形態によるシステム（例えば、キー値システム１００）は、プリフェッチ距離（例えば、プリフェッチ距離２１０）を設定する。ステップＳ３０２において、システムは、プリフェッチトリガーキー（例えば、プリフェッチトリガーキー２２０）にアクセスする。ステップＳ３０３において、システムは、プリフェッチ距離外にある目標キーを設定する。ステップＳ３０４において、システムは、プリフェッチ距離を増加させる。プリフェッチ距離は、指数関数的に増加する。

【0086】

ステップＳ３０５において、システムは、プリフェッチ先読みバッファ（例えば、プリフェッチ先読みバッファ１５０）からの後続プリフェッチトリガーキーの後続ターゲットキーを正しくフェッチする。

【0087】

ステップＳ３０６において、システムは、追加の後続プリフェッチトリガーキーがプリフェッチ先読みバッファにないと決定する。ステップＳ３０７において、システムは、追加の後続プリフェッチトリガーキーの追加の後続目標キーに対するプリフェッチ動作を省略する。

【0088】

ステップＳ３０８において、システムは、プリフェッチ距離を減少させる。プリフェッチ距離は、１つのキー分減少する。

【0089】

ステップＳ３０９において、システムは、プリフェッチ先読みバッファがオーバーフローしたことを確認する。ステップＳ３１０において、システムは、追加の後続プリフェッチキーに対応するエントリをシステム１００に含まれるキー値データベース（例えば、図１のキー値データベース１８０）のキャッシュ（例えば、図１のキャッシュ１３０）に挿入する。

【0090】

ステップＳ３１１において、システムは、シミュレーションキャッシュに後続プリフェッチトリガーキーが存在すると決定する。ステップＳ３１２において、システムは、プリフェッチ動作を再初期化する。

【0091】

より包括的に、プリフェッチ距離が徐々に増加する性能認識プリフェッチ動作は、次の動作の内の一部が選択的であることに注目し、次の動作を実行することにより発生する。具体的に、プリフェッチトリガーキーを第１キーとしてアクセスすること、第１キーがキー値のデータベースのキャッシュにキャッシュされたか否かを判断すること、第１キーがキャッシュにキャッシュされていない場合、第１キーのための第１プリフェッチ要求がプリフェッチ要求バッファにあるか否かを判断すること、第１キーがキャッシュにキャッシュされずにプリフェッチ要求バッファにない場合、第１キーのための第１読み取り要求をキー値デバイスに提出すること、キー値デバイスからキャッシュに戻された第１キーの第１読み取り値を挿入すること、第１キーをキャッシュされたものとして示すこと、第１キーに隣接する第２キーに対する第２プリフェッチ要求を提出すること、プリフェッチ要求バッファ及び要求キューに第２プリフェッチ要求を配置すること、第１読み取り値をユーザアプリケーションに送信すること、第２キーにアクセスすること、要求キューにある第２プリフェッチ要求を決定すること、要求キューからの第２プリフェッチ要求を取り消すこと、第２キーのための第２読み取り要求をキー値デバイスに提出すること、キー値デバイスから戻された第２キーに対する第２読み取り値をキャッシュに挿入すること、プリフェッチ要求バッファからの第２プリフェッチ要求を取り消すこと、第２キーをキャッシュされたものとして示すこと、第２キーを先読みミスとして示すこと、プリフェッチ距離を増加させること、第２読み取り値をユーザアプリケーションに戻すこと、第２キーに隣接する第３キーに対する第３プリフェッチ要求及び第３キーに隣接する第４キーに対する第４プリフェッチ要求を提出すること、プリフェッチ要求バッファ及び要求キューに第３プリフェッチ要求及び第４プリフェッチ要求を配置すること、第３キーにアクセスすること、第３プリフェッチ要求が要求キューにあるか否かを判断すること、要求キューからの第３プリフェッチ要求を取り消すこと、第３キーに対する第３読み取り要求をキー値デバイスに提出すること、キー値デバイスから戻された第３キーに対する第３読み取り値をキャッシュに挿入すること、プリフェッチ要求バッファからの第３プリフェッチ要求を取り消すこと、第３キーをキャッシュされたものとして示すこと、プリフェッチ距離を増加させること、第４キーに隣接する第５キーに対する第５プリフェッチ要求を提出して第５キーに隣接する第６キーに対する第６プリフェッチ要求を提出すること、プリフェッチ要求バッファ及び要求キューに第５プリフェッチ要求及び第６プリフェッチ要求を配置すること、第４プリフェッチ要求、第５プリフェッチ要求、及び第６プリフェッチ要求を要求キューからキー値デバイスに提出すること、第４キーに対する第４読み取り値、第５キーに対する第５読み取り値、第６キーに対する第６読み取り値をデバイスドライバのプリフェッチ先読みバッファに挿入すること、第４キーにアクセスすること、第４読み取り値がプリフェッチ先読みバッファにあるか否かを判断すること、プリフェッチ先読みバッファからキャッシュに第４読み取り値を移動させること、プリフェッチ要求バッファからの第４プリフェッチ要求を取り消すこと、第４キーをキャッシュされたものとして示すこと、第６キーに隣接する第７キーに対する第７プリフェッチ要求を提出すること、プリフェッチ要求バッファ及び要求キューに第７プリフェッチ要求を配置すること、第５キーにアクセスすること、第５読み取り値がプリフェッチ先読みバッファにあることを確認すること、プリフェッチ先読みバッファからキャッシュに第５読み取り値を移動させること、プリフェッチ要求バッファからの第５プリフェッチ要求を取り消すこと、及び第５キーをキャッシュされたものとして示すことである。

【0092】

従って、本発明の実施形態は、混合ワークロード環境でシーケンシャルアクセスパターンを検出することにより利点を提供する。その結果、本発明の実施形態は、システムの状態に基づいてプリフェッチ動作の頻度及び範囲を調整することができ、そのため、システム性能をモニタリングすることにより、浪費する入／出力帯域幅を減少し、システム性能を向上させる。本発明の実施形態は、キー値デバイスで順次読み取り動作に対する応答時間を改善し、システムの状態に基づいてプリフェッチ要求入／出力を制御し、分解することなくキー値デバイスに対する順次読み取り入／出力性能を向上させるためのソフトウェアアーキテクチャを介して実施される。

【0093】

以上、本発明の実施形態について図面を参照しながら詳細に説明したが、本発明は、上述の実施形態に限定されるものではなく、本発明の技術的思想から逸脱しない範囲内で多様に変更実施することが可能である。

【符号の説明】

【0094】

１００ キー値システム
１１０ プリフェッチ要求バッファ
１２０ シミュレーションキャッシュ
１３０ キャッシュ（メモリ）
１４０ 要求キュー
１５０ プリフェッチ先読みバッファ
１６０ キー値デバイス
１７０ キー値ドライバ
１８０ キー値データベース
１９０ 非同期入／出力経路
１９５ 同期入／出力経路
２１０ プリフェッチ距離
２２０ プリフェッチトリガーキー

【図1】

【図2A】

【図2B】

【図2C】

【図3】