特表 2024-514370 リソース使用量を監視するためのアプリケーション・プログラミング・インターフェース

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公表特許公報(A)

(11)【公表番号】

(43)【公表日】2024-04-02

(54)【発明の名称】リソース使用量を監視するためのアプリケーション・プログラミング・インターフェース

(51)【国際特許分類】

   G06F 11/34 20060101AFI20240326BHJP

   G06F 11/30 20060101ALI20240326BHJP

【ＦＩ】

G06F11/34 133

G06F11/30 140N

G06F11/30 155

G06F11/34 109

G06F11/34 104

【審査請求】有

【予備審査請求】未請求

(21)【出願番号】P 2022526084

(86)(22)【出願日】2022-04-14

(85)【翻訳文提出日】2022-07-13

(86)【国際出願番号】 US2022024828

(87)【国際公開番号】W WO2022221538

(87)【国際公開日】2022-10-20

(31)【優先権主張番号】63/174,999

(32)【優先日】2021-04-14

(33)【優先権主張国・地域又は機関】US

(31)【優先権主張番号】17/720,231

(32)【優先日】2022-04-13

(33)【優先権主張国・地域又は機関】US

(31)【優先権主張番号】17/720,234

(32)【優先日】2022-04-13

(33)【優先権主張国・地域又は機関】US

(31)【優先権主張番号】17/720,236

(32)【優先日】2022-04-13

(33)【優先権主張国・地域又は機関】US

(81)【指定国・地域】

【公序良俗違反の表示】

（特許庁注：以下のものは登録商標）

１．ＢＬＵＥＴＯＯＴＨ

２．ＴＥＮＳＯＲＦＬＯＷ

３．ＰＹＴＨＯＮ

４．ＪＡＶＡ

(71)【出願人】

【識別番号】501450960

【氏名又は名称】エヌビディア コーポレーション

(74)【代理人】

【識別番号】110000855

【氏名又は名称】弁理士法人浅村特許事務所

(72)【発明者】

【氏名】フォンテーヌ、デイヴィッド アンソニー

(72)【発明者】

【氏名】バッチャン、ジョン

(72)【発明者】

【氏名】ウェン、ケ

(72)【発明者】

【氏名】シュウ、ヤン

【テーマコード（参考）】

5B042

【Ｆターム（参考）】

5B042GC11

(57)【要約】

コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するための、装置、システム、及び技法。少なくとも１つの実施例では、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造が、たとえば、ＣＵＤＡ又は他の並列コンピューティング・プラットフォーム・コードに基づいて生成される。

【特許請求の範囲】

【請求項1】

コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するために、アプリケーション・プログラミング・インターフェース（ＡＰＩ）を実施する１つ又は複数の回路
を備える、プロセッサ。

【請求項2】

前記１つ又は複数のデータ構造が、少なくとも、前記コンピュータ・プログラムに関連する参照の数を示す、請求項１に記載のプロセッサ。

【請求項3】

前記情報が、少なくとも、メモリの領域を含む、請求項１に記載のプロセッサ。

【請求項4】

前記１つ又は複数の回路が、前記１つ又は複数のデータ構造に対応するロケーションを示すパラメータ値に少なくとも部分的に基づいて前記ＡＰＩを実施する、請求項１に記載のプロセッサ。

【請求項5】

前記１つ又は複数の回路が、さらに、前記コンピュータ・プログラムによる前記情報の前記使用に少なくとも部分的に基づいて１つ又は複数の関数を実行する、請求項１に記載のプロセッサ。

【請求項6】

前記コンピュータ・プログラムが、１つ又は複数のグラフィックス処理ユニット（ＧＰＵ）によって実行可能である、請求項１に記載のプロセッサ。

【請求項7】

コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するために、アプリケーション・プログラミング・インターフェース（ＡＰＩ）を実施する１つ又は複数のプロセッサを有する１つ又は複数のコンピュータ
を備える、システム。

【請求項8】

前記１つ又は複数のプロセッサが、さらに、
少なくとも前記ＡＰＩを示すコードを取得し、
少なくとも、前記コードを実行することによって、前記ＡＰＩを実施する、
請求項７に記載のシステム。

【請求項9】

前記１つ又は複数のデータ構造が、前記情報に関連する１つ又は複数の参照のカウントを符号化する、請求項７に記載のシステム。

【請求項10】

前記１つ又は複数のデータ構造が、１つ又は複数のデストラクタ関数を示す、請求項７に記載のシステム。

【請求項11】

前記コンピュータ・プログラムが、少なくとも、１つ又は複数の並列処理ユニット（ＰＰＵ）によって実行可能である、請求項７に記載のシステム。

【請求項12】

前記情報が、少なくとも、前記コンピュータ・プログラムへの入力データを含む、請求項７に記載のシステム。

【請求項13】

１つ又は複数のプロセッサによって実施される場合に、前記１つ又は複数のプロセッサに、少なくとも、
コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するために、アプリケーション・プログラミング・インターフェース（ＡＰＩ）を実施させる
命令のセットを記憶している、機械可読媒体。

【請求項14】

前記命令のセットが、前記１つ又は複数のプロセッサによって実施される場合に、前記１つ又は複数のプロセッサに、参照の数を示すパラメータ値に少なくとも部分的に基づいて前記ＡＰＩを実施させる命令をさらに含む、請求項１３に記載の機械可読媒体。

【請求項15】

前記情報の前記使用が、前記コンピュータ・プログラムによって使用される１つ又は複数の参照によって示される、請求項１３に記載の機械可読媒体。

【請求項16】

前記命令のセットが、前記１つ又は複数のプロセッサによって実施される場合に、前記１つ又は複数のプロセッサに、前記コンピュータ・プログラムによる前記情報の前記使用に基づいて前記１つ又は複数のデータ構造を修正させる命令をさらに含む、請求項１３に記載の機械可読媒体。

【請求項17】

前記命令のセットが、前記１つ又は複数のプロセッサによって実施される場合に、前記１つ又は複数のプロセッサに、前記１つ又は複数のデータ構造を１つ又は複数のグラフ・データ構造に関連付けさせる命令をさらに含む、請求項１３に記載の機械可読媒体。

【請求項18】

前記コンピュータ・プログラムが、１つ又は複数の汎用グラフィックス処理ユニット（ＧＰＧＰＵ）によって実行可能である、請求項１３に記載の機械可読媒体。

【請求項19】

コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するために、アプリケーション・プログラミング・インターフェース（ＡＰＩ）を実施するステップ
を含む、方法。

【請求項20】

前記１つ又は複数のデータ構造によって示される参照の数に少なくとも部分的に基づいて１つ又は複数の関数を実行するステップをさらに含む、請求項１９に記載の方法。

【請求項21】

１つ又は複数の関数を示す１つ又は複数のパラメータ値に少なくとも部分的に基づいて前記ＡＰＩを実施するステップをさらに含む、請求項１９に記載の方法。

【請求項22】

前記ＡＰＩがランタイムＡＰＩである、請求項１９に記載の方法。

【請求項23】

前記コンピュータ・プログラムが、１つ又は複数の中央処理ユニット（ＣＰＵ）によって実行可能である、請求項１９に記載の方法。

【請求項24】

前記ＡＰＩを実施した結果として１つ又は複数のステータス指示を取得するステップをさらに含む、請求項１９に記載の方法。

【発明の詳細な説明】

【技術分野】

【0001】

本出願は、各々の内容全体が参照により本明細書に組み込まれる、２０２１年４月１４日に出願された、「ＲＥＦＥＲＥＮＣＥ ＣＯＵＮＴＥＤ ＤＥＳＴＲＵＣＴＯＲＳ」と題する米国仮出願第６３／１７４，９９９号（代理人整理番号第０１１２９１２－２７０ＰＲ０）、２０２２年４月１３日に出願された、「ＡＰＰＬＩＣＡＴＩＯＮ ＰＲＯＧＲＡＭＭＩＮＧ ＩＮＴＥＲＦＡＣＥ ＴＯ ＭＯＮＩＴＯＲ ＲＥＳＯＵＲＣＥ ＵＳＡＧＥ」と題する米国特許出願第１７／７２０，２３１号（代理人整理番号第０１１２９１２－２７０ＵＳ０）、２０２２年４月１３日に出願された、「ＡＰＰＬＩＣＡＴＩＯＮ ＰＲＯＧＲＡＭＭＩＮＧ ＩＮＴＥＲＦＡＣＥ ＴＯ ＩＮＤＩＣＡＴＥ ＩＮＣＲＥＡＳＥＤ ＲＥＳＯＵＲＣＥ ＵＳＡＧＥ」と題する米国特許出願第１７／７２０，２３４号（代理人整理番号第０１１２９１２－５０５ＵＳ０）、及び２０２２年４月１３日に出願された、「ＡＰＰＬＩＣＡＴＩＯＮ ＰＲＯＧＲＡＭＭＩＮＧ ＩＮＴＥＲＦＡＣＥ ＴＯ ＩＮＤＩＣＡＴＥ ＲＥＤＵＣＥＤ ＲＥＳＯＵＲＣＥ ＵＳＡＧＥ」と題する米国特許出願第１７／７２０，２３６号（代理人整理番号第０１１２９１２－５０６ＵＳ０）の利益を主張する。

【0002】

少なくとも１つの実施例は、コンピュータ・プログラム・リソース使用量を監視するために使用される処理リソースに関する。たとえば、少なくとも１つの実施例は、本明細書で説明される様々な新規の技法を実装する、コンピュータ・プログラム・リソース使用量を監視するために使用されるプロセッサ又はコンピューティング・システムに関する。

【背景技術】

【0003】

コンピュータ・プログラムのリソース使用量を監視することは、リソースが様々な異なる動作において使用され得るので、困難であり得る。したがって、コンピュータ・プログラムのリソース使用量を監視するための技法が、ＣＵＤＡ又は他の並列コンピューティング・プラットフォーム・コードを使用して改善され得る。

【図面の簡単な説明】

【0004】

【図1】少なくとも１つの実施例による、グラフを使用するプログラムの一実例を示す図である。

【図2】少なくとも１つの実施例による、本明細書で説明される技法の一実例を示す図である。

【図3】少なくとも１つの実施例による、ユーザ・オブジェクト作成ＡＰＩコール（Ｕｓｅｒ Ｏｂｊｅｃｔ Ｃｒｅａｔｅ ＡＰＩ ｃａｌｌ）の図である。

【図4】少なくとも１つの実施例による、ユーザ・オブジェクト保持ＡＰＩコール（Ｕｓｅｒ Ｏｂｊｅｃｔ Ｒｅｔａｉｎ ＡＰＩ ｃａｌｌ）の図である。

【図5】少なくとも１つの実施例による、ユーザ・オブジェクト・リリースＡＰＩコール（Ｕｓｅｒ Ｏｂｊｅｃｔ Ｒｅｌｅａｓｅ ＡＰＩ ｃａｌｌ）の図である。

【図6】少なくとも１つの実施例による、コンピュータ・プログラムによる情報の使用を監視するために使用されるべきデータ構造を生成するプロセスの一実例を示す図である。

【図7】少なくとも１つの実施例による、コンピュータ・プログラムによる情報の使用量が増加されることを引き起こすプロセスの一実例を示す図である。

【図8】少なくとも１つの実施例による、コンピュータ・プログラムによる情報の使用量が低減されることを引き起こすプロセスの一実例を示す図である。

【図9】少なくとも１つの実施例による、例示的なデータ・センタを示す図である。

【図10】少なくとも１つの実施例による、処理システムを示す図である。

【図11】少なくとも１つの実施例による、コンピュータ・システムを示す図である。

【図12】少なくとも１つの実施例による、システムを示す図である。

【図13】少なくとも１つの実施例による、例示的な集積回路を示す図である。

【図14】少なくとも１つの実施例による、コンピューティング・システムを示す図である。

【図15】少なくとも１つの実施例による、ＡＰＵを示す図である。

【図16】少なくとも１つの実施例による、ＣＰＵを示す図である。

【図17】少なくとも１つの実施例による、例示的なアクセラレータ統合スライス（ａｃｃｅｌｅｒａｔｏｒ ｉｎｔｅｇｒａｔｉｏｎ ｓｌｉｃｅ）を示す図である。

【図18A】少なくとも１つの実施例による、例示的なグラフィックス・プロセッサを示す図である。

【図18B】少なくとも１つの実施例による、例示的なグラフィックス・プロセッサを示す図である。

【図19A】少なくとも１つの実施例による、グラフィックス・コアを示す図である。

【図19B】少なくとも１つの実施例による、ＧＰＧＰＵを示す図である。

【図20A】少なくとも１つの実施例による、並列プロセッサを示す図である。

【図20B】少なくとも１つの実施例による、処理クラスタを示す図である。

【図20C】少なくとも１つの実施例による、グラフィックス・マルチプロセッサを示す図である。

【図21】少なくとも１つの実施例による、グラフィックス・プロセッサを示す図である。

【図22】少なくとも１つの実施例による、プロセッサを示す図である。

【図23】少なくとも１つの実施例による、プロセッサを示す図である。

【図24】少なくとも１つの実施例による、グラフィックス・プロセッサ・コアを示す図である。

【図25】少なくとも１つの実施例による、ＰＰＵを示す図である。

【図26】少なくとも１つの実施例による、ＧＰＣを示す図である。

【図27】少なくとも１つの実施例による、ストリーミング・マルチプロセッサを示す図である。

【図28】少なくとも１つの実施例による、プログラミング・プラットフォームのソフトウェア・スタックを示す図である。

【図29】少なくとも１つの実施例による、図２８のソフトウェア・スタックのＣＵＤＡ実装形態を示す図である。

【図30】少なくとも１つの実施例による、図２８のソフトウェア・スタックのＲＯＣｍ実装形態を示す図である。

【図31】少なくとも１つの実施例による、図２８のソフトウェア・スタックのＯｐｅｎＣＬ実装形態を示す図である。

【図32】少なくとも１つの実施例による、プログラミング・プラットフォームによってサポートされるソフトウェアを示す図である。

【図33】少なくとも１つの実施例による、図２８～図３１のプログラミング・プラットフォーム上で実行するためのコードをコンパイルすることを示す図である。

【図34】少なくとも１つの実施例による、図２８～図３１のプログラミング・プラットフォーム上で実行するためのコードをコンパイルすることをより詳細に示す図である。

【図35】少なくとも１つの実施例による、ソース・コードをコンパイルするより前にソース・コードをトランスレートすることを示す図である。

【図36A】少なくとも１つの実施例による、異なるタイプの処理ユニットを使用してＣＵＤＡソース・コードをコンパイル及び実行するように構成されたシステムを示す図である。

【図36B】少なくとも１つの実施例による、ＣＰＵ及びＣＵＤＡ対応ＧＰＵを使用して、図３６ＡのＣＵＤＡソース・コードをコンパイル及び実行するように構成されたシステムを示す図である。

【図36C】少なくとも１つの実施例による、ＣＰＵ及びＣＵＤＡ非対応（ｎｏｎ－ＣＵＤＡ－ｅｎａｂｌｅｄ）ＧＰＵを使用して、図３６ＡのＣＵＤＡソース・コードをコンパイル及び実行するように構成されたシステムを示す図である。

【図37】少なくとも１つの実施例による、図３６ＣのＣＵＤＡからＨＩＰへのトランスレーション・ツール（ＣＵＤＡ－ｔｏ－ＨＩＰ ｔｒａｎｓｌａｔｉｏｎ ｔｏｏｌ）によってトランスレートされた例示的なカーネルを示す図である。

【図38】少なくとも１つの実施例による、図３６ＣのＣＵＤＡ非対応ＧＰＵをより詳細に示す図である。

【図39】少なくとも１つの実施例による、例示的なＣＵＤＡグリッドのスレッドが図３８の異なるコンピュート・ユニットにどのようにマッピングされるかを示す図である。

【図40】少なくとも１つの実施例による、既存のＣＵＤＡコードをＤａｔａ Ｐａｒａｌｌｅｌ Ｃ＋＋コードにどのようにマイグレートするかを示す図である。

【発明を実施するための形態】

【0005】

少なくとも１つの実施例では、１つ又は複数のプログラミング・モデルが、様々な動作を実施するためにグラフを利用する。少なくとも１つの実施例では、前記１つ又は複数のプログラミング・モデルは、コンピュート・ユニファイド・デバイス・アーキテクチャ（ＣＵＤＡ：Ｃｏｍｐｕｔｅ Ｕｎｉｆｉｅｄ Ｄｅｖｉｃｅ Ａｒｃｈｉｔｅｃｔｕｒｅ）・モデル、ポータビリティのための異種コンピュート・インターフェース（ＨＩＰ：Ｈｅｔｅｒｏｇｅｎｅｏｕｓ ｃｏｍｐｕｔｅ Ｉｎｔｅｒｆａｃｅ ｆｏｒ Ｐｏｒｔａｂｉｌｉｔｙ）・モデル、ｏｎｅＡＰＩモデル、様々なハードウェア・アクセラレータ・プログラミング・モデル、及び／又はそれらの変形形態などのモデルを含む。少なくとも１つの実施例では、グラフは、中央処理ユニット（ＣＰＵ：ｃｅｎｔｒａｌ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ）、グラフィックス処理ユニット（ＧＰＵ：ｇｒａｐｈｉｃｓ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ）、汎用ＧＰＵ（ＧＰＧＰＵ：ｇｅｎｅｒａｌ－ｐｕｒｐｏｓｅ ＧＰＵ）、並列処理ユニット（ＰＰＵ：ｐａｒａｌｌｅｌ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ）、及び／又はそれらの変形形態など、１つ又は複数の処理ユニット上で実施される一連の動作である。少なくとも１つの実施例では、前記グラフは、依存性によって接続された、カーネル起動など、一連の動作を定義する、グラフ・データ構造、グラフ・コード、及び／又はそれらの変形形態とも呼ばれる、データ・オブジェクトである。少なくとも１つの実施例では、前記グラフの依存性が、前記グラフの実行とは別々に定義される。少なくとも１つの実施例では、前記グラフは、１回定義され、１回又は複数回起動され得る。

【0006】

少なくとも１つの実施例では、動作は、前記グラフ中のノードに対応する。少なくとも１つの実施例では、動作間の依存性は、前記グラフのエッジを形成する。少なくとも１つの実施例では、依存性は、動作の実行シーケンスを制約する。少なくとも１つの実施例では、動作は、それが依存するノードが完了する（たとえば、ノードによって示された動作が実行／実施される）と、任意の時間にスケジュールされ得る。少なくとも１つの実施例では、ノードによって示された動作は、カーネル、ＣＰＵ関数コール、メモリ管理／操作動作、イベントを待つこと、イベントを記録すること、外部セマフォをシグナリングすること、外部セマフォを待つことなどの動作、並びに他のグラフ（たとえば、子グラフ）を含むことができる。少なくとも１つの実施例では、グラフは、様々なプログラミング・モデル・アプリケーション・プログラミング・インターフェース（ＡＰＩ：ａｐｐｌｉｃａｔｉｏｎ ｐｒｏｇｒａｍｍｉｎｇ ｉｎｔｅｒｆａｃｅ）関数を通して作成される。少なくとも１つの実施例では、前記グラフの動作は、様々なプログラミング・モデルＡＰＩ関数を通して実行される。

【0007】

少なくとも１つの実施例では、グラフは、ストリーム・キャプチャと呼ばれることがある、１つ又は複数の動作を通して作成される。少なくとも１つの実施例では、１つ又は複数の動作が定義され、ストリーム・キャプチャが、前記グラフ中の前記１つ又は複数の動作をキャプチャするために利用される。少なくとも１つの実施例では、たとえば、ＡＰＩコールが、ストリームとも呼ばれる、一連の動作の開始を示し、異なるＡＰＩコールが、前記一連の動作の終了を示し、前記一連の動作は、次いで、前記グラフとしてインスタンス化される。少なくとも１つの実施例では、前記一連の動作の開始を示すＡＰＩ関数は、ストリーム開始キャプチャ（Ｓｔｒｅａｍ Ｂｅｇｉｎ Ｃａｐｔｕｒｅ）ＡＰＩ関数と呼ばれることがある。少なくとも１つの実施例では、前記一連の動作の終了を示すＡＰＩ関数は、ストリーム終了キャプチャ（Ｓｔｒｅａｍ Ｅｎｄ Ｃａｐｔｕｒｅ）ＡＰＩ関数と呼ばれることがある。少なくとも１つの実施例では、本明細書で説明されるものなどのＡＰＩ関数は、前記ＡＰＩ関数の１つ又は複数の機能性に関係することも関係しないこともある、任意の好適な専門用語を使用して任意の好適な様式で示され得ることに留意されたい。

【0008】

少なくとも１つの実施例では、様々なオブジェクトが、前記グラフ及び／又は他の好適なコンピュータ・プログラムによって示される様々な動作において利用される。少なくとも１つの実施例では、前記グラフ及び／又は他の好適なコンピュータ・プログラムは、オブジェクトとも呼ばれる、様々なユーザ指定されたデータ及び／又はユーザ管理されたリソースを利用する動作を定義することができる。少なくとも１つの実施例では、オブジェクトは、カーネル引数、ホスト機能引数、作業領域バッファ、及び／又はそれらの変形形態を含む。少なくとも１つの実施例では、前記オブジェクトは、前記グラフ及び／又は他の好適なコンピュータ・プログラムの１つ又は複数の動作の実行全体にわたって利用される、任意の好適なコンピューティング・リソース、情報、及び／又はデータを含む。少なくとも１つの実施例では、前記オブジェクトは、前記オブジェクトを作成するためにコールされる関数のタイプを指す、コンストラクタを通して作成される。少なくとも１つの実施例では、前記オブジェクトは、前記オブジェクトを破棄するためにコールされる関数のタイプである、デストラクタとも呼ばれる、デストラクタ関数を通して破棄される。少なくとも１つの実施例では、前記デストラクタ関数は、少なくとも、前記オブジェクトに対応するメモリを割振り解除すること、及び／或いは、前記オブジェクトを消去するか又はさもなければ破棄する任意の好適なプロセスによって、前記オブジェクトを破棄する。少なくとも１つの実施例では、コンストラクタ及び／又はデストラクタは、ユーザ、様々なソフトウェア・ライブラリ、及び／又はそれらの変形形態によって定義され得る。

【0009】

少なくとも１つの実施例では、グラフは、プログラムの様々な動作において利用される。図１は、少なくとも１つの実施例による、グラフを使用するプログラムの実例１００を示す。少なくとも１つの実施例では、実例１００は、前記プログラムが備える、グラフに関連する様々なグラフ・データ構造動作を含む。少なくとも１つの実施例では、前記動作は、グラフを作成すること、グラフをクローニングすること、グラフを実行ファイル（たとえば、図１中のＡｅｘｅｃ）にインスタンス化すること、グラフを起動すること、グラフの実行（たとえば、図１中のＡｓｙｎｃ実行）、グラフを破棄すること、実行可能グラフを破棄すること、及び／又は図１に図示されていない様々な他の動作を含む。少なくとも１つの実施例では、例示的な実例として、前記プログラムの一部として、前記グラフは作成され、前記グラフは実行可能グラフとしてインスタンス化され、前記グラフは消去され、前記実行可能グラフは起動され、前記実行可能グラフは実行され、前記実行可能グラフは消去される。少なくとも１つの実施例では、前記グラフの１つ又は複数の動作によって利用される前記オブジェクトは、プログラムの前記グラフの各使用が完了するまで、残存しなければならない。少なくとも１つの実施例では、本明細書で説明される技法は、前記グラフの１つ又は複数の動作によって利用される前記オブジェクトがいつリリース（ｒｅｌｅａｓｅ）されるか又はさもなければ（たとえば、デストラクタを介して）破棄され得るかを決定するためのやり方を提供する。

【0010】

少なくとも１つの実施例では、ＣＵＤＡ、ＨＩＰ、ｏｎｅＡＰＩ、及び／又はそれらの変形形態など、１つ又は複数のプログラミング・モデルのシステムなど、１つ又は複数のシステムが、本明細書で説明される様々な動作及び／又は技法を実施する。少なくとも１つの実施例では、前記システムは、いったいいつ、新しいグラフ・ハンドルがグラフの使用のために作成されるかを決定する。少なくとも１つの実施例では、例示的な実例として、前記グラフ・ハンドルは、前記グラフが作成され、前記グラフが実行可能グラフとしてインスタンス化され、前記実行可能グラフが起動され、及び／又は様々な他のグラフ動作のとき、作成される。少なくとも１つの実施例では、例示的な実例として、前記グラフ・ハンドルは、前記グラフが破棄され、前記実行可能グラフが実行され、前記実行可能グラフが破棄され、及び／又は様々な他のグラフ動作のとき、消去される。少なくとも１つの実施例では、前記システムは、グラフ・ハンドルの作成及び消去を追跡するために、参照カウンタとも呼ばれる、カウンタを利用し、前記カウンタは、前記グラフ・ハンドルが（たとえば、前記グラフ・ハンドルの作成を生じるＡＰＩコールを介して）作成されたとき、１だけ増分され、前記グラフ・ハンドルが（たとえば、前記グラフ・ハンドルの消去を生じるＡＰＩコールを介して）破棄されるか又はさもなければ消去されたとき、１だけ減分される。少なくとも１つの実施例では、前記参照カウンタが０の値に達したとき、前記システムは、前記グラフによって利用される前記オブジェクトがリリースされる（たとえば、前記オブジェクトのために割り振られたメモリがリリースされ得る）か又はさもなければ（たとえば、デストラクタを介して）破棄され得ると決定する。

【0011】

少なくとも１つの実施例では、前記システムは、前記カウンタを通して、前記オブジェクト又は他の好適なコンピューティング・リソースのコンピュータ・プログラムの使用を追跡するアビリティ（ａｂｉｌｉｔｙ）を提供する。少なくとも１つの実施例では、前記オブジェクトの前記コンピュータ・プログラムの使用は、前記オブジェクトへの前記コンピュータ・プログラムに関連する参照を通して追跡される。少なくとも１つの実施例では、前記システムは、前記オブジェクトへの参照を追跡するために、参照カウンタとも呼ばれる、前記カウンタを利用するアビリティを提供し、前記カウンタは、前記オブジェクトへの新しい参照の場合、１だけ増分され、前記オブジェクトへの参照がもはや使用されないとき、１だけ減分される。少なくとも１つの実施例では、前記参照カウンタが０の値に達したとき、前記システムは、前記コンピュータ・プログラムによって利用される前記オブジェクトがリリースされる（たとえば、前記オブジェクトのために割り振られたメモリがリリースされ得る）か又はさもなければ（たとえば、デストラクタを介して）破棄され得ると決定する。

【0012】

少なくとも１つの実施例では、本明細書で説明される技法は、メモリをリークすることなしに、前記グラフ中のホスト・ノードに、動的にサイズ決定されたデータを提供するための、ＮＶＩＤＩＡ集合通信ライブラリ（ＮＣＣＬ：ＮＶＩＤＩＡ Ｃｏｌｌｅｃｔｉｖｅ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ Ｌｉｂｒａｒｙ）などの様々なソフトウェア・ライブラリ、様々な集合通信ライブラリ、及び／又は任意の好適なソフトウェア・ライブラリのために使用される。図２は、少なくとも１つの実施例による、ＮＣＣＬに関するストリーム・キャプチャに関して使用される、本明細書で説明される技法の実例２００を示す。少なくとも１つの実施例では、本明細書で説明される技法は、１つ又は複数のストリーム・キャプチャ・プロセス、又は任意の好適なプロセスを使用して作成されたグラフを用いて利用される。少なくとも１つの実施例では、図２の「２０２」を参照すると、セットアップ・コードが、ＡＰＩコールにおいて行われる（たとえば、エンキューｏｐｓ、起動ヘルパー・スレッド）。少なくとも１つの実施例では、図２の「２０４（キャプチャが検出されたとき）」を参照すると、本明細書で説明される技法は、ＮＣＣＬ動作（たとえば、ＮＣＣＬ ＡＰＩコール）を用いたグラフの再起動をサポートするために、ＡＰＩコールにおいて通常行われるであろうセットアップ・コードが、それがあらゆるグラフ起動に対して実行することになるように、キャプチャが検出されたときにホスト・ノードに移動されることを可能にする。少なくとも１つの実施例では、本明細書で説明される技法は、前記グラフにワークプレイス存続期間を関連付けるために利用される。少なくとも１つの実施例では、本明細書で説明される技法は、前記グラフ又は他の好適なコンピュータ・プログラム中で使用可能なダイナミック・オブジェクトの存続期間の管理を可能にする。少なくとも１つの実施例では、本明細書で説明される技法は、自明コピー可能オブジェクトをサポートする。少なくとも１つの実施例では、本明細書で説明される技法は、ダイナミック・ユーザ・オブジェクトを参照するグラフ及び／又は他の好適なコンピュータ・プログラムのための動作をサポートし、前記動作は、インスタンス化動作、クローン動作、子グラフ挿入動作、非同期破棄動作、新しいソース・グラフからの実行可能グラフ更新動作、及び／又は様々な他のグラフ動作を含む。

【0013】

少なくとも１つの実施例では、本明細書で説明される技法は、ユーザ提供された破棄コード及び／又はコピー・コードを必要とするオブジェクトなど、非自明コピー可能オブジェクトを参照するグラフ及び／又は他の好適なコンピュータ・プログラムをサポートする。少なくとも１つの実施例では、本明細書で説明される技法は、ユーザ提供された破棄コードがサポートされる場合、ユーザがユーザ・オブジェクトの破棄を同期させることを可能にする。少なくとも１つの実施例では、本明細書で説明される技法は、オブジェクトの破棄が、様々なアーキテクチャ固有のＡＰＩコール（たとえば、ＣＵＤＡ ＡＰＩコール）を伴うことを可能にする。少なくとも１つの実施例では、本明細書で説明される技法は、１つ又は複数のソフトウェア・ライブラリ及び／又は元のタスク記述コードを使用するノード更新を可能にする。

【0014】

少なくとも１つの実施例では、本明細書で説明される技法は、オブジェクト作成及び消去のためのコンストラクタ及びデストラクタを利用する。少なくとも１つの実施例では、本明細書で説明される技法は、コールバックを利用する。少なくとも１つの実施例では、コールバックは、コールバック関数を実行（たとえば、コールバック）することができる他のコードに、引数として渡される関数を指す。少なくとも１つの実施例では、コールバックは、コンストラクタ及び／又はデストラクタのコードなどのコードを含む。少なくとも１つの実施例では、本明細書で説明される技法は、ユーザ供給されたデストラクタ・コードを利用する。少なくとも１つの実施例では、本明細書で説明される技法は、様々なＣ＋＋オブジェクト（たとえば、デストラクタ・コード及び／又はコンストラクタ・コード）を受け付けるＣ＋＋ラッパーを利用し、本明細書で説明される１つ又は複数の技法を用いて使用するために、それらをコンバートする。少なくとも１つの実施例では、本明細書で説明される技法は、ユーザ・オブジェクト参照が、グラフ、個々のノード、他のオブジェクト、及び／又はそれらの変形形態によって利用されるか又はさもなければ所有されることを可能にする。

【0015】

少なくとも１つの実施例では、（たとえば、前記オブジェクトをリリースするか又はさもなければ消去するための）デストラクタ実行は、任意の好適な様式で実施される。少なくとも１つの実施例では、同期参照は、ＣＰＵからのアクションによって管理された参照を指す。少なくとも１つの実施例では、オブジェクトは、前記オブジェクトを利用する任意のグラフ実行を切り抜けなければならない。少なくとも１つの実施例では、グラフ実行は、前記グラフが起動コールにおいて同期参照として保たれた任意のユーザ・オブジェクトへのアクセスを有する。少なくとも１つの実施例では、本明細書で説明される技法は、すべてのグラフ実行が任意の適切なユーザ・オブジェクトへのアクセスを有するように、グラフ動作を追跡する。少なくとも１つの実施例では、本明細書で説明される技法は、Ｎｏ ＣＵＤＡ順序付けとして示された順序付けを利用し、前記オブジェクト（たとえば、１つ又は複数のグラフによって利用されるオブジェクト）へのすべての同期参照がリリースされ、前記オブジェクトへのアクセスをもつすべてのグラフ実行が完了されると、プログラミング・モデルの１つ又は複数のシステムが、前記デストラクタの実行をスケジュールする。少なくとも１つの実施例では、前記システムは、他のデストラクタ又は前にエンキューされたタスクの後ろでブロックすることができる。少なくとも１つの実施例では、本明細書で説明される技法は、完全順序付け方式を利用し、Ｏによって示されるユーザ・オブジェクト、及びＳによって示されるステートメントを仮定すれば、Ｏのすべての同期リリースが基本因果律順序（ｂａｓｅ ｃａｕｓａｌｉｔｙ ｏｒｄｅｒ）でＳに先行し、Ｏへのアクセスをもつすべてのグラフ実行が基本因果律順序でＳに先行し、プログラミング・モデルの１つ又は複数のシステムは、Ｏの破棄が基本因果律順序でＳに先行することを保証する。少なくとも１つの実施例では、本明細書で説明される技法は、完全順序付けと同様である、ＣＰＵ順序付け限定方式（ＣＰＵ ｏｒｄｅｒｉｎｇ ｏｎｌｙ ｓｃｈｅｍｅ）を利用し、前記完全順序付け定義が、ＣＰＵスレッドによって実行されるステートメントＳのみに適用される。

【0016】

少なくとも１つの実施例では、前記グラフによって所有されるか又はさもなければ利用される参照は、任意のコピー（たとえば、クローン、インスタンス化）によって保持される。少なくとも１つの実施例では、実行可能グラフが非同期的に破棄される（たとえば、それが起動されるが、同期されない）ときのイベントにおいて、１つ又は複数のシステムは、ユーザ・オブジェクトが前記グラフの実行を切り抜けることを保証する。少なくとも１つの実施例では、前記起動が同期された後に、残りの参照がリリースされ、前記デストラクタが非同期的に実行することになる。少なくとも１つの実施例では、子グラフ・ノード中のグラフによって所有される参照は、前記子グラフに関連する。少なくとも１つの実施例では、子グラフが更新されるか又は消去される場合、前記参照はそれに応じて変化する。少なくとも１つの実施例では、実行可能グラフ又は子グラフが（たとえば、ｃｕｄａＧｒａｐｈＥｘｅｃＵｐｄａｔｅ又はｃｕｄａＧｒａｐｈＥｘｅｃＣｈｉｌｄＧｒａｐｈＮｏｄｅＳｅｔＰａｒａｍｓなどの１つ又は複数のＡＰＩ関数、或いは任意の好適なＡＰＩ関数を通して）更新された場合、新しいソース・グラフ中の前記参照が、クローニングされ、ターゲット・グラフ中の前記参照を置き換える。少なくとも１つの実施例では、前の起動（たとえば、実行のためのグラフ起動）が同期されない場合、リリースされることになる参照は、前記起動が実行し終えるまで保たれる。少なくとも１つの実施例では、ユーザ・オブジェクトへの最後の参照がリリースされたとき、１つ又は複数のシステムは、前記ユーザ・オブジェクトの破棄関数（たとえば、デストラクタ）をコールすることになる。

【0017】

少なくとも１つの実施例では、前記オブジェクトへの参照は、１つ又は複数のコンピュータ・プログラム及び／又はグラフの１つ又は複数の動作における前記オブジェクトへのポインタ、又は前記オブジェクトの他の使用を指す。少なくとも１つの実施例では、１つ又は複数のシステムは、前記グラフの個々のノードへの参照をアタッチする。少なくとも１つの実施例では、１つ又は複数のシステムは、特定のオブジェクトによって所有される参照を照会する。少なくとも１つの実施例では、１つ又は複数のシステムは、前記グラフが破棄されたとき、（たとえば、１つ又は複数のデストラクタを介して）最後の実行の後に起こるべきオブジェクト・クリーンアップをスケジュールする。

【0018】

少なくとも１つの実施例では、本明細書で説明される技法は、ユーザが、コールバック（たとえば、デストラクタ）を登録することを可能にし、コールバックは、様々な条件が満たされた（たとえば、カウンタの値が０に達した）後にコールされるために、内部参照計数機構（たとえば、カウンタ）を使用する。少なくとも１つの実施例では、コールバックは、前記グラフに登録され得、前記グラフ・ハンドル及び任意のクローンが破棄され、任意の非同期実行が完了されるまでコールされないことになる。少なくとも１つの実施例では、コールバックは、（たとえば、デストラクタを介した）オブジェクトの破棄のために使用される。少なくとも１つの実施例では、本明細書で説明される技法は、オブジェクト存続期間管理のために必要なグラフ・ハンドルに対する動作を追跡するための機構を提供する。少なくとも１つの実施例では、本明細書で説明される技法は、（たとえば、カウンタを介して示される）参照カウントが０に達するまで、コールバックの実行を延期する。

【0019】

少なくとも１つの実施例では、本明細書で説明される技法は、ユーザが、ハンドル（たとえば、ＣＵＤＡハンドル）にデストラクタ・コールバックの実行を待機させることを可能にする。少なくとも１つの実施例では、本明細書で説明される技法は、参照が、グラフ、グラフのノード、依存性、及び／又はそれらの変形形態など、様々な場所において、アタッチ及び／又は操作されることを可能にする。少なくとも１つの実施例では、本明細書で説明される技法は、ストリームに適用可能であり、参照は、様々な非同期ワークロード（たとえば、ストリームワークロード）にアタッチされ得る。少なくとも１つの実施例では、本明細書で説明される技法は、デストラクタ・コールバックが、１つ又は複数のドライバ（たとえば、ＣＵＤＡドライバ）に再帰的にコールすることを可能にする。

【0020】

図３～図５は、少なくとも１つの実施例による、ＡＰＩ関数のグラフィック表現を示す。少なくとも１つの実施例では、図３～図５に示されているＡＰＩ関数は、本明細書で説明されるもの（たとえば、図１～図２及び図６～図８に関して説明される技法）など、１つ又は複数の技法の一部として利用される。少なくとも１つの実施例では、図３～図５に示されているＡＰＩ関数は、１つ又は複数のＣＰＵ、ＧＰＵ、ＧＰＧＰＵ、ＰＰＵ、及び／又はそれらの変形形態など、任意の好適なプロセッサ及び／又はプロセッサの組合せによって、並びに、並列でなど、任意の好適な順序及び／又は様式で、実施される。少なくとも１つの実施例では、図３～図５の各々は、ＡＰＩコール及び応答中に含まれ得る情報の特定の集合を示すが、変形形態が本開示の範囲内にあり、ＡＰＩコールは、より少数の又はより多くの情報構成要素を有することができ、これは、任意の好適な様式で示され得る。少なくとも１つの実施例では、同じＡＰＩ関数を使用して行われるすべてのＡＰＩコールが同じ情報構成要素を含むとは限らない。少なくとも１つの実施例では、１つのパラメータについての重要な情報のタイプ及び／又は存在が、例示的な実例として、別のパラメータの値に依存することができる。少なくとも１つの実施例では、応答の構成要素についての重要な情報のタイプ及び／又は存在が、別のパラメータ、及び／又は前記応答をトリガしたＡＰＩコールのパラメータの値に依存する。

【0021】

少なくとも１つの実施例では、本明細書で説明されるものなど、ＡＰＩは、ドライバＡＰＩ又はランタイムＡＰＩである。少なくとも１つの実施例では、ドライバＡＰＩは、プログラミング・モデルに関して言及され得る、低レベルＡＰＩである（たとえば、ＣＵＤＡドライバＡＰＩ）。少なくとも１つの実施例では、ドライバＡＰＩは、１つ又は複数のデバイスと直接対話する。少なくとも１つの実施例では、ランタイムＡＰＩは、プログラミング・モデルに関して言及され得る、高レベルＡＰＩである（たとえば、ＣＵＤＡランタイムＡＰＩ）。少なくとも１つの実施例では、ランタイムＡＰＩは、ドライバＡＰＩを利用して動作する。ドライバＡＰＩ及びランタイムＡＰＩに関するさらなる情報は、図２９の説明において見つけられ得る。

【0022】

少なくとも１つの実施例では、ＡＰＩコールは、前記ＡＰＩコールに対応する少なくともＡＰＩ関数を示すコードの実行の一部として行われる。少なくとも１つの実施例では、例示的な実例として、１つ又は複数のシステムは、ＣＵＤＡ、ＨＩＰ、ｏｎｅＡＰＩ、及び／又はそれらの変形形態など、１つ又は複数のプログラミング・モデルに関するコードの実行の一部として、ＡＰＩコールを行い、応答を取得する。

【0023】

図３は、少なくとも１つの実施例による、ユーザ・オブジェクト作成ＡＰＩコールの図３００を示す。前記ユーザ・オブジェクト作成ＡＰＩコールに関するさらなる情報は、図６の説明において見つけられ得る。少なくとも１つの実施例では、前記ユーザ・オブジェクト作成ＡＰＩは、プログラミング・モデル（たとえば、ＣＵＤＡ、ＨＩＰ、ｏｎｅＡＰＩ、及び／又はそれらの変形形態）に関し得る、ｃｕｄａＵｓｅｒＯｂｊｅｃｔＣｒｅａｔｅ、ＵｓｅｒＯｂｊｅｃｔＣｒｅａｔｅ、及び／又は任意の好適な記法として示される。少なくとも１つの実施例では、前記ユーザ・オブジェクト作成ＡＰＩは、１つ又は複数のプログラミング・モデル（たとえば、ＣＵＤＡ、ＨＩＰ、ｏｎｅＡＰＩ、及び／又はそれらの変形形態）の１つ又は複数のシステムが、デストラクタ及び参照カウントを示すデータ構造を指すユーザ・オブジェクトを作成することを引き起こす。少なくとも１つの実施例では、前記ユーザ・オブジェクトは、指定されたデストラクタ・コールバック及び初期参照カウントを示す。少なくとも１つの実施例では、前記ユーザ・オブジェクトは、コンピュータ・プログラムの動作において利用される、前記オブジェクト、メモリの領域、データ・オブジェクト、データ構造、及び／又は任意の好適なコンピューティング・リソースなど、コンピューティング・リソースに対応する。少なくとも１つの実施例では、前記ユーザ・オブジェクトは、前記コンピューティング・リソースへの参照を追跡するために利用され、前記参照カウントが０に達すると、前記デストラクタは、前記コンピューティング・リソースを破棄するか又はさもなければ消去するために呼び出される。

【0024】

少なくとも１つの実施例では、前記ユーザ・オブジェクト作成ＡＰＩコールについてのパラメータは、「ｏｂｊｅｃｔ＿ｏｕｔ」、「ｐｔｒ」、「破棄」、「ｉｎｉｔｉａｌＲｅｆｃｏｕｎｔ」、「フラグ」を含み、前記ユーザ・オブジェクトの態様をさらに定義する他のパラメータを含むことができる。少なくとも１つの実施例では、パラメータ「ｏｂｊｅｃｔ＿ｏｕｔ」は、前記ユーザ・オブジェクトにハンドルを返すためのロケーションを示す。少なくとも１つの実施例では、パラメータ「ｐｔｒ」は、破棄関数（たとえば、デストラクタ）に渡すためのポインタを示す。少なくとも１つの実施例では、パラメータ「破棄」は、前記１つ又は複数のコンピューティング・リソースがもはや使用中でないとき、１つ又は複数のコンピューティング・リソースを解放するためのコールバックを示す。少なくとも１つの実施例では、パラメータ「ｉｎｉｔｉａｌＲｅｆｃｏｕｎｔ」は、前記オブジェクトを作成するための初期参照カウントの値を示し、初期参照はコーリング・スレッドによって所有される。少なくとも１つの実施例では、パラメータ「フラグ」は、１つ又は複数のフラグを示し、それらは、関数又はプロセス（たとえば、ＡＰＩ関数）の１つ又は複数の特性を決定する、前記関数又はプロセスのための信号である値を参照する。少なくとも１つの実施例では、前記ユーザ・オブジェクト作成ＡＰＩのためのフラグは、前記破棄コールバックがＡＰＩによって待機され得ないことを示す、「ＵｓｅｒＯｂｊｅｃｔＮｏＤｅｓｔｒｕｃｔｏｒＳｙｎｃ」として示されるフラグを含む。

【0025】

少なくとも１つの実施例では、１つ又は複数のシステムは、少なくとも、少なくとも１つ又は複数の関数（たとえば、デストラクタ）と、参照カウントとも呼ばれる参照のカウントを示す値とを符号化するか又はさもなければ示す前記ユーザ・オブジェクトを生成することによって、前記ユーザ・オブジェクト作成ＡＰＩを実施する。少なくとも１つの実施例では、前記ユーザ・オブジェクト作成ＡＰＩコールに対する応答は、ステータスを含む。少なくとも１つの実施例では、前記ユーザ・オブジェクトの作成を示す前記ユーザ・オブジェクト作成ＡＰＩコールに続いて、前記ユーザ・オブジェクトが作成され、前記ユーザ・オブジェクトに対するハンドルが、パラメータ「ｏｂｊｅｃｔ＿ｏｕｔ」によって指定されたロケーションにおいて返される。少なくとも１つの実施例では、前記ステータスは、前記ユーザ・オブジェクト作成ＡＰＩコールのステータス指示を示すために、前記ユーザ・オブジェクト作成ＡＰＩコールに応答して返される。少なくとも１つの実施例では、前記ステータス指示は、前記ユーザ・オブジェクト作成ＡＰＩの１つ又は複数の動作が成功したのか失敗したのか、又は他のエラーが生じたかどうかを示す。

【0026】

図４は、少なくとも１つの実施例による、ユーザ・オブジェクト保持ＡＰＩコールの図４００を示す。前記ユーザ・オブジェクト保持ＡＰＩコールに関するさらなる情報は、図７の説明において見つけられ得る。少なくとも１つの実施例では、前記ユーザ・オブジェクト保持ＡＰＩは、プログラミング・モデル（たとえば、ＣＵＤＡ、ＨＩＰ、ｏｎｅＡＰＩ、及び／又はそれらの変形形態）に関し得る、ｃｕｄａＵｓｅｒＯｂｊｅｃｔＲｅｔａｉｎ、ＵｓｅｒＯｂｊｅｃｔＲｅｔａｉｎ、及び／又は任意の好適な記法として示される。少なくとも１つの実施例では、前記ユーザ・オブジェクト保持ＡＰＩは、１つ又は複数のプログラミング・モデル（たとえば、ＣＵＤＡ、ＨＩＰ、ｏｎｅＡＰＩ、及び／又はそれらの変形形態）の１つ又は複数のシステムが、少なくとも、前記ユーザ・オブジェクトの前記参照カウントを、指定された値だけ増分することによって、前記ユーザ・オブジェクトへの参照を保持することを引き起こす。少なくとも１つの実施例では、１つ又は複数のシステムは、１つ又は複数のコンピューティング・プログラムによる、コンピューティング・リソース、又は任意の好適な情報への参照の数、及び／又はそれらの使用を追跡するために、前記ユーザ・オブジェクト保持ＡＰＩを利用する。

【0027】

少なくとも１つの実施例では、前記ユーザ・オブジェクト保持ＡＰＩコールについてのパラメータは、「オブジェクト」、「カウント」を含み、前記ユーザ・オブジェクトの態様をさらに定義する他のパラメータを含むことができる。少なくとも１つの実施例では、パラメータ「オブジェクト」は前記ユーザ・オブジェクトを示す。少なくとも１つの実施例では、パラメータ「カウント」は、保持すべき参照の数を示す。少なくとも１つの実施例では、１つ又は複数のシステムは、少なくとも、前記ユーザ・オブジェクトに関連する参照のカウントを（たとえば、保持すべき参照の前記示された数だけ）増加させるか又はさもなければ増分することによって、前記ユーザ・オブジェクト保持ＡＰＩを実施する。少なくとも１つの実施例では、前記ユーザ・オブジェクト保持ＡＰＩコールに対する応答は、ステータスを含む。少なくとも１つの実施例では、前記ユーザ・オブジェクト保持ＡＰＩコールに続いて、パラメータ「オブジェクト」によって示された前記ユーザ・オブジェクトの前記参照カウントは、パラメータ「カウント」によって指定された値だけ増分される。少なくとも１つの実施例では、前記ステータスは、前記ユーザ・オブジェクト保持ＡＰＩコールのステータス指示を示すために、前記ユーザ・オブジェクト保持ＡＰＩコールに応答して返される。少なくとも１つの実施例では、前記ステータス指示は、前記ユーザ・オブジェクト保持ＡＰＩの１つ又は複数の動作が成功したのか失敗したのか、又は他のエラーが生じたかどうかを示す。

【0028】

少なくとも１つの実施例では、グラフ保持ユーザ・オブジェクトＡＰＩが、前記ユーザ・オブジェクト保持ＡＰＩの１つ又は複数のプロセスを実施する。少なくとも１つの実施例では、前記ユーザ・オブジェクト保持ＡＰＩは、前記グラフ保持ユーザ・オブジェクトＡＰＩの１つ又は複数のプロセスを実施するために利用され得る。少なくとも１つの実施例では、前記グラフ保持ユーザ・オブジェクトＡＰＩは、前記グラフから前記ユーザ・オブジェクトへの参照を保持し、及び／又は前記ユーザ・オブジェクトを１つ又は複数のグラフに関連付けるために利用され、前記グラフ保持ユーザ・オブジェクトＡＰＩコールについての前記パラメータは、前記参照を関連付けるための前記グラフを示す「グラフ」と、前記参照を保持するための前記ユーザ・オブジェクトを示す「オブジェクト」と、前記グラフに追加すべき参照の数を示す「カウント」と、前記コーリング・スレッドからの参照を転送する「ＧｒａｐｈＵｓｅｒＯｂｊｅｃｔＭｏｖｅ」フラグなどの様々なフラグを示す「フラグ」とを含む（たとえば、前記ユーザ・オブジェクトと前記グラフとの関連付けを示す）。

【0029】

図５は、少なくとも１つの実施例による、ユーザ・オブジェクト・リリースＡＰＩコールの図５００を示す。前記ユーザ・オブジェクト・リリースＡＰＩコールに関するさらなる情報は、図８の説明において見つけられ得る。少なくとも１つの実施例では、前記ユーザ・オブジェクト・リリースＡＰＩは、プログラミング・モデル（たとえば、ＣＵＤＡ、ＨＩＰ、ｏｎｅＡＰＩ、及び／又はそれらの変形形態）に関し得る、ｃｕｄａＵｓｅｒＯｂｊｅｃｔＲｅｌｅａｓｅ、ＵｓｅｒＯｂｊｅｃｔＲｅｌｅａｓｅ、及び／又は任意の好適な記法として示される。少なくとも１つの実施例では、前記ユーザ・オブジェクト・リリースＡＰＩは、１つ又は複数のプログラミング・モデル（たとえば、ＣＵＤＡ、ＨＩＰ、ｏｎｅＡＰＩ、及び／又はそれらの変形形態）の１つ又は複数のシステムが、少なくとも、前記ユーザ・オブジェクトの前記参照カウントを、指定された値だけ減分することによって、前記ユーザ・オブジェクトへの参照をリリースすることを引き起こす。少なくとも１つの実施例では、１つ又は複数のシステムは、１つ又は複数のコンピューティング・プログラムによる、コンピューティング・リソース、又は任意の好適な情報への参照の数、及び／又はそれらの使用を追跡するために、前記ユーザ・オブジェクト・リリースＡＰＩを利用する。

【0030】

少なくとも１つの実施例では、前記ユーザ・オブジェクト・リリースＡＰＩコールについてのパラメータは、「オブジェクト」、「カウント」を含み、前記ユーザ・オブジェクトの態様をさらに定義する他のパラメータを含むことができる。少なくとも１つの実施例では、パラメータ「オブジェクト」は前記ユーザ・オブジェクトを示す。少なくとも１つの実施例では、パラメータ「カウント」は、リリースすべき参照の数を示す。少なくとも１つの実施例では、１つ又は複数のシステムは、少なくとも、前記ユーザ・オブジェクトに関連する参照のカウントを（たとえば、リリースすべき参照の前記示された数だけ）減少させるか又はさもなければ減分することによって、前記ユーザ・オブジェクト・リリースＡＰＩを実施する。少なくとも１つの実施例では、前記ユーザ・オブジェクト・リリースＡＰＩコールに対する応答は、ステータスを含む。少なくとも１つの実施例では、前記ユーザ・オブジェクト・リリースＡＰＩコールに続いて、パラメータ「オブジェクト」によって示された前記ユーザ・オブジェクトの前記参照カウントは、パラメータ「カウント」によって指定された値だけ減分される。少なくとも１つの実施例では、前記ステータスは、前記ユーザ・オブジェクト・リリースＡＰＩコールのステータス指示を示すために、前記ユーザ・オブジェクト・リリースＡＰＩコールに応答して返される。少なくとも１つの実施例では、前記ステータス指示は、前記ユーザ・オブジェクト・リリースＡＰＩの１つ又は複数の動作が成功したのか失敗したのか、又は他のエラーが生じたかどうかを示す。

【0031】

少なくとも１つの実施例では、グラフ・リリース・ユーザ・オブジェクトＡＰＩが、前記ユーザ・オブジェクト・リリースＡＰＩの１つ又は複数のプロセスを実施する。少なくとも１つの実施例では、前記ユーザ・オブジェクト・リリースＡＰＩは、前記グラフ・リリース・ユーザ・オブジェクトＡＰＩの１つ又は複数のプロセスを実施するために利用され得る。少なくとも１つの実施例では、前記グラフ・リリース・ユーザ・オブジェクトＡＰＩは、前記グラフからの前記ユーザ・オブジェクト参照をリリースするために利用され、前記グラフ・リリース・ユーザ・オブジェクトＡＰＩコールについての前記パラメータは、前記参照をリリースすることになる前記グラフを示す「グラフ」と、前記参照をリリースするための前記ユーザ・オブジェクトを示す「オブジェクト」と、リリースすべき参照の数を示す「カウント」とを含む。

【0032】

図６は、少なくとも１つの実施例による、コンピュータ・プログラムによる情報の使用を監視するために使用されるべきデータ構造を生成するプロセス６００の一実例を示す。少なくとも１つの実施例では、プロセス６００（或いは本明細書で説明される任意の他のプロセス、或いはそれらの変形形態及び／又は組合せ）の一部又は全部は、コンピュータ実行可能命令で構成された１つ又は複数のコンピュータ・システムの制御下で実施され、１つ又は複数のプロセッサ上で、ハードウェアによって、ソフトウェアによって、又はそれらの組合せによって集合的に実行するコード（たとえば、コンピュータ実行可能命令、１つ又は複数のコンピュータ・プログラム、又は１つ又は複数のアプリケーション）として実装される。少なくとも１つの実施例では、コードは、１つ又は複数のプロセッサによって実行可能な複数のコンピュータ可読命令を備えるコンピュータ・プログラムの形態で、コンピュータ可読記憶媒体に記憶される。少なくとも１つの実施例では、コンピュータ可読記憶媒体は非一時的コンピュータ可読媒体である。少なくとも１つの実施例では、プロセス６００を実施するために使用可能な少なくともいくつかのコンピュータ可読命令は、一時的信号（たとえば、伝搬する一時的な電気又は電磁送信）のみを使用して記憶されない。少なくとも１つの実施例では、非一時的コンピュータ可読媒体は、必ずしも、一時的信号のトランシーバ内に非一時的データ・ストレージ回路要素（たとえば、バッファ、キャッシュ、及びキュー）を含むとは限らない。

【0033】

少なくとも１つの実施例では、プロセス６００は、本開示で説明されるものなど、１つ又は複数のシステムによって実施される。少なくとも１つの実施例では、プロセス６００は、１つ又は複数のプログラミング・モデルのシステムによって実施される。少なくとも１つの実施例では、プロセス６００の１つ又は複数のプロセスは、連続、並列、及び／又はそれらの変形形態を含む、任意の好適な順序で、並びにＣＰＵ、ＧＰＵ、ＰＰＵ、及び／又はそれらの変形形態など、任意の好適な処理ユニットを使用して、実施される。

【0034】

少なくとも１つの実施例では、プロセス６００の少なくとも一部を実施する前記システムは、６０２において、少なくとも、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するために少なくともＡＰＩを示すコードを取得するための、実行可能コードを含む。少なくとも１つの実施例では、前記ＡＰＩは、図３に関して説明されたものなど、ユーザ・オブジェクト作成ＡＰＩである。少なくとも１つの実施例では、前記１つ又は複数のデータ構造は、前記ユーザ・オブジェクトを含む。少なくとも１つの実施例では、前記情報は、前記オブジェクト、入力データ、データ・オブジェクト、データ構造、メモリの領域、及び／又はそれらの変形形態など、前記コンピュータ・プログラムによって利用される任意の好適なコンピューティング・リソースを含む。少なくとも１つの実施例では、前記ＡＰＩは、図３に関して説明されたものなど、パラメータ値を含む。少なくとも１つの実施例では、前記ＡＰＩは、前記１つ又は複数のデータ構造に対応するロケーション（たとえば、前記１つ又は複数のデータ構造に対応するハンドルについてのロケーション）、参照の数、１つ又は複数の関数（たとえば、デストラクタ）、及び／又はそれらの変形形態を示す、パラメータ値を含む。

【0035】

少なくとも１つの実施例では、本明細書で説明されるものなど、前記コンピュータ・プログラムは、１つ又は複数のＣＰＵ、ＧＰＵ、ＰＰＵ、ＧＰＧＰＵ、及び／又はそれらの変形形態など、任意の好適な処理ユニットによって実行可能な任意の好適なプログラムである。少なくとも１つの実施例では、本明細書で説明されるものなど、前記コンピュータ・プログラムは、１つ又は複数のグラフ・データ構造、グラフ・コード、及び／又はそれらの変形形態に対応する。少なくとも１つの実施例では、前記コードは、任意の好適なプログラミング言語を使用して、並びにＣＵＤＡ、ＨＩＰ、ｏｎｅＡＰＩ、及び／又はそれらの変形形態など、任意の好適なプログラミング・モデルに関して、書き込まれる。

【0036】

少なくとも１つの実施例では、プロセス６００の少なくとも一部を実施する前記システムは、６０４において、少なくとも、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するための、実行可能コードを含む。少なくとも１つの実施例では、前記システムは、前記ＡＰＩを示す前記コードの実行の一部として前記ＡＰＩを実施する。少なくとも１つの実施例では、前記システムは、少なくとも、前記１つ又は複数の関数（たとえば、デストラクタ）と、参照カウントとも呼ばれる、前記コンピュータ・プログラムに関連する参照のカウントを示す値とを符号化するか又はさもなければ示す前記１つ又は複数のデータ構造を生成する。少なくとも１つの実施例では、前記システムは、少なくとも、前記コンピュータ・プログラムによって利用される前記情報への参照の数を監視することによって、前記コンピュータ・プログラムによる前記情報の前記使用を監視する。少なくとも１つの実施例では、前記システムは、１つ又は複数のグラフ・データ構造による情報の使用を監視するために、前記１つ又は複数のデータ構造を前記１つ又は複数のグラフ・データ構造に関連付ける。少なくとも１つの実施例では、前記システムは、前記値が０に達したとき、前記１つ又は複数の関数の実行を引き起こす。

【0037】

図７は、少なくとも１つの実施例による、コンピュータ・プログラムによる情報の使用量が増加されることを引き起こすプロセス７００の一実例を示す。少なくとも１つの実施例では、プロセス７００（或いは本明細書で説明される任意の他のプロセス、或いはそれらの変形形態及び／又は組合せ）の一部又は全部は、コンピュータ実行可能命令で構成された１つ又は複数のコンピュータ・システムの制御下で実施され、１つ又は複数のプロセッサ上で、ハードウェアによって、ソフトウェアによって、又はそれらの組合せによって集合的に実行するコード（たとえば、コンピュータ実行可能命令、１つ又は複数のコンピュータ・プログラム、又は１つ又は複数のアプリケーション）として実装される。少なくとも１つの実施例では、コードは、１つ又は複数のプロセッサによって実行可能な複数のコンピュータ可読命令を備えるコンピュータ・プログラムの形態で、コンピュータ可読記憶媒体に記憶される。少なくとも１つの実施例では、コンピュータ可読記憶媒体は非一時的コンピュータ可読媒体である。少なくとも１つの実施例では、プロセス７００を実施するために使用可能な少なくともいくつかのコンピュータ可読命令は、一時的信号（たとえば、伝搬する一時的な電気又は電磁送信）のみを使用して記憶されない。少なくとも１つの実施例では、非一時的コンピュータ可読媒体は、必ずしも、一時的信号のトランシーバ内に非一時的データ・ストレージ回路要素（たとえば、バッファ、キャッシュ、及びキュー）を含むとは限らない。

【0038】

少なくとも１つの実施例では、プロセス７００は、本開示で説明されるものなど、１つ又は複数のシステムによって実施される。少なくとも１つの実施例では、プロセス７００は、１つ又は複数のプログラミング・モデルのシステムによって実施される。少なくとも１つの実施例では、プロセス７００の１つ又は複数のプロセスは、連続、並列、及び／又はそれらの変形形態を含む、任意の好適な順序で、並びにＣＰＵ、ＧＰＵ、ＰＰＵ、及び／又はそれらの変形形態など、任意の好適な処理ユニットを使用して、実施される。

【0039】

少なくとも１つの実施例では、プロセス７００の少なくとも一部を実施する前記システムは、７０２において、少なくとも、コンピュータ・プログラムによる情報の使用量が、情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすために少なくともＡＰＩを示すコードを取得するための、実行可能コードを含む。少なくとも１つの実施例では、前記ＡＰＩは、図４に関して説明されたものなど、ユーザ・オブジェクト保持ＡＰＩ又はグラフ保持ユーザ・オブジェクトＡＰＩである。少なくとも１つの実施例では、前記ＡＰＩは、図４に関して説明されたものなど、パラメータ値を含む。少なくとも１つの実施例では、前記ＡＰＩは、前記１つ又は複数のデータ構造、保持すべき参照の数、及び／又はそれらの変形形態を示す、パラメータ値を含む。少なくとも１つの実施例では、前記ＡＰＩは、１つ又は複数のグラフ・データ構造及び／又は１つ又は複数のフラグを示す、パラメータ値を含む。

【0040】

少なくとも１つの実施例では、前記コンピュータ・プログラムは、１つ又は複数のＣＰＵ、ＧＰＵ、ＰＰＵ、ＧＰＧＰＵ、及び／又はそれらの変形形態など、任意の好適な処理ユニットによって実行可能な任意の好適なプログラムである。少なくとも１つの実施例では、前記コンピュータ・プログラムは、前記１つ又は複数のグラフ・データ構造に関連し、前記システムは、前記１つ又は複数のグラフ・データ構造による情報の使用を追跡するために、少なくとも、前記１つ又は複数のデータ構造を前記１つ又は複数のグラフ・データ構造に関連付けることによって、前記ＡＰＩを実施する。少なくとも１つの実施例では、前記コードは、任意の好適なプログラミング言語を使用して、並びにＣＵＤＡ、ＨＩＰ、ｏｎｅＡＰＩ、及び／又はそれらの変形形態など、任意の好適なプログラミング・モデルに関して、書き込まれる。

【0041】

少なくとも１つの実施例では、プロセス７００の少なくとも一部を実施する前記システムは、７０４において、少なくとも、コンピュータ・プログラムによる情報の使用量が、情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するための、実行可能コードを含む。少なくとも１つの実施例では、前記システムは、前記ＡＰＩを示す前記コードの実行の一部として前記ＡＰＩを実施する。少なくとも１つの実施例では、前記システムは、少なくとも、前記コンピュータ・プログラムに関連する参照のカウントを示す、前記１つ又は複数のデータ構造（たとえば、ユーザ・オブジェクト）の値を、前記ＡＰＩの前記パラメータ値によって示された保持すべき参照の前記数だけ増加させるか又はさもなければ増分することによって、前記ＡＰＩを実施する。少なくとも１つの実施例では、前記システムは、少なくとも、前記コンピュータ・プログラムによる情報の増加された使用量（たとえば、前記オブジェクトなどのコンピューティング・リソースへのより多くの参照）を示すために前記ＡＰＩを実施することによって、前記コンピュータ・プログラムによる前記情報の使用量が、前記情報の使用を監視するために使用される前記１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こす。

【0042】

図８は、少なくとも１つの実施例による、コンピュータ・プログラムによる情報の使用量が低減されることを引き起こすプロセス８００の一実例を示す。少なくとも１つの実施例では、プロセス８００（或いは本明細書で説明される任意の他のプロセス、或いはそれらの変形形態及び／又は組合せ）の一部又は全部は、コンピュータ実行可能命令で構成された１つ又は複数のコンピュータ・システムの制御下で実施され、１つ又は複数のプロセッサ上で、ハードウェアによって、ソフトウェアによって、又はそれらの組合せによって集合的に実行するコード（たとえば、コンピュータ実行可能命令、１つ又は複数のコンピュータ・プログラム、又は１つ又は複数のアプリケーション）として実装される。少なくとも１つの実施例では、コードは、１つ又は複数のプロセッサによって実行可能な複数のコンピュータ可読命令を備えるコンピュータ・プログラムの形態で、コンピュータ可読記憶媒体に記憶される。少なくとも１つの実施例では、コンピュータ可読記憶媒体は非一時的コンピュータ可読媒体である。少なくとも１つの実施例では、プロセス８００を実施するために使用可能な少なくともいくつかのコンピュータ可読命令は、一時的信号（たとえば、伝搬する一時的な電気又は電磁送信）のみを使用して記憶されない。少なくとも１つの実施例では、非一時的コンピュータ可読媒体は、必ずしも、一時的信号のトランシーバ内に非一時的データ・ストレージ回路要素（たとえば、バッファ、キャッシュ、及びキュー）を含むとは限らない。

【0043】

少なくとも１つの実施例では、プロセス８００は、本開示で説明されるものなど、１つ又は複数のシステムによって実施される。少なくとも１つの実施例では、プロセス８００は、１つ又は複数のプログラミング・モデルのシステムによって実施される。少なくとも１つの実施例では、プロセス８００の１つ又は複数のプロセスは、連続、並列、及び／又はそれらの変形形態を含む、任意の好適な順序で、並びにＣＰＵ、ＧＰＵ、ＰＰＵ、及び／又はそれらの変形形態など、任意の好適な処理ユニットを使用して、実施される。

【0044】

少なくとも１つの実施例では、プロセス８００の少なくとも一部を実施する前記システムは、８０２において、少なくとも、コンピュータ・プログラムによる情報の使用量が、情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすために少なくともＡＰＩを示すコードを取得するための、実行可能コードを含む。少なくとも１つの実施例では、前記ＡＰＩは、図５に関して説明されたものなど、ユーザ・オブジェクト・リリースＡＰＩ又はグラフ・リリース・ユーザ・オブジェクトＡＰＩである。少なくとも１つの実施例では、前記ＡＰＩは、図５に関して説明されたものなど、パラメータ値を含む。少なくとも１つの実施例では、前記ＡＰＩは、前記１つ又は複数のデータ構造、リリースすべき参照の数、及び／又はそれらの変形形態を示す、パラメータ値を含む。少なくとも１つの実施例では、前記ＡＰＩは、１つ又は複数のグラフ・データ構造を示すパラメータ値を含む。

【0045】

少なくとも１つの実施例では、前記コンピュータ・プログラムは、１つ又は複数のＣＰＵ、ＧＰＵ、ＰＰＵ、ＧＰＧＰＵ、及び／又はそれらの変形形態など、任意の好適な処理ユニットによって実行可能な任意の好適なプログラムである。少なくとも１つの実施例では、前記コンピュータ・プログラムは、前記１つ又は複数のグラフ・データ構造に関連する。少なくとも１つの実施例では、前記コードは、任意の好適なプログラミング言語を使用して、並びにＣＵＤＡ、ＨＩＰ、ｏｎｅＡＰＩ、及び／又はそれらの変形形態など、任意の好適なプログラミング・モデルに関して、書き込まれる。

【0046】

少なくとも１つの実施例では、プロセス８００の少なくとも一部を実施する前記システムは、８０４において、少なくとも、コンピュータ・プログラムによる情報の使用量が、情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するための、実行可能コードを含む。少なくとも１つの実施例では、前記システムは、前記ＡＰＩを示す前記コードの実行の一部として前記ＡＰＩを実施する。少なくとも１つの実施例では、前記システムは、少なくとも、前記コンピュータ・プログラムに関連する参照のカウントを示す、前記１つ又は複数のデータ構造（たとえば、ユーザ・オブジェクト）の値を、前記ＡＰＩの前記パラメータ値によって示されたリリースすべき参照の前記数だけ低減するか又はさもなければ減分することによって、前記ＡＰＩを実施する。少なくとも１つの実施例では、前記システムは、少なくとも、前記コンピュータ・プログラムによる情報の使用量の低減（たとえば、コンピューティング・リソースへのより少ない参照）を示すために前記ＡＰＩを実施することによって、前記コンピュータ・プログラムによる前記情報の使用量が、前記情報の使用を監視するために使用される前記１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こす。少なくとも１つの実施例では、前記システムは、参照の前記カウントを示す前記値が０に達すると、前記コンピュータ・プログラムによって使用される前記情報（たとえば、前記オブジェクトなどのコンピューティング・リソース）を破棄するか又はさもなければ消去するために、１つ又は複数の関数（たとえば、デストラクタ）を呼び出す。

【0047】

先行する及び以下の説明では、少なくとも１つの実施例のより完全な理解を提供するために、多数の具体的な詳細が記載される。ただし、発明概念はこれらの具体的な詳細のうちの１つ又は複数なしに実施され得ることが当業者には明らかであろう。

【0048】

データ・センタ
図９は、少なくとも１つの実施例による、例示的なデータ・センタ９００を示す。少なくとも１つの実施例では、データ・センタ９００は、限定はしないが、データ・センタ・インフラストラクチャ層９１０と、フレームワーク層９２０と、ソフトウェア層９３０と、アプリケーション層９４０とを含む。

【0049】

少なくとも１つの実施例では、図９に示されているように、データ・センタ・インフラストラクチャ層９１０は、リソース・オーケストレータ９１２と、グループ化されたコンピューティング・リソース９１４と、ノード・コンピューティング・リソース（「ノードＣ．Ｒ．」：ｎｏｄｅ ｃｏｍｐｕｔｉｎｇ ｒｅｓｏｕｒｃｅ）９１６（１）～９１６（Ｎ）とを含み得、ここで、「Ｎ」は、任意のすべての正の整数を表す。少なくとも１つの実施例では、ノードＣ．Ｒ．９１６（１）～９１６（Ｎ）は、限定はしないが、任意の数の中央処理ユニット（「ＣＰＵ」）又は（アクセラレータ、フィールド・プログラマブル・ゲート・アレイ（「ＦＰＧＡ」：ｆｉｅｌｄ ｐｒｏｇｒａｍｍａｂｌｅ ｇａｔｅ ａｒｒａｙ）、ネットワーク・デバイス中のデータ処理ユニット（「ＤＰＵ」：ｄａｔａ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ）、グラフィックス・プロセッサなどを含む）他のプロセッサ、メモリ・デバイス（たとえば、動的読取り専用メモリ）、ストレージ・デバイス（たとえば、ソリッド・ステート又はディスク・ドライブ）、ネットワーク入力／出力（「ＮＷ Ｉ／Ｏ」：ｎｅｔｗｏｒｋ ｉｎｐｕｔ／ｏｕｔｐｕｔ）デバイス、ネットワーク・スイッチ、仮想機械（「ＶＭ」：ｖｉｒｔｕａｌ ｍａｃｈｉｎｅ）、電力モジュール、及び冷却モジュールなどを含み得る。少なくとも１つの実施例では、ノードＣ．Ｒ．９１６（１）～９１６（Ｎ）の中からの１つ又は複数のノードＣ．Ｒ．は、上述のコンピューティング・リソースのうちの１つ又は複数を有するサーバであり得る。

【0050】

少なくとも１つの実施例では、グループ化されたコンピューティング・リソース９１４は、１つ又は複数のラック（図示せず）内に格納されたノードＣ．Ｒ．の別個のグループ化、又は様々な地理的ロケーション（同じく図示せず）においてデータ・センタ中に格納された多くのラックを含み得る。グループ化されたコンピューティング・リソース９１４内のノードＣ．Ｒ．の別個のグループ化は、１つ又は複数のワークロードをサポートするように構成されるか又は割り振られ得る、グループ化されたコンピュート・リソース、ネットワーク・リソース、メモリ・リソース、又はストレージ・リソースを含み得る。少なくとも１つの実施例では、ＣＰＵ又はプロセッサを含むいくつかのノードＣ．Ｒ．は、１つ又は複数のワークロードをサポートするためのコンピュート・リソースを提供するために１つ又は複数のラック内でグループ化され得る。少なくとも１つの実施例では、１つ又は複数のラックはまた、任意の数の電力モジュール、冷却モジュール、及びネットワーク・スイッチを、任意の組合せで含み得る。

【0051】

少なくとも１つの実施例では、リソース・オーケストレータ９１２は、１つ又は複数のノードＣ．Ｒ．９１６（１）～９１６（Ｎ）及び／又はグループ化されたコンピューティング・リソース９１４を構成するか、又はさもなければ、制御し得る。少なくとも１つの実施例では、リソース・オーケストレータ９１２は、データ・センタ９００のためのソフトウェア設計インフラストラクチャ（「ＳＤＩ」：ｓｏｆｔｗａｒｅ ｄｅｓｉｇｎ ｉｎｆｒａｓｔｒｕｃｔｕｒｅ）管理エンティティを含み得る。少なくとも１つの実施例では、リソース・オーケストレータ９１２は、ハードウェア、ソフトウェア又はそれらの何らかの組合せを含み得る。

【0052】

少なくとも１つの実施例では、図９に示されているように、フレームワーク層９２０は、限定はしないが、ジョブ・スケジューラ９３２と、構成マネージャ９３４と、リソース・マネージャ９３６と、分散型ファイル・システム９３８とを含む。少なくとも１つの実施例では、フレームワーク層９２０は、ソフトウェア層９３０のソフトウェア９５２、及び／又はアプリケーション層９４０の１つ又は複数のアプリケーション９４２をサポートするためのフレームワークを含み得る。少なくとも１つの実施例では、ソフトウェア９５２又は（１つ又は複数の）アプリケーション９４２は、それぞれ、アマゾン・ウェブ・サービス、Ｇｏｏｇｌｅ Ｃｌｏｕｄ、及びＭｉｃｒｏｓｏｆｔ Ａｚｕｒｅによって提供されるものなど、ウェブ・ベースのサービス・ソフトウェア又はアプリケーションを含み得る。少なくとも１つの実施例では、フレームワーク層９２０は、限定はしないが、大規模データ処理（たとえば、「ビック・データ」）のために分散型ファイル・システム９３８を利用し得るＡｐａｃｈｅ Ｓｐａｒｋ（商標）（以下「Ｓｐａｒｋ」）など、無料でオープンソースのソフトウェア・ウェブ・アプリケーション・フレームワークのタイプであり得る。少なくとも１つの実施例では、ジョブ・スケジューラ９３２は、データ・センタ９００の様々な層によってサポートされるワークロードのスケジューリングを容易にするために、Ｓｐａｒｋドライバを含み得る。少なくとも１つの実施例では、構成マネージャ９３４は、ソフトウェア層９３０、並びに大規模データ処理をサポートするためのＳｐａｒｋ及び分散型ファイル・システム９３８を含むフレームワーク層９２０など、異なる層を構成することが可能であり得る。少なくとも１つの実施例では、リソース・マネージャ９３６は、分散型ファイル・システム９３８及びジョブ・スケジューラ９３２をサポートするようにマッピングされたか又は割り振られた、クラスタ化された又はグループ化されたコンピューティング・リソースを管理することが可能であり得る。少なくとも１つの実施例では、クラスタ化された又はグループ化されたコンピューティング・リソースは、データ・センタ・インフラストラクチャ層９１０において、グループ化されたコンピューティング・リソース９１４を含み得る。少なくとも１つの実施例では、リソース・マネージャ９３６は、リソース・オーケストレータ９１２と協調して、これらのマッピングされた又は割り振られたコンピューティング・リソースを管理し得る。

【0053】

少なくとも１つの実施例では、ソフトウェア層９３０中に含まれるソフトウェア９５２は、ノードＣ．Ｒ．９１６（１）～９１６（Ｎ）、グループ化されたコンピューティング・リソース９１４、及び／又はフレームワーク層９２０の分散型ファイル・システム９３８の少なくとも部分によって使用されるソフトウェアを含み得る。１つ又は複数のタイプのソフトウェアは、限定はしないが、インターネット・ウェブ・ページ検索ソフトウェアと、電子メール・ウイルス・スキャン・ソフトウェアと、データベース・ソフトウェアと、ストリーミング・ビデオ・コンテンツ・ソフトウェアとを含み得る。

【0054】

少なくとも１つの実施例では、アプリケーション層９４０中に含まれる（１つ又は複数の）アプリケーション９４２は、ノードＣ．Ｒ．９１６（１）～９１６（Ｎ）、グループ化されたコンピューティング・リソース９１４、及び／又はフレームワーク層９２０の分散型ファイル・システム９３８の少なくとも部分によって使用される１つ又は複数のタイプのアプリケーションを含み得る。少なくとも１つ又は複数のタイプのアプリケーションでは、限定はしないが、ＣＵＤＡアプリケーションを含み得る。

【0055】

少なくとも１つの実施例では、構成マネージャ９３４、リソース・マネージャ９３６、及びリソース・オーケストレータ９１２のいずれかが、任意の技術的に実現可能な様式で獲得された任意の量及びタイプのデータに基づいて、任意の数及びタイプの自己修正アクションを実装し得る。少なくとも１つの実施例では、自己修正アクションは、データ・センタ９００のデータ・センタ・オペレータを、不良の恐れのある構成を判定し、十分に利用されていない及び／又は性能の低いデータ・センタの部分を場合によっては回避することから解放し得る。

【0056】

少なくとも１つの実施例では、図９に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図９に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図９に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図９に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0057】

コンピュータ・ベースのシステム
以下の図は、限定はしないが、少なくとも１つの実施例を実装するために使用され得る、例示的なコンピュータ・ベースのシステムを記載する。

【0058】

図１０は、少なくとも１つの実施例による、処理システム１０００を示す。少なくとも１つの実施例では、処理システム１０００は、１つ又は複数のプロセッサ１００２と１つ又は複数のグラフィックス・プロセッサ１００８とを含み、単一プロセッサ・デスクトップ・システム、マルチプロセッサ・ワークステーション・システム、或いは多数のプロセッサ１００２又はプロセッサ・コア１００７を有するサーバ・システムであり得る。少なくとも１つの実施例では、処理システム１０００は、モバイル・デバイス、ハンドヘルド・デバイス、又は組み込みデバイスにおいて使用するためのシステム・オン・チップ（「ＳｏＣ」：ｓｙｓｔｅｍ－ｏｎ－ａ－ｃｈｉｐ）集積回路内に組み込まれた処理プラットフォームである。

【0059】

少なくとも１つの実施例では、処理システム１０００は、サーバ・ベースのゲーミング・プラットフォーム、ゲーム・コンソール、メディア・コンソール、モバイル・ゲーミング・コンソール、ハンドヘルド・ゲーム・コンソール、又はオンライン・ゲーム・コンソールを含むことができるか、或いはそれらの内部に組み込まれ得る。少なくとも１つの実施例では、処理システム１０００は、モバイル・フォン、スマート・フォン、タブレット・コンピューティング・デバイス又はモバイル・インターネット・デバイスである。少なくとも１つの実施例では、処理システム１０００はまた、スマート・ウォッチ・ウェアラブル・デバイス、スマート・アイウェア・デバイス、拡張現実デバイス、又は仮想現実デバイスなどのウェアラブル・デバイスを含むことができるか、それらと結合することができるか、又はそれらの内部に組み込まれ得る。少なくとも１つの実施例では、処理システム１０００は、１つ又は複数のプロセッサ１００２と、１つ又は複数のグラフィックス・プロセッサ１００８によって生成されるグラフィカル・インターフェースとを有するテレビ又はセット・トップ・ボックス・デバイスである。

【0060】

少なくとも１つの実施例では、１つ又は複数のプロセッサ１００２は、各々、実行されたときにシステム及びユーザ・ソフトウェアのための動作を実施する命令を処理するための１つ又は複数のプロセッサ・コア１００７を含む。少なくとも１つの実施例では、１つ又は複数のプロセッサ・コア１００７の各々は、特定の命令セット１００９を処理するように構成される。少なくとも１つの実施例では、命令セット１００９は、複合命令セット・コンピューティング（「ＣＩＳＣ」：Ｃｏｍｐｌｅｘ Ｉｎｓｔｒｕｃｔｉｏｎ Ｓｅｔ Ｃｏｍｐｕｔｉｎｇ）、縮小命令セット・コンピューティング（「ＲＩＳＣ」：Ｒｅｄｕｃｅｄ Ｉｎｓｔｒｕｃｔｉｏｎ Ｓｅｔ Ｃｏｍｐｕｔｉｎｇ）、又は超長命令語（「ＶＬＩＷ」：Ｖｅｒｙ Ｌｏｎｇ Ｉｎｓｔｒｕｃｔｉｏｎ Ｗｏｒｄ）を介したコンピューティングを容易にし得る。少なくとも１つの実施例では、プロセッサ・コア１００７は、各々、異なる命令セット１００９を処理し得、命令セット１００９は、他の命令セットのエミュレーションを容易にするための命令を含み得る。少なくとも１つの実施例では、プロセッサ・コア１００７はまた、デジタル信号プロセッサ（「ＤＳＰ」：ｄｉｇｉｔａｌ ｓｉｇｎａｌ ｐｒｏｃｅｓｓｏｒ）などの他の処理デバイスを含み得る。

【0061】

少なくとも１つの実施例では、プロセッサ１００２はキャッシュ・メモリ（「キャッシュ」）１００４を含む。少なくとも１つの実施例では、プロセッサ１００２は、単一の内部キャッシュ又は複数のレベルの内部キャッシュを有することができる。少なくとも１つの実施例では、キャッシュ・メモリは、プロセッサ１００２の様々な構成要素の間で共有される。少なくとも１つの実施例では、プロセッサ１００２はまた、外部キャッシュ（たとえば、レベル３（「Ｌ３」）キャッシュ又はラスト・レベル・キャッシュ（「ＬＬＣ」：Ｌａｓｔ Ｌｅｖｅｌ Ｃａｃｈｅ））（図示せず）を使用し、外部キャッシュは、知られているキャッシュ・コヒーレンシ技法を使用してプロセッサ・コア１００７の間で共有され得る。少なくとも１つの実施例では、追加として、レジスタ・ファイル１００６がプロセッサ１００２中に含まれ、レジスタ・ファイル１００６は、異なるタイプのデータを記憶するための異なるタイプのレジスタ（たとえば、整数レジスタ、浮動小数点レジスタ、ステータス・レジスタ、及び命令ポインタ・レジスタ）を含み得る。少なくとも１つの実施例では、レジスタ・ファイル１００６は、汎用レジスタ又は他のレジスタを含み得る。

【0062】

少なくとも１つの実施例では、１つ又は複数のプロセッサ１００２は、アドレス、データ、又は制御信号などの通信信号を、プロセッサ１００２と処理システム１０００中の他の構成要素との間で送信するために、１つ又は複数のインターフェース・バス１０１０と結合される。少なくとも１つの実施例では、１つの実施例におけるインターフェース・バス１０１０は、ダイレクト・メディア・インターフェース（「ＤＭＩ」：Ｄｉｒｅｃｔ Ｍｅｄｉａ Ｉｎｔｅｒｆａｃｅ）バスのバージョンなどのプロセッサ・バスであり得る。少なくとも１つの実施例では、インターフェース・バス１０１０は、ＤＭＩバスに限定されず、１つ又は複数の周辺構成要素相互接続バス（たとえば、「ＰＣＩ」：Ｐｅｒｉｐｈｅｒａｌ Ｃｏｍｐｏｎｅｎｔ Ｉｎｔｅｒｃｏｎｎｅｃｔ、ＰＣＩ Ｅｘｐｒｅｓｓ（「ＰＣＩｅ」））、メモリ・バス、又は他のタイプのインターフェース・バスを含み得る。少なくとも１つの実施例では、（１つ又は複数の）プロセッサ１００２は、統合されたメモリ・コントローラ１０１６と、プラットフォーム・コントローラ・ハブ１０３０とを含む。少なくとも１つの実施例では、メモリ・コントローラ１０１６は、メモリ・デバイスと処理システム１０００の他の構成要素との間の通信を容易にし、プラットフォーム・コントローラ・ハブ（「ＰＣＨ」：ｐｌａｔｆｏｒｍ ｃｏｎｔｒｏｌｌｅｒ ｈｕｂ）１０３０は、ローカル入力／出力（「Ｉ／Ｏ」：Ｉｎｐｕｔ／Ｏｕｔｐｕｔ）バスを介してＩ／Ｏデバイスへの接続を提供する。

【0063】

少なくとも１つの実施例では、メモリ・デバイス１０２０は、ダイナミック・ランダム・アクセス・メモリ（「ＤＲＡＭ」：ｄｙｎａｍｉｃ ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ）デバイス、スタティック・ランダム・アクセス・メモリ（「ＳＲＡＭ」：ｓｔａｔｉｃ ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ）デバイス、フラッシュ・メモリ・デバイス、相変化メモリ・デバイス、又はプロセッサ・メモリとして働くのに好適な性能を有する何らかの他のメモリ・デバイスであり得る。少なくとも１つの実施例では、メモリ・デバイス１０２０は、１つ又は複数のプロセッサ１００２がアプリケーション又はプロセスを実行するときの使用のためのデータ１０２２及び命令１０２１を記憶するために、処理システム１０００のためのシステム・メモリとして動作することができる。少なくとも１つの実施例では、メモリ・コントローラ１０１６はまた、随意の外部グラフィックス・プロセッサ１０１２と結合し、外部グラフィックス・プロセッサ１０１２は、グラフィックス動作及びメディア動作を実施するために、プロセッサ１００２中の１つ又は複数のグラフィックス・プロセッサ１００８と通信し得る。少なくとも１つの実施例では、ディスプレイ・デバイス１０１１は、（１つ又は複数の）プロセッサ１００２に接続することができる。少なくとも１つの実施例では、ディスプレイ・デバイス１０１１は、モバイル電子デバイス又はラップトップ・デバイスの場合のような内部ディスプレイ・デバイス、或いは、ディスプレイ・インターフェース（たとえば、ＤｉｓｐｌａｙＰｏｒｔなど）を介して取り付けられた外部ディスプレイ・デバイスのうちの１つ又は複数を含むことができる。少なくとも１つの実施例では、ディスプレイ・デバイス１０１１は、仮想現実（「ＶＲ」：ｖｉｒｔｕａｌ ｒｅａｌｉｔｙ）アプリケーション又は拡張現実（「ＡＲ」：ａｕｇｍｅｎｔｅｄ ｒｅａｌｉｔｙ）アプリケーションにおいて使用するための立体ディスプレイ・デバイスなどの頭部装着型ディスプレイ（「ＨＭＤ」：ｈｅａｄ ｍｏｕｎｔｅｄ ｄｉｓｐｌａｙ）を含むことができる。

【0064】

少なくとも１つの実施例では、プラットフォーム・コントローラ・ハブ１０３０は、周辺機器が高速Ｉ／Ｏバスを介してメモリ・デバイス１０２０及びプロセッサ１００２に接続することを可能にする。少なくとも１つの実施例では、Ｉ／Ｏ周辺機器は、限定はしないが、オーディオ・コントローラ１０４６と、ネットワーク・コントローラ１０３４と、ファームウェア・インターフェース１０２８と、ワイヤレス・トランシーバ１０２６と、タッチ・センサ１０２５と、データ・ストレージ・デバイス１０２４（たとえば、ハード・ディスク・ドライブ、フラッシュ・メモリなど）とを含む。少なくとも１つの実施例では、データ・ストレージ・デバイス１０２４は、ストレージ・インターフェース（たとえば、ＳＡＴＡ）を介して、或いはＰＣＩ又はＰＣＩｅなどの周辺バスを介して、接続することができる。少なくとも１つの実施例では、タッチ・センサ１０２５は、タッチ・スクリーン・センサ、圧力センサ、又は指紋センサを含むことができる。少なくとも１つの実施例では、ワイヤレス・トランシーバ１０２６は、Ｗｉ－Ｆｉトランシーバ、Ｂｌｕｅｔｏｏｔｈトランシーバ、或いは３Ｇ、４Ｇ、又はロング・ターム・エボリューション（「ＬＴＥ」：Ｌｏｎｇ Ｔｅｒｍ Ｅｖｏｌｕｔｉｏｎ）トランシーバなどのモバイル・ネットワーク・トランシーバであり得る。少なくとも１つの実施例では、ファームウェア・インターフェース１０２８は、システム・ファームウェアとの通信を可能にし、たとえば、ユニファイド・エクステンシブル・ファームウェア・インターフェース（「ＵＥＦＩ」：ｕｎｉｆｉｅｄ ｅｘｔｅｎｓｉｂｌｅ ｆｉｒｍｗａｒｅ ｉｎｔｅｒｆａｃｅ）であり得る。少なくとも１つの実施例では、ネットワーク・コントローラ１０３４は、ワイヤード・ネットワークへのネットワーク接続を可能にすることができる。少なくとも１つの実施例では、高性能ネットワーク・コントローラ（図示せず）は、インターフェース・バス１０１０と結合する。少なくとも１つの実施例では、オーディオ・コントローラ１０４６は、マルチチャネル高精細度オーディオ・コントローラである。少なくとも１つの実施例では、処理システム１０００は、レガシー（たとえば、パーソナル・システム２（「ＰＳ／２」：Ｐｅｒｓｏｎａｌ Ｓｙｓｔｅｍ ２））デバイスを処理システム１０００に結合するための随意のレガシーＩ／Ｏコントローラ１０４０を含む。少なくとも１つの実施例では、プラットフォーム・コントローラ・ハブ１０３０は、キーボードとマウス１０４３との組合せ、カメラ１０４４、又は他のＵＳＢ入力デバイスなど、１つ又は複数のユニバーサル・シリアル・バス（「ＵＳＢ」：Ｕｎｉｖｅｒｓａｌ Ｓｅｒｉａｌ Ｂｕｓ）コントローラ１０４２接続入力デバイスにも接続することができる。

【0065】

少なくとも１つの実施例では、メモリ・コントローラ１０１６及びプラットフォーム・コントローラ・ハブ１０３０のインスタンスが、外部グラフィックス・プロセッサ１０１２などの慎重な外部グラフィックス・プロセッサに組み込まれ得る。少なくとも１つの実施例では、プラットフォーム・コントローラ・ハブ１０３０及び／又はメモリ・コントローラ１０１６は、１つ又は複数のプロセッサ１００２の外部にあり得る。たとえば、少なくとも１つの実施例では、処理システム１０００は、外部のメモリ・コントローラ１０１６とプラットフォーム・コントローラ・ハブ１０３０とを含むことができ、それらは、（１つ又は複数の）プロセッサ１００２と通信しているシステム・チップセット内のメモリ・コントローラ・ハブ及び周辺コントローラ・ハブとして構成され得る。

【0066】

少なくとも１つの実施例では、図１０に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１０に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１０に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１０に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0067】

図１１は、少なくとも１つの実施例による、コンピュータ・システム１１００を示す。少なくとも１つの実施例では、コンピュータ・システム１１００は、相互接続されたデバイス及び構成要素をもつシステム、ＳＯＣ、又は何らかの組合せであり得る。少なくとも１つの実施例では、コンピュータ・システム１１００は、命令を実行するための実行ユニットを含み得るプロセッサ１１０２とともに形成される。少なくとも１つの実施例では、コンピュータ・システム１１００は、限定はしないが、データを処理するためのアルゴリズムを実施するための論理を含む実行ユニットを採用するための、プロセッサ１１０２などの構成要素を含み得る。少なくとも１つの実施例では、コンピュータ・システム１１００は、カリフォルニア州サンタクララのＩｎｔｅｌ Ｃｏｒｐｏｒａｔｉｏｎから入手可能なＰＥＮＴＩＵＭ（登録商標）プロセッサ・ファミリー、Ｘｅｏｎ（商標）、Ｉｔａｎｉｕｍ（登録商標）、ＸＳｃａｌｅ（商標）及び／又はＳｔｒｏｎｇＡＲＭ（商標）、Ｉｎｔｅｌ（登録商標）Ｃｏｒｅ（商標）、又はＩｎｔｅｌ（登録商標）Ｎｅｒｖａｎａ（商標）マイクロプロセッサなどのプロセッサを含み得るが、（他のマイクロプロセッサ、エンジニアリング・ワークステーション、セット・トップ・ボックスなどを有するＰＣを含む）他のシステムも使用され得る。少なくとも１つの実施例では、コンピュータ・システム１１００は、ワシントン州レドモンドのＭｉｃｒｏｓｏｆｔ Ｃｏｒｐｏｒａｔｉｏｎから入手可能なＷＩＮＤＯＷＳオペレーティング・システムのあるバージョンを実行し得るが、他のオペレーティング・システム（たとえば、ＵＮＩＸ（登録商標）及びＬｉｎｕｘ（登録商標））、組み込みソフトウェア、及び／又はグラフィカル・ユーザ・インターフェースも使用され得る。

【0068】

少なくとも１つの実施例では、コンピュータ・システム１１００は、ハンドヘルド・デバイス及び組み込みアプリケーションなど、他のデバイスにおいて使用され得る。ハンドヘルド・デバイスのいくつかの実例は、セルラー・フォン、インターネット・プロトコル・デバイス、デジタル・カメラ、パーソナル・デジタル・アシスタント（「ＰＤＡ」：ｐｅｒｓｏｎａｌ ｄｉｇｉｔａｌ ａｓｓｉｓｔａｎｔ）、及びハンドヘルドＰＣを含む。少なくとも１つの実施例では、組み込みアプリケーションは、マイクロコントローラ、デジタル信号プロセッサ（ＤＳＰ）、ＳｏＣ、ネットワーク・コンピュータ（「ＮｅｔＰＣ」：ｎｅｔｗｏｒｋ ｃｏｍｐｕｔｅｒ）、セット・トップ・ボックス、ネットワーク・ハブ、ワイド・エリア・ネットワーク（「ＷＡＮ」：ｗｉｄｅ ａｒｅａ ｎｅｔｗｏｒｋ）スイッチ、又は１つ又は複数の命令を実施し得る任意の他のシステムを含み得る。

【0069】

少なくとも１つの実施例では、コンピュータ・システム１１００は、限定はしないが、プロセッサ１１０２を含み得、プロセッサ１１０２は、限定はしないが、コンピュート・ユニファイド・デバイス・アーキテクチャ（「ＣＵＤＡ」）（ＣＵＤＡ（登録商標）は、カリフォルニア州サンタクララのＮＶＩＤＩＡ Ｃｏｒｐｏｒａｔｉｏｎによって開発される）プログラムを実行するように構成され得る、１つ又は複数の実行ユニット１１０８を含み得る。少なくとも１つの実施例では、ＣＵＤＡプログラムは、ＣＵＤＡプログラミング言語で書かれたソフトウェア・アプリケーションの少なくとも一部分である。少なくとも１つの実施例では、コンピュータ・システム１１００は、シングル・プロセッサ・デスクトップ又はサーバ・システムである。少なくとも１つの実施例では、コンピュータ・システム１１００は、マルチプロセッサ・システムであり得る。少なくとも１つの実施例では、プロセッサ１１０２は、限定はしないが、ＣＩＳＣマイクロプロセッサ、ＲＩＳＣマイクロプロセッサ、ＶＬＩＷマイクロプロセッサ、命令セットの組合せを実装するプロセッサ、又は、たとえばデジタル信号プロセッサなど、任意の他のプロセッサ・デバイスを含み得る。少なくとも１つの実施例では、プロセッサ１１０２は、プロセッサ・バス１１１０に結合され得、プロセッサ・バス１１１０は、プロセッサ１１０２とコンピュータ・システム１１００中の他の構成要素との間でデータ信号を送信し得る。

【0070】

少なくとも１つの実施例では、プロセッサ１１０２は、限定はしないが、レベル１（「Ｌ１」）の内部キャッシュ・メモリ（「キャッシュ」）１１０４を含み得る。少なくとも１つの実施例では、プロセッサ１１０２は、単一の内部キャッシュ又は複数のレベルの内部キャッシュを有し得る。少なくとも１つの実施例では、キャッシュ・メモリは、プロセッサ１１０２の外部に存在し得る。少なくとも１つの実施例では、プロセッサ１１０２は、内部キャッシュと外部キャッシュの両方の組合せをも含み得る。少なくとも１つの実施例では、レジスタ・ファイル１１０６は、限定はしないが、整数レジスタ、浮動小数点レジスタ、ステータス・レジスタ、及び命令ポインタ・レジスタを含む様々なレジスタに、異なるタイプのデータを記憶し得る。

【0071】

少なくとも１つの実施例では、限定はしないが、整数演算及び浮動小数点演算を実施するための論理を含む実行ユニット１１０８も、プロセッサ１１０２中に存在し得る。プロセッサ１１０２は、いくつかのマクロ命令のためのマイクロコードを記憶するマイクロコード（「ｕコード」）読取り専用メモリ（「ＲＯＭ」：ｒｅａｄ ｏｎｌｙ ｍｅｍｏｒｙ）をも含み得る。少なくとも１つの実施例では、実行ユニット１１０８は、パック命令セット１１０９に対処するための論理を含み得る。少なくとも１つの実施例では、パック命令セット１１０９を、命令を実行するための関連する回路要素とともに汎用プロセッサ１１０２の命令セットに含めることによって、多くのマルチメディア・アプリケーションによって使用される演算が、汎用プロセッサ１１０２中のパック・データを使用して実施され得る。少なくとも１つの実施例では、多くのマルチメディア・アプリケーションが、パック・データの演算を実施するためにプロセッサのデータ・バスの全幅を使用することによって加速され、より効率的に実行され得、これは、一度に１つのデータ要素ずつ１つ又は複数の演算を実施するために、プロセッサのデータ・バスにわたってより小さい単位のデータを転送する必要をなくし得る。

【0072】

少なくとも１つの実施例では、実行ユニット１１０８はまた、マイクロコントローラ、組み込みプロセッサ、グラフィックス・デバイス、ＤＳＰ、及び他のタイプの論理回路において使用され得る。少なくとも１つの実施例では、コンピュータ・システム１１００は、限定はしないが、メモリ１１２０を含み得る。少なくとも１つの実施例では、メモリ１１２０は、ＤＲＡＭデバイス、ＳＲＡＭデバイス、フラッシュ・メモリ・デバイス、又は他のメモリ・デバイスとして実装され得る。メモリ１１２０は、プロセッサ１１０２によって実行され得るデータ信号によって表される（１つ又は複数の）命令１１１９及び／又はデータ１１２１を記憶し得る。

【0073】

少なくとも１つの実施例では、システム論理チップが、プロセッサ・バス１１１０及びメモリ１１２０に結合され得る。少なくとも１つの実施例では、システム論理チップは、限定はしないが、メモリ・コントローラ・ハブ（「ＭＣＨ」：ｍｅｍｏｒｙ ｃｏｎｔｒｏｌｌｅｒ ｈｕｂ）１１１６を含み得、プロセッサ１１０２は、プロセッサ・バス１１１０を介してＭＣＨ１１１６と通信し得る。少なくとも１つの実施例では、ＭＣＨ１１１６は、命令及びデータ・ストレージのための、並びにグラフィックス・コマンド、データ及びテクスチャのストレージのための、高帯域幅メモリ経路１１１８をメモリ１１２０に提供し得る。少なくとも１つの実施例では、ＭＣＨ１１１６は、プロセッサ１１０２と、メモリ１１２０と、コンピュータ・システム１１００中の他の構成要素との間でデータ信号をダイレクトし、プロセッサ・バス１１１０と、メモリ１１２０と、システムＩ／Ｏ１１２２との間でデータ信号をブリッジし得る。少なくとも１つの実施例では、システム論理チップは、グラフィックス・コントローラに結合するためのグラフィックス・ポートを提供し得る。少なくとも１つの実施例では、ＭＣＨ１１１６は、高帯域幅メモリ経路１１１８を通してメモリ１１２０に結合され得、グラフィックス／ビデオ・カード１１１２は、アクセラレーテッド・グラフィックス・ポート（「ＡＧＰ」：Ａｃｃｅｌｅｒａｔｅｄ Ｇｒａｐｈｉｃｓ Ｐｏｒｔ）相互接続１１１４を介してＭＣＨ１１１６に結合され得る。

【0074】

少なくとも１つの実施例では、コンピュータ・システム１１００は、ＭＣＨ１１１６をＩ／Ｏコントローラ・ハブ（「ＩＣＨ」：Ｉ／Ｏ ｃｏｎｔｒｏｌｌｅｒ ｈｕｂ）１１３０に結合するためのプロプライエタリ・ハブ・インターフェース・バスである、システムＩ／Ｏ１１２２を使用し得る。少なくとも１つの実施例では、ＩＣＨ１１３０は、ローカルＩ／Ｏバスを介していくつかのＩ／Ｏデバイスに直接接続を提供し得る。少なくとも１つの実施例では、ローカルＩ／Ｏバスは、限定はしないが、周辺機器をメモリ１１２０、チップセット、及びプロセッサ１１０２に接続するための高速Ｉ／Ｏバスを含み得る。実例は、限定はしないが、オーディオ・コントローラ１１２９と、ファームウェア・ハブ（「フラッシュＢＩＯＳ」）１１２８と、ワイヤレス・トランシーバ１１２６と、データ・ストレージ１１２４と、ユーザ入力インターフェース１１２５及びキーボード・インターフェースを含んでいるレガシーＩ／Ｏコントローラ１１２３と、ＵＳＢなどのシリアル拡張ポート１１２７と、ネットワーク・コントローラ１１３４とを含み得る。データ・ストレージ１１２４は、ハード・ディスク・ドライブ、フロッピー・ディスク・ドライブ、ＣＤ－ＲＯＭデバイス、フラッシュ・メモリ・デバイス、又は他の大容量ストレージ・デバイスを備え得る。

【0075】

少なくとも１つの実施例では、図１１は、相互接続されたハードウェア・デバイス又は「チップ」を含むシステムを示す。少なくとも１つの実施例では、図１１は、例示的なＳｏＣを示し得る。少なくとも１つの実施例では、図１１に示されているデバイスは、プロプライエタリ相互接続、標準相互接続（たとえば、ＰＣＩｅ）、又はそれらの何らかの組合せで相互接続され得る。少なくとも１つの実施例では、システム１１００の１つ又は複数の構成要素は、コンピュート・エクスプレス・リンク（「ＣＸＬ」：ｃｏｍｐｕｔｅ ｅｘｐｒｅｓｓ ｌｉｎｋ）相互接続を使用して相互接続される。

【0076】

少なくとも１つの実施例では、図１１に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１１に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１１に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１１に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0077】

図１２は、少なくとも１つの実施例による、システム１２００を示す。少なくとも１つの実施例では、システム１２００は、プロセッサ１２１０を利用する電子デバイスである。少なくとも１つの実施例では、システム１２００は、たとえば、限定はしないが、ノートブック、タワー・サーバ、ラック・サーバ、ブレード・サーバ、１つ又は複数の構内サービス・プロバイダ又はクラウド・サービス・プロバイダに通信可能に結合されたエッジ・デバイス、ラップトップ、デスクトップ、タブレット、モバイル・デバイス、電話、組み込みコンピュータ、或いは任意の他の好適な電子デバイスであり得る。

【0078】

少なくとも１つの実施例では、システム１２００は、限定はしないが、任意の好適な数又は種類の構成要素、周辺機器、モジュール、又はデバイスに通信可能に結合されたプロセッサ１２１０を含み得る。少なくとも１つの実施例では、プロセッサ１２１０は、Ｉ^２Ｃバス、システム管理バス（「ＳＭＢｕｓ」：Ｓｙｓｔｅｍ Ｍａｎａｇｅｍｅｎｔ Ｂｕｓ）、ロー・ピン・カウント（「ＬＰＣ」：Ｌｏｗ Ｐｉｎ Ｃｏｕｎｔ）バス、シリアル周辺インターフェース（「ＳＰＩ」：Ｓｅｒｉａｌ Ｐｅｒｉｐｈｅｒａｌ Ｉｎｔｅｒｆａｃｅ）、高精細度オーディオ（「ＨＤＡ」：Ｈｉｇｈ Ｄｅｆｉｎｉｔｉｏｎ Ａｕｄｉｏ）バス、シリアル・アドバンス・テクノロジー・アタッチメント（「ＳＡＴＡ」：Ｓｅｒｉａｌ Ａｄｖａｎｃｅ Ｔｅｃｈｎｏｌｏｇｙ Ａｔｔａｃｈｍｅｎｔ）バス、ＵＳＢ（バージョン１、２、３）、又はユニバーサル非同期受信機／送信機（「ＵＡＲＴ」：Ｕｎｉｖｅｒｓａｌ Ａｓｙｎｃｈｒｏｎｏｕｓ Ｒｅｃｅｉｖｅｒ／Ｔｒａｎｓｍｉｔｔｅｒ）バスなど、バス又はインターフェースを使用して結合される。少なくとも１つの実施例では、図１２は、相互接続されたハードウェア・デバイス又は「チップ」を含むシステムを示す。少なくとも１つの実施例では、図１２は、例示的なＳｏＣを示し得る。少なくとも１つの実施例では、図１２に示されているデバイスは、プロプライエタリ相互接続、標準相互接続（たとえば、ＰＣＩｅ）又はそれらの何らかの組合せで相互接続され得る。少なくとも１つの実施例では、図１２の１つ又は複数の構成要素は、ＣＸＬ相互接続を使用して相互接続される。

【0079】

少なくとも１つの実施例では、図１２は、ディスプレイ１２２４、タッチ・スクリーン１２２５、タッチ・パッド１２３０、ニア・フィールド通信ユニット（「ＮＦＣ」：Ｎｅａｒ Ｆｉｅｌｄ Ｃｏｍｍｕｎｉｃａｔｉｏｎ）１２４５、センサ・ハブ１２４０、熱センサ１２４６、エクスプレス・チップセット（「ＥＣ」：Ｅｘｐｒｅｓｓ Ｃｈｉｐｓｅｔ）１２３５、トラステッド・プラットフォーム・モジュール（「ＴＰＭ」：Ｔｒｕｓｔｅｄ Ｐｌａｔｆｏｒｍ Ｍｏｄｕｌｅ）１２３８、ＢＩＯＳ／ファームウェア／フラッシュ・メモリ（「ＢＩＯＳ、ＦＷフラッシュ」：ＢＩＯＳ／ｆｉｒｍｗａｒｅ／ｆｌａｓｈ ｍｅｍｏｒｙ）１２２２、ＤＳＰ１２６０、ソリッド・ステート・ディスク（「ＳＳＤ」：Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｉｓｋ）又はハード・ディスク・ドライブ（「ＨＤＤ」：Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）１２２０、ワイヤレス・ローカル・エリア・ネットワーク・ユニット（「ＷＬＡＮ」：ｗｉｒｅｌｅｓｓ ｌｏｃａｌ ａｒｅａ ｎｅｔｗｏｒｋ）１２５０、Ｂｌｕｅｔｏｏｔｈユニット１２５２、ワイヤレス・ワイド・エリア・ネットワーク・ユニット（「ＷＷＡＮ」：Ｗｉｒｅｌｅｓｓ Ｗｉｄｅ Ａｒｅａ Ｎｅｔｗｏｒｋ）１２５６、全地球測位システム（「ＧＰＳ」：Ｇｌｏｂａｌ Ｐｏｓｉｔｉｏｎｉｎｇ Ｓｙｓｔｅｍ）１２５５、ＵＳＢ３．０カメラなどのカメラ（「ＵＳＢ３．０カメラ」）１２５４、或いは、たとえばＬＰＤＤＲ３規格において実装された低電力ダブル・データ・レート（「ＬＰＤＤＲ」：Ｌｏｗ Ｐｏｗｅｒ Ｄｏｕｂｌｅ Ｄａｔａ Ｒａｔｅ）メモリ・ユニット（「ＬＰＤＤＲ３」）１２１５を含み得る。これらの構成要素は、各々、任意の好適な様式で実装され得る。

【0080】

少なくとも１つの実施例では、上記で説明された構成要素を通して、他の構成要素がプロセッサ１２１０に通信可能に結合され得る。少なくとも１つの実施例では、加速度計１２４１と、周囲光センサ（「ＡＬＳ」：Ａｍｂｉｅｎｔ Ｌｉｇｈｔ Ｓｅｎｓｏｒ）１２４２と、コンパス１２４３と、ジャイロスコープ１２４４とが、センサ・ハブ１２４０に通信可能に結合され得る。少なくとも１つの実施例では、熱センサ１２３９と、ファン１２３７と、キーボード１２３６と、タッチ・パッド１２３０とが、ＥＣ１２３５に通信可能に結合され得る。少なくとも１つの実施例では、スピーカー１２６３と、ヘッドフォン１２６４と、マイクロフォン（「ｍｉｃ」）１２６５とが、オーディオ・ユニット（「オーディオ・コーデック及びクラスｄアンプ」）１２６２に通信可能に結合され得、オーディオ・ユニット１２６２は、ＤＳＰ１２６０に通信可能に結合され得る。少なくとも１つの実施例では、オーディオ・ユニット１２６２は、たとえば、限定はしないが、オーディオ・コーダ／デコーダ（「コーデック」）及びクラスＤ増幅器を含み得る。少なくとも１つの実施例では、ＳＩＭカード（「ＳＩＭ」）１２５７は、ＷＷＡＮユニット１２５６に通信可能に結合され得る。少なくとも１つの実施例では、ＷＬＡＮユニット１２５０及びＢｌｕｅｔｏｏｔｈユニット１２５２などの構成要素、並びにＷＷＡＮユニット１２５６は、次世代フォーム・ファクタ（「ＮＧＦＦ」：Ｎｅｘｔ Ｇｅｎｅｒａｔｉｏｎ Ｆｏｒｍ Ｆａｃｔｏｒ）において実装され得る。

【0081】

少なくとも１つの実施例では、図１２に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１２に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１２に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１２に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0082】

図１３は、少なくとも１つの実施例による、例示的な集積回路１３００を示す。少なくとも１つの実施例では、例示的な集積回路１３００は、１つ又は複数のＩＰコアを使用して作製され得るＳｏＣである。少なくとも１つの実施例では、集積回路１３００は、１つ又は複数のアプリケーション・プロセッサ１３０５（たとえば、ＣＰＵ、ＤＰＵ）、少なくとも１つのグラフィックス・プロセッサ１３１０を含み、追加として、画像プロセッサ１３１５及び／又はビデオ・プロセッサ１３２０を含み得、それらのいずれも、モジュール式ＩＰコアであり得る。少なくとも１つの実施例では、集積回路１３００は、ＵＳＢコントローラ１３２５、ＵＡＲＴコントローラ１３３０、ＳＰＩ／ＳＤＩＯコントローラ１３３５、及びＩ^２Ｓ／Ｉ^２Ｃコントローラ１３４０を含む周辺機器又はバス論理を含む。少なくとも１つの実施例では、集積回路１３００は、高精細度マルチメディア・インターフェース（「ＨＤＭＩ（登録商標）」：ｈｉｇｈ－ｄｅｆｉｎｉｔｉｏｎ ｍｕｌｔｉｍｅｄｉａ ｉｎｔｅｒｆａｃｅ）コントローラ１３５０及びモバイル・インダストリ・プロセッサ・インターフェース（「ＭＩＰＩ」：ｍｏｂｉｌｅ ｉｎｄｕｓｔｒｙ ｐｒｏｃｅｓｓｏｒ ｉｎｔｅｒｆａｃｅ）ディスプレイ・インターフェース１３５５のうちの１つ又は複数に結合されたディスプレイ・デバイス１３４５を含むことができる。少なくとも１つの実施例では、フラッシュ・メモリとフラッシュ・メモリ・コントローラとを含むフラッシュ・メモリ・サブシステム１３６０によって、ストレージが提供され得る。少なくとも１つの実施例では、ＳＤＲＡＭ又はＳＲＡＭメモリ・デバイスへのアクセスのために、メモリ・コントローラ１３６５を介してメモリ・インターフェースが提供され得る。少なくとも１つの実施例では、いくつかの集積回路は、追加として、組み込みセキュリティ・エンジン１３７０を含む。

【0083】

少なくとも１つの実施例では、図１３に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１３に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１３に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１３に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0084】

図１４は、少なくとも１つの実施例による、コンピューティング・システム１４００を示す。少なくとも１つの実施例では、コンピューティング・システム１４００は、メモリ・ハブ１４０５を含み得る相互接続経路を介して通信する１つ又は複数のプロセッサ１４０２とシステム・メモリ１４０４とを有する処理サブシステム１４０１を含む。少なくとも１つの実施例では、メモリ・ハブ１４０５は、チップセット構成要素内の別個の構成要素であり得るか、又は１つ又は複数のプロセッサ１４０２内に組み込まれ得る。少なくとも１つの実施例では、メモリ・ハブ１４０５は、通信リンク１４０６を介してＩ／Ｏサブシステム１４１１と結合する。少なくとも１つの実施例では、Ｉ／Ｏサブシステム１４１１は、コンピューティング・システム１４００が１つ又は複数の入力デバイス１４０８からの入力を受信することを可能にすることができるＩ／Ｏハブ１４０７を含む。少なくとも１つの実施例では、Ｉ／Ｏハブ１４０７は、１つ又は複数のプロセッサ１４０２中に含まれ得るディスプレイ・コントローラが、１つ又は複数のディスプレイ・デバイス１４１０Ａに出力を提供することを可能にすることができる。少なくとも１つの実施例では、Ｉ／Ｏハブ１４０７と結合された１つ又は複数のディスプレイ・デバイス１４１０Ａは、ローカルの、内部の、又は組み込まれたディスプレイ・デバイスを含むことができる。

【0085】

少なくとも１つの実施例では、処理サブシステム１４０１は、バス又は他の通信リンク１４１３を介してメモリ・ハブ１４０５に結合された１つ又は複数の並列プロセッサ１４１２を含む。少なくとも１つの実施例では、通信リンク１４１３は、限定はしないがＰＣＩｅなど、任意の数の規格ベースの通信リンク技術又はプロトコルのうちの１つであり得るか、或いはベンダー固有の通信インターフェース又は通信ファブリックであり得る。少なくとも１つの実施例では、１つ又は複数の並列プロセッサ１４１２は、メニー・インテグレーテッド・コア・プロセッサなど、多数の処理コア及び／又は処理クラスタを含むことができる、算出に集中した並列又はベクトル処理システムを形成する。少なくとも１つの実施例では、１つ又は複数の並列プロセッサ１４１２は、グラフィックス処理サブシステムを形成し、グラフィックス処理サブシステムは、Ｉ／Ｏハブ１４０７を介して結合された１つ又は複数のディスプレイ・デバイス１４１０Ａのうちの１つにピクセルを出力することができる。少なくとも１つの実施例では、１つ又は複数の並列プロセッサ１４１２はまた、ディスプレイ・コントローラと、１つ又は複数のディスプレイ・デバイス１４１０Ｂへの直接接続を可能にするためのディスプレイ・インターフェース（図示せず）とを含むことができる。

【0086】

少なくとも１つの実施例では、システム・ストレージ・ユニット１４１４は、Ｉ／Ｏハブ１４０７に接続して、コンピューティング・システム１４００のためのストレージ機構を提供することができる。少なくとも１つの実施例では、Ｉ／Ｏハブ１４０７と、プラットフォームに組み込まれ得るネットワーク・アダプタ１４１８及び／又はワイヤレス・ネットワーク・アダプタ１４１９などの他の構成要素、並びに１つ又は複数のアドイン・デバイス１４２０を介して追加され得る様々な他のデバイスとの間の接続を可能にするためのインターフェース機構を提供するために、Ｉ／Ｏスイッチ１４１６が使用され得る。少なくとも１つの実施例では、ネットワーク・アダプタ１４１８は、イーサネット・アダプタ又は別のワイヤード・ネットワーク・アダプタであり得る。少なくとも１つの実施例では、ワイヤレス・ネットワーク・アダプタ１４１９は、Ｗｉ－Ｆｉ、Ｂｌｕｅｔｏｏｔｈ、ＮＦＣ、又は１つ又は複数のワイヤレス無線を含む他のネットワーク・デバイスのうちの１つ又は複数を含むことができる。

【0087】

少なくとも１つの実施例では、コンピューティング・システム１４００は、ＵＳＢ又は他のポート接続、光学ストレージ・ドライブ、ビデオ・キャプチャ・デバイスなどを含む、Ｉ／Ｏハブ１４０７にも接続され得る、明示的に示されていない他の構成要素を含むことができる。少なくとも１つの実施例では、図１４中の様々な構成要素を相互接続する通信経路が、ＰＣＩベースのプロトコル（たとえば、ＰＣＩｅ）などの任意の好適なプロトコル、或いはＮＶＬｉｎｋ高速相互接続などの他のバス又はポイントツーポイント通信インターフェース及び／又は（１つ又は複数の）プロトコル、或いは相互接続プロトコルを使用して、実装され得る。

【0088】

少なくとも１つの実施例では、１つ又は複数の並列プロセッサ１４１２は、たとえばビデオ出力回路要素を含むグラフィックス及びビデオ処理のために最適化された回路要素を組み込み、グラフィックス処理ユニット（「ＧＰＵ」）を構成する。少なくとも１つの実施例では、１つ又は複数の並列プロセッサ１４１２は、汎用処理のために最適化された回路要素を組み込む。少なくとも実施例では、コンピューティング・システム１４００の構成要素は、単一の集積回路上の１つ又は複数の他のシステム要素と統合され得る。たとえば、少なくとも１つの実施例では、１つ又は複数の並列プロセッサ１４１２、メモリ・ハブ１４０５、（１つ又は複数の）プロセッサ１４０２、及びＩ／Ｏハブ１４０７は、ＳｏＣ集積回路に組み込まれ得る。少なくとも１つの実施例では、コンピューティング・システム１４００の構成要素は、システム・イン・パッケージ（「ＳＩＰ」：ｓｙｓｔｅｍ ｉｎ ｐａｃｋａｇｅ）構成を形成するために、単一のパッケージに組み込まれ得る。少なくとも１つの実施例では、コンピューティング・システム１４００の構成要素の少なくとも一部分は、マルチチップ・モジュール（「ＭＣＭ」：ｍｕｌｔｉ－ｃｈｉｐ ｍｏｄｕｌｅ）に組み込まれ得、マルチチップ・モジュールは、他のマルチチップ・モジュールと相互接続されてモジュール式コンピューティング・システムにすることができる。少なくとも１つの実施例では、Ｉ／Ｏサブシステム１４１１及びディスプレイ・デバイス１４１０Ｂは、コンピューティング・システム１４００から省略される。

【0089】

少なくとも１つの実施例では、図１４に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１４に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１４に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１４に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0090】

処理システム
以下の図は、限定はしないが、少なくとも１つの実施例を実装するために使用され得る、例示的な処理システムを記載する。

【0091】

図１５は、少なくとも１つの実施例による、加速処理ユニット（「ＡＰＵ」：ａｃｃｅｌｅｒａｔｅｄ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ）１５００を示す。少なくとも１つの実施例では、ＡＰＵ１５００は、カリフォルニア州サンタクララのＡＭＤ Ｃｏｒｐｏｒａｔｉｏｎによって開発される。少なくとも１つの実施例では、ＡＰＵ１５００は、ＣＵＤＡプログラムなど、アプリケーション・プログラムを実行するように構成され得る。少なくとも１つの実施例では、ＡＰＵ１５００は、限定はしないが、コア複合体１５１０と、グラフィックス複合体１５４０と、ファブリック１５６０と、Ｉ／Ｏインターフェース１５７０と、メモリ・コントローラ１５８０と、ディスプレイ・コントローラ１５９２と、マルチメディア・エンジン１５９４とを含む。少なくとも１つの実施例では、ＡＰＵ１５００は、限定はしないが、任意の数のコア複合体１５１０と、任意の数のグラフィックス複合体１５５０と、任意の数のディスプレイ・コントローラ１５９２と、任意の数のマルチメディア・エンジン１５９４とを、任意の組合せで含み得る。説明目的のために、同様のオブジェクトの複数のインスタンスは、オブジェクトを識別する参照番号と、必要な場合にインスタンスを識別する括弧付きの番号とともに、本明細書で示される。

【0092】

少なくとも１つの実施例では、コア複合体１５１０はＣＰＵであり、グラフィックス複合体１５４０はＧＰＵであり、ＡＰＵ１５００は、限定はしないが、単一のチップ上に１５１０及び１５４０を組み込む処理ユニットである。少なくとも１つの実施例では、いくつかのタスクは、コア複合体１５１０に割り当てられ得、他のタスクは、グラフィックス複合体１５４０に割り当てられ得る。少なくとも１つの実施例では、コア複合体１５１０は、オペレーティング・システムなど、ＡＰＵ１５００に関連するメイン制御ソフトウェアを実行するように構成される。少なくとも１つの実施例では、コア複合体１５１０は、ＡＰＵ１５００のマスタ・プロセッサであり、他のプロセッサの動作を制御し、協調させる。少なくとも１つの実施例では、コア複合体１５１０は、グラフィックス複合体１５４０の動作を制御するコマンドを発行する。少なくとも１つの実施例では、コア複合体１５１０は、ＣＵＤＡソース・コードから導出されたホスト実行可能コードを実行するように構成され得、グラフィックス複合体１５４０は、ＣＵＤＡソース・コードから導出されたデバイス実行可能コードを実行するように構成され得る。

【0093】

少なくとも１つの実施例では、コア複合体１５１０は、限定はしないが、コア１５２０（１）～１５２０（４）と、Ｌ３キャッシュ１５３０とを含む。少なくとも１つの実施例では、コア複合体１５１０は、限定はしないが、任意の数のコア１５２０と、任意の数及びタイプのキャッシュとを、任意の組合せで含み得る。少なくとも１つの実施例では、コア１５２０は、特定の命令セット・アーキテクチャ（「ＩＳＡ」：ｉｎｓｔｒｕｃｔｉｏｎ ｓｅｔ ａｒｃｈｉｔｅｃｔｕｒｅ）の命令を実行するように構成される。少なくとも１つの実施例では、各コア１５２０はＣＰＵコアである。

【0094】

少なくとも１つの実施例では、各コア１５２０は、限定はしないが、フェッチ／復号ユニット１５２２と、整数実行エンジン１５２４と、浮動小数点実行エンジン１５２６と、Ｌ２キャッシュ１５２８とを含む。少なくとも１つの実施例では、フェッチ／復号ユニット１５２２は、命令をフェッチし、そのような命令を復号し、マイクロ・オペレーションを生成し、整数実行エンジン１５２４と浮動小数点実行エンジン１５２６とに別個のマイクロ命令をディスパッチする。少なくとも１つの実施例では、フェッチ／復号ユニット１５２２は、同時に、あるマイクロ命令を整数実行エンジン１５２４にディスパッチし、別のマイクロ命令を浮動小数点実行エンジン１５２６にディスパッチすることができる。少なくとも１つの実施例では、整数実行エンジン１５２４は、限定はしないが、整数及びメモリ演算を実行する。少なくとも１つの実施例では、浮動小数点エンジン１５２６は、限定はしないが、浮動小数点及びベクトル演算を実行する。少なくとも１つの実施例では、フェッチ復号ユニット１５２２は、整数実行エンジン１５２４と浮動小数点実行エンジン１５２６の両方を置き換える単一の実行エンジンに、マイクロ命令をディスパッチする。

【0095】

少なくとも１つの実施例では、ｉがコア１５２０の特定のインスタンスを表す整数である、各コア１５２０（ｉ）は、コア１５２０（ｉ）中に含まれるＬ２キャッシュ１５２８（ｉ）にアクセスし得る。少なくとも１つの実施例では、ｊがコア複合体１５１０の特定のインスタンスを表す整数である、コア複合体１５１０（ｊ）中に含まれる各コア１５２０は、コア複合体１５１０（ｊ）中に含まれるＬ３キャッシュ１５３０（ｊ）を介して、コア複合体１５１０（ｊ）中に含まれる他のコア１５２０に接続される。少なくとも１つの実施例では、ｊがコア複合体１５１０の特定のインスタンスを表す整数である、コア複合体１５１０（ｊ）中に含まれるコア１５２０は、コア複合体１５１０（ｊ）中に含まれるＬ３キャッシュ１５３０（ｊ）のすべてにアクセスすることができる。少なくとも１つの実施例では、Ｌ３キャッシュ１５３０は、限定はしないが、任意の数のスライスを含み得る。

【0096】

少なくとも１つの実施例では、グラフィックス複合体１５４０は、高度並列様式でコンピュート動作を実施するように構成され得る。少なくとも１つの実施例では、グラフィックス複合体１５４０は、描画コマンド、ピクセル動作、幾何学的算出、及びディスプレイに画像をレンダリングすることに関連する他の動作など、グラフィックス・パイプライン動作を実行するように構成される。少なくとも１つの実施例では、グラフィックス複合体１５４０は、グラフィックに関係しない動作を実行するように構成される。少なくとも１つの実施例では、グラフィックス複合体１５４０は、グラフィックに関係する動作とグラフィックに関係しない動作の両方を実行するように構成される。

【0097】

少なくとも１つの実施例では、グラフィックス複合体１５４０は、限定はしないが、任意の数のコンピュート・ユニット１５５０と、Ｌ２キャッシュ１５４２とを含む。少なくとも１つの実施例では、コンピュート・ユニット１５５０は、Ｌ２キャッシュ１５４２を共有する。少なくとも１つの実施例では、Ｌ２キャッシュ１５４２は区分けされる。少なくとも１つの実施例では、グラフィックス複合体１５４０は、限定はしないが、任意の数のコンピュート・ユニット１５５０と、（ゼロを含む）任意の数及びタイプのキャッシュとを含む。少なくとも１つの実施例では、グラフィックス複合体１５４０は、限定はしないが、任意の量の専用グラフィックス・ハードウェアを含む。

【0098】

少なくとも１つの実施例では、各コンピュート・ユニット１５５０は、限定はしないが、任意の数のＳＩＭＤユニット１５５２と、共有メモリ１５５４とを含む。少なくとも１つの実施例では、各ＳＩＭＤユニット１５５２は、ＳＩＭＤアーキテクチャを実装し、動作を並列に実施するように構成される。少なくとも１つの実施例では、各コンピュート・ユニット１５５０は、任意の数のスレッド・ブロックを実行し得るが、各スレッド・ブロックは、単一のコンピュート・ユニット１５５０上で実行する。少なくとも１つの実施例では、スレッド・ブロックは、限定はしないが、任意の数の実行のスレッドを含む。少なくとも１つの実施例では、ワークグループは、スレッド・ブロックである。少なくとも１つの実施例では、各ＳＩＭＤユニット１５５２は、異なるワープを実行する。少なくとも１つの実施例では、ワープは、スレッドのグループ（たとえば、１６個のスレッド）であり、ここで、ワープ中の各スレッドは、単一のスレッド・ブロックに属し、命令の単一のセットに基づいて、データの異なるセットを処理するように構成される。少なくとも１つの実施例では、ワープ中の１つ又は複数のスレッドを無効にするために、プレディケーションが使用され得る。少なくとも１つの実施例では、レーンはスレッドである。少なくとも１つの実施例では、ワーク・アイテムはスレッドである。少なくとも１つの実施例では、ウェーブフロントはワープである。少なくとも１つの実施例では、スレッド・ブロック中の異なるウェーブフロントは、互いに同期し、共有メモリ１５５４を介して通信し得る。

【0099】

少なくとも１つの実施例では、ファブリック１５６０は、コア複合体１５１０、グラフィックス複合体１５４０、Ｉ／Ｏインターフェース１５７０、メモリ・コントローラ１５８０、ディスプレイ・コントローラ１５９２、及びマルチメディア・エンジン１５９４にわたるデータ及び制御送信を容易にするシステム相互接続である。少なくとも１つの実施例では、ＡＰＵ１５００は、限定はしないが、ファブリック１５６０に加えて又はそれの代わりに、任意の量及びタイプのシステム相互接続を含み得、それは、ＡＰＵ１５００の内部又は外部にあり得る、任意の数及びタイプの直接又は間接的にリンクされた構成要素にわたるデータ及び制御送信を容易にする。少なくとも１つの実施例では、Ｉ／Ｏインターフェース１５７０は、任意の数及びタイプのＩ／Ｏインターフェース（たとえば、ＰＣＩ、ＰＣＩ－Ｅｘｔｅｎｄｅｄ（「ＰＣＩ－Ｘ」）、ＰＣＩｅ、ギガビット・イーサネット（「ＧＢＥ」：ｇｉｇａｂｉｔ Ｅｔｈｅｒｎｅｔ）、ＵＳＢなど）を表す。少なくとも１つの実施例では、様々なタイプの周辺デバイスがＩ／Ｏインターフェース１５７０に結合される。少なくとも１つの実施例では、Ｉ／Ｏインターフェース１５７０に結合される周辺デバイスは、限定はしないが、キーボード、マウス、プリンタ、スキャナ、ジョイスティック又は他のタイプのゲーム・コントローラ、メディア記録デバイス、外部ストレージ・デバイス、ネットワーク・インターフェース・カードなどを含み得る。

【0100】

少なくとも１つの実施例では、ディスプレイ・コントローラＡＭＤ９２は、液晶ディスプレイ（「ＬＣＤ」：ｌｉｑｕｉｄ ｃｒｙｓｔａｌ ｄｉｓｐｌａｙ）デバイスなど、１つ又は複数のディスプレイ・デバイス上に画像を表示する。少なくとも１つの実施例では、マルチメディア・エンジン１５９４は、限定はしないが、ビデオ・デコーダ、ビデオ・エンコーダ、画像信号プロセッサなど、マルチメディアに関係する任意の量及びタイプの回路要素を含む。少なくとも１つの実施例では、メモリ・コントローラ１５８０は、ＡＰＵ１５００と統一システム・メモリ１５９０との間のデータ転送を容易にする。少なくとも１つの実施例では、コア複合体１５１０とグラフィックス複合体１５４０とは、統一システム・メモリ１５９０を共有する。

【0101】

少なくとも１つの実施例では、ＡＰＵ１５００は、限定はしないが、１つの構成要素に専用であるか又は複数の構成要素の間で共有され得る、任意の量及びタイプのメモリ・コントローラ１５８０及びメモリ・デバイス（たとえば、共有メモリ１５５４）を含む、メモリ・サブシステムを実装する。少なくとも１つの実施例では、ＡＰＵ１５００は、限定はしないが、１つ又は複数のキャッシュ・メモリ（たとえば、Ｌ２キャッシュ１６２８、Ｌ３キャッシュ１５３０、及びＬ２キャッシュ１５４２）を含む、キャッシュ・サブシステムを実装し、１つ又は複数のキャッシュ・メモリは、各々、任意の数の構成要素（たとえば、コア１５２０、コア複合体１５１０、ＳＩＭＤユニット１５５２、コンピュート・ユニット１５５０、及びグラフィックス複合体１５４０）に対してプライベートであるか、又は任意の数の構成要素間で共有され得る。

【0102】

少なくとも１つの実施例では、図１５に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１５に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１５に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１５に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0103】

図１６は、少なくとも１つの実施例による、ＣＰＵ１６００を示す。少なくとも１つの実施例では、ＣＰＵ１６００は、カリフォルニア州サンタクララのＡＭＤ Ｃｏｒｐｏｒａｔｉｏｎによって開発される。少なくとも１つの実施例では、ＣＰＵ１６００は、アプリケーション・プログラムを実行するように構成され得る。少なくとも１つの実施例では、ＣＰＵ１６００は、オペレーティング・システムなど、メイン制御ソフトウェアを実行するように構成される。少なくとも１つの実施例では、ＣＰＵ１６００は、外部ＧＰＵ（図示せず）の動作を制御するコマンドを発行する。少なくとも１つの実施例では、ＣＰＵ１６００は、ＣＵＤＡソース・コードから導出されたホスト実行可能コードを実行するように構成され得、外部ＧＰＵは、そのようなＣＵＤＡソース・コードから導出されたデバイス実行可能コードを実行するように構成され得る。少なくとも１つの実施例では、ＣＰＵ１６００は、限定はしないが、任意の数のコア複合体１６１０と、ファブリック１６６０と、Ｉ／Ｏインターフェース１６７０と、メモリ・コントローラ１６８０とを含む。

【0104】

少なくとも１つの実施例では、コア複合体１６１０は、限定はしないが、コア１６２０（１）～１６２０（４）と、Ｌ３キャッシュ１６３０とを含む。少なくとも１つの実施例では、コア複合体１６１０は、限定はしないが、任意の数のコア１６２０と、任意の数及びタイプのキャッシュとを、任意の組合せで含み得る。少なくとも１つの実施例では、コア１６２０は、特定のＩＳＡの命令を実行するように構成される。少なくとも１つの実施例では、各コア１６２０はＣＰＵコアである。

【0105】

少なくとも１つの実施例では、各コア１６２０は、限定はしないが、フェッチ／復号ユニット１６２２と、整数実行エンジン１６２４と、浮動小数点実行エンジン１６２６と、Ｌ２キャッシュ１６２８とを含む。少なくとも１つの実施例では、フェッチ／復号ユニット１６２２は、命令をフェッチし、そのような命令を復号し、マイクロ・オペレーションを生成し、整数実行エンジン１６２４と浮動小数点実行エンジン１６２６とに別個のマイクロ命令をディスパッチする。少なくとも１つの実施例では、フェッチ／復号ユニット１６２２は、同時に、あるマイクロ命令を整数実行エンジン１６２４にディスパッチし、別のマイクロ命令を浮動小数点実行エンジン１６２６にディスパッチすることができる。少なくとも１つの実施例では、整数実行エンジン１６２４は、限定はしないが、整数及びメモリ演算を実行する。少なくとも１つの実施例では、浮動小数点エンジン１６２６は、限定はしないが、浮動小数点及びベクトル演算を実行する。少なくとも１つの実施例では、フェッチ復号ユニット１６２２は、整数実行エンジン１６２４と浮動小数点実行エンジン１６２６の両方を置き換える単一の実行エンジンに、マイクロ命令をディスパッチする。

【0106】

少なくとも１つの実施例では、ｉがコア１６２０の特定のインスタンスを表す整数である、各コア１６２０（ｉ）は、コア１６２０（ｉ）中に含まれるＬ２キャッシュ１６２８（ｉ）にアクセスし得る。少なくとも１つの実施例では、ｊがコア複合体１６１０の特定のインスタンスを表す整数である、コア複合体１６１０（ｊ）中に含まれる各コア１６２０は、コア複合体１６１０（ｊ）中に含まれるＬ３キャッシュ１６３０（ｊ）を介して、コア複合体１６１０（ｊ）中の他のコア１６２０に接続される。少なくとも１つの実施例では、ｊがコア複合体１６１０の特定のインスタンスを表す整数である、コア複合体１６１０（ｊ）中に含まれるコア１６２０は、コア複合体１６１０（ｊ）中に含まれるＬ３キャッシュ１６３０（ｊ）のすべてにアクセスすることができる。少なくとも１つの実施例では、Ｌ３キャッシュ１６３０は、限定はしないが、任意の数のスライスを含み得る。

【0107】

少なくとも１つの実施例では、ファブリック１６６０は、コア複合体１６１０（１）～１６１０（Ｎ）（ここで、Ｎは０よりも大きい整数である）、Ｉ／Ｏインターフェース１６７０、及びメモリ・コントローラ１６８０にわたるデータ及び制御送信を容易にするシステム相互接続である。少なくとも１つの実施例では、ＣＰＵ１６００は、限定はしないが、ファブリック１６６０に加えて又はそれの代わりに、任意の量及びタイプのシステム相互接続を含み得、それは、ＣＰＵ１６００の内部又は外部にあり得る、任意の数及びタイプの直接又は間接的にリンクされた構成要素にわたるデータ及び制御送信を容易にする。少なくとも１つの実施例では、Ｉ／Ｏインターフェース１６７０は、任意の数及びタイプのＩ／Ｏインターフェース（たとえば、ＰＣＩ、ＰＣＩ－Ｘ、ＰＣＩｅ、ＧＢＥ、ＵＳＢなど）を表す。少なくとも１つの実施例では、様々なタイプの周辺デバイスが、Ｉ／Ｏインターフェース１６７０に結合される。少なくとも１つの実施例では、Ｉ／Ｏインターフェース１６７０に結合される周辺デバイスは、限定はしないが、ディスプレイ、キーボード、マウス、プリンタ、スキャナ、ジョイスティック又は他のタイプのゲーム・コントローラ、メディア記録デバイス、外部ストレージ・デバイス、ネットワーク・インターフェース・カードなどを含み得る。

【0108】

少なくとも１つの実施例では、メモリ・コントローラ１６８０は、ＣＰＵ１６００とシステム・メモリ１６９０との間のデータ転送を容易にする。少なくとも１つの実施例では、コア複合体１６１０とグラフィックス複合体１６４０とは、システム・メモリ１６９０を共有する。少なくとも１つの実施例では、ＣＰＵ１６００は、限定はしないが、１つの構成要素に専用であるか又は複数の構成要素の間で共有され得る、任意の量及びタイプのメモリ・コントローラ１６８０及びメモリ・デバイスを含む、メモリ・サブシステムを実装する。少なくとも１つの実施例では、ＣＰＵ１６００は、限定はしないが、１つ又は複数のキャッシュ・メモリ（たとえば、Ｌ２キャッシュ１６２８及びＬ３キャッシュ１６３０）を含む、キャッシュ・サブシステムを実装し、１つ又は複数のキャッシュ・メモリは、各々、任意の数の構成要素（たとえば、コア１６２０及びコア複合体１６１０）に対してプライベートであるか、又は任意の数の構成要素間で共有され得る。

【0109】

少なくとも１つの実施例では、図１６に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１６に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１６に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１６に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0110】

図１７は、少なくとも１つの実施例による、例示的なアクセラレータ統合スライス１７９０を示す。本明細書で使用される「スライス」は、アクセラレータ統合回路の処理リソースの指定部分を備える。少なくとも１つの実施例では、アクセラレータ統合回路は、グラフィックス加速モジュール中に含まれる複数のグラフィックス処理エンジンの代わりに、キャッシュ管理、メモリ・アクセス、コンテキスト管理、及び割込み管理サービスを提供する。グラフィックス処理エンジンは、各々、別個のＧＰＵを備え得る。代替的に、グラフィックス処理エンジンは、ＧＰＵ内に、グラフィックス実行ユニット、メディア処理エンジン（たとえば、ビデオ・エンコーダ／デコーダ）、サンプラ、及びｂｌｉｔエンジンなど、異なるタイプのグラフィックス処理エンジンを備え得る。少なくとも１つの実施例では、グラフィックス加速モジュールは、複数のグラフィックス処理エンジンをもつＧＰＵであり得る。少なくとも１つの実施例では、グラフィックス処理エンジンは、共通のパッケージ、ライン・カード、又はチップ上に組み込まれた個々のＧＰＵであり得る。

【0111】

システム・メモリ１７１４内のアプリケーション実効アドレス空間１７８２は、プロセス要素１７８３を記憶する。一実施例では、プロセス要素１７８３は、プロセッサ１７０７上で実行されるアプリケーション１７８０からのＧＰＵ呼出し１７８１に応答して、記憶される。プロセス要素１７８３は、対応するアプリケーション１７８０のプロセス状態を含んでいる。プロセス要素１７８３に含まれているワーク記述子（「ＷＤ」：ｗｏｒｋ ｄｅｓｃｒｉｐｔｏｒ）１７８４は、アプリケーションによって要求される単一のジョブであり得るか、又はジョブのキューに対するポインタを含んでいることがある。少なくとも１つの実施例では、ＷＤ１７８４は、アプリケーション実効アドレス空間１７８２におけるジョブ要求キューに対するポインタである。

【0112】

グラフィックス加速モジュール１７４６及び／又は個々のグラフィックス処理エンジンは、システム中のプロセスのすべて又はサブセットによって共有され得る。少なくとも１つの実施例では、プロセス状態を設定し、ＷＤ１７８４をグラフィックス加速モジュール１７４６に送出して、仮想化環境中でジョブを開始するためのインフラストラクチャが、含められ得る。

【0113】

少なくとも１つの実施例では、専用プロセス・プログラミング・モデルは、実装固有である。このモデルでは、単一のプロセスが、グラフィックス加速モジュール１７４６又は個々のグラフィックス処理エンジンを所有する。グラフィックス加速モジュール１７４６が単一のプロセスによって所有されるので、ハイパーバイザは、所有パーティションについてアクセラレータ統合回路を初期化し、グラフィックス加速モジュール１７４６が割り当てられたとき、オペレーティング・システムは、所有プロセスについてアクセラレータ統合回路を初期化する。

【0114】

動作時、アクセラレータ統合スライス１７９０中のＷＤフェッチ・ユニット１７９１は、グラフィックス加速モジュール１７４６の１つ又は複数のグラフィックス処理エンジンによって行われるべきであるワークの指示を含む、次のＷＤ１７８４をフェッチする。示されているように、ＷＤ１７８４からのデータは、レジスタ１７４５に記憶され、メモリ管理ユニット（「ＭＭＵ」：ｍｅｍｏｒｙ ｍａｎａｇｅｍｅｎｔ ｕｎｉｔ）１７３９、割込み管理回路１７４７、及び／又はコンテキスト管理回路１７４８によって使用され得る。たとえば、ＭＭＵ１７３９の一実施例は、ＯＳ仮想アドレス空間１７８５内のセグメント／ページ・テーブル１７８６にアクセスするためのセグメント／ページ・ウォーク回路要素を含む。割込み管理回路１７４７は、グラフィックス加速モジュール１７４６から受信された割込みイベント（「ＩＮＴ」：ｉｎｔｅｒｒｕｐｔ）１７９２を処理し得る。グラフィックス動作を実施するとき、グラフィックス処理エンジンによって生成された実効アドレス１７９３は、ＭＭＵ１７３９によって実アドレスにトランスレートされる。

【0115】

一実施例では、レジスタ１７４５の同じセットが、各グラフィックス処理エンジン、及び／又はグラフィックス加速モジュール１７４６について複製され、ハイパーバイザ又はオペレーティング・システムによって初期化され得る。これらの複製されたレジスタの各々は、アクセラレータ統合スライス１７９０中に含められ得る。ハイパーバイザによって初期化され得る例示的なレジスタが、表１に示されている。

【表1】

【0116】

オペレーティング・システムによって初期化され得る例示的なレジスタが、表２に示されている。

【表2】

【0117】

一実施例では、各ＷＤ１７８４は、特定のグラフィックス加速モジュール１７４６及び／又は特定のグラフィックス処理エンジンに固有である。ＷＤ１７８４は、ワークを行うためにグラフィックス処理エンジンによって必要とされるすべての情報を含んでいるか、又は、ＷＤ１７８４は、完了されるべきワークのコマンド・キューをアプリケーションが設定したメモリ・ロケーションに対するポインタであり得る。

【0118】

少なくとも１つの実施例では、図１７に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１７に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１７に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１７に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0119】

図１８Ａ～図１８Ｂは、少なくとも１つの実施例による、例示的なグラフィックス・プロセッサを示す。少なくとも１つの実施例では、例示的なグラフィックス・プロセッサのうちのいずれかは、１つ又は複数のＩＰコアを使用して作製され得る。示されているものに加えて、少なくとも１つの実施例では、追加のグラフィックス・プロセッサ／コア、周辺インターフェース・コントローラ、又は汎用プロセッサ・コアを含む他の論理及び回路が含まれ得る。少なくとも１つの実施例では、例示的なグラフィックス・プロセッサは、ＳｏＣ内での使用のためのものである。

【0120】

図１８Ａは、少なくとも１つの実施例による、１つ又は複数のＩＰコアを使用して作製され得るＳｏＣ集積回路の例示的なグラフィックス・プロセッサ１８１０を示す。図１８Ｂは、少なくとも１つの実施例による、１つ又は複数のＩＰコアを使用して作製され得るＳｏＣ集積回路の追加の例示的なグラフィックス・プロセッサ１８４０を示す。少なくとも１つの実施例では、図１８Ａのグラフィックス・プロセッサ１８１０は、低電力グラフィックス・プロセッサ・コアである。少なくとも１つの実施例では、図１８Ｂのグラフィックス・プロセッサ１８４０は、より高性能のグラフィックス・プロセッサ・コアである。少なくとも１つの実施例では、グラフィックス・プロセッサ１８１０、１８４０の各々は、図１３のグラフィックス・プロセッサ１３１０の変形態であり得る。

【0121】

少なくとも１つの実施例では、グラフィックス・プロセッサ１８１０は、頂点プロセッサ１８０５と、１つ又は複数のフラグメント・プロセッサ１８１５Ａ～１８１５Ｎ（たとえば、１８１５Ａ、１８１５Ｂ、１８１５Ｃ、１８１５Ｄ～１８１５Ｎ－１、及び１８１５Ｎ）とを含む。少なくとも１つの実施例では、グラフィックス・プロセッサ１８１０は、別個の論理を介して異なるシェーダ・プログラムを実行することができ、それにより、頂点プロセッサ１８０５は、頂点シェーダ・プログラムのための動作を実行するように最適化され、１つ又は複数のフラグメント・プロセッサ１８１５Ａ～１８１５Ｎは、フラグメント又はピクセル・シェーダ・プログラムのためのフラグメント（たとえば、ピクセル）シェーディング動作を実行する。少なくとも１つの実施例では、頂点プロセッサ１８０５は、３Ｄグラフィックス・パイプラインの頂点処理段階を実施し、プリミティブ及び頂点データを生成する。少なくとも１つの実施例では、（１つ又は複数の）フラグメント・プロセッサ１８１５Ａ～１８１５Ｎは、頂点プロセッサ１８０５によって生成されたプリミティブ及び頂点データを使用して、ディスプレイ・デバイス上に表示されるフレーム・バッファを作り出す。少なくとも１つの実施例では、（１つ又は複数の）フラグメント・プロセッサ１８１５Ａ～１８１５Ｎは、ＯｐｅｎＧＬ ＡＰＩにおいて提供されるようなフラグメント・シェーダ・プログラムを実行するように最適化され、ＯｐｅｎＧＬ ＡＰＩは、Ｄｉｒｅｃｔ ３Ｄ ＡＰＩにおいて提供されるようなピクセル・シェーダ・プログラムと同様の動作を実施するために使用され得る。

【0122】

少なくとも１つの実施例では、グラフィックス・プロセッサ１８１０は、追加として、１つ又は複数のＭＭＵ１８２０Ａ～１８２０Ｂと、（１つ又は複数の）キャッシュ１８２５Ａ～１８２５Ｂと、（１つ又は複数の）回路相互接続１８３０Ａ～１８３０Ｂとを含む。少なくとも１つの実施例では、１つ又は複数のＭＭＵ１８２０Ａ～１８２０Ｂは、頂点プロセッサ１８０５及び／又は（１つ又は複数の）フラグメント・プロセッサ１８１５Ａ～１８１５Ｎを含む、グラフィックス・プロセッサ１８１０のための仮想－物理アドレス・マッピングを提供し、それらは、１つ又は複数のキャッシュ１８２５Ａ～１８２５Ｂに記憶された頂点又は画像／テクスチャ・データに加えて、メモリに記憶された頂点又は画像／テクスチャ・データを参照し得る。少なくとも１つの実施例では、１つ又は複数のＭＭＵ１８２０Ａ～１８２０Ｂは、図１３の１つ又は複数のアプリケーション・プロセッサ１３０５、画像プロセッサ１３１５、及び／又はビデオ・プロセッサ１３２０に関連する１つ又は複数のＭＭＵを含む、システム内の他のＭＭＵと同期され得、それにより、各プロセッサ１３０５～１３２０は、共有又は統一仮想メモリ・システムに参加することができる。少なくとも１つの実施例では、１つ又は複数の回路相互接続１８３０Ａ～１８３０Ｂは、グラフィックス・プロセッサ１８１０が、ＳｏＣの内部バスを介して又は直接接続を介してのいずれかで、ＳｏＣ内の他のＩＰコアとインターフェースすることを可能にする。

【0123】

少なくとも１つの実施例では、グラフィックス・プロセッサ１８４０は、図１８Ａのグラフィックス・プロセッサ１８１０の１つ又は複数のＭＭＵ１８２０Ａ～１８２０Ｂと、キャッシュ１８２５Ａ～１８２５Ｂと、回路相互接続１８３０Ａ～１８３０Ｂとを含む。少なくとも１つの実施例では、グラフィックス・プロセッサ１８４０は、１つ又は複数のシェーダ・コア１８５５Ａ～１８５５Ｎ（たとえば、１８５５Ａ、１８５５Ｂ、１８５５Ｃ、１８５５Ｄ、１８５５Ｅ、１８５５Ｆ～１８５５Ｎ－１、及び１８５５Ｎ）を含み、１つ又は複数のシェーダ・コア１８５５Ａ～１８５５Ｎは、単一のコア、又はタイプ、又はコアが、頂点シェーダ、フラグメント・シェーダ、及び／又はコンピュート・シェーダを実装するためのシェーダ・プログラム・コードを含むすべてのタイプのプログラマブル・シェーダ・コードを実行することができる統一シェーダ・コア・アーキテクチャを提供する。少なくとも１つの実施例では、シェーダ・コアの数は変動することができる。少なくとも１つの実施例では、グラフィックス・プロセッサ１８４０は、１つ又は複数のシェーダ・コア１８５５Ａ～１８５５Ｎに実行スレッドをディスパッチするためのスレッド・ディスパッチャとして作用するコア間タスク・マネージャ１８４５と、たとえばシーン内のローカル空間コヒーレンスを利用するため、又は内部キャッシュの使用を最適化するために、シーンについてのレンダリング動作が画像空間において下位区分される、タイル・ベースのレンダリングのためのタイリング動作を加速するためのタイリング・ユニット１８５８とを含む。

【0124】

少なくとも１つの実施例では、図１８Ａ～図１８Ｂに図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１８Ａ～図１８Ｂに図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１８Ａ～図１８Ｂに図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１８Ａ～図１８Ｂに図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0125】

図１９Ａは、少なくとも１つの実施例による、グラフィックス・コア１９００を示す。少なくとも１つの実施例では、グラフィックス・コア１９００は、図１３のグラフィックス・プロセッサ１３１０内に含まれ得る。少なくとも１つの実施例では、グラフィックス・コア１９００は、図１８Ｂの場合のような統一シェーダ・コア１８５５Ａ～１８５５Ｎであり得る。少なくとも１つの実施例では、グラフィックス・コア１９００は、共有命令キャッシュ１９０２と、テクスチャ・ユニット１９１８と、キャッシュ／共有メモリ１９２０とを含み、それらは、グラフィックス・コア１９００内の実行リソースに共通である。少なくとも１つの実施例では、グラフィックス・コア１９００は、複数のスライス１９０１Ａ～１９０１Ｎ、又は各コアについてのパーティションを含むことができ、グラフィックス・プロセッサは、グラフィックス・コア１９００の複数のインスタンスを含むことができる。スライス１９０１Ａ～１９０１Ｎは、ローカル命令キャッシュ１９０４Ａ～１９０４Ｎと、スレッド・スケジューラ１９０６Ａ～１９０６Ｎと、スレッド・ディスパッチャ１９０８Ａ～１９０８Ｎと、レジスタのセット１９１０Ａ～１９１０Ｎとを含むサポート論理を含むことができる。少なくとも１つの実施例では、スライス１９０１Ａ～１９０１Ｎは、追加機能ユニット（「ＡＦＵ」：ａｄｄｉｔｉｏｎａｌ ｆｕｎｃｔｉｏｎ ｕｎｉｔ）１９１２Ａ～１９１２Ｎ、浮動小数点ユニット（「ＦＰＵ」：ｆｌｏａｔｉｎｇ－ｐｏｉｎｔ ｕｎｉｔ）１９１４Ａ～１９１４Ｎ、整数算術論理ユニット（「ＡＬＵ」：ｉｎｔｅｇｅｒ ａｒｉｔｈｍｅｔｉｃ ｌｏｇｉｃ ｕｎｉｔ）１９１６～１９１６Ｎ、アドレス算出ユニット（「ＡＣＵ」：ａｄｄｒｅｓｓ ｃｏｍｐｕｔａｔｉｏｎａｌ ｕｎｉｔ）１９１３Ａ～１９１３Ｎ、倍精度浮動小数点ユニット（「ＤＰＦＰＵ」：ｄｏｕｂｌｅ－ｐｒｅｃｉｓｉｏｎ ｆｌｏａｔｉｎｇ－ｐｏｉｎｔ ｕｎｉｔ）１９１５Ａ～１９１５Ｎ、及び行列処理ユニット（「ＭＰＵ」：ｍａｔｒｉｘ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ）１９１７Ａ～１９１７Ｎのセットを含むことができる。

【0126】

少なくとも１つの実施例では、ＦＰＵ１９１４Ａ～１９１４Ｎは、単精度（３２ビット）及び半精度（１６ビット）の浮動小数点演算を実施することができ、ＤＰＦＰＵ１９１５Ａ～１９１５Ｎは、倍精度（６４ビット）の浮動小数点演算を実施する。少なくとも１つの実施例では、ＡＬＵ１９１６Ａ～１９１６Ｎは、８ビット、１６ビット、及び３２ビットの精度で可変精度整数演算を実施することができ、混合精度演算のために構成され得る。少なくとも１つの実施例では、ＭＰＵ１９１７Ａ～１９１７Ｎも、半精度浮動小数点演算と８ビット整数演算とを含む、混合精度行列演算のために構成され得る。少なくとも１つの実施例では、ＭＰＵ１９１７～１９１７Ｎは、加速汎用行列－行列乗算（「ＧＥＭＭ」：ｇｅｎｅｒａｌ ｍａｔｒｉｘ ｔｏ ｍａｔｒｉｘ ｍｕｌｔｉｐｌｉｃａｔｉｏｎ）のサポートを可能にすることを含む、ＣＵＤＡプログラムを加速するための様々な行列演算を実施することができる。少なくとも１つの実施例では、ＡＦＵ１９１２Ａ～１９１２Ｎは、三角関数演算（たとえば、サイン、コサインなど）を含む、浮動小数点ユニット又は整数ユニットによってサポートされていない追加の論理演算を実施することができる。

【0127】

図１９Ｂは、少なくとも１つの実施例による、汎用グラフィックス処理ユニット（「ＧＰＧＰＵ」：ｇｅｎｅｒａｌ－ｐｕｒｐｏｓｅ ｇｒａｐｈｉｃｓ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ）１９３０を示す。少なくとも１つの実施例では、ＧＰＧＰＵ１９３０は、高度並列であり、マルチチップ・モジュール上での導入に好適である。少なくとも１つの実施例では、ＧＰＧＰＵ１９３０は、高度並列コンピュート動作がＧＰＵのアレイによって実施されることを可能にするように構成され得る。少なくとも１つの実施例では、ＧＰＧＰＵ１９３０は、ＣＵＤＡプログラムのための実行時間を改善するためにマルチＧＰＵクラスタを作成するために、ＧＰＧＰＵ１９３０の他のインスタンスに直接リンクされ得る。少なくとも１つの実施例では、ＧＰＧＰＵ１９３０は、ホスト・プロセッサとの接続を可能にするためのホスト・インターフェース１９３２を含む。少なくとも１つの実施例では、ホスト・インターフェース１９３２は、ＰＣＩｅインターフェースである。少なくとも１つの実施例では、ホスト・インターフェース１９３２は、ベンダー固有の通信インターフェース又は通信ファブリックであり得る。少なくとも１つの実施例では、ＧＰＧＰＵ１９３０は、ホスト・プロセッサからコマンドを受信し、グローバル・スケジューラ１９３４を使用して、それらのコマンドに関連する実行スレッドを、コンピュート・クラスタ１９３６Ａ～１９３６Ｈのセットに分散させる。少なくとも１つの実施例では、コンピュート・クラスタ１９３６Ａ～１９３６Ｈは、キャッシュ・メモリ１９３８を共有する。少なくとも１つの実施例では、キャッシュ・メモリ１９３８は、コンピュート・クラスタ１９３６Ａ～１９３６Ｈ内のキャッシュ・メモリのためのより高レベルのキャッシュとして働くことができる。

【0128】

少なくとも１つの実施例では、ＧＰＧＰＵ１９３０は、メモリ・コントローラ１９４２Ａ～１９４２Ｂのセットを介してコンピュート・クラスタ１９３６Ａ～１９３６Ｈと結合されたメモリ１９４４Ａ～１９４４Ｂを含む。少なくとも１つの実施例では、メモリ１９４４Ａ～１９４４Ｂは、ＤＲＡＭ、又は、グラフィックス・ダブル・データ・レート（「ＧＤＤＲ」：ｇｒａｐｈｉｃｓ ｄｏｕｂｌｅ ｄａｔａ ｒａｔｅ）メモリを含む同期グラフィックス・ランダム・アクセス・メモリ（「ＳＧＲＡＭ」：ｓｙｎｃｈｒｏｎｏｕｓ ｇｒａｐｈｉｃｓ ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ）などのグラフィックス・ランダム・アクセス・メモリを含む、様々なタイプのメモリ・デバイスを含むことができる。

【0129】

少なくとも１つの実施例では、コンピュート・クラスタ１９３６Ａ～１９３６Ｈは、各々、図１９Ａのグラフィックス・コア１９００などのグラフィックス・コアのセットを含み、グラフィックス・コアのセットは、ＣＵＤＡプログラムに関連する算出に適したものを含む、様々な精度で算出動作を実施することができる複数のタイプの整数及び浮動小数点論理ユニットを含むことができる。たとえば、少なくとも１つの実施例では、コンピュート・クラスタ１９３６Ａ～１９３６Ｈの各々における浮動小数点ユニットの少なくともサブセットは、１６ビット又は３２ビットの浮動小数点演算を実施するように構成され得、浮動小数点ユニットの異なるサブセットは、６４ビットの浮動小数点演算を実施するように構成され得る。

【0130】

少なくとも１つの実施例では、ＧＰＧＰＵ１９３０の複数のインスタンスは、コンピュート・クラスタとして動作するように構成され得る。コンピュート・クラスタ１９３６Ａ～１９３６Ｈは、同期及びデータ交換のための任意の技術的に実現可能な通信技法を実装し得る。少なくとも１つの実施例では、ＧＰＧＰＵ１９３０の複数のインスタンスは、ホスト・インターフェース１９３２を介して通信する。少なくとも１つの実施例では、ＧＰＧＰＵ１９３０は、Ｉ／Ｏハブ１９３９を含み、Ｉ／Ｏハブ１９３９は、ＧＰＧＰＵ１９３０を、ＧＰＧＰＵ１９３０の他のインスタンスへの直接接続を可能にするＧＰＵリンク１９４０と結合する。少なくとも１つの実施例では、ＧＰＵリンク１９４０は、ＧＰＧＰＵ１９３０の複数のインスタンス間での通信及び同期を可能にする専用ＧＰＵ－ＧＰＵブリッジに結合される。少なくとも１つの実施例では、ＧＰＵリンク１９４０は、他のＧＰＧＰＵ１９３０又は並列プロセッサにデータを送信及び受信するために高速相互接続と結合される。少なくとも１つの実施例では、ＧＰＧＰＵ１９３０の複数のインスタンスは、別個のデータ処理システムに位置し、ホスト・インターフェース１９３２を介してアクセス可能であるネットワーク・デバイスを介して通信する。少なくとも１つの実施例では、ＧＰＵリンク１９４０は、ホスト・インターフェース１９３２に加えて、又はその代替として、ホスト・プロセッサへの接続を可能にするように構成され得る。少なくとも１つの実施例では、ＧＰＧＰＵ１９３０は、ＣＵＤＡプログラムを実行するように構成され得る。

【0131】

少なくとも１つの実施例では、図１９Ａ～図１９Ｂに図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１９Ａ～図１９Ｂに図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１９Ａ～図１９Ｂに図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図１９Ａ～図１９Ｂに図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0132】

図２０Ａは、少なくとも１つの実施例による、並列プロセッサ２０００を示す。少なくとも１つの実施例では、並列プロセッサ２０００の様々な構成要素は、プログラマブル・プロセッサ、特定用途向け集積回路（「ＡＳＩＣ」：ａｐｐｌｉｃａｔｉｏｎ ｓｐｅｃｉｆｉｃ ｉｎｔｅｇｒａｔｅｄ ｃｉｒｃｕｉｔ）、又はＦＰＧＡなど、１つ又は複数の集積回路デバイスを使用して実装され得る。

【0133】

少なくとも１つの実施例では、並列プロセッサ２０００は並列処理ユニット２００２を含む。少なくとも１つの実施例では、並列処理ユニット２００２は、並列処理ユニット２００２の他のインスタンスを含む、他のデバイスとの通信を可能にするＩ／Ｏユニット２００４を含む。少なくとも１つの実施例では、Ｉ／Ｏユニット２００４は、他のデバイスに直接接続され得る。少なくとも１つの実施例では、Ｉ／Ｏユニット２００４は、メモリ・ハブ２００５など、ハブ又はスイッチ・インターフェースの使用を介して他のデバイスと接続する。少なくとも１つの実施例では、メモリ・ハブ２００５とＩ／Ｏユニット２００４との間の接続は、通信リンクを形成する。少なくとも１つの実施例では、Ｉ／Ｏユニット２００４は、ホスト・インターフェース２００６及びメモリ・クロスバー２０１６と接続し、ホスト・インターフェース２００６は、処理動作を実施することを対象とするコマンドを受信し、メモリ・クロスバー２０１６は、メモリ動作を実施することを対象とするコマンドを受信する。

【0134】

少なくとも１つの実施例では、ホスト・インターフェース２００６が、Ｉ／Ｏユニット２００４を介してコマンド・バッファを受信したとき、ホスト・インターフェース２００６は、それらのコマンドを実施するためのワーク動作をフロント・エンド２００８に向けることができる。少なくとも１つの実施例では、フロント・エンド２００８はスケジューラ２０１０と結合し、スケジューラ２０１０は、コマンド又は他のワーク・アイテムを処理アレイ２０１２に分散させるように構成される。少なくとも１つの実施例では、スケジューラ２０１０は、処理アレイ２０１２にタスクが分散される前に、処理アレイ２０１２が適切に構成され、有効な状態にあることを確実にする。少なくとも１つの実施例では、スケジューラ２０１０は、マイクロコントローラ上で実行しているファームウェア論理を介して実装される。少なくとも１つの実施例では、マイクロコントローラ実装スケジューラ２０１０は、複雑なスケジューリング及びワーク分散動作を、粗い粒度及び細かい粒度において実施するように構成可能であり、処理アレイ２０１２上で実行しているスレッドの迅速なプリエンプション及びコンテキスト切替えを可能にする。少なくとも１つの実施例では、ホスト・ソフトウェアは、処理アレイ２０１２上でのスケジューリングのためのワークロードを、複数のグラフィックス処理ドアベルのうちの１つを介して証明することができる。少なくとも１つの実施例では、ワークロードは、次いで、スケジューラ２０１０を含むマイクロコントローラ内のスケジューラ２０１０論理によって、処理アレイ２０１２にわたって自動的に分散され得る。

【0135】

少なくとも１つの実施例では、処理アレイ２０１２は、最高「Ｎ」個のクラスタ（たとえば、クラスタ２０１４Ａ、クラスタ２０１４Ｂ～クラスタ２０１４Ｎ）を含むことができる。少なくとも１つの実施例では、処理アレイ２０１２の各クラスタ２０１４Ａ～２０１４Ｎは、多数の同時スレッドを実行することができる。少なくとも１つの実施例では、スケジューラ２０１０は、様々なスケジューリング及び／又はワーク分散アルゴリズムを使用して処理アレイ２０１２のクラスタ２０１４Ａ～２０１４Ｎにワークを割り振ることができ、それらのアルゴリズムは、プログラム又は算出の各タイプについて生じるワークロードに応じて変動し得る。少なくとも１つの実施例では、スケジューリングは、スケジューラ２０１０によって動的に対処され得るか、又は処理アレイ２０１２による実行のために構成されたプログラム論理のコンパイル中に、コンパイラ論理によって部分的に支援され得る。少なくとも１つの実施例では、処理アレイ２０１２の異なるクラスタ２０１４Ａ～２０１４Ｎは、異なるタイプのプログラムを処理するために、又は異なるタイプの算出を実施するために割り振られ得る。

【0136】

少なくとも１つの実施例では、処理アレイ２０１２は、様々なタイプの並列処理動作を実施するように構成され得る。少なくとも１つの実施例では、処理アレイ２０１２は、汎用並列コンピュート動作を実施するように構成される。たとえば、少なくとも１つの実施例では、処理アレイ２０１２は、ビデオ及び／又はオーディオ・データをフィルタリングすること、物理動作を含むモデリング動作を実施すること、及びデータ変換を実施することを含む処理タスクを実行するための論理を含むことができる。

【0137】

少なくとも１つの実施例では、処理アレイ２０１２は、並列グラフィックス処理動作を実施するように構成される。少なくとも１つの実施例では、処理アレイ２０１２は、限定はしないが、テクスチャ動作を実施するためのテクスチャ・サンプリング論理、並びにテッセレーション論理及び他の頂点処理論理を含む、そのようなグラフィックス処理動作の実行をサポートするための追加の論理を含むことができる。少なくとも１つの実施例では、処理アレイ２０１２は、限定はしないが、頂点シェーダ、テッセレーション・シェーダ、ジオメトリ・シェーダ、及びピクセル・シェーダなど、グラフィックス処理関係シェーダ・プログラムを実行するように構成され得る。少なくとも１つの実施例では、並列処理ユニット２００２は、処理のためにＩ／Ｏユニット２００４を介してシステム・メモリからデータを転送することができる。少なくとも１つの実施例では、処理中に、転送されたデータは、処理中にオンチップ・メモリ（たとえば、並列プロセッサ・メモリ２０２２）に記憶され、次いでシステム・メモリに書き戻され得る。

【0138】

少なくとも１つの実施例では、並列処理ユニット２００２がグラフィックス処理を実施するために使用されるとき、スケジューラ２０１０は、処理アレイ２０１２の複数のクラスタ２０１４Ａ～２０１４Ｎへのグラフィックス処理動作の分散をより良く可能にするために、処理ワークロードをほぼ等しいサイズのタスクに分割するように構成され得る。少なくとも１つの実施例では、処理アレイ２０１２の部分は、異なるタイプの処理を実施するように構成され得る。たとえば、少なくとも１つの実施例では、表示のために、レンダリングされた画像を作り出すために、第１の部分は、頂点シェーディング及びトポロジ生成を実施するように構成され得、第２の部分は、テッセレーション及びジオメトリ・シェーディングを実施するように構成され得、第３の部分は、ピクセル・シェーディング又は他のスクリーン空間動作を実施するように構成され得る。少なくとも１つの実施例では、クラスタ２０１４Ａ～２０１４Ｎのうちの１つ又は複数によって作り出された中間データは、中間データがさらなる処理のためにクラスタ２０１４Ａ～２０１４Ｎ間で送信されることを可能にするために、バッファに記憶され得る。

【0139】

少なくとも１つの実施例では、処理アレイ２０１２は、実行されるべき処理タスクをスケジューラ２０１０を介して受信することができ、スケジューラ２０１０は、処理タスクを定義するコマンドをフロント・エンド２００８から受信する。少なくとも１つの実施例では、処理タスクは、処理されるべきデータのインデックス、たとえば、表面（パッチ）データ、プリミティブ・データ、頂点データ、及び／又はピクセル・データ、並びに、データがどのように処理されるべきであるか（たとえば、どのプログラムが実行されるべきであるか）を定義する状態パラメータ及びコマンドを含むことができる。少なくとも１つの実施例では、スケジューラ２０１０は、タスクに対応するインデックスをフェッチするように構成され得るか、又はフロント・エンド２００８からインデックスを受信し得る。少なくとも１つの実施例では、フロント・エンド２００８は、入って来るコマンド・バッファ（たとえば、バッチ・バッファ、プッシュ・バッファなど）によって指定されるワークロードが始動される前に、処理アレイ２０１２が有効な状態に構成されることを確実にするように構成され得る。

【0140】

少なくとも１つの実施例では、並列処理ユニット２００２の１つ又は複数のインスタンスの各々は、並列プロセッサ・メモリ２０２２と結合することができる。少なくとも１つの実施例では、並列プロセッサ・メモリ２０２２は、メモリ・クロスバー２０１６を介してアクセスされ得、メモリ・クロスバー２０１６は、処理アレイ２０１２並びにＩ／Ｏユニット２００４からメモリ要求を受信することができる。少なくとも１つの実施例では、メモリ・クロスバー２０１６は、メモリ・インターフェース２０１８を介して並列プロセッサ・メモリ２０２２にアクセスすることができる。少なくとも１つの実施例では、メモリ・インターフェース２０１８は、複数のパーティション・ユニット（たとえば、パーティション・ユニット２０２０Ａ、パーティション・ユニット２０２０Ｂ～パーティション・ユニット２０２０Ｎ）を含むことができ、複数のパーティション・ユニットは、各々、並列プロセッサ・メモリ２０２２の一部分（たとえば、メモリ・ユニット）に結合することができる。少なくとも１つの実施例では、パーティション・ユニット２０２０Ａ～２０２０Ｎの数は、メモリ・ユニットの数に等しくなるように構成され、それにより、第１のパーティション・ユニット２０２０Ａは、対応する第１のメモリ・ユニット２０２４Ａを有し、第２のパーティション・ユニット２０２０Ｂは、対応するメモリ・ユニット２０２４Ｂを有し、第Ｎのパーティション・ユニット２０２０Ｎは、対応する第Ｎのメモリ・ユニット２０２４Ｎを有する。少なくとも１つの実施例では、パーティション・ユニット２０２０Ａ～２０２０Ｎの数は、メモリ・デバイスの数に等しくないことがある。

【0141】

少なくとも１つの実施例では、メモリ・ユニット２０２４Ａ～２０２４Ｎは、ＧＤＤＲメモリを含むＳＧＲＡＭなど、ＤＲＡＭ又はグラフィックス・ランダム・アクセス・メモリを含む、様々なタイプのメモリ・デバイスを含むことができる。少なくとも１つの実施例では、メモリ・ユニット２０２４Ａ～２０２４Ｎは、限定はしないが高帯域幅メモリ（「ＨＢＭ」：ｈｉｇｈ ｂａｎｄｗｉｄｔｈ ｍｅｍｏｒｙ）を含む、３Ｄ積層メモリをも含み得る。少なくとも１つの実施例では、並列プロセッサ・メモリ２０２２の利用可能な帯域幅を効率的に使用するために、フレーム・バッファ又はテクスチャ・マップなどのレンダー・ターゲットが、メモリ・ユニット２０２４Ａ～２０２４Ｎにわたって記憶されて、パーティション・ユニット２０２０Ａ～２０２０Ｎが、各レンダー・ターゲットの部分を並列に書き込むことを可能にし得る。少なくとも１つの実施例では、ローカル・キャッシュ・メモリと併せてシステム・メモリを利用する統一メモリ設計に有利なように、並列プロセッサ・メモリ２０２２のローカル・インスタンスが除外され得る。

【0142】

少なくとも１つの実施例では、処理アレイ２０１２のクラスタ２０１４Ａ～２０１４Ｎのうちのいずれか１つは、並列プロセッサ・メモリ２０２２内のメモリ・ユニット２０２４Ａ～２０２４Ｎのいずれかに書き込まれることになるデータを処理することができる。少なくとも１つの実施例では、メモリ・クロスバー２０１６は、各クラスタ２０１４Ａ～２０１４Ｎの出力を、出力に対して追加の処理動作を実施することができる任意のパーティション・ユニット２０２０Ａ～２０２０Ｎに転送するか、又は別のクラスタ２０１４Ａ～２０１４Ｎに転送するように構成され得る。少なくとも１つの実施例では、各クラスタ２０１４Ａ～２０１４Ｎは、様々な外部メモリ・デバイスから読み取るか、又はそれに書き込むために、メモリ・クロスバー２０１６を通してメモリ・インターフェース２０１８と通信することができる。少なくとも１つの実施例では、メモリ・クロスバー２０１６は、Ｉ／Ｏユニット２００４と通信するためのメモリ・インターフェース２０１８への接続、並びに、並列プロセッサ・メモリ２０２２のローカル・インスタンスへの接続を有し、これは、異なるクラスタ２０１４Ａ～２０１４Ｎ内の処理ユニットが、システム・メモリ、又は並列処理ユニット２００２にローカルでない他のメモリと通信することを可能にする。少なくとも１つの実施例では、メモリ・クロスバー２０１６は、クラスタ２０１４Ａ～２０１４Ｎとパーティション・ユニット２０２０Ａ～２０２０Ｎとの間でトラフィック・ストリームを分離するために、仮想チャネルを使用することができる。

【0143】

少なくとも１つの実施例では、並列処理ユニット２００２の複数のインスタンスは、単一のアドイン・カード上で提供され得るか、又は複数のアドイン・カードが相互接続され得る。少なくとも１つの実施例では、並列処理ユニット２００２の異なるインスタンスは、異なるインスタンスが異なる数の処理コア、異なる量のローカル並列プロセッサ・メモリ、及び／又は他の構成の差を有する場合でも、相互動作するように構成され得る。たとえば、少なくとも１つの実施例では、並列処理ユニット２００２のいくつかのインスタンスは、他のインスタンスに対してより高い精度の浮動小数点ユニットを含むことができる。少なくとも１つの実施例では、並列処理ユニット２００２又は並列プロセッサ２０００の１つ又は複数のインスタンスを組み込んだシステムは、限定はしないが、デスクトップ、ラップトップ、又はハンドヘルド・パーソナル・コンピュータ、サーバ、ワークステーション、ゲーム・コンソール、及び／又は組み込みシステムを含む、様々な構成及びフォーム・ファクタにおいて実装され得る。

【0144】

図２０Ｂは、少なくとも１つの実施例による、処理クラスタ２０９４を示す。少なくとも１つの実施例では、処理クラスタ２０９４は、並列処理ユニット内に含まれる。少なくとも１つの実施例では、処理クラスタ２０９４は、図２０の処理クラスタ２０１４Ａ～２０１４Ｎのうちの１つである。少なくとも１つの実施例では、処理クラスタ２０９４は、多くのスレッドを並列で実行するように構成され得、「スレッド」という用語は、入力データの特定のセットに対して実行している特定のプログラムのインスタンスを指す。少なくとも１つの実施例では、複数の独立した命令ユニットを提供することなしに多数のスレッドの並列実行をサポートするために、単一命令複数データ（「ＳＩＭＤ」：ｓｉｎｇｌｅ ｉｎｓｔｒｕｃｔｉｏｎ，ｍｕｌｔｉｐｌｅ ｄａｔａ）命令発行技法が使用される。少なくとも１つの実施例では、各処理クラスタ２０９４内の処理エンジンのセットに命令を発行するように構成された共通の命令ユニットを使用して、全体的に同期された多数のスレッドの並列実行をサポートするために、単一命令複数スレッド（「ＳＩＭＴ」：ｓｉｎｇｌｅ ｉｎｓｔｒｕｃｔｉｏｎ，ｍｕｌｔｉｐｌｅ ｔｈｒｅａｄ）技法が使用される。

【0145】

少なくとも１つの実施例では、処理クラスタ２０９４の動作は、ＳＩＭＴ並列プロセッサに処理タスクを分散させるパイプライン・マネージャ２０３２を介して制御され得る。少なくとも１つの実施例では、パイプライン・マネージャ２０３２は、図２０のスケジューラ２０１０から命令を受信し、グラフィックス・マルチプロセッサ２０３４及び／又はテクスチャ・ユニット２０３６を介してそれらの命令の実行を管理する。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２０３４は、ＳＩＭＴ並列プロセッサの例示的なインスタンスである。しかしながら、少なくとも１つの実施例では、異なるアーキテクチャの様々なタイプのＳＩＭＴ並列プロセッサが、処理クラスタ２０９４内に含められ得る。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２０３４の１つ又は複数のインスタンスは、処理クラスタ２０９４内に含められ得る。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２０３４はデータを処理することができ、処理されたデータを、他のシェーダ・ユニットを含む複数の可能な宛先のうちの１つに分散させるために、データ・クロスバー２０４０が使用され得る。少なくとも１つの実施例では、パイプライン・マネージャ２０３２は、データ・クロスバー２０４０を介して分散されることになる処理されたデータのための宛先を指定することによって、処理されたデータの分散を容易にすることができる。

【0146】

少なくとも１つの実施例では、処理クラスタ２０９４内の各グラフィックス・マルチプロセッサ２０３４は、関数実行論理（たとえば、算術論理ユニット、ロード／ストア・ユニット（「ＬＳＵ」：ｌｏａｄ／ｓｔｏｒｅ ｕｎｉｔ）など）の同一のセットを含むことができる。少なくとも１つの実施例では、関数実行論理は、前の命令が完了する前に新しい命令が発行され得るパイプライン様式で構成され得る。少なくとも１つの実施例では、関数実行論理は、整数及び浮動小数点算術、比較演算、ブール演算、ビット・シフト、及び様々な代数関数の算出を含む様々な演算をサポートする。少なくとも１つの実施例では、異なる演算を実施するために同じ関数ユニット・ハードウェアが活用され得、関数ユニットの任意の組合せが存在し得る。

【0147】

少なくとも１つの実施例では、処理クラスタ２０９４に送信される命令がスレッドを構成する。少なくとも１つの実施例では、並列処理エンジンのセットにわたって実行しているスレッドのセットが、スレッド・グループである。少なくとも１つの実施例では、スレッド・グループは、異なる入力データに対してプログラムを実行する。少なくとも１つの実施例では、スレッド・グループ内の各スレッドは、グラフィックス・マルチプロセッサ２０３４内の異なる処理エンジンに割り当てられ得る。少なくとも１つの実施例では、スレッド・グループは、グラフィックス・マルチプロセッサ２０３４内の処理エンジンの数よりも少ないスレッドを含み得る。少なくとも１つの実施例では、スレッド・グループが処理エンジンの数よりも少ないスレッドを含むとき、処理エンジンのうちの１つ又は複数は、そのスレッド・グループが処理されているサイクル中にアイドルであり得る。少なくとも１つの実施例では、スレッド・グループはまた、グラフィックス・マルチプロセッサ２０３４内の処理エンジンの数よりも多いスレッドを含み得る。少なくとも１つの実施例では、スレッド・グループがグラフィックス・マルチプロセッサ２０３４内の処理エンジンの数よりも多くのスレッドを含むとき、連続するクロック・サイクルにわたって処理が実施され得る。少なくとも１つの実施例では、複数のスレッド・グループが、グラフィックス・マルチプロセッサ２０３４上で同時に実行され得る。

【0148】

少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２０３４は、ロード動作及びストア動作を実施するための内部キャッシュ・メモリを含む。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２０３４は、内部キャッシュをやめ、処理クラスタ２０９４内のキャッシュ・メモリ（たとえば、Ｌ１キャッシュ２０４８）を使用することができる。少なくとも１つの実施例では、各グラフィックス・マルチプロセッサ２０３４は、パーティション・ユニット（たとえば、図２０Ａのパーティション・ユニット２０２０Ａ～２０２０Ｎ）内のレベル２（「Ｌ２」）キャッシュへのアクセスをも有し、それらのＬ２キャッシュは、すべての処理クラスタ２０９４の間で共有され、スレッド間でデータを転送するために使用され得る。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２０３４はまた、オフチップ・グローバル・メモリにアクセスし得、オフチップ・グローバル・メモリは、ローカル並列プロセッサ・メモリ及び／又はシステム・メモリのうちの１つ又は複数を含むことができる。少なくとも１つの実施例では、並列処理ユニット２００２の外部の任意のメモリが、グローバル・メモリとして使用され得る。少なくとも１つの実施例では、処理クラスタ２０９４は、グラフィックス・マルチプロセッサ２０３４の複数のインスタンスを含み、グラフィックス・マルチプロセッサ２０３４は、共通の命令及びデータを共有することができ、共通の命令及びデータは、Ｌ１キャッシュ２０４８に記憶され得る。

【0149】

少なくとも１つの実施例では、各処理クラスタ２０９４は、仮想アドレスを物理アドレスにマッピングするように構成されたＭＭＵ２０４５を含み得る。少なくとも１つの実施例では、ＭＭＵ２０４５の１つ又は複数のインスタンスは、図２０のメモリ・インターフェース２０１８内に存在し得る。少なくとも１つの実施例では、ＭＭＵ２０４５は、仮想アドレスを、タイル及び随意にキャッシュ・ライン・インデックスの物理アドレスにマッピングするために使用されるページ・テーブル・エントリ（「ＰＴＥ」：ｐａｇｅ ｔａｂｌｅ ｅｎｔｒｙ）のセットを含む。少なくとも１つの実施例では、ＭＭＵ２０４５は、アドレス・トランスレーション・ルックアサイド・バッファ（「ＴＬＢ」：ｔｒａｎｓｌａｔｉｏｎ ｌｏｏｋａｓｉｄｅ ｂｕｆｆｅｒ）又はキャッシュを含み得、これらは、グラフィックス・マルチプロセッサ２０３４又はＬ１キャッシュ２０４８或いは処理クラスタ２０９４内に存在し得る。少なくとも１つの実施例では、物理アドレスが、表面データ・アクセス・ローカリティを分散させて、パーティション・ユニットの間での効率的な要求インターリーブを可能にするために処理される。少なくとも１つの実施例では、キャッシュ・ライン・インデックスが、キャッシュ・ラインについての要求がヒットであるのかミスであるのかを決定するために使用され得る。

【0150】

少なくとも１つの実施例では、処理クラスタ２０９４は、各グラフィックス・マルチプロセッサ２０３４が、テクスチャ・マッピング動作、たとえば、テクスチャ・サンプル位置を決定すること、テクスチャ・データを読み取ること、及びテクスチャ・データをフィルタリングすることを実施するためのテクスチャ・ユニット２０３６に結合されるように、構成され得る。少なくとも１つの実施例では、テクスチャ・データは、内部テクスチャＬ１キャッシュ（図示せず）から又はグラフィックス・マルチプロセッサ２０３４内のＬ１キャッシュから読み取られ、必要に応じて、Ｌ２キャッシュ、ローカル並列プロセッサ・メモリ、又はシステム・メモリからフェッチされる。少なくとも１つの実施例では、各グラフィックス・マルチプロセッサ２０３４は、処理されたタスクをデータ・クロスバー２０４０に出力して、処理されたタスクを、さらなる処理のために別の処理クラスタ２０９４に提供するか、或いは、処理されたタスクを、メモリ・クロスバー２０１６を介してＬ２キャッシュ、ローカル並列プロセッサ・メモリ、又はシステム・メモリに記憶する。少なくとも１つの実施例では、プレ・ラスタ演算ユニット（「プレＲＯＰ」：ｐｒｅ－ｒａｓｔｅｒ ｏｐｅｒａｔｉｏｎ）２０４２は、グラフィックス・マルチプロセッサ２０３４からデータを受信し、データをＲＯＰユニットにダイレクトするように構成され、ＲＯＰユニットは、本明細書で説明されるようなパーティション・ユニット（たとえば、図２０のパーティション・ユニット２０２０Ａ～２０２０Ｎ）とともに位置し得る。少なくとも１つの実施例では、プレＲＯＰ２０４２は、色ブレンディングのための最適化を実施し、ピクセル色データを組織化し、アドレス・トランスレーションを実施することができる。

【0151】

図２０Ｃは、少なくとも１つの実施例による、グラフィックス・マルチプロセッサ２０９６を示す。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２０９６は、図２０Ｂのグラフィックス・マルチプロセッサ２０３４である。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２０９６は、処理クラスタ２０９４のパイプライン・マネージャ２０３２と結合する。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２０９６は、限定はしないが、命令キャッシュ２０５２と、命令ユニット２０５４と、アドレス・マッピング・ユニット２０５６と、レジスタ・ファイル２０５８と、１つ又は複数のＧＰＧＰＵコア２０６２と、１つ又は複数のＬＳＵ２０６６とを含む実行パイプラインを有する。ＧＰＧＰＵコア２０６２及びＬＳＵ２０６６は、メモリ及びキャッシュ相互接続２０６８を介してキャッシュ・メモリ２０７２及び共有メモリ２０７０と結合される。

【0152】

少なくとも１つの実施例では、命令キャッシュ２０５２は、実行すべき命令のストリームをパイプライン・マネージャ２０３２から受信する。少なくとも１つの実施例では、命令は、命令キャッシュ２０５２においてキャッシュされ、命令ユニット２０５４による実行のためにディスパッチされる。少なくとも１つの実施例では、命令ユニット２０５４は、命令をスレッド・グループ（たとえば、ワープ）としてディスパッチすることができ、スレッド・グループの各スレッドは、ＧＰＧＰＵコア２０６２内の異なる実行ユニットに割り当てられる。少なくとも１つの実施例では、命令は、統一アドレス空間内のアドレスを指定することによって、ローカル、共有、又はグローバルのアドレス空間のいずれかにアクセスすることができる。少なくとも１つの実施例では、アドレス・マッピング・ユニット２０５６は、統一アドレス空間中のアドレスを、ＬＳＵ２０６６によってアクセスされ得る個別メモリ・アドレスにトランスレートするために使用され得る。

【0153】

少なくとも１つの実施例では、レジスタ・ファイル２０５８は、グラフィックス・マルチプロセッサ２０９６の機能ユニットにレジスタのセットを提供する。少なくとも１つの実施例では、レジスタ・ファイル２０５８は、グラフィックス・マルチプロセッサ２０９６の機能ユニット（たとえば、ＧＰＧＰＵコア２０６２、ＬＳＵ２０６６）のデータ経路に接続された、オペランドのための一時的ストレージを提供する。少なくとも１つの実施例では、レジスタ・ファイル２０５８は、各機能ユニットがレジスタ・ファイル２０５８の専用部分を割り振られるように、機能ユニットの各々の間で分割される。少なくとも１つの実施例では、レジスタ・ファイル２０５８は、グラフィックス・マルチプロセッサ２０９６によって実行されている異なるスレッド・グループ間で分割される。

【0154】

少なくとも１つの実施例では、ＧＰＧＰＵコア２０６２は、各々、グラフィックス・マルチプロセッサ２０９６の命令を実行するために使用されるＦＰＵ及び／又は整数ＡＬＵを含むことができる。ＧＰＧＰＵコア２０６２は、同様のアーキテクチャであることも異なるアーキテクチャであることもある。少なくとも１つの実施例では、ＧＰＧＰＵコア２０６２の第１の部分は、単精度ＦＰＵ及び整数ＡＬＵを含み、ＧＰＧＰＵコア２０６２の第２の部分は、倍精度ＦＰＵを含む。少なくとも１つの実施例では、ＦＰＵは、浮動小数点算術のためのＩＥＥＥ７５４－２００８規格を実装することができるか、又は、可変精度の浮動小数点算術を有効にすることができる。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２０９６は、追加として、矩形コピー動作又はピクセル・ブレンディング動作などの特定の機能を実施するための１つ又は複数の固定機能ユニット又は特別機能ユニットを含むことができる。少なくとも１つの実施例では、ＧＰＧＰＵコア２０６２のうちの１つ又は複数は、固定又は特別機能論理をも含むことができる。

【0155】

少なくとも１つの実施例では、ＧＰＧＰＵコア２０６２は、データの複数のセットに対して単一の命令を実施することが可能なＳＩＭＤ論理を含む。少なくとも１つの実施例では、ＧＰＧＰＵコア２０６２は、ＳＩＭＤ４、ＳＩＭＤ８、及びＳＩＭＤ１６命令を物理的に実行し、ＳＩＭＤ１、ＳＩＭＤ２、及びＳＩＭＤ３２命令を論理的に実行することができる。少なくとも１つの実施例では、ＧＰＧＰＵコア２０６２のためのＳＩＭＤ命令は、シェーダ・コンパイラによるコンパイル時に生成されるか、或いは、単一プログラム複数データ（「ＳＰＭＤ」：ｓｉｎｇｌｅ ｐｒｏｇｒａｍ ｍｕｌｔｉｐｌｅ ｄａｔａ）又はＳＩＭＴアーキテクチャのために書かれ、コンパイルされたプログラムを実行しているときに自動的に生成され得る。少なくとも１つの実施例では、ＳＩＭＴ実行モデルのために構成されたプログラムの複数のスレッドは、単一のＳＩＭＤ命令を介して実行され得る。たとえば、少なくとも１つの実施例では、同じ又は同様の動作を実施する８つのＳＩＭＴスレッドが、単一のＳＩＭＤ８論理ユニットを介して並列に実行され得る。

【0156】

少なくとも１つの実施例では、メモリ及びキャッシュ相互接続２０６８は、グラフィックス・マルチプロセッサ２０９６の各機能ユニットをレジスタ・ファイル２０５８及び共有メモリ２０７０に接続する相互接続ネットワークである。少なくとも１つの実施例では、メモリ及びキャッシュ相互接続２０６８は、ＬＳＵ２０６６が、共有メモリ２０７０とレジスタ・ファイル２０５８との間でロード動作及びストア動作を実装することを可能にするクロスバー相互接続である。少なくとも１つの実施例では、レジスタ・ファイル２０５８は、ＧＰＧＰＵコア２０６２と同じ周波数において動作することができ、したがって、ＧＰＧＰＵコア２０６２とレジスタ・ファイル２０５８との間のデータ転送は、非常に低いレイテンシである。少なくとも１つの実施例では、共有メモリ２０７０は、グラフィックス・マルチプロセッサ２０９６内の機能ユニット上で実行するスレッド間の通信を可能にするために使用され得る。少なくとも１つの実施例では、キャッシュ・メモリ２０７２は、たとえば、機能ユニットとテクスチャ・ユニット２０３６との間で通信されるテクスチャ・データをキャッシュするために、データ・キャッシュとして使用され得る。少なくとも１つの実施例では、共有メモリ２０７０は、キャッシュされる管理されるプログラムとしても使用され得る。少なくとも１つの実施例では、ＧＰＧＰＵコア２０６２上で実行しているスレッドは、キャッシュ・メモリ２０７２内に記憶される自動的にキャッシュされるデータに加えて、データを共有メモリ内にプログラム的に記憶することができる。

【0157】

少なくとも１つの実施例では、本明細書で説明されるような並列プロセッサ又はＧＰＧＰＵは、グラフィックス動作、機械学習動作、パターン分析動作、及び様々な汎用ＧＰＵ（ＧＰＧＰＵ）機能を加速するために、ホスト／プロセッサ・コアに通信可能に結合される。少なくとも１つの実施例では、ＧＰＵは、バス又は他の相互接続（たとえば、ＰＣＩｅ又はＮＶＬｉｎｋなどの高速相互接続）を介してホスト・プロセッサ／コアに通信可能に結合され得る。少なくとも１つの実施例では、ＧＰＵは、コアとして同じパッケージ又はチップに集積され、パッケージ又はチップの内部にあるプロセッサ・バス／相互接続を介してコアに通信可能に結合され得る。少なくとも１つの実施例では、ＧＰＵが接続される様式にかかわらず、プロセッサ・コアは、ＷＤ中に含まれているコマンド／命令のシーケンスの形態で、ワークをＧＰＵに割り振り得る。少なくとも１つの実施例では、ＧＰＵは、次いで、これらのコマンド／命令を効率的に処理するための専用回路要素／論理を使用する。

【0158】

少なくとも１つの実施例では、図２０Ａ～図２０Ｃに図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２０Ａ～図２０Ｃに図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２０Ａ～図２０Ｃに図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２０Ａ～図２０Ｃに図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0159】

図２１は、少なくとも１つの実施例による、グラフィックス・プロセッサ２１００を示す。少なくとも１つの実施例では、グラフィックス・プロセッサ２１００は、リング相互接続２１０２と、パイプライン・フロント・エンド２１０４と、メディア・エンジン２１３７と、グラフィックス・コア２１８０Ａ～２１８０Ｎとを含む。少なくとも１つの実施例では、リング相互接続２１０２は、グラフィックス・プロセッサ２１００を、他のグラフィックス・プロセッサ又は１つ又は複数の汎用プロセッサ・コアを含む他の処理ユニットに結合する。少なくとも１つの実施例では、グラフィックス・プロセッサ２１００は、マルチコア処理システム内に組み込まれた多くのプロセッサのうちの１つである。

【0160】

少なくとも１つの実施例では、グラフィックス・プロセッサ２１００は、リング相互接続２１０２を介してコマンドのバッチを受信する。少なくとも１つの実施例では、入って来るコマンドは、パイプライン・フロント・エンド２１０４中のコマンド・ストリーマ２１０３によって解釈される。少なくとも１つの実施例では、グラフィックス・プロセッサ２１００は、（１つ又は複数の）グラフィックス・コア２１８０Ａ～２１８０Ｎを介して３Ｄジオメトリ処理及びメディア処理を実施するためのスケーラブル実行論理を含む。少なくとも１つの実施例では、３Ｄジオメトリ処理コマンドについて、コマンド・ストリーマ２１０３は、コマンドをジオメトリ・パイプライン２１３６に供給する。少なくとも１つの実施例では、少なくともいくつかのメディア処理コマンドについて、コマンド・ストリーマ２１０３は、コマンドをビデオ・フロント・エンド２１３４に供給し、ビデオ・フロント・エンド２１３４はメディア・エンジン２１３７と結合する。少なくとも１つの実施例では、メディア・エンジン２１３７は、ビデオ及び画像後処理のためのビデオ品質エンジン（「ＶＱＥ」：Ｖｉｄｅｏ Ｑｕａｌｉｔｙ Ｅｎｇｉｎｅ）２１３０と、ハードウェア加速メディア・データ・エンコード及びデコードを提供するためのマルチ・フォーマット・エンコード／デコード（「ＭＦＸ」：ｍｕｌｔｉ－ｆｏｒｍａｔ ｅｎｃｏｄｅ／ｄｅｃｏｄｅ）エンジン２１３３とを含む。少なくとも１つの実施例では、ジオメトリ・パイプライン２１３６及びメディア・エンジン２１３７は、各々、少なくとも１つのグラフィックス・コア２１８０Ａによって提供されるスレッド実行リソースのための実行スレッドを生成する。

【0161】

少なくとも１つの実施例では、グラフィックス・プロセッサ２１００は、各々が（コア・サブ・スライスと呼ばれることもある）複数のサブ・コア２１５０Ａ～５５０Ｎ、２１６０Ａ～２１６０Ｎを有する、（コア・スライスと呼ばれることもある）モジュール式グラフィックス・コア２１８０Ａ～２１８０Ｎを特徴とするスケーラブル・スレッド実行リソースを含む。少なくとも１つの実施例では、グラフィックス・プロセッサ２１００は、任意の数のグラフィックス・コア２１８０Ａ～２１８０Ｎを有することができる。少なくとも１つの実施例では、グラフィックス・プロセッサ２１００は、少なくとも第１のサブ・コア２１５０Ａ及び第２のサブ・コア２１６０Ａを有するグラフィックス・コア２１８０Ａを含む。少なくとも１つの実施例では、グラフィックス・プロセッサ２１００は、単一のサブ・コア（たとえば、サブ・コア２１５０Ａ）をもつ低電力プロセッサである。少なくとも１つの実施例では、グラフィックス・プロセッサ２１００は、各々が第１のサブ・コア２１５０Ａ～２１５０Ｎのセットと第２のサブ・コア２１６０Ａ～２１６０Ｎのセットとを含む、複数のグラフィックス・コア２１８０Ａ～２１８０Ｎを含む。少なくとも１つの実施例では、第１のサブ・コア２１５０Ａ～２１５０Ｎ中の各サブ・コアは、少なくとも、実行ユニット（「ＥＵ」：ｅｘｅｃｕｔｉｏｎ ｕｎｉｔ）２１５２Ａ～２１５２Ｎ及びメディア／テクスチャ・サンプラ２１５４Ａ～２１５４Ｎの第１のセットを含む。少なくとも１つの実施例では、第２のサブ・コア２１６０Ａ～２１６０Ｎ中の各サブ・コアは、少なくとも、実行ユニット２１６２Ａ～２１６２Ｎ及びサンプラ２１６４Ａ～２１６４Ｎの第２のセットを含む。少なくとも１つの実施例では、各サブ・コア２１５０Ａ～２１５０Ｎ、２１６０Ａ～２１６０Ｎは、共有リソース２１７０Ａ～２１７０Ｎのセットを共有する。少なくとも１つの実施例では、共有リソース２１７０は、共有キャッシュ・メモリ及びピクセル動作論理を含む。

【0162】

少なくとも１つの実施例では、図２１に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２１に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２１に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２１に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0163】

図２２は、少なくとも１つの実施例による、プロセッサ２２００を示す。少なくとも１つの実施例では、プロセッサ２２００は、限定はしないが、命令を実施するための論理回路を含み得る。少なくとも１つの実施例では、プロセッサ２２００は、ｘ８６命令、ＡＭＲ命令、ＡＳＩＣのための特別命令などを含む命令を実施し得る。少なくとも１つの実施例では、プロセッサ２２１０は、カリフォルニア州サンタクララのＩｎｔｅｌ Ｃｏｒｐｏｒａｔｉｏｎからの、ＭＭＸ（商標）技術で可能にされたマイクロプロセッサ中の６４ビット幅ＭＭＸレジスタなど、パック・データを記憶するためのレジスタを含み得る。少なくとも１つの実施例では、整数形式と浮動小数点形式の両方で利用可能なＭＭＸレジスタは、ＳＩＭＤ及びストリーミングＳＩＭＤ拡張（「ＳＳＥ」：ｓｔｒｅａｍｉｎｇ ＳＩＭＤ ｅｘｔｅｎｓｉｏｎ）命令を伴うパック・データ要素で動作し得る。少なくとも１つの実施例では、ＳＳＥ２、ＳＳＥ３、ＳＳＥ４、ＡＶＸ、又はそれ以上（総称して「ＳＳＥｘ」と呼ばれる）技術に関係する１２８ビット幅ＸＭＭレジスタは、そのようなパック・データ・オペランドを保持し得る。少なくとも１つの実施例では、プロセッサ２２１０は、ＣＵＤＡプログラムを加速するための命令を実施し得る。

【0164】

少なくとも１つの実施例では、プロセッサ２２００は、実行されるべき命令をフェッチし、プロセッサ・パイプラインにおいて後で使用されるべき命令を準備するためのイン・オーダー・フロント・エンド（「フロント・エンド」）２２０１を含む。少なくとも１つの実施例では、フロント・エンド２２０１は、いくつかのユニットを含み得る。少なくとも１つの実施例では、命令プリフェッチャ２２２６が、メモリから命令をフェッチし、命令を命令デコーダ２２２８にフィードし、命令デコーダ２２２８が命令を復号又は解釈する。たとえば、少なくとも１つの実施例では、命令デコーダ２２２８は、受信された命令を、実行のために「マイクロ命令」又は「マイクロ・オペレーション」と呼ばれる（「マイクロ・オプ」又は「ｕｏｐ」とも呼ばれる）１つ又は複数のオペレーションに復号する。少なくとも１つの実施例では、命令デコーダ２２２８は、命令を、動作を実施するためにマイクロアーキテクチャによって使用され得るオプコード及び対応するデータ並びに制御フィールドに構文解析する。少なくとも１つの実施例では、トレース・キャッシュ２２３０は、復号されたｕｏｐを、実行のためにｕｏｐキュー２２３４においてプログラム順のシーケンス又はトレースにアセンブルし得る。少なくとも１つの実施例では、トレース・キャッシュ２２３０が複雑な命令に遭遇したとき、マイクロコードＲＯＭ２２３２が、動作を完了するために必要なｕｏｐを提供する。

【0165】

少なくとも１つの実施例では、単一のマイクロ・オプにコンバートされ得る命令もあれば、全動作を完了するためにいくつかのマイクロ・オプを必要とする命令もある。少なくとも１つの実施例では、命令を完了するために５つ以上のマイクロ・オプが必要とされる場合、命令デコーダ２２２８は、マイクロコードＲＯＭ２２３２にアクセスして命令を実施し得る。少なくとも１つの実施例では、命令は、命令デコーダ２２２８における処理のために少数のマイクロ・オプに復号され得る。少なくとも１つの実施例では、命令は、動作を達成するためにいくつかのマイクロ・オプが必要とされる場合、マイクロコードＲＯＭ２２３２内に記憶され得る。少なくとも１つの実施例では、トレース・キャッシュ２２３０は、マイクロコードＲＯＭ２２３２からの１つ又は複数の命令を完了するために、エントリ・ポイント・プログラマブル論理アレイ（「ＰＬＡ」：ｐｒｏｇｒａｍｍａｂｌｅ ｌｏｇｉｃ ａｒｒａｙ）を参照して、マイクロコード・シーケンスを読み取るための正しいマイクロ命令ポインタを決定する。少なくとも１つの実施例では、マイクロコードＲＯＭ２２３２が命令のためにマイクロ・オプのシーケンシングを終えた後、機械のフロント・エンド２２０１は、トレース・キャッシュ２２３０からマイクロ・オプをフェッチすることを再開し得る。

【0166】

少なくとも１つの実施例では、アウト・オブ・オーダー実行エンジン（「アウト・オブ・オーダー・エンジン」）２２０３は、実行のために命令を準備し得る。少なくとも１つの実施例では、アウト・オブ・オーダー実行論理は、命令がパイプラインを下り、実行のためにスケジューリングされるときの性能を最適化するために、命令のフローを滑らかにし、それを並べ替えるためのいくつかのバッファを有する。アウト・オブ・オーダー実行エンジン２２０３は、限定はしないが、アロケータ／レジスタ・リネーマ２２４０と、メモリｕｏｐキュー２２４２と、整数／浮動小数点ｕｏｐキュー２２４４と、メモリ・スケジューラ２２４６と、高速スケジューラ２２０２と、低速／汎用浮動小数点スケジューラ（「低速／汎用ＦＰ（ｆｌｏａｔｉｎｇ ｐｏｉｎｔ）スケジューラ」）２２０４と、単純浮動小数点スケジューラ（「単純ＦＰスケジューラ」）２２０６とを含む。少なくとも１つの実施例では、高速スケジューラ２２０２、低速／汎用浮動小数点スケジューラ２２０４、及び単純浮動小数点スケジューラ２２０６は、総称して本明細書では「ｕｏｐスケジューラ２２０２、２２０４、２２０６」とも呼ばれる。アロケータ／レジスタ・リネーマ２２４０は、実行するために各ｕｏｐが必要とする機械バッファ及びリソースを割り振る。少なくとも１つの実施例では、アロケータ／レジスタ・リネーマ２２４０は、レジスタ・ファイルへのエントリ時に論理レジスタをリネームする。少なくとも１つの実施例では、アロケータ／レジスタ・リネーマ２２４０はまた、メモリ・スケジューラ２２４６及びｕｏｐスケジューラ２２０２、２２０４、２２０６の前の、２つのｕｏｐキュー、すなわちメモリ動作のためのメモリｕｏｐキュー２２４２及び非メモリ動作のための整数／浮動小数点ｕｏｐキュー２２４４のうちの１つにおいて、各ｕｏｐのためのエントリを割り振る。少なくとも１つの実施例では、ｕｏｐスケジューラ２２０２、２２０４、２２０６は、ｕｏｐがいつ実行する準備ができるかを、それらの従属入力レジスタ・オペランド・ソースが準備されていることと、それらの動作を完了するためにｕｏｐが必要とする実行リソースの利用可能性とに基づいて、決定する。少なくとも１つの実施例では、少なくとも１つの実施例の高速スケジューラ２２０２は、メイン・クロック・サイクルの半分ごとにスケジューリングし得、低速／汎用浮動小数点スケジューラ２２０４及び単純浮動小数点スケジューラ２２０６は、メイン・プロセッサ・クロック・サイクル当たりに１回スケジューリングし得る。少なくとも１つの実施例では、ｕｏｐスケジューラ２２０２、２２０４、２２０６は、実行のためにｕｏｐをスケジューリングするためにディスパッチ・ポートを調停する。

【0167】

少なくとも１つの実施例では、実行ブロック２２１１は、限定はしないが、整数レジスタ・ファイル／バイパス・ネットワーク２２０８と、浮動小数点レジスタ・ファイル／バイパス・ネットワーク（「ＦＰレジスタ・ファイル／バイパス・ネットワーク」）２２１０と、アドレス生成ユニット（「ＡＧＵ」：ａｄｄｒｅｓｓ ｇｅｎｅｒａｔｉｏｎ ｕｎｉｔ）２２１２及び２２１４と、高速ＡＬＵ２２１６及び２２１８と、低速ＡＬＵ２２２０と、浮動小数点ＡＬＵ（「ＦＰ」）２２２２と、浮動小数点移動ユニット（「ＦＰ移動」）２２２４とを含む。少なくとも１つの実施例では、整数レジスタ・ファイル／バイパス・ネットワーク２２０８及び浮動小数点レジスタ・ファイル／バイパス・ネットワーク２２１０は、本明細書では「レジスタ・ファイル２２０８、２２１０」とも呼ばれる。少なくとも１つの実施例では、ＡＧＵ２２１２及び２２１４、高速ＡＬＵ２２１６及び２２１８、低速ＡＬＵ２２２０、浮動小数点ＡＬＵ２２２２、及び浮動小数点移動ユニット２２２４は、本明細書では「実行ユニット２２１２、２２１４、２２１６、２２１８、２２２０、２２２２、及び２２２４」とも呼ばれる。少なくとも１つの実施例では、実行ブロックは、限定はしないが、（ゼロを含む）任意の数及びタイプのレジスタ・ファイル、バイパス・ネットワーク、アドレス生成ユニット、及び実行ユニットを、任意の組合せで含み得る。

【0168】

少なくとも１つの実施例では、レジスタ・ファイル２２０８、２２１０は、ｕｏｐスケジューラ２２０２、２２０４、２２０６と、実行ユニット２２１２、２２１４、２２１６、２２１８、２２２０、２２２２、及び２２２４との間に配置され得る。少なくとも１つの実施例では、整数レジスタ・ファイル／バイパス・ネットワーク２２０８は、整数演算を実施する。少なくとも１つの実施例では、浮動小数点レジスタ・ファイル／バイパス・ネットワーク２２１０は、浮動小数点演算を実施する。少なくとも１つの実施例では、レジスタ・ファイル２２０８、２２１０の各々は、限定はしないが、バイパス・ネットワークを含み得、バイパス・ネットワークは、レジスタ・ファイルにまだ書き込まれていない完了したばかりの結果を、新しい従属ｕｏｐにバイパス又はフォワーディングし得る。少なくとも１つの実施例では、レジスタ・ファイル２２０８、２２１０は、互いにデータを通信し得る。少なくとも１つの実施例では、整数レジスタ・ファイル／バイパス・ネットワーク２２０８は、限定はしないが、２つの別個のレジスタ・ファイル、すなわち低次３２ビットのデータのための１つのレジスタ・ファイル及び高次３２ビットのデータのための第２のレジスタ・ファイルを含み得る。少なくとも１つの実施例では、浮動小数点命令は、通常、６４～１２８ビット幅のオペランドを有するので、浮動小数点レジスタ・ファイル／バイパス・ネットワーク２２１０は、限定はしないが、１２８ビット幅のエントリを含み得る。

【0169】

少なくとも１つの実施例では、実行ユニット２２１２、２２１４、２２１６、２２１８、２２２０、２２２２、２２２４は、命令を実行し得る。少なくとも１つの実施例では、レジスタ・ファイル２２０８、２２１０は、マイクロ命令が実行する必要がある整数及び浮動小数点データ・オペランド値を記憶する。少なくとも１つの実施例では、プロセッサ２２００は、限定はしないが、任意の数及び組合せの実行ユニット２２１２、２２１４、２２１６、２２１８、２２２０、２２２２、２２２４を含み得る。少なくとも１つの実施例では、浮動小数点ＡＬＵ２２２２及び浮動小数点移動ユニット２２２４は、浮動小数点、ＭＭＸ、ＳＩＭＤ、ＡＶＸ及びＳＳＥ、又は他の演算を実行し得る。少なくとも１つの実施例では、浮動小数点ＡＬＵ２２２２は、限定はしないが、除算、平方根、及び剰余マイクロ・オプを実行するための６４ビットずつの浮動小数点デバイダを含み得る。少なくとも１つの実施例では、浮動小数点値を伴う命令は、浮動小数点ハードウェアで対処され得る。少なくとも１つの実施例では、ＡＬＵ演算は、高速ＡＬＵ２２１６、２２１８に渡され得る。少なくとも１つの実施例では、高速ＡＬＵ２２１６、２２１８は、クロック・サイクルの半分の実効レイテンシを伴う高速演算を実行し得る。少なくとも１つの実施例では、低速ＡＬＵ２２２０は、限定はしないが、乗数、シフト、フラグ論理、及びブランチ処理などの長レイテンシ・タイプの演算のための整数実行ハードウェアを含み得るので、ほとんどの複雑な整数演算は低速ＡＬＵ２２２０に進む。少なくとも１つの実施例では、メモリ・ロード／ストア動作は、ＡＧＵ２２１２、２２１４によって実行され得る。少なくとも１つの実施例では、高速ＡＬＵ２２１６、高速ＡＬＵ２２１８、及び低速ＡＬＵ２２２０は、６４ビット・データ・オペランドで整数演算を実施し得る。少なくとも１つの実施例では、高速ＡＬＵ２２１６、高速ＡＬＵ２２１８、及び低速ＡＬＵ２２２０は、１６、３２、１２８、２５６などを含む様々なデータ・ビット・サイズをサポートするために実装され得る。少なくとも１つの実施例では、浮動小数点ＡＬＵ２２２２及び浮動小数点移動ユニット２２２４は、様々なビット幅を有する様々なオペランドをサポートするために実装され得る。少なくとも１つの実施例では、浮動小数点ＡＬＵ２２２２及び浮動小数点移動ユニット２２２４は、ＳＩＭＤ及びマルチメディア命令と併せた１２８ビット幅のパック・データ・オペランドで動作し得る。

【0170】

少なくとも１つの実施例では、ｕｏｐスケジューラ２２０２、２２０４、２２０６は、親ロードが実行し終える前に従属演算をディスパッチする。少なくとも１つの実施例では、ｕｏｐは、プロセッサ２２００において投機的にスケジューリング及び実行され得るので、プロセッサ２２００は、メモリ・ミスに対処するための論理をも含み得る。少なくとも１つの実施例では、データ・キャッシュにおいてデータ・ロードがミスした場合、一時的に不正確なデータをもつスケジューラを通り過ぎたパイプラインにおいて、進行中の従属演算があり得る。少なくとも１つの実施例では、リプレイ機構が、不正確なデータを使用する命令を追跡及び再実行する。少なくとも１つの実施例では、従属演算は、リプレイされる必要があり得、独立した演算は、完了することを可能にされ得る。少なくとも１つの実施例では、プロセッサの少なくとも１つの実施例のスケジューラ及びリプレイ機構はまた、テキスト・ストリング比較演算のための命令シーケンスを捕捉するように設計され得る。

【0171】

少なくとも１つの実施例では、「レジスタ」という用語は、オペランドを識別するための命令の一部として使用され得るオンボード・プロセッサ・ストレージ・ロケーションを指し得る。少なくとも１つの実施例では、レジスタは、（プログラマの視点から見て）プロセッサの外部から使用可能であり得るものであり得る。少なくとも１つの実施例では、レジスタは、特定のタイプの回路に限定されないことがある。むしろ、少なくとも１つの実施例では、レジスタは、データを記憶し、データを提供し、本明細書で説明される機能を実施し得る。少なくとも１つの実施例では、本明細書で説明されるレジスタは、専用物理レジスタ、レジスタ・リネーミングを使用して動的に割り振られる物理レジスタ、専用物理レジスタと動的に割り振られる物理レジスタとの組合せなど、任意の数の異なる技法を使用して、プロセッサ内の回路要素によって実装され得る。少なくとも１つの実施例では、整数レジスタは、３２ビット整数データを記憶する。少なくとも１つの実施例のレジスタ・ファイルは、パック・データのための８つのマルチメディアＳＩＭＤレジスタをも含んでいる。

【0172】

少なくとも１つの実施例では、図２２に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２２に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２２に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２２に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0173】

図２３は、少なくとも１つの実施例による、プロセッサ２３００を示す。少なくとも１つの実施例では、プロセッサ２３００は、限定はしないが、１つ又は複数のプロセッサ・コア（「コア」）２３０２Ａ～２３０２Ｎと、統合されたメモリ・コントローラ２３１４と、統合されたグラフィックス・プロセッサ２３０８とを含む。少なくとも１つの実施例では、プロセッサ２３００は、破線ボックスによって表される追加プロセッサ・コア２３０２Ｎまでの追加コアを含むことができる。少なくとも１つの実施例では、プロセッサ・コア２３０２Ａ～２３０２Ｎの各々は、１つ又は複数の内部キャッシュ・ユニット２３０４Ａ～２３０４Ｎを含む。少なくとも１つの実施例では、各プロセッサ・コアはまた、１つ又は複数の共有キャッシュ・ユニット２３０６へのアクセスを有する。

【0174】

少なくとも１つの実施例では、内部キャッシュ・ユニット２３０４Ａ～２３０４Ｎと共有キャッシュ・ユニット２３０６とは、プロセッサ２３００内のキャッシュ・メモリ階層を表す。少なくとも１つの実施例では、キャッシュ・メモリ・ユニット２３０４Ａ～２３０４Ｎは、各プロセッサ・コア内の命令及びデータ・キャッシュの少なくとも１つのレベル、及びＬ２、Ｌ３、レベル４（「Ｌ４」）などの共有中間レベル・キャッシュの１つ又は複数のレベル、又はキャッシュの他のレベルを含み得、ここで、外部メモリの前の最高レベルのキャッシュは、ＬＬＣとして分類される。少なくとも１つの実施例では、キャッシュ・コヒーレンシ論理は、様々なキャッシュ・ユニット２３０６及び２３０４Ａ～２３０４Ｎ間でコヒーレンシを維持する。

【0175】

少なくとも１つの実施例では、プロセッサ２３００は、１つ又は複数のバス・コントローラ・ユニット２３１６とシステム・エージェント・コア２３１０とのセットをも含み得る。少なくとも１つの実施例では、１つ又は複数のバス・コントローラ・ユニット２３１６は、１つ又は複数のＰＣＩ又はＰＣＩエクスプレス・バスなどの周辺バスのセットを管理する。少なくとも１つの実施例では、システム・エージェント・コア２３１０は、様々なプロセッサ構成要素のための管理機能性を提供する。少なくとも１つの実施例では、システム・エージェント・コア２３１０は、様々な外部メモリ・デバイス（図示せず）へのアクセスを管理するための１つ又は複数の統合されたメモリ・コントローラ２３１４を含む。

【0176】

少なくとも１つの実施例では、プロセッサ・コア２３０２Ａ～２３０２Ｎのうちの１つ又は複数は、同時マルチスレッディングのサポートを含む。少なくとも１つの実施例では、システム・エージェント・コア２３１０は、マルチスレッド処理中にプロセッサ・コア２３０２Ａ～２３０２Ｎを協調させ、動作させるための構成要素を含む。少なくとも１つの実施例では、システム・エージェント・コア２３１０は、追加として、電力制御ユニット（「ＰＣＵ」：ｐｏｗｅｒ ｃｏｎｔｒｏｌ ｕｎｉｔ）を含み得、ＰＣＵは、プロセッサ・コア２３０２Ａ～２３０２Ｎ及びグラフィックス・プロセッサ２３０８の１つ又は複数の電力状態を調節するための論理及び構成要素を含む。

【0177】

少なくとも１つの実施例では、プロセッサ２３００は、追加として、グラフィックス処理動作を実行するためのグラフィックス・プロセッサ２３０８を含む。少なくとも１つの実施例では、グラフィックス・プロセッサ２３０８は、共有キャッシュ・ユニット２３０６、及び１つ又は複数の統合されたメモリ・コントローラ２３１４を含むシステム・エージェント・コア２３１０と結合する。少なくとも１つの実施例では、システム・エージェント・コア２３１０は、１つ又は複数の結合されたディスプレイへのグラフィックス・プロセッサ出力を駆動するためのディスプレイ・コントローラ２３１１をも含む。少なくとも１つの実施例では、ディスプレイ・コントローラ２３１１はまた、少なくとも１つの相互接続を介してグラフィックス・プロセッサ２３０８と結合された別個のモジュールであり得るか、又はグラフィックス・プロセッサ２３０８内に組み込まれ得る。

【0178】

少なくとも１つの実施例では、プロセッサ２３００の内部構成要素を結合するために、リング・ベースの相互接続ユニット２３１２が使用される。少なくとも１つの実施例では、ポイントツーポイント相互接続、切替え相互接続、又は他の技法などの代替相互接続ユニットが使用され得る。少なくとも１つの実施例では、グラフィックス・プロセッサ２３０８は、Ｉ／Ｏリンク２３１３を介してリング相互接続２３１２と結合する。

【0179】

少なくとも１つの実施例では、Ｉ／Ｏリンク２３１３は、様々なプロセッサ構成要素と、ｅＤＲＡＭモジュールなどの高性能組み込みメモリ・モジュール２３１８との間の通信を容易にするオン・パッケージＩ／Ｏ相互接続を含む、複数の種類のＩ／Ｏ相互接続のうちの少なくとも１つを表す。少なくとも１つの実施例では、プロセッサ・コア２３０２Ａ～２３０２Ｎの各々と、グラフィックス・プロセッサ２３０８とは、共有ＬＬＣとして組み込みメモリ・モジュール２３１８を使用する。

【0180】

少なくとも１つの実施例では、プロセッサ・コア２３０２Ａ～２３０２Ｎは、共通の命令セット・アーキテクチャを実行する同種のコアである。少なくとも１つの実施例では、プロセッサ・コア２３０２Ａ～２３０２Ｎは、ＩＳＡという観点から異種であり、ここで、プロセッサ・コア２３０２Ａ～２３０２Ｎのうちの１つ又は複数は、共通の命令セットを実行し、プロセッサ・コア２３０２Ａ～２３－０２Ｎのうちの１つ又は複数の他のコアは、共通の命令セットのサブセット、又は異なる命令セットを実行する。少なくとも１つの実施例では、プロセッサ・コア２３０２Ａ～２３０２Ｎは、マイクロアーキテクチャという観点から異種であり、ここで、電力消費量が比較的高い１つ又は複数のコアは、電力消費量がより低い１つ又は複数のコアと結合する。少なくとも１つの実施例では、プロセッサ２３００は、１つ又は複数のチップ上に、又はＳｏＣ集積回路として実装され得る。

【0181】

少なくとも１つの実施例では、図２３に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２３に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２３に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２３に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0182】

図２４は、説明される少なくとも１つの実施例による、グラフィックス・プロセッサ・コア２４００を示す。少なくとも１つの実施例では、グラフィックス・プロセッサ・コア２４００は、グラフィックス・コア・アレイ内に含まれる。少なくとも１つの実施例では、コア・スライスと呼ばれることもあるグラフィックス・プロセッサ・コア２４００は、モジュール式グラフィックス・プロセッサ内の１つ又は複数のグラフィックス・コアであり得る。少なくとも１つの実施例では、グラフィックス・プロセッサ・コア２４００は、１つのグラフィックス・コア・スライスの例示であり、本明細書で説明されるグラフィックス・プロセッサは、ターゲット電力及び性能エンベロープに基づいて、複数のグラフィックス・コア・スライスを含み得る。少なくとも１つの実施例では、各グラフィックス・コア２４００は、汎用及び固定機能論理のモジュール式ブロックを含む、サブ・スライスとも呼ばれる複数のサブ・コア２４０１Ａ～２４０１Ｆと結合された固定機能ブロック２４３０を含むことができる。

【0183】

少なくとも１つの実施例では、固定機能ブロック２４３０は、たとえば、より低い性能及び／又はより低い電力のグラフィックス・プロセッサ実装形態において、グラフィックス・プロセッサ２４００中のすべてのサブ・コアによって共有され得るジオメトリ／固定機能パイプライン２４３６を含む。少なくとも１つの実施例では、ジオメトリ／固定機能パイプライン２４３６は、３Ｄ固定機能パイプラインと、ビデオ・フロント・エンド・ユニットと、スレッド・スポーナ（ｓｐａｗｎｅｒ）及びスレッド・ディスパッチャと、統一リターン・バッファを管理する統一リターン・バッファ・マネージャとを含む。

【0184】

少なくとも１つの実施例では、固定機能ブロック２４３０はまた、グラフィックスＳｏＣインターフェース２４３７と、グラフィックス・マイクロコントローラ２４３８と、メディア・パイプライン２４３９とを含む。グラフィックスＳｏＣインターフェース２４３７は、グラフィックス・コア２４００と、ＳｏＣ集積回路内の他のプロセッサ・コアとの間のインターフェースを提供する。少なくとも１つの実施例では、グラフィックス・マイクロコントローラ２４３８は、スレッド・ディスパッチと、スケジューリングと、プリエンプションとを含む、グラフィックス・プロセッサ２４００の様々な機能を管理するように構成可能であるプログラマブル・サブ・プロセッサである。少なくとも１つの実施例では、メディア・パイプライン２４３９は、画像及びビデオ・データを含むマルチメディア・データの復号、符号化、前処理、及び／又は後処理を容易にするための論理を含む。少なくとも１つの実施例では、メディア・パイプライン２４３９は、サブ・コア２４０１～２４０１Ｆ内のコンピュート論理又はサンプリング論理への要求を介して、メディア動作を実装する。

【0185】

少なくとも１つの実施例では、ＳｏＣインターフェース２４３７は、グラフィックス・コア２４００が汎用アプリケーション・プロセッサ・コア（たとえば、ＣＰＵ）及び／又はＳｏＣ内の他の構成要素と通信することを可能にし、ＳｏＣ内の他の構成要素は、共有ＬＬＣメモリ、システムＲＡＭ、及び／或いは組み込みオンチップ又はオン・パッケージＤＲＡＭなどのメモリ階層要素を含む。少なくとも１つの実施例では、ＳｏＣインターフェース２４３７はまた、カメラ撮像パイプラインなど、ＳｏＣ内の固定機能デバイスとの通信を可能にすることができ、グラフィックス・コア２４００とＳｏＣ内のＣＰＵとの間で共有され得るグローバル・メモリ・アトミックの使用を可能にし、及び／又はそれを実装する。少なくとも１つの実施例では、ＳｏＣインターフェース２４３７はまた、グラフィックス・コア２４００のための電力管理制御を実装し、グラフィック・コア２４００のクロック・ドメインとＳｏＣ内の他のクロック・ドメインとの間のインターフェースを可能にすることができる。少なくとも１つの実施例では、ＳｏＣインターフェース２４３７は、グラフィックス・プロセッサ内の１つ又は複数のグラフィックス・コアの各々にコマンド及び命令を提供するように構成されたコマンド・ストリーマ及びグローバル・スレッド・ディスパッチャからのコマンド・バッファの受信を可能にする。少なくとも１つの実施例では、コマンド及び命令は、メディア動作が実施されるべきであるときにメディア・パイプライン２４３９にディスパッチされ得るか、又は、グラフィックス処理動作が実施されるべきであるときにジオメトリ及び固定機能パイプライン（たとえば、ジオメトリ及び固定機能パイプライン２４３６、ジオメトリ及び固定機能パイプライン２４１４）にディスパッチされ得る。

【0186】

少なくとも１つの実施例では、グラフィックス・マイクロコントローラ２４３８は、グラフィックス・コア２４００のための様々なスケジューリング及び管理タスクを実施するように構成され得る。少なくとも１つの実施例では、グラフィックス・マイクロコントローラ２４３８は、サブ・コア２４０１Ａ～２４０１Ｆ内の実行ユニット（ＥＵ）アレイ２４０２Ａ～２４０２Ｆ、２４０４Ａ～２４０４Ｆ内の様々なグラフィックス並列エンジンに対して、グラフィックスを実施し、及び／又はワークロード・スケジューリングを算出することができる。少なくとも１つの実施例では、グラフィックス・コア２４００を含むＳｏＣのＣＰＵコア上で実行しているホスト・ソフトウェアは、複数のグラフィック・プロセッサ・ドアベルのうちの１つにワークロードをサブミットすることができ、このドアベルが、適切なグラフィックス・エンジンに対するスケジューリング動作を呼び出す。少なくとも１つの実施例では、スケジューリング動作は、どのワークロードを次に稼働すべきかを決定することと、ワークロードをコマンド・ストリーマにサブミットすることと、エンジン上で稼働している既存のワークロードをプリエンプトすることと、ワークロードの進行を監視することと、ワークロードが完了したときにホスト・ソフトウェアに通知することとを含む。少なくとも１つの実施例では、グラフィックス・マイクロコントローラ２４３８はまた、グラフィックス・コア２４００のための低電力又はアイドル状態を促進して、オペレーティング・システム及び／又はシステム上のグラフィックス・ドライバ・ソフトウェアとは無関係に、低電力状態移行にわたってグラフィックス・コア２４００内のレジスタを保存及び復元するアビリティをグラフィックス・コア２４００に提供することができる。

【0187】

少なくとも１つの実施例では、グラフィックス・コア２４００は、示されているサブ・コア２４０１Ａ～２４０１Ｆよりも多い又はそれよりも少ない、Ｎ個までのモジュール式サブ・コアを有し得る。Ｎ個のサブ・コアの各セットについて、少なくとも１つの実施例では、グラフィックス・コア２４００はまた、共有機能論理２４１０、共有及び／又はキャッシュ・メモリ２４１２、ジオメトリ／固定機能パイプライン２４１４、並びに様々なグラフィックスを加速し、処理動作を算出するための追加の固定機能論理２４１６を含むことができる。少なくとも１つの実施例では、共有機能論理２４１０は、グラフィックス・コア２４００内の各Ｎ個のサブ・コアによって共有され得る論理ユニット（たとえば、サンプラ、数理、及び／又はスレッド間通信論理）を含むことができる。共有及び／又はキャッシュ・メモリ２４１２は、グラフィックス・コア２４００内のＮ個のサブ・コア２４０１Ａ～２４０１ＦのためのＬＬＣであり得、また、複数のサブ・コアによってアクセス可能である共有メモリとして働き得る。少なくとも１つの実施例では、ジオメトリ／固定機能パイプライン２４１４は、固定機能ブロック２４３０内のジオメトリ／固定機能パイプライン２４３６の代わりに含まれ得、同じ又は同様の論理ユニットを含むことができる。

【0188】

少なくとも１つの実施例では、グラフィックス・コア２４００は、グラフィックス・コア２４００による使用のための様々な固定機能加速論理を含むことができる追加の固定機能論理２４１６を含む。少なくとも１つの実施例では、追加の固定機能論理２４１６は、位置限定シェーディング（ｐｏｓｉｔｉｏｎ ｏｎｌｙ ｓｈａｄｉｎｇ）において使用するための追加のジオメトリ・パイプラインを含む。位置限定シェーディングでは、少なくとも２つのジオメトリ・パイプラインが存在するが、ジオメトリ／固定機能パイプライン２４１６、２４３６内の完全ジオメトリ・パイプライン、並びに選別パイプライン（ｃｕｌｌ ｐｉｐｅｌｉｎｅ）においてであり、選別パイプラインは、追加の固定機能論理２４１６内に含まれ得る追加のジオメトリ・パイプラインである。少なくとも１つの実施例では、選別パイプラインは、完全ジオメトリ・パイプラインの縮小版である。少なくとも１つの実施例では、完全パイプライン及び選別パイプラインは、アプリケーションの異なるインスタンスを実行することができ、各インスタンスは別個のコンテキストを有する。少なくとも１つの実施例では、位置限定シェーディングは、切り捨てられた三角形の長い選別ランを隠すことができ、これは、いくつかのインスタンスにおいてシェーディングがより早く完了することを可能にする。たとえば、少なくとも１つの実施例では、選別パイプラインは、ピクセルの、フレーム・バッファへのラスタ化及びレンダリングを実施することなしに、頂点の位置属性をフェッチし、シェーディングするので、追加の固定機能論理２４１６内の選別パイプライン論理は、メイン・アプリケーションと並列で位置シェーダを実行することができ、全体的に完全パイプラインよりも速く臨界結果（ｃｒｉｔｉｃａｌ ｒｅｓｕｌｔ）を生成する。少なくとも１つの実施例では、選別パイプラインは、生成された臨界結果を使用して、すべての三角形について、それらの三角形が選別されているかどうかにかかわらず、可視性情報を算出することができる。少なくとも１つの実施例では、（このインスタンスではリプレイ・パイプラインと呼ばれることがある）完全パイプラインは、可視性情報を消費して、選別された三角形を飛ばして可視三角形のみをシェーディングすることができ、可視三角形は、最終的にラスタ化フェーズに渡される。

【0189】

少なくとも１つの実施例では、追加の固定機能論理２４１６はまた、ＣＵＤＡプログラムを加速するために、固定機能行列乗算論理など、汎用処理加速論理を含むことができる。

【0190】

少なくとも１つの実施例では、各グラフィックス・サブ・コア２４０１Ａ～２４０１Ｆは、実行リソースのセットを含み、実行リソースのセットは、グラフィックス・パイプライン、メディア・パイプライン、又はシェーダ・プログラムによる要求に応答して、グラフィックス動作、メディア動作、及びコンピュート動作を実施するために使用され得る。少なくとも１つの実施例では、グラフィックス・サブ・コア２４０１Ａ～２４０１Ｆは、複数のＥＵアレイ２４０２Ａ～２４０２Ｆ、２４０４Ａ～２４０４Ｆと、スレッド・ディスパッチ及びスレッド間通信（「ＴＤ／ＩＣ」：ｔｈｒｅａｄ ｄｉｓｐａｔｃｈ ａｎｄ ｉｎｔｅｒ－ｔｈｒｅａｄ ｃｏｍｍｕｎｉｃａｔｉｏｎ）論理２４０３Ａ～２４０３Ｆと、３Ｄ（たとえば、テクスチャ）サンプラ２４０５Ａ～２４０５Ｆと、メディア・サンプラ２４０６Ａ～２４０６Ｆと、シェーダ・プロセッサ２４０７Ａ～２４０７Ｆと、共有ローカル・メモリ（「ＳＬＭ」：ｓｈａｒｅｄ ｌｏｃａｌ ｍｅｍｏｒｙ）２４０８Ａ～２４０８Ｆとを含む。ＥＵアレイ２４０２Ａ～２４０２Ｆ、２４０４Ａ～２４０４Ｆは、各々、複数の実行ユニットを含み、複数の実行ユニットは、グラフィックス、メディア、又はコンピュート・シェーダ・プログラムを含むグラフィックス動作、メディア動作、又はコンピュート動作のサービスにおいて浮動小数点及び整数／固定小数点論理演算を実施することが可能なＧＰＧＰＵである。少なくとも１つの実施例では、ＴＤ／ＩＣ論理２４０３Ａ～２４０３Ｆは、サブ・コア内の実行ユニットのためのローカル・スレッド・ディスパッチ及びスレッド制御動作を実施し、サブ・コアの実行ユニット上で実行しているスレッド間の通信を容易にする。少なくとも１つの実施例では、３Ｄサンプラ２４０５Ａ～２４０５Ｆは、テクスチャ又は他の３Ｄグラフィックス関係データをメモリに読み取ることができる。少なくとも１つの実施例では、３Ｄサンプラは、所与のテクスチャに関連する、構成されたサンプル状態及びテクスチャ・フォーマットに基づいて、テクスチャ・データを異なるやり方で読み取ることができる。少なくとも１つの実施例では、メディア・サンプラ２４０６Ａ～２４０６Ｆは、メディア・データに関連するタイプ及びフォーマットに基づいて、同様の読取り動作を実施することができる。少なくとも１つの実施例では、各グラフィックス・サブ・コア２４０１Ａ～２４０１Ｆは、代替的に統一３Ｄ及びメディア・サンプラを含むことができる。少なくとも１つの実施例では、サブ・コア２４０１Ａ～２４０１Ｆの各々内の実行ユニット上で実行しているスレッドは、スレッド・グループ内で実行しているスレッドがオンチップ・メモリの共通のプールを使用して実行することを可能にするために、各サブ・コア内の共有ローカル・メモリ２４０８Ａ～２４０８Ｆを利用することができる。

【0191】

少なくとも１つの実施例では、図２４に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２４に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２４に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２４に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0192】

図２５は、少なくとも１つの実施例による、並列処理ユニット（「ＰＰＵ」）２５００を示す。少なくとも１つの実施例では、ＰＰＵ２５００は、ＰＰＵ２５００によって実行された場合、ＰＰＵ２５００に、本明細書で説明されるプロセス及び技法のいくつか又はすべてを実施させる機械可読コードで構成される。少なくとも１つの実施例では、ＰＰＵ２５００はマルチスレッド・プロセッサであり、マルチスレッド・プロセッサは、１つ又は複数の集積回路デバイス上で実装され、（機械可読命令又は単に命令とも呼ばれる）コンピュータ可読命令を複数のスレッド上で並列に処理するように設計されたレイテンシ隠蔽技法としてマルチスレッディングを利用する。少なくとも１つの実施例では、スレッドは、実行のスレッドを指し、ＰＰＵ２５００によって実行されるように構成された命令のセットのインスタンス化である。少なくとも１つの実施例では、ＰＰＵ２５００は、ＬＣＤデバイスなどのディスプレイ・デバイス上での表示のための２次元（「２Ｄ」）画像データを生成するために３次元（「３Ｄ」）グラフィックス・データを処理するためのグラフィックス・レンダリング・パイプラインを実装するように構成されたＧＰＵである。少なくとも１つの実施例では、ＰＰＵ２５００は、線形代数演算及び機械学習演算などの算出を実施するために利用される。図２５は、単に例示を目的とした例示的な並列プロセッサを示し、少なくとも１つの実施例において実装され得るプロセッサ・アーキテクチャの非限定的な実例として解釈されるべきである。

【0193】

少なくとも１つの実施例では、１つ又は複数のＰＰＵ２５００は、高性能コンピューティング（「ＨＰＣ」：Ｈｉｇｈ Ｐｅｒｆｏｒｍａｎｃｅ Ｃｏｍｐｕｔｉｎｇ）、データ・センタ、及び機械学習アプリケーションを加速するように構成される。少なくとも１つの実施例では、１つ又は複数のＰＰＵ２５００は、ＣＵＤＡプログラムを加速するように構成される。少なくとも１つの実施例では、ＰＰＵ２５００は、限定はしないが、Ｉ／Ｏユニット２５０６と、フロント・エンド・ユニット２５１０と、スケジューラ・ユニット２５１２と、ワーク分散ユニット２５１４と、ハブ２５１６と、クロスバー（「Ｘバー」：ｃｒｏｓｓｂａｒ）２５２０と、１つ又は複数の汎用処理クラスタ（「ＧＰＣ」：ｇｅｎｅｒａｌ ｐｒｏｃｅｓｓｉｎｇ ｃｌｕｓｔｅｒ）２５１８と、１つ又は複数のパーティション・ユニット（「メモリ・パーティション・ユニット」）２５２２とを含む。少なくとも１つの実施例では、ＰＰＵ２５００は、１つ又は複数の高速ＧＰＵ相互接続（「ＧＰＵ相互接続」）２５０８を介してホスト・プロセッサ又は他のＰＰＵ２５００に接続される。少なくとも１つの実施例では、ＰＰＵ２５００は、システム・バス又は相互接続２５０２を介してホスト・プロセッサ又は他の周辺デバイスに接続される。少なくとも１つの実施例では、ＰＰＵ２５００は、１つ又は複数のメモリ・デバイス（「メモリ」）２５０４を備えるローカル・メモリに接続される。少なくとも１つの実施例では、メモリ・デバイス２５０４は、限定はしないが、１つ又は複数のダイナミック・ランダム・アクセス・メモリ（ＤＲＡＭ）デバイスを含む。少なくとも１つの実施例では、１つ又は複数のＤＲＡＭデバイスは、複数のＤＲＡＭダイが各デバイス内で積層された高帯域幅メモリ（「ＨＢＭ」）サブシステムとして構成され、及び／又は構成可能である。

【0194】

少なくとも１つの実施例では、高速ＧＰＵ相互接続２５０８は、ワイヤ・ベースのマルチ・レーン通信リンクを指し得、ワイヤ・ベースのマルチ・レーン通信リンクは、１つ又は複数のＣＰＵと組み合わせられた１つ又は複数のＰＰＵ２５００をスケーリングし、含めるために、システムによって使用され、ＰＰＵ２５００とＣＰＵとの間のキャッシュ・コヒーレンス、及びＣＰＵマスタリングをサポートする。少なくとも１つの実施例では、データ及び／又はコマンドは、高速ＧＰＵ相互接続２５０８によって、ハブ２５１６を通して、１つ又は複数のコピー・エンジン、ビデオ・エンコーダ、ビデオ・デコーダ、電力管理ユニット、及び図２５に明示的に示されていないこともある他の構成要素など、ＰＰＵ２５００の他のユニットに／から送信される。

【0195】

少なくとも１つの実施例では、Ｉ／Ｏユニット２５０６は、システム・バス２５０２を介して（図２５に示されていない）ホスト・プロセッサから通信（たとえば、コマンド、データ）を送受信するように構成される。少なくとも１つの実施例では、Ｉ／Ｏユニット２５０６は、システム・バス２５０２を介して直接、又は、メモリ・ブリッジなどの１つ又は複数の中間デバイスを通して、ホスト・プロセッサと通信する。少なくとも１つの実施例では、Ｉ／Ｏユニット２５０６は、システム・バス２５０２を介してＰＰＵ２５００のうちの１つ又は複数などの１つ又は複数の他のプロセッサと通信し得る。少なくとも１つの実施例では、Ｉ／Ｏユニット２５０６は、ＰＣＩｅインターフェースを、ＰＣＩｅバスを介した通信のために実装する。少なくとも１つの実施例では、Ｉ／Ｏユニット２５０６は、外部デバイスと通信するためのインターフェースを実装する。

【0196】

少なくとも１つの実施例では、Ｉ／Ｏユニット２５０６は、システム・バス２５０２を介して受信されたパケットを復号する。少なくとも１つの実施例では、少なくともいくつかのパケットは、ＰＰＵ２５００に様々な動作を実施させるように構成されたコマンドを表す。少なくとも１つの実施例では、Ｉ／Ｏユニット２５０６は、復号されたコマンドを、コマンドによって指定されるＰＰＵ２５００の様々な他のユニットに送信する。少なくとも１つの実施例では、コマンドは、フロント・エンド・ユニット２５１０に送信され、及び／或いは、ハブ２５１６、又は（図２５に明示的に示されていない）１つ又は複数のコピー・エンジン、ビデオ・エンコーダ、ビデオ・デコーダ、電力管理ユニットなど、ＰＰＵ２５００の他のユニットに送信される。少なくとも１つの実施例では、Ｉ／Ｏユニット２５０６はＰＰＵ２５００の様々な論理ユニット間で及びそれらの間で通信をルーティングするように構成される。

【0197】

少なくとも１つの実施例では、ホスト・プロセッサによって実行されるプログラムは、処理のためにワークロードをＰＰＵ２５００に提供するバッファにおいて、コマンド・ストリームを符号化する。少なくとも１つの実施例では、ワークロードは、命令と、それらの命令によって処理されるべきデータとを含む。少なくとも１つの実施例では、バッファは、ホスト・プロセッサとＰＰＵ２５００の両方によってアクセス（たとえば、読取り／書込み）可能であるメモリ中の領域であり、ホスト・インターフェース・ユニットは、Ｉ／Ｏユニット２５０６によってシステム・バス２５０２を介して送信されるメモリ要求を介して、システム・バス２５０２に接続されたシステム・メモリ中のバッファにアクセスするように構成され得る。少なくとも１つの実施例では、ホスト・プロセッサは、バッファにコマンド・ストリームを書き込み、次いでコマンド・ストリームの開始に対するポインタをＰＰＵ２５００に送信し、それにより、フロント・エンド・ユニット２５１０は、１つ又は複数のコマンド・ストリームに対するポインタを受信し、１つ又は複数のコマンド・ストリームを管理して、コマンド・ストリームからコマンドを読み取り、コマンドをＰＰＵ２５００の様々なユニットにフォワーディングする。

【0198】

少なくとも１つの実施例では、フロント・エンド・ユニット２５１０は、１つ又は複数のコマンド・ストリームによって定義されるタスクを処理するように様々なＧＰＣ２５１８を構成するスケジューラ・ユニット２５１２に結合される。少なくとも１つの実施例では、スケジューラ・ユニット２５１２は、スケジューラ・ユニット２５１２によって管理される様々なタスクに関係する状態情報を追跡するように構成され、状態情報は、ＧＰＣ２５１８のうちのどれにタスクが割り当てられるか、タスクがアクティブであるのか非アクティブであるのか、タスクに関連する優先レベルなどを示し得る。少なくとも１つの実施例では、スケジューラ・ユニット２５１２は、ＧＰＣ２５１８のうちの１つ又は複数上での複数のタスクの実行を管理する。

【0199】

少なくとも１つの実施例では、スケジューラ・ユニット２５１２は、ＧＰＣ２５１８上での実行のためのタスクをディスパッチするように構成されたワーク分散ユニット２５１４に結合される。少なくとも１つの実施例では、ワーク分散ユニット２５１４は、スケジューラ・ユニット２５１２から受信された、スケジューリングされたタスクの数を追跡し、ワーク分散ユニット２５１４は、ＧＰＣ２５１８の各々について、ペンディング・タスク・プール及びアクティブ・タスク・プールを管理する。少なくとも１つの実施例では、ペンディング・タスク・プールは、特定のＧＰＣ２５１８によって処理されるように割り当てられたタスクを含んでいるいくつかのスロット（たとえば、３２個のスロット）を備え、アクティブ・タスク・プールは、ＧＰＣ２５１８によってアクティブに処理されているタスクのためのいくつかのスロット（たとえば、４つのスロット）を備え得、それにより、ＧＰＣ２５１８のうちの１つがタスクの実行を完了したとき、ＧＰＣ２５１８のためのアクティブ・タスク・プールからそのタスクが排除され、ペンディング・タスク・プールからの他のタスクのうちの１つが選択され、ＧＰＣ２５１８上での実行のためにスケジューリングされる。少なくとも１つの実施例では、データ依存性が解決されるのを待っている間など、アクティブ・タスクがＧＰＣ２５１８上でアイドルである場合、アクティブ・タスクがＧＰＣ２５１８から排除され、ペンディング・タスク・プールに戻され、その間に、ペンディング・タスク・プール中の別のタスクが選択され、ＧＰＣ２５１８上での実行のためにスケジューリングされる。

【0200】

少なくとも１つの実施例では、ワーク分散ユニット２５１４は、Ｘバー２５２０を介して１つ又は複数のＧＰＣ２５１８と通信する。少なくとも１つの実施例では、Ｘバー２５２０は、ＰＰＵ２５００の多くのユニットをＰＰＵ２５００の他のユニットに結合する相互接続ネットワークであり、ワーク分散ユニット２５１４を特定のＧＰＣ２５１８に結合するように構成され得る。少なくとも１つの実施例では、ＰＰＵ２５００の１つ又は複数の他のユニットも、ハブ２５１６を介してＸバー２５２０に接続され得る。

【0201】

少なくとも１つの実施例では、タスクはスケジューラ・ユニット２５１２によって管理され、ワーク分散ユニット２５１４によってＧＰＣ２５１８のうちの１つにディスパッチされる。ＧＰＣ２５１８は、タスクを処理し、結果を生成するように構成される。少なくとも１つの実施例では、結果は、ＧＰＣ２５１８内の他のタスクによって消費されるか、Ｘバー２５２０を介して異なるＧＰＣ２５１８にルーティングされるか、又はメモリ２５０４に記憶され得る。少なくとも１つの実施例では、結果は、パーティション・ユニット２５２２を介してメモリ２５０４に書き込まれ得、パーティション・ユニット２５２２は、メモリ２５０４への／からのデータの読取り及び書込みを行うためのメモリ・インターフェースを実装する。少なくとも１つの実施例では、結果は、高速ＧＰＵ相互接続２５０８を介して別のＰＰＵ２５０４又はＣＰＵに送信され得る。少なくとも１つの実施例では、ＰＰＵ２５００は、限定はしないが、ＰＰＵ２５００に結合された別個の個別メモリ・デバイス２５０４の数に等しいＵ個のパーティション・ユニット２５２２を含む。

【0202】

少なくとも１つの実施例では、ホスト・プロセッサはドライバ・カーネルを実行し、ドライバ・カーネルは、ホスト・プロセッサ上で実行している１つ又は複数のアプリケーションがＰＰＵ２５００上での実行のために動作をスケジューリングすることを可能にするアプリケーション・プログラミング・インターフェース（「ＡＰＩ」）を実装する。少なくとも１つの実施例では、複数のコンピュート・アプリケーションが、ＰＰＵ２５００によって同時に実行され、ＰＰＵ２５００は、複数のコンピュート・アプリケーションに対して、隔離、サービス品質（「ＱｏＳ」：ｑｕａｌｉｔｙ ｏｆ ｓｅｒｖｉｃｅ）、及び独立したアドレス空間を提供する。少なくとも１つの実施例では、アプリケーションは、ＰＰＵ２５００による実行のための１つ又は複数のタスクをドライバ・カーネルに生成させる（たとえば、ＡＰＩコールの形態の）命令を生成し、ドライバ・カーネルは、ＰＰＵ２５００によって処理されている１つ又は複数のストリームにタスクを出力する。少なくとも１つの実施例では、各タスクは、ワープと呼ばれることがある関係スレッドの１つ又は複数のグループを備える。少なくとも１つの実施例では、ワープは、並列に実行され得る複数の関係スレッド（たとえば、３２個のスレッド）を備える。少なくとも１つの実施例では、連動スレッドは、タスクを実施するための命令を含み、共有メモリを通してデータを交換する、複数のスレッドを指すことができる。

【0203】

少なくとも１つの実施例では、図２５に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２５に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２５に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２５に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0204】

図２６は、少なくとも１つの実施例による、ＧＰＣ２６００を示す。少なくとも１つの実施例では、ＧＰＣ２６００は、図２５のＧＰＣ２５１８である。少なくとも１つの実施例では、各ＧＰＣ２６００は、限定はしないが、タスクを処理するためのいくつかのハードウェア・ユニットを含み、各ＧＰＣ２６００は、限定はしないが、パイプライン・マネージャ２６０２、プレ・ラスタ演算ユニット（「ＰＲＯＰ」）２６０４、ラスタ・エンジン２６０８、ワーク分散クロスバー（「ＷＤＸ」：ｗｏｒｋ ｄｉｓｔｒｉｂｕｔｉｏｎ ｃｒｏｓｓｂａｒ）２６１６、ＭＭＵ２６１８、１つ又は複数のデータ処理クラスタ（「ＤＰＣ」：Ｄａｔａ Ｐｒｏｃｅｓｓｉｎｇ Ｃｌｕｓｔｅｒ）２６０６、及びパーツの任意の好適な組合せを含む。

【0205】

少なくとも１つの実施例では、ＧＰＣ２６００の動作は、パイプライン・マネージャ２６０２によって制御される。少なくとも１つの実施例では、パイプライン・マネージャ２６０２は、ＧＰＣ２６００に割り振られたタスクを処理するための１つ又は複数のＤＰＣ２６０６の構成を管理する。少なくとも１つの実施例では、パイプライン・マネージャ２６０２は、グラフィックス・レンダリング・パイプラインの少なくとも一部分を実装するように、１つ又は複数のＤＰＣ２６０６のうちの少なくとも１つを構成する。少なくとも１つの実施例では、ＤＰＣ２６０６は、プログラマブル・ストリーミング・マルチプロセッサ（「ＳＭ」：ｓｔｒｅａｍｉｎｇ ｍｕｌｔｉｐｒｏｃｅｓｓｏｒ）２６１４上で頂点シェーダ・プログラムを実行するように構成される。少なくとも１つの実施例では、パイプライン・マネージャ２６０２は、ワーク分散ユニットから受信されたパケットを、ＧＰＣ２６００内の適切な論理ユニットにルーティングするように構成され、少なくとも１つの実施例では、いくつかのパケットは、ＰＲＯＰ２６０４中の固定機能ハードウェア・ユニット及び／又はラスタ・エンジン２６０８にルーティングされ得、他のパケットは、プリミティブ・エンジン２６１２又はＳＭ２６１４による処理のためにＤＰＣ２６０６にルーティングされ得る。少なくとも１つの実施例では、パイプライン・マネージャ２６０２は、コンピューティング・パイプラインを実装するように、ＤＰＣ２６０６のうちの少なくとも１つを構成する。少なくとも１つの実施例では、パイプライン・マネージャ２６０２は、ＣＵＤＡプログラムの少なくとも一部分を実行するように、ＤＰＣ２６０６のうちの少なくとも１つを構成する。

【0206】

少なくとも１つの実施例では、ＰＲＯＰユニット２６０４は、ラスタ・エンジン２６０８及びＤＰＣ２６０６によって生成されたデータを、図２５と併せて上記でより詳細に説明されたメモリ・パーティション・ユニット２５２２など、パーティション・ユニット中のラスタ演算（「ＲＯＰ」：Ｒａｓｔｅｒ Ｏｐｅｒａｔｉｏｎ）ユニットにルーティングするように構成される。少なくとも１つの実施例では、ＰＲＯＰユニット２６０４は、色ブレンディングのための最適化を実施すること、ピクセル・データを組織化すること、アドレス・トランスレーションを実施することなどを行うように構成される。少なくとも１つの実施例では、ラスタ・エンジン２６０８は、限定はしないが、様々なラスタ演算を実施するように構成されたいくつかの固定機能ハードウェア・ユニットを含み、少なくとも１つの実施例では、ラスタ・エンジン２６０８は、限定はしないが、セットアップ・エンジン、粗いラスタ・エンジン、選別エンジン、クリッピング・エンジン、細かいラスタ・エンジン、タイル合体エンジン、及びそれらの任意の好適な組合せを含む。少なくとも１つの実施例では、セットアップ・エンジンは、変換された頂点を受信し、頂点によって定義された幾何学的プリミティブに関連する平面方程式を生成し、平面方程式は、プリミティブについてのカバレージ情報（たとえば、タイルのためのｘ、ｙカバレージ・マスク）を生成するために粗いラスタ・エンジンに送信され、粗いラスタ・エンジンの出力は選別エンジンに送信され、ｚテストに落ちたプリミティブに関連するフラグメントが選別され、クリッピング・エンジンに送信され、視錐台の外側にあるフラグメントがクリップされる。少なくとも１つの実施例では、クリッピング及び選別を通過したフラグメントは、セットアップ・エンジンによって生成された平面方程式に基づいてピクセル・フラグメントについての属性を生成するために、細かいラスタ・エンジンに渡される。少なくとも１つの実施例では、ラスタ・エンジン２６０８の出力は、ＤＰＣ２６０６内に実装されたフラグメント・シェーダによってなど、任意の好適なエンティティによって処理されるべきフラグメントを含む。

【0207】

少なくとも１つの実施例では、ＧＰＣ２６００中に含まれる各ＤＰＣ２６０６は、限定はしないが、Ｍパイプ・コントローラ（「ＭＰＣ」：Ｍ－Ｐｉｐｅ Ｃｏｎｔｒｏｌｌｅｒ）２６１０、プリミティブ・エンジン２６１２、１つ又は複数のＳＭ２６１４、及びそれらの任意の好適な組合せを含む。少なくとも１つの実施例では、ＭＰＣ２６１０は、ＤＰＣ２６０６の動作を制御して、パイプライン・マネージャ２６０２から受信されたパケットを、ＤＰＣ２６０６中の適切なユニットにルーティングする。少なくとも１つの実施例では、頂点に関連するパケットは、頂点に関連する頂点属性をメモリからフェッチするように構成されたプリミティブ・エンジン２６１２にルーティングされ、対照的に、シェーダ・プログラムに関連するパケットは、ＳＭ２６１４に送信され得る。

【0208】

少なくとも１つの実施例では、ＳＭ２６１４は、限定はしないが、いくつかのスレッドによって表されたタスクを処理するように構成されたプログラマブル・ストリーミング・プロセッサを含む。少なくとも１つの実施例では、ＳＭ２６１４はマルチスレッド化され、スレッドの特定のグループからの複数のスレッド（たとえば、３２個のスレッド）を同時に実行するように構成され、ＳＩＭＤアーキテクチャを実装し、スレッドのグループ（たとえば、ワープ）中の各スレッドは、命令の同じセットに基づいてデータの異なるセットを処理するように構成される。少なくとも１つの実施例では、スレッドのグループ中のすべてのスレッドが同じ命令を実行する。少なくとも１つの実施例では、ＳＭ２６１４は、ＳＩＭＴアーキテクチャを実装し、スレッドのグループ中の各スレッドは、命令の同じセットに基づいて、データの異なるセットを処理するように構成されるが、スレッドのグループ中の個々のスレッドは、実行中に発散することを可能にされる。少なくとも１つの実施例では、プログラム・カウンタ、コール・スタック、及び実行状態が、各ワープについて維持されて、ワープ内のスレッドが発散するときのワープ間の同時処理及びワープ内の直列実行を可能にする。別の実施例では、プログラム・カウンタ、コール・スタック、及び実行状態が、各個々のスレッドについて維持されて、すべてのスレッド間、ワープ内及びワープ間での等しい同時処理を可能にする。少なくとも１つの実施例では、実行状態が、各個々のスレッドについて維持され、同じ命令を実行しているスレッドが、より良い効率性のために収束され、並列に実行され得る。ＳＭ２６１４の少なくとも１つの実施例は、図２７と併せてさらに詳細に説明される。

【0209】

少なくとも１つの実施例では、ＭＭＵ２６１８は、ＧＰＣ２６００とメモリ・パーティション・ユニット（たとえば、図２５のパーティション・ユニット２５２２）との間のインターフェースを提供し、ＭＭＵ２６１８は、仮想アドレスから物理アドレスへのトランスレーションと、メモリ保護と、メモリ要求の調停とを提供する。少なくとも１つの実施例では、ＭＭＵ２６１８は、仮想アドレスからメモリ中の物理アドレスへのトランスレーションを実施するための１つ又は複数のトランスレーション・ルックアサイド・バッファ（ＴＬＢ）を提供する。

【0210】

少なくとも１つの実施例では、図２６に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２６に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２６に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２６に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0211】

図２７は、少なくとも１つの実施例による、ストリーミング・マルチプロセッサ（「ＳＭ」）２７００を示す。少なくとも１つの実施例では、ＳＭ２７００は、図２６のＳＭ２６１４である。少なくとも１つの実施例では、ＳＭ２７００は、限定はしないが、命令キャッシュ２７０２、１つ又は複数のスケジューラ・ユニット２７０４、レジスタ・ファイル２７０８、１つ又は複数の処理コア（「コア」）２７１０、１つ又は複数の特殊機能ユニット（「ＳＦＵ」：ｓｐｅｃｉａｌ ｆｕｎｃｔｉｏｎ ｕｎｉｔ）２７１２、１つ又は複数のＬＳＵ２７１４、相互接続ネットワーク２７１６、共有メモリ／Ｌ１キャッシュ２７１８、及びそれらの任意の好適な組合せを含む。少なくとも１つの実施例では、ワーク分散ユニットは、並列処理ユニット（ＰＰＵ）のＧＰＣ上での実行のためにタスクをディスパッチし、各タスクは、ＧＰＣ内の特定のデータ処理クラスタ（ＤＰＣ）に割り振られ、タスクがシェーダ・プログラムに関連する場合、タスクはＳＭ２７００のうちの１つに割り振られる。少なくとも１つの実施例では、スケジューラ・ユニット２７０４は、ワーク分散ユニットからタスクを受信し、ＳＭ２７００に割り当てられた１つ又は複数のスレッド・ブロックについて命令スケジューリングを管理する。少なくとも１つの実施例では、スケジューラ・ユニット２７０４は、並列スレッドのワープとしての実行のためにスレッド・ブロックをスケジューリングし、各スレッド・ブロックは、少なくとも１つのワープを割り振られる。少なくとも１つの実施例では、各ワープは、スレッドを実行する。少なくとも１つの実施例では、スケジューラ・ユニット２７０４は、複数の異なるスレッド・ブロックを管理して、異なるスレッド・ブロックにワープを割り振り、次いで、複数の異なる連動グループからの命令を、各クロック・サイクル中に様々な機能ユニット（たとえば、処理コア２７１０、ＳＦＵ２７１２、及びＬＳＵ２７１４）にディスパッチする。

【0212】

少なくとも１つの実施例では、「連動グループ」は、通信するスレッドのグループを組織化するためのプログラミング・モデルを指し得、プログラミング・モデルは、スレッドが通信している粒度を開発者が表現することを可能にして、より豊富でより効率的な並列分解の表現を可能にする。少なくとも１つの実施例では、連動起動ＡＰＩは、並列アルゴリズムの実行のためにスレッド・ブロックの間の同期をサポートする。少なくとも１つの実施例では、従来のプログラミング・モデルのＡＰＩは、連動スレッドを同期するための単一の簡単な構築物、すなわちスレッド・ブロックのすべてのスレッドにわたるバリア（たとえば、ｓｙｎｃｔｈｒｅａｄｓ（）関数）を提供する。しかしながら、少なくとも１つの実施例では、プログラマは、スレッド・ブロックよりも小さい粒度においてスレッドのグループを定義し、定義されたグループ内で同期して、集合的なグループ全般にわたる機能インターフェースの形態で、より高い性能、設計のフレキシビリティ、及びソフトウェア再使用を可能にし得る。少なくとも１つの実施例では、連動グループは、プログラマが、サブ・ブロック粒度及びマルチ・ブロック粒度において、スレッドのグループを明示的に定義し、連動グループ中のスレッドに対する同期などの集合的な動作を実施することを可能にする。少なくとも１つの実施例では、サブ・ブロック粒度は、単一スレッドと同じくらい小さい。少なくとも１つの実施例では、プログラミング・モデルは、ソフトウェア境界にわたるクリーンな合成をサポートし、それにより、ライブラリ及びユーティリティ関数が、収束に関して仮定する必要なしにそれらのローカル・コンテキスト内で安全に同期することができる。少なくとも１つの実施例では、連動グループ・プリミティブは、限定はしないが、プロデューサ－コンシューマ並列性、日和見並列性（ｏｐｐｏｒｔｕｎｉｓｔｉｃ ｐａｒａｌｌｅｌｉｓｍ）、及びスレッド・ブロックのグリッド全体にわたるグローバルな同期を含む、新しいパターンの連動並列性を可能にする。

【0213】

少なくとも１つの実施例では、ディスパッチ・ユニット２７０６は、機能ユニットのうちの１つ又は複数に命令を送信するように構成され、スケジューラ・ユニット２７０４は、限定はしないが、同じワープからの２つの異なる命令が各クロック・サイクル中にディスパッチされることを可能にする２つのディスパッチ・ユニット２７０６を含む。少なくとも１つの実施例では、各スケジューラ・ユニット２７０４は、単一のディスパッチ・ユニット２７０６又は追加のディスパッチ・ユニット２７０６を含む。

【0214】

少なくとも１つの実施例では、各ＳＭ２７００は、少なくとも１つの実施例では、限定はしないが、ＳＭ２７００の機能ユニットにレジスタのセットを提供するレジスタ・ファイル２７０８を含む。少なくとも１つの実施例では、レジスタ・ファイル２７０８は、各機能ユニットがレジスタ・ファイル２７０８の専用部分を割り振られるように、機能ユニットの各々の間で分割される。少なくとも１つの実施例では、レジスタ・ファイル２７０８は、ＳＭ２７００によって実行されている異なるワープ間で分割され、レジスタ・ファイル２７０８は、機能ユニットのデータ経路に接続されたオペランドのための一時的ストレージを提供する。少なくとも１つの実施例では、各ＳＭ２７００は、限定はしないが、複数のＬ個の処理コア２７１０を含む。少なくとも１つの実施例では、ＳＭ２７００は、限定はしないが、多数の（たとえば、１２８個以上の）個別の処理コア２７１０を含む。少なくとも１つの実施例では、各処理コア２７１０は、限定はしないが、完全にパイプライン化された、単精度の、倍精度の、及び／又は混合精度の処理ユニットを含み、これは、限定はしないが、浮動小数点算術論理ユニット及び整数算術論理ユニットを含む。少なくとも１つの実施例では、浮動小数点算術論理ユニットは、浮動小数点算術のためのＩＥＥＥ７５４－２００８規格を実装する。少なくとも１つの実施例では、処理コア２７１０は、限定はしないが、６４個の単精度（３２ビット）浮動小数点コアと、６４個の整数コアと、３２個の倍精度（６４ビット）浮動小数点コアと、８つのテンソル・コアとを含む。

【0215】

少なくとも１つの実施例では、テンソル・コアは、行列演算を実施するように構成される。少なくとも１つの実施例では、１つ又は複数のテンソル・コアは、処理コア２７１０中に含まれる。少なくとも１つの実施例では、テンソル・コアは、ニューラル・ネットワーク訓練及び推論のための畳み込み演算など、深層学習行列算術を実施するように構成される。少なくとも１つの実施例では、各テンソル・コアは、４×４の行列で動作し、行列の積和演算（ｍａｔｒｉｘ ｍｕｌｔｉｐｌｙ ａｎｄ ａｃｃｕｍｕｌａｔｅ ｏｐｅｒａｔｉｏｎ）Ｄ＝Ａ×Ｂ＋Ｃを実施し、ここで、Ａ、Ｂ、Ｃ、及びＤは４×４の行列である。

【0216】

少なくとも１つの実施例では、行列乗算入力Ａ及びＢは、１６ビットの浮動小数点行列であり、和の行列Ｃ及びＤは、１６ビットの浮動小数点又は３２ビットの浮動小数点行列である。少なくとも１つの実施例では、テンソル・コアは、３２ビットの浮動小数点の和をもつ１６ビットの浮動小数点入力データで動作する。少なくとも１つの実施例では、１６ビットの浮動小数点乗算は、６４個の演算を使用し、結果的に完全精度の積をもたらし、次いで、完全精度の積が、４×４×４の行列乗算についての他の中間積との３２ビット浮動小数点加算を使用して加算される。少なくとも１つの実施例では、これらの小さい要素から築かれる、はるかに大きい２次元又はさらに高次元の行列演算を実施するために、テンソル・コアが使用される。少なくとも１つの実施例では、ＣＵＤＡ－Ｃ＋＋ＡＰＩなどのＡＰＩは、ＣＵＤＡ－Ｃ＋＋プログラムからテンソル・コアを効率的に使用するために、特殊な行列ロード演算、行列積和演算、及び行列ストア演算を公開している。少なくとも１つの実施例では、ＣＵＤＡレベルにおいて、ワープ・レベル・インターフェースは、ワープの３２個のスレッドすべてに及ぶ１６×１６サイズの行列を仮定する。

【0217】

少なくとも１つの実施例では、各ＳＭ２７００は、限定はしないが、特殊関数（たとえば、属性評価、逆数平方根など）を実施するＭ個のＳＦＵ２７１２を含む。少なくとも１つの実施例では、ＳＦＵ２７１２は、限定はしないが、階層ツリー・データ構造をトラバースするように構成されたツリー・トラバーサル・ユニットを含む。少なくとも１つの実施例では、ＳＦＵ２７１２は、限定はしないが、テクスチャ・マップ・フィルタリング動作を実施するように構成されたテクスチャ・ユニットを含む。少なくとも１つの実施例では、テクスチャ・ユニットは、メモリ及びサンプル・テクスチャ・マップからテクスチャ・マップ（たとえば、テクセルの２Ｄアレイ）をロードして、ＳＭ２７００によって実行されるシェーダ・プログラムにおける使用のためのサンプリングされたテクスチャ値を作り出すように構成される。少なくとも１つの実施例では、テクスチャ・マップは、共有メモリ／Ｌ１キャッシュ２７１８に記憶される。少なくとも１つの実施例では、テクスチャ・ユニットは、ミップ・マップ（たとえば、詳細のレベルが異なるテクスチャ・マップ）を使用したフィルタリング動作などのテクスチャ動作を実装する。少なくとも１つの実施例では、各ＳＭ２７００は、限定はしないが、２つのテクスチャ・ユニットを含む。

【0218】

少なくとも１つの実施例では、各ＳＭ２７００は、限定はしないが、共有メモリ／Ｌ１キャッシュ２７１８とレジスタ・ファイル２７０８との間でロード及びストア動作を実装するＮ個のＬＳＵ２７１４を含む。少なくとも１つの実施例では、各ＳＭ２７００は、限定はしないが、相互接続ネットワーク２７１６を含み、相互接続ネットワーク２７１６は、機能ユニットの各々をレジスタ・ファイル２７０８に接続し、ＬＳＵ２７１４をレジスタ・ファイル２７０８及び共有メモリ／Ｌ１キャッシュ２７１８に接続する。少なくとも１つの実施例では、相互接続ネットワーク２７１６はクロスバーであり、クロスバーは、機能ユニットのうちのいずれかをレジスタ・ファイル２７０８中のレジスタのうちのいずれかに接続し、ＬＳＵ２７１４をレジスタ・ファイル２７０８と共有メモリ／Ｌ１キャッシュ２７１８中のメモリ・ロケーションとに接続するように構成され得る。

【0219】

少なくとも１つの実施例では、共有メモリ／Ｌ１キャッシュ２７１８は、ＳＭ２７００とプリミティブ・エンジンとの間及びＳＭ２７００中のスレッド間でのデータ・ストレージ及び通信を可能にするオンチップ・メモリのアレイである。少なくとも１つの実施例では、共有メモリ／Ｌ１キャッシュ２７１８は、限定はしないが、１２８ＫＢのストレージ容量を備え、ＳＭ２７００からパーティション・ユニットへの経路中にある。少なくとも１つの実施例では、共有メモリ／Ｌ１キャッシュ２７１８は、読取り及び書込みをキャッシュするために使用される。少なくとも１つの実施例では、共有メモリ／Ｌ１キャッシュ２７１８、Ｌ２キャッシュ、及びメモリのうちの１つ又は複数は、補助ストアである。

【0220】

少なくとも１つの実施例では、データ・キャッシュと共有メモリ機能性とを単一のメモリ・ブロックに組み合わせることは、両方のタイプのメモリ・アクセスについて改善された性能を提供する。少なくとも１つの実施例では、容量は、共有メモリが容量の半分を使用するように構成され、テクスチャ及びロード／ストア動作が残りの容量を使用することができる場合など、共有メモリを使用しないプログラムによってキャッシュとして使用されるか、又は使用可能である。少なくとも１つの実施例では、共有メモリ／Ｌ１キャッシュ２７１８内の統合は、共有メモリ／Ｌ１キャッシュ２７１８が、データをストリーミングするための高スループット管として機能しながら、同時に高帯域幅及び低レイテンシのアクセスを、頻繁に再使用されるデータに提供することを可能にする。少なくとも１つの実施例では、汎用並列算出のために構成されたとき、グラフィックス処理と比較してより簡単な構成が使用され得る。少なくとも１つの実施例では、固定機能ＧＰＵがバイパスされて、はるかに簡単なプログラミング・モデルを作成する。少なくとも１つの実施例では及び汎用並列算出構成では、ワーク分散ユニットは、スレッドのブロックをＤＰＣに直接割り当て、分散させる。少なくとも１つの実施例では、ブロック中のスレッドは、各スレッドが一意の結果を生成することを確実にするように、計算において一意のスレッドＩＤを使用して、同じプログラムを実行し、ＳＭ２７００を使用してプログラムを実行し、計算を実施し、共有メモリ／Ｌ１キャッシュ２７１８を使用してスレッド間で通信し、ＬＳＵ２７１４を使用して、共有メモリ／Ｌ１キャッシュ２７１８及びメモリ・パーティション・ユニットを通してグローバル・メモリを読み取り、書き込む。少なくとも１つの実施例では、汎用並列算出のために構成されたとき、ＳＭ２７００は、ＤＰＣ上で新しいワークを起動するためにスケジューラ・ユニット２７０４が使用することができるコマンドを書き込む。

【0221】

少なくとも１つの実施例では、ＰＰＵは、デスクトップ・コンピュータ、ラップトップ・コンピュータ、タブレット・コンピュータ、サーバ、スーパーコンピュータ、スマート・フォン（たとえば、ワイヤレス・ハンドヘルド・デバイス）、ＰＤＡ、デジタル・カメラ、車両、頭部装着型ディスプレイ、ハンドヘルド電子デバイスなどに含まれるか、又はそれらに結合される。少なくとも１つの実施例では、ＰＰＵは、単一の半導体基板上で具体化される。少なくとも１つの実施例では、ＰＰＵは、追加のＰＰＵ、メモリ、ＲＩＳＣ ＣＰＵ、ＭＭＵ、デジタル－アナログ変換器（「ＤＡＣ」：ｄｉｇｉｔａｌ－ｔｏ－ａｎａｌｏｇ ｃｏｎｖｅｒｔｅｒ）などの１つ又は複数の他のデバイスとともにＳｏＣ中に含まれる。

【0222】

少なくとも１つの実施例では、ＰＰＵは、１つ又は複数のメモリ・デバイスを含むグラフィックス・カード上に含まれ得る。少なくとも１つの実施例では、グラフィックス・カードは、デスクトップ・コンピュータのマザーボード上のＰＣＩｅスロットとインターフェースするように構成され得る。少なくとも１つの実施例では、ＰＰＵは、マザーボードのチップセット中に含まれる統合されたＧＰＵ（「ｉＧＰＵ」：ｉｎｔｅｇｒａｔｅｄ ＧＰＵ）であり得る。

【0223】

少なくとも１つの実施例では、図２７に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２７に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２７に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２７に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0224】

汎用コンピューティングのためのソフトウェア構築物
以下の図は、限定はしないが、少なくとも１つの実施例を実装するための例示的なソフトウェア構築物を記載する。

【0225】

図２８は、少なくとも１つの実施例による、プログラミング・プラットフォームのソフトウェア・スタックを示す。少なくとも１つの実施例では、プログラミング・プラットフォームは、算出タスクを加速するために、コンピューティング・システム上のハードウェアを活用するためのプラットフォームである。少なくとも１つの実施例では、プログラミング・プラットフォームは、ライブラリ、コンパイラ指令、及び／又はプログラミング言語への拡張を通して、ソフトウェア開発者にとってアクセス可能であり得る。少なくとも１つの実施例では、プログラミング・プラットフォームは、限定はしないが、ＣＵＤＡ、Ｒａｄｅｏｎオープン・コンピュート・プラットフォーム（「ＲＯＣｍ」：Ｒａｄｅｏｎ Ｏｐｅｎ Ｃｏｍｐｕｔｅ Ｐｌａｔｆｏｒｍ）、ＯｐｅｎＣＬ（ＯｐｅｎＣＬ（商標）はクロノス・グループ（Ｋｈｒｏｎｏｓ ｇｒｏｕｐ）によって開発される）、ＳＹＣＬ、又はＩｎｔｅｌ Ｏｎｅ ＡＰＩであり得る。

【0226】

少なくとも１つの実施例では、プログラミング・プラットフォームのソフトウェア・スタック２８００は、アプリケーション２８０１のための実行環境を提供する。少なくとも１つの実施例では、アプリケーション２８０１は、ソフトウェア・スタック２８００上で起動されることが可能な任意のコンピュータ・ソフトウェアを含み得る。少なくとも１つの実施例では、アプリケーション２８０１は、限定はしないが、人工知能（「ＡＩ」：ａｒｔｉｆｉｃｉａｌ ｉｎｔｅｌｌｉｇｅｎｃｅ）／機械学習（「ＭＬ」：ｍａｃｈｉｎｅ ｌｅａｒｎｉｎｇ）アプリケーション、高性能コンピューティング（「ＨＰＣ」）アプリケーション、仮想デスクトップ・インフラストラクチャ（「ＶＤＩ」：ｖｉｒｔｕａｌ ｄｅｓｋｔｏｐ ｉｎｆｒａｓｔｒｕｃｔｕｒｅ）、又はデータ・センタ・ワークロードを含み得る。

【0227】

少なくとも１つの実施例では、アプリケーション２８０１及びソフトウェア・スタック２８００は、ハードウェア２８０７上で稼働する。少なくとも１つの実施例では、ハードウェア２８０７は、１つ又は複数のＧＰＵ、ＣＰＵ、ＦＰＧＡ、ＡＩエンジン、及び／又はプログラミング・プラットフォームをサポートする他のタイプのコンピュート・デバイスを含み得る。ＣＵＤＡの場合など、少なくとも１つの実施例では、ソフトウェア・スタック２８００は、ベンダー固有であり、（１つ又は複数の）特定のベンダーからのデバイスのみと互換性があり得る。ＯｐｅｎＣＬの場合など、少なくとも１つの実施例では、ソフトウェア・スタック２８００は、異なるベンダーからのデバイスで使用され得る。少なくとも１つの実施例では、ハードウェア２８０７は、アプリケーション・プログラミング・インターフェース（「ＡＰＩ」）コールを介して算出タスクを実施するためにアクセスされ得るもう１つのデバイスに接続されたホストを含む。少なくとも１つの実施例では、限定はしないが、ＣＰＵ（ただし、コンピュート・デバイスをも含み得る）及びそのメモリを含み得る、ハードウェア２８０７内のホストとは対照的に、ハードウェア２８０７内のデバイスは、限定はしないが、ＧＰＵ、ＦＰＧＡ、ＡＩエンジン、又は他のコンピュート・デバイス（ただし、ＣＰＵをも含み得る）及びそのメモリを含み得る。

【0228】

少なくとも１つの実施例では、プログラミング・プラットフォームのソフトウェア・スタック２８００は、限定はしないが、いくつかのライブラリ２８０３と、ランタイム２８０５と、デバイス・カーネル・ドライバ２８０６とを含む。少なくとも１つの実施例では、ライブラリ２８０３の各々は、コンピュータ・プログラムによって使用され、ソフトウェア開発中に活用され得る、データ及びプログラミング・コードを含み得る。少なくとも１つの実施例では、ライブラリ２８０３は、限定はしないが、事前に書かれたコード及びサブルーチン、クラス、値、タイプ仕様、構成データ、ドキュメンテーション、ヘルプ・データ、並びに／又はメッセージ・テンプレートを含み得る。少なくとも１つの実施例では、ライブラリ２８０３は、１つ又は複数のタイプのデバイス上での実行のために最適化される機能を含む。少なくとも１つの実施例では、ライブラリ２８０３は、限定はしないが、デバイス上で数学、深層学習、及び／又は他のタイプの動作を実施するための機能を含み得る。少なくとも１つの実施例では、ライブラリ２８０３は、ライブラリ２８０３において実装される機能を公開する、１つ又は複数のＡＰＩを含み得る、対応するＡＰＩ２８０２に関連する。

【0229】

少なくとも１つの実施例では、アプリケーション２８０１は、図３３～図３５と併せて以下でより詳細に説明されるように、実行可能コードにコンパイルされるソース・コードとして書かれる。少なくとも１つの実施例では、アプリケーション２８０１の実行可能コードは、少なくとも部分的に、ソフトウェア・スタック２８００によって提供される実行環境上で稼働し得る。少なくとも１つの実施例では、アプリケーション２８０１の実行中に、ホストとは対照的な、デバイス上で稼働する必要があるコードに達し得る。少なくとも１つの実施例では、そのような場合、デバイス上で必須のコードをロード及び起動するために、ランタイム２８０５がコールされ得る。少なくとも１つの実施例では、ランタイム２８０５は、アプリケーションＳ０１の実行をサポートすることが可能である、任意の技術的に実現可能なランタイム・システムを含み得る。

【0230】

少なくとも１つの実施例では、ランタイム２８０５は、（１つ又は複数の）ＡＰＩ２８０４として示されている、対応するＡＰＩに関連する、１つ又は複数のランタイム・ライブラリとして実装される。少なくとも１つの実施例では、そのようなランタイム・ライブラリのうちの１つ又は複数は、限定はしないが、とりわけ、メモリ管理、実行制御、デバイス管理、エラー対処、及び／又は同期のための機能を含み得る。少なくとも１つの実施例では、メモリ管理機能は、限定はしないが、デバイス・メモリを割り振り、割振り解除し、コピーし、並びにホスト・メモリとデバイス・メモリとの間でデータを転送するための機能を含み得る。少なくとも１つの実施例では、実行制御機能は、限定はしないが、デバイス上で機能（機能がホストからコール可能なグローバル機能であるとき、「カーネル」と呼ばれることがある）を起動し、デバイス上で実行されるべき所与の機能のためのランタイム・ライブラリによって維持されるバッファ中に属性値をセットするための機能を含み得る。

【0231】

少なくとも１つの実施例では、ランタイム・ライブラリ及び対応する（１つ又は複数の）ＡＰＩ２８０４は、任意の技術的に実現可能な様式で実装され得る。少なくとも１つの実施例では、ある（又は任意の数の）ＡＰＩは、デバイスのきめ細かい制御のための機能の低レベルのセットを公開し得るが、別の（又は任意の数の）ＡＰＩは、そのような機能のより高いレベルのセットを公開し得る。少なくとも１つの実施例では、高レベル・ランタイムＡＰＩは、低レベルＡＰＩの上に築かれ得る。少なくとも１つの実施例では、ランタイムＡＰＩのうちの１つ又は複数は、言語依存しないランタイムＡＰＩの上に階層化された言語固有ＡＰＩであり得る。

【0232】

少なくとも１つの実施例では、デバイス・カーネル・ドライバ２８０６は、基礎をなすデバイスとの通信を容易にするように構成される。少なくとも１つの実施例では、デバイス・カーネル・ドライバ２８０６は、（１つ又は複数の）ＡＰＩ２８０４などのＡＰＩ及び／又は他のソフトウェアが依拠する、低レベル機能性を提供し得る。少なくとも１つの実施例では、デバイス・カーネル・ドライバ２８０６は、ランタイムにおいて中間表現（「ＩＲ」：ｉｎｔｅｒｍｅｄｉａｔｅ ｒｅｐｒｅｓｅｎｔａｔｉｏｎ）コードをバイナリ・コードにコンパイルするように構成され得る。少なくとも１つの実施例では、ＣＵＤＡの場合、デバイス・カーネル・ドライバ２８０６は、ハードウェア固有でない並列スレッド実行（「ＰＴＸ」：Ｐａｒａｌｌｅｌ Ｔｈｒｅａｄ Ｅｘｅｃｕｔｉｏｎ）ＩＲコードを、（コンパイルされたバイナリ・コードのキャッシングを伴って）ランタイムにおいて特定のターゲット・デバイスのためのバイナリ・コードにコンパイルし得、これは、コードを「ファイナライズする」（ｆｉｎａｌｉｚｉｎｇ）と呼ばれることもある。少なくとも１つの実施例では、そうすることは、ファイナライズされたコードがターゲット・デバイス上で稼働することを許し得、これは、ソース・コードが最初にＰＴＸコードにコンパイルされたとき、存在していないことがある。代替的に、少なくとも１つの実施例では、デバイス・ソース・コードは、デバイス・カーネル・ドライバ２８０６がランタイムにおいてＩＲコードをコンパイルすることを必要とすることなしに、オフラインでバイナリ・コードにコンパイルされ得る。

【0233】

少なくとも１つの実施例では、図２８に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２８に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２８に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２８に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0234】

図２９は、少なくとも１つの実施例による、図２８のソフトウェア・スタック２８００のＣＵＤＡ実装形態を示す。少なくとも１つの実施例では、アプリケーション２９０１が起動され得るＣＵＤＡソフトウェア・スタック２９００は、ＣＵＤＡライブラリ２９０３と、ＣＵＤＡランタイム２９０５と、ＣＵＤＡドライバ２９０７と、デバイス・カーネル・ドライバ２９０８とを含む。少なくとも１つの実施例では、ＣＵＤＡソフトウェア・スタック２９００は、ハードウェア２９０９上で実行し、ハードウェア２９０９はＧＰＵを含み得、ＧＰＵは、ＣＵＤＡをサポートし、カリフォルニア州サンタクララのＮＶＩＤＩＡ Ｃｏｒｐｏｒａｔｉｏｎによって開発される。

【0235】

少なくとも１つの実施例では、アプリケーション２９０１、ＣＵＤＡランタイム２９０５、及びデバイス・カーネル・ドライバ２９０８は、それぞれ、図２８と併せて上記で説明された、アプリケーション２８０１、ランタイム２８０５、及びデバイス・カーネル・ドライバ２８０６と同様の機能性を実施し得る。少なくとも１つの実施例では、ＣＵＤＡドライバ２９０７は、ＣＵＤＡドライバＡＰＩ２９０６を実装するライブラリ（ｌｉｂｃｕｄａ．ｓｏ）を含む。少なくとも１つの実施例では、ＣＵＤＡランタイム・ライブラリ（ｃｕｄａｒｔ）によって実装されるＣＵＤＡランタイムＡＰＩ２９０４と同様に、ＣＵＤＡドライバＡＰＩ２９０６は、限定はしないが、とりわけ、メモリ管理、実行制御、デバイス管理、エラー対処、同期、及び／又はグラフィックス相互運用性のための機能を公開し得る。少なくとも１つの実施例では、ＣＵＤＡドライバＡＰＩ２９０６は、ＣＵＤＡランタイムＡＰＩ２９０４が、暗黙的な初期化、（プロセスに類似する）コンテキスト管理、及び（動的にロードされたライブラリに類似する）モジュール管理を提供することによって、デバイス・コード管理を簡略化するという点で、ＣＵＤＡランタイムＡＰＩ２９０４とは異なる。少なくとも１つの実施例では、高レベルＣＵＤＡランタイムＡＰＩ２９０４とは対照的に、ＣＵＤＡドライバＡＰＩ２９０６は、特にコンテキスト及びモジュール・ローディングに関して、デバイスのよりきめ細かい制御を提供する低レベルＡＰＩである。少なくとも１つの実施例では、ＣＵＤＡドライバＡＰＩ２９０６は、ＣＵＤＡランタイムＡＰＩ２９０４によって公開されないコンテキスト管理のための機能を公開し得る。少なくとも１つの実施例では、ＣＵＤＡドライバＡＰＩ２９０６はまた、言語依存せず、たとえば、ＣＵＤＡランタイムＡＰＩ２９０４に加えて、ＯｐｅｎＣＬをサポートする。さらに、少なくとも１つの実施例では、ＣＵＤＡランタイム２９０５を含む開発ライブラリは、ユーザモードＣＵＤＡドライバ２９０７と（「ディスプレイ」ドライバと呼ばれることもある）カーネルモード・デバイス・ドライバ２９０８とを含むドライバ構成要素とは別個のものと見なされ得る。

【0236】

少なくとも１つの実施例では、ＣＵＤＡライブラリ２９０３は、限定はしないが、数学ライブラリ、深層学習ライブラリ、並列アルゴリズム・ライブラリ、及び／又は信号／画像／ビデオ処理ライブラリを含み得、それらをアプリケーション２９０１などの並列コンピューティング・アプリケーションが利用し得る。少なくとも１つの実施例では、ＣＵＤＡライブラリ２９０３は、とりわけ、線形代数演算を実施するための基本線形代数サブプログラム（「ＢＬＡＳ」：Ｂａｓｉｃ Ｌｉｎｅａｒ Ａｌｇｅｂｒａ Ｓｕｂｐｒｏｇｒａｍｓ）の実装であるｃｕＢＬＡＳライブラリ、高速フーリエ変換（「ＦＦＴ」：ｆａｓｔ Ｆｏｕｒｉｅｒ ｔｒａｎｓｆｏｒｍ）を算出するためのｃｕＦＦＴライブラリ、及び乱数を生成するためのｃｕＲＡＮＤライブラリなど、数学ライブラリを含み得る。少なくとも１つの実施例では、ＣＵＤＡライブラリ２９０３は、とりわけ、深層ニューラル・ネットワークのためのプリミティブのｃｕＤＮＮライブラリ及び高性能深層学習推論のためのＴｅｎｓｏｒＲＴプラットフォームなど、深層学習ライブラリを含み得る。

【0237】

少なくとも１つの実施例では、図２９に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２９に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２９に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図２９に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0238】

図３０は、少なくとも１つの実施例による、図２８のソフトウェア・スタック２８００のＲＯＣｍ実装形態を示す。少なくとも１つの実施例では、アプリケーション３００１が起動され得るＲＯＣｍソフトウェア・スタック３０００は、言語ランタイム３００３と、システム・ランタイム３００５と、サンク（ｔｈｕｎｋ）３００７と、ＲＯＣｍカーネル・ドライバ３００８とを含む。少なくとも１つの実施例では、ＲＯＣｍソフトウェア・スタック３０００は、ハードウェア３００９上で実行し、ハードウェア３００９はＧＰＵを含み得、ＧＰＵは、ＲＯＣｍをサポートし、カリフォルニア州サンタクララのＡＭＤ Ｃｏｒｐｏｒａｔｉｏｎによって開発される。

【0239】

少なくとも１つの実施例では、アプリケーション３００１は、図２８と併せて上記で説明されたアプリケーション２８０１と同様の機能性を実施し得る。少なくとも１つの実施例では、さらに、言語ランタイム３００３及びシステム・ランタイム３００５は、図２８と併せて上記で説明されたランタイム２８０５と同様の機能性を実施し得る。少なくとも１つの実施例では、言語ランタイム３００３とシステム・ランタイム３００５とは、システム・ランタイム３００５が、ＲＯＣｒシステム・ランタイムＡＰＩ３００４を実装し、異種システム・アーキテクチャ（「ＨＳＡ」：Ｈｅｔｅｒｏｇｅｎｅｏｕｓ Ｓｙｓｔｅｍ Ａｒｃｈｉｔｅｃｔｕｒｅ）ランタイムＡＰＩを利用する、言語依存しないランタイムであるという点で、異なる。少なくとも１つの実施例では、ＨＳＡランタイムＡＰＩは、とりわけ、メモリ管理、カーネルの設計されたディスパッチを介した実行制御、エラー対処、システム及びエージェント情報、並びにランタイム初期化及び停止（ｓｈｕｔｄｏｗｎ）のための機能を含む、ＡＭＤ ＧＰＵにアクセスし、それと対話するためのインターフェースを公開する、シン（ｔｈｉｎ）・ユーザモードＡＰＩである。少なくとも１つの実施例では、システム・ランタイム３００５とは対照的に、言語ランタイム３００３は、ＲＯＣｒシステム・ランタイムＡＰＩ３００４の上に階層化された言語固有ランタイムＡＰＩ３００２の実装である。少なくとも１つの実施例では、言語ランタイムＡＰＩは、限定はしないが、とりわけ、ポータビリティのための異種コンピュート・インターフェース（「ＨＩＰ」）言語ランタイムＡＰＩ、異種コンピュート・コンパイラ（「ＨＣＣ」：Ｈｅｔｅｒｏｇｅｎｅｏｕｓ Ｃｏｍｐｕｔｅ Ｃｏｍｐｉｌｅｒ）言語ランタイムＡＰＩ、又はＯｐｅｎＣＬ ＡＰＩを含み得る。特にＨＩＰ言語は、機能的に同様のバージョンのＣＵＤＡ機構をもつＣ＋＋プログラミング言語の拡張であり、少なくとも１つの実施例では、ＨＩＰ言語ランタイムＡＰＩは、とりわけ、メモリ管理、実行制御、デバイス管理、エラー対処、及び同期のための機能など、図２９と併せて上記で説明されたＣＵＤＡランタイムＡＰＩ２９０４の機能と同様である機能を含む。

【0240】

少なくとも１つの実施例では、サンク（ＲＯＣｔ）３００７は、基礎をなすＲＯＣｍドライバ３００８と対話するために使用され得るインターフェース３００６である。少なくとも１つの実施例では、ＲＯＣｍドライバ３００８は、ＡＭＤＧＰＵドライバとＨＳＡカーネル・ドライバ（ａｍｄｋｆｄ）との組合せである、ＲＯＣｋドライバである。少なくとも１つの実施例では、ＡＭＤＧＰＵドライバは、図２８と併せて上記で説明されたデバイス・カーネル・ドライバ２８０６と同様の機能性を実施する、ＡＭＤによって開発されたＧＰＵのためのデバイス・カーネル・ドライバである。少なくとも１つの実施例では、ＨＳＡカーネル・ドライバは、異なるタイプのプロセッサがハードウェア特徴を介してより効果的にシステム・リソースを共有することを許すドライバである。

【0241】

少なくとも１つの実施例では、様々なライブラリ（図示せず）が、言語ランタイム３００３より上にＲＯＣｍソフトウェア・スタック３０００中に含まれ、図２９と併せて上記で説明されたＣＵＤＡライブラリ２９０３に対する機能性の類似性を提供し得る。少なくとも１つの実施例では、様々なライブラリは、限定はしないが、とりわけ、ＣＵＤＡ ｃｕＢＬＡＳの機能と同様の機能を実装するｈｉｐＢＬＡＳライブラリ、ＣＵＤＡ ｃｕＦＦＴと同様であるＦＦＴを算出するためのｒｏｃＦＦＴライブラリなど、数学、深層学習、及び／又は他のライブラリを含み得る。

【0242】

少なくとも１つの実施例では、図３０に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３０に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３０に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３０に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0243】

図３１は、少なくとも１つの実施例による、図２８のソフトウェア・スタック２８００のＯｐｅｎＣＬ実装形態を示す。少なくとも１つの実施例では、アプリケーション３１０１が起動され得るＯｐｅｎＣＬソフトウェア・スタック３１００は、ＯｐｅｎＣＬフレームワーク３１１０と、ＯｐｅｎＣＬランタイム３１０６と、ドライバ３１０７とを含む。少なくとも１つの実施例では、ＯｐｅｎＣＬソフトウェア・スタック３１００は、ベンダー固有でないハードウェア２９０９上で実行する。少なくとも１つの実施例では、ＯｐｅｎＣＬは、異なるベンダーによって開発されたデバイスによってサポートされるので、そのようなベンダーからのハードウェアと相互動作するために、特定のＯｐｅｎＣＬドライバが必要とされ得る。

【0244】

少なくとも１つの実施例では、アプリケーション３１０１、ＯｐｅｎＣＬランタイム３１０６、デバイス・カーネル・ドライバ３１０７、及びハードウェア３１０８は、それぞれ、図２８と併せて上記で説明された、アプリケーション２８０１、ランタイム２８０５、デバイス・カーネル・ドライバ２８０６、及びハードウェア２８０７と同様の機能性を実施し得る。少なくとも１つの実施例では、アプリケーション３１０１は、デバイス上で実行されるべきであるコードをもつＯｐｅｎＣＬカーネル３１０２をさらに含む。

【0245】

少なくとも１つの実施例では、ＯｐｅｎＣＬは、ホストに接続されたデバイスをホストが制御することを可能にする「プラットフォーム」を定義する。少なくとも１つの実施例では、ＯｐｅｎＣＬフレームワークは、プラットフォームＡＰＩ３１０３及びランタイムＡＰＩ３１０５として示されている、プラットフォーム層ＡＰＩ及びランタイムＡＰＩを提供する。少なくとも１つの実施例では、ランタイムＡＰＩ３１０５は、デバイス上でのカーネルの実行を管理するためにコンテキストを使用する。少なくとも１つの実施例では、各識別されたデバイスは、それぞれのコンテキストに関連し得、ランタイムＡＰＩ３１０５は、それぞれのコンテキストを使用して、そのデバイスのために、とりわけ、コマンド・キュー、プログラム・オブジェクト、及びカーネル・オブジェクトを管理し、メモリ・オブジェクトを共有し得る。少なくとも１つの実施例では、プラットフォームＡＰＩ３１０３は、とりわけ、デバイスを選択及び初期化し、コマンド・キューを介してデバイスにワークをサブミットし、デバイスとの間でのデータ転送を可能にするために、デバイス・コンテキストが使用されることを許す機能を公開する。少なくとも１つの実施例では、さらに、ＯｐｅｎＣＬフレームワークは、とりわけ、数学関数とリレーショナル関数と画像処理関数とを含む、様々な組み込み関数（図示せず）を提供する。

【0246】

少なくとも１つの実施例では、コンパイラ３１０４も、ＯｐｅｎＣＬフレームワーク３１１０中に含まれる。少なくとも１つの実施例では、ソース・コードは、アプリケーションを実行するより前にオフラインでコンパイルされるか、又はアプリケーションの実行中にオンラインでコンパイルされ得る。ＣＵＤＡ及びＲＯＣｍとは対照的に、少なくとも１つの実施例におけるＯｐｅｎＣＬアプリケーションは、コンパイラ３１０４によってオンラインでコンパイルされ得、コンパイラ３１０４は、標準ポータブル中間表現（「ＳＰＩＲ－Ｖ」：Ｓｔａｎｄａｒｄ Ｐｏｒｔａｂｌｅ Ｉｎｔｅｒｍｅｄｉａｔｅ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ）コードなど、ソース・コード及び／又はＩＲコードをバイナリ・コードにコンパイルするために使用され得る、任意の数のコンパイラを表すために含まれる。代替的に、少なくとも１つの実施例では、ＯｐｅｎＣＬアプリケーションは、そのようなアプリケーションの実行より前に、オフラインでコンパイルされ得る。

【0247】

少なくとも１つの実施例では、図３１に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３１に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３１に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３１に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0248】

図３２は、少なくとも１つの実施例による、プログラミング・プラットフォームによってサポートされるソフトウェアを示す。少なくとも１つの実施例では、プログラミング・プラットフォーム３２０４は、アプリケーション３２００が依拠し得る、様々なプログラミング・モデル３２０３、ミドルウェア及び／又はライブラリ３２０２、並びにフレームワーク３２０１をサポートするように構成される。少なくとも１つの実施例では、アプリケーション３２００は、たとえば、ＭＸＮｅｔ、ＰｙＴｏｒｃｈ、又はＴｅｎｓｏｒＦｌｏｗなど、深層学習フレームワークを使用して実装される、ＡＩ／ＭＬアプリケーションであり得、これは、基礎をなすハードウェア上で加速コンピューティングを提供するために、ｃｕＤＮＮ、ＮＶＩＤＩＡ集合通信ライブラリ（「ＮＣＣＬ」）、及び／又はＮＶＩＤＡディベロッパー・データ・ローディング・ライブラリ（「ＤＡＬＩ（登録商標）」：ＮＶＩＤＡ Ｄｅｖｅｌｏｐｅｒ Ｄａｔａ Ｌｏａｄｉｎｇ Ｌｉｂｒａｒｙ）ＣＵＤＡライブラリなど、ライブラリに依拠し得る。

【0249】

少なくとも１つの実施例では、プログラミング・プラットフォーム３２０４は、それぞれ、図２９、図３０、及び図３１と併せて上記で説明された、ＣＵＤＡ、ＲＯＣｍ、又はＯｐｅｎＣＬプラットフォームのうちの１つであり得る。少なくとも１つの実施例では、プログラミング・プラットフォーム３２０４は、アルゴリズム及びデータ構造の表現を許す基礎をなすコンピューティング・システムの抽象化である、複数のプログラミング・モデル３２０３をサポートする。少なくとも１つの実施例では、プログラミング・モデル３２０３は、性能を改善するために、基礎をなすハードウェアの特徴を公開し得る。少なくとも１つの実施例では、プログラミング・モデル３２０３は、限定はしないが、ＣＵＤＡ、ＨＩＰ、ＯｐｅｎＣＬ、Ｃ＋＋加速超並列処理（「Ｃ＋＋ＡＭＰ」：Ｃ＋＋ Ａｃｃｅｌｅｒａｔｅｄ Ｍａｓｓｉｖｅ Ｐａｒａｌｌｅｌｉｓｍ）、オープン・マルチプロセシング（「ＯｐｅｎＭＰ」：Ｏｐｅｎ Ｍｕｌｔｉ－Ｐｒｏｃｅｓｓｉｎｇ）、オープン・アクセラレータ（「ＯｐｅｎＡＣＣ」：Ｏｐｅｎ Ａｃｃｅｌｅｒａｔｏｒｓ）、及び／又はＶｕｌｃａｎコンピュート（Ｖｕｌｃａｎ Ｃｏｍｐｕｔｅ）を含み得る。

【0250】

少なくとも１つの実施例では、ライブラリ及び／又はミドルウェア３２０２は、プログラミング・モデル３２０４の抽象化の実装を提供する。少なくとも１つの実施例では、そのようなライブラリは、コンピュータ・プログラムによって使用され、ソフトウェア開発中に活用され得る、データ及びプログラミング・コードを含む。少なくとも１つの実施例では、そのようなミドルウェアは、プログラミング・プラットフォーム３２０４から利用可能なソフトウェア以外にアプリケーションにサービスを提供するソフトウェアを含む。少なくとも１つの実施例では、ライブラリ及び／又はミドルウェア３２０２は、限定はしないが、ｃｕＢＬＡＳ、ｃｕＦＦＴ、ｃｕＲＡＮＤ、及び他のＣＵＤＡライブラリ、又は、ｒｏｃＢＬＡＳ、ｒｏｃＦＦＴ、ｒｏｃＲＡＮＤ、及び他のＲＯＣｍライブラリを含み得る。さらに、少なくとも１つの実施例では、ライブラリ及び／又はミドルウェア３２０２は、ＧＰＵのための通信ルーチンを提供するＮＣＣＬ及びＲＯＣｍ通信集合ライブラリ（「ＲＣＣＬ」：ＲＯＣｍ Ｃｏｍｍｕｎｉｃａｔｉｏｎ Ｃｏｌｌｅｃｔｉｖｅｓ Ｌｉｂｒａｒｙ）のライブラリ、深層学習加速のためのＭＩＯｐｅｎライブラリ、並びに／又は、線形代数、行列及びベクトル演算、幾何学的変換、数値ソルバー、及び関係するアルゴリズムのための固有（Ｅｉｇｅｎ）ライブラリを含み得る。

【0251】

少なくとも１つの実施例では、アプリケーション・フレームワーク３２０１は、ライブラリ及び／又はミドルウェア３２０２に依存する。少なくとも１つの実施例では、アプリケーション・フレームワーク３２０１の各々は、アプリケーション・ソフトウェアの標準構造を実装するために使用されるソフトウェア・フレームワークである。少なくとも１つの実施例では、上記で説明されたＡＩ／ＭＬ実例に戻ると、ＡＩ／ＭＬアプリケーションは、Ｃａｆｆｅ、Ｃａｆｆｅ２、ＴｅｎｓｏｒＦｌｏｗ、Ｋｅｒａｓ、ＰｙＴｏｒｃｈ、又はＭｘＮｅｔ深層学習フレームワークなど、フレームワークを使用して実装され得る。

【0252】

少なくとも１つの実施例では、図３２に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３２に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３２に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３２に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0253】

図３３は、少なくとも１つの実施例による、図２８～図３１のプログラミング・プラットフォームのうちの１つの上で実行するためのコードをコンパイルすることを示す。少なくとも１つの実施例では、コンパイラ３３０１は、ホスト・コード並びにデバイス・コードの両方を含むソース・コード３３００を受信する。少なくとも１つの実施例では、コンパイラ３３０１は、ソース・コード３３００を、ホスト上での実行のためのホスト実行可能コード３３０２及びデバイス上での実行のためのデバイス実行可能コード３３０３にコンバートするように構成される。少なくとも１つの実施例では、ソース・コード３３００は、アプリケーションの実行より前にオフラインでコンパイルされるか、又はアプリケーションの実行中にオンラインでコンパイルされるかのいずれかであり得る。

【0254】

少なくとも１つの実施例では、ソース・コード３３００は、Ｃ＋＋、Ｃ、Ｆｏｒｔｒａｎなど、コンパイラ３３０１によってサポートされる任意のプログラミング言語のコードを含み得る。少なくとも１つの実施例では、ソース・コード３３００は、ホスト・コードとデバイス・コードとの混合物を有する単一ソース・ファイル中に含まれ得、その中にデバイス・コードのロケーションが示されている。少なくとも１つの実施例では、単一ソース・ファイルは、ＣＵＤＡコードを含む．ｃｕファイル、又はＨＩＰコードを含む．ｈｉｐ．ｃｐｐファイルであり得る。代替的に、少なくとも１つの実施例では、ソース・コード３３００は、その中でホスト・コードとデバイス・コードとが分離される単一ソース・ファイルではなく、複数のソース・コード・ファイルを含み得る。

【0255】

少なくとも１つの実施例では、コンパイラ３３０１は、ソース・コード３３００を、ホスト上での実行のためのホスト実行可能コード３３０２及びデバイス上での実行のためのデバイス実行可能コード３３０３にコンパイルするように構成される。少なくとも１つの実施例では、コンパイラ３３０１は、ソース・コード３３００を抽象システム・ツリー（ＡＳＴ：ａｂｓｔｒａｃｔ ｓｙｓｔｅｍ ｔｒｅｅ）に構文解析することと、最適化を実施することと、実行可能コードを生成することとを含む、動作を実施する。ソース・コード３３００が単一ソース・ファイルを含む、少なくとも１つの実施例では、コンパイラ３３０１は、図３４に関して以下でより詳細に説明されるように、そのような単一ソース・ファイル中でデバイス・コードをホスト・コードから分離し、デバイス・コード及びホスト・コードを、それぞれ、デバイス実行可能コード３３０３及びホスト実行可能コード３３０２にコンパイルし、デバイス実行可能コード３３０３とホスト実行可能コード３３０２とを単一のファイルにおいて互いにリンクし得る。

【0256】

少なくとも１つの実施例では、ホスト実行可能コード３３０２及びデバイス実行可能コード３３０３は、バイナリ・コード及び／又はＩＲコードなど、任意の好適なフォーマットのものであり得る。少なくとも１つの実施例では、ＣＵＤＡの場合、ホスト実行可能コード３３０２は、ネイティブ・オブジェクト・コードを含み得、デバイス実行可能コード３３０３は、ＰＴＸ中間表現のコードを含み得る。少なくとも１つの実施例では、ＲＯＣｍの場合、ホスト実行可能コード３３０２とデバイス実行可能コード３３０３の両方は、ターゲット・バイナリ・コードを含み得る。

【0257】

少なくとも１つの実施例では、図３３に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３３に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３３に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３３に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0258】

図３４は、少なくとも１つの実施例による、図２８～図３１のプログラミング・プラットフォームのうちの１つの上で実行するためのコードをコンパイルすることのより詳細な図である。少なくとも１つの実施例では、コンパイラ３４０１は、ソース・コード３４００を受信し、ソース・コード３４００をコンパイルし、実行可能ファイル３４１０を出力するように構成される。少なくとも１つの実施例では、ソース・コード３４００は、ホスト・コードとデバイス・コードの両方を含む、．ｃｕファイル、．ｈｉｐ．ｃｐｐファイル、又は別のフォーマットのファイルなど、単一ソース・ファイルである。少なくとも１つの実施例では、コンパイラ３４０１は、限定はしないが、．ｃｕファイル中のＣＵＤＡコードをコンパイルするためのＮＶＩＤＩＡ ＣＵＤＡコンパイラ（「ＮＶＣＣ」：ＮＶＩＤＩＡ ＣＵＤＡ ｃｏｍｐｉｌｅｒ）、又は．ｈｉｐ．ｃｐｐファイル中のＨＩＰコードをコンパイルするためのＨＣＣコンパイラであり得る。

【0259】

少なくとも１つの実施例では、コンパイラ３４０１は、コンパイラ・フロント・エンド３４０２と、ホスト・コンパイラ３４０５と、デバイス・コンパイラ３４０６と、リンカ３４０９とを含む。少なくとも１つの実施例では、コンパイラ・フロント・エンド３４０２は、ソース・コード３４００中でデバイス・コード３４０４をホスト・コード３４０３から分離するように構成される。少なくとも１つの実施例では、デバイス・コード３４０４は、デバイス・コンパイラ３４０６によってデバイス実行可能コード３４０８にコンパイルされ、デバイス実行可能コード３４０８は、説明されたように、バイナリ・コード又はＩＲコードを含み得る。少なくとも１つの実施例では、別個に、ホスト・コード３４０３は、ホスト・コンパイラ３４０５によってホスト実行可能コード３４０７にコンパイルされる。少なくとも１つの実施例では、ＮＶＣＣの場合、ホスト・コンパイラ３４０５は、限定はしないが、ネイティブ・オブジェクト・コードを出力する汎用Ｃ／Ｃ＋＋コンパイラであり得るが、デバイス・コンパイラ３４０６は、限定はしないが、ＬＬＶＭコンパイラ・インフラストラクチャをフォークし、ＰＴＸコード又はバイナリ・コードを出力する、低レベル仮想機械（「ＬＬＶＭ」：Ｌｏｗ Ｌｅｖｅｌ Ｖｉｒｔｕａｌ Ｍａｃｈｉｎｅ）ベースのコンパイラであり得る。少なくとも１つの実施例では、ＨＣＣの場合、ホスト・コンパイラ３４０５とデバイス・コンパイラ３４０６の両方は、限定はしないが、ターゲット・バイナリ・コードを出力するＬＬＶＭベースのコンパイラであり得る。

【0260】

少なくとも１つの実施例では、ソース・コード３４００をホスト実行可能コード３４０７及びデバイス実行可能コード３４０８にコンパイルした後に、リンカ３４０９は、ホスト実行可能コード３４０７とデバイス実行可能コード３４０８とを実行可能ファイル３４１０において互いにリンクする。少なくとも１つの実施例では、ホストのためのネイティブ・オブジェクト・コードと、デバイスのためのＰＴＸ又はバイナリ・コードとは、オブジェクト・コードを記憶するために使用されるコンテナ・フォーマットである、実行可能及びリンク可能フォーマット（「ＥＬＦ」：Ｅｘｅｃｕｔａｂｌｅ ａｎｄ Ｌｉｎｋａｂｌｅ Ｆｏｒｍａｔ）ファイルにおいて互いにリンクされ得る。

【0261】

少なくとも１つの実施例では、図３４に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３４に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３４に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３４に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0262】

図３５は、少なくとも１つの実施例による、ソース・コードをコンパイルするより前にソース・コードをトランスレートすることを示す。少なくとも１つの実施例では、ソース・コード３５００は、トランスレーション・ツール３５０１を通して渡され、トランスレーション・ツール３５０１は、ソース・コード３５００を、トランスレートされたソース・コード３５０２にトランスレートする。少なくとも１つの実施例では、コンパイラ３５０３は、図３３と併せて上記で説明されたように、ホスト実行可能コード３３０２及びデバイス実行可能３３０３へのコンパイラ３３０１によるソース・コード３３００のコンパイルと同様であるプロセスにおいて、トランスレートされたソース・コード３５０２をホスト実行可能コード３５０４及びデバイス実行可能コード３５０５にコンパイルするために使用される。

【0263】

少なくとも１つの実施例では、トランスレーション・ツール３５０１によって実施されるトランスレーションは、稼働することが最初に意図された環境とは異なる環境における実行のためにソース３５００を移植するために使用される。少なくとも１つの実施例では、トランスレーション・ツール３５０１は、限定はしないが、ＣＵＤＡプラットフォームを対象とするＣＵＤＡコードを、ＲＯＣｍプラットフォーム上でコンパイル及び実行され得るＨＩＰコードに「ｈｉｐｉｆｙ」するために使用される、ＨＩＰトランスレータを含み得る。少なくとも１つの実施例では、ソース・コード３５００のトランスレーションは、図３６Ａ～図３７と併せて以下でより詳細に説明されるように、ソース・コード３５００を構文解析することと、あるプログラミング・モデル（たとえば、ＣＵＤＡ）によって提供される（１つ又は複数の）ＡＰＩへのコールを、別のプログラミング・モデル（たとえば、ＨＩＰ）によって提供される（１つ又は複数の）ＡＰＩへの対応するコールにコンバートすることとを含み得る。少なくとも１つの実施例では、ＣＵＤＡコードをｈｉｐｉｆｙすることの実例に戻ると、ＣＵＤＡランタイムＡＰＩ、ＣＵＤＡドライバＡＰＩ、及び／又はＣＵＤＡライブラリへのコールは、対応するＨＩＰ ＡＰＩコールにコンバートされ得る。少なくとも１つの実施例では、トランスレーション・ツール３５０１によって実施される自動トランスレーションは、時々、不完全であり、ソース・コード３５００を完全に移植するために追加の手動の労力を必要とし得る。

【0264】

少なくとも１つの実施例では、図３５に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３５に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３５に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３５に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0265】

汎用コンピューティングのためのＧＰＵを構成すること
以下の図は、限定はしないが、少なくとも１つの実施例による、コンピュート・ソース・コードをコンパイル及び実行するための例示的なアーキテクチャを記載する。

【0266】

図３６Ａは、少なくとも１つの実施例による、異なるタイプの処理ユニットを使用してＣＵＤＡソース・コード３６１０をコンパイル及び実行するように構成されたシステム３６Ａ００を示す。少なくとも１つの実施例では、システム３６Ａ００は、限定はしないが、ＣＵＤＡソース・コード３６１０と、ＣＵＤＡコンパイラ３６５０と、ホスト実行可能コード３６７０（１）と、ホスト実行可能コード３６７０（２）と、ＣＵＤＡデバイス実行可能コード３６８４と、ＣＰＵ３６９０と、ＣＵＤＡ対応ＧＰＵ３６９４と、ＧＰＵ３６９２と、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０と、ＨＩＰソース・コード３６３０と、ＨＩＰコンパイラ・ドライバ３６４０と、ＨＣＣ３６６０と、ＨＣＣデバイス実行可能コード３６８２とを含む。

【0267】

少なくとも１つの実施例では、ＣＵＤＡソース・コード３６１０は、ＣＵＤＡプログラミング言語の人間が読み取れるコードの集合である。少なくとも１つの実施例では、ＣＵＤＡコードは、ＣＵＤＡプログラミング言語の人間が読み取れるコードである。少なくとも１つの実施例では、ＣＵＤＡプログラミング言語は、限定はしないが、デバイス・コードを定義し、デバイス・コードとホスト・コードとを区別するための機構を含む、Ｃ＋＋プログラミング言語の拡張である。少なくとも１つの実施例では、デバイス・コードは、コンパイルの後にデバイス上で並列に実行可能であるソース・コードである。少なくとも１つの実施例では、デバイスは、ＣＵＤＡ対応ＧＰＵ３６９０、ＧＰＵ３６１９２、又は別のＧＰＧＰＵなど、並列命令処理のために最適化されるプロセッサであり得る。少なくとも１つの実施例では、ホスト・コードは、コンパイルの後にホスト上で実行可能であるソース・コードである。少なくとも１つの実施例では、ホストは、ＣＰＵ３６９０など、連続命令処理のために最適化されるプロセッサである。

【0268】

少なくとも１つの実施例では、ＣＵＤＡソース・コード３６１０は、限定はしないが、（ゼロを含む）任意の数のグローバル機能３６１２と、（ゼロを含む）任意の数のデバイス機能３６１４と、（ゼロを含む）任意の数のホスト機能３６１６と、（ゼロを含む）任意の数のホスト／デバイス機能３６１８とを含む。少なくとも１つの実施例では、グローバル機能３６１２と、デバイス機能３６１４と、ホスト機能３６１６と、ホスト／デバイス機能３６１８とは、ＣＵＤＡソース・コード３６１０中で混合され得る。少なくとも１つの実施例では、グローバル機能３６１２の各々は、デバイス上で実行可能であり、ホストからコール可能である。少なくとも１つの実施例では、グローバル機能３６１２のうちの１つ又は複数は、したがって、デバイスへのエントリ・ポイントとして働き得る。少なくとも１つの実施例では、グローバル機能３６１２の各々はカーネルである。少なくとも１つの実施例では、及び動的並列処理として知られる技法では、グローバル機能３６１２のうちの１つ又は複数は、カーネルを定義し、カーネルは、デバイス上で実行可能であり、そのようなデバイスからコール可能である。少なくとも１つの実施例では、カーネルは、実行中にデバイス上のＮ（ここで、Ｎは任意の正の整数である）個の異なるスレッドによって並列にＮ回実行される。

【0269】

少なくとも１つの実施例では、デバイス機能３６１４の各々は、デバイス上で実行され、そのようなデバイスからのみコール可能である。少なくとも１つの実施例では、ホスト機能３６１６の各々は、ホスト上で実行され、そのようなホストからのみコール可能である。少なくとも１つの実施例では、ホスト／デバイス機能３６１６の各々は、ホスト上で実行可能であり、そのようなホストからのみコール可能であるホスト・バージョンの機能と、デバイス上で実行可能であり、そのようなデバイスからのみコール可能であるデバイス・バージョンの機能の両方を定義する。

【0270】

少なくとも１つの実施例では、ＣＵＤＡソース・コード３６１０は、限定はしないが、ＣＵＤＡランタイムＡＰＩ３６０２を介して定義される任意の数の機能への任意の数のコールをも含み得る。少なくとも１つの実施例では、ＣＵＤＡランタイムＡＰＩ３６０２は、限定はしないが、デバイス・メモリを割り振り、割振り解除し、ホスト・メモリとデバイス・メモリとの間でデータを転送し、複数のデバイスをもつシステムを管理するなどのためにホスト上で実行する、任意の数の機能を含み得る。少なくとも１つの実施例では、ＣＵＤＡソース・コード３６１０は、任意の数の他のＣＵＤＡ ＡＰＩにおいて指定される任意の数の機能への任意の数のコールをも含み得る。少なくとも１つの実施例では、ＣＵＤＡ ＡＰＩは、ＣＵＤＡコードによる使用のために設計される任意のＡＰＩであり得る。少なくとも１つの実施例では、ＣＵＤＡ ＡＰＩは、限定はしないが、ＣＵＤＡランタイムＡＰＩ３６０２、ＣＵＤＡドライバＡＰＩ、任意の数のＣＵＤＡライブラリのためのＡＰＩなどを含む。少なくとも１つの実施例では、及びＣＵＤＡランタイムＡＰＩ３６０２に対して、ＣＵＤＡドライバＡＰＩは、より低いレベルのＡＰＩであるが、デバイスのよりきめ細かい制御を提供する。少なくとも１つの実施例では、ＣＵＤＡライブラリの実例は、限定はしないが、ｃｕＢＬＡＳ、ｃｕＦＦＴ、ｃｕＲＡＮＤ、ｃｕＤＮＮなどを含む。

【0271】

少なくとも１つの実施例では、ＣＵＤＡコンパイラ３６５０は、ホスト実行可能コード３６７０（１）及びＣＵＤＡデバイス実行可能コード３６８４を生成するために、入力ＣＵＤＡコード（たとえば、ＣＵＤＡソース・コード３６１０）をコンパイルする。少なくとも１つの実施例では、ＣＵＤＡコンパイラ３６５０はＮＶＣＣである。少なくとも１つの実施例では、ホスト実行可能コード３６７０（１）は、ＣＰＵ３６９０上で実行可能である、入力ソース・コード中に含まれるホスト・コードのコンパイルされたバージョンである。少なくとも１つの実施例では、ＣＰＵ３６９０は、連続命令処理のために最適化される任意のプロセッサであり得る。

【0272】

少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３６８４は、ＣＵＤＡ対応ＧＰＵ３６９４上で実行可能である、入力ソース・コード中に含まれるデバイス・コードのコンパイルされたバージョンである。少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３６８４は、限定はしないが、バイナリ・コードを含む。少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３６８４は、限定はしないが、ＰＴＸコードなどのＩＲコードを含み、これは、デバイス・ドライバによって、特定のターゲット・デバイス（たとえば、ＣＵＤＡ対応ＧＰＵ３６９４）のためのバイナリ・コードに、ランタイムにおいてさらにコンパイルされる。少なくとも１つの実施例では、ＣＵＤＡ対応ＧＰＵ３６９４は、並列命令処理のために最適化され、ＣＵＤＡをサポートする、任意のプロセッサであり得る。少なくとも１つの実施例では、ＣＵＤＡ対応ＧＰＵ３６９４は、カリフォルニア州サンタクララのＮＶＩＤＩＡ Ｃｏｒｐｏｒａｔｉｏｎによって開発される。

【0273】

少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０は、ＣＵＤＡソース・コード３６１０を機能的に同様のＨＩＰソース・コード３６３０にトランスレートするように構成される。少なくとも１つの実施例では、ＨＩＰソース・コード３６３０は、ＨＩＰプログラミング言語の人間が読み取れるコードの集合である。少なくとも１つの実施例では、ＨＩＰコードは、ＨＩＰプログラミング言語の人間が読み取れるコードである。少なくとも１つの実施例では、ＨＩＰプログラミング言語は、限定はしないが、デバイス・コードを定義し、デバイス・コードとホスト・コードとを区別するための、機能的に同様のバージョンのＣＵＤＡ機構を含む、Ｃ＋＋プログラミング言語の拡張である。少なくとも１つの実施例では、ＨＩＰプログラミング言語は、ＣＵＤＡプログラミング言語の機能性のサブセットを含み得る。少なくとも１つの実施例では、たとえば、ＨＩＰプログラミング言語は、限定はしないが、グローバル機能３６１２を定義するための（１つ又は複数の）機構を含むが、そのようなＨＩＰプログラミング言語は、動的並列処理のサポートがないことがあり、したがって、ＨＩＰコードにおいて定義されたグローバル機能３６１２は、ホストからのみコール可能であり得る。

【0274】

少なくとも１つの実施例では、ＨＩＰソース・コード３６３０は、限定はしないが、（ゼロを含む）任意の数のグローバル機能３６１２と、（ゼロを含む）任意の数のデバイス機能３６１４と、（ゼロを含む）任意の数のホスト機能３６１６と、（ゼロを含む）任意の数のホスト／デバイス機能３６１８とを含む。少なくとも１つの実施例では、ＨＩＰソース・コード３６３０は、ＨＩＰランタイムＡＰＩ３６３２において指定される任意の数の機能への任意の数のコールをも含み得る。少なくとも１つの実施例では、ＨＩＰランタイムＡＰＩ３６３２は、限定はしないが、ＣＵＤＡランタイムＡＰＩ３６０２中に含まれる機能のサブセットの機能的に同様のバージョンを含む。少なくとも１つの実施例では、ＨＩＰソース・コード３６３０は、任意の数の他のＨＩＰ ＡＰＩにおいて指定される任意の数の機能への任意の数のコールをも含み得る。少なくとも１つの実施例では、ＨＩＰ ＡＰＩは、ＨＩＰコード及び／又はＲＯＣｍによる使用のために設計される任意のＡＰＩであり得る。少なくとも１つの実施例では、ＨＩＰ ＡＰＩは、限定はしないが、ＨＩＰランタイムＡＰＩ３６３２、ＨＩＰドライバＡＰＩ、任意の数のＨＩＰライブラリのためのＡＰＩ、任意の数のＲＯＣｍライブラリのためのＡＰＩなどを含む。

【0275】

少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０は、ＣＵＤＡコード中の各カーネル・コールを、ＣＵＤＡシンタックスからＨＩＰシンタックスにコンバートし、ＣＵＤＡコード中の任意の数の他のＣＵＤＡコールを、任意の数の他の機能的に同様のＨＩＰコールにコンバートする。少なくとも１つの実施例では、ＣＵＤＡコールは、ＣＵＤＡ ＡＰＩにおいて指定された機能へのコールであり、ＨＩＰコールは、ＨＩＰ ＡＰＩにおいて指定された機能へのコールである。少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０は、ＣＵＤＡランタイムＡＰＩ３６０２において指定された機能への任意の数のコールを、ＨＩＰランタイムＡＰＩ３６３２において指定された機能への任意の数のコールにコンバートする。

【0276】

少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０は、テキスト・ベースのトランスレーション・プロセスを実行するｈｉｐｉｆｙ－ｐｅｒｌとして知られるツールである。少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０は、ｈｉｐｉｆｙ－ｃｌａｎｇとして知られるツールであり、これは、ｈｉｐｉｆｙ－ｐｅｒｌに対して、ｃｌａｎｇ（コンパイラ・フロント・エンド）を使用してＣＵＤＡコードを構文解析することと、次いで、得られたシンボルをトランスレートすることとを伴う、より複雑でよりロバストなトランスレーション・プロセスを実行する。少なくとも１つの実施例では、ＣＵＤＡコードをＨＩＰコードに適切にコンバートすることは、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０によって実施される修正に加えて、修正（たとえば、手動の編集）を必要とし得る。

【0277】

少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３６４０は、ターゲット・デバイス３６４６を決定し、次いで、ターゲット・デバイス３６４６と互換性があるコンパイラを、ＨＩＰソース・コード３６３０をコンパイルするように構成する、フロント・エンドである。少なくとも１つの実施例では、ターゲット・デバイス３６４６は、並列命令処理のために最適化されるプロセッサである。少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３６４０は、任意の技術的に実現可能な様式でターゲット・デバイス３６４６を決定し得る。

【0278】

少なくとも１つの実施例では、ターゲット・デバイス３６４６が、ＣＵＤＡ（たとえば、ＣＵＤＡ対応ＧＰＵ３６９４）と互換性がある場合、ＨＩＰコンパイラ・ドライバ３６４０は、ＨＩＰ／ＮＶＣＣコンパイル・コマンド３６４２を生成する。少なくとも１つの実施例では、及び図３６Ｂと併せてより詳細に説明されるように、ＨＩＰ／ＮＶＣＣコンパイル・コマンド３６４２は、限定はしないが、ＨＩＰからＣＵＤＡへのトランスレーション・ヘッダ及びＣＵＤＡランタイム・ライブラリを使用してＨＩＰソース・コード３６３０をコンパイルするようにＣＵＤＡコンパイラ３６５０を構成する。少なくとも１つの実施例では、及びＨＩＰ／ＮＶＣＣコンパイル・コマンド３６４２に応答して、ＣＵＤＡコンパイラ３６５０は、ホスト実行可能コード３６７０（１）及びＣＵＤＡデバイス実行可能コード３６８４を生成する。

【0279】

少なくとも１つの実施例では、ターゲット・デバイス３６４６が、ＣＵＤＡと互換性がない場合、ＨＩＰコンパイラ・ドライバ３６４０は、ＨＩＰ／ＨＣＣコンパイル・コマンド３６４４を生成する。少なくとも１つの実施例では、及び図３６Ｃと併せてより詳細に説明されるように、ＨＩＰ／ＨＣＣコンパイル・コマンド３６４４は、限定はしないが、ＨＣＣヘッダ及びＨＩＰ／ＨＣＣランタイム・ライブラリを使用してＨＩＰソース・コード３６３０をコンパイルするようにＨＣＣ３６６０を構成する。少なくとも１つの実施例では、及びＨＩＰ／ＨＣＣコンパイル・コマンド３６４４に応答して、ＨＣＣ３６６０は、ホスト実行可能コード３６７０（２）及びＨＣＣデバイス実行可能コード３６８２を生成する。少なくとも１つの実施例では、ＨＣＣデバイス実行可能コード３６８２は、ＧＰＵ３６９２上で実行可能である、ＨＩＰソース・コード３６３０中に含まれるデバイス・コードのコンパイルされたバージョンである。少なくとも１つの実施例では、ＧＰＵ３６９２は、並列命令処理のために最適化され、ＣＵＤＡと互換性がなく、ＨＣＣと互換性がある、任意のプロセッサであり得る。少なくとも１つの実施例では、ＧＰＵ３６９２は、カリフォルニア州サンタクララのＡＭＤ Ｃｏｒｐｏｒａｔｉｏｎによって開発される。少なくとも１つの実施例では、ＧＰＵ３６９２は、ＣＵＤＡ非対応ＧＰＵ３６９２である。

【0280】

単に説明目的のために、ＣＰＵ３６９０及び異なるデバイス上での実行のためにＣＵＤＡソース・コード３６１０をコンパイルするために少なくとも１つの実施例において実装され得る３つの異なるフローが、図３６Ａに図示されている。少なくとも１つの実施例では、直接的ＣＵＤＡフローが、ＣＵＤＡソース・コード３６１０をＨＩＰソース・コード３６３０にトランスレートすることなしに、ＣＰＵ３６９０及びＣＵＤＡ対応ＧＰＵ３６９４上での実行のためにＣＵＤＡソース・コード３６１０をコンパイルする。少なくとも１つの実施例では、間接的ＣＵＤＡフローが、ＣＵＤＡソース・コード３６１０をＨＩＰソース・コード３６３０にトランスレートし、次いで、ＣＰＵ３６９０及びＣＵＤＡ対応ＧＰＵ３６９４上での実行のためにＨＩＰソース・コード３６３０をコンパイルする。少なくとも１つの実施例では、ＣＵＤＡ／ＨＣＣフローが、ＣＵＤＡソース・コード３６１０をＨＩＰソース・コード３６３０にトランスレートし、次いで、ＣＰＵ３６９０及びＧＰＵ３６９２上での実行のためにＨＩＰソース・コード３６３０をコンパイルする。

【0281】

少なくとも１つの実施例において実装され得る直接的ＣＵＤＡフローは、破線及びＡ１～Ａ３とアノテーション付けされた一連のバブルを介して図示されている。少なくとも１つの実施例では、及びＡ１とアノテーション付けされたバブルで図示されているように、ＣＵＤＡコンパイラ３６５０は、ＣＵＤＡソース・コード３６１０と、ＣＵＤＡソース・コード３６１０をコンパイルするようにＣＵＤＡコンパイラ３６５０を構成するＣＵＤＡコンパイル・コマンド３６４８とを受信する。少なくとも１つの実施例では、直接的ＣＵＤＡフローにおいて使用されるＣＵＤＡソース・コード３６１０は、Ｃ＋＋以外のプログラミング言語（たとえば、Ｃ、Ｆｏｒｔｒａｎ、Ｐｙｔｈｏｎ、Ｊａｖａなど）に基づくＣＵＤＡプログラミング言語で書かれる。少なくとも１つの実施例では、及びＣＵＤＡコンパイル・コマンド３６４８に応答して、ＣＵＤＡコンパイラ３６５０は、ホスト実行可能コード３６７０（１）及びＣＵＤＡデバイス実行可能コード３６８４を生成する（Ａ２とアノテーション付けされたバブルで図示される）。少なくとも１つの実施例では、及びＡ３とアノテーション付けされたバブルで図示されているように、ホスト実行可能コード３６７０（１）及びＣＵＤＡデバイス実行可能コード３６８４は、それぞれ、ＣＰＵ３６９０及びＣＵＤＡ対応ＧＰＵ３６９４上で実行され得る。少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３６８４は、限定はしないが、バイナリ・コードを含む。少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３６８４は、限定はしないが、ＰＴＸコードを含み、ランタイムにおいて特定のターゲット・デバイスのためのバイナリ・コードにさらにコンパイルされる。

【0282】

少なくとも１つの実施例において実装され得る間接的ＣＵＤＡフローは、点線及びＢ１～Ｂ６とアノテーション付けされた一連のバブルを介して図示されている。少なくとも１つの実施例では、及びＢ１とアノテーション付けされたバブルで図示されているように、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０は、ＣＵＤＡソース・コード３６１０を受信する。少なくとも１つの実施例では、及びＢ２とアノテーション付けされたバブルで図示されているように、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０は、ＣＵＤＡソース・コード３６１０をＨＩＰソース・コード３６３０にトランスレートする。少なくとも１つの実施例では、及びＢ３とアノテーション付けされたバブルで図示されているように、ＨＩＰコンパイラ・ドライバ３６４０は、ＨＩＰソース・コード３６３０を受信し、ターゲット・デバイス３６４６がＣＵＤＡ対応であると決定する。

【0283】

少なくとも１つの実施例では、及びＢ４とアノテーション付けされたバブルで図示されているように、ＨＩＰコンパイラ・ドライバ３６４０は、ＨＩＰ／ＮＶＣＣコンパイル・コマンド３６４２を生成し、ＨＩＰ／ＮＶＣＣコンパイル・コマンド３６４２とＨＩＰソース・コード３６３０の両方をＣＵＤＡコンパイラ３６５０に送信する。少なくとも１つの実施例では、及び図３６Ｂと併せてより詳細に説明されるように、ＨＩＰ／ＮＶＣＣコンパイル・コマンド３６４２は、限定はしないが、ＨＩＰからＣＵＤＡへのトランスレーション・ヘッダ及びＣＵＤＡランタイム・ライブラリを使用してＨＩＰソース・コード３６３０をコンパイルするようにＣＵＤＡコンパイラ３６５０を構成する。少なくとも１つの実施例では、及びＨＩＰ／ＮＶＣＣコンパイル・コマンド３６４２に応答して、ＣＵＤＡコンパイラ３６５０は、ホスト実行可能コード３６７０（１）及びＣＵＤＡデバイス実行可能コード３６８４を生成する（Ｂ５とアノテーション付けされたバブルで図示される）。少なくとも１つの実施例では、及びＢ６とアノテーション付けされたバブルで図示されているように、ホスト実行可能コード３６７０（１）及びＣＵＤＡデバイス実行可能コード３６８４は、それぞれ、ＣＰＵ３６９０及びＣＵＤＡ対応ＧＰＵ３６９４上で実行され得る。少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３６８４は、限定はしないが、バイナリ・コードを含む。少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３６８４は、限定はしないが、ＰＴＸコードを含み、ランタイムにおいて特定のターゲット・デバイスのためのバイナリ・コードにさらにコンパイルされる。

【0284】

少なくとも１つの実施例において実装され得るＣＵＤＡ／ＨＣＣフローは、実線及びＣ１～Ｃ６とアノテーション付けされた一連のバブルを介して図示されている。少なくとも１つの実施例では、及びＣ１とアノテーション付けされたバブルで図示されているように、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０は、ＣＵＤＡソース・コード３６１０を受信する。少なくとも１つの実施例では、及びＣ２とアノテーション付けされたバブルで図示されているように、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０は、ＣＵＤＡソース・コード３６１０をＨＩＰソース・コード３６３０にトランスレートする。少なくとも１つの実施例では、及びＣ３とアノテーション付けされたバブルで図示されているように、ＨＩＰコンパイラ・ドライバ３６４０は、ＨＩＰソース・コード３６３０を受信し、ターゲット・デバイス３６４６がＣＵＤＡ対応でないと決定する。

【0285】

少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３６４０は、ＨＩＰ／ＨＣＣコンパイル・コマンド３６４４を生成し、ＨＩＰ／ＨＣＣコンパイル・コマンド３６４４とＨＩＰソース・コード３６３０の両方をＨＣＣ３６６０に送信する（Ｃ４とアノテーション付けされたバブルで図示される）。少なくとも１つの実施例では、及び図３６Ｃと併せてより詳細に説明されるように、ＨＩＰ／ＨＣＣコンパイル・コマンド３６４４は、限定はしないが、ＨＣＣヘッダ及びＨＩＰ／ＨＣＣランタイム・ライブラリを使用してＨＩＰソース・コード３６３０をコンパイルするようにＨＣＣ３６６０を構成する。少なくとも１つの実施例では、及びＨＩＰ／ＨＣＣコンパイル・コマンド３６４４に応答して、ＨＣＣ３６６０は、ホスト実行可能コード３６７０（２）及びＨＣＣデバイス実行可能コード３６８２を生成する（Ｃ５とアノテーション付けされたバブルで図示される）。少なくとも１つの実施例では、及びＣ６とアノテーション付けされたバブルで図示されているように、ホスト実行可能コード３６７０（２）及びＨＣＣデバイス実行可能コード３６８２は、それぞれ、ＣＰＵ３６９０及びＧＰＵ３６９２上で実行され得る。

【0286】

少なくとも１つの実施例では、ＣＵＤＡソース・コード３６１０がＨＩＰソース・コード３６３０にトランスレートされた後に、ＨＩＰコンパイラ・ドライバ３６４０は、その後、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０を再実行することなしに、ＣＵＤＡ対応ＧＰＵ３６９４又はＧＰＵ３６９２のいずれかのための実行可能コードを生成するために使用され得る。少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０は、ＣＵＤＡソース・コード３６１０をＨＩＰソース・コード３６３０にトランスレートし、ＨＩＰソース・コード３６３０は、次いで、メモリに記憶される。少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３６４０は、次いで、ＨＩＰソース・コード３６３０に基づいてホスト実行可能コード３６７０（２）及びＨＣＣデバイス実行可能コード３６８２を生成するようにＨＣＣ３６６０を構成する。少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３６４０は、その後、記憶されたＨＩＰソース・コード３６３０に基づいてホスト実行可能コード３６７０（１）及びＣＵＤＡデバイス実行可能コード３６８４を生成するようにＣＵＤＡコンパイラ３６５０を構成する。

【0287】

図３６Ｂは、少なくとも１つの実施例による、ＣＰＵ３６９０及びＣＵＤＡ対応ＧＰＵ３６９４を使用して、図３６ＡのＣＵＤＡソース・コード３６１０をコンパイル及び実行するように構成されたシステム３６０４を示す。少なくとも１つの実施例では、システム３６０４は、限定はしないが、ＣＵＤＡソース・コード３６１０と、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０と、ＨＩＰソース・コード３６３０と、ＨＩＰコンパイラ・ドライバ３６４０と、ＣＵＤＡコンパイラ３６５０と、ホスト実行可能コード３６７０（１）と、ＣＵＤＡデバイス実行可能コード３６８４と、ＣＰＵ３６９０と、ＣＵＤＡ対応ＧＰＵ３６９４とを含む。

【0288】

少なくとも１つの実施例では、及び図３６Ａと併せて本明細書で前に説明されたように、ＣＵＤＡソース・コード３６１０は、限定はしないが、（ゼロを含む）任意の数のグローバル機能３６１２と、（ゼロを含む）任意の数のデバイス機能３６１４と、（ゼロを含む）任意の数のホスト機能３６１６と、（ゼロを含む）任意の数のホスト／デバイス機能３６１８とを含む。少なくとも１つの実施例では、ＣＵＤＡソース・コード３６１０は、限定はしないが、任意の数のＣＵＤＡ ＡＰＩにおいて指定される任意の数の機能への任意の数のコールをも含む。

【0289】

少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０は、ＣＵＤＡソース・コード３６１０をＨＩＰソース・コード３６３０にトランスレートする。少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０は、ＣＵＤＡソース・コード３６１０中の各カーネル・コールを、ＣＵＤＡシンタックスからＨＩＰシンタックスにコンバートし、ＣＵＤＡソース・コード３６１０中の任意の数の他のＣＵＤＡコールを、任意の数の他の機能的に同様のＨＩＰコールにコンバートする。

【0290】

少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３６４０は、ターゲット・デバイス３６４６がＣＵＤＡ対応であると決定し、ＨＩＰ／ＮＶＣＣコンパイル・コマンド３６４２を生成する。少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３６４０は、次いで、ＨＩＰソース・コード３６３０をコンパイルするようにＨＩＰ／ＮＶＣＣコンパイル・コマンド３６４２を介してＣＵＤＡコンパイラ３６５０を構成する。少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３６４０は、ＣＵＤＡコンパイラ３６５０を構成することの一部として、ＨＩＰからＣＵＤＡへのトランスレーション・ヘッダ３６５２へのアクセスを提供する。少なくとも１つの実施例では、ＨＩＰからＣＵＤＡへのトランスレーション・ヘッダ３６５２は、任意の数のＨＩＰ ＡＰＩにおいて指定された任意の数の機構（たとえば、機能）を、任意の数のＣＵＤＡ ＡＰＩにおいて指定された任意の数の機構にトランスレートする。少なくとも１つの実施例では、ＣＵＤＡコンパイラ３６５０は、ホスト実行可能コード３６７０（１）及びＣＵＤＡデバイス実行可能コード３６８４を生成するために、ＣＵＤＡランタイムＡＰＩ３６０２に対応するＣＵＤＡランタイム・ライブラリ３６５４と併せて、ＨＩＰからＣＵＤＡへのトランスレーション・ヘッダ３６５２を使用する。少なくとも１つの実施例では、ホスト実行可能コード３６７０（１）及びＣＵＤＡデバイス実行可能コード３６８４は、次いで、それぞれ、ＣＰＵ３６９０及びＣＵＤＡ対応ＧＰＵ３６９４上で実行され得る。少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３６８４は、限定はしないが、バイナリ・コードを含む。少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３６８４は、限定はしないが、ＰＴＸコードを含み、ランタイムにおいて特定のターゲット・デバイスのためのバイナリ・コードにさらにコンパイルされる。

【0291】

図３６Ｃは、少なくとも１つの実施例による、ＣＰＵ３６９０及びＣＵＤＡ非対応ＧＰＵ３６９２を使用して、図３６ＡのＣＵＤＡソース・コード３６１０をコンパイル及び実行するように構成されたシステム３６０６を示す。少なくとも１つの実施例では、システム３６０６は、限定はしないが、ＣＵＤＡソース・コード３６１０と、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０と、ＨＩＰソース・コード３６３０と、ＨＩＰコンパイラ・ドライバ３６４０と、ＨＣＣ３６６０と、ホスト実行可能コード３６７０（２）と、ＨＣＣデバイス実行可能コード３６８２と、ＣＰＵ３６９０と、ＧＰＵ３６９２とを含む。

【0292】

少なくとも１つの実施例では、及び図３６Ａと併せて本明細書で前に説明されたように、ＣＵＤＡソース・コード３６１０は、限定はしないが、（ゼロを含む）任意の数のグローバル機能３６１２と、（ゼロを含む）任意の数のデバイス機能３６１４と、（ゼロを含む）任意の数のホスト機能３６１６と、（ゼロを含む）任意の数のホスト／デバイス機能３６１８とを含む。少なくとも１つの実施例では、ＣＵＤＡソース・コード３６１０は、限定はしないが、任意の数のＣＵＤＡ ＡＰＩにおいて指定される任意の数の機能への任意の数のコールをも含む。

【0293】

少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０は、ＣＵＤＡソース・コード３６１０をＨＩＰソース・コード３６３０にトランスレートする。少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０は、ＣＵＤＡソース・コード３６１０中の各カーネル・コールを、ＣＵＤＡシンタックスからＨＩＰシンタックスにコンバートし、ソース・コード３６１０中の任意の数の他のＣＵＤＡコールを、任意の数の他の機能的に同様のＨＩＰコールにコンバートする。

【0294】

少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３６４０は、その後、ターゲット・デバイス３６４６がＣＵＤＡ対応でないと決定し、ＨＩＰ／ＨＣＣコンパイル・コマンド３６４４を生成する。少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３６４０は、次いで、ＨＩＰソース・コード３６３０をコンパイルするためにＨＩＰ／ＨＣＣコンパイル・コマンド３６４４を実行するようにＨＣＣ３６６０を構成する。少なくとも１つの実施例では、ＨＩＰ／ＨＣＣコンパイル・コマンド３６４４は、限定はしないが、ホスト実行可能コード３６７０（２）及びＨＣＣデバイス実行可能コード３６８２を生成するためにＨＩＰ／ＨＣＣランタイム・ライブラリ３６５８及びＨＣＣヘッダ３６５６を使用するようにＨＣＣ３６６０を構成する。少なくとも１つの実施例では、ＨＩＰ／ＨＣＣランタイム・ライブラリ３６５８は、ＨＩＰランタイムＡＰＩ３６３２に対応する。少なくとも１つの実施例では、ＨＣＣヘッダ３６５６は、限定はしないが、ＨＩＰ及びＨＣＣのための任意の数及びタイプの相互運用性機構を含む。少なくとも１つの実施例では、ホスト実行可能コード３６７０（２）及びＨＣＣデバイス実行可能コード３６８２は、それぞれ、ＣＰＵ３６９０及びＧＰＵ３６９２上で実行され得る。

【0295】

少なくとも１つの実施例では、図３６Ａ～図３６Ｃに図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３６Ａ～図３６Ｃに図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３６Ａ～図３６Ｃに図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３６Ａ～図３６Ｃに図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0296】

図３７は、少なくとも１つの実施例による、図３６ＣのＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０によってトランスレートされた例示的なカーネルを示す。少なくとも１つの実施例では、ＣＵＤＡソース・コード３６１０は、所与のカーネルが解くように設計される全体的な問題を、スレッド・ブロックを使用して独立して解かれ得る比較的粗いサブ問題に区分けする。少なくとも１つの実施例では、各スレッド・ブロックは、限定はしないが、任意の数のスレッドを含む。少なくとも１つの実施例では、各サブ問題は、スレッド・ブロック内のスレッドによって並列に連動して解かれ得る比較的細かい部片に区分けされる。少なくとも１つの実施例では、スレッド・ブロック内のスレッドは、共有メモリを通してデータを共有することによって、及びメモリ・アクセスを協調させるために実行を同期させることによって連動することができる。

【0297】

少なくとも１つの実施例では、ＣＵＤＡソース・コード３６１０は、所与のカーネルに関連するスレッド・ブロックを、スレッド・ブロックの１次元グリッド、２次元グリッド、又は３次元グリッドに組織化する。少なくとも１つの実施例では、各スレッド・ブロックは、限定はしないが、任意の数のスレッドを含み、グリッドは、限定はしないが、任意の数のスレッド・ブロックを含む。

【0298】

少なくとも１つの実施例では、カーネルは、「＿＿ｇｌｏｂａｌ＿＿」宣言指定子（ｄｅｃｌａｒａｔｉｏｎ ｓｐｅｃｉｆｉｅｒ）を使用して定義されるデバイス・コード中の関数である。少なくとも１つの実施例では、所与のカーネル・コール及び関連するストリームについてカーネルを実行するグリッドの次元は、ＣＵＤＡカーネル起動シンタックス３７１０を使用して指定される。少なくとも１つの実施例では、ＣＵＤＡカーネル起動シンタックス３７１０は、「ＫｅｒｎｅｌＮａｍｅ＜＜＜ＧｒｉｄＳｉｚｅ，ＢｌｏｃｋＳｉｚｅ，ＳｈａｒｅｄＭｅｍｏｒｙＳｉｚｅ，Ｓｔｒｅａｍ＞＞＞（ＫｅｒｎｅｌＡｒｇｕｍｅｎｔｓ）；」として指定される。少なくとも１つの実施例では、実行構成シンタックスは、カーネル名（「ＫｅｒｎｅｌＮａｍｅ」）とカーネル引数の括弧に入れられたリスト（「ＫｅｒｎｅｌＡｒｇｕｍｅｎｔｓ」）との間に挿入される「＜＜＜．．．＞＞＞」構築物である。少なくとも１つの実施例では、ＣＵＤＡカーネル起動シンタックス３７１０は、限定はしないが、実行構成シンタックスの代わりにＣＵＤＡ起動機能シンタックスを含む。

【0299】

少なくとも１つの実施例では、「ＧｒｉｄＳｉｚｅ」は、タイプｄｉｍ３のものであり、グリッドの次元及びサイズを指定する。少なくとも１つの実施例では、タイプｄｉｍ３は、限定はしないが、符号なし整数ｘ、ｙ、及びｚを含む、ＣＵＤＡ定義構造である。少なくとも１つの実施例では、ｚが指定されない場合、ｚは１にデフォルト設定される。少なくとも１つの実施例では、ｙが指定されない場合、ｙは１にデフォルト設定される。少なくとも１つの実施例では、グリッド中のスレッド・ブロックの数は、ＧｒｉｄＳｉｚｅ．ｘとＧｒｉｄＳｉｚｅ．ｙとＧｒｉｄＳｉｚｅ．ｚとの積に等しい。少なくとも１つの実施例では、「ＢｌｏｃｋＳｉｚｅ」は、タイプｄｉｍ３のものであり、各スレッド・ブロックの次元及びサイズを指定する。少なくとも１つの実施例では、スレッド・ブロックごとのスレッドの数は、ＢｌｏｃｋＳｉｚｅ．ｘとＢｌｏｃｋＳｉｚｅ．ｙとＢｌｏｃｋＳｉｚｅ．ｚとの積に等しい。少なくとも１つの実施例では、カーネルを実行する各スレッドは、組み込み変数（たとえば、「ｔｈｒｅａｄＩｄｘ」）を通してカーネル内でアクセス可能である一意のスレッドＩＤを与えられる。

【0300】

少なくとも１つの実施例では、及びＣＵＤＡカーネル起動シンタックス３７１０に関して、「ＳｈａｒｅｄＭｅｍｏｒｙＳｉｚｅ」は、静的に割り振られたメモリに加えて、所与のカーネル・コールについてスレッド・ブロックごとに動的に割り振られる共有メモリ中のバイトの数を指定する随意の引数である。少なくとも１つの実施例では、及びＣＵＤＡカーネル起動シンタックス３７１０に関して、ＳｈａｒｅｄＭｅｍｏｒｙＳｉｚｅは０にデフォルト設定される。少なくとも１つの実施例では、及びＣＵＤＡカーネル起動シンタックス３７１０に関して、「Ｓｔｒｅａｍ」は、関連するストリームを指定する随意の引数であり、デフォルト・ストリームを指定するために０にデフォルト設定される。少なくとも１つの実施例では、ストリームは、イン・オーダーで実行する（場合によっては、異なるホスト・スレッドによって発行された）コマンドのシーケンスである。少なくとも１つの実施例では、異なるストリームは、互いに対してアウト・オブ・オーダーで、又は同時に、コマンドを実行し得る。

【0301】

少なくとも１つの実施例では、ＣＵＤＡソース・コード３６１０は、限定はしないが、例示的なカーネル「ＭａｔＡｄｄ」のためのカーネル定義とメイン関数とを含む。少なくとも１つの実施例では、メイン関数は、ホスト上で実行し、限定はしないが、カーネルＭａｔＡｄｄにデバイス上で実行させるカーネル・コールを含む、ホスト・コードである。少なくとも１つの実施例では、及び示されているように、カーネルＭａｔＡｄｄは、Ｎが正の整数である、サイズＮ×Ｎの２つの行列ＡとＢとを加算し、結果を行列Ｃに記憶する。少なくとも１つの実施例では、メイン関数は、ｔｈｒｅａｄｓＰｅｒＢｌｏｃｋ変数を１６×１６として定義し、ｎｕｍＢｌｏｃｋｓ変数をＮ／１６×Ｎ／１６として定義する。少なくとも１つの実施例では、メイン関数は、次いで、カーネル・コール「ＭａｔＡｄｄ＜＜＜ｎｕｍＢｌｏｃｋｓ，ｔｈｒｅａｄｓＰｅｒＢｌｏｃｋ＞＞＞（Ａ，Ｂ，Ｃ）；」を指定する。少なくとも１つの実施例では、及びＣＵＤＡカーネル起動シンタックス３７１０通りに、カーネルＭａｔＡｄｄは、寸法Ｎ／１６×Ｎ／１６を有する、スレッド・ブロックのグリッドを使用して実行され、ここで、各スレッド・ブロックは、１６×１６の寸法を有する。少なくとも１つの実施例では、各スレッド・ブロックは、２５６個のスレッドを含み、グリッドは、行列要素ごとに１つのスレッドを有するのに十分なブロックで作成され、そのようなグリッド中の各スレッドは、１つのペアワイズ加算を実施するためにカーネルＭａｔＡｄｄを実行する。

【0302】

少なくとも１つの実施例では、ＣＵＤＡソース・コード３６１０をＨＩＰソース・コード３６３０にトランスレートする間、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３６２０は、ＣＵＤＡソース・コード３６１０中の各カーネル・コールを、ＣＵＤＡカーネル起動シンタックス３７１０からＨＩＰカーネル起動シンタックス３７２０にトランスレートし、ソース・コード３６１０中の任意の数の他のＣＵＤＡコールを、任意の数の他の機能的に同様のＨＩＰコールにコンバートする。少なくとも１つの実施例では、ＨＩＰカーネル起動シンタックス３７２０は、「ｈｉｐＬａｕｎｃｈＫｅｒｎｅｌＧＧＬ（ＫｅｒｎｅｌＮａｍｅ，ＧｒｉｄＳｉｚｅ，ＢｌｏｃｋＳｉｚｅ，ＳｈａｒｅｄＭｅｍｏｒｙＳｉｚｅ，Ｓｔｒｅａｍ，ＫｅｒｎｅｌＡｒｇｕｍｅｎｔｓ）；」として指定される。少なくとも１つの実施例では、ＫｅｒｎｅｌＮａｍｅ、ＧｒｉｄＳｉｚｅ、ＢｌｏｃｋＳｉｚｅ、ＳｈａｒｅＭｅｍｏｒｙＳｉｚｅ、Ｓｔｒｅａｍ、及びＫｅｒｎｅｌＡｒｇｕｍｅｎｔｓの各々は、ＨＩＰカーネル起動シンタックス３７２０において、（本明細書で前に説明された）ＣＵＤＡカーネル起動シンタックス３７１０の場合と同じ意味を有する。少なくとも１つの実施例では、引数ＳｈａｒｅｄＭｅｍｏｒｙＳｉｚｅ及びＳｔｒｅａｍは、ＨＩＰカーネル起動シンタックス３７２０では必要とされ、ＣＵＤＡカーネル起動シンタックス３７１０では随意である。

【0303】

少なくとも１つの実施例では、図３７に図示されたＨＩＰソース・コード３６３０の一部分は、カーネルＭａｔＡｄｄにデバイス上で実行させるカーネル・コールを除いて、図３７に図示されたＣＵＤＡソース・コード３６１０の一部分と同一である。少なくとも１つの実施例では、カーネルＭａｔＡｄｄは、カーネルＭａｔＡｄｄがＣＵＤＡソース・コード３６１０において定義される、同じ「＿＿ｇｌｏｂａｌ＿＿」宣言指定子を用いて、ＨＩＰソース・コード３６３０において定義される。少なくとも１つの実施例では、ＨＩＰソース・コード３６３０中のカーネル・コールは、「ｈｉｐＬａｕｎｃｈＫｅｒｎｅｌＧＧＬ（ＭａｔＡｄｄ，ｎｕｍＢｌｏｃｋｓ，ｔｈｒｅａｄｓＰｅｒＢｌｏｃｋ，０，０，Ａ，Ｂ，Ｃ）；」であるが、ＣＵＤＡソース・コード３６１０中の対応するカーネル・コールは、「ＭａｔＡｄｄ＜＜＜ｎｕｍＢｌｏｃｋｓ，ｔｈｒｅａｄｓＰｅｒＢｌｏｃｋ＞＞＞（Ａ，Ｂ，Ｃ）；」である。

【0304】

少なくとも１つの実施例では、図３７に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３７に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３７に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３７に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0305】

図３８は、少なくとも１つの実施例による、図３６ＣのＣＵＤＡ非対応ＧＰＵ３６９２をより詳細に示す。少なくとも１つの実施例では、ＧＰＵ３６９２は、サンタクララのＡＭＤ ｃｏｒｐｏｒａｔｉｏｎによって開発される。少なくとも１つの実施例では、ＧＰＵ３６９２は、高度並列様式でコンピュート動作を実施するように構成され得る。少なくとも１つの実施例では、ＧＰＵ３６９２は、描画コマンド、ピクセル動作、幾何学的算出、及びディスプレイに画像をレンダリングすることに関連する他の動作など、グラフィックス・パイプライン動作を実行するように構成される。少なくとも１つの実施例では、ＧＰＵ３６９２は、グラフィックに関係しない動作を実行するように構成される。少なくとも１つの実施例では、ＧＰＵ３６９２は、グラフィックに関係する動作とグラフィックに関係しない動作の両方を実行するように構成される。少なくとも１つの実施例では、ＧＰＵ３６９２は、ＨＩＰソース・コード３６３０中に含まれるデバイス・コードを実行するように構成され得る。

【0306】

少なくとも１つの実施例では、ＧＰＵ３６９２は、限定はしないが、任意の数のプログラマブル処理ユニット３８２０と、コマンド・プロセッサ３８１０と、Ｌ２キャッシュ３８２２と、メモリ・コントローラ３８７０と、ＤＭＡエンジン３８８０（１）と、システム・メモリ・コントローラ３８８２と、ＤＭＡエンジン３８８０（２）と、ＧＰＵコントローラ３８８４とを含む。少なくとも１つの実施例では、各プログラマブル処理ユニット３８２０は、限定はしないが、ワークロード・マネージャ３８３０と、任意の数のコンピュート・ユニット３８４０とを含む。少なくとも１つの実施例では、コマンド・プロセッサ３８１０は、１つ又は複数のコマンド・キュー（図示せず）からコマンドを読み取り、ワークロード・マネージャ３８３０にコマンドを分散させる。少なくとも１つの実施例では、各プログラマブル処理ユニット３８２０について、関連するワークロード・マネージャ３８３０は、プログラマブル処理ユニット３８２０中に含まれるコンピュート・ユニット３８４０にワークを分散させる。少なくとも１つの実施例では、各コンピュート・ユニット３８４０は、任意の数のスレッド・ブロックを実行し得るが、各スレッド・ブロックは、単一のコンピュート・ユニット３８４０上で実行する。少なくとも１つの実施例では、ワークグループは、スレッド・ブロックである。

【0307】

少なくとも１つの実施例では、各コンピュート・ユニット３８４０は、限定はしないが、任意の数のＳＩＭＤユニット３８５０と、共有メモリ３８６０とを含む。少なくとも１つの実施例では、各ＳＩＭＤユニット３８５０は、ＳＩＭＤアーキテクチャを実装し、動作を並列に実施するように構成される。少なくとも１つの実施例では、各ＳＩＭＤユニット３８５０は、限定はしないが、ベクトルＡＬＵ３８５２とベクトル・レジスタ・ファイル３８５４とを含む。少なくとも１つの実施例では、各ＳＩＭＤユニット３８５０は、異なるワープを実行する。少なくとも１つの実施例では、ワープは、スレッドのグループ（たとえば、１６個のスレッド）であり、ここで、ワープ中の各スレッドは、単一のスレッド・ブロックに属し、命令の単一のセットに基づいて、データの異なるセットを処理するように構成される。少なくとも１つの実施例では、ワープ中の１つ又は複数のスレッドを無効にするために、プレディケーションが使用され得る。少なくとも１つの実施例では、レーンはスレッドである。少なくとも１つの実施例では、ワーク・アイテムはスレッドである。少なくとも１つの実施例では、ウェーブフロントはワープである。少なくとも１つの実施例では、スレッド・ブロック中の異なるウェーブフロントは、互いに同期し、共有メモリ３８６０を介して通信し得る。

【0308】

少なくとも１つの実施例では、プログラマブル処理ユニット３８２０は、「シェーダ・エンジン」と呼ばれる。少なくとも１つの実施例では、各プログラマブル処理ユニット３８２０は、限定はしないが、コンピュート・ユニット３８４０に加えて、任意の量の専用グラフィックス・ハードウェアを含む。少なくとも１つの実施例では、各プログラマブル処理ユニット３８２０は、限定はしないが、（ゼロを含む）任意の数のジオメトリ・プロセッサと、（ゼロを含む）任意の数のラスターライザと、（ゼロを含む）任意の数のレンダー・バック・エンドと、ワークロード・マネージャ３８３０と、任意の数のコンピュート・ユニット３８４０とを含む。

【0309】

少なくとも１つの実施例では、コンピュート・ユニット３８４０は、Ｌ２キャッシュ３８２２を共有する。少なくとも１つの実施例では、Ｌ２キャッシュ３８２２は区分けされる。少なくとも１つの実施例では、ＧＰＵメモリ３８９０は、ＧＰＵ３６９２中のすべてのコンピュート・ユニット３８４０によってアクセス可能である。少なくとも１つの実施例では、メモリ・コントローラ３８７０及びシステム・メモリ・コントローラ３８８２は、ＧＰＵ３６９２とホストとの間のデータ転送を容易にし、ＤＭＡエンジン３８８０（１）は、ＧＰＵ３６９２とそのようなホストとの間の非同期メモリ転送を可能にする。少なくとも１つの実施例では、メモリ・コントローラ３８７０及びＧＰＵコントローラ３８８４は、ＧＰＵ３６９２と他のＧＰＵ３６９２との間のデータ転送を容易にし、ＤＭＡエンジン３８８０（２）は、ＧＰＵ３６９２と他のＧＰＵ３６９２との間の非同期メモリ転送を可能にする。

【0310】

少なくとも１つの実施例では、ＧＰＵ３６９２は、限定はしないが、ＧＰＵ３６９２の内部又は外部にあり得る、任意の数及びタイプの直接又は間接的にリンクされた構成要素にわたるデータ及び制御送信を容易にする、任意の量及びタイプのシステム相互接続を含む。少なくとも１つの実施例では、ＧＰＵ３６９２は、限定はしないが、任意の数及びタイプの周辺デバイスに結合される、任意の数及びタイプのＩ／Ｏインターフェース（たとえば、ＰＣＩｅ）を含む。少なくとも１つの実施例では、ＧＰＵ３６９２は、限定はしないが、（ゼロを含む）任意の数のディスプレイ・エンジンと、（ゼロを含む）任意の数のマルチメディア・エンジンとを含み得る。少なくとも１つの実施例では、ＧＰＵ３６９２は、限定はしないが、１つの構成要素に専用であるか又は複数の構成要素の間で共有され得る、任意の量及びタイプのメモリ・コントローラ（たとえば、メモリ・コントローラ３８７０及びシステム・メモリ・コントローラ３８８２）及びメモリ・デバイス（たとえば、共有メモリ３８６０）を含む、メモリ・サブシステムを実装する。少なくとも１つの実施例では、ＧＰＵ３６９２は、限定はしないが、１つ又は複数のキャッシュ・メモリ（たとえば、Ｌ２キャッシュ３８２２）を含む、キャッシュ・サブシステムを実装し、１つ又は複数のキャッシュ・メモリは、各々、任意の数の構成要素（たとえば、ＳＩＭＤユニット３８５０、コンピュート・ユニット３８４０、及びプログラマブル処理ユニット３８２０）に対してプライベートであるか、又は任意の数の構成要素間で共有され得る。

【0311】

少なくとも１つの実施例では、図３８に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３８に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３８に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３８に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0312】

図３９は、少なくとも１つの実施例による、例示的なＣＵＤＡグリッド３９２０のスレッドが図３８の異なるコンピュート・ユニット３８４０にどのようにマッピングされるかを示す。少なくとも１つの実施例では、及び単に説明目的のために、グリッド３９２０は、ＢＸ×ＢＹ×１のＧｒｉｄＳｉｚｅと、ＴＸ×ＴＹ×１のＢｌｏｃｋＳｉｚｅとを有する。少なくとも１つの実施例では、グリッド３９２０は、したがって、限定はしないが、（ＢＸ＊ＢＹ）個のスレッド・ブロック３９３０を含み、各スレッド・ブロック３９３０は、限定はしないが、（ＴＸ＊ＴＹ）個のスレッド３９４０を含む。スレッド３９４０は、曲がりくねった矢印（ｓｑｕｉｇｇｌｙ ａｒｒｏｗ）として図３９に図示されている。

【0313】

少なくとも１つの実施例では、グリッド３９２０は、限定はしないが、コンピュート・ユニット３８４０（１）～３８４０（Ｃ）を含むプログラマブル処理ユニット３８２０（１）にマッピングされる。少なくとも１つの実施例では、及び示されているように、（ＢＪ＊ＢＹ）個のスレッド・ブロック３９３０が、コンピュート・ユニット３８４０（１）にマッピングされ、残りのスレッド・ブロック３９３０が、コンピュート・ユニット３８４０（２）にマッピングされる。少なくとも１つの実施例では、各スレッド・ブロック３９３０は、限定はしないが、任意の数のワープを含み得、各ワープは、図３８の異なるＳＩＭＤユニット３８５０にマッピングされる。

【0314】

少なくとも１つの実施例では、所与のスレッド・ブロック３９３０中のワープは、互いに同期し、関連するコンピュート・ユニット３８４０中に含まれる共有メモリ３８６０を通して通信し得る。たとえば、及び少なくとも１つの実施例では、スレッド・ブロック３９３０（ＢＪ，１）中のワープは、互いに同期し、共有メモリ３８６０（１）を通して通信することができる。たとえば、及び少なくとも１つの実施例では、スレッド・ブロック３９３０（ＢＪ＋１，１）中のワープは、互いに同期し、共有メモリ３８６０（２）を通して通信することができる。

【0315】

少なくとも１つの実施例では、図３９に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３９に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３９に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図３９に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0316】

図４０は、少なくとも１つの実施例による、既存のＣＵＤＡコードをＤａｔａ Ｐａｒａｌｌｅｌ Ｃ＋＋コードにどのようにマイグレートするかを示す。Ｄａｔａ Ｐａｒａｌｌｅｌ Ｃ＋＋（ＤＰＣ＋＋）は、単一アーキテクチャ・プロプライエタリ言語に対するオープンな規格ベースの代替を指し得、これは、開発者が、ハードウェア・ターゲット（ＣＰＵ並びにＧＰＵ及びＦＰＧＡなどのアクセラレータ）にわたってコードを再使用し、また、特定のアクセラレータのためのカスタム調整を実施することを可能にする。ＤＰＣ＋＋は、開発者が精通していることがあるＩＳＯ Ｃ＋＋に従う、同様の及び／又は同一のＣ及びＣ＋＋構築物を使用する。ＤＰＣ＋＋は、データ並列処理及び異種プログラミングをサポートするためにクロノス・グループからの標準ＳＹＣＬを組み込む。ＳＹＣＬは、ＯｐｅｎＣＬの基礎をなす概念、ポータビリティ及び効率に基づく、クロスプラットフォーム抽象化層を指し、これは、異種プロセッサのためのコードが、標準Ｃ＋＋を使用して「単一ソース」スタイルで書かれることを可能にする。ＳＹＣＬは、Ｃ＋＋テンプレート関数が、ホスト・コードとデバイス・コードの両方を含んでおり、ＯｐｅｎＣＬ加速を使用する複雑なアルゴリズムを構築し、次いで、それらを、異なるタイプのデータに関するそれらのソース・コード全体にわたって再使用することができる、単一ソース開発を可能にし得る。

【0317】

少なくとも１つの実施例では、ＤＰＣ＋＋コンパイラは、多様なハードウェア・ターゲットにわたって導入され得るＤＰＣ＋＋ソース・コードをコンパイルするために使用される。少なくとも１つの実施例では、ＤＰＣ＋＋コンパイラは、多様なハードウェア・ターゲットにわたって導入され得るＤＰＣ＋＋アプリケーションを生成するために使用され、ＤＰＣ＋＋互換性ツールは、ＣＵＤＡアプリケーションをＤＰＣ＋＋のマルチプラットフォーム・プログラムにマイグレートするために使用され得る。少なくとも１つの実施例では、ＤＰＣ＋＋ベース・ツール・キットは、多様なハードウェア・ターゲットにわたってアプリケーションを導入するためのＤＰＣ＋＋コンパイラと、ＣＰＵ、ＧＰＵ、及びＦＰＧＡにわたって生産性及び性能を増加させるためのＤＰＣ＋＋ライブラリと、ＣＵＤＡアプリケーションをマルチプラットフォーム・アプリケーションにマイグレートするためのＤＰＣ＋＋互換性ツールと、それらの任意の好適な組合せとを含む。

【0318】

少なくとも１つの実施例では、ＤＰＣ＋＋プログラミング・モデルは、Ｄａｔａ Ｐａｒａｌｌｅｌ Ｃ＋＋と呼ばれるプログラミング言語を用いて並列処理を表現するための現代のＣ＋＋特徴を使用することによって、単に、ＣＰＵ及びアクセラレータをプログラムすることに関係する１つ又は複数の態様に対して利用される。ＤＰＣ＋＋プログラミング言語は、ホスト（たとえば、ＣＰＵ）及びアクセラレータ（たとえば、ＧＰＵ又はＦＰＧＡ）のためのコード再使用に対して利用され、単一のソース言語を使用し、実行及びメモリ依存性が明確に通信され得る。ＤＰＣ＋＋コード内でのマッピングは、アプリケーションを移行させて、ワークロードを最も良く加速するハードウェア又はハードウェア・デバイスのセット上で稼働するために、使用され得る。利用可能なアクセラレータを有しないプラットフォーム上でも、デバイス・コードの開発及びデバッギングを簡略化するために、ホストが利用可能であり得る。

【0319】

少なくとも１つの実施例では、人間が読み取れるＤＰＣ＋＋４００４を生成するために、ＤＰＣ＋＋互換性ツール４００２への入力として、ＣＵＤＡソース・コード４０００が提供される。少なくとも１つの実施例では、人間が読み取れるＤＰＣ＋４００４は、ＤＰＣ＋＋互換性ツール４００２によって生成されたインライン・コメントを含み、これは、コーディングと所望の性能への調整とを完了４００６するために、ＤＰＣ＋＋コードをどのように及び／又はどこで修正すべきかに関して開発者をガイドし、それにより、ＤＰＣ＋＋ソース・コード４００８を生成する。

【0320】

少なくとも１つの実施例では、ＣＵＤＡソース・コード４０００は、ＣＵＤＡプログラミング言語の人間が読み取れるソース・コードの集合であるか、又はその集合を含む。少なくとも１つの実施例では、ＣＵＤＡソース・コード４０００は、ＣＵＤＡプログラミング言語の人間が読み取れるソース・コードである。少なくとも１つの実施例では、ＣＵＤＡプログラミング言語は、限定はしないが、デバイス・コードを定義し、デバイス・コードとホスト・コードとを区別するための機構を含む、Ｃ＋＋プログラミング言語の拡張である。少なくとも１つの実施例では、デバイス・コードは、コンパイルの後に、デバイス（たとえば、ＧＰＵ又はＦＰＧＡ）上で実行可能であり、デバイスの１つ又は複数のプロセッサ・コア上で実行され得る、又はより並列化可能なワークフローを含み得る、ソース・コードである。少なくとも１つの実施例では、デバイスは、ＣＵＤＡ対応ＧＰＵ、ＧＰＵ、又は別のＧＰＧＰＵなど、並列命令処理のために最適化されるプロセッサであり得る。少なくとも１つの実施例では、ホスト・コードは、コンパイルの後にホスト上で実行可能であるソース・コードである。少なくとも１つの実施例では、ホスト・コード及びデバイス・コードの一部又は全部は、ＣＰＵ及びＧＰＵ／ＦＰＧＡにわたって並列に実行され得る。少なくとも１つの実施例では、ホストは、ＣＰＵなど、連続命令処理のために最適化されるプロセッサである。図４０に関して説明されるＣＵＤＡソース・コード４０００は、本明細書の他の場所で説明されるＣＵＤＡソース・コードに従い得る。

【0321】

少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４００２は、ＤＰＣ＋＋ソース・コード４００８へのＣＵＤＡソース・コード４０００のマイグレーションを容易にするために使用される、実行可能ツール、プログラム、アプリケーション、又は任意の他の好適なタイプのツールを指す。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４００２は、既存のＣＵＤＡソースをＤＰＣ＋＋に移植するために使用されるＤＰＣ＋＋ツール・キットの一部として利用可能なコマンド・ライン・ベースのコード・マイグレーション・ツールである。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４００２は、ＣＵＤＡアプリケーションの一部又は全部のソース・コードをＣＵＤＡからＤＰＣ＋＋にコンバートし、人間が読み取れるＤＰＣ＋＋４００４と呼ばれる、少なくとも部分的にＤＰＣ＋＋で書かれる得られたファイルを生成する。少なくとも１つの実施例では、人間が読み取れるＤＰＣ＋＋４００４は、ユーザ介入がどこで必要であり得るかを示すためにＤＰＣ＋＋互換性ツール４００２によって生成されるコメントを含む。少なくとも１つの実施例では、ユーザ介入は、ＣＵＤＡソース・コード４０００が、類似するＤＰＣ＋＋ＡＰＩを有しないＣＵＤＡ ＡＰＩをコールするとき、必要であり、ユーザ介入が必要とされる他の実例は、後でより詳細に説明される。

【0322】

少なくとも１つの実施例では、ＣＵＤＡソース・コード４０００（たとえば、アプリケーション又はそれの部分）をマイグレートするためのワークフローは、１つ又は複数のコンパイル・データベース・ファイルを作成することと、ＤＰＣ＋＋互換性ツール４００２を使用してＣＵＤＡをＤＰＣ＋＋にマイグレートすることと、マイグレーションを完了し、正当性を確認し、それにより、ＤＰＣ＋＋ソース・コード４００８を生成することと、ＤＰＣ＋＋アプリケーションを生成するためにＤＰＣ＋＋コンパイラを用いてＤＰＣ＋＋ソース・コード４００８をコンパイルすることとを含む。少なくとも１つの実施例では、互換性ツールは、Ｍａｋｅｆｉｌｅが実行するときに使用されるコマンドをインターセプトし、それらをコンパイル・データベース・ファイルに記憶する、ユーティリティを提供する。少なくとも１つの実施例では、ファイルは、ＪＳＯＮフォーマットで記憶される。少なくとも１つの実施例では、ｉｎｔｅｒｃｅｐｔ－ｂｕｉｌｔコマンドは、ＭａｋｅｆｉｌｅコマンドをＤＰＣ互換性コマンドにコンバートする。

【0323】

少なくとも１つの実施例では、ｉｎｔｅｒｃｅｐｔ－ｂｕｉｌｄは、ビルド・プロセスをインターセプトして、コンパイル・オプション、マクロ定義（ｍａｃｒｏ ｄｅｆｓ）、及びインクルード・パス（ｉｎｃｌｕｄｅ ｐａｔｈｓ）をキャプチャし、このデータをコンパイル・データベース・ファイルに書き込む、ユーティリティ・スクリプトである。少なくとも１つの実施例では、コンパイル・データベース・ファイルは、ＪＳＯＮファイルである。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４００２は、コンパイル・データベースを構文解析し、入力ソースをマイグレートするときにオプションを適用する。少なくとも１つの実施例では、ｉｎｔｅｒｃｅｐｔ－ｂｕｉｌｄの使用は、随意であるが、Ｍａｋｅ又はＣＭａｋｅベースの環境について大いに推奨される。少なくとも１つの実施例では、マイグレーション・データベースは、コマンドとディレクトリとファイルとを含み、コマンドは、必要なコンパイル・フラグを含み得、ディレクトリは、ヘッダ・ファイルへのパスを含み得、ファイルは、ＣＵＤＡファイルへのパスを含み得る。

【0324】

少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４００２は、可能な場合はいつでもＤＰＣ＋＋を生成することによって、ＣＵＤＡで書かれたＣＵＤＡコード（たとえば、アプリケーション）をＤＰＣ＋＋にマイグレートする。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４００２は、ツール・キットの一部として利用可能である。少なくとも１つの実施例では、ＤＰＣ＋＋ツール・キットは、ｉｎｔｅｒｃｅｐｔ－ｂｕｉｌｄツールを含む。少なくとも１つの実施例では、ｉｎｔｅｒｃｅｐｔ－ｂｕｉｌｔツールは、ＣＵＤＡファイルをマイグレートするためにコンパイル・コマンドをキャプチャするコンパイル・データベースを作成する。少なくとも１つの実施例では、ｉｎｔｅｒｃｅｐｔ－ｂｕｉｌｔツールによって生成されたコンパイル・データベースは、ＣＵＤＡコードをＤＰＣ＋＋にマイグレートするためにＤＰＣ＋＋互換性ツール４００２によって使用される。少なくとも１つの実施例では、非ＣＵＤＡ Ｃ＋＋コード及びファイルは、そのままマイグレートされる。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４００２は、人間が読み取れるＤＰＣ＋＋４００４を生成し、これは、ＤＰＣ＋＋互換性ツール４００２によって生成されたとき、ＤＰＣ＋＋コンパイラによってコンパイルされないことがあり、正しくマイグレートされなかったコードの部分を確認するための追加のプラミング（ｐｌｕｍｂｉｎｇ）を必要とする、ＤＰＣ＋＋コードであり得、開発者によってなど、手動の介入を伴い得る。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４００２は、自動的にマイグレートされないことがある追加のコードを開発者が手動でマイグレートするのを助けるために、コード中に埋め込まれたヒント又はツールを提供する。少なくとも１つの実施例では、マイグレーションは、ソース・ファイル、プロジェクト、又はアプリケーションのための１回のアクティビティである。

【0325】

少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４０００２は、ＣＵＤＡコードのすべての部分をＤＰＣ＋＋に正常にマイグレートすることが可能であり、単に、生成されたＤＰＣ＋＋ソース・コードの性能を手動で確認及び調整するための随意のステップがあり得る。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４００２は、ＤＰＣ＋＋互換性ツール４００２によって生成されたＤＰＣ＋＋コードを修正するための人間の介入を必要とするか又は利用することなしに、ＤＰＣ＋＋コンパイラによってコンパイルされるＤＰＣ＋＋ソース・コード４００８を直接生成する。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツールは、コンパイル可能なＤＰＣ＋＋コードを生成し、これは、性能、読みやすさ、維持可能性、他の様々な考慮事項、又はそれらの任意の組合せについて、開発者によって随意に調整され得る。

【0326】

少なくとも１つの実施例では、１つ又は複数のＣＵＤＡソース・ファイルは、少なくとも部分的にＤＰＣ＋＋互換性ツール４００２を使用してＤＰＣ＋＋ソース・ファイルにマイグレートされる。少なくとも１つの実施例では、ＣＵＤＡソース・コードは、ＣＵＤＡヘッダ・ファイルを含み得る１つ又は複数のヘッダ・ファイルを含む。少なくとも１つの実施例では、ＣＵＤＡソース・ファイルは、＜ｃｕｄａ．ｈ＞ヘッダ・ファイルと、テキストをプリントするために使用され得る＜ｓｔｄｉｏ．ｈ＞ヘッダ・ファイルとを含む。少なくとも１つの実施例では、ベクトル加算カーネルＣＵＤＡソース・ファイルの一部分は、以下のように書かれるか、又は以下に関係し得る。

【数1-1】

【数1-2】

【0327】

少なくとも１つの実施例では、及び上記で提示されたＣＵＤＡソース・ファイルに関して、ＤＰＣ＋＋互換性ツール４００２は、ＣＵＤＡソース・コードを構文解析し、ヘッダ・ファイルを、適切なＤＰＣ＋＋ヘッダ・ファイル及びＳＹＣＬヘッダ・ファイルと置き換える。少なくとも１つの実施例では、ＤＰＣ＋＋ヘッダ・ファイルは、ヘルパー宣言（ｈｅｌｐｅｒ ｄｅｃｌａｒａｔｉｏｎ）を含む。ＣＵＤＡでは、スレッドＩＤの概念があり、対応して、ＤＰＣ＋＋又はＳＹＣＬでは、各要素について、ローカル識別子がある。

【0328】

少なくとも１つの実施例では、及び上記で提示されたＣＵＤＡソース・ファイルに関して、初期化される２つのベクトルＡ及びＢがあり、ベクトル加算結果が、ＶｅｃｔｏｒＡｄｄＫｅｒｎｅｌ（）の一部として、ベクトルＣに入れられる。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４００２は、ＣＵＤＡコードをＤＰＣ＋＋コードにマイグレートすることの一部として、ワーク要素をインデックス付けするために使用されるＣＵＤＡスレッドＩＤを、ローカルＩＤを介したワーク要素のためのＳＹＣＬ標準アドレッシングにコンバートする。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４００２によって生成されたＤＰＣ＋＋コードは、たとえば、ｎｄ＿ｉｔｅｍの次元を低減し、それにより、メモリ及び／又はプロセッサ利用率を増加させることによって、最適化され得る。

【0329】

少なくとも１つの実施例では、及び上記で提示されたＣＵＤＡソース・ファイルに関して、メモリ割振りがマイグレートされる。少なくとも１つの実施例では、ｃｕｄａＭａｌｌｏｃ（）は、プラットフォーム、デバイス、コンテキスト、及びキューなど、ＳＹＣＬ概念に依拠して、デバイス及びコンテキストが渡される、統一共有メモリＳＹＣＬコールｍａｌｌｏｃ＿ｄｅｖｉｃｅ（）にマイグレートされる。少なくとも１つの実施例では、ＳＹＣＬプラットフォームは、複数のデバイス（たとえば、ホスト及びＧＰＵデバイス）を有することができ、デバイスは、ジョブがサブミットされ得る複数のキューを有し得、各デバイスは、コンテキストを有し得、コンテキストは、複数のデバイスを有し、共有メモリ・オブジェクトを管理し得る。

【0330】

少なくとも１つの実施例では、及び上記で提示されたＣＵＤＡソース・ファイルに関して、ｍａｉｎ（）関数は、２つのベクトルＡとＢとを互いに加算し、結果をベクトルＣに記憶するための、ＶｅｃｔｏｒＡｄｄＫｅｒｎｅｌ（）を呼び出すか又はコールする。少なくとも１つの実施例では、ＶｅｃｔｏｒＡｄｄＫｅｒｎｅｌ（）を呼び出すためのＣＵＤＡコードは、実行のためにカーネルをコマンド・キューにサブミットするためのＤＰＣ＋＋コードによって置き換えられる。少なくとも１つの実施例では、コマンド・グループ・ハンドラｃｇｈは、キューにサブミットされる、データ、同期、及び算出を渡し、ｐａｒａｌｌｅｌ＿ｆｏｒは、ＶｅｃｔｏｒＡｄｄＫｅｒｎｅｌ（）がコールされるワーク・グループ中の、グローバル要素の数及びワーク・アイテムの数についてコールされる。

【0331】

少なくとも１つの実施例では、及び上記で提示されたＣＵＤＡソース・ファイルに関して、デバイス・メモリをコピーし、次いで、ベクトルＡ、Ｂ、及びＣのためのメモリを解放するためのＣＵＤＡコールが、対応するＤＰＣ＋＋コールにマイグレートされる。少なくとも１つの実施例では、Ｃ＋＋コード（たとえば、浮動小数点変数のベクトルをプリントするための標準ＩＳＯ Ｃ＋＋コード）は、ＤＰＣ＋＋互換性ツール４００２によって修正されることなしに、そのままマイグレートされる。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４００２は、加速デバイス上でカーネルを実行するために、メモリ・セットアップ及び／又はホスト・コールのためのＣＵＤＡ ＡＰＩを修正する。少なくとも１つの実施例では、及び上記で提示されたＣＵＤＡソース・ファイルに関して、（たとえば、コンパイルされ得る）対応する人間が読み取れるＤＰＣ＋＋４００４は、以下のように書かれるか、又は以下に関係する。

【数2-1】

【数2-2】

【数2-3】

【0332】

少なくとも１つの実施例では、人間が読み取れるＤＰＣ＋＋４００４は、ＤＰＣ＋＋互換性ツール４００２によって生成された出力を指し、ある様式又は別の様式で最適化され得る。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４００２によって生成された人間が読み取れるＤＰＣ＋＋４００４は、それをより維持可能にすること、性能、又は他の考慮事項のために、マイグレーションの後に開発者によって手動で編集され得る。少なくとも１つの実施例では、開示されるＤＰＣ＋＋などのＤＰＣ＋＋互換性ツール４０００２によって生成されたＤＰＣ＋＋コードは、各ｍａｌｌｏｃ＿ｄｅｖｉｃｅ（）コールのためのｇｅｔ＿ｃｕｒｒｅｎｔ＿ｄｅｖｉｃｅ（）及び／又はｇｅｔ＿ｄｅｆａｕｌｔ＿ｃｏｎｔｅｘｔ（）への繰返しコールを削除することによって最適化され得る。少なくとも１つの実施例では、上記で生成されるＤＰＣ＋＋コードは、３次元のｎｄ＿ｒａｎｇｅを使用し、これは、単一次元のみを使用し、それにより、メモリ使用量を低減するために、再ファクタ化され得る。少なくとも１つの実施例では、開発者は、ＤＰＣ＋＋互換性ツール４００２によって生成されたＤＰＣ＋＋コードを手動で編集し、統一共有メモリの使用をアクセッサと置き換えることができる。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４００２は、それがＣＵＤＡコードをＤＰＣ＋＋コードにどのようにマイグレートするかを変更するためのオプションを有する。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４００２は、それが、ＣＵＤＡコードを、多数の場合について機能するＤＰＣ＋＋コードにマイグレートするための一般的なテンプレートを使用しているので、冗長である。

【0333】

少なくとも１つの実施例では、ＣＵＤＡからＤＰＣ＋＋へのマイグレーション・ワークフローは、ｉｎｔｅｒｃｅｐｔ－ｂｕｉｌｄスクリプトを使用してマイグレーションの準備をするためのステップと、ＤＰＣ＋＋互換性ツール４００２を使用してＤＰＣ＋＋へのＣＵＤＡプロジェクトのマイグレーションを実施するためのステップと、完了及び正当性のために、マイグレートされたソース・ファイルを手動で検討及び編集するためのステップと、ＤＰＣ＋＋アプリケーションを生成するために最終ＤＰＣ＋＋コードをコンパイルするためのステップとを含む。少なくとも１つの実施例では、ＤＰＣ＋＋ソース・コードの手動の検討は、限定はしないが、マイグレートされたＡＰＩがエラー・コードを返さないこと（ＣＵＤＡコードは、エラー・コードを返すことができ、エラー・コードは、次いで、アプリケーションよって消費され得るが、ＳＹＣＬは、エラーを報告するために例外を使用し、したがって、エラーを表面化させるためのエラー・コードを使用しない）、ＣＵＤＡコンピュート能力依存論理がＤＰＣ＋＋によってサポートされないこと、ステートメントが削除されないことがあることを含む、１つ又は複数のシナリオにおいて必要とされ得る。少なくとも１つの実施例では、ＤＰＣ＋＋コードが手動の介入を必要とするシナリオは、限定はしないが、エラー・コード論理が（＊，０）コードと置き換えられるか又はコメント・アウトされる、等価なＤＰＣ＋＋ＡＰＩが利用可能でない、ＣＵＤＡコンピュート能力依存論理、ハードウェア依存ＡＰＩ（ｃｌｏｃｋ（））、欠落した特徴、サポートされていないＡＰＩ、実行時間測定論理、組み込みベクトル・タイプ競合に対処すること、ｃｕＢＬＡＳ ＡＰＩのマイグレーションなどを含み得る。

【0334】

少なくとも１つの実施例では、図４０に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図４０に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図４０に図示された１つ又は複数のシステムは、コンピュータ・プログラムによる情報の使用量が、前記情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにＡＰＩを実施するために利用される。少なくとも１つの実施例では、図４０に図示された１つ又は複数のシステムは、図１～図８に関して説明されたものなど、１つ又は複数のシステム及び／又はプロセスを実装するために利用される。

【0335】

少なくとも１つの実施例では、本明細書で説明される１つ又は複数の技法は、ｏｎｅＡＰＩプログラミング・モデルを利用する。少なくとも１つの実施例では、ｏｎｅＡＰＩプログラミング・モデルは、様々なコンピュート・アクセラレータ・アーキテクチャと対話するためのプログラミング・モデルを指す。少なくとも１つの実施例では、ｏｎｅＡＰＩは、様々なコンピュート・アクセラレータ・アーキテクチャと対話するように設計されたアプリケーション・プログラミング・インターフェース（ＡＰＩ）を指す。少なくとも１つの実施例では、ｏｎｅＡＰＩプログラミング・モデルは、ＤＰＣ＋＋プログラミング言語を利用する。少なくとも１つの実施例では、ＤＰＣ＋＋プログラミング言語は、データ並列プログラミング生産性のための高水準言語を指す。少なくとも１つの実施例では、ＤＰＣ＋＋プログラミング言語は、Ｃ及び／又はＣ＋＋プログラミング言語に少なくとも部分的に基づく。少なくとも１つの実施例では、ｏｎｅＡＰＩプログラミング・モデルは、カリフォルニア州サンタクララのＩｎｔｅｌ Ｃｏｒｐｏｒａｔｉｏｎによって開発されたものなどのプログラミング・モデルである。

【0336】

少なくとも１つの実施例では、ｏｎｅＡＰＩ及び／又はｏｎｅＡＰＩプログラミング・モデルは、様々なアクセラレータ・アーキテクチャ、ＧＰＵアーキテクチャ、プロセッサ・アーキテクチャ、及び／又はそれらの変形形態のアーキテクチャと対話するために利用される。少なくとも１つの実施例では、ｏｎｅＡＰＩは、様々な機能性を実装するライブラリのセットを含む。少なくとも１つの実施例では、ｏｎｅＡＰＩは、少なくとも、ｏｎｅＡＰＩ ＤＰＣ＋＋ライブラリ、ｏｎｅＡＰＩマス・カーネル・ライブラリ、ｏｎｅＡＰＩデータ分析ライブラリ、ｏｎｅＡＰＩ深層ニューラル・ネットワーク・ライブラリ、ｏｎｅＡＰＩ集合通信ライブラリ、ｏｎｅＡＰＩスレッディング・ビルディング・ブロック・ライブラリ、ｏｎｅＡＰＩビデオ処理ライブラリ、及び／又はそれらの変形形態を含む。

【0337】

少なくとも１つの実施例では、ｏｎｅＤＰＬとも呼ばれるｏｎｅＡＰＩ ＤＰＣ＋＋ライブラリは、ＤＰＣ＋＋カーネル・プログラミングを加速するためのアルゴリズム及び機能を実装するライブラリである。少なくとも１つの実施例では、ｏｎｅＤＰＬは、１つ又は複数の標準テンプレート・ライブラリ（ＳＴＬ：ｓｔａｎｄａｒｄ ｔｅｍｐｌａｔｅ ｌｉｂｒａｒｙ）機能を実装する。少なくとも１つの実施例では、ｏｎｅＤＰＬは、１つ又は複数の並列ＳＴＬ機能を実装する。少なくとも１つの実施例では、ｏｎｅＤＰＬは、並列アルゴリズム、イテレーター、関数オブジェクト・クラス、範囲ベースのＡＰＩ、及び／又はそれらの変形形態など、ライブラリ・クラス及び関数のセットを提供する。少なくとも１つの実施例では、ｏｎｅＤＰＬは、Ｃ＋＋標準ライブラリの１つ又は複数のクラス及び／又は関数を実装する。少なくとも１つの実施例では、ｏｎｅＤＰＬは、１つ又は複数の乱数生成器関数を実装する。

【0338】

少なくとも１つの実施例では、ｏｎｅＭＫＬとも呼ばれるｏｎｅＡＰＩマス・カーネル・ライブラリは、様々な数学関数及び／又は演算のための様々な最適化及び並列化されたルーチンを実装するライブラリである。少なくとも１つの実施例では、ｏｎｅＭＫＬは、１つ又は複数の基本線形代数サブプログラム（ＢＬＡＳ）及び／又は線形代数パッケージ（ＬＡＰＡＣＫ：ｌｉｎｅａｒ ａｌｇｅｂｒａ ｐａｃｋａｇｅ）高密度線形代数ルーチンを実装する。少なくとも１つの実施例では、ｏｎｅＭＫＬは、１つ又は複数のスパースＢＬＡＳ線形代数ルーチンを実装する。少なくとも１つの実施例では、ｏｎｅＭＫＬは、１つ又は複数の乱数生成器（ＲＮＧ：ｒａｎｄｏｍ ｎｕｍｂｅｒ ｇｅｎｅｒａｔｏｒ）を実装する。少なくとも１つの実施例では、ｏｎｅＭＫＬは、ベクトルに関する数学演算のための１つ又は複数のベクトル数学（ＶＭ：ｖｅｃｔｏｒ ｍａｔｈｅｍａｔｉｃｓ）ルーチンを実装する。少なくとも１つの実施例では、ｏｎｅＭＫＬは、１つ又は複数の高速フーリエ変換（ＦＦＴ）関数を実装する。

【0339】

少なくとも１つの実施例では、ｏｎｅＤＡＬとも呼ばれるｏｎｅＡＰＩデータ分析ライブラリは、様々なデータ分析アプリケーション及び分散算出を実装するライブラリである。少なくとも１つの実施例では、ｏｎｅＤＡＬは、バッチ、オンライン、及び算出の分散処理モードにおける、データ分析のための前処理、変換、分析、モデリング、確認、及び意思決定のための、様々なアルゴリズムを実装する。少なくとも１つの実施例では、ｏｎｅＤＡＬは、様々なＣ＋＋及び／又はＪａｖａ ＡＰＩと、１つ又は複数のデータ・ソースへの様々なコネクタとを実装する。少なくとも１つの実施例では、ｏｎｅＤＡＬは、旧来のＣ＋＋インターフェースに対するＤＰＣ＋＋ＡＰＩ拡張を実装し、様々なアルゴリズムのためのＧＰＵ使用を可能にする。

【0340】

少なくとも１つの実施例では、ｏｎｅＤＮＮとも呼ばれるｏｎｅＡＰＩ深層ニューラル・ネットワーク・ライブラリは、様々な深層学習機能を実装するライブラリである。少なくとも１つの実施例では、ｏｎｅＤＮＮは、様々なニューラル・ネットワーク、機械学習、及び深層学習機能、アルゴリズム、並びに／又はそれらの変形形態を実装する。

【0341】

少なくとも１つの実施例では、ｏｎｅＣＣＬとも呼ばれるｏｎｅＡＰＩ集合通信ライブラリは、深層学習及び機械学習ワークロードのための様々なアプリケーションを実装するライブラリである。少なくとも１つの実施例では、ｏｎｅＣＣＬは、メッセージ・パッシング・インターフェース（ＭＰＩ：ｍｅｓｓａｇｅ ｐａｓｓｉｎｇ ｉｎｔｅｒｆａｃｅ）及びｌｉｂｆａｂｒｉｃなど、下位レベル通信ミドルウェア上に築かれる。少なくとも１つの実施例では、ｏｎｅＣＣＬは、優先順位、永続的な動作、アウト・オブ・オーダー実行、及び／又はそれらの変形形態など、深層学習固有の最適化のセットを可能にする。少なくとも１つの実施例では、ｏｎｅＣＣＬは、様々なＣＰＵ及びＧＰＵ機能を実装する。

【0342】

少なくとも１つの実施例では、ｏｎｅＴＢＢとも呼ばれるｏｎｅＡＰＩスレッディング・ビルディング・ブロック・ライブラリは、様々なアプリケーションのための様々な並列化されたプロセスを実装するライブラリである。少なくとも１つの実施例では、ｏｎｅＴＢＢは、ホスト上でのタスク・ベース共有並列プログラミングのために利用される。少なくとも１つの実施例では、ｏｎｅＴＢＢは、一般並列アルゴリズムを実装する。少なくとも１つの実施例では、ｏｎｅＴＢＢは、同時コンテナを実装する。少なくとも１つの実施例では、ｏｎｅＴＢＢは、スケーラブル・メモリ・アロケータを実装する。少なくとも１つの実施例では、ｏｎｅＴＢＢは、ワークスティーリング（ｗｏｒｋ－ｓｔｅａｌｉｎｇ）・タスク・スケジューラを実装する。少なくとも１つの実施例では、ｏｎｅＴＢＢは、低レベル同期プリミティブを実装する。少なくとも１つの実施例では、ｏｎｅＴＢＢは、コンパイラ依存せず、ＧＰＵ、ＰＰＵ、ＣＰＵ、及び／又はそれらの変形形態など、様々なプロセッサ上で使用可能である。

【0343】

少なくとも１つの実施例では、ｏｎｅＶＰＬとも呼ばれるｏｎｅＡＰＩビデオ処理ライブラリは、１つ又は複数のアプリケーションにおけるビデオ処理を加速するために利用されるライブラリである。少なくとも１つの実施例では、ｏｎｅＶＰＬは、様々なビデオ復号、符号化、及び処理機能を実装する。少なくとも１つの実施例では、ｏｎｅＶＰＬは、ＣＰＵ、ＧＰＵ、及び他のアクセラレータ上のメディア・パイプラインのための様々な機能を実装する。少なくとも１つの実施例では、ｏｎｅＶＰＬは、メディア中心及びビデオ分析ワークロードにおけるデバイス発見及び選択を実装する。少なくとも１つの実施例では、ｏｎｅＶＰＬは、ゼロコピー・バッファ共有のためのＡＰＩプリミティブを実装する。

【0344】

少なくとも１つの実施例では、ｏｎｅＡＰＩプログラミング・モデルは、ＤＰＣ＋＋プログラミング言語を利用する。少なくとも１つの実施例では、ＤＰＣ＋＋プログラミング言語は、限定はしないが、デバイス・コードを定義し、デバイス・コードとホスト・コードとを区別するための、機能的に同様のバージョンのＣＵＤＡ機構を含むプログラミング言語である。少なくとも１つの実施例では、ＤＰＣ＋＋プログラミング言語は、ＣＵＤＡプログラミング言語の機能性のサブセットを含み得る。少なくとも１つの実施例では、１つ又は複数のＣＵＤＡプログラミング・モデル動作は、ＤＰＣ＋＋プログラミング言語を使用するｏｎｅＡＰＩプログラミング・モデルを使用して実施される。

【0345】

本明細書で説明される例示的な実施例はＣＵＤＡプログラミング・モデルに関し得るが、本明細書で説明される技法は、任意の好適なプログラミング・モデル、そのようなＨＩＰ、ｏｎｅＡＰＩ（たとえば、本明細書で開示される方法を実施又は実装するためにｏｎｅＡＰＩベース・プログラミングを使用する）、及び／又はそれらの変形形態とともに利用され得ることに留意されたい。

【0346】

少なくとも１つの実施例では、上記で開示されたシステム及び／又はプロセッサの１つ又は複数の構成要素は、たとえば、画像をアップスケールするためのアップスケーラ又はアップサンプラ、画像を一緒にブレンド、ミックス、又は加算するための画像ブレンダ又は画像ブレンダ構成要素、（たとえば、ＤＳＰの一部として）画像をサンプリングするためのサンプラ、（たとえば、低解像度画像から高解像度画像に）画像をアップスケールするためのアップスケーラを実施するように構成されたニューラル・ネットワーク回路、或いは、画像、フレーム、又はビデオを、それの解像度、サイズ、又はピクセルを調整するために、修正又は生成するための他のハードウェアを含む、１つ又は複数のＣＰＵ、ＡＳＩＣ、ＧＰＵ、ＦＰＧＡ、或いは他のハードウェア、回路要素、又は集積回路構成要素と通信することができ、上記で開示されたシステム及び／又はプロセッサの１つ又は複数の構成要素は、画像を生成又は修正する方法、動作、又は命令を実施するために、本開示で説明される構成要素を使用することができる。

【0347】

本開示の少なくとも１つの実施例は、以下の条項を考慮して説明され得る。
条項１． コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにアプリケーション・プログラミング・インターフェース（ＡＰＩ）を実施するための１つ又は複数の回路
を備える、プロセッサ。
条項２． １つ又は複数のデータ構造が、コンピュータ・プログラムに関連する参照の少なくとも数を示す、条項１に記載のプロセッサ。
条項３． 情報が、メモリの少なくとも領域を含む、条項１又は２に記載のプロセッサ。
条項４． １つ又は複数の回路が、１つ又は複数のデータ構造に対応するロケーションを示すパラメータ値に少なくとも部分的に基づいて、ＡＰＩを実施するためのものである、条項１から３までのいずれか一項に記載のプロセッサ。
条項５． １つ又は複数の回路が、さらに、コンピュータ・プログラムによる情報の使用に少なくとも部分的に基づいて、１つ又は複数の関数を実行するためのものである、条項１から４までのいずれか一項に記載のプロセッサ。
条項６． コンピュータ・プログラムが、１つ又は複数のグラフィックス処理ユニット（ＧＰＵ）によって実行可能である、条項１から５までのいずれか一項に記載のプロセッサ。
条項７． コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにアプリケーション・プログラミング・インターフェース（ＡＰＩ）を実施するための１つ又は複数のプロセッサを有する１つ又は複数のコンピュータ
を備える、システム。
条項８． １つ又は複数のプロセッサが、さらに、
少なくともＡＰＩを示すコードを取得することと、
少なくとも、コードを実行することによって、ＡＰＩを実施することと
を行うためのものである、条項７に記載のシステム。
条項９． １つ又は複数のデータ構造が、情報に関連する１つ又は複数の参照のカウントを符号化する、条項７又は８に記載のシステム。
条項１０． １つ又は複数のデータ構造が、１つ又は複数のデストラクタ関数を示す、条項７から９までのいずれか一項に記載のシステム。
条項１１． コンピュータ・プログラムが、少なくとも１つ又は複数の並列処理ユニット（ＰＰＵ）によって実行可能である、条項７から１０までのいずれか一項に記載のシステム。
条項１２． 情報が、コンピュータ・プログラムへの少なくとも入力データを含む、条項７から１１までのいずれか一項に記載のシステム。
条項１３． １つ又は複数のプロセッサによって実施された場合、１つ又は複数のプロセッサに、少なくとも、
コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにアプリケーション・プログラミング・インターフェース（ＡＰＩ）を実施すること
を行わせる命令のセットを記憶した機械可読媒体。
条項１４． 命令のセットが、１つ又は複数のプロセッサによって実施された場合、１つ又は複数のプロセッサに、参照の数を示すパラメータ値に少なくとも部分的に基づいてＡＰＩを実施することを行わせる命令をさらに含む、条項１３に記載の機械可読媒体。
条項１５． 情報の使用が、コンピュータ・プログラムによって使用される１つ又は複数の参照によって示される、条項１３又は１４に記載の機械可読媒体。
条項１６． 命令のセットが、１つ又は複数のプロセッサによって実施された場合、１つ又は複数のプロセッサに、コンピュータ・プログラムによる情報の使用に基づいて１つ又は複数のデータ構造を修正することを行わせる命令をさらに含む、条項１３から１５までのいずれか一項に記載の機械可読媒体。
条項１７． 命令のセットが、１つ又は複数のプロセッサによって実施された場合、１つ又は複数のプロセッサに、１つ又は複数のデータ構造を１つ又は複数のグラフ・データ構造に関連付けることを行わせる命令をさらに含む、条項１３から１６までのいずれか一項に記載の機械可読媒体。
条項１８． コンピュータ・プログラムが、１つ又は複数の汎用グラフィックス処理ユニット（ＧＰＧＰＵ）によって実行可能である、条項１３から１７までのいずれか一項に記載の機械可読媒体。
条項１９． コンピュータ・プログラムによる情報の使用を監視するために使用されるべき１つ又は複数のデータ構造を生成するためにアプリケーション・プログラミング・インターフェース（ＡＰＩ）を実施するステップ
を含む、方法。
条項２０． １つ又は複数のデータ構造によって示された参照の数に少なくとも部分的に基づいて１つ又は複数の関数を実行するステップをさらに含む、条項１９に記載の方法。
条項２１． １つ又は複数の関数を示す１つ又は複数のパラメータ値に少なくとも部分的に基づいてＡＰＩを実施するステップをさらに含む、条項１９又は２０に記載の方法。
条項２２． ＡＰＩがランタイムＡＰＩである、条項１９から２１までのいずれか一項に記載の方法。
条項２３． コンピュータ・プログラムが、１つ又は複数中央処理ユニット（ＣＰＵ）によって実行可能である、条項１９から２２までのいずれか一項に記載の方法。
条項２４． ＡＰＩを実施した結果として１つ又は複数のステータス指示を取得するステップをさらに含む、条項１９から２３までのいずれか一項に記載の方法。
条項２５． コンピュータ・プログラムによる情報の使用量が、情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにアプリケーション・プログラミング・インターフェース（ＡＰＩ）を実施するための１つ又は複数の回路
を備える、プロセッサ。
条項２６． １つ又は複数の回路が、さらに、コンピュータ・プログラムに関連する参照のカウントを示す１つ又は複数のデータ構造の値を増加させるためのものである、条項２５に記載のプロセッサ。
条項２７． １つ又は複数の回路が、参照の数を示すパラメータ値に少なくとも部分的に基づいてＡＰＩを実施するためのものである、条項２５又は２６に記載のプロセッサ。
条項２８． 情報が、コンピュータ・プログラムによって使用されるメモリの領域を含む、条項２５から２７までのいずれか一項に記載のプロセッサ。
条項２９． コンピュータ・プログラムが、１つ又は複数のグラフィックス処理ユニット（ＧＰＵ）によって実行可能である、条項２５から２８までのいずれか一項に記載のプロセッサ。
条項３０． ＡＰＩがランタイムＡＰＩである、条項２５から２９までのいずれか一項に記載のプロセッサ。
条項３１． コンピュータ・プログラムによる情報の使用量が、情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにアプリケーション・プログラミング・インターフェース（ＡＰＩ）を実施するための１つ又は複数のプロセッサを有する１つ又は複数のコンピュータ
を備える、システム。
条項３２． １つ又は複数のプロセッサが、１つ又は複数のデータ構造を示すパラメータ値に少なくとも部分的に基づいて、ＡＰＩを実施するためのものである、条項３１に記載のシステム。
条項３３． １つ又は複数のプロセッサが、さらに、１つ又は複数のデータ構造を１つ又は複数のグラフ・データ構造に関連付けるためのものである、条項３１又は３２に記載のシステム。
条項３４． 情報の使用が、少なくとも、コンピュータ・プログラムに関連する参照のセットによって、示される、条項３１から３３までのいずれか一項に記載のシステム。
条項３５． １つ又は複数のデータ構造が、メモリを割振り解除するための１つ又は複数の関数を示す、条項３１から３４までのいずれか一項に記載のシステム。
条項３６． コンピュータ・プログラムが、１つ又は複数の並列処理ユニット（ＰＰＵ）によって実行可能である、条項３１から３５までのいずれか一項に記載のシステム。
条項３７． １つ又は複数のプロセッサによって実施された場合、１つ又は複数のプロセッサに、少なくとも、
コンピュータ・プログラムによる情報の使用量が、情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにアプリケーション・プログラミング・インターフェース（ＡＰＩ）を実施すること
を行わせる命令のセットを記憶した機械可読媒体。
条項３８． 命令のセットが、１つ又は複数のプロセッサによって実施された場合、１つ又は複数のプロセッサに、コンピュータ・プログラムによる情報の使用量が、少なくとも、使用量を示す１つ又は複数のデータ構造の１つ又は複数の値を増分することによって、増加されることを引き起こすことを行わせる命令をさらに含む、条項３７に記載の機械可読媒体。
条項３９． 命令のセットが、１つ又は複数のプロセッサによって実施された場合、１つ又は複数のプロセッサに、１つ又は複数のグラフ・データ構造を示すパラメータ値に基づいてＡＰＩを実施することを行わせる命令をさらに含む、条項３７又は３８に記載の機械可読媒体。
条項４０． コンピュータ・プログラムが、１つ又は複数のグラフ・データ構造動作を備える、条項３７から３９までのいずれか一項に記載の機械可読媒体。
条項４１． 情報が、コンピュータ・プログラムによって使用される１つ又は複数のデータ・オブジェクトを含む、条項３７から４０までのいずれか一項に記載の機械可読媒体。
条項４２． コンピュータ・プログラムが、１つ又は複数の汎用グラフィックス処理ユニット（ＧＰＧＰＵ）によって実行可能である、条項３７から４１までのいずれか一項に記載の機械可読媒体。
条項４３． コンピュータ・プログラムによる情報の使用量が、情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて増加されることを引き起こすためにアプリケーション・プログラミング・インターフェース（ＡＰＩ）を実施するステップ
を含む、方法。
条項４４． ＡＰＩを実施した結果として１つ又は複数のステータス指示を取得するステップをさらに含む、条項４３に記載の方法。
条項４５． 少なくともＡＰＩを示すコードを取得するステップと、
少なくとも、コードの実行を引き起こすことによって、ＡＰＩを実施するステップと
をさらに含む、条項４３又は４４に記載の方法。
条項４６． 関連付けを示すパラメータ値に少なくとも部分的に基づいて、１つ又は複数のデータ構造をグラフ・データ構造に関連付けるステップをさらに含む、条項４３から４５までのいずれか一項に記載の方法。
条項４７． １つ又は複数のデータ構造が、１つ又は複数のデストラクタ関数を示す、条項４３から４６までのいずれか一項に記載の方法。
条項４８． コンピュータ・プログラムが、１つ又は複数の中央処理ユニット（ＣＰＵ）によって実行可能である、条項４３から４７までのいずれか一項に記載の方法。
条項４９． コンピュータ・プログラムによる情報の使用量が、情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにアプリケーション・プログラミング・インターフェース（ＡＰＩ）を実施するための１つ又は複数の回路
を備える、プロセッサ。
条項５０． １つ又は複数の回路は、少なくとも、１つ又は複数のデータ構造によって示される使用のカウントを低減することによって、コンピュータ・プログラムによる情報の使用量が低減されることを引き起こすためのものである、条項４９に記載のプロセッサ。
条項５１． 情報の使用が、情報に関連する１つ又は複数の参照によって示される、条項４９又は５０に記載のプロセッサ。
条項５２． コンピュータ・プログラムが、１つ又は複数の並列処理ユニット（ＰＰＵ）によって実行可能である、条項４９から５１までのいずれか一項に記載のプロセッサ。
条項５３． １つ又は複数の回路が、１つ又は複数のデータ構造を示すパラメータ値に少なくとも部分的に基づいて、ＡＰＩを実施するためのものである、条項４９から５２までのいずれか一項に記載のプロセッサ。
条項５４． 情報が、コンピュータ・プログラムによって使用されるメモリを含む、条項４９から５３までのいずれか一項に記載のプロセッサ。
条項５５． コンピュータ・プログラムによる情報の使用量が、情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにアプリケーション・プログラミング・インターフェース（ＡＰＩ）を実施するための１つ又は複数のプロセッサを有する１つ又は複数のコンピュータ
を備える、システム。
条項５６． １つ又は複数のプロセッサは、コンピュータ・プログラムによる情報の使用量が、参照の数を示すパラメータ値に基づいて低減されることを引き起こすためのものである、条項５５に記載のシステム。
条項５７． ＡＰＩがランタイムＡＰＩである、条項５５又は５６に記載のシステム。
条項５８． １つ又は複数のプロセッサが、さらに、１つ又は複数のデータ構造によって示される参照のカウントを減分するためのものである、条項５５から５７までのいずれか一項に記載のシステム。
条項５９． コンピュータ・プログラムが、１つ又は複数のグラフィックス処理ユニット（ＧＰＵ）によって実行可能である、条項５５から５８までのいずれか一項に記載のシステム。
条項６０． １つ又は複数のプロセッサが、さらに、１つ又は複数のデータ構造によって示される１つ又は複数の関数の実行を引き起こすためのものである、条項５５から５９までのいずれか一項に記載のシステム。
条項６１． １つ又は複数のプロセッサによって実施された場合、１つ又は複数のプロセッサに、少なくとも、
コンピュータ・プログラムによる情報の使用量が、情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにアプリケーション・プログラミング・インターフェース（ＡＰＩ）を実施すること
を行わせる命令のセットを記憶した機械可読媒体。
条項６２． 命令のセットが、１つ又は複数のプロセッサによって実施された場合、１つ又は複数のプロセッサに、コンピュータ・プログラムによる情報の使用量が低減されることを引き起こすために、１つ又は複数のデストラクタ関数を実行することを行わせる命令をさらに含む、条項６１に記載の機械可読媒体。
条項６３． 情報の使用が、コンピュータ・プログラムによって使用される１つ又は複数の参照を通して示される、条項６１又は６２に記載の機械可読媒体。
条項６４． コンピュータ・プログラムが、１つ又は複数のグラフ・データ構造に対応する、条項６１から６３までのいずれか一項に記載の機械可読媒体。
条項６５． 命令のセットが、１つ又は複数のプロセッサによって実施された場合、１つ又は複数のプロセッサに、ＡＰＩを実施した結果として１つ又は複数のステータス指示を取得することを行わせる命令をさらに含む、条項６１から６４までのいずれか一項に記載の機械可読媒体。
条項６６． コンピュータ・プログラムが、１つ又は複数の汎用グラフィックス処理ユニット（ＧＰＧＰＵ）によって実行可能である、条項６１から６５までのいずれか一項に記載の機械可読媒体。
条項６７． コンピュータ・プログラムによる情報の使用量が、情報の使用を監視するために使用される１つ又は複数のデータ構造に少なくとも部分的に基づいて低減されることを引き起こすためにアプリケーション・プログラミング・インターフェース（ＡＰＩ）を実施するステップ
を含む、方法。
条項６８． コンピュータ・プログラムによる情報の使用量に基づいて、１つ又は複数のデータ構造の１つ又は複数の値を低減するステップをさらに含む、条項６７に記載の方法。
条項６９． ＡＰＩを実施するステップが、情報に関連する１つ又は複数のデストラクタ関数の実行を引き起こす、条項６７又は６８に記載の方法。
条項７０． 情報は、１つ又は複数の動作がコンピュータ・プログラムによって実施されるべきである、データを含む、条項６７から６９までのいずれか一項に記載の方法。
条項７１． グラフ・コードを示すパラメータ値に少なくとも部分的に基づいてＡＰＩを実施するステップをさらに含む、条項６７から７０までのいずれか一項に記載の方法。
条項７２． コンピュータ・プログラムが、１つ又は複数の中央処理ユニット（ＣＰＵ）によって実行可能である、条項６７から７１までのいずれか一項に記載の方法。

【0348】

他の変形形態は、本開示の範囲内にある。したがって、開示される技法は、様々な修正及び代替構築が可能であるが、それらのいくつかの例示的な実施例が図面に示され、上記で詳細に説明された。しかしながら、特定の１つ又は複数の開示された形態に本開示を限定する意図はなく、その反対に、添付の特許請求の範囲において定義されるように、開示の趣旨及び範囲に入るすべての修正形態、代替構築、及び等価物を網羅することを意図していることが理解されるべきである。

【0349】

開示される実施例を説明する文脈において（特に、以下の特許請求の範囲の文脈において）「ａ」及び「ａｎ」及び「ｔｈｅ」という用語、並びに同様の指示語を使用することは、本明細書に別段の記載のない限り、又は文脈によって明らかに否定されない限り、単数と複数の両方を網羅すると解釈されるべきであり、用語の定義であると解釈されるべきではない。「含む、備える（ｃｏｍｐｒｉｓｉｎｇ）」、「有する（ｈａｖｉｎｇ）」、「含む（ｉｎｃｌｕｄｉｎｇ）」、「含んでいる（ｃｏｎｔａｉｎｉｎｇ）」という用語は、別段の記載のない限り、オープンエンドの用語（「限定はしないが、～を含む（ｉｎｃｌｕｄｉｎｇ， ｂｕｔ ｎｏｔ ｌｉｍｉｔｅｄ ｔｏ，）」を意味する）と解釈されるべきである。「接続される」という用語は、修飾されず、物理的接続を指しているとき、何か介在するものがある場合でも、部分的に又は完全に中に含まれているか、取り付けられるか、又は互いに接合されるものとして解釈されるべきである。本明細書で値の範囲を詳述することは、本明細書に別段の記載のない限り、及び各別個の値が、本明細書に個々に詳述されているかのように明細書に組み込まれていない限り、範囲内に入る各別個の値を個々に参照する簡潔な方法として働くことを単に意図しているにすぎない。「セット」（たとえば、「項目のセット」）又は「サブセット」という用語の使用は、文脈によって別段の記載がないか又は否定されない限り、１つ又は複数の部材を備える空ではない集合として解釈されるべきである。さらに、文脈によって別段の記載がないか又は否定されない限り、対応するセットの「サブセット」という用語は、対応するセットの厳密なサブセットを必ずしも指すとは限らず、サブセットと、対応するセットとは、等しくなり得る。

【0350】

「Ａ、Ｂ、及びＣのうちの少なくとも１つ」又は「Ａ、Ｂ及びＣのうちの少なくとも１つ」という形態の言い回しなどの結合語は、別段の具体的な記載がないか又はさもなければ文脈によって明確に否定されない限り、別様に、項目、用語などが、Ａ又はＢ又はＣのいずれか、或いはＡとＢとＣとのセットの任意の空でないサブセットであり得ることを提示するために一般に使用される文脈で、理解される。たとえば、３つの部材を有するセットの説明的な実例では、「Ａ、Ｂ、及びＣのうちの少なくとも１つ」並びに「Ａ、Ｂ及びＣのうちの少なくとも１つ」という結合句は、次のセットのうちのいずれかを指す：｛Ａ｝、｛Ｂ｝、｛Ｃ｝、｛Ａ、Ｂ｝、｛Ａ、Ｃ｝、｛Ｂ、Ｃ｝、｛Ａ、Ｂ、Ｃ｝。したがって、そのような結合語は、いくつかの実施例が、Ａのうちの少なくとも１つ、Ｂのうちの少なくとも１つ、及びＣのうちの少なくとも１つの各々が存在することを必要とすることを全体的に暗示するものではない。さらに、別段の記載がないか又は文脈によって否定されない限り、「複数（ｐｌｕｒａｌｉｔｙ）」という用語は、複数である状態を示す（たとえば、「複数の項目（ａ ｐｌｕｒａｌｉｔｙ ｏｆ ｉｔｅｍｓ）」は複数の項目（ｍｕｌｔｉｐｌｅ ｉｔｅｍｓ）を示す）。複数である項目の数は、少なくとも２つであるが、明示的に、又は文脈によってのいずれかでそのように示されているとき、それよりも多いことがある。さらに、別段の記載がないか又はさもなければ文脈から明らかでない限り、「～に基づいて」という言い回しは、「少なくとも部分的に～に基づいて」を意味し、「～のみに基づいて」を意味しない。

【0351】

本明細書で説明されるプロセスの動作は、本明細書に別段の記載がないか又はさもなければ文脈によって明確に否定されない限り、任意の好適な順序で実施され得る。少なくとも１つの実施例では、本明細書で説明されるプロセス（又はその変形形態及び／又は組合せ）などのプロセスは、実行可能命令で構成された１つ又は複数のコンピュータ・システムの制御下で実施され、１つ又は複数のプロセッサ上で、ハードウェアによって、又はそれらの組合せによって集合的に実行するコード（たとえば、実行可能命令、１つ又は複数のコンピュータ・プログラム、又は１つ又は複数のアプリケーション）として実装される。少なくとも１つの実施例では、コードは、たとえば、１つ又は複数のプロセッサによって実行可能な複数の命令を備えるコンピュータ・プログラムの形態で、コンピュータ可読記憶媒体に記憶される。少なくとも１つの実施例では、コンピュータ可読記憶媒体は、一時的信号（たとえば、伝搬する一時的な電気又は電磁送信）を除外するが、一時的信号のトランシーバ内の非一時的データ・ストレージ回路要素（たとえば、バッファ、キャッシュ、及びキュー）を含む非一時的コンピュータ可読記憶媒体である。少なくとも１つの実施例では、コード（たとえば、実行可能コード又はソース・コード）は、１つ又は複数の非一時的コンピュータ可読記憶媒体のセットに記憶され、この記憶媒体は、コンピュータ・システムの１つ又は複数のプロセッサによって実行されたときに（たとえば、実行された結果として）、コンピュータ・システムに本明細書で説明される動作を実施させる実行可能命令を記憶している（又は、実行可能命令を記憶するための他のメモリを有する）。非一時的コンピュータ可読記憶媒体のセットは、少なくとも１つの実施例では、複数の非一時的コンピュータ可読記憶媒体を備え、複数の非一時的コンピュータ可読記憶媒体の個々の非一時的記憶媒体のうちの１つ又は複数は、コードのすべてがないが、複数の非一時的コンピュータ可読記憶媒体は、集合的にコードのすべてを記憶している。少なくとも１つの実施例では、実行可能命令は、異なる命令が異なるプロセッサによって実行されるように実行され、たとえば、非一時的コンピュータ可読記憶媒体は命令を記憶し、メイン中央処理ユニット（「ＣＰＵ」）は命令のいくつかを実行し、グラフィックス処理ユニット（「ＧＰＵ」）は他の命令を実行する。少なくとも１つの実施例では、コンピュータ・システムの異なる構成要素は、別個のプロセッサを有し、異なるプロセッサが命令の異なるサブセットを実行する。

【0352】

したがって、少なくとも１つの実施例では、コンピュータ・システムは、本明細書で説明されるプロセスの動作を単独で又は集合的に実施する１つ又は複数のサービスを実装するように構成され、そのようなコンピュータ・システムは、動作の実施を可能にする適用可能なハードウェア及び／又はソフトウェアで構成される。さらに、本開示の少なくとも１つの実施例を実装するコンピュータ・システムは、単一のデバイスであり、別の実施例では、分散型コンピュータ・システムが本明細書で説明される動作を実施するように、及び単一のデバイスがすべての動作を実施しないように、異なるやり方で動作する複数のデバイスを備える分散型コンピュータ・システムである。

【0353】

本明細書で提供されるあらゆる実例、又は例示的な言葉（たとえば、「など、などの（ｓｕｃｈ ａｓ）」）の使用は、本開示の実施例をより明らかにすることのみを意図しており、別段の主張のない限り、本開示の範囲に制限を加えるものではない。本明細書のいかなる言葉も、特許請求されていない任意の要素を、本開示の実践に不可欠なものとして示すと解釈されるべきではない。

【0354】

本明細書で引用される出版物、特許出願、及び特許を含むすべての参考文献は、各参考文献が参照により組み込まれることが個別に明確に示され、その全体が本明細書に記載されたかのように、それと同程度まで参照により本明細書に組み込まれる。

【0355】

明細書及び特許請求の範囲において、「結合される」及び「接続される」という用語が、その派生語とともに使用され得る。これらの用語は、互いに同義語として意図されていないことがあることが理解されるべきである。むしろ、特定の実例では、「接続される」又は「結合される」は、２つ又はそれ以上の要素が物理的又は電気的に互いに直接又は間接的に接触していることを示すために使用され得る。「結合される」はまた、２つ又はそれ以上の要素が直接互いに接触していないが、それでもなお互いに連動又は対話することを意味し得る。

【0356】

別段の具体的な記載がない限り、明細書全体を通して、「処理する（ｐｒｏｃｅｓｓｉｎｇ）」、「算出する（ｃｏｍｐｕｔｉｎｇ）」、「計算する（ｃａｌｃｕｌａｔｉｎｇ）」、又は「決定する（ｄｅｔｅｒｍｉｎｉｎｇ）」などの用語は、コンピューティング・システムのレジスタ及び／又はメモリ内の、電子的などの物理的な量として表されるデータを、コンピューティング・システムのメモリ、レジスタ又は他のそのような情報ストレージ、送信、若しくはディスプレイ・デバイス内の物理的な量として同様に表される他のデータになるように操作及び／又は変換する、コンピュータ又はコンピューティング・システム、或いは同様の電子コンピューティング・デバイスのアクション及び／又はプロセスを指すことが諒解され得る。

【0357】

同様に、「プロセッサ」という用語は、レジスタ及び／又はメモリからの電子データを処理し、その電子データを、レジスタ及び／又はメモリに記憶され得る他の電子データに変換する任意のデバイス、又はデバイスの一部分を指し得る。非限定的な実例として、「プロセッサ」は、ＣＰＵ又はＧＰＵであり得る。「コンピューティング・プラットフォーム」は、１つ又は複数のプロセッサを備え得る。本明細書で使用される「ソフトウェア」プロセスは、たとえば、タスク、スレッド、及び知的エージェントなど、経時的にワークを実施するソフトウェア及び／又はハードウェア・エンティティを含み得る。また、各プロセスは、命令を直列で又は並列で、連続的に又は断続的に行うための複数のプロセスを指し得る。「システム」及び「方法」という用語は、１つ又は複数の方法をシステムが具体化し得、方法がシステムと考えられ得る場合に限り、本明細書において交換可能に使用される。

【0358】

少なくとも１つの実施例では、算術論理ユニットは、結果を作り出すために１つ又は複数の入力をとる組合せ論理回路要素のセットである。少なくとも１つの実施例では、算術論理ユニットは、加算、減算、又は乗算などの数学演算を実装するためにプロセッサによって使用される。少なくとも１つの実施例では、算術論理ユニットは、論理ＡＮＤ／ＯＲ又はＸＯＲなどの論理演算を実装するために使用される。少なくとも１つの実施例では、算術論理ユニットは、ステートレスであり、論理ゲートを形成するように構成された半導体トランジスタなど、物理的切替え構成要素から作られる。少なくとも１つの実施例では、算術論理ユニットは、関連するクロックをもつステートフル論理回路として、内部で動作し得る。少なくとも１つの実施例では、算術論理ユニットは、関連するレジスタ・セット中で維持されない内部状態をもつ非同期論理回路として構築され得る。少なくとも１つの実施例では、算術論理ユニットは、プロセッサの１つ又は複数のレジスタに記憶されたオペランドを組み合わせ、別のレジスタ又はメモリ・ロケーションにプロセッサによって記憶され得る出力を作り出すために、プロセッサによって使用される。

【0359】

少なくとも１つの実施例では、プロセッサによって取り出された命令を処理した結果として、プロセッサは、１つ又は複数の入力又はオペランドを算術論理ユニットに提示し、算術論理ユニットに、算術論理ユニットの入力に提供された命令コードに少なくとも部分的に基づく結果を作り出させる。少なくとも１つの実施例では、プロセッサによってＡＬＵに提供された命令コードは、プロセッサによって実行された命令に少なくとも部分的に基づく。少なくとも１つの実施例では、ＡＬＵにおける組合せ論理は、入力を処理し、プロセッサ内のバス上に置かれる出力を作り出す。少なくとも１つの実施例では、プロセッサは、プロセッサをクロック制御することにより、ＡＬＵによって作り出された結果が所望のロケーションに送出されるように、宛先レジスタ、メモリ・ロケーション、出力デバイス、又は出力バス上の出力ストレージ・ロケーションを選択する。

【0360】

本明細書では、アナログ・データ又はデジタル・データを取得すること、獲得すること、受信すること、或いはそれらをサブシステム、コンピュータ・システム、又はコンピュータ実装機械に入力することに言及し得る。アナログ・データ又はデジタル・データを取得する、獲得する、受信する、又は入力するプロセスは、関数コール、又はアプリケーション・プログラミング・インターフェースへのコールのパラメータとしてデータを受信することによってなど、様々なやり方で実現され得る。いくつかの実装形態では、アナログ・データ又はデジタル・データを取得する、獲得する、受信する、又は入力するプロセスは、直列又は並列インターフェースを介してデータを転送することによって実現され得る。別の実装形態では、アナログ・データ又はデジタル・データを取得する、獲得する、受信する、又は入力するプロセスは、提供するエンティティから獲得するエンティティにコンピュータ・ネットワークを介してデータを転送することによって実現され得る。アナログ・データ又はデジタル・データを提供すること、出力すること、送信すること、送出すること、又は提示することにも言及し得る。様々な実例では、アナログ・データ又はデジタル・データを提供する、出力する、送信する、送出する、又は提示するプロセスは、関数コールの入力又は出力パラメータ、アプリケーション・プログラミング・インターフェース又はプロセス間通信機構のパラメータとしてデータを転送することによって実現され得る。

【0361】

上記の説明は、説明された技法の例示的な実装形態について述べているが、他のアーキテクチャが、説明された機能性を実装するために使用され得、本開示の範囲内にあることが意図される。さらに、説明を目的として、責任の具体的な分散が上記で定義されたが、様々な機能及び責任は、状況に応じて異なるやり方で分散及び分割され得る。

【0362】

さらに、主題は、構造的特徴及び／又は方法論的行為に特有の言語で説明されたが、添付の特許請求の範囲で特許請求される主題は、説明された特有の特徴又は行為に必ずしも限定されるとは限らないことが理解されるべきである。むしろ、特有の特徴及び行為は、特許請求の範囲を実装する例示的な形態として開示される。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】

【図17】

【図18A】

【図18B】

【図19A】

【図19B】

【図20A】

【図20B】

【図20C】

【図21】

【図22】

【図23】

【図24】

【図25】

【図26】

【図27】

【図28】

【図29】

【図30】

【図31】

【図32】

【図33】

【図34】

【図35】

【図36A】

【図36B】

【図36C】

【図37】

【図38】

【図39】

【図40】

【国際調査報告】