特表 2024-521590 画像の間のピクセルの動きを算出すること

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公表特許公報(A)

(11)【公表番号】

(43)【公表日】2024-06-04

(54)【発明の名称】画像の間のピクセルの動きを算出すること

(51)【国際特許分類】

   G06T 7/20 20170101AFI20240528BHJP

【ＦＩ】

G06T7/20

【審査請求】有

【予備審査請求】未請求

(21)【出願番号】P 2022529786

(86)(22)【出願日】2021-06-09

(85)【翻訳文提出日】2023-11-29

(86)【国際出願番号】 CN2021099058

(87)【国際公開番号】W WO2022257035

(87)【国際公開日】2022-12-15

(81)【指定国・地域】

【公序良俗違反の表示】

（特許庁注：以下のものは登録商標）

１．ＢＬＵＥＴＯＯＴＨ

２．ＵＮＩＸ

３．Ｌｉｎｕｘ

４．ＨＤＭＩ

５．ＴＥＮＳＯＲＦＬＯＷ

６．ＰＹＴＨＯＮ

(71)【出願人】

【識別番号】501450960

【氏名又は名称】エヌビディア コーポレーション

(74)【代理人】

【識別番号】110000855

【氏名又は名称】弁理士法人浅村特許事務所

(72)【発明者】

【氏名】パラシャール、ヴィプル

(72)【発明者】

【氏名】チャン、ドン

(72)【発明者】

【氏名】ミシュラ、サムプルナナンダ

【テーマコード（参考）】

5L096

【Ｆターム（参考）】

5L096BA08

5L096BA18

5L096CA01

5L096GA34

5L096GA55

5L096HA02

5L096JA28

(57)【要約】

画像中の領域中の１つ又は複数のピクセルの動きを計算するための装置、システム、及び技法。少なくとも１つの実施例では、動きは、前記領域と重複する前記画像の異なる領域中の１つ又は複数のピクセルの動きに基づいて計算され、その場合、１つ又は複数のアルゴリズムが、たとえば、ＧＰＵ上での効率的な実行のために、ＣＵＤＡコードで表現される。

【特許請求の範囲】

【請求項1】

画像の第１の領域中の１つ又は複数のピクセルの動きを、前記第１の領域と重複する前記画像の第２の領域中の１つ又は複数のピクセルの動きに少なくとも部分的に基づいて計算するための、１つ又は複数の回路
を備える、プロセッサ。

【請求項2】

前記１つ又は複数の回路が、さらに、
前記画像及びフロー・マップを取得することであって、前記フロー・マップが、前記画像及び第２の画像に少なくとも部分的に基づいて計算される、取得することと、
前記第２の領域中の前記１つ又は複数のピクセルのサブセットがピクセルのグループを形成することを引き起こすことであって、前記１つ又は複数のピクセルの前記サブセットが、強度及び階調度のうちの少なくとも１つに対応する１つ又は複数の特性を共有する、引き起こすことと、
前記フロー・マップに基づいて、ピクセルの前記グループが、１つ又は複数の有効ピクセルを含むのか、１つ又は複数の無効ピクセルを含むのかを示すための動作を実施することと、
前記１つ又は複数の有効ピクセルを使用して、ピクセルの前記グループの１つ又は複数の無効ピクセルを有効ピクセルに反復的にコンバートすることと
を行うためのものである、請求項１に記載のプロセッサ。

【請求項3】

前記１つ又は複数の回路が、さらに、
前記第２の領域からの１つ又は複数の有効ピクセルを使用して、前記第１の領域中の１つ又は複数の無効ピクセルを１つ又は複数の有効ピクセルに反復的にコンバートすることと、
前記コンバージョンに少なくとも部分的に基づいて、フロー・マップを更新して、第２のフロー・マップを生成することと
を行うためのものである、請求項１に記載のプロセッサ。

【請求項4】

前記１つ又は複数の回路が、さらに、前記第２のフロー・マップの１つ若しくは複数の行又は１つ若しくは複数の列をトラバースすることと、前記１つ若しくは複数の行又は１つ若しくは複数の列中の前記１つ又は複数の有効ピクセルを使用して、前記１つ又は複数の無効ピクセルを有効ピクセルにコンバートすることによって、前記第２のフロー・マップを更新することとを行うためのものである、請求項３に記載のプロセッサ。

【請求項5】

前記１つ又は複数の回路が、さらに、疎なオプティカル・フロー・マップから密なオプティカル・フロー・マップを生成するためのものである、請求項１に記載のプロセッサ。

【請求項6】

前記１つ又は複数の回路が、さらに、前記密なオプティカル・フロー・マップにメディアン・フィルタを適用するためのものである、請求項５に記載のプロセッサ。

【請求項7】

画像の第１の領域中の１つ又は複数のピクセルの動きを、前記第１の領域と重複する前記画像の第２の領域中の１つ又は複数のピクセルの動きに少なくとも部分的に基づいて計算するための、１つ又は複数のプロセッサ
を備える、システム。

【請求項8】

前記１つ又は複数のプロセッサが、さらに、
前記第２の領域中の前記１つ又は複数のピクセルからピクセルのサブセットを識別することであって、ピクセルの前記サブセットが、前記画像の強度、階調度、及び深度のうちの少なくとも１つに少なくとも部分的に基づいて識別される、識別することと、
前記画像及び第２の画像に対応する取得されたフロー・マップに少なくとも部分的に基づいて、ピクセルの前記サブセットが有効ピクセルを含むのかどうかを示すための動作を実施することと、
前記第２の領域中のピクセルの有効サブセットを生成するために、前記有効ピクセルを使用して、ピクセルの前記サブセットに対するオプティカル・フローを補間することと、
前記第１の領域中のピクセルの有効サブセットを生成するために、前記第２の領域中のピクセルの前記有効サブセットを使用して、前記第１の領域中の１つ又は複数のピクセルに対するオプティカル・フローを補間することと
を行うためのものである、請求項７に記載のシステム。

【請求項9】

前記１つ又は複数のプロセッサが、さらに、前記第１の領域中のピクセルの有効サブセット、及び、前記第２の領域中のピクセルの有効サブセットに少なくとも部分的に基づいて、フロー・マップを更新して、第２のフロー・マップを生成するためのものである、請求項７に記載のシステム。

【請求項10】

前記１つ又は複数のプロセッサが、さらに、
前記画像の前記第２の領域中のピクセルの１つ又は複数の行をスキャンすることと、
補間されたオプティカル・フロー・ピクセルを生成するために、前記１つ又は複数の行中の有効ピクセルに少なくとも部分的に基づいて、ピクセルのうちの前記１つ又は複数の行中のピクセルに対するオプティカル・フローを補間することと
を行うためのものである、請求項７に記載のシステム。

【請求項11】

前記１つ又は複数のプロセッサが、さらに、
前記画像の前記第２の領域中のピクセルの１つ又は複数の列をスキャンすることと、
補間されたオプティカル・フロー・ピクセルを生成するために、前記１つ又は複数の列中の有効ピクセルに少なくとも部分的に基づいて、ピクセルのうちの前記１つ又は複数の列中の、中のピクセルに対するオプティカル・フローを補間することと
を行うためのものである、請求項７に記載のシステム。

【請求項12】

前記１つ又は複数のプロセッサが、さらに、フレーム・レート・アップ・コンバージョン、ビデオ符号化、ロボット・ナビゲーション、又は画像分類において使用するための、前記画像の前記第１の領域中の前記１つ又は複数のピクセルの動きを計算するためのものである、請求項７に記載のシステム。

【請求項13】

画像の第１の領域中の１つ又は複数のピクセルの動きを、前記第１の領域と重複する前記画像の第２の領域中の１つ又は複数のピクセルの動きに少なくとも部分的に基づいて計算するステップ
を含む、方法。

【請求項14】

前記画像及び引き続く画像に対応する第１のフロー・マップを取得するステップと、
前記第１のフロー・マップを使用して、前記画像中の１つ又は複数のピクセルの有効性を決定するステップと、
前記第２の領域中の前記１つ又は複数のピクセルのサブセットをグループ化するステップと、
前記第１のフロー・マップを使用して、前記第２の領域中の前記１つ又は複数のピクセルの前記サブセット中の有効ピクセルを識別するステップと、
前記第２の領域中の前記１つ又は複数のピクセルの前記サブセットに対する補間されたオプティカル・フローを生成するために、前記有効ピクセルに少なくとも部分的に基づいて、前記第２の領域中の前記１つ又は複数のピクセルの前記サブセットに対するオプティカル・フローを補間するステップと
をさらに含む、請求項１３に記載の方法。

【請求項15】

前記画像の前記第１の領域中の前記１つ又は複数のピクセルの動きを計算するステップが、前記第２の領域中の前記１つ又は複数のピクセルの前記サブセットに対する前記補間されたオプティカル・フローを使用して、前記第１の領域中の前記１つ又は複数のピクセルに対するオプティカル・フローを補間するステップを含む、請求項１４に記載の方法。

【請求項16】

コスト関数を適用して、前記画像中の前記１つ又は複数のピクセルの有効性を決定する、請求項１３に記載の方法。

【請求項17】

前記画像の前記第１の領域及び前記第２の領域中の前記１つ又は複数のピクセルの前記計算された動きに少なくとも部分的に基づいて、更新されたフロー・マップを生成するステップ
をさらに含む、請求項１３に記載の方法。

【請求項18】

前記更新されたフロー・マップを精緻化するために、フィルタを適用するステップ
をさらに含む、請求項１７に記載の方法。

【請求項19】

１つ又は複数のプロセッサによって実施された場合、前記１つ又は複数のプロセッサに、少なくとも、
画像の第１の領域中の１つ又は複数のピクセルの動きを、前記第１の領域と重複する前記画像の第２の領域中の１つ又は複数のピクセルの動きに少なくとも部分的に基づいて計算すること
を行わせる命令のセットを記憶している、機械可読媒体。

【請求項20】

前記１つ又は複数のプロセッサによって実施された場合、前記１つ又は複数のプロセッサに、
前記画像及び第２の画像に基づいて、疎なフロー・マップを取得することと、
前記第２の領域中の前記１つ又は複数のピクセルのサブセットを生成することであって、ここで、前記サブセット中の少なくとも１つのピクセルが有効ピクセルである、生成することと、
１つ又は複数の反復にわたって、前記有効ピクセルを使用して、前記第２の領域中の前記１つ又は複数のピクセルの前記サブセットからの１つ又は複数の無効ピクセルを置き換えることと、
１つ又は複数の追加の反復にわたって、前記第１の領域中の置き換えられたピクセルのセットを生成するために、前記第２の領域からの前記置き換えられた１つ又は複数のピクセルを使用して、前記第１の領域中の前記１つ又は複数のピクセルからの１つ又は複数の無効ピクセルを置き換えることと
を行わせる命令を、命令の前記セットがさらに含む、請求項１９に記載の機械可読媒体。

【請求項21】

前記１つ又は複数のプロセッサによって実施された場合、前記１つ又は複数のプロセッサに、
１つ又は複数の反復にわたって、前記第１の領域及び第２の領域中の１つ又は複数の行及び１つ又は複数の列をスキャンすることと、
前記第１又は第２の領域中の１つ又は複数の有効ピクセルを使用することによって、前記第１の領域及び前記第２の領域中の前記１つ又は複数のピクセルを置き換えることと、
前記第１の領域及び前記第２の領域中の前記１つ又は複数のピクセルの前記置き換えに基づいて、密なフロー・マップを生成することと
を行わせる命令を、命令の前記セットがさらに含む、請求項１９に記載の機械可読媒体。

【請求項22】

前記１つ又は複数のプロセッサによって実施された場合、前記１つ又は複数のプロセッサに、メディアン・フィルタを使用して、前記密なフロー・マップを更新させる命令を、命令の前記セットがさらに含む、請求項２１に記載の機械可読媒体。

【請求項23】

前記１つ又は複数のプロセッサによって実施された場合、前記１つ又は複数のプロセッサに、疎なフロー・マップを使用して、前記第１の領域及び第２の領域中の前記１つ又は複数のピクセル中のピクセルが有効であるのか無効であるのかを示させる命令を、命令の前記セットがさらに含む、請求項１９に記載の機械可読媒体。

【請求項24】

前記第２の領域中の前記１つ又は複数のピクセルが、背景とラベリングされる前記１つ又は複数のピクセルに対する動きを計算することを除外する、請求項１９に記載の機械可読媒体。

【請求項25】

画像の第１の領域中の１つ又は複数のピクセルの動きを、前記第１の領域と重複する前記画像の第２の領域中の１つ又は複数のピクセルの動きに少なくとも部分的に基づいて計算するための、１つ又は複数のプロセッサを有する、１つ又は複数のコンピュータ
を備える、システム。

【請求項26】

前記１つ又は複数のプロセッサが、さらに、
前記画像及び第２の画像に基づくフロー・マップを受信することと、
前記第２の領域中の前記１つ又は複数のピクセル中の無効ピクセルを識別することと、
少なくとも１つの有効ピクセルを含む、前記識別された無効ピクセルからの１つ又は複数の近隣ピクセルを識別することと、
前記第２の領域中の置き換えられたピクセルを生成するために、前記少なくとも１つの有効ピクセルを使用して、前記無効ピクセル、及び、前記１つ又は複数の近隣ピクセルからの１つ又は複数の無効ピクセルを置き換えることと、
前記第２の領域中の前記置き換えられたピクセルを使用して、前記第１の領域中の１つ又は複数の無効ピクセルを置き換えることと
を行うためのものである、請求項２５に記載のシステム。

【請求項27】

前記１つ又は複数のプロセッサが、さらに、
前記第１の領域又は第２の領域中の前記置き換えられたピクセルを使用して、前記画像の第３の領域中の１つ又は複数のピクセルを置き換えることであって、前記第１の領域又は前記第２の領域が前記第３の領域と重複する、置き換えること
を行うためのものである、請求項２６に記載のシステム。

【請求項28】

前記１つ又は複数のプロセッサが、さらに、１つ又は複数の行又は列を介して、前記第１の領域中のピクセルをトラバースすることと、有効ピクセルを使用して、無効ピクセルを置き換えることとを行うためのものである、請求項２５に記載のシステム。

【請求項29】

前記画像が、半自律車両のビデオを使用してキャプチャされる、請求項２５に記載のシステム。

【請求項30】

前記第１の領域中の前記１つ又は複数のピクセルの前記計算された動きが、ビデオ中のフレーム上でフレーム・レート・アップ・コンバージョンを実施することの一部として使用される、請求項２５に記載のシステム。

【発明の詳細な説明】

【技術分野】

【0001】

本出願は、２０２１年４月５日に出願された、「ＳＵＰＥＲＰＩＸＥＬ ＧＥＮＥＲＡＴＩＯＮ ＡＮＤ ＵＳＥ」と題する［［米国出願番号は、まだ割り当てられていない］］の内容全体を参照によって組み込む。

【背景技術】

【0002】

様々なコンテキストにおいて、画像中のピクセルの動きを計算することは困難であり得る。しばしば、ニューラル・ネットワークが、画像からのピクセルの動きを計算するために使用されるが、ニューラル・ネットワークを使用することは、算出において不経済であり得る。画像中のピクセルの動きを計算するために使用されるメモリ、時間、又はコンピューティング・リソースの量は、算出動作を並列に実施するようにＧＰＵを構成するためのＣＵＤＡコードを使用して改善され得る。

【発明の概要】

【課題を解決するための手段】

【0003】

少なくとも１つの実施例が、１つ又は複数のコンピュート・ユニファイド・デバイス・アーキテクチャ（ＣＵＤＡ：Ｃｏｍｐｕｔｅ Ｕｎｉｆｉｅｄ Ｄｅｖｉｃｅ Ａｒｃｈｉｔｅｃｔｕｒｅ）プログラムを実行するために使用される処理リソースに関わる。たとえば、少なくとも１つの実施例が、本明細書で説明される様々な新規の技法によって、１つ又は複数の画像中のピクセルの動きを計算する、１つ又は複数のＣＵＤＡプログラムを実行するために使用されるプロセッサ又はコンピューティング・システムに関わる。

【図面の簡単な説明】

【0004】

【図1】少なくとも１つの実施例による、画像の複数の領域中の１つ又は複数のピクセルの動きを計算する例示的なフレームワークを示す図である。

【図2】少なくとも１つの実施例による、共有される特性に基づいて、画像中の１つ又は複数のピクセルを一緒にグループ化するためのシステムのブロック線図を示す図である。

【図3】少なくとも１つの実施例による、共有される特性に基づいて、画像中の１つ又は複数のピクセルをグループ化することの実例を示す図である。

【図4】少なくとも１つの実施例による、重複する領域中の１つ又は複数のピクセルに基づいて、画像中の領域中の１つ又は複数のピクセルのオプティカル・フローを補間することの実例を示す図である。

【図5】少なくとも１つの実施例による、画像中の第１の領域及び第２の重複する領域中の１つ又は複数のピクセルのオプティカル・フローを補間することの実例を示す図である。

【図6】少なくとも１つの実施例による、画像及びコスト・マップの１つ又は複数の行及び列をスキャンすることによって、１つ又は複数のピクセルのオプティカル・フローを補間することの実例を示す図である。

【図7】少なくとも１つの実施例による、コスト・マップを使用して、画像中の１つ又は複数のピクセルを更新することの実例を示す図である。

【図8】少なくとも１つの実施例による、オプティカル・フローの疎対密補間（ｓｐａｒｓｅ ｔｏ ｄｅｎｓｅ ｉｎｔｅｒｐｏｌａｔｉｏｎ）の実例を示す図である。

【図9】少なくとも１つの実施例による、オプティカル・フローの疎対密補間を実施するためのフレームワークのためのプロセスの実例を示す図である。

【図10】少なくとも１つの実施例による、例示的なデータ・センタを示す図である。

【図11】少なくとも１つの実施例による、処理システムを示す図である。

【図12】少なくとも１つの実施例による、コンピュータ・システムを示す図である。

【図13】少なくとも１つの実施例による、システムを示す図である。

【図14】少なくとも１つの実施例による、例示的な集積回路を示す図である。

【図15】少なくとも１つの実施例による、コンピューティング・システムを示す図である。

【図16】少なくとも１つの実施例による、ＡＰＵを示す図である。

【図17】少なくとも１つの実施例による、ＣＰＵを示す図である。

【図18】少なくとも１つの実施例による、例示的なアクセラレータ統合スライス（ａｃｃｅｌｅｒａｔｏｒ ｉｎｔｅｇｒａｔｉｏｎ ｓｌｉｃｅ）を示す図である。

【図19A】少なくとも１つの実施例による、例示的なグラフィックス・プロセッサを示す図である。

【図19B】少なくとも１つの実施例による、例示的なグラフィックス・プロセッサを示す図である。

【図20A】少なくとも１つの実施例による、グラフィックス・コアを示す図である。

【図20B】少なくとも１つの実施例による、ＧＰＧＰＵを示す図である。

【図21A】少なくとも１つの実施例による、並列プロセッサを示す図である。

【図21B】少なくとも１つの実施例による、処理クラスタを示す図である。

【図21C】少なくとも１つの実施例による、グラフィックス・マルチプロセッサを示す図である。

【図22】少なくとも１つの実施例による、グラフィックス・プロセッサを示す図である。

【図23】少なくとも１つの実施例による、プロセッサを示す図である。

【図24】少なくとも１つの実施例による、プロセッサを示す図である。

【図25】少なくとも１つの実施例による、グラフィックス・プロセッサ・コアを示す図である。

【図26】少なくとも１つの実施例による、ＰＰＵを示す図である。

【図27】少なくとも１つの実施例による、ＧＰＣを示す図である。

【図28】少なくとも１つの実施例による、ストリーミング・マルチプロセッサを示す図である。

【図29】少なくとも１つの実施例による、プログラミング・プラットフォームのソフトウェア・スタックを示す図である。

【図30】少なくとも１つの実施例による、図２９のソフトウェア・スタックのＣＵＤＡ実装形態を示す図である。

【図31】少なくとも１つの実施例による、図２９のソフトウェア・スタックのＲＯＣｍ実装形態を示す図である。

【図32】少なくとも１つの実施例による、図２９のソフトウェア・スタックのＯｐｅｎＣＬ実装形態を示す図である。

【図33】少なくとも１つの実施例による、プログラミング・プラットフォームによってサポートされるソフトウェアを示す図である。

【図34】少なくとも１つの実施例による、図２９～図３２のプログラミング・プラットフォーム上で実行するためのコードをコンパイルすることを示す図である。

【図35】少なくとも１つの実施例による、図２９～図３２のプログラミング・プラットフォーム上で実行するためのコードをコンパイルすることをより詳細に示す図である。

【図36】少なくとも１つの実施例による、ソース・コードをコンパイルするより前にソース・コードをトランスレートすることを示す図である。

【図37A】少なくとも１つの実施例による、異なるタイプの処理ユニットを使用してＣＵＤＡソース・コードをコンパイル及び実行するように構成されたシステムを示す図である。

【図37B】少なくとも１つの実施例による、ＣＰＵ及びＣＵＤＡ対応ＧＰＵを使用して、図３７ＡのＣＵＤＡソース・コードをコンパイル及び実行するように構成されたシステムを示す図である。

【図37C】少なくとも１つの実施例による、ＣＰＵ及びＣＵＤＡ非対応（ｎｏｎ－ＣＵＤＡ－ｅｎａｂｌｅｄ）ＧＰＵを使用して、図３７ＡのＣＵＤＡソース・コードをコンパイル及び実行するように構成されたシステムを示す図である。

【図38】少なくとも１つの実施例による、図３７ＣのＣＵＤＡからＨＩＰへのトランスレーション・ツール（ＣＵＤＡ－ｔｏ－ＨＩＰ ｔｒａｎｓｌａｔｉｏｎ ｔｏｏｌ）によってトランスレートされた例示的なカーネルを示す図である。

【図39】少なくとも１つの実施例による、図３７ＣのＣＵＤＡ非対応ＧＰＵをより詳細に示す図である。

【図40】少なくとも１つの実施例による、例示的なＣＵＤＡグリッドのスレッドが図３９の異なるコンピュート・ユニットにどのようにマッピングされるかを示す図である。

【図41】少なくとも１つの実施例による、既存のＣＵＤＡコードをＤａｔａ Ｐａｒａｌｌｅｌ Ｃ＋＋コードにどのようにマイグレートするかを示す図である。

【発明を実施するための形態】

【0005】

以下の説明では、少なくとも１つの実施例のより完全な理解を提供するために、多数の具体的な詳細が記載される。ただし、発明概念はこれらの具体的な詳細のうちの１つ又は複数なしに実施され得ることが当業者には明らかであろう。

【0006】

少なくとも１つの実施例では、１つ又は複数の回路（コンピュータ・システム中にあり得る１つ又は複数のプロセッサの一部であり得る）が、画像の１つ又は複数のピクセルの動きを計算する。少なくとも１つの実施例では、前記１つ又は複数の回路は、前記画像の第１の領域中の１つ又は複数のピクセルの動きを、前記第１の領域と重複する前記画像の第２の領域中の１つ又は複数のピクセルの動き情報を使用することによって計算する。少なくとも１つの実施例では、前記１つ又は複数の回路は、画像の１つ又は複数のピクセルの動きを計算することを、画像及びフロー・マップを取得することと、中の１つ又は複数のピクセルが一緒にグループ化されることを引き起こすことであって、ピクセルの前記グループが、強度及び階調度のうちの少なくとも１つに対応する１つ又は複数の特性を共有する、引き起こすことと、前記フロー・マップに基づいて、ピクセルの前記グループからの１つ又は複数の有効ピクセルを使用して、ピクセルの前記グループの１つ又は複数の無効ピクセルを有効ピクセルに反復的にコンバートすることとによって行う。

【0007】

少なくとも１つの実施例では、オプティカル・フロー（たとえば、オプティカル・フロー・マップ）が、オブジェクトとカメラとの間の相対的な移動によって引き起こされる、ビデオの連続するフレーム間のオブジェクトの動きをあらわにするためのコンピュータ・ビジョン・タスク（たとえば、画像セグメンテーション及びオブジェクト検出）において使用される。オプティカル・フローを実施し、ビデオ・フレーム中の追跡されるオブジェクトの解像度を改善することは、ある程度利用可能であるが、そうすることは、通常、システムがオブジェクト検出及びセマンティック・セグメンテーションを実施することを必要とし、これは、並列コンピューティングにおいて実装するのが困難であり、複数の反復を必要とすることになる。さらに、オプティカル・フロー・ベクトル（すなわち、１つのフレームから次へのピクセルの移動を示すベクトル）を算出するとき、ベクトルが平易な様式で算出され得ない多くのピクセルがしばしばある。これは、フレーム間の照明条件における変化、オブジェクトが他のオブジェクトによって覆われること、及び他のファクタに起因する。

【0008】

少なくとも１つの実施例では、欠落したオプティカル・フロー・ベクトルを計算することを、前記欠落したオプティカル・フロー・ベクトルに対してフィル・インする（ｆｉｌｌ ｉｎ）ための、前に計算されたオプティカル・フロー・ベクトルを使用することによって行うためのフレームワークが作成される。少なくとも１つの実施例では、第１の画像、並びに、前記第１の画像及び第２の画像（たとえば、ビデオ中の２つの引き続くフレーム）に対応する疎なオプティカル・フロー・マップが取得される。少なくとも１つの実施例では、次いで、前記フレームワークは、前記第１の画像中のオブジェクトの１つ又は複数のピクセルから候補ピクセルを選択し、前記オブジェクトを表す前記第１の画像の第１の領域中の近隣ピクセル（ｎｅｉｇｈｂｏｒｉｎｇ ｐｉｘｅｌ）のグループが（たとえば、スーパーピクセルを形成して）一緒にグループ化されることを引き起こすことができる。少なくとも１つの実施例では、ピクセルの前記グループは、これらのピクセルの各々の階調度及び強度が前記候補ピクセルからどれだけ同様であるかに基づいて決定される。少なくとも１つの実施例では、前記フレームワークは、疎なオプティカル・フロー・マップに基づいて、ピクセルの前記グループからのピクセルが、有効フロー・ピクセル（たとえば、有効ピクセル）であるのか、無効フロー・ピクセル（たとえば、無効ピクセル）であるのかを、コスト関数を適用することによって決定する。少なくとも１つの実施例では、有効フロー・ピクセルは、第１のフレーム（たとえば、第１の画像）から、引き続くフレーム（たとえば、第２の画像）に移動することを、前記ピクセルが前記引き続くフレームから前記第１のフレームに戻るように逆方向に移動するときにそのピクセルが移動することになるのと同じように行い、無効フロー・ピクセルは、そのように移動しない。少なくとも１つの実施例では、フレームワークは、ピクセルの前記グループ中のどのピクセルが、前記オブジェクトの一部でない（たとえば、エッジ・ピクセル）かを、前記エッジ・ピクセルを計算から除外するために認識している。少なくとも１つの実施例では、次いで、フレームワークは、少なくとも１つの有効フロー・ピクセルを使用して、無効フローを伴う近隣ピクセルを、補間を介して修整する。少なくとも１つの実施例では、前記画像中の異なる領域上での複数の反復にわたって、新しい候補ピクセルが選択され、そのピクセルの近隣オプティカル・フロー・ピクセル（階調度及び／又は強度など、共有される特性に基づいて決定される）が、少なくとも１つの有効フロー・ピクセルに基づいて補間される。少なくとも１つの実施例では、近隣ピクセルは、画像の深度に基づいて決定される。少なくとも１つの実施例では、近隣ピクセルは、画像の深度、階調度、及び強度のうちの少なくとも１つに基づいて決定される。少なくとも１つの実施例では、複数の反復の後、前記疎なオプティカル・フロー・マップは、密なオプティカル・フロー・マップに修正される。少なくとも１つの実施例では、メディアン・フィルタが、精緻化のために前記密なオプティカル・フロー・マップに適用される。

【0009】

少なくとも１つの実施例では、本明細書で説明される技法は、限定はしないが、算出性能（たとえば、速さ、処理パワー、及びメモリ消費量）における改善を含み、また、並列コンピューティングと互換性があるように構成された、様々な技術的利点を成し遂げる。少なくとも１つの実施例では、本明細書で説明される技法は、リアル・タイムでのオプティカルの疎対密補間に関係する問題を解くためのフレームワークを使用する。密なオプティカル・フローは、フレーム・レート・アップ・コンバージョン（２ｘ、４ｘ、８ｘ速さにクリップの速さを上げる）、ビデオ符号化、ロボット・ナビゲーション、及び／又は、データ・センタ用途のためのビデオ分類などの用途において使用される。いくつかのフレームワークでは、疎対密補間は、ランダム・サンプル・コンセンサス（ＲＡＮＳＡＣ：ｒａｎｄｏｍ ｓａｍｐｌｅ ｃｏｎｓｅｎｓｕｓ）フロー・プロセスを使用して、各セグメントに対するモデルを推定して、完全形のシーン／画像をオーバー・セグメンテーションすることによって実施され、モデル伝搬をさらに使用して、フロー・マップを精緻化する。少なくとも１つの実施例では、本明細書で説明される技法は、無効位置の周りをセグメンテーションし、反復的な最近傍及びスキャンライン・インフィリングを実施し、メディアン・フィルタをさらに使用して、フロー・マップを精緻化する。

【0010】

少なくとも１つの実施例では、画像セグメンテーション、各セグメントに対するモデル生成及び伝搬、並びに変分精緻化を使用して、疎対密補間を成し遂げることの代わりに、本明細書で説明される技法は、並列コンピューティングに対して互換性があるやり方で、すべての無効フロー位置を修整し、それらを有効フロー位置と置き換えるためのフレームワークを使用する。少なくとも１つの実施例では、前記フレームワークは、画像中のピクセルの計算動きに関係する算出動作を並列に実施するようにＧＰＵを構成するためのＣＵＤＡコードを使用して、疎対密補間を（たとえば、画像中のピクセルの動きを、前記画像中の他のピクセルに基づいて計算して）実施する。

【0011】

図１は、少なくとも１つの実施例による、画像の複数の領域中の１つ又は複数のピクセルの動きを計算する例示的なフレームワーク１００を示す。少なくとも１つの実施例では、例示的なフレームワーク１００は、１つ又は複数の入力データ（たとえば、画像１、画像２、疎なフロー・マップ、画像１階調度）を、ネットワークを介して受信して、疎対密補間を実施する、１つ又は複数のコンピューティング・デバイスを備える。少なくとも１つの実施例では、前記１つ又は複数のコンピューティング・デバイスは、画像（たとえば、画像１）中の１つ又は複数のピクセルの動きを計算するためのＣＵＤＡコードを実行するように構成される、１つ又は複数のプロセッサ（たとえば、コンピュート・ユニファイド・デバイス・アーキテクチャ（ＣＵＤＡ）対応ＧＰＵ）を備える。少なくとも１つの実施例では、フレームワーク１００は、前記画像中の１つ又は複数のピクセルの動きを計算するためのＣＵＤＡコードを実行するように構成される、単一のコンピューティング・デバイスである。少なくとも１つの実施例では、フレームワーク１００の構成要素は、ワイヤード及び／又はワイヤレス通信プロトコルを介して、限定はしないが、ローカル・エリア・ネットワーク（ＬＡＮ：ｌｏｃａｌ ａｒｅａ ｎｅｔｗｏｒｋ）及び／又はワイド・エリア・ネットワーク（ＷＡＮ：ｗｉｄｅ ａｒｅａ ｎｅｔｗｏｒｋ）を含む、様々な異なるネットワーク・タイプのいずれかを使用して、互いとの間及び中で通信し得る。

【0012】

少なくとも１つの実施例では、１つ又は複数のコンピューティング・デバイスは、入力データを受信する。少なくとも１つの実施例では、入力データは、１つ又は複数の画像（たとえば、画像１及び画像２）と、疎なフロー・マップとを含む。少なくとも１つの実施例では、疎なオプティカル・フロー・マップは、画像１と画像２との間で計算される。少なくとも１つの実施例では、疎なオプティカル・フロー・マップは、ピクセルの、前記ピクセル速度ベクトル（たとえば、動き）を追跡する、疎な特徴セットを含む。少なくとも１つの実施例では、オプティカル・フロー・マップは、２つの画像を使用して、及び、シーンの逐次的画像中の、関心を引く特徴の移動の推定値を提供するルーカス・カナデ法を使用してオプティカル・フローを計算して生成され得る。少なくとも１つの実施例では、前記疎なオプティカル・フロー・マップの形状は、画像１及び画像２における画像形状と同じ形状である。少なくとも１つの実施例では、疎なフロー・マップ中に、有効フロー・ピクセルを伴ういくつかの位置（座標）、及び、無効フロー・ピクセルを伴ういくつかのものがある。少なくとも１つの実施例では、無効フロー・ピクセルは、無効値（ＭＡＸ ＰＯＳＳＩＢＬＥ＿ＦＬＯＷ＋１）を有する。

【0013】

少なくとも１つの実施例では、前記１つ又は複数のコンピューティング・デバイスは、画像の第１の領域中の１つ又は複数のピクセルの動きを、前記第１の領域と重複する前記画像の第２の領域中の１つ又は複数のピクセルの動きに少なくとも部分的に基づいて計算するための、１つ又は複数のプログラム（たとえば、ＣＵＤＡ又は他のそのようなプログラム）を実行する。少なくとも１つの実施例では、１つ又は複数のコンピューティング・デバイスは、画像の第１の領域中のピクセルのグループ（本明細書ではスーパーピクセルと呼ばれることもある）を決定するためのＣＵＤＡコードを実行する。少なくとも１つの実施例では、１つ又はコンピューティング・デバイスは、入力データを受信し、少なくとも１つのスーパーピクセルを生成１０２する。少なくとも１つの実施例では、本明細書ではエッジ認識スーパーピクセル（Ｅｄｇｅａｗａｒｅ－ｓｕｐｅｒｐｉｘｅｌ）とも呼ばれるスーパーピクセルを生成するためのフレームワークが、疎なフロー・マップ及び画像１を読み取る。少なくとも１つの実施例では、１つ又は複数のコンピューティング・デバイスは、無効フロー位置に対して（強度及び階調度のような共通の特性を共有するピクセルをグループ化することによって）スーパーピクセルを生成するための、１つ又は複数の動作を実施する。少なくとも１つの実施例では、疎なフロー・マップは、無効フロー位置を識別するために使用され、画像１は、スーパーピクセル生成のために使用される。

【0014】

少なくとも１つの実施例では、本明細書ではエッジ認識インフィル１０４を実施することとも呼ばれる、画像中の各ピクセルに対するフロー・ベクトルを補間することのためのフレームワークが、各無効位置に対してスーパーピクセルを読み取り、スーパーピクセルの有効さについてチェックする（スーパーピクセルは、それが、有効フロー位置を伴うピクセルのサブセットを保持する場合、有効である）。少なくとも１つの実施例では、有効スーパーピクセルの中のフローの最も良い選定は、ｉｎｆｉｌｌｉｎｇ＿ｃｏｓｔ＝（０．２＊ｐｉｘｅｌ＿ｄｉｓｔａｎｃｅ＋０．４＊ｐｉｘｅｌ＿ｇｒａｄｉｅｎｔ＿ｄｉｆｆ＋０．４＊ｐｉｘｅｌ＿ｉｎｔｅｎｓｉｔｙ＿ｄｉｆｆ）によって判定される。少なくとも１つの実施例では、「ｉｎｆｌｌｉｎｇ＿ｃｏｓｔ」などのコスト関数を最小限に抑えるフロー・ベクトルが選択される。少なくとも１つの実施例では、エッジ認識インフィル１０４を実施することは、画像においてフロー・ベクトルを反復的に補間すること１０６を含む。少なくとも１つの実施例では、反復の量は４に固定され、しかしながら、より多い、又は、より少ない反復がまた使用され得る。少なくとも１つの実施例では、各反復は、いくつかのポイント／スーパーピクセルを修整し、これは、次の反復が他の無効ポイント／スーパーピクセルを修整することをゆくゆくは助ける。少なくとも１つの実施例では、エッジ認識インフィルは、すべての位置を修整するのではないことがあり、それは、無効ピクセルの密度を低減することを助ける。少なくとも１つの実施例では、１つ又は複数のコンピューティング・デバイスは、画像中の１つ又は複数のピクセルがエッジ・ピクセルであるかどうかに関する検出１０８を実施する（たとえば、エッジ・ピクセルは、オブジェクトを表さないピクセルである）。少なくとも１つの実施例では、エッジ認識インフィル１０４は、エッジ・ピクセルであるいかなる検出されたピクセルも除外することによって実施される。少なくとも１つの実施例では、１つ又は複数のコンピューティング・デバイスは、フロー・スキャンライン・インフィリング１１０を実施する。少なくとも１つの実施例では、有効ベクトルが、別の有効ポイントを検出するまで、４つの方向（左、右、上、下）においてドラッグされる。少なくとも１つの実施例では、別の有効ポイントが検出されると、無効位置を伴う近隣ピクセルが、トラバーサル中に、検出された有効ポイントに基づいて修整され得る。少なくとも１つの実施例では、フロー・ベクトルは、上記で説明されたように、コスト関数「ｉｎｆｉｌｌｉｎｇ＿ｃｏｓｔ」に基づいて複数のフローの中で選定される。少なくとも１つの実施例では、このステップの出力は、密なフロー・マップである。少なくとも１つの実施例では、１つ又は複数のコンピューティング・デバイスは、精緻化のために密なフロー・マップ上で５ｘ５メディアン・フィルタ１１２を稼働する。少なくとも１つの実施例では、５ｘ５メディアン・フィルタ以外に、他のサイズ及び／又はフィルタも使用され得る。

【0015】

図２は、少なくとも１つの実施例による、共有される特性に基づいて、画像中の１つ又は複数のピクセルを一緒にグループ化するためのシステム２００のブロック線図を示す。少なくとも１つの実施例では、ピクセルのグループ化（たとえば、スーパーピクセル生成）技法が、中心位置から開始して、エッジ・ポイント又は指定境界が達されるまで（たとえば、２Ｓ×２Ｓウィンドウ境界、ここで、Ｓはウィンドウ半径である）、近隣ピクセルをトラバースするシステム２００によって実施される。少なくとも１つの実施例では、エッジ・ポイントにおいて止めることによって、算出が低減され得る。少なくとも１つの実施例では、システム２００は、ＧＰＵ（グラフィックス処理ユニット（ｇｒａｐｈｉｃｓ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ））、ＣＰＵ（中央処理ユニット（ｃｅｎｔｒａｌ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ））を伴う、コンピューティング・システムによって、又は、ビジョン・システムによって実施される。少なくとも１つの実施例では、システム２００は、ハードウェア（たとえば、処理デバイス、回路要素、専用論理、プログラマブル論理、マイクロコード、デバイスのハードウェア、集積回路など）、ソフトウェア（たとえば、処理デバイス上で稼働又は実行される命令）、又はそれらの組合せを含み得る。

【0016】

少なくとも１つの実施例では、システム２００は、１つ又は複数のモジュール：ダウンサンプラ２０１～２０３、順方向フロー生成器２０５、逆方向フロー生成器２０７、フロー比較器２０９、無効フロー座標抽出器／コンパクタ２１１、エッジ検出器２１３、スーパー・ピクセル生成器２１５、及びアップサンプラ２１７を含む。少なくとも１つの実施例では、いくつかのモジュール２０１～２１７は、集積モジュールである。少なくとも１つの実施例では、順方向フロー生成器２０５及び逆方向フロー生成器２０７は、集積モジュールであり得る。少なくとも１つの実施例では、モジュールは、コンピュータ内で機能を提供する回路ボード上にある１つ又は複数の電子回路を含む。少なくとも１つの実施例では、システム２００は、限定はしないが、任意の好適な数又は種類の構成要素、周辺機器、モジュール、又はデバイスに通信可能に結合される、１つ又は複数のプロセッサを含む。

【0017】

少なくとも１つの実施例では、ダウンサンプラ２０１～２０３は、画像のシーケンスの画像（Ｉ１’及びＩ２’）を受信し、スケール・ファクタによって画像をダウンサンプリングして、画像（Ｉ１及びＩ２）を生成し得る。少なくとも１つの実施例では、画像Ｉ１’及びＩ２’は、デジタル画像、及び／又は、ＲＧＢ（赤緑青）色画像などの色画像である。少なくとも１つの実施例では、画像Ｉ１’及びＩ２’は、静止画像、ビデオ画像、又は、ビジョン・システムからのリアル・タイム・キャプチャされた画像であり得る。少なくとも１つの実施例では、画像をダウンサンプリングすることは、画像のピクセル寸法を低減することによって、管理可能なサイズであるように画像をスケーリングする。少なくとも１つの実施例では、以下でさらに説明されるような、スーパーピクセル生成のために近隣ピクセルをトラバースすることは、１未満のファクタによって画像がスケーリングされる場合、スーパーピクセル中心から、より遠く離れたピクセルを使用し得る。少なくとも１つの実施例では、画像が８００ｘ８００ピクセルの寸法を有する場合、^１／_２のファクタによってダウンサンプリングすることは、４００ｘ４００ピクセルを伴う画像を提供する。少なくとも１つの実施例では、画像は、画像から周期的にいくつかの行／列を切り捨てることによってダウンサンプリングされ得る。少なくとも１つの実施例では、ダウンサンプリングのための他の技法は、バイキュービック・ダウンサンプリング、アベレージ・ダウンサンプリングなどを含み得る。

【0018】

少なくとも１つの実施例では、順方向フロー生成器２０５は、画像（Ｉ１及びＩ２、又は、実施されるダウンサンプリングがない場合、画像Ｉ１’及びＩ２’）を受信し、画像Ｉ１及びＩ２（又は、Ｉ１’及びＩ２’）を使用して、順方向オプティカル・フロー・データ（Ｆ_１－２）を取得し得る。少なくとも１つの実施例では、オプティカル・フロー・データ（フロー・データとも呼ばれる）は、第１の画像から第２の画像への画像ピクセル・データ移動の方向及び大きさを示すオプティカル・フロー・ベクトル（フロー・ベクトルとも呼ばれる）を含む。少なくとも１つの実施例では、オプティカル・フロー・データは、２次元（２Ｄ：ｔｗｏ－ｄｉｍｅｎｓｉｏｎａｌ）画像平面における画像ピクセル・データ移動の方向及び大きさを示す。少なくとも１つの実施例では、ピクセル移動は、ピクセルが２つの画像フレーム中で同じ強度及び／又は色を保つ、並びに、移動が小さい（たとえば、いくつかのピクセル）ということを仮定することによって追跡される。少なくとも１つの実施例では、第１のフレーム中のオブジェクトの特定のピクセル又はエッジの特定の色／強度が、第２のフレーム中の異なるピクセルに移動し得る。少なくとも１つの実施例では、色／強度は、第１の画像フレームと第２の画像フレームとの間を移動する、シーン中のオブジェクトに関連する。少なくとも１つの実施例では、シーンをキャプチャするために使用されるカメラ位置は、オブジェクトが画像フレーム間で移動するように見えるように、第１のフレームと第２のフレームとの間で変化し得る（パンニング）。少なくとも１つの実施例では、順方向オプティカル・フロー・データは、Ｉ１からＩ２（又は、Ｉ１’からＩ２’）のオプティカル・フロー・ベクトルを表し、ここで、Ｉ１（及びＩ１’）は、時間ｔにおける画像であり、Ｉ２（及びＩ２’）は、時間ｔ＋１における画像である。

【0019】

少なくとも１つの実施例では、逆方向フロー生成器２０７は、画像Ｉ１及びＩ２（又は、Ｉ１’及びＩ２’を受信し、画像Ｉ１及びＩ２（又は、Ｉ１’及びＩ２’）を使用して、逆方向オプティカル・フロー・データ（Ｆ_２－１）を取得する。少なくとも１つの実施例では、逆方向オプティカル・フロー・データは、Ｉ２からＩ１（又は、Ｉ２’からＩ１’）のオプティカル・フロー・ベクトルを表し、ここで、Ｉ１及びＩ１’は、時間ｔにおける画像であり、Ｉ２及びＩ２’は、時間ｔ＋１における画像である。

【0020】

少なくとも１つの実施例では、順方向及び逆方向オプティカル・フロー・データは、ピクセルの輝度不変性を、たとえば、ピクセルの輝度がピクセルの動きによって影響を及ぼされないということを仮定する、順方向－逆方向拘束方程式を使用して取得される。少なくとも１つの実施例では、不変強度を仮定された（ｘ，ｙ）におけるピクセルに対する連続の方程式は、以下のようなものである。
Ｉ（ｘ，ｙ，ｔ）－Ｉ（ｘ＋ｄｘ，ｙ＋ｄｙ，ｔ＋ｄｔ）＝０ （１）

【0021】

ここで、Ｉ（ｘ，ｙ，ｔ）は、時間ｔにおけるピクセルの強度であり、Ｉ（ｘ＋ｄｘ，ｙ＋ｄｙ，ｔ＋ｄｔ）は、時間ｔ＋ｄｔにおける、（ｘ＋ｄｘ，ｙ＋ｄｙ）に位置する同じピクセルを仮定されるものの強度である。

【0022】

式（１）から、順方向及び逆方向拘束動き方程式が、以下のようにそれぞれ表され得る。
Ｉ_ｔ（ｘ，ｙ）＝Ｉ_ｔ＋ｄｔ（ｘ＋ｄｘ_２，ｙ＋ｄｙ_２）、及び、 （２）
Ｉ_ｔ＋ｄｔ（ｘ，ｙ）＝Ｉ_ｔ（ｘ－ｄｘ_１，ｙ－ｄｙ_１） （３）

【0023】

式（２）及び（３）のテイラー級数展開が、以下を提供する。

【数1】

【0024】

式（４）及び（５）は、以下のように書き換えられ得る。

【数2】

【0025】

又は、以下のように書き換えられ得る。

【数3】

【0026】

ここで、

【数4】

、

【数5】

、

【数6】

、

【数7】

、

【数8】

、及び

【数9】

である。

【0027】

ここでは、

【数10】

、

【数11】

、及び

【数12】

は、（ｘ，ｙ，ｔ）における画像の微分であり、

【数13】

、

【数14】

、及び

【数15】

は、（ｘ，ｙ，ｔ＋１）における画像の微分であり、（ｕ_２，ｖ_２）は、順方向動きベクトルであり、（ｕ_１，ｖ_１）は、逆方向動きベクトルである。

【0028】

式（８）及び（９）は、以下のように単に書き換えられ得る。

【数16】

【0029】

少なくとも１つの実施例では、式（１０）及び（１１）は、順方向及び逆方向動き（又はフロー）ベクトルを推定するための数値方法によって解かれ得、ここで、順方向動きベクトルは、ピクセルが第１の画像（時間ｔ）から第２の画像（時間ｔ＋ｄｔ）に移動した量を表し、逆方向動きベクトルは、ピクセルが第２の画像（時間ｔ＋ｄｔ）から第１の画像（時間ｔ）に移動した量を表す。

【0030】

少なくとも１つの実施例では、フロー比較器２０９は、順方向及び逆方向オプティカル・フロー・データを受信し、順方向フロー・データ中の各オプティカル・フロー・ベクトルに対して、順方向オプティカル・フロー・データと逆方向オプティカル・フロー・データとの間の比較を実施して、調和する、及び、調和しないオプティカル・フロー・データを決定する。少なくとも１つの実施例では、調和するオプティカル・フロー・データは、順方向オプティカル・フロー・データＦ_１－２と逆方向オプティカル・フロー・データＦ_２－１との間の整合する（又は、ほぼ整合する）フィールド大きさ及びフィールド方向を伴うフロー・ベクトルを有する。少なくとも１つの実施例では、調和しないフロー・データは、少なくとも、順方向オプティカル・フロー・データＦ_１－２と逆方向オプティカル・フロー・データＦ_２－１との間のフィールド大きさ又はフィールド方向のうちの少なくとも１つにおける不整合を有する。

【0031】

少なくとも１つの実施例では、順方向時間方向におけるフロー・ベクトルを伴う順方向オプティカル・データＦ_１－２は、様々な理由（たとえば、遮蔽、ぼけた画像、ノイズの多い画像、又は細いオブジェクトなど、オブジェクトの誤認又は限界検出）のために、逆方向時間方向におけるフロー・ベクトルを伴う逆方向オプティカル・データＦ_２－１との比較において調和しないことがある。たとえば、遮蔽のために、オブジェクトが時間ｔにおいてフレームＩ１中になく、そのオブジェクトが時間ｔ＋１においてフレームＩ２に進入する場合、Ｉ１からＩ２へのオブジェクトに対応するオプティカル・フロー・ベクトルは、フレームＩ２からＩ１へのそのオブジェクトに対応するフロー・ベクトルとは調和しない公算が大きく、なぜならば、Ｉ１はオブジェクトに対するピクセル情報がないからである。したがって、順方向及び逆方向オプティカル・フロー・データは、オプティカル・フロー情報の２つの別個のセットであり、調和しないことがある。順方向オプティカル・フロー・データと逆方向オプティカル・フロー・データとの間の調和しないオプティカル・フロー・データは信頼できない。

【0032】

少なくとも１つの実施例では、無効オプティカル・フロー・データは、同様の特性を伴う取り囲むピクセルからの有効オプティカル・フロー・データと置き換えられ、又は、その有効オプティカル・フロー・データによって「フィル・インされ」得る。少なくとも１つの実施例では、同様の特性を伴う取り囲むピクセルは、同じスーパーピクセル中のピクセルである。

【0033】

少なくとも１つの実施例では、無効フロー座標抽出器／コンパクタ２１１は、信頼できない／調和しないオプティカル・フロー・データを伴うオプティカル・フィールドのロケーションに対応するピクセル座標（たとえば、無効オプティカル・フロー座標）を抽出又はコンパクト化する。少なくとも１つの実施例では、無効フロー座標抽出器／コンパクタ２１１は、無効オプティカル・フロー・データに関連するピクセル座標を含む無効オプティカル・フロー座標マップを生成する。少なくとも１つの実施例では、無効オプティカル・フロー座標マップは、無効オプティカル・フロー・データのピクセル・ロケーションに対応する（ｘ，ｙ）座標を含み得る。少なくとも１つの実施例では、無効フロー座標抽出器／コンパクタ２１１は、並列ストリーム・コンパクションを実施して、有効フロー座標を削除し、無効フロー座標を持ち続ける。

【0034】

少なくとも１つの実施例では、エッジ検出器２１３は、画像（Ｉ１又はＩ１’）を受信し、画像Ｉ１又はＩ１’上でエッジ検出を実施して、階調度マップ又は他のエッジ検出マップを生成する。少なくとも１つの実施例では、ラプラシアン・オブ・ガウシアン・エッジ検出アルゴリズムが、階調度マップを生成するために使用される。

【0035】

少なくとも１つの実施例では、スーパーピクセル生成器２１５は、階調度マップ又は他のエッジ検出データ、無効フロー座標（たとえば、無効オプティカル・フロー座標のマップ）、並びに、画像Ｉ１及びＩ２（又は、画像Ｉ１’及びＩ２’）を受信して、１つ又は複数のスーパーピクセルを生成する。少なくとも１つの実施例では、スーパーピクセルは、ピクセル強度など、１つ又は複数の共通の特性を共有するセルのグループに対応する。少なくとも１つの実施例では、スーパーピクセル生成器２１５は、スーパーピクセルを含む１つ又は複数の画像（Ｏ１）を出力する。少なくとも１つの実施例では、Ｏ１は、入力画像Ｉ１（又はＩ’）のピクセル寸法に対応する座標を有する２次元（２Ｄ）アレイ構造である。少なくとも１つの実施例では、２Ｄアレイ中の各セルは、セルが属するスーパーピクセルを識別する整数値を含んでいる。

【0036】

少なくとも１つの実施例では、スーパーピクセル生成器２１５は、スーパーピクセル生成のための中心／候補座標として無効フロー座標を使用する。少なくとも１つの実施例では、スーパーピクセルを生成することは、スーパーピクセル中心ロケーションを取り囲む（Ｓ）の半径まで近隣ピクセルをトラバースすることを含む。少なくとも１つの実施例では、近隣ピクセルは、有効及び／又は無効オプティカル・フロー・ベクトルを伴う座標である。

【0037】

少なくとも１つの実施例では、スーパーピクセル生成器２１５は、近傍ピクセル（ｎｅｉｇｈｂｏｒ ｐｉｘｅｌ）をトラバースして、近傍ピクセルが中心ピクセルと同じスーパーピクセルに属する、たとえば、近傍ピクセルがいくつかの特性において中心ピクセルと同様であるかどうかを決定する。少なくとも１つの実施例では、近傍ピクセルは、事前に決定された判断基準が満足させられる場合、中心ピクセルと同様である。少なくとも１つの実施例では、近傍ピクセルの強度と中心ピクセルの強度との間の絶対差が第１の事前に決定されたしきい値を下回る、且つ、近傍ピクセルの階調度と中心ピクセルの階調度との間の絶対差が第２の事前に決定されたしきい値を下回る場合、事前に決定された判断基準が満足させられる。
｜Ｉ_{Ｃｅｎｔｅｒ}－Ｉ_{Ｎｅｉｇｈｂｏｒ}｜＜Ｉ_{Ｔｈｒｅｓｈｏｌｄ} ＆ ｜Ｇ_{Ｃｅｎｔｅｒ}－Ｇ_{Ｎｅｉｇｈｂｏｒ}｜＜Ｇ_{Ｔｈｒｅｓｈｏｌｄ} → Ｓ_{Ｍｅｍｂｅｒ}

【0038】

ここで、Ｉ_{ｃｅｎｔｅｒ}は、中心ピクセルの強度であり、Ｉ_{ｎｅｉｇｈｂｏｒ}は、考慮中の近傍ピクセルの強度であり、Ｇ_{ｃｅｎｔｅｒ}は、中心ピクセルの階調度であり、Ｇ_{ｎｅｉｇｈｂｏｒ}は、考慮中の近傍ピクセルの階調度であり、Ｓ_{ｍｅｍｂｅｒ}は、近傍ピクセルがスーパーピクセルのメンバーであることを意味する。

【0039】

少なくとも１つの実施例では、画像は、前処理され、ＣＩＥＬＡＢ色空間に変換される。少なくとも１つの実施例では、近傍ピクセルは、事前に決定された判断基準が満足させられる場合、中心ピクセルと同様であり、ここで、事前に決定された判断基準は以下であり得る。
Ｇ_{Ｎｅｉｇｈｂｏｒ}（ｘ，ｙ）＜Ｇ_{Ｔｈｒｅｓｈｏｌｄ}、Ｇ（ｘ，ｙ）
＝｜｜Ｉ（ｘ＋１，ｙ）－Ｉ（ｘ－１，ｙ）｜｜^２＋｜｜Ｉ（ｘ，ｙ＋１）－Ｉ（ｘ，ｙ－１）｜｜^２ → Ｓ_{Ｍｅｍｂｅｒ}

【0040】

ここで、Ｉ（ｘ，ｙ）は、位置（ｘ，ｙ）におけるピクセルに対応するｌａｂベクトルであり、｜｜．｜｜は、Ｌ２ノルムである。

【0041】

少なくとも１つの実施例では、上記の判断基準が満足させられる場合、スーパーピクセル生成器２１５は、中心ピクセルと同じスーパーピクセルに、１つ又は複数の近隣ピクセルを割り当て得る。少なくとも１つの実施例では、同じスーパーピクセルに属するピクセル座標は、スーパーピクセル情報を記憶するアレイ・データ構造中で同じ整数値を割り当てられる。少なくとも１つの実施例では、スーパーピクセル生成器２１５は、別個の処理スレッドを使用して、１つ又は複数のスーパーピクセル中心／候補座標に対して近隣ピクセルをトラバースする。少なくとも１つの実施例では、スーパーピクセル候補は、無効フロー座標として選択され得る。少なくとも１つの実施例では、スーパーピクセル生成器２１５は、複数の無効フロー座標を並列に処理する。

【0042】

少なくとも１つの実施例では、キューを使用して、トラバーサルのための近傍ピクセルのロケーションを記憶することの代わりに、スーパーピクセル生成器２１５は、１つ又は複数のバッファのビットを使用して、近傍座標を記憶する。少なくとも１つの実施例では、１つ又は複数の６４ビット・バッファが、近傍座標を記憶するために使用される。少なくとも１つの実施例では、８ビット・バッファ、１６ビット・バッファ、３２ビット・バッファ、１２８ビット・バッファ、又は他のサイズのバッファが使用される。少なくとも１つのバッファ（たとえば、６４ビット・バッファ）のビットは、１つ又は複数の近傍ピクセルにマッピングする、近傍座標の定数アレイ・データ構造中のインデックスを参照し得る。少なくとも１つの実施例では、少なくとも１つのバッファのビットは、ピクセルのＳ＝３近傍にマッピングする、近傍座標のデータ構造中のインデックスを参照し、ここで、Ｓは、スーパーピクセル・トラバーサル・パターンに対する半径である。

【0043】

少なくとも１つの実施例では、アップサンプラ２１７は、ダウンサンプラ３０１～３０３に対応するスケーリング・ファクタ（ＳＦ）によって、スーパーピクセル情報を含んでいる画像（Ｏ１）をアップサンプリングし、ここで、Ｏ１は、スーパーピクセル情報を有する。少なくとも１つの実施例では、８００×８００ピクセルの寸法を有する画像Ｉ１’及びＩ２’が、ＳＦ＝^１／_２によってダウンサンプリングされる場合、出力画像Ｏ１’は、対応して、画像Ｏ１を生成するために、寸法４００×４００ピクセルから寸法８００×８００ピクセルにアップサンプリングされ得る。この場合、出力Ｏ１’におけるスーパーピクセル・トラバーサルは、同様の特性を伴うスーパーピクセル・クラスタを決定するために、Ｏ１との比較において２倍の半径（Ｓ）を踏破することがある。

【0044】

図３は、少なくとも１つの実施例による、共有される特性（たとえば、強度及び／又は階調度）に基づいて、画像３０２中の１つ又は複数のピクセルをグループ化することの実例３００を示す。少なくとも１つの実施例では、画像３０２中の候補ピクセルが、いくつかのピクセルは部分的にスーパーピクセルであり、いくつかはそうでない、近隣ピクセルの対応するセットを有する。少なくとも１つの実施例では、候補ピクセル及び近隣ピクセル（図３において「スーパー・ピクセル － 有効フロー」及び「スーパー・ピクセル － 無効フロー」のように記述されるような）は、ピクセルのグループの一部である。少なくとも１つの実施例では、スーパーピクセルは、サイズにおいて５ｘ５のピクセルを含み、しかしながら、７ｘ７など、他のサイズも使用され得る。スーパーピクセルを形成するための一緒でのピクセルの生成及びグループ化することが、図１～図２に関して上記で説明されている。少なくとも１つの実施例では、境界の外であるピクセルは、ピクセルのグループ（たとえば、スーパーピクセル）の一部ではないと考えられる。少なくとも１つの実施例では、画像３０２中のピクセルは、候補ピクセルに関してスーパーピクセルの一部である、又はそうでない、ピクセルを決定するために評価される。少なくとも１つの実施例では、ピクセルがスーパーピクセルでない場合、それらのピクセルに接続されるピクセルを評価する必要はない。少なくとも１つの実施例では、近傍座標が、いくつかの候補ピクセル座標から開始して、１つ又は複数の６４ビット・バッファを使用して、スーパーピクセル生成のためにトラバースされ、ここで、近傍座標に対応する１つ又は複数の６４ビット・バッファのビットが、トラバーサルのために使用される。少なくとも１つの実施例では、近傍座標トラバーサルのために使用されるキューはない。少なくとも１つの実施例では、有効ピクセルが、スーパーピクセル判断基準に対して評価されるが、有効ピクセルに接続されるピクセルは、スーパーピクセル判断基準に対して評価されない。少なくとも１つの実施例では、ピクセルがスーパーピクセルでない場合、そのようなピクセルに対する近隣ピクセルは、スーパーピクセル判断基準に対して評価されない。

【0045】

図４は、少なくとも１つの実施例による、重複する領域中の１つ又は複数のピクセルに基づいて、画像４０２中の領域中の１つ又は複数のピクセルのオプティカル・フローを補間することの実例４００を示す。少なくとも１つの実施例では、実例４００に対してここで説明されるプロセスの一部又は全部（或いは、本明細書で説明される任意の他のプロセス、又はそれらの変形及び／若しくは組合せ）は、コンピュータ実行可能命令で構成された１つ又は複数のコンピュータ・システムの制御下で実施され、１つ若しくは複数のプロセッサ上で、ハードウェアによって、ソフトウェアによって、又はそれらの組合せによって集合的に実行するコード（たとえば、コンピュータ実行可能命令、１つ若しくは複数のコンピュータ・プログラム、又は１つ若しくは複数のアプリケーション、ＣＵＤＡコード）として実装される。少なくとも１つの実施例では、実例４００中のプロセスの少なくとも一部を実施するシステムが、スーパーピクセル及びインフィリング技法を使用して、１つの反復にわたって、オプティカル・フローの疎対密補間を実施するための実行可能コードを含む。少なくとも１つの実施例では、すべての有効スーパーピクセルに対するエネルギー最小化が、ｉｎｆｉｌｌｉｎｇ＿ｃｏｓｔ＝（ａ＊ｗａｒｐ＿ｃｏｓｔ＋ｂ＊ｉｎｔｅｎｓｉｔｙ＿ｄｉｆｆ＋ｃ＊ｐｉｘｅｌ＿ｄｉｓｔａｎｃｅ）によって最小限に抑えられ、ここで、ａ、ｂ、ｃ＝範囲（０，１）であり、ａ＋ｂ＋ｃ＝１である。少なくとも１つの実施例では、ｗａｒｐ＿ｃｏｓｔは、（第１の画像「画像Ｉ１」の）現在のピクセル強度、及び、（第２の画像「画像Ｉ２」の）ワーピングされたピクセル強度の差である。少なくとも１つの実施例では、１つの反復における補間が、無効フロー・ピクセルがいくつかのポイント／スーパーピクセルに対して修整される場合に実施され、これは、次の反復が他の無効フロー・ポイント／スーパーピクセルを修整することをゆくゆくは助ける。少なくとも１つの実施例では、従前のスキャンライン・インフィリング（たとえば、スキャン・ライン・アルゴリズム）が、ゆくゆくは、無効ポイント／スーパーピクセルを伴うすべてのピクセルが、有効フロー・ピクセルを使用して修整されるように、複数の反復にわたって実施される。

【0046】

図５は、少なくとも１つの実施例による、画像５０２中の第１の領域及び第２の重複する領域中の１つ又は複数のピクセルのオプティカル・フローを補間することの実例５００を示す。図５は、図４において説明されたような複数の反復にわたって継続する例示的なプロセスを示す。少なくとも１つの実施例では、複数の反復（たとえば、第２及び第３の反復）にわたって、スーパーピクセルの一部であるすべての無効フロー・ピクセルが、前記スーパーピクセルの少なくとも１つ又は複数の有効フロー・ピクセルに基づいて、ゆくゆくは修整され、エッジ・ピクセル（前記スーパーピクセルの一部ではない）は、前記補間プロセス中に処理、計算、又は修整されない。

【0047】

図６は、少なくとも１つの実施例による、画像及びコスト・マップの１つ又は複数の行及び列をスキャンすることによって、１つ又は複数のピクセルのオプティカル・フローを補間することの実例６００を示す。少なくとも１つの実施例では、反復的なエッジ認識インフィリングは、すべての位置を修整するのではないことがあり、それは、無効ピクセルの密度を低減することを助ける。少なくとも１つの実施例では、無効フロー・ピクセルの大部分は、高速スキャンライン方法（たとえば、スキャンライン・レンダリング）を使用してフィルされる。少なくとも１つの実施例では、高速スキャンライン方法は、無効境界ピクセル上で機能する。少なくとも１つの実施例では、実例６００は、高速スキャンライン方法が９ピクセルに対するオプティカル・フローの補間を実施する、画像を示す。少なくとも１つの実施例では、コストマップが使用され、ここで、すべての無効ピクセルに対して、各コスト＝ＩＮＦである。少なくとも１つの実施例では、コストは、各スキャンライン動作の後に修正され得、候補ピクセルは、前記コストを最小限に抑えることになるフローによってフィルされる。

【0048】

図７は、少なくとも１つの実施例による、コスト・マップを使用して、画像中の１つ又は複数のピクセルを更新することの実例７００を示す。少なくとも１つの実施例では、及び、図１に関して上記で説明されたように、ダイクストラのアルゴリズム（又は、他の同様の最短経路アルゴリズム）が、図６において説明された前記コストを最小限に抑えるために使用される。少なくとも１つの実施例では、コストは、進み行かれた距離、ワープ・コスト、及びｉｎｔｅｎｓｉｔｙ＿ｄｉｆｆに依存する。少なくとも１つの実施例では、ｎｅｗｃｏｓｔ＜ｃ（ａ，ｂ）である場合、候補フロー及びコストが更新される。

【0049】

図８は、少なくとも１つの実施例による、オプティカル・フローの疎対密補間の実例８００を示す。図８は、有効及び無効オプティカル・フローを伴う座標マップ、並びに、生成されたスーパーピクセルを使用するインフィルされたオプティカル・フローを伴う座標マップを示す。少なくとも１つの実施例では、画像８０２は、無効フロー及び有効フローを有する１つ又は複数のピクセルを伴う座標マップを表し、ここで、白パッチ（フィルされないピクセル）は、無効フローを伴う座標であり、フィルされたピクセルは、有効フローを伴う座標である。少なくとも１つの実施例では、画像８０４は、画像８０２のインフィルされたバージョンである。少なくとも１つの実施例では、画像８０４は、無効オプティカル・フローを伴うピクセルが、（図１に関して説明されたような）インフィリング技法を使用して有効オプティカル・フロー・データによってインフィルされたので、無効オプティカル・フロー座標がないことを示す。

【0050】

図９は、少なくとも１つの実施例による、オプティカル・フローの疎対密補間を実施するためのフレームワークのためのプロセス９００の実例を示す。少なくとも１つの実施例では、プロセス９００の一部又は全部（或いは、本明細書で説明される任意の他のプロセス、又はそれらの変形及び／若しくは組合せ）は、コンピュータ実行可能命令で構成された１つ又は複数のコンピュータ・システムの制御下で実施され、１つ若しくは複数のプロセッサ上で、ハードウェアによって、ソフトウェアによって、又はそれらの組合せによって集合的に実行するコード（たとえば、コンピュータ実行可能命令、１つ若しくは複数のコンピュータ・プログラム、又は１つ若しくは複数のアプリケーション、ＣＵＤＡコード）として実装される。少なくとも１つの実施例では、コードは、１つ又は複数のプロセッサによって実行可能な複数のコンピュータ可読命令を備えるコンピュータ・プログラムの形態で、コンピュータ可読記憶媒体に記憶される。少なくとも１つの実施例では、コンピュータ可読記憶媒体は、非一時的コンピュータ可読媒体である。少なくとも１つの実施例では、プロセス９００を実施するために使用可能な少なくともいくつかのコンピュータ可読命令は、一時的信号（たとえば、伝搬する一時的な電気又は電磁送信）を使用するのみで、記憶されない。少なくとも１つの実施例では、非一時的コンピュータ可読媒体は、一時的信号のトランシーバ内の非一時的データ・ストレージ回路要素（たとえば、バッファ、キャッシュ、及びキュー）を必ずしも含むとは限らない。少なくとも１つの実施例では、プロセス９００は、少なくとも部分的に、本開示の他の場所で説明されるものなどのコンピュータ・システム上で実施される。少なくとも１つの実施例では、プロセス９００は、画像の第１の領域中の１つ又は複数のピクセルの動きを、第１の領域と重複する画像の第２の領域中の１つ又は複数のピクセルの動きに少なくとも部分的に基づいて計算するための、１つ又は複数の回路によって実施される。

【0051】

少なくとも１つの実施例では、プロセス９００の少なくとも一部を実施するシステムは、入力データ（たとえば、第１の画像、第２の画像、及び第１のフロー・マップ）を取得９０２するための実行可能コードを含む。少なくとも１つの実施例では、入力データは、１つ又は複数のカメラによってキャプチャされたビデオ・データである。少なくとも１つの実施例では、第１の画像は、ビデオ・データからのフレームであり、第２の画像は、前記ビデオ・データからの引き続くフレームである。少なくとも１つの実施例では、第１のフロー・マップは、１つのフレームから次のフレームへのピクセルの移動を示すベクトルを含む、疎なオプティカル・フロー・マップである。

【0052】

少なくとも１つの実施例では、プロセス９００の少なくとも一部を実施するシステムは、同様の特性（たとえば、同様のピクセル強度及び／又は階調度）に基づいて、画像のオブジェクトに対して、ピクセルのセットを一緒にグループ化９０４するための実行可能コードを含む。少なくとも１つの実施例では、システムは、図２において説明された生成されるスーパーピクセルに関して説明されたものなどの１つ又は複数のプロセスを通して、同様の特性に基づいて、画像の１つ又は複数のピクセルを一緒にグループ化する。

【0053】

少なくとも１つの実施例では、プロセス９００の少なくとも一部を実施するシステムは、第２のフロー・マップを生成するために、重複するピクセルの第２のセットの動きに基づいて、ピクセルのグループ化されたセットに対する動きを計算９０６するための実行可能コードを含む。少なくとも１つの実施例では、疎対密補間のためのフレームワークは、最初に、画像全体にわたって、重複するボックスを選択することであって、各ボックスは、同様である（たとえば、同様の強度及び階調度を有する）ピクセルを含んでいる、選択することによって、欠落したオプティカル・フロー・ベクトルを算出する。少なくとも１つの実施例では、次いで、疎対密補間のためのフレームワークは、すでに計算されたいくつかのオプティカル・フロー・ベクトルを有するボックスを選択する。少なくとも１つの実施例では、前記すでに計算されたオプティカル・フロー・ベクトルは、ボックスに対する残りのオプティカル・フロー・ベクトルを計算するために使用される。少なくとも１つの実施例では、前記ボックスは重複するので、１つのボックスに対するオプティカル・フロー・ベクトルを計算することは、いくつかのオプティカル・フロー・ベクトルが、重複するボックスに対して計算されることを生じさせる。少なくとも１つの実施例では、次いで、重複するボックスに対する残りのオプティカル・フロー・ベクトルがあれば計算される。少なくとも１つの実施例では、このプロセスは、すべてのボックスに対するオプティカル・フロー・ベクトルが計算され、第２のフロー・マップが生成されるまで、反復的に繰返す。少なくとも１つの実施例では、システムは、図１のフレームワーク１００に関して説明されたものなどの１つ又は複数のプロセスを通して、１つ又は複数のピクセル補間を実施する。

【0054】

少なくとも１つの実施例では、プロセス９００の少なくとも一部を実施するシステムは、スキャンライン・インフィリングを実施９０８するための実行可能コードを含む。少なくとも１つの実施例では、スキャンライン・インフィリングは、前記第２のフロー・マップの１つ若しくは複数の行又は１つ若しくは複数の列をトラバースして、前記１つ又は複数の無効ピクセルを有効ピクセルにコンバートするために、前記１つ若しくは複数の行又は１つ若しくは複数の列中の１つ又は複数の有効ピクセルを使用することによって、前記第２のフロー・マップを更新することを含む。少なくとも１つの実施例では、更新された第２のフロー・マップは、密なオプティカル・フロー・マップである。少なくとも１つの実施例では、密なオプティカル・フローは、（疎なオプティカル・フローにおいて使用される特徴ピクセルの、関心を引くセットをただ追跡することとは対照的に）画像全体のすべてのピクセル全体にわたるフローを提供する。少なくとも１つの実施例では、密なオプティカル・フローは、各フレームのあらゆるピクセルに対するオプティカル・フロー・ベクトルを算出する。少なくとも１つの実施例では、システムは、図１のフレームワーク１００に関して説明されたものなどの１つ又は複数のプロセスを通して、スキャンライン・インフィリングを実施する。少なくとも１つの実施例では、反復的なエッジ認識インフィリングは、すべての位置を修整するのではないことがあり、それは、無効ピクセルの密度を低減することを助け、そのため、残りの量の無効領域が、前記スキャンライン・インフィリング方法を使用してフィルされる。少なくとも１つの実施例では、スキャンライン方法は、コストマップを使用することによって無効境界ピクセル上で機能し、ここで、すべての無効ピクセルに対して、各コスト＝ＩＮＦである。少なくとも１つの実施例では、コストは、各スキャンライン動作の後に修正され、候補ピクセルは、コストを最小限に抑えるフローによってフィルされる。少なくとも１つの実施例では、ダイクストラのアルゴリズム（たとえば、２つの位置間の最短経路を見いだすアルゴリズム）が、コストを最小限に抑えるために使用され、ここで、コストは、少なくとも、進み行かれた距離、ワープ・コスト、及びｉｎｔｅｎｓｉｔｙ＿ｄｉｆｆに依存する。少なくとも１つの実施例では、（ｎｅｗｃｏｓｔ＜ｃ（ａ，ｂ））である場合、候補フロー及びコストが更新される。

【0055】

少なくとも１つの実施例では、プロセス９００の少なくとも一部を実施するシステムは、精緻化のために、前記第２のフロー・マップに５ｘ５メディアン・フィルタを適用９１０するための実行可能コードを含む。少なくとも１つの実施例では、システムは、図１のフレームワーク１００に関して説明されたものなどの１つ又は複数のプロセスを通して、フロー・マップにフィルタを適用することを実施する。

【0056】

少なくとも１つの実施例では、プロセス９００の１つ又は複数のプロセスは、連続、並列、及び／又はそれらの変形など、任意の順序で実施され、プロセス９００は、図９において図示されない他のプロセスを含み得、図９において図示された様々なプロセスを省略し得る。少なくとも１つの実施例では、実施され得る別のプロセスが、画像の欠落した一部又は部分を、前記画像の近隣ピクセルに基づいてフィル・インすることを含む。少なくとも１つの実施例では、オプティカル・フローの疎対密補間を実施するための、本明細書で説明される同様のステップがまた、画像の欠落した一部をフィル・インすること（たとえば、画像インフィリング）に関して動作可能に実施するために使用され得る。少なくとも１つの実施例では、疎なフロー・マップの代わりに、画像インフィリングは、距離マップを使用して、候補ピクセルを取り囲む近隣ピクセルを識別する。少なくとも１つの実施例では、距離マップは、候補ピクセルに最も近いピクセルを識別して、スーパーピクセルを形成するために使用される。少なくとも１つの実施例では、次いで、スーパーピクセル中の欠落した一部があれば、前記スーパーピクセル中の候補ピクセル及び／又は近隣ピクセルに基づいて修整され得る。少なくとも１つの実施例では、画像インフィリングを実施するためのプロセスの一部又は全部は、コンピュータ実行可能命令で構成された１つ又は複数のコンピュータ・システムの制御下で実施され、１つ若しくは複数のプロセッサ上で、ハードウェアによって、ソフトウェアによって、又はそれらの組合せによって集合的に実行するコード（たとえば、コンピュータ実行可能命令、１つ若しくは複数のコンピュータ・プログラム、又は１つ若しくは複数のアプリケーション、ＣＵＤＡコード）として実装される。少なくとも１つの実施例では、画像インフィリングは、画像の第１の領域中の１つ又は複数のピクセルを、第１の領域と重複する画像の第２の領域中の１つ又は複数のピクセルに少なくとも部分的に基づいて計算するための、１つ又は複数の回路によって実施される。

【0057】

データ・センタ
図１０は、少なくとも１つの実施例による、例示的なデータ・センタ１０００を示す。少なくとも１つの実施例では、データ・センタ１０００は、限定はしないが、データ・センタ・インフラストラクチャ層１０１０と、フレームワーク層１０２０と、ソフトウェア層１０３０と、アプリケーション層１０４０とを含む。

【0058】

少なくとも１つの実施例では、図１０に示されているように、データ・センタ・インフラストラクチャ層１０１０は、リソース・オーケストレータ１０１２と、グループ化されたコンピューティング・リソース１０１４と、ノード・コンピューティング・リソース（「ノードＣ．Ｒ．」：ｎｏｄｅ ｃｏｍｐｕｔｉｎｇ ｒｅｓｏｕｒｃｅ）１０１６（１）～１０１６（Ｎ）とを含み得、ここで、「Ｎ」は、任意のすべての正の整数を表す。少なくとも１つの実施例では、ノードＣ．Ｒ．１０１６（１）～１０１６（Ｎ）は、限定はしないが、任意の数の中央処理ユニット（「ＣＰＵ」）又は（アクセラレータ、フィールド・プログラマブル・ゲート・アレイ（「ＦＰＧＡ」：ｆｉｅｌｄ ｐｒｏｇｒａｍｍａｂｌｅ ｇａｔｅ ａｒｒａｙ）、ネットワーク・デバイス中のデータ処理ユニット（「ＤＰＵ」：ｄａｔａ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ）、グラフィックス・プロセッサなどを含む）他のプロセッサ、メモリ・デバイス（たとえば、動的読取り専用メモリ）、ストレージ・デバイス（たとえば、ソリッド・ステート又はディスク・ドライブ）、ネットワーク入力／出力（「ＮＷ Ｉ／Ｏ」：ｎｅｔｗｏｒｋ ｉｎｐｕｔ／ｏｕｔｐｕｔ）デバイス、ネットワーク・スイッチ、仮想機械（「ＶＭ」：ｖｉｒｔｕａｌ ｍａｃｈｉｎｅ）、電力モジュール、及び冷却モジュールなどを含み得る。少なくとも１つの実施例では、ノードＣ．Ｒ．１０１６（１）～１０１６（Ｎ）の中からの１つ又は複数のノードＣ．Ｒ．は、上述のコンピューティング・リソースのうちの１つ又は複数を有するサーバであり得る。

【0059】

少なくとも１つの実施例では、グループ化されたコンピューティング・リソース１０１４は、１つ又は複数のラック（図示せず）内に格納されたノードＣ．Ｒ．の別個のグループ化、又は様々な地理的ロケーション（同じく図示せず）においてデータ・センタ中に格納された多くのラックを含み得る。グループ化されたコンピューティング・リソース１０１４内のノードＣ．Ｒ．の別個のグループ化は、１つ又は複数のワークロードをサポートするように構成されるか又は割り振られ得る、グループ化されたコンピュート・リソース、ネットワーク・リソース、メモリ・リソース、又はストレージ・リソースを含み得る。少なくとも１つの実施例では、ＣＰＵ又はプロセッサを含むいくつかのノードＣ．Ｒ．は、１つ又は複数のワークロードをサポートするためのコンピュート・リソースを提供するために１つ又は複数のラック内でグループ化され得る。少なくとも１つの実施例では、１つ又は複数のラックはまた、任意の数の電力モジュール、冷却モジュール、及びネットワーク・スイッチを、任意の組合せで含み得る。

【0060】

少なくとも１つの実施例では、リソース・オーケストレータ１０１２は、１つ又は複数のノードＣ．Ｒ．１０１６（１）～１０１６（Ｎ）及び／又はグループ化されたコンピューティング・リソース１０１４を構成するか、又はさもなければ、制御し得る。少なくとも１つの実施例では、リソース・オーケストレータ１０１２は、データ・センタ１０００のためのソフトウェア設計インフラストラクチャ（「ＳＤＩ」：ｓｏｆｔｗａｒｅ ｄｅｓｉｇｎ ｉｎｆｒａｓｔｒｕｃｔｕｒｅ）管理エンティティを含み得る。少なくとも１つの実施例では、リソース・オーケストレータ１０１２は、ハードウェア、ソフトウェア、又はそれらの何らかの組合せを含み得る。

【0061】

少なくとも１つの実施例では、図１０に示されているように、フレームワーク層１０２０は、限定はしないが、ジョブ・スケジューラ１０３２と、構成マネージャ１０３４と、リソース・マネージャ１０３６と、分散型ファイル・システム１０３７とを含む。少なくとも１つの実施例では、フレームワーク層１０２０は、ソフトウェア層１０３０のソフトウェア１０５２、及び／又はアプリケーション層１０４０の１つ又は複数のアプリケーション１０４２をサポートするためのフレームワークを含み得る。少なくとも１つの実施例では、ソフトウェア１０５２又は（１つ又は複数の）アプリケーション１０４２は、それぞれ、アマゾン・ウェブ・サービス、Ｇｏｏｇｌｅ Ｃｌｏｕｄ、及びＭｉｃｒｏｓｏｆｔ Ａｚｕｒｅによって提供されるものなど、ウェブ・ベースのサービス・ソフトウェア又はアプリケーションを含み得る。少なくとも１つの実施例では、フレームワーク層１０２０は、限定はしないが、大規模データ処理（たとえば、「ビック・データ」）のために分散型ファイル・システム１０３７を利用し得るＡｐａｃｈｅ Ｓｐａｒｋ（商標）（以下「Ｓｐａｒｋ」）など、無料でオープンソースのソフトウェア・ウェブ・アプリケーション・フレームワークのタイプであり得る。少なくとも１つの実施例では、ジョブ・スケジューラ１０３２は、データ・センタ１０００の様々な層によってサポートされるワークロードのスケジューリングを容易にするために、Ｓｐａｒｋドライバを含み得る。少なくとも１つの実施例では、構成マネージャ１０３４は、ソフトウェア層１０３０、並びに大規模データ処理をサポートするためのＳｐａｒｋ及び分散型ファイル・システム１０３７を含むフレームワーク層１０２０など、異なる層を構成することが可能であり得る。少なくとも１つの実施例では、リソース・マネージャ１０３６は、分散型ファイル・システム１０３７及びジョブ・スケジューラ１０３２をサポートするようにマッピングされたか又は割り振られた、クラスタ化された又はグループ化されたコンピューティング・リソースを管理することが可能であり得る。少なくとも１つの実施例では、クラスタ化された又はグループ化されたコンピューティング・リソースは、データ・センタ・インフラストラクチャ層１０１０において、グループ化されたコンピューティング・リソース１０１４を含み得る。少なくとも１つの実施例では、リソース・マネージャ１０３６は、リソース・オーケストレータ１０１２と協調して、これらのマッピングされた又は割り振られたコンピューティング・リソースを管理し得る。

【0062】

少なくとも１つの実施例では、ソフトウェア層１０３０中に含まれるソフトウェア１０５２は、ノードＣ．Ｒ．１０１６（１）～１０１６（Ｎ）、グループ化されたコンピューティング・リソース１０１４、及び／又はフレームワーク層１０２０の分散型ファイル・システム１０３８の少なくとも部分によって使用されるソフトウェアを含み得る。１つ又は複数のタイプのソフトウェアは、限定はしないが、インターネット・ウェブ・ページ検索ソフトウェアと、電子メール・ウイルス・スキャン・ソフトウェアと、データベース・ソフトウェアと、ストリーミング・ビデオ・コンテンツ・ソフトウェアとを含み得る。

【0063】

少なくとも１つの実施例では、アプリケーション層１０４０中に含まれる（１つ又は複数の）アプリケーション１０４２は、ノードＣ．Ｒ．１０１６（１）～１０１６（Ｎ）、グループ化されたコンピューティング・リソース１０１４、及び／又はフレームワーク層１０２０の分散型ファイル・システム１０３８の少なくとも部分によって使用される１つ又は複数のタイプのアプリケーションを含み得る。少なくとも１つ又は複数のタイプのアプリケーションでは、限定はしないが、ＣＵＤＡアプリケーションを含み得る。

【0064】

少なくとも１つの実施例では、構成マネージャ１０３４、リソース・マネージャ１０３６、及びリソース・オーケストレータ１０１２のいずれかが、任意の技術的に実現可能な様式で獲得された任意の量及びタイプのデータに基づいて、任意の数及びタイプの自己修正アクションを実装し得る。少なくとも１つの実施例では、自己修正アクションは、データ・センタ１０００のデータ・センタ・オペレータを、不良の恐れのある構成を判定し、十分に利用されていない及び／又は性能の低いデータ・センタの部分を場合によっては回避することから解放し得る。

【0065】

コンピュータ・ベースのシステム
以下の図は、限定はしないが、少なくとも１つの実施例を実装するために使用され得る、例示的なコンピュータ・ベースのシステムを記載する。

【0066】

図１１は、少なくとも１つの実施例による、処理システム１１００を示す。少なくとも１つの実施例では、処理システム１１００は、１つ又は複数のプロセッサ１１０２と１つ又は複数のグラフィックス・プロセッサ１１０８とを含み、単一プロセッサ・デスクトップ・システム、マルチプロセッサ・ワークステーション・システム、或いは多数のプロセッサ１１０２又はプロセッサ・コア１１０７を有するサーバ・システムであり得る。少なくとも１つの実施例では、処理システム１１００は、モバイル・デバイス、ハンドヘルド・デバイス、又は組み込みデバイスにおいて使用するためのシステム・オン・チップ（「ＳｏＣ」：ｓｙｓｔｅｍ－ｏｎ－ａ－ｃｈｉｐ）集積回路内に組み込まれた処理プラットフォームである。

【0067】

少なくとも１つの実施例では、処理システム１１００は、サーバ・ベースのゲーミング・プラットフォーム、ゲーム・コンソール、メディア・コンソール、モバイル・ゲーミング・コンソール、ハンドヘルド・ゲーム・コンソール、又はオンライン・ゲーム・コンソールを含むことができるか、或いはそれらの内部に組み込まれ得る。少なくとも１つの実施例では、処理システム１１００は、モバイル・フォン、スマート・フォン、タブレット・コンピューティング・デバイス又はモバイル・インターネット・デバイスである。少なくとも１つの実施例では、処理システム１１００はまた、スマート・ウォッチ・ウェアラブル・デバイス、スマート・アイウェア・デバイス、拡張現実デバイス、又は仮想現実デバイスなどのウェアラブル・デバイスを含むことができるか、それらと結合することができるか、又はそれらの内部に組み込まれ得る。少なくとも１つの実施例では、処理システム１１００は、１つ又は複数のプロセッサ１１０２と、１つ又は複数のグラフィックス・プロセッサ１１０８によって生成されるグラフィカル・インターフェースとを有するテレビ又はセット・トップ・ボックス・デバイスである。

【0068】

少なくとも１つの実施例では、１つ又は複数のプロセッサ１１０２は、各々、実行されたときにシステム及びユーザ・ソフトウェアのための動作を実施する命令を処理するための１つ又は複数のプロセッサ・コア１１０７を含む。少なくとも１つの実施例では、１つ又は複数のプロセッサ・コア１１０７の各々は、特定の命令セット１１０９を処理するように構成される。少なくとも１つの実施例では、命令セット１１０９は、複合命令セット・コンピューティング（「ＣＩＳＣ」：Ｃｏｍｐｌｅｘ Ｉｎｓｔｒｕｃｔｉｏｎ Ｓｅｔ Ｃｏｍｐｕｔｉｎｇ）、縮小命令セット・コンピューティング（「ＲＩＳＣ」：Ｒｅｄｕｃｅｄ Ｉｎｓｔｒｕｃｔｉｏｎ Ｓｅｔ Ｃｏｍｐｕｔｉｎｇ）、又は超長命令語（「ＶＬＩＷ」：Ｖｅｒｙ Ｌｏｎｇ Ｉｎｓｔｒｕｃｔｉｏｎ Ｗｏｒｄ）を介したコンピューティングを容易にし得る。少なくとも１つの実施例では、プロセッサ・コア１１０７は、各々、異なる命令セット１１０９を処理し得、命令セット１１０９は、他の命令セットのエミュレーションを容易にするための命令を含み得る。少なくとも１つの実施例では、プロセッサ・コア１１０７はまた、デジタル信号プロセッサ（「ＤＳＰ」：ｄｉｇｉｔａｌ ｓｉｇｎａｌ ｐｒｏｃｅｓｓｏｒ）などの他の処理デバイスを含み得る。

【0069】

少なくとも１つの実施例では、プロセッサ１１０２はキャッシュ・メモリ（「キャッシュ」）１１０４を含む。少なくとも１つの実施例では、プロセッサ１１０２は、単一の内部キャッシュ又は複数のレベルの内部キャッシュを有することができる。少なくとも１つの実施例では、キャッシュ・メモリは、プロセッサ１１０２の様々な構成要素の間で共有される。少なくとも１つの実施例では、プロセッサ１１０２はまた、外部キャッシュ（たとえば、レベル３（「Ｌ３」）キャッシュ又はラスト・レベル・キャッシュ（「ＬＬＣ」：Ｌａｓｔ Ｌｅｖｅｌ Ｃａｃｈｅ））（図示せず）を使用し、外部キャッシュは、知られているキャッシュ・コヒーレンシ技法を使用してプロセッサ・コア１１０７の間で共有され得る。少なくとも１つの実施例では、追加として、レジスタ・ファイル１１０６がプロセッサ１１０２中に含まれ、レジスタ・ファイル１１０６は、異なるタイプのデータを記憶するための異なるタイプのレジスタ（たとえば、整数レジスタ、浮動小数点レジスタ、ステータス・レジスタ、及び命令ポインタ・レジスタ）を含み得る。少なくとも１つの実施例では、レジスタ・ファイル１１０６は、汎用レジスタ又は他のレジスタを含み得る。

【0070】

少なくとも１つの実施例では、１つ又は複数のプロセッサ１１０２は、アドレス、データ、又は制御信号などの通信信号を、プロセッサ１１０２と処理システム１１００中の他の構成要素との間で送信するために、１つ又は複数のインターフェース・バス１１１０と結合される。少なくとも１つの実施例では、１つの実施例におけるインターフェース・バス１１１０は、ダイレクト・メディア・インターフェース（「ＤＭＩ」：Ｄｉｒｅｃｔ Ｍｅｄｉａ Ｉｎｔｅｒｆａｃｅ）バスのバージョンなどのプロセッサ・バスであり得る。少なくとも１つの実施例では、インターフェース・バス１１１０は、ＤＭＩバスに限定されず、１つ又は複数の周辺構成要素相互接続バス（たとえば、「ＰＣＩ」：Ｐｅｒｉｐｈｅｒａｌ Ｃｏｍｐｏｎｅｎｔ Ｉｎｔｅｒｃｏｎｎｅｃｔ、ＰＣＩ Ｅｘｐｒｅｓｓ（「ＰＣＩｅ」））、メモリ・バス、又は他のタイプのインターフェース・バスを含み得る。少なくとも１つの実施例では、（１つ又は複数の）プロセッサ１１０２は、統合されたメモリ・コントローラ１１１６と、プラットフォーム・コントローラ・ハブ１１３０とを含む。少なくとも１つの実施例では、メモリ・コントローラ１１１６は、メモリ・デバイスと処理システム１１００の他の構成要素との間の通信を容易にし、プラットフォーム・コントローラ・ハブ（「ＰＣＨ」：ｐｌａｔｆｏｒｍ ｃｏｎｔｒｏｌｌｅｒ ｈｕｂ）１１３０は、ローカル入力／出力（「Ｉ／Ｏ」：Ｉｎｐｕｔ／Ｏｕｔｐｕｔ）バスを介してＩ／Ｏデバイスへの接続を提供する。

【0071】

少なくとも１つの実施例では、メモリ・デバイス１１２０は、ダイナミック・ランダム・アクセス・メモリ（「ＤＲＡＭ」：ｄｙｎａｍｉｃ ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ）デバイス、スタティック・ランダム・アクセス・メモリ（「ＳＲＡＭ」：ｓｔａｔｉｃ ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ）デバイス、フラッシュ・メモリ・デバイス、相変化メモリ・デバイス、又はプロセッサ・メモリとして働くのに好適な性能を有する何らかの他のメモリ・デバイスであり得る。少なくとも１つの実施例では、メモリ・デバイス１１２０は、１つ又は複数のプロセッサ１１０２がアプリケーション又はプロセスを実行するときの使用のためのデータ１１２２及び命令１１２１を記憶するために、処理システム１１００のためのシステム・メモリとして動作することができる。少なくとも１つの実施例では、メモリ・コントローラ１１１６はまた、随意の外部グラフィックス・プロセッサ１１１２と結合し、外部グラフィックス・プロセッサ１１１２は、グラフィックス動作及びメディア動作を実施するために、プロセッサ１１０２中の１つ又は複数のグラフィックス・プロセッサ１１０８と通信し得る。少なくとも１つの実施例では、ディスプレイ・デバイス１１１１は、（１つ又は複数の）プロセッサ１１０２に接続することができる。少なくとも１つの実施例では、ディスプレイ・デバイス１１１１は、モバイル電子デバイス又はラップトップ・デバイスの場合のような内部ディスプレイ・デバイス、或いは、ディスプレイ・インターフェース（たとえば、ＤｉｓｐｌａｙＰｏｒｔなど）を介して取り付けられた外部ディスプレイ・デバイスのうちの１つ又は複数を含むことができる。少なくとも１つの実施例では、ディスプレイ・デバイス１１１１は、仮想現実（「ＶＲ」：ｖｉｒｔｕａｌ ｒｅａｌｉｔｙ）アプリケーション又は拡張現実（「ＡＲ」：ａｕｇｍｅｎｔｅｄ ｒｅａｌｉｔｙ）アプリケーションにおいて使用するための立体ディスプレイ・デバイスなどの頭部装着型ディスプレイ（「ＨＭＤ」：ｈｅａｄ ｍｏｕｎｔｅｄ ｄｉｓｐｌａｙ）を含むことができる。

【0072】

少なくとも１つの実施例では、プラットフォーム・コントローラ・ハブ１１３０は、周辺機器が高速Ｉ／Ｏバスを介してメモリ・デバイス１１２０及びプロセッサ１１０２に接続することを可能にする。少なくとも１つの実施例では、Ｉ／Ｏ周辺機器は、限定はしないが、オーディオ・コントローラ１１４６と、ネットワーク・コントローラ１１３４と、ファームウェア・インターフェース１１２８と、ワイヤレス・トランシーバ１１２６と、タッチ・センサ１１２５と、データ・ストレージ・デバイス１１２４（たとえば、ハード・ディスク・ドライブ、フラッシュ・メモリなど）とを含む。少なくとも１つの実施例では、データ・ストレージ・デバイス１１２４は、ストレージ・インターフェース（たとえば、ＳＡＴＡ）を介して、或いはＰＣＩ又はＰＣＩｅなどの周辺バスを介して、接続することができる。少なくとも１つの実施例では、タッチ・センサ１１２５は、タッチ・スクリーン・センサ、圧力センサ、又は指紋センサを含むことができる。少なくとも１つの実施例では、ワイヤレス・トランシーバ１１２６は、Ｗｉ－Ｆｉトランシーバ、Ｂｌｕｅｔｏｏｔｈトランシーバ、或いは３Ｇ、４Ｇ、又はロング・ターム・エボリューション（「ＬＴＥ」：Ｌｏｎｇ Ｔｅｒｍ Ｅｖｏｌｕｔｉｏｎ）トランシーバなどのモバイル・ネットワーク・トランシーバであり得る。少なくとも１つの実施例では、ファームウェア・インターフェース１１２８は、システム・ファームウェアとの通信を可能にし、たとえば、ユニファイド・エクステンシブル・ファームウェア・インターフェース（「ＵＥＦＩ」：ｕｎｉｆｉｅｄ ｅｘｔｅｎｓｉｂｌｅ ｆｉｒｍｗａｒｅ ｉｎｔｅｒｆａｃｅ）であり得る。少なくとも１つの実施例では、ネットワーク・コントローラ１１３４は、ワイヤード・ネットワークへのネットワーク接続を可能にすることができる。少なくとも１つの実施例では、高性能ネットワーク・コントローラ（図示せず）は、インターフェース・バス１１１０と結合する。少なくとも１つの実施例では、オーディオ・コントローラ１１４６は、マルチチャネル高精細度オーディオ・コントローラである。少なくとも１つの実施例では、処理システム１１００は、レガシー（たとえば、パーソナル・システム２（「ＰＳ／２」：Ｐｅｒｓｏｎａｌ Ｓｙｓｔｅｍ ２））デバイスを処理システム１１００に結合するための随意のレガシーＩ／Ｏコントローラ１１４０を含む。少なくとも１つの実施例では、プラットフォーム・コントローラ・ハブ１１３０は、キーボードとマウス１１４３との組合せ、カメラ１１４４、又は他のＵＳＢ入力デバイスなど、１つ又は複数のユニバーサル・シリアル・バス（「ＵＳＢ」：Ｕｎｉｖｅｒｓａｌ Ｓｅｒｉａｌ Ｂｕｓ）コントローラ１１４２接続入力デバイスにも接続することができる。

【0073】

少なくとも１つの実施例では、メモリ・コントローラ１１１６及びプラットフォーム・コントローラ・ハブ１１３０のインスタンスが、外部グラフィックス・プロセッサ１１１２などの慎重な外部グラフィックス・プロセッサに組み込まれ得る。少なくとも１つの実施例では、プラットフォーム・コントローラ・ハブ１１３０及び／又はメモリ・コントローラ１１１６は、１つ又は複数のプロセッサ１１０２の外部にあり得る。たとえば、少なくとも１つの実施例では、処理システム１１００は、外部のメモリ・コントローラ１１１６とプラットフォーム・コントローラ・ハブ１１３０とを含むことができ、それらは、（１つ又は複数の）プロセッサ１１０２と通信しているシステム・チップセット内のメモリ・コントローラ・ハブ及び周辺コントローラ・ハブとして構成され得る。

【0074】

図１２は、少なくとも１つの実施例による、コンピュータ・システム１２００を示す。少なくとも１つの実施例では、コンピュータ・システム１２００は、相互接続されたデバイス及び構成要素をもつシステム、ＳＯＣ、又は何らかの組合せであり得る。少なくとも１つの実施例では、コンピュータ・システム１２００は、命令を実行するための実行ユニットを含み得るプロセッサ１２０２とともに形成される。少なくとも１つの実施例では、コンピュータ・システム１２００は、限定はしないが、データを処理するためのアルゴリズムを実施するための論理を含む実行ユニットを採用するための、プロセッサ１２０２などの構成要素を含み得る。少なくとも１つの実施例では、コンピュータ・システム１２００は、カリフォルニア州サンタクララのＩｎｔｅｌ Ｃｏｒｐｏｒａｔｉｏｎから入手可能なＰＥＮＴＩＵＭ（登録商標）プロセッサ・ファミリー、Ｘｅｏｎ（商標）、Ｉｔａｎｉｕｍ（登録商標）、ＸＳｃａｌｅ（商標）及び／又はＳｔｒｏｎｇＡＲＭ（商標）、Ｉｎｔｅｌ（登録商標）Ｃｏｒｅ（商標）、又はＩｎｔｅｌ（登録商標）Ｎｅｒｖａｎａ（商標）マイクロプロセッサなどのプロセッサを含み得るが、（他のマイクロプロセッサ、エンジニアリング・ワークステーション、セット・トップ・ボックスなどを有するＰＣを含む）他のシステムも使用され得る。少なくとも１つの実施例では、コンピュータ・システム１２００は、ワシントン州レドモンドのＭｉｃｒｏｓｏｆｔ Ｃｏｒｐｏｒａｔｉｏｎから入手可能なＷＩＮＤＯＷＳオペレーティング・システムのあるバージョンを実行し得るが、他のオペレーティング・システム（たとえば、ＵＮＩＸ及びＬｉｎｕｘ）、組み込みソフトウェア、及び／又はグラフィカル・ユーザ・インターフェースも使用され得る。

【0075】

少なくとも１つの実施例では、コンピュータ・システム１２００は、ハンドヘルド・デバイス及び組み込みアプリケーションなど、他のデバイスにおいて使用され得る。ハンドヘルド・デバイスのいくつかの実例は、セルラー・フォン、インターネット・プロトコル・デバイス、デジタル・カメラ、パーソナル・デジタル・アシスタント（「ＰＤＡ」：ｐｅｒｓｏｎａｌ ｄｉｇｉｔａｌ ａｓｓｉｓｔａｎｔ）、及びハンドヘルドＰＣを含む。少なくとも１つの実施例では、組み込みアプリケーションは、マイクロコントローラ、デジタル信号プロセッサ（ＤＳＰ）、ＳｏＣ、ネットワーク・コンピュータ（「ＮｅｔＰＣ」：ｎｅｔｗｏｒｋ ｃｏｍｐｕｔｅｒ）、セット・トップ・ボックス、ネットワーク・ハブ、ワイド・エリア・ネットワーク（「ＷＡＮ」：ｗｉｄｅ ａｒｅａ ｎｅｔｗｏｒｋ）スイッチ、又は１つ又は複数の命令を実施し得る任意の他のシステムを含み得る。

【0076】

少なくとも１つの実施例では、コンピュータ・システム１２００は、限定はしないが、プロセッサ１２０２を含み得、プロセッサ１２０２は、限定はしないが、コンピュート・ユニファイド・デバイス・アーキテクチャ（「ＣＵＤＡ」：Ｃｏｍｐｕｔｅ Ｕｎｉｆｉｅｄ Ｄｅｖｉｃｅ Ａｒｃｈｉｔｅｃｔｕｒｅ）（ＣＵＤＡ（登録商標）は、カリフォルニア州サンタクララのＮＶＩＤＩＡ Ｃｏｒｐｏｒａｔｉｏｎによって開発される）プログラムを実行するように構成され得る、１つ又は複数の実行ユニット１２０８を含み得る。少なくとも１つの実施例では、ＣＵＤＡプログラムは、ＣＵＤＡプログラミング言語で書かれたソフトウェア・アプリケーションの少なくとも一部分である。少なくとも１つの実施例では、コンピュータ・システム１２００は、シングル・プロセッサ・デスクトップ又はサーバ・システムである。少なくとも１つの実施例では、コンピュータ・システム１２００は、マルチプロセッサ・システムであり得る。少なくとも１つの実施例では、プロセッサ１２０２は、限定はしないが、ＣＩＳＣマイクロプロセッサ、ＲＩＳＣマイクロプロセッサ、ＶＬＩＷマイクロプロセッサ、命令セットの組合せを実装するプロセッサ、又は、たとえばデジタル信号プロセッサなど、任意の他のプロセッサ・デバイスを含み得る。少なくとも１つの実施例では、プロセッサ１２０２は、プロセッサ・バス１２１０に結合され得、プロセッサ・バス１２１０は、プロセッサ１２０２とコンピュータ・システム１２００中の他の構成要素との間でデータ信号を送信し得る。

【0077】

少なくとも１つの実施例では、プロセッサ１２０２は、限定はしないが、レベル１（「Ｌ１」）の内部キャッシュ・メモリ（「キャッシュ」）１２０４を含み得る。少なくとも１つの実施例では、プロセッサ１２０２は、単一の内部キャッシュ又は複数のレベルの内部キャッシュを有し得る。少なくとも１つの実施例では、キャッシュ・メモリは、プロセッサ１２０２の外部に存在し得る。少なくとも１つの実施例では、プロセッサ１２０２は、内部キャッシュと外部キャッシュの両方の組合せをも含み得る。少なくとも１つの実施例では、レジスタ・ファイル１２０６は、限定はしないが、整数レジスタ、浮動小数点レジスタ、ステータス・レジスタ、及び命令ポインタ・レジスタを含む様々なレジスタに、異なるタイプのデータを記憶し得る。

【0078】

少なくとも１つの実施例では、限定はしないが、整数演算及び浮動小数点演算を実施するための論理を含む実行ユニット１２０８も、プロセッサ１２０２中に存在し得る。プロセッサ１２０２は、いくつかのマクロ命令のためのマイクロコードを記憶するマイクロコード（「ｕコード」）読取り専用メモリ（「ＲＯＭ」：ｒｅａｄ ｏｎｌｙ ｍｅｍｏｒｙ）をも含み得る。少なくとも１つの実施例では、実行ユニット１２０８は、パック命令セット１２０９に対処するための論理を含み得る。少なくとも１つの実施例では、パック命令セット１２０９を、命令を実行するための関連する回路要素とともに汎用プロセッサ１２０２の命令セットに含めることによって、多くのマルチメディア・アプリケーションによって使用される演算が、汎用プロセッサ１２０２中のパック・データを使用して実施され得る。少なくとも１つの実施例では、多くのマルチメディア・アプリケーションが、パック・データの演算を実施するためにプロセッサのデータ・バスの全幅を使用することによって加速され、より効率的に実行され得、これは、一度に１つのデータ要素ずつ１つ又は複数の演算を実施するために、プロセッサのデータ・バスにわたってより小さい単位のデータを転送する必要をなくし得る。

【0079】

少なくとも１つの実施例では、実行ユニット１２０８はまた、マイクロコントローラ、組み込みプロセッサ、グラフィックス・デバイス、ＤＳＰ、及び他のタイプの論理回路において使用され得る。少なくとも１つの実施例では、コンピュータ・システム１２００は、限定はしないが、メモリ１２２０を含み得る。少なくとも１つの実施例では、メモリ１２２０は、ＤＲＡＭデバイス、ＳＲＡＭデバイス、フラッシュ・メモリ・デバイス、又は他のメモリ・デバイスとして実装され得る。メモリ１２２０は、プロセッサ１２０２によって実行され得るデータ信号によって表される（１つ又は複数の）命令１２１９及び／又はデータ１２２１を記憶し得る。

【0080】

少なくとも１つの実施例では、システム論理チップが、プロセッサ・バス１２１０及びメモリ１２２０に結合され得る。少なくとも１つの実施例では、システム論理チップは、限定はしないが、メモリ・コントローラ・ハブ（「ＭＣＨ」：ｍｅｍｏｒｙ ｃｏｎｔｒｏｌｌｅｒ ｈｕｂ）１２１６を含み得、プロセッサ１２０２は、プロセッサ・バス１２１０を介してＭＣＨ１２１６と通信し得る。少なくとも１つの実施例では、ＭＣＨ１２１６は、命令及びデータ・ストレージのための、並びにグラフィックス・コマンド、データ及びテクスチャのストレージのための、高帯域幅メモリ経路１２１８をメモリ１２２０に提供し得る。少なくとも１つの実施例では、ＭＣＨ１２１６は、プロセッサ１２０２と、メモリ１２２０と、コンピュータ・システム１２００中の他の構成要素との間でデータ信号をダイレクトし、プロセッサ・バス１２１０と、メモリ１２２０と、システムＩ／Ｏ１２２２との間でデータ信号をブリッジし得る。少なくとも１つの実施例では、システム論理チップは、グラフィックス・コントローラに結合するためのグラフィックス・ポートを提供し得る。少なくとも１つの実施例では、ＭＣＨ１２１６は、高帯域幅メモリ経路１２１８を通してメモリ１２２０に結合され得、グラフィックス／ビデオ・カード１２１２は、アクセラレーテッド・グラフィックス・ポート（「ＡＧＰ」：Ａｃｃｅｌｅｒａｔｅｄ Ｇｒａｐｈｉｃｓ Ｐｏｒｔ）相互接続１２１４を介してＭＣＨ１２１６に結合され得る。

【0081】

少なくとも１つの実施例では、コンピュータ・システム１２００は、ＭＣＨ１２１６をＩ／Ｏコントローラ・ハブ（「ＩＣＨ」：Ｉ／Ｏ ｃｏｎｔｒｏｌｌｅｒ ｈｕｂ）１２３０に結合するためのプロプライエタリ・ハブ・インターフェース・バスである、システムＩ／Ｏ１２２２を使用し得る。少なくとも１つの実施例では、ＩＣＨ１２３０は、ローカルＩ／Ｏバスを介していくつかのＩ／Ｏデバイスに直接接続を提供し得る。少なくとも１つの実施例では、ローカルＩ／Ｏバスは、限定はしないが、周辺機器をメモリ１２２０、チップセット、及びプロセッサ１２０２に接続するための高速Ｉ／Ｏバスを含み得る。実例は、限定はしないが、オーディオ・コントローラ１２２９と、ファームウェア・ハブ（「フラッシュＢＩＯＳ」）１２２８と、ワイヤレス・トランシーバ１２２６と、データ・ストレージ１２２４と、ユーザ入力インターフェース１２２５及びキーボード・インターフェースを含んでいるレガシーＩ／Ｏコントローラ１２２３と、ＵＳＢなどのシリアル拡張ポート１２２７と、ネットワーク・コントローラ１２３４とを含み得る。データ・ストレージ１２２４は、ハード・ディスク・ドライブ、フロッピー・ディスク・ドライブ、ＣＤ－ＲＯＭデバイス、フラッシュ・メモリ・デバイス、又は他の大容量ストレージ・デバイスを備え得る。

【0082】

少なくとも１つの実施例では、図１２は、相互接続されたハードウェア・デバイス又は「チップ」を含むシステムを示す。少なくとも１つの実施例では、図１２は、例示的なＳｏＣを示し得る。少なくとも１つの実施例では、図１２に示されているデバイスは、プロプライエタリ相互接続、標準相互接続（たとえば、ＰＣＩｅ）、又はそれらの何らかの組合せで相互接続され得る。少なくとも１つの実施例では、システム１２００の１つ又は複数の構成要素は、コンピュート・エクスプレス・リンク（「ＣＸＬ」：ｃｏｍｐｕｔｅ ｅｘｐｒｅｓｓ ｌｉｎｋ）相互接続を使用して相互接続される。

【0083】

図１３は、少なくとも１つの実施例による、システム１３００を示す。少なくとも１つの実施例では、システム１３００は、プロセッサ１３１０を利用する電子デバイスである。少なくとも１つの実施例では、システム１３００は、たとえば、限定はしないが、ノートブック、タワー・サーバ、ラック・サーバ、ブレード・サーバ、１つ若しくは複数のオン・プレミス若しくはクラウド・サービス・プロバイダに通信可能に結合されたエッジ・デバイス、ラップトップ、デスクトップ、タブレット、モバイル・デバイス、電話、組み込みコンピュータ、又は任意の他の好適な電子デバイスであり得る。

【0084】

少なくとも１つの実施例では、システム１３００は、限定はしないが、任意の好適な数又は種類の構成要素、周辺機器、モジュール、又はデバイスに通信可能に結合されたプロセッサ１３１０を含み得る。少なくとも１つの実施例では、プロセッサ１３１０は、Ｉ２Ｃバス、システム管理バス（「ＳＭＢｕｓ」：Ｓｙｓｔｅｍ Ｍａｎａｇｅｍｅｎｔ Ｂｕｓ）、ロー・ピン・カウント（「ＬＰＣ」：Ｌｏｗ Ｐｉｎ Ｃｏｕｎｔ）バス、シリアル周辺インターフェース（「ＳＰＩ」：Ｓｅｒｉａｌ Ｐｅｒｉｐｈｅｒａｌ Ｉｎｔｅｒｆａｃｅ）、高精細度オーディオ（「ＨＤＡ」：Ｈｉｇｈ Ｄｅｆｉｎｉｔｉｏｎ Ａｕｄｉｏ）バス、シリアル・アドバンス・テクノロジー・アタッチメント（「ＳＡＴＡ」：Ｓｅｒｉａｌ Ａｄｖａｎｃｅ Ｔｅｃｈｎｏｌｏｇｙ Ａｔｔａｃｈｍｅｎｔ）バス、ＵＳＢ（バージョン１、２、３）、又はユニバーサル非同期受信機／送信機（「ＵＡＲＴ」：Ｕｎｉｖｅｒｓａｌ Ａｓｙｎｃｈｒｏｎｏｕｓ Ｒｅｃｅｉｖｅｒ／Ｔｒａｎｓｍｉｔｔｅｒ）バスなど、バス又はインターフェースを使用して結合される。少なくとも１つの実施例では、図１３は、相互接続されたハードウェア・デバイス又は「チップ」を含むシステムを示す。少なくとも１つの実施例では、図１３は、例示的なＳｏＣを示し得る。少なくとも１つの実施例では、図１３に示されているデバイスは、プロプライエタリ相互接続、標準相互接続（たとえば、ＰＣＩｅ）又はそれらの何らかの組合せで相互接続され得る。少なくとも１つの実施例では、図１３の１つ又は複数の構成要素は、ＣＸＬ相互接続を使用して相互接続される。

【0085】

少なくとも１つの実施例では、図１３は、ディスプレイ１３２４、タッチ・スクリーン１３２５、タッチ・パッド１３３０、ニア・フィールド通信ユニット（「ＮＦＣ」：Ｎｅａｒ Ｆｉｅｌｄ Ｃｏｍｍｕｎｉｃａｔｉｏｎ）１３４５、センサ・ハブ１３４０、熱センサ１３４６、エクスプレス・チップセット（「ＥＣ」：Ｅｘｐｒｅｓｓ Ｃｈｉｐｓｅｔ）１３３５、トラステッド・プラットフォーム・モジュール（「ＴＰＭ」：Ｔｒｕｓｔｅｄ Ｐｌａｔｆｏｒｍ Ｍｏｄｕｌｅ）１３３７、ＢＩＯＳ／ファームウェア／フラッシュ・メモリ（「ＢＩＯＳ、ＦＷフラッシュ」：ＢＩＯＳ／ｆｉｒｍｗａｒｅ／ｆｌａｓｈ ｍｅｍｏｒｙ）１３２２、ＤＳＰ１３６０、ソリッド・ステート・ディスク（「ＳＳＤ」：Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｉｓｋ）又はハード・ディスク・ドライブ（「ＨＤＤ」：Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）１３２０、ワイヤレス・ローカル・エリア・ネットワーク・ユニット（「ＷＬＡＮ」：ｗｉｒｅｌｅｓｓ ｌｏｃａｌ ａｒｅａ ｎｅｔｗｏｒｋ）１３５０、Ｂｌｕｅｔｏｏｔｈユニット１３５２、ワイヤレス・ワイド・エリア・ネットワーク・ユニット（「ＷＷＡＮ」：Ｗｉｒｅｌｅｓｓ Ｗｉｄｅ Ａｒｅａ Ｎｅｔｗｏｒｋ）１３５６、全地球測位システム（「ＧＰＳ」：Ｇｌｏｂａｌ Ｐｏｓｉｔｉｏｎｉｎｇ Ｓｙｓｔｅｍ）１３５５、ＵＳＢ３．０カメラなどのカメラ（「ＵＳＢ３．０カメラ」）１３５４、或いは、たとえばＬＰＤＤＲ３規格において実装された低電力ダブル・データ・レート（「ＬＰＤＤＲ」：Ｌｏｗ Ｐｏｗｅｒ Ｄｏｕｂｌｅ Ｄａｔａ Ｒａｔｅ）メモリ・ユニット（「ＬＰＤＤＲ３」）１３１５を含み得る。これらの構成要素は、各々、任意の好適な様式で実装され得る。

【0086】

少なくとも１つの実施例では、上記で説明された構成要素を通して、他の構成要素がプロセッサ１３１０に通信可能に結合され得る。少なくとも１つの実施例では、加速度計１３４１と、周囲光センサ（「ＡＬＳ」：Ａｍｂｉｅｎｔ Ｌｉｇｈｔ Ｓｅｎｓｏｒ）１３４２と、コンパス１３４３と、ジャイロスコープ１３４４とが、センサ・ハブ１３４０に通信可能に結合され得る。少なくとも１つの実施例では、熱センサ１３３９と、ファン１３３７と、キーボード１３３６と、タッチ・パッド１３３０とが、ＥＣ１３３５に通信可能に結合され得る。少なくとも１つの実施例では、スピーカー１３６３と、ヘッドフォン１３６４と、マイクロフォン（「ｍｉｃ」）１３６５とが、オーディオ・ユニット（「オーディオ・コーデック及びクラスｄアンプ」）１３６２に通信可能に結合され得、オーディオ・ユニット１３６２は、ＤＳＰ１３６０に通信可能に結合され得る。少なくとも１つの実施例では、オーディオ・ユニット１３６２は、たとえば、限定はしないが、オーディオ・コーダ／デコーダ（「コーデック」）及びクラスＤ増幅器を含み得る。少なくとも１つの実施例では、ＳＩＭカード（「ＳＩＭ」）１３５７は、ＷＷＡＮユニット１３５６に通信可能に結合され得る。少なくとも１つの実施例では、ＷＬＡＮユニット１３５０及びＢｌｕｅｔｏｏｔｈユニット１３５２などの構成要素、並びにＷＷＡＮユニット１３５６は、次世代フォーム・ファクタ（「ＮＧＦＦ」：Ｎｅｘｔ Ｇｅｎｅｒａｔｉｏｎ Ｆｏｒｍ Ｆａｃｔｏｒ）において実装され得る。

【0087】

図１４は、少なくとも１つの実施例による、例示的な集積回路１４００を示す。少なくとも１つの実施例では、例示的な集積回路１４００は、１つ又は複数のＩＰコアを使用して作製され得るＳｏＣである。少なくとも１つの実施例では、集積回路１４００は、１つ又は複数のアプリケーション・プロセッサ１４０５（たとえば、ＣＰＵ）、少なくとも１つのグラフィックス・プロセッサ１４１０を含み、追加として、画像プロセッサ１４１５及び／又はビデオ・プロセッサ１４２０を含み得、それらのいずれも、モジュール式ＩＰコアであり得る。少なくとも１つの実施例では、集積回路１４００は、ＵＳＢコントローラ１４２５、ＵＡＲＴコントローラ１４３０、ＳＰＩ／ＳＤＩＯコントローラ１４３５、及びＩ２Ｓ／Ｉ２Ｃコントローラ１４４０を含む周辺機器又はバス論理を含む。少なくとも１つの実施例では、集積回路１４００は、高精細度マルチメディア・インターフェース（「ＨＤＭＩ」：ｈｉｇｈ－ｄｅｆｉｎｉｔｉｏｎ ｍｕｌｔｉｍｅｄｉａ ｉｎｔｅｒｆａｃｅ）コントローラ１４５０及びモバイル・インダストリ・プロセッサ・インターフェース（「ＭＩＰＩ」：ｍｏｂｉｌｅ ｉｎｄｕｓｔｒｙ ｐｒｏｃｅｓｓｏｒ ｉｎｔｅｒｆａｃｅ）ディスプレイ・インターフェース１４５５のうちの１つ又は複数に結合されたディスプレイ・デバイス１４４５を含むことができる。少なくとも１つの実施例では、フラッシュ・メモリとフラッシュ・メモリ・コントローラとを含むフラッシュ・メモリ・サブシステム１４６０によって、ストレージが提供され得る。少なくとも１つの実施例では、ＳＤＲＡＭ又はＳＲＡＭメモリ・デバイスへのアクセスのために、メモリ・コントローラ１４６５を介してメモリ・インターフェースが提供され得る。少なくとも１つの実施例では、いくつかの集積回路は、追加として、組み込みセキュリティ・エンジン１４７０を含む。

【0088】

図１５は、少なくとも１つの実施例による、コンピューティング・システム１５００を示す。少なくとも１つの実施例では、コンピューティング・システム１５００は、メモリ・ハブ１５０５を含み得る相互接続経路を介して通信する１つ又は複数のプロセッサ１５０２とシステム・メモリ１５０４とを有する処理サブシステム１５０１を含む。少なくとも１つの実施例では、メモリ・ハブ１５０５は、チップセット構成要素内の別個の構成要素であり得るか、又は１つ又は複数のプロセッサ１５０２内に組み込まれ得る。少なくとも１つの実施例では、メモリ・ハブ１５０５は、通信リンク１５０６を介してＩ／Ｏサブシステム１５１１と結合する。少なくとも１つの実施例では、Ｉ／Ｏサブシステム１５１１は、コンピューティング・システム１５００が１つ又は複数の入力デバイス１５０８からの入力を受信することを可能にすることができるＩ／Ｏハブ１５０７を含む。少なくとも１つの実施例では、Ｉ／Ｏハブ１５０７は、１つ又は複数のプロセッサ１５０２中に含まれ得るディスプレイ・コントローラが、１つ又は複数のディスプレイ・デバイス１５１０Ａに出力を提供することを可能にすることができる。少なくとも１つの実施例では、Ｉ／Ｏハブ１５０７と結合された１つ又は複数のディスプレイ・デバイス１５１０Ａは、ローカルの、内部の、又は組み込まれたディスプレイ・デバイスを含むことができる。

【0089】

少なくとも１つの実施例では、処理サブシステム１５０１は、バス又は他の通信リンク１５１３を介してメモリ・ハブ１５０５に結合された１つ又は複数の並列プロセッサ１５１２を含む。少なくとも１つの実施例では、通信リンク１５１３は、限定はしないがＰＣＩｅなど、任意の数の規格ベースの通信リンク技術又はプロトコルのうちの１つであり得るか、或いはベンダー固有の通信インターフェース又は通信ファブリックであり得る。少なくとも１つの実施例では、１つ又は複数の並列プロセッサ１５１２は、メニー・インテグレーテッド・コア・プロセッサなど、多数の処理コア及び／又は処理クラスタを含むことができる、算出に集中した並列又はベクトル処理システムを形成する。少なくとも１つの実施例では、１つ又は複数の並列プロセッサ１５１２は、グラフィックス処理サブシステムを形成し、グラフィックス処理サブシステムは、Ｉ／Ｏハブ１５０７を介して結合された１つ又は複数のディスプレイ・デバイス１５１０Ａのうちの１つにピクセルを出力することができる。少なくとも１つの実施例では、１つ又は複数の並列プロセッサ１５１２はまた、ディスプレイ・コントローラと、１つ又は複数のディスプレイ・デバイス１５１０Ｂへの直接接続を可能にするためのディスプレイ・インターフェース（図示せず）とを含むことができる。

【0090】

少なくとも１つの実施例では、システム・ストレージ・ユニット１５１４は、Ｉ／Ｏハブ１５０７に接続して、コンピューティング・システム１５００のためのストレージ機構を提供することができる。少なくとも１つの実施例では、Ｉ／Ｏハブ１５０７と、プラットフォームに組み込まれ得るネットワーク・アダプタ１５１８及び／又はワイヤレス・ネットワーク・アダプタ１５１９などの他の構成要素、並びに１つ又は複数のアドイン・デバイス１５２０を介して追加され得る様々な他のデバイスとの間の接続を可能にするためのインターフェース機構を提供するために、Ｉ／Ｏスイッチ１５１６が使用され得る。少なくとも１つの実施例では、ネットワーク・アダプタ１５１８は、イーサネット・アダプタ又は別のワイヤード・ネットワーク・アダプタであり得る。少なくとも１つの実施例では、ワイヤレス・ネットワーク・アダプタ１５１９は、Ｗｉ－Ｆｉ、Ｂｌｕｅｔｏｏｔｈ、ＮＦＣ、又は１つ又は複数のワイヤレス無線を含む他のネットワーク・デバイスのうちの１つ又は複数を含むことができる。

【0091】

少なくとも１つの実施例では、コンピューティング・システム１５００は、ＵＳＢ又は他のポート接続、光学ストレージ・ドライブ、ビデオ・キャプチャ・デバイスなどを含む、Ｉ／Ｏハブ１５０７にも接続され得る、明示的に示されていない他の構成要素を含むことができる。少なくとも１つの実施例では、図１５中の様々な構成要素を相互接続する通信経路が、ＰＣＩベースのプロトコル（たとえば、ＰＣＩｅ）などの任意の好適なプロトコル、或いはＮＶＬｉｎｋ高速相互接続などの他のバス又はポイントツーポイント通信インターフェース及び／又は（１つ又は複数の）プロトコル、或いは相互接続プロトコルを使用して、実装され得る。

【0092】

少なくとも１つの実施例では、１つ又は複数の並列プロセッサ１５１２は、たとえばビデオ出力回路要素を含むグラフィックス及びビデオ処理のために最適化された回路要素を組み込み、グラフィックス処理ユニット（「ＧＰＵ」：ｇｒａｐｈｉｃｓ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ）を構成する。少なくとも１つの実施例では、１つ又は複数の並列プロセッサ１５１２は、汎用処理のために最適化された回路要素を組み込む。少なくとも実施例では、コンピューティング・システム１５００の構成要素は、単一の集積回路上の１つ又は複数の他のシステム要素と統合され得る。たとえば、少なくとも１つの実施例では、１つ又は複数の並列プロセッサ１５１２、メモリ・ハブ１５０５、（１つ又は複数の）プロセッサ１５０２、及びＩ／Ｏハブ１５０７は、ＳｏＣ集積回路に組み込まれ得る。少なくとも１つの実施例では、コンピューティング・システム１５００の構成要素は、システム・イン・パッケージ（「ＳＩＰ」：ｓｙｓｔｅｍ ｉｎ ｐａｃｋａｇｅ）構成を形成するために、単一のパッケージに組み込まれ得る。少なくとも１つの実施例では、コンピューティング・システム１５００の構成要素の少なくとも一部分は、マルチチップ・モジュール（「ＭＣＭ」：ｍｕｌｔｉ－ｃｈｉｐ ｍｏｄｕｌｅ）に組み込まれ得、マルチチップ・モジュールは、他のマルチチップ・モジュールと相互接続されてモジュール式コンピューティング・システムにすることができる。少なくとも１つの実施例では、Ｉ／Ｏサブシステム１５１１及びディスプレイ・デバイス１５１０Ｂは、コンピューティング・システム１５００から省略される。

【0093】

処理システム
以下の図は、限定はしないが、少なくとも１つの実施例を実装するために使用され得る、例示的な処理システムを記載する。

【0094】

図１６は、少なくとも１つの実施例による、加速処理ユニット（「ＡＰＵ」：ａｃｃｅｌｅｒａｔｅｄ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ）１６００を示す。少なくとも１つの実施例では、ＡＰＵ１６００は、カリフォルニア州サンタクララのＡＭＤ Ｃｏｒｐｏｒａｔｉｏｎによって開発される。少なくとも１つの実施例では、ＡＰＵ１６００は、ＣＵＤＡプログラムなど、アプリケーション・プログラムを実行するように構成され得る。少なくとも１つの実施例では、ＡＰＵ１６００は、限定はしないが、コア複合体１６１０と、グラフィックス複合体１６４０と、ファブリック１６６０と、Ｉ／Ｏインターフェース１６７０と、メモリ・コントローラ１６８０と、ディスプレイ・コントローラ１６９２と、マルチメディア・エンジン１６９４とを含む。少なくとも１つの実施例では、ＡＰＵ１６００は、限定はしないが、任意の数のコア複合体１６１０と、任意の数のグラフィックス複合体１６５０と、任意の数のディスプレイ・コントローラ１６９２と、任意の数のマルチメディア・エンジン１６９４とを、任意の組合せで含み得る。説明目的のために、同様のオブジェクトの複数のインスタンスは、オブジェクトを識別する参照番号と、必要な場合にインスタンスを識別する括弧付きの番号とともに、本明細書で示される。

【0095】

少なくとも１つの実施例では、コア複合体１６１０はＣＰＵであり、グラフィックス複合体１６４０はＧＰＵであり、ＡＰＵ１６００は、限定はしないが、単一のチップ上に１６１０及び１６４０を組み込む処理ユニットである。少なくとも１つの実施例では、いくつかのタスクは、コア複合体１６１０に割り当てられ得、他のタスクは、グラフィックス複合体１６４０に割り当てられ得る。少なくとも１つの実施例では、コア複合体１６１０は、オペレーティング・システムなど、ＡＰＵ１６００に関連するメイン制御ソフトウェアを実行するように構成される。少なくとも１つの実施例では、コア複合体１６１０は、ＡＰＵ１６００のマスタ・プロセッサであり、他のプロセッサの動作を制御し、協調させる。少なくとも１つの実施例では、コア複合体１６１０は、グラフィックス複合体１６４０の動作を制御するコマンドを発行する。少なくとも１つの実施例では、コア複合体１６１０は、ＣＵＤＡソース・コードから導出されたホスト実行可能コードを実行するように構成され得、グラフィックス複合体１６４０は、ＣＵＤＡソース・コードから導出されたデバイス実行可能コードを実行するように構成され得る。

【0096】

少なくとも１つの実施例では、コア複合体１６１０は、限定はしないが、コア１６２０（１）～１６２０（４）と、Ｌ３キャッシュ１６３０とを含む。少なくとも１つの実施例では、コア複合体１６１０は、限定はしないが、任意の数のコア１６２０と、任意の数及びタイプのキャッシュとを、任意の組合せで含み得る。少なくとも１つの実施例では、コア１６２０は、特定の命令セット・アーキテクチャ（「ＩＳＡ」：ｉｎｓｔｒｕｃｔｉｏｎ ｓｅｔ ａｒｃｈｉｔｅｃｔｕｒｅ）の命令を実行するように構成される。少なくとも１つの実施例では、各コア１６２０はＣＰＵコアである。

【0097】

少なくとも１つの実施例では、各コア１６２０は、限定はしないが、フェッチ／復号ユニット１６２２と、整数実行エンジン１６２４と、浮動小数点実行エンジン１６２６と、Ｌ２キャッシュ１６２８とを含む。少なくとも１つの実施例では、フェッチ／復号ユニット１６２２は、命令をフェッチし、そのような命令を復号し、マイクロ・オペレーションを生成し、整数実行エンジン１６２４と浮動小数点実行エンジン１６２６とに別個のマイクロ命令をディスパッチする。少なくとも１つの実施例では、フェッチ／復号ユニット１６２２は、同時に、あるマイクロ命令を整数実行エンジン１６２４にディスパッチし、別のマイクロ命令を浮動小数点実行エンジン１６２６にディスパッチすることができる。少なくとも１つの実施例では、整数実行エンジン１６２４は、限定はしないが、整数及びメモリ演算を実行する。少なくとも１つの実施例では、浮動小数点エンジン１６２６は、限定はしないが、浮動小数点及びベクトル演算を実行する。少なくとも１つの実施例では、フェッチ復号ユニット１６２２は、整数実行エンジン１６２４と浮動小数点実行エンジン１６２６の両方を置き換える単一の実行エンジンに、マイクロ命令をディスパッチする。

【0098】

少なくとも１つの実施例では、ｉがコア１６２０の特定のインスタンスを表す整数である、各コア１６２０（ｉ）は、コア１６２０（ｉ）中に含まれるＬ２キャッシュ１６２８（ｉ）にアクセスし得る。少なくとも１つの実施例では、ｊがコア複合体１６１０の特定のインスタンスを表す整数である、コア複合体１６１０（ｊ）中に含まれる各コア１６２０は、コア複合体１６１０（ｊ）中に含まれるＬ３キャッシュ１６３０（ｊ）を介して、コア複合体１６１０（ｊ）中に含まれる他のコア１６２０に接続される。少なくとも１つの実施例では、ｊがコア複合体１６１０の特定のインスタンスを表す整数である、コア複合体１６１０（ｊ）中に含まれるコア１６２０は、コア複合体１６１０（ｊ）中に含まれるＬ３キャッシュ１６３０（ｊ）のすべてにアクセスすることができる。少なくとも１つの実施例では、Ｌ３キャッシュ１６３０は、限定はしないが、任意の数のスライスを含み得る。

【0099】

少なくとも１つの実施例では、グラフィックス複合体１６４０は、高度並列様式でコンピュート動作を実施するように構成され得る。少なくとも１つの実施例では、グラフィックス複合体１６４０は、描画コマンド、ピクセル動作、幾何学的算出、及びディスプレイに画像をレンダリングすることに関連する他の動作など、グラフィックス・パイプライン動作を実行するように構成される。少なくとも１つの実施例では、グラフィックス複合体１６４０は、グラフィックに関係しない動作を実行するように構成される。少なくとも１つの実施例では、グラフィックス複合体１６４０は、グラフィックに関係する動作とグラフィックに関係しない動作の両方を実行するように構成される。

【0100】

少なくとも１つの実施例では、グラフィックス複合体１６４０は、限定はしないが、任意の数のコンピュート・ユニット１６５０と、Ｌ２キャッシュ１６４２とを含む。少なくとも１つの実施例では、コンピュート・ユニット１６５０は、Ｌ２キャッシュ１６４２を共有する。少なくとも１つの実施例では、Ｌ２キャッシュ１６４２は区分けされる。少なくとも１つの実施例では、グラフィックス複合体１６４０は、限定はしないが、任意の数のコンピュート・ユニット１６５０と、（ゼロを含む）任意の数及びタイプのキャッシュとを含む。少なくとも１つの実施例では、グラフィックス複合体１６４０は、限定はしないが、任意の量の専用グラフィックス・ハードウェアを含む。

【0101】

少なくとも１つの実施例では、各コンピュート・ユニット１６５０は、限定はしないが、任意の数のＳＩＭＤユニット１６５２と、共有メモリ１６５４とを含む。少なくとも１つの実施例では、各ＳＩＭＤユニット１６５２は、ＳＩＭＤアーキテクチャを実装し、動作を並列に実施するように構成される。少なくとも１つの実施例では、各コンピュート・ユニット１６５０は、任意の数のスレッド・ブロックを実行し得るが、各スレッド・ブロックは、単一のコンピュート・ユニット１６５０上で実行する。少なくとも１つの実施例では、スレッド・ブロックは、限定はしないが、任意の数の実行のスレッドを含む。少なくとも１つの実施例では、ワークグループは、スレッド・ブロックである。少なくとも１つの実施例では、各ＳＩＭＤユニット１６５２は、異なるワープを実行する。少なくとも１つの実施例では、ワープは、スレッドのグループ（たとえば、１６個のスレッド）であり、ここで、ワープ中の各スレッドは、単一のスレッド・ブロックに属し、命令の単一のセットに基づいて、データの異なるセットを処理するように構成される。少なくとも１つの実施例では、ワープ中の１つ又は複数のスレッドを無効にするために、プレディケーションが使用され得る。少なくとも１つの実施例では、レーンはスレッドである。少なくとも１つの実施例では、ワーク・アイテムはスレッドである。少なくとも１つの実施例では、ウェーブフロントはワープである。少なくとも１つの実施例では、スレッド・ブロック中の異なるウェーブフロントは、互いに同期し、共有メモリ１６５４を介して通信し得る。

【0102】

少なくとも１つの実施例では、ファブリック１６６０は、コア複合体１６１０、グラフィックス複合体１６４０、Ｉ／Ｏインターフェース１６７０、メモリ・コントローラ１６８０、ディスプレイ・コントローラ１６９２、及びマルチメディア・エンジン１６９４にわたるデータ及び制御送信を容易にするシステム相互接続である。少なくとも１つの実施例では、ＡＰＵ１６００は、限定はしないが、ファブリック１６６０に加えて又はそれの代わりに、任意の量及びタイプのシステム相互接続を含み得、それは、ＡＰＵ１６００の内部又は外部にあり得る、任意の数及びタイプの直接又は間接的にリンクされた構成要素にわたるデータ及び制御送信を容易にする。少なくとも１つの実施例では、Ｉ／Ｏインターフェース１６７０は、任意の数及びタイプのＩ／Ｏインターフェース（たとえば、ＰＣＩ、ＰＣＩ－Ｅｘｔｅｎｄｅｄ（「ＰＣＩ－Ｘ」）、ＰＣＩｅ、ギガビット・イーサネット（登録商標）（「ＧＢＥ」：ｇｉｇａｂｉｔ Ｅｔｈｅｒｎｅｔ（登録商標））、ＵＳＢなど）を表す。少なくとも１つの実施例では、様々なタイプの周辺デバイスが、Ｉ／Ｏインターフェース１６７０に結合される。少なくとも１つの実施例では、Ｉ／Ｏインターフェース１６７０に結合される周辺デバイスは、限定はしないが、キーボード、マウス、プリンタ、スキャナ、ジョイスティック又は他のタイプのゲーム・コントローラ、メディア記録デバイス、外部ストレージ・デバイス、ネットワーク・インターフェース・カードなどを含み得る。

【0103】

少なくとも１つの実施例では、ディスプレイ・コントローラＡＭＤ９２は、液晶ディスプレイ（「ＬＣＤ」：ｌｉｑｕｉｄ ｃｒｙｓｔａｌ ｄｉｓｐｌａｙ）デバイスなど、１つ又は複数のディスプレイ・デバイス上に画像を表示する。少なくとも１つの実施例では、マルチメディア・エンジン２４０は、限定はしないが、ビデオ・デコーダ、ビデオ・エンコーダ、画像信号プロセッサなど、マルチメディアに関係する任意の量及びタイプの回路要素を含む。少なくとも１つの実施例では、メモリ・コントローラ１６８０は、ＡＰＵ１６００と統一システム・メモリ１６９０との間のデータ転送を容易にする。少なくとも１つの実施例では、コア複合体１６１０とグラフィックス複合体１６４０とは、統一システム・メモリ１６９０を共有する。

【0104】

少なくとも１つの実施例では、ＡＰＵ１６００は、限定はしないが、１つの構成要素に専用であるか又は複数の構成要素の間で共有され得る、任意の量及びタイプのメモリ・コントローラ１６８０及びメモリ・デバイス（たとえば、共有メモリ１６５４）を含む、メモリ・サブシステムを実装する。少なくとも１つの実施例では、ＡＰＵ１６００は、限定はしないが、１つ又は複数のキャッシュ・メモリ（たとえば、Ｌ２キャッシュ１７２８、Ｌ３キャッシュ１６３０、及びＬ２キャッシュ１６４２）を含む、キャッシュ・サブシステムを実装し、１つ又は複数のキャッシュ・メモリは、各々、任意の数の構成要素（たとえば、コア１６２０、コア複合体１６１０、ＳＩＭＤユニット１６５２、コンピュート・ユニット１６５０、及びグラフィックス複合体１６４０）に対してプライベートであるか、又は任意の数の構成要素間で共有され得る。

【0105】

図１７は、少なくとも１つの実施例による、ＣＰＵ１７００を示す。少なくとも１つの実施例では、ＣＰＵ１７００は、カリフォルニア州サンタクララのＡＭＤ Ｃｏｒｐｏｒａｔｉｏｎによって開発される。少なくとも１つの実施例では、ＣＰＵ１７００は、アプリケーション・プログラムを実行するように構成され得る。少なくとも１つの実施例では、ＣＰＵ１７００は、オペレーティング・システムなど、メイン制御ソフトウェアを実行するように構成される。少なくとも１つの実施例では、ＣＰＵ１７００は、外部ＧＰＵ（図示せず）の動作を制御するコマンドを発行する。少なくとも１つの実施例では、ＣＰＵ１７００は、ＣＵＤＡソース・コードから導出されたホスト実行可能コードを実行するように構成され得、外部ＧＰＵは、そのようなＣＵＤＡソース・コードから導出されたデバイス実行可能コードを実行するように構成され得る。少なくとも１つの実施例では、ＣＰＵ１７００は、限定はしないが、任意の数のコア複合体１７１０と、ファブリック１７６０と、Ｉ／Ｏインターフェース１７７０と、メモリ・コントローラ１７８０とを含む。

【0106】

少なくとも１つの実施例では、コア複合体１７１０は、限定はしないが、コア１７２０（１）～１７２０（４）と、Ｌ３キャッシュ１７３０とを含む。少なくとも１つの実施例では、コア複合体１７１０は、限定はしないが、任意の数のコア１７２０と、任意の数及びタイプのキャッシュとを、任意の組合せで含み得る。少なくとも１つの実施例では、コア１７２０は、特定のＩＳＡの命令を実行するように構成される。少なくとも１つの実施例では、各コア１７２０はＣＰＵコアである。

【0107】

少なくとも１つの実施例では、各コア１７２０は、限定はしないが、フェッチ／復号ユニット１７２２と、整数実行エンジン１７２４と、浮動小数点実行エンジン１７２６と、Ｌ２キャッシュ１７２８とを含む。少なくとも１つの実施例では、フェッチ／復号ユニット１７２２は、命令をフェッチし、そのような命令を復号し、マイクロ・オペレーションを生成し、整数実行エンジン１７２４と浮動小数点実行エンジン１７２６とに別個のマイクロ命令をディスパッチする。少なくとも１つの実施例では、フェッチ／復号ユニット１７２２は、同時に、あるマイクロ命令を整数実行エンジン１７２４にディスパッチし、別のマイクロ命令を浮動小数点実行エンジン１７２６にディスパッチすることができる。少なくとも１つの実施例では、整数実行エンジン１７２４は、限定はしないが、整数及びメモリ演算を実行する。少なくとも１つの実施例では、浮動小数点エンジン１７２６は、限定はしないが、浮動小数点及びベクトル演算を実行する。少なくとも１つの実施例では、フェッチ復号ユニット１７２２は、整数実行エンジン１７２４と浮動小数点実行エンジン１７２６の両方を置き換える単一の実行エンジンに、マイクロ命令をディスパッチする。

【0108】

少なくとも１つの実施例では、ｉがコア１７２０の特定のインスタンスを表す整数である、各コア１７２０（ｉ）は、コア１７２０（ｉ）中に含まれるＬ２キャッシュ１７２８（ｉ）にアクセスし得る。少なくとも１つの実施例では、ｊがコア複合体１７１０の特定のインスタンスを表す整数である、コア複合体１７１０（ｊ）中に含まれる各コア１７２０は、コア複合体１７１０（ｊ）中に含まれるＬ３キャッシュ１７３０（ｊ）を介して、コア複合体１７１０（ｊ）の他のコア１７２０に接続される。少なくとも１つの実施例では、ｊがコア複合体１７１０の特定のインスタンスを表す整数である、コア複合体１７１０（ｊ）中に含まれるコア１７２０は、コア複合体１７１０（ｊ）中に含まれるＬ３キャッシュ１７３０（ｊ）のすべてにアクセスすることができる。少なくとも１つの実施例では、Ｌ３キャッシュ１７３０は、限定はしないが、任意の数のスライスを含み得る。

【0109】

少なくとも１つの実施例では、ファブリック１７６０は、コア複合体１７１０（１）～１７１０（Ｎ）（ここで、Ｎは０よりも大きい整数である）、Ｉ／Ｏインターフェース１７７０、及びメモリ・コントローラ１７８０にわたるデータ及び制御送信を容易にするシステム相互接続である。少なくとも１つの実施例では、ＣＰＵ１７００は、限定はしないが、ファブリック１７６０に加えて又はそれの代わりに、任意の量及びタイプのシステム相互接続を含み得、それは、ＣＰＵ１７００の内部又は外部にあり得る、任意の数及びタイプの直接又は間接的にリンクされた構成要素にわたるデータ及び制御送信を容易にする。少なくとも１つの実施例では、Ｉ／Ｏインターフェース１７７０は、任意の数及びタイプのＩ／Ｏインターフェース（たとえば、ＰＣＩ、ＰＣＩ－Ｘ、ＰＣＩｅ、ＧＢＥ、ＵＳＢなど）を表す。少なくとも１つの実施例では、様々なタイプの周辺デバイスが、Ｉ／Ｏインターフェース１７７０に結合される。少なくとも１つの実施例では、Ｉ／Ｏインターフェース１７７０に結合される周辺デバイスは、限定はしないが、ディスプレイ、キーボード、マウス、プリンタ、スキャナ、ジョイスティック又は他のタイプのゲーム・コントローラ、メディア記録デバイス、外部ストレージ・デバイス、ネットワーク・インターフェース・カードなどを含み得る。

【0110】

少なくとも１つの実施例では、メモリ・コントローラ１７８０は、ＣＰＵ１７００とシステム・メモリ１７９０との間のデータ転送を容易にする。少なくとも１つの実施例では、コア複合体１７１０とグラフィックス複合体１７４０とは、システム・メモリ１７９０を共有する。少なくとも１つの実施例では、ＣＰＵ１７００は、限定はしないが、１つの構成要素に専用であるか又は複数の構成要素の間で共有され得る、任意の量及びタイプのメモリ・コントローラ１７８０及びメモリ・デバイスを含む、メモリ・サブシステムを実装する。少なくとも１つの実施例では、ＣＰＵ１７００は、限定はしないが、１つ又は複数のキャッシュ・メモリ（たとえば、Ｌ２キャッシュ１７２８及びＬ３キャッシュ１７３０）を含む、キャッシュ・サブシステムを実装し、１つ又は複数のキャッシュ・メモリは、各々、任意の数の構成要素（たとえば、コア１７２０及びコア複合体１７１０）に対してプライベートであるか、又は任意の数の構成要素間で共有され得る。

【0111】

図１８は、少なくとも１つの実施例による、例示的なアクセラレータ統合スライス１８９０を示す。本明細書で使用される「スライス」は、アクセラレータ統合回路の処理リソースの指定部分を備える。少なくとも１つの実施例では、アクセラレータ統合回路は、グラフィックス加速モジュール中に含まれる複数のグラフィックス処理エンジンの代わりに、キャッシュ管理、メモリ・アクセス、コンテキスト管理、及び割込み管理サービスを提供する。グラフィックス処理エンジンは、各々、別個のＧＰＵを備え得る。代替的に、グラフィックス処理エンジンは、ＧＰＵ内に、グラフィックス実行ユニット、メディア処理エンジン（たとえば、ビデオ・エンコーダ／デコーダ）、サンプラ、及びＢｌｉｔエンジンなど、異なるタイプのグラフィックス処理エンジンを備え得る。少なくとも１つの実施例では、グラフィックス加速モジュールは、複数のグラフィックス処理エンジンをもつＧＰＵであり得る。少なくとも１つの実施例では、グラフィックス処理エンジンは、共通のパッケージ、ライン・カード、又はチップ上に組み込まれた個々のＧＰＵであり得る。

【0112】

システム・メモリ１８１４内のアプリケーション実効アドレス空間１８８２は、プロセス要素１８８３を記憶する。一実施例では、プロセス要素１８８３は、プロセッサ１８０７上で実行されるアプリケーション１８８０からのＧＰＵ呼出し１８８１に応答して、記憶される。プロセス要素１８８３は、対応するアプリケーション１８８０のプロセス状態を含んでいる。プロセス要素１８８３に含まれているワーク記述子（「ＷＤ」：ｗｏｒｋ ｄｅｓｃｒｉｐｔｏｒ）１８８４は、アプリケーションによって要求される単一のジョブであり得るか、又はジョブのキューに対するポインタを含んでいることがある。少なくとも１つの実施例では、ＷＤ１８８４は、アプリケーション実効アドレス空間１８８２におけるジョブ要求キューに対するポインタである。

【0113】

グラフィックス加速モジュール１８４６及び／又は個々のグラフィックス処理エンジンは、システム中のプロセスのすべて又はサブセットによって共有され得る。少なくとも１つの実施例では、プロセス状態を設定し、ＷＤ１８８４をグラフィックス加速モジュール１８４６に送出して、仮想化環境中でジョブを開始するためのインフラストラクチャが、含められ得る。

【0114】

少なくとも１つの実施例では、専用プロセス・プログラミング・モデルは、実装固有である。このモデルでは、単一のプロセスが、グラフィックス加速モジュール１８４６又は個々のグラフィックス処理エンジンを所有する。グラフィックス加速モジュール１８４６が単一のプロセスによって所有されるので、ハイパーバイザは、所有パーティションについてアクセラレータ統合回路を初期化し、グラフィックス加速モジュール１８４６が割り当てられたとき、オペレーティング・システムは、所有プロセスについてアクセラレータ統合回路を初期化する。

【0115】

動作時、アクセラレータ統合スライス１８９０中のＷＤフェッチ・ユニット１８９１は、グラフィックス加速モジュール１８４６の１つ又は複数のグラフィックス処理エンジンによって行われるべきであるワークの指示を含む、次のＷＤ１８８４をフェッチする。示されているように、ＷＤ１８８４からのデータは、レジスタ１８４５に記憶され、メモリ管理ユニット（「ＭＭＵ」：ｍｅｍｏｒｙ ｍａｎａｇｅｍｅｎｔ ｕｎｉｔ）１８３９、割込み管理回路１８４７、及び／又はコンテキスト管理回路１８４８によって使用され得る。たとえば、ＭＭＵ１８３９の一実施例は、ＯＳ仮想アドレス空間１８８５内のセグメント／ページ・テーブル１８８６にアクセスするためのセグメント／ページ・ウォーク回路要素を含む。割込み管理回路１８４７は、グラフィックス加速モジュール１８４６から受信された割込みイベント（「ＩＮＴ」：ｉｎｔｅｒｒｕｐｔ）１８９２を処理し得る。グラフィックス動作を実施するとき、グラフィックス処理エンジンによって生成された実効アドレス１８９３は、ＭＭＵ１８３９によって実アドレスにトランスレートされる。

【0116】

一実施例では、レジスタ１８４５の同じセットが、各グラフィックス処理エンジン、及び／又はグラフィックス加速モジュール１８４６について複製され、ハイパーバイザ又はオペレーティング・システムによって初期化され得る。これらの複製されたレジスタの各々は、アクセラレータ統合スライス１８９０中に含められ得る。ハイパーバイザによって初期化され得る例示的なレジスタが、表１に示されている。

【表1】

【0117】

オペレーティング・システムによって初期化され得る例示的なレジスタが、表２に示されている。

【表2】

【0118】

一実施例では、各ＷＤ１８８４は、特定のグラフィックス加速モジュール１８４６及び／又は特定のグラフィックス処理エンジンに固有である。ＷＤ１８８４は、ワークを行うためにグラフィックス処理エンジンによって必要とされるすべての情報を含んでいるか、又は、ＷＤ１８８４は、完了されるべきワークのコマンド・キューをアプリケーションが設定したメモリ・ロケーションに対するポインタであり得る。

【0119】

図１９Ａ～図１９Ｂは、少なくとも１つの実施例による、例示的なグラフィックス・プロセッサを示す。少なくとも１つの実施例では、例示的なグラフィックス・プロセッサのうちのいずれかは、１つ又は複数のＩＰコアを使用して作製され得る。示されているものに加えて、少なくとも１つの実施例では、追加のグラフィックス・プロセッサ／コア、周辺インターフェース・コントローラ、又は汎用プロセッサ・コアを含む他の論理及び回路が含まれ得る。少なくとも１つの実施例では、例示的なグラフィックス・プロセッサは、ＳｏＣ内での使用のためのものである。

【0120】

図１９Ａは、少なくとも１つの実施例による、１つ又は複数のＩＰコアを使用して作製され得るＳｏＣ集積回路の例示的なグラフィックス・プロセッサ１９１０を示す。図１９Ｂは、少なくとも１つの実施例による、１つ又は複数のＩＰコアを使用して作製され得るＳｏＣ集積回路の追加の例示的なグラフィックス・プロセッサ１９４０を示す。少なくとも１つの実施例では、図１９Ａのグラフィックス・プロセッサ１９１０は、低電力グラフィックス・プロセッサ・コアである。少なくとも１つの実施例では、図１９Ｂのグラフィックス・プロセッサ１９４０は、より高性能のグラフィックス・プロセッサ・コアである。少なくとも１つの実施例では、グラフィックス・プロセッサ１９１０、１９４０の各々は、図１４のグラフィックス・プロセッサ１４１０の変形態であり得る。

【0121】

少なくとも１つの実施例では、グラフィックス・プロセッサ１９１０は、頂点プロセッサ１９０５と、１つ又は複数のフラグメント・プロセッサ１９１５Ａ～１９１５Ｎ（たとえば、１９１５Ａ、１９１５Ｂ、１９１５Ｃ、１９１５Ｄ～１９１５Ｎ－１、及び１９１５Ｎ）とを含む。少なくとも１つの実施例では、グラフィックス・プロセッサ１９１０は、別個の論理を介して異なるシェーダ・プログラムを実行することができ、それにより、頂点プロセッサ１９０５は、頂点シェーダ・プログラムのための動作を実行するように最適化され、１つ又は複数のフラグメント・プロセッサ１９１５Ａ～１９１５Ｎは、フラグメント又はピクセル・シェーダ・プログラムのためのフラグメント（たとえば、ピクセル）シェーディング動作を実行する。少なくとも１つの実施例では、頂点プロセッサ１９０５は、３Ｄグラフィックス・パイプラインの頂点処理段階を実施し、プリミティブ及び頂点データを生成する。少なくとも１つの実施例では、（１つ又は複数の）フラグメント・プロセッサ１９１５Ａ～１９１５Ｎは、頂点プロセッサ１９０５によって生成されたプリミティブ及び頂点データを使用して、ディスプレイ・デバイス上に表示されるフレームバッファを作り出す。少なくとも１つの実施例では、（１つ又は複数の）フラグメント・プロセッサ１９１５Ａ～１９１５Ｎは、ＯｐｅｎＧＬ ＡＰＩにおいて提供されるようなフラグメント・シェーダ・プログラムを実行するように最適化され、ＯｐｅｎＧＬ ＡＰＩは、Ｄｉｒｅｃｔ ３Ｄ ＡＰＩにおいて提供されるようなピクセル・シェーダ・プログラムと同様の動作を実施するために使用され得る。

【0122】

少なくとも１つの実施例では、グラフィックス・プロセッサ１９１０は、追加として、１つ又は複数のＭＭＵ１９２０Ａ～１９２０Ｂと、（１つ又は複数の）キャッシュ１９２５Ａ～１９２５Ｂと、（１つ又は複数の）回路相互接続１９３０Ａ～１９３０Ｂとを含む。少なくとも１つの実施例では、１つ又は複数のＭＭＵ１９２０Ａ～１９２０Ｂは、頂点プロセッサ１９０５及び／又は（１つ又は複数の）フラグメント・プロセッサ１９１５Ａ～１９１５Ｎを含む、グラフィックス・プロセッサ１９１０のための仮想－物理アドレス・マッピングを提供し、それらは、１つ又は複数のキャッシュ１９２５Ａ～１９２５Ｂに記憶された頂点又は画像／テクスチャ・データに加えて、メモリに記憶された頂点又は画像／テクスチャ・データを参照し得る。少なくとも１つの実施例では、１つ又は複数のＭＭＵ１９２０Ａ～１９２０Ｂは、図１４の１つ又は複数のアプリケーション・プロセッサ１４０５、画像プロセッサ１４１５、及び／又はビデオ・プロセッサ１４２０に関連する１つ又は複数のＭＭＵを含む、システム内の他のＭＭＵと同期され得、それにより、各プロセッサ１４０５～１４２０は、共有又は統一仮想メモリ・システムに参加することができる。少なくとも１つの実施例では、１つ又は複数の回路相互接続１９３０Ａ～１９３０Ｂは、グラフィックス・プロセッサ１９１０が、ＳｏＣの内部バスを介して又は直接接続を介してのいずれかで、ＳｏＣ内の他のＩＰコアとインターフェースすることを可能にする。

【0123】

少なくとも１つの実施例では、グラフィックス・プロセッサ１９４０は、図１９Ａのグラフィックス・プロセッサ１９１０の１つ又は複数のＭＭＵ１９２０Ａ～１９２０Ｂと、キャッシュ１９２５Ａ～１９２５Ｂと、回路相互接続１９３０Ａ～１９３０Ｂとを含む。少なくとも１つの実施例では、グラフィックス・プロセッサ１９４０は、１つ又は複数のシェーダ・コア１９５５Ａ～１９５５Ｎ（たとえば、１９５５Ａ、１９５５Ｂ、１９５５Ｃ、１９５５Ｄ、１９５５Ｅ、１９５５Ｆ～１９５５Ｎ－１、及び１９５５Ｎ）を含み、１つ又は複数のシェーダ・コア１９５５Ａ～１９５５Ｎは、単一のコア、又はタイプ、又はコアが、頂点シェーダ、フラグメント・シェーダ、及び／又はコンピュート・シェーダを実装するためのシェーダ・プログラム・コードを含むすべてのタイプのプログラマブル・シェーダ・コードを実行することができる統一シェーダ・コア・アーキテクチャを提供する。少なくとも１つの実施例では、シェーダ・コアの数は変動することができる。少なくとも１つの実施例では、グラフィックス・プロセッサ１９４０は、１つ又は複数のシェーダ・コア１９５５Ａ～１９５５Ｎに実行スレッドをディスパッチするためのスレッド・ディスパッチャとして作用するコア間タスク・マネージャ１９４５と、たとえばシーン内のローカル空間コヒーレンスを利用するため、又は内部キャッシュの使用を最適化するために、シーンについてのレンダリング動作が画像空間において下位区分される、タイル・ベースのレンダリングのためのタイリング動作を加速するためのタイリング・ユニット１９５８とを含む。

【0124】

図２０Ａは、少なくとも１つの実施例による、グラフィックス・コア２０００を示す。少なくとも１つの実施例では、グラフィックス・コア２０００は、図１４のグラフィックス・プロセッサ１５１０内に含まれ得る。少なくとも１つの実施例では、グラフィックス・コア２０００は、図１９Ｂの場合のような統一シェーダ・コア１９５５Ａ～１９５５Ｎであり得る。少なくとも１つの実施例では、グラフィックス・コア２０００は、共有命令キャッシュ２００２と、テクスチャ・ユニット２０１８と、キャッシュ／共有メモリ２０２０とを含み、それらは、グラフィックス・コア２０００内の実行リソースに共通である。少なくとも１つの実施例では、グラフィックス・コア２０００は、複数のスライス２００１Ａ～２００１Ｎ、又は各コアについてのパーティションを含むことができ、グラフィックス・プロセッサは、グラフィックス・コア２０００の複数のインスタンスを含むことができる。スライス２００１Ａ～２００１Ｎは、ローカル命令キャッシュ２００４Ａ～２００４Ｎと、スレッド・スケジューラ２００６Ａ～２００６Ｎと、スレッド・ディスパッチャ２００８Ａ～２００８Ｎと、レジスタのセット２０１０Ａ～２０１０Ｎとを含むサポート論理を含むことができる。少なくとも１つの実施例では、スライス２００１Ａ～２００１Ｎは、追加機能ユニット（「ＡＦＵ」：ａｄｄｉｔｉｏｎａｌ ｆｕｎｃｔｉｏｎ ｕｎｉｔ）２０１２Ａ～２０１２Ｎ、浮動小数点ユニット（「ＦＰＵ」：ｆｌｏａｔｉｎｇ－ｐｏｉｎｔ ｕｎｉｔ）２０１４Ａ～２０１４Ｎ、整数算術論理ユニット（「ＡＬＵ」：ｉｎｔｅｇｅｒ ａｒｉｔｈｍｅｔｉｃ ｌｏｇｉｃ ｕｎｉｔ）２０１６～２０１６Ｎ、アドレス算出ユニット（「ＡＣＵ」：ａｄｄｒｅｓｓ ｃｏｍｐｕｔａｔｉｏｎａｌ ｕｎｉｔ）２０１３Ａ～２０１３Ｎ、倍精度浮動小数点ユニット（「ＤＰＦＰＵ」：ｄｏｕｂｌｅ－ｐｒｅｃｉｓｉｏｎ ｆｌｏａｔｉｎｇ－ｐｏｉｎｔ ｕｎｉｔ）２０１５Ａ～２０１５Ｎ、及び行列処理ユニット（「ＭＰＵ」：ｍａｔｒｉｘ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ）２０１７Ａ～２０１７Ｎのセットを含むことができる。

【0125】

少なくとも１つの実施例では、ＦＰＵ２０１４Ａ～２０１４Ｎは、単精度（３２ビット）及び半精度（１６ビット）の浮動小数点演算を実施することができ、ＤＰＦＰＵ２０１５Ａ～２０１５Ｎは、倍精度（６４ビット）の浮動小数点演算を実施する。少なくとも１つの実施例では、ＡＬＵ２０１６Ａ～２０１６Ｎは、８ビット、１６ビット、及び３２ビットの精度で可変精度整数演算を実施することができ、混合精度演算のために構成され得る。少なくとも１つの実施例では、ＭＰＵ２０１７Ａ～２０１７Ｎも、半精度浮動小数点演算と８ビット整数演算とを含む、混合精度行列演算のために構成され得る。少なくとも１つの実施例では、ＭＰＵ２０１７～２０１７Ｎは、加速汎用行列－行列乗算（「ＧＥＭＭ」：ｇｅｎｅｒａｌ ｍａｔｒｉｘ ｔｏ ｍａｔｒｉｘ ｍｕｌｔｉｐｌｉｃａｔｉｏｎ）のサポートを可能にすることを含む、ＣＵＤＡプログラムを加速するための様々な行列演算を実施することができる。少なくとも１つの実施例では、ＡＦＵ２０１２Ａ～２０１２Ｎは、三角関数演算（たとえば、サイン、コサインなど）を含む、浮動小数点ユニット又は整数ユニットによってサポートされていない追加の論理演算を実施することができる。

【0126】

図２０Ｂは、少なくとも１つの実施例による、汎用グラフィックス処理ユニット（「ＧＰＧＰＵ」：ｇｅｎｅｒａｌ－ｐｕｒｐｏｓｅ ｇｒａｐｈｉｃｓ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ）２０３０を示す。少なくとも１つの実施例では、ＧＰＧＰＵ２０３０は、高度並列であり、マルチチップ・モジュール上での導入に好適である。少なくとも１つの実施例では、ＧＰＧＰＵ２０３０は、高度並列コンピュート動作がＧＰＵのアレイによって実施されることを可能にするように構成され得る。少なくとも１つの実施例では、ＧＰＧＰＵ２０３０は、ＣＵＤＡプログラムのための実行時間を改善するためにマルチＧＰＵクラスタを作成するために、ＧＰＧＰＵ２０３０の他のインスタンスに直接リンクされ得る。少なくとも１つの実施例では、ＧＰＧＰＵ２０３０は、ホスト・プロセッサとの接続を可能にするためのホスト・インターフェース２０３２を含む。少なくとも１つの実施例では、ホスト・インターフェース２０３２は、ＰＣＩｅインターフェースである。少なくとも１つの実施例では、ホスト・インターフェース２０３２は、ベンダー固有の通信インターフェース又は通信ファブリックであり得る。少なくとも１つの実施例では、ＧＰＧＰＵ２０３０は、ホスト・プロセッサからコマンドを受信し、グローバル・スケジューラ２０３４を使用して、それらのコマンドに関連する実行スレッドを、コンピュート・クラスタ２０３６Ａ～２０３６Ｈのセットに分散させる。少なくとも１つの実施例では、コンピュート・クラスタ２０３６Ａ～２０３６Ｈは、キャッシュ・メモリ２０３７を共有する。少なくとも１つの実施例では、キャッシュ・メモリ２０３７は、コンピュート・クラスタ２０３６Ａ～２０３６Ｈ内のキャッシュ・メモリのためのより高レベルのキャッシュとして働くことができる。

【0127】

少なくとも１つの実施例では、ＧＰＧＰＵ２０３０は、メモリ・コントローラ２０４２Ａ～２０４２Ｂのセットを介してコンピュート・クラスタ２０３６Ａ～２０３６Ｈと結合されたメモリ２０４４Ａ～２０４４Ｂを含む。少なくとも１つの実施例では、メモリ２０４４Ａ～２０４４Ｂは、ＤＲＡＭ、又は、グラフィックス・ダブル・データ・レート（「ＧＤＤＲ」：ｇｒａｐｈｉｃｓ ｄｏｕｂｌｅ ｄａｔａ ｒａｔｅ）メモリを含む同期グラフィックス・ランダム・アクセス・メモリ（「ＳＧＲＡＭ」：ｓｙｎｃｈｒｏｎｏｕｓ ｇｒａｐｈｉｃｓ ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ）などのグラフィックス・ランダム・アクセス・メモリを含む、様々なタイプのメモリ・デバイスを含むことができる。

【0128】

少なくとも１つの実施例では、コンピュート・クラスタ２０３６Ａ～２０３６Ｈは、各々、図２０Ａのグラフィックス・コア２０００などのグラフィックス・コアのセットを含み、グラフィックス・コアのセットは、ＣＵＤＡプログラムに関連する算出に適したものを含む、様々な精度で算出動作を実施することができる複数のタイプの整数及び浮動小数点論理ユニットを含むことができる。たとえば、少なくとも１つの実施例では、コンピュート・クラスタ２０３６Ａ～２０３６Ｈの各々における浮動小数点ユニットの少なくともサブセットは、１６ビット又は３２ビットの浮動小数点演算を実施するように構成され得、浮動小数点ユニットの異なるサブセットは、６４ビットの浮動小数点演算を実施するように構成され得る。

【0129】

少なくとも１つの実施例では、ＧＰＧＰＵ２０３０の複数のインスタンスは、コンピュート・クラスタとして動作するように構成され得る。コンピュート・クラスタ２０３６Ａ～２０３６Ｈは、同期及びデータ交換のための任意の技術的に実現可能な通信技法を実装し得る。少なくとも１つの実施例では、ＧＰＧＰＵ２０３０の複数のインスタンスは、ホスト・インターフェース２０３２を介して通信する。少なくとも１つの実施例では、ＧＰＧＰＵ２０３０は、Ｉ／Ｏハブ２０３９を含み、Ｉ／Ｏハブ２０３９は、ＧＰＧＰＵ２０３０を、ＧＰＧＰＵ２０３０の他のインスタンスへの直接接続を可能にするＧＰＵリンク２０４０と結合する。少なくとも１つの実施例では、ＧＰＵリンク２０４０は、ＧＰＧＰＵ２０３０の複数のインスタンス間での通信及び同期を可能にする専用ＧＰＵ－ＧＰＵブリッジに結合される。少なくとも１つの実施例では、ＧＰＵリンク２０４０は、他のＧＰＧＰＵ２０３０又は並列プロセッサにデータを送信及び受信するために高速相互接続と結合される。少なくとも１つの実施例では、ＧＰＧＰＵ２０３０の複数のインスタンスは、別個のデータ処理システムに位置し、ホスト・インターフェース２０３２を介してアクセス可能であるネットワーク・デバイスを介して通信する。少なくとも１つの実施例では、ＧＰＵリンク２０４０は、ホスト・インターフェース２０３２に加えて、又はその代替として、ホスト・プロセッサへの接続を可能にするように構成され得る。少なくとも１つの実施例では、ＧＰＧＰＵ２０３０は、ＣＵＤＡプログラムを実行するように構成され得る。

【0130】

図２１Ａは、少なくとも１つの実施例による、並列プロセッサ２１００を示す。少なくとも１つの実施例では、並列プロセッサ２１００の様々な構成要素は、プログラマブル・プロセッサ、特定用途向け集積回路（「ＡＳＩＣ」：ａｐｐｌｉｃａｔｉｏｎ ｓｐｅｃｉｆｉｃ ｉｎｔｅｇｒａｔｅｄ ｃｉｒｃｕｉｔ）、又はＦＰＧＡなど、１つ又は複数の集積回路デバイスを使用して実装され得る。

【0131】

少なくとも１つの実施例では、並列プロセッサ２１００は並列処理ユニット２１０２を含む。少なくとも１つの実施例では、並列処理ユニット２１０２は、並列処理ユニット２１０２の他のインスタンスを含む、他のデバイスとの通信を可能にするＩ／Ｏユニット２１０４を含む。少なくとも１つの実施例では、Ｉ／Ｏユニット２１０４は、他のデバイスに直接接続され得る。少なくとも１つの実施例では、Ｉ／Ｏユニット２１０４は、メモリ・ハブ２１０５など、ハブ又はスイッチ・インターフェースの使用を介して他のデバイスと接続する。少なくとも１つの実施例では、メモリ・ハブ２１０５とＩ／Ｏユニット２１０４との間の接続は、通信リンクを形成する。少なくとも１つの実施例では、Ｉ／Ｏユニット２１０４は、ホスト・インターフェース２１０６及びメモリ・クロスバー２１１６と接続し、ホスト・インターフェース２１０６は、処理動作を実施することを対象とするコマンドを受信し、メモリ・クロスバー２１１６は、メモリ動作を実施することを対象とするコマンドを受信する。

【0132】

少なくとも１つの実施例では、ホスト・インターフェース２１０６が、Ｉ／Ｏユニット２１０４を介してコマンド・バッファを受信したとき、ホスト・インターフェース２１０６は、それらのコマンドを実施するためのワーク動作をフロント・エンド２１０８に向けることができる。少なくとも１つの実施例では、フロント・エンド２１０８はスケジューラ２１１０と結合し、スケジューラ２１１０は、コマンド又は他のワーク・アイテムを処理アレイ２１１２に分散させるように構成される。少なくとも１つの実施例では、スケジューラ２１１０は、処理アレイ２１１２にタスクが分散される前に、処理アレイ２１１２が適切に構成され、有効な状態にあることを確実にする。少なくとも１つの実施例では、スケジューラ２１１０は、マイクロコントローラ上で実行しているファームウェア論理を介して実装される。少なくとも１つの実施例では、マイクロコントローラ実装スケジューラ２１１０は、複雑なスケジューリング及びワーク分散動作を、粗い粒度及び細かい粒度において実施するように構成可能であり、処理アレイ２１１２上で実行しているスレッドの迅速なプリエンプション及びコンテキスト切替えを可能にする。少なくとも１つの実施例では、ホスト・ソフトウェアは、処理アレイ２１１２上でのスケジューリングのためのワークロードを、複数のグラフィックス処理ドアベルのうちの１つを介して証明することができる。少なくとも１つの実施例では、ワークロードは、次いで、スケジューラ２１１０を含むマイクロコントローラ内のスケジューラ２１１０論理によって、処理アレイ２１１２にわたって自動的に分散され得る。

【0133】

少なくとも１つの実施例では、処理アレイ２１１２は、最高「Ｎ」個のクラスタ（たとえば、クラスタ２１１４Ａ、クラスタ２１１４Ｂ～クラスタ２１１４Ｎ）を含むことができる。少なくとも１つの実施例では、処理アレイ２１１２の各クラスタ２１１４Ａ～２１１４Ｎは、多数の同時スレッドを実行することができる。少なくとも１つの実施例では、スケジューラ２１１０は、様々なスケジューリング及び／又はワーク分散アルゴリズムを使用して処理アレイ２１１２のクラスタ２１１４Ａ～２１１４Ｎにワークを割り振ることができ、それらのアルゴリズムは、プログラム又は算出の各タイプについて生じるワークロードに応じて変動し得る。少なくとも１つの実施例では、スケジューリングは、スケジューラ２１１０によって動的に対処され得るか、又は処理アレイ２１１２による実行のために構成されたプログラム論理のコンパイル中に、コンパイラ論理によって部分的に支援され得る。少なくとも１つの実施例では、処理アレイ２１１２の異なるクラスタ２１１４Ａ～２１１４Ｎは、異なるタイプのプログラムを処理するために、又は異なるタイプの算出を実施するために割り振られ得る。

【0134】

少なくとも１つの実施例では、処理アレイ２１１２は、様々なタイプの並列処理動作を実施するように構成され得る。少なくとも１つの実施例では、処理アレイ２１１２は、汎用並列コンピュート動作を実施するように構成される。たとえば、少なくとも１つの実施例では、処理アレイ２１１２は、ビデオ及び／又はオーディオ・データをフィルタリングすること、物理動作を含むモデリング動作を実施すること、及びデータ変換を実施することを含む処理タスクを実行するための論理を含むことができる。

【0135】

少なくとも１つの実施例では、処理アレイ２１１２は、並列グラフィックス処理動作を実施するように構成される。少なくとも１つの実施例では、処理アレイ２１１２は、限定はしないが、テクスチャ動作を実施するためのテクスチャ・サンプリング論理、並びにテッセレーション論理及び他の頂点処理論理を含む、そのようなグラフィックス処理動作の実行をサポートするための追加の論理を含むことができる。少なくとも１つの実施例では、処理アレイ２１１２は、限定はしないが、頂点シェーダ、テッセレーション・シェーダ、ジオメトリ・シェーダ、及びピクセル・シェーダなど、グラフィックス処理関係シェーダ・プログラムを実行するように構成され得る。少なくとも１つの実施例では、並列処理ユニット２１０２は、処理のためにＩ／Ｏユニット２１０４を介してシステム・メモリからデータを転送することができる。少なくとも１つの実施例では、処理中に、転送されたデータは、処理中にオンチップ・メモリ（たとえば、並列プロセッサ・メモリ２１２２）に記憶され、次いでシステム・メモリに書き戻され得る。

【0136】

少なくとも１つの実施例では、並列処理ユニット２１０２がグラフィックス処理を実施するために使用されるとき、スケジューラ２１１０は、処理アレイ２１１２の複数のクラスタ２１１４Ａ～２１１４Ｎへのグラフィックス処理動作の分散をより良く可能にするために、処理ワークロードをほぼ等しいサイズのタスクに分割するように構成され得る。少なくとも１つの実施例では、処理アレイ２１１２の部分は、異なるタイプの処理を実施するように構成され得る。たとえば、少なくとも１つの実施例では、表示のために、レンダリングされた画像を作り出すために、第１の部分は、頂点シェーディング及びトポロジ生成を実施するように構成され得、第２の部分は、テッセレーション及びジオメトリ・シェーディングを実施するように構成され得、第３の部分は、ピクセル・シェーディング又は他のスクリーン空間動作を実施するように構成され得る。少なくとも１つの実施例では、クラスタ２１１４Ａ～２１１４Ｎのうちの１つ又は複数によって作り出された中間データは、中間データがさらなる処理のためにクラスタ２１１４Ａ～２１１４Ｎ間で送信されることを可能にするために、バッファに記憶され得る。

【0137】

少なくとも１つの実施例では、処理アレイ２１１２は、実行されるべき処理タスクをスケジューラ２１１０を介して受信することができ、スケジューラ２１１０は、処理タスクを定義するコマンドをフロント・エンド２１０８から受信する。少なくとも１つの実施例では、処理タスクは、処理されるべきデータのインデックス、たとえば、表面（パッチ）データ、プリミティブ・データ、頂点データ、及び／又はピクセル・データ、並びに、データがどのように処理されるべきであるか（たとえば、どのプログラムが実行されるべきであるか）を定義する状態パラメータ及びコマンドを含むことができる。少なくとも１つの実施例では、スケジューラ２１１０は、タスクに対応するインデックスをフェッチするように構成され得るか、又はフロント・エンド２１０８からインデックスを受信し得る。少なくとも１つの実施例では、フロント・エンド２１０８は、入って来るコマンド・バッファ（たとえば、バッチ・バッファ、プッシュ・バッファなど）によって指定されるワークロードが始動される前に、処理アレイ２１１２が有効な状態に構成されることを確実にするように構成され得る。

【0138】

少なくとも１つの実施例では、並列処理ユニット２１０２の１つ又は複数のインスタンスの各々は、並列プロセッサ・メモリ２１２２と結合することができる。少なくとも１つの実施例では、並列プロセッサ・メモリ２１２２は、メモリ・クロスバー２１１６を介してアクセスされ得、メモリ・クロスバー２１１６は、処理アレイ２１１２並びにＩ／Ｏユニット２１０４からメモリ要求を受信することができる。少なくとも１つの実施例では、メモリ・クロスバー２１１６は、メモリ・インターフェース２１１８を介して並列プロセッサ・メモリ２１２２にアクセスすることができる。少なくとも１つの実施例では、メモリ・インターフェース２１１８は、複数のパーティション・ユニット（たとえば、パーティション・ユニット２１２０Ａ、パーティション・ユニット２１２０Ｂ～パーティション・ユニット２１２０Ｎ）を含むことができ、複数のパーティション・ユニットは、各々、並列プロセッサ・メモリ２１２２の一部分（たとえば、メモリ・ユニット）に結合することができる。少なくとも１つの実施例では、パーティション・ユニット２１２０Ａ～２１２０Ｎの数は、メモリ・ユニットの数に等しくなるように構成され、それにより、第１のパーティション・ユニット２１２０Ａは、対応する第１のメモリ・ユニット２１２４Ａを有し、第２のパーティション・ユニット２１２０Ｂは、対応するメモリ・ユニット２１２４Ｂを有し、第Ｎのパーティション・ユニット２１２０Ｎは、対応する第Ｎのメモリ・ユニット２１２４Ｎを有する。少なくとも１つの実施例では、パーティション・ユニット２１２０Ａ～２１２０Ｎの数は、メモリ・デバイスの数に等しくないことがある。

【0139】

少なくとも１つの実施例では、メモリ・ユニット２１２４Ａ～２１２４Ｎは、ＧＤＤＲメモリを含むＳＧＲＡＭなど、ＤＲＡＭ又はグラフィックス・ランダム・アクセス・メモリを含む、様々なタイプのメモリ・デバイスを含むことができる。少なくとも１つの実施例では、メモリ・ユニット２１２４Ａ～２１２４Ｎは、限定はしないが高帯域幅メモリ（「ＨＢＭ」：ｈｉｇｈ ｂａｎｄｗｉｄｔｈ ｍｅｍｏｒｙ）を含む、３Ｄ積層メモリをも含み得る。少なくとも１つの実施例では、並列プロセッサ・メモリ２１２２の利用可能な帯域幅を効率的に使用するために、フレーム・バッファ又はテクスチャ・マップなどのレンダー・ターゲットが、メモリ・ユニット２１２４Ａ～２１２４Ｎにわたって記憶されて、パーティション・ユニット２１２０Ａ～２１２０Ｎが、各レンダー・ターゲットの部分を並列に書き込むことを可能にし得る。少なくとも１つの実施例では、ローカル・キャッシュ・メモリと併せてシステム・メモリを利用する統一メモリ設計に有利なように、並列プロセッサ・メモリ２１２２のローカル・インスタンスが除外され得る。

【0140】

少なくとも１つの実施例では、処理アレイ２１１２のクラスタ２１１４Ａ～２１１４Ｎのうちのいずれか１つは、並列プロセッサ・メモリ２１２２内のメモリ・ユニット２１２４Ａ～２１２４Ｎのいずれかに書き込まれることになるデータを処理することができる。少なくとも１つの実施例では、メモリ・クロスバー２１１６は、各クラスタ２１１４Ａ～２１１４Ｎの出力を、出力に対して追加の処理動作を実施することができる任意のパーティション・ユニット２１２０Ａ～２１２０Ｎに転送するか、又は別のクラスタ２１１４Ａ～２１１４Ｎに転送するように構成され得る。少なくとも１つの実施例では、各クラスタ２１１４Ａ～２１１４Ｎは、様々な外部メモリ・デバイスから読み取るか、又はそれに書き込むために、メモリ・クロスバー２１１６を通してメモリ・インターフェース２１１８と通信することができる。少なくとも１つの実施例では、メモリ・クロスバー２１１６は、Ｉ／Ｏユニット２１０４と通信するためのメモリ・インターフェース２１１８への接続、並びに、並列プロセッサ・メモリ２１２２のローカル・インスタンスへの接続を有し、これは、異なるクラスタ２１１４Ａ～２１１４Ｎ内の処理ユニットが、システム・メモリ、又は並列処理ユニット２１０２にローカルでない他のメモリと通信することを可能にする。少なくとも１つの実施例では、メモリ・クロスバー２１１６は、クラスタ２１１４Ａ～２１１４Ｎとパーティション・ユニット２１２０Ａ～２１２０Ｎとの間でトラフィック・ストリームを分離するために、仮想チャネルを使用することができる。

【0141】

少なくとも１つの実施例では、並列処理ユニット２１０２の複数のインスタンスは、単一のアドイン・カード上で提供され得るか、又は複数のアドイン・カードが相互接続され得る。少なくとも１つの実施例では、並列処理ユニット２１０２の異なるインスタンスは、異なるインスタンスが異なる数の処理コア、異なる量のローカル並列プロセッサ・メモリ、及び／又は他の構成の差を有する場合でも、相互動作するように構成され得る。たとえば、少なくとも１つの実施例では、並列処理ユニット２１０２のいくつかのインスタンスは、他のインスタンスに対してより高い精度の浮動小数点ユニットを含むことができる。少なくとも１つの実施例では、並列処理ユニット２１０２又は並列プロセッサ２１００の１つ又は複数のインスタンスを組み込んだシステムは、限定はしないが、デスクトップ、ラップトップ、又はハンドヘルド・パーソナル・コンピュータ、サーバ、ワークステーション、ゲーム・コンソール、及び／又は組み込みシステムを含む、様々な構成及びフォーム・ファクタにおいて実装され得る。

【0142】

図２１Ｂは、少なくとも１つの実施例による、処理クラスタ２１９４を示す。少なくとも１つの実施例では、処理クラスタ２１９４は、並列処理ユニット内に含まれる。少なくとも１つの実施例では、処理クラスタ２１９４は、図２１の処理クラスタ２１１４Ａ～２１１４Ｎのうちの１つである。少なくとも１つの実施例では、処理クラスタ２１９４は、多くのスレッドを並列で実行するように構成され得、「スレッド」という用語は、入力データの特定のセットに対して実行している特定のプログラムのインスタンスを指す。少なくとも１つの実施例では、複数の独立した命令ユニットを提供することなしに多数のスレッドの並列実行をサポートするために、単一命令複数データ（「ＳＩＭＤ」：ｓｉｎｇｌｅ ｉｎｓｔｒｕｃｔｉｏｎ，ｍｕｌｔｉｐｌｅ ｄａｔａ）命令発行技法が使用される。少なくとも１つの実施例では、各処理クラスタ２１９４内の処理エンジンのセットに命令を発行するように構成された共通の命令ユニットを使用して、全体的に同期された多数のスレッドの並列実行をサポートするために、単一命令複数スレッド（「ＳＩＭＴ」：ｓｉｎｇｌｅ ｉｎｓｔｒｕｃｔｉｏｎ，ｍｕｌｔｉｐｌｅ ｔｈｒｅａｄ）技法が使用される。

【0143】

少なくとも１つの実施例では、処理クラスタ２１９４の動作は、ＳＩＭＴ並列プロセッサに処理タスクを分散させるパイプライン・マネージャ２１３２を介して制御され得る。少なくとも１つの実施例では、パイプライン・マネージャ２１３２は、図２１のスケジューラ２１１０から命令を受信し、グラフィックス・マルチプロセッサ２１３４及び／又はテクスチャ・ユニット２１３６を介してそれらの命令の実行を管理する。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２１３４は、ＳＩＭＴ並列プロセッサの例示的なインスタンスである。しかしながら、少なくとも１つの実施例では、異なるアーキテクチャの様々なタイプのＳＩＭＴ並列プロセッサが、処理クラスタ２１９４内に含められ得る。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２１３４の１つ又は複数のインスタンスは、処理クラスタ２１９４内に含められ得る。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２１３４はデータを処理することができ、処理されたデータを、他のシェーダ・ユニットを含む複数の可能な宛先のうちの１つに分散させるために、データ・クロスバー２１４０が使用され得る。少なくとも１つの実施例では、パイプライン・マネージャ２１３２は、データ・クロスバー２１４０を介して分散されることになる処理されたデータのための宛先を指定することによって、処理されたデータの分散を容易にすることができる。

【0144】

少なくとも１つの実施例では、処理クラスタ２１９４内の各グラフィックス・マルチプロセッサ２１３４は、関数実行論理（たとえば、算術論理ユニット、ロード／ストア・ユニット（「ＬＳＵ」：ｌｏａｄ／ｓｔｏｒｅ ｕｎｉｔ）など）の同一のセットを含むことができる。少なくとも１つの実施例では、関数実行論理は、前の命令が完了する前に新しい命令が発行され得るパイプライン様式で構成され得る。少なくとも１つの実施例では、関数実行論理は、整数及び浮動小数点算術、比較演算、ブール演算、ビット・シフト、及び様々な代数関数の算出を含む様々な演算をサポートする。少なくとも１つの実施例では、異なる演算を実施するために同じ関数ユニット・ハードウェアが活用され得、関数ユニットの任意の組合せが存在し得る。

【0145】

少なくとも１つの実施例では、処理クラスタ２１９４に送信される命令がスレッドを構成する。少なくとも１つの実施例では、並列処理エンジンのセットにわたって実行しているスレッドのセットが、スレッド・グループである。少なくとも１つの実施例では、スレッド・グループは、異なる入力データに対してプログラムを実行する。少なくとも１つの実施例では、スレッド・グループ内の各スレッドは、グラフィックス・マルチプロセッサ２１３４内の異なる処理エンジンに割り当てられ得る。少なくとも１つの実施例では、スレッド・グループは、グラフィックス・マルチプロセッサ２１３４内の処理エンジンの数よりも少ないスレッドを含み得る。少なくとも１つの実施例では、スレッド・グループが処理エンジンの数よりも少ないスレッドを含むとき、処理エンジンのうちの１つ又は複数は、そのスレッド・グループが処理されているサイクル中にアイドルであり得る。少なくとも１つの実施例では、スレッド・グループはまた、グラフィックス・マルチプロセッサ２１３４内の処理エンジンの数よりも多いスレッドを含み得る。少なくとも１つの実施例では、スレッド・グループがグラフィックス・マルチプロセッサ２１３４内の処理エンジンの数よりも多くのスレッドを含むとき、連続するクロック・サイクルにわたって処理が実施され得る。少なくとも１つの実施例では、複数のスレッド・グループが、グラフィックス・マルチプロセッサ２１３４上で同時に実行され得る。

【0146】

少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２１３４は、ロード動作及びストア動作を実施するための内部キャッシュ・メモリを含む。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２１３４は、内部キャッシュをやめ、処理クラスタ２１９４内のキャッシュ・メモリ（たとえば、Ｌ１キャッシュ２１４８）を使用することができる。少なくとも１つの実施例では、各グラフィックス・マルチプロセッサ２１３４はまた、パーティション・ユニット（たとえば、図２１Ａのパーティション・ユニット２１２０Ａ～２１２０Ｎ）内のレベル２（「Ｌ２」）キャッシュへのアクセスをも有し、それらのＬ２キャッシュは、すべての処理クラスタ２１９４の間で共有され、スレッド間でデータを転送するために使用され得る。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２１３４はまた、オフチップ・グローバル・メモリにアクセスし得、オフチップ・グローバル・メモリは、ローカル並列プロセッサ・メモリ及び／又はシステム・メモリのうちの１つ又は複数を含むことができる。少なくとも１つの実施例では、並列処理ユニット２１０２の外部の任意のメモリが、グローバル・メモリとして使用され得る。少なくとも１つの実施例では、処理クラスタ２１９４は、グラフィックス・マルチプロセッサ２１３４の複数のインスタンスを含み、グラフィックス・マルチプロセッサ２１３４は、共通の命令及びデータを共有することができ、共通の命令及びデータは、Ｌ１キャッシュ２１４８に記憶され得る。

【0147】

少なくとも１つの実施例では、各処理クラスタ２１９４は、仮想アドレスを物理アドレスにマッピングするように構成されたＭＭＵ２１４５を含み得る。少なくとも１つの実施例では、ＭＭＵ２１４５の１つ又は複数のインスタンスは、図２１のメモリ・インターフェース２１１８内に存在し得る。少なくとも１つの実施例では、ＭＭＵ２１４５は、仮想アドレスを、タイル及び随意にキャッシュ・ライン・インデックスの物理アドレスにマッピングするために使用されるページ・テーブル・エントリ（「ＰＴＥ」：ｐａｇｅ ｔａｂｌｅ ｅｎｔｒｙ）のセットを含む。少なくとも１つの実施例では、ＭＭＵ２１４５は、アドレス・トランスレーション・ルックアサイド・バッファ（「ＴＬＢ」：ｔｒａｎｓｌａｔｉｏｎ ｌｏｏｋａｓｉｄｅ ｂｕｆｆｅｒ）又はキャッシュを含み得、これらは、グラフィックス・マルチプロセッサ２１３４又はＬ１キャッシュ２１４８或いは処理クラスタ２１９４内に存在し得る。少なくとも１つの実施例では、物理アドレスが、表面データ・アクセス・ローカリティを分散させて、パーティション・ユニットの間での効率的な要求インターリーブを可能にするために処理される。少なくとも１つの実施例では、キャッシュ・ライン・インデックスが、キャッシュ・ラインについての要求がヒットであるのかミスであるのかを決定するために使用され得る。

【0148】

少なくとも１つの実施例では、処理クラスタ２１９４は、各グラフィックス・マルチプロセッサ２１３４が、テクスチャ・マッピング動作、たとえば、テクスチャ・サンプル位置を決定すること、テクスチャ・データを読み取ること、及びテクスチャ・データをフィルタリングすることを実施するためのテクスチャ・ユニット２１３６に結合されるように、構成され得る。少なくとも１つの実施例では、テクスチャ・データは、内部テクスチャＬ１キャッシュ（図示せず）から又はグラフィックス・マルチプロセッサ２１３４内のＬ１キャッシュから読み取られ、必要に応じて、Ｌ２キャッシュ、ローカル並列プロセッサ・メモリ、又はシステム・メモリからフェッチされる。少なくとも１つの実施例では、各グラフィックス・マルチプロセッサ２１３４は、処理されたタスクをデータ・クロスバー２１４０に出力して、処理されたタスクを、さらなる処理のために別の処理クラスタ２１９４に提供するか、或いは、処理されたタスクを、メモリ・クロスバー２１１６を介してＬ２キャッシュ、ローカル並列プロセッサ・メモリ、又はシステム・メモリに記憶する。少なくとも１つの実施例では、プレ・ラスタ演算ユニット（「プレＲＯＰ」：ｐｒｅ－ｒａｓｔｅｒ ｏｐｅｒａｔｉｏｎ）２１４２は、グラフィックス・マルチプロセッサ２１３４からデータを受信し、データをＲＯＰユニットにダイレクトするように構成され、ＲＯＰユニットは、本明細書で説明されるようなパーティション・ユニット（たとえば、図２１のパーティション・ユニット２１２０Ａ～２１２０Ｎ）とともに位置し得る。少なくとも１つの実施例では、プレＲＯＰ２１４２は、色ブレンディングのための最適化を実施し、ピクセル色データを組織化し、アドレス・トランスレーションを実施することができる。

【0149】

図２１Ｃは、少なくとも１つの実施例による、グラフィックス・マルチプロセッサ２１９６を示す。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２１９６は、図２１Ｂのグラフィックス・マルチプロセッサ２１３４である。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２１９６は、処理クラスタ２１９４のパイプライン・マネージャ２１３２と結合する。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２１９６は、限定はしないが、命令キャッシュ２１５２と、命令ユニット２１５４と、アドレス・マッピング・ユニット２１５６と、レジスタ・ファイル２１５８と、１つ又は複数のＧＰＧＰＵコア２１６２と、１つ又は複数のＬＳＵ２１６６とを含む実行パイプラインを有する。ＧＰＧＰＵコア２１６２及びＬＳＵ２１６６は、メモリ及びキャッシュ相互接続２１６８を介してキャッシュ・メモリ２１７２及び共有メモリ２１７０と結合される。

【0150】

少なくとも１つの実施例では、命令キャッシュ２１５２は、実行すべき命令のストリームをパイプライン・マネージャ２１３２から受信する。少なくとも１つの実施例では、命令は、命令キャッシュ２１５２においてキャッシュされ、命令ユニット２１５４による実行のためにディスパッチされる。少なくとも１つの実施例では、命令ユニット２１５４は、命令をスレッド・グループ（たとえば、ワープ）としてディスパッチすることができ、スレッド・グループの各スレッドは、ＧＰＧＰＵコア２１６２内の異なる実行ユニットに割り当てられる。少なくとも１つの実施例では、命令は、統一アドレス空間内のアドレスを指定することによって、ローカル、共有、又はグローバルのアドレス空間のいずれかにアクセスすることができる。少なくとも１つの実施例では、アドレス・マッピング・ユニット２１５６は、統一アドレス空間中のアドレスを、ＬＳＵ２１６６によってアクセスされ得る個別メモリ・アドレスにトランスレートするために使用され得る。

【0151】

少なくとも１つの実施例では、レジスタ・ファイル２１５８は、グラフィックス・マルチプロセッサ２１９６の機能ユニットにレジスタのセットを提供する。少なくとも１つの実施例では、レジスタ・ファイル２１５８は、グラフィックス・マルチプロセッサ２１９６の機能ユニット（たとえば、ＧＰＧＰＵコア２１６２、ＬＳＵ２１６６）のデータ経路に接続された、オペランドのための一時的ストレージを提供する。少なくとも１つの実施例では、レジスタ・ファイル２１５８は、各機能ユニットがレジスタ・ファイル２１５８の専用部分を割り振られるように、機能ユニットの各々の間で分割される。少なくとも１つの実施例では、レジスタ・ファイル２１５８は、グラフィックス・マルチプロセッサ２１９６によって実行されている異なるスレッド・グループ間で分割される。

【0152】

少なくとも１つの実施例では、ＧＰＧＰＵコア２１６２は、各々、グラフィックス・マルチプロセッサ２１９６の命令を実行するために使用されるＦＰＵ及び／又は整数ＡＬＵを含むことができる。ＧＰＧＰＵコア２１６２は、同様のアーキテクチャであることも異なるアーキテクチャであることもある。少なくとも１つの実施例では、ＧＰＧＰＵコア２１６２の第１の部分は、単精度ＦＰＵ及び整数ＡＬＵを含み、ＧＰＧＰＵコア２１６２の第２の部分は、倍精度ＦＰＵを含む。少なくとも１つの実施例では、ＦＰＵは、浮動小数点算術のためのＩＥＥＥ７５４－２００８規格を実装することができるか、又は、可変精度の浮動小数点算術を有効にすることができる。少なくとも１つの実施例では、グラフィックス・マルチプロセッサ２１９６は、追加として、矩形コピー動作又はピクセル・ブレンディング動作などの特定の機能を実施するための１つ又は複数の固定機能ユニット又は特別機能ユニットを含むことができる。少なくとも１つの実施例では、ＧＰＧＰＵコア２１６２のうちの１つ又は複数は、固定又は特別機能論理をも含むことができる。

【0153】

少なくとも１つの実施例では、ＧＰＧＰＵコア２１６２は、複数のデータ・セットに対して単一の命令を実施することが可能なＳＩＭＤ論理を含む。少なくとも１つの実施例では、ＧＰＧＰＵコア２１６２は、ＳＩＭＤ４、ＳＩＭＤ８、及びＳＩＭＤ１６命令を物理的に実行し、ＳＩＭＤ１、ＳＩＭＤ２、及びＳＩＭＤ３２命令を論理的に実行することができる。少なくとも１つの実施例では、ＧＰＧＰＵコア２１６２のためのＳＩＭＤ命令は、シェーダ・コンパイラによるコンパイル時に生成されるか、或いは、単一プログラム複数データ（「ＳＰＭＤ」：ｓｉｎｇｌｅ ｐｒｏｇｒａｍ ｍｕｌｔｉｐｌｅ ｄａｔａ）又はＳＩＭＴアーキテクチャのために書かれ、コンパイルされたプログラムを実行しているときに自動的に生成され得る。少なくとも１つの実施例では、ＳＩＭＴ実行モデルのために構成されたプログラムの複数のスレッドは、単一のＳＩＭＤ命令を介して実行され得る。たとえば、少なくとも１つの実施例では、同じ又は同様の動作を実施する８つのＳＩＭＴスレッドが、単一のＳＩＭＤ８論理ユニットを介して並列に実行され得る。

【0154】

少なくとも１つの実施例では、メモリ及びキャッシュ相互接続２１６８は、グラフィックス・マルチプロセッサ２１９６の各機能ユニットをレジスタ・ファイル２１５８及び共有メモリ２１７０に接続する相互接続ネットワークである。少なくとも１つの実施例では、メモリ及びキャッシュ相互接続２１６８は、ＬＳＵ２１６６が、共有メモリ２１７０とレジスタ・ファイル２１５８との間でロード動作及びストア動作を実装することを可能にするクロスバー相互接続である。少なくとも１つの実施例では、レジスタ・ファイル２１５８は、ＧＰＧＰＵコア２１６２と同じ周波数において動作することができ、したがって、ＧＰＧＰＵコア２１６２とレジスタ・ファイル２１５８との間のデータ転送は、非常に低いレイテンシである。少なくとも１つの実施例では、共有メモリ２１７０は、グラフィックス・マルチプロセッサ２１９６内の機能ユニット上で実行するスレッド間の通信を可能にするために使用され得る。少なくとも１つの実施例では、キャッシュ・メモリ２１７２は、たとえば、機能ユニットとテクスチャ・ユニット２１３６との間で通信されるテクスチャ・データをキャッシュするために、データ・キャッシュとして使用され得る。少なくとも１つの実施例では、共有メモリ２１７０は、キャッシュされる管理されるプログラムとしても使用され得る。少なくとも１つの実施例では、ＧＰＧＰＵコア２１６２上で実行しているスレッドは、キャッシュ・メモリ２１７２内に記憶される自動的にキャッシュされるデータに加えて、データを共有メモリ内にプログラム的に記憶することができる。

【0155】

少なくとも１つの実施例では、本明細書で説明されるような並列プロセッサ又はＧＰＧＰＵは、グラフィックス動作、機械学習動作、パターン分析動作、及び様々な汎用ＧＰＵ（ＧＰＧＰＵ）機能を加速するために、ホスト／プロセッサ・コアに通信可能に結合される。少なくとも１つの実施例では、ＧＰＵは、バス又は他の相互接続（たとえば、ＰＣＩｅ又はＮＶＬｉｎｋなどの高速相互接続）を介してホスト・プロセッサ／コアに通信可能に結合され得る。少なくとも１つの実施例では、ＧＰＵは、コアとして同じパッケージ又はチップに集積され、パッケージ又はチップの内部にあるプロセッサ・バス／相互接続を介してコアに通信可能に結合され得る。少なくとも１つの実施例では、ＧＰＵが接続される様式にかかわらず、プロセッサ・コアは、ＷＤ中に含まれているコマンド／命令のシーケンスの形態で、ワークをＧＰＵに割り振り得る。少なくとも１つの実施例では、ＧＰＵは、次いで、これらのコマンド／命令を効率的に処理するための専用回路要素／論理を使用する。

【0156】

図２２は、少なくとも１つの実施例による、グラフィックス・プロセッサ２２００を示す。少なくとも１つの実施例では、グラフィックス・プロセッサ２２００は、リング相互接続２２０２と、パイプライン・フロント・エンド２２０４と、メディア・エンジン２２３７と、グラフィックス・コア２２８０Ａ～２２８０Ｎとを含む。少なくとも１つの実施例では、リング相互接続２２０２は、グラフィックス・プロセッサ２２００を、他のグラフィックス・プロセッサ又は１つ又は複数の汎用プロセッサ・コアを含む他の処理ユニットに結合する。少なくとも１つの実施例では、グラフィックス・プロセッサ２２００は、マルチコア処理システム内に組み込まれた多くのプロセッサのうちの１つである。

【0157】

少なくとも１つの実施例では、グラフィックス・プロセッサ２２００は、リング相互接続２２０２を介してコマンドのバッチを受信する。少なくとも１つの実施例では、入って来るコマンドは、パイプライン・フロント・エンド２２０４中のコマンド・ストリーマ２２０３によって解釈される。少なくとも１つの実施例では、グラフィックス・プロセッサ２２００は、（１つ又は複数の）グラフィックス・コア２２８０Ａ～２２８０Ｎを介して３Ｄジオメトリ処理及びメディア処理を実施するためのスケーラブル実行論理を含む。少なくとも１つの実施例では、３Ｄジオメトリ処理コマンドについて、コマンド・ストリーマ２２０３は、コマンドをジオメトリ・パイプライン２２３６に供給する。少なくとも１つの実施例では、少なくともいくつかのメディア処理コマンドについて、コマンド・ストリーマ２２０３は、コマンドをビデオ・フロント・エンド２２３４に供給し、ビデオ・フロント・エンド２２３４はメディア・エンジン２２３７と結合する。少なくとも１つの実施例では、メディア・エンジン２２３７は、ビデオ及び画像後処理のためのビデオ品質エンジン（「ＶＱＥ」：Ｖｉｄｅｏ Ｑｕａｌｉｔｙ Ｅｎｇｉｎｅ）２２３０と、ハードウェア加速メディア・データ・エンコード及びデコードを提供するためのマルチ・フォーマット・エンコード／デコード（「ＭＦＸ」：ｍｕｌｔｉ－ｆｏｒｍａｔ ｅｎｃｏｄｅ／ｄｅｃｏｄｅ）エンジン２２３３とを含む。少なくとも１つの実施例では、ジオメトリ・パイプライン２２３６及びメディア・エンジン２２３７は、各々、少なくとも１つのグラフィックス・コア２２８０Ａによって提供されるスレッド実行リソースのための実行スレッドを生成する。

【0158】

少なくとも１つの実施例では、グラフィックス・プロセッサ２２００は、各々が（コア・サブ・スライスと呼ばれることもある）複数のサブ・コア２２５０Ａ～５５０Ｎ、２２６０Ａ～２２６０Ｎを有する、（コア・スライスと呼ばれることもある）モジュール式グラフィックス・コア２２８０Ａ～２２８０Ｎを特徴とするスケーラブル・スレッド実行リソースを含む。少なくとも１つの実施例では、グラフィックス・プロセッサ２２００は、任意の数のグラフィックス・コア２２８０Ａ～２２８０Ｎを有することができる。少なくとも１つの実施例では、グラフィックス・プロセッサ２２００は、少なくとも第１のサブ・コア２２５０Ａ及び第２のサブ・コア２２６０Ａを有するグラフィックス・コア２２８０Ａを含む。少なくとも１つの実施例では、グラフィックス・プロセッサ２２００は、単一のサブ・コア（たとえば、サブ・コア２２５０Ａ）をもつ低電力プロセッサである。少なくとも１つの実施例では、グラフィックス・プロセッサ２２００は、各々が第１のサブ・コア２２５０Ａ～２２５０Ｎのセットと第２のサブ・コア２２６０Ａ～２２６０Ｎのセットとを含む、複数のグラフィックス・コア２２８０Ａ～２２８０Ｎを含む。少なくとも１つの実施例では、第１のサブ・コア２２５０Ａ～２２５０Ｎ中の各サブ・コアは、少なくとも、実行ユニット（「ＥＵ」：ｅｘｅｃｕｔｉｏｎ ｕｎｉｔ）２２５２Ａ～２２５２Ｎ及びメディア／テクスチャ・サンプラ２２５４Ａ～２２５４Ｎの第１のセットを含む。少なくとも１つの実施例では、第２のサブ・コア２２６０Ａ～２２６０Ｎ中の各サブ・コアは、少なくとも、実行ユニット２２６２Ａ～２２６２Ｎ及びサンプラ２２６４Ａ～２２６４Ｎの第２のセットを含む。少なくとも１つの実施例では、各サブ・コア２２５０Ａ～２２５０Ｎ、２２６０Ａ～２２６０Ｎは、共有リソース２２７０Ａ～２２７０Ｎのセットを共有する。少なくとも１つの実施例では、共有リソース２２７０は、共有キャッシュ・メモリ及びピクセル動作論理を含む。

【0159】

図２３は、少なくとも１つの実施例による、プロセッサ２３００を示す。少なくとも１つの実施例では、プロセッサ２３００は、限定はしないが、命令を実施するための論理回路を含み得る。少なくとも１つの実施例では、プロセッサ２３００は、ｘ８６命令、ＡＭＲ命令、ＡＳＩＣのための特別命令などを含む命令を実施し得る。少なくとも１つの実施例では、プロセッサ２３１０は、カリフォルニア州サンタクララのＩｎｔｅｌ Ｃｏｒｐｏｒａｔｉｏｎからの、ＭＭＸ（商標）技術で可能にされたマイクロプロセッサ中の６４ビット幅ＭＭＸレジスタなど、パック・データを記憶するためのレジスタを含み得る。少なくとも１つの実施例では、整数形式と浮動小数点形式の両方で利用可能なＭＭＸレジスタは、ＳＩＭＤ及びストリーミングＳＩＭＤ拡張（「ＳＳＥ」：ｓｔｒｅａｍｉｎｇ ＳＩＭＤ ｅｘｔｅｎｓｉｏｎ）命令を伴うパック・データ要素で動作し得る。少なくとも１つの実施例では、ＳＳＥ２、ＳＳＥ３、ＳＳＥ４、ＡＶＸ、又はそれ以上（総称して「ＳＳＥｘ」と呼ばれる）技術に関係する１２８ビット幅ＸＭＭレジスタは、そのようなパック・データ・オペランドを保持し得る。少なくとも１つの実施例では、プロセッサ２３１０は、ＣＵＤＡプログラムを加速するための命令を実施し得る。

【0160】

少なくとも１つの実施例では、プロセッサ２３００は、実行されるべき命令をフェッチし、プロセッサ・パイプラインにおいて後で使用されるべき命令を準備するためのイン・オーダー・フロント・エンド（「フロント・エンド」）２３０１を含む。少なくとも１つの実施例では、フロント・エンド２３０１は、いくつかのユニットを含み得る。少なくとも１つの実施例では、命令プリフェッチャ２３２６が、メモリから命令をフェッチし、命令を命令デコーダ２３２８にフィードし、命令デコーダ２３２８が命令を復号又は解釈する。たとえば、少なくとも１つの実施例では、命令デコーダ２３２８は、受信された命令を、実行のために「マイクロ命令」又は「マイクロ・オペレーション」と呼ばれる（「マイクロ・オプ」又は「ｕｏｐ」とも呼ばれる）１つ又は複数のオペレーションに復号する。少なくとも１つの実施例では、命令デコーダ２３２８は、命令を、動作を実施するためにマイクロアーキテクチャによって使用され得るオプコード及び対応するデータ並びに制御フィールドに構文解析する。少なくとも１つの実施例では、トレース・キャッシュ２３３０は、復号されたｕｏｐを、実行のためにｕｏｐキュー２３３４においてプログラム順のシーケンス又はトレースにアセンブルし得る。少なくとも１つの実施例では、トレース・キャッシュ２３３０が複雑な命令に遭遇したとき、マイクロコードＲＯＭ２３３２が、動作を完了するために必要なｕｏｐを提供する。

【0161】

少なくとも１つの実施例では、単一のマイクロ・オプにコンバートされ得る命令もあれば、全動作を完了するためにいくつかのマイクロ・オプを必要とする命令もある。少なくとも１つの実施例では、命令を完了するために５つ以上のマイクロ・オプが必要とされる場合、命令デコーダ２３２８は、マイクロコードＲＯＭ２３３２にアクセスして命令を実施し得る。少なくとも１つの実施例では、命令は、命令デコーダ２３２８における処理のために少数のマイクロ・オプに復号され得る。少なくとも１つの実施例では、命令は、動作を達成するためにいくつかのマイクロ・オプが必要とされる場合、マイクロコードＲＯＭ２３３２内に記憶され得る。少なくとも１つの実施例では、トレース・キャッシュ２３３０は、マイクロコードＲＯＭ２３３２からの１つ又は複数の命令を完了するために、エントリ・ポイント・プログラマブル論理アレイ（「ＰＬＡ」：ｐｒｏｇｒａｍｍａｂｌｅ ｌｏｇｉｃ ａｒｒａｙ）を参照して、マイクロコード・シーケンスを読み取るための正しいマイクロ命令ポインタを決定する。少なくとも１つの実施例では、マイクロコードＲＯＭ２３３２が命令のためにマイクロ・オプのシーケンシングを終えた後、機械のフロント・エンド２３０１は、トレース・キャッシュ２３３０からマイクロ・オプをフェッチすることを再開し得る。

【0162】

少なくとも１つの実施例では、アウト・オブ・オーダー実行エンジン（「アウト・オブ・オーダー・エンジン」）２３０３は、実行のために命令を準備し得る。少なくとも１つの実施例では、アウト・オブ・オーダー実行論理は、命令がパイプラインを下り、実行のためにスケジューリングされるときの性能を最適化するために、命令のフローを滑らかにし、それを並べ替えるためのいくつかのバッファを有する。アウト・オブ・オーダー実行エンジン２３０３は、限定はしないが、アロケータ／レジスタ・リネーマ２３４０と、メモリｕｏｐキュー２３４２と、整数／浮動小数点ｕｏｐキュー２３４４と、メモリ・スケジューラ２３４６と、高速スケジューラ２３０２と、低速／汎用浮動小数点スケジューラ（「低速／汎用ＦＰ（ｆｌｏａｔｉｎｇ ｐｏｉｎｔ）スケジューラ」）２３０４と、単純浮動小数点スケジューラ（「単純ＦＰスケジューラ」）２３０６とを含む。少なくとも１つの実施例では、高速スケジューラ２３０２、低速／汎用浮動小数点スケジューラ２３０４、及び単純浮動小数点スケジューラ２３０６は、総称して本明細書では「ｕｏｐスケジューラ２３０２、２３０４、２３０６」とも呼ばれる。アロケータ／レジスタ・リネーマ２３４０は、実行するために各ｕｏｐが必要とする機械バッファ及びリソースを割り振る。少なくとも１つの実施例では、アロケータ／レジスタ・リネーマ２３４０は、レジスタ・ファイルへのエントリ時に論理レジスタをリネームする。少なくとも１つの実施例では、アロケータ／レジスタ・リネーマ２３４０はまた、メモリ・スケジューラ２３４６及びｕｏｐスケジューラ２３０２、２３０４、２３０６の前の、２つのｕｏｐキュー、すなわちメモリ動作のためのメモリｕｏｐキュー２３４２及び非メモリ動作のための整数／浮動小数点ｕｏｐキュー２３４４のうちの１つにおいて、各ｕｏｐのためのエントリを割り振る。少なくとも１つの実施例では、ｕｏｐスケジューラ２３０２、２３０４、２３０６は、ｕｏｐがいつ実行する準備ができるかを、それらの従属入力レジスタ・オペランド・ソースが準備されていることと、それらの動作を完了するためにｕｏｐが必要とする実行リソースの利用可能性とに基づいて、決定する。少なくとも１つの実施例では、少なくとも１つの実施例の高速スケジューラ２３０２は、メイン・クロック・サイクルの半分ごとにスケジューリングし得、低速／汎用浮動小数点スケジューラ２３０４及び単純浮動小数点スケジューラ２３０６は、メイン・プロセッサ・クロック・サイクル当たりに１回スケジューリングし得る。少なくとも１つの実施例では、ｕｏｐスケジューラ２３０２、２３０４、２３０６は、実行のためにｕｏｐをスケジューリングするためにディスパッチ・ポートを調停する。

【0163】

少なくとも１つの実施例では、実行ブロック２３１０は、限定はしないが、整数レジスタ・ファイル／バイパス・ネットワーク２３０８と、浮動小数点レジスタ・ファイル／バイパス・ネットワーク（「ＦＰレジスタ・ファイル／バイパス・ネットワーク」）２３１０と、アドレス生成ユニット（「ＡＧＵ」：ａｄｄｒｅｓｓ ｇｅｎｅｒａｔｉｏｎ ｕｎｉｔ）２３１２及び２３１４と、高速ＡＬＵ２３１６及び２３１８と、低速ＡＬＵ２３２０と、浮動小数点ＡＬＵ（「ＦＰ」）２３２２と、浮動小数点移動ユニット（「ＦＰ移動」）２３２４とを含む。少なくとも１つの実施例では、整数レジスタ・ファイル／バイパス・ネットワーク２３０８及び浮動小数点レジスタ・ファイル／バイパス・ネットワーク２３１０は、本明細書では「レジスタ・ファイル２３０８、２３１０」とも呼ばれる。少なくとも１つの実施例では、ＡＧＵ２３１２及び２３１４、高速ＡＬＵ２３１６及び２３１８、低速ＡＬＵ２３２０、浮動小数点ＡＬＵ２３２２、及び浮動小数点移動ユニット２３２４は、本明細書では「実行ユニット２３１２、２３１４、２３１６、２３１８、２３２０、２３２２、及び２３２４」とも呼ばれる。少なくとも１つの実施例では、実行ブロックは、限定はしないが、（ゼロを含む）任意の数及びタイプのレジスタ・ファイル、バイパス・ネットワーク、アドレス生成ユニット、及び実行ユニットを、任意の組合せで含み得る。

【0164】

少なくとも１つの実施例では、レジスタ・ファイル２３０８、２３１０は、ｕｏｐスケジューラ２３０２、２３０４、２３０６と、実行ユニット２３１２、２３１４、２３１６、２３１８、２３２０、２３２２、及び２３２４との間に配置され得る。少なくとも１つの実施例では、整数レジスタ・ファイル／バイパス・ネットワーク２３０８は、整数演算を実施する。少なくとも１つの実施例では、浮動小数点レジスタ・ファイル／バイパス・ネットワーク２３１０は、浮動小数点演算を実施する。少なくとも１つの実施例では、レジスタ・ファイル２３０８、２３１０の各々は、限定はしないが、バイパス・ネットワークを含み得、バイパス・ネットワークは、レジスタ・ファイルにまだ書き込まれていない完了したばかりの結果を、新しい従属ｕｏｐにバイパス又はフォワーディングし得る。少なくとも１つの実施例では、レジスタ・ファイル２３０８、２３１０は、互いにデータを通信し得る。少なくとも１つの実施例では、整数レジスタ・ファイル／バイパス・ネットワーク２３０８は、限定はしないが、２つの別個のレジスタ・ファイル、すなわち低次３２ビットのデータのための１つのレジスタ・ファイル及び高次３２ビットのデータのための第２のレジスタ・ファイルを含み得る。少なくとも１つの実施例では、浮動小数点命令は、通常、６４～１２８ビット幅のオペランドを有するので、浮動小数点レジスタ・ファイル／バイパス・ネットワーク２３１０は、限定はしないが、１２８ビット幅のエントリを含み得る。

【0165】

少なくとも１つの実施例では、実行ユニット２３１２、２３１４、２３１６、２３１８、２３２０、２３２２、２３２４は、命令を実行し得る。少なくとも１つの実施例では、レジスタ・ファイル２３０８、２３１０は、マイクロ命令が実行する必要がある整数及び浮動小数点データ・オペランド値を記憶する。少なくとも１つの実施例では、プロセッサ２３００は、限定はしないが、任意の数及び組合せの実行ユニット２３１２、２３１４、２３１６、２３１８、２３２０、２３２２、２３２４を含み得る。少なくとも１つの実施例では、浮動小数点ＡＬＵ２３２２及び浮動小数点移動ユニット２３２４は、浮動小数点、ＭＭＸ、ＳＩＭＤ、ＡＶＸ及びＳＳＥ、又は他の演算を実行し得る。少なくとも１つの実施例では、浮動小数点ＡＬＵ２３２２は、限定はしないが、除算、平方根、及び剰余マイクロ・オプを実行するための６４ビットずつの浮動小数点デバイダを含み得る。少なくとも１つの実施例では、浮動小数点値を伴う命令は、浮動小数点ハードウェアで対処され得る。少なくとも１つの実施例では、ＡＬＵ演算は、高速ＡＬＵ２３１６、２３１８に渡され得る。少なくとも１つの実施例では、高速ＡＬＵ２３１６、２３１８は、クロック・サイクルの半分の実効レイテンシを伴う高速演算を実行し得る。少なくとも１つの実施例では、低速ＡＬＵ２３２０は、限定はしないが、乗数、シフト、フラグ論理、及びブランチ処理などの長レイテンシ・タイプの演算のための整数実行ハードウェアを含み得るので、ほとんどの複雑な整数演算は低速ＡＬＵ２３２０に進む。少なくとも１つの実施例では、メモリ・ロード／ストア動作は、ＡＧＵ２３１２、２３１４によって実行され得る。少なくとも１つの実施例では、高速ＡＬＵ２３１６、高速ＡＬＵ２３１８、及び低速ＡＬＵ２３２０は、６４ビット・データ・オペランドで整数演算を実施し得る。少なくとも１つの実施例では、高速ＡＬＵ２３１６、高速ＡＬＵ２３１８、及び低速ＡＬＵ２３２０は、１６、３２、１２８、２５６などを含む様々なデータ・ビット・サイズをサポートするために実装され得る。少なくとも１つの実施例では、浮動小数点ＡＬＵ２３２２及び浮動小数点移動ユニット２３２４は、様々なビット幅を有する様々なオペランドをサポートするために実装され得る。少なくとも１つの実施例では、浮動小数点ＡＬＵ２３２２及び浮動小数点移動ユニット２３２４は、ＳＩＭＤ及びマルチメディア命令と併せた１２８ビット幅のパック・データ・オペランドで動作し得る。

【0166】

少なくとも１つの実施例では、ｕｏｐスケジューラ２３０２、２３０４、２３０６は、親ロードが実行し終える前に従属演算をディスパッチする。少なくとも１つの実施例では、ｕｏｐは、プロセッサ２３００において投機的にスケジューリング及び実行され得るので、プロセッサ２３００は、メモリ・ミスに対処するための論理をも含み得る。少なくとも１つの実施例では、データ・キャッシュにおいてデータ・ロードがミスした場合、一時的に不正確なデータをもつスケジューラを通り過ぎたパイプラインにおいて、進行中の従属演算があり得る。少なくとも１つの実施例では、リプレイ機構が、不正確なデータを使用する命令を追跡及び再実行する。少なくとも１つの実施例では、従属演算は、リプレイされる必要があり得、独立した演算は、完了することを可能にされ得る。少なくとも１つの実施例では、プロセッサの少なくとも１つの実施例のスケジューラ及びリプレイ機構はまた、テキスト・ストリング比較演算のための命令シーケンスを捕捉するように設計され得る。

【0167】

少なくとも１つの実施例では、「レジスタ」という用語は、オペランドを識別するための命令の一部として使用され得るオンボード・プロセッサ・ストレージ・ロケーションを指し得る。少なくとも１つの実施例では、レジスタは、（プログラマの視点から見て）プロセッサの外部から使用可能であり得るものであり得る。少なくとも１つの実施例では、レジスタは、特定のタイプの回路に限定されないことがある。むしろ、少なくとも１つの実施例では、レジスタは、データを記憶し、データを提供し、本明細書で説明される機能を実施し得る。少なくとも１つの実施例では、本明細書で説明されるレジスタは、専用物理レジスタ、レジスタ・リネーミングを使用して動的に割り振られる物理レジスタ、専用物理レジスタと動的に割り振られる物理レジスタとの組合せなど、任意の数の異なる技法を使用して、プロセッサ内の回路要素によって実装され得る。少なくとも１つの実施例では、整数レジスタは、３２ビット整数データを記憶する。少なくとも１つの実施例のレジスタ・ファイルは、パック・データのための８つのマルチメディアＳＩＭＤレジスタをも含んでいる。

【0168】

図２４は、少なくとも１つの実施例による、プロセッサ２４００を示す。少なくとも１つの実施例では、プロセッサ２４００は、限定はしないが、１つ又は複数のプロセッサ・コア（「コア」）２４０２Ａ～２４０２Ｎと、統合されたメモリ・コントローラ２４１４と、統合されたグラフィックス・プロセッサ２４０８とを含む。少なくとも１つの実施例では、プロセッサ２４００は、破線ボックスによって表される追加プロセッサ・コア２４０２Ｎまでの追加コアを含むことができる。少なくとも１つの実施例では、プロセッサ・コア２４０２Ａ～２４０２Ｎの各々は、１つ又は複数の内部キャッシュ・ユニット２４０４Ａ～２４０４Ｎを含む。少なくとも１つの実施例では、各プロセッサ・コアはまた、１つ又は複数の共有キャッシュ・ユニット２４０６へのアクセスを有する。

【0169】

少なくとも１つの実施例では、内部キャッシュ・ユニット２４０４Ａ～２４０４Ｎと共有キャッシュ・ユニット２４０６とは、プロセッサ２４００内のキャッシュ・メモリ階層を表す。少なくとも１つの実施例では、キャッシュ・メモリ・ユニット２４０４Ａ～２４０４Ｎは、各プロセッサ・コア内の命令及びデータ・キャッシュの少なくとも１つのレベル、及びＬ２、Ｌ３、レベル４（「Ｌ４」）などの共有中間レベル・キャッシュの１つ又は複数のレベル、又はキャッシュの他のレベルを含み得、ここで、外部メモリの前の最高レベルのキャッシュは、ＬＬＣとして分類される。少なくとも１つの実施例では、キャッシュ・コヒーレンシ論理は、様々なキャッシュ・ユニット２４０６及び２４０４Ａ～２４０４Ｎ間でコヒーレンシを維持する。

【0170】

少なくとも１つの実施例では、プロセッサ２４００は、１つ又は複数のバス・コントローラ・ユニット２４１６とシステム・エージェント・コア２４１０とのセットをも含み得る。少なくとも１つの実施例では、１つ又は複数のバス・コントローラ・ユニット２４１６は、１つ又は複数のＰＣＩ又はＰＣＩエクスプレス・バスなどの周辺バスのセットを管理する。少なくとも１つの実施例では、システム・エージェント・コア２４１０は、様々なプロセッサ構成要素のための管理機能性を提供する。少なくとも１つの実施例では、システム・エージェント・コア２４１０は、様々な外部メモリ・デバイス（図示せず）へのアクセスを管理するための１つ又は複数の統合されたメモリ・コントローラ２４１４を含む。

【0171】

少なくとも１つの実施例では、プロセッサ・コア２４０２Ａ～２４０２Ｎのうちの１つ又は複数は、同時マルチスレッディングのサポートを含む。少なくとも１つの実施例では、システム・エージェント・コア２４１０は、マルチスレッド処理中にプロセッサ・コア２４０２Ａ～２４０２Ｎを協調させ、動作させるための構成要素を含む。少なくとも１つの実施例では、システム・エージェント・コア２４１０は、追加として、電力制御ユニット（「ＰＣＵ」：ｐｏｗｅｒ ｃｏｎｔｒｏｌ ｕｎｉｔ）を含み得、ＰＣＵは、プロセッサ・コア２４０２Ａ～２４０２Ｎ及びグラフィックス・プロセッサ２４０８の１つ又は複数の電力状態を調節するための論理及び構成要素を含む。

【0172】

少なくとも１つの実施例では、プロセッサ２４００は、追加として、グラフィックス処理動作を実行するためのグラフィックス・プロセッサ２４０８を含む。少なくとも１つの実施例では、グラフィックス・プロセッサ２４０８は、共有キャッシュ・ユニット２４０６、及び１つ又は複数の統合されたメモリ・コントローラ２４１４を含むシステム・エージェント・コア２４１０と結合する。少なくとも１つの実施例では、システム・エージェント・コア２４１０は、１つ又は複数の結合されたディスプレイへのグラフィックス・プロセッサ出力を駆動するためのディスプレイ・コントローラ２４１０をも含む。少なくとも１つの実施例では、ディスプレイ・コントローラ２４１０はまた、少なくとも１つの相互接続を介してグラフィックス・プロセッサ２４０８と結合された別個のモジュールであり得るか、又はグラフィックス・プロセッサ２４０８内に組み込まれ得る。

【0173】

少なくとも１つの実施例では、プロセッサ２４００の内部構成要素を結合するために、リング・ベースの相互接続ユニット２４１２が使用される。少なくとも１つの実施例では、ポイントツーポイント相互接続、切替え相互接続、又は他の技法などの代替相互接続ユニットが使用され得る。少なくとも１つの実施例では、グラフィックス・プロセッサ２４０８は、Ｉ／Ｏリンク２４１３を介してリング相互接続２４１２と結合する。

【0174】

少なくとも１つの実施例では、Ｉ／Ｏリンク２４１３は、様々なプロセッサ構成要素と、ｅＤＲＡＭモジュールなどの高性能組み込みメモリ・モジュール２４１８との間の通信を容易にするオン・パッケージＩ／Ｏ相互接続を含む、複数の種類のＩ／Ｏ相互接続のうちの少なくとも１つを表す。少なくとも１つの実施例では、プロセッサ・コア２４０２Ａ～２４０２Ｎの各々と、グラフィックス・プロセッサ２４０８とは、共有ＬＬＣとして組み込みメモリ・モジュール２４１８を使用する。

【0175】

少なくとも１つの実施例では、プロセッサ・コア２４０２Ａ～２４０２Ｎは、共通の命令セット・アーキテクチャを実行する同種のコアである。少なくとも１つの実施例では、プロセッサ・コア２４０２Ａ～２４０２Ｎは、ＩＳＡという観点から異種であり、ここで、プロセッサ・コア２４０２Ａ～２４０２Ｎのうちの１つ又は複数は、共通の命令セットを実行し、プロセッサ・コア２４０２Ａ～２４－０２Ｎのうちの１つ又は複数の他のコアは、共通の命令セットのサブセット、又は異なる命令セットを実行する。少なくとも１つの実施例では、プロセッサ・コア２４０２Ａ～２４０２Ｎは、マイクロアーキテクチャという観点から異種であり、ここで、電力消費量が比較的高い１つ又は複数のコアは、電力消費量がより低い１つ又は複数のコアと結合する。少なくとも１つの実施例では、プロセッサ２４００は、１つ又は複数のチップ上に、又はＳｏＣ集積回路として実装され得る。

【0176】

図２５は、説明される少なくとも１つの実施例による、グラフィックス・プロセッサ・コア２５００を示す。少なくとも１つの実施例では、グラフィックス・プロセッサ・コア２５００は、グラフィックス・コア・アレイ内に含まれる。少なくとも１つの実施例では、コア・スライスと呼ばれることもあるグラフィックス・プロセッサ・コア２５００は、モジュール式グラフィックス・プロセッサ内の１つ又は複数のグラフィックス・コアであり得る。少なくとも１つの実施例では、グラフィックス・プロセッサ・コア２５００は、１つのグラフィックス・コア・スライスの実例であり、本明細書で説明されるグラフィックス・プロセッサは、ターゲット電力及び性能エンベロープに基づいて、複数のグラフィックス・コア・スライスを含み得る。少なくとも１つの実施例では、各グラフィックス・コア２５００は、汎用及び固定機能論理のモジュール式ブロックを含む、サブ・スライスとも呼ばれる複数のサブ・コア２５０１Ａ～２５０１Ｆと結合された固定機能ブロック２５３０を含むことができる。

【0177】

少なくとも１つの実施例では、固定機能ブロック２５３０は、たとえば、より低い性能及び／又はより低い電力のグラフィックス・プロセッサ実装形態において、グラフィックス・プロセッサ２５００中のすべてのサブ・コアによって共有され得るジオメトリ／固定機能パイプライン２５３６を含む。少なくとも１つの実施例では、ジオメトリ／固定機能パイプライン２５３６は、３Ｄ固定機能パイプラインと、ビデオ・フロント・エンド・ユニットと、スレッド・スポーナ（ｓｐａｗｎｅｒ）及びスレッド・ディスパッチャと、統一リターン・バッファを管理する統一リターン・バッファ・マネージャとを含む。

【0178】

少なくとも１つの実施例では、固定機能ブロック２５３０はまた、グラフィックスＳｏＣインターフェース２５３７と、グラフィックス・マイクロコントローラ２５３７と、メディア・パイプライン２５３９とを含む。グラフィックスＳｏＣインターフェース２５３７は、グラフィックス・コア２５００と、ＳｏＣ集積回路内の他のプロセッサ・コアとの間のインターフェースを提供する。少なくとも１つの実施例では、グラフィックス・マイクロコントローラ２５３７は、スレッド・ディスパッチと、スケジューリングと、プリエンプションとを含む、グラフィックス・プロセッサ２５００の様々な機能を管理するように構成可能であるプログラマブル・サブ・プロセッサである。少なくとも１つの実施例では、メディア・パイプライン２５３９は、画像及びビデオ・データを含むマルチメディア・データの復号、符号化、前処理、及び／又は後処理を容易にするための論理を含む。少なくとも１つの実施例では、メディア・パイプライン２５３９は、サブ・コア２５０１～２５０１Ｆ内のコンピュート論理又はサンプリング論理への要求を介して、メディア動作を実装する。

【0179】

少なくとも１つの実施例では、ＳｏＣインターフェース２５３７は、グラフィックス・コア２５００が汎用アプリケーション・プロセッサ・コア（たとえば、ＣＰＵ）及び／又はＳｏＣ内の他の構成要素と通信することを可能にし、ＳｏＣ内の他の構成要素は、共有ＬＬＣメモリ、システムＲＡＭ、及び／或いは組み込みオンチップ又はオンパッケージＤＲＡＭなどのメモリ階層要素を含む。少なくとも１つの実施例では、ＳｏＣインターフェース２５３７はまた、カメラ撮像パイプラインなど、ＳｏＣ内の固定機能デバイスとの通信を可能にすることができ、グラフィックス・コア２５００とＳｏＣ内のＣＰＵとの間で共有され得るグローバル・メモリ・アトミックの使用を可能にし、及び／又はそれを実装する。少なくとも１つの実施例では、ＳｏＣインターフェース２５３７はまた、グラフィックス・コア２５００のための電力管理制御を実装し、グラフィック・コア２５００のクロック・ドメインとＳｏＣ内の他のクロック・ドメインとの間のインターフェースを可能にすることができる。少なくとも１つの実施例では、ＳｏＣインターフェース２５３７は、グラフィックス・プロセッサ内の１つ又は複数のグラフィックス・コアの各々にコマンド及び命令を提供するように構成されたコマンド・ストリーマ及びグローバル・スレッド・ディスパッチャからのコマンド・バッファの受信を可能にする。少なくとも１つの実施例では、コマンド及び命令は、メディア動作が実施されるべきであるときにメディア・パイプライン２５３９にディスパッチされ得るか、又は、グラフィックス処理動作が実施されるべきであるときにジオメトリ及び固定機能パイプライン（たとえば、ジオメトリ及び固定機能パイプライン２５３６、ジオメトリ及び固定機能パイプライン２５１４）にディスパッチされ得る。

【0180】

少なくとも１つの実施例では、グラフィックス・マイクロコントローラ２５３８は、グラフィックス・コア２５００のための様々なスケジューリング及び管理タスクを実施するように構成され得る。少なくとも１つの実施例では、グラフィックス・マイクロコントローラ２５３７は、サブ・コア２５０１Ａ～２５０１Ｆ内の実行ユニット（ＥＵ）アレイ２５０２Ａ～２５０２Ｆ、２５０４Ａ～２５０４Ｆ内の様々なグラフィックス並列エンジンに対して、グラフィックスを実施し、及び／又はワークロード・スケジューリングを算出することができる。少なくとも１つの実施例では、グラフィックス・コア２５００を含むＳｏＣのＣＰＵコア上で実行しているホスト・ソフトウェアは、複数のグラフィック・プロセッサ・ドアベルのうちの１つにワークロードをサブミットすることができ、このドアベルが、適切なグラフィックス・エンジンに対するスケジューリング動作を呼び出す。少なくとも１つの実施例では、スケジューリング動作は、どのワークロードを次に稼働すべきかを決定することと、ワークロードをコマンド・ストリーマにサブミットすることと、エンジン上で稼働している既存のワークロードをプリエンプトすることと、ワークロードの進行を監視することと、ワークロードが完了したときにホスト・ソフトウェアに通知することとを含む。少なくとも１つの実施例では、グラフィックス・マイクロコントローラ２５３８はまた、グラフィックス・コア２５００のための低電力又はアイドル状態を促進して、オペレーティング・システム及び／又はシステム上のグラフィックス・ドライバ・ソフトウェアとは無関係に、低電力状態移行にわたってグラフィックス・コア２５００内のレジスタを保存及び復元するアビリティをグラフィックス・コア２５００に提供することができる。

【0181】

少なくとも１つの実施例では、グラフィックス・コア２５００は、示されているサブ・コア２５０１Ａ～２５０１Ｆよりも多い又はそれよりも少ない、Ｎ個までのモジュール式サブ・コアを有し得る。Ｎ個のサブ・コアの各セットについて、少なくとも１つの実施例では、グラフィックス・コア２５００はまた、共有機能論理２５１０、共有及び／又はキャッシュ・メモリ２５１２、ジオメトリ／固定機能パイプライン２５１４、並びに様々なグラフィックスを加速し、処理動作を算出するための追加の固定機能論理２５１６を含むことができる。少なくとも１つの実施例では、共有機能論理２５１０は、グラフィックス・コア２５００内の各Ｎ個のサブ・コアによって共有され得る論理ユニット（たとえば、サンプラ、数理、及び／又はスレッド間通信論理）を含むことができる。共有及び／又はキャッシュ・メモリ２５１２は、グラフィックス・コア２５００内のＮ個のサブ・コア２５０１Ａ～２５０１ＦのためのＬＬＣであり得、また、複数のサブ・コアによってアクセス可能である共有メモリとして働き得る。少なくとも１つの実施例では、ジオメトリ／固定機能パイプライン２５１４は、固定機能ブロック２５３０内のジオメトリ／固定機能パイプライン２５３６の代わりに含まれ得、同じ又は同様の論理ユニットを含むことができる。

【0182】

少なくとも１つの実施例では、グラフィックス・コア２５００は、グラフィックス・コア２５００による使用のための様々な固定機能加速論理を含むことができる追加の固定機能論理２５１６を含む。少なくとも１つの実施例では、追加の固定機能論理２５１６は、位置限定シェーディング（ｐｏｓｉｔｉｏｎ ｏｎｌｙ ｓｈａｄｉｎｇ）において使用するための追加のジオメトリ・パイプラインを含む。位置限定シェーディングでは、少なくとも２つのジオメトリ・パイプラインが存在するが、ジオメトリ／固定機能パイプライン２５１６、２５３６内の完全ジオメトリ・パイプライン、並びに選別パイプライン（ｃｕｌｌ ｐｉｐｅｌｉｎｅ）においてであり、選別パイプラインは、追加の固定機能論理２５１６内に含まれ得る追加のジオメトリ・パイプラインである。少なくとも１つの実施例では、選別パイプラインは、完全ジオメトリ・パイプラインの縮小版である。少なくとも１つの実施例では、完全パイプライン及び選別パイプラインは、アプリケーションの異なるインスタンスを実行することができ、各インスタンスは別個のコンテキストを有する。少なくとも１つの実施例では、位置限定シェーディングは、切り捨てられた三角形の長い選別ランを隠すことができ、これは、いくつかのインスタンスにおいてシェーディングがより早く完了することを可能にする。たとえば、少なくとも１つの実施例では、選別パイプラインは、ピクセルの、フレーム・バッファへのラスタ化及びレンダリングを実施することなしに、頂点の位置属性をフェッチし、シェーディングするので、追加の固定機能論理２５１６内の選別パイプライン論理は、メイン・アプリケーションと並列で位置シェーダを実行することができ、全体的に完全パイプラインよりも速く臨界結果（ｃｒｉｔｉｃａｌ ｒｅｓｕｌｔ）を生成する。少なくとも１つの実施例では、選別パイプラインは、生成された臨界結果を使用して、すべての三角形について、それらの三角形が選別されているかどうかにかかわらず、可視性情報を算出することができる。少なくとも１つの実施例では、（このインスタンスではリプレイ・パイプラインと呼ばれることがある）完全パイプラインは、可視性情報を消費して、選別された三角形を飛ばして可視三角形のみをシェーディングすることができ、可視三角形は、最終的にラスタ化フェーズに渡される。

【0183】

少なくとも１つの実施例では、追加の固定機能論理２５１６はまた、ＣＵＤＡプログラムを加速するために、固定機能行列乗算論理など、汎用処理加速論理を含むことができる。

【0184】

少なくとも１つの実施例では、各グラフィックス・サブ・コア２５０１Ａ～２５０１Ｆは、実行リソースのセットを含み、実行リソースのセットは、グラフィックス・パイプライン、メディア・パイプライン、又はシェーダ・プログラムによる要求に応答して、グラフィックス動作、メディア動作、及びコンピュート動作を実施するために使用され得る。少なくとも１つの実施例では、グラフィックス・サブ・コア２５０１Ａ～２５０１Ｆは、複数のＥＵアレイ２５０２Ａ～２５０２Ｆ、２５０４Ａ～２５０４Ｆと、スレッド・ディスパッチ及びスレッド間通信（「ＴＤ／ＩＣ」：ｔｈｒｅａｄ ｄｉｓｐａｔｃｈ ａｎｄ ｉｎｔｅｒ－ｔｈｒｅａｄ ｃｏｍｍｕｎｉｃａｔｉｏｎ）論理２５０３Ａ～２５０３Ｆと、３Ｄ（たとえば、テクスチャ）サンプラ２５０５Ａ～２５０５Ｆと、メディア・サンプラ２５０６Ａ～２５０６Ｆと、シェーダ・プロセッサ２５０７Ａ～２５０７Ｆと、共有ローカル・メモリ（「ＳＬＭ」：ｓｈａｒｅｄ ｌｏｃａｌ ｍｅｍｏｒｙ）２５０８Ａ～２５０８Ｆとを含む。ＥＵアレイ２５０２Ａ～２５０２Ｆ、２５０４Ａ～２５０４Ｆは、各々、複数の実行ユニットを含み、複数の実行ユニットは、グラフィックス、メディア、又はコンピュート・シェーダ・プログラムを含むグラフィックス動作、メディア動作、又はコンピュート動作のサービスにおいて浮動小数点及び整数／固定小数点論理演算を実施することが可能なＧＰＧＰＵである。少なくとも１つの実施例では、ＴＤ／ＩＣ論理２５０３Ａ～２５０３Ｆは、サブ・コア内の実行ユニットのためのローカル・スレッド・ディスパッチ及びスレッド制御動作を実施し、サブ・コアの実行ユニット上で実行しているスレッド間の通信を容易にする。少なくとも１つの実施例では、３－Ｄサンプラ２５０５Ａ～２５０５Ｆは、テクスチャ又は他の３Ｄグラフィックス関係データをメモリに読み取ることができる。少なくとも１つの実施例では、３Ｄサンプラは、所与のテクスチャに関連する、構成されたサンプル状態及びテクスチャ・フォーマットに基づいて、テクスチャ・データを異なるやり方で読み取ることができる。少なくとも１つの実施例では、メディア・サンプラ２５０６Ａ～２５０６Ｆは、メディア・データに関連するタイプ及びフォーマットに基づいて、同様の読取り動作を実施することができる。少なくとも１つの実施例では、各グラフィックス・サブ・コア２５０１Ａ～２５０１Ｆは、代替的に統一３Ｄ及びメディア・サンプラを含むことができる。少なくとも１つの実施例では、サブ・コア２５０１Ａ～２５０１Ｆの各々内の実行ユニット上で実行しているスレッドは、スレッド・グループ内で実行しているスレッドがオンチップ・メモリの共通のプールを使用して実行することを可能にするために、各サブ・コア内の共有ローカル・メモリ２５０８Ａ～２５０８Ｆを利用することができる。

【0185】

図２６は、少なくとも１つの実施例による、並列処理ユニット（「ＰＰＵ」：ｐａｒａｌｌｅｌ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ）２６００を示す。少なくとも１つの実施例では、ＰＰＵ２６００は、ＰＰＵ２６００によって実行された場合、ＰＰＵ２６００に、本明細書で説明されるプロセス及び技法のいくつか又はすべてを実施させる機械可読コードで構成される。少なくとも１つの実施例では、ＰＰＵ２６００はマルチスレッド・プロセッサであり、マルチスレッド・プロセッサは、１つ又は複数の集積回路デバイス上で実装され、（機械可読命令又は単に命令とも呼ばれる）コンピュータ可読命令を複数のスレッド上で並列に処理するように設計されたレイテンシ隠蔽技法としてマルチスレッディングを利用する。少なくとも１つの実施例では、スレッドは、実行のスレッドを指し、ＰＰＵ２６００によって実行されるように構成された命令のセットのインスタンス化である。少なくとも１つの実施例では、ＰＰＵ２６００は、ＬＣＤデバイスなどのディスプレイ・デバイス上での表示のための２次元（「２Ｄ」）画像データを生成するために３次元（「３Ｄ」）グラフィックス・データを処理するためのグラフィックス・レンダリング・パイプラインを実装するように構成されたＧＰＵである。少なくとも１つの実施例では、ＰＰＵ２６００は、線形代数演算及び機械学習演算などの算出を実施するために利用される。図２６は、単に例示を目的とした例示的な並列プロセッサを示し、少なくとも１つの実施例において実装され得るプロセッサ・アーキテクチャの非限定的な実例として解釈されるべきである。

【0186】

少なくとも１つの実施例では、１つ又は複数のＰＰＵ２６００は、高性能コンピューティング（「ＨＰＣ」：Ｈｉｇｈ Ｐｅｒｆｏｒｍａｎｃｅ Ｃｏｍｐｕｔｉｎｇ）、データ・センタ、及び機械学習アプリケーションを加速するように構成される。少なくとも１つの実施例では、１つ又は複数のＰＰＵ２６００は、ＣＵＤＡプログラムを加速するように構成される。少なくとも１つの実施例では、ＰＰＵ２６００は、限定はしないが、Ｉ／Ｏユニット２６０６と、フロント・エンド・ユニット２６１０と、スケジューラ・ユニット２６１２と、ワーク分散ユニット２６１４と、ハブ２６１６と、クロスバー（「Ｘバー」：ｃｒｏｓｓｂａｒ）２６２０と、１つ又は複数の汎用処理クラスタ（「ＧＰＣ」：ｇｅｎｅｒａｌ ｐｒｏｃｅｓｓｉｎｇ ｃｌｕｓｔｅｒ）２６１８と、１つ又は複数のパーティション・ユニット（「メモリ・パーティション・ユニット」）２６２２とを含む。少なくとも１つの実施例では、ＰＰＵ２６００は、１つ又は複数の高速ＧＰＵ相互接続（「ＧＰＵ相互接続」）２６０８を介してホスト・プロセッサ又は他のＰＰＵ２６００に接続される。少なくとも１つの実施例では、ＰＰＵ２６００は、システム・バス又は相互接続２６０２を介してホスト・プロセッサ又は他の周辺デバイスに接続される。少なくとも１つの実施例では、ＰＰＵ２６００は、１つ又は複数のメモリ・デバイス（「メモリ」）２６０４を備えるローカル・メモリに接続される。少なくとも１つの実施例では、メモリ・デバイス２６０４は、限定はしないが、１つ又は複数のダイナミック・ランダム・アクセス・メモリ（ＤＲＡＭ）デバイスを含む。少なくとも１つの実施例では、１つ又は複数のＤＲＡＭデバイスは、複数のＤＲＡＭダイが各デバイス内で積層された高帯域幅メモリ（「ＨＢＭ」：ｈｉｇｈ－ｂａｎｄｗｉｄｔｈ ｍｅｍｏｒｙ）サブシステムとして構成され、及び／又は構成可能である。

【0187】

少なくとも１つの実施例では、高速ＧＰＵ相互接続２６０８は、ワイヤ・ベースのマルチ・レーン通信リンクを指し得、ワイヤ・ベースのマルチ・レーン通信リンクは、１つ又は複数のＣＰＵと組み合わせられた１つ又は複数のＰＰＵ２６００をスケーリングし、含めるために、システムによって使用され、ＰＰＵ２６００とＣＰＵとの間のキャッシュ・コヒーレンス、及びＣＰＵマスタリングをサポートする。少なくとも１つの実施例では、データ及び／又はコマンドは、高速ＧＰＵ相互接続２６０８によって、ハブ２６１６を通して、１つ又は複数のコピー・エンジン、ビデオ・エンコーダ、ビデオ・デコーダ、電力管理ユニット、及び図２６に明示的に示されていないこともある他の構成要素など、ＰＰＵ２６００の他のユニットに／から送信される。

【0188】

少なくとも１つの実施例では、Ｉ／Ｏユニット２６０６は、システム・バス２６０２を介して（図２６に示されていない）ホスト・プロセッサから通信（たとえば、コマンド、データ）を送受信するように構成される。少なくとも１つの実施例では、Ｉ／Ｏユニット２６０６は、システム・バス２６０２を介して直接、又は、メモリ・ブリッジなどの１つ又は複数の中間デバイスを通して、ホスト・プロセッサと通信する。少なくとも１つの実施例では、Ｉ／Ｏユニット２６０６は、システム・バス２６０２を介してＰＰＵ２６００のうちの１つ又は複数などの１つ又は複数の他のプロセッサと通信し得る。少なくとも１つの実施例では、Ｉ／Ｏユニット２６０６は、ＰＣＩｅインターフェースを、ＰＣＩｅバスを介した通信のために実装する。少なくとも１つの実施例では、Ｉ／Ｏユニット２６０６は、外部デバイスと通信するためのインターフェースを実装する。

【0189】

少なくとも１つの実施例では、Ｉ／Ｏユニット２６０６は、システム・バス２６０２を介して受信されたパケットを復号する。少なくとも１つの実施例では、少なくともいくつかのパケットは、ＰＰＵ２６００に様々な動作を実施させるように構成されたコマンドを表す。少なくとも１つの実施例では、Ｉ／Ｏユニット２６０６は、復号されたコマンドを、コマンドによって指定されるＰＰＵ２６００の様々な他のユニットに送信する。少なくとも１つの実施例では、コマンドは、フロント・エンド・ユニット２６１０に送信され、及び／或いは、ハブ２６１６、又は（図２６に明示的に示されていない）１つ又は複数のコピー・エンジン、ビデオ・エンコーダ、ビデオ・デコーダ、電力管理ユニットなど、ＰＰＵ２６００の他のユニットに送信される。少なくとも１つの実施例では、Ｉ／Ｏユニット２６０６はＰＰＵ２６００の様々な論理ユニット間で及びそれらの間で通信をルーティングするように構成される。

【0190】

少なくとも１つの実施例では、ホスト・プロセッサによって実行されるプログラムは、処理のためにワークロードをＰＰＵ２６００に提供するバッファにおいて、コマンド・ストリームを符号化する。少なくとも１つの実施例では、ワークロードは、命令と、それらの命令によって処理されるべきデータとを含む。少なくとも１つの実施例では、バッファは、ホスト・プロセッサとＰＰＵ２６００の両方によってアクセス（たとえば、書込み／読取り）可能であるメモリ中の領域であり、ホスト・インターフェース・ユニットは、Ｉ／Ｏユニット２６０６によってシステム・バス２６０２を介して送信されるメモリ要求を介して、システム・バス２６０２に接続されたシステム・メモリ中のバッファにアクセスするように構成され得る。少なくとも１つの実施例では、ホスト・プロセッサは、バッファにコマンド・ストリームを書き込み、次いでコマンド・ストリームの開始に対するポインタをＰＰＵ２６００に送信し、それにより、フロント・エンド・ユニット２６１０は、１つ又は複数のコマンド・ストリームに対するポインタを受信し、１つ又は複数のコマンド・ストリームを管理して、コマンド・ストリームからコマンドを読み取り、コマンドをＰＰＵ２６００の様々なユニットにフォワーディングする。

【0191】

少なくとも１つの実施例では、フロント・エンド・ユニット２６１０は、１つ又は複数のコマンド・ストリームによって定義されるタスクを処理するように様々なＧＰＣ２６１８を構成するスケジューラ・ユニット２６１２に結合される。少なくとも１つの実施例では、スケジューラ・ユニット２６１２は、スケジューラ・ユニット２６１２によって管理される様々なタスクに関係する状態情報を追跡するように構成され、状態情報は、ＧＰＣ２６１８のうちのどれにタスクが割り当てられるか、タスクがアクティブであるのか非アクティブであるのか、タスクに関連する優先レベルなどを示し得る。少なくとも１つの実施例では、スケジューラ・ユニット２６１２は、ＧＰＣ２６１８のうちの１つ又は複数上での複数のタスクの実行を管理する。

【0192】

少なくとも１つの実施例では、スケジューラ・ユニット２６１２は、ＧＰＣ２６１８上での実行のためのタスクをディスパッチするように構成されたワーク分散ユニット２６１４に結合される。少なくとも１つの実施例では、ワーク分散ユニット２６１４は、スケジューラ・ユニット２６１２から受信された、スケジューリングされたタスクの数を追跡し、ワーク分散ユニット２６１４は、ＧＰＣ２６１８の各々について、ペンディング・タスク・プール及びアクティブ・タスク・プールを管理する。少なくとも１つの実施例では、ペンディング・タスク・プールは、特定のＧＰＣ２６１８によって処理されるように割り当てられたタスクを含んでいるいくつかのスロット（たとえば、３２個のスロット）を備え、アクティブ・タスク・プールは、ＧＰＣ２６１８によってアクティブに処理されているタスクのためのいくつかのスロット（たとえば、４つのスロット）を備え、それにより、ＧＰＣ２６１８のうちの１つがタスクの実行を完了したとき、ＧＰＣ２６１８のためのアクティブ・タスク・プールからそのタスクが排除され、ペンディング・タスク・プールからの他のタスクのうちの１つが選択され、ＧＰＣ２６１８上での実行のためにスケジューリングされる。少なくとも１つの実施例では、データ依存性が解決されるのを待っている間など、アクティブ・タスクがＧＰＣ２６１８上でアイドルである場合、アクティブ・タスクがＧＰＣ２６１８から排除され、ペンディング・タスク・プールに戻され、その間に、ペンディング・タスク・プール中の別のタスクが選択され、ＧＰＣ２６１８上での実行のためにスケジューリングされる。

【0193】

少なくとも１つの実施例では、ワーク分散ユニット２６１４は、Ｘバー２６２０を介して１つ又は複数のＧＰＣ２６１８と通信する。少なくとも１つの実施例では、Ｘバー２６２０は、ＰＰＵ２６００の多くのユニットをＰＰＵ２６００の他のユニットに結合する相互接続ネットワークであり、ワーク分散ユニット２６１４を特定のＧＰＣ２６１８に結合するように構成され得る。少なくとも１つの実施例では、ＰＰＵ２６００の１つ又は複数の他のユニットも、ハブ２６１６を介してＸバー２６２０に接続され得る。

【0194】

少なくとも１つの実施例では、タスクはスケジューラ・ユニット２６１２によって管理され、ワーク分散ユニット２６１４によってＧＰＣ２６１８のうちの１つにディスパッチされる。ＧＰＣ２６１８は、タスクを処理し、結果を生成するように構成される。少なくとも１つの実施例では、結果は、ＧＰＣ２６１８内の他のタスクによって消費されるか、Ｘバー２６２０を介して異なるＧＰＣ２６１８にルーティングされるか、又はメモリ２６０４に記憶され得る。少なくとも１つの実施例では、結果は、パーティション・ユニット２６２２を介してメモリ２６０４に書き込まれ得、パーティション・ユニット２６２２は、メモリ２６０４への／からのデータの読取り及び書込みを行うためのメモリ・インターフェースを実装する。少なくとも１つの実施例では、結果は、高速ＧＰＵ相互接続２６０８を介して別のＰＰＵ２６０４又はＣＰＵに送信され得る。少なくとも１つの実施例では、ＰＰＵ２６００は、限定はしないが、ＰＰＵ２６００に結合された別個の個別メモリ・デバイス２６０４の数に等しいＵ個のパーティション・ユニット２６２２を含む。

【0195】

少なくとも１つの実施例では、ホスト・プロセッサはドライバ・カーネルを実行し、ドライバ・カーネルは、ホスト・プロセッサ上で実行している１つ又は複数のアプリケーションがＰＰＵ２６００上での実行のために動作をスケジューリングすることを可能にするアプリケーション・プログラミング・インターフェース（「ＡＰＩ」：ａｐｐｌｉｃａｔｉｏｎ ｐｒｏｇｒａｍｍｉｎｇ ｉｎｔｅｒｆａｃｅ）を実装する。少なくとも１つの実施例では、複数のコンピュート・アプリケーションが、ＰＰＵ２６００によって同時に実行され、ＰＰＵ２６００は、複数のコンピュート・アプリケーションに対して、隔離、サービス品質（「ＱｏＳ」：ｑｕａｌｉｔｙ ｏｆ ｓｅｒｖｉｃｅ）、及び独立したアドレス空間を提供する。少なくとも１つの実施例では、アプリケーションは、ＰＰＵ２６００による実行のための１つ又は複数のタスクをドライバ・カーネルに生成させる（たとえば、ＡＰＩコールの形態の）命令を生成し、ドライバ・カーネルは、ＰＰＵ２６００によって処理されている１つ又は複数のストリームにタスクを出力する。少なくとも１つの実施例では、各タスクは、ワープと呼ばれることがある関係スレッドの１つ又は複数のグループを備える。少なくとも１つの実施例では、ワープは、並列に実行され得る複数の関係スレッド（たとえば、３２個のスレッド）を備える。少なくとも１つの実施例では、連動スレッドは、タスクを実施するための命令を含み、共有メモリを通してデータを交換する、複数のスレッドを指すことができる。

【0196】

図２７は、少なくとも１つの実施例による、ＧＰＣ２７００を示す。少なくとも１つの実施例では、ＧＰＣ２７００は、図２６のＧＰＣ２６１８である。少なくとも１つの実施例では、各ＧＰＣ２７００は、限定はしないが、タスクを処理するためのいくつかのハードウェア・ユニットを含み、各ＧＰＣ２７００は、限定はしないが、パイプライン・マネージャ２７０２、プレ・ラスタ演算ユニット（「ＰＲＯＰ」：ｐｒｅ－ｒａｓｔｅｒ ｏｐｅｒａｔｉｏｎ）２７０４、ラスタ・エンジン２７０８、ワーク分散クロスバー（「ＷＤＸ」：ｗｏｒｋ ｄｉｓｔｒｉｂｕｔｉｏｎ ｃｒｏｓｓｂａｒ）２７１６、ＭＭＵ２７１８、１つ又は複数のデータ処理クラスタ（「ＤＰＣ」：Ｄａｔａ Ｐｒｏｃｅｓｓｉｎｇ Ｃｌｕｓｔｅｒ）２７０６、及びパーツの任意の好適な組合せを含む。

【0197】

少なくとも１つの実施例では、ＧＰＣ２７００の動作は、パイプライン・マネージャ２７０２によって制御される。少なくとも１つの実施例では、パイプライン・マネージャ２７０２は、ＧＰＣ２７００に割り振られたタスクを処理するための１つ又は複数のＤＰＣ２７０６の構成を管理する。少なくとも１つの実施例では、パイプライン・マネージャ２７０２は、グラフィックス・レンダリング・パイプラインの少なくとも一部分を実装するように、１つ又は複数のＤＰＣ２７０６のうちの少なくとも１つを構成する。少なくとも１つの実施例では、ＤＰＣ２７０６は、プログラマブル・ストリーミング・マルチプロセッサ（「ＳＭ」：ｓｔｒｅａｍｉｎｇ ｍｕｌｔｉｐｒｏｃｅｓｓｏｒ）２７１４上で頂点シェーダ・プログラムを実行するように構成される。少なくとも１つの実施例では、パイプライン・マネージャ２７０２は、ワーク分散ユニットから受信されたパケットを、ＧＰＣ２７００内の適切な論理ユニットにルーティングするように構成され、少なくとも１つの実施例では、いくつかのパケットは、ＰＲＯＰ２７０４中の固定機能ハードウェア・ユニット及び／又はラスタ・エンジン２７０８にルーティングされ得、他のパケットは、プリミティブ・エンジン２７１２又はＳＭ２７１４による処理のためにＤＰＣ２７０６にルーティングされ得る。少なくとも１つの実施例では、パイプライン・マネージャ２７０２は、コンピューティング・パイプラインを実装するように、ＤＰＣ２７０６のうちの少なくとも１つを構成する。少なくとも１つの実施例では、パイプライン・マネージャ２７０２は、ＣＵＤＡプログラムの少なくとも一部分を実行するように、ＤＰＣ２７０６のうちの少なくとも１つを構成する。

【0198】

少なくとも１つの実施例では、ＰＲＯＰユニット２７０４は、ラスタ・エンジン２７０８及びＤＰＣ２７０６によって生成されたデータを、図２６と併せて上記でより詳細に説明されたメモリ・パーティション・ユニット２６２２など、パーティション・ユニット中のラスタ演算（「ＲＯＰ」：Ｒａｓｔｅｒ Ｏｐｅｒａｔｉｏｎ）ユニットにルーティングするように構成される。少なくとも１つの実施例では、ＰＲＯＰユニット２７０４は、色ブレンディングのための最適化を実施すること、ピクセル・データを組織化すること、アドレス・トランスレーションを実施することなどを行うように構成される。少なくとも１つの実施例では、ラスタ・エンジン２７０８は、限定はしないが、様々なラスタ演算を実施するように構成されたいくつかの固定機能ハードウェア・ユニットを含み、少なくとも１つの実施例では、ラスタ・エンジン２７０８は、限定はしないが、セットアップ・エンジン、粗いラスタ・エンジン、選別エンジン、クリッピング・エンジン、細かいラスタ・エンジン、タイル合体エンジン、及びそれらの任意の好適な組合せを含む。少なくとも１つの実施例では、セットアップ・エンジンは、変換された頂点を受信し、頂点によって定義された幾何学的プリミティブに関連する平面方程式を生成し、平面方程式は、プリミティブについてのカバレージ情報（たとえば、タイルのためのｘ、ｙカバレージ・マスク）を生成するために粗いラスタ・エンジンに送信され、粗いラスタ・エンジンの出力は選別エンジンに送信され、ｚテストに落ちたプリミティブに関連するフラグメントが選別され、クリッピング・エンジンに送信され、視錐台の外側にあるフラグメントがクリップされる。少なくとも１つの実施例では、クリッピング及び選別を通過したフラグメントは、セットアップ・エンジンによって生成された平面方程式に基づいてピクセル・フラグメントについての属性を生成するために、細かいラスタ・エンジンに渡される。少なくとも１つの実施例では、ラスタ・エンジン２７０８の出力は、ＤＰＣ２７０６内に実装されたフラグメント・シェーダによってなど、任意の好適なエンティティによって処理されるべきフラグメントを含む。

【0199】

少なくとも１つの実施例では、ＧＰＣ２７００中に含まれる各ＤＰＣ２７０６は、限定はしないが、Ｍパイプ・コントローラ（「ＭＰＣ」：Ｍ－Ｐｉｐｅ Ｃｏｎｔｒｏｌｌｅｒ）２７１０、プリミティブ・エンジン２７１２、１つ又は複数のＳＭ２７１４、及びそれらの任意の好適な組合せを含む。少なくとも１つの実施例では、ＭＰＣ２７１０は、ＤＰＣ２７０６の動作を制御して、パイプライン・マネージャ２７０２から受信されたパケットを、ＤＰＣ２７０６中の適切なユニットにルーティングする。少なくとも１つの実施例では、頂点に関連するパケットは、頂点に関連する頂点属性をメモリからフェッチするように構成されたプリミティブ・エンジン２７１２にルーティングされ、対照的に、シェーダ・プログラムに関連するパケットは、ＳＭ２７１４に送信され得る。

【0200】

少なくとも１つの実施例では、ＳＭ２７１４は、限定はしないが、いくつかのスレッドによって表されたタスクを処理するように構成されたプログラマブル・ストリーミング・プロセッサを含む。少なくとも１つの実施例では、ＳＭ２７１４はマルチスレッド化され、スレッドの特定のグループからの複数のスレッド（たとえば、３２個のスレッド）を同時に実行するように構成され、ＳＩＭＤアーキテクチャを実装し、スレッドのグループ（たとえば、ワープ）中の各スレッドは、命令の同じセットに基づいてデータの異なるセットを処理するように構成される。少なくとも１つの実施例では、スレッドのグループ中のすべてのスレッドが同じ命令を実行する。少なくとも１つの実施例では、ＳＭ２７１４は、ＳＩＭＴアーキテクチャを実装し、スレッドのグループ中の各スレッドは、命令の同じセットに基づいて、データの異なるセットを処理するように構成されるが、スレッドのグループ中の個々のスレッドは、実行中に発散することを可能にされる。少なくとも１つの実施例では、プログラム・カウンタ、コール・スタック、及び実行状態が、各ワープについて維持されて、ワープ内のスレッドが発散するときのワープ間の同時処理及びワープ内の直列実行を可能にする。別の実施例では、プログラム・カウンタ、コール・スタック、及び実行状態が、各個々のスレッドについて維持されて、すべてのスレッド間、ワープ内及びワープ間での等しい同時処理を可能にする。少なくとも１つの実施例では、実行状態が、各個々のスレッドについて維持され、同じ命令を実行しているスレッドが、より良い効率性のために収束され、並列に実行され得る。ＳＭ２７１４の少なくとも１つの実施例は、図２９と併せてさらに詳細に説明される。

【0201】

少なくとも１つの実施例では、ＭＭＵ２７１８は、ＧＰＣ２７００とメモリ・パーティション・ユニット（たとえば、図２６のパーティション・ユニット２６２２）との間のインターフェースを提供し、ＭＭＵ２７１８は、仮想アドレスから物理アドレスへのトランスレーションと、メモリ保護と、メモリ要求の調停とを提供する。少なくとも１つの実施例では、ＭＭＵ２７１８は、仮想アドレスからメモリ中の物理アドレスへのトランスレーションを実施するための１つ又は複数のトランスレーション・ルックアサイド・バッファ（ＴＬＢ）を提供する。

【0202】

図２８は、少なくとも１つの実施例による、ストリーミング・マルチプロセッサ（「ＳＭ」）２８００を示す。少なくとも１つの実施例では、ＳＭ２８００は、図２７のＳＭ２７１４である。少なくとも１つの実施例では、ＳＭ２８００は、限定はしないが、命令キャッシュ２８０２、１つ又は複数のスケジューラ・ユニット２８０４、レジスタ・ファイル２８０８、１つ又は複数の処理コア（「コア」）２８１０、１つ又は複数の特殊機能ユニット（「ＳＦＵ」：ｓｐｅｃｉａｌ ｆｕｎｃｔｉｏｎ ｕｎｉｔ）２８１２、１つ又は複数のＬＳＵ２８１４、相互接続ネットワーク２８１６、共有メモリ／Ｌ１キャッシュ２８１８、及びそれらの任意の好適な組合せを含む。少なくとも１つの実施例では、ワーク分散ユニットは、並列処理ユニット（ＰＰＵ）のＧＰＣ上での実行のためにタスクをディスパッチし、各タスクは、ＧＰＣ内の特定のデータ処理クラスタ（ＤＰＣ）に割り振られ、タスクがシェーダ・プログラムに関連する場合、タスクはＳＭ２８００のうちの１つに割り振られる。少なくとも１つの実施例では、スケジューラ・ユニット２８０４は、ワーク分散ユニットからタスクを受信し、ＳＭ２８００に割り当てられた１つ又は複数のスレッド・ブロックについて命令スケジューリングを管理する。少なくとも１つの実施例では、スケジューラ・ユニット２８０４は、並列スレッドのワープとしての実行のためにスレッド・ブロックをスケジューリングし、各スレッド・ブロックは、少なくとも１つのワープを割り振られる。少なくとも１つの実施例では、各ワープは、スレッドを実行する。少なくとも１つの実施例では、スケジューラ・ユニット２８０４は、複数の異なるスレッド・ブロックを管理して、異なるスレッド・ブロックにワープを割り振り、次いで、複数の異なる連動グループからの命令を、各クロック・サイクル中に様々な機能ユニット（たとえば、処理コア２８１０、ＳＦＵ２８１２、及びＬＳＵ２８１４）にディスパッチする。

【0203】

少なくとも１つの実施例では、「連動グループ」は、通信するスレッドのグループを組織化するためのプログラミング・モデルを指し得、プログラミング・モデルは、スレッドが通信している粒度を開発者が表現することを可能にして、より豊富でより効率的な並列分解の表現を可能にする。少なくとも１つの実施例では、連動起動ＡＰＩは、並列アルゴリズムの実行のためにスレッド・ブロックの間の同期をサポートする。少なくとも１つの実施例では、従来のプログラミング・モデルのＡＰＩは、連動スレッドを同期するための単一の簡単な構築物、すなわちスレッド・ブロックのすべてのスレッドにわたるバリア（たとえば、ｓｙｎｃｔｈｒｅａｄｓ（）関数）を提供する。しかしながら、少なくとも１つの実施例では、プログラマは、スレッド・ブロックよりも小さい粒度においてスレッドのグループを定義し、定義されたグループ内で同期して、集合的なグループ全般にわたる機能インターフェースの形態で、より高い性能、設計のフレキシビリティ、及びソフトウェア再利用を可能にし得る。少なくとも１つの実施例では、連動グループは、プログラマが、サブ・ブロック粒度及びマルチ・ブロック粒度において、スレッドのグループを明示的に定義し、連動グループ中のスレッドに対する同期などの集合的な動作を実施することを可能にする。少なくとも１つの実施例では、サブ・ブロック粒度は、単一スレッドと同じくらい小さい。少なくとも１つの実施例では、プログラミング・モデルは、ソフトウェア境界にわたるクリーンな合成をサポートし、それにより、ライブラリ及びユーティリティ関数が、収束に関して仮定する必要なしにそれらのローカル・コンテキスト内で安全に同期することができる。少なくとも１つの実施例では、連動グループ・プリミティブは、限定はしないが、プロデューサ－コンシューマ並列性、日和見並列性（ｏｐｐｏｒｔｕｎｉｓｔｉｃ ｐａｒａｌｌｅｌｉｓｍ）、及びスレッド・ブロックのグリッド全体にわたるグローバルな同期を含む、新しいパターンの連動並列性を可能にする。

【0204】

少なくとも１つの実施例では、ディスパッチ・ユニット２８０６は、機能ユニットのうちの１つ又は複数に命令を送信するように構成され、スケジューラ・ユニット２８０４は、限定はしないが、同じワープからの２つの異なる命令が各クロック・サイクル中にディスパッチされることを可能にする２つのディスパッチ・ユニット２８０６を含む。少なくとも１つの実施例では、各スケジューラ・ユニット２８０４は、単一のディスパッチ・ユニット２８０６又は追加のディスパッチ・ユニット２８０６を含む。

【0205】

少なくとも１つの実施例では、各ＳＭ２８００は、少なくとも１つの実施例では、限定はしないが、ＳＭ２８００の機能ユニットにレジスタのセットを提供するレジスタ・ファイル２８０８を含む。少なくとも１つの実施例では、レジスタ・ファイル２８０８は、各機能ユニットがレジスタ・ファイル２８０８の専用部分を割り振られるように、機能ユニットの各々の間で分割される。少なくとも１つの実施例では、レジスタ・ファイル２８０８は、ＳＭ２８００によって実行されている異なるワープ間で分割され、レジスタ・ファイル２８０８は、機能ユニットのデータ経路に接続されたオペランドのための一時的ストレージを提供する。少なくとも１つの実施例では、各ＳＭ２８００は、限定はしないが、複数のＬ個の処理コア２８１０を含む。少なくとも１つの実施例では、ＳＭ２８００は、限定はしないが、多数の（たとえば、１２８個以上の）個別の処理コア２８１０を含む。少なくとも１つの実施例では、各処理コア２８１０は、限定はしないが、完全にパイプライン化された、単精度の、倍精度の、及び／又は混合精度の処理ユニットを含み、これは、限定はしないが、浮動小数点算術論理ユニット及び整数算術論理ユニットを含む。少なくとも１つの実施例では、浮動小数点算術論理ユニットは、浮動小数点算術のためのＩＥＥＥ７５４－２００８規格を実装する。少なくとも１つの実施例では、処理コア２８１０は、限定はしないが、６４個の単精度（３２ビット）浮動小数点コアと、６４個の整数コアと、３２個の倍精度（６４ビット）浮動小数点コアと、８つのテンソル・コアとを含む。

【0206】

少なくとも１つの実施例では、テンソル・コアは、行列演算を実施するように構成される。少なくとも１つの実施例では、１つ又は複数のテンソル・コアは、処理コア２８１０中に含まれる。少なくとも１つの実施例では、テンソル・コアは、ニューラル・ネットワーク訓練及び推論のための畳み込み演算など、深層学習行列算術を実施するように構成される。少なくとも１つの実施例では、各テンソル・コアは、４×４の行列で動作し、行列の積和演算（ｍａｔｒｉｘ ｍｕｌｔｉｐｌｙ ａｎｄ ａｃｃｕｍｕｌａｔｅ ｏｐｅｒａｔｉｏｎ）Ｄ＝Ａ×Ｂ＋Ｃを実施し、ここで、Ａ、Ｂ、Ｃ、及びＤは４×４の行列である。

【0207】

少なくとも１つの実施例では、行列乗算入力Ａ及びＢは、１６ビットの浮動小数点行列であり、和の行列Ｃ及びＤは、１６ビットの浮動小数点又は３２ビットの浮動小数点行列である。少なくとも１つの実施例では、テンソル・コアは、３２ビットの浮動小数点の和をもつ１６ビットの浮動小数点入力データで動作する。少なくとも１つの実施例では、１６ビットの浮動小数点乗算は、６４個の演算を使用し、結果的に完全精度の積をもたらし、次いで、完全精度の積が、４×４×４の行列乗算についての他の中間積との３２ビット浮動小数点加算を使用して加算される。少なくとも１つの実施例では、これらの小さい要素から築かれる、はるかに大きい２次元又はさらに高次元の行列演算を実施するために、テンソル・コアが使用される。少なくとも１つの実施例では、ＣＵＤＡ－Ｃ＋＋ＡＰＩなどのＡＰＩは、ＣＵＤＡ－Ｃ＋＋プログラムからテンソル・コアを効率的に使用するために、特殊な行列ロード演算、行列積和演算、及び行列ストア演算を公開している。少なくとも１つの実施例では、ＣＵＤＡレベルにおいて、ワープ・レベル・インターフェースは、ワープの３２個のスレッドすべてに及ぶ１６×１６サイズの行列を仮定する。

【0208】

少なくとも１つの実施例では、各ＳＭ２８００は、限定はしないが、特殊関数（たとえば、属性評価、逆数平方根など）を実施するＭ個のＳＦＵ２８１２を含む。少なくとも１つの実施例では、ＳＦＵ２８１２は、限定はしないが、階層ツリー・データ構造をトラバースするように構成されたツリー・トラバーサル・ユニットを含む。少なくとも１つの実施例では、ＳＦＵ２８１２は、限定はしないが、テクスチャ・マップ・フィルタリング動作を実施するように構成されたテクスチャ・ユニットを含む。少なくとも１つの実施例では、テクスチャ・ユニットは、メモリ及びサンプル・テクスチャ・マップからテクスチャ・マップ（たとえば、テクセルの２Ｄアレイ）をロードして、ＳＭ２８００によって実行されるシェーダ・プログラムにおける使用のためのサンプリングされたテクスチャ値を作り出すように構成される。少なくとも１つの実施例では、テクスチャ・マップは、共有メモリ／Ｌ１キャッシュ２８１８に記憶される。少なくとも１つの実施例では、テクスチャ・ユニットは、ミップ・マップ（たとえば、詳細のレベルが異なるテクスチャ・マップ）を使用したフィルタリング動作などのテクスチャ動作を実装する。少なくとも１つの実施例では、各ＳＭ２８００は、限定はしないが、２つのテクスチャ・ユニットを含む。

【0209】

少なくとも１つの実施例では、各ＳＭ２８００は、限定はしないが、共有メモリ／Ｌ１キャッシュ２８１８とレジスタ・ファイル２８０８との間でロード及びストア動作を実装するＮ個のＬＳＵ２８１４を含む。少なくとも１つの実施例では、各ＳＭ２８００は、限定はしないが、相互接続ネットワーク２８１６を含み、相互接続ネットワーク２８１６は、機能ユニットの各々をレジスタ・ファイル２８０８に接続し、ＬＳＵ２８１４をレジスタ・ファイル２８０８及び共有メモリ／Ｌ１キャッシュ２８１８に接続する。少なくとも１つの実施例では、相互接続ネットワーク２８１６はクロスバーであり、クロスバーは、機能ユニットのうちのいずれかをレジスタ・ファイル２８０８中のレジスタのうちのいずれかに接続し、ＬＳＵ２８１４をレジスタ・ファイル２８０８と共有メモリ／Ｌ１キャッシュ２８１８中のメモリ・ロケーションとに接続するように構成され得る。

【0210】

少なくとも１つの実施例では、共有メモリ／Ｌ１キャッシュ２８１８は、ＳＭ２８００とプリミティブ・エンジンとの間及びＳＭ２８００中のスレッド間でのデータ・ストレージ及び通信を可能にするオンチップ・メモリのアレイである。少なくとも１つの実施例では、共有メモリ／Ｌ１キャッシュ２８１８は、限定はしないが、１２８ＫＢのストレージ容量を備え、ＳＭ２８００からパーティション・ユニットへの経路中にある。少なくとも１つの実施例では、共有メモリ／Ｌ１キャッシュ２８１８は、読取り及び書込みをキャッシュするために使用される。少なくとも１つの実施例では、共有メモリ／Ｌ１キャッシュ２８１８、Ｌ２キャッシュ、及びメモリのうちの１つ又は複数は、補助ストアである。

【0211】

少なくとも１つの実施例では、データ・キャッシュと共有メモリ機能性とを単一のメモリ・ブロックに組み合わせることは、両方のタイプのメモリ・アクセスについて改善された性能を提供する。少なくとも１つの実施例では、容量は、共有メモリが容量の半分を使用するように構成され、テクスチャ及びロード／ストア動作が残りの容量を使用することができる場合など、共有メモリを使用しないプログラムによってキャッシュとして使用されるか、又は使用可能である。少なくとも１つの実施例では、共有メモリ／Ｌ１キャッシュ２８１８内の統合は、共有メモリ／Ｌ１キャッシュ２８１８が、データをストリーミングするための高スループット管として機能しながら、同時に高帯域幅及び低レイテンシのアクセスを、頻繁に再使用されるデータに提供することを可能にする。少なくとも１つの実施例では、汎用並列算出のために構成されたとき、グラフィックス処理と比較してより簡単な構成が使用され得る。少なくとも１つの実施例では、固定機能ＧＰＵがバイパスされて、はるかに簡単なプログラミング・モデルを作成する。少なくとも１つの実施例では及び汎用並列算出構成では、ワーク分散ユニットは、スレッドのブロックをＤＰＣに直接割り当て、分散させる。少なくとも１つの実施例では、ブロック中のスレッドは、各スレッドが一意の結果を生成することを確実にするように、計算において一意のスレッドＩＤを使用して、同じプログラムを実行し、ＳＭ２８００を使用してプログラムを実行し、計算を実施し、共有メモリ／Ｌ１キャッシュ２８１８を使用してスレッド間で通信し、ＬＳＵ２８１４を使用して、共有メモリ／Ｌ１キャッシュ２８１８及びメモリ・パーティション・ユニットを通してグローバル・メモリを読み取り、書き込む。少なくとも１つの実施例では、汎用並列算出のために構成されたとき、ＳＭ２８００は、ＤＰＣ上で新しいワークを起動するためにスケジューラ・ユニット２８０４が使用することができるコマンドを書き込む。

【0212】

少なくとも１つの実施例では、ＰＰＵは、デスクトップ・コンピュータ、ラップトップ・コンピュータ、タブレット・コンピュータ、サーバ、スーパーコンピュータ、スマート・フォン（たとえば、ワイヤレス・ハンドヘルド・デバイス）、ＰＤＡ、デジタル・カメラ、車両、頭部装着型ディスプレイ、ハンドヘルド電子デバイスなどに含まれるか、又はそれらに結合される。少なくとも１つの実施例では、ＰＰＵは、単一の半導体基板上で具体化される。少なくとも１つの実施例では、ＰＰＵは、追加のＰＰＵ、メモリ、ＲＩＳＣ ＣＰＵ、ＭＭＵ、デジタル－アナログ変換器（「ＤＡＣ」：ｄｉｇｉｔａｌ－ｔｏ－ａｎａｌｏｇ ｃｏｎｖｅｒｔｅｒ）などの１つ又は複数の他のデバイスとともにＳｏＣ中に含まれる。

【0213】

少なくとも１つの実施例では、ＰＰＵは、１つ又は複数のメモリ・デバイスを含むグラフィックス・カード上に含まれ得る。少なくとも１つの実施例では、グラフィックス・カードは、デスクトップ・コンピュータのマザーボード上のＰＣＩｅスロットとインターフェースするように構成され得る。少なくとも１つの実施例では、ＰＰＵは、マザーボードのチップセット中に含まれる統合されたＧＰＵ（「ｉＧＰＵ」：ｉｎｔｅｇｒａｔｅｄ ＧＰＵ）であり得る。

【0214】

汎用コンピューティングのためのソフトウェア構築物
以下の図は、限定はしないが、少なくとも１つの実施例を実装するための例示的なソフトウェア構築物を記載する。

【0215】

図２９は、少なくとも１つの実施例による、プログラミング・プラットフォームのソフトウェア・スタックを示す。少なくとも１つの実施例では、プログラミング・プラットフォームは、算出タスクを加速するために、コンピューティング・システム上のハードウェアを活用するためのプラットフォームである。少なくとも１つの実施例では、プログラミング・プラットフォームは、ライブラリ、コンパイラ指令、及び／又はプログラミング言語への拡張を通して、ソフトウェア開発者にとってアクセス可能であり得る。少なくとも１つの実施例では、プログラミング・プラットフォームは、限定はしないが、ＣＵＤＡ、Ｒａｄｅｏｎオープン・コンピュート・プラットフォーム（「ＲＯＣｍ」：Ｒａｄｅｏｎ Ｏｐｅｎ Ｃｏｍｐｕｔｅ Ｐｌａｔｆｏｒｍ）、ＯｐｅｎＣＬ（ＯｐｅｎＣＬ（商標）はクロノス・グループ（Ｋｈｒｏｎｏｓ ｇｒｏｕｐ）によって開発される）、ＳＹＣＬ、又はＩｎｔｅｌ Ｏｎｅ ＡＰＩであり得る。

【0216】

少なくとも１つの実施例では、プログラミング・プラットフォームのソフトウェア・スタック２９００は、アプリケーション２９０１のための実行環境を提供する。少なくとも１つの実施例では、アプリケーション２９０１は、ソフトウェア・スタック２９００上で起動されることが可能な任意のコンピュータ・ソフトウェアを含み得る。少なくとも１つの実施例では、アプリケーション２９０１は、限定はしないが、人工知能（「ＡＩ」：ａｒｔｉｆｉｃｉａｌ ｉｎｔｅｌｌｉｇｅｎｃｅ）／機械学習（「ＭＬ」：ｍａｃｈｉｎｅ ｌｅａｒｎｉｎｇ）アプリケーション、高性能コンピューティング（「ＨＰＣ」）アプリケーション、仮想デスクトップ・インフラストラクチャ（「ＶＤＩ」：ｖｉｒｔｕａｌ ｄｅｓｋｔｏｐ ｉｎｆｒａｓｔｒｕｃｔｕｒｅ）、又はデータ・センタ・ワークロードを含み得る。

【0217】

少なくとも１つの実施例では、アプリケーション２９０１及びソフトウェア・スタック２９００は、ハードウェア２９０７上で稼働し得る。少なくとも１つの実施例では、ハードウェア２９０７は、１つ又は複数のＧＰＵ、ＣＰＵ、ＦＰＧＡ、ＡＩエンジン、及び／又はプログラミング・プラットフォームをサポートする他のタイプのコンピュート・デバイスを含み得る。ＣＵＤＡの場合など、少なくとも１つの実施例では、ソフトウェア・スタック２９００は、ベンダー固有であり、（１つ又は複数の）特定のベンダーからのデバイスのみと互換性があり得る。ＯｐｅｎＣＬの場合など、少なくとも１つの実施例では、ソフトウェア・スタック２９００は、異なるベンダーからのデバイスで使用され得る。少なくとも１つの実施例では、ハードウェア２９０７は、アプリケーション・プログラミング・インターフェース（「ＡＰＩ」）コールを介して算出タスクを実施するためにアクセスされ得るもう１つのデバイスに接続されたホストを含む。少なくとも１つの実施例では、限定はしないが、ＣＰＵ（ただし、コンピュート・デバイスをも含み得る）及びそのメモリを含み得る、ハードウェア２９０７内のホストとは対照的に、ハードウェア２９０７内のデバイスは、限定はしないが、ＧＰＵ、ＦＰＧＡ、ＡＩエンジン、又は他のコンピュート・デバイス（ただし、ＣＰＵをも含み得る）及びそのメモリを含み得る。

【0218】

少なくとも１つの実施例では、プログラミング・プラットフォームのソフトウェア・スタック２９００は、限定はしないが、いくつかのライブラリ２９０３と、ランタイム２９０５と、デバイス・カーネル・ドライバ２９０６とを含む。少なくとも１つの実施例では、ライブラリ２９０３の各々は、コンピュータ・プログラムによって使用され、ソフトウェア開発中に活用され得る、データ及びプログラミング・コードを含み得る。少なくとも１つの実施例では、ライブラリ２９０３は、限定はしないが、事前に書かれたコード及びサブルーチン、クラス、値、タイプ仕様、構成データ、ドキュメンテーション、ヘルプ・データ、並びに／又はメッセージ・テンプレートを含み得る。少なくとも１つの実施例では、ライブラリ２９０３は、１つ又は複数のタイプのデバイス上での実行のために最適化される機能を含む。少なくとも１つの実施例では、ライブラリ２９０３は、限定はしないが、デバイス上で数学、深層学習、及び／又は他のタイプの動作を実施するための機能を含み得る。少なくとも１つの実施例では、ライブラリ２９０３は、ライブラリ２９０３において実装される機能を公開する、１つ又は複数のＡＰＩを含み得る、対応するＡＰＩ２９０２に関連する。

【0219】

少なくとも１つの実施例では、アプリケーション２９０１は、図３４～図３６と併せて以下でより詳細に説明されるように、実行可能コードにコンパイルされるソース・コードとして書かれる。少なくとも１つの実施例では、アプリケーション２９０１の実行可能コードは、少なくとも部分的に、ソフトウェア・スタック２９００によって提供される実行環境上で稼働し得る。少なくとも１つの実施例では、アプリケーション２９０１の実行中に、ホストとは対照的な、デバイス上で稼働する必要があるコードに達し得る。少なくとも１つの実施例では、そのような場合、デバイス上で必須のコードをロード及び起動するために、ランタイム２９０５がコールされ得る。少なくとも１つの実施例では、ランタイム２９０５は、アプリケーションＳ０１の実行をサポートすることが可能である、任意の技術的に実現可能なランタイム・システムを含み得る。

【0220】

少なくとも１つの実施例では、ランタイム２９０５は、（１つ又は複数の）ＡＰＩ２９０４として示されている、対応するＡＰＩに関連する、１つ又は複数のランタイム・ライブラリとして実装される。少なくとも１つの実施例では、そのようなランタイム・ライブラリのうちの１つ又は複数は、限定はしないが、とりわけ、メモリ管理、実行制御、デバイス管理、エラー対処、及び／又は同期のための機能を含み得る。少なくとも１つの実施例では、メモリ管理機能は、限定はしないが、デバイス・メモリを割り振り、割振り解除し、コピーし、並びにホスト・メモリとデバイス・メモリとの間でデータを転送するための機能を含み得る。少なくとも１つの実施例では、実行制御機能は、限定はしないが、デバイス上で機能（機能がホストからコール可能なグローバル機能であるとき、「カーネル」と呼ばれることがある）を起動し、デバイス上で実行されるべき所与の機能のためのランタイム・ライブラリによって維持されるバッファ中に属性値をセットするための機能を含み得る。

【0221】

少なくとも１つの実施例では、ランタイム・ライブラリ及び対応する（１つ又は複数の）ＡＰＩ３００４は、任意の技術的に実現可能な様式で実装され得る。少なくとも１つの実施例では、ある（又は任意の数の）ＡＰＩは、デバイスのきめ細かい制御のための機能の低レベルのセットを公開し得るが、別の（又は任意の数の）ＡＰＩは、そのような機能のより高いレベルのセットを公開し得る。少なくとも１つの実施例では、高レベル・ランタイムＡＰＩは、低レベルＡＰＩの上に築かれ得る。少なくとも１つの実施例では、ランタイムＡＰＩのうちの１つ又は複数は、言語依存しないランタイムＡＰＩの上に階層化された言語固有ＡＰＩであり得る。

【0222】

少なくとも１つの実施例では、デバイス・カーネル・ドライバ２９０６は、基礎をなすデバイスとの通信を容易にするように構成される。少なくとも１つの実施例では、デバイス・カーネル・ドライバ２９０６は、（１つ又は複数の）ＡＰＩ３００４などのＡＰＩ及び／又は他のソフトウェアが依拠する、低レベル機能性を提供し得る。少なくとも１つの実施例では、デバイス・カーネル・ドライバ２９０６は、ランタイムにおいて中間表現（「ＩＲ」：ｉｎｔｅｒｍｅｄｉａｔｅ ｒｅｐｒｅｓｅｎｔａｔｉｏｎ）コードをバイナリ・コードにコンパイルするように構成され得る。少なくとも１つの実施例では、ＣＵＤＡの場合、デバイス・カーネル・ドライバ２９０６は、ハードウェア固有でない並列スレッド実行（「ＰＴＸ」：Ｐａｒａｌｌｅｌ Ｔｈｒｅａｄ Ｅｘｅｃｕｔｉｏｎ）ＩＲコードを、（コンパイルされたバイナリ・コードのキャッシングを伴って）ランタイムにおいて特定のターゲット・デバイスのためのバイナリ・コードにコンパイルし得、これは、コードを「ファイナライズする」（ｆｉｎａｌｉｚｉｎｇ）と呼ばれることもある。少なくとも１つの実施例では、そうすることは、ファイナライズされたコードがターゲット・デバイス上で稼働することを許し得、これは、ソース・コードが最初にＰＴＸコードにコンパイルされたとき、存在していないことがある。代替的に、少なくとも１つの実施例では、デバイス・ソース・コードは、デバイス・カーネル・ドライバ２９０６がランタイムにおいてＩＲコードをコンパイルすることを必要とすることなしに、オフラインでバイナリ・コードにコンパイルされ得る。

【0223】

図３０は、少なくとも１つの実施例による、図２９のソフトウェア・スタック２９００のＣＵＤＡ実装形態を示す。少なくとも１つの実施例では、アプリケーション３００１が起動され得るＣＵＤＡソフトウェア・スタック３０００は、ＣＵＤＡライブラリ３００３と、ＣＵＤＡランタイム３００５と、ＣＵＤＡドライバ３００７と、デバイス・カーネル・ドライバ３００８とを含む。少なくとも１つの実施例では、ＣＵＤＡソフトウェア・スタック３０００は、ハードウェア３００９上で実行し、ハードウェア３００９はＧＰＵを含み得、ＧＰＵは、ＣＵＤＡをサポートし、カリフォルニア州サンタクララのＮＶＩＤＩＡ Ｃｏｒｐｏｒａｔｉｏｎによって開発される。

【0224】

少なくとも１つの実施例では、アプリケーション３００１、ＣＵＤＡランタイム３００５、及びデバイス・カーネル・ドライバ３００８は、それぞれ、図２９と併せて上記で説明された、アプリケーション２９０１、ランタイム２９０５、及びデバイス・カーネル・ドライバ２９０６と同様の機能性を実施し得る。少なくとも１つの実施例では、ＣＵＤＡドライバ３００７は、ＣＵＤＡドライバＡＰＩ３００６を実装するライブラリ（ｌｉｂｃｕｄａ．ｓｏ）を含む。少なくとも１つの実施例では、ＣＵＤＡランタイム・ライブラリ（ｃｕｄａｒｔ）によって実装されるＣＵＤＡランタイムＡＰＩ３００４と同様に、ＣＵＤＡドライバＡＰＩ３００６は、限定はしないが、とりわけ、メモリ管理、実行制御、デバイス管理、エラー対処、同期、及び／又はグラフィックス相互運用性のための機能を公開し得る。少なくとも１つの実施例では、ＣＵＤＡドライバＡＰＩ３００６は、ＣＵＤＡランタイムＡＰＩ３００４が、暗黙的な初期化、（プロセスに類似する）コンテキスト管理、及び（動的にロードされたライブラリに類似する）モジュール管理を提供することによって、デバイス・コード管理を簡略化するという点で、ＣＵＤＡランタイムＡＰＩ３００４とは異なる。少なくとも１つの実施例では、高レベルＣＵＤＡランタイムＡＰＩ３００４とは対照的に、ＣＵＤＡドライバＡＰＩ３００６は、特にコンテキスト及びモジュール・ローディングに関して、デバイスのよりきめ細かい制御を提供する低レベルＡＰＩである。少なくとも１つの実施例では、ＣＵＤＡドライバＡＰＩ３００６は、ＣＵＤＡランタイムＡＰＩ３００４によって公開されないコンテキスト管理のための機能を公開し得る。少なくとも１つの実施例では、ＣＵＤＡドライバＡＰＩ３００６はまた、言語依存せず、たとえば、ＣＵＤＡランタイムＡＰＩ３００４に加えて、ＯｐｅｎＣＬをサポートする。さらに、少なくとも１つの実施例では、ＣＵＤＡランタイム３００５を含む開発ライブラリは、ユーザモードＣＵＤＡドライバ３００７と（「ディスプレイ」ドライバと呼ばれることもある）カーネルモード・デバイス・ドライバ３００８とを含むドライバ構成要素とは別個のものと見なされ得る。

【0225】

少なくとも１つの実施例では、ＣＵＤＡライブラリ３００３は、限定はしないが、数学ライブラリ、深層学習ライブラリ、並列アルゴリズム・ライブラリ、及び／又は信号／画像／ビデオ処理ライブラリを含み得、それらをアプリケーション３００１などの並列コンピューティング・アプリケーションが利用し得る。少なくとも１つの実施例では、ＣＵＤＡライブラリ３００３は、とりわけ、線形代数演算を実施するための基本線形代数サブプログラム（「ＢＬＡＳ」：Ｂａｓｉｃ Ｌｉｎｅａｒ Ａｌｇｅｂｒａ Ｓｕｂｐｒｏｇｒａｍｓ）の実装であるｃｕＢＬＡＳライブラリ、高速フーリエ変換（「ＦＦＴ」：ｆａｓｔ Ｆｏｕｒｉｅｒ ｔｒａｎｓｆｏｒｍ）を算出するためのｃｕＦＦＴライブラリ、及び乱数を生成するためのｃｕＲＡＮＤライブラリなど、数学ライブラリを含み得る。少なくとも１つの実施例では、ＣＵＤＡライブラリ３００３は、とりわけ、深層ニューラル・ネットワークのためのプリミティブのｃｕＤＮＮライブラリ及び高性能深層学習推論のためのＴｅｎｓｏｒＲＴプラットフォームなど、深層学習ライブラリを含み得る。

【0226】

図３１は、少なくとも１つの実施例による、図２９のソフトウェア・スタック２９００のＲＯＣｍ実装形態を示す。少なくとも１つの実施例では、アプリケーション３１０１が起動され得るＲＯＣｍソフトウェア・スタック３１００は、言語ランタイム３１０３と、システム・ランタイム３１０５と、サンク（ｔｈｕｎｋ）３１０７と、ＲＯＣｍカーネル・ドライバ３１０８とを含む。少なくとも１つの実施例では、ＲＯＣｍソフトウェア・スタック３１００は、ハードウェア３１０９上で実行し、ハードウェア３１０９はＧＰＵを含み得、ＧＰＵは、ＲＯＣｍをサポートし、カリフォルニア州サンタクララのＡＭＤ Ｃｏｒｐｏｒａｔｉｏｎによって開発される。

【0227】

少なくとも１つの実施例では、アプリケーション３１０１は、図２９と併せて上記で説明されたアプリケーション２９０１と同様の機能性を実施し得る。少なくとも１つの実施例では、さらに、言語ランタイム３１０３及びシステム・ランタイム３１０５は、図２９と併せて上記で説明されたランタイム２９０５と同様の機能性を実施し得る。少なくとも１つの実施例では、言語ランタイム３１０３とシステム・ランタイム３１０５とは、システム・ランタイム３１０５が、ＲＯＣｒシステム・ランタイムＡＰＩ３１０４を実装し、異種システム・アーキテクチャ（「ＨＳＡ」：Ｈｅｔｅｒｏｇｅｎｅｏｕｓ Ｓｙｓｔｅｍ Ａｒｃｈｉｔｅｃｔｕｒｅ）ランタイムＡＰＩを利用する、言語依存しないランタイムであるという点で、異なる。少なくとも１つの実施例では、ＨＳＡランタイムＡＰＩは、とりわけ、メモリ管理、カーネルの設計されたディスパッチを介した実行制御、エラー対処、システム及びエージェント情報、並びにランタイム初期化及び停止（ｓｈｕｔｄｏｗｎ）のための機能を含む、ＡＭＤ ＧＰＵにアクセスし、それと対話するためのインターフェースを公開する、シン（ｔｈｉｎ）・ユーザモードＡＰＩである。少なくとも１つの実施例では、システム・ランタイム３１０５とは対照的に、言語ランタイム３１０３は、ＲＯＣｒシステム・ランタイムＡＰＩ３１０４の上に階層化された言語固有ランタイムＡＰＩ３１０２の実装である。少なくとも１つの実施例では、言語ランタイムＡＰＩは、限定はしないが、とりわけ、ポータビリティのための異種コンピュート・インターフェース（「ＨＩＰ」：Ｈｅｔｅｒｏｇｅｎｅｏｕｓ ｃｏｍｐｕｔｅ Ｉｎｔｅｒｆａｃｅ ｆｏｒ Ｐｏｒｔａｂｉｌｉｔｙ）言語ランタイムＡＰＩ、異種コンピュート・コンパイラ（「ＨＣＣ」：Ｈｅｔｅｒｏｇｅｎｅｏｕｓ Ｃｏｍｐｕｔｅ Ｃｏｍｐｉｌｅｒ）言語ランタイムＡＰＩ、又はＯｐｅｎＣＬ ＡＰＩを含み得る。特にＨＩＰ言語は、機能的に同様のバージョンのＣＵＤＡ機構をもつＣ＋＋プログラミング言語の拡張であり、少なくとも１つの実施例では、ＨＩＰ言語ランタイムＡＰＩは、とりわけ、メモリ管理、実行制御、デバイス管理、エラー対処、及び同期のための機能など、図３０と併せて上記で説明されたＣＵＤＡランタイムＡＰＩ３００４の機能と同様である機能を含む。

【0228】

少なくとも１つの実施例では、サンク（ＲＯＣｔ）３１０７は、基礎をなすＲＯＣｍドライバ３１０８と対話するために使用され得るインターフェース３１０６である。少なくとも１つの実施例では、ＲＯＣｍドライバ３１０８は、ＡＭＤＧＰＵドライバとＨＳＡカーネル・ドライバ（ａｍｄｋｆｄ）との組合せである、ＲＯＣｋドライバである。少なくとも１つの実施例では、ＡＭＤＧＰＵドライバは、図２９と併せて上記で説明されたデバイス・カーネル・ドライバ２９０６と同様の機能性を実施する、ＡＭＤによって開発されたＧＰＵのためのデバイス・カーネル・ドライバである。少なくとも１つの実施例では、ＨＳＡカーネル・ドライバは、異なるタイプのプロセッサがハードウェア特徴を介してより効果的にシステム・リソースを共有することを許すドライバである。

【0229】

少なくとも１つの実施例では、様々なライブラリ（図示せず）が、言語ランタイム３１０３より上にＲＯＣｍソフトウェア・スタック３１００中に含まれ、図３０と併せて上記で説明されたＣＵＤＡライブラリ３００３に対する機能性の類似性を提供し得る。少なくとも１つの実施例では、様々なライブラリは、限定はしないが、とりわけ、ＣＵＤＡ ｃｕＢＬＡＳの機能と同様の機能を実装するｈｉｐＢＬＡＳライブラリ、ＣＵＤＡ ｃｕＦＦＴと同様であるＦＦＴを算出するためのｒｏｃＦＦＴライブラリなど、数学、深層学習、及び／又は他のライブラリを含み得る。

【0230】

図３２は、少なくとも１つの実施例による、図２９のソフトウェア・スタック２９００のＯｐｅｎＣＬ実装形態を示す。少なくとも１つの実施例では、アプリケーション３２０１が起動され得るＯｐｅｎＣＬソフトウェア・スタック３２００は、ＯｐｅｎＣＬフレームワーク３２１０と、ＯｐｅｎＣＬランタイム３２０６と、ドライバ３２０７とを含む。少なくとも１つの実施例では、ＯｐｅｎＣＬソフトウェア・スタック３２００は、ベンダー固有でないハードウェア３００９上で実行する。少なくとも１つの実施例では、ＯｐｅｎＣＬは、異なるベンダーによって開発されたデバイスによってサポートされるので、そのようなベンダーからのハードウェアと相互動作するために、特定のＯｐｅｎＣＬドライバが必要とされ得る。

【0231】

少なくとも１つの実施例では、アプリケーション３２０１、ＯｐｅｎＣＬランタイム３２０６、デバイス・カーネル・ドライバ３２０７、及びハードウェア３２０８は、それぞれ、図２９と併せて上記で説明された、アプリケーション２９０１、ランタイム２９０５、デバイス・カーネル・ドライバ２９０６、及びハードウェア２９０７と同様の機能性を実施し得る。少なくとも１つの実施例では、アプリケーション３２０１は、デバイス上で実行されるべきであるコードをもつＯｐｅｎＣＬカーネル３２０２をさらに含む。

【0232】

少なくとも１つの実施例では、ＯｐｅｎＣＬは、ホストに接続されたデバイスをホストが制御することを可能にする「プラットフォーム」を定義する。少なくとも１つの実施例では、ＯｐｅｎＣＬフレームワークは、プラットフォームＡＰＩ３２０３及びランタイムＡＰＩ３２０５として示されている、プラットフォーム層ＡＰＩ及びランタイムＡＰＩを提供する。少なくとも１つの実施例では、ランタイムＡＰＩ３２０５は、デバイス上でのカーネルの実行を管理するためにコンテキストを使用する。少なくとも１つの実施例では、各識別されたデバイスは、それぞれのコンテキストに関連し得、ランタイムＡＰＩ３２０５は、それぞれのコンテキストを使用して、そのデバイスのために、とりわけ、コマンド・キュー、プログラム・オブジェクト、及びカーネル・オブジェクトを管理し、メモリ・オブジェクトを共有し得る。少なくとも１つの実施例では、プラットフォームＡＰＩ３２０３は、とりわけ、デバイスを選択及び初期化し、コマンド・キューを介してデバイスにワークをサブミットし、デバイスとの間でのデータ転送を可能にするために、デバイス・コンテキストが使用されることを許す機能を公開する。少なくとも１つの実施例では、さらに、ＯｐｅｎＣＬフレームワークは、とりわけ、数学関数とリレーショナル関数と画像処理関数とを含む、様々な組み込み関数（図示せず）を提供する。

【0233】

少なくとも１つの実施例では、コンパイラ３２０４も、ＯｐｅｎＣＬフレームワーク３２１０中に含まれる。少なくとも１つの実施例では、ソース・コードは、アプリケーションを実行するより前にオフラインでコンパイルされるか、又はアプリケーションの実行中にオンラインでコンパイルされ得る。ＣＵＤＡ及びＲＯＣｍとは対照的に、少なくとも１つの実施例におけるＯｐｅｎＣＬアプリケーションは、コンパイラ３２０４によってオンラインでコンパイルされ得、コンパイラ３２０４は、標準ポータブル中間表現（「ＳＰＩＲ－Ｖ」：Ｓｔａｎｄａｒｄ Ｐｏｒｔａｂｌｅ Ｉｎｔｅｒｍｅｄｉａｔｅ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ）コードなど、ソース・コード及び／又はＩＲコードをバイナリ・コードにコンパイルするために使用され得る、任意の数のコンパイラを表すために含まれる。代替的に、少なくとも１つの実施例では、ＯｐｅｎＣＬアプリケーションは、そのようなアプリケーションの実行より前に、オフラインでコンパイルされ得る。

【0234】

図３３は、少なくとも１つの実施例による、プログラミング・プラットフォームによってサポートされるソフトウェアを示す。少なくとも１つの実施例では、プログラミング・プラットフォーム３３０４は、アプリケーション３３００が依拠し得る、様々なプログラミング・モデル３３０３、ミドルウェア及び／又はライブラリ３３０２、並びにフレームワーク３３０１をサポートするように構成される。少なくとも１つの実施例では、アプリケーション３３００は、たとえば、ＭＸＮｅｔ、ＰｙＴｏｒｃｈ、又はＴｅｎｓｏｒＦｌｏｗなど、深層学習フレームワークを使用して実装される、ＡＩ／ＭＬアプリケーションであり得、これは、基礎をなすハードウェア上で加速コンピューティングを提供するために、ｃｕＤＮＮ、ＮＶＩＤＩＡ集合通信ライブラリ（「ＮＣＣＬ」：ＮＶＩＤＩＡ Ｃｏｌｌｅｃｔｉｖｅ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ Ｌｉｂｒａｒｙ）、及び／又はＮＶＩＤＡディベロッパー・データ・ローディング・ライブラリ（「ＤＡＬＩ」：ＮＶＩＤＡ Ｄｅｖｅｌｏｐｅｒ Ｄａｔａ Ｌｏａｄｉｎｇ Ｌｉｂｒａｒｙ）ＣＵＤＡライブラリなど、ライブラリに依拠し得る。

【0235】

少なくとも１つの実施例では、プログラミング・プラットフォーム３３０４は、それぞれ、図３０、図３１、及び図３２と併せて上記で説明された、ＣＵＤＡ、ＲＯＣｍ、又はＯｐｅｎＣＬプラットフォームのうちの１つであり得る。少なくとも１つの実施例では、プログラミング・プラットフォーム３３０４は、アルゴリズム及びデータ構造の表現を許す基礎をなすコンピューティング・システムの抽象化である、複数のプログラミング・モデル３３０３をサポートする。少なくとも１つの実施例では、プログラミング・モデル３３０３は、性能を改善するために、基礎をなすハードウェアの特徴を公開し得る。少なくとも１つの実施例では、プログラミング・モデル３３０３は、限定はしないが、ＣＵＤＡ、ＨＩＰ、ＯｐｅｎＣＬ、Ｃ＋＋加速超並列処理（「Ｃ＋＋ＡＭＰ」：Ｃ＋＋ Ａｃｃｅｌｅｒａｔｅｄ Ｍａｓｓｉｖｅ Ｐａｒａｌｌｅｌｉｓｍ）、オープン・マルチプロセシング（「ＯｐｅｎＭＰ」：Ｏｐｅｎ Ｍｕｌｔｉ－Ｐｒｏｃｅｓｓｉｎｇ）、オープン・アクセラレータ（「ＯｐｅｎＡＣＣ」：Ｏｐｅｎ Ａｃｃｅｌｅｒａｔｏｒｓ）、及び／又はＶｕｌｃａｎコンピュート（Ｖｕｌｃａｎ Ｃｏｍｐｕｔｅ）を含み得る。

【0236】

少なくとも１つの実施例では、ライブラリ及び／又はミドルウェア３３０２は、プログラミング・モデル３３０４の抽象化の実装を提供する。少なくとも１つの実施例では、そのようなライブラリは、コンピュータ・プログラムによって使用され、ソフトウェア開発中に活用され得る、データ及びプログラミング・コードを含む。少なくとも１つの実施例では、そのようなミドルウェアは、プログラミング・プラットフォーム３３０４から利用可能なソフトウェア以外にアプリケーションにサービスを提供するソフトウェアを含む。少なくとも１つの実施例では、ライブラリ及び／又はミドルウェア３３０２は、限定はしないが、ｃｕＢＬＡＳ、ｃｕＦＦＴ、ｃｕＲＡＮＤ、及び他のＣＵＤＡライブラリ、又は、ｒｏｃＢＬＡＳ、ｒｏｃＦＦＴ、ｒｏｃＲＡＮＤ、及び他のＲＯＣｍライブラリを含み得る。さらに、少なくとも１つの実施例では、ライブラリ及び／又はミドルウェア３３０２は、ＧＰＵのための通信ルーチンを提供するＮＣＣＬ及びＲＯＣｍ通信集合ライブラリ（「ＲＣＣＬ」：ＲＯＣｍ Ｃｏｍｍｕｎｉｃａｔｉｏｎ Ｃｏｌｌｅｃｔｉｖｅｓ Ｌｉｂｒａｒｙ）のライブラリ、深層学習加速のためのＭＩＯｐｅｎライブラリ、並びに／又は、線形代数、行列及びベクトル演算、幾何学的変換、数値ソルバー、及び関係するアルゴリズムのための固有（Ｅｉｇｅｎ）ライブラリを含み得る。

【0237】

少なくとも１つの実施例では、アプリケーション・フレームワーク３３０１は、ライブラリ及び／又はミドルウェア３３０２に依存する。少なくとも１つの実施例では、アプリケーション・フレームワーク３３０１の各々は、アプリケーション・ソフトウェアの標準構造を実装するために使用されるソフトウェア・フレームワークである。少なくとも１つの実施例では、上記で説明されたＡＩ／ＭＬ実例に戻ると、ＡＩ／ＭＬアプリケーションは、Ｃａｆｆｅ、Ｃａｆｆｅ２、ＴｅｎｓｏｒＦｌｏｗ、Ｋｅｒａｓ、ＰｙＴｏｒｃｈ、又はＭｘＮｅｔ深層学習フレームワークなど、フレームワークを使用して実装され得る。

【0238】

図３４は、少なくとも１つの実施例による、図２９～図３２のプログラミング・プラットフォームのうちの１つの上で実行するためのコードをコンパイルすることを示す。少なくとも１つの実施例では、コンパイラ３４０１は、ホスト・コード並びにデバイス・コードの両方を含むソース・コード３４００を受信する。少なくとも１つの実施例では、コンパイラ３４０１は、ソース・コード３４００を、ホスト上での実行のためのホスト実行可能コード３４０２及びデバイス上での実行のためのデバイス実行可能コード３４０３にコンバートするように構成される。少なくとも１つの実施例では、ソース・コード３４００は、アプリケーションの実行より前にオフラインでコンパイルされるか、又はアプリケーションの実行中にオンラインでコンパイルされるかのいずれかであり得る。

【0239】

少なくとも１つの実施例では、ソース・コード３４００は、Ｃ＋＋、Ｃ、Ｆｏｒｔｒａｎなど、コンパイラ３４０１によってサポートされる任意のプログラミング言語のコードを含み得る。少なくとも１つの実施例では、ソース・コード３４００は、ホスト・コードとデバイス・コードとの混合物を有する単一ソース・ファイル中に含まれ得、その中にデバイス・コードのロケーションが示されている。少なくとも１つの実施例では、単一ソース・ファイルは、ＣＵＤＡコードを含む．ｃｕファイル、又はＨＩＰコードを含む．ｈｉｐ．ｃｐｐファイルであり得る。代替的に、少なくとも１つの実施例では、ソース・コード３４００は、その中でホスト・コードとデバイス・コードとが分離される単一ソース・ファイルではなく、複数のソース・コード・ファイルを含み得る。

【0240】

少なくとも１つの実施例では、コンパイラ３４０１は、ソース・コード３４００を、ホスト上での実行のためのホスト実行可能コード３４０２及びデバイス上での実行のためのデバイス実行可能コード３４０３にコンパイルするように構成される。少なくとも１つの実施例では、コンパイラ３４０１は、ソース・コード３４００を抽象システム・ツリー（ＡＳＴ：ａｂｓｔｒａｃｔ ｓｙｓｔｅｍ ｔｒｅｅ）に構文解析することと、最適化を実施することと、実行可能コードを生成することとを含む、動作を実施する。ソース・コード３４００が単一ソース・ファイルを含む、少なくとも１つの実施例では、コンパイラ３４０１は、図３５に関して以下でより詳細に説明されるように、そのような単一ソース・ファイル中でデバイス・コードをホスト・コードから分離し、デバイス・コード及びホスト・コードを、それぞれ、デバイス実行可能コード３４０３及びホスト実行可能コード３４０２にコンパイルし、デバイス実行可能コード３４０３とホスト実行可能コード３４０２とを単一のファイルにおいて互いにリンクし得る。

【0241】

少なくとも１つの実施例では、ホスト実行可能コード３４０２及びデバイス実行可能コード３４０３は、バイナリ・コード及び／又はＩＲコードなど、任意の好適なフォーマットのものであり得る。少なくとも１つの実施例では、ＣＵＤＡの場合、ホスト実行可能コード３４０２は、ネイティブ・オブジェクト・コードを含み得、デバイス実行可能コード３４０３は、ＰＴＸ中間表現のコードを含み得る。少なくとも１つの実施例では、ＲＯＣｍの場合、ホスト実行可能コード３４０２とデバイス実行可能コード３４０３の両方は、ターゲット・バイナリ・コードを含み得る。

【0242】

図３５は、少なくとも１つの実施例による、図２９～図３２のプログラミング・プラットフォームのうちの１つの上で実行するためのコードをコンパイルすることのより詳細な図である。少なくとも１つの実施例では、コンパイラ３５０１は、ソース・コード３５００を受信し、ソース・コード３５００をコンパイルし、実行可能ファイル３５１０を出力するように構成される。少なくとも１つの実施例では、ソース・コード３５００は、ホスト・コードとデバイス・コードの両方を含む、．ｃｕファイル、．ｈｉｐ．ｃｐｐファイル、又は別のフォーマットのファイルなど、単一ソース・ファイルである。少なくとも１つの実施例では、コンパイラ３５０１は、限定はしないが、．ｃｕファイル中のＣＵＤＡコードをコンパイルするためのＮＶＩＤＩＡ ＣＵＤＡコンパイラ（「ＮＶＣＣ」：ＮＶＩＤＩＡ ＣＵＤＡ ｃｏｍｐｉｌｅｒ）、又は．ｈｉｐ．ｃｐｐファイル中のＨＩＰコードをコンパイルするためのＨＣＣコンパイラであり得る。

【0243】

少なくとも１つの実施例では、コンパイラ３５０１は、コンパイラ・フロント・エンド３５０２と、ホスト・コンパイラ３５０５と、デバイス・コンパイラ３５０６と、リンカ３５０９とを含む。少なくとも１つの実施例では、コンパイラ・フロント・エンド３５０２は、ソース・コード３５００中でデバイス・コード３５０４をホスト・コード３５０３から分離するように構成される。少なくとも１つの実施例では、デバイス・コード３５０４は、デバイス・コンパイラ３５０６によってデバイス実行可能コード３５０８にコンパイルされ、デバイス実行可能コード３５０８は、説明されたように、バイナリ・コード又はＩＲコードを含み得る。少なくとも１つの実施例では、別個に、ホスト・コード３５０３は、ホスト・コンパイラ３５０５によってホスト実行可能コード３５０７にコンパイルされる。少なくとも１つの実施例では、ＮＶＣＣの場合、ホスト・コンパイラ３５０５は、限定はしないが、ネイティブ・オブジェクト・コードを出力する汎用Ｃ／Ｃ＋＋コンパイラであり得るが、デバイス・コンパイラ３５０６は、限定はしないが、ＬＬＶＭコンパイラ・インフラストラクチャをフォークし、ＰＴＸコード又はバイナリ・コードを出力する、低レベル仮想機械（「ＬＬＶＭ」：Ｌｏｗ Ｌｅｖｅｌ Ｖｉｒｔｕａｌ Ｍａｃｈｉｎｅ）ベースのコンパイラであり得る。少なくとも１つの実施例では、ＨＣＣの場合、ホスト・コンパイラ３５０５とデバイス・コンパイラ３５０６の両方は、限定はしないが、ターゲット・バイナリ・コードを出力するＬＬＶＭベースのコンパイラであり得る。

【0244】

少なくとも１つの実施例では、ソース・コード３５００をホスト実行可能コード３５０７及びデバイス実行可能コード３５０８にコンパイルした後に、リンカ３５０９は、ホスト実行可能コード３５０７とデバイス実行可能コード３５０８とを実行可能ファイル３５１０において互いにリンクする。少なくとも１つの実施例では、ホストのためのネイティブ・オブジェクト・コードと、デバイスのためのＰＴＸ又はバイナリ・コードとは、オブジェクト・コードを記憶するために使用されるコンテナ・フォーマットである、実行可能及びリンク可能フォーマット（「ＥＬＦ」：Ｅｘｅｃｕｔａｂｌｅ ａｎｄ Ｌｉｎｋａｂｌｅ Ｆｏｒｍａｔ）ファイルにおいて互いにリンクされ得る。

【0245】

図３６は、少なくとも１つの実施例による、ソース・コードをコンパイルするより前にソース・コードをトランスレートすることを示す。少なくとも１つの実施例では、ソース・コード３６００は、トランスレーション・ツール３６０１を通して渡され、トランスレーション・ツール３６０１は、ソース・コード３６００を、トランスレートされたソース・コード３６０２にトランスレートする。少なくとも１つの実施例では、コンパイラ３６０３は、図３４と併せて上記で説明されたように、ホスト実行可能コード３４０２及びデバイス実行可能３４０３へのコンパイラ３４０１によるソース・コード３４００のコンパイルと同様であるプロセスにおいて、トランスレートされたソース・コード３６０２をホスト実行可能コード３６０４及びデバイス実行可能コード３６０５にコンパイルするために使用される。

【0246】

少なくとも１つの実施例では、トランスレーション・ツール３６０１によって実施されるトランスレーションは、稼働することが最初に意図された環境とは異なる環境における実行のためにソース３６００を移植するために使用される。少なくとも１つの実施例では、トランスレーション・ツール３６０１は、限定はしないが、ＣＵＤＡプラットフォームを対象とするＣＵＤＡコードを、ＲＯＣｍプラットフォーム上でコンパイル及び実行され得るＨＩＰコードに「ｈｉｐｉｆｙ」するために使用される、ＨＩＰトランスレータを含み得る。少なくとも１つの実施例では、ソース・コード３６００のトランスレーションは、図３７Ａ～図３８と併せて以下でより詳細に説明されるように、ソース・コード３６００を構文解析することと、あるプログラミング・モデル（たとえば、ＣＵＤＡ）によって提供される（１つ又は複数の）ＡＰＩへのコールを、別のプログラミング・モデル（たとえば、ＨＩＰ）によって提供される（１つ又は複数の）ＡＰＩへの対応するコールにコンバートすることとを含み得る。少なくとも１つの実施例では、ＣＵＤＡコードをｈｉｐｉｆｙすることの実例に戻ると、ＣＵＤＡランタイムＡＰＩ、ＣＵＤＡドライバＡＰＩ、及び／又はＣＵＤＡライブラリへのコールは、対応するＨＩＰ ＡＰＩコールにコンバートされ得る。少なくとも１つの実施例では、トランスレーション・ツール３６０１によって実施される自動トランスレーションは、時々、不完全であり、ソース・コード３６００を完全に移植するために追加の手動の労力を必要とし得る。

【0247】

汎用コンピューティングのためのＧＰＵを構成すること
以下の図は、限定はしないが、少なくとも１つの実施例による、コンピュート・ソース・コードをコンパイル及び実行するための例示的なアーキテクチャを記載する。

【0248】

図３７Ａは、少なくとも１つの実施例による、異なるタイプの処理ユニットを使用してＣＵＤＡソース・コード３７１０をコンパイル及び実行するように構成されたシステム３７Ａ００を示す。少なくとも１つの実施例では、システム３７Ａ００は、限定はしないが、ＣＵＤＡソース・コード３７１０と、ＣＵＤＡコンパイラ３７５０と、ホスト実行可能コード３７７０（１）と、ホスト実行可能コード３７７０（２）と、ＣＵＤＡデバイス実行可能コード３７８４と、ＣＰＵ３７９０と、ＣＵＤＡ対応ＧＰＵ３７９４と、ＧＰＵ３７９２と、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０と、ＨＩＰソース・コード３７３０と、ＨＩＰコンパイラ・ドライバ３７４０と、ＨＣＣ３７６０と、ＨＣＣデバイス実行可能コード３７８２とを含む。

【0249】

少なくとも１つの実施例では、ＣＵＤＡソース・コード３７１０は、ＣＵＤＡプログラミング言語の人間が読み取れるコードの集合である。少なくとも１つの実施例では、ＣＵＤＡコードは、ＣＵＤＡプログラミング言語の人間が読み取れるコードである。少なくとも１つの実施例では、ＣＵＤＡプログラミング言語は、限定はしないが、デバイス・コードを定義し、デバイス・コードとホスト・コードとを区別するための機構を含む、Ｃ＋＋プログラミング言語の拡張である。少なくとも１つの実施例では、デバイス・コードは、コンパイルの後にデバイス上で並列に実行可能であるソース・コードである。少なくとも１つの実施例では、デバイスは、ＣＵＤＡ対応ＧＰＵ３７９０、ＧＰＵ３７１９２、又は別のＧＰＧＰＵなど、並列命令処理のために最適化されるプロセッサであり得る。少なくとも１つの実施例では、ホスト・コードは、コンパイルの後にホスト上で実行可能であるソース・コードである。少なくとも１つの実施例では、ホストは、ＣＰＵ３７９０など、連続命令処理のために最適化されるプロセッサである。

【0250】

少なくとも１つの実施例では、ＣＵＤＡソース・コード３７１０は、限定はしないが、（ゼロを含む）任意の数のグローバル機能３７１２と、（ゼロを含む）任意の数のデバイス機能３７１４と、（ゼロを含む）任意の数のホスト機能３７１６と、（ゼロを含む）任意の数のホスト／デバイス機能３７１８とを含む。少なくとも１つの実施例では、グローバル機能３７１２と、デバイス機能３７１４と、ホスト機能３７１６と、ホスト／デバイス機能３７１８とは、ＣＵＤＡソース・コード３７１０中で混合され得る。少なくとも１つの実施例では、グローバル機能３７１２の各々は、デバイス上で実行可能であり、ホストからコール可能である。少なくとも１つの実施例では、グローバル機能３７１２のうちの１つ又は複数は、したがって、デバイスへのエントリ・ポイントとして働き得る。少なくとも１つの実施例では、グローバル機能３７１２の各々はカーネルである。少なくとも１つの実施例では、及び動的並列処理として知られる技法では、グローバル機能３７１２のうちの１つ又は複数は、カーネルを定義し、カーネルは、デバイス上で実行可能であり、そのようなデバイスからコール可能である。少なくとも１つの実施例では、カーネルは、実行中にデバイス上のＮ（ここで、Ｎは任意の正の整数である）個の異なるスレッドによって並列にＮ回実行される。

【0251】

少なくとも１つの実施例では、デバイス機能３７１４の各々は、デバイス上で実行され、そのようなデバイスからのみコール可能である。少なくとも１つの実施例では、ホスト機能３７１６の各々は、ホスト上で実行され、そのようなホストからのみコール可能である。少なくとも１つの実施例では、ホスト／デバイス機能３７１６の各々は、ホスト上で実行可能であり、そのようなホストからのみコール可能であるホスト・バージョンの機能と、デバイス上で実行可能であり、そのようなデバイスからのみコール可能であるデバイス・バージョンの機能の両方を定義する。

【0252】

少なくとも１つの実施例では、ＣＵＤＡソース・コード３７１０は、限定はしないが、ＣＵＤＡランタイムＡＰＩ３７０２を介して定義される任意の数の機能への任意の数のコールをも含み得る。少なくとも１つの実施例では、ＣＵＤＡランタイムＡＰＩ３７０２は、限定はしないが、デバイス・メモリを割り振り、割振り解除し、ホスト・メモリとデバイス・メモリとの間でデータを転送し、複数のデバイスをもつシステムを管理するなどのためにホスト上で実行する、任意の数の機能を含み得る。少なくとも１つの実施例では、ＣＵＤＡソース・コード３７１０は、任意の数の他のＣＵＤＡ ＡＰＩにおいて指定される任意の数の機能への任意の数のコールをも含み得る。少なくとも１つの実施例では、ＣＵＤＡ ＡＰＩは、ＣＵＤＡコードによる使用のために設計される任意のＡＰＩであり得る。少なくとも１つの実施例では、ＣＵＤＡ ＡＰＩは、限定はしないが、ＣＵＤＡランタイムＡＰＩ３７０２、ＣＵＤＡドライバＡＰＩ、任意の数のＣＵＤＡライブラリのためのＡＰＩなどを含む。少なくとも１つの実施例では、及びＣＵＤＡランタイムＡＰＩ３７０２に対して、ＣＵＤＡドライバＡＰＩは、より低いレベルのＡＰＩであるが、デバイスのよりきめ細かい制御を提供する。少なくとも１つの実施例では、ＣＵＤＡライブラリの実例は、限定はしないが、ｃｕＢＬＡＳ、ｃｕＦＦＴ、ｃｕＲＡＮＤ、ｃｕＤＮＮなどを含む。

【0253】

少なくとも１つの実施例では、ＣＵＤＡコンパイラ３７５０は、ホスト実行可能コード３７７０（１）及びＣＵＤＡデバイス実行可能コード３７８４を生成するために、入力ＣＵＤＡコード（たとえば、ＣＵＤＡソース・コード３７１０）をコンパイルする。少なくとも１つの実施例では、ＣＵＤＡコンパイラ３７５０はＮＶＣＣである。少なくとも１つの実施例では、ホスト実行可能コード３７７０（１）は、ＣＰＵ３７９０上で実行可能である、入力ソース・コード中に含まれるホスト・コードのコンパイルされたバージョンである。少なくとも１つの実施例では、ＣＰＵ３７９０は、連続命令処理のために最適化される任意のプロセッサであり得る。

【0254】

少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３７８４は、ＣＵＤＡ対応ＧＰＵ３７９４上で実行可能である、入力ソース・コード中に含まれるデバイス・コードのコンパイルされたバージョンである。少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３７８４は、限定はしないが、バイナリ・コードを含む。少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３７８４は、限定はしないが、ＰＴＸコードなどのＩＲコードを含み、これは、デバイス・ドライバによって、特定のターゲット・デバイス（たとえば、ＣＵＤＡ対応ＧＰＵ３７９４）のためのバイナリ・コードに、ランタイムにおいてさらにコンパイルされる。少なくとも１つの実施例では、ＣＵＤＡ対応ＧＰＵ３７９４は、並列命令処理のために最適化され、ＣＵＤＡをサポートする、任意のプロセッサであり得る。少なくとも１つの実施例では、ＣＵＤＡ対応ＧＰＵ３７９４は、カリフォルニア州サンタクララのＮＶＩＤＩＡ Ｃｏｒｐｏｒａｔｉｏｎによって開発される。

【0255】

少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０は、ＣＵＤＡソース・コード３７１０を機能的に同様のＨＩＰソース・コード３７３０にトランスレートするように構成される。少なくとも１つの実施例では、ＨＩＰソース・コード３７３０は、ＨＩＰプログラミング言語の人間が読み取れるコードの集合である。少なくとも１つの実施例では、ＨＩＰコードは、ＨＩＰプログラミング言語の人間が読み取れるコードである。少なくとも１つの実施例では、ＨＩＰプログラミング言語は、限定はしないが、デバイス・コードを定義し、デバイス・コードとホスト・コードとを区別するための、機能的に同様のバージョンのＣＵＤＡ機構を含む、Ｃ＋＋プログラミング言語の拡張である。少なくとも１つの実施例では、ＨＩＰプログラミング言語は、ＣＵＤＡプログラミング言語の機能性のサブセットを含み得る。少なくとも１つの実施例では、たとえば、ＨＩＰプログラミング言語は、限定はしないが、グローバル機能３７１２を定義するための（１つ又は複数の）機構を含むが、そのようなＨＩＰプログラミング言語は、動的並列処理のサポートがないことがあり、したがって、ＨＩＰコードにおいて定義されたグローバル機能３７１２は、ホストからのみコール可能であり得る。

【0256】

少なくとも１つの実施例では、ＨＩＰソース・コード３７３０は、限定はしないが、（ゼロを含む）任意の数のグローバル機能３７１２と、（ゼロを含む）任意の数のデバイス機能３７１４と、（ゼロを含む）任意の数のホスト機能３７１６と、（ゼロを含む）任意の数のホスト／デバイス機能３７１８とを含む。少なくとも１つの実施例では、ＨＩＰソース・コード３７３０は、ＨＩＰランタイムＡＰＩ３７３２において指定される任意の数の機能への任意の数のコールをも含み得る。少なくとも１つの実施例では、ＨＩＰランタイムＡＰＩ３７３２は、限定はしないが、ＣＵＤＡランタイムＡＰＩ３７０２中に含まれる機能のサブセットの機能的に同様のバージョンを含む。少なくとも１つの実施例では、ＨＩＰソース・コード３７３０は、任意の数の他のＨＩＰ ＡＰＩにおいて指定される任意の数の機能への任意の数のコールをも含み得る。少なくとも１つの実施例では、ＨＩＰ ＡＰＩは、ＨＩＰコード及び／又はＲＯＣｍによる使用のために設計される任意のＡＰＩであり得る。少なくとも１つの実施例では、ＨＩＰ ＡＰＩは、限定はしないが、ＨＩＰランタイムＡＰＩ３７３２、ＨＩＰドライバＡＰＩ、任意の数のＨＩＰライブラリのためのＡＰＩ、任意の数のＲＯＣｍライブラリのためのＡＰＩなどを含む。

【0257】

少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０は、ＣＵＤＡコード中の各カーネル・コールを、ＣＵＤＡシンタックスからＨＩＰシンタックスにコンバートし、ＣＵＤＡコード中の任意の数の他のＣＵＤＡコールを、任意の数の他の機能的に同様のＨＩＰコールにコンバートする。少なくとも１つの実施例では、ＣＵＤＡコールは、ＣＵＤＡ ＡＰＩにおいて指定された機能へのコールであり、ＨＩＰコールは、ＨＩＰ ＡＰＩにおいて指定された機能へのコールである。少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０は、ＣＵＤＡランタイムＡＰＩ３７０２において指定された機能への任意の数のコールを、ＨＩＰランタイムＡＰＩ３７３２において指定された機能への任意の数のコールにコンバートする。

【0258】

少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０は、テキスト・ベースのトランスレーション・プロセスを実行するｈｉｐｉｆｙ－Ｐｅｒｌとして知られるツールである。少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０は、ｈｉｐｉｆｙ－ｃｌａｎｇとして知られるツールであり、これは、ｈｉｐｉｆｙ－Ｐｅｒｌに対して、ｃｌａｎｇ（コンパイラ・フロント・エンド）を使用してＣＵＤＡコードを構文解析することと、次いで、得られたシンボルをトランスレートすることとを伴う、より複雑でよりロバストなトランスレーション・プロセスを実行する。少なくとも１つの実施例では、ＣＵＤＡコードをＨＩＰコードに適切にコンバートすることは、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０によって実施される修正に加えて、修正（たとえば、手動の編集）を必要とし得る。

【0259】

少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３７４０は、ターゲット・デバイス３７４６を決定し、次いで、ターゲット・デバイス３７４６と互換性があるコンパイラを、ＨＩＰソース・コード３７３０をコンパイルするように構成する、フロント・エンドである。少なくとも１つの実施例では、ターゲット・デバイス３７４６は、並列命令処理のために最適化されるプロセッサである。少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３７４０は、任意の技術的に実現可能な様式でターゲット・デバイス３７４６を決定し得る。

【0260】

少なくとも１つの実施例では、ターゲット・デバイス３７４６が、ＣＵＤＡ（たとえば、ＣＵＤＡ対応ＧＰＵ３７９４）と互換性がある場合、ＨＩＰコンパイラ・ドライバ３７４０は、ＨＩＰ／ＮＶＣＣコンパイル・コマンド３７４２を生成する。少なくとも１つの実施例では、及び図３７Ｂと併せてより詳細に説明されるように、ＨＩＰ／ＮＶＣＣコンパイル・コマンド３７４２は、限定はしないが、ＨＩＰからＣＵＤＡへのトランスレーション・ヘッダ及びＣＵＤＡランタイム・ライブラリを使用してＨＩＰソース・コード３７３０をコンパイルするようにＣＵＤＡコンパイラ３７５０を構成する。少なくとも１つの実施例では、及びＨＩＰ／ＮＶＣＣコンパイル・コマンド３７４２に応答して、ＣＵＤＡコンパイラ３７５０は、ホスト実行可能コード３７７０（１）及びＣＵＤＡデバイス実行可能コード３７８４を生成する。

【0261】

少なくとも１つの実施例では、ターゲット・デバイス３７４６が、ＣＵＤＡと互換性がない場合、ＨＩＰコンパイラ・ドライバ３７４０は、ＨＩＰ／ＨＣＣコンパイル・コマンド３７４４を生成する。少なくとも１つの実施例では、及び図３７Ｃと併せてより詳細に説明されるように、ＨＩＰ／ＨＣＣコンパイル・コマンド３７４４は、限定はしないが、ＨＣＣヘッダ及びＨＩＰ／ＨＣＣランタイム・ライブラリを使用してＨＩＰソース・コード３７３０をコンパイルするようにＨＣＣ３７６０を構成する。少なくとも１つの実施例では、及びＨＩＰ／ＨＣＣコンパイル・コマンド３７４４に応答して、ＨＣＣ３７６０は、ホスト実行可能コード３７７０（２）及びＨＣＣデバイス実行可能コード３７８２を生成する。少なくとも１つの実施例では、ＨＣＣデバイス実行可能コード３７８２は、ＧＰＵ３７９２上で実行可能である、ＨＩＰソース・コード３７３０中に含まれるデバイス・コードのコンパイルされたバージョンである。少なくとも１つの実施例では、ＧＰＵ３７９２は、並列命令処理のために最適化され、ＣＵＤＡと互換性がなく、ＨＣＣと互換性がある、任意のプロセッサであり得る。少なくとも１つの実施例では、ＧＰＵ３７９２は、カリフォルニア州サンタクララのＡＭＤ Ｃｏｒｐｏｒａｔｉｏｎによって開発される。少なくとも１つの実施例では、ＧＰＵ３７９２は、ＣＵＤＡ非対応ＧＰＵ３７９２である。

【0262】

単に説明目的のために、ＣＰＵ３７９０及び異なるデバイス上での実行のためにＣＵＤＡソース・コード３７１０をコンパイルするために少なくとも１つの実施例において実装され得る３つの異なるフローが、図３７Ａに図示されている。少なくとも１つの実施例では、直接的ＣＵＤＡフローが、ＣＵＤＡソース・コード３７１０をＨＩＰソース・コード３７３０にトランスレートすることなしに、ＣＰＵ３７９０及びＣＵＤＡ対応ＧＰＵ３７９４上での実行のためにＣＵＤＡソース・コード３７１０をコンパイルする。少なくとも１つの実施例では、間接的ＣＵＤＡフローが、ＣＵＤＡソース・コード３７１０をＨＩＰソース・コード３７３０にトランスレートし、次いで、ＣＰＵ３７９０及びＣＵＤＡ対応ＧＰＵ３７９４上での実行のためにＨＩＰソース・コード３７３０をコンパイルする。少なくとも１つの実施例では、ＣＵＤＡ／ＨＣＣフローが、ＣＵＤＡソース・コード３７１０をＨＩＰソース・コード３７３０にトランスレートし、次いで、ＣＰＵ３７９０及びＧＰＵ３７９２上での実行のためにＨＩＰソース・コード３７３０をコンパイルする。

【0263】

少なくとも１つの実施例において実装され得る直接的ＣＵＤＡフローは、破線及びＡ１～Ａ３とアノテーション付けされた一連のバブルを介して図示されている。少なくとも１つの実施例では、及びＡ１とアノテーション付けされたバブルで図示されているように、ＣＵＤＡコンパイラ３７５０は、ＣＵＤＡソース・コード３７１０と、ＣＵＤＡソース・コード３７１０をコンパイルするようにＣＵＤＡコンパイラ３７５０を構成するＣＵＤＡコンパイル・コマンド３７４８とを受信する。少なくとも１つの実施例では、直接的ＣＵＤＡフローにおいて使用されるＣＵＤＡソース・コード３７１０は、Ｃ＋＋以外のプログラミング言語（たとえば、Ｃ、Ｆｏｒｔｒａｎ、Ｐｙｔｈｏｎ、Ｊａｖａなど）に基づくＣＵＤＡプログラミング言語で書かれる。少なくとも１つの実施例では、及びＣＵＤＡコンパイル・コマンド３７４８に応答して、ＣＵＤＡコンパイラ３７５０は、ホスト実行可能コード３７７０（１）及びＣＵＤＡデバイス実行可能コード３７８４を生成する（Ａ２とアノテーション付けされたバブルで図示される）。少なくとも１つの実施例では、及びＡ３とアノテーション付けされたバブルで図示されているように、ホスト実行可能コード３７７０（１）及びＣＵＤＡデバイス実行可能コード３７８４は、それぞれ、ＣＰＵ３７９０及びＣＵＤＡ対応ＧＰＵ３７９４上で実行され得る。少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３７８４は、限定はしないが、バイナリ・コードを含む。少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３７８４は、限定はしないが、ＰＴＸコードを含み、ランタイムにおいて特定のターゲット・デバイスのためのバイナリ・コードにさらにコンパイルされる。

【0264】

少なくとも１つの実施例において実装され得る間接的ＣＵＤＡフローは、点線及びＢ１～Ｂ６とアノテーション付けされた一連のバブルを介して図示されている。少なくとも１つの実施例では、及びＢ１とアノテーション付けされたバブルで図示されているように、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０は、ＣＵＤＡソース・コード３７１０を受信する。少なくとも１つの実施例では、及びＢ２とアノテーション付けされたバブルで図示されているように、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０は、ＣＵＤＡソース・コード３７１０をＨＩＰソース・コード３７３０にトランスレートする。少なくとも１つの実施例では、及びＢ３とアノテーション付けされたバブルで図示されているように、ＨＩＰコンパイラ・ドライバ３７４０は、ＨＩＰソース・コード３７３０を受信し、ターゲット・デバイス３７４６がＣＵＤＡ対応であると決定する。

【0265】

少なくとも１つの実施例では、及びＢ４とアノテーション付けされたバブルで図示されているように、ＨＩＰコンパイラ・ドライバ３７４０は、ＨＩＰ／ＮＶＣＣコンパイル・コマンド３７４２を生成し、ＨＩＰ／ＮＶＣＣコンパイル・コマンド３７４２とＨＩＰソース・コード３７３０の両方をＣＵＤＡコンパイラ３７５０に送信する。少なくとも１つの実施例では、及び図３７Ｂと併せてより詳細に説明されるように、ＨＩＰ／ＮＶＣＣコンパイル・コマンド３７４２は、限定はしないが、ＨＩＰからＣＵＤＡへのトランスレーション・ヘッダ及びＣＵＤＡランタイム・ライブラリを使用してＨＩＰソース・コード３７３０をコンパイルするようにＣＵＤＡコンパイラ３７５０を構成する。少なくとも１つの実施例では、及びＨＩＰ／ＮＶＣＣコンパイル・コマンド３７４２に応答して、ＣＵＤＡコンパイラ３７５０は、ホスト実行可能コード３７７０（１）及びＣＵＤＡデバイス実行可能コード３７８４を生成する（Ｂ５とアノテーション付けされたバブルで図示される）。少なくとも１つの実施例では、及びＢ６とアノテーション付けされたバブルで図示されているように、ホスト実行可能コード３７７０（１）及びＣＵＤＡデバイス実行可能コード３７８４は、それぞれ、ＣＰＵ３７９０及びＣＵＤＡ対応ＧＰＵ３７９４上で実行され得る。少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３７８４は、限定はしないが、バイナリ・コードを含む。少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３７８４は、限定はしないが、ＰＴＸコードを含み、ランタイムにおいて特定のターゲット・デバイスのためのバイナリ・コードにさらにコンパイルされる。

【0266】

少なくとも１つの実施例において実装され得るＣＵＤＡ／ＨＣＣフローは、実線及びＣ１～Ｃ６とアノテーション付けされた一連のバブルを介して図示されている。少なくとも１つの実施例では、及びＣ１とアノテーション付けされたバブルで図示されているように、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０は、ＣＵＤＡソース・コード３７１０を受信する。少なくとも１つの実施例では、及びＣ２とアノテーション付けされたバブルで図示されているように、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０は、ＣＵＤＡソース・コード３７１０をＨＩＰソース・コード３７３０にトランスレートする。少なくとも１つの実施例では、及びＣ３とアノテーション付けされたバブルで図示されているように、ＨＩＰコンパイラ・ドライバ３７４０は、ＨＩＰソース・コード３７３０を受信し、ターゲット・デバイス３７４６がＣＵＤＡ対応でないと決定する。

【0267】

少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３７４０は、ＨＩＰ／ＨＣＣコンパイル・コマンド３７４４を生成し、ＨＩＰ／ＨＣＣコンパイル・コマンド３７４４とＨＩＰソース・コード３７３０の両方をＨＣＣ３７６０に送信する（Ｃ４とアノテーション付けされたバブルで図示される）。少なくとも１つの実施例では、及び図３７Ｃと併せてより詳細に説明されるように、ＨＩＰ／ＨＣＣコンパイル・コマンド３７４４は、限定はしないが、ＨＣＣヘッダ及びＨＩＰ／ＨＣＣランタイム・ライブラリを使用してＨＩＰソース・コード３７３０をコンパイルするようにＨＣＣ３７６０を構成する。少なくとも１つの実施例では、及びＨＩＰ／ＨＣＣコンパイル・コマンド３７４４に応答して、ＨＣＣ３７６０は、ホスト実行可能コード３７７０（２）及びＨＣＣデバイス実行可能コード３７８２を生成する（Ｃ５とアノテーション付けされたバブルで図示される）。少なくとも１つの実施例では、及びＣ６とアノテーション付けされたバブルで図示されているように、ホスト実行可能コード３７７０（２）及びＨＣＣデバイス実行可能コード３７８２は、それぞれ、ＣＰＵ３７９０及びＧＰＵ３７９２上で実行され得る。

【0268】

少なくとも１つの実施例では、ＣＵＤＡソース・コード３７１０がＨＩＰソース・コード３７３０にトランスレートされた後に、ＨＩＰコンパイラ・ドライバ３７４０は、その後、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０を再実行することなしに、ＣＵＤＡ対応ＧＰＵ３７９４又はＧＰＵ３７９２のいずれかのための実行可能コードを生成するために使用され得る。少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０は、ＣＵＤＡソース・コード３７１０をＨＩＰソース・コード３７３０にトランスレートし、ＨＩＰソース・コード３７３０は、次いで、メモリに記憶される。少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３７４０は、次いで、ＨＩＰソース・コード３７３０に基づいてホスト実行可能コード３７７０（２）及びＨＣＣデバイス実行可能コード３７８２を生成するようにＨＣＣ３７６０を構成する。少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３７４０は、その後、記憶されたＨＩＰソース・コード３７３０に基づいてホスト実行可能コード３７７０（１）及びＣＵＤＡデバイス実行可能コード３７８４を生成するようにＣＵＤＡコンパイラ３７５０を構成する。

【0269】

図３７Ｂは、少なくとも１つの実施例による、ＣＰＵ３７９０及びＣＵＤＡ対応ＧＰＵ３７９４を使用して、図３７ＡのＣＵＤＡソース・コード３７１０をコンパイル及び実行するように構成されたシステム３７０４を示す。少なくとも１つの実施例では、システム３７０４は、限定はしないが、ＣＵＤＡソース・コード３７１０と、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０と、ＨＩＰソース・コード３７３０と、ＨＩＰコンパイラ・ドライバ３７４０と、ＣＵＤＡコンパイラ３７５０と、ホスト実行可能コード３７７０（１）と、ＣＵＤＡデバイス実行可能コード３７８４と、ＣＰＵ３７９０と、ＣＵＤＡ対応ＧＰＵ３７９４とを含む。

【0270】

少なくとも１つの実施例では、及び図３７Ａと併せて本明細書で前に説明されたように、ＣＵＤＡソース・コード３７１０は、限定はしないが、（ゼロを含む）任意の数のグローバル機能３７１２と、（ゼロを含む）任意の数のデバイス機能３７１４と、（ゼロを含む）任意の数のホスト機能３７１６と、（ゼロを含む）任意の数のホスト／デバイス機能３７１８とを含む。少なくとも１つの実施例では、ＣＵＤＡソース・コード３７１０は、限定はしないが、任意の数のＣＵＤＡ ＡＰＩにおいて指定される任意の数の機能への任意の数のコールをも含む。

【0271】

少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０は、ＣＵＤＡソース・コード３７１０をＨＩＰソース・コード３７３０にトランスレートする。少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０は、ＣＵＤＡソース・コード３７１０中の各カーネル・コールを、ＣＵＤＡシンタックスからＨＩＰシンタックスにコンバートし、ＣＵＤＡソース・コード３７１０中の任意の数の他のＣＵＤＡコールを、任意の数の他の機能的に同様のＨＩＰコールにコンバートする。

【0272】

少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３７４０は、ターゲット・デバイス３７４６がＣＵＤＡ対応であると決定し、ＨＩＰ／ＮＶＣＣコンパイル・コマンド３７４２を生成する。少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３７４０は、次いで、ＨＩＰソース・コード３７３０をコンパイルするようにＨＩＰ／ＮＶＣＣコンパイル・コマンド３７４２を介してＣＵＤＡコンパイラ３７５０を構成する。少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３７４０は、ＣＵＤＡコンパイラ３７５０を構成することの一部として、ＨＩＰからＣＵＤＡへのトランスレーション・ヘッダ３７５２へのアクセスを提供する。少なくとも１つの実施例では、ＨＩＰからＣＵＤＡへのトランスレーション・ヘッダ３７５２は、任意の数のＨＩＰ ＡＰＩにおいて指定された任意の数の機構（たとえば、機能）を、任意の数のＣＵＤＡ ＡＰＩにおいて指定された任意の数の機構にトランスレートする。少なくとも１つの実施例では、ＣＵＤＡコンパイラ３７５０は、ホスト実行可能コード３７７０（１）及びＣＵＤＡデバイス実行可能コード３７８４を生成するために、ＣＵＤＡランタイムＡＰＩ３７０２に対応するＣＵＤＡランタイム・ライブラリ３７５４と併せて、ＨＩＰからＣＵＤＡへのトランスレーション・ヘッダ３７５２を使用する。少なくとも１つの実施例では、ホスト実行可能コード３７７０（１）及びＣＵＤＡデバイス実行可能コード３７８４は、次いで、それぞれ、ＣＰＵ３７９０及びＣＵＤＡ対応ＧＰＵ３７９４上で実行され得る。少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３７８４は、限定はしないが、バイナリ・コードを含む。少なくとも１つの実施例では、ＣＵＤＡデバイス実行可能コード３７８４は、限定はしないが、ＰＴＸコードを含み、ランタイムにおいて特定のターゲット・デバイスのためのバイナリ・コードにさらにコンパイルされる。

【0273】

図３７Ｃは、少なくとも１つの実施例による、ＣＰＵ３７９０及びＣＵＤＡ非対応ＧＰＵ３７９２を使用して、図３７ＡのＣＵＤＡソース・コード３７１０をコンパイル及び実行するように構成されたシステム３７０６を示す。少なくとも１つの実施例では、システム３７０６は、限定はしないが、ＣＵＤＡソース・コード３７１０と、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０と、ＨＩＰソース・コード３７３０と、ＨＩＰコンパイラ・ドライバ３７４０と、ＨＣＣ３７６０と、ホスト実行可能コード３７７０（２）と、ＨＣＣデバイス実行可能コード３７８２と、ＣＰＵ３７９０と、ＧＰＵ３７９２とを含む。

【0274】

少なくとも１つの実施例では、及び図３７Ａと併せて本明細書で前に説明されたように、ＣＵＤＡソース・コード３７１０は、限定はしないが、（ゼロを含む）任意の数のグローバル機能３７１２と、（ゼロを含む）任意の数のデバイス機能３７１４と、（ゼロを含む）任意の数のホスト機能３７１６と、（ゼロを含む）任意の数のホスト／デバイス機能３７１８とを含む。少なくとも１つの実施例では、ＣＵＤＡソース・コード３７１０は、限定はしないが、任意の数のＣＵＤＡ ＡＰＩにおいて指定される任意の数の機能への任意の数のコールをも含む。

【0275】

少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０は、ＣＵＤＡソース・コード３７１０をＨＩＰソース・コード３７３０にトランスレートする。少なくとも１つの実施例では、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０は、ＣＵＤＡソース・コード３７１０中の各カーネル・コールを、ＣＵＤＡシンタックスからＨＩＰシンタックスにコンバートし、ソース・コード３７１０中の任意の数の他のＣＵＤＡコールを、任意の数の他の機能的に同様のＨＩＰコールにコンバートする。

【0276】

少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３７４０は、その後、ターゲット・デバイス３７４６がＣＵＤＡ対応でないと決定し、ＨＩＰ／ＨＣＣコンパイル・コマンド３７４４を生成する。少なくとも１つの実施例では、ＨＩＰコンパイラ・ドライバ３７４０は、次いで、ＨＩＰソース・コード３７３０をコンパイルするためにＨＩＰ／ＨＣＣコンパイル・コマンド３７４４を実行するようにＨＣＣ３７６０を構成する。少なくとも１つの実施例では、ＨＩＰ／ＨＣＣコンパイル・コマンド３７４４は、限定はしないが、ホスト実行可能コード３７７０（２）及びＨＣＣデバイス実行可能コード３７８２を生成するためにＨＩＰ／ＨＣＣランタイム・ライブラリ３７５８及びＨＣＣヘッダ３７５６を使用するようにＨＣＣ３７６０を構成する。少なくとも１つの実施例では、ＨＩＰ／ＨＣＣランタイム・ライブラリ３７５８は、ＨＩＰランタイムＡＰＩ３７３２に対応する。少なくとも１つの実施例では、ＨＣＣヘッダ３７５６は、限定はしないが、ＨＩＰ及びＨＣＣのための任意の数及びタイプの相互運用性機構を含む。少なくとも１つの実施例では、ホスト実行可能コード３７７０（２）及びＨＣＣデバイス実行可能コード３７８２は、それぞれ、ＣＰＵ３７９０及びＧＰＵ３７９２上で実行され得る。

【0277】

図３８は、少なくとも１つの実施例による、図３７ＣのＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０によってトランスレートされた例示的なカーネルを示す。少なくとも１つの実施例では、ＣＵＤＡソース・コード３７１０は、所与のカーネルが解くように設計される全体的な問題を、スレッド・ブロックを使用して独立して解かれ得る比較的粗いサブ問題に区分けする。少なくとも１つの実施例では、各スレッド・ブロックは、限定はしないが、任意の数のスレッドを含む。少なくとも１つの実施例では、各サブ問題は、スレッド・ブロック内のスレッドによって並列に連動して解かれ得る比較的細かい部片に区分けされる。少なくとも１つの実施例では、スレッド・ブロック内のスレッドは、共有メモリを通してデータを共有することによって、及びメモリ・アクセスを協調させるために実行を同期させることによって連動することができる。

【0278】

少なくとも１つの実施例では、ＣＵＤＡソース・コード３７１０は、所与のカーネルに関連するスレッド・ブロックを、スレッド・ブロックの１次元グリッド、２次元グリッド、又は３次元グリッドに組織化する。少なくとも１つの実施例では、各スレッド・ブロックは、限定はしないが、任意の数のスレッドを含み、グリッドは、限定はしないが、任意の数のスレッド・ブロックを含む。

【0279】

少なくとも１つの実施例では、カーネルは、「＿＿ｇｌｏｂａｌ＿＿」宣言指定子（ｄｅｃｌａｒａｔｉｏｎ ｓｐｅｃｉｆｉｅｒ）を使用して定義されるデバイス・コード中の関数である。少なくとも１つの実施例では、所与のカーネル・コール及び関連するストリームについてカーネルを実行するグリッドの次元は、ＣＵＤＡカーネル起動シンタックス３８１０を使用して指定される。少なくとも１つの実施例では、ＣＵＤＡカーネル起動シンタックス３８１０は、「ＫｅｒｎｅｌＮａｍｅ＜＜＜ＧｒｉｄＳｉｚｅ，ＢｌｏｃｋＳｉｚｅ，ＳｈａｒｅｄＭｅｍｏｒｙＳｉｚｅ，Ｓｔｒｅａｍ＞＞＞（ＫｅｒｎｅｌＡｒｇｕｍｅｎｔｓ）；」として指定される。少なくとも１つの実施例では、実行構成シンタックスは、カーネル名（「ＫｅｒｎｅｌＮａｍｅ」）とカーネル引数の括弧に入れられたリスト（「ＫｅｒｎｅｌＡｒｇｕｍｅｎｔｓ」）との間に挿入される「＜＜＜．．．＞＞＞」構築物である。少なくとも１つの実施例では、ＣＵＤＡカーネル起動シンタックス３８１０は、限定はしないが、実行構成シンタックスの代わりにＣＵＤＡ起動機能シンタックスを含む。

【0280】

少なくとも１つの実施例では、「ＧｒｉｄＳｉｚｅ」は、タイプｄｉｍ３のものであり、グリッドの次元及びサイズを指定する。少なくとも１つの実施例では、タイプｄｉｍ３は、限定はしないが、符号なし整数ｘ、ｙ、及びｚを含む、ＣＵＤＡ定義構造である。少なくとも１つの実施例では、ｚが指定されない場合、ｚは１にデフォルト設定される。少なくとも１つの実施例では、ｙが指定されない場合、ｙは１にデフォルト設定される。少なくとも１つの実施例では、グリッド中のスレッド・ブロックの数は、ＧｒｉｄＳｉｚｅ．ｘとＧｒｉｄＳｉｚｅ．ｙとＧｒｉｄＳｉｚｅ．ｚとの積に等しい。少なくとも１つの実施例では、「ＢｌｏｃｋＳｉｚｅ」は、タイプｄｉｍ３のものであり、各スレッド・ブロックの次元及びサイズを指定する。少なくとも１つの実施例では、スレッド・ブロックごとのスレッドの数は、ＢｌｏｃｋＳｉｚｅ．ｘとＢｌｏｃｋＳｉｚｅ．ｙとＢｌｏｃｋＳｉｚｅ．ｚとの積に等しい。少なくとも１つの実施例では、カーネルを実行する各スレッドは、組み込み変数（たとえば、「ｔｈｒｅａｄＩｄｘ」）を通してカーネル内でアクセス可能である一意のスレッドＩＤを与えられる。

【0281】

少なくとも１つの実施例では、及びＣＵＤＡカーネル起動シンタックス３８１０に関して、「ＳｈａｒｅｄＭｅｍｏｒｙＳｉｚｅ」は、静的に割り振られたメモリに加えて、所与のカーネル・コールについてスレッド・ブロックごとに動的に割り振られる共有メモリ中のバイトの数を指定する随意の引数である。少なくとも１つの実施例では、及びＣＵＤＡカーネル起動シンタックス３８１０に関して、ＳｈａｒｅｄＭｅｍｏｒｙＳｉｚｅは０にデフォルト設定される。少なくとも１つの実施例では、及びＣＵＤＡカーネル起動シンタックス３８１０に関して、「Ｓｔｒｅａｍ」は、関連するストリームを指定する随意の引数であり、デフォルト・ストリームを指定するために０にデフォルト設定される。少なくとも１つの実施例では、ストリームは、イン・オーダーで実行する（場合によっては、異なるホスト・スレッドによって発行された）コマンドのシーケンスである。少なくとも１つの実施例では、異なるストリームは、互いに対してアウト・オブ・オーダーで、又は同時に、コマンドを実行し得る。

【0282】

少なくとも１つの実施例では、ＣＵＤＡソース・コード３７１０は、限定はしないが、例示的なカーネル「ＭａｔＡｄｄ」のためのカーネル定義とメイン関数とを含む。少なくとも１つの実施例では、メイン関数は、ホスト上で実行し、限定はしないが、カーネルＭａｔＡｄｄにデバイス上で実行させるカーネル・コールを含む、ホスト・コードである。少なくとも１つの実施例では、及び示されているように、カーネルＭａｔＡｄｄは、Ｎが正の整数である、サイズＮ×Ｎの２つの行列ＡとＢとを加算し、結果を行列Ｃに記憶する。少なくとも１つの実施例では、メイン関数は、ｔｈｒｅａｄｓＰｅｒＢｌｏｃｋ変数を１６×１６として定義し、ｎｕｍＢｌｏｃｋｓ変数をＮ／１６×Ｎ／１６として定義する。少なくとも１つの実施例では、メイン関数は、次いで、カーネル・コール「ＭａｔＡｄｄ＜＜＜ｎｕｍＢｌｏｃｋｓ，ｔｈｒｅａｄｓＰｅｒＢｌｏｃｋ＞＞＞（Ａ，Ｂ，Ｃ）；」を指定する。少なくとも１つの実施例では、及びＣＵＤＡカーネル起動シンタックス３８１０通りに、カーネルＭａｔＡｄｄは、寸法Ｎ／１６×Ｎ／１６を有する、スレッド・ブロックのグリッドを使用して実行され、ここで、各スレッド・ブロックは、１６×１６の寸法を有する。少なくとも１つの実施例では、各スレッド・ブロックは、２５６個のスレッドを含み、グリッドは、行列要素ごとに１つのスレッドを有するのに十分なブロックで作成され、そのようなグリッド中の各スレッドは、１つのペアワイズ加算を実施するためにカーネルＭａｔＡｄｄを実行する。

【0283】

少なくとも１つの実施例では、ＣＵＤＡソース・コード３７１０をＨＩＰソース・コード３７３０にトランスレートする間、ＣＵＤＡからＨＩＰへのトランスレーション・ツール３７２０は、ＣＵＤＡソース・コード３７１０中の各カーネル・コールを、ＣＵＤＡカーネル起動シンタックス３８１０からＨＩＰカーネル起動シンタックス３８２０にトランスレートし、ソース・コード３７１０中の任意の数の他のＣＵＤＡコールを、任意の数の他の機能的に同様のＨＩＰコールにコンバートする。少なくとも１つの実施例では、ＨＩＰカーネル起動シンタックス３８２０は、「ｈｉｐＬａｕｎｃｈＫｅｒｎｅｌＧＧＬ（ＫｅｒｎｅｌＮａｍｅ，ＧｒｉｄＳｉｚｅ，ＢｌｏｃｋＳｉｚｅ，ＳｈａｒｅｄＭｅｍｏｒｙＳｉｚｅ，Ｓｔｒｅａｍ，ＫｅｒｎｅｌＡｒｇｕｍｅｎｔｓ）；」として指定される。少なくとも１つの実施例では、ＫｅｒｎｅｌＮａｍｅ、ＧｒｉｄＳｉｚｅ、ＢｌｏｃｋＳｉｚｅ、ＳｈａｒｅＭｅｍｏｒｙＳｉｚｅ、Ｓｔｒｅａｍ、及びＫｅｒｎｅｌＡｒｇｕｍｅｎｔｓの各々は、ＨＩＰカーネル起動シンタックス３８２０において、（本明細書で前に説明された）ＣＵＤＡカーネル起動シンタックス３８１０の場合と同じ意味を有する。少なくとも１つの実施例では、引数ＳｈａｒｅｄＭｅｍｏｒｙＳｉｚｅ及びＳｔｒｅａｍは、ＨＩＰカーネル起動シンタックス３８２０では必要とされ、ＣＵＤＡカーネル起動シンタックス３８１０では随意である。

【0284】

少なくとも１つの実施例では、図３８に図示されたＨＩＰソース・コード３７３０の一部分は、カーネルＭａｔＡｄｄにデバイス上で実行させるカーネル・コールを除いて、図３８に図示されたＣＵＤＡソース・コード３７１０の一部分と同一である。少なくとも１つの実施例では、カーネルＭａｔＡｄｄは、カーネルＭａｔＡｄｄがＣＵＤＡソース・コード３７１０において定義される、同じ「＿＿ｇｌｏｂａｌ＿＿」宣言指定子を用いて、ＨＩＰソース・コード３７３０において定義される。少なくとも１つの実施例では、ＨＩＰソース・コード３７３０中のカーネル・コールは、「ｈｉｐＬａｕｎｃｈＫｅｒｎｅｌＧＧＬ（ＭａｔＡｄｄ，ｎｕｍＢｌｏｃｋｓ，ｔｈｒｅａｄｓＰｅｒＢｌｏｃｋ，０，０，Ａ，Ｂ，Ｃ）；」であるが、ＣＵＤＡソース・コード３７１０中の対応するカーネル・コールは、「ＭａｔＡｄｄ＜＜＜ｎｕｍＢｌｏｃｋｓ，ｔｈｒｅａｄｓＰｅｒＢｌｏｃｋ＞＞＞（Ａ，Ｂ，Ｃ）；」である。

【0285】

図３９は、少なくとも１つの実施例による、図３７ＣのＣＵＤＡ非対応ＧＰＵ３７９２をより詳細に示す。少なくとも１つの実施例では、ＧＰＵ３７９２は、サンタクララのＡＭＤ Ｃｏｒｐｏｒａｔｉｏｎによって開発される。少なくとも１つの実施例では、ＧＰＵ３７９２は、高度並列様式でコンピュート動作を実施するように構成され得る。少なくとも１つの実施例では、ＧＰＵ３７９２は、描画コマンド、ピクセル動作、幾何学的算出、及びディスプレイに画像をレンダリングすることに関連する他の動作など、グラフィックス・パイプライン動作を実行するように構成される。少なくとも１つの実施例では、ＧＰＵ３７９２は、グラフィックに関係しない動作を実行するように構成される。少なくとも１つの実施例では、ＧＰＵ３７９２は、グラフィックに関係する動作とグラフィックに関係しない動作の両方を実行するように構成される。少なくとも１つの実施例では、ＧＰＵ３７９２は、ＨＩＰソース・コード３７３０中に含まれるデバイス・コードを実行するように構成され得る。

【0286】

少なくとも１つの実施例では、ＧＰＵ３７９２は、限定はしないが、任意の数のプログラマブル処理ユニット３９２０と、コマンド・プロセッサ３９１０と、Ｌ２キャッシュ３９２２と、メモリ・コントローラ３９７０と、ＤＭＡエンジン３９８０（１）と、システム・メモリ・コントローラ３９８２と、ＤＭＡエンジン３９８０（２）と、ＧＰＵコントローラ３９８４とを含む。少なくとも１つの実施例では、各プログラマブル処理ユニット３９２０は、限定はしないが、ワークロード・マネージャ３９３０と、任意の数のコンピュート・ユニット３９４０とを含む。少なくとも１つの実施例では、コマンド・プロセッサ３９１０は、１つ又は複数のコマンド・キュー（図示せず）からコマンドを読み取り、ワークロード・マネージャ３９３０にコマンドを分散させる。少なくとも１つの実施例では、各プログラマブル処理ユニット３９２０について、関連するワークロード・マネージャ３９３０は、プログラマブル処理ユニット３９２０中に含まれるコンピュート・ユニット３９４０にワークを分散させる。少なくとも１つの実施例では、各コンピュート・ユニット３９４０は、任意の数のスレッド・ブロックを実行し得るが、各スレッド・ブロックは、単一のコンピュート・ユニット３９４０上で実行する。少なくとも１つの実施例では、ワークグループは、スレッド・ブロックである。

【0287】

少なくとも１つの実施例では、各コンピュート・ユニット３９４０は、限定はしないが、任意の数のＳＩＭＤユニット３９５０と、共有メモリ３９６０とを含む。少なくとも１つの実施例では、各ＳＩＭＤユニット３９５０は、ＳＩＭＤアーキテクチャを実装し、動作を並列に実施するように構成され得る。少なくとも１つの実施例では、各ＳＩＭＤユニット３９５０は、限定はしないが、ベクトルＡＬＵ３９５２とベクトル・レジスタ・ファイル３９５４とを含む。少なくとも１つの実施例では、各ＳＩＭＤユニット３９５０は、異なるワープを実行する。少なくとも１つの実施例では、ワープは、スレッドのグループ（たとえば、１６個のスレッド）であり、ここで、ワープ中の各スレッドは、単一のスレッド・ブロックに属し、命令の単一のセットに基づいて、データの異なるセットを処理するように構成される。少なくとも１つの実施例では、ワープ中の１つ又は複数のスレッドを無効にするために、プレディケーションが使用され得る。少なくとも１つの実施例では、レーンはスレッドである。少なくとも１つの実施例では、ワーク・アイテムはスレッドである。少なくとも１つの実施例では、ウェーブフロントはワープである。少なくとも１つの実施例では、スレッド・ブロック中の異なるウェーブフロントは、互いに同期し、共有メモリ３９６０を介して通信し得る。

【0288】

少なくとも１つの実施例では、プログラマブル処理ユニット３９２０は、「シェーダ・エンジン」と呼ばれる。少なくとも１つの実施例では、各プログラマブル処理ユニット３９２０は、限定はしないが、コンピュート・ユニット３９４０に加えて、任意の量の専用グラフィックス・ハードウェアを含む。少なくとも１つの実施例では、各プログラマブル処理ユニット３９２０は、限定はしないが、（ゼロを含む）任意の数のジオメトリ・プロセッサと、（ゼロを含む）任意の数のラスターライザと、（ゼロを含む）任意の数のレンダー・バック・エンドと、ワークロード・マネージャ３９３０と、任意の数のコンピュート・ユニット３９４０とを含む。

【0289】

少なくとも１つの実施例では、コンピュート・ユニット３９４０は、Ｌ２キャッシュ３９２２を共有する。少なくとも１つの実施例では、Ｌ２キャッシュ３９２２は区分けされる。少なくとも１つの実施例では、ＧＰＵメモリ３９９０は、ＧＰＵ３７９２中のすべてのコンピュート・ユニット３９４０によってアクセス可能である。少なくとも１つの実施例では、メモリ・コントローラ３９７０及びシステム・メモリ・コントローラ３９８２は、ＧＰＵ３７９２とホストとの間のデータ転送を容易にし、ＤＭＡエンジン３９８０（１）は、ＧＰＵ３７９２とそのようなホストとの間の非同期メモリ転送を可能にする。少なくとも１つの実施例では、メモリ・コントローラ３９７０及びＧＰＵコントローラ３９８４は、ＧＰＵ３７９２と他のＧＰＵ３７９２との間のデータ転送を容易にし、ＤＭＡエンジン３９８０（２）は、ＧＰＵ３７９２と他のＧＰＵ３７９２との間の非同期メモリ転送を可能にする。

【0290】

少なくとも１つの実施例では、ＧＰＵ３７９２は、限定はしないが、ＧＰＵ３７９２の内部又は外部にあり得る、任意の数及びタイプの直接又は間接的にリンクされた構成要素にわたるデータ及び制御送信を容易にする、任意の量及びタイプのシステム相互接続を含む。少なくとも１つの実施例では、ＧＰＵ３７９２は、限定はしないが、任意の数及びタイプの周辺デバイスに結合される、任意の数及びタイプのＩ／Ｏインターフェース（たとえば、ＰＣＩｅ）を含む。少なくとも１つの実施例では、ＧＰＵ３７９２は、限定はしないが、（ゼロを含む）任意の数のディスプレイ・エンジンと、（ゼロを含む）任意の数のマルチメディア・エンジンとを含み得る。少なくとも１つの実施例では、ＧＰＵ３７９２は、限定はしないが、１つの構成要素に専用であるか又は複数の構成要素の間で共有され得る、任意の量及びタイプのメモリ・コントローラ（たとえば、メモリ・コントローラ３９７０及びシステム・メモリ・コントローラ３９８２）及びメモリ・デバイス（たとえば、共有メモリ３９６０）を含む、メモリ・サブシステムを実装する。少なくとも１つの実施例では、ＧＰＵ３７９２は、限定はしないが、１つ又は複数のキャッシュ・メモリ（たとえば、Ｌ２キャッシュ３９２２）を含む、キャッシュ・サブシステムを実装し、１つ又は複数のキャッシュ・メモリは、各々、任意の数の構成要素（たとえば、ＳＩＭＤユニット３９５０、コンピュート・ユニット３９４０、及びプログラマブル処理ユニット３９２０）に対してプライベートであるか、又は任意の数の構成要素間で共有され得る。

【0291】

図４０は、少なくとも１つの実施例による、例示的なＣＵＤＡグリッド４０２０のスレッドが図３９の異なるコンピュート・ユニット３９４０にどのようにマッピングされるかを示す。少なくとも１つの実施例では、及び単に説明目的のために、グリッド４０２０は、ＢＸ×ＢＹ×１のＧｒｉｄＳｉｚｅと、ＴＸ×ＴＹ×１のＢｌｏｃｋＳｉｚｅとを有する。少なくとも１つの実施例では、グリッド４０２０は、したがって、限定はしないが、（ＢＸ＊ＢＹ）個のスレッド・ブロック４０３０を含み、各スレッド・ブロック４０３０は、限定はしないが、（ＴＸ＊ＴＹ）個のスレッド４０４０を含む。スレッド４０４０は、曲がりくねった矢印（ｓｑｕｉｇｇｌｙ ａｒｒｏｗ）として図４０に図示されている。

【0292】

少なくとも１つの実施例では、グリッド４０２０は、限定はしないが、コンピュート・ユニット３９４０（１）～３９４０（Ｃ）を含むプログラマブル処理ユニット３９２０（１）にマッピングされる。少なくとも１つの実施例では、及び示されているように、（ＢＪ＊ＢＹ）個のスレッド・ブロック４０３０が、コンピュート・ユニット３９４０（１）にマッピングされ、残りのスレッド・ブロック４０３０が、コンピュート・ユニット３９４０（２）にマッピングされる。少なくとも１つの実施例では、各スレッド・ブロック４０３０は、限定はしないが、任意の数のワープを含み得、各ワープは、図３９の異なるＳＩＭＤユニット３９５０にマッピングされる。

【0293】

少なくとも１つの実施例では、所与のスレッド・ブロック４０３０中のワープは、互いに同期し、関連するコンピュート・ユニット３９４０中に含まれる共有メモリ３９６０を通して通信し得る。たとえば、及び少なくとも１つの実施例では、スレッド・ブロック４０３０（ＢＪ，１）中のワープは、互いに同期し、共有メモリ３９６０（１）を通して通信することができる。たとえば、及び少なくとも１つの実施例では、スレッド・ブロック４０３０（ＢＪ＋１，１）中のワープは、互いに同期し、共有メモリ３９６０（２）を通して通信することができる。

【0294】

図４１は、少なくとも１つの実施例による、既存のＣＵＤＡコードをＤａｔａ Ｐａｒａｌｌｅｌ Ｃ＋＋コードにどのようにマイグレートするかを示す。Ｄａｔａ Ｐａｒａｌｌｅｌ Ｃ＋＋（ＤＰＣ＋＋）は、単一アーキテクチャ・プロプライエタリ言語に対するオープンな規格ベースの代替を指し得、これは、開発者が、ハードウェア・ターゲット（ＣＰＵ並びにＧＰＵ及びＦＰＧＡなどのアクセラレータ）にわたってコードを再使用し、また、特定のアクセラレータのためのカスタム調整を実施することを可能にする。ＤＰＣ＋＋は、開発者が精通していることがあるＩＳＯ Ｃ＋＋に従う、同様の及び／又は同一のＣ及びＣ＋＋構築物を使用する。ＤＰＣ＋＋は、データ並列処理及び異種プログラミングをサポートするためにクロノス・グループからの標準ＳＹＣＬを組み込む。ＳＹＣＬは、ＯｐｅｎＣＬの基礎をなす概念、ポータビリティ及び効率に基づく、クロスプラットフォーム抽象化層を指し、これは、異種プロセッサのためのコードが、標準Ｃ＋＋を使用して「単一ソース」スタイルで書かれることを可能にする。ＳＹＣＬは、Ｃ＋＋テンプレート関数が、ホスト・コードとデバイス・コードの両方を含んでおり、ＯｐｅｎＣＬ加速を使用する複雑なアルゴリズムを構築し、次いで、それらを、異なるタイプのデータに関するそれらのソース・コード全体にわたって再使用することができる、単一ソース開発を可能にし得る。

【0295】

少なくとも１つの実施例では、ＤＰＣ＋＋コンパイラは、多様なハードウェア・ターゲットにわたって導入され得るＤＰＣ＋＋ソース・コードをコンパイルするために使用される。少なくとも１つの実施例では、ＤＰＣ＋＋コンパイラは、多様なハードウェア・ターゲットにわたって導入され得るＤＰＣ＋＋アプリケーションを生成するために使用され、ＤＰＣ＋＋互換性ツールは、ＣＵＤＡアプリケーションをＤＰＣ＋＋のマルチプラットフォーム・プログラムにマイグレートするために使用され得る。少なくとも１つの実施例では、ＤＰＣ＋＋ベース・ツール・キットは、多様なハードウェア・ターゲットにわたってアプリケーションを導入するためのＤＰＣ＋＋コンパイラと、ＣＰＵ、ＧＰＵ、及びＦＰＧＡにわたって生産性及び性能を増加させるためのＤＰＣ＋＋ライブラリと、ＣＵＤＡアプリケーションをマルチプラットフォーム・アプリケーションにマイグレートするためのＤＰＣ＋＋互換性ツールと、それらの任意の好適な組合せとを含む。

【0296】

少なくとも１つの実施例では、ＤＰＣ＋＋プログラミング・モデルは、Ｄａｔａ Ｐａｒａｌｌｅｌ Ｃ＋＋と呼ばれるプログラミング言語を用いて並列処理を表現するための現代のＣ＋＋特徴を使用することによって、単に、ＣＰＵ及びアクセラレータをプログラムすることに関係する１つ又は複数の態様に対して利用される。ＤＰＣ＋＋プログラミング言語は、ホスト（たとえば、ＣＰＵ）及びアクセラレータ（たとえば、ＧＰＵ又はＦＰＧＡ）のためのコード再使用に対して利用され、単一のソース言語を使用し、実行及びメモリ依存性が明確に通信され得る。ＤＰＣ＋＋コード内でのマッピングは、アプリケーションを移行させて、ワークロードを最も良く加速するハードウェア又はハードウェア・デバイスのセット上で稼働するために、使用され得る。利用可能なアクセラレータを有しないプラットフォーム上でも、デバイス・コードの開発及びデバッギングを簡略化するために、ホストが利用可能であり得る。

【0297】

少なくとも１つの実施例では、人間が読み取れるＤＰＣ＋＋４１０４を生成するために、ＤＰＣ＋＋互換性ツール４１０２への入力として、ＣＵＤＡソース・コード４１００が提供される。少なくとも１つの実施例では、人間が読み取れるＤＰＣ＋＋４１０４は、ＤＰＣ＋＋互換性ツール４１０２によって生成されたインライン・コメントを含み、これは、コーディングと所望の性能への調整とを完了４１０６するために、ＤＰＣ＋＋コードをどのように及び／又はどこで修正すべきかに関して開発者をガイドし、それにより、ＤＰＣ＋＋ソース・コード４１０８を生成する。

【0298】

少なくとも１つの実施例では、ＣＵＤＡソース・コード４１００は、ＣＵＤＡプログラミング言語の人間が読み取れるソース・コードの集合であるか、又はその集合を含む。少なくとも１つの実施例では、ＣＵＤＡソース・コード４１００は、ＣＵＤＡプログラミング言語の人間が読み取れるソース・コードである。少なくとも１つの実施例では、ＣＵＤＡプログラミング言語は、限定はしないが、デバイス・コードを定義し、デバイス・コードとホスト・コードとを区別するための機構を含む、Ｃ＋＋プログラミング言語の拡張である。少なくとも１つの実施例では、デバイス・コードは、コンパイルの後に、デバイス（たとえば、ＧＰＵ又はＦＰＧＡ）上で実行可能であり、デバイスの１つ又は複数のプロセッサ・コア上で実行され得る、又はより並列化可能なワークフローを含み得る、ソース・コードである。少なくとも１つの実施例では、デバイスは、ＣＵＤＡ対応ＧＰＵ、ＧＰＵ、又は別のＧＰＧＰＵなど、並列命令処理のために最適化されるプロセッサであり得る。少なくとも１つの実施例では、ホスト・コードは、コンパイルの後にホスト上で実行可能であるソース・コードである。少なくとも１つの実施例では、ホスト・コード及びデバイス・コードの一部又は全部は、ＣＰＵ及びＧＰＵ／ＦＰＧＡにわたって並列に実行され得る。少なくとも１つの実施例では、ホストは、ＣＰＵなど、連続命令処理のために最適化されるプロセッサである。図４１に関して説明されるＣＵＤＡソース・コード４１００は、本明細書の他の場所で説明されるＣＵＤＡソース・コードに従い得る。

【0299】

少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４１０２は、ＤＰＣ＋＋ソース・コード４１０８へのＣＵＤＡソース・コード４１００のマイグレーションを容易にするために使用される、実行可能ツール、プログラム、アプリケーション、又は任意の他の好適なタイプのツールを指す。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４１０２は、既存のＣＵＤＡソースをＤＰＣ＋＋に移植するために使用されるＤＰＣ＋＋ツール・キットの一部として利用可能なコマンド・ライン・ベースのコード・マイグレーション・ツールである。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４１０２は、ＣＵＤＡアプリケーションの一部又は全部のソース・コードをＣＵＤＡからＤＰＣ＋＋にコンバートし、人間が読み取れるＤＰＣ＋＋４１０４と呼ばれる、少なくとも部分的にＤＰＣ＋＋で書かれる得られたファイルを生成する。少なくとも１つの実施例では、人間が読み取れるＤＰＣ＋＋４１０４は、ユーザ介入がどこで必要であり得るかを示すためにＤＰＣ＋＋互換性ツール４１０２によって生成されるコメントを含む。少なくとも１つの実施例では、ユーザ介入は、ＣＵＤＡソース・コード４１００が、類似するＤＰＣ＋＋ＡＰＩを有しないＣＵＤＡ ＡＰＩをコールするとき、必要であり、ユーザ介入が必要とされる他の実例は、後でより詳細に説明される。

【0300】

少なくとも１つの実施例では、ＣＵＤＡソース・コード４１００（たとえば、アプリケーション又はそれの部分）をマイグレートするためのワークフローは、１つ又は複数のコンパイル・データベース・ファイルを作成することと、ＤＰＣ＋＋互換性ツール３９０２を使用してＣＵＤＡをＤＰＣ＋＋にマイグレートすることと、マイグレーションを完了し、正当性を確認し、それにより、ＤＰＣ＋＋ソース・コード４１０８を生成することと、ＤＰＣ＋＋アプリケーションを生成するためにＤＰＣ＋＋コンパイラを用いてＤＰＣ＋＋ソース・コード４１０８をコンパイルすることとを含む。少なくとも１つの実施例では、互換性ツールは、Ｍａｋｅｆｉｌｅが実行するときに使用されるコマンドをインターセプトし、それらをコンパイル・データベース・ファイルに記憶する、ユーティリティを提供する。少なくとも１つの実施例では、ファイルは、ＪＳＯＮフォーマットで記憶される。少なくとも１つの実施例では、ｉｎｔｅｒｃｅｐｔ－ｂｕｉｌｔコマンドは、ＭａｋｅｆｉｌｅコマンドをＤＰＣ互換性コマンドにコンバートする。

【0301】

少なくとも１つの実施例では、ｉｎｔｅｒｃｅｐｔ－ｂｕｉｌｄは、ビルド・プロセスをインターセプトして、コンパイル・オプション、マクロ定義（ｍａｃｒｏ ｄｅｆｓ）、及びインクルード・パス（ｉｎｃｌｕｄｅ ｐａｔｈｓ）をキャプチャし、このデータをコンパイル・データベース・ファイルに書き込む、ユーティリティ・スクリプトである。少なくとも１つの実施例では、コンパイル・データベース・ファイルは、ＪＳＯＮファイルである。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４１０２は、コンパイル・データベースを構文解析し、入力ソースをマイグレートするときにオプションを適用する。少なくとも１つの実施例では、ｉｎｔｅｒｃｅｐｔ－ｂｕｉｌｄの使用は、随意であるが、Ｍａｋｅ又はＣＭａｋｅベースの環境について大いに推奨される。少なくとも１つの実施例では、マイグレーション・データベースは、コマンドとディレクトリとファイルとを含み、コマンドは、必要なコンパイル・フラグを含み得、ディレクトリは、ヘッダ・ファイルへのパスを含み得、ファイルは、ＣＵＤＡファイルへのパスを含み得る。

【0302】

少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４１０２は、可能な場合はいつでもＤＰＣ＋＋を生成することによって、ＣＵＤＡで書かれたＣＵＤＡコード（たとえば、アプリケーション）をＤＰＣ＋＋にマイグレートする。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４１０２は、ツール・キットの一部として利用可能である。少なくとも１つの実施例では、ＤＰＣ＋＋ツール・キットは、ｉｎｔｅｒｃｅｐｔ－ｂｕｉｌｄツールを含む。少なくとも１つの実施例では、ｉｎｔｅｒｃｅｐｔ－ｂｕｉｌｔツールは、ＣＵＤＡファイルをマイグレートするためにコンパイル・コマンドをキャプチャするコンパイル・データベースを作成する。少なくとも１つの実施例では、ｉｎｔｅｒｃｅｐｔ－ｂｕｉｌｔツールによって生成されたコンパイル・データベースは、ＣＵＤＡコードをＤＰＣ＋＋にマイグレートするためにＤＰＣ＋＋互換性ツール４１０２によって使用される。少なくとも１つの実施例では、非ＣＵＤＡ Ｃ＋＋コード及びファイルは、そのままマイグレートされる。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４１０２は、人間が読み取れるＤＰＣ＋＋４１０４を生成し、これは、ＤＰＣ＋＋互換性ツール４１０２によって生成されたとき、ＤＰＣ＋＋コンパイラによってコンパイルされないことがあり、正しくマイグレートされなかったコードの部分を確認するための追加のプラミング（ｐｌｕｍｂｉｎｇ）を必要とする、ＤＰＣ＋＋コードであり得、開発者によってなど、手動の介入を伴い得る。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４１０２は、自動的にマイグレートされないことがある追加のコードを開発者が手動でマイグレートするのを助けるために、コード中に埋め込まれたヒント又はツールを提供する。少なくとも１つの実施例では、マイグレーションは、ソース・ファイル、プロジェクト、又はアプリケーションのための１回のアクティビティである。

【0303】

少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４１００２は、ＣＵＤＡコードのすべての部分をＤＰＣ＋＋に正常にマイグレートすることが可能であり、単に、生成されたＤＰＣ＋＋ソース・コードの性能を手動で確認及び調整するための随意のステップがあり得る。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４１０２は、ＤＰＣ＋＋互換性ツール４１０２によって生成されたＤＰＣ＋＋コードを修正するための人間の介入を必要とするか又は利用することなしに、ＤＰＣ＋＋コンパイラによってコンパイルされるＤＰＣ＋＋ソース・コード４１０８を直接生成する。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツールは、コンパイル可能なＤＰＣ＋＋コードを生成し、これは、性能、読みやすさ、維持可能性、他の様々な考慮事項、又はそれらの任意の組合せについて、開発者によって随意に調整され得る。

【0304】

少なくとも１つの実施例では、１つ又は複数のＣＵＤＡソース・ファイルは、少なくとも部分的にＤＰＣ＋＋互換性ツール４１０２を使用してＤＰＣ＋＋ソース・ファイルにマイグレートされる。少なくとも１つの実施例では、ＣＵＤＡソース・コードは、ＣＵＤＡヘッダ・ファイルを含み得る１つ又は複数のヘッダ・ファイルを含む。少なくとも１つの実施例では、ＣＵＤＡソース・ファイルは、＜ｃｕｄａ．ｈ＞ヘッダ・ファイルと、テキストをプリントするために使用され得る＜ｓｔｄｉｏ．ｈ＞ヘッダ・ファイルとを含む。少なくとも１つの実施例では、ベクトル加算カーネルＣＵＤＡソース・ファイルの一部分は、以下のように書かれるか、又は以下に関係し得る。

【数17-1】

【数17-2】

【0305】

少なくとも１つの実施例では、及び上記で提示されたＣＵＤＡソース・ファイルに関して、ＤＰＣ＋＋互換性ツール４１０２は、ＣＵＤＡソース・コードを構文解析し、ヘッダ・ファイルを、適切なＤＰＣ＋＋ヘッダ・ファイル及びＳＹＣＬヘッダ・ファイルと置き換える。少なくとも１つの実施例では、ＤＰＣ＋＋ヘッダ・ファイルは、ヘルパー宣言（ｈｅｌｐｅｒ ｄｅｃｌａｒａｔｉｏｎ）を含む。ＣＵＤＡでは、スレッドＩＤの概念があり、対応して、ＤＰＣ＋＋又はＳＹＣＬでは、各要素について、ローカル識別子がある。

【0306】

少なくとも１つの実施例では、及び上記で提示されたＣＵＤＡソース・ファイルに関して、初期化される２つのベクトルＡ及びＢがあり、ベクトル加算結果が、ＶｅｃｔｏｒＡｄｄＫｅｒｎｅｌ（）の一部として、ベクトルＣに入れられる。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４１０２は、ＣＵＤＡコードをＤＰＣ＋＋コードにマイグレートすることの一部として、ワーク要素をインデックス付けするために使用されるＣＵＤＡスレッドＩＤを、ローカルＩＤを介したワーク要素のためのＳＹＣＬ標準アドレッシングにコンバートする。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４１０２によって生成されたＤＰＣ＋＋コードは、たとえば、ｎｄ＿ｉｔｅｍの次元を低減し、それにより、メモリ及び／又はプロセッサ利用率を増加させることによって、最適化され得る。

【0307】

少なくとも１つの実施例では、及び上記で提示されたＣＵＤＡソース・ファイルに関して、メモリ割振りがマイグレートされる。少なくとも１つの実施例では、ｃｕｄａＭａｌｌｏｃ（）は、プラットフォーム、デバイス、コンテキスト、及びキューなど、ＳＹＣＬ概念に依拠して、デバイス及びコンテキストが渡される、統一共有メモリＳＹＣＬコールｍａｌｌｏｃ＿ｄｅｖｉｃｅ（）にマイグレートされる。少なくとも１つの実施例では、ＳＹＣＬプラットフォームは、複数のデバイス（たとえば、ホスト及びＧＰＵデバイス）を有することができ、デバイスは、ジョブがサブミットされ得る複数のキューを有し得、各デバイスは、コンテキストを有し得、コンテキストは、複数のデバイスを有し、共有メモリ・オブジェクトを管理し得る。

【0308】

少なくとも１つの実施例では、及び上記で提示されたＣＵＤＡソース・ファイルに関して、ｍａｉｎ（）関数は、２つのベクトルＡとＢとを互いに加算し、結果をベクトルＣに記憶するための、ＶｅｃｔｏｒＡｄｄＫｅｒｎｅｌ（）を呼び出すか又はコールする。少なくとも１つの実施例では、ＶｅｃｔｏｒＡｄｄＫｅｒｎｅｌ（）を呼び出すためのＣＵＤＡコードは、実行のためにカーネルをコマンド・キューにサブミットするためのＤＰＣ＋＋コードによって置き換えられる。少なくとも１つの実施例では、コマンド・グループ・ハンドラｃｇｈは、キューにサブミットされる、データ、同期、及び算出を渡し、ｐａｒａｌｌｅｌ＿ｆｏｒは、ＶｅｃｔｏｒＡｄｄＫｅｒｎｅｌ（）がコールされるワーク・グループ中の、グローバル要素の数及びワーク・アイテムの数についてコールされる。

【0309】

少なくとも１つの実施例では、及び上記で提示されたＣＵＤＡソース・ファイルに関して、デバイス・メモリをコピーし、次いで、ベクトルＡ、Ｂ、及びＣのためのメモリを解放するためのＣＵＤＡコールが、対応するＤＰＣ＋＋コールにマイグレートされる。少なくとも１つの実施例では、Ｃ＋＋コード（たとえば、浮動小数点変数のベクトルをプリントするための標準ＩＳＯ Ｃ＋＋コード）は、ＤＰＣ＋＋互換性ツール４１０２によって修正されることなしに、そのままマイグレートされる。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４１０２は、加速デバイス上でカーネルを実行するために、メモリ・セットアップ及び／又はホスト・コールのためのＣＵＤＡ ＡＰＩを修正する。少なくとも１つの実施例では、及び上記で提示されたＣＵＤＡソース・ファイルに関して、（たとえば、コンパイルされ得る）対応する人間が読み取れるＤＰＣ＋＋４１０４は、以下のように書かれるか、又は以下に関係する。

【数18-1】

【数18-2】

【数18-3】

【0310】

少なくとも１つの実施例では、人間が読み取れるＤＰＣ＋＋４１０４は、ＤＰＣ＋＋互換性ツール４１０２によって生成された出力を指し、ある様式又は別の様式で最適化され得る。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４１０２によって生成された人間が読み取れるＤＰＣ＋＋４１０４は、それをより維持可能にすること、性能、又は他の考慮事項のために、マイグレーションの後に開発者によって手動で編集され得る。少なくとも１つの実施例では、開示されるＤＰＣ＋＋などのＤＰＣ＋＋互換性ツール４１００２によって生成されたＤＰＣ＋＋コードは、各ｍａｌｌｏｃ＿ｄｅｖｉｃｅ（）コールのためのｇｅｔ＿ｃｕｒｒｅｎｔ＿ｄｅｖｉｃｅ（）及び／又はｇｅｔ＿ｄｅｆａｕｌｔ＿ｃｏｎｔｅｘｔ（）への繰返しコールを削除することによって最適化され得る。少なくとも１つの実施例では、上記で生成されるＤＰＣ＋＋コードは、３次元のｎｄ＿ｒａｎｇｅを使用し、これは、単一次元のみを使用し、それにより、メモリ使用量を低減するために、再ファクタ化され得る。少なくとも１つの実施例では、開発者は、ＤＰＣ＋＋互換性ツール４１０２によって生成されたＤＰＣ＋＋コードを手動で編集し、統一共有メモリの使用をアクセッサと置き換えることができる。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４１０２は、それがＣＵＤＡコードをＤＰＣ＋＋コードにどのようにマイグレートするかを変更するためのオプションを有する。少なくとも１つの実施例では、ＤＰＣ＋＋互換性ツール４１０２は、それが、ＣＵＤＡコードを、多数の場合について機能するＤＰＣ＋＋コードにマイグレートするための一般的なテンプレートを使用しているので、冗長である。

【0311】

少なくとも１つの実施例では、ＣＵＤＡからＤＰＣ＋＋へのマイグレーション・ワークフローは、ｉｎｔｅｒｃｅｐｔ－ｂｕｉｌｄスクリプトを使用してマイグレーションの準備をするためのステップと、ＤＰＣ＋＋互換性ツール４１０２を使用してＤＰＣ＋＋へのＣＵＤＡプロジェクトのマイグレーションを実施するためのステップと、完了及び正当性のために、マイグレートされたソース・ファイルを手動で検討及び編集するためのステップと、ＤＰＣ＋＋アプリケーションを生成するために最終ＤＰＣ＋＋コードをコンパイルするためのステップと含む。少なくとも１つの実施例では、ＤＰＣ＋＋ソース・コードの手動の検討は、限定はしないが、マイグレートされたＡＰＩがエラー・コードを返さないこと（ＣＵＤＡコードは、エラー・コードを返すことができ、エラー・コードは、次いで、アプリケーションよって消費され得るが、ＳＹＣＬは、エラーを報告するために例外を使用し、したがって、エラーを表面化させるためのエラー・コードを使用しない）、ＣＵＤＡコンピュート能力依存論理がＤＰＣ＋＋によってサポートされないこと、ステートメントが削除されないことがあることを含む、１つ又は複数のシナリオにおいて必要とされ得る。少なくとも１つの実施例では、ＤＰＣ＋＋コードが手動の介入を必要とするシナリオは、限定はしないが、エラー・コード論理が（＊，０）コードと置き換えられるか又はコメント・アウトされる、等価なＤＰＣ＋＋ＡＰＩが利用可能でない、ＣＵＤＡコンピュート能力依存論理、ハードウェア依存ＡＰＩ（ｃｌｏｃｋ（））、欠落した特徴、サポートされていないＡＰＩ、実行時間測定論理、組み込みベクトル・タイプ競合に対処すること、ｃｕＢＬＡＳ ＡＰＩのマイグレーションなどを含み得る。

【0312】

少なくとも１つの実施例では、本明細書で説明される１つ又は複数の技法は、ｏｎｅＡＰＩプログラミング・モデルを利用する。少なくとも１つの実施例では、ｏｎｅＡＰＩプログラミング・モデルは、様々なコンピュート・アクセラレータ・アーキテクチャと対話するためのプログラミング・モデルを指す。少なくとも１つの実施例では、ｏｎｅＡＰＩは、様々なコンピュート・アクセラレータ・アーキテクチャと対話するように設計されたアプリケーション・プログラミング・インターフェース（ＡＰＩ）を指す。少なくとも１つの実施例では、ｏｎｅＡＰＩプログラミング・モデルは、Ｄａｔａ Ｐａｒａｌｌｅｌ Ｃ＋＋（ＤＰＣ＋＋）プログラミング言語を利用する。少なくとも１つの実施例では、ＤＰＣ＋＋プログラミング言語は、データ並列プログラミング生産性のための高レベル言語を指す。少なくとも１つの実施例では、ＤＰＣ＋＋プログラミング言語は、Ｃ及び／又はＣ＋＋プログラミング言語に少なくとも部分的に基づく。少なくとも１つの実施例では、ｏｎｅＡＰＩプログラミング・モデルは、カリフォルニア州サンタクララのＩｎｔｅｌ Ｃｏｒｐｏｒａｔｉｏｎによって開発されたものなどのプログラミング・モデルである。

【0313】

少なくとも１つの実施例では、ｏｎｅＡＰＩ及び／又はｏｎｅＡＰＩプログラミング・モデルは、様々なアクセラレータ、ＧＰＵ、プロセッサ、及び／又はそれらの変形、アーキテクチャと対話するために利用される。少なくとも１つの実施例では、ｏｎｅＡＰＩは、様々な機能性を実装するライブラリのセットを含む。少なくとも１つの実施例では、ｏｎｅＡＰＩは、少なくとも、ｏｎｅＡＰＩ ＤＰＣ＋＋ライブラリ、ｏｎｅＡＰＩマス・カーネル・ライブラリ、ｏｎｅＡＰＩデータ・アナリティクス・ライブラリ、ｏｎｅＡＰＩ深層ニューラル・ネットワーク・ライブラリ、ｏｎｅＡＰＩ集合通信ライブラリ、ｏｎｅＡＰＩスレッディング・ビルディング・ブロック・ライブラリ、ｏｎｅＡＰＩビデオ処理ライブラリ、及び／又はそれらの変形を含む。

【0314】

少なくとも１つの実施例では、ｏｎｅＤＰＬとも呼ばれるｏｎｅＡＰＩ ＤＰＣ＋＋ライブラリは、ＤＰＣ＋＋カーネル・プログラミングを加速するためのアルゴリズム及び関数を実装するライブラリである。少なくとも１つの実施例では、ｏｎｅＤＰＬは、１つ又は複数の標準テンプレート・ライブラリ（ＳＴＬ：ｓｔａｎｄａｒｄ ｔｅｍｐｌａｔｅ ｌｉｂｒａｒｙ）関数を実装する。少なくとも１つの実施例では、ｏｎｅＤＰＬは、１つ又は複数の並列ＳＴＬ関数を実装する。少なくとも１つの実施例では、ｏｎｅＤＰＬは、並列アルゴリズム、イテレータ、関数オブジェクト・クラス、範囲ベースＡＰＩ、及び／又はそれらの変形など、ライブラリ・クラス及び関数のセットを提供する。少なくとも１つの実施例では、ｏｎｅＤＰＬは、Ｃ＋＋標準ライブラリの１つ又は複数のクラス及び／又は関数を実装する。少なくとも１つの実施例では、ｏｎｅＤＰＬは、１つ又は複数の乱数生成器関数を実装する。

【0315】

少なくとも１つの実施例では、ｏｎｅＭＫＬとも呼ばれるｏｎｅＡＰＩマス・カーネル・ライブラリは、様々な数学関数及び／又は演算のための様々な最適化及び並列化されたルーチンを実装するライブラリである。少なくとも１つの実施例では、ｏｎｅＭＫＬは、１つ又は複数の基本線形代数サブプログラム（ＢＬＡＳ）及び／又は線形代数パッケージ（ＬＡＰＡＣＫ：ｌｉｎｅａｒ ａｌｇｅｂｒａ ｐａｃｋａｇｅ）密線形代数ルーチンを実装する。少なくとも１つの実施例では、ｏｎｅＭＫＬは、１つ又は複数の疎ＢＬＡＳ線形代数ルーチンを実装する。少なくとも１つの実施例では、ｏｎｅＭＫＬは、１つ又は複数の乱数生成器（ＲＮＧ：ｒａｎｄｏｍ ｎｕｍｂｅｒ ｇｅｎｅｒａｔｏｒ）を実装する。少なくとも１つの実施例では、ｏｎｅＭＫＬは、ベクトル上の数学演算のための１つ又は複数のベクトル数学（ＶＭ：ｖｅｃｔｏｒ ｍａｔｈｅｍａｔｉｃｓ）ルーチンを実装する。少なくとも１つの実施例では、ｏｎｅＭＫＬは、１つ又は複数の高速フーリエ変換（ＦＦＴ）関数を実装する。

【0316】

少なくとも１つの実施例では、ｏｎｅＤＡＬとも呼ばれるｏｎｅＡＰＩデータ・アナリティクス・ライブラリは、様々なデータ分析アプリケーション及び分散型算出を実装するライブラリである。少なくとも１つの実施例では、ｏｎｅＤＡＬは、算出のバッチ、オンライン、及び分散型処理モードにおけるデータ・アナリティクスのための、前処理、変換、分析、モデリング、検証、及び判定のための様々なアルゴリズムを実装する。少なくとも１つの実施例では、ｏｎｅＤＡＬは、１つ又は複数のデータ・ソースに対する、様々なＣ＋＋及び／又はＪａｖａ（登録商標） ＡＰＩ、並びに様々なコネクタを実装する。少なくとも１つの実施例では、ｏｎｅＤＡＬは、従前のＣ＋＋インターフェースに対するＤＰＣ＋＋ ＡＰＩ拡張を実装し、様々なアルゴリズムに対するＧＰＵ使用法を可能にする。

【0317】

少なくとも１つの実施例では、ｏｎｅＤＮＮとも呼ばれるｏｎｅＡＰＩ深層ニューラル・ネットワーク・ライブラリは、様々な深層学習関数を実装するライブラリである。少なくとも１つの実施例では、ｏｎｅＤＮＮは、様々なニューラル・ネットワーク、機械学習、及び深層学習の、関数、アルゴリズム、及び／又はそれらの変形を実装する。

【0318】

少なくとも１つの実施例では、ｏｎｅＣＣＬとも呼ばれるｏｎｅＡＰＩ集合通信ライブラリは、深層学習及び機械学習ワークロードのための様々なアプリケーションを実装するライブラリである。少なくとも１つの実施例では、ｏｎｅＣＣＬは、メッセージ・パッシング・インターフェース（ＭＰＩ：ｍｅｓｓａｇｅ ｐａｓｓｉｎｇ ｉｎｔｅｒｆａｃｅ）及びｌｉｂｆａｂｒｉｃなど、より低いレベルの通信ミドルウェア上に築かれる。少なくとも１つの実施例では、ｏｎｅＣＣＬは、優先順位付け、永続的動作、アウト・オブ・オーダー実行、及び／又はそれらの変形など、深層学習特有の最適化のセットを可能にする。少なくとも１つの実施例では、ｏｎｅＣＣＬは、様々なＣＰＵ及びＧＰＵ関数を実装する。

【0319】

少なくとも１つの実施例では、ｏｎｅＴＢＢとも呼ばれるｏｎｅＡＰＩスレッディング・ビルディング・ブロック・ライブラリは、様々なアプリケーションのための様々な並列化されたプロセスを実装するライブラリである。少なくとも１つの実施例では、ｏｎｅＴＢＢは、ホスト上のタスク・ベースの共有並列プログラミングのために利用される。少なくとも１つの実施例では、ｏｎｅＴＢＢは、ジェネリック並列アルゴリズムを実装する。少なくとも１つの実施例では、ｏｎｅＴＢＢは、同時コンテナを実装する。少なくとも１つの実施例では、ｏｎｅＴＢＢは、スケーラブル・メモリ・アロケータを実装する。少なくとも１つの実施例では、ｏｎｅＴＢＢは、ワーク・スティーリング・タスク・スケジューラを実装する。少なくとも１つの実施例では、ｏｎｅＴＢＢは、低レベル同期プリミティブを実装する。少なくとも１つの実施例では、ｏｎｅＴＢＢは、コンパイラ依存せず、ＧＰＵ、ＰＰＵ、ＣＰＵ、及び／又はそれらの変形など、様々なプロセッサ上で使用可能である。

【0320】

少なくとも１つの実施例では、ｏｎｅＶＰＬとも呼ばれるｏｎｅＡＰＩビデオ処理ライブラリは、１つ又は複数のアプリケーションにおけるビデオ処理を加速するために利用されるライブラリである。少なくとも１つの実施例では、ｏｎｅＶＰＬは、様々なビデオ復号、符号化、及び処理関数を実装する。少なくとも１つの実施例では、ｏｎｅＶＰＬは、ＣＰＵ、ＧＰＵ、及び他のアクセラレータ上のメディア・パイプラインのための様々な関数を実装する。少なくとも１つの実施例では、ｏｎｅＶＰＬは、メディア・セントリック及びビデオ・アナリティクス・ワークロードにおけるデバイス発見及び選択を実装する。少なくとも１つの実施例では、ｏｎｅＶＰＬは、ゼロ・コピー・バッファ共有のためのＡＰＩプリミティブを実装する。

【0321】

少なくとも１つの実施例では、ｏｎｅＡＰＩプログラミング・モデルは、ＤＰＣ＋＋プログラミング言語を利用する。少なくとも１つの実施例では、ＤＰＣ＋＋プログラミング言語は、限定はしないが、デバイス・コードを定義し、デバイス・コードとホスト・コードとを区別するための、機能的に同様のバージョンのＣＵＤＡ機構を含む、プログラミング言語である。少なくとも１つの実施例では、ＤＰＣ＋＋プログラミング言語は、ＣＵＤＡプログラミング言語の機能性のサブセットを含み得る。少なくとも１つの実施例では、１つ又は複数のＣＵＤＡプログラミング・モデル動作は、ＤＰＣ＋＋プログラミング言語を使用するｏｎｅＡＰＩプログラミング・モデルを使用して実施される。

【0322】

他の変形形態は、本開示の範囲内にある。したがって、開示される技法は、様々な修正及び代替構築が可能であるが、それらのいくつかの例示的な実施例が図面に示され、上記で詳細に説明された。しかしながら、特定の１つ又は複数の開示された形態に本開示を限定する意図はなく、その反対に、添付の特許請求の範囲において定義されるように、開示の趣旨及び範囲に入るすべての修正形態、代替構築、及び等価物を網羅することを意図している。

【0323】

開示される実施例を説明する文脈において（特に、以下の特許請求の範囲の文脈において）「ａ」及び「ａｎ」及び「ｔｈｅ」という用語、並びに同様の指示語を使用することは、本明細書に別段の記載のない限り、又は文脈によって明らかに否定されない限り、単数と複数の両方を網羅すると解釈されるべきであり、用語の定義であると解釈されるべきではない。「含む、備える（ｃｏｍｐｒｉｓｉｎｇ）」、「有する（ｈａｖｉｎｇ）」、「含む（ｉｎｃｌｕｄｉｎｇ）」、「含んでいる（ｃｏｎｔａｉｎｉｎｇ）」という用語は、別段の記載のない限り、オープンエンドの用語（「限定はしないが、～を含む（ｉｎｃｌｕｄｉｎｇ， ｂｕｔ ｎｏｔ ｌｉｍｉｔｅｄ ｔｏ，）」を意味する）と解釈されるべきである。「接続される」という用語は、修飾されず、物理的接続を指しているとき、何か介在するものがある場合でも、部分的に又は完全に中に含まれているか、取り付けられるか、又は互いに接合されるものとして解釈されるべきである。本明細書で値の範囲を詳述することは、本明細書に別段の記載のない限り、及び各別個の値が、本明細書に個々に詳述されているかのように明細書に組み込まれていない限り、範囲内に入る各別個の値を個々に参照する簡潔な方法として働くことを単に意図しているにすぎない。「セット」（たとえば、「項目のセット」）又は「サブセット」という用語の使用は、文脈によって別段の記載がないか又は否定されない限り、１つ又は複数の部材を備える空ではない集合として解釈されるべきである。さらに、文脈によって別段の記載がないか又は否定されない限り、対応するセットの「サブセット」という用語は、対応するセットの厳密なサブセットを必ずしも指すとは限らず、サブセットと、対応するセットとは、等しくなり得る。

【0324】

「Ａ、Ｂ、及びＣのうちの少なくとも１つ」又は「Ａ、Ｂ及びＣのうちの少なくとも１つ」という形態の言い回しなどの結合語は、別段の具体的な記載がないか又はさもなければ文脈によって明確に否定されない限り、別様に、項目、用語などが、Ａ又はＢ又はＣのいずれか、或いはＡとＢとＣとのセットの任意の空でないサブセットであり得ることを提示するために一般に使用される文脈で、理解される。たとえば、３つの部材を有するセットの説明的な実例では、「Ａ、Ｂ、及びＣのうちの少なくとも１つ」並びに「Ａ、Ｂ及びＣのうちの少なくとも１つ」という結合句は、次のセットのうちのいずれかを指す：｛Ａ｝、｛Ｂ｝、｛Ｃ｝、｛Ａ、Ｂ｝、｛Ａ、Ｃ｝、｛Ｂ、Ｃ｝、｛Ａ、Ｂ、Ｃ｝。したがって、そのような結合語は、いくつかの実施例が、Ａのうちの少なくとも１つ、Ｂのうちの少なくとも１つ、及びＣのうちの少なくとも１つの各々が存在することを必要とすることを全体的に暗示するものではない。さらに、別段の記載がないか又は文脈によって否定されない限り、「複数（ｐｌｕｒａｌｉｔｙ）」という用語は、複数である状態を示す（たとえば、「複数の項目（ａ ｐｌｕｒａｌｉｔｙ ｏｆ ｉｔｅｍｓ）」は複数の項目（ｍｕｌｔｉｐｌｅ ｉｔｅｍｓ）を示す）。複数である項目の数は、少なくとも２つであるが、明示的に、又は文脈によってのいずれかでそのように示されているとき、それよりも多いことがある。さらに、別段の記載がないか又はさもなければ文脈から明らかでない限り、「～に基づいて」という言い回しは、「少なくとも部分的に～に基づいて」を意味し、「～のみに基づいて」を意味しない。

【0325】

本明細書で説明されるプロセスの動作は、本明細書に別段の記載がないか又はさもなければ文脈によって明確に否定されない限り、任意の好適な順序で実施され得る。少なくとも１つの実施例では、本明細書で説明されるプロセス（又はその変形及び／又は組合せ）などのプロセスは、実行可能命令で構成された１つ又は複数のコンピュータ・システムの制御下で実施され、１つ又は複数のプロセッサ上で、ハードウェアによって、又はそれらの組合せによって集合的に実行するコード（たとえば、実行可能命令、１つ又は複数のコンピュータ・プログラム、又は１つ又は複数のアプリケーション）として実装される。少なくとも１つの実施例では、コードは、たとえば、１つ又は複数のプロセッサによって実行可能な複数の命令を備えるコンピュータ・プログラムの形態で、コンピュータ可読記憶媒体に記憶される。少なくとも１つの実施例では、コンピュータ可読記憶媒体は、一時的信号（たとえば、伝搬する一時的な電気又は電磁送信）を除外するが、一時的信号のトランシーバ内の非一時的データ・ストレージ回路要素（たとえば、バッファ、キャッシュ、及びキュー）を含む非一時的コンピュータ可読記憶媒体である。少なくとも１つの実施例では、コード（たとえば、実行可能コード又はソース・コード）は、１つ又は複数の非一時的コンピュータ可読記憶媒体のセットに記憶され、この記憶媒体は、コンピュータ・システムの１つ又は複数のプロセッサによって実行されたときに（すなわち、実行された結果として）、コンピュータ・システムに本明細書で説明される動作を実施させる実行可能命令を記憶している（又は、実行可能命令を記憶するための他のメモリを有する）。非一時的コンピュータ可読記憶媒体のセットは、少なくとも１つの実施例では、複数の非一時的コンピュータ可読記憶媒体を備え、複数の非一時的コンピュータ可読記憶媒体の個々の非一時的記憶媒体のうちの１つ又は複数は、コードのすべてがないが、複数の非一時的コンピュータ可読記憶媒体は、集合的にコードのすべてを記憶している。少なくとも１つの実施例では、実行可能命令は、異なる命令が異なるプロセッサによって実行されるように実行され、たとえば、非一時的コンピュータ可読記憶媒体は命令を記憶し、メイン中央処理ユニット（「ＣＰＵ」）は命令のいくつかを実行し、グラフィックス処理ユニット（「ＧＰＵ」）は他の命令を実行する。少なくとも１つの実施例では、コンピュータ・システムの異なる構成要素は、別個のプロセッサを有し、異なるプロセッサが命令の異なるサブセットを実行する。

【0326】

したがって、少なくとも１つの実施例では、コンピュータ・システムは、本明細書で説明されるプロセスの動作を単独で又は集合的に実施する１つ又は複数のサービスを実装するように構成され、そのようなコンピュータ・システムは、動作の実施を可能にする適用可能なハードウェア及び／又はソフトウェアで構成される。さらに、本開示の少なくとも１つの実施例を実装するコンピュータ・システムは、単一のデバイスであり、別の実施例では、分散型コンピュータ・システムが本明細書で説明される動作を実施するように、及び単一のデバイスがすべての動作を実施しないように、異なるやり方で動作する複数のデバイスを備える分散型コンピュータ・システムである。

【0327】

本明細書で提供されるあらゆる実例、又は例示的な言葉（たとえば、「など、などの（ｓｕｃｈ ａｓ）」）の使用は、本開示の実施例をより明らかにすることのみを意図しており、別段の主張のない限り、本開示の範囲に制限を加えるものではない。本明細書のいかなる言葉も、特許請求されていない任意の要素を、本開示の実践に不可欠なものとして示すと解釈されるべきではない。

【0328】

本開示の少なくとも１つの実施例は、以下の条項に鑑みて説明され得る。
１．画像の第１の領域中の１つ又は複数のピクセルの動きを、第１の領域と重複する画像の第２の領域中の１つ又は複数のピクセルの動きに少なくとも部分的に基づいて計算するための、１つ又は複数の回路
を備える、プロセッサ。
２．１つ又は複数の回路が、さらに、
画像及びフロー・マップを取得することであって、フロー・マップが、画像及び第２の画像に少なくとも部分的に基づいて計算される、取得することと、
第２の領域中の１つ又は複数のピクセルのサブセットがピクセルのグループを形成することを引き起こすことであって、１つ又は複数のピクセルのサブセットが、強度及び階調度のうちの少なくとも１つに対応する１つ又は複数の特性を共有する、引き起こすことと、
フロー・マップに基づいて、ピクセルのグループが、１つ又は複数の有効ピクセルを含むのか、１つ又は複数の無効ピクセルを含むのかを示すための動作を実施することと、
１つ又は複数の有効ピクセルを使用して、ピクセルのグループの１つ又は複数の無効ピクセルを有効ピクセルに反復的にコンバートすることと
を行うためのものである、条項１のプロセッサ。
３．１つ又は複数の回路が、さらに、
第２の領域からの１つ又は複数の有効ピクセルを使用して、第１の領域中の１つ又は複数の無効ピクセルを１つ又は複数の有効ピクセルに反復的にコンバートすることと、
コンバージョンに少なくとも部分的に基づいて、フロー・マップを更新して、第２のフロー・マップを生成することと
を行うためのものである、条項１又は２のプロセッサ。
４．１つ又は複数の回路が、さらに、第２のフロー・マップの１つ若しくは複数の行又は１つ若しくは複数の列をトラバースすることと、１つ若しくは複数の行又は１つ若しくは複数の列中の１つ又は複数の有効ピクセルを使用して、１つ又は複数の無効ピクセルを有効ピクセルにコンバートすることによって、第２のフロー・マップを更新することとを行うためのものである、条項３のプロセッサ。
５．１つ又は複数の回路が、さらに、疎なオプティカル・フロー・マップから密なオプティカル・フロー・マップを生成するためのものである、条項１～４のいずれかのプロセッサ。
６．１つ又は複数の回路が、さらに、密なオプティカル・フロー・マップにメディアン・フィルタを適用するためのものである、請求項５に記載のプロセッサ。
７．画像の第１の領域中の１つ又は複数のピクセルの動きを、第１の領域と重複する画像の第２の領域中の１つ又は複数のピクセルの動きに少なくとも部分的に基づいて計算するための、１つ又は複数のプロセッサ
を備える、システム。
８．１つ又は複数のプロセッサが、さらに、
第２の領域中の１つ又は複数のピクセルからピクセルのサブセットを識別することであって、ピクセルのサブセットが、画像の強度、階調度、及び深度のうちの少なくとも１つに少なくとも部分的に基づいて識別される、識別することと、
画像及び第２の画像に対応する取得されたフロー・マップに少なくとも部分的に基づいて、ピクセルのサブセットが有効ピクセルを含むのかどうかを示すための動作を実施することと、
第２の領域中のピクセルの有効サブセットを生成するために、有効ピクセルを使用して、ピクセルのサブセットに対するオプティカル・フローを補間することと、
第１の領域中のピクセルの有効サブセットを生成するために、第２の領域中のピクセルの有効サブセットを使用して、第１の領域中の１つ又は複数のピクセルに対するオプティカル・フローを補間することと
を行うためのものである、条項７のシステム。
９．１つ又は複数のプロセッサが、さらに、第１の領域中のピクセルの有効サブセット、及び、第２の領域中のピクセルの有効サブセットに少なくとも部分的に基づいて、フロー・マップを更新して、第２のフロー・マップを生成するためのものである、条項７又は８のシステム。
１０．１つ又は複数のプロセッサが、さらに、
画像の第２の領域中のピクセルの１つ又は複数の行をスキャンすることと、
補間されたオプティカル・フロー・ピクセルを生成するために、１つ又は複数の行中の有効ピクセルに少なくとも部分的に基づいて、ピクセルのうちの１つ又は複数の行中のピクセルに対するオプティカル・フローを補間することと
を行うためのものである、条項７～９のいずれかのシステム。
１１．１つ又は複数のプロセッサが、さらに、
画像の第２の領域中のピクセルの１つ又は複数の列をスキャンすることと、
補間されたオプティカル・フロー・ピクセルを生成するために、１つ又は複数の列中の有効ピクセルに少なくとも部分的に基づいて、ピクセルのうちの１つ又は複数の列中の、中のピクセルに対するオプティカル・フローを補間することと
を行うためのものである、条項７～１０のいずれかのシステム。
１２．１つ又は複数のプロセッサが、さらに、フレーム・レート・アップ・コンバージョン、ビデオ符号化、ロボット・ナビゲーション、又は画像分類において使用するための、画像の第１の領域中の１つ又は複数のピクセルの動きを計算するためのものである、条項７のいずれかのシステム。
１３．画像の第１の領域中の１つ又は複数のピクセルの動きを、第１の領域と重複する画像の第２の領域中の１つ又は複数のピクセルの動きに少なくとも部分的に基づいて計算するステップ
を含む、方法。
１４．画像及び引き続く画像に対応する第１のフロー・マップを取得するステップと、
第１のフロー・マップを使用して、画像中の１つ又は複数のピクセルの有効性を決定するステップと、
第２の領域中の１つ又は複数のピクセルのサブセットをグループ化するステップと、
第１のフロー・マップを使用して、第２の領域中の１つ又は複数のピクセルのサブセット中の有効ピクセルを識別するステップと、
第２の領域中の１つ又は複数のピクセルのサブセットに対する補間されたオプティカル・フローを生成するために、有効ピクセルに少なくとも部分的に基づいて、第２の領域中の１つ又は複数のピクセルのサブセットに対するオプティカル・フローを補間するステップと
をさらに含む、条項１３の方法。
１５．画像の第１の領域中の１つ又は複数のピクセルの動きを計算するステップが、第２の領域中の１つ又は複数のピクセルのサブセットに対する補間されたオプティカル・フローを使用して、第１の領域中の１つ又は複数のピクセルに対するオプティカル・フローを補間するステップを含む、条項１４の方法。
１６．コスト関数を適用して、画像中の１つ又は複数のピクセルの有効性を決定する、条項１３～１５のいずれかの方法。
１７．画像の第１の領域及び第２の領域中の１つ又は複数のピクセルの計算された動きに少なくとも部分的に基づいて、更新されたフロー・マップを生成するステップ
をさらに含む、条項１３～１６のいずれかの方法。
８．更新されたフロー・マップを精緻化するために、フィルタを適用するステップ
をさらに含む、条項１７の方法。
１９．１つ又は複数のプロセッサによって実施された場合、１つ又は複数のプロセッサに、少なくとも、
画像の第１の領域中の１つ又は複数のピクセルの動きを、第１の領域と重複する画像の第２の領域中の１つ又は複数のピクセルの動きに少なくとも部分的に基づいて計算すること
を行わせる命令のセットを記憶している、機械可読媒体。
２０．１つ又は複数のプロセッサによって実施された場合、１つ又は複数のプロセッサに、
画像及び第２の画像に基づいて、疎なフロー・マップを取得することと、
第２の領域中の１つ又は複数のピクセルのサブセットを生成することであって、ここで、サブセット中の少なくとも１つのピクセルが有効ピクセルである、生成することと、
１つ又は複数の反復にわたって、有効ピクセルを使用して、第２の領域中の１つ又は複数のピクセルのサブセットからの１つ又は複数の無効ピクセルを置き換えることと、
１つ又は複数の追加の反復にわたって、第１の領域中の置き換えられたピクセルのセットを生成するために、第２の領域からの置き換えられた１つ又は複数のピクセルを使用して、第１の領域中の１つ又は複数のピクセルからの１つ又は複数の無効ピクセルを置き換えることと
を行わせる命令を、命令のセットがさらに含む、条項１９の機械可読媒体。
２１．１つ又は複数のプロセッサによって実施された場合、１つ又は複数のプロセッサに、
１つ又は複数の反復にわたって、第１の領域及び第２の領域中の１つ又は複数の行及び１つ又は複数の列をスキャンすることと、
第１又は第２の領域中の１つ又は複数の有効ピクセルを使用することによって、第１の領域及び第２の領域中の１つ又は複数のピクセルを置き換えることと、
第１の領域及び第２の領域中の１つ又は複数のピクセルの置き換えに基づいて、密なフロー・マップを生成することと
を行わせる命令を、命令のセットがさらに含む、条項１９又は２０の機械可読媒体。
２２．１つ又は複数のプロセッサによって実施された場合、１つ又は複数のプロセッサに、メディアン・フィルタを使用して、密なフロー・マップを更新させる命令を、命令のセットがさらに含む、条項２１の機械可読媒体。
２３．１つ又は複数のプロセッサによって実施された場合、１つ又は複数のプロセッサに、疎なフロー・マップを使用して、第１の領域及び第２の領域中の１つ又は複数のピクセル中のピクセルが有効であるのか無効であるのかを示させる命令を、命令のセットがさらに含む、条項１９～２２のいずれかの機械可読媒体。
２４．第２の領域中の１つ又は複数のピクセルが、背景とラベリングされる１つ又は複数のピクセルに対する動きを計算することを除外する、条項１９～２３のいずれかの機械可読媒体。２５．
画像の第１の領域中の１つ又は複数のピクセルの動きを、第１の領域と重複する画像の第２の領域中の１つ又は複数のピクセルの動きに少なくとも部分的に基づいて計算するための、１つ又は複数のプロセッサを有する、１つ又は複数のコンピュータ
を備える、システム。
２６．１つ又は複数のプロセッサが、さらに、
画像及び第２の画像に基づくフロー・マップを受信することと、
第２の領域中の１つ又は複数のピクセル中の無効ピクセルを識別することと、
少なくとも１つの有効ピクセルを含む、識別された無効ピクセルからの１つ又は複数の近隣ピクセルを識別することと、
第２の領域中の置き換えられたピクセルを生成するために、少なくとも１つの有効ピクセルを使用して、無効ピクセル、及び、１つ又は複数の近隣ピクセルからの１つ又は複数の無効ピクセルを置き換えることと、
第２の領域中の置き換えられたピクセルを使用して、第１の領域中の１つ又は複数の無効ピクセルを置き換えることと
を行うためのものである、条項２５のシステム。
２７．１つ又は複数のプロセッサが、さらに、
第１の領域又は第２の領域中の置き換えられたピクセルを使用して、画像の第３の領域中の１つ又は複数のピクセルを置き換えることであって、第１の領域又は第２の領域が第３の領域と重複する、置き換えること
を行うためのものである、条項２６のシステム。
２８．１つ又は複数のプロセッサが、さらに、１つ又は複数の行又は列を介して、第１の領域中のピクセルをトラバースすることと、有効ピクセルを使用して、無効ピクセルを置き換えることとを行うためのものである、条項２５～２７のいずれかのシステム。
２９．画像が、半自律車両のビデオを使用してキャプチャされる、条項２５～２８のいずれかのシステム。
３０．第１の領域中の１つ又は複数のピクセルの計算された動きが、ビデオ中のフレーム上でフレーム・レート・アップ・コンバージョンを実施することの一部として使用される、条項２５～２９のいずれかのシステム。

【0329】

本明細書で引用される出版物、特許出願、及び特許を含むすべての参考文献は、各参考文献が参照により組み込まれることが個別に明確に示され、その全体が本明細書に記載されたかのように、それと同程度まで参照により本明細書に組み込まれる。

【0330】

明細書及び特許請求の範囲において、「結合される」及び「接続される」という用語が、その派生語とともに使用され得る。これらの用語は、互いに同義語として意図されていないことがあることが理解されるべきである。むしろ、特定の実例では、「接続される」又は「結合される」は、２つ又はそれ以上の要素が物理的又は電気的に互いに直接又は間接的に接触していることを示すために使用され得る。「結合される」はまた、２つ又はそれ以上の要素が直接互いに接触していないが、それでもなお互いに連動又は対話することを意味し得る。

【0331】

別段の具体的な記載がない限り、明細書全体を通して、「処理する（ｐｒｏｃｅｓｓｉｎｇ）」、「算出する（ｃｏｍｐｕｔｉｎｇ）」、「計算する（ｃａｌｃｕｌａｔｉｎｇ）」、又は「決定する（ｄｅｔｅｒｍｉｎｉｎｇ）」などの用語は、コンピューティング・システムのレジスタ及び／又はメモリ内の、電子的などの物理的な量として表されるデータを、コンピューティング・システムのメモリ、レジスタ又は他のそのような情報ストレージ、送信、若しくはディスプレイ・デバイス内の物理的な量として同様に表される他のデータになるように操作及び／又は変換する、コンピュータ又はコンピューティング・システム、或いは同様の電子コンピューティング・デバイスのアクション及び／又はプロセスを指す。

【0332】

同様に、「プロセッサ」という用語は、レジスタ及び／又はメモリからの電子データを処理し、その電子データを、レジスタ及び／又はメモリに記憶され得る他の電子データに変換する任意のデバイス、又はデバイスの一部分を指し得る。非限定的な実例として、「プロセッサ」は、ＣＰＵ又はＧＰＵであり得る。「コンピューティング・プラットフォーム」は、１つ又は複数のプロセッサを備え得る。本明細書で使用される「ソフトウェア」プロセスは、たとえば、タスク、スレッド、及び知的エージェントなど、経時的にワークを実施するソフトウェア及び／又はハードウェア・エンティティを含み得る。また、各プロセスは、命令を直列で又は並列で、連続的に又は断続的に行うための複数のプロセスを指し得る。「システム」及び「方法」という用語は、１つ又は複数の方法をシステムが具体化し得、方法がシステムと考えられ得る場合に限り、本明細書において交換可能に使用される。

【0333】

本明細書では、アナログ・データ又はデジタル・データを取得すること、獲得すること、受信すること、或いはそれらをサブシステム、コンピュータ・システム、又はコンピュータ実装機械に入力することに言及し得る。アナログ・データ又はデジタル・データを取得する、獲得する、受信する、又は入力するプロセスは、関数コール、又はアプリケーション・プログラミング・インターフェースへのコールのパラメータとしてデータを受信することによってなど、様々なやり方で実現され得る。いくつかの実装形態では、アナログ・データ又はデジタル・データを取得する、獲得する、受信する、又は入力するプロセスは、直列又は並列インターフェースを介してデータを転送することによって実現され得る。別の実装形態では、アナログ・データ又はデジタル・データを取得する、獲得する、受信する、又は入力するプロセスは、提供するエンティティから獲得するエンティティにコンピュータ・ネットワークを介してデータを転送することによって実現され得る。アナログ・データ又はデジタル・データを提供すること、出力すること、送信すること、送出すること、又は提示することにも言及し得る。様々な実例では、アナログ・データ又はデジタル・データを提供する、出力する、送信する、送出する、又は提示するプロセスは、関数コールの入力又は出力パラメータ、アプリケーション・プログラミング・インターフェース又はプロセス間通信機構のパラメータとしてデータを転送することによって実現され得る。

【0334】

上記の説明は、説明された技法の例示的な実装形態について述べているが、他のアーキテクチャが、説明された機能性を実装するために使用され得、本開示の範囲内にあることが意図される。さらに、説明を目的として、責任の具体的な分散が定義されるが、様々な機能及び責任は、状況に応じて異なるやり方で分散及び分割され得る。

【0335】

さらに、主題は、構造的特徴及び／又は方法論的行為に特有の言語で説明されたが、添付の特許請求の範囲で特許請求される主題は、説明された特有の特徴又は行為に必ずしも限定されるとは限らないことが理解されるべきである。むしろ、特有の特徴及び行為は、特許請求の範囲を実装する例示的な形態として開示される。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】

【図17】

【図18】

【図19A】

【図19B】

【図20A】

【図20B】

【図21A】

【図21B】

【図21C】

【図22】

【図23】

【図24】

【図25】

【図26】

【図27】

【図28】

【図29】

【図30】

【図31】

【図32】

【図33】

【図34】

【図35】

【図36】

【図37A】

【図37B】

【図37C】

【図38】

【図39】

【図40】

【図41】

【国際調査報告】