IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニー・インタラクティブエンタテインメント エルエルシーの特許一覧 ▶ ソニー コンピュータ エンタテインメント ヨーロッパ リミテッドの特許一覧

特許7033617複数のレンダーターゲット内でアクティブカラーサンプルカウントを変更することによりスクリーンの位置によって有効解像度を変動させること
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-03-02
(45)【発行日】2022-03-10
(54)【発明の名称】複数のレンダーターゲット内でアクティブカラーサンプルカウントを変更することによりスクリーンの位置によって有効解像度を変動させること
(51)【国際特許分類】
   G06T 15/00 20110101AFI20220303BHJP
   G09G 5/00 20060101ALI20220303BHJP
   G09G 5/391 20060101ALI20220303BHJP
【FI】
G06T15/00 501
G09G5/00 510G
G09G5/00 520V
G09G5/00 550C
G09G5/00 550H
【請求項の数】 29
(21)【出願番号】P 2020005290
(22)【出願日】2020-01-16
(62)【分割の表示】P 2016560642の分割
【原出願日】2015-03-23
(65)【公開番号】P2020091877
(43)【公開日】2020-06-11
【審査請求日】2020-02-17
【審判番号】
【審判請求日】2021-03-24
(31)【優先権主張番号】14/246,061
(32)【優先日】2014-04-05
(33)【優先権主張国・地域又は機関】US
【早期審査対象出願】
(73)【特許権者】
【識別番号】518187455
【氏名又は名称】ソニー・インタラクティブエンタテインメント エルエルシー
(73)【特許権者】
【識別番号】506379415
【氏名又は名称】ソニー インタラクティブ エンタテインメント ヨーロッパ リミテッド
(74)【代理人】
【識別番号】100105924
【弁理士】
【氏名又は名称】森下 賢樹
(72)【発明者】
【氏名】バーゴフ、トビアス
【合議体】
【審判長】中塚 直樹
【審判官】濱野 隆
【審判官】清水 靖記
(56)【参考文献】
【文献】特表2002-503855(JP,A)
【文献】特表2009-520307(JP,A)
【文献】特開2013-137756(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G09G 5/00
G06T 15/00
(57)【特許請求の範囲】
【請求項1】
ディスプレイデバイスに結合されたグラフィクス処理ユニットを有するグラフィクス処理システムによるグラフィクス処理方法であって、
前記ディスプレイデバイスのスクリーンの複数の領域の中にある、前記スクリーンの特定の領域についてのアクティブサンプル構成を指定するメタデータを受信することであって、前記メタデータは、異なる解像度を有する前記スクリーンの複数の領域について異なるアクティブサンプル構成を指定するものである、前記メタデータを受信することと、
前記特定の領域内の1つまたは複数のピクセルについてピクセルデータを受信することであって、前記ピクセルデータは、各ピクセルについて同じ数のカラーサンプルを指定するものであり、前記ピクセルデータによって指定される各ピクセルについてのカラーサンプルの数は、前記スクリーンの全表面にわたって同じである、前記ピクセルデータを受信することと、
プリミティブによってカバーされる前記特定の領域内の各ピクセルについて、前記アクティブサンプル構成によってアクティブサンプルであると指定されるピクセルのカラーサンプルについてだけピクセルシェーダを呼び出すことであって、前記ピクセルシェーダのピクセルシェーディング計算は、前記プリミティブによってカバーされる前記特定の領域内の各ピクセルの各アクティブカラーサンプルについて呼び出されることによって各ピクセルをスーパーサンプリングすることであ前記メタデータは、前記特定の領域についてのアクティブサンプルのマスクを指定し、アクティブサンプルについてだけ前記ピクセルシェーダを呼び出すことは、前記マスクと、プリミティブによってカバーされるサンプルのセットとの間で論理ANDを実施し、前記ピクセルシェーダが呼び出される前記プリミティブについて前記アクティブサンプルを決定することを含み、前記プリミティブによってカバーされるサンプルは、1つまたは複数のカラーサンプルを含む、前記ピクセルシェーダを呼び出すこととを含む、方法。
【請求項2】
前記メタデータは、前記スクリーンの中心の近くに位置する前記複数の領域の1つまたは複数の領域についてのアクティブサンプルカウントが、前記スクリーンの周辺の近くに位置する前記複数の領域の1つまたは複数の領域についてのアクティブサンプルカウントより大きいように構成される、請求項に記載の方法。
【請求項3】
前記メタデータは、前記スクリーンの中心の近くに位置する前記複数の領域の1つまたは複数の領域についてのアクティブサンプルカウントが、前記スクリーンの縁の近くに位置する前記複数の領域の1つまたは複数の領域についてのアクティブサンプルカウントより大きいように構成され、前記スクリーンの前記縁の近くに位置する前記1つまたは複数の領域についての前記アクティブサンプルカウントは、前記スクリーンの角の近くに位置する前記複数の領域の1つまたは複数の領域についてのアクティブサンプルカウントより大きい、請求項に記載の方法。
【請求項4】
前記ディスプレイデバイスは、90°以上の視野を特徴とする、請求項1に記載の方法。
【請求項5】
前記ディスプレイデバイスは、頭部搭載型ディスプレイデバイスである、請求項1に記載の方法。
【請求項6】
ユーザが見ている前記ディスプレイデバイスのスクリーンの部分を決定することを更に含み、前記メタデータは、前記ユーザが見ている前記部分を含む前記スクリーンの1つまたは複数のサブセクションについてピクセル解像度が最も高くなるように前記ピクセル解像度を変えるように構成される、請求項1に記載の方法。
【請求項7】
前記メタデータは、所与の光学部品及び前記ディスプレイデバイスの所与の視野について静的である、請求項1に記載の方法。
【請求項8】
前記メタデータは、前記スクリーンの異なる領域について異なるアクティブカラーサンプルを指定するように構成される、請求項1に記載の方法。
【請求項9】
前記複数の領域の各領域は、前記スクリーンの固定サイズ部分に対応する、請求項1に記載の方法。
【請求項10】
前記複数の領域の各領域は、前記スクリーンの可変サイズ部分に対応する、請求項1に記載の方法。
【請求項11】
前記メタデータは、前記複数の領域の各領域を垂直及び水平方向にピクセルの範囲によって画定する、請求項1に記載の方法。
【請求項12】
前記メタデータは、前記複数の領域の各領域を或るサイズの粗いラスター化タイルによって画定する、請求項1に記載の方法。
【請求項13】
前記複数の領域の特定の領域に関連する前記メタデータの部分は、前記特定の領域についてのアクティブカラーサンプルカウントを指定する情報を含む、請求項1に記載の方法。
【請求項14】
前記メタデータは、メモリ及び/またはグラフィクスメモリ内のテーブルの形態で格納される、請求項1に記載の方法。
【請求項15】
グラフィクス処理システムであって、
グラフィクス処理ユニット(GPU)を備え、前記グラフィクス処理ユニット(GPU)は、
ディスプレイデバイスのスクリーンの複数の領域の中にある、前記スクリーンの特定の領域についてのアクティブサンプル構成を指定するメタデータを受信することであって、前記メタデータは、異なる解像度を有する前記スクリーンの複数の領域について異なるアクティブサンプル構成を指定するものである、前記メタデータを受信することと、
前記特定の領域内の1つまたは複数のピクセルについてピクセルデータを受信することであって、前記ピクセルデータは、各ピクセルについて同じ数のカラーサンプルを指定するものであり、前記ピクセルデータによって指定される各ピクセルについてのカラーサンプルの数は、前記スクリーンの全表面にわたって同じである、前記ピクセルデータを受信することと、
プリミティブによってカバーされる前記特定の領域内の各ピクセルについて、前記アクティブサンプル構成によってアクティブサンプルであると指定されるピクセルのカラーサンプルについてだけピクセルシェーダを呼び出すことであって、前記ピクセルシェーダのピクセルシェーディング計算は、前記プリミティブによってカバーされる前記特定の領域内の各ピクセルの各アクティブカラーサンプルについて呼び出されることによって各ピクセルをスーパーサンプリングすることであ前記メタデータは、前記特定の領域についてのアクティブサンプルのマスクを指定し、前記グラフィクス処理ユニットは、前記マスクと、プリミティブによってカバーされるサンプルのセットとの間で論理ANDを実施することにより前記ピクセルシェーダがアクティブサンプルについてだけ前記ピクセルシェーダを呼び出すように構成され、前記ピクセルシェーダが呼び出される前記プリミティブについて前記アクティブサンプルが決定され、前記プリミティブによってカバーされるサンプルは、1つまたは複数のカラーサンプルを含む、前記ピクセルシェーダを呼び出すこととを実行するように構成される、システム。
【請求項16】
前記メタデータは、前記スクリーンの中心の近くに位置する前記複数の領域の1つまたは複数の領域についてのアクティブサンプルカウントが、前記スクリーンの周辺の近くに位置する前記複数の領域の1つまたは複数の領域についてのアクティブサンプルカウントより大きいように構成される、請求項1に記載のシステム。
【請求項17】
前記メタデータは、前記スクリーンの中心の近くに位置する前記複数の領域の1つまたは複数の領域についてのアクティブサンプルカウントが、前記スクリーンの縁の近くに位置する前記複数の領域の1つまたは複数の領域についてのアクティブサンプルカウントより大きいように構成され、前記スクリーンの前記縁の近くに位置する前記1つまたは複数の領域についての前記アクティブサンプルカウントは、前記スクリーンの角の近くに位置する前記複数の領域の1つまたは複数の領域についてのアクティブサンプルカウントより大きい、請求項1に記載のシステム。
【請求項18】
前記ディスプレイデバイスを更に備え、前記ディスプレイデバイスは、90°以上の視野を特徴とする、請求項1に記載のシステム。
【請求項19】
前記ディスプレイデバイスを更に備え、前記ディスプレイデバイスは、頭部搭載型ディスプレイデバイスである、請求項1に記載のシステム。
【請求項20】
ユーザが見ている前記ディスプレイデバイスのスクリーンの部分を決定するように構成され、前記メタデータは、前記ユーザが見ている前記部分を含む前記スクリーンの1つまたは複数のサブセクションについてピクセル解像度が最も高くなるように前記ピクセル解像度を変えるように構成される、請求項1に記載のシステム。
【請求項21】
所与の光学部品及び前記ディスプレイデバイスの所与の視野について静的メタデータを使用するように構成される、請求項1に記載のシステム。
【請求項22】
前記メタデータは、前記スクリーンの異なる領域について異なるアクティブカラーサンプルを指定するように構成される、請求項1に記載のシステム。
【請求項23】
前記複数の領域の各領域は、前記スクリーンの固定サイズ部分に対応する、請求項1に記載のシステム。
【請求項24】
前記複数の領域の各領域は、前記スクリーンの可変サイズ部分に対応する、請求項1に記載のシステム。
【請求項25】
前記メタデータは、前記複数の領域の各領域を垂直及び水平方向にピクセルの範囲によって画定する、請求項1に記載のシステム。
【請求項26】
前記メタデータは、前記複数の領域の各領域を或るサイズの粗いラスター化タイルによって画定する、請求項1に記載のシステム。
【請求項27】
前記複数の領域の特定の領域に関連する前記メタデータの部分は、前記特定の領域についてのアクティブカラーサンプルカウントを指定する情報を含む、請求項1に記載のシステム。
【請求項28】
メモリ及び/またはグラフィクスメモリを更に備え、前記メタデータは、前記メモリ及び/または前記グラフィクスメモリ内のテーブルの形態で格納される、請求項1に記載のシステム。
【請求項29】
コンピュータ実行可能命令が記録された非一時的コンピュータ可読媒体であって、前記コンピュータ実行可能命令は、実行されると、ディスプレイデバイスに結合されたグラフィクス処理ユニットを有するグラフィクス処理システムにグラフィクス処理方法を実行させ、前記方法は、
前記ディスプレイデバイスのスクリーンの複数の領域の中にある、前記スクリーンの特定の領域についてのアクティブサンプル構成を指定するメタデータを受信することであって、前記メタデータは、異なる解像度を有する前記スクリーンの複数の領域について異なるアクティブサンプル構成を指定するものである、前記メタデータを受信することと、
前記特定の領域内の1つまたは複数のピクセルについてピクセルデータを受信することであって、前記ピクセルデータは、各ピクセルについて同じ数のカラーサンプルを指定するものであり、前記ピクセルデータによって指定される各ピクセルについてのカラーサンプルの数は、前記スクリーンの全表面にわたって同じである、前記ピクセルデータを受信することと、
プリミティブによってカバーされる前記特定の領域内の各ピクセルについて、前記アクティブサンプル構成によってアクティブサンプルであると指定されるピクセルのカラーサンプルについてだけピクセルシェーダを呼び出すことであって、前記ピクセルシェーダのピクセルシェーディング計算は、前記プリミティブによってカバーされる前記特定の領域内の各ピクセルの各アクティブカラーサンプルについて呼び出されることによって各ピクセルをスーパーサンプリングすることであ前記メタデータは、前記特定の領域についてのアクティブサンプルのマスクを指定し、アクティブサンプルについてだけ前記ピクセルシェーダを呼び出すことは、前記マスクと、プリミティブによってカバーされるサンプルのセットとの間で論理ANDを実施し、前記ピクセルシェーダが呼び出される前記プリミティブについて前記アクティブサンプルを決定することを含み、前記プリミティブによってカバーされるサンプルは、1つまたは複数のカラーサンプルを含む、前記ピクセルシェーダを呼び出すこととを含む、非一時的コンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【0001】
[関連出願の相互参照]
本出願は、本出願と同じ日に出願され、その全体の内容が参照により本明細書に組込まれる、「METHOD FOR EFFICIENT CONSTRUCTION OF HIGH RESOLUTION DISPLAY BUFFERS(高解像度ディスプレイ・バッファの効果的な製造方法)」という名称のTobias Berghoffによる、同一出願人による同時係属中の米国特許出願第14/246,064号(代理人文書番号第SCEA13055US00)に関連する。
【0002】
本出願は、2014年4月5日に出願され、その全体の内容が参照により本明細書に組込まれる、「GRAPHICS PROCESSING ENHANCEMENT BY TRACKING OBJECT AND/OR PRIMITIVE IDENTIFIERS(物体追跡及び/またはプリミティブ識別子によるグラフィック処理向上)」という名称のTobias Berghoffによる、同一出願人による同時係属中の米国特許出願第14/246,067号(代理人文書番号第SCEA13056US00)に関連する。
【0003】
本出願は、2014年4月5日に出願され、その全体の内容が参照により本明細書に組込まれる、「GRADIENT ADJUSTMENT FOR TEXTURE MAPPING TO NON-ORTHONORMAL GRID(非正規直交性格子に対するテキスチャマッピングの傾き調整)」という名称のMark Evan Cernyによる、同一出願人による同時係属中の米国特許出願第14/246,068号(代理人文書番号第SCEA13057US00)に関連する。
【0004】
本出願は、2014年4月5日に出願され、その全体の内容が参照により本明細書に組込まれる、「VARYING EFFECTIVE RESOLUTION BY SCREEN LOCATION BY ALTERING RASTERIZATION PARAMETERS(ラスター化パラメータを変更することによりスクリーンの位置によって変化する有効解像度)」という名称のMark Evan Cernyによる、同一出願人による同時係属中の米国特許出願第14/246,063号(代理人文書番号第SCEA13059US00)に関連する。
【0005】
本出願は、2014年4月5日に出願され、その全体の内容が参照により本明細書に組込まれる、「VARYING EFFECTIVE RESOLUTION BY SCREEN LOCATION IN GRAPHICS PROCESSING BY APPROXIMATING PROJECTION OF VERTICES ONTO CURVED VIEWPORT(湾曲したビューポートに近似の頂点の投影によるグラフィック処理におけるスクリーンの位置によって変化する有効解像度)」という名称のMark Evan Cernyによる、同一出願人による同時係属中の米国特許出願第14/246,066号(代理人文書番号第SCEA13060US00)に関連する。
【0006】
本出願は、2014年4月5日に出願され、その全体の内容が参照により本明細書に組込まれる、「GRADIENT ADJUSTMENT FOR TEXTURE MAPPING FOR MULTIPLE RENDER TARGETS WITH RESOLUTION THAT VARIES BY SCREEN LOCATION(スクリーンの位置によって異なる解像度のターゲットの複数レンダリングのテキスチャマッピングの傾き調整)」という名称のMark Evan Cernyによる、同一出願人による同時係属中の米国特許出願第14/246,062号(代理人文書番号第SCEA13061US00)に関連する。
【0007】
[技術分野]
本開示の態様は、コンピュータグラフィクスに関する。特に、本開示は、スクリーンの位置によって解像度を変更することに関する。
【背景技術】
【0008】
グラフィクス処理は、通常、2つのプロセッサ、中央処理ユニット(CPU)とグラフィクス処理ユニット(GPU)の連携を必要とする。GPUは、ディスプレイに出力するために意図されたフレームバッファ内での画像の生成を加速するように設計された専用電子回路である。GPUは、埋め込みシステム、携帯電話、パーソナルコンピュータ、タブレットコンピュータ、可搬型ゲームデバイス、ワークステーション、及びゲームコンソールにおいて使用される。GPUは、通常、コンピュータグラフィクスを操作するときに効率的であるように設計される。GPUは、しばしば、並列性が高い処理アーキテクチャを有し、並列性が高い処理アーキテクチャは、データの大きなブロックの処理が並列に行われるアルゴリズムについて汎用CPUに比べてGPUを効率的にする。
【0009】
CPUは、描画コマンドと一般に呼ばれるGPU命令を送信してもよく、描画コマンドは、特定のグラフィクス処理タスクを実装するよう、例えば、画像内の直前のフレームに対して変化した特定のテキスチャをレンダーするようGPUに指令する。これらの描画コマンドは、グラフィクスのアプリケーションプログラミングインタフェース(API)を有するCPUによって連携されて、特定のアプリケーションの仮想環境の状態に対応するグラフィクスレンダリングコマンドを出してもよい。
【0010】
特定のプログラムについてテキスチャをレンダーするため、GPUは、一連の処理タスクを「グラフィクスパイプライン」で実施して、仮想環境内のビジュアルをディスプレイ上でレンダーされる可能性がある画像に変換してもよい。典型的なグラフィクスパイプラインは、仮想空間内の仮想オブジェクトに対する或るレンダリングまたはシェーディング演算、ディスプレイに出力するのに適したピクセルデータを生成するシーン内での仮想オブジェクトの変換及びラスター化、並びに、被レンダー画像をディスプレイ上に出力する前の、ピクセル(またはフラグメント)に対する更なるレンダリングタスクを実施することを含んでもよい。
【0011】
画像の仮想オブジェクトは、仮想シーン内でオブジェクトの形状を共に作るプリミティブとして知られる形状によって仮想空間内でしばしば記述される。例えば、レンダーされる3次元仮想世界内のオブジェクトは、3次元空間内の座標によって規定される頂点を有する一連の別個の三角形プリミティブに分解されてもよく、それにより、これらのポリゴンはオブジェクトの表面を構成する。各ポリゴンは、所与のポリゴンを他のポリゴンから区別するためにグラフィクス処理システムによって使用される可能性がある関連するインデックスを有してもよい。同様に、各頂点は、所与の頂点を他の頂点から区別するために使用される可能性がある関連するインデックスを有してもよい。グラフィクスパイプラインは、これらのプリミティブに或る演算を実施して、仮想シーンについてのビジュアルを生成し、このデータを、ディスプレイのピクセルによる再生に適する2次元フォーマットに変換してもよい。本明細書で使用される用語、グラフィクスプリミティブ情報(または単に「プリミティブ情報」)は、グラフィクスプリミティブを表すデータを指すために使用される。こうしたデータは、頂点情報(例えば、頂点位置または頂点インデックスを表すデータ)、及び、ポリゴン情報、例えばポリゴンインデックス、及び、特定の頂点を特定のポリゴンに関連付ける情報を含むが、それに限定されない。
【0012】
グラフィクスパイプラインの一部として、GPUは、シェーダとして一般に知られるプログラムを実装することによってレンダリングタスクを実施してもよい。典型的なグラフィクスパイプラインは、頂点シェーダであって、頂点ごとにプリミティブの或る特性を操作してもよい、頂点シェーダ、並びに、ピクセルシェーダ(「フラグメントシェーダ」としても知られる)であって、グラフィクスパイプラインにおいて頂点シェーダから下流に演算し、また、ピクセルデータをディスプレイに送信する前にピクセルごとに或る値を操作してもよい、ピクセルシェーダを含んでもよい。フラグメントシェーダは、テキスチャをプリミティブに適用することに関連する値を操作してもよい。パイプラインは、同様に、頂点シェーダの出力を使用してプリミティブの新しいセットを生成する幾何形状シェーダ、並びに、或る他の一般的な計算タスクを実施するためGPUによって実装される場合があるコンピュートシェーダ(CS)等の、パイプライン内の種々のステージにおける他のシェーダを含んでもよい。
【発明の概要】
【発明が解決しようとする課題】
【0013】
広い視野(FOV)を有するグラフィカルディスプレイデバイスが開発されてきた。こうしたデバイスは、頭部搭載型ディスプレイ(HMD)デバイスを含む。HMDデバイスにおいて、小さなディスプレイデバイスがユーザの頭部に装着される。ディスプレイデバイスは、一方の目(単眼HMD)または両目(両眼HMD)の前にディスプレイ光学部品を有する。HMDデバイスは、通常、デバイスの向きを検知する可能性があるセンサを含み、ユーザの頭部が移動するにつれて、ディスプレイ光学部品によって示されるシーンを変更する。従来通りに、広いFOVディスプレイのためにシーンをレンダーするほとんどのステージは、シーンの全ての部分が、単位面積当たり同じ数のピクセルを有する平面レンダリングによって実施される。
【0014】
現実的な体験を提供するため、広いFOVのディスプレイデバイスによって提示されるグラフィクスが、高品質でありかつ効率的にレンダーされることが望ましい。
【0015】
本開示が浮かび上がるのはこの文脈においてである。
【課題を解決するための手段】
【0016】
本発明の教示は、添付図面と共に以下の詳細な説明を考えることによって容易に理解される可能性がある。
【図面の簡単な説明】
【0017】
図1A-1B】広い視野(FOV)のディスプレイの或るパラメータを示す略図である。
図1C】広いFOVのディスプレイの異なる部分についての異なる立体角を示す図である。
図2A-2C】本開示の態様による異なる広いFOVのディスプレイの異なる領域内のピクセルの相対的重要性の例を示す図である。
図2D】本開示の態様による或るFOVのディスプレイのスクリーンの異なる領域についての異なるピクセル解像度の例を示す図である。
図3A】本開示の態様によるグラフィクス処理システムのブロック図である。
図3B】本開示の態様によるグラフィクス処理パイプラインのブロック図である。
図4A】本開示の態様による複数のレンダーターゲット内でアクティブカラーサンプルカウントを変更することによってスクリーンの位置によって有効解像度を変動させる例を概略的に示す図である。
図4B】本開示の態様による複数のレンダーターゲット内でアクティブカラーサンプルカウントを変更することによってスクリーンの位置によって有効解像度を変動させる例を概略的に示す図である。
図4C】本開示の態様による複数のレンダーターゲット内でアクティブカラーサンプルカウントを変更することによってスクリーンの位置によって有効解像度を変動させる例を概略的に示す図である。
図4D】本開示の態様によるスクリーンの位置によって変動するピクセルアクティブサンプルカウントを実装するメタデータ構成の例を示す略図である。
図4E】本開示の態様によるスクリーンの位置によって変動するピクセルアクティブサンプルカウントを実装するメタデータ構成の代替の例を示す略図である。
【発明を実施するための形態】
【0018】
以下の詳細な説明は、例証のために多くの特定の詳細を含むが、以下の詳細に対する多くの変形及び変更が本発明の範囲内にあることを当業者は認識するであろう。したがって、以下で述べる本発明の例示的な実施形態は、特許請求される発明に対する一般性を失うことなく、また、特許請求される発明に制限を課すことなく述べられる。
【0019】
前置き
図1A~1Cは、大きなFOVのディスプレイに関する過去に認識されていない問題を示す。図1Aは90°FOVディスプレイを示し、図1Bは114°FOVディスプレイを示す。従来の大きなFOVのディスプレイにおいて、3次元幾何形状は、ビュー平面に対する平面投影を使用してレンダーされる。しかし、高いFOVのビュー平面上に幾何形状をレンダーすることが非常に非効率であることがわかっている。図1Cにおいて見られるように、ビュー平面101の縁領域112及び中央領域114は、同じエリアであるが、観察者103によって見られるように、非常に異なる立体角を示す。その結果、スクリーンの縁に近いピクセルは、中央に近いピクセルに比べてずっと意味のない情報を保持する。従来的にシーンをレンダーするとき、これらの領域は、同じ数のピクセルを有し、同じサイズの領域をレンダーするのに費やされる時間は同じである。
【0020】
図2A~2Cは、異なるサイズの視野について2つの次元における大きなFOVのディスプレイの異なる部分の相対的重要性を示す。図2Aは、チェッカーボードが114°の角度を張る場合に、ビュー方向に垂直な平面チェッカーボードの各正方形についての立体角の変動を表す。換言すれば、図2Aは、114°FOVディスプレイに対する従来の平面投影レンダリングの非効率性を表す。図2Bは、90°FOVディスプレイについての同じ情報を表す。こうした平面投影レンダリングにおいて、投影は、縁にある画像201内のタイル202及び角にあるタイル203を、中央にあるタイル204と比較してより小さな立体角に圧縮する。この圧縮、また、画像201内の各タイルがスクリーン空間内に同じ数のピクセルを有することによって、中央タイル204と比較して縁タイル202をレンダーするためにほぼ4倍の非効率性因子が存在する。これによって、縁タイル202の従来のレンダリングが、中央タイル204の場合に比べて、単位立体角当たりほぼ4倍の処理を必要とすることが意味される。角タイル203の場合、非効率因子はほぼ8倍である。全画像201にわたって平均されると、非効率因子はほぼ2.5倍である。
【0021】
非効率性は、FOVのサイズに依存する。例えば、図2Bに示す90°FOVディスプレイの場合、非効率因子は、縁タイル202をレンダーする場合ほぼ2倍であり、角タイル203をレンダーする場合ほぼ3倍であり、画像201をレンダーする場合ほぼ1.7倍である。
【0022】
この状況を見る別の方法は、図2Cに示され、図2Cでは、スクリーン102は、張られた単位立体角当たりのピクセル数の観点からのほぼ等しい「重要性」の長方形に分割された。各長方形は、ディスプレイを通して見られる最終画像に対してほぼ同じ寄与をする。縁長方形202及び角長方形203の重要性を平面投影がどのように歪ませるかが見られる可能性がある。実際には、角長方形203は、視覚的ピクセル密度(立体角当たりのピクセル数として表現される)をディスプレイの中央に向かって高くするように選択する場合があるディスプレイ光学部品のせいで、中央長方形に対して少ない寄与をする場合がある。
【0023】
先の観測結果に基づいて、広いFOVのディスプレイについての画像210が、図2Dに示すように、中央領域215より縁領域212、214、216、218において小さく、また、縁領域212、214、216、218より角領域211、213、217、及び219において小さいピクセル密度を有することが有利である。広いFOVのディスプレイのスクリーン上の従来のグラフィカル画像を、基礎にあるグラフィカル画像データまたはデータフォーマットまたはデータの処理を著しく修正する必要なしで、スクリーンにわたってピクセル密度を変動させるのと同じ効果を得るようにレンダーすることが同様に有利である。本開示の態様によれば、これらの利点は、大きなFOVのディスプレイデバイスのスクリーンの異なる領域についてそれ用のピクセルシェーダが呼び出されるアクティブカラーサンプルの数を変動させることによってグラフィクスパイプラインにおいて得られる可能性がある。
【0024】
これを実装するため、グラフィクスパイプラインの一部は、スクリーンの異なる領域においてピクセル当たりのアクティブカラーサンプルの数を指定するメタデータを使用する。メタデータは、画像ではなくスクリーンに関連する。画像データが変化するのではなく、グラフィクスパイプラインにおいて、ピクセルシェーダ実行が、アクティブカラーサンプルに対してだけ行われる。例えば、画像データにおいて、ピクセル当たり4つのカラーサンプルが存在してもよい。スクリーンのフル解像度領域の場合、メタデータは、アクティブカウントを4であると指定してもよく、その場合、ピクセルシェーダは、4つ全てのカラーサンプルについて呼び出される。3/4解像度領域において、アクティブカウントは3であってよく、その場合、ピクセルシェーダは、4つのうちの3つ(例えば、最初の3つ)のカラーサンプルについて呼び出される。1/2解像度領域において、アクティブカウントは2であることになり、ピクセルシェーダは、カラーサンプルの2つについて呼び出される。1/4解像度領域において、アクティブカウントは1であることになり、ピクセルシェーダは、4つのカラーサンプルの1つだけについて呼び出されることになる。
【0025】
システム及び装置
本開示の態様は、可変ピクセルサンプル解像度を有するグラフィクス処理を実装するように構成されるグラフィクス処理システムを含む。例として、また、制限としてではなく、図3Aは、本開示の態様によるグラフィクス処理を実装するために使用されてもよいコンピュータシステム300のブロック図を示す。本開示の態様によれば、システム300は、埋め込みシステム、携帯電話、パーソナルコンピュータ、タブレットコンピュータ、可搬型ゲームデバイス、ワークステーション、ゲームコンソール等であってよい。
【0026】
システム300は、一般に、中央処理ユニット(CPU)302、グラフィクスプロセッサユニット(GPU)304、及び、CPUとGPUの両方がアクセス可能であるメモリ308を含んでもよい。CPU302及びGPU304はそれぞれ、1つまたは複数のプロセッサコア、例えば、単一コア、2つのコア、4つのコア、8つのコア、またはそれより多くのコアを含んでもよい。メモリ308は、アドレス指定可能なメモリ、例えば、RAM、DRAM等を提供する集積回路の形態であってよい。メモリ308は、グラフィクスリソースを格納し、また、グラフィクスレンダリングパイプライン用のデータのグラフィクスバッファ305を一時的に格納してもよいグラフィクスメモリ328を含んでもよい。グラフィクスバッファ305は、例えば、頂点パラメータ値を格納する頂点バッファ、頂点インデックスを保持するインデックスバッファ、グラフィクスコンテンツの深度値を格納する深度バッファ(例えば、Zバッファ)、ステンシルバッファ、ディスプレイに送信される完成フレームを格納するフレームバッファ、及び他のバッファを含んでもよい。図3Aに示す例において、グラフィクスメモリ328は、主メモリの一部として示される。代替の実施態様において、グラフィクスメモリは、おそらくはGPU304に統合された別個の構成要素である可能性がある。
【0027】
例として、また、制限としてではなく、CPU302及びGPU304はデータバス309を使用してメモリ308にアクセスしてもよい。或る場合には、システム300が2つ以上の異なるバスを含むことが有用である場合がある。メモリ308は、CPU302及びGPU304によってアクセスされる可能性があるデータを含んでもよい。GPU304は、グラフィクス処理タスクを並列に実施するように構成される複数のコンピュートユニットを含んでもよい。各コンピュートユニットは、ローカルデータシェア等のそれ自身の専用ローカルメモリストアを含んでもよい。
【0028】
CPUは、グラフィクス、コンパイラ、及びグラフィクスAPIを含んでもよいCPUコード303cを実行するように構成されてもよい。グラフィクスAPIは、GPUによって実装されたプログラムに描画コマンドを出すように構成される可能性がある。CPUコード303Cは、同様に、物理学シミュレーション及び他の機能を実装してもよい。GPU304は、先に論じたように動作するように構成されてもよい。特に、GPUは、先に論じた、コンピュートシェーダCS、頂点シェーダVS、及びピクセルシェーダPS等のシェーダを実装してもよいGPUコード303Gを実行してもよい。コンピュートシェーダCSと頂点シェーダVSとの間でのデータの通過を容易にするため、システムは、フレームバッファFBを含んでもよい1つまたは複数のバッファ305を含んでもよい。GPUコード303Gは、同様に任意選択で、ピクセルシェーダまたは幾何形状シェーダ等の他の型のシェーダ(示さず)を実装してもよい。各コンピュートユニットは、ローカルデータシェア等のそれ自身の専用ローカルメモリストアを含んでもよい。GPU304は、グラフィクスパイプラインの一部としてテキスチャをプリミティブに適用するために或る演算を実施するように構成されるテキスチャユニット306を含んでもよい。
【0029】
本開示の態様によれば、CPUコード303c及びGPUコード303g及びシステム300の他の要素は、ディスプレイデバイスの複数の領域の中でディスプレイデバイス316の特定の領域についてアクティブサンプル構成を指定するメタデータMDを、グラフィクスパイプラインのラスター化ステージが受信するように構成される。ラスター化ステージは、特定の領域内の1つまたは複数のピクセルについてピクセルデータを受信する。ピクセルデータは、全表面にわたって同じサンプルカウント(各ピクセルのカラーサンプルの数)を指定する。アクティブサンプルカウントは、カラーサンプルカウント以下であり、カラーサンプルカウントは2つ以上である。特定の領域内の各ピクセルについて、ラスター化ステージは、アクティブサンプルについてだけピクセルシェーダPSを呼び出す。メタデータMDは、異なるピクセルサンプル解像度(ディスプレイの単位面積当たりのピクセルサンプルの数)を有する領域について異なるアクティブサンプル構成を指定する。こうして、ピクセルサンプル解像度は、ディスプレイデバイス316の異なる領域について変動する可能性があり、また、グラフィクス処理負荷は、ディスプレイの低解像度領域について、単に高解像度領域に比べてこれらの領域のアクティブサンプルカウントを減少させることによって低減される可能性がある。
【0030】
幾つかの実施態様において、メタデータMDは、各領域についてアクティブサンプルのマスクを含む。GPU304は、マスクとプリミティブによってカバーされるサンプルとの間で論理ANDを実施して、ピクセルシェーダがそれについて呼び出されるプリミティブについてアクティブサンプルを決定する。
【0031】
代替の実施態様において、メタデータMDは、ディスプレイデバイスの複数の領域の中でディスプレイデバイス316の特定の領域についてアクティブサンプルカウントを指定する。アクティブサンプルカウントは、カラーサンプルカウント以下であり、カラーサンプルカウントは2つ以上である。特定の領域内の各ピクセルについて、ラスター化ステージは、アクティブサンプルカウントに等しいピクセルの或る数のカラーサンプルについてだけピクセルシェーダPSを呼び出し、通常、シーケンシャルなカラーサンプルは、或る一貫して規定されたサンプル順序で最初のカラーサンプルから始める。
【0032】
幾つかの実施態様において、CPUコード303c、GPUコード303g、及びテキスチャユニット306は、スクリーンの位置依存の可変ピクセル解像度と共にテキスチャマッピング演算に対する修正を実装するため、或るテキスチャマッピング演算を実装するように更に構成されてもよい。例えば、ピクセルシェーダPS及びテキスチャユニット306は、1つまたは複数のテキスチャマッピング演算の座標のセットを提供するためプリミティブについてピクセル位置XYについて1つまたは複数のテキスチャ座標UVを生成し、テキスチャ座標UV(おそらくは、スクリーンにわたる様々なサンプル密度に対処する補正を含む)から勾配値Grを計算し、テキスチャがプリミティブを適用する詳細のレベル(LOD)を決定するように構成される可能性がある。
【0033】
例として、また、制限としてではなく、GPUの或る構成要素、例えば、或る型のシェーダまたはテキスチャユニット306は、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、またはシステムオンチップ(SoCまたはSOC)等の専用ハードウェアとして実装されてもよい。
【0034】
本明細書で使用されるように、また、当業者によって一般に理解されるように、特定用途向け集積回路(ASIC)は、汎用的使用のために意図されるのではなく特定使用のためにカスタマイズされる集積回路である。
【0035】
本明細書で使用されるように、また、当業者によって一般に理解されるように、フィールドプログラマブルゲートアレイ(FPGA)は、製造後にカスタマーまたは設計者によって構成されるように設計された-したがって、「フィールドプログラマブル」集積回路である。FPGA構成は、一般に、ASICのために使用される言語と同様のハードウェア記述言語(HDL)を使用して指定される。
【0036】
本明細書で使用されるように、また、当業者によって一般に理解されるように、システム・オン・ア・チップまたはシステム・オン・チップ(SoCまたはSOC)は、コンピュータまたは他の電子システムの全ての構成要素を単一チップに統合する集積回路(IC)である。SoCまたはSOCは、デジタル信号、アナログ信号、及び混合信号、並びにしばしば無線周波数機能を、全て単一チップ基板上に含んでもよい。典型的な用途は、埋め込みシステムの領域においてである。
【0037】
典型的なSoCは、以下のハードウェア構成要素を含む。
1つまたは複数のプロセッサコア(例えば、マイクロコントローラ、マイクロプロセッサ、またはデジタル信号プロセッサ(DSP)コア)。
メモリブロック、例えば、リードオンリーメモリ(ROM)、ランダムアクセスメモリ(RAM)、電子的消去可能プログラマブルリードオンリーメモリ(EEPROM)、及びフラッシュメモリ。
発振器または位相ロックループ等のタイミングソース。
カウンタタイマ、リアルタイムタイマ、またはパワーオンリセット発生器等の周辺機器。
外部インタフェース、例えば、ユニバーサルシリアルバス(USB)等の業界標準、ファイヤワイヤ、イーサネット(登録商標)、ユニバーサル非同期受信機/送信機(USART)、シリアルペリフェラルインタフェース(SPI)バス。
アナログ・デジタル変換器(ADC)及びデジタル・アナログ変換器(DAC)を含むアナログインタフェース。
【0038】
電圧調節器及び電力管理回路
これらの構成要素は、独占的または業界標準バスによって接続される。ダイレクトメモリアクセス(DMA)コントローラは、外部インタフェースとメモリとの間で直接、データをルーティングし、プロセッサコアをバイパスさせ、それにより、SoCのデータスループットを増加させる。
【0039】
典型的なSoCは、上述したハードウェア構成要素と、実行可能命令(例えば、ソフトウェアまたはファームウェア)であって、プロセッサコア(複数可)、周辺機器、及びインタフェースを制御する、実行可能命令の両方を含む。
【0040】
本開示の態様によれば、シェーダまたはテキスチャユニット306の一部または全ての機能は、代替的に、ソフトウェアプログラマブル汎用コンピュータプロセッサによって実行される、適切に構成されたソフトウェア命令によって実装されてもよい。こうした命令は、コンピュータ可読媒体、例えば、メモリ308またはストレージデバイス315内で具現化されてもよい。
【0041】
システム300は、同様に、例えば、バス309によってシステムの他の構成要素と通信してもよい、よく知られている支持機能310を含んでもよい。こうした支持機能は、入力/出力(I/O)要素311、電力供給(P/S)312、クロック(CLK)313、及びキャッシュ314を含んでもよいが、それに限定されない。キャッシュ314に加えて、GPU304は、それ自身のGPUキャッシュ314Gを含んでもよく、GPUは、GPU304上で実行されるプログラムがGPUキャッシュ314Gを通して読み出せるまたは書込めるように構成されてもよい。
【0042】
システム300は、被レンダーグラフィクス317をユーザに提示するためディスプレイデバイス316を含んでもよい。代替の実施態様において、ディスプレイデバイス316は、システム300と共に働く別個の構成要素である。ディスプレイデバイス316は、フラットパネルディスプレイ、頭部搭載型ディスプレイ(HMD)、陰極線管(CRT)スクリーン、プロジェクタ、または、目に見えるテキスト、数値、グラフィカルシンボル、または画像を表示する可能性がある他のデバイスの形態であってよい。特に有用な実施態様において、ディスプレイデバイス316は、湾曲スクリーンを有する大きな視野(FOV)のデバイスである。ディスプレイデバイス316は、本明細書で述べる種々の技法に従って処理される被レンダーグラフィック画像317を表示する。
【0043】
システム300は、任意選択で、プログラム及び/またはデータを格納するため、ディスクドライブ、CD-ROMドライブ、フラッシュメモリ、テープドライブ等のようなマスストレージデバイス315を含んでもよい。システム300は、同様に任意選択で、システム300とユーザとの間の相互作用を容易にするためユーザインタフェースユニット318を含んでもよい。ユーザインタフェースユニット318は、キーボード、マウス、ジョイスティック、ライトペン、ゲームコントローラ、または、グラフィカルユーザインタフェース(GUI)と共に使用されてもよい他のデバイスを含んでもよい。システム300は、同様に、デバイスが、ネットワーク322を通じて他のデバイスと通信することを可能にするネットワークインタフェース320を含んでもよい。ネットワーク322は、例えば、ローカルエリアネットワーク(LAN)、インターネット等のワイドエリアネットワーク、Bluetooth(登録商標)ネットワーク等のパーソナルエリアネットワーク、または他の型のネットワークであってよい。これらの構成要素は、ハードウェア、ソフトウェア、またはファームウェア、或は、これらのうちの2つ以上の何らかの組合せであってよい。
【0044】
グラフィクスパイプライン
本開示の態様によれば、システム300は、グラフィクスレンダリングパイプラインの所定の部分を実装するように構成される。図3Bは、本開示の態様によるグラフィクスレンダリングパイプライン330の例を示す。
【0045】
レンダリングパイプライン330は、仮想空間(本明細書で「世界空間(world space)」と呼ばれることがある)内で2次元または好ましくは3次元幾何形状を有するシーンを描く画像としてグラフィクスをレンダーするように構成されてもよい。パイプラインの早期ステージは、シーンが、ラスター化され、ディスプレイデバイス316上で出力するのに適した離散的画素のセットとしてスクリーン空間に変換される前に、仮想空間において実施される演算を含んでもよい。パイプライン全体を通して、グラフィクスメモリ328に含まれる種々のリソースが、パイプラインステージで利用されてもよく、また、ステージに対する入力及び出力は、画像の最終値が決定される前にグラフィクスメモリに含まれるバッファに一時的に格納されてもよい。
【0046】
レンダリングパイプラインは、頂点のセットによって規定された1つまたは複数の仮想オブジェクトを含んでもよい入力データ332に作用してもよく、1つまたは複数の仮想オブジェクトは、仮想空間内でセットアップされ、シーン内の座標に関して規定される幾何形状を有する。パイプラインの早期ステージは、図3Bにおいて頂点処理ステージ334として幅広く分類されるものを含んでもよく、また、これは、仮想空間内でオブジェクトの頂点を処理するため種々の計算を含んでもよい。これは、頂点シェーディング計算336を含んでもよく、頂点シェーディング計算336は、位置の値、(例えば、X-Y座標及びZ深度値)、カラー値、ライティング値、テキスチャ座標等のようなシーン内の頂点の種々のパラメータ値を操作してもよい。好ましくは、頂点シェーディング計算336は、1つまたは複数のプログラマブル頂点シェーダによって実施される。頂点処理ステージは、仮想空間内で新しい頂点及び新しい幾何形状を生成するために任意選択で使用されてもよい、テッセレーション及び幾何形状シェーダ計算338等の更なる頂点処理計算を任意選択で含んでもよい。頂点処理334と呼ばれるステージが終了すると、パイプラインのこのステージにおいて、シーンは、それぞれが頂点パラメータ値339のセットを有する頂点のセットによって規定される。
【0047】
パイプライン330は、その後、シーン幾何形状を、シーン空間及び離散的画素、すなわちピクセルのセットに変換することに関連するラスター化処理ステージ340に進んでもよい。仮想空間幾何形状は、仮想空間からシーンの観察窓(または「ビューポイント」)へのオブジェクト及び頂点の投影を本質的に計算してもよい演算を通してスクリーン空間幾何形状に変換されてもよい。頂点は、プリミティブのセットとして規定されてもよい。
【0048】
図3Bに示すラスター化処理ステージ340は、シーン内で頂点の各セットによって規定されるプリミティブをセットアップしてもよいプリミティブ組立て演算342を含んでもよい。各頂点は、インデックスによって規定されてもよく、各プリミティブは、グラフィクスメモリ328内のインデックスバッファに格納されてもよいこれらの頂点インデックスに関して規定されてもよい。プリミティブは、好ましくは、それぞれ3つの頂点によって規定される少なくとも三角形を含んでもよいが、同様に、点プリミティブ、線プリミティブ、及び他の多角形形状を含んでもよい。プリミティブ組立て演算342中に、或るプリミティブは、任意選択で、選択されてもよい。例えば、そのインデックスが或る巻回順序を示すプリミティブは、後向きであると考えられてもよく、また、シーンから選択されてもよい。
【0049】
プリミティブが組立てられた後、ラスター化処理ステージは、スキャン変換演算344を含んでもよく、スキャン変換演算344は、各ピクセルにおいてプリミティブをサンプリングし、サンプルがプリミティブによってカバーされると更なる処理のためにプリミティブからフラグメント(ピクセルと呼ばれることがある)を生成してもよい。任意選択で、各ピクセルの複数のサンプルは、スキャン変換演算344中にプリミティブなしで採取され、それらのサンプルは、アンチエイリアシングのために使用されてもよい。或る実施態様において、異なるピクセルは異なるようにサンプリングされてもよい。例えば、幾つかの縁ピクセルは、中央ピクセルよりも低いサンプリング密度を含んで、頭部搭載型ディスプレイ(HMD)等の或る型のディスプレイデバイス316について或る態様のレンダリングを最適化してもよい。スキャン変換344中にプリミティブから生成されるフラグメント(または「ピクセル」)は、ピクセルを生成したプリミティブの頂点の頂点パラメータ値339からピクセルの位置に対して補間されてもよいパラメータ値を有してもよい。ラスター化ステージ340は、パラメータ補間演算346ステージを含んで、これらの被補間フラグメントパラメータ値349を計算してもよく、被補間フラグメントパラメータ値349は、パイプラインの後のステージにおける更なる処理のための入力として使用されてもよい。
【0050】
本開示の態様によれば、プリミティブ組立て342とスキャン変換344との間で、スクリーンの異なるサブセクションが異なるピクセル解像度を有することに対処する或る演算が行われる。特定の実施態様において、プリミティブの頂点についてのスクリーンの位置がわかると、粗いラスター化343が行われて、プリミティブがオーバラップする全ての予め規定されたスクリーンサブセクション(本明細書で、粗いラスター化タイルと呼ばれることがある)を見出す可能性がある。プリミティブがオーバラップする各サブセクションについて、有効解像度がそのサブセクションについて修正されることを可能にするサブセクション依存メタデータMD、例えば、アクティブサンプルカウントまたは他のパラメータが受信される。スキャン変換344及び後続の処理ステージは、関連する1つまたは複数のサブセクションについて指定された数のアクティブサンプルに対してだけピクセル処理を実施することによって最終ピクセル値を生成する。
【0051】
グラフィクスパイプライン330は、図3Bの350で全体的に示す更なるピクセル処理演算を含んで、被補間パラメータ値349を更に操作し、ディスプレイ316のための最終ピクセル値にフラグメントがどのように寄与するかを決定する更なる演算を実施してもよい。これらのピクセル処理タスクの幾つかは、フラグメントの被補間パラメータ値349を更に操作するために使用されてもよいピクセルシェーディング計算352を含んでもよい。ピクセルシェーディング計算は、プログラマブルピクセルシェーダによって実施されてもよく、ピクセルシェーダ呼出し348は、ラスター化処理ステージ340中にプリミティブのサンプリングに基づいて始動されてもよい。先に述べたように、ピクセルシェーダ呼出し348は、同様に、プリミティブがその中でレンダーされるディスプレイデバイス316の特定の領域内の各ピクセルについてアクティブサンプルカウントを指定するメタデータMDに基づいて始動されてもよい。特定の領域内の各ピクセルについて、ピクセルシェーダ呼出し348は、アクティブサンプルカウントに等しいピクセルの或る数のカラーサンプルについてだけ起こる。
【0052】
図4Aは、ディスプレイスクリーン316の異なる領域401について異なるアクティブカラーサンプルを指定するようにメタデータMDがどのように構成される可能性があるかについての例を示す。幾つかの実施態様において、各領域は、ディスプレイの固定サイズ部分に対応してもよい。他の実施態様において、各領域は、ディスプレイの可変サイズ部分に対応してもよい。更なる実施態様において、メタデータMDは、垂直及び水平方向にピクセルの範囲によって各領域401を規定する可能性がある。なお更なる実施態様において、メタデータMDは、或るサイズ、例えば、32ピクセル×32ピクセルの粗いラスター化タイルによって各領域を規定する可能性がある。特定の領域に関連するメタデータは、その領域についてアクティブカラーサンプルカウントを指定する情報を含む。例として、また、制限としてではなく、メタデータは、メモリ308及び/またはグラフィクスメモリ328内のテーブルの形態で格納されてもよい。
【0053】
例として、また、制限としてではなく、ディスプレイスクリーン316の各領域401の各ピクセル403は、8つの深度サンプル及び4つのカラーサンプルを有するように規定される可能性がある。任意の特定の領域についてのメタデータは、その領域の所望の解像度に応じて、その領域について1、2、3、または4のアクティブカラーサンプルカウントを指定する可能性がある。図4Aに示す例において、スクリーン316の中央領域は、フル解像度を持つことを所望されるため、メタデータMDは、これらの領域について4のアクティブカラーサンプルカウントを指定する。
【0054】
こうした実施態様において、グラフィクスパイプライン330内の処理の多くは、通常通りに起こる。例えば、プリミティブ組立て342並びにスキャン変換344及びパラメータ補間346等のラスター化処理340の他の部分は、従来通りに実装されることになる。スクリーンは、単一ピクセルフォーマットを有する、例えば、カラーサンプルカウント、深度サンプルカウント、位置、及び他のパラメータを指定することになる。本開示の態様の新しい特徴は、各領域401のピクセルシェーダ呼出し348の場合、メタデータMDがアクティブカラーサンプルカウントを指定し、ピクセルシェーダが、アクティブカラーサンプルカウントに等しい回数、呼び出されることである。
【0055】
或る実施態様において、ピクセルシェーダ呼出し348は、デフォルトとしてアンロールされ、深度サンプルが常に書込まれる。呼出しが常にアンロールされる場合、ピクセルシェーディング計算352は、ピクセルをマルチサンプリングすることと対照的に、各アクティブカラーサンプルについて呼び出されることによってピクセルをスーパーサンプリングする。
【0056】
例えば、メタデータMDが、中央領域401Cについてピクセル当たり4つのカラーサンプルを、また、縁領域401E内でピクセル当たり2つのカラーサンプルを指定する場合、それは、縁領域401Eと比較して中央領域401Cにおいて水平及び垂直方向に2倍の解像度になることと同等である。
【0057】
図4Bは、ピクセル画像当たり単一サンプルの例を示し、2ピクセル×2ピクセルクワッド406は、4つのピクセルを完全に記述する4つのカラーサンプルを示す。深度サンプルは、例においてこの点でカラーサンプルと区別されない。三角形405について、4つのピクセル位置のうちの3つのピクセル位置が三角形によってカバーされるため、この1つのクワッドは、カバーされた3つのサンプルを有する単一フラグメントとして、ピクセルシェーディング計算352のためにピクセルシェーダPSに渡される。ピクセルシェーダPSは、4つのカラーサンプルをシェーディングし、4つのカラーサンプルのうちの3つをフレームバッファFBに格納する。
【0058】
図4Cにおいて、対照的に、ピクセル当たり4つのカラーサンプルが存在するため、図示する16のサンプルは2×2ピクセルに対応するだけであり、一方、図4Bの例において、それは、4×4ピクセルであった。この図は、ピクセルシェーダ呼出しが、カバーされた各サンプルに関して起こるようにアクティブピクセルがアンロールされるときに、3つのフラグメントが生成され、各フラグメントがカバーされた1つのサンプルを含むことを示す。
【0059】
アクティブサンプルカウントは、メタデータMDによって指定されるサンプルを選択的にディセーブルすることによって変動する可能性がある。例えば、各ピクセルの右上及び左下が非アクティブにレンダーされる場合、1つのアクティブサンプル位置だけがカバーされ、したがって、図4Cに示す3つのフラグメントの中央だけがピクセルシェーダPSに渡される。
幾つかの実施態様において、メタデータは、ディスプレイ316の光学部品及びFOVについて固定される。こうしたメタデータ構成の例は、図4Dに概略的に示される。図4Dは、ディスプレイスクリーン316の異なるサブセクション401について異なるアクティブピクセルサンプル(またはアクティブカラーサンプル)をメタデータMDがどのように指定するように構成される可能性があるかの例を示す。図4Dに示す例において、スクリーン316の中央サブセクションは、フル解像度を持つように所望され、中央から遠いサブセクションは、徐々に低い解像度を有する。例として、また、制限としてではなく、ディスプレイスクリーン316の各領域401の各ピクセル403は、固定数の深度サンプル及びカラーサンプル、例えば、8つの深度サンプル及び4つのカラーサンプルを持つように規定される可能性がある。任意の特定の領域についてのメタデータは、その領域の所望の解像度に応じて、その領域について1、2、3、または4のアクティブカラーサンプルカウントを指定する可能性がある。
【0060】
代替の実施態様において、メタデータは、目追跡のために中心窩レンダリングを実装するために変動する可能性がある。こうした実施態様において、システム300は、ユーザの注視、すなわち、ユーザの目が見ている場所を追跡し、この情報を、ユーザが見ている対応するスクリーンの位置に関連付けるためのハードウェアを含む。こうしたハードウェアの一例は、ディスプレイデバイス316のスクリーンに対してわかっている位置にありかつユーザの全体的な方向に向くデジタルカメラを含む可能性がある。デジタルカメラは、ユーザインタフェース318または別個の構成要素の一部である可能性がある。CPUコード303Cは、画像解析ソフトウェアを含む可能性があり、画像解析ソフトウェアは、カメラからの画像を解析して、(a)ユーザが画像内にいるかどうか、(b)ユーザがカメラに向いているかどうか、(c)ユーザがスクリーンに向いているかどうか、(d)ユーザの目が観察可能であるかどうか、(e)ユーザの頭部に対するユーザの目の瞳孔の向き、及び(f)カメラに対するユーザの頭部の向きを決定する。スクリーンに対するカメラのわかっている位置及び向き、ユーザの頭部に対するユーザの目の瞳孔の向き、及びカメラに対するユーザの頭部の向きから、画像解析ソフトウェアは、ユーザがスクリーンを見ているかどうかを、またそうである場合、ユーザが見ているスクリーンの部分401についてのスクリーン空間座標を決定する可能性がある。CPUコード303Cは、その後、これらのスクリーン座標をGPUコード303Gに渡し、GPUコード303Gは、部分401を含む1つまたは複数のサブセクションを決定する可能性がある。GPUコードは、その後、相応してメタデータMDを修正する可能性があるため、ピクセル解像度は、図4Eに示すように、部分401を含む1つまたは複数のサブセクションにおいて最高になり、部分401から遠く離れるサブセクションにおいて徐々に低くなる。
【0061】
再び図3Bを参照すると、ピクセルシェーディング計算352は、レンダーターゲット、または複数ある場合には複数レンダーターゲット(MRT)と呼ばれることがある、グラフィクスメモリ328内の1つまたは複数のバッファ305に出力値を出力してもよい。MRTは、ピクセルシェーダが、2つ以上のレンダーターゲットであって、それぞれが同じスクリーン寸法を有するが、おそらくは異なるピクセルフォーマットを有する、2つ以上のレンダーターゲットに任意選択で出力することを可能にする。レンダーターゲットフォーマット制限は、任意の1つのレンダーターゲットが最大4つの独立した出力値(チャネル)を受入れる可能性があるだけであること、及び、これら4つのチャネルのフォーマットが互いに密に結びついていることをしばしば意味する。MRTは、単一ピクセルシェーダが異なるフォーマットの混合でより多くの値を出力することを可能にする。レンダーターゲットのフォーマットは、レンダーターゲットが、スクリーン空間ピクセルについて複数の値を格納するが、種々の性能理由から、レンダーターゲットのフォーマットが最近のハードウェア世代においてより専門的になっており、テキスチャユニットによって読込まれることにデータが適合する前にデータをリフォーマットする「リゾルブ」と呼ばれるものを(常にではないが)ときどき必要とする点で、「テキスチャのようである」。
【0062】
ピクセル処理350は、一般に、ラスター演算(ROP)として一般に知られるものを含んでもよいレンダー出力演算356に到達してもよい。ラスター化演算(ROP)は、複数のレンダーターゲット(MRT)の中の各レンダーターゲットについて1回、ピクセルについて複数回実行されるだけである。出力演算356中に、最終ピクセル値359は、フレームバッファ内で決定されてもよく、フレームバッファは、任意選択で、融合フラグメント、適用ステンシル、深度試験、及び或るサンプルごとの処理タスクを含んでもよい。最終ピクセル値359は、全てのアクティブレンダーターゲット(MRT)に対する収集済み出力を含む。GPU304は、最終ピクセル値359を使用して、完成フレーム360を構成し、完成フレーム360は、任意選択で、ディスプレイデバイス316のピクセル上でリアルタイムに表示されてもよい。
【0063】
出力演算350は、同様にテキスチャマッピング演算354を含んでもよく、テキスチャマッピング演算354は、或る程度まで1つまたは複数のシェーダ(例えば、ピクセルシェーダPS、コンピュートシェーダCS、頂点シェーダVS、または他の型のシェーダ)によって、また、或る程度までテキスチャユニット306によって実施されてもよい。シェーダ計算352は、スクリーン空間座標XYからテキスチャ座標UVを計算すること、及び、テキスチャ座標をテキスチャ演算354に送信すること、及びテキスチャデータTXを受信することを含む。テキスチャ座標UVは、スクリーン空間座標XYから任意の方式で計算される可能性があるが、通常、被補間入力値から、またはときどきは直前のテキスチャ演算の結果から計算される。勾配Grは、しばしば、テキスチャユニット306(テキスチャ演算ハードウェアユニット)によってテキスチャ座標のクワッドから直接計算されるが、任意選択で、ピクセルシェーダ計算352によって明示的に計算され、テキスチャユニット306に頼るのではなくテキスチャ演算354に渡されて、デフォルト計算を実施する可能性がある。
【0064】
テキスチャ演算356は、一般に、ピクセルシェーダPS及びテキスチャユニット306の或る組合せによって実施される可能性がある以下のステージを含む。最初に、ピクセル位置XYについて1つまたは複数のテキスチャ座標UVが、生成され、各テキスチャマッピング演算について座標セットを提供するために使用される。その後、勾配値Grが、テキスチャ座標UVから計算され(おそらくは、サンプル位置の非直交性についての補正を有する)、テキスチャがプリミティブを適用する詳細のレベル(LOD)を決定するために使用される。
【0065】
更なる態様
本開示の更なる態様は、グラフィクス処理方法を含み、方法は、
ディスプレイデバイスの複数の領域の中でディスプレイデバイスの特定の領域についてのアクティブサンプル構成を指定するメタデータを受信すること、
特定の領域内の1つまたは複数のピクセルについて、各ピクセルの同じ数のカラーサンプルを指定する、ピクセルデータを受信すること、及び、
特定の領域内の各ピクセルについて、アクティブサンプル構成によってアクティブサンプルであると指定されるカラーサンプルについてだけピクセルシェーダを呼び出すことを含む。
【0066】
本開示の更なる態様は、ディスプレイデバイスのスクリーンの異なる領域が異なるピクセル解像度を有する、グラフィクス処理方法を含む。
【0067】
別の更なる態様は、コンピュータ可読媒体であり、コンピュータ可読媒体は、コンピュータ可読媒体内で具現化されるコンピュータ実行可能命令を有し、コンピュータ実行可能命令は、実行されると、以下の方法の一方または両方を実装する。
【0068】
更なる態様は、以下の方法の一方または両方を実施する電磁のまたは他の信号搬送コンピュータ可読命令である。
【0069】
更なる態様は、通信ネットワークからダウンロード可能である及び/またはコンピュータ可読及び/またはマイクロプロセッサ実行可能媒体上に格納されるコンピュータプログラム製品であって、先の方法の一方または両方を実装するプログラムコード命令を含むことを特徴とする、コンピュータプログラム製品である。
【0070】
別の更なる態様は、先の方法の一方または両方を実装するように構成されるグラフィクス処理システムである。
【0071】
上記は本発明の好ましい実施形態の完全な説明であるが、種々の代替物、修正物、及び等価物を使用することが可能である。したがって、本発明の範囲は、先の説明を参照して決定されるべきでなく、代わりに、添付特許請求の範囲を参照して、その均等物の全範囲と共に決定されるべきである。本明細書で述べる任意に特徴(好ましくても、好ましくなくても)は、本明細書で述べる任意の他の特徴(好ましくても、好ましくなくても)と組合されてもよい。添付特許請求の範囲において、[不定冠詞「A」または「An」]は、別途明白に述べられる場合を除いて、冠詞に続く品目の1つまたは複数の量を指す。添付特許請求の範囲は、ミーンズ・プラス・ファンクション制限が、句「のための手段(means for)」を使用して所与の特許請求項において明示的に列挙されない限り、ミーンズ・プラス・ファンクション制限を含むものとして解釈されない。
図1A
図1B
図1C
図2A
図2B
図2C
図2D
図3A
図3B
図4A
図4B
図4C
図4D
図4E