(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-03-27
(45)【発行日】2024-04-04
(54)【発明の名称】ディスプレイデバイスにおけるフレームレートに基づく照明制御
(51)【国際特許分類】
G09G 3/20 20060101AFI20240328BHJP
G09G 3/34 20060101ALI20240328BHJP
G09G 3/36 20060101ALI20240328BHJP
H04N 5/66 20060101ALI20240328BHJP
G09G 3/3233 20160101ALI20240328BHJP
【FI】
G09G3/20 641K
G09G3/34 J
G09G3/36
H04N5/66 B
G09G3/3233
G09G3/20 K
G09G3/20 641A
G09G3/20 624D
(21)【出願番号】P 2021537924
(86)(22)【出願日】2019-12-23
(86)【国際出願番号】 IB2019061315
(87)【国際公開番号】W WO2020141410
(87)【国際公開日】2020-07-09
【審査請求日】2022-12-13
(32)【優先日】2019-01-04
(33)【優先権主張国・地域又は機関】US
(32)【優先日】2019-05-26
(33)【優先権主張国・地域又は機関】US
(32)【優先日】2019-10-31
(33)【優先権主張国・地域又は機関】US
(32)【優先日】2019-10-31
(33)【優先権主張国・地域又は機関】US
(32)【優先日】2019-10-31
(33)【優先権主張国・地域又は機関】US
(32)【優先日】2019-10-31
(33)【優先権主張国・地域又は機関】US
(32)【優先日】2019-10-31
(33)【優先権主張国・地域又は機関】US
【早期審査対象出願】
(73)【特許権者】
【識別番号】508301087
【氏名又は名称】エーティーアイ・テクノロジーズ・ユーエルシー
【氏名又は名称原語表記】ATI TECHNOLOGIES ULC
【住所又は居所原語表記】One Commerce Valley Drive East, Markham, Ontario, L3T 7X6 Canada
(74)【代理人】
【識別番号】100108833
【氏名又は名称】早川 裕司
(74)【代理人】
【識別番号】100111615
【氏名又は名称】佐野 良太
(74)【代理人】
【識別番号】100162156
【氏名又は名称】村雨 圭介
(72)【発明者】
【氏名】エド キャルウェイ
(72)【発明者】
【氏名】デイビッド グレン
【審査官】西島 篤宏
(56)【参考文献】
【文献】特開2005-266751(JP,A)
【文献】特開2005-266752(JP,A)
【文献】特開2002-156950(JP,A)
【文献】特開2003-050569(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G09G 3/00 - 3/38
H04N 5/66
(57)【特許請求の範囲】
【請求項1】
フレームレートでフレームシーケンスをディスプレイデバイスに表示することと、
前記フレームシーケンスの各フレームのフレーム期間中に前記ディスプレイデバイスによって適用される照明構成を、制御モジュールを用いて前記フレームレートに基づいて設定することと、
を含むコンピュータ実行方法であって、
前記照明構成は、前記ディスプレイデバイスによって適用されると、
照明ストロボの照度及び持続時間のうち少なくとも1つと、
前記フレーム期間における前記照明ストロボに先行する照明フィルの照度と、前記フレーム期間における前記照明ストロボに続く照明フィルの照度と、のうちの少なくとも1つと、
を制御し、
前記照明構成を設定することは、
前記フレームレートが高くなるにつれて前記照明ストロボの照度が高くなるように、前記照明ストロボの照度を決定することを含む、
コンピュータ実行方法。
【請求項2】
前記照明構成を設定することは、
前記フレームレートを含む、定義されたフレームレート範囲に基づいて、前記照明ストロボに先行する照明フィル又は前記照明ストロボに続く照明フィルのうち少なくとも1つの照度を決定するこ
とを含む、
請求項1のコンピュータ実行方法。
【請求項3】
前記
照度を決定することは、1つ以上のルックアップテーブルとして実装され
た1つ以上の関係に基づいて前記照度を決定することを含む、
請求項2のコンピュータ実行方法。
【請求項4】
前記
照度を決定することは、ソフトウェアプログラムの1つ以上の関数として実装され
た1つ以上の関係に基づいて前記照度を決定することを含む、
請求項2のコンピュータ実行方法。
【請求項5】
前記
照度を決定することは、機械学習アルゴリズムによって生成された1つ以上の学習済みモデルとして実装され
た1つ以上の関係に基づいて前記照度を決定することを含む、
請求項2のコンピュータ実行方法。
【請求項6】
前記
照度を決定することは、ユーザ入力に基づいて
、前記フレームレートと、前記照明ストロボに先行する照明フィル又は前記照明ストロボに続く照明フィルのうち少なくとも1つの照度と、の関係を調整
することを含む、
請求項2のコンピュータ実行方法。
【請求項7】
フレームレートでディスプレイデバイスに表示するためにフレームシーケンスをレンダリングすることと、
制御モジュールを用いて、前記フレームレートに基づいて、前記フレームシーケンスの各フレームのフレーム期間中に前記ディスプレイデバイスによって適用される照明構成を設定することと、
を行うように構成されたディスプレイシステムであって、
前記照明構成は、前記ディスプレイデバイスによって適用されると、
照明ストロボの照度及び持続時間のうち少なくとも1つと、
前記フレーム期間における前記照明ストロボに先行する照明フィルの照度と、前記フレーム期間における前記照明ストロボに続く照明フィルの照度と、のうち少なくとも1つと、
を制御し、
前記照明構成を設定することは、
前記フレームレートが高くなるにつれて前記照明ストロボの照度が高くなるように、前記照明ストロボの照度又は前記持続時間のうち少なくとも1つを決定することを含む、
ディスプレイシステム。
【請求項8】
前記照明構成を設定することは、
前記フレームレートを含む、定義されたフレームレート範囲に基づいて、前記照明ストロボに先行する照明フィル又は前記照明ストロボに続く照明フィルのうち少なくとも1つの照度を決定するこ
とを含む、
請求項7のディスプレイシステム。
【請求項9】
前記
照度を決定することは、1つ以上のルックアップテーブルとして実装され
た1つ以上の関係に基づいて前記照度を決定することを含む、
請求項8のディスプレイシステム。
【請求項10】
前記
照度を決定することは、レンダリングデバイス又は前記ディスプレイデバイスで実行されるソフトウェアプログラムの1つ以上の関数として実装され
た1つ以上の関係に基づいて前記照度を決定することを含む、
請求項8のディスプレイシステム。
【請求項11】
前記
照度を決定することは、レンダリングデバイス又は前記ディスプレイデバイスで実行される機械学習アルゴリズムによって生成された1つ以上の学習済みモデルとして実装され
た1つ以上の関係に基づいて前記照度を決定することを含む、
請求項8のディスプレイシステム。
【請求項12】
前記フレームレートと、前記照明ストロボに先行する照明フィル又は前記照明ストロボに続く照明フィルのうち少なくとも1つの照度と、の関係を調整するユーザ入力を受信するためのグラフィカルユーザインタフェースを提供するソフトウェアプログラムを記憶するストレージコンポーネントをさらに備える、
請求項8のディスプレイシステム。
【請求項13】
前記ディスプレイデバイスをさらに備え、
前記ディスプレイデバイスは、
前記照明構成の表現を受信することと、
前記フレームシーケンスの各フレームのフレーム期間中に前記照明構成を適用して前記フレームを表示することと、
を行うように構成されている、
請求項8のディスプレイシステム。
【請求項14】
前記ディスプレイデバイスは、透過型ディスプレイデバイスであり、
フレーム期間中に前記照明構成を適用することは、前記照明構成に基づいて前記フレーム期間中にバックライト照度を制御することを含む、
請求項13のディスプレイシステム。
【請求項15】
前記ディスプレイデバイスは、発光型ディスプレイデバイスであり、
フレーム期間中に前記照明構成を適用することは、前記照明構成に基づいて前記フレーム期間中に前記ディスプレイデバイスのピクセルに供給される電力を調整することを含む、
請求項13のディスプレイシステム。
【発明の詳細な説明】
【背景技術】
【0001】
液晶ディスプレイ(LCD)、発光ダイオード(LED)ディスプレイ、有機LED(OLED)ディスプレイ等の発光ディスプレイ、透過ディスプレイ、反射ディスプレイは、従来、2つの照明構成の何れかを採用している。バックライト又は発光ピクセル要素が、各フレーム期間中、一定のレベルで常にアクティブである一定照明構成(constant illumination configuration)と、バックライト又は発光ピクセル要素が、各フレーム期間中の短い部分だけストロボ(又は、「フラッシュ」)され、ストロボの前後の期間では非アクティブになるストロボ構成である。一定照明構成を実装するディスプレイは、照明レベルが各フレーム期間中及び各フレーム期間の間で一定であるため、フリッカーが殆ど発生しない。ただし、フレーム間の表示コンテンツ内のオブジェクトの動きは、人間の視覚システムによって示される残像現象により、モーションブラーの影響を受けやすい。一方、ストロボ構成を実装するディスプレイは、各フレーム期間の照明期間が短いため、モーションブラーが大幅に軽減されるが、バックライト又は発光ピクセル要素のストロボによりフリッカーが発生し、ユーザエクスペリエンスを損なう可能性がある。さらに、一連のフレーム期間中に十分な平均輝度を維持するように十分に明るいストロボを提供するために必要な電流フローは、そのような電流フローを提供するバックライトドライバやフラッシュ光を提供する発光ピクセル要素の寿命を短くする。
【0002】
添付の図面を参照することによって本開示をより良く理解することができ、その多くの特徴及び利点が当業者に明らかになる。異なる図面で同じ符号を使用することは、類似又は同一の要素を示す。
【図面の簡単な説明】
【0003】
【
図1】いくつかの実施形態による、ディスプレイデバイスにおけるフレームの表示中の照明制御を示す図である。
【
図2】いくつかの実施形態による、様々な照明制御技術及びこれらの組み合わせを示す図である。
【
図3】いくつかの実施形態による、1つ以上の照明制御技術を採用したディスプレイシステムを示すブロック図である。
【
図4】いくつかの実施形態による、例示的な透過型ディスプレイデバイスを示すブロック図である。
【
図5】いくつかの実施形態による、例示的な発光型ディスプレイデバイスを示すブロック図である。
【
図6】いくつかの実施形態による、領域照明制御のための様々な例示的なディスプレイデバイス構成を示すブロック図である。
【
図7】いくつかの実施形態による、
図3のディスプレイシステムによって実装されるソフトウェア/ハードウェアスタックを示すブロック図である。
【
図8】いくつかの実施形態による、ディスプレイデバイスのフレームレートに基づく照明制御の方法を示すフロー図である。
【
図9】いくつかの実施形態による、フレームレートに基づいてストロボ照明出力及びフィル照明出力を決定するための技術を示す図である。
【
図10】いくつかの実施形態による、フレームレートに基づいて、ストロボ照明出力とストロボ後のフィル照明出力の間の例示的な関係を示す図である。
【
図11】いくつかの実施形態による、
図10の関係に基づいて異なるフレームレートでのディスプレイデバイスの例示的な照明構成を示す図である。
【
図12】いくつかの実施形態による、フレームレートに基づく、ストロボ照明出力、ストロボ前のフィル照明出力、ストロボ後の照明出力の間の例示的な関係を示す図である。
【
図13】いくつかの実施形態による、
図12の関係に基づく、異なるフレームレートでのディスプレイデバイスの例示的な照明構成を示す図である。
【
図14】いくつかの実施形態による、例示的な照明ストロボのタイミングを示す図である。
【
図15】いくつかの実施形態による、照明ストロボのタイミングの技術を示す図である。
【
図16】いくつかの実施形態による、様々な照明制御パラメータに関するユーザ入力の受信を容易にするグラフィカルユーザインタフェースを示す図である。
【
図17】いくつかの実施形態による、クラウドソースによる照明制御の技術を示す図である。
【
図18】いくつかの実施形態による、領域の輝度に基づく領域毎の照明制御の方法を示すフロー図である。
【
図19】いくつかの実施形態による、
図18の方法のための例示的な実装を示す図である。
【
図20】いくつかの実施形態による、領域の動き推定に基づく領域毎の照明制御の方法を示すフロー図である。
【
図21】いくつかの実施形態による、
図20の方法の例示的な実装を示す図である。
【
図22】いくつかの実施形態による、
図20の方法を2つの連続したフレームに適用する例を示す図である。
【
図23】いくつかの実施形態による、
図3のディスプレイシステムの視線追跡サブシステムを示す図である。
【
図24】いくつかの実施形態による、中心窩照明制御(foveated illumination control)の方法を示すフロー図である。
【
図25】いくつかの施形態による、
図24の方法の例示的な実装を示す図である。
【
図26】いくつかの実施形態による、
図24の方法を2つの連続したフレームに適用する例を示す図である。
【発明を実施するための形態】
【0004】
以下の説明では、本明細書に記載されるシステム及び技術の十分な理解を提供するために、多数の具体的な詳細が示されている。しかしながら、当業者であれば、これらの具体的な詳細がなくても、様々な実施形態を実施できることを認識するはずである。いくつかの例では、本明細書で説明するアプローチを曖昧にしないように、周知の構造、コンポーネント、信号、コンピュータプログラム命令及び技術が詳細に示されていない。さらに、説明を簡単且つ明確にするために、図に示す要素は必ずしも縮尺通りに描かれていないことが理解されるであろう。例えば、いくつかの要素の寸法は、他の要素に比べて誇張されている場合がある。
【0005】
ディスプレイデバイスは、ビデオ、グラフィックス及びその他の画像を、表示フレーム(以下、単に「フレーム」)のシーケンスの表示を通してユーザに提示し、シーケンスの各フレームの表示は、対応するシーケンスのフレームレートの逆数である、対応するフレーム期間に関連付けられている。各フレームは、レンダリング又は他の方法で生成され、フレームを表すピクセルデータは、フレームバッファ又は他のストレージコンポーネントにバッファリングされる。
図1のタイミングチャート100に示すように、(例えば、垂直同期(VSYNC)104-1又は垂直帰線区間(VBI)のアサートによって通知される)フレーム期間102-1の開始時に、そのフレーム期間中に表示されるフレームのピクセルデータが、(スキャンアウトライン106で表されるように)行毎にフレームバッファからスキャンアウトされ、ディスプレイデバイスに送信される。ここで、ディスプレイデバイスは、現在スキャンインされているフレームの行のピクセルデータに基づいて、例えば、液晶(LC)、発光ダイオード(LED)又は有機LED(OLED)のマトリクスで構成されるピクセルマトリクスの対応する行を構成する。ディスプレイデバイスは、各ピクセルで、ピクセルの位置に関連するピクセルデータに従って変調された表示光を発することによって、フレームの「表示」を行う。液晶ディスプレイ(LCD)及び他の透過型ディスプレイデバイスの場合、表示光の放射は、白色バックライトの使用と、結果として得られる透過光が対応する色と強度を持つようにLCを通過するバックライトの周波数と強度を変調するようにピクセル位置の各LCをそのピクセル位置のピクセルデータに基づいて構成することによって達成される。反射型ディスプレイも同様に動作するが、バックライトではなく反射光を使用する。LEDディスプレイ、OELDディスプレイ及び他の発光型ディスプレイデバイスの場合、表示光の放射は、様々な色(例えば、赤、緑、青)のLED又はOLEDサブピクセルを様々な強度でアクティブにすることによって達成され、その結果、サブピクセルによって放射された光は、組み合わされて、そのピクセルに関連するピクセルデータに対応する特定の色と強度を提供する。
【0006】
光の放射、透過、反射の何れであっても、対応するフレームをユーザに表示するようにディスプレイデバイスによって表示光が生成されているフレーム期間の部分を、本明細書ではフレームの「照明」と呼ぶ。従来の一部のディスプレイシステムは、フレーム期間の全期間に亘って照明強度が一定のレベルに維持される一定照明アプローチを採用している。説明すると、
図1のタイミングチャート110は、従来の一定照明技術を示しており、ディスプレイデバイスが、光出力112が各フレーム期間102-1,102-2等のフレーム期間全体にわたって一定のレベルLに維持されるように、照明源(複数可)(例えば、LCDディスプレイのバックライト若しくはLED又はLEDディスプレイのピクセル自体)を制御する。このアプローチは、フレーム期間内及びフレーム期間の間で照度が一定であるため、ディスプレイのフリッカーを除去するが、残像現象により、連続するフレーム間で動きのあるディスプレイコンテンツに対してモーションブラーを与え得る。
【0007】
従って、モーションブラーを軽減するために、従来の一部のディスプレイシステムは、逆のアプローチを採用しており、このアプローチでは、照明がフレーム期間の短い部分にだけ発生し、この短い照明は、照明「ストロボ」(又は、「フラッシュ」)と呼ばれる。説明すると、タイミングチャート120は、従来のストロボ照明技術を示しており、この技術では、ディスプレイデバイスは、照明源(複数可)の光出力122が、各フレーム期間102の比較的小さい(すなわち、フレーム期間の25%、20%、15%、又は、10%を超えない)部分だけ0でないようにし、それによって、フレーム期間102中に短時間(例えば、0.5~2ミリ秒)アクティブにされる照明ストロボ124を効果的に形成するように、照明源を制御する。これにより、フレームは、比較的短い時間の間、放射された表示光として「表示」され、したがって、画像の持続性が実質的に回避され、モーションブラーが軽減される一方で、各フレーム期間102中に発生する照明ストロボ124によって、低頻度のフラッシュが導入され、一部のユーザがディスプレイのフリッカーとして認識する場合がある。さらに、十分な平均輝度レベルを提供するために、照明ストロボ124の強度レベルは、一般に、一定照明アプローチに必要な強度レベルよりも大幅に高く設定する必要があり、したがって、照明ストロボ124の間、照明源(複数可)のドライバによるかなりの電流流出をもたらす。この電流流出の増加は、通常、照明源の寿命を縮めたり、よりヘビーデューティなドライバ回路の実装を必要とし、これはコスト高になることが多い。さらに、ストロボ124自体のタイミングがフレームの表示に影響を与える可能性があり、フレーム期間の早い段階でストロボが発生すると、レイテンシが短縮されるが、ゴーストの可能性が高くなり、遅い段階でストロボが発生すると、ゴーストを低減又は除去し得るが、レイテンシが増加する。
【0008】
ジッタ、モーションブラー及びレイテンシのバランスを改善するために、本願は、フレームレート、ユーザの好み、OEM(Original Equipment Manufacturer)設定、ハードウェア性能、現在のハードウェア状態、画像コンテンツ、ユーザの視線方向等を含む1つ以上のパラメータに基づいて、表示フレームを照明するためにディスプレイデバイスによって採用される照明構成を制御する様々な技術を開示する。ここで、
図2を参照すると、これらの様々な照明制御技術の分類法200及びこれらの様々な組み合わせが、
図1のタイミングチャート130を参照して示されている。ここで説明する照明制御技術は、一般に、フレームレートに基づいて、フレーム期間内に実装される照度(illumination level(s))(複数可)及び持続時間を構成する技術(以下、「フレームレートに基づく照明制御技術202」と呼ぶ)、フレーム期間内の照明ストロボの位置を構成する技術(以下、「ストロボ位置制御技術204」と呼ぶ)、及び、領域毎に照明構成を制御する技術(以下、「領域照明制御技術206」と呼ぶ)に分類することができる。
【0009】
少なくとも1つの実施形態において、バックライトレベル(透過型ディスプレイデバイスの場合)又はベースライン照度(発光型ディスプレイデバイスの場合)は、フレームのシーケンスの表示中、各フレーム期間にわたって、そのフレーム期間の「照明構成」に従って変化する。
図1のタイミングチャート130に示すように、フレーム期間の照明構成は、例えば、照明ストロボ134の選択的な実施、照明ストロボ134に先行する一定の照度の選択的な実施(本明細書では「先行照明フィル」若しくは単に「先行フィル」と呼ぶ)、及び、照明ストロボ134に続く一定の照度の選択的な実施(本明細書では「後続照明フィル」若しくは単に「後続フィル」と呼ぶ)、又は、これらの組み合わせを含む。先行照明フィル138は、照明ストロボ134に先行する(すなわち、フレーム期間102の開始から照明ストロボ134の開始に及ぶ)フレーム期間102の部分を「フィルする」。後続照明フィル140は、照明ストロボ134に続く(すなわち、照明ストロボ134の最後からフレーム期間102の最後に及ぶ)フレーム期間の部分を「フィルする」。したがって、このような例では、フレームレートに基づく照明制御技術202を採用して、表示されているフレームシーケンスのフレームレートに少なくとも基づいて、照明ストロボ134が所定のフレーム期間に実装されるかどうかと、実装される照明ストロボ134、先行照明フィル138及び後続照明フィル140のうち1つ以上の「出力」と、を制御する。本明細書で使用される場合、照明ストロボ又は照明フィルの「出力」は、対応するストロボ又はフィルの照度及び持続時間の積を意味する。このような技術は、フレームレートに基づいて、先行照明フィル138又は後続照明フィル140の一方又は両方に対してストロボ134の照度または持続時間を調整する技術208と、フレームレートに基づいて、先行照明フィル138及び後続照明フィル140を相対的に調整する技術210と、を含むが、これらに限らない。これらの技術については、
図9~
図13を参照して以下により詳細に説明する。
【0010】
照明ストロボがフレーム期間の照明構成の一部として実装される場合、対応するフレーム期間内の照明ストロボの位置(例えば、
図1のタイミングチャート130の照明ストロボ134の位置136)は、フレームの表示と、表示されたフレームに対するユーザの知覚と、に影響を与える可能性がある。したがって、1つ以上のストロボ位置制御技術204を実施して、フレームレート、ユーザの好み、遅延したVSYNC又は次のフレーム開始の存在等の様々な要因の何れかに基づいて、フレーム期間内の照明ストロボの位置をより効果的に決めることができる。ストロボ位置制御技術204については、
図14及び
図15を参照して以下により詳細に説明する。
【0011】
さらに、いくつかの実施形態では、ディスプレイデバイスは、個別に制御可能な照明領域を有する、すなわち、領域毎に制御可能なバックライト又は表示マトリクスを採用する。このような場合、領域照明制御技術206を採用して、様々な考慮事項に基づいて各照明領域の照明構成を制御することができる。例えば、領域照明制御のための技術212は、表示されるフレームの領域毎の輝度測定値又は他の輝度表現を採用して、フレームに対応するフレーム期間の1つ以上の照明領域に対してストロボベースの照明構成を設定する。別の例として、領域照明制御のための技術214は、動き推定又は他の動き分析を採用して、ディスプレイデバイスの対応する照明領域に関連するフレームの各領域内のオブジェクトの動きを評価し、そのフレームが表示されるときに各照明領域の照明構成を設定する。さらに別の例として、技術216は、表示マトリクス上の注視位置を識別する視線追跡サブシステムに依存して、何れの照明領域が中心窩領域であり、何れの照明領域が周辺領域であるかを識別し、次に、これに応じてフレームの表示中に各照明領域の照明構成を設定する。本明細書で使用する「領域」、「領域の」又は「領域的に」という表現は、複数の領域を指すことに加えて、特に断りのない限り、ディスプレイデバイス全体の単一のグローバル領域も指すことがあることに留意されたい。さらに、ここで説明する領域毎の分析は、様々な数の領域の照明を制御するために使用されてもよい。すなわち、分析される領域の数は、このような分析の結果として照明制御を有する領域の数より多くてもよいし、少なくてもよいし、等しくてもよい。これらの領域照明制御技術206については、
図18~
図26を参照して以下により詳細に説明する。
【0012】
本明細書で説明する照明制御の技術は、通常、1つ以上のフレーム期間に対応する照明構成を決定する際に、フレームレート等の1つ以上の要因を考慮する。いくつかの実施形態では、照明構成の入力因子と結果として得られるパラメータとの間の関係は、例えば、1つ以上のルックアップテーブル(LUT)として、関数表現又はアルゴリズム表現等として実装される固定的関係218である。他の実施形態では、照明構成の入力因子と結果として得られるパラメータとの間の関係は、機械学習を採用したディスプレイシステムの動作のモデル化に基づいて関係を動的に調整する適応的関係220である。さらに別の実施形態では、関係は、固定的関係218と適応的関係220との組み合わせである。固定的、適応的、又は、これらの組み合わせの何れであっても、1つ以上のフレーム期間の照明構成の入力因子と出力パラメータとの間の関係は、OEM(Original Equipment Manufacturer)の入力若しくは制御222に基づいて、ユーザ入力若しくは制御224に基づいて、類似のシステムの他のユーザからの入力若しくは制御に基づいて、又は、これらの組み合わせに基づいて、設定することができる。これらについては、
図16及び
図17を参照して以下により詳細に説明する。
【0013】
線228,230,232によって表されるように、フレーム期間の照明構成の制御は、1つの技術のみ、又は、同じタイプの技術のみの採用に限定されない。説明すると、いくつかの実施形態では、1つ以上のフレームレートに基づく照明制御技術202が、個別に、1つ以上の領域照明制御技術206と組み合わせて、1つ以上のストロボ位置制御技術204と組み合わせて、又は、1つ以上の領域照明制御技術206及び1つ以上のストロボ位置制御技術204の両方と組み合わせて採用される。同様に、いくつかの実施形態では、1つ以上のストロボ位置制御技術204が、個別に若しくは1つ以上の領域照明制御技術206と組み合わせて採用され、又は、1つ以上の領域照明制御技術206が一緒に採用される。
【0014】
説明を簡単にするために、照明制御技術の一部は、表示されるフレームの1つ以上の態様に基づいて照明構成を決定し、その後、その照明構成を、同じフレームを表示するフレーム期間に実装することを含むものとして本明細書に記載されていることに留意されたい。しかしながら、このようなフレームの1つ以上から照明構成を決定することに伴う処理労力のために、照明構成の基になった同じフレーム(複数可)の表示を実施するための照明構成の準備ができていない場合が多いことが理解されるであろう。このような場合、照明構成は、代わりに1つ以上の後続のフレームに採用され、これらの後続のフレームから決定された照明構成(複数可)は、1つ以上のさらに後続のフレームに採用される等の様々な方法で行われる。したがって、特に断りのない限り、照明構成が決定された同じフレームを表示するために照明構成を適用することは、後続のフレームを表示するために照明構成を適用することも同様に理解されるべきである。
【0015】
図3は、いくつかの実施形態による、本明細書に記載の照明構成制御技術の1つ以上を実施するための例示的なディスプレイシステム300を示す図である。ディスプレイシステム300は、有線又は無線の相互接続305によって接続されたレンダリングデバイス302と、ディスプレイデバイス304と、を備える。レンダリングデバイス302は、ノートブックコンピュータ、デスクトップコンピュータ、サーバ、ゲームコンソール、コンピュート対応スマートフォン等のように、ビデオコンテンツの生成に使用される様々なデバイスの何れかを含む。ディスプレイデバイス304は、デジタルテレビ、コンピュータモニタ、ポータブルデバイスディスプレイ等のように、ビデオコンテンツを表示するためのデジタルディスプレイデバイスを含む。レンダリングデバイス302及びディスプレイデバイス304は、いくつかの実施形態において、タブレットコンピュータ、ノートブックコンピュータ、コンピュータ対応電話等のように、同じデバイスに実装されることに留意されたい。レンダリングデバイス302は、少なくとも1つのメモリ306と、GPU308及び中央処理装置(CPU)310等の少なくとも1つのプロセッサと、ディスプレイインタフェース(IF)312と、を備える。ディスプレイデバイス304は、ディスプレイインタフェース314と、ディスプレイコントローラ316と、表示マトリクス318と、を備える。ディスプレイインタフェース312,314は、HDMI(登録商標)インタフェース、DisplayPortインタフェース、組み込みDisplayPort(eDP)インタフェース等の有線又は無線の相互接続インタフェースを含む。ディスプレイコントローラ316は、メモリ(図示省略)、1つ以上のプログラマブルロジックコンポーネント、1つ以上のハードコード化されたロジックコンポーネント、又は、これらの組み合わせに記憶されたソフトウェア命令を実行する1つ以上のプロセッサとして実装される。表示マトリクス318は、一連の表示画像を表示するために使用されるピクセルの2次元アレイを含み、例えば、発光ダイオード(LED)マトリクス、有機LED(OLED)マトリクス、液晶(LC)マトリクス、デジタルライトプロセッシング(DLP)ディスプレイ用の可動ミラーのマトリクス等を含む。
【0016】
一般的な動作概要として、メモリ306は、一連の表示フレーム及び対応するメタデータを含むビデオストリームをレンダリングし、このビデオストリームをディスプレイインタフェース312,314及び相互接続305を介してディスプレイデバイス304に送信するようにCPU310及びGPU308を操作する実行可能ソフトウェア命令の1つ以上のセットを記憶する。ディスプレイデバイス304において、ディスプレイコントローラ316は、各表示フレーム及び対応するメタデータを順に受信し、対応するフレーム期間中に表示マトリクス318で順に表示するために表示フレームを処理する。
【0017】
ディスプレイデバイス304は、例えば、発光型ディスプレイ、透過型ディスプレイ、反射型ディスプレイ、又は、これらのハイブリッドとして実装される。
図4に示すように、透過型ディスプレイデバイス404(ディスプレイデバイス304の一実施形態)は、表示マトリクス318をLCマトリクス402及びバックライト405として実装し、ディスプレイコントローラ316は、LCコントローラ406及びバックライトコントローラ408として実装される。LCマトリクス402は、LCピクセル410のアレイを実装し、各LCピクセル410は、ピクセルの対応する色(例えば、赤、緑、青)を表す1つ以上のLCサブピクセルから構成される。動作中、フレームの各行のピクセルデータは、LCコントローラ406に順次供給され、LCコントローラ406は、対応する行のLCピクセル410を、その行の対応するピクセルのピクセル値(例えば、ピクセル(X,Y)は、列X、行Yのフレームのピクセル値である)に基づいて選択的にアクティブにする。バックライト405は、光を放射するために選択的にアクティブにされるLEDのアレイ又は他のセットで構成されており、その光は、LCマトリクス402の各LCピクセル410を通して、LCピクセル410を選択的にアクティブにするために使用される対応するピクセル値に基づいて、偏光され、選択的に透過される。
【0018】
したがって、フレームを「表示」するために、バックライトコントローラ408は、1つ以上のLEDドライバ414を使用してLED412を駆動し、LEDドライバ414によって駆動される電流、電圧又はパルス形状(まとめて「電力」)の量、ひいては、LED412によって放射される光の照明強度は、バックライトコントローラ408によって制御される照明制御(CTL)信号416を介して各フレーム期間中に制御される。したがって、照明CTL信号416のレベル又は値がフレーム期間中に変化すると、LED412によって放射されるバックライトもそれに応じて変化する。このように、フレーム期間の照明構成は、バックライトコントローラ408による照明CTL信号416のレベル又は値の構成を通して、透過型ディスプレイデバイス404において実装される。すなわち、バックライトコントローラ408は、照明CTL信号416の対応する制御を通して、フレーム期間の任意の先行照明フィル、照明ストロボ及び後続照明フィルを実施する。
【0019】
図5に示すように、発光型ディスプレイデバイス504(ディスプレイデバイス304の一実施形態)は、表示マトリクス318をLEDマトリクス502として実装し、ディスプレイコントローラ316は、LEDコントローラ506として実装される。LEDマトリクス502は、ピクセル510のアレイを実装しており、各ピクセル510は、1つ以上のサブピクセル512から構成されており、各サブピクセルは、ピクセルの対応する色(例えば、赤、緑、青)を表す。各サブピクセルは、LED又はOLEDとして実装される。動作中、フレームの各行のピクセルデータは、LEDコントローラ506に順次供給され、LEDコントローラ506は、対応する行のピクセル510のサブピクセル512を、その行の対応するピクセルのピクセル値に基づいて選択的にアクティブにする。したがって、ディスプレイデバイス504でフレームを「表示」するために、各サブピクセル512は、対応するドライバ514によって駆動され、ドライバ514によってサブピクセル512に供給される電力、したがって、サブピクセル512によって放射される光の照明強度は、サブピクセル512によって表されるピクセルの関連するサブピクセル値と、照明CTL信号516によって表されるフレーム期間の照明構成の現在の照度と、の組み合わせによって制御される。いくつかの実施形態において、サブピクセル値及び照明CTL信号516の値が乗算されて結果として生じる値が、ドライバ514によって供給される電流、電圧又はパルス形状の大きさを制御する。このように、フレーム期間内の対応する時点での現在の照明構成値を表す照明CTL信号516は、各サブピクセルの照明強度をスケールアップ又はスケールダウンするように作用する。例えば、照明CTL信号516が8ビット値として表される場合、LEDマトリクス502のサブピクセル512の照明強度を、256ステップに亘ってスケールアップ又はスケールダウンすることができる。これに応じて、ディスプレイデバイス504は、照明CTL信号516の対応する制御を通して、フレーム期間の任意の先行照明フィル、照明ストロボ及び後続照明フィルを実施する。
【0020】
図4及び
図5は、フレームの全てのピクセルに対して同じ照明構成に従って、フレーム期間中に照明強度が全体的にスケールアップ又はスケールダウンされるディスプレイデバイス304の実施形態を示しているが、他の実施形態では、ディスプレイデバイス304は、表示マトリクス318が複数の個別に制御可能な照明領域に分割される領域照明アプローチを実施する。すなわち、各照明領域は、フレーム期間中に領域固有の照明構成を実施するように個別に制御可能である。
図6に示すように、この分割は、様々な方法の何れかで実施される。グローバル分割602は、分割されていない構成を示している。すなわち、表示マトリクス318全体が、単一の又はグローバルな照明領域604である。行分割612は、表示マトリクス318の1つ以上の行からなる各サブセットが別個の照明領域614として編成されるように、表示マトリクス318が行によって分割されるディスプレイデバイス304の構成を示す。他方、列分割622は、表示マトリクス318の1つ以上の列からなる各サブセットが別個の照明領域624として編成されるように、表示マトリクス318が列によって分割されるディスプレイデバイス304の構成を示す。グリッド分割632は、ピクセルが複数の照明領域634に分割され、各領域が1つ以上の行及び1つ以上の列からなるピクセルを含むように、表示マトリクス318が行及び列によって分割されるディスプレイデバイス304の構成を示す。表示マトリクス318を照明強度目的で個別に制御できる照明領域に分割するために、他の分割スキームを採用することができる。
【0021】
図7は、いくつかの実施形態による、1つ以上の照明構成制御技術の実施を容易にするために、レンダリングデバイス302及びディスプレイデバイス304に実装されるソフトウェアスタックを示す図である。ソフトウェアスタック702は、レンダリングデバイス302に実装されており、1つ以上のビデオコンテンツアプリケーション704と、1つ以上のオペレーティングシステム(OS)インタフェース706と、ソフトウェア開発者キット(SDK)/OSインタフェース708と、グラフィックスドライバ710と、ディスプレイドライバ712と、を備える。ビデオコンテンツアプリケーション704は、ゲームアプリケーション、仮想現実(VR)又は拡張現実(AR)アプリケーション、ビデオ再生アプリケーション等のように、レンダリングされるビデオコンテンツのソースであるソフトウェアアプリケーションを含む。このビデオコンテンツの表示画像の描画命令は、OSインタフェース706を介してグラフィックスドライバ710に提供され、グラフィックスドライバ710は、GPU308と連携して、対応する表示フレームをレンダリングし、表示フレームは、レンダリングデバイス302のフレームバッファ又は他のストレージコンポーネントにバッファリングされる。次に、ディスプレイドライバ712は、バッファリングされたフレームを表すピクセルデータを、関連するメタデータとともに、相互接続305を介してディスプレイデバイス304に行毎に送信するように動作する。
【0022】
いくつかの実施形態では、1つ以上のフレーム期間の照明構成の制御は、主にレンダリングデバイス302によって実施される。このような実施形態では、ソフトウェアスタック702は、本明細書に記載の照明構成制御技術の1つ以上を実施するソース側照明制御モジュール714を備える。
図7の例では、ソース側照明制御モジュール714がグラフィックスドライバ710の一部として示されているが、他の実施形態では、ソフトウェアスタック702の他の場所に実装される。これらの実施形態では、ソース側照明制御モジュール714は、1つ以上のフレームの対応するセットに対して実装する照明構成を決定し、この照明構成の表現を、例えば、サイドバンド送信を介して又はフレームのピクセルデータに付随するメタデータの一部として、ディスプレイデバイス304に送信する。ディスプレイデバイス304のソフトウェアスタック716のディスプレイ側照明制御モジュール718は、照明構成のこの送信された表現を受信し、次に、対応するフレーム期間中、照明構成によって表される照度(複数可)及びセグメント持続時間を実施するようにディスプレイコントローラ316を構成する。他の実施形態では、フレーム期間の照明構成の制御は、主にディスプレイデバイス304自体で実施され、この場合、ディスプレイ側照明制御モジュール718は、フレームデータがレンダリングデバイス302から受信されることに基づいて、ディスプレイデバイスで直接、照明構成を決定し、実装する。
【0023】
さらに、いくつかの実施形態では、照明構成の制御は、ユーザ入力を通して制御又は変更することができる。いくつかの実施形態では、このユーザ入力は、レンダリングデバイス302で受信され、したがって、ソフトウェアスタック702は、照明構成に関するユーザ入力を受信し、これに応じてユーザ入力を実装するためのグラフィカルユーザインタフェース(GUI)720又は他のユーザインタフェースを備える。GUI720は、例えば、グラフィックスドライバ710の一部として、或いは代替として、ビデオコンテンツアプリケーション704又はソフトウェアスタック702の他のソフトウェアモジュールの一部として実装することができる。ディスプレイデバイス304が照明構成の設定を制御する他の実施形態では、ユーザ入力は、ディスプレイデバイス304のソフトウェアスタック716のGUI724で受信され、実施される。
【0024】
図8は、いくつかの実施形態による、フレームレートに基づく照明出力制御技術202(
図2)によって採用される一般的なプロセスを表す方法800を示す図である。説明を簡単にするために、方法800は、ソース側照明制御モジュール714(
図7)が実装される照明構成設定の決定を担当する実施状況で説明される。ただし、以下に説明するプロセスは、本明細書で提供されるガイドラインを使用して、ディスプレイ側照明制御モジュール718による実装に適合させることができる。
【0025】
ブロック802において、GPU308は、ビデオコンテンツアプリケーション704の指示により、フレームシーケンス内のフレームをレンダリング又は他の方法で生成し、生成されたフレームをレンダリングデバイス302のフレームバッファ又は他のストレージコンポーネントにバッファリングする。次に、ディスプレイドライバ712は、バッファリングされたピクセルデータと、生成されたフレームを表すメタデータとを、相互接続305を介してディスプレイデバイス304に行毎に送信する。ブロック804において、送信中のフレームについて受信されたピクセルデータの各行に対して、ディスプレイコントローラ316は、受信したピクセルデータ行の対応するピクセル値を表すように表示マトリクス318の各行のピクセルを構成し、その結果、ディスプレイデバイス304においてフレームの照明が関連するフレーム期間中に発生する場合に、フレームを表す表示光は、LED、OLED、プラズマ、若しくは、他の発光ピクセル構成を介して直接、LC若しくは他の透過型ピクセル構成による選択的バックライト透過を介して、又は、デジタルライトプロセッシング(DLP)若しくは他の反射型ピクセル構成による選択的な光反射の何れかによって、表示マトリクス318によって放射される。
【0026】
ブロック802,804のレンダリング、送信及び表示前マトリクス構成プロセスと並行して、ソース側照明制御モジュール714は、対象フレームを表示するために使用される照明構成のパラメータを決定する。このサブプロセスは、ブロック806で始まり、照明制御モジュール714は、生成中のフレームシーケンスの現在のフレームレートを決定する。いくつかの実施形態では、フレームレートは固定であり、照明制御モジュール714によってアクセス又は参照される何らかの制御設定によって表される。他の実施形態では、ディスプレイシステム300は、可変フレームレートを採用しており、この場合、照明制御モジュール714は、(ソフトウェアベース、物理VSYNC信号又は「フレーム完了」信号によって指定される)1つ以上の先行する表示フレームのフレーム期間を監視して現在のフレームレートを推定するか、GPU308によって実施されている現在のフレームレートを示すものをGPU308から受信する。これから、照明制御モジュール714は、例えば、線形外挿、多項式ベストフィット分析、カルマンフィルタリング、機械学習プロセス等を介して、次のフレーム期間の持続時間を推定する。
【0027】
現在のフレームレートに基づいて、ブロック808において、照明制御モジュール714は、フレームを表示するための照明構成が照明ストロボを含むかどうかを判別し、含む場合には、照明ストロボに使用される照度又は持続時間のうち少なくとも1つを決定する。同時に、ブロック810において、照明制御モジュール714は、照明構成の先行照明フィル及び後続照明フィルに関してどの照度(複数可)を実施すべきかを決定する。ブロック808,810のプロセスについては、
図9~
図13を参照して以下により詳細に説明する。
【0028】
照明構成が決定されると、照明制御モジュール714は、照明構成の表現をディスプレイデバイス304に送信する。照明構成の照度(複数可)、持続時間及び位置のこの表現は、様々なフォーマットの何れかで実装することができ、メタデータ又はサイドバンドデータとして等のように様々な方法の何れかでディスプレイデバイス304に送信することができる。説明すると、ディスプレイデバイス304が、固定セグメント位置及び持続時間を有する0でない先行照明フィル、照明ストロボ、及び、0でない後続照明フィルを有する照明構成を提供するように構成可能であると想定すると、照明構成は、3つの値を有する制御データ構造として表すことができ、第1の値は、照明ストロボの照度を表し、第2の値は、先行照明フィルの照度を表し、第3の値は、後続照明フィルの照度を表す。照明ストロボの位置及び持続時間が可変である他の実施形態では、少なくとも2つの幅のセグメントが送信され、したがって、フレーム期間が固定又は既知である場合に、第3のセグメントの幅及び位置の導出が可能になる。他の実施形態では、ディスプレイコントローラ316は、先行照明フィルレベル、後続照明フィルレベル及びストロボ照度の異なる組み合わせで構成された事前入力されたテーブルを備え、決定された照明構成の表現は、ディスプレイコントローラ316のテーブルの対応するエントリを表すインデックス値の送信を含むことができる。
【0029】
決定された照明構成の表現の受信に応じて、ブロック814において、ディスプレイ側照明制御モジュール718は、対応するフレーム期間中に表示マトリクス318の照度を制御するようにディスプレイコントローラ316を構成し、その結果、フレームが表示マトリクス318によって照明され、結果として生じる表示光がユーザに投影される。透過型ディスプレイデバイス(例えば、
図4のディスプレイデバイス404)の場合、対応するフレーム期間中の表示マトリクス318の照度の制御は、バックライト405の照明強度又は光出力を制御して、フレーム期間内の対応する時点での照明構成の照度を反映することによって達成される。反射型ディスプレイデバイスは、反射光源の照度を制御することにより同様に制御される。発光型ディスプレイデバイス(例えば、
図5のディスプレイデバイス504)の場合、対応するフレーム期間中の表示マトリクス318の照度の制御は、フレーム期間内の対応する時点の照明構成の照度を表す照明制御値に基づいて、LED、OLED又は他の発光ピクセルを駆動する電流、電圧、パルス形状又は他の電力が、照明構成内の照度に対応するようにスケーリングするように、各サブピクセル値をスケーリングすることによって達成される。すなわち、発光ピクセルを駆動するために使用される電力は、実質的に、その発光ピクセルのサブピクセル値と、フレーム期間のその時点での照明構成における現在の照度を表す値と、の積を表す。
【0030】
次に、方法800のフローは、次のフレームの生成、バッファリング、送信及び事前表示構成のためにブロック802に戻る。いくつかの実施形態では、同じ照明構成が、2つ以上のフレームのシーケンス(例えば、シーンの変更間で生成されたフレーム、又は、先行するフレームと実質的に異なる輝度レベルを有する2つのフレーム間のフレームを表すシーケンス)内で生成された各フレームに採用される。この場合、ブロック806,808,810,812のサブプロセスは、フレームのシーケンス毎に1回だけ実行される。他の実施形態では、照明構成が、表示される各フレームに対して個別に決定され、この場合、ブロック806,810,812のサブプロセスは、生成された各フレームに対して新たに実行される。
【0031】
図9を参照すると、方法800のブロック808,810の照明出力決定プロセスを実施するための例示的な技術が示されている。一実施形態では、照明制御モジュール714は、出力決定モジュール900を実装して、様々な入力パラメータ902を取得し、これらの入力パラメータ902から、ディスプレイデバイス304でフレームの照明のために実装する照明構成(例えば、照明構成906又は照明構成908)の表現904を生成する。
【0032】
連続するフレームが表示される頻度、すなわちフレームレートは、通常、ユーザが知覚する様々な表示アーチファクトの発現における主要な要因である。より低いフレームレート(例えば、60フレーム/秒(FPS)以下)では、殆どのユーザが、照明ストロボ又はフレーム間の平均照度の他の変動によって引き起こされるフリッカーを知覚する可能性が高い。より高いフレームレート(例えば、100FPS以上)では、フリッカーを知覚できなくなる可能性が高いが、照明ストロボのタイミングによっては、行毎のスキャンアウトとディスプレイデバイスのピクセルの設定時間によるゴースト又はテアリングが生じる可能性がある。さらに、一定の照度が使用される場合、フレームレートが高くなると、殆どのユーザでは、残像のために、モーションブラーを生じ得る。したがって、少なくとも1つの実施形態では、現在のフレームレート(信号910)が、問題となっている照明構成の照明出力(複数可)(すなわち、照度及び持続時間のうち少なくとも1つ)を決定する際に、出力決定モジュール900によって考慮される入力パラメータ902の1つとして採用される。
【0033】
ユーザ入力(信号912)も出力決定モジュール900によって採用することができる。説明すると、ユーザは、フリッカーがあまり気にならない場合があり、そのため、照明ストロボを採用するために、出力決定モジュール900によって設定されるより低い閾値を示すユーザ入力を提供し得る。逆に、別のユーザは、フリッカーに対してより敏感な場合があり、そのため、照明ストロボを採用するためにより高い閾値を設定するユーザ入力を提供してもよい。照明構成を設定する際の要因としてのユーザ入力の使用は、
図16を参照して以下により詳細に説明する。
【0034】
出力決定モジュール900は、一実施形態において、ディスプレイシステム300の1つ以上の現在の動作パラメータ(信号914)を、結果として生じる照明構成の適切な照度を決定するための入力パラメータ902として利用する。このような現在の動作パラメータは、例えば、(次にディスプレイデバイスの目標平均輝度を示唆する)周囲光のレベル、(ドライバが過負荷になる危険性があるかどうかを示す)バックライト405又はLEDマトリクス502のドライバの現在の温度、(例えば、GPU308が対応するフレームを時間内にレンダリングできないために、次のフレーム期間を遅らせるかどうかを示す)GPU308の現在の動作状態等を含む。
【0035】
少なくとも1つの実施形態において、照明構成は、少なくとも3つのパラメータ、すなわち、フレーム期間において照明ストロボ(作動した場合)に採用する照度を表すストロボレベル値916、照明ストロボに先行する先行照明フィルに採用する照度を表す先行フィルレベル値918、及び、照明ストロボに続く後続照明フィルに採用する照度を表す後続フィルレベル値920によって表される。説明すると、先行照明フィルを有さず、照度X1の照明ストロボ、及び、照度X2の後続照明フィルを有する照明構成906は、タプル<0,X1,X2>によって表すことができ、照度X3の先行照明フィル921、照度X5の照明ストロボ923、及び、照度X4の後続照明フィル925を有する照明構成908は、タプル<X3,X5,X4>によって表すことができる。
【0036】
以下に説明するように、照明ストロボの位置を調整することができ、したがって、照明構成は、フレーム期間内の照明ストロボ、先行照明フィル及び後続照明フィルのうち1つ以上の位置を指定する1つ以上のセグメント位置パラメータ927をさらに含むことができる。対応するセグメントの「位置」は、例えば、フレーム期間の開始に続く開始時間と、セグメントの幅又は持続時間の他の表現として表される。フレーム期間が一定である場合、照明ストロボ、先行照明フィル及び後続照明フィルのうち何れか2つの位置を指定することで、指定されていない残りのセグメントの位置を算出することができる。照明構成に照明ストロボが実装されていない場合、ストロボレベル値916は0に設定されるか、先行フィルレベル値918又は後続フィルレベル値918の何れかと同じ値に設定され、これにより、対応する照明フィルの持続時間が実質的に延長される。他の実施形態では、照明ストロボの照度は、作動された場合に固定又は設定され、この場合、表現904は、ストロボレベル値916を省略するか、例えば、照明ストロボを照明構成に含めるかどうかを識別するバイナリ値を含む。他の実施形態では、ストロボ持続時間もフレームレート又は他の入力パラメータ902に基づいて調整可能であり、この場合、表現904は、照明ストロボの幅又は他の持続時間表現を表すストロボ持続時間値915も含み得る(ストロボ持続時間値915は、特定のセグメント位置パラメータ927として機能することが理解されるであろう。)
【0037】
値916,918,920は、様々なフォーマットの何れかで提示可能である。いくつかの実施形態では、各値は、対応する照度の最小閾値と最大閾値との間で設定された絶対値である。例えば、各値916,918,920は、8ビット値として実装することができ、これにより、それぞれ256の照度ステップを提供することができる。他の実施形態では、値916,918,920の一部又は全ては、相対値である。例えば、値918,920は、ストロボレベル値916によって表される照明値のパーセンテージで表すことができる。
【0038】
出力決定モジュール900は、一実施形態において、様々なメカニズム又はこれらの組み合わせの何れかを使用して、入力パラメータ902に基づく照明構成において、採用される照度(複数可)、(可変ストロボ持続時間の実施形態において)採用されるストロボ持続時間、並びに、ストロボ、先行フィル及び後続フィルの位置/持続時間を特定する。いくつかの実施形態では、出力決定モジュール900は、1つ以上の入力パラメータ902の値と、照明構成で実装される対応する照度(複数可)、ストロボ持続時間及びセグメント位置(複数可)との間の関係を表す1つ以上のLUT922又は他のテーブルを維持する。フレームレートに基づき、セグメントの持続時間又は位置が固定されている簡単な例を使用して説明すると、LUT922は、表1に示すように構成され得る。
【表1】
したがって、60FPS未満のフレームレートでは、一定照明構成(すなわち、フレーム期間全体に亘って照度が一定)になり、75FPSのフレームレートでは、照度50の照明ストロボ、照度20の先行照明フィル及び照度20の後続照明フィルとなり、120FPSのフレームレートでは、照度70の照明ストロボ、照度40の後続照明フィル及び先行照明フィル無し(すなわち、照度0の先行照明フィル)となる。
【0039】
他の実施形態では、入力パラメータ(複数可)902と、照明構成の照度(複数可)及びセグメント位置との間の関係は、ソフトウェアコードで実装される1つ以上の関数924又は他の関数アルゴリズムによって提供される。例えば、表1のストロボレベル値916とFPSの例示的な関係は、代わりに、以下の形式の関数924として表すことができる。
【数1】
【0040】
さらに他の実施形態では、入力パラメータ(複数可)902と照明構成の照度(複数可)/位置/持続時間との間の関係は、ニューラルネットワーク又は他の機械学習(ML)技術を使用して開発された学習済みモデル926を使用して提供される。説明すると、いくつかの実施形態では、異なる照明構成を使用して表示されるテストビデオがユーザに提示され、各テストビデオのパフォーマンスに関するユーザのフィードバックが、学習済みモデル926の最初のトレーニングのためのトレーニングセットとして使用される。その後、学習済みモデルは、フレームレート又は他の様々な動作パラメータと、結果として生じる照明構成等を使用したフレームの表示の有効性との間の相関関係の観察に基づいて、ユーザの特定の好みにより適合するように様々な照明構成パラメータを調整するユーザ入力に基づいてさらに洗練され得る。
【0041】
1つ以上の動作パラメータ902と、照明構成の対応する照度(複数可)、持続時間及び位置との間の関係は、いくつかの方法の何れかで構成される。いくつかの実施形態において、関係は、グラフィックスドライバ710又はGPU308のOEM又はサプライヤによって事前に定義され、したがって、ファームウェア又はソフトウェアの更新を使用して定期的に更新することができる。例えば、グラフィックスドライバの更新リリースは、LUT922の更新された値を含み得る。さらに、いくつかの実施形態では、ユーザ入力は、関係の表現を最初に生成するため、又は、以前に決定された値を調整するために、使用される。例えば、GUI720(
図7及び
図16)を使用して、ユーザは、照度(複数可)の変更、照明ストロボの使用の有効又は無効、照度(複数可)自体の変更等に使用されるFPS閾値を設定することができる。さらに、上述したように、関係は、例えば、様々なトレーニング入力に基づいて継続的に更新される学習済みモデルによって表されるような動的関係であってよい。
【0042】
図10及び
図11を参照すると、(入力パラメータ902としての)フレームレートと照明構成に採用される照明パラメータとの間のより詳細な関係例が示されている。
図10は、2つのチャート、すなわち、チャート1000-1及び1000-2を示しており、これらのチャートは、一定レベルの照明又はストロボのみの照明を使用して通常可能な場合よりもフリッカーの軽減とモーションブラーの軽減との間のバランスをより適切にするように、照明ストロボの使用及びレベル/持続時間と、フレームレートに基づいた周囲のフィルの対応するレベルとの間の特定の関係を示す。この特定の関係は、場合によっては、フレームレートが高くなるにつれて、照明ストロボの出力を増加させ、照明フィルの大きさを減少させることとして一般化され、その逆も同様である。このアプローチでは、低いフレームレートでストロボ強調を軽減又は排除すると、知覚可能なフリッカーの可能性が軽減され、一方、高いフレームレートでストロボ強調を増加させ、フィル強調を低下させると、画像のゴーストやモーションブラーの可能性が軽減される。
【0043】
チャート1000-1では、横軸がフレームレート、左側の縦軸がストロボと周囲のフィルの両方の照度を表し、右側の縦軸がストロボの持続時間を表す(この例では固定)。線1002は、フレームレートに基づいて0と最大照度STRB_MAX1との間で変化するストロボ照度を表す。線1004は、フレームレートに基づいて0と最大照明フィルレベルFILL_MAXとの間で変化する照明フィルレベルを表し、周囲フィルレベルは、存在する照明ストロボの前後両方の照明フィルを表し、又は、照明ストロボが存在しない場合には、一定の照度を表す。線1006は、照明ストロボの持続時間又は幅を表し、この例では、照明ストロボが(フレームレートF_LOWで)作動されると、WIDTH_C(例えば、4ms)で一定である。左側の縦軸は、周囲フィルレベルの照度のスケールを表し、右側の縦軸は、照明ストロボが存在する場合に、照明ストロボの照度のスケールを表す。
【0044】
線1002,1004によって示すように、フレームレート0とF_LOW(例えば、80FPS)との間で、照明構成は、FILL_MAXの一定のフィル照度で照明を提供するために周囲フィルに完全に依存する。フレームレートF_LOWでは、照明ストロボが作動し、ストロボは、固定持続時間WIDTH_C(線1006によって示される)を有する。したがって、フレームレートF_LOWとF_HIGH(例えば、120FPS)との間で、ストロボ照度は(この例では実質的に線形に)増加するが、照明フィルの照度は(この例では非線形に)レベルFILL_MAXから0に低下する。その後、F_HIGHとF_MAXとの間のフレームレートに対して照明ストロボのみによって照明が提供され、実質的に一定の照度を維持するように、(フレームレートの増加による)ストロボレートの増加を補償するようにストロボの照度が(この例では非線形に)減少する。各ステージについて、フィルレベル、ストロボレベル及びストロボ持続時間の関係は、フレームレートに関係なく、実質的に一定の照度を維持するように構成されている。したがって、フレームレートF_LOWとF_HIGHとの間のステージによって示すように、ストロボ照度が増加すると、全体の照明出力が一定になるようにフィル照度が減少する。同様に、フレームレートF_HIGHとF_MAXとの間で照明ストロボが唯一の照明源である間、ストロボの照度は、単位時間当たりの照明を一定に維持するために、1秒あたりのストロボ数の増加を考慮して、フレームレートの増加とともに減少する。
【0045】
チャート1000-2を参照する。このチャートでは、フレームレートが横軸で表され、左側の縦軸がストロボと周囲フィルの両方の照度を表し、右側の縦軸がストロボの持続時間(この例では可変)を表す。線1012は、フレームレートに基づいて0と最大照度STRB_MAX2との間で変化するストロボ照度を表す。線1014は、フレームレートに基づいて0と最大照明フィルレベルFILL_MAXとの間で変化する照明フィルレベルを表し、周囲フィルレベルは、照明ストロボが存在する場合に、照明ストロボの前後両方の照明フィルを表し、又は、照明ストロボが存在しない場合に、一定の照度を表す。線1016は、照明ストロボの持続時間又は幅を表し、この例では、照明ストロボが(フレームレートF_LOWで)作動すると、最大持続時間WIDTH_MAXまで、フレームレートに基づいて変動する。左側の縦軸は、周囲フィルレベルの照度のスケールを表し、右側の縦軸は、照明ストロボが存在する場合に、照明ストロボの照度のスケールを表す。
【0046】
線1012,1014によって示すように、フレームレート0とF_LOWとの間で、照明構成は、FILL_MAXの一定のフィル照度で照明を提供するために周囲フィルに完全に依存する。フレームレートF_LOWでは、照明ストロボが作動し、ストロボは(線1014によって示される)フレームレートに基づいて変動する持続時間を有する。したがって、フレームレートF_LOWとF_HIGHとの間で、ストロボ照度とストロボ持続時間の両方が(この例では実質的に線形に)増加するが、照明フィルの照度は(この例では非線形に)レベルFILL_MAXから0に低下する。その後、F_HIGHとF_MAXとの間のフレームレートに対して照明ストロボのみによって照明が提供され、実質的に一定の照度を維持するように、(フレームレートの増加による)ストロボレートの増加を補償するように、ストロボ持続時間がWIDTH_MAXで一定であり、ストロボ照度は(この例では非線形に)低下する。チャート1000-1によって表される関係と同様に、チャート1000-2によって表されるフィルレベル、ストロボレベル及びストロボ持続時間の関係は、フレームレートに関係なく、実質的に一定の照度を維持するように構成されている。したがって、フレームレートF_LOWとF_HIGHとの間のステージによって示されているように、ストロボ出力が増加すると、全体の照明出力が一定になるようにフィル照明出力が減少する。同様に、フレームレートF_HIGHとF_MAXとの間では、照明ストロボが唯一の照明源である間、ストロボの照度は、単位時間当たりの一定の照明を維持するために、1秒あたりのストロボ数の増加を考慮して、フレームレートの増加とともに(一定のストロボ持続時間で)減少する。
【0047】
図11は、
図10のチャート1000-1によって表される関係から生じる様々な例示的な照明構成を異なるフレームレートで示す図である。タイミングチャート1100は、図示された照明構成の各タイミングの基準として使用される2つのフレーム期間1102-1,1102-2のシーケンスを示す。フレーム期間1102-1,1102-2の持続時間は、対応する照明構成において参照されるフレームレートに反比例することに留意されたい。
【0048】
照明構成1104は、照明ストロボが実装される最低フレームレート(例えば、約50FPS)を定義する閾値フレームレートF_LOWよりも低いフレームレートF1でチャート1000-1から決定される照明構成を表す。したがって、フレームレートF1での線1002,1004の値によって決定されるように、照明構成1104の場合、周囲フィルレベルが最大フィルレベルFILL_MAXに設定され、ストロボ照度がSTROBE_MIN(例えば、0)に設定され、結果として、照明構成1104は、フレーム期間1102-1,1102-2の各々に亘って一定の照度1106を有する。したがって、この照明構成を使用してフレームレートF1でフレームシーケンスを表示すると、ストロボが存在しないため、フリッカーが低減又は除去される。
【0049】
照明構成1108は、閾値フレームレートF_LOWより上であるが、フレーム期間中に照明ストロボが主な照明源として機能する閾値フレームレートF_HIGH未満のフレームレートF2でチャート1000-1から決定された照明構成を表す。チャート1000-1の例では、線1002の対応する増加するセグメントによって示されるように、フレームレートがF_LOWからF_HIGHに増加するにつれてストロボ照度が増加し(この例では、ストロボ持続時間は、フレームレートF_LOWで開始するフレームレートに関わらず一定であることを再度想起されたい)、線1004の対応する減少するセグメントで示されるように、フレームレートがF_LOWからF_HIGHに増加すると、周囲フィル照度が減少する。したがって、この範囲でフレームレートが増加すると、ストロボ照度が増加し、これに応じて周囲フィル照度が減少する。したがって、フレームレートF2では、結果として得られる照明構成1108は、照度Y2(<FILL_MAX)を有する周囲フィル1110と、照度Y3を有する照明ストロボ1112と、を含む。したがって、フレームレートF2を含む中間のフレームレートでは、照明構成は、ストロボの大きさとフィルの大きさとのバランスの取れたブレンドを採用しており、照明ストロボを採用することによるモーションブラーの低減の利点を達成しながら、フィル照明でストロボを囲み、照明ストロボによって引き起こされる照度変化の正味の差を減らすことによって、照明ストロボによって引き起こされるフリッカーの影響も低減する。さらに、フレーム期間1102-1,1102-2に適度なレベルのフィルを使用することにより、フレーム期間の所定の平均照明は、より低いレベルの照明ストロボで達成可能であり、したがって、ストロボを実装するためにバックライト光源又は発光ピクセルのドライバから必要とする過渡電流又は他の電力出力が低くなり、より強い駆動レベルでは経時的に劣化するOLED等の光源の寿命を延ばすことができる。
【0050】
照明構成1114は、フレーム期間中に照明ストロボが主な照明源として機能する閾値フレームレートF_HIGHより上のフレームレートF3でチャート1000-1から決定された照明構成を表す。チャート1000-1の例では、ストロボ照度はF_HIGHで最大レベルSTROBE_MAX1に達し、その後、単位時間当たり実質的に一定の照明を維持するために、線1002の対応する下方に傾斜したセグメントによって示されるように、F_HIGHを超える全てのフレームレートで減少し、一方、周囲フィル照度がフレームレートF_HIGHで最低照度FILL_MINに達する。したがって、この範囲でフレームレートが増加すると、フレームレートの増加(したがって、ストロボレートの増加)を考慮して一定の照度を維持するために、ストロボ照度は、フレームレートとともに徐々に減少する。したがって、フレームレートF3では、結果として得られる照明構成1114は、照度FILL_MIN(<Y2)を有する周囲フィル1116と、照度Y4(>Y3)を有する照明ストロボ1118と、を含む。したがって、フレームレートF3を含むより高いフレームレート(例えば、100FPS以上)では、周囲フィルとストロボとの間の照度の変化の大きさによって引き起こされるフリッカーは、このようなフレームレートでは一般的なユーザが検出できる可能性が低いので、照明構成は、照明ストロボの使用を強調してモーションブラーを低減又は排除し、周囲フィルを強調しないようにする。さらに、照明構成1108と同様に、フレーム期間1102-1,1102-2で0でないレベルのフィルを使用することにより、照明構成1114は、より低いレベルの照明ストロボでフレーム期間に所定の平均照明を提供することができ、これは、ストロボを実装するためにバックライト光源又は発光ピクセルのドライバから必要とする過渡電流又は電圧を低くする。ただし、最大ストロボレベルでの駆動電流がドライバ又は光源の動作寿命を大幅に短くする可能性が低い実施形態では、最高のフレームレートでの照明構成は、例えば、照明ストロボのみを採用する(すなわち、全ての周囲フィルレベルを0に設定する)ことができる。
【0051】
チャート1000-1及び照明構成1104,1108,1114が示すように、フレームレートと照度との間の図示した表現において、対応する照明構成は、低いフレームレートでの一定の照度構成から、中間のフレームレートでは、照明ストロボの照明フィルへの混合されたバランスに(フレームレートが高くなると、バランスは照明ストロボに向かって傾く)なり、最高のフレームレートでは、照明ストロボが優位な構成になる。このようにして、所定のフレームレートで発生しやすい視覚的アーチファクトに対処するように照明構成を調整することができる。
【0052】
図12及び
図13は、(
図9の入力パラメータ902としての)フレームレートと照明構成に採用される照度との間の別のより詳細な関係例を示す図である。
図12のチャート1200は、フレームレート(横軸)、ストロボ照度(線1202)、先行フィル照度(線1204)及び後続フィル照度(線1206)の間の関係を表す。左側の縦軸は、先行フィル照度及び後続フィル照度の照度のスケールを表し、右側の縦軸は、照明ストロボが存在する場合には、照明ストロボの照度のスケールを表す。この例では、説明を容易にするためにストロボ持続時間を固定しており、したがって、ストロボ照度の変化に基づいてストロボ出力が変化する。
【0053】
チャート1200は、一定レベルの照明又はストロボのみの照明を使用して通常可能な場合よりも、フリッカーの軽減とモーションブラーの軽減との間のバランスをより適切に達成するように、フレームレートに基づく、照明ストロボの使用及びレベルと先行照明フィルと後続照明フィルの対応するレベルとの間の特定の関係の例示的な実施形態を示す。この特定の関係は、フレームレートが高くなるにつれて、照明ストロボの大きさを増加させ、照明フィルの大きさを小さくすることとして一般化することができ、その逆も同様である。このアプローチでは、低いフレームレートでストロボ強調を軽減又は排除すると、知覚可能なフリッカーの可能性が軽減され、一方、高いフレームレートでストロボ強調を増加させ、フィル強調を減少させると、画像のゴーストやモーションブラーの可能性が軽減される。さらに、先行照明フィル及び後続照明フィルに関して、フレームレートが増加するにつれて、先行照明フィルレベルを後続照明フィルレベルに対して低減することとして、表される関係をさらに一般化することができる。
【0054】
図13は、
図12のチャート1200によって表される関係から生じる様々な例示的な照明構成を異なるフレームレートで示す図である。タイミングチャート1300は、図示した照明構成の各タイミングの基準として使用される2つのフレーム期間1302-1,1302-2のシーケンスを示す。フレーム期間1302-1,1302-2の持続時間は、対応する照明構成において参照されるフレームレートに反比例することに留意されたい。
【0055】
照明構成1304は、照明ストロボが実装される最低フレームレート(例えば、約50FPS)を定義する閾値フレームレートF_LOWよりも低いフレームレートF1でチャート1300から決定される照明構成を表す。したがって、フレームレートF1での線1202,1204,1206の値によって決定されるように、照明構成1304の場合、先行フィルレベル及び後続フィルレベルの両方が最大フィルレベルFILL_MAXに設定され、ストロボ照度がSTROBE_MIN(例えば、0)に設定され、結果として生じる照明構成1304は、フレーム期間1302-1,1302-2の各々に亘って一定の照度1306を有する。したがって、この照明構成を使用してフレームレートF1でフレームシーケンスを表示すると、ストロボが存在しないため、フリッカーが減少又は排除され、動きのジャッダがより低いフレームレートでより顕著な問題になるため、このような低いフレームレートでは、一般的なユーザが、通常、モーションブラーを容易に検出できないため、モーションブラーの影響を大きく受けることはない。
【0056】
照明構成1308は、閾値フレームレートF_LOWより上であるが、フレーム期間中に照明ストロボが主な照明源として機能する閾値フレームレートF_HIGH未満のフレームレートF2でチャート1200から決定された照明構成を表す。チャート1200の例では、線1202の対応する斜めに増加するセグメントによって示されるように、フレームレートがF_LOWからF_HIGHに増加するにつれてストロボ照度が増加し、線1204,1206の対応する斜めに減少するセグメントで示されるように、フレームレートがF_LOWからF_HIGHに増加すると、先行フィル照度及び後続フィル照度が減少する。したがって、この範囲でフレームレートが増加すると、ストロボ照度が増加し、周囲フィル照度が比例的に減少する。しかしながら、チャート1200によっても示されるように、フレームレートが2つの閾値F_LOWとF_HIGHとの間で増加するにつれて、先行フィルレベルが後続フィルレベルよりも大きいレートで減少し、したがって、フレームレートが増加すると、先行照明フィルが後続照明フィルよりも大きいレートで強調されなくなる。したがって、フレームレートF2では、結果として得られる照明構成1308は、照度Y1(<FILL_MAX)を有する先行照明フィル1310と、照度Y2(>Y1)を有する後続照明フィル1312と、それらの間にあり、照度Y3(>Y2)を有する照明ストロボ1314と、を含む。したがって、フレームレートF2を含む中間のフレームレートでは、結果として生じる照明構成は、ストロボの大きさとフィルの大きさとのバランスの取れたブレンドを採用し、照明ストロボを採用することによるモーションブラーの低減の利点を達成しながら、フィル照明でストロボを囲んで、照明ストロボによって引き起こされる照度変化の正味の差を減らすことによって、照明ストロボによって引き起こされるフリッカーの影響も低減する。
【0057】
以下により詳細に説明するように、ディスプレイデバイスへのフレームからの行毎のスキャンアウトと、(特に、LCベースのピクセルの場合)スキャンインされるピクセルデータを反映するように各ピクセルを構成するセットアップ時間とによって、表示マトリクス318の下方の行のピクセルは、スキャンインされるフレームを表示するのに使用されるフレーム期間の初期の部分では、入力される現在のフレームを反映するように未だ完全に構成されていない(代わりに、スキャンインされた前のフレーム又は遷移状態の対応するピクセルを表す)という結果になることが多い。このように、フレーム期間のこの初期の部分での照明により、現在のフレームの上部のピクセル行と前のフレームの下部のピクセル行で構成される混合画像が表示される可能性があり、これは、画面のテアリングとして知られる現象である。フレームのスキャンイン及びセットアップ時間に比べてフレーム期間が短くなるため、フレームレートが高くなるにつれて画面のテアリングの可能性が増加する。したがって、フレームレート閾値F_LOWとF_HIGHとの間でフレームレートが増加するにつれて、後続照明フィルと先行照明フィルとの差が大きくなるフレームレートとフィル照明出力の関係を実装することによって、フレーム期間の初期部分で、フレームレートが増加するにつれて生成される照明が少なくなり、フレーム期間の初期部分中、混合されたフレームの不注意な照明の影響を低減し、フレーム期間の後半部分でフレームレートが増加するにつれて、より多くの照明が生成されて、現在のフレームの全てのピクセル行がスキャンインされ、安定(settle)する時間が与えられた後の表示マトリクス318を表す表示光の割合を増加させる。したがって、フレームレートが高くなり、それに伴って画面のテアリングやゴーストのリスクが高まるにつれて、フレーム期間の初期に生成される表示光の影響が減少し、フレーム期間の後半で生成される表示光の影響が増加し、それによって、画面のテアリング/ゴーストのリスクが高まるにつれて、画面のテアリング/ゴーストの軽減をスケーリングする。画面テアリングの視認性は、フレーム期間1302-1によって表されるフレーム内の新しいピクセルのスキャンアウトが完了するまで、照明フィル1310を延ばし、照明ストロボ1314及び照明フィル1312を遅らせることによって、さらに低下させることができるが、このような遅延は、画面のテアリングの減少と引き換えにレイテンシを追加することになる。
【0058】
照明構成1316は、フレーム期間中に照明ストロボが主な照明源として機能する閾値フレームレートF_HIGHより高いフレームレートF3でチャート1200から決定された照明構成を表す。チャート1200の例では、ストロボ照度は、F_HIGHで最大レベルSTROBE_MAXに達し、その後、線1202の対応する下降セグメントによって示されるように、F_HIGHを超える全てのフレームレートで低下する。一方、先行フィルレベルは、線1204の対応する下降セグメントによって示されるように、フレームレートF_MAXでF_HIGHを超える全てのフレームレートに対してF_FILL_MINまで(より大きいレートで)低下する。同様に、後続フィルレベルは、フレームレートF_MAXで最小レベルB_FILL_MINに達するまで、より大きなレートで低下し続ける。したがって、この範囲でフレームレートが増加すると、ストロボ照度、先行フィルレベル又は後続フィルレベルのうち少なくとも1つが低下して、一定の照明を維持する。したがって、フレームレートF3では、結果として得られる照明構成1316は、照度Y4(<Y1)を有する先行照明フィル1318と、照度Y5(<Y2)を有する後続照明フィル1320と、照度Y6(<=STROBE_MAX)を有する照明ストロボ1322と、を含む。したがって、フレームレートF3を含むより高いフレームレート(例えば、120FPS以上)では、周囲フィルとストロボとの間の照度の変化の大きさによって引き起こされるフリッカーが、そのようなフレームレートでは一般的なユーザによって検出される可能性が低いので、照明構成は、照明ストロボの使用を強調してモーションブラーを低減又は排除し、周囲フィルを強調しないようにする。さらに、照明構成1308と同様に、フレーム期間1302-1,1302-2で0でないレベルのフィルを使用することにより、照明構成1114は、より低いレベルの照明ストロボでフレーム期間に所定の平均照明を提供することができ、これにより、ストロボを実装するためにバックライト光源又は発光ピクセルのドライバから必要とする過渡電流が低くなる。さらに、上述したように、これらの最高のフレームレートで後続照明フィルを優先して先行照明フィルを弱めることにより、そのような高いフレームレートで発生する可能性のある画面のテアリングの影響が減少する。
【0059】
チャート1000,1200は、説明を容易にするために、フレームレートと照明構成の対応するストロボ及び照度との間に区分的に実質的に線形の関係がある例を示しているが、他の実施形態では、これらの関係は、区分的又はその他で非線形であることに留意されたい。さらに、フレームレートの閾値を2つだけとし、その間に一定の勾配を持たせるのではなく、フレームレートと対応する照度との間の関係は、3つ以上の変曲点を有することができる。
【0060】
図14及び
図15は、いくつかの実施形態による、ストロボ位置制御技術204(
図2)によって採用される一般的なプロセスを共に示している。少なくとも1つの実施形態では、このプロセスは、ブロック808のストロボ出力決定プロセスと並行してストロボ位置が決定される方法800の拡張として実装することができ、これに関して以下に説明する。さらに、ソース側照明制御モジュール714(
図7)が、実装される照明構成設定の決定を担当する実施状況でこのプロセスを説明する。ただし、以下に説明するプロセスは、本明細書で提供されるガイドラインを使用して、ディスプレイ側照明制御モジュール718による実装に適合させることができる。
【0061】
図14を参照すると、タイミングチャート1400は、図示されたストロボ位置決めプロセスの各タイミングの基準として使用される2つのフレーム期間1402-1,1402-2のシーケンスを示す。上記のように、(例えば、VSYNC又はVBIのアサートよって通知される)フレーム期間1402の開始時に、そのフレーム期間中に表示されるフレームのピクセルデータが、行毎にフレームバッファからスキャンアウトされ、(スキャンアウトライン1406で表されるように)ディスプレイデバイスに送信され、これにより、ディスプレイデバイス304は、現在スキャンインされているフレームの行のピクセルデータに基づいて、表示マトリクス318の対応する行を構成する。各行のピクセルデータのスキャンインは、瞬時に行われるものではなく、ピクセルを表す回路要素が、前のフレームの対応するピクセルを表す第1の状態から、現在のフレームの対応するピクセルを表す第2の状態に遷移するために、ある程度の時間が必要となる。LCDディスプレイの場合、ピクセルのLCが状態を変化させるのに必要な時間により、この遷移は特に長くなる。
【0062】
タイミングチャート1400において、時刻T1は、フレーム期間1402-1において、現在のフレームのピクセルの全ての行がスキャンインされ、ピクセルの最後の行が新しい状態に落ち着いた時点を表す。フレーム期間の開始から時刻T1までの期間は、フレームレートに比較的依存しない、すなわち、Advanced Micro Devices,Inc.によるRadeon(TM)FreeSync(TM)技術等の可変フレームレート技術を使用する場合、フレームが送信されるレートに関係なく、表示マトリクス318にフレームを完全にスキャンインするには、通常、ほぼ同じ時間がかかる(そうでない場合、スキャンアウト時間は、通常、より低いピクセル転送レートを使用して、フレーム期間を満たすように延長される)。したがって、フレームレートが増加する(フレーム期間が短くなる)と、フレームをスキャンインして十分なセトリング(settling)を可能にするために必要な時間が、フレーム期間においてますます大きな割合を占めるようになる。
【0063】
フレーム期間の照明構成における照明ストロボの位置は、スキャンイン及びセトリングプロセスを考慮した表示品質に影響を及ぼす。フレーム期間の早い段階で照明ストロボを開始すると、レイテンシを短縮することができるが、現在のフレームのスキャンイン及びセトリングが完了する前に照明ストロボが作動されると、画面のテアリングが発生するリスクがある。説明すると、照明構成1408は、時刻T0(<T1)で開始する位置、したがって、現在のフレームの行の下部の約40%がまだスキャンインされず、セトリングされていない時点で開始する位置に照明ストロボ1410を実装する。したがって、照明ストロボ1410は、現在のフレームの上部の行の約60%と前のフレームの下部の行の約40%とを有するハイブリッドフレーム(又は、前のフレームの下部の行と現在のフレームの下部の行との間のいくつかの遷移状態)の照明をもたらすことになる。このようなアーチファクトを回避するために、照明構成1412によって示されるように、照明ストロボ1414は、代わりに、時刻T2(>T1)等のフレーム期間の終わり近くに配置される。これにより、照明ストロボを開始する前にフレーム全体をスキャンインしてセトリングすることができるが、レイテンシが発生する。さらに、ディスプレイデバイス304が可変フレームレートを実装し、次のフレーム期間が早く始まる場合、照明ストロボは、現在のフレーム期間中に実際には作動できず、代わりに次のフレーム期間の初期の部分にシフトし過ぎて、現在のフレームの表示に失敗し、次のフレームで画面のテアリングの可能性が高くなる。
【0064】
照明構成1416によって示されるように、早すぎる照明ストロボによる画面テアリングのリスクと、遅すぎる照明ストロボによりフレームがスキップされる表示の可能性と、の間の適切なバランスを達成するために、ストロボ位置制御技術204によって、照明構成1416で実装される照明ストロボ1418の適切な位置T(X)、すなわち、現在のフレームのスキャンアウト及びセトリング期間とのオーバーラップを低減又は排除しながら、次のフレーム期間の開始前に作動するように配置されていないストロボから生じる、過度に遅延したストロボ又はスキップされたフレームによって引き起こされるレイテンシを低減又は排除する位置T(X)を決定しようとする。
【0065】
ストロボ位置制御技術204は、照明構成を設定するために、フレームレートに基づく照明制御技術202とは別に又は連動して実装される。例えば、いくつかの実施形態では、ディスプレイシステム300は、フレームレートに応じて、一定のフィル構成又はストロボのみの構成の何れかを使用する。ストロボのみの構成の場合、ストロボ位置制御技術204を実施して、フレーム期間内にストロボを適切に配置することができる。他の実施形態では、ディスプレイシステムは、フレームレートに基づいて変化するフィルレベル及び変化するストロボ出力を使用し、この場合、ストロボ位置制御技術204を使用して、先行照明フィル及び後続照明フィルの一方又は両方と共に、フレーム期間のストロボの位置を決めることができる。しかしながら、照明ストロボの位置は、先行照明フィルと後続照明フィルの両方の持続時間を定義し、したがって、先行照明フィル及び後続照明フィルに設定される照度は、通常、ストロボの位置によってフレーム期間の平均輝度が変わらないというストロボ位置を考慮して、各フィルの持続時間に基づいて調整されることが理解されよう。
【0066】
図15は、いくつかの実施形態による、適切なストロボ位置を決定するようにストロボ位置制御技術204を実施するストロボ位置決めモジュール1500を示す図である。ストロボ位置決めモジュール1500は、1つ以上の入力パラメータ1502を受信し、これらから、ディスプレイデバイス304において、問題となっているフレームの照明のために実装される照明構成における照明ストロボの位置の表現1504を生成する。説明の便宜上、照明ストロボの位置は、照明ストロボが開始又は作動されるフレーム期間内の位置として説明される。ただし、他の実施形態では、位置は、照明ストロボの中間の位置又は照明ストロボの終了の位置を指す。ストロボ位置の表現1504は、フレーム期間の開始からの特定のミリ秒若しくはクロックサイクル数等の絶対タイミング基準、又は、フレーム期間全体の特定のパーセンテージ(例えば、照明ストロボがフレーム期間の途中25%で開始されることを示す値<0.25>)等の絶対タイミング基準を表す値として示すことができる。少なくとも1つの実施形態では、ストロボ位置の表現1504は、ディスプレイデバイス304に送信される(又は、ディスプレイデバイス304自体で決定される)照明構成の表現の他のパラメータ値と共に含まれる。例えば、照明構成の表現は、<[ストロボ位置]、[ストロボ持続時間]、[ストロボレベル]、[先行フィルレベル]、[後続フィルレベル]>のフォーマットを有するタプルの形式でメタデータ又はサイドバンドデータとして提供することができる。
【0067】
一実施形態では、ストロボ位置決めモジュール1500は、ディスプレイシステム300の1つ以上の現在の動作パラメータ(信号1506)を、対応する照明構成の適切なストロボ位置を決定するための入力パラメータ1502として利用する。特に、このような動作パラメータは、レンダリングデバイス302の現在の負荷を表し、したがって、次のフレーム期間が早く、遅く又は時間通りに始まるかどうかを予測するのに役立つ。例えば、現在の動作パラメータは、電力状態の表現、レンダリングされる現在のフレーム若しくはレンダリングされる次のフレームの複雑さの表現、又は、GPU308の現在の負荷の他の指標を含むことができ、したがって、次のフレームのレンダリング及び送信のタイミングに関する可能性を示す。
【0068】
上記で説明したように、フレーム期間は、フレームレートに反比例し、フレームのスキャンイン及びセトリング時間は、フレームレートに関係なく比較的一定である。したがって、スキャンイン及びセトリング期間の終了とフレーム期間の終了との間のタイミングウィンドウが狭くなり、フレームレートの増加に伴って次のフレーム期間が遅延する可能性が増加すると、照明構成内のストロボの位置の適切なタイミングは、フレームレートが増加すると、より致命的となる。したがって、いくつかの実施形態では、現在のフレームレート(信号1508)が、適切なストロボ位置を決定する際に、ストロボ位置決めモジュール1500によって考慮される入力パラメータ1502の1つとして利用される。
【0069】
レイテンシ、スキップされたフレーム、及び、ジャダーに対する感度と比べて画面のテアリングに対する感度は、ユーザによって異なることが多い。例えば、ゲーマは、レイテンシを最小限に抑え、より頻繁な画面のテアリングのコストを受け入れることが多いが、ビデオのカジュアルな視聴者は、レイテンシの増加を犠牲にして、可能な限り画面のテアリングを回避することを好むことが多い。したがって、ユーザ入力1510(
図9の信号912の一実施形態)も、ストロボ位置決めモジュール1500による入力パラメータ1502として採用される。説明すると、あるユーザは、照明ストロボの早期の作動がレイテンシの削減の観点から遅い照明ストロボの作動よりも好ましいことを示すユーザ入力を提供し、別のユーザは、画面のテアリングを軽減するために照明ストロボの遅い作動が好ましいことを示すユーザ入力を提供する。また、ディスプレイが異なれば、前のピクセル値から現在のピクセル値までの遷移時間が1ミリ秒未満から数ミリ秒の範囲で異なり、特にLCディスプレイでは、特定のストロボ位置のテアリングの可視性に影響する。ユーザ入力、又は、ディスプレイ若しくはディスプレイのデータベースから取得したパラメータにより、モニタの特性に適したストロボ位置の変更が容易になる。
【0070】
入力パラメータ1502の値と、結果として得られるストロボ位置(表現1504によって示される)との間の関係は、様々な構造又はメカニズムの何れかを使用して、レンダリングデバイス302(又は、ディスプレイデバイス304)に表される。いくつかの実施形態では、関係は、1つ以上のLUT1510又は他のテーブルを使用して表され、LUT1510の各エントリは、入力パラメータの1つ又は組み合わせに基づいてインデックス付けされ、対応するエントリは、表現1504又は表現1504の基となる値を含む。他の実施形態では、入力パラメータ(複数可)1502と照明構成のストロボ位置(複数可)との間の関係は、1つ以上の関数1512又はソフトウェアコードで実装され、例えば、レンダリングデバイス302のグラフィックスドライバ710の一部として実行されるか、ディスプレイデバイス304のディスプレイコントローラ316で実行される他の関数アルゴリズムによって提供される。
【0071】
さらに他の実施形態では、入力パラメータ(複数可)1502と照明構成のストロボ位置との間の関係は、入力パラメータ1502の一部又は全ての履歴を組み込む学習済みモデル1514をトレーニング及び改良し、ニューラルネットワーク又は他のMLアルゴリズムを使用して開発された学習済みモデル1514を使用して提供される。説明すると、可変フレームレートの実施形態では、MLアルゴリズムは、フレーム期間の開始、開始が早いか、遅いか又は時間通りであったかを含む、以前のフレーム期間の履歴1516を監視し、この情報を、GPU負荷、電力状態、実行中のビデオコンテンツアプリケーション704の識別、様々なゲスト間でのリソースの共有等を含む、様々な動作パラメータと相関させ、このトレーニング入力から、受信した現在の動作パラメータに基づいて次のフレーム期間の開始時間を推定する学習済みモデル1514を開発する。次のフレーム開始時間が予測され、フレームレート及びその他の考慮事項が理解されると、学習済みモデル926は、次に、スキャンイン及びセトリング中の作動を回避しようとしながら、次のフレーム開始時間後に作動することを回避するストロボ位置を提供することができる。
【0072】
1つ以上の動作パラメータ1502と照明構成の対応するストロボ位置との間の関係を定義するために使用されるLUT(複数可)1510、関数(複数可)1512又は学習済みモデル1514は、様々な方法の何れかで構成することができる。例えば、OEM又は他のサプライヤは、広範なモデリング、シミュレーション又は他のテストを実行して、入力パラメータ1502の値の一部又は全ての可能な組み合わせの各々の適切なストロボ位置を決定し、これに応じて1つ以上のLUT1510を入力、又は、1つ以上の関数1512を構成することができる。さらに、いくつかの実施形態では、ユーザ入力を使用して、1つ以上のLUT1510に最初に入力するか、1つ以上の関数1512を構成するか、1つ以上のLUT1510又は1つ以上の関数1512によって表される、事前に決定された設定を調整することができる。さらに、上述したように、関係は、例えば、入力パラメータ1502自体を含む様々なトレーニング入力に基づいて継続的に更新される学習済みモデル1514によって表されるように、動的関係である。
【0073】
上記のように、ユーザは、入力パラメータの様々な値と、ストロボ位置、ストロボ照度、ストロボ持続時間、並びに、先行フィルレベル及び後続フィルレベルの一方若しくは両方を含む、照明構成の1つ以上のパラメータの対応する値と、の間の関係のいくつかの態様を定義するように動作するユーザ入力を提供することができる。この入力は、一実施形態では、ユーザに提示される1つ以上のGUIを介して、例えば、レンダリングデバイスにおいてグラフィックスドライバ710によって(例えば、対応するGPU308の構成GUIとして)実装されるGUI720又はディスプレイデバイス304において(例えば、オンスクリーンディスプレイ(OSD)として)実装されるGUI724を介して、受信することができる。或いは、一実施形態では、GUI724は、電話等のローカル接続デバイス、又は、離れた場所から公共の看板や映画館を制御するために使用されるような、完全に離れた場所に存在する。
図16は、いくつかの実施形態による、GUI720又はGUI724の何れかとして実装される例示的なGUI1600を示す。GUI1600は、通常、入力パラメータと照明構成の対応するパラメータとの間の関係をグラフィカルに表す1つ以上のパネルと、図示した関係を対応する方法で設定又は調整するためのユーザ入力を受信する入力メカニズムを実装する1つ以上のパネルと、を備える。例として、GUI1600は、フレームレート、ストロボ照度、先行フィルレベル及び後続フィルレベルの間の現在の関係を示すチャート1604を表示する関係パネル1602を備えることができる。関係パネル1602は、タイミングチャート1606をさらに表示することができ、タイミングチャート1606は、フレームスキャンイン及びセットアップフェーズのタイミングを含むフレーム期間のタイミングに対するストロボ位置及びストロボ持続時間の現在の設定を示す。これに対応して、この例では、GUI1600は、チャート1604又はタイミングチャート1606に表される関係パラメータの1つ以上を設定又は修正するユーザ入力を受信する入力パネル1608を備える。一例は、結果として得られる照明構成の先行フィルレベルについて、最小照度(F_FILL_MIN)及び最大照度(F_FILL_MAX)の各々を設定又は修正するユーザ入力を受け取るための入力フィールド1610,1612と、結果として得られる照明構成の後続フィルレベルについて、最小照度(B_FILL_MIN)及び最大照度(B_FILL_MAX)の各々を設定又は修正するユーザ入力を受信するための入力フィールド1614,入力フィールド1616と、を備える。
【0074】
同様に、入力パネル1608は、照明ストロボの1つ以上のパラメータを構成するための入力フィールドを備えることができる。説明すると、図示した例では、ストロボ照度とフレームレートの間の関係は、(照明ストロボの使用がいつ開始するかを制御する)フレームレートS0、フレームレートS1、及び、(照明ストロボがいつ最大照度に到達するかを制御する)フレームレートS2に変曲点を有する区分的な線形関係(線1618)として表される。したがって、入力パネル1608は、照明ストロボの最小照度(STROBE_MIN)及び最大照度(STROBE_MAX)の各々を設定又は修正するユーザ入力を受信するための入力フィールド1620,1622と、変曲点S0,S1,S2の特定のフレームレート値及び各変曲点で使用されるストロボ照度を設定又は修正するユーザ入力を受信するための入力フィールド1624,1626,1268,1630,1632,1634を備えることができる。入力パネル1608は、さらに、入力フィールド1636若しくは1638によるストロボ位置決め、又は、入力フィールド1640若しくは1642によるストロボ持続時間の構成を容易にすることができる。
【0075】
入力パネル1608の入力フィールドは、フィルインフィールド、プルダウンフィールド等として実装することができる。場合によっては、入力フィールドに絶対値が入力される。例えば、フィールド1610,1612,1614,1616の各々は、指定された範囲内にある値を受信し、入力された値は、対応する照度を直接表す。別の例として、ストロボ位置及びストロボ持続時間をそれぞれ制御するフィールド1636,1640は、ミリ秒単位の値を表す値を受信する。他の例では、入力フィールドに相対値が入力される。例えば、入力フィールド1636,1638は、フレーム期間の持続時間のパーセンテージを表す値、したがって、問題となっている特定のフレーム期間に対して相対的である値を受信することができる。さらに、特定の固定値を設定するのではなく、入力パネル1608は、ディスプレイシステム300によって動的に決定される値への調整をユーザが指定する機能を提供することができる。説明すると、いくつかの実施形態では、GPU負荷、フレームレート、照明ストロボの開始位置の間の関係は動的であり、学習済みモデルによって頻繁に更新される。あるユーザは、学習済みモデルの結果、照明ストロボがフレーム期間のいくらか早い段階で発生し、ユーザが望むよりも頻繁に画面のテアリングインスタンスをトリガする関係になることに気付く。したがって、ユーザは、入力フィールド1644に調整値を提供し、さもなければストロボ位置決めモジュール1500(
図15)によって決定されるストロボ位置値に静的調整を加える。例えば、値-0.4を入力すると、ストロボ位置決めモジュール1500は、ユーザに合わせて、ストロボ位置をユーザ入力がない場合に実施するストロボ位置から0.4ミリ秒だけ戻す。
【0076】
さらに、入力フィールドを使用してユーザ入力を取得するのではなく、又は、それに加えて、いくつかの実施形態では、図示した関係の1つ以上は、所望の関係を達成するように描かれたグラフ又はチャートをユーザがグラフィカルに操作するのを可能にするように、ユーザがマウスカーソル、タッチスクリーン又は他の入力メカニズムを介して操作可能である。例えば、変曲点S1は、変曲点に関連するフレームレート値及びストロボ照度の一方又は両方を変更するように、ユーザがマウスカーソル又はタッチスクリーンを介してチャート1604の横軸及び縦軸に沿って移動させることができるグラフィック機能であってよい。
【0077】
ディスプレイシステム300のユーザからユーザ入力を取得して、様々な入力パラメータと、1つ以上のフレームに実装される照明構成のパラメータと、の関係を定義又は修正することに加えて、いくつかの実施形態では、他のディスプレイシステムの他のユーザによって定義された関係を使用して、ディスプレイシステム300によって実装される関係を設定又は修正する。
図17は、照明構成に対してそのような分散関係設定を提供するための例示的な分散システム1700を示す。分散システム1700は、リモートディスプレイシステム1704-1,1704-2,1704-3等の1つ以上のリモートディスプレイシステムのように、ディスプレイシステム300がネットワーク1703(例えば、ワイヤレスローカルエリアネットワーク(WLAN)、インターネット等)を介して接続されるリモートサーバ1702を備える。リモートディスプレイシステム1704の各々は、フレームシーケンスを生成及び表示するように動作し、本明細書に記載の技術を利用して、これらのシーケンスのフレームの表示のための照明構成を設定する。
【0078】
動作の過程で、各リモートディスプレイシステム1704は、照明構成更新1706をリモートサーバ1702に送信する。照明構成更新1706は、その動作過程で送信側リモートディスプレイシステム1704によって決定される1つ以上の入力パラメータと1つ以上の入力構成パラメータとの間の関係の表現を含む。これは、例えば、1つ以上のLUT又は他のテーブル、1つ以上のソフトウェア関数の記述、学習済みモデルのコピー等の形式を取る。照明構成更新1706は、関係の生成時のリモートディスプレイシステム1704自体のステータスに関する情報も含む。このステータス情報は、例えば、リモートディスプレイシステム1704のコンポーネントのシリアル番号又はモデル番号、照明構成更新1706に関連するフレームのソースとして機能するビデオコンテンツアプリケーションの識別子、リモートディスプレイシステム1704の1つ以上のハードウェア仕様又は動作ステータス(例えば、GPU負荷)の表現等を含む。
【0079】
リモートサーバ1702は、各リモートディスプレイシステム1704から定期的な照明構成更新1706を受信し、これらを1つ以上のリモートでトレーニングされた照明構成関係に統合する。照明構成関係は、様々な入力パラメータと、複数のシステムの経験に基づいて生じる出力構成のパラメータの間の一致(consensus)又はマージ(merging)を表す。次に、これらのリモートでトレーニングされた照明構成は、ハードウェアセットアップ指標、モデル指標、関係に関連する特定のビデオコンテンツアプリケーションの識別子等を含む、様々な指標の何れかを使用して、リモートサーバ1702で分類又はインデックス付けされる。
【0080】
ビデオコンテンツアプリケーション704を実行する準備をする際、ディスプレイシステム300は、照明構成要求1708をリモートサーバ1702に送信することにより、リモートサーバ1702にクエリする。照明構成要求1708は、シリアル番号、モデル番号、ハードウェア仕様、ビデオコンテンツアプリケーション704の識別子、現在のGPU負荷、ユーザの好み等のように、ディスプレイシステム300の様々な関連パラメータの識別子を含む。これに応じて、リモートサーバ1702は、照明構成要求1708で提供された関連パラメータに最も一致する適切な、リモートでトレーニングされた照明構成関係1710を識別し、識別したリモートでトレーニングされた照明構成関係1710を、実装のためにディスプレイシステム300に送信する。照明構成更新1706と同様に、リモートでトレーニングされた照明構成関係1710は、例えば、1つ以上のLUT、1つ以上のソフトウェア関数、1つ以上の学習済みモデル等によって表される。
【0081】
一例として、ディスプレイシステム300は、特定のビデオゲーム(ビデオコンテンツアプリケーション704の一実施形態)を実行するように設定されたゲームコンソールを含むことができる。したがって、ディスプレイシステム300は、ゲームコンソールのモデル及びプレイされようとしている特定のビデオゲームを識別する照明構成要求1708を送信する。次に、リモートサーバ1702は、同じ又は類似のビデオゲームアプリケーションを実行している同じ又は類似のゲームコンソールのリモートディスプレイシステム1704の1つ以上からのフィードバックの結果として生成された、リモートでトレーニングされた照明構成関係1710を識別し、それによって、ビデオゲームアプリケーションによって生成されたフレームを表示するための照明構成を、トレーニングや追加のユーザ入力無しに、他の同様のディスプレイシステムで他のプレーヤが役立つと判断した設定にディスプレイシステム300が迅速に調整することを可能にする。
【0082】
図18~
図26を参照すると、ディスプレイの領域毎の照明構成制御のための領域照明制御技術206の例示的な実施形態がより詳細に説明されている。上記のように、これらの技術は、領域毎に個別の照明制御が可能なディスプレイデバイスを採用する。各照明領域は、例えば、ディスプレイデバイスのピクセルアレイの列のサブセット、ピクセルアレイの行のサブセット、又は、1つ以上の列のサブセットと1つ以上の行のサブセットとの交点にあるピクセルを表すピクセルのブロックである。これらの領域照明制御技術206は、個別に又は互いに組み合わせて採用され、上記の1つ以上のフレームレートに基づく照明制御技術202又はストロボ位置制御技術204と組み合わせて採用される。
【0083】
図18及び
図19は、所定の照明領域に対応するフレームの領域の輝度の評価に基づいてその照明領域の照明構成を制御するための、輝度に基づく領域照明制御技術212の実施形態を共に示す。
図18の方法1800は、いくつかの実施形態による、この技術の一般的なフローを示し、
図19に表された例示的な実施形態を参照して説明されている。
図19では、ソース側照明制御モジュール714(
図7)が、ディスプレイデバイス304によって実装される照明構成設定の決定を担当する。ただし、以下に説明するプロセスは、本明細書で提供されるガイドラインを使用して、ディスプレイ側照明制御モジュール718による実装に適合させることができる。
【0084】
ブロック1802において、GPU308は、ビデオコンテンツアプリケーション704の指示により、フレームシーケンス内のフレーム1902をレンダリングするか他の方法で生成し、生成されたフレームをレンダリングデバイス302のフレームバッファ1904にバッファリングする。次に、ブロック1804において、ディスプレイドライバ712は、生成されたフレーム1902を表すバッファリングされたピクセルデータ及びメタデータを、相互接続305を介してディスプレイデバイス304に行毎に送信する。
【0085】
ブロック1802,1804のフレーム生成プロセス及び送信プロセスと同時に、グラフィックスドライバ710の照明制御モジュール714は、表示マトリクス318の各照明領域の照明構成を決定するプロセスを開始する。
図19の例では、表示マトリクス318は、9つの照明領域1906-1~1906-9を有するグリッドベースの領域分割として構成されている。しかしながら、9つの領域の例が示されているが、表示マトリクス318は、より多くの又はより少ない領域にセグメント化できることが理解されるであろう。場合によっては、各ピクセルは、それ自体の別個の領域として表され、個々の色要素又はサブピクセルが、ブラーやフリッカーについて分析され、個別に照明される。したがって、ブロック1806において、照明制御モジュール714は、照明領域を選択し、選択された照明領域に対応するフレームの領域(フレームのこの領域は、本明細書において「フレーム領域」と呼ばれる)の輝度表現を決定する。説明すると、いくつかの実施形態において、グラフィックスドライバ710は、フレーム領域のヒストグラム1812を生成するタスクをGPU308に与え、ヒストグラム1812は、対応するピクセル値を有するフレーム領域内の、又は、対応するピクセル値範囲若しくは「バケット」内の該当するピクセルの数を示す。次に、照明制御モジュール714は、ヒストグラム1812に基づいて、フレーム領域の輝度表現を決定する。例えば、輝度表現は、閾値ピクセル値より大きいピクセル値を有するピクセルの数又は割合、ヒストグラム1812内のピクセルの平均ピクセル値等を示す。他の実施形態では、グラフィックスドライバ710は、フレーム領域(例えば、平均画像レベル(APL)に類似するが、フレーム全体ではなくその特定のフレーム領域に対して)の平均輝度値1814を生成するタスクをGPU308に与え、したがって、フレーム領域の輝度表現は、この平均輝度値を含むか、それに基づいている。いくつかの実施形態では、輝度表現は、白輝度レベルに基づいて決定されるが、他の実施形態では、個別の輝度表現が、個々のサブカラー及び輝度の各々に対して決定されることに留意されたい。説明を簡単にするために、以下の説明及び例では、白輝度レベルに基づく輝度表現の計算を利用している。
【0086】
ブロック1808において、照明制御モジュール714は、領域の輝度表現に基づいて、照明領域の照明構成を決定する、又は、照明領域に対して以前に識別された照明構成を修正する。説明すると、いくつかの実施形態では、照明制御モジュール714は、上記の技術の1つ又は組み合わせを使用してフレームのデフォルトの照明構成を決定し、次に、照明制御モジュール714は、特定の領域固有の照明構成を生成するために、対応するフレーム領域の輝度表現に基づいて、各照明領域についてデフォルトの照明構成を修正する。例えば、以下に説明するように、輝度表現を使用して、デフォルトレベルからストロボ出力を増加させて、フィル出力を減らし、逆に、デフォルトレベルからストロボ出力を減らして、フィル出力を増加させることができる。他の実施形態では、輝度表現を使用して、その領域に使用するために事前に定義された照明構成のセットから特定の照明構成を選択する。
【0087】
一実施形態におけるフレーム領域の輝度表現と照明領域の対応する照明構成(又は、領域毎のデフォルト照明構成への修正)との間の関係は、1つ以上のLUT1816、1つ以上のソフトウェア関数1818、又は、様々な設定での以前の使用及び以前のユーザ入力についてトレーニングされたMLアルゴリズムによって開発された学習済みモデル1820を使用して実装される。例えば、LUT1816は、対応する輝度表現又は対応する輝度表現の範囲に基づいてインデックス付けされた複数のエントリを有し、対応する各エントリは、特定の先行照明フィルレベル、後続照明フィルレベル、ストロボレベル、ストロボ位置、ストロボ持続時間等のパラメータの値を含む、対応する照明構成の表現を記憶する。別の例として、デフォルトのフレーム幅の照明構成が指定され、LUT1816の各エントリは、デフォルトのストロボレベルから減らすストロボレベルの量、及び、デフォルトのストロボレベルから増加させるフィルレベルの量を指定する等のように、デフォルトの照明構成に対する特定の修正の指示を含む。照明ストロボによって引き起こされるフリッカーは、通常、ピクセルレベルが明るくなると顕著になり、ピクセルレベルが暗くなると目立たなくなるため、少なくとも1つの実施形態では、輝度表現と対応する領域固有の照明構成との関係は、明るいフレーム領域では照明ストロボを強調しないようにし、フィルレベルを強調し、逆に、暗いフレーム領域では照明ストロボを強調し、フィルレベルを強調しないようにするものである。説明すると、高閾値を超える輝度表現を有し、したがって、高い平均輝度を有することを示す第1のフレーム領域について、照明制御モジュール714は、この例では、第1のフレーム領域に関連する照明領域に対して一定レベルのフィル照明構成を実装し、一方、低閾値よりも低い輝度表現を有し、したがって、低い平均輝度を有することを示す第2のフレーム領域については、照明制御モジュール714は、この例では、第2のフレーム領域に関連する照明領域に対してストロボのみの照明構成を実装する。しかしながら、低閾値と高閾値の間の輝度表現を有する第3のフレーム領域については、平均輝度がこの範囲内で増加すると、ストロボ出力が強調され、フィル出力が強調されないように、照明制御モジュール714は、輝度表現に基づいてストロボ出力とフィル出力を反対方向に線形又は非線形に調整する。
【0088】
照明制御モジュール714は、各照明領域の領域に基づく照明構成(又は、領域に基づく照明構成修正)を決定するように、表示マトリクス318の各照明領域に対してブロック1806,1808のプロセスを繰り返し、ディスプレイデバイス304のディスプレイコントローラ316で実装される照明制御モジュール718に対して、各照明領域についての照明構成又は照明構成修正の表現1908を送信する。例えば、表現1908は、照明領域1906-1~1906-9の各々に対するエントリを有するデータ構造を含むことができ、各エントリは、その照明領域に対して実装される照明構成の様々なパラメータの値を記憶する。或いは、データ構造は、一般的な照明構成を表すエントリを含み、各領域に関連するエントリは、その領域に固有の照明構成を生成するために一般的な照明構成をどのように修正するかを示すデータを含む。
【0089】
ブロック1822において、ディスプレイデバイス304は、対応するフレーム期間中にフレーム1902の表示を進める。このプロセスの一部として、照明制御モジュール718は、その照明領域の照明構成を領域毎の表現1908で指定されるように実装するように、ディスプレイコントローラ316を介して、フレーム1902のフレーム期間中に表示マトリクス318の各照明領域での照明を制御する。他の実施形態では、照明制御モジュール714は、各フレーム領域の輝度表現を表す値を有する1つ以上のデータ構造を送信し、各照明領域の照明構成を、その領域の受信した輝度表現に基づいて決定又は修正するのは、照明制御モジュール718である。さらに他の実施形態では、レンダリングデバイス302から輝度表現を受信するのではなく、ディスプレイデバイス304の照明制御モジュール718が、ディスプレイデバイス304において、(例えば、ヒストグラム又は他の領域毎の輝度表現を生成することによって)各フレーム領域の輝度表現を決定し、次に、局所的に決定された領域毎の輝度表現に基づいて、領域毎の照明構成を決定する。
【0090】
図20~
図22は、所定の照明領域の照明構成を、対応する照明領域の動きの推定に基づいて制御するための動きに基づく領域照明制御技術214の実施形態を示す。
図20の方法2000は、いくつかの実施形態による、この技術の一般的なフローを示し、
図21に表された例示的な実施形態を参照して説明されている。
図21では、ソース側照明制御モジュール714(
図7)が、ディスプレイデバイス304によって実装される照明構成設定の決定を担当する。ただし、以下に説明するプロセスは、本明細書で提供されるガイドラインを使用して、ディスプレイ側照明制御モジュール718による実装に適合させることができる。
【0091】
ブロック2002において、GPU308は、ビデオコンテンツアプリケーション704の指示により、フレームシーケンス内のフレーム2102をレンダリングするか他の方法で生成し、生成されたフレームをレンダリングデバイス302のフレームバッファ2104にバッファリングする。ブロック2004において、ディスプレイドライバ712は、生成されたフレーム2102を表すバッファリングされたピクセルデータ及びメタデータを、相互接続305を介してディスプレイデバイス304に行毎に送信する。
【0092】
ブロック2002,2004のフレーム生成プロセス及び送信プロセスと同時に、グラフィックスドライバ710の照明制御モジュール714は、表示マトリクス318の各照明領域の照明構成を、対応する各フレーム領域の動き推定に基づいて決定するプロセスを開始する。
図21の例では、表示マトリクス318は、9つの照明領域2106-1~2106-9を有するグリッドベースの領域分割として構成されている。したがって、ブロック2006において、照明制御モジュール714は、現在のフレームの領域を選択し、選択された領域に対応するフレーム領域の動き推定領域表現を決定する。
【0093】
当技術分野でよく理解されているように、動き推定は、前のフレームから現在のフレームへの変換を決定するプロセスである。通常、動き推定は、現在のフレームとその前のフレーム又は他の以前の基準フレームとの比較を反映し、オブジェクト又はピクセルブロックの基準フレーム内の位置から現在のフレーム内の位置への移動を表す動きベクトルを決定する。GPU308は、フルサーチ及び他のブロックマッチング技術、位相相関技術、周波数マッチング技術、ピクセル再帰技術、及び、オプティカルフロー技術を含む、現在のフレームの動きを表す動きベクトルを決定する様々な周知又は独自の技術の何れかを使用することができる。次に、GPU308又はレンダリングデバイス302の他のコンポーネントは、フレームに対して決定された動きベクトルから、現在のフレームの対象領域内に起点を有する動きベクトル、現在のフレームの対象領域内に宛先を有する動きベクトル、又は、これらの組み合わせに基づいて、照明領域2106-1~2106-9に対応するフレーム領域の各々について動き推定表現を決定する。説明すると、一実施形態では、GPU308は、動きベクトル(又は、ジッタをフィルタリングするための特定の大きさの閾値を超える動きベクトル)を有するフレーム領域内のマクロブロック又はコーディングツリーユニット(CTU)の数を集計し、この数に基づいて、このフレーム領域の動き推定表現を決定する。別の例として、別の実施形態では、GPU308は、フレーム領域内のマクロブロック又はCTUの動きベクトルから平均動きベクトルの大きさ又は他の統計的評価を生成し、この統計的評価に基づいて、このフレーム領域の動き推定表現を生成する。
【0094】
ブロック2008において、照明制御モジュール714は、対応するフレーム領域の動き推定表現に基づいて、照明領域の照明構成を決定するか、照明領域に対して以前に識別された照明構成を修正する。説明すると、いくつかの実施形態では、照明制御モジュール714は、上記の技術の1つ又は組み合わせを使用して、フレームのデフォルトの照明構成を決定し、次に、照明制御モジュール714は、特定の領域固有の照明構成を生成するために、フレーム領域の動き推定表現に基づいて、各照明領域についてデフォルトの照明構成を修正する。他の実施形態では、動き推定表現を使用して、その領域に使用するための事前に定義された照明構成のセットから特定の照明構成を選択する。
【0095】
フレーム領域の動き推定表現と対応する照明領域の対応する照明構成(又は、領域毎のデフォルト照明構成への修正)との間の関係は、1つ以上のLUT2016、1つ以上のソフトウェア関数2018、又は、様々な設定での以前の使用及び以前のユーザ入力についてトレーニングされたMLアルゴリズムによって開発された学習済みモデル2020を使用して実装することができる。例えば、LUT2016は、対応する動き推定表現又は対応する動き推定表現の範囲に基づいてインデックス付けされた複数のエントリを有し、対応する各エントリは、特定の先行照明フィルレベル、後続照明フィルレベル、ストロボレベル、ストロボ位置、ストロボ持続時間等のパラメータの値を含む、対応する照明構成の表現を記憶する。別の例として、デフォルトのフレーム幅の照明構成が指定され、LUT2016の各エントリは、デフォルトのストロボレベルから減らすストロボレベルの量、及び、デフォルトのストロボレベルから増加させるフィルレベルの量を指定する等のように、デフォルトの照明構成に対する特定の修正の指示を含む。
【0096】
フレーム領域の動き推定と照明構成制御との間の関係に関して、比較的動きの少ないフレーム領域はモーションブラーの影響を受けにくいため、対応する照明領域に顕著な照明ストロボを実装することは、モーションブラーの軽減にはおそらく不要であり、フレームレートによってはメリットのないフリッカーを生じる可能性があることに留意されたい。逆に、比較的動きの多いフレーム領域では、モーションブラーが発生しやすく、そのような領域では、照明ストロボが強調される。したがって、少なくとも1つの実施形態では、照明領域の照明構成を設定又は修正するために照明制御モジュール714によって実装される関係は、一般に、動き推定の増加に伴ってストロボ強調を増加させ、フィル強調を減少させ、逆に、フレーム領域の動き推定の減少に伴って、ストロボ強調を減少させ、フィル強調を増加させる。したがって、フレーム幅のデフォルト又は一般的な照明構成が領域毎に修正されるスキームの場合、照明制御モジュール714は、動き推定表現を使用して、動きが比較的少ないと識別されたフレーム領域のストロボ出力をデフォルトレベルから減らし、フィル出力を増加させることができ、又は逆に、動きが比較的多いと識別された領域のストロボ出力をデフォルトレベルから増加させ、フィル出力を減らす。説明すると、第1のフレーム領域が低閾値より低い動き推定表現を有し、したがって、非常に低い又は0の動き推定を有することを示す第1のフレーム領域について、照明制御モジュール714は、一実施形態では、第1のフレーム領域に対応する照明領域に対して一定レベルのフィル照明構成を実装し、一方、第2のフレーム領域が高閾値よりも高い動き推定表現を有し、したがって、高い動き推定表現を有することを示す第2のフレーム領域については、照明制御モジュール714は、一実施形態では、第2のフレーム領域に対応する照明領域に対してストロボのみの照明構成を実装する。しかしながら、低閾値と高閾値との間の動き推定表現を有する第3のフレーム領域について、動き推定がこの範囲内で増加すると、ストロボ出力が強調され、フィル出力が強調されないように、照明制御モジュール714は、動き推定表現に基づいて、ストロボレベル及び持続時間とフィルレベルの一方又は両方を反対方向に線形又は非線形に調整する。
【0097】
照明制御モジュール714は、各照明領域の領域に基づく照明構成(又は、領域に基づく照明構成修正)を決定するように、表示マトリクス318の照明領域に対応するフレームの各照明領域に対してブロック2006,2008のプロセスを繰り返し、ディスプレイデバイス304のディスプレイコントローラ316で実装される照明制御モジュール718に対して、各照明領域の照明構成又は照明構成修正の表現2108を送信する。上記の説明と同様に、表現2108は、照明領域2106-1~2106-9の各々に対するエントリを有するデータ構造を含むことができ、各エントリは、その照明領域に対して実装される照明構成の様々なパラメータの値を記憶する。或いは、データ構造は、一般的な照明構成を表すエントリを含み、各領域に関連するエントリは、その照明領域の領域固有の照明構成を生成するために一般的な照明構成をどのように修正するかを示すデータを含む。
【0098】
ブロック2022において、ディスプレイデバイス304は、対応するフレーム期間中にフレーム2102の表示を進める。このプロセスの一部として、照明制御モジュール718は、その照明領域の照明構成を領域毎の表現2108で指定されるように実装するために、ディスプレイコントローラ316を介して、フレーム2102のフレーム期間中に表示マトリクス318の各照明領域での照明を制御する。他の実施形態では、照明制御モジュール714は、各照明領域の動き推定表現を表す値を有する1つ以上のデータ構造を送信し、各照明領域の照明構成を、その領域の受信した動き推定表現に基づいて決定又は修正するのは、照明制御モジュール718である。
【0099】
方法2000の例を説明すると、
図22は、2つのフレーム2202-1,2202-2の例示的なシーケンス2200を示しており、フレーム2202-1は、表示順でフレーム2202-2に先行する。フレーム2202-1,2202-2の各々は、3×3グリッドのフレーム領域に分割され、各フレーム領域は、表示マトリクス318の独立制御される照明領域に対応する。この例では、シーケンス2200は、水平方向に移動する自動車オブジェクト2204を表すピクセルコンテンツの動きを表し、ピクセルコンテンツの大部分は、フレーム2202-1の領域2206で始まり、フレーム2202-2のフレーム領域2208に現れる。この例では、シーケンスに他の大きな動きがないと仮定する。したがって、フレーム2202-2の場合、フレーム領域2206,2208は、先行フレーム2202-1からの大きい動きを示し、したがって、フレーム2202-2のフレーム領域2206,2208には、大きい動きを表す高い値を有する動き推定表現が割り当てられ、フレーム2202-2の残りのフレーム領域には、低い又は0の動きを表す低い値を有する動き推定表現が割り当てられる。したがって、フレーム領域2206,2208の各々について、照明制御モジュール714は、照明ストロボがあまり強調されていない2つの対応する照明領域で潜在的に生じ得るモーションブラーを軽減するために、顕著な照明ストロボ及び強調されていない照明フィル(照明フィル無しを含む)を提供する領域固有の照明構成を生成する。僅かな量の動きを含み、したがって、小さくて0ではない動き推定表現によって表されるフレーム領域2210,2212の場合、照明制御モジュール714は、関連する照明領域におけるモーションブラーとフリッカーのリスクのバランスをとるように、フレーム領域の動き推定表現に基づいてストロボ出力とフィル出力とのバランスをとる領域固有の照明構成を生成する。残りのフレーム領域の各々について、照明制御モジュール714は、より顕著なストロボを使用した場合にこれらの照明領域で潜在的に発生し得るフリッカーを軽減するように、顕著な照明フィル及び強調されていない照明ストロボ(ストロボ無し、又は、一定したレベルのフィル照明を含む)を提供する領域固有の照明構成を生成する。
【0100】
図23~
図26は、所定の照明領域の照明構成を、その照明領域が中心窩領域(foveal region)であるか周辺領域であるかに基づいて制御するための中心窩領域照明制御技術216の実施形態を示す。このような技術を実施するために、ディスプレイシステム300は、
図23に示すように、ユーザの現在の注視位置(gaze position)を決定するための視線追跡サブシステム2300を利用する。少なくとも一実施形態では、視線追跡サブシステム2300は、ディスプレイデバイス304の表示マトリクス318と同じ場所に配置された1つ以上の光源2302(例えば、赤外線(IR)LED)を利用して、光源2302によって照らされたユーザの目2304の画像をキャプチャするように、ユーザの片目又は両目2304と、目2304の位置に向けられた1つ以上のイメージングカメラ2306とを照らす。視線追跡モジュール2308は、キャプチャされた画像を分析して、様々な周知又は独自の視線追跡技術の何れかを使用して、イメージングカメラ2306の位置、表示マトリクス318の位置、ユーザの目2304の位置、及び、視線方向2310の間の既知の幾何学的構成から、目2304の現在の視線方向2310を決定し、現在の注視位置2312、すなわち、ユーザの現在の中心窩ビューのターゲットである表示マトリクス318上の点を三角測量する。次に、視線追跡モジュール2308は、現在の注視位置2312の注視位置表現2314を、グラフィックスドライバ710、GPU308又はレンダリングデバイス302の他のコンポーネントに提供する。注視位置表現2314は、例えば、表示マトリクス318のピクセルに対する現在の注視位置2312の(X,Y)位置を特定する(X、Y)座標ペア、現在の注視位置2312の場所を含む表示マトリクス318の照明領域を特定する値等を含むことができる。
【0101】
図24を参照すると、
図24の方法2400は、いくつかの実施形態による、中心窩領域照明制御技術216の一般的なフローを示し、
図25に表された例示的な実施形態を参照して説明されている。
図25では、ソース側照明制御モジュール714(
図7)が、ディスプレイデバイス304によって実装される照明構成設定の決定を担当する。ただし、以下に説明するプロセスは、本明細書で提供されるガイドラインを使用して、ディスプレイ側照明制御モジュール718による実装に適合させることができる。
【0102】
ブロック2402において、GPU308は、ビデオコンテンツアプリケーション704の指示により、フレームシーケンス内のフレーム2502をレンダリングするか他の方法で生成し、生成されたフレームをレンダリングデバイス302のフレームバッファ2504にバッファリングする。ブロック2404において、ディスプレイドライバ712は、生成されたフレーム2502を表すバッファリングされたピクセルデータ及びメタデータを、相互接続305を介してディスプレイデバイス304に行毎、列毎、ブロック毎、又は、他のパターン毎に送信する。
【0103】
ブロック2402,2404のフレーム生成プロセス及び送信プロセスと同時に、グラフィックスドライバ710の照明制御モジュール714は、表示マトリクス318の各照明領域の照明構成を、現在の注視位置2312と、注視位置2312の照明領域との関係に基づいて決定するプロセスを開始する。
図25の例では、表示マトリクス318は、5×5の配置の照明領域2501-1~2501-25を有するグリッドベースの領域分割として構成される。ブロック2406において、視線追跡サブシステム2300は、現在の注視位置2312を決定し、対応する注視位置表現2314を照明制御モジュール714に提供する。ブロック2408において、照明制御モジュール714は、問題となっている照明領域に対する注視位置表現2314によって表される現在の注視位置2312の位置に基づいて、照明領域2501-1~2501-25の各々を分類する。いくつかの実施形態では、照明制御モジュール714は、各照明領域が、現在の注視位置2312からの領域の距離に基づいて中心窩領域又は周辺領域の何れかに分類される2段階アプローチを実施する。この場合、現在の注視位置2312を含む照明領域を中心窩領域と指定し、残りの照明領域の全てを周辺領域と指定する。他の実施形態では、現在の注視位置2312からの距離に基づいて、3段階以上の分類が実施される。例えば、一実施形態では、照明制御モジュール714は、現在の注視位置2312を含む照明領域が中心窩領域として分類され、中心窩領域に直接隣接する照明領域が中間領域として分類され、残りの照明領域が周辺領域として分類される、3段階アプローチを実施する。ここで提供されるガイドラインを使用して、他の分類スキームを実施することができる。
【0104】
ブロック2410において、照明制御モジュール714は、選択された照明領域の照明構成を決定するか、又は、選択された領域の分類に基づいて選択された照明領域に対して以前に特定された照明構成を修正する。説明すると、いくつかの実施形態では、照明制御モジュール714は、上記の技術の1つ又は組み合わせを使用してフレームのデフォルトの照明構成を決定し、次に、照明制御モジュール714は、特定の領域固有の照明構成を生成するために、領域の分類に基づいて、各照明領域についてデフォルトの照明構成を修正する。他の実施形態では、領域の分類を使用して、その領域に使用するための事前に定義された照明構成のセットから特定の照明構成を選択する。
【0105】
少なくとも一実施形態では、照明領域の注視に基づく分類と照明領域の対応する照明構成(又は、領域毎のデフォルト照明構成への修正)との間の関係は、1つ以上のLUT2412、1つ以上のソフトウェア関数2414、又は、様々な設定での以前の使用及び以前のユーザ入力についてトレーニングされたMLアルゴリズムによって開発された学習済みモデル2416を使用して実装される。例えば、LUT2412は、対応する注視に基づく分類に基づいてインデックス付けされた複数のエントリを有し、対応する各エントリは、特定の先行照明フィルレベル、後続照明フィルレベル、ストロボレベル、ストロボ位置、ストロボ持続時間等のパラメータの値を含む、対応する照明構成の表現を記憶する。別の例として、デフォルトのフレーム幅の照明構成が指定され、LUT2412の各エントリは、デフォルトのストロボレベルから減らすストロボレベルの量、及び、デフォルトのストロボレベルから増加させるフィルレベルの量を指定する等のように、デフォルトの照明構成に対する特定の修正の指示を含む。
【0106】
人間の視覚システムでは、ユーザの周辺視野は、通常、ユーザの中心窩視野よりもフリッカーに気づきやすい。逆に、ユーザの周辺視野の視力が低下すると、通常、ユーザは、周辺視野のモーションブラーに気づきにくくなり、中心窩視野でモーションブラーに気づきやすくなる。したがって、少なくとも1つの実施形態では、照明領域の照明構成を設定又は修正するために照明制御モジュール714によって実装される関係は、一般に、中心窩領域と分類された照明領域に対してストロボ強調を増加させ、フィル強調を減少させ、逆に、周辺領域と分類された照明領域に対してストロボ強調を減少させ、フィル強調を増加させる。さらに、中間領域分類が利用される実施形態では、その関係は、中間領域と識別された領域のストロボ出力とフィル出力との間のバランスを提供する。したがって、フレーム幅のデフォルト又は一般的な照明構成が領域毎に修正されるスキームの場合、照明制御モジュール714は、照明領域に対して注視に基づく分類を使用して、周辺領域と識別された照明領域に対してストロボ出力をデフォルトレベルから減少させ、フィル出力を増加させることができ、又は逆に、中心窩領域と識別された領域に対してストロボ出力をデフォルトレベルから増加させ、フィル出力を減少させることができる。また、中間領域に分類される照明領域については、本例では、一般的な照明構成が修正されずに採用される。
【0107】
照明制御モジュール714は、各照明領域に対して領域に基づく照明構成(又は、領域に基づく照明構成修正)を決定するように、表示マトリクス318の各照明領域に対してブロック2410のプロセスを繰り返し、ディスプレイデバイス304のディスプレイコントローラ316で実装される照明制御モジュール718に対して、各照明領域の照明構成又は照明構成修正の表現2508を送信する。上記の説明と同様に、表現2508は、照明領域2501-1~2501-25の各々に対するエントリを有するデータ構造を含むことができ、各エントリは、その照明領域に対して実装される照明構成の様々なパラメータの値を記憶する。或いは、データ構造は、一般的な照明構成を表すエントリを含み、各領域に関連するエントリは、その照明領域の領域固有の照明構成を生成するために一般的な照明構成をどのように修正するかを示すデータを含む。
【0108】
ブロック2418において、ディスプレイデバイス304は、対応するフレーム期間中にフレーム2502の表示を進める。このプロセスの一部として、照明制御モジュール718は、その照明領域の照明構成を領域毎の表現2508で指定されるように実装するために、ディスプレイコントローラ316を介して、フレーム2502のフレーム期間中に表示マトリクス318の各照明領域での照明を制御する。他の実施形態では、照明制御モジュール714は、各照明領域の注視に基づく分類を表す値を有する1つ以上のデータ構造を送信し、各照明領域の照明構成を、その領域の受信した注視に基づく分類に基づいて決定又は修正するのは、照明制御モジュール718である。
【0109】
方法2400の例を説明すると、
図26は、2つの異なるフレーム2602-1,2602-2を示す。フレーム2602-1,2602-2の各々は、5×5グリッドのフレーム領域に分割され、各フレーム領域は、表示マトリクス318の独立制御される照明領域2501に対応する。フレーム2602-1は、上記の2段階分類アプローチを示す。この例では、(アイコン2604によって特定される)現在の注視位置は、照明領域2501-17(
図25を参照)に関連するエリア内にあり、したがって、照明領域2501-17は、中心窩領域に分類され、残りの照明領域2501-1~2501-16,2501-18~2501-25は、周辺領域に分類される。したがって、照明領域2501-17に対してディスプレイデバイス304によって採用される領域固有の照明構成は、照明ストロボの使用を強調し、照明フィルの使用を強調しないように設定又は修正され、一方、他の照明領域は、ストロボの使用を強調せず、フィルの使用を強調するように設定又は修正され得る領域固有の照明構成を有する。
【0110】
フレーム2602-2は、上記の2段階分類アプローチを示す。この例では、(アイコン2604によって特定される)現在の注視位置は、照明領域2501-13(
図25を参照)に関連するエリア内にあり、したがって、照明領域2501-13は、中心窩領域に分類される。照明領域2501-7,2501-8,2501-9,2501-12,2501-14,2501-17,2501-18,2501-19は、照明領域2501-13に直接隣接しているため、中間領域として分類され、残りの照明領域は、周辺領域として分類される。したがって、この例では、中心窩領域に対してディスプレイデバイス304によって採用される領域固有の照明構成は、照明ストロボの使用を強調し、照明フィルの使用を強調しないように設定又は修正され、周辺領域に対する領域固有の照明領域は、ストロボの使用を強調せず、フィルの使用を強調するように設定又は修正され、中間領域の領域固有の照明構成は、例えば、デフォルトで上記の他の照明構成制御技術の1つを使用して決定された一般的なフレーム幅の照明構成になる。
【0111】
いくつかの実施形態では、上記の装置及び技術は、
図1~
図26を参照して上述したディスプレイシステム300のコンポーネントの1つ以上の集積回路(IC)デバイス(集積回路パッケージ又はマイクロチップとも呼ばれる)を含むシステムに実装される。これらのICデバイスの設計及び製造には、電子設計自動化(EDA)及びコンピュータ支援設計(CAD)ソフトウェアツールが使用される。これらの設計ツールは、通常、1つ以上のソフトウェアプログラムとして表される。1つ以上のソフトウェアプログラムは、回路を製造するための製造システムを設計又は適合するための処理の少なくとも一部を実行するように1つ以上のICデバイスの回路を表すコードで動作するようにコンピュータシステムを操作する、コンピュータシステムによって実行可能なコードを含む。このコードは、命令、データ、又は、命令及びデータの組み合わせを含むことができる。設計ツール又は製造ツールを表すソフトウェア命令は、通常、コンピューティングシステムがアクセス可能なコンピュータ可読記憶媒体に記憶される。同様に、ICデバイスの設計又は製造の1つ以上のフェーズを表すコードは、同じコンピュータ可読記憶媒体又は異なるコンピュータ可読記憶媒体に記憶されてもよいし、同じコンピュータ可読記憶媒体又は異なるコンピュータ可読記憶媒体からアクセスされてもよい。
【0112】
コンピュータ可読記憶媒体は、命令及び/又はデータをコンピュータシステムに提供するために、使用中にコンピュータシステムによってアクセス可能な任意の非一時的な記憶媒体又は非一時的な記憶媒体の組み合わせを含む。このような記憶媒体には、限定されないが、光学媒体(例えば、コンパクトディスク(CD)、デジタル多用途ディスク(DVD)、ブルーレイ(登録商標)ディスク)、磁気媒体(例えば、フロッピー(登録商標)ディスク、磁気テープ、磁気ハードドライブ)、揮発性メモリ(例えば、ランダムアクセスメモリ(RAM)若しくはキャッシュ)、不揮発性メモリ(例えば、読取専用メモリ(ROM)若しくはフラッシュメモリ)、又は、微小電気機械システム(MEMS)ベースの記憶媒体が含まれ得る。コンピュータ可読記憶媒体(例えば、システムRAM又はROM)はコンピューティングシステムに内蔵されてもよいし、コンピュータ可読記憶媒体(例えば、磁気ハードドライブ)はコンピューティングシステムに固定的に取り付けられてもよいし、コンピュータ可読記憶媒体(例えば、光学ディスク又はユニバーサルシリアルバス(USB)ベースのフラッシュメモリ)はコンピューティングシステムに着脱可能に取り付けられてもよいし、コンピュータ可読記憶媒体(例えば、ネットワークアクセス可能ストレージ(NAS))は有線又は無線ネットワークを介してコンピュータシステムに結合されてもよい。
【0113】
いくつかの実施形態では、上記の技術のいくつかの態様は、ソフトウェアを実行するプロセッシングシステムの1つ以上のプロセッサによって実装されてもよい。ソフトウェアは、非一時的なコンピュータ可読記憶媒体に記憶され、又は、非一時的なコンピュータ可読記憶媒体上で有形に具現化された実行可能命令の1つ以上のセットを含む。ソフトウェアは、1つ以上のプロセッサによって実行されると、上記の技術の1つ以上の態様を実行するように1つ以上のプロセッサを操作する命令及び特定のデータを含むことができる。非一時的なコンピュータ可読記憶媒体は、例えば、磁気若しくは光ディスク記憶デバイス、例えばフラッシュメモリ、キャッシュ、ランダムアクセスメモリ(RAM)等のソリッドステート記憶デバイス、又は、他の1つ以上の不揮発性メモリデバイス等を含むことができる。非一時的なコンピュータ可読記憶媒体に記憶された実行可能命令は、ソースコード、アセンブリ言語コード、オブジェクトコード、又は、1つ以上のプロセッサによって解釈若しくは実行可能な他の命令フォーマットであってもよい。
【0114】
上述したものに加えて、概要説明において説明した全てのアクティビティ又は要素が必要とされているわけではなく、特定のアクティビティ又はデバイスの一部が必要とされない場合があり、1つ以上のさらなるアクティビティが実行される場合があり、1つ以上のさらなる要素が含まれる場合があることに留意されたい。さらに、アクティビティが列挙された順序は、必ずしもそれらが実行される順序ではない。また、概念は、特定の実施形態を参照して説明された。しかしながら、当業者であれば、特許請求の範囲に記載されているような本発明の範囲から逸脱することなく、様々な変更及び変形を行うことができるのを理解するであろう。したがって、明細書及び図面は、限定的な意味ではなく例示的な意味で考慮されるべきであり、これらの変更形態の全ては、本発明の範囲内に含まれることが意図される。
【0115】
利益、他の利点及び問題に対する解決手段を、特定の実施形態に関して上述した。しかし、利益、利点、問題に対する解決手段、及び、何かしらの利益、利点若しくは解決手段が発生又は顕在化する可能性のある特徴は、何れか若しくは全ての請求項に重要な、必須の、又は、不可欠な特徴と解釈されない。さらに、開示された発明は、本明細書の教示の利益を有する当業者には明らかな方法であって、異なっているが同様の方法で修正され実施され得ることから、上述した特定の実施形態は例示にすぎない。添付の特許請求の範囲に記載されている以外に本明細書に示されている構成又は設計の詳細については限定がない。したがって、上述した特定の実施形態は、変更又は修正されてもよく、かかる変更形態の全ては、開示された発明の範囲内にあると考えられることが明らかである。したがって、ここで要求される保護は、添付の特許請求の範囲に記載されている。