(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-09-17
(45)【発行日】2024-09-26
(54)【発明の名称】マルチ変調ディスプレイにおいて局所暗化するシステム及び方法
(51)【国際特許分類】
G09G 5/37 20060101AFI20240918BHJP
G09G 5/00 20060101ALI20240918BHJP
G09G 5/10 20060101ALI20240918BHJP
G09G 3/20 20060101ALI20240918BHJP
H04N 5/74 20060101ALI20240918BHJP
【FI】
G09G5/37 100
G09G5/00 510B
G09G5/10 Z
G09G5/37 200
G09G3/20 680C
G09G3/20 632G
G09G3/20 641A
G09G3/20 641G
H04N5/74 A
(21)【出願番号】P 2022153785
(22)【出願日】2022-09-27
(62)【分割の表示】P 2021078506の分割
【原出願日】2014-10-29
【審査請求日】2022-09-27
(32)【優先日】2013-11-03
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】507236292
【氏名又は名称】ドルビー ラボラトリーズ ライセンシング コーポレイション
(74)【代理人】
【識別番号】100105957
【氏名又は名称】恩田 誠
(74)【代理人】
【識別番号】100068755
【氏名又は名称】恩田 博宣
(74)【代理人】
【識別番号】100142907
【氏名又は名称】本田 淳
(72)【発明者】
【氏名】シールズ、ジェローム
(72)【発明者】
【氏名】リチャーズ、マーティン ジェイ.
(72)【発明者】
【氏名】ペルティエラ、フアン ピー.
【審査官】塚本 丈二
(56)【参考文献】
【文献】特開2019-003223(JP,A)
【文献】特開2005-196215(JP,A)
【文献】特開2006-126261(JP,A)
【文献】特開2012-008388(JP,A)
【文献】特表2011-514546(JP,A)
【文献】特表2004-503145(JP,A)
【文献】特表2011-502272(JP,A)
【文献】特表2010-534894(JP,A)
【文献】特表2005-522715(JP,A)
【文献】米国特許出願公開第2008/0158245(US,A1)
【文献】米国特許出願公開第2012/0224121(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G09G 5/00-5/42
G09G 3/20
H04N 5/74
G03B 21/00
G03B 21/24
(57)【特許請求の範囲】
【請求項1】
プロジェクタ・ディスプレイ・システムであって、
光源と、
入力画像データを受信し、制御信号を出力するコントローラと、
前記光源から光を受け取る第1の変調器であって、前記第1の変調器が、前記制御信号を前記コントローラから受信して入力画像のバイナリハーフトーン画像をレンダリングするように構成されている、前記第1の変調器と、
前記第1の変調器から受信した前記バイナリハーフトーン画像をぼやけさせて、ブラーハーフトーン画像を生成するように構成されたブラーリング光学システムと、
前記ブラーハーフトーン画像を前記ブラーリング光学システムから受信し、前記制御信号を前記コントローラから受信して所望のスクリーン画像を形成するように投射されるパルス幅変調画像をレンダリングするように構成された第2の変調器とを備え、
システムは、
拡張処理を用いて前記入力画像を拡張して拡張入力画像x
d(m,n)を生成し、ここで、前記入力画像内の各ピクセルは、前記拡張入力画像内の対応するピクセルに空間的に対応しており、前記拡張処理は、前記拡張入力画像内の各ピクセルに対する輝度値を、前記入力画像内の対応するピクセルからブラーカーネルの空間的範囲を超えない前記入力画像の全てのピクセルのうちの最大輝度値として設定し、
ディザパターンの閾値htLevel(m,n)に基づいて上限バイナリハーフトーン画像b
u(m,n)を決定し、ここで、x
d(m,n)>htLevel(m,n)の場合、b
u(m,n)=
1であり
、x
d
(m,n)≦htLevel(m,n)の場合、b
u
(m,n)=0であり、
前記入力画像の輝度レベルに前記第2の変調器のコントラスト比よりも低いか、または、前記第2の変調器のコントラスト比と等しいコントラスト比を乗算してスケーリングされた入力画像を生成し、
縮小処理を用いて前記スケーリングされた入力画像を縮小して縮小入力画像x
e(m,n)を生成し、ここで、前記スケーリングされた入力画像内の各ピクセルは、前記縮小入力画像内の対応するピクセルに空間的に対応しており、前記縮小処理は、前記縮小入力画像内の各ピクセルの輝度値を、前記スケーリングされた入力画像内の対応するピクセルからブラーカーネルの空間的範囲を超えない前記スケーリングされた入力画像の全てのピクセルのうちの最小輝度値として設定し、
前記閾値htLevel(m,n)に基づいて下限バイナリハーフトーン画像b
l(m,n)を決定し、ここで、x
e(m,n)≦htLevel(m,n)の場合、b
l(m,n)=
1であり、
x
e
(m,n)>htLevel(m,n)の場合、b
l
(m,n)=0であり、
前記バイナリハーフトーン画像の各ピクセルが前記上限バイナリハーフトーン画像b
u(m,n)からの空間的に対応するピクセルと前記下限バイナリハーフトーン画像b
l(m,n)からの空間的に対応するピクセルとのうちの大きい方となるように、前記上限バイナリハーフトーン画像b
u(m,n)および前記下限バイナリハーフトーン画像b
l(m,n)を点毎のOR演算により結合して前記バイナリハーフトーン画像を生成するように構成されている、プロジェクタ・ディスプレイ・システム。
【請求項2】
前記第1の変調器は、DMD、MEMS、デジタルリフレクタ、及びアナログリフレクタを含む群のうちの1つを更に含む、請求項1に記載のプロジェクタ・ディスプレイ・システム。
【請求項3】
前記第1の変調器は、複数のカラーチャネルを処理するDMDアレイを更に含む、請求項1に記載のプロジェクタ・ディスプレイ・システム。
【請求項4】
前記第1の変調器は、前記入力画像のバイナリハーフトーン画像をレンダリングするように構成され、
前記バイナリハーフトーン画像は前記所望のスクリーン画像よりも実質的に明るい、請求項1に記載のプロジェクタ・ディスプレイ・システム。
【請求項5】
前記ブラーハーフトーン画像は、前記ブラーリング光学システムによって平滑化された前記バイナリハーフトーン画像を含み、
前記ブラーリング光学システムは、帯域が制限され、かつ立ち上がり時間が制限されたPSFのアレイを含む、請求項4に記載のプロジェクタ・ディスプレイ・システム。
【請求項6】
前記PSFは、限られた空間的広がりを有するPSFを更に含む、請求項5に記載のプロジェクタ・ディスプレイ・システム。
【請求項7】
前記PSFは、ブラーカーネルの空間的範囲に等しい空間的範囲を有する、請求項5に記載のプロジェクタ・ディスプレイ・システム。
【請求項8】
前記PSFは、半径方向対称のPSFを実質的に含む、請求項5に記載のプロジェクタ・ディスプレイ・システム。
【請求項9】
PSFは、ガウス関数、二乗余弦関数、及び限られた空間的広がりを有する実質的に半径方向対称であるピークの関数を含む群のうちの1つを更に含む、請求項5に記載のプロジェクタ・ディスプレイ・システム。
【請求項10】
前記第2の変調器は、DMD、MEMS、デジタルリフレクタ、及びアナログリフレクタを含む群のうちの1つを更に含む、請求項1に記載のプロジェクタ・ディスプレイ・システム。
【請求項11】
プロジェクタ光学系を更に備え、前記プロジェクタ光学系は、前記パルス幅変調画像を受信するように構成され、かつ前記所望のスクリーン画像を投射するように構成されている、請求項1に記載のプロジェクタ・ディスプレイ・システム。
【請求項12】
プロジェクタ・ディスプレイ・システムにおいて入力画像データから所望のスクリーン画像を投射する方法であって、前記プロジェクタ・ディスプレイ・システムは、光源と、入力画像を受信し、制御信号を出力するコントローラと、前記コントローラから制御信号を受信し、前記光源から光を受け取る前置変調器と、前記前置変調器から光を受け取るブラーリング光学システムと、制御信号を前記コントローラから受信し、光を前記ブラーリング光学システムから受け取る主変調器とを備え、前記方法は、
前記入力画像データからバイナリハーフトーン画像を作成すること、
前記バイナリハーフトーン画像からブラーバイナリハーフトーン画像を作成すること、
前記ブラーバイナリハーフトーン画像からパルス幅変調画像を作成すること、
前記パルス幅変調画像から所望のスクリーン画像を投射すること
を含み、
前記バイナリハーフトーン画像を作成することは、
拡張処理を用いて前記入力画像を拡張して拡張入力画像x
d(m,n)を生成すること、ここで、前記入力画像内の各ピクセルは、前記拡張入力画像内の対応するピクセルに空間的に対応しており、前記拡張処理は、前記拡張入力画像内の各ピクセルに対する輝度値を、前記入力画像内の対応するピクセルからブラーカーネルの空間的範囲を超えない前記入力画像の全てのピクセルのうちの最大輝度値として設定し、
ディザパターンの閾値htLevel(m,n)に基づいて上限バイナリハーフトーン画像b
u(m,n)を決定すること、ここで、x
d(m,n)>htLevel(m,n)の場合、b
u(m,n)=
1であり、
x
d
(m,n)≦htLevel(m,n)の場合、b
u
(m,n)=0であり、
前記入力画像の輝度レベルに前記主変調器のコントラスト比よりも低いか、または前記主変調器のコントラスト比と等しいコントラスト比を乗算してスケーリングされた入力画像を生成すること、
縮小処理を用いて前記スケーリングされた入力画像を縮小して縮小入力画像x
e(m,n)を生成すること、ここで、前記スケーリングされた入力画像内の各ピクセルは、前記縮小入力画像内の対応するピクセルに空間的に対応しており、前記縮小処理は、前記縮小入力画像内の各ピクセルの輝度値を、前記スケーリングされた入力画像内の対応するピクセルからブラーカーネルの空間的範囲を超えない前記スケーリングされた入力画像の全てのピクセルのうちの最小輝度値として設定し、
前記閾値htLevel(m,n)に基づいて下限バイナリハーフトーン画像b
l(m,n)を決定すること、ここで、x
e(m,n)≦htLevel(m,n)の場合、b
l(m,n)=
1であり、
x
e
(m,n)>htLevel(m,n)の場合、b
l
(m,n)=0であり、
前記バイナリハーフトーン画像の各ピクセルが前記上限バイナリハーフトーン画像b
u(m,n)からの空間的に対応するピクセルと前記下限バイナリハーフトーン画像b
l(m,n)からの空間的に対応するピクセルとのうちの大きい方となるように、前記上限バイナリハーフトーン画像b
u(m,n)および前記下限バイナリハーフトーン画像b
l(m,n)を点毎のOR演算により結合して前記バイナリハーフトーン画像を生成することを含む、方法。
【請求項13】
前記入力画像データからバイナリハーフトーン画像を作成することは、
前記所望のスクリーン画像よりも実質的に明るいバイナリハーフトーン画像を作成することを更に含む、請求項12に記載の方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、マルチ変調ディスプレイシステムに関し、特に、マルチ変調ディスプレイシステムで画像データ及びビデオデータをレンダリングするシステム及び方法に関する。
【背景技術】
【0002】
プロジェクタシステムは現在、ダイナミックレンジ及び光効率的な使用が改善されて構築されている。デュアル及びマルチ変調プロジェクタディスプレイが当技術分野で既知である。しかし、そのようなディスプレイシステムでの光処理のモデリングの改善から生じるそのようなディスプレイシステムの更なる改善が、レンダリング及び性能の両方で可能である。
【発明の概要】
【課題を解決するための手段】
【0003】
デュアル及びマルチ変調プロジェクタ・ディスプレイ・システム及び技法が開示される。一実施形態では、プロジェクタ・ディスプレイ・システムは、光源と、コントローラと、光源から光を受け取り、入力画像のハーフトーン画像をレンダリングする第1の変調器と、点広がり関数(PSF)を用いて上記ハーフトーン画像をぼやけさせるブラーリング(blurring)光学システムと、ブラーハーフトーン画像を受信し、パルス幅変調画像をレンダリングする第2の変調器であって、パルス幅変調画像は投射されて、所望のスクリーン画像を形成し得る、第2の変調器とを備える。入力画像からバイナリハーフトーン画像を形成し、第1の変調器と第2の変調器との位置合わせずれを補正し、例えば経時的にプロジェクタシステムを較正して、画像を連続して改善するシステム及び技法も開示される。
【0004】
一実施形態では、プロジェクタ・ディスプレイ・システムであって、レーザ光源と、入力画像データを受信し、制御信号を出力するコントローラと、上記レーザ光源から光を受け取る第1の変調器であって、上記制御信号を上記コントローラから受信して、上記入力画像のハーフトーン画像をレンダリング可能である第1の変調器と、上記第1の変調器から受信した上記ハーフトーン画像をぼやけさせるブラーリング光学システムと、上記ブラーハーフトーン画像を上記ブラーリング光学システムから受信し、上記制御信号を上記コントローラから受信してパルス幅変調画像をレンダリング可能な第2の変調器であって、上記パルス幅変調画像は、所望のスクリーン画像を形成するように投射可能である、第2の変調器とを備える、プロジェクタ・ディスプレイ・システム。
【0005】
別の実施形態では、プロジェクタ・ディスプレイ・システムにおいて入力画像データから所望のスクリーン画像を投射する方法であって、上記プロジェクタ・ディスプレイ・システムは、光源と、入力画像データを受信し、制御信号を出力するコントローラと、上記コントローラから制御信号を受信し、上記光源から光を受け取る前置変調器と、上記前置変調器から光を受け取るブラーリング光学システムと、制御信号を上記コントローラから受信し、光を上記ブラーリング光学システムから受け取る主変調器とを備え、方法は、上記入力画像データからバイナリハーフトーン画像を作成すること、上記バイナリハーフトーン画像からブラーバイナリハーフトーン画像を作成すること、上記ブラーバイナリハーフトーン画像からパルス幅変調画像を作成すること、上記パルス幅変調画像から所望のスクリーン画像を投射することを含む、方法。
【0006】
更に別の実施形態では、プロジェクタ・ディスプレイ・システムを較正する方法であって、上記プロジェクタ・ディスプレイ・システムは、光源と、入力画像データを受信し、制御信号を出力するコントローラと、上記コントローラから制御信号を受信し、上記光源から光を受け取る前置変調器と、上記前置変調器から光を受け取るブラーリング光学システムと、制御信号を上記コントローラから受信し、光を上記ブラーリング光学システムから受け取る主変調器とを備え、方法は、入力画像データを受信すること、ハーフトーン画像を計算すること、ライトフィールドモデルを適用することであって、上記ライトフィールドモデルは、上記ブラーリング光学システムのPSFモデルに基づく、適用すること、上記主変調器の主画像を計算すること、上記主変調器からスクリーン画像を表示すること、画像捕捉デバイスを用いて上記スクリーン画像を捕捉すること、捕捉スクリーン画像を前置格子とともに登録すること、登録された捕捉スクリーン画像を上記入力画像データと比較すること、所望の量を超える差がある場合、上記PSFモデルへの補正を計算すること、更なる較正に対して改善されたPSFモデルを適用することを含む、方法。
【0007】
本システムの他の特徴及び利点は、本願内で提示される図面と併せて読まれる場合、詳細な説明において以下に提示される。
例示的な実施形態は、図面の参照図に示される。本明細書で開示される実施形態及び図が限定ではなく例示として見なされるべきであることが意図される。
【図面の簡単な説明】
【0008】
【
図1】マルチ変調ディスプレイシステムの一実施形態と、本願のシステム、方法、及び技法が存在し得る環境とを示す。
【
図2】
図1に与えられるようなデュアル、マルチ変調ディスプレイシステムによって影響を受け得る光学処理/画像処理の高レベル図の一実施形態を示す。
【
図3-1】Aは、適切なバイナリハーフトーン画像を生成する方法の一実施形態を示し、Bは適切なハーフトーン画像を生成する方法の別の実施形態を示す。
【
図3-2】C及びDは、適切なハーフトーン画像を生成する方法の別の実施形態を示す。
【
図4】パルス幅DMDを生成する技法の一実施形態を示す。
【
図5】前置-主マップ、ライトフィールドモデル、及び主-前置マップを使用して、登録された主ライトフィールドを生成する流れ図の一実施形態である。
【
図6】捕捉され、モデリングされ、使用されて、カラー(例えば、赤、緑、又は青)ライトフィールドを計算し得るPSFのアレイを示す。
【
図7】A-Fは、本願の様々な処理モジュールを通しての入力画像の例示的なレンダリングを示す。
【
図8】システムの画像レンダリングプロセスの一実施形態を示す。
【
図9】システムの潜在的な連続補正/改善の改良プロセスとの一実施形態を示す。
【
図11A】本願の実施形態によって処理し得る例示的な一画像を示す。
【
図11B】本願の実施形態によって処理し得る例示的な一画像を示す。
【
図11C】本願の実施形態によって処理し得る例示的な一画像を示す。
【
図11D】本願の実施形態によって処理し得る例示的な一画像を示す。
【
図12A】例示的な入力画像データに基づく画像処理の2つのチャートを示す。
【
図12B】例示的な入力画像データに基づく画像処理の2つのチャートを示す。
【発明を実施するための形態】
【0009】
本明細書で使用される場合、「コントローラ」、「システム」、「インターフェース」等の用語は、ハードウェア、ソフトウェア(例えば、実行中)、及び/又はファームウェアのコンピュータ関連エンティティを指すことが意図される。例えば、コントローラは、プロセッサで実行中のプロセス、プロセッサ、オブジェクト、実行可能ファイル、プログラム、及び/又はコンピュータであり得る。コントローラは、プロセッサと、システムメモリとを備え得、メモリは、プロセッサによって読み取られると、本明細書に開示される1つ又は複数の方法及び/又は技法を行わせるプロセッサ可読命令を含み得る。1つ又は複数のコントローラは、プロセス内に存在することができ、コントローラは、1つのコンピュータ/プロセッサに局所化されてもよく、且つ/又は2つ以上のコンピュータ/プロセッサに分散されてもよい。コントローラは、ハードウェア、ソフトウェア(例えば、実行中)、及び/又はファームウェアの通信関連エンティティを指すことも意図され得、通信を行うのに十分な有線又は無線ハードウェアを更に備え得る。
【0010】
以下の説明全体を通して、より十分な理解を当業者に提供するために、具体的な詳細が記載される。しかし、周知の要素は、本開示を不必要に曖昧にしないように、詳細に示されておらず、又は詳述されていない。したがって、説明及び図面は、限定の意味ではなく例示の意味で見なされるべきである。
【0011】
前置き
プロジェクタ及び他のディスプレイシステムの分野では、画像レンダリング性能及びシステム効率の両方を改善することが望ましい。本願の幾つかの実施形態は、ライトフィールドモデリングをデュアル又はマルチ変調ディスプレイシステムに利用することにより、これらの改善を行うシステム、方法、及び技法を記載している。一実施形態では、光源モデルが開発され、有利な効果に使用される。既知の入力画像の表示画像のカメラ写真が評価されて、光モデルを改善し得る。幾つかの実施形態では、反復プロセスが改善を蓄積し得る。幾つかの実施形態では、これらの技法は、移動している画像に対して使用されて、ライブで調整を行い、画像レンダリング性能を改善し得る。
【0012】
デュアル変調プロジェクタ及びディスプレイシステムは、本願の出願人が所有する特許及び特許出願に記載されており、それらには、
(1)2012年2月28日にワード(Ward)らに発行された「バイナリ光変調段階を有する直列変調ディスプレイ(SERIAL MODULATION DISPLAY HAVING BINARY LIGHT MODULATION STAGE)」という名称の米国特許第8,125,702号明細書、
(2)2013年6月13日に公開されたホワイトヘッド(Whitehead)らへの「投射ディスプレイ(PROJECTION DISPLAYS)」という名称の米国特許出願第20130148037号明細書、
(3)2011年9月22に公開されたウォーレナー(Wallener)への「クラスタ化された光源を使用するカスタムPSF(CUSTOM PSFs USING CLUSTERED LIGHT SOURCES)」という名称の米国特許出願第20110227900号明細書、
(4)2013年5月2日に公開されたシールズ(Shields)への「高ダイナミックレンジディスプレイシステムで高コントラスト画像を正確に表現するシステム及び方法(SYSTEMS AND METHODS FOR ACCURATELY REPRESENTING HIGH CONTRAST IMAGERY ON HIGH DYNAMIC RANGE DISPLAY SYSTEMS)」という名称の米国特許出願第20130106923号明細書、
(5)2011年11月17日に公開されたユーリンジプラス(Erinjippurath)への「フィルタレスLCDを使用して、コントラスト及び解像度を増大する高ダイナミックレンジディスプレイ(HIGH DYNAMIC RANGE DISPLAYS USING FILTERLESS LCD(S) FOR INCREASING CONTRAST AND RESOLUTION)」という名称の米国特許出願第20110279749号明細書、及び
(6)2012年5月31日に公開されたクワン(Kwong)への「色補正及び輝度補正に空間的に変化する反射率/吸収勾配を用いるリフレクタ(REFLECTORS WITH SPATIALLY VARYING REFLECTANCE/ABSORPTION GRADIENTS FOR COLOR AND LUMINANCE COMPENSATION)」という名称の米国特許出願第20120133689号明細書
が含まれる。これらは全て、参照により本明細書に援用される。
【0013】
例示的な物理的構造
一般に、単一のデジタルマイクロミラーデバイス(DMD:Digital Micromirror Device)を有するプロジェクタは、限られたコントラスト比を有する傾向があり得る。より大きなコントラスト比を得るためには、2つ以上のDMD及び/又は他のリフレクタ(例えば、MEMS)が直列に配置され得る。DMDは時分割又はパルス幅変調器として動作し得るため、直列になった2つ以上のDMD及び/又はリフレクタ(両方ともパルス幅変調器として機能する)を動作させるには、精密な時分割位置合わせと、時分割シーケンシングのピクセル毎の対応性とが求められる。そのような位置合わせ及び対応性は、実際には困難であり得る。したがって、本願の多くの実施形態では、プロジェクタ及び/又はディスプレイシステムは、所望の性能を発揮するために、異なるデュアル変調方式を利用し得る。
【0014】
例示的なプロジェクタ・ディスプレイ・システムの関連で更に詳細に考察するが、第1のDMD/リフレクタ(「前変調器」又は「前置変調器」と呼ばれる)が、所望の時間期間(例えば、1フレーム又はその部分)にわたって保持し得るハーフトーン画像によって光源を空間的に変調し得る。このハーフトーン画像はブラーリング処理されて、空間的に帯域幅が低減したライトフィールドを作成し得、このライトフィールドは第2のDMD/リフレクタに適用し得る。第2のDMD/リフレクタ(主変調器と呼ばれる)は、ブラーライトフィールド(blurred light field)をパルス幅変調し得る。この構成は、上述し
た両要件(例えば、精密な時分割位置合わせ及び/又はピクセル毎の対応性)を回避する傾向を有し得る。幾つかの実施形態では、2つ以上のDMD/リフレクタは、時間的にフレーム位置合わせされ、大まかに空間的にフレーム位置合わせされ得る。幾つかの実施形態では、前置DMD/リフレクタからのブラーライトフィールドは主DMD/リフレクタに実質的に重なり得る。他の実施形態では、例えば、レンダリング性能の増大を支援するために空間位置合わせは既知であり、考慮され得る。
【0015】
本願は、デュアル、マルチ変調投射システムの関連で提示されるが、本願の技法及び方法がデュアル、マルチ変調ディスプレイシステムに用途を見出すであろうことを理解されたい。例えば、バックライト、第1の変調器(例えば、LCD等)、及び第2の変調器(例えば、LCD等)を備えるデュアル変調ディスプレイシステムは、適切なブラーリング光学構成要素及び画像処理方法及び技法を利用して、投射システムの関連で本明細書で考察される性能及び効率を発揮し得る。
【0016】
図1は2段階又はデュアル変調ディスプレイシステムを示すが、本願の方法及び技法が3つ以上の変調器(マルチ変調器)ディスプレイシステムでも用途を見出し得ることも理解されたい。本願の範囲は、これらの様々な代替の実施形態を包含する。
【0017】
図1は、本願の目的に対して適切なデュアル変調プロジェクタ・ディスプレイ・システム100の一実施形態である。ディスプレイ100は、光源102を備え得、光源は、1つの光源(例えば、ランプ等)又は複数の点光源(例えば、レーザ、LED等)を含み得る。デジタル動画プロジェクタの関連では、
図1の光源102は、レーザ光源(例えば、102-1、102-2、102-3、102-1’、102-2’、102-3’)の1つ又は複数のバンクを含み得る。ここでは、結合された場合、白色光(例えば、赤、緑、及び青)をレンダリングし得る複数のカラー光源があり得る。
【0018】
光源102からの光は、光学段104に送られ得る。光学段104は、RGBレーザ源からの光を結合する結合器104-1と、光の均一性を改善し得る統合ロッド104-2とを備え得る。その後、光103は、拡散器106を通って送られて、光に角度の多様性を提供し得る。第1の変調器/前変調器108は、この光を入力し得、本明細書で更に説明するように、コントローラ120の制御下で前変調器画像処理を提供し得る。
【0019】
一実施形態では(及び
図1に示されるように)、第1の前変調器108は、DMDアレイであり得る。しかし、1組の光学素子が別個のカラーチャネルを処理し得る(例えば赤チャネル、緑チャネル、及び青チャネルに、例えば108-1、108-2、及び108-3)。単なる例示を目的として、前変調器108は、標準プリズム設計を使用して3.0cm(1.2’’)2KミラーDMDであり得る。前変調器108は、バイナリハーフトーン画像を表示するように制御され得る。例えば、この場合、ピクセルは完全にONであるか、又は完全にオフである(オフ状態の光はオフ状態光105に破棄し得る)。他の実施形態では、アナログ微小電子機械システム(MEMS)及び/又は他のアナログ及び/又はデジタルリフレクタが、光を再分布させて異なるタイプの画像を形成するように適宜制御され得る。
【0020】
このハーフトーン画像107は、点広がり関数(PSF)光学段112に通され得る。PSF光学段は、多くの異なる光学素子110、114等(例えば、レンズ、拡散器、リフレクタ等)を備え得る。本願の目的では、PSF光学段がハーフトーン画像を前変調器108から受信し、ハーフトーン画像(109)の所望のデフォーカスを第2の変調器/主変調器116に提供することで十分であろう。第1の変調器108と同様に、第2の変調器はDMDアレイであり得る。しかし、1組の光学素子が別個のカラーチャネルを処理し得る(例えば赤チャネル、緑チャネル、及び青チャネルに、例えば116-1、116-2、及び116-3)。単に別の例示的な目的として、前変調器108は、標準プリズム設計を使用して3.6cm(1.4’’)4KミラーDMDであり得る。
【0021】
主変調器116は、光109を受け取り得、コントローラ120によって制御し得る。コントローラ120は、ハーフトーン化と、PSFとを組み合わせた効果を推定し、且つ/又はモデリングして、ピクセル単位で主変調器116での局所明度を特定するライトフィールドシミュレーションを利用し得る。MEMSリフレクタを利用する実施形態等の他の実施形態では、コントローラ120は同様に、ライトフィールド形成をモデリングし得る。このモデルから、コントローラ120は、主変調器116のピクセル値を計算、推定、又は他の方法で特定して、最終的な投射/レンダリング画像を生成するようにライトフィールドを変更し得る。その後、光113は投射光学系118を通り、最終的な投射/レンダリング画像をプロジェクタスクリーン(図示せず)に形成し得る。オフ光はオフ状態光111に破棄し得る。
【0022】
多くの実施形態では、デフォーカスハーフトーン画像と主変調器画像との積である最終的な画像が生成され得る。そのような最終的な画像では、コントラストは15,000,000:1の範囲であり得る。
【0023】
光学処理/画像処理の一実施形態
本願の目的に対して適切な例示的なプロジェクタ・ディスプレイ・システムを考察したが、これより、画像処理及びシステム効率において改善を行い得る画像処理の幾つかの方法及び技法を開示する。
【0024】
一実施形態では、プロジェクタシステムは、バイナリハーフトーン画像を作成し得、バイナリハーフトーン画像は光学構成要素によって平滑化されて、所望のディスプレイ画像の帯域幅を制限したものを作成し得る。光学構成要素PSFの形状は、平滑化関数の属性を決め得る。PSFの形状は、システムの表示性能及び計算要件に影響し得る。多くの実施形態では、PSFの形状は、以下の属性及び/又は以下の指針のうちの1つ又は複数を有し得る。
【0025】
(1)PSFは、最も疎なハーフトーンパターンを比較的平坦な場に平滑化し得る。これは、PSFのサイズに大まかな下限を課し得る。
(2)大きなPSFほど、デュアル変調がアクティブである空間周波数を低減し得、より大きな「ハロー」を生じさせ得る(本明細書において更に考察するように)。これは、より大きな計算コストを必要とし得る。
【0026】
(3)PSFは、限られた帯域幅及び限られた立ち上がり時間を有し得る。帯域幅及び立ち上がり時間が大きいほど、大きな補償精度を必要とし得、計算近似を制限し得る。
(4)PSFはコンパクトであり得、PSFの空間的な広がりは制限し得る。PSFはゼロに減衰し得る。遅い減衰又は強いPSF「テール」は、画像コントラストを制限し、計算要件を増大させ得る。
【0027】
(5)PSFは、実質的に半径方向対称であり得る。任意の非対称性は、計算において確認し得る。
一実施形態では、光学的にぼやけたPSFは実質的に、ガウス関数又は回転二乗余弦関数又は空間的広がりが限られた何らかの他の実質的に半径方向対称なピークの関数等の形状をとり得る。
図10は、SPF分布の一例(1000)を示す。これは、テール1004に見られるように、徐々に減衰し得るガウス様ピーク構造1002をとり得る。多くの実施形態では、PSFは、限られた空間周波数、限られた立ち上がり時間、及び/又は限られた空間の広がりをとるべきである。空間周波数及び立ち上がり時間は通常、相関し得る。過度の空間周波数又は立ち上がり時間は、より密なサンプリング及びより高いモデリング精度を必要とし得、計算要件を増大させる。PSFが画像フレーム上で変化する場合、1組のPSFが使用され得、PSF補間方法が利用され得る。PSF位置に伴って変化する高い空間周波数を有するPSFは、適切な補間により密なモデルセットを必要とし得、計算要件及び較正複雑性を増大させる。PSFパルスに鮮鋭なスパイク又はリッジを有することが望ましくないことがある。また、PSFが、周縁部で急に終わるのではなく、徐々に減衰すべきであることが望ましいこともある。平滑な形状は、より低い空間周波数及びより長い立ち上がり時間を有する。PSFの空間的な広がりは、計算演算子のサイズを決め得る。広い減衰「テール」を有するPSFは、演算子サイズを増大させ、したがって、計算要件を増大させる。
【0028】
単なる例示的な一実施形態では、PSFは、例えば、5×5ディザパターンに適用されるブラー関数を表す。したがって、PSFは、1の5×5格子を含み、他の全てのハーフトーンピクセルはゼロであるハーフトーン画像から比較的平坦な場を生成するのに十分に大きくし得る。ブラー関数がガウス形等を実質的に有する場合、その直径は10ピクセル~20ピクセルの範囲であり得る。この例では、PSFの形状を制限する下限及び上限が指定可能である。下限は二乗余弦パルスであり得、上限はガウスパルスであり得る。
【0029】
単なる一例では、LBを下限とし、UBを上限とする。「r」をPSFの中心からの距離とし、Nをディザパターンの辺のサイズとし、これらは両方ともピクセル単位である。次に、パルス振幅は、以下のように、各パルスのエネルギーが1に正規化されるように、定数K1及びK2によってスケーリングし得る。
【0030】
LB(r)=K1(1/2+1/2 cos(πr/N)) r<Nの場合
LB(r)=0 r≧Nの場合
UB(r)=K2exp(-(r/N)^2)
留意し得るように、下限はゼロに減衰し、上限はガウスとして減衰する。減衰は、PSFテールへの多すぎる光の蓄積を回避するために重要である。多くの他のPSF形状及び関数が可能であり、本願の範囲がそのような全ての変形を包含することが理解されよう。
【0031】
図2を参照すると、
図2は、
図1に示される等のデュアル、マルチ変調器ディスプレイシステムを用いて行い得る光学処理/画像処理の動作の高レベルフローチャート200の一実施形態を示す。均一な光201が、ディスプレイシステムに入力され得、第1の変調器202(例えば、ハーフトーンDMD又は他の変調器)が、ハーフトーン画像をブラー光学系204に提供する。その後、ブラー画像は、第2の変調器206(例えば、パルス幅DMD又は他の変調器)によって受信され得、ブラー画像を更に変調して、スクリーン画像203を生成する。一実施形態では、フローチャート200は、コントローラのシステムメモリに記憶し得る1組のプロセッサ可読命令の手順を示す。コントローラは、画像データを受信し、ハーフトーン画像を生成し(例えば、202において)、ハーフトーン画像をぼやけさせ(例えば、204において)、画像を更に変調して(例えば、206において)、最終的な画像を生成し得る。
【0032】
図1のディスプレイシステムの関連では、各DMDデバイスへのコードワードは、生成された画像の制御に利用可能な2つの変数として利用され得る。一実施形態では、ブラー関数は、光学系によって実行され得、全ての画像で一定であると仮定し得る。様々なディスプレイシステム設計では、ブラー関数の設計及びハーフトーン画像化及び/又は符号化の方法は関連し、ディスプレイの性能に影響し得る。そのような例示的な一つのシステムでは、ハーフトーン画像化及び/又は符号化及びブラー関数の適切な選択を決定するために、以下の目的/仮定が考慮され得る。
【0033】
(1)ディスプレイのコントラスト比は、何れかの単独のDMDのコントラスト比よりも大きくし得る。しかし、ハーフトーン化及びブラー関数により、ディスプレイの最高コントラストは、画像の高空間周波数構成要素には達成されないことがある。したがって、幾らかの明クリッピング又は暗クリッピングが表示画像に存在し得る。ライトフィールドモデリング誤差に起因する視覚的劣化は、望ましくは最小であり得る。
【0034】
(2)明クリッピングなし:一実施形態では、主変調器/DMDに入射するブラーライトフィールドはどこでも、入力画像、所望のスクリーン画像よりも大きくし得る。主変調器/DMDはライトフィールドを減衰し得る。幾つかの実施形態では、ブラーライトフィールドよりも大きい幾つかの画像ピクセルは明クリッピングされ得る。明クリッピングが目標ではないことがあるが、ブラーハーフトーン画像は、略あらゆる場所で所望のスクリーン画像よりも実質的に明るくなり得、かつ所望のスクリーン画像よりも明るさが低いブラーハーフトーン画像の部分があり得、明クリッピングが可能である。
【0035】
(3)限られた暗クリッピング:一実施形態では、ブラーライトフィールドは主DMDによって減衰して、所望のスクリーン画像を生成し得る。主DMDは限られたコントラスト比を有するため、システムは、ブラーライトフィールドを主DMDのコントラスト比で除算したものよりも大きな画像ピクセルのみを生成し得る。幾つかの実施形態では、これ未満の画像ピクセルは暗クリッピングし得る。
【0036】
(4)小さなハロー:ハローは、暗い背景上の明るい物体の周囲の暗クリッピングである。暗い背景上の小さく明るい物体は明クリッピングされないため、明るい物体でのブラーライトフィールドは、その明るい物体よりも大きくなり得る。ライトフィールドは低減された空間帯域幅を有するため、明るい物体のごく近くは暗くないことがある。明るい物体に近いライトフィールドのレベルは、主DMDによって可能な限り低減し得るが、それでもなお所望のスクリーンレベルよりも大きく、暗クリッピングを生じさせることがある。幾つかの場合、暗クリッピングは、トゥルーブラックを超えるレベルを表し得、暗細部の損失及びコントラストの消失を示すことが多い。ハローは、暗クリッピングによって生じる主な視覚的アーチファクトであるが、暗クリッピングは、ブラーライトフィールドが高コントラスト高周波数パターンを表すことができない任意の局所領域で生じるおそれがある。局所領域の空間的広がりは、ライトフィールドの帯域幅によって決まり得、ライトフィールドの帯域幅はブラーカーネル又はPSFのサイズによって決まり得る。
【0037】
(5)適切な局所コントラスト:ライトフィールドの帯域幅は、ブラーPSFのサイズによって決まり得る。PSFが小さいほど、高い帯域幅のライトフィールドが可能である。しかし、より小さなPSFは、より密なハーフトーンパターンと対でなければならない。より密なハーフトーンパターンには、より小さなディザパターンが関連付けられ得、より少数の離散レベル及びより高い最初の非ゼロレベルを有し得る。
【0038】
(6)上記目的は競合し得る。したがって、多くの変形及び/又は実施形態が可能であり、且つ/又は望ましいことがある。これについては、DMDコントラスト比、PSFサイズ、及び局所コントラスト考慮事項に関して本明細書において更に考察する。
【0039】
ハーフトーン画像化及びライトフィールドモデリング実施形態
実際のディスプレイでは、前置DMDによって作成されたブラーライトフィールドフレームは、主DMDフレームと位置合わせされないことがある。ライトフィールド画像はわずかに回転、シフト、又はスケーリングされて、フレーム縁部においてオーバースキャンを提供することがある。ライトフィールド画像は、ブラー光学系及び他の光学系に起因してゆがむこともある。そのような可能性により、前置DMD上の点を主DMD上の点にマッピングする前置-主マップが測定され、マッピングとして(例えば、ルックアップテーブル(LUT)等として)適用され得る。実際のディスプレイでは、前置-主位置合わせは、平均前置画像レベルに起因してドリフトすることがある。位置合わせは、前置画像レベルの変化に応答してゆっくりと変化し得、容易に予測されないことがある。主DMDは望ましくは、ライトフィールドのモデルを使用することにより、スクリーン画像を生成するようにブラーライトフィールドを補償すべきである。ライトフィールドモデルの正確性は、補償のために、ブラーライトフィールドモデルを前置ピクセル格子から主ピクセル格子に転送するのに使用される前置-主マップの正確性にかなり依存し得る。不正確なマップは、スクリーン画像の強烈なアーチファクトを生じさせるおそれがある。前置-主位置合わせドリフトは、通常、ハーフトーン画像の作成に使用されるアルゴリズムに大きく影響する、ディスプレイの望ましくない属性である。
【0040】
一実施形態では、スクリーン画像の形成に使用される制御アルゴリズムは、そのような所望のスクリーン画像を形成する前置及び主DMDコードワードを選び得る。この実施形態では、前置DMDコードワードの選択は、ブラーライトフィールドの選択に類似し、主DMDコードワードを大方決め、その理由は、これらが望ましくは、所望のスクリーン画像を生成するようにライトフィールドを補償すべきであるためである。ブラーライトフィールドはどこでも、明クリッピングを回避するために入力画像よりも大きくなり得、主DMDコントラスト比で除算される場合、暗クリッピングを回避するためにどこでも入力画像未満であるべきである。同等に、ブラーライトフィールドはどこでも、入力画像の帯域制限上限よりも大きく、主DMDのコントラスト比を乗算した帯域制限下限未満であるべきである。帯域制限要件は、ハーフトーン符号化及びブラー関数によって課される。
【0041】
幾つかの画像領域では、画像の特徴は、上限条件及び下限条件が満たされ得るようなものであり得る。他の画像領域では、画像の特徴は両方を満たさないことがある。両方の事例でのライトフィールドの選択を提示する。両条件を満たすことができない場合、通常、様々なライトフィールド選択肢が存在する。両条件を満たすことができない場合、条件のうちの少なくとも1つに違反するライトフィールドが選ばれ得る。一実施形態では、通常、下限の違反のほうが好ましいことがあり、これは、明クリッピングが暗クリッピングよりも視覚的に明らかである傾向があるためであるが、画像の特徴に応じて、いずれか一方又は両方の条件に違反し得る。
【0042】
幾つかの実施形態では、PSF形状変化及び前置-主位置合わせドリフトは両方とも、ライトフィールドの選択に大きく影響し得る。特定の画像領域では、上限条件及び下限条件を満たす1組のライトフィールドに、領域にわたって略一定のライトフィールドが存在し得る。他よりもいくらか大きく空間的に変化するライトフィールドが存在することもある。変化するライトフィールドは、位置合わせ位置を正確に表さない前置-主マップ又はPSF形状を正確に表さないことがあるPSFモデルに起因するモデリング誤差の影響を受けやすいことがある。平坦なライトフィールドは、これらの影響を比較的受けない。
【0043】
一実施形態では、ライトフィールドを選ぶために使用されるアルゴリズムは、2つの競合する目標を達成するように設計され得る。一方の目標は、明及び暗クリッピングに起因する画像誤差の回避であり得、他方の目標は、ライトフィールドモデリング誤差による誤補償に起因する画像誤差の回避であり得る。上限及び下限条件に違反しないライトフィールドが存在する場合、アルゴリズムは、最小に変化するライトフィールドを選び得る。しかし、条件に違反するが、それよりもはるかに変化が少ないライトフィールドを選ぶことも可能である。この選択は、結果として生じる明又は暗クリッピングが、より多く変化するライトフィールドの不正確なモデリングによって存在する画像誤差よりも視覚的に好ましいため、より良好であり得る。
【0044】
ライトフィールドを決定するために、アルゴリズムは、以下の規則に従って進み得る。
(1)任意の画像領域で、画像領域が暗クリッピングに起因して視覚的に過度に劣化し得る場合を除き、ライトフィールドを最大レベルに設定する。そのような劣化は、観測、ヒューリスティック、又は任意の他の適切な様式で特定し得る。
【0045】
(2)最大レベル以外のレベルを要求する任意の画像領域で、レベルを可能な限り最大レベル近くに設定し、明クリッピング又は暗クリッピングに起因して領域を過度に劣化させることなく、ライトフィールドの変動を可能な限り最小化する。
【0046】
これらの規則は、以下の理由及び/又は条件に従って利用され、且つ/又は変更され得る。
(1)一定レベルに設定されたライトフィールドを有する画像領域は、前置-主位置合わせずれ又はPSF形状変化に起因する補償誤差の影響を受けにくい。
【0047】
(2)ディスプレイは、最大レベルで較正し得る。ライトフィールドがこのレベルに保持される場合、前置-主マップは位置合わせを正確に表し得、PSFモデルはPSF形状を正確に表し得る。ライトフィールドを可能な限りこのレベルに保つことは、位置合わせ及びPSFモデルのずれを低減する。ライトフィールドが一定ではない画像領域では、ライトフィールドモデル誤差に起因する補償誤差は制限され得る。これらの誤差は、画像を過度に劣化させる傾向がある。
【0048】
(3)多くの画像領域は、あまり高いコントラストを有さず、目立たない暗クリッピングを用いて最大レベルで達成し得る。
(4)補償誤差は、より暗い領域で見える程度が低い傾向を有する。ライトフィールドが最小レベルに設定することができない場合、画像領域は恐らくかなり暗い。
【0049】
ハーフトーンDMD符号化実施形態
一実施形態では、前変調器/ハーフトーンDMDは空間的に、均一なライトフィールドを変調して、ハーフトーン画像を生成し得る。例えば、ハーフトーン画像では、全てのピクセルは、フレーム時間全体又はその部分にわたりオン又はオフのいずれかである。結果として生成されるハーフトーン画像(適宜ブラーリングされる)は、特に明クリッピングの回避が望まれる場合、主変調器/パルス幅DMDで十分な光レベルを生成し得る。パルス幅DMDは光レベルのみを低減し得るため、ブラーハーフトーン画像はどこでも所望のスクリーン画像(例えば、入力画像)よりも実質的に大きくあるべきである。黒い背景上の非常に明るいドット等の画像特徴により、明クリッピング又は暗クリッピングのいずれかの不可避の状況が強いられ得る幾つかの状況では、いくらかの明クリッピングが意図的に許可され得、ブラーハーフトーン画像は、入力、特にドット以下である。
【0050】
一実施形態では、低光レベルを達成し、ハローを回避するために、ブラーハーフトーン画像は、所望のスクリーン画像よりもわずかに高く設定し得る。したがって、ブラーハーフトーン画像は所望のスクリーン画像への帯域制限最小上限で実質的にあり得る。例えば、帯域幅が光学ぼけによって制限される。最小上限ではないこともあるが、同様の性能を有し得る。この緩和は、真の最小の達成が、可能であるがより困難であり得るため、望ましいことがある。この実施形態では、「明クリッピングなし」属性が実質的に維持されることで十分であり得る。
【0051】
この実施形態では、ハーフトーン画像は、空間ディザパターンを使用することによって形成し得る。ディザパターンは、ピクセルの矩形ブロックにわたって定義し得、パターンをタイリング(tiling)することによって画像フレーム全体にわたって繰り返し得る。ブラーカーネルはパターンを平滑化するため、パターンのサイズは、ブラーカーネルのサイズに関連し得る。カーネルのサイズは、最小非ゼロ光レベルも決め得る。例えば、ディザパターンの1つのピクセルをオンにし、他の全てピクセルをオフにすることで、最小レベルが生成され得る。
【0052】
以下の表1は、レベルインデックスを示す例示的な1つの10×10パターンを示す。所与のレベルインデックスで、付番されたピクセル及びその番号未満の番号の全てのピクセルはオンにされ、一方、その番号を超える番号の全てのピクセルはオフである。所与のレベルパターンがブラーリングされる場合、その結果は平坦ではない傾向があり、変調場は何らかの最小を有し得る。以下の表2は、表1の各レベルインデックスの正規化最小光レベル(前のインデックスに対する光レベル)を示す。他のパターンサイズ及び他の空間ディザリングパターンも可能であり、本願によって包含されることが理解されよう。
【0053】
【0054】
【表2】
この実施形態では、任意の特定の入力ピクセルについて、ブラーハーフトーン画像の対応するピクセルのレベルはより高くあるべきである。そのピクセルで所望のより高いレベルを達成するために、ブラーカーネルの空間的広がり内の入力画像の全ての近傍ピクセルは評価され得る。例えば、所望のレベル未満のレベルを有する任意の近傍ピクセルはオンにされ得る。この情報の一実施形態は以下のように実施され得る。
【0055】
(1)任意の特定の入力ピクセルについて、完全フレームライトフィールドのレベルがピクセルレベルよりも大きいようなレベルインデックスを選ぶ。例えば、ブラーリングされた場合、ピクセルレベルを超えるハーフトーンパターンを生成するレベルインデックスを選ぶ(例えば、フレーム全体に)ことが可能である。
【0056】
(2)この完全フレームハーフトーンパターンを所与として、PSFが光を特定のピクセルに寄与しない全てのピクセルは、特定のピクセルでのレベルに影響を及ぼさずにオフにし得る。
【0057】
この方法が、特定のレベルを有するハーフトーンタイルを生成し得、ハーフトーンに濃淡むらがある外観を与えることに留意されたい。むしろ、個々のピクセルは、インデックス及び画像特徴への近接性に応じてオン又はオフにし得る。他の実施形態では、誤差拡散及び/又は局所ブルーノイズを行うことが可能であり得る。例えば、ハーフトーン格子は、対応するピクセルによって局所的に閾値処理され得る。
【0058】
一実施形態は、配列ディザリングによって実施され得るが、拡張とリンクして、上限を達成し得ることを理解されたい。平滑さは、例えば、ディザパターンでオンの唯一のピクセル等、最低レベルでの考慮事項であり得る。異なる平滑性効果のために、ブルーノイズディザリング及び/又はFMディザリング等の他の手法を適用することが可能であり得る。別の例では、黒色背景上の最高明度未満の小さな明るい物体を考える。この場合、導入されるハローは所望よりも広くなり得る。拡張エリアは、小さな明るい物体で十分に埋められ得ない。全て小さな明るい物体を有するよりコンパクトなエリアは、ディスプレイのハロー幅が目のグレア幅よりも大きいため、より低い程度のハローを示し得る。小さな明るい物体の明度を下げることは、ハローの明度を低減するのみならず、ハロー幅を低減し得る。
【0059】
図3Aは、適切なバイナリハーフトーン画像を生成する方法の一実施形態を示す。ハーフトーン画像モジュール300は、入力画像データ301を受信し得、302において、画像データをブラーカーネルの広がりまで拡張して、拡張入力画像x(m,n)を生成し得る。その結果生成されるバイナリハーフトーン画像b(m,n)は、x(m,n)>htLevel(m,n)の場合、b(m,n)=1に設定され得、ここで、htLevel(m,n)はマップとして表2の値として与えられ得る。例えば、バイナリハーフトーン画像b(m,n)は、画像フレーム全体にわたってタイリングされる。バイナリハーフトーン画像はb(m,n)として返され得る。
図3Aに示されるような実施形態は、特殊な条件及び/又は簡略化された条件下のライトフィールドの場合(例えば、ライトフィールドが完全にオンになっている場合)、利用し得る。
【0060】
一実施形態では、拡張演算子が利用されて、最小上限に近いものが達成され得る。他の実施形態は、カーネル下の要素の最大を提供し得る非線形フィルタを利用し得る。
上限及び下限を利用する実施形態
ライトフィールドが完全オン以外である(例えば、光は、本明細書で考察する理由により、完全オン未満の何らかのグレースケール値である)状況では、上限及び下限を利用することが望ましいことがある。
【0061】
図3Bは、バイナリハーフトーン画像の上限を特定する一方法を示す。入力画像301はブロック302に入力され得、ブロック302はブラーカーネルの広がりまで拡張する。その中間結果は、304bにおいて閾値を受け得る(すなわち、b(m,n)は、htLevel(m,n)よりも高い場合、x(m,n)に設定され得る)。このブロックは、303bにおいて、上限バイナリハーフトーン画像を設定する。
【0062】
一実施形態では、上限バイナリハーフトーン画像がこの方法によって見つけられる場合、入力画像ピクセルが明クリッピングされない可能性が高い。しかし、幾つかのピクセルは暗クリッピングされ得る。
【0063】
図3Cは、バイナリハーフトーン画像の下限を特定する一方法を示す。下限バイナリハーフトーン画像は、上限画像と同様にして見つけられる。同じディザパターン及び閾値マップが、各閾値に1レベルのオフセットが追加された状態で使用し得る。入力画像を拡張させるのではなく、入力画像は縮小され得る。縮小とは拡張と同様のプロセスであるが、縮小は暗ピクセルの周囲で行われ得る。例えば、システムが画像を反転させ、次に拡張を通常通り実行し、次に、結果として生成された画像を再び反転させる場合、その結果は画像の縮小である。拡張の場合、円盤等の何らかの形状によって画定されるピクセル近傍の幾らかの領域では、その他のピクセルがこのピクセルよりも高い場合、その他のピクセルをこのピクセルのレベルに設定することが可能である。縮小の場合、同じことを行うことが可能であるが、その他のピクセルがこのピクセルのレベル未満である場合、その他のピクセルをこのピクセルのレベルに設定する。拡張は、ピクセルを局所領域の最大に設定する傾向があり、縮小はピクセルを局所領域の最小に設定する傾向がある。その後、対応する拡張画像ピクセルが閾値よりも大きい場合、ハーフトーンピクセルをオンにするのではなく、対応する拡張画像ピクセルが閾値未満の場合、ハーフトーンピクセルはオフにされ得る。
【0064】
図3Cでは、入力画像301は、主DMD305のコントラスト比で乗算されて(306において)、主DMDが下限を達成し得るライトフィールドレベルを確立する。画像は、302cにおいて縮小され得、304cに示されるように閾値処理され得る。入力画像のこのスケーリングは、画像レベルを大幅に増大させ、一般的な画像で非常に多くの場合、レベルを最大ライトフィールドレベルよりも高くする。ライトフィールドは、これが該当するあらゆる場所で最大レベルに設定し得る。
【0065】
下限バイナリハーフトーン画像がこの方法によって見つけられる場合、入力画像ピクセルは暗クリッピングされない可能性が高いが、幾つかの入力画像ピクセルは明クリッピングされ得る。
【0066】
上限及び下限を結合してハーフトーン画像及びライトフィールドを形成
本明細書に記載の規則に従い、上限及び下限バイナリハーフトーン画像は結合されて、ハーフトーン画像及びライトフィールドを形成し得る。
図3Dに示されるように、上限画像303b及び下限画像303cは、バイナリハーフトーン画像(303d)が上限画像及び下限画像のうちの大きい方になり得るように、点毎にOR演算し得る(302dにおいて)。
【0067】
上限及び下限バイナリハーフトーン画像がこの方法によって結合される場合、入力画像ピクセルが明クリッピングされる可能性は低いが、幾つかの入力画像ピクセルは暗クリッピングされ得る。ブラーライトフィールドレベルは、明クリッピングが存在せず、暗クリッピングが、ライトフィールドの空間帯域幅の制限に起因して存在し得るように、上限及び下限方法によって許される最大レベルに設定され得る。
【0068】
代替の上限/下限方法の実施形態
代替の実施形態では、画質を改善し得る幾つかの強化が適用され得る。例えば、上述した方法では、厳密な上限ライトフィールド画像が生成され得る。しかし、幾つかの画像領域では、1つの上限強化を可能にするために、暗クリッピングが少なくなることと引き換えに限られた明クリッピングが好ましいことがある。画像特徴の例は、可視のハローが存在するような非常に暗い背景上の小さな明るいドットである。
【0069】
幾つかの下限強化のために、上述した方法が厳密な下限ライトフィールド画像を作成し得ることに留意されたい。しかし、大半の画像では、厳密な下限は必要ない。目のベーリンググレアに起因して、観測者は多くの非常に低レベルのピクセルをより高いレベルであると知覚することになる。多くの場合、幾つかの低レベルピクセルを上げることは、知覚されることができるが、画像、特に明エリア内の暗ピクセルを目に見えて劣化させない。
【0070】
画像領域では、最も暗いピクセルのレベルは、最大ライトフィールドレベルに設定することができる画像エリアの量を直接決める。主DMDのみによって達成可能なレベル未満のピクセルを表示することは、ライトフィールドを下げることを必要とする。前置-主位置合わせ又はPSF形状変化に起因する画像誤差の代わりに、幾らかの量の暗クリッピングが好ましいことがある。幾らかの暗クリッピングを引き換えにして最大ライトフィールドエリアを増やすことは、多くの場合、好ましいトレードオフである。
【0071】
可能な一増強は、ベーリンググレア関数を使用して、暗クリッピングが知覚できないように、下限をどの程度上げることができるかを特定することである。この方法は、より多くの画像エリアでライトフィールドが最大であるようにライトフィールドを上げる傾向がある。
【0072】
別の可能な強化は、厳密な下限ではなく「セーフコントラスト比」を使用することである。厳密な下限と比較して、この方法は、ライトフィールドがより多くの画像エリアで最高であるようにライトフィールドを上げる傾向がある。主DMDコントラスト比を乗算した下限を使用して、ライトフィールドがなり得る最大を特定するのではなく、局所領域のコントラスト比は、暗クリッピングが視覚的に知覚されないという仮定で暗クリッピングを許すために十分又は「セーフ」であるように選ばれる。加点に主CRを乗算したものの代わりに、局所領域の平均に「セーフコントラスト比」を乗算したものが、ライトフィールドがなり得る最大である。主DMDコントラスト比を使用するのではなく、より低い「セーフコントラスト比」を使用することにより、恐らくは高空間周波数暗クリッピングを代償として、前置-主位置合わせ又はPSF形状変化からの画像誤差を低減する傾向があり得る。加えて、より小さな縮小演算子の使用は、前置-主位置合わせ又はPSF形状変化に起因する画像誤差を低減するに当たり有用であり得る。
【0073】
ライトフィールドモデル及びパルス幅DMDの実施形態
主変調器/パルス幅DMDは、ブラーハーフトーン画像ライトフィールドを変調して、所望のスクリーン画像を生成する。パルス幅DMDは光のみを減衰させることができる。したがって、ライトフィールドは、明クリッピングを回避するために、所望のスクリーン画像上の上限であり得る。加えて、暗クリッピングを回避するために、ライトフィールドは最小上限であり得る。ブラーハーフトーン画像ライトフィールドは、光学プロセスのモデルを使用して計算、推定、又は他の方法でモデリングし得る。一実施形態では、光学プロセスはブラーのみであると推定し得る。例えば、前変調器-主変調器の位置合わせは無視し得る。幾つかの実施形態では、これは全体的な位置合わせ誤差であり得る。
【0074】
図4は、パルス幅DMD補償画像を生成する技法の一実施形態を示す。バイナリハーフトーン画像(例えば
図3からの303)は、ブラーモデル402に入力し得、404において、逆数をとり得る。パルス幅DMD補償画像は、モデリングされたブラーハーフトーン画像ライトフィールドで入力画像を除算することにより(例えば、入力画像301をブラーハーフトーン画像ライトフィールドの逆数で乗算する(406において)ことにより)、特定し得る。
【0075】
変化するPSF形状に適応する実施形態
実際のディスプレイでは、所与の前置ピクセルのPSF形状は、前置フレームでの位置に依存し得る。ブラー光学系は、全ての前置位置を同じようにブラーリングするわけではないことがある。局所エリアでのピクセルのPSFは、非常に小さいと仮定し得、全てのピクセルは同じエネルギーを有する(例えば、前置に入射する均一なライトフィールドを所与として)と仮定し得る。しかし、実際のディスプレイでは、各PSFは異なる傾向が有り得る。一実施形態では、2Kフレームの場合、各PSFは、別個にモデリングされ得、且つ/又は画像エリアの局所部分に適用され得る。例えば、計算的に捕捉し、記憶し、モデリングし、使用し得る200万のPSFが生成される。他の実施形態は、簡易化モデルを提供して、この複雑性を低減し得る。局所領域内のPSFは同様である傾向があるため、単一のPSFモデルが使用されて、全てのPSF(例えば、少なくとも局所エリア及び/又は画像エリアの局所部分での)を表す。そのような潜在的に局所化されたPSFモデルが測定され、又は他の方法でモデリングされて、適切なPSFモデルを提供し得る。
【0076】
ライトフィールドモデルの実施形態
主DMDは、ブラーライトフィールドを補償して、最終的なスクリーン画像を生成する。一実施形態では、ライトフィールド補償は、主DMDピクセル格子に対して実行し得る。この補償プロセスでは、ブラーライトフィールドは主ピクセル格子で表すことができる。しかし、ライトフィールドは、前置ピクセル格子上にあるハーフトーン画像をブラーリングすることによって形成される。加えて、前置変調器及び主変調器は位置合わせされていないことがある。
【0077】
適切な補償プロセスを行うために、2つの可能な代替の実施形態選択肢がある。第1の実施形態は、前置格子上のライトフィールドをモデリングし、次に、それを主格子にマッピングすることであり得る。第2の実施形態は、主格子上の各前置ピクセルに関連付けられたPSFをモデリングすることにより、主格子上のライトフィールドをモデリングすることである。本願は両方の代替の実施形態を包含するが、これより、第1の実施形態(すなわち、前置格子上のライトフィールドをモデリングし、それを主格子にマッピングすること)について説明する。一実施形態では、幾何学的及び/又は光学的歪みを確認して、主格子上の点をマッピングすることが可能であり得る。
【0078】
この第1の実施形態は、以下の理由により選択され得る。
(1)PSFは局所エリア内で形状を実質的に維持し得るため。したがって、ライトフィールドは、エリア全体に単一のPSFを使用して、ハーフトーン画像への標準畳み込みプロセスにより、前置上の局所エリアでモデリングされ得る。
【0079】
(2)前置-主位置合わせずれのため、主変調器上の局所エリア内のPSFは、異なるサンプル位相を有し得、これらは確認される必要があり得る。幾つかの実施形態では、前置変調器及び主変調器は、位置合わせされていないことがあるため、本質的に前置格子位置合わせされたPSFモデルを主格子に移動させる幾らかのサンプル位相シフトがあり得る。
【0080】
(3)主変調器でモデリングされる場合、PSF形状は局所エリア内で変化しないにも関わらず、サンプル位相変化により、畳み込みを計算する際、異なるPSFが使用される必要があり得る。
【0081】
(4)PSFは本質的に、前置参照される。前置変調器の場合よりも主変調器の場合のほうが多くのPSFがモデリングされ記録される必要がある。
(5)ライトフィールドのモデリングは、計算的にコストが高い傾向があり得る。実際の実施では、PSFは、サブサンプリングされて、近似される必要が有り得る。これは、前置格子で実行される場合、より単純であり得る。
【0082】
(6)モデリングされたライトフィールドの前置から主へのマッピングは、計算的なコストを有するが、主変調器上のライトフィールドをモデリングするコストよりも低いコストであり得る。
【0083】
(7)前置変調器上のライトフィールドのモデリングは、モデリングされたライトフィールドを前置変調器から主変調器にマッピングすることによって行い得る。このマップが正確であることが望ましいことがある。特定のディスプレイでは、前置-主位置合わせは固定される。マップが誤差を有する場合、誤差は固定され得る。例えば、誤差は、較正プロセス中のPSFへの変更により確認され得る。例えば、マップのオフセット誤差は、そのフレーム位置でのPSFモデルでのオフセットによって対応し得る。
【0084】
加えて、前置-主位置合わせずれにより、入力画像は、ハーフトーン画像の計算プロセス中、前置格子にマッピングされ得る。このプロセスは、主変調器へのライトフィールドのマッピングほどの正確性は求めないことがある。
図5は、上述した第1の実施形態を示す。システム(コントローラ指示下)は、入力画像301を受信し得る。主-前置マッピング502が適用されてから、504において、ハーフトーン画像を計算し得る。506において、ライトフィールドモデルが適用され得、次に、508において、前置-主マップが適用されて、登録された主ライトフィールド503を生成し得る。幾つかの実施形態では、主変調器はある解像度(例えば、4K)であり得、前置変調器は別の解像度(例えば、2K)であり得るが、処理は他のマッピングを行うことが可能であり得る。例えば、処理は、2K/2Kマッピングを行い得るが、2K主変調器は、プロジェクタシステムによって4Kにアップコンバートし得る。当然ながら、他のマッピングも可能である。
【0085】
ライトフィールドモデル計算のためのフレーム分割
上述したように、PSFは局所エリア内で実質的に変更されないことがあるため、ライトフィールドを計算するために、同じPSFモデルが局所エリアで使用され得る。したがって、画像フレームは、矩形領域に分割され得、各領域は、その領域内のPSFを最良に表すPSFを使用して処理し得る。各領域がモデリングされた後、領域は一緒に結合されて、完全フレームライトフィールドを形成し得る。継ぎ目が可視である場合、より多数の領域が使用され得るか、又は重複領域が計算され、次に一緒にブレンドされ得る。
図6は、捕捉され、モデリングされ、カラー(例えば、赤、緑、又は青)ライトフィールドの計算に使用され得るPSFのアレイを示す。フレームは、PSFが各領域の中心にあるように分割し得る。
【0086】
ハーフトーンパターンの時間的再位置決め
一実施形態では、ハーフトーンディザパターンは、画像フレームにわたりタイリングし得る。フレームでのパターンの位置又は位相の選択は、それに従って可変である。スクリーン画像は、ライトフィールドモデリング又は他の原因に起因して誤差を有し得るため、ディザパターンは、例えば、誤差が区別可能なように、各フレームを再位置決めし得る。例えば、ディザパターンは、パターンインデックスに従って各フレームを再位置決めし得る。誤差はディザパターンタイルサイズに伴って周期性を有し得るため、インデックスに従ってパターンを周囲に移動させることは、誤差を満足のいくように隠すことを行い得る。ディザパターンは、最も疎なハーフトーンビットパターンによって生じるライトフィールドモデリング誤差を隠すようにも再位置決めし得、これらのビットパターンは、ブラーリングされる際、より密なビットパターンよりも変化するライトフィールドを生成する傾向があるため、最も目に付く誤差を生じさせるおそれがある。
【0087】
PSF調整及びディスプレイ較正の概説
実際には、実際のディスプレイは、PSF形状を調整させる必要があり得、較正される必要がある。一実施形態では、PSF調整は、例えば、光学構成要素を操作することにより、較正前に実行し得る。適切なPSF調整後、較正プロセスは、各カラーチャネルに対して行われて、前置-主マップ及びPSFモデルセットを測定し、記録し得る。較正では、較正が表示されている間、カメラが使用されて、スクリーンの写真を撮影し得る。
【0088】
一実施形態では、前置-主マップを測定するために、2つの異なる較正画像の写真が撮影され得る。第1の較正画像は、主が完全に開かれた状態で前置上のドットアレイを表示することによって形成されるPSFアレイ画像であり得る。ドットの前置ピクセル位置は既知である。この組合せは、
図6に示されるように、PSFのアレイのスクリーン画像を示す。第2の較正画像は、主上のドットアレイ及び前置上の全てのドットを表示することによって形成されるドットアレイ画像であり得る。ドットの主ピクセル位置は既知である。この組合せは、ドットアレイのスクリーン画像を示す。
【0089】
これらの2つの画像の写真は、カメラを動かさずに撮影し得る。ドットの前置及び主ピクセル位置は既知であるため、カメラ-前置マップ及びカメラ-主マップが見出される。次に、これらの2つのマップは複合されて、カラーチャネルの前置マップ-主マップを形成し得る。カメラが各カラーチャネルで撮影された写真間で動かされない場合、異なるカラーチャネルのカメラマップ-主マップが使用されて、主DMDを互いに位置合わせし得、カラーチャネルを互いと位置合わせし得る。
【0090】
初期PSFモデルセットを見出すために、
図6に示されるように、第1の較正画像が使用され得る。カメラ-主マップが使用されて、PSFを前置格子にマッピングし得、前置格子において、PSFは記録されて、PSFモデルセットを形成する。モデルは前置格子と呼ばれ、その理由は、モデルがブラーライトフィールドのモデルの構築に使用される場所が前置格子であるためである。ブラーライトフィールドを構築するために、セット内の各PSFは、局所処理領域内の全てのPSFを表す。このようにPSFのモデルを取得することは、大きな誤差を有するモデルを容易に生じさせるおそれがある。
【0091】
較正プロセス中、前置-主位置合わせ及びPSF形状は、好ましくは、一定に保たれるべきである。アルゴリズムは前置画像を最大レベル(白色)に保とうとするため、白色前置画像が使用されて、位置合わせ及び形状変化を一定に保つ。較正プロセスが開始される前、ディスプレイは、白色前置画像を用いて調整される。ドットテストパターンは白色前置を有さないことがあり、したがって、ドットパターンは、写真を撮影するのに十分な時間だけ表示され、次に、白色前置画像が再適用されて、一定条件を維持する。
【0092】
追加のディスプレイ較正の実施形態
説明したように、ディスプレイ較正は、PSFモデルセットを作成するプロセスを含み得る。初期PSFは、スクリーンに表示された個々のPSFの写真を撮影することによって取得し得る。しかし、このようにしてPSFのモデルを取得することは、大きな誤差を有するモデルの生成に繋がるおそれがある。PSFモデルは、主DMDに入射する実際のライトフィールドのモデリングに使用され得るため、正確に実際のPSFを表すことが望ましいことがある。幾つかのデュアルDMD変調器プロジェクタシステムでは、これらのシステムは、急な傾きを有する比較的小さなPSFを有し得、これらは正確なモデルを必要とし得る。一実施形態では、モデルがスクリーン画像の表示に使用される際に生じる誤差を評価することにより、既存のPSFモデルを改善するプロセスとして、PSFモデル改良を行うことが可能であり得る。
【0093】
一実施形態では、単一のPSFがカメラによって捕捉し得る。このPSF画像は、それを生成したハーフトーンピクセルのPSFの予備モデルとして使用し得る。予備モデルは、実際のPSFの完全な表現ではないことがあるため、ハーフトーン画像によって生成されるライトフィールドのモデリングに使用される場合、ライトフィールドは誤差を有し得る。
【0094】
特定の画像では、ライトフィールドは、オンであるハーフトーンピクセルによって生成される全てのPSFの重ね合わせによって形成され得る。そのようなPSFモデル誤差は、ハーフトーン画像内のオンピクセルの分布に依存するライトフィールド誤差を生じさせ得る。画像によっては、他の画像よりもPSF誤差の影響を受けやすいものがある。一般に、比較的平坦なライトフィールドを生成する画像は、PSFモデル誤差の影響を受けにくいことがあり、可変ライトフィールドを生成する画像はより受けやすいことがある。
【0095】
図7A~
図7Fは、PSFモデリング及び改良を示す例示的な画像である。
図7Aは、入力画像内で照明される単一のエリアを示す。
図7Bは、本明細書に開示される様々な実施形態により、
図7Aの入力画像に応答して生成されたハーフトーン画像を示す。この例では、ハーフトーン画像はサンプル2K格子に配置される。このハーフトーン画像が、ディスプレイシステムによって実質的に既知であることに留意されたい。
図7Cは、光学システムによりブラーリングされた、前置格子上の単一ピクセルのPSFを示す。
図7Dは、ブラーリングされた、
図7Bのハーフトーン画像を示す。
【0096】
図7Eは、主DMD補償画像を示す。入力画像が明るい中心のドット/領域によって表されることに留意されたい。一方、ハローは、明るい中心のドット/領域の周囲の環状領域を形成して、ブラーライトフィールドを補償する。
図7Fは、スクリーン画像を形成するために、
図7Eの舗償が適用された後、生成されるスクリーン画像を示す。システムは本明細書において上述したような2つの誤差を補正中であり得るため、スクリーン画像が半径方向対称ではないことがあることに留意されたい。理想的には、スクリーン画像は、入力画像と同じに見えるべきであるが、
図7Fにおいてアーチファクトを示す。この例では、主DMD補償は補正されたと仮定され、アーチファクトは、不正確なPSFモデルによって生じる不適切にモデリングされたライトフィールドの結果である。
【0097】
PSF改良実施形態
説明したように、目に見えるアーチファクトは、カメラによって捕捉し得る。捕捉画像が前置ライトフィールド及びハーフトーン画像とともに登録されると、その登録は、アーチファクトを低減する傾向があり得るPSFへの補正を見つけるために使用し得る。アーチファクトの捕捉画像も誤差を有し得、実際のアーチファクトの完全な表現ではないことがある。したがって、PSF補正は、PSFモデルを改善し得るが、アーチファクトを完全にはなくさないことがある。改善されたPSFを使用して、画像は再処理され得、スクリーン画像はアーチファクトの低減を示すはずである。これらのステップは繰り返すことができ、それにより、アーチファクトが見えなくなるまでアーチファクトを繰り返し低減する。
【0098】
図8及び
図9は、PSFモデル改良プロセス及び/又はモジュールの可能な一実施形態を示す。そのようなPSFモデル改良プロセス/モジュールが1回、複数回(又は恐らく動作の過程において所望の画像をレンダリングする精度を改善し得る連続改善プロセスの一環として)利用され得ることが理解され得る。802において、システムが開始されると、初期PSFモデル(813)が使用されて、スクリーン画像を表示し得る。本明細書に開示された様々な実施形態を追跡して、804において、入力画像データ801が使用されて、ハーフトーン画像を計算し得、ハーフトーン画像803を生成する。このハーフトーン画像は、最新のPSFモデル813と一緒に使用されて、ライトフィールド画像805を計算し、且つ/又はモデリングし得る。一実施形態では、そのようなライトフィールド画像は、PSF及びハーフトーン画像を畳み込むことによって生成し得る。ライトフィールド画像805が使用されて、主画像を計算して(808において)、主画像807を生成する。主画像が使用されて、スクリーン画像を表示して(810において)、スクリーン画像809を生成する。
【0099】
画像がスクリーン画像としてレンダリングされると、812において、カメラ写真が撮影され得、スクリーン画像が前置ピクセル格子とともに登録されて(812において)、登録されたスクリーン画像811を生成する。この登録されたスクリーン画像は、入力画像との比較(814における)に使用し得る。コントローラ/プロセッサは、816において、登録されたスクリーン画像と入力画像とに任意の差があるか否かを問い合わせ得る。これらの差は、閾値処理され、且つ/又は計算されて、差が所望の量よりも大きいか否か(例えば、スクリーン画像の閲覧者にとって見え得るか否か)を判断し得る。代替的には、差は人間の閲覧者によって判断し得る。所望の量以下である場合、プロセスは822において終了し得るか、又は補正プロセスとして続けて、連続プロセスを実行し得るか、又は所望の時間期間で実行され得る。
【0100】
816において、検出された差がある場合、システムは、PSF補正を見出し、且つ/又は計算し、820において、PSFモデルを改善し得る。
図9は、PSF補正を計算するプロセスの一実施形態である。902において、プロセス/モジュールは、登録されたスクリーン画像を主画像によって除算し得る。これは、805においてライトフィールド推定を生成する。次に、このライトフィールド推定は、904において、ライトフィールド画像と比較し得る。これは、ライトフィールド誤差推定901を生成する。この推定は、ハーフトーン画像と一緒に逆畳み込みされて、且つ/又は逆数として計算されて、適切なPSF補正を見つけ得る(813において)。次に、このPSF補正は、
図8で使用される新しいPSFモデルを形成し得る。
【0101】
一般に、カメラ写真から導出される画像は、カメラ捕捉プロセスでの不確実性により、推定である。ライトフィールドは、ハーフトーン画像内の全てのオンピクセルのPSFの重ね合わせによって生成し得る。逆畳み込みプロセスは、アーチファクトに寄与する全てのオンピクセルに同じPSFを仮定することにより、推定ライトフィールド誤差からPSF補正を見つけようとする。
【0102】
競合する考慮事項からの代替の実施形態
上述したように、特定の仮定及び目的が、本明細書で記載される新しい画像レンダリング技法の生成に使用され得る。述べたように、異なる仮定及び目的は代替の実施形態に繋がり得る。そのような代替の実施形態は、DMDコントラスト比、PSFサイズ、及び局所コントラストに基づき得る。例えば、最初の非ゼロ前置レベルは、PSFの場を重ね合わせて、比較的平坦なライトフィールドを達成することによって達成し得る。比較的平坦な場は、PSFが十分に密に離間される場合、達成し得る。この理由は、大きく離間されすぎると、所望の場のレベルよりも大きくなり得るピーク及びバレーを有する場を生じさせ得るからである。PSFサイズ及び形状を所与として、比較的平坦な場の作成に望まれるPSF間隔は、最初の非ゼロ前置レベルを達成するためにオンにし得るハーフトーンピクセルの間隔を決め得る。この間隔は、最初の非ゼロレベル及び離散線形前置レベルの数を決め得る。
【0103】
例えば、10×10ピクセル格子で繰り返されて、比較的平坦な場を達成するPSFでは、100個の前置ピクセルのうちの1つをオンにする必要があり得る。最初の非ゼロレベルは1/100になり、ハーフトーンタイルサイズは10×10になり、離散レベルの数は101になる。
【0104】
最初の非ゼロレベルという名称は、第1のレベルであるゼロが0/100であることを間接的に示す。実際には、そうではないことがある。全ての非ゼロレベルとは異なり、このレベルはハーフトーンの割合によって決まるのではなく、前置DMDコントラスト比(CR)によって決まることがある。レベルは1/前置CRであり、最良の性能のレベルではない可能性が高いことがある。
【0105】
小さく明るい特徴でのハローのサイズを制限するために、小さなPSF及び補足の小さなハーフトーンタイルサイズが選ばれ得る。しかし、小さなタイルサイズは、離散前置レベルの数を制限する。これは、より高いレベルでは問題ではないことがあるが、より低いレベル、特に最初の非ゼロレベル未満のレベルでは局所コントラストを過度に制限するおそれがある。ゼロレベルの使用は前置DMD CRに依存し、より大きなCRがよりよいわけではないことがある。また、最初の非ゼロレベルに応じて、所望の完全システムCRの達成、ブラックの達成に、ゼロレベルが必要とされることがある。
【0106】
幾つかの画像特徴は、前置ライトフィールドによって表すことができる空間周波数よりも高い空間周波数を有し得る。これらの画像特徴では、前置ライトフィールドは一定であり得、変調されない。前置ライトフィールドのレベルは、画像特徴の極大によって決まり得、このレベルは、明クリッピングを回避するために、極大よりも大きな離散前置レベルで有り得る。主DMDは、前置ライトフィールドを低減して、局所画像特徴の全てのレベルを生成し得る。前置ゼロレベル(前置CRによって決まる)、最初の非ゼロレベル(ハーフトーンタイルサイズによって決まる)、及び主DMD CRに応じて、主DMDは、最も低いレベルを生成するのに十分なコントラストを有さず、外観に影響を及ぼすのに十分なほど、その画像特徴の局所コントラストを制限することがある。
【0107】
例示的な画像
図11Aは、本システム及び本明細書に記載される方法及び/又は技法によってレンダリングされる所望のソース画像を示す例示的な一画像1102である。示されるように、画像は、壁に細部を有する暗い領域を有する教会内部の1つである。加えて、これもまた内部に多くの細部を示す明るく照らされた窓領域がある。
図11B及び
図11Cは、本明細書に記載されるような上限ハーフトーン画像及びブラー上限画像をそれぞれ示す。
図11Dは、本システムの一実施形態によって生成し得るような最終的なレンダリング画像を示す。
【0108】
別の例示的な1組の画像では、
図12A及び
図12Bは、本明細書に記載されるプロセスの幾つかの非限定的な単なる一例を示す。この場合、記載される数量をより明確に示すために、画像サーフェスよりもむしろ画像例の一次元水平線が使用される。輝度は、最大ブラーライトフィールドレベルである1に正規化される。
図12Aは、入力画像線と、その帯域制限上限及び下限とを示す。下限はまた、主DMDのコントラスト比(ここでは、主CR=1000)によってスケーリングされて示され、これは、主DMDがなお下限を達成可能なようなライトフィールドがとり得る最高レベルである。
図12Bは、上限の最大及びスケーリングされた下限であるライトフィールドを示し、この値は1に制限され、その理由は1が最大ライトフィールドレベルであるためである。このライトフィールドは、この例で使用される規則を所与として可能な限り高い最大レベルにある。
【0109】
本発明の原理を示す、添付図と共に読まれた本発明の1つ又は複数の実施形態の詳細な説明がここで与えられた。本発明がそのような実施形態と併せて説明されるが、本発明がいかなる実施形態にも限定されないことが理解されるべきである。本発明の範囲は特許請求の範囲によってのみ限定され、本発明は、多くの代替、変更、及び均等物を包含する。多くの具体的な詳細は、本発明の完全な理解を提供するためにこの説明で記載された。これらの詳細は、例のために提供されており、本発明は、これらの特定の詳細の幾つか又は全てなしで、特許請求の範囲に従って実施し得る。明確にするために、本発明に関連する技術分野で既知の技術資料については、本発明が不必要に曖昧にならないように詳述しなかった。
以下に、上記実施形態から把握できる技術思想を付記として記載する。
[付記1]
プロジェクタ・ディスプレイ・システムにおいて入力画像データから所望のスクリーン画像を投射する方法であって、前記プロジェクタ・ディスプレイ・システムは、光源と、入力画像データを受信し、制御信号を出力するコントローラと、前記コントローラから制御信号を受信し、前記光源から光を受け取る前置変調器と、前記前置変調器から光を受け取るブラーリング光学システムと、制御信号を前記コントローラから受信し、光を前記ブラーリング光学システムから受け取る主変調器とを備え、前記方法は、
前記入力画像データからバイナリハーフトーン画像を作成すること、
前記バイナリハーフトーン画像からブラーバイナリハーフトーン画像を作成すること、
前記ブラーバイナリハーフトーン画像からパルス幅変調画像を作成すること、
前記パルス幅変調画像から所望のスクリーン画像を投射すること
を含み、
前記入力画像データからバイナリハーフトーン画像を作成することは、
前記所望のスクリーン画像よりも実質的に明るいバイナリハーフトーン画像を作成することを更に含み、
前記所望のスクリーン画像よりも実質的に明るいバイナリハーフトーン画像を作成することは、
前記入力画像データの明クリッピングを行うように、前記所望のスクリーン画像よりも明るさが低いバイナリハーフトーン画像を作成することを更に含む、方法。
[付記2]
プロジェクタ・ディスプレイ・システムにおいて入力画像データから所望のスクリーン画像を投射する方法であって、前記プロジェクタ・ディスプレイ・システムは、光源と、入力画像データを受信し、制御信号を出力するコントローラと、前記コントローラから制御信号を受信し、前記光源から光を受け取る前置変調器と、前記前置変調器から光を受け取るブラーリング光学システムと、制御信号を前記コントローラから受信し、光を前記ブラーリング光学システムから受け取る主変調器とを備え、前記方法は、
前記入力画像データからバイナリハーフトーン画像を作成すること、
前記バイナリハーフトーン画像からブラーバイナリハーフトーン画像を作成すること、
前記ブラーバイナリハーフトーン画像からパルス幅変調画像を作成すること、
前記パルス幅変調画像から所望のスクリーン画像を投射すること
を含み、
前記入力画像データからバイナリハーフトーン画像を作成することは、
前記入力画像データから空間ディザパターンを作成することを更に含む、方法。
[付記3]
前記入力画像データから空間ディザパターンを作成することは、
ブラーカーネル範囲まで前記入力画像データを拡張させること、
拡張画像データを閾値処理して、バイナリ値にすること
を更に含む、付記2に記載の方法。
[付記4]
プロジェクタ・ディスプレイ・システムにおいて入力画像データから所望のスクリーン画像を投射する方法であって、前記プロジェクタ・ディスプレイ・システムは、光源と、入力画像データを受信し、制御信号を出力するコントローラと、前記コントローラから制御信号を受信し、前記光源から光を受け取る前置変調器と、前記前置変調器から光を受け取るブラーリング光学システムと、制御信号を前記コントローラから受信し、光を前記ブラーリング光学システムから受け取る主変調器とを備え、前記方法は、
前記入力画像データからバイナリハーフトーン画像を作成すること、
前記バイナリハーフトーン画像からブラーバイナリハーフトーン画像を作成すること、
前記ブラーバイナリハーフトーン画像からパルス幅変調画像を作成すること、
前記パルス幅変調画像から所望のスクリーン画像を投射すること
を含み、
前記バイナリハーフトーン画像からブラーバイナリハーフトーン画像を作成することは、前記ブラーリング光学システムの点広がり関数(PSF)を用いて前記バイナリハーフトーン画像を平滑化することを更に含む、方法。
[付記5]
PSFは、空間の広がりが限られたPSF、帯域制限PSF、実質的に半径方向対称のPSF、ガウス関数、二乗余弦関数、及び空間の広がりが限られた実質的に半径方向対称であるピークの関数を含む群のうちの1つを含む、付記4に記載の方法。
[付記6]
プロジェクタ・ディスプレイ・システムにおいて入力画像データから所望のスクリーン画像を投射する方法であって、前記プロジェクタ・ディスプレイ・システムは、光源と、入力画像データを受信し、制御信号を出力するコントローラと、前記コントローラから制御信号を受信し、前記光源から光を受け取る前置変調器と、前記前置変調器から光を受け取るブラーリング光学システムと、制御信号を前記コントローラから受信し、光を前記ブラーリング光学システムから受け取る主変調器とを備え、前記方法は、
前記入力画像データからバイナリハーフトーン画像を作成すること、
前記バイナリハーフトーン画像からブラーバイナリハーフトーン画像を作成すること、
前記ブラーバイナリハーフトーン画像からパルス幅変調画像を作成すること、
前記パルス幅変調画像から所望のスクリーン画像を投射すること
を含み、
主変調器の位置合わせ誤差に対して任意の前置変調器を補償することを更に含む、方法。[付記7]
プロジェクタ・ディスプレイ・システムにおいて入力画像データから所望のスクリーン画像を投射する方法であって、前記プロジェクタ・ディスプレイ・システムは、光源と、入力画像データを受信し、制御信号を出力するコントローラと、前記コントローラから制御信号を受信し、前記光源から光を受け取る前置変調器と、前記前置変調器から光を受け取るブラーリング光学システムと、制御信号を前記コントローラから受信し、光を前記ブラーリング光学システムから受け取る主変調器とを備え、前記方法は、
前記入力画像データからバイナリハーフトーン画像を作成すること、
前記バイナリハーフトーン画像からブラーバイナリハーフトーン画像を作成すること、
前記ブラーバイナリハーフトーン画像からパルス幅変調画像を作成すること、
前記パルス幅変調画像から所望のスクリーン画像を投射すること
を含み、
ブラーモデルを前記バイナリハーフトーン画像に適用すること、
ブラーモデリングされたバイナリハーフトーン画像の逆数をとること、
前記ブラーモデリングされたバイナリハーフトーン画像を前記入力画像データと乗算すること
を更に含む、方法。
[付記8]
前記バイナリハーフトーン画像にブラーモデルを適用することは、
ブラーモデルを適用することであって、前記ブラーモデルは1組のPSFモデルに基づき、各PSFモデルは画像エリアの局所部分に適用される、適用することを更に含む、付記7に記載の方法。
[付記9]
主変調器の位置合わせ誤差に対して任意の前置変調器を補償することは、
主-前置の位置合わせマッピングを前記入力画像データに適用すること、
ハーフトーン画像を計算すること、
ライトフィールドモデルを適用すること、
前置-主位の置合わせマッピングを適用して、登録された主ライトフィールドを生成すること、
前記登録された主ライトフィールドを前記主変調器に送信すること
を更に含む、付記6に記載の方法。
[付記10]
プロジェクタ・ディスプレイ・システムを較正する方法であって、前記プロジェクタ・ディスプレイ・システムは、光源と、入力画像データを受信し、制御信号を出力するコントローラと、前記コントローラから制御信号を受信し、前記光源から光を受け取る前置変調器と、前記前置変調器から光を受け取るブラーリング光学システムと、制御信号を前記コントローラから受信し、光を前記ブラーリング光学システムから受け取る主変調器とを備え、前記方法は、
入力画像データを受信すること、
ハーフトーン画像を計算すること、
ライトフィールドモデルを適用することであって、前記ライトフィールドモデルは、前記ブラーリング光学システムのPSFモデルに基づく、適用すること、
前記主変調器の主画像を計算すること、
前記主変調器からスクリーン画像を表示すること、
画像捕捉デバイスを用いて前記スクリーン画像を捕捉すること、
捕捉スクリーン画像を前置格子とともに登録すること、
登録された捕捉スクリーン画像を前記入力画像データと比較すること、
所望の量を超える差がある場合、前記PSFモデルへの補正を計算すること、
更なる較正に対して改善されたPSFモデルを適用すること
を含む、方法。
[付記11]
前記PSFモデルへの補正を計算することは、
登録されたスクリーン画像を前記主画像で除算して、推定ライトフィールド画像を生成すること、
前記推定ライトフィールド画像を実際のライトフィールド画像と比較すること、
ライトフィールド誤差を推定すること、
前記ハーフトーン画像を用いてライトフィールド誤差推定を逆畳み込みして、PSF補正を計算すること
を更に含む、付記10に記載の方法。
[付記12]
プロジェクタ・ディスプレイ・システムであって、
光源と、
入力画像データを受信し、制御信号を出力するコントローラと、
前記光源から光を受け取る第1の変調器であって、前記第1の変調器が、前記制御信号を前記コントローラから受信して入力画像のハーフトーン画像をレンダリング可能である、前記第1の変調器と、
前記第1の変調器から受信した前記ハーフトーン画像をぼやけさせるブラーリング光学システムであって、ブラーハーフトーン画像は、所望のスクリーン画像よりも実質的に明るい、前記ブラーリング光学システムと、
前記ブラーハーフトーン画像を前記ブラーリング光学システムから受信し、前記制御信号を前記コントローラから受信してパルス幅変調画像をレンダリング可能な第2の変調器であって、前記パルス幅変調画像は、前記所望のスクリーン画像を形成するように投射可能である、前記第2の変調器と
を備え、
前記ブラーハーフトーン画像は、暗クリッピングにより、画像を劣化させずに可能な限り明るい、プロジェクタ・ディスプレイ・システム。
[付記13]
ブラーハーフトーンは前記所望のスクリーン画像に主DMDのコントラスト比を乗算したものよりも明るさが実質的に低い、付記12に記載のプロジェクタ・ディスプレイ・システム。
[付記14]
前記ブラーハーフトーン画像は局所的に平均化されたスクリーン画像にセーフコントラスト比を乗算したものよりも明るさが実質的に低い、付記12に記載のプロジェクタ・ディスプレイ・システム。
[付記15]
前記ブラーハーフトーン画像は、暗クリッピングにより前記画像を劣化させずに可能な限り明るい、付記13又は付記14に記載のプロジェクタ・ディスプレイ・システム。