(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-03-06
(54)【発明の名称】時分割多重化方式を使用して、インテグラルイメージングに基づくライトフィールドディスプレイの性能を向上させる装置および方法
(51)【国際特許分類】
G02B 30/10 20200101AFI20240228BHJP
H04N 13/307 20180101ALI20240228BHJP
H04N 13/344 20180101ALI20240228BHJP
【FI】
G02B30/10
H04N13/307
H04N13/344
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2023555125
(86)(22)【出願日】2022-03-03
(85)【翻訳文提出日】2023-10-31
(86)【国際出願番号】 US2022018605
(87)【国際公開番号】W WO2022192054
(87)【国際公開日】2022-09-15
(32)【優先日】2021-03-09
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】505167532
【氏名又は名称】アリゾナ ボード オブ リージェンツ オン ビハーフ オブ ザ ユニバーシティ オブ アリゾナ
(74)【代理人】
【識別番号】100104411
【氏名又は名称】矢口 太郎
(72)【発明者】
【氏名】フア、ホン
(72)【発明者】
【氏名】ワン、ズアン
【テーマコード(参考)】
2H199
【Fターム(参考)】
2H199BA19
2H199BA29
2H199BB03
2H199BB08
2H199BB27
2H199BB43
(57)【要約】
【要約】 時分割多重化方式を用いたインテグラルイメージングに基づくライトフィールドディスプレイ。
【選択図】
図3A
【特許請求の範囲】
【請求項1】
時分割多重化インテグラル画像(InI)ライトフィールドディスプレイであって、
要素画像のセットをレンダリングするように構成された複数の画素を含むマイクロディスプレイであって、それぞれの要素画像は3Dシーンの異なる透視視野を提供する、マイクロディスプレイと、
前記マイクロディスプレイの前記要素画像からの光を受光するために、そこから選択された距離で前記マイクロディスプレイと光通信するように配置されたマイクロレンズアレイであって、前記マイクロレンズアレイは、前記マイクロレンズアレイを横切って前記マイクロディスプレイと光学的に共役であるそれに関連する中心深度平面を有し、前記マイクロレンズアレイは、前記要素画像から光線束を受光して、前記中央深度平面に関する対応する再構成点で統合画像を作成し、前記3Dシーンのライトフィールドを再構成するように構成された、マイクロレンズアレイと、
前記マイクロレンズアレイと光通信可能に配置され、前記マイクロレンズアレイによって伝送された光を受光し、前記受光した光を前記3Dシーンの前記ライトフィールドに伝送するように構成された切替可能アレイと
を有する、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項2】
前記請求項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記切替可能アレイは、前記要素画像の選択されたものからの光を選択的に前記中心深度平面に導くように構成されるものである、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項3】
前記請求項のいずれか1項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記マイクロディスプレイは、前記マイクロディスプレイ上の前記要素画像のレンダリングを前記切替可能アレイの切替と同期させて、前記マイクロディスプレイおよび前記切替可能アレイを同期した時分割多重方式で動作させるように構成されるものである、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項4】
前記請求項のいずれか1項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記マイクロレンズアレイは、同じ焦点距離を有するマイクロレンズのアレイを含む、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項5】
前記請求項のいずれか1項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記切替可能アレイは、前記マイクロレンズと前記中心深度平面との間の位置に配置されている、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項6】
前記請求項のいずれか1項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記切替可能アレイは、前記マイクロレンズと前記マイクロディスプレイとの間の位置に配置されている、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項7】
前記請求項のいずれか1項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記切替可能アレイは、前記マイクロレンズアレイからの光線を通過させるためにオンにする、または光線の通過を阻止するためにオフにすることができる切替可能要素を含むものである、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項8】
前記請求項のいずれか1項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記プログラム可能な切替可能アレイは、シャッターアレイを有する、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項9】
前記請求項のいずれか1項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記プログラム可能な切替可能アレイは、切替可能光源アレイを有する、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項10】
前記請求項のいずれか1項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記マイクロディスプレイは、自己放射性である、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項11】
前記請求項のいずれか1項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記マイクロディスプレイは、透過性である、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項12】
前記請求項のいずれか1項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記マイクロディスプレイは、空間光変調器を有する、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項13】
前記請求項のいずれか1項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記マイクロディスプレイは、液晶ディスプレイとデジタルミラー装置のうちの1若しくはそれ以上から構成されるものである、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項14】
前記請求項のいずれか1項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記3Dシーンの前記ライトフィールドからの光を受光するために、前記中心深度平面から距離z0離れた位置に配置された接眼レンズを有する、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項15】
前記請求項のいずれか1項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記切替可能アレイの各切替可能要素の開口部サイズは、前記マイクロレンズアレイの各小型レンズの開口部サイズよりも小さく、各小型レンズが前記切替可能アレイの複数の要素を覆うものである、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項16】
前記請求項のいずれか1項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記切替可能アレイは、各切替可能要素の前記開口部サイズよりも小さいサイズの複数の画素化要素を有するものである、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項17】
前記請求項のいずれか1項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記マイクロディスプレイとマイクロレンズアレイとの間に配置され、光通信可能なバリアアレイを有するものである、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項18】
前記請求項1~16のいずれか1項に記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記マイクロディスプレイとマイクロレンズアレイとの間に配置され、光通信可能な開口部アレイを有するものである、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【請求項19】
前記請求項18記載の時分割多重化インテグラル画像(InI)ライトフィールドディスプレイにおいて、前記マイクロディスプレイから前記開口部アレイまでの距離をaと表し、前記開口部アレイの開口部の直径をdAと表し、
【数23】
ここで、pEIは前記要素画像の寸法であり、gは前記マイクロディスプレイから前記マイクロレンズアレイまでの距離であり、pMLAはMLAのピッチである、時分割多重化インテグラル画像(InI)ライトフィールドディスプレイ。
【発明の詳細な説明】
【技術分野】
【0001】
本出願は、2021年3月9日に出願された米国仮出願第63/158、707号の優先権の利益を主張するものであり、その出願の全内容は参照により本明細書に組み込まれる。
【0002】
本発明は、ライトフィールドディスプレイに関し、より詳細には、時分割多重方式を使用したインテグラルイメージングに基づくライトフィールドディスプレイに関するものであるが、これに限定されるものではない。
【背景技術】
【0003】
インテグラルイメージング(InI)に基づくライトフィールドディスプレイは、既知の輻輳焦点調節競合(vergence-accommodation conflict)を緩和するために、正しいフォーカスキュー(focus cues)で真の3Dシーンを実現する大きな機会を提供する。しかし、解決しなければならない主な課題は、空間分解能と奥行き解像度のトレードオフである。前記奥行き解像度を高めるには、3Dシーンをレンダリングするために、視野数と呼ばれる別個の視野の数を増やす必要があるが、前記視野数を増やすと、シーンの前記空間分解能が犠牲になることが多い。本開示では、高い空間分解能を維持しながら、視野数、ひいては奥行き解像度を潜在的に増加させることができる、本発明による時間多重化InIに基づくライトフィールドディスプレイの設計について説明する。
【0004】
従来の立体ディスプレイは、両眼視差やその他の絵画的な奥行き手がかりを持つ、両眼に1つずつの、一対の二次元(2D)透視画像によって3Dシーンの知覚を可能にするものであるが、一般的に、正しい網膜ぼけ効果をレンダリングし、自然な眼の収容反応を刺激する能力が欠けており、これがよく知られた前記輻輳焦点調節競合(VAC)問題につながる。フォーカスキューをレンダリングし、前記VAC問題を克服できる可能性のあるディスプレイ方法として、立体ディスプレイ、ホログラフィックディスプレイ、多焦点平面ディスプレイ、マックスウェル視ディスプレイ、ライトフィールドディスプレイなどが実証されている。これらの方法の中でも、インテグラルイメージングに基づく(InIに基づく)ライトフィールドディスプレイは、3Dシーンの異なる深さの3D点から放射されるように見える指向性光線を再現することによって、3Dシーンを再構成することができ、したがって、自然な視聴シーンと同様の正しいフォーカスキューをレンダリングすることができる。
【0005】
図1は、一般的なInIに基づくヘッドマウントディスプレイ(HMD)システムの構成を示しており、マイクロディスプレイ、マイクロレンズアレイ(MLA)、接眼レンズから構成されている。前記マイクロディスプレイには、3Dシーンの異なる透視視野を含む一連の要素画像(EI)が表示される。前記MLAの各小型レンズは、前記マイクロディスプレイ上のEIに対応し、再構成された3Dシーンの1つの方向サンプルを作成するために、中心深度平面(CDP)上に前記EIの共役画像を形成する。本明細書で使用する前記CDPとは、前記MLAを横切る前記マイクロディスプレイの平面と光学的に共役な平面を指す。再構成された3Dシーンは、適切な深度情報を提供する接眼レンズを通して、観察者によって視野窓(接眼レンズの射出瞳とも呼ばれる)で観察される。従来の2Dディスプレイと対比されるライトフィールド3Dディスプレイの明確な特徴は、3Dシーンの点(例えばP)をレンダリングする複数の明確な要素視野が、目の瞳孔を前記視野窓に置くことによって観察されることである。
【0006】
観察者の目の収容状態は、知覚される画像に重要な役割を果たす。例えば、
図1は、対応する要素画像上の3つの異なる画素、O1、O2、O3を通して、3D点Oのレンダリングを示している。対応する3つのマイクロレンズによって結像され、異なるEI上の対応する点(画素)からの光線束は点Oに収束し、さらに接眼レンズを通して瞳孔に投影される。眼球が再構成された3Dシーンの再構成点Oの深さに収容されると、異なるEI上の対応する点(画素)からの光線束は、
図1に示されるように、網膜上の焦点画像O'に収束する。他の深さの再構成点(例えば点P)の場合、個々の画素の画像は網膜上で互いに空間的にずれるため、網膜ぼやけが生じる。前記網膜のぼやけのレベルは、再構成の深さの差と目の調節によって変化する。
【0007】
このようなライトフィールド・レンダリング・アプローチは、没入型仮想現実(VR)および光学シースルー拡張現実もしくは複合現実(AR/MR)アプリケーション用のHMD設計にすでに適用されている。例えば、LanmanとLuebkeは、マイクロディスプレイとマイクロレンズアレイ(MLA)を視聴者の目の前に配置することで、ニアアイ没入型ライトフィールドディスプレイを実証した。HuaとJavidiは、マイクロInIユニットとシースルー自由形状拡大接眼レンズを組み合わせることで、光学シースルーLF-HMDシステムを実証した(
図2A)。さらに最近では、HuangとHuaが、3ディオプター以上の被写界深度にわたって約3分角の高い空間分解能を提供する光学シースルーLF-HMDシステムを実証した(
図2B)。このような研究は、フォーカスキューをレンダリングするためのLF-HMDシステムの潜在的な能力を実証し、したがって、従来の立体ディスプレイにおける周知のVAC問題に対処することに成功したが、既存のLF-HMDプロトタイプのいずれも、最先端のマイクロディスプレイ技術を使用して、人間の視覚に匹敵する十分に高い空間分解能を提供することができない。本発明者らは、再構成された3Dシーンの空間分解能が、適切な視野密度と妥当なアイボックスを達成するために妥協されるべきであることが重要な課題であると認識している。
【発明の概要】
【0008】
上記で開示した、このような満たされていないニーズに応えて、他の考慮事項とともに、本開示では、高い空間分解能を維持しながら、視認数およびしたがって深さ解像度を増加させることができる、時間多重化InIに基づくライトフィールドディスプレイの例示的な設計について説明する。その態様の1つにおいて、本発明は、高速プログラム可能な切替可能アレイ(例えば、シャッターアレイまたは切替可能光源アレイなど)を組み込むことができ、前記プログラム可能なアレイが時分割多重化方式で動作することにより、ディスプレイ上の複数の要素画像セットのレンダリングを同期させる。そうすることで、本発明の例示的な装置および方法は、わずかに異なる視角から3Dシーンをレンダリングする複数の要素画像セットの間を迅速に切り替えることができる。その結果、前記空間分解能を犠牲にすることなく、前記視野数および視野密度を倍増させることができる。その別の態様において、本発明は、前記視認密度およびアイボックスのサイズを損なうことなく前記空間分解能を向上させる装置および方法を提供することができ、そのようないくつかの例示的な装置および方法は、本明細書でさらに開示されるように実装され、実験的に検証されている。我々の計算によれば、本発明に従ってInIステムのシステムパラメータを適切に選択することにより、人間の視覚に匹敵する高空間分解能システムを達成することができる。概念実証システムを構築し、提案手法の検証を実証した。
【0009】
したがって、その一態様において、本発明は、時分割多重化インテグラルイメージング(InI)ライトフィールドディスプレイと、要素画像のセットをレンダリングするように構成された複数の画素を含むマイクロディスプレイであって、各要素画像は3Dシーンの異なる透視視野を提供する、マイクロディスプレイと、前記マイクロディスプレイから選択された距離で前記マイクロディスプレイと光通信して配置され、前記マイクロディスプレイの要素画像からの光を受光するマイクロレンズアレイであって、前記マイクロレンズアレイは、前記マイクロレンズアレイを横切って前記マイクロディスプレイと光学的に共役であるそれに関連する中心深度平面を有し、前記マイクロレンズアレイは、前記要素画像から光線束を受光して、前記中央深度平面に関する対応する再構成点で統合画像を作成し、前記3Dシーンのライトフィールドを再構成するように構成された、マイクロレンズアレイと、前記マイクロレンズアレイと光通信可能に配置され、前記マイクロレンズアレイによって伝送された光を受光し、前記受光した光を前記3Dシーンの前記ライトフィールドに伝送するように構成された切替可能アレイとを有する、前記マイクロレンズアレイとを提供する。前記切替可能アレイは、前記要素画像の選択されたものからの光を選択的に前記中心深度平面に導くように構成されてもよく、および/または、前記マイクロディスプレイは、前記マイクロディスプレイ上の前記要素画像のレンダリングを前記切替可能アレイの切替と同期させて、前記マイクロディスプレイおよび前記切替可能アレイを同期した時分割多重方式で動作させるように構成されてもよい。前記マイクロレンズアレイは、同じ焦点距離を有するマイクロレンズのアレイを含むことができる。
【0010】
さらなる態様において、前記切替可能アレイは、前記マイクロレンズアレイと前記中心深度平面との間の位置に配置されてもよく、および/または、前記マイクロレンズアレイと前記マイクロディスプレイとの間の位置に配置されてもよい。前記切替可能アレイは、前記マイクロレンズアレイからの光線を通過させるためにオンにする、または光線の通過を阻止するためにオフにすることができる切替可能要素を含んでもよい。前記プログラム可能な切替可能アレイは、シャッターアレイおよび/または切替可能光源アレイを含んでもよい。前記マイクロディスプレイは、自己放射性または透過性であってもよく、および/または空間光変調器を含んでもよい。前記切替可能アレイの各切替可能要素の開口部サイズは、前記マイクロレンズアレイの各小型レンズの開口部サイズよりも小さくてもよく、前記各小型レンズが切替可能アレイの複数の要素を覆うようにしてもよい。前記切替可能アレイは、各切替可能要素の前記開口部サイズよりも小さいサイズの複数の画素化要素を含んでもよい。バリアアレイは、前記マイクロディスプレイとマイクロレンズアレイとの間に、それと光通信可能に配置されてもよい。
【0011】
さらに、本発明は、前記3Dシーンの前記ライトフィールドからの光を受光するために、前記中心深度平面から距離z0離れた位置に配置された接眼レンズを含むことができる。前記マイクロディスプレイとマイクロレンズアレイの間には、それと光学的に連通する開口部アレイが配置されていてもよい。前記マイクロディスプレイから前記開口部アレイまでの距離をaと表し、前記開口部アレイの開口部の直径をdAと表す。
【0012】
【0013】
ここで、pElは要素画像の寸法であり、gは前記マイクロディスプレイから前記マイクロレンズアレイまでの距離であり、pMLAはMLAのピッチである。
【図面の簡単な説明】
【0014】
本発明の例示的な実施形態に関する前述の要約および以下の詳細な説明は、添付の図面と併せて読むことにより、さらに理解できる。
【
図1】
図1は、インテグラルイメージングに基づくヘッドマウント型ライトフィールドディスプレイを模式的に示している。
【
図2】
図2A-2Bは、光学式シースルーヘッドマウントインテグラルイメージングに基づくライトフィールドディスプレイの光学レイアウトを概略的に示している。
【
図3A】
図3Aは、本発明による例示的な時間多重InIに基づくライトフィールドディスプレイ(例えば、図中の4x4要素視野および4相時分割多重化)を概略的に示している。
【
図3C】
図3Cは、
図3Aの時分割多重化方式によってレンダリングされた2D視野窓のレイアウトを模式的に示している。
【
図4】
図4は、
図3Aの前記装置の表示サイクルのフェーズ1の状態に関する、時分割多重化InIに基づくライトフィールド表示(例えば、図中の2x2EIおよび4相時分割多重化)の動作原理を概略的に示している。
【
図5】
図5A~5Dは、本発明によるフェーズ1における重要な面における構成要素およびフットプリントの状態を模式的に示す図であり、
図5Aはマイクロディスプレイ上の要素画像を模式的に示し、
図5Bはシャッターアレイの状態を模式的に示し、
図5Cは中心深度平面上の中間画像を模式的に示し、
図5Dは視野窓における要素視野分布を模式的に示している。
【
図6】
図6は、本発明による4相時分割多重化InIに基づくライトフィールドディスプレイにおけるディスプレイサイクルの第2相の状態を概略的に示している。
【
図7】
図7A~7Dは、本発明によるフェーズ2における重要な面における構成要素およびフットプリントの状態を模式的に示す図であり、
図7Aはマイクロディスプレイ上の要素画像を模式的に示し、
図7Bはシャッターアレイの状態を模式的に示し、
図7Cは中心深度平面上の中間画像を模式的に示し、
図7Dは視野窓における要素視野分布を模式的に示している。
【
図8】
図8は、従来のInIシステムのレイアウトを模式的に示しており、3D点がレンダリングされ(例えば、図では2x2の要素視野)、中心深度平面(CDP)で再構成され、MLAの形状と配置に応じて、視野窓での要素視野分布も示されている。
【
図9】
図9A~9Bは、本発明による時分割多重化時の小画素化素子で構成されたシャッターアレイのサブ開口部のレイアウトを模式的に示す図であり、
図9Aは、フェーズ1中にオンに設定されたシャッタS
1を模式的に示し、
図9Bは、フェーズ1中にオンに設定されたシャッタS2を模式的に示している。
【
図10】
図10A~10Bは、本発明による視野曲線因子を高めるための例示的な時分割多重化InIに基づくライトフィールドディスプレイを概略的に示す図であり、
図10Aは表示サイクルのフェーズ1の状態を概略的に示し、
図10Bは表示サイクルのフェーズ2の状態を概略的に示している。
【
図11】
図11は、本発明による2x2視野4相時分割多重化InIシステムを概略的に示している。
【
図12】
図12は、開口部アレイを使用してクロストーク問題を緩和するための、本発明による例示的な装置を概略的に示している。
【
図13】
図13A~13Bは、指向性マイクロディスプレイが利用される、本発明による例示的な時分割多重化InIディスプレイシステムのレイアウトを模式的に示しており(例えば、図中の4x4要素視野および4相時分割多重化)、
図13Aは、表示サイクルの第1相の状態を模式的に示しており、
図13Bは、表示サイクルの第2相の状態を模式的に示している。
【
図14】
図14は、マイクロレンズアレイとともにマイクロディスプレイを備えた、
図13A-13Bの指向性バックライト方式のパラメータを概略的に示す図である。
【
図15】
図15A-15Bは、本発明による光源セル内の複数の光源素子を有する光源アレイを利用することによる曲線因子を概略的に示しており、各光源セルは8x8の光源素子を含み、異なる位相間の照明領域の重なりにより、曲線因子を1より大きくすることができる。
【
図16】
図16は、本発明による例示的な時分割多重化InIに基づくライトフィールドシステムを構築したプロトタイプを示している。
【発明を実施するための形態】
【0015】
ここで図を参照すると、全体を通して同様の要素には同様の番号が付されており、
図3は、本発明による例示的な時分割多重化InIに基づく3Dライトフィールドディスプレイ100の回路図であり、これは、マイクロディスプレイ102、マイクロレンズアレイ(MLA)104、切替可能シャッターアレイ(SA)106などの高速プログラマブル切替可能アレイ、および接眼レンズ光学系108を含むことができる。前記マイクロディスプレイ102は、発光する有機発光ディスプレイ(OLED)のような自己発光型ディスプレイであってもよいし、照明光源を変調する液晶ディスプレイ(LCD)やデジタルミラー装置(DMD)のような空間光変調器(SLM)であってもよい。SLMの場合、前記マイクロディスプレイ102は、その照明源を透過または反射させて2D画像パターンを作成することにより、透過モードまたは反射モードのいずれかで機能することができる。
【0016】
前記マイクロディスプレイ102は、異なるセットの要素画像(EI)101をレンダリングすることができ、各要素画像101は3Dシーンの透視視野を提供する。前記マイクロディスプレイ102は、前記MLA104から距離gだけ離して配置することができる。前記MLA104は、同じ焦点距離を有するマイクロレンズ105のアレイを含むことができる。前記マイクロディスプレイ102上にレンダリングされた前記要素画像101の各々は、前記MLA104の対応するマイクロレンズを通して中心深度平面(CDP)109上に結像される。前記マイクロレンズ105の横倍率によっては、前記要素画像101の共役画像が前記CDP109上で重なることがある。前記MLA104は、3Dライトフィールドの指向性サンプリングの生成に役立つ。前記要素画像101からの光線束は、前記対応するマイクロレンズ105に入り、対応する再構成点(例えば点P)で統合され、3Dシーンの前記ライトフィールドを再構成する。各EI101の透視内容を変更することにより、異なる深さのオブジェクトをレンダリングすることができる。前記切替可能なシャッターアレイ106は、前記マイクロディスプレイ102からの光線を通過させるためにオンにしたり、光線の通過を阻止するためにオフにしたりすることができる切替可能な素子のアレイを含むことができる。(
図3A)前記シャッターアレイ106は、前記MLA104の両側に隣接して(例えば、前後に隣接して)配置することができる。前記シャッターアレイ106とMLA104との間の隙間は、不可逆圧縮に伴う悪い副作用を低減するために最小にすることができる。前記シャッタアレイ106は、前記マイクロディスプレイ102上にEI101の異なるセットをレンダリングし、選択された開口部セットのオン状態およびオフ状態に同期して前記MLA104によって時分割多重化方式で撮像することができるように、前記MLA104を通る異なる光線経路間(例えば、
図3Aの白の斜線経路対グレーの斜線経路)の迅速な切り替えを提供することができる。前記時分割多重化されたEI101のセットは、再構成された3Dシーンに対してレンダリングされる透視視野の数を効果的に増加させることができる。例えば、
図3Aに示されるように、EI101の2つのセットおよび前記SA106の2つの状態を単に時分割多重化することによって、再構成点Pに対する視野の数が2倍になる。
【0017】
前記接眼レンズ108は、前記CDP109から距離Z
0離れて配置されてもよく、一体型撮像ユニット(マイクロディスプレイ102およびMLA104を含む)によって形成された再構成された3Dシーンを拡大し、再構成された3Dシーンを視覚空間に結像させることができる。前記接眼レンズ108は、従来の回転対称レンズ群であるシングレットまたはダブレット、またはモノリシック自由形状プリズムなどの任意の適切な構成で提供されてもよい。前記接眼レンズ108は、前記再構成された3Dシーンからの前記光線束を、観察者が拡大された仮想3Dシーンを観察するために眼球の瞳孔を置くことができる視野窓110上に投影することができる。要素視野からの各光線束の軌跡は、
図3Aの小さな正方形で概念的に図示されている。前記視野窓110上の前記光線の軌跡の実際の形状は、主に前記マイクロレンズ105の開口部の形状に依存する。例えば、前記マイクロレンズ105の開口部の形状が円形であれば、光線軌跡も円形になる。
【0018】
図3Bは、2Dシャッターアレイ106の概略レイアウトを示し、
図3Cは、時分割多重化方式によってレンダリングされた2D視野窓110の概略レイアウトを示す。各切替可能要素の開口部サイズd
SAは、好ましくは、前記小型レンズ105の開口部サイズd
MLAよりも小さく、各小型レンズ105が前記シャッターアレイ106の複数の要素をカバーするようにする。各小型レンズ105の下の異なるシャッター素子をオンまたはオフにすることによって、前記小型レンズ105の異なる部分が選択され、異なるEI101のセットの画素からの光線束が撮像される。例えば、
図3A~3Bにおいて、前記シャッターアレイ106の白色要素(S
1)をオンにすることによって、各小型レンズ105の上半分が選択され、第1のEI101のセット(
図3Aにおいて実線で図示)によってレンダリングされた画素からの光線が撮像されて、3Dシーンの前記ライトフィールドの一部(例えば点P)が再構成される。同様に、前記シャッターアレイ106の灰色の要素がオンに切り替えられると、各小型レンズ105の下半分が選択され、第2のEI101のセット(
図3Aの破線と灰色の網掛けで図示)によってレンダリングされた画素からの光線が撮像されて、前記3Dシーンのライトフィールドの第2の部分(例えば点P)が再構成される。前記小型レンズ105の異なる部分を通して要素画像101の前記異なるセットによってレンダリングされた前記光線束は、前記視野窓110上の異なる位置に投影され、視野アの目の瞳孔上の特徴的な視野入口位置を形成する。シャッターサイズとマイクロレンズアレイピッチの比に応じて、提案された時分割多重化の方法、それに応じて視野数と視野密度を増加させることができる。
【0019】
前記シャッターアレイ106は、既存の空間光変調器(SLM)技術を応用することができる。しかしながら、画素充填率の低い典型的なSLMの画素構造により、深刻な回折効果が誘発される可能性がある。画素化された開口部構造による回折効果を最小化するには、85%以上の画素充填率が必要であるが、市販の透過型液晶ディスプレイの充填率は、この要求をはるかに下回っている。しかし、シリコン液晶(Liquid Crystal on Silicon:LCoS)技術など、いくつかの市販の反射型空間光変調器の充填率と切替速度は、この要件を満たすことができる。しかし、LCoSは反射型であるため、それを前記MLA開口部面に結像させるためのリレー光学系が必要となり、システム容積が大幅に増大する。
【0020】
図4~
図7Dは、本発明による例示的な4相時間多重化InIに基づくライトフィールドディスプレイ100の動作原理をさらに示しており、この図では、説明のために2x2の要素画像101のみが示されている。この図では、前記シャッタアレイ106の開口部サイズは、前記MLA104の各小型レンズ105が4つのサブ開口部に分割され、それぞれが前記4相時分割多重化サイクルの位相に対応し、各サブ開口部または位相に対して対応するEI101セットがレンダリングされるように、前記小型レンズ105ピッチの半分であってもよい。
図4と
図6はそれぞれ、全表示サイクルの2つの異なるフェーズを示している。各フェーズにおいて、前記光線が前記小型レンズ105の対応するサブ開口部を通過できるように、前記シャッタの1セット(例えばフェーズ1ではS
1、フェーズ2ではS2)のみがオンに切り替えられた。一方、開放されたシャッタセットに対応する右透視視野を有する1セットのEI101が前記マイクロディスプレイ102に表示される。例えば、P
1,1、P
1,2、P
1,3およびP
1,4は、3次元点Pを再構成するために前記マイクロディスプレイ102上に表示された前記EI101セット1の隣接する4つの前記要素画像101上の画素を表す、
図5A。前記マイクロディスプレイ102上のこれら4つの点は、前記マイクロ小型レンズ105の前記対応するサブ開口部によって撮像され、前記CDP109上にそれぞれP'
1,1、P'
1,2、P'
1,3、P'
1,4の4つの画像を形成する、
図4、5C。これらの4つの点から放射された光線は、前記対応する開放シャッタセットを通過し、再構成された点Pに収束し、その後、前記接眼レンズ108による前記視野窓110で4つの要素視野を形成する(
図4)。1)前記マイクロディスプレイ102上にレンダリングされた画素、2)対応する開放シャッタセット、3)前記CDP109上の画素の投影、および4)フェーズ1に対する前記視野窓面110上のそれらの光線軌跡が、それぞれ
図5A~5Dに実線で示されている。これらの図では、他のフェーズの前記画素レンダリングと光線軌跡も示されているが、破線の輪郭線が使用されている。最初の添え字は、表示サイクルの前記4つのフェーズのうちのフェーズ番号(1、2、3、4)を示し、2番目の添え字は視野番号を示す。例えば、表示サイクルのフェーズ1では、シャッタセットS
1がオンになり、P
1,1、P
1,2、P
1,3、P
1,4を含むEI101のセットが表示される(
図5A)。前記CDP109上には4つの中間画像P'
1,1、P'
1,2、P'
1,3、P'
1,4が形成され、
図5C、光線は4つの要素視野、V
1,1、V
1,2、V
1,3、V
1,4にそれぞれ対応する4つのサブ窓で構成される視野領域V
1のみを通過することができる、
図5D。
図7A-7Dは、フェーズ2における1)前記マイクロディスプレイ102面上の画素、2)開放シャッタセット、3)前記CDP109上の画像、および4)前記視野窓110面上の前記光線軌跡の状態をそれぞれ示している。各フェーズでは、前記開放シャッタセットに対応する要素視野のみがレンダリングされ、
図4および
図6の前記視野窓110で白く表示された視野領域(V
1およびV
2)として示される。前記シャッターアレイ106と要素画像101の異なるセットとを時分割多重化方式で組み合わせることにより、全表示サイクル中に全ての前記要素視野を人間の目で統合的に受信することができる。シャッタサイズと前記マイクロレンズ105のピッチの比率は、表示サイクルにおける位相数に依存する。前記全表示サイクルが4つのフェーズを含む可能性がある
図4と
図6に示すケースでは、前記シャッター開口部のサイズは前記マイクロレンズ105ピッチの半分に等しい。本発明に従って異なる視野分布を達成するために、前記MLA104レンズピッチに対する前記シャッターサイズの他の比率を選択できることは明らかである。
【0021】
図4~
図7Dで説明した方式は、Mが1より大きいM相時分割多重化にも容易に適応できることは注目に値する。前記シャッタアレイ106の前記開口部素子は、複数の画素化素子を含んでいてもよいことはさらに注目に値する。例えば、小さな画素からなる空間光変調器がプログラマブルシャッタアレイ106として採用されることがあり、したがって、前記開口部素子の各々が複数の画素化素子から構成されることがある。このような画素化された開口部素子により、異なる画素化素子セットをグループ化することで、前記サブ開口部が大きな面積を有し、互いに重なり合うことを可能にする。このようなサブ開口部の重なりは、前記時分割多重化されたサブ視野窓110の重なりをもたらすことができ、空間分解能および深度分解能の潜在的な改善をもたらす。この効果は、以下でさらに実証される。
【0022】
提案された時分割多重化InIに基づくライトフィールドディスプレイが、本発明に従って異なる構成でどのように表示性能を高めることができるかを示すために、まず、
図8に示すような、シャッターアレイ106ない1組の要素画像101に対する従来のInIに基づくライトフィールドディスプレイの概略レイアウト800を用いて、主要なパラメトリック関係を導出する。前記MLA804は、同じ焦点距離f
MLAを有するマイクロレンズ805のアレイを含むことができる。前記マイクロディスプレイ802と前記MLA804との間のギャップをgと表記し、前記MLA804から前記CDP809までの距離をl
CDPと表記する(
図8)。前記再構成されたシーンのCDP809と前記接眼レンズ808との間の距離はz
0であり、前記視野窓810は前記接眼レンズ808から距離Z
XPだけ離れた位置にある。前記ギャップgが前記焦点距離f
MLAと等しいか、またはそれより小さい場合、仮想CDP809が前記マイクロディスプレイ802の左側に形成され、前記小型レンズから出る光線束は発散しているように見える。前記ギャップgが前記焦点距離f
MLAより大きい場合、前記マイクロディスプレイ802の右側に実際のCDP809が形成され、前記小型レンズから出た光線束は、
図8に示すように、前記CDP809に向かって収束しているように見える。
【0023】
前記CDP809が前記MLA804を介した前記マイクロディスプレイ802の光学共役像であることを考えると、その位置は以下で与えられる。
【0024】
【0025】
ここで、mMLAは前記MLA804の横倍率であり、mMLAは次の式で与えられる。
【0026】
【0027】
図8に示されるように、前記視野窓810上の要素視野の前記光線軌跡および前記視野窓810上の全ての前記要素視野801の分布は、前記MLA804の形状および配置に依存する。前記MLA804のピッチをpMLAと表記し、前記マイクロレンズの直径をd
MLAと表記する。そして、前記視野窓810面上の要素視野の軌跡サイズdは、次式で表すことができる。
【0028】
【0029】
ここで、feypieceは前記接眼レンズの焦点距離である。
【0030】
隣接する2つの要素視野間の横方向の変位、すなわち前記視野窓810上の前記要素視野分布のピッチsは、以下のように表すことができる。
【0031】
【0032】
要素視野の軌跡曲線因子αは、要素視野の前記光線軌跡サイズdと、隣接する2つの視野の軌跡間の前記ピッチsとの比として定義される。
【0033】
【0034】
図8の例に示すように、前記曲線因子αは、前記MLA804の物理的配置と前記マイクロディスプレイ802からの前記光線束の開口部数(NA)によって制限されるため、典型的には0から8の範囲である。曲線因子が低いと、大きな回折効果や視野不連続のアーチファクトが生じる可能性があることに留意されたい。
【0035】
InIに基づくライトフィールドディスプレイの視野サンプリング特性は、単位面積当たりの視野数として定義される視野密度α
viewによって特徴付けることができる。これは、前記視野窓上の要素視野のピッチによって定義される面積の逆数を計算することによって求めることができる。ここでは簡単のため、
図5A~5Dに示すように、前記要素視野が前記視野窓110上に矩形配列で均等に分布し、各要素視野の前記光線軌跡も真四角であると仮定する。円形開口部小型レンズアレイまたは他の円形開口部アレイが利用される場合、前記光線軌跡は、
図8に示されるように円形であってもよい。この場合、視野密度は以下の式により表すことができる。
【0036】
【0037】
再構成された3Dシーンをレンダリングするすべての前記要素視野の前記軌跡寸法の合計は、3D再構成されたシーンの前記ライトフィールドを観察することができる、ディスプレイの前記視野窓110またはアイボックス(Deyeboxと表記)の寸法を定義する。水平方向または垂直方向の前記アイボックスの合計サイズは、前記CDP109上の再構成された点に対応する異なるEI101からの前記光線束を積分することによって近似的に求めることができ、以下のように推定される。
【0038】
【0039】
ここで、Nは3D元点の再構成に使用される水平方向または垂直方向の視野数であり、前記CDP109上の前記MLA104の横倍率mMLAに等しい。
【0040】
回折による画像劣化を考慮することなく、前記視野窓110で観察される再構成された3Dシーンの角度分解能は次式で表すことができる。
【0041】
【0042】
ここで、pは前記マイクロディスプレイ102上の画素サイズである。高い空間分解能を提供するディスプレイを実現するためには、βの値を小さくすることが望まれる。
【0043】
InIに基づくライトフィールドディスプレイでは、大きな被写界深度を持つ3Dシーンのレンダリングが可能で、縦方向の奥行き解像度が高く、画像アーチファクトが少なく、前記よく知られた輻輳焦点調節競合(VAC)問題を緩和するための正確な焦点調節キューが得られるライトフィールドディスプレイを実現するために、高い視野密度αviewが望まれる。視野密度とこれらのディスプレイ性能指標との間の解析的関係は、HuangとHuaによって徹底的に研究されている。式(6)で示されるように、前記視線密度αviewは、要素視線分布のピッチsの2乗に反比例する。一方、式(4)が示唆するように、隣接する2つの要素視野間の前記光線軌跡のピッチsは、前記MLA104の光学倍率mMLAに反比例し、前記MLA104のピッチpMLAに比例する。したがって、前記小型レンズによる光学倍率を低くして、高い視野密度を達成することが望まれる。しかしながら、式(7)により示唆されるように、前記アイボックスサイズDeyeboxは、前記視野窓101上の前記要素視野の前記光線軌跡ピッチに正比例し、これは、前記小型レンズの低い光学倍率が選択される場合、小さなアイボックスが得られることを示唆する。さらに、式(8)によって示唆されるように、前記MLA104の倍率が大きいと、画素あたりの角度分解能の値が大きくなり、ディスプレイとしての空間分解能が悪くなり、画質が低下する。
【0044】
同様のパラメトリック関係は、
図3Aに示されるように、本発明に従って提案される3Dライトフィールドをレンダリングするための前記時分割多重化システムおよび方法についても導出される。しかしながら、
図8に示された従来のInIに基づくディスプレイ方法とは異なり、3Dシーンをレンダリングするための前記要素視野は、同時にレンダリングされるのではなく、時分割多重化された方式でレンダリングされる。
図3Aに示されるように、4x4個の異なる要素視野を通して3D画像点Pを再構成するために、これら16個の要素視野は4組の要素画像101に分割され、前記要素画像101の各組は4個の要素視野から構成される。前記要素画像101の4つのセットは、
図4-7Dによって説明されるように、4相時分割多重方式でレンダリングされる。
【0045】
一般化された構成では、時分割多重化されたライトフィールドの全ての前記要素視野をレンダリングするために、異なる位相に対する要素視野の異なるセットが互いに組み合わされる。
図3A~7Dに示されるように、ある位相において、スイッチオンされた隣接するシャッター素子(例えば
図4のS
1)間のピッチはp
SAと表記される。これは、同じ位相でレンダリングされる前記要素視野のピッチを決定する。しかし、時分割多重方式によって組み合わされた前記要素視野の有効ピッチは、はるかに小さい。これは、水平方向と垂直方向にそれぞれ1つの位相でレンダリングされた隣接する視野の間に組み合わされる位相の数、M
HとM
Vに依存する。必要な総位相Mは、M=M
H*M
Vとして与えられる。一般性を損なうことなく、水平方向と垂直方向に同じ数の視野が組み合わされると仮定する(すなわち、M
H=M
V)。M相時分割多重システムでは、シャッター上の隣接する組み合わされたサブ開口部の有効ピッチは次式で表すことができる。
【0046】
【0047】
図3Aに示すように、前記組み合わされた要素視野の間で均等な分布を確保するためには,後続の2つのフェーズでスイッチオンされた前記シャッター要素間の横方向変位Δd
SA-HとΔd
SA-Vを、それぞれ水平方向と垂直方向で注意深く選択する必要がある。一般性を損なうことなく、水平方向と垂直方向で同じ横変位(すなわち,Δd
SA-H=Δd
SA-V=Δd
SA)を仮定するとしよう。異なる位相(例えば
図4のS
1とS
2)でスイッチオンされる前記隣接シャッタ素子間の横変位Δd
SAは以下の関係を満たすはずである。
【0048】
【0049】
この場合、
図3Cに示すように、前記視野窓110上の各要素視野の前記光線軌跡サイズd
TMは、前記小型レンズの前記開口サイズd
MLAの代わりに、前記シャッタ要素の開口サイズd
SAに依存する。同様に、前記視野窓110上で組み合わされた2つの隣接する要素視野間の前記光線軌跡ピッチsTMは、MLA104の前記小型レンズピッチp
MLAの代わりに、前記シャッタ開口部の有効ピッチ
pSA.effに依存する。前記視野窓110上の前記光線軌跡サイズd
TMと、時分割多重化InIシステムにおける同じマイクロレンズに対応する2つの隣接する要素視野間の横方向の変位Δd
TMは、次式で表すことができる。
【0050】
【0051】
【0052】
式(11)および(12)と同様に、時分割多重化InIシステムの前記視野窓110における前記要素視野の前記有効ピッチsTMは、前記シャッタ上の隣接する組み合わされるサブ開口部の有効ピッチに依存し、これは次式で表すことができる。
【0053】
【0054】
時分割多重化システムにおける前記要素視野の前記曲線因子は次のように表される。
【0055】
【0056】
従来のシステムとは異なり、要素視野の前記曲線因子は、MLA104の前記曲線因子ではなく、前記シャッタアレイ106の曲線因子に依存する。これにより、先に述べたように前記サブ開口部が互いに重なり合うことができるので、前記要素視野の曲線因子の大きな範囲が可能になり、後続の実装および実施形態で説明される。これにより、1より大きい曲線因子が可能になり、MLA104の物理的な曲線因子の制限を克服し、潜在的にInIシステムの実装の幅を広げることができる。
【0057】
時分割多重レンダリング法では、各マイクロレンズは、M相の要素視野のMセットをレンダリングするために使用される。これは、3D点の再構成に使用される視野の数が、MLA104の横方向の倍率mMLAに等しくなくなることを意味する。したがって、時分割多重システムの水平方向または垂直方向のいずれかにおける前記視野窓110またはアイボックスの寸法は、次式で表される。
【0058】
【0059】
回折効果を考慮しなければ、時分割多重化システムにおいて前記視野窓110で観察される再構成シーンの角度分解能は、同じ式(8)で表すことができる。
【0060】
式(1)~(15)によって特徴付けられるパラメトリックな関係に基づいて、本発明に従って提案される時分割多重化方式の実施形態を実装するいくつかの異なる方法があり、異なるアプリケーションの要求に従って、全体的な表示品質の改善の異なる側面を達成することができる。
【0061】
実施例1:視界密度優先方式
上述したパラメトリックな関係に基づいて、時分割多重化ライトフィールドシステムの本発明に従った1つの可能な実装は、所定のアイボックスのサイズを維持し、同じピッチおよび同じ光学倍率の小型レンズを使用しながら、要素視野の数および視野密度を増加させることである。視野密度を高めるための4相時分割多重化システム100の概略レイアウトを
図3Aに示す。式(9)で示されるように、時分割多重化方式によってレンダリングできる視野の総数は、前記シャッターアレイ106の有効ピッチp
SA.effに対するMLA104のピッチp
MLAの比に依存する。所与のMLA104に対して、より小さい有効シャッターピッチサイズを選択すると、より多くの要素視野101を提供するが、目がちらつきの影響を受けずに時分割多重化方式でそれらを見ることができるように、要素視野101の前記Mセットを十分に速くレンダリングできるように、前記シャッターアレイ106と前記マイクロディスプレイのリフレッシュレートを高くする必要がある。最新のディスプレイ技術のリフレッシュレートの限界を考慮すると、
図3Aに示されるように、4段階のレンダリング工程には2の比率が推奨される。
【0062】
前記視野密度向上方式では、前記MLA104、接眼レンズ108、およびそれらの相対間隔の光学仕様は、
図8に示すように、従来の非多重化方式のものと同じになるように選択する。その結果、式(15)で与えられる総アイボックスサイズ、および式(8)で与えられるM相多重化システムの空間分解能は、非多重化システムのそれらのパラメータと同じになる。ただし、多重化システムの前記総視野数は、非多重化システムのM倍になる。式(13)によって与えられる隣接する要素視野101の前記光線軌跡ピッチは、非多重化システムよりも時分割多重化システムの方が大幅に小さくなり、対応する視野密度は大幅に高くなる。
【0063】
比較のため、表1に
図3Aに示す4相時分割多重化方式の光学仕様を示し、シャッターアレイ106を用いない
図8に示す非時分割多重化方式にも同じ光学仕様を適用する。この設計例では、前記マイクロディスプレイの前記画素ピッチpは8umである。前記MLA104の全てのマイクロレンズの焦点距離は3mmである。前記MLA104のマイクロレンズ直径d
MLAと前記小型レンズピッチは共に1mmである。前記接眼レンズ108の焦点距離は18mmであり、CDP109と接眼レンズ108の距離は18mmである。前記視野窓110は前記接眼レンズ108の後方24mmの位置にある。前記シャッターアレイ106のピッチp
SAは1mm、前記シャッターアレイ106系の前記開口部サイズd
SAは前記時分割方式の場合0.5mmである。
【0064】
【0065】
表2は、
図3Aの本発明による視野密度優先時分割多重化InIシステム100と
図8の従来のInI表示システム800との間の視野パラメータの比較を示す。本発明による前記時分割多重化InIシステム100は、前記従来の非時分割多重化システムと同じアイボックスサイズと角度分解能を有するが、本発明による前記時分割多重化システムでは、前記視野数と前記視野密度が4倍であることが分かる。
【0066】
【0067】
実施例2:曲線因子方式の視野
要素視野の前記曲線因子は、ライトフィールドディスプレイの前記空間分解能と視覚的外観の両方において非常に重要な役割を果たす。従来のInIに基づくディスプレイでは、式(5)で示唆されるように、前記要素視野の前記曲線因子は前記マイクロレンズ配置の前記物理的制約によって制限され、典型的には0から1の間である。上述したパラメトリックな関係に基づいて、時分割多重化ライトフィールドシステムの別の代替構成は、前記視野の総数またはアイボックスサイズおよび空間解像度などの所与の視野ラメータセットを維持しながら、前記要素視野の前記曲線因子を高めるために前記多重化仕様を適応させることである。式(14)によって示唆されるように、時分割多重化システムにおける視野曲線因子は、前記サブ開口部サイズd
SAと前記有効サブ開口部ピッチ
pSA.effとの間の比によって定義される。
図9A~9Bによって示されるように、
図3Aの前記シャッターアレイ106は、液晶ディスプレイアレイやデジタルミラーデバイスアレイのような小さなプログラム可能な画素化素子で作ることができる。このような画素化装置では、個々の画素のオン状態またはオフ状態を独立してアドレス指定することができる。このような場合、前記サブ開口部サイズd
SAは、異なる画素グループ化によって、前記有効サブ開口部ピッチp
SA.effよりも大きくすることができるので、時分割多重化システムの前記曲線因子を1よりも大きくすることができ、隣接する要素視野の光線軌跡重複を可能にし、その結果、視野の不連続による画像アーチファクトを最小限に抑えることができる。前記時分割多重化されたサブ視野窓の重複はまた、空間分解能および深さ分解能の潜在的な改善を提供することができる。前記第1の開口部セットからの前記第2のサブ開口部セットの横方向変位Δd
SAが、前記サブ開口部のサイズd
SAよりも小さい場合、時分割多重化された前記2つのサブ開口部セットによってレンダリングされた前記対応する要素視野の前記光線軌跡は、前記視野窓上で重複し、曲線因子が1よりも大きくなる。前記第1の開口部セットからの第2のサブ開口部セットの横方向変位Δd
SAが前記サブ開口部のサイズd
SAよりも大きい場合、前記対応する要素視野の前記光線軌跡は前記視野窓上で重ならず、曲線因子は1未満となる。
【0068】
図10A~10Bは、本発明に従ってライトフィールドディスプレイの前記視野曲線因子を高めるための4相時分割多重化システム1000の例示的な概略レイアウトを示す。
図10Aは、第1相の光線経路および第1のアクティブなサブ開口部セットS
1の対応する配置を示し、
図10Bは、第2相の光線経路および第2のアクティブなサブ開口部セットS
2の対応する配置を示す。ここでは,アドレス指定可能な小画素で構成されたプログラム可能なシャッターアレイ1006が利用され、開口したサブ開口部のサイズd
SAと有効ピッチp
SA.effがデジタル制御できるようになっている。
図10A~10Bに示すように、各要素視野の前記光線束サイズが大きくなるように、より多くの制御可能な画素をグループ化することによって、大きなサブ開口部サイズを得ることができる。
【0069】
一例として、前記視野曲線因子を高め、ひいては前記視野密度を高めるための4相時分割多重仕様について、前記シャッタアレイ106として透過型LCに基づく画素アレイ1006を使用する以外は、前記非時分割多重化方式について表1に示したものと同じ光学仕様を使用する。前記LC画素アレイ1006は125umの画素ピッチを有し、適切な画素分解能を有するので、その全体寸法は前記MLA1004のサイズに適合する。前記マイクロレンズの前記各1mm開口部の下には、合計8x8の画素化素子がある。
図9A~9Bは、前記第1および第2のサブ開口部のセット、それぞれS
1およびS
2の設計パラメータを示す。前記シャッターの各サブ開口部のサイズd
SAは6画素に設定され、同じマイクロレンズに対応する前記隣接するサブ開口部間の横方向のずれΔd
SA1は2画素に設定される。全体として、サブ開口部の前記第1のセットS
1はサブ開口部の前記第2のセットと4画素だけ重なる。この場合、前記有効シャッターピッチp
SA.effは4画素となる。前記第1セットのサブ開口部によってレンダリングされた前記要素視野の前記光線軌跡と前記第2セットのサブ開口部によってレンダリングされた前記要素視野の前記光線軌跡は33%重なり、有効視野曲線因子は1.5となる。表3は、この時分割多重化方式の前記視野パラメータと空間分解能を示している。
【0070】
【0071】
実施例3:空間分解能優先方式
上述したパラメトリック関係に基づいて、本発明による時分割多重化ライトフィールドシステムの更なる例示的な代替構成は、前記視野の総数や視野密度などの所定の視野パラメータのセットを維持しながら、前記再構成された3Dシーンの空間解像度を高めるために前記多重化方式を適応させることである。式(8)が示唆するように、再構成された3Dシーンの画素あたりの前記角度分解能は、前記MLAの光学倍率mMLAに正比例する。前記MLAの光学倍率mMLAが低いほど、画素あたりの前記角度分解能の値は小さくなり、ディスプレイとして高い空間分解能と良好な画質が得られる。式(8)は、さらに、前記角度分解能が前記マイクロディスプレイの画素ピッチp、前記CDPと前記接眼レンズ間の距離z0、前記接眼レンズの焦点距離feyepiece、および前記接眼レンズと視野窓面間の距離zXPに依存することを示唆している。従って、全視野数やアイボックスなどの所定の視野パラメータ仕様のセットに対して、時分割多重化システムの光学仕様を非多重化システムとは異なるように最適化することで、同じ視野パラメータを生成しながら、空間分解能の歩留まりを向上させることができる。
【0072】
図11は、再構成された3Dシーンの合計2x2視野を維持しながら、ライトフィールドディスプレイの前記空間解像度を高めるための4相時分割多重化システム1100の概略レイアウトを示す。比較のために、
図9A~9Bは、同じ2x2視野をもたらす多重化なしの従来のInIに基づくディスプレイ方式の概略レイアウトを示す。両方のシステムで合計2x2の視野を達成するために、前記4相多重化方式のMLAの光学倍率m
MLAは、従来の非多重化システムの光学倍率の半分に選ばれている。式(2)によって示唆されるように、前記MLA104の光学倍率の制御は、前記マイクロディスプレイとMLA104との間のギャップを調整するか、前記MLA104の焦点距離を調整するか、またはその両方を調整することによって達成することができる。比較の便宜上、
図11に示す例では、前記マイクロディスプレイと前記MLA104のギャップを調整しながら、前記MLA104の焦点距離、ピッチ、マイクロレンズ径などの光学仕様は、非多重化システムで使用する前記MLA104と同じものを使用している。しかし、
図11の前記時分割多重化方式では、
図9A~9Bの前記非多重化方式に比べて2倍の空間分解能が得られる。M相の時分割多重化方式がもたらす解像度の向上の大きさは、前記シャッターアレイの有効ピッチp
SA.effに対するMLA104のピッチp
MLAの比に依存する。位相数が多ければ多いほど、前記シャッターアレイと前記マイクロディスプレイのリフレッシュレートが高くなり、前記Mセットの要素視野を十分な速さでレンダリングできるようになるため、目のちらつきの影響を受けずに時分割多重化方式で見ることができるようになる。最新のディスプレイ技術のリフレッシュレートの限界を考慮すると、4倍の分解能向上には2の比率が推奨される。
【0073】
前述したように、式(8)は、前記角度分解能の前記マイクロディスプレイ画素ピッチp、前記MLA104の光学倍率、前記CDP109と前記接眼レンズ108との距離z0、前記接眼レンズ108の焦点距離、f
eyepiece、および前記接眼レンズ108と視野窓面110との距離zXPへの依存性を示唆している。したがって、分解能を向上させる方式では、式(8)で与えられる前記空間分解能と、式(9)から(15)で与えられる前記視野パラメータの間のバランスを得るために、前記MLA104、接眼レンズ108、およびそれらの相対的な間隔の光学仕様を一緒に最適化しなければならない。したがって、分解能優先方式の可能な実施形態は、
図11に示す例に限定されないものとする。前記マイクロディスプレイ102の画素ピッチが同じであるという仮定の下で、
図9A、9Bおよび11に示す両方のシステムは、それぞれ合計2x2の視野をレンダリングすることができる。
【0074】
【0075】
比較のため、表4に4相時分割多重方式の光学仕様を2セット示す。第1のセット(実施例1)は、
図11に示す実施例に対応し、マイクロディスプレイ102を採用し、物体:画像の関係が異なる以外は、前記非時分割多重方式について表1に示すものと同じ光学仕様を採用している。前記マイクロディスプレイ102とMLA104の間のギャップgは4.5mmから6mmに変更され、前記MLA104とCDP109の間の距離は9mmから6mmに変更された。表4の第2の実施例(実施例2)は、前記第1の実施例と同じ空間分解能と視認数を得るシステム仕様に対応するが、
図9A~9Bの前記非多重化方式の視認密度とアイボックスサイズは同じである。第2の設計例では、前記マイクロディスプレイ102の画素ピッチpは、前記第1の実施例と同じ8umである。前記MLA104の全ての前記マイクロレンズ105は同じ焦点距離2.57mmを有する。前記MLA104の前記マイクロレンズ直径d
MLAと前記小型レンズピッチは共に1mmである。前記接眼レンズ108の焦点距離は24mmであり、CDP109と接眼レンズ108の距離は24mmである。前記視野窓は前記接眼レンズ108の24mm後方に位置する。前記シャッターアレイ106のピッチp
SAは1mm、前記シャッターアレイ106の開口サイズd
SAは0.5mmである。表5は、前記2つの異なる時分割多重化構成間の視野パラメータと空間分解能の比較を示す。非多重化システムの比較データは表5にある。
【0076】
【0077】
実施例4:視野クロストーク低減を伴う時分割多重化方式
先に示した全ての例示的な実施態様の中で、前記クロストーク問題を低減するために、MLA1204と同じピッチを有する光線制限光学開口部のアレイからなる開口部アレイ1207を前記マイクロディスプレイ1202とMLA1204との間に挿入することができる。
図12に模式的に示されるように、各マイクロレンズ1205に対応する前記開口部は、所望の光線のみが伝搬して前記接眼レンズに到達することを許容するが、隣接する要素画像1201からの望ましくない光線が前記対応するマイクロレンズ1205に到達することは阻止する。例えば、EI1とEI2との間の前記開講部アレイ1207上の不透明部分(黒い実線で示される)は、前記要素画像EI1から発せられた破線の光線が前記マイクロレンズML1に隣接する前記マイクロレンズML2に到達するのを阻止する。これらのブロックされた光線は、InIディスプレイシステムで一般的に観察されるクロストークとゴースト画像の主な原因である。前記マイクロディスプレイ1202から前記開口部アレイ1207までの距離はaと表記され、開口部開口の直径はd
Aと表記される。前記クロストークを低減するために、これらのパラメータは以下の制約を満たす必要がある。
【0078】
【0079】
【0080】
ここで、pEIは要素画像の寸法であり、pMLAは前記MLAのピッチである。前記開口部アレイ1207は、印刷された固定開口部アレイ1207または空間光変調器である。
【0081】
実施例5:制御可能な指向性光源による時分割多重方式
図3Aに示すInIに基づくライトフィールドディスプレイ100の時分割多重化方式は、前記MLA104に隣接して配置された切替可能なシャッターアレイ106を利用する。各マイクロレンズ105下の異なるシャッター素子をオンまたはオフにすることによって、前記小型レンズ1005の異なる部分を通る異なる光線経路の間で迅速に切り替えることができ、前記マイクロディスプレイ102上にレンダリングされ、前記MLA104によって時分割多重化された様式で撮像される要素画像101の異なるセットの画素からの光線束を可能にする。切替可能なシャッタアレイ1207の使用は、前記シャッタアレイの透過率または反射率が制限される可能性があるため、潜在的に光損失につながる可能性がある(
図12)。自己発光型マイクロディスプレイ102が利用される場合、
図3Aの例示的な構成100には切替可能なシャッターアレイ106が使用される。前記マイクロディスプレイ102は、照明源を変調する液晶ディスプレイ(LCD)機器(反射型または透過型)またはデジタルミラー機器(DMD)などの非自己発散型SLM型ディスプレイ技術に基づくことができる。これらの非発光型ディスプレイ技術は、反射型SLMの場合はフロントライト、透過型SLMの場合はバックライトなど、いずれも照明光源を必要とする。このような非発光型ディスプレイ技術を採用する構成においても、異なる光線路を迅速に切り替える機構として、切替可能なシャッターアレイ106を使用することは可能である。本発明に従った代替構成は、時分割多重方式でMLA104の前記マイクロレンズ開口部の異なる部分に向けて光線を選択的に出力または「放出」することができるマイクロディスプレイを作成することであり、以下、これを「指向性マイクロディスプレイ」と呼ぶ。本発明によるこのような指向性マイクロディスプレイは、MLA104と協働し、前記MLA104を通る異なる光線経路を迅速に切り替えて、切替可能な開口部アレイ106の使用と同じ光学機能を達成することができる。
【0082】
例えば、
図13A~13Bは、
図3A~3Cに図示された時分割多重化と同様の機能を実現するために、上記で説明したように指向性照明を生成する指向性マイクロディスプレイ1302を利用する、本発明による4相時分割多重化InIに基づくライトフィールドシステム1300の例示的な光学レイアウトを示す。本発明による指向性マイクロディスプレイは、切替可能な光源アレイ1310(例えばLEDアレイ)、バリアアレイ1312、MLA1304、および空間光変調器(SLM1314)、
図13A~13Bを含むことができる。
図13A~13Bの前記MLA1304は、積分イメージング目的に必要な前記主MOA1304と区別するために「MLA2」とラベル付けされていることは注目に値する。さらに、前記マイクロディスプレイ1302の概略レイアウトは、バックライト光源を必要とする透過型SLM1314の使用を想定している。前記レイアウトは、フロントライト光源を必要とする反射型SLM1314用に容易に変更することができる。前記光源アレイ1310は、それぞれが同じ寸法d
cellを有する複数の光源セル1316を含むことができ、前記光源セル1316のピッチp
cellは、前記要素画像のピッチp
EIと同じである。各セル1316は、要素光源セル1316とみなすことができ、前記SLM1314の一部に表示された対応する前記要素画像に必要なバックライトを提供する。各セル1316は、
図13A~13Bの前記光源アレイ1310上に矩形として示される光源セル1316のアレイ1310を含むことができる。これらの光源セル1316は、例えば個々の発光ダイオード(LED)のように、個別に制御可能である。各光源セル1316は、同じセル1316の他のユニットとは独立してオンまたはオフに切り替えることができる。各光源セル1316に取り付けられた前記バリアアレイ1312は、隣接するセル1316間の前記クロストークを防止し、前記マイクロレンズアレイ1313の機械的マウントを提供するために設けられる。前記マイクロレンズアレイ1313の各マイクロ小型レンズは、光源からの光を変調して、前記SLM1314上にレンダリングされたその対応する要素画像のための指向性バックライトを生成することができる。前記SLM1314は、前記光源セル1316からの光を変調し、積分イメージング用の前記要素画像をレンダリングする。
図13A~13Bに示されるように、光源セル1316内で前記光源セル1316のオン/オフを切り替えることにより、
図3Aのシャッターアレイと同様に、前記主MLA1304を通る光線経路を選択する機能を生成することができる。例えば、
図13A~13Bにおいて、4相時分割多重化指向性マイクロディスプレイ1302を生成するために、各光源セル1316は、前記4相時分割多重化サイクルの位相およびレンダリングされる対応するEIセットにそれぞれ対応する、2x2の光源セル1316を含み得る。
図13A~13Bは、全表示サイクルの2つの異なるフェーズを示す。各フェーズにおいて、前記光源アレイ1310内の前記光源セル1316の1つのセットのみがオンにされ、前記対応するセットによる放出光が、前記マイクロレンズアレイ1313の光学特性によって制御される所望の方向の光線で前記SLM1314を照明する。これらの所望の光線は、前記主MLA1304の前記マイクロレンズ開口部の選択部分に向かって伝搬し続ける。前記光源ユニットのオン・オフ状態は、ターゲット3Dシーンを再構成するための正しい透視視野を表す前記要素画像の対応するセットのレンダリングと同期させることができる。例えば、
図13Aでは、前記光源の上部ユニット(白い長方形で示す)によって生成された光線は、前記SLM1314上にレンダリングされた前記要素画像の第1のセットによって変調される。前記SLM1314によって変調された光線は、要素視野V
1を生成するために、前記マイクロレンズ開口部の底部に向かって伝搬される。
図13Bにおいて、前記光源の底部ユニットによって生成された前記光線は、前記SLM1314上にレンダリングされた前記第2のセットの要素画像によって変調される。前記SLM1314によって変調された光線は、要素ビューV
2を生成するために、前記マイクロレンズ開口部の上部に向かって伝搬される。本実施形態では、光源アレイ1310内の光源セル1316の数が、表示サイクルにおける位相の数を決定する。例えば、
図14は、4相時分割多重化システムを示す。前記光源セル1316の各々は、前記イメージングMLA1304内の前記マイクロレンズの各々に対応するサブ開口部を生成する。
【0083】
図14は、前記主イメージングMLA1304と共に指向性マイクロディスプレイ1302のパラメータを示す。前記光源セル1316と前記マイクロレンズアレイ1313との間の距離をI
BLと表す。前記マイクロレンズアレイ1313によって結像された前記光源セル1316は、前記主イメージングMLA1304の平面に対して光学的に共役であることが望まれる。したがって、前記距離I
BLは、以下の式を満たすことが望まれる。
【0084】
【0085】
ここで、mMLA2はマイクロレンズアレイ1313の横倍率であり、次式で表すことができる。
【0086】
【0087】
前記視野窓平面に投影される前記要素視野の曲線因子は、各光源ユニットの物理的サイズおよび隣接する光源セル1316間のピッチに依存する、
【0088】
【0089】
クロストークのないシステムを可能にするために、前記光源セル1316の画像は前記MLA1304のサイズより大きくないことが望ましく、次式で表される。
【0090】
【0091】
前記システムをクロストークのない状態に維持しながら1の視野曲線因子を達成するために、前記マイクロレンズアレイ1313の焦点距離は、前記各光源セル1316の像が前記主撮像MLA1304の前記ピッチと正確に同じになるように良好に選択されるべきである。したがって、前記MLA1304の焦点距離および光源アレイ1310からマイクロレンズアレイ1313までの距離は、式(17)~(20)に従って注意深く選択されるべきである。
【0092】
図14に示された前記光源セル1316の各々は、画素化されたシャッターアレイの前記画素に類似した複数の発光素子を含むことができることは、さらに注目に値する。前記発光素子の各々は、個々にオンまたはオフにすることができる。
図15A~15Bは、本発明による2x2の光源セル1316を有する光源アレイ1510の設計を示している。前記セル1316の各々は、要素画像パターンをレンダリングするためにSLM1314の対応する1つの部分を照明する。本発明による前記時分割多重化InIの4つの位相において3Dライトフィールドを再構成するために2x2の要素視野をレンダリングするためのSLM1314上の照明された領域に対応する。前記光源セル1316の寸法をd
cellと表す。前記光源セル1316の各々は、個別に制御可能な発光素子の2Dアレイ(例えば、
図15A~15Bに小さな正方形として示されるLED素子の8x8アレイ)を含むことができる。このアレイ形式では、各セル1316内の異なる数の前記光源素子をグループ化することによって、
図9A~9Bにおける前記サブ開口部に相当する有効発光領域を定義することにより、前記発光ユニットd
unitのサイズを制御することができる。また、前記隣接する光源セル1316間の横方向の間隔を調整することによって、前記発光源のピッチp
cellを制御することもできる。最後に、セル1316内の前記隣接する光源セル1316間の横方向の変位Δd
unitを調整することによって、前記視野曲線因子を制御することができる。
図15A~15Bに示す例では、各発光ユニット1316は6x6発光素子のアレイを含むことができ、各セル1316は8x8の素子を含むことができる。
図15Aは、第1セットの要素画像をレンダリングするための前記発光セルの配置を示し、一方、前記光源セル1316間の前記ピッチはp
cellである。
図15Bは、第2セットの要素画像をレンダリングするための前記発光セル1316の配置を示しており、この場合、前記発光ユニットは、前記第1セットの要素画像をレンダリングするための最初の対応する発光ユニットから2素子だけシフトされている。異なる位相間の照明領域の重なりを容易に見ることができる。この重なりにより、前記システムは視野曲線因子1.5を有することができる。
図15A~15Bの例示的な構成により、例えば
図9A~9Bに示したものと同様の効果が得られる。
【0093】
実験プロトタイプ
図3Aの回路図に基づいて、
図16に示すような時分割多重化InIに基づくライトフィールドシステム1600の概念実証プロトタイプを実装した。プロトタイプで使用した前記マイクロディスプレイ1602は、ソニー製の0.7インチ有機発光ディスプレイ(OLED)で、カラー画素ピッチは8μm、画素解像度は1920x1080(ECX355B)であった。使用した前記MLA1604は、Fresnel Technologies(https:www.fresneltech.com)のMLA630である。焦点距離は3.3mm、レンズピッチは1mmである。前記シャッターアレイ1606はJHDLCM Electronics Company(JHD12864)の透過型LCDを使用した。画素数は128x64で、画素ピッチは0.5mmだった。このような大きな画素サイズにより、前記LCD上の1画素が1つのシャッターに相当するため、前記システムは画素構造の回折の影響を受けなかった。全画像サイクルには4つのフェーズが含まれる。前記MLA1604の横倍率は2に設定され、合計4x4の要素ビューをレンダリングした。前記接眼レンズ1608は、焦点距離27mmの市販の接眼レンズ1608であった。全体として、前記プロトタイプシステム1600は、約6mmx6mmの視野窓サイズを達成するように設計され、再構成された3Dシーンの各点に対して、合計4x4の視野がシステムによってレンダリングされた。前記視野密度は約0.44mm
-2であり、これは前記視野窓における1.5mmの要素視野ピッチに相当する。焦点距離27mmの接眼レンズ1608と組み合わせた場合、表示画素あたりの角度分解能は、視空間内で約2.04分角であった。
【0094】
本発明のこれらおよび他の利点は、前述の明細書から当業者には明らかであろう。したがって、本発明の広範な発明概念から逸脱することなく、上述の実施形態に変更または修正を加えることができることは、当業者には認識されるであろう。したがって、本発明は、本明細書に記載された特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の範囲および精神の範囲内にあるすべての変更および修正を含むことが意図されていることが理解されるべきである。
【0095】
参考文献
以下の参考文献は、参照によりその全体が本明細書に組み込まれる。
1.H.Hua,「Enabling focus cues in head-mounted displays,」Proceeding of the IEEE 105(5), 805-824(2017).
2.G.E.Favalora,「Volumetric 3D displays and application infrastracture,」Computer, 38(8),37-44(2005).
3.H.Yu,K,Lee,J.Park,and Y.Park,「Ultrahigh-definition dynamic 3D holographic display by active control of volume speckle fields,」Nature Photonics 11(3), 186(2017)
4.G.Li,D.Lee,Y.Jeong,J.Cho,and B.Lee,「Holographic display for see-through augmented reality using mirror-lens holographic optic element」Opt.Letters 41(11),2486-2489(2016)
5,S.Liu and H.Hua,「A systematic method for designing depth-fused multi-focal plane three-dimensional displays,」Opt.Express 18(11),11562-11573(2010)
6.J.Rolland, M.Kruger,and A.Goon,「Multifocal Planes head-mounted displays,」Opt.39(19),3209-3215(2000).
7.S.B.Kim and J.H.Park,「Optical see-through Maxwellian near-eye display with an enlarged eyebox,」Opt.Letters 43(4),767-770(2018)
8.H.Hua and B.Javidi,「A 3D integral imaging optical see-through head-mouted display,」Opt.Express,22(11),13484-13491(2014).
9.G.Wetzstein,D.Lanman,M.Hirsch and R.Raskar,「Tensor displays:Tensor displays:Compressive light field synthesis using multilayar with directional backlights,」Proc.acm siggraph,(2012).
10.D.lanman and D.luebke,「Near-eye light field displays,」ACM Trans.Graph.32(6),1-10(2013).
11.H.Huang and H.Hua,「High-performance integral-imaging-based light field augmented display using freeform optics,」Opt.Express26(13),17578-17590(2018).
12.B.Liu,X.Sang,X.Yu,X.Gao,L.Liu,C.Gao,P.Wang,Y.Le,and J.Du,「Time-multipexed field display with 120-degree wide viewing angle」,Opt.Express27(24),pp.35728-35739(2019).
13.H.Huang and H.Hua,「Generalized methods and strategies for modeling and optimizing the optics 3D head-mouted light field displays,」Opt.Express27(18),25154-25171(2019).
14.H.Huang and H.Hua,「Systematic characterization and optimization of 3D light displays,」Opt.Express 25(16),18508-18525(2017).
15.J.H.Park,S.W.Min,S.Jung,and B.Lee.「Analysis of viewing parameters for two display methods based on integral photography.」Applied Optics 40,no.29 5217-5232(2001).
16.X.Wang,Y.Qin,H.Hua,Y.H.Lee,and T.Wu.「Digital swithcable multi-focal lens freeform optics.」Opt.Express 16.26(8):11007-17(2018).
17.X.Wang,and H.Hua.「Digitally Swithchable Mirolens Array for Integral Imaging.」SID Symposium Digest of Technical Papers.Vol.51.No.(2020)
18.M.Xu and H.Hua,「Finite depth and varifocal head-mouted display based on geometrical lightguide,」Opt.Express 28(8),12121-12137(2020).
【国際調査報告】