(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024078780
(43)【公開日】2024-06-11
(54)【発明の名称】立体映像表示システム、ヘッドマウントディスプレイ、要素画像群生成装置及びそのプログラム
(51)【国際特許分類】
G02B 27/02 20060101AFI20240604BHJP
H04N 13/122 20180101ALI20240604BHJP
H04N 13/344 20180101ALI20240604BHJP
H04N 13/376 20180101ALI20240604BHJP
H04N 13/38 20180101ALI20240604BHJP
H04N 13/378 20180101ALI20240604BHJP
H04N 13/339 20180101ALI20240604BHJP
H04N 13/307 20180101ALI20240604BHJP
G02B 3/00 20060101ALN20240604BHJP
【FI】
G02B27/02 Z
H04N13/122
H04N13/344
H04N13/376
H04N13/38
H04N13/378
H04N13/339
H04N13/307
G02B3/00 A
【審査請求】未請求
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2022191336
(22)【出願日】2022-11-30
(71)【出願人】
【識別番号】000004352
【氏名又は名称】日本放送協会
(74)【代理人】
【識別番号】110001807
【氏名又は名称】弁理士法人磯野国際特許商標事務所
(72)【発明者】
【氏名】前田 恭孝
(72)【発明者】
【氏名】小出 大一
(72)【発明者】
【氏名】佐々木 久幸
(72)【発明者】
【氏名】久富 健介
(72)【発明者】
【氏名】半田 拓也
【テーマコード(参考)】
2H199
5C061
【Fターム(参考)】
2H199CA04
2H199CA23
2H199CA25
2H199CA42
2H199CA43
2H199CA58
2H199CA93
2H199CA97
5C061AA01
5C061AB12
5C061AB16
(57)【要約】
【課題】計算コストが少なく、簡易な構成で奥行き再現範囲が向上する立体映像表示システムを提供する。
【解決手段】立体映像表示システム1は、ヘッドマウントディスプレイ2が、異なる焦点距離の要素レンズが少なくとも一方向で隣り合うように配列されたレンズアレイ22を備え、要素画像群生成装置3が、光線の始点位置及び光線が通過した要素レンズの焦点距離に基づいて、要素レンズの焦点距離毎に定まる集光面の何れに接触位置が最も近くなるかを判定し、最も近い集光面を通過する光線を出射する要素画像の画素に接触位置の色情報を割り当てる画素割当手段33を備える。
【選択図】
図1
【特許請求の範囲】
【請求項1】
人物の頭部に装着されるライトフィールド方式のヘッドマウントディスプレイと、要素画像で構成されている要素画像群を生成する要素画像群生成装置とを備える立体映像表示システムであって、
前記ヘッドマウントディスプレイは、
前記人物の頭部運動情報を計測するセンサと、
前記要素画像群生成装置が生成した要素画像群を表示する表示手段と、
前記要素画像に対応する要素光学素子を有し、異なる焦点距離の前記要素光学素子が少なくとも一方向で隣り合うように配列された光学素子アレイと、を備え、
前記要素画像群生成装置は、
前記要素画像の画素毎に、前記要素光学素子を通過して前記人物の眼球で再帰反射されて前記要素画像群のオブジェクトに接触する光線を生成する光線生成手段と、
前記人物の頭部運動情報に基づいて、前記光線を回転及び並進させる回転・並進手段と、
前記回転・並進手段で回転及び並進させた光線を直進させて前記オブジェクトと接触する場合、前記光線の始点位置から前記オブジェクトまでの距離と、前記オブジェクトと前記光線との接触位置の色情報とを求める光線追跡手段と、
前記光線の始点位置から前記オブジェクトまでの距離、及び、前記光線が通過した要素光学素子の焦点距離に基づいて、前記要素光学素子の焦点距離毎に定まる集光面の何れに前記接触位置が最も近くなるかを判定し、最も近い前記集光面を通過する光線を出射する前記要素画像の画素に前記接触位置の色情報を割り当てる画素割当手段と、を備えることを特徴とする立体映像表示システム。
【請求項2】
前記ヘッドマウントディスプレイは、前記光学素子アレイの前方に配置された接眼レンズ、をさらに備え、
前記光線生成手段は、前記要素画像の画素毎に、前記要素光学素子を通過して前記接眼レンズで屈折された後、前記人物の眼球で再帰反射されて前記要素画像群のオブジェクトに接触する光線を生成し、
前記画素割当手段は、前記接眼レンズから前記オブジェクトまでの距離、及び、前記光線が通過した前記要素光学素子の焦点距離に基づいて、前記接触位置が前記集光面の何れに最も近くなるかを判定することを特徴とする請求項1に記載の立体映像表示システム。
【請求項3】
前記光学素子アレイは、前記焦点距離が異なる2種類の前記要素光学素子で構成され、2種類の前記要素光学素子が市松模様状に配列されたことを特徴とする請求項1に記載の立体映像表示システム。
【請求項4】
人物の頭部に装着されるライトフィールド方式のヘッドマウントディスプレイであって、
前記人物の頭部運動情報を計測するセンサと、
要素画像で構成されている要素画像群を表示する表示手段と、
前記要素画像に対応する要素光学素子を有し、異なる焦点距離の前記要素光学素子が隣り合うように配列された光学素子アレイと、を備えることを特徴とするヘッドマウントディスプレイ。
【請求項5】
人物の頭部に装着され、異なる焦点距離の要素光学素子が隣り合うように配列された光学素子アレイを備えるライトフィールド方式のヘッドマウントディスプレイに表示するために、要素画像で構成されている要素画像群を生成する要素画像群生成装置であって、
前記要素画像の画素毎に、前記要素光学素子を通過して前記人物の眼球で再帰反射されて前記要素画像群のオブジェクトに接触する光線を生成する光線生成手段と、
前記人物の頭部運動情報に基づいて、前記光線を回転及び並進させる回転・並進手段と、
前記回転・並進手段で回転及び並進させた光線を直進させて前記オブジェクトと接触する場合、前記光線の始点位置から前記オブジェクトまでの距離と、前記オブジェクトと前記光線との接触位置の色情報とを求める光線追跡手段と、
前記光線の始点位置から前記オブジェクトまでの距離、及び、前記光線が通過した要素光学素子の焦点距離に基づいて、前記要素光学素子の焦点距離毎に定まる集光面の何れに前記接触位置が最も近くなるかを判定し、最も近い前記集光面を通過する光線を出射する前記要素画像の画素に前記接触位置の色情報を割り当てる画素割当手段と、を備えることを特徴とする要素画像群生成装置。
【請求項6】
コンピュータを、請求項5に記載の要素画像群生成装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、立体映像表示システム、ヘッドマウントディスプレイ、要素画像群生成装置及びそのプログラムに関する。
【背景技術】
【0002】
近年、教育、医療、娯楽などの様々な分野でバーチャルリアリティー(VR:Virtual Reality)及び拡張現実(AR:Augmented Reality)の活用が広がりつつある。VR用及びAR用の表示装置として、ヘッドマウントディスプレイ(HMD:Head Mounted Display)が利用されている。ヘッドマウントディスプレイは、その使用者がバーチャル空間内で高い没入感及び臨場感を得られるように、高精細で広視野なデバイスの開発が進められている。
【0003】
一般的なヘッドマウントディスプレイは、ディスプレイと接眼レンズで構成されており、接眼レンズを通して、拡大されたディスプレイの虚像を使用者が見ることができる。そして、このヘッドマウントディスプレイは、ディスプレイに左右で視差のある映像を表示することで、使用者が立体感を感じることができる。
【0004】
このヘッドマウントディスプレイの問題として、長時間使用時の視覚疲労や不快感が挙げられる。その原因は、焦点調節機能により眼が焦点を合わせる位置と、輻輳機能により両眼の視線方向が交差する位置とが一致していないことと言われている。そして、この問題は、仮想的に3次元物体から目に届くまでの光線を再生するライトフィールド方式のヘッドマウントディスプレイで改善できる(非特許文献1)。
【0005】
図19(a)及び
図19(b)には、ライトフィールド方式に対応したVR用のヘッドマウントディスプレイ9を図示した。このヘッドマウントディスプレイ9は、ディスプレイ90と、レンズアレイ91とを備える。また、ヘッドマウントディスプレイ9を装着する使用者の眼球100と、オブジェクト(例えば、人間)の3次元像Tとを図示した。以後、眼球100に対応させて、左右方向(水平方向)をx軸、上下方向(垂直方向)をy軸、奥行き方向をz軸とする座標系とする。
なお、
図20に示すように、ヘッドマウントディスプレイ9は、左右の眼球100R,100Lに対応するように、2組のディスプレイ90及びレンズアレイ91を備えてもよい。
【0006】
ディスプレイ90は、要素画像eがアレイ状に配列された要素画像群Eを表示するものである。それぞれの要素画像eには、異なる視点で3次元像Tの一部が表示されている。レンズアレイ91は、微小な要素レンズ92が2次元のアレイ状に配列された光学素子である。ディスプレイ90とレンズアレイ91の距離は、レンズアレイ91の焦点距離より短くなるように配置する。
図19(a)に示すように、ディスプレイ90の複数の画素から要素レンズ92の中心を通過した主光線(実線)は、3次元像Tを構成する点から眼球100の異なる場所に入射する光線(一点鎖線)を再現することになる。
【0007】
図19(a)に示すように、眼球100の焦点調節機能により眼球100が焦点を合わせる位置(焦点調節面C)が3次元像Tの点に一致する場合、眼球100に入射した光線は、水晶体101によって網膜102上で1点に集光する。一方、
図19(b)に示すように、眼球100の焦点調節面Cとは異なる奥行き位置の点から出て眼球100に入射した光線は、網膜102上で集光せずに広がりを持つ状態となる。
図20に示すように、焦点調節面Cは、輻輳機能により左右の眼球100R,100Lの視線方向が交差する位置と一致するので、視覚疲労や不快感を軽減できる。
【0008】
また、特許文献1および非特許文献2には、
図21に示すように、ヘッドマウントディスプレイ9Bが記載されている。ヘッドマウントディスプレイ9Bは、ライトフィールド方式に対応しており、ディスプレイ90と、レンズアレイ91と、接眼レンズ93とを備える。このヘッドマウントディスプレイ9Bでは、ディスプレイ90及びレンズアレイ91が使用者の側頭部付近に位置し、接眼レンズ93が使用者の両眼正面に位置するように配置される。ここで、ヘッドマウントディスプレイ9Bでは、ディスプレイ90に要素画像群Eを表示すると、レンズアレイ91と接眼レンズ93との間にオブジェクトの中間像T´が形成される。そして、ヘッドマウントディスプレイ9Bでは、接眼レンズ93を通して、中間像T´が拡大された3次元像(虚像)Tを再現できる。
【0009】
なお、要素レンズ92から眼球100へ到達する光線は、要素レンズ92の中心以外を通る光線も存在し、ディスプレイ90のある点から出た光線が拡散光として眼球100に到達する。また、接眼レンズ93で屈折された光線を進行方向とは逆にたどると、1点に集光する面(集光面)が存在する。この集光面以外では、光線が広がりを持つため、3次元像Tの形成位置が集光面から離れるほど、3次元像Tを構成する点が大きくなり、3次元像Tの鮮明さが低下したり、3次元像Tの形状に歪が生じたりする。なお、集光面近傍でこれらの影響が生じない、又は、影響の少ない範囲を一般的に奥行き再現範囲と呼ぶ。
【0010】
奥行き再現範囲を向上させる手法として、可変焦点レンズを用いて集光面を動的に操作する手法が知られている(非特許文献2、非特許文献3)。また、要素レンズの焦点距離を中心部と周辺部とで異なるレンズアレイを用いて、開口アレイにより光の通過面を時分割で制御する手法も知られている(非特許文献4)。
【先行技術文献】
【特許文献】
【0011】
【非特許文献】
【0012】
【非特許文献1】D. Lanman and D. Luebke, "Near-Eye Light Field Displays," ACM Trans. Graph., 32, 6, 1-10 (2013).
【非特許文献2】H. Huang and H. Hua, "High-performance integral-imaging-based light field augmented reality display using freeform optics," Opt. Express, 26, 17578-17590 (2018).
【非特許文献3】X. Shen and B. Javidi, "Large depth of focus dynamic micro integral imaging for optical see-through augmented reality display using a focus-tunable lens," Appl. Opt. 57, B184-B189 (2018).
【非特許文献4】X. Wang and H. Hua, "Depth-enhanced head-mounted light field displays based on integral imaging," Opt. Lett., 46, 985-988 (2021).
【発明の概要】
【発明が解決しようとする課題】
【0013】
非特許文献2,3に記載の手法では、集光面を移動させる駆動系が必要となり、構造が複雑になるという問題がある。また、非特許文献4に記載の手法では、時分割で光の通過面を制御するため、非常に高速に駆動するディスプレイ及び開口アレイが必要になり、構造が複雑になってしまう。さらに、非特許文献4に記載の手法では、ディスプレイに表示する要素画像群を時分割の各状態でそれぞれ生成させる必要があるため、計算コストが非常に大きくなるという問題がある。
【0014】
そこで、本発明は、計算コストが少なく、簡易な構成で奥行き再現範囲が向上する立体映像表示システム、ヘッドマウントディスプレイ、要素画像群生成装置及びそのプログラムを提供することを課題とする。
【課題を解決するための手段】
【0015】
前記課題を解決するため、本発明に係る立体映像表示システムは、人物の頭部に装着されるライトフィールド方式のヘッドマウントディスプレイと、要素画像で構成されている要素画像群を生成する要素画像群生成装置とを備える構成とした。
【0016】
かかる構成によれば、ヘッドマウントディスプレイは、人物の頭部運動情報を計測するセンサと、要素画像群生成装置が生成した要素画像群を表示する表示手段と、要素画像に対応する要素光学素子を有し、異なる焦点距離の要素光学素子が少なくとも一方向で隣り合うように配列された光学素子アレイと、を備える。
【0017】
また、要素画像群生成装置は、要素画像の画素毎に、要素光学素子を通過して人物の眼球で再帰反射されて要素画像群のオブジェクトに接触する光線を生成する光線生成手段と、人物の頭部運動情報に基づいて、光線を回転及び並進させる回転・並進手段と、回転・並進手段で回転及び並進させた光線を直進させてオブジェクトと接触する場合、光線の始点位置からオブジェクトまでの距離と、オブジェクトと光線との接触位置の色情報とを求める光線追跡手段と、光線の始点位置からオブジェクトまでの距離、及び、光線が通過した要素光学素子の焦点距離に基づいて、要素光学素子の焦点距離毎に定まる集光面の何れに接触位置が最も近くなるかを判定し、最も近い集光面を通過する光線を出射する要素画像の画素に接触位置の色情報を割り当てる画素割当手段と、を備える。
【0018】
ここで、集光面の近傍では3次元像を鮮明に表示することができ、要素光学素子の焦点距離に応じて集光面の位置が変化する。また、立体映像表示システムは、焦点距離の異なる要素光学素子を備えるので、集光面が焦点距離毎に存在し、光線が通過する要素光学素子の焦点距離に応じて適切な集光面が決まる。すなわち、立体映像表示システムでは、オブジェクトの奥行き位置によって、オブジェクト像を形成する光線が通過する要素光学素子を変えることで、奥行き再現範囲を向上させることができる。
さらに、立体映像表示システムは、時分割処理を行わないので計算コストが少なく、集光面を移動させる駆動系を必要としないので簡易な構成を実現することができる。
【0019】
なお、本発明は、前記したヘッドマウントディスプレイ又は要素画像群生成装置として実現することもできる。
また、本発明は、コンピュータを前記した要素画像群生成装置として機能させるためのプログラムで実現することもできる。
【発明の効果】
【0020】
本発明によれば、計算コストが少なく、簡易な構成で奥行き再現範囲を向上させることができる。
【図面の簡単な説明】
【0021】
【
図1】実施形態に係る立体映像表示システムの構成を示すブロック図である。
【
図2】実施形態に係るヘッドマウントディスプレイの外観図である。
【
図3】実施形態に係るヘッドマウントディスプレイの概略図であり、(a)は側面視した状態を表し、(b)は上面視した状態を表す。
【
図4】実施形態において、レンズアレイを説明する説明図であり、(a)は正面視した状態を表し、(b)は側面視した状態を表す。
【
図5】実施形態において、レンズアレイを説明する説明図であり、(a)は正面視した状態を表し、(b)は側面視した状態を表す。
【
図6】実施形態において、ヘッドマウントディスプレイと中間像面及び集光面との関係を説明する説明図である。
【
図7】実施形態において、光線の生成を説明する説明図である。
【
図8】実施形態において、長い焦点距離の要素レンズを光線が通過するときの色情報の割り当てを説明する説明図であり、(a)は色情報を割り当てる状態を表し、(b)は色情報を割り当てない状態を表す。
【
図9】実施形態において、短い焦点距離の要素レンズを光線が通過するときの色情報の割り当てを説明する説明図であり、(a)は色情報を割り当てる状態を表し、(b)は色情報を割り当てない状態を表す。
【
図10】実施形態において、光線が各要素レンズを通過するときの色情報の割り当てを説明する説明図である。
【
図11】実施形態に係る要素画像群生成装置の動作を示すフローチャートである。
【
図12】変形例1において、レンズアレイを説明する説明図である。
【
図13】(a)及び(b)は、変形例2においてレンズアレイを説明する説明図である。
【
図14】(a)及び(b)は、変形例3においてレンズアレイを説明する説明図である。
【
図15】実施例において、奥行き再現範囲のシミュレーションを説明する説明図である。
【
図16】(a)~(d)は、比較例のシミュレーション結果を示す画像である。
【
図17】(a)~(d)は、実施例のシミュレーション結果を示す画像である。
【
図18】(a)は比較例における輝度をプロットしたグラフであり、(b)は実施例における輝度をプロットしたグラフである。
【
図19】従来のヘッドマウントディスプレイを説明する説明図であり、(a)は焦点調節面が3次元像の点に一致する場合を表し、(b)は焦点調節面が3次元像の点に一致しない場合を表す。
【
図20】従来のヘッドマウントディスプレイにおいて、焦点調節面を説明する説明図である。
【
図21】従来のヘッドマウントディスプレイを説明する説明図である。
【発明を実施するための形態】
【0022】
以下、本発明の実施形態について図面を参照して説明する。但し、以下に説明する各実施形態は、本発明の技術思想を具体化するためのものであって、特定的な記載がない限り、本発明を以下のものに限定しない。また、同一の手段には同一の符号を付し、説明を省略する場合がある。
【0023】
[立体映像表示システムの構成]
図1を参照し、立体映像表示システム1の構成について説明する。
立体映像表示システム1は、人物H(
図2)の頭部に装着されるライトフィールド方式のヘッドマウントディスプレイ2と、要素画像e(
図3)で構成されている要素画像群Eを生成する要素画像群生成装置3とを備えるものである。そして、立体映像表示システム1は、人物Hの頭部の向きに応じて、要素画像群生成装置3が要素画像群Eをヘッドマウントディスプレイ2に表示させる。
【0024】
<ヘッドマウントディスプレイ>
ヘッドマウントディスプレイ2は、仮想現実(VR:Virtual Reality)用の表示装置である。
図2に示すように、ヘッドマウントディスプレイ2は、ゴーグル形状の筐体200にディスプレイ21等を内蔵しており、装着バンド201によって、人物Hの頭部に装着される。また、ヘッドマウントディスプレイ2は、スピーカ202を備え、立体映像に連動してスピーカ202が音声を再生してもよい。
【0025】
図1及び
図3(a)に示すように、ヘッドマウントディスプレイ2は、トラッキングセンサ(センサ)20と、ディスプレイ(表示手段)21と、レンズアレイ(光学素子アレイ)22と、接眼レンズ24とを備える。
図3(b)に示すように、ヘッドマウントディスプレイ2は、左右の眼球100L,100R用として、同一構成のディスプレイ21及びレンズアレイ22を計二個ずつ備える。
図3(a)はヘッドマウントディスプレイ2を側面視したときの図であり、
図3(b)はヘッドマウントディスプレイ2を上面視したときの図である。なお、ヘッドマウントディスプレイ2では、ディスプレイ21及びレンズアレイ22を1個ずつ備え、それぞれの左右半分を左右の眼球100L,100R用として用いてもよい(不図示)。
【0026】
ここで、眼球100に対応させて、左右方向(水平方向)をx軸、上下方向(垂直方向)をy軸、奥行き方向をz軸とする座標系とする。また、奥行き方向において、眼球100が位置する方向を前方(手前側)とし、眼球100の反対方向を後方(奥側)とする。
また、説明をわかりやすくするため、要素画像群Eが厚みを有するように図示したが、実際にはディスプレイ21に表示される画像であって厚みを有していない。
【0027】
トラッキングセンサ20は、人物Hの頭部運動情報を計測するものである。頭部運動情報は、頭部の回転を表す回転運動情報、及び、頭部の移動(水平方向、垂直方向及び奥行き方向)を表す並進運動情報からなる。例えば、回転運動情報は、加速度センサ、ジャイロセンサ及び地磁気センサで計測できる。また、並進運動情報は、ステレオカメラの撮影映像に含まれる特徴点から奥行き情報を推定し、推定した奥行き情報から算出できる。つまり、トラッキングセンサ20は、加速度センサ、ジャイロセンサ、地磁気センサ、ステレオカメラなどの複数のセンサ群で構成されている。
【0028】
なお、トラッキングセンサ20は、頭部運動情報として、回転運動情報だけを計測してもよい。この場合、ヘッドマウントディスプレイ2が表示する映像は、人物Hの頭部の回転運動のみに対応するので、人物Hの頭部の並進運動には対応しない。
【0029】
ディスプレイ21は、後記する要素画像群生成装置3が生成した要素画像群Eを表示するものである。つまり、ディスプレイ21は、左右の眼球100R,100Lに対応した要素画像eを2次元状に配列した要素画像群Eを表示する。要素画像eは、異なる視点での3次元像の一部の画像である。例えば、ディスプレイ21は、画素を2次元状(x軸方向及びy軸方向)に配列した液晶パネルや有機EL(Electronic Luminescent)パネル等の直視型ディスプレイである。
【0030】
レンズアレイ22は、要素画像eに対応する要素レンズ(要素光学素子)23を有し、異なる焦点距離の要素レンズ23が少なくとも一方向で隣り合うように配列されたものである。ここで、レンズアレイ22は、ディスプレイ21の前方に配置され、要素画像eに対応するように、要素レンズ23が2次元状(x軸方向及びy軸方向)に配列されている。
【0031】
要素レンズ23は、微小な平凸レンズ又は両凸レンズである。また、要素レンズ23の形状としては、正方形、長方形又は円形があげられる。また、要素レンズの種類としては、球面レンズ、非球面レンズ、フレネルレンズがあげられる。
【0032】
本実施形態では、レンズアレイ22は、焦点距離が異なる2種類の要素レンズ23
S,23
Lで構成され、2種類の要素レンズ23
S,23
Lが市松模様状に配列されている(
図4及び
図5参照)。本実施形態では、要素レンズ23
Lの焦点距離f´
arrayが要素レンズ23
Sの焦点距離f
arrayより長いこととする(f
array<f´
array)。
図4(a)に示すように、レンズアレイ22を正面視すると、長い焦点距離f´
arrayの要素レンズ23
Lと短い焦点距離f
arrayの要素レンズ23
Sとが、x軸方向及びy軸方向で隣り合うように配列されている。
図4(b)に示すように、レンズアレイ22を側面視すると、長い焦点距離f´
arrayの要素レンズ23
Lと短い焦点距離f
arrayの要素レンズ23
Sとが垂直方向に並んでいる。
【0033】
図4(a)に示すように、要素レンズ23が正方形であってもよく、
図5(a)に示すように、要素レンズ23が円形であってもよい。要素レンズ23が円形の場合でも、長い焦点距離f´
arrayの要素レンズ23
Lと短い焦点距離f
arrayの要素レンズ23
Sとが、水平方向及び垂直方向で隣り合うように配列されている。
【0034】
接眼レンズ24は、レンズアレイ22の前方に配置されており、ディスプレイ21及びレンズアレイ22によって形成される中間像を拡大して人物Hに提示するものである。例えば、接眼レンズ24は、平凸レンズ又は両凸レンズである。また、接眼レンズ24の種類としては、球面レンズ、非球面レンズ又はフレネルレンズがあげられる。
【0035】
このような構成により、ヘッドマウントディスプレイ2では、ディスプレイ21に表示される要素画像群Eで再生される3次元像の中間像がディスプレイ21よりも奥側に形成され、接眼レンズ24を通して、中間像が拡大された3次元像(虚像)として再現される。
【0036】
<<中間像面、集光面の位置関係>>
図6を参照し、ヘッドマウントディスプレイ2と中間像面B,B´及び集光面A,A´との関係について説明する。
ヘッドマウントディスプレイ2では、ディスプレイ21とレンズアレイ22との距離aを、要素レンズ23
L,23
Sのうちの短い方の焦点距離f
arrayよりも小さくする。ディスプレイ21に表示する要素画像群E及びレンズアレイ22によって形成される中間像は、虚像としてディスプレイ21の後方に形成される。このとき、ディスプレイ21の共役面である中間像面B,B´は、要素レンズ23
S,23
Lの焦点距離f
array,f´
arrayに応じて奥行き方向で位置が異なる。
【0037】
レンズアレイ22と中間像面B,B´との距離をそれぞれb,b´とする。ディスプレイ21からレンズアレイ22までの距離a、レンズアレイ22と中間像面Bとの距離b、及び、要素レンズ23Sの焦点距離farrayの関係は、以下の式(1)で表される。また、距離a、レンズアレイ22と中間像面B´との距離b´、及び、要素レンズ23Lの焦点距離f´arrayの関係は、以下の式(2)で表される。
【0038】
【0039】
レンズアレイ22と接眼レンズ24との距離をcとし、接眼レンズ24の焦点距離をfeyeとする。ヘッドマウントディスプレイ2では、中間像面Bと接眼レンズ24との距離b+c及び中間像面B´と接眼レンズ24との距離b´+cを、接眼レンズ24の焦点距離feyeよりも短くする。これにより、中間像と接眼レンズ24によって形成される3次元像は、虚像として中間像より後方に形成される。このとき、ディスプレイ21の共役面である集光面A,A´は、中間像面B,B´の後方に形成される。接眼レンズ24と集光面A,A´との距離をd,d´とする。この場合、中間像面Bと接眼レンズ24との距離b+cと、距離dと、接眼レンズ24の焦点距離feyeとの関係は、以下の式(3)で表される。また、この場合、中間像面B´と接眼レンズ24との距離b´+cと、距離d´と、焦点距離feyeとの関係は、以下の式(4)で表される。
【0040】
【0041】
<要素画像群生成装置>
図1に戻り、要素画像群生成装置3を説明する。
図1に示すように、要素画像群生成装置3は、光線生成手段30と、回転・並進手段31と、光線追跡手段32と、画素割当手段33とを備える。なお、要素画像群生成装置3において、画素割当手段33以外の各手段は、一般的な光線追跡法と同様である。
【0042】
光線生成手段30は、要素画像eの画素毎に、要素レンズ23を通過して接眼レンズ24で屈折された後、人物Hの眼球100で再帰反射されて要素画像群Eのオブジェクトに接触する光線を生成するものである。つまり、光線生成手段30は、オブジェクトの3次元像を表示するため、要素画像eの画素からオブジェクトの3次元像に到達する光線を算出する。
【0043】
<<光線生成手段による光線の生成>>
図7を参照し、光線生成手段30による光線の生成を具体的に説明する。
ディスプレイ21の画素の中心位置を(x
1,y
1,z
1)とし、要素レンズ23の中心位置を(x
2,y
2,z
2)とする。
図7に示すように、ディスプレイ21から出射して要素レンズ23の中心位置(x
2,y
2,z
2)を通過する光線v
inは、以下の式(5)に示すようにベクトルで定義される。
【0044】
【0045】
なお、tは、任意の実数である。また、式(5)の右辺第1項が光線vinの始点位置に対応し、右辺第2項が光線vinの方向ベクトルに対応する。このとき、通過した要素レンズ23の焦点距離の数値を保持しておく。
【0046】
次に、式(5)で定義された光線を直進させ、接眼レンズ24と接触した位置で光線vinを屈折させる。光線vinと接眼レンズ24との接触位置を(x3,y3,z3)とする。このとき、接眼レンズ24で屈折後の光線vrefは、以下の式(6)で表される。
【0047】
【0048】
接眼レンズ24で屈折された光線vrefを眼球100で再帰反射させて、3次元像からのどのような光線を再現しているかを調べる。再帰反射後の光線voutは、以下の式(7)で表される。
【0049】
【0050】
このように、光線生成手段30は、式(5)~式(7)を用いて、要素レンズ23を通過して人物Hの眼球100で再帰反射され、オブジェクトの3次元像Tに接触する光線voutを生成できる。
【0051】
図1に戻り、要素画像群生成装置3の説明を続ける。
回転・並進手段31は、人物Hの頭部運動情報に基づいて、光線v
outを回転及び並進させるものである。つまり、回転・並進手段31は、光線生成手段30が生成した光線v
outに対して、人物Hの頭部運動情報に応じた回転処理及び並進処理を行う。具体的には、回転・並進手段31は、光線v
outの方向ベクトルに対して回転処理を行い、光線v
outの始点位置に並進座標を付加すればよい。なお、トラッキングセンサ20が回転運動情報のみを計測した場合、並進座標をゼロとして扱えばよい。
【0052】
ここで、x軸、y軸、z軸回りの回転角度をθx、θy、θzとし、x軸、y軸、z軸回りの回転行列をRx、Ry、Rzとし、並進移動ベクトルをb´とする。この場合、回転処理及び並進処理後の光線v´outは、以下の式(8)で表される。このように、回転・並進手段31は、式(8)を用いて、頭部運動情報に応じて回転処理及び並進処理が行われた光線v´outを生成できる。
【0053】
【0054】
光線追跡手段32は、回転・並進手段31が回転及び並進させた光線v´outを直進させてオブジェクトと接触する場合、光線v´outの始点位置からオブジェクトまでの距離と、オブジェクトと光線v´outとの接触位置の色情報とを求めるものである。つまり、光線追跡手段32は、光線v´outがオブジェクトに到達する場合、光線v´outがオブジェクトに到達した位置の色情報を求める。
【0055】
具体的には、光線追跡手段32には、オブジェクトの情報が外部から入力される。例えば、コンテンツ制作者が手動でオブジェクトの情報を光線追跡手段32に入力する。このオブジェクトの情報は、メッシュ情報(頂点座標、法線ベクトル、色情報)が含まれており、obj、fbx、glbなどのファイル形式で記述できる。また、光線追跡手段32は、光線v´outを直進させて、3次元像Tとの接触判定を行う。ここで、光線v´outが3次元像Tと接触した場合、光線追跡手段32は、光線の始点位置v´outから3次元像Tまでの距離と、3次元像Tと光線v´outの接触位置の色情報とを求める。なお、光線v´outの始点位置は、式(8)で定義される光線の始点位置、つまり、接眼レンズ24での屈折位置となる。
【0056】
画素割当手段33は、光線v´outの始点位置からオブジェクトまでの距離、及び、光線v´outが通過した要素レンズ23の焦点距離に基づいて、接触位置が集光面の何れに最も近くなるかを判定するものである。つまり、画素割当手段33は、光線v´outがオブジェクトに到達した位置が、集光面の何れに最も近くなるかを判定する。そして、画素割当手段33は、最も近い集光面を通過する光線を出射する要素画像eの画素に接触位置の色情報を割り当てる。
【0057】
<<画素割当手段による色情報の割り当て>>
図8~
図10を参照し、画素割当手段33による色情報の割り当てを詳細に説明する。
前記したように、接眼レンズ24から2つの集光面A,A´までの距離d,d´は、式(3)及び式(4)から分かる。さらに、集光面A,A´に対応する要素レンズ23
S,23
Lの焦点距離f
array,f´
arrayは、式(1)及び式(2)から分かる。
【0058】
集光面付近では、オブジェクトの3次元像Tを鮮明に表示できるため、光線v´outの始点位置(つまり、接眼レンズ24の屈折位置)から3次元像Tまでの距離に応じて、より近い集光面A,A´に対応する要素レンズ23S,23Lで3次元像Tを形成すればよい。
【0059】
ここで、前方にリンゴの3次元像T
1が位置し、後方に人型の3次元像T
2が配置されていることとする。また、説明を分かりやすくするため、光線v
inが要素レンズ23
Lを通過する場合を
図8に図示し、光線v
inが要素レンズ23
Sを通過する場合を
図9に図示した。
【0060】
まず、要素画像eから出射した光線v
inが、長い焦点距離f´
arrayの要素レンズ23
Lを通過する場合を考える。
図8(a)に示すように、3次元像T
1と光線v´
outとの接触位置が後方の集光面A´より前方の集光面Aに近くなる。従って、画素割当手段33は、長い焦点距離f´
arrayの要素レンズ23
Lを光線v
inが通過するとき、3次元像T
1と光線v´
outとの接触位置の色情報を割り当てる。一方、
図8(b)に示すように、画素割当手段33は、この光線v
inについては、後方の集光面A´に近い3次元像T
2と光線v´
outとの接触位置の色情報を割り当てない(例えば、黒色にする)。
【0061】
次に、要素画像eから出射した光線v
inが、短い焦点距離f
arrayの要素レンズ23
Sを通過する場合を考える。
図9(a)に示すように、3次元像T
2と光線v´
outとの接触位置が前方の集光面Aより後方の集光面A´に近くなる。従って、画素割当手段33は、短い焦点距離f
arrayの要素レンズ23
Sを光線v
inが通過するとき、3次元像T
2と光線v´
outとの接触位置の色情報を割り当てる。一方、
図9(b)に示すように、画素割当手段33は、この光線v
inについては、前方の集光面Aに近い3次元像T
1と光線v´
outとの接触位置の色情報を割り当てない(例えば、黒色にする)。
【0062】
なお、説明を分かりやすくするため、光線v
inが要素レンズ23
L,23
Sを通過する場合に分けて説明したが、この限りでない。実際には、要素画像eの画素位置毎に、光線v´
outと3次元像T
1,T
2との接触位置が異なるので、
図10に示すように、画素割当手段33は、3次元像T
1,T
2の両方から色情報を割り当てる。このようにして、要素画像群生成装置3は、3次元像T
1,T
2の両方を表示できる。
【0063】
すなわち、ディスプレイ21の点光源から出た光は、通過する要素レンズ23L,23Sによって、異なる集光面A,A´で集光する。そして、要素画像群生成装置3は、3次元像Tの奥行き位置に近い集光面に対応する光線で3次元像Tを形成することで、従来よりも広い奥行きの範囲に鮮明な3次元像を形成できる。
【0064】
なお、要素画像群生成装置3は、要素画像eの全画素に対して、前記した処理をフレーム毎に適用することで、要素画像群Eを生成できる。このとき、光線生成手段30については、計算コストを低減できるので、先頭フレームで1回だけ処理してもよい(特開2022-050768号公報参照)。
【0065】
[要素画像群生成装置の動作]
図11を参照し、要素画像群生成装置3の動作について説明する。
図11に示すように、ステップS1において、光線生成手段30は、要素画像eの画素毎に光線v
outを生成する。
ステップS2において、回転・並進手段31は、ステップS1で生成した光線v
outに対して、人物Hの頭部運動情報に応じた回転処理及び並進処理を行う。
【0066】
ステップS3において、光線追跡手段32は、ステップS2で回転処理及び並進処理を行った光線v´outを直進させて、オブジェクトとの接触判定を行う(光線追跡)。そして、光線追跡手段32は、この光線v´outがオブジェクトと接触する場合、光線v´outの始点位置からオブジェクトまでの距離と、オブジェクトと光線v´outとの接触位置の色情報とを求める。
【0067】
ステップS4において、画素割当手段33は、ステップS3で求めた距離及び焦点距離に基づいて、オブジェクトと光線v´outとの接触位置が集光面A,A´の何れに最も近くなるかを判定する。そして、画素割当手段33は、最も近い集光面を通過する光線を出射する要素画像の画素に接触位置の色情報を割り当てる。
【0068】
[作用・効果]
以上のように、実施形態に係る立体映像表示システム1は、焦点距離の異なる要素レンズ23L,23Sを備えるので、集光面が焦点距離毎に存在し、光線が通過する要素レンズ23によって適切な集光面が決まる。すなわち、立体映像表示システム1では、オブジェクトの奥行き位置によって、オブジェクトの3次元像を形成する光線の通過する要素レンズ23を変えることで、奥行き再現範囲を向上させることができる。さらに、立体映像表示システム1は、時分割処理と集光面を移動させる駆動系を必要としないので、計算コストが少なく、簡易な構成を実現することができる。
【0069】
すなわち、ヘッドマウントディスプレイ2は、レンズアレイ22を構成する要素レンズ23を交互に異なる焦点距離にするという簡易な構成であるため、従来技術と比べ、装置全体が複雑化することはなく、要素画像eの描画速度の低下やフレームレートの低下を抑えることができる。
【0070】
以上、実施形態を詳述してきたが、本発明は前記した実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
【0071】
(変形例1)
前記した実施形態では、
図4及び
図5に示すように、x軸方向及びy軸方向の両方向で要素レンズ23
S,23
Lを交互に配列することとして説明したが、これに限定されない。例えば、
図12に示すように、一方向(例えば、y軸方向)のみで要素レンズ23
S,23
Lを交互に配列してもよい。
【0072】
(変形例2)
前記した実施形態では、レンズアレイ22が、焦点距離が異なる2種類の要素レンズ23
S,23
Lを備えることとして説明したが、これに限定されない。例えば、
図13に示すように、レンズアレイ22Bが、焦点距離が異なる3種類の要素レンズ23
1~23
3を備えてもよい。この場合、
図13(a)に示すように、x軸方向及びy軸方向で、3種類の要素レンズ23
1~23
3を順に配列してもよい。また、
図13(b)に示すように、一方向(例えば、y軸方向)のみで3種類の要素レンズ23
1~23
3を順に配列してもよい。
【0073】
(変形例3)
さらに、
図14に示すように、レンズアレイ22Cが、焦点距離が異なる4種類の要素レンズ23
1~23
4を備えてもよい。この場合、
図14(a)に示すように、x軸方向及びy軸方向で、4種類の要素レンズ23
1~23
4を順に配列してもよい。また、
図14(b)に示すように、2種類の要素レンズ23
1,23
2の組又は要素レンズ23
3,23
4の組からなる列をy軸方向で順に配列してもよい。
【0074】
(変形例4)
前記した実施形態では、ヘッドマウントディスプレイが接眼レンズを備えることとして説明したが、接眼レンズを備えずともよい。この場合、オブジェクトの中間像がそのまま3次元像として再現されることになる。このとき、光線生成手段では、式(5)の光線vinを人物の眼球でそのまま再帰反射させることで、光線voutを生成する。従って、光線outの始点位置は、ディスプレイの画素の中心位置を(x1,y1,z1)となる。
【0075】
(その他変形例)
前記した実施形態では、ヘッドマウントディスプレイがVR用の表示装置であることとして説明したが、AR用の表示装置であってもよい。例えば、AR用のヘッドマウントディスプレイでは、ヘッドマウントディスプレイの接眼レンズの前方にハーフミラーを配置する。そして、AR用のヘッドマウントディスプレイでは、接眼レンズを介して出射する光線を、ハーフミラーで反射して両眼に到達させ、前景の光をハーフミラーを透過して両眼に到達させればよい。また、AR用のヘッドマウントディスプレイでは、接眼レンズの代わりに、自由曲面プリズム又は導光板を用いてもよい。これによって、AR用のヘッドマウントディスプレイにおいても、奥行き再現範囲を向上させることができる。
【0076】
画素割当手段における色情報の割り当て判定は、前方又は後方の集光面のどちらに近いかという条件以外、所定の奥行き位置に基準面を設定し、その基準面に対して接触位置が前方か後方かで判定してもよい。
【0077】
前記した実施形態では、要素画像群生成装置が独立したハードウェアであることとして説明したが、本発明は、これに限定されない。例えば、本発明は、コンピュータが備えるCPU、メモリ、ハードディスク等のハードウェア資源を、前記した要素画像群生成装置として機能させるためのプログラムで実現することもできる。このプログラムは、通信回線を介して配布してもよく、CD-ROMやフラッシュメモリ等の記録媒体に書き込んで配布してもよい。
【実施例0078】
以下、
図15~
図18を参照し、立体映像表示システムの実施例について説明する。
本実施例では、ヘッドマウントディスプレイ2を以下の表1のように構成した。この表1の構成を実施例とする。また、レンズアレイ22を構成する要素レンズ23を全て焦点距離19ミリメートルとした構成を比較例とする。この比較例では、レンズアレイ22と中間像面との距離を153ミリメートルとし、接眼レンズ24と集光面との距離を1100ミリメートルとした。
【0079】
【0080】
前記した実施例及び比較例について奥行き再現範囲のシミュレーションを以下のとおり行った。
図15に示すように、白黒のテクスチャを貼り付けたプレートPを被写体として異なる奥行き位置に配置し、ディスプレイ21に表示する要素画像群Eを生成した。このとき、奥行き位置は接眼レンズ24から400ミリメートル、700ミリメートル及び2000ミリメートルとし、各プレートPは、眼球面で見たときの視角が一定となる大きさとした。そして、ディスプレイ21で表示する要素画像群Eをレンズアレイ22及び接眼レンズ24を通して見たときのプレートPを光学シミュレーションにより生成した。
【0081】
図16~
図18にシミュレーション結果を示した。
図16は、比較例のシミュレーション結果である。
図16(a)は、400ミリメートル、700ミリメートル及び2000ミリメートルの奥行き位置にプレートPを配置したときの要素画像群E(一番左)を表す。
図16(b)は、
図16(a)の各要素画像群Eについて、奥行き位置400ミリメートルで目の焦点を合わせたときの3次元像を表す。
図16(c)は、
図16(a)の各要素画像群Eについて、奥行き位置700ミリメートルで目の焦点を合わせたときの3次元像を表す。
図16(d)は、
図16(a)の各要素画像群Eについて、奥行き位置2000ミリメートルで目の焦点を合わせたときの3次元像を表す。
【0082】
図16に示すように、700ミリメートルや2000ミリメートルの奥行きに焦点を合わせたときに3次元像は鮮明に見えているが、400ミリメートルに焦点を合わせたときは、テクスチャのエッジがぼけて鮮明さが低下している。比較例では、集光面を1100ミリメートルの奥行きに設定しているため、そこから離れた位置に3次元像を形成させたことで光線の広がりが発生し、3次元像の鮮明さが低下したことによるものである。
【0083】
図17は、
図16の比較例と同様、実施例のシミュレーション結果を表す。
図17に示すように、実施例では、700ミリメートルや2000ミリメートルの奥行きに焦点を合わせたとき、比較例と同様に3次元像が鮮明に見えている。さらに、実施例では、400ミリメートルに焦点を合わせたときも、3次元像が鮮明に見えている。
【0084】
実施例では、集光面を450ミリメートルと1100ミリメートルの奥行きに設定している。そして、400ミリメートルの奥行きに配置したプレートPで450ミリメートルの奥行きにある集光面の光線で3次元像を形成し、700ミリメートル及び2000ミリメートルの奥行きに配置したプレートPで1100ミリメートルの奥行きにある集光面の光線で3次元像を形成する。従って、実施例では、比較例よりも広い奥行きで鮮明な3次元像を表示することができる。
【0085】
図18は、
図16及び
図17に示す画像の直線部分の輝度値をプロットしたものであり、(a)が比較例を表し、(b)が実施例を表す。
図18(a)に示すように、比較例では、3次元像の鮮明さが低下し、700ミリメートルや2000ミリメートルに比べて、400ミリメートルでエッジが丸くなっているのが分かる。一方、
図18(b)に示すように、実施例では、何れの奥行きにおいてもエッジがシャープな形状を維持しているのが分かる。このように、実施例では、焦点距離が異なる要素レンズで構成されたレンズアレイを用いることで、比較例に比べて、奥行き再現範囲を向上させることができる。