(58)【調査した分野】(Int.Cl.,DB名)
複数の視点画像における視差が最も離れた2つの視点画像を裸眼立体ディスプレイ装置で提示させたときの提示方向がなす所定角度の視認範囲の内、観察者が前記裸眼立体ディスプレイ装置を観察したときに目が存在する可能性が相対的に高い第1の角度領域と目が存在する可能性が相対的に低い第2の角度領域とを設定し、前記複数の視点画像の内、前記第1の角度領域に提示される視点画像における隣接する視点画像間の視差を、前記第2の角度領域に提示される視点画像における隣接する視点画像間の視差よりも小さくするよう予め視点を調整した視点画像を生成し、
前記予め視点を調整した視点画像を所定のフォーマットにフォーマット化して裸眼立体視用映像データを生成する
ことを特徴とする裸眼立体視用映像データ生成方法。
前記複数の視点画像を撮影する複数の撮像装置の互いの間隔を調節して、前記第1及び第2の角度領域それぞれの隣接する視点画像間の視差を調整することによって、視点を調整した視点画像を生成することを特徴とする請求項1記載の裸眼立体視用映像データ生成方法。
コンピュータグラフィックスによるレンダリングによって、前記第1の角度領域に提示される視点画像における隣接する視点画像間の視差を、前記第2の角度領域に提示される視点画像における隣接する視点画像間の視差よりも小さくするよう視点を調整した複数の視点画像を生成する
ことを特徴とする請求項1記載の裸眼立体視用映像データ生成方法。
【発明を実施するための形態】
【0017】
以下、本発明の裸眼立体視用映像データ生成方法の一実施形態について、添付図面を参照して説明する。まず、
図1を用いて、多眼式の裸眼立体ディスプレイ装置において、画像がずれて視認される理由について説明する。
【0018】
図1(A)は、視点0〜8の9視点の映像を表示可能な裸眼立体ディスプレイ装置の構成例である。
図1(A)において、表示装置50には、複数の画素Pxlが水平(H)及び垂直(V)方向に配列されている。画素Pxlに付している数字はそれぞれの画素Pxlがどの視点画像を表示するかを示している。ここでは1つのシリンドリカルレンズしか示していないが、配列された複数の画素Pxl上には、レンチキュラーレンズLLsが、シリンドリカルレンズの周期方向が画素Pxlの配列の水平方向に対して傾けた状態で配置されている。シリンドリカルレンズ(レンチキュラーレンズLLs)の周期方向とは、シリンドリカルレンズの境界線Lbrと直交する方向である。
【0019】
ブラックストライプがないと仮定した場合の画素Pxlの水平方向の画素ピッチはpx、垂直方向の画素ピッチはpyである。レンチキュラーレンズLLsの水平方向のレンズピッチは4.5px、傾斜角度はtan
-1(px/2py)となっている。
【0020】
図1(A)の裸眼立体ディスプレイ装置(表示装置50)をある位置から見た場合、シリンドリカルレンズの境界線Lbrから等距離の破線にて示す直線Led上に存在する画素Pxlのみが見える。直線Led上に見える画素Pxlを白で、他の画素Pxlには梨地模様を付している。
図1(A)より分かるように、視点0の画像と視点1の画像とが見える。このため、
図1(B)に示すように、視点画像Im1と視点画像Im2とがずれた状態で重なって視認される。視点画像Im1と視点画像Im2との間には視差Paxが存在している。視差Paxが大きい場合には左右に大きくぶれた画像となり、水平方向の解像感が劣化することとなる。
【0021】
レンチキュラーレンズLLsを用いた多眼式の裸眼立体ディスプレイ装置においては、レンズピッチを大きくし、焦点距離を短くするほど視認範囲を広くすることができる。しなしながらその一方で、解像度が劣化する。そこで、視認範囲と解像度との兼ね合いを考慮し、視認範囲を裸眼立体ディスプレイ装置の画面表面に垂直な直線に対して水平方向に±10〜15°とするのが一般的である。
【0022】
図2において、裸眼立体ディスプレイ装置100から伸びている矢印線は視点画像の提示方向である。それぞれの提示方向に付している符号はそれぞれの視点画像を示す番号である。
図2に示すように、n個の互いに異なる視点画像を互いに異なるn方向に分割させて提示する裸眼立体ディスプレイ装置100において、視認範囲θviは、視点画像0を提示する方向と視点画像n−1を提示する方向とのなす角度で定義される。裸眼立体ディスプレイ装置100は、
図1の表示装置50及びレンチキュラーレンズLLsを有する。
【0023】
観察者が裸眼立体ディスプレイ装置100の近くから立体画像を見ようとする場合、観察者の目の位置はおおよそ
図3(A)に示す位置にあると予想される。観察者の右目ERと左目ELとの間隔(眼間距離)Dlrは視認可能幅Dviとさほど差がないため、
図3(B)に示すように、視認範囲θvi内の左側に左目が存在する可能性が相対的に高い角度領域θlpと、視認範囲θvi内の右側に右目が存在する可能性が相対的に高い角度領域θrpとが存在する。視認範囲θvi内の中央には左目も右目も存在する可能性が相対的に低い角度領域θnpが存在する。
【0024】
図4を用いて、裸眼立体ディスプレイ装置100がn個の視点画像をn方向に分割させて提示する際の通常の提示方向について説明する。視点画像0を提示する方向を基準として視点画像iを提示する方向までの角度をθiとする。角度θiは視点画像の番号iに比例する。このように、n個の視点画像を提示する方向は等角度ずつずらした方向とするのが通常である。本実施形態においては、上述した従来の技術を解決するため、左目が存在する可能性が高い角度領域θlp及び右目が存在する可能性が高い角度領域θrpにおいては隣接する視点画像間の視差を小さくし、左目も右目も存在する可能性が低い角度領域θnpにおいては隣接する視点画像間の視差を大きくする。
【0025】
なお、
図3(A)において、観察者が裸眼立体ディスプレイ装置100から離れて観察すると、視認可能幅Dviが眼間距離Dlrよりも大きくなり、視認可能幅Dvi内で左目が存在する可能性と右目が存在する可能性との差は小さくなる。観察距離が離れるほど解像感の劣化に対して鈍感になるため、上記の隣接する視点画像間の視差を異ならせる方法は観察距離に関わらず有効である。また、隣接する視点画像間の視差を異ならせることにより運動視差は実際とは異なるが、立体画像の奥行き手がかりの知覚は両眼視差が支配的であるため、特に問題になることはない。
【0026】
隣接する視点画像間の視差を異ならせる方法は、n個の視点画像を撮影する際の撮影の仕方を工夫して実現する方法と、n個の視点画像を撮影する撮影の仕方は通常の撮影方法とし、映像信号処理によって隣接する視点画像間の視差を異ならせた映像データを生成する方法とがある。また、2つの視点画像を撮影して、映像信号処理によって2つの視点画像のデータに基づいて隣接する視点画像間の視差を異ならせたn個の視点画像の映像データを生成する方法もある。さらには、撮像装置で実際に撮像するのではなく、コンピュータグラフィックス(CG)によるレンダリングによって実現する方法もある。
【0027】
<裸眼立体視用映像データ生成方法の一実施形態>
ここで、裸眼立体視用映像データ生成方法の一実施形態として、n個の視点画像を撮影する際の撮影の仕方を工夫することによって隣接する視点画像間の視差を異ならせる方法について説明する。まず、比較のため
図5(A),(B)を用いて通常の撮影の仕方について説明する。
図5(A)に示すように、n個の撮像装置Cm0〜Cmn-1がクリッピングポイントCを中心にした円弧状に等距離で等しい角度間隔で並べられている。撮像装置Cm0は視点0の画像を撮影する撮像装置であり、撮像装置Cmiは視点iの画像を撮影する撮像装置であり、撮像装置Cmn-1は視点n−1の画像を撮影する撮像装置である。撮像装置Cm0による視点0の撮影方向から撮像装置Cmiによる視点iの撮影方向までの角度φiとすると、角度φiは
図4で説明した角度θiと比例する。
【0028】
図5(B)は、無限遠をクリッピングポイントとした場合のn個の視点画像の撮影方法を示している。視点0の画像を撮影する撮像装置Cm0と視点iの画像を撮影する撮像装置Cmiとの間の距離をΔdiとすると、距離Δdiはiに比例する。
【0029】
図6(A),(B)を用いて、隣接する視点画像間の視差を異ならせる撮影方法について説明する。
図6(A),(B)は、
図5(A)と同様に、撮像装置Cm0〜Cmn-1を、クリッピングポイントCを中心にした円弧状に並べた場合の撮影方法を示している。
図5(B)と同様、無限遠をクリッピングポイントとすることも可能であるが、ここでは撮像装置Cm0〜Cmn-1を円弧状に並べた場合のみについて説明する。
【0030】
図6(A)において、撮像装置Cmi1,Cmi2は
図3(B)で説明した左目が存在する可能性が高い角度領域θlp内に位置している撮像装置である。撮像装置Cmi3,Cmi4は
図3(B)で説明した右目が存在する可能性が高い角度領域θrpに位置している撮像装置である。
図6(A)に示すように、左目が存在する可能性が高い角度領域θlp内に位置している撮像装置Cmi1,Cmi2の間隔、及び、右目が存在する可能性が高い角度領域θrpに位置している撮像装置Cmi3,Cmi4の間隔を、
図5(A)のようにn個の撮像装置Cm0〜Cmn-1を等しい角度間隔で配置させた場合と比較して狭くする。ここでは、角度領域θlp,θrpそれぞれで2つの撮像装置の間隔を狭くしているが、角度領域θlp,θrp内それぞれにさらに多くの撮像装置が存在する場合には、それぞれの間隔を狭くすればよい。
【0031】
一方、
図6(B)において、撮像装置Cmi5,Cmi6は
図3(B)で説明した左目も右目も存在する可能性が低い角度領域θnp内に位置している撮像装置である。
図6(B)に示すように、左目も右目も存在する可能性が低い角度領域θnp内に位置している撮像装置Cmi5,Cmi6の間隔を、
図5(A)のようにn個の撮像装置Cm0〜Cmn-1を等しい角度間隔で配置させた場合と比較して広くする。ここでは、角度領域θnp内の2つの撮像装置の間隔を狭くしているが、角度領域θnp内にさらに多くの撮像装置が存在する場合には、それぞれの間隔を広くすればよい。
【0032】
本実施形態においては、一例として
図6(A),(B)のように撮影することにより、左目が存在する可能性が高い角度領域θlp及び右目が存在する可能性が高い角度領域θrpにおける隣接する視点画像間の視差を、本発明を適用しない場合と比較して小さくし、左目も右目も存在する可能性が低い角度領域θnpにおける隣接する視点画像間の視差を、本発明を適用しない場合と比較して大きくする。
【0033】
図7〜
図10を用いて、本実施形態の裸眼立体視用映像データ生成方法の各例について説明する。
図7は、
図6(A),(B)のようにしてn個の視点画像を撮影した場合の映像データ生成方法を示している。
図7において、ステップS1にて、n個の撮像装置Cm0〜Cmn-1の間隔を調節して、左右の目が存在する可能性が高い領域における隣接する視点画像間の視差を小さくし、左右の目が存在する可能性が低い領域における隣接する視点画像間の視差を大きくして、n視点の視差画像を撮影する。次に、ステップS2にて、撮影したn視点の視差画像の撮像信号に基づいて、所定のフォーマットにフォーマット化して裸眼立体視用映像データを生成する。裸眼立体視用映像データのフォーマットとしては、ライン・バイ・ライン方式、サイド・バイ・サイド方式、フレームシーケンシャル方式、もしくはそれに順じた多視点用のフォーマット等のいずれでもよい。
【0034】
ステップS2で生成した裸眼立体視用映像データを
図1で説明した表示装置50及びレンチキュラーレンズLLsを有する裸眼立体ディスプレイ装置100に入力して表示させれば、大きな奥行きや飛び出しを表現する場合でも解像感の高い立体画像とすることができる。
【0035】
図8は、n個の視点画像を撮影する撮影の仕方は通常の撮影方法とし、映像信号処理によって隣接する視点画像間の視差を異ならせた映像データを生成する例である。
図8において、ステップS11にて、n個の撮像装置Cm0〜Cmn-1の間隔を等間隔にして、n視点の視差画像を撮影する。次に、ステップS12にて、映像信号処理装置を用いて、撮影したn視点の視差画像の撮像信号に基づいて、左右の目が存在する可能性が高い領域における隣接する視点画像間の視差を小さくし、左右の目が存在する可能性が低い領域おける隣接する視点画像間の視差を大きくしたn視点の視差画像を生成する。
【0036】
そして、ステップS13にて、生成したn視点の視差画像の映像データに基づいて、所定のフォーマットにフォーマット化して裸眼立体視用映像データを生成する。ステップS12で用いる映像信号処理装置としては視差マップ等を用いた公知の装置を用いることができるので、詳細な説明を省略する。ステップS13で生成した裸眼立体視用映像データを裸眼立体ディスプレイ装置100に入力して表示させれば、
図7の場合と同様の効果を得ることができる。
【0037】
図9は、2つの視点画像を撮影して、映像信号処理によって2つの視点画像のデータに基づいて隣接する視点画像間の視差を異ならせたn個の視点画像の映像データを生成する例である。
図9において、ステップS21にて、2つの撮像装置を用いて2視点の視差画像を撮影する。次に、ステップS22にて、映像信号処理装置を用いて、撮影した2視点の視差画像の撮像信号に基づいて、左右の目が存在する可能性が高い領域における隣接する視点画像間の視差を小さくし、左右の目が存在する可能性が低い領域おける隣接する視点画像間の視差を大きくしたn視点の視差画像を生成する。
【0038】
そして、ステップS23にて、生成したn視点の視差画像の映像データに基づいて、所定のフォーマットにフォーマット化して裸眼立体視用映像データを生成する。ステップS22で用いる映像信号処理装置も、視差マップ等を用いて中間の視点画像を生成する公知の装置を用いることができる。ステップS23で生成した裸眼立体視用映像データを裸眼立体ディスプレイ装置100に入力して表示させれば、
図7の場合と同様の効果を得ることができる。
【0039】
図10は、撮像装置で実際に撮像するのではなく、CGによる3Dオブジェクトデータのレンダリングによって実現する例である。なお、3Dオブジェクトデータは、頂点座標の集合データ等、描画するオブジェクトの3次元形状が復元できる必要なデータを有するものである。
図10において、ステップS31にて、CGによる3Dオブジェクトデータのレンダリングによって、左右の目が存在する可能性が高い領域における隣接する視点画像間の視差を小さくし、左右の目が存在する可能性が低い領域おける隣接する視点画像間の視差を大きくしたn視点の視差画像を生成する。次に、ステップS32にて、生成したn視点の視差画像の映像データに基づいて、所定のフォーマットの裸眼立体視用映像データを生成する。ステップS32で生成した裸眼立体視用映像データを裸眼立体ディスプレイ装置100に入力して表示させれば、
図7の場合と同様の効果を得ることができる。
【0040】
<裸眼立体ディスプレイ装置及び視点調整方法の第1実施形態>
次に、
図11を用いて裸眼立体ディスプレイ装置及び視点調整方法の第1実施形態について説明する。本実施形態の裸眼立体ディスプレイ装置は、一例として、CGによってレンダリング可能な3Dオブジェクトデータを入力する。本実施形態の裸眼立体ディスプレイ装置は、隣接する視点画像間の視差を異ならせるように3Dオブジェクトデータをレンダリングし、表示させるように構成したものである。
【0041】
図11において、視差レベル算出部31及び視点画像作成部34には、3Dオブジェクトデータが入力される。表示装置50の具体的構成は
図1(A)で説明した通りである。表示装置50上にはレンチキュラーレンズLLsが配置されている。
図1(A)に示す0〜8の視点画像は、レンチキュラーレンズLLsによってそれぞれ異なる方向から視認されることになる。まず、
図12を用いて、後述する本実施形態による処理を施さずに3Dオブジェクトデータをレンダリングし、9視点の視点画像を表示装置50に表示させた場合の視点画像の提示方向について説明する。
【0042】
図12に示すように、視点iが0の視点画像(視点画像0)は裸眼立体ディスプレイ装置100からθ0として0°の方向に提示される。裸眼立体ディスプレイ装置100は、
図11における表示装置50及びレンチキュラーレンズLLsを含む。ここでは視認範囲θviを24°とすると、視点iが8の視点画像(視点画像8)は裸眼立体ディスプレイ装置100からθ8として24°の方向に提示される。視点画像0と視点画像8との間の視点画像は3°ずつの間隔で提示されることになる。例えば、視点iが1の視点画像は裸眼立体ディスプレイ装置100からθ1として3°の方向に提示される。
【0043】
図11に戻り、本実施形態の裸眼立体ディスプレイ装置の動作について説明する。視差レベル算出部31は、クリッピングポイントCと3Dオブジェクトとの距離から視差レベルLpaを算出する。
図13に示すように、視差レベル算出部31は、3Dオブジェクトデータが入力されると、世界座標系上にオブジェクトOBを配置する。視差レベル算出部31は、クリッピングポイントCとオブジェクトOBの重心座標との距離を計算して視差レベルLpaを算出する。視差レベルLpaは例えば0〜2の3段階とする。視差レベルLpaは視点調整部32に入力される。なお、視差レベルの算出方法は、これに限ったものではなく、入力する3Dオブジェクトデータにヘッダ情報として添付するなど、別の方法も考えられる。
【0044】
テーブル保持部33には、
図14に示す視差画像提示方向設定テーブルが保持されている。
図14に示すように、視差画像提示方向設定テーブルには、3Dオブジェクトをレンダリングする撮像装置の方向を示す角度φiとして、視差レベルLpa0〜2に応じた角度の組が設定されている。ここでは視差レベルLpaを3段階とし、角度φiの組を3組としたが、これに限定されない。なお、CGによるレンダリングでは実際には撮像装置は存在しないが、撮像装置で撮像したものと同等の画像を作成することから、撮像装置の角度φiと称している。
図14においては、
図12で説明した通常の提示方向θiも示している。裸眼立体ディスプレイ装置が通常の提示方向θiでの視差画像の提示を行う必要がない場合には省略可能である。また、
図14においては、理解を容易にするため目が存在する可能性高い角度領域と可能性が低い角度領域を示している。
【0045】
視点調整部32は、テーブル保持部33より、視差レベル算出部31より入力された視差レベルLpaに応じた角度φiを示す情報を読み出す。視点調整部32は、読み出した角度φiを示す情報を視点画像作成部34に入力する。視点画像作成部34は、入力された3Dオブジェクトデータと角度φiを示す情報とに基づいて、左右の目が存在する可能性が高い角度領域における隣接する視点画像間の視差を小さくし、左右の目が存在する可能性が低い角度領域おける隣接する視点画像間の視差を大きくした9視点の視差画像をレンダリングによって生成する。
【0046】
視点画像作成部34が生成した9視点の視差画像の映像データは駆動部35に入力される。駆動部35は、入力された映像データにおける9視点の視差画像を構成するそれぞれのデータ部分の各画素データを、
図1(A)に示すように9視点の表示装置50の各画素に割り当てて表示するよう表示装置50を駆動する。これにより、本実施形態の裸眼立体ディスプレイ装置によれば、表示装置50の表面に対して大きな奥行きや飛び出しを表現する場合でも解像感の劣化を抑えることができ、解像感の高い立体画像を表示することが可能となる。
【0047】
ここで、
図15を用いて本実施形態による作用効果についてさらに説明する。
図15において、横軸は視点番号iを示しており、縦軸は角度φiを示している。角度φiは視差画像の提示方向の角度に相当する。視点番号iが0〜2,6〜8の領域は左右の目が存在する可能性が高い領域であり、角度領域θlp,θrpに対応する部分である。視点番号iが3〜5の領域は左右の目が存在する可能性が低い領域であり、角度領域θnpに対応する部分である。
【0048】
図15より分かるように、角度領域θlp,θrpに対応する部分でiの変化に対するφiの変化量が小さくなっている。視差レベルLpaが大きいほど変化量がより小さくなっており、傾きは緩やかになっている。即ち、視差レベルLpaが大きいほど、左右の目が存在する可能性が高い角度領域における隣接する視点画像間の視差をより小さくし、左右の目が存在する可能性が低い角度領域おける隣接する視点画像間の視差をより大きくしている。これにより、視差レベルLpaの程度に応じた解像感の改善効果を得ることができる。なお、角度領域θnpに対応する部分では変化量が大きくなるが、左右の目が存在する可能性が低い領域であるので問題になりにくい。
【0049】
本実施形態の裸眼立体ディスプレイ装置に入力するデータは、CGでレンダリングするための3Dオブジェクトデータでなくてもよく、
図5で説明したように撮像装置で撮像したデータであってもよく、その場合は
図8に示した処理方法で視点画像の映像データを生成する。また、2つの視点画像、いわゆるステレオコンテンツであってもよく、その場合は、
図9に示したように、視差マップ等を用いた映像信号処理装置によって視点画像の映像データを生成する。
【0050】
<裸眼立体ディスプレイ装置及び視点調整方法の第2実施形態>
図16及び
図17を用いて、裸眼立体ディスプレイ装置及び視点調整方法の第2実施形態について説明する。
図16において、
図11と同一の部分には同一の符号を付し、その説明を適宜省略する。
図16において、視点調整部42には一例として9視点の3Dオブジェクトデータが入力される。テーブル保持部43には、
図17に示す提示視差画像設定テーブルが保持されている。
図17に示すように、提示視差画像設定テーブルには、視点番号iに対応させて提示する視点画像の番号が保持されている。
【0051】
視点調整部42は、テーブル保持部43の提示する視点画像の番号を参照して、視点番号iごとに提示する視差番号の視差画像を出力する。
図17より分かるように、視点番号iが0,1,4,7,8であれば、視点番号0,1,4,7,8の視差画像を出力する。視差番号iが2であれば、視差番号2の視差画像を出力するのではなく、視差番号1の視差画像を出力する。視差番号iが3であれば、視差番号3の視差画像を出力するのではなく、視差番号2の視差画像を出力する。視差番号iが5,6であれば、視差番号5,6の視差画像を出力するのではなく、視差番号6,7の視差画像を出力する。この場合、視差画像3,5は使用しない。
【0052】
駆動部45は、入力された映像データにおける視差画像を構成するそれぞれのデータ部分の各画素データを、表示装置50の各画素に割り当てて表示するよう表示装置50を駆動する。
【0053】
図16の視点調整部42も
図11における視点調整部32と同様、実質的に、複数の視点画像の内、目が存在する可能性が相対的に高い角度領域に提示される視点画像における隣接する視点画像間の視差を、目が存在する可能性が相対的に低い角度領域に提示される視点画像における隣接する視点画像間の視差よりも小さくしている。
【0054】
第2実施形態によれば、左右の目が存在する可能性が高い領域で同一の視差画像が表示されることになるので、
図1(B)で説明したような視差Paxがなくなり、解像感の劣化を抑えることができる。左右の目が存在する可能性が低い領域では視差Paxが大きくなるが、左右の目が存在する可能性が低い領域であるので問題になりにくい。第2実施形態においても、表示装置50の表面に対して大きな奥行きや飛び出しを表現する場合でも解像感が劣化を抑えることができ、解像感の高い立体画像を表示することが可能となる。
【0055】
<裸眼立体ディスプレイ装置及び視点調整方法の第3実施形態>
図18〜
図22を用いて、裸眼立体ディスプレイ装置及び視点調整方法の第3実施形態について説明する。上述した第1及び第2実施形態においては、
図3(A),(B)に示すように、観察者が裸眼立体ディスプレイ装置100の画面表面に垂直な方向から立体画像を見るということを前提としている。ところが、観察者は、必ずしも画面表面に垂直な方向から立体画像を見るとは限らない。観察者の顔の位置が、画面の水平方向の中央からずれた位置にあり、画面の水平方向の中央部付近を見ると、観察者は画面表面に垂直な方向からずれた方向から立体画像を見ることになる。
【0056】
図18に示すように、裸眼立体ディスプレイ装置100から見て左右対称に視点0〜8の視点画像が提示されている。観察者の右目ERと左目ELが破線で示す位置にあれば、立体画像を快適に視認することが可能である。観察者の顔の位置が
図18の左方向にずれ、右目ERと左目ELの位置が矢印の方向にオフセットしたとする。この状態では、左目ELは、破線矢印で示している部分の視点画像を認識することになるので逆視となり、立体画像を正しく視認することはできない。観察者の顔の位置が
図18の右方向にずれた場合も同様である。そこで、観察者の顔の位置が水平方向にずれて視線の方向が画面表面に垂直な方向からずれても、解像感の高い立体画像を視認できることが望まれる。第3実施形態は、このような要望に対応するものである。
【0057】
右目ERと左目ELが
図18に示すようにオフセットしている場合には、視点0〜8の視点画像を
図19に示すように提示すれば、立体画像を快適に視認することができることになる。m%nは、mをnで割った剰余であると定義する。観察者の顔の水平方向のオフセット量をΔxとすると、
図18に示す例は9視点であるので、視点iの位置に、(i+Δx)%9の視点画像を提示すれば、
図19のように視点iの位置を補正することができる。
【0058】
図20は、観察者の顔の位置に基づいて、視点iの位置を補正するように構成した第3実施形態を示している。
図20において、視点調整部52及び視点画像作成部54には一例として9視点の3Dオブジェクトデータが入力される。テーブル保持部53には、
図21に示す視差画像提示方向設定テーブルが保持されている。
図21に示すように、視差画像提示方向設定テーブルには、3Dオブジェクトをレンダリングする際の通常の提示方向θiと、左右の目が存在する可能性が高い角度領域における隣接する視点画像間の視差を小さくし、左右の目が存在する可能性が低い角度領域おける隣接する視点画像間の視差を大きくするための角度φiが設定されている。
【0059】
裸眼立体ディスプレイ装置が通常の提示方向θiでの視差画像の提示を行う必要がない場合には提示方向θiは省略可能である。
図21においても、理解を容易にするため目が存在する可能性高い角度領域と可能性が低い角度領域を示している。
【0060】
視点調整部52は、テーブル保持部53に設定された視差画像提示方向設定テーブルを参照して、3Dオブジェクトデータのそれぞれの視点iに対応させて角度φiを示す情報を視点画像作成部54に入力する。視点画像作成部54は、入力された3Dオブジェクトデータと角度φiを示す情報とに基づいて、左右の目が存在する可能性が高い角度領域における隣接する視点画像間の視差を小さくし、左右の目が存在する可能性が低い角度領域おける隣接する視点画像間の視差を大きくした9視点の視差画像をレンダリングによって生成する。視点画像作成部54が生成した9視点の視差画像の映像データは駆動部55に入力される。
【0061】
顔位置検出部56は、表示装置50に表示されている立体画像を見ている観察者の顔の位置を検出する。顔位置検出部56は、例えば
図22に示すように顔FCの位置を検出する。表示装置50の水平方向中央部には、カメラ57が設けられている。カメラ57は表示装置50の筐体における画面周囲の枠部分に埋め込んでもよいし、別部材としてのカメラ57を筐体上部に設置してもよい。なお、
図20では、カメラ57の図示を省略している。カメラ57の代わりに赤外線センサによって顔FCの位置を検出してもよい。
【0062】
顔位置検出部56は、カメラ57で撮像した映像に基づいて、顔FCが水平方向中央位置から水平方向にどの程度オフセットしているかを示すオフセット量Δxを検出する。
図22の例では、本来であれば顔FCの中央が視点4であるべきところ視点0にオフセットしており、オフセット量Δxは4である。
【0063】
顔位置検出部56によって検出されたオフセット量Δxは、駆動部55に入力される。駆動部55は、オフセット量Δxが0であれば、
図1(A)で説明したように、入力された映像データにおける9視点の視差画像を構成するそれぞれのデータ部分の各画素データを、9視点の表示装置50の各画素に割り当てて表示するよう表示装置50を駆動する。駆動部55は、オフセット量Δxが0でなければ、オフセット量Δxの値に応じて、9視点の視差画像の各画素データを表示装置50の各画素に割り当てる際の位置をずらした状態で表示装置50を駆動する。
【0064】
図23は、オフセット量Δxが4の場合に、
図21の視差画像提示方向設定テーブルにおける視点番号iをどのようにずらせばよいかを示している。視点番号i’はオフセット量Δxの4に対応させて、各画素データを割り当てる位置をずらした視点番号を示している。
図23に示すように、顔FCが
図22のようにオフセットしている場合には、駆動部55は、例えば、視点0の画素データを
図1(A)における視点4の画素の位置に、視点1の画素データを
図1(A)における視点5の画素の位置に表示させるよう表示装置50を駆動する。
【0065】
第3実施形態によれば、観察者の顔の位置が表示装置50の水平方向中央位置からずれて、画面表面に垂直な方向から立体画像を見ない場合でも、立体画像を快適に視認することができる。さらに、左右の目が存在する可能性が高い角度領域と可能性が低い角度領域それぞれで視点画像間の視差を調整しているので、表示装置50の表面に対して大きな奥行きや飛び出しを表現する場合でも解像感の劣化を抑えることができ、解像感の高い立体画像を表示することが可能となる。
【0066】
<裸眼立体ディスプレイ装置及び視点調整方法の第4実施形態>
図24に示す第4実施形態は、
図20の第3実施形態とは異なる構成で第3実施形態と同様の作用効果を奏するよう構成したものである。
図24において、
図20と同一の部分には同一の符号を付し、その説明を適宜省略する。
図24において、テーブル保持部53には、
図25(A)に示す視差画像提示方向設定テーブルが保持されている。顔位置検出部56によって検出されたオフセット量Δxは、置換部58に入力される。置換部58は、
図25(A)の視差画像提示方向設定テーブルを読み出す。そして、置換部58は、顔位置検出部56から入力されたオフセット量Δxに応じて、
図23と同様に、視点番号iを視点番号i’に置換する。
【0067】
図25(B)は、
図25(A)の視差画像提示方向設定テーブルにおける視点番号iを視点番号i’に置換し、視点番号i’を0〜8の順に並べた視差画像提示方向置換テーブルを示している。ここでも、オフセット量Δxを4とした場合を示している。置換部58が新たに作成する視差画像提示方向置換テーブルは、視点番号iと視点番号i’との対応関係を示すと共に、視点番号i’と角度φiとの対応関係を示している。
【0068】
視点調整部52は、置換部58で作成された視差画像提示方向置換テーブルを参照して、3Dオブジェクトデータのそれぞれの視点iを視点i’に変更し、視点i’に対応させて角度φiを示す情報を視点画像作成部54に入力する。視点画像作成部54は、入力された3Dオブジェクトデータと角度φiを示す情報とに基づいて、左右の目が存在する可能性が高い角度領域における隣接する視点画像間の視差を小さくし、左右の目が存在する可能性が低い角度領域おける隣接する視点画像間の視差を大きくした9視点の視差画像をレンダリングによって生成する。
【0069】
駆動部55は、第1実施形態と同様、
図1(A)で説明したように、入力された映像データにおける9視点の視差画像を構成するそれぞれのデータ部分の各画素データを、9視点の表示装置50の各画素に割り当てて表示するよう表示装置50を駆動する。即ち、駆動部55は、オフセット量Δxとは関係なく、通常のように表示装置50を駆動すればよい。
【0070】
第4実施形態においても、観察者の顔の位置が表示装置50の水平方向中央位置からずれて、画面表面に垂直な方向から立体画像を見ない場合でも、立体画像を快適に視認することができる。さらに、左右の目が存在する可能性が高い角度領域と可能性が低い角度領域それぞれで視点画像間の視差を調整しているので、表示装置50の表面に対して大きな奥行きや飛び出しを表現する場合でも解像感の劣化を抑えることができ、解像感の高い立体画像を表示することが可能となる。
【0071】
<裸眼立体ディスプレイ装置及び視点調整方法の第5実施形態>
図26に示す第5実施形態は、第4実施形態の構成に加えて、観察者が立体画像を観察しているときの表示装置50からの距離に応じて、角度φiを調整するように構成したものである。
図26において、
図24と同一の部分には同一の符号を付し、その説明を適宜省略する。観察者が表示装置50に近付いて立体画像を観察する場合には、視差による画像のぶれが強く感じられ、左右の目が存在する可能性が高い角度領域と可能性が低い角度領域とが比較的はっきりと区別される。一方、観察者が表示装置50から離れて立体画像を観察する場合には、視差による画像のぶれはさほど強く感じられず、左右の目が存在する可能性が高い角度領域と可能性が低い角度領域との区別が曖昧となる。
【0072】
図26において、顔距離推定部59は、
図22に示すように、顔FCの大きさに基づいて表示装置50から顔FCまでの距離Fdを推定する。顔FCの大きさを判断すれば、顔FCが表示装置50に近付いているか離れているかをある程度推定することができる。距離Fdを正確に測定する必要はないため、第5実施形態においては、カメラ57で撮像した映像に基づいて顔FCの大きさを複数にクラス分けし、表示装置50から顔FCまでの距離Fdを推定する。顔距離推定部59は、例えば、距離Fdを、顔FCが表示装置50から離れている“大”、顔FCが表示装置50に近付いている“小”、“大”と“小”の中間の“中”の3段階にクラス分けする。
【0073】
顔距離推定部59によってクラス分けされた距離Fdの“大”,“中”,“小”のいずれかを示す距離推定データは、置換部68に入力される。カメラ57を複数設けて、距離Fdを正確に測定し、距離Fdをクラス分けしてもよい。
【0074】
第5実施形態においては、テーブル保持部63には、
図27(A)に示す視差画像提示方向設定テーブルが保持されている。
図27(A)に示すように、角度φiは、距離Fdが“大”であれば、左右の目が存在する可能性が高い角度領域における隣接する視点画像間の視差を小さくし、左右の目が存在する可能性が低い角度領域おける隣接する視点画像間の視差を大きくする効果を比較的小さくした値に設定している。距離Fdが“小”であれば、その効果を比較的大きくした値に設定し、距離Fdが“中”であれば、その効果を“大”と“小”との中間である中程度の値に設定している。
【0075】
第4実施形態と同様、置換部68は、
図27(A)の視差画像提示方向設定テーブルを読み出し、顔位置検出部56から入力されたオフセット量Δxに応じて、
図23と同様に、視点番号iを視点番号i’に置換する。
図27(B)は、
図27(A)の視差画像提示方向設定テーブルにおける視点番号iを視点番号i’に置換し、視点番号i’を0〜8の順に並べた視差画像提示方向置換テーブルを示している。置換部68が新たに作成する視差画像提示方向置換テーブルは、視点番号iと視点番号i’との対応関係を示すと共に、視点番号i’と距離Fdが“大”,“中”,“小”それぞれの場合の角度φiとの対応関係を示している。
【0076】
視点調整部52は、置換部68で作成された視差画像提示方向置換テーブルを参照して、3Dオブジェクトデータのそれぞれの視点iを視点i’に変更し、視点i’に対応させて角度φiを示す情報を視点画像作成部54に入力する。この際、置換部68は、顔距離推定部59より入力された距離推定データに応じて、距離Fdが“大”,“中”,“小”のいずれかの角度φiを示す情報を視点調整部52に供給する。距離Fdに応じた角度φiを示す情報は、視点画像作成部54へと入力される。視点画像作成部54及び駆動部55の動作は第4実施形態と同じである。
【0077】
第5実施形態によれば、第4実施形態が奏する効果に加えて、観察者が立体画像を観察しているときの表示装置50からの距離に応じて、左右の目が存在する可能性が高い角度領域における隣接する視点画像間の視差を小さくし、左右の目が存在する可能性が低い角度領域おける隣接する視点画像間の視差を大きくする効果を最適な状態に設定することができるという効果を奏する。
【0078】
以上説明したオフセット量Δxや距離Fdのクラス分けの数は単なる例である。クラス分けの数は2つでもよいし、4つ以上でもよい。また、視点数は9視点でなくてもよい。
【0079】
上述した裸眼立体視用映像データ生成方法によって、左右の目が存在する可能性が高い領域における隣接する視点画像間の視差を小さくし、左右の目が存在する可能性が低い領域おける隣接する視点画像間の視差を大きくしたn視点の視差画像を生成し、所定のフォーマットにフォーマット化して裸眼立体視用映像データを生成する際に、裸眼立体ディスプレイ装置及び視点調整方法の第3〜第5実施形態と同様に、観察者の顔の位置をリアルタイムに検出して、観察者の顔に対応させた裸眼立体視用映像データを生成することも可能である。
【0080】
図8〜
図10の裸眼立体視用映像データ生成方法の各例では、観察者の顔に対応させて、リアルタイムに観察者の顔に対応させた裸眼立体視用映像データを生成することができる。裸眼立体視用映像データを裸眼立体ディスプレイ装置に表示させる際に、裸眼立体ディスプレイ装置の水平方向における観察者の顔の位置を検出し、検出した顔の位置に対応させて複数の視点画像をずらした上で、予め視点を調整した視点画像を所定のフォーマットにフォーマット化して裸眼立体視用映像データを生成すればよい。この場合には、
裸眼立体ディスプレイ装置は既存の構成でよく、所定のフォーマットの裸眼立体視用映像データを単に表示すればよい。
【0081】
本発明は以上説明した本実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。本実施形態においては、光学部材としてレンチキュラーレンズLLsを用いた場合を中心として説明したが、光学部材はレンチキュラーレンズに限定されるものではない。但し、光学部材としはレンチキュラーレンズが好ましい。また、目が存在する可能性が高い角度領域を2つの領域としたが、視認範囲θviをさらに細かく分けて3つ以上の領域を目が存在する可能性が高い角度領域と設定することも可能である。さらに、テーブル保持部33,43,53にテーブルを保持させる代わりに関数を保持させておき、関数を用いた計算によって
図14,
図17,
図21,
図25,
図27のテーブルと同等の機能の実現させてもよい。