IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日本放送協会の特許一覧

特許7165513IP立体映像表示装置及びそのプログラム
<>
  • 特許-IP立体映像表示装置及びそのプログラム 図1
  • 特許-IP立体映像表示装置及びそのプログラム 図2
  • 特許-IP立体映像表示装置及びそのプログラム 図3
  • 特許-IP立体映像表示装置及びそのプログラム 図4
  • 特許-IP立体映像表示装置及びそのプログラム 図5
  • 特許-IP立体映像表示装置及びそのプログラム 図6
  • 特許-IP立体映像表示装置及びそのプログラム 図7
  • 特許-IP立体映像表示装置及びそのプログラム 図8
  • 特許-IP立体映像表示装置及びそのプログラム 図9
  • 特許-IP立体映像表示装置及びそのプログラム 図10
  • 特許-IP立体映像表示装置及びそのプログラム 図11
  • 特許-IP立体映像表示装置及びそのプログラム 図12
  • 特許-IP立体映像表示装置及びそのプログラム 図13
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-10-26
(45)【発行日】2022-11-04
(54)【発明の名称】IP立体映像表示装置及びそのプログラム
(51)【国際特許分類】
   H04N 13/307 20180101AFI20221027BHJP
   G02B 30/33 20200101ALI20221027BHJP
   H04N 13/368 20180101ALI20221027BHJP
   H04N 13/398 20180101ALI20221027BHJP
   G03B 35/18 20210101ALI20221027BHJP
【FI】
H04N13/307
G02B30/33
H04N13/368
H04N13/398
G03B35/18
【請求項の数】 4
(21)【出願番号】P 2018109698
(22)【出願日】2018-06-07
(65)【公開番号】P2019213127
(43)【公開日】2019-12-12
【審査請求日】2021-05-12
(73)【特許権者】
【識別番号】000004352
【氏名又は名称】日本放送協会
(74)【代理人】
【識別番号】110001807
【氏名又は名称】弁理士法人磯野国際特許商標事務所
(72)【発明者】
【氏名】岡市 直人
(72)【発明者】
【氏名】渡邉 隼人
(72)【発明者】
【氏名】佐々木 久幸
(72)【発明者】
【氏名】河北 真宏
(72)【発明者】
【氏名】三科 智之
【審査官】佐野 潤一
(56)【参考文献】
【文献】特開2010-113160(JP,A)
【文献】特開2014-215313(JP,A)
【文献】特開2012-222549(JP,A)
【文献】特開2013-175049(JP,A)
【文献】特開2013-173594(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 13/00
G02B 30/00
G03B 35/00
(57)【特許請求の範囲】
【請求項1】
人物毎に視域を形成し、形成した前記視域に要素画像群を時分割表示することで、複数の前記人物が前記要素画像群を視聴可能なIP立体映像表示装置であって、
出射光を出射する光源と、
前記光源からの出射光を平行光に変換し、少なくとも前記人物の両眼が含まれる視域を形成する平行光光学系と、
前記人物の人数と、前記人物毎の視点位置とを検出する視点検出手段と、
前記視点検出手段で検出された人物毎に、前記視点位置に基づいて、当該人物が前記視域に含まれるように前記要素画像群の表示位置を算出する表示位置算出手段と、
前記視点検出手段で検出された人数に基づいて、前記要素画像群を時分割する時分割表示手段と、
前記視点検出手段で検出された人物毎に、前記視点位置に基づいて、当該人物が前記視域に含まれるように前記出射光の特性を制御する光源制御手段と、
前記時分割表示手段が時分割した要素画像群を前記表示位置に表示する表示装置と、
を備え
前記光源は、点光源の配光特性を表すマスク画像である点光源形成用パターンが要素レンズに対応して配列された点光源群形成用パターンを投影する投影装置であり、
前記表示装置は、前記要素画像群を表示する空間光変調器であり、
前記光源制御手段は、前記出射光の特性として、前記点光源形成用パターンに含まれる非マスク領域の位置及び大きさと、前記非マスク領域が含まれる点光源形成用パターンの投影間隔と、前記点光源形成用パターンの投影方向との何れか1以上を制御し、
前記平行光光学系は、
前記投影装置が投影した点光源群形成用パターンを平行光として出射するコリメートレンズと、
前記要素レンズが2次元状に配列され、前記コリメートレンズからの平行光を各要素レンズの焦点に集光することで、点光源群を形成するレンズアレイと、
を備えることを特徴とするIP立体映像表示装置。
【請求項2】
前記人物に予め設定した前記要素画像群を記憶する要素画像群記憶手段、をさらに備え、
前記時分割表示手段は、前記要素画像群記憶手段から読み出した要素画像群を時分割することを特徴とする請求項1に記載のIP立体映像表示装置。
【請求項3】
前記視点検出手段は、奥行き推定カメラが前記人物を撮影したステレオ画像に奥行き推定処理を施して、前記人物の人数と、前記人物毎の視点位置とを検出することを特徴とする請求項1又は請求項2の何れか一項に記載のIP立体映像表示装置。
【請求項4】
コンピュータを、請求項1から請求項の何れか一項に記載のIP立体映像表示装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、インテグラルフォトグラフィ(IP:Integral Photography)方式の立体映像表示装置及びそのプログラムに関する。
【背景技術】
【0002】
IP立体映像表示装置は、特殊な眼鏡が不要で、視聴者の裸眼による立体視が可能な3次元映像表示デバイスである。図11に示すように、IP立体映像表示装置9は、液晶や有機EL(Electro Luminescence)などの直視型ディスプレイ91と、その前面に置かれたレンズアレイ93とを備える。このレンズアレイ93は、2次元状に配列された要素レンズ95で構成される。また、直視型ディスプレイ91は、要素レンズ95に対応する要素画像eを表示する。すると、要素レンズ95により要素画像eが空間中に投影され、視聴者Aが立体像Zを視聴できる。
【0003】
IP方式は、多くの視点映像を再現する方式であるため、非常に多くの画素(情報量)が必要となる。IP立体映像の品質を決定づけるパラメータとして、「立体映像画素数(要素画像数)」、「視域」、「空間周波数特性(奥行再現範囲)」の3つが挙げられる。これら3つのパラメータは、トレードオフの関係がある(非特許文献1)。つまり、IP方式では、視域を狭くすることにより、その他のパラメータ(立体映像画素数及び空間周波数特性)を向上させることができる。図12(a)に示すように、要素レンズ95の焦点距離fが短くなると視域αが広くなるので、図12(b)に示すように、視域αを狭くするには、焦点距離fを長くすればよい。
【0004】
また、視域αが狭い場合でも、視点追従技術を用いてリアルタイムで視聴者Aをセンシングし、視域αの方向を制御すれば、広い範囲でIP立体映像を視聴できる(非特許文献2)。ここで、視域αの方向制御は、リアルタイムにIP立体映像(要素画像群E)を平行移動(拡大縮小でも可)させることで実現できる。図13(a)に示すように、IP立体映像表示装置9から見て視聴者Aが左側に位置する場合、要素画像群Eを右側に平行移動させると、視域α(ドットで図示)が左側に移動する。一方、図13(b)に示すように、IP立体映像表示装置9から見て視聴者Aが右側に位置する場合、要素画像群Eを左側に平行移動させると、視域αが右側に移動する。このように、従来技術では、個人視聴(1人のみの視聴)に限定した場合、立体映像画素数及び空間周波数特性の性能を向上させ、かつ広視域のIP立体映像を提示することができる。
【先行技術文献】
【非特許文献】
【0005】
【文献】H. Hoshino, F. Okano, and I. Yuyama, “Analysis of resolution limitation of integral photography,” J. Opt. Soc. Am. A 15(8), 2059-2065 (1998)
【文献】Zhao-Long Xiong, Qiong-Hua Wang, Shu-Li Li, Huan Deng, and Chao-Chao Ji, "Partially-overlapped viewing zone based integral imaging system with super wide viewing angle," Opt. Express 22, 22268-22277 (2014)
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかし、前記した従来技術では、視聴者が1人に限定されてしまい、複数の視聴者に対応できないという問題がある。
そこで、本発明は、複数の人物が略同時に高品質なIP立体映像を視聴できるIP立体映像表示装置及びそのプログラムを提供することを課題とする。
【課題を解決するための手段】
【0007】
前記した課題に鑑みて、本発明に係るIP立体映像表示装置は、人物毎に視域を形成し、形成した視域に要素画像群を時分割表示することで、複数の人物が要素画像群を視聴可能なIP立体映像表示装置であって、出射光を出射する光源と、光源からの出射光を平行光に変換し、少なくとも人物の両眼が含まれる視域を形成する平行光光学系と、視点検出手段と、表示位置算出手段と、時分割表示手段と、表示装置と、光源制御手段と、を備える構成とした。
【0008】
かかるIP立体映像表示装置によれば、視点検出手段は、人物の人数と、人物毎の視点位置とを検出する。
表示位置算出手段は、視点検出手段で検出された人物毎に、視点位置に基づいて、人物が視域に含まれるように要素画像群の表示位置を算出する。
時分割表示手段は、視点検出手段で検出された人数に基づいて、要素画像群を時分割する。
光源制御手段は、視点検出手段で検出された人物毎に、視点位置に基づいて、人物が視域に含まれるように出射光の特性を制御する。
表示装置は、時分割表示手段が時分割した要素画像群を表示位置に表示する。
光源は、点光源の配光特性を表すマスク画像である点光源形成用パターンが要素レンズに対応して配列された点光源群形成用パターンを投影する投影装置である。
表示装置は、要素画像群を表示する空間光変調器である。
光源制御手段は、出射光の特性として、点光源形成用パターンに含まれる非マスク領域の位置及び大きさと、非マスク領域が含まれる点光源形成用パターンの投影間隔と、点光源形成用パターンの投影方向との何れか1以上を制御する。
平行光光学系は、投影装置が投影した点光源群形成用パターンを平行光として出射するコリメートレンズと、要素レンズが2次元状に配列され、コリメートレンズからの平行光を各要素レンズの焦点に集光することで、点光源群を形成するレンズアレイと、を備える。
【0009】
このように、IP立体映像表示装置は、視点追従技術を用いて人物毎に狭い視域を形成するので、クロストークが発生せず、立体映像画素数及び空間周波数特性の性能を向上させることができる。さらに、IP立体映像表示装置は、人物毎の狭い視域で要素画像群を時分割表示するので、複数の人物に対応することができる。
【0010】
なお、本発明では時分割表示を行うため、厳密には、各人物が同時に要素画像群を視聴するわけでないので、「略同時」とした。
また、「視聴」という用語を用いているが、IP立体映像表示装置では、音声の有無を問わない。
【0011】
前記したIP立体映像表示装置は、一般的なコンピュータを前記した視点検出手段、表示位置算出手段、時分割表示手段及び光源制御手段として協調動作させるプログラムで実現することもできる。
【発明の効果】
【0012】
本発明によれば、以下のような優れた効果を奏する。
本発明に係るIP立体映像表示装置は、視点追従技術及び時分割表示により、複数の人物が略同時に高品質なIP立体映像を視聴することができる。
【図面の簡単な説明】
【0013】
図1】従来技術におけるクロストークを説明する説明図である。
図2】(a)及び(b)は実施形態における視域の方向制御を説明する説明図である。
図3】実施形態に係るIP立体映像表示装置の構成を示すブロック図である。
図4】実施形態における点光源の位置及び配光角を説明する説明図である。
図5】実施形態における点光源群形成用パターンを説明する説明図である。
図6】実施形態において、(a)~(d)は点光源形成用パターンと、点光源の形成位置及び配光角と、点光源の配光特性との関係を説明する説明図である。
図7】実施形態において、立体映像の視域角を狭くする制御を説明する説明図であり、(a)は点光源群形成用パターンであり、(b)はIP立体映像表示装置である。
図8】実施形態において、立体映像の視域角を広くする制御を説明する説明図であり、(a)は点光源群形成用パターンであり、(b)はIP立体映像表示装置である。
図9】実施形態において、要素画像群の時分割表示を説明する説明図である。
図10図3のIP立体映像表示装置の動作を示すフローチャートである。
図11】従来のIP立体映像表示装置を説明する説明図である。
図12】従来技術として視域及び焦点距離の関係を説明する説明図であり、(a)は焦点距離を短くすると視域が広くなることを表し、(b)は焦点距離を長くすると視域が狭くなることを表す。
図13】(a)及び(b)は従来技術における視域の方向制御を説明する説明図である。
【発明を実施するための形態】
【0014】
(第1実施形態)
以下、本発明の実施形態について、適宜図面を参照しながら詳細に説明する。なお、同一の手段及び同一の部材には同一の符号を付し、説明を省略した。
【0015】
[IP立体映像表示装置の原理]
以下、実施形態に係るIP立体映像表示装置の原理を説明する。
まず、従来のIP立体映像表示装置で発生するクロストークについて説明する。図1に示すように、クロストークとは、レンズアレイ93を通して要素画像eを見たとき、隣の要素画像eが見えてしまう現象のことである。このクロストークは、視聴者(人物)Aが視聴する中心視域αの外側において、サイドローブの視域βとして現れ、IP立体映像(要素画像群E)の高品質化の妨げとなる。
【0016】
そこで、クロストークが発生せず、1人の両眼を包含できる程度に狭い視域αを形成できるように、要素レンズ95のピッチ及び焦点距離を設計する。前記したように、IP方式の各パラメータ(視域、立体映像画素数、空間周波数特性)は、トレードオフの関係がある。このため、視域αを狭くすることで、立体映像画素数と空間周波数特性の性能を向上させることができる。
【0017】
次に、視域αを視聴者Aの視点位置に追従させる視点追従技術について説明する。例えば、デプスカメラ(不図示)を用いて、視聴者Aの視点位置を検出し、要素画像eを平行移動させて視域αの方向を制御し、視聴者Aが常に視域αに入るようにすればよい。
【0018】
そこで、図2に示すように、クロストークが発生せず、視域αの方向を制御可能なIP立体映像表示装置1を検討する。このIP立体映像表示装置1では、白色光(出射光)を投射するプロジェクタ10を、空間光変調器40のバックライトとして用いる。また、IP立体映像表示装置1では、プロジェクタ10の前面にコリメートレンズ20を配置し、プロジェクタ10が出射した光を平行化する。また、IP立体映像表示装置1では、コリメートレンズ20の後段にレンズアレイ30を配置し、コリメートレンズ20が平行化した光を要素レンズ31の焦光点(点光源p)に集光する。このレンズアレイ30は、点光源pが配列された点光源群Pを形成する。また、IP立体映像表示装置1では、レンズアレイ30の後段に空間光変調器40を配置する。このとき、集光点から広がった光が、空間光変調器40上の要素画像eと同じサイズになるようにすると、IP立体映像を再生することができる。
【0019】
ここで、点光源群形成用パターン70(図5)を用いて、レンズアレイ30に入射する光の位置を調整することにより、IP立体映像が形成される光の方向(視域αの方向)を制御することができる。この点光源群形成用パターン70は、点光源pの配光特性を制御するためのマスク画像であり、その詳細は後述する。図2(a)に示すように、IP立体映像表示装置1から見て視聴者Aが左側に位置する場合、レンズアレイ30の右側に光を入射すればよい。一方、図2(b)に示すように、IP立体映像表示装置1から見て視聴者Aが右側に位置する場合、レンズアレイ30の左側に光を入射すればよい。コリメートレンズ20が平行光を出射するため、クロストークが発生することはなく、視域αの外ではIP立体映像が見えることがない。このように、図2のIP立体映像表示装置1は、特定の視聴者AのみにIP立体映像を表示することができる。
【0020】
さらに、複数の視聴者Aに対応することを検討する。複数の視聴者Aが存在する場合、その人数でIP立体映像を時分割表示し、各フレーム単位で視域αの方向を制御すればよい。これにより、各視聴者Aが見るIP立体映像のフレームレートは、空間光変調器40のフレームレートの「1/人数」となり、複数の視聴者Aが略同時にIP立体映像を視聴できる。このとき、視聴者Aがより滑らかなIP立体映像を視聴できるように、高いフレームレートの空間光変調器40を用いることが好ましい。
【0021】
[IP立体映像表示装置の構成]
図3を参照し、IP立体映像表示装置1の構成について説明する。
IP立体映像表示装置1は、視聴者A毎に狭い視域α(図1)を形成し、形成した視域αに要素画像群Eを時分割表示することで、複数の視聴者Aが略同時に要素画像群Eを視聴可能とするものである。図3に示すように、IP立体映像表示装置1は、プロジェクタ(光源)10と、コリメートレンズ(平行光光学系)20と、レンズアレイ(平行光光学系)30と、空間光変調器(表示装置)40と、制御装置50と、デプスカメラ(奥行き推定カメラ)60とを備える。
【0022】
プロジェクタ10は、出射光を出射する投影装置である。例えば、プロジェクタ10は、後記する制御装置50からの制御に従って、点光源群形成用パターン70を投影するものである。本実施形態では、プロジェクタ10は、コリメートレンズ20の焦点距離Fに配置され、正確に位置校正が行われていることとする。なお、点光源pの大きさは、プロジェクタ10の投影画像の1画素程度である。
【0023】
コリメートレンズ20は、プロジェクタ10からの出射光を平行光に変換し、少なくとも視聴者Aの両眼が含まれる狭い視域αを形成するものである。具体的には、コリメートレンズ20は、プロジェクタ10が投影した点光源群形成用パターン70を平行光として出射する。例えば、コリメートレンズ20としては、一般的な両凸レンズ、フレネルレンズを挙げることができる。
なお、コリメートレンズ20及びレンズアレイ30の距離は任意であり、IP立体映像表示装置1の小型化を図るために短くすることが好ましい。
【0024】
レンズアレイ30は、コリメートレンズ20からの平行光を各要素レンズ31の焦点距離fの位置に集光することで、点光源群Pを形成するものである。このレンズアレイ30は、複数の要素レンズ31が、縦横方向や樽積み状に2次元に配列されている。例えば、要素レンズ31としては、正面視すると円形状の一般的な凸レンズや凹レンズを挙げることができる。
【0025】
空間光変調器40は、制御装置50から入力された要素画像群Eを時分割表示するものである。例えば、空間光変調器40としては、液晶パネルを挙げることができる。ここで、空間光変調器40は、空間光変調器40の画素を有効活用するため、点光源群Pによるバックライトが空間光変調器40の全体を照射する位置に配置することが好ましい。なお、要素画像群Eは、各要素レンズ31に対応する要素画像eで構成されている。
【0026】
制御装置50は、視聴者A毎に狭い視域αを形成し、形成した視域αに要素画像群Eを時分割表示するように、プロジェクタ10及び空間光変調器40を制御するものである。ここで、制御装置50は、デプスカメラ60を用いて、視聴者Aの人数及び視点位置を検出し、検出した視聴者Aの人数及び視点位置に基づいて、プロジェクタ10及び空間光変調器40を同期制御する。なお、制御装置50の詳細は、後記する。
【0027】
デプスカメラ60は、視聴者Aの人数と、視聴者A毎の視点位置とを検出するために、視聴者Aのステレオ画像を撮影する一般的なステレオカメラである。本実施形態では、デプスカメラ60は、視聴者Aに向くように、空間光変調器40の上部に配置する。
【0028】
以下、点光源の形成位置及び配光角、点光源群形成用パターン70、視域αの制御を説明した後、制御装置50の構成を説明する。
【0029】
<点光源の形成位置及び配光角>
図4に示すように、後記する点光源形成用パターン71(図5)の投影方向をθとする。投影方向θは、要素レンズ31の光軸(x軸)と、点光源形成用パターン71の光軸(破線で図示)とのなす角である。このとき、点光源pの形成位置(p,p)は、下記の式(1)で表される。さらに、点光源pの配光角φは、下記の式(2)で表される。
【0030】
【数1】
【0031】
【数2】
【0032】
,yはそれぞれ、点光源形成用パターン71の非マスク領域73の上端及び下端を表す。y軸上では、非マスク領域73の上端y~下端yの間を光線が通過する。従って、点光源形成用パターン71の投影方向θや非マスク領域の大きさ(上端y~下端y)を変更することで、点光源pの形成位置(p,p)や配光角φを制御できる。
【0033】
<点光源群形成用パターン>
図5を参照し、点光源群形成用パターン70について説明する。
図5に示すように、点光源群形成用パターン70は、点光源形成用パターン71が要素レンズ31に対応して配列された画像である。つまり、点光源群形成用パターン70は、要素レンズ31と同一配列で、同数の点光源形成用パターン71で構成されている。
【0034】
ここで、点光源形成用パターン71は、白色の非マスク領域73、及び、黒色のマスク領域75を有する。この点光源形成用パターン71では、矩形状の非マスク領域73が中心部に位置し、非マスク領域73の周辺にマスク領域75が位置する。ここで、非マスク領域73は、プロジェクタ10が最大輝度の光を投影する領域である。また、マスク領域75は、プロジェクタ10が光を投影しない領域である。言い換えるなら、点光源形成用パターン71が投影された場合、非マスク領域73を光線が通過する。
【0035】
なお、図5では、図面を見やすくするため、点光源形成用パターン71を6個のみ図示し、残りを省略した。
また、図5の点光源形成用パターン71は一例であり、非マスク領域73及びマスク領域75の位置や大きさが特に制限されない。
【0036】
<点光源形成用パターンと点光源との関係>
図6を参照し、点光源形成用パターン71と点光源pとの関係について説明する。
図6では、上段に点光源形成用パターン71を図示し、中段に点光源pの形成位置及び配光角を図示し、下段に点光源pの配光特性を図示した。
【0037】
図6(a)では、点光源形成用パターン71の中央を非マスク領域73とし、周辺をマスク領域75とする。この非マスク領域73の幅及び高さは、点光源形成用パターン71の約半分である。そして、この点光源形成用パターン71を要素レンズ31の正面から投影している。この場合、点光源pは、要素レンズ31の光軸上に形成される。また、プロジェクタ10からの光線が要素レンズ31の中央のみを通過するので、点光源pの配光角φが狭くなる。
【0038】
図6(b)では、図6(a)の非マスク領域73を小さくしている。この非マスク領域73の幅及び高さは、点光源形成用パターン71の約1/3である。この場合、プロジェクタ10からの光線が要素レンズ31の中央で狭い範囲のみを通過するので、点光源pの配光角φがより狭くなる。
【0039】
図6(c)では、点光源形成用パターン71の上側を非マスク領域73とし、下側をマスク領域75とする。そして、この点光源形成用パターン71を要素レンズ31の正面から投影している。この場合、点光源pは、要素レンズ31の光軸上に形成される。また、プロジェクタ10からの光線が要素レンズ31の上側のみを通過する。このため、点光源pの配光特性は、下方向に均等に広がるものとなる。
【0040】
図6(d)では、図6(c)の非マスク領域73を点光源形成用パターン71の下側としている。この場合、プロジェクタ10からの光線が要素レンズ31の下側のみを通過する。このため、点光源pの配光特性は、上方向に均等に広がるものとなる。
なお、図6(c)及び(d)では、非マスク領域73を点光源形成用パターン71の上下に設ける例で説明したが、非マスク領域73を点光源形成用パターン71の左右に設けてもよい(不図示)。
【0041】
<視域の制御>
図7及び図8を参照し、視域αの制御を詳細に説明する。
なお、図7及び図8では、図面を見やすくするために、デプスカメラ60、要素レンズ31や点光源形成用パターン71、及び、要素画像eの一部を省略した。
【0042】
図7は、IP立体映像の視域角を小さくして視域αを狭くする例である。
図7(a)に示すように、制御装置50は、全ての要素レンズ31が点光源pを形成するように、点光源形成用パターン71の投影間隔を設定する(以後、投影間隔=‘1’)。つまり、投影間隔は、非マスク領域73が含まれる点光源形成用パターン71を投影する要素レンズ31の間隔を意味する。
【0043】
また、制御装置50は、要素レンズ31の焦点距離f、空間光変調器40の設置位置、及び、要素画像eの大きさに基づいて、非マスク領域73の大きさを設定する。図7(b)に示すように、非マスク領域73の大きさ(高さ)をa、要素画像eの大きさ(高さ)をb、要素レンズ31の直径をD、点光源pと空間光変調器40との距離をLとする。この場合、非マスク領域73の大きさaは、下記の式(3)で表される。さらに、要素画像eの大きさbが要素レンズ31の直径Dと等しい場合、非マスク領域73の大きさaは、下記の式(4)で表される。
【0044】
【数3】
【0045】
【数4】
【0046】
なお、点光源形成用パターン71の大きさは、要素レンズ31の直径D以下である。従って、式(3)及び式(4)では、a≦D、b≦D・L/fを満たす必要がある。
【0047】
図7では、制御装置50は、非マスク領域73の大きさaがD・f/Lとなるように設定する。さらに、制御装置50は、非マスク領域73の位置を、点光源形成用パターン71の中央に設定する。
【0048】
そして、プロジェクタ10は、全ての要素レンズ31に対し、図7(a)の点光源形成用パターン71を投影する。従って、IP立体映像表示装置1では、図7(b)に示すように、点光源pの配光角が狭くなり、点光源pが要素レンズ31と同数形成される。これにより、IP立体映像表示装置1では、視域αが狭くなる(その一方、立体映像の解像度が高くなる)。
【0049】
なお、空間光変調器40は、IP立体映像の視域角に応じて要素画像eを表示する。要素画像eの表示位置は、点光源pの配光角、及び、点光源pと空間光変調器40との距離Lから求めることができる。
【0050】
図8は、IP立体映像の視域角を大きくして視域αを広くする例である。
図8(a)に示すように、制御装置50は、1個おきの要素レンズ31が点光源pを形成するように、点光源形成用パターン71の投影間隔を設定する(以後、投影間隔=‘2’)。
【0051】
また、要素画像eの大きさbが要素レンズ31の直径Dの2倍なので、式(3)にb=2Dを代入すると、a=2・D・f/Lが成立する。従って、制御装置50は、非マスク領域73の大きさaが2・D・f/Lとなるように設定する。
【0052】
そして、プロジェクタ10は、非マスク領域73が含まれる点光源形成用パターン71を1個間隔で要素レンズ31に投影する。言い換えるなら、プロジェクタ10は、各要素レンズ31に対し、非マスク領域73が含まれる点光源形成用パターン71と、全面がマスク領域75の点光源形成用パターン71とを交互に投影する。従って、IP立体映像表示装置1では、図8(b)に示すように、点光源pの配光角が広くなり、点光源pが要素レンズ31の約半数形成される。これにより、IP立体映像表示装置1では、視域αが広くなる(その一方、立体映像の解像度が低くなる)。
【0053】
なお、投影間隔は‘2’に制限されず、任意の長さNに設定することができる。この場合、非マスク領域73の大きさaは、下記の式(5)で表される(但し、Nは2以上の整数)。
【0054】
【数5】
【0055】
以上のように、IP立体映像表示装置1では、非マスク領域73の位置、非マスク領域73の大きさと、非マスク領域73を有する点光源形成用パターン71の投影間隔、及び、点光源形成用パターン71の投影方向の何れか1以上を調整することで、視域αの方向や視域αの広狭を任意に制御できる。
【0056】
従って、IP立体映像表示装置1では、視聴者Aの視点位置に視域αが形成され、点光源pから広がった光が要素画像eと同じサイズになるように、点光源群形成用パターン70を調整すればよい。そして、IP立体映像表示装置1では、視聴者Aの視点位置に応じて要素画像群Eを平行移動させればよい。これにより、1人の視聴者Aが、高品質なIP立体映像を視聴できる。
【0057】
さらに、図9に示すように、IP立体映像表示装置1がIP立体映像を時分割表示することで、複数の視聴者Aに対応できる。図9では、IP立体映像を構成する各フレームを3つに時分割している。例えば、IP立体映像表示装置1は、IP立体映像のフレーム#1を視聴者Aの視域αに表示し、フレーム#2を視聴者Aの視域αに表示し、フレーム#3を視聴者Aの視域αに表示する(フレーム#4以降も同様に繰り返す)。
なお、‘#’は、IP立体映像を構成する各フレームの番号を表す。
【0058】
[制御装置の構成]
図3に戻り、制御装置50の構成について説明する。
図3に示すように、制御装置50は、要素画像群記憶手段51と、視点検出手段52と、表示位置算出手段53と、時分割表示手段54と、光源制御手段55と、同期制御手段56とを備える。
【0059】
要素画像群記憶手段51は、IP立体映像表示装置1が表示する要素画像群Eを記憶する一般的なHDD(Hard Disk Drive)等の記憶装置である。要素画像群記憶手段51が記憶する要素画像群Eは、時分割表示手段54によって読み出される。本実施形態では、IP立体映像表示装置1が、全ての視聴者Aに同一の要素画像群Eを表示する。つまり、全ての視聴者Aが、同一のIP立体映像を視聴することになる。
【0060】
視点検出手段52は、デプスカメラ60からのステレオ画像に奥行き推定処理を施して、視聴者Aの人数と、視聴者A毎の視点位置とを検出するものである。例えば、視点検出手段52は、ステレオ画像から視聴者Aの顔領域を検出し、ステレオ画像間で顔領域のマッチングを行う。そして、視点検出手段52は、対応する顔領域の個数を視聴者Aの人数とし、対応する顔領域の視差から視聴者Aの奥行き位置を求める。このとき、視点検出手段52は、正確性を向上させるため、瞳領域の位置を検出し、視聴者Aの視点位置を求めてもよい。
視点検出手段52は、検出した視聴者Aの人数を時分割表示手段54に出力し、検出した各視聴者Aの視点位置を表示位置算出手段53及び光源制御手段55に出力する。
【0061】
表示位置算出手段53は、視点検出手段52で検出された視聴者A毎に、その視聴者Aの視点位置に基づいて、その視聴者Aが視域αに含まれるように要素画像群Eの表示位置を算出するものである。各点光源pと要素画像eの中心位置とを結んだ延長線上に視域αが形成される。そこで、表示位置算出手段53は、各点光源pと視聴者Aの視点位置とを結ぶ直線が空間光変調器40の液晶パネル面に交わる位置を各要素画像eの中心位置(要素画像群Eの表示位置)として求める。例えば、表示位置算出手段53は、IP立体映像表示装置1から見て視聴者Aが左側に位置する場合、要素画像群Eの表示位置を右側にする。一方、表示位置算出手段53は、IP立体映像表示装置1から見て視聴者Aが右側に位置する場合、要素画像群Eの表示位置を左側にする。
表示位置算出手段53は、求めた要素画像群Eの表示位置を時分割表示手段54に出力する。
【0062】
時分割表示手段54は、視点検出手段52で検出された人数に基づいて要素画像群Eを時分割し、表示位置算出手段53が算出した表示位置で要素画像群Eを空間光変調器40に時分割表示する。図9では、時分割表示手段54は、視点検出手段52から視聴者Aの人数として‘3’が入力される。この場合、時分割表示手段54は、要素画像群記憶手段51から要素画像群Eを読み出して、この要素画像群Eを3フレーム間隔で時分割表示する。例えば、視聴者Aがフレーム#1,#4,#7,#10,…の要素画像群Eを視聴し、視聴者Aがフレーム#2,#5,#8,#11,…の要素画像群Eを視聴し、視聴者Aがフレーム#3,#6,#7,#12,…の要素画像群Eを視聴することになる。
【0063】
光源制御手段55は、視点検出手段52で検出された視聴者A毎に、その視聴者Aの視点位置に基づいて、その視聴者Aが視域αに含まれるように出射光の特性を制御するものである。本実施形態では、光源制御手段55は、出射光の特性として、非マスク領域73の位置及び大きさと、点光源形成用パターン71の投影間隔と、点光源形成用パターン71の投影方向との何れか1以上を制御する。例えば、光源制御手段55は、IP立体映像表示装置1から見て視聴者Aが左側に位置する場合、レンズアレイ30の右側に光が入射するように点光源群形成用パターン70を調整する。一方、光源制御手段55は、IP立体映像表示装置1から見て視聴者Aが右側に位置する場合、レンズアレイ30の左側に光が入射するように点光源群形成用パターン70を調整する。
【0064】
ここで、点光源群形成用パターン70の調整法について補足する。
光源制御手段55は、要素画像eの大きさb、要素レンズ31の焦点距離f、点光源pと空間光変調器40との距離Lが既知なので、前記した式(3)を用いて、非マスク領域73の大きさaを算出できる。
また、光源制御手段55は、表示位置算出手段53と同様、視聴者Aの視点位置が既知なので、非マスク領域73の位置及び点光源形成用パターン71の投影方向を算出できる。
また、光源制御手段55は、クロストークが発生しないように視域αを狭くするので、点光源形成用パターン71の投影間隔を‘1’として算出する。
【0065】
同期制御手段56は、プロジェクタ10に点光源群形成用パターン70を出力するタイミングと、空間光変調器40に要素画像群Eを出力するタイミングとを同期させるものである。つまり、同期制御手段56は、既知の同期制御により、表示位置算出手段53、時分割表示手段54及び光源制御手段55の処理タイミングを同期させる。
【0066】
[IP立体映像表示装置の動作]
図10を参照し、IP立体映像表示装置1の動作を説明する。
IP立体映像表示装置1は、デプスカメラ60を用いて、視聴者Aのステレオ画像を撮影する(ステップS1)。
IP立体映像表示装置1は、ステップS1で撮影したステレオ画像を用いて、視聴者Aの人数及び視聴者Aの視点位置を検出する。例えば、視点検出手段52は、顔領域検出処理及び奥行き推定処理により、視聴者Aの人数及び視聴者Aの視点位置を求める(ステップS2)。
【0067】
IP立体映像表示装置1は、視聴者Aの視点位置に応じて、空間光変調器40及びプロジェクタ10の出力を動的に変更する。つまり、IP立体映像表示装置1は、視聴者Aの視点位置に応じた要素画像群Eの移動と、視域αの制御とを行う。例えば、表示位置算出手段53が要素画像群Eの表示位置を算出し、光源制御手段55が点光源群形成用パターン70を調整する(ステップS3)。
【0068】
IP立体映像表示装置1は、視聴者Aの人数に応じて、要素画像群Eを時分割表示する。例えば、時分割表示手段54は、ステップS1で検出した視聴者Aの人数に基づいて要素画像群Eを時分割し、ステップS3で求めた表示位置で要素画像群Eを空間光変調器40に表示する(ステップS4)。
【0069】
IP立体映像表示装置1は、IP立体映像の時分割表示を終了するか否かを判定する。例えば、制御装置50は、IP立体映像の最終フレームまで表示した場合、IP立体映像の時分割表示を終了すると判定する(ステップS5)。
時分割表示を終了しない場合(ステップS5でNo)、IP立体映像表示装置1は、ステップS1の処理に戻る。
時分割表示を終了する場合(ステップS5でNo)、IP立体映像表示装置1は、動作を終了する。
【0070】
[作用・効果]
以上のように、IP立体映像表示装置1は、視点追従技術を用いて、視聴者A毎に狭い視域αを形成するので、クロストークが発生せず、立体映像画素数及び空間周波数特性の性能を向上させることができる。さらに、IP立体映像表示装置1は、視聴者A毎の狭い視域αで要素画像群Eを時分割表示するので、複数の視聴者Aに対応することができる。このように、IP立体映像表示装置1は、視点追従技術及び時分割表示により、複数の視聴者Aが略同時に高品質なIP立体映像を視聴することができる。
さらに、IP立体映像表示装置1は、視聴者Aの人数が変化した場合でも、視聴者Aの人数変化をリアルタイムで検出し、その人数に応じた時分割表示を行うことができる。
【0071】
以上、本発明の実施形態を詳述してきたが、本発明は前記した実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
【0072】
(変形例1)
前記した実施形態では、全ての視聴者に同一の要素画像群を時分割表示することとして説明したが、これに限定されない。つまり、各視聴者に異なる要素画像群を時分割表示してもよい。
【0073】
図3及び図9を参照し、変形例1に係るIP立体映像表示装置1Bを説明する。
図3に示すように、IP立体映像表示装置1Bは、プロジェクタ10と、コリメートレンズ20と、レンズアレイ30と、空間光変調器40と、制御装置50Bと、デプスカメラ60とを備える。
制御装置50Bは、要素画像群記憶手段51Bと、視点検出手段52と、表示位置算出手段53と、時分割表示手段54Bと、光源制御手段55と、同期制御手段56とを備える。
【0074】
要素画像群記憶手段51Bは、視聴者A毎に予め設定した要素画像群Eを記憶する。例えば、IP立体映像表示装置1Bでは、各視聴者Aが希望する要素画像群Eを要素画像群記憶手段51Bに予め記憶させておく。
【0075】
時分割表示手段54Bは、視聴者A毎の要素画像群Eを要素画像群記憶手段51から読み出して、その要素画像群Eを空間光変調器40に時分割表示するものである。図9では、視聴者Aが要素画像群Eのフレーム#1,#2,#3,#4,…を視聴し、視聴者Aが要素画像群Eのフレーム#1,#2,#3,#4,…を視聴し、視聴者Aが要素画像群Eのフレーム#1,#2,#3,#4,…を視聴することになる。
【0076】
これにより、IP立体映像表示装置1Bは、視聴者A~Aに異なる要素画像群E~Eを表示することができる。つまり、IP立体映像表示装置1Bでは、各視聴者Aが同一の視聴空間にいるにも関わらず、各視聴者Aが希望する要素画像群Eを視聴することができる。
【0077】
(その他変形例)
前記した実施形態では、視聴者の人数が3人であることとして説明したが、視聴者が2人以上であればよい。
前記した実施形態では、プロジェクタが光源であり、コリメートレンズ及びレンズアレイが平行光光学系であることとして説明したが、光源及び平行光光学系は、これらに限定されない。さらに、表示装置も空間光変調器に限定されない。
前記した実施形態では、デプスカメラにより視聴者の視点位置を検出することとして説明したが、これに限定されない。例えば、赤外線カメラや単眼カメラを用いて、視聴者のの視点位置を検出してもよい。
【0078】
前記した実施形態では、視聴者が左右に移動することとして説明したが、視聴者が上下に移動した場合でも、視域を追従させることができる。つまり、視聴者の移動方向と反対側に要素画像群を平行移動させ、レンズアレイには、視聴者の移動方向と反対側に光を入射させればよい。
前記した実施形態では、視聴者の視点位置に応じて要素画像群を平行移動させることとして説明したが、これに限定されない。例えば、視聴者の視点位置が手前側又は奥側に移動した場合、要素画像群を拡大又は縮小してもよい。
【0079】
前記した実施形態では、点光源群形成用パターンの一例を説明したが、これらに限定されない。つまり、非マスク領域の位置及び大きさ、非マスク領域が含まれる点光源形成用パターンの投影間隔、点光源形成用パターンの投影方向は、集光点から広がった光が要素画像と同一サイズになれば任意である。
【0080】
前記した実施形態では、制御装置を独立したハードウェアとして説明したが、本発明は、これに限定されない。例えば、本発明は、コンピュータが備えるCPU、メモリ、ハードディスク等のハードウェア資源を、前記した制御装置として協調動作させるプログラムで実現することもできる。これらのプログラムは、通信回線を介して配布してもよく、CD-ROMやフラッシュメモリ等の記録媒体に書き込んで配布してもよい。
【符号の説明】
【0081】
1,1B IP立体映像表示装置
10 プロジェクタ(光源)
20 コリメートレンズ(平行光光学系)
30 レンズアレイ(平行光光学系)
31 要素レンズ
40 空間光変調器(表示装置)
50,50B 制御装置
51,51B 要素画像群記憶手段
52 視点検出手段
53 表示位置算出手段
54,54B 時分割表示手段
55 光源制御手段
56 同期制御手段
60 デプスカメラ(奥行き推定カメラ)
70 点光源群形成用パターン
71,71,71 点光源形成用パターン
73 非マスク領域
75 マスク領域
9 IP立体映像表示装置
91 直視型ディスプレイ
93 レンズアレイ
95 要素レンズ
A,A~A 視聴者
E 要素画像群
e,e,e 要素画像
P 点光源群
p 点光源
Z 立体像
α,α~α,β 視域
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13