IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日本放送協会の特許一覧

特許7308045立体画像生成システム、並びに、立体画像生成装置及びそのプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-07-05
(45)【発行日】2023-07-13
(54)【発明の名称】立体画像生成システム、並びに、立体画像生成装置及びそのプログラム
(51)【国際特許分類】
   H04N 13/243 20180101AFI20230706BHJP
   H04N 13/282 20180101ALI20230706BHJP
   H04N 13/307 20180101ALI20230706BHJP
   H04N 13/275 20180101ALI20230706BHJP
   H04N 13/128 20180101ALI20230706BHJP
   G02B 30/10 20200101ALI20230706BHJP
【FI】
H04N13/243
H04N13/282
H04N13/307
H04N13/275
H04N13/128
G02B30/10
【請求項の数】 9
(21)【出願番号】P 2019022359
(22)【出願日】2019-02-12
(65)【公開番号】P2020129773
(43)【公開日】2020-08-27
【審査請求日】2022-01-13
(73)【特許権者】
【識別番号】000004352
【氏名又は名称】日本放送協会
(74)【代理人】
【識別番号】110001807
【氏名又は名称】弁理士法人磯野国際特許商標事務所
(72)【発明者】
【氏名】日浦 人誌
(72)【発明者】
【氏名】久富 健介
(72)【発明者】
【氏名】洗井 淳
【審査官】益戸 宏
(56)【参考文献】
【文献】特開2018-133795(JP,A)
【文献】特開2014-215313(JP,A)
【文献】特開2006-235415(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 13/00
G02B 30/00
(57)【特許請求の範囲】
【請求項1】
撮像素子の各画素が正方配列された撮像カメラからなる撮像カメラアレイと、
表示素子及び複数の光学素子をデルタ状に配列した光学素子アレイを備える立体画像表示装置の奥行きに応じて、前記立体画像表示装置が表示する要素画像群を生成する立体画像生成装置と、備える立体画像生成システムであって、
前記撮像カメラは、前記撮像素子の画素数が前記光学素子の個数以上であり、
前記立体画像生成装置が、
前記立体画像表示装置の奥行き最大表示距離と、前記光学素子の焦点距離と、前記要素画像群を構成する要素画像の中心画素から前記撮像カメラ毎の計算対象画素までの画素間距離と、前記光学素子アレイから後方奥行き最大表示位置までの差分距離と、前記撮像カメラが備える撮像素子のサイズと、前記表示素子のサイズとを入力するパラメータ入力手段と、
前記奥行き最大表示距離と、前記光学素子の焦点距離と、前記画素間距離とに基づいて、前記撮像カメラの位置を算出する位置算出手段と、
前記画素間距離と、前記差分距離と、前記光学素子の焦点距離と、前記撮像素子のサイズと、前記表示素子のサイズとに基づいて、前記撮像カメラが備える撮像レンズと前記撮像素子との軸ずれ量を算出する軸ずれ量算出手段と、
前記位置算出手段が算出した位置に前記撮像カメラを移動させ、前記軸ずれ量算出手段が算出した軸ずれ量だけ前記撮像レンズと前記撮像素子とをずらす撮像カメラ制御手段と、
前記撮像素子の各画素が正方配列された各撮像カメラが撮像した被写体画像から、デルタ状に配列された前記光学素子に合わせて、前記要素画像がデルタ状に配列された要素画像群を生成する立体画像生成手段と、を備え、
前記撮像カメラアレイは、前記要素画像の画素数と同数の前記撮像カメラを備え、
前記撮像カメラは、隣接する前記光学素子が整列する一方の軸方向で前記撮像素子の画素数が前記光学素子の個数に等しく、隣接する前記光学素子が整列する他方の軸方向で前記撮像素子の画素数が前記光学素子の個数を2倍した値に等しくなり、
前記立体画像生成手段は、前記一方の軸方向及び前記他方の軸方向で、前記撮像カメラが撮像した画像の各画素を2画素間隔で取得することを特徴とする立体画像生成システム。
【請求項2】
撮像素子の各画素が正方配列された撮像カメラからなる撮像カメラアレイと、
表示素子及び複数の光学素子をデルタ状に配列した光学素子アレイを備える立体画像表示装置の奥行きに応じて、前記立体画像表示装置が表示する要素画像群を生成する立体画像生成装置と、備える立体画像生成システムであって、
前記撮像カメラは、前記撮像素子の画素数が前記光学素子の個数以上であり、
前記立体画像生成装置が、
前記立体画像表示装置の奥行き最大表示距離と、前記光学素子の焦点距離と、前記要素画像群を構成する要素画像の中心画素から前記撮像カメラ毎の計算対象画素までの画素間距離と、前記光学素子アレイから後方奥行き最大表示位置までの差分距離と、前記撮像カメラが備える撮像素子のサイズと、前記表示素子のサイズとを入力するパラメータ入力手段と、
前記奥行き最大表示距離と、前記光学素子の焦点距離と、前記画素間距離とに基づいて、前記撮像カメラの位置を算出する位置算出手段と、
前記画素間距離と、前記差分距離と、前記光学素子の焦点距離と、前記撮像素子のサイズと、前記表示素子のサイズとに基づいて、前記撮像カメラが備える撮像レンズと前記撮像素子との軸ずれ量を算出する軸ずれ量算出手段と、
前記位置算出手段が算出した位置に前記撮像カメラを移動させる撮像カメラ制御手段と、
前記撮像素子の各画素が正方配列された各撮像カメラが撮像した被写体画像から前記軸ずれ量に応じた画素位置の画素値を取得し、デルタ状に配列された前記光学素子に合わせて、前記要素画像がデルタ状に配列された要素画像群を生成する立体画像生成手段と、を備え、
前記撮像カメラアレイは、前記要素画像の画素数と同数の前記撮像カメラを備え、
前記撮像カメラは、隣接する前記光学素子が整列する一方の軸方向で前記撮像素子の画素数が前記光学素子の個数に等しく、隣接する前記光学素子が整列する他方の軸方向で前記撮像素子の画素数が前記光学素子の個数を2倍した値に等しくなり、
前記立体画像生成手段は、前記一方の軸方向及び前記他方の軸方向で、前記撮像カメラが撮像した画像の各画素を2画素間隔で取得することを特徴とする立体画像生成システム。
【請求項3】
前記撮像カメラアレイは、前記要素画像の画素数と同数の前記撮像カメラを備え、
前記撮像カメラは、前記光学素子の個数の半数に等しい画素数の前記撮像素子が半画素ずれるように2枚配置され、
前記立体画像生成手段は、2枚の前記撮像素子の各画素を交互に取得することを特徴とする請求項1又は請求項2に記載の立体画像生成システム。
【請求項4】
前記光学素子アレイは、正六角形状の前記光学素子がデルタ状に配列されたハニカム構造であり、
前記立体画像生成手段は、前記光学素子の幅及び高さの比に合わせて、前記要素画像群を縮小又は拡大することを特徴とする請求項1から請求項の何れか一項に記載の立体画像生成システム。
【請求項5】
表示素子及び複数の光学素子をデルタ状に配列した光学素子アレイを備える立体画像表示装置の奥行きに応じて、撮像素子の各画素が正方配列された仮想的な撮像カメラからなる撮像カメラアレイで生成した被写体画像から、前記立体画像表示装置が表示する要素画像群を生成する立体画像生成装置であって、
前記立体画像表示装置の奥行き最大表示距離と、前記光学素子の焦点距離と、前記要素画像群を構成する要素画像の中心画素から前記撮像カメラ毎の計算対象画素までの画素間距離と、前記光学素子アレイから後方奥行き最大表示位置までの差分距離と、前記撮像カメラが備える撮像素子のサイズと、前記表示素子のサイズとを入力するパラメータ入力手段と、
前記奥行き最大表示距離と、前記光学素子の焦点距離と、前記画素間距離とに基づいて、前記撮像カメラの位置を算出する位置算出手段と、
前記画素間距離と、前記差分距離と、前記光学素子の焦点距離と、前記撮像素子のサイズと、前記表示素子のサイズとに基づいて、前記撮像カメラが備える撮像レンズと前記撮像素子との軸ずれ量を算出する軸ずれ量算出手段と、
前記撮像素子の画素数が前記光学素子の個数以上となる前記撮像カメラを、前記位置算出手段が算出した位置及び前記軸ずれ量算出手段が算出した軸ずれ量で設定する撮像カメラ制御手段と、
前記撮像素子の各画素が正方配列された各撮像カメラを介して前記被写体画像を生成し、生成した当該被写体画像から、デルタ状に配列された前記光学素子に合わせて、前記要素画像がデルタ状に配列された要素画像群を生成する立体画像生成手段と、を備え、
前記撮像カメラアレイは、前記要素画像の画素数と同数の前記撮像カメラを備え、
前記撮像カメラは、隣接する前記光学素子が整列する一方の軸方向で前記撮像素子の画素数が前記光学素子の個数に等しく、隣接する前記光学素子が整列する他方の軸方向で前記撮像素子の画素数が前記光学素子の個数を2倍した値に等しくなり、
前記立体画像生成手段は、前記一方の軸方向及び前記他方の軸方向で、前記撮像カメラが撮像した画像の各画素を2画素間隔で取得することを特徴とする立体画像生成装置。
【請求項6】
表示素子及び複数の光学素子をデルタ状に配列した光学素子アレイを備える立体画像表示装置の奥行きに応じて、撮像素子の各画素が正方配列された仮想的な撮像カメラからなる仮想的な撮像カメラアレイで生成した被写体画像から、前記立体画像表示装置が表示する要素画像群を生成する立体画像生成装置であって、
前記立体画像表示装置の奥行き最大表示距離と、前記光学素子の焦点距離と、前記要素画像群を構成する要素画像の中心画素から前記撮像カメラ毎の計算対象画素までの画素間距離と、前記光学素子アレイから後方奥行き最大表示位置までの差分距離と、前記撮像カメラが備える撮像素子のサイズと、前記表示素子のサイズとを入力するパラメータ入力手段と、
前記奥行き最大表示距離と、前記光学素子の焦点距離と、前記画素間距離とに基づいて、前記撮像カメラの位置を算出する位置算出手段と、
前記画素間距離と、前記差分距離と、前記光学素子の焦点距離と、前記撮像素子のサイズと、前記表示素子のサイズとに基づいて、前記撮像カメラが備える撮像レンズと前記撮像素子との軸ずれ量を算出する軸ずれ量算出手段と、
前記撮像素子の画素数が前記光学素子の個数以上となる前記撮像カメラを、前記位置算出手段が算出した位置に設定する撮像カメラ制御手段と、
前記撮像素子の各画素が正方配列された各撮像カメラを介して前記被写体画像を生成し、当該被写体画像から前記軸ずれ量に応じた画素位置の画素値を取得し、デルタ状に配列された前記光学素子に合わせて、前記要素画像がデルタ状に配列された要素画像群を生成する立体画像生成手段と、を備え、
前記撮像カメラアレイは、前記要素画像の画素数と同数の前記撮像カメラを備え、
前記撮像カメラは、隣接する前記光学素子が整列する一方の軸方向で前記撮像素子の画素数が前記光学素子の個数に等しく、隣接する前記光学素子が整列する他方の軸方向で前記撮像素子の画素数が前記光学素子の個数を2倍した値に等しくなり、
前記立体画像生成手段は、前記一方の軸方向及び前記他方の軸方向で、前記撮像カメラが撮像した画像の各画素を2画素間隔で取得することを特徴とする立体画像生成装置。
【請求項7】
前記撮像カメラアレイは、前記要素画像の画素数と同数の前記撮像カメラを備え、
前記撮像カメラは、前記光学素子の個数の半数に等しい画素数の前記撮像素子が半画素ずれるように2枚配置され、
前記立体画像生成手段は、2枚の前記撮像素子の各画素を交互に取得することを特徴とする請求項又は請求項に記載の立体画像生成装置。
【請求項8】
前記光学素子アレイは、正六角形状の前記光学素子がデルタ状に配列されたハニカム構造であり、
前記立体画像生成手段は、前記光学素子の幅及び高さの比に合わせて、前記要素画像群を縮小又は拡大することを特徴とする請求項から請求項の何れか一項に記載の立体画像生成装置。
【請求項9】
コンピュータを、請求項1から請求項の何れか一項に記載の立体画像生成装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、立体画像表示装置の奥行きに応じて、被写体画像から立体画像表示装置が表示する要素画像群を生成する立体画像生成システム、並びに、立体画像生成装置及びそのプログラムに関する。
【背景技術】
【0002】
従来のインテグラルフォトグラフィ(IP)方式では、1台のカメラで複数の微小レンズが配列されたレンズアレイを通して被写体を撮像する。このとき、カメラがレンズアレイの焦平面を撮像するため、レンズアレイを構成する各微小レンズは、微小なカメラと同じ働きをする。その結果、レンズアレイ越しに被写体を撮像した画像は、微小レンズの位置に応じた微小画像(要素画像)が並んだ要素画像群となる。要素画像群は、被写体からの光線情報を記憶した画像であり、記憶できる光線数がカメラの解像度に依存する。このため、IP方式での撮像には、高解像度のカメラが必要となる。また、撮像光学系の色収差や歪みによる影響を補正する必要もある。
【0003】
また、従来から、コンピュータグラフィックス(CG)を用いて、IP方式の要素画像群を生成する技術が研究されている。従来技術では、計算機内で仮想3次元空間を生成し、3次元の被写体及び背景(セット)を実世界と同様に再現し、その仮想3次元空間において被写体からの光線を追跡することで、要素画像群を生成する。CGによる要素画像を生成する手法として、下記の特許文献1,2及び非特許文献1,2に記載の手法が知られている。これらの要素画像生成手法は、被写体からの光線を制御する奥行き制御レンズを通して、被写体からの光線を追跡するものである。これらの手法では、要素画像群の画素数の回数だけ観察者側からカメラで撮像する必要がある。すなわち、非特許文献1の要素画像生成手法は、1画素毎に光線追跡法を用いるので、1画素毎に撮像を行うカメラと同等であり、撮像回数が要素画像群の画素数と同じになる。そこで、さらなる高速化のため、従来技術として、CGオブジェクトを正射影によるカメラで撮像し、これらの画像を要素画像群に変換する手法も知られている(特許文献3、非特許文献3)。このような要素画像変換手法では、カメラで撮像する回数が要素画像を形成する画素数で済む。
【先行技術文献】
【特許文献】
【0004】
【文献】特許第4567422号公報
【文献】国際公開第00/059235号
【文献】特開2011-234142号公報
【非特許文献】
【0005】
【文献】Spyros S. Athineos et al.,“Physical modeling of a microlens array setup for use in computer generated IP,”Proc of SPIE-IS&T Electronic Imaging,Vol.5664 pp.472-479,2005
【文献】中島勧他,“Integral Photographyの原理を用いた3次元ディスプレイの画像高速作成法”,映像情報メディア学会誌 Vol. 54, No. 3, pp.420-425 (2000)
【文献】M. Katayama et al., “A method for converting three-dimensional models into auto-stereoscopic images based on integral photography,” Proc of SPIE-IS&T Vol.6805 68050Z-1 68050Z-8
【発明の概要】
【発明が解決しようとする課題】
【0006】
ここで、IP方式では、立体像が表示装置のレンズアレイから奥行き方向に離れるほど、立体像の解像度が低下する。このため、IP方式では、表示装置で十分な解像度が得られる範囲内に立体像の奥行きを圧縮した方がよい。しかしながら、前記した従来技術では、立体像の奥行きを圧縮していないという問題がある。さらに、表示装置のレンズアレイがデルタ配列で、撮像カメラの各画素が正方配列の場合、両方の配列構造が異なるため、単純に要素画像を生成することができない。
【0007】
そこで、本発明は、立体画像表示装置のレンズアレイがデルタ配列の場合でも、立体像の奥行きを圧縮できる立体画像生成システム、並びに、立体画像生成装置及びそのプログラムを提供することを課題とする。
【課題を解決するための手段】
【0008】
前記した課題に鑑みて、本発明に係る立体画像生成システムは、撮像素子の各画素が正方配列された撮像カメラからなる撮像カメラアレイと、表示素子及び複数の光学素子をデルタ状に配列した光学素子アレイを備える立体画像表示装置の奥行きに応じて、立体画像表示装置が表示する要素画像群を生成する立体画像生成装置と、備える構成とした。
【0009】
かかる立体画像生成システムにおいて、撮像カメラは、光学素子をデルタ状に配列した光学素子アレイに対応するため、撮像素子の画素数が光学素子の個数以上である。
立体画像生成装置は、パラメータ入力手段によって、立体画像表示装置の奥行き最大表示距離と、光学素子の焦点距離と、要素画像群を構成する要素画像の中心画素から撮像カメラ毎の計算対象画素までの画素間距離と、光学素子アレイから後方奥行き最大表示位置までの差分距離と、撮像カメラが備える撮像素子のサイズと、表示素子のサイズとを入力する。
【0010】
立体画像生成装置は、位置算出手段によって、奥行き最大表示距離と、光学素子の焦点距離と、画素間距離とに基づいて、撮像カメラの位置を算出する。
立体画像生成装置は、軸ずれ量算出手段によって、画素間距離と、差分距離と、光学素子の焦点距離と、撮像素子のサイズと、表示素子のサイズとに基づいて、撮像カメラが備える撮像レンズと撮像素子との軸ずれ量を算出する。
【0011】
立体画像生成装置は、撮像カメラ制御手によって、位置算出手段が算出した位置に撮像カメラを移動させ、軸ずれ量算出手段が算出した軸ずれ量だけ撮像レンズと撮像素子とをずらす。
立体画像生成装置は、立体画像生成手段によって、撮像素子の各画素が正方配列された各撮像カメラが撮像した被写体画像から、デルタ状に配列された光学素子に合わせて、要素画像がデルタ状に配列された要素画像群を生成する。
このように、立体画像生成装置は、撮像カメラが備える撮像レンズの光軸と撮像素子の中心軸とをずらすことで、立体画像の奥行きを圧縮することができる。
【0012】
また、前記した課題に鑑みて、本発明に係る立体画像生成装置は、表示素子及び複数の光学素子をデルタ状に配列した光学素子アレイを備える立体画像表示装置の奥行きに応じて、撮像素子の各画素が正方配列された仮想的な撮像カメラからなる撮像カメラアレイで生成した被写体画像から、立体画像表示装置が表示する要素画像群を生成する構成とした。
【0013】
かかる立体画像生成装置は、パラメータ入力手段によって、立体画像表示装置の奥行き最大表示距離と、光学素子の焦点距離と、要素画像群を構成する要素画像の中心画素から撮像カメラ毎の計算対象画素までの画素間距離と、光学素子アレイから後方奥行き最大表示位置までの差分距離と、撮像カメラが備える撮像素子のサイズと、表示素子のサイズとを入力する。
【0014】
立体画像生成装置は、位置算出手段によって、奥行き最大表示距離と、光学素子の焦点距離と、画素間距離とに基づいて、撮像カメラの位置を算出する。
立体画像生成装置は、軸ずれ量算出手段によって、画素間距離と、差分距離と、光学素子の焦点距離と、撮像素子のサイズと、表示素子のサイズとに基づいて、撮像カメラが備える撮像レンズと撮像素子との軸ずれ量を算出する。
【0015】
立体画像生成装置は、撮像カメラ制御手段によって、位置算出手段が算出した位置及び軸ずれ量算出手段が算出した軸ずれ量で設定する。この仮想的な撮像カメラは、光学素子をデルタ状に配列した光学素子アレイに対応するため、撮像素子の画素数が光学素子の個数以上である。
立体画像生成装置は、立体画像生成手段によって、撮像素子の各画素が正方配列された各撮像カメラを介して被写体画像を生成し、生成した被写体画像から、デルタ状に配列された光学素子に合わせて、要素画像がデルタ状に配列された要素画像群を生成する。
このように、立体画像生成装置は、仮想的な撮像カメラが備える撮像レンズの光軸と撮像素子との中心軸をずらすことで、立体画像の奥行きを圧縮することができる。
【0016】
ここで、立体画像生成装置は、撮像レンズと撮像素子とを軸ずれさせる代わりに、被写体画像から軸ずれ量に応じた画素位置の画素値を取得して要素画像群を生成してもよい。
このように、立体画像生成装置は、撮像カメラが備える撮像レンズの光軸と撮像素子の中心軸とをずらしたのと同等の処理を行うことで、立体画像の奥行きを圧縮することができる。
【0017】
なお、前記した立体画像生成装置は、コンピュータが備えるCPU、メモリ、ハードディスクなどのハードウェア資源を、前記した立体画像生成装置として協調動作させるプログラムで実現することもできる。
【発明の効果】
【0018】
本発明によれば、以下のような優れた効果を奏する。
本発明によれば、撮像レンズの光軸と撮像素子の中心軸とをずらした撮像カメラアレイで取得した複数の被写体画像から、立体像の奥行きを圧縮した要素画像群を生成するので、立体画像表示装置のレンズアレイがデルタ配列の場合でも、解像度の高い奥行き範囲で立体像を表示することができる。
【0019】
さらに、本発明によれば、被写体画像から軸ずれ量に応じた画素位置の画素値を取得し、立体像の奥行きを圧縮した要素画像群を生成するので、立体画像表示装置のレンズアレイがデルタ配列の場合でも、解像度の高い奥行き範囲で立体像を表示することができる。
【図面の簡単な説明】
【0020】
図1】立体画像表示装置の概略を示す概略構成図である。
図2】立体画像撮像装置の概略を示す概略構成図である。
図3図2の立体画像撮像装置において、撮像素子の各画素に入射する光線を説明する説明図である。
図4図3において、撮像素子が撮像する各要素画像で一番下の画素に入射する光線を説明する説明図である。
図5図3において、撮像素子が撮像する各要素画像で中心の画素に入射する光線を説明する説明図である。
図6図3において、撮像素子が撮像する各要素画像で一番上の画素に入射する光線を説明する説明図である。
図7図4の光線と奥行き制御レンズの主平面との交点に配置した撮像カメラを説明する説明図である。
図8図3の光線と奥行き制御レンズの主平面との交点に配置した撮像カメラを説明する説明図である。
図9図8において、奥行き制御レンズの主平面から所定距離だけ離した撮像カメラを説明する説明図である。
図10】仮想的なレンズアレイの配置を説明する説明図である。
図11】(a)~(d)は撮像素子に入射する光線を説明する図である。
図12】奥行き制御レンズによる非線形圧縮特性を表したグラフである。
図13】第1実施形態において、軸ずれによる奥行きの圧縮を説明する説明図である。
図14】第1実施形態において、軸ずれによる奥行きの圧縮を説明する説明図である。
図15】第1~第4実施形態に係る立体画像表示システムの構成を示すブロック図である。
図16】第1実施形態において、撮像カメラアレイの外観を示す外観図である。
図17】第1実施形態において、撮像カメラの軸ずれを説明する説明図であり、(a)は軸ずれが無いときの図であり、(b)は軸ずれが有るときの図である。
図18】第1実施形態において、(a)は撮像素子の画素配列を説明する説明図であり、(b)は表示用レンズアレイのレンズ配列を説明する説明図であり、(c)は要素画像の配列を説明する説明図である。
図19】第1実施形態において、(a)は正方形レンズ及び円形レンズを説明する説明図であり、(b)は長方形レンズ及びハニカムレンズを説明する説明図である。
図20】第1実施形態において、正方形レンズの場合に画素位置変換テーブルの設定を説明する説明図であり、(a)は撮像素子を示す図であり、(b)は要素画像群を示す図である。
図21】第1実施形態において、長方形レンズの場合に画素位置変換テーブルの設定を説明する説明図であり、(a)は撮像素子を示す図であり、(b)は要素画像群を示す図である。
図22】第1実施形態に係る立体画像生成装置の動作を示すフローチャートである。
図23】第2実施形態において、正方形レンズの場合に画素位置変換テーブルの設定を説明する説明図であり、(a)は撮像素子を示す図であり、(b)は要素画像群を示す図である。
図24】第2実施形態において、長方形レンズの場合に画素位置変換テーブルの設定を説明する説明図であり、(a)は撮像素子を示す図であり、(b)は要素画像群を示す図である。
図25】第3実施形態において、正方形レンズの場合に画素位置変換テーブルの設定を説明する説明図であり、(a)は撮像素子を示す図であり、(b)は要素画像群を示す図である。
図26】第3実施形態において、長方形レンズの場合における撮像素子のサイズを説明する図であり、(a)は通常サイズの撮像素子を示す図であり、(b)は水平画素サイズを2倍にした撮像素子を示す図であり、(c)は垂直画素サイズを1/2にした撮像素子を示す図である。
図27】第4実施形態において、画素位置変換テーブルの設定を説明する説明図であり、(a)は水平画素サイズを2倍にした撮像素子を示す図であり、(b)は垂直画素サイズを1/2にした撮像素子を示す図であり、(c)は撮像素子を示す図であり、(d)は要素画像群を示す図である。
図28】第5実施形態に係る立体画像表示システムの構成を示すブロック図である。
図29】第5実施形態に係る立体画像生成装置の動作を示すフローチャートである。
図30】第6実施形態において、軸ずれ量を考慮した画素位置の画素値の取得を説明する説明図であり、(a)は軸ずれが無いときの図であり、(b)は軸ずれが有るときの図である。
【発明を実施するための形態】
【0021】
以下、本発明の各実施形態について、適宜図面を参照しながら詳細に説明する。なお、各実施形態において、同一の手段及び処理には同一の符号を付し、説明を省略した。
奥行きの圧縮原理を説明した後、本実施形態に係る立体画像表示システムについて説明する。
【0022】
[奥行きの圧縮原理]
以下、奥行きの圧縮原理として、立体画像表示装置と立体画像撮像装置との関係、撮像カメラによる置換、立体画像撮像装置の非線形圧縮特性、軸ずれによる奥行きの圧縮について、順に説明する。
【0023】
<立体画像表示装置と立体画像撮像装置との関係>
立体画像表示装置10は、被写体αの立体像をIP方式で表示するディスプレイである。例えば、立体画像表示装置10は、図1に示すように、表示素子11と、表示用レンズアレイ12とを備える。
【0024】
表示素子11は、例えば、正方配列された画素で構成されており、表示用レンズアレイ12を介して、要素画像群(立体画像)を表示するものである。
表示用レンズアレイ12は、表示用要素レンズ13(例えば、微小な凸レンズ)をデルタ状に配列(樽積み配列)したものである。
【0025】
図2に示すように、立体画像撮像装置90は、被写体αをIP方式で撮像するカメラであり、撮像素子91と、撮像用レンズアレイ92と、奥行き制御レンズ94とを備える。ここで、立体画像撮像装置90は、撮像素子91の前面に撮像用レンズアレイ92を配置し、撮像用レンズアレイ92と被写体αとの間に奥行き制御レンズ94を配置する。
【0026】
撮像素子91は、撮像用レンズアレイ92及び奥行き制御レンズ94を介して、要素画像群を撮像する一般的な撮像素子である。この撮像素子91は、後記する撮像用要素レンズ93の焦点距離LAfに位置する。
撮像用レンズアレイ92は、撮像用要素レンズ93(例えば、微小な凸レンズ)を2次元状に配列したものである。
奥行き制御レンズ94は、一般的な凸レンズである。奥行き制御レンズ94の焦点距離をDfとする。ここで、焦点距離Dfには、撮像用レンズアレイ92が位置する。
【0027】
立体画像撮像装置90は、高画質な立体画像を撮像するため、画素数が多い撮像素子91と、高密度な撮像用レンズアレイ92とが必要になる。また、立体画像撮像装置90は、広範囲を撮像するためには、大口径、かつ、短焦点の奥行き制御レンズ94が必要になる。このように、立体画像撮像装置90の制約が大きいので、立体画像撮像装置90を1台以上の一般的な撮像カメラ21(図17)で置換する手法を検討する。
【0028】
立体画像表示装置10及び立体画像撮像装置90は、奥行き制御レンズ94の有無が大きく異なる。一方、表示素子11及び撮像素子91のサイズの比と、表示用レンズアレイ12及び撮像用レンズアレイ92の間隔及び焦点距離の比とは、通常同一となる。このような関係により、奥行き制御レンズ94を備えない立体画像表示装置10のパラメータを、立体画像撮像装置90のパラメータとして扱うことができる。
【0029】
<撮像カメラによる置換>
図3には、被写体αからの光線を撮像素子91が取得する様子を図示した。なお、図3では、説明を分かり易くするため、各撮像用要素レンズ93の主点を通過する光線のみを図示すると共に、光線を撮像素子91から被写体αの方向の矢印で図示した(図4図9も同様)。
【0030】
撮像用レンズアレイ92のレンズ間隔LApが、撮像素子91の画素間隔PlXpの整数倍であることとする。図3に示すように、撮像素子91の各画素に入射する光線は、奥行き制御レンズ94の被写体α側の主平面βで交わる点が存在する。従って、撮像素子91が撮像する各要素画像で一番下の画素は、図4に示すような光線群が入射する。また、撮像素子91が撮像する各要素画像で中心の画素は、図5に示すような光線群が入射する。さらに、撮像素子91が撮像する各要素画像で一番上の画素は、図6に示すような光線群が入射する。
【0031】
ここで、図4に着目すると、奥行き制御レンズ94の被写体α側の主平面βにおいて、光線が一点で交わっている。図7に示すように、撮像カメラ21が備える撮像レンズ27の主点と前記交点とが一致するように撮像カメラ21を配置することで、各要素画像内の一番下の画素に入射する光線を1台の撮像カメラ21で撮像できる。各要素画像内で一番下以外の画素に入射する光線も、一番下の画素と同様、それぞれ、1台の撮像カメラ21で撮像できる。
【0032】
また、撮像カメラ21の台数は、要素画像の画素数と同数になる。例えば、要素画像が縦10画素、横10画素、計100画素の場合、立体画像撮像装置90を100台の撮像カメラ21で置換できる。図8では、各要素画像内の一番下、中央及び一番上の画素で説明したので、立体画像撮像装置90を3台の撮像カメラ21で置換している。
【0033】
<立体画像撮像装置の非線形圧縮特性>
立体画像の奥行きを圧縮(圧縮)するには、図9に示すように、撮像素子91及び撮像用レンズアレイ92を、奥行き制御レンズ94の撮像素子91側の主平面γよりもΔfだけ離す。この主平面γからの距離Δfに応じて、立体画像の奥行きが圧縮される。
【0034】
図10に示すように、立体画像撮像装置90は、奥行き制御レンズ94を挟んで撮像用レンズアレイ92の反対側に、奥行き制御レンズ94により仮想的なレンズアレイ(仮想レンズアレイ)95が生成される。奥行き制御レンズ94から仮想レンズアレイ95までの距離をAとする。また、奥行き制御レンズ94から撮像用レンズアレイ92までの距離をBとする。
【0035】
図11に示すように、主平面γからの距離Δfを奥行き制御レンズ94の焦点距離Dfの1.25倍、1.5倍、1.75倍、2.0倍に変更したときの光線群を図示した。図11では、横軸が奥行き方向の位置を表し、縦軸が垂直方向の位置を表す。また、横軸の0が撮像素子91の奥行き位置であり、縦軸の0が撮像素子91で一番下の画素位置である。
【0036】
距離A,Bは、主平面γからの距離Δfが0から焦点距離Dfまでの間で変化するとき、下記の式(1)で求めることができる。
【0037】
【数1】
【0038】
図12に示すように、距離A,Bの関係から、奥行き制御レンズ94による非線形圧縮特性を求めることができる。図12のグラフでは、横軸が、距離Aを焦点距離Dfで正規化した値を表し、縦軸が、距離Bを焦点距離Dfで正規化した値を表す。
【0039】
図12のグラフは、奥行き制御レンズ94を基準として、被写体α側で焦点距離Dfの2倍の位置(距離A=2.0)に被写体αの中心が配置されるとき、撮像素子91側で焦点距離Dfの2倍の位置(距離B=2.0)に被写体αの光学像の中心が形成されることを表す。また、図12のグラフは、奥行き制御レンズ94を基準として、被写体α側で焦点距離Dfの3倍の位置(距離A=3.0)に被写体αの中心が配置されるとき、撮像素子91側で焦点距離Dfの1.5倍の位置(距離B=1.5)に被写体αの光学像の中心が形成されることを表す。
【0040】
つまり、被写体αの光学像の表示位置は、奥行き制御レンズ94から撮像用レンズアレイ92までの距離に依存する。これにより、被写体α側で無限大の位置から焦点距離Dfの位置(主平面β)までの範囲(距離A-焦点距離Dfの範囲)は、撮像素子91の側では、焦点距離Dfの位置(主平面γ)から焦点距離Dfの2倍の位置までの範囲に収まる。言い換えるなら、立体画像撮像装置90において、無限大の空間を焦点距離Dfの範囲に圧縮できる。このため、奥行き制御レンズ94の焦点距離Df及び主平面γからの距離Δfを調整することで、立体画像表示装置10で解像度が高い範囲に立体像の奥行きを圧縮できる。
【0041】
<軸ずれによる奥行きの圧縮>
図13に示すように、奥行き制御レンズ94から撮像用レンズアレイ92までの距離がL1の場合を考える。この場合、各要素画像内の一番上の画素に入射する光線は、主平面β上の点Pを角度θで通過する。
図14に示すように、奥行き制御レンズ94から撮像用レンズアレイ92までの距離がL2の場合を考える(ここでは、距離L1<距離L2)。この場合、各要素画像内の一番上の画素に入射する光線は、主平面β上で同一点Pを角度φで通過する。なお、角度θ,φは、光線と立体画像撮像装置90の光軸とのなす角である(θ≠φ)。
【0042】
ここで、奥行き制御レンズ94から撮像用レンズアレイ92までの距離をL1からL2に変化させた場合、奥行き制御レンズ94を通過後、各要素画像内の一番上の画素に入射する光線の角度θから角度φに変化する。つまり、奥行き制御レンズ94から撮像用レンズアレイ92までの距離L1,L2の変化が角度θ,φの変化として表れ、この角度θ,φの変化に応じて、立体画像撮像装置90の撮影範囲(画角)が変化する。
【0043】
一方、立体画像表示装置10(図1)は、奥行き制御レンズ94を備えないので、立体画像撮像装置90のような光線の角度変化が発生しない。このため、焦点距離Dfに位置する主平面β上で撮像カメラ21の軸をずらすことで、立体像の奥行きを圧縮できる。
【0044】
以上説明した奥行きの圧縮原理をまとめると、以下のとおりである。
立体画像撮像装置90の距離Δfを調整することで立体像の奥行きを圧縮できる。また、立体画像撮像装置90を1台以上の撮像カメラ21で置換できると共に、撮像カメラ21の軸をずらすことで、立体画像撮像装置90で距離Δfを調整したときと同様、立体像の奥行き圧縮の効果が得られる。そして、立体画像表示装置10のパラメータを、立体画像撮像装置90のパラメータとして扱って、撮像カメラ21の軸ずれを計算できる。
【0045】
ここで、撮像素子21では、各画素が正方配列されているのに対し、表示用レンズアレイ12では、各表示用要素レンズ13がデルタ状に配列されている。このように、撮像側と表示側で配列構造が異なるため、撮像素子21で撮像した被写体画像の各画素を取得する際、以下の各実施形態で説明するような工夫が必要となる。
【0046】
(第1実施形態)
[立体画像表示システム]
図15を参照し、本発明の第1実施形態に係る立体画像表示システム(立体画像生成システム)1について説明する。
立体画像表示システム1は、被写体αの立体像を表示するものであり、図15に示すように、立体画像表示装置10と、撮像カメラアレイ20と、立体画像生成装置30と、を備える。
【0047】
撮像カメラアレイ20は、図16に示すように、複数の撮像カメラ21を配列したものである。具体的には、撮像カメラアレイ20は、要素画像の水平画素数と同数の撮像カメラ21を水平方向に配列し、要素画像の垂直画素数と同数の撮像カメラ21を垂直方向に配列している。なお、図16では、図面を見やすくするため、一部撮像カメラ21の図示を省略した。
【0048】
撮像カメラアレイ20は、立体画像生成装置30(撮像カメラ制御手段34)からの指令に応じて、各撮像カメラ21の位置(水平方向、垂直方向及び奥行き方向の位置)を変更できる。
【0049】
図16の例では、撮像カメラアレイ20は、撮像カメラ制御手段34からの指令に応じて、床面に形成されたレールに沿って、奥行き方向に移動する。また、撮像カメラアレイ20は、10台の撮像カメラ21を搭載した昇降部材22を10段備える。各昇降部材22は、撮像カメラ制御手段34からの指令に応じて、2本の支柱23に形成されたレールに沿って垂直方向に移動する。各撮像カメラ21は、撮像カメラ制御手段34からの指令に応じて、昇降部材22に形成されたレールに沿って水平方向に移動する。
【0050】
撮像カメラ21は、被写体αを撮像し、撮像した画像(被写体画像)を立体画像生成装置30(被写体画像入力手段35)に出力するものである。本実施形態では、100台の撮像カメラ21が、異なる位置から被写体画像を撮像し、被写体画像入力手段35に出力する。
【0051】
ここで、撮像カメラ21は、図17(a)に示すように、撮像素子25と、撮像レンズ27と、を備える。この撮像素子25は、画素数が表示用要素レンズ13の個数以上であり、各画素が正方配列されている。また、撮像カメラ21は、奥行きを圧縮するため、撮像カメラ制御手段34からの指令に応じて、撮像素子25の中心軸と、撮像レンズ27の光軸とをずらすことができる(レンズシフト機能)。この中心軸とは、撮像素子25の中心位置を通過し、撮像素子25の撮像面に垂直になる軸のことである。さらに、撮像カメラ21は、撮像カメラ制御手段34からの指令に応じて、画角を変更できる。
【0052】
図17(a)では、撮像素子25の中心軸及び撮像レンズ27の光軸が一致し、軸ずれしていない。一方、図17(b)では、撮像素子25の中心軸及び撮像レンズ27の光軸が一致せず、軸ずれしている(軸ずれ量dy)。ここで、撮像カメラ21は、軸ずれ量dyに関わらず、撮像素子25の撮像面に対して、撮像レンズ27の光軸が垂直になる。また、撮像カメラ21は、撮像素子25又は撮像レンズ27の何れか一方のみを移動させてもよく、撮像素子25及び撮像レンズ27の両方を移動させてもよい。本実施形態では、撮像素子25を移動させることとした。
【0053】
[立体画像生成装置の構成]
立体画像生成装置30は、撮像カメラアレイ20が撮像した被写体画像から、立体画像表示装置10が表示する要素画像群を生成するものである。図15に示すように、立体画像生成装置30は、パラメータ入力手段31と、画素位置変換テーブル記憶手段32と、演算手段33と、撮像カメラ制御手段34と、被写体画像入力手段35と、要素画像群生成手段(立体画像生成手段)36と、を備える。
【0054】
パラメータ入力手段31は、要素画像群の生成に必要な各種パラメータを入力するものである。例えば、パラメータ入力手段31は、パラメータとして、立体画像表示装置10の仕様及び撮像カメラアレイ20の仕様を入力する。そして、パラメータ入力手段31は、入力したパラメータを演算手段33に出力する。
【0055】
立体画像表示装置10の仕様には、立体画像表示装置10の奥行き最大表示距離と、表示用要素レンズ13の焦点距離と、表示用レンズアレイ12から後方奥行き最大表示位置までの差分距離と、表示素子11のサイズとが含まれる。
撮像カメラアレイ20の仕様には、要素画像の中心画素から計算対象画素までの画素間距離と、撮像素子25のサイズとが含まれる。
【0056】
画素位置変換テーブル記憶手段32は、画素位置変換テーブルを記憶するメモリ、HDD(Hard Disk Drive)等の記憶装置である。本実施形態では、画素位置変換テーブル記憶手段32は、撮像カメラ21毎の画素位置変換テーブルを記憶する。
【0057】
なお、画素位置変換テーブルは、画素単位の情報であり、撮像カメラ21で撮像した被写体画像の各画素を、要素画像群を構成する要素画像の各画素に対応付けた情報である。つまり、画素位置変換テーブルは、撮像側と表示側との配列構造の相違を考慮して、被写体画像の各画素を要素画像の各画素に対応付けている。
また、立体画像表示装置10の仕様が変化しない場合、参照可能である。言い換えるなら、画素位置変換テーブルは、立体画像表示装置10の仕様が変化した場合、再度生成する必要がある。この画素位置変換テーブルについては、詳細を後記する。
【0058】
演算手段33は、撮像カメラ制御手段34で必要な各種演算を行うものであり、位置算出手段331と、軸ずれ量算出手段333と、倍率算出手段335と、画角算出手段337と、を備える。
【0059】
位置算出手段331は、パラメータ入力手段31から入力したパラメータを参照し、奥行き最大表示距離と、表示用要素レンズ13の焦点距離と、画素間距離とに基づいて、撮像カメラアレイ20を構成する撮像カメラ21の位置を算出するものである。
【0060】
具体的には、位置算出手段331は、下記式(2)を用いて、各撮像カメラ21の垂直方向の位置yを算出する。式(2)では、奥行き最大表示距離がDfであり(単位はメートル)、表示用要素レンズ13の焦点距離がDLAfであり(単位はメートル)、画素間距離がPyである(単位はメートル)。
なお、位置算出手段331は、垂直方向と同様、各撮像カメラ21の水平方向及び奥行き方向の位置も算出する。
【0061】
【数2】
【0062】
奥行き最大表示距離Dfとは、立体画像表示装置10が表示用要素レンズ13から奥行き方向に表示可能な最大距離のことである。すなわち、後方奥行き最大表示位置は、奥行き最大表示距離Dfの内、表示用要素レンズ13から後方(図1の表示素子11側)への奥行き最大表示位置となる。
ここで、奥行き最大表示距離Dfは、奥行き制御レンズ94の焦点距離Dfと対応している。例えば、立体画像表示装置10及び立体画像撮像装置90が同一サイズであれば、奥行き最大表示距離Df及び焦点距離Dfの値も同一となる。また、立体画像表示装置10及び立体画像撮像装置90のサイズが異なる場合、奥行き最大表示距離Df及び焦点距離Dfは、そのサイズ比に応じた関係となる(主平面γからの距離Δf及び差分距離Δfも同様)。
【0063】
画素間距離Pyとは、要素画像群を構成する要素画像の中心画素から各計算対象画素までの距離のことである。撮像カメラ21の台数は要素画像の画素数と同じであり、各撮像カメラ21及び各計算対象画素が1対1で対応する。つまり、式(2)に画素間距離Pyが含まれるので、撮像カメラ21の位置yが異なる。
【0064】
軸ずれ量算出手段333は、パラメータ入力手段31から入力したパラメータを参照し、画素間距離と、差分距離と、表示用要素レンズ13の焦点距離と、撮像素子25のサイズと、表示素子11のサイズとに基づいて、各撮像カメラ21の軸ずれ量を算出するものである。
【0065】
具体的には、軸ずれ量算出手段333は、下記式(3)を用いて、垂直方向で撮像素子25の軸ずれ量dyを算出する(単位はメートル)。式(3)では、差分距離がΔfであり(単位はメートル)、撮像素子25のサイズがCsであり(単位はメートル)、表示素子11のサイズがDsである(単位は画素)。差分距離Δfは、表示用要素レンズ13から後方奥行き最大表示位置までの距離のことである。ここで、式(3)に画素間距離Pyが含まれるので、撮像カメラ21の軸ずれ量dyが異なる。
【0066】
【数3】
【0067】
倍率算出手段335は、パラメータ入力手段31から入力したパラメータを参照し、奥行き制御レンズ94から仮想レンズアレイ95までの距離Aと、奥行き制御レンズ94から撮像用レンズアレイ92までの距離Bとの比である倍率を算出するものである。
【0068】
<倍率の算出>
図10を参照し、倍率mの算出について説明する。
図10に示すように、距離Bは、奥行き最大表示距離Dfと差分距離Δfとの和(合計距離)である。また、距離Aは、撮像用レンズアレイ92より距離Bだけ離れた位置(Z3)から、仮想レンズアレイ95までの距離である。
ここで、撮像素子91の奥行き位置をZ1とし、このZ1を原点とする。また、撮像用レンズアレイ92の奥行き位置をZ2とし、奥行き制御レンズ94の奥行き位置をZ3とする。また、主平面βの奥行き位置をZ4とし、仮想レンズアレイ95の奥行き位置をZ5とする。この場合、奥行き位置Z1~Z5は、下記の式(4)で表すことができる。
【0069】
【数4】
【0070】
被写体αが仮想レンズアレイ95よりも撮像素子91側に位置する状態で要素画像群を撮像した場合を考える。この場合、その要素画像群を表示素子11に表示すると、被写体αが飛び出したような立体像を形成する。
一方、被写体αが仮想レンズアレイ95よりも撮像素子91の反対側に位置する状態で要素画像群を撮像した場合を考える。この場合、その要素画像群を表示素子11に表示すると、被写体αが窪んだような立体像を形成する。
【0071】
非線形奥行き圧縮特性の光学系では、奥行きの圧縮と同時に被写体αの大きさも変化してしまう。従って、奥行き圧縮前後で被写体αの大きさが変化しないように、被写体αを拡大又は縮小する必要がある。
【0072】
ここで、仮想レンズアレイ95のサイズは、撮像用レンズアレイ92のサイズに倍率mを乗じた値になる。そして、非線形奥行き圧縮特性の光学系では、被写体αのサイズも仮想レンズアレイ95のサイズに応じて拡大又は縮小する。従って、倍率算出手段335は、下記の式(5)を用いて、距離A、Bの比である倍率mを算出し、算出した倍率mを被写体αのサイズに乗算すれば、仮想レンズアレイ95のレンズ面においては被写体αが奥行き圧縮前と同じ大きさになる。
【0073】
【数5】
【0074】
画角算出手段337は、パラメータ入力手段31から入力したパラメータを参照し、奥行き最大表示距離Dfと、撮像素子25のサイズCsと、表示素子11のサイズDsとに基づいて、撮像カメラ21の画角を算出するものである。
【0075】
具体的には、画角算出手段337は、下記の式(6)を用いて、撮像カメラ21の焦点距離Cfを算出し、この焦点距離Cfから撮像カメラ21の画角を算出する。なお、撮像カメラアレイ20は、全ての撮像カメラ21の焦点距離Cfが同じになる。
【0076】
【数6】
【0077】
演算手段33は、制御信号として、算出した撮像カメラ21の位置(垂直方向、水平方向及び奥行き方向の位置)と、軸ずれ量と、倍率と、画角とを撮像カメラ制御手段34に出力する。
【0078】
撮像カメラ制御手段34は、演算手段33から入力した制御信号に基づいて撮像カメラアレイ20を制御し、撮像カメラアレイ20に被写体画像の撮像を指令するものである。本実施形態では、撮像カメラ制御手段34は、撮像カメラアレイ20を構成する撮像カメラ21毎に制御を行う。
【0079】
具体的には、撮像カメラ制御手段34は、制御信号の位置に各撮像カメラ21を移動させる。
また、撮像カメラ制御手段34は、制御信号の軸ずれ量だけ、各撮像カメラ21の撮像素子25をずらす。さらに、撮像カメラ制御手段34は、制御信号の画角に各撮像カメラ21の画角を一致させる。
このとき、撮像カメラ制御手段34は、被写体αのサイズを変更することが困難、かつ、前記倍率mが1より大きい場合、隣接する撮像カメラ21の間隔及び軸ずれ量が倍率mだけ小さくなるように、各撮像カメラ21の位置を修正する。
【0080】
被写体画像入力手段35は、撮像カメラアレイ20が撮像した被写体画像を入力するものである。本実施形態では、被写体画像入力手段35は、撮像カメラアレイ20を構成する各撮像カメラ21から被写体画像を入力する。そして、被写体画像入力手段35は、各撮像カメラ21からの被写体画像を要素画像群生成手段36に出力する。
【0081】
要素画像群生成手段36は、被写体画像入力手段35より入力した被写体画像から要素画像群を生成するものである。本実施形態では、要素画像群生成手段36は、画素位置変換テーブルを参照し、各撮像カメラ21が撮像した被写体画像の画素位置を変換することで、要素画像群を生成する。つまり、要素画像群生成手段36は、撮像側と表示側との配列構造の相違を考慮して、被写体画像の各画素を、要素画像群を構成する要素画像の各画素に割り当てる。
【0082】
ここで、要素画像群生成手段36は、被写体画像の最上段の各画素を、各要素画像の最下段の各画素に割り当てる。また、要素画像群生成手段36は、被写体画像の上から2段目の各画素を、各要素画像の下から2段目の各画素に割り当てる。さらに、要素画像群生成手段36は、左右方向に関しても同様に反転させて、被写体画像の画素を要素画像の画素に割り当てる。このように、要素画像群生成手段36は、被写体画像の画素を上下左右に反転させて要素画像の画素に割り当てることで、立体像の奥行き反転を防止できる。
その後、要素画像群生成手段36は、生成した要素画像群を立体画像表示装置10に出力する。
【0083】
<画素位置変換テーブルの設定:正方形レンズ>
以下、図18図20を参照し、表示用要素レンズ13が正方形レンズの場合において、画素位置変換テーブルの設定を具体的に説明する。
【0084】
図18(a)に示すように、撮像カメラ21の撮像素子25は、画素26が正方配列されており、画素26が水平方向及び垂直方向で整列する。
図18(b)に示すように、立体画像表示装置10の表示用レンズアレイ12は、表示用要素レンズ13がデルタ状に配列されている。水平方向(一方の軸方向)では、隣接する表示用要素レンズ13の位置がずれており、表示用要素レンズ13がジグザグに並んでいる。その一方、垂直方向(他方の軸方向)では、隣接する表示用要素レンズ13が整列する。
従って、デルタ配列された表示用要素レンズ13に合わせて、正方配列された撮像素子25の各画素の画素位置を変換し、図18(c)に示すように、要素画像81がデルタ配列された要素画像群80を生成する必要がある。なお、図面を見やすくするため、要素画像81を太線で図示した。
【0085】
ここで、表示用要素レンズ13は、図19(a)に示すように、正方形レンズ(例えば、正方形状の凸レンズ)であることとする。また、表示用要素レンズ13は、高さ及び幅が等しければよいので、円形レンズ(例えば、円形状の凸レンズ)であってもよい。
なお、図19(b)の長方形レンズについては後記する。
【0086】
以下、水平方向で表示用要素レンズ13の個数(水平個数)をLwとし、垂直方向で表示用要素レンズ13の個数(垂直個数)をLh個とする。
また、水平方向で要素画像81の画素数(水平画素数)をEIxとし、垂直方向で要素画像81の画素数(垂直画素数)をEIyとする。
また、水平方向で撮像素子25の画素数(水平画素数)をEIsxとし、垂直方向で撮像素子25の画素数(垂直画素数)をEIsxとする。
【0087】
以後、説明を簡単にするため、図20(b)に示すように、要素画像81の水平画素数EIxが2画素であり、要素画像81の垂直画素数EIyが2画素であることとする。従って、撮像カメラ21は、図20(a)に示すように、水平方向で要素画像81の水平画素数EIxと同数の2台、垂直方向で要素画像81の垂直画素数EIxと同数の2台、合計4台となる。なお、図20(a)では、各撮像カメラ21が備える撮像素子25(25~25)を図示した。
【0088】
また、表示用要素レンズ13の水平個数Lwが4個であり、表示用要素レンズ13の垂直個数Lhが3個であることとする。従って、図20(b)に示すように、要素画像81は、水平方向で表示用要素レンズ13の水平個数Lwと同数の4つ配列され、垂直方向で表示用要素レンズ13の垂直個数Lhと同数の3つ配列されている。
【0089】
撮像素子25の水平画素数EIsxは、下記式(7)に示すように、表示用要素レンズ13の水平個数Lwと要素画像81の水平画素数EIxとを乗じた値(8画素)になる。また、撮像素子25の垂直画素数EIsyは、表示用要素レンズ13の垂直個数Lhと要素画像81の垂直画素数EIxとを乗じた値(6画素)になる。
【0090】
【数7】
【0091】
この場合、水平方向では、要素画像81の水平画素数EIxを2倍にした間隔(4画素間隔)で撮像素子25の画素を取得するように、画素位置変換テーブルを設定する。また、垂直方向では、要素画像81の垂直画素数EIyに等しい間隔(2画素間)で撮像素子25の画素を取得するように、画素位置変換テーブルを設定する。
【0092】
なお、図20(a)に示すように、全ての撮像素子25~25から取得する画素の位置は同一である。また、撮像素子25の画素と、要素画像81の各画素との対応関係を説明するため、撮像素子25~25及び要素画像81の各画素にA~Dの文字を付した。
【0093】
また、画素位置変換テーブルでは、撮像カメラ21の位置関係に応じて、撮像素子25~25と要素画像81との画素A~Dを対応づける。具体的には、画素位置変換テーブルでは、左上の撮像素子25の画素Aと、要素画像81の左上の画素Aとを対応づける。また、画素位置変換テーブルでは、右上の撮像素子25の画素Bと、要素画像81の右上の画素Bとを対応づける。また、画素位置変換テーブルでは、左下の撮像素子25の画素Cと、要素画像81の左下の画素Cとを対応づける。また、画素位置変換テーブルでは、右下の撮像素子25の画素Dと、要素画像81の右下の画素Dとを対応づける。
【0094】
ここで、表示用レンズアレイ12がデルタ配列のため、図20(b)に示すように、偶数列の要素画像81EVが、奇数列の要素画像81ODより垂直画素数EIy/2(例えば、1画素)だけ垂直方向にずれている。このため、偶数列の要素画像81EVについては、水平方向では2倍のEIx画素間隔+1画素目で、垂直方向ではEIy画素間隔+EIy/2画素目に位置する撮像素子25の画素26を対応させる。言い換えるなら、撮像素子25では、偶数列の要素画像81EVと奇数列の要素画像81ODとに対応する画素位置が、水平方向でEIx画素/2、垂直方向でEIy画素/2だけずれる。例えば、図20(a)に示すように、奇数列の要素画像81ODには撮像素子25で左上の画素26が対応する。この場合、偶数列の要素画像81EVには、左上の画素26から、水平方向に2画素及び垂直方向に1画素だけ移動した画素26が対応する。
【0095】
なお、奇数列と偶数列で要素画像81の画素位置がずれるため、要素画像81の垂直画素数EIy/2が整数になる場合と小数になる場合で画素位置変換テーブルの設定を変える必要がある。
まず、要素画像81の垂直画素数EIy/2が整数になる場合、前記の手順で画素位置変換テーブルを設定すればよい。
【0096】
次に、要素画像81の垂直画素数EIy/2が小数になる場合、撮像素子25~25に1対1で対応する画素が存在しないため、上下の画素の画素値平均を要素画像81の当該画素の画素値として求める。また、上下左右の距離に応じた画素の画素値平均を要素画像81の当該画素の画素値としてもよい。
【0097】
さらに、要素画像81の垂直画素数EIy/2が小数にならなければ、その問題も生じない。つまり、要素画像81の垂直画素数EIy/2が整数となる条件は、垂直画素数EIyが偶数のときである。そこで、垂直画素数EIyが奇数の場合は、下記式(8)を用いて、撮像素子25の垂直画素数EIsyを定義してもよい。なお、撮像素子25の縦横比を等しくするため、要素画像81の水平画素数EIxも2倍している。
【0098】
【数8】
【0099】
以上のように、画素位置変換テーブルを設定し、設定した画素位置変換テーブルを画素位置変換テーブル記憶手段32に予め記憶させておけばよい。なお、表示用要素レンズ13が円形レンズの場合でも、画素位置変換テーブルの設定は同様である。
【0100】
<画素位置変換テーブルの設定:長方形レンズ>
以下、図19及び図21を参照し、表示用要素レンズ13が長方形レンズの場合において、画素位置変換テーブルの設定を具体的に説明する。
【0101】
ここで、表示用要素レンズ13は、図19(b)に示すように、長方形レンズ(例えば、長方形の凸レンズ)であることとする。また、表示用要素レンズ13は、高さ及び幅が異なればよいので、ハニカムレンズ(例えば、正六角形状の凸レンズ)であってもよい。なお、正六角形状の表示用要素レンズ13は、幅と高さの比が2:√3である。
【0102】
説明を簡単にするため、図21(b)に示すように、要素画像81の水平画素数EIxが3画素であり、要素画像81の垂直画素数EIyが2画素であることとする。従って、撮像カメラ21は、図21(a)に示すように、水平方向で要素画像81の水平画素数EIxと同数の3台、垂直方向で要素画像81の垂直画素数EIxと同数の2台、合計6台となる。なお、図21(a)では、各撮像カメラ21が備える6枚の撮像素子25(25~25)を図示した。
【0103】
また、表示用要素レンズ13の水平個数Lwが4個であり、表示用要素レンズ13の垂直個数Lhが3個であることとする。従って、図21(b)に示すように、要素画像81は、水平方向で表示用要素レンズ13の水平個数Lwと同数の4つ配列され、垂直方向で表示用要素レンズ13の垂直個数Lhと同数の3つ配列されている。
【0104】
撮像素子25の水平画素数EIsxは、前記式(7)に示すように、表示用要素レンズ13の水平個数Lwと要素画像81の水平画素数EIxとを乗じた値(12画素)になる。また、撮像素子25の垂直画素数EIsyは、表示用要素レンズ13の垂直個数Lhと要素画像81の垂直画素数EIxとを乗じた値(6画素)になる。
【0105】
この場合、水平方向では、要素画像81の水平画素数EIxを2倍にした間隔(6画素間隔)で撮像素子25の画素を取得するように、画素位置変換テーブルを設定する。また、垂直方向では、要素画像81の垂直画素数EIyに等しい間隔(2画素間隔)で撮像素子25の画素を取得するように、画素位置変換テーブルを設定する。
【0106】
なお、図21(a)に示すように、全ての撮像素子25~25から取得する画素の位置は同一である。また、図21では、撮像素子25と、要素画像81との画素の対応関係を説明するため、撮像素子25~25及び要素画像81の各画素にA~Fの文字を付した。
【0107】
また、画素位置変換テーブルでは、撮像カメラ21の位置関係に応じて、撮像素子25~25と要素画像81との画素A~Fを対応づける。具体的には、画素位置変換テーブルでは、左上の撮像素子25の画素Aと、要素画像81の左上の画素Aとを対応づける。また、画素位置変換テーブルでは、中央上の撮像素子25の画素Bと、要素画像81の中央上の画素Bとを対応づける。また、画素位置変換テーブルでは、右上の撮像素子25の画素Cと、要素画像81の右上の画素Cとを対応つける。また、画素位置変換テーブルでは、左下の撮像素子25の画素Dと、要素画像81の左下の画素Dとを対応づける。また、画素位置変換テーブルでは、中央下の撮像素子25の画素Eと、要素画像81の中央下の画素Eとを対応つける。また、画素位置変換テーブルでは、右下の撮像素子25の画素Fと、要素画像81の右下の画素Fとを対応づける。
【0108】
ここで、表示用レンズアレイ12がデルタ配列のため、図21(b)に示すように、偶数列の要素画像81EVが、奇数列の要素画像81ODより垂直画素数EIy/2(例えば、1画素)だけ垂直方向にずれている。このため、撮像素子25では、偶数列の要素画像81EVと奇数列の要素画像81ODとに対応する画素位置が、水平方向にEIx画素/2、垂直方向にEIy画素/2だけ垂直方向にずれる。例えば、図21(a)に示すように、奇数列の要素画像81ODには撮像素子25で左上の画素26が対応する。この場合、偶数列の要素画像81EVには、左上の画素26から、水平方向に3画素及び垂直方向に1画素だけ移動した画素26が対応する。
【0109】
また、長方形状の表示用要素レンズ13では幅と高さの比が異なるため、要素画像群80の縦横を同じ比率で縮小及び拡大すると、要素画像群80に歪みが生じてしまう。そこで、要素画像群80の縦横を同じ比率で縮小又は拡大することを踏まえて、予め要素画像群80の幅と高さの比を変更しておく。具体的には、表示用要素レンズ13では幅と高さの比に合わせて、要素画像群80が縮小又は拡大されるように、画素位置変換テーブルを設定すればよい。例えば、撮像素子25の水平画素サイズを基準とする場合、撮像素子25の垂直画素サイズを2/3にすればよい。また、撮像素子25の垂直画素サイズを基準とする場合、撮像素子25の水平画素サイズを3/2にすればよい。これにより、要素画像群80の生成に寄与する撮像素子25の画素位置と表示用レンズアレイ12のレンズ位置とが、水平方向及び垂直方向で対応するようになる。
なお、立体画質が向上するため、拡大よりも縮小することが好ましい。
【0110】
以上のように、画素位置変換テーブルを設定し、設定した画素位置変換テーブルを画素位置変換テーブル記憶手段32に予め記憶させておけばよい。なお、表示用要素レンズ13がハニカムレンズの場合でも、画素位置変換テーブルの設定は同様である。
【0111】
[立体画像生成装置の動作]
図22を参照し、立体画像生成装置30の動作について説明する(適宜図15参照)。
ここで、画素位置変換テーブル記憶手段32は、画素位置変換テーブルを予め記憶していることとする。
【0112】
図22に示すように、パラメータ入力手段31は、要素画像群80の生成に必要な各種パラメータの入力を受け付ける(ステップS1)。
位置算出手段331は、ステップS1で入力したパラメータを参照し、奥行き最大表示距離と、表示用要素レンズ13の焦点距離と、画素間距離とに基づいて、各撮像カメラ21の位置を算出する(ステップS2)。
【0113】
軸ずれ量算出手段333は、ステップS1で入力したパラメータを参照し、画素間距離と、差分距離と、表示用要素レンズ13の焦点距離と、撮像素子25のサイズと、表示素子11のサイズとに基づいて、撮像レンズ27と撮像素子25との軸ずれ量を算出する(ステップS3)。
【0114】
倍率算出手段335は、ステップS1で入力したパラメータを参照し、奥行き制御レンズ94から撮像用レンズアレイ92までの距離と、奥行き制御レンズ94から仮想レンズアレイ95までの距離との比である倍率を算出する(ステップS4)。
【0115】
画角算出手段337は、ステップS1で入力した入力したパラメータを参照し、奥行き最大表示距離と、撮像素子25のサイズと、表示素子11のサイズとに基づいて、各撮像カメラ21の画角を算出する(ステップS5)。
【0116】
撮像カメラ制御手段34は、ステップS2で算出した位置、ステップS3で算出した軸ずれ量、ステップS4で算出した倍率及びステップS5で算出した画角に基づいて、各撮像カメラ21を制御し、各撮像カメラ21に被写体画像の撮像を指令する(ステップS6)。
被写体画像入力手段35は、ステップS6の指令に応じて各撮像カメラ21が撮像した被写体画像の入力を受け付ける(ステップS7)。
【0117】
要素画像群生成手段36は、ステップS7で入力した被写体画像から要素画像群80を生成する。ここで、要素画像群生成手段36は、画素位置変換テーブルを参照し、被写体画像の画素位置を変換することで、要素画像群80を生成する(ステップS8)。
【0118】
[作用・効果]
以上のように、立体画像表示システム1は、撮像レンズ27と撮像素子25との軸をずらし、立体像の奥行きを圧縮できる。これにより、立体画像表示システム1は、表示用レンズアレイ12がデルタ配列の場合でも、立体画像表示装置10が解像度の高い立体像を表示でき、立体画像の画質を向上させることができる。
【0119】
さらに、立体画像表示システム1は、高解像度のカメラや高密度なレンズアレイを必要とせず、簡易な構成で実現することができる。さらに、立体画像表示システム1は、奥行き制御レンズ94に起因したレンズ歪みが発生せず、より高画質な立体画像を提供することができる。
【0120】
(第2実施形態)
[立体画像表示システム]
図15に戻り、第2実施形態に係る立体画像表示システム1Aについて、第1実施形態と異なる点を説明する。
第1実施形態では、撮像素子25の画素数を、表示用要素レンズ13の個数と要素画像81の画素数とを乗じた値とした。
一方、第2実施形態では、撮像素子25Aの画素数を、表示用要素レンズ13の個数の2倍とした点が、第1実施形態と異なる。
【0121】
立体画像表示システム1Aは、被写体αの立体像を表示するものであり、図15に示すように、立体画像表示装置10と、撮像カメラアレイ20Aと、立体画像生成装置30Aと、を備える。
撮像カメラアレイ20Aは、複数の撮像カメラ21Aを配列したものである。撮像カメラ21Aは、撮像素子25Aの画素数以外、第1実施形態と同様のため、これ以上の説明を省略する。
【0122】
[立体画像生成装置の構成]
立体画像生成装置30Aは、撮像カメラアレイ20Aが撮像した被写体画像から、立体画像表示装置10が表示する要素画像群80を生成するものである。図15に示すように、立体画像生成装置30Aは、パラメータ入力手段31と、画素位置変換テーブル記憶手段32Aと、演算手段33と、撮像カメラ制御手段34と、被写体画像入力手段35と、要素画像群生成手段36と、を備える。
なお、画素位置変換テーブル記憶手段32A以外の各手段は、第1実施形態と同様のため、説明を省略する。
【0123】
<画素位置変換テーブルの設定:正方形レンズ>
図23を参照し、表示用要素レンズ13が正方形レンズの場合において、画素位置変換テーブルの設定を具体的に説明する。
ここで、要素画像81の画素数及び表示用要素レンズ13の個数が、図20と同様であることとする。つまり、撮像カメラ21Aの台数及び要素画像81の数も、図20と同様となる。
【0124】
撮像素子25Aの水平画素数EIsxは、下記式(9)に示すように、表示用要素レンズ13の水平個数Lwを2倍した値(8画素)となる。また、撮像素子25Aの垂直画素数EIsyは、表示用要素レンズ13の垂直個数Lhを2倍した値(6画素)となる。
【0125】
【数9】
【0126】
この場合、撮像素子25Aの画素を水平方向で4画素間隔で取得し、垂直方向で2画素間隔で取得するように、画素位置変換テーブルを設定する。
【0127】
なお、画素位置変換テーブルの設定自体は、第1実施形態で説明した図20と同様のため、これ以上の説明を省略する。
また、説明の都合上、図20の撮像素子25と図22の撮像素子25Aの画素数が同数となっている。実際には、要素画像81の画素数が2画素であることは極めてまれであり、図22の撮像素子25Aの方が、図20の撮像素子25よりが画素数が少なくなる。
【0128】
<画素位置変換テーブルの設定:長方形レンズ>
以下、図24を参照し、表示用要素レンズ13が長方形レンズの場合において、画素位置変換テーブルの設定を具体的に説明する。
ここで、要素画像81の画素数及び表示用要素レンズ13の個数が、図21と同様であることとする。つまり、撮像カメラ21Aの台数及び要素画像81の数も、図21と同様となる。
【0129】
撮像素子25Aの水平画素数EIsxは、前記式(9)に示すように、表示用要素レンズ13の水平個数Lwを2倍した値(8画素)となる。また、撮像素子25Aの垂直画素数EIsyは、表示用要素レンズ13の垂直個数Lhを2倍した値(6画素)となる。
【0130】
この場合、撮像素子25Aの画素を水平方向で4画素間隔で取得し、垂直方向で2画素間隔で取得するように、画素位置変換テーブルを設定する。
【0131】
なお、画素位置変換テーブルの設定自体は、第1実施形態で説明した図21と同様のため、これ以上の説明を省略する。
また、立体画像生成装置30Aの動作は、第1実施形態と同様のため、説明を省略する。
【0132】
[作用・効果]
以上のように、立体画像表示システム1Aは、第1実施形態と同様の効果に加え、撮像カメラ21Aの画素数を低減できるので、構成を簡素化することができる。
【0133】
(第3実施形態)
[立体画像表示システム]
図15に戻り、第3実施形態に係る立体画像表示システム1Bについて、第2実施形態と異なる点を説明する。
第2実施形態では、水平方向及び垂直方向の両方で、撮像素子25Aの画素数を、表示用要素レンズ13の個数の2倍とした。
一方、第3実施形態では、垂直方向のみ、撮像素子25Bの画素数を、表示用要素レンズ13の個数の2倍とした点が、第2実施形態と異なる。
【0134】
立体画像表示システム1Bは、被写体αの立体像を表示するものであり、図15に示すように、立体画像表示装置10と、撮像カメラアレイ20Bと、立体画像生成装置30Bと、を備える。
撮像カメラアレイ20Bは、複数の撮像カメラ21Bを配列したものである。撮像カメラ21Bは、撮像素子25Bの画素数以外、第2実施形態と同様のため、これ以上の説明を省略する。
【0135】
[立体画像生成装置の構成]
立体画像生成装置30Bは、撮像カメラアレイ20Bが撮像した被写体画像から、立体画像表示装置10が表示する要素画像群80を生成するものである。図15に示すように、立体画像生成装置30Bは、パラメータ入力手段31と、画素位置変換テーブル記憶手段32Bと、演算手段33と、撮像カメラ制御手段34と、被写体画像入力手段35と、要素画像群生成手段36と、を備える。
なお、画素位置変換テーブル記憶手段32B以外の各手段は、第2実施形態と同様のため、説明を省略する。
【0136】
<画素位置変換テーブルの設定:正方形レンズ>
図25を参照し、表示用要素レンズ13が正方形レンズの場合において、画素位置変換テーブルの設定を具体的に説明する。
ここで、要素画像81の画素数及び表示用要素レンズ13の個数が、図20(b)と同様であることとする。つまり、撮像カメラ21Bの台数及び要素画像81の数も、図20(b)と同様となる。
【0137】
撮像素子25Bの水平画素数EIsxは、下記式(10)に示すように、表示用要素レンズ13の水平個数Lwと同数(4画素)となる。また、撮像素子25Bの垂直画素数EIsyは、表示用要素レンズ13の垂直個数Lhを2倍した値(6画素)となる。
【0138】
【数10】
【0139】
この場合、水平方向及び垂直方向において、撮像素子25Bの画素を2画素間隔で取得するように、画素位置変換テーブルを設定する。すなわち、「サイコロの5の目」状に撮像素子25Bの画素を取得するように、画素位置変換テーブルを設定する。
なお、画素位置変換テーブルの設定自体は、第2実施形態と同様のため、これ以上の説明を省略する。
【0140】
<画素位置変換テーブルの設定:長方形レンズ>
以下、図26を参照し、表示用要素レンズ13が長方形レンズの場合において、画素位置変換テーブルの設定を具体的に説明する。
【0141】
図19(b)に示すように、縦横比が異なる表示用要素レンズ13に対し、図26(a)に示すように、撮像素子25Bの各画素の縦横比は等しくなる。このため、水平方向において、撮像素子25Bの画素間隔が表示用要素レンズ13のレンズ間隔と同じ比率にならない。このため、水平方向において、撮像素子25Bの画素間隔を変える必要がある。
【0142】
具体的には、図26(a)の撮像素子25Bの垂直画素サイズShを基準とする場合、図26(b)に示すように、撮像素子25Bの水平画素サイズSwを2倍にすればよい。また、図26(a)の撮像素子25Bの水平画素サイズSwを基準とする場合、図26(c)に示すように、撮像素子25Bの垂直画素サイズShを1/2にすればよい。
なお、立体画像生成装置30Bの動作は、第2実施形態と同様のため、説明を省略する。
【0143】
[作用・効果]
以上のように、立体画像表示システム1Bは、第2実施形態と同様の効果に加え、撮像カメラ21Aの画素数をより低減できるので、構成をさらに簡素化することができる。
【0144】
(第4実施形態)
[立体画像表示システム]
図15に戻り、第4実施形態に係る立体画像表示システム1Cについて、第1実施形態と異なる点を説明する。
第4実施形態では、撮像カメラ21Cが、斜め方向に半画素ずれるように配置された2枚の撮像素子25Cを備える点が、第1実施形態と異なる。
【0145】
立体画像表示システム1Cは、被写体αの立体像を表示するものであり、図15に示すように、立体画像表示装置10と、撮像カメラアレイ20Cと、立体画像生成装置30Cと、を備える。
撮像カメラアレイ20Cは、複数の撮像カメラ21Cを配列したものである。撮像カメラ21Cは、2枚の撮像素子25Bを備えること以外、第1実施形態と同様のため、これ以上の説明を省略する。なお、プリズムやハーフミラーを用いることで、2枚の撮像素子25Bを半画素ずれるように配置できる。
【0146】
[立体画像生成装置の構成]
立体画像生成装置30Cは、撮像カメラアレイ20Cが撮像した被写体画像から、立体画像表示装置10が表示する要素画像群80を生成するものである。図15に示すように、立体画像生成装置30Cは、パラメータ入力手段31と、画素位置変換テーブル記憶手段32Cと、演算手段33と、撮像カメラ制御手段34と、被写体画像入力手段35と、要素画像群生成手段36と、を備える。
なお、画素位置変換テーブル記憶手段32C以外の各手段は、第1実施形態と同様のため、説明を省略する。
また、立体画像生成装置30Cの動作は、第1実施形態と同様のため、説明を省略する。
【0147】
<画素位置変換テーブルの設定:正方形レンズ>
図27を参照し、表示用要素レンズ13が正方形レンズの場合において、画素位置変換テーブルの設定を具体的に説明する。
ここで、要素画像81の画素数及び表示用要素レンズ13の個数が、図20と同様であることとする。つまり、撮像カメラ21Aの台数及び要素画像81の数も、図20と同様となる。
【0148】
各撮像カメラ21Cは、2枚の撮像素子25C(25C11~25C42)を備える。つまり、1台目の撮像カメラ21Cが撮像素子25C11,25C12を備え、2台目の撮像カメラ21Cが撮像素子25C21,25C22を備える(3台目及び4台目の撮像カメラ21Cも同様)。
各撮像カメラ21Cにおいて、2枚の撮像素子25Cは、互いの画素位置が斜め方向に半画素だけずれるように配置されている。つまり、ペアとなる2枚の撮像素子25Cは、水平方向及び垂直方向に半画素分ずれている。
【0149】
撮像素子25Cの水平画素数EIsxは、1枚あたり、表示用要素レンズ13の水平個数Lwの1/2(2画素)となる。つまり、2枚の撮像素子25Cの水平画素数EIsxを合計すると、表示用要素レンズ13の水平個数Lwに等しくなる。また、撮像素子25Bの垂直画素数EIsyは、1枚あたり、表示用要素レンズ13の垂直個数Lhと同数(3画素)になる。
【0150】
ここで、図27(a)に示すように、撮像素子25Cの垂直画素サイズShを基準とする場合、撮像素子25Cの水平画素サイズSwを2倍にすればよい。また、図27(b)に示すように、撮像素子25Cの水平画素サイズSwを基準とする場合、撮像素子25Cの垂直画素サイズShを1/2にすればよい。
【0151】
この場合、画素位置変換テーブルでは、各撮像カメラ21Cの位置関係と、ペアとなる2枚の撮像素子25Cの位置関係とに応じて、2枚の撮像カメラ21Cの画素が交互に対応するように、画素位置変換テーブルを設定する。
【0152】
なお、図27(c)及び図27(d)では、撮像素子25Cと要素画像81との画素の対応関係を説明するため、撮像素子25C及び要素画像81の各画素にA1~D2の文字を付した。1台目の撮像カメラ21Cにおいて、ペアとなる2枚の撮像素子25C11,25C12の画素には、それぞれA1,A2の文字を付した。また、2台目の撮像カメラ21Cにおいて、ペアとなる2枚の撮像素子25C21,25C22の画素には、それぞれB1,B2の文字を付した(3台目及び4台目の撮像カメラ21Cも同様)。
【0153】
具体的には、1枚目の撮像素子25C11,25C21,25C31,25C41と、奇数列の要素画像81ODとの画素A1,B1,C1,D1が対応する。また、2枚目の撮像素子25C12,25C22,25C32,25C42と、偶数列の要素画像81EVとの画素A2,B2,C2,D2が対応する。
【0154】
まず、奇数列の要素画像81ODについて説明する。画素位置変換テーブルでは、左上の撮像カメラ21Cで1枚目の撮像素子25C11の画素A1と、要素画像81ODの左上の画素A1とを対応づける。また、画素位置変換テーブルでは、右上の撮像カメラ21Cで1枚目の撮像素子25C21の画素B1と、要素画像81ODの右上の画素B1とを対応づける。また、画素位置変換テーブルでは、左下の撮像カメラ21Cで1枚目の撮像素子25C31の画素C1と、要素画像81ODの左下の画素C1とを対応づける。また、画素位置変換テーブルでは、右下の撮像カメラ21Cで1枚目の撮像素子25C41の画素D1と、要素画像81の右下の画素D1ODとを対応づける。
【0155】
次に、偶数列の要素画像81EVについて説明する。画素位置変換テーブルでは、左上の撮像カメラ21Cで2枚目の撮像素子25C12の画素A2と、要素画像81EVの左上の画素A2とを対応づける。また、画素位置変換テーブルでは、右上の撮像カメラ21Cで2枚目の撮像素子25C22の画素B2と、要素画像81EVの右上の画素B2とを対応づける。また、画素位置変換テーブルでは、左下の撮像カメラ21Cで2枚目の撮像素子25C32の画素C2と、要素画像81EVの左下の画素C2とを対応づける。また、画素位置変換テーブルでは、右下の撮像カメラ21Cで2枚目の撮像素子25C42の画素D2と、要素画像81EVの右下の画素D2とを対応づける。
【0156】
[作用・効果]
以上のように、立体画像表示システム1Cは、第1実施形態と同様、表示用レンズアレイ12がデルタ配列の場合でも、立体画像の画質を向上させることができる。
【0157】
(第5実施形態)
図28を参照し、本発明の第5実施形態に係る立体画像表示システム1Dについて、第1実施形態と異なる点を説明する。
第1実施形態では、撮像カメラアレイ20の実写画像を処理対象とするのに対して、第5実施形態では、仮想的な撮像カメラアレイ(仮想カメラアレイ)のCG画像を処理対象とする点が異なる。
【0158】
仮想カメラアレイとは、仮想的な撮像カメラ(仮想カメラ)を2次元状に配列したものである。
仮想カメラとは、被写体αの3次元モデルを配置した3次元空間内での視点位置及び視点方向や画角等を設定するときの基準である。つまり、CGでは、仮想カメラで被写体αを撮像したような要素画像群80を生成する。なお、各仮想カメラは、第1実施形態で説明した撮像カメラ21(図21)を3次元の仮想空間内に配置したものであるため、これ以上の説明を省略する。
【0159】
[立体画像生成装置の構成]
立体画像表示システム1Dは、被写体αの立体画像を表示するものであり、図28に示すように、立体画像表示装置10と、立体画像生成装置30Dと、を備える。
立体画像生成装置30Dは、仮想カメラアレイが撮像した被写体画像から、立体画像表示装置10が表示する要素画像群80を生成するものである。
【0160】
図28に示すように、立体画像生成装置30Dは、パラメータ入力手段31と、画素位置変換テーブル記憶手段32と、演算手段33と、仮想カメラ設定手段(撮像カメラ制御手段)34Dと、要素画像群生成手段(立体画像生成手段)36Dと、3次元モデル入力手段37とを備える。
なお、仮想カメラ設定手段34D、要素画像群生成手段36D及び3次元モデル入力手段37以外は、第1実施形態と同様のため、説明を省略する。
【0161】
仮想カメラ設定手段34Dは、演算手段33から入力した制御信号に基づいて仮想的な撮像カメラ(仮想カメラ)を設定するものである。
具体的には、仮想カメラ設定手段34Dは、仮想3次元空間において、制御信号の位置に各仮想カメラを配置する。また、仮想カメラ設定手段34Dは、制御信号の軸ずれ量だけ、各仮想カメラの撮像素子と撮像レンズとをずらして設定する。また、仮想カメラ設定手段34Dは、制御信号の画角に一致するように各仮想カメラの画角を設定する。
【0162】
要素画像群生成手段36Dは、仮想カメラ設定手段34Dが設定した仮想カメラアレイを介して被写体画像を生成し、被写体画像から要素画像群80を生成するものである。
具体的には、要素画像群生成手段36Dは、各仮想カメラを配置した仮想3次元空間内に、後記する3次元モデル入力手段37から入力した3次元モデルを配置する。ここで、要素画像群生成手段36Dは、仮想レンズアレイのレンズ面において、奥行き圧縮前後で被写体の大きさが変化しないように、3次元モデルのサイズを倍率mだけ拡大又は縮小する。そして、要素画像群生成手段36Dは、各仮想カメラで3次元モデルを撮像することで、被写体画像を生成する。さらに、要素画像群生成手段36Dは、第1実施形態と同様の画素位置変換テーブルを参照し、被写体画像の画素位置を変換することで、要素画像群80を生成する。
【0163】
3次元モデル入力手段37は、被写体の3次元形状及び色情報を表した3次元モデルを入力し、入力した3次元モデルを要素画像群生成手段37Dに出力するものである。
3次元モデルの生成手法は、特に制限されないが、例えば、ポリゴン等にテクスチャマッピングを施すことで生成できる。
【0164】
[立体画像生成装置の動作]
図29を参照し、立体画像生成装置30Dの動作について説明する。
ここで、画素位置変換テーブル記憶手段32Dは、画素位置変換テーブルを予め記憶していることとする。
なお、ステップS1~S5の処理は、第1実施形態と同様のため、説明を省略する。
【0165】
仮想カメラ設定手段34Dは、制御信号に基づいて仮想的な撮像カメラ(仮想カメラ)を設定する(ステップS10)。
3次元モデル入力手段37は、被写体の3次元形状及び色情報を表した3次元モデルの入力を受け付ける(ステップS11)。
要素画像群生成手段36Dは、ステップS10で設定した仮想カメラを介して、ステップS11で入力した3次元モデルの被写体画像を生成し、被写体画像から要素画像群80を生成する(ステップS12)。
【0166】
[作用・効果]
以上のように、立体画像生成装置30Dは、CGにより被写体画像を生成する場合でも、第1実施形態と同様の効果を奏する。これにより、立体画像生成装置30Dは、表示用レンズアレイ12がデルタ配列の場合でも、立体画像表示装置10が解像度の高い立体像を表示可能となり、立体画像の画質を向上させることができる。
【0167】
なお、本実施形態では、立体画像生成装置30Dを第1実施形態に適用することとして説明したが、立体画像生成装置30Dは、第2実施形態~第4実施形態の何れにも適用することができる。
【0168】
(第6実施形態)
[立体画像表示システム]
図15を参照し、本発明の第6実施形態に係る立体画像表示システム1Eについて、第1実施形態と異なる点を説明する。
第1実施形態では、撮像レンズ27と撮像素子25との軸をずらすのに対し(図17)、第6実施形態では、軸ずれ量dyに応じた画素位置の画素を被写体画像から取得する点が異なる。
【0169】
立体画像表示システム1Eは、被写体αの立体像を表示するものであり、図15に示すように、立体画像表示装置10と、撮像カメラアレイ20Eと、立体画像生成装置30Eと、を備える。
撮像カメラアレイ20Eは、複数の撮像カメラ21E(図30)を配列したものである。撮像カメラ21Eは、レンズシフト機能を備えない以外、第1実施形態と同様のため、これ以上の説明を省略する。
【0170】
[立体画像生成装置の構成]
立体画像生成装置30Eは、撮像カメラアレイ20Eが撮像した被写体画像から、立体画像表示装置10が表示する要素画像群80を生成するものである。図15に示すように、立体画像生成装置30Eは、パラメータ入力手段31と、画素位置変換テーブル記憶手段32Cと、演算手段33と、撮像カメラ制御手段34と、被写体画像入力手段35と、要素画像群生成手段36Eと、を備える。
なお、要素画像群生成手段36E以外の各手段は、第1実施形態と同様のため、説明を省略する。
【0171】
要素画像群生成手段36Eは、被写体画像入力手段35より入力した被写体画像から要素画像群を生成するものである。このとき、要素画像群生成手段36Eは、各被写体画像から、軸ずれ量算出手段333で算出した軸ずれ量dyに応じた画素位置の画素値を取得する。
【0172】
<軸ずれ量に応じた画素位置の画素値の取得手法>
図30を参照し、軸ずれ量dyに応じた画素位置の画素値の取得手法について説明する。
最初に、図30(a)に示すように、軸ずれがない場合を考える(軸ずれ量dy=0)。この場合、要素画像群生成手段36Eは、被写体画像29から、撮像素子25の中心位置を基準として所定サイズの画像領域29を切り出す。つまり、要素画像群生成手段36Eは、撮像素子25の中心位置が被写体画像29の中心位置に対応するので、被写体画像29の中心位置を基準として画像領域29を切り出す。
【0173】
なお、画像領域29は、軸ずれ量dyを考慮して、被写体画像29に収まるサイズで予め設定する。従って、撮像素子25のサイズ(画素数)は、軸ずれ量dyを考慮して、画像領域29よりも大きくする。
【0174】
次に、図30(b)に示すように、軸ずれがある場合を考える。この場合、要素画像群生成手段36Eは、被写体画像29から、撮像素子25の中心から軸ずれ量dyだけ移動した位置を基準として、画像領域29を切り出す。つまり、要素画像群生成手段36Eは、被写体画像29の中心から軸ずれ量dyずれた位置を基準として、画像領域29を切り出す。
【0175】
このように、要素画像群生成手段36Eは、撮像素子25の中心から軸ずれ量dyだけ外れた画素位置の画素値を取得することで、撮像レンズ27の光軸と撮像素子25の中心軸とをずらすのと同等の処理を行っている。
【0176】
その後、要素画像群生成手段36Eは、切り出した画像領域29を被写体画像として用いて、要素画像群を生成する。この要素画像群を生成する手法自体は、第1実施形態と同様のため、説明を省略する。
【0177】
[作用・効果]
以上のように、立体画像生成装置30Eは、被写体画像から取得する画素位置を軸ずれ量dyに応じてずらすことで、第1実施形態と同様の効果を奏する。これにより、立体画像生成装置30Eは、立体画像表示装置10が解像度の高い立体像を表示可能となり、立体画像の画質を向上させることができる。
【0178】
なお、本実施形態では、立体画像生成装置30Eを第1実施形態に適用することとして説明したが、立体画像生成装置30Eは、第2実施形態~第5実施形態の何れにも適用することができる。
【0179】
(変形例)
以上、本発明の各実施形態を詳述してきたが、本発明は前記した各実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
【0180】
前記した各実施形態では、一方の軸方向を水平方向とし、もう一方の軸方向を垂直方向として説明したが、逆でもよい。つまり、隣接する表示用要素レンズの位置が、垂直方向でずれており、水平方向で整列していてもよい。この場合、要素画像群における各要素画像の配列も、表示用要素レンズの配列に合わせる。
【0181】
立体画像表示装置の表示素子の各画素が色ごとに水平方向にストライプ状に配置されている場合を考える。この場合、色ずれを抑制するためには、撮像カメラアレイの水平方向の間隔を3分の1にし、水平方向の軸ずれ量を3分の1にし、水平方向で撮像カメラの台数を3倍にし、色ごとに撮像カメラを割り当てればよい。そして、色ごとに隣り合うカメラからの画素情報から補間することで、色ずれを抑制することができる。例えば、立体画像表示装置の表示素子の各画素内において、赤・緑・青の順番にストライプ状に配置されているRGBストライプ構造であり、緑画素の値をそのまま用いる場合、赤色と青色の画素値を計算する必要がある。赤色画素は、左隣の画素の赤色の画素値と求めようとする赤色画素の最初の画素値から再計算した補間値を利用し、青色画素は、右隣の画素の青色の画素値と求めようとする青色画素の最初の画素値から再計算した補間値を利用すればよい。具体的には、赤色の画素値を算出する場合、求めようとする赤色の画素値の最初の値をv1、左隣の赤色の画素値をv0とした場合、新しい赤色の画素値v1’は、下記式で求められる。
v1’=(v1×2/3)+(v0×1/3)
【0182】
前記した補間の手法では、十分な効果が得られない場合もある。そこで、水平方向のカメラ台数を3倍にした場合の画素位置変換テーブルについて説明する。前記した画素位置変換テーブルでは、色ごとにサンプリングすることを考慮していないため、撮像・表示の各画素に対応する変換テーブルであった。例えば、RGBストライプ構造の表示素子に一致させるために、RGBの各色に対応した3つの画素位置変換テーブルが必要になる。そこで、撮像カメラアレイの水平方向の間隔を3分の1にし、水平方向の軸ずれ量を3分の1にし、水平方向の台数を3倍にした場合、1つの画素位置変換テーブルで変換する方法について説明する。具体的には、水平方向に3倍の台数のカメラアレイをR用、G用、B用カメラとして順番に割り当てる。ここで、G用カメラに割り当てた撮像カメラアレイが前記した撮像カメラアレイと同じ配置であるとする。このG用カメラの両隣のR用カメラ及びB用カメラのデータをG用カメラのRデータ及びBデータとして差し替える。これによって、G用カメラに割り当てた撮像カメラアレイには、RGBストライプ構造の表示素子の色位置に一致するデータを保持していることになるため、前記画素位置変換テーブルをRGBのそれぞれに適用することで、色ずれのない画素位置変換ができる。この方法によれば、RGBのそれぞれに対応した画素位置変換テーブルを用意する必要がなく、G用カメラが取得した画像を補間するデータ領域にあるR用データ領域、B用データ領域のアドレスをそれぞれR用カメラ及びB用カメラのデータ領域を参照して差し替えるだけであり、高速処理が可能になるという利点がある。
【0183】
前記した各実施形態では、光学素子アレイが表示用要素レンズ等の光学素子を2次元に配列した表示用レンズアレイであることとして説明したが、本発明は、これに限定されない。例えば、光学素子アレイは、要素レンズを1次元に配列したレンズアレイであってもよい。また、光学素子アレイは、かまぼこ型の要素レンズ(レンチキュラーレンズ)を1次元に配列したレンチキュラーレンズアレイであってもよい。さらに、光学素子アレイは、ピンホールを1次元又は2次元に配列したピンホールアレイであってもよい。さらに、本発明は、IP方式だけでなく、視差バリア方式にも適用できる。
【0184】
各撮像カメラで撮像した被写体画像と、要素画像群を構成する要素画像の各画素とが1対1で対応する場合、被写体画像の画素数と要素画像の数とが等しくなる。一方、被写体画像の画素数が要素画像の数よりも多くなる場合、オーバーサンプリングになる。この場合、取得する光線の光線幅が狭くなると共に、高い周波数までサンプリング可能となる。また、画素の有効径が小さくなるため、実写の場合であれば感度が下がることになるが、CGでは感度を考慮する必要がない。つまり、オーバーサンプリングした被写体画像から所望の光線に最も近い画素を取得、画素位置の変換を行うことで、画素サイズによる精度の低下を抑えることができる。
【0185】
前記した各実施形態では、立体画像生成装置を独立したハードウェアとして説明したが、本発明は、これに限定されない。例えば、本発明は、コンピュータが備えるCPU、メモリ、ハードディスク等のハードウェア資源を、前記した立体画像生成装置として協調動作させるプログラムで実現することもできる。これらのプログラムは、通信回線を介して配布してもよく、CD-ROMやフラッシュメモリ等の記録媒体に書き込んで配布してもよい。
【符号の説明】
【0186】
1,1A~1E 立体画像表示システム
10 立体画像表示装置
11 表示素子
12 表示用レンズアレイ(光学素子アレイ)
13 表示用要素レンズ(光学素子)
20,20A~20C,20E 撮像カメラアレイ
21,21A~21E 撮像カメラ
22 昇降部材
23 支柱
25,25A~25C 撮像素子
26 画素
27 撮像レンズ
30,30A~30E 立体画像生成装置
31 パラメータ入力手段
32,32A~32D 画素位置変換テーブル記憶手段
33 演算手段
331 位置算出手段
333 軸ずれ量算出手段
335 倍率算出手段
337 画角算出手段
34 撮像カメラ制御手段
34D 仮想カメラ設定手段(撮像カメラ制御手段)
35 被写体画像入力手段
36,36D,36E 要素画像群生成手段(立体画像生成手段)
37 3次元モデル入力手段
80 要素画像群
81 要素画像
90 立体画像撮像装置
91 撮像素子
92 撮像用レンズアレイ
93 撮像用要素レンズ
94 奥行き制御レンズ
95 仮想レンズアレイ
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29
図30