(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0018】
[第1の実施形態]
以下、図面を参照して、本発明の第1の実施形態について説明する。
図1は、この発明の第1の実施形態による立体像表示システム100の構成を示す概略ブロック図である。立体像表示システム100は、立体像撮影装置10、要素画像群生成装置20、IP(Integral Photography;インテグラルフォトグラフィ)立体像表示装置30を含んで構成される。立体像撮影装置10は、被写体の立体像を表す複数の画像を撮影する。要素画像群生成装置20は、IP立体像表示装置30から要素画像の形状と、配列の傾き角φnを取得する。要素画像群生成装置20は、立体像撮影装置10が撮影した複数の画像から、IP立体像表示装置30から取得した形状の要素画像からなる要素画像群であって、要素画像の配列が、IP立体像表示装置30から取得した傾き角φ
nだけ回転している要素画像群を生成する。
【0019】
IP立体像表示装置30は、非特許文献2と同様に、要素画像の水平/垂直の比率を変化させることで、視域の水平/垂直の比率を変化させることができるIP立体像表示装置である。IP立体像表示装置30は、要素画像の形状を要素画像群生成装置20に対して指定し、要素画像群生成装置20が該指定に従って生成した要素画像群を用いて立体像を表示する。
【0020】
図2は、立体像撮影装置10の構成を示す概略ブロック図である。
図2に示すように立体像撮影装置10は、要素レンズアレイ11、フィールドレンズ12、要素カメラ群13を含んで構成される。要素レンズアレイ11は、凸レンズである要素レンズ11−1〜11−nを含んで構成される。要素レンズ11−1〜11−nは、全て焦点距離fiの凸レンズであり、それらの主面が同一平面上に位置するように、かつ、デルタ配列(俵積み配列ともいう)で配列されている。被写体からの光は、まず、要素レンズアレイ11の要素レンズ11−1〜11−nに入射する。
【0021】
フィールドレンズ12は、その主面と、要素レンズアレイ11の要素レンズ11−1〜11−nの主面との距離g
iが、要素レンズ11−1の焦点距離f
iとなる位置に設置された、焦点距離Fの凸レンズである。要素レンズ11−1〜11−nのいずれかを透過した被写体からの光は、フィールドレンズ12に入射する。要素カメラ群13は、要素カメラ13−1〜13−mを含んで構成される。要素カメラ群13は、要素カメラ13−1〜13−m各々の撮影レンズの主面が、同一平面上に位置するように、かつ、フィールドレンズ12の主面から距離g
cだけ離れた位置となるように設置されている。なお、距離g
cは、フィールドレンズ12の焦点距離Fと一致している。
【0022】
要素レンズ11−1〜11−nのうち、いずれかとフィールドレンズ12とを透過した被写体からの光は、要素カメラ13−1〜13−mに入射する。要素カメラ13−1〜13−mの各々は、各要素レンズ11−1〜11−nを介してフィールドレンズ12に入射した光のうち、特定の角度で入射した光による画像を撮影するように配置されているが、具体的な配置は後述する。要素カメラ13−1〜13−mは、撮影した画像を表す画像信号を、要素画像群生成装置20に入力する。
【0023】
図3は、立体像撮影装置10の構成を示す断面図である。なお、
図3は、説明の簡易のために、該断面における要素レンズの個数を5、要素カメラの画角を要素レンズ3個分としているが、これに限定されない。
図3に示すように、要素カメラ13−1〜13−mの各々は、撮影レンズ14、撮像素子15を含んで構成される。なお、撮影レンズ14、撮像素子15は、それを含んでいる要素カメラの符号の枝番(13−1における1など)を付けて、撮影レンズ14−1、撮像素子15−1などと表記する。
【0024】
そして、被写体O側から、要素レンズアレイ11、フィールドレンズ12、要素カメラ群13の順に配置されている。また、要素レンズアレイ11、フィールドレンズ12、撮影レンズ14−1〜14−mの主面の距離は、上述したようにそれぞれ距離g
i、g
cである。また、撮影レンズ14−1〜14−mの主面から撮像素子15−1〜15−mの撮影面までの距離g
sと、撮影レンズ14−1〜14−mの焦点距離f
cは、以下の式を満たす。
【0026】
また、
図3において、実線は、要素カメラ13−1により撮影される光線を示し、破線は、要素カメラ13−2により撮影される光線を示し、一点鎖線は、要素カメラ13−mにより撮影される光線を示す。以降では、要素レンズアレイ11における要素レンズ11−1〜11−nのピッチ(主点間の距離)をp
l、撮影レンズ14−1〜14−mのピッチ(主点間の距離)をp
c、撮像素子15−1〜15−mのピッチ(中心間の距離)をpsと表記する。このとき、p
l、p
c、p
sは、以下の式(1)、(2)を満たすような値である。
【0028】
これにより、
図3に示すように、要素カメラ13−1により撮影される光線(実線)と、要素カメラ13−2により撮影される光線(破線)と、要素カメラ13−mにより撮影される光線(一点鎖線)とは、要素レンズ11−1〜11−n各々の被写体側の焦点Sp−1〜Sp−k(以降、サンプリング点という)を通った光線となる。なお、サンプリング点の数は、要素カメラの数や画角などによって変わるが、k≦nである。さらに、その撮影レンズ14−1の光軸が、フィールドレンズ12の光軸、および、要素レンズアレイ11の中心にある要素レンズ11−1の光軸と一致している要素カメラ13−1は、サンプリング点Sp−1〜Sp−k各々を通った光線のうち、サンプリング点Sp−1〜Sp−k各々における中央の画角のものを撮影する。
【0029】
要素カメラ13−1の光軸から
図3における上方にpsだけその光軸が離れている要素カメラ13−2は、サンプリング点Sp−1〜Sp−k各々を通った光線のうち、サンプリング点Sp−1〜Sp−k各々における下方の画角のものを撮影する。要素カメラ13−1の光軸から
図3における下方にpsだけその光軸が離れている要素カメラ13−mは、サンプリング点Sp−1〜Sp−k各々を通った光線のうち、サンプリング点Sp−1〜Sp−k各々における上方の画角のものを撮影する。
【0030】
このように、要素カメラ13−2〜13−mは、要素カメラ13−1が撮影する各サンプリング点Sp−1〜Sp−kにおける画角よりも外側の画角を撮影するので、本実施形態における立体像撮影装置10は、各要素画像の画角(以降、視域角という)を広くすることができる。
【0031】
図4は、要素カメラ13−1、13−2の配置を説明する断面図である。該断面図を用いて、式(1)、(2)を説明する。要素カメラ13−1は、要素レンズ11−1〜11−nからフィールドレンズ12に入射される光のうち、フィールドレンズ12などの光軸に平行なものを撮影する。例えば、要素レンズ11−1からフィールドレンズ12に入射される光のうち、光軸に平行に、Ar−1に示す範囲に入射した光を、要素カメラ13−1は撮影する。要素レンズ11−3からフィールドレンズ12に入射される光のうち、光軸に平行に、Ar−3に示す範囲に入射した光を、要素カメラ13−1は撮影する。
【0032】
一方、要素カメラ13−2は、要素カメラ13−1よりも、ピッチp
lだけ上方にずれた方向の光を撮影する。例えば、要素レンズ11−1からフィールドレンズ12に入射される光のうち、要素レンズ11−1の主点と、フィールドレンズ12の主点からピッチp
lだけ上方にずれた点とを通る直線に平行に、Ar−2に示す範囲に入射した光を、要素カメラ13−2は撮影する。
【0033】
このため、要素レンズ11−3からフィールドレンズ12に入射される光のうち、要素レンズ11−1の主点と、フィールドレンズ12の主点からピッチp
lだけ上方にずれた点とを通る直線に平行に、Ar−1に示す範囲に入射した光は、撮影レンズ14−2の主点を通る。したがって、
図4に示すように、要素レンズ11−3の主点と、フィールドレンズ12の主点と、要素カメラ13−2の撮影レンズ14−1の主点とは同一直線L1上となる。したがって、式(3)が成り立ち、該式を変形すると、式(1)が得られる。
g
i:p
l=g
c:p
c ・・・(3)
【0034】
また、立体像撮影装置10では、要素カメラ13−1が撮影する光線が通るサンプリング点と、要素カメラ13−2が撮影する光線が通るサンプル点とを一致させている。例えば、サンプリング点Sp−1を通る光線のうち、要素カメラ13−1が撮影する光は、要素レンズ11−1により領域Ar−1に入射する光である。一方、サンプリング点Sp−1を通る光のうち、要素カメラ13−2が撮影する光は、要素レンズ11−2により領域Ar−1から2×p
lだけ上方にずれた領域Ar−4に入射する光である。
【0035】
したがって、要素カメラ13−2の画角は、フィールドレンズ12の主面において、要素カメラ13−1の画角と幅は同じであるが、要素カメラ13−1よりも2×p
lだけ上方にずれている。画角の幅を同じにするために撮像素子15−1と撮像素子15−2の幅は同じである。しかし、画角を2×p
lだけずらすために、撮像素子15−2の中心は、撮像面と直線L1の交点から下方にp
xだけずれている。すなわち、撮像素子15−2の中心と、撮影レンズ14−2の主点とを通る直線L2と、フィールドレンズ12の主面との交点は、フィールドレンズ12の主点から2×p
lだけ上方にずれた位置にある。したがって、下記式(4)が成り立つ。
2×p
l:g
c=p
x:g
s ・・・(4)
【0036】
また、直線L1と、フィールドレンズ12の光軸と、撮影レンズ14−2の主面とで囲まれる三角形と、直線L1と、フィールドレンズ12の光軸と、撮像素子15−2の主面とで囲まれる三角形とは、相似関係にあるので、式(5)が成り立つ。
g
c:p
c=g
c+g
s:p
x+p
s ・・・(5)
式(5)に式(4)、(1)を代入して、p
c、p
xを消去し、変形すると、式(2)が得られる。
【0037】
なお、式(1)、(2)は、要素カメラ群13により撮影される画像が、要素画像群生成装置20で無駄にならないための撮影条件を示した。すなわち、次に説明する要素画像群生成装置20で要素画像群を生成する際に用いられない画像を撮影することを許す場合は、これらの条件を満たしていなくてもよい。要素カメラ13−1〜13−mの位置合わせ誤差や撮像素子15−1〜15−m間の特性差、撮影レンズ14−1〜14−m間のギャップを吸収するために、あえて式(1)、(2)の条件からずらした配置としてもよい。たとえば、このようなずれを導入するために、パラメータαを導入して、式(1)、(2)に変えて、下記式(1’)、(2’)に従った配置としてもよい。
【0039】
ここで、αは実数である。なお、αが整数ではない場合、要素カメラ13−1、13−2、・・・、13−m各々のサンプリング点は、該要素カメラに隣接する要素カメラのサンプリング点と異なる点となる。
なお、
図3の断面図では、該断面に位置する要素カメラの数が3つの場合の例を示したが、さらに外側に要素カメラを配置して、より視域角を広くしてもよい。また、要素カメラ13−2、13−mのいずれかを備えず、要素カメラの数を2つにしても、1つのときよりも視域角を広くすることができる。あるいは、
図3の断面とは、他の方向に要素カメラを配置して、該方向に視域角を広くしてもよい。
【0040】
本実施形態において、要素カメラ13−1〜13−mの配列は、デルタ配列である。なお、要素レンズ11−1〜11−n、および、要素カメラ13−1〜13−mの配列は、正方配列であってもよい。また、本実施形態では、要素レンズ11−1〜11−nおよび撮影レンズ14−1〜14−mのピッチが一定であるとしたが、一定でなくてもよい。また、要素カメラ13−1〜13−mな配置であってもよい。
また、要素レンズ11−1〜11−nと、その要素レンズが形成する要素画像の中心を結んだ直線が平行となる配置のみについて説明したが、ある距離において交差するような配置でもよい。
【0041】
図5は、要素画像群生成装置20の構成を示す概略ブロック図である。要素画像群生成装置20は、画像取得部201、要素画像群算出部202、要素画像群出力部203、要素画像形状取得部204を含んで構成される。画像取得部201は、立体像撮影装置10と通信し、立体像撮影装置10が撮影した画像を取得する。要素画像群算出部202は、画像取得部201が取得した画像から、要素画像形状取得部204により指定された形状の要素画像からなる要素画像群であって、要素画像の配列が、要素画像形状取得部204により指定された傾き角φ
nだけ回転している要素画像群を生成する。要素画像群出力部203は、生成した要素画像群をIP立体像表示装置30に入力する。要素画像形状取得部204は、IP立体像表示装置30から要素画像の形状および傾き角φ
nの指定を受信する。
【0042】
図6は、要素画像群算出部202の構成を示す概略ブロック図である。要素画像群算出部202における要素画像群の生成処理は、ソフトウェアまたはハードウェアによる信号処理であるが、処理の内容としては、撮影した画像を仮想的に表示して立体像を再生し、それを仮想的に撮影することと等価である。本処理はルックアップテーブルにより実装してもよいが、本実施形態では計算処理で仮想的な表示および撮影を行うことで、要素画像群を生成する。
【0043】
要素画像群算出部202は、仮想要素表示装置群23、仮想フィールドレンズ22、仮想表示用要素レンズアレイ21、仮想撮影用要素レンズアレイ26、仮想撮像素子27、仮想撮影用要素レンズアレイ回転部28を含んで構成される。仮想要素表示装置群23は、仮想要素表示装置23−1〜23−mを含んで構成される。仮想要素表示装置23−1〜23−mの各々は、仮想要素表示素子25、仮想要素投射レンズ24を含んで構成される。
【0044】
なお、仮想要素表示素子25および仮想要素投射レンズ24は、それを含んでいる仮想要素表示装置の符号の枝番(23−1における1など)を付けて、仮想要素表示素子25−1、仮想要素投射レンズ24−1などと表記する。仮想表示用要素レンズアレイ21は、仮想表示用要素レンズ21−1〜21−nを含んで構成される。仮想撮影用要素レンズアレイ26は、仮想撮影用要素レンズ26−1〜26−kを含んで構成される。
【0045】
仮想要素表示素子25−1から25−mは、それぞれ枝番が対応する撮像素子15−1〜15−mと逆の処理を仮想的に行う。すなわち、仮想要素表示素子25−1〜25−mは、画像取得部201が取得した画像のうち、それぞれ枝番が対応する撮像素子15−1〜15−mが撮影した画像を表示する。仮想要素投射レンズ24−1〜24−mは、それぞれ枝番が対応する撮影レンズ14−1〜14−mと同じ光学特性を有し、逆の処理を仮想的に行う。すなわち、仮想要素投射レンズ24−1〜24−mは、それぞれ枝番が対応する仮想要素表示素子25−1〜25−mが表示した画像の光を仮想フィールドレンズ22に投射する。
【0046】
仮想フィールドレンズ22は、フィールドレンズ12と同じ光学特性を有し、逆の処理を仮想的に行う。すなわち、仮想フィールドレンズ22は、仮想要素投射レンズ24−1〜24−mにより投射された光を、仮想表示用要素レンズ21−1〜21−nに振り分ける。仮想表示用要素レンズ21−1から21−nは、要素レンズ11−1〜11−nと同じ光学特性を有し、逆の処理を仮想的に行う。すなわち、仮想表示用要素レンズ21−1〜21−nは、仮想フィールドレンズ22により振り分けられた光を、サンプリング点に相当する位置に配置された仮想撮影用要素レンズ26−1〜26−kに投射する。
【0047】
仮想撮影用要素レンズ26−1〜26−kは、仮想表示用要素レンズ21−1〜21−nにより投射された光を、仮想撮像素子27の撮像面で結像させる。仮想撮像素子27は、仮想撮影用要素レンズ26−1〜26−k各々により結像された像から、要素画像形状取得部204により指定された傾き角φ
nだけ回転させた配列の、指定された形状の要素画像からなる要素画像群を生成する。
【0048】
仮想撮影用要素レンズアレイ回転部28は、要素画像形状取得部204により指定された傾き角φ
nだけ、仮想撮影用要素レンズ26−1〜26−kの配列を回転させる。これにより、仮想撮影用要素レンズアレイ26における仮想撮影用要素レンズ26−1〜26−kの配列と、IP立体像表示装置30の要素レンズの配列とを一致させる。
【0049】
図7は、要素画像群算出部202の各部の仮想空間における配置を示す断面図である。
図7に示すように、
図6で説明した各部の仮想空間における配置は、各部に対応する立体像撮影装置10の各部の配置と同様の配置である。仮想撮影用要素レンズ26−1〜26−kは、その主点がサンプリング点Sp−1〜Sp−kと一致する。また、仮想撮像素子27は、仮想撮影用要素レンズ26−1〜26−k各々の焦点面に配置されている。
【0050】
このような設定にすることで、IP方式特有のいわゆる奥行き反転現象を直すことができ、かつ立体像全体の奥行き位置を変えることなく、要素画像群に変換することが可能である。ここで、仮想撮影用要素レンズ26−1〜26−kの光学特性は、IP立体像表示装置30の要素レンズに合わせて設定する。
【0051】
なお、立体像撮影装置10で取得した画像群をそのまま要素画像群生成装置20で使用する場合について説明したが、撮影レンズ14−1〜14−mや撮像素子15−1〜15−m各々の位置ずれ(回転ずれも含む) がある場合は、画像処理で補正してもよい。補正方法は、既知のキャリブレーションパターンを利用した強キャリブレーションでもよいし、特徴点を利用した弱キャリブレーションでもよい。あるいは立体像撮影装置10において、撮影レンズ14−1〜14−mや撮像素子15−1〜15−m各々がその位置ずれを調整するための移動・回転調整機構を備え、画像処理ではなく機械的に調整してもよい。または機械的な調整と画像処理による補正を両方行ってもよい。
【0052】
また、仮想表示用要素レンズアレイ21の焦点面に、仮想撮影用要素レンズアレイ26を設定する場合について説明したが、設置場所はこれに限定されない。他の位置に設置することにより、立体像の再生位置を撮影時と違う位置に変えることが可能である。
【0053】
[要素画像群算出部202の変形例]
上記では、仮想的に撮影した光線群を逆伝播させ、仮想撮像素子27に入射される光線群を得る場合について説明した。しかし、要素画像群算出部202は、仮想撮像素子27のある画素に入射される光線を逆方向にたどって行き、仮想要素表示素子25−1〜25−mのどの画素が対応するかを計算してもよい。
【0054】
図8は、要素画像群算出部202の変形例の動作を説明するフローチャートである。まず、要素画像群算出部202は、仮想要素表示素子25−1〜25−m、仮想要素投射レンズ24−1〜24−m、仮想フィールドレンズ22、仮想表示用要素レンズ21−1〜21−n、仮想撮影用要素レンズ26−1〜26−n、仮想撮像素子27について、立体像撮影装置10の構成に応じて、光学特性や配置を設定する(S1)。なお、設定する光学特性や配置は、立体像撮影装置10の構成を取得して、該構成から決定してもよいし、ユーザが指定してもよい。また、仮想撮影用要素レンズ26−1〜26−nの配列については、要素画像形状取得部204が取得した傾き角φ
nに従い、回転した配列とする。
【0055】
次に、要素画像群算出部202は、要素画像形状取得部204が取得した形状、傾き角φ
nの要素画像の領域を、仮想撮像素子27上に設定する。要素画像群算出部202は、設定した仮想撮像素子27上の全ての要素画像の領域の全ての画素のうち、それまでのステップ2にて未選択のものから1画素を選択する(S2)。次に、要素画像群算出部202は、光線の伝搬処理の初期化を行う(S3)。具体的には、要素画像群算出部202は、ステップS2にて選択した画素から、仮想撮影用要素レンズ26−1から26−kのうち、該画素を含む要素画像に対応するものの主点へのベクトルを設定する。次に、要素画像群算出部202は、ステップS3の初期化により設定されたベクトルから、仮想要素表示素子25−1〜25−mまでの光線の伝播を計算する(S4)。次に、要素画像群算出部202は、ステップS4の計算にて、仮想要素表示素子25−1〜25−mのいずれかの撮像面まで到達したか否かを判定する(S5)。到達していないと判定したときは(S5−No)、ステップS7に進む。
【0056】
また、ステップS5にて到達したと判定したときは(S5−Yes)、要素画像群算出部202は、到達した位置にある仮想要素表示素子25−1〜25−mの画素の画素値を、ステップS2にて選択した画素の画素値として割り当て(S6)、ステップS7に進む。ステップS7では、要素画像群算出部202は、ステップS2にて、全ての要素画像の全ての画素について選択したか否かを判定する。選択していないものがあると判定したときは(S7−No)、ステップS2に戻る。一方、全て選択していると判定したときは、要素画像群算出部202は、要素画像のうち、画素値が割り当てられていない画素の画素値を、周辺の画素値を用いて補間して算出し、割り当てて(S8)、処理を終了する。
【0057】
なお、ステップS6にて、仮想要素表示素子25−1〜25−mのちょうど画素の位置に光線がこない場合は、近くの光線情報を用いて光線の内挿処理を行う。
また、ステップS3では、光線の幅を無限小とし、設定するベクトルを一つのみとしたが、光線が、仮想撮影用要素レンズの主面において有限の幅φを有するようにしてもよい。その場合、始点をステップS2にて選択した画素、終点を仮想撮影用要素レンズの主点を中心とした幅φの範囲内とするベクトルを複数設定し、これらのベクトルから光線を逆方向にたどって行く計算を複数回行い、その結果の平均または重み付け加算を行い該画素の画素値とする。
【0058】
1つの撮像素子で撮影した要素画像群について、各要素画像同士の境目において、画素が有限の大きさを有するため、異なった方向から到来する光線が同一の画素に入射され、クロストークが発生する。このようなクロストークは、立体像の不自然な運動視差や二重像となり観察者に知覚される場合があるため、ステップS1やS5においてマスク処理などにより除去してもよい。例えば、ステップS1であれば、仮想要素表示素子25−1〜25−mに表示する要素画像群に関して、要素画像同士の境目部分を、マスク処理などによりあらかじめ除去をすることができる。また、ステップS5であれば、分岐の条件を「光線は仮想要素表示素子25−1〜25−mまで到達し、かつ要素画像同士の境目部分ではないか?」に変えることで、除去をすることができる。これらの場合、除去した光線に相当する光線は、前に説明したように、近くの光線情報を用いて内挿処理により生成する。
【0059】
IP立体像表示装置30における要素画像の形状について説明する。
図9は、IP立体像表示装置30の要素画像の形状を示す図である。なお、要素レンズの配列と、要素画像の配列とは同じになるので、要素画像の配列もデルタ配列である。また、p
lは要素画像間の最小中心間距離、OとP
nはそれぞれ0行0列目と1行n列目 (nは整数) の要素画像の中心点を表す。また、要素画像の中心間距離が最小となる2つの要素画像の中心を結んだ直線を、以後基準線とする。
【0060】
本実施形態では、要素画像の形状を長方形として、かつその長手方向は、要素レンズの中心間距離の最小値よりも大きい。さらに画素の利用効率を上げるために、隙間なく要素画像を配置する。すなわち、線分OP
nが要素画像の長手方向の大きさとなるように設定する。基準線と線分OP
nのなす角を傾き角φ
nとすると、要素画像の長手方向の大きさw
nと短手方向の大きさh
nとは、以下の式(6)、(7)で表される。
【0062】
ここでw
0とh
0は、それぞれ長手方向の大きさを要素光学素子間の最小中心距離をとした場合に隙間なく配置可能な要素画像の長手方向と短手方向の大きさであり、デルタ配列の場合、式(8)、(9)となる。
【0064】
要素画像の長手方向が視域角の広がる方向となる。水平視域を広げる場合は、この視域拡大方向が水平方向になるように要素レンズを設置する。また、垂直視域を広げる場合は、この視域拡大方向が垂直方向になるように要素レンズを設置する。
図10は、傾き角φ
nに対する正規化された要素画像の大きさの変化を示すグラフである。
図10より、傾き角φ
nにより、要素画像の長手方向と短手方向の大きさが制御可能であることがわかる。また、
図11は、水平視域を広げる場合の要素画像の具体例を示す。
図11に示すように、要素画像同士が重なり合うことなく、配置可能であることがわかる。
【0065】
なお、要素レンズおよび要素画像の配列とは、正方配列であってもよく、その場合の要素画像の形状を
図12に示す。また、
図13は、正方配列のときの傾き角φ
nに対する正規化された要素画像の大きさの変化を示すグラフである。
図13より、正方配列あっても、傾き角φ
nにより、要素画像の長手方向と短手方向の大きさが制御可能であることがわかる。なお、正方配列の場合、w
0とh
0は、式(8’)となる。
【0067】
なお、要素画像の形状が、長方形であるとして説明したが、楕円形や多角形であってもよい。また、要素レンズの形状が、円形であるとしたが、長方形や六角形などの多角形であってもよい。
また、IP立体像表示装置30の要素レンズは、凸レンズだけでなく、平凸レンズや非球面レンズ、ピンホール、屈折率分布レンズ、ズームレンズ、液晶レンズ、キノフォーム、ホログラフィ、フレネルレンズ、組み合わせレンズなどでもよい。立体像撮影装置10の要素レンズ11−1〜11−n、撮影レンズ14−1〜14−mも同様である。
【0068】
このように、立体像撮影装置10は、複数の要素レンズを有する要素レンズアレイ11と、複数の要素カメラ13−1〜13−mと、要素レンズアレイ11と、複数の要素カメラ13−1〜13−mとの間に配置されるフィールドレンズ12とを具備する。
これにより、複数の要素カメラ13−1〜13−mによって撮影された複数の画像によって表わされる要素画像の画角は、複数の要素カメラ13−1〜13−mを併せた広いもの、すなわち互いに重なり合うような広い画角となる。したがって、例えば、要素画像の形状を、長手方向が要素レンズ11−1などの直径よりも長い長方形に変更する場合であっても、撮影後に、要素画像の形状を変更することができる。
【0069】
さらに、複数の要素カメラ13−1〜13−mの光軸間の距離p
cは、式(1)に示したように、フィールドレンズ12の焦点距離F=g
cと、複数の要素レンズ11−1〜11−nの主点間の距離p
lとの積を、要素レンズ11−1〜11−nの焦点距離f
i=g
iで割った値である。
これにより、複数の要素カメラ13−1〜13−mのサンプリング点を一致させ、IP立体像表示装置30の要素画像を生成するための情報を効率よく記録することができる。
【0070】
さらに、複数の要素カメラ13−1〜13−mの撮像面の中心間の距離p
sは、式(2)に示したように、フィールドレンズの焦点距離F=g
cと要素カメラ13−1〜13−mの撮影レンズ14−1〜14−mから撮像面までの距離g
sとの和を要素レンズ11−1〜11−5の焦点距離g
iで割った値から、距離g
sの2倍をフィールドレンズ12の焦点距離F=g
cで割った値を引いた後、要素レンズ11−1〜11−nの主点間の距離plを掛けた値である。
これにより、複数の要素カメラ13−1〜13−mが記録する画像各々に対応する各サンプリング点における画角が、互いに接する。したがって、IP立体像表示装置30の要素画像を生成するための情報を効率よく記録することができる。
【0071】
また、要素画像群生成装置20は、立体像撮影装置10が撮像した複数の画像を取得する画像取得部201と、画像取得部201が取得した複数の画像から、立体像撮影装置10における光線の経路を逆に辿ったときに、立体像撮影装置10の要素レンズアレイ11に入射される光線を参照して、IP立体像表示装置30で表示する要素画像群を生成する要素画像群算出部202とを具備する。
これにより、立体像撮影装置10が撮影した画像から、IP立体像表示装置30で表示する要素画像群を生成することができる。
【0072】
[第2の実施形態]
以下、図面を参照して、本発明の第2の実施形態について説明する。第1の実施形態における要素画像群生成装置20は、IP立体像表示装置30における傾き角φ
nを取得し、仮想撮影用要素レンズ26−1〜26−kの配列を傾き角φ
nだけ回転させている。第2の実施形態では、要素画像群生成装置20aは、仮想表示用要素レンズ21−1〜21−nの配列も傾き角φ
nだけ回転させる。さらに、立体像撮影装置10aは、要素レンズアレイ11の配列を傾き角φ
nだけ回転させる。
【0073】
図14は、立体像撮影装置10aの構成を示す概略ブロック図である。
図14において、
図2の各部に対応する部分には同一の符号(11〜13)を付し、説明を省略する。立体像撮影装置10aは、要素レンズアレイ11、フィールドレンズ12、要素カメラ群13、要素レンズアレイ回転部16aを含んで構成される。要素レンズアレイ回転部16aは、IP立体像表示装置30から傾き角φ
nを取得し、要素レンズ11−1〜11−nの配列を傾き角φ
nだけ回転させる。
【0074】
図15は、要素画像群生成装置20aの要素画像群算出部202aの構成を示す概略ブロック図である。同図において、
図6の各部に対応する部分には同一の符号(21〜28)を付し、説明を省略する。なお、要素画像群生成装置20aは、
図5の要素画像群生成装置20とは、要素画像群算出部202に変えて要素画像群算出部202aを有する点のみが異なる。
【0075】
要素画像群算出部202aは、仮想要素表示装置群23、仮想フィールドレンズ22、仮想表示用要素レンズアレイ21、仮想撮影用要素レンズアレイ26、仮想撮像素子27、仮想撮影用要素レンズアレイ回転部28、仮想表示用要素レンズアレイ回転部28aを含んで構成される。仮想表示用要素レンズアレイ回転部28aは、IP立体像表示装置30から取得した傾き角φ
nだけ、仮想表示用要素レンズ21−1〜21−nの配列を回転させる。
【0076】
本実施形態でも、第1の実施形態と同様の効果が得られる。
さらに、本実施形態では、要素レンズ11−1〜11−nの配列と、仮想表示用要素レンズ21−1〜21−nの配列も傾き角φnだけ回転させる。このため、立体像撮影装置10aのサンプリング点と、要素画像群生成装置20aの仮想撮影用要素レンズ26−1〜26−kの主点とが一致する。その結果、仮想撮像素子27における画素を求める際に行う光線の内挿処理が少なくなり、より高画質な立体像を撮影できるようになる。
【0077】
[第3の実施形態]
以下、図面を参照して、本発明の第3の実施形態について説明する。第3の実施形態では、さらに、立体像撮影装置10bの要素カメラ13−1〜13−m、要素画像群生成装置20bの仮想要素表示装置23−1〜23−mの配列も傾き角φ
nだけ回転させる。
【0078】
図16は、立体像撮影装置10bの構成を示す概略ブロック図である。
図16において、
図14の各部に対応する部分には同一の符号(11〜13、16a)を付し、説明を省略する。立体像撮影装置10bは、要素レンズアレイ11、フィールドレンズ12、要素カメラ群13、要素レンズアレイ回転部16a、要素カメラ群回転部16bを含んで構成される。要素カメラ群回転部16bは、IP立体像表示装置30から傾き角φ
nを取得し、要素カメラ13−1〜13−mの配列を傾き角φ
nだけ回転させる。
【0079】
図17は、要素画像群生成装置20bの要素画像群算出部202bの構成を示す概略ブロック図である。同図において、
図15の各部に対応する部分には同一の符号(21〜28、28a)を付し、説明を省略する。なお、要素画像群生成装置20bは、
図5の要素画像群生成装置20とは、要素画像群算出部202に変えて要素画像群算出部202bを有する点のみが異なる。
【0080】
要素画像群算出部202bは、仮想要素表示装置群23、仮想フィールドレンズ22、仮想表示用要素レンズアレイ21、仮想撮影用要素レンズアレイ26、仮想撮像素子27、仮想撮影用要素レンズアレイ回転部28、仮想表示用要素レンズアレイ回転部28a、仮想要素表示装置群回転部28bを含んで構成される。仮想要素表示装置群回転部28bは、IP立体像表示装置30から取得した傾き角φ
nだけ、仮想要素表示装置23−1〜23−mの配列を回転させる。
これにより、仮想要素表示装置23−1〜23−mも、仮想表示用要素レンズアレイ21および仮想撮影用要素レンズアレイ26と同様の傾き角となるので、内挿処理を減らすことができる。
【0081】
[第4の実施形態]
以下、図面を参照して、本発明の第4の実施形態について説明する。
図18は、この発明の第4の実施形態による立体像表示システム100cの構成を示す概略ブロック図である。立体像表示システム100cは、立体像撮影装置10、IP立体像表示装置30cを含んで構成される。立体像撮影装置10は、
図1における立体像撮影装置10と同様である。IP立体像表示装置30cは、立体像撮影装置10における要素カメラ13−1〜13−mに変えて、要素表示装置13c−1〜13c−mを有する。要素表示装置13c−1〜13c−mの各々は、立体像撮影装置10の要素カメラ13−1〜13−mのうち、それぞれ対応するものが撮影した画像を表示する。
【0082】
図19は、IP立体像表示装置30cの構成を示す断面図である。
図19において、
図3の各部に対応する部分には同一の符号(11、12)を付し、説明を省略する。また、距離を示す符号(g
i、g
c、g
s、p
c、p
l、p
s)についても、同様に説明を省略する。
図19に示すように、立体像表示装置30cは、要素レンズアレイ11、フィールドレンズ12、要素表示装置13c−1〜13c−mを含んで構成される。要素表示装置13c−1〜13c−mの各々は、投射レンズ14c、表示素子15cを含んで構成される。なお、投射レンズ14c、表示素子15cは、それを含んでいる要素表示装置の符号の枝番(13c−1における1など)を付けて、投射レンズ14c−1、表示素子15c−1などと表記する。
【0083】
投射レンズ14c−1〜14c−mは、表示素子15c−1〜15c−m各々の前面に1つずつ配置されたレンズであって、
図3の撮影レンズ14−1〜14−mと同様のレンズである。表示素子15c−1〜15c−m(表示部)は、
図3の撮像素子15−1〜15−mのうち、それぞれが対応するものが撮像した画像を表示する液晶ディスプレイなどの表示素子である。
【0084】
このように、IP立体像表示装置30cは、要素カメラ13−1〜13−mに変えて、要素表示装置13c−1〜13c−mを有する以外は、立体像撮影装置10と同様の構成である。これにより、立体像撮影装置10が撮影した画像が表す、互いに重なり合うような広い画角の要素画像を、そのまま表示することができる。すなわち、視域の広い立体像を表示することができる。
【0085】
また、
図1における要素画像群生成装置20、
図15、
図17の要素画像群算出部202a、202bの機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによりこれらを実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
【0086】
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
【0087】
以上、この発明の実施形態を図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計変更等も含まれる。