(58)【調査した分野】(Int.Cl.,DB名)
インテグラルフォトグラフィ方式を用いた立体画像撮影装置が被写体を撮影した要素画像群から、前記被写体の立体像の視差範囲及び奥行き範囲を算出する奥行き範囲算出装置であって、
前記立体画像撮影装置が撮影した映像信号である要素画像群を入力し、前記要素画像群を表示する立体画像表示装置の要素光学系のピッチおよび焦点距離が同じ仮想要素光学系を2次元状に配列した仮想要素光学系群を、前記要素画像群から前記焦点距離だけ離した位置に仮想配置して、当該要素画像群の各画素の画素値を、前記仮想要素光学系群からの距離が異なる予め設定された複数の距離平面において、当該仮想要素光学系群を介した光路上の画素に割り当てることで、複数の距離平面画像を生成する距離平面画像生成手段と、
前記距離に対応付けて、前記距離平面画像生成手段で生成された距離平面ごとの距離平面画像を記憶する距離平面画像記憶手段と、
前記仮想要素光学系群を基準に予め設定された観察者位置において、奥行き方向で前記距離平面画像の全画素の画素値がゼロとなる位置を前記被写体の立体像の近点及び遠点としてそれぞれ算出し、当該近点と当該遠点との角度視差量の差分を前記視差範囲として算出する視差範囲算出手段と、
前記観察者位置と前記近点との距離、及び、前記観察者位置と前記遠点との距離をそれぞれ算出し、2つの当該距離の差分を前記奥行き範囲として算出する奥行き範囲算出手段と、
を備えることを特徴とする奥行き範囲算出装置。
前記視差範囲算出手段で算出された視差範囲が予め設定された視差範囲閾値を超えるか否かを判定し、前記視差範囲が前記視差範囲閾値を超えるときに警告する視差範囲警告手段と、
前記奥行き範囲算出手段で算出された奥行き範囲が予め設定された奥行き範囲閾値を超えるか否かを判定し、前記奥行き範囲が前記奥行き範囲閾値を超えるときに警告する奥行き範囲警告手段と、
をさらに備えることを特徴とする請求項1又は請求項2に記載の奥行き範囲算出装置。
前記視差変化量算出手段で算出された視差変化量が予め設定された視差変化量閾値を超えるか否かを判定し、前記視差変化量が前記視差変化量閾値を超えるときに警告する視差変化量警告手段と、
前記奥行き変化量算出手段で算出された奥行き変化量が予め設定された奥行き変化量閾値を超えるか否かを判定し、前記奥行き変化量が前記奥行き変化量閾値を超えるときに警告する奥行き変化量警告手段と、
をさらに備えることを特徴とする請求項3に記載の奥行き範囲算出装置。
インテグラルフォトグラフィ方式を用いた立体画像撮影装置が被写体を撮影した要素画像群から、前記被写体の立体像の視差範囲及び奥行き範囲を算出するために、距離平面画像記憶手段を備えるコンピュータを、
前記立体画像撮影装置が撮影した映像信号である要素画像群を入力し、前記要素画像群を表示する立体画像表示装置の要素光学系のピッチおよび焦点距離が同じ仮想要素光学系を2次元状に配列した仮想要素光学系群を、前記要素画像群から前記焦点距離だけ離した位置に仮想配置して、当該要素画像群の各画素の画素値を、前記仮想要素光学系群からの距離が異なる予め設定された複数の距離平面において、当該仮想要素光学系群を介した光路上の画素に割り当てることで、複数の距離平面画像を生成し、生成した当該距離平面画像を、前記距離に対応付けて、前記距離平面画像記憶手段に書き込む距離平面画像生成手段、
前記仮想要素光学系群を基準に予め設定された観察者位置において、奥行き方向で前記距離平面画像の全画素の画素値がゼロとなる位置を前記被写体の立体像の近点及び遠点としてそれぞれ算出し、当該近点と当該遠点との角度視差量の差分を前記視差範囲として算出する視差範囲算出手段、
前記観察者位置と前記近点との距離、及び、前記観察者位置と前記遠点との距離をそれぞれ算出し、2つの当該距離の差分を前記奥行き範囲として算出する奥行き範囲算出手段、
として機能させるための奥行き範囲算出プログラム。
【背景技術】
【0002】
従来から、任意の視点から自由に立体映像を視聴することが可能な立体画像表示方式の一つとして、平面状に配列された凸レンズ群あるいはピンホール群を利用したインテグラルフォトグラフィ(Integral Photography:以下IP)方式が知られている。
【0003】
以下、
図11,
図12を参照して、IP方式に基づく通常の立体画像撮影及び立体画像表示について説明する。
図11に示すように、立体画像撮影装置910は、同一平面上に凸レンズを配列したレンズ群912と、撮像板913とを備える。また、
図11には、被写体911と、立体画像撮影装置910の撮影方向914と、レンズ群912によって結像される被写体911の要素画像915とを図示した。この被写体911は、撮影方向914から見た場合、円柱が角柱に対して手前になる。
【0004】
この立体画像撮影装置910は、レンズ群912を通して被写体911を撮影する。すると、撮像板913には、レンズ群912を構成する凸レンズと同じ数だけ被写体911の要素画像915が撮影される。
【0005】
図12に示すように、立体画像表示装置920は、同一平面上に凸レンズを配列したレンズ群922と、表示素子923とを備える。また、
図12には、立体像921と、観察者926の観察方向924と、要素画像925と、観察者926とを図示した。この表示素子923は、立体画像撮影装置910の撮像板913により撮影された要素画像915に対応する要素画像925を表示する。
【0006】
この結果、
図12に示すように、立体像921は、表示素子923からの距離が、
図11の被写体911と撮像板913との距離に等しくなるように生成される。このとき、被写体911に対応する立体像921は、観察方向924から見た場合、角柱が円柱の手前になる。つまり、IP方式に基づく通常の立体画像撮影では、
図11の被写体911と比較して、奥行きが反転した逆視像(立体像921)が生成される。
【0007】
なお、
図11,
図12では、光学素子アレイは、微小な凸レンズが配列されたレンズ群912であることとして説明したが、微小なピンホールが配列された開口アレイ(空間フィルタ)であってもよい。
また、表示素子923は、撮影板113により撮影された要素画像925を表示することとして説明したが、計算機(不図示)で生成された像を表示してもよい。
【0008】
そこで、前記した逆視像の間題を解決するための発明が提案されている(例えば、特許文献1)。この特許文献1に記載の発明は、
図11の立体画像撮影装置910で取得した情報に対して演算処理を行い、演算処理後の情報を
図12の立体画像表示装置920に入力し、最終的に正しい奥行きの立体像921を生成するものである。
【0009】
以下、
図13,
図14を参照して、特許文献1に記載の画像奥行き変換装置930について説明する。
図13に示すように、画像奥行き変換装置930は、
図11の立体画像撮影装置910で撮影した要素画像931を入力し、この要素画像931が第1の仮想レンズアレイ932を通じて仮想的に形成された立体像933を、演算処理により求める。そして、画像奥行き変換装置930は、この立体像933が第2の仮想レンズアレイ934を通じて仮想的に形成された要素画像935を、演算処理により求める。
【0010】
図14に示すように、立体画像表示装置940は、
図12の立体画像表示装置920と同一構成であり、表示素子945を介して、
図13の画像奥行き変換装置930が生成した要素画像941(つまり、
図13の要素画像935)を表示する。この結果、要素画像941に対応する立体像943は、観察方向944から見た場合、円柱が角柱に対して手前になり、
図11の被写体911と対比して、奥行きが等価になる。
【発明の概要】
【発明が解決しようとする課題】
【0012】
しかし、従来技術では、立体表示装置で実際に立体像を表示する前に、その立体像がどの範囲まで視差及び奥行きを有するか把握できないという問題がある。つまり、観察者が立体像を見たときの奥行き範囲及び視差範囲は、その立体像を実際に表示するまで把握できない。この奥行き範囲及び視差範囲を事前に把握できれば、立体映像の効果的な演出や編集が可能になるため、その実現が強く要望されている。
【0013】
そこで、本願発明は、前記した問題を解決し、IP方式による被写体の立体像の奥行き範囲及び視差範囲を算出できる奥行き範囲算出装置及びそのプログラムを提供することを課題とする。
【課題を解決するための手段】
【0014】
前記した課題に鑑みて、本願第1発明に係る奥行き範囲算出装置は、インテグラルフォトグラフィ方式を用いた立体画像撮影装置が被写体を撮影した要素画像群から、被写体の立体像の視差範囲及び奥行き範囲を算出する奥行き範囲算出装置であって、距離平面画像生成手段と、距離平面画像記憶手段と、視差範囲算出手段と、奥行き範囲算出手段と、を備えることを特徴とする。
【0015】
かかる構成によれば、奥行き範囲算出装置は、距離平面画像生成手段によって、立体画像撮影装置が撮影した映像信号である要素画像群を入力し、立体画像表示装置の要素光学系のピッチおよび焦点距離が同じ仮想要素光学系を2次元状に配列した仮想要素光学系群を、要素画像群から焦点距離だけ離した位置に仮想配置して、要素画像群の各画素の画素値を、仮想要素光学系群からの距離が異なる予め設定された複数の距離平面において、仮想要素光学系群を介した光路上の画素に割り当てることで、複数の距離平面画像を生成する。
【0016】
また、奥行き範囲算出装置は、距離平面画像記憶手段によって、距離に対応付けて、距離平面画像生成手段で生成された距離平面ごとの距離平面画像
を記憶する。ここで、奥行き方向で積層された距離平面画像は、仮想要素光学系群から任意の距離にある複数の距離平面で構成された立体空間(三次元空間)において、被写体の立体像の三次元形状モデルを表す。
【0017】
また、奥行き範囲算出装置は、視差範囲算出手段によって、仮想要素光学系群を基準に予め設定された観察者位置において、奥行き方向で距離平面画像の全画素の画素値がゼロとなる位置を被写体の立体像の近点及び遠点としてそれぞれ算出し、近点と遠点との角度視差量の差分を視差範囲として算出する。
【0018】
このように、距離平面画像及び観察者位置の両方が仮想要素光学系群を基準とするから、被写体の立体像の位置と観察者位置とは、同一座標系で記述できる。このため、視差範囲算出手段は、観察者と、被写体の立体像との位置関係を同一座標系で記述して、視差範囲を算出できる。
【0019】
また、奥行き範囲算出装置は、奥行き範囲算出手段によって、観察者位置と近点との距離、及び、観察者位置と遠点との距離をそれぞれ算出し、2つの距離の差分を奥行き範囲として算出する。つまり、奥行き範囲算出手段は、視差範囲算出手段と同様、観察者と、被写体の立体像との位置関係を同一座標系で記述して、奥行き範囲を算出できる。
【0020】
また、本願第2発明に係る奥行き範囲算出装置は、距離平面画像生成手段が、入力された要素画像群を、要素画像群を表示する立体画像表示装置の要素画像の大きさに分割する分割手段と、この分割手段で分割された要素画像ごとに、要素画像の各画素の画素値を、当該画素と当該要素画像に対応する仮想要素光学系の中心とを通る直線が、仮想要素光学系群からの距離が異なる予め設定された距離平面と交わる点の画素に割り当てる画素割当手段と、この画素割当手段で距離平面に画素値が割り当てられた要素画像ごとの画像を、要素画像の数だけ加算し平均化することで、要素画像群の距離平面に対応する距離平面画像を生成する結合手段と、を備えることを特徴とする。
【0021】
かかる構成によれば、奥行き範囲算出装置は、光線追跡法により、要素画像の光線を、仮想要素光学系を介して、立体画像表示装置に備えられた表示素子を仮想した仮想表示素子から各距離平面まで到達させ、距離平面画像を正確に生成することができる。
【0022】
また、本願第3発明に係る奥行き範囲算出装置は、立体画像撮影装置が撮影した要素画像群を予め設定された遅延時間だけ遅延させて、遅延要素画像群を出力する遅延手段をさらに備え、距離平面画像生成手段が、要素画像群及び遅延手段が遅延させた遅延要素画像群から、距離平面画像を生成し、距離平面画像記憶手段が、要素画像群及び遅延要素画像群から生成された距離平面画像をそれぞれ記憶し、視差範囲算出手段が、要素画像群及び遅延要素画像群の距離平面画像から、視差範囲をそれぞれ算出し、奥行き範囲算出手段が、要素画像群及び遅延要素画像群の距離平面画像から、奥行き範囲をそれぞれ算出し、視差範囲算出手段が算出した要素画像群と遅延要素画像群との視差範囲の変化量を視差変化量として算出する視差変化量算出手段と、奥行き範囲算出手段が算出した要素画像群と遅延要素画像群との奥行き範囲の変化量を奥行き変化量として算出する奥行き変化量算出手段と、をさらに備えることを特徴とする。
【0023】
かかる構成によれば、奥行き範囲算出装置は、遅延時間内での視差範囲の変化量を示す視差変化量と、遅延時間内での奥行き範囲の変化量を示す奥行き変化量とを求めることができる。
【0024】
また、本願第4発明に係る奥行き範囲算出装置は、視差範囲算出手段で算出された視差範囲が予め設定された視差範囲閾値を超えるか否かを判定し、視差範囲が視差範囲閾値を超えるときに警告する視差範囲警告手段と、奥行き範囲算出手段で算出された奥行き範囲が予め設定された奥行き範囲閾値を超えるか否かを判定し、奥行き範囲が奥行き範囲閾値を超えるときに警告する奥行き範囲警告手段と、をさらに備えることを特徴とする。
かかる構成によれば、奥行き範囲算出装置は、視差範囲や奥行き範囲が観察者の許容限度を超えるような場合に警告できる。
【0025】
また、本願第5発明に係る奥行き範囲算出装置は、視差変化量算出手段で算出された視差変化量が予め設定された視差変化量閾値を超えるか否かを判定し、視差変化量が視差変化量閾値を超えるときに警告する視差変化量警告手段と、奥行き変化量算出手段で算出された奥行き変化量が予め設定された奥行き変化量閾値を超えるか否かを判定し、奥行き変化量が奥行き変化量閾値を超えるときに警告する奥行き変化量警告手段と、をさらに備えることを特徴とする。
かかる構成によれば、奥行き範囲算出装置は、視差範囲や奥行き範囲が観察者の許容限度を超えて変化するような場合に警告できる。
【0026】
なお、本願第1発明に係る奥行き範囲算出装置は、一般的なコンピュータが備えるCPU、メモリ、ハードディスクなどのハードウェア資源を、距離平面画像生成手段、視差範囲算出手段、奥行き範囲算出手段、として機能させるための奥行き範囲算出プログラムによって実現することもできる。このプログラムは、通信回線を介して配布してもよく、CD−ROMやフラッシュメモリ等の記録媒体に書き込んで配布してもよい。
【発明の効果】
【0027】
本願発明によれば、以下のような優れた効果を奏する。
本願第1発明によれば、奥行き方向で積層された距離平面画像が被写体の立体像の三次元形状モデルを表すと共に、距離平面画像及び観察者位置の両方が仮想要素光学系群を基準とする。これによって、本願第1発明によれば、観察者と被写体の立体像との位置関係を同一座標系で記述できるので、距離平面画像生成手段に記憶された距離平面画像から、IP方式による被写体の立体像の奥行き範囲及び視差範囲を算出することができる。
【0028】
本願第2発明によれば、各距離平面における距離平面画像を正確に生成するので、視差範囲及び奥行き範囲の精度を向上させることができる。
本願第3発明によれば、遅延時間内での視差変化量及び奥行き変化量を求められるので、立体映像の演出や編集をより効果的に行うことができる。
【0029】
本願第4発明によれば、視差範囲や奥行き範囲が観察者の許容限度を超えるような場合に警告できるので、観察者にとって見づらい立体映像が表示される事態を低減させて、立体映像の品質を向上させることができる。
本願第5発明によれば、視差範囲や奥行き範囲が観察者の許容限度を超えて変化するような場合に警告できるので、観察者にとって見づらい立体映像が表示される事態を低減させて、立体映像の品質を向上させることができる。
【発明を実施するための形態】
【0031】
以下、本願発明の各実施形態について、適宜図面を参照しながら詳細に説明する。なお、各実施形態において、同一の機能を有する手段には同一の符号を付し、説明を省略した。
【0032】
(第1実施形態)
[奥行き情報生成装置の構成]
図1を参照して、本願発明の第1実施形態に係る奥行き情報生成装置(奥行き範囲算出装置)1の構成について説明する。
奥行き情報生成装置1は、インテグラルフォトグラフィ方式を用いた立体画像撮影装置910が被写体を撮影した要素画像群から、被写体の立体像の視差範囲及び奥行き範囲を算出し、これら視差範囲及び奥行き範囲を奥行き情報として出力するものである。このため、奥行き情報生成装置1は、
図1に示すように、距離平面画像生成手段10と、体積画素分布記憶手段(距離平面画像記憶手段)20と、視差範囲算出手段30と、奥行き範囲算出手段40とを備える。
【0033】
また、奥行き情報生成装置1は、光学素子情報と、立体画像撮影装置910が撮影した要素画像群とが入力される。このとき、奥行き情報生成装置1は、立体画像撮影装置910が実際に撮影した要素画像群の代わりに、この要素画像群と等価な映像信号が計算機(不図示)で生成され、この映像信号が入力されてもよい。
この要素画像群は、立体画像表示装置(不図示)で表示した場合、奥行きが正しい立体像が生成されるものである。
【0034】
前記した立体画像表示装置は、立体映像を表示するものであり、要素光学系が2次元平面上に配列された要素光学系群を備える。
要素光学系は、例えば、凸レンズ等の要素レンズからなる要素光学素子、又は、微小開口からなる要素ピンホール(空間フィルタ)である。この場合、要素光学系群は、要素光学素子が2次元平面上に配列された要素光学素子群、又は、要素ピンホールが2次元平面上に配列された要素ピンホール群となる。そして、要素光学系群は、要素画像群から、その焦点距離だけ離れた位置に配置される。
【0035】
前記した光学素子情報は、立体画像表示装置が備える要素光学系(要素レンズ又は要素ピンホール)の特性および配置を示す情報である。
例えば、仮想要素光学系として要素レンズを仮想した場合、光学素子情報は、その要素レンズのピッチ(
図2の符号p
r)と、焦点距離と、開口幅とが予め設定されている。
また、例えば、仮想要素光学系として要素ピンホールを仮想した場合、光学素子情報は、その要素ピンホールのピッチと、開口幅とが予め設定されている。
【0036】
なお、奥行き情報生成装置1が実際に要素光学系を備える訳でなく、この立体画像表示装置に備えられた要素光学系(要素レンズ又は要素ピンホール)や要素光学系群(要素レンズ群又は要素ピンホール群)を仮想して演算する。このため、仮想要素光学系(仮想要素レンズ又は仮想要素ピンホール)、及び、仮想要素光学系群(仮想要素レンズ群又は仮想要素ピンホール群)と呼ばれる。以下、仮想要素光学系を仮想要素レンズとして説明する。
【0037】
距離平面画像生成手段10は、入力された要素画像群から、光線追跡法により、距離平面ごとの距離平面画像を算出するものである。
ここで、
図2を参照して、距離平面画像生成手段10が距離ごとに生成する距離平面画像について説明する。
【0038】
図2に示すように、距離平面画像生成手段10は、要素画像群Gの画像面に対して、立体画像表示装置における要素レンズ群と表示面までの距離d
rと同じ距離だけ仮想的に離間して配置した仮想要素レンズ群200を介して、光路追跡を行うことで、要素画像群Gの各画素の画素値を、任意の距離L
1,L
2,…,L
nごとに割り当てて、平面画像(距離平面画像)t
1,t
2,…,t
nを生成する。
【0039】
ここで、距離L
1,L
2,…,L
nは、予め定めた複数の距離であって、その数および間隔は任意に定めることができる。また、距離平面は、距離L
1,L
2,…,L
nが異なるように設定された仮想要素レンズ群200に平行な平面である。なお、距離平面を多く設定すれば、それだけ歪み補正の効果を高めることができるが、演算量は増加する。そこで、距離平面の数および間隔は、要素画像群Gの画素数等に応じて定めることが好ましい。
【0040】
距離平面画像生成手段10は、
図2に示すように、ある要素画像の画素gから、対応する仮想要素レンズ(仮想的な開口〔仮想ピンホール〕)200
Lの中心を通る直線が任意の距離の平面と交わる座標上の画素に、画素gの画素値を割り当てる。すなわち、距離平面画像生成手段10は、要素画像の画素gの画素値を、平面画像t
1,…,t
nとの交点の画素g
1,…,g
nの画素値とする。
これによって、
図2に示すように、ある要素画像の画像領域k
rの画素の画素値は、対応する仮想要素レンズ200
Lを介して拡がり(w
1,…,w
n)を持って距離平面に割り当てられる。例えば、要素画像の画像領域k
rが距離L
1の距離平面において拡がる範囲w
1は、以下の式(1)で表される。
【0042】
また、仮想要素レンズ群200から最も離れた距離L
nに到達する要素画像の画像領域k
rの範囲w
nについても、式(1)と同様に求めることができる。
すなわち、距離平面画像生成手段10が生成する立体を構成する平面画像(体積画素分布)は、奥行き方向であるz方向においては、仮想要素レンズ群200に最も近い距離L
1から、仮想要素レンズ群200から最も遠い距離L
nの範囲に生成され、xy方向においては、仮想要素レンズ群200から最も遠い距離L
nにおいて要素画像群の画素値が割り当てられる最大の拡がり範囲、すなわち、要素画像群の大きさよりも上下左右にそれぞれw
n/2分だけ大きい範囲に生成される。
【0043】
図3を参照して、距離平面画像tについて説明する。
図3では、x軸を水平方向とし、y軸を垂直方向とし、z軸を奥行き方向とする。そして、円筒体及び三角錐体の2物体を被写体とし、これら円筒体及び三角錐体の底面をz軸に向けて撮影した場合を考える。この場合、距離平面画像tにおいて、画素値がゼロを超える画素分布範囲は、z軸から見た円筒体の立体像α及び三角錐体の立体像βを表すことになる。
なお、
図3では、距離平面画像tにおいて、画素値がゼロを超える画素分布範囲をドットで図示し、立体像αを細かいドットで図示し、立体像βを粗いドットで図示した。
【0044】
さらに、
図4を参照して、距離平面画像生成手段10の構成について説明する。
図2で説明した複数の距離平面画像からなる体積画素分布を生成するため、距離平面画像生成手段10は、分割手段11と、要素画像変換手段13と、結合手段15と、を備える。
以下の説明では、要素画像群が−M番目からM番目までの要素画像で構成され、この要素画像と対応するように、要素画像変換手段13(13
−M,…,13
0,…,13
M)が備えられることとする。
【0045】
分割手段11は、入力された光学素子情報に基づいて、立体画像撮影装置910から入力された要素画像群を、要素画像の大きさに分割するものである。ここで、分割手段11は、入力された要素画像群を、入力された光学素子情報に設定された位置情報(仮想要素レンズのピッチ)で分割する。そして、分割手段11は、分配された要素画像群のm番目の要素画像を、m番目の要素画像に予め対応付けられている要素画像変換手段13に出力する(但し、−M≦m≦M)。
【0046】
なお、分割手段11は、立体画像撮影装置と立体画像表示装置とで、要素画像の大きさ(サイズ、解像度)が異なる場合、立体画像表示装置の要素画像の大きさに合うように、ダウンコンバート、アップコンバート等の画像変換処理を行うことが好ましい。
【0047】
要素画像変換手段13は、光路追跡を行うことで、分割手段11から入力された要素画像を、予め設定された距離における平面画像に変換するものであり、画素割当手段13aを備える。
【0048】
画素割当手段13aは、要素画像の画素ごとに、当該画素から仮想要素レンズの中心を通る直線が、予め設定された距離平面と交わる座標に、当該画素の画素値を割り当てるものである。これによって、要素画像ごとの距離平面画像が生成される。その後、画素割当手段13aは、要素画像ごとの距離平面画像を、結合手段15に出力する。
【0049】
結合手段15は、要素画像変換手段13(画素割当手段13a)で生成された要素画像ごとの距離平面画像を、距離平面において要素画像群の要素画像分だけ結合するものである。すなわち、結合手段15は、予め設定された距離平面において、要素画像ごとに生成された距離平面画像の画素値を割り当てることで、要素画像群に対応した距離平面画像を生成する。
なお、結合手段15は、距離平面画像の同一の座標に異なる要素画像の画素値が割り当てられている場合、同一の座標に割り当てられた画素値を加算し平均化することで、当該座標の画素値とする。
この結合手段15は、要素画像群に対応して生成した距離平面画像を、距離に対応付けて体積画素分布記憶手段20(
図1参照)に書き込む。
【0050】
以上のように、距離平面画像生成手段10は、仮想要素レンズ群から任意の距離に設定した距離平面ごとの距離平面画像を算出し、距離平面ごとの距離平面画像を体積画素分布記憶手段20に書き込む。そして、距離平面画像生成手段10は、全ての距離平面について距離平面画像の書き込みが終了した後、奥行き情報生成命令(不図示)を視差範囲算出手段30及び奥行き範囲算出手段40に出力する。
【0051】
図1に戻り、奥行き情報生成装置1の構成について説明を続ける。
体積画素分布記憶手段20は、距離平面画像生成手段10によって書き込まれた距離平面ごとの距離平面画像を、距離に対応付けて、立体空間上の体積画素分布として記憶するメモリ、ハードディスク等の記憶装置である。
【0052】
図5を参照して、体積画素分布Vについて説明する。
この体積画素分布Vは、
図5に示すように、距離平面画像t
1,t
2,…,t
nを奥行き方向(z軸)に積層したものである(但し、nは距離平面の数)。従って、体積画素分布Vは、仮想要素レンズ群から任意の距離にある複数の距離平面で構成された立体空間において、画素を分布させた状態に相当し、立体像α、βの三次元形状モデルを表すことになる。
【0053】
図1に戻り、奥行き情報生成装置1の構成について説明を続ける。
視差範囲算出手段30は、仮想要素レンズ群を基準に予め設定された観察者位置において、奥行き方向で距離平面画像の全画素の画素値がゼロとなる位置を被写体の立体像の近点及び遠点としてそれぞれ算出し、近点と遠点との角度視差量の差分を視差範囲として算出するものである。
奥行き範囲算出手段40は、観察者位置と近点との距離、及び、観察者位置と遠点との距離をそれぞれ算出し、これら距離の差分を奥行き範囲として算出するものである。
【0054】
<視差範囲及び奥行き範囲の算出>
図6を参照して、視差範囲算出手段30による視差範囲と、奥行き範囲算出手段40による奥行き範囲の算出とを説明する。
図6では、観察者位置aは、仮想要素レンズ群に対する観察者の右目、左目の位置に予め設定されたこととする。
【0055】
また、被写体の立体像と立体空間との境界は、z軸方向で体積画素分布Vがゼロとなる境界位置、つまり、z軸方向で距離平面画像の全画素の画素値がゼロとなる位置である。そして、この被写体の立体像と立体空間との境界がそれぞれ、立体像の近点n及び立体像の遠点fとなる。具体的には、立体像の近点nは、体積画素分布Vがゼロとなる境界位置のうち、手前側(観察者位置aに近い側)の境界位置である。一方、立体像の遠点fは、体積画素分布Vがゼロとなる境界位置のうち、奥側(観察者位置aから遠い側)の境界位置である。なお、予め設定した奥行き方向の範囲の中で、体積画素分布Vがゼロとなる位置が複数存在した場合、その中で最も奥側を遠点とし、最も手前側を近点とする。
【0056】
ここで、体積画素分布V及び観察者位置aの両方が仮想要素レンズ群を基準とするから、立体像α、βの位置と観察者位置aとは、同一座標系で記述できる。このため、例えば、立体像βの像点dと観察者位置aとの距離D
dが求められる。この距離D
dは、像点dの奥行きである。そして、像点dの視差は、距離D
dと、予め設定された左右両目の間隔とから、三角測量の原理により求めることができる。従って、像点dと同様、立体像の近点n,遠点fの距離D
n,距離D
fを求めれば、立体像の近点n,遠点fにおける視差範囲及び奥行き範囲を算出することができる。
【0057】
まず、視差範囲算出手段30は、被写体の立体像と立体空間との境界により、立体像の近点nと、立体像の遠点fとを算出する。また、視差範囲算出手段30は、距離平面画像生成手段10から奥行き情報生成命令が入力されると、体積画素分布記憶手段20に記憶された体積画素分布Vを読み出す。また、視差範囲算出手段30は、観察者位置aと立体像の近点nとの距離D
nを算出し、観察者位置aと立体像の遠点fとの距離D
fを算出する。そして、視差範囲算出手段30は、立体像の近点nでの角度視差量θ
nと、立体像の遠点fでの角度視差量θ
fとを算出する。さらに、視差範囲算出手段30は、これら角度視差量θ
n,θ
fの差分(θ
n−θ
f)を視差範囲として算出し、奥行き範囲算出手段40に出力する。
【0058】
次に、奥行き範囲算出手段40は、被写体の立体像と立体空間との境界により、立体像の近点nと、立体像の遠点fとを算出する。また、奥行き範囲算出手段40は、距離平面画像生成手段10から奥行き情報生成命令が入力されると、体積画素分布記憶手段20に記憶された体積画素分布Vを読み出す。また、奥行き範囲算出手段40は、観察者位置aと立体像の近点nとの距離D
nを算出し、観察者位置aと立体像の遠点fとの距離D
fを算出する。そして、奥行き範囲算出手段40は、距離D
f,D
nの差分(D
f−D
n)を奥行き範囲として算出する。その後、奥行き範囲算出手段40は、算出した奥行き範囲と、視差範囲算出手段30から入力された視差範囲とを、奥行き情報として出力する。
なお、観察者位置は、体積画素分布(立体空間)の内外に関わらず、任意の位置に設定できる。
【0059】
[奥行き情報生成装置の動作]
図7を参照して、
図1の奥行き情報生成装置1の動作について説明する(適宜
図1参照)。
奥行き情報生成装置1は、距離平面画像生成手段10によって、入力された要素画像群から、仮想要素レンズ群を介して、光線追跡法により、距離平面ごとの画素分布である距離平面画像を算出する(ステップS1)。
【0060】
奥行き情報生成装置1は、距離平面画像生成手段10によって、距離平面ごとの距離平面画像を、立体空間上の体積画素分布として、体積画素分布記憶手段20に書き込む(ステップS2)。
奥行き情報生成装置1は、視差範囲算出手段30によって、観察者位置において、被写体の立体像の近点と遠点との角度視差量の差分を視差範囲として算出する(ステップS3)。
奥行き情報生成装置1は、奥行き範囲算出手段40によって、観察者位置と被写体の立体像の近点との距離、及び、観察者位置と被写体の立体像の遠点との距離をそれぞれ算出し、これら距離の差分を奥行き範囲として算出する(ステップS4)。
【0061】
以上のように、本願発明の第1実施形態に係る奥行き情報生成装置1は、波動光学演算により、各距離平面における距離平面画像を正確に生成し、この距離平面画像を奥行き方向に積層した体積画素分布を記憶する。そして、奥行き情報生成装置1は、記憶された体積画素分布から、観察者が被写体の立体像を見た場合の視差範囲及び奥行き範囲を、実際に立体表示装置で立体像を表示する前に、高い精度で算出することができる。
【0062】
(第2実施形態)
図8を参照して、本願発明の第2実施形態に係る奥行き情報生成装置1Bの構成について、第1実施形態と異なる点を説明する。
この奥行き情報生成装置1Bは、算出した視差範囲及び奥行き範囲が所定の閾値を超えた場合に警告する点が、第1実施形態と異なる。
【0063】
このため、
図8に示すように、奥行き情報生成装置1Bは、距離平面画像生成手段10と、体積画素分布記憶手段20と、視差範囲算出手段30と、奥行き範囲算出手段40と、視差範囲警告手段50と、奥行き範囲警告手段60とを備える。
【0064】
この距離平面画像生成手段10及び体積画素分布記憶手段20は、
図1の各手段と同様のため、説明を省略する。
また、視差範囲算出手段30が視差範囲を視差範囲警告手段50に出力し、奥行き範囲算出手段40が奥行き範囲を奥行き範囲警告手段60に出力する以外、
図1の各手段と同様のため、説明を省略する。
【0065】
視差範囲警告手段50は、視差範囲算出手段30から入力された視差範囲が視差範囲閾値を超えるか否かを判定し、視差範囲が視差範囲閾値を超えるときに警告するものである。ここで、視差範囲警告手段50は、警告方法が特に制限されず、視差範囲の警告メッセージを映像信号に付加してもよい。また、視差範囲警告手段50は、この警告メッセージを予め設定されたメールアドレスに送信してもよく、所定の警告音を鳴らしてもよい。
この視差範囲閾値は、例えば、視差範囲が観察者の許容限度を超えたことを示すような、任意の値で予め設定される。
【0066】
奥行き範囲警告手段60は、奥行き範囲算出手段40から入力された奥行き範囲が奥行き範囲閾値を超えるか否かを判定し、奥行き範囲が奥行き範囲閾値を超えるときに警告するものである。ここで、視差範囲警告手段50は、視差範囲警告手段50と同様の警告方法で警告する。
この奥行き範囲閾値は、例えば、奥行き範囲が観察者の許容限度を超えたことを示すような、任意の値で予め設定される。
【0067】
以上のように、本願発明の第2実施形態に係る奥行き情報生成装置1Bは、第1実施形態と同様の効果に加え、視差範囲や奥行き範囲が観察者の許容限度を超えるような場合に警告できるため、観察者にとって見づらい立体映像が表示される事態を低減させて、立体映像の品質を向上させることができる。
【0068】
(第3実施形態)
図9を参照して、本願発明の第3実施形態に係る奥行き情報生成装置1Cの構成について、第1実施形態と異なる点を説明する。
この奥行き情報生成装置1Cは、入力された要素画像群を遅延時間だけ遅延させて、この遅延時間内での視差範囲の変化量を示す視差変化量と、遅延時間内での奥行き範囲の変化量を示す奥行き変化量とを求める点が、第1実施形態と異なる。
【0069】
このため、
図9に示すように、奥行き情報生成装置1Cは、距離平面画像生成手段10
1,10
2と、体積画素分布記憶手段20
1,20
2と、視差範囲算出手段30
1,30
2と、奥行き範囲算出手段40
1,40
2と、遅延手段70と、奥行き情報記憶手段80
1,80
2と、視差変化量算出手段90と、奥行き変化量算出手段100とを備える。
【0070】
以下の説明では、立体画像撮影装置910から要素画像群が入力された時刻をT
1とし、後記する遅延手段70での遅延処理後の時刻をT
2とする。従って、遅延時間が(T
2−T
1)となり、遅延時間(T
2−T
1)だけ遅延させた要素画像群を遅延要素画像群と呼ぶ。
【0071】
この距離平面画像生成手段10
1、体積画素分布記憶手段20
1、視差範囲算出手段30
1及び奥行き範囲算出手段40
1は、時刻T
1の要素画像群を扱う以外、
図1の各手段と同様のため、説明を省略する。
また、距離平面画像生成手段10
2、体積画素分布記憶手段20
2、視差範囲算出手段30
2及び奥行き範囲算出手段40
2は、時刻T
2の遅延要素画像群を扱う以外、
図1の各手段と同様のため、説明を省略する。
【0072】
遅延手段70は、立体画像撮影装置910から入力された要素画像群を遅延時間(T
2−T
1)だけ遅延させて、遅延要素画像群を距離平面画像生成手段10
2に出力するものである。この遅延手段70は、例えば、要素画像群を記憶するフレームメモリ(不図示)と、このフレームメモリを制御する制御手段(不図示)とで構成される。
この遅延時間(T
2−T
1)は、例えば、微少時間を示すような、任意の値で予め設定される。
【0073】
奥行き情報記憶手段80
1は、奥行き範囲算出手段40
1から入力された時刻T
1の奥行き情報(視差範囲及び奥行き範囲)を記憶するメモリ、ハードディスク等の記憶装置である。
奥行き情報記憶手段80
2は、奥行き範囲算出手段40
2から入力された時刻T
2の奥行き情報(視差範囲及び奥行き範囲)を記憶するメモリ、ハードディスク等の記憶装置である。
【0074】
視差変化量算出手段90は、奥行き情報記憶手段80
1に記憶された時刻T
1の視差範囲θ
1と、奥行き情報記憶手段80
2に記憶された時刻T
2の視差範囲θ
2とを読み出して、視差範囲θ
1,θ
2の変化量を視差変化量θ
difとして算出するものである。つまり、視差変化量算出手段90は、以下の式(2)に示すように、視差範囲θ
1,θ
2の差分(θ
2−θ
1)を遅延時間(T
2−T
1)で除算することで、視差変化量θ
difを算出する。その後、視差変化量算出手段90は、この視差変化量θ
difを出力する。
θ
dif=(θ
2−θ
1)/(T
2−T
1) …式(2)
【0075】
奥行き変化量算出手段100は、奥行き情報記憶手段80
1に記憶された時刻T
1の奥行き範囲D
1と、奥行き情報記憶手段80
2に記憶された時刻T
2の奥行き範囲D
2とを読み出して、奥行き範囲D
1,D
2の変化量を奥行き変化量D
difとして算出するものである。つまり、奥行き変化量算出手段100は、以下の式(3)に示すように、奥行き範囲(D
2−D
1)の差分を遅延時間(T
2−T
1)で除算することで、奥行き変化量D
difを算出する。その後、奥行き変化量算出手段100は、この奥行き変化量D
difを出力する。
D
dif=(D
2−D
1)/(T
2−T
1) …式(3)
【0076】
以上のように、本願発明の第3実施形態に係る奥行き情報生成装置1Cは、第1実施形態と同様の効果に加え、遅延時間内での視差変化量及び奥行き変化量を求められるので、立体映像の演出や編集をより効果的に行うことができる。
【0077】
(第4実施形態)
図10を参照して、本願発明の第4実施形態に係る奥行き情報生成装置1Dの構成について、第3実施形態と異なる点を説明する。
この奥行き情報生成装置1Dは、算出した視差変化量及び奥行き変化量が所定の閾値を超えた場合に警告する点が、第3実施形態と異なる。
【0078】
このため、
図10に示すように、奥行き情報生成装置1Dは、距離平面画像生成手段10
1,10
2と、体積画素分布記憶手段20
1,20
2と、視差範囲算出手段30
1,30
2と、奥行き範囲算出手段40
1,40
2と、遅延手段70と、奥行き情報記憶手段80
1,80
2と、視差変化量算出手段90と、奥行き変化量算出手段100と、視差変化量警告手段110と、奥行き変化量警告手段120とを備える。
【0079】
この距離平面画像生成手段10
1,10
2、体積画素分布記憶手段20
1,20
2、視差範囲算出手段30
1,30
2、奥行き範囲算出手段40
1,40
2、遅延手段70、奥行き情報記憶手段80
1,80
2は、
図9の各手段と同様のため、説明を省略する。
視差変化量算出手段90が視差変化量を視差変化量警告手段110に出力し、奥行き変化量算出手段100が奥行き変化量を奥行き変化量警告手段120に出力する以外、
図9の各手段と同様のため、説明を省略する。
【0080】
視差変化量警告手段110は、視差変化量算出手段90から入力された視差変化量が視差変化量閾値を超えるか否かを判定し、視差変化量が視差変化量閾値を超えるときに警告するものである。ここで、視差変化量警告手段110は、
図8の視差範囲警告手段50と同様の警告方法で警告する。
この視差変化量閾値は、例えば、視差変化量が観察者の許容限度を超えたことを示すような、任意の値で予め設定される。
【0081】
奥行き変化量警告手段120は、奥行き変化量算出手段100から入力された奥行き変化量が奥行き変化量閾値を超えるか否かを判定し、奥行き変化量が奥行き変化量閾値を超えるときに警告するものである。ここで、奥行き変化量警告手段120は、
図8の視差範囲警告手段50と同様の警告方法で警告する。
この奥行き変化量閾値は、例えば、奥行き変化量が観察者の許容限度を超えたことを示すような、任意の値で予め設定される。
【0082】
以上のように、本願発明の第4実施形態に係る奥行き情報生成装置1Dは、第3実施形態と同様の効果に加え、視差範囲や奥行き範囲が観察者の許容限度を超えて変化するような場合に警告できるので、観察者にとって見づらい立体映像が表示される事態を低減させて、立体映像の品質を向上させることができる。
【0083】
なお、各実施形態では、体積画素分布を用いて、視差範囲、奥行き範囲、視差変化量及び奥行き変化量を算出することとしたが、本願発明は、これに限定されない。例えば、本願発明は、体積画素分布から、視差の分布、特定の被写体に対する立体映像の奥行きの時間変化、複数の時刻における視差変化量や奥行き変化量を算出してもよい。