(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-07-12
(45)【発行日】2023-07-21
(54)【発明の名称】位置ずれ補正量算出装置及びそのプログラム
(51)【国際特許分類】
H04N 13/327 20180101AFI20230713BHJP
G09F 9/00 20060101ALI20230713BHJP
G02B 30/27 20200101ALI20230713BHJP
H04N 13/307 20180101ALI20230713BHJP
H04N 13/324 20180101ALI20230713BHJP
【FI】
H04N13/327
G09F9/00 313
G09F9/00 352
G09F9/00 361
G02B30/27
H04N13/307
H04N13/324
(21)【出願番号】P 2019059700
(22)【出願日】2019-03-27
【審査請求日】2022-02-09
(73)【特許権者】
【識別番号】000004352
【氏名又は名称】日本放送協会
(74)【代理人】
【識別番号】110001807
【氏名又は名称】弁理士法人磯野国際特許商標事務所
(72)【発明者】
【氏名】日浦 人誌
(72)【発明者】
【氏名】久富 健介
(72)【発明者】
【氏名】洗井 淳
【審査官】佐野 潤一
(56)【参考文献】
【文献】特開2004-336239(JP,A)
【文献】特開2012-230142(JP,A)
【文献】特開2005-110010(JP,A)
【文献】特開2018-088595(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 13/00
G09F 9/00
G02B 30/00
G03B 35/00
G09G 5/00
(57)【特許請求の範囲】
【請求項1】
要素画像が配列された要素画像群を表示するディスプレイと、要素レンズが2次元状に配列されたレンズアレイとを備える立体映像表示装置の位置ずれ補正量を算出する位置ずれ補正量算出装置であって、
単色要素画像が配列された単色要素画像群を、前記単色要素画像のサイズが縮小されるように前記ディスプレイに表示する表示手段と、
前記ディスプレイで再生される前記単色要素画像群を撮影した撮像画像が撮像カメラから入力され、入力された前記撮像画像の画像中心に最も近い第1単色要素画像領域を検出し、検出した前記第1単色要素画像領域の中心座標を算出する第1中心座標算出手段と、
前記第1単色要素画像領域の中心座標と予め設定した前記ディスプレイの中心座標との位置ずれ量を算出する位置ずれ量算出手段と、
前記要素画像群の位置補正量を算出する位置補正量算出手段と、
前記第1単色要素画像領域に隣接する第2単色要素画像領域の中心座標を算出する第2中心座標算出手段と、
前記第1単色要素画像領域
の中心座標と前記第2単色要素画像領域
の中心座標との間隔が最長になるように、前記要素画像群の角度補正量を算出する角度補正量算出手段と、
を備え、
前記位置補正量算出手段は、前記要素レンズの焦点距離と前記ディスプレイから前記撮像カメラまでの距離との比を前記位置ずれ量に乗算することで、前記要素画像群の位置補正量を算出することを特徴とする位置ずれ補正量算出装置。
【請求項2】
前記単色要素画像のサイズが予め設定された基準サイズ以下であるか否かを判定するサイズ判定手段、をさらに備え、
前記単色要素画像のサイズが前記基準サイズ以下になるまで、
前記表示手段が、前記単色要素画像群を前記ディスプレイに表示し、
前記第1中心座標算出手段が、前記第1単色要素画像領域の中心座標を算出し、
前記位置ずれ量算出手段が、前記位置ずれ量を算出し、
前記位置補正量算出手段が、前記要素画像群の位置補正量を算出し、
前記第2中心座標算出手段が、前記第2単色要素画像領域の中心座標を算出し、
前記角度補正量算出手段が、前記要素画像群の角度補正量を算出することを特徴とする請求項
1に記載の位置ずれ補正量算出装置。
【請求項3】
前記撮像画像の全面が単色で表示されるように、前記要素画像の間隔補正量を算出する間隔補正量算出手段、
をさらに備えることを特徴とする請求項1
又は請求項
2に記載の位置ずれ補正量算出装置。
【請求項4】
前記位置補正量、前記角度補正量及び前記間隔補正量に基づいて、前記要素画像群を補正する要素画像群補正手段、
をさらに備えることを特徴とする請求項
3に記載の位置ずれ補正量算出装置。
【請求項5】
コンピュータを、請求項1から請求項
4の何れか一項に記載の位置ずれ補正量算出装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、立体映像表示装置の位置ずれ補正量を算出する位置ずれ補正量算出装置及びそのプログラムに関する。
【背景技術】
【0002】
従来のインテグラルフォトグラフィ(IP:Integral Photography)方式では、1台のカメラで複数の微小レンズが配列されたレンズアレイを通して被写体を撮像する。このとき、カメラがレンズアレイの焦平面を撮像するため、レンズアレイを構成する各微小レンズは、微小なカメラと同じ働きをする。その結果、レンズアレイ越しに被写体を撮像した画像は、微小レンズの位置に応じた微小画像(要素画像)が並んだ要素画像群となる。この要素画像群は、被写体からの光線情報を記録した画像であり、記録できる光線数がカメラの解像度に依存する。
【0003】
IP立体映像の解像度は、ディスプレイの画素間隔に依存する。従って、IP方式では、画素間隔が狭いほど高画質な立体映像を表示することが可能になる。その一方、画素が細かくなるにつれて、レンズアレイとディスプレイとの位置合せに高い精度が要求されることになる。
【0004】
光学系の幾何学歪みは、レンズアレイとディスプレイとの位置ずれの原因の一つである。このことから、再生立体映像の劣化は、幾何学歪みに起因して大きくなる。そこで、IP方式においても、立体撮像装置の位置ずれを補正する発明が提案されている(特許文献1)。この特許文献1に記載の発明は、各要素レンズの位置を検出して、立体撮像装置で撮像された要素画像群の表示位置を、レンズアレイの要素レンズの位置に合わせて補正するものである。
【0005】
前記した特許文献1に記載の発明は、直視型のディスプレイに適用できる。ディスプレイでは歪みが生じにくいため、レンズアレイの配列誤差に応じて要素画像群の表示位置を補正することになる。すなわち、レンズアレイとディスプレイを接合した立体表示装置を一旦製造すると、レンズアレイとディスプレイとの位置合せを再度行うのは極めて困難である。そこで、レンズアレイとディスプレイとの位置ずれを打ち消すように、要素画像群の表示位置を補正する。
【先行技術文献】
【特許文献】
【0006】
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかし、レンズアレイは、ディスプレイと異なり、熱によって物理的に伸縮することがあり、その伸縮が原因となり、レンズアレイが所定の位置からずれることがある。さらに、ディスプレイに対してレンズアレイが回転した状態で接合された場合も、レンズアレイが所定の位置からずれてしまう。
【0008】
レンズアレイに伸縮がある状態で、中心の要素画像と中心の要素レンズとの位置が一致している場合を考える。この場合、中心から離れる程、要素レンズと要素画像との位置ずれ量が大きくなる。さらに、レンズアレイがディスプレイに対して回転していることもある。このように、ディスプレイとレンズアレイとの位置ずれ量が一定でなく、レンズアレイを介してディスプレイを観察するので、位置ずれを高精度で補正するのが困難という問題がある。
【0009】
そこで、本発明は、位置ずれ補正量を高精度に算出できる位置ずれ補正量算出装置及びそのプログラムを提供することを課題とする。
【課題を解決するための手段】
【0010】
前記した課題に鑑みて、本発明に係る位置ずれ補正量算出装置は、要素画像が配列された要素画像群を表示するディスプレイと、要素レンズが2次元状に配列されたレンズアレイとを備える立体映像表示装置の位置ずれ補正量を算出する位置ずれ補正量算出装置であって、表示手段と、第1中心座標算出手段と、位置ずれ量算出手段と、位置補正量算出手段と、第2中心座標算出手段と、角度補正量算出手段とを備える構成とした。
【0011】
かかる位置ずれ補正量算出装置によれば、表示手段は、単色要素画像が配列された単色要素画像群を、単色要素画像のサイズが縮小されるようにディスプレイに表示する。このように、単色要素画像のサイズを縮小すると、撮像画像上では、ディスプレイと単色要素画像との位置ずれが識別しやすくなる。
【0012】
第1中心座標算出手段は、ディスプレイで再生される単色要素画像群を撮影した撮像画像が撮像カメラから入力され、入力された撮像画像の画像中心に最も近い第1単色要素画像領域を検出し、検出した第1単色要素画像領域の中心座標を算出する。
位置ずれ量算出手段は、第1単色要素画像領域の中心座標と予め設定したディスプレイの中心座標との位置ずれ量を算出する。
位置補正量算出手段は、要素画像群の位置補正量を算出する。
第2中心座標算出手段は、第1単色要素画像領域に隣接する第2単色要素画像領域の中心座標を算出する。
【0013】
ここで、単色要素画像群の回転が大きくなる程、撮像画像上では、第1単色要素画像領域と第2単色要素画像領域との間隔が短くなる。そこで、角度補正量算出手段は、第1単色要素画像領域と第2単色要素画像領域との間隔が最長になるように、要素画像群の角度補正量を算出する。
【0014】
位置補正量算出手段は、要素レンズの焦点距離とディスプレイから撮像カメラまでの距離との比を前記位置ずれ量に乗算することで、要素画像群の位置補正量を算出する。
ここで、単色要素画像群の回転が大きくなる程、撮像画像上では、第1単色要素画像領域と第2単色要素画像領域との間隔が短くなる。そこで、角度補正量算出手段は、第1単色要素画像領域の中心座標と第2単色要素画像領域の中心座標との間隔が最長になるように、要素画像群の角度補正量を算出する。
【発明の効果】
【0015】
本発明によれば、単色要素画像のサイズを縮小することで、ディスプレイと単色要素画像との中心位置のずれが識別しやすくなり、位置ずれ補正量を高精度に算出することができる。この位置ずれ補正量を用いれば、レンズアレイが伸縮する場合でも、ディスプレイとレンズアレイとの位置ずれを高い精度で補正可能となり、IP立体映像の画質を向上させることができる。
【図面の簡単な説明】
【0016】
【
図1】(a)は従来のIP立体映像表示装置の各構成を説明する説明図であり、(b)は従来のIP立体映像表示装置の概略構成図である。
【
図2】実施形態において、(a)は要素画像群を説明する説明図であり、(b)はレンズアレイを説明する説明図である。
【
図3】実施形態において、白色要素画像群を説明する説明図であり、(a)は白色要素画像のサイズが100%であり、(b)は白色要素画像のサイズが50%である。
【
図4】実施形態において、観察距離を説明する説明図である。
【
図5】実施形態において、白色要素画像群の表示範囲を説明する説明図であり、(a)は白色要素画像のサイズが100%であり、(b)は白色要素画像のサイズが50%である。
【
図6】実施形態において、
図5(a)の白色要素画像群を表示したときの円形領域を説明する説明図であり、(a)はレンズアレイを介さずに表示した場合であり、(b)はレンズアレイを介して表示した場合である。
【
図7】実施形態において、
図5(b)の白色要素画像群を表示したときの円形領域を説明する説明図であり、(a)はレンズアレイを介さずに表示した場合であり、(b)はレンズアレイを介して表示した場合である。
【
図8】実施形態において、白色要素画像群の表示範囲を説明する説明図であり、(a)は白色要素画像のサイズが100%で間隔がそのままであり、(b)は白色要素画像の間隔が長くなっている。
【
図9】実施形態において、白色要素画像群の表示範囲を説明する説明図であり、(a)は白色要素画像のサイズが50%で間隔がそのままであり、(b)は白色要素画像の間隔が長くなっている。
【
図10】実施形態において、白色要素画像群の回転を説明する説明図であり、(a)は白色要素画像群が回転しておらず、(b)は白色要素画像群が回転している。
【
図11】実施形態に係る補正装置の構成を示すブロック図である。
【
図12】実施形態において、位置ずれ量の算出を説明する説明図である。
【
図13】実施形態において、隣接する円形領域の中心座標の算出を説明する説明図である。
【
図14】実施形態に係る補正装置の動作を示すフローチャートである。
【発明を実施するための形態】
【0017】
(実施形態)
以下、本発明の実施形態について、適宜図面を参照しながら詳細に説明する。
まず、位置ずれの調整対象となるIP立体映像表示装置(立体映像表示装置)の構成、及び、位置ずれ補正の原理を説明した後、本実施形態に係るIP立体映像調整システムの構成を説明する。
【0018】
[IP立体映像表示装置の構成]
図1及び
図2を参照し、従来のIP立体映像表示装置について説明する。
IP立体映像表示装置10は、IP立体映像(要素画像群)を表示するものであり、
図1(a)及び(b)に示すように、ディスプレイ11と、アクリル板12と、レンズアレイ13とを備える。
【0019】
ディスプレイ11は、
図2(a)に示すように、複数の要素画像eで構成された要素画像群Eを表示する表示素子である。例えば、ディスプレイ11としては、液晶ディスプレイ、有機EL(Electro Luminescence)ディスプレイ等のFPD(Flat Panel Display)があげられる。
【0020】
アクリル板12は、後記するレンズアレイ13を構成する各要素レンズ14の主点位置とディスプレイ11の表示面までの距離とが、各要素レンズ14の焦点距離に一致するように調整するものである。つまり、アクリル板12は、レンズアレイ13からディスプレイ11までの距離を、要素レンズ14の焦点距離に保つ焦点距離調整部材である。
なお、アクリル板12のような焦点距離調整部材は、IP立体映像表示装置10に必須の構成要素ではない。
【0021】
レンズアレイ13は、2次元状に配列された要素レンズ14を備えるものである。このレンズアレイ13では、要素レンズ14の配列が任意であり、ベイヤー配列又は水平垂直に要素レンズ14が配列されている。つまり、要素レンズ14及び要素画像eが互いに対応する。
図2(b)に示すように、要素レンズ14がベイヤー配列の場合、
図2(a)に示すように、要素レンズ14に対応する要素画像eもベイヤー配列となる。このように、要素画像群Eは、要素レンズ14と同一位置及び同一サイズの要素画像eが配列されている。
【0022】
ここで、IP立体映像表示装置10は、製造時、ディスプレイ11とレンズアレイ13との位置が調整されている。つまり、IP立体映像表示装置10は、レンズアレイ13の伸縮や配列誤差を除いて、機械的な誤差の範囲内の精度で位置が調整されている。
【0023】
[位置ずれ補正の原理:要素画像のサイズ及び間隔]
図3~
図9を参照し、要素画像のサイズ及び間隔による位置ずれ補正の原理について説明する。
位置ずれを補正するため、
図3(a)に示すように、白色要素画像e
wが配列された白色要素画像群E
wを用いる。この白色要素画像e
wとは、全画素が白色の要素画像eのことである。正方形の白色要素画像e
wが碁盤の目のように規則正しく並んでいる場合、白色要素画像e
wの隙間となる黒色領域(ドットで図示)が小さくなる。ここで、
図3(a)の白色要素画像e
wの間隔をそのままとし、白色要素画像e
wのサイズ(直径)を50%まで小さくすると、
図3(b)に示すように、白色要素画像e
wの隙間(黒色領域)が大きくなる。なお、白色要素画像e
wの間隔とは、ある白色要素画像e
wの中心位置から隣接する他の白色要素画像e
wの中心位置までの距離のことである。
【0024】
ここで、IP立体映像表示装置10が表示する白色要素画像群Ewを観察する場合を考える。観察距離が無限遠の場合、各要素レンズ14の主点位置に対応するディスプレイ11の画素を観察することになる。このとき、レンズアレイ13のレンズ間隔とレンズアレイ13によって選択される要素画像群の要素画像間隔とが等しくなる。
【0025】
次に、
図4を参照し、観察距離について説明する。
図4では、X軸が水平方向を表し、Y軸が垂直方向を表し、Z軸が奥行方向を表す。Y軸方向において、要素レンズ14が出射する光の角度θhは、要素レンズ14の焦点距離Lfと白色要素画像e
wの高さLhとから、以下の式(1)で算出できる。また、X軸方向においても、要素レンズ14が出射する光の角度θwは、要素レンズ14の焦点距離Lfと白色要素画像e
wの幅Lwとから、Y軸方向と同様に算出できる(不図示)。
θh=2×tan
-1{Lh/(2×Lf)}
θw=2×tan
-1{Lw/(2×Lf)} …式(1)
【0026】
図4では、レンズアレイ13の中心に位置する要素レンズ14
Cから、Y軸方向で最端に位置する要素レンズ14
Yまでの距離をLenHとする。また、レンズアレイ13のレンズ面(レンズアレイ面)から、上下2つの要素レンズ14
Yが出射した光が交わる位置までの距離をLenZhとする。また、要素レンズ14
Cから、X軸方向で最端に位置する要素レンズ14
Xまでの距離をLenWとする(不図示)。また、レンズアレイ面から、左右2つの要素レンズ14
Xが出射した光が交わる位置までの距離をLenZwとする(不図示)。
【0027】
Y軸方向において、距離LenZhは、要素レンズ14の焦点距離Lfと、距離LenHと、白色要素画像ewの高さLhとから、以下の式(2)で算出できる。また、X軸方向においても、距離LenZwは、要素レンズ14の焦点距離Lfと、距離LenWと、白色要素画像ewの幅Lwとから、Y軸方向と同様に算出できる(不図示)。以後、説明を簡単にするために、距離LenZwと距離LenZhとが等しいこととし、距離LenZと表記する。
LenZh=Lf×{LenH/(Lh/2)}
LenZw=Lf×{LenW/(Lw/2)} …式(2)
【0028】
以上より、要素レンズ14の間隔と白色要素画像ewの間隔とが等しい場合、観察距離が距離LenZ以上でないと、各要素レンズ14が対応する要素画像を拡大表示できない。言い換えるなら、白色要素画像ewの間隔を要素レンズ14の間隔以上にすれば、要素画像を拡大表示できる。すなわち、要素画像群の間隔に応じて、最適な観察距離が異なることを意味する。
【0029】
観察距離が距離LenZ未満の場合、または、要素レンズ14の間隔に誤差がある場合、再生される立体像について考える。この場合、
図5(a)に示すように、白色要素画像群E
wの全領域が対応する要素レンズ14では再生されずに、白色要素画像群E
wの一部が異なる要素レンズ14で再生領域PE
wが再生される。つまり、IP立体映像表示装置10の観察者は、円形領域pe
wが含まれる再生領域PE
wを立体映像として観察することになる。この円形領域pe
wは、白色要素画像群E
wのうち、対応する要素レンズ14で再生された白色要素画像e
wが拡大されたものである。
【0030】
以後の説明では、
図5(a)の白色要素画像e
wのサイズ及び間隔を基準とする(サイズが100%)とする。ここで、白色要素画像e
wの間隔がそのままで、白色要素画像e
wのサイズを50%に縮小した場合を考える。この場合、
図5(b)に示すように、再生領域PE
wにおいて、円形領域pe
wの中心位置は変わらないが、円形領域pe
wのサイズが小さくなり、円形領域pe
wの隙間(ドットで図示)が大きくなる。
【0031】
図5では説明を簡易にするためにレンズアレイ13を考慮せずに図示したが、実際には円形領域pe
wがレンズアレイ13の影響を受ける。
図6(a)は、レンズアレイ13を備えていないディスプレイに
図5(a)の白色要素画像群E
wを表示したものである。また、
図6(b)は、レンズアレイ13を備えるIP立体映像表示装置10に
図5(a)の白色要素画像群E
wを表示したものである。
図6(a)の白色要素画像群E
wがレンズアレイ13で拡大され、
図6(b)に示すように、複数の要素レンズ14で表示される1つの円形領域pe
wとなる。
図7(a)は、レンズアレイ13を備えていないディスプレイに
図5(b)の白色要素画像群E
wを表示したものである。また、
図7(b)は、レンズアレイ13を備えるIP立体映像表示装置10に
図5(b)の白色要素画像群E
wを表示したものである。白色要素画像e
wのサイズが小さいので、
図7(b)に示すように、円形領域pe
wの周囲にある黒色領域が大きくなる。
なお、要素レンズ14の直径が小さくなり、要素レンズ14の個数が多くなる程、円形領域pe
wの形状が円形に近くなる。
【0032】
白色要素画像e
wのサイズ及び間隔を少し長くした場合、
図8(a)に示すように、円形領域pe
wの上下が再生領域PE
wからはみだしている。さらに、白色要素画像e
wのサイズが100%のままで、白色要素画像e
wの間隔をさらに長くした場合を考える。この場合、白色要素画像e
wの間隔を長くすることで、対応する要素レンズ14が多くなるため、円形領域pe
wのサイズが大きくなる。その結果、
図8(b)に示すように、円形領域pe
wのサイズが大きくなり、円形領域pe
wの左右も再生領域PE
wからはみだすようになる。ここで、白色要素画像e
wの間隔を長くし続けると、ある間隔からは円形領域pe
wのサイズが小さくなる。この円形領域pe
wのサイズが最大になるときの間隔が、白色要素画像e
wの最適な間隔である。
なお、白色要素画像e
wの間隔が長いとは、理想的な白色要素画像e
wの間隔を基準として、その間隔が長いことを意味する。
【0033】
白色要素画像e
wのサイズを50%に縮小した場合、
図9(a)に示すように、円形領域pe
wの上下左右が再生領域PE
wに収まる。さらに、白色要素画像e
wのサイズが50%のままで、白色要素画像e
wの間隔を長くした場合を考える。この場合、
図9(b)に示すように、円形領域pe
wのサイズが大きくなる。
【0034】
白色要素画像e
wのサイズが100%の場合と(
図8)、白色要素画像e
wのサイズを50%に縮小した場合とを比較する(
図9)。
図9に示すように、再生領域PE
wにおいて、円形領域pe
wの全体が再生領域PE
wに収まるので、
図8に比べて、円形領域pe
wの中心位置のずれがわかりやすくなる。すなわち、白色要素画像e
wのサイズを縮小した方が、中心位置のずれが識別しやすくなる。
【0035】
以下、白色要素画像ewの間隔について、さらに検討する。
観察距離L1において、白色要素画像ewの最適な間隔をP1とする。この最適な間隔P1が未知のため、レンズアレイ13の設計上の理論値(要素レンズ14の間隔)を白色要素画像ewの間隔として利用する。例えば、白色要素画像ewの間隔P1sが最適な間隔P1より短い状態で、白色要素画像ewのサイズを小さくした場合、白色要素画像ewの位置がずれていると、円形領域pewも上下左右に(ΔCx,ΔCy)だけ表示位置がずれてしまう。
【0036】
そこで、円形領域pewの中心座標がレンズアレイ13の中心座標と一致するように白色要素画像の位置を(ΔEIx,ΔEIy)だけずらす。このとき、白色要素画像ewのサイズが大き過ぎると、円形領域pewがレンズアレイ13よりも大きくなり、円形領域pewの中心座標が識別しにくくなる。また、白色要素画像ewのサイズが小さ過ぎても、円形領域pewの中心座標が識別しにくくなる。
【0037】
そこでまず、(1)白色要素画像ewの間隔を長くしていく。次に、(2)円形領域pewがレンズアレイ13よりも大きくなった場合、白色要素画像ewのサイズを小さくする。最終的には、白色要素画像ewのサイズが十分小さくなるまで(例えば、縦2画素×横2画素)、前記(1)と(2)の処理を繰り返す。その結果、レンズアレイ13の全面が再生領域になり(つまり、レンズアレイ13の全面が白色になり)、白色要素画像ewの間隔誤差が無くなり、観察距離L1における白色要素画像ewの最適な間隔P1が求まる。
【0038】
以下、前提条件としての要素画像群の間隔P1sについて補足する。
ここで、白色要素画像ewが最適な間隔P1の場合において、白色要素画像ewのサイズをR1とする。白色要素画像ewが間隔P1sの場合において、白色要素画像ewのサイズをR1sとする。レンズアレイ13において、水平方向の要素レンズ14のレンズ数をNxとする。説明を簡易にするため、ディスプレイ11とレンズアレイ13との幅が等しく、要素レンズ14のレンズ数Nxが整数であるとする。
【0039】
この場合、ディスプレイ11の水平方向の画素数Pwを個数Nxで除算した値が要素レンズ14の間隔Pとなる。この要素レンズ14の間隔Pは、観察距離が無限点の場合、白色要素画像ewの最適な間隔となる。
【0040】
白色要素画像群Ewとレンズアレイ13とに位置ずれがなく、白色要素画像ewの直径R1sと白色要素画像ewの間隔P1sとが等しい場合、観察距離L1における円形領域pewの直径サイズR1hは、以下の式(3)で表される。なお、nは、円形領域pewの半径分のレンズ数を意味する。
R1h=2×n×P1s …式(3)
ただし、|(P1×n)-(P1s×n)|<=R1s/2を満たす。
【0041】
式(3)のただし書きで等号が成立する場合において、要素レンズ14の間隔P1sについて解くと、式(4)で表される。
P1s=P1-R1s/2n …式(4)
【0042】
要素レンズ14のレンズ数Nxとレンズアレイ13で水平方向のサイズに対する円形領域pewの直径サイズR1hとの比α(α=R1h/Nx)で式(4)のレンズ数nを表すと、以下の式(5)となる。
P1s=P1-R1s/(αNx)
n=α×Nx/2 …式(5)
【0043】
前記した式(5)より、再生される円形領域pewのサイズをレンズアレイ13の水平方向の比αで表すことで50%の再生サイズになるというように、白色要素画像ewの間隔を求めることができる。
【0044】
[位置ずれ補正の原理:要素画像の回転]
次に、
図10を参照し、要素画像の回転による位置ずれ補正の原理について説明する。
ここでは、白色要素画像e
wのサイズを50%に縮小したこととして説明する。また、白色要素画像群E
wが回転していないときの再生領域PE
wを
図10(a)に示し、白色要素画像群E
wが回転したときの再生領域PE
wを
図10(b)に示す。
【0045】
図10(b)に示すように、白色要素画像群E
wが回転すると、対応する要素レンズ14が少なくなるため、
図10(a)に比べ、円形領域pe
wの間隔が短くなり(D
A>D
B)、円形領域pe
wのサイズが小さくなる(R
A>R
B)。従って、再生領域PE
wに含まれる円形領域pe
wの数も多くなる。なお、
図10では、円形領域pe
wのサイズがR
A,R
Bであり、円形領域pe
wの間隔がD
A,D
Bであり、水平方向に対する白色要素画像群E
wの回転角がθである。また、回転とは、レンズアレイ面に垂直な軸を中心とした回転のことである。
【0046】
ここで、白色要素画像ewの間隔と要素レンズ14の間隔とを設計値から少しずらした場合を考える。この場合、再生領域PEwに含まれる円形領域pewの数が多くなるので、白色要素画像群Ewの回転が識別しやすくなる。そこで、白色要素画像ewの間隔を要素レンズ14の間隔より小さくすることが好ましい。
【0047】
白色要素画像群Ewが回転する程、撮像画像上では、円形領域pewの間隔が短くなる。そこで、白色要素画像ewの間隔と要素レンズ14の間隔とを少しずらし、中央の円形領域pewのサイズ(直径)が最大となるように白色要素画像群Ewの回転角θを調整することで、回転による位置ずれを補正できる。なお、円形領域pewのサイズを最大にすることは、円形領域pewの間隔を最長にするのと同意である。
【0048】
[IP立体映像表示システムの全体構成]
図11を参照し、実施形態に係るIP立体映像表示システム1の全体構成について説明する。
IP立体映像表示システム1は、IP立体映像表示装置10の位置ずれを補正し、IP立体映像を表示するものである。
図11に示すように、IP立体映像表示システム1は、IP立体映像表示装置10と、撮像カメラ20と、補正装置(位置ずれ補正量算出装置)30とを備える。
【0049】
IP立体映像表示装置10は、IP立体映像を表示するものである。位置ずれを補正する際、IP立体映像表示装置10は、後記する補正装置30から入力された白色要素画像群E
wを表示する。なお、IP立体映像表示装置10の詳細は、前記したとおりなので、これ以上の説明を省略する(
図1)。
【0050】
撮像カメラ20は、ディスプレイ11で再生される単色要素画像群の立体像(再生領域PEw)を撮影するものである。すなわち、撮像カメラ20は、レンズアレイ面に形成された再生領域PEwを撮影する。例えば、撮像カメラ20は、レンズアレイ13の中心、撮像レンズ(不図示)の主点、及び、撮像素子(不図示)の中心画素が同一軸上となるように配置されている。また、撮像カメラ20は、少なくともレンズアレイ13の全面を撮像できる画角で設定されている。そして、撮像カメラ20は、再生領域PEwの撮像画像を補正装置30に出力する。
【0051】
補正装置30は、前記した位置ずれ補正の原理により、IP立体映像表示装置10の位置ずれ補正量を算出し、その位置ずれを補正するものである。なお、補正装置30の詳細は、後記する。
【0052】
[補正装置の構成]
以下、補正装置30の構成について説明する。
図11に示すように、補正装置30は、表示手段31と、第1中心座標算出手段32と、位置ずれ量算出手段33と、位置補正量算出手段34と、第2中心座標算出手段35と、角度補正量算出手段36と、間隔補正量算出手段37と、要素画像群補正手段38と、判定手段(サイズ判定手段)39とを備える。
【0053】
補正前の白色要素画像ewのサイズ及び間隔は、設計値に対してずれている。そこで、補正装置30は、白色要素画像ewのサイズを少しずつ縮小し、白色要素画像ewの位置及び角度を調整することを繰り返す。このように、補正装置30は、位置ずれ補正の原理を利用して、位置ずれを高精度に補正する。
【0054】
表示手段31は、白色要素画像ewが配列された白色要素画像群Ewをディスプレイ11に表示するものである。本実施形態では、表示手段31は、後記する判定手段39からの指令に従って、白色要素画像ewのサイズを縮小し、白色要素画像ewの角度及び間隔を調整する。例えば、表示手段31は、白色要素画像ewを調整する際、白色要素画像ewの画素を内挿してもよい。また、表示手段31は、白色要素画像ewを回転させる場合、白色要素画像ewの画素を外挿してもよい。さらに、表示手段31は、白色要素画像群Ewを再生成してもよい。例えば、特許638845号公報に記載の手法で白色要素画像群Ewを再生成できる。
【0055】
表示手段31は、調整済み白色要素画像群EwをIP立体映像表示装置10に出力(表示)する。また、表示手段31は、後記する要素画像群補正手段38から要素画像群Eが入力された場合、そのIP立体映像表示装置10に出力する。
【0056】
第1中心座標算出手段32は、再生領域PE
wの撮像画像が撮像カメラ20から入力されるものである。そして、第1中心座標算出手段32は、
図12に示すように、撮像画像の画像中心に最も近い円形領域pe
w(第1単色要素画像領域)を検出し、検出した円形領域pe
wの中心座標pcを算出する。例えば、第1中心座標算出手段32は、撮像画像に白色領域検出処理を施して円形領域pe
wを検出し、重心法により円形領域pe
wの中心座標pcを算出する。
第1中心座標算出手段32は、撮像画像と、算出した中心座標pcとを位置ずれ量算出手段33に出力する。
【0057】
位置ずれ量算出手段33は、
図12に示すように、第1中心座標算出手段32が算出した円形領域pe
wの中心座標pcと、予め設定されたディスプレイ11の中心座標dcとの位置ずれ量を算出するものである。具体的には、位置ずれ量算出手段33は、以下の式(6)に示すように、水平方向及び垂直方向のそれぞれで、円形領域pe
wの中心座標pcとディスプレイ11の中心座標dcの差分を位置ずれ量(Δcx,Δcy)として算出する。この式(6)では、撮像カメラ20の撮像素子の画素間隔Cpと、撮像カメラ20のカメラレンズの主点から撮像素子までの距離Cfと、ディスプレイ11から撮像カメラ20までの距離Lcとを用いる。なお、ディスプレイ11の中心座標dcは、撮像カメラ20の撮像素子の中心に設定しておくこととする。
Δcx=(dcx-pcx)×Cp×(Lc/Cf)
Δcy=(dcy-pcy)×Cp×(Lc/Cf) …式(6)
【0058】
位置ずれ量算出手段33は、撮像画像と、中心座標pcと、算出した位置ずれ量(Δcx,Δcy)とを位置補正量算出手段34に出力する。
【0059】
位置補正量算出手段34は、位置ずれ量算出手段33が算出した位置ずれ量に、要素レンズ14の焦点距離Lfとディスプレイ11から撮像カメラ20までの距離Lcとの比(Lf/Lc)を乗算するものである。なお、焦点距離Lf及び距離Lcは、IP立体映像表示システム1の利用者が、操作手段を用いて手動で設定しておくこととする。
【0060】
具体的には、位置補正量算出手段34は、以下の式(7)に示すように、水平方向及び垂直方向のそれぞれで、位置ずれ量(Δcx,Δcy)に比(Lf/Lc)を乗算する。なお、式(7)では、(ΔEIx,ΔEIy)が要素画像群の位置補正量を表す。この位置補正量(Δx,Δy)をディスプレイ11の画素サイズで除算した値が、実際に白色要素画像群Ewを画像上で動かす量になる(単位は画素)。
ΔEIx=Δcx×(Lf/Lc)
ΔEIy=Δcy×(Lf/Lc) …式(7)
【0061】
位置補正量算出手段34は、撮像画像と、円形領域pewの中心座標pcと、算出した要素画像群の位置補正量(Δx,Δy)とを第2中心座標算出手段35に出力する。
【0062】
第2中心座標算出手段35は、中心の円形領域pe
wに隣接する円形領域pe
w2(第2単色要素画像領域)の中心座標を算出するものである。
図13に示すように、第2中心座標算出手段35は、撮像画像に白色領域検出処理を施して円形領域pe
w2を検出し、重心法により円形領域pe
w2の中心座標pc
2を算出する。ここで、円形領域pe
w2が再生領域PE
wからはみ出してしまい、円形領域pe
w2を検出できない場合も考えられる。この場合、再生領域PE
wから円形領域pe
w2がはみ出ないように、白色要素画像e
wの間隔を短くすればよい。
なお、第2中心座標算出手段35は、中心の円形領域pe
wの左右に位置する円形領域pe
w2を検出しているが、円形領域pe
wの上下に位置する円形領域pe
w2を検出してもよい。
第2中心座標算出手段35は、撮像画像と、中心座標pc,pc
2と、位置補正量(Δx,Δy)とを角度補正量算出手段36に出力する。
【0063】
角度補正量算出手段36は、中心の円形領域pewと、隣接する円形領域pew2との間隔が最長になるように、要素画像群の角度補正量を算出するものである。すなわち、角度補正量算出手段36は、中心の円形領域pewの中心座標pcから、隣接する円形領域pew2の中心座標pc2までの距離が最長となるときの要素画像群の角度補正量を算出する。
なお、角度補正量算出手段36の詳細は、補正装置30の動作で説明する。また、前記したとおり、円形領域pew,pew2の間隔を最長にすることは、円形領域pewのサイズを最大にすることと同意である。
【0064】
間隔補正量算出手段37は、再生領域PEwの撮像画像の全面が白色で表示されるように、要素画像の間隔補正量を算出するものである。具体的には、間隔補正量算出手段37は、中心の円形領域pewの中心座標pcから、左右に位置する円形領域pew2の中心座標pc2までの距離が、レンズアレイ13の水平サイズと等しくなるように要素画像群を拡大又は縮小すればよい。また、間隔補正量算出手段37は、ディスプレイ11の全面が白くなるように、白色要素画像ewの間隔を変更してもよい。
【0065】
要素画像群補正手段38は、位置補正量算出手段34が算出した位置補正量と、角度補正量算出手段36が算出した角度補正量と、間隔補正量算出手段37が算出した間隔補正量とに基づいて、要素画像群Eを補正するものである。具体的には、要素画像群補正手段38は、外部(例えば、立体撮像装置)から入力された要素画像群Eを再生成する。
【0066】
ここで、要素画像群補正手段38は、拡大により白色要素画像群Ewの画素数がディスプレイ11の画素数より多くなる場合、ディスプレイ11の画素数でクリップ処理すればよい。なお、クリップ処理とは、要素画像群Eの最大画素数を超えないように、周辺画素を削除する処理のことである。また、要素画像群補正手段38は、縮小によって要素画像群Eの画素数がディスプレイ11の画素数より少なくなる場合、ディスプレイ11の画素数と等しくなるように黒色画素又は要素画像群の最端画素をコピーすればよい。
要素画像群補正手段38は、補正した要素画像群Eを表示手段31に出力する。
【0067】
判定手段39は、白色要素画像ewの位置、回転及びサイズを調整するか否かを判定するものである。
具体的には、判定手段39は、中心の円形領域pewの中心座標pcとディスプレイ11の中心座標dcとの差分が基準値を超える場合、白色要素画像群Ewの位置を補正すると判定する。一方、判定手段39は、その差分が基準値以下の場合、白色要素画像群Ewの位置を調整しないと判定する。
また、判定手段39は、中心の円形領域pewの中心座標pcから、隣接する円形領域pew2の中心座標pc2までの距離が最長となるように角度が調整されているか否かにより、白色要素画像群Ewの回転(角度)を調整するか否かを判定する。
さらに、判定手段39は、白色要素画像ewのサイズが予め設定された基準サイズを超える場合、白色要素画像ewのサイズを調整すると判定する。一方、判定手段39は、白色要素画像ewのサイズが基準サイズ以下の場合、白色要素画像ewのサイズを調整しないと判定する。
【0068】
なお、白色要素画像ewの基準サイズは、IP立体映像表示システム1の利用者が、操作手段を用いて手動で設定しておくこととする。また、基準サイズは、任意に設定可能である。例えば、基準サイズは、高精度な補正が可能となるので、例えば、縦2画素×横2画素のように小さく設定するのが好ましい。
【0069】
[補正装置の動作]
図14を参照し、補正装置30の動作について説明する。
補正前の白色要素画像e
wのサイズ及び間隔が設計値と異なっているので、補正装置30は、位置ずれ補正の原理を利用して補正を行う。このとき、補正装置30は、白色要素画像e
wのサイズを少しずつ縮小し、白色要素画像e
wの位置及び角度の調整を繰り返す。以下、補正装置30の動作を具体的に説明する。
【0070】
ステップS1において、表示手段31は、白色要素画像群EwをIP立体映像表示装置10に出力する。そして、IP立体映像表示装置10は、白色要素画像群Ewを表示する。
ステップS2において、撮像カメラ20は、表示手段31が表示する調整済み白色要素画像群Ewを撮像する。そして、第1中心座標算出手段32は、撮像カメラ20からの撮像画像を入力する。
【0071】
ステップS3において、判定手段39は、白色要素画像群Ewの位置又は回転を補正するか否かを判定する。
白色要素画像群Ewの位置又は回転を補正する場合(ステップS3でYes)、判定手段39は、ステップS4の処理に進む。
白色要素画像群Ewの位置及び回転を補正しない場合(ステップS3でNo)、判定手段39は、ステップS14の処理に進む。
【0072】
ステップS4において、第1中心座標算出手段32は、例えば、撮像画像に白色領域検出処理を施し、撮像画像の画像中心に最も近い円形領域pewを検出する。
ステップS5において、第1中心座標算出手段32は、例えば、重心法により円形領域pewの中心座標pcを算出する。
【0073】
ステップS6において、位置ずれ量算出手段33は、円形領域pewの中心座標pcと、ディスプレイ11の中心座標dcとの位置ずれ量を算出する。具体的には、位置ずれ量算出手段33は、水平方向及び垂直方向のそれぞれで、円形領域pewの中心座標pcとディスプレイ11の中心座標dcの差分を位置ずれ量(Δcx,Δcy)として算出する。このとき、位置ずれ量算出手段33は、撮像カメラ20の撮像素子の画素間隔Cpと、撮像カメラ20のカメラレンズの主点から撮像素子までの距離Cfと、ディスプレイ11から撮像カメラ20までの距離Lcとを用いる。
【0074】
ステップS7において、判定手段39は、白色要素画像群Ewの位置を調整するか否かを判定する。
白色要素画像群Ewの位置を調整する場合(ステップS7でYes)、判定手段39は、ステップS8の処理に進む。
白色要素画像群Ewの位置を調整しない場合(ステップS7でNo)、判定手段39は、ステップS10の処理に進む。
【0075】
ステップS8において、位置補正量算出手段34は、白色要素画像群Ewの位置補正量を算出する。具体的には、位置補正量算出手段34は、ステップS5で算出した位置ずれ量に、要素レンズ14の焦点距離Lfとディスプレイ11から撮像カメラ20までの距離Lcとの比(Lf/Lc)を乗算する。
【0076】
ステップS9において、判定手段39は、表示手段31に対し、白色要素画像群Ewの位置の調整を指令する。そして、表示手段31は、判定手段39からの指令に従って、白色要素画像群Ewの位置を調整する。白色要素画像群Ewを調整する際、表示手段31は、白色要素画像群Ewの画素を内挿してもよい。また、表示手段31は、白色要素画像群Ewを再度生成してもよい。
判定手段39は、表示手段31に指令出力後、ステップS1の処理に戻る。
【0077】
ステップS10において、第2中心座標算出手段35は、例えば、撮像画像に白色領域検出処理を施し、中心の円形領域pewに隣接する円形領域pew2を検出する。
ステップS11において、第2中心座標算出手段35は、例えば、重心法により隣接する円形領域pew2の中心座標pc2を算出する。
【0078】
ステップS12において、角度補正量算出手段36は、中心の円形領域pewと、隣接する円形領域pew2との間隔が最長になるように、要素画像群の角度補正量を算出する。具体的には、角度補正量算出手段36は、ステップS5で算出した中心の円形領域pewの中心座標pcから、ステップS11で算出した隣接する円形領域pew2の中心座標pc2までの距離が最長となるときの要素画像群の角度補正量を算出する。
ステップS13において、判定手段39は、表示手段31に対し、白色要素画像群Ewの回転の調整を指令する。そして、表示手段31は、判定手段39からの指令に従って、白色要素画像群Ewの回転を調整する。ここで、白色要素画像群Ewを回転させる場合、表示手段31は、白色要素画像群Ewの画素を外挿してもよい。
判定手段39は、表示手段31に指令出力後、ステップS1の処理に戻る。
【0079】
ステップS14において、間隔補正量算出手段37は、再生領域PEwの撮像画像の全面が白色で表示されるように、白色要素画像群Ewの間隔補正量を算出する。
ステップS15において、間隔補正量算出手段37は、ディスプレイ11の全面が白くなるように白色要素画像群Ewの間隔を調整する。
【0080】
ステップS16において、判定手段39は、白色要素画像群Ewのサイズを調整するか否かを判定する。
白色要素画像群Ewのサイズを調整する場合(ステップS16でYes)、判定手段39は、ステップS17の処理に進む。
白色要素画像群Ewのサイズを調整しない場合(ステップS16でNo)、判定手段39は、ステップS18の処理に進む。
【0081】
ステップS17において、判定手段39は、表示手段31に対し、白色要素画像群Ewのサイズの調整を指令する。そして、表示手段31は、判定手段39からの指令に従って、白色要素画像群Ewのサイズを縮小する。
判定手段39は、表示手段31に指令出力後、ステップS1の処理に戻る。
【0082】
ステップS18において、要素画像群補正手段38は、ステップS8の位置補正量と、ステップS12の角度補正量と、ステップS14の間隔補正量とに基づいて、要素画像群を補正する。
【0083】
このように、補正装置30は、位置補正量、角度補正量及び間隔補正量を算出し、これらの補正量に基づいて、ディスプレイ11に表示する要素画像群を補正する。このとき、補正装置30は、白色要素画像群Ewの位置ずれが最小になるように追い込み、最終的に算出された補正量を元に、要素画像群を再度レンダリングする。
【0084】
[作用・効果]
以上のように、補正装置30は、白色要素画像ewのサイズを縮小することで、ディスプレイ11と白色要素画像ewとの中心位置のずれが識別しやすくなり、位置ずれ補正量を高精度に算出することができる。これにより、補正装置30は、レンズアレイ13が伸縮する場合でも、ディスプレイ11とレンズアレイ13との位置ずれを高い精度で補正でき、IP立体映像の画質を向上させることができる。
【0085】
(変形例)
以上、本発明の実施形態を詳述してきたが、本発明は前記した実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
【0086】
前記した実施形態では、要素画像群に画像処理を施すこととして説明したが、これに限定されない。例えば、補正装置が算出した位置補正量及び角度補正量に基づいて、ディスプレイの位置を移動させ、ディスプレイを回転させる位置補正装置を用いてもよい。この場合、レンズアレイとディスプレイとは物理的に離れて設置されている。この位置補正装置は、レンズアレイに対して、ディスプレイを水平方向及び垂直方向に移動させ、ディスプレイに対して垂直な軸を中心にディスプレイを回転させる機能を有する。すなわち、位置補正装置は、補正装置が算出した補正量に基づいて、物理的にディスプレイの位置と角度を調整する。
【0087】
白色要素画像の表示位置を補正する場合、補間処理を行うために高周波成分が低下するので、補正装置は、低下した高周波成分をエンハンス処理(強調処理)してもよい。これにより、白色要素画像群を再生成する場合に比べ、演算量を低減することができる。
【0088】
補正装置は、要素画像群を補正する代わりに、算出した位置ずれ補正量を外部に出力してもよい。
要素画像の形状が円形であることとして説明したが、これに限定されない。
単色要素画像が白色であることとして説明したが、単色要素画像の色はこれに限定されない。
【0089】
前記した実施形態では、補正装置を独立したハードウェアとして説明したが、本発明は、これに限定されない。例えば、本発明は、コンピュータが備えるCPU、メモリ、ハードディスク等のハードウェア資源を、前記した補正装置として協調動作させるプログラムで実現することもできる。これらのプログラムは、通信回線を介して配布してもよく、CD-ROMやフラッシュメモリ等の記録媒体に書き込んで配布してもよい。
【符号の説明】
【0090】
1 IP立体映像表示システム
10 IP立体映像表示装置(立体映像表示装置)
11 ディスプレイ
12 アクリル板
13 レンズアレイ
14,14C,14X,14Y 要素レンズ
20 撮像カメラ
30 補正装置(位置ずれ補正量算出装置)
31 表示手段
32 第1中心座標算出手段
33 位置ずれ量算出手段
34 位置補正量算出手段
35 第2中心座標算出手段
36 角度補正量算出手段
37 間隔補正量算出手段
38 要素画像群補正手段
39 判定手段(サイズ判定手段)
E 要素画像群
e 要素画像
Ew 白色要素画像群(単色要素画像群)
ew 白色要素画像(単色要素画像)
PEw 再生領域
pew,pew2 円形領域
dc ディスプレイの中心座標
pc 円形領域の中心座標