(58)【調査した分野】(Int.Cl.,DB名)
前記検知手段は、鉛直方向を検知するセンサーを有し、前記表示手段の所定の側が鉛直方向に沿っている場合に、前記正立方向であることを検知することを特徴とする請求項1乃至3のいずれか一項に記載の画像表示装置。
【発明を実施するための形態】
【0010】
[実施形態1]
<定義>
実施形態の説明に先立って、本明細書で用いる用語について簡単に説明する。2次元画像とは、表示器で表示する、例えば人や図形などを表す2次元の画像そのものを示している。3次元画像とは、3次元表示器で立体視可能に表示される、例えば人や図形などを表す画像そのものを示している。本実施形態では、3次元画像は、同一の立体の対象物を異なる角度から見たときの視差を有する複数の2次元画像で構成される。例えば左目用と右目用の視差を有する一対の2次元画像を、既定の、すなわち右目用と左目用それぞれの表示素子で表示し、それらの画像を観察者であるユーザーが左右それぞれの目で見る事で立体視できる画像である。
【0011】
2次元画像情報および3次元画像情報は、2次元画像および3次元画像をそれぞれ表示するための画像情報を示している。3次元画像情報は、少なくとも左目用および右目用の一対の2次元画像情報から成る。また、3次元画像情報には、ひとつの視点からの左目用および右目用の2次元画像情報を一対の立体視画像情報として、複数の異なる視点からの立体視画像情報を、視点の数の対だけ含むものもある。たとえば前者の3次元画像情報はパララックスバリア方式に、後者の3次元画像情報は多視点レンチキュラーレンズ方式で用いられる。また視差画像とは、上述した左目および右目の視差を反映した一対の2次元画像をいう。
【0012】
<3次元表示器の構成>
次に、簡単に3次元表示器について説明する。本発明実施形態で用いる3次元表示器は、3次元画像情報として、その表示器の画面中に複数の2次元画像情報を同時に表示している。具体的には、3次元表示器に表示される2次元画像は、ひとつの対象物を少なくともユーザーの左目および右目の各視点から見た2枚以上の複数の2次元画像情報に基づいた画像であり、3次元表示器には、左目および右目の各視点からそれぞれの画像をそれぞれの目で見せる為の光学的な工夫が成されている。
以下、本発明を実施するための形態について図面を用いて説明する。本実施形態では、ユーザーが表示器を180度回転させて使用しても正常に3次元表示する為の画像処理装置を例に説明するが、これに限定されるものではない。なお表示器を180度回転させて使用するとは、表示器の表示画面をユーザーに向けた状態において、その表示画面をユーザーが見る、あるときの表示器の方向を正立方向とした場合に、その反対方向すなわち倒立方向から表示画面を見ることである。すなわち、ユーザーが表示画面を見る際の、表示器の相対的な方向を、正立方向から倒立方向に変えることを意味している。これは以下の説明においても同様である。
【0013】
図1は、本発明を実施する画像処理装置の一例を示す概略図である。
図1に於いて本実施形態の画像処理装置は一般的なパーソナルコンピュータ(以後PCと称する)1を有し、ネットワーク回線110等から画像情報等をネットワーク制御部90を介して取得する。また画像処理装置は、少なくとも、3次元画像情報に基づいた3次元画像を立体表示する為の3次元表示装置2を有する。
【0014】
PC1はCPU(Central Processing Unit)10で制御される。PC1は、3次元画像情報や本実施形態に用いられるプログラム等を保持する記憶部80を有する。またPC1は、各種設定やプログラムを格納するROM(Read Only Memory)60及び、一時的な記憶手段として機能するRAM(Random Access Memory)70を有する。またLAN等の通信回線110に接続したネットワーク部90を有する。3次元表示装置2は、3次元画像を表示する3次元表示器30を有する。また、3次元表示装置2は、3次元表示器の表示面にタッチパネル40を有し、表示した3次元画像を直接タッチして画像や表示された入力キーを選択すると共に、キーやマウスで構成する操作入力部55と同様にユーザーのPCへの各種の入力操作を可能にする。撮像部20は例えばカメラであり、ユーザーの位置やユーザーの動作を認識する為に3次元表示器30の近傍に設けられている。撮像部20は本実施形態ではなくともよい。3次元表示装置2には更に3次元表示器30の向き(上下方向の傾きともいう)を検知する向き検知部50が備えられる。検知される画面の向きは、実用上は、重力センサを用いて下の辺を検知したり、3次元表示器30が台で回動可能に支持されているのであれば、台に対する方向をマイクロスイッチなどを用いて検知する構成などがある。詳しくは後述する。
【0015】
図2は、
図1で示した3次元表示装置2をより詳細に説明する図である。
図2に示すパララックスバリア方式の3次元表示器30の液晶表示器300は、表示画面の手前に左右の目の視線上に互いに他方の目用の表示素子からの光を遮る為の光学的なパララックスバリア160を有する。
【0016】
従って
図2に示す様に右目からは左目用表示画素がパララックスバリア160で光路が遮光され、逆に左目からは右目用表示画素がパララックスバリア160で光路が遮光される。その結果両目では例えば、両目の視点でそれぞれ撮影された異なる視点の画像を独立に見る事が出来る。即ち、立体表示がなされる。
【0017】
本実施形態の3次元表示器30は説明の簡略化の為に、単色表示で、また以後の図において表示画素の並びを1次元的に表現する。なお、以下で単に「視点」と述べる場合、3次元表示器30の位置に対するユーザーの両目の位置のことを示し、1つの「視点」では、ユーザーの右目には右目用の画像が、左目には左目用の画像が見える。3次元画像を表示するには最低1対の所定の視差を有する右目用の画像と左目用の画像が表示出来れば良い。
図3は、上記視点とユーザーが目で見るのと同じ右目用の画像と左目用の画像を撮影する場合の位置関係を示す図である。
【0018】
<画像処理装置の機能ブロック>
図4は、本実施形態の画像処理装置1の画像処理機能のブロックの一例を示す図である。
図4に於いて、画像情報入力部400は、ネットワーク制御部90等から3次元画像情報を入力し、必要に応じて3次元画像情報記憶部404で記憶保持する。一方、向き特定部402は、表示装置2に装着された向き検知部50の(後述する)センサー出力からその向きを特定する処理部である。3次元画像情報変換部403は、特定された向きに応じて、3次元画像情報記憶部401に記憶保持した3次元画像情報を取り出し、必要な角度分回転処理等を施す。3次元画像表示制御部404は、特定された向きに応じて、3次元画像情報変換部403で変換した画像情報を3次元表示器30の既定の表示素子で表示する為の制御を行う。具体的には右目用の表示画像情報を保持する所謂VRAM或いは左目用の表示画像情報を保持するVRAMに上記3次元画像情報変換部403で変換された画像情報を書き込む。尚、VRAMの各記憶素子と1対1対応された3次元表示器30の左右の目用の画像の表示を担う表示素子に接続されたドライバーを、左右の目用にVRAMに格納された画像情報でそれぞれハードウエアー的に一定の周期で駆動して表示が行われる。尚、3次元画像情報記憶部404は記憶部80の一部や一時的に画像を保持するRAM70である。
【0019】
図5に本実施形態によって、装置が如何なる向きで操作されても確実に3次元表示する為の制御の一実施形態をしめす。また、
図6に制御の手順を説明する為のフローチャートを示す。まず装置が正規の横向き(以降、横向正立と記す)の場合を詳説する。なおユーザーが3次元表示装置の画面を観察して立体視するために、左右の目の並びと平行にすべき表示装置の方向を本例では横と呼び、それと直交する方向を縦と呼ぶ。装置の横方向をユーザーの左右方向にそろえた装置の向きが横向きである。また装置の縦方向をユーザーの左右方向にそろえた装置の向きが縦向きである。すなわち装置が横向きであれば立体視が可能となる。装置の縦横は3次元表示の方式により決まる。例えばパララックスバリア方式では、バリアの長手方向に直交する方向が横方向であり、レンチキュラーレンズ方式では、レンチキュラーレンズの長手方向に直交する方向が横方向である。画面の長手方向が横方向となる装置も多いが、必ずしもそうとは限らず、上述した定義による装置の縦横と画面の縦横比とは直接的な関連はない。そして装置の横向きには180度方向が異なる2通りがあり、そのうちの一方を正立(横向き正立)、他方を倒立(横向き倒立)と呼ぶ。
【0020】
以下
図6に即して本実施形態の3次元表示の手順を説明する。まず、向き特定部402はステップS602で装置の向きが縦か横かを判定し、横向きの場合は、3次元表示器30がパララックスバリア方式であるから3次元表示が可能な為、ステップS603に分岐する。3次元画像表示制御部404はステップS603で3次元画像情報記憶部401から其々表示すべき左目用画像情報501を読み出し左目用ビデオRAM(以降VRAMと記す)504に書き込み、同様に3次元画像情報記憶部401から右目用画像情報502を読み出し右目用VRAM505に書き込む。
【0021】
ここで3次元表示器30を構成する液晶表示器300の各表示素子は左右の目用の画像をパララックスバリア160の位置に応じて、其々ストライプ状に、交互に表示しているが、左(右)目用VRAMとは、液晶表示器300の中で上記の様に位置が固定化された左(右)目用の画像表示を担う全ての表示素子を駆動する為の画像情報を記憶保持するRAMである。従ってカラー表示可能な3次元表示器の場合、各液晶表示素子前面に有するカラーフィルタの位置に対応させて更に色毎のVRAMに分割される。
【0022】
向き特定部402はステップS604で、更に方向が横向正立と判断するなら、処理を終了する。
図5(A)に示す様に、左目用VRAM504に書き込まれた画像情報は左目用画像を表示する素子を駆動するドライバー506に1対1対応して接続され、同様に右目用VRAM505に書き込まれた画像情報は右目用画像を表示する素子を駆動するドライバー507に1対1対応して接続されている。このため、右目用の画像は右目用の表示素子により、左目用の画像は左目用の表示素子により、そのまま表示される。
【0023】
次に装置が横向倒立の場合を詳説する。向き特定部402はステップS604で正規の横向正立から180度回転した横向倒立で有ると判定したならステップS605に分岐する。3次元表示器30が倒立している状態で正規の画像を表示する為に3次元画画像変換部403はステップS605で左目用、右目用それぞれの画像情報を180度回転させる。
【0024】
ところで、
図2で示したパララックスバリア方式の3次元表示器30を180度回転させて、回転した右目用画像を右目用表示素子に、回転した左目用画像を左目用表示素子に表示した場合の画像の見え方を
図7に示す。先に説明した様にパララックスバリア方式の3次元表示器30は左右の目用の画像を分割して表示する為に、液晶表示器300とその光路を遮光するバリア160は機械的にその位置が固定化されている。従って、装置が横向き倒立の場合、ユーザーは横向き正立に対して左右を逆に見ることになるので、各目用の画像を180度回転させたとしても、左目用に画像表示している表示画素は右目で見え、右目用に画像表示している表示画素は左目で見える。
【0025】
3次元表示の際に視差画像を左右逆に見ると、奥行きが逆になって奥が手前に、手前が奥に見えるが、描画順は変わらない為、手前に見える画像オブジェクトが奥の画像オブジェクトの影に隠れ、非常に不思議な表示画像に成る。
【0026】
即ち、3次元画画像変換部403で画像情報を180度回転しただけでは正しく3次元表示する事が出来ない。そこで本発明の3次元画像表示制御部404は、装置が横向倒立方向の場合、S606において、3次元画像変換部403で180度回転した左目用画像情報508を右目用VRAM505に書き込み、同様に3次元画像変換部403で180度回転した右目用画像情報509を左目用VRAM504に書き込む。すなわち、画像の方向を表示装置の方向に合わせるのみならず、画像の配列の順序も表示装置の方向に応じて変更する。
【0027】
この様子を
図5(B)に示す。左右それぞれの目用の画像情報は180度回転された上で、左目用回転画像508は右目用VRAM505に、右目用回転画像509は左目用VRAM504に、それぞれ書き込まれ、対応するドライバー507,506によりそれぞれ対応する表示素子で表示される。この結果、
図7でいえば、左目で見ている右目用画像表示画素に180度回転した左目用画像が、右目で見ている左目用画像表示画素に180度回転した右目用画像が表示され、3次元画像本来の立体視が可能となる。
【0028】
次に装置が縦向きの場合、すなわち立体視のためにユーザーの左右方向となるべき方向が、ユーザーの上下方向に向けられている場合を詳説する。向き特定部402はステップS602で縦向きと判定したならステップS607に分岐する。本実施形態の3次元表示器30は縦向きでは3次元表示が出来ない為、本実施形態では装置が縦向きで使用される場合、2次元表示する。従って、3次元画画像変換部403はステップS607で3次元画像情報記憶部401から左(右)目用画像情報を読み出し、90度回転させる。尚、向き特定部402がステップS608で装置が横向きの際の左部が上となる縦向き(縦向左上と記す)と判定されれば、ステップS610に分岐し、3次元画像情報変換部で90度回転した左目用画像情報510を右目用VRAM505に書き込み、同じ左目用画像情報510を左目用VRAM504に書き込む。また向き特定部402がステップS608で装置が横向きの際の右部が上となる縦向き(縦向右上と記す)と判定されれば、ステップS609に分岐し、3次元画像情報変換部で270度回転した左(右)目用画像情報510を右目用ビデオRAM(以降VRAMと記す)505と左目用VRAM504に書き込む。
【0029】
この様子を
図5(C)に示す。左右いずれかの目用の画像情報は90度あるいは270度回転された上で、右目用VRAM505と左目用VRAM504とにそれぞれ書き込まれる。すなわち同じ画像情報が各VRAMに書き込まれる。そして対応するドライバー507,506によりそれぞれ対応する表示素子で表示される。この結果、右目用画像表示画素と左目用画像表示画素とに、左右いずれかの目用の原画像を90(あるいは270)度回転した同じ画像が表示される。表示装置が縦向きに使用されている場合、左右それぞれの目用の画素はそれぞれ縦方向にならび、それが交互に配置されるため、左右方向の解像度は半減するものの、選択した目用の画像が2次元表示される。
【0030】
以上のように、本実施形態の3次元画像表示制御部404は、3次元画像情報記憶部401から表示すべき画像情報を読み出し、向きに応じて3次元画像変換部403で該画像情報を変換し、左目用のVRAM504か、或いは右目用のVRAM505にその変換した画像情報の書き込みを制御する事を特徴とする。
【0031】
なお
図6のS603を、S604で「正規の方向」と判定された直後に実行するように移動すれば、S603を無駄に実行する必要がなくなり、処理の迅速化に貢献する。
【0032】
図8は本実施形態の向き検知部50で用いた向き検知手段の一例である。この検知部は、表示画像の下側を表示部の下側として立てて或いは斜めにして、ユーザーがそれにほぼ正対する姿勢で使用することを前提としている。傾き検知センサー800は密封された容器の中に例えば水銀等の液状の導電性物質802が封入されている。従って、水銀はその向きに応じた重力方向に移動し、1対の電極間を導通させるのでその傾きが検知出来る。電極対はa,b,c,dの4対有り、3次元表示器30が正規の向きで状態801の如く3次元表示している場合、その裏面に図示する様に装着すれば、状態803で図示する様に電極対cが導通し、横向倒立の場合は、状態804で図示する様に電極対aが導通し、縦向左上の場合は、状態805で図示する様に電極対dが導通し、縦向右上の場合は、状態806で図示する様に電極対bが導通する。尚、装置が水平の場合、状態807に示す様にどの電極対も導通しない。水平の場合の表示の向きはその直前の状態とするか、或いは横向正立とする。
図6のS602,S604,S608では、電極対の導通からどの状態にあるか判定する。またセンサー800は、水銀の代わりに重心を外して軸支したことで鉛直方向を維持する錘を用い、装置の方向に対して回動する錘が接したときにオンとなるマイクロスイッチなどを電極対の代わりに用いて構成することもできる。いずれにしてもこの方式は、ユーザーの上下方向が鉛直線の上下方向と一致していることを前提として、ユーザーと装置(画面)との方向の関係を検知する。
【0033】
あるいは、3次元表示器が台に回動可能に軸支されている場合、その軸周りの回転位相をマイクロスイッチ等で検知し、それを検知部50による検知結果とすることもできる。この方式では、ユーザーの上下方向が台に対して一定であることを前提として、ユーザーと装置との方向関係を検知している。
【0034】
あるいは、ユーザーのマニュアル操作により3次元画像表示装置の向きを指定させ、その入力を検知結果とすることもできる。すなわち3次元表示器30の操作パネルから特定のジェスチャ、たとえばユーザーが対面する側の辺を指定するジェスチャが入力された場合、そのジェスチャに応じて3次元画像表示装置の向きを特定する。いずれにしても、種々の方法により、検知部50を実現することができる。
【0035】
以上の構成により、3次元画像表示装置の向きに適した画像表示を実現できる。このため、ユーザーが立体視可能な方向から画面を見ているならば立体視可能に3次元画像を表示できる。またユーザーが立体視可能でない方向から画面を見ているならば、画面上に2次元画像を表示できる。
【0036】
また、表示対象が動画である場合、
図6の手順を各フレームに対して適用すると負荷が大きく、装置の処理能力によっては動画のフレームレートを維持できなくなる恐れもある。そこで、
図6の動作を、動画の再生に先行して実行し、
図6のS603,S605,S606,S607,S609,S610では、実施の動作を行わずに、S603,S606,S610では、右目用画像情報および左目用画像情報を格納するVRAMを記憶し、S605,S607,S609では、画像情報の回転角度を記憶する。なお回転角度の既定値は0とする。そして、動画再生を開始したなら、各フレームを、
図6の手順で記憶した回転角度に従って画像情報を回転し、格納先のVRAMに画像情報を格納する。このようにすることで迅速な動画再生が可能となる。
【0037】
<3次元表示制御の変形例>
図9に3次元表示制御の変形例である別実施形態を、
図10に該制御の手順をフローチャートとして示す。本別実施形態は装置が縦向きの場合、先の実施形態と制御が同じのため説明を省き、
図9は横方向の場合についてのみを示す。
【0038】
3次元画像表示制御部404はステップS606で3次元画像情報記憶部401から其々表示すべき左目用画像情報501を読み出し左目用ビデオRAM(以降VRAMと記す)504に書き込み、同様に3次元画像情報記憶部401から右目用画像情報502を読み出し右目用VRAM505に書き込む。先の実施形態が左(右)目用VRAMが左(右)目用画像を表示する素子を駆動するドライバーと1対1に固定的に対応付けられていたのに対して、本別実施形態は左(右)目用VRAMの画像情報を左(右)目用画像を表示する素子を駆動するドライバーに接続する正規のモード905と、左(右)目用VRAMの画像情報を右(左)目用画像を表示する素子を駆動するドライバーに接続する倒立モード906を持ち、それぞれ装置の向きに応じて切り替える事を特徴とする。まず、3次元画像表示制御部404はステップS1001で両VRAMと表示素子駆動ドライバーを正規の接続モード905に初期設定する。
【0039】
向き特定部402はステップS602及びステップS604で装置の方向が横向正立なら、処理を終了する。一方、向き特定部402がステップS604で横向正立から180度回転した横向倒立と判定したならステップS605に分岐する。表示器が倒立している状態で正規の画像を3次元表示する為に3次元画画像変換部403はステップS605で画像情報を180度回転させる。
【0040】
更に3次元画像表示制御部404はステップS1001に於いて両VRAMと表示素子駆動ドライバーを倒立接続モード906に切り替える。
【0041】
即ち3次元画像情報は一対の左右の目用の画像情報を共に180度回転し、回転処理した後、右目用VRAMに書き込まれた画像情報で左目用表示素子を駆動し、左目用VRAMに書き込まれた画像情報で右目用表示素子を駆動する。従って、横向倒立状態の表示器30を用いて正常に画像を3次元表示する事が可能に成る。
【0042】
この別実施形態では3次元画像変換処理や3次元画像情報記憶部からの左右の目用の画像の読み出し、及び両VRAMへの書き込み処理の際に、装置の向きに拘わらず、常に左右の目用に用意された同じ記憶領域を使用出来る利点が有る。
【0043】
このように本変形例では、左右の目用の画像情報を、左右用のVRAMに逆に格納するのではなく、画像情報とVRAMとの対応付けは、右目用と左目用とで変えることなく、VRAMとドライバ(すなわち表示用素子)との対応付けを、左右入れ替える。結果は先の実施形態と同様である。ただし本変形例では、特に画像情報の格納先は入れ替えが不要であり、VRAMとドライバーとのバスを切り替えるだけであるので、迅速な処理が可能である。
【0044】
<向き特定部の変形例1>
図11は、3次元画像表示装置の向き特定部402の別実施形態を説明する図である。先の実施形態では向き検出部50に傾きセンサー800を用いたが、本別実施形態では表示装置2に装着された撮像部20を用いて、ユーザを撮影し、撮影したユーザの顔を画像認識し、認識の結果で得られる顔の向きから装置の向きを特定する。3次元表示器30の横上中央部の撮像部20で得られるユーザは、装置が横向正立の場合は画像1101、横向倒立の場合は画像1103、縦向右上の場合は画像1104、縦向左上の場合は画像1102の様に撮影出来る。
【0045】
一方、人の顔を認識する公知の技術は例えば、人の目と口をパターンマッチング手法で認識すれば、両目を1105と1106の位置に、又口は1107の位置に認識できる。ここで其々の重心をP1,P2,P0とし、この3点を結べば破線で示す略2等辺三角形が描ける。顔の向きは口の位置、即ちこの2等辺三角形の頂点P0の向きに従う。即ち頂点P0が横長の撮影画面において、下側の場合は装置は横向正立、頂点P0が上側の場合は装置は横向倒立、頂点P0が左側の場合は装置は縦向右上、頂点P0が右側の場合は装置は縦向左上と特定出来る。先の実施形態の向き特定部402のステップS602、ステップS604、及びステップS608の判定は全て上記特定結果に従う。この方式では、ユーザーと画面との位置関係を、特別な前提なしに直接的に検知することができる。
【0046】
先の実施形態は装置が水平の場合、特定が不能であるが、本別実施形態では水平時でも略特定する事が出来る利点を有する。
【0047】
<向き特定部の変形例2>
図12は、装置の向きを特定する別実施形態2を説明する図である。先の実施形態では向き検出部50に傾きセンサー800を用いたが、別実施形態2では向き検出部50に加速度センサーを用いて装置の向きを特定する。本別実施形態2で用いる加速度センサーはX、Y、Z各方向の加速度成分が得られる。装置の向きは、加速度センサによって検知された重力の向きによって、横向正立、横向倒立、縦向右上、縦向左上の何れかを判定する。
【0048】
装置の重力方向は、所定時間範囲に検出された多数のx軸、y軸及びz軸の加速度データを用いて、これら各軸の加速度の和のベクトルの向きとみなせる。従って、
図12(A)では、サンプリング時刻iにおいてステップS1201で加速度センサーから得られる各軸の加速度を、
x軸の加速度:Ax[i]
y軸の加速度:Ay[i]
z軸の加速度:Az[i]
と表すと、サンプリング時刻1からNまでのN個の加速度データをステップS1202で加算した和は、以下のように表される。
ASx=Σ
i=1NAx[i]
ASy=Σ
i=1NAy[i]
ASz=Σ
i=1NAz[i]
重力ベクトルGは、以下のように表される。
G=(gx,gy,gz)=(ASx,ASy,ASz)
ステップS1203でN回分の測定値を積算したと判定されたなら、S1204において、重力ベクトルGの各軸成分を所定閾値で2値化すれば、装置におけるいずれの辺に向かっているかに応じて、4方向のいずれかが判定できる。あるいは、各軸方向は3次元画像表示装置に対して固定されているので、例えばx,y軸を画面の縦横それぞれの方向として、z軸を画面の奥行き方向とすれば、加速度のz成分は画面の向きの決定のためには無視できる(逆に言えば、加速度センサはz軸を除く2軸センサでも良い。)そのため、ASxまたはASyのうちいずれか大きい値の方の軸が、より鉛直線と成す角が小さい。すなわち、その軸を縦にして3次元画像表示装置が保持されていると判断できる。これにより、3次元画像表示装置が横向き正立か、横向き倒立か、縦向き右上か、縦向き左上かを判定できる。
図12(B)の表1210は得られた重力ベクトルを2値化した結果とこの結果から特定した装置の向きを示す。
【0049】
先の実施形態同様に、水平と判断された場合は、直前に得られた向きか、横向正立として扱う。又、先の実施形態の向き特定部402のステップS602、ステップS604、及びステップS608の判定は全て表1に示す向き特定結果に従う。
【0050】
本別実施形態は安価な加速度センサーが使え、より少ない演算で装置の向きが特定出来る事と、先の別実施形態で用いた撮像手段をその本来の使用を妨げない利点が有る。
【0051】
また上記実施形態は、右目用画像と左目用画像とを、1画素列ごとに交互に表示する表示装置を例としている。しかし、右目用画像をユーザーから見て右側に、左目用画像をユーザーから見て左側にまとめて表示し、いわゆるステレオ画像を実施する際にも、その表示の向きに応じて、左右の画像をユーザーから見てそれぞれ左右に配置するよう画像を入れ替えることで、どの方向から見ても立体視を実現できる。
【0052】
[実施形態2]
<レンチキュラーレンズ方式の多視点表示器を用いた別実施形態>
先の実施形態はパララックスバリア方式の3次元表示器を用いた例を詳説したが、本発明はレンチキュラーレンズ方式の多視点表示器を用いた場合にも適用が可能である。まず、
図13を用いてレンチキュラーレンズ方式の多視点表示器に関して説明する。
図13(A)に於いて3次元表示器30として用いられるレンチキュラー多視点表示器は、液晶表示器300とその全面に設けたレンチキュラーレンズ1301とを有する。更にその全面にタッチパネル40を有し、画面上中央部に撮像装置20を有する。なお撮像装置20は、それを用いて向き検知を行わないならばなくともよい。
【0053】
図13(B)に、多視点の3次元画像を表示する為の、各レンチキュラーレンズ1301と相対位置が保証された各表示画素とを示す。
図13(B)は、3次元表示器30を横向きにカットした断面図である。
図13(B)の3次元表示器30は、ユーザーが6つの視点からこの3次元表示器30を見た場合の多視点3次元画像の表示を可能にする。即ち、各1つのレンチキュラーレンズは、1つの画素ライン内で、画素302から画素303までの一組7つの表示画素を覆っている。尚、レンチキュラーレンズは縦向きに延びているため、ライン数をLとすれば、1つのレンチキュラーレンズは7個×Lラインの画素をカバーしている。各ラインはすべて
図13(B)と同様の構成である。3次元表示器30は一般的に公知の技術で実現される物で、カラー表示可能であるが、簡略化するため単色表示とし、1次元の表示器として以降説明する。
【0054】
図13(C)と
図13(D)に、其々異なる視点1と視点4とから人が見た場合に見える画素をそれぞれ示す。即ちレンチキュラーレンズ301の光学特性に依って、視点1のユーザーの右目では画素2のみが、視点1のユーザーの左目では画素1のみが見える。また、視点4のユーザーの右目では画素5のみが、視点4のユーザーの左目では画素4のみが見える。1組7個の素子に、それぞれ視点に応じた視差の画像が表示され、1つの3次元画像は、隣接する2画素を用いて表示されることから、本例のように7画素を1組としてレンチキューレンズで覆った場合には、6つの異なる視点からの立体視が可能となる。このようなレンチキュラーレンズによる3次元画像の表示は公知の原理であり、本明細書では更なる詳細な説明を省略する。
図14に被写体と各視点でユーザーの左右の目で見える画像1から画像7との関係を示す。
【0055】
それぞれの視点で3次元表示する3次元画像を得る為には、ユーザーの左右のそれぞれの眼で見た画像に相当する一対の2次元画像を撮影する。同一被写体を視点1から視点6まで連続的に3次元表示する為に、視点N(Nは1〜6のいずれかの整数)においてユーザーの左目で見る画像Nは、視点N−1におけるユーザーの右目で見る画像と同じである。なお本発明では3次元表示器で表示された画像全体、即ち表示された全ての画像オブジェクトの総称を被写体と呼ぶ。これらの画像を示す2次元画像情報を分割して先のレンチキュラーレンズ301と相対位置を保った液晶表示画素で表示すれば、
図14で示す各視点から被写体を見た際と同じ立体像を見る事が出来る。即ち
図13(C)及び
図13(D)で示す画素1は視点1の左側で撮影した2次元画像(画像1)を示す2次元画像情報の1部であり、画素2は視点1の右側で撮影した2次元画像(画像2)を示す2次元画像情報の1部である。また、画素4は視点4の左側で撮影した2次元画像(画像4)を示す2次元画像情報の1部であり、画素5は視点4の右側で撮影した2次元画像(画像5)を示す2次元画像情報の1部である。
【0056】
ところで、レンチキュラーレンズ方式の多視点画像表示器を180度回転した場合の画像の見え方を
図15に示す。先の実施形態と同様に、レンチキュラーレンズと各表示画素とは一定の光学位置関係が保たれている為、
図15(A)に於いて視点3の左目では、画像5が、視点3の右目では画像4が見える事になる。
図14で示した各視点とユーザーが見る画像との関係と比較すると、本来、正常な3次元画像は、視点3の左目には画像3が、右目では画像4を表示しなければならないが、視点と左右の画像が逆に異なる為、正常な3次元画像としては見えない。即ち、装置を横向倒立させても正常に多視点の3次元表示をおこなうには、画像情報を180度回転すると共に、横向正立時に画像Nの表示を担った表示素子で、画像(8−N)を表示させなければならない。
図15(B)は同様に視点6において左右それぞれの目で見る画像がそれぞれ画像2,1であることを示す。
図13にあるように、画像1,2はそれぞれ視点1の右目と左目で見る画像のはずで、視点と画像との対応が本来とは違っているのみならず、左右が逆であり、奥行きが反転する。
【0057】
図16に、装置の向きに応じた多視点3次元表示制御の本実施形態の例を、
図17にその制御の手順をフローチャートで示す。向き特定部402はステップS602でまず装置の向きが縦か横かを判定し、横向きの場合は3次元表示器30がレンチキュラーレンズ方式で3次元表示可能な為、ステップS1701に分岐する。3次元画像表示制御部404はステップS1701で3次元画像情報記憶部401から其々表示すべき6視点からの3次元画像を表示する為に、画像1の画像情報1601から画像7の7つの画像情報1602を読み出し、それぞれ画像1用のVRAM1603から画像7用のVRAM1604に書き込む。
【0058】
向き特定部402はステップS604で更に方向が横向正立と判断するなら、処理を終了する。
図16に示す様に、画像1用のVRAM1603から画像7用のVRAM1604に書き込まれた画像情報は、直接画像1を表示する素子1607を駆動するドライバー1605から画像7を表示する素子1608を駆動するドライバー1605に1対1対応して接続されている。従って横向正立した状態では、ユーザが6視点から見ても、連続した3次元の画像としての表示が行える。
【0059】
次に装置が横向倒立の場合を詳説する。向き特定部402がステップS604で横向倒立と判定したなら、ステップS1702に分岐する。3次元表示器30が倒立している状態で正しく多視点3次元画像を表示する為には、まず、3次元画画像変換部403はステップS1702で画像1の画像情報1601から画像7の画像情報1602まで、其々の画像情報を180度回転させる。
【0060】
尚、横向倒立で使用する場合、先に述べた様に、3次元画画像変換部403で画像情報をステップ1702で180度回転しただけでは正しく3次元表示する事が出来ない。そこで3次元画像表示制御部404は、ステップ1703で3次元画像変換部403で180度回転した画像1の画像情報1601から画像7の画像情報1602を其々読み出し、横向正立の場合と逆に画像1の画像情報1601を画像7表示用のVRAM1604に、画像2の画像情報を画像6表示用のVRAMに書き込み、画像3の画像情報を画像5表示用のVRAMに書き込み、画像4の画像情報を画像4表示用のVRAMに書き込み、画像5の画像情報を画像3表示用のVRAMに書き込み、画像6の画像情報を画像2表示用のVRAMに書き込み、画像7の画像情報1602を画像1用のをVRAM1603に書き込む。すなわち、画像を180度回転するとともに、各視点の画像の順序も逆順に入れ替える。なおこれは実施形態1についても同様であり、3次元画像表示装置の向きと画像情報の加工との関係のみに着目すれば、実施形態1は、視点の数を1とした場合の本実施形態と同じ処理を行うことになる。
【0061】
尚、本実施形態の3次元表示器は縦方向で3次元表示が出来ないのみならず、レンチキュラーレンズのために2次元表示も困難である。その為、装置は横向正立か横向倒立かを検知して、上記3次元表示の制御を切り替えるのみとする。
【0062】
<その他の別実施形態>
本実施形態では装置が縦向きの場合には3次元表示が出来ない例を開示したが、例えば、装置が縦向きでもパララックスバリアを電気的に切り替えて直交方向に変えられる3次元画像表示器の場合、その光学特性に従えば、縦向右上使用の場合と、縦向左上使用の場合では、先に説明した横向正立と横向倒立と全く同じ180度の関係に有る為、先術と同様にして本発明を実施すれば共に正常な3次元表示が可能になる。
【0063】
本実施形態では各視点の視差画像対単位で3次元表示制御を行う技術を開示したが、例えば、一対の視差画像全体を一つの画像情報として扱い、横向倒立で表示する場合、該画像全体を180度回転させ、丁度左右の表示を担当する表示画素が互いに反対の表示画素が担当する様に表示位置が対応出来れば、本発明実施形態と同様に正常に3次元表示する事が出来る。
【0064】
[その他の実施形態]
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。