(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0016】
〈表示システム〉
本実施の形態にかかる表示システムは、映像を表示するための表示システムである。表示システムで表示される映像は、カメラにより取得されたカメラ映像でもよく、コンピュータにより生成されたコンピュータグラフィックス映像(CG映像)でもよい。CG映像を表示する表示システムは、例えば、フライトシミュレータやドライブシミュレータなどである。
【0017】
図1に、表示システムの全体構成を示す。表示システム100は、プロジェクタ110と、インターフェース部130と、映像処理装置140とを備えている。
【0018】
プロジェクタ110は、動画又は静止画の映像を表示する。プロジェクタ110は、画素ずらし表示(wobblingともいう)のON/OFFを切り替えて、映像を表示することができる。画素ずらし表示ONでは、プロジェクタ110は、サブフレーム毎に、0.5画素ピッチだけ表示位置をずらす。具体的には、プロジェクタ110は、サブフレーム画像Aとサブフレーム画像Aの表示位置から0.5画素ピッチずれたサブフレーム画像Bとを交互に表示する。一方、画素ずらし表示OFFでは、映像が常時同じ位置に投影される。画素ずらし表示ONでは、画素ずらし表示OFFの場合よりも、高い解像度で表示を行うことができる。
【0019】
プロジェクタ110は、例えば、背面投射型のプロジェクタ(リアプロジェクタ)である。なお、本実施の形態では、ディスプレイが背面投射型のプロジェクタ110であるとして説明するが、反射型のプロジェクタであってもよい。あるいは、ディスプレイは、プラズマディスプレイ、液晶ディスプレイ、有機EL(Electroluminescent)ディスプレイなどの他のディスプレイ(表示装置)を用いたものであってもよい。ディスプレイとしては、画素ずらし表示を行うことができる画素ずらし表示装置であればよい。
【0020】
プロジェクタ110は、投射部111とミラー113とスクリーン114とを備えている。投射部111は、スクリーン114上に映像を投射するため、表示映像信号に基づいて投射光を生成する。投射部111からの投射光は、ミラー113でスクリーン114の方向に反射されている。スクリーン114は、プロジェクタ110の映像が投影される投影面となる。投射部111からの表示映像は、投射レンズなどにより、スクリーン114上に拡大投影される。なお、投射部111の構成ついては後述する。
【0021】
映像処理装置140は、元映像に基づいて、画素ずらし表示を行うための表示映像信号を生成する。映像処理装置140が、CG映像を生成するIG(Image Generator)である場合、光源やオブジェクトなどの情報に基づいて、映像処理装置140が元映像を生成する。元映像は、8K対応カメラなどの高解像度カメラにより取得されたカメラ画像であってもよい。
【0022】
例えば、映像処理装置140は、CPU(Central Processing Unit)、メモリ、グラフィックカード、キーボード、マウス、入出力ポート(入出力I/F)等を備えたパーソナルコンピュータ(PC)等である。映像入出力に関する入出力ポートは、例えば、HDMI(登録商標)、DisplayPort、DVI、SDI等である。
【0023】
映像処理装置140は、表示映像信号を生成するための、プロセッサ141とメモリ142とを備えている。なお、
図1では、一つのプロセッサ141と一つのメモリ142が示されているが、プロセッサ141とメモリ142は複数設けられていてもよい。なお、映像処理装置140における処理の詳細については後述する。
【0024】
画素ずらし表示ONの場合、映像処理装置140は、元映像の1フレームの画像(以下、元画像)に基づいて、2枚のサブフレーム画像A、Bを生成する。サブフレーム画像Aとサブフレーム画像Bとは、画素表示位置がずれている。すなわち、スクリーン114において、サブフレーム画像Aは第1の画素表示位置に投影され、サブフレーム画像Bは第2の画素表示位置に投影される。映像処理装置140は、サブフレーム画像Aとサブフレーム画像Bとを交互に表示するように、表示映像信号を生成する。
【0025】
例えば、元映像が8K(7680×4320)の解像度であるとすると、サブフレーム画像A、Bはそれぞれ4K(3840×2160)の解像度となる。また、元映像のフレームレート(リフレッシュレート)が60Hzであるとすると、サブフレーム画像Aとサブフレーム画像Bとは、120Hzで切り替わる。
【0026】
メモリ142は、画像処理を行うためのコンピュータプログラムが格納されている。そして、プロセッサ141がメモリ142からプログラムを読み出して、実行する。こうすることで、映像処理装置140は、元画像から表示映像信号を生成する。なお、表示映像信号には、各画素の階調値に対応する画素データが含まれている。表示映像信号の画素データは、各画素のRGBデータである。
【0027】
インターフェース部130は、映像処理装置140とプロジェクタ110との間にインターフェースを有している。すなわち、インターフェース部130を介して、映像処理装置140とプロジェクタ110との間で信号が伝送される。具体的には、インターフェース部130は、映像処理装置140の出力ポートとプロジェクタ110の入力ポートとを接続するAV(Audio Visual)ケーブル等を備えている。インターフェース部130としては、上記のようにHDMI、DisplayPort、DVI、SDI等の汎用I/Fを用いることができる。インターフェース部130は、4K解像度の映像を入出力可能なインターフェースである。
【0028】
〈画像ずらし表示〉
次に、
図2〜
図5を参照して、プロジェクタ110における画素ずらし表示について説明する。
図2は、プロジェクタ110における光学系を示す模式図である。
図3は、画素ずらし表示ユニット1に設けられた光路変更部2の構成を示す図である。
図4は、光路変更部2における光路を説明するための図である。
図5は、画素ずらし表示における画素表示位置を説明するための図である。本実施形態では、特許文献2と同様に、複屈折素子を用いて、画素ずらし表示を行う構成を用いている。なお、画素ずらし表示の詳細については、特許文献2と同様の構成、及び方法を用いることができるため、詳細な説明を省略する。
【0029】
まず、
図2を用いて、プロジェクタ110の光学系である投射部111について説明する。投射部111は、画素ずらし表示部1を備えている。画素ずらし表示部1は個別の光路から入射する赤、緑、青の3つの光を1本の光路に射出する色合成プリズム(クロスダイクロイックプリズム)18の光出口側に設けられる。
【0030】
図2に示すように、投射部111は、光源11と、光源11からの光が進行する側に設けられたインテグレータ12及び偏光合成素子13と、を備える。
【0031】
光源11は、高圧水銀ランプ、メタルハライドランプ等が用いられる。光源11から発した白色光は、直進または回転放物面を有するリフレクタ11aにより反射されて、インテグレータ12に概略平行光として入射する。
【0032】
インテグレータ12は、入射した白色光の強度を空間的に均一化させる。偏光合成素子13は、短冊状に並列に配列されて平板状に構成された複数の偏光ビームスプリッタと位相差板からなる光学素子であり、ランダムに偏光している入射した光の偏光方向を一定の偏光方向に揃えて射出させる。本実施形態では、偏光合成素子13は入射したランダムな偏光をP波に変換する。別の形態として、偏光合成素子13が入射光をS波に揃え、その後、ローテータ(図示せず)等を用いてS波をP波に変換してもよい。
【0033】
投射部111は、更に、クロス型ダイクロイックミラー14を備える。クロス型ダイクロイックミラー14は、偏光合成素子13からの白色光を、青色の成分を含む光Bと、黄色の成分を含む光Yに分離し、それぞれを別の光路に射出する。
【0034】
クロス型ダイクロイックミラー14を経た青色の光Bは、ダイクロイックミラー15による反射を経て、偏光ビームスプリッタ(PBS)としてのワイヤグリッド16に入射する。なお、ダイクロイックミラー15はアルミ蒸着膜等で形成された周知のミラーでもよい。ワイヤグリッド16はP波を透過しS波を反射させる。クロス型ダイクロイックミラー14からの光BはP波なので、ワイヤグリッド16を透過し、青色用液晶表示素子17に入射する。青色用液晶表示素子17は、入射した光Bの偏光成分(即ちP波成分)を表示画像の青色成分の強度に応じてS波に変調しつつ、この入射光をワイヤグリッド16に向けて反射する。青色用液晶表示素子17からの反射光は、ワイヤグリッド16にてS波成分のみが反射されて色合成プリズム18に入射する。
【0035】
一方、クロス型ダイクロイックミラー14を経た黄色の光Yは、ダイクロイックミラー19を経て、更にダイクロイックミラー20に入射する。なお、ダイクロイックミラー19はアルミ蒸着膜等で形成された周知のミラーでもよい。
【0036】
ダイクロイックミラー20では黄色の光Yが緑色の光Gと赤色の光Rとに分離され、緑色の光Gは反射し、赤色の光Rは透過する。その後の光G及び光Rの光路上には、
図1に示すように、PBSとしてのワイヤグリッド21及び緑色用液晶表示素子22、PBSとしてのワイヤグリッド23及び赤色用液晶表示素子24がそれぞれ設置されており、これらの機能は、光Bに対して用いたワイヤグリッド16及び青色用液晶表示素子17と同様である。従って、緑色の光Gについては、緑色用液晶表示素子22による偏光変調によって得られたS波成分のみが色合成プリズム18に入射し、赤色の光Rについては、赤色用液晶表示素子24による偏光変調によって得られたS波成分のみが色合成プリズム18に入射することになる。
【0037】
なお、色合成プリズム18に至るまでの各光学素子の選定、及び配置は
図1に限定されず、適宜変更可能である。液晶表示素子17、22、24は、例えば、LCOS(Liquid Crystal On Silicon)パネルであり、複数の画素がアレイ状に配列されている。液晶表示素子17、22、24は、画素データに基づいて、光を変調して射出する空間変調器である。液晶表示素子17、22、24の各画素は所定のビット数で階調表示を行う。例えば、液晶表示素子17、22、24のそれぞれは、4Kの解像度を有している。また、液晶表示素子17、22、24は、何れも反射型に限られず、透過型でもよい。
【0038】
色合成プリズム18は、各側面及び背面から入射された光B、G、Rを合成し、その光を前面から射出させる。色合成プリズム18から射出された光は、画素ずらし表示ユニット1の光路変更部2を経て、投影光学系としての投影レンズ7に入射する。投影レンズ7は、入射された照明光を、スクリーン114(
図1参照)に向けて投影し、結像させ、画像表示を行う。これにより、投射部111は,スクリーン114上にカラー画像を投影することができる。
【0039】
画素ずらし表示部1は、光学素子の集合体である光路変更部2と、投影レンズ7と、偏光制御ドライバ8と、シャッタ制御ドライバ9とを備える。
【0040】
図3に示すように、光路変更部2は、光の入射側から順番に配置された、1/2波長板31と、偏光角回転素子(第1の偏光変換素子)3と、複屈折素子4と、シャッタ素子(第2の偏光変換素子)5と、偏光子(偏光板)6とを備える。各光学素子3、4、5、6は積層構造として構成してもよく、透明ガラス等により形成された部材によって支持された構成でもよい。色合成プリズム18からの光は1/2波長板31から入射し、偏光子6から射出する。偏光子6からの光は、投影光学系としての投影レンズ7に入射する。
【0041】
1/2波長板31は、入射するS波の光27の偏光方向を45°回転させるために、1/2波長板31の光学軸(進相軸または遅相軸)Tを入射光(S波)の偏光方向に対して光の進行方向(即ち光軸)の周りで22.5°傾けて設置される。1/2波長板31を射出した光は、
図4のように、1/2波長板31から偏光子6に向かう方向に見て入射光の偏光方向に対し、右45°に偏光している。
【0042】
偏光角回転素子3は、入射光の偏光角(偏光方向)をその光軸の周りで90°回転させることにより、右45°方向の偏光を左45°方向の偏光に変換する。以下の説明の便宜上、右45°方向の偏光をR波と、左45°方向の偏光をL波と称する。この変換は、液晶表示素子17、22、24における表示画像の更新の度に、偏光制御ドライバ8の出力電圧(出力信号)に基づいて実施される。偏光制御ドライバ8から出力されるパルス信号のHigh/Lowによって、偏光角回転素子3は偏光を制御することができる。本実施形態ではこのような旋光機能を持つ光学素子として、例えばネマチック液晶などにより構成された透過型の液晶パネルが用いられる。
【0043】
複屈折素子4は、複屈折を生じる物質(例えば水晶)で形成された光学素子であり、入射するR波、L波の偏光方向に応じて射出時の光路をずらす。また、複屈折素子4は、光ローパスフィルタ(OLPF)でもある。液晶表示素子17、22、24の画素ピッチをGとすると、本実施形態の複屈折素子4は、R波とL波での光路間シフト量が約(√2/2)Gとなるように形成されている。
【0044】
シャッタ素子5は、偏光角回転素子3と同様の構成であり、シャッタ制御ドライバ9による印加電圧に応じて入射光の偏光角を、その光軸の周りで90°回転させることにより、R波をL波に(又はL波をR波に)変換する。シャッタ制御ドライバ9から出力されるパルス信号のHigh/Lowによって、シャッタ素子5は、偏光を制御することができる。
【0045】
偏光子6は、偏光角回転素子3によって設定される2つの偏光方向の光のうち、一方の偏光方向の光のみを選択して射出し、他方の偏光方向の光を破棄する。偏光子6は透過型、反射型の何れでもよい。本実施形態の偏光子6は、例えばワイヤグリッドであり、R波のみを通過させ、且つ、L波を遮断するように配置している。
【0046】
投影レンズ7は偏光子6からの光をスクリーン114に向かって拡大投影する。投影レンズ7は既知のレンズを用いて構成されたものでよい。そのため、詳細な説明は割愛する。
【0047】
上記のように、複屈折素子4は、R波とL波とで光路をシフトしている。したがって、サブフレーム画像毎に画素表示位置が切り替わることになる。ここで、スクリーン114における画素の表示位置について、
図5を用いて説明する。
図5は、1画素の表示画素位置を模式的に示すものであり、スクリーン114における横方向をX方向とし、縦方向をY方向としている。サブフレーム画像Aにおける画素を画素PAとし、サブフレーム画像Bにおける画素を画素PBとして示している。なお、画素PAと画素PBとは同じ画素アドレスの画素である。画素PAの位置を第1の画素表示位置とし、画素PBの位置を第2の画素表示位置とする。
【0048】
X方向において、画素PAと画素PBとは、Px/2ずれている。Y方向において、画素PAと画素PBとは、Py/2ずれている。なお、Pxは、X方向における画素ピッチで有り、PyはY方向における画素ピッチである。よって、同じ画素アドレスの画素は、サブフレーム画像Aでは、第1の画素表示位置に投影され、サブフレーム画素Bでは第2の画素表示位置に投影される。よって、サブフレーム画像Aの表示位置(投影位置)とサブフレーム画像Bの表示位置(投影位置)が半画素分ずれている。
【0049】
このような画素ずらし表示を行うため、偏光制御ドライバ8とシャッタ制御ドライバ9がパルス信号を生成している。具体的には、サブフレーム画像Aでは、複屈折素子4にL波が入射し、サブフレーム画像Bでは、複屈折素子4にR波が入射するように、偏光制御ドライバ8が偏光角回転素子3を制御する。サブフレーム画像Aとサブフレーム画像Bとが120Hzで切り替わる場合、偏光制御ドライバ8が120HzでHigh/Lowが切り替わるパルス信号を偏光角回転素子3に供給すればよい。
【0050】
偏光子6はR波を通過させるものであるため、サブフレーム画像を表示させる場合、偏光子6にR波が入射するように、シャッタ制御ドライバ9がシャッタ素子5を制御すればよい。具体的には、複屈折素子4にL波の光が入射するサブフレーム画像Aでは、シャッタ素子5が光をL波からR波に変換する。複屈折素子4にR波の光が入射するサブフレーム画像Bでは、シャッタ素子5が光をR波のままとする。サブフレーム画像Aとサブフレーム画像Bとが120Hzで切り替わる場合、シャッタ制御ドライバ9が120HzでHigh/Lowが切り替わるパルス信号をシャッタ素子5に供給すればよい。
【0051】
これにより、サブフレーム画像Aでは、各画素が第1の画素表示位置に投影され、サブフレーム画像Bでは、各画素が第2の画素表示位置に投影される。すなわち、所定の周期で、スクリーン114における映像の投影位置が切り替わる。また、サブフレーム画像Aとサブフレーム画像Bとが切り替わるタイミングにおいて、偏光子6にL波が入射する期間を設けてもよい。これにより、クロストークを抑制することができる。
【0052】
光路変更部2は、投影レンズ7による投影位置を所定の周期で切り替えるように、制御信号に応じて液晶表示素子からの光の光路をずらす。これにより、投影レンズ7で投影される映像に対して画素ずらし表示を行うことができる。
【0053】
なお、上記の説明では、画素ずらし表示を行うために、複屈折素子4を用いて光路を変更したが、特許文献1と同様に圧電アクチュエータを用いて、光路を変更することも可能である。もちろん、これら以外の構成によって、サブフレーム画像毎に光路を変更してもよい。
【0054】
〈表示映像信号の生成〉
さらに、本実施の形態では、画素ずらし表示のON/OFFを切り替えることができる。画素ずらし表示ONでは、上記の通り、光路変更部2が、サブフレーム画像毎に光路を変更する。すなわち、第1の画素表示位置と第2の画素表示位置とが交互に切り替わるように、光路変更部2が光路を変更する。一方、画素ずらし表示OFFでは、光路変更部2が光路を変更しない。すなわち、画素表示位置が常に同じ位置、例えば、常時第1の画素表示位置になる。
【0055】
図6を参照して、表示映像信号を生成するための構成について説明する。
図6は、映像処理装置140の構成を示すブロック図である。映像処理装置140は、判定部143、制御信号生成部145、表示画像生成部146、付加部147、及び出力ポート148を備えている。
【0056】
元映像が判定部143、及び表示画像生成部146に入力される。元映像は、例えば、映像処理装置140で生成されたCG映像、又は、カメラにより取得されたカメラ映像である。なお、元映像は、画像に関する情報を含んでいれば、完全な画像を形成するものでなくてもよい。
【0057】
元映像の解像度は、液晶表示素子17、22、24の表示解像度よりも高くなっている。例えば、元映像の解像度は8Kとなっており、液晶表示素子17、22、24の表示解像度は4Kとなっている。元映像のフレームレートは、例えば、120Hzとなっている。すなわち、元映像のフレーム画像が(1/120)sec毎に切り替わる。もちろん、フレームレートは、120Hzに限定されるものではない。
【0058】
判定部143は、元映像に基づいて、画素ずらし表示を行うか否かを判定する。判定部143は、元映像の動きがしきい値よりも遅い場合、画素ずらし表示をONとし、動きがしきい値よりも速い場合、画素ずらし表示をOFFとする。例えば、判定部143は、元映像の連続する2以上のフレーム画像を比較する。そして、判定部143は、隣接するフレーム画像間の動きが小さい場合、画素ずらし表示をONとする。一方、判定部143は、隣接するフレーム画像間の動きが大きい場合、画素ずらし表示をOFFとする。
【0059】
そして、判定部143は、判定結果を示す判定信号を制御信号生成部145、及び表示画像生成部146に出力する。なお、判定部143は、フレーム画像全体の動きに基づいて、判定を行ってもよく、フレーム画像の一部分の動きや、フレーム画像に含まれる対象物の動きに応じて判定を行ってもよい。あるいは、判定部143は、元映像の動き以外に応じて、判定してもよい。
【0060】
制御信号生成部145は、判定部143での判定結果に基づいて、制御信号を生成する。制御信号は、画素ずらし表示のON/OFFを示すON/OFF信号と、画素ずらし表示ONの場合の画素表示位置を示すHigh/Low信号とを含んでいる。ON/OFF信号は、1ビットデータである。映像の動きが遅い場合、ON/OFF信号は、画素ずらし表示ONを示す値となる。映像の動きが速い場合、ON/OFF信号は、画素ずらし表示OFFを示す値となる。
【0061】
High/Low信号は、1ビットデータである。例えば、第1の画素表示位置となる場合、High/Low信号は、第1の値となり、第2の画素表示位置となる場合、High/Low信号は、第2の値となる。画素ずらし表示ONの場合、High/Low信号では、第1の値と第2の値とが一定の周期で交互に繰り返される。画素ずらし表示OFFの場合、High/Low信号は、常時同じ値となる。このように、制御信号生成部145は、合計2ビットの制御信号を生成する。制御信号生成部145は生成した制御信号を付加部147に出力する。
【0062】
表示画像生成部146は、判定部143での判定結果に基づいて、元映像から表示画像を生成する。表示画像は、液晶表示素子17、22、24により生成される画像に対応している。具体的には、表示画像は、液晶表示素子17、22、24の各表示画素の画素データ(RGBデータ)により構成される。例えば、インターフェース部130を介して、映像処理装置140が液晶表示素子17、22、24の情報を取得しておくことで、表示解像度等が分かる。
【0063】
元映像の動きが遅い場合、元映像からサブフレーム画像A、Bを表示画像として生成する。ここで、
図7を用いて、元映像に基づいてサブフレーム画像A、Bを生成する処理について説明する。
図7は、元映像の画素と、液晶表示素子17、22、24における表示画素を説明するための図である。以下、液晶表示素子17、22、24を代表して液晶表示素子17のみについて説明する。
【0064】
図7では、元映像における4×4個の画素を画素P11〜P44として示している。画素P11〜P44が、液晶表示素子17の2×2個の表示画素PD11〜PD22に対応している。すなわち、元映像の4つの画素が、液晶表示素子17における1つの表示画素に対応する。
【0065】
サブフレーム画像Aでは、元映像の画素P11の階調値を表示画素PD11の階調値とする。同様に、サブフレーム画像Aでは、元映像の画素P31、P13、P33の階調値をそれぞれ表示画素PD21、PD12、PD22の階調値とする。サブフレーム画像Bでは、画素P22、P42、P24、P44の階調値をそれぞれ表示画素PD11、PD21、PD12、PD22の階調値とする。
【0066】
従って、画素P11、P22が同じ表示画素PD11により表示されることになる。すなわち、サブフレーム画像Aの表示期間(以下、第1表示期間とする)では、液晶表示素子17の表示画素PD11の階調値は、画素P11の階調値となり、サブフレーム画像Bの表示期間(以下、第2表示期間とする)では、液晶表示素子17の表示画素PD11の階調値は、画素P22の階調値となる。
【0067】
このようにすることで、元映像の1フレームの画像(元画像)から、2つのサブフレーム画像A、Bを生成することができる。つまり、元画像の階調値からサブフレーム画像A、Bの各画素の階調値を決定することができる。また、元画像の画素と液晶表示素子の階調値のビット数が異なる場合、適宜液晶表示素子の階調値のビット数に合わせたサブフレーム画像A、Bを生成すればよい。このように、画素ずらし表示がONの場合、表示画像生成部146は、元映像から、サブフレーム画像A、Bを表示画像として生成している。もちろん、サブフレーム画像A、Bを生成するための方法が、上記の方法に限定されるものではない。例えば、表示画像生成部146は、元映像の連続する2フレーム以上の元画像に基づいて、サブフレーム画像A,Bを生成してもよい。
【0068】
画素ずらし表示ONの場合、液晶表示素子17の解像度よりも高い解像度の映像を表示することができる。これにより、表示品質の高い映像を表示することが可能になる。2つのサブフレーム画像A、Bにより1フレームの投影画像が形成される。
【0069】
一方、映像の動きが速い場合、画素ずらし表示がOFFとなる。この場合、表示画像生成部146が異なる方法で、元映像から表示画像を生成する。表示画像生成部146は、元映像の1フレームの画像から1フレームの表示画像を生成する。
図7における4つの画素P11、P12、P21、P22の階調値に基づいて、表示画素PD11の階調値を生成することができる。例えば、表示画像生成部146は、4つの画素P11、P12、P21、P22の階調値の平均値を、表示画素PD11の階調値とする。このようにすることで、元映像の1フレームのフレーム画像から、1フレームの表示画像が生成される。なお、映像処理装置140がIGの場合、映像処理装置140は任意の解像度の元映像を生成することができため、画素ずらし表示OFFの場合、映像処理装置140が表示画像と同じ解像度で元映像を生成してもよい。
【0070】
このように、表示画像生成部146は元映像に基づいて、液晶表示素子17の解像度に応じた表示画像を生成する。画素ずらし表示ONの場合のサブフレーム画像A、Bがそれぞれ表示画像となる。そして、2つのサブフレーム画像A、Bが1フレームの投影画像を形成する。画素ずらし表示OFFの場合の1フレームの表示画像が1フレームの投影画像を形成する。もちろん、表示画像生成部146は、元映像の連続する2以上のフレーム画像に基づいて、表示画像を生成してもよい。表示画像生成部146は、生成した表示画像を付加部147に出力する。
【0071】
付加部147は、表示画像に制御信号を付加する。上記のように、制御信号は2ビットのデータである。本実施の形態では、付加部147は、表示画像の画素データ(RGBデータ)に制御信号を付加している。例えば、付加部147は、表示画像の1ライン目の最初の1画素又は数画素のRGBデータの一部を制御信号に置き換える。このようにすることで、付加部147は、メタデータである制御信号を、表示画像に埋め込むことができる。また、付加部147がRGBデータの低ビット側に制御信号を埋め込むことで、投影画像に対する影響を小さくすることできる。また、付加部147は、常時同じ画素アドレスの同じビットに制御信号を埋め込む。
【0072】
付加部147は、表示画像に制御信号を付加することで、表示映像信号を生成する表示映像信号生成部となる。すなわち、付加部147は、RGBデータに制御信号がメタデータとして埋め込まれた表示映像信号を生成する。付加部147によって生成された表示映像信号は、出力ポート148を介して、インターフェース部130に伝送される。出力ポート148は、例えば、DisplayPortである。
【0073】
このようにして、映像処理装置140は、表示画像と制御信号とを含む表示映像信号を生成する。表示映像信号は表示画像の画素データ(RGBデータ)から構成されている。表示画像のフレームレートは120Hzであり、液晶表示素子17のフレームレートと一致している。液晶表示素子17は、(1/120)sec毎に表示画像を切り替える。
【0074】
表示画像のRGBデータは、液晶表示素子17、22、24の各階調を示すデータである。制御信号は、画素ずらし表示のON/OFF信号と、画素ずらし表示における極性(画素表示位置)を示すHigh/Low信号とを含んでいる。制御信号は、画素データ(RGBデータ)の一部に埋め込まれている。
【0075】
〈プロジェクタ110での表示〉
次に、
図8、及び
図9を用いて、プロジェクタ110における処理を説明する。
図8は、投射部111の構成を示す制御ブロック図である。
図9は、プロジェクタ110における処理を説明するためのタイミングチャートである。
【0076】
図8に示すように、投射部111は、入力ポート121、DSP(Digital Signal Processor)122、デコーダ123、遅延部124、位相シフト部125、及び切替部126を備えている。
【0077】
入力ポート121は、DisplayPortである。映像処理装置140からの表示映像信号は、インターフェース部130を介して、入力ポート121に入力される。入力ポート121からの表示映像信号は、DSP122、及びデコーダ123に入力される。DSP122は、表示映像信号に基づいて、液晶表示素子17の表示駆動信号を生成する。表示駆動信号が各画素の階調値に対応する画素データ(RGBデータ)を含んでいる。
【0078】
DSP122は、表示駆動信号を液晶表示素子17に出力する。そして、液晶表示素子17が表示素子の画素データ(Bデータ)に基づいて、表示画像を生成する。例えば、液晶表示素子17は、表示駆動信号に基づいて、走査線、及び信号線を駆動する表示ドライバを有している。よって、表示画素の画素データに基づいて、液晶表示素子17の各画素が階調表示を行うことができる。
【0079】
なお、液晶表示素子22、24は、液晶表示素子17と同様の処理を行うため、
図8では省略されている。液晶表示素子22、24はそれぞれGデータ、Rデータに基づいて階調表示を行う。液晶表示素子17、22、24は、表示映像信号に含まれる表示画像の画素データ(RGBデータ)に基づいて、光を変調して射出する。よって、投射部111がRGBの光が合成された表示画像を形成することができる。
【0080】
デコーダ123は、表示画像をデコードして、制御信号を抽出する。上記のように、制御信号は、同じ画素アドレスの同じビットに埋め込まれている。よって、デコーダ123は、表示画像に埋め込まれた制御信号を抽出することができる。デコーダ123は、ON/OFF信号を遅延部124に出力し、High/Low信号を位相シフト部125に出力する。
【0081】
位相シフト部125はHigh/Low信号の位相をシフトして、表示画像に対するHigh/Low信号のタイミングを調整する。例えば、DSP122での処理時間に応じて、位相シフト部125が数クロック分、High/Low信号の位相をシフトする。そして、位相シフト部125は、High/Low信号を切替部126に出力する。遅延部124は、ON/OFF信号を所定時間遅延することで、High/Low信号とON/OFF信号のタイミングを調整する。遅延部124は、ON/OFF信号を切替部126、及び液晶表示素子17に出力する。
【0082】
切替部126は、ON/OFF信号及びHigh/Low信号に基づいて、光路変更部2を制御する制御部となる。切替部126は、ON/OFF信号に基づいて、画素ずらし表示のON/OFFを切替える。ON/OFF信号が画素ずらし表示ONを示す値の場合、光路変更部2がサブフレーム期間に対応する周期(120Hz)で光路を切替えるように、切替部126が偏光制御ドライバ8、シャッタ制御ドライバ9を制御する。これにより、表示画像が第1の表示画素位置に投影されるサブフレーム画像Aと、表示画像が第2の画素表示位置に投影されるサブフレーム画像Bとが交互に切り替えられる。
【0083】
ON/OFF信号が画素ずらし表示OFFを示す値の場合、光路変更部2が光路を切替えないように、切替部126が偏光制御ドライバ8、シャッタ制御ドライバ9を制御する。偏光制御ドライバ8、シャッタ制御ドライバ9がそれぞれ偏光角回転素子3と、シャッタ素子5に一定の電圧を供給する。これにより、表示画像が常時同じ位置に投影される。
【0084】
ここで、表示画像の表示フレームレートは、画素ずらし表示ON/OFFで同じ120Hzとなっている。すなわち、液晶表示素子17は、120Hzで表示画像を切替える。画素ずらし表示ONでは、サブフレーム画像Aとサブフレーム画像Bとが120Hzで交互に切り替わるように表示される。
【0085】
画素ずらし表示ONでは、元映像の1枚のフレーム画像から2枚のサブフレーム画像A、Bが表示画像として生成されている。
図9に示すように、映像処理装置140は、元映像のフレーム番号0のフレーム画像からサブフレーム画像A0、B0を生成する。同様に、映像処理装置140は、元映像のフレーム番号1のフレーム画像からサブフレーム画像A1、B1を生成している。サブフレーム画像A0、A1では、High/Low信号がHとなり、サブフレーム画像B0、B1では、High/Low信号がLとなる。
【0086】
画素ずらし表示OFFでは、元映像の1枚のフレーム画像から1枚の表示画像が生成されている。例えば、
図9では、映像処理装置140は、元映像のフレーム番号0のフレーム画像から表示画像A0を生成している。さらに、映像処理装置140は、元映像のフレーム番号1〜3のフレーム画像から表示画像A1〜A3をそれぞれ生成している。
【0087】
よって、画素ずらし表示ONと画素ずらし表示OFFとで、元映像が異なるフレームレートで表示されることになる。
図9では、元映像のフレームレートをVsync_inで示している。画素ずらし表示OFFで、元映像の4枚のフレーム画像を表示する期間において、画素ずらし表示ONでは、元映像の2枚のフレーム画像が表示される。よって、画素ずらし表示OFFでは、高いフレームレートで元映像を表示することができる。
【0088】
動きが速いシーンでは、高いフレームレートで映像を表示することで、画像のぼけを抑制することができるため、投射部111が、画素ずらし表示OFFとしている。例えば、映像中の一部の対象物が高速に移動している場合、映像が高いフレームレートで表示される。これにより、対象物の動きが滑らかに表示される。一方、動きが遅いシーンでは、低いフレームレートで映像を表示しても表示遅延が生じないため、投射部111が、画素ずらし表示ONとしている。これにより、動きが遅いシーンでは、高い解像度で画像を表示することができる。これにより、シーンに応じて、適切な表示を行うことができる。
【0089】
切替部126は、画素ずらし表示のON/OFFはフレーム毎に切替えてもよい。このようにすることで、映像の動きに応じて、ダイナミックに表示を切替えることができる。あるいは、切替部126は、シーン毎に画素ずらし表示のON/OFFを切替えてもよい。
【0090】
さらに、画素データ内に制御信号を埋め込んでいるため、投射部111が、画素ずらし表示を容易に行うことができる。例えば、外部制御により画素ずらし表示を行う場合、CPUなどを介在させる必要があるため、フレーム単位で画素ずらし表示ON/OFFと映像の動きの速さが一致した制御が困難となる。これに対して、本実施形態では、画素データ内に制御信号を埋め込んでいるため、フレーム単位で、画素ずらし表示ON/OFFと映像の動きの速さを一致することができる。すなわち、表示切り替えのタイミングを容易に調整することができる。
【0091】
映像処理装置140が、CG映像を生成するIGである場合、映像の解像度及びフレームレートを任意に変更することができる。映像処理装置140が、映像の動きに応じて、映像の解像度及びフレームレートを変更することができる。映像処理装置140は、動きの速いシーンでは、高いフレームレートかつ低い解像度で映像を生成し、動きの遅いシーンでは、低いフレームレートかつ高い解像度で映像を生成することができる。映像処理装置140が高いフレームレートかつ高い解像度で映像を生成しなくてもよいため、映像処理装置140の処理負荷を軽減することができる。
【0092】
また、元映像がカメラ映像である場合は、カメラの性能(撮像フレームレート及び撮像解像度)に応じて、映像処理装置140が制御信号を生成すればよい。例えば、カメラ映像が解像度8K、フレームレート60Hzで取得されている場合、画素ずらし表示ONとし、解像度4K、フレームレート120Hzで取得されている場合、画素ずらし表示OFFとするよう、映像処理装置140が制御信号を生成する。これにより、カメラ映像を適切に表示することができる。
【0093】
なお、上記の解像度やフレームレートは典型的な一例であり、下記の値に限定されるものではない。例えば、4K60Pで表示できるプロジェクタ110では、画素ずらし表示ONの場合、映像処理装置140が8K30Pの表示画像を生成する。画素ずらし表示OFFの場合、映像処理装置140が4K60Pの表示画像を生成する。
【0094】
複数のフレームを使って擬似的に階調表示を行う方法として、フレームレートコントロール処理(例えば、特開2012−93479号公報、特開2015−194596号広報を参照)や、誤差拡散処理(例えば、特開2015−87631号広報を参照)が有効である。
【0095】
通常、フレームレートコントロール処理は、連続している複数のフレームをセットとして行うが、画素ずらし表示を行う場合の映像信号は、サブフレームAとサブフレームBとが交互に繰り返す信号となる。このため、連続する(サブ)フレームでフレームレートコントロール処理を行うと不具合が生じる。そこで、画素ずらし表示を行う場合、同じ投影位置となるサブフレームAのフレーム毎、およびサブフレームBのフレーム毎に別々にフレームレートコントロール処理を行うように制御する。具体的には、液晶表示素子17に入力されるON/OFF信号がONの場合(画素ずらし表示を行う場合)、ひとつおきの複数のフレーム毎にそれぞれフレームレートコントロール処理を行う。液晶表示素子17に入力されるON/OFF信号がOFFの場合(画素ずらし処理を行わない場合)、連続する複数のフレームをセットとしてフレームレートコントロール処理を行う。
【0096】
特開2015−87631号公報に記載の誤差拡散処理を行う場合も同様に、画素ずらし表示を行う場合、同じ投影位置となるサブフレームAのフレーム毎、およびサブフレームBのフレーム毎に別々に誤差拡散処理を行うように制御する。具体的には、液晶表示素子17に入力されるON/OFF信号がONの場合(画素ずらし表示を行う場合)、ひとつおきの複数のフレーム毎にそれぞれ誤差拡散処理を行う。液晶表示素子17に入力されるON/OFF信号がOFFの場合(画素ずらし処理を行わない場合)、連続する複数のフレーム間で誤差拡散処理を行う。
【0097】
なお、上記の説明では、画素ずらし表示ONにおいて、第1の画素表示位置と第2の画素表示位置とが交互に繰り返されている例について説明したが、光路変更部2が3つ以上の画素表示位置を順番に切替えるようにしてもよい。例えば、4つの画素表示位置を順番に切替えるように、光路変更部2が光路を変更してもよい。この場合、第1の画素表示位置を基準として、第2の画素表示位置はX方向にだけ0.5画素ずれており、第3の画素表示位置では、Y方向にだけ0.5画素ずれており、第4の画素表示位置は、X方向及びY方向に0.5画素ずれている。
【0098】
具体的には、
図7において、第1の画素表示位置が画素P11に対応し、第2の画素表示位置が画素P21に対応し、第3の画素表示位置が画素P12に対応し、第4の画素表示位置が画素P22に対応する。このように映像処理装置140が表示画像を生成することで、液晶表示素子17の4倍の解像度を得ることができる。この場合、例えば、映像処理装置140が、8Kの元映像から、4つの4Kのサブフレーム画像を生成する。よって、投影画像が8Kの解像度となる。
【0099】
画素ずらし表示ONにおける画素表示位置の数を、映像の動きの速さに応じて段階的に変えることも可能である。例えば、映像処理装置140が映像の動きを3段階に分けて、画素ずらし表示OFF、2つの画素表示位置での画素ずらし表示、4つの表示画素位置での画素ずらし表示を切り替えることもできる。
【0100】
具体的には、映像処理装置140が、映像の動きに対する2つのしきい値を設定する。第1のしきい値は、第2のしきい値よりも映像の動きが速いことを示す値となっている。映像の動きが第1のしきい値よりも速い場合は、投射部111が画素ずらし表示をOFFとする。映像の動きが第2のしきい値よりも遅い場合、投射部111が4つの画素表示位置を切り替えて画素ずらし表示を行う。映像の動きが第1のしきい値と第2のしきい値との間の場合、投射部111が2つの画素表示位置を切り替えて画素ずらし表示を行う。この場合、画素表示位置を示す制御信号が2ビットのデータとなる。
【0101】
映像の動きに合わせて、元映像のフレームレートを段階的に変更することが可能となる。よって、より動きの速い映像では、より高いフレームレートでの表示が可能となり、より動きの遅い映像では、より低いフレームレートでの表示が可能となる。このようにすることで、映像処理装置140における処理負荷を低減することができる。
【0102】
なお、上記の説明では、制御信号が画素ずらし表示ON/OFFを切替えるために用いられたが、制御信号は、その他の用途に用いることもできる。映像処理装置140が、2つの表示を切替えるための制御信号を生成すれば良い。具体的には、映像処理装置140が、3D表示のON/OFFを切替える制御信号を生成してもよい。この場合、3D表示ONの場合、映像処理装置140が、サブフレーム画像A、Bと同様に、左画像と右画像とを交互に生成する。3D表示OFFの場合、映像処理装置140が、画素ずらし表示OFFと同様に表示画像を生成する。これにより、3次元画像を表示することができる。
【0103】
あるいは、映像処理装置140が、赤外画像表示ON/OFFを切替える制御信号を生成してもよい。赤外画像表示ONでは、サブフレーム画像A、Bと同様に、赤外画像と可視画像とを交互に生成する。赤外画像OFFの場合、映像処理装置140が、画素ずらし表示OFFと同様に表示画像を生成する。これにより、赤外画像と可視画像とを交互に表示することができる。
上記説明では画素ずらしON/OFF信号と、画素ずらしONの場合の画素表示位置を示す信号とを別々の信号として説明したが、これらを1つの信号として兼用するように応用することも可能である。
【0104】
上記処理のうちの一部又は全部は、コンピュータプログラムによって実行されてもよい。上述したプログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non−transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD−ROM(Read Only Memory)、CD−R、CD−R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。そして、メモリ142に格納された命令をプロセッサ141が実行することで、上記の処理が実行される。
【0105】
以上、本発明者によってなされた発明を実施の形態に基づき具体的に説明したが、本発明は上記実施の形態に限られたものではなく、その要旨を逸脱しない範囲で種々変更可能であることは言うまでもない。