(58)【調査した分野】(Int.Cl.,DB名)
投射面の表面状態に応じた歪を検出するためのパターン画像と、前記パターン画像が平面に表示された際の表示画像に対応する期待画像と、所望の投射画像とを少なくとも記憶する記憶手段と、
前記パターン画像および前記所望の投射画像を含む画像を前記投射面に投射する投射手段と、
前記投射面に表示された前記パターン画像の表示画像を取得して歪画像を抽出する画像取得手段と、
前記期待画像と前記歪画像とを比較することによって前記投射面の歪に関する歪パラメータを算出する歪量算出手段と、
前記歪パラメータを用いて前記投射面に投射する前記所望の投射画像を補正する歪補正処理手段と、
前記歪補正処理手段によって補正された前記所望の投射画像と、前記パターン画像とを含む画像データを前記投射手段に出力する画像出力手段とを備える投射装置。
【発明を実施するための形態】
【0014】
以下に、本発明を実施するための形態について図面を用いて説明する。ただし、以下に述べる実施形態には、本発明を実施するために技術的に好ましい限定がされているが、発明の範囲を以下に限定するものではない。なお、以下の実施形態の説明に用いる全図においては、特に理由が無い限り、同様箇所には同一符号を付す。また、同様の構成・動作に関しては繰り返しの説明を省略する場合がある。
【0015】
(構成)
まず、本発明の第1の実施形態に係る投射装置10の構成について、図面を用いて説明する。
図1は、本実施形態に係る投射装置10の構成を示すブロック図である。
図2は、本実施形態に係る投射装置10の構成要素間におけるデータの流れを説明するための概念図である。
【0016】
本実施形態に係る投射装置10は、記憶部11、画像出力部12、投射部13、画像取得部14、歪量算出部15および歪補正処理部16を備える。また、投射装置10は、カメラ20が撮像した画像データを取得するように構成される。なお、投射装置10は、カメラ20(撮像手段)を備えていてもよい。
【0017】
記憶部11は、各種の画像データを記憶する。記憶部11は、投射面の表面状態に応じた歪を検出するためのパターン画像(パターン画像120)、前記パターン画像が平面に表示された際の表示画像に対応する期待画像(期待画像150)、所望の投射画像(投射画像160)を少なくとも記憶する。また、記憶部11は、投射面に表示されたパターン画像120の表示画像に相当する歪画像140や歪パラメータを記憶するように構成してもよい。
【0018】
画像出力部12は、パターン画像120や歪補正された投射画像160などの画像データを投射部13に出力する。すなわち、画像出力部12は、歪補正処理部16によって補正された投射画像160と、パターン画像120とを含む画像データを投射部13に出力する。
【0019】
投射部13は、画像出力部12から出力された画像データを投射する。すなわち、投射部13は、パターン画像120および投射画像160を含む画像を投射面に投射する。投射部13は、一般的なプロジェクタで構成することができる。
【0020】
画像取得部14は、カメラ20が撮像した画像データを取得する。画像取得部14は、取得した画像データからパターン画像120の表示画像(以下、歪画像140)を抽出する。すなわち、画像取得部14は、投射面に表示されたパターン画像120の表示画像に相当する歪画像140を取得する。
【0021】
歪量算出部15は、歪画像140と期待画像150とを比較することによって、投射面の歪量(歪パラメータとも呼ぶ)を算出する。
【0022】
歪補正処理部16は、歪量算出部15が算出した歪量を用いて、投射面に所望の投射画像160が表示されるように歪補正を行う。すなわち、歪補正処理部16は、歪量算出部15によって算出された歪量を用いて投射面に投射する投射画像160を補正する。
【0023】
カメラ20は投射装置10と接続される。カメラ20は、投射面を撮像し、撮像した画像データを画像取得部14に出力する。カメラ20は、一般的なカメラで構成することができる。
【0024】
(本キャリブレーション)
図3〜
図6は、本実施形態におけるキャリブレーション(以下、本キャリブレーション)について説明するための概念図である。本実施形態においては、凹凸のある投射面に映像を投影する際に、投射面上の凹凸に起因する映像の移動量(歪)を領域毎に算出することによって、平面に投影するのと同等の品質で凹凸のある投射面に画像を表示させる。
【0025】
図3は、複数の三角形で構成されるパターン画像120を凹凸面100に投射した際に表示される表示画像101の一例を示す。画像取得部14は、表示画像101から歪画像140を抽出する。
図3において、いくつかの三角形の内部に示す数字は、それらの三角形に付与した番号である。なお、パターン画像120は、一部を順番に投射してもよいし、全体を一括で表示させてもよい。
【0026】
パターン画像を構成する三角形の大きさは、凹凸の大小に応じて変更すればよい。例えば、凹凸が大きい投射面では、パターン画像120を構成する三角形を小さくする。三角形を小さくすれば、補正の精度が上がるために映像品質が向上する。また、例えば、凹凸の小さい投射面では、パターン画像120を構成する三角形を大きくする。三角形を大きくすれば、キャリブレーションにかかる時間を短縮することができる。
【0027】
カメラ20は、凹凸面100を撮像する。凹凸面100に表示された表示画像101は、凹凸面100の状態に応じた歪を含む。
【0028】
図4は、パターン画像120を平面200に投射した場合に表示されることが期待される期待画像201の一例を示す。
図4の期待画像201は、事前に記憶部11に記憶しておけばよく、実際に表示させる必要はない。
図4において、いくつかの三角形の内部に示す数字は、それらの三角形に付与した番号である。同じ番号が付与された
図3の三角形と
図4の三角形とが対応する三角形であり、それらの形状や位置の違いが歪量に反映される。
図3および
図4の対応する三角形の形状や位置の違いが大きいほど歪量が大きい。
【0029】
図5は、表示画像101(歪画像に相当)と期待画像201とを比較する例である。本実施形態においては、表示画像101と期待画像201とを三角形ごとに比較する。例えば、表示画像101の左上の三角形abcは、期待画像201の三角形ABCと比較される。本実施形態においては、三角形abcと三角形ABCとの間の移動量205を算出し、三角形ごとの移動量205から逆行列(歪パラメータ)を算出する。すなわち、歪量算出部15は、表示画像101(歪画像)を構成する三角形abcを、期待画像201を構成する三角形ABCに変換する行列の逆行列を歪パラメータとして算出する。歪補正処理部16は、ここで算出される逆行列を用いて、投射面に表示される投射画像160の歪を補正する。
【0030】
図6は、歪補正された投射画像160を凹凸面100に表示させる例である。本実施形態においては、投射装置10から投射する映像を歪パラメータによってあらかじめ歪ませて投射することにより、凹凸面100に投射されても歪がない映像を表示させることができる。すなわち、本実施形態においては、そのまま凹凸面100に投射すると歪んでしまう投射画像に予め歪補正をすることによって、
図6のように、平面に投射されるのと同じように凹凸面100に投射画像160を表示させる。
【0031】
(動作)
次に、本実施形態に係る投射装置の動作について説明する。
図7は、本実施形態に係る投射装置10の動作を示すフローチャートである。
【0032】
まず、画像出力部12は、パターン画像120を記憶部11から取得し、取得したパターン画像120を出力する。投射部13は、画像出力部12が出力したパターン画像120を投射する(ステップS11)。投射部13から投射されたパターン画像120は、投射面上に表示される。
【0033】
カメラ20は、投射面に表示された表示画像101を撮像する。画像取得部14は、カメラによって撮像された表示画像101を取得し、取得した表示画像101から歪画像140を抽出する(ステップS12)。画像取得部14は、抽出した歪画像140を歪量算出部15に出力する。
【0034】
歪量算出部15は、画像取得部14から歪画像140を取得するとともに、記憶部11から期待画像150を取得する。そして、歪量算出部15は、歪画像140と期待画像150とを比較することにより、歪パラメータを算出する(ステップS13)。
【0035】
ここで、パターン画像を構成する三角形のうちキャリブレーションすべき三角形が残っており、キャリブレーションを継続する場合(ステップS14でYes)は、ステップS11に戻る。一方、キャリブレーションを終了する場合(ステップS14でNo)は、ステップS15に進む。
【0036】
キャリブレーションが終了すると(ステップS14でNo)、歪補正処理部16は、歪量算出部15から歪パラメータを取得する。歪補正処理部16は、所望の投射画像160を記憶部11から取得し、歪パラメータを用いて投射画像160を補正する(ステップS15)。
【0037】
画像出力部12は、補正された投射画像160を投射部13に出力する。投射部13は、補正された投射画像160を投射する(ステップS16)。
【0038】
以上が、本実施形態に係る投射装置の動作についての説明である。
【0039】
(具体例)
ここで、本実施形態に係る投射装置が行うキャリブレーションについて、
図8〜
図10を用いてより詳細に説明する。
【0040】
図8は、凹凸面103に表示画像104を表示させる例である。
図8の例では、十字型のパターンをa、b、c、d、e、・・・というような順番で凹凸面103に投射することによって表示画像104を順次表示させていき、三つの頂点によって形成される三角形ごとに歪パラメータを計算していく。
【0041】
キャリブレーション開始時において、投射装置10は、パターンa、b、cを凹凸面103に順番に投影する。投影された十字型のパターンは、三角形abcを形成する。カメラ20は、凹凸面103を撮像し、三角形abcを投射装置10にフィードバックする。この段階では、表示画像104に含まれる三角形abcのみが取得される。
【0042】
歪量算出部15は、取得された三角形abcと、期待画像105の三角形ABCとを用いて、以下の式1の関係を用いて逆行列T
-1を算出する。逆行列T
-1は、凹凸面103の局所的な状態に応じて三角形abcを三角形ABCに変換するための変換行列Tの逆行列であり、歪パラメータに相当する。式1の三角形abcや三角形ABCは、通常は2次元座標系で表現されるが、3次元座標系で表現されてもよい。変換行列Tのサイズや成分は、三角形abcや三角形ABCの座標系や変換条件に対応させて設定する。なお、歪パラメータの算出においては、三角形を構成する各頂点の移動量や各辺の傾きの違い、面積の違い、形状から求められる歪量などを考慮すればよい。
三角形abc=T
-1三角形ABC・・・(1)
続けて、投射装置10は、パターンd、e、・・・を順番に投射していき、三角形bcd、三角形cde、・・・の順に逆行列(歪パラメータ)を順次求めていく。すなわち、投射装置10は、投射するパターンによって形成される三角形ごとに、表示画像104と期待画像105とに含まれる対応関係にある三角形を比較して歪パラメータを算出していく。その結果、投射装置10は、凹凸面103の局所的な状態に応じた歪パラメータを求めることができる。
【0043】
次に、求めた歪パラメータを用いて投射画像を補正する例を示す。
図10のように、歪補正処理部16は、三角形ごとの歪パラメータを用いて投射画像106を補正する。
【0044】
すなわち、歪補正処理部16は、歪を補正した表示画像(以下、歪補正画像107)を凹凸面103上に表示させるために、歪補正画像107に逆行列(歪パラメータ)を適用することによって投射画像106の参照画素位置を算出する。歪補正処理部16は、歪補正画像107の画素ごとに投射画像106の参照画素位置を算出すればよい。
【0045】
歪補正処理部16は、歪補正画像107上に定義される三角形ごとに投射画像106の参照画素位置を算出する。このとき、歪補正処理部16は、歪補正画像107の全領域に対して投射画像106の参照画素位置を算出することによって、凹凸面103に表示すべき画像を完成させる。なお、歪補正処理部16は、歪補正画像107上に定義される三角形の全てについて歪パラメータが算出された段階で、投射画像106の参照画素位置を算出してもよい。
【0046】
以上のように、本実施形態によれば、複雑な凹凸を有する投射面であっても、平面と同様に画像を表示させることができる。
【0047】
本実施形態によれば、凹凸の大きい投射面では、パターン画像を構成する三角形のサイズを小さくすることにより、補正の精度が向上させて映像品質を向上することができる。また、本実施形態によれば、凹凸の小さい投射面では、パターン画像を構成する三角形のサイズを大きくすることにより、キャリブレーションにかかる時間を短縮することができる。
【0048】
ここで、カメラ20の配置例を示す(
図11)。
図11の例では、凹凸面100に投影された映像を見る観客の視点に合わせてカメラ20を配置する。すなわち、
図11では、凹凸面100(投射面)を鑑賞する位置にカメラ20が設置される。
【0049】
カメラ20は、観客が凹凸面100を鑑賞する位置から凹凸面100に表示された表示画像101を撮像する。
【0050】
投射装置10は、カメラ20から取得した表示画像101と期待画像201とを比較し、その差分から表示画像101の歪を検出する。この歪は、観客の視点から凹凸面100を鑑賞した際に発生する歪を反映している。投射装置10は、この歪みから歪パラメータを生成し、生成した歪パラメータで補正した投射画像160を凹凸面100に投射する。この結果、観客は、歪のない投射画像を凹凸面100上で鑑賞することができる。
【0051】
一般的なプロジェクションマッピングでは、投射画像を表示させる凹凸のある壁面の寸法を実際に測定しておく必要があった。そして、実測した凹凸面の状況を計算に入れてCAD(Computer Aided Design)等で図面を起こすことが必要であった。さらに、3次元のコンピュータグラフィックスソフトウェア等によって仮想空間をパソコンの中で作成し、実際にどのように表示されるのかをシミュレーションしながら映像の歪みを調整する必要があった。
【0052】
本実施形態によれば、壁面の寸法測定や、パソコンの中での仮想空間での歪み調整の手間をなくし、現場においても容易かつ短時間でキャリブレーションを実行することができる。
【0053】
(第2の実施形態)
次に、本発明の第2の実施形態に係る投射装置について説明する。第2の実施形態に係る投射装置は、局所的に大きな歪を有する凹凸面100に投射画像160を投射するためのキャリブレーションを行う。
【0054】
図12は、局所的に大きな歪を有する凹凸面に表示された歪画像121と、対応する期待画像221とを比較する例を示す。
図12においては、パターンaの投射位置が大きく歪んでいるため、三角形abcと三角形ABCとの間の移動量205が大きくなっている。
【0055】
図12のように、局所的に大きな歪が発生した場合、歪量算出部15は、パターン画像120の表示画像を構成する三角形のうち歪が大きな三角形を細分化する指示を出す。
【0056】
歪補正処理部16は、歪量算出部15からの指示に応じて、歪の大きな三角形を細分化する処理を行う。すなわち、歪補正処理部16は、一定量以上の歪が発生した場合、期待画像を構成する領域をより細分化する。
【0057】
歪補正処理部16は、
図13のように、期待画像221の一部をさらに細かく区分した期待画像222を生成する。なお、
図13は、期待画像221の一部を切り出すことを概念化したものであり、
図12における三角形ABCと三角形abcとの位置関係を正確に図示しているわけではない。本実施形態においては、細分化された領域(三角形)のそれぞれから歪補正画像を作成することによって、さらに高品質の画像を表示させることができる。
【0058】
図13の例では、三角形ABCを4つの三角形(三角形AST、三角形BUT、三角形CSU、三角形SUT)に細分化している。各三角形(三角形AST、三角形BUT、三角形CSU、三角形SUT)に対応するのが、三角形ast、三角形but、三角形csu、三角形sutである。
【0059】
図12のように、三角形ABCと三角形abcとを比較しただけでは、歪が大きすぎて適正な画像を表示させることは難しい。このような場合、三角形ABCを細分化すれば、凹凸の局所状態をより反映することができるため、局所的な歪を解消することができる。すなわち、本実施形態によれば、期待画像222を構成する領域を細分化することによって、局所的に大きな歪がある場合であっても歪パラメータを正確に算出することができる。
【0060】
以上のように、本実施形態によれば、パターン画像を細分化することによって、局所的な歪みに対しても品質の高い映像を提供することが可能である。
【0061】
(第3の実施形態)
次に、本発明の第3の実施形態に係る投射装置について説明する。第3の実施形態に係る投射装置は、通常の方法で投影すると凹凸面の状態によって表示画像の端部が欠損して表示される場合に対応する例を示す。本実施形態においては、第1の実施形態に係るキャリブレーション(本キャリブレーション)の前に、画像の端画素を利用したキャリブレーション(以下、端画素キャリブレーション)を実行する。
【0062】
図14のように、本実施形態に係る投射装置10−3は、第1の実施形態に係る投射装置10に端画素調整部17を追加した構成を有する。
【0063】
端画素調整部17は、表示画像の端部が欠損する場合、本キャリブレーションの前に、端画素を用いた端画素キャリブレーションを実行する。
【0064】
図15は、投射面の表面状態に伴って、表示させたい期待画像231(左側)が表示画像232(右側)のように表示される例を示す。表示画像232(右側)は、両脇が抉れたように凹凸面に表示される。
【0065】
図16は、端画素キャリブレーションを説明するための概念図である。
【0066】
まず、端画素キャリブレーションにおいては、期待画像231の端部に沿って、端画素参照を実行する。端画素参照において、投射装置10−3は、
図16の右側のように1→2→3→4のような順番で端部の画素(以下、端画素)を投射していく。
【0067】
カメラ20は、
図16の右側の順番で投射された端画素を撮像する。投射装置10−3は、カメラ20が撮像した端画素の位置から定義される端画素参照位置234(
図16の右側)を算出する。
【0068】
次に、端画素調整部17は、
図17の左側のように、端画素参照位置234と期待画像231とを重ねあわせた画像を生成する。このとき、期待画像231の両脇部分は、端画素参照位置234からはみ出てしまっている。このままの状態で投射画像160を投射すると、投射画像160の端部が欠損した状態で表示されてしまう。
【0069】
ここで、端画素調整部17は、
図17の右側のように、端画素参照位置234の範囲内に収まるように期待画像231を縮小した縮小期待画像235を生成する。
【0070】
端画素調整部17が生成した縮小期待画像235を用いて本キャリブレーションを行えば、投射画像160を投射しても欠損が発生することはない。
【0071】
以上のように、本実施形態に係る投射装置によれば、投射面の状況によって端部が欠損してしまうような場合に、端部が欠損しないように投射画像を適正に表示させることができる。
【0072】
(ハードウェア構成)
図18は、本発明の第1〜第3の実施形態に係る投射装置のハードウェア構成の一例を示すブロック図である。なお、
図18は、各実施形態に係る投射装置を実現するための位置構成例であって、必要なスペックに合わせて構成を追加・削除してもよい。
【0073】
プロセッサ91は、記憶媒体98等に格納されたプログラムを主記憶装置95等に展開し、展開されたプログラムを実行する演算装置である。プロセッサ91は、一般的な中央演算処理装置(CPU:Central Processing Unit)で構成すればよい。歪量算出部15や歪補正処理部16の機能の一部は、プロセッサ91に負わせればよい。
【0074】
投射系92は、光源や液晶パネル、投射レンズなどを含む投射装置である。光源は、ハロゲンランプやキセノンランプ、メタルハライドランプ、超高圧水銀ランプ、レーザなどを用いて構成される。液晶パネルは、光源から出射された光を部分的に遮ったり、透過させたりする。投射レンズは、液晶パネルを通過した光を投射面に投射するためのレンズである。なお、投射系92には、投射方向や拡大率などを制御する制御系を備えていてもよい。投射部13の機能は、投射系92に負わせればよい。
【0075】
コンバータ93は、外部から入力されたアナログデータをデジタル変換する機能と、内部で生成されたデジタルデータをアナログ変換する機能とを有する回路である。コンバータ93は、アナログデータをデジタル変換するA/D(Analog/Digital)変換コンバータと、デジタルデータをアナログ変換するD/A(Digital/Analog)変換コンバータとを別々に構成してもよい。例えば、画像取得部14にA/D変換機能を持たせ、画像出力部12にD/A変換機能を持たせればよい。
【0076】
主記憶装置95は、プロセッサ91が扱うプログラムやデータを一時的に展開するための記憶領域を有する装置である。例えば、ランダムアクセスメモリ(RAM:Random Access Memory)を主記憶装置95として構成することができる。記憶部11の機能の一部を主記憶装置95に負わせてもよい。
【0077】
入出力インターフェース96は、外部や内部の入出力機器との間のデータ授受を行うインターフェースである。例えば、入出力インターフェース96は、カメラ20と接続される。また、例えば、入出力インターフェース96は、図示しないキーボードやマウスなどの入力装置、図示しないディスプレイやプリンタ、ネットワークなどと接続されてもよい。投射部13を入出力機器ととらえる場合、画像出力部12の機能は、入出力インターフェース96に負わせればよい。
【0078】
画像処理回路97は、画像データに対して種々の処理を行う回路である。画像処理回路97は、例えば、撮像データに対して、暗電流補正や補間演算、色空間変換、ガンマ補正、収差の補正、ノイズリダクション、画像圧縮などの画像処理を実行する集積回路である。歪量算出部15や歪補正処理部16の機能の一部は、画像処理回路97に負わせればよい。
【0079】
記憶媒体98は、プログラムやデータを記憶する媒体である。例えば、ハードディスクなどを記憶媒体98として用いることができる。また、ROM(Read Only Memory)を記憶媒体98に加えてもよい。記憶部11の機能は、記憶媒体98に負わせればよい。記憶媒体は、例えばSD(Secure Digital)カードやUSB(Universal Serial Bus)メモリなどの半導体記憶媒体などで実現してもよい。また、記憶媒体は、フレキシブルディスクなどの磁気記憶媒体、CD(Compact Disk)やDVD(Digital Versatile Disc)などの光学記憶媒体やその他の記憶媒体によって実現してもよい。
【0080】
以上が、本発明の実施形態に係る投射装置を可能とするためのハードウェア構成の一例である。なお、
図18のハードウェア構成は、本実施形態に係る投射装置を可能とするためのハードウェア構成の一例であって、本発明の範囲を限定するものではない。また、本実施形態に係る投射装置による処理をコンピュータに実行させる処理プログラムも本発明の範囲に含まれる。さらに、本発明の実施形態に係る処理プログラムを記録したプログラム記憶媒体も本発明の範囲に含まれる。
【0081】
以上、実施形態を参照して本発明を説明してきたが、本発明は上記実施形態に限定されるものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
【0082】
この出願は、2015年9月1日に出願された日本出願特願2015−171877を基礎とする優先権を主張し、その開示の全てをここに取り込む。