(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024149714
(43)【公開日】2024-10-18
(54)【発明の名称】映像調整方法、映像調整装置、および映像調整システム
(51)【国際特許分類】
H04N 5/74 20060101AFI20241010BHJP
G03B 21/00 20060101ALI20241010BHJP
G03B 21/14 20060101ALI20241010BHJP
【FI】
H04N5/74 D
G03B21/00 D
G03B21/14 Z
【審査請求】有
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2024131654
(22)【出願日】2024-08-08
(62)【分割の表示】P 2020066089の分割
【原出願日】2020-04-01
(71)【出願人】
【識別番号】314012076
【氏名又は名称】パナソニックIPマネジメント株式会社
(74)【代理人】
【識別番号】100132241
【弁理士】
【氏名又は名称】岡部 博史
(74)【代理人】
【識別番号】100183265
【弁理士】
【氏名又は名称】中谷 剣一
(72)【発明者】
【氏名】杉浦 義直
(57)【要約】
【課題】複数の映像投写装置を使用する場合に、視認性および操作性を向上する映像調整システムを提供する。
【解決手段】
第1映像投写装置を含む映像投写装置により投写される映像を調整する方法であって、第1映像投写装置の投写範囲を包含する領域を撮像装置により撮像して、撮像画像を取得するステップと、第1映像投写装置におけるプロジェクタ座標と撮像装置におけるカメラ座標とのマッピング情報を生成するステップと、第1映像投写装置により投写される映像の変更された投写位置を指示する入力を受け付けるステップと、マッピング情報に基づいて、映像のプロジェクタ座標をカメラ座標に変換するステップと、マッピング情報と入力された変更された投写位置とに基づいて、前記映像の投写位置を変更するステップと、を含む。
【選択図】
図1
【特許請求の範囲】
【請求項1】
第1映像投写装置を含む映像投写装置により投写される映像を調整する方法であって、
前記第1映像投写装置の投写範囲を包含する領域を撮像装置により撮像して、撮像画像を取得するステップと、
前記第1映像投写装置におけるプロジェクタ座標と前記撮像装置におけるカメラ座標とのマッピング情報を生成するステップと、
前記第1映像投写装置により投写される映像の変更された投写位置を指示する入力を受け付けるステップと、
前記マッピング情報に基づいて、前記映像のプロジェクタ座標をカメラ座標に変換するステップと、
前記マッピング情報と入力された前記変更された投写位置とに基づいて、前記映像の投写位置を変更するステップと、
を含む、
映像調整方法。
【請求項2】
さらに、
前記マッピング情報に基づいて、前記映像のプロジェクタ座標をカメラ座標に変換する変換行列を生成するステップ、
を含む、
請求項1に記載の映像調整方法。
【請求項3】
前記映像の投写位置を変更するステップは、
入力された前記変更された投写位置と前記変換行列とに基づいて、前記変更された投写位置のプロジェクタ座標をカメラ座標に変換して、前記映像の投写位置を変更することと、
を含む、
請求項2に記載の映像調整方法。
【請求項4】
前記映像投写装置は、さらに、第2映像投写装置を含み、
前記撮像画像は、前記第1映像投写装置の投写範囲である第1範囲と、前記第2映像投写装置の投写範囲である第2範囲と、を含み、
映像調整方法は、さらに、
前記第1範囲に投射された映像の少なくとも一部が前記入力により前記第1範囲の外である第1の点に移動したときに、前記変換行列に基づいて、前記第1の点の前記撮像装置におけるカメラ座標を算出するステップと、
前記第1映像投写装置および前記第2映像投写装置のうち、前記変換行列に基づいて前記カメラ座標を投射範囲に含む映像投写装置を検索するステップと、
前記カメラ座標が、前記第2範囲に含まれるとき、前記映像を前記第1映像投写装置による表示から前記第2映像投写装置による表示に切り替えるステップと、
を含む、
請求項2または3に記載の映像調整方法。
【請求項5】
前記撮像装置における第1基準向きに対する、前記第1映像投写装置により投写された映像に含まれるコンテンツの向きを示す第1回転情報を算出するステップと、
前記第1回転情報に基づいて、前記コンテンツの向きと前記第1基準向きとが所定の関係となるよう、前記第1映像投写装置により投射された映像の表示を調整するステップと、
をさらに含み、
前記マッピング情報を生成するステップは、
前記第1回転情報に基づいて、前記第1映像投写装置により投写された映像におけるプロジェクタ座標と、前記撮像装置におけるカメラ座標とのマッピング情報を生成する、
請求項1から4のいずれか1項に記載の映像調整方法。
【請求項6】
前記撮像装置は、センサを有し、
映像調整方法は、さらに、
前記センサにより、前記第1基準向きと異なる第2基準向きに対する前記撮像装置の傾きを検出するステップと、
前記第2基準向きと前記傾きとに基づいて第2回転情報を算出するステップと、
前記第1回転情報と、前記第2回転情報とに基づき、前記変換行列を生成するステップと、
を含む、
請求項5に記載の映像調整方法。
【請求項7】
映像投写装置による映像の表示を調整する映像調整装置であって、
前記映像投写装置の投写範囲を包含する領域を撮像装置により撮像した撮像画像に基づいて、前記映像の表示を調整する映像調整部と、
前記映像投写装置におけるプロジェクタ座標と、前記撮像装置におけるカメラ座標とのマッピング情報を生成するマッピング部と、
前記マッピング情報に基づいて、前記映像投写装置により投写された映像のプロジェクタ座標をカメラ座標に変換し、ユーザにより入力された前記映像投写装置により投写される映像の投写位置の移動方向に基づいて、前記移動方向を前記映像の投写位置の移動方向に変換し、変換した移動方向に基づいて前記映像の投写位置を移動させる座標変換部と、
を備える、
映像調整装置。
【請求項8】
前記座標変換部は、前記マッピング情報に基づいて、前記映像投写装置により投写された映像のプロジェクタ座標をカメラ座標に変換する変換行列を生成し、ユーザにより入力された前記映像の移動方向と前記変換行列とに基づいて、前記移動方向を前記映像の投写位置の移動方向に変換し、変換した前記移動方向に基づいて前記映像の投写位置を移動させる、
請求項7に記載の映像調整装置。
【請求項9】
映像投写装置と、
前記映像投写装置の投写範囲を包含する領域を撮像して、撮像画像を取得する撮像装置と、
前記映像投写装置を制御する制御装置と、
前記映像投写装置により投写される映像の変更された投写位置を指示する入力を受け付ける入力装置と、
を備え、
前記制御装置は、
前記映像投写装置におけるプロジェクタ座標と、前記撮像装置におけるカメラ座標とのマッピング情報を生成し、
前記マッピング情報に基づいて、前記映像のプロジェクタ座標をカメラ座標に変換し、
前記マッピング情報と入力された前記変更された投写位置とに基づいて、前記映像の投写位置を変更する、
映像調整システム。
【請求項10】
前記制御装置は、
前記マッピング情報に基づいて、前記映像のプロジェクタ座標をカメラ座標に変換する変換行列を生成する、
請求項9に記載の映像調整システム。
【請求項11】
前記制御装置は、
入力された前記変更された投写位置と前記変換行列とに基づいて、前記変更された投写位置のプロジェクタ座標をカメラ座標に変換して、前記映像の投写位置を変更する、
請求項10に記載の映像調整システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、映像調整方法、映像調整装置、および映像調整システムに関する。
【背景技術】
【0002】
特許文献1に記載のプロジェクタ装置は、映像を生成する際に、映像を回転または傾けるべき角度を検出し、検出した角度に従い、画像信号のアスペクト比を維持しながら所定量回転して、映像をスクリーンに投写する。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1では、複数の映像投写装置の使用する場合に、映像調整の作業性の向上という点において未だ改善の余地がある。
【0005】
そこで、本開示では、複数の映像投写装置を使用する場合に、映像調整の作業性を向上する映像調整システムおよび映像調整装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
本開示にかかる映像調整方法は、第1映像投写装置を含む映像投写装置により投写される映像を調整する方法であって、第1映像投写装置の投写範囲を包含する領域を撮像装置により撮像して、撮像画像を取得するステップと、第1映像投写装置におけるプロジェクタ座標と撮像装置におけるカメラ座標とのマッピング情報を生成するステップと、第1映像投写装置により投写される映像の変更された投写位置を指示する入力を受け付けるステップと、マッピング情報に基づいて、映像のプロジェクタ座標をカメラ座標に変換するステップと、マッピング情報と入力された変更された投写位置とに基づいて、映像の投写位置を変更するステップと、を含む。
【0007】
本開示にかかる映像調整装置は、映像投写装置による映像の表示を調整する映像調整装置であって、映像投写装置の投写範囲を包含する領域を撮像装置により撮像した撮像画像に基づいて、映像の表示を調整する映像調整部と、映像投写装置におけるプロジェクタ座標と、撮像装置におけるカメラ座標とのマッピング情報を生成するマッピング部と、マッピング情報に基づいて、映像投写装置により投写された映像のプロジェクタ座標をカメラ座標に変換し、ユーザにより入力された映像投写装置により投写される映像の投写位置の移動方向に基づいて、移動方向を前記映像の投写位置の移動方向に変換し、変換した移動方向に基づいて映像の投写位置を移動させる座標変換部と、を備える。
【0008】
本開示にかかる映像調整システムは、映像投写装置と、映像投写装置の投写範囲を包含する領域を撮像して、撮像画像を取得する撮像装置と、映像投写装置を制御する制御装置と、映像投写装置により投写される映像の変更された投写位置を指示する入力を受け付ける入力装置と、を備え、制御装置は、映像投写装置におけるプロジェクタ座標と、撮像装置におけるカメラ座標とのマッピング情報を生成し、マッピング情報に基づいて、映像のプロジェクタ座標をカメラ座標に変換し、マッピング情報と入力された変更された投写位置とに基づいて、映像の投写位置を変更する。
【発明の効果】
【0009】
本開示によると、複数の映像投写装置を使用する場合に、映像調整の作業性を向上する映像調整システムを提供することができる。
【図面の簡単な説明】
【0010】
【
図1】本開示の実施の形態1にかかる映像調整システムを示すブロック図である。
【
図2】
図1の映像調整システムの映像投写装置とそれぞれの投写範囲を示す概略図である。
【
図3】
図1の映像調整システムによる調整前の各映像投写装置による映像を示す概略図である。
【
図4】
図1の映像調整システム100における映像の調整を説明するための概略図である。
【
図5】各映像投写装置における変換情報の算出方法を示すフローチャートである。
【
図6A】第1回転情報の算出に使用するテストパターンを示す図である。
【
図6B】第1回転情報の算出に使用する別のテストパターンを示す図である。
【
図6C】
図6Aのテストパターンを映像投写装置により投写した映像を撮像装置により撮像した画像を示す図である。
【
図6D】
図6Bのテストパターンを映像投写装置により投写した映像を撮像装置により撮像した画像を示す図である。
【
図7】各映像投写装置の第1回転情報および撮像装置の第2回転情報を示す表である。
【
図8】各映像投写装置において、変換情報に基づいて映像を表示させる処理を示すフローチャートである。
【
図9】
図8の処理により回転されたそれぞれの映像を示す概略図である。
【
図10A】、実施の形態1の変形例にかかるテストパターンを示す概略図である。
【
図10B】映像投写装置により投写されたテストパターンを撮像装置により撮像した撮像画像を示す図である。
【
図11】実施の形態2にかかる映像調整システムの概略構成を示すブロック図である。
【
図12】
図11の映像調整システムの方向を指示する入力に対する移動方向を変換する動作を示すフローチャートである。
【
図13A】
図12の方向変換前の方向を指示する入力に対する映像の移動方向を示す概略図である。
【
図13B】
図12の方向変換後の方向を指示する入力に対する映像の移動方向を示す概略図である。
【
図14】
図11の映像調整システムにおける表示切替の動作を示すフローチャートである。
【
図15A】表示を切り替える前のポインタ映像を示す概略図である。
【
図15B】表示を切り替えた後のポインタ映像を示す概略図である。
【
図16A】実施の形態3にかかる映像調整システムの構成を示す概略図である。
【
図17A】実施の形態4にかかる映像調整システムの構成を示す概略図である。
【発明を実施するための形態】
【0011】
(本開示に至った経緯)
近年、複数の映像投写装置を使用して1つの映像を投写するということが多くなってきている。複数の映像投写装置を使用する場合、1つの映像を投写するために、複数の映像投写装置のそれぞれを異なる向きに配置して使用することがある。例えば、ある映像投写装置はランドスケープ(横置き)配置とし、別の映像投写装置はポートレート(縦置き)配置とする、というように、映像投写装置ごとに配置される向きを変えることがある。この場合、それぞれの映像投写装置の配置される向きに合わせてそれぞれの映像が表示される。従来の映像投写装置において、それぞれの映像を同じ向きに表示させるための映像調整の作業性を向上させるという点において、未だ改善の余地がある。
【0012】
そこで、本発明者らは、例えば実世界での鉛直線の方向などの所定の基準に基づいて、それぞれの画像の向き、およびキーボードまたはマウス等による入力の向きを調整することを検討し、以下の発明に至った。
【0013】
本開示の一態様にかかる映像調整システムは、複数の映像投写装置と、複数の映像投写装置それぞれの投写範囲を包含する領域を撮像して、撮像画像を取得する撮像装置と、映像投写装置と撮像装置とを制御する制御装置と、を備える。制御装置は、撮像画像における第1基準向きに対する、映像投写装置により投写された映像の向きを示す第1回転情報を算出し、第1回転情報に基づいて映像の向きと第1基準向きとが所定の関係となるよう、映像の表示を調整する。
【0014】
この構成によると、複数の映像投写装置を使用する場合に、映像調整の作業性を向上した映像調整システムを提供することができる。
【0015】
制御装置は、さらに、第1回転情報に基づいて、映像投写装置におけるプロジェクタ座標と、撮像装置におけるカメラ座標とのマッピング情報を生成し、マッピング情報に基づいて、映像のプロジェクタ座標をカメラ座標に変換する変換情報を生成してもよい。
【0016】
この構成によると、複数の映像投写装置の間で、映像を移動させることができる。
【0017】
さらに、方向を指示する入力を行う入力装置、を備え、制御装置は、入力と変換情報とに基づいて、入力の指示する方向を変換してもよい。
【0018】
この構成によると、入力により指示された方向と映像の移動方向とが一致するため、視認性および操作性を向上することができる。
【0019】
複数の映像投写装置は、第1映像投写装置と第2映像投写装置とを含み、投写範囲は、第1映像投写装置の第1範囲と第2映像投写装置の第2範囲とを含み、制御装置は、第1範囲に投写された映像の一部が入力により第1範囲の外に移動したとき、変換情報に基づいて所定の点の撮像装置におけるカメラ座標を算出し、複数の映像投写装置のうち、変換情報に基づいてカメラ座標を投写範囲に含む映像投写装置を検索し、カメラ座標が第2範囲に含まれるとき、映像を第1映像投写装置による表示から、第2映像投写装置による表示に切り替えてもよい。
【0020】
この構成によると、複数の映像投写装置にまたがって表示される映像をスムーズに表示することができる。このため、視認性をさらに向上することができる。
【0021】
撮像装置は、第1基準向きと異なる第2基準向きに対する撮像装置の傾きを検出するセンサを有し、制御装置は、第2基準向きと傾きとに基づいて第2回転情報を算出し、第1回転情報と第2回転情報とに基づき、変換情報を生成してもよい。
【0022】
この構成によると、例えば、鉛直方向など、任意の向きに合わせて映像を表示させることができる。
【0023】
制御装置は、それぞれの映像の向きと第1基準向きとが一致するよう、映像の座標を変換してもよい。
【0024】
この構成によると、複数の映像投写装置により1つの映像を投写する際に、それぞれの映像の表示される向きを一致させることができ、視認性をさらに向上することができる。
【0025】
本開示の一態様にかかる映像調整装置は、複数の映像投写装置によるそれぞれの映像の表示を調整する映像調整装置であって、複数の映像投写装置それぞれの投写範囲を包含する領域を撮像装置により撮像した撮像画像における第1基準向きに対する、映像投写装置により投写された映像の向きを示す第1回転情報を算出する算出部と、第1回転情報に基づいて、映像の向きと第1基準向きとが所定の関係となるよう、映像の表示を調整する映像調整部と、を備える。
【0026】
この構成によると、複数の映像投写装置を使用する場合に、映像調整の作業性を向上することができる。
【0027】
さらに、第1回転情報に基づいて、映像投写装置におけるプロジェクタ座標と、撮像装置におけるカメラ座標とのマッピング情報を生成するマッピング部と、マッピング情報に基づいて、映像のプロジェクタ座標をカメラ座標に変換する変換情報を生成する座標変換部と、を備えてもよい。
【0028】
この構成によると、複数の映像投写装置の間で、映像を移動させることができる。
【0029】
以下、実施の形態を図面に基づいて説明する。
【0030】
(実施の形態1)
図1は、本開示の実施の形態1にかかる映像調整システム100を示すブロック図である。
図2は、
図1の映像調整システム100の映像投写装置11~13とそれぞれの投写範囲PL11~PL13を示す概略図である。
図3は、
図1の映像調整システム100による調整前の各映像投写装置11~13による映像V11~V13を示す概略図である。
図4は、
図1の映像調整システム100における映像の調整を説明するための概略図である。なお、
図4のX、Y方向はそれぞれ、水平方向、鉛直上方向を示す。
【0031】
[全体構成]
図1に示すように、映像調整システム100は、3つの映像投写装置11、12、13と、撮像装置21と、制御装置31と、を備える。
【0032】
<映像投写装置>
それぞれの映像投写装置11、12、13は、入力される映像信号に基づいて映像を投写する装置である。各映像投写装置11~13は、後述する制御装置31との間で、映像信号等のデータまたは情報の送受信が可能である。それぞれの映像投写装置11~13は、制御装置31から入力された映像信号に基づいて、映像を生成し、スクリーンまたは壁面等の投写面に投写するための投写光(例えば、可視光)を出力する。それぞれの映像投写装置11~13は、投写面に向かって投写光を出力可能な位置に配置される。
【0033】
本実施の形態では、3つの映像投写装置11~13により1つの映像を投写することができる。このため、
図2に示すように、それぞれの映像投写装置11、12、13のそれぞれの投写範囲PL11、PL12、PL13を超える大きさの映像を投写することができる。ここで、「1つの映像」とは、3つの映像投写装置11~13により、相互に関係を有する映像のことである。相互に関係を有する映像であれば、「1つの映像」の中に複数の映像または画像が含まれていてもよい。
【0034】
また、本実施の形態では、それぞれの映像投写装置11~13はそれぞれ異なる向きで配置されている。具体的には、
図2に示すように、映像投写装置11はポートレート(縦置き)配置であり、映像投写装置12、13はランドスケープ(横置き)配置である。それぞれの映像投写装置11~13の配置は、ポートレート配置またはランドスケープ配置に限らず、例えば、傾斜させて配置されていてもよい。
【0035】
上述のように、それぞれの映像投写装置11~13がそれぞれ異なる向きで配置されている。このため、
図3に示すように、それぞれの映像投写装置11~13により投写されたそれぞれの映像V11~V13もそれぞれ異なる向きで表示される。
【0036】
<撮像装置>
撮像装置は、静止画または動画を撮像する装置である。撮像装置21は、それぞれの投写範囲PL11、PL12、PL13を包含する領域を撮像して、
図4に示す撮像画像CL1を取得する。撮像装置21は、制御装置31との間で、データまたは情報の送受信が可能である。撮像装置21は、映像投写装置11~13により映像が投写される投写面に向かって撮影可能な位置に配置される。撮像装置21は、後述する第2基準向きSR2に対する撮像装置の傾きを検出するセンサ22を有する。センサ22としては、例えばジャイロセンサ等の角度を検出することができるセンサを用いることができる。本実施の形態では、第2基準向きSR2はY方向である。
【0037】
<制御装置>
制御装置31は、3つの映像投写装置11~13と、撮像装置21とを制御する。本実施の形態では、制御装置31は、算出部32と、マッピング部33と、座標変換部34と、映像調整部35と、を備える。
【0038】
算出部32は、撮像画像CL1における、第1基準向きSR1に対する、それぞれの映像投写装置11、12、13の向きである第1回転情報PR11、PR12、PR13を算出する。ここで、第1基準向きSR1は、撮像画像CL1のカメラ座標において基準となる方向である。本実施の形態では、
図4に示す矢印SR1(CR)が第1基準向きSR1を示す。それぞれの第1回転情報PR11~PR13は、例えば、それぞれの映像PL11~PL13の第1基準向きSR1に対する角度を指す。
【0039】
マッピング部33は、第1回転情報PR11~PR13のそれぞれに基づいて、映像投写装置11~13のそれぞれにおけるプロジェクタ座標と、撮像装置21におけるカメラ座標とのマッピング情報を生成する。プロジェクタ座標とは、それぞれの映像投写装置11~13の投写範囲PL11~PL13における座標のことである。カメラ座標とは、撮像装置21の撮像画像CL1における座標のことである。マッピング部33の生成するマッピング情報は、それぞれの映像投写装置11~13のそれぞれのプロジェクタ座標とカメラ座標との対応関係を示す。
【0040】
また算出部32は、第2基準向きSR2に対する撮像装置21の第2回転情報CRを算出してもよい。第2基準向きSR2は、映像V11~V13の観察者にとって基準となる向きであり、本実施の形態ではY方向とすることができる。本実施の形態では、第2回転情報CRは、第1基準向きSR1のY方向に対する角度を指す。
【0041】
座標変換部34は、それぞれの映像投写装置11~13のそれぞれの映像V11~V13の向きと、第1基準向きSR1とが所定の関係となるよう、それぞれの映像投写装置のプロジェクタ座標を変換する変換情報を生成する。所定の関係とは、例えば、それぞれの映像V11~V13の向きと第1基準向きとが一致することである。または、所定の関係は、それぞれの映像の向きが、第1基準向きに対して一定の角度を有していることであってもよい。
【0042】
映像調整部35は、変換情報に基づいて、映像V11~V13の表示の向きを調整する。例えば、
図3に示すように、映像V11~V13は異なる向きに表示されているが、変換情報に基づいてそれぞれの映像V11~V13の座標を変換することにより、後述する
図9に示すように、それぞれの映像V11~V13の向きをそろえることができる。
【0043】
制御装置31は、プログラムを実行することにより所定の機能を実現するCPUまたはMPUのような汎用プロセッサを含む。制御装置31は、図示省略の記憶部に格納された制御プログラムを呼び出して実行することにより、上述した算出部、マッピング部、座標変換部、および映像調整部の機能を実現する。制御装置31は、ハードウェアとソフトウェアとの協働により所定の機能を実現するものに限定されず、所定の機能を実現する専用に設計されたハードウェア回路であってもよい。すなわち、制御装置31は、CPU、MPU、GPU、FPGA、DSP、ASIC等の種々のプロセッサで実現することができる。
【0044】
[動作]
以上のように構成される、映像調整システム100の動作を
図3~
図9を参照して説明する。
図5は、各映像投写装置11~13における回転情報の算出および変換情報の生成方法を示すフローチャートである。
図6Aは、第1回転情報PR11~PR13の算出に使用するテストパターンTP1を示す図である。
図6Bは、第1回転情報PR11~PR13の算出に使用する別のテストパターンTP2を示す図である。
図6Cは、
図6AのテストパターンTP1を映像投写装置11により投写した映像を撮像装置21により撮像した画像CL1を示す図である。
図6Dは、
図6BのテストパターンTP2を映像投写装置11により投写した映像を撮像装置21により撮像した画像CL1を示す図である。
図7は、各映像投写装置11~13の第1回転情報PR11~PR13および撮像装置21の第2回転情報CRを示す表である。
図8は、各映像投写装置11~13において、変換情報に基づいて映像V11~V13を表示させる処理を示すフローチャートである。
図9は、
図8の処理により回転されたそれぞれの映像V11~V13を示す概略図である。
図5のフローチャート、および
図6A~
図9を参照して、回転情報の算出および変換情報の生成方法について説明する。
【0045】
<回転情報の算出>
それぞれの映像投写装置11~13において第1回転情報PR11~PR13を算出し、撮像装置21において第2回転情報CRを算出する。
【0046】
制御装置31により、映像投写装置(プロジェクタ)11~13のうちのいずれかを選択する(ステップS101)。ここでは、ステップS101において映像投写装置11が選択された場合を例に以下のステップS102~S107を説明するが、同一のステップが映像投写装置12および映像投写装置13に対しても実行される。
【0047】
映像投写装置11により、
図6Aに示すテストパターンTP1が投写される。また、投写されたテストパターンTP1を撮像装置21により撮像する。このとき、制御装置31の算出部32は、撮像装置21により撮像された画像CL1において、テストパターンTP1の四隅のカメラ座標CP1~CP4(
図6C参照)および投写されたテストパターンTP1の中心点のカメラ座標C1(
図6C参照)を検出する(ステップS102)。
【0048】
次に、映像投写装置11により、
図6Bに示すテストパターンTP2が投写される。ステップS101と同様に、投写された映像を撮像装置21により撮像する。このとき、制御装置31の算出部32は、撮像装置21により撮像された画像CL1において、テストパターンTP2の中心点のカメラ座標C2(
図6D参照)を検出する(ステップS103)。
【0049】
テストパターンTP1における中心点のカメラ座標C1と、テストパターンTP2における中心点のカメラ座標C2との位置関係により、算出部32は、第1回転情報PR11を算出する(ステップS104)。ここで、
図6Dに示すように、第1回転情報PR11は、テストパターンTP1の中心点のカメラ座標C1からテストパターンTP2の中心点のカメラ座標C2へのベクトルとなる。したがって、第1回転情報PR11は、映像投写装置11により投写される映像V11の、第1基準向きSR1に対する角度θ1を示す。すなわち、第1回転情報PR11は、映像投写装置11による映像V11が、カメラ座標における上方向(第1基準向きSR1)に対してどの程度傾いているかを示す。なお、第1基準向きSR1は、例えば撮像装置21の撮像範囲における上方向など、映像投写装置11の映像V11を表示させたい向きに応じて選択することができる。
【0050】
本実施の形態では、第1回転情報PR11は、
図7の表に示すように102度であり、これは、
図4に示す第1基準向きSR1に対して、映像V11の向きが102度傾いていることを示す。
【0051】
<変換情報の生成>
次に、制御装置31のマッピング部33は、第1回転情報PR1に基づいて、映像投写装置11におけるプロジェクタ座標と、撮像装置21におけるカメラ座標とのマッピング情報を生成する(ステップS105)。具体的には、マッピング部33は、第1回転情報PR11に基づいて、テストパターンTP1の四隅のプロジェクタ座標PP1~PP4(
図4参照)と、テストパターンTP1の四隅のカメラ座標CP1~CP4との対応関係を求める。プロジェクタ座標とカメラ座標とのマッピング情報とは、例えば、プロジェクタ座標PP1~PP4と、カメラ座標CP1~CP4とをマッピングさせるための情報である。例えば、テストパターンTP1の四隅のように、プロジェクタ座標とカメラ座標の4点以上のマッピング情報を取得すると、後述するプロジェクタ座標とカメラ座標とを変換するための変換情報を生成することができる。
【0052】
制御装置31の座標変換部34は、マッピング情報に基づいて、映像投写装置11の投写範囲PL11におけるプロジェクタ座標をカメラ座標に変換する変換情報H1を生成する(ステップS106)。変換情報は、例えば、プロジェクタ座標とカメラ座標との変換行列である。
【0053】
変換情報H1が生成されると、制御装置31により変換情報の生成されていない次の映像投写装置(プロジェクタ)があるか否かを判定する(ステップS107)。変換情報の生成されていない映像投写装置がある場合(ステップS107のYes)、ステップS101に戻り、当該映像投写装置に対してステップS101~ステップS106と同じ処理を実行する。変換情報の生成されていない映像投写装置がない場合(ステップS107のNo)、ステップS108に進む。
【0054】
このように、ステップS102~ステップS106は、映像投写装置12、13に対しても実行される。その結果、
図7の表に示すように、映像投写装置12、13に対する第1回転情報PR12、PR13と、変換情報H2、H3が生成される。なお、ステップS105およびステップS106は必須の工程ではなく、マッピング情報および変換情報H1~H3は必ずしも生成されなくてもよい。変換情報H1~H3は、後述する映像投写装置11~13の間における、ポインタ等の図形の表示切替を行う場合に使用される。
【0055】
また、算出部32により、撮像装置21に搭載されたジャイロセンサ等により、撮像装置21の第2回転情報CRが取得される(ステップS108)。第2回転情報CRは、例えば、鉛直上方向(Y方向)に対する撮像装置21の角度である。本実施の形態では、
図7の表に示すように、第2回転情報CRは-10度である。
【0056】
<映像の表示>
第1回転情報PR1~PR3および第2回転情報CRに基づいて、それぞれの映像投写装置11~13において、それぞれの映像V11~V13を回転して表示させる処理が行われる。以下の説明では、
図8のフローチャートを参照して、映像投写装置11を例に説明するが、映像投写装置12、13でも同様の処理が実行される。
【0057】
第1回転情報PR1~PR3および第2回転情報CRが算出されると、制御装置31の映像調整部35により、映像投写装置11により投写される映像V11のが回転される(ステップS201)。例えば、本実施の形態では、第1回転情報PRと第2回転情報CRを使用して、映像V11を(CR-PR)の角度で回転させる。したがって、映像V11を((-10度)-102度)=-112度の角度で回転させると、映像V11は、Y方向に向いて表示される。
【0058】
映像V11が回転されると、映像調整部35は、回転した方向に映像V11が表示されるよう映像を描画する(ステップS202)。
【0059】
ステップS201~ステップS202の処理は、映像投写装置12、13に対しても実行される。その結果、
図9に示すように、それぞれの映像投写装置11~13による映像V11~V13は、同じ向きに表示される。
【0060】
(変形例)
図10Aは、実施の形態1の変形例にかかるテストパターンTP3を示す概略図である。
図10Bは、映像投写装置11により投写されたテストパターンTP3を撮像装置21により撮像した撮像画像CL2を示す図である。
【0061】
図10AのようなテストパターンTP3を使用すると、第1回転情報PRを1つのテストパターンにより算出することができる。以下に、テストパターンTP3による第1回転情報の算出処理の詳細を説明する。
【0062】
まず、映像投写装置11によりテストパターンTP3を投写し、撮像装置21で投写したテストパターンTP3を撮像する。
図10Aに示すように、テストパターンTP3には、5箇所の白領域W1~W5が設けられている。5箇所の白領域W1~W5のうち、4つの白領域W1~W4はそれぞれ、テストパターンTP3の四隅に配置されている。残りの1つの白領域W5は、テストパターンTP3の中央より上側に配置される。
【0063】
撮像画像CL2において、白領域W1~W5の中心のカメラ座標CPW1~CPW5を検出する。検出したカメラ座標CPW1~CPW5のうち、他の4点に囲まれる点を特定する。
図10Bにおいては、CPW3が他の4点に囲まれる点である。ここで、カメラ座標CPW1~CPW5のうち、四隅に当たるCPW1、CPW2、CPW4、CPW5の4点の重心CPCとCPW3とを結ぶ線分の向きCPVを算出する。このCPVの向きが第1回転情報PR11に相当する。
【0064】
また、それぞれの白領域W1~W5の中心のプロジェクタ座標は、
図10Aに示すPT1~PT5である。このうち、四隅のプロジェクタ座標PT1~PT4と、カメラ座標CPW1、CPW2、CPW4、CPW5とのマッピング情報を生成し、このマッピング情報に基づいて、プロジェクタ座標とカメラ座標との変換行列を生成することができる。
【0065】
この場合、1つのテストパターンで必要な情報を生成することができる。
【0066】
[効果]
上述した実施の形態によると、複数の映像投写装置を使用する場合に、映像調整の作業性を向上した映像調整システムを提供することができる。
【0067】
それぞれの映像V11~V13の第1基準向きSR1に対する傾きである第1回転情報PR11~PR13を算出する。これを利用して、それぞれの映像V11~V13の向きが第1基準向きSR1に対して所定の関係となるよう、それぞれの映像V11~V13の表示を調整することができる。このため、複数の映像投写装置により1つの映像を投写する場合に、それぞれの映像投写装置11~13の表示する映像V11~V13が異なる方向を向くことを抑制でき、映像の視認性が向上する。
【0068】
なお、実施の形態1では、映像投写装置が3つ配置された構成について説明したが、映像投写装置は複数であれば3つに限定されない。また、それぞれの映像投写装置11~13の配置(ランドスケープ配置またはポートレート配置)も単なる例示であり、各映像投写装置11~13は、上述したものと異なる配置であってもよい。
【0069】
また、それぞれの映像投写装置における処理は、順次行われてもよいし、同時に行われてもよい。
【0070】
また、実施の形態1では、それぞれの映像投写装置11~13の投写範囲PL11~PL13は、それぞれ重なる部分を有しているが、それぞれの投写範囲PL11~PL13は必ずしも重なっていなくてもよい。
【0071】
また、実施の形態1では、第1基準向きSR1および第2基準向きSR2に基づいて映像の表示を調整したが、例えば、第2基準向きSR2を使用せず第1基準向きSR1に基づいて映像の表示を調整してもよい。第1基準向きSR1に基づいて映像の表示を調整することで、映像の向きを第1基準向きSR1に一致するようそろえることが可能である。
【0072】
また、実施の形態1で示したテストパターンは単なる例示であり、テストパターンTP1~TP3以外のテストパターンが使用されてもよい。
【0073】
(実施の形態2)
図11~
図15Bを参照して、実施の形態2について説明する。なお、実施の形態2においては、実施の形態1と同一または同等の構成については同じ符号を付して説明する。また、実施の形態2では、実施の形態1と重複する記載を省略する。
【0074】
図11は、実施の形態2にかかる映像調整システム101の概略構成を示すブロック図である。
【0075】
実施の形態2では、映像調整システム101が入力装置41を備え、座標変換部34が方向を指示する入力に対する映像の移動方向を変換する点で実施の形態1と異なる。ここで、「方向を指示する入力」とは、映像投写装置11~13により表示される映像、画像、または図形等を移動する方向を示す入力である。
【0076】
図11に示すように、映像調整システム101は、入力装置41を備える。入力装置41は、ユーザからの入力指示を受け付ける入力用インタフェースである。入力装置41は、ユーザから受け付けた入力指示または操作の内容を電気信号に変換して制御装置31に伝達する。入力装置41としては、例えば、キーボード、マウス、タッチパネル、ボタン等を使用することができる。
【0077】
入力装置41によりユーザが方向を指示する入力を行うと、制御装置31により映像を入力された方向に移動する映像信号が生成され、映像投写装置11~13のうち少なくとも1つに送信される。このため、入力装置41により方向を指示する入力が行われると、ユーザの指定した方向に映像を移動させることができる。
【0078】
例えば、それぞれの映像投写装置11~13により投写される映像の領域R1のコーナーに表示されるポインタ映像P1~P4(
図13A参照)を入力装置41からの入力により移動させることにより、領域R1の範囲を指定することができる。
【0079】
例えば、映像投写装置11により表示されているポインタ映像P1を移動させるために、入力装置41により右方向の入力が行われる。このとき、映像投写装置11は、ポートレート配置されているため、入力装置41により右方向の入力が行われると、ポインタ映像P1は、
図13Aの上方向に移動してしまう。ユーザによる入力の方向と、投写された映像の移動する方向とを合わせるため、本実施の形態のように、方向を指示する入力と、変換情報H1~H3(
図7参照)とに基づいて、方向を指示する入力を変換する処理を行う。
【0080】
また、ポインタ映像P1を移動させた結果、ポインタ映像P1の表示位置が映像投写装置11の投写範囲PL11を超える場合に、ポインタ映像P1を表示可能な別の映像投写装置を検索し、表示の切り替えを行う。
【0081】
[動作]
<移動方向の変換>
図12~
図13Bを参照して、映像調整システム101の方向変換の動作を説明する。本実施の形態では、入力装置41がキーボードであり、上キー、下キー、右キー、左キーのいずれかにより上下左右の方向を指示する入力を行う場合を例に説明をする。
【0082】
図12は、
図11の映像調整システムの方向を指示する入力に対する移動方向を変換する動作を示すフローチャートである。
図13Aは、
図12の方向変換前の方向を指示する入力に対する映像の移動方向を示す概略図である。
図13Bは、
図12の方向変換後の方向を指示する入力に対する映像の移動方向を示す概略図である。
【0083】
ユーザが入力装置41を操作することにより、方向KRが入力される(ステップS301)。ここでは、例えば入力装置41がキーボードであり、右キーが押下されたとする。このとき、制御装置31の座標変換部34は、入力装置41からの入力KRに対して、角度情報を割り当てる。例えば、上キーの場合は0度、左キーは90度、下キーは180度、右キーは270度を入力KRに割り当てるとする。ここでは、右キーが押下されたため、KRに270度が割り当てられる。
【0084】
次に、座標変換部34は、第1回転情報PRおよび第2回転情報CRに基づいて、方向KRを調整する(ステップS302)。ポインタ映像P1は、映像投写装置11により表示されているため、第1回転情報PR11と第2回転情報CRを使用する。第1回転情報PR11と第2回転情報CRに基づいて、KR=KR+(CR-PR11)のように方向KRを調整する。したがって、方向KRは、KR=270度+((-10度)-102度)=158度に調整される。
【0085】
座標変換部34は、調整された方向KRに基づいて、ポインタ映像P1の移動方向を変換する(ステップS303)。調整された方向KRの値に基づき、ポインタ映像P1の移動方向が変換される。具体的には、調整された方向KRが、-45度より大きく45度以下の場合、45度より大きく135度以下の場合、135度より大きく225度以下の場合、225度より大きく315度以下の場合で、それぞれ、上、左、下、右のキーを押下したときのようにポインタ映像P1が移動する。本実施の形態では、調整された方向KRが158度であるため、ポインタ映像P1は下キーを押下したときのように、すなわち
図13Bのように図面右方向に移動する。
【0086】
方向変換処理を実行する前は、入力装置41により「右」を指示する入力が行われると、
図13Aに示すように、ポインタ映像P1は図面の上方向に移動する。ここで、上述の方向変換の処理を実行した後、
図13Bに示すように、ポインタ映像P1は、「右」を指示する入力に対して右方向に移動する。
【0087】
<表示切替>
次に、ポインタ映像P1を、方向を指示する入力により移動させ、映像投写装置11の投写範囲PL11の外に移動した際に、ポインタ映像P1を映像投写装置間で切り替える処理について説明する。
【0088】
図14は、
図11の映像調整システム101における表示切替の動作を示すフローチャートである。
図15Aは、表示を切り替える前のポインタ映像P1を示す概略図である。
図15Bは、表示を切り替えた後のポインタ映像P1を示す概略図である。
【0089】
座標変換部34は、入力装置41により方向KRを指示する入力があるか否かを判定する(ステップS401)。方向KRを指示する入力がない場合、方向KRを指示する入力があるまで待機する(ステップS401のNo)。方向KRを指示する入力がある場合(ステップS401のYes)、上述した、移動方向変換の処理を実行する(ステップS402)。移動方向変換の処理が終了すると、調整された方向KRに基づいてポインタ映像P1の座標を更新していく(ステップS403)。すなわち、調整された方向KRに基づいて、ポインタ映像P1を移動させる。
【0090】
次に、座標変換部34により、ポインタ映像P1が映像投写装置11の投写範囲外に移動したか否かの判定が行われる(ステップS404)。ポインタ映像P1が投写範囲外に移動したか否かは、例えば、ポインタ映像P1の中心点(図示省略)のプロジェクタ座標が投写範囲PL11に含まれているか否かにより判定することができる。ポインタ映像P1が投写範囲PL11に含まれているか否かの判定は、ポインタ映像P1の中心点を使用すること限らず、ポインタ映像P1の任意の点が使用されてもよい。
【0091】
ポインタ映像P1が映像投写装置11の投写範囲PL11の中に表示されている場合、後述するステップS408に移動する。
【0092】
図15Aに示すように、ポインタ映像P1が投写範囲PL11の外に移動した場合(ステップS404のYes)、座標変換部34は、映像投写装置11から引き継いでポインタ映像P1の表示をすることができる継承プロジェクタを検索する(ステップS405)。本実施の形態では、映像投写装置11~13のいずれか1つ以上が継承プロジェクタとなり得る。
【0093】
継承プロジェクタの検索は、まず、ポインタ映像P1の中心点の映像投写装置11の投写範囲PL11におけるプロジェクタ座標から、変換情報に基づいてカメラ座標を算出する。すなわち、投写範囲PL11に投写されたポインタ映像P1の一部が投写範囲PL11の外に移動したとき、変換情報に基づいて、ポインタ映像P1の一部のカメラ座標を算出する。ここで、ポインタ映像P1の一部とは、表示されたポインタ映像P1のうち、特定の点または領域とすることができる。
【0094】
続いて、算出されたカメラ座標を、映像投写装置12および映像投写装置13における変換情報に基づいて、それぞれの映像投写装置12、13におけるプロジェクタ座標に変換する。例えば、ポインタ映像P1の中心点のカメラ座標が映像投写装置12におけるプロジェクタ座標が映像投写装置12の投写範囲PL12に含まれる場合、映像投写装置12は継承プロジェクタとして検出される。同様に、ポインタ映像P1の中心点のカメラ座標が映像投写装置13におけるプロジェクタ座標が映像投写装置13の投写範囲PL13に含まれる場合、映像投写装置13は継承プロジェクタとして検出される。このように、複数の映像投写装置12、13のうち、変換情報に基づいて中心点のカメラ座標を投写範囲に含む映像投写装置を検索する。
【0095】
継承プロジェクタが2つ以上検出される場合は、所定の規則に従ってポインタ映像P1の表示を引き継ぐ映像投写装置を決定することができる。例えば、それぞれの映像投写装置にIDを振り、IDの若い順にポインタ映像P1の映像を引き継いでもよい。
【0096】
座標変換部34により、継承プロジェクタが検出されない場合(ステップS406のNo)、処理を終了する。座標変換部34により、継承プロジェクタが検出されると(ステップS406のYes)、継承プロジェクタにおいて、ポインタ映像P1の座標が計算される(ステップS407)。本実施の形態では、
図15Bに示すように、ポインタ映像P1の中心点のカメラ座標は投写範囲PL12に含まれているため、映像投写装置12が継承プロジェクタとなる。
【0097】
継承プロジェクタ(映像投写装置12)において、ポインタ映像P1の座標を計算する(ステップS407)。ポインタ映像P1の中心点のカメラ座標を、変換情報に基づいて映像投写装置12のプロジェクタ座標に変換することで、ポインタ映像P1の座標を計算することができる。さらに、映像投写装置12において、実施の形態1で説明した表示調整の処理を実行(ステップS408)し、処理が終了する。すなわち、中心点のカメラ座標が投写範囲PL12に含まれるとき、ポインタ映像P1を映像投写装置11による表示から映像投写装置12による表示に切り替える。
【0098】
なお、本実施の形態において、映像投写装置11が本開示の「第1映像投写装置」、映像投写装置12が本開示の「第2映像投写装置」、投写範囲PL11が本開示の「第1範囲」、投写範囲PL12が本開示の「第2範囲」に相当する。
【0099】
[効果]
上述した実施の形態によると、映像の移動する方向をユーザの指示した方向に合わせることができるため、ユーザが直感的に操作を行うことができ、操作性を向上させることができる。
【0100】
表示された映像を、キーボードまたはマウス等の入力により移動させる場合、映像投写装置の配置される向きによっては、キーボードまたはマウス等により入力された方向と、映像が移動する方向が異なることがある。そこで、カメラ座標とそれぞれの映像投写装置のプロジェクタ座標とに基づいて映像の座標を変換することで、映像投写装置間にまたがって映像を移動させることも可能であり、映像の視認性を向上させることができる。
【0101】
また、実施の形態2において、ポインタ映像P1~P4は十字の画像で表示されているがこれに限定されず、ポインタ映像P1~P4は任意の画像で表示することができる。
【0102】
(実施の形態3)
図16A~
図16Bを参照して、実施の形態3について説明する。なお、実施の形態3においては、実施の形態1と同一または同等の構成については同じ符号を付して説明する。また、実施の形態3では、実施の形態1と重複する記載を省略する。
【0103】
図16Aは、実施の形態3にかかる映像調整システムの構成を示す概略図である。
図16Bは、
図16Aの映像調整システムの撮像装置21aによる撮像画像CL2を示す図である。
【0104】
実施の形態3では、ドーム状のスクリーンD1に映像を投写する点で、実施の形態1と異なる。実施の形態3では、ドーム状のスクリーンD1は、天頂方向に向けて設置されている。
【0105】
本実施の形態では、撮像装置21aは、例えば魚眼レンズを有する撮像装置である。撮像装置21aは、
図16Aに示すように、レンズが天頂方向に向くよう設置される。このとき、
図16Bに示すように、撮像装置21aにより撮像された撮像画像CL2において、円C1の円周がスクリーンD1の端部である。この場合、それぞれの映像投写装置11a、12aにより投写される映像の向きは、観察者51から見て円C1の中心が上、円C1の円周側が下になるよう調整される。すなわち、
図16Aにおける鉛直方向gは、撮像画像CL2において、円C1の中心から放射状に射影されるとみなされる。
【0106】
すなわち、本実施の形態では、円C1の中心から放射状に延びる線SR11~SR18それぞれが、スクリーンD1において鉛直方向を示す第1基準向きに相当する。それぞれの映像投写装置11a、12aの投写範囲に含まれる第1基準向きSR11~SR18に基づいて、映像の表示が調整される。
【0107】
例えば、投写範囲に複数の第1基準向きSR11~SR18が含まれる場合、投写範囲の中央に位置する第1基準向きと所定の関係になるよう映像の表示を調整することができる。または、投写範囲を1つの第1基準向きを含む領域に分割し、それぞれの領域の第1基準向きと所定の関係となるように映像の表示を調整してもよい。
【0108】
[効果]
上述した実施の形態によると、天頂方向に配置されたドーム状のスクリーンD1のように映像投写装置により基準となる向きが異なる場合にも、視認性の高い映像を投写することができる。
【0109】
なお、円C1の中心から放射状に延びる線SR11~SR18の数は8つに限られず、使用される映像投写装置の数などにより増減してもよい。
【0110】
(実施の形態4)
図17A~
図17Bを参照して、実施の形態4について説明する。なお、実施の形態4においては、実施の形態3と同一または同等の構成については同じ符号を付して説明する。また、実施の形態4では、実施の形態3と重複する記載を省略する。
【0111】
図17Aは、実施の形態4にかかる映像調整システムの構成を示す概略図である。
図17Bは、
図17Aの映像調整システムの撮像装置21bによる撮像画像CL3を示す図である。
【0112】
実施の形態4では、ドーム状のスクリーンD2は、水平方向に向けて設置されている点で実施の形態3と異なる。
【0113】
本実施の形態では、
図17Aに示すように、例えば魚眼レンズを有する撮像装置21bが水平方向に向くよう設置される。このとき、
図17Bに示すように、撮像装置21bにより撮像された撮像画像CL3において、円C2の円周がスクリーンD2の端部である。この場合、円C2の頂部Z1を天頂、頂部Z1から円C2の中心を通って反対側の頂部Z2を天底とする。観察者52から見て、天頂Z1が上、天底Z2が下になるよう、映像の表示が調整される。鉛直方向gは、撮像画像CL3において、天頂Z1から天底Z2に向かって楕円弧上に射影されるとみなされる。
【0114】
すなわち、本実施の形態では、円C2の天頂Z1から天底Z2に向かって延びる線SR21、および天頂Z1から天底Z2に向かって延びる曲線SR22~SR25のそれぞれが、スクリーンD2において鉛直方向を示す第1基準向きに相当する。それぞれの映像投写装置11b、12bの投写範囲に含まれる第1基準向きSR21~SR25に基づいて、映像の表示が調整される。
【0115】
[効果]
上述した実施の形態によると、水平方向に配置されたドーム状のスクリーンD2のように映像投写装置により基準となる向きが異なる場合にも、視認性の高い映像を投写することができる。
【産業上の利用可能性】
【0116】
本開示は、複数の映像投写装置を使用して映像を投写する種々の用途に適用可能である。
【符号の説明】
【0117】
11、11a、11b 映像投写装置
12、12a、12b 映像投写装置
13 映像投写装置
21、21a、21b 撮像装置
31 制御装置
32 算出部
33 マッピング部
34 座標変換部
35 映像調整部
41 入力装置
100 映像調整システム
101 映像調整システム