IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

7593061射影変換行列の決定方法、プロジェクターおよび決定システム
<>
  • -射影変換行列の決定方法、プロジェクターおよび決定システム 図1
  • -射影変換行列の決定方法、プロジェクターおよび決定システム 図2
  • -射影変換行列の決定方法、プロジェクターおよび決定システム 図3
  • -射影変換行列の決定方法、プロジェクターおよび決定システム 図4
  • -射影変換行列の決定方法、プロジェクターおよび決定システム 図5
  • -射影変換行列の決定方法、プロジェクターおよび決定システム 図6
  • -射影変換行列の決定方法、プロジェクターおよび決定システム 図7
  • -射影変換行列の決定方法、プロジェクターおよび決定システム 図8
  • -射影変換行列の決定方法、プロジェクターおよび決定システム 図9
  • -射影変換行列の決定方法、プロジェクターおよび決定システム 図10
  • -射影変換行列の決定方法、プロジェクターおよび決定システム 図11
  • -射影変換行列の決定方法、プロジェクターおよび決定システム 図12
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-25
(45)【発行日】2024-12-03
(54)【発明の名称】射影変換行列の決定方法、プロジェクターおよび決定システム
(51)【国際特許分類】
   G06T 7/70 20170101AFI20241126BHJP
   H04N 5/74 20060101ALI20241126BHJP
   G09G 5/00 20060101ALI20241126BHJP
   G09G 5/37 20060101ALI20241126BHJP
【FI】
G06T7/70 Z
H04N5/74 Z
G09G5/00 510B
G09G5/00 550C
G09G5/00 X
G09G5/37 300
【請求項の数】 10
(21)【出願番号】P 2020183521
(22)【出願日】2020-11-02
(65)【公開番号】P2022073496
(43)【公開日】2022-05-17
【審査請求日】2023-08-24
(73)【特許権者】
【識別番号】000002369
【氏名又は名称】セイコーエプソン株式会社
(74)【代理人】
【識別番号】110003177
【氏名又は名称】弁理士法人旺知国際特許事務所
(72)【発明者】
【氏名】仙敷 大樹
【審査官】伊知地 和之
(56)【参考文献】
【文献】特開2020-178221(JP,A)
【文献】特開2019-168546(JP,A)
【文献】特開2019-125955(JP,A)
【文献】Development of an information projection interface using a projector-camera system,International Symposium in Robot and Human Interactive Communication,2010年09月13日,https://ieeexplore.ieee.org/document/5598663
【文献】投影マーカーによる実物体と投影画像の位置合わせを用いたプロジェクタ・カメラシステムによる色情報提示,映像情報メディア学会技術報告,2009年02月08日
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00 - 7/90
G06V 10/00 - 20/90
G06V 30/418
G06V 40/16
G06V 40/20
G09G 5/00 - 5/42
H04N 5/66 - 5/74
CSDB(日本国特許庁)
IEEE Xplore
(57)【特許請求の範囲】
【請求項1】
射影変換行列の決定方法であって、
第1領域へ、4つの特徴点を示す第1投写画像をプロジェクターが投写する状況において、前記4つの特徴点のうち、少なくとも一つの特徴点が同一平面から外れて投射される場合、前記少なくとも一つの特徴点と他の特徴点との位置関係を変更する変更指示を受け取り、
前記変更指示に応じて、前記第1領域へ、変更後の4つの特徴点を示す第2投写画像を前記プロジェクターに投写させ、
前記第2投写画像における前記4つの特徴点の座標と、前記第2投写画像が投写される前記第1領域をカメラが撮影することによって生成される第1撮像画像における前記4つの特徴点の座標と、に基づいて、前記プロジェクターが投写する投写画像における座標を表すプロジェクター座標系と、前記カメラが生成する撮像画像における座標を表すカメラ座標系と、を相互に対応づける射影変換行列を決定する、
ことを含み、
前記第2投写画像における前記変更後の4つの特徴点の位置関係は、前記第1投写画像における前記4つの特徴点の位置関係と異なる、
決定方法。
【請求項2】
前記変更指示は、前記第1投写画像において前記4つの特徴点のうち1つの特徴点の位置を変更する指示である、
請求項1に記載の決定方法。
【請求項3】
前記第1投写画像における前記4つの特徴点の位置関係を第1の位置関係から第2の位置関係に変更する前記変更指示を受け付け、前記第2投写画像における前記4つの特徴点の位置関係を前記第2の位置関係とする、
ことをさらに含む請求項2に記載の決定方法。
【請求項4】
前記変更指示は、前記第1投写画像における前記4つの特徴点の位置関係とは異なる位置関係を有する前記4つの特徴点を示す複数の候補画像の中から、1つの候補画像を前記第2投写画像として選択する指示である、
請求項1に記載の決定方法。
【請求項5】
ユーザーによって指示が入力される指示入力部を介して前記変更指示を受け取る、
請求項1から4のいずれか1項に記載の決定方法。
【請求項6】
前記4つの特徴点が同一平面上に投写されることを促す、
ことをさらに含む請求項1から5のいずれか1項に記載の決定方法。
【請求項7】
前記第1投写画像は、さらに、前記4つの特徴点が同一平面上に投写されることを促す画像を示す、
請求項6に記載の決定方法。
【請求項8】
前記4つの特徴点が同一平面上に投写されることを音声で促す、
請求項6に記載の決定方法。
【請求項9】
画像を投写する投写部と、
第1領域へ、4つの特徴点を示す第1投写画像を前記投写部が投写する状況において、前記4つの特徴点のうち、少なくとも一つの特徴点が同一平面から外れて投射される場合、前記少なくとも一つの特徴点と他の特徴点との位置関係を変更する変更指示を受け取る受取部と、
前記変更指示に応じて、前記第1領域へ、変更後の4つの特徴点を示す第2投写画像を前記投写部に投写させる投写制御部と、
前記第2投写画像における前記4つの特徴点の座標と、前記第2投写画像が投写される前記第1領域をカメラが撮影することによって生成される第1撮像画像における前記4つの特徴点の座標と、に基づいて、前記投写部が投写する投写画像における座標を表す投写座標系と、前記カメラが生成する撮像画像における座標を表すカメラ座標系と、を相互に対応づける射影変換行列を決定する決定部と、
を含み、
前記第2投写画像における前記変更後の4つの特徴点の位置関係は、前記第1投写画像における前記4つの特徴点の位置関係と異なる、
プロジェクター。
【請求項10】
画像を投写するプロジェクターと、撮像を実行するカメラと、前記プロジェクターと前記カメラとを制御する制御装置と、を含み、
前記制御装置は、
第1領域へ、4つの特徴点を示す第1投写画像を前記プロジェクターが投写する状況において、前記4つの特徴点のうち、少なくとも一つの特徴点が同一平面から外れて投射される場合、前記少なくとも一つの特徴点と他の特徴点との位置関係を変更する変更指示を受け取る受取部と、
前記変更指示に応じて、前記第1領域へ、変更後の4つの特徴点を示す第2投写画像を前記プロジェクターに投写させる投写制御部と、
前記第2投写画像における前記4つの特徴点の座標と、前記第2投写画像が投写される前記第1領域を前記カメラが撮影することによって生成される第1撮像画像における前記4つの特徴点の座標と、に基づいて、前記プロジェクターが投写する投写画像における座標を表すプロジェクター座標系と、前記カメラが生成する撮像画像における座標を表すカメラ座標系と、を相互に対応づける射影変換行列を決定する決定部と、を含み、
前記第2投写画像における前記変更後の4つの特徴点の位置関係は、前記第1投写画像における前記4つの特徴点の位置関係と異なる、
決定システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、射影変換行列の決定方法、プロジェクターおよび決定システムに関する。
【背景技術】
【0002】
特許文献1は、射影変換行列を決定する手法を開示する。特許文献1に記載の射影変換行列は、プロジェクターからスクリーンに投写される投写画像における位置と、投写画像が投写されているスクリーンをカメラが撮像することによって得られる撮像画像における位置と、を相互に対応づける。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2012-249009号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
射影変換行列を決定するためには、投写画像が少なくとも4つの特徴点を有し、特徴点ごとに、当該特徴点の投写画像における座標と、当該特徴点の撮像画像における座標と、の対応関係が必要になる。さらに、投写画像における各特徴点は、同一平面の表示面に投写される必要がある。
【0005】
しかしながら、店舗などでサイネージ等を目的として投写画像が壁等の同一平面の表示面に投写される状況において表示面の前に銅像等の立体物が存在する場合、投写画像における特徴点のいずれかが、表示面に投写されずに、立体物に投写される虞がある。この場合、投写画像における各特徴点が同一平面の表示面に投写されないため、投写画像における位置と撮像画像における位置とを相互に対応づける射影変換行列を決定できない虞がある。
【課題を解決するための手段】
【0006】
本発明に係る射影変換行列の決定方法の一態様は、第1領域へ、4つの特徴点を示す第1投写画像をプロジェクターが投写する状況において、前記4つの特徴点の位置関係を変更する変更指示を受け取り、前記変更指示に応じて、前記第1領域へ、前記4つの特徴点を示す第2投写画像を前記プロジェクターに投写させ、前記第2投写画像における前記4つの特徴点の座標と、前記第2投写画像が投写される前記第1領域をカメラが撮影することによって生成される第1撮像画像における前記4つの特徴点の座標と、に基づいて、前記プロジェクターが投写する投写画像における座標を表すプロジェクター座標系と、前記カメラが生成する撮像画像における座標を表すカメラ座標系と、を相互に対応づける射影変換行列を決定することを含み、前記第2投写画像における前記4つの特徴点の位置関係は、前記第1投写画像における前記4つの特徴点の位置関係と異なる。
【0007】
本発明に係るプロジェクターの一態様は、画像を投写する投写部と、第1領域へ、4つの特徴点を示す第1投写画像を前記投写部が投写する状況において、前記4つの特徴点の位置関係を変更する変更指示を受け取る受取部と、前記変更指示に応じて、前記第1領域へ、前記4つの特徴点を示す第2投写画像を前記投写部に投写させる投写制御部と、前記第2投写画像における前記4つの特徴点の座標と、前記第2投写画像が投写される前記第1領域をカメラが撮影することによって生成される第1撮像画像における前記4つの特徴点の座標と、に基づいて、前記投写部が投写する投写画像における座標を表す投写座標系と、前記カメラが生成する撮像画像における座標を表すカメラ座標系と、を相互に対応づける射影変換行列を決定する決定部と、を含み、前記第2投写画像における前記4つの特徴点の位置関係は、前記第1投写画像における前記4つの特徴点の位置関係と異なる。
【0008】
本発明に係る決定システムの一態様は、画像を投写するプロジェクターと、撮像を実行するカメラと、前記プロジェクターと前記カメラとを制御する制御装置と、を含み、前記制御装置は、第1領域へ、4つの特徴点を示す第1投写画像を前記プロジェクターが投写する状況において、前記4つの特徴点の位置関係を変更する変更指示を受け取る受取部と、前記変更指示に応じて、前記第1領域へ、前記4つの特徴点を示す第2投写画像を前記プロジェクターに投写させる投写制御部と、前記第2投写画像における前記4つの特徴点の座標と、前記第2投写画像が投写される前記第1領域を前記カメラが撮影することによって生成される第1撮像画像における前記4つの特徴点の座標と、に基づいて、前記プロジェクターが投写する投写画像における座標を表すプロジェクター座標系と、前記カメラが生成する撮像画像における座標を表すカメラ座標系と、を相互に対応づける射影変換行列を決定する決定部と、を含み、前記第2投写画像における前記4つの特徴点の位置関係は、前記第1投写画像における前記4つの特徴点の位置関係と異なる。
【図面の簡単な説明】
【0009】
図1】第1実施形態に係る決定システム1を示す図である。
図2】投写画像の一例である第1投写画像c1を示す図である。
図3】投写画像の他の例である第2投写画像c2を示す図である。
図4】プロジェクター100の一例とカメラ200の一例とを示す図である。
図5】液晶ライトバルブ142の一例を示す図である。
図6】イメージセンサー220の一例を示す図である。
図7】撮像画像f1の一例を示す図である。
図8】決定システム1の操作を説明するための図である。
図9】第1投写画像c1の投写例を示す図である。
図10】操作部110の一例を示す図である。
図11】第3変形例に係るプロジェクター100aを示す図である。
図12】第4変形例に係る決定システム1を示す図である。
【発明を実施するための形態】
【0010】
A:第1実施形態
A1:決定システム1
図1は、第1実施形態に係る決定システム1を示す図である。決定システム1は、プロジェクター100と、カメラ200と、を含む。
【0011】
プロジェクター100は、投写画像cを被投写物300に投写する。投写画像cには、プロジェクター座標系J1が適用される。プロジェクター座標系J1は、投写画像cにおける座標を表す。プロジェクター座標系J1は、投写座標系の一例である。
【0012】
被投写物300は、平面状の表示面400と、立体物500と、を含む。表示面400は、壁である。表示面400は、壁に限らず、例えば、スクリーン、テーブルの甲板、床、天井、ホワイトボードまたは扉でもよい。立体物500は、銅像である。立体物500は、銅像に限らず、例えば、人形、柱または棚でもよい。被投写物300において投写画像cが投写される領域は、第1領域の一例である。
【0013】
カメラ200は、被投写物300において投写画像cが投写される領域を含む領域を撮像することによって、撮像画像を生成する。撮像画像には、カメラ座標系J2が適用される。カメラ座標系J2は、撮像画像における座標を表す。カメラ200は、撮像画像を示す撮像データbを生成する。カメラ200は、撮像データbをプロジェクター100に提供することによって、撮像画像をプロジェクター100に提供する。
【0014】
プロジェクター100は、投写画像cと撮像画像とを用いることによって、プロジェクター座標系J1とカメラ座標系J2とを相互に対応づける射影変換行列Hを決定する。
【0015】
A2:投写画像c
図2は、投写画像cの一例である第1投写画像c1を示す図である。第1投写画像c1は、黒色の背景に存在する白色の4つのドットd1~d4を示す。第1投写画像c1におけるドットd1~d4の位置関係は、第1の位置関係の一例である。
【0016】
第1投写画像c1において、背景の色は、黒色に限らずドットd1~d4の色と異なる色であればよい。ドットd1~d4の色は、白色に限らず、背景の色と異なる色であればよい。第1投写画像c1における4つのドットd1~d4の位置関係は、図2に示される位置関係に限らず適宜変更可能である。ドットd1~d4の各々は、特徴点の一例である。特徴点は、ドットに限らず、例えば、バツ印、多角形、楕円、複数の線の交差部分、または複数の図形の交差部分でもよい。特徴点の数は4に限らず、5以上でもよい。4つのドットd1~d4は、4つの特徴点の一例、さらに言えば、少なくとも4つの特徴点の一例である。
【0017】
図3は、投写画像cの他の例である第2投写画像c2を示す図である。第2投写画像c2は、第1投写画像c1と同様に、黒色の背景に存在する白色の4つのドットd1~d4を示す。第2投写画像c2におけるドットd1~d4の位置関係は、第2の位置関係の一例である。
【0018】
第2投写画像c2において、背景の色は、黒色に限らずドットd1~d4の色と異なる色であればよい。第2投写画像c2において、ドットd1~d4の色は、白色に限らず、背景の色と異なる色であればよい。第2投写画像c2によって示されるドットの数は、第1投写画像c1が示すドットの数と等しい。
【0019】
第2投写画像c2における4つのドットd1~d4の位置関係は、第1投写画像c1における4つのドットd1~d4の位置関係と異なる。4つのドットd1~d4の位置関係が異なるとは、4つのドットd1~d4のうち1つ以上のドットの位置が、第1投写画像c1と第2投写画像c2とで異なることを示す。例えば、図2および図3に示されるように、4つのドットd1~d4のうちドットd3の位置のみが、第1投写画像c1と第2投写画像c2とで異なっている状態を、第2投写画像c2における4つのドットd1~d4の位置関係と、第1投写画像c1における4つのドットd1~d4の位置関係とが異なることを示す。第2投写画像c2における4つのドットd1~d4の位置関係は、第1投写画像c1における4つのドットd1~d4の位置関係と異なっていれば、図3に示される位置関係に限らず適宜変更可能である。
【0020】
プロジェクター100は、第1投写画像c1と第2投写画像c2とを個別に被投写物300に投写可能である。
【0021】
A3:プロジェクター100とカメラ200
図4は、プロジェクター100の一例とカメラ200の一例とを示す図である。プロジェクター100は、操作部110と、記憶部120と、処理部130と、投写部140と、を含む。
【0022】
操作部110は、操作ボタンとタッチパネルのうち少なくとも一方を有する。ユーザーは、操作部110を操作することによって、操作部110に種々の指示を入力する。操作部110は、ユーザーから入力された指示を受け取る。操作部110は、不図示のリモコンを介してユーザーから指示を受け取ってもよい。操作部110は、指示入力部の一例である。
【0023】
記憶部120は、処理部130が読み取り可能な記録媒体である。記憶部120は、例えば、不揮発性メモリーと揮発性メモリーとを含む。不揮発性メモリーは、例えば、ROM(Read Only Memory)、EPROM(Erasable Programmable Read Only Memory)およびEEPROM(Electrically Erasable Programmable Read Only Memory)である。揮発性メモリーは、例えば、RAM(Random Access Memory)である。
【0024】
記憶部120は、処理部130によって実行されるプログラムPと、処理部130が使用する各種のデータと、を記憶する。
【0025】
処理部130は、1または複数のCPU(Central Processing Unit)によって構成される。1または複数のCPUは、1または複数のプロセッサーの一例である。プロセッサーおよびCPUの各々は、コンピューターの一例である。
【0026】
処理部130は、記憶部120からプログラムPを読み取る。処理部130は、プログラムPを実行することによって、種々の機能を実現する。例えば、処理部130は、投写画像cを示す画像データaを投写部140に提供することによって、投写部140に投写画像を投写させる。画像データaは、電圧によって表される。処理部130は、カメラ200から、撮像画像、さらに言えば、撮像データbを受け取る。処理部130は、投写画像cと撮像画像とを用いることによって、プロジェクター座標系J1とカメラ座標系J2とを相互に対応づける射影変換行列Hを決定する。
【0027】
処理部130が有する機能の一部又は全部は、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、FPGA(Field Programmable Gate Array)等の回路で実現されてもよい。
処理部130は、制御装置の一例である。
【0028】
投写部140は、投写画像cを被投写物300に投写する。投写部140は、光源141と、液晶ライトバルブ142と、投写レンズ143と、を含む。
【0029】
光源141は、LED(Light Emitting Diode)である。光源141は、LEDに限らず、例えば、キセノンランプ、超高圧水銀ランプ、またはレーザー光源でもよい。
【0030】
液晶ライトバルブ142は、一対の透明基板間に液晶が存在する液晶パネルによって構成される。液晶ライトバルブ142は、図5に示されるように矩形の画素領域142aを有する。画素領域142aは、マトリクス状に位置する複数の画素142pを含む。
【0031】
液晶ライトバルブ142には、プロジェクター座標系J1が適用される。プロジェクター座標系J1は、x軸とy軸とによって定められる。
【0032】
x軸とy軸は、液晶ライトバルブ142の向きに応じて決定される。x軸は、液晶ライトバルブ142の水平方向と平行、すなわち、液晶ライトバルブ142の横方向と平行である。y軸は、x軸と直交する。y軸は、液晶ライトバルブ142の垂直方向と平行、すなわち、液晶ライトバルブ142の縦方向と平行である。
【0033】
液晶ライトバルブ142では、画像データaを表す電圧が、画素142pごとに液晶に印加される。画素142pは、画像データaに基づく光透過率に設定される。
【0034】
図4において、光源141から出射された光は、液晶ライトバルブ142の画素領域142aによって変調される。液晶ライトバルブ142は、光変調装置の一例である。液晶ライトバルブ142によって変調された光は、投写レンズ143に向かう。投写レンズ143は、液晶ライトバルブ142によって変調された光、すなわち投写画像cを被投写物300に投写する。
【0035】
なお、少なくとも投写部140を含む構成、例えば、プロジェクター100から操作部110と記憶部120と処理部130とが省略された構成は、プロジェクターとして機能する。このため、投写部140は、プロジェクターとも称され得る。
【0036】
カメラ200は、プロジェクター100とは別の構成である。カメラ200は、プロジェクター100に組み込まれてもよい。カメラ200は、撮像レンズ210と、イメージセンサー220と、を含む。
【0037】
撮像レンズ210は、被投写物300上の投写画像cを含む光学像をイメージセンサー220に結像する。投写画像cを含む光学像は、撮像画像である。
【0038】
イメージセンサー220は、CCD(Charge Coupled Device)イメージセンサーである。イメージセンサー220は、CCDイメージセンサーに限らず、例えば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサーでもよい。イメージセンサー220は、撮像レンズ210によって結像される光学像に基づいて、撮像画像を示す撮像データbを生成する。イメージセンサー220は、図6に示されるように、矩形の撮像領域220aを有する。撮像領域220aは、マトリクス状に位置する複数の受光用のセル220pを含む。
【0039】
イメージセンサー220には、カメラ座標系J2が適用される。カメラ座標系J2は、u軸とv軸とによって定められる。
【0040】
u軸とv軸は、イメージセンサー220の向きに応じて決定される。u軸は、イメージセンサー220の水平方向と平行、すなわち、イメージセンサー220の横方向と平行である。v軸は、u軸と直交する。v軸は、イメージセンサー220の垂直方向と平行、すなわち、イメージセンサー220の縦方向と平行である。
【0041】
A4:処理部130の一例
図4において、処理部130は、プログラムPを実行することによって、投写制御部131、受取部132、撮像制御部133、決定部134および動作制御部135として機能する。なお、動作制御部135は、省略されてもよい。
【0042】
投写制御部131は、投写部140を制御する。投写制御部131は、被投写物300に対して投写画像cを投写部140に投写させる。投写制御部131は、投写画像cを示す画像データaを投写部140に提供することによって、被投写物300に対して投写画像cを投写部140に投写させる。例えば、投写制御部131は、第1投写画像c1を示す画像データa1を投写部140に提供することによって、被投写物300に対して第1投写画像c1を投写部140に投写させる。また、投写制御部131は、第2投写画像c2を示す画像データa2を投写部140に提供することによって、被投写物300に対して第2投写画像c2を投写部140に投写させる。
【0043】
受取部132は、操作部110から種々の指示を受け取る。例えば、受取部132は、投写部140が被投写物300へ第1投写画像c1を投写する状況において、ドットd1~d4の位置関係を変更する変更指示e1を受け取る。例えば、変更指示e1は、第1投写画像c1におけるドットd1~d4の位置関係を第1の位置関係から第2の位置関係に変更する指示である。
【0044】
投写部140が被投写物300へ第1投写画像c1を投写する状況において受取部132が変更指示e1を受け取ると、投写制御部131は、変更指示e1に応じて、第1投写画像c1に代えて被投写物300へ第2投写画像c2を投写部140に投写させる。投写部140が被投写物300へ第2投写画像c2を投写する状況において受取部132が変更指示e1を受け取ると、投写制御部131は、変更指示e1に応じて、第2投写画像c2に代えて被投写物300へ第1投写画像c1を投写部140に投写させる。
【0045】
撮像制御部133は、カメラ200を制御する。撮像制御部133は、被投写物300に投写された投写画像cをカメラ200に撮像させることによってカメラ200に撮像画像を生成させる。例えば、撮像制御部133は、被投写物300において第2投写画像c2が投写される領域を含む領域をカメラ200に撮像させることによって、カメラ200に撮像画像f1を生成させる。撮像画像f1は、第1撮像画像の一例である。図7は、撮像画像f1の一例を示す図である。図7に示される撮像画像f1は、ドットd1~d4のいずれも、立体物500には投写されずに表示面400に投写される状態を示す。
【0046】
図4において、決定部134は、第2投写画像c2におけるドットd1~d4の座標と、撮像画像f1におけるドットd1~d4の座標と、に基づいて、射影変換行列Hを決定する。
【0047】
動作制御部135は、射影変換行列Hを用いることによって、プロジェクター100の動作を制御する。例えば、撮像画像が、表示面400を指示する指等の指示体を示す場合、動作制御部135は、射影変換行列Hを用いることによって、カメラ座標系J2における指示体の座標を、プロジェクター座標系J1における指示体の座標に変換する。続いて、動作制御部135は、プロジェクター座標系J1における指示体の座標に線等の絵を有する画像を示す画像データを生成する。投写制御部131は、動作制御部135が生成した画像データを投写部140に提供することによって、プロジェクター座標系J1における指示体の座標に線等の絵を有する画像を、投写部140に投写させる。
【0048】
A5:射影変換行列H
射影変換行列Hは、8つの係数に基づいて特定される。このため、決定部134は、8つの係数を特定することによって、射影変換行列Hを決定する。以下、この点について説明する。
【0049】
プロジェクター座標系J1によって表される平面上の座標(x、y)と、当該座標(x,y)をカメラ座標系J2によって表される平面上に射影変換した座標(u、v)とは、以下の式1および式2で示される関係を有する。
【数1】
【数2】
【0050】
式1と式2には、α、α、α、β、β、β、γ、γおよびγの9つの係数が存在する。しかしながら、式1と式2のいずれも分数であるため、9つの係数のうち1つの係数を任意の値に決定できる。このため、独立した未知の係数の数は8つとなる。したがって、射影変換行列Hは、独立した未知の8つの係数に基づいて特定可能である。
【0051】
決定部134は、プロジェクター座標系J1におけるドットd1~d4の座標と、カメラ座標系J2におけるドットd1~d4の座標とを、式1および式2に代入することによって、8元連立方程式を生成する。決定部134は、当該8元連立方程式を解くことによって、独立した未知の8つの係数を決定する。決定部134は、決定した8つの係数に基づいて、プロジェクター座標系J1の座標(x、y)をカメラ座標系J2の座標(u、v)に射影変換する射影変換行列Hを決定する。
【0052】
決定部134は、カメラ座標系J2の座標(u、v)をプロジェクター座標系J1の座標(x、y)に射影変換する射影変換行列H-1を、射影変換行列Hに基づいて決定する。動作制御部135は、射影変換行列Hに基づいて決定された射影変換行列H-1を用いることによって、カメラ座標系J2における指示体の座標を、プロジェクター座標系J1における指示体の座標に変換する。
【0053】
決定部134は、射影変換行列Hを決定する前に射影変換行列H-1を決定してもよい。この場合、決定部134は、射影変換行列H-1に基づいて射影変換行列Hを決定する。
【0054】
射影変換行列Hおよび射影変換行列H-1のいずれも、プロジェクター座標系J1とカメラ座標系J2とを相互に対応づける射影変換行列である。
【0055】
射影変換行列Hを定めるために使用される式1および式2は、プロジェクター座標系J1によって表される平面上の座標(x、y)と、当該座標(x,y)をカメラ座標系J2によって表される平面上に射影変換した座標(u、v)と、の関係を示す。このため、決定部134が式1と式2を用いて射影変換行列Hを決定する場合、プロジェクター座標系J1におけるドットd1~d4の座標が同一平面上に存在し、かつ、カメラ座標系J2におけるドットd1~d4の座標が同一平面上に存在する必要がある。
【0056】
プロジェクター座標系J1におけるドットd1~d4の座標は、投写画像c上に存在するため、同一平面上に存在する。カメラ座標系J2におけるドットd1~d4の座標は、投写画像cにおける4つのドットd1~d4のいずれもが平面状の表示面400に投写される場合、同一平面上に存在する。投写画像cにおける4つのドットd1~d4の一部が平面状の表示面400に投写され、投写画像cにおける4つのドットd1~d4の残りが立体物500に投写される場合、カメラ座標系J2におけるドットd1~d4の座標は、同一平面上に存在しない。このため、投写画像cにおける4つのドットd1~d4の一部が平面状の表示面400に投写され、かつ、投写画像cにおける4つのドットd1~d4の残りが立体物500に投写される場合、有効な射影変換行列Hの決定は困難となる。
【0057】
本実施形態では、第1投写画像c1における4つのドットd1~d4の一部が平面状の表示面400に投写され、かつ、第1投写画像c1における4つのドットd1~d4の残りが立体物500に投写される場合、変更指示e1に応じて、第1投写画像c1を、第1投写画像c1とは4つのドットd1~d4の位置関係が異なる第2投写画像c2に変更できる。このため、第1投写画像c1を切換え不能な構成に比べて、投写画像cにおける4つのドットd1~d4のいずれもが平面状の表示面400に投写される状況を生じやすくできる。
【0058】
A6:動作の説明
図8は、決定システム1の動作を説明するための図である。ユーザーは、操作部110を操作することによって、操作部110に開始指示を入力する。操作部110は、開始指示を受けると、開始指示を処理部130に提供する。
【0059】
処理部130が開始指示を受けると、ステップS101において投写制御部131は、被投写物300に対して第1投写画像c1を投写部140に投写させる。
【0060】
ステップS101では、投写制御部131は、第1投写画像c1を示す画像データa1を投写部140に提供する。画像データa1が、記憶部120に記憶されている場合、投写制御部131は、記憶部120から画像データa1を読み取る。投写制御部131は、記憶部120から読み取った画像データa1を、投写部140に提供する。投写制御部131は、プログラムPに基づいて画像データa1を生成してもよい。この場合、投写制御部131は、生成した画像データa1を、投写部140に提供する。投写部140は、画像データa1を受け取ると、画像データa1が示す第1投写画像c1を被投写物300に投写する。
【0061】
ここで、図9に示されるように、第1投写画像c1によって示される4つのドットd1~d4のうちドットd3のみが、表示面400ではなく、立体物500に投写される場合、決定部134は、有効な射影変換行列Hを決定できない。
【0062】
そこで、ユーザーは、操作部110を操作することによって、ドットd1~d4の位置関係を変更する変更指示e1を操作部110に入力する。変更指示e1は、例えば、立体物500に投写されている第1投写画像c1において4つのドットd1~d4のうち少なくとも1つのドットの位置を変更する指示である。第1投写画像c1において4つのドットd1~d4のうち少なくとも1つのドットは、例えば、ドットd3である。
【0063】
操作部110が図10に示されるように選択ボタン111と方向ボタン112とを有する場合における変更指示e1の入力例を説明する。
【0064】
この場合、変更指示e1は、ドットを選択する選択指示と、ドットの移動方向を指定する方向指示と、ドットの移動距離を指定する距離指示と、を含む。選択ボタン111は、選択指示の入力に用いられる。方向ボタン112は、方向指示の入力と、距離指示の入力と、に用いられる。
【0065】
選択ボタン111は、ドットd1に対応する第1選択ボタン111aと、ドットd2に対応する第2選択ボタン111bと、ドットd3に対応する第3選択ボタン111cと、ドットd4に対応する第4選択ボタン111dと、を含む。
【0066】
第1選択ボタン111aの押下は、ドットd1を選択する選択指示を入力するための操作である。押下は、操作の一例である。第2選択ボタン111bの押下は、ドットd2を選択する選択指示を入力するための操作である。第3選択ボタン111cの押下は、ドットd3を選択する選択指示を入力するための操作である。第4選択ボタン111dの押下は、ドットd4を選択する選択指示を入力するための操作である。
【0067】
方向ボタン112は、上方向に対応する上方向ボタン112aと、下方向に対応する下方向ボタン112bと、右方向に対応する右方向ボタン112cと、左方向に対応する左方向ボタン112dと、を含む。
【0068】
上方向ボタン112aの押下は、ドットの上方向への移動を指定する方向指示を入力するための操作である。下方向ボタン112bの押下は、ドットの下方向への移動を指定する方向指示を入力するための操作である。右方向ボタン112cの押下は、ドットの右方向への移動を指定する方向指示を入力するための操作である。左方向ボタン112dの押下は、ドットの左方向への移動を指定する方向指示を入力するための操作である。
【0069】
上方向ボタン112a、下方向ボタン112b、右方向ボタン112cおよび左方向ボタン112dの各々の1回の押下操作は、液晶ライトバルブ142における5画素分の移動距離を指定する距離指示を入力するための操作である。5画素は、所定数の画素の一例である。所定数の画素は、5画素に限らず、6画素以上でもよいし、1画素以上5画素未満でもよい。
【0070】
図9に示されるように立体物500に投写されているドットd3の位置を、図7に示されるように表示面400において立体物500の右に位置する右領域に移動するために、ユーザーは、まず、第3選択ボタン111cの押下によって、ドットd3を選択する選択指示を操作部110に入力する。
【0071】
続いて、ユーザーは、右方向ボタン112cの1回以上の押下によって、ドットの右方向への移動を指定する方向指示と、ドットの右領域までの移動距離を指定する距離指示と、を操作部110に入力する。
【0072】
操作部110は、ユーザーから、選択指示と方向指示と距離指示とを含む変更指示e1を受け取ると、変更指示e1を処理部130に提供する。
【0073】
続いて、ステップS102において処理部130の受取部132は、操作部110から変更指示e1を受け取る。
【0074】
受取部132が変更指示e1を受け取ると、ステップS103において、投写制御部131は、第1投写画像c1における4つのドットd1~d4の位置関係を変更指示e1に応じて変更することによって、第2投写画像c2における4つのドットd1~d4の位置関係を決定する。
【0075】
例えば、投写制御部131は、液晶ライトバルブ142上の第1投写画像c1におけるドットd1~d4の各座標のうちドットd3の座標のみを、プロジェクター座標系J1において右方向、すなわちx軸と平行な方向のうちx座標の値が増加する方向に、距離指示が示す距離だけ移動する。投写制御部131は、ドットd3の座標の移動によって、第2投写画像c2における4つのドットd1~d4の位置関係を決定する。
【0076】
続いて、ステップS104において投写制御部131は、ステップS103で決定された位置関係を有する4つのドットd1~d4を示す第2投写画像c2を、被投写物300に対して、投写部140に投写させる。
【0077】
ステップS104では、投写制御部131は、まず、第2投写画像c2を示す画像データa2を生成する。続いて、投写制御部131は、画像データa2を投写部140に提供する。投写部140は、画像データa2を受け取ると、画像データa2が示す第2投写画像c2を被投写物300に投写する。
【0078】
ユーザーは、第2投写画像c2における4つのドットd1~d4のいずれもが表示面400に投写されていることを確認すると、操作部110を操作することによって、操作部110に撮像指示を入力する。操作部110は、撮像指示を受けると、撮像指示を処理部130に提供する。
【0079】
処理部130が撮像指示を受けると、ステップS105において撮像制御部133は、被投写物300において第2投写画像c2が投写される領域を含む領域をカメラ200に撮像させることによって、カメラ200に撮像画像f1を生成させる。カメラ200は、撮像画像f1を示す撮像データbを、処理部130に提供する。
【0080】
続いて、ステップS106において決定部134は、第2投写画像c2に示されるドットd1~d4のプロジェクター座標系J1における座標と、撮像画像f1に示されるドットd1~d4のカメラ座標系J2における座標と、を特定する。
【0081】
例えば、決定部134は、第2投写画像c2を示す画像データa2を解析することによって、第2投写画像c2に示されるドットd1~d4のプロジェクター座標系J1における座標を特定する。決定部134は、撮像画像f1を示す撮像データbを解析することによって、撮像画像f1に示されるドットd1~d4のカメラ座標系J2における座標を特定する。
【0082】
続いて、ステップS107において決定部134は、第2投写画像c2に示されるドットd1~d4のプロジェクター座標系J1における座標と、撮像画像f1に示されるドットd1~d4のカメラ座標系J2における座標と、に基づいて、射影変換行列Hを決定する。
【0083】
例えば、決定部134は、第2投写画像c2に示されるドットd1~d4のプロジェクター座標系J1における座標と、撮像画像f1に示されるドットd1~d4のカメラ座標系J2における座標とを、上述の式1および式2に代入することによって、8元連立方程式を生成する。決定部134は、当該8元連立方程式を解くことによって、独立した未知の8つの係数を決定する。決定部134は、決定した8つの係数に基づいて、プロジェクター座標系J1の座標をカメラ座標系J2の座標に射影変換する射影変換行列Hを決定する。
【0084】
決定部134は、上述の式1および式2を用いることによって、射影変換行列Hの代わりに、射影変換行列H-1を決定してもよい。
【0085】
なお、例えば、第1投写画像c1におけるドットd1~d4の全てが表示面400に投写される状況においてユーザーが操作部110に撮像指示を入力する場合、以下の動作が実行される。ステップS102~S104が省略される。ステップS106において決定部134は、第1投写画像c1に示されるドットd1~d4のプロジェクター座標系J1における座標と、第1投写画像c1を示す撮像画像に示されるドットd1~d4のカメラ座標系J2における座標と、を特定する。ステップS107において決定部134は、第1投写画像c1に示されるドットd1~d4のプロジェクター座標系J1における座標と、第1投写画像c1を示す撮像画像に示されるドットd1~d4のカメラ座標系J2における座標と、に基づいて、射影変換行列Hを決定する。
【0086】
A7:第1実施形態のまとめ
投写制御部131は、変更指示e1に応じて、被投写物300に対して、第1投写画像c1に代えて第2投写画像c2を投写部140に投写させる。第2投写画像c2におけるドットd1~d4の位置関係は、第1投写画像c1におけるドットd1~d4の位置関係と異なる。このため、第1投写画像c1におけるドットd1~d4のいずれかが表示面400に投写されなくても、第2投写画像c2におけるドットd1~d4の全てが表示面400に投写される可能性が生じる。決定部134は、第2投写画像c2に示されるドットd1~d4のプロジェクター座標系J1における座標と、撮像画像f1に示されるドットd1~d4のカメラ座標系J2における座標と、に基づいて、射影変換行列Hを決定する。したがって、第1投写画像c1におけるドットd1~d4のいずれかが表示面400に投写されなくても、決定部134は、有効な射影変換行列Hを決定できる。
【0087】
変更指示e1として、第1投写画像c1において4つのドットd1~d4のうち少なくとも1つのドットの位置を変更する指示が用いられる場合、ユーザーは、同一平面にないドットに位置を他のドットが存在する同一平面に変更するという直感的に認識しやすい指示を行うことができる。
【0088】
決定部134は、第1投写画像c1における4つのドットd1~d4の位置関係を、変更指示e1に応じて変更することによって、第2投写画像c2における4つのドットd1~d4の位置関係を決定する。このため、第2投写画像c2における4つのドットd1~d4の位置関係を、ユーザーが意図する位置関係に決定できる。
【0089】
受取部132は、ユーザーによって指示が入力される操作部110を介して変更指示e1を受け取る。このため、ユーザーは、操作部110に変更指示e1を入力することによって、4つのドットd1~d4の位置関係を変更できる。
【0090】
B:変形例
以上に例示した実施形態の変形の態様を以下に例示する。以下の例示から任意に選択された2個以上の態様を、相互に矛盾しない範囲において適宜に併合してもよい。
【0091】
B1:第1変形例
第1実施形態において、操作部110は、選択ボタン111と方向ボタン112とを有する構成に限らず適宜変更可能である。
【0092】
操作部110は、選択ボタン111の代わりに、選択ボタン111と同様の機能を有する選択スイッチを有してもよい。操作部110は、方向ボタン112の代わりに、方向ボタン112と同様の機能を有する方向スイッチを有してもよい。
【0093】
操作部110は、選択ボタン111および方向ボタン112をGUI(Graphical User Interface)によって実現するタッチパネルを含んでもよい。この場合、物理的な選択ボタン111および物理的な方向ボタン112は省略されてもよい。
【0094】
操作部110は、選択ボタン111および方向ボタン112のいずれも示さないタッチパネルを含んでもよい。この場合、操作部110のタッチパネルは、第1投写画像c1を表示する。ユーザーは、タッチパネルが表示する第1投写画像c1において第2投写画像c2に表示させるべきドットd1~d4の位置をタッチすることによって、第2投写画像c2に表示させるべきドットd1~d4の位置を示す変更指示e1を、操作部110に入力する。操作部110は、当該変更指示e1を、処理部130に提供する。受取部132は、当該変更指示e1を、操作部110から受け取る。
【0095】
操作部110が、第1投写画像c1を表示するタッチパネルを含む場合、ユーザーは、タッチパネルへのフリック操作によって、タッチパネル上の第1投写画像c1のドットを、第2投写画像c2において表示させるべき位置までドラッグし当該位置でドットをドロップしてもよい。ユーザーによるフリック操作によって、ドラッグされたドットの元の位置をドロップされた位置に変更する変更指示e1が、操作部110に入力される。操作部110は、当該変更指示e1を、処理部130に提供する。受取部132は、当該変更指示e1を、操作部110から受け取る。
【0096】
操作部110は、マイクと、音声認識部と、を含んでもよい。音声認識部は、例えば、音声認識機能を有するプロセッサー、または、音声認識機能を有する専用回路である。
【0097】
この場合、ユーザーは、まず、ドットd1~d4の中から変更ドットを選択する。続いて、ユーザーは、変更ドットの名称を音声でマイクに入力する。ドットd1~d4の各々の名称は、例えば、第1投写画像c1に示されているとする。
【0098】
続いて、ユーザーは、上下左右のいずれかを変更方向として音声でマイクに入力する。上下左右のいずれかの一回の発話は、液晶ライトバルブ142における特定数の画素分の移動距離を意味する。特定数の画素は、例えば、5画素である。特定数の画素は、5画素に限らず、6画素以上でもよいし、5画素未満でもよい。音声認識部は、マイクに入力された音声を文字列に変換する。
【0099】
ユーザーによる音声入力によって、変更ドットの位置を変更方向に上下左右のいずれかの発話の数に応じた画素数だけ移動させる変更指示e1が、操作部110に入力される。操作部110は、当該変更指示e1を、処理部130に提供する。受取部132は、当該変更指示e1を、操作部110から受け取る。
【0100】
操作部110は、カメラと、ジェスチャー認識部と、を含んでもよい。ジェスチャー認識部は、例えば、ジェスチャー認識機能を有するプロセッサー、または、ジェスチャー認識を有する専用回路である。
【0101】
この場合、ユーザーは、まず、ドットd1~d4の中から変更ドットを選択する。続いて、ユーザーは、変更ドットに対応するジェスチャーを、操作部110のカメラに向かって実行する。ドットd1~d4の各々に1対1で対応するジェスチャーは、予め設定されているとする。
【0102】
操作部110のカメラは、変更ドットに対応するジェスチャーを撮像することによって、当該ジェスチャーを示す第1ジェスチャー撮像データを生成する。
【0103】
続いて、ユーザーは、上下左右のいずれかを変更方向として選択する。続いて、ユーザーは、変更方向に対応するジェスチャーを、操作部110のカメラに向かって実行する。上下左右の各々に1対1で対応するジェスチャーは、予め設定されているとする。変更方向に対応する1回のジェスチャーは、液晶ライトバルブ142における既定数の画素分の移動距離を意味する。既定数の画素は、例えば、5画素である。既定数の画素は、5画素に限らず、6画素以上でもよいし、5画素未満でもよい。
【0104】
操作部110のカメラは、変更方向に対応するジェスチャーを撮像することによって、当該ジェスチャーを示す第2ジェスチャー撮像データを生成する。
【0105】
ジェスチャー認識部は、第1ジェスチャー撮像データに基づいて、第1ジェスチャー撮像データが示すジェスチャーに対応する変更ドットを特定する。ジェスチャー認識部は、第2ジェスチャー撮像データに基づいて、第2ジェスチャー撮像データが示すジェスチャーに対応する変更方向と、移動距離と、を特定する。
【0106】
このため、ユーザーによるジェスチャー入力によって、変更ドットの位置を変更方向に、変更方向に対応するジェスチャーの数に応じた画素数だけ移動させる変更指示e1が、操作部110に入力される。操作部110は、当該変更指示e1を、処理部130に提供する。受取部132は、当該変更指示e1を、操作部110から受け取る。
【0107】
第1変形例によれば、受取部132は、種々の変更指示e1を受け取ることができる。
【0108】
B2:第2変形例
第1実施形態および第1変形例において、変更指示e1は、第1投写画像c1におけるドットd1~d4の位置関係とは異なる位置関係を有するドットd1~d4を示す複数の候補画像の中から、1つの候補画像を第2投写画像c2として選択する指示でもよい。
【0109】
第1投写画像c1におけるドットの数は4以上であればよく、複数の候補画像の各々が示すドットの数は、第1投写画像c1におけるドットの数と同数である。
【0110】
第2変形例では、1つの候補画像を第2投写画像c2として選択する変更指示e1が、操作ボタン、タッチパネル、マイクまたはカメラ等の操作部110の構成要素に入力される。操作部110は、当該変更指示e1を、処理部130に提供する。受取部132は、当該変更指示e1を、操作部110から受け取る。
【0111】
受取部132が、1つの候補画像を第2投写画像c2として選択する入力指示を受け取ると、投写制御部131は、第2投写画像c2として選択された1つの候補画像を示す画像データを、第2投写画像c2を示す画像データa2として投写部140に提供する。
【0112】
第2投写画像c2として選択された1つの候補画像を示す画像データが、記憶部120に記憶されている場合、投写制御部131は、記憶部120から当該画像データを読み取る。投写制御部131は、記憶部120から読み取った画像データを、投写部140に提供する。投写制御部131は、第2投写画像c2として選択された1つの候補画像を示す画像データを、プログラムPに基づいて生成してもよい。この場合、投写制御部131は、生成した画像データを、投写部140に提供する。
【0113】
第2変形例によれば、ユーザーは、ドットの選択およびドットの移動を行うことなく、第1投写画像c1を第2投写画像c2に変更できる。このため、ユーザーの操作負担を減らすことができる。
【0114】
B3:第3変形例
第1実施形態および第1変形例において、決定システム1は、ドットd1~d4が同一平面上に投写されることをユーザーに促してもよい。
【0115】
例えば、投写制御部131は、ドットd1~d4が同一平面上に投写されることをユーザーに促すガイド画像を、OSD(On Screen Display)画像として、第1投写画像c1に重畳する。ガイド画像は、例えば、「ドットが同一平面に位置するように、ドット位置を変更してください」という表示である。ガイド画像は、上述の表示に限らず適宜変更可能である。ガイド画像は、少なくとも4つの特徴点が同一平面上に投写されることを促す画像の一例である。
【0116】
図11に示すようにプロジェクター100aがスピーカー150を有する場合、動作制御部135は、第1投写画像c1が投写されている状況において、ドットd1~d4が同一平面上に投写されることをユーザーに促す音声ガイドを、スピーカー150から出力させてもよい。音声ガイドは、例えば、「ドットが同一平面に位置するように、ドット位置を変更してください」という音声である。音声ガイドは、上述の音声に限らず適宜変更可能である。音声ガイドは、少なくとも4つの特徴点が同一平面上に投写されることを促す音声の一例である。
【0117】
第3変形例によれば、ドットd1~d4が同一平面上に投写されることをユーザーに実行させやすくなる。
【0118】
B4:第4変形例
第1実施形態および第1~第3変形例において、決定システム1は、図12に示されるように、プロジェクター100bと、カメラ200と、制御装置600と、を含んでもよい。
【0119】
プロジェクター100bは、操作部110と記憶部120と処理部130とを含まずに、投写部140を含む。制御装置600は、例えば、PC(Personal Computer)、タブレット、またはスマートフォンである。制御装置600は、操作部110と記憶部120と処理部130とを含む。カメラ200は、プロジェクター100bおよび制御装置600のいずれとも異なる物体でもよいし、プロジェクター100bおよび制御装置600のいずれか一方に搭載されてもよい。制御装置600は、プロジェクター100bに画像データaを提供するため、画像供給装置とも称され得る。
【0120】
第4変形例によれば、第1実施形態および第1~第3変形例に比べて、プロジェクターにおける処理の負荷を低減できる。
【0121】
B5:第5変形例
第1実施形態および第1~第4変形例において、光変調装置の一例として液晶ライトバルブ142が用いられたが、光変調装置は液晶ライトバルブに限らず適宜変更可能である。例えば、光変調装置は、1枚のデジタルミラーデバイスを用いた方式等の構成であってもよい。また、液晶パネルおよびDMD以外にも、光源141が発した光を変調可能な構成は、光変調装置として採用できる。
【符号の説明】
【0122】
1…決定システム、100,100a,100b…プロジェクター、110…操作部、120…記憶部、130…処理部、131…投写制御部、132…受取部、133…撮像制御部、134…決定部、135…動作制御部、140…投写部、141…光源、142…液晶ライトバルブ、143…投写レンズ、150…スピーカー、200…カメラ、210…撮像レンズ、220…イメージセンサー、300…被投写物、400…表示面、500…立体物、600…制御装置。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12