(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022146113
(43)【公開日】2022-10-05
(54)【発明の名称】投影制御装置、投影システム、投影方法及びプログラム
(51)【国際特許分類】
H04N 5/74 20060101AFI20220928BHJP
G03B 21/00 20060101ALI20220928BHJP
G03B 21/14 20060101ALI20220928BHJP
G09G 5/00 20060101ALI20220928BHJP
【FI】
H04N5/74 D
G03B21/00 D
G03B21/00 F
G03B21/14 Z
G09G5/00 510B
G09G5/00 550C
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2021046920
(22)【出願日】2021-03-22
(71)【出願人】
【識別番号】000001443
【氏名又は名称】カシオ計算機株式会社
(74)【代理人】
【識別番号】110002022
【氏名又は名称】弁理士法人コスモ国際特許事務所
(72)【発明者】
【氏名】原 駿介
(72)【発明者】
【氏名】成川 哲郎
【テーマコード(参考)】
2K203
5C058
5C182
【Fターム(参考)】
2K203FA25
2K203FA62
2K203FA82
2K203KA28
2K203KA44
2K203KA72
2K203KA85
2K203KA90
2K203KA99
2K203MA40
5C058BA27
5C058BB25
5C058EA02
5C058EA27
5C058EA31
5C182AA02
5C182AA03
5C182AA04
5C182AA12
5C182AB02
5C182AB08
5C182AC02
5C182AC03
5C182AC33
5C182BA01
5C182BA03
5C182BA06
5C182BA14
5C182BA29
5C182BA46
5C182BA47
5C182BB02
5C182BB11
5C182BB21
5C182BC26
5C182CA01
5C182CA54
5C182CB11
5C182CB44
5C182CC02
5C182CC21
5C182CC26
5C182DA62
(57)【要約】
【課題】ユーザが投影画像を見る位置を移動しても、即座に補正された投影画像を見ることができる投影制御装置、投影システム、投影方法及びプログラムを提供する。
【解決手段】投影制御装置30は、少なくとも1つのプロセッサである制御部31と、通信部36と、を備え、制御部31は、視点1で撮像された第1撮像画像(補正用画像)及び視点2で撮像された第2撮像画像(補正用画像)を通信部36を介して取得し、第1撮像画像に基づいて第1補正データを取得するとともに、第2撮像画像に基づいて第2補正データを取得し、視点1の第1位置データ、視点2の第2位置データ、予測点の第3位置データ、をそれぞれ取得し、第1補正データ、第2補正データ、第1位置データ、第2位置データ、第3位置データを用いて予測点に対応する第3補正データを決定し、決定された第3補正データに基づいて投影装置10(投影部11)に投影させる投影画像を補正する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
少なくとも1つのプロセッサと、
通信部と、を備え、
前記少なくとも1つのプロセッサは、
第1地点で撮像された第1撮像画像及び前記第1地点とは異なる第2地点で撮像された第2撮像画像を前記通信部を介して取得し、
前記第1撮像画像に基づいて第1補正データを取得するとともに、前記第2撮像画像に基づいて第2補正データを取得し、
前記第1地点の第1位置データ、前記第2地点の第2位置データ、前記第1地点及び前記第2地点とは異なる第3地点の第3位置データ、をそれぞれ取得し、
前記第1補正データ、前記第2補正データ、前記第1位置データ、前記第2位置データ、前記第3位置データを用いて前記第3地点に対応する第3補正データを決定し、
決定された前記第3補正データに基づいて投影部に投影させる投影画像を補正する、
ことを特徴とする投影制御装置。
【請求項2】
前記第3補正データは、前記第1補正データ、前記第2補正データに対して、前記第1位置データ及び前記第2位置データに対する前記第3位置データから加重平均を用いて算出されることを特徴とする請求項1に記載の投影制御装置。
【請求項3】
前記第1補正データ、前記第2補正データは、前記第1撮像画像、前記第2撮像画像の画素位置の座標に対して表示素子の座標を求め、この対応関係を用いて出力画像の画素位置に対応する前記第1撮像画像、前記第2撮像画像の座標を用いて算出され、
前記加重平均は、前記表示素子の座標又は前記第1撮像画像、前記第2撮像画像の座標に対して適用される、
ことを特徴とする請求項2に記載の投影制御装置。
【請求項4】
前記第3位置データは、GPS、前記第1撮像画像、前記第2撮像画像の撮像時の角度情報、ユーザ設定の何れかにより決定されることを特徴とする請求項1乃至請求項3の何れかに記載の投影制御装置。
【請求項5】
前記第1位置データ、前記第2位置データ、前記第3位置データ及び前記第1補正データ、前記第2補正データを記憶する記憶部をさらに備えることを特徴とする請求項1乃至請求項4の何れかに記載の投影制御装置。
【請求項6】
請求項1乃至請求項5の何れか記載の投影制御装置と、複数のマイクロミラーを備える表示素子が設けられる投影部と、を有する投影装置と、
前記第1撮像画像、前記第2撮像画像を撮像可能に形成され、前記第1撮像画像、前記第2撮像画像及び前記第1位置データ、前記第2位置データ、前記第3位置データを、前記通信部を介して前記投影装置に送信可能な端末装置と、
を有することを特徴とする投影システム。
【請求項7】
第1地点で撮像された第1撮像画像及び前記第1地点とは異なる第2地点で撮像された第2撮像画像を通信部を介して取得する工程と、
前記第1撮像画像に基づいて第1補正データを取得するとともに、前記第2撮像画像に基づいて第2補正データを取得する工程と、
前記第1地点の第1位置データ、前記第2地点の第2位置データ、前記第1地点及び前記第2地点とは異なる第3地点の第3位置データ、をそれぞれ取得する工程と、
前記第1補正データ、前記第2補正データ、前記第1位置データ、前記第2位置データ、前記第3位置データを用いて前記第3地点に対応する第3補正データを決定する工程と、
決定された前記第3補正データに基づいて投影部に投影させる投影画像を補正する工程と、
を有することを特徴とする投影方法。
【請求項8】
前記第3補正データは、前記第1補正データ、前記第2補正データに対して、前記第1位置データ及び前記第2位置データに対する前記第3位置データから加重平均を用いて算出されることを特徴とする請求項7に記載の投影方法。
【請求項9】
前記第1撮像画像に基づいて前記第1補正データを取得するとともに、前記第2撮像画像に基づいて前記第2補正データを取得する工程は、前記第1撮像画像、前記第2撮像画像の画素位置の座標に対して表示素子の座標を求め、この対応関係を用いて出力画像の画素位置に対応する前記第1撮像画像、前記第2撮像画像の座標を用いて前記第1補正データ、前記第2補正データを算出する工程と、を含み、
前記第1補正データ、前記第2補正データ、前記第1位置データ、前記第2位置データ、前記第3位置データを用いて前記第3地点に対応する前記第3補正データを決定する工程は、前記表示素子の座標に対する前記第1撮像画像、前記第2撮像画像の座標、前記第1撮像画像、前記第2撮像画像に対する前記表示素子の座標、前記表示素子の座標に対する変形後の前記表示素子の座標、変形後の前記表示素子の座標に対する前記表示素子の座標、の何れかに対して前記加重平均を適用することを特徴とする請求項8に記載の投影方法。
【請求項10】
GPS、前記第1撮像画像、前記第2撮像画像の撮像時の角度情報、ユーザ設定の何れかにより前記第3位置データの位置情報を得る工程を備えることを特徴とする請求項7乃至請求項9の何れかに記載の投影方法。
【請求項11】
コンピュータが実行するプログラムであって、前記コンピュータを、
第1地点で撮像された第1撮像画像及び前記第1地点とは異なる第2地点で撮像された第2撮像画像を通信部を介して取得し、
前記第1撮像画像に基づいて第1補正データを取得するとともに、前記第2撮像画像に基づいて第2補正データを取得し、
前記第1地点の第1位置データ、前記第2地点の第2位置データ、前記第1地点及び前記第2地点とは異なる第3地点の第3位置データ、をそれぞれ取得し、
前記第1補正データ、前記第2補正データ、前記第1位置データ、前記第2位置データ、前記第3位置データを用いて前記第3地点に対応する第3補正データを決定し、
決定された前記第3補正データに基づいて前記投影部に投影させる投影画像を補正する、
ように機能させるプログラム。
【請求項12】
前記第3補正データは、前記第1補正データ、前記第2補正データに対して、前記第1位置データ及び前記第2位置データに対する前記第3位置データから加重平均を用いて算出されることを特徴とする請求項11に記載のプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、投影制御装置、投影システム、投影方法及びプログラムに関する。
【背景技術】
【0002】
従来から、ユーザからみてきれいな矩形に投影するために、入力画像について変形等の補正を行う補正機能を備えた投影装置が開示されている。例えば、特許文献1に開示される投影装置は、投影した調整用画像を撮影し、この撮影した画像(撮像画像)から補正係数を算出して入力画像に対する台形補正を行うことができる。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
上記従来の投影装置では、投影装置の設置位置に対する、投影画像を見るユーザの位置が固定的であれば、継続してきれいな矩形の画像を見ることができる。しかしながら、ユーザが投影画像を見る位置を移動した場合には、再度補正係数の算出等の工程を要することとなり、煩雑である。
【0005】
本発明は、ユーザが投影画像を見る位置を移動しても、即座に補正された投影画像を見ることができる投影制御装置、投影システム、投影方法及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の投影制御装置は、少なくとも1つのプロセッサと、通信部と、を備え、前記少なくとも1つのプロセッサは、第1地点で撮像された第1撮像画像及び前記第1地点とは異なる第2地点で撮像された第2撮像画像を前記通信部を介して取得し、前記第1撮像画像に基づいて第1補正データを取得するとともに、前記第2撮像画像に基づいて第2補正データを取得し、前記第1地点の第1位置データ、前記第2地点の第2位置データ、前記第1地点及び前記第2地点とは異なる第3地点の第3位置データ、をそれぞれ取得し、前記第1補正データ、前記第2補正データ、前記第1位置データ、前記第2位置データ、前記第3位置データを用いて前記第3地点に対応する第3補正データを決定し、決定された前記第3補正データに基づいて投影部に投影させる投影画像を補正する、ことを特徴とする。
【0007】
本発明の投影システムは、上述の投影制御装置と、複数のマイクロミラーを備える表示素子が設けられる投影部と、を有する投影装置と、前記第1撮像画像、前記第2撮像画像を撮像可能に形成され、前記第1撮像画像、前記第2撮像画像及び前記第1位置データ、前記第2位置データ、前記第3位置データを、前記通信部を介して前記投影装置に送信可能な端末装置と、を有することを特徴とする。
【0008】
本発明の投影方法は、第1地点で撮像された第1撮像画像及び前記第1地点とは異なる第2地点で撮像された第2撮像画像を前記通信部を介して取得する工程と、前記第1撮像画像に基づいて第1補正データを取得するとともに、前記第2撮像画像に基づいて第2補正データを取得する工程と、前記第1地点の第1位置データ、前記第2地点の第2位置データ、前記第1地点及び前記第2地点とは異なる第3地点の第3位置データ、をそれぞれ取得する工程と、前記第1補正データ、前記第2補正データ、前記第1位置データ、前記第2位置データ、前記第3位置データを用いて前記第3地点に対応する第3補正データを決定する工程と、決定された前記第3補正データに基づいて投影部に投影させる投影画像を補正する工程と、を有することを特徴とする。
【0009】
本発明のプログラムは、コンピュータが実行するプログラムであって、前記コンピュータを、第1地点で撮像された第1撮像画像及び前記第1地点とは異なる第2地点で撮像された第2撮像画像を通信部を介して取得し、前記第1撮像画像に基づいて第1補正データを取得するとともに、前記第2撮像画像に基づいて第2補正データを取得し、前記第1地点の第1位置データ、前記第2地点の第2位置データ、前記第1地点及び前記第2地点とは異なる第3地点の第3位置データ、をそれぞれ取得し、前記第1補正データ、前記第2補正データ、前記第1位置データ、前記第2位置データ、前記第3位置データを用いて前記第3地点に対応する第3補正データを決定し、決定された前記第3補正データに基づいて投影部に投影させる投影画像を補正する、ように機能させる。
【発明の効果】
【0010】
本発明によれば、ユーザが投影画像を見る位置を移動しても、即座に補正された投影画像を見ることができる投影制御装置、投影システム、投影方法及びプログラムを提供することができる。
【図面の簡単な説明】
【0011】
【
図1】本発明の実施形態に係る投影システムによりカーテンに投影画像を投影している様子を示す模式図である。
【
図2】本発明の実施形態に係る投影制御装置及び投影部を示す制御ブロック図である。
【
図3】本発明の実施形態に係る携帯端末の制御ブロック図である。
【
図4】本発明の実施形態に係る画像補正処理部で補正情報を算出するフロー図である。
【
図5】本発明の実施形態に係る撮像画像と表示素子との対応関係を示す模式図である。
【
図6】本発明の実施形態に係る投影画像と変形後の投影画像及び表示素子の対応関係を示す模式図である。
【
図7】本発明の実施形態に係る視点1,2と予測点1,2,3との位置関係を示す模式図である。
【
図8】本発明の実施形態に係る予測点における補正情報を算出するフロー図である。
【
図9】本発明の実施形態に係る携帯端末の表示部に表示されるUI画面を示す図である。
【
図10】本発明の実施形態に係る携帯端末の表示部に表示されるUI画面を示す図である。
【発明を実施するための形態】
【0012】
以下、本発明を実施するための形態について述べる。
図1は、室内において投影制御装置30を備える投影装置10及び携帯端末20を含む投影システム1がカーテン2の一部を被投影面3として、投影画像を投影している様子を示す。本実施形態に係る投影システム1によれば、不規則に波打つように湾曲する被投影面3(カーテン2)に投影すると、
図1の2点鎖線で示すような歪んだ投影画像(静止画や動画を含む、投影映像ともいう。)P1となるところ、これを補正し、実線で示すような矩形の投影画像P2とすることができる。そして、ユーザUが投影画像P2を見る位置を移動しても、即座に投影画像が補正されて、矩形の投影画像P2を見ることができるものである。
【0013】
図2は、投影装置10が備える投影制御装置30を含む制御ブロック図である。投影制御装置30は、制御部31と画像補正処理部34と測定処理部35とを含むCPU(又はプロセッサともいい、コンピュータともいう。)、画像入力部33を含むフロントエンドユニット、投影画像処理部37を含むフォーマッタユニットを備える。画像入力部33から入力された各種規格の画像信号は、システムバスSBを介して制御部31の画像変換部で表示に適した所定のフォーマットの画像信号に統一するように変換された後、後に説明する画像補正処理部34や測定処理部35での処理が実行され、投影画像処理部37に出力される。
【0014】
投影画像処理部37は、画像補正処理部34や測定処理部35での処理が実行された出力画像に対応して表示素子50を駆動し、画像生成時に要求される所定波長帯域の光が光源装置60から出射されるよう光源装置60を制御する。投影光学系15は、表示素子50で生成された画像光を投影光として出射することができる。投影光学系15は、固定レンズや可動レンズを備え、モータ16によりフォーカス調整を行うことができる。画像光を投影可能に形成される投影部11は、投影画像処理部37と、表示素子50と、光源装置60と、投影光学系15と、を含む。なお、表示素子50は、複数のマイクロミラーを備えるDMD(Digital Micromirror Device)とすることができる。
【0015】
操作部32には、投影装置10(投影制御装置30)の各種操作や設定を行うことができるキースイッチやインジケータを備える。操作部32の操作信号は、制御部31に送信される。
【0016】
制御部31はシステムバスSBを介して音声処理部38と接続されている。音声処理部38は、PCM音源等の音源回路を備えており、投影モード及び再生モード時には音声データをアナログ化し、スピーカ38aを駆動して拡声放音させる。
【0017】
また、投影制御装置30は、記憶部40を有する。記憶部40は、システムバスSBを介して制御部31や画像補正処理部34、投影画像処理部37と接続されている。記憶部40は、例えば、SSD(Solid State Drive)やSRAM(Static Random Access Memory)で構成される。記憶部40には、補正時に投影される測定用画像41と、制御部31や画像補正処理部34、測定処理部35を機能させる制御プログラム42(プログラム)と、詳細は後述するが、投影された測定用画像41をユーザUが任意の位置で撮像した画像(補正用画像)や位置等の情報である測定情報43と、ユーザUが測定用画像41を撮像した位置に対応する画像補正用の情報である補正情報44と、が記憶される。
【0018】
通信部36は、例えばネットワークインタフェースコントローラ(NIC)であり、通信データを携帯端末20の通信部22との間で無線通信路を介して送受信可能に形成される。通信部36は、システムバスSBを介して制御部31や記憶部40と接続される。
【0019】
図3は、携帯端末20(端末装置)の制御ブロック図である。携帯端末20は、ここではスマートフォンとされるが、タブレットPC(Personal Computer)、ノートPC等とすることもできる。携帯端末20は、制御部21と、通信部22と、記憶部23と、表示部24と、撮像部26とを含み、バス29により各部は接続される。制御部21は、各部を制御するプロセッサである。また、記憶部23は、ROM(Read Only Memory)やRAM(Random Access Memory)から構成される。制御部21のプロセッサは、記憶部23のROMに記憶されたアプリケーションプログラムをRAMに展開して実行する。
【0020】
携帯端末20の通信部22は、例えばアンテナと送受信回路で構成され、無線通信路を介して通信データを投影制御装置30の通信部36と送受信可能に形成される。表示部24及び操作部25は、表示部24とされる液晶ディスプレイまたは有機ELディスプレイ等により構成されるディスプレイパネルの表面に、操作部25とされる透明なタッチパネルを積層し、表示機能と入力機能を兼ね備えたタッチパネルディスプレイにより構成することができる。タッチパネルは、指等で触れた位置を感知する静電容量方式等により構成される。ユーザUは、操作部25を介して表示部24に表示された操作画面を操作して、携帯端末20や投影装置10を操作することができる。また、携帯端末20は、カメラ機能とされる撮像部26を有し、被投影面3に投影された画像を撮像し、この撮像画像を記憶部23に保存することができる。
【0021】
ユーザUが任意の位置(予測点、
図1参照)から被投影面3に投影される投影画像を見ても、凹凸のないスクリーン等に投影したかのように矩形に見えるよう補正して投影するための投影方法の概略は、先ず、投影装置10の投影部11により測定用画像41(
図2参照)を被投影面3に投影し、
図1に示す、被投影面3に対して左側の測定点(視点1、第1地点ともいう。)から投影された測定用画像41を撮像して補正情報44(
図2参照)を算出し、同様に被投影面3に対して右側の測定点(視点2、第2地点ともいう。)から測定用画像41を撮像して補正情報44を算出し、これらの補正情報44に対して加重平均を用いて予測点(すなわち、ユーザUが投影画像を見る位置、第3地点ともいう。)の補正情報44を算出して、投影画像を補正する。なお、第2地点は、第1地点とは異なり、第3地点は、第1地点及び第2地点と異なる。
【0022】
ここで、視点1、視点2に対応して算出される各補正情報44(補正情報44-1(第1補正データ),44-2(第2補正データ)とする)は、各視点から被投影面3を見た場合に矩形に見えるように補正するための補正情報44である。そして、各視点における補正情報44の算出は、投影された測定用画像41を撮像した撮像画像(以下、単に「補正用画像」ともいう。)を含む測定情報43に基づいて行われる公知の補正方法を用いることができる。
【0023】
以下、
図4のフローチャートに基づいて、各視点における補正情報44の算出の一例について説明する。補正情報44を算出する工程では、先ず、ステップS103で、投影制御装置30の投影部11により、投影制御装置30の記憶部40に保存される測定用画像41が被投影面3に投影される。ここで、測定用画像41は、格子状の市松模様の画像や、横縞模様、縦縞模様等が用いられて、格子や縞模様の幅が異なる複数の測定用画像41が用いられることもある。
【0024】
次に、ステップS105で、投影した測定用画像41が撮像され、撮像画像(補正用画像)が生成される。投影システム1では、携帯端末20の撮像部26で撮像し、撮像画像(補正用画像)が携帯端末20の記憶部23に保存される。携帯端末20の記憶部23に保存された補正用画像は、携帯端末20の記憶部23から投影制御装置30の通信部36を介して投影制御装置30に送信され、測定情報43として記憶部40に保存される。
【0025】
次に、ステップS107で、画像補正処理部34により、撮像画像(補正用画像)の画素位置(Si)に対応する表示素子50の画素位置(Pi)を算出する。これは、
図5に示すように、投影された測定用画像41を撮像した撮像画像(補正用画像)26aの画素位置の座標Siに対して、測定用画像41を投影しているDMD(Digital Micromirror Device)としての表示素子50の座標Piを求める矢印S107aで示す処理である。
【0026】
次に、ステップS109で、画像補正処理部34により、出力映像(又は出力画像、すなわち、測定用画像41)の画素位置に対応する撮像画像(補正用画像)の画素位置(Si)を算出する。これは、
図5に示す、矢印S109aで示す処理である。出力映像の画素位置に対応する撮像画像(補正用画像)の画素位置(Si)の算出は、ステップS107で求めた対応関係が用いられる。ステップS107及びステップS109により、撮像画像(補正用画像)と出力映像の画素との位置対応関係が取得され、補正情報44が算出される。換言すれば、補正情報44は、表示素子50の座標Piと撮像画像の座標Siを用いて算出される。
【0027】
次に、ステップS111により、撮像画像(補正用画像)から切り抜き矩形が決定される。すなわち、
図6に示すように、変形して投影されている投影画像(
図6の測定用画像41)の範囲のうち、表示素子50に対応するアスペクト比の矩形S111aが、投影装置10(投影部11)により矩形に投影可能な範囲である。画像補正処理部34は、この投影可能な矩形の範囲を、撮像画像(補正用画像)26aの測定用画像41から決定する。
【0028】
次に、ステップS113により、画像補正処理部34は、投影画像の形状の補正情報44から切り抜き矩形枠内に収まる入力映像の変形を行う。すなわち、ステップS111で決定した矩形S111aの範囲に収まるように、ステップS107,S109の算出結果(補正情報44)を用いて、ユーザUが観賞するための投影画像を変形する。補正情報44の算出は、
図6の表示素子50の補正用画像50-41が、被投影面3では補正用画像3-41のように変形して投影されるので、被投影面3に矩形S111aのように投影するには、表示素子50にて変形画像S113aを投影すればよいことに基づく。
【0029】
従って、投影画像の画素座標(すなわち表示素子50の座標)に対して、相対的な(投影画像の)変形後の表示素子50の座標Pjが算出され、更に、変形後の表示素子50の座標Pjに対応する表示素子50の座標Pkが算出される。
【0030】
このようにして、画像補正処理部34では、各視点から被投影面3を見たときに、きれいな矩形に見えるための補正情報44を算出することができる。この補正情報44は、測定点(視点1,2)ごとに算出することができる。視点1では、補正情報44-1が算出され、視点2では、補正情報44-2が算出される。
【0031】
そして、測定処理部35では、複数の異なる視点における各補正情報44(補正情報44-1(第1補正データ),44-2(第2補正データ))及び各測定点(視点1、視点2)の位置(第1位置データ、第2位置データ)に対する予測点の位置(ユーザUが被投影面3を見る任意の位置、第3位置データ)から加重平均を用いて、予測点の補正情報44-F(第3補正データ)を算出する。
図7に示すように、例えば、予測点1が、視点1と視点2の間をl
1:l
2で内分する位置における予測変形(予測点1における補正情報44-Fの算出、予測補正ともいう)は、式(1)を用いる。
P=(l
1P
2+l
2P
1)/(l
1+l
2) ・・・(1)
【0032】
また、l1:l2で外分する予測点2の予測変形を行うには、式(2)、予測点3の予測変形を行うには式(3)を用いる。
予測点2;l1>l2 P=(-l2P1+l1P2)/(l1-l2) ・・・(2)
予測点3;l1<l2 P=(l2P1-l1P2)/(-l1+l2) ・・・(3)
【0033】
ここで、式(1)~(3)のP,P1,P2は、補正情報44-1,44-2を算出する際に用いた座標Si,Pi,Pj,Pkのうち何れかの座標である。換言すれば、加重平均は、表示素子50の座標(Pi,Pj,Pk)又は撮像画像(補正用画像)26aの座標(Si)に対して適用される。まとめると、加重平均は、以下の4つのケースについて行うことができる。
(A)表示素子50の座標に対する撮像画像26aの座標(Si)
(B)撮像画像26aの座標(Si)に対する表示素子50の座標(Pi)
(C)表示素子50の座標に対する変形後の表示素子50の座標(Pj)
(D)変形後の表示素子50の座標(Pj)に対する表示素子50の座標(Pk)
【0034】
なお、各視点から撮像した撮像画像26a及び各視点(各測定点)の位置情報は、測定情報43として記憶部23に保存されている。予測点や各視点における位置情報は、携帯端末20が備えるGPS受信部から出力されるGPS情報、携帯端末20が備える加速度センサから検出される撮像画像26aの撮像時の角度情報又はユーザUの設定(ユーザ設定)の何れかにより取得し決定することができる。
【0035】
而して、予測点(第3地点)における補正情報44-F(第3補正データ)を算出して投影画像を補正する投影方法は、第1地点(視点1)で撮像された第1撮像画像(補正用画像)及び第2地点(視点2)で撮像された第2撮像画像(補正用画像)を通信部36を介して取得する工程と、第1撮像画像に基づいて第1補正データ(補正情報44-1)を取得するとともに、第2撮像画像に基づいて第2補正データ(補正情報44-2)を取得する工程と、第1地点の第1位置データ、第2地点の第2位置データ、第3地点(予測点)の第3位置データ、をそれぞれ取得する工程と、第1補正データ、第2補正データ、第1~第3位置データを用いて第3地点に対応する第3補正データ(補正情報44-F)を決定する工程と、決定された第3補正データに基づいて投影装置10(投影部11)に投影させる投影画像を補正する工程と、を含む。
【0036】
そして、第3補正データは、第1補正データ、第2補正データに対して、第1位置データ及び第2位置データに対する第3位置データから加重平均を用いて算出される。そして、第1撮像画像に基づいて第1補正データを取得するとともに、第2撮像画像に基づいて第2補正データを取得する工程は、第1撮像画像、第2撮像画像の画素位置の座標に対して表示素子の座標を求め、この対応関係を用いて出力画像の画素位置に対応する第1撮像画像、第2撮像画像の座標を用いて第1補正データ、第2補正データを算出する工程と、を含む。第1補正データ、第2補正データ、第1位置データ、第2位置データ、第3位置データを用いて第3地点に対応する第3補正データを決定する工程は、上記の(A)~(D)の何れかの座標に対して加重平均を適用する。
【0037】
具体的には、予測点の補正情報44-F(予測補正、第3補正データ)は、
図8に示すフローチャートに従って算出される。予測補正の処理が開始されると、ステップS203で、視点1において、携帯端末20により、被投影面3に投影された測定用画像41の撮像が行われ、投影制御装置30の記憶部40に撮像画像(補正用画像)を含む測定情報43-1(
図1参照)が保存される。次に、ステップ205で、画像補正処理部34により視点1の測定情報43-1(第1撮像画像及び第1位置データを含む)から補正情報44-1(第1補正データ)が算出され記憶部40に保存される。そして、ステップS206で、視点1の補正情報(第1補正データ)に基づいて、視点1に対応した補正した映像の投影が投影部11により行われる。
【0038】
ステップS207,209では、ステップS203,205と同様に、視点2の測定が行われ(ステップS203)、視点2の測定情報43-2(第2撮像画像及び第2位置データを含む)から視点2の補正情報44-2(第2補正データ)(
図1参照)が算出され、記憶部40に保存される(ステップS205)。そして、ステップS210で、視点2の補正情報(第2補正データ)に基づいて、視点2に対応した補正した映像の投影が投影部11により行われる。そして、ステップS211で、予測点の位置情報(第3位置データ)が検出され、投影制御装置30に送信され、記憶部40で記憶される。次に、ステップS213では、測定処理部35で、視点1の補正情報44-1と視点2の補正情報44-2に対して加重平均を用いて予測点の補正情報44-F(第3補正データ)(予測補正)が算出される。測定処理部35は、ステップS215で、算出した予測点の補正情報44-Fを記憶部40に保存する。
【0039】
このように算出された予測点の補正情報44-Fを用いて、画像補正処理部34は、入力画像の変形を行って、補正変形後の投影画像に基づいて、投影装置10の投影画像処理部37により投影部11の光源装置60や表示素子50が制御されて、投影光学系15から投影画像の投影光が投影される。すると、ユーザUは、不規則な面を備える被投影面3に投影された画像であっても、任意の位置に移動しても、即座にきれいな矩形の投影画像を見ることができる。
【0040】
各測定点における補正用画像の投影や撮像、予測点位置の設定や補正情報の算出の操作は、携帯端末20により行うことができる。
図9に、携帯端末20の表示部24(操作部25)に表示されるユーザインターフェース画面300(UI画面300)の一例を示す。UI画面300の左上の「接続」ボタン301及び「切断」ボタン302は、投影装置10(投影制御装置30)との通信部22,36を介した接続及び切断を行うためのボタンである。
【0041】
UI画面300の左側には、カメラ画面320が表示される。カメラ画面320は、携帯端末20の撮像部26により撮像している画像が映し出される。UI画面300の右上には、測定補正操作部310が設けられる。測定補正操作部310は、「視点1測定」ボタン311-1、「視点2測定」ボタン311-2(以上、第1操作部)を備える測定部311と、「視点1補正」ボタン312-1、「視点2補正」ボタン312-2(以上、第2操作部)を備える補正部312と、「視点+」ボタン315、「補正+」ボタン316を含む。制御部21は、第1操作部の操作に応じて、投影装置10によって投影されている測定用画像の撮像を撮像部26に指示し、撮像部26により撮像された補正用画像を取得する。また、制御部21は、第2操作部の操作に応じて、投影装置10(投影部11)に投影させる投影映像を、補正用画像に基づいて補正させるための指示データを生成する。
【0042】
具体的には、例えば、ユーザUは、
図1の視点1の位置で「視点1測定」ボタン311-1を押すと、制御部21は、投影制御装置30に測定用画像41を投影させるための投影指示情報を通信部22,36を介して送信する。すると、投影装置10から測定用画像41が出射され、被投影面3に投影される。そして、撮像部26は、投影された測定用画像41を撮像し、記憶部23に保存する。同様に、視点2の位置で「視点2測定」ボタン311-2押すと、測定用画像41が投影されて撮像され、記憶部23に保存する。
【0043】
また、例えば、ユーザUは、「視点1補正」ボタン312-1を押すと、記憶部23に保存した補正用画像及び視点1の位置情報から投影装置10(投影部11)に投影させる投影映像を補正用画像に基づいて補正させるための指示データを生成する。そして、携帯端末20は、この指示データを投影装置10に送信し、投影装置10は、視点1で補正した投影画像の投影を行う。
【0044】
測定部311の右側には、「視点+」ボタン315が表示されている。「視点+」ボタン315は、2か所の視点(視点1,2)(すなわち、測定部311)を更に増やすことができる視点増加部である。補正部312の右側に配置される「補正+」ボタン316は、「視点+」ボタン315で増加した視点に対応する補正部312を形成するための補正増加部である。
【0045】
UI画面300の右側略中央に表示される「補正なし」ボタン303は、携帯端末20の撮像部26により、投影された測定用画像41の撮像を試写するための試写操作部とされる。測定部311による撮像の前に、投影画像が画角に収まるか否か等の試写をすることができる。この場合も、カメラ画面320で撮像の状態を確認することができる。
【0046】
「補正なし」ボタン303の右側には、「設定」ボタン340が表示されている。「設定」ボタン340は、投影装置10により投影する測定用画像41に関する設定を行うことができる。「設定」ボタン340を押すと、表示部24は、
図10のUI画面349に切り替わる。UI画面349の上段の「ドットパターンの明るさ」341は、測定用画像41の明るさを調整することができる。「ドットパターンのピッチ幅」342は、格子状(市松模様)や横縞、縦縞からなる測定用画像41の縞模様のピッチ幅を設定することができる。「ドットパターンの枚数」343は、投影される測定用画像41の枚数(種類)を設定することができる。これらの設定は、測定部311による測定情報43の算出において、エラーが発生した場合に行うことができる。
【0047】
「補正なし」ボタン303及び「設定」ボタン340の下方には、予測点位置決定部330が表示される。予測点位置決定部330は、異なる測定点に対応して複数設けられる第1操作部と第2操作部の組合せによる操作に応じた複数の補正情報及び測定点の位置に対する予測点の位置から加重平均を用いて予測点の補正情報を算出するための予測点位置を決定することができる。予測点位置決定部330には、「予測点補正」ボタン331及び予測点位置決定スライドバー332が表示されている。予測点位置決定スライドバー332には、視点1の位置を示すポイント332aと、視点2の位置を示すポイント332bと、視点1,2を結ぶライン332cと、ライン332c上をスライドして移動操作可能な予測点のポイント332dが表示されている。
【0048】
ユーザUの設定により予測点(位置)を決定したい場合には、予測点位置決定スライドバー332により設定することができる。予測点の設定は、予測点を示すポイント332dをライン332cに沿って移動させることで行うことができる。従って、予測点が、測定点(視点1,2)に対して内分する位置か、外分する位置か(視点1,2のどちら側の位置で外分するか)を決定することができる。投影制御装置30の測定処理部35は、予測点位置決定スライドバー332で設定された予測点位置に基づいて、前述の式(1)~(3)の何れかの式を用いて加重平均を適用するかを決定する。予測点を、携帯端末20が備えるGPS受信から出力されるGPS情報による場合又は携帯端末20が備える加速度センサから検出される撮像画像の撮像時の角度情報による場合は、この操作は必要ない。
【0049】
予測点を示すポイント332dをスライドさせて予測点の決定後、「予測点補正」ボタン331を押すことで、予測点位置決定スライドバー332で設定した予測点の位置情報(予測点位置)が投影制御装置30に送信される。投影制御装置30は、受信した予測点の位置情報に基づいて、測定処理部35により加重平均を用いて、予測点における補正情報44-Fが算出される。投影制御装置30は、予測点の補正情報44-Fに基づいて、投影画像を補正する。なお、予測点をGPSや撮像画像から算出する場合には、予測点位置決定スライドバー332を操作ができない表示として、「予測点補正」ボタン331を点滅させる等して、「予測点補正」ボタン331を押すことで測定処理部35により加重平均を用いた予測点における補正情報44-Fを算出させてもよい。
【0050】
以上、本発明の実施形態を説明したが、本発明は本実施形態によって限定されることは無く、種々の変更を加えて実施することができる。例えば、画像補正処理部34や測定処理部35は、携帯端末20に備えるようにして、携帯端末20で各視点(視点1,2)及び予測点の補正情報44を算出するようにしてもよい。この場合、測定情報43や補正情報44は、携帯端末20の記憶部23に保存するようにすることもできる。また、投影装置10をプロジェクタとして、投影制御装置30をPC(パーソナルコンピュータ)とすることもできる。
【0051】
また、測定点(視点)は、本実施形態においては2箇所としたが、3箇所以上の測定点として、これら複数の測定点における補正情報44に対して加重平均を用いて予測点の補正情報44-Fを算出することもできる。
【0052】
以上の本発明の実施形態によれば、投影制御装置30は、少なくとも1つのプロセッサである制御部31と、通信部36と、を備え、制御部31は、第1地点(視点1)で撮像された第1撮像画像(補正用画像)及び第2地点(視点2)で撮像された第2撮像画像(補正用画像)を通信部36を介して取得し、第1撮像画像に基づいて第1補正データを取得するとともに、第2撮像画像に基づいて第2補正データを取得し、第1地点の第1位置データ、第2地点の第2位置データ、第3地点の第3位置データ、をそれぞれ取得し、第1補正データ、第2補正データ、第1位置データ、第2位置データ、第3位置データを用いて第3地点に対応する第3補正データを決定し、決定された第3補正データに基づいて投影装置10(投影部11)に投影させる投影画像を補正する。これにより、ユーザUは、投影画像を見る位置を移動しても、逐一補正用画像を投影、撮像して補正情報を算出する必要が無く、即座に補正された投影画像を見ることができる。
【0053】
また、第3補正データは、第1補正データ、第2補正データに対して第1位置データ及び第2位置データに対する第3位置データから加重平均を用いて算出される。これにより、精度良く予測点である第3位置の補正情報44を算出することができる。
【0054】
また、補正情報44(第1補正データ、第2補正データ)は、第1撮像画像、第2撮像画像の画素位置の座標に対して表示素子50の座標を求め、この対応関係を用いて出力画像の画素位置に対応する第1撮像画像、第2撮像画像の座標を用いて算出され、加重平均は、表示素子50の座標又は撮像画像の座標に対して適用される。これにより、投影装置10が配置される環境に応じて、適切に補正が行われる座標を選択して加重平均による予測点の補正情報44を算出することができる。
【0055】
また、第3位置データである予測点の位置は、GPS、撮像画像(第1撮像画像、第2撮像画像)の撮像時の角度情報、ユーザ設定の何れかにより決定される。これにより、投影装置10及びユーザUが投影画像を見る環境に応じて適切な予測点の位置の決定をすることができる。
【0056】
また、投影制御装置30は、測定点から撮像した撮像画像(補正用画像)(第1撮像画像、第2撮像画像)及び測定点の位置情報(第1~第3位置データ)を備える測定情報43(測定情報43-1,43-2等)、複数の補正情報44(補正情報44-1,44-2等)、を記憶する記憶部40を更に備える。これにより、記憶部40で記憶した情報に基づいて予測点の補正情報44-Fを算出できるので、投影の度に視点1,2からの測定を行う必要なく予測点の補正情報を算出することができる。
【0057】
また、投影システム1は、通信部36を含む投影制御装置30と、複数のマイクロミラーを備える表示素子50が設けられる投影部11を有する投影装置10と、第1撮像画像、第2撮像画像を撮像可能に形成され、第1撮像画像、第2撮像画像及び第1位置データ、第2位置データ、第3位置データを通信部36を介して投影装置10に送信可能な携帯端末20と、を有する。これにより、ユーザUが投影画像を見る位置を移動しても、逐一補正用画像を投影、撮像して補正情報を算出する必要が無く、即座に補正された投影画像を見ることができる投影システム1を提供することができる。
【0058】
また、投影システム1(投影装置10)による投影方法は、第1地点で撮像された第1撮像画像及び第2地点で撮像された第2撮像画像を通信部36を介して取得する工程と、第1撮像画像に基づいて第1補正データを取得するとともに、第2撮像画像に基づいて第2補正データを取得する工程と、第1地点の第1位置データ、第2地点の第2位置データ、第3地点の第3位置データ、をそれぞれ取得する工程と、第1補正データ、第2補正データ、第1位置データ、第2位置データ、第3位置データを用いて第3地点に対応する第3補正データを決定する工程と、決定された第3補正データに基づいて投影装置10(投影部11)に投影させる投影画像を補正する工程と、を有する。これにより、ユーザUが投影画像を見る位置を移動しても、逐一補正用画像を投影、撮像して補正情報を算出する必要が無く、即座に補正された投影画像を見ることができる投影方法を提供することができる。
【0059】
また、第3補正データは、第1補正データ、第2補正データに対して第1位置データ及び第2位置データに対する第3位置データから加重平均を用いて算出される。これにより、簡便な計算により即座に第3地点における補正情報44を生成することができる。
【0060】
また、投影方法は、第1撮像画像に基づいて第1補正データを取得するとともに、第2撮像画像に基づいて第2補正データを取得する工程は、第1撮像画像、第2撮像画像の画素位置の座標に対して表示素子50の座標を求め、この対応関係を用いて出力画像の画素位置に対応する第1撮像画像、第2撮像画像の座標を用いて第1補正データ、第2補正データを算出する工程と、を含む。第1補正データ、第2補正データ、第1位置データ、第2位置データ、第3位置データを用いて第3地点に対応する第3補正データを決定する工程は、(A)表示素子50の座標に対する撮像画像26aの座標(Si)、(B)撮像画像26aの座標(Si)に対する表示素子50の座標(Pi)、(C)表示素子50の座標に対する変形後の表示素子50の座標(Pj)、(D)変形後の表示素子50の座標(Pj)に対する表示素子50の座標(Pk)の何れかに対して加重平均を適用する。これにより、DMDとされる表示素子50に対して予測点における補正情報44-F(第3補正データ)を算出することができる。そして、投影装置10が設置される状況に応じて、上記(A)~(D)の適切な座標を用いて加重平均を適用させることができる。
【0061】
また、投影方法は、GPS、撮像画像26aの撮像時の角度情報、ユーザ設定の何れかにより予測点の位置を得る工程を備えることができる。これにより、予測点の位置を状況に合わせて的確に取得することができる。
【0062】
また、プログラム(制御プログラム42)は、制御部31を、第1地点で撮像された第1撮像画像及び第2地点で撮像された第2撮像画像を通信部36を介して取得し、第1撮像画像に基づいて第1補正データを取得するとともに、第2撮像画像に基づいて第2補正データを取得し、第1地点の第1位置データ、第2地点の第2位置データ、第3地点の第3位置データ、をそれぞれ取得し、第1補正データ、第2補正データ、第1位置データ、第2位置データ、第3位置データを用いて第3地点に対応する第3補正データを決定し、決定された前記第3補正データに基づいて投影装置10(投影部11)に投影させる投影画像を補正する、ように機能させる。これにより、ユーザUが投影画像を見る位置を移動しても、逐一補正用画像を投影、撮像して補正情報を算出する必要が無く、即座に補正された投影画像を見ることができる投影装置10を機能させるプログラムを提供することができる。
【0063】
また、第3補正データは、第1補正データ、第2補正データに対して、第1位置データ及び第2位置データに対する第3位置データから加重平均を用いて算出される。これにより、簡便な計算式を用いてプログラムの実行速度を早めた上記プログラムを提供することができる。
【0064】
なお、以上説明した実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の趣旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これらの実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【0065】
以下に、本願出願の最初の特許請求の範囲に記載された発明を付記する。
[1]少なくとも1つのプロセッサと、
通信部と、を備え、
前記少なくとも1つのプロセッサは、
第1地点で撮像された第1撮像画像及び前記第1地点とは異なる第2地点で撮像された第2撮像画像を前記通信部を介して取得し、
前記第1撮像画像に基づいて第1補正データを取得するとともに、前記第2撮像画像に基づいて第2補正データを取得し、
前記第1地点の第1位置データ、前記第2地点の第2位置データ、前記第1地点及び前記第2地点とは異なる第3地点の第3位置データ、をそれぞれ取得し、
前記第1補正データ、前記第2補正データ、前記第1位置データ、前記第2位置データ、前記第3位置データを用いて前記第3地点に対応する第3補正データを決定し、
決定された前記第3補正データに基づいて投影部に投影させる投影画像を補正する、
ことを特徴とする投影制御装置。
[2]前記第3補正データは、前記第1補正データ、前記第2補正データに対して、前記第1位置データ及び前記第2位置データに対する前記第3位置データから加重平均を用いて算出されることを特徴とする前記[1]に記載の投影制御装置。
[3]前記第1補正データ、前記第2補正データは、前記第1撮像画像、前記第2撮像画像の画素位置の座標に対して表示素子の座標を求め、この対応関係を用いて出力画像の画素位置に対応する前記第1撮像画像、前記第2撮像画像の座標を用いて算出され、
前記加重平均は、前記表示素子の座標又は前記第1撮像画像、前記第2撮像画像の座標に対して適用される、
ことを特徴とする前記[2]に記載の投影制御装置。
[4]前記第3位置データは、GPS、前記第1撮像画像、前記第2撮像画像の撮像時の角度情報、ユーザ設定の何れかにより決定されることを特徴とする前記[1]乃至前記[3]の何れかに記載の投影制御装置。
[5]前記第1位置データ、前記第2位置データ、前記第3位置データ及び前記第1補正データ、前記第2補正データを記憶する記憶部をさらに備えることを特徴とする前記[1]乃至前記[4]の何れかに記載の投影制御装置。
[6]前記[1]乃至前記[5]の何れか記載の投影制御装置と、複数のマイクロミラーを備える表示素子が設けられる投影部と、を有する投影装置と、
前記第1撮像画像、前記第2撮像画像を撮像可能に形成され、前記第1撮像画像、前記第2撮像画像及び前記第1位置データ、前記第2位置データ、前記第3位置データを、前記通信部を介して前記投影装置に送信可能な端末装置と、
を有することを特徴とする投影システム。
[7]第1地点で撮像された第1撮像画像及び前記第1地点とは異なる第2地点で撮像された第2撮像画像を通信部を介して取得する工程と、
前記第1撮像画像に基づいて第1補正データを取得するとともに、前記第2撮像画像に基づいて第2補正データを取得する工程と、
前記第1地点の第1位置データ、前記第2地点の第2位置データ、前記第1地点及び前記第2地点とは異なる第3地点の第3位置データ、をそれぞれ取得する工程と、
前記第1補正データ、前記第2補正データ、前記第1位置データ、前記第2位置データ、前記第3位置データを用いて前記第3地点に対応する第3補正データを決定する工程と、
決定された前記第3補正データに基づいて投影部に投影させる投影画像を補正する工程と、
を有することを特徴とする投影方法。
[8]前記第3補正データは、前記第1補正データ、前記第2補正データに対して、前記第1位置データ及び前記第2位置データに対する前記第3位置データから加重平均を用いて算出されることを特徴とする前記[7]に記載の投影方法。
[9]前記第1撮像画像に基づいて前記第1補正データを取得するとともに、前記第2撮像画像に基づいて前記第2補正データを取得する工程は、前記第1撮像画像、前記第2撮像画像の画素位置の座標に対して表示素子の座標を求め、この対応関係を用いて出力画像の画素位置に対応する前記第1撮像画像、前記第2撮像画像の座標を用いて前記第1補正データ、前記第2補正データを算出する工程と、を含み、
前記第1補正データ、前記第2補正データ、前記第1位置データ、前記第2位置データ、前記第3位置データを用いて前記第3地点に対応する前記第3補正データを決定する工程は、前記表示素子の座標に対する前記第1撮像画像、前記第2撮像画像の座標、前記第1撮像画像、前記第2撮像画像に対する前記表示素子の座標、前記表示素子の座標に対する変形後の前記表示素子の座標、変形後の前記表示素子の座標に対する前記表示素子の座標、の何れかに対して前記加重平均を適用することを特徴とする前記[8]に記載の投影方法。
[10]GPS、前記第1撮像画像、前記第2撮像画像の撮像時の角度情報、ユーザ設定の何れかにより前記第3位置データの位置情報を得る工程を備えることを特徴とする前記[7]乃至前記[9]の何れかに記載の投影方法。
[11]コンピュータが実行するプログラムであって、前記コンピュータを、
第1地点で撮像された第1撮像画像及び前記第1地点とは異なる第2地点で撮像された第2撮像画像を通信部を介して取得し、
前記第1撮像画像に基づいて第1補正データを取得するとともに、前記第2撮像画像に基づいて第2補正データを取得し、
前記第1地点の第1位置データ、前記第2地点の第2位置データ、前記第1地点及び前記第2地点とは異なる第3地点の第3位置データ、をそれぞれ取得し、
前記第1補正データ、前記第2補正データ、前記第1位置データ、前記第2位置データ、前記第3位置データを用いて前記第3地点に対応する第3補正データを決定し、
決定された前記第3補正データに基づいて前記投影部に投影させる投影画像を補正する、
ように機能させるプログラム。
[12]前記第3補正データは、前記第1補正データ、前記第2補正データに対して、前記第1位置データ及び前記第2位置データに対する前記第3位置データから加重平均を用いて算出されることを特徴とする前記[11]に記載のプログラム。
【符号の説明】
【0066】
1 投影システム 2 カーテン
3 被投影面 10 投影装置
11 投影部 15 投影光学系
16 モータ 20 携帯端末
21 制御部 22 通信部
23 記憶部 24 表示部
25 操作部 26 撮像部
26a 撮像画像 29 バス
30 投影制御装置 31 制御部
32 操作部 33 画像入力部
34 画像補正処理部 35 測定処理部
36 通信部 37 投影画像処理部
38 音声処理部 38a スピーカ
40 記憶部 41 測定用画像
42 制御プログラム 43 測定情報
44 補正情報 50 表示素子
60 光源装置
300 ユーザインターフェース画面(UI画面)
310 測定補正操作部 311 測定部
312 補正部 320 カメラ画面
330 予測点位置決定部 332 予測点位置決定スライドバー
349 UI画面
U ユーザ