【文献】
永松明,外3名,屋内環境におけるハンドヘルド型プロジェクションAR案内システム,日本バーチャルリアリティ学会第12回大会論文抄録集,日本,日本バーチャルリアリティ学会,2007年 9月19日
(58)【調査した分野】(Int.Cl.,DB名)
表示対象となる画像の一部を投影面に投影して表示させる投影部と前記投影面との相対的な位置関係に基づいて特定される前記投影面に表示される画像の表示領域と前記表示対象となる画像に関連付けられている制御情報とに基づいて前記投影面に表示される画像に関する制御を行う制御部と、
前記投影部の姿勢を検出する姿勢検出部とを具備し、
前記制御部は、所定の動作モードが設定され、前記投影面に表示される画像に対象物が含まれない場合には、前記対象物への方向を示す矢印を表示させるとともに前記矢印に重ねて前記対象物の名称を表示させ、
前記制御部は、前記所定の動作モードと異なる動作モードが設定された場合には前記画像内の複数の対象物のうちランダムに選択した対象物の名称を表示させ、前記検出された投影部の姿勢に基づいて前記投影面に表示させる画像の表示領域を変更する制御を行い、変更後の画像の表示領域内に前記選択した対象物が含まれた状態で所定のユーザ操作が行われたときに当該画像に関連付けられている前記制御情報に基づいて前記投影面に表示される画像に関する音声出力を行うよう制御する
情報処理装置。
前記制御部は、前記表示対象となる画像として背景画像を表示させるとともに前記制御情報に基づいて複数の項目画像を前記背景画像上に表示させる制御を行う請求項1記載の情報処理装置。
前記制御部は、前記変更後の画像の表示領域と当該画像に関連付けられている前記制御情報とに基づいて前記投影面に表示される画像の表示態様を制御する請求項3記載の情報処理装置。
前記制御部は、前記表示対象となる画像として撮像動作時における撮像装置の方位、姿勢、位置情報のうちの少なくとも1つの情報が関連付けられている画像を表示させ、当該情報に基づいて前記投影面に表示される画像の表示領域を変更する請求項1から5のいずれかに記載の情報処理装置。
表示対象となる画像の一部を投影面に投影して表示させる投影部と前記投影面との相対的な位置関係に基づいて特定される前記投影面に表示される画像の表示領域と前記表示対象となる画像に関連付けられている制御情報とに基づいて前記投影面に表示される画像に関する制御を行う制御手順と、
前記投影部の姿勢を検出する姿勢検出手順と
を具備し、
前記制御手順において、所定の動作モードが設定され、前記投影面に表示される画像に対象物が含まれない場合には、前記対象物への方向を示す矢印を表示させるとともに前記矢印に重ねて前記対象物の名称を表示させ、
前記制御手順において、前記所定の動作モードと異なる動作モードが設定された場合には前記画像内の複数の対象物のうちランダムに選択した対象物の名称を表示させ、前記検出された投影部の姿勢に基づいて前記投影面に表示させる画像の表示領域を変更する制御を行い、変更後の画像の表示領域内に前記選択した対象物が含まれた状態で所定のユーザ操作が行われたときに当該画像に関連付けられている前記制御情報に基づいて前記投影面に表示される画像に関する音声出力を行うよう制御する
情報処理方法。
表示対象となる画像の一部を投影面に投影して表示させる投影部と前記投影面との相対的な位置関係に基づいて特定される前記投影面に表示される画像の表示領域と前記表示対象となる画像に関連付けられている制御情報とに基づいて前記投影面に表示される画像に関する制御を行う制御手順と、
前記投影部の姿勢を検出する姿勢検出手順と
をコンピュータに実行させるためのプログラムであって、
前記制御手順において、所定の動作モードが設定され、前記投影面に表示される画像に対象物が含まれない場合には、前記対象物への方向を示す矢印を表示させるとともに前記矢印に重ねて前記対象物の名称を表示させ、
前記制御手順において、前記所定の動作モードと異なる動作モードが設定された場合には前記画像内の複数の対象物のうちランダムに選択した対象物の名称を表示させ、前記検出された投影部の姿勢に基づいて前記投影面に表示させる画像の表示領域を変更する制御を行い、変更後の画像の表示領域内に前記選択した対象物が含まれた状態で所定のユーザ操作が行われたときに当該画像に関連付けられている前記制御情報に基づいて前記投影面に表示される画像に関する音声出力を行うよう制御する
プログラム。
【発明を実施するための形態】
【0023】
以下、本技術を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.第1の実施の形態(空間位置アクション定義に基づいて、投影面に表示される画像に関する制御を行う例)
2.第2の実施の形態(複数の項目画像の中から所望の項目画像を選択する例)
3.第3の実施の形態(情報処理装置および投影面間の距離に基づいて、投影される画像の表示領域を変更する例)
【0024】
<1.第1の実施の形態>
[情報処理装置の使用例]
図1は、本技術の第1の実施の形態における情報処理装置100の使用例を示す図である。
【0025】
情報処理装置100は、投影面(投影スクリーン面)10に画像を投影(投射)することにより、投影面10に画像11を表示させる画像投影機(例えば、プロジェクタ)である。なお、
図1では、スクリーン、壁、天井等のように、画像を表示することができる平面形状(または、非平面形状)の面を投影面10として模式的に示す。また、
図1では、情報処理装置100により投影される画像11を白抜きの矩形で模式的に示す。なお、本技術の実施の形態に示す画像には、映像の意味を含むものとする。
【0026】
また、本技術の実施の形態では、
図1に示すように、ユーザ1が、情報処理装置100を手で持ちながら、投影面10に画像を投影することが可能な携帯型の情報処理装置を例にして説明する。
【0027】
[情報処理装置の構成例]
図2は、本技術の第1の実施の形態における情報処理装置100の機能構成例を示すブロック図である。
【0028】
情報処理装置100は、操作受付部110と、空間位置情報生成部120と、空間画像・空間音像生成部130と、空間位置アクション生成部140と、画像・音像合成部150と、画像・音声生成部160と、出力部170と、制御部180とを備える。なお、投影面10は、投影部172から投影される画像を映し出す投影面(例えば、プロジェクタモジュール等のスクリーン)である。
【0029】
操作受付部110は、ユーザにより行われた操作入力を受け付ける操作受付部であり、受け付けられた操作入力に応じた操作情報を制御部180に出力する。操作受付部110は、例えば、タッチパネル、キーボード、ボタン(例えば、
図11に示す特定ボタン111)、マウス、センサにより実現される。
【0030】
空間位置情報生成部120は、投影部172の姿勢、投影方向、投影部172および投影面10間の距離等の空間位置に関する情報(空間位置情報)を生成するものであり、生成された空間位置情報を制御部180に出力する。具体的には、空間位置情報生成部120は、姿勢検出部121と、距離検出部122と、空間位置検出部123とを備える。
【0031】
姿勢検出部121は、投影部172の姿勢(投影部172が投影する方向(投影方向)を含む)を検出するものであり、検出された姿勢(投影方向)を空間位置検出部123に出力する。例えば、姿勢検出部121は、ジャイロセンサ、加速度センサ、コンパス等のセンサを用いて、投影部172の姿勢や投影方向を検出することができる。なお、投影方向は、例えば、ある方向(例えば、電源投入時における方向)を基準方向(例えば、0度)とした場合の方向(基準方向からの角度)とすることができる。また、投影方向の代わりに、投影部172が投影する方位(投影方位)を検出するようにしてもよい。投影方位については、例えば、地磁気を利用して地球上における方位を計測する方位センサを用いて検出することができる。
【0032】
距離検出部122は、投影部172および投影面10間の距離を検出するものであり、検出された距離を空間位置検出部123に出力する。例えば、距離検出部122は、赤外線等の距離センサを用いて、投影部172および投影面10間の距離を検出する。また、距離検出部122は、投影部172により投影された画像を撮像装置(
図19に示す撮像部124)により撮像し、その撮像された画像のずれを検出することにより、その距離を検出することができる。
【0033】
空間位置検出部123は、姿勢検出部121により検出された姿勢および投影方向と、距離検出部122により検出された距離とに基づいて、投影部172の空間位置を検出するものである。そして、空間位置検出部123は、その検出された空間位置に関する情報(空間位置情報)を制御部180に出力する。また、制御部180は、その空間位置情報を各部に出力する。
【0034】
空間画像・空間音像生成部130は、パノラマ画像、360度画像、全天球画像等の画像データに基づいて、仮想的な空間画像・空間音像を生成するものである。この場合に、空間位置データ記憶部133に空間位置データが記憶されている場合には、空間画像・空間音像生成部130は、その空間位置データを考慮して、仮想的な空間画像・空間音像を生成する。
【0035】
具体的には、空間画像・空間音像生成部130は、音声データ記憶部131と、画像データ記憶部132と、空間位置データ記憶部133と、空間音像生成部134と、空間画像生成部135とを備える。
【0036】
音声データ記憶部131は、音声データを記憶するものであり、記憶されている音声データを空間音像生成部134に供給する。
【0037】
画像データ記憶部132は、画像データを記憶するものであり、記憶されている画像データを空間画像生成部135に供給する。
【0038】
空間位置データ記憶部133は、音声データ記憶部131に記憶されている音声データと、画像データ記憶部132に記憶されている画像データとのそれぞれに関する空間位置データを記憶するものである。そして、空間位置データ記憶部133は、記憶されている空間位置データを空間音像生成部134および空間画像生成部135に供給する。
【0039】
ここで、空間位置データについて説明する。
【0040】
例えば、音声データおよび画像データが撮像装置による撮像動作により記録されたデータである場合には、空間位置データは、その撮像動作時における撮像装置の姿勢、光軸方向、撮像装置と対象物との距離、レンズの画角等のデータである。この場合には、その撮像動作により記録される音像データおよび画像データに関連付けて、空間位置データが記録される。なお、撮像装置は、例えば、デジタルスチルカメラ、デジタルビデオカメラ(例えば、カメラ一体型レコーダ)である。
【0041】
例えば、空間位置データとして、Photo Sphere XMP Metadataのデータフォーマットに格納されているデータを用いることができる。なお、Photo Sphere XMP Metadataは、全天球静止画のメタデータである。
【0042】
また、本技術の実施の形態では、Photo Sphere XMP Metadataのデータフォーマットのうちの以下の(1)乃至(3)を主に用いることができる。
(1)GPano:PoseHeadingDegrees
(2)GPano:PosePitchDegrees
(3)GPano:PoseRollDegrees
【0043】
例えば、空間画像生成部135は、その空間位置データに基づいて、空間画像をマッピングする、位置、姿勢、大きさを決定して、空間画像を生成することができる。この生成例については、本技術の第3の実施の形態で示す。
【0044】
また、Photo Sphere XMP Metadataのデータフォーマットでは、動画については定義されていない。そこで、上述した空間位置データを時間情報とともに時系列で記録させておき、動画再生時には、その時間情報と同期をとりながら、上述した空間位置データを用いることができる。これにより、例えば、動画再生時における姿勢補正を行うことができる。
【0045】
例えば、ダイビング中に撮影された全天球動画の画像において、このような空間位置データを時系列データとして記録することにより、ダイバーの撮影方向に影響されることなく、ユーザの見たい方向の画像を表示することができる。
【0046】
また、Photo Sphere XMP Metadataのデータフォーマットには、姿勢、方位に関する情報は定義されているが、対象物までの距離に関する情報については定義されていない。そこで、上述した空間位置データを、対象物までの距離に関する情報とともに記録させておき、画像再生時には、対象物までの距離に関する情報を用いることができる。例えば、北側の10m離れた場所に存在する象の画像と、南側の1m離れた場所に存在する猫の画像とがある場合に、その距離に応じて空間位置にマッピングすることにより、その大きさの違いを再現することができる。
【0047】
空間音像生成部134は、制御部180の制御に基づいて、音声データ記憶部131に記憶されている音声データと、空間位置データ記憶部133に記憶されている空間位置データとを用いて空間音像を生成するものである。そして、空間音像生成部134は、その生成された空間音像を音像合成部151に出力する。
【0048】
空間画像生成部135は、制御部180の制御に基づいて、画像データ記憶部132に記憶されている画像データと、空間位置データ記憶部133に記憶されている空間位置データとを用いて空間画像を生成するものである。そして、空間画像生成部135は、その生成された空間画像を画像合成部152に出力する。
【0049】
空間位置アクション生成部140は、空間位置情報生成部120により生成された空間位置に応じた空間画像や空間音像の効果を生成するものである。空間位置アクション生成部140は、例えば、全天球プラネタリウムにおいて、ポインタ上の星座の表示、ポインタの軌跡を残すことによるお絵かき機能を実現する。
【0050】
具体的には、空間位置アクション生成部140は、空間位置アクション記憶部141と、空間音像生成部142と、空間画像生成部143とを備える。
【0051】
空間位置アクション記憶部141は、空間位置毎のアクション定義を記憶するものであり、記憶されている空間位置毎のアクション定義を、空間音像生成部142、空間画像生成部143および制御部180に供給する。また、
図12、
図13に示すように、お絵かきが行われる場合には、その軌跡に関する情報が、制御部180により空間位置アクション記憶部141に順次記録される。すなわち、制御部180は、投影部172の姿勢の変化に関する軌跡と、表示対象となる画像とを関連付けて、空間位置アクション記憶部141に順次記録する。
【0052】
空間音像生成部142は、制御部180の制御に基づいて、空間音像を生成するものであり、その生成された空間音像を音像合成部151に出力する。例えば、空間音像生成部142は、空間位置情報生成部120により生成された空間位置情報に基づいて、空間位置アクション記憶部141に記憶されている空間位置毎のアクション定義を用いて、空間音像を生成する。また、例えば、空間音像生成部142は、ある方向がポイントされた際には、その右側から音を出すように音像を生成する。
【0053】
空間画像生成部143は、制御部180の制御に基づいて、空間画像を生成するものであり、その生成された空間画像を画像合成部152に出力する。例えば、空間画像生成部143は、空間位置情報生成部120により生成された空間位置情報に基づいて、空間位置アクション記憶部141に記憶されている空間位置毎のアクション定義を用いて、空間画像を生成する。
【0054】
画像・音像合成部150は、音像合成部151および画像合成部152を備える。
【0055】
音像合成部151は、空間画像・空間音像生成部130により生成された空間音像と、空間位置アクション生成部140により生成された空間音像とを合成(重ね合わせ)するものであり、その合成された空間音像を音声生成部161に出力する。
【0056】
画像合成部152は、空間画像・空間音像生成部130により生成された空間画像と、空間位置アクション生成部140により生成された空間画像とを合成(重ね合わせ)するものであり、その合成された空間画像を画像生成部162に出力する。
【0057】
画像・音声生成部160は、音声生成部161および画像生成部162を備える。
【0058】
音声生成部161は、音像合成部151により合成された空間音像について、空間位置情報生成部120により生成された空間位置情報に基づいて、音声の切り出し等を行うことにより、出力対象となる音声を生成するものである。そして、音声生成部161は、その生成された音声を音声出力部171に出力する。なお、空間位置情報には、投影部172の姿勢、投影方向、投影部172および投影面10間の距離を含む。
【0059】
画像生成部162は、画像合成部152により合成された空間画像について、空間位置情報生成部120により生成された空間位置情報に基づいて、画像の切り出し等を行うことにより、出力対象となる画像を生成するものである。そして、画像生成部162は、その生成された画像を投影部172に出力する。
【0060】
出力部170は、音声出力部171および投影部172を備える。
【0061】
音声出力部171は、音声生成部161により生成された音声を出力する音声出力装置(例えば、スピーカ)である。
【0062】
投影部172は、画像生成部162により生成された画像を投影面10に投影する画像出力装置である。すなわち、投影部172は、表示対象となる画像の一部を投影面10に投影して表示させる。
【0063】
制御部180は、制御プログラムに基づいて情報処理装置100の各部を制御するものである。例えば、制御部180は、投影部172と投影面10との相対的な位置関係に基づいて特定される投影面10に表示される画像の表示領域と、表示対象となる画像に関連付けられている制御情報とに基づいて、投影面10に表示される画像に関する制御を行う。ここで、制御情報は、例えば、空間位置アクション記憶部141に記憶されている各情報である。
【0064】
例えば、制御部180は、投影部172の姿勢に基づいて、投影面10に表示させる画像の表示領域を変更する。この場合に、制御部180は、投影面10に表示させる画像の表示領域と、その画像に関連付けられている制御情報とに基づいて、投影面10に表示される画像の表示態様を制御する。例えば、
図4に示すように、星や星座に関する情報を表示させることができる。また、例えば、制御部180は、投影面10に表示させる画像の表示領域と、その画像に関連付けられている制御情報とに基づいて、投影面10に表示される画像に関する音声出力を行うよう制御することができる。例えば、
図11に示すように、ヒットした旨の音声出力を行うことができる。
【0065】
[空間位置アクション記憶部の内容例]
図3は、本技術の第1の実施の形態における空間位置アクション記憶部141の内容例を示す図である。
【0066】
空間位置アクション記憶部141には、動作モード201と、データ種別202と、空間位置情報種別203と、空間位置情報204と、アクション定義205と、付加情報206とが関連付けて格納されている。
【0067】
動作モード201には、情報処理装置100により画像を投影する場合の動作モードが格納される。
図3では、動作モード201として、プラネタリウム、空間位置当てクイズ、シューティング、お絵かきの各動作モードが格納される例を示す。また、各動作モードは、例えば、操作受付部110からのユーザ操作に基づいて設定されるものとする。
【0068】
プラネタリウムは、天体の星、星の運動等の画像(または、光)を投影面10に投影して、投影面10に星、星の運動等を再現する動作モードである。なお、動作モードとしてプラネタリウムが設定されている場合の表示例を、
図4乃至
図6に示す。
【0069】
例えば、動作モードとしてプラネタリウムが設定されている場合には、投影面10における画像の表示領域(情報処理装置100の姿勢に応じた領域)が、特定の星や星座の空間位置となった場合(または、近くになった場合)に、アクション定義が実行される。また、ユーザにより情報処理装置100の姿勢が変更された場合には、その変更後の表示領域が、特定の星や星座の空間位置となった場合(または、近くになった場合)に、アクション定義が実行される。ここで、表示領域が、特定の星や星座の空間位置となったか否かの判断は、例えば、空間位置情報204に格納されている情報に基づいて行われる。
【0070】
空間位置当てクイズは、地図等の画像を投影面10に投影して、投影面10に表示される画像(例えば、地図)とともに、その画像に関するクイズ(問題)を表示させる動作モードである。なお、動作モードとして空間位置当てクイズが設定されている場合の表示例を、
図8に示す。
【0071】
例えば、空間位置当てクイズは、空間位置データからランダムに選択し、そのアクション定義を実行して、その空間位置でのユーザアクションを待つ動作モードである。また、空間位置当てクイズでは、ユーザアクション(ユーザによる情報処理装置100の姿勢の変更)時に空間位置が近ければ、正解アクションを行い、ユーザアクション時に空間位置が遠ければ、不正解アクションを行う。
【0072】
シューティングは、ターゲットとなる対象物(例えば、お化けの画像)を投影面10に投影して、投影面10に表示されるその対象物(例えば、お化けの画像)を撃ち落とすコンピュータゲームを行うための動作モードである。なお、動作モードとしてシューティングが設定されている場合の表示例を、
図9乃至
図11に示す。
【0073】
例えば、シューティングは、最初に全てのターゲットデータのアクションを行い、ユーザアクションを待つ動作モードである。シューティングでは、ユーザアクション時に空間位置が近ければ、ヒットアクションを行う。
【0074】
お絵かきは、情報処理装置100の姿勢を変化させることにより、投影面10に表示される画像上に線等の軌跡情報を描画する動作モードである。なお、動作モードとしてお絵かきが設定されている場合の表示例を、
図12、
図13に示す。
【0075】
例えば、お絵かきは、ユーザアクション時に、その空間位置、色、太さ情報を順次記憶していく動作モードである。お絵かきでは、お絵かきデータの全ては常にアクションに従って実行される。
【0076】
データ種別202には、表示対象となるデータの種別が格納される。例えば、動作モードとしてプラネタリウムが設定されている場合には、星、星座、天の川等が表示されるため、データ種別202には、それらに対応するデータ種別が格納される。
【0077】
空間位置情報種別203には、空間位置を特定するための情報の種別が格納される。例えば、星や星座(データ種別202「星の位置データ」、「星座のデータ」)を表示する場合の種別として、赤道座標が用いられる。また、球面上の空間位置を特定するための情報として、極座標(球面座標)(r,θ,φ)、直交座標(x,y,z)を用いるようにしてもよい。また、球面座標を緯度、経度の値とする情報(緯度、経度、球面の半径)を用いるようにしてもよい。
【0078】
空間位置情報204には、空間位置を特定するための情報が格納される。例えば、星や星座(データ種別202「星の位置データ」、「星座のデータ」)を表示する場合には、上述したように、赤道座標が用いられる。例えば、赤道座標は、赤経および赤緯の2つの数値で表される。例えば、「北極星」に関する空間位置情報204には、赤経「2h32m」、赤緯「+89」が格納される。
【0079】
アクション定義205には、空間位置情報204により特定される空間位置が表示領域に含まれる場合に、実行すべき内容が格納される。例えば、「オリオン座」に関するアクション定義205には、「付加情報を空間位置に表示」が格納されているため、オリオン座に関する情報が表示される。例えば、
図4に示すように、オリオン座に関する情報が表示される。
【0080】
付加情報206には、アクション定義205を行う場合に用いられる付加情報が格納される。例えば、「オリオン座」に関する付加情報206には、オリオン座に関する情報を表示するための付加情報が格納される。例えば、
図4に示すように、オリオン座に関する情報を表示するための付加情報が格納される。
【0081】
なお、
図3では、説明の容易のため、星座の名称のみを付加情報206に格納する例を示すが、星座の名称以外の他の情報を格納することができる。例えば、星座の名称と、星座のラインとを付加情報206に格納しておき、
図4に示すように、星座の名称および星座のラインを描画することができる。
【0082】
なお、
図3では、動作モード201として、プラネタリウム、空間位置当てクイズ、シューティング、お絵かきの動作モードを例にして示すが、空間位置アクション記憶部141には、他の動作モードを格納するようにしてもよい。
【0083】
[プラネタリウム設定時の表示例]
図4は、本技術の第1の実施の形態における情報処理装置100により投影された画像の表示例を示す図である。
図4では、動作モードとしてプラネタリウムが設定されている場合の表示例を示す。
【0084】
図5は、本技術の第1の実施の形態における情報処理装置100と、表示対象となる全天球の画像データとの関係を模式的に示す図である。なお、
図5では、全天球の画像データを模式的に示し、星や星座等の図示を省略して示す。また、
図5に示す星の全天球の画像データは、画像データ記憶部132に格納されている。
【0085】
例えば、姿勢検出部121は、投影部172が向いている方向(投影方向)を検出する。投影部172は、姿勢検出部121により検出された投影方向の星を投影面10に投影する。例えば、
図5に示す矢印314の方向が、姿勢検出部121により検出された場合には、投影部172は、矢印314の方向に対応する領域312に含まれる画像(星、星座)を投影面10に投影する。例えば、
図4に示す画像300が投影面10に表示される。これにより、いわゆる、プラネタリウムを実現することができる。
【0086】
ここで、例えば、空間位置アクション記憶部141の空間位置情報204に格納されている位置を含む領域が表示される場合には、アクション定義205に格納されている内容に基づく処理が行われる。
【0087】
例えば、動作モードとしてプラネタリウムが設定され、赤道座標「5h30m,+3」の位置を含む領域が表示される場合には、星の画像とともに、付加情報206の内容が表示される。例えば、
図4に示すように、オリオン座の星を含む画像300上に、「オリオン座 Orion」の標識301および各星を繋ぐライン302が表示される。
【0088】
このように、制御部180は、投影面10に表示される画像に含まれる対象物(例えば、星、星座)に関する情報(例えば、「オリオン座 Orion」の標識301および各星を繋ぐライン302)を表示させることができる。
【0089】
また、例えば、空間位置アクション記憶部141の空間位置情報204に格納されている位置を含む領域が表示されない場合には、星の画像のみが表示される。
【0090】
なお、本技術の実施の形態では、空間位置アクション記憶部141の空間位置情報204に情報が格納されている場合を、空間位置アクションが定義されている場合と称して説明する。
【0091】
また、空間位置アクションが定義されていない領域を表示している場合でも、空間位置アクションが定義されている領域を特定することができるときには、空間位置アクションが定義されている領域をユーザに通知するようにしてもよい。この例を
図6に示す。
【0092】
図6は、本技術の第1の実施の形態における情報処理装置100により投影された画像の表示例を示す図である。
図6では、空間位置アクションが定義されている領域をユーザに通知する場合の表示例を示す。
【0093】
例えば、
図5に示す例において、領域311は、空間位置アクションが定義されていない領域であり、領域312は、空間位置アクションが定義されている領域であるものとする。また、ユーザ1が、矢印313の方向に投影して領域311に含まれる画像が表示されている場合を想定する。この場合には、制御部180は、空間位置アクション記憶部141の内容を取得し、
図6に示すように、矢印314の方向にオリオン座が存在する旨を示す矢印321を画像320上に表示させることができる。このように、矢印321を表示させることにより、空間位置アクションが定義されている領域にユーザを誘導することができる。例えば、ユーザ1は、矢印315に従って、投影部172の投影方向を移動させることにより、オリオン座を表示させることができる。
【0094】
このように、制御部180は、投影面10に表示される画像に対象物(例えば、オリオン座)が含まれない場合には、その対象物が含まれる画像を表示させるためのアシスト情報(例えば、矢印321)を表示させることができる。
【0095】
なお、目的物(例えば、オリオン座)の位置までの距離に応じて矢印の表示態様(例えば、長さ、サイズ、色)を変更するようにしてもよい。また、複数の目的物が存在する場合には、それぞれを示す矢印を同時に表示するようにしてもよい。
【0096】
[情報処理装置の動作例]
図7は、本技術の第1の実施の形態における情報処理装置100による画像表示処理の処理手順の一例を示すフローチャートである。なお、この画像表示処理は、制御部180の制御に基づいて行われる。
【0097】
最初に、空間位置アクション生成部140は、空間位置検出部123から空間位置情報を取得する(ステップS901)。
【0098】
続いて、空間位置アクション生成部140は、空間位置アクション記憶部141の空間位置アクション定義に、空間位置検出部123から取得した空間位置情報に合う定義があるか否かを判断する(ステップS902)。すなわち、空間位置アクション生成部140は、空間位置アクション記憶部141の空間位置情報204に、空間位置検出部123から取得した空間位置情報に対応する情報があるか否かを判断する(ステップS902)。
【0099】
空間位置アクション記憶部141の空間位置アクション定義に、空間位置検出部123から取得した空間位置情報に合う定義がない場合には(ステップS902)、通常の音像および画像が出力される(ステップS905)。すなわち、空間音像生成部134により生成された空間音像に基づく音声が、音声出力部171から出力され、空間画像生成部135により生成された空間画像に基づく画像が、投影部172から出力される。
【0100】
また、空間位置アクション記憶部141の空間位置アクション定義に、空間位置検出部123から取得した空間位置情報に合う定義がある場合には(ステップS902)、その定義に従って空間音像および空間画像が生成される(ステップS903)。すなわち、空間音像生成部142は、その空間位置アクション定義に基づいて空間音像を生成する(ステップS903)。また、空間画像生成部143は、その空間位置アクション定義に基づいて空間画像を生成する(ステップS903)。
【0101】
続いて、空間位置アクション定義に基づいて生成された空間音像および空間画像と、空間位置データに基づいて生成された空間音像および空間画像とが合成され、その合成により生成された音声および画像が出力される(ステップS904)。すなわち、音像合成部151により合成された音声が、音声出力部171から出力され、画像合成部152により合成された画像が、投影部172から出力される(ステップS904)。なお、ステップS902乃至S905は、請求の範囲に記載の制御手順の一例である。
【0102】
[空間位置当てクイズ設定時の表示例]
図8は、本技術の第1の実施の形態における情報処理装置100により投影された画像の表示例を示す図である。
図8では、動作モードとして空間位置当てクイズが設定されている場合の表示例を示す。また、
図8では、空間位置当てクイズが設定されている場合に、全天球の世界地図を表示させ、この世界地図上で都市当てクイズを出題する例を示す。
【0103】
例えば、空間位置アクションとして、各都市の空間位置および名称(都市名)を関連付けて定義しておく。そして、制御部180は、その定義されている各都市をランダムに選択してその都市名を地図上に表示させる。そして、ユーザは、情報処理装置100の姿勢を変更して、地図上に都市名が表示されている都市の位置に、表示領域の中心位置を合わせるようにする。この場合に、地図上に都市名が表示されている都市の位置と、表示領域の中心位置とが一致した状態で、所定のユーザ操作(例えば、
図11に示す特定ボタン111の押下操作)が行われたタイミングで、そのクイズに正解した旨のアクションが行われる。このように、地図上に都市名が表示されている都市の位置をポインティングして当てるというクイズを実現することができる。
【0104】
例えば、定義されている各都市のうちから、シンガポール(
図3に示す付加情報206「シンガポール(シンガポール)」)が選択された場合には、
図8に示すように、「シンガポールの位置は?」331が表示される。なお、シンガポールの位置は、点線の円333で示す位置である。このため、ユーザは、表示領域の中心位置332が、シンガポールの位置(点線の円333)になるように、情報処理装置100の姿勢を変化させる。
【0105】
そして、地図上のシンガポールの位置(点線の円333)と、表示領域の中心位置332とが一致した状態で、所定のユーザ操作(例えば、
図11に示す特定ボタン111の押下操作)が行われた場合には、正解音データが出力される。例えば、
図3に示す付加情報206に格納されている正解音データに基づく音声が、音声出力部171から出力される。
【0106】
一方、地図上のシンガポールの位置(点線の円333)と、表示領域の中心位置332とが一致していない状態で、所定のユーザ操作(例えば、
図11に示す特定ボタン111の押下操作)が行われた場合には、不正解音データが出力される。例えば、
図3に示す付加情報206に格納されている不正解音データに基づく音声が、音声出力部171から出力される。
【0107】
このように、制御部180は、対象物(例えば、シンガポール)を表示させるための問題を表示させることができる。この場合に、制御部180は、その問題の表示後において、投影面10に表示される画像における特定位置(例えば、中心位置)にその対象物(例えば、シンガポール)が含まれる場合には、その対象物に関する特定の演出を行うよう制御することができる。
【0108】
なお、
図8では、地図上における都市の位置を当てるクイズの例を示したが、例えば、他のものを当てるクイズを出題するようにしてもよい。例えば、空間位置アクションとして、自動車の画像および自動車の名称(車名)を関連付けて定義しておき、定義されている各自動車をランダムに選択してその車名を自動車の画像に重ねて表示させる。そして、ユーザは、情報処理装置100の姿勢を変更して、一覧表示されている自動車のうちから、選択された自動車の画像の位置と、表示領域の中心位置とが一致するようにする。また、他の乗り物(電車、オートバイ)、動物、昆虫、植物等を当てるクイズを出題するようにしてもよい。
【0109】
[シューティング設定時の表示例]
図9は、本技術の第1の実施の形態における情報処理装置100により投影される画像の一例を示す図である。
【0110】
図9では、動作モードとしてシューティング(全天球シューティングゲーム)が設定されている場合の画像の一例を示す。また、
図9では、シューティングが設定されている場合に、ランダムに配置されたお化けの画像を表示させ、このお化けの画像をシューティングする例を示す。
【0111】
図9に示す画像340のうちの全部または一部の領域(例えば、領域341、342)が、情報処理装置100により投影されて投影面10に表示されるものとする。
【0112】
図10は、本技術の第1の実施の形態における情報処理装置100により投影された画像の表示例を示す図である。
図10のaには、
図9に示す領域342に含まれる画像の表示例を示し、
図10のbには、
図9に示す領域341に含まれる画像の表示例を示す。
【0113】
図11は、本技術の第1の実施の形態における情報処理装置100を用いてシューティングゲームをしている場合を簡略的に示す図である。
図11では、投影面10において、表示対象となっていないお化けの画像を点線で示す。また、画像340は、
図9に示す画像340に対応する。
【0114】
例えば、空間位置アクションとして、空間位置をランダムに生成して、その場所でターゲット表示および効果音を再生するような定義を作成する。そして、ユーザは、情報処理装置100の姿勢を変化させながら、色々な方向をポインティングしてターゲット(お化けの画像)を探す。
【0115】
例えば、
図11に示す画像340の中から、お化けの画像が存在する領域を探す。例えば、
図11に示す領域342には、お化けの画像が含まれない。そこで、例えば、ユーザは、投影方向が下側になるように、情報処理装置100の姿勢を変化させる。この場合には、
図11に示すように、領域341にお化けの画像が含まれるため、投影面10にお化けの画像を表示させることができる。この場合に、ユーザは、表示領域の中心位置343(
図10に示す)が、お化けの画像に含まれるように、情報処理装置100の姿勢を変化させる。そして、表示領域の中心位置343がお化けの画像に含まれる状態で、所定のユーザ操作(例えば、特定ボタン111の押下操作)が行われた場合には、そのアクションとして効果音が出力される。例えば、
図3に示す付加情報206に格納されているヒット音データに基づく音声347が、音声出力部171から出力される。このように、ターゲットをポイントすると効果音が流れるようなゲーム(全天球シューティングゲーム)を実現することができる。また、ターゲットをポイントした旨(ヒットした旨)の画像(効果画像)を表示するようにしてもよい。
【0116】
図11に示すように、ユーザは、情報処理装置100の投影方向を変えながら、お化けの画像を見つけることができる。
【0117】
このように、制御部180は、投影面10に表示される画像に特定対象物(例えば、お化けの画像)が含まれている状態で特定のユーザ操作が受け付けられた場合には、その特定対象物に関する特定の演出を行うよう制御することができる。特定の演出として、例えば、効果音の出力や、効果画像の表示を行うことができる。
【0118】
なお、お化けの配置は、定期的または不定期に変更するようにしてもよい。
【0119】
なお、
図9乃至
図11では、ランダムに配置されたお化けの画像を表示させ、このお化けの画像をシューティングする例を示したが、例えば、他のものをシューティングする場合についても同様に適用することができる。
【0120】
[お絵かき設定時の表示例]
図12は、本技術の第1の実施の形態における情報処理装置100により投影される画像350乃至353の遷移例を示す図である。
【0121】
図12では、動作モードとしてお絵かき(全天球のお絵かき)が設定されている場合の画像の遷移例を示す。また、
図12では、お絵かきが設定されている場合に、情報処理装置100の姿勢の変化に応じた軌跡(空間位置のポインティングの軌跡)を表示する例を示す。また、
図12では、投影面10に表示される画像350の中心位置354の軌跡を線で描画する例を示す。なお、
図12では、説明の容易のため、背景画像についての図示を省略する。
【0122】
例えば、所定のユーザ操作(例えば、
図11に示す特定ボタン111の押下操作)を行った状態で情報処理装置100の姿勢を変化させて、投影面10に表示される画像の中心位置354の軌跡で月型の線355を描画することができる。
【0123】
また、例えば、所定のユーザ操作を行った状態で情報処理装置100の姿勢を変化させて、投影面10に表示される画像の中心位置354の軌跡で丸型の線356を描画することができる。
【0124】
また、例えば、所定のユーザ操作を行った状態で情報処理装置100の姿勢を変化させて、投影面10に表示される画像の中心位置354の軌跡で矢印の線357を描画することができる。
【0125】
また、制御部180は、これらの軌跡を、軌跡情報として空間位置アクション記憶部141に記憶しておく。また、これらの軌跡は、空間位置と関連付けて記憶しておく。このため、これらの軌跡は、対応する空間位置を表示する方向に投影されている場合に表示されるが、その対応する空間位置を表示する方向に投影しない場合には表示はされない。すなわち、情報処理装置100の投影方向によっては、描画された軌跡のうちの一部または全部が表示領域上から出てしまい、表示されないこともある。
【0126】
図13は、本技術の第1の実施の形態における情報処理装置100により投影された画像の表示例を示す図である。
【0127】
図13には、
図12に示すように、情報処理装置100の姿勢を変化させて描画された月型の線355、丸型の線356、矢印の線357を、背景画像に重ねた場合の例を示す。
【0128】
例えば、背景画像として犬の画像を表示しながら犬の説明をする場合に、情報処理装置100の姿勢を変化させて各軌跡(月型の線355、丸型の線356、矢印の線357)を描くようにする。そして、各軌跡(月型の線355、丸型の線356、矢印の線357)を用いて犬の説明をすることができる。
【0129】
また、描画ツール361乃至363を用いて、描画する対象物を変更するようにしてもよい。例えば、描画する線の色、太さ、閉じた空間の塗りつぶし等を行うことができる。
【0130】
このように、制御部180は、投影面10に表示される画像に関連付けられている軌跡に関する情報を表示させることができる。
【0131】
このように、本技術の第1の実施の形態では、パノラマ画像や全天球画像等の広大な領域を撮影した画像(静止画、動画)等の一部を、投影部の姿勢の変化に基づいて適切に表示させることができる。この場合に、投影部の投影方向、位置、画像に応じてポインティングして、空間位置によるインタラクティブな要素(投影方向毎の画像の重ね合わせ、情報表示、画像・音楽再生、お絵かき、軌跡の重ね合わせ等)を実現することができる。これにより、ユーザが投影方向を変えるという直観的な操作を行うことにより、ユーザ体験をさらに拡張することができる。
【0132】
<2.第2の実施の形態>
本技術の第2の実施の形態では、投影部の投影方向を変えるという直観的な操作により、複数の項目画像の中から所望の項目画像を選択する例について説明する。なお、本技術の第2の実施の形態における情報処理装置の構成は、
図1、
図2等に示す情報処理装置100と略同様である。このため、情報処理装置100と共通する部分については、同一の符号を付して、これらの説明の一部を省略する。
【0133】
[空間画像メニューの表示例]
図14は、本技術の第2の実施の形態における情報処理装置100により投影される画像の一例を示す図である。
【0134】
図14には、表示対象となる全体の空間画像(世界地
図400)と、この空間画像に重ね合わせる空間画像メニュー(メニューボタン401乃至406)とを示す。すなわち、
図14には、世界地
図400上に、所定の操作を行うための複数のメニューボタン401乃至406を表示する例を示す。
【0135】
なお、世界地
図400は、画像データ記憶部132(
図2に示す)に格納されている画像データに基づいて表示される。また、メニューボタン401乃至406は、空間位置アクション記憶部141(
図2、
図3に示す)に格納されている各情報に基づいて表示される。また、世界地
図400およびメニューボタン401乃至406は、情報処理装置100の姿勢の変化に応じて、表示範囲が変更される。例えば、領域410に含まれる画像の表示例を
図15のaに示し、領域420に含まれる画像の表示例を
図15のbに示す。
【0136】
図15は、本技術の第2の実施の形態における情報処理装置100により表示される投影画像の表示遷移例を示す図である。
【0137】
図15のaには、
図14に示す全体の空間画像のうち、領域410に含まれる空間画像を表示する例を示す。
図15のbには、
図14に示す全体の空間画像のうち、領域420に含まれる空間画像を表示する例を示す。
【0138】
ここで、ユーザが情報処理装置100の姿勢を変化させることにより、
図15のaに示す領域410に含まれる空間画像の表示状態から、
図15のbに示す領域420に含まれる空間画像の表示状態へと遷移させることができる。同様に、ユーザが情報処理装置100の姿勢を変化させることにより、
図15のbに示す領域420に含まれる空間画像の表示状態から、
図15のaに示す領域410に含まれる空間画像の表示状態へと遷移させることができる。また、ユーザが情報処理装置100の姿勢を変化させることにより、他の領域に含まれる空間画像の表示状態へと遷移させることも可能であるが、ここでの図示および説明を省略する。
【0139】
例えば、表示領域に含まれるメニューボタンのうちで、表示領域の中心位置に最も近いメニューボタンを選択状態とする。例えば、
図15のaに示す例では、メニューボタン402(MENU2)が表示領域の中心位置に最も近いメニューボタンとなるため、メニューボタン402(MENU2)が選択状態とされる。また、例えば、
図15のbに示す例では、メニューボタン403(MENU3)が表示領域の中心位置に最も近いメニューボタンとなるため、メニューボタン403(MENU3)が選択状態とされる。なお、選択状態とされたメニューボタンについては、他のメニューボタンとは異なる表示態様とする。例えば、
図15のaおよびbでは、選択状態とされたメニューボタンには斜線を付して示す。
【0140】
ここで、
図15のaに示す状態(メニューボタン402(MENU2)の選択状態)から、メニューボタン403(MENU3)を選択状態とする場合の操作例について説明する。この場合には、ユーザは、メニューボタン403(MENU3)が表示領域の中心位置に最も近いメニューボタンとなるように、情報処理装置100の姿勢を変化させる。例えば、情報処理装置100の投影方向を右上側に変化させることにより、情報処理装置100の姿勢を変化させる。これにより、メニューボタン403(MENU3)を選択状態とすることができる。
【0141】
また、選択状態とされたメニューボタンについては、所定のユーザ操作(例えば、特定ボタン111の押下操作)により、その選択を確定(決定)させることができる。また、例えば、一定時間、同一のメニューボタンが選択状態とされている場合に、その選択を確定(決定)させるようにしてもよい。また、例えば、ズーム操作(情報処理装置100および投影面10間の距離を近づける操作)が行われて、選択状態とされたメニューボタンが拡大された場合に、その選択を確定(決定)させるようにしてもよい。また、例えば、選択状態とされたメニューボタンについて、ユーザによる所定のジェスチャー(例えば、選択状態とされたメニューボタンを指で指す)が行われた場合に、その選択を確定(決定)させることができる。例えば、制御部180は、撮像部(図示せず)により生成された画像について画像認識処理を行うことにより、各ジェスチャーを判定することができる。このジェスチャーの判定方法については、公知の判定方法(例えば、特開2011−85966号参照。)を用いることができる。
【0142】
[情報処理装置の動作例]
図16は、本技術の第2の実施の形態における情報処理装置100によるメニューボタン選択処理の処理手順の一例を示すフローチャートである。なお、このメニューボタン選択処理は、制御部180の制御に基づいて行われる。
【0143】
最初に、空間位置アクション生成部140は、空間位置検出部123から空間位置情報を取得する(ステップS911)。
【0144】
続いて、制御部180は、表示領域に含まれる空間画像およびメニューボタンを表示させる(ステップS912)。なお、表示領域にメニューボタンが含まれない場合には、空間画像のみが表示される。
【0145】
続いて、制御部180は、表示領域にメニューボタンが表示されているか否かを判断する(ステップS913)。そして、表示領域にメニューボタンが表示されていない場合には(ステップS913)、ステップS915に進む。
【0146】
また、表示領域にメニューボタンが表示されている場合には(ステップS913)、制御部180は、表示領域の中心位置に最も近いメニューボタンを選択状態とする(ステップS914)。
【0147】
続いて、制御部180は、情報処理装置100の姿勢の変化があったか否かを判断する(ステップS915)。情報処理装置100の姿勢の変化があった場合には(ステップS915)、制御部180は、その姿勢の変化に応じて、表示領域を変更して(ステップS916)、ステップS912に戻る。
【0148】
情報処理装置100の姿勢の変化がない場合には(ステップS915)、制御部180は、メニューボタンの選択状態を確定するための操作(確定操作)が行われたか否かを判断する(ステップS917)。確定操作が行われていない場合には(ステップS917)、ステップS915に戻る。一方、確定操作が行われた場合には(ステップS917)、制御部180は、選択状態とされているメニューボタンに対応する処理を実行する(ステップS918)。
【0149】
なお、この例では、表示領域の中心位置に最も近い1つのメニューボタンを選択状態とする例を示したが、表示領域の中心位置に最も近い1つのメニューボタンと、次に近い1つのメニューボタンとを選択状態とするようにしてもよい。同様に、3以上のメニューボタンを選択状態とするようにしてもよい。
【0150】
このように、制御部180は、制御情報に基づいて複数の項目画像(例えば、メニューボタン)を投影面10に表示させることができる。この場合に、制御部180は、投影面10に表示される複数の項目画像の表示位置に基づいて、複数の項目画像のうちの所定数(例えば、1、または、2以上)の項目画像を選択状態とする制御を行うことができる。
【0151】
このように、本技術の第2の実施の形態では、情報処理装置100の姿勢を変化させることにより、メニューボタンの選択操作を容易に行うことができる。この選択方法では、メニューボタンの表示を、現在表示されている範囲に限定されることなく、全天球の全域を用いてメニューボタンを表示することが可能となる。
【0152】
すなわち、本技術の第2の実施の形態によれば、メニュー表示において情報処理装置100の向きを変えるという直観的な操作により、メニュー選択を容易に行うことができる。この場合に、選択のための操作部材(例えば、方向キー)の操作を必要としない。また、メニュー表示をする範囲を、現在表示している範囲以外にも拡大することができ、全天球分の範囲を利用することが可能になる。
【0153】
なお、メニューボタンの配置については、
図14に示すように、ある決まった空間位置に固定して配置するようにしてもよく、固定せずに定期的または不定期に変更するようにしてもよい。例えば、情報処理装置100の姿勢の変化に応じてメニューボタンの配置を変更するようにしてもよい。例えば、情報処理装置100が投影している空間位置を検出し、その空間位置を中心位置とするメニューボタンの配置を決定することができる。このように配置することにより、ユーザが情報処理装置100を移動させる負担を減らすこともできる。
【0154】
また、本技術の第2の実施の形態では、メニューボタンの表示をする例を示したが、メニューボタン以外の表示をする場合についても、本技術の第2の実施の形態を適用することができる。例えば、多数のコンテンツ(例えば、静止画、動画)を選択する場合について適用することができる。例えば、コンテンツを表す画像を全天球に配置して、情報処理装置100の投影方向を変化させながら、目的のコンテンツを選択することも可能となる。
【0155】
<3.第3の実施の形態>
本技術の第3の実施の形態では、情報処理装置および投影面間の距離に基づいて、投影される画像の表示領域(例えば、画像の表示倍率)を変更する例を示す。なお、本技術の第3の実施の形態における情報処理装置の構成は、
図1、
図2等に示す情報処理装置100と略同様である。このため、情報処理装置100と共通する部分については、同一の符号を付して、これらの説明の一部を省略する。
【0156】
[情報処理装置および投影面間の距離に基づく表示制御例]
図17および
図18は、本技術の第3の実施の形態における情報処理装置100および投影面間の距離と、情報処理装置100により投影面に投影される画像との関係を示す図である。
【0157】
ここで、投影面に投影される画像のサイズは、情報処理装置100および投影面間の距離に応じて変化する。例えば、
図17のaに示すように、情報処理装置100および投影面間の距離が遠い場合には、
図17のbに示すように、投影面に投影される画像のサイズが大きくなる。例えば、画像500が投影面に表示される。
【0158】
また、例えば、
図18のaに示すように、情報処理装置100および投影面間の距離が近い場合には、
図18のbに示すように、投影面に投影される画像のサイズが小さくなる。例えば、画像511が投影面に表示される。なお、
図18のaおよびbでは、
図17のaおよびbに示す画像500のサイズを、点線の矩形510で模式的に示す。
【0159】
このように、本技術の第3の実施の形態では、情報処理装置100および投影面間の距離に応じて、投影面に投影される画像のサイズを変更する例を示す。また、本技術の第3の実施の形態では、その画像のサイズの変更に応じて、表示対象となる画像の表示領域を変更する。すなわち、情報処理装置100および投影面間の距離に応じて、投影面に投影される画像の表示倍率を変更する。これにより、情報処理装置100および投影面間の距離が変化した場合でも、投影面に表示される画像に含まれる物体(例えば、馬)のサイズを同一のサイズで表示させることができる。
【0160】
ここで、例えば、撮像装置により撮像されて記録された画像コンテンツ(例えば、静止画コンテンツ、動画コンテンツ)の場合には、その撮像動作時における付加情報が画像コンテンツに関連付けて記録されることがある。なお、撮像動作時における付加情報は、例えば、空間位置データ記憶部133に記憶される空間位置データである。
【0161】
例えば、撮像装置により撮像されて記録された画像コンテンツ(例えば、静止画コンテンツ、動画コンテンツ)を投影面に投影する場合には、その付加情報に基づいて、実物大の投影が可能となる。
【0162】
例えば、
図18のaに示すように、情報処理装置100および投影面間の距離が近い場合には、実物大の仮想画像空間に対して、その一部を表示することになる。
【0163】
また、例えば、
図17のbに示すように、情報処理装置100および投影面間の距離を大きくすることにより、実物大の仮想画像空間に投影面が近づくことになる。
【0164】
また、例えば、
図17のbに示す距離(情報処理装置100および投影面間の距離)よりもさらに大きくすることにより、投影面の一部に実物大の仮想画像空間を投影することも可能である。
【0165】
ここで、情報処理装置100および投影面間の距離を測定する場合には、各種の距離センサ(例えば、超音波、赤外線、レーザー等を用いた距離センサ)を用いて測定することができる。
【0166】
また、情報処理装置100に撮像装置を設置し、投影面に投影した画像をその撮像装置により撮像して生成される画像を用いて、情報処理装置100および投影面間の距離を測定することができる。この測定例を、
図19に示す。
【0167】
[情報処理装置および投影面間の距離測定例]
図19は、本技術の第1の実施の形態における情報処理装置100および投影面10を上から見た場合を簡略化して示す図である。
【0168】
図19では、情報処理装置100において、投影部172から距離Dだけ離れている位置に撮像部124が設置されているものとする。
【0169】
例えば、
図19のaに示すように、情報処理装置100および投影面10が距離L1だけ離れている場合には、投影部172の中心位置から照射された画像は、撮像部124の光軸から角度A1だけずれた方向に見えることになる。この関係は、以下の式により表すことができる。
tanA1=D/L1
【0170】
この式により、L1(=D/tanA1)を求めることができる。
【0171】
また、例えば、
図19のbに示すように、情報処理装置100および投影面10が距離L2だけ離れている場合には、投影部172の中心部から照射された画像は、撮像部124の光軸から角度A2だけずれた方向に変化して見えることになる。この関係は、以下の式により表すことができる。
tanA2=D/L2
【0172】
この式により、L2(=D/tanA2)を求めることができる。
【0173】
ここで、情報処理装置100における投影部172および撮像部124間の距離Dは、一定である。また、撮像部124から見える角度A1、A2は、撮像部124により撮像される画像のピクセル位置から求めることができる。例えば、表示領域における特定位置(例えば、中心位置)にマーキング(例えば、矩形)を表示して、そのマーキングからの画素数に基づいて角度A1、A2を求めることができる。そして、これらの距離D、角度A1、A2を用いて、情報処理装置100および投影面10間の距離L1、L2を求めることができる。
【0174】
そして、制御部180は、情報処理装置100および投影面10間の距離L1、L2を用いて、投影面に投影される画像に含まれる物体(例えば、馬)のサイズ(表示サイズ)が同一となるように、表示倍率を決定する。例えば、制御部180は、撮像動作時における情報(空間位置データ)と、投影時の投影面との距離とに基づいて、切り出して投影する表示領域を決定する。なお、投影時の投影面との距離に基づいて、画像や音楽を変化させるようにしてもよい。
【0175】
また、情報処理装置100および投影面10間の距離を用いて、台形歪み補正を行うようにしてもよい。例えば、投影された画像の4隅の距離(情報処理装置100および投影面10間の距離)を検出して、この距離に基づいて台形歪み補正を行うことができる。
【0176】
[情報処理装置の動作例]
図20は、本技術の第3の実施の形態における情報処理装置100による画像表示処理の処理手順の一例を示すフローチャートである。なお、この画像表示処理は、制御部180の制御に基づいて行われる。
【0177】
最初に、空間位置アクション生成部140は、空間位置検出部123から空間位置情報を取得する(ステップS921)。
【0178】
続いて、制御部180は、情報処理装置100および投影面間の距離の変化があったか否かを判断する(ステップS922)。情報処理装置100および投影面間の距離の変化があった場合には(ステップS922)、制御部180は、その距離の変化に応じて、表示倍率を変更する(ステップS923)。すなわち、制御部180は、その距離に基づいて、表示倍率を決定する(ステップS923)。情報処理装置100および投影面間の距離の変化がない場合には(ステップS922)、画像表示処理の動作を終了する。
【0179】
このように、制御部180は、情報処理装置100および投影面間の距離に基づいて、投影面10に表示される画像の表示領域を変更することができる。
【0180】
また、制御部180は、撮像動作時における撮像装置の方位、姿勢、位置情報のうちの少なくとも1つの情報が関連付けられている画像を表示させ、その情報に基づいて投影面10に表示される画像の表示領域を変更することができる。
【0181】
このように、本技術の第3の実施の形態によれば、情報処理装置100および投影面間の距離が変化することにより、投影された画像のサイズが変化する場合でも、その画像に含まれる物体のサイズを同一とすることができる。これにより、ユーザが、投影画像を見やすくすることができる。
【0182】
また、例えば、空間位置データ記憶部133に記憶されている空間位置データを用いることにより、全天球画像等の表示の際に、撮像動作時の撮像装置の方向に影響されることなく、ユーザが見たい向きを表示することができる。例えば、撮像動作の途中で撮像装置が上下逆さまになったような場合を想定する。その撮像動作により記録された画像を表示する場合には、撮像装置が上下逆さまになった時間帯の空間位置データを用いることにより、投影される画像を上下逆さまに表示させることができる。これにより、撮像動作時の撮像装置の方向の影響をなくすことができる。
【0183】
なお、本技術の実施の形態では、一体として構成される装置(情報処理装置100)を例にして説明した。ただし、これらの情報処理装置が備える各部を、複数の装置により構成する情報処理システムについても本技術の実施の形態を適用することができる。例えば、空間位置アクション生成部140、空間画像・空間音像生成部130等を、ネットワーク上に存在する情報処理システム(例えば、クラウドコンピューティング)に設置することができる。
【0184】
また、本技術の実施の形態では、1つの情報処理装置を用いて画像を投影する例を示したが、複数の情報処理装置を用いて画像を投影する場合についても、本技術の実施の形態を適用することができるようにしてもよい。ただし、複数の情報処理装置を用いて画像を投影する場合には、データ(例えば、各記憶部のデータ)の共有と空間位置の調整とが必要となる。
【0185】
データを共有する場合には、例えば、
図2に示す音声データ記憶部131、画像データ記憶部132、空間位置データ記憶部133の各データと、空間位置アクション記憶部141のデータとを、全ての機器において共有する必要がある。この場合に、データを共有する方法として、例えば、データを保持する情報処理装置をサーバとして機能させ、他の情報処理装置はそのサーバに接続してデータをダウンロードする方法を用いることができる。
【0186】
また、空間位置を調整する場合には、複数の情報処理装置間で、
図2に示す空間位置検出部123により生成される空間位置の基準を合わせる必要がある。そこで、例えば、磁気を用いて位置および姿勢を検出するセンサを用いることができる。例えば、そのセンサを各情報処理装置に搭載し、全ての情報処理装置において磁場発生器を基準とした位置および姿勢を取得することにより、複数の情報処理装置間で空間位置の基準を合わせることができる。
【0187】
また、例えば、AR(Augmented Reality)の技術を利用するようにしてもよい。例えば、ARマーカを各情報処理装置が備える撮像部により撮像することにより、ARマーカを基準として各情報処理装置の姿勢を取得することができる。
【0188】
また、例えば、1つの情報処理装置から投影された画像を、他の情報処理装置が撮像して、他の情報処理装置において画像のマッチングを行うことにより、空間位置の基準を全ての情報処理装置で合わせることができる。
【0189】
このように、データの共有と、空間位置の調整とを全ての情報処理装置が行うことにより、同一空間の画像を複数の情報処理装置で投影して表示させることができる。例えば、
図9乃至
図11に示すシューティングゲームを複数人で同時に楽しむことができる。
【0190】
なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
【0191】
また、上述の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、CD(Compact Disc)、MD(MiniDisc)、DVD(Digital Versatile Disc)、メモリカード、ブルーレイディスク(Blu-ray(登録商標)Disc)等を用いることができる。
【0192】
なお、本明細書に記載された効果はあくまで例示であって、限定されるものではなく、また、他の効果があってもよい。
【0193】
なお、本技術は以下のような構成もとることができる。
(1)
表示対象となる画像の一部を投影面に投影して表示させる投影部と前記投影面との相対的な位置関係に基づいて特定される前記投影面に表示される画像の表示領域と前記表示対象となる画像に関連付けられている制御情報とに基づいて前記投影面に表示される画像に関する制御を行う制御部を具備する情報処理装置。
(2)
前記制御部は、前記制御情報に基づいて複数の項目画像を前記投影面に表示させ、前記投影面に表示される前記複数の項目画像の表示位置に基づいて前記複数の項目画像のうちの所定数の項目画像を選択状態とする制御を行う前記(1)に記載の情報処理装置。
(3)
前記制御部は、前記表示対象となる画像として背景画像を表示させるとともに前記制御情報に基づいて複数の項目画像を前記背景画像上に表示させる制御を行う前記(2)に記載の情報処理装置。
(4)
前記投影部の姿勢を検出する姿勢検出部をさらに具備し、
前記制御部は、前記検出された投影部の姿勢に基づいて前記投影面に表示させる画像の表示領域を変更する制御を行う
前記(1)から(3)のいずれかに記載の情報処理装置。
(5)
前記制御部は、前記変更後の画像の表示領域と当該画像に関連付けられている前記制御情報とに基づいて前記投影面に表示される画像の表示態様を制御する前記(4)に記載の情報処理装置。
(6)
前記制御部は、前記変更後の画像の表示領域と当該画像に関連付けられている前記制御情報とに基づいて前記投影面に表示される画像に関する音声出力を行うよう制御する前記(4)または(5)に記載の情報処理装置。
(7)
前記制御情報は、前記表示対象となる画像に含まれる対象物に関する情報を含み、
前記制御部は、前記投影面に表示される画像に含まれる前記対象物に関する情報を表示させる
前記(1)から(6)のいずれかに記載の情報処理装置。
(8)
前記制御部は、前記投影面に表示される画像に前記対象物が含まれない場合には、前記対象物が含まれる画像を表示させるためのアシスト情報を表示させる前記(7)に記載の情報処理装置。
(9)
前記制御部は、前記対象物を表示させるための問題を表示させ、前記問題の表示後において前記投影面に表示される画像に前記対象物が含まれる場合には、前記対象物に関する特定の演出を行うよう制御する前記(7)に記載の情報処理装置。
(10)
前記制御部は、前記投影面に表示される画像に特定対象物が含まれている状態で特定のユーザ操作が受け付けられた場合には前記特定対象物に関する特定の演出を行うよう制御する前記(1)から(6)のいずれかに記載の情報処理装置。
(11)
前記制御情報は、前記検出された投影部の姿勢の変化に関する軌跡と前記表示対象となる画像とが関連付けられている軌跡情報を含み、
前記制御部は、前記投影面に表示される画像に関連付けられている前記軌跡に関する情報を表示させる
前記(1)から(10)のいずれかに記載の情報処理装置。
(12)
前記制御部は、前記情報処理装置および前記投影面間の距離を検出する距離検出部をさらに具備し、
前記制御部は、前記検出された距離に基づいて前記投影面に表示される画像の表示領域を変更する
前記(1)から(11)のいずれかに記載の情報処理装置。
(13)
前記制御部は、前記表示対象となる画像として撮像動作時における撮像装置の方位、姿勢、位置情報のうちの少なくとも1つの情報が関連付けられている画像を表示させ、当該情報に基づいて前記投影面に表示される画像の表示領域を変更する前記(1)から(12)のいずれかに記載の情報処理装置。
(14)
表示対象となる画像の一部を投影面に投影して表示させる投影部と前記投影面との相対的な位置関係に基づいて特定される前記投影面に表示される画像の表示領域と前記表示対象となる画像に関連付けられている制御情報とに基づいて前記投影面に表示される画像に関する制御を行う制御手順を具備する情報処理方法。
(15)
表示対象となる画像の一部を投影面に投影して表示させる投影部と前記投影面との相対的な位置関係に基づいて特定される前記投影面に表示される画像の表示領域と前記表示対象となる画像に関連付けられている制御情報とに基づいて前記投影面に表示される画像に関する制御を行う制御手順をコンピュータに実行させるプログラム。