(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024017782
(43)【公開日】2024-02-08
(54)【発明の名称】コンピュータプログラム及びサーバ
(51)【国際特許分類】
G06T 19/00 20110101AFI20240201BHJP
G06F 3/01 20060101ALI20240201BHJP
【FI】
G06T19/00 300B
G06F3/01 510
G06F3/01 570
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2022120659
(22)【出願日】2022-07-28
(71)【出願人】
【識別番号】522093432
【氏名又は名称】株式会社G1company
(74)【代理人】
【識別番号】100122725
【弁理士】
【氏名又は名称】竹口 美穂
(72)【発明者】
【氏名】小柴 恵一
【テーマコード(参考)】
5B050
5E555
【Fターム(参考)】
5B050BA09
5B050BA13
5B050CA07
5B050CA08
5B050EA07
5B050FA06
5B050FA13
5E555AA63
5E555AA64
5E555AA76
5E555BE17
5E555CA42
5E555CA44
5E555CB45
5E555CB66
5E555CC05
5E555DA08
5E555DB41
5E555DB57
5E555DC13
5E555DD06
5E555DD07
5E555EA07
5E555FA00
(57)【要約】
【課題】本発明の課題は、ヘッドマウントディスプレイに表示される仮想空間内の空間画像における、ユーザの興味を惹く特定の対象物の対象物情報をユーザに提供することができるコンピュータプログラム及びサーバを提供する。
【解決手段】上記課題解決のため、本発明のプログラムは、ユーザの頭部に装着されるHMD1に仮想空間を表示するためのコンピュータ(プロッセサ10)を、少なくとも一つの対象物が含まれた空間画像を前記仮想空間に表示させる画像表示手段101、現実空間における前記ユーザの身体の少なくとも一部の姿勢及び/又は動作に基づいて、空間画像における位置を特定する位置特定手段102、この特定された位置に対象物が表示されている場合に、この対象物を特定する対象物特定手段103、及びこの特定された対象物に関する情報である対象物情報を、情報処理装置を介して、ユーザに提供させる提供手段104として機能させる。
【選択図】
図2
【特許請求の範囲】
【請求項1】
ユーザの頭部に装着されるヘッドマウントディスプレイに仮想空間を表示するためのコンピュータを、
少なくとも一つの対象物が含まれた空間画像を前記仮想空間に表示させる画像表示手段、
前記現実空間における前記ユーザの身体の少なくとも一部の姿勢及び/又は動作に基づいて、前記空間画像における位置を特定する位置特定手段、
前記位置特定手段によって特定された位置に前記対象物が表示されている場合に、この対象物を特定する対象物特定手段、及び
前記対象物特定手段に特定された対象物に関する情報である対象物情報をユーザに提供する提供手段、
として機能させることを特徴とするコンピュータプログラム。
【請求項2】
前記対象物情報は、前記対象物の取得又は利用を前記ユーザに促すための広告情報を含む、
ことを特徴とする請求項1に記載のコンピュータプログラム。
【請求項3】
前記位置特定手段は、前記現実空間において、前記ユーザの身体の少なくとも一部で指示姿勢及び/又は動作がされたときに、前記仮想空間において、所定位置から前記指示姿勢の指し示す方向に対応する方向にある位置を、前記空間画像における位置として特定し、
前記対象物特定手段は、前記位置特定手段によって特定された位置に前記対象物が表示されている場合に、当該対象物が選択状態であることを表示し、前記現実空間において、前記ユーザの身体の少なくとも一部で所定の取得姿勢及び/又は所定の取得動作がなされた場合に、前記選択状態である対象物を特定する、
ことを特徴とする請求項1又は2に記載のコンピュータプログラム。
【請求項4】
前記対象物特定手段は、前記選択状態の対象物に対応付けて、前記対象物情報の一部を仮想空間に表示することで、当該対象物が選択状態であることを表示する、
ことを特徴とする請求項3に記載のコンピュータプログラム。
【請求項5】
空間動画データの再生によって前記空間画像が表示され、この空間画像データの再生時間に応じて表示される前記空間画像が変化し、
前記対象物特定手段は、前記再生時間に応じた、前記仮想空間における前記対象物の表示される位置を示す位置情報に基づいて、前記対象物特定手段によって特定された位置に前記対象物が表示されているかどうかを判断する、
ことを特徴とする請求項1又は2に記載のコンピュータプログラム。
【請求項6】
前記コンピュータは、サーバに通信可能に接続されたヘッドマウントディスプレイ、又は情報処理装置のコンピュータであり、
前記提供手段は、前記対象物が特定された場合に、前記対象物情報の送信要求を前記サーバに対して送信し、前記対象物情報の送信要求に応じた前記サーバから前記対象物情報を受信することで、前記対象物情報を前記ユーザに提供するために、前記対象物情報を前記ヘッドマウントディスプレイ又は前記情報処理装置に取得させる、
ことを特徴とする請求項1又は2に記載のコンピュータプログラム。
【請求項7】
ユーザの頭部に装着されて仮想空間を表示するヘッドマウントディスプレイ、又は当該ヘッドマウントディスプレイに対応する情報処理装置に、ネットワークを介して通信可能に接続され、記憶部を備えたサーバであって、
前記ヘッドマウントディスプレイにおいて、少なくとも一つの対象物が含まれた空間画像を前記仮想空間に表示させるための処理を行う表示処理手段、
現実空間における前記ユーザの身体の少なくとも一部の姿勢及び/又は動作に基づいて特定された前記空間画像の位置において、前記対象物が表示されている場合に、この対象物を特定の対象物として、前記特定の対象物に関連する対象物情報の送信要求を、前記ヘッドマウントディスプレイ、又は前記情報処理装置から受信する情報受信処理手段、
前記情報受信手段によって前記対象物情報の送信要求を受信した場合に、前記記憶部に記憶された前記対象物情報を、前記ユーザに提供するために、前記ヘッドマウントディスプレイ又は前記情報処理装置に対して送信する情報送信処理手段、
を備えたサーバ。
【請求項8】
前記対象物情報は、前記対象物の取得又は利用を前記ユーザに促すための広告情報を含む、
ことを特徴とする請求項7に記載のサーバ。
【請求項9】
前記現実空間において、前記ユーザの身体の少なくとも一部で指示姿勢及び/又は動作がされたときに、前記仮想空間の所定位置から、前記指示姿勢の指し示す方向に対応する方向にある位置が、前記空間画像における位置として特定され、
前記特定された位置に前記対象物が表示されている場合に、当該対象物が選択状態であることを表示され、前記現実空間において前記ユーザの身体の少なくとも一部で所定の取得姿勢及び/又は所定の取得動作がなされた場合に、前記選択状態である対象物が特定される、
ことを特徴とする請求項7又は8に記載のサーバ。
【請求項10】
前記表示処理手段は、空間動画データを前記ヘッドマウントディスプレイ又は前記情報処理装置で再生させて、前記ヘッドマウントディスプレイに前記空間画像を表示させ、この空間画像データの再生時間に応じて表示される前記空間画像が変化し、
前記情報送信処理手段は、前記再生時間に応じた、前記空間画像における前記対象物の表示される位置を示す位置情報であって、前記特定された前記空間画像の位置に前記対象物が表示されているかどうかを判断するための情報を、前記ヘッドマウントディスプレイ又は前記情報処理装置に送信する、
ことを特徴とする請求項7又は8に記載のサーバ。
【請求項11】
ユーザの頭部に装着されたヘッドマウントディスプレイに、仮想空間を表示するためのコンピュータを、
現実空間におけるユーザの身体の少なくとも一部の姿勢及び/又は動作が、所定の撮影姿勢及び/又は所定の撮影動作である場合に、前記仮想空間をこの仮想空間内の仮想カメラから撮影する撮影手段として機能させ、
前記所定の撮影姿勢及び/又は所定の撮影動作の種類は、第1撮影指示用及び第2撮影指示用の少なくとも2種類あり、
前記撮影手段は、
前記第1撮影指示がされた場合には、前記仮想空間における所定の位置の前記仮想カメラから、前記所定の撮影姿勢及び/又は所定の撮影動作で指し示す方向に対応する方向に向かって前記仮想空間を撮影し、
前記第2撮影指示がされた場合には、前記仮想空間における所定の位置の前記仮想カメラから、前記所定の撮影姿勢及び/又は所定の撮影動作で指し示す方向に対応する方向の反対方向に向かって前記仮想空間を撮影する、
ことを特徴とするコンピュータプログラム。
【請求項12】
ユーザの頭部に装着されて仮想空間を表示するためのヘッドマウントディスプレイ、又は前記ヘッドマウントディスプレイに対応する情報処理装置に、ネットワークを介して通信可能に接続されたサーバであって、
現実空間におけるユーザの身体の少なくとも一部の姿勢及び/又は動作が、所定の撮影姿勢及び/又は所定の撮影動作である場合に、前記仮想空間を前記仮想カメラで撮影した撮影画像を取得して、前記ヘッドマウントディスプレイ又は前記情報処理装置に対して送信する情報送信処理手段、を備え、
前記所定の撮影姿勢及び/又は所定の撮影動作の種類は、第1撮影指示用及び第2撮影指示用の2種類を含み、
前記撮影画像は、
第1撮影指示がされた場合には、前記仮想空間における所定の位置の前記仮想カメラから、前記所定の撮影姿勢及び/又は所定の撮影動作で指し示す方向に対応する方向に向かって前記仮想空間が撮影されることで生成され、
前記第2撮影指示がされた場合には、前記仮想空間における所定の位置の前記仮想カメラから、前記所定の撮影姿勢及び/又は所定の撮影動作で指し示す方向に対応する方向の反対方向に向かって前記仮想空間が撮影されることで生成される、
ことを特徴とするサーバ。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ヘッドマウントディスプレイに仮想空間を表示するためのコンピュータプログラム、及び、ヘッドマウントディスプレイ又は情報処理装置と通信可能に接続されたサーバに関する。
【背景技術】
【0002】
例えば、特許文献1に示すように、ヘッドマウントディスプレイ(以下、「HMD」と記載する。)を用いて仮想空間(例えば全天球の空間)の表面等に空間画像(360度空間画像等)とともに、空間画像に関連する情報(第2URLアドレス等の広告コンテンツ)を表示して、空間画像に関連する情報をHMDのユーザに提供するシステムは知られている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1の情報処理システムでは、空間画像に関する情報(広告コンテンツ)を仮想空間に表示するが、空間画像に含まれる対象物(商品、美術館等の施設、店舗等)をユーザが直接特定して、この対象物の広告コンテンツ等(対象物情報)を表示することが出来ない。このため、ユーザの興味を惹く特定の対象物についての対象物情報をユーザに提供することが出来ない。
【0005】
そこで、本発明の課題は、ヘッドマウントディスプレイに表示される仮想空間内の空間画像における、ユーザの興味を惹く特定の対象物の対象物情報をユーザに提供することができるコンピュータプログラム、及びサーバを提供することである。
【課題を解決するための手段】
【0006】
(1)上記課題を解決するために、本発明に係るコンピュータプログラムは、ユーザの頭部に装着されたヘッドマウントディスプレイに仮想空間を表示するためのコンピュータを、少なくとも一つの対象物が含まれた空間画像を前記仮想空間に表示させる画像表示手段、前記現実空間における前記ユーザの身体の少なくとも一部の姿勢及び/又は動作に基づいて、前記空間画像における位置を特定する位置特定手段、前記位置特定手段によって特定された位置に前記対象物が表示されている場合に、この対象物を特定する対象物特定手段、及び前記対象物特定手段に特定された対象物に関する情報である対象物情報をユーザに提供する提供手段、として機能させることを特徴とする。
【0007】
上記構成によれば、画像表示手段によって仮想空間に空間画像が表示され、この空間画像にユーザの興味を惹く対象物が含まれているときに、対象物が表示されている空間画像における位置を特定するための姿勢及び/又は動作を、現実空間においてユーザが自身の身体の少なくとも一部(例えば手、腕や目等)で行うと、この位置が位置特定手段によって特定される。この特定された空間画像における位置に、対象物が表示されていると、この対象物が対象物特定手段によって特定され、この対象物に関する情報である対象物情報がユーザに提供される。ここで、「ユーザに提供する」とは、ユーザが対象物情報を見る、聞く等によって知得できるようにすることである。このように、空間画像における位置を特定するための姿勢及び/又は動作を、ユーザが自身の身体の少なくとも一部(手、腕や目等)で行うだけで、空間画像における対象物のうち、ユーザの興味を惹く対象物を特定して、この特定の対象物の対象物情報をユーザに提供することができる。なお、本発明は、ヘッドマウントディスプレイ及びヘッドマウントディスプレイに対応する情報処理装置が、自機でユーザに提供する場合だけでなく、ヘッドマウントディスプレイが情報処理装置を介して提供する構成、情報処理装置がヘッドマウントディスプレイを介して提供する構成を含む。前記コンピュータは、一台の装置のプロセッサから構成されても、複数台の装置のプロセッサから構成されてもよい。例えば、コンピュータは、ヘッドマウントディスプレイのプロセッサ、ヘッドマウントディスプレイに対応する情報処理装置のプロセッサ、ヘッドマウントディスプレイ又は情報処理装置と通信可能に接続されたサーバのプロセッサの単体又は組み合わせたものであってもよい。
【0008】
(2)前記対象物情報は、前記対象物の取得又は利用を前記ユーザに促すための広告情報を含んでもよい。
【0009】
上記構成によれば、ユーザの興味を惹く特定の対象物の広告情報をユーザに提供し、この情報処理装置を利用した対象物の取得又は利用のための行動をユーザに促すことが出来る。広告情報は、仮想空間における対象物、及び仮想空間における対象物に対応する現実空間における対象物のうち、いずれの取得又は利用を対象とするものであってもよい。例えば、空間画像が現実空間の街並みを表示するものであり、仮想空間における対象物が美術館である場合に、広告情報は、仮想空間における美術館の利用を促進してもよいし、仮想空間の美術館に対応する現実空間の美術館の利用を促進するためのものであってもよい。
【0010】
(3)前記位置特定手段は、前記現実空間において、前記ユーザの身体の少なくとも一部で指示姿勢及び/又は動作がされたときに、前記仮想空間において、所定位置から前記指示姿勢の指し示す方向に対応する方向にある位置を、前記空間画像における位置として特定し、前記対象物特定手段は、前記位置特定手段によって特定された位置に前記対象物が表示されている場合に、当該対象物が選択状態であることを表示し、前記現実空間において、前記ユーザの身体の少なくとも一部で所定の取得姿勢及び/又は所定の取得動作がなされた場合に、前記選択状態である対象物を特定してもよい。
【0011】
上記構成によれば、現実空間によってユーザに指示姿勢(例えば、ユーザの手で指し示す姿勢等)がされたときに、仮想空間において、所定位置(例えば中心位置)からユーザの手で指し示す方向に対応する方向にある位置が、位置特定手段によって特定される。この特定された位置に対象物が表示されていると、対象物が選択状態であることが対象物特定手段によって表示される。これによって、対象物を指し示す指示姿勢をするだけで、ユーザは対象物を選択状態にすることができる。そして、この選択情報であることが表示されるため、ユーザは選択状態になった対象物が所望の対象物であるかを検討し、所望の対象物である場合にのみ、所定の取得姿勢及び/又は所定の取得動作(手でグリップする等の所定の取得ジェスチャー)を行って、対象物を特定し、特定された対象物に関連する対象物情報をユーザに提供することが可能になる。これによって、所望しない対象物の対象物情報を取得してしまうことを防止することができる。
【0012】
(4)前記対象物特定手段は、前記選択状態の対象物に対応付けて、前記対象物情報の一部を仮想空間に表示することで、当該対象物が選択状態であることを表示してもよい。
【0013】
上記構成によれば、ユーザは、対象物情報の一部を確認した上で、対象物情報の提供を受けたいかどうかを判断し、提供を受けたい場合にのみ、当該対象物情報の提供を受けることが可能になる。
【0014】
(5)空間動画データの再生によって前記空間画像が表示され、この空間画像データの再生時間に応じて表示される前記空間画像が変化してもよい。前記対象物特定手段は、前記再生時間に応じた、前記仮想空間における前記対象物の表示される位置を示す位置情報に基づいて、前記対象物特定手段によって特定された位置に前記対象物が表示されているかどうかを判断してもよい。
【0015】
上記構成によれば、空間動画データの再生によって空間画像が動画として表示される。ここで、再生時間(再生開始時からの経過時間)に応じて、空間画像が変化する場合には、仮想空間における対象物の表示位置が変わる場合がある。本発明の構成によれば、空間画像データの再生時間に応じた、仮想空間における対象物の表示される位置を示す位置情報に基づいて、位置特定手段によって特定された位置に対象物が表示されているかどうかが判断される。このため、空間画像が変化しても、特定された位置に対象物が表示されているかを、正確に判断することが可能になる。
【0016】
(6)上記コンピュータは、サーバに通信可能に接続されたヘッドマウントディスプレイ、又は情報処理装置のコンピュータであり、前記提供手段は、前記対象物が特定された場合に、前記対象物情報の送信要求を前記サーバに対して送信し、前記対象物情報の送信要求に応じた前記サーバから前記対象物情報を受信することで、前記対象物情報を前記ユーザに提供するために、前記対象物情報を前記ヘッドマウントディスプレイ又は前記情報処理装置に取得させてもよい。
【0017】
上記構成によれば、ヘッドマウントディスプレイ又は情報処理装置がサーバから対象物情報を受信することで、対象物情報を取得してユーザに提供することが可能になる。この様に、サーバ側で対象物情報を記憶しているため、対象物情報の内容の更新がし易く、ユーザに提供される対象物情報を現状に合った新しい情報とすることができる。
【0018】
(7)上記課題を解決するために、本発明に係るサーバは、ユーザの頭部に装着されて仮想空間を表示するヘッドマウントディスプレイ、又は当該ヘッドマウントディスプレイに対応する情報処理装置に、ネットワークを介して通信可能に接続され、記憶部を備える。そして、表示処理手段、情報受信処理手段及び情報送信処理手段を備える。表示処理手段は、前記ヘッドマウントディスプレイにおいて、少なくとも一つの対象物が含まれた空間画像を前記仮想空間に表示させるための処理を行う。情報受信処理手段は、現実空間における前記ユーザの身体の少なくとも一部の姿勢及び/又は動作に基づいて特定された前記空間画像の位置において、前記対象物が表示されている場合に、この対象物を特定の対象物として、前記特定の対象物に関連する対象物情報の送信要求を、前記ヘッドマウントディスプレイ、又は前記情報処理装置から受信する。情報送信処理手段は、前記情報受信手段によって前記対象物情報の送信要求を受信した場合に、前記記憶部に記憶された前記対象物情報を、前記ユーザに提供するために、前記ヘッドマウントディスプレイ又は前記情報処理装置に対して送信する。
【0019】
上記(1)のコンピュータプログラムと同様の作用効果を奏する。
【0020】
(8)前記対象物情報は、前記対象物の取得又は利用を前記ユーザに促すための広告情報を含んでもよい。
【0021】
上記(2)のコンピュータプログラムと同様の作用効果を奏する。ここでも、広告情報は、仮想空間における対象物、及び仮想空間における対象物に対応する現実空間における対象物のうち、いずれの取得又は利用を対象とするものであってもよい。
【0022】
(9)上記サーバでは、前記現実空間において、前記ユーザの身体の少なくとも一部で指示姿勢及び/又は動作がされたときに、前記仮想空間の所定位置から、前記指示姿勢の指し示す方向に対応する方向にある位置が、前記空間画像における位置として特定され、前記特定された位置に前記対象物が表示されている場合に、当該対象物が選択状態であることを表示され、前記現実空間において前記ユーザの身体の少なくとも一部で所定の取得姿勢及び/又は所定の取得動作がなされた場合に、前記選択状態である対象物が特定されてもよい。
【0023】
上記(3)のコンピュータプログラムと同様の作用効果を奏する。
【0024】
(10)前記表示処理手段は、空間動画データを前記ヘッドマウントディスプレイ又は前記情報処理装置で再生させて、前記ヘッドマウントディスプレイに前記空間画像を表示させ、この空間画像データの再生時間に応じて表示される前記空間画像が変化してもよい。また、前記情報送信処理手段は、前記再生時間に応じた、前記空間画像における前記対象物の表示される位置を示す位置情報であって、前記特定された前記空間画像の位置に前記対象物が表示されているかどうかを判断するための情報を、前記ヘッドマウントディスプレイ又は前記情報処理装置に送信してもよい。
【0025】
上記(5)のコンピュータプログラムと同様の作用効果を奏する。
【0026】
(11)本発明に係るコンピュータプログラムは、ユーザの頭部に装着されたヘッドマウントディスプレイに、仮想空間を表示するためのコンピュータを、撮影手段として機能させる。撮影手段は、現実空間におけるユーザの身体の少なくとも一部の姿勢及び/又は動作が、所定の撮影姿勢及び/又は所定の撮影動作である場合に、前記仮想空間をこの仮想空間内の仮想カメラから撮影する。前記所定の撮影姿勢及び/又は所定の撮影動作の種類は、第1撮影指示用及び第2撮影指示用の少なくとも2種類ある。前記撮影手段は、前記第1撮影指示がされた場合には、前記仮想空間における所定の位置の前記仮想カメラから、前記所定の撮影姿勢及び/又は所定の撮影動作で指し示す方向に対応する方向に向かって前記仮想空間を撮影し、前記第2撮影指示がされた場合には、前記仮想空間における所定の位置の前記仮想カメラから、前記所定の撮影姿勢及び/又は所定の撮影動作で指し示す方向に対応する方向の反対方向に向かって前記仮想空間を撮影する。
【0027】
上記構成によれば、所定の撮影姿勢及び/又は所定の撮影動作の種類が第1撮影指示用及び第2撮影指示用の少なくとも2種類あり、第1撮影指示用の所定の撮影姿勢及び/又は所定の撮影動作がされた場合と、第2撮影指示用の所定の撮影姿勢及び/又は所定の撮影動作がされた場合とで、撮影方向が異なる。ユーザは、所定の撮影姿勢及び/又は所定の撮影動作の種類を変えるだけで、仮想カメラの撮影方向を第1撮影用及び第2撮影用の間で切り替えて撮影をさせることができる。なお、仮想カメラの位置(上記所定の位置)は、第1撮影用及び第2撮影用で同じであっても異なっていてもよい。
【0028】
(12)本発明に係るサーバは、ユーザの頭部に装着されて仮想空間を表示するためのヘッドマウントディスプレイ、又は前記ヘッドマウントディスプレイに対応する情報処理装置に、ネットワークを介して通信可能に接続される。また、サーバは、現実空間におけるユーザの身体の少なくとも一部の姿勢及び/又は動作が、所定の撮影姿勢及び/又は所定の撮影動作である場合に、前記仮想空間を前記仮想カメラで撮影した撮影画像を取得して、前記ヘッドマウントディスプレイ又は前記情報処理装置に対して送信する情報送信処理手段、を備える。前記所定の撮影姿勢及び/又は所定の撮影動作の種類は、第1撮影指示用及び第2撮影指示用の2種類を含み、前記撮影画像は、第1撮影指示用の所定の撮影姿勢及び/又は所定の撮影動作がされた場合には、前記仮想空間における所定の位置の前記仮想カメラから、前記所定の撮影姿勢及び/又は所定の撮影動作で指し示す方向に対応する方向に向かって前記仮想空間が撮影されることで生成され、前記第2撮影指示がされた場合には、前記仮想空間における所定の位置の前記仮想カメラから、前記所定の撮影姿勢及び/又は所定の撮影動作で指し示す方向に対応する方向の反対方向に向かって前記仮想空間が撮影されることで生成される、ことを特徴とする。
【0029】
上記(11)のコンピュータプログラムと同様の作用効果を奏する。
【発明の効果】
【0030】
上記構成によれば、ヘッドマウントディスプレイに表示される仮想空間内の空間画像における、ユーザの興味を惹く特定の対象物の対象物情報をユーザに提供することができるコンピュータプログラム、及びサーバを提供することができる。
【図面の簡単な説明】
【0031】
【
図1】本実施形態に係る対象物情報提供システムを示す図である。
【
図2】
図1で示すヘッドマウントディスプレイの機能ブロック図である。
【
図4】
図1で示す情報処理装置の機能ブロック図である。
【
図6】ヘッドマウントディスプレイにおける仮想空間の表示の一例である。
【
図8】第1撮影指示用撮影ジェスチャーと第1撮影の説明図である。
【
図9】第2撮影指示用撮影ジェスチャーと第2撮影の説明図である。
【
図10】第1撮影用の仮想カメラ位置と撮影方向の説明図である。
【
図11】第2撮影用の仮想カメラ位置と撮影方向の説明図である。
【
図12】ヘッドマウントディスプレイの実行する対象物情報取得処理の一例を示すフローチャート(その1)である。
【
図13】ヘッドマウントディスプレイの実行する対象物情報取得処理の一例を示すフローチャート(その2)である。
【
図14】サーバの実行するサーバ側対象物情報取得処理の一例を示すフローチャートである。
【
図15】情報処理装置の実行する処理装置側対象物情報取得処理の一例を示すフローチャートである。
【
図16A】本実施形態の変形例に係る対象物情報提供システムを示す図である。
【
図16B】本実施形態の変形例に係る対象物情報提供システムを示す図である。
【
図17】本実施形態の変形例に係る対象物情報提供システムを示す図である。
【
図18】本実施形態の変形例に係る対象物情報提供システムを示す図である。
【発明を実施するための形態】
【0032】
(本実施形態の第1の特徴)
以下に、
図1、
図5、及び
図6を用いて、本発明を適用した一実施形態(以下、「本実施形態」と記載する)に係る対象物情報提供システムの第1の特徴を説明する。
図1は、本実施形態に係る対象物情報提供システムを示す図である。
図5は、仮想空間の説明図である。
図6は、ヘッドマウントディスプレイにおける仮想空間の表示の一例である。
【0033】
本実施形態に係る対象物情報提供システム100は、ユーザの頭部に搭載するヘッドマウントディスプレイ(以下、「HMD」と記載する)1を備える。HMD1は、例えば、
図5で示すような三次元の仮想空間Wの所定領域を表示する。仮想空間Wは、VR(Virtual Reality)空間であり、例えば球体(全天球等)として定義されるものである。なお、仮想空間Wは、球状でなくてもよく、半球等の他の形状であってもよい。本実施形態では、仮想空間Wは、VR空間であるが、AR(Argumented Reality)空間やMR(Mixed Reality)空間であってもよい。
【0034】
また、本実施形態では、仮想空間Wの表面に亘って(全天球内面に亘って)空間画像が表示される。空間画像は、仮想空間W内に表示するための画像であり、本実施形態では、360°カメラで全周囲撮影された全天球画像であるが、コンピュータグラフィックスや手書き等で作成された画像であってもよい。本実施形態では、空間画像は、現実空間(現実世界)に対応しており、例えば、現実空間の自然風景や街並み等の景色や、現実空間の建築物内部等を表示するものであってもよい。なお、空間画像は、必ずしも現実空間に対応するものでなくてもよく、架空の風景や建物内部等を表示してもよい。この様な空間画像が仮想空間Wの表面に亘って表示されることで、ユーザは、HMD1を介して仮想空間Wの表面の空間画像を視認することができる。
【0035】
なお、本実施形態において「画像」とは、静止画像と複数のフレーム画像から構成された動画像の両方を含む。なお、空間画像は、右目用画像と左目用画像とがあり、立体視可能であってもよい。空間画像は、
図6で示すように、少なくとも一つの対象物Oを含む。対象物Oは、ユーザによって特定可能な表示物であり、対象物Oは、例えば、商品・美術品等の物品や、店舗・施設(図書館や美術館やホテル等)・建築物、観光名所等の自然物等である。
【0036】
HMD1には、現実空間における座標系である実座標系が予め設定されている。実座標系は、現実空間の座標系であり、HMD1の位置を原点として、鉛直方向(上下方向)のY座標、鉛直方向に直交する水平方向(左右方向)のX座標、この水平方向と鉛直方向の双方に直行する方向(前後方向)のZ座標を有する。また、
図5で示すように、仮想空間Wには、グローバル座標系が設定されている。グローバル座標系は、仮想空間Wの中心点を原点とした、X座標、Y座標、Z座標を有する。グローバル座標系のX座標、Y座標、Z座標と、実座標系のX座標、Y座標、Z座標とはそれぞれ対応付けられている(例えば平行である)。この様にして、現実空間と仮想空間Wが対応づけられている。
【0037】
そして、ユーザが頭部(HMD1)の傾き(向き)を変更したときに、この向きに応じて仮想空間Wにおける表示領域(HMD1の視野)が変わる。この表示領域の変更について具体的に説明する。本実施形態では、仮想空間Wにおける所定位置(例えば仮想空間Wの中心点)にユーザ視点となる仮想カメラCa1が配置される。本実施形態では、例えば3次元モデルのアバターM1が仮想空間Wに配置され、アバターM1の頭部が仮想空間Wの中心点に配置されるようになっているが、アバターM1は必ずしも表示されなくてもよい。この場合、アバターM1に代えて、ユーザ等を実写した撮影画像が空間画像に合成されてもよい。これによって、処理負担が軽くあたかもユーザ本人が仮想空間Wに居るような感覚をユーザに与えることができる。なお、この撮影画像は、後述のサーバ3にユーザに対応付けて登録されていてもよい。本実施形態では、この仮想カメラCa1の撮影方向は、現実空間におけるユーザの頭部の向き(HMD1の向き)と対応する。このため、頭部の向きの変更に応じて仮想カメラCa1の撮影方向も変更され、仮想空間における表示される領域が変わる。例えば、ユーザが頭部を右に向ければ、仮想カメラCa1の撮影方向も右に向き、ユーザが頭部を左に向ければ、仮想カメラCa1の撮影方向も左に向き、これによって、ユーザに仮想空間に入り込んだような没入感を与えることが出来るようになっている。
【0038】
本実施形態の第1の特徴は次のようなものである。現実空間における、ユーザの身体の少なくとも一部(例えば、手や腕等)のジェスチャーに基づいて、空間画像における位置(仮想空間Wにおける位置)を特定する位置特定処理が実行される。「ジェスチャー」とは、「姿勢及び/又は動作」であり、具体的には、姿勢、動作、又はこれらの組み合わせである。そして、この特定された位置に対象物Oが表示されている場合に、この対象物Oを特定する対象物特定処理が実行され、この特定された対象物に関する情報である対象物情報J1がHMD1のユーザに提供される。具体的には、対象物情報J1がユーザの所有する情報処理装置2に取得させる取得処理が実行され、情報処理装置2を介してユーザに対象物情報J1が提供される。これによって、空間画像における位置を特定するためのジェスチャーを、ユーザが自身の身体の少なくとも一部で行うことで、空間画像の対象物Oが特定されて、この対象物Oに関連する対象物情報J1をユーザに提供する(知得させる)ことができる。
【0039】
本実施形態では、対象物Oを含む空間画像を仮想空間Wに表示することで仮想空間Wのコンテンツをユーザに提供し、かつ、この空間画像における対象物Oを特定できる。従来、対象物Oのオブジェクトを仮想空間Wに配置することでコンテンツをユーザに提供し、かつ、アバターM1との衝突判定等によって、対象物Oを特定する構成は存在する。本実施形態の構成では、従来の構成に比較して、仮想空間Wのコンテンツ制作の作業負担を重くすることなく、ユーザの興味を惹く対象物Oを特定して、対象物情報J1を取得することができる。
【0040】
対象物情報J1は、対象物Oの取得又は利用をユーザに促すための広告情報を含む。広告情報は、例えば、対象物が商品・美術品等の物品である場合には、物品の名称、物品を表示する画像・動画、物品の説明、及びこれらの情報が掲載されたサイトや物品を入手するための販売サイト等のURL(Uniform Resource Locator)等である。対象物が施設(図書館・ホテル・美術館等)・店舗・建造物である場合には、施設・店舗・建造物の名称、施設・店舗・建造物を表示する画像や動画、施設・店舗・建造物の説明、及びこれらの情報が掲載されたサイトのURL等である。また、施設・店舗・建造物に関するサービスの販売(予約)サイトやアクセス方法を示すサイト等のURLであってもよい。施設・店舗・建造物に関するサービスは、例えばホテルの宿泊、レストランの食事を含む。施設・店舗・建造物の関連物(施設・店舗・建造物で販売等されている物品等)の名称、物品の画像・動画、物品の説明、及びこれらの情報が掲載されたサイトや物品を入手するための販売サイト等のURLであってもよい。対象物が観光名所である自然物(山、海等)である場合には、自然物の名称、自然物を表示する画像・動画、自然物の説明(テキスト・画像・動画)、これらの情報を示すサイトのURLや、自然物へのアクセス方法を示すサイト等のURLである。現実の自然物が有料で入場できる等の場合には、その対象物の入場チケットの販売サイト等のURLであってもよい。
【0041】
上記の様に、対象物情報J1は広告情報を含むため、ユーザの興味を惹く特定の対象物Oの広告情報をユーザに提供することができる。ここで、対象物Oの広告情報は、本実施形態では、仮想空間における対象物Oに相当する現実空間の対象物の広告情報であるが、仮想空間Wにおいて対象物Oを取得・利用できる場合には、仮想空間Wにおける対象物Oの広告情報であってもよい。仮想空間Wにおいて対象物Oを取得・利用できる場合とは、例えば、衣服等のアイテムが対象物Oであり、アバターM1が仮想空間W内で取得して着用できる場合や、仮想的な美術館等が対象物Oであり、仮想的な美術館に入場して、仮想的な美術館内でデジタルアートを閲覧できる場合等である。
【0042】
(本実施形態の第2の特徴)
以下に、
図1、
図5、及び
図8から
図11を用いて、本実施形態の第2の特徴を説明する。
図8は、第1撮影指示用撮影ジェスチャーと第1撮影の説明図である。
図9は、第2撮影指示用撮影ジェスチャーと第2撮影の説明図である。
図10は、第1撮影用の仮想カメラ位置と撮影方向の説明図である。
図11は、第2撮影用の仮想カメラ位置と撮影方向の説明図である。
【0043】
現実空間におけるユーザの身体の少なくとも一部(例えば、手や腕等)のジェスチャーが、所定の撮影ジェスチャーである場合に、仮想空間Wを、この仮想空間W内の仮想カメラCa2から撮影する撮影処理が実行される。ここでの仮想カメラCa2は、仮想空間Wの仮想的な写真撮影のためのものであり、ユーザの視界を表示するための仮想カメラCa1とは別途設定される。「所定の撮影ジェスチャー」とは、「所定の撮影姿勢及び/又は所定の撮影動作」であり、具体的には、所定の撮影姿勢、所定の撮影動作、又はこれらの組み合わせである。
【0044】
ここで、所定の撮影ジェスチャーの種類、すなわち撮影ジェスチャーの種類は、第1撮影指示用及び第2撮影指示用の少なくとも2種類ある。もっとも、2種類以上あってもよい。
図10で示すように、現実空間で第1撮影指示用撮影ジェスチャーがされた場合には、仮想空間Wにおける所定の位置(仮想空間Wの中心点)に配置された仮想カメラCa2から、所定の撮影ジェスチャーで指し示す方向に対応する方向に向かって仮想空間Wが撮影される。この撮影を「第1撮影」と記載する場合がある。
【0045】
ここで、本実施形態では、ユーザ視点となる仮想カメラCa1の位置は仮想カメラCa2と同じであるが、仮想カメラCa1の撮影方向は、仮想カメラCa2の撮影方向とは異なる場合がある。仮想カメラCa1の撮影方向は、アバターM1の前方(HMD1の向きと対応する方向)であるのに対して、仮想カメラCa2の撮影方向は、所定の撮影ジェスチャーで指し示す方向に対応する方向である。仮想カメラCa2の画角が仮想カメラCa1の画角よりも小さく設定されることで、仮想カメラCa1と仮想カメラCa2の撮影方向が一致している場合には、
図10で示すように、仮想カメラCa1の撮影領域F1内(撮影画像V1内)に、仮想カメラCa2の撮影領域F2(撮影画像V2)が納まるようになっている。
【0046】
本実施形態における、第1撮影指示用の所定の撮影ジェスチャー(第1撮影指示用撮影ジェスチャー)を説明する。
図8で示すように、現実空間において、ユーザの右手と左手それぞれについて人差し指と親指が直角になるようにし、略同一平面において、右手の人差し指と左手の人差し指、右手の親指と左手の親指を略平行に配置して、両手で囲いを形成する姿勢(所定の撮影姿勢)にすることが、第1撮影指示用撮影ジェスチャーの種類となっている。この両手の囲いの範囲を撮影領域F2に対応させて、囲いを広げると撮影領域F2が広くなってもよいが、撮影領域F2の大きさが一定であってもよい。現実空間においてユーザが両手の囲いを向けている方向に対応する仮想空間における方向が、所定の撮影ジェスチャーが指し示す方向となり、仮想カメラCa2の撮影方向となる。この方向に伸びる直線と仮想空間Wの表面の交点Pが、第1撮影による撮影画像V2の中心に位置することになる。なお、例えば、「現実空間においてユーザが両手の囲いを向けている方向」とは、現実空間におけるHMD1の位置から、ユーザの両手の囲い内の所定の位置(中心位置)に向かう方向である。もっとも、この第1撮影指示用撮影ジェスチャーはあくまで一例であり他のジェスチャーを採用してもよい。例えば、所定の撮影ジェスチャーとして、上記両手の囲いを前方に突き出す撮影動作(所定の撮影動作)を採用してもよい。また、所定の撮影ジェスチャーとして、上記所定の撮影姿勢にした状態で、特定の指(例えば人差し指)を素早く曲げる、または、右手指と左手指が触れた瞬間に撮影される等の所定の動作を行う(所定の撮影姿勢及び所定の撮影動作を行う)ことを採用してもよい。
【0047】
また、
図11で示すように、現実空間において第2撮影指示用撮影ジェスチャーがされた場合には、仮想空間Wの所定位置の仮想カメラCa2から、所定の撮影ジェスチャーで指し示す方向の反対方向に向かって、仮想空間Wが撮影される。所定の撮影ジェスチャーで指し示す方向の反対方向に伸びる直線と仮想空間Wの表面との交点P´が、第2撮影指示による撮影画像V2の中心に位置することになる。この撮影を、「第2撮影」と記載する場合がある。
【0048】
なお、第2撮影では第1撮影とは異なり、仮想カメラCa1の位置と仮想カメラCa2の位置は異なる。仮想カメラCa1の位置は仮想空間Wの中心点であるが、仮想カメラCa2の位置は、仮想空間Wの中心点から、所定の撮影ジェスチャーで指し示す方向に対応する方向(交点Pに向かう方向)に所定距離離れた位置である。このため、仮想カメラCa2で、所定の撮影ジェスチャーで指し示す方向に対応する方向の反対方向(交点P´に向かう方向)に撮影することで、アバターM1を含めて撮影することが可能になっている。上述したように、仮想カメラCa1の撮影方向は、アバターM1の頭部が向いている方(HMD1の向いている方向)であり、第2撮影においても、仮想カメラCa1と仮想カメラCa2の撮影方向は異なる。第2撮影でも、ユーザに仮想カメラCa2の撮影画像V2を視認させるために、仮想カメラCa1の撮影画像V1内に、仮想カメラCa2の撮影画像V2を合成して表示することで、ユーザに撮影画像V1を視認させることが出来るようになっている。
【0049】
本実施形態における、第2撮影指示用の所定の撮影ジェスチャー(第2撮影指示用撮影ジェスチャー)を説明する。
図9で示すように、現実空間において、ユーザの片手(右手等)において第2関節で人差し指を略直角に曲げる姿勢(所定の撮影姿勢)が、第2撮影指示用撮影ジェスチャーとなっている。この人差し指の曲げられた部位を一角とした四角形の範囲が撮影領域F2に対応してもよい。現実空間においてユーザが上記四角形を向けている方向に対応する仮想空間における方向が、所定の撮影ジェスチャーが指し示す方向となり、仮想カメラCa2の撮影方向となる。なお、「現実空間においてユーザが上記四角形を向けている方向」とは、例えば、現実空間におけるHMD1の位置から、上記四角形内の所定の位置(中心位置)に向かう方向である。もっとも、必ずしも「現実空間においてユーザが上記四角形を向けている方向」が仮想カメラCa2の撮影方向が一致しなくてもよい。この第2撮影指示用撮影ジェスチャーはあくまで一例であり他のジェスチャーを採用してもよい。例えば、第2撮影指示用撮影ジェスチャーとして、第2関節で人差し指を略直角に曲げる姿勢をした片手を前方に突き出す撮影動作(所定の撮影動作)を採用してもよい。また、上記所定の撮影姿勢にした状態で、特定の指(例えば人差し指)を素早く複数回振る所定の動作を行う(所定の撮影姿勢及び所定の撮影動作を行う)ことを採用してもよい。なお、
図8及び
図9で示しているユーザの手は説明の便宜上示しているだけであり、HMD1にはユーザの手は表示されない。もっとも、ユーザの手と一致するジェスチャーをするように、アバターM1の手をHMD1に表示してもよい。
【0050】
〔本実施形態に係る対象物情報提供システムの構成〕
以下に、
図1を用いて、本実施形態に係る対象物情報提供システムを説明する。対象物情報システム100は、HMD1、情報処理装置2、及びサーバ3を備える。HMD1、及び情報処理装置2はサーバ3に通信ネットワークNを介して通信可能に接続されている。
【0051】
HMD1は、上述したように、ユーザの頭部に装着されて、少なくとも一つの対象物O(
図6参照)が含まれた空間画像の表示された、仮想空間Wを表示するためのものである。情報処理装置2は、例えば、スマートフォン、タブレット端末、ゲーム機、パーソナルコンピュータ等である。情報処理装置2は、HMD1に対応するものであり、本実施形態では、HMD1のユーザに対して、対象物情報J1を提供するためのものである。本発明の「HMDに対応する情報処理装置」とは、例えば、HMD1のユーザの持ち物である情報処理装置2や、サーバ3が提供するサービスにHMD1のユーザのアカウントでログインされた情報処理装置2等である。情報処理装置2は、サーバ3から特定された対象物Oに関連する対象物情報J1を取得することで、ユーザに対象物情報J1を提供できるようになっている。
【0052】
サーバ3は、HMD1において、少なくとも一つの対象物Oが含まれた空間画像の表示された、仮想空間Wを表示させるための処理を行う。例えば、サーバ3は、自機が記憶する空間動画データDを、HMD1でストリーミング再生させる。もっとも、再生方法は、ストリーミング再生に限定されず、HMD1にサーバ3から空間動画データDをダウンロードさせて再生させる等してもよい。サーバ3は、対象物情報J1を記憶し、HMD1に表示されている対象物Oが特定されたときに、この特定された対象物Oの対象物情報J1を、通信ネットワークNを介して情報処理装置2に対して送信する。
【0053】
〔HMD1の構成〕
以下に、
図1及び
図2を参照して、HMD1の機能的構成について説明する。
図2は、
図1で示すHMD1の機能ブロック図である。HMD1は、プロセッサ10、ストレージ11、通信部12、ディスプレイ13、操作部14、メモリ15、及びセンサ部16を有する。ストレージ11は、例えば、ハードディスク、SSD(Solid State DriVe)、USBフラッシュメモリ等である。ストレージ11には、対象物情報プログラムP1が記憶されている。対象物情報プログラムP1は、プロセッサ10に後述の対象物情報取得処理(位置特定処理、対象物特定処理、取得処理を含む処理)を実行させるためのプログラムである。対象物情報プログラムP1は、他の情報処理装置(サーバ3等)からダウンロードしても、HMD1の出荷状態から記憶されていてもよい。
【0054】
通信部12は、インターネット等のWAN(Wide Area Network)や、LAN(Local Area Network)等のネットワークNを介して、他の情報処理装置と有線及び/又は無線で通信を行うものである。通信部12は、サーバ3とネットワークNを介して通信を行う。なお、本実施形態では、情報処理装置2は、HMD1と直接通信可能に接続されていないが、通信可能に接続されていてもよい。ディスプレイ13は、HMD1をユーザの頭部に搭載(装着)した際に、ユーザの視界を覆うように形成された非透過型の表示装置である。ディスプレイ13は、仮想空間Wを表示するためのものであり、例えば、液晶ディスプレイや有機ELディスプレイ等のディスプレイである。網膜投影ディスプレイであってもよい。なお、ディスプレイ13は、右目用表示部と左目用表示部とから構成されて、ユーザに立体視させてもよい。操作部14は、ユーザからの指示(操作)を受け付けるためのものである。メモリ15は、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)で構成されるものである。メモリ15には、上記対象物情報取得処理の実行によって、対象物テーブルT1がサーバ3から受信されて記憶される。
【0055】
対象物テーブルT1は、再生時間(再生開始時からの経過時間)に応じた、仮想空間Wにおける前記対象物の表示される位置を示す位置情報を含む。対象物テーブルT1についての詳細は、
図7を用いて後述する。本実施形態では上述したように、空間動画データDの再生によって空間画像がディスプレイ13で表示されるが、この空間画像データDの再生時間に応じて表示される空間画像が変化する。このため、空間画像(仮想空間W)における対象物Oの位置が再生時間に応じて変わっていく場合がある。本実施形態では、ユーザ所望の対象物Oを特定するための処理(対象物特定処理)において、ユーザの身体の少なくとも一部のジェスチャーに基づいて特定された空間画像における位置に、対象物Oが表示されているかどうかを、対象物テーブルT1に基づいて判断する。これによって、空間画像(仮想空間W)における対象物Oの位置が再生時間に応じて変わっても、精度良く、ユーザに特定された空間画像の位置に対象物Oがあるかを判断することができる。
【0056】
センサ部16は、現実空間において、ユーザの頭部(HMD1)の向きや、ユーザの身体の少なくとも一部のジェスチャーを検出するためのセンサを備える。「ユーザの身体の少なくとも一部」は、本実施形態では「手」であるが、ユーザの身体の他の部位であってもよい。
【0057】
センサ部16は、例えば、地磁気センサ、加速度センサ、角速度センサ等の傾きセンサ等を備え、これによって、現実空間のHMD1の傾き(向き)を検出してもよい。この検知されたHMD1の向きに応じて、仮想空間におけるアバターM1の向き(仮想カメラCa1の撮影方向)が設定される。また、センサ部16は、赤外線照射素子と、赤外線カメラとを有する赤外線検知センサをハンドトラッキングセンサとして備えてもよい。具体的には、赤外線照射素子から照射されて、手や腕等で反射した赤外光を赤外線カメラで検知することで、手や腕の姿勢や手や腕等の動作(ユーザのハンドジェスチャー)、及び手や腕の位置を検出してもよい。本実施形態では、傾きセンサに検出された現実空間のHMD1の向きと、検出されたハンドジェスチャー(指示ジェスチャーや撮影ジェスチャー等)と、手や腕の位置に基づいて、仮想空間Wにおけるハンドジェスチャーで指し示す方向に対応する方向(
図5、
図10及び
図11において交点Pに向かう方向)が決定される。
【0058】
ユーザの身体の少なくとも一部のジェスチャーを検出するための方法は、上記赤外線検知センサによる検出に限らず、他の方法であってもよい。例えば、可視光を検知する通常のカメラの撮影画像を用いた方法であってもよい。この方法では、現実空間においてユーザを撮影した撮影画像を画像解析することで、ハンドジェスチャーや手や腕の位置が検出される。画像解析では、例えば、ユーザの身体のシルエットを抽出し、抽出したシルエットに基づいて骨格モデルが形成され、骨格モデルに基づいてユーザのハンドジェスチャーが検出される。また、ユーザの身体に取り付けたマーカの位置をトラッキングする光学式モーションキャプチャシステムや、体に装着した慣性センサから得た加速度・角速度・方位の情報を骨格モデルに当てはめることで体の動作を計測する慣性式モーションキャプチャシステムを用いて、ユーザのハンドジェスチャーが検出されてもよい。また、ユーザの手等で把持するコントローラを用いて、ユーザのジェスチャーが検出されてもよい。
【0059】
プロセッサ10は、例えば、CPU(Central Processing Unit)、MPU(Micro Processing Unit)、及び/またはGPU(Graphics Processing Unit)で構成されている。プロセッサ10は、ストレージ11に記憶されている対象物情報プログラムP1を実行することで、画像表示手段101、位置特定手段102、対象物特定手段103、提供手段104、位置情報記憶手段105、撮影手段106、及び画像取得手段107として機能する。
【0060】
画像表示手段101は、例えば、サーバ3が記憶する空間動画データDをストリーミング再生等して、HMD1のディスプレイ13において、空間画像を表示する仮想空間Wを表示させる。位置特定手段102は、上述した位置特定処理を実行する。以下、位置特定処理をより詳細に説明する。
【0061】
〔HMD1の構成:位置特定処理の説明〕
図5を用いて本実施形態における位置特定処理を説明する。位置特定処理では、上述したように、現実空間におけるHMD1のユーザの身体の少なくとも一部(手等)のジェスチャー(所定の指示ジェスチャー)に基づいて、空間画像における位置が特定される。本実施形態では、現実空間において、ユーザの手で指し示す指示姿勢(例えば人差し指での指差しの姿勢)が所定の指示ジェスチャーとしてされたときに、仮想空間Wの所定位置(例えば中心点)から、指示姿勢の指し示す方向に対応する方向にある位置が、空間画像における位置として特定される。本実施形態では、仮想空間Wの表面に空間画像が表示されるため、所定位置から指示姿勢の差し示す方向に対応する方向に延びる直線と仮想空間Wの交点である位置Pが所定位置として特定される。例えば、ユーザが、現実空間で右斜め上の方向を指し示す指示姿勢を行った場合に、仮想空間において、仮想空間Wでも右斜め上(仮想空間におけるユーザの正面を基準として)に延びる直線と仮想空間Wの交点である位置Pが、空間画像における位置として特定される。
【0062】
対象物特定手段103は、対象物選択処理、及び上述した対象物特定処理を実行する。対象物選択処理では、位置特定手段102によって特定された位置(
図5の位置P)に、対象物Oがある(表示されている)場合に、当該対象物Oが選択状態であることが表示される。対象物特定処理では、上述したように、位置特定手段102によって特定された位置に対象物Oが表示されている場合に、この対象物Oが特定される。
【0063】
〔HMD1の構成:対象物選択処理の説明〕
図5及び
図6を用いて本実施形態における対象物選択処理を説明する。対象物特定処理において、本実施形態では、選択状態の対象物Oに対応付けて、対象物情報J1の一部である表示用情報J3を仮想空間に表示することで、当該対象物Oが選択状態であることが表示される。もっとも、対象物Oに重ねて選択アイコンを表示したり、色を変える等、他の方法によって選択状態であることを表示してもよい。
図6では、2つの対象物Oがユーザの視界(仮想カメラCa1の撮影領域F1すなわち撮影画像V1)内に表示されている様子を示し、奥側の対象物Oがユーザの所定の指示ジェスチャーにより特定された位置(位置P)に存在する様子を示している。奥側の対象物Oに重ねて表示された吹き出し内に、表示用情報J3が表示されている。
【0064】
〔HMD1の構成:対象物特定処理の説明〕
そして、対象物特定処理において、現実空間において、ユーザの手で所定の取得ジェスチャーがなされた場合に、選択状態である対象物Oが特定される。ここで、「所定の取得ジェスチャー」とは、「所定の取得姿勢及び/又は所定の取得動作」である、具体的には、所定の取得姿勢、所定の取得動作又はこれらの組み合わせである。本実施形態では、所定の取得ジェスチャーは、人差指と親指でつまむグリップ動作(所定の取得動作)である。もっとも、所定の取得ジェスチャーとして他のジェスチャーを採用してもよい。例えば、手を握った姿勢(所定の取得姿勢)を採用してもよく、所定の指示姿勢から所定期間内に上記所定の取得動作がされたことを、所定の取得ジェスチャーとして採用してもよい。この場合には、所定の指示姿勢が所定の取得姿勢となり、この所定の取得姿勢と、上記グリップ動作(所定の取得動作)との組み合わせが所定の取得ジェスチャーとなる。
【0065】
上記のように、ユーザが視界において対象物Oを指し示す直感的な指示姿勢をすることで、ユーザは対象物Oを選択状態にすることができる。そして、選択情報であることが表示されるため、ユーザは選択状態になった対象物Oが所望の対象物Oであるかを検討し、所望の対象物Oである場合にのみ、所定の取得ジェスチャーを行って、対象物Oを特定することができる。これによって、所望しない特定物Oを特定してしまうことを防止することができる。
【0066】
〔HMD1の構成:対象物特定処理の説明:対象物テーブル〕
上述したように本実施形態では、対象物特定処理において、位置特定手段102によって特定された位置に、対象物Oが表示されているかどうかの判断は、対象物テーブルT1(位置情報)に基づいてなされる。上述したように、空間画像が動画である場合に再生時間(例えば、再生開始時からの経過時間)に応じて対象物Oの位置が変化する場合があるからである。
図7を用いて、対象物テーブルT1を説明する。
図7は、対象物テーブルの一例である。対象物テーブルT1には、対象物Oに固有の識別情報である対象物識別情報J2と、選択表示用情報J3とが互いに対応付けて登録されている。選択表示用情報J3は、上述したように、対象物情報J1の少なくとも一部(例えば、商品の名称、施設・店舗・建築物の名称、自然物の名称等の対象物名)である。例えば、対象物テーブルT1には、
図6の手前側の対象物Oについての対象物識別情報J2(J21)、
図6の奥側の対象物Oについての対象物識別情報J2(J22)が登録されている。そして、対象物識別情報J21に対応付けて、
図6の手前側の対象物Oについての選択表示用情報J3(J31)が登録されているとともに、対象物識別情報J22に対応付けて、
図6の奥側の対象物Oについての選択表示用情報J3(J32)が登録されている。
【0067】
更に、対象物テーブルT1には、登録されている対象物識別情報J2夫々について、複数の再生時間J4(例えば、再生開始時からの経過時間)が登録されている。この再生時間J4は、対応する対象物Oが再生時間に応じて移動する場合において、移動の仕方が変化する時点の再生時間である。移動の仕方が変化する時点とは、例えば、移動方向が変化する起点又は移動速度が変化する起点を示す。例えば、対象物Oの空間画像における位置が直線状に移動した後に、屈曲して更に直線状に移動する場合では、最初の直線状の移動を開始する再生時間(
図7の再生時間t1)が再生時間J4として登録される。そして、屈曲時(この直線状の移動の終了時)の再生時間(再生時間t2)についても再生時間J4として登録される。また、対象物Oが上記屈曲後に直線状に移動しながら、途中で速度を変えて更に直線状に移動する場合、速度を変える時点の再生時間J4(再生時間t3)が登録される。
【0068】
対象物テーブルT1には、夫々の再生時間J4に対応付けて、対応する再生時間J4(例えば再生時間t1)から次の再生時間J4(例えば再生時間t2)までの、対象物Oの移動速度J5が登録される。また、再生時間J4夫々について、対象物Oの位置情報として角度情報J6が登録される。角度情報J6は、
図5で示すように、仮想空間Wの全天球を上下方向に切断した円形の面を基準とした角度であり、空間画像(仮想空間Wの表面)の位置を示すための角度である。角度情報J6は、水平方向の角度θ1と、垂直方向の角度θ2の2つの情報を含む。角度θ1は、上記円形の面において、その中心から何れか一方向に円の縁まで伸びる基準線L1からの角度(基準線L1と他の半径との間の中心角)を示す。角度θ2は、上記円形の面(の中心)を基準とした仰角である。角度θ1と角度θ2によって、夫々の再生時間J4において、空間画像(仮想空間W)の対象物Oの位置を示すことができる。ここで、再生時間J4(
図7の再生時間t1)の角度情報J6は、角度θ1でa1度~a2度、角度θ2でb1度~b2度であることを示す。そして、次の再生時間J4(
図7の再生時間t2)の角度情報J6は、角度θ1でa3度~a4度、角度θ2でb3度~b4度であることを示す。この再生時間t1と再生時間t2との間の再生時間における対象物Oの空間画像における位置は、再生時間t1の角度情報J6、再生時間t2の角度情報J6、及び再生時間t1の移動速度J5から算出される。再生時間t2と再生時間t3との間の再生時間における対象物Oの空間画像における位置についても、同様に、再生時間t2に対応する移動速度J5、再生時間t2の角度情報J6、及び再生時間t3の角度情報J6から算出される。
【0069】
なお、本実施形態では、角度情報J6では、角度θ1でa1度~a2度、角度θ2でb1度~b1度といった角度範囲が登録されているがこの構成に限定されない。基準となる角度が登録され、基準となる角度から所定角度だけプラスした角度と所定角度だけマイナスして角度範囲を算出してもよい。また、本実施形態では、移動速度J5が登録されているが、移動速度J5を登録せず、2つの再生時間J4の時間差(例えば再生時間t1及び再生時間t2の時間差)と、2つの再生時間J4の角度情報J6(例えば再生時間t1及び再生時間t2の角度情報J6)から、移動速度J5を算出してもよい。また、本実施形態では、移動の仕方が変化する時点の再生時間J4のみを対象物テーブルT1に登録し、移動の仕方が変化する時点の間の再生時間における対象物Oの位置は計算によって求めるが他の方法を採用してもよい。例えば、再生時間の範囲(例えば再生時間t1~t2)を登録するとともに、この範囲に対応付けて、角度情報J6が対象物テーブルT1に登録されてもよい。そして、現在の再生時間が含まれる再生時間の範囲から、これに対応する角度情報J6が対象物テーブルT1から取得され、この角度情報J6を空間画像における位置としてもよい。本実施形態では、位置特定手段102によって特定された位置に、対象物Oが表示されているかどうかの判断は、対象物テーブルT1(位置情報)に基づいてなされるが、他の方法を採用してもよい。例えば、特定された位置(この位置を含む所定の領域)に表示されている画像と、予めHMD1に登録された対象物Oの画像とに基づいて、画像解析によって、判断されてもよい。
【0070】
提供手段104は、情報処理装置2を介してユーザに、対象物特定手段103に特定された対象物Oに関する情報である対象物情報J1を提供する。具体的には、ユーザが対象情報J1の提供を受けることが出来るように、対象物情報J1を情報処理装置2に取得させる取得処理を行う。取得処理では、提供手段104は、対象物Oが特定された場合に、対象物情報J1の送信要求をサーバ3に対して送信し、対象物情報J1の送信要求に応じたサーバ3から対象物情報J1を受信させることで、対象物情報J1を情報処理装置2に取得させる。これによって、本実施形態のように、HMD1と情報処理装置2とが通信可能に接続されていない場合でも、対象物情報J1を情報処理装置2に取得させることができる。また、サーバ3側で対象物情報J1を記憶しているため、対象物情報J1の内容の更新がし易くなる。
【0071】
本実施形態では、提供手段104は、ユーザの任意のタイミングで対象物情報を提供できるように、対象物情報J1を情報処理装置2に取得させる。「ユーザの任意のタイミングで対象物情報を提供」する例としては、電子メールで情報処理装置2に対して対象物情報J1を送信すること等である。この方法では、電子メールに記載された又は添付された対象物情報J1を情報処理装置2のストレージ21(
図4)に記憶させて、ユーザが視認したいときに表示できる。その他の例としては、情報処理装置2でダウンロードしたアプリケーションを介して、ユーザ任意のタイミングでサーバ3から情報処理装置2が対象物情報J2の受信を受けることである。
【0072】
位置情報記憶手段105は、対象物テーブルT1(本発明の位置情報に相当する角度情報J6を含む)の送信要求をサーバ3に対して送信し、この送信要求に応答したサーバ3から通信ネットワークNを介して対象物テーブルT1を取得して、メモリ15(本発明の記憶部)に記憶させる。なお、ストレージ11に記憶させてもよい。
【0073】
撮影手段106は、上述した撮影処理を実行する。撮影処理では、上述したように、現実空間におけるユーザの身体の少なくとも一部で所定の撮影ジェスチャーがされた場合に、仮想空間Wがこの仮想空間W内の仮想カメラCa2から撮影される。画像取得手段107は、仮想カメラCa2からの撮影画像V2をサーバ3に対して送信するとともに、仮想カメラCa2からの撮影画像V2の情報処理装置3への送信要求をサーバ3に対して送信する。
【0074】
〔サーバ3の構成〕
図3は、
図1で示すサーバ3の機能ブロック図である。サーバ3は、プロセッサ30、ストレージ31、通信部32、及びメモリ33を有する。ストレージ31は、例えば、ハードディスク、SSD、USBフラッシュメモリ等である。ストレージ31には、ユーザ情報テーブルT2、対象物情報J1、空間動画データD、及びサーバ側対象物情報プログラムP2が記憶されている。
【0075】
ユーザ情報テーブルT2は、HMD1のユーザに関する情報が登録されており、複数のHMD1が本実施形態に係る対象物情報提供システム100に含まれる等して、ユーザが複数いる場合には、複数のユーザに関する情報が登録されている。ユーザに関する情報は、例えばユーザの識別ID、パスワード、及び電子メールアドレス等である。対象物情報J1は、空間動画データDの再生によって表示される空間画像に含まれる、対象物Oについての情報であり、対象物識別情報J2に対応付けて記憶されている。空間動画データDは、例えば、360度カメラ等で撮影した動画データである。サーバ側対象物情報プログラムP2は、プロセッサ30にサーバ側対象物情報取得処理を実行させるプログラムである。サーバ側対象物情報取得処理についての詳細は後述する。
【0076】
通信部32は、他の情報処理装置と有線及び/又は無線でインターネット等のネットワークNを介して通信を行うものである。具体的には、通信部32は、ネットワークNを介してHMD1及び情報処理装置2と通信を行う。メモリ33は、例えば、ROM、RAMで構成されるものである。
【0077】
プロセッサ30は、例えば、CPU、MPU、及び/またはGPUで構成されている。プロセッサ30は、サーバ側対象物情報取得処理を実行することで、表示処理手段301、情報受信処理手段302、及び情報送信処理手段303として機能する。
【0078】
表示処理手段301は、HMD1において、空間画像を仮想空間Wに表示させるための処理を行う。情報受信処理手段302は、現実空間におけるユーザの身体の少なくとも一部のジェスチャーに基づいて特定された空間画像の位置において、対象物Oが表示されている場合に、この特定の対象物Oに関連する対象物情報J1の送信要求をHMD1から受信する。情報処理送信手段303は、情報受信手段302によって対象物情報J1の送信要求を受信した場合に、ストレージ31に記憶された対象物情報J1(送信要求に含まれる対象物識別情報J2に対応する対象物情報J1)を情報処理装置2に対して送信する。また、情報処理送信手段303は、HMD1において仮想カメラCa2から撮影した撮影画像V2を、撮影画像V2の送信要求とともに情報受信処理手段302で受信した場合に、この撮影画像V2を情報処理装置2に対して送信する。
【0079】
情報処理送信手段303による、情報処理装置2への仮想カメラCa2から撮影した撮影画像V2や対象物情報J1の送信は、次のようにして行う。例えば、ユーザ情報テーブルT2を、対象物情報J1の送信要求や撮影画像V2の送信要求に含まれるユーザ識別情報で検索して、ユーザ識別情報に対応する電子メールアドレスを取得して、この電子メールアドレス宛に撮影画像V2や対象物情報J1を送信する。また、情報処理装置2にダウンロードされたアプリケーションを介して、ユーザ任意のタイミングで撮影画像V2や対象物情報J1を取得(受信)してユーザに提供することが出来るようにしてもよい。
【0080】
また、情報処理送信手段303は、HMD1(位置情報記憶手段105)からの対象物テーブルT1の送信要求を受信して、この送信要求に応じて、表示処理手段301で表示処理される空間画像に対応する対象物テーブルT1(位置情報)を、HMD1に対して送信する。
【0081】
〔情報処理装置2の構成〕
図4は、
図1で示す情報処理装置2の機能ブロック図である。情報処理装置2は、プロセッサ20、ストレージ21、通信部22、表示部23、操作部24、及びメモリ25を有する。ストレージ21は、例えば、ハードディスク、SSD、USBフラッシュメモリ等である。ストレージ21は、電子メール用アプリケーションソフトウェアや対象物情報閲覧用アプリケーションソフトウェア等を記憶する。
【0082】
通信部22は、他の情報処理装置と有線及び/又は無線でインターネット等のネットワークNを介して通信を行うものである。具体的には、通信部22は、ネットワークNを介してサーバ3と通信を行うものである。表示部23は、例えば、液晶ディスプレイや有機ELディスプレイ等である。操作部24は、ユーザからの指示(操作)を受け付けるためのものである。メモリ25は、例えば、ROMやRAMで構成されるものである。
【0083】
プロセッサ20は、例えば、CPU、MPU、及び/またはGPUで構成されている。プロセッサ30は、ストレージ21に記憶されている電子メール用アプリケーションソフトウェア又は対象情報閲覧用アプリケーションソフトウェアを実行する。これによって、HMD1の対象物情報送信処理の実行によってサーバ3から送信された、対象物情報J1や撮影画像V2を受信(取得)して、ユーザに提供することができる。
【0084】
〔対象物情報取得処理〕
以下に、
図1、
図2、
図5、
図6、
図8、
図9、
図12及び
図13を用いて、対象物情報取得処理を説明する。
図12は、HMD1の実行する対象物情報取得処理の一例を示すフローチャート(その1)である。
図13は、HMD1の実行する対象物情報取得処理の一例を示すフローチャート(その2)である。対象物情報取得処理は、HMD1でユーザの対象物情報取得処理の実行の開始指示を受け付けたときに実行される。
図12を参照して、まず、プロセッサ10は、所定の初期処理を実行する(S1)。所定の初期処理では、サーバ3に対して対象物テーブルT1の送信要求を送信して、この送信要求に応答したサーバ3から対象物テーブルT1のダウンロードが行われる。次に、プロセッサ10は、サーバ3に対して表示処理要求を送信し、表示処理要求に応じたサーバ2から空間動画データD(
図3を参照)のストリーミングデータを逐次受信して再生を開始する(S2)。次に、プロセッサ10は、現実空間においてユーザが指示ジェスチャーを行ったかどうかを判断する(S3)。
【0085】
現実空間においてユーザが指示ジェスチャーを行ったと判断した場合には(S3でYES)、プロセッサ10(位置特定手段102)は、上述した位置特定処理を実行する(S4)。この位置特定処理によって、空間画像の位置(例えば、
図5の位置P)が特定される。その後、プロセッサ10(対象物特定手段103)は、上述した対象物選択処理を実行する(S5)。この対象物選択処理によって、ステップS4で特定された空間画像の位置に対象物Oが表示されている場合に、この対象物Oを選択状態にする(対象物Oの選択状態フラグをオンにする)。選択状態にしたときに、
図6で示すように、選択状態の対象物Oに対応付けて、対象物情報J1の少なくとも一部である選択表示用情報J3が仮想空間に表示される。その後、プロセッサ10は、処理をステップS6に進める。また、現実空間においてユーザが指示ジェスチャーを行っていないと判断した場合には(S3でNO)、プロセッサ10は、ステップS4及びステップS5を実行することなく、ステップS6を実行する。なお、この場合に、選択状態の対象物Oがあれば、選択状態を解除する(対象物Oの選択状態フラグをオフにする)。
【0086】
ステップS6において、プロセッサ10(対象物特定手段103)は、現実空間においてユーザが取得ジェスチャーを行ったかどうかを判断する(S6)。現実空間においてユーザが取得ジェスチャーを行ったと判断した場合には(S6でYES)、プロセッサ10(対象物特定手段103)は、ステップS4で特定された空間画像の位置(例えば
図5の位置P)に、選択状態の対象物Oが表示されているかどうかを判断する(S7)。特定された空間画像の位置(例えば
図5の位置P)に、選択状態の対象物Oが表示されていると判断した場合には(S7でYES)、プロセッサ10(対象物特定手段103)は、この選択状態の対象物Oを特定する(S8)。ステップS6~S8までの処理が、上述した対象物特定処理である。その後、プロセッサ10(提供手段104)は、特定した対象物Oについての対象物情報J1の送信要求をサーバ3に送信する取得処理を実行する(S9)。この送信要求には、自機のユーザに対応するユーザ識別情報及び特定された対象物Oの対象物識別情報J2が含まれる。その後、プロセッサ10は、処理をステップS10に進める。
【0087】
一方、現実空間においてユーザが取得ジェスチャーを行っていないと判断した場合には(S6でNO)、プロセッサ10は、上記ステップS7~S9を実行することなく、後述のステップS10を実行する。ステップS2で特定された空間画像の位置(例えば
図5の位置P)に、選択状態の対象物Oが表示されていないと判断した場合(S7でNO)、プロセッサ10は、上記ステップS8及びS9を実行することなく、後述のステップS10を実行する。
【0088】
図13を参照して、ステップS10では、プロセッサ10(撮影手段106)は、現実空間においてユーザが撮影ジェスチャーを行ったかどうかを判断する(S10)。現実空間においてユーザが撮影ジェスチャーを行ったと判断した場合には(S10でYES)、プロセッサ10(撮影手段106)は、上述した撮影処理を実行する(S11)。この撮影処理では、撮影ジェスチャーが第1撮影指示用撮影ジェスチャーであるか、第2撮影指示用撮影ジェスチャーであるかに応じて、仮想カメラCa2の位置や撮影方向を切り替えて、仮想カメラCa2からの撮影画像V2を取得する。また、撮影処理では、
図8及び
図9で示すように、撮影画像V2がユーザに視認可能に表示される。
【0089】
その後、プロセッサ10(画像取得手段107)は、撮影画像V2の送信要求を、ステップS11で撮影した撮影画像とともに送信する(S12)。この送信要求には、ユーザに対応するユーザ識別情報が含まれる。その後、プロセッサ10は、処理をステップS13に進める。一方、現実空間においてユーザが撮影ジェスチャーを行っていないと判断した場合には(S10でNO)、プロセッサ10は、上記ステップS11及びS12を実行することなく、後述のステップS13を実行する。
【0090】
ステップS13では、プロセッサ10は、空間動画データDの再生が終了したかどうかを判断する(S13)。空間動画データDの再生が終了したと判断した場合には(S13でYES)、プロセッサ10は、本対象物情報取得処理を終了させる。一方、空間動画データDの再生が終了していないと判断した場合には(S13でNO)、プロセッサ10は、本対象物情報取得処理をステップS3に戻す。
【0091】
〔サーバ側対象物情報取得処理〕
次に、
図1、
図3、及び14を用いて、サーバ側対象物情報取得処理を説明する。
図14は、サーバ3の実行するサーバ側対象物情報取得処理の一例を示すフローチャートである。まず、プロセッサ30(情報送信処理手段303)は、HMD1から対象物テーブルT1の送信要求を受信したかどうか判断する(S21)。対象物テーブルT1の送信要求は、
図12のステップS1において送信される。HMD1から対象物テーブルT1の送信要求を受信したと判断した場合には(S21でYES)、プロセッサ30(情報送信処理手段303)は、対象物テーブルT1の送信要求の送信元のHMD1に対して、対象物テーブルT1を送信する(S22)。その後、プロセッサ30は、処理をステップS23に進める。また、HMD1から対象物テーブルT1を受信していないと判断した場合には(S21でNO)、プロセッサ30は、上記ステップS22を実行することなく、ステップS23を実行する。
【0092】
ステップS23において、プロセッサ30(表示処理手段301)は、HMD1から表示処理要求を受信したかどうか判断する(S23)。表示処理要求は、
図12のステップS2において送信される。HMD1から表示処理要求を受信したと判断した場合には(S23でYES)、プロセッサ30(表示処理手段301)は、HMD1において、空間画像を仮想空間Wに表示させるための処理を行う(S24)。このステップS24において、表示処理要求の対象となる空間動画データD(
図3を参照)を特定し、この特定した空間動画データDのストリーミングデータを逐次表示処理要求の送信元のHMD1に対して送信を開始する。その後、プロセッサ30は、処理をステップS25に進める。また、HMD1から表示処理要求を受信していないと判断した場合には(S23でNO)、プロセッサ30は、上記ステップS24を実行することなく、ステップS25を実行する。
【0093】
ステップS25において、プロセッサ30(情報受信手段302)は、対象物情報J1の送信要求をHMD1から受信したかどうかを判断する(S25)。この対象物情報J1の送信要求は、
図12のステップS9において送信される。対象物情報J1の送信要求を受信したと判断した場合には(S25でYES)、プロセッサ30(情報送信手段303)は、情報処理装置2に対して対象物情報J1を送信する(S26)。ステップS26において、対象物情報J1の送信要求に含まれる対象物識別情報J2に対応する対象物情報J1がストレージ21から読み出される。そして、対象物情報J1の送信要求に含まれるユーザ識別情報でユーザ情報テーブルT2を検索して、対象物情報J1の送信要求の送信元のHMD1を使用するユーザの電子メールアドレスが取得され、この電子メールアドレス宛に、読み出された対象物情報J1が送信される。その後、プロセッサ30は、処理をステップS27に進める。また、HMD1から対象物情報J1の送信要求を受信していないと判断した場合には(S25でNO)、プロセッサ30は、上記ステップS26を実行することなく、ステップS27を実行する。
【0094】
ステップS27において、プロセッサ30(情報受信処理手段302)は、撮影画像V2の送信要求と撮影画像V2をHMD1から受信したかどうかを判断する(S27)。この撮影画像V2の送信要求は、
図13のステップS12において送信される。撮影画像の送信要求を受信したと判断した場合には(S27でYES)、プロセッサ30(情報送信手段303)は、情報処理装置2に対して撮影画像V2を送信する(S28)。ステップS28において、撮影画像V2の送信要求に含まれるユーザ識別情報でユーザ情報テーブルT2を検索して、撮影画像V2の送信要求の送信元のHMD1を使用するユーザの電子メールアドレスが取得され、この電子メールアドレス宛に、撮影画像V2の送信要求とともに受信した撮影画像を送信する。その後、プロセッサ30は、処理をステップS21に戻す。また、撮影画像の送信要求を受信していないと判断した場合には(S27でNO)、プロセッサ30は上記ステップS28を実行することなく処理をステップS21に戻す。
【0095】
(処理装置側対象物情報取得処理)
次に、
図1、
図4、及び
図15を参照して処理装置側対象物情報取得処理を説明する。
図15は、情報処理装置2の実行する処理装置側対象物情報取得処理の一例を示すフローチャートである。本処理は、ユーザの電子メール用アプリケーションの実行によって開始され、本アプリケーションの実行中に繰り返し実行される。まず、プロセッサ20は、対象物情報J1をサーバ3から受信したかどうかを判断する(S31)。この受信は、例えば、電子メール用アプリケーションソフトウェアを介して行われる。対象物情報J1は、
図14のステップS26において送信される。対象物情報J1を受信したと判断した場合には(S31でYES)、プロセッサ20は、受信した対象物情報J1をストレージ21に記憶させて、ユーザの指示に応じて表示する(S32)。その後、プロセッサ30は、処理をステップS33に進める。また、対象物情報J1を受信していないと判断した場合には(S31でNO)、プロセッサ30は上記ステップS32を実行することなくステップS33を実行する。
【0096】
ステップS33において、プロセッサ20は、撮影画像V2をサーバ3から受信したかどうかを判断する(S33)。この受信は、例えば、電子メール用アプリケーションソフトウェアを介して行われる。対象物情報J1は、
図14のステップS28において送信される。撮影画像V2を受信したと判断した場合には(S33でYES)、プロセッサ20は、受信した撮影画像V2をストレージ21に記憶させて、ユーザの指示に応じて表示する(S34)。その後、プロセッサ30は、本処理を終了する。また、撮影画像V2を受信していないと判断した場合には(S33でNO)、プロセッサ30は上記ステップS34を実行することなく本処理を終了する。
【0097】
上述した本実施形態の構成によれば、仮想空間Wに空間画像が表示され、この空間画像における位置を特定するためのジェスチャー(指示ジェスチャー及び取得ジェスチャー)を、現実空間においてユーザが自身の身体の少なくとも一部(手等)で行うことで、空間画像の対象物Oが特定されて、この対象物Oに関連する対象物情報J1がHMD1のユーザの情報処理装置2で取得される。このため、対象物Oのオブジェクトを仮想空間Wに配置する従来技術に比較して、仮想空間Wのコンテンツ制作の作業負担を重くすることなく、ユーザの興味を惹く特定の対象物Oの対象物情報J1を、情報処理装置2を介してユーザに提供することができる。
【0098】
また、現実空間においてユーザが自身の身体の少なくとも一部(手や腕等)で所定の撮影ジェスチャーをすることで、仮想カメラCa2で仮想空間Wが撮影される。ここで、この所定の撮影ジェスチャーの種類が第1撮影指示用及び第2撮影指示用の2種類ある。第1撮影指示用撮影ジェスチャーによる第1撮影と、第2撮影指示用撮影ジェスチャーによる第2撮影とで、仮想カメラCa2の撮影方向が異なる。このため、ユーザが所定の撮影ジェスチャーの種類を変えるだけで、仮想カメラCa2の撮影方向を切り替えて撮影をさせることができる。
【0099】
(変形例)
上述した本実施形態は、本発明を適用した実施形態の一例であり、適宜構成を変更することが出来る。例えば、各構成の個数・種類や、処理内容、処理を何れの装置で実行するか等ついて、適宜変更することが可能である。以下に本実施形態の構成を変更した変形例の一例を説明する。
【0100】
(1)本実施形態では、「ユーザの身体の少なくとも一部」は、手であるが、これに限定されない。例えば、目等のユーザの身体の他の部位であってもよく、ユーザの身体全体であってもよい。例えば、ユーザの眼球の所定部位(例えば瞳孔)の位置を検知して、瞳孔の位置を指示姿勢として、瞳孔の位置が示す視線の向きで、空間画像の位置が特定されて、この特定された位置に対象物Oが表示されていれば選択状態にされてもよい。そして、所定回数の瞬き等が、本実施形態の「所定の取得動作」であり、所定回数の瞬きによって、選択情報の対象物Oが特定されてもよい。
【0101】
(2)本実施形態では、指示姿勢によって特定された空間画像の位置に対象物Oが表示されている場合でも、当該対象物Oは、選択状態になるだけで、所定の取得ジェスチャーがなければ特定されないが、対象物の特定に取得ジェスチャーを要求しなくてもよい。指示姿勢によって特定された空間画像の位置に対象物Oが表示されていると直ちに、当該対象物Oが特定されてもよい。
【0102】
(3)本実施形態では、空間画像は、仮想空間Wの表面に亘って表示される360度空間画像であるが、360度空間画像でなくてもよく、仮想空間W内に表示される画像であればよい。例えば、空間画像は、仮想空間Wの表面の一部に表示される画像であっても、仮想空間W内に配置されたスクリーンに表示されるものであってもよい。また、空間画像は、変化するもの(動画)として再生されなくてもよく、変化しないもの(静止画)であってもよい。
【0103】
(4)本実施形態では、撮影処理が実行される構成であるが、撮影処理(
図12のステップS10~ステップS12)を必ずしも実行しなくてもよい。この場合、
図14のステップS27及びステップS28が実行されず、
図15のステップS33及びステップS34が実行されなくてもよい。なお、本発明の別発明として、対象物情報J1をユーザに提供せずに(
図12のステップS3~ステップS9を実行せずに)、撮影処理のみを実行する構成を採用してもよい。この場合、
図14のステップS21、ステップS22、ステップS25及びステップS26が実行されず、
図15のステップS31及びステップS32が実行されなくてもよい。また、この場合には、対象物Oを含む空間画像を表示する構成に代えて、又はこの構成とともに、対象物のオブジェクトを仮想空間Wに配置する構成を採用してもよい。
【0104】
(5)本実施形態において、携帯情報処理装置2は、HMD1と通信可能に接続されていないが、通信可能に接続されていてもよい。この場合には、サーバ3から携帯情報処置装置2に対して対象物情報J1や撮影画像V2を送信するのに代えて、これらの情報をHMD1から情報処置装置2に対して送信してもよい。この変形例では、対象物情報J1は、サーバ3からHMD1で取得したものが送信されてもよい。また、
図16Aで示す対象物情報提供システム100Aのように、HMD1に他の情報処理装置4(例えば、パーソナルコンピュータ等)を通信可能に接続して、他の情報処理装置4において、HMD1で行う上記対象物情報取得処理(
図12及び
図13を参照)の全部又は一部が、実行されてもよい。また、
図16Bで示す対象物情報提供システム100A´のように、他の情報処理装置4を備えず、この他の情報処理装置4の機能を携帯情報処置装置2が有していてもよい。これらの場合には、HMD1がサーバ3に対して通信可能に接続されていなくてもよい。
図16A及び
図16Bで示すような場合には、情報処理装置4のプロセッサや、情報処理装置2のプロセッサ20が、対象物情報プログラムP1を実行することで、画像表示手段101、位置特定手段102、対象物特定手段103、提供手段104、位置情報記憶手段105、撮影手段106、及び画像取得手段107として機能してもよい。
【0105】
(6)本実施形態、及び上記(1)~(5)の変形例では、HMD1、他の情報処理装置4又は情報処理装置2は、対象物情報プログラムP1を含むアプリケーションソフトウェアをダウンロードして実行することによって、対象物情報取得処理を行い、情報処理装置2に対象物情報J1を取得させるが、この構成に限定されない。サーバ3のアプリケーションソフトウェアの実行によって、情報処理装置2に対象物情報J1を取得させてもよい。例えば、HMD1は、HMD1の向きやユーザの身体の少なくとも一部のジェスチャー等に基づく情報(ジェスチャー等を示す情報やジェスチャーで指し示す方向を示す情報等)をサーバ3に対して送信する。この情報に基づいて、上記対象物情報取得処理(位置特定処理、選択状態処理、対象物特定処理、提供処理等)の全部又は少なくとも一部が、サーバ3で実行されてもよい。HMD1又は情報処理装置2は、ウェブブラウザアプリケーションを介して、サーバ3におけるこれらの処理結果に基づく表示を行ってもよい。
【0106】
(7)本実施形態及び上記(1)~(6)の変形例では、情報処理装置2に対象物情報J1を取得させるが、HMDIに対象物情報を取得させる構成であってもよい。この場合には、HMDIを介して対象物情報J1がユーザに提供される。また、この場合には、
図17で示す対象物情報提供システム100Bのように、情報処理装置2を備えない構成を採用してもよい。
【0107】
(8)また、
図18で示す対象物情報提供システム100Cのように、サーバ3を備えない構成を採用してもよい。この場合には、HMD1及び情報処理装置2は、サーバ3から対象物情報J1を取得せず、自機又は他機(HMD1ならば情報処理装置2、情報処理装置2ならばHMD1)から対象物情報J1を取得してもよい。この場合に、予めHMD1又は情報処理装置2には、空間動画データD、対象情報テーブルT1、対象物情報J1が予め記憶される構成を採用してもよい。具体例としては、これらのデータ及び対象物情報プログラムP1を含むアプリケーションソフトウェア等が、外部記憶装置から読み込んだり、他の情報処理装置(例えばサーバ3)からダウンロード等される。このアプリケーションソフトウェアを、HMD1又は情報処理装置2で実行することで、HMD1又は情報処理装置2は、対象物情報J1を取得してユーザに提供してもよい。また、対象物情報提供システム100Cが情報処理装置2を備えなくてもよく、HMD1だけで構成されてもよい。
【符号の説明】
【0108】
1 ヘッドマウントディスプレイ(HMD)
10 プロセッサ(コンピュータの一例)
102 位置特定手段
103 対象物特定手段
104 提供手段
106 撮影手段
2 情報処理装置
3 サーバ
301 表示処理手段
302 情報受信処理手段
303 情報送信処理手段
31 ストレージ(記憶部の一例)
33 メモリ(記憶部の一例)
O 対象物
J1 対象物情報
V2 撮影画像
T1 対象物テーブル(位置情報)
W 仮想空間