(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-12-18
(45)【発行日】2023-12-26
(54)【発明の名称】表示制御プログラム、表示制御装置、及び表示制御方法
(51)【国際特許分類】
G06F 3/01 20060101AFI20231219BHJP
A63F 13/25 20140101ALI20231219BHJP
A63F 13/5255 20140101ALI20231219BHJP
A63F 13/533 20140101ALI20231219BHJP
G06T 19/00 20110101ALI20231219BHJP
【FI】
G06F3/01 510
A63F13/25
A63F13/5255
A63F13/533
G06T19/00 300B
(21)【出願番号】P 2021131154
(22)【出願日】2021-08-11
(62)【分割の表示】P 2019196433の分割
【原出願日】2015-09-16
【審査請求日】2021-08-11
【審判番号】
【審判請求日】2023-02-21
(31)【優先権主張番号】P 2015039077
(32)【優先日】2015-02-27
(33)【優先権主張国・地域又は機関】JP
(31)【優先権主張番号】P 2015119033
(32)【優先日】2015-06-12
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】310021766
【氏名又は名称】株式会社ソニー・インタラクティブエンタテインメント
(74)【代理人】
【識別番号】100105924
【氏名又は名称】森下 賢樹
(74)【代理人】
【識別番号】100109047
【氏名又は名称】村田 雄祐
(74)【代理人】
【識別番号】100109081
【氏名又は名称】三木 友由
(74)【代理人】
【識別番号】100134256
【氏名又は名称】青木 武司
(72)【発明者】
【氏名】ドゥセ ニコラ
(72)【発明者】
【氏名】横川 裕
(72)【発明者】
【氏名】森田 玄人
(72)【発明者】
【氏名】石原 啓一郎
(72)【発明者】
【氏名】宮前 雄生
(72)【発明者】
【氏名】佐々木 一知
(72)【発明者】
【氏名】ンゴ トゥイェン ティボ
(72)【発明者】
【氏名】野田 雅文
(72)【発明者】
【氏名】吉田 匠
【合議体】
【審判長】山澤 宏
【審判官】富澤 哲生
【審判官】野崎 大進
(56)【参考文献】
【文献】米国特許出願公開第2014/0361956(US,A1)
【文献】特開11-312033(JP,A)
【文献】米国特許出願公開第2014/0364209(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01, 3/048-3/04895
A63F 13/53
G06T 19/00
(57)【特許請求の範囲】
【請求項1】
コンピュータを、
ユーザの頭部に装着されるヘッドマウントディスプレイの位置及び姿勢を示す情報を取得するヘッドマウントディスプレイ情報取得部、
前記ユーザにより使用される入力装置の位置を示す情報を取得する入力装置情報取得部、
前記入力装置に入力された指示を示す情報を取得する指示入力取得部、
前記指示入力取得部により取得された指示に基づいて、前記ヘッドマウントディスプレイに表示すべき仮想三次元空間の画像を生成する画像生成部、
として機能させ、
前記画像生成部は、前記指示入力取得部により取得された指示により制御される操作対象の位置に基づいて視点位置を設定し、前記ヘッドマウントディスプレイの姿勢に基づいて視線方向を設定して、前記視点位置及び前記視線方向を用いて仮想三次元空間をレンダリングすることにより、前記仮想三次元空間の画像を生成し、
前記画像生成部は、前記仮想三次元空間の画像において、前記入力装置の前記ヘッドマウントディスプレイに対する相対位置に基づいて決定された位置に、前記入力装置に基づいて生成され記憶装置に記憶された、前記ユーザが前記入力装置であると認識可能な、前記入力装置と同じ形状を有する入力装置の画像と、前記記憶装置に記憶された、前記入力装置と同じ形状を有する入力装置の画像に付加された手のオブジェクトの画像とを、前記記憶装置から読み出して表示
し、前記指示入力取得部により取得された前記入力装置に入力された指示を示す情報に基づいて、前記仮想三次元空間の画像内に表示された前記手のオブジェクトの画像を変更する
ことを特徴とする表示制御プログラム。
【請求項2】
前記入力装置と同じ形状を有する入力装置の画像は、前記入力装置に設けられたボタンの画像を含む
請求項1に記載の表示制御プログラム。
【請求項3】
ユーザの頭部に装着されるヘッドマウントディスプレイの位置及び姿勢を示す情報を取得するヘッドマウントディスプレイ情報取得部と、
前記ユーザにより使用される入力装置の位置を示す情報を取得する入力装置情報取得部と、
前記入力装置に入力された指示を示す情報を取得する指示入力取得部と、
前記指示入力取得部により取得された指示に基づいて、前記ヘッドマウントディスプレイに表示すべき仮想三次元空間の画像を生成する画像生成部と、
を備え、
前記画像生成部は、前記指示入力取得部により取得された指示により制御される操作対象の位置に基づいて視点位置を設定し、前記ヘッドマウントディスプレイの姿勢に基づいて視線方向を設定して、前記視点位置及び前記視線方向を用いて仮想三次元空間をレンダリングすることにより、前記仮想三次元空間の画像を生成し、
前記画像生成部は、前記仮想三次元空間の画像において、前記入力装置の前記ヘッドマウントディスプレイに対する相対位置に基づいて決定された位置に、
前記入力装置に基づいて生成され記憶装置に記憶された、前記ユーザが前記入力装置であると認識可能な、前記入力装置と同じ形状を有する入力装置の画像と、前記記憶装置に記憶された、前記入力装置と同じ形状を有する入力装置の画像に付加された手のオブジェクトの画像とを、前記記憶装置から読み出して表示
し、前記指示入力取得部により取得された前記入力装置に入力された指示を示す情報に基づいて、前記仮想三次元空間の画像内に表示された前記手のオブジェクトの画像を変更する
ことを特徴とする表示制御装置。
【請求項4】
コンピュータに、
ユーザの頭部に装着されるヘッドマウントディスプレイの位置及び姿勢を示す情報を取得するステップと、
前記ユーザにより使用される入力装置の位置を示す情報を取得するステップと、
前記入力装置に入力された指示を示す情報を取得するステップと、
取得された指示に基づいて、前記ヘッドマウントディスプレイに表示すべき仮想三次元空間の画像を生成するステップと、
を実行させ、
前記画像を生成するステップは、
取得された指示により制御される操作対象の位置に基づいて視点位置を設定し、前記ヘッドマウントディスプレイの姿勢に基づいて視線方向を設定して、前記視点位置及び前記視線方向を用いて仮想三次元空間をレンダリングすることにより、前記仮想三次元空間の画像を生成するステップと、
前記仮想三次元空間の画像において、前記入力装置の前記ヘッドマウントディスプレイに対する相対位置に基づいて決定された位置に、前記入力装置に基づいて生成され記憶装置に記憶された、前記ユーザが前記入力装置であると認識可能な、前記入力装置と同じ形状を有する入力装置の画像と、前記記憶装置に記憶された、前記入力装置と同じ形状を有する入力装置の画像に付加された手のオブジェクトの画像とを、前記記憶装置から読み出して表示するステップと、
前記入力装置に入力された指示を示す情報に基づいて、前記仮想三次元空間の画像内に表示された前記手のオブジェクトの画像を変更するステップと、
を含むことを特徴とする表示制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示制御技術に関し、とくに、ヘッドマウントディスプレイへの表示を制御する表示制御プログラム、表示制御装置、及び表示制御方法に関する。
【背景技術】
【0002】
ゲーム機に接続されたヘッドマウントディスプレイを頭部に装着して、ヘッドマウントディスプレイに表示された画面を見ながら、コントローラなどを操作してゲームプレイすることが行われている。ゲーム機に接続された通常の据え置き型のディスプレイでは、ディスプレイの画面の外側にもユーザの視野範囲が広がっているため、ディスプレイの画面に集中できなかったり、ゲームへの没入感に欠けたりすることがある。その点、ヘッドマウントディスプレイを装着すると、ヘッドマウントディスプレイに表示される映像以外はユーザは見ないため、映像世界への没入感が高まり、ゲームのエンタテインメント性を一層高める効果がある。
【発明の概要】
【発明が解決しようとする課題】
【0003】
本発明者は、より多くのユーザ層がヘッドマウントディスプレイを用いたゲームを楽しむことができるようにするためには、より利便性の高い表示制御技術が必要であると認識した。
【課題を解決するための手段】
【0004】
上記課題を解決するために、本発明のある態様の表示制御プログラムは、コンピュータを、ユーザの頭部に装着されるヘッドマウントディスプレイの位置及び姿勢を示す情報を取得するヘッドマウントディスプレイ情報取得部、ユーザにより使用される入力装置の位置を示す情報を取得する入力装置情報取得部、入力装置に入力された指示を示す情報を取得する指示入力取得部、指示入力取得部により取得された指示に基づいて、ヘッドマウントディスプレイに表示すべき仮想三次元空間の画像を生成する画像生成部、として機能させ、画像生成部は、指示入力取得部により取得された指示により制御される操作対象の位置に基づいて視点位置を設定し、ヘッドマウントディスプレイの姿勢に基づいて視線方向を設定して、視点位置及び視線方向を用いて仮想三次元空間をレンダリングすることにより、仮想三次元空間の画像を生成し、画像生成部は、仮想三次元空間の画像において、入力装置のヘッドマウントディスプレイに対する相対位置に基づいて決定された位置に、入力装置に基づいて生成され記憶装置に記憶されたユーザが入力装置であると認識可能な画像と、記憶装置に記憶された入力装置であると認識可能な画像に付加された手のオブジェクトの画像とを、記憶装置から読み出して表示する。
【0005】
なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システムなどの間で変換したものもまた、本発明の態様として有効である。
【発明の効果】
【0006】
本発明によれば、ヘッドマウントディスプレイのユーザの利便性を向上させることができる。
【図面の簡単な説明】
【0007】
【
図1】実施の形態に係るゲームシステムの使用環境を示す図である。
【
図2】実施の形態に係るヘッドマウントディスプレイの外観図である。
【
図3】ヘッドマウントディスプレイの機能構成図である。
【
図7】ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す図である。
【
図8】ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す図である。
【
図9】ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す図である。
【
図10】ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す図である。
【
図11】ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す図である。
【
図12】ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す図である。
【
図13】ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す図である。
【
図14】ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す図である。
【
図15】ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す図である。
【
図16】表示装置に表示される第2ゲーム画像の例を示す図である。
【
図17】ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す図である。
【
図18】表示装置に表示される第2ゲーム画像の例を示す図である。
【
図19】ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す図である。
【
図20】表示装置に表示される第2ゲーム画像の例を示す図である。
【
図21】ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す図である。
【
図22】表示装置に表示される第2ゲーム画像の例を示す図である。
【
図23】表示装置に表示される第2ゲーム画像の例を示す図である。
【
図24】ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す図である。
【
図25】実施の形態に係る表示制御方法の手順を示すフローチャートである。
【
図26】実施の形態に係る表示制御方法の手順を示すフローチャートである。
【
図27】実施の形態に係る表示制御方法の手順を示すフローチャートである。
【発明を実施するための形態】
【0008】
ヘッドマウントディスプレイ(HMD)を用いた表示技術について説明する。ヘッドマウントディスプレイは、ユーザの両眼を覆うようにユーザの頭部に装着して、ユーザの眼前に設けられた表示画面に表示される静止画や動画などを鑑賞するための表示装置である。ヘッドマウントディスプレイに表示される対象は、映画やテレビ番組などのコンテンツであってもよいが、本実施の形態では、ゲームの画像を表示するための表示装置としてヘッドマウントディスプレイが用いられる例について説明する。
【0009】
図1は、実施の形態に係るゲームシステム1の使用環境を示す。ゲームシステム1は、ゲームプログラムを実行するゲーム装置10と、ユーザの指示をゲーム装置10に入力するための入力装置6と、ユーザの周囲の実空間を撮像する撮像装置14と、ゲーム装置10により生成される第1ゲーム画像を表示するヘッドマウントディスプレイ100と、ゲーム装置10により生成される第2ゲーム画像を表示する表示装置12とを備える。
【0010】
ゲーム装置10は、入力装置6又はヘッドマウントディスプレイ100により入力される指示入力や、入力装置6又はヘッドマウントディスプレイ100の位置又は姿勢などに基づいてゲームプログラムを実行し、第1ゲーム画像を生成してヘッドマウントディスプレイ100に伝送し、第2ゲーム画像を生成して表示装置12に伝送する。
【0011】
ヘッドマウントディスプレイ100は、ゲーム装置10において生成された第1ゲーム画像を表示する。また、ヘッドマウントディスプレイ100に設けられた入力装置に対するユーザの入力に関する情報をゲーム装置10へ伝送する。ヘッドマウントディスプレイ100は、ゲーム装置10に有線ケーブルで接続されてもよく、また無線LANなどにより無線接続されてもよい。
【0012】
表示装置12は、ゲーム装置10において生成された第2ゲーム画像を表示する。表示装置12は、ディスプレイおよびスピーカを有するテレビであってもよいし、コンピュータディスプレイなどであってもよい。
【0013】
入力装置6は、ユーザによる指示入力をゲーム装置10に伝送する機能をもち、本実施の形態ではゲーム装置10との間で無線通信可能な無線コントローラとして構成される。入力装置6とゲーム装置10は、Bluetooth(登録商標)プロトコルを用いて無線接続を確立してもよい。なお入力装置6は、無線コントローラに限らず、ゲーム装置10とケーブルを介して接続される有線コントローラであってもよい。
【0014】
入力装置6はバッテリにより駆動され、ゲームを進行させる指示入力を行うための複数のボタンを有して構成される。ユーザが入力装置6のボタンを操作すると、その操作による指示入力が無線通信によりゲーム装置10に送信される。
【0015】
撮像装置14は、CCD撮像素子またはCMOS撮像素子などから構成されるビデオカメラであり、実空間を所定の周期で撮像して、周期ごとのフレーム画像を生成する。撮像装置14は、USB(Universal Serial Bus)あるいはその他のインタフェースを介してゲーム装置10と接続する。撮像装置14により撮像された画像は、ゲーム装置10において、入力装置6及びヘッドマウントディスプレイ100の位置及び姿勢を導出するために用いられる。撮像装置14は、距離を取得可能な測距カメラ又はステレオカメラであってもよい。この場合、撮像装置14により、撮像装置14と入力装置6又はヘッドマウントディスプレイ100などとの間の距離を取得することができる。
【0016】
本実施例のゲームシステム1において、入力装置6及びヘッドマウントディスプレイ100は、複数色で発光可能に構成された発光部を有する。ゲーム中、発光部はゲーム装置10から指示された色で発光し、撮像装置14により撮像される。撮像装置14は入力装置6を撮像し、フレーム画像を生成してゲーム装置10に供給する。ゲーム装置10はフレーム画像を取得して、フレーム画像における発光部の画像の位置及び大きさから、実空間における発光部の位置情報を導出する。ゲーム装置10は、位置情報をゲームの操作指示として取り扱い、プレイヤーズキャラクタの動作を制御するなど、ゲームの処理に反映させる。
【0017】
また、入力装置6及びヘッドマウントディスプレイ100は、加速度センサ及びジャイロセンサを有する。センサの検出値は、所定周期でゲーム装置10に送信され、ゲーム装置10は、センサの検出値を取得して、実空間における入力装置6及びヘッドマウントディスプレイ100の姿勢情報を取得する。ゲーム装置10は、姿勢情報をゲームの操作指示として取り扱い、ゲームの処理に反映させる。
【0018】
図2は、実施の形態に係るヘッドマウントディスプレイ100の外観図である。ヘッドマウントディスプレイ100は、本体部110、頭部接触部112、及び発光部114を備える。
【0019】
本体部110には、ディスプレイ、位置情報を取得するためのGPSユニット、姿勢センサ、通信装置などが備えられる。頭部接触部112には、ユーザの体温、脈拍、血液成分、発汗、脳波、脳血流などの生体情報を計測することのできる生体情報取得センサが備えられてもよい。発光部114は、上述したように、ゲーム装置10から指示された色で発光し、撮像装置14により撮像される画像においてヘッドマウントディスプレイ100の位置を算出するための基準として機能する。
【0020】
ヘッドマウントディスプレイ100には、さらに、ユーザの目を撮影するカメラが設けられてもよい。ヘッドマウントディスプレイ100に搭載されたカメラにより、ユーザの視線、瞳孔の動き、瞬きなどを検出することができる。
【0021】
本実施の形態においては、ヘッドマウントディスプレイ100について説明するが、本実施の形態の表示制御技術は、狭義のヘッドマウントディスプレイ100に限らず、めがね、めがね型ディスプレイ、めがね型カメラ、ヘッドフォン、ヘッドセット(マイクつきヘッドフォン)、イヤホン、イヤリング、耳かけカメラ、帽子、カメラつき帽子、ヘアバンドなどを装着した場合にも適用することができる。
【0022】
図3は、ヘッドマウントディスプレイ100の機能構成図である。ヘッドマウントディスプレイ100は、入力インタフェース122、出力インタフェース130、バックライト132、通信制御部140、ネットワークアダプタ142、アンテナ144、記憶部150、GPSユニット161、無線ユニット162、姿勢センサ164、外部入出力端子インタフェース170、外部メモリ172、時計部180、表示装置90、及び制御部160を備える。これらの機能ブロックも、ハードウェアのみ、ソフトウェアのみ、またはそれらの組合せによっていろいろな形で実現できる。
【0023】
制御部160は、画像信号、センサ信号などの信号や、命令やデータを処理して出力するメインプロセッサである。入力インタフェース122は、入力ボタンなどから操作信号や設定信号を受け付け、制御部160に供給する。出力インタフェース130は、制御部160から画像信号を受け取り、表示装置90に表示させる。バックライト132は、表示装置90を構成する液晶ディスプレイにバックライトを供給する。
【0024】
通信制御部140は、ネットワークアダプタ142またはアンテナ144を介して、有線または無線通信により、制御部160から入力されるデータを外部に送信する。通信制御部140は、また、ネットワークアダプタ142またはアンテナ144を介して、有線または無線通信により、外部からデータを受信し、制御部160に出力する。
【0025】
記憶部150は、制御部160が処理するデータやパラメータ、操作信号などを一時的に記憶する。
【0026】
GPSユニット161は、制御部160からの操作信号にしたがって、GPS衛星から位置情報を受信して制御部160に供給する。無線ユニット162は、制御部160からの操作信号にしたがって、無線基地局から位置情報を受信して制御部160に供給する。
【0027】
姿勢センサ164は、ヘッドマウントディスプレイ100の本体部110の向きや傾きなどの姿勢情報を検出する。姿勢センサ164は、ジャイロセンサ、加速度センサ、角加速度センサなどを適宜組み合わせて実現される。
【0028】
外部入出力端子インタフェース170は、USB(Universal Serial Bus)コントローラなどの周辺機器を接続するためのインタフェースである。外部メモリ172は、フラッシュメモリなどの外部メモリである。
【0029】
時計部180は、制御部160からの設定信号によって時間情報を設定し、時間データを制御部160に供給する。
【0030】
図4は、入力装置の外観図である。
図4(a)は、入力装置上面の外観構成を示す。ユーザは左手で左側把持部78bを把持し、右手で右側把持部78aを把持して、入力装置6を操作する。入力装置6の筐体上面には、入力部である方向キー71、アナログスティック77a、77bと、4種の操作ボタン76が設けられている。4種のボタン72~75には、それぞれを区別するために、異なる色で異なる図形が記されている。すなわち、○ボタン72には赤色の丸、×ボタン73には青色のバツ、□ボタン74には紫色の四角形、△ボタン75には緑色の三角形が記されている。筐体上面上において、方向キー71と操作ボタン76の間の平坦な領域には、タッチパッド79が設けられる。タッチパッド79は、ユーザが押すことで下方に沈み込み、またユーザが手を離すと元の位置に復帰する押下式ボタンとしても機能する。
【0031】
2つのアナログスティック77a、77bの間に機能ボタン80が設けられる。機能ボタン80は、入力装置6の電源をオンし、同時に入力装置6とゲーム装置10とを接続する通信機能をアクティブにするために使用される。入力装置6がゲーム装置10と接続した後は、機能ボタン80は、ゲーム装置10にメニュー画面を表示させるためにも使用される。
【0032】
SHAREボタン81は、タッチパッド79と方向キー71の間に設けられる。SHAREボタン81は、ゲーム装置10におけるOSないしはシステムソフトウェアに対するユーザからの指示を入力するために利用される。またOPTIONSボタン82は、タッチパッド79と操作ボタン76の間に設けられる。OPTIONSボタン82は、ゲーム装置10において実行されるアプリケーション(ゲーム)に対するユーザからの指示を入力するために利用される。SHAREボタン81およびOPTIONSボタン82は、いずれもプッシュ式ボタンとして形成されてよい。
【0033】
図4(b)は、入力装置奥側側面の外観構成を示す。入力装置6の筐体奥側側面の上側には、タッチパッド79が筐体上面から延設されており、筐体奥側側面の下側には、横長の発光部85が設けられる。発光部85は、赤(R)、緑(G)、青(B)のLEDを有し、ゲーム装置10から送信される発光色情報にしたがって点灯する。
【0034】
筐体奥側側面において、上側ボタン83a、下側ボタン84aと、上側ボタン83b、下側ボタン84bとが長手方向の左右対称な位置に設けられる。上側ボタン83a、下側ボタン84aは、それぞれユーザ右手の人差し指、中指により操作され、上側ボタン83b、下側ボタン84bは、それぞれユーザ左手の人差し指、中指により操作される。図示されるように発光部85が、右側の上側ボタン83a、下側ボタン84aの並びと、左側の上側ボタン83b、下側ボタン84bの並びの間に設けられることで、各ボタンを操作する人差し指または中指によって隠れることはなく、撮像装置14は、点灯した発光部85を好適に撮像することができる。上側ボタン83はプッシュ式ボタンとして構成され、下側ボタン84は回動支持されたトリガー式のボタンとして構成されてよい。
【0035】
図5は、ゲーム装置10の構成を示す。ゲーム装置10は、メイン電源ボタン20、電源ON用LED21、スタンバイ用LED22、システムコントローラ24、クロック26、デバイスコントローラ30、メディアドライブ32、USBモジュール34、フラッシュメモリ36、無線通信モジュール38、有線通信モジュール40、サブシステム50およびメインシステム60を有して構成される。
【0036】
メインシステム60は、メインCPU(Central Processing Unit)、主記憶装置であるメモリおよびメモリコントローラ、GPU(Graphics Processing Unit)などを備える。GPUはゲームプログラムの演算処理に主として利用される。これらの機能はシステムオンチップとして構成されて、1つのチップ上に形成されてよい。メインCPUは補助記憶装置2に記録されたゲームプログラムを実行する機能をもつ。
【0037】
サブシステム50は、サブCPU、主記憶装置であるメモリおよびメモリコントローラなどを備え、GPUを備えず、ゲームプログラムを実行する機能をもたない。サブCPUの回路ゲート数は、メインCPUの回路ゲート数よりも少なく、サブCPUの動作消費電力は、メインCPUの動作消費電力よりも少ない。サブCPUは、メインCPUがスタンバイ状態にある間においても動作し、消費電力を低く抑えるべく、その処理機能を制限されている。
【0038】
メイン電源ボタン20は、ユーザからの操作入力が行われる入力部であって、ゲーム装置10の筐体の前面に設けられ、ゲーム装置10のメインシステム60への電源供給をオンまたはオフするために操作される。電源ON用LED21は、メイン電源ボタン20がオンされたときに点灯し、スタンバイ用LED22は、メイン電源ボタン20がオフされたときに点灯する。
【0039】
システムコントローラ24は、ユーザによるメイン電源ボタン20の押下を検出する。メイン電源がオフ状態にあるときにメイン電源ボタン20が押下されると、システムコントローラ24は、その押下操作を「オン指示」として取得し、一方で、メイン電源がオン状態にあるときにメイン電源ボタン20が押下されると、システムコントローラ24は、その押下操作を「オフ指示」として取得する。
【0040】
クロック26はリアルタイムクロックであって、現在の日時情報を生成し、システムコントローラ24やサブシステム50およびメインシステム60に供給する。
【0041】
デバイスコントローラ30は、サウスブリッジのようにデバイス間の情報の受け渡しを実行するLSI(Large-Scale Integrated Circuit)として構成される。図示のように、デバイスコントローラ30には、システムコントローラ24、メディアドライブ32、USBモジュール34、フラッシュメモリ36、無線通信モジュール38、有線通信モジュール40、サブシステム50およびメインシステム60などのデバイスが接続される。デバイスコントローラ30は、それぞれのデバイスの電気特性の違いやデータ転送速度の差を吸収し、データ転送のタイミングを制御する。
【0042】
メディアドライブ32は、ゲームなどのアプリケーションソフトウェア、およびライセンス情報を記録したROM媒体44を装着して駆動し、ROM媒体44からプログラムやデータなどを読み出すドライブ装置である。ROM媒体44は、光ディスクや光磁気ディスク、ブルーレイディスクなどの読出専用の記録メディアである。
【0043】
USBモジュール34は、外部機器とUSBケーブルで接続するモジュールである。USBモジュール34は補助記憶装置および撮像装置14とUSBケーブルで接続してもよい。フラッシュメモリ36は、内部ストレージを構成する補助記憶装置である。無線通信モジュール38は、Bluetooth(登録商標)プロトコルやIEEE802.11プロトコルなどの通信プロトコルで、たとえば入力装置6と無線通信する。なお無線通信モジュール38は、ITU(International Telecommunication Union;国際電気通信連合)によって定められたIMT-2000(International Mobile Telecommunication 2000)規格に準拠した第3世代(3rd Generation)デジタル携帯電話方式に対応してもよく、さらには別の世代のデジタル携帯電話方式に対応してもよい。有線通信モジュール40は、外部機器と有線通信し、たとえばAP8を介して外部ネットワークに接続する。
【0044】
図6は、ゲーム装置10の機能構成図である。ゲーム装置10のメインシステム60は、制御部310及びデータ保持部360を備える。制御部310は、ゲーム制御部311、指示入力取得部312、撮像画像解析部313、HMD情報取得部314、入力装置情報取得部315、第1画像生成部316、及び第2画像生成部317を備える。
【0045】
データ保持部360は、ゲーム装置10において実行されるゲームのプログラムデータや、ゲームプログラムが使用する各種のデータなどを保持する。
【0046】
指示入力取得部312は、入力装置6又はヘッドマウントディスプレイ100が受け付けたユーザによる指示入力に関する情報を入力装置6又はヘッドマウントディスプレイ100から取得する。
【0047】
撮像画像解析部313は、撮像装置14が撮像した画像を取得し、取得した画像を解析して、入力装置6及びヘッドマウントディスプレイ100の位置及び姿勢を算出する。撮像画像解析部313は、撮像装置14から所定の撮像速度(例えば30フレーム/秒)でフレーム画像を取得し、フレーム画像から入力装置6及びヘッドマウントディスプレイ100の発光部の画像を抽出して、フレーム画像中の発光部の画像の位置及び大きさを特定する。例えば、撮像画像解析部313は、フレーム画像における発光体の画像の重心座標と半径を特定する。ユーザがゲームシステム1を使用する環境内で使われそうにない色にて発光部を点灯させることにより、フレーム画像から高精度で発光部の画像を抽出することができる。
【0048】
撮像画像解析部313は、特定された発光体の画像の位置および大きさから、撮像装置14から見た入力装置6及びヘッドマウントディスプレイ100の位置情報を導出する。撮像画像解析部313は、発光体の画像の重心座標から、カメラ座標における位置座標を導出し、また発光体の画像の半径から、撮像装置14からの距離情報を導出する。この位置座標及び距離情報は、入力装置6及びヘッドマウントディスプレイ100の位置情報を構成する。
【0049】
HMD情報取得部314は、ヘッドマウントディスプレイ100から、ヘッドマウントディスプレイの姿勢に関する情報を取得する。また、HMD情報取得部314は、撮像画像解析部313から、ヘッドマウントディスプレイ100の位置に関する情報を取得する。これらの情報は、ゲーム制御部311へ伝達される。ヘッドマウントディスプレイ100の姿勢に関する情報は、撮像画像解析部313がヘッドマウントディスプレイ100の撮像画像を解析することにより取得されてもよい。
【0050】
入力装置情報取得部315は、入力装置6から、入力装置6の姿勢に関する情報を取得する。また、入力装置情報取得部315は、撮像画像解析部313から、入力装置6の位置に関する情報を取得する。これらの情報は、ゲーム制御部311へ伝達される。入力装置6の姿勢に関する情報は、撮像画像解析部313が入力装置6の撮像画像を解析することにより取得されてもよい。
【0051】
入力装置6が撮像装置14の撮像範囲から外れたり、ユーザの体や障害物などに隠されたりして、撮像装置14により撮像されなかった場合、入力装置情報取得部315は、前回取得された入力装置6の位置と、その時点以降に取得された入力装置6の姿勢に関する情報に基づいて、入力装置6の位置を算出する。例えば、入力装置6の加速度センサから取得される並進加速度のデータに基づいて、前回取得された入力装置6の位置からのずれを算出することにより、現在の入力装置6の位置を算出してもよい。入力装置6が撮像装置14により撮像されない間は、同様にして入力装置6の位置を逐次算出する。入力装置6が撮像装置14により再度撮像された場合、加速度データにより逐次算出された入力装置6の位置は、ドリフト誤差の累積により正確な位置を示していない可能性があるので、撮像画像解析部313により新たに算出された入力装置6の位置を現在の入力装置6の位置としてもよい。ヘッドマウントディスプレイ100についても同様である。
【0052】
ゲーム制御部311は、ゲームプログラムを実行し、指示入力取得部312が取得したユーザによる指示入力や、入力装置6又はヘッドマウントディスプレイ100の位置又は姿勢に関する情報に基づいてゲームを進行させる。ゲーム制御部311は、仮想的な三次元空間により構成されるゲームフィールドにおいて、入力装置6の方向キー71やアナログスティック77a、77bなどによる入力や、入力装置6又はヘッドマウントディスプレイ100の位置の変化などに基づいて、操作対象であるプレイヤーズキャラクタなどの位置を変更する。
【0053】
第1画像生成部316は、ヘッドマウントディスプレイ100に表示すべき画像を生成する。第1画像生成部316は、ゲーム制御部311により制御される操作対象の位置に基づいて視点位置を設定し、ヘッドマウントディスプレイ100の姿勢に基づいて視線方向を設定して、仮想三次元空間をレンダリングすることにより、ゲームフィールドの画像を生成する。第1画像生成部316は、所定のタイミングでヘッドマウントディスプレイ100の姿勢とゲームフィールドにおける視線方向とを対応づけ、以降、ヘッドマウントディスプレイ100の姿勢の変化に伴って、視線方向を変化させる。これにより、ユーザは、実際に頭を動かすことにより、ゲームフィールド内を見渡すことができるので、ゲームフィールド内に現実に存在しているかのような体験をすることができる。第1画像生成部316は、生成したゲームフィールドの画像に、ゲームに関する情報やヘッドマウントディスプレイ100に表示すべき画像などを追加して、第1画像を生成する。第1画像生成部316により生成された第1画像は、無線通信モジュール38又は有線通信モジュール40を介してヘッドマウントディスプレイ100に送信される。
【0054】
第2画像生成部317は、表示装置12に表示すべき画像を生成する。ヘッドマウントディスプレイ100に表示される画像と同じ画像を表示装置12に表示する場合は、第1画像生成部316により生成された第1画像が表示装置12にも送信される。ヘッドマウントディスプレイ100に表示される画像とは異なる画像を表示装置12に表示する場合、例えば、ヘッドマウントディスプレイ100を装着したユーザと、表示装置12を視聴しているユーザとが、対戦ゲームを実行する場合などは、第2画像生成部317は、第1画像生成部316とは異なる視点位置及び視線方向を設定して仮想三次元空間をレンダリングすることによりゲームフィールドの画像を生成する。第2画像生成部317は、生成したゲームフィールドの画像に、ゲームに関する情報や表示装置12に表示すべき画像などを追加して、第2画像を生成する。第2画像生成部317により生成された第2画像は、無線通信モジュール38又は有線通信モジュール40を介して表示装置12に送信される。
【0055】
第1画像生成部316は、入力装置6とヘッドマウントディスプレイ100の相対位置に基づいて、入力装置6の画像を第1画像に表示することが可能である。ヘッドマウントディスプレイ100を装着しているユーザは、現実世界における周囲の状況を見ることができないが、ユーザがヘッドマウントディスプレイ100を装着していなければ入力装置6が見えるであろう第1画像内の位置に入力装置6の画像を表示することにより、現実世界を見ているような感覚をユーザに与えることができ、第1画像のリアリティをより高めることができるとともに、より深い没入感をユーザに与えることができる。
【0056】
ゲーム制御部311がゲームフィールド内で操作対象の位置を変更する際に、第1画像生成部316は、ゲームフィールドの位置に応じて、視点位置の設定方式を異ならせることが可能である。例えば、ゲームフィールドのある領域では、操作対象の後方の所定位置に視点位置を設定して、操作対象の移動に伴って視点位置を追随させ、別の領域では、操作対象の位置の変化にかかわらず、所定位置に視点位置を固定してもよい。これにより、ゲームフィールドの位置に応じて、適切に視点位置を設定してゲームフィールドの画像を生成することができるので、操作性のよいユーザインタフェースを提供し、ユーザの利便性を向上させることができる。
【0057】
第1画像生成部がヘッドマウントディスプレイ100を視聴する第1ユーザのための第1ゲーム画像を生成し、第2画像生成部が表示装置12を視聴する第2ユーザのための第2ゲーム画像を生成することが可能である。第1ユーザは表示装置12に表示される第2ゲーム画像を見ることができず、第2ユーザはヘッドマウントディスプレイ100に表示される第1ゲーム画像を見ることができないので、このゲームシステムを用いて、対戦相手に自身の情報を秘匿しつつ対戦ゲームを実行することも可能である。
【0058】
以下、上記のような特徴について、各種のゲームを例にとって説明する。
【0059】
(射撃ゲーム)
図7は、ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す。本図は、第1ゲーム画像に表示されている入力装置から手裏剣を発射して的を打ち落とすゲームの画像を示す。ゲーム制御部311は、複数の的502が配置されたゲームフィールド内において、配置された的502を所定の態様で移動させる。第1画像生成部316は、ゲームフィールドの所定位置に視点位置を設定し、ヘッドマウントディスプレイの姿勢に基づいて視線方向を設定して、ゲームフィールドをレンダリングすることにより第1ゲーム画像を生成する。このとき、第1画像生成部316は、入力装置6とヘッドマウントディスプレイ100との間の相対位置に基づいて、ゲームフィールド内に入力装置6を配置し、第1画像内に入力装置6の画像500を表示する。入力装置6の画像500は、現実の入力装置6に基づいて生成されるものであり、ユーザが本物の入力装置6であると認識可能である程度の精度で表示される。第1画像生成部316は、入力装置6の位置及び姿勢が変更されると、第1ゲーム画像内の入力装置6の画像500の位置及び姿勢も合わせて変更する。これにより、第1ゲーム画像に表示される入力装置6の画像のリアリティをより高めることができる。
【0060】
図8は、ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す。ユーザが頭を左右又は上下に振ってヘッドマウントディスプレイ100の姿勢を変えると、第1画像生成部316は、ヘッドマウントディスプレイ100の姿勢に応じて視線方向を変更する。ゲーム制御部311は、第1ゲーム画像の中央の所定の範囲504内に的502が入ったときに、その的502をターゲットとしてロックオンし、ロックオンされた的502にロックオンされていることを示す図形506を表示する。すなわち、ユーザが第1ゲーム画像内に表示されている的502の方に頭を向けて的502を見ると、その方向から所定の範囲の方向にある的502がロックオンされる。このように、ユーザが見ている方向にあるキャラクタやオブジェクトなどを操作対象とすることにより、入力装置6などを用いることなく簡易に操作対象を決定及び変更することができるので、ユーザの利便性を高めることができる。
【0061】
図9は、ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す。ユーザが入力装置6のタッチパッド79においてフリック操作を行うと、第1画像生成部316は、フリック操作の移動距離に応じて、第1ゲーム画像に表示されている入力装置6の画像500におけるタッチパッド79の位置から手裏剣508が出てくる様子を表示する。このとき、ユーザの手が第1画像に表示されてもよいが、手裏剣が見えやすいように、ユーザの手は表示されなくてもよい。このように、入力装置6に入力された指示入力に応じて、第1ゲーム画像に表示されている入力装置6の画像500を変更することにより、ユーザが入力した指示を第1ゲーム画像上でフィードバックし、指示が反映されていることを分かりやすく示すことができる。また、現実に自身が把持している入力装置6から手裏剣が出てくるような感覚をユーザに与えることができるので、現実世界と仮想世界が融合した独特の体験をユーザに与えることができる。
【0062】
図10は、ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す。ユーザが入力装置6のタッチパッド79において行ったフリック操作の移動距離が所定値を超えると、ゲーム制御部311は、ゲームフィールドにおいて、入力装置6の仮想位置から、入力装置6の姿勢に基づいて決定される方向に、フリック操作の速度に応じた速度で手裏剣508を発射させる。第1画像生成部316は、手裏剣508が発射された様子を示す第1ゲーム画像を生成する。ゲーム制御部311は、物理計算により手裏剣508の軌跡509を算出し、算出された軌跡509にしたがって手裏剣508を移動させる。手裏剣508がいずれかの的502に当たった場合は、的502を落下させる。ゲーム制御部311は、前述したように、ある的がロックオンされている場合は、算出された軌跡の通りに手裏剣を移動させず、手裏剣が的に向かって飛行するように軌跡を再計算し、再計算された軌跡にしたがって手裏剣を移動させる。この場合は、手裏剣はロックオンされた的に当たるので、その的を落下させる。
【0063】
(レースゲーム)
図11は、ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す。本図は、二輪車を運転して所定のコースを走行し、ゴールまでの所要時間を競うレースゲームの画像を示す。ゲーム制御部311は、所定のコースが設けられたゲームフィールドにおいて、入力装置6のボタンなどの入力に応じて二輪車を走行させ、入力装置6の姿勢に応じて二輪車の走行方向を制御する。また、ヘッドマウントディスプレイ100の位置が低くなると、二輪車を運転しているユーザの体が受ける空気抵抗が低くなるものとして、二輪車の速度を速くし、逆にヘッドマウントディスプレイ100の位置が高くなると、空気抵抗が高くなるものとして、二輪車の速度を遅くする。このゲームにおいても、第1ゲーム画像に入力装置6の画像500が表示され、入力装置6の画像500がハンドル510の中央にくるように、二輪車の前方の画像が表示される。第1画像生成部316は、入力装置6の位置及び姿勢の変化に伴って、第1ゲーム画像内の入力装置6の画像500の位置及び姿勢を変更し、更に二輪車の前方の画像の位置及び姿勢を変更する。
【0064】
このレースゲームにおいては、入力装置6が二輪車のハンドルに見立てられているが、入力装置6の位置が当初の位置から大きくずれると、ハンドルの位置が不自然な位置にずれてしまい、入力装置6をハンドルとして操作しているという前提が成り立たなくなる。したがって、ゲーム制御部311は、レースを開始する前、又は、レース中の所定のタイミングにおける入力装置6の位置を基準として、所定の範囲から入力装置6の位置が外れると、その旨を第1ゲーム画像への表示、音声の出力、入力装置6の振動などによりユーザに報知し、入力装置6の位置を戻すようユーザに促す。このとき、ゲーム制御部311は、二輪車の走行に関する指示入力の受付を停止してもよいし、二輪車を停止させてもよい。第1画像生成部316は、二輪車の前方の画像を第1ゲーム画像から消去し、又は、二輪車のハンドルの中央部分から入力装置6が外れている様子を表示することにより、入力装置6がもはや二輪車のハンドルとして機能していないことをユーザに報知してもよい。入力装置6の位置が基準位置から第1の範囲以上外れると、その旨をユーザに報知し、第1の範囲よりも大きい第2の範囲以上外れると、入力装置6からの指示入力を受け付けず、入力装置6が二輪車から外れている様子を表示してもよい。これにより、入力装置6を適切な範囲内で操作させることができるので、撮像装置14の撮像範囲から外れたり、入力装置6の画像を第1ゲーム画像に表示できなくなったりすることを回避することができる。
【0065】
図12は、ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す。第1画像生成部316は、第1ゲーム画像に表示されている入力装置6の画像500のタッチパッド79の位置に、現在の二輪車の速度512を表示する。これにより、現実の入力装置6のタッチパッド79には表示装置が設けられていないのに、あたかも表示装置が設けられているように見せることができる。また、ゲームにおいてユーザに提示すべき情報を、斬新な形で表示させることができる。
【0066】
(アクションゲーム)
図13は、ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す。本図は、プレイヤーズキャラクタを操作してゲームフィールド内を移動させ、所定のゴールへ導くゲームの画像を示す。ゲーム制御部311は、障害物や起伏などが設けられたゲームフィールドにおいて、入力装置6の方向キーやアナログスティックなどの入力に応じてプレイヤーズキャラクタ516を移動させ、ボタンなどの入力に応じてプレイヤーズキャラクタ516をジャンプさせる。
【0067】
このアクションゲームにおいては、ゲームフィールドの位置に応じて、第1画像生成部316が第1ゲーム画像を生成する際に用いるカメラの視点位置を設定する方式が異なる。本図の例では、視点位置がプレイヤーズキャラクタ516の後方かつ上方の所定位置に設定され、プレイヤーズキャラクタ516の移動に伴って視点位置も移動される。視線方向は、ヘッドマウントディスプレイ100の姿勢に応じて変更される。つまり、ユーザが、プレイヤーズキャラクタ516を後方から追随する乗り物に乗ってゲームフィールドを見ているような画像が生成される。
【0068】
図14は、ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す。本図の例では、視点位置がゲームフィールドの所定位置に固定され、ヘッドマウントディスプレイ100の姿勢に応じて視線方向のみが変更される。つまり、ユーザが乗り物から降りて、自身は移動することなくゲームフィールドを見渡しているような画像が生成される。
【0069】
ゲームフィールドのデータとして、地形などの形状データや配置されたキャラクタ及びアイテムなどのデータのほか、視点位置を決定するための規則を指定するためのデータが設定される。このデータは、ゲームフィールドを複数の領域に分割し、領域ごとに設定されてもよい。ゲーム制御部311は、ユーザからの指示入力にしたがってプレイヤーズキャラクタの位置を更新すると、更新後の位置において指定されている視点位置を決定するための規則を第1画像生成部316に伝達する。第1画像生成部316は、ゲーム制御部311から伝達された規則にしたがって視点位置を決定し、ゲームフィールドをレンダリングする。例えば、
図14の例では、プレイヤーズキャラクタが所定の領域内にいる間は視点位置は固定されたまま変更されないが、プレイヤーズキャラクタの位置が所定の領域から外れて別の領域に入ると、新たな領域で指定されている規則にしたがって視点位置が決定され、例えば、プレイヤーズキャラクタの後方の所定位置に視点位置が設定される。
【0070】
これにより、ゲームの制作者がゲームフィールドを設計する際に、ゲームフィールドの地形、配置されたアイテム、ギミック、キャラクタなどの種類、プレイヤーズキャラクタが実行すべきアクションなどに応じて、視点位置をどのように設定してゲーム画像を生成するのがよいかを柔軟に設定することができる。また、ゲームフィールドの状況に合わせて適切なゲーム画像を生成することができるので、ユーザの利便性を向上させることができる。
【0071】
視点位置を決定するための規則は、ゲームフィールドの状況に応じて動的に設定されてもよい。例えば、ゲームフィールドの地形が変化する場合などに、ゲームフィールドの地形から規則を決定するためのアルゴリズムが予め指定され、まず、ゲームフィールドの地形から規則を決定し、決定された規則にしたがって視点位置が決定されてもよい。これにより、ゲームフィールドの状況に即して適切な視点位置を設定することができるので、ユーザの利便性を向上させることができる。
【0072】
(対戦ゲーム1)
図15は、ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す。本図は、ヘッドマウントディスプレイ100を装着した第1ユーザと、表示装置12を視聴している第2ユーザとが対戦するゲームの画像を示す。この対戦ゲームにおいて、第1ユーザは、入力装置6に対する入力により、第2ユーザの第2キャラクタ520に向けて爆弾522を投げつつ、ヘッドマウントディスプレイ100を移動させることにより、第1キャラクタを移動させて第2キャラクタ520が投げてくる爆弾524を避ける。第2ユーザは、入力装置6に対する入力により、第1キャラクタに向けて爆弾524を投げつつ、入力装置6に対する入力により、第2キャラクタ520を移動させて第1キャラクタが投げてくる爆弾522を避ける。複数の第2ユーザが対戦ゲームに参加してもよく、この場合、複数の第2キャラクタが第1キャラクタを攻撃してもよい。
【0073】
第1画像生成部316は、ゲームフィールドにおいて第1キャラクタの位置に視点位置を設定し、ヘッドマウントディスプレイ100が向いている方向に視線方向を設定して、第1画像を生成する。したがって、本図の例では、一人称視点のゲーム画像がヘッドマウントディスプレイ100に表示される。第2キャラクタ520が投げてくる爆弾524は、ユーザ自身に向かって飛んでくるように見えるので、リアリティの高いゲームを提供することができる。
【0074】
ゲーム制御部311は、ヘッドマウントディスプレイ100の姿勢の変化に伴って、第1キャラクタの位置を変更する。また、ゲーム制御部311は、入力装置6に対する指示入力にしたがって、第1キャラクタから指示された方向に爆弾522を飛ばし、物理計算などにより軌跡を算出して爆弾522を移動させる。第1キャラクタが投げた爆弾522が第2キャラクタ520に当たると、第2キャラクタ520の体力値を所定数減じる。第2キャラクタ520が投げた爆弾524が第1キャラクタに当たると、第1キャラクタの体力値を所定数減じる。いずれかのキャラクタの体力値がゼロになると、ゲームを終了する。
【0075】
図16は、表示装置12に表示される第2ゲーム画像の例を示す。第2画像生成部317は、ゲームフィールド全体を見渡すことができ、第1キャラクタ526と第2キャラクタ520がゲーム画像内に表示されるように、視点位置と視線方向を固定し、第2画像を生成する。第2ユーザ及び第2キャラクタ520が単数である場合、第2キャラクタ520の位置又は第2キャラクタ520の後方の所定位置に視点位置を設定し、第2キャラクタ520の移動方向に視線方向を設定して第2画像を生成してもよいが、第2ユーザ及び第2キャラクタ520が複数である場合は、全ての第2ユーザがゲーム画像を見やすいように、全体を見渡せるように固定された第2画像を生成するのが望ましい。
【0076】
ゲーム制御部311は、入力装置6に対する指示入力にしたがって、第2キャラクタ520の位置を変更する。また、ゲーム制御部311は、入力装置6に対する指示入力にしたがって、第2キャラクタ520から指示された方向に爆弾524を飛ばし、物理計算などにより軌跡を算出して爆弾を移動させる。
【0077】
このように、第1ユーザと第2ユーザが同一の仮想三次元空間を共有し、両ユーザが仮想三次元空間において相互作用することを可能とするゲームにおいて、同一の仮想三次元空間を別々の視点から見たゲーム画像をそれぞれのユーザに提供することができる。
【0078】
図17は、ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す。本図の第1ゲーム画像は、
図15に示した第1ゲーム画像と同様に、上述の対戦ゲームにおいて、第1ユーザのヘッドマウントディスプレイ100に表示される第1ゲーム画像であるが、ゲームフィールドに第1キャラクタを表示するための第1キャラクタ表示領域530が設けられている。
図15に示した第1ゲーム画像は一人称視点で生成されるので、第1キャラクタは第1ゲーム画像に表示されず、第1ユーザは自身のアバターである第1キャラクタを見ることができない。したがって、本図の例では、第1キャラクタ表示領域530に第1キャラクタ532の画像を表示する。これにより、第1ユーザも第1キャラクタ532を見ながらゲームを行うことができるので、第1ユーザと第2ユーザが同一のゲームの内容を共有することができる。
【0079】
本図に示した第1ゲーム画像では、さらに、第1キャラクタ表示領域530の近傍に、カメラ536を持った撮影キャラクタ534が表示されている。撮影キャラクタ534が自身の方向をカメラ536で撮影している様子を第1ゲーム画像に表示することにより、自身のアバターである第1キャラクタの画像が第1キャラクタ表示領域530に表示されていることを第1ユーザに理解させることができる。
【0080】
図18は、表示装置12に表示される第2ゲーム画像の例を示す。本図の第2ゲーム画像は、
図16に示した第2ゲーム画像と同様に、上述の対戦ゲームにおいて、第2ユーザが視聴する表示装置12に表示される。
図17の第1ゲーム画像では撮影キャラクタ534が表示されたが、撮影キャラクタ534は対戦ゲームに関与しないので、本図の第2ゲーム画像では撮影キャラクタ534は表示されない。
【0081】
第1ユーザが、爆弾524を避けようとして頭を左に移動させると、ゲーム制御部311は、ヘッドマウントディスプレイ100が左に移動した旨を示す情報を受信し、第1キャラクタ526を左へ移動させる。このとき、第2画像生成部317により生成される第2ゲーム画像においては、第1キャラクタ526が右へ移動する様子が表示される。また、第1ユーザが、爆弾524を避けようとして頭を左に倒すと、ゲーム制御部311は、ヘッドマウントディスプレイ100が左に傾いたことを示す情報を受信し、第1キャラクタ526の頭を左に傾ける。このとき、第2画像生成部317により生成される第2ゲーム画像においては、第1キャラクタ526の頭が右に傾く様子が表示される。
【0082】
第1画像生成部316は、ゲームフィールドの所定位置に第1キャラクタ表示領域530を設け、第1キャラクタ表示領域530に第1キャラクタの画像を表示する。また、第1画像生成部316は、ゲームフィールドの所定位置にカメラ536を持った撮影キャラクタ534を表示する。第1キャラクタ表示領域530には、第2画像生成部317が生成した第2ゲーム画像の全部又は一部を左右反転した画像が表示されてもよい。これにより、第1ユーザの動きに合わせて第1キャラクタ532の位置及び姿勢が変わる様子を第1ゲーム画像に表示することができる。また、第1キャラクタ表示領域530が鏡であるかのように見せることができるので、第1ユーザが第1キャラクタ532になりきって、ゲーム世界に没入することを可能とすることができる。
【0083】
第1画像生成部316は、第2画像生成部317が生成した第2ゲーム画像のうち、固定された位置の所定領域の画像を第1キャラクタ表示領域530に表示してもよいし、第1キャラクタ532が第1キャラクタ表示領域530に表示されるように、第1キャラクタ532の移動に伴って所定領域の位置を変更しつつ、所定領域の画像を第1キャラクタ表示領域530に表示してもよい。前者の場合、第1キャラクタ表示領域530が鏡であるかのように見せることができ、後者の場合、撮影キャラクタ534が第1キャラクタ532を追って撮影しているように見せることができる。前者の場合、撮影キャラクタ534を第1ゲーム画像に表示しなくてもよい。第1画像生成部316は、第1キャラクタ532の位置やゲームの状況などに応じて、第2ゲーム画像の一部を拡大又は縮小して第1キャラクタ表示領域530に表示してもよい。また、第1ユーザからの指示に応じて、第1キャラクタ表示領域530に第1キャラクタ532の画像を表示するか否かを決定してもよい。
【0084】
(対戦ゲーム2)
図19は、ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す。本図は、ヘッドマウントディスプレイ100を装着した第1ユーザと、表示装置12を視聴している第2ユーザとが対戦するゲームの画像を示す。この対戦ゲームにおいて、第1ユーザはネコのキャラクタを操作し、第2ユーザはネズミ540のキャラクタを操作する。ゲームフィールドには、ネズミの好物であるチーズ542が配置される。第2ユーザは、入力装置6に対する入力によりネズミ540を操作して、ネコが見ていない間にチーズ542を取得する。第1ユーザは、ヘッドマウントディスプレイ100を移動させたりヘッドマウントディスプレイ100の姿勢を変化させたりすることによりネコを操作して、ネズミ540がチーズ542を取得することができないように監視する。本図の第1ゲーム画像は、ゲーム開始前に表示される第1ゲーム画像である。チーズ542は皿に乗せられていて、まだネズミ540が取ることはできない。
【0085】
第1画像生成部316は、ゲームフィールドにおいてネコの頭部の位置に視点位置を設定し、ヘッドマウントディスプレイ100が向いている方向に視線方向を設定して、第1画像を生成する。したがって、一人称視点の第1ゲーム画像がヘッドマウントディスプレイ100に表示される。ゲーム制御部311は、ヘッドマウントディスプレイ100の位置及び姿勢の変化に伴って、ネコの位置及び頭の向きを変更するとともに、第1ゲーム画像を生成するための視点位置及び視線方向を変更する。
【0086】
図20は、表示装置12に表示される第2ゲーム画像の例を示す。本図の第2ゲーム画像も、ゲーム開始前に表示される第2ゲーム画像である。ゲーム開始前には、第1ユーザにより操作されるネコ550のキャラクタはカーテン552の後ろに隠れており、点線で表示されている。第1ユーザが頭を前方へ移動させると、ゲーム制御部311は、カーテン552を開けてネコ550を前方へ移動させ、ネコ550を実線で表示する。ゲーム制御部311は、ゲーム開始前の所定のタイミングにおけるヘッドマウントディスプレイ100の位置を基準として、カーテンを開閉させるためのヘッドマウントディスプレイ100の位置を設定し、設定された位置よりも前方にヘッドマウントディスプレイ100が移動されるとカーテン552を開け、設定された位置よりも後方にヘッドマウントディスプレイ100が移動されるとカーテン552を閉める。
【0087】
カーテン552が開いている状態で、第1ユーザがネズミ540の方に顔を向けて、ネコ550とネズミ540の目が合うと、ゲームが開始される。ゲーム制御部311は、第1ゲーム画像の中央の所定の範囲内にネズミ540が入ったときに、ネコ550とネズミ540の目が合ったと判定して、ゲームを開始する。第1ユーザが横を向いているなどして、ネズミ540の方を見ていない間は、ゲームは開始されない。ゲーム制御部311は、ゲームが開始されると、皿に乗せられたチーズ542がゲームフィールドにばらまかれる様子を表示し、ネコ550及びネズミ540を移動させるための指示入力を受け付ける。
【0088】
本図の例では、ネコ550のキャラクタは、ヘッドマウントディスプレイ100の外観に似せたゴーグル554を着用している。これにより、ネコ550のキャラクタが、ヘッドマウントディスプレイ100を装着している第1ユーザにより操作されるキャラクタであることを視覚的に分かりやすく示すことができる。
【0089】
図21は、ヘッドマウントディスプレイに表示される第1ゲーム画像の例を示す。ゲームフィールドには、ばらまかれたチーズ542のほか、缶544などの障害物や、野菜546などのオブジェクトが配置される。第2ユーザは、ネズミ540を操作してゲームフィールド内を移動させ、障害物をよけながらチーズ542を取得する。
【0090】
図22は、表示装置12に表示される第2ゲーム画像の例を示す。ゲーム中に、第1ユーザがヘッドマウントディスプレイ100を前方に移動させると、ゲーム制御部311はカーテン552を開き、ネコ550を前方に移動させる。カーテン552が開いている間に、ネコ550がネズミ540を発見したとき、ゲーム制御部311は、発見されたネズミ540にダメージを与えてもよい。この場合、ゲーム制御部311は、第1ゲーム画像の中央の所定の範囲内にネズミ540が入ったときに、そのネズミにダメージを与える。ゲーム制御部311は、ネズミ540の体力値を管理し、発見されたネズミ540の体力値を所定値だけ減じ、体力値がゼロになったネズミ540を操作している第2ユーザはゲームオーバーとしてもよい。また、発見されたネズミ540が取得していたチーズ542を再びゲームフィールドに戻してもよい。また、発見されたネズミ540を強制的に巣穴548へ移動させてもよい。ゲーム制御部311は、ネコ550がネズミ540を発見したときに、ネズミ540が動けなくなるようにしてもよい。この場合、ゲーム制御部311は、第1ゲーム画像の中央の所定の範囲内にネズミ540が入っている間、そのネズミ540の移動を禁止する。ゲーム制御部311は、ネコ550が缶544などの障害物をネズミ540に向かって投げつけられるようにしてもよい。この場合、ゲーム制御部311は、第1ユーザによる入力装置6に対する指示入力に応じて、ネコ550の位置から缶544を発射する。缶544がネズミ540に当たると、そのネズミ540の体力値を所定値だけ減じてもよい。
【0091】
第1ユーザは、頭を上下左右に向けることにより、ゲームフィールド内にいるネズミ540を探す。ヘッドマウントディスプレイ100にネズミ540が表示されると、そのネズミ540がネコ550に発見されたことにしてもよいし、前述したように、中央の所定の範囲内にネズミ540が入ったときに、そのネズミ540がネコ550に発見されたことにしてもよい。後者の場合、ヘッドマウントディスプレイ100にネズミ540が表示されたときに、第1ユーザ自身はネズミ540を発見するが、ネコ550がそのネズミ540を発見したことにするためには、さらにそのネズミ540の方向に顔を向けて、中央の所定の範囲内にネズミ540が入るようにする必要がある。
【0092】
第2ユーザは、カーテン552が開いてネコ550が出てきている間、ネズミ540を野菜546の裏側や巣穴548の中などに移動させて、ネコ550に発見されないようにする。ネコ550が後方に下がり、カーテン552が閉じられると、再びネズミ540を移動させてチーズ542を取得する。制限時間内にネズミ540がゲームフィールドに配置された全てのチーズ542を取得することができれば第2ユーザの勝ちとなり、できなければ第1ユーザの勝ちとなる。
【0093】
第1ユーザが下を向いたとき、第1ゲーム画像には床が表示されることになるが、この状態でユーザがヘッドマウントディスプレイ100を上下に移動させると、視点位置が上下に移動されるので、床の画像が拡大縮小される。ここで、視点位置が所定位置以上床に近づくと、第1画像生成部316は、床の画像をぼかして表示する。これにより、床に近づきすぎて焦点が合わなくなる様子を表現することができ、床や床に置かれたオブジェクトが拡大され過ぎて見づらくなってしまうのを防ぐことができる。また、ゲーム世界における床の位置と現実世界におけるヘッドマウントディスプレイ100の位置との関係を第1ユーザに示すことができ、第1ユーザがそれ以上ヘッドマウントディスプレイ100の位置を下に移動させて、視点位置が床よりも下に移動してしまうのを防ぐことができる。
【0094】
図23は、表示装置12に表示される第2ゲーム画像の例を示す。上述したように、この対戦ゲームでは、ネコ550がカーテン552よりも前に出てきている間は、ネズミ540がチーズ542を取ることができないので、ネコ550がずっとカーテン552よりも前に出てきたままになっているとゲームが進行しない。したがって、ネコがカーテン552よりも前に出てネズミ540を発見することが可能な第1の状態が所定時間以上継続すると、ネコ550がネズミ540を発見することができない第2の状態に強制的に切り替える。本図の例では、ゲーム制御部311は、カーテン552が開かれてからの第1の経過時間をカウントし、第1の経過時間が第1の所定時間に達すると、ネコ550が着用しているゴーグル554を閉じて、ネコ550がネズミ540を発見することができないようにする。このとき、
図24に示すように、ヘッドマウントディスプレイ100に表示される第1ゲーム画像では、真っ暗な画像又は透過率の低い画像を表示して、ゴーグル554が閉じられたことを第1ユーザに示す。第1ユーザがヘッドマウントディスプレイ100を後方に移動させてカーテン552が閉じられると、ゲーム制御部311は、第1の経過時間をゼロに戻す。
【0095】
カーテン552が閉じられた後、すぐにカーテン552を開けてネコ550が前に出てくることができないようにしてもよい。この場合、ゲーム制御部311は、カーテン552が閉じられてからの第2の経過時間をカウントし、第2の経過時間が第2の所定時間に達するまでは、ヘッドマウントディスプレイ100が前方に移動されてもカーテン552を開けない。ゲーム制御部311は、第1の経過時間が第1の所定時間に達してゴーグル554が閉じられた後にカーテン552が閉じられた場合の第2の所定時間を、第1の経過時間が第1の所定時間に達する前に第1ユーザがヘッドマウントディスプレイ100を後方に移動させることによりカーテン552が閉じられた場合の第2の所定時間よりも長くしてもよい。これにより、第1の経過時間が第1の所定時間に達するまでカーテン552を開けたままにしておくと、より長い時間カーテン552を開けることができなくなるというペナルティが与えられるので、第1の経過時間が第1の所定時間に達する前にカーテン552を閉じるようにしようと第1ユーザに思わせることができ、第1ユーザがカーテン552を開閉するタイミングと、第2ユーザがネズミ540を移動させるタイミングとの駆け引きを楽しむことが可能なゲームを提供することができる。
【0096】
本図の例では、ネコ550が着用するゴーグル554を閉じることにより、ネコ550がネズミ540を発見することができないようにしたが、別の例では、第1の経過時間が第1の所定時間に達すると、犬などのキャラクタが登場してネコ550の視界を塞ぐ様子を表示してもよいし、ネコ550を強制的に後方に戻してカーテン552を閉じてもよい。
【0097】
このように、ヘッドマウントディスプレイ100の位置に応じて、ネコ550がネズミ540を発見することが可能な第1の状態と、ネコ550がネズミ540を発見することができない第2の状態との間で事象の状態を切り替える場合に、第1の状態が所定時間以上継続したときには、ヘッドマウントディスプレイ100の位置にかかわらず、第2の状態に切り替えることにより、時間的要素も併せ持つゲーム性を提供することができる。
【0098】
図25は、実施の形態に係る表示制御方法の手順を示すフローチャートである。HMD情報取得部314は、ヘッドマウントディスプレイ100の撮像画像から取得されたヘッドマウントディスプレイ100の位置情報を取得し(S100)、入力装置情報取得部315は、入力装置6の撮像画像から取得された入力装置6の位置情報を取得する(S102)。指示入力取得部312は、入力装置6から入力された指示に関する情報を取得する(S104)。ゲーム制御部311は、ヘッドマウントディスプレイ100の位置、入力装置6の位置、入力装置6に入力された指示などに基づいてゲームを制御する(S106)。第1画像生成部316は、ヘッドマウントディスプレイ100に表示すべき、ゲーム制御部311により制御されるゲームの画像を生成する(S108)。このとき、第1画像生成部316は、ヘッドマウントディスプレイ100と入力装置6との間の相対位置に基づいて、入力装置6の画像を生成した画像に表示させる(S110)。生成された画像は、ヘッドマウントディスプレイ100へ送信される(S112)。
【0099】
図26は、実施の形態に係る表示制御方法の手順を示すフローチャートである。指示入力取得部312は、入力装置6から入力された指示に関する情報を取得する(S120)。ゲーム制御部311は、入力された指示に基づいて操作対象の位置を更新し(S122)、更新後の位置に指定されている視点位置を決定するための規則を取得する(S124)。第1画像生成部316は、視点位置を決定するための規則にしたがって視点位置を決定する(S126)。HMD情報取得部314は、ヘッドマウントディスプレイ100から、ヘッドマウントディスプレイ100の姿勢に関する情報を取得する(S128)。第1画像生成部316は、決定された視点位置と、ヘッドマウントディスプレイ100の姿勢に基づいて決定された視線方向を用いて、ヘッドマウントディスプレイ100に表示すべき画像を生成する(S130)。生成された画像は、ヘッドマウントディスプレイ100へ送信される(S132)。
【0100】
図27は、実施の形態に係る表示制御方法の手順を示すフローチャートである。指示入力取得部312は、第1ユーザの入力装置6から入力された指示に関する情報を取得するとともに(S140)、第2ユーザの入力装置6から入力された指示に関する情報を取得する(S142)。HMD情報取得部314は、ヘッドマウントディスプレイ100の位置及び姿勢に関する情報を取得し(S144)、入力装置情報取得部315は、入力装置6の位置及び姿勢に関する情報を取得する(S146)。ゲーム制御部311は、入力された指示、ヘッドマウントディスプレイ100の位置及び姿勢、入力装置6の位置及び姿勢などに基づいてゲームを制御する(S148)。第1画像生成部316は、第1ユーザの視点位置及び視線方向を用いて、ヘッドマウントディスプレイ100に表示すべき第1画像を生成し(S150)、生成された画像は、ヘッドマウントディスプレイ100へ送信される(S152)。第2画像生成部317は、第2ユーザの視点位置及び視線方向を用いて、表示装置12に表示すべき第2画像を生成し(S154)、生成された画像は、表示装置12へ送信される(S156)。
【0101】
以上、本発明を実施例をもとに説明した。この実施例は例示であり、その各構成要素や各処理プロセスの組合せにいろいろな変形が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
【0102】
上記の例では、ヘッドマウントディスプレイ100の表示装置90に単眼視用の画像が表示されたが、別の例では、両眼立体視用の画像が表示されてもよい。
【0103】
上記の例では、ゲームシステムにおいてヘッドマウントディスプレイ100が利用されたが、実施の形態で説明した技術は、ゲーム以外のコンテンツなどを表示する場合にも利用可能である。
【符号の説明】
【0104】
10 ゲーム装置、90 表示装置、100 ヘッドマウントディスプレイ、311 ゲーム制御部、312 指示入力取得部、313 撮像画像解析部、314 HMD情報取得部、315 入力装置情報取得部、316 第1画像生成部、317 第2画像生成部。