特許第5829040号(P5829040)IP Force 特許公報掲載プロジェクト 2015.5.11 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 任天堂株式会社の特許一覧
<>
  • 特許5829040- 図000002
  • 特許5829040- 図000003
  • 特許5829040- 図000004
  • 特許5829040- 図000005
  • 特許5829040- 図000006
  • 特許5829040- 図000007
  • 特許5829040- 図000008
  • 特許5829040- 図000009
  • 特許5829040- 図000010
  • 特許5829040- 図000011
  • 特許5829040- 図000012
  • 特許5829040- 図000013
  • 特許5829040- 図000014
  • 特許5829040- 図000015
  • 特許5829040- 図000016
  • 特許5829040- 図000017
  • 特許5829040- 図000018
  • 特許5829040- 図000019
  • 特許5829040- 図000020
  • 特許5829040- 図000021
  • 特許5829040- 図000022
  • 特許5829040- 図000023
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】5829040
(24)【登録日】2015年10月30日
(45)【発行日】2015年12月9日
(54)【発明の名称】ゲームシステム、ゲーム装置、ゲームプログラム、および画像生成方法
(51)【国際特許分類】
   A63F 13/655 20140101AFI20151119BHJP
   A63F 13/5252 20140101ALI20151119BHJP
   A63F 13/327 20140101ALI20151119BHJP
   A63F 13/26 20140101ALI20151119BHJP
   A63F 13/213 20140101ALI20151119BHJP
   A63F 13/215 20140101ALI20151119BHJP
【FI】
   A63F13/655
   A63F13/5252
   A63F13/327
   A63F13/26
   A63F13/213
   A63F13/215
【請求項の数】30
【全頁数】50
(21)【出願番号】特願2011-87199(P2011-87199)
(22)【出願日】2011年4月11日
(65)【公開番号】特開2012-217677(P2012-217677A)
(43)【公開日】2012年11月12日
【審査請求日】2014年2月10日
(73)【特許権者】
【識別番号】000233778
【氏名又は名称】任天堂株式会社
【住所又は居所】京都府京都市南区上鳥羽鉾立町11番地1
(74)【代理人】
【識別番号】100158780
【弁理士】
【氏名又は名称】寺本 亮
(74)【代理人】
【識別番号】100121359
【弁理士】
【氏名又は名称】小沢 昌弘
(74)【代理人】
【識別番号】100130269
【弁理士】
【氏名又は名称】石原 盛規
(72)【発明者】
【氏名】阿部 悟郎
【住所又は居所】京都府京都市南区上鳥羽鉾立町11番地1 任天堂株式会社内
(72)【発明者】
【氏名】藤澤 保仁
【住所又は居所】京都府京都市東山区福稲上高松町60 株式会社インテリジェントシステムズ内
【審査官】 宇佐田 健二
(56)【参考文献】
【文献】 特開2007−300562(JP,A)
【文献】 特表2009−536058(JP,A)
【文献】 特開2011−062390(JP,A)
【文献】 特開2010−115244(JP,A)
【文献】 特開2005−168569(JP,A)
【文献】 特開2010−142592(JP,A)
【文献】 特開2001−034247(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A63F 13/00−13/98,9/24
(57)【特許請求の範囲】
【請求項1】
ゲーム装置と、当該ゲーム装置と通信可能な端末装置とを含むゲームシステムであって、
前記端末装置は、
撮像部と、
前記撮像部による撮像画像を前記ゲーム装置へ送信する送信部と、
前記ゲーム装置から出力された画像を表示する表示部とを備え、
前記ゲーム装置は、
前記撮像画像を受信する受信部と、
所定の仮想空間を第1仮想カメラから見た画像と、前記撮像画像の少なくとも一部とを合成した第1画像を生成する第1画像生成部と、
前記第1画像を所定の表示装置へ出力する第1画像出力部と、
前記第1仮想カメラとは異なる第2仮想カメラから前記仮想空間を見た第2画像を生成する第2画像生成部と、
前記第2画像を前記端末装置へ出力する第2画像出力部とを備える、ゲームシステム。
【請求項2】
前記ゲーム装置は、前記仮想空間内の所定面を一方側から撮影するように前記第1仮想カメラを設定するとともに、当該所定面を他方側から撮影するように前記第2仮想カメラを設定する仮想カメラ設定部をさらに備える、請求項1に記載のゲームシステム。
【請求項3】
前記第1画像生成部は、前記撮像画像の少なくとも一部が前記所定面の位置に表示された第1画像を生成する、請求項2に記載のゲームシステム。
【請求項4】
前記ゲーム装置は、前記撮像画像の少なくとも一部が描画される描画面を仮想空間内に配置する面配置部をさらに備え、
前記第1画像生成部は、前記描画面を含む仮想空間を表す第1画像を生成する、請求項1に記載のゲームシステム。
【請求項5】
前記ゲーム装置は、前記撮像画像が描画される側から前記描画面を見た位置および姿勢となるように前記第1仮想カメラを設定する第1カメラ設定部をさらに備える、請求項4に記載のゲームシステム。
【請求項6】
前記ゲーム装置は、前記撮像画像が描画される側の反対側から前記描画面を見た位置および姿勢となるように前記第2仮想カメラを設定する第2カメラ設定部をさらに備える、請求項4または請求項5に記載のゲームシステム。
【請求項7】
前記仮想空間内に配置される所定のオブジェクトの動作と、前記描画面に描画された撮像画像とに基づいて所定のゲーム処理を実行するゲーム処理部をさらに備える、請求項4に記載のゲームシステム。
【請求項8】
前記ゲームシステムは、前記ゲーム装置と通信可能な操作装置をさらに含み、
前記ゲーム処理部は、前記操作装置に対する操作に応じて前記所定のオブジェクトの動作を制御する、請求項7に記載のゲームシステム。
【請求項9】
前記ゲーム装置は、
前記撮像画像に対して画像認識処理を実行する認識処理部と、
前記画像認識処理の結果に基づいて前記仮想空間に変化を与えるゲーム制御処理を実行するゲーム制御処理部とをさらに備える、請求項1から請求項8のいずれか1項に記載のゲームシステム。
【請求項10】
前記端末装置は、マイクをさらに備えており、
前記送信部は、前記マイクによって検出された音のデータを前記ゲーム装置へ送信し、
前記ゲーム装置は、前記音のデータに基づいて前記仮想空間に変化を与えるゲーム制御処理を実行するゲーム制御処理部をさらに備える、請求項1から請求項9のいずれか1項に記載のゲームシステム。
【請求項11】
前記送信部は、前記端末装置に対するプレイヤの操作を表す操作データを前記ゲーム装置へ送信し、
前記ゲーム装置は、前記操作データに基づいて前記仮想空間に変化を与えるゲーム制御処理を実行するゲーム制御処理部をさらに備える、請求項1から請求項10のいずれか1項に記載のゲームシステム。
【請求項12】
前記端末装置は、当該端末装置の動きに関する情報を表す動きデータを出力するセンサ部をさらに備え、
前記送信部は、前記動きデータを含む操作データを前記ゲーム装置へ送信する、請求項11に記載のゲームシステム。
【請求項13】
前記端末装置は、前記表示部の画面上における入力位置を検出可能な位置検出部をさらに備え、
前記送信部は、前記位置検出部によって検出された位置のデータを含む操作データを前記ゲーム装置へ送信する、請求項11に記載のゲームシステム。
【請求項14】
前記端末装置は、1以上の操作部材をさらに備え、
前記送信部は、前記操作部材に対するプレイヤの操作を表す操作データを前記ゲーム装置へ送信する、請求項11に記載のゲームシステム。
【請求項15】
情報処理装置と、当該情報処理装置と通信可能な端末装置とを含む情報処理システムにおいて実行される画像生成方法であって、
前記端末装置が備える撮像部による撮像画像を前記情報処理装置が受信する受信ステップと、
所定の仮想空間を第1仮想カメラから見た画像と、前記撮像画像の少なくとも一部とを合成した第1画像を生成する第1画像生成ステップと、
前記第1画像を所定の表示装置へ出力する第1画像出力ステップと、
前記第1仮想カメラとは異なる第2仮想カメラから前記仮想空間を見た第2画像を生成する第2画像生成ステップと、
前記第2画像を前記端末装置へ出力する第2画像出力ステップとを備える、画像生成方法。
【請求項16】
前記仮想空間内の所定面を一方側から撮影するように前記第1仮想カメラを設定するとともに、当該所定面を他方側から撮影するように前記第2仮想カメラを設定する仮想カメラ設定ステップをさらに備える、請求項15に記載の画像生成方法。
【請求項17】
前記第1画像生成ステップにおいては、前記撮像画像の少なくとも一部が前記所定面の位置に表示された第1画像が生成される、請求項16に記載の画像生成方法。
【請求項18】
前記撮像画像の少なくとも一部が描画される描画面を仮想空間内に配置する面配置ステップをさらに備える、請求項15に記載の画像生成方法。
【請求項19】
前記撮像画像が描画される側から前記描画面を見た位置および姿勢となるように前記第1仮想カメラを設定する第1カメラ設定ステップをさらに備える、請求項18に記載の画像生成方法。
【請求項20】
前記撮像画像が描画される側の反対側から前記描画面を見た位置および姿勢となるように前記第2仮想カメラを設定する第2カメラ設定ステップをさらに備える、請求項18または請求項19に記載の画像生成方法。
【請求項21】
前記仮想空間内に配置される所定のオブジェクトの動作と、前記描画面に描画された撮像画像とに基づいて所定のゲーム処理を実行するゲーム処理ステップをさらに備える、請求項18に記載の画像生成方法。
【請求項22】
前記情報処理システムは、前記情報処理装置と通信可能な操作装置をさらに含み、
前記ゲーム処理ステップにおいては、前記操作装置に対する操作に応じて前記所定のオブジェクトの動作が制御される、請求項21に記載の画像生成方法。
【請求項23】
前記撮像画像に対して画像認識処理を実行する認識処理ステップと、
前記画像認識処理の結果に基づいて前記仮想空間に変化を与えるゲーム制御処理を実行するゲーム制御処理ステップとをさらに備える、請求項15から請求項22のいずれか1項に記載の画像生成方法。
【請求項24】
前記端末装置は、マイクをさらに備えており、
前記受信ステップにおいては、前記マイクによって検出された音のデータが前記情報処理装置によって受信され、
前記音のデータに基づいて前記仮想空間に変化を与えるゲーム制御処理を実行するゲーム制御処理ステップをさらに備える、請求項15から請求項23のいずれか1項に記載の画像生成方法。
【請求項25】
前記受信ステップにおいては、前記端末装置に対するプレイヤの操作を表す操作データが前記情報処理装置によって受信され、
前記操作データに基づいて前記仮想空間に変化を与えるゲーム制御処理を実行するゲーム制御処理ステップをさらに備える、請求項15から請求項24のいずれか1項に記載の画像生成方法。
【請求項26】
前記端末装置は、当該端末装置の動きに関する情報を表す動きデータを出力するセンサ部をさらに備え、
前記受信ステップにおいては、前記動きデータを含む操作データが前記情報処理装置によって受信される、請求項25に記載の画像生成方法。
【請求項27】
前記端末装置は、自身が備える表示部の画面上における入力位置を検出可能な位置検出部をさらに備え、
前記受信ステップにおいては、前記位置検出部によって検出された位置のデータを含む操作データが前記情報処理装置によって受信される、請求項25に記載の画像生成方法。
【請求項28】
前記端末装置は、1以上の操作部材をさらに備え、
前記受信ステップにおいては、前記操作部材に対するプレイヤの操作を表す操作データが前記情報処理装置によって受信される、請求項25に記載の画像生成方法。
【請求項29】
撮像部および表示部を備える端末装置から、前記撮像部による撮像画像を受信する受信部と、
所定の仮想空間を第1仮想カメラから見た画像と、前記撮像画像の少なくとも一部とを合成した第1画像を生成する第1画像生成部と、
前記第1画像を所定の表示装置へ出力する第1画像出力部と、
前記第1仮想カメラとは異なる第2仮想カメラから前記仮想空間を見た第2画像を生成する第2画像生成部と、
前記第2画像を前記端末装置へ出力する第2画像出力部とを備える、ゲーム装置。
【請求項30】
ゲーム装置のコンピュータにおいて実行されるゲームプログラムであって、
前記ゲーム装置と通信可能な端末装置が備える撮像部による撮像画像を取得する画像取得手段と、
所定の表示装置に表示するための第1画像として、所定の仮想空間を第1仮想カメラから見た画像と、前記撮像画像の少なくとも一部とを合成した画像を生成する第1画像生成手段と、
前記端末装置の表示部に表示するための第2画像として、前記第1仮想カメラとは異なる第2仮想カメラから前記仮想空間を見た第2画像を生成する第2画像生成手段として前記コンピュータを機能させる、ゲームプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、カメラ等で撮像された撮像画像をゲーム等に用いるゲームシステム、ゲーム装置、ゲームプログラム、および画像生成方法に関する。
【背景技術】
【0002】
従来、カメラ等で撮像された撮像画像をゲームに用いる技術がある。例えば、特許文献1には、カメラを備えたゲーム装置が開示されている。このゲーム装置は、カメラによって撮像された撮像画像をゲーム画像の一部として用いることが可能である。例えば、ゲーム装置は、ゲームをプレイ中であるプレイヤの顔をカメラで撮影し、撮像画像をゲーム入力としてゲーム処理に用いたり、ゲーム終了後に撮像画像を表示したりする。これによって、プレイヤは、撮像画像をゲーム操作に用いたり、ゲーム中の自分の表情をゲーム終了後に見たりして楽しむことができる。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2010−142592号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来においては、撮像画像をゲーム画像として用いることは行われていたが、撮像画像により表される現実空間と、ゲーム装置において構築される仮想空間とを関連付けるような表示は十分ではなかった。例えば、特許文献1では、撮像画像の上にオブジェクト等を合成して表示することは行われているが、画面に表示される仮想空間が実際に画面の奥に存在するかのような感覚をプレイヤに与えることはできず、仮想空間のリアリティは十分とは言えない場合があった。
【0005】
それ故、本発明の目的は、画面に表示される仮想空間のリアリティを向上することが可能なゲームシステム、ゲーム装置、ゲームプログラム、および画像生成方法を提供することである。
【課題を解決するための手段】
【0006】
本発明は、上記の課題を解決するために、以下の(1)〜(14)の構成を採用した。
【0007】
(1)
本発明の一例は、ゲーム装置と、当該ゲーム装置と通信可能な端末装置とを含むゲームシステムである。
端末装置は、撮像部と、送信部と、表示部とを備える。送信部は、撮像部による撮像画像をゲーム装置へ送信する。表示部は、ゲーム装置から出力された画像を表示する。
ゲーム装置は、受信部と、第1画像生成部と、第1画像出力部と、第2画像生成部と、第2画像出力部とを備える。受信部は、撮像画像を受信する。第1画像生成部は、所定の仮想空間を第1仮想カメラから見た画像と、撮像画像の少なくとも一部とを合成した第1画像を生成する。第1画像出力部は、第1画像を所定の表示装置へ出力する。第2画像生成部は、第1仮想カメラとは異なる第2仮想カメラから仮想空間を見た第2画像を生成する。第2画像出力部は、第2画像を端末装置へ出力する。
【0008】
上記「ゲーム装置」は、上記の各部における処理を実行する装置であればどのようなものであってもよい。上記ゲーム装置は、ゲーム専用の情報処理装置であってもよいし、一般的なパーソナルコンピュータのような多用途の情報処理装置であってもよい。
上記「端末装置」は、撮像部および表示部を備え、ゲーム装置と通信可能な装置であり、後述する実施形態における端末装置7のように、操作装置の機能を有していてもよいし、有していなくてもよい。
上記「ゲームシステム」は、操作装置および情報処理装置を含んでいればよく、第1画像を表示する上記「所定の表示装置」を含んでいなくともよいし、含んでいてもよい。すなわち、入力システムは、当該所定の表示装置を含まない形態で提供されてもよいし、含む形態で提供されてもよい。
上記「第1画像」は、仮想空間を表す画像と、撮像画像の少なくとも一部とを含む画像であればよく、どのような方法で生成されてもよい。「第1画像」は、撮像画像が表す現実空間と仮想空間とが繋がっているかのように見えることが好ましく、例えば、仮想空間に撮像画像(の少なくとも一部)が配置された画像であってもよい。ここで、「仮想空間に撮像画像が配置された画像」とは、仮想空間に撮像画像が配置されたように見える画像であればよく、どのような方法で生成されてもよい。「第1画像」においては、撮像画像の上に(撮像画像の手前に)仮想空間のオブジェクトが表示されてもよいし、表示されなくてもよい。
上記「第2画像」は、第1仮想カメラとは異なる第2仮想カメラから見た仮想空間を表す。つまり、「第2画像」は、第1画像とは異なる視点から見た仮想空間を表す。
【0009】
上記(1)の構成によれば、所定の表示装置に表示される第1画像は、仮想空間の画像と撮像画像とが合成された画像であるので、仮想空間から現実空間を見た画像となる。一方、端末装置に表示される第2画像は、第1画像とは異なる視点から見た仮想空間の画像であるので、現実空間から仮想空間を見た画像となる。これによって、仮想空間から現実空間を見た画像が所定の表示装置に表示され、現実空間から仮想空間を見た画像が端末装置に表示される。したがって、端末装置を把持するプレイヤは、これら2つの画像を見ることによって、仮想空間が現実空間と繋がっているような感覚を抱き、仮想空間が現実に存在するかのような感覚を抱く。プレイヤは、端末装置の画面の向こうに仮想空間が広がっているような感覚を明確に意識することができ、仮想空間をよりリアリティあるものとして認識することができる。すなわち、上記(1)の構成によれば、端末装置に仮想空間を表示するとともに、当該仮想空間を表す画像と撮像画像とを合成した画像を所定表示装置に表示することによって、仮想空間のリアリティを向上することができる。
【0010】
(2)
ゲーム装置は、仮想カメラ設定部をさらに備えていてもよい。仮想カメラ設定部は、仮想空間内の所定面を一方側から撮影するように第1仮想カメラを設定するとともに、当該所定面を他方側から撮影するように第2仮想カメラを設定する。
【0011】
上記「所定面」は、2つの仮想カメラの位置関係を特定するために用いられる概念であり、実際のゲーム処理において、所定面に対応するオブジェクトを配置する処理や、所定面の位置および/または姿勢を算出する処理が実行される必要はない。つまり、仮想カメラ設定部は、2つの仮想カメラを設定すればよく、所定面を配置する処理を実行しても良いし、実行しなくてもよい。
【0012】
上記(2)の構成によれば、第2画像は、所定面をある側から見た仮想空間を表す画像となる一方、第1画像は、所定面を反対側から見た仮想空間を表し、仮想空間内に撮像画像を含む画像となる。このとき、第2画像における視線方向は、端末装置における画面の手前から奥へ向かう方向であり、プレイヤの視線方向と同じになる。一方、第1画像における視線方向は、端末装置に表示される仮想空間を基準として言えば、端末装置の画面の奥から手前へ向かう方向であり、プレイヤの視線方向とは概ね反対向きとなる。つまり、第1画像は、端末装置の画面の奥からプレイヤの方を見た画像となる。以上のように、上記(2)の構成によれば、端末装置には画面の手前から奥に向かう視線方向の画像が表示されるとともに、所定の表示装置には画面の奥から手前に向かう視線方向の画像が表示されるので、各画像によって表される仮想空間のリアリティをより向上することができる。
【0013】
(3)
第1画像生成部は、撮像画像の少なくとも一部が所定面の位置に表示された第1画像を生成してもよい。
【0014】
上記(3)の構成によれば、所定面の位置に撮像画像が表示されるので、プレイヤは、所定面を基準として第1仮想カメラの側に仮想空間が存在し、第2仮想カメラの側に現実空間があたかも存在するかのように認識する。これによって、プレイヤは、仮想空間と現実空間が所定面で繋がっているかのような感覚を味わうことができるので、仮想空間のリアリティをより向上することができる。
【0015】
(4)
ゲーム装置は、撮像画像の少なくとも一部が描画される描画面を仮想空間内に配置する面配置部をさらに備えていてもよい。このとき、第1画像生成部は、描画面を含む仮想空間を表す第1画像を生成する。
【0016】
上記「描画面」は、仮想空間における任意の面であり、後述する実施形態においては長方形の平面であるが、曲面であってもよく、どのような形状であってもよい。また、描画面の全領域に撮像画像が描画される必要はなく、描画面の一部に撮像画像が描画されてもよい。
【0017】
上記(4)の構成によれば、仮想空間内に撮像画像(の少なくとも一部)が配置されたように見える第1画像を容易に生成することができる。
【0018】
(5)
ゲーム装置は、撮像画像が描画される側から描画面を見た位置および姿勢となるように第1仮想カメラを設定する第1カメラ設定部をさらに備えていてもよい。
【0019】
上記(5)の構成によれば、第1仮想カメラは、描画面を含む仮想空間を視野範囲に含むことになるので、仮想空間の画像と撮像画像とを合成した第1画像を容易に生成することができる。また、第1画像は、仮想空間と撮像画像が表す現実空間とがあたかも繋がっているかのように見えるので、仮想空間のリアリティをより向上することができる。
【0020】
(6)
ゲーム装置は、撮像画像が描画される側の反対側から描画面を見た位置および姿勢となるように第2仮想カメラを設定する第2カメラ設定部をさらに備えていてもよい。
【0021】
上記(6)の構成によれば、撮像画像を含まず、仮想空間を表す第2画像を容易に生成することができる。とくに、上記(5)の構成と上記(6)の構成とを組み合わせる場合には、仮想空間における描画面に関して第1仮想カメラと第2仮想カメラとの向きが概ね反対となるように設定される。これによって、上記(2)の構成と同様、端末装置には画面の手前から奥に向かう視線方向の画像が表示されるとともに、所定の表示装置には画面の奥から手前に向かう視線方向の画像が表示されるので、各画像によって表される仮想空間のリアリティをより向上することができる。
【0022】
(7)
仮想空間内に配置される所定のオブジェクトの動作と、描画面に描画された撮像画像とに基づいて所定のゲーム処理を実行するゲーム処理部をさらに備えていてもよい。
【0023】
上記(7)の構成によれば、所定のオブジェクトが撮像画像に対して何らかの動作を行った場合、プレイヤは、仮想空間内の当該オブジェクトが、撮像画像により表される現実空間に対して影響を与えている感覚を味わうことができる。これによれば、仮想空間と現実空間とが繋がっているかのような感覚をプレイヤにより強く抱かせることができ、仮想空間のリアリティをより向上させることができる。
【0024】
(8)
ゲームシステムは、ゲーム装置と通信可能な操作装置をさらに含んでいてもよい。このとき、ゲーム処理部は、操作装置に対する操作に応じて所定のオブジェクトの動作を制御する。
【0025】
上記(8)の構成によれば、端末装置を把持するプレイヤとは別の他のプレイヤが、操作装置を用いてゲームを行うことができる。特に、当該他のプレイヤは、所定のオブジェクトを操作することによって、仮想空間内の当該オブジェクトが、撮像画像により表される現実空間に対して影響を与えるような感覚を味わうことができる。
【0026】
(9)
ゲーム装置は、認識処理部と、ゲーム制御処理部をさらに備えていてもよい。認識処理部は、撮像画像に対して画像認識処理を実行する。ゲーム制御処理部は、画像認識処理の結果に基づいて仮想空間に変化を与えるゲーム制御処理を実行する。
【0027】
上記(9)の構成によれば、撮像画像に対する画像認識処理の結果に基づいて仮想空間に変化が与えられる。したがって、プレイヤは、撮像部によって撮像される内容を変化させることによって、ゲーム操作を行うことができる。プレイヤは、例えば表情を変化させたり顔の位置を動かしたりする等の動作をゲーム操作として行うことができる。ここで、撮像画像は仮想空間の画像とともに所定の表示装置に表示されるので、プレイヤのゲーム操作は、所定の表示装置に表示される仮想空間内の様子としても反映される。つまり、上記(9)の構成によれば、現実空間におけるプレイヤの動作が表示上反映されるとともに、動作に応じて仮想空間に変化が与えられるので、仮想空間のリアリティをより向上することができる。
【0028】
(10)
端末装置は、マイクをさらに備えていてもよい。このとき、送信部は、マイクによって検出された音のデータをゲーム装置へ送信する。このとき、ゲーム装置は、音のデータに基づいて仮想空間に変化を与えるゲーム制御処理を実行するゲーム制御処理部をさらに備える。
【0029】
上記(10)の構成によれば、マイクによって検出された音に基づいて仮想空間に変化が与えられる。したがって、プレイヤは、マイクに対して入力を行うことによって、ゲーム操作を行うことができる。
【0030】
(11)
送信部は、端末装置に対するプレイヤの操作を表す操作データをゲーム装置へ送信してもよい。このとき、ゲーム装置は、操作データに基づいて仮想空間に変化を与えるゲーム制御処理を実行するゲーム制御処理部をさらに備える。
【0031】
上記(11)の構成によれば、プレイヤは、端末装置を把持したままで容易にゲーム操作を行うことができる。
【0032】
(12)
端末装置は、当該端末装置の動きに関する情報を表す動きデータを出力するセンサ部をさらに備えていてもよい。このとき、送信部は、動きデータを含む操作データをゲーム装置へ送信する。
【0033】
上記(12)の構成によれば、プレイヤは端末装置を動かすことによってゲーム操作を行うことができ、直感的かつ容易な操作でゲームを行うことができる。
【0034】
(13)
端末装置は、表示部の画面上における入力位置を検出可能な位置検出部をさらに備えていてもよい。このとき、送信部は、位置検出部によって検出された位置のデータを含む操作データをゲーム装置へ送信する。
【0035】
上記(13)の構成によれば、端末装置の画面に表示される仮想空間を直接タッチすることによってゲーム操作を行うことができ、直感的かつ容易な操作でゲームを行うことができる。
【0036】
(14)
端末装置は、1以上の操作部材をさらに備えていてもよい。このとき、送信部は、操作部材に対するプレイヤの操作を表す操作データをゲーム装置へ送信する。
【0037】
上記(14)の構成によれば、プレイヤは、端末装置を把持したままで容易にゲーム操作を行うことができる。
【0038】
なお、本発明の別の一例は、上記ゲームシステムに含まれる上記ゲーム装置であってもよいし、上記ゲーム装置における各部(受信部および各画像出力部が含まれなくてもよい)と同等の手段としてコンピュータを機能させるゲームプログラムであってもよい。さらに、本発明の別の一例は、上記のゲームシステムまたはゲーム装置において行われる画像生成方法の形態であってもよい。さらに、本発明の別の一例は、ゲーム用途に限らず、情報処理システム、情報処理装置、情報処理プログラムの形態であってもよいし、情報処理システムまたは情報処理装置において行われる画像生成方法であってもよい。
【発明の効果】
【0039】
本発明によれば、仮想空間を第1仮想カメラから見た画像と、端末装置が備える撮像画像の少なくとも一部とを合成した第1画像を所定の表示装置に表示させるとともに、第1仮想カメラとは異なる第2仮想カメラから仮想空間を見た第2画像を端末装置に表示させる。これによって、撮像画像が表す現実空間と仮想空間とが繋がっているような感覚をプレイヤに与えることができ、仮想空間のリアリティを向上することができる。
【図面の簡単な説明】
【0040】
図1】ゲームシステム1の外観図
図2】ゲーム装置3の内部構成を示すブロック図
図3】コントローラ5の上側後方から見た斜視図
図4】コントローラ5を下側前方から見た斜視図
図5】コントローラ5の内部構造を示す図
図6】コントローラ5の内部構造を示す図
図7】コントローラ5の構成を示すブロック図
図8】端末装置7の外観構成を示す図
図9】ユーザが端末装置7を把持した様子を示す図
図10】端末装置7の内部構成を示すブロック図
図11】本実施形態において端末装置7に表示されるゲーム画像の一例を示す図
図12】本実施形態においてテレビ2に表示されるゲーム画像の一例を示す図
図13】端末用仮想カメラの側から見た場合の仮想空間を示す図
図14】テレビ用仮想カメラの側から見た場合の仮想空間を示す図
図15】ゲーム処理において用いられる各種データを示す図
図16】ゲーム装置3において実行されるゲーム処理の流れを示すメインフローチャート
図17図16に示す初期処理(ステップS1)の詳細な流れを示すフローチャート
図18図16に示すゲーム制御処理(ステップS3)の詳細な流れを示すフローチャート
図19】他の実施形態における撮像画像の描画方法を示す図
図20】本実施形態の変形例におけるゲーム制御処理の流れを示すフローチャート
図21】面および各仮想カメラの移動の一例を示す図
図22】本実施形態の他の変形例におけるゲーム制御処理の流れを示すフローチャート
【発明を実施するための形態】
【0041】
[1.ゲームシステムの全体構成]
以下、図面を参照して、本発明の一実施形態に係るゲームシステム1について説明する。図1は、ゲームシステム1の外観図である。図1において、ゲームシステム1は、テレビジョン受像器等に代表される据置型のディスプレイ装置(以下、「テレビ」と記載する)2、据置型のゲーム装置3、光ディスク4、コントローラ5、マーカ装置6、および、端末装置7を含む。ゲームシステム1は、コントローラ5および/または端末装置7を用いたゲーム操作に基づいてゲーム装置3においてゲーム処理を実行し、ゲーム処理によって得られるゲーム画像をテレビ2および/または端末装置7に表示するものである。
【0042】
ゲーム装置3には、当該ゲーム装置3に対して交換可能に用いられる情報記憶媒体の一例である光ディスク4が脱着可能に挿入される。光ディスク4には、ゲーム装置3において実行されるための情報処理プログラム(典型的にはゲームプログラム)が記憶されている。ゲーム装置3の前面には光ディスク4の挿入口が設けられている。ゲーム装置3は、挿入口に挿入された光ディスク4に記憶されている情報処理プログラムを読み出して実行することによってゲーム処理を実行する。
【0043】
ゲーム装置3には、テレビ2が接続コードを介して接続される。テレビ2は、ゲーム装置3において実行されるゲーム処理によって得られるゲーム画像を表示する。テレビ2はスピーカ2a(図2)を有しており、スピーカ2aは、上記ゲーム処理の結果得られるゲーム音声を出力する。なお、他の実施形態においては、ゲーム装置3と据置型の表示装置とは一体となっていてもよい。また、ゲーム装置3とテレビ2との通信は無線通信であってもよい。
【0044】
テレビ2の画面の周辺(図1では画面の上側)には、マーカ装置6が設置される。詳細は後述するが、ユーザ(プレイヤ)はコントローラ5を動かすゲーム操作を行うことができ、マーカ装置6は、コントローラ5の位置や姿勢等をゲーム装置3が算出するために用いられる。マーカ装置6は、その両端に2つのマーカ6Rおよび6Lを備えている。マーカ6R(マーカ6Lも同様)は、具体的には1以上の赤外LED(Light Emitting Diode)であり、テレビ2の前方に向かって赤外光を出力する。マーカ装置6はゲーム装置3に接続されており、ゲーム装置3はマーカ装置6が備える各赤外LEDの点灯を制御することが可能である。なお、マーカ装置6は可搬型であり、ユーザはマーカ装置6を自由な位置に設置することができる。図1ではマーカ装置6がテレビ2の上に設置された態様を表しているが、マーカ装置6を設置する位置および向きは任意である。
【0045】
コントローラ5は、自機に対して行われた操作の内容を表す操作データをゲーム装置3に与えるものである。コントローラ5とゲーム装置3とは無線通信によって通信可能である。本実施形態では、コントローラ5とゲーム装置3との間の無線通信には例えばBluetooth(ブルートゥース)(登録商標)の技術が用いられる。なお、他の実施形態においてはコントローラ5とゲーム装置3とは有線で接続されてもよい。また、本実施形態では、ゲームシステム1に含まれるコントローラ5は1つとするが、ゲーム装置3は複数のコントローラと通信可能であり、所定台数のコントローラを同時に使用することによって複数人でゲームをプレイすることが可能である。コントローラ5の詳細な構成については後述する。
【0046】
端末装置7は、可搬型であり、ユーザが把持可能な程度の大きさである。ユーザは端末装置7を手に持って動かしたり、あるいは、端末装置7を自由な位置に配置したりして使用することが可能である。詳細な構成は後述するが、端末装置7は、表示手段であるLCD(Liquid Crystal Display:液晶表示装置)51、および、入力手段(後述するタッチパネル52やジャイロセンサ64等)を備える。端末装置7とゲーム装置3とは無線(有線であってもよい)によって通信可能である。端末装置7は、ゲーム装置3で生成された画像(例えばゲーム画像)のデータをゲーム装置3から受信し、画像をLCD51に表示する。なお、本実施形態では表示装置としてLCDを用いているが、端末装置7は、例えばEL(Electro Luminescence:電界発光)を利用した表示装置等、他の任意の表示装置を有していてもよい。また、端末装置7は、自機に対して行われた操作の内容を表す操作データをゲーム装置3に送信する。
【0047】
[2.ゲーム装置3の内部構成]
次に、図2を参照して、ゲーム装置3の内部構成について説明する。図2は、ゲーム装置3の内部構成を示すブロック図である。ゲーム装置3は、CPU(Central Processing Unit)10、システムLSI11、外部メインメモリ12、ROM/RTC13、ディスクドライブ14、およびAV−IC15等を有する。
【0048】
CPU10は、光ディスク4に記憶されたゲームプログラムを実行することによってゲーム処理を実行するものであり、ゲームプロセッサとして機能する。CPU10は、システムLSI11に接続される。システムLSI11には、CPU10の他、外部メインメモリ12、ROM/RTC13、ディスクドライブ14およびAV−IC15が接続される。システムLSI11は、それに接続される各構成要素間におけるデータ転送の制御、表示すべき画像の生成、外部装置からのデータの取得等の処理を行う。なお、システムLSI11の内部構成については後述する。揮発性の外部メインメモリ12は、光ディスク4から読み出されたゲームプログラムや、フラッシュメモリ17から読み出されたゲームプログラム等のプログラムを記憶したり、各種データを記憶したりするものであり、CPU10のワーク領域やバッファ領域として用いられる。ROM/RTC13は、ゲーム装置3の起動用のプログラムが組み込まれるROM(いわゆるブートROM)と、時間をカウントするクロック回路(RTC:Real Time Clock)とを有する。ディスクドライブ14は、光ディスク4からプログラムデータやテクスチャデータ等を読み出し、後述する内部メインメモリ11eまたは外部メインメモリ12に読み出したデータを書き込む。
【0049】
システムLSI11には、入出力プロセッサ(I/Oプロセッサ)11a、GPU(Graphics Processor Unit)11b、DSP(Digital Signal Processor)11c、VRAM(Video RAM)11d、および内部メインメモリ11eが設けられる。図示は省略するが、これらの構成要素11a〜11eは内部バスによって互いに接続される。
【0050】
GPU11bは、描画手段の一部を形成し、CPU10からのグラフィクスコマンド(作画命令)に従って画像を生成する。VRAM11dは、GPU11bがグラフィクスコマンドを実行するために必要なデータ(ポリゴンデータやテクスチャデータ等のデータ)を記憶する。画像が生成される際には、GPU11bは、VRAM11dに記憶されたデータを用いて画像データを作成する。なお、ゲーム装置3は、テレビ2に表示する画像と、端末装置7に表示する画像との両方を生成する。以下では、テレビ2に表示される画像を「テレビ用画像」と呼び、端末装置7に表示される画像を「端末用画像」と呼ぶことがある。
【0051】
DSP11cは、オーディオプロセッサとして機能し、内部メインメモリ11eや外部メインメモリ12に記憶されるサウンドデータや音波形(音色)データを用いて、音声データを生成する。なお、本実施形態においては、ゲーム音声についてもゲーム画像と同様、テレビ2のスピーカから出力するゲーム音声と、端末装置7のスピーカから出力するゲーム音声との両方が生成される。以下では、テレビ2から出力される音声を「テレビ用音声」と呼び、端末装置7から出力される音声を「端末用音声」と呼ぶことがある。
【0052】
上記のようにゲーム装置3において生成される画像および音声のうちで、テレビ2において出力される画像および音声のデータは、AV−IC15によって読み出される。AV−IC15は、読み出した画像データをAVコネクタ16を介してテレビ2に出力するとともに、読み出した音声データを、テレビ2に内蔵されるスピーカ2aに出力する。これによって、テレビ2に画像が表示されるとともにスピーカ2aから音が出力される。なお、ゲーム装置3とテレビ2との接続は、どのような方式で行われてもよいが、ゲーム装置3は、テレビ2を制御する制御指令を有線または無線でテレビ2へ送信するようにしてもよい。例えばHDMI(High−Definition Multimedia Interface)規格に則ったHDMIケーブルが用いられてもよい。HDMI規格では、CEC(Consumer Electronics Control)と呼ばれる機能によって、接続相手の機器を制御することが可能である。したがって、HDMIケーブルが用いられる場合のように、ゲーム装置3がテレビ2に対する制御が可能である場合には、ゲーム装置3は、適宜のタイミングでテレビ2の電源をオンにしたり、テレビ2の入力を切り替えたりすることができる。
【0053】
また、ゲーム装置3において生成される画像および音声のうちで、端末装置7において出力される画像および音声のデータは、入出力プロセッサ11a等によって端末装置7へ送信される。入出力プロセッサ11a等による端末装置7へのデータの送信については後述する。
【0054】
入出力プロセッサ11aは、それに接続される構成要素との間でデータの送受信を実行したり、外部装置からのデータのダウンロードを実行したりする。入出力プロセッサ11aは、フラッシュメモリ17、ネットワーク通信モジュール18、コントローラ通信モジュール19、拡張コネクタ20、メモリカード用コネクタ21、コーデックLSI27に接続される。また、ネットワーク通信モジュール18にはアンテナ22が接続される。コントローラ通信モジュール19にはアンテナ23が接続される。コーデックLSI27は端末通信モジュール28に接続され、端末通信モジュール28にはアンテナ29が接続される。
【0055】
ゲーム装置3は、インターネット等のネットワークに接続して外部の情報処理装置(例えば他のゲーム装置や、各種サーバ等)と通信を行うことが可能である。すなわち、入出力プロセッサ11aは、ネットワーク通信モジュール18およびアンテナ22を介してインターネット等のネットワークに接続可能であり、ネットワークに接続される他の装置と通信を行うことができる。入出力プロセッサ11aは、定期的にフラッシュメモリ17にアクセスし、ネットワークへ送信する必要があるデータの有無を検出し、当該データが有る場合には、ネットワーク通信モジュール18およびアンテナ22を介してネットワークに送信する。また、入出力プロセッサ11aは、外部情報処理装置から送信されてくるデータやダウンロードサーバからダウンロードしたデータを、ネットワーク、アンテナ22およびネットワーク通信モジュール18を介して受信し、受信したデータをフラッシュメモリ17に記憶する。CPU10はゲームプログラムを実行することにより、フラッシュメモリ17に記憶されたデータを読み出してゲームプログラムで利用する。フラッシュメモリ17には、ゲーム装置3と外部情報処理装置との間で送受信されるデータの他、ゲーム装置3を利用してプレイしたゲームのセーブデータ(ゲームの結果データまたは途中データ)が記憶されてもよい。また、フラッシュメモリ17にはゲームプログラムが記憶されてもよい。
【0056】
また、ゲーム装置3は、コントローラ5からの操作データを受信することが可能である。すなわち、入出力プロセッサ11aは、コントローラ5から送信される操作データをアンテナ23およびコントローラ通信モジュール19を介して受信し、内部メインメモリ11eまたは外部メインメモリ12のバッファ領域に記憶(一時記憶)する。
【0057】
また、ゲーム装置3は、端末装置7との間で画像や音声等のデータを送受信することが可能である。入出力プロセッサ11aは、端末装置7へゲーム画像(端末用ゲーム画像)を送信する場合、GPU11bが生成したゲーム画像のデータをコーデックLSI27へ出力する。コーデックLSI27は、入出力プロセッサ11aからの画像データに対して所定の圧縮処理を行う。端末通信モジュール28は、端末装置7との間で無線通信を行う。したがって、コーデックLSI27によって圧縮された画像データは、端末通信モジュール28によってアンテナ29を介して端末装置7へ送信される。なお、本実施形態では、ゲーム装置3から端末装置7へ送信される画像データはゲームに用いるものであり、ゲームにおいては表示される画像に遅延が生じるとゲームの操作性に悪影響が出る。そのため、ゲーム装置3から端末装置7への画像データの送信に関しては、できるだけ遅延が生じないようにすることが好ましい。したがって、本実施形態では、コーデックLSI27は、例えばH.264規格といった高効率の圧縮技術を用いて画像データを圧縮する。なお、それ以外の圧縮技術を用いてもよいし、通信速度が十分である場合には無圧縮で画像データを送信する構成であってもよい。また、端末通信モジュール28は、例えばWi−Fiの認証を受けた通信モジュールであり、例えばIEEE802.11n規格で採用されるMIMO(Multiple Input Multiple Output)の技術を用いて端末装置7との間の無線通信を高速に行うようにしてもよいし、他の通信方式を用いてもよい。
【0058】
また、ゲーム装置3は、画像データの他、音声データを端末装置7へ送信する。すなわち、入出力プロセッサ11aは、DSP11cが生成した音声データを、コーデックLSI27を介して端末通信モジュール28へ出力する。コーデックLSI27は、音声データに対しても画像データと同様に圧縮処理を行う。音声データに対する圧縮の方式は、どのような方式であってもよいが、圧縮率が高く、音声の劣化が少ない方式が好ましい。また、他の実施形態においては、音声データは圧縮されずに送信されてもよい。端末通信モジュール28は、圧縮された画像データおよび音声データを、アンテナ29を介して端末装置7へ送信する。
【0059】
さらに、ゲーム装置3は、上記画像データおよび音声データの他に、必要に応じて各種の制御データを端末装置7へ送信する。制御データは、端末装置7が備える構成要素に対する制御指示を表すデータであり、例えばマーカ部(図10に示すマーカ部55)の点灯を制御する指示や、カメラ(図10に示すカメラ56)の撮像を制御する指示等を表す。入出力プロセッサ11aは、CPU10の指示に応じて制御データを端末装置7へ送信する。なお、この制御データに関して、本実施形態ではコーデックLSI27はデータの圧縮処理を行わないが、他の実施形態においては圧縮処理を行うようにしてもよい。なお、ゲーム装置3から端末装置7へ送信される上述のデータは、必要に応じて暗号化がされていてもよいし、されていなくともよい。
【0060】
また、ゲーム装置3は、端末装置7から各種データを受信可能である。詳細は後述するが、本実施形態では、端末装置7は、操作データ、画像データ、および音声データを送信する。端末装置7から送信される各データはアンテナ29を介して端末通信モジュール28によって受信される。ここで、端末装置7からの画像データおよび音声データは、ゲーム装置3から端末装置7への画像データおよび音声データと同様の圧縮処理が施されている。したがって、これら画像データおよび音声データについては、端末通信モジュール28からコーデックLSI27に送られ、コーデックLSI27によって伸張処理が施されて入出力プロセッサ11aに出力される。一方、端末装置7からの操作データに関しては、画像や音声に比べてデータ量が少ないので、圧縮処理が施されていなくともよい。また、必要に応じて暗号化がされていてもよいし、されていなくともよい。したがって、操作データは、端末通信モジュール28で受信された後、コーデックLSI27を介して入出力プロセッサ11aに出力される。入出力プロセッサ11aは、端末装置7から受信したデータを、内部メインメモリ11eまたは外部メインメモリ12のバッファ領域に記憶(一時記憶)する。
【0061】
また、ゲーム装置3は、他の機器や外部記憶媒体に接続することが可能である。すなわち、入出力プロセッサ11aには、拡張コネクタ20およびメモリカード用コネクタ21が接続される。拡張コネクタ20は、USBやSCSIのようなインターフェースのためのコネクタである。拡張コネクタ20に対しては、外部記憶媒体のようなメディアを接続したり、他のコントローラ等の周辺機器を接続したり、有線の通信用コネクタを接続することによってネットワーク通信モジュール18に替えてネットワークとの通信を行ったりすることができる。メモリカード用コネクタ21は、メモリカードのような外部記憶媒体を接続するためのコネクタである。例えば、入出力プロセッサ11aは、拡張コネクタ20やメモリカード用コネクタ21を介して外部記憶媒体にアクセスし、外部記憶媒体にデータを保存したり、外部記憶媒体からデータを読み出したりすることができる。
【0062】
ゲーム装置3には、電源ボタン24、リセットボタン25、およびイジェクトボタン26が設けられる。電源ボタン24およびリセットボタン25は、システムLSI11に接続される。電源ボタン24がオンされると、図示しないACアダプタによって外部の電源からゲーム装置3の各構成要素に対して電力が供給される。リセットボタン25が押されると、システムLSI11は、ゲーム装置3の起動プログラムを再起動する。イジェクトボタン26は、ディスクドライブ14に接続される。イジェクトボタン26が押されると、ディスクドライブ14から光ディスク4が排出される。
【0063】
なお、他の実施形態においては、ゲーム装置3が備える各構成要素のうちでいくつかの構成要素は、ゲーム装置3とは別体の拡張機器として構成されてもよい。このとき、拡張機器は、例えば上記拡張コネクタ20を介してゲーム装置3と接続されるようにしてもよい。具体的には、拡張機器は、例えば上記コーデックLSI27、端末通信モジュール28およびアンテナ29の各構成要素を備えており、拡張コネクタ20に対して着脱可能であってもよい。これによれば、上記各構成要素を備えていないゲーム装置に対して上記拡張機器を接続することによって、当該ゲーム装置を端末装置7と通信可能な構成とすることができる。
【0064】
[3.コントローラ5の構成]
次に、図3図7を参照して、コントローラ5について説明する。図3および図4は、コントローラ5の外観構成を示す斜視図である。図3は、コントローラ5の上側後方から見た斜視図であり、図4は、コントローラ5を下側前方から見た斜視図である。
【0065】
図3および図4において、コントローラ5は、例えばプラスチック成型によって形成されたハウジング31を有している。ハウジング31は、その前後方向(図3に示すZ軸方向)を長手方向とした略直方体形状を有しており、全体として大人や子供の片手で把持可能な大きさである。ユーザは、コントローラ5に設けられたボタンを押下すること、および、コントローラ5自体を動かしてその位置や姿勢(傾き)を変えることによってゲーム操作を行うことができる。
【0066】
ハウジング31には、複数の操作ボタンが設けられる。図3に示すように、ハウジング31の上面には、十字ボタン32a、1番ボタン32b、2番ボタン32c、Aボタン32d、マイナスボタン32e、ホームボタン32f、プラスボタン32g、および電源ボタン32hが設けられる。本明細書では、これらのボタン32a〜32hが設けられるハウジング31の上面を「ボタン面」と呼ぶことがある。一方、図4に示すように、ハウジング31の下面には凹部が形成されており、当該凹部の後面側傾斜面にはBボタン32iが設けられる。これらの各操作ボタン32a〜32iには、ゲーム装置3が実行する情報処理プログラムに応じた機能が適宜割り当てられる。また、電源ボタン32hは遠隔からゲーム装置3本体の電源をオン/オフするためのものである。ホームボタン32fおよび電源ボタン32hは、その上面がハウジング31の上面に埋没している。これによって、ユーザがホームボタン32fまたは電源ボタン32hを誤って押下することを防止することができる。
【0067】
ハウジング31の後面にはコネクタ33が設けられている。コネクタ33は、コントローラ5に他の機器(例えば、他のセンサユニットやコントローラ)を接続するために利用される。また、ハウジング31の後面におけるコネクタ33の両側には、上記他の機器が容易に離脱することを防止するために係止穴33aが設けられている。
【0068】
ハウジング31上面の後方には複数(図3では4つ)のLED34a〜34dが設けられる。ここで、コントローラ5には、他のコントローラと区別するためにコントローラ種別(番号)が付与される。各LED34a〜34dは、コントローラ5に現在設定されている上記コントローラ種別をユーザに通知したり、コントローラ5の電池残量をユーザに通知したりする等の目的で用いられる。具体的には、コントローラ5を用いてゲーム操作が行われる際、上記コントローラ種別に応じて複数のLED34a〜34dのいずれか1つが点灯する。
【0069】
また、コントローラ5は撮像情報演算部35(図6)を有しており、図4に示すように、ハウジング31前面には撮像情報演算部35の光入射面35aが設けられる。光入射面35aは、マーカ6Rおよび6Lからの赤外光を少なくとも透過する材質で構成される。
【0070】
ハウジング31上面における1番ボタン32bとホームボタン32fとの間には、コントローラ5に内蔵されるスピーカ47(図5)からの音を外部に放出するための音抜き孔31aが形成されている。
【0071】
次に、図5および図6を参照して、コントローラ5の内部構造について説明する。図5および図6は、コントローラ5の内部構造を示す図である。なお、図5は、コントローラ5の上筐体(ハウジング31の一部)を外した状態を示す斜視図である。図6は、コントローラ5の下筐体(ハウジング31の一部)を外した状態を示す斜視図である。図6に示す斜視図は、図5に示す基板30を裏面から見た斜視図となっている。
【0072】
図5において、ハウジング31の内部には基板30が固設されており、当該基板30の上主面上に各操作ボタン32a〜32h、各LED34a〜34d、加速度センサ37、アンテナ45、およびスピーカ47等が設けられる。これらは、基板30等に形成された配線(図示せず)によってマイクロコンピュータ(Micro Computer:マイコン)42(図6参照)に接続される。本実施形態では、加速度センサ37は、X軸方向に関してコントローラ5の中心からずれた位置に配置されている。これによって、コントローラ5をZ軸回りに回転させたときのコントローラ5の動きが算出しやすくなる。また、加速度センサ37は、長手方向(Z軸方向)に関してコントローラ5の中心よりも前方に配置されている。また、無線モジュール44(図6)およびアンテナ45によって、コントローラ5がワイヤレスコントローラとして機能する。
【0073】
一方、図6において、基板30の下主面上の前端縁に撮像情報演算部35が設けられる。撮像情報演算部35は、コントローラ5の前方から順に赤外線フィルタ38、レンズ39、撮像素子40、および画像処理回路41を備えている。これらの部材38〜41はそれぞれ基板30の下主面に取り付けられる。
【0074】
さらに、基板30の下主面上には、上記マイコン42およびバイブレータ46が設けられている。バイブレータ46は、例えば振動モータやソレノイドであり、基板30等に形成された配線によってマイコン42と接続される。マイコン42の指示によりバイブレータ46が作動することによってコントローラ5に振動が発生する。これによって、コントローラ5を把持しているユーザの手にその振動が伝達される、いわゆる振動対応ゲームを実現することができる。本実施形態では、バイブレータ46は、ハウジング31のやや前方寄りに配置される。つまり、バイブレータ46がコントローラ5の中心よりも端側に配置することによって、バイブレータ46の振動によりコントローラ5全体を大きく振動させることができる。また、コネクタ33は、基板30の下主面上の後端縁に取り付けられる。なお、図5および図6に示す他、コントローラ5は、マイコン42の基本クロックを生成する水晶振動子、スピーカ47に音声信号を出力するアンプ等を備えている。
【0075】
なお、図3図6に示したコントローラ5の形状や、各操作ボタンの形状、加速度センサやバイブレータの数および設置位置等は単なる一例に過ぎず、他の形状、数、および設置位置であってもよい。また、本実施形態では、撮像手段による撮像方向はZ軸正方向であるが、撮像方向はいずれの方向であってもよい。すなわち、コントローラ5における撮像情報演算部35の位置(撮像情報演算部35の光入射面35a)は、ハウジング31の前面でなくてもよく、ハウジング31の外部から光を取り入れることができれば他の面に設けられてもかまわない。
【0076】
図7は、コントローラ5の構成を示すブロック図である。コントローラ5は、操作部32(各操作ボタン32a〜32i)、撮像情報演算部35、通信部36、加速度センサ37、およびジャイロセンサ48を備えている。コントローラ5は、自機に対して行われた操作内容を表すデータを操作データとしてゲーム装置3へ送信するものである。なお、以下では、コントローラ5が送信する操作データを「コントローラ操作データ」と呼び、端末装置7が送信する操作データを「端末操作データ」と呼ぶことがある。
【0077】
操作部32は、上述した各操作ボタン32a〜32iを含み、各操作ボタン32a〜32iに対する入力状態(各操作ボタン32a〜32iが押下されたか否か)を表す操作ボタンデータを通信部36のマイコン42へ出力する。
【0078】
撮像情報演算部35は、撮像手段が撮像した画像データを解析してその中で輝度が高い領域を判別してその領域の重心位置やサイズなどを算出するためのシステムである。撮像情報演算部35は、例えば最大200フレーム/秒程度のサンプリング周期を有するので、比較的高速なコントローラ5の動きでも追跡して解析することができる。
【0079】
撮像情報演算部35は、赤外線フィルタ38、レンズ39、撮像素子40、および画像処理回路41を含んでいる。赤外線フィルタ38は、コントローラ5の前方から入射する光から赤外線のみを通過させる。レンズ39は、赤外線フィルタ38を透過した赤外線を集光して撮像素子40へ入射させる。撮像素子40は、例えばCMOSセンサやあるいはCCDセンサのような固体撮像素子であり、レンズ39が集光した赤外線を受光して画像信号を出力する。ここで、撮像対象となる端末装置7のマーカ部55およびマーカ装置6は、赤外光を出力するマーカで構成される。したがって、赤外線フィルタ38を設けることによって、撮像素子40は、赤外線フィルタ38を通過した赤外線だけを受光して画像データを生成するので、撮像対象(マーカ部55および/またはマーカ装置6)の画像をより正確に撮像することができる。以下では、撮像素子40によって撮像された画像を撮像画像と呼ぶ。撮像素子40によって生成された画像データは、画像処理回路41で処理される。画像処理回路41は、撮像画像内における撮像対象の位置を算出する。画像処理回路41は、算出された位置を示す座標を通信部36のマイコン42へ出力する。この座標のデータは、マイコン42によって操作データとしてゲーム装置3に送信される。以下では、上記座標を「マーカ座標」と呼ぶ。マーカ座標はコントローラ5自体の向き(傾斜角度)や位置に対応して変化するので、ゲーム装置3はこのマーカ座標を用いてコントローラ5の向きや位置を算出することができる。
【0080】
なお、他の実施形態においては、コントローラ5は画像処理回路41を備えていない構成であってもよく、撮像画像自体がコントローラ5からゲーム装置3へ送信されてもよい。このとき、ゲーム装置3は、画像処理回路41と同様の機能を有する回路あるいはプログラムを有しており、上記マーカ座標を算出するようにしてもよい。
【0081】
加速度センサ37は、コントローラ5の加速度(重力加速度を含む)を検出する、すなわち、コントローラ5に加わる力(重力を含む)を検出する。加速度センサ37は、当該加速度センサ37の検出部に加わっている加速度のうち、センシング軸方向に沿った直線方向の加速度(直線加速度)の値を検出する。例えば、2軸以上の多軸加速度センサの場合には、加速度センサの検出部に加わっている加速度として、各軸に沿った成分の加速度をそれぞれ検出する。なお、加速度センサ37は、例えば静電容量式のMEMS(Micro Electro Mechanical System)型加速度センサであるとするが、他の方式の加速度センサを用いるようにしてもよい。
【0082】
本実施形態では、加速度センサ37は、コントローラ5を基準とした上下方向(図3に示すY軸方向)、左右方向(図3に示すX軸方向)および前後方向(図3に示すZ軸方向)の3軸方向に関してそれぞれ直線加速度を検出する。加速度センサ37は、各軸に沿った直線方向に関する加速度を検出するものであるため、加速度センサ37からの出力は3軸それぞれの直線加速度の値を表すものとなる。すなわち、検出された加速度は、コントローラ5を基準に設定されるXYZ座標系(コントローラ座標系)における3次元のベクトルとして表される。
【0083】
加速度センサ37が検出した加速度を表すデータ(加速度データ)は、通信部36へ出力される。なお、加速度センサ37が検出した加速度は、コントローラ5自体の向き(傾斜角度)や移動に対応して変化するので、ゲーム装置3は取得された加速度データを用いてコントローラ5の向きや移動を算出することができる。本実施形態では、ゲーム装置3は、取得された加速度データに基づいてコントローラ5の姿勢や傾斜角度等を算出する。
【0084】
なお、加速度センサ37(後述する加速度センサ63についても同様)から出力される加速度の信号に基づいて、ゲーム装置3のプロセッサ(例えばCPU10)またはコントローラ5のプロセッサ(例えばマイコン42)等のコンピュータが処理を行うことによって、コントローラ5に関するさらなる情報を推測または算出(判定)することができることは、当業者であれば本明細書の説明から容易に理解できるであろう。例えば、加速度センサ37を搭載するコントローラ5が静止状態であることを前提としてコンピュータ側の処理が実行される場合(すなわち、加速度センサによって検出される加速度が重力加速度のみであるとして処理が実行される場合)、コントローラ5が現実に静止状態であれば、検出された加速度に基づいてコントローラ5の姿勢が重力方向に対して傾いているか否かまたはどの程度傾いているかを知ることができる。具体的には、加速度センサ37の検出軸が鉛直下方向を向いている状態を基準としたとき、1G(重力加速度)がかかっているか否かによって、コントローラ5が基準に対して傾いているか否かを知ることができるし、その大きさによって基準に対してどの程度傾いているかも知ることができる。また、多軸の加速度センサ37の場合には、さらに各軸の加速度の信号に対して処理を施すことによって、重力方向に対してコントローラ5がどの程度傾いているかをより詳細に知ることができる。この場合において、プロセッサは、加速度センサ37からの出力に基づいてコントローラ5の傾斜角度を算出してもよいし、当該傾斜角度を算出せずに、コントローラ5の傾斜方向を算出するようにしてもよい。このように、加速度センサ37をプロセッサと組み合わせて用いることによって、コントローラ5の傾斜角度または姿勢を判定することができる。
【0085】
一方、コントローラ5が動的な状態(コントローラ5が動かされている状態)であることを前提とする場合には、加速度センサ37は重力加速度に加えてコントローラ5の移動に応じた加速度を検出するので、検出された加速度から重力加速度の成分を所定の処理により除去することによってコントローラ5の移動方向を知ることができる。また、コントローラ5が動的な状態であることを前提とする場合であっても、検出された加速度から、加速度センサの移動に応じた加速度の成分を所定の処理により除去することによって、重力方向に対するコントローラ5の傾きを知ることが可能である。なお、他の実施例では、加速度センサ37は、内蔵の加速度検出手段で検出された加速度信号をマイコン42に出力する前に当該加速度信号に対して所定の処理を行うための、組込み式の処理装置または他の種類の専用の処理装置を備えていてもよい。組込み式または専用の処理装置は、例えば、加速度センサ37が静的な加速度(例えば、重力加速度)を検出するために用いられる場合、加速度信号を傾斜角(あるいは、他の好ましいパラメータ)に変換するものであってもよい。
【0086】
ジャイロセンサ48は、3軸(本実施形態では、XYZ軸)回りの角速度を検出する。本明細書では、コントローラ5の撮像方向(Z軸正方向)を基準として、X軸回りの回転方向をピッチ方向、Y軸回りの回転方向をヨー方向、Z軸回りの回転方向をロール方向と呼ぶ。ジャイロセンサ48は、3軸回りの角速度を検出することができればよく、用いるジャイロセンサの数および組み合わせはどのようなものであってもよい。例えば、ジャイロセンサ48は、3軸ジャイロセンサであってもよいし、2軸ジャイロセンサと1軸ジャイロセンサとを組み合わせて3軸周りの角速度を検出するものであってもよい。ジャイロセンサ48で検出された角速度を表すデータは、通信部36へ出力される。また、ジャイロセンサ48は1軸または2軸回りの角速度を検出するものであってもよい。
【0087】
通信部36は、マイコン42、メモリ43、無線モジュール44、およびアンテナ45を含んでいる。マイコン42は、処理を行う際にメモリ43を記憶領域として用いながら、マイコン42が取得したデータをゲーム装置3へ無線送信する無線モジュール44を制御する。
【0088】
操作部32、撮像情報演算部35、加速度センサ37、およびジャイロセンサ48からマイコン42へ出力されたデータは、一時的にメモリ43に格納される。これらのデータは、操作データ(コントローラ操作データ)としてゲーム装置3へ送信される。すなわち、マイコン42は、ゲーム装置3のコントローラ通信モジュール19への送信タイミングが到来すると、メモリ43に格納されている操作データを無線モジュール44へ出力する。無線モジュール44は、例えばBluetooth(ブルートゥース)(登録商標)の技術を用いて、所定周波数の搬送波を操作データで変調し、その微弱電波信号をアンテナ45から放射する。つまり、操作データは、無線モジュール44で微弱電波信号に変調されてコントローラ5から送信される。微弱電波信号はゲーム装置3側のコントローラ通信モジュール19で受信される。受信された微弱電波信号について復調や復号を行うことによって、ゲーム装置3は操作データを取得することができる。そして、ゲーム装置3のCPU10は、コントローラ5から取得した操作データを用いてゲーム処理を行う。なお、通信部36からコントローラ通信モジュール19への無線送信は所定の周期毎に逐次行われるが、ゲームの処理は1/60秒を単位として(1フレーム時間として)行われることが一般的であるので、この時間以下の周期で送信を行うことが好ましい。コントローラ5の通信部36は、例えば1/200秒に1回の割合で操作データをゲーム装置3のコントローラ通信モジュール19へ出力する。
【0089】
以上のように、コントローラ5は、自機に対する操作を表す操作データとして、マーカ座標データ、加速度データ、角速度データ、および操作ボタンデータを送信可能である。また、ゲーム装置3は、上記操作データをゲーム入力として用いてゲーム処理を実行する。したがって、上記コントローラ5を用いることによって、ユーザは、各操作ボタンを押下する従来の一般的なゲーム操作に加えて、コントローラ5自体を動かすゲーム操作を行うことができる。例えば、コントローラ5を任意の姿勢に傾ける操作、コントローラ5によって画面上の任意の位置を指示する操作、および、コントローラ5自体を動かす操作等を行うことが可能となる。
【0090】
また、本実施形態において、コントローラ5は、ゲーム画像を表示する表示手段を有しないが、例えば電池残量を表す画像等を表示するための表示手段を有していてもよい。
【0091】
[4.端末装置7の構成]
次に、図8図10を参照して、端末装置7の構成について説明する。図8は、端末装置7の外観構成を示す図である。図8における(a)図は端末装置7の正面図であり、(b)図は上面図であり、(c)図は右側面図であり、(d)図は下面図である。また、図9は、ユーザが端末装置7を把持した様子を示す図である。
【0092】
図8に示されるように、端末装置7は、大略的には横長の長方形の板状形状であるハウジング50を備える。ハウジング50は、ユーザが把持することができる程度の大きさである。したがって、ユーザは、端末装置7を持って動かしたり、端末装置7の配置位置を変更したりすることができる。
【0093】
端末装置7は、ハウジング50の表面にLCD51を有する。LCD51は、ハウジング50の表面の中央付近に設けられる。したがって、ユーザは、図9に示すようにLCD51の両側部分のハウジング50を持つことによって、LCD51の画面を見ながら端末装置を持って動かすことができる。なお、図9ではユーザがLCD51の左右両側の部分のハウジング50を持つことで端末装置7を横持ちで(横に長い向きにして)持つ例を示しているが、端末装置7を縦持ちで(縦に長い向きにして)持つことも可能である。
【0094】
図8の(a)図に示すように、端末装置7は、操作手段として、LCD51の画面上にタッチパネル52を有する。本実施形態では、タッチパネル52は抵抗膜方式のタッチパネルである。ただし、タッチパネルは抵抗膜方式に限らず、例えば静電容量方式等、任意の方式のタッチパネルを用いることができる。また、タッチパネル52はシングルタッチ方式でもよいし、マルチタッチ方式であってもよい。本実施形態では、タッチパネル52として、LCD51の解像度と同解像度(検出精度)のものを利用する。ただし、必ずしもタッチパネル52の解像度とLCD51の解像度が一致している必要はない。タッチパネル52に対する入力は通常タッチペンを用いて行われるが、タッチペンに限らずユーザの指でタッチパネル52に対する入力をすることも可能である。なお、ハウジング50には、タッチパネル52に対する操作を行うために用いられるタッチペンを収納するための収納穴が設けられていてもよい。このように、端末装置7はタッチパネル52を備えるので、ユーザは、端末装置7を動かしながらタッチパネル52を操作することができる。つまりユーザは、LCD51の画面を動かしつつ、その画面に対して直接(タッチパネル52によって)入力を行うことができる。
【0095】
図8に示すように、端末装置7は、操作手段として、2つのアナログスティック53Aおよび53Bと、複数のボタン54A〜54Lとを備えている。各アナログスティック53Aおよび53Bは、方向を指示するデバイスである。各アナログスティック53Aおよび53Bは、ユーザの指で操作されるスティック部がハウジング50の表面に対して任意の方向(上下左右および斜め方向の任意の角度)にスライド(または傾倒)することができるように構成されている。また、左アナログスティック53AはLCD51の画面の左側に、右アナログスティック53BはLCD51の画面の右側にそれぞれ設けられる。したがって、ユーザは、左右いずれの手でもアナログスティックを用いて方向を指示する入力を行うことができる。また、図9に示すように、各アナログスティック53Aおよび53Bは、ユーザが端末装置7の左右部分を把持した状態で操作可能な位置に設けられるので、ユーザは、端末装置7を持って動かす場合においても各アナログスティック53Aおよび53Bを容易に操作することができる。
【0096】
各ボタン54A〜54Lは、所定の入力を行うための操作手段である。以下に示すように、各ボタン54A〜54Lは、ユーザが端末装置7の左右部分を把持した状態で操作可能な位置に設けられる(図9参照)。したがって、ユーザは、端末装置7を持って動かす場合においてもこれらの操作手段を容易に操作することができる。
【0097】
図8の(a)図に示すように、ハウジング50の表面には、各操作ボタン54A〜54Lのうち、十字ボタン(方向入力ボタン)54Aと、ボタン54B〜54Hとが設けられる。つまり、これらのボタン54A〜54Gは、ユーザの親指で操作可能な位置に配置されている(図9参照)。
【0098】
十字ボタン54Aは、LCD51の左側であって、左アナログスティック53Aの下側に設けられる。つまり、十字ボタン54Aはユーザの左手で操作可能な位置に配置されている。十字ボタン54Aは、十字の形状を有しており、上下左右の方向を指示することが可能なボタンである。また、ボタン54B〜54Dは、LCD51の下側に設けられる。これら3つのボタン54B〜54Dは、左右両方の手で操作可能な位置に配置されている。また、4つのボタン54E〜54Hは、LCD51の右側であって、右アナログスティック53Bの下側に設けられる。つまり、4つのボタン54E〜54Hはユーザの右手で操作可能な位置に配置されている。さらに、4つのボタン54E〜54Hは、(4つのボタン54E〜54Hの中心位置に対して)上下左右の位置関係となるように配置されている。したがって、端末装置7は、ユーザに上下左右の方向を指示させるためのボタンとして4つのボタン54E〜54Hを機能させることも可能である。
【0099】
また、図8の(a)図、(b)図、および(c)図に示すように、第1Lボタン54Iおよび第1Rボタン54Jは、ハウジング50の斜め上部分(左上部分および右上部分)に設けられる。具体的には、第1Lボタン54Iは、板状のハウジング50における上側の側面の左端に設けられ、上側および左側の側面から露出している。また、第1Rボタン54Jは、ハウジング50における上側の側面の右端に設けられ、上側および右側の側面から露出している。このように、第1Lボタン54Iは、ユーザの左手人差し指で操作可能な位置に配置され、第1Rボタン54Jは、ユーザの右手人差し指で操作可能な位置に配置される(図9参照)。
【0100】
また、図8の(b)図および(c)図に示すように、第2Lボタン54Kおよび第2Rボタン54Lは、板状のハウジング50の裏面(すなわちLCD51が設けられる表面の反対側の面)に突起して設けられる足部59Aおよび59Bに配置される。具体的には、第2Lボタン54Kは、ハウジング50の裏面の左側(表面側から見たときの左側)のやや上方に設けられ、第2Rボタン54Lは、ハウジング50の裏面の右側(表面側から見たときの右側)のやや上方に設けられる。換言すれば、第2Lボタン54Kは、表面に設けられる左アナログスティック53Aの概ね反対側の位置に設けられ、第2Rボタン54Lは、表面に設けられる右アナログスティック53Bの概ね反対側の位置に設けられる。このように、第2Lボタン54Kは、ユーザの左手中指で操作可能な位置に配置され、第2Rボタン54Lは、ユーザの右手中指で操作可能な位置に配置される(図9参照)。また、第2Lボタン54Kおよび第2Rボタン54Lは、図8の(c)図に示すように、上記足部59Aおよび59Bの斜め上方を向く面に設けられ、斜め上方を向くボタン面を有する。ユーザが端末装置7を把持した場合には中指は上下方向に動くと考えられるので、ボタン面を上方に向けることで、ユーザは第2Lボタン54Kおよび第2Rボタン54Lを押下しやすくなる。また、ハウジング50の裏面に足部が設けられることにより、ユーザはハウジング50を把持しやすくなり、かつ、足部にボタンが設けられることで、ハウジング50を把持したまま操作しやすくなる。
【0101】
なお、図8に示す端末装置7に関しては、第2Lボタン54Kおよび第2Rボタン54Lが裏面に設けられるので、LCD51の画面(ハウジング50の表面)が上を向いた状態で端末装置7を載置させる場合、画面が完全に水平にはならない場合がある。そのため、他の実施形態においては、ハウジング50の裏面に3つ以上の足部が形成されてもよい。これによれば、LCD51の画面が上を向いた状態では足部が床面に接することで床面に載置できるので、画面が水平になるように端末装置7を載置することができる。また、着脱可能な足部を追加することで端末装置7を水平に載置するようにしてもよい。
【0102】
各ボタン54A〜54Lには、ゲームプログラムに応じた機能が適宜割り当てられる。例えば、十字ボタン54Aおよびボタン54E〜54Hは方向指示操作や選択操作等に用いられてもよいし、各ボタン54B〜54Dは決定操作やキャンセル操作等に用いられてもよい。
【0103】
なお、図示しないが、端末装置7は、端末装置7の電源をオン/オフするための電源ボタンを有している。また、端末装置7は、LCD51の画面表示をオン/オフするためのボタンや、ゲーム装置3との接続設定(ペアリング)を行うためのボタンや、スピーカ(図10に示すスピーカ67)の音量を調節するためのボタンを有していてもよい。
【0104】
図8の(a)図に示すように、端末装置7は、マーカ55Aおよびマーカ55Bからなるマーカ部(図10に示すマーカ部55)をハウジング50の表面に備えている。マーカ部55は、LCD51の上側に設けられる。各マーカ55Aおよびマーカ55Bは、マーカ装置6の各マーカ6Rおよび6Lと同様、1以上の赤外LEDで構成される。マーカ部55は、上述のマーカ装置6と同様、コントローラ5の動き等をゲーム装置3が算出するために用いられる。また、ゲーム装置3はマーカ部55が備える各赤外LEDの点灯を制御することが可能である。
【0105】
端末装置7は、撮像部であるカメラ56を備えている。カメラ56は、所定の解像度を有する撮像素子(例えば、CCDイメージセンサやCMOSイメージセンサ等)と、レンズとを含む。図8に示すように、本実施形態では、カメラ56はハウジング50の表面に設けられる。したがって、カメラ56は、端末装置7を持っているユーザの顔を撮像することができ、例えばLCD51を見ながらゲームを行っている時のユーザを撮像することができる。なお、本実施形態においては、撮像部(カメラ56)は、表示部(LCD51)の画面の正面方向を撮像可能な向きに設けられる。すなわち、カメラ56はハウジング50の表面に設けられる。ただし、他の実施形態においては、カメラ56を設ける位置は任意であり、カメラ56は他の方向を撮像する向きに設けられてもよい。
【0106】
なお、端末装置7は、音声入力手段であるマイク(図10に示すマイク69)を備えている。ハウジング50の表面には、マイクロフォン用孔60が設けられる。マイク69はこのマイクロフォン用孔60の奥のハウジング50内部に設けられる。マイクは、ユーザの音声等、端末装置7の周囲の音を検出する。
【0107】
端末装置7は、音声出力手段であるスピーカ(図10に示すスピーカ67)を備えている。図8の(d)図に示すように、ハウジング50の下側側面にはスピーカ孔57が設けられる。スピーカ67の出力音はこのスピーカ孔57から出力される。本実施形態では、端末装置7は2つのスピーカを備えており、左スピーカおよび右スピーカのそれぞれの位置にスピーカ孔57が設けられる。
【0108】
また、端末装置7は、他の装置を端末装置7に接続するための拡張コネクタ58を備えている。本実施形態においては、図8の(d)図に示すように、拡張コネクタ58は、ハウジング50の下側側面に設けられる。なお、拡張コネクタ58に接続される他の装置はどのようなものであってもよく、例えば、特定のゲームに用いるコントローラ(銃型のコントローラ等)やキーボード等の入力装置であってもよい。他の装置を接続する必要がなければ、拡張コネクタ58は設けられていなくともよい。
【0109】
なお、図8に示した端末装置7に関して、各操作ボタンやハウジング50の形状や、各構成要素の数および設置位置等は単なる一例に過ぎず、他の形状、数、および設置位置であってもよい。
【0110】
次に、図10を参照して、端末装置7の内部構成について説明する。図10は、端末装置7の内部構成を示すブロック図である。図10に示すように、端末装置7は、図8に示した構成の他、タッチパネルコントローラ61、磁気センサ62、加速度センサ63、ジャイロセンサ64、ユーザインタフェースコントローラ(UIコントローラ)65、コーデックLSI66、スピーカ67、サウンドIC68、マイク69、無線モジュール70、アンテナ71、赤外線通信モジュール72、フラッシュメモリ73、電源IC74、電池75、および、バイブレータ79を備える。これらの電子部品は、電子回路基板上に実装されてハウジング50内に収納される。
【0111】
UIコントローラ65は、各種の入出力部に対するデータの入出力を制御するための回路である。UIコントローラ65は、タッチパネルコントローラ61、アナログスティック53(アナログスティック53Aおよび53B)、操作ボタン54(各操作ボタン54A〜54L)、マーカ部55、磁気センサ62、加速度センサ63、ジャイロセンサ64、およびバイブレータ79に接続される。また、UIコントローラ65は、コーデックLSI66と拡張コネクタ58に接続される。また、UIコントローラ65には電源IC74が接続され、UIコントローラ65を介して各部に電力が供給される。電源IC74には内蔵の電池75が接続され、電力が供給される。また、電源IC74には、コネクタ等を介して外部電源から電力を取得可能な充電器76またはケーブルを接続することが可能であり、端末装置7は、当該充電器76またはケーブルを用いて外部電源からの電力供給と充電を行うことができる。なお、端末装置7は、図示しない充電機能を有するクレイドルに端末装置7を装着することで充電を行うようにしてもよい。
【0112】
タッチパネルコントローラ61は、タッチパネル52に接続され、タッチパネル52の制御を行う回路である。タッチパネルコントローラ61は、タッチパネル52からの信号に基づいて所定の形式のタッチ位置データを生成してUIコントローラ65へ出力する。タッチ位置データは、タッチパネル52の入力面において入力が行われた位置の座標を表す。なお、タッチパネルコントローラ61は、タッチパネル52からの信号の読み込み、および、タッチ位置データの生成を所定時間に1回の割合で行う。また、UIコントローラ65からタッチパネルコントローラ61へは、タッチパネル52に対する各種の制御指示が出力される。
【0113】
アナログスティック53は、ユーザの指で操作されるスティック部がスライドした(または傾倒した)方向および量を表すスティックデータをUIコントローラ65へ出力する。また、操作ボタン54は、各操作ボタン54A〜54Lに対する入力状況(押下されたか否か)を表す操作ボタンデータをUIコントローラ65へ出力する。
【0114】
磁気センサ62は、磁界の大きさおよび方向を検知することで方位を検出する。検出された方位を示す方位データは、UIコントローラ65へ出力される。また、UIコントローラ65から磁気センサ62へは、磁気センサ62に対する制御指示が出力される。磁気センサ62に関しては、MI(磁気インピーダンス)素子、フラックスゲートセンサ、ホール素子、GMR(巨大磁気抵抗)素子、TMR(トンネル磁気抵抗)素子、あるいはAMR(異方性磁気抵抗)素子等を用いたセンサがあるが、方位を検出することができればどのようなものが用いられてもよい。なお、厳密には、地磁気以外に磁界が発生している場所においては、得られた方位データは方位を示さないことになるが、そのような場合であっても、端末装置7が動いた場合には方位データが変化するため、端末装置7の姿勢の変化を算出することができる。
【0115】
加速度センサ63は、ハウジング50の内部に設けられ、3軸(図8の(a)図に示すxyz軸)方向に沿った直線加速度の大きさを検出する。具体的には、加速度センサ63は、ハウジング50の長辺方向をx軸、ハウジング50の短辺方向をy軸、ハウジング50の表面に対して垂直な方向をz軸として、各軸の直線加速度の大きさを検出する。検出された加速度を表す加速度データはUIコントローラ65へ出力される。また、UIコントローラ65から加速度センサ63へは、加速度センサ63に対する制御指示が出力される。加速度センサ63は、本実施形態では例えば静電容量式のMEMS型加速度センサであるとするが、他の実施形態においては他の方式の加速度センサを用いるようにしてもよい。また、加速度センサ63は1軸または2軸方向を検出する加速度センサであってもよい。
【0116】
ジャイロセンサ64は、ハウジング50の内部に設けられ、上記x軸、y軸およびz軸の3軸周りの角速度を検出する。検出された角速度を表す角速度データは、UIコントローラ65へ出力される。また、UIコントローラ65からジャイロセンサ64へは、ジャイロセンサ64に対する制御指示が出力される。なお、3軸の角速度を検出するために用いられるジャイロセンサの数および組み合わせはどのようなものであってもよく、ジャイロセンサ64はジャイロセンサ48と同様、2軸ジャイロセンサと1軸ジャイロセンサとで構成されてもよい。また、ジャイロセンサ64は1軸または2軸方向を検出するジャイロセンサであってもよい。
【0117】
バイブレータ79は、例えば振動モータやソレノイドであり、UIコントローラ65に接続される。UIコントローラ65の指示によりバイブレータ79が作動することによって端末装置7に振動が発生する。これによって、端末装置7を把持しているユーザの手にその振動が伝達される、いわゆる振動対応ゲームを実現することができる。
【0118】
UIコントローラ65は、上記の各構成要素から受け取ったタッチ位置データ、スティックデータ、操作ボタンデータ、方位データ、加速度データ、および角速度データを含む操作データをコーデックLSI66に出力する。なお、拡張コネクタ58を介して端末装置7に他の装置が接続される場合には、当該他の装置に対する操作を表すデータが上記操作データにさらに含まれていてもよい。
【0119】
コーデックLSI66は、ゲーム装置3へ送信するデータに対する圧縮処理、および、ゲーム装置3から送信されたデータに対する伸張処理を行う回路である。コーデックLSI66には、LCD51、カメラ56、サウンドIC68、無線モジュール70、フラッシュメモリ73、および赤外線通信モジュール72が接続される。また、コーデックLSI66はCPU77と内部メモリ78を含む。端末装置7はゲーム処理自体を行なわない構成であるが、端末装置7の管理や通信のための最小限のプログラムを実行する必要がある。電源投入時にフラッシュメモリ73に格納されたプログラムを内部メモリ78に読み出してCPU77が実行することで、端末装置7が起動する。また、内部メモリ78の一部の領域はLCD51のためのVRAMとして使用される。
【0120】
カメラ56は、ゲーム装置3からの指示に従って画像を撮像し、撮像した画像データをコーデックLSI66へ出力する。また、コーデックLSI66からカメラ56へは、画像の撮像指示等、カメラ56に対する制御指示が出力される。なお、カメラ56は動画の撮影も可能である。すなわち、カメラ56は、繰り返し撮像を行って画像データをコーデックLSI66へ繰り返し出力することも可能である。
【0121】
サウンドIC68は、スピーカ67およびマイク69に接続され、スピーカ67およびマイク69への音声データの入出力を制御する回路である。すなわち、コーデックLSI66から音声データを受け取った場合、サウンドIC68は当該音声データに対してD/A変換を行って得られる音声信号をスピーカ67へ出力し、スピーカ67から音を出力させる。また、マイク69は、端末装置7に伝わる音(ユーザの音声等)を検知して、当該音を示す音声信号をサウンドIC68へ出力する。サウンドIC68は、マイク69からの音声信号に対してA/D変換を行い、所定の形式の音声データをコーデックLSI66へ出力する。
【0122】
赤外線通信モジュール72は、赤外線信号を発光し、他の装置との間で赤外線通信を行う。ここでは、赤外線通信モジュール72は、例えばIrDAの規格に従った赤外線通信を行う機能と、テレビ2を制御するための赤外線信号を出力する機能とを備える。
【0123】
コーデックLSI66は、カメラ56からの画像データと、マイク69からの音声データと、UIコントローラ65からの端末操作データとを無線モジュール70を介してゲーム装置3へ送信する。本実施形態では、コーデックLSI66は、画像データおよび音声データに対して、コーデックLSI27と同様の圧縮処理を行う。上記端末操作データ、ならびに、圧縮された画像データおよび音声データは、送信データとして無線モジュール70に出力される。無線モジュール70にはアンテナ71が接続されており、無線モジュール70はアンテナ71を介してゲーム装置3へ上記送信データを送信する。無線モジュール70は、ゲーム装置3の端末通信モジュール28と同様の機能を有している。すなわち、無線モジュール70は、例えばIEEE802.11nの規格に準拠した方式により、無線LANに接続する機能を有する。送信されるデータは必要に応じて暗号化されていてもよいし、されていなくともよい。
【0124】
以上のように、端末装置7からゲーム装置3へ送信される送信データには、操作データ(端末操作データ)、画像データ、および音声データが含まれる。なお、拡張コネクタ58を介して端末装置7に他の装置が接続される場合には、当該他の装置から受け取ったデータが上記送信データにさらに含まれていてもよい。コーデックLSI66は、赤外線通信モジュール72による赤外線通信によって受信したデータを、必要に応じて上記送信データに含めてゲーム装置3へ送信してもよい。
【0125】
また、上述のように、ゲーム装置3から端末装置7へは、圧縮された画像データおよび音声データが送信される。これらのデータはアンテナ71および無線モジュール70を介してコーデックLSI66に受信される。コーデックLSI66は、受信した画像データおよび音声データを伸張する。伸張された画像データはLCD51へ出力され、画像がLCD51に表示される。また、伸張された音声データはサウンドIC68へ出力され、サウンドIC68はスピーカ67から音を出力させる。
【0126】
また、ゲーム装置3から受信されるデータに制御データが含まれる場合、コーデックLSI66およびUIコントローラ65は、制御データに従った制御指示を各部に行う。上述のように、制御データは、端末装置7が備える各構成要素(本実施形態では、カメラ56、タッチパネルコントローラ61、マーカ部55、各センサ62〜64、赤外線通信モジュール72、およびバイブレータ79)に対する制御指示を表すデータである。本実施形態では、制御データが表す制御指示としては、上記各構成要素を動作させたり、動作を休止(停止)させたりする指示が考えられる。すなわち、ゲームで使用しない構成要素については電力消費を抑えるために休止させてもよく、その場合、端末装置7からゲーム装置3へ送信される送信データには、休止した構成要素からのデータが含まれないようにする。なお、マーカ部55は赤外LEDであるので、制御は単に電力の供給のON/OFFでよい。
【0127】
また、ゲーム装置3は、上記赤外線通信モジュール72の出力を制御することによって、テレビ2の動作を制御することが可能である。すなわち、ゲーム装置3は、テレビ2を制御するための制御指令に対応する赤外線信号を赤外線通信モジュール72に出力させるための指示(上記制御データ)を端末装置7に出力する。この指示に応じて、コーデックLSI66は、上記制御指令に対応する赤外線信号を赤外線通信モジュール72に出力させる。ここで、テレビ2は赤外線信号を受光可能な赤外線受光部を備えている。赤外線通信モジュール72から出力された赤外線信号が赤外線受光部によって受光されることで、テレビ2は当該赤外線信号に応じた動作を行う。なお、ゲーム装置3からの上記指示は、赤外線信号のパターンを示すものであってもよいし、端末装置7が赤外線信号のパターンを記憶している場合には、当該パターンを示す指示であってもよい。
【0128】
以上のように、端末装置7は、タッチパネル52、アナログスティック53、および操作ボタン54といった操作手段を備えるが、他の実施形態においては、これらの操作手段に代えて、または、これらの操作手段とともに、他の操作手段を備える構成であってもよい。
【0129】
また、端末装置7は、端末装置7の動き(位置や姿勢、あるいは、位置や姿勢の変化を含む)を算出するためのセンサとして、磁気センサ62、加速度センサ63、およびジャイロセンサ64を備えるが、他の実施形態においては、これらのセンサのうち1つまたは2つのみを備える構成であってもよい。また、他の実施形態においては、これらのセンサに代えて、または、これらのセンサとともに、他のセンサを備える構成であってもよい。
【0130】
また、端末装置7は、カメラ56およびマイク69を備える構成であるが、他の実施形態においては、カメラ56およびマイク69を備えていなくてもよく、また、いずれか一方のみを備えていてもよい。
【0131】
また、端末装置7は、端末装置7とコントローラ5との位置関係(コントローラ5から見た端末装置7の位置および/または姿勢等)を算出するための構成としてマーカ部55を備える構成であるが、他の実施形態ではマーカ部55を備えていない構成としてもよい。また、他の実施形態では、端末装置7は、上記位置関係を算出するための構成として他の手段を備えていてもよい。例えば、他の実施形態においては、コントローラ5がマーカ部を備え、端末装置7が撮像素子を備える構成としてもよい。さらにこの場合、マーカ装置6は赤外LEDに代えて、撮像素子を備える構成としてもよい。
【0132】
[5.ゲーム処理の概要]
以下、図11図14を参照して、本実施形態のゲームシステム1において実行されるゲーム処理の概要について説明する。本実施形態では、3次元の仮想空間(ゲーム空間)を表すゲーム画像は、テレビ2および端末装置7の2つの表示装置に表示される。また、プレイヤは、端末装置7を用いてゲーム操作を行う。つまり、端末装置7は、表示装置としてだけでなく操作装置として用いられる。そのため、コントローラ5は用いられなくてもよく、ゲームシステム1はコントローラ5を含まない構成であってもよい。
【0133】
図11は、本実施形態において端末装置7に表示されるゲーム画像の一例を示す図である。図11に示すように、端末装置7には、仮想カメラから仮想空間を見た画像が表示される。以下では、端末装置7に表示される端末用画像を生成するために用いられる仮想カメラを「端末用仮想カメラ」と呼ぶ。また、本実施形態においては、仮想空間においては部屋82が配置され、部屋82内にキャラクタ(小人)のオブジェクト81が配置されている。部屋82は一面が開口した直方体であり、端末用仮想カメラは、開口部分がLCD51の画面の位置に対応するように配置されている。このように、端末用仮想カメラは、部屋82の外側から開口部を介して内側を見る向きに設定される。
【0134】
一方、図12は、本実施形態においてテレビ2に表示されるゲーム画像の一例を示す図である。図12に示すように、テレビ2には、端末用仮想カメラとは異なる仮想カメラから仮想空間を見た画像が表示される。以下では、テレビ2に表示されるテレビ用画像を生成するために用いられる仮想カメラを「テレビ用仮想カメラ」と呼ぶ。図12に示すように、テレビ用仮想カメラは、部屋82の内側から上記開口部を介して部屋82の外側を見る向きに設定される。ここで、テレビ用画像は、仮想空間に撮像画像(の少なくとも一部)が配置された画像である。図12では、開口部の面には、プレイヤ84(の画像)を含む撮像画像83が描画される。したがって、テレビ用画像を見たプレイヤは、仮想空間の奥に現実空間が存在する、より具体的には、仮想空間である部屋82の外に現実空間のプレイヤ84が存在するかのような感覚を抱く。
【0135】
以上のように、本実施形態においては、仮想空間(ゲーム空間)をテレビ用仮想カメラから見た画像と撮像画像とを合成した画像が生成され、テレビ2に表示される(図12)。また、テレビ用仮想カメラとは異なる端末用仮想カメラから上記仮想空間を見た画像が生成され、端末装置7に表示される(図11)。これによって、仮想空間から現実空間を見たようなテレビ用画像がテレビ2に表示され、現実空間から仮想空間を見たような端末用画像が端末装置7に表示される。したがって、これらテレビ用画像および端末用画像を見ることによって、プレイヤは、仮想空間が現実空間と繋がっているような感覚を抱き、仮想空間が現実に存在するかのような感覚を抱くので、仮想空間をよりリアリティある(現実味のある)ものとして認識することができる。すなわち、本実施形態によれば、端末装置7に仮想空間を表示するとともに、当該仮想空間を表す画像と撮像画像とを合成した画像をテレビ2に表示することによって、仮想空間のリアリティを向上することができる。具体的には、端末装置7の画面の奥に仮想空間が実在するかのような、すなわち、端末装置7の中の部屋82に小人が実際に存在するかのような感覚をプレイヤに与えることができる。
【0136】
次に、図13および図14を参照して、各仮想カメラ(端末用仮想カメラおよびテレビ用仮想カメラ)の設定方法の概要を説明する。図13は、端末用仮想カメラの側から見た場合の仮想空間を示す図である。図14は、テレビ用仮想カメラの側から見た場合の仮想空間を示す図である。図13および図14に示す面85は、仮想空間に配置される面であり、ここでは、部屋82の開口部に配置される面である。また、詳細は後述するが、本実施形態では、この面85に撮像画像83が描画される。そのため、以下では、面85を「描画面」と呼ぶことがある。なお、本実施形態では、面85に対応するオブジェクトが仮想空間に配置されるが、他の実施形態においては、面85は実際には配置されなくてもよい。つまり、各仮想カメラ86および87は、本実施形態では面85の配置に基づいて設定されるが、面85の配置に基づいて設定されなくてもよく、結果的に以下に述べるような位置関係となるように設定されればよい。
【0137】
図13および図14に示すように、各仮想カメラ86および87は、互いの向きが概ね反対となるように設定される。すなわち、テレビ用仮想カメラ87は、面85を一方側から撮影するように設定され、端末用仮想カメラ86は、面85を他方側から撮影するように設定される。より具体的には、ゲーム装置3は、面85の一方側にテレビ用仮想カメラ87の位置を設定するとともに、面85の他方側に端末用仮想カメラ86の位置を設定し、当該面85を視野範囲に含むように各仮想カメラ86および87の向きを設定する。このように、各仮想カメラ86および87は、互いの仮想カメラが他方の仮想カメラの前方に配置されるように設定される。
【0138】
上記のように各仮想カメラ86および87が設定されることによって、端末装置7には、面85をある側から見た場合の仮想空間が表示される一方、テレビ2には、面85を反対側から見た場合の仮想空間が表示される。このとき、端末用画像の視線方向は、端末装置7における画面の手前から奥へ向かう方向であり、プレイヤの視線方向と同じになる。一方、テレビ用画像の視線方向は、端末装置7に表示される仮想空間を基準として言えば、端末装置7の画面の奥から手前へ向かう方向であり、プレイヤの視線方向とは概ね反対向きとなる(端末装置7のカメラ56の撮像方向と概ね同じ向きとなる)。したがって、テレビ用画像は、端末装置7の画面の奥からプレイヤの方を見た画像となる。以上のように、上記のように各仮想カメラ86および87が設定されることによって、端末装置7には画面の手前から奥に向かう視線方向の画像が表示されるとともに、テレビ2には画面の奥から手前に向かう視線方向の画像が表示される。これによって、各画像によって表される仮想空間のリアリティをより向上することができる。
【0139】
また、端末装置7に表示される端末用画像としては、端末用仮想カメラ86から仮想空間を見た画像が生成される。なお、このとき、面85は存在しない(あるいは透明である)として端末用画像が生成される。つまり、端末用画像には撮像画像83は含まれない。一方、テレビ2に表示されるテレビ用画像としては、テレビ用仮想カメラ87から仮想空間を見た画像と、撮像画像83とを合成した画像が生成される。なお、合成される撮像画像83は、カメラ56によって撮像された画像そのものでなくてもよく、当該画像の一部が表示されてもよいし、当該画像に対して所定の補正が行われた画像が表示されてもよい。また、本実施形態においては、撮像画像83が面85の位置に表示されたテレビ用画像が生成される。より具体的には、テレビ用画像を生成する際、面85の位置に撮像画像が描画される。
【0140】
上記のように、本実施形態においては、テレビ用画像においては、面85の位置に撮像画像が表示されることとなる。したがって、プレイヤにとっては、面85を基準としてテレビ用仮想カメラ87の側に仮想空間が存在し、端末用仮想カメラ86の側に現実空間があたかも存在するかのように認識される(図13および図14参照)。プレイヤは、仮想空間が面85で現実空間と繋がっているような感覚を抱くので、仮想空間のリアリティをより向上することができる。
【0141】
なお、本実施形態においては、面85の配置に基づいて各仮想カメラ86および87が設定されるが、他の実施形態においては、面85の配置に基づいて設定されなくてもよい。例えば、上記の位置関係を満たすような予め定められた位置および姿勢となるように各仮想カメラが設定されてもよいし、一方の仮想カメラの設定に基づいて他方の仮想カメラが設定されてもよい。
【0142】
なお、本実施形態では、面85が部屋82の開口部に一致したが、面85の位置は仮想空間内における任意の位置でよい。各仮想カメラ86および87が面85を互いに異なる側から撮影するように設定され、テレビ用画像において当該面85の位置に撮像画像が表示される場合、仮想空間が面85で現実空間と繋がっているような感覚をプレイヤに与えることができる。
【0143】
また、本実施形態において、各仮想カメラ86および87は、面85を互いに異なる側から撮影するように設定されればよく、詳細な位置および向きはどのように設定されてもよい。例えば、図13において、端末用仮想カメラ86は、視野範囲の外縁が面85の周と一致するように設定されるが、視野範囲の外縁と面85の周とは一致する必要はない。また、各仮想カメラ86および87の視線方向は、面85と垂直となる必要はない。
【0144】
なお、本実施形態では、プレイヤは、仮想空間内の小人(オブジェクト81)と種々のコミュニケーションをとって遊ぶ。詳細は後述するが、プレイヤは端末装置7を用いて種々のゲーム操作を行い、ゲーム装置3は、ゲーム操作に応じて仮想空間内に変化を加え、仮想空間内の各オブジェクト(小人を含む)の動作や挙動を制御する。本実施形態では、上述のように、現実空間と仮想空間とが繋がっているかのように仮想空間がリアルに表現されるので、プレイヤは、あたかも小人が端末装置7の中に実在するかのような感覚でゲームを行うことができる。
【0145】
[6.ゲーム処理の詳細]
次に、本ゲームシステムにおいて実行されるゲーム処理の詳細を説明する。まず、ゲーム処理において用いられる各種データについて説明する。図15は、ゲーム処理において用いられる各種データを示す図である。図15において、ゲーム装置3のメインメモリ(外部メインメモリ12または内部メインメモリ11e)に記憶される主なデータを示す図である。図15に示すように、ゲーム装置3のメインメモリには、ゲームプログラム90、端末操作データ91、カメラ画像データ98、マイク音データ99、および処理用データ100が記憶される。なお、メインメモリには、図15に示すデータの他、ゲームに登場する各種オブジェクトの画像データやゲームに使用される音声データ等、ゲームに必要なデータが記憶される。
【0146】
ゲームプログラム90は、ゲーム装置3に電源が投入された後の適宜のタイミングで光ディスク4からその一部または全部が読み込まれてメインメモリに記憶される。なお、ゲームプログラム90は、光ディスク4に代えて、フラッシュメモリ17やゲーム装置3の外部装置から(例えばインターネットを介して)取得されてもよい。また、ゲームプログラム90に含まれる一部(例えば、コントローラ5および/または端末装置7の姿勢を算出するためのプログラム)については、ゲーム装置3内に予め記憶されていてもよい。
【0147】
端末操作データ91は、端末装置7に対するプレイヤの操作を表すデータである。端末操作データ91は、端末装置7から送信されてゲーム装置3において取得され、メインメモリに記憶される。端末操作データ91は、操作ボタンデータ92、スティックデータ93、タッチ位置データ94、角速度データ95、加速度データ96、および方位データ97を含む。なお、メインメモリには、最新の(最後に取得された)ものから順に所定個数の端末操作データが記憶されてもよい。
【0148】
操作ボタンデータ92は、端末装置7に設けられる各操作ボタン54A〜54Lに対する入力状態を表すデータである。具体的には、操作ボタンデータ92は、各操作ボタン54A〜54Lが押下されているか否かを表す。
【0149】
スティックデータ93は、アナログスティック53(アナログスティック53Aおよび53B)のスティック部がスライドした(または傾倒した)方向および量を表すデータである。上記方向および量は、例えば2次元座標や2次元ベクトルとして表されてもよい。
【0150】
タッチ位置データ94は、タッチパネル52の入力面において入力が行われた位置(タッチ位置)を表すデータである。本実施形態では、タッチ位置データ94は、上記入力面上の位置を示すための2次元座標系の座標値を表す。なお、タッチパネル52がマルチタッチ方式である場合には、タッチ位置データ94は複数のタッチ位置を表すこともある。
【0151】
角速度データ95は、ジャイロセンサ64によって検出された角速度を表すデータである。本実施形態では、角速度データ95は、図8に示すxyzの3軸回りのそれぞれの角速度を表すものであるが、他の実施形態においては、任意の1軸以上の軸回り角速度を表すものであればよい。
【0152】
加速度データ96は、加速度センサ63によって検出された加速度(加速度ベクトル)を表すデータである。本実施形態では、加速度データ96は、図8に示すxyzの3軸の方向に関する加速度を各成分とする3次元の加速度を表すものであるが、他の実施形態においては、任意の1以上の方向に関する加速度を表すものであればよい。
【0153】
方位データ97は、磁気センサ62によって検出された方位を表すデータである。本実施形態では、方位データ97は、端末装置7を基準として所定の方位(例えば北)の向きを表す。なお、地磁気以外の磁界が発生している場合においては、方位データ97は厳密には絶対的な方位(北等)を示さないことになる。ただし、その場所における磁界の方向に対する端末装置7の相対的な方向が方位データ97によって示されるので、そのような場合であっても方位データ97に基づいて端末装置7の姿勢または姿勢の変化を算出することが可能である。
【0154】
なお、端末操作データ91は、端末装置7に対する操作を表すものであればよく、上記各データ92〜97のいずれか1つのみを含むものであってもよい。また、端末装置7が他の入力手段(例えば、タッチパッドや、コントローラ5の撮像手段等)を有する場合には、端末操作データ91は、当該他の入力手段に対する操作を表すデータを含んでいてもよい。なお、本実施形態のように端末装置7自体の動きをゲーム操作として用いる場合には、端末操作データ91は、加速度データ96、角速度データ95、または方位データ97のように、端末装置7の動きに関する情報を表すデータ(動きに応じて値が変化するデータ)を含むことが好ましい。なお、端末装置7の動きに関する情報とは、例えば、端末装置7の位置、姿勢、位置の変化(速度)、姿勢の変化(角速度)、加速度、角加速度等の情報である。
【0155】
カメラ画像データ98は、端末装置7のカメラ56によって撮像された画像(撮像画像)を表すデータである。カメラ画像データ98は、端末装置7から送信されてくる圧縮された画像データがコーデックLSI27によって伸張された画像データであり、入出力プロセッサ11aによってメインメモリに記憶される。なお、メインメモリには、最新の(最後に取得された)ものから順に所定個数のカメラ画像データが記憶されてもよい。
【0156】
マイク音データ99は、端末装置7のマイク69によって検出された音声(マイク音)を表すデータである。マイク音データ99は、端末装置7から送信されてくる圧縮された音声データがコーデックLSI27によって伸張された音声データであり、入出力プロセッサ11aによってメインメモリに記憶される。
【0157】
また、本実施形態ではコントローラ5が操作装置として用いられないので図示しないが、メインメモリには、コントローラ5に対するプレイヤの操作を表すコントローラ操作データが記憶されてもよい。なお、別の実施形態においては、コントローラ5も用いて操作をするようにしてもよい。たとえば、コントローラ5を端末装置7に向けて使い、座標指定をして画面内に働きかけるような操作であってもよい。
【0158】
処理用データ100は、後述するゲーム処理(図16)において用いられるデータである。処理用データ100は、描画面データ101、端末カメラデータ102、テレビカメラデータ103、画像認識データ104、音声認識データ105、端末挙動データ106、およびオブジェクトデータ107を含む。なお、図15に示すデータの他、処理用データ100は、ゲームに登場する各種オブジェクトに設定される各種パラメータを表すデータ等、ゲーム処理において用いられる各種データを含む。
【0159】
描画面データ101は、仮想空間における描画面の位置および姿勢を表すデータである。描画面は、撮像画像が描画される面である。なお、描画面の形状はどのような形状であってもよいが、本実施形態では、端末装置7のLCD51の表示画面と等しいアスペクト比を有する平面である。また、描画面の位置および姿勢はどのように制御されてもよいが、本実施形態においては、描画面はゲーム開始時に、予め定められた位置および姿勢で固定的に設定される。
【0160】
端末カメラデータ102は、端末用仮想カメラの位置および姿勢を表すデータである。上述のように、端末用仮想カメラの位置および姿勢は、上記描画面の位置および姿勢に応じて設定される。なお、本実施形態においては、端末用仮想カメラは描画面と同様、ゲーム開始時に、予め定められた位置および姿勢で固定的に設定される。
【0161】
テレビカメラデータ103は、テレビ用仮想カメラの位置および姿勢を表すデータである。上述のように、テレビ用仮想カメラの位置および姿勢は、上記描画面の位置および姿勢に応じて設定され、具体的には、描画面に対して端末用仮想カメラとは反対側の位置に、描画面の方を向く姿勢で配置される。なお、本実施形態においては、テレビ用仮想カメラは描画面と同様、ゲーム開始時に、予め定められた位置および姿勢で固定的に設定される。
【0162】
画像認識データ104は、撮像画像に対して実行される画像認識処理の認識結果を表すデータである。詳細は後述するが、画像認識処理は、どのような処理内容であってもよく、また、処理結果として得られる情報もどのような内容であってもよい。本実施形態においては、画像認識データ104は、カメラ画像データ98に対して画像認識処理が実行されることによって生成される。
【0163】
音声認識データ105は、上記マイク音に対して実行される音声認識処理の認識結果を表すデータである。詳細は後述するが、音声認識処理は、どのような処理内容であってもよく、また、処理結果として得られる情報もどのような内容であってもよい。本実施形態においては、音声認識データ105は、マイク音データ99に対して音声認識処理が実行されることによって生成される。
【0164】
端末挙動データ106は、端末装置7の挙動を表すデータである。端末挙動データ106は、例えば、端末装置7の位置、姿勢、速度、角速度、加速度、角加速度等の他、端末装置7が所定の動きをした(より具体的には、端末装置7が揺らされた)か否かや、端末装置7が所定の方向を向いたか否か等を表す。本実施形態においては、端末挙動データ106は、上記角速度データ95あるいは加速度データ96に基づいて算出される。
【0165】
オブジェクトデータ107は、仮想空間に配置されるオブジェクト81(小人のオブジェクト)の状態を表すデータである。例えば、オブジェクトデータ107は、オブジェクト81の位置、向き、動作等を表す。オブジェクト81の制御はどのように行われてもよいが、本実施形態においては、端末装置7を用いた操作、すなわち、上記端末操作データ91に基づいてオブジェクト81の制御が行われる。つまり、プレイヤは、端末装置7に対する操作によって、仮想空間内のオブジェクト81に何らかの影響を与えることができる。
【0166】
次に、ゲーム装置3において実行されるゲーム処理の詳細を、図16図18を用いて説明する。図16は、ゲーム装置3において実行されるゲーム処理の流れを示すメインフローチャートである。ゲーム装置3の電源が投入されると、ゲーム装置3のCPU10は、図示しないブートROMに記憶されている起動プログラムを実行し、これによってメインメモリ等の各ユニットが初期化される。そして、光ディスク4に記憶されたゲームプログラムがメインメモリに読み込まれ、CPU10によって当該ゲームプログラムの実行が開始される。図16に示すフローチャートは、以上の処理が完了した後に行われる処理を示すフローチャートである。なお、ゲーム装置3においては、電源投入後にゲームプログラムがすぐに実行される構成であってもよいし、電源投入後にまず所定のメニュー画面を表示する内蔵プログラムが実行され、その後例えばプレイヤによるメニュー画面に対する選択操作によってゲームの開始が指示されたことに応じてゲームプログラムが実行される構成であってもよい。
【0167】
なお、図16図18図19および図21も同様)に示すフローチャートにおける各ステップの処理は、単なる一例に過ぎず、同様の結果が得られるのであれば、各ステップの処理順序を入れ替えてもよい。また、変数の値や、判断ステップで利用される閾値も、単なる一例に過ぎず、必要に応じて他の値を採用してもよい。また、本実施形態では、上記フローチャートの各ステップの処理をCPU10が実行するものとして説明するが、上記フローチャートにおける一部のステップの処理を、CPU10以外のプロセッサや専用回路が実行するようにしてもよい。
【0168】
まずステップS1において、CPU10は初期処理を実行する。初期処理は、仮想空間を構築し、仮想空間に登場する各オブジェクトを初期位置に配置したり、ゲーム処理で用いる各種パラメータの初期値を設定したりする処理である。以下、図17を参照して、初期処理の詳細について説明する。
【0169】
図17は、図16に示す初期処理(ステップS1)の詳細な流れを示すフローチャートである。初期処理においてはまずステップS11において、CPU10は仮想空間において描画面を配置する。すなわち、CPU10は、仮想空間(ゲーム空間)を構築し、仮想空間内に描画面を配置する。描画面はどのように配置されてもよいが、本実施形態においては、予め定められた位置および姿勢で配置される。具体的には、仮想空間に部屋82が構築され(図13参照)、部屋82の開口部と一致するように描画面が配置される。配置された描画面の位置および姿勢を表すデータは描画面データ101としてメインメモリに記憶される。ステップS11の次にステップS12の処理が実行される。
【0170】
ステップS12において、CPU10はテレビ用仮想カメラを設定する。テレビ用仮想カメラは、描画面の位置および姿勢に応じて設定される。本実施形態においては、テレビ用仮想カメラは、描画面の一方側の位置に、描画面を向く姿勢となるように配置される。より具体的には、CPU10は、撮像画像が描画される側から描画面を見た位置および姿勢となるようにテレビ用仮想カメラを設定する。これによって、テレビ用仮想カメラは、撮像画像が描画される面を含む仮想空間を視野範囲に含むことになり、仮想空間の画像と撮像画像とを合成した画像を容易に生成することができる。また、仮想空間と撮像画像が表す現実空間とがあたかも繋がっているかのような画像を生成することができる。テレビ用仮想カメラの位置および姿勢を表すデータは、テレビカメラデータ103としてメインメモリに記憶される。なお、テレビ用仮想カメラの位置および姿勢を表すデータは、ゲームプログラム90とともに予め用意されていてもよいし、ステップS11で配置された描画面の位置および姿勢に基づいて算出されてもよい。ステップS12の次にステップS13の処理が実行される。
【0171】
ステップS13において、CPU10は端末用仮想カメラを設定する。端末用仮想カメラは、描画面の位置および姿勢に応じて設定される。本実施形態においては、端末用仮想カメラは、描画面の他方側(テレビ用仮想カメラの反対側)の位置に、描画面を向く姿勢となるように配置される。より具体的には、CPU10は、撮像画像が描画される側の反対側から描画面を見た位置および姿勢となるように端末用仮想カメラを設定する。これによって、仮想空間における所定面(描画面)に関してテレビ用仮想カメラと端末用仮想カメラとの向きが概ね反対となるように設定される(図13参照)。また、端末用画像には撮像画像が含まれない一方、テレビ用画像には撮像画像が含まれるので、端末用画像をテレビ用画像に合った適切な画像とすることができ、仮想空間のリアリティをより向上することができる。なお、端末用仮想カメラは、視線方向が描画面に対して垂直となるように設定されてもよい。これによって、プレイヤが端末装置7の画面を見る視線方向と、端末用画像における視線方向とを一致させることができ、端末装置7において仮想空間をより自然に表示することができる。端末用仮想カメラの位置および姿勢を表すデータは、端末カメラデータ102としてメインメモリに記憶される。なお、端末用仮想カメラの位置および姿勢を表すデータは、ゲームプログラム90とともに予め用意されていてもよいし、ステップS11で配置された描画面の位置および姿勢に基づいて算出されてもよい。ステップS13の次にステップS14の処理が実行される。
【0172】
ステップS14において、CPU10は、他のパラメータの初期値を設定する。なお、他のパラメータとは、上記描画面および各仮想カメラに関するパラメータ以外のパラメータである。他のパラメータはどのようなものであってもよいが、例えば、オブジェクト81を含む各種のオブジェクトの初期状態を表すパラメータ等が考えられる。ステップS14の後、CPU10は初期処理を終了する。
【0173】
上記初期処理(ステップS1)の次にステップS2の処理が実行される。以降、ステップS2〜S8の一連の処理からなる処理ループが所定時間(1フレーム時間。例えば1/60秒)に1回の割合で繰り返し実行される。
【0174】
ステップS2において、CPU10は端末装置7から各種データを取得する。ここで、端末装置7からは、少なくともカメラ画像データが取得され、本実施形態においては、端末操作データおよびマイク音データがさらに取得される。端末装置7は、上記各データ(端末操作データ、カメラ画像データ、およびマイク音データ)をゲーム装置3へ繰り返し送信するので、ゲーム装置3は各データを逐次受信する。ゲーム装置3においては、端末通信モジュール28が各データを逐次受信し、カメラ画像データおよびマイク音データについてはコーデックLSI27によって伸張処理が逐次施される。そして、入出力プロセッサ11aが端末操作データとカメラ画像データとマイク音データとをメインメモリに逐次記憶する。CPU10は、適宜のタイミングで上記各データをメインメモリから読み出す。ステップS2の次にステップS3の処理が実行される。
【0175】
ステップS3において、CPU10はゲーム制御処理を実行する。ゲーム制御処理は、プレイヤによる操作に基づいてオブジェクトを制御する処理等を実行する処理である。以下、図18を参照して、ゲーム制御処理の詳細について説明する。
【0176】
図18は、図16に示すゲーム制御処理(ステップS3)の詳細な流れを示すフローチャートである。ゲーム制御処理においてはまずステップS21において、CPU10は、撮像画像に対する画像認識処理を実行する。この画像認識処理は、撮像画像から何らかの特徴を抽出し、抽出した特徴に関する情報を算出するものであるが、具体的な処理はどのような処理であってもよい。本実施形態では、画像認識処理は、プレイヤの顔を認識する処理であってもよい。より具体的には、画像認識処理は、上記処理結果としてプレイヤの顔や目や口の位置を算出したり、プレイヤの表情(笑っているかどうかや、話しているかどうかや、まばたきしたかどうか)を判断したりする処理であってもよいし、個人認証を行う(プレイヤが予め登録された誰であるかを識別する)処理であってもよい。また、画像認識処理は、プレイヤの顔を認識する処理に限らず、顔以外の対象を認識する処理であってもよいし、プレイヤの周囲の明るさを判断する処理であってもよい。ステップS21においては、CPU10は、カメラ画像データ98をメインメモリから読み出し、撮像画像に対して上記の画像認識処理を実行する。なお、本実施形態では、端末装置7から撮像画像が逐次取得(受信)されるので、逐次取得された撮像画像が画像認識処理の対象となる。画像認識処理の結果を表すデータは、画像認識データ104としてメインメモリに記憶される。ステップS21の次にステップS22の処理が実行される。
【0177】
ステップS22において、CPU10は、画像認識処理の結果に基づいて仮想空間に変化を与えるゲーム制御処理を実行する。このゲーム制御処理は、仮想空間に何らかの変化を与える処理であればどのような処理であってもよく、例えば、仮想空間内に配置されるオブジェクトの動作を制御する処理であってもよいし、仮想空間における状態(天候、時刻、地形等)を変化させる処理であってもよい。本実施形態においては、CPU10は、画像認識処理の結果に基づいて小人のオブジェクト81の動作を制御するようにしてもよい。具体的には、プレイヤの視線方向へ移動するように、プレイヤの目の位置に応じてオブジェクト81を移動させたり、プレイヤの表情に応じてオブジェクト81に所定の動作を行わせたり(例えば、オブジェクト81の表情をプレイヤの表情に応じて変化させる)してもよい。また、CPU10は、プレイヤの周囲の明るさに応じて仮想空間の昼夜(明るさ)を設定するようにしてもよい。ステップS22の具体的な処理としては、CPU10は、画像認識データ104をメインメモリから読み出し、画像認識処理の結果に基づいて仮想空間に変化を与える。仮想空間内の変化後の状態を表すデータは、メインメモリに記憶される。ステップS22の次にステップS23の処理が実行される。
【0178】
上記ステップS21およびS22の処理のように、本実施形態においては、撮像画像に対する画像認識処理の結果に基づいて仮想空間に変化が与えられる。したがって、プレイヤは、カメラ56によって撮像される内容を変化させることによって、ゲーム操作を行うことができる。プレイヤは、例えば、顔の表情を変化させたり、カメラ56に対してプレイヤが動いたりすることによってゲーム操作を行うことができる。
【0179】
ステップS23において、CPU10は、撮像画像に対して所定の加工処理を実行する。加工処理は、テレビ2に表示するのに適した画像となるように撮像画像に対して修正等を行うための処理であり、加工処理の具体的な内容はどのようなものであってもよい。本実施形態では、撮像画像から、画像の生成に用いる部分を抽出する(切り出す)処理が実行されてもよい。つまり、テレビ用画像は、仮想空間の画像と撮像画像の少なくとも一部とが合成されることによって生成されてもよい。例えば、CPU10は、撮像画像から、端末装置7の画面とカメラ56との位置関係に応じた領域を抽出してもよい。ここで、カメラ56はLCD51の画面の周辺に設けられるので、カメラ56から現実空間を見る場合と画面から現実空間を見る場合とでは視点の位置が若干異なる。そのため、撮像画像は、そのままでは、画面から現実空間を見た場合の画像としては不自然な画像となるおそれがある。具体的には、本実施形態ではカメラ56がLCD51の上側に設けられるので、画面から見た場合にはプレイヤが正面に位置する場合でも、撮像画像においてはプレイヤが中央よりやや下方に位置するので、撮像画像そのままではプレイヤが不自然に感じるおそれがある。このとき、CPU10は、撮像画像のうち、中央よりやや下方の位置を中心として画像を抽出する(撮像画像のうちの上側の部分を削除する)ようにしてもよい。これによって、画面から現実空間を見た場合の画像として撮像画像をより自然なものに加工することができる。
【0180】
また、CPU10は、上記の処理とともに(あるいは上記の処理に代えて)、撮像画像のアスペクト比が端末装置7のLCD51の画面(または、描画面)のアスペクト比と一致するように、撮像画像から所定の領域を抽出するようにしてもよい。また、上記加工処理としては、上記の抽出処理の他、画像を拡大・縮小する処理や、色および/または明るさを変更する処理等が実行されてもよい。例えば、上記画像認識処理において所定の対象(例えばプレイヤの顔)を認識する場合には、認識された対象が所定の大きさとなるように画像を拡大・縮小する処理が実行されてもよい。また例えば、仮想空間内の明るさに応じて撮像画像の明るさを変更する処理が実行されてもよい。その他、加工処理は、後述する変形例に示すような、撮像画像から所定の対象の領域を抽出する処理や、撮像画像に所定のエフェクトを加える処理等であってもよい。
【0181】
ステップS23の具体的な処理としては、CPU10は、カメラ画像データ98をメインメモリから読み出し、撮像画像に対して上記加工処理を実行する。そして、加工処理が施された撮像画像のデータをメインメモリに記憶する。なお、後述するテレビ用画像の生成処理(ステップS4)においては、加工処理が施された撮像画像を用いてテレビ用画像が生成される。また、本実施形態においては、ステップS2の処理で逐次取得された撮像画像が加工処理の対象となる。したがって、テレビ用画像に含まれる撮像画像は、逐次変化し、動画としてテレビ2に表示される。ステップS23の次にステップS24の処理が実行される。
【0182】
ステップS24において、CPU10は、上記マイク音に対する音声認識処理を実行する。この音声認識処理は、マイク音から何らかの特徴を抽出し、抽出した特徴に関する情報を算出するものであるが、具体的な処理はどのような処理であってもよい。例えば、音声認識処理は、プレイヤの音声を認識し、プレイヤによる音声指示を判別する処理であってもよいし、プレイヤによる息の吹きかけ(より具体的には、息を吹きかけたかどうか、あるいは、息を吹きかけた強さ)を判別する処理であってもよい。また、音声認識処理は、プレイヤによる音(声や息)を認識する処理に限らず、プレイヤによる音以外の対象を認識する処理であってもよい。ステップS24においては、CPU10は、マイク音データ99をメインメモリから読み出し、マイク音に対して上記の音声認識処理を実行する。音声認識処理の結果を表すデータは、音声認識データ105としてメインメモリに記憶される。ステップS24の次にステップS25の処理が実行される。
【0183】
ステップS25において、CPU10は、音声認識処理の結果に基づいて仮想空間に変化を与えるゲーム制御処理を実行する。このゲーム制御処理は、上記ステップS22と同様、仮想空間に何らかの変化を与える処理であればどのような処理であってもよい。本実施形態においては、CPU10は、音声認識処理によって判別された音声指示に従って小人のオブジェクト81の動作を制御する(例えば、「走れ」という音声指示に応じて、小人のオブジェクト81に走る動作を行わせる)ようにしてもよい。また、CPU10は、プレイヤによる息の吹きかけがあったことに応じて仮想空間内に風を吹かせる(さらに、風によって小人のオブジェクト81が吹き飛ばされる)ようにしてもよい。ステップS25の具体的な処理としては、CPU10は、音声認識データ105をメインメモリから読み出し、音声認識処理の結果に基づいて仮想空間に変化を与える。仮想空間内の変化後の状態を表すデータ(オブジェクトデータ107が含まれていてもよい)は、メインメモリに記憶される。ステップS25の次にステップS26の処理が実行される。
【0184】
上記ステップS24およびS25の処理のように、本実施形態においては、マイクによって検出された音のデータ(マイク音データ99)に基づいて仮想空間に変化が与えられる。したがって、プレイヤは、マイク69に対して入力を行うことによって、ゲーム操作を行うことができる。プレイヤは、例えば、音声指示を行ったり、マイク69に息を吹きかけたりすることによってゲーム操作を行うことができる。
【0185】
ステップS26において、CPU10は端末装置7の挙動を算出する。端末装置7の挙動は、端末装置の動きに関する情報を表す動きデータに基づいて算出される。上記挙動として算出される具体的な情報はどのようなものであってもよく、また、挙動の算出に用いられる動きデータもどのようなものであってもよい。本実施形態では、例えば、端末装置7の姿勢(傾き)が、上記角速度データ95および加速度データ96を用いて算出されてもよい。なお、端末装置7の単位時間当たりの姿勢の変化を角速度データ95によって知ることができるので、角速度データ95に基づいて端末装置7の姿勢を算出することができる。また、端末装置7がほぼ静止している状態では、重力方向を基準とした端末装置7の姿勢を知ることができるので、加速度データ96に基づいて端末装置7の姿勢を算出したり、角速度データ95に基づいて算出された姿勢を加速度データ96を用いて補正したりすることができる。なお、端末装置7の姿勢は、上記方位データ97に基づいて算出することも可能である。
【0186】
また、ステップS26においては、例えば、端末装置7が揺らされたか否かを表す情報が加速度データ96を用いて算出されてもよい。すなわち、端末装置7が揺らされる場合には、加速度データ96が表す加速度の方向が反転する変化が繰り返されるので、この変化を検知することで上記の情報を算出することができる。
【0187】
ステップS26の具体的な処理としては、CPU10は、ステップS2で取得された角速度データ95および加速度データ96をメインメモリから読み出し、角速度および加速度に基づいて端末装置7の姿勢を算出する。また、端末装置7が揺らされたか否かを表す情報を加速度に基づいて算出する。算出された上記姿勢および上記情報を表すデータは、端末挙動データ106としてメインメモリに記憶される。ステップS26の次にステップS27の処理が実行される。
【0188】
ステップS27において、CPU10は、端末装置7の挙動に基づいて仮想空間に変化を与えるゲーム制御処理を実行する。このゲーム制御処理は、上記ステップS22と同様、仮想空間に何らかの変化を与える処理であればどのような処理であってもよい。本実施形態においては、CPU10は、端末装置7の挙動(動き)に応じて仮想空間(部屋82)を動かす処理を実行する。具体的には、CPU10は、端末装置7の姿勢(例えば、画面に垂直な軸回りの回転に関する姿勢)に応じて部屋82の姿勢を変化させたり、端末装置7が揺らされたことに応じて部屋82を揺らしたりしてもよい。さらに、部屋82の変化に応じて小人のオブジェクト81の動作が制御されてもよく、例えば、部屋82を一定以上傾けると小人のオブジェクト81が滑ったり、部屋82が揺らされたことに応じて小人のオブジェクト81がよろめいたりするようにしてもよい。なお、上記のように部屋82が動かされる場合には、部屋82と各仮想カメラとの位置関係が変化しないように各仮想カメラが制御されてもよいし、各仮想カメラは固定されてもよい。また、後述する変形例のように、端末装置7の挙動(姿勢)に基づいて描画面の位置および姿勢が制御されてもよく、さらに、当該描画面の位置および姿勢に基づいて各仮想カメラが設定されてもよい。ステップS27の具体的な処理としては、CPU10は、端末挙動データ106をメインメモリから読み出し、端末装置7の挙動に基づいて仮想空間に変化を与える。仮想空間内の変化後の状態を表すデータは、メインメモリに記憶される。ステップS27の次にステップS28の処理が実行される。
【0189】
ステップS28において、CPU10は、タッチ位置に基づいて仮想空間に変化を与えるゲーム制御処理を実行する。このゲーム制御処理は、上記ステップS22と同様、仮想空間に何らかの変化を与える処理であればどのような処理であってもよい。本実施形態においては、CPU10は、タッチ位置に対応する仮想空間内の位置に配置されるオブジェクトの動作を制御する。例えば、CPU10は、画面上における小人のオブジェクト81の位置をタッチする入力が行われたことに応じて、小人のオブジェクト81にプレイヤの方を向く(描画面の方を向く)動作を行わせてもよい。また例えば、タッチパネル52に対して線を描くように入力が行われる場合には、CPU10は、タッチ位置に対応する仮想空間内の位置に配置されるオブジェクトを当該線に沿って移動させるようにしてもよい。なお、ステップS28におけるゲーム制御処理は、タッチ位置に対応する仮想空間内の位置に配置されるオブジェクトに対する制御処理に限らず、例えば、CPU10は、画面上の任意の位置に対して入力が行われたことに応じて、小人のオブジェクト81にプレイヤの方を向く動作を行わせてもよい。ステップS28の具体的な処理としては、CPU10は、タッチ位置データ94をメインメモリから読み出し、タッチ位置に基づいて仮想空間に変化を与える。仮想空間内の変化後の状態を表すデータは、メインメモリに記憶される。ステップS28の次にステップS29の処理が実行される。
【0190】
ステップS29において、CPU10は、端末装置7に設けられる操作部材(各アナログスティック53Aおよび53B、ならびに、各ボタン54A〜54L)に対する操作に基づいて仮想空間に変化を与えるゲーム制御処理を実行する。このゲーム制御処理は、上記ステップS22と同様、仮想空間に何らかの変化を与える処理であればどのような処理であってもよい。例えば、CPU10は、仮想空間内に配置される所定のオブジェクトをアナログスティック53または十字ボタン54Aに対する方向入力に応じて移動させてもよい。また、CPU10は、仮想空間内のオブジェクトを選択するためのカーソルがLCD51の画面に表示される場合には、当該方向入力に応じてカーソルを移動させてもよい。ステップS29の具体的な処理としては、CPU10は、操作ボタンデータ92および/またはスティックデータ93をメインメモリから読み出し、操作部材に対する操作に基づいて仮想空間に変化を与える。仮想空間内の変化後の状態を表すデータは、メインメモリに記憶される。ステップS29の後、CPU10は、図18に示すゲーム制御処理を終了する。
【0191】
以上のように、本実施形態においては、端末装置7に対するプレイヤの操作を表す操作データ(端末操作データ)がゲーム装置3へ送信され、CPU10は、当該操作データに基づいて仮想空間に変化を与えるゲーム制御処理を実行する(ステップS26〜S29)。これによって、プレイヤは、端末装置7を用いて種々のゲーム操作を行うことができる。また、プレイヤは、種々のゲーム操作によって仮想空間に変化を与えることで、小人のオブジェクト81と種々のコミュニケーションをとることができる。したがって、本実施形態によれば、端末装置7の中に存在するかのように感じられる小人と種々のコミュニケーションをとって遊ぶゲームを提供することができる。
【0192】
また、上記操作データとして、端末装置7の動きに関する情報を表す動きデータ(角速度データ95および加速度データ96)に基づいてゲーム制御処理が実行される場合(ステップS27)には、プレイヤは端末装置7を動かすことによってゲーム操作を行うことができ、直感的かつ容易にゲーム操作を行うことができる。また、本実施形態においては、端末装置7の動きに応じて仮想空間を動かす処理が実行されるので、プレイヤは、端末装置7を動かす操作によって仮想空間を実際に動かしているような感覚を得ることができる。これによって、仮想空間のリアリティをより向上することができる。
【0193】
また、上記操作データとして、端末装置7の表示部(LCD51)の画面上における入力位置のデータ(タッチ位置データ94)に基づいてゲーム制御処理が実行される場合(ステップS28)には、プレイヤは、画面に表示される仮想空間を直接タッチすることによってゲーム操作を行うことができ、直感的かつ容易にゲーム操作を行うことができる。また、本実施形態においては、タッチ位置に対応する仮想空間内の位置に配置されるオブジェクトの動作が制御されるので、プレイヤは、画面にタッチする操作によって仮想空間に実際に触れているかのような感覚を得ることができる。これによって、仮想空間のリアリティをより向上することができる。
【0194】
また、上記操作データとして、端末装置7の操作部材に対するプレイヤの操作を表す操作データ(操作ボタンデータ92および/またはスティックデータ93)に基づいてゲーム制御処理が実行される場合(ステップS29)には、プレイヤは、端末装置7を把持した状態で容易にゲーム操作を行うことができる。
【0195】
図16の説明に戻り、ステップS3のゲーム制御処理の次にステップS4の処理が実行される。ステップS4においては、テレビ用画像が生成される。すなわち、CPU10およびGPU11bは、ステップS3のゲーム制御処理の結果を表すデータ(描画面データ101、各カメラデータ102および103、ならびに、オブジェクトデータ107等)をメインメモリから読み出し、また、テレビ用画像を生成するために必要なデータをVRAM11dから読み出し、読み出したデータを用いてテレビ用画像を生成する。
【0196】
ここで、CPU10は、仮想空間をテレビ用仮想カメラから見た画像と、撮像画像(の少なくとも一部)とを合成したテレビ用画像を生成する(図12)。すなわち、テレビ用画像を生成する際、CPU10は、上記ゲーム制御処理の結果を表すデータに加え、撮像画像のデータをメインメモリから読み出し、CPU10およびGPU11bは、撮像画像のデータを用いてテレビ用画像を生成する。以上より、テレビ用画像は、仮想空間から現実空間を見たような画像となる。また、本実施形態においては、テレビ用画像においては撮像画像が描画面の位置に表示される。そのため、仮想空間と現実空間が描画面で繋がっているかのように見えるテレビ用画像を生成することができる。なお、本実施形態では、テレビ用画像の生成に用いられる撮像画像は、上記ステップS23における加工処理が施された撮像画像である。したがって、テレビ用画像を生成する際、CPU10は、ゲーム制御処理の結果を表すデータに加え、加工処理が施された撮像画像のデータをメインメモリから読み出し、CPU10およびGPU11bは、当該データを用いてテレビ用画像を生成する。本実施形態では、ステップS2で逐次取得された撮像画像を用いてテレビ用画像が逐次生成される。つまり、ステップS4の処理が繰り返し実行されることによって、テレビ用画像に含まれる撮像画像は動画として表示される。これによって、テレビ用画像のリアリティをより向上することができる。なお、他の実施形態においては、テレビ用画像に含まれる撮像画像は静止画であってもよい。すなわち、ある時点で取得された1つの撮像画像が所定期間の間連続して用いられてテレビ用画像が逐次生成されてもよい。また、テレビ用画像の生成に用いられる撮像画像は、所定時間間隔で更新されてもよい。
【0197】
さらに、本実施形態においては、仮想空間内に配置される面(描画面)85に撮像画像が描画される。つまり、本実施形態においては、仮想空間内に配置される描画面を用いることによって、仮想空間の画像と撮像画像とを合成したテレビ用画像が生成される。具体的には、ステップS4においては、CPU10(およびGPU11b)は、描画面に撮像画像を描画し(撮像画像をテクスチャとして描画面に貼り付け)、当該描画面を含む仮想空間の画像を生成する。これによって、仮想空間の画像と撮像画像とを合成することができ、描画面の位置に撮像画像が表示されるテレビ用画像を容易に生成することができる。
【0198】
なお、他の実施形態においては、撮像画像が描画される面は、上記面85でなくてもよい。図19は、他の実施形態における撮像画像の描画方法を示す図である。図19においては、テレビ用仮想カメラ87から見て面85よりも奥に背景面88が配置される(なお、背景面88と端末用仮想カメラ86とはどちらが手前に配置されてもよい)。このとき、撮像画像は背景面88に描画されてもよい。ただし、背景面88に撮像画像が描画される場合には、テレビ用仮想カメラ87の位置または姿勢が変化した場合には、撮像画像を描画する位置をテレビ用仮想カメラ87に合わせて変更しなければならない。これに比べて、上記実施形態によれば、テレビ用画像の生成処理がより容易になる。
【0199】
以上の処理によって、本実施形態におけるステップS4においては、仮想空間に配置された部屋82の内側から開口部の外側を見た画像がテレビ用画像として生成される(図12)。生成されたテレビ用画像はVRAM11dに記憶される。上記ステップS4の次にステップS5の処理が実行される。
【0200】
ステップS5においては、端末用画像が生成される。すなわち、CPU10およびGPU11bは、ステップS3のゲーム制御処理の結果を表すデータをメインメモリから読み出し、また、端末用画像を生成するために必要なデータをVRAM11dから読み出し、端末用画像を生成する。また、生成された端末用画像はVRAM11dに記憶される。ここで、CPU10は、端末用画像として、テレビ用仮想カメラとは異なる端末用仮想カメラから仮想空間を見た画像を生成する。具体的には、本実施形態では、仮想空間に配置された部屋82の外側から開口部を介して部屋82の内側を見た画像が端末用画像として生成される(図11参照)。なお、このとき、描画面は存在しない(あるいは透明である)ものとして端末用画像が生成される。以上のように、端末用画像は、現実空間から仮想空間を見たような画像となる。したがって、テレビ用画像および端末用画像を見たプレイヤは、仮想空間が現実に存在するかのような感覚を抱き、仮想空間のリアリティを向上することができる。上記ステップS5の次にステップS6の処理が実行される。
【0201】
ステップS6において、CPU10は、テレビ2へテレビ用画像を出力する。具体的には、CPU10は、VRAM11dに記憶されたテレビ用画像のデータをAV−IC15へ送る。これに応じて、AV−IC15はテレビ用画像のデータを、AVコネクタ16を介してテレビ2へ出力する。これによって、テレビ用画像がテレビ2に表示される。また、ステップS6においては、ゲーム画像のデータと共にゲーム音声のデータがテレビ2へ出力され、テレビ2のスピーカ2aからゲーム音声が出力されてもよい。ステップS6の次にステップS7の処理が実行される。
【0202】
ステップS7において、CPU10は、端末装置7へ端末用画像を出力(送信)する。具体的には、VRAM11dに記憶された端末用画像の画像データは、CPU10によってコーデックLSI27に送られ、コーデックLSI27によって所定の圧縮処理が行われる。圧縮処理が施された画像のデータは、端末通信モジュール28によってアンテナ29を介して端末装置7へ送信される。端末装置7は、ゲーム装置3から送信されてくる画像のデータを無線モジュール70によって受信し、受信された画像データに対してコーデックLSI66によって所定の伸張処理が行われる。伸張処理が行われた画像データはLCD51に出力される。これによって、端末用画像がLCD51に表示される。また、ステップS7においては、ゲーム画像のデータと共にゲーム音声のデータが端末装置7へ送信され、端末装置7のスピーカ67からゲーム音声が出力されてもよい。ステップS7の次にステップS8の処理が実行される。
【0203】
ステップS8において、CPU10は、ゲームを終了するか否かを判定する。ステップS8の判定は、例えば、プレイヤがゲームを中止する指示を行ったか否か等によって行われる。ステップS8の判定結果が否定の場合、ステップS2の処理が再度実行される。一方、ステップS8の判定結果が肯定の場合、CPU10は図16に示すゲーム処理を終了する。なお、ゲーム処理を終了する際には、ゲームデータをメモリカード等にセーブする等の処理が実行されてもよい。以降、ステップS2〜S8の一連の処理は、ステップS8でゲームを終了すると判定されるまで繰り返し実行される。
【0204】
以上のように、本実施形態におけるゲーム処理によれば、所定の仮想空間をある仮想カメラ(テレビ用仮想カメラ)から見た画像と、撮像画像の少なくとも一部とを合成した画像(テレビ用画像)が生成され(ステップS4)、所定の表示装置(テレビ2)に表示される(ステップS6)。また、上記仮想カメラとは異なる別の仮想カメラ(端末用仮想カメラ)から仮想空間を見た画像(端末用画像)が生成され(ステップS5)、端末装置7に表示される(ステップS5)。これによれば、仮想空間から現実空間を見た画像が所定の表示装置に表示され、現実空間から仮想空間を見た画像が端末装置7に表示される。したがって、これらの画像をプレイヤに提供することによって、プレイヤは、仮想空間が現実空間と繋がっているような感覚を味わうことができ、仮想空間をよりリアリティあるものとして認識することができる。
【0205】
[7.変形例]
上記実施形態は本発明を実施する一例であり、他の実施形態においては例えば以下に説明する構成で本発明を実施することも可能である。
【0206】
(面および仮想カメラの設定に関する変形例)
上記実施形態においては、仮想空間内において面(描画面)85ならびに各仮想カメラ86および87は固定的に配置された。ここで、他の実施形態においては、面85ならびに各仮想カメラ86および87は、固定的に配置される他、(何らかの条件に従って)移動可能であってもよい。例えば、面85ならびに各仮想カメラ86および87の移動がプレイヤの操作に従って制御されてもよい。以下、上記実施形態の変形例として、プレイヤの操作によって端末用仮想カメラ86を移動させ、それに応じて面85およびテレビ用仮想カメラ87を移動させる変形例について説明する。
【0207】
図20は、上記実施形態の変形例におけるゲーム制御処理の流れを示すフローチャートである。本変形例においては、ステップS31〜S33の処理が実行され、その後、上記実施形態と同様のステップS21〜S29の一連の処理(あるいはその一部の処理でもよい)が実行される。なお、本変形例において、図16に示すゲーム制御処理(ステップS3)以外の処理は、上記実施形態と同様であってもよい。
【0208】
ステップS31において、CPU10は、プレイヤの操作に応じて端末用仮想カメラ86を移動させる。すなわち、CPU10は、メインメモリに記憶される端末操作データ91に基づいて端末用仮想カメラ86を設定する。端末用仮想カメラ86の移動はどのように制御されてもよいが、本変形例では、例えば、端末装置7に対する方向入力操作に応じて移動するように、端末用仮想カメラ86が制御される。上記方向入力操作は、例えば、端末装置7の姿勢を上下左右に傾ける操作であってもよいし、上記操作部材(アナログスティック53や十字ボタン54A等)に対する方向入力操作であってもよい。
【0209】
図21は、面85および各仮想カメラ86および87の移動の一例を示す図である。図21に示す例では、端末用仮想カメラ86は、端末用仮想カメラ86が配置される位置を中心として回転するように制御される。なお、図21では、回転の中心位置に端末用仮想カメラ86が配置されるので、端末用仮想カメラ86は姿勢のみを変化させるが、他の例においては位置および姿勢が変化してもよいし、位置のみが変化してもよい。ステップS31の具体的な処理としては、CPU10は、端末操作データ91をメインメモリから読み出し、プレイヤの操作に基づいて端末用仮想カメラ86の移動後の姿勢を算出する。算出された姿勢と予め定められる位置を表すデータは、新たな端末カメラデータ102としてメインメモリに記憶される。ステップS31の次にステップS32の処理が実行される。
【0210】
ステップS32において、CPU10は、端末用仮想カメラ86の移動に応じて(換言すればプレイヤの操作に応じて)面85を移動させる。すなわち、CPU10は、ステップS31で算出された端末用仮想カメラ86の位置および姿勢に基づいて面85の位置および姿勢を算出する。面85の移動はどのように制御されてもよいが、本変形例では、面85は、端末用仮想カメラ86の視野範囲に含まれるように設定され、具体的には、面85と端末用仮想カメラ86との位置関係が移動前後で一定となるように設定される。図21に示す例では、面85は、端末用仮想カメラ86の回転に応じて回転移動する。なお、図21に示す例では、面85の位置および姿勢が変化するが、他の例においては位置および姿勢のいずれか一方のみが変化してもよい。ステップS32の具体的な処理としては、CPU10は、端末カメラデータ102をメインメモリから読み出し、端末用仮想カメラ86の位置および姿勢に基づいて面85の位置および姿勢を算出する。算出された位置および姿勢を表すデータは、新たな端末カメラデータ102としてメインメモリに記憶される。ステップS32の次にステップS33の処理が実行される。
【0211】
ステップS33において、CPU10は、端末用仮想カメラ86の移動に応じて(換言すればプレイヤの操作に応じて)テレビ用仮想カメラ87を移動させる。すなわち、CPU10は、ステップS31で算出された端末用仮想カメラ86の位置および姿勢に基づいてテレビ用仮想カメラ87を設定する。本変形例では、テレビ用仮想カメラ87は、面85を視野範囲に含むように設定され、具体的には、端末用仮想カメラ86とテレビ用仮想カメラ87との位置関係が移動前後で一定となるように設定される。そのため、図21に示す例では、テレビ用仮想カメラ87は、端末用仮想カメラ86の回転に応じて回転移動する。なお、図21に示す例では、テレビ用仮想カメラ87の位置および姿勢が変化するが、他の例においては位置および姿勢のいずれか一方のみが変化してもよい。ステップS33の具体的な処理としては、CPU10は、端末カメラデータ102をメインメモリから読み出し、端末用仮想カメラ86の位置および姿勢に基づいてテレビ用仮想カメラ87の位置および姿勢を算出する。算出された位置および姿勢を表すデータは、新たなテレビカメラデータ103としてメインメモリに記憶される。本変形例においては、上記ステップS33の後、上記実施形態と同様のステップS21〜S29の一連の処理(あるいはその一部の処理でもよい)が実行される。
【0212】
以上のように、本変形例によれば、プレイヤの操作によって面85および各仮想カメラ86および87が設定される。これによって、プレイヤは、仮想空間内の領域のうちで端末装置7またはテレビ2に表示される領域を変更することができる。
【0213】
なお、上記実施形態および上記変形例では、2つの仮想カメラ86および87は、それぞれ面85を一方側と他方側から撮影するような位置関係を常に満たすように設定された。ここで、他の実施形態においては、各仮想カメラ86および87は、上記の位置関係を常に満たす配置となる必要はなく、所定の条件が満たされた場合には少なくとも当該位置関係を満たすように設定されればよい。例えば、テレビ用仮想カメラ87は、所定のオブジェクト(例えば小人のオブジェクト81)の位置および向きに応じて設定されてもよい。このとき、各仮想カメラ86および87は上記位置関係を常に満たすことにはならないが、所定のオブジェクトの位置および向きによっては上記位置関係が満たされる場合があり、この場合には上記実施形態と同様の効果を奏する。
【0214】
(ゲームに関する変形例)
上記実施形態においては、仮想のゲーム空間に登場する小人のオブジェクトとコミュニケーションをとって遊ぶゲームを例として説明したが、ゲームシステム1において行われるゲームの内容はどのようなものであってもよい。例えば、他の実施形態においては、複数のプレイヤが同時にゲームを行う複数人プレイのゲームがゲームシステム1において行われてもよい。以下、上記実施形態の変形例として、複数人プレイのゲームが実行される場合のゲーム処理について説明する。
【0215】
本変形例においては、ゲームシステム1は、ゲーム装置3と通信可能な操作装置を含んでおり、端末装置7を操作するプレイヤ以外の他のプレイヤは当該操作装置を用いてゲーム操作を行う。本変形例では、上記操作装置はコントローラ5であるが、他の実施形態においては操作装置はどのような種類のものであってもよい。例えば、他の実施形態においては、上記操作装置は端末装置7と同じ装置であってもよい。このとき、上記他のプレイヤが操作する端末装置7には、上記実施形態におけるテレビ用画像が表示されてもよい。
【0216】
本変形例においては、ステップS2において、CPU10は、端末装置7から各種データを取得する他、コントローラ5からコントローラ操作データを取得する。すなわち、コントローラ5はコントローラ操作データをゲーム装置3へ繰り返し送信するので、ゲーム装置3においては、コントローラ通信モジュール19がコントローラ操作データを逐次受信し、受信されたコントローラ操作データが入出力プロセッサ11aによってメインメモリに逐次記憶される。CPU10は、適宜のタイミングで上記コントローラ操作データをメインメモリから読み出す。なお、本変形例では操作装置(コントローラ5)を1つとするが、ゲームシステム1は複数の操作装置を含み、CPU10は各操作装置から操作データをそれぞれ取得するようにしてもよい。
【0217】
図22は、本変形例におけるゲーム制御処理の流れを示すフローチャートである。本変形例においては、上記実施形態と同様のステップS21〜S29の一連の処理(あるいはその一部の処理でもよい)が実行された後、ステップS41およびS42の処理が実行される。
【0218】
ステップS41において、CPU10は、他のプレイヤの操作に基づいて所定のオブジェクトを制御する。ここで、所定のオブジェクトは、仮想空間に配置され、他のプレイヤの操作対象となるオブジェクトである。所定のオブジェクトは、どのようなオブジェクトであってもよい。例えば上記実施形態において、小人のオブジェクト81が上記所定のオブジェクトとして他のプレイヤによって操作されてもよい。また、CPU10は、操作装置(コントローラ5)に対する操作に応じて所定のオブジェクトの動作を制御すればよく、具体的な制御方法はどのようなものであってもよい。本変形例では、例えば、CPU10は、コントローラ5に対する操作に応じて、所定のオブジェクトに仮想空間内を移動させたり、射撃動作を行わせたりする。ステップS41の具体的な処理としては、CPU10は、コントローラ操作データをメインメモリから読み出し、他のプレイヤの操作に基づいて所定のオブジェクトの動作を制御する。そして、制御後のオブジェクトの状態を表すパラメータ(位置や向き等を表すパラメータ)のデータがメインメモリに記憶される。ステップS41の次にステップS42の処理が実行される。
【0219】
ステップS42において、CPU10は、上記所定のオブジェクトの動作と、描画面(面85)に描画された撮像画像とに基づいて所定のゲーム処理を実行する。この所定のゲーム処理は、ゲーム進行に影響を与える処理であればどのような処理であってもよく、例えば、所定のオブジェクトの動作によって上記撮像画像に対して何らかの影響が与えられたか否かを判定したり、(影響が与えられる場合には)その影響によって変化したゲームパラメータを算出したりする処理である。具体的には、本変形例では、CPU10は、所定のオブジェクトによる射撃動作によって発射された弾が撮像画像においてプレイヤが表示される領域に命中したか否かを判定する処理を実行する。なお、撮像画像においてプレイヤが表示される領域は、例えばステップS21の画像認識処理において算出されてもよい。また、弾が上記領域に命中した場合には、上記他のプレイヤの得点を加算したり、端末装置7を操作するプレイヤの体力を減らしたりする処理が実行される。ステップS42の具体的な処理としては、CPU10は、所定のオブジェクトの状態を表すパラメータのデータと、画像認識データ104とをメインメモリから読み出し、読み出したデータに基づいて上記所定のゲーム処理を実行する。そして、所定のゲーム処理の実行結果を表すデータをメインメモリに記憶する。このとき、テレビ用画像および端末用画像を生成する処理(ステップS4およびS5)においては、上記実行結果を表すデータが参照されて各画像が生成される。ステップS42の後、CPU10は、ゲーム制御処理を終了する。なお、本変形例において、ゲーム制御処理(ステップS3)以降のステップS4〜S8の処理は、上記実施形態と同様であってもよい。
【0220】
本変形例によれば、複数人プレイのゲームにおいても上記実施形態と同様、仮想空間のリアリティを向上することができる。また、他のプレイヤによって操作される所定のオブジェクトの動作と、撮像画像とに基づくゲーム処理(ステップS42)が行われることによって、各プレイヤは、仮想空間内のオブジェクトが現実空間に影響を与えるかのような感覚を味わうことができる。具体的には、上記変形例によれば、仮想空間内のオブジェクトが、現実空間の(端末装置7を操作する)プレイヤに対して射撃を行う感覚を味わうことができる。これによって、仮想空間と現実空間とが繋がっているかのような感覚をプレイヤにより強く抱かせることができ、仮想空間のリアリティをより向上させることができる。
【0221】
なお、他の実施形態においては、上記ステップS42における所定のオブジェクトは、プレイヤによって操作されず、CPU10によって(自動的に)制御されてもよい。この場合であっても上記変形例と同様、仮想空間内のオブジェクトが、現実空間に対して影響を与える感覚をプレイヤに与えることができ、仮想空間のリアリティをより向上させることができる。
【0222】
また、上記実施形態では、画面に仮想空間を表示する情報処理システムの一例として、プレイヤが端末装置7を用いてゲーム操作を行うゲームシステム1を例に説明を行った。ここで、他の実施形態においては、情報処理システムはゲーム用途に限らず、仮想空間を表示装置に表示させる任意の情報処理システムまたは情報処理装置に適用されてもよい。
【0223】
(プレイヤオブジェクトに関する変形例)
上記実施形態においては、端末装置7を操作するプレイヤが仮想空間のオブジェクトとコミュニケーションをとるゲームであったので、当該プレイヤに対応するオブジェクトは仮想空間に配置されなかった。これに対して、他の実施形態においては、当該プレイヤに対応するプレイヤオブジェクトが仮想空間に配置されてもよい。プレイヤオブジェクトは、仮想空間の任意の位置に配置され、プレイヤの操作によって移動するオブジェクトであってもよいし、上記描画面に描画されるプレイヤの画像の位置に配置されるオブジェクトであってもよい。
【0224】
(撮像画像の表示に関する変形例)
上記実施形態においては、テレビ用画像の一部としてテレビ2に表示される撮像画像は、カメラ56による撮像画像のうちの所定の一部の領域の画像であった。ここで、他の実施形態においては、テレビ用画像の一部としてテレビ2に表示される撮像画像は、カメラ56による撮像画像の少なくとも一部が用いられればよく、当該撮像画像に対してゲーム内容に応じた適宜の加工が施されてもよい。例えば、CPU10は、上記ステップS21の画像認識処理において、撮像画像からプレイヤの画像の領域を抽出し、抽出された領域の画像をテレビ2に表示するようにしてもよい。このとき、抽出された領域の画像は、仮想空間内に配置される面(上記描画面や背景面等)に描画されてもよい。これによれば、仮想空間内にプレイヤが存在するかのような感覚をプレイヤに与えることができ、仮想空間のリアリティを向上することができる。また、例えば仮想空間として水槽内(水中)の空間が生成されて端末装置7およびテレビ2に表示される場合においては、CPU10は、水槽の内から外を見た場合の画像となるように、撮像画像を歪める等の加工処理を施すようにしてもよい。これによって、テレビ2に表示される、仮想空間から現実空間を見た場合の画像のリアリティを向上することができ、仮想空間のリアリティをより向上することができる。
【0225】
(ゲームシステムの構成に関する変形例)
上記実施形態においては、ゲームシステム1は、ゲーム装置3と、撮像部(カメラ56)および表示部(LCD51)を備える端末装置7と、所定の表示装置(テレビ2)とを備える構成であった。ここで、ゲームシステム1は、2種類の画像を生成し、一方の画像を端末装置に表示させるとともに、他方の画像を所定の表示装置に表示させることができる構成であれば、どのような構成であってもよい。例えば、ゲームシステム1は、所定の表示装置を含まない形態で提供されてもよいし、所定の表示装置として端末装置7と同様の表示装置を含む形態で提供されてもよい。
【0226】
また、ゲームシステム1は、複数の装置で実現されるものに限らず、1つの装置によって実現されてもよい。例えば、撮像部と2つの表示部とを備える携帯型の情報処理装置(ゲーム装置であってもよい)によってゲームシステムが実現されてもよい。このとき、情報処理装置は、一方の表示部に上記実施形態における端末用画像を表示し、もう一方の表示部に上記実施形態におけるテレビ用画像を表示する。
【0227】
(ゲーム処理を実行する情報処理装置に関する変形例)
上記実施形態においては、ゲームシステム1において実行される一連のゲーム処理をゲーム装置3が実行したが、ゲーム処理の一部は他の装置によって実行されてもよい。例えば、他の実施形態においては、ゲーム処理の一部(例えば、端末用画像の生成処理)を端末装置7が実行するようにしてもよい。また、他の実施形態では、互いに通信可能な複数の情報処理装置を有する入力システムにおいて、当該複数の情報処理装置がゲーム処理を分担して実行するようにしてもよい。すなわち、ゲームシステムは、撮像部と、表示部と、所定の仮想空間を第1仮想カメラから見た画像と、撮像部による撮像画像の少なくとも一部とを合成した第1画像を生成する第1画像生成部と、第1画像を所定の表示装置へ出力する第1画像出力部と、第1仮想カメラとは異なる第2仮想カメラから仮想空間を見た第2画像を生成する第2画像生成部と、第2画像を表示部へ出力する第2画像出力部とを備えていればよく、1つの装置がこれらの各部を備える構成であってもよいし、複数の装置がこれらの各部を備える構成であってもよい。
【0228】
なお、複数の情報処理装置においてゲーム処理が実行される場合には、各情報処理装置で実行されるゲーム処理を同期させる必要があり、ゲーム処理が複雑になってしまう。これに対して、上記実施形態のように、ゲーム処理が1つのゲーム装置3によって実行され、端末装置7がゲーム画像を受信して表示する処理を行う場合(つまり、端末装置7がシンクライアント端末である場合)には、複数の情報処理装置間でゲーム処理の同期をとる必要がなく、ゲーム処理を簡易化することができる。
【0229】
上記のように、本明細書で説明した種々のシステム、方法、および技術は、デジタル電子回路、コンピュータハードウェア、ファームウェア、ソフトウェア、またはこれら要素の組み合わせによって提供されてもよい。上記の技術を実現するための装置は、プログラム可能なプロセッサによる実行のためのコンピュータ読み取り可能な非一時的な記憶装置において実体的に具体化されるコンピュータプログラムプロダクト、入出力装置、およびコンピュータプロセッサを含んでもよい。上記技術を実現するための処理は、入力データを処理して所望の出力を生成することによって、要求される機能を実行するためのプログラムを実行する、プログラム可能なプロセッサによって実行されてもよい。上記の技術は、入力装置、出力装置、および情報記憶装置といったハードウェア資源との間でデータや指示のやり取りを行うプログラム可能なプロセッサを含むコンピュータシステム上で実行可能な1以上のコンピュータプログラムによって実現されてもよい。また、各コンピュータプログラムは、手続型やオブジェクト指向型の高水準プログラミング言語、アセンブリ言語、または、機械語によって実現されてもよく、必要に応じてコンパイルまたはインタプリタされて実行されてもよい。また、上記のプロセッサは、汎用または専用のマイクロプロセッサであってもよい。プロセッサは、一般的に、ROMまたはRAMからデータおよび指示を受け取る。また、上記の記憶装置は、(a)EPROM、EEPROM、フラッシュメモリのような半導体メモリ装置を含む不揮発性のメモリ、(b)内部ハードディスクあるいは着脱可能な外部ディスクのような磁気ディスク、(c)光磁気ディスク、(d)CDROM、に限定されず、あらゆる種類のコンピュータメモリを含む。上記のプロセッサや記憶装置は、ASIC(Application Specific Integrated Circuit)によって補充される、あるいは、ASICに組み込まれる形で実現されてもよい。
【0230】
また、本明細書に記載の処理システム(回路)は、本明細書において記載された内容に応じたゲーム処理のような制御処理のためにプログラムされる。上記の内容に応じた指示を実行する少なくとも1つのCPUを含む処理システムが、上記の内容によって定義される処理動作を実行するための「プログラムされた論理回路」として作用するものであってもよい。
【産業上の利用可能性】
【0231】
以上のように、本発明は、画面に表示される仮想空間のリアリティを向上すること等を目的として、例えばゲームシステムやゲーム装置、ゲームプログラムに利用することが可能である。
【符号の説明】
【0232】
1 ゲームシステム
2 テレビ
3 ゲーム装置
4 光ディスク
5 コントローラ
7 端末装置
10 CPU
11e 内部メインメモリ
12 外部メインメモリ
51 LCD
52 タッチパネル
56 カメラ
63 加速度センサ
64 ジャイロセンサ
69 マイク
70 無線モジュール
81 オブジェクト
83 撮像画像
85 面
86 端末用仮想カメラ
87 テレビ用仮想カメラ
90 ゲームプログラム
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22