(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024044425
(43)【公開日】2024-04-02
(54)【発明の名称】プログラムおよび情報処理システム
(51)【国際特許分類】
G06T 19/00 20110101AFI20240326BHJP
G06F 3/0481 20220101ALI20240326BHJP
G06F 3/01 20060101ALI20240326BHJP
【FI】
G06T19/00 A
G06F3/0481
G06F3/01 510
【審査請求】有
【請求項の数】7
【出願形態】OL
(21)【出願番号】P 2022149931
(22)【出願日】2022-09-21
(71)【出願人】
【識別番号】509070463
【氏名又は名称】株式会社コロプラ
(74)【代理人】
【識別番号】100104547
【弁理士】
【氏名又は名称】栗林 三男
(74)【代理人】
【識別番号】100206612
【弁理士】
【氏名又は名称】新田 修博
(74)【代理人】
【識別番号】100209749
【弁理士】
【氏名又は名称】栗林 和輝
(74)【代理人】
【識別番号】100217755
【弁理士】
【氏名又は名称】三浦 淳史
(72)【発明者】
【氏名】山崎 聡士
【テーマコード(参考)】
5B050
5E555
【Fターム(参考)】
5B050AA10
5B050BA09
5B050CA07
5B050EA06
5B050EA07
5B050EA09
5B050FA02
5B050FA05
5E555AA64
5E555AA71
5E555AA76
5E555BA38
5E555BB38
5E555BC04
5E555BC08
5E555BD05
5E555CB69
5E555CB78
5E555CB81
5E555CB82
5E555DA08
5E555DB32
5E555DB53
5E555DC61
5E555DC84
5E555DD06
5E555EA05
5E555EA07
5E555FA00
(57)【要約】
【課題】サービスの興趣性を向上させる。
【解決手段】プログラムは、コンピュータを、仮想空間に存在する第1キャラクタを操作する第1ユーザに関連する現実世界の情報を取得する情報取得手段と、仮想空間に存在する第2キャラクタを操作する第2ユーザにおける第1キャラクタの表示態様が、第1ユーザに関連する現実世界の情報を反映したものとなるように、当該情報に応じて第1キャラクタの表示態様を変化させる変化手段と、として機能させる。
【選択図】
図16
【特許請求の範囲】
【請求項1】
コンピュータを、
仮想空間に存在する第1キャラクタを操作する第1ユーザに関連する現実世界の情報を取得する情報取得手段と、
前記仮想空間に存在する第2キャラクタを操作する第2ユーザにおける前記第1キャラクタの表示態様が、前記第1ユーザに関連する前記現実世界の情報を反映したものとなるように、当該情報に応じて前記第1キャラクタの表示態様を変化させる変化手段と、として機能させる
プログラム。
【請求項2】
前記第1ユーザに関連する前記現実世界の情報は、前記第1ユーザの位置情報に基づく情報である
請求項1に記載のプログラム。
【請求項3】
前記第1ユーザに関連する前記現実世界の情報は、前記第1ユーザの位置情報に基づく前記現実世界の環境に関する情報である
請求項2に記載のプログラム。
【請求項4】
前記第1ユーザに関連する前記現実世界の情報は、前記第1ユーザの位置情報に基づく気象情報である
請求項2に記載のプログラム。
【請求項5】
前記第1ユーザに関連する前記現実世界の情報は、前記第1ユーザの生体情報、または当該生体情報に基づいて得られる情報である
請求項1に記載のプログラム。
【請求項6】
前記変化手段は、前記第1キャラクタの表示態様を、前記第1キャラクタに前記第1ユーザに関連する前記現実世界の情報に応じたオブジェクトが付加された表示態様に設定可能な
請求項1~5のいずれか1項に記載のプログラム。
【請求項7】
仮想空間に存在する第1キャラクタを操作する第1ユーザに関連する現実世界の情報を取得する情報取得手段と、
前記仮想空間に存在する第2キャラクタを操作する第2ユーザにおける前記第1キャラクタの表示態様が、前記第1ユーザに関連する前記現実世界の情報を反映したものとなるように、当該情報に応じて前記第1キャラクタの表示態様を変化させる変化手段と、を備える
情報処理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、プログラムおよび情報処理システムに関する。
【背景技術】
【0002】
従来より、仮想空間内で他のユーザと交流が可能なサービス(例えば、ゲーム等)が知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、このようなサービスにおいては、興趣性を向上させることが求められていた。
【0005】
本発明は、前記事情に鑑みてなされたものであり、サービスの興趣性を向上させることを目的とする。
【課題を解決するための手段】
【0006】
本開示に示す一実施形態によれば、
コンピュータを、
仮想空間に存在する第1キャラクタを操作する第1ユーザに関連する現実世界の情報を取得する情報取得手段と、
前記仮想空間に存在する第2キャラクタを操作する第2ユーザにおける前記第1キャラクタの表示態様が、前記第1ユーザに関連する前記現実世界の情報を反映したものとなるように、当該情報に応じて前記第1キャラクタの表示態様を変化させる変化手段と、として機能させる
プログラムが提供される。
【発明の効果】
【0007】
本発明によれば、サービスの興趣性を向上させることができる。
【図面の簡単な説明】
【0008】
【
図1】ある実施の形態に従うHMDシステムの構成の概略を表す図である。
【
図2】ある実施の形態に従うコンピュータのハードウェア構成の一例を表すブロック図である。
【
図3】ある実施の形態に従うHMDに設定されるuvw視野座標系を概念的に表す図である。
【
図4】ある実施の形態に従う仮想空間を表現する一態様を概念的に表す図である。
【
図5】ある実施の形態に従うHMDを装着するユーザの頭部を上から表した図である。
【
図6】仮想空間において視界領域をX方向から見たYZ断面を表す図である。
【
図7】仮想空間において視界領域をY方向から見たXZ断面を表す図である。
【
図8(A)】ある実施の形態に従うコントローラの概略構成を表す図である。
【
図8(B)】ある実施の形態に従うユーザの右手に対して規定されるヨー、ロール、ピッチの各方向の一例を示す図である。
【
図9】ある実施の形態に従うサーバのハードウェア構成の一例を表すブロック図である。
【
図10】ある実施の形態に従うコンピュータをモジュール構成として表すブロック図である。
【
図11】ある実施の形態に従うHMDセットにおいて実行される処理を示すシーケンスチャートである。
【
図12(A)】ネットワークにおいて、各HMDがユーザに仮想空間を提供する状況を表す模式図である。
【
図12(B)】
図12(A)におけるユーザ5Aの視界画像を示す図である。
【
図13】ある実施の形態に従うHMDシステムにおいて実行される処理を示すシーケンスチャートである。
【
図14】ある実施の形態に従うコンピュータのモジュールの詳細構成を表すブロック図である。
【
図15】ある実施の形態に従うサーバをモジュール構成として表すブロック図である。
【
図16】ある実施の形態に従うアバターオブジェクトの表示態様の一例を表す図である。
【
図17】ある実施の形態に従うHMDシステムにおいて実行される処理を示すシーケンスチャートである。
【発明を実施するための形態】
【0009】
以下、この技術的思想の実施の形態について図面を参照しながら詳細に説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。本開示において示される1以上の実施形態において、各実施形態が含む要素を互いに組み合わせることができ、かつ、当該組み合わせられた結果物も本開示が示す実施形態の一部をなすものとする。
【0010】
[HMDシステムの構成]
図1を参照して、HMD(Head-Mounted Device)システム100の構成について説明する。
図1は、本実施の形態に従うHMDシステム100の構成の概略を表す図である。HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。HMDシステム100は、ユーザに所定のサービスを提供する。
【0011】
HMDシステム100は、サーバ600と、HMDセット110A,110B,110C,110Dと、外部機器700と、ネットワーク2とを含む。HMDセット110A,110B,110C,110Dの各々は、ネットワーク2を介してサーバ600や外部機器700と通信可能に構成される。以下、HMDセット110A,110B,110C,110Dを総称して、HMDセット110とも言う。HMDシステム100を構成するHMDセット110の数は、4つに限られず、3つ以下でも、5つ以上でもよい。HMDセット110は、HMD120と、コンピュータ200と、HMDセンサ410と、ディスプレイ430と、コントローラ300とを備える。HMD120は、モニタ130と、注視センサ140と、第1カメラ150と、第2カメラ160と、マイク170と、スピーカ180とを含む。コントローラ300は、モーションセンサ420を含み得る。
【0012】
ある局面において、コンピュータ200は、インターネットその他のネットワーク2に接続可能であり、ネットワーク2に接続されているサーバ600その他のコンピュータと通信可能である。その他のコンピュータとしては、例えば、他のHMDセット110のコンピュータや外部機器700が挙げられる。別の局面において、HMD120は、HMDセンサ410の代わりに、センサ190を含み得る。
【0013】
HMD120は、ユーザ5の頭部に装着され、動作中に仮想空間をユーザ5に提供し得る。より具体的には、HMD120は、右目用の画像および左目用の画像をモニタ130にそれぞれ表示する。ユーザ5の各目がそれぞれの画像を視認すると、ユーザ5は、両目の視差に基づき当該画像を3次元画像として認識し得る。HMD120は、モニタを備える所謂ヘッドマウントディスプレイと、スマートフォンその他のモニタを有する端末を装着可能なヘッドマウント機器のいずれをも含み得る。
【0014】
モニタ130は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ130は、ユーザ5の両目の前方に位置するようにHMD120の本体に配置されている。したがって、ユーザ5は、モニタ130に表示される3次元画像を視認すると、仮想空間に没入することができる。ある局面において、仮想空間は、例えば、背景、ユーザ5が操作可能なオブジェクト、ユーザ5が選択可能なメニューの画像を含む。ある局面において、モニタ130は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機EL(Electro Luminescence)モニタとして実現され得る。
【0015】
別の局面において、モニタ130は、透過型の表示装置として実現され得る。この場合、HMD120は、
図1に示されるようにユーザ5の目を覆う密閉型ではなく、メガネ型のような開放型であり得る。透過型のモニタ130は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。モニタ130は、仮想空間を構成する画像の一部と、現実空間とを同時に表示する構成を含んでいてもよい。例えば、モニタ130は、HMD120に搭載されたカメラで撮影した現実空間の画像を表示してもよいし、一部の透過率を高く設定することにより現実空間を視認可能にしてもよい。
【0016】
ある局面において、モニタ130は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ130は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ130は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
【0017】
ある局面において、HMD120は、図示せぬ複数の光源を含む。各光源は例えば、赤外線を発するLED(Light Emitting Diode)により実現される。HMDセンサ410は、HMD120の動きを検出するためのポジショントラッキング機能を有する。より具体的には、HMDセンサ410は、HMD120が発する複数の赤外線を読み取り、現実空間内におけるHMD120の位置および傾きを検出する。
【0018】
別の局面において、HMDセンサ410は、カメラにより実現されてもよい。この場合、HMDセンサ410は、カメラから出力されるHMD120の画像情報を用いて、画像解析処理を実行することにより、HMD120の位置および傾きを検出することができる。
【0019】
別の局面において、HMD120は、位置検出器として、HMDセンサ410の代わりに、あるいはHMDセンサ410に加えてセンサ190を備えてもよい。HMD120は、センサ190を用いて、HMD120自身の位置および傾きを検出し得る。例えば、センサ190が角速度センサ、地磁気センサ、あるいは加速度センサである場合、HMD120は、HMDセンサ410の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ190が角速度センサである場合、角速度センサは、現実空間におけるHMD120の3軸周りの角速度を経時的に検出する。HMD120は、各角速度に基づいて、HMD120の3軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、HMD120の傾きを算出する。
【0020】
注視センサ140は、ユーザ5の右目および左目の視線が向けられる方向を検出する。つまり、注視センサ140は、ユーザ5の視線を検出する。視線の方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ140は、例えば、ユーザ5の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各回転角に基づいて、ユーザ5の視線を検知することができる。
【0021】
第1カメラ150は、ユーザ5の顔の下部を撮影する。より具体的には、第1カメラ150は、ユーザ5の鼻および口などを撮影する。第2カメラ160は、ユーザ5の目および眉などを撮影する。HMD120のユーザ5側の筐体をHMD120の内側、HMD120のユーザ5とは逆側の筐体をHMD120の外側と定義する。ある局面において、第1カメラ150は、HMD120の外側に配置され、第2カメラ160は、HMD120の内側に配置され得る。第1カメラ150および第2カメラ160が生成した画像は、コンピュータ200に入力される。別の局面において、第1カメラ150と第2カメラ160とを1台のカメラとして実現し、この1台のカメラでユーザ5の顔を撮影するようにしてもよい。
【0022】
マイク170は、ユーザ5の発話を音声信号(電気信号)に変換してコンピュータ200に出力する。スピーカ180は、音声信号を音声に変換してユーザ5に出力する。別の局面において、HMD120は、スピーカ180に替えてイヤホンを含み得る。
【0023】
コントローラ300は、有線または無線によりコンピュータ200に接続されている。コントローラ300は、ユーザ5からコンピュータ200への命令の入力を受け付ける。ある局面において、コントローラ300は、ユーザ5によって把持可能に構成される。別の局面において、コントローラ300は、ユーザ5の身体あるいは衣類の一部に装着可能に構成される。さらに別の局面において、コントローラ300は、コンピュータ200から送信される信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。さらに別の局面において、コントローラ300は、ユーザ5から、仮想空間に配置されるオブジェクトの位置や動きを制御するための操作を受け付ける。
【0024】
ある局面において、コントローラ300は、複数の光源を含む。各光源は例えば、赤外線を発するLEDにより実現される。HMDセンサ410は、ポジショントラッキング機能を有する。この場合、HMDセンサ410は、コントローラ300が発する複数の赤外線を読み取り、現実空間内におけるコントローラ300の位置および傾きを検出する。別の局面において、HMDセンサ410は、カメラにより実現されてもよい。この場合、HMDセンサ410は、カメラから出力されるコントローラ300の画像情報を用いて、画像解析処理を実行することにより、コントローラ300の位置および傾きを検出することができる。
【0025】
モーションセンサ420は、ある局面において、ユーザ5の手に取り付けられて、ユーザ5の手の動きを検出する。例えば、モーションセンサ420は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ200に送られる。モーションセンサ420は、例えば、コントローラ300に設けられている。ある局面において、モーションセンサ420は、例えば、ユーザ5に把持可能に構成されたコントローラ300に設けられている。別の局面において、現実空間における安全のため、コントローラ300は、手袋型のようにユーザ5の手に装着されることにより容易に飛んで行かないものに装着される。さらに別の局面において、ユーザ5に装着されないセンサがユーザ5の手の動きを検出してもよい。例えば、ユーザ5を撮影するカメラの信号が、ユーザ5の動作を表す信号として、コンピュータ200に入力されてもよい。モーションセンサ420とコンピュータ200とは、一例として、無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Bluetooth(登録商標)その他の公知の通信手法が用いられる。
【0026】
ディスプレイ430は、モニタ130に表示されている画像と同様の画像を表示する。これにより、HMD120を装着しているユーザ5以外のユーザにも当該ユーザ5と同様の画像を視聴させることができる。ディスプレイ430に表示される画像は、3次元画像である必要はなく、右目用の画像や左目用の画像であってもよい。ディスプレイ430としては、例えば、液晶ディスプレイや有機ELモニタなどが挙げられる。
【0027】
サーバ600は、コンピュータ200にプログラムを送信し得る。別の局面において、サーバ600は、他のユーザによって使用されるHMD120に仮想現実を提供するための他のコンピュータ200と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行う場合、各コンピュータ200は、各ユーザの動作に基づく信号をサーバ600を介して他のコンピュータ200と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。各コンピュータ200は、各ユーザの動作に基づく信号をサーバ600を介さずに他のコンピュータ200と通信するようにしてもよい。
【0028】
外部機器700は、コンピュータ200と通信可能な機器であればどのような機器であってもよい。外部機器700は、例えば、ネットワーク2を介してコンピュータ200と通信可能な機器であってもよいし、近距離無線通信や有線接続によりコンピュータ200と直接通信可能な機器であってもよい。また、外部機器700は、例えば、ネットワーク2を介してサーバ600と通信可能な機器であってもよい。外部機器700としては、例えば、スマートデバイス、PC(Personal Computer)、およびコンピュータ200の周辺機器などが挙げられるが、これらに限定されるものではない。
【0029】
[コンピュータのハードウェア構成]
図2を参照して、本実施の形態に係るコンピュータ200について説明する。
図2は、本実施の形態に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ210と、メモリ220と、ストレージ230と、入出力インターフェイス240と、通信インターフェイス250とを備える。各構成要素は、それぞれ、バス260に接続されている。
【0030】
プロセッサ210は、コンピュータ200に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ220またはストレージ230に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ210は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)その他のデバイスとして実現される。
【0031】
メモリ220は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ230からロードされる。データは、コンピュータ200に入力されたデータと、プロセッサ210によって生成されたデータとを含む。ある局面において、メモリ220は、RAM(Random Access Memory)その他の揮発メモリとして実現される。
【0032】
ストレージ230は、プログラムおよびデータを永続的に保持する。ストレージ230は、例えば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ230に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ200との通信を実現するためのプログラムを含む。ストレージ230に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
【0033】
別の局面において、ストレージ230は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ200に内蔵されたストレージ230の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムやデータの更新を一括して行うことが可能になる。
【0034】
入出力インターフェイス240は、HMD120、HMDセンサ410、モーションセンサ420およびディスプレイ430との間で信号を通信する。HMD120に含まれるモニタ130,注視センサ140,第1カメラ150,第2カメラ160,マイク170およびスピーカ180は、HMD120の入出力インターフェイス240を介してコンピュータ200との通信を行ない得る。ある局面において、入出力インターフェイス240は、USB(Universal Serial Bus)、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)その他の端子を用いて実現される。入出力インターフェイス240は上述のものに限られない。
【0035】
ある局面において、入出力インターフェイス240は、さらに、コントローラ300と通信し得る。例えば、入出力インターフェイス240は、コントローラ300およびモーションセンサ420から出力された信号の入力を受ける。別の局面において、入出力インターフェイス240は、プロセッサ210から出力された命令を、コントローラ300に送る。当該命令は、振動、音声出力、発光等をコントローラ300に指示する。コントローラ300は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
【0036】
通信インターフェイス250は、ネットワーク2に接続されて、ネットワーク2に接続されている他のコンピュータ(例えば、サーバ600)と通信する。ある局面において、通信インターフェイス250は、例えば、LAN(Local Area Network)その他の有線通信インターフェイス、あるいは、Wi-Fi(登録商標)、Bluetooth(登録商標)、NFC(Near Field Communication)その他の無線通信インターフェイスとして実現される。通信インターフェイス250は上述のものに限られない。
【0037】
ある局面において、プロセッサ210は、ストレージ230にアクセスし、ストレージ230に格納されている1つ以上のプログラムをメモリ220にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ210は、入出力インターフェイス240を介して、仮想空間を提供するための信号をHMD120に送る。HMD120は、その信号に基づいてモニタ130に映像を表示する。
【0038】
図2に示される例では、コンピュータ200は、HMD120の外部に設けられる構成が示されているが、別の局面において、コンピュータ200は、HMD120に内蔵されてもよい。一例として、モニタ130を含む携帯型の情報通信端末(例えば、スマートフォン)がコンピュータ200として機能してもよい。
【0039】
コンピュータ200は、複数のHMD120に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。
【0040】
ある実施の形態において、HMDシステム100では、現実空間における座標系である実座標系が予め設定されている。実座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、並びに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3つの基準方向(軸)を有する。実座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、実座標系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平行である。z軸は現実空間の前後方向に平行である。
【0041】
ある局面において、HMDセンサ410は、赤外線センサを含む。赤外線センサが、HMD120の各光源から発せられた赤外線をそれぞれ検出すると、HMD120の存在を検出する。HMDセンサ410は、さらに、各点の値(実座標系における各座標値)に基づいて、HMD120を装着したユーザ5の動きに応じた、現実空間内におけるHMD120の位置および傾き(向き)を検出する。より詳しくは、HMDセンサ410は、経時的に検出された各値を用いて、HMD120の位置および傾きの時間的変化を検出できる。
【0042】
HMDセンサ410によって検出されたHMD120の各傾きは、実座標系におけるHMD120の3軸周りの各傾きに相当する。HMDセンサ410は、実座標系におけるHMD120の傾きに基づき、uvw視野座標系をHMD120に設定する。HMD120に設定されるuvw視野座標系は、HMD120を装着したユーザ5が仮想空間において物体を見る際の視点座標系に対応する。
【0043】
[uvw視野座標系]
図3を参照して、uvw視野座標系について説明する。
図3は、ある実施の形態に従うHMD120に設定されるuvw視野座標系を概念的に表す図である。HMDセンサ410は、HMD120の起動時に、実座標系におけるHMD120の位置および傾きを検出する。プロセッサ210は、検出された値に基づいて、uvw視野座標系をHMD120に設定する。
【0044】
図3に示されるように、HMD120は、HMD120を装着したユーザ5の頭部を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD120は、実座標系を規定する水平方向、鉛直方向、および前後方向(x軸、y軸、z軸)を、実座標系内においてHMD120の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる3つの方向を、HMD120におけるuvw視野座標系のピッチ軸(u軸)、ヨー軸(v軸)、およびロール軸(w軸)として設定する。
【0045】
ある局面において、HMD120を装着したユーザ5が直立し、かつ、正面を視認している場合、プロセッサ210は、実座標系に平行なuvw視野座標系をHMD120に設定する。この場合、実座標系における水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)は、HMD120におけるuvw視野座標系のピッチ軸(u軸)、ヨー軸(v軸)、およびロール軸(w軸)に一致する。
【0046】
uvw視野座標系がHMD120に設定された後、HMDセンサ410は、HMD120の動きに基づいて、設定されたuvw視野座標系におけるHMD120の傾きを検出できる。この場合、HMDセンサ410は、HMD120の傾きとして、uvw視野座標系におけるHMD120のピッチ角(θu)、ヨー角(θv)、およびロール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピッチ軸周りのHMD120の傾き角度を表す。ヨー角(θv)は、uvw視野座標系におけるヨー軸周りのHMD120の傾き角度を表す。ロール角(θw)は、uvw視野座標系におけるロール軸周りのHMD120の傾き角度を表す。
【0047】
HMDセンサ410は、検出されたHMD120の傾きに基づいて、HMD120が動いた後のHMD120におけるuvw視野座標系を、HMD120に設定する。HMD120と、HMD120のuvw視野座標系との関係は、HMD120の位置および傾きに関わらず、常に一定である。HMD120の位置および傾きが変わると、当該位置および傾きの変化に連動して、実座標系におけるHMD120のuvw視野座標系の位置および傾きが変化する。
【0048】
ある局面において、HMDセンサ410は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係(例えば、各点間の距離など)に基づいて、HMD120の現実空間内における位置を、HMDセンサ410に対する相対位置として特定してもよい。プロセッサ210は、特定された相対位置に基づいて、現実空間内(実座標系)におけるHMD120のuvw視野座標系の原点を決定してもよい。
【0049】
[仮想空間]
図4を参照して、仮想空間についてさらに説明する。
図4は、ある実施の形態に従う仮想空間11を表現する一態様を概念的に表す図である。仮想空間11は、中心12の360度方向の全体を覆う全天球状の構造を有する。
図4では、説明を複雑にしないために、仮想空間11のうちの上半分の天球が例示されている。仮想空間11では各メッシュが規定される。各メッシュの位置は、仮想空間11に規定されるグローバル座標系であるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間11に展開可能なパノラマ画像13(静止画、動画等)を構成する各部分画像を、仮想空間11において対応する各メッシュにそれぞれ対応付ける。
【0050】
ある局面において、仮想空間11では、中心12を原点とするXYZ座標系が規定される。XYZ座標系は、例えば、実座標系に平行である。XYZ座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX軸(水平方向)が実座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向)が実座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)が実座標系のz軸と平行である。
【0051】
HMD120の起動時、すなわちHMD120の初期状態において、仮想カメラ14が、仮想空間11の中心12に配置される。ある局面において、プロセッサ210は、仮想カメラ14が撮影する画像をHMD120のモニタ130に表示する。仮想カメラ14は、現実空間におけるHMD120の動きに連動して、仮想空間11を同様に移動する。これにより、現実空間におけるHMD120の位置および傾きの変化が、仮想空間11において同様に再現され得る。
【0052】
仮想カメラ14には、HMD120の場合と同様に、uvw視野座標系が規定される。仮想空間11における仮想カメラ14のuvw視野座標系は、現実空間(実座標系)におけるHMD120のuvw視野座標系に連動するように規定されている。したがって、HMD120の傾きが変化すると、それに応じて、仮想カメラ14の傾きも変化する。仮想カメラ14は、HMD120を装着したユーザ5の現実空間における移動に連動して、仮想空間11において移動することもできる。
【0053】
コンピュータ200のプロセッサ210は、仮想カメラ14の位置と傾き(基準視線16)とに基づいて、仮想空間11における視界領域15を規定する。視界領域15は、仮想空間11のうち、HMD120を装着したユーザ5が視認する領域に対応する。つまり、仮想カメラ14の位置は、仮想空間11におけるユーザ5の視点と言える。
【0054】
注視センサ140によって検出されるユーザ5の視線は、ユーザ5が物体を視認する際の視点座標系における方向である。HMD120のuvw視野座標系は、ユーザ5がモニタ130を視認する際の視点座標系に等しい。仮想カメラ14のuvw視野座標系は、HMD120のuvw視野座標系に連動している。したがって、ある局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ5の視線を、仮想カメラ14のuvw視野座標系におけるユーザ5の視線とみなすことができる。
【0055】
[ユーザの視線]
図5を参照して、ユーザ5の視線の決定について説明する。
図5は、ある実施の形態に従うHMD120を装着するユーザ5の頭部を上から表した図である。
【0056】
ある局面において、注視センサ140は、ユーザ5の右目および左目の各視線を検出する。ある局面において、ユーザ5が近くを見ている場合、注視センサ140は、視線R1およびL1を検出する。別の局面において、ユーザ5が遠くを見ている場合、注視センサ140は、視線R2およびL2を検出する。この場合、ロール軸wに対して視線R2およびL2が成す角度は、ロール軸wに対して視線R1およびL1が成す角度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。
【0057】
コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視センサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点である注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ5の視線N0を特定する。コンピュータ200は、例えば、ユーザ5の右目Rと左目Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線N0として検出する。視線N0は、ユーザ5が両目により実際に視線を向けている方向である。視線N0は、視界領域15に対してユーザ5が実際に視線を向けている方向に相当する。
【0058】
別の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間11においてテレビ番組を表示することができる。
【0059】
さらに別の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
【0060】
[視界領域]
図6および
図7を参照して、視界領域15について説明する。
図6は、仮想空間11において視界領域15をX方向から見たYZ断面を表す図である。
図7は、仮想空間11において視界領域15をY方向から見たXZ断面を表す図である。
【0061】
図6に示されるように、YZ断面における視界領域15は、領域18を含む。領域18は、仮想カメラ14の位置と基準視線16と仮想空間11のYZ断面とによって定義される。プロセッサ210は、仮想空間における基準視線16を中心として極角αを含む範囲を、領域18として規定する。
【0062】
図7に示されるように、XZ断面における視界領域15は、領域19を含む。領域19は、仮想カメラ14の位置と基準視線16と仮想空間11のXZ断面とによって定義される。プロセッサ210は、仮想空間11における基準視線16を中心とした方位角βを含む範囲を、領域19として規定する。極角αおよびβは、仮想カメラ14の位置と仮想カメラ14の傾き(向き)とに応じて定まる。
【0063】
ある局面において、HMDシステム100は、コンピュータ200からの信号に基づいて、視界画像17をモニタ130に表示させることにより、ユーザ5に仮想空間11における視界を提供する。視界画像17は、パノラマ画像13のうち視界領域15に対応する部分に相当する画像である。ユーザ5が、頭に装着したHMD120を動かすと、その動きに連動して仮想カメラ14も動く。その結果、仮想空間11における視界領域15の位置が変化する。これにより、モニタ130に表示される視界画像17は、パノラマ画像13のうち、仮想空間11においてユーザ5が向いた方向の視界領域15に重畳する画像に更新される。ユーザ5は、仮想空間11における所望の方向を視認することができる。
【0064】
このように、仮想カメラ14の傾きは仮想空間11におけるユーザ5の視線(基準視線16)に相当し、仮想カメラ14が配置される位置は、仮想空間11におけるユーザ5の視点に相当する。したがって、仮想カメラ14の位置または傾きを変更することにより、モニタ130に表示される画像が更新され、ユーザ5の視界が移動される。
【0065】
ユーザ5は、HMD120を装着している間、現実世界を視認することなく、仮想空間11に展開されるパノラマ画像13のみを視認できる。そのため、HMDシステム100は、仮想空間11への高い没入感覚をユーザ5に与えることができる。
【0066】
ある局面において、プロセッサ210は、HMD120を装着したユーザ5の現実空間における移動に連動して、仮想空間11において仮想カメラ14を移動し得る。この場合、プロセッサ210は、仮想空間11における仮想カメラ14の位置および傾きに基づいて、HMD120のモニタ130に投影される画像領域(視界領域15)を特定する。
【0067】
ある局面において、仮想カメラ14は、2つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含み得る。ユーザ5が3次元の仮想空間11を認識できるように、適切な視差が、2つの仮想カメラに設定される。別の局面において、仮想カメラ14を1つの仮想カメラにより実現してもよい。この場合、1つの仮想カメラにより得られた画像から、右目用の画像と左目用の画像とを生成するようにしてもよい。本実施の形態においては、仮想カメラ14が2つの仮想カメラを含み、2つの仮想カメラのロール軸が合成されることによって生成されるロール軸(w)がHMD120のロール軸(w)に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
【0068】
[コントローラ]
図8を参照して、コントローラ300の一例について説明する。
図8は、ある実施の形態に従うコントローラ300の概略構成を表す図である。
【0069】
図8に示されるように、ある局面において、コントローラ300は、右コントローラ300Rと図示せぬ左コントローラとを含み得る。右コントローラ300Rは、ユーザ5の右手で操作される。左コントローラは、ユーザ5の左手で操作される。ある局面において、右コントローラ300Rと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ5は、右コントローラ300Rを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ300は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ300Rについて説明する。
【0070】
右コントローラ300Rは、グリップ310と、フレーム320と、天面330とを備える。グリップ310は、ユーザ5の右手によって把持されるように構成されている。たとえば、グリップ310は、ユーザ5の右手の掌と3本の指(中指、薬指、小指)とによって保持され得る。
【0071】
グリップ310は、ボタン340,350と、モーションセンサ420とを含む。ボタン340は、グリップ310の側面に配置され、右手の中指による操作を受け付ける。ボタン350は、グリップ310の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン340,350は、トリガー式のボタンとして構成される。モーションセンサ420は、グリップ310の筐体に内蔵されている。ユーザ5の動作がカメラその他の装置によってユーザ5の周りから検出可能である場合には、グリップ310は、モーションセンサ420を備えなくてもよい。
【0072】
フレーム320は、その円周方向に沿って配置された複数の赤外線LED360を含む。赤外線LED360は、コントローラ300を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線LED360から発せられた赤外線は、右コントローラ300Rと左コントローラとの各位置や姿勢(傾き、向き)を検出するために使用され得る。
図8に示される例では、二列に配置された赤外線LED360が示されているが、配列の数は
図8に示されるものに限られない。一列あるいは3列以上の配列が使用されてもよい。
【0073】
天面330は、ボタン370,380と、アナログスティック390とを備える。ボタン370,380は、プッシュ式ボタンとして構成される。ボタン370,380は、ユーザ5の右手の親指による操作を受け付ける。アナログスティック390は、ある局面において、初期位置(ニュートラルの位置)から360度任意の方向への操作を受け付ける。当該操作は、たとえば、仮想空間11に配置されるオブジェクトを移動するための操作を含む。
【0074】
ある局面において、右コントローラ300Rおよび左コントローラは、赤外線LED360その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型などを含むが、これらに限定されない。別の局面において、右コントローラ300Rと左コントローラは、たとえば、コンピュータ200のUSBインターフェイスに接続され得る。この場合、右コントローラ300Rおよび左コントローラは、電池を必要としない。
【0075】
図8の状態(A)および状態(B)に示されるように、例えば、ユーザ5の右手に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ5が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。
【0076】
[サーバのハードウェア構成]
図9を参照して、本実施の形態に係るサーバ600について説明する。
図9は、ある実施の形態に従うサーバ600のハードウェア構成の一例を表すブロック図である。サーバ600は、主たる構成要素として、プロセッサ610と、メモリ620と、ストレージ630と、入出力インターフェイス640と、通信インターフェイス650とを備える。各構成要素は、それぞれ、バス660に接続されている。
【0077】
プロセッサ610は、サーバ600に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ620またはストレージ630に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ610は、CPU、GPU、MPU、FPGAその他のデバイスとして実現される。
【0078】
メモリ620は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ630からロードされる。データは、サーバ600に入力されたデータと、プロセッサ610によって生成されたデータとを含む。ある局面において、メモリ620は、RAMその他の揮発メモリとして実現される。
【0079】
ストレージ630は、プログラムおよびデータを永続的に保持する。ストレージ630は、例えば、ROM、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ630に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、コンピュータ200との通信を実現するためのプログラムを含んでもよい。ストレージ630に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含んでもよい。
【0080】
別の局面において、ストレージ630は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、サーバ600に内蔵されたストレージ630の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムやデータの更新を一括して行うことが可能になる。
【0081】
入出力インターフェイス640は、入出力機器との間で信号を通信する。ある局面において、入出力インターフェイス640は、USB、DVI、HDMIその他の端子を用いて実現される。入出力インターフェイス640は上述のものに限られない。
【0082】
通信インターフェイス650は、ネットワーク2に接続されて、ネットワーク2に接続されているコンピュータ200と通信する。ある局面において、通信インターフェイス650は、例えば、LANその他の有線通信インターフェイス、あるいは、Wi-Fi、Bluetooth、NFCその他の無線通信インターフェイスとして実現される。通信インターフェイス650は上述のものに限られない。
【0083】
ある局面において、プロセッサ610は、ストレージ630にアクセスし、ストレージ630に格納されている1つ以上のプログラムをメモリ620にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、サーバ600のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ610は、入出力インターフェイス640を介して、仮想空間を提供するための信号をコンピュータ200に送ってもよい。
【0084】
[HMDの制御装置]
図10を参照して、HMD120の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。
図10は、ある実施の形態に従うコンピュータ200をモジュール構成として表すブロック図である。
【0085】
図10に示されるように、コンピュータ200は、コントロールモジュール510と、レンダリングモジュール520と、メモリモジュール530と、通信制御モジュール540とを備える。ある局面において、コントロールモジュール510とレンダリングモジュール520とは、プロセッサ210によって実現される。別の局面において、複数のプロセッサ210がコントロールモジュール510とレンダリングモジュール520として作動してもよい。メモリモジュール530は、メモリ220またはストレージ230によって実現される。通信制御モジュール540は、通信インターフェイス250によって実現される。
【0086】
コントロールモジュール510は、ユーザ5に提供される仮想空間11を制御する。コントロールモジュール510は、仮想空間11を表す仮想空間データを用いて、HMDシステム100における仮想空間11を規定する。仮想空間データは、例えば、メモリモジュール530に記憶されている。コントロールモジュール510が、仮想空間データを生成したり、サーバ600などから仮想空間データを取得するようにしたりしてもよい。
【0087】
コントロールモジュール510は、オブジェクトを表すオブジェクトデータを用いて、仮想空間11にオブジェクトを配置する。オブジェクトデータは、例えば、メモリモジュール530に記憶されている。コントロールモジュール510が、オブジェクトデータを生成したり、サーバ600などからオブジェクトデータを取得するようにしたりしてもよい。オブジェクトは、例えば、ユーザ5の分身であるアバターオブジェクト(換言すると、ユーザ5のキャラクタオブジェクト)、キャラクタオブジェクト、コントローラ300によって操作される仮想手などの操作オブジェクト、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、街並み、動物等を含み得る。
【0088】
コントロールモジュール510は、ネットワーク2を介して接続される他のコンピュータ200のユーザ5のアバターオブジェクトを仮想空間11に配置する。ある局面において、コントロールモジュール510は、ユーザ5のアバターオブジェクトを仮想空間11に配置する。ある局面において、コントロールモジュール510は、ユーザ5を含む画像に基づいて、ユーザ5を模したアバターオブジェクトを仮想空間11に配置する。別の局面において、コントロールモジュール510は、複数種類のアバターオブジェクト(例えば、動物を模したオブジェクトや、デフォルメされた人のオブジェクト)の中からユーザ5による選択を受け付けたアバターオブジェクトを仮想空間11に配置する。
【0089】
コントロールモジュール510は、HMDセンサ410の出力に基づいてHMD120の傾きを特定する。別の局面において、コントロールモジュール510は、モーションセンサとして機能するセンサ190の出力に基づいてHMD120の傾きを特定する。コントロールモジュール510は、第1カメラ150および第2カメラ160が生成するユーザ5の顔の画像から、ユーザ5の顔を構成する器官(例えば、口,目,眉)を検出する。コントロールモジュール510は、検出した各器官の動き(形状)を検出する。
【0090】
コントロールモジュール510は、注視センサ140からの信号に基づいて、ユーザ5の仮想空間11における視線を検出する。コントロールモジュール510は、検出したユーザ5の視線と仮想空間11の天球とが交わる視点位置(XYZ座標系における座標値)を検出する。より具体的には、コントロールモジュール510は、uvw座標系で規定されるユーザ5の視線と、仮想カメラ14の位置および傾きとに基づいて、視点位置を検出する。コントロールモジュール510は、検出した視点位置をサーバ600に送信する。別の局面において、コントロールモジュール510は、ユーザ5の視線を表す視線情報をサーバ600に送信するように構成されてもよい。係る場合、サーバ600が受信した視線情報に基づいて視点位置を算出し得る。
【0091】
コントロールモジュール510は、HMDセンサ410が検出するHMD120の動きをアバターオブジェクトに反映する。例えば、コントロールモジュール510は、HMD120が傾いたことを検知して、アバターオブジェクトを傾けて配置する。コントロールモジュール510は、検出した顔器官の動作を、仮想空間11に配置されるアバターオブジェクトの顔に反映させる。コントロールモジュール510は、サーバ600から他のユーザ5の視線情報を受信し、当該他のユーザ5のアバターオブジェクトの視線に反映させる。ある局面において、コントロールモジュール510は、コントローラ300の動きをアバターオブジェクトや操作オブジェクトに反映する。この場合、コントローラ300は、コントローラ300の動きを検知するためのモーションセンサ、加速度センサ、または複数の発光素子(例えば、赤外線LED)などを備えてもよい。また、コントローラ300の動きとは、アナログスティック390の動きやボタン370,380の動き等であってもよい。そして、コントロールモジュール510は、例えば、アナログスティック390の動き(換言すると、アナログスティック390に対するユーザの操作)に基づいてアバターオブジェクトを仮想空間11内で移動させるなどしてもよい。
【0092】
コントロールモジュール510は、仮想空間11においてユーザ5の操作を受け付けるための操作オブジェクトを仮想空間11に配置する。ユーザ5は、操作オブジェクトを操作することにより、例えば、仮想空間11に配置されるオブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、ユーザ5の手に相当する仮想手である手オブジェクト等を含み得る。ある局面において、コントロールモジュール510は、モーションセンサ420の出力に基づいて現実空間におけるユーザ5の手の動きに連動するように仮想空間11において手オブジェクトを動かす。ある局面において、操作オブジェクトは、アバターオブジェクトの手の部分に相当し得る。
【0093】
コントロールモジュール510は、仮想空間11に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。コントロールモジュール510は、例えば、あるオブジェクトのコリジョンエリアと、別のオブジェクトのコリジョンエリアとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。コントロールモジュール510は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。コントロールモジュール510は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。例えば、コントロールモジュール510は、操作オブジェクトと、他のオブジェクトとが触れたときに、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行う。
【0094】
ある局面において、コントロールモジュール510は、HMD120のモニタ130における画像表示を制御する。例えば、コントロールモジュール510は、仮想空間11に仮想カメラ14を配置する。コントロールモジュール510は、仮想空間11における仮想カメラ14の位置と、仮想カメラ14の傾き(向き)を制御する。コントロールモジュール510は、HMD120を装着したユーザ5の頭の傾きと、仮想カメラ14の位置に応じて、視界領域15を規定する。レンダリングモジュール520は、決定された視界領域15に基づいて、モニタ130に表示される視界画像17を生成する。レンダリングモジュール520により生成された視界画像17は、通信制御モジュール540によってHMD120に出力される。
【0095】
コントロールモジュール510は、HMD120から、ユーザ5のマイク170を用いた発話を検出すると、当該発話に対応する音声データの送信対象のコンピュータ200を特定する。音声データは、コントロールモジュール510によって特定されたコンピュータ200に送信される。コントロールモジュール510は、ネットワーク2を介して他のユーザのコンピュータ200から音声データを受信すると、当該音声データに対応する音声(発話)をスピーカ180から出力する。
【0096】
メモリモジュール530は、コンピュータ200が仮想空間11をユーザ5に提供するために使用されるデータを保持している。ある局面において、メモリモジュール530は、空間情報と、オブジェクト情報と、ユーザ情報とを保持している。
【0097】
空間情報は、仮想空間11を提供するために規定された1つ以上のテンプレートを保持している。
【0098】
オブジェクト情報は、仮想空間11を構成する複数のパノラマ画像13、仮想空間11にオブジェクトを配置するためのオブジェクトデータを含む。パノラマ画像13は、静止画像および動画像を含み得る。パノラマ画像13は、非現実空間の画像と現実空間の画像とを含み得る。非現実空間の画像としては、例えば、コンピュータグラフィックスで生成された画像が挙げられる。
【0099】
ユーザ情報は、ユーザ5を識別するユーザIDを保持する。ユーザIDは、例えば、ユーザが使用するコンピュータ200に設定されるIP(Internet Protocol)アドレスまたはMAC(Media Access Control)アドレスであり得る。別の局面において、ユーザIDはユーザによって設定され得る。ユーザ情報は、HMDシステム100の制御装置としてコンピュータ200を機能させるためのプログラム等を含む。また、ユーザ情報は、サービスのアカウント毎(換言すると、ユーザID毎)に管理される情報を含む。
【0100】
メモリモジュール530に格納されているデータおよびプログラムは、HMD120のユーザ5によって入力される。あるいは、プロセッサ210が、当該コンテンツを提供する事業者が運営するコンピュータ(例えば、サーバ600)からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール530に格納する。
【0101】
通信制御モジュール540は、ネットワーク2を介して、サーバ600その他の情報通信装置と通信し得る。
【0102】
ある局面において、コントロールモジュール510およびレンダリングモジュール520は、例えば、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用いて実現され得る。別の局面において、コントロールモジュール510およびレンダリングモジュール520は、各処理を実現する回路素子の組み合わせとしても実現され得る。
【0103】
コンピュータ200における処理は、ハードウェアと、プロセッサ210により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール530に予め格納されている場合がある。ソフトウェアは、CD-ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール540を介してサーバ600その他のコンピュータからダウンロードされた後、メモリモジュール530に一旦格納される。そのソフトウェアは、プロセッサ210によってメモリモジュール530から読み出され、実行可能なプログラムの形式でRAMに格納される。プロセッサ210は、そのプログラムを実行する。
【0104】
[HMDシステムの制御構造]
図11を参照して、HMDセット110の制御構造について説明する。
図11は、ある実施の形態に従うHMDセット110において実行される処理の一部を表すシーケンスチャートである。
【0105】
図11に示されるように、ステップS1110にて、コンピュータ200のプロセッサ210は、コントロールモジュール510として、仮想空間データを特定し、仮想空間11を定義する。
【0106】
ステップS1120にて、プロセッサ210は、仮想カメラ14を初期化する。たとえば、プロセッサ210は、メモリのワーク領域において、仮想カメラ14を仮想空間11において予め規定された中心12に配置し、仮想カメラ14の視線をユーザ5が向いている方向に向ける。
【0107】
ステップS1130にて、プロセッサ210は、レンダリングモジュール520として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、通信制御モジュール540によってHMD120に出力される。
【0108】
ステップS1132にて、HMD120のモニタ130は、コンピュータ200から受信した視界画像データに基づいて、視界画像を表示する。HMD120を装着したユーザ5は、視界画像を視認すると仮想空間11を認識し得る。
【0109】
ステップS1134にて、HMDセンサ410は、HMD120から発信される複数の赤外線光に基づいて、HMD120の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ200に出力される。
【0110】
ステップS1140にて、プロセッサ210は、HMD120の動き検知データに含まれる位置と傾きとに基づいて、HMD120を装着したユーザ5の視界方向を特定する。
【0111】
ステップS1150にて、プロセッサ210は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間11にオブジェクト
を配置する。
【0112】
ステップS1160にて、コントローラ300は、ユーザ5の操作を検出し、その検出された操作を表す検出データをコンピュータ200に出力する。別の局面において、ユーザ5による操作は、ユーザ5の周囲に配置されたカメラからの画像に基づいて検出されてもよい。
【0113】
ステップS1170にて、プロセッサ210は、コントローラ300から取得した検出データに基づいて、ユーザ5によるコントローラ300の操作を検出する。
【0114】
ステップS1180にて、プロセッサ210は、ユーザ5によるコントローラ300の操作に基づく視界画像データを生成する。生成された視界画像データは、通信制御モジュール540によってHMD120に出力される。
【0115】
ステップS1190にて、HMD120は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像をモニタ130に表示する。
【0116】
[アバターオブジェクト]
図12(A)、(B)を参照して、本実施の形態に従うアバターオブジェクトについて説明する。以下、HMDセット110A,110Bの各ユーザ5のアバターオブジェクトを説明する図である。以下、HMDセット110Aのユーザをユーザ5A、HMDセット110Bのユーザをユーザ5B、HMDセット110Cのユーザをユーザ5C、HMDセット110Dのユーザをユーザ5Dと表す。HMDセット110Aに関する各構成要素の参照符号にAが付され、HMDセット110Bに関する各構成要素の参照符号にBが付され、HMDセット110Cに関する各構成要素の参照符号にCが付され、HMDセット110Dに関する各構成要素の参照符号にDが付される。例えば、HMD120Aは、HMDセット110Aに含まれる。
【0117】
図12(A)は、ネットワーク2において、各HMD120がユーザ5に仮想空間11を提供する状況を表す模式図である。コンピュータ200A~200Dは、HMD120A~120Dを介して、ユーザ5A~5Dに、仮想空間11A~11Dをそれぞれ提供する。
図12(A)に示される例において、仮想空間11Aおよび仮想空間11Bは同じデータによって構成されている。換言すれば、コンピュータ200Aとコンピュータ200Bとは同じ仮想空間を共有していることになる。仮想空間11Aおよび仮想空間11Bには、ユーザ5Aのアバターオブジェクト6Aと、ユーザ5Bのアバターオブジェクト6Bとが存在する。仮想空間11Aにおけるアバターオブジェクト6Aおよび仮想空間11Bにおけるアバターオブジェクト6BがそれぞれHMD120を装着しているが、これは説明を分かりやすくするためのものであって、実際にはこれらのオブジェクトはHMD120を装着していない。
【0118】
ある局面において、プロセッサ210Aは、ユーザ5Aの視界画像17Aを撮影する仮想カメラ14Aを、アバターオブジェクト6Aの目の位置に配置し得る。
【0119】
図12(B)は、
図12(A)におけるユーザ5Aの視界画像17Aを示す図である。視界画像17Aは、HMD120Aのモニタ130Aに表示される画像である。この視界画像17Aは、仮想カメラ14Aにより生成された画像である。視界画像17Aには、ユーザ5Bのアバターオブジェクト6Bが表示されている。特に図示はしていないが、ユーザ5Bの視界画像にも同様に、ユーザ5Aのアバターオブジェクト6Aが表示されている。
【0120】
図12(B)の状態において、ユーザ5Aは仮想空間11Aを介してユーザ5Bと対話による通信(コミュニケーション)を図ることができる。より具体的には、マイク170Aにより取得されたユーザ5Aの音声は、サーバ600を介してユーザ5BのHMD120Bに送信され、HMD120Bに設けられたスピーカ180Bから出力される。ユーザ5Bの音声は、サーバ600を介してユーザ5AのHMD120Aに送信され、HMD120Aに設けられたスピーカ180Aから出力される。
【0121】
ユーザ5Bの動作(HMD120Bの動きおよびコントローラ300Bの動き)は、プロセッサ210Aにより仮想空間11Aに配置されるアバターオブジェクト6Bに反映される。これにより、ユーザ5Bによって操作されて動くアバターオブジェクト6Bがユーザ5Aから視認される。
【0122】
図13は、本実施の形態に従うHMDシステム100において実行される処理の一部を表すシーケンスチャートである。
図13においては、HMDセット110Dを図示していないが、HMDセット110Dについても、HMDセット110A、110B、110Cと同様に動作する。以下の説明でも、HMDセット110Aに関する各構成要素の参照符号にAが付され、HMDセット110Bに関する各構成要素の参照符号にBが付され、HMDセット110Cに関する各構成要素の参照符号にCが付され、HMDセット110Dに関する各構成要素の参照符号にDが付されるものとする。
【0123】
ステップS1310Aにおいて、HMDセット110Aにおけるプロセッサ210Aは、仮想空間11Aにおけるアバターオブジェクト6Aの動作を決定するためのアバター情報を取得する。このアバター情報は、例えば、動き情報、フェイストラッキングデータ、および音声データ等のアバターに関する情報を含む。動き情報は、HMD120Aの位置および傾きの時間的変化を示す情報や、モーションセンサ420A等により検出されたユーザ5Aの手の動きを示す情報や、コントローラ300等により検出されたユーザの操作を示す情報などを含む。フェイストラッキングデータは、ユーザ5Aの顔の各パーツの位置および大きさを特定するデータが挙げられる。フェイストラッキングデータは、ユーザ5Aの顔を構成する各器官の動きを示すデータや視線データが挙げられる。音声データは、HMD120Aのマイク170Aによって取得されたユーザ5Aの音声を示すデータが挙げられる。アバター情報には、アバターオブジェクト6A、あるいはアバターオブジェクト6Aに関連付けられるユーザ5Aを特定する情報や、アバターオブジェクト6Aが存在する仮想空間11Aを特定する情報等が含まれてもよい。アバターオブジェクト6Aやユーザ5Aを特定する情報としては、ユーザIDが挙げられる。アバターオブジェクト6Aが存在する仮想空間11Aを特定する情報としては、ルームIDが挙げられる。プロセッサ210Aは、上述のように取得されたアバター情報を、ネットワーク2を介してサーバ600に送信する。
【0124】
ステップS1310Bにおいて、HMDセット110Bにおけるプロセッサ210Bは、ステップS1310Aにおける処理と同様に、仮想空間11Bにおけるアバターオブジェクト6Bの動作を決定するためのアバター情報を取得し、サーバ600に送信する。同様に、ステップS1310Cにおいて、HMDセット110Cにおけるプロセッサ210Cは、仮想空間11Cにおけるアバターオブジェクト6Cの動作を決定するためのアバター情報を取得し、サーバ600に送信する。
【0125】
ステップS1320において、サーバ600は、HMDセット110A、HMDセット110B、およびHMDセット110Cのそれぞれから受信したアバター情報を一旦記憶する。サーバ600は、各アバター情報に含まれるユーザIDおよびルームID等に基づいて、共通の仮想空間11に関連付けられた全ユーザ(この例では、ユーザ5A~5C)のアバター情報を統合する。そして、サーバ600は、予め定められたタイミングで、統合したアバター情報を当該仮想空間11に関連付けられた全ユーザに送信する。これにより、同期処理が実行される。このような同期処理により、HMDセット110A、HMDセット110B、およびHMDセット110Cは、互いのアバター情報をほぼ同じタイミングで共有することができる。
【0126】
続いて、サーバ600から各HMDセット110A~110Cに送信されたアバター情報に基づいて、各HMDセット110A~110Cは、ステップS1330A~S1330Cの処理を実行する。ステップS1330Aの処理は、
図11におけるステップS1180の処理に相当する。
【0127】
ステップS1330Aにおいて、HMDセット110Aにおけるプロセッサ210Aは、仮想空間11Aにおける他のユーザ5B,5Cのアバターオブジェクト6B、アバターオブジェクト6Cの情報を更新する。具体的には、プロセッサ210Aは、HMDセット110Bから送信されたアバター情報に含まれる動き情報に基づいて、仮想空間11におけるアバターオブジェクト6Bの位置および向き等を更新する。例えば、プロセッサ210Aは、メモリモジュール530に格納されたオブジェクト情報に含まれるアバターオブジェクト6Bの情報(位置および向き等)を更新する。同様に、プロセッサ210Aは、HMDセット110Cから送信されたアバター情報に含まれる動き情報に基づいて、仮想空間11におけるアバターオブジェクト6Cの情報(位置および向き等)を更新する。
【0128】
ステップS1330Bにおいて、HMDセット110Bにおけるプロセッサ210Bは、ステップS1330Aにおける処理と同様に、仮想空間11Bにおけるユーザ5A,5Cのアバターオブジェクト6A,6Cの情報を更新する。同様に、ステップS1330Cにおいて、HMDセット110Cにおけるプロセッサ210Cは、仮想空間11Cにおけるユーザ5A,5Bのアバターオブジェクト6A,6Bの情報を更新する。
【0129】
[モジュールの詳細構成]
図14を参照して、コンピュータ200のモジュール構成の詳細について説明する。
図14は、ある実施の形態に従うコンピュータ200のモジュールの詳細構成を表すブロック図である。
【0130】
図14に示されるように、コントロールモジュール510は、仮想カメラ制御モジュール1421と、視界領域決定モジュール1422と、基準視線特定モジュール1423と、顔器官検出モジュール1424と、動き検出モジュール1425と、仮想空間定義モジュール1426と、仮想オブジェクト生成モジュール1427と、操作オブジェクト制御モジュール1428と、アバター制御モジュール1429と、を備える。レンダリングモジュール520は、視界画像生成モジュール1438を備える。
【0131】
仮想カメラ制御モジュール1421は、仮想空間11に仮想カメラ14を配置する。仮想カメラ制御モジュール1421は、仮想空間11における仮想カメラ14の配置位置と、仮想カメラ14の向き(傾き)を制御する。視界領域決定モジュール1422は、HMD120を装着したユーザの頭の向きと、仮想カメラ14の配置位置に応じて、視界領域15を規定する。視界画像生成モジュール1438は、決定された視界領域15に基づいて、モニタ130に表示される視界画像17を生成する。
【0132】
基準視線特定モジュール1423は、注視センサ140からの信号に基づいて、ユーザ5の視線を特定する。顔器官検出モジュール1424は、第1カメラ150および第2カメラ160が生成するユーザ5の顔の画像から、ユーザ5の顔を構成する器官(例えば、口、目、眉)を検出する。動き検出モジュール1425は、顔器官検出モジュール1424が検出した各器官の動き(形状)を検出する。
【0133】
仮想空間定義モジュール1426は、仮想空間11を表す仮想空間データを生成することにより、HMDシステム100における仮想空間11を規定する。
【0134】
仮想オブジェクト生成モジュール1427は、仮想空間11に配置されるオブジェクトを生成する。オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。
【0135】
操作オブジェクト制御モジュール1428は、仮想空間11においてユーザの操作を受け付けるための操作オブジェクトを仮想空間11に配置する。ユーザは、操作オブジェクトを操作することにより、例えば、仮想空間11に配置されるオブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、HMD120を装着したユーザの手に相当する手オブジェクト等を含み得る。ある局面において、操作オブジェクトは、後述するアバターオブジェクトの手の部分に相当し得る。
【0136】
アバター制御モジュール1429は、ネットワーク2を介して接続される他のコンピュータ200のユーザのアバターオブジェクト6を仮想空間11に配置するためのデータを生成する。ある局面において、アバター制御モジュール1429は、ユーザ5のアバターオブジェクト6を仮想空間11に配置するためのデータを生成する。ある局面において、アバター制御モジュール1429は、ユーザ5を含む画像に基づいて、ユーザ5を模したアバターオブジェクト6を生成する。別の局面において、アバター制御モジュール1429は、複数種類のアバターオブジェクト6(例えば、動物を模したオブジェクトや、デフォルメされた人のオブジェクト)の中からユーザ5による選択を受け付けたアバターオブジェクト6を仮想空間11に配置するためのデータを生成する。
【0137】
アバター制御モジュール1429は、HMDセンサ410が検出するHMD120の動きをアバターオブジェクト6に反映する。例えば、アバター制御モジュール1429は、HMD120が傾いたことを検知して、アバターオブジェクト6を傾けて配置するためのデータを生成する。ある局面において、アバター制御モジュール1429は、コントローラ300の動きをアバターオブジェクト6に反映する。別の局面において、アバター制御モジュール1429は、動き検出モジュール1425が検出した顔器官の動作を、仮想空間11に配置されるアバターオブジェクト6の顔に反映する。つまり、アバター制御モジュール1429は、ユーザ5Aの顔の動作をアバターオブジェクト6に反映する。このように、アバターオブジェクト6は、HMDセンサ410、コントローラ300または動き検出モジュール1425が検出する動きによって操作される(換言すると、動かされる)ようになっている。
【0138】
[サーバのモジュール構成]
図15を参照して、サーバ600のモジュール構成について説明する。
図15は、ある実施の形態に従うサーバ600のモジュールの構成を表すブロック図である。
図15に示されるように、サーバ600は、コントロールモジュール1610と、メモリモジュール1630と、通信制御モジュール1640とを備える。ある局面において、コントロールモジュール1610は、プロセッサ610によって実現される。メモリモジュール1630は、メモリ620またはストレージ630によって実現される。通信制御モジュール1640は、通信インターフェイス650によって実現される。
【0139】
コントロールモジュール1610は、現実情報取得モジュール1731を備えている。
【0140】
メモリモジュール1630は、コンピュータ200が仮想空間11をユーザ5に提供するために使用されるデータを保持している。ある局面において、メモリモジュール1630は、空間情報と、オブジェクト情報と、ユーザ情報とを保持している。メモリモジュール1630の空間情報、オブジェクト情報、およびユーザ情報は、それぞれ上述したメモリモジュール530の空間情報、オブジェクト情報、およびユーザ情報を含み得る。したがって、ここでは説明を省略する。
【0141】
通信制御モジュール1640は、各HMDセット110から、各種の情報、および各種の要求を受信する。一例として、通信制御モジュール1640が各HMDセット110から受信する情報は、空間情報、オブジェクト情報、ユーザ情報、およびアバター情報を含み得る。通信制御モジュール1640は、各HMDセット110に対して、各種の情報、および各種の要求を送信する。一例として、通信制御モジュール1640が各HMDセット110へ送信する情報は、空間情報、オブジェクト情報、ユーザ情報、およびアバター情報を含み得る。
【0142】
サーバ600における処理は、ハードウェアと、プロセッサ610により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール1630に予め格納されている場合がある。ソフトウェアは、CD-ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール1640を介して所定のコンピュータからダウンロードされた後、メモリモジュール1630に一旦格納される。そのソフトウェアは、プロセッサ610によってメモリモジュール1630から読み出され、実行可能なプログラムの形式でRAMに格納される。プロセッサ610は、そのプログラムを実行する。
【0143】
なお、上述したコンピュータ200およびサーバ600のモジュール構成は一例にすぎない。コンピュータ200およびサーバ600の各装置は、他の装置が備えるモジュール(換言すると、機能)の少なくとも一部を備えていてもよい。また、コンピュータ200およびサーバ600等の各装置は、一体の機器により実現されるものでなくてもよく、例えば、ネットワーク等を介して接続される複数の機器によって実現されてもよい。
【0144】
また、本実施形態では、コンピュータ200のプロセッサ210またはサーバ600のプロセッサ610が、HMDシステム100に記憶されているプログラムを実行することによって、上述のまたは後述する各処理を行うものとして説明する。ただし、上述のまたは後述する処理であってプロセッサ210が行う処理のうちの少なくとも一部を、プロセッサ210とは別のプロセッサが実行するようにしてもよい。また、上述のまたは後述する処理であってプロセッサ610が行う処理のうちの少なくとも一部を、プロセッサ610とは別のプロセッサが実行するようにしてもよい。換言すると、本実施形態においてプログラムを実行するコンピュータは、コンピュータ200およびサーバ600のいずれであってもよく、また、複数の装置の組み合わせにより実現されてもよい。
【0145】
[本実施形態に係る処理]
本実施形態では、ユーザ5に関連する現実世界の情報(換言すると、仮想空間11の外部の情報(換言すると、HMDシステム100の外部の情報))が、ユーザ5のアバターオブジェクト6に反映される。また、現実世界の情報が反映されたアバターオブジェクト6が、他のユーザ5のHMD120に表示される。以下では、この点について説明する。
【0146】
図14に示されるように、コントロールモジュール510は、位置情報取得モジュール1721を備える。位置情報取得モジュール1721は、HMD120の位置を示す位置情報を取得する。換言すると、位置情報取得モジュール1721は、ユーザ5の現実世界における位置を示す位置情報を取得する。
【0147】
位置情報取得モジュール1721は、例えば、HMD120の備えるGPS(Global Positioning System)センサによって実現されてもよい。なお、位置情報取得モジュール1721における位置情報の取得方法は任意であり、位置情報取得モジュール1721は、例えば、Wi-FiやBluetooth等を利用して位置情報を取得してもよい。
【0148】
また、位置情報取得モジュール1721が取得した位置情報は、サーバ600の現実情報取得モジュール1731に送られる。
【0149】
なお、位置情報取得モジュール1721は、例えば、HMDセット110のユーザ5が使用する外部機器700(例えば、スマートフォンやウェアラブルデバイス等)において、当該外部機器700が備えるGPSセンサ等によって特定された位置情報(具体的には、ユーザ5の位置を示す位置情報)を取得するものであってもよい。また、位置情報取得モジュール1721は、例えば、サーバ600のコントロールモジュール1610が備えていてもよい。
【0150】
現実情報取得モジュール1731は、位置情報取得モジュール1721が取得したユーザ5の位置を示す位置情報に基づいて、ユーザ5に関連する現実世界の情報(以下、「現実情報」という。)を取得する。具体的には、現実情報取得モジュール1731は、例えば、位置情報に基づいて、ユーザ5が位置している地域の気象情報を取得する。現実情報取得モジュール1731は、例えば、気象情報を公開しているウェブサイトや気象情報を記憶している所定のサーバ等にアクセスし、位置情報に対応する地域の気象情報を取得してもよい。
【0151】
現実情報取得モジュール1731が取得する気象情報は、例えば、「晴れ」、「雨」、「曇り」、「雪」といった天気を示す情報であってもよい、また、現実情報取得モジュール1731が取得する気象情報は、例えば、「気温が高い」、「気温が低い」といった(換言すると、「気温が何度」といった)、気温を示す情報であってもよい。
【0152】
アバター制御モジュール1429(換言すると、変化手段)は、現実情報をアバターオブジェクト6に反映する。具体的には、アバター制御モジュール1429は、ユーザ(例えば、ユーザ5A)のアバターオブジェクト6を他のユーザ(例えば、ユーザ5B)が見た場合に、ユーザのアバターオブジェクト6に関する表示が、ユーザに関連する現実情報を反映したものとなるように、当該現実情報に基づいてユーザのアバターオブジェクト6に関する表示についての設定を行う。換言すると、アバター制御モジュール1429は、当該現実情報に応じてユーザ5のアバターオブジェクト6の表示態様を変化させる。アバターオブジェクト6の表示態様の一例を
図16に示す。以下、
図16を参照しながら、アバター制御モジュール1429によるアバターオブジェクト6の表示態様の設定について説明する。
【0153】
アバター制御モジュール1429は、例えば、ユーザ5に関連する現実情報に基づいて、ユーザ5のアバターオブジェクト6のスキンを設定してもよい。具体的には、アバター制御モジュール1429は、ユーザ5Aに関連する気象情報に応じて、アバターオブジェクト6Aのスキンを設定してもよい。例えば、アバター制御モジュール1429は、ユーザ5Aに関連する気象情報が「雨」の場合に、ユーザ5BのHMD120Bで表示されるユーザ5Aのアバターオブジェクト6Aについて、スキンを雨に対応するスキンとした態様で表示させることに決定してもよい。具体的には、アバター制御モジュール1429は、ユーザ5Aに関連する気象情報が「雨」の場合には、
図16(b)に示すように、ユーザ5Aのアバターオブジェクト6Aのスキン(例えば、服装)を、雨に対応する服装としてのレインコート1751に設定(例えば、アバターオブジェクト6Aに、雨に対応する服のオブジェクトを付加する等)してもよい。この場合、アバター制御モジュール1429は、例えば、ユーザ5Aに関連する気象情報が「晴れ」の場合には、
図16(a)に示すように、ユーザ5Aのアバターオブジェクト6Aのスキンを、雨に対応するスキンに設定せず、晴れに対応するスキン(換言すると、レインコート1751を着ていない状態)に設定する。また、アバター制御モジュール1429は、ユーザ5Aに関連する気象情報が「気温が高い」ことを示す場合には、
図16(c)に示すように、ユーザ5Aのアバターオブジェクト6Aのスキンを、半袖短パンや、サングラスを身に着けたものなど、気温が高いことをイメージさせる服装に設定するなどしてもよい。
【0154】
また、アバター制御モジュール1429は、例えば、ユーザ5に関連する現実情報に基づいて、ユーザ5のアバターオブジェクト6に付加するアイテム(換言すると、アイテムオブジェクト)を設定してもよい。具体的には、アバター制御モジュール1429は、ユーザ5Aに関連する気象情報に応じて、アバターオブジェクト6Aに付加するアイテムを設定してもよい。例えば、アバター制御モジュール1429は、ユーザ5Aに関連する気象情報が「雨」の場合に、ユーザ5BのHMD120Bで表示されるユーザ5Aのアバターオブジェクト6Aについて、雨に対応するアイテムが付加された態様で表示させることに決定してもよい。具体的には、アバター制御モジュール1429は、ユーザ5Aに関連する気象情報が「雨」の場合には、
図16(d)に示すように、ユーザ5Aのアバターオブジェクト6Aについて、雨に対応するアイテムとしての傘1752を持った状態に設定し、気象情報が「晴れ」の場合には、傘1752を持っていない状態に設定するなどしてもよい。
【0155】
また、アバター制御モジュール1429は、例えば、ユーザ5に関連する現実情報に基づいて、ユーザ5のアバターオブジェクト6の周囲に配置するオブジェクトを設定してもよい。具体的には、アバター制御モジュール1429は、ユーザ5Aに関連する気象情報に応じて、アバターオブジェクト6Aの周囲に配置するオブジェクトを設定してもよい。例えば、アバター制御モジュール1429は、ユーザ5Aに関連する気象情報が「雨」の場合に、
図16(e)に示すように、ユーザ5BのHMD120Bで表示されるユーザ5Aのアバターオブジェクト6Aについて、周囲に雨に対応するオブジェクト(例えば、雨粒1753)が表示される態様で表示させることに決定してもよい。この場合に、アバター制御モジュール1429は、例えば、ユーザ5Aに関連する気象情報が「晴れ」の場合には、周囲に晴れに対応するオブジェクト(例えば、太陽)が表示される態様でアバターオブジェクト6Aを表示させることに決定してもよく、周囲に気象情報に対応するオブジェクトが表示されない態様でアバターオブジェクト6Aを表示させることに決定するなどしてもよい。また、例えば、アバター制御モジュール1429は、ユーザ5Aに関連する気象情報が「雨」の場合には、
図16(f)に示すように、雨に対応するアイコン1754(例えば、雨のマークのアイコンや傘のマークのアイコン等)をアバターオブジェクト6Aの頭上等に表示させ、気象情報が「晴れ」の場合には、晴れに対応するアイコン(例えば、太陽のマークのアイコン等)をアバターオブジェクト6Aの頭上等に表示させるなど、アバターオブジェクト6Aの周囲に現実情報に応じたアイコン(換言すると、アイコンオブジェクト)が表示されるように、ユーザ5Aのアバターオブジェクト6Aの表示態様を設定してもよい。
【0156】
レンダリングモジュール520(換言すると、表示制御手段)は、アバター制御モジュール1429によって設定された表示態様(換言すると、現実情報が反映された表示態様)で、アバターオブジェクト6をHMD120のモニタ130(換言すると、表示手段)に表示させる。
【0157】
なお、アバター制御モジュール1429の行う現実情報に基づくアバターオブジェクト6の表示態様の設定は、アバターオブジェクト6に対して、現実情報に応じたオブジェクト(例えば、レインコート1751、傘1752、雨粒1753、アイコン1754など)を付加する(換言すると、関連付ける)ものであってもよい。そして、レンダリングモジュール520は、アバターオブジェクト6の表示の際に、当該設定に基づいて、現実情報に対応するオブジェクトをHMD120のモニタ130に表示させてもよい。
【0158】
なお、アバターオブジェクト6に現実情報に応じたオブジェクトが付加される場合に、当該オブジェクトと当該アバターオブジェクト6とは、それぞれ個別にオブジェクトデータが用意されていてもよく、ひとまとまりのオブジェクトデータが予め用意されていてもよい。換言すると、アバターオブジェクト6に現実情報に対応するオブジェクトが付加されるとは、HMD120における表示上、アバターオブジェクト6に当該オブジェクトが付加されるものであればよく、必ずしも、アバターオブジェクト6と当該オブジェクトとで個別にオブジェクトデータが用意されていなくてもよい。すなわち、例えば、
図16(b)には、アバターオブジェクト6(換言すると、本体である人部分)にレインコート1751のオブジェクトが付加された表示態様のアバターオブジェクト6が示されているが、
図16(b)に示される表示態様は、メモリモジュール530等にそれぞれ個別に記憶されたアバターオブジェクト6のオブジェクトデータと、レインコート1751のオブジェクトデータとによって実現されるものであってもよい。また、
図16(b)に示される表示態様は、メモリモジュール530等に記憶されたアバターオブジェクト6とレインコート1751との両方をまとめて表す1つのオブジェクトデータによって実現されるものであってもよい。換言すると、例えば、
図16(a)~(f)に示される各表示態様のアバターオブジェクト6は、それぞれ1つのオブジェクトデータによって実現されるものであってもよく、複数のオブジェクトデータが組み合わされて実現されるものであってもよい。
【0159】
以上のように、アバター制御モジュール1429は、現実情報をアバターオブジェクト6に反映し、アバターオブジェクト6の表示態様を変化させる。ここで、アバター制御モジュール1429が、現実情報をアバターオブジェクト6に反映する(換言すると、アバターオブジェクト6の表示態様の設定を行う)タイミングの一例について説明する。例えば、当該タイミングは、現実情報が反映されるアバターオブジェクト6のユーザ5がログインした(換言すると、仮想空間11に入る)タイミングであってもよい。また、当該タイミングは、当該アバターオブジェクト6を視認する他のユーザ5がログインした(換言すると、仮想空間11に入る)タイミングであってもよい。また、当該タイミングは、現実情報が反映されるアバターオブジェクト6が仮想空間11内の所定の領域に入るタイミングであってもよい。また、当該タイミングは、現実情報が反映されるアバターオブジェクト6を視認する他のユーザ5のアバターオブジェクト6が仮想空間11内の所定の領域に入るタイミングであってもよい。また、当該タイミングは、定期的に訪れるもの等であってもよい。換言すると、アバターオブジェクト6が仮想空間11内で動いている最中に、当該アバターオブジェクト6の表示態様が変化することとしてもよい。なお、現実情報取得モジュール1731は、ここで例示したタイミングと同様のタイミングで現実情報を取得してもよい。また、現実情報取得モジュール1731における現実情報の取得や、アバター制御モジュール1429における現実情報のアバターオブジェクト6への反映は、ここで例示した1のタイミングで行われてもよく、複数のタイミングで行われてもよい。また、現実情報取得モジュール1731における現実情報の取得や、アバター制御モジュール1429における現実情報のアバターオブジェクト6への反映は、常時行われるものであってもよい。換言すると、現実情報の元となるデータを提供するウェブサイト(換言すると、サーバ)等において、当該データの更新があると、更新の内容がアバターオブジェクト6にリアルタイムに反映されるようになっていてもよい。例えば、気象情報を公開しているウェブサイト等において気象情報の更新があると、更新の内容がアバターオブジェクト6にリアルタイムに反映されるようになっていてもよい。
【0160】
また、現実情報取得モジュール1731は、現実情報を自動的に取得する。また、アバター制御モジュール1429は、現実情報を自動的にアバターオブジェクト6に反映する。換言すると、現実情報取得モジュール1731による現実情報の取得は、所定のタイミングで、当該取得を指示するユーザの操作を介さずに行われる。また、アバター制御モジュール1429によるアバターオブジェクト6への現実情報の反映は、所定のタイミングで、当該反映を指示するユーザの操作を介さずに行われる。すなわち、ユーザ5BのHMD120Bで表示されるユーザ5Aのアバターオブジェクト6Aの表示態様は、ユーザ5Aによる操作(およびユーザ5Bによる操作)を介することなく、自動的に変更される。なお、ここで、「操作を介さずに」とは、当該取得あるいは当該反映を行う際にユーザ5による操作が不要なものであればよく、例えば、このような、自動での取得や反映を有効とするか否かをユーザ(例えば、ユーザ5Aまたはユーザ5B)が予め設定しておくことが可能な場合において、当該設定を行う操作等の、ユーザによる事前の設定操作等は行われるものであってもよい。
【0161】
なお、本実施形態では、他のユーザ(例えば、ユーザ5B)のHMD120に表示されるユーザ(例えば、ユーザ5A)のアバターオブジェクト6への当該ユーザに関連する現実情報の反映は、当該他のユーザのHMDセット110のアバター制御モジュール1429が実行する。すなわち、例えば、HMDセット110Bのアバター制御モジュール1429Bは、現実情報取得モジュール1731から通信制御モジュール540Bを介してユーザAに関連する現実情報を取得(換言すると、受信)する。そして、アバター制御モジュール1429Bは、取得した現実情報を、ユーザ5Aのアバターオブジェクト6Aに反映する。換言すると、アバター制御モジュール1429Bは、取得した現実情報に基づいて、ユーザ5Aのアバターオブジェクト6Aの表示態様を設定する。そして、レンダリングモジュール520Bは、アバター制御モジュール1429Bによって設定された表示態様で、アバターオブジェクト6AをHMD120Bのモニタ130Bに表示させる。
【0162】
ただし、他のユーザ(例えば、ユーザ5B)のHMD120に表示されるユーザ(例えば、ユーザ5A)のアバターオブジェクト6への当該ユーザに関連する現実情報の反映は、当該ユーザのHMDセット110のアバター制御モジュール1429が実行してもよい。すなわち、例えば、HMDセット110Aのアバター制御モジュール1429Aは、現実情報取得モジュール1731から通信制御モジュール540Aを介してユーザ5Aに関連する現実情報を取得(換言すると、受信)する。そして、アバター制御モジュール1429Aは、取得した現実情報を、ユーザ5Aのアバターオブジェクト6Aに反映する。換言すると、アバター制御モジュール1429Aは、取得した現実情報に基づいて、ユーザ5Aのアバターオブジェクト6Aの表示態様を設定する。また、通信制御モジュール540Aは、現実情報が反映されたアバターオブジェクト6Aを送信し、通信制御モジュール540Bは、当該アバターオブジェクト6Aを受信する。そして、レンダリングモジュール520Bは、アバター制御モジュール1429Aによって設定された表示態様で、アバターオブジェクト6AをHMD120Bのモニタ130Bに表示させる。
【0163】
また、サーバ600がアバター制御モジュール1429を備えていてもよい。そして、他のユーザ(例えば、ユーザ5B)のHMD120に表示されるユーザ(例えば、ユーザ5A)のアバターオブジェクト6への当該ユーザに関連する現実情報の反映は、サーバ600のアバター制御モジュール1429が実行してもよい。すなわち、例えば、サーバ600のアバター制御モジュール1429は、現実情報取得モジュール1731が取得したユーザ5Aに関連する現実情報を、ユーザ5Aのアバターオブジェクト6Aに反映する。換言すると、アバター制御モジュール1429は、取得した現実情報に基づいて、ユーザAのアバターオブジェクト6Aの表示態様を設定する。また、通信制御モジュール1640は、現実情報が反映されたアバターオブジェクト6Aを送信し、通信制御モジュール540Bは、当該アバターオブジェクト6Aを受信する。そして、レンダリングモジュール520Bは、サーバのアバター制御モジュール1429によって設定された表示態様で、アバターオブジェクト6AをHMD120Bのモニタ130Bに表示させる。
【0164】
なお、現実情報取得モジュール1731は、HMDセット110が備えていてもよい。例えば、ユーザ5BのHMD120Bに表示されるアバターオブジェクト6Aに反映されるユーザ5Aに関連する現実情報は、ユーザ5BのHMDセット110Bの現実情報取得モジュール1731Bが所定のウェブサイトや所定のサーバにアクセスして入手してもよく、ユーザ5AのHMDセット110Aの現実情報取得モジュール1731Aが所定のウェブサイトや所定のサーバにアクセスして入手してもよい。
【0165】
本実施形態のHMDシステム100によれば、ユーザ5Aのアバターオブジェクト6Aは、ユーザ5Aに関連する現実情報に応じた表示態様で、ユーザ5BのHMD120Bに表示される。また、当該表示態様で表示されるアバターオブジェクト6Aは、ユーザ5Bの視点において、ユーザ5Aの操作に基づいて仮想空間11内で動く。このため、ユーザ5Bは、仮想空間11内で動いているユーザ5Aのアバターオブジェクト6Aを見たときに、ユーザ5Aに関連する現実世界の情報(例えば、ユーザ5Aがいる場所の天気の情報)を即座に得ることができる。換言すると、ユーザ5Aの現実世界における状況等が直感的に理解しやすい表示をユーザ5Bに提供することができる。したがって、仮想空間内でユーザ同士がコミュニケーションをとるためのきっかけを作ることができ、サービスの興趣性が向上される。
【0166】
なお、現実情報が反映されたアバターオブジェクト6の表示は、一部のユーザに対してのみ行われてもよい。例えば、ユーザ5Aのアバターオブジェクト6Aについて、現実情報が反映され表示態様が変化する場合に、ユーザ5BのHMD120Bにおいては現実情報が反映された表示態様でアバターオブジェクト6Aが表示される一方で、ユーザ5CのHMD120Cにおいては現実情報が反映されていない表示態様でアバターオブジェクト6Aが表示されるようになっていてもよい。
【0167】
具体的には、例えば、現実情報が反映されるアバターオブジェクト6のユーザと、HMDシステム100が提供するサービス内(換言すると、仮想空間内)において特定の関係性(例えば、いわゆるフレンド関係など)を有する他のユーザに対しては、現実情報が反映された表示態様でアバターオブジェクト6の表示がされ、当該特定の関係性を有さない他のユーザに対しては、現実情報が反映されていない表示態様でアバターオブジェクト6の表示がされるようになっていてもよい。
【0168】
また、アバターオブジェクト6への現実情報の反映は、プライベート空間等の特定の空間で行われるものとしてもよい。具体的には、特定の関係性(例えば、いわゆるフレンド関係など)を有するユーザ同士のみが参加する仮想空間や、仮想空間を特定する所定の識別情報(例えば、各仮想空間に割り当てられたURL(Uniform Resource Locator)や識別コードなど)を共有するユーザのみが参加可能な仮想空間等において、アバターオブジェクト6への現実情報の反映がされることとしてもよい。換言すると、HMDシステム100が複数種類の仮想空間をユーザに提供する場合に、特定の仮想空間においては(換言すると、特定の仮想空間にユーザのアバターオブジェクト6と他のユーザのアバターオブジェクト6とが存在する場合においては)、アバターオブジェクト6への現実情報の反映がされ、他のユーザのHMD120において現実情報が反映された表示態様でアバターオブジェクト6の表示がされる一方で、特定の仮想空間とは異なる仮想空間においては(換言すると、特定の仮想空間にユーザのアバターオブジェクト6と他のユーザのアバターオブジェクト6とが存在しない場合においては)、アバターオブジェクト6への現実情報の反映がされず、他のユーザのHMD120において現実情報が反映されていない表示態様でアバターオブジェクト6の表示がされることとしてもよい。
【0169】
なお、他のユーザのHMD120において現実情報が反映された表示態様でのアバターオブジェクト6の表示を行わない場合には、例えば、当該他のユーザのHMD120に、現実情報が反映されたアバターオブジェクト6や現実情報等を送信しないこととしてもよい。
【0170】
図17は、本実施の形態に従うHMDシステム100において実行される処理の一部を表すシーケンスチャートである。
【0171】
ステップS1810において、HMDセット110Aの位置情報取得モジュール1721Aは、ユーザ5Aの位置情報を取得する。取得された位置情報は、通信制御モジュール540A、通信制御モジュール1640を介して、サーバ600の現実情報取得モジュール1731に送られる。
【0172】
次いで、ステップS1820において、現実情報取得モジュール1731は、位置情報取得モジュール1721Aが取得した位置情報に基づいて、ユーザ5Aに関連する現実情報を取得する。具体的には、現実情報取得モジュール1731は、例えば、ユーザ5Aが位置している地域の気象情報を、現実情報として取得する。取得された現実情報は、通信制御モジュール1640、通信制御モジュール540Bを介して、HMDセット110Bのアバター制御モジュール1429Bに送られる。
【0173】
次いで、ステップS1830において、HMDセット110Bのアバター制御モジュール1429Bは、現実情報取得モジュール1731が取得した現実情報をアバターオブジェクト6Aに反映させる。換言すると、アバター制御モジュール1429Bは、アバターオブジェクト6Aの表示態様を、当該現実情報に応じた態様に変化させる。
【0174】
次いで、ステップS1840において、HMDセット110Bのレンダリングモジュール520Bは、アバターオブジェクト6Aが含まれる視界画像17を生成し、現実情報が反映されたアバターオブジェクト6Aをモニタ130Bに表示させる。
【0175】
なお、図示は省略するが、HMDセット110CやHMDセット110Dにおいても、HMDセット110Bと同様の処理が行われ、現実情報が反映されたアバターオブジェクト6Aがモニタ130C,130Dに表示される。また、HMDセット110Aにおいても、同様にして、ユーザ5B,5C,5Dのそれぞれに関連する現実情報が反映されたアバターオブジェクト6B,6C,6Dのそれぞれがモニタ130Aに表示される。なお、例えば、HMDセット110Aにおいて、ユーザ5Aに関連する現実情報が反映されたアバターオブジェクト6Aが表示されるなど、自身のHMDセット110にも現実情報が反映された自身のアバターオブジェクト6が表示され得るようになっていてもよい。
【0176】
(変形例1)
ここまで、現実情報取得モジュール1731は、現実情報として、位置情報に基づく気象情報を取得することについて説明した。すなわち、現実情報取得モジュール1731は、ユーザ5の位置情報に基づいて、現実世界の環境(換言すると、ユーザ5の周囲の環境)に関する情報(以下、「環境情報」という。)を取得することについて説明した。しかし、現実情報取得モジュール1731が取得する環境情報は、気象情報でなくてもよい。
【0177】
例えば、環境情報は、ユーザ5の位置情報に対応する場所の特徴に関する情報であってもよい。換言すると、環境情報は、ユーザ5の周囲の環境をイメージさせるものに関する情報であってもよい。
【0178】
具体的には、例えば、環境情報は、ユーザ5の位置情報に対応する地域(例えば、県)の名産品や名所に関する情報であってもよい。そして、アバター制御モジュール1429は、ユーザ5BのHMD120Bで表示されるユーザ5Aのアバターオブジェクト6Aについて、アバターオブジェクト6Aの周囲に当該名産品や名所のオブジェクトが表示されるようにアバターオブジェクト6Aの表示態様を設定してもよい。
【0179】
また、例えば、環境情報は、ユーザ5の位置情報に対応する地域の地理的特徴に関する情報であってもよい。例えば、ユーザ5の位置情報が、海に近い場所や、山の中等を示す場合に、現実情報取得モジュール1731は、環境情報として、ユーザ5が海に近い場所や山の中等に位置していることを示す情報を取得してもよい。そして、アバター制御モジュール1429は、ユーザ5BのHMD120Bで表示されるユーザ5Aのアバターオブジェクト6Aについて、表示態様を海に対応する表示態様(例えば、水着や浮き輪を身に着けた表示態様等)に設定したり、山に対応する表示態様(例えば、登山ウェアを身に着けた表示態様や、周囲に動物のオブジェクトが表示される表示態様等)に設定したりしてもよい。
【0180】
また、例えば、環境情報は、ユーザ5の位置情報に対応する施設に関する情報であってもよい。例えば、ユーザ5の位置情報が、現実世界の野球場の位置(具体的には、例えば、野球場の特定のチームの応援席)に対応するものである場合、現実情報取得モジュール1731は、環境情報として、ユーザ5が野球場に位置していることを示す情報を取得してもよい。そして、アバター制御モジュール1429は、ユーザ5BのHMD120Bで表示されるユーザ5Aのアバターオブジェクト6Aについて、スキンを野球のユニフォーム(具体的には、特定のチームのユニフォーム)に設定してもよい。また、例えば、ユーザ5の位置情報が、現実世界の飲食店の位置に対応するものである場合、アバター制御モジュール1429は、ユーザ5BのHMD120Bで表示されるユーザ5Aのアバターオブジェクト6Aの周囲に料理(例えば、ユーザのいる飲食店に対応する料理)のオブジェクトが表示されるようにアバターオブジェクト6Aの表示態様を設定するなどしてもよい。
【0181】
なお、現実情報取得モジュール1731は、ユーザ5の現在の(換言すると、現実情報を取得する時点における最新の)位置情報に基づいて現実情報を取得するものでもよく、そうでなくてもよい。例えば、現実情報取得モジュール1731は、所定期間内の位置情報に基づいて現実情報を取得してもよい。具体的には、例えば、ユーザ5のその日の位置情報の中に、野球場の位置に対応する位置情報がある場合に、アバター制御モジュール1429が、アバターオブジェクト6のスキンを野球のユニフォームに設定するなどしてもよい。換言すると、現実情報は、例えば、所定期間内にユーザ5が訪れた場所に関する情報等であってもよい。
【0182】
なお、例えば、野球に関する例について、位置情報に基づく現実情報に加えまたは代え、試合結果等がアバターオブジェクト6に反映されてもよい。例えば、アバター制御モジュール1429は、ユーザAが応援するチームが勝利した場合(例えば、所定期間内の試合で勝利した場合や、最新の試合で勝利した場合)、ユーザ5BのHMD120Bで表示されるユーザ5Aのアバターオブジェクト6Aについて、スキンを当該チームに関するスキンであって勝利に対応するスキン(例えば、当該チームのユニフォームであって金色のユニフォーム等)に設定するなどしてもよい。また、アバター制御モジュール1429は、ユーザAが応援するチームが敗北した場合(例えば、所定期間内の試合で敗北した場合や、最新の試合で敗北した場合)、ユーザ5BのHMD120Bで表示されるユーザ5Aのアバターオブジェクト6Aについて、スキンを当該チームに関するスキンであって敗北に対応するスキン(例えば、当該チームのユニフォームであってボロボロのユニフォーム等)に設定するなどしてもよい。ここで、アバター制御モジュール1429がアバターオブジェクト6に反映させる現実情報としての試合結果は、例えば、以下のように取得されてもよい。すなわち、例えば、現実情報取得モジュール1731は、ユーザ5が自身で設定可能なプロフィール情報(例えば、ユーザ5の興味があること(換言すると趣味嗜好)を設定可能なプロフィール情報)が、特定のチームのファンであることを示す場合に、プロフィール情報に基づいて、当該特定のチームの試合結果を取得してもよい。また、例えば、現実情報取得モジュール1429は、ユーザ5の位置情報が、現在を含む所定期間内にユーザ5が野球場を訪れたことを示すものである場合に、当該野球場に関連するチームの試合結果を取得してもよい。また、現実情報取得モジュール1429は、プロフィール情報が特定のチームのファンであることを示し、かつ、ユーザ5の位置情報が現在を含む所定期間内にユーザ5が当該特定のチームに関連する野球場(例えば、当該特定のチームのホーム球場または当該特定のチームが試合を行っていた野球場等)を訪れたことを示すものである場合に、当該特定のチームの試合結果を取得してもよい。換言すると、現実情報取得モジュール1731は、ユーザ5の位置情報またはプロフィール情報等に基づいて現実情報としての特定のニュースに関する情報を取得し、アバター制御モジュール1429は、当該特定のニュースに関する情報をアバターオブジェクト6に反映させてもよい。なお、ニュースに関する情報(例えば、試合結果等)の取得については、例えば、現実情報取得モジュール1731が、ニュースを公開しているウェブサイトやニュースを記憶している所定のサーバ等にアクセスし、位置情報やプロフィール情報に対応する情報(例えば、試合結果等)を取得することにより行われてもよい。
【0183】
(変形例2)
アバター制御モジュール1429がアバターオブジェクト6に反映させる現実情報は、例えば、ユーザ5の生体情報、または生体情報に基づいて得られる情報であってもよい。以下では、これらの情報をアバターオブジェクト6に反映させる場合について説明する。
【0184】
現実情報取得モジュール1731は、生体情報、または生体情報に基づいて得られる情報を現実情報として取得する。現実情報取得モジュール1731が取得する生体情報は、例えば、ユーザ5が身につけるデバイス(例えば、時計型、リストバンド型、指輪型、衣服型、もしくはメガネ型等のウェアラブルデバイス、または体内埋め込み型のデバイス等。換言すると外部機器700。)によって測定される心拍数、血圧、体温、血中酸素量、呼気、発汗量、歩数、心電図、または脳波などのデータであってもよい。また、生体情報に基づいて得られる情報は、これらのデータを分析して得られる情報(以下、「分析結果情報」という。)であってもよい。具体的には、分析結果情報は、例えば、これらのデータを分析して得られる「睡眠不足」であることを示す情報や、「運動中(あるいは運動後)」であることを示す情報や、「満腹状態」であることを示す情報や、「体調が悪い」ことを示す情報等であってもよい。なお、分析結果情報としての「運動中(あるいは運動後)」であることを示す情報は、例えば、現実情報取得モジュール1731が、所定期間内の心拍数のデータ(例えば、心拍数の変化に関する情報)や、所定期間内の歩数のデータ(例えば、歩数の変化に関する情報)等に基づいて、運動中(あるいは運動後)か否かを判定することなどにより取得してもよい。また、「体調が悪い」ことを示す情報は、例えば、現実情報取得モジュール1731が、心拍数や体温や心電図のデータ等に基づいて、体調が悪いか否かを判定することなどにより取得してもよい。具体的には、例えば、現実情報取得モジュール1731は、心拍数や体温や心電図のデータが異常値を示していることに基づいて、「命に関わる状況である」などと判定してもよい。なお、生体情報の分析は、現実情報取得モジュール1731が、生体情報の測定値と分析結果との対応関係が登録されたサーバの登録情報を参照して行うなどしてもよい。また、生体情報の分析は、ユーザ5が身につけるデバイス等で行われてもよい。換言すると、現実情報取得モジュール1731は、外部機器700から分析結果情報を取得してもよい。
【0185】
例えば、現実情報取得モジュール1731が取得したユーザ5Aの生体情報が、「体温が高い(換言すると、体温が所定温度以上)」ということを示すものである場合、アバター制御モジュール1429は、ユーザ5BのHMD120Bで表示されるユーザ5Aのアバターオブジェクト6Aについて、表示態様を、高熱に対応するアイテム(例えば、氷嚢やマスク等)が付加された表示態様や、顔色を変化させた(例えば、赤くした)表示態様に設定してもよい。
【0186】
また、例えば、現実情報取得モジュール1731が取得したユーザ5の分析結果情報が、「運動後」であることを示すものである場合、アバター制御モジュール1429は、ユーザ5BのHMD120Bで表示されるユーザ5Aのアバターオブジェクト6Aについて、スキンをスポーツウェアに設定してもよい。
【0187】
また、例えば、現実情報取得モジュール1731が取得したユーザ5の分析結果情報が、「体調が悪い」ことを示すものである場合、具体的には「命に関わる状況」であることを示すものである場合、アバター制御モジュール1429は、ユーザ5BのHMD120Bで表示されるユーザ5Aのアバターオブジェクト6Aについて、アバターオブジェクト6Aの周囲に危機的状況にあることを示すオブジェクトが表示されるようにユーザ5Aのアバターオブジェクトの表示態様を設定してもよい。
【0188】
(変形例3)
アバター制御モジュール1429が、アバターオブジェクトに反映させる現実情報は、例えば、ユーザ5が予め入力したユーザ情報に基づいて現実情報取得モジュール1731が取得する情報であってもよい。具体的には、例えば、ユーザ5は、予め、自身の興味がある事項をユーザ情報(例えば、プロフィール情報等)として登録しておく。そして、現実情報取得モジュール1731は、登録された興味がある事項に関連する情報を、現実情報として、所定のタイミングで自動的に取得してもよい。換言すると、HMDシステム100では、現実情報の取得の手掛かりとなる情報(例えば、キーワード)を、ユーザ5が予め登録しておくこととし、現実情報取得モジュール1731は、当該手掛かりとなる情報に基づいて当該ユーザ5に関連する現実情報を取得するようにしてもよい。
【0189】
例えば、ユーザ5Aは、興味がある事項として、好きな野球チームを登録する。この場合に、現実情報取得モジュール1731は、例えば、現実情報として、当該野球チームの勝敗に関する情報を取得する。なお、勝敗に関する情報は、例えば、現実情報取得モジュール1731が、所定のタイミングで所定のニュースサイトにアクセスして入手する等してもよい。そして、現実情報取得モジュール1731が取得した現実情報が、当該野球チームが勝利したことを示すものである場合、アバター制御モジュール1429は、例えば、ユーザ5BのHMD120Bで表示されるユーザ5Aのアバターオブジェクト6Aについて、勝利に対応する態様(例えば、服装が当該野球チームのユニフォームであって喜んだ表情や、当該野球チームのユニフォームであって金色のユニフォーム等)で表示されるように、アバターオブジェクト6Aの表示態様を設定してもよい。また、現実情報取得モジュール1731が取得した現実情報が、当該野球チームが敗北したことを示すものである場合、アバター制御モジュール1429は、例えば、ユーザ5BのHMD120Bで表示されるユーザ5Aのアバターオブジェクト6Aについて、敗北に対応する態様(例えば、服装が当該野球チームのユニフォームであって落ち込んだ表情や、当該野球チームのユニフォームであってボロボロのユニフォーム等)で表示されるように、アバターオブジェクト6Aの表示態様を設定してもよい。
【0190】
なお、ここまで、アバター制御モジュール1429が、所定の情報に基づいてアバターオブジェクト6の表示態様を設定することについて説明したが、アバター制御モジュール1429は、上述した各種情報のうちの複数の情報に基づいてアバターオブジェクト6の表示態様を設定してもよい。
【0191】
なお、本発明は、上述した実施形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変形して実施できる。本発明はその発明の範囲内において、各構成要素の自由な組み合わせ、任意の構成要素の変形、または任意の構成要素の省略等が可能である。また、本明細書において説明した処理の流れはあくまで一例であり、各処理の順序や構成は異なるものであってもよい
【0192】
[付記]
以上の実施形態で説明した事項は、以下の付記のようにも記載され得る。
【0193】
(付記1)
コンピュータを、
仮想空間に存在する第1キャラクタを操作する第1ユーザに関連する現実世界の情報を取得する情報取得手段(例えば、現実情報取得モジュール1731またはアバター制御モジュール1429)と、
前記仮想空間に存在する第2キャラクタを操作する第2ユーザにおける前記第1キャラクタの表示態様が、前記第1ユーザに関連する前記現実世界の情報を反映したものとなるように、当該情報に応じて前記第1キャラクタの表示態様を変化させる変化手段(例えば、アバター制御モジュール1429)と、として機能させる
プログラム。
このような構成によれば、同一の仮想空間でキャラクタを操作する第1ユーザと第2ユーザとについて、第2ユーザは、第1ユーザの第1キャラクタを見たときに、第1ユーザに関連する現実世界の情報を即座に得ることができる。換言すると、第1ユーザの現実世界における状況等が直感的に理解しやすい表示を第2ユーザに提供することができる。したがって、仮想空間内でユーザ同士がコミュニケーションをとるためのきっかけを作ることができ、サービスの興趣性が向上される。
【0194】
(付記2)
前記第1ユーザに関連する前記現実世界の情報は、前記第1ユーザの位置情報に基づく情報である
付記1に記載のプログラム。
このような構成によれば、第1ユーザの位置に関連する現実世界の情報を、第1キャラクタに反映させることができる。したがって、第1ユーザの周囲の状況等が直感的に理解しやすい表示を第2ユーザに提供することができる。そして、第2ユーザは、当該表示から得られる情報に基づいて第1ユーザとコミュニケーションをとること等が可能となるので、サービスの興趣性が向上される。
【0195】
(付記3)
前記第1ユーザに関連する前記現実世界の情報は、前記第1ユーザの位置情報に基づく前記現実世界の環境に関する情報である
付記2に記載のプログラム。
このような構成によれば、第1ユーザの周囲の環境が直感的に理解しやすい表示を第2ユーザに提供することができる。そして、第2ユーザは、当該表示から得られる情報に基づいて第1ユーザとコミュニケーションをとること等が可能となるので、サービスの興趣性が向上される。
【0196】
(付記4)
前記第1ユーザに関連する前記現実世界の情報は、前記第1ユーザの位置情報に基づく気象情報である
付記2に記載のプログラム。
このような構成によれば、第1ユーザがいる場所の気象状況等が直感的に理解しやすい表示を第2ユーザに提供することができる。そして、第2ユーザは、当該表示から得られる情報に基づいて第1ユーザとコミュニケーションをとること等が可能となるので、サービスの興趣性が向上される。
【0197】
(付記5)
前記第1ユーザに関連する前記現実世界の情報は、前記第1ユーザの生体情報、または当該生体情報に基づいて得られる情報である
付記1に記載のプログラム。
このような構成によれば、第1ユーザの身体の状態等が直感的に理解しやすい表示を第2ユーザに提供することができる。そして、第2ユーザは、当該表示から得られる情報に基づいて第1ユーザとコミュニケーションをとること等が可能となるので、サービスの興趣性が向上される。
【0198】
(付記6)
前記変化手段は、前記第1キャラクタの表示態様を、前記第1キャラクタに前記第1ユーザに関連する前記現実世界の情報に応じたオブジェクト(例えば、レインコート1751、傘1752、雨粒1753、またはアイコン1754)が付加された表示態様に設定可能な
付記1~5のいずれか1つに記載のプログラム。
このような構成によれば、付加されるオブジェクトによって第1ユーザに関連する現実世界の情報を第1キャラクタに反映することが可能となる。したがって、第1ユーザの現実世界における状況等が直感的に理解しやすい表示を第2ユーザに提供することができる。
【0199】
(付記7)
仮想空間に存在する第1キャラクタを操作する第1ユーザに関連する現実世界の情報を取得する情報取得手段(例えば、現実情報取得モジュール1731またはアバター制御モジュール1429)と、
前記仮想空間に存在する第2キャラクタを操作する第2ユーザにおける前記第1キャラクタの表示態様が、前記第1ユーザに関連する前記現実世界の情報を反映したものとなるように、当該情報に応じて前記第1キャラクタの表示態様を変化させる変化手段(例えば、アバター制御モジュール1429)と、を備える
情報処理システム。
このような構成によれば、付記1に記載のプログラムと同様の作用効果を奏することができる。
【符号の説明】
【0200】
5 ユーザ、6 アバターオブジェクト、11 仮想空間、100 HMDシステム、110 HMDセット、120 HMD、130 モニタ、200 コンピュータ、210 プロセッサ、220 メモリ、230 ストレージ、240 入出力インターフェイス、250 通信インターフェイス、300 コントローラ、410 HMDセンサ、420 モーションセンサ、510 コントロールモジュール、520 レンダリングモジュール、530 メモリモジュール、540 通信制御モジュール、600 サーバ、610 プロセッサ、620 メモリ、630 ストレージ、640 入出力インターフェイス、650 通信インターフェイス、700 外部機器、1421 仮想カメラ制御モジュール、1422 視界領域決定モジュール、1423 基準視線特定モジュール、1424 顔器官検出モジュール、1425 動き検出モジュール、1426 仮想空間定義モジュール、1427 仮想オブジェクト生成モジュール、1428 操作オブジェクト制御モジュール、1429 アバター制御モジュール、1438 視界画像生成モジュール、1610 コントロールモジュール、1630 メモリモジュール、1640 通信制御モジュール、1721 位置情報取得モジュール、1731 現実情報取得モジュール
【手続補正書】
【提出日】2023-01-31
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
コンピュータを、
仮想空間に存在する第1キャラクタを操作する第1ユーザに関連する現実世界の情報を取得する第1情報取得手段と、
前記仮想空間に存在する第2キャラクタを操作する第2ユーザに関連する前記現実世界の情報を取得する第2情報取得手段と、
前記第2ユーザにおける前記第1キャラクタの表示態様が、前記第1ユーザに関連する前記現実世界の情報を反映したものとなるように、当該情報に応じて前記第1キャラクタの表示態様を変化させる第1変化手段と、
前記第1ユーザにおける前記第2キャラクタの表示態様が、前記第2ユーザに関連する前記現実世界の情報を反映したものとなるように、当該情報に応じて前記第2キャラクタの表示態様を変化させる第2変化手段と、として機能させる
プログラム。
【請求項2】
前記第1ユーザに関連する前記現実世界の情報は、前記第1ユーザの位置情報に基づく情報であり、
前記第2ユーザに関連する前記現実世界の情報は、前記第2ユーザの位置情報に基づく情報である
請求項1に記載のプログラム。
【請求項3】
前記第1ユーザに関連する前記現実世界の情報は、前記第1ユーザの位置情報に基づく前記現実世界の環境に関する情報であり、
前記第2ユーザに関連する前記現実世界の情報は、前記第2ユーザの位置情報に基づく前記現実世界の環境に関する情報である
請求項2に記載のプログラム。
【請求項4】
前記第1ユーザに関連する前記現実世界の情報は、前記第1ユーザの位置情報に基づく気象情報であり、
前記第2ユーザに関連する前記現実世界の情報は、前記第2ユーザの位置情報に基づく気象情報である
請求項2に記載のプログラム。
【請求項5】
前記第1ユーザに関連する前記現実世界の情報は、前記第1ユーザの生体情報、または当該生体情報に基づいて得られる情報であり、
前記第2ユーザに関連する前記現実世界の情報は、前記第2ユーザの生体情報、または当該生体情報に基づいて得られる情報である
請求項1に記載のプログラム。
【請求項6】
前記第1変化手段は、前記第1キャラクタの表示態様を、前記第1キャラクタに前記第1ユーザに関連する前記現実世界の情報に応じたオブジェクトが付加された表示態様に設定可能な
請求項1~5のいずれか1項に記載のプログラム。
【請求項7】
仮想空間に存在する第1キャラクタを操作する第1ユーザに関連する現実世界の情報を取得する第1情報取得手段と、
前記仮想空間に存在する第2キャラクタを操作する第2ユーザに関連する前記現実世界の情報を取得する第2情報取得手段と、
前記第2ユーザにおける前記第1キャラクタの表示態様が、前記第1ユーザに関連する前記現実世界の情報を反映したものとなるように、当該情報に応じて前記第1キャラクタの表示態様を変化させる第1変化手段と、
前記第1ユーザにおける前記第2キャラクタの表示態様が、前記第2ユーザに関連する前記現実世界の情報を反映したものとなるように、当該情報に応じて前記第2キャラクタの表示態様を変化させる第2変化手段と、を備える
情報処理システム。
【手続補正書】
【提出日】2023-07-11
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
コンピュータを、
仮想空間に存在する第1キャラクタを操作する第1ユーザに関連する現実世界の情報を取得する第1情報取得手段と、
前記仮想空間に存在する第2キャラクタを操作するとともに前記第1ユーザと特定の関係性を有する第2ユーザに関連する前記現実世界の情報を取得する第2情報取得手段と、
前記第2ユーザにおける前記第1キャラクタの表示態様が、前記第1ユーザに関連する前記現実世界の情報を反映したものとなるように、当該情報に応じて前記第1キャラクタの表示態様を変化させる第1変化手段と、
前記第1ユーザにおける前記第2キャラクタの表示態様が、前記第2ユーザに関連する前記現実世界の情報を反映したものとなるように、当該情報に応じて前記第2キャラクタの表示態様を変化させる第2変化手段と、として機能させ、
前記第2ユーザにおける前記第1キャラクタの表示態様が、前記第1ユーザに関連する前記現実世界の情報を反映したものとなるように変化する際に、前記仮想空間に存在する第3キャラクタを操作し前記第1ユーザと前記特定の関係性を有しない第3ユーザにおける前記第1キャラクタの表示態様が、前記第1ユーザに関連する前記現実世界の情報を反映したものとなるように変化しない
プログラム。
【請求項2】
前記第1ユーザに関連する前記現実世界の情報は、前記第1ユーザの位置情報に基づく情報であり、
前記第2ユーザに関連する前記現実世界の情報は、前記第2ユーザの位置情報に基づく情報である
請求項1に記載のプログラム。
【請求項3】
前記第1ユーザに関連する前記現実世界の情報は、前記第1ユーザの位置情報に基づく前記現実世界の環境に関する情報であり、
前記第2ユーザに関連する前記現実世界の情報は、前記第2ユーザの位置情報に基づく前記現実世界の環境に関する情報である
請求項2に記載のプログラム。
【請求項4】
前記第1ユーザに関連する前記現実世界の情報は、前記第1ユーザの位置情報に基づく気象情報であり、
前記第2ユーザに関連する前記現実世界の情報は、前記第2ユーザの位置情報に基づく気象情報である
請求項2に記載のプログラム。
【請求項5】
前記第1ユーザに関連する前記現実世界の情報は、前記第1ユーザの生体情報、または当該生体情報に基づいて得られる情報であり、
前記第2ユーザに関連する前記現実世界の情報は、前記第2ユーザの生体情報、または当該生体情報に基づいて得られる情報である
請求項1に記載のプログラム。
【請求項6】
前記第1変化手段は、前記第1キャラクタの表示態様を、前記第1キャラクタに前記第1ユーザに関連する前記現実世界の情報に応じたオブジェクトが付加された表示態様に設定可能な
請求項1~5のいずれか1項に記載のプログラム。
【請求項7】
仮想空間に存在する第1キャラクタを操作する第1ユーザに関連する現実世界の情報を取得する第1情報取得手段と、
前記仮想空間に存在する第2キャラクタを操作するとともに前記第1ユーザと特定の関係性を有する第2ユーザに関連する前記現実世界の情報を取得する第2情報取得手段と、
前記第2ユーザにおける前記第1キャラクタの表示態様が、前記第1ユーザに関連する前記現実世界の情報を反映したものとなるように、当該情報に応じて前記第1キャラクタの表示態様を変化させる第1変化手段と、
前記第1ユーザにおける前記第2キャラクタの表示態様が、前記第2ユーザに関連する前記現実世界の情報を反映したものとなるように、当該情報に応じて前記第2キャラクタの表示態様を変化させる第2変化手段と、を備え、
前記第2ユーザにおける前記第1キャラクタの表示態様が、前記第1ユーザに関連する前記現実世界の情報を反映したものとなるように変化する際に、前記仮想空間に存在する第3キャラクタを操作し前記第1ユーザと前記特定の関係性を有しない第3ユーザにおける前記第1キャラクタの表示態様が、前記第1ユーザに関連する前記現実世界の情報を反映したものとなるように変化しない
情報処理システム。