特開 2022-125053 境界設定装置、境界設定方法及びプログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2022125053

(43)【公開日】2022-08-26

(54)【発明の名称】境界設定装置、境界設定方法及びプログラム

(51)【国際特許分類】

   G06T 19/00 20110101AFI20220819BHJP

   G06F 3/01 20060101ALI20220819BHJP

   G06F 3/04815 20220101ALI20220819BHJP

   G09G 5/00 20060101ALI20220819BHJP

【ＦＩ】

G06T19/00 300B

G06F3/01 510

G06F3/04815

G09G5/00 510A

G09G5/00 550C

【審査請求】未請求

【請求項の数】13

【出願形態】ＯＬ

(21)【出願番号】P 2022093703

(22)【出願日】2022-06-09

(62)【分割の表示】P 2021512037の分割

【原出願日】2020-03-27

(31)【優先権主張番号】P 2019067085

(32)【優先日】2019-03-29

(33)【優先権主張国・地域又は機関】JP

(71)【出願人】

【識別番号】310021766

【氏名又は名称】株式会社ソニー・インタラクティブエンタテインメント

(74)【代理人】

【識別番号】110000154

【氏名又は名称】弁理士法人はるか国際特許事務所

(72)【発明者】

【氏名】早川 雄登

(57)【要約】

【課題】ユーザが存在することが許容される実空間内の領域と許容されない実空間内の領域とを区画する境界面をより柔軟に設定できる境界設定装置、境界設定方法及びプログラムを提供する。
【解決手段】境界面設定部８０は、ヘッドマウントディスプレイを装着しているユーザが存在することが許容される実空間内の領域である許容領域と許容されない実空間内の領域である不許容領域とを区画する境界面を設定する。表示制御部９２は、境界面を表す仮想オブジェクトの一部又は全部をヘッドマウントディスプレイに表示させる。境界面は、第１の高さの第１の境界線と第２の高さの第２の境界線とを含む。第１の境界線の一部又は全部は、第２の境界線と異なる。
【選択図】図７

【特許請求の範囲】

【請求項1】

ヘッドマウントディスプレイを装着しているユーザが存在することが許容される実空間内の領域である許容領域と許容されない実空間内の領域である不許容領域とを区画する境界面を設定する境界面設定部と、
前記境界面を表す仮想オブジェクトの一部又は全部を前記ヘッドマウントディスプレイに表示させる表示制御部と、を含む境界設定装置であって、
前記境界面は、第１の高さの第１の境界線と第２の高さの第２の境界線とを含み、
前記第１の境界線の一部又は全部は、前記第２の境界線と異なる、
ことを特徴とする境界設定装置。

【請求項2】

前記境界面設定部は、前記第１の境界線、及び、前記第２の境界線を設定する操作に応じて、当該第１の境界線及び当該第２の境界線を含む前記境界面を設定する、
ことを特徴とする請求項１に記載の境界設定装置。

【請求項3】

前記境界面設定部は、前記第１の境界線、及び、前記第２の境界線を設定する操作に応じて、前記第１の高さより低い高さについては前記第１の境界線を平行移動させた境界線を含み、前記第２の高さより高い高さについては前記第２の境界線を平行移動させた境界線を含む前記境界面を設定する、
ことを特徴とする請求項２に記載の境界設定装置。

【請求項4】

前記境界面設定部は、前記実空間内において前記ユーザが動かすセンサの軌跡に基づいて設定される前記第１の境界線及び前記第２の境界線を含む前記境界面を設定する、
ことを特徴とする請求項２又は３に記載の境界設定装置。

【請求項5】

前記境界面設定部は、前記ユーザによる、実空間内の点を設定する操作に応じて、当該点を中心とする球面である前記境界面を設定する、
ことを特徴とする請求項１に記載の境界設定装置。

【請求項6】

前記境界面設定部は、長さをさらに設定する操作に応じて、前記点を中心とする当該長さに応じた半径の球面である前記境界面を設定する、
ことを特徴とする請求項５に記載の境界設定装置。

【請求項7】

前記境界面設定部は、前記実空間内において前記ユーザが動かすセンサの軌跡に外接する前記境界面を設定する、
ことを特徴とする請求項１に記載の境界設定装置。

【請求項8】

前記境界面設定部は、前記実空間に配置されたカメラの視野範囲である領域と視野範囲ではない領域とを区画する前記境界面を設定する、
ことを特徴とする請求項１に記載の境界設定装置。

【請求項9】

前記境界面設定部は、前記実空間に配置されたカメラが撮影する画像に対する画像認識処理の結果に基づいて、前記実空間内に配置された物体を特定し、当該物体が占める領域が前記不許容領域に含まれるよう前記境界面を設定する、
ことを特徴とする請求項１に記載の境界設定装置。

【請求項10】

前記境界面設定部は、前記ユーザによる前記境界面よりも内側の領域を設定する操作に応じて、当該領域が前記不許容領域に含まれるよう前記境界面を変更する、
ことを特徴とする請求項１から９のいずれか一項に記載の境界設定装置。

【請求項11】

前記境界面設定部は、前記ユーザによる前記境界面よりも外側の領域を設定する操作に応じて、当該領域が前記許容領域に含まれるよう前記境界面を変更する、
ことを特徴とする請求項１から１０のいずれか一項に記載の境界設定装置。

【請求項12】

ヘッドマウントディスプレイを装着しているユーザが存在することが許容される実空間内の領域である許容領域と許容されない実空間内の領域である不許容領域とを区画する境界面を設定するステップと、
前記境界面を表す仮想オブジェクトの一部又は全部を前記ヘッドマウントディスプレイに表示させるステップと、を含む境界設定方法であって、
前記境界面は、第１の高さの第１の境界線と第２の高さの第２の境界線とを含み、
前記第１の境界線の一部又は全部は、前記第２の境界線と異なる、
ことを特徴とする境界設定方法。

【請求項13】

ヘッドマウントディスプレイを装着しているユーザが存在することが許容される実空間内の領域である許容領域と許容されない実空間内の領域である不許容領域とを区画する境界面を設定するステップと、
前記境界面を表す仮想オブジェクトの一部又は全部を前記ヘッドマウントディスプレイに表示させるステップと、をコンピュータに実行させるプログラムであって、
前記境界面は、第１の高さの第１の境界線と第２の高さの第２の境界線とを含み、
前記第１の境界線の一部又は全部は、前記第２の境界線と異なる、
ことを特徴とするプログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、境界設定装置、境界設定方法及びプログラムに関する。

【背景技術】

【0002】

ヘッドマウントディスプレイ（ＨＭＤ）が備える表示部に仮想空間の様子を表示させるバーチャルリアリティ（ＶＲ）の技術が存在する。

【0003】

ＶＲの技術において仮想空間の様子が表示部に表示されている際には、一般的に、ＨＭＤを装着しているユーザは実空間の様子を視認できない。そのため仮想空間の様子が表示部に表示されているＨＭＤを装着しているユーザの没入感を維持しつつ、当該ユーザが床に配置された物体や壁などといった実空間の物体と接触することを防ぐ技術が重要となる。

【0004】

このような技術の一例として、当該ユーザが存在することが許容される実空間内の領域（以下、許容領域と呼ぶ。）と許容されない実空間内の領域（以下、不許容領域と呼ぶ。）とを区画する境界面を設定する技術が存在する。この技術によれば、ＨＭＤを装着しているユーザが設定された境界面に接近した際に、当該ＨＭＤが備える表示部に当該境界面を表す仮想オブジェクトが表示される。そのため、物体が配置されていない領域を許容領域に設定することでＨＭＤを装着しているユーザが物体と接触することを防ぐことができる。

【発明の概要】

【発明が解決しようとする課題】

【0005】

しかし上記の技術では、高さによって境界線が異なる境界面の設定ができない。

【0006】

そのため床に配置されている物体を避けて許容領域を設定するためには、当該物体を含む高さ方向に延伸する領域のすべてが不許容領域に含まれるよう境界面を設定する必要がある。その結果、許容領域が狭くなってしまう。

【0007】

本発明は上記実情に鑑みてなされたものであって、その目的の一つは、ユーザが存在することが許容される実空間内の領域と許容されない実空間内の領域とを区画する境界面をより柔軟に設定できる境界設定装置、境界設定方法及びプログラムを提供することにある。

【課題を解決するための手段】

【0008】

上記課題を解決するために、本発明に係る境界設定装置は、ヘッドマウントディスプレイを装着しているユーザが存在することが許容される実空間内の領域である許容領域と許容されない実空間内の領域である不許容領域とを区画する境界面を設定する境界面設定部と、前記境界面を表す仮想オブジェクトの一部又は全部を前記ヘッドマウントディスプレイに表示させる表示制御部と、を含む境界設定装置であって、前記境界面は、第１の高さの第１の境界線と第２の高さの第２の境界線とを含み、前記第１の境界線の一部又は全部は、前記第２の境界線と異なる。

【0009】

本発明の一態様では、前記境界面設定部は、前記第１の境界線、及び、前記第２の境界線を設定する操作に応じて、当該第１の境界線及び当該第２の境界線を含む前記境界面を設定する。

【0010】

この態様では、前記境界面設定部は、前記第１の境界線、及び、前記第２の境界線を設定する操作に応じて、前記第１の高さより低い高さについては前記第１の境界線を平行移動させた境界線を含み、前記第２の高さより高い高さについては前記第２の境界線を平行移動させた境界線を含む前記境界面を設定してもよい。

【0011】

また、前記境界面設定部は、前記実空間内において前記ユーザが動かすセンサの軌跡に基づいて設定される前記第１の境界線及び前記第２の境界線を含む前記境界面を設定してもよい。

【0012】

また、本発明の一態様では、前記境界面設定部は、前記ユーザによる、実空間内の点を設定する操作に応じて、当該点を中心とする球面である前記境界面を設定する。

【0013】

この態様では、前記境界面設定部は、長さをさらに設定する操作に応じて、前記点を中心とする当該長さに応じた半径の球面である前記境界面を設定してもよい。

【0014】

また、本発明の一態様では、前記境界面設定部は、前記実空間内において前記ユーザが動かすセンサの軌跡に外接する前記境界面を設定する。

【0015】

また、本発明の一態様では、前記境界面設定部は、前記実空間に配置されたカメラの視野範囲である領域と視野範囲ではない領域とを区画する前記境界面を設定する。

【0016】

また、本発明の一態様では、前記境界面設定部は、前記実空間に配置されたカメラが撮影する画像に対する画像認識処理の結果に基づいて、前記実空間内に配置された物体を特定し、当該物体が占める領域が前記不許容領域に含まれるよう前記境界面を設定する。

【0017】

また、本発明の一態様では、前記境界面設定部は、前記ユーザによる前記境界面よりも内側の領域を設定する操作に応じて、当該領域が前記不許容領域に含まれるよう前記境界面を変更する。

【0018】

また、本発明の一態様では、前記境界面設定部は、前記ユーザによる前記境界面よりも外側の領域を設定する操作に応じて、当該領域が前記許容領域に含まれるよう前記境界面を変更する。

【0019】

また、本発明に係る境界設定方法は、ヘッドマウントディスプレイを装着しているユーザが存在することが許容される実空間内の領域である許容領域と許容されない実空間内の領域である不許容領域とを区画する境界面を設定するステップと、前記境界面を表す仮想オブジェクトの一部又は全部を前記ヘッドマウントディスプレイに表示させるステップと、を含む境界設定方法であって、前記境界面は、第１の高さの第１の境界線と第２の高さの第２の境界線とを含み、前記第１の境界線の一部又は全部は、前記第２の境界線と異なる。

【0020】

また、本発明に係るプログラムは、ヘッドマウントディスプレイを装着しているユーザが存在することが許容される実空間内の領域である許容領域と許容されない実空間内の領域である不許容領域とを区画する境界面を設定するステップと、前記境界面を表す仮想オブジェクトの一部又は全部を前記ヘッドマウントディスプレイに表示させるステップと、をコンピュータに実行させるプログラムであって、前記境界面は、第１の高さの第１の境界線と第２の高さの第２の境界線とを含み、前記第１の境界線の一部又は全部は、前記第２の境界線と異なる。

【図面の簡単な説明】

【0021】

【図1】本発明の一実施形態に係るエンタテインメントシステムの全体構成の一例を示す図である。

【図2A】本発明の一実施形態に係るヘッドマウントディスプレイの構成の一例を示す図である。

【図2B】本発明の一実施形態に係るエンタテインメント装置の構成の一例を示す図である。

【図3】本発明の一実施形態に係る仮想空間の一例を示す図である。

【図4】本発明の一実施形態に係る実空間の一例を模式的に示す図である。

【図5】第１の比較例に係る実空間の一例を模式的に示す図である。

【図6】第２の比較例に係る実空間の一例を模式的に示す図である。

【図7】本発明の一実施形態に係るエンタテインメント装置で実装される機能の一例を示す機能ブロック図である。

【図8】線の設定の一例を示す図である。

【図9】境界面の一例を示す図である。

【図10】境界面の一例を示す図である。

【図11】境界面の一例を示す図である。

【図12】点及び長さの設定の一例を示す図である。

【図13】境界面の一例を示す図である。

【図14】境界面の一例を示す図である。

【図15】境界面の一例を示す図である。

【図16】境界面の一例を示す図である。

【図17】境界面の一例を示す図である。

【図18】本発明の一実施形態に係るエンタテインメント装置において行われる処理の流れの一例を示すフロー図である。

【発明を実施するための形態】

【0022】

以下、本発明の一実施形態について、図面を参照しながら説明する。

【0023】

図１は、本発明の一実施形態に係るエンタテインメントシステム１０の全体構成の一例を示す図である。図２Ａは、本実施形態に係るヘッドマウントディスプレイ（ＨＭＤ）１２の構成の一例を示す図である。図２Ｂは、本実施形態に係るエンタテインメント装置１４の構成の一例を示す図である。

【0024】

図１に示すように、本実施形態に係るエンタテインメントシステム１０は、ＨＭＤ１２とエンタテインメント装置１４と中継装置１６とディスプレイ１８とカメラマイクユニット２０とコントローラ２２とを含んでいる。

【0025】

本実施形態に係るＨＭＤ１２には、例えば図２Ａに示すように、プロセッサ３０、記憶部３２、通信部３４、入出力部３６、表示部３８、センサ部４０、が含まれる。

【0026】

プロセッサ３０は、例えばＨＭＤ１２にインストールされるプログラムに従って動作するマイクロプロセッサ等のプログラム制御デバイスである。

【0027】

記憶部３２は、例えばＲＯＭやＲＡＭ等の記憶素子などである。記憶部３２には、プロセッサ３０によって実行されるプログラムなどが記憶される。

【0028】

通信部３４は、例えば無線ＬＡＮモジュールなどの通信インタフェースである。

【0029】

入出力部３６は、例えばＨＤＭＩ（登録商標）（High-Definition Multimedia Interface）ポートやＵＳＢポートなどの入出力ポートである。

【0030】

表示部３８は、例えば液晶ディスプレイや有機ＥＬディスプレイ等のディスプレイであり、エンタテインメント装置１４が生成する映像などを表示させる。図１に示すように、表示部３８は、ＨＭＤ１２をユーザが装着した際に当該ユーザの眼前に配置される。表示部３８は、例えばエンタテインメント装置１４が出力して中継装置１６で中継される映像信号を受信して、当該映像信号が表す映像を出力するようにしてもよい。本実施形態に係る表示部３８は、例えば左目用の画像と右目用の画像を表示することによって三次元画像を表示させることができるようになっている。なお表示部３８は三次元画像の表示ができず二次元画像の表示のみができるものであっても構わない。

【0031】

センサ部４０は、例えば、加速度センサやモーションセンサなどのセンサである。センサ部４０は、ＨＭＤ１２の姿勢、回転量、移動量などの計測結果を所定のサンプリングレートで、プロセッサ３０に出力してもよい。

【0032】

本実施形態に係るエンタテインメント装置１４は、例えばゲームコンソール、ＤＶＤプレイヤ、Ｂｌｕ－ｒａｙ（登録商標）プレイヤなどといったコンピュータである。本実施形態に係るエンタテインメント装置１４は、例えば記憶されている、あるいは、光ディスクに記録された、ゲームプログラムの実行やコンテンツの再生などによって映像や音声を生成する。そして本実施形態に係るエンタテインメント装置１４は、生成される映像を表す映像信号や生成される音声を表す音声信号を、中継装置１６を経由してディスプレイ１８に出力する。

【0033】

本実施形態に係るエンタテインメント装置１４には、例えば図２Ｂに示すように、プロセッサ５０、記憶部５２、通信部５４、入出力部５６が含まれる。

【0034】

プロセッサ５０は、例えばエンタテインメント装置１４にインストールされるプログラムに従って動作するＣＰＵ等のプログラム制御デバイスである。本実施形態に係るプロセッサ５０には、ＣＰＵから供給されるグラフィックスコマンドやデータに基づいてフレームバッファに画像を描画するＧＰＵ（Graphics Processing Unit）も含まれている。

【0035】

記憶部５２は、例えばＲＯＭやＲＡＭ等の記憶素子やハードディスクドライブなどである。記憶部５２には、プロセッサ５０によって実行されるプログラムなどが記憶される。また、本実施形態に係る記憶部５２には、ＧＰＵにより画像が描画されるフレームバッファの領域が確保されている。

【0036】

通信部５４は、例えば無線ＬＡＮモジュールなどの通信インタフェースである。

【0037】

入出力部５６は、ＨＤＭＩ（登録商標）（High-Definition Multimedia Interface）ポート、ＵＳＢポートなどの入出力ポートである。

【0038】

本実施形態に係る中継装置１６は、例えば制御回路、画像処理回路、音声処理回路等の制御部、メモリ等の記憶部、などを備えたコンピュータである。中継装置１６は、エンタテインメント装置１４から出力される映像信号や音声信号を中継してＨＭＤ１２やディスプレイ１８に出力する。

【0039】

本実施形態に係るディスプレイ１８は、例えば液晶ディスプレイ等であり、エンタテインメント装置１４から出力される映像信号が表す映像などを表示させる。

【0040】

本実施形態に係るカメラマイクユニット２０は、例えば被写体を撮影した画像をエンタテインメント装置１４に出力するカメラ２０ａ及び周囲の音声を取得して当該音声を音声データに変換してエンタテインメント装置１４に出力するマイク２０ｂを含んでいる。また本実施形態に係るカメラ２０ａはステレオカメラである。

【0041】

ＨＭＤ１２と中継装置１６とは、例えば、無線によるデータの送受信が互いに可能になっている。なおＨＭＤ１２と中継装置１６とが、ＨＤＭＩケーブルやＵＳＢケーブルなどの有線を介して接続されていてもよい。エンタテインメント装置１４と中継装置１６とは、例えば、ＨＤＭＩケーブルやＵＳＢケーブルなどを介して接続されている。中継装置１６とディスプレイ１８とは、例えば、ＨＤＭＩケーブルなどを介して接続されている。エンタテインメント装置１４とカメラマイクユニット２０とは、例えば、ＡＵＸケーブルなどを介して接続されている。

【0042】

本実施形態に係るコントローラ２２は、エンタテインメント装置１４に対する操作入力を行うための操作入力装置である。本実施形態に係るエンタテインメントシステム１０には、２つのコントローラ２２が含まれている。また、コントローラ２２には、複数のボタンが設けられている。ユーザは、左右の手のそれぞれにコントローラ２２を持った状態で、コントローラ２２に設けられたボタンを押下したり、コントローラ２２の位置や姿勢を変えたりすることで、コントローラ２２を用いて各種の操作入力を行うことができる。

【0043】

そして本実施形態では、コントローラ２２は、操作入力に対応付けられる入力データをエンタテインメント装置１４に出力する。本実施形態に係るコントローラ２２は、無線通信モジュール等を備えており、無線で入力データをエンタテインメント装置１４の通信部５４に送信できるようになっている。

【0044】

また本実施形態に係るコントローラ２２が、例えば、加速度センサやモーションセンサなどのセンサを備えていてもよい。そして当該センサが、コントローラ２２の姿勢、回転量、移動量などの計測結果を示す入力データを、所定のサンプリングレートで、エンタテインメント装置１４、もしくは、ＨＭＤ１２に出力してもよい。ＨＭＤ１２が受け付けた入力データは、ＨＭＤ１２のプロセッサ３０で実行される処理に用いられてもよい。また、ＨＭＤ１２が受け付けた入力データがＨＭＤ１２のセンサ部４０から出力された計測結果を示すデータとともにエンタテインメント装置１４に送信されてもよい。そしてエンタテインメント装置１４のプロセッサ５０が、当該入力データ及び当該計測結果を示すデータを用いた処理を実行してもよい。

【0045】

本実施形態では、コントローラ２２の位置の特定が行われる。ここで本実施形態において、いわゆるアウトサイドイン方式でのトラッキングによって、コントローラ２２の位置が特定されてもよい。例えば、カメラマイクユニット２０が備えるカメラ２０ａが、所定のサンプリングレートで、コントローラ２２を撮影した画像をエンタテインメント装置１４に出力してもよい。そしてエンタテインメント装置１４が、コントローラ２２を撮影した当該画像に基づいて、コントローラ２２の位置を特定してもよい。

【0046】

また本実施形態において、いわゆるインサイドアウト方式でのトラッキングによって、コントローラ２２の位置が特定されてもよい。ここで例えば、ＨＭＤ１２のセンサ部４０に、さらに、複数のカメラが含まれていてもよい。そして、当該複数のカメラが、所定のサンプリングレートで、ユーザによって操作されるコントローラ２２を撮影した画像を生成してもよい。そしてコントローラ２２を撮影した画像から、ＨＭＤ１２に対するコントローラ２２の相対位置が算出されてもよい。そして、エンタテインメント装置１４が、センサ部４０により計測されるＨＭＤ１２の位置や向きと、算出された相対位置とに基づいて、コントローラ２２の絶対位置を特定してもよい。

【0047】

なお、コントローラ２２の位置の特定が、エンタテインメント装置１４ではなくＨＭＤ１２あるいは中継装置１６で行われるようにしてもよい。

【0048】

また、コントローラ２２がＬＥＤなどの発光部材を備えていてもよい。そして、カメラ２０ａやＨＭＤ１２が備えるカメラが当該発光部材を撮影した画像に基づいて、コントローラ２２の位置及び向きが特定されるようにしてもよい。

【0049】

本実施形態では例えば、図３に示す仮想空間６０に配置されている視点６２から視線方向６４を見た様子を表す動画像が生成される。ここでは例えば、所定のフレームレートでフレーム画像が生成される。また図３に示す仮想空間６０は、仮想三次元空間である。なお、当該動画像は、例えば、エンタテインメント装置１４におけるバーチャルリアリティ（ＶＲ）技術を用いた一人称視点のゲームのプログラムの実行に応じて生成されてもよい。また本実施形態におけるＶＲ技術は、ＨＭＤ１２を装着した状態でユーザが歩き回ることで仮想空間６０の中をあたかも移動しているかのような体験ができる、ルームスケールのＶＲ技術であってもよい。

【0050】

視点６２の位置や視線方向６４は、例えばユーザによるコントローラ２２の操作やゲームにおいて発生するイベントなどといったゲームのプレイ状況に応じて変化する。また例えばＨＭＤ１２の位置や姿勢の変化に応じて視点６２の位置や視線方向６４は変化する。そして視点６２の位置や視線方向６４の変化に応じて、ＨＭＤ１２の表示部３８に表示されるコンテンツは変化する。視点６２の位置や視線方向６４の更新、フレーム画像の生成、及び、フレーム画像の表示を含む、ゲームのプレイ状況に応じた処理が、上述の所定のフレームレートで実行されてもよい。

【0051】

また、ユーザの左手の位置に対応付けられる左手対応点６６の位置は、ユーザが左手に持つコントローラ２２の操作、あるいは、当該コントローラ２２の位置や姿勢の変化に応じて変化する。また、ユーザの右手の位置に対応付けられる右手対応点６８の位置は、ユーザが右手に持つコントローラ２２の操作、あるいは、当該コントローラ２２の位置や姿勢の変化に応じて変化する。

【0052】

図４は、図３に示す仮想空間６０に対応付けられる実空間７０の一例を模式的に示す図である。本実施形態では、図３に示す仮想空間６０における位置は、図４に示す実空間７０における位置と１対１で対応付けられている。

【0053】

ＨＭＤ１２を装着したユーザの頭部の実空間７０内における位置は、仮想空間６０内における視点６２の位置に対応付けられる。またＨＭＤ１２を装着したユーザの頭部の実空間７０内における向きは、仮想空間６０内における視線方向６４に対応付けられる。またＨＭＤ１２を装着したユーザが左手に持つコントローラ２２の実空間７０内における位置は、仮想空間６０内における左手対応点６６の位置に対応付けられる。また、ＨＭＤ１２を装着したユーザが右手に持つコントローラ２２の実空間７０内における位置は、仮想空間６０内における右手対応点６８の位置に対応付けられる。

【0054】

ここでＨＭＤ１２を装着したユーザの頭部の実空間７０内における位置や向きは、例えば、センサ部４０による計測結果に基づいて特定されてもよい。またコントローラ２２の実空間７０内における位置は、当該コントローラ２２が備えるセンサによる計測結果に基づいて特定されてもよい。

【0055】

またＨＭＤ１２を装着したユーザの頭部の実空間７０内における位置や向き、並びに、コントローラ２２の位置は、例えば、カメラマイクユニット２０が備えるカメラ２０ａが撮影した画像に基づいて特定されてもよい。あるいは、ＨＭＤ１２のセンサ部４０に含まれる複数のカメラが撮像した画像に基づいて、ユーザの頭部の実空間内における位置や向き、並びに、コントローラ２２の位置が特定されるようにしてもよい。この場合、コントローラ２２の位置の特定が、ＨＭＤ１２、エンタテインメント装置１４、あるいは、中継装置１６で実行される物体認識アルゴリズムを使って行われてもよい。

【0056】

ＶＲの技術において仮想空間６０の様子が表示部３８に表示されている際には、一般的に、ＨＭＤ１２を装着しているユーザは実空間７０の様子を視認できない。そのため仮想空間６０の様子が表示部３８に表示されているＨＭＤ１２を装着しているユーザの没入感を維持しつつ、当該ユーザが、床に配置された机７２やキャビネット７４、あるいは、壁、などといった実空間７０の物体と接触することを防ぐ技術が重要となる。

【0057】

このことを踏まえ、本実施形態では、ユーザが存在することが許容される実空間７０内の領域と許容されない実空間７０内の領域とを区画する境界面７６を設定できるようにした。以下、ユーザが存在することが許容される実空間７０内の領域を許容領域と呼ぶこととする。また、ユーザが存在することが許容されない実空間７０内の領域を不許容領域と呼ぶこととする。ユーザは、例えば一人称視点のゲームを、許容領域内においてプレイすることとなる。

【0058】

そして本実施形態では、実空間７０に設定される境界面７６を表す仮想オブジェクトが、図３に示すように仮想空間６０内に配置される。以下、当該仮想オブジェクトを、境界面オブジェクト７８と呼ぶこととする。本実施形態では例えば、実空間７０において境界面７６が設定された位置に対応付けられる仮想空間６０内における位置に、境界面オブジェクト７８が配置される。境界面オブジェクト７８に含まれるポリゴンの内側には、例えば高さ方向に延伸する複数の線と水平方向に延伸する複数の線から構成される格子状のテクスチャが貼られていてもよい。

【0059】

そして、ＨＭＤ１２を装着しているユーザが設定された境界面７６に接近すると、ＨＭＤ１２が備える表示部３８に境界面オブジェクト７８の一部又は全部が表示される。ここで例えば、視点６２、左手対応点６６、又は、右手対応点６８のいずれかについて、境界面オブジェクト７８からの距離が所定の距離以下である場合に、境界面オブジェクト７８の一部又は全部が表示されるようにしてもよい。

【0060】

このようにすることで、本実施形態に係るエンタテインメントシステム１０によれば、ＨＭＤ１２を装着しているユーザが境界面７６に接近していることを当該ユーザに通知することができ、その結果、ユーザが許容領域から外れることを防ぐことができる。

【0061】

ここで物体が配置されていない領域を許容領域に設定するようにすると、ＨＭＤ１２を装着しているユーザが実空間７０の物体と接触することを防ぐことができる。

【0062】

また本実施形態では図４に示すように、高さによって境界線が異なる境界面７６が設定できるようになっている。図４の例では、床からの高さがｈ１より低い範囲については、机７２を避けて境界面７６が設定されている。そして、床からの高さがｈ１より高くｈ２より低い範囲については、床からの高さがｈ１より低い範囲よりも許容領域が広い境界面７６が設定されている。

【0063】

図５には、第１の比較例における境界面１７６が設定された、机１７２及びキャビネット１７４が配置された実空間１７０の一例が示されている。図６には、第２の比較例における境界面２７６が設定された、机２７２及びキャビネット２７４が配置された実空間２７０の一例が示されている。

【0064】

図５の例では、図４に示されている、床からの高さがｈ１より高くｈ２より低い範囲における境界面７６と同様の境界面１７６が、高さによらず設定されている。そのため、床からの高さがｈ１より低い範囲については、許容領域に机１７２が含まれてしまう。ここで許容領域に机１７２が含まれないようにするためには、机１７２を許容領域の外に移動させる必要がある。

【0065】

図６の例では、図４に示されている、床からの高さがｈ１より低い範囲における境界面７６と同様の境界面２７６が、高さによらず設定されている。この場合は、許容領域に机２７２が含まれてはいないが、床からの高さがｈ１より高くｈ２より低い範囲については、図４の例よりも許容領域が狭くなってしまう。

【0066】

本実施形態では、図４に示すように、図５及び図６の例よりも境界面７６を柔軟に設定できる。そのため本実施形態によれば、物体が許容領域に入らないようにしつつ、ある程度の広さの許容領域を確保することができる。

【0067】

以下、境界面７６の設定を中心に、本実施形態に係るエンタテインメント装置１４で実装される機能、及び、本実施形態に係るエンタテインメント装置１４で行われる処理について、さらに説明する。

【0068】

図７は、本実施形態に係るエンタテインメント装置１４で実装される機能の一例を示す機能ブロック図である。なお、本実施形態に係るエンタテインメント装置１４で、図７に示す機能のすべてが実装される必要はなく、また、図７に示す機能以外の機能が実装されていても構わない。

【0069】

図７に示すように、本実施形態に係るエンタテインメント装置１４には、機能的には例えば、境界面設定部８０、境界面オブジェクト配置部８２、プログラム実行部８４、接近判定部８６、境界面オブジェクト更新部８８、動画像生成部９０、表示制御部９２、が含まれる。

【0070】

境界面設定部８０、プログラム実行部８４は、プロセッサ５０及び通信部５４を主として実装される。境界面オブジェクト配置部８２、接近判定部８６、境界面オブジェクト更新部８８、動画像生成部９０は、プロセッサ５０を主として実装される。表示制御部９２は、プロセッサ５０及び入出力部５６を主として実装される。

【0071】

そして以上の機能は、コンピュータであるエンタテインメント装置１４にインストールされた、以上の機能に対応する指令を含むプログラムをプロセッサ５０で実行することにより実装されている。このプログラムは、例えば、光ディスク、磁気ディスク、磁気テープ、光磁気ディスク、フラッシュメモリ等のコンピュータ読み取り可能な情報記憶媒体を介して、あるいは、インターネットなどを介してエンタテインメント装置１４に供給される。

【0072】

境界面設定部８０は、本実施形態では例えば、上述の許容領域と上述の不許容領域とを区画する境界面７６を設定する。ここで上述のように、境界面設定部８０は、第１の高さの第１の境界線と第２の高さの第２の境界線とを含む境界面７６を設定してもよい。ここで第１の境界線の一部又は全部は、第２の境界線と異なっていてもよい。

【0073】

また、境界面設定部８０は、ＨＭＤ１２を装着しているユーザの操作（例えば、ユーザによるコントローラ２２の操作）に応じて、境界面７６を設定してもよい。以下、当該操作を境界面設定操作と呼ぶ。

【0074】

例えばユーザが、コントローラ２２が備えるボタンを指で押した状態で、コントローラ２２を動かす操作を行い、その後、ユーザがボタンから指を離したとする。なおボタンが押下されている期間にわたって、所定のサンプリングレートでコントローラ２２の位置がｎ回特定されることとする。例えば、実空間７０における三次元座標値（ｘ１，ｙ１，ｚ１）、（ｘ２，ｙ２，ｚ２）、・・・（ｘｎ，ｙｎ，ｚｎ）が特定されるとする。ここでＺ座標値の平均値、すなわち、（ｚ１＋ｚ２＋・・・＋ｚｎ）／ｎを、ｚｍと表現する。この場合、（ｘ１，ｙ１，ｚｍ）、（ｘ２，ｙ２，ｚｍ）、・・・（ｘｎ，ｙｎ，ｚｍ）、（ｘ１，ｙ１，ｚｍ）をつなぐ線が設定されてもよい。

【0075】

図８には境界面設定操作によって設定される線ｌ１及び線ｌ２が示されている。ここで線ｌ１が設定されている床からの高さはｈ３であり、線ｌ２が設定されている床からの高さはｈ４であることとする。また上述のように、線ｌ１、及び、線ｌ２が、実空間７０内においてユーザが動かすコントローラ２２に搭載されたセンサの軌跡に基づいて設定されてもよい。ここで線ｌ１を設定する操作と線ｌ２を設定する操作の順序は問わない。また、線ｌ１や線ｌ２の設定方法は上述の方法に限定されない。

【0076】

そしてこの場合に、境界面設定部８０は、線ｌ１及び線ｌ２を含む境界面７６を設定してもよい。

【0077】

例えば、図９に示すように、境界面設定部８０は、床からの高さがｈ３より低い範囲については、線ｌ１を高さ方向に沿って平行移動させた線を含む境界面７６を設定してもよい。またこの場合に、境界面設定部８０は、床からの高さがｈ３より高い範囲については、線ｌ２を高さ方向に沿って平行移動させた線を含む境界面７６を設定してもよい。

【0078】

あるいは、図１０に示すように、境界面設定部８０は、床からの高さがｈ４より低い範囲については、線ｌ１を高さ方向に沿って平行移動させた線を含む境界面７６を設定してもよい。またこの場合に、境界面設定部８０は、床からの高さがｈ４より高い範囲については、線ｌ２を高さ方向に沿って平行移動させた線を含む境界面７６を設定してもよい。

【0079】

あるいは、図１１に示すように、境界面設定部８０は、床からの高さがｈ３より低い範囲については、線ｌ１を高さ方向に沿って平行移動させた線を含む境界面７６を設定してもよい。またこの場合に、境界面設定部８０は、床からの高さがｈ４より高い範囲については、線ｌ２を高さ方向に沿って平行移動させた線を含む境界面７６を設定してもよい。またこの場合に、境界面設定部８０は、床からの高さがｈ３より高くｈ４より低い範囲については、線ｌ１と線ｌ２とを補間することにより形成される線を含む境界面７６を設定してもよい。

【0080】

図９～図１１のいずれの例においても、高さｈ３より低い高さについては線ｌ１を平行移動させた境界線を含み、高さｈ４より高い高さについては線ｌ２を平行移動させた境界線を含む境界面７６が設定されることとなる。

【0081】

また、境界面設定操作は、上述のように水平面（ＸＹ平面）に平行な線を設定する操作には限定されない。例えば、境界面設定操作が、高さ方向（Ｚ軸方向）に沿った線を設定する操作でも構わない。この場合に、境界面設定部８０は、このようにして設定される高さ方向に沿った複数の線を含む境界面７６を設定してもよい。

【0082】

また、境界面設定部８０は、実空間７０内の点を設定する操作に応じて、当該点を中心とする球面である境界面７６を設定してもよい。また、境界面設定部８０は、実空間７０内の点、及び、長さを設定する操作に応じて、当該点を中心とする当該長さに応じた半径の球面である境界面７６を設定してもよい。

【0083】

例えば、図１２に示すように、ユーザが点Ｐ１の位置においてコントローラ２２のボタンを指で押下し、当該ボタンが押下された状態でユーザがコントローラ２２を点Ｐ２の位置まで移動させ、ユーザが当該ボタンから指を離す操作を行ったとする。この場合に、図１３に示すように、点Ｐ１が中心であり、点Ｐ１と点Ｐ２との間の長さＬを半径とする球面である境界面７６が設定されてもよい。当該境界面７６は、点Ｐ２を通る面となる。

【0084】

なお、点Ｐ１や長さＬを設定する操作はこの操作には限定されない。また、半径ではなく直径を設定する操作が行われてもよい。そして、点Ｐ１を中心とする当該直径の球面である境界面７６が設定されてもよい。この場合は、当該球面の半径は、設定された直径の半分の長さである。

【0085】

また、境界面設定部８０は、実空間７０内においてユーザが動かすセンサの軌跡に外接する境界面７６を設定してもよい。例えばユーザがコントローラ２２のボタンを指で押下した状態で実空間７０内を自由に動かし、その後、ユーザがボタンから指を離したとする。この場合、所定のサンプリングレートで特定されるコントローラ２２の位置をつないだコントローラ２２の軌跡に外接する境界面７６（例えば当該軌跡の凸包である境界面７６）が設定されてもよい。

【0086】

また、境界面設定部８０は、実空間７０に配置されたカメラの視野範囲である領域と視野範囲ではない領域とを区画する境界面７６を設定してもよい。例えばカメラ２０ａの視野範囲である領域と視野範囲ではない領域とを区画する境界が、境界面７６として設定されてもよい。

【0087】

また、境界面設定部８０は、実空間７０に配置されたカメラが撮影する画像に対する画像認識処理（物体認識処理）の結果に基づいて、実空間７０内に配置された物体を特定してもよい。ここで、カメラ２０ａや、ＨＭＤ１２のセンサ部４０に含まれるカメラを用いて、実空間７０内に配置された物体が特定されるようにしてもよい。そして境界面設定部８０は、当該物体が占める領域が不許容領域に含まれるよう境界面７６を設定してもよい。具体的には例えば、カメラ２０ａが撮影する画像に基づいて、机７２やキャビネット７４が実空間７０において占める領域を特定してもよい。そして、図４に示すように、特定される領域が不許容領域に含まれるよう境界面７６が設定されてもよい。

【0088】

また、境界面設定部８０は、ユーザによる境界面７６よりも内側の領域を設定する操作に応じて、当該領域が不許容領域に含まれるよう境界面７６を変更してもよい。ここで、境界面７６に接する領域である、境界面７６よりも内側の領域を設定する操作に応じて、当該領域が不許容領域に含まれるよう境界面７６が変更されてもよい。例えば図１４に示すような境界面７６が設定されている状態で、ユーザが床からの高さがｈ５である線ｌ３を設定する操作を行ったとする。この場合、図１５に示すように、床からの高さがｌ３より低い範囲については、線ｌ３を高さ方向に沿って平行移動させた線を含むよう、境界面７６が変更されてもよい。この場合は、線ｌ３を設定する操作が、境界面７６に接する領域である、境界面７６よりも内側の領域を設定する操作に相当する。なお、境界面７６よりも内側の領域を設定する操作は、この操作には限定されない。

【0089】

また、境界面設定部８０は、ユーザによる境界面７６よりも外側の領域を設定する操作に応じて、当該領域が許容領域に含まれるよう境界面７６を変更してもよい。ここで、境界面７６に接する領域である、境界面７６よりも外側の領域を設定する操作に応じて、当該領域が許容領域に含まれるよう境界面７６が変更されてもよい。例えば、図１６に示すような境界面７６が設定されている状態で、ユーザが床からの高さがｈ６である線ｌ４を設定する操作を行ったとする。この場合、図１７に示すように、床からの高さがｈ６より高い範囲については、線ｌ４を高さ方向に沿って平行移動させた線を含むよう、境界面７６が変更されてもよい。この場合は、線ｌ４を設定する操作が、境界面７６に接する領域である、境界面７６よりも外側の領域を設定する操作に相当する。なお、境界面７６よりも外側の領域を設定する操作は、この操作には限定されない。

【0090】

また、境界面設定部８０は、境界面７６を表す境界面データを生成してもよい。境界面データは、例えば、境界面７６上の複数の点のそれぞれについての実空間７０内における三次元座標値を含んでいてもよい。また境界面データのデータ構造は、ポリゴンモデルのデータ構造であってもよい。

【0091】

また、境界面設定部８０は、ユーザが境界面設定操作を行っている際に、境界面７６やユーザによって設定される線などがディスプレイ１８に表示されるようにしてもよい。ここで例えば、境界面設定部８０は、カメラ２０ａが撮影する実空間７０の画像に、図８に示す線ｌ１や線ｌ２などといった、ユーザによって設定される線の画像や、設定される境界面７６の画像を重畳させるＡＲ（Augmented Reality）表示を実行してもよい。

【0092】

また、境界面設定部８０は、ユーザの操作に応じて、表示されている上述の線の画像や境界面７６の画像を移動させたり回転させたりする表示制御を実行してもよい。

【0093】

また、境界面設定部８０は、画像認識処理（物体認識処理）の結果に基づいて、初期設定における境界面７６を設定してもよい。そして、境界面設定部８０は、初期設定における境界面７６をユーザに提示してもよい。例えば、境界面設定部８０は、初期設定における境界面７６がディスプレイ１８に表示されるようにしてもよい。そして、その後、ＨＭＤ１２を装着しているユーザの操作（例えば、ユーザによるコントローラ２２の操作）に応じて、初期設定における境界面７６が変更されるようにしてもよい。このようにすれば、ユーザは、初期設定における境界面７６を自由にカスタマイズできることとなる。

【0094】

なお、ユーザによる境界面７６の変更が行われず、初期設定における境界面７６がそのまま用いられるようにしてもよい。物体認識の精度が向上した際にはこのようなことも可能であると思われる。

【0095】

境界面オブジェクト配置部８２は、本実施形態では例えば、境界面設定部８０が設定する境界面７６に対応付けられる境界面オブジェクト７８を、仮想空間６０内に配置する。ここで境界面オブジェクト７８は、例えば境界面７６に対応付けられるポリゴンモデルであってもよい。また上述のように境界面オブジェクト７８に含まれるポリゴンの内側には、格子状のテクスチャが貼られていてもよい。

【0096】

プログラム実行部８４は、本実施形態では例えば、一人称視点のゲームのプログラムなどのプログラムを実行する。またプログラム実行部８４は、所定のサンプリングレートで、センサ部４０により計測されるＨＭＤ１２の位置や向きに基づいて視点６２の位置及び視線方向６４を決定してもよい。またプログラム実行部８４は、所定のサンプリングレートで、コントローラ２２が備えるセンサにより計測されるコントローラ２２の位置に基づいて左手対応点６６及び右手対応点６８の位置を決定してもよい。

【0097】

接近判定部８６は、本実施形態では例えば、ユーザの境界面７６への接近を判定する。接近判定部８６は、ユーザが境界面７６に接近したか否かを、例えば、ＨＭＤ１２のセンサ部４０やコントローラ２２が備えるセンサから境界面７６までの距離に基づいて判定してもよい。例えば上述のように、視点６２、左手対応点６６、又は、右手対応点６８のいずれかについて、境界面オブジェクト７８からの距離が所定の距離以下である場合に、ユーザが境界面７６に接近したと判定されてもよい。

【0098】

なお、ユーザの境界面７６への接近の判定はこの方法に限定されない。例えば、視点６２、左手対応点６６、又は、右手対応点６８のうちの複数（例えば２つ）について、境界面オブジェクト７８からの距離が所定の距離以下である場合に、ユーザが境界面７６に接近したと判定されてもよい。

【0099】

また例えば、接近判定部８６が、カメラ２０ａが撮影する画像に対する画像認識処理の結果に基づいて、実空間７０内においてユーザの体が占める領域を特定してもよい。そして接近判定部８６が、ユーザの体が占める領域の輪郭と境界面７６との間の距離に基づいて、ユーザが境界面７６に接近したか否かを判定してもよい。

【0100】

境界面オブジェクト更新部８８は、本実施形態では例えば、境界面オブジェクト７８の不透明度（アルファ値）を設定する。ここで接近判定部８６により判定されるユーザの境界面７６への接近に応じて、境界面オブジェクト７８の不透明度が設定されてもよい。例えば、境界面オブジェクト７８が不透明（可視）であって、ユーザが境界面７６に接近したと判定されなかった場合に、透明（不可視）になるよう境界面オブジェクト７８が更新されてもよい。また例えば、境界面オブジェクト７８が透明（不可視）であってユーザが境界面７６に接近したと判定された場合に、不透明（可視）になるよう境界面オブジェクト７８が更新されてもよい。

【0101】

また、接近判定部８６が、ＨＭＤ１２のセンサ部４０やコントローラ２２が備えるセンサから境界面７６までの距離を特定してもよい。そして、境界面オブジェクト更新部８８は、特定される距離に基づいて、不透明度を決定してもよい。例えば特定される距離が短いほどアルファ値が大きくなるよう、アルファ値が決定されてもよい。そして境界面オブジェクト更新部８８は、決定されるアルファ値となるよう境界面オブジェクト７８を更新してもよい。

【0102】

動画像生成部９０は、本実施形態では例えば、ゲームのプレイ状況に応じた動画像などといった、プログラム実行部８４によるプログラムの実行結果に応じた動画像を生成する。また動画像生成部９０は、仮想空間６０内に配置された視点６２から視線方向６４を見た様子を表す動画像を生成してもよい。ここで例えば、所定のフレームレートでフレーム画像が生成されてもよい。また動画像生成部９０は、境界面オブジェクト７８の一部又は全部が透明（不可視）でない場合に、視点６２から視線方向６４に向かって仮想空間６０を見た様子の画像に、境界面オブジェクト７８の一部又は全部の画像が重畳されたフレーム画像を生成してもよい。

【0103】

表示制御部９２は、本実施形態では例えば、仮想空間６０内に配置された視点６２から視線方向６４を見た様子を表す動画像を表示部３８に表示させる。ここで例えば、表示制御部９２は、中継装置１６を経由してＨＭＤ１２に当該動画像を送信してもよい。そしてＨＭＤ１２が受信した動画像を表示部３８に表示させてもよい。

【0104】

ここで表示制御部９２は、境界面７６を表す仮想オブジェクトである境界面オブジェクト７８の一部又は全部をＨＭＤ１２の表示部３８に表示させてもよい。例えば表示制御部９２は、接近判定部８６によってユーザが境界面７６に接近したと判定される際に、境界面７６を表す仮想オブジェクトである境界面オブジェクト７８の一部又は全部をＨＭＤ１２の表示部３８に表示させてもよい。表示制御部９２は、例えば、動画像生成部９０が生成する動画像を表示部３８に表示させる。表示制御部９２は、動画像生成部９０が生成するフレーム画像を所定のフレームレートで表示部３８に表示させてもよい。

【0105】

ここで、本実施形態に係るエンタテインメント装置１４において行われる処理の流れの一例を、図１８に例示するフロー図を参照しながら説明する。図１８に示すＳ１０１～Ｓ１０５に示す処理は、所定のフレームレートで繰り返し実行される。本処理例に示す処理が開始される際には、境界面設定部８０による境界面７６の設定、及び、境界面オブジェクト配置部８２による境界面オブジェクト７８の配置が既に実行されていることとする。

【0106】

まず、プログラム実行部８４が、上述したように、本フレームにおける、視点６２の位置、視線方向６４、左手対応点６６の位置、及び、右手対応点６８の位置を決定する（Ｓ１０１）。Ｓ１０１に示す処理における決定は、例えば、ＨＭＤ１２のセンサ部４０により計測されるＨＭＤ１２の位置及び向き、並びに、コントローラ２２が備えるセンサにより計測されるコントローラ２２の位置に基づいて実行されてもよい。

【0107】

そして、接近判定部８６が、上述したように、Ｓ１０１に示す処理で決定された、視点６２の位置、左手対応点６６の位置、及び、右手対応点６８の位置に基づいて、ユーザの境界面７６への接近を判定する（Ｓ１０２）。

【0108】

そして、境界面オブジェクト更新部８８が、Ｓ１０２に示す処理での判定結果に基づいて、境界面オブジェクト７８の不透明度（アルファ値）を設定する（Ｓ１０３）。なおＳ１０３に示す処理で境界面オブジェクト７８の不透明度（アルファ値）が必ずしも更新される必要はない。

【0109】

そして、動画像生成部９０が、本フレームにおけるフレーム画像を生成する（Ｓ１０４）。ここでは例えば、Ｓ１０１に示す処理で決定された視点６２の位置から視線方向６４に向かって仮想空間６０を見た様子を表すフレーム画像が生成される。境界面オブジェクト７８が透明（不可視）ではない場合には、当該フレーム画像には、境界面オブジェクト７８の像が含まれることとなる。

【0110】

そして、表示制御部９２が、Ｓ１０４に示す処理で生成されたフレーム画像をＨＭＤ１２の表示部３８に表示させて（Ｓ１０５）、Ｓ１０１に示す処理に戻る。

【0111】

なお、本発明は上述の実施形態に限定されるものではない。

【0112】

また、ＨＭＤ１２のセンサ部４０がカメラを備えており、ユーザがＨＭＤ１２を装着した状態で境界面設定操作を行う場合に、境界面７６やユーザによって設定される線などがＨＭＤ１２の表示部３８に表示されるようにしてもよい。またこの場合に、ＨＭＤ１２が備えるカメラが撮影する実空間７０の画像に、図８に示す線ｌ１や線ｌ２などといった、ユーザによって設定される線の画像や、設定される境界面７６の画像を重畳させるＡＲ（Augmented Reality）表示が実行されてもよい。

【0113】

また接近判定部８６が、ユーザが境界面７６に過度に接近したこと、あるいは、ユーザが境界面７６の外である不許容領域に移動したことを判定してもよい。そしてこのような判定がされた際に、ＨＭＤ１２が備えるカメラが撮影する画像がＨＭＤ１２の表示部３８に表示され、ゲームのプログラムの実行がサスペンドされてもよい。

【0114】

また境界面設定部８０は、ＨＭＤ１２が備えるカメラの視野範囲である領域と視野範囲ではない領域とを区画する境界面７６を設定してもよい。例えばＨＭＤ１２が備えるカメラの視野範囲である領域と視野範囲ではない領域とを区画する境界が、境界面７６として設定されてもよい。

【0115】

また、ＨＭＤ１２のセンサ部４０がカメラを備える場合に、ユーザがぐるりと３６０度回転している際に当該カメラが撮影した画像に基づいて、最適な許容領域が算出されるようにしてもよい。ここで、ＨＭＤ１２、エンタテインメント装置１４、あるいは、中継装置１６で実行される物体認識アルゴリズムを使って、最適な許容領域の算出が実行されてもよい。またこのようにして算出された許容領域が、ユーザが動かすコントローラ２２に搭載されたセンサの軌跡やユーザによるコントローラ２２が備えたボタンの操作などに応じて調整されるようにすることで、所望の許容領域が設定されるようにしてもよい。

【0116】

また、例えばゲームのプレイ中に境界面７６が設定されてもよい。例えば、ゲームのプレイ中に、実空間７０に配置されたカメラが撮影する画像に対する画像認識処理（物体認識処理）の結果に基づいて特定される物体が占める領域が不許容領域に含まれるよう境界面７６が設定されてもよい。このようにすれば、ゲームのプレイ前に境界面７６の設定を予め行っておく必要がなくなる。

【0117】

ここで、ユーザが境界面７６に接近した際には、不透明（可視）になるよう境界面オブジェクト７８が更新されてもよい。また、ユーザが境界面７６に接近した際には、警告がユーザに通知されるようにしてもよい。例えば、警告を表す画像が表示部３８に表示されるようにしてもよい。また、所定の警告音あるいは、「境界に接近していますので注意してください。」などといった具体的な音声による警告音がＨＭＤ１２から補助的に出力されるようにしてもよい。

【0118】

また、ユーザが境界面オブジェクト７８に接近している際に、「境界に接近していますので注意してください。」などの警告を表す文字列がＨＭＤ１２の表示部３８に補助的に表示されるようにしてもよい。

【0119】

また、ユーザが境界面オブジェクト７８に接近している際に、警告を表す文字列がＨＭＤ１２の表示部３８から表示されるとともに、警告音などの音声がＨＭＤ１２から出力されるようにしてもよい。

【0120】

このようにすることで、ユーザはゲームのプレイ中に設定された境界面７６に気づくことができる。ここで、ゲームのプレイ中に自動で設定された境界面７６を必要に応じてユーザが変更できるようにしてもよい。

【0121】

なお、画像認識処理（物体認識処理）の結果に基づいて設定される境界面７６をユーザが気にいらないことがある。このことに備え、ユーザによる所定の操作に応じて、実空間７０に配置されたカメラが撮影する画像に対する画像認識処理（物体認識処理）の結果に基づく境界面７６の設定機能がオフにできるようにしてもよい。

【0122】

また、本実施形態において、カメラ２０ａが撮影する画像に対する画像認識処理の結果に基づいて、実空間７０内におけるユーザの手や足の位置がトラッキングされるようにしてもよい。そしてトラッキングされる手や足が境界面７６に接近した際にＨＭＤ１２が備える表示部３８に境界面オブジェクト７８の一部又は全部が表示されるようにしてもよい。また、トラッキングされる手や足が境界面７６に接近した際に上述したような警告を表す画像の表示や警告音の出力が行われるようにしてもよい。このようにすることで、例えば、ユーザの足だけが境界面７６に接近した際にもこのことをユーザに知らせることができる。また、手をトラッキングすることで、コントローラ２２を用いることなく、ユーザが上述の境界面設定操作を行えるようにしてもよい。例えば、ユーザが人差し指を突き出す動作などを行うことで上述の境界面設定操作を行えるようにしてもよい。

【0123】

また、実行されるゲームプログラムやアプリケーションプログラム等のプログラムごと、あるいは、プログラムの種類ごとに、境界面７６の設定が可能であってもよい。また、プログラムごとあるいはプログラムの種類ごとに、予め、当該プログラムに対応する境界面７６が設定されていてもよい。そして、設定された境界面７６を示す境界面データが、プログラムの名称や種類に関連付けて記憶されてもよい。境界面データは、エンタテインメント装置１４の記憶部５２にローカルで記憶されてもよいし、ネットワーク上のサーバに記憶されるようにしてもよい。

【0124】

そして、プログラムが実行される際に当該プログラムに関連付けて記憶されている境界面データをロードすることで、実行されるプログラムに応じた境界面７６が設定されるようにしてもよい。このようにすれば、ゲームプログラム等のプログラムにおいて推奨される境界面７６が設定されるようにすることが可能となる。また、このようにして設定される境界面７６をユーザが変更できるようにしてもよい。

【0125】

また例えばＨＭＤ１２、エンタテインメント装置１４、中継装置１６の役割分担は上述のものに限定されない。例えば図７に示す機能の一部又は全部がＨＭＤ１２によって実装されてもよい。

【0126】

また、上記の具体的な文字列や数値及び図面中の具体的な文字列や数値は例示であり、これらの文字列や数値には限定されない。

【符号の説明】

【0127】

１０ エンタテインメントシステム、１２ ヘッドマウントディスプレイ（ＨＭＤ）、１４ エンタテインメント装置、１６ 中継装置、１８ ディスプレイ、２０ カメラマイクユニット、２０ａ カメラ、２０ｂ マイク、２２ コントローラ、３０ プロセッサ、３２ 記憶部、３４ 通信部、３６ 入出力部、３８ 表示部、４０ センサ部、５０ プロセッサ、５２ 記憶部、５４ 通信部、５６ 入出力部、６０ 仮想空間、６２ 視点、６４ 視線方向、６６ 左手対応点、６８ 右手対応点、７０ 実空間、７２ 机、７４ キャビネット、７６ 境界面、７８ 境界面オブジェクト、８０ 境界面設定部、８２ 境界面オブジェクト配置部、８４ プログラム実行部、８６ 接近判定部、８８ 境界面オブジェクト更新部、９０ 動画像生成部、９２ 表示制御部、１７０ 実空間、１７２ 机、１７４ キャビネット、１７６ 境界面、２７０ 実空間、２７２ 机、２７４ キャビネット、２７６境界面。

【図1】

【図2A】

【図2B】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】

【図17】

【図18】