(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024035721
(43)【公開日】2024-03-14
(54)【発明の名称】気配生成システム及び気配生成装置
(51)【国際特許分類】
G06F 3/01 20060101AFI20240307BHJP
A63F 13/28 20140101ALI20240307BHJP
A63F 13/50 20140101ALI20240307BHJP
A63J 25/00 20090101ALI20240307BHJP
【FI】
G06F3/01 560
A63F13/28
A63F13/50
A63J25/00
【審査請求】未請求
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2022140363
(22)【出願日】2022-09-02
(71)【出願人】
【識別番号】000237592
【氏名又は名称】株式会社デンソーテン
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】橋本 和真
(72)【発明者】
【氏名】加藤 徹洋
(72)【発明者】
【氏名】掛江 庸平
(72)【発明者】
【氏名】広見 怜
【テーマコード(参考)】
5E555
【Fターム(参考)】
5E555AA76
5E555BA01
5E555BB01
5E555BC01
5E555BE17
5E555DA01
5E555DA21
5E555DA24
5E555DB57
5E555FA00
(57)【要約】
【課題】コンテンツ再生において、効果的に気配感をユーザに与え、ユーザが豊かな臨場感を感じること。
【解決手段】実施形態に係る気配生成システムは、コンテンツを再生するコンテンツ再生装置と、気配生成装置と、電界発生器とを有する。コンテンツ再生装置は、気配生成装置に実行中のコンテンツ情報を提供する。気配生成装置は、コンテンツ再生装置から提供されたコンテンツ情報に基づき電界発生器を制御する気配信号を生成し、電界発生器に生成した気配信号を出力する。電界発生器は、入力した気配信号に応じた電界を発生する。
【選択図】
図3
【特許請求の範囲】
【請求項1】
コンテンツを再生するコンテンツ再生装置と、気配生成装置と、電界発生器とを有する気配生成システムであって、
前記コンテンツ再生装置は、
前記気配生成装置に実行中のコンテンツ情報を提供し、
前記気配生成装置は、
前記コンテンツ再生装置から提供されたコンテンツ情報に基づき
前記電界発生器を制御する気配信号を生成し、
前記電界発生器に生成した前記気配信号を出力し、
前記電界発生器は、
入力した気配信号に応じた電界を発生する、
気配生成システム。
【請求項2】
ユーザに気配を感じさせる気配生成装置であって、コントローラを有し、
前記コントローラは、
コンテンツを再生するコンテンツ再生装置から提供されたコンテンツ情報に基づき電界発生器を制御する気配信号を生成し、
生成した前記気配信号を電界発生器に出力する、
気配生成装置。
【請求項3】
前記電界発生器は、導体で形成され、印加された電圧に応じた電界を発生し、
前記気配信号は、コンテンツ情報に基づき振幅、周波数、波形パターンのいずれか少なくとも1つで特徴付けられた電圧信号である、
請求項2に記載の気配生成装置。
【請求項4】
前記コントローラは、
前記気配信号として、前記コンテンツのシーンに応じた電圧信号のパターンを記憶したテーブルから実行中のコンテンツにおける前記コンテンツ情報に基づくシーンに対応する電圧信号を選択する、
請求項3に記載の気配生成装置。
【請求項5】
前記コンテンツは、仮想空間の映像を含み、
前記コントローラは、
コンテンツの仮想空間における、オブジェクトの存在状況を基に、前記気配信号を生成する
請求項2に記載の気配生成装置。
【請求項6】
前記オブジェクトの存在状況は、前記仮想空間において、オブジェクトが前記ユーザの死角領域に存在するか否かであることである
請求項5に記載の気配生成装置。
【請求項7】
前記オブジェクトの存在状況は、
前記仮想空間における、オブジェクトと前記ユーザの位置関係であることである
請求項5に記載の気配生成装置。
【請求項8】
前記コントローラは、
前記ユーザの心理状態、またはオブジェクトの存在状況に応じて、前記ユーザが感じさせた気配を低減するように前記電界発生器を制御する気配低減信号を生成し、
生成した前記気配低減信号を電界発生器に出力する、
請求項2に記載の気配生成装置。
【請求項9】
ユーザに気配を感じさせる気配生成装置であって、コントローラを有し、
前記コントローラは、
ユーザに提供する情報の発生に基づき電界発生器を制御する気配信号を生成し、
生成した前記気配信号を電界発生器に出力する、
気配生成装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、気配生成システム及び気配生成装置に関する。
【背景技術】
【0002】
従来、静電気を用いて狙いとする気配及び雰囲気を再現する技術が知られている(例えば、特許文献1を参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の技術では、映画やゲーム等のコンテンツ再生において、気配感を用いて効果的に臨場感を増加させる点については考慮されておらず、気配感を用いて豊かな臨場感を再現する点に関して改良の余地があった。
【0005】
本発明は、上記に鑑みてなされたものであって、コンテンツ再生において、効果的に気配感をユーザに与え、ユーザが豊かな臨場感を感じることができる気配生成システム及び気配生成装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
上述した課題を解決し、目的を達成するために、本発明に係る気配生成システムは、コンテンツを再生するコンテンツ再生装置と、気配生成装置と、電界発生器とを有する。コンテンツ再生装置は、気配生成装置に実行中のコンテンツ情報を提供する。気配生成装置は、コンテンツ再生装置から提供されたコンテンツ情報に基づき電界発生器を制御する気配信号を生成し、電界発生器に生成した気配信号を出力する。電界発生器は、入力した気配信号に応じた電界を発生する。
【発明の効果】
【0007】
本発明によれば、コンテンツ再生において、効果的に気配感をユーザに与え、ユーザが豊かな臨場感を感じることができる。
【図面の簡単な説明】
【0008】
【
図1】
図1は、情報処理システムの概要を示す図である。
【
図2】
図2は、情報処理システムにおけるデータの流れを示す図である。
【
図4】
図4は、電界パターンデータテーブルの一例を示す図である。
【
図5】
図5は、コンテンツの画像の一例を示す図である。
【
図7】
図7は、気配を除去する処理の流れを説明する図である。
【
図8】
図8は、情報処理装置の処理手順を示すフローチャートである。
【発明を実施するための形態】
【0009】
以下、添付図面を参照して、本願の開示する気配生成システム及び気配生成装置の実施形態を詳細に説明する。なお、以下に示す実施形態により本発明が限定されるものではない。
【0010】
まず、
図1及び
図2を用いて、実施形態に係る情報処理システム及び情報処理方法の概要について説明する。
図1は、情報処理システムの概要を示す図である。
図2は、情報処理システムにおけるデータの流れを示す図である。
【0011】
図1に示すように、情報処理システム1は、表示装置3と、音声出力デバイス4と、振動デバイス5と、気配発生デバイス6、バイタルセンサ7と、環境センサ8とを含む。情報処理システム1は、気配生成システムの一例である。
【0012】
図2に示すように、情報処理装置10は、表示装置3に映像データを提供する。また、情報処理装置10は、音声出力デバイス4に音声データを提供する。また、情報処理装置10は、振動デバイス5に振動データを提供する。また、情報処理装置10は、気配発生デバイス6に気配データを提供する。
【0013】
また、情報処理装置10は、バイタルセンサ7からバイタルデータを受信する。また、情報処理装置10は、環境センサ8から環境データを受信する。
【0014】
図1に示すように、表示装置3は、コンテンツにおける画像を表示するもので、液晶表示素子等により構成されたディスプレイ等で構成される。情報処理システム1では、表示装置3としてヘッドマウントディスプレイが用いられている。なお、表示装置3(ヘッドマウントディスプレイ)は、視界を完全に覆う非透過型(完全没入型)であってもよいし、ビデオ透過型や光学透過型であってもよい。なお、表示装置3は、入力した映像データをディスプレイ駆動信号に変換する変換機能、所謂映像デコーダを備えている。
【0015】
つまり、表示装置3は、ユーザに対し、情報処理装置10から提供されるXR(Cross Reality)コンテンツ等に関する映像データを提示し、ユーザに映像による仮想世界体験を享受させるための情報処理端末である。
【0016】
また、表示装置3は、ユーザの内外の状況の変化を検知するセンサデバイス、例えばカメラやモーションセンサ等を有し(表示装置外殻の適当な位置にセンサデバイスを設置)、カメラ画像等の当該センサデバイスのセンサ信号を出力する。
【0017】
音声出力デバイス4は、入力された音響信号(音声データ)をユーザが聴取する音声に変換出力する電気音響変換器で、情報処理システム1ではヘッドフォン型が適用されており、ユーザの耳に装着される。なお、音声出力デバイス4は、入力した音声データを電気音響変換器の駆動信号(アナログ音響信号)に変換する変換機能、所謂音声デコーダ(デジタルアナログ変換器)と、電気音響変換器を駆動するレベルにアナログ音響信号を増幅する電力増幅器を備えている。また、音声出力デバイス4は、ヘッドフォン型に限らず、箱型(床等に設置)、つまりボックス型スピーカであってもよい。また、音声出力デバイス4は、再生コンテンツが動画の場合、特にXRコンテンツ等の立体映像の場合、ステレオ信号再生や、マルチチャンネル信号再生等の立体再生用のデバイス(ヘッドフォン、ボックススピーカ等)型が好ましい。
【0018】
振動デバイス5は、入力された振動信号に応じた振動をユーザに印加する電気振動変換器、所謂エキサイターで、電気磁気回路や圧電素子から構成される電気振動変換器から構成される。なお、振動デバイス5は、入力した振動データを電気振動変換器の駆動信号(アナログ振動信号)に変換する変換機能、所謂振動デコーダ(デジタルアナログ変換器)と、電気振動変換器を駆動するレベルにアナログ振動信号を増幅する電力増幅器を備えている。また、情報処理システム1において振動デバイス5はユーザが着座するシートに設置され、入力振動データにあわせて振動する。なお、シートに対して複数の振動デバイス5が設置され、各振動デバイス5は自身に対する入力信号に応じて振動し、ユーザにおける各接触位置に個別の振動を印加する。
【0019】
気配発生デバイス6は、入力された気配信号に応じた刺激をユーザに印加する刺激発生器である。具体的には、気配発生デバイス6は電界を発生するデバイスで、コイル等の導体と、当該導体に気配信号に応じた電圧を印加する増幅回路(気配信号を入力とする増幅回路)等から構成される。これは人間の五感を直接刺激する(光・音・圧力・臭覚物質・味覚物質)、あるいは意識できるほど強く刺激するものでは無く、五感を間接的に、あるいは意識できないほど弱く刺激するもの、と言う考えに基づくものである。気配信号は、振幅、周波数、波形パターンのいずれか少なくとも1つで特徴付けられた電圧信号である。
【0020】
なお、本実施形態における気配発生デバイス6としては、その代表例として電界発生器を用いるが、印加電圧を変動させれば(電流が流れれば)磁界発生器としても動作し、磁界による気配の発生も可能である。これらは構成、駆動方法も一般的な電気回路、電気部品で構成でき、制御も電気的制御のみで容易である利点がある。
【0021】
例えば、人は電界を内耳及び体表面の産毛でセンシングし(産毛が電界で動く)、気配として感じる、と言う理論が知られている(参考文献:日経Gooday 30+,「何となく感じる「気配」の正体? 「準静電界」とは」, https://style.nikkei.com/article/DGXMZO89389280W5A710C1000000)。気配発生デバイス6は、この理論を適用した構成により実現できる。
【0022】
情報処理システム1では、気配発生デバイス6を、ヘッドフォン型の音声出力デバイス4におけるユーザへの装着時にユーザの耳近傍となる位置に電界発生器を内蔵させた構造としている。これにより、気配発生デバイス6は、ユーザの内耳の産毛に効率的に電界を印加でき、ユーザに気配を効果的に感じさせることが可能となる。
【0023】
バイタルセンサ7は、ユーザのバイタル情報を、つまり生体信号を測定する。情報処理装置10では、バイタルセンサ7はリストバンド型のデバイスで、例えば手首との接触面(橈骨動脈部分)の圧力変化から拍動(血圧変化)を検知し、ユーザの心拍数を測定する。
【0024】
環境センサ8は、ユーザの周囲の環境の情報を測定する。情報処理システム1では、環境センサ8は、ユーザの周囲の温度、湿度及び風速を測定する温度センサ(サーミスタ等の感温素子)、湿度センサ(乾湿材料の抵抗・容量変化測定)及び風速センサ(熱線式の風速センサ等)である。
【0025】
情報処理装置10は、コンテンツデータに基づき、またユーザの周囲環境や状態に基づき、映像データ、音声データ、振動データおよび気配データ(気配信号)を生成し、表示装置3、音声出力デバイス4、振動デバイス5および気配発生デバイス6に出力する。なお、映像データ、音声データ、振動データおよび気配データは、表示装置3、音声出力デバイス4、振動デバイス5および気配発生デバイス6の入力信号様式に対応した形式のデータで、本実施形態ではデジタルデータを適用しているが、表示装置3、音声出力デバイス4、振動デバイス5および気配発生デバイス6をアナログ入力対応とする場合は、情報処理装置10でアナログ信号に変換して出力する形態となる。
【0026】
なお、情報処理装置10は、コンテンツデータを、内蔵する記憶装置(ハードディスク装置)やディスクプレーヤ等から取得したり、インターネット等の通信回線を介してコンテンツ配信サーバ(コンテンツ提供企業が運営)から取得したりすることになる。
【0027】
また、情報処理装置10は、環境センサ8から周囲環境等に関する環境データを取得し、またバイタルセンサ7からユーザ(コンテンツ視聴者)のバイタルデータを取得する。そして、情報処理装置10は、取得したコンテンツデータと、環境データおよびバイタルデータを用いて映像データ、音声データ、振動データおよび気配データを生成して、表示装置3、音声出力デバイス4、振動デバイス5および気配発生デバイス6に出力する。
その結果、ユーザは、コンテンツや周囲環境、またユーザの心身状態に応じた映像、音声を視聴し、また振動、気配を感じることになり、ユーザは臨場感豊かなコンテンツを楽しむことができる。
【0028】
次に、
図3を用いて、実施形態に係る情報処理装置10の構成例について説明する。
図3は、情報処理装置10のブロック図である。
図3に示すように、情報処理装置10は、制御部12と、記憶部13とを備える。なお、外部装置との接続構成については、
図2で示しているので、省略する。
【0029】
記憶部13は、例えば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子、又は、ハードディスク、光ディスク等の記憶装置によって実現される。記憶部13は、XRコンテンツDB(Database)131と、電界パターンデータテーブル132とを有する。
【0030】
XRコンテンツDB131は、映画やゲーム等のユーザへ提供される(再生する)XRコンテンツ群のデータが格納されたデータベースである。情報処理装置10(制御部12)は、これらXRコンテンツ群のデータに基づき表示画像を生成する等してコンテンツをユーザに提供することになる。
【0031】
電界パターンデータテーブル132は、気配発生デバイス6が発生させる電界のパターンと、各パターンの発生条件のデータが対応付けられて記憶されたテーブルである。
【0032】
図4は、電界パターンデータテーブル132の一例を示す図である。
図4に示すように、電界パターンデータテーブル132には、パターンID、シーン条件、電界パターンといった項目が含まれる。パターンIDは各レコードの主キーとなっており、パターンID毎にデータレコードが生成され、当該データレコードにパターンIDに対応するシーン条件、電界パターン等の各項目のデータが記憶される。
【0033】
シーン条件は、コンテンツのシーンを特定するための条件である。電界パターンは、発生する電界のパターンを示す情報で、電界発生器に印加する電圧波形等のデータが記憶される。電界のパターンの特徴を示すデータ種(パラーメータ)としては、振幅、周波数、波形パターン等があり、これらにシーンに応じた特徴を持たせることにより、シーンに応じた気配を再現することが可能となる。なお、
図4に示した電界パターンデータテーブルでは、説明を分かりやすくするためにシーン条件、電界パターンは言語表記しているが、シーン条件を表す各種パラメータの値や、電界パターンを示す印加電圧波形(電源制御値群等)と言った、処理・制御に使用されるデータが記憶される。電界パターンデータテーブル132は、コンテンツのシーンに応じた電圧信号のパターンを記憶したテーブルということができる。
【0034】
ここで、説明を分かりやすくするために、本実施形態におけるコンテンツは、VRで提供されるビデオゲーム又はCG映像として説明を進める(以下、XRコンテンツ又はVRコンテンツと呼ぶ場合がある)。このようなコンテンツにおいては、3Dモデルで表されるオブジェクトが仮想的な空間に配置される。さらに、当該仮想的な空間には、ユーザのアバター(ユーザが操作するゲーム等の主人公に該当)が配置される。そして、ユーザにはアバターの視界が映像として提供され、またユーザの操作に応じてアバターが動作する。
【0035】
このようなコンテンツに対して、電界パターンデータテーブル132におけるシーン条件は、一例として
図4の示すように、アバターと他のオブジェクトの位置関係により表現される。つまり、アバターと他のオブジェクトの位置関係に応じた電界パターンにより、ユーザに他のオブジェクトの気配を感じさせるというものとなる。
【0036】
図5を用いて、シーン条件について説明する。
図5は、コンテンツの画像の一例を示す図である。
図5の画像31は、コンテンツの1つのシーンの画像であり、表示装置3によって表示される。
【0037】
画像31は、アバター311が壁に囲まれた通路を画面の奥側に向かって進んでいるシーンの画像である。なお、通路の突き当りは左右に延びる通路となっているとする。
【0038】
通路におけるアバターの311の移動方向の突き当り右側通路には、敵性オブジェクト312が壁により視認できない状態(死角位置、又は死角領域)で配置されている。また、距離d(曲線Cの長さ)は、アバター311と敵性オブジェクト312との間の距離である。
【0039】
なお、敵性オブジェクトは、コンテンツ内においてアバター(プレイヤー)と敵対する存在(例えば、アバターを攻撃するキャラクタ、又は対戦相手のアバター)である。現実世界におけるこのような場面、つまりユーザの近くに死角状態にある敵の人物が存在する場合、ユーザはなんとなく恐怖及び緊張といった感情を覚えること、所謂気配を感じることがある。本実施形態では、このような気配をコンテンツ提供時における上述のようなシーンでユーザに感じさせる。
【0040】
図5のシーン例で、「アバターと敵性オブジェクトの距離dが7m」であれば、電界パターンデータテーブル132のパターンID「P01」のシーン条件「敵性オブジェクトが距離5m~10mの死角に潜伏」が満たされ、対応する電界パターンは「パターンE01」となる。
【0041】
また、
図5のシーン例で、「アバターと敵性オブジェクトの距離dが8mであり、かつ当該距離が減少中」であれば、電界パターンデータテーブル132のパターンID「P01」のシーン条件「敵性オブジェクトが距離10m以内の死角から接近中」が満たされ、対応する電界パターンは「パターンE03」となる。
【0042】
図3に戻り、制御部12について説明する。制御部12は、コントローラ(controller)であり、例えば、CPU(Central Processing Unit)、MPU(Micro Processing Unit)等によって、記憶部13に記憶されている図示略の各種プログラムがRAMを作業領域として実行されることにより実現される。また、制御部12(コントローラ)は、例えば、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)等の集積回路により実現することもできる。
【0043】
制御部12は、コンテンツ生成部121と、レンダリング処理部122と、モニタリング部123と、判定部124と、指示部125とを有し、以下に説明する情報処理の機能や作用を実現する。
【0044】
コンテンツ生成部121は、XRコンテンツの画像に関する3Dモデルを生成する。例えば、コンテンツ生成部121は、XRコンテンツDB131におけるユーザへの提供対象のコンテンツのデータを用いて、XRコンテンツの仮想空間におけるユーザ(アバター)の現在の位置および視野にあわせて、XRコンテンツにおける仮想空間の3Dモデルを生成する。コンテンツ生成部121は、生成した3Dモデルをレンダリング処理部122へ渡す。
【0045】
また、コンテンツ生成部121は、生成した画像の3Dモデルとコンテンツにおける音響データに基づき、つまりXRコンテンツの仮想空間におけるユーザ(アバター)と発音対象物(敵性オブジェクト等の発音オブジェクト)の位置関係と、音声データ(発音オブジェクト識別データ付加)等に基づき音響の3Dモデルを生成する。なお、他音響に影響のあるオブジェクト、例えば音を反射、遮蔽、吸収するオブジェクトを考慮して音響の3Dモデルを生成するのも有効な方法である。
【0046】
また、コンテンツ生成部121は、生成した画像の3Dモデルとコンテンツにおける音響データに基づき、つまりXRコンテンツの仮想空間におけるユーザ(アバター)と発振対象物(敵性オブジェクト等の発振オブジェクト)の位置関係と、振動データ(発振オブジェクト識別データ付加)等に基づき振動の3Dモデルを生成する。なお、発音オブジェクトと発振オブジェクトは相関性が高いので、ユーザ(アバター)と発音対象物の位置関係と、音声データ等に基づき振動の3Dモデルを生成することも可能である。なお、他振動に影響のあるオブジェクト、例えば振動を反射、遮蔽、吸収するオブジェクトを考慮して振動の3Dモデルを生成するのも有効な方法である。
【0047】
レンダリング処理部122は、コンテンツ生成部121から受け取った画像等の3Dモデルを、映像データ、音声データ及び振動データへ変換するレンダリング処理を行う。レンダリング処理部122は、変換した映像データを表示装置3へ出力する。また、レンダリング処理部122は、変換した音声データを音声出力デバイス4へ出力する。また、レンダリング処理部122は、変換した振動データを振動デバイス5へ出力する。
【0048】
モニタリング部123は、コンテンツ生成部121からXRコンテンツの仮想空間におけるオブジェクトの位置(座標)情報及びオブジェクト種別に関する情報を受け取って監視し、コンテンツのシーンを特定する。なお、コンテンツのデータには情報にはオブジェクトの位置(座標)情報及びオブジェクト種別等のデータが含まれ、コンテンツ生成部121はこれらのデータに基づきモニタリング部123に必要なデータを提供する。また、モニタリング部123は、コンテンツの音量を監視(モニタリング)する。
【0049】
また、モニタリング部123は、バイタルセンサ7から得られるバイタルデータを監視し、ユーザの状態を特定する。例えば、バイタルデータがユーザの心拍数が上昇していることを示している場合、モニタリング部123は、ユーザが恐怖を感じていることを特定する。なお、この特定は、バイタルデータとユーザの状態とが関連づけられて記憶されたデータテーブルを利用する等の方法により、実現できる。
【0050】
また、モニタリング部123は、環境センサ8から得られる環境データを用いて、ユーザのコンテンツの視聴環境を監視する。視聴環境には、風量及び湿度等が含まれる。
【0051】
判定部124は、特定したコンテンツのシーンに対応する電界パターンを電界パターンデータテーブル132から選択し、気配を発生させる電界パターンとして決定する。
【0052】
従って、コンテンツのシーンに応じた電界パターンに基づき気配を再現するので、コンテンツのシーンに応じた気配をユーザに感じさせることが期待できる。
【0053】
判定部124は、コンテンツのシーンに応じた電界パターンを記憶した電界パターンデータテーブル132に基づき、コンテンツのシーンに適した電界パターンを決定する。従って、コンテンツのシーンに対応する電界パターンの設定変更を行う場合には、電界パターンデータテーブル132のデータを更新すれば良いので、プログラム等の変更と比べて、簡単に電界パターンの設定変更を行うことができる。
【0054】
また、電界パターンデータテーブル132は、コンテンツのシーンと電界パターンが対応付けられたデータである。気配は映画やゲーム等のコンテンツのシーンとの相関性が高いと考えられため、電界パターンデータテーブル132に用いれば、適切な気配を感じるような電界パターンを選択することが可能となる。また、コンテンツのシーンと対応する適当な電界パターンとの対のデータを電界パターンデータテーブル132に追加・更新することにより、新たシーンへの対応、および既存データの更新を容易に行える。
【0055】
また、気配は、その原因となるオブジェクトとユーザとの距離、および当該オブジェクトのユーザによる認識状態(オブジェクトがユーザの死角にあるか否か)との相関が大きいと考えられるので、当該距離と当該認識状態のデータを電界パターンデータテーブル132におけるシーン条件データに含ませることにより、適切な電界パターンを適用することが可能となる。
【0056】
特に、ユーザは死角に存在するオブジェクトを視認することができないため、電界の発生によりユーザにオブジェクトの気配を感じさせることによって、ゲーム等のコンテンツの場合は気配も考慮した対応を取る等のゲーム操作が可能となり、ゲームをより高度に楽しめることができる。また、ホラー映画等のコンテンツの場合は、見えないものの気配を感じる等、ユーザは臨場感が増加した映画等を楽しむことができる。
【0057】
指示部125は、気配発生デバイス6に判定部124の判定結果に応じた電界パターンの電界出力を指示し、気配発生デバイス6に当該電界パターンの電界を発生させる。具体的には、指示部125は気配発生デバイス6に判定部124が決定した電界パターンに対応する電圧の電力を気配発生デバイス6に印加する。それにより気配発生デバイス6は当該電圧の電力に応じた電界を発生することになる。
【0058】
また、指示部125は、判定部124が決定した電界パターンを、モニタリング部123のモニタリング結果であるユーザ状態と視聴環境に応じて調整する処理も行う。つまり、指示部125は、判定部124が決定した電界パターンを、モニタリング部123のモニタリング結果であるユーザ状態と視聴環境に応じて調整し、その調整後の電界パターンの電界出力を指示し、気配発生デバイス6に当該調整後電界パターンの電界を発生させる。
【0059】
具体的には、指示部125は、モニタリング部123によってモニタリングされた湿度に応じて、湿度が高くなるほど電界が強くなるように気配発生デバイス6に指示する(印加電圧を高くする)。例えば、指示部125は、湿度が予め定めた閾値以上である場合、気配発生デバイス6に印加する電圧を20%高くする、と言った制御を行う。これは、湿度が高くなると、電界により影響を受けやすい毛髪等に存在する電荷が放電され易くなるためである。
【0060】
また、モニタリング部123によってモニタリングされたユーザ状態が適切な状態にない場合、コンテンツに対してコンテンツの狙いとするユーザの精神状態と異なっている場合や、ユーザが過度な精神状態となっている場合に、指示部125は、ユーザ状態が適切な状態になるように電界の強度を調整するべく、気配発生デバイス6に指示する。例えば、ホラー映画等のコンテンツにおける、ユーザが恐怖を感じることを意図して作成されたシーンにおいて、モニタリング部123によってユーザが恐怖を感じていない(例えば、心拍数が閾値以下)ことが検知された場合、指示部125は、ユーザに強い気配を感じさせて恐怖感が増すように、電界を強くすることを気配発生デバイス6に指示する。
【0061】
さらに、指示部125は、外乱の影響を考慮して(周囲環境に基づき外乱状態を判断)電界の強度を調整する。つまり、外乱の影響が大きい場合、ユーザは外乱に気を取られて、微小な感覚である電界による気配を感じにくいためである。
【0062】
例えば、音声出力デバイス4が出力する音量が大きい場合、ユーザは電界による気配を感じにくくなることが考えられる。これは、音量が大きい場合、空気の振動が大きくなるため、ユーザが内耳及び体表面で感じる電界による微小な変動が、音による振動でかき消されるためである。
【0063】
そこで、指示部125は、音声出力デバイス4が出力する音量が大きいほど、電界を強くすることを気配発生デバイス6に指示する。これにより、外乱が大きい場合であっても、ユーザに電界による気配を感じさせることができる。
【0064】
なお、電界による気配に対して影響の大きい外乱としては、他に、風、温度、明るさや、また車両等の場合は振動や加速度等が考えられる。
【0065】
(周辺視野のオブジェクトの気配)
次に、ゲームや映画等のVRコンテンツにおける気配制御例について説明する。VRコンテンツにおいては、現実世界では視認できる領域が視認できない場合がある。これは、VRゴーグル等に表示される映像の視野範囲は、現実世界で人間が見ている視野範囲よりも狭いためである。
【0066】
図6は、視野範囲を説明する図である。
図6に示すように、VRコンテンツでは、人が明確に対象物を視認できる限界線の内側(正面側)よりも広く、人の視野限界線の内側よりも狭い範囲が視野範囲とされる。ただし、VRコンテンツの視野限界線と、人が明確に対象物を視認できる限界線及び人の視野限界線との関係は、VRコンテンツを提供する装置、又はコンテンツにより変化する場合がある。
【0067】
情報処理装置10は、VRの視野範囲であって、人が明確に対象物を視認できる限界線の内側においては、気配の印可を行わない(気配係数:0)。なお、気配係数は、印可される気配強度の計算に用いられる係数である。気配係数が大きいほど気配強度が大きくなる。
【0068】
情報処理装置10は、人が明確に対象物を視認できる限界線の外側であって、VRコンテンツの視野限界線の内側(VR表示における人がぼんやり見える視野内)に対象物を表示する場合、弱めの気配を印可する(気配係数小:K1)。
【0069】
情報処理装置10は、VRコンテンツの視野限界線の外側であって、人の視野限界線の内側(VR視野外かつ人の視野内)に対象物を配置する場合、中程度の気配を印可する(気配係数大:K2(ただしK2>K1))。
【0070】
情報処理装置10は、人の視野限界線の外側(VR視野外かつ人の視野外)に対象物を配置する場合、強めの気配を印可する(気配係数大:K3(ただしK3>K2>K1))。
【0071】
なお、障害物による死角位置に対象物を配置する場合、上記視野に基づく位置に関係無く、強めの気配を印可する(気配係数大:K3)。
【0072】
対象物までの距離をdとすると、情報処理装置10は、以下のように気配強度を計算する。
気配強度=P(気配基本強度)・K(気配係数)/(d・d)
【0073】
つまり、気配強度は、距離の2乗に反比例する。このように、気配は、空間を広がっていく光及び音等と同様の性質を持つ。
【0074】
なお、
図4に示すパターンIDが「P01」、「P02」、「P03」のシーン条件は、ユーザの視野範囲内の死角におけるオブジェクトの存在状態によるものである。一方、ここで説明した条件は、視野範囲外におけるオブジェクトの存在状態によるものである。これらの条件に従った気配の発生制御を併用することにより、ユーザへのより効果的な気配の提供が可能となる。つまり、障害物により隠されたオブジェクト、および人の視覚特性により視認できない(視認困難な)オブジェクトによる気配を、ユーザに感じさせることが可能となる。
【0075】
具体的には、視野範囲内の死角におけるオブジェクト、視野範囲外におけるオブジェクト、および過去・未来におけるオブジェクトの存在状態に応じて気配を発生させることにより、例えば壁を隔てた向こう側に存在する敵又は危険物、箱の中又は地面に埋まっているアイテム、直前までユーザの現在位置付近に居たが移動してしまった敵、後方より接近してくる敵等、ユーザに気配を感じさせるいろいろなオブジェクトを気配として感じさせることができる。
【0076】
なお、過去・未来におけるオブジェクトの存在状態については、コンテンツにおける過去シーンの状況を記憶しておくこと、コンテンツデータや操作履歴等に基づき未来のシーンの進捗を予測することにより、検出(予測)できる。
【0077】
(気配による情報伝達)
次に、情報伝達における気配制御例について説明する。簡単な情報、例えば、警告の発生、前後左右等の方向提示、伝達する情報がある旨を示す予告等をユーザに伝達する場合に気配による情報伝達が行われる。
【0078】
ユーザに情報を通知する方法としては、光、音、振動による方法が存在する。これらの方法によればユーザに明確に情報を提示できる一方、刺激が大きくユーザを驚かせてしまうこと、また、ユーザの注意を必要以上に引き付けてしまうことがある。
【0079】
例えば、強力な刺激によってユーザを驚かせたくない場面及びユーザの注意を強力に引き付けたくない場面に加え、ユーザが気付いても気付かなくてもよい情報を通知する場合にユーザに過度な通知による鬱陶しいと言う感情を起こさせないために、気配による情報の通知が有効である。
【0080】
そこで、指示部125は、気配発生デバイス6に電界を発生させることにより、ユーザに伝達する情報がある旨を通知する。これにより、五感に直接働く強い刺激を伴う情報伝達ではなく、五感に直接は働かない弱い刺激しか伴わない情報伝達が可能となり、ユーザに与える刺激の強度を制限しつつ情報を伝達することができる。
【0081】
例えば、VRゲームにおいて、ゲーム進行上の影響が殆ど無い参考情報、例えばユーザが一度訪れたことがある場所の近くにいる場合に、指示部125は、気配発生デバイス6に電界を発生させ、気配でユーザにその旨を通知する(なんとなく感じさせる)。
【0082】
また、例えば、VRゲームにおいて、シナリオ上のメインの目的ではないが、付加的なサブの目的に関するオブジェクト(ゲーム進行上の影響が小さい参考情報的オブジェクト)が付近にある場合、指示部125は、気配発生デバイス6に電界を発生させ、気配でユーザにその旨を通知する。なお、メインの目的に関するオブジェクトが付近にある場合は、光、音、振動等による情報の通知による明確な通知が有効である。
【0083】
なお、気配による情報伝達は、コンテンツの提供時に限られず、以下のような弱い気づきを与えるのが好ましい様々なシチュエーションで効果的に利用可能である。
【0084】
例えば、ユーザが移動中である場合、スマートフォンとイヤホン型の気配発生デバイス6により気配による情報伝達が実現可能で、次のような利用法が考えられる。
【0085】
例えば、移動中のユーザが、以前にカーナビゲーション、又は地図アプリ等で検索した場所の近くを通った場合、指示部125は、気配発生デバイス6に電界を発生させ、気配でユーザにその旨を通知する。
【0086】
また、ユーザが目的地へ移動しているときに、重要度は低いが余裕があれば気付いてほしい場所(例えば、水分補給のための飲料を販売している店舗、公衆トイレ等)の付近を通った場合、指示部125は、気配発生デバイス6に電界を発生させ、気配でユーザにその旨を通知する。
【0087】
また、例えば、ユーザが特に車両で移動中である場合、車載装置と座席に備えられたスピーカ型の気配発生デバイス6により気配による情報伝達が実現可能で、次のような利用法が考えられる。
【0088】
例えば、車両の自動走行中において、隣車線に自車両を後方から追い抜いていく後続車両の存在が検知された場合、指示部125は、気配発生デバイス6に電界を発生させ、気配でユーザにその旨を通知する。ただし、自車両の運転者が車線変更をしようとしていた場合は、後続車両の情報を明確に通知する必要があるため、光、音、振動等による明確な通知を行う。
【0089】
その他にも、例えば監視カメラの映像についてAI等による画像解析を行い、人物が検知された場合、当該人物の不審の度合い(例えば、不審者である確率)が低い場合、指示部125は、気配発生デバイス6に電界を発生させ、気配でユーザにその旨を通知する、と言った気配の利用方法が考えられる。なお、その場合、当該人物の不審の度合いが高い場合、光、音、振動等による明確な通知を行う。
【0090】
なお、気配による情報伝達は、重要度が低い情報の通知に用いられるため、ユーザが対象の情報の通知を望まない場合(ユーザが当該情報の通知の禁止設定した場合)、ユーザが一切の情報の通知を望まない場合(ユーザが情報通知の禁止設定した場合)、又は当該情報が既にユーザに通知済みである場合等において、気配による情報伝達の機能は停止されてもよい。
【0091】
(気配の除去・低減)
ユーザへの電界印加の影響は、電界が消滅することにより蓄積された電荷が徐々に放電されること等から徐々になくなり、気配も消えていくことになる。これに対して、電界の影響は、蓄積された電荷を急速に除去すること、例えば水分供給、逆電界の印加により蓄積された電荷を急速に除去することができる。
【0092】
そこで、指示部125は、ユーザの心理状態、及びオブジェクトの存在状況等に応じて、気配を急激に消去することが好ましい場合に、ユーザが感じる気配を除去するように気配発生デバイス6、あるいは別途設置した気配発生デバイスを制御する。なお、気配発生デバイス6を用いる場合は逆電界を発生するように、気配発生デバイス6へ逆極性の印加電圧を加えることになる。また、気配発生デバイスとしては、霧状の水滴発生装置、所謂加湿器等を利用することが可能である。これにより、気配を急激に消去でき、気配によるユーザの過度な不安を低減させることができる。
【0093】
図7は、気配を除去する処理の流れを説明する図である。
図7に示すように、モニタリング部123は、ユーザのメンタル状態、対象物の情報を検出する。
【0094】
ユーザのメンタル状態は、バイタルデータ、例えば心拍データから推定可能である。また、対象物の情報は、コンテンツにおける敵性オブジェクト、現実世界におけるユーザの周囲の構造物、人物、生物、車両等である。
【0095】
判定部124は、センシングの結果から気配の低減量を決定する。つまり、情報処理装置10はコンテンツのシーン等に応じて気配、すなわち電界を発生する制御を行っているが、本機能はその気配を急激に消去する(放電に伴う自然消滅ではなく、意図的に消滅・低減する)もので、判定部124はその低減量を決定する。
【0096】
具体的には、判定部124は、例えば、ユーザのメンタル状態や、電界を発生させている対象物(コンテンツのオブジェクト等)のユーザに対する位置、当該対象物が発生させる気配の強度等を基に気配の低減量を判定する。
【0097】
ユーザのメンタル状態が過度に興奮したメンタル状態等、過剰なあるメンタル状態であれば、その状態を緩和するために気配を低減させるように、また当該メンタル状態の強度が高い程(興奮度が高い程)、大きく気配を低減させるように、判定部124は制御する。
【0098】
また、ユーザの死角に位置する等して気配(電界)をユーザに印加しているコンテンツのオブジェクトがユーザの視界に入る等して、気配を生じるオブジェクトとなった場合には、大きく気配を低減させるように、判定部124は制御する。
【0099】
また、対象物が発生している気配が強い程、気配を低減させる場合には大きく気配を低減させるように、例えば低減率(元気配の80%低減する等)による気配の低減を行うように、判定部124は制御する。
【0100】
他、判定部124は、低減速度を設定する、低減波形を設定する等の制御を行ってもよい。
【0101】
そして、判定部124の決定した気配(電界)の制御内容に従い、指示部125は、気配発生デバイス6に、当該気配の制御内容に応じて電界の出力を指示し(対応する電圧を印加し)、気配発生デバイス6に対応する電界(元の気配発生時の電界の逆電界)を発生させる。これにより、気配発生デバイス6は、指示に従って電界を出力し、気配は速やかに(自然の低減に比べて)低減・消失することになる。
【0102】
上記の例では、指示部125は、気配を低減するために電界(気配発生時と逆の電界)を発生させることで発生中の気配を低減させる。また、指示部125は、静電気除去装置等と連携し、例えば、ユーザに対する水分の放出(加湿器等)や導電体の接近・接触等により急激に、発生中の気配のもとになる電界による状態変化(帯電等)を除去してもよい。また、他に気配を感じにくくするような強い刺激、具体的には五感に対する直接的な刺激、例えばユーザに対する音、光、風(風圧)の印加等を利用することも可能である。
【0103】
逆に、指示部125は、気配を除去、低減するのではなく、気配を増幅させる制御も、有効な場合がある。例えばVRコンテンツを使ったメンタルトレーニングに応用できる。具体的には、指示部125は、ゲームのトレーニングモードにおいて、ユーザ(ゲームプレーヤ)がメンタル的に弱い状態になった場合に、つまりモニタリング部123がユーザの不安状態(心拍数の増加等)を検出した場合に、不安状態を増大させるように気配を発生させるべく気配発生デバイス6に指示をして、それに対応する電界を発生させる。つまり、ゲームの練習中等において、ゲームプレーヤがゲームに不向きなメンタル状態となった場合に、そのメンタル状態を増大させるような気配を当該プレーヤに感じさせ、当該メンタル状態に慣れさせる、対応できるように訓練する、と言ったことに情報処理装置10の気配発生機能を利用する。
【0104】
図8を用いて、情報処理装置10における気配発生処理の処理手順を説明する。
図8は、情報処理装置10(制御部12)の実行する処理手順を示すフローチャートである。
図8に示す処理は、情報処理装置10によるコンテンツ再生時に繰り返し実行される。
【0105】
まず、情報処理装置10は、コンテンツデータを取得する(ステップS101)。次に、情報処理装置10は、コンテンツデータを解析し、シーンを判定する(ステップS102)。
【0106】
ここで、情報処理装置10は、電界パターンデータテーブル132を参照し、判定したシーンによる電界パターンを選択する(ステップS103)。
【0107】
続いて、情報処理装置10は、ユーザ状態及び周囲環境のデータを取得する(ステップS104)。また、情報処理装置10は、ユーザ状態、周囲環境のデータに基づき電界パターンを調整する(ステップS105)。
【0108】
そして、情報処理装置10は、調整した電界パターンに応じた制御信号を気配発生デバイス6に出力する(ステップS106)。
【0109】
その後、情報処理装置10は、コンテンツ内容、ユーザ状態、周囲環境に基づき気配消去(又は低減)の要否を判断する(ステップS107)。
【0110】
情報処理装置10は、気配消去(又は低減)が必要であると判断した場合(ステップS108、Yes)、気配消去(又は低減)を実行する(ステップS109)。例えば、情報処理装置10は、ユーザの心理状態、またはオブジェクトの存在状況に応じて、ユーザが感じさせた気配を低減するように電界発生器(気配発生デバイス6)を制御する気配低減信号を生成し、生成した気配低減信号を電界発生器に出力する。
【0111】
一方、情報処理装置10は、気配消去(又は低減)が必要でないと判断した場合(ステップS108、No)、処理を終了する。
【0112】
上述したように、実施形態に係る情報処理システム1は、ユーザに対しコンテンツを再生する表示装置3と、情報処理装置10と、を有する。情報処理装置10のコントローラは、コンテンツの再生状態を基に気配の発生状態を判定し、発生状態に応じて、電磁界発生器を制御する気配信号を生成し、気配信号を用いて電磁界発生器を制御する。
【0113】
これにより、コンテンツ再生において、コンテンツの再生状態に応じて、例えばコンテンツのシーンに応じて気配感をユーザに与え、より臨場感を増加させることができる。
【0114】
また、電界によって生じる気配は、光及び音のような外部の刺激の影響を受けにくい。そのため、本実施形態によれば、外乱耐性のある態様でユーザの臨場感を増加させることができる。
【0115】
ところで、上述した実施形態では、コンテンツがXRコンテンツである場合について説明したが、これに限定されるものではない。すなわち、コンテンツは、2Dの映像及び音声、あるいは音声のみであってもよい。コンテンツ再生装置は、音声出力デバイス4であってもよい。
【0116】
さらなる効果や変形例は、当業者によって容易に導き出すことができる。このため、本発明のより広範な態様は、以上のように表しかつ記述した特定の詳細及び代表的な実施形態に限定されるものではない。したがって、添付の特許請求の範囲及びその均等物によって定義される総括的な発明の概念の精神又は範囲から逸脱することなく、様々な変更が可能である。
【符号の説明】
【0117】
1 情報処理システム
3 表示装置
4 音声出力デバイス
5 振動デバイス
6 気配発生デバイス
7 バイタルセンサ
8 環境センサ
10 情報処理装置
31 画像
121 コンテンツ生成部
122 レンダリング処理部
123 モニタリング部
124 判定部
125 指示部
131 XRコンテンツDB
132 電界パターンデータテーブル
311 アバター
312 敵性オブジェクト
351、352、353 領域