(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024134975
(43)【公開日】2024-10-04
(54)【発明の名称】コンテンツ再生装置、コンテンツ再生方法、及びコンテンツ再生プログラム
(51)【国際特許分類】
H04N 21/433 20110101AFI20240927BHJP
H04N 21/442 20110101ALI20240927BHJP
【FI】
H04N21/433
H04N21/442
【審査請求】未請求
【請求項の数】5
【出願形態】OL
(21)【出願番号】P 2023045447
(22)【出願日】2023-03-22
(71)【出願人】
【識別番号】308036402
【氏名又は名称】株式会社JVCケンウッド
(74)【代理人】
【識別番号】100083806
【弁理士】
【氏名又は名称】三好 秀和
(74)【代理人】
【識別番号】100111235
【弁理士】
【氏名又は名称】原 裕子
(74)【代理人】
【識別番号】100170575
【弁理士】
【氏名又は名称】森 太士
(72)【発明者】
【氏名】倉重 規夫
(72)【発明者】
【氏名】松本 栄治
(72)【発明者】
【氏名】尾川 英明
(72)【発明者】
【氏名】鈴木 剛
(72)【発明者】
【氏名】松岡 賢司
【テーマコード(参考)】
5C164
【Fターム(参考)】
5C164GA07
5C164UA01S
5C164UA51S
5C164UB36P
5C164UB41P
5C164YA12
5C164YA21
(57)【要約】
【課題】コンテンツに含まれる画像の視点変換に伴って風情報を変化させることが可能なコンテンツ再生装置、コンテンツ再生方法、及びコンテンツ再生プログラムを提供する。
【解決手段】ユーザに画像を提示するHMD5と、ユーザに知覚させる風または疑似的な風を発生するファン6と、HMD5に提示する画像を、俯瞰視点及びオブジェクト視点のいずれかの画像に切り替える画像切替信号、及び、俯瞰視点において発生する第1の風情報及びオブジェクト視点において発生する第2の風情報のいずれかに切り替える風切替信号を出力する切替部27と、コンテンツに含まれるコンテンツ情報に基づいて、第1の風情報、及び第2の風情報を算出し、風切替信号に基づいて第1の風情報または第2の風情報を設定してファン6に出力する風設定部29を備える。ファン6は、風情報を切り替える際に、切替前の風情報から切替後の風情報に段階的または連続的に変更して風または疑似的な風を発生する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
コンテンツを再生するコンテンツ再生装置であって、
前記コンテンツに含まれるコンテンツ情報に基づいて、第1の視点における第1の風情報を取得し、第2の視点における第2の風情報を算出し、前記第1の風情報と前記第2の風情報とにより、前記第1の視点と前記第2の視点との間の視点における第3の風情報を設定する風設定部を備える
コンテンツ再生装置。
【請求項2】
前記コンテンツに含まれる画像をユーザに提示する画像提示部と、
前記画像提示部に提示する画像を、前記第1の視点の画像または前記第2の視点の画像に切り替える画像切替信号、並びに、前記第1の風情報または前記第2の風情報に切り替える風切替信号を出力する切替部と、
前記ユーザの音声を認識する音声認識部と、を更に備え、
前記切替部は、前記音声認識部による認識結果に基づいて、前記画像切替信号及び前記風切替信号の少なくとも一方を出力する
請求項1に記載のコンテンツ再生装置。
【請求項3】
前記コンテンツに含まれる画像をユーザに提示する画像提示部と、
前記画像提示部に提示する画像を、前記第1の視点の画像または前記第2の視点の画像に切り替える画像切替信号、並びに、前記第1の風情報または前記第2の風情報に切り替える風切替信号を出力する切替部と、
前記コンテンツに含まれるオブジェクトが発する音声を取得する情報取得部、を更に備え、
前記切替部は、前記オブジェクトが発する音声に基づいて、前記画像切替信号及び前記風切替信号の少なくとも一方を出力する
請求項1に記載のコンテンツ再生装置。
【請求項4】
コンテンツを再生するコンテンツ再生方法であって、
前記コンテンツに含まれるコンテンツ情報に基づいて、第1の視点における第1の風情報を取得し、第2の視点における第2の風情報を算出し、前記第1の風情報と前記第2の風情報とにより、前記第1の視点と前記第2の視点との間の視点における第3の風情報を設定する
コンテンツ再生方法。
【請求項5】
コンテンツを再生する処理をコンピュータに実行させるコンテンツ再生プログラムであって、
前記コンテンツに含まれるコンテンツ情報に基づいて、第1の視点における第1の風情報を取得し、第2の視点における第2の風情報を算出し、前記第1の風情報と前記第2の風情報とにより、前記第1の視点と前記第2の視点との間の視点における第3の風情報を設定するステップ
をコンピュータに実行させるコンテンツ再生プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、コンテンツを再生してユーザに提示するコンテンツ再生装置、コンテンツ再生方法、及びコンテンツ再生プログラムに関する。
【背景技術】
【0002】
仮想現実を再現するVR(Virtual Reality)を用いて、ユーザに映画、ゲームなどのコンテンツを提示する技術が提案されている。このようなVR技術では、HMD(Head Mounted Display)を装着したユーザに、映像情報及び音声情報を提示する。
【0003】
特許文献1には、映像情報、音声情報に加え、ユーザに対してコンテンツの内容に対応した触覚情報を提示することが開示されている。
【0004】
また、非特許文献1には、ユーザの周囲に送風用のファンを複数台設置し、VRにて再現するコンテンツに対応させて風を発生させることにより、ユーザに対してより臨場感がある仮想空間を設定することについて開示されている。
【先行技術文献】
【特許文献】
【0005】
【非特許文献】
【0006】
【非特許文献1】TVRSJ Vol.26 No.4 pp.277-287, 2021/基礎論文 視聴触覚間のクロスモーダル効果による風向知覚操作/伊東健一伴祐樹 割澤伸一
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかし、特許文献1や非特許文献1には、コンテンツに含まれる画像の視点変換に伴ってユーザが感じる風向、風速などの風情報を変化させることについて開示されていない。
【0008】
例えば、HMDに表示されている画像を見ているユーザが、視点を変更する操作を行った際に、この視点変更に対応して風情報を変化させることについて開示されていない。このため、ユーザが視点を変更してもこれに追随してユーザが感じる風が変更されない。
【0009】
本開示は、上記事情に鑑みてなされたものであり、その目的とするところは、コンテンツに含まれる画像の視点変換に伴って風情報を変化させることが可能なコンテンツ再生装置、コンテンツ再生方法、及びコンテンツ再生プログラムを提供することにある。
【課題を解決するための手段】
【0010】
上記目的を達成するため、本開示に係るコンテンツ再生装置は、コンテンツを再生するコンテンツ再生装置であって、前記コンテンツに含まれるコンテンツ情報に基づいて、第1の視点における第1の風情報を取得し、第2の視点における第2の風情報を算出し、前記第1の風情報と前記第2の風情報とにより、前記第1の視点と前記第2の視点との間の視点における第3の風情報を設定する風設定部を備える。
【0011】
本開示に係るコンテンツ再生方法は、コンテンツを再生するコンテンツ再生方法であって、前記コンテンツに含まれるコンテンツ情報に基づいて、第1の視点における第1の風情報を取得し、第2の視点における第2の風情報を算出し、前記第1の風情報と前記第2の風情報とにより、前記第1の視点と前記第2の視点との間の視点における第3の風情報を設定する。
【0012】
本開示に係るコンテンツ再生プログラムは、コンテンツを再生する処理をコンピュータに実行させるコンテンツ再生プログラムであって、前記コンテンツに含まれるコンテンツ情報に基づいて、第1の視点における第1の風情報を取得し、第2の視点における第2の風情報を算出し、前記第1の風情報と前記第2の風情報とにより、前記第1の視点と前記第2の視点との間の視点における第3の風情報を設定するステップをコンピュータに実行させる。
【発明の効果】
【0013】
本開示によれば、コンテンツに含まれる画像の視点変換に伴って風情報を変化させることが可能になる。
【図面の簡単な説明】
【0014】
【
図1】
図1は、実施形態に係るコンテンツ再生装置の構成を示すブロック図である。
【
図2】
図2は、HMDを装着したユーザの周囲に複数のファンが設置されている様子を示す斜視図である。
【
図3】
図3は、HMDを装着したユーザの周囲に複数ファンが設置されている様子を模式的に示す平面図である。
【
図4】
図4は、HMDに表示される俯瞰視点の画像を示す説明図である。
【
図5A】
図5Aは、俯瞰視点の画像に移動中の車両V1が表示されている例を示す説明図である。
【
図5B】
図5Bは、俯瞰視点の画像において、移動中の車両V1がユーザに接近している例を示す説明図である。
【
図6】
図6は、俯瞰視点の画像に移動中の車両V2が表示されている例を示す説明図である。
【
図7】
図7は、
図6に示した画像において、車両V2の視点に切り替えたときに表示される画像を示す説明図である。
【
図8】
図8は、視点x1の風向から視点x2の風向に、段階的または連続的に切り替える様子を示す説明図である。
【
図9】
図9は、実施形態に係るコンテンツ再生装置の処理手順を示すフローチャートの、第1の分図である。
【
図10A】
図10Aは、実施形態に係るコンテンツ再生装置の処理手順を示すフローチャートの、第2の分図である。
【
図10B】
図10Bは、実施形態に係るコンテンツ再生装置の処理手順を示すフローチャートの、第3の分図である。
【
図10C】
図10Cは、実施形態に係るコンテンツ再生装置の処理手順を示すフローチャートの、第4の分図である。
【
図10D】
図10Dは、実施形態に係るコンテンツ再生装置の処理手順を示すフローチャートの、第5の分図である。
【発明を実施するための形態】
【0015】
以下、本開示の実施形態について図面を参照して説明する。
図1は、実施形態に係るコンテンツ再生装置100の構成を示すブロック図である。コンテンツ再生装置100は、画像を含むコンテンツを再生する。
図1に示すように本実施形態に係るコンテンツ再生装置100は、記憶装置1と、情報処理部2と、マイク4(音声検出部)と、HMD(Head Mounted Display)5と、複数(n個)のファン6-1~6-n、を備えている。なお以下では、複数のファンのうちのいずれかを特定して示す場合には、「ファン6-1」などのようにサフィックスを付して表記し、各ファンを特定せずに示す場合及び総称して示す場合には「ファン6」のようにサフィックスを付さず表記する。
【0016】
記憶装置1は、コンテンツ記憶部11と、風データベース12を備えている。記憶装置1は、メモリ(RAM:Random Access Memory)、ストレージ(HDD:Hard Disk Drive、SSD:Solid State Drive)を用いることができる。記憶装置1は、USB(Universal Serial Bus)メモリ、CD (Compact Disc)、DVD (Digital Versatile Disc)などのコンピュータが読取り可能な記録媒体としてもよい。記憶装置1は、ネットワークを介してアクセス可能なオンラインストレージとしてもよい。
【0017】
コンテンツ記憶部11は、ユーザに提示するコンテンツに関連する各種の情報(以下、「コンテンツ情報」という)を記憶する。コンテンツ情報は画像、音声、振動情報、視点情報を含む。
【0018】
コンテンツ記憶部11は、コンテンツが映画である場合には、ユーザに提示する映画の画像、音声、視点情報を記憶する。視点情報は、画像を表示する際の視点方向を示す情報である。視点情報は、視点の移動量の情報を含む。
【0019】
コンテンツ記憶部11は、コンテンツがゲームである場合には、ゲームに関連する画像、音声、ユーザに与える振動情報を記憶する。
【0020】
画像は、風景全体を俯瞰的に見た視点(以下、「俯瞰視点」という)の画像、俯瞰視点の画像に存在する車両などのオブジェクト(詳細は後述する)の視点(以下、「オブジェクト視点」という)の画像を含む。画像は、動画、静止画を含む。音声は、動物の鳴き声、効果音、BGM、登場人物の会話を含む。
【0021】
風データベース12は、コンテンツ記憶部11に記憶されている画像に対応する風情報を記憶する。風情報は、風速及び風向の少なくとも一方を含む情報である。風情報は、例えば「〇〇方向の風、風速〇〇m/sec」などである。具体的に風データベース12は、画像の撮影時において、風速計及び風向計を用いて測定された撮影場所周辺の風情報を記憶してもよい。
【0022】
例えば、砂浜の風景の動画を撮影する場合には、この動画撮影時に砂浜に吹いている風情報を図示省略の風速計、風向計を用いて測定する。コンテンツ記憶部11は、撮影した動画を記憶し、風データベース12は、測定した風情報を記憶する。即ち、風データベース12に記憶されている風情報は、コンテンツ記憶部11に記憶されている画像に対応付けられている。
【0023】
また風情報は、風速計、風向計を使用して測定する以外にも、コンテンツの音声を検出するための収音装置にて生じる風切り音に基づいて算出してもよい。収音装置で収音される音声データのうち、周波数が80Hz以下の成分は、風ノイズなどの環境ノイズであると見なすことができる。従って、後述の情報処理部2が風情報演算部(不図示)を備えて、収音装置で収音された音声データから80Hz以下の成分を取り出し、この振幅に基づいて風向及び風速を算出してもよい。風情報演算部は、左右の風切り音の時間差に基づいて風向を算出してもよい。風情報演算部は、算出した風向や風速を風データベース12に記憶してもよい。
【0024】
マイク4は、ユーザの近傍に設置され、ユーザが発話した音声を検出して音声認識部26(詳細は後述する)に出力する。
【0025】
HMD5は、ユーザが装着可能なゴーグル形状を有している。HMD5は、コンテンツに含まれる画像をユーザに提示する。HMD5は、スピーカを備えており、コンテンツに含まれる音声をユーザに提示する。HMD5は、ユーザに画像を提示する画像提示部としての機能を備えている。HMD5の代わりに、画像を提示するディスプレイやプロジェクタを用いてもよい。
【0026】
図2は、HMD5を装着したユーザP1の周囲に、4個のファン6-1~6-4が設置されている例を示す斜視図、
図3は平面的に示した模式図である。
図2、
図3に示すように、ユーザP1の右方にはファン6-1、後方にはファン6-2、前方にはファン6-3、左方にはファン6-4が設置されている。
【0027】
ファン6は、
図1に示すファン制御部30(詳細は後述する)の制御により駆動する。ファン6を制御することにより、ユーザP1に向けて所望の風向、風速となる風を発生し、ユーザに風を知覚させることができる。即ち、ファン6は、ユーザP1に知覚させる風情報に基づき、風を発生する風発生部としての機能を備えている。なお、風発生部は、上述したファン6以外にも、ユーザP1に対して疑似的な風を知覚させることが可能な振動発生装置を採用してもよい。振動発生装置は、ユーザまたはHMD5に取り付けてもよい。
【0028】
情報処理部2は、情報取得部21と、オブジェクト抽出部22と、移動量算出部23と、風情報取得部24と、入力部25と、音声認識部26と、切替部27と、表示制御部28と、風設定部29と、ファン制御部30を備えている。
【0029】
情報取得部21は、コンテンツ記憶部11から、画像、音声、振動情報、視点情報などのコンテンツ情報を取得する。例えばコンテンツが映画の場合には、映画の画像、音声、及び視点情報を取得する。コンテンツがゲームである場合には、ゲームの画像、音声、振動情報を取得する。情報取得部21は、後述するようにコンテンツ情報に含まれる音声が、「涼しい」などの感想を発言した場合には、この内容を切替部27に出力する。
【0030】
オブジェクト抽出部22は、情報取得部21にて取得した画像に含まれるオブジェクトを抽出する。オブジェクトは、車両、人物、動物、鳥、転がっているボール、などの移動物、及び樹木、家屋、電柱などの静止物を含む。オブジェクト抽出部22は、抽出したオブジェクトを機械学習により認識し、静止物か否かを判定してもよい。
【0031】
移動量算出部23は、情報取得部21にて取得した画像から、各フレームのオブジェクトの移動量を算出する。「オブジェクトの移動量」とは、コンテンツの背景に存在する静止物を基準としたオブジェクトの相対的な移動量を指す。例えば、車両が走行しているシーンの移動量は、画像に含まれる樹木などの静止物に対して相対的に移動した距離を移動量として算出する。移動量算出部23は、オブジェクトの動きベクトルを移動量として算出してもよい。
【0032】
移動量算出部23はまた、俯瞰視点(第1の視点)の移動量を算出する。「俯瞰視点の移動量」とは、コンテンツの背景に存在する静止物の移動量である。例えば、カメラを動かして撮影すると撮影した画像内で背景の位置が移動する。コンテンツが映画である場合には、ユーザ自身は映像内の空間を移動することはない。従って、移動量算出部23は、画像の背景に動きがない場合には、俯瞰視点の移動量は発生しないものとして算出する。移動量算出部23は、画像の背景が移動する場合に、各フレームの背景に存在する静止物の移動量を俯瞰視点の移動量として算出する。
【0033】
移動量を算出する例として、例えばカメラ(図示省略)を移動させて動画を撮影する場合に、カメラの移動量を測定して俯瞰視点の移動量とすることができる。カメラにGPS(Global Positioning System)受信機を装着し、GPS衛星から送信されるGPSデータを受信して、カメラの移動量を測定してもよい。カメラの移動量を、コンテンツ記憶部11に記憶してもよい。
【0034】
また、コンテンツがゲームである場合には、ユーザ自身がゲーム内の空間を移動することがある。移動量算出部23は、ユーザがゲーム内の空間を移動した距離を測定し、測定した移動量を俯瞰視点の移動量として算出する。例えばユーザが操作するゲーム用コントローラに移動距離測定用のセンサを装着し、移動量算出部23はこのセンサの検出信号に基づいて俯瞰視点の移動量を算出してもよい。
【0035】
移動量算出部23はまた、オブジェクトの移動量及び俯瞰視点の移動量に基づいて、オブジェクトの移動速度、及び俯瞰視点の移動速度を算出する。具体的には、各フレームの移動量、及び1フレームの時間に基づいて移動速度を算出する。移動量算出部23は、算出した移動速度を風設定部29に出力する。
【0036】
風情報取得部24は、風データベース12に記憶されている風情報から、情報取得部21にて取得した画像に対応する風情報を取得する。即ち風情報取得部24は、第1の視点(俯瞰視点)において発生する風情報(第1の風情報)を取得する。以下では、俯瞰視点の移動がなくオブジェクトの移動もない俯瞰視点における風を「自然風」と言う。風情報取得部24は、取得した風情報を風設定部29に出力する。
【0037】
入力部25は、ユーザが操作端末(図示省略)を操作して入力される情報を取得する。例えば、ユーザがHMD5に提示されている画像の視点切替操作を行った場合には、この操作信号を切替部27に出力する。
【0038】
音声認識部26は、マイク4にて入力された音声を取得し、音声の内容を認識する。音声認識部26は、例えば鳥が飛行している映像コンテンツの場合に、ユーザがマイク4に向けて「鳥になりたい」と発話した場合には、この音声を認識する。
【0039】
切替部27は、入力部25に入力される操作信号、音声認識部26による音声の認識結果、及びコンテンツに含まれるオブジェクトの音声情報のうちの少なくとも一つに基づいて、HMD5に表示する画像を切り替える画像切替信号を生成する。画像切替信号は、HMD5に表示する画像を、俯瞰視点またはオブジェクト視点の画像に切り替えるための制御信号である。「オブジェクトの音声情報」は、情報取得部21にて取得される情報である。
【0040】
前述したように、俯瞰視点は、風景全体を俯瞰的に見た視点(第1の視点)である。オブジェクト視点とは、俯瞰視点の画像に存在する車両などのオブジェクトの視点(第2の視点)である。即ち切替部27は、HMD5(画像提示部)にて提示する画像を、第1の視点及び第2の視点のいずれかの画像に切り替える画像切替信号を出力する機能を備えている。
【0041】
例えばユーザが、入力部25にてオブジェクト視点への切替操作を行った場合、或いは、ユーザがマイク4においてオブジェクト視点の画像への切り替えを指示する文言を発話した場合(例えば「オブジェクトの視点に切り替える」と発話した場合)には、切替部27は、HMD5に提示する画像をオブジェクト視点の画像に切り替えるための画像切替信号を表示制御部28に出力する。更に、コンテンツに含まれるオブジェクトが人物(例えば、後述する
図4に示す人物H1)であり、この人物が「涼しい」などの感想を発言した場合には、切替部27は、HMD5に提示する画像をオブジェクト視点の画像に切り替えるための画像切替信号を表示制御部28に出力する。
【0042】
またユーザが、入力部25にて俯瞰視点への切り替え操作を行った場合、或いは、ユーザがマイク4において俯瞰視点への切り替えを指示する文言を発話した場合(例えば「画像の視点を俯瞰視点に切り替える」と発話した場合)には、切替部27は、HMD5に提示する画像を俯瞰視点の画像に切り替えるための画像切替信号を表示制御部28に出力する。なお、本実施形態では、オブジェクト視点及び俯瞰視点を設定する例について説明するが、これ以外の視点に設定してもよい。
【0043】
切替部27はまた、入力部25に入力される操作信号、または音声認識部26による音声の認識結果、及びコンテンツに含まれるオブジェクトの音声情報のうちの少なくとも一つに基づいて、ユーザに知覚させる風を発生させる風情報を切り替える風切替信号を生成する。風切替信号は、風情報を、俯瞰視点の風情報、或いはオブジェクト視点の風情報のいずれかに切り替えるための制御信号である。
【0044】
例えば、切替部27は前述した画像切替信号と連動し、オブジェクト視点に切り替えるための画像切替信号が出力された際に、オブジェクト視点における風を出力する風切替信号を風設定部29に出力する。切替部27は前述した画像切替信号と連動し、俯瞰視点の画像に切り替えるための画像切替信号が出力された際に、俯瞰視点における風情報を設定するための風切替信号を風設定部29に出力する。即ち、切替部27は、画像の切り替えタイミングと、風情報の切替タイミングが同時になるように、画像切替信号、及び風切替信号を風設定部29に出力してもよい。
【0045】
また、切替部27は下記(A)~(D)に示すように、オブジェクトの発言内容、或いは音声認識部26の音声認識結果に応じた風切替信号を風設定部29に出力してもよい。
【0046】
(A)ユーザが見ている画像中のオブジェクト(人物)が「おー、すごい」などの擬音、「良い景色」、「涼しい」、「熱い」、「もあっとする」などの感想を発言した場合には、切替部27はオブジェクト視点の画像に切り替える画像切替信号、及びオブジェクト視点の風情報に切り替える風切替信号を出力する。
【0047】
(B)ユーザが見ている画像中のオブジェクト(人物)が「風が気持ちよさそう」、「空が青いな」、「緑が良いな」など自然に関する発言をした場合には、切替部27はオブジェクト視点の画像に切り替える画像切替信号、及びオブジェクト視点の風情報に切り替える風切替信号を出力する。
【0048】
(C)ユーザが画像中の鳥、飛行機などのオブジェクトを見て「風」、「風になりたい」などと発言した場合には、ユーザがこのオブジェクトにおける風、音を体感できるように、切替部27はオブジェクト視点の風情報とする風切替信号を出力する。この際、切替部27は画像切替信号を出力しない。即ち、ユーザの発言内容が風、音、その他の五感に関する内容である場合には、切替部27は、風切替信号を出力し、画像切替信号を出力しない。このため、頻繁に画像が切り替えられることを回避できる。
【0049】
(D)ユーザが画像に表示されている鳥、飛行機などのオブジェクトを見て「鳥になりたい」、「飛行機になりたい」と発言した場合には、切替部27はオブジェクト視点の画像に切り替える画像切替信号、及びオブジェクト視点の風情報に切り替える風切替信号を出力する。即ち、「鳥」、「飛行機」などの具体的なオブジェクトの名称を発言した場合には、切替部27は画像切替信号及び風切替信号を出力する。
【0050】
記憶装置1が切替情報記憶部(不図示)を備えて、所定の発言内容を記憶してもよい。切替情報記憶部は、所定の発言内容として、上記(A)~(D)に記載の内容、擬音、感想および風や自然に関する発言内容を記憶してもよい。また、切替情報記憶部は、風切替信号や画像切替信号を出力する所望の発言内容を記憶してもよい。
【0051】
切替部27は、情報取得部21を介して切替情報記憶部に記憶された所定の発言内容を読み出し、オブジェクトの発言内容やユーザの発言内容と一致するか否かを判定してもよい。切替部27は、この判定結果と上記(A)~(D)に記載の条件にしたがって、風切替信号や画像切替信号を出力してもよい。
【0052】
切替部27は、コンテンツの再生タイミングと同期して、または先立って、所定の発言内容を読み出し、オブジェクトの発言内容やユーザの発言内容と一致するか否かを判定してもよい。
【0053】
即ち切替部27は、第1の視点において発生する第1の風情報及び第2の視点において発生する第2の風情報のいずれかに切り替える風切替信号を出力する機能を備えている。
【0054】
表示制御部28は、切替部27で設定された視点となるように、コンテンツの画像、音声、視点情報などのコンテンツ情報をHMD5に提示する。表示制御部28は、切替部27より、俯瞰視点(第1の視点)の画像から、オブジェクト視点(第2の視点)の画像へ切り替える画像切替信号が与えられた際には、HMD5に提示する画像を、俯瞰視点の画像からオブジェクト視点の画像に切り替える。表示制御部28は、オブジェクト視点(第2の視点)の画像が存在しない場合には、第1の視点における第1の風情報から第2の視点における第2の風情報に切り替えた後、オブジェクト視点(第2の視点)の画像の代わりにオブジェクトの全体が映っていない所定の画像をHMD5に提示する。
【0055】
俯瞰視点(第1の視点)の画像にオブジェクトが映った状態を維持したまま、第1の風情報から第2の風情報に切り替えると、ユーザは視点が切り替わったことを認識できない。仮に俯瞰視点(第1の視点)の画像において、オブジェクトの全体が映っていない所定の画像が存在すれば、その所定の画像に切り替えることにより、ユーザに視点が切り替わったことを認識させることができる。
【0056】
表示制御部28は、俯瞰視点(第1の視点)の画像において、オブジェクトの全体が映っていない画像を切り替えタイミングの前後から検索し、所定の画像としてもよい。
【0057】
風設定部29は、ユーザに知覚させる風情報を設定する。風設定部29は、例えば以下に示すように(a)自然風が発生している場合、(b)俯瞰視点から一定距離内(画像を撮像したカメラ位置から一定距離内)にてオブジェクトが移動する場合、(c)俯瞰視点が移動する場合、(d)視点が切り替えられた場合、などにおいてオブジェクトがユーザに知覚させる風情報を設定する。
【0058】
(a)自然風が発生している場合
風設定部29は、切替部27にて俯瞰視点の風情報が設定された場合においてユーザが画像を俯瞰する位置(例えば、画像撮影時におけるカメラの位置)にてユーザに知覚させる風情報を設定する。
【0059】
例えば
図4に示す俯瞰視点の画像のように、HMD5に画像D1が表示されている場合において、風データベース12から取得される自然風が、画像D1の左側から右側に向く方向(矢印Y1の方向)に風が吹いているものとする。また、画像D1には左方向を向く人物H1(オブジェクト)が存在している。この場合において風設定部29は、俯瞰視点に対して左側から右側に向く風情報を設定する。後述するように、この風情報に基づく風がファン6により発生し、ユーザに風を知覚させることができる。
【0060】
(b)俯瞰視点から一定距離内にてオブジェクトが移動する場合
風設定部29は、俯瞰視点(例えば、画像を撮像したカメラの位置)から一定距離内にてオブジェクトが移動する場合には、該オブジェクトの移動速度に基づき、この移動に伴って発生する風情報を算出する。風設定部29は、この風情報に基づいて、ユーザに知覚させる風情報を設定する。即ち風設定部29は、オブジェクトの移動量に基づいて、ユーザに知覚させる風情報を設定する。
【0061】
例えば
図5A、
図5Bに示すように、画像D2に含まれる車両V1(オブジェクト)が徐々にユーザに近づく場合を想定する。
図5Aに示すように、HMD5には俯瞰視点の画像D2が表示され、遠方から車両V1が接近している。風設定部29は
図5Bに示すように、車両V1が俯瞰視点から一定距離内となる領域を通過する際に、この車両V1の速度に基づいて、車両V1が通過することに起因して生じる風情報を設定する。具体的には、風設定部29は
図5Bに示す矢印Y2の方向の風情報を設定する。後述するように、この風情報に基づく風がファン6により発生し、ユーザに対して車両V1が通過したことによる風を知覚させることができる。
【0062】
(c)俯瞰視点が移動する場合
風設定部29は、俯瞰視点が移動する場合には、この移動速度に基づいて、ユーザに知覚させる風情報を設定する。例えば、
図4に示した画像D1において、俯瞰視点が矢印Y3の方向に移動している場合には、風設定部29は矢印Y1の方向に吹いている自然風と、俯瞰視点の移動速度に応じた風情報を設定する。後述するように、この風情報に基づく風がファン6により発生し、ユーザに対して俯瞰視点が移動することによる風を知覚させることができる。
【0063】
(d)視点が切り替えられた場合
風設定部29は、切替部27にて俯瞰視点からオブジェクト視点に切り替えられた場合には、ユーザが疑似的にオブジェクト視点となったと想定し、ユーザに知覚させる風情報を設定する。即ち風設定部29は、オブジェクトの移動量に基づいて、第2の視点(オブジェクト視点)において発生する第2の風情報を算出し、画像の視点がオブジェクト視点に切り替えられた際に、第2の風情報を、ユーザに知覚させる風情報として設定する。
【0064】
風設定部29は、ユーザの視点が第2の視点(オブジェクト視点)に切り替えられた際に、オブジェクトの移動量に加え、俯瞰視点においてユーザが知覚する風情報(第1の風情報)を考慮して、第2の視点において発生する第2の風情報を算出してもよい。
【0065】
例えば
図6に示すように、HMD5に車両V2(オブジェクト)が走行する画像D3が表示されている場合において、風データベース12から取得される自然風が、画像D3の左側から右側に向く方向(矢印Y4の方向)に風が吹いているものとする。画像D3において、車両V2(オブジェクト)が右側から左側に向けて走行している場合を想定する。
図6では俯瞰視点が、側方から車両V2を眺める方向(画像D3を俯瞰する方向)に設定されている。
【0066】
切替部27により俯瞰視点からオブジェクト視点(車両V2の視点)に切り替えられた場合には、
図7に示すように車両V2の乗員の視点となる画像D4がHMD5に表示される。
【0067】
この場合において風設定部29は、車両V2の乗員が知覚する風情報を設定する。即ち、
図6の画像D3に示したように自然風は矢印Y4の方向に吹いており、更に、車両V2の走行速度に応じた風が車両V2の前方から後方に向く方向に発生する。風設定部29は、
図7の画像D4において、自然風Y4(
図6参照)、及び車両V2の走行速度に応じた矢印Y5の風情報を設定する。即ち、ユーザにとって前側から吹く風情報を設定する。後述するように、この風情報に基づく風がファン6により発生し、ユーザに対してオブジェクト視点に切り替わったことによる風を知覚させることができる。
【0068】
風設定部29はまた、風向を
図6に示した矢印Y4の方向から、
図7に示した矢印Y5の方向に変更する場合、即ち、ユーザが知覚する風向が左方向から前方向に切り替わる場合には、風向を直ちに切り替えるのではなく、風向が段階的または連続的に変化して切り替わるように、風情報を設定する。
【0069】
具体的に風設定部29は、
図8に示すように、符号Q1に示す俯瞰視点x1から、符号Q2に示すオブジェクト視点x2に切り替える際には、その中間の符号Q3に示す視点x3を設定し、この視点x3における風情報を設定する。風設定部29は、視点x1、x3、x2の順に風情報を段階的または連続的に切り替える。
【0070】
ここで、視点x1、視点x2および視点x3は、視点の起点とする座標と方向とをもつベクトル量とする。風設定部29は、視点x1と視点x2の平均を視点x3としてもよい。また、風情報は、風速と風向とをもつベクトル量とする。風設定部29は、視点x1における第1の風情報と視点x2における第2の風情報との平均を算出し、これを視点x3における第3の風情報としてもよい。
【0071】
風設定部29は、視点x1と視点x2の間を3分割し、視点x2より視点x1に近い位置を視点x3としてもよい。風設定部29は、視点x1と視点x2とを1:2で重み付け平均することにより視点x3を算出してもよい。風設定部29は、第1の風情報と第2の風情報とを1:2で重み付け平均することにより、第3の風情報を算出してもよい。
【0072】
風設定部29は、視点x1と視点x2の間のいずれかを視点x3としてもよい。風設定部29は、視点x1と視点x2とを所定の重みで重み付け平均することにより視点x3を算出してもよい。風設定部29は、第1の風情報と第2の風情報とを所定の重みで重み付け平均することにより、第3の風情報を算出してもよい。
【0073】
風設定部29は、第2の風情報が風速の情報を持たない場合、第1の風情報が持つ風向の情報と第2の風情報が持つ風向の情報とに基づいて、第3の風情報が持つ風向の情報を算出してもよい。風設定部29は、第1の風情報が持つ風速の情報を第3の風情報が持つ風速の情報としてもよい。
【0074】
風情報を段階的または連続的に変化させることにより、ユーザは段階的または連続的に風向の変化した風を知覚する。視点の変化に風向の変化が伴うことにより、ユーザの三次元酔いを軽減することができる。なお、中間に設定する視点は、複数であってもよい。
【0075】
ファン制御部30は、風設定部29で設定された風情報に基づく風を発生させるための制御信号を、各ファン6に出力する。例えば、
図2、
図3に示したように、ユーザP1の周囲の4箇所に設置された各ファン6-1~6-4に制御信号を出力し、各ファン6の駆動を制御する。
【0076】
上述した情報処理部2は、CPU(中央処理装置)、メモリ、及び入出力部を備えるマイクロコンピュータを用いて実現可能である。情報処理部2は、複数の処理部(情報取得部21、オブジェクト抽出部22、移動量算出部23、風情報取得部24、入力部25、音声認識部26、切替部27、表示制御部28、風設定部29、ファン制御部30)として機能させるためのコンピュータプログラムを、マイクロコンピュータにインストールして実行する。これにより、情報処理部2のマイクロコンピュータは、情報処理部2が備える複数の処理部として機能する。また、ここではソフトウェアによって情報処理部2を実現する例を示すが、各情報処理を実行するための専用のハードウェアを用意して、情報処理部2を構成してもよい。また、情報処理部2に含まれる各処理部が実行する情報処理を個別のハードウェアにより構成してもよい。
【0077】
次に、上述のように構成された本実施形態の動作を、
図9、
図10A~
図10Dに示すフローチャートを参照して説明する。
【0078】
初めに
図9のステップS1において、情報取得部21は、コンテンツ記憶部11に記憶されている各コンテンツ情報を取得する。例えばコンテンツが映画である場合には、画像、音声、視点情報を取得する。
【0079】
ステップS2においてオブジェクト抽出部22は、画像に含まれるオブジェクトを抽出する。例えば、
図4に示した人物H1、
図5A、
図5Bに示した車両V1、及び
図6に示した車両V2などを抽出する。
【0080】
ステップS3において風情報取得部24は、風データベース12を検索し、情報取得部21にて取得された画像に対応する風情報を取得する。上述したように、風情報は風向、風速を含む。
【0081】
ステップS4において移動量算出部23は、俯瞰視点が移動しているか否かを判定する。例えばコンテンツが映画である場合には、ユーザ自身は移動しない。このため画像中の風景が移動している場合には、俯瞰視点が移動しているものとし、画像中の風景が移動していない場合には、俯瞰視点は移動していないものとする。俯瞰視点が移動していない場合には(S4;NO)、ステップS5に処理を進め、移動している場合には(S4;YES)、ステップS6に処理を進める。
【0082】
ステップS5において移動量算出部23は、画像に含まれる所定のオブジェクトが移動しているか否かを判定する。移動していない場合には(S5;NO)、
図10Aに示すステップS11に処理を進め、移動している場合には(S5;YES)、
図10Bに示すステップS31に処理を進める。
【0083】
ステップS6において移動量算出部23は、画像に含まれる所定のオブジェクトが移動しているか否かを判定する。移動していない場合には(S6;NO)、
図10Cに示すステップS51に処理を進め、移動している場合には(S6;YES)、
図10Dに示すステップS71に処理を進める。
【0084】
図10Aに示すステップS11において風設定部29は、俯瞰視点による風情報を生成する。例えば、HMD5に
図4に示した画像D1が表示されている場合において、風情報取得部24は風データベース12から矢印Y1方向の風情報を取得する。俯瞰視点は移動していないので風設定部29は、矢印Y1方向の風情報を設定する。
【0085】
ステップS12においてファン制御部30は、風設定部29にて設定された風情報に基づいて、各ファン6に駆動信号を出力する。その結果、ユーザに対し俯瞰視点における風を知覚させることができる。例えば
図4に示した画像D1が表示されているときに、矢印Y1の方向に吹く風をユーザに知覚させることができる。
【0086】
ステップS13において切替部27は、オブジェクト視点への切り替え操作があるか否かを判定する。例えば入力部25にてユーザがオブジェクト視点への切り替え操作を行った場合、或いは、音声認識部26においてオブジェクト視点への切り替え操作が認識された場合に、オブジェクト視点への切り替え操作があったものと判定する。また、上述の(A)~(D)に示したように、音声認識結果に基づいて切り替え操作を判定してもよい。また、オブジェクトの発言内容、例えば
図4に示した人物H1が「涼しい」と発言した場合に、切り替え操作があると判定してもよい。切り替え操作があると判定された場合には(S13;YES)、ステップS15に処理を進め、そうでなければ(S13;NO)、ステップS14に処理を進める。
【0087】
ステップS14において表示制御部28は、画像表示を終了するか否かを判定する。画像表示を終了する場合には(S14;YES)、ステップS20に処理を進め、そうでなければ(S14;NO)、ステップS11に処理を戻す。
【0088】
ステップS15において風設定部29は、オブジェクト視点による風情報を生成する。例えば、ユーザに提示する画像が
図4に示す画像D1のように、人物H1が左方向を向いているときに、オブジェクト視点の画像に切り替える場合を想定する。俯瞰視点では、
図4に示す矢印Y1の方向の風が吹いており、オブジェクト視点(人物H1の視点)に切り替えた場合には、ユーザの前方からの風に切り替わる。即ち、人物H1は
図4の画像D1において左側を向いているので、人物H1の視点に切り替えた際において、風設定部29は前方からの風情報を生成する。
【0089】
ステップS16において風設定部29は、風向が段階的または連続的に変化して俯瞰視点からオブジェクト視点に切り替わるように、風情報を設定する。具体的には、
図4に示した矢印Y1の方向の風情報(ユーザにとって左側から吹く風情報)から、人物H1の視点で知覚する方向(ユーザにとって前方から吹く風情報)に段階的または連続的に変化させる風情報を設定する。
【0090】
ファン制御部30は、左側からの風から、前方からの風に段階的または連続的に変化して風向が切り替わるように、各ファン6の駆動を制御する。その結果、ユーザに対して俯瞰視点において知覚する風情報から、オブジェクト視点において知覚する風情報に、段階的または連続的に変化する風を発生させることができる。
【0091】
ステップS17において切替部27は、俯瞰視点への切り替え操作があるか否かを判定する。切り替え操作がある場合には(S17;YES)、ステップS18に処理を進め、そうでなければ(S17;NO)、ステップS19に処理を進める。
【0092】
ステップS19において表示制御部28は、画像表示を終了するか否かを判定する。画像表示を終了する場合には(S19;YES)、ステップS20に処理を進め、そうでなければ(S19;NO)、ステップS15に処理を戻す。
【0093】
ステップS18において風設定部29は、風向が段階的または連続的に変化してオブジェクト視点から俯瞰視点に切り替わるように、風情報を設定する。その後、ステップS11に処理を戻す。
【0094】
ステップS20においてファン制御部30は、各ファン6を停止させる。こうして、俯瞰視点、及びオブジェクト視点が共に停止しているときにおいて視点変更した場合に、ユーザが知覚する風を円滑に切り替えることができる。
【0095】
次に、
図9に示したステップS5でYESと判定された場合の処理について、
図10Bに示すフローチャートを参照して説明する。
図10Bに示すステップS31において移動量算出部23は、画像に含まれるオブジェクトの、フレームごとの移動量に基づいて、オブジェクト(例えば、
図5A、
図5Bに示す車両V1)の移動速度を算出する。
【0096】
ステップS32において風設定部29は、俯瞰視点による風情報を生成する。例えば、HMD5に
図5Aに示した画像D2が表示されている場合において、風情報取得部24は風データベース12から矢印Y1方向の風情報を取得する。また、HMD5に
図5Bに示した画像D2が表示されている場合において、移動量算出部23は車両V1の移動速度を算出し、更に、この移動速度に応じてユーザが受ける風情報(
図5Bに示す矢印Y2方向の風情報)を算出する。
【0097】
ステップS33においてファン制御部30は、風設定部29にて設定された風情報に基づいて、各ファン6に駆動信号を出力する。その結果、ユーザに対し俯瞰視点における風を知覚させることができる。例えば、
図5Bに示すように車両V1がユーザの近く(俯瞰視点から一定距離内の領域)を通り過ぎたときには、矢印Y2の方向に吹く風をユーザに知覚させることができる。
【0098】
ステップS34において切替部27は、オブジェクト視点への切り替え操作があるか否かを判定する。例えば入力部25にてユーザがオブジェクト視点への切り替え操作を行った場合、或いは、音声認識部26においてオブジェクト視点への切り替え操作が認識された場合に、オブジェクト視点への切り替え操作があったものと判定する。また、上述の(A)~(D)に示したように、音声認識結果に基づいて切り替え操作を判定してもよい。また、オブジェクトの発言内容、例えば
図4に示した人物H1が「涼しい」と発言した場合に、切り替え操作があると判定してもよい。切り替え操作があると判定された場合には(S34;YES)、ステップS36に処理を進め、そうでなければ(S34;NO)、ステップS35に処理を進める。
【0099】
ステップS35において表示制御部28は、画像表示を終了するか否かを判定する。画像表示を終了する場合には(S35;YES)、ステップS42に処理を進め、そうでなければ(S35;NO)、ステップS31に処理を戻す。
【0100】
ステップS36において風設定部29は、オブジェクト視点による風情報を生成する。例えば、ユーザに提示する画像を
図6に示した俯瞰視点の画像D3から、
図7に示したオブジェクト視点の画像D4に切り替える場合に、
図7に示した矢印Y5の方向の風情報、即ち、ユーザに対して前方から吹く風情報を生成する。
【0101】
ステップS37において風設定部29は、風向が段階的または連続的に俯瞰視点からオブジェクト視点に切り替わるように、風情報を設定する。具体的には、
図6に示した矢印Y4の方向の風情報(ユーザにとって左側から吹く風情報)から、
図7に示した矢印Y5の方向の風情報(ユーザにとって前方から吹く風情報)に、段階的または連続的に変化させて風情報を切り替える。
【0102】
ファン制御部30は、上記した矢印Y4(
図6)の方向から矢印Y5(
図7)の方向に段階的または連続的に風向が切り替わるように、各ファン6の駆動を制御する。その結果、ユーザに対して俯瞰視点において知覚する風情報から、オブジェクト視点において知覚する風情報に、段階的または連続的に変化する風を発生することができる。
【0103】
ステップS38において切替部27は、俯瞰視点への切り替え操作があるか否かを判定する。切り替え操作がある場合には(S38;YES)、ステップS39に処理を進め、そうでなければ(S38;NO)、ステップS40に処理を進める。
【0104】
ステップS40において表示制御部28は、画像表示を終了するか否かを判定する。画像表示を終了する場合には(S40;YES)、ステップS42に処理を進め、そうでなければ(S40;NO)、ステップS41に処理を進める。
【0105】
ステップS41において移動量算出部23は、画像に含まれるオブジェクトの、フレームごとの移動量に基づいて、オブジェクトの移動速度を算出する。その後、ステップS36に処理を戻す。
【0106】
ステップS39において風設定部29は、風向が段階的または連続的にオブジェクト視点から俯瞰視点に切り替わるように、風情報を設定する。その後、ステップS31に処理を戻す。
【0107】
ステップS42においてファン制御部30は、各ファン6を停止させる。こうして、俯瞰視点が静止し、オブジェクト視点が移動している場合において視点変更された際に、ユーザが知覚する風を円滑に切り替えることができる。
【0108】
次に、
図9に示したステップS6でNOと判定された場合の処理について、
図10Cに示すフローチャートを参照して説明する。
図10Cに示すステップS51において移動量算出部23は、画像の風景に存在する静止物(例えば、樹木)の移動量に基づいて、俯瞰視点の移動速度を算出する。
【0109】
ステップS52において風設定部29は、俯瞰視点による風情報を生成する。例えば、HMD5に
図4に示した画像D1が表示されている場合において、風情報取得部24は風データベース12から矢印Y1方向の風情報を取得する。更に、画像D1において俯瞰視点が矢印Y3の方向に移動している場合には、この移動速度及び矢印Y1方向の風情報に基づいて、俯瞰視点の風情報を算出する。
図4に示す例では、俯瞰視点は風向の方向である矢印Y1に対向するY3の方向に移動しているので、ユーザ視点における風情報は、矢印Y1方向の風(自然風)よりも強い風速となる。
【0110】
ステップS53においてファン制御部30は、風設定部29にて設定された風情報に基づいて、各ファン6に駆動信号を出力する。その結果、ユーザに対して、俯瞰視点における風を知覚させることができる。例えば
図4に示した画像D1において、俯瞰視点が矢印Y3の方向に移動している場合には、矢印Y1の方向の風情報と俯瞰視点の移動速度による風情報を合成した風をユーザに知覚させることできる。
【0111】
ステップS54において切替部27は、オブジェクト視点への切り替え操作があるか否かを判定する。例えば入力部25にてユーザがオブジェクト視点への切り替え操作を行った場合、或いは、音声認識部26においてオブジェクト視点への切り替え操作が認識された場合に、オブジェクト視点への切り替え操作があったものと判定する。また、上述の(A)~(D)に示したように、音声認識結果に基づいて切り替え操作を判定してもよい。また、オブジェクトの発言内容、例えば
図4に示した人物H1が「涼しい」と発言した場合に、切り替え操作があると判定してもよい。切り替え操作があると判定された場合には(S54;YES)、ステップS56に処理を進め、そうでなければ(S54;NO)、ステップS55に処理を進める。
【0112】
ステップS55において表示制御部28は、画像表示を終了するか否かを判定する。画像表示を終了する場合には(S55;YES)、ステップS61に処理を進め、そうでなければ(S55;NO)、ステップS51に処理を戻す。
【0113】
ステップS56において風設定部29は、オブジェクト視点による風情報を生成する。例えば、ユーザに提示する画像が
図4に示す画像D1のように、人物H1が左方向を向いているときに、オブジェクト視点の画像に切り替える場合を想定する。俯瞰視点では、
図4に示す矢印Y1の方向の風が吹いており、且つ矢印Y3の方向に移動しているので、オブジェクト視点(人物H1の視点)に切り替えた場合には、ユーザの前方からの風に切り替わる。
【0114】
ステップS57において風設定部29は、風向が段階的または連続的に俯瞰視点からオブジェクト視点に切り替わるように、風情報を設定する。具体的には、
図4に示した矢印Y1の方向の風情報(ユーザにとって左側から吹く風情報)から、人物H1の視点で知覚する前方からの風情報に段階的または連続的に変化させる風情報を設定する。
【0115】
ファン制御部30は、上記したように左側からの風から、前方からの風に段階的または連続的に風向が切り替わるように、各ファン6の駆動を制御する。その結果、ユーザに対して俯瞰視点において知覚する風情報から、オブジェクト視点において知覚する風情報に、段階的または連続的に変化する風を発生することができる。
【0116】
ステップS58において切替部27は、俯瞰視点への切り替え操作があるか否かを判定する。切り替え操作がある場合には(S58;YES)、ステップS59に処理を進め、そうでなければ(S58;NO)、ステップS60に処理を進める。
【0117】
ステップS60において表示制御部28は、画像表示を終了するか否かを判定する。画像表示を終了する場合には(S60;YES)、ステップS61に処理を進め、そうでなければ(S60;NO)、ステップS56に処理を戻す。
【0118】
ステップS59において風設定部29は、風向が段階的または連続的にオブジェクト視点から俯瞰視点に切り替わるように、風情報を設定する。その後、ステップS51に処理を戻す。
【0119】
ステップS61においてファン制御部30は、各ファン6を停止させる。こうして、俯瞰視点が移動し、オブジェクト視点が停止している場合において視点変更した場合に、ユーザが知覚する風を円滑に切り替えることができる。
【0120】
次に、
図9に示すステップS6でYESと判定された場合の処理について、
図10Dに示すフローチャートを参照して説明する。
図10Dに示すステップS71において移動量算出部23は、画像の風景に存在する静止物(例えば、樹木)の移動量に基づいて、俯瞰視点の移動速度を算出する。
【0121】
ステップS72において移動量算出部23は、画像に含まれるオブジェクトの、フレームごとの移動量に基づいて、オブジェクトの移動速度を算出する。
【0122】
ステップS73において風設定部29は、俯瞰視点による風情報を生成する。例えば、HMD5に
図4に示した画像D1が表示されている場合において、風情報取得部24は風データベース12から矢印Y1方向の風情報を取得する。また、移動量算出部23は、オブジェクトの移動速度を算出する。
図4に示す画像D1ではオブジェクトである人物H1は移動していないので、移動速度はゼロである。更に、画像D1において俯瞰視点が矢印Y3の方向に移動している場合には、俯瞰視点の移動速度、オブジェクトの移動速度(
図4に示す例では移動速度はゼロ)、及び上記した矢印Y1方向の風情報に基づいて、俯瞰視点の風情報を算出する。
【0123】
ステップS74においてファン制御部30は、風設定部29にて設定された風情報に基づいて、各ファン6に駆動信号を出力する。その結果、ユーザに対して、俯瞰視点における風を知覚させることができる。例えば
図4に示した画像D1において、俯瞰視点が矢印Y3の方向に移動している場合には、矢印Y1の方向の風情報、俯瞰視点の移動速度、及びオブジェクトの移動速度による風情報を合成した風をユーザに知覚させることができる。
【0124】
ステップS75において切替部27は、オブジェクト視点への切り替え操作があるか否かを判定する。例えば入力部25にてユーザがオブジェクト視点への切り替え操作を行った場合、或いは、音声認識部26においてオブジェクト視点への切り替え操作が認識された場合に、オブジェクト視点への切り替え操作があったものと判定する。また、上述の(A)~(D)に示したように、音声認識結果に基づいて切り替え操作を判定してもよい。また、オブジェクトの発言内容、例えば
図4に示した人物H1が「涼しい」と発言した場合に、切り替え操作があると判定してもよい。切り替え操作があると判定された場合には(S75;YES)、ステップS77に処理を進め、そうでなければ(S75;NO)、ステップS76に処理を進める。
【0125】
ステップS76において表示制御部28は、画像表示を終了するか否かを判定する。画像表示を終了する場合には(S76;YES)、ステップS83に処理を進め、そうでなければ(S76;NO)、ステップS71に処理を戻す。
【0126】
ステップS77において風設定部29は、オブジェクト視点による風情報を生成する。具体的には、ユーザに提示する画像を
図6に示した俯瞰視点の画像D3から、
図7に示したオブジェクト視点の画像D4に切り替える場合に、俯瞰視点の移動速度の情報、オブジェクトの移動速度の情報、及び、
図6に示す矢印Y4の方向の風情報(自然風)に基づいて、オブジェクト視点による風情報を生成する。
【0127】
ステップS78において風設定部29は、風向が段階的または連続的に俯瞰視点からオブジェクト視点に切り替わるように、風情報を設定する。
【0128】
ファン制御部30は、俯瞰視点の風向から段階的または連続的にオブジェクト視点の風向に切り替わるように、各ファン6の駆動を制御する。その結果、ユーザに対して俯瞰視点において知覚する風情報から、オブジェクト視点において知覚する風情報に、段階的または連続的に変化する風を発生することができる。
【0129】
ステップS79において切替部27は、俯瞰視点への切り替え操作があるか否かを判定する。切り替え操作がある場合には(S79;YES)、ステップS80に処理を進め、そうでなければ(S79;NO)、ステップS81に処理を進める。
【0130】
ステップS81において表示制御部28は、画像表示を終了するか否かを判定する。画像表示を終了する場合には(S81;YES)、ステップS83に処理を進め、そうでなければ(S81;NO)、ステップS82に処理を進める。
【0131】
ステップS82において移動量算出部23は、画像に含まれるオブジェクトの、フレームごとの移動量に基づいて、オブジェクトの移動速度を算出する。その後、ステップS77に処理を戻す。
【0132】
ステップS80において風設定部29は、風向が段階的または連続的にオブジェクト視点から俯瞰視点に切り替わるように、風情報を設定する。その後、ステップS71に処理を戻す。
【0133】
ステップS83においてファン制御部30は、各ファン6を停止させる。こうして、俯瞰視点、及びオブジェクト視点が共に移動している場合において、視点変更した場合に、ユーザが知覚する風を円滑に切り替えることができる。
【0134】
このように、本実施形態に係るコンテンツ再生装置100では、移動量算出部23により画像に含まれるオブジェクト(例えば、車両)の移動量を算出し、この移動量に基づいて風設定部29がユーザに知覚させる風情報を設定する。ファン6(風発生部)は、設定した風情報に基づいて風を発生させる。従って、ユーザに対して画像に含まれるオブジェクトの移動に伴う風を知覚させることができ、ユーザに対して風情報を含めた三次元空間の臨場感を体感させることができる。
【0135】
本実施形態では、切替部27により俯瞰視点(第1の視点)、及びオブジェクト視点(第2の視点)のいずれかに視点を切り替えることができる。風設定部29は、HMD5に俯瞰視点の画像が表示されている場合には、この俯瞰視点においてユーザが知覚する風情報(第1の風情報)を設定し、オブジェクト視点の画像が表示されている場合には、このオブジェクト視点においてユーザが知覚する風情報(第2の風情報)を設定する。
【0136】
従って、ユーザに対して視点に応じた風を知覚させることができ、ユーザが知覚する臨場感を高めることができる。例えばユーザ自身が鳥(オブジェクト)になった場合の視点の画像をHMD5に表示させ、ユーザはあたかも鳥が飛行しているときの風を体験することが可能になる。
【0137】
本実施形態では、風設定部29は、HMD5にオブジェクト視点(第2の視点)の画像が表示されている場合には、オブジェクトの移動量、及び俯瞰視点においてユーザが知覚する風情報(第1の風情報)に基づいて、オブジェクト視点においてユーザが知覚する風情報(第2の風情報)を設定する。例えば、自然風が発生している場合に、移動中のオブジェクト視点に切り替えたときに、風設定部29はオブジェクトの移動により生じる風情報と、自然風による風情報を考慮してユーザに対して風を発生させる。このため、より臨場感の高い風情報をユーザに体感させることが可能になる。
【0138】
本実施形態では、俯瞰視点からオブジェクト視点に切り替える場合、及びオブジェクト視点から俯瞰視点に切り替える場合に、風設定部29は、風情報が段階的または連続的に変化するように、ファン6(風発生部)の駆動を制御する。即ち、風発生部は、風情報を変更する際に、切替前の風情報から切替後の風情報に段階的または連続的に変更させて風または疑似的な風を発生する。従って、ユーザは視点切り替え時において段階的または連続的に風向の変化を体感することができ、ユーザの三次元酔いを軽減することが可能になる。
【0139】
本実施形態では、音声認識部26を備えており、マイク4において例えば「鳥になりたい」、「良い景色」などの文言を発話することにより、切替部27は俯瞰視点(第1の視点)における風情報(第1の風情報)、或いはオブジェクト視点(第2の視点)における風情報(第2の風情報)に切り替える。従って、ユーザの擬音、感想を発話するという簡単な操作で視点を変更し、且つ風向、風速を変更することが可能になる。
【0140】
本実施形態では、切替部27は画像に含まれるオブジェクトの発言内容に応じて、視点を切り替える。切替部27は画像に含まれるオブジェクトの発言内容に応じて、風情報を切り替える。従って、例えば
図4に示した人物H1(オブジェクト)が「涼しい」と発言した場合には、切替部27は俯瞰視点の画像からオブジェクト視点の画像に切り替える。更に、切替部27は俯瞰視点の風情報からオブジェクト視点の風情報に切り替える。このため、ユーザはあたかも人物H1が見る風景、及び人物H1が受ける風を体感することが可能になる。
【0141】
本実施形態では、表示制御部28は、俯瞰視点(第1の視点)からオブジェクト視点(第2の視点)へ切り替える際には、俯瞰視点の風情報(第1の風情報)からオブジェクト視点の風情報(第2の風情報)に切り替えた後、オブジェクト視点の画像に代えて、オブジェクトが映っていない画像を提示する。このため、ユーザに違和感を感じさせることなく画像を切り替えることが可能になる。
【0142】
本実施形態では、切替部27は、第1の視点、第2の視点を切り替える画像切替信号と同時に、第1の風情報及び第2の風情報を切り替える風切替信号を出力する。従って、ユーザが視認する画像と、ユーザが知覚する風をリンクさせることが可能になる。
【0143】
なお、上述した実施形態では、VR(仮想現実)を例に挙げて説明したが、本開示はAR(拡張現実)、MR(複合現実)、及び現実と仮想情報との融合(XR)に適用することが可能である。
【0144】
以上、本開示の実施形態を記載したが、この開示の一部をなす論述及び図面はこの開示を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施の形態、実施例及び運用技術が明らかとなろう。
【符号の説明】
【0145】
1 記憶装置
2 情報処理部
4 マイク
5 HMD(画像提示部)
6(6-1~6-n) ファン(風発生部)
11 コンテンツ記憶部
12 風データベース
21 情報取得部
22 オブジェクト抽出部
23 移動量算出部
24 風情報取得部
25 入力部
26 音声認識部
27 切替部
28 表示制御部
29 風設定部
30 ファン制御部
100 コンテンツ再生装置