(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-05-09
(45)【発行日】2024-05-17
(54)【発明の名称】映像表示システム及び映像表示方法
(51)【国際特許分類】
H04N 21/24 20110101AFI20240510BHJP
H04N 21/27 20110101ALI20240510BHJP
H04N 21/431 20110101ALI20240510BHJP
H04N 21/466 20110101ALI20240510BHJP
G06Q 50/10 20120101ALI20240510BHJP
【FI】
H04N21/24
H04N21/27
H04N21/431
H04N21/466
G06Q50/10
(21)【出願番号】P 2023514695
(86)(22)【出願日】2022-04-18
(86)【国際出願番号】 JP2022018089
(87)【国際公開番号】W WO2022220308
(87)【国際公開日】2022-10-20
【審査請求日】2023-09-27
(32)【優先日】2021-04-16
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】314012076
【氏名又は名称】パナソニックIPマネジメント株式会社
(74)【代理人】
【識別番号】100109210
【氏名又は名称】新居 広守
(74)【代理人】
【識別番号】100137235
【氏名又は名称】寺谷 英作
(74)【代理人】
【識別番号】100131417
【氏名又は名称】道坂 伸一
(72)【発明者】
【氏名】小塚 雅之
(72)【発明者】
【氏名】森 美裕
(72)【発明者】
【氏名】鈴木 淳也
(72)【発明者】
【氏名】柏木 吉一郎
(72)【発明者】
【氏名】山本 靖利
(72)【発明者】
【氏名】西尾 歳朗
【審査官】大西 宏
(56)【参考文献】
【文献】特開2001-352534(JP,A)
【文献】特開2002-169901(JP,A)
【文献】特開2004-007561(JP,A)
【文献】特許第6727388(JP,B1)
【文献】米国特許出願公開第2010/0283829(US,A1)
【文献】米国特許出願公開第2018/0003969(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 21/00 -21/858
G06Q 50/00 -50/20
(57)【特許請求の範囲】
【請求項1】
VR(仮想現実)を体験するサービスを提供する映像表示システムであって、
前記体験に参加する参加者に前記VRのための映像であるVR空間を表示する表示部、及び、前記参加者との音声による入出力を行う音声処理部を有するVRシステムと、
前記VR空間おいて前記参加者に向けて前記体験のための説明をする説明者との音声による入出力を行う説明者端末と、
前記VR空間を生成するための360度映像を前記VRシステムに配信する映像配信部と、
前記VRシステム及び前記説明者端末を介して前記参加者と前記説明者との音声会話を支援する音声会話部と、
前記VRシステム、前記説明者端末、前記映像配信部、及び、前記音声会話部の少なくとも一つを制御する制御部とを備え、
前記制御部は、前記参加者から前記説明者への質問が不可能な第1状態、前記質問が可能な第2状態、及び、前記質問が行われている第3状態を選択的にとる動作モードを管理し、前記動作モードを特定する情報を前記表示部に表示するように、前記VRシステムを制御
し、
前記参加者は、複数であり、
前記映像表示システムは、前記複数の参加者のそれぞれに対応する複数の前記VRシステムを備え、
前記制御部は、前記複数のVRシステムのそれぞれに対応する前記動作モードを管理し、前記動作モードを特定する情報を、対応する前記VRシステムの前記表示部に表示するように、前記複数のVRシステムを制御し、
前記説明者端末は、前記質問を受け付けるか否かを示す操作を受け付ける説明者用入力部を有し、
前記制御部は、
前記説明者用入力部が前記第1状態すなわち質問を受け付けない状態とする操作を受け付けた場合、前記第1状態を示す画像を前記複数のVRシステムの前記表示部に表示し、かつ、前記複数の参加者からの音声入力をミュートにするように、前記複数のVRシステムを制御し、
前記説明者用入力部が前記第2状態すなわち質問を受け付ける状態とする操作を受け付けた場合、前記第2状態を示す画像を前記複数のVRシステムの前記表示部に表示し、かつ、前記複数の参加者からの音声入力をミュートにするように、前記複数のVRシステムを制御する、
映像表示システム。
【請求項2】
前記複数のVRシステムのそれぞれは、対応する前記参加者から前記質問をしたいことの要求を示す操作を受け付ける参加者用入力部を有し、
前記制御部は、前記複数のVRシステムのうちのいずれかの前記参加者用入力部が前記要求を示す操作を受け付けた場合、操作を受け付けた前記参加者用入力部に対応する前記VRシステムについて、前記動作モードが前記第2状態にあるときには、前記第2状態に代えて前記第3状態を特定する情報を前記表示部に表示し、かつ、前記参加者からの音声入力のミュートを解除することで前記第3状態とするように、前記VRシステムを制御する、
請求項
1記載の映像表示システム。
【請求項3】
前記制御部は、前記参加者からの音声入力のミュートを解除するように、前記VRシステムを制御した場合には、前記VRシステムを除く他の前記VRシステムについて、前記第1状態を示す画像を前記表示部に表示し、かつ、前記参加者からの音声入力をミュートすることで前記第1状態とするように、前記VRシステムを制御する、
請求項
2記載の映像表示システム。
【請求項4】
前記説明者用入力部は、前記質問を受け付けることを示す操作と前記質問を受け付けないことを示す操作とを受け付ける一つのボタンを有する、
請求項
1記載の映像表示システム。
【請求項5】
前記参加者用入力部は、前記質問をしたいことの要求および前記質問をしている最中であることを示す操作と前記質問を終了したこと示す操作とを受け付ける一つのボタンを有する、
請求項
2記載の映像表示システム。
【請求項6】
VR(仮想現実)を体験するサービスを提供する映像表示システムであって、
前記体験に参加する参加者に前記VRのための映像であるVR空間を表示する表示部、及び、前記参加者との音声による入出力を行う音声処理部を有するVRシステムと、
前記VR空間おいて前記参加者に向けて前記体験のための説明をする説明者との音声による入出力を行う説明者端末と、
前記VR空間を生成するための360度映像を前記VRシステムに配信する映像配信部と、
前記VRシステム及び前記説明者端末を介して前記参加者と前記説明者との音声会話を支援する音声会話部と、
前記VRシステム、前記説明者端末、前記映像配信部、及び、前記音声会話部の少なくとも一つを制御する制御部とを備え、
前記制御部は、前記参加者から前記説明者への質問が不可能な第1状態、前記質問が可能な第2状態、及び、前記質問が行われている第3状態を選択的にとる動作モードを管理し、前記動作モードを特定する情報を前記表示部に表示するように、前記VRシステムを制御し、
前記参加者は、複数であり、
前記映像表示システムは、前記複数の参加者のそれぞれに対応する複数の前記VRシステムを備え、
前記制御部は、前記複数のVRシステムのそれぞれに対応する前記動作モードを管理し、前記動作モードを特定する情報を、対応する前記VRシステムの前記表示部に表示するように、前記複数のVRシステムを制御し、
前記制御部は、前記複数の参加者のそれぞれについて前記説明者への質問をブロックするか否かを示す許否情報を含むブロック情報を有し、前記ブロック情報に基づいて、前記許否情報がブロックすることを示す前記参加者について、前記第1状態を示す画像を前記参加者に対応する前記VRシステムの前記表示部に表示し、かつ、前記参加者からの音声入力をミュートにすることで前記第1状態とするように、前記VRシステムを制御する、
映像表示システム。
【請求項7】
さらに、実世界を撮影することによって前記360度映像を生成する観測システムを備え、
前記観測システムは、前記説明者の音声を取得するマイクを有し、
前記音声会話部は、前記マイクで取得した前記説明者の音声を用いて、前記参加者と前記説明者との音声会話を支援する
請求項6記載の映像表示システム。
【請求項8】
VR(仮想現実)を体験するサービスを提供する映像表示システムであって、
前記体験に参加する参加者に前記VRのための映像であるVR空間を表示する表示部、及び、前記参加者との音声による入出力を行う音声処理部を有するVRシステムと、
前記VR空間おいて前記参加者に向けて前記体験のための説明をする説明者との音声による入出力を行う説明者端末と、
前記VR空間を生成するための360度映像を前記VRシステムに配信する映像配信部と、
前記VRシステム及び前記説明者端末を介して前記参加者と前記説明者との音声会話を支援する音声会話部と、
前記VRシステム、前記説明者端末、前記映像配信部、及び、前記音声会話部の少なくとも一つを制御する制御部とを備え、
前記制御部は、前記参加者から前記説明者への質問が不可能な第1状態、前記質問が可能な第2状態、及び、前記質問が行われている第3状態を選択的にとる動作モードを管理し、前記動作モードを特定する情報を前記表示部に表示するように、前記VRシステムを制御し、
前記参加者は、複数であり、
前記映像表示システムは、
前記複数の参加者のそれぞれに対応する複数の前記VRシステムを備え、
さらに、前記複数の参加者から選択された二人以上の参加者間でのグループ音声会話を支援するグループ音声会話部を備え、
前記制御部は、前記複数のVRシステムのそれぞれに対応する前記動作モードを管理し、前記動作モードを特定する情報を、対応する前記VRシステムの前記表示部に表示するように、前記複数のVRシステムを制御し、
前記制御部は、前記複数の参加者のそれぞれについて所定のグループに属するか否かを示す属否情報を含むグループ情報を有し、前記グループ情報に基づいて、同一のグループに属する複数の前記参加者を対象として前記グループ音声会話を支援するように、前記グループ音声会話部を制御
し、
前記制御部は、同一のグループに属する複数の前記参加者のいずれもが、対応する前記VRシステムの前記動作モードが前記第1状態又は前記第2状態である場合に、前記グループ音声会話を支援するように、前記グループ音声会話部を制御し、
前記制御部は、同一のグループに属する複数の前記参加者のいずれかが、対応する前記VRシステムの前記動作モードが前記第2状態から前記第3状態に遷移した場合に、前記グループ音声会話の支援を中断し、当該参加者を除く他の全ての前記参加者について、前記第1状態を示す画像を対応する前記VRシステムの前記表示部に表示し、かつ、前記参加者からの音声入力をミュートするように、前記VRシステムを制御する
映像表示システム。
【請求項9】
VR(仮想現実)を体験するサービスを提供する映像表示システムであって、
前記体験に参加する参加者に前記VRのための映像であるVR空間を表示する表示部、及び、前記参加者との音声による入出力を行う音声処理部を有するVRシステムと、
前記VR空間おいて前記参加者に向けて前記体験のための説明をする説明者との音声による入出力を行う説明者端末と、
前記VR空間を生成するための360度映像を前記VRシステムに配信する映像配信部と、
前記VRシステム及び前記説明者端末を介して前記参加者と前記説明者との音声会話を支援する音声会話部と、
前記VRシステム、前記説明者端末、前記映像配信部、及び、前記音声会話部の少なくとも一つを制御する制御部とを備え、
前記制御部は、前記参加者から前記説明者への質問が不可能な第1状態、前記質問が可能な第2状態、及び、前記質問が行われている第3状態を選択的にとる動作モードを管理し、前記動作モードを特定する情報を前記表示部に表示するように、前記VRシステムを制御し、
前記参加者は、複数であり、
前記映像表示システムは、
前記複数の参加者のそれぞれに対応する複数の前記VRシステムを備え、
さらに、前記複数の参加者から選択された二人以上の参加者間でのグループ音声会話を支援するグループ音声会話部を備え、
前記制御部は、前記複数のVRシステムのそれぞれに対応する前記動作モードを管理し、前記動作モードを特定する情報を、対応する前記VRシステムの前記表示部に表示するように、前記複数のVRシステムを制御し、
前記制御部は、前記複数の参加者のそれぞれについて所定のグループに属するか否かを示す属否情報を含むグループ情報を有し、前記グループ情報に基づいて、同一のグループに属する複数の前記参加者を対象として前記グループ音声会話を支援するように、前記グループ音声会話部を制御し、
前記制御部は、前記グループ音声会話を支援しているときに、前記説明者から前記同一のグループに属する複数の前記参加者への音声、及び、前記グループ音声会話の音声の少なくとも一方の音量を調整するように、前記同一のグループに属する複数の前記参加者に対応する複数の前記VRシステムを制御する、
映像表示システム。
【請求項10】
VR(仮想現実)を体験するサービスを提供する映像表示システムであって、
前記体験に参加する参加者に前記VRのための映像であるVR空間を表示する表示部、及び、前記参加者との音声による入出力を行う音声処理部を有するVRシステムと、
前記VR空間おいて前記参加者に向けて前記体験のための説明をする説明者との音声による入出力を行う説明者端末と、
前記VR空間を生成するための360度映像を前記VRシステムに配信する映像配信部と、
前記VRシステム及び前記説明者端末を介して前記参加者と前記説明者との音声会話を支援する音声会話部と、
前記VRシステム、前記説明者端末、前記映像配信部、及び、前記音声会話部の少なくとも一つを制御する制御部とを備え、
前記制御部は、前記参加者から前記説明者への質問が不可能な第1状態、前記質問が可能な第2状態、及び、前記質問が行われている第3状態を選択的にとる動作モードを管理し、前記動作モードを特定する情報を前記表示部に表示するように、前記VRシステムを制御し、
前記参加者は、複数であり、
前記映像表示システムは、前記複数の参加者のそれぞれに対応する複数の前記VRシステムを備え、
前記制御部は、前記複数のVRシステムのそれぞれに対応する前記動作モードを管理し、前記動作モードを特定する情報を、対応する前記VRシステムの前記表示部に表示するように、前記複数のVRシステムを制御し、
前記説明者端末は、
前記説明を第1言語で行う第1説明者との音声による入出力を行う第1説明者端末と、
前記説明を第2言語で行う第2説明者との音声による入出力を行う第2説明者端末とを含み、
前記音声会話部は、
前記複数のVRシステム及び前記第1説明者端末を介して前記参加者と前記第1説明者との音声会話を支援する第1音声会話部と、
前記複数のVRシステム及び前記第2説明者端末を介して前記参加者と前記第2説明者との音声会話を支援する第2音声会話部とを含み、
前記制御部は、前記複数の参加者のそれぞれについて希望する前記説明の言語を対応づけた言語情報を有し、前記言語情報に基づいて、前記第1言語に対応づけられた前記参加者については、前記第1音声会話部によって前記参加者と前記第1説明者との音声会話を支援し、前記第2言語に対応づけられた前記参加者については、前記第2音声会話部によって前記参加者と前記第2説明者との音声会話を支援するように、前記第1音声会話部及び前記第2音声会話部を制御する、
映像表示システム。
【請求項11】
前記第2説明者は、前記第1言語と前記第2言語とを対象とする同時通訳者であり、
前記第1音声会話部は、さらに、前記第1説明者からの音声を前記第2説明者に出力する、
請求項
10記載の映像表示システム。
【請求項12】
さらに、前記第2説明者からの音声を前記第2言語に対応づけられた前記参加者に出力することと、前記第1説明者及び前記第1言語に対応づけられた前記参加者に出力することとを切り替える音声切替部を備える、
請求項
11記載の映像表示システム。
【請求項13】
さらに、前記第1言語と第2言語との間で機械翻訳をする機械翻訳部を備え、
前記説明者は、前記説明を第1言語で行い、
前記制御部は、前記複数の参加者のそれぞれについて希望する前記説明の言語を対応づけた言語情報を有し、前記言語情報に基づいて、前記第1言語に対応づけられた前記参加者については、前記機械翻訳部を通さずに前記参加者と前記説明者とが音声会話をし、前記第2言語に対応づけられた前記参加者については、前記機械翻訳部を通して前記参加者と前記説明者とが音声会話をするように、前記機械翻訳部を制御する、
請求項
10記載の映像表示システム。
【請求項14】
さらに、複数の異なる言語間での翻訳をする複数の前記機械翻訳部を備え、
前記制御部は、前記複数の機械翻訳部が扱う2つの言語を示す機械翻訳管理情報を有し、前記言語情報及び前記機械翻訳管理情報に基づいて、前記参加者ごとに、前記参加者に対応づけられた言語と前記第1言語との間で翻訳する機械翻訳部を前記複数の機械翻訳部から選択し、選択した前記機械翻訳部を通して前記参加者と前記説明者とが音声会話をするように、前記複数の機械翻訳部を制御する、
請求項
13記載の映像表示システム。
【請求項15】
VR(仮想現実)を体験するサービスを提供する映像表示システムによる映像表示方法であって、
前記映像表示システムは、
前記体験に参加する参加者に前記VRのための映像であるVR空間を表示する表示部、及び、前記参加者との音声による入出力を行う音声処理部を有するVRシステムと、
前記VR空間おいて前記参加者に向けて前記体験のための説明をする説明者との音声による入出力を行う説明者端末とを備え、
前記VR空間を生成するための360度映像を前記VRシステムに配信する映像配信部と、
前記VRシステム及
び前記説明者端末を介して前記参加者と前記説明者との音声会話を支援する音声会話部とを備え、
前記映像表示方法は、
前記参加者から前記説明者への質問が不可能な第1状態、前記質問が可能な第2状態、及び、前記質問が行われている第3状態を選択的にとる動作モードを管理し、前記動作モードを特定する情報を前記表示部に表示するように、前記VRシステムを制御する制御ステップを含み、
前記参加者は、複数であり、
前記映像表示システムは、前記複数の参加者のそれぞれに対応する複数の前記VRシステムを備え、
前記制御ステップでは、前記複数のVRシステムのそれぞれに対応する前記動作モードを管理し、前記動作モードを特定する情報を、対応する前記VRシステムの前記表示部に表示するように、前記複数のVRシステムを制御し、
前記制御ステップでは、前記複数の参加者のそれぞれについて前記説明者への質問をブロックするか否かを示す許否情報を含むブロック情報に基づいて、前記許否情報がブロックすることを示す前記参加者について、前記第1状態を示す画像を前記参加者に対応する前記VRシステムの前記表示部に表示し、かつ、前記参加者からの音声入力をミュートにすることで前記第1状態とするように、前記VRシステムを制御する、
映像表示方法。
【請求項16】
VR(仮想現実)を体験するサービスを提供する映像表示システムによる映像表示方法であって、
前記映像表示システムは、
前記体験に参加する参加者に前記VRのための映像であるVR空間を表示する表示部、及び、前記参加者との音声による入出力を行う音声処理部を有するVRシステムと、
前記VR空間おいて前記参加者に向けて前記体験のための説明をする説明者との音声による入出力を行う説明者端末とを備え、
前記VR空間を生成するための360度映像を前記VRシステムに配信する映像配信部と、
前記VRシステム及
び前記説明者端末を介して前記参加者と前記説明者との音声会話を支援する音声会話部とを備え、
前記映像表示方法は、
前記参加者から前記説明者への質問が不可能な第1状態、前記質問が可能な第2状態、及び、前記質問が行われている第3状態を選択的にとる動作モードを管理し、前記動作モードを特定する情報を前記表示部に表示するように、前記VRシステムを制御する制御ステップを含み、
前記参加者は、複数であり、
前記映像表示システムは、前記複数の参加者のそれぞれに対応する複数の前記VRシステムを備え、
前記制御ステップでは、前記複数のVRシステムのそれぞれに対応する前記動作モードを管理し、前記動作モードを特定する情報を、対応する前記VRシステムの前記表示部に表示するように、前記複数のVRシステムを制御し、
前記映像表示システムは、さらに、前記複数の参加者から選択された二人以上の参加者間でのグループ音声会話を支援するグループ音声会話部を備え、
前記制御ステップでは、前記複数の参加者のそれぞれについて所定のグループに属するか否かを示す属否情報を含むグループ情報を有し、前記グループ情報に基づいて、同一のグループに属する複数の前記参加者を対象として前記グループ音声会話を支援するように、前記グループ音声会話部を制御する、
映像表示方法。
【請求項17】
VR(仮想現実)を体験するサービスを提供する映像表示システムによる映像表示方法であって、
前記映像表示システムは、
前記体験に参加する参加者に前記VRのための映像であるVR空間を表示する表示部、及び、前記参加者との音声による入出力を行う音声処理部を有するVRシステムと、
前記VR空間おいて前記参加者に向けて前記体験のための説明をする説明者との音声による入出力を行う説明者端末とを備え、
前記VR空間を生成するための360度映像を前記VRシステムに配信する映像配信部と、
前記VRシステム及
び前記説明者端末を介して前記参加者と前記説明者との音声会話を支援する音声会話部とを備え、
前記映像表示方法は、
前記参加者から前記説明者への質問が不可能な第1状態、前記質問が可能な第2状態、及び、前記質問が行われている第3状態を選択的にとる動作モードを管理し、前記動作モードを特定する情報を前記表示部に表示するように、前記VRシステムを制御する制御ステップを含み、
前記参加者は、複数であり、
前記映像表示システムは、前記複数の参加者のそれぞれに対応する複数の前記VRシステムを備え、
前記制御ステップでは、前記複数のVRシステムのそれぞれに対応する前記動作モードを管理し、前記動作モードを特定する情報を、対応する前記VRシステムの前記表示部に表示するように、前記複数のVRシステムを制御し、
前記説明者端末は、
前記説明を第1言語で行う第1説明者との音声による入出力を行う第1説明者端末と、
前記説明を第2言語で行う第2説明者との音声による入出力を行う第2説明者端末とを含み、
前記音声会話部は、
前記複数のVRシステム及び前記第1説明者端末を介して前記参加者と前記第1説明者との音声会話を支援する第1音声会話部と、
前記複数のVRシステム及び前記第2説明者端末を介して前記参加者と前記第2説明者との音声会話を支援する第2音声会話部とを含み、
前記制御ステップでは、前記複数の参加者のそれぞれについて希望する前記説明の言語を対応づけた言語情報に基づいて、前記第1言語に対応づけられた前記参加者については、前記第1音声会話部によって前記参加者と前記第1説明者との音声会話を支援し、前記第2言語に対応づけられた前記参加者については、前記第2音声会話部によって前記参加者と前記第2説明者との音声会話を支援するように、前記第1音声会話部及び前記第2音声会話部を制御する、
映像表示方法。
【請求項18】
VR(仮想現実)を体験するサービスを提供する映像表示システムによる映像表示方法であって、
前記映像表示システムは、
前記体験に参加する参加者に前記VRのための映像であるVR空間を表示する表示部、及び、前記参加者との音声による入出力を行う音声処理部を有するVRシステムと、
前記VR空間おいて前記参加者に向けて前記体験のための説明をする説明者との音声による入出力を行う説明者端末とを備え、
前記VR空間を生成するための360度映像を前記VRシステムに配信する映像配信部と、
前記VRシステム及
び前記説明者端末を介して前記参加者と前記説明者との音声会話を支援する音声会話部とを備え、
前記映像表示方法は、
前記参加者から前記説明者への質問が不可能な第1状態、前記質問が可能な第2状態、及び、前記質問が行われている第3状態を選択的にとる動作モードを管理し、前記動作モードを特定する情報を前記表示部に表示するように、前記VRシステムを制御する制御ステップを含み、
前記参加者は、複数であり、
前記映像表示システムは、前記複数の参加者のそれぞれに対応する複数の前記VRシステムを備え、
前記制御ステップでは、前記複数のVRシステムのそれぞれに対応する前記動作モードを管理し、前記動作モードを特定する情報を、対応する前記VRシステムの前記表示部に表示するように、前記複数のVRシステムを制御し、
前記説明者は、前記説明を第1言語で行い、
前記映像表示システムは、さらに、前記第1言語と第2言語との間で翻訳をする機械翻訳部を備え、
前記制御ステップでは、前記複数の参加者のそれぞれについて希望する前記説明の言語を対応づけた言語情報に基づいて、前記第1言語に対応づけられた前記参加者については、前記機械翻訳部を通さずに前記参加者と前記説明者とが音声会話をし、前記第2言語に対応づけられた前記参加者については、前記機械翻訳部を通して前記参加者と前記説明者とが音声会話をするように、前記機械翻訳部を制御する、
映像表示方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、映像表示システム及び映像表示方法に関し、特に、VR(仮想現実)を体験するサービスを提供する映像表示システムに関する。
【背景技術】
【0002】
従来、VR(仮想現実)を体験するサービスを提供する映像表示システムとして、様々な技術が提案されている(例えば、特許文献1及び2参照)。
【0003】
特許文献1では、遠隔のユーザに、希望の観光地の現在の実際の状況を、リアルタイムの映像で提供することにより、遠隔のユーザがあたかもその観光地に実際に行っているような感動や臨場感を与えることができる在宅旅行システムを提案している。
【0004】
また、特許文献2では、VRを用いた観光の参加者の視点制御に関する情報処理装置を提案している。
【先行技術文献】
【特許文献】
【0005】
【文献】特開2012-10418号公報
【文献】国際公開2019/150675号
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、特許文献1及び2の技術では、参加者がICT(情報通信技術)能力に長けていることが前提とされ、誰でも簡単に参加できるとは言えないという問題がある。
【0007】
そこで、本開示は、誰でも簡単に参加できる映像表示システム及び映像表示方法を提供することを目的とする。
【課題を解決するための手段】
【0008】
上記目的を達成するために、本開示の一形態に係る映像表示システムは、VR(仮想現実)を体験するサービスを提供する映像表示システムであって、前記体験に参加する参加者に前記VRのための映像であるVR空間を表示する表示部、及び、前記参加者との音声による入出力を行う音声処理部を有するVRシステムと、前記VR空間おいて前記参加者に向けて前記体験のための説明をする説明者との音声による入出力を行う説明者端末と、前記VR空間を生成するための360度映像を前記VRシステムに配信する映像配信部と、前記VRシステム及び前記説明者端末を介して前記参加者と前記説明者との音声会話を支援する音声会話部と、前記VRシステム、前記説明者端末、前記映像配信部、及び、前記音声会話部の少なくとも一つを制御する制御部とを備え、前記制御部は、前記参加者から前記説明者への質問が不可能な第1状態、前記質問が可能な第2状態、及び、前記質問が行われている第3状態を選択的にとる動作モードを管理し、前記動作モードを特定する情報を前記表示部に表示するように、前記VRシステムを制御する。
【0009】
上記目的を達成するために、本開示の一形態に係る映像表示方法は、VR(仮想現実)を体験するサービスを提供する映像表示システムによる映像表示方法であって、前記映像表示システムは、前記体験に参加する参加者に前記VRのための映像であるVR空間を表示する表示部、及び、前記参加者との音声による入出力を行う音声処理部を有するVRシステムと、前記VR空間おいて前記参加者に向けて前記体験のための説明をする説明者との音声による入出力を行う説明者端末とを備え、前記VR空間を生成するための360度映像を前記VRシステムに配信する映像配信部と、前記VRシステム及び前記説明者端末を介して前記参加者と前記説明者との音声会話を支援する音声会話部とを備え、前記映像表示方法は、前記参加者から前記説明者への質問が不可能な第1状態、前記質問が可能な第2状態、及び、前記質問が行われている第3状態を選択的にとる動作モードを管理し、前記動作モードを特定する情報を前記表示部に表示するように、前記VRシステムを制御する制御ステップを含む。
【発明の効果】
【0010】
本開示により、誰でも簡単に参加できる映像表示システム及び映像表示方法が提供される。
【図面の簡単な説明】
【0011】
【
図1A】
図1Aは、ガイドとの会話を可能にする参考例に係るVR観光システムの概念図である。
【
図2A】
図2Aは、実施の形態に係る映像表示システムの構成を示すブロック図である。
【
図2B】
図2Bは、
図2Aに示された映像表示システムの変形例1に係る制御部の構成を示すブロック図である。
【
図2C】
図2Cは、
図2Aに示された映像表示システムの変形例2に係るクラウドの構成を示すブロック図である。
【
図2D】
図2Dは、
図2Aに示された映像表示システムの変形例3に係る映像表示システムの構成を示すブロック図である。
【
図2E】
図2Eは、
図2Dに示された映像表示システムの変形例1に係るクラウドの構成を示すブロック図である。
【
図2F】
図2Fは、
図2Dに示された映像表示システムの変形例2に係るクラウドの構成を示すブロック図である。
【
図3】
図3は、実施例1に係るVR観光システムの概略構成図である。
【
図4】
図4は、実施例1に係るVR観光システムの動作例を示す図である。
【
図5】
図5は、実施例1に係るVR観光システムの詳細な構成を示すブロック図である。
【
図6】
図6は、実施例1に係るVR観光システムの動作フロー例を示す図である。
【
図7】
図7は、実施例1に係るVR観光システムのVRシステムの具体的な構成例を示す図である。
【
図8】
図8は、実施例1に係るVR観光システムのガイド用端末が有するVR音声会議部の具体的な構成例を示す図である。
【
図9】
図9は、実施例1の変形例1に係るVR観光システムの概略構成図である。
【
図10】
図10は、実施例1の変形例2に係るVR観光システムの概略構成図である。
【
図11】
図11は、実施例2に係るVR観光システムの動作例を示す図である。
【
図12】
図12は、実施例2に係るVR観光システムの概略構成図である。
【
図13】
図13は、実施例2に係るVR観光システムの動作フロー例を示す図である。
【
図14】
図14は、
図1Aに示される参考例に係るVR観光システムに課題(3)の説明を追記した図である。
【
図15】
図15は、実施例3に係るVR観光システムの動作例を示す図である。
【
図16】
図16は、実施例3に係るVR観光システムの詳細な構成を示すブロック図である。
【
図17】
図17は、実施例3に係るVR観光システムの動作フロー例を示す図である。
【
図18】
図18は、実施例3の変形例1に係るVR観光システムの詳細な構成を示すブロック図である。
【
図19】
図19は、
図1Aに示される参考例に係るVR観光システムに課題(4)の説明を追記した図である。
【
図20】
図20は、実施例4に係るVR観光システムの要求仕様を示す図である。
【
図21】
図21は、実施例4に係るVR観光システムの概略構成図である。
【
図22】
図22は、実施例4に係るVR観光システムが実現するユースケースの例を示す図である。
【
図23】
図23は、実施例4に係るVR観光システムにおけるVRシステムで見える視界の例を示す図である。
【
図24】
図24は、実施例4に係るVR観光システムの詳細な構成を示すブロック図である。
【
図25】
図25は、実施例4に係るVR観光システムの動作フロー例を示す図である。
【
図26】
図26は、実施例4の変形例1に係るVR観光システムの概略構成図である。
【
図27】
図27は、実施例4の変形例1に係るVR観光システムが実現するユースケースの例を示す図である。
【
図28】
図28は、実施例4の変形例1に係るVR観光システムが備える音声切替部の機能を説明する図である。
【
図29】
図29は、実施例4の変形例1に係るVR観光システムの詳細な構成を示すブロック図である。
【
図30】
図30は、実施例4の変形例1に係るVR観光システムの動作フロー例を示す図である。
【
図31】
図31は、実施例4の変形例2に係るVR観光システムの概略構成図である。
【
図32】
図32は、実施例4の変形例2に係るVR観光システムが実現するユースケースの例を示す図である。
【
図33】
図33は、実施例4の変形例2に係るVR観光システムが備える機械翻訳部の詳細な機能を説明するための図である。
【
図34】
図34は、実施例4の変形例2に係るVR観光システムの詳細な構成を示すブロック図である。
【
図35】
図35は、実施例4の変形例2に係るVR観光システムの動作フロー例を示す図である。
【発明を実施するための形態】
【0012】
(本発明者らが得た知見)
実際にその場所に行かなくても観光旅行、展示会見学、視察、工場見学、美術館・博物館・動物園・水族館見学等のバーチャル体験を実現するVR観光サービスが盛んになってきた。
【0013】
VR観光サービスでは、複数の見学者がVRシステムを使って目的地のVR空間内に参加し、実際の観光ツアーのように、人間(またはアバター)のツアーガイド(引率者)により、目的地の説明を聞いたり、ガイドに質問をしたりすることが観光体験という観点で重要である。単にガイドの説明を一方的に聞くだけであれば、Youtube(登録商標)等の観光VR番組を視聴することと変わらない。このレベルのサービスでは、魅力が乏しいため有料化は困難となる。専門性を有したガイドや専門家から説明を聞き、質問に答えてもらえるというインタラクティブな旅行体験を提供することが、VR観光サービスにとって極めて重要である。
【0014】
VR観光サービスの参加者は高齢者から子供、外国人等、多彩な経験、ICT能力、性格、言語等を有する人が参加するため下記のような要件を満たしたサービスを提供することが重要である。
【0015】
このため、(1)誰でも簡単に使えるユーザインターフェース、(2)マナーが悪い参加者の対応、(3)友達同士での私的会話、(4)複数言語対応、複数ガイド対応等のサポートが求められる。
【0016】
本開示に係るVR観光システムは、上記4つの課題のそれぞれを解決するために、360度映像配信システムとデジタル音声会議部とを利用した上で、3つの状態をVR観光参加者とガイドとが、それぞれ、ボタン1つの簡単なUI(ユーザインターフェース)で操作できる手段を実現することで、誰でも簡単に参加できるVR観光サービスを提供可能にするものである。つまり、上記(1)の課題を解決するVR観光システムをベースとして、そのようなVR観光システムの上に、各種付加機能を追加することで、上記(2)~(4)の課題を解決した。これにより、VR観光において、高齢者から子供まで、ICTの知識が無くても参加できる簡単なUIのサービスを実現できるため、VR観光を実際の観光のように楽しむことが可能になる。
【0017】
なお、本開示に係るVR観光システムは、必ずしも、上記4つの課題のすべてを解決する必要はなく、誰でも簡単に参加できる映像表示システムとして、上記課題(1)~(4)の少なくとも一つを解決するものであればよい。
【0018】
(参考例に係るVR観光システム)
図1Aは、ガイドとの会話を可能にする参考例に係るVR観光システム650の概念図である。参考例に係るVR観光システム650では、現地において360度カメラで撮影した映像と音声(現場の環境音とガイド20の音声等)を各VRユーザ10~13へ送ることで、現地について、臨場感を持った疑似観光体験を可能にする。なお、「VRユーザ」を、「VR観光ユーザ」、「参加者」、あるいは、単に「ユーザ」ともいう。
【0019】
更にVR観光体験を向上させるためには、VRユーザ10~13が、ガイド20の説明を一方的に聞くのではなく、ガイド20との双方向の会話をVRシステム600~630を装着したまま行なえることが重要である。そこで、参考例に係るVR観光システム650では、
図1Aに示されるように、VRクラウド800において、360度映像配信部820に加えて、VR音声会議部810を適切に組み合わせることで、VR観光中にも、他のVRユーザ10~13と会話したりガイド20と会話したりする機能を実現している。
【0020】
図1Bは、
図1Aに示されるVR観光システム650の詳細な構成を示すブロック図である。VRシステム600等は、VR観光中の音声会話を可能にするVR音声会議部605を備える。VR音声会議部605は、マイク108から出力される音声信号をデジタルの音声データに変換するA/D変換器108aと、その音声データを圧縮するAudio圧縮部108bと、圧縮された音声データをVRクラウド800に送信する/しないを制御するMute部108cとで構成される。
【0021】
VRクラウド800が備えるVR音声会議部810は、VRシステム600等から送信されてくる音声データを復号するAudio復号部314a~314dと、ガイド20が使用するスマートフォン710から送信されてくる圧縮された音声データを復号するAudio復号部316と、Audio復号部314a~314dからの音声データとAudio復号部316からの音声データとを混合して合成音声データを生成するAudio混合部313と、混合された合成音声データを圧縮してガイド20のスマートフォン710に送信するAudio圧縮部317を備える。
【0022】
VRクラウド800が備える360度映像配信部820は、観測システム700から送信されてくる360度映像を受信して映像データと音声データとに分離するAV分離部321と、分離された音声データを復号するAudio復号部322と、復号された音声データとVR音声会議部810から送られてくる合成音声データとを混合するAudio混合部323と、混合された音声データを圧縮するAudio圧縮部324と、圧縮された音声データとAV分離部321で分離された映像データとを合成して360度映像としてVRシステム600等に配信するAV合成部325とを備える。
【0023】
ガイド用音声会議端末であるスマートフォン710は、VR音声会議部750として機能するハードウェア及びアプリ(APP)を有しており、具体的には、ヘッドセット720のマイクから出力される音声信号をデジタルの音声データに変換するA/D変換器213aと、その音声データを圧縮するAudio圧縮部213bと、圧縮された音声データをVRクラウド800に送信する/しないを制御するMute部213cと、VRクラウド800から送信されてくる合成音声データを受信して復号するAudio復号部214aと、復号された合成音声データをアナログの音声信号に変換してヘッドセット720のスピーカーに出力するD/A変換器214bとで構成される。
【0024】
観測システム700は、360度撮影用にカメラ203を制御したり、カメラ203及びリモコン204からの信号を取得したりする撮影部202と、撮影部202で取得された信号を360度映像としてVRクラウド800に送信する通信部201とを備える。
【0025】
このように、参考例に係るVR観光システム650では、360度映像配信部820を備える映像配信システムに、一般的なネット会議システムを組み合わせ、VRユーザ10~13間とガイド20との会話を実現するために、以下の機能追加(1)~(3)を行っている。
【0026】
(1)VRシステム600等にVRクラウド800のVR音声会議部810と接続するためのVR音声会議部605を追加する。
【0027】
(2)ガイド20にはスマートフォン等のICT機器を経由し、マイク・イアホン等を装着したヘッドセット720からVRクラウド800のVR音声会議部810と接続するためのガイド用音声会議端末であるスマートフォン710を利用させる。
【0028】
(3)VRクラウド800のVR音声会議部810においてVRユーザ10等とガイド20の声を混合させた合成音声データを、360度映像配信部820において、観測システムから送られてくる360度映像データから音声データのみを取り出し、混合したうえで、各VRユーザ10等のVRシステム600等に送る。
【0029】
なおMute部108cの位置は、マイク108でとらえた音声がAudio混合部313で混合されるまでにミュートできるものであれば図示されているものに限定されない。
【0030】
例えば、
図1BのVR音声会議部605において、Mute部108cは、A/D変換部108aとAudio圧縮部108bとの間あるいは、マイク108とA/D変換部108aとの間にあってもよい。
【0031】
さらに、VRクラウド800にあるVR音声会議部810のAudio復号部314a~314dの前(Audio復号部314a~314dよりも入力側)、あるいはAudio復号部314a~314dとAudio混合部313との間にある構成としてもよい。
【0032】
(参考例に係るVR観光システムにおける問題点)
Zoom(登録商標)やTeams(登録商標)等のネット会議システムの場合は、ビジネスでの利用であり、ユーザ層も一定のICTスキルを期待できるため、自分でミュートの設定・解除等の操作は可能である。しかしながら、VR観光ユーザは、高齢者から子供の広い年齢層、職業、教育レベル等のユーザである可能性があり、参加者全員がICTスキルを持つことを期待できない。このため、下記のような課題が発生する可能性がある。
【0033】
特に各VRユーザは、自分が話さない時は、自分で自分のVRシステムのミュート機能を使って、ミュートしないと、雑音が混入したり、最悪、ハウリングが発生したりする等の不具合が生じる。しかし、Zoom(登録商標)やTeams(登録商標)のようなネット会議システムに不慣れなVRユーザが、VRシステムで、ミュート操作を行うことや、この操作を覚えさせることは困難と考えられる。
【0034】
(解決すべき課題)
上述したように、参考例に係るVR観光システムでは、下記の4つの解決すべき課題(1)~(4)がある。
【0035】
(1)多様な参加者でもVR観光サービスを利用可能にするシンプルなユーザインターフェースを持つ必要がある。
【0036】
VR観光ユーザは、業務・教育等で使うネット会議システムのユーザと異なり、色々な年齢層、ICT技術の理解レベルの異なる人が参加する。また、VRゴーグルを装着してVR空間に入ることで視界が遮られる。このためコントローラ等を使った操作は、簡単で、単純な下記のような条件を満たすユーザインターフェースが必要となる。ユーザがミュートの概念や操作を覚える必要がないことも必要となる。操作を覚えられない人、操作方法を忘れた人、ルールを守らない人が参加してもVR体験が悪化しないことも必要となる。さらに、VR体験の前にVRシステムの操作を説明が簡単に終えることができること等が重要となる。
【0037】
また、ガイド20は、説明が主体業務であり、ネット会議システムの主催者のように、システム操作を行うことができない。説明業務に集中できるような、非常に簡単なユーザインターフェースがガイド20に必要となる。
【0038】
(2)暴言や継続的な質問等でガイド20の説明を妨害するマナーの悪いVRユーザを排除する必要がある。ネット会議システムでは、業務利用のため、マナーの悪い参加者を想定する必要がない。また、問題が発生した場合でも、システム管理者が強制ミュート等により発言をブロックすることが可能である。VR観光サービスの場合は、ガイド20が問題発生時に簡単な操作で問題解決(会話をブロック)できる機能が必要である。
【0039】
(3)参加者について、一緒に旅行する友達間との私的な会話をサポートできることが必要となる。つまり、ガイド20の説明を阻害しないで、且つ他のグループの参加者に聞かれない、グループ内での自由な会話をサポートすることが必要となる。
【0040】
(4)外国旅行や外国人に対応するため、VR観光の参加者への複数言語対応と複数ガイド対応が必要となる。つまり、同時に複数言語のユーザをサポートするため、複数のガイドや同時通訳者、機械翻訳等のサポートも必要になる。
【0041】
以下、上記4つの課題のそれぞれについて、実施の形態及び実施例を用いて、解決策を説明する。なお、以下で説明する実施の形態及び実施例は、いずれも本開示の一具体例を示す。以下の実施の形態及び実施例で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序等は、一例であり、本開示を限定する主旨ではない。また、各図は、必ずしも厳密に図示したものではない。各図において、実質的に同一の構成については同一の符号を付し、重複する説明は省略又は簡略化する。
【0042】
(実施の形態)
図2Aは、実施の形態に係る映像表示システム1の構成を示すブロック図である。映像表示システム1は、VR(仮想現実)を体験するサービスを提供するシステムであって、参加者10~13が使用するVRシステム30a~30b、説明者端末40、観測システム50、及び、クラウド60を備える。VRシステム30a~30b、説明者端末40、及び、観測システム50は、通信ネットワークを介して、クラウド60と接続される。
【0043】
VRシステム30a~30bのそれぞれは、体験に参加する参加者10~13にVRのための映像であるVR空間を表示する表示部31、及び、参加者10~13との音声による入出力を行う音声処理部32を有する。
【0044】
説明者端末40は、VR空間おいて参加者10~13に向けて体験のための説明をする説明者20との音声による入出力を行う端末であり、質問を受け付けるか否かを示す説明者20からの操作を受け付ける説明者用入力部41を有する。
【0045】
観測システム50は、実世界を撮影することによって360度映像を生成し、クラウド60の映像配信部63に送信するシステムであり、カメラ51及び説明者20の音声を取得するマイク52を有する。
【0046】
クラウド60は、通信ネットワーク上のコンピュータであり、VR空間を生成するための360度映像をVRシステム30a~30bに配信する映像配信部63と、VRシステム30a~30b及び説明者端末40を介して参加者10~13と説明者20との音声会話を支援する音声会話部61と、VRシステム30a~30b、説明者端末40、映像配信部63、及び、音声会話部61の少なくとも一つを制御する制御部62とを備える。
【0047】
ここで、制御部62は、参加者10~13から説明者20への質問が不可能な第1状態、質問が可能な第2状態、及び、質問が行われている第3状態を選択的にとる動作モードを管理し、動作モードを特定する情報を表示部31に表示するように、VRシステム30a~30bを制御する。より詳しくは、制御部62は、複数のVRシステム30a~30bのそれぞれに対応する動作モードを管理し、動作モードを特定する情報を、対応するVRシステム30a~30bの表示部31に表示するように、複数のVRシステム30a~30bを制御する。
【0048】
これにより、参加者10~13は、表示部31に表示される動作モードを特定する情報により、自分の状態について、質問が不可能な第1状態、質問が可能な第2状態、及び、質問が行われている第3状態のいずれであるかを即座に知ることができ、説明者20への質問のための操作が簡素化され、上述した課題(1)(多様な参加者でもVR観光サービスを利用可能にするシンプルなユーザインターフェースを持つ必要がある)が解決される。
【0049】
なお、映像表示システム1は、必ずしも観測システム50を必要としない。クラウド60の映像配信部63は、実写又はCG等によって予め作成されて保持されたストレージから360度映像を読み出してVRシステム30a~30bに配信してもよい。
【0050】
また、制御部62は、クラウド60を構成する一台のコンピュータに設けられる必要はなく、複数台のコンピュータ、VRシステム30a~30b、説明者端末40等の他の装置に、制御部62の全部又は一部が設けられてもよい。つまり、制御部62は、複数の機能モジュールに分割され、複数の装置に分散して設けられてもよい。
【0051】
ここで、制御部62は、説明者用入力部41が第1状態すなわち質問を受け付けない状態とする操作を受け付けた場合、第1状態を示す画像を複数のVRシステム30a~30bの表示部31に表示し、かつ、複数の参加者10~13からの第1の状態すなわち音声入力をミュートにするように、複数のVRシステム30a~30bを制御し、一方、説明者用入力部41が第2状態すなわち質問を受け付ける状態とする操作を受け付けた場合、第2状態を示す画像を複数のVRシステム30a~30bの表示部31に表示し第2の状態すなわち質問が可能な状態とし、かつ、複数の参加者10~13からの音声入力を第1の状態すなわち音声入力をミュートにするように、複数のVRシステム30a~30bを制御してもよい。これにより、説明者20は、説明者用入力部41を用いた簡単な操作で、複数の参加者10~13を対象に、質問を許可するか否かを制御できる。
【0052】
また、制御部62は、複数のVRシステム30a~30bのうちのいずれかの参加者用入力部33が質問をしたいとの要求を示す操作を受け付けた場合、操作を受け付けた参加者用入力部33に対応するVRシステム30a等について、動作モードが第2状態にあるときには、第2状態に代えて第3状態を特定する情報を表示部31に表示し、かつ、その参加者からの音声入力のミュートを解除することで第3の状態とするように、VRシステム30a等を制御してもよい。これにより、参加者10~13は、参加者用入力部33を用いた簡単な操作で、説明者20に質問をすることができる。
【0053】
また、制御部62は、参加者10等からの音声入力のミュートを解除するすなわち第3の状態とするように、VRシステム30a等を制御した場合には、VRシステム30a等を除く他のVRシステム30b等について、第1状態を示す画像を表示部31に表示し、かつ、対応する参加者13等からの音声入力をミュートすることで第1の状態とするように、VRシステム30a等を制御してもよい。これにより、一人の参加者が説明者20に質問をした場合に、他の参加者から質問が出されることが防止され、他の参加者は、その一人の参加者と説明者20との会話を聞くことができる。
【0054】
ここで、説明者用入力部41は、質問を受け付けることを示す操作と質問を受け付けないことを示す操作とを受け付ける一つのボタンであってもよい。これにより、一つのボタンを用いた簡易な操作により、説明者20は、質問を受け付ける状態と、質問を受け付けない状態とを切り替えることができる。
【0055】
同様に、参加者用入力部33は、質問をしたいことの要求および質問をしている最中であることを示す操作と質問を終了したこと示す操作とを受け付ける一つのボタンであってもよい。これにより、一つのボタンを用いた簡易な操作により、参加者10~13は、説明者20に対して、質問を開始することができる。
【0056】
また、音声会話部61は、説明者端末40の説明者用入力部41に代えて、あるいは、加えて、観測システム50のマイク52で取得した説明者20の音声を用いて、参加者10~13と説明者20との音声会話を支援してもよい。これにより、説明者20は、観測システム50のマイク52を用いて、観光案内等の説明と、参加者10~13からの質問に対する回答等の会話とを行うことができる。
【0057】
図2Bは、
図2Aに示された映像表示システム1の変形例1に係る制御部62aの構成を示すブロック図である。本変形例では、制御部62aは、複数の参加者10~13のそれぞれについて説明者20への質問をブロックするか否かを示す許否情報を含むブロック情報70を有し、ブロック情報70に基づいて、許否情報がブロックすることを示す参加者10等について、第1状態を示す画像を参加者10等に対応するVRシステム30a等の表示部31に表示し、かつ、参加者10等からの音声入力をミュートにすることで第1の状態とするように、VRシステム30a等を制御する。これにより、上述した課題(2)(暴言や継続的な質問等でガイド20の説明を妨害するマナーの悪いユーザを排除する必要がある)が解決される。
【0058】
図2Cは、
図2Aに示された映像表示システム1の変形例2に係るクラウド60aの構成を示すブロック図である。クラウド60aは、音声会話部61、制御部62b、映像配信部63、及び、グループ音声会話部64を備える。グループ音声会話部64は、複数の参加者10~13から選択された二人以上の参加者10等間でのグループ音声会話を支援する。制御部62bは、複数の参加者10~13のそれぞれについて所定のグループに属するか否かを示す属否情報を含むグループ情報71を有し、グループ情報71に基づいて、同一のグループに属する複数の参加者10等だけを対象としてグループ音声会話を支援するように、グループ音声会話部64を制御する。これにより、上述した課題(3)(一緒に旅行する友達間との私的な会話をサポートできることが必要となる)が解決される。
【0059】
より詳しくは、制御部62bは、同一のグループに属する複数の参加者10等のいずれもが、対応するVRシステム30a等の動作モードが第1状態又は第2状態である場合に、グループ音声会話を支援するように、グループ音声会話部64を制御する。
【0060】
また、制御部62bは、同一のグループに属する複数の参加者10等のいずれかが、対応するVRシステム30a等の動作モードが第2状態から第3状態に遷移した場合に、グループ音声会話の支援を中断し、当該参加者10等を除く他の全ての参加者13等について、第1状態を示す画像を対応するVRシステム30b等の表示部31に表示し、かつ、参加者13等からの音声入力をミュートするように、VRシステム30a~30bを制御する。これにより、グループ会話が行われているときに、一人の参加者が説明者20への質問を開始した場合に、他の参加者は、その質問を聞くことができる。
【0061】
また、制御部62bは、グループ音声会話を支援しているときに、説明者20から同一のグループに属する複数の参加者10等への音声、及び、グループ音声会話の音声の少なくとも一方の音量を調整するように、同一のグループに属する複数の参加者10等に対応する複数のVRシステム30a等を制御してもよい。これにより、グループ音声会話の参加者は、グループ音声会話と、説明者20による説明との両方を混在させた形態で、聞くことができる。
【0062】
図2Dは、
図2Aに示された映像表示システム1の変形例3に係る映像表示システム1aの構成を示すブロック図である。映像表示システム1aは、
図2Aに示される映像表示システム1において、説明者端末40に代えて第1説明者端末40a及び第2説明者端末40bを備え、クラウド60に代えてクラウド60bを備える。
【0063】
第1説明者端末40aは、説明を第1言語で行う第1説明者20aとの音声による入出力を行う端末である。第2説明者端末40bは、説明を第2言語で行う第2説明者20bとの音声による入出力を行う端末である。
【0064】
クラウド60bは、音声会話部61、制御部62c及び映像配信部63を備える。音声会話部61は、複数のVRシステム30a~30b及び第1説明者端末40aを介して参加者10~13と第1説明者20aとの音声会話を支援する第1音声会話部61aと、複数のVRシステム30a~30b及び第2説明者端末40bを介して参加者10~13と第2説明者20bとの音声会話を支援する第2音声会話部61bとを含む。
【0065】
制御部62cは、複数の参加者10~13のそれぞれについて希望する説明の言語を対応づけた言語情報72を有し、言語情報72に基づいて、第1言語に対応づけられた参加者10等については、第1音声会話部61aによって参加者10等と第1説明者20aとの音声会話を支援し、第2言語に対応づけられた参加者13等については、第2音声会話部61bによって参加者13等と第2説明者20bとの音声会話を支援するように、第1音声会話部61a及び第2音声会話部61bを制御する。これにより、上述した課題(4)(外国旅行や外国人に対応するため、VR観光参加者への複数言語対応と複数ガイド対応が必要となる)が解決される。
【0066】
なお、第2説明者20bは、第1言語と第2言語とを対象とする同時通訳者であってもよい。そのときには、第1音声会話部61aは、さらに、第1説明者20aからの音声を第2説明者20bに出力する。これにより、同時通訳者を含む場合にも対応する映像表示システムが実現される。
【0067】
図2Eは、
図2Dに示された映像表示システム1aの変形例1に係るクラウド60cの構成を示すブロック図である。クラウド60cは、音声会話部61、制御部62c、映像配信部63、及び、音声切替部65を備える。音声切替部65は、同時通訳者からの音声を第2言語に対応づけられた参加者10等に出力することと、第1説明者20a及び第1言語に対応づけられた参加者13等に出力することを切り替える。これにより、第2説明者20bが同時通訳者である場合に、同時通訳者は、参加者に話すことと、第1言語を話す第1説明者20aに話すこととを切り替えることができ、利便性が向上される。
【0068】
図2Fは、
図2Dに示された映像表示システム1aの変形例2に係るクラウド60dの構成を示すブロック図である。クラウド60dは、音声会話部61、制御部62d、映像配信部63、及び、機械翻訳部66a~66bを備える。機械翻訳部66a~66bは、異なる2つの言語(第1言語と第2言語等)の間で機械翻訳をする。
【0069】
制御部62dは、複数の参加者10~13のそれぞれについて希望する説明の言語を対応づけた言語情報72を有し、言語情報72に基づいて、第1言語に対応づけられた参加者10等については、機械翻訳部66a~66bを通さずに参加者10等と説明者20とが音声会話をし、第2言語に対応づけられた参加者13等については、機械翻訳部66a等を通して参加者13等と説明者20とが音声会話をするように、機械翻訳部66a等を制御する。これにより、機械翻訳によるに複数言語対応が可能になる。
【0070】
また、制御部62は、複数の機械翻訳部66a~66bが扱う2つの言語を示す機械翻訳管理情報73を有し、言語情報72及び機械翻訳管理情報73に基づいて、参加者10~13ごとに、参加者10~13に対応づけられた言語とガイドが使用する第1言語との間で翻訳する機械翻訳部を複数の機械翻訳部66a~66bから選択し、選択した機械翻訳部66a~66bを通して参加者10~13と説明者20とが音声会話をするように、複数の機械翻訳部66a~66bを制御してもよい。これにより、異なる複数の種類の機械翻訳に対応した、極めて多数の言語への対応が可能になる。
【0071】
なお、後述する実施例の動作フロー例に示されるように、本開示に係る映像表示方法は、VR(仮想現実)を体験するサービスを提供する映像表示システム1による映像表示方法であって、参加者10~13から説明者20への質問が不可能な第1状態、質問が可能な第2状態、及び、質問が行われている第3状態を選択的にとる動作モードを管理し、動作モードを特定する情報を表示部31に表示するように、VRシステム30a~30bを制御する制御ステップを含む(
図6)。より詳しくは、制御ステップでは、複数のVRシステム30a~30bのそれぞれに対応する動作モードを管理し、動作モードを特定する情報を、対応するVRシステム30a~30bの表示部31に表示するように、複数のVRシステム30a~30bを制御する(
図6、
図2A)。
【0072】
これにより、参加者10~13は、表示部31に表示される動作モードを特定する情報により、自分の状態について、質問が不可能な第1状態、質問が可能な第2状態、及び、質問が行われている第3状態のいずれであるかを即座に知ることができ、説明者20への質問のための操作が簡素化され、上述した課題(1)(多様な参加者でもVR観光サービスを利用可能にするシンプルなユーザインターフェースを持つ必要がある)が解決される。
【0073】
また、制御ステップでは、複数の参加者10~13のそれぞれについて説明者20への質問をブロックするか否かを示す許否情報を含むブロック情報70に基づいて、許否情報がブロックすることを示す参加者10~13について、第1状態を示す画像を参加者10~13に対応するVRシステム30a~30bの表示部31に表示し、かつ、参加者10~13からの音声入力をミュートにすることで第1の状態とするように、VRシステム30a~30bを制御する(
図13、
図2B)。これにより、上述した課題(2)(暴言や継続的な質問等でガイド20の説明を妨害するマナーの悪いユーザを排除する必要がある)が解決される。
【0074】
また、制御ステップでは、複数の参加者10~13のそれぞれについて所定のグループに属するか否かを示す属否情報を含むグループ情報71を有し、グループ情報71に基づいて、同一のグループに属する複数の参加者10~13を対象としてグループ音声会話を支援するように、グループ音声会話部64を制御する(
図13、
図2C)。これにより、上述した課題(3)(一緒に旅行する友達間との私的な会話をサポートできることが必要となる)が解決される。
【0075】
また、制御ステップでは、複数の参加者10~13のそれぞれについて希望する説明の言語を対応づけた言語情報72に基づいて、第1言語に対応づけられた参加者10~13については、第1音声会話部61aによって参加者10~13と第1説明者20aとの音声会話を支援し、第2言語に対応づけられた参加者10~13については、第2音声会話部61bによって参加者10~13と第2説明者20bとの音声会話を支援するように、第1音声会話部61a及び第2音声会話部61bを制御する(
図25、
図2D)。これにより、上述した課題(4)(外国旅行や外国人に対応するため、VR観光参加者への複数言語対応と複数ガイド対応が必要となる)が解決される。
【0076】
また、制御ステップでは、複数の参加者10~13のそれぞれについて希望する説明の言語を対応づけた言語情報72に基づいて、第1言語に対応づけられた参加者10~13については、機械翻訳部66a~66bを通さずに参加者10~13と説明者20とが音声会話をし、第2言語に対応づけられた参加者10~13については、機械翻訳部66a~66bを通して参加者10~13と説明者20とが音声会話をするように、機械翻訳部66a~66bを制御する(
図35、
図2F)。これにより、上述した課題(4)(外国旅行や外国人に対応するため、VR観光参加者への複数言語対応と複数ガイド対応が必要となる)が解決される。
【0077】
以下、実施の形態の具体例として、上記課題(1)~(4)を解決する実施例1~4を説明する。いずれの実施例も、実施の形態に係る映像表示システムをVR観光システムに適用した例として、説明する。
【0078】
(実施例1)
まず、上記課題(1)(多様な参加者でもVR観光サービスを利用可能にするシンプルなユーザインターフェースを持つ必要がある)を解決する具体例として、実施例1を説明する。
【0079】
図3は、実施例1に係るVR観光システム2の概略構成図である。VR観光システム2は、A)VRユーザ10~13がVR観光サービスを体験するためのVRシステム100、110、120及び130と、B)VRクラウド300に設けられ、VRシステム100、110、120及び130内のVR空間を生成するための360度映像を配信する360度映像配信部320と、C)VRクラウド300に設けられ、各VRシステム100、110、120及び130とガイド20との音声会話を実現するためのVR音声会議部310と、D)ガイド20がVRユーザ10~13との音声会話を行うための、スマートフォン210、ヘッドセット220及びガイド用リモコン230で構成されるガイド用端末210等から構成される。
【0080】
より詳しくは、VRシステム100(110、120及び130)は、ディスプレイ101(111、121及び131)と、操作を受け付ける入力部102(112、122及び132)と、VRクラウドと通信する通信部104(114、124及び134)と、ディスプレイ101(111、121及び131)に表示するVR空間を生成するVR空間生成部103(113、123及び133)とを備える。VR空間生成部103(113、123及び133)及びディスプレイ101(111、121及び131)は、実施の形態における表示部31の一例であり、入力部102(110、120及び130)は、実施の形態における参加者用入力部33の一例である。なお、本概略構成図では、実施の形態における音声処理部32の図示は省略されている。
【0081】
VRクラウド300は、会話制御部311及び音声処理部312を有するVR音声会議部310と、360度映像配信部320とを備える。VR音声会議部310は、実施の形態における音声会話部61の一例であり、360度映像配信部320は、実施の形態における映像配信部63の一例であり、会話制御部311は、実施の形態における制御部62の一例である。
【0082】
観測システム200は、通信部201と、撮影部202と、カメラ203と、リモコン204と、マイク205とを備える。カメラ203は、実施の形態におけるカメラ51の一例であり、マイク205は、実施の形態におけるマイク52の一例である。
【0083】
ガイド用端末210等は、実施の形態における説明者端末40の一例であり、スマートフォン210と、ヘッドセット220と、実施の形態における説明者用入力部41の一例であるガイド用リモコン230とで構成される。ガイド指示生成部211は、ガイド用リモコン230からガイド20の指示を取得してVR音声会議部310に出力する機能であり、実施の形態における制御部62の機能のうち、説明者用入力部41からガイド20の指示を取得する機能の一例である。
【0084】
一般の音声会議システムでは、参加者は原則自由に発言できるが、このVR観光システム2はVR観光用のため、参加者が自由に発言できるのではなく、通常はガイド20の説明を聞き、ガイド20が許可した場合のみ、VRユーザ10~13が発言(質問)できるようにすることで、VRユーザ10~13、ガイド20ともに、簡単なユーザインターフェースでVR観光体験することができる。
【0085】
このために、ガイド20がガイド用端末210等内のガイド指示生成部211を使って、VRクラウド300内の会話制御部311を操作することにより、各VRユーザ10~13のVRシステム100、110、120及び130の音声・表示制御(ミュート機能、ガイダンス表示等)を実現している。
【0086】
図4は、実施例1に係るVR観光システム2の動作例を示す図である。より詳しくは、
図4の(a)は、VRシステム100、110、120及び130での表示例、ガイド20のスマートフォン210での音声制御アプリによる表示例240a及び240b、ガイド用リモコン230の操作例、VRユーザ10等によるVRリモコン106の操作例を示す。
【0087】
図4の(b)は、会話制御部311による動作モードの管理例を示す動作モード説明表410を示す。つまり、「ガイドの指示」が「質問不可」である場合には、VRシステムの画面表示例400の右下に「質問不可」400aが表示され(「VRの表示状態」が「質問不可」の表示モード)、かつ、そのVRユーザに対してMute中(「VRシステムのミュート機能」が「Mute中」すなわち第1の状態)となり、一方、「ガイドの指示」が「質問可」である場合には、VRシステムの画面表示例401の右下に「質問可」401aが表示されている(「VRの表示状態」が「質問可」の表示モードすなわち第2の状態)ときには、そのVRユーザに対してMute中(「VRシステムのミュート機能」が「Mute中」)となり、VRシステムの画面表示例402の右下に「質問中」402aが表示されている(「VRの表示状態」が「質問中」の表示モードすなわち第3の状態)ときには、そのVRユーザに対してミュート解除状態(「VRシステムのミュート機能」が「Mute解除」)となる。
【0088】
本図に示されるように、VRシステム100、110、120及び130での3つのガイダンス表示モードと、ガイド20、VRユーザ10等ともに、1ボタンの単純なUIで表示モードの遷移を実現することにより、下記の4つことが実現される。
【0089】
(1)基本的にVRユーザ10~13の発言を常にMute状態にするため、VRユーザ10~13がミュートの概念・操作を覚える必要がない。
【0090】
(2)VRユーザ10~13は質問してよい時とダメな時をVR空間内のガイダンス表示で容易に理解できる(「質問可」と「質問不可」のガイダンス表示の遷移)。
【0091】
(3)VRユーザ10~13が質問したい(ガイド20に話しかけたい)時は、「質問可」のガイダンスが表示されている時に、1ボタン(質問ボタン)を押すことのみで対応できる。このため、覚えることが少なく、忘れにくい。なお、VRシステムの装着時は視界が遮られるので簡単な操作が必須となり、この点は、重要なことである。
【0092】
(4)ガイド20は、質問されたくない(つまり、説明を邪魔されてたくない)時には、何時でも「質問不可」指示の操作のみで(たとえ、質問中であっても)、VRユーザ10~13に対して質問不可にできる。また質問を受付ける時は、「質問可」指示操作のみで、VRユーザ10~13に対して質問可にできる。両操作をトグルボタン等の1ボタンの簡単な操作で行えるため、ガイド20は、説明に集中できる。
【0093】
上記特徴から、A)VRユーザ10~13は、1つのボタン操作で簡単にガイド20との会話を楽しむことができる。B)ガイド20は、1つのボタン操作で簡単にVRシステム100、110、120及び130を制御することができ、VRユーザ10~13に邪魔されることなく円滑に説明を行うことができる。
【0094】
図5は、実施例1に係るVR観光システム2の詳細な構成を示すブロック図である。VR観光システム2は、
図1Bに示される参考例に係るVR観光システム650の構成例において、VRクラウド300のVR音声会議部310に、会話制御部311及びガイド指示記録部315が追加され、VRシステム100、110、120及び130のVR音声会議部105に、会話制御部107及びガイダンス表示制御部109が追加され、ガイド用端末であるスマートフォン210のVR音声会議部250に、入力部212及びガイド指示生成部211が追加されている。
【0095】
つまり、ガイド用端末210等内のVR音声会議部250内に、ユーザの入力を受け付ける入力部212と、入力に基づきガイド20の指示内容をVRクラウド300内のVR音声会議部310に伝えるガイド指示生成部211とを持つ。また、VRクラウド300内にガイド用端末210等から送られてくる、ガイド20の指示を受け取り、その指示内容をガイド指示記録部315に記録すると同時に、VRシステム100、110、120及び130のVR音声会議部105を制御するための制御指示を生成し、VRシステム100、110、120及び130に伝達する会話制御部107とを持つ。
【0096】
さらに、VRシステム100、110、120及び130のVR音声会議部105内に、VRクラウド300から送られてくる制御指示の内容や、ユーザ入力に従ってMute部108cのMute状態を設定することと、ガイダンス表示制御部109に指示することで「質問可」等のガイダンス表示状態を変えることをつかさどる会話制御部107を持つ。
【0097】
このような構成で、次に示す
図6に示される実施例1に係るVR観光システム2の動作フロー例のアルゴリズムが実行されることで、
図4に示される機能が実現される。
【0098】
図6は、実施例1に係るVR観光システム2の動作フロー例(つまり、映像表示方法の具体例)を示す図である。より詳しくは、
図6の(a)は、VRシステム100、110、120及び130の動作フローを示し、
図6の(b)は、参照用として、
図4の(b)と同じ動作モード説明表410を示し、
図6の(c)は、VRクラウド300の動作フローを示す。
【0099】
VRクラウド300は、
図6の(c)に示されるように、ガイド用端末210等の入力部212及びガイド指示生成部211を介して、スマートフォン210のAPPやガイド用リモコン230等から「ガイドの指示」(動作モードの遷移として、「質問可」への遷移、「質問不可」への遷移)を受け付けることができる(S10)。
【0100】
そして、会話制御部311は、受け付けた「ガイドの指示」を判定し(S11)、下記の2つの処理に振り分ける。つまり、「ガイドの指示」が「質問可」の場合は(S11でY)、指示を「質問可」に設定し(S13)、「ガイドの指示」が「質問不可」の場合は(S11でN)、指示を「質問不可」に設定する(S12)。
【0101】
そして、会話制御部311は、ガイド20が新たな指示を行ったことを指示内容とともに、全てのVRシステム100、110、120及び130に通知し(S14)、ステップS10に戻る。
【0102】
一方、各VRシステム100、110、120及び130は、VR観光配信サービスのメイン処理を行うが、
図6の(a)に示されるように、下記の2つの割り込み処理(S30~S40及びS20~S24)があれば、その割り込み処理を行い、メイン処理に戻る。割り込み処理がなければ、VR観光配信サービスが終了するまで、VR観光サービスでの受信処理を継続する。
【0103】
なお、VRシステム100、110、120及び130のメイン処理とは、VRシステム100、110、120及び130がVRユーザ10~13にVR観光のためのVR空間を提供する処理であり、360度映像配信部320から送られてくる360度映像を受信し、受信した360度映像を映像データと音声データとに分離し、分離した音声データを復号した後に、VR観測システム200の位置及び方位に依存した音声処理を行って音声としてスピーカーに出力し、一方、分離した映像データを復号した後に、360度球体映像にマッピングし、さらに、VR観測システム200の位置及び方位に依存した映像切り出しを行って映像としてディスプレイに出力する処理である。
【0104】
一つ目の割り込み処理は、VRシステム100、110、120及び130のユーザ入力割り込み処理である。会話制御部107は、VRリモコン106等からのVRユーザ入力を受信し(S30)、受信したVRユーザ入力が「質問中」要求の場合は(S31でY)、ガイド指示記録部315の情報を参照する(S33)。
【0105】
その結果、ガイド指示の値が「質問不可」すなわち第1の状態の場合は(S35でN)、処理を終了し、一方、ガイド指示の値が「質問可」で(S35でY)、かつ、表示モードが「質問可」すなわち第2の状態の場合は(S36でN)、ガイダンス表示制御部109は、表示モードを「質問中」に変え(S37)、Mute部108cは、Mute解除に設定して(S38)、すなわち第3の状態とし処理を終了する。
【0106】
一方、ガイド指示の値が「質問可」(S35でY)、かつ、表示モードが「質問中」すなわち第3の状態の場合は(S36でY)、ガイダンス表示制御部109は、表示モードを「質問可」に変え(S39)、Mute部108cは、Muteにすなわち第2の状態に設定して(S40)、処理を終了する。
【0107】
なお、VRユーザ入力が「質問中」要求以外の場合は(S31でN)、会話制御部107は、そのVRユーザ入力の処理を行い(S32)、処理を終了する。
【0108】
二つ目の割り込み処理は、VRクラウド300からの割り込み処理である。会話制御部311は、VRクラウド300から受け取ったガイド指示を、ガイド指示記録部315に記録する(S20)。
【0109】
そして、ガイド指示が「質問可」の場合は(S21でY)、ガイダンス表示制御部109に対して、表示モードを「質問可」すなわち第2の状態にさせ(S23)、処理を終了する。一方、ガイド指示が「質問不可」の場合は(S21でN)、ガイダンス表示制御部109は、表示モードを「質問不可」にし(S22)、Mute部108cは、Muteに設定し(S24)、すなわち第1の状態とし処理を終了する。
【0110】
図7は、実施例1に係るVR観光システム2のVRシステム100、110、120及び130の具体的な構成例を示す図である。本構成例では、VRシステム100、110、120及び130は、コンピュータまたはスマートフォン(コンピュータ/スマートフォン160)と、それに接続されたHMD(ヘッドマウントディスプレイ)またはVRグラス(HMD/VRグラス140)とから構成される。なお、本構成例に代えて、VRシステム100、110、120及び130は、HMD/VRグラス140単体で実現されてもよい。その場合は、双方のCPUとGPUの機能を一つにし、周辺の機能もまとめたものになる。
【0111】
コンピュータ/スマートフォン160は、主な構成として、VRシステム100、110、120及び130と接続するためのWiFi(登録商標)やイーサネット(登録商標)などに対応した高速な通信素子163、映像データやグラフィックスの処理を主に行うGPU(Graphics Processing Unit)165、一般的なデータ処理及びコンピュータ/スマートフォン160全体の制御を行うCPU(Central Processing Unit)170、CPU170やGPU165を動作させるためのプログラムを記憶するためのハードディスクやフラッシュメモリなどの不揮発性メモリ167、CPU170やGPU165が動作するためのデータの格納に用いるRAM166、電源スイッチ168や各部に電源を供給するための電源制御素子169、HMD/VRグラス140に映像と音声信号を出力するためのAV出力端子161、HMD/VRグラス140を制御したりそこからデータを取得するためのUSB(Universal Serial Bus)162などのI/F、RAM166や不揮発性メモリ167を接続しCPU170やGPU165がアクセスしたりするためのメモリバス、CPU170やGPU165がAV出力端子161、USB162、通信素子163にアクセスするためのシステムバス、システムバスとメモリバスを接続するバス変換部164、図示していない表示装置、操作のための入力装置、その他の汎用のI/F(インターフェース)などから構成される。
【0112】
CPU170は、プログラムの実行により発揮する機能として、映像データと音声データとを多重化する多重化部170aと、受け取った360度映像から映像データと音声データとを分離する分離部170bと、分離された音声データを復号する音声復号部170cと、復号された音声データの再生を制御する音声再生制御部170dとを有する。
【0113】
GPU165は、プログラムの実行により発揮する機能として、HMD/VRグラス140の動き・位置検出部165aで生成された動き・位置データを受け取り、VRユーザの動き・位置を検出する動き・位置検出部165aと、検出されたVRユーザの動き・位置に基づいてVR空間の生成指示を出すVR制御部165bと、CPU170で分離された映像データを復号するVR映像復号部165cと、「質問不可」、「質問可」及び「質問中」等のガイダンスの表示生成を指示するガイダンス表示生成部165dと、その指示に従ってガイダンスのグラフィックスを生成するグラフィックス生成部165eと、VR制御部165bからのVR空間の生成指示に基づいて、VR映像復号部165cで復号された映像データ、及び、グラフィックス生成部で生成されたグラフィックスを合成し、VR映像として、HMD/VRグラス140に出力するVR表示制御部165fとを有する。
【0114】
なお、いくつかの処理については、GPU165で行うかCPU170で行うかは本例と異なる場合があり、バス構成も本例と異なる場合があるが、機能構成、動作に違いはない。また、AV出力端子161とUSB162については、高速な双方向I/Fとして、例えばUSB_TypeC(登録商標)などのI/Fで替えることもできる。その場合、HMD/VRグラス140も同じI/Fで接続するか、I/Fを変換する変換器で接続することになる。一般的にUSB162で映像を送る場合、適切な圧縮によってデータ量を圧縮するため、CPU170またはGPU165で適切な映像圧縮を行い、USB162を経由して、VR映像をHMD/VRグラス140に映像を送出する。
【0115】
一方、VRシステム100、110、120及び130におけるHMD/VRグラス140は、主な構成として、音声を入力するためのマイク157a、マイクアンプ157b、ADC(A/D変換器)157cからなる音声入力部、スピーカー158c、ヘッドフォン端子158d、アンプ158b、DAC(D/A変換器)158aからなる音声出力部、使用者がVR映像を見るための2組のレンズ153a及び153bと表示素子152a及び152bからなるVR表示部、ジャイロセンサ、カメラあるいは超音波マイクなどからなる動き・位置検出部および方位検出部からなる動き・位置センサ141、図示していないコントローラと通信するためのBluetooth(登録商標)などの無線通信素子148、音声出力部からの出力音量を制御するための音量ボタン142、HMD/VRグラス140の電源をON/OFFするための電源スイッチ143、電源制御のための電源制御素子145、EEPROM154、RAM155、SDカード(登録商標)とGPU151、CPU156を接続しメモリとのデータのやり取りを行うメモリバス、CPU156、GPU151、無線通信素子148、コンピュータ/スマートフォン160からの映像信号と音声信号とを受けるためのAV入力端子146、コンピュータ/スマートフォン160からの制御信号を受けたり、映像や音声信号や動き・位置のデータを送ったりするためのUSB147などのI/F、主に音声圧縮(音声圧縮部156a)やスイッチや電源などの制御、HMD/VRグラス140全体の制御を行うCPU156、主にVR表示部への映像の調整を行う映像表示処理部151bと動き・位置センサ141からの情報からコンピュータ/スマートフォン160に送る動き・位置情報を補正・成形する動き・位置検出部151aを有するGPU151、CPU156とGPU151を動作させるためのプログラムやデータを記憶するためのEEPROM154、CPU156とGPU151の動作時のデータを記憶するためのRAM155、CPU156、GPU151、RAM155とEEPROM154を接続するためのメモリバス、CPU156、GPU151、USB147、音声入力部、音声出力部および無線通信素子148が接続され、制御やデータのやり取りを行うシステムバス、前述のボタンや電源制御素子145、動き・位置センサ141また図示されていないが音声入力部、音声出力部およびVR撮影カメラなどを含めて制御や低速のデータのやり取りを行うI/Oバス、およびそれぞれのバスを接続するいくつかのバス変換部150から構成される。
【0116】
さらに、HMD/VRグラス140は、BLE(ブルーツース・ロー・エナジー;登録商標)149を介してVRリモコン106と接続可能にされており、VRユーザ10~13がガイド20と会話を行いたい時の「質問」を要請する操作が可能になっている。
【0117】
なお、いくつかの処理についてはGPU151で行うかCPU156で行うかは本例と異なる場合があり、バス構成も本例と異なる場合があるが、機能構成、動作に違いはない。
【0118】
また、AV入力端子146からの映像データはデータ量が多く高速であるため、システムバスが十分な速度を持っていない場合、映像データが、直接、GPU151にとりこまれるとして図示している。
【0119】
また、動き・位置センサ141が有するカメラで撮影された映像情報は、HMD/VRグラス140の周辺をVRユーザが確認する情報として表示素子152a及び152bに送られたり、USB147を通じてコンピュータ/スマートフォン160へ送付し、使用者が危険な状況にないかの監視を行ったりすることがある。
【0120】
また、電源制御素子145は、USB147またはAV入力端子146からの電源供給を受け、電圧の安定化、バッテリー容量の管理などを行い、図示していないがすべての構成要素に電源を供給する。場合によっては、バッテリー144を内部あるいは外部に設け、バッテリー144を電源制御素子145に接続する場合がある。
【0121】
図示していないコントローラのボタンやカーソルの状態は、無線通信素子148を通じてCPU156が取得し、VR空間でのボタン操作、移動やアプリケーションの操作に用いられる。コントローラの位置及び向きは、動き・位置センサ141が有するカメラあるいは超音波センサなどで検出し、適切な処理を動き・位置センサ141で行ったのち、CPU156での制御に用いられるとともに、USB147を経由してコンピュータ/スマートフォン160へ送られ、CPU156で実行されるプログラムあるいはGPU151で実行されるグラフィックスの描画や画像処理に用いられる。
【0122】
図8は、実施例1に係るVR観光システム2のガイド用端末210等が有するVR音声会議部250の具体的な構成例を示す図である。VR音声会議部250は、VRクラウド300との通信手段(5Gのようなキャリア通信、もしくはWi-Fi(登録商標)を使ってPCまたはスマートフォン210等のVRクラウド300との通信機能を持った端末を経由した通信手段)と、マイク216及びスピーカー217等の音声入出力を行う外部機器と接続するためのオーディオ・インターフェース215と、アナログ音声をデジタルデータに変換またはその逆処理を行う、A/D変換器213a及びD/A変換器214bと、デジタル音声データを圧縮・復号するためのAudio圧縮部213b及びAudio復号部214aと、マイク216からの音声信号を一時的に送らないためのMute部213cと、入力をガイド指示に変換してVRクラウド300に送るガイド指示生成部211とを持つ。
【0123】
さらに、ガイド用端末210等は、外部のヘッドセット220、ガイド用リモコン230等とBLE(登録商標)等の省電力通信を使って通信する通信部・ヘッドセット用CODEC211a、及び、その通信に従って入力指示をしてガイド指示生成部211に出力する入力処理部211bを持つ。
【0124】
ガイド用端末210等は、専用端末を使っても良いが、スマートフォン210とスマートフォン210のAPPで容易に実装可能なため、ガイド20の持つスマートフォン210(社用・私用)にAPPとして実装されてもよい。ただし、スマートフォン210を操作する代わりに、スマートフォン210のBLE(登録商標)等の低消費電力通信で接続されるガイド用リモコン230を使う方が、簡単に操作できるうえ、操作していることがVRユーザ10~13からも分からないため、より好ましい。ガイド用リモコン230を使えば、説明中にも、単に手に持ったガイド用リモコン230のボタンをブラインド・プッシュすることで操作できる。
【0125】
以上のように、実施例1に係るVR観光システム2により、
図4に示される簡単なユーザインターフェースが実現され、上記課題(1)が解決される。
【0126】
(実施例1の変形例1)
次に、実施例1の変形例1を説明する。
【0127】
図9は、実施例1の変形例1に係るVR観光システム2aの概略構成図である。VR観光システム2aは、実施例1に係るVR観光システム2を「VR酔い防止機能」をもつVR観光システム及び「迷子防止機能」をもつVR観光システムに適用したシステムである。
【0128】
ここで、「VR酔い防止機能」をもつVR観光システムとは、次の機能を備えるVR観光システムである。つまり、「VR酔い防止機能」をもつVR観光システムは、VR観光等で撮影される360度カメラの移動に伴うVR酔いを回避するために、VR観測システムから、360度映像に加え、メタデータ(360度映像を撮影するカメラ移動やパンの開始時刻や移動方向等)をVRシステムに送り、VRシステムでカメラ移動の直前や移動期間中に適切に視聴者に移動することを知らせる視覚的効果(画面上の表示等)や非視覚的効果(音、コントローラの振動等)を発生させることで、視聴者に準備を促したり、酔わないようにしたりするために、通常とは異なる視覚効果映像を表示したりすることで、VR酔いを回避(軽減)する機能を備える。
【0129】
また、「迷子防止機能」をもつVR観光システムとは、次の機能を備えるVR観光システムである。つまり、「迷子防止機能」をもつVR観光システムは、VRユーザに対して、観光ガイド(引率者、説明者)等により発生されるトリガー等を含むメタデータをVRシステムに送ることにより、ガイドの位置の視覚ガイダンスやガイドが指定(説明)する物体の3D空間内での位置を示す視覚ガイダンスを映像・音声・振動等により示すことで、ユーザが迷子になることを防ぐ機能を備える。
【0130】
本変形例に係るVR観光システム2aは、VRシステム100、110、120及び130と、VRクラウド300aと、観測システム200aと、ガイド用端末(スマートフォン210、ガイド用リモコン230)とを備える。
【0131】
ガイド用端末210等は、取得したメタデータ用付加情報219a及び219bを、それぞれ、VRクラウド300a及び観測システム200aに送る。観測システム200aは、360度映像を取得するための乗物206に搭載されたカメラ203、リモコン204、撮影部202及び通信部201を有し、ガイド用端末210等から受信したメタデータ用付加情報219bと360度映像とをVRクラウド300aに送信する。VRクラウド300aは、ガイド用端末210等から受信したメタデータ用付加情報219aと観測システム200aから受信した360度映像とをVRシステム100、110、120及び130に配信する360度映像配信部320aを有する。VRシステム100、110、120及び130では、VR空間生成部103は、VRクラウド300aから受信したメタデータにより、表示を変化させることで、「VR酔い防止機能」及び「迷子防止機能」を発揮する。
【0132】
要するに、本変形例に係るVR観光システム2aでは、各種方法(360度映像を撮影するカメラ移動やパンの開始時刻や移動方向等)で、メタデータの基になる付加情報を取得し、メタデータを生成し、VRクラウド300a経由で各VRシステム100、110、120及び130に送る。VRシステム100、110、120及び130は、このメタデータに基づいて、360度映像を使ってVR空間を再現する際に、付加情報を生成することで、VR酔いを防止したり、適切なガイダンス情報を提示したりする。
【0133】
ここで、ガイド用端末として、GPS、IMU(慣性計測装置)、カメラ等の機能を持つスマートフォン210を想定した場合、(1)スマートフォン210の位置情報、加速度情報等を使ってメタデータ生成に有効なデータを取得し、VRクラウド300a及び観測システム200aに送り、VRクラウド300a及び観測システム200aでメタデータを生成すること、及び、(2)スマートフォン210の位置情報、加速度情報等を使ってメタデータ生成に有効なデータを取得し、それをVRクラウド300aに送り、VRクラウド300aで、観測システム200aから来たメタデータと組合せてメタデータを作ること、の2つが可能になる。
【0134】
また、スマートフォン210にBLE(登録商標)等で通信可能なガイド用リモコン230に、移動開始、停止ボタン等を追加して、ガイド20が移動前や移動停止前にボタンを押すことで、移動の検出等の精度を上げ、より適切なメタデータを生成することもできる。
【0135】
(実施例1の変形例2)
次に、実施例1の変形例2を説明する。
【0136】
図10は、実施例1の変形例2に係るVR観光システム2bの概略構成図である。VR観光システム2bは、上記課題(1)(多様な参加者でもVR観光サービスを利用可能にするシンプルなユーザインターフェースを持つ必要がある)を解決する2つ目の具体例に相当する。
【0137】
図5に示される実施例1に係るVR観光システム2では、ガイド用端末210等は、VRユーザ10~13の声を聴く機能と、ガイド20の音声をVRクラウド300経由でVRユーザ10~13に伝える2つの機能を持っていた。本変形例に係るVR観光システム2bでは、ガイド20の音声は、観測システム200のマイク205から取得される。よって、本変形例に係るVR観光システム2bでは、ガイド20の音声を、ガイド用端末210等及びVRクラウド300aのVR音声会議部310aから、VRシステム100、110、120及び130に転送する部分が、実施例1に係るVR観光システム2から削除されている。
【0138】
以上のように、本変形例に係るVR観光システム2bであっても、実施例1と比較してガイド20の音声が取得される経路が変更されるだけであり、上記課題(1)が解決される。
【0139】
(実施例2)
次に、上記課題(2)(暴言や継続的な質問等でガイド20の説明を妨害するマナーの悪いVRユーザを排除する必要がある)を解決する具体例として、実施例2を説明する。
【0140】
VRユーザによる暴言や継続的な質問等でガイド20の説明を妨害する不適切発言ユーザもVR観光に参加する可能性がある。このような参加者の発言を排除しないと、他の善良なVRユーザの観光体験が阻害される。このような事態が発生時には、ガイド20が簡単な操作で対処できる必要がある。具体的には、ガイド20の指示で該当ユーザの発言をミュートし、今後は発言できないように他のユーザが「発言可」になる状況でも「発言不可」が継続するようにする機能が必要となり、このような機能をもつVR観光システムを、実施例2に係るVR観光システムとして説明する。実施例2に係るVR観光システムは、実施例1に係るVR観光システム2に、課題(2)を解決する機能が追加されたシステムである。
【0141】
図11は、実施例2に係るVR観光システムの動作例を示す図である。より詳しくは、
図11の(a)は、VRシステム100、110、120及び130での表示例、ガイド20のスマートフォン210での音声制御アプリによる表示例240c及び240d、ガイド用リモコン230の操作例、VRユーザ10等によるVRリモコン106の操作例を示す。
図11の(b)は、
図4の(b)と同じ動作モード説明表410を示す。
図4の(c)は、本実施例に係るVR音声会議部が有するユーザ管理テーブル330を示す。ユーザ管理テーブル330は、複数の参加者のそれぞれについて説明者への質問をブロックするか否かを示す許否情報を含む実施の形態におけるブロック情報70の一例であり、具体的には、VRユーザ(「User-ID」)ごとに上記ブロックの対象となるユーザである(「Block」)か否か(「OK」)を示す「Mode」を記録した情報テーブルである。
【0142】
図11の(a)に示されるように、VRシステム100、110、120及び130が3つの表示モードを有すること、ガイド用リモコン230及びVRリモコン106のUI、内部動作処理は、実施例1と同一である。
【0143】
また、VRクラウドでは、ガイド指示の基本機能(「質問可」401a、「質問不可」400aの切り替え)は、実施例1と同一であるが、下記の機能が追加されている。
【0144】
つまり、
図11の(c)に示されるように、VRユーザ毎に、健全ユーザか、不適切発言ユーザかを記録するユーザ管理テーブル330がVRクラウド内に追加されている。ユーザ管理テーブル330は、実施の形態の変形例1におけるブロック情報70の一例である。
【0145】
また、
図11の(a)の表示例240c及び240d、ガイド用リモコン230の操作例に示されるように、ガイド20が不適切発言ユーザの発言をブロック(強制ミュート)するための「ブロック」指示と、ブロックしたユーザの発言を可能にする「解除」指示とを可能にする機能が追加されている。
【0146】
さらに、「ブロック」指示を出した場合は、該当ユーザのユーザ管理テーブル330におけるModeの値を「Block」に変えるとともに、該当ユーザに対して強制ミュートを行う機能が追加されている。
【0147】
また、ガイド20が「解除」指示を出した場合は、全ユーザのユーザ管理テーブル330のModeの値を「OK」に変える機能が追加されている。なお、ガイド20が「発言可」指示を出した場合、ユーザ管理テーブル330のModeの値が「Block」のユーザに対しては、VRシステムでの表示は、「質問不可」400aのままで変わらない。
【0148】
図12は、実施例2に係るVR観光システム3の概略構成図である。VR観光システム3は、実施例1に係るVR観光システム2に、課題(2)を解決する機能が追加されたシステムであり、VRシステム100、110、120及び130と、VRクラウド300bと、ガイド用端末210等と、観測システム200とを備える。VRクラウド300bのVR音声会議部310は、実施例1のものに加えて、ユーザ管理テーブル330を有する。
【0149】
VRユーザ10~13のVRシステム100、110、120及び130の構成は、
図5に示される実施例1に係るVR観光システム2の構成例と同じであり、VRユーザ10~13の操作方法も同じである。つまり、VRユーザ10~13は、不適切発言ユーザがブロックされることに気づかないようになっている。
【0150】
ガイド用端末210等のVR音声会議部250内の構成も実施例1と同じである。変更点は、入力部212で受け付ける入力が、実施例1に係るVR観光システム2における「質問可」、「質問不可」に加え、「ブロック」と「解除」が追加されたため、VRクラウド300bに送られる「ガイドの指示」も追加されている。
【0151】
VRクラウド300bのVR音声会議部310は、実施の形態の変形例1における制御部62aの一例であり、VRクラウド300b内にガイド用端末210等から送られてくる「ガイドの指示」を受け取り、その指示内容が「質問可」または「質問不可」の場合は、「ガイドの指示」をガイド指示記録部315に記録する。VR音声会議部310は、ガイド20からの指示が「ブロック」と「解除」の場合は、不適切発言ユーザを記録するためのユーザ管理テーブル330を、指示に応じて更新する。
【0152】
さらに、VR音声会議部310は、VRシステム100、110、120及び130のVR音声会議部105を制御するための「制御指示」を生成して、全VRシステム100、110、120及び130に伝達し、その結果、VRシステム100、110、120及び130では、ガイダンス表示制御部109は、ブロック対象ユーザに対しては、常に「質問不可」400aを表示する。
【0153】
図13は、実施例2に係るVR観光システム3の動作フロー例(つまり、映像表示方法の具体例)を示す図である。より詳しくは、
図13の(a)は、VRシステム100、110、120及び130の動作フローを示し、
図13の(b)は、参照用として、
図11の(c)と同じ動作モード説明表410を示し、
図13の(c)は、VRクラウド300bの動作フローを示し、
図13の(d)は、参照用として、
図11の(c)と同じユーザ管理テーブル330を示す。
【0154】
VRクラウド300bでは、
図13の(c)に示されるように、会話制御部311は、ガイド用端末210等の入力部212及びガイド指示生成部211を介して、スマートフォン210のAPPやガイド用リモコン230等から「ガイドの指示」(「質問可」への遷移、「質問不可」への遷移)を受け付けることができる(S50)。
【0155】
そして、会話制御部311は、受け付けた「ガイドの指示」を判定し、下記の4つの処理に振り分ける(S51~S54)。つまり、「ガイドの指示」が「質問可」の場合は(S51でY)、指示を「質問可」に設定し(S60)、「ガイドの指示」が「質問不可」の場合は(S52でY)、指示を「質問不可」に設定し(S61)、「ガイドの指示」が「Block」の場合は(S53でY)、現在会話中のユーザのユーザ管理テーブル330での値を「Block」に変更し(S62)、「ガイドの指示」が「Block解除」の場合は(S54でY)、ユーザ管理テーブル330の全ユーザの値を「OK」に変更する(S63)。
【0156】
そして、会話制御部311は、ガイド20が新たな指示を行ったこと(指示変更通知)を、指示内容とともに、全VRシステム100、110、120及び130に通知し(ただし、ユーザ管理テーブル330での値が「Block」のユーザには「質問不可」を指示内容として通知し)(ステップS70~S75)、ステップS50に戻る。
【0157】
より詳しくは、指示変更通知を各VRシステムに送信する処理(S70~S75)では、会話制御部311は、まず、変数Nを1にセットし(S70)、次に、ユーザ管理テーブル330のN番目の値を取り出して、変数Nをインクリメントする(S71)。そして、会話制御部311は、ユーザ管理テーブル330から取り出した値が「Block」であるか否かを判断し(S72)、「Block」である場合には(S72でY)、指示を「質問不可」に設定したうえで(S73)、指示変更通知を対応するVRシステムに送信する(S74)。ユーザ管理テーブル330から取り出した値が「Block」でない場合には(S72でN)、会話制御部311は、指示を「質問不可」に設定することなく、指示変更通知を対応するVRシステムに送信する(S74)。
【0158】
会話制御部311は、全VRユーザについて確認を終えたか否かを判断し(S75)、終えていない場合には(S75でN)、全VRユーザについて確認を終えるまで、ステップS71~S75を繰り返す。
【0159】
一方、各VRシステム100、110、120及び130の動作は、
図13の(a)に示されるように、実施例1における各VRシステム100、110、120及び130の動作と同じである。つまり、各VRシステム100、110、120及び130では、VR観光配信サービスのメイン処理を行うが、
図13の(a)に示されるように、VRクラウド300からのガイド指示による割り込みがあった場合には、実施例1と同様の割り込み処理を行う(S20~S25)。また、
図13には図示されていないが、VRリモコン106等からのVRユーザ入力による割り込みがあった場合には、VRシステム100、110、120及び130は、実施例1と同様の割り込み処理を行う(
図6のS30~S40)。
【0160】
以上のように、実施例2に係るVR観光システム3により、
図11に示される動作例のように、簡単なユーザインターフェースを用いて不適切発言ユーザによる発言が排除され、上記課題(2)が解決される。
【0161】
(実施例3)
次に、上記課題(3)(一緒に旅行する友達間との私的な会話をサポートできることが必要となる)を解決する具体例として、実施例3を説明する。
【0162】
課題(3)を解決する具体例を説明する前に、まず、課題(3)について、図を用いて、詳細に説明する。
【0163】
図14は、
図1Aに示される参考例に係るVR観光システム650に課題(3)の説明を追記した図である。
図14に示されるように、参考例に係るVR観光システム650では、各VRユーザ10~13は、それぞれ、別のVRシステム600、610、620及び630を使ってVR観光サービスに参加しているため、参加中は共通のVR空間内でしか会話ができない。つまり、VR空間内でのVRユーザ10~13の発言は、全参加者間で共有されるため、プライベートな会話を行うことができない。
【0164】
ところで、VR観光システムではなく、ビジネス用のWeb会議システムの場合は、会議中に私的な会話は通常許されないので、そのような用途はあまりない。このためTeams(登録商標)やZoom(登録商標)等のWeb会議システムでは、別の会議室に行って話すという「Breakout Room」機能が提供されているが、同じ会議室で、特定グループ内での私的会話を行う機能はない。また、VRChat等の3DCGで構成されたVR空間での交流、会議システムでは、VR空間内の距離が近い人の声は大きく、遠い人の声は小さくなる等の機能はあるが、グループ内の私的会話機能は実装されていない。
【0165】
通常のリアルの団体旅行中に、同行者との私的な会話をできなくなる状況は起こらない。従ってVR観光サービスでは、同一グループ内の会話のサポートが必要となる。その場合、ガイド20やグループ外の旅行者には聞かれないようにすることが必要である。
【0166】
そこで、一緒に旅行する友達間との私的な会話をサポートできる機能が必要となり、このような機能をもつVR観光システムを、実施例3に係るVR観光システムとして、説明する。実施例3に係るVR観光システムは、実施例2に係るVR観光システム3に、課題(3)を解決する機能が追加されたシステムである。
【0167】
図15は、実施例3に係るVR観光システムの動作例を示す図である。より詳しくは、
図15の(a)は、VRシステム100、110、120及び130での表示例、ガイド20のスマートフォン210及びガイド用リモコン230、VRユーザ10等のVRリモコン106を示す。
【0168】
図15の(b)は、本実施例における動作モード説明表411を示す。この動作モード説明表411は、実施例1における動作モード説明表410に「グループ音声会議へのミュート機能」の項目が追加されている。「グループ音声会議へのミュート機能」の項目に示されるように、「VRシステムのミュート機能」が「Mute中」の場合には、「グループ音声会議へのミュート機能」は、「グループ会話可(Mute解除)」となり、「VRシステムのミュート機能」が「Mute解除」の場合には、「グループ音声会議へのミュート機能」は、「Mute中」となる。
【0169】
図15の(c)は、本実施例に係るVR音声会議部が有するユーザ管理テーブル331を示す。ユーザ管理テーブル331は、実施例2に係るユーザ管理テーブル330に、VRユーザごとのグループID(「G-ID」)が追加された情報テーブルである。ユーザ管理テーブル331は、実施の形態の変形例2におけるグループ情報71の一例である。
【0170】
ネット会議に参加中、参加者の一部と他の参加者や発表者に聞かれないようして、会話することはできないが、ネット会議参加中にミュートにして、自分の会話がネット会議に流れないようにした上で、別途Line(登録商標)やWeChat(登録商標)等のチャットアプリを使うことで、一部参加者とのグループ通話が可能になる。しかし、PCでネット会議に参加し、スマートフォン210でチャットアプリを起動するのは面倒であり、1つのVR観光システムで両方の機能のサポートが望まれる。
【0171】
本実施例では、
図4に示される動作例で説明したVR観光システムをベースに、VRユーザがVR観光の申し込み時(参加時、参加中)に申請したグループ毎に、VRクラウド内に別の音声会議を設定する機能を組み合わせることで、グループ内の私的会話を実現するものである。単に2つのシステムを組み合わせると、操作が複雑になったり、Mute部等を不適切に使うとグループ会話がVR空間に漏れ出したりして、ガイド20や他のVRユーザの迷惑になりかねない。
【0172】
そこで、本実施例では、
図15に示す動作例のように、VRユーザ10~13が明示的にガイド20への質問を行わない限り、VR空間内にVRユーザ10~13の声は伝わらない。つまり、「質問不可」及び「質問可」の状況では、グループ内の会話が、VR空間には共有されない(
図15の(b)の「グループ音声会議へのミュート機能」が「グループ会話可(Mute解除)」)。つまり、グループ内会話のためには、VRユーザの操作は全く不要である。一方、グループ内のVRユーザ10等がガイド20に質問するために、ガイド20がガイド用リモコン230による操作で「質問中」にした場合のみ、VR観光システムが該当ユーザのグループ用音声会議がMuteになる(
図15の(b)の「グループ音声会議へのミュート機能」が「Mute中」)。
【0173】
本実施例のVR観光システムを使えば、別の参加者にはグループ内の会話は全く聞こえないため、現実世界以上にプライバシーが守られた団体観光が可能になる。
【0174】
図16は、実施例3に係るVR観光システム4の詳細な構成を示すブロック図である。VR観光システム4は、実施例2に係るVR観光システム3に、課題(3)を解決する機能が追加されたシステムであり、VRシステム100、110、120及び130と、VRクラウド300cと、ガイド用端末210等と、観測システム200とを備える。
【0175】
VRクラウド300cでは、実施例2のVRクラウド300bに、グループごとに音声会議を支援するグループ用音声会議部341a~341cと、VR観光及びグループ音声会議を管理するVR観光サービス管理部340とが追加され、実施例2のユーザ管理テーブル330に代えて、グループIDが追加されたユーザ管理テーブル331が備えられている。グループ用音声会議部341a~341cは、実施の形態の変形例2におけるグループ音声会話部64の一例であり、VR観光サービス管理部340は、実施の形態の変形例2における制御部62bの一例である。
【0176】
また、VRシステム100、110、120及び130のVR音声会議部105aでは、実施例1及び実施例2のVR音声会議部105の構成に、VRクラウド300cから送られてくる360度映像から360度映像と音声データとを分離するAV分離部183と、分離された音声データを復号するAudio復号部184と、VRクラウド300cのグループ用音声会議部341a~341cから送られてくる音声データを復号するAudio復号部182aと、Audio復号部182a及びAudio復号部184で復号された2つの音声データを混合するAudio混合部182bと、混合された音声データをアナログの音声信号に変換してスピーカー182dに出力するD/A変換器182cとが追加され、実施例1及び実施例3のMute部108cに代えて、VR観光用のMute処理を行う第1Mute部181及びグループ用音声会議部341a~341cとの間でのMute処理を行う第2Mute部180が備えられている。なお、360度映像処理部186は、実施例1におけるVR空間生成部103に相当する。
【0177】
つまり、本実施例に係るVR観光システム4は、
図5に示される実施例1に係るVR観光システム2の構成例のVRクラウド300内に、ユーザグループ毎に会話を実現するためのグループ用音声会議部341a~341cと、全体システムを管理するVR観光サービス管理部340と、ユーザがどのグループに属するかを管理するためのユーザ管理テーブル331とを加えたものである。
【0178】
VRクラウド300c内のVRユーザ10~13とガイド20との会話を実現するVR音声会議部310と、グループ間会話を実現するグループ用音声会議部341a~341cとは全く独立しており、VRクラウド300c内で2つの機能が管理する音声データが混ざることはない。グループ用音声会議部341a~341cは、同一のVR観光に参加しているグループ数分だけ、ユーザがVRシステム100、110、120及び130を使ってVR観光に参加する際に、VRクラウド300cで初期設定される。
【0179】
グループ用音声会議部341a~341cは、同一グループに属するVRユーザ10等が利用する音声データを集めて、混合し、各VRシステム100、110、120及び130に戻すだけの簡単な構成を備える。また、VRクラウド300cのVR音声会議部310、360度映像配信部320、ガイド用端末210等は、
図5に示される実施例1に係るVR観光システム2の構成例と全く同じ構成と機能を持つ。
【0180】
VRシステム100、110、120及び130は、
図5に示される実施例1の構成要素に加え、VRシステム100、110、120及び130のマイク108から入力された音声データをグループ用音声会議部341a~341cに送る機能と、送る音声データに対してMute制御を行う第2Mute部180が加えられている。また、VRクラウド300cから送られてくる360度映像データを受け、AV分離し、取り出した音声データとグループ用音声会議部341a~341cから送られるグループ内の音声会話データとを混合する機能が追加されている(AV分離部183、Audio復号部184、Audio復号部182a、Audio混合部182b、D/A変換器182c)。
【0181】
VRシステム100、110、120及び130には上記機能が追加されているが、グループ用音声会議部341a~341cに対するVRユーザ10~13の操作がないため、VRユーザ10~13の操作は
図5に示される実施例1と同様になる。ただし、VRユーザが「質問中」にできるように、ガイド20がガイド用リモコン230を操作した場合は、第1Mute部181のミュート機能が解除されると同時に、第2Mute部180のミュート機能が設定され、グループ用音声会議部341a~341cに該当ユーザの音声データは流れない。つまり、グループ内の他のVRユーザは、360度映像データに該当ユーザの音声データが含まれるため、ガイド20との会話を聞き取ることができる。
【0182】
図17は、実施例3に係るVR観光システム4の動作フロー例(つまり、映像表示方法の具体例)を示す図である。より詳しくは、
図17の(a)は、VRシステム100、110、120及び130の動作フローを示し、
図17の(b)は、VRクラウド300cの動作フローを示す。
【0183】
VRシステム100、110、120及び130のメイン処理は、実施例1及び実施例2と同じである(図示せず)。
【0184】
VRシステム100、110、120及び130におけるVRユーザからの入力の割り込み処理については、
図6に示される実施例1のステップS30~S40において、ステップS38及びS40に代えて、それぞれ、ステップS38a及びS40aとなり、新たに、ステップS110及びS111が追加された流れとなる。つまり、ガイダンス表示制御部109が表示モードを「質問中」に変え(S37)、第1Mute部181がMute解除に設定した場合には(S38a)、第2Mute部180は、Muteに設定する(S110)。また、ガイダンス表示制御部109が表示モードを「質問可」に変え(S39)、第1Mute部181がMuteに設定した場合には(S40a)、第2Mute部180は、Muteを解除する(S111)。
【0185】
また、VRシステム100、110、120及び130におけるVRクラウド300cからの割り込み処理については、実施例1及び実施例2と同じである(図示せず)。
【0186】
VRシステム100、110、120及び130における初期設定については、
図17の(a)に示されるように、まず、VRシステム100、110、120及び130が装着される、VR観光サービスアプリが起動されるので(S100)、VRユーザは、ユーザID、パスワードを入力して(S101)、VRクラウド300に送信し(S102)、VRクラウド300からの返信を待つ(S103)。
【0187】
その結果、受信した返信がエラーの場合は(S104でY)、ステップS101に戻り、受信した返信が正常の場合は(S104でN)、VRシステム100、110、120及び130のメイン処理に移行する(S105)。
【0188】
一方、VRクラウド300cでは、メイン処理についは、実施例1及び実施例2と同じである(図示せず)。
【0189】
また、VRクラウド300cのログイン処理では、
図17の(b)に示されるように、VR観光サービス管理部340は、まず、VRシステム100、110、120及び130から、ユーザID、パスワードを取得し(S90)、本観光サービスの正規ユーザかどうかを確認する(S91)。
【0190】
その結果、正規ユーザでない場合は(S91でN)、VR観光サービス管理部340は、該当VRシステム100等にエラーを送信し(S92)、ステップS90に戻る。正規ユーザである場合は(S91でY)、VR観光サービス管理部340は、ユーザ管理テーブル331から該当ユーザの値を取得する(S93)。
【0191】
取得した該当ユーザが単独旅行者の場合は(S95でN)、ステップS99に飛ぶ。グループ旅行者の場合で、最初のLogin者の場合は(S96でN)、VR観光サービス管理部340は、該当ユーザが参加するグループ用音声会議を起動(初期化)する(S97)。
【0192】
グループ旅行者の場合で、最初のLogin者でない場合(S96でY)、及び、ステップS97を終えた場合には、VR観光サービス管理部340は、該当ユーザのVRシステム100、110、120及び130を該当ユーザのグループ用音声会議と接続し(S98)、観光サービスの利用準備が正常に終わったことを、該当VRシステム100、110、120及び130に送信して(S99)、処理を終了する。
【0193】
以上のように、本実施例に係るVR観光システム4により、参加者において一緒に旅行する友達間との私的な会話がサポートされ、上記課題(3)が解決される。
【0194】
(実施例3の変形例1)
次に、実施例3の変形例1を説明する。
【0195】
図18は、実施例3の変形例1に係るVR観光システム4aの詳細な構成を示すブロック図である。VR観光システム4aは、上記課題(3)(一緒に旅行する友達間との私的な会話をサポートできることが必要となる)を解決する2つ目の具体例に相当する。
【0196】
本変形例に係るVR観光システム4aは、
図16に示される実施例3に係るVR観光システム4において、VRシステム100、110、120及び130のVR音声会議部105にボリューム調整部187が追加された構成(つまり、VR音声会議部105b)を備える。
【0197】
ボリューム調整部187は、実施の形態における制御部の機能のうち、グループ音声会話を支援しているときに、説明者から同一のグループに属する複数の参加者への音声、及び、グループ音声会話の音声の少なくとも一方の音量を調整するように、同一のグループに属する複数の参加者に対応する複数のVRシステムを制御する実施の形態の変形例2における制御部62bの機能の一例である。
【0198】
具体的には、本変形例に係るVR観光システム4aは、ガイド20の音声とグループ間会話の音声が混ざって聞き取りにくい場合に対応するために、
図16に示される実施例3に係るVR観光システム4に、グループ用音声会議部341a~341cからの音声に対してボリューム調整するボリューム調整部187を追加した構成を備える。
【0199】
VRユーザ10~13は、volume調整機能付VRリモコン106aを有しており、volume調整機能付VRリモコン106aのボリュームを変える操作等を行うことにより、グループ用音声会議部341a~341cからの音声のボリューム調整をできる。
【0200】
なお、VRシステム100、110、120及び130の構成、VRシステム100、110、120及び130及びVRクラウド300cでの処理の動作フローは、実施例1と同一になる。
【0201】
以上のように、本変形例に係るVR観光システム4aであっても、ボリューム調整部187によって、参加者において一緒に旅行する友達間との私的な会話がサポートされ、上記課題(3)が解決される。
【0202】
(実施例4)
次に、上記課題(4)(外国旅行や外国人に対応するため、VR観光参加者への複数言語対応と複数ガイド対応が必要となる)を解決する具体例として、実施例4を説明する。
【0203】
課題(4)を解決する具体例を説明する前に、まず、課題(4)について、図を用いて、詳細に説明する。
【0204】
図19は、
図1Aに示される参考例に係るVR観光システム650に課題(4)の説明を追記した図である。VR観光システムにおいて、高解像度で臨場感の高いVR観光体験を提供するためには、最低限、8K映像、できれば11K映像の解像度をもつ撮影が必要になる。ただし、8K映像、11K映像の撮影は、機材も大きく、映像の転送レートも高く、容量も大きい。このため撮影も配信も高価になる。このため、多くのVRユーザに利用して頂かないと、VR観光サービスが事業的に成り立たない。
【0205】
1回のVR観光ツアーの参加者を増やすためには、使用言語の異なるVRユーザ10~13が参加しても、自分の言語でガイド20の説明を受けることができれば、対象人数を増やすことができる。しかし、
図19に示されるように、参考例に係るVR観光システム650では、VR観光に参加しているときには、共通のVR空間内を共用するため、1つの言語でしかガイド20や他のユーザとの会話ができない。つまり、VR空間内のVRユーザの利用言語は、全参加者間で共有利用されるため、ガイド20の利用言語になり、複数の言語を同時にサポートすることができない。
【0206】
VR観光サービスの提供者の視点からは、複数のガイド20を言語ごとに準備したり、同時通訳者を利用したりしてでも、複数言語のサービスを提供することで、利用者を増やしたいが、
図19に示される参考例に係るVR観光システム650では、複数言語のガイド20をサポートすることができないので、言語毎に別のツアーを編成する必要がある。
【0207】
そこで、外国旅行や外国人に対応するため、VR観光参加者への複数言語対応と複数ガイド対応が必要となり、このような機能をもつVR観光システムを、実施例4に係るVR観光システムとして、説明する。実施例4に係るVR観光システムは、実施例1に係るVR観光システム2に、課題(4)を解決する機能が追加されたシステムである。
【0208】
図20は、実施例4に係るVR観光システムによって実現したいユースケース、言い換えると、VR観光サービスの要求仕様を示す図である。より詳しくは、
図20の(a)は、海外の観光地でのVR観光を日本のユーザに提供するケースの例を示す。日本のVR観光サービス業者が、自社のガイド20や撮影クルーをエジプト420aまで派遣してVR観光サービスを提供することにより、現地で英語による英語圏420c向けのVR観光サービスを行う業者と提携した上で、ガイド20の利用言語を日本語に変えることができれば、より安く、効率的に日本人(日本420b)向けのVR観光サービスの種類を増やすことができる。
【0209】
図20の(b)は、日本421aの観光地のVR観光を海外に提供するケースの例を示す。会話する人の数が多い、英語、中国語、スペイン語の場合は、その言語単独でも、色々な国のVR観光ユーザにリーチできる。しかし、ベトナム語(ベトナム421b)やタイ語(タイ421c)のような場合は、ある程度のユーザ数は期待できるが単独開催は難しいような場合でも、複数言語のサポートができれば、開催できる。
【0210】
図21は、実施例4に係るVR観光システム5の概略構成図である。VR観光システム5は、実施例1に係るVR観光システム2に、課題(4)を解決する機能が追加されたシステムであり、VRシステム100、110、120及び130と、VRクラウド300dと、第1ガイド用端末210a等と、第2ガイド用端末210b等と、観測システム200とを備える。
【0211】
第1ガイド用端末210a等は、説明を第1言語で行う第1説明者である日本語ガイド20aとの音声による入出力を行う実施の形態の変形例3における第1説明者端末40aの一例であり、第1言語に対応したスマートフォン210a、ヘッドセット220a、及び、ガイド用リモコン230aで構成される。
【0212】
第2ガイド用端末210b等は、説明を第2言語で行う第2説明者である英語ガイド20bとの音声による入出力を行う実施の形態の変形例3における第2説明者端末40bの一例であり、第2言語に対応したスマートフォン210b、ヘッドセット220b、及び、ガイド用リモコン230bで構成される。
【0213】
VRクラウド300dは、第1VR音声会議部310b、第2VR音声会議部310c、ユーザ管理テーブル330a、ガイド言語管理テーブル332、及び、360度映像配信部320cを備える。
【0214】
第1VR音声会議部310bは、複数のVRシステム及び第1説明者端末を介して参加者と第1説明者との音声会話を支援する実施の形態の変形例3における第1音声会話部の一例である。第2VR音声会議部310cは、複数のVRシステム及び第2説明者端末を介して参加者と第2説明者との音声会話を支援する実施の形態の変形例3における第2音声会話部の一例である。
【0215】
ユーザ管理テーブル330aは、
図21に示されるように、VRユーザ(「User-ID」)ごとに、VRユーザが使用する言語(「Language」)及び対応するガイドのガイドID(「Guid-ID」)を記録した情報テーブルである。ガイド言語管理テーブル332は、ガイドID(「Guid-ID」)ごとに、そのガイドが使用する言語(「Language」)を記録した情報テーブルである。
【0216】
より詳しくは、
図21に示される実施例4に係るVR観光システム5の構成例は、
図3に示される実施例1に係るVR観光システム2の概略構成とほぼ同じである。主な違いは、A)VRクラウド300d内に日本語ガイド20a及び英語ガイド20b毎にVR音声会議部(第1VR音声会議部310b及び第2VR音声会議部310c)を持ち、音声データを360度映像配信部320に送らないで、すべてVR音声会議部(第1VR音声会議部310b及び第2VR音声会議部310c)を使って送ることと、B)VRクラウド300dは、ユーザ管理テーブル330aを持ち、VRユーザがVR観光サービスを利用開始する際に、自分の言語に会った日本語ガイド20a又は英語ガイド20bのサービスを受けられるように各VRユーザを適切な第1VR音声会議部310b又は第2VR音声会議部310cに接続する手段を持つことである。
【0217】
本実施例では、日本語ガイド20a及び英語ガイド20bの写る360度映像は共用されるが、音声制御は独立しており、日本語ガイド20a及び英語ガイド20bのそれぞれが、自分のVRユーザ10等のVRシステム100等の操作を行う。VRユーザ10~13からは、各VR空間が独立しているように見え、例えば、日本語ユーザには英語ガイド20bや英語ユーザの存在を全く知ることができない。
【0218】
図22は、実施例4に係るVR観光システム5が実現するユースケースの例を示す図である。より詳しくは、
図22の(a)は、海外(エジプト422a)の観光地の英語ガイドによるVR観光を、英語圏422cのVRユーザだけでなく、日本422bのVRユーザにも提供するケースを示し、
図22の(b)は、日本423aの観光地でのベトナム語ガイド及びタイ語ガイドによるVR観光を海外(ベトナム423b及びタイ423c)のVRユーザに提供するケースを示す。
【0219】
図22の(a)及び(b)に示されるように、各ケースにおいて、2人のガイド(日本語ガイド20a及び英語ガイド20b、ベトナム語ガイド20a1及びタイ語ガイド20b1)が、それぞれの言語で解説することができれば、
図20の(a)及び(b)で説明した実現したいユースケースは実現可能になる。
【0220】
図23は、実施例4に係るVR観光システム5におけるVRシステム100、110、120及び130で見える視界の例を示す図である。ここでは、360度映像内に2人のガイド(ベトナム語ガイド20a1及びタイ語ガイド20b1)がいる場合(日本424aのVR観光)における、各ガイドのユーザの視界(ベトナム語ユーザの視界424b(
図23の(b))、タイ語ユーザの視界424c(
図23の(c)))例が示されている。
【0221】
360度映像の場合は、映像の境界となるフレームが無いため、撮影者は、ガイド(ベトナム語ガイド20a1及びタイ語ガイド20b1)の位置を気にしなくても撮影できる。また、VRユーザ10~13は360度内のどの範囲でも見ることができる。このため、
図23の(a)に示されるように、通常のカメラ撮影のようにフレームを切ると、2人ともオフセンタの位置に置かれ、違和感があるが、それぞれの言語のVRユーザは、自分の言語のガイド(ベトナム語ガイド20a1又はタイ語ガイド20b1)しか気にしないため、
図23の(b)及び(c)に示されるように、視界の中心に、それぞれ、ベトナム語ガイド20a1及びタイ語ガイド20b1を置くことができ、違和感がない。このため、2人のガイドがそれぞれの言語で説明し、映像を共用することで、VRユーザ10~13は自分の言語にあったガイド20との会話や説明を得ることができ、VR観光体験の価値が向上する。
【0222】
図24は、実施例4に係るVR観光システム5の詳細な構成を示すブロック図である。VRシステム100、110、120及び130のVR音声会議部105aは、実施例3のものと同一である。第1VR音声会議部310b及び第2VR音声会議部310cは、いずれも、実施例1におけるVR音声会議部310と同じ構成を備える。日本語ガイド20aが使用する第1ガイド用端末210a等及び英語ガイド20bが使用する第2ガイド用端末210b等が備えるVR音声会議部250は、いずれも、実施例1におけるVR音声会議部250と同じ構成を備える。
【0223】
つまり、実施例4に係るVR観光システム5は、
図5に示されるVR観光システム2又は
図12に示されるVR観光システム3の構成とほぼ同じ構成を備えるが、VRクラウド300dで異なる点は、360度映像配信部320を共有する2つのVR音声会議部(第1VR音声会議部310b及び第2VR音声会議部310c)によって、独立した2つのVR観光サービスを実現している点である。
【0224】
ガイド用端末(第1ガイド用端末210a等及び第2ガイド用端末210b等)のいずれも、それぞれ、構成、機能、ガイドの操作ともに、
図5に示される実施例1のガイド用端末210等と同様である。
【0225】
VRクラウド300dのVR音声会議部(第1VR音声会議部310b及び第2VR音声会議部310c)のいずれも、構成、機能ともに、
図5に示される実施例1のVR音声会議部310と同様である。
【0226】
VRシステム100、110、120及び130のVR音声会議部105aは、VRクラウド300dのVR音声会議(第1VR音声会議部310b及び第2VR音声会議部310c)から来る音声を、360度映像の音声と合成する手段が追加された以外は、機能、VRユーザ10~13の操作も、
図5に示される実施例1のVR音声会議部105と同様である。
【0227】
実施例1との違いは、VRクラウド300d内に、VR観光サービス管理部340とユーザ管理テーブル331が新設され、VRユーザ10~13がVR観光サービスを利用開始する際に、VR観光サービス管理部340によって、自分の言語に会ったガイドのサービスを受けられるように各VRユーザを適切なVR音声会議部(第1VR音声会議部310b及び第2VR音声会議部310c)に接続する点である。VR観光サービス管理部340は、実施の形態の変形例3における制御部62cの一例であり、ユーザ管理テーブル331は、実施の形態の変形例3における言語情報72の一例である。
【0228】
図25は、実施例4に係るVR観光システム5の動作フロー例(つまり、映像表示方法の具体例)を示す図である。より詳しくは、
図25の(a)は、VRシステム100、110、120及び130の動作フローを示し、
図25の(b)は、VRクラウド300dの動作フローを示す。
【0229】
各VRシステム100、110、120及び130では、メイン処理、VRユーザからの入力の割り込み処理、及び、VRクラウド300dからの割り込み処理については、実施例1及び実施例2と同じである(図示せず)。
【0230】
また、VRシステム100、110、120及び130においてVRユーザがVR観光の利用を開始する初期設定処理(
図25の(a))については、
図17の(b)に示される実施例3の動作フロー(S100~S105)と同一であり、その説明を省略する。
【0231】
また、VRクラウド300dでは、メイン処理は、実施例1及び実施例2と同じである(図示せず)。
【0232】
VRクラウド300dでは、ログイン処理として、
図25の(b)に示されるように、VR観光サービス管理部340は、まず、VRシステム100等から、ユーザID、パスワードを取得し(S140)、本観光サービスの正規ユーザかどうかを確認する(S141)。
【0233】
正規ユーザでない場合は(S141でN)、該当VRシステム100等にエラーを送信し(S142)、ステップS140に戻る。正規ユーザである場合は(S141でY)、VR観光サービス管理部340は、ユーザ管理テーブル330から該当ユーザの値を取得する(S143)。
【0234】
該当ユーザの言語選択が、第1ガイドの言語(例えば、日本語ガイド20aの言語(日本語))と同じ場合は(S145でY)、VR観光サービス管理部340は、該当ユーザのVRシステム100等を第1VR音声会議部310bと接続し(S145a)、ステップS149に飛ぶ。
【0235】
一方、該当ユーザの言語選択が、第2ガイドの言語(例えば、英語ガイド20bの言語(英語))と同じ場合は(S146でY)、VR観光サービス管理部340は、該当ユーザのVRシステム110等を第2VR音声会議部310cと接続し(S147)、観光サービスの利用準備が正常に終わったことを該当VRシステム100等に送信し(S149)、処理を終了する。
【0236】
該当ユーザの言語選択が、第1ガイドの言語でもなく(S145でN)、第2ガイドの言語でもない場合には(S146でN)、VR観光サービス管理部340は、デフォルト言語選択処理を実行し(S148)、ステップS145に戻る。
【0237】
デフォルト言語選択処理(S148)では、例えば、VR観光サービス管理部340は、A)該当ユーザに、第1ガイドの言語(例えば、日本語ガイド20aの言語(日本語))又は第2ガイドの言語(例えば、英語ガイド20bの言語(英語))を選択させる、あるいは、B)第1ガイド又は第2ガイドの言語が英語の場合は、英語を選択する、あるいは、C)第1ガイドの言語(例えば、日本語ガイド20aの言語(日本語))を選択する。
【0238】
以上のように、本実施例に係るVR観光システム5により、参加者に対して複数言語による対応と複数ガイドによる対応が実現され、記課題(4)が解決される。
【0239】
(実施例4の変形例1)
次に、実施例4の変形例1を説明する。
【0240】
図26は、実施例4の変形例1に係るVR観光システム5aの概略構成図である。VR観光システム5aは、上記課題(4)(外国旅行や外国人に対応するため、VR観光参加者への複数言語対応と複数ガイド対応が必要となる)を解決する2つ目の具体例に相当する。
【0241】
VR観光システム5aは、ガイドに付き添う日英同時通訳者を含むVR観光に対応したシステムであり、
図21に示される実施例4に係るVR観光システム5の構成において、第2ガイド用端末210bに代えて、日英同時通訳者20c用の第3ガイド用端末210cを備え、かつ、VRクラウド300eに音声切替部350が追加された構成を備える。第3ガイド用端末210cは、日英同時通訳者20c用のスマートフォン210c、及びヘッドセット220cで構成される。音声切替部350は、第2説明者からの音声を第2言語に対応づけられた参加者に出力することと、第1説明者及び第1言語に対応づけられた参加者に出力することとを切り替える実施の形態における音声切替部65の一例である。
【0242】
図21に示される実施例4に係るVR観光システム5では、日本語VR空間と英語VR空間が全く別個に存在し、それぞれのガイド20が、自分の担当VRユーザ10~13をサポートしていた。本変形例では、言語空間は2つ別個であるが、日本語ガイド20aが、すべてのVRユーザ10~13に対して指示を出し、一方、日英同時通訳者20cは、同時通訳サービスを提供するだけで、VRユーザ10~13への指示は出せない構成となっている。
【0243】
日本語ガイド20aは、VRユーザに日本語ユーザグループと英語ユーザグループとが含まれることを意識して、参考例に係るVR観光システム650の「質問不可」と「質問可」の表示モードに、2つのユーザグループの区別が必要になり、「質問不可」、「日本語ユーザグループの質問可」、「英語ユーザグループの質問可」の3つの指示が必要になる。
【0244】
日本語ユーザからも、英語ユーザからも、日本語ガイド20aのみが意識され、日英同時通訳者20cの存在は明示的には見えない。しかし、それぞれの言語グループ毎に音声制御は独立しており、日本語ユーザも英語ユーザもお互いの存在は分かるが、違う言語を話していることを意識する必要がない。
【0245】
図27は、実施例4の変形例1に係るVR観光システム5aが実現するユースケースの例を示す図である。より詳しくは、
図27の(a)は、海外(エジプト425a)の観光地での英語ガイドによるVR観光を、英語圏425cのVRユーザだけでなく、日英同時通訳者を介して日本425bのVRユーザにも提供するケースを示し、
図27の(b)は、日本426aの観光地でのタイ語ガイドによるVR観光を海外のVRユーザ(タイ426cのVRユーザだけでなく、タイ語-ベトナム語同時通訳者を介してベトナム426bのVRユーザ)に提供するケースを示し、
図27の(c)は、海外(エジプト427a)の観光地での英語ガイドによるVR観光を、英語圏427cのVRユーザだけでなく、日英同時通訳者を介して日本427bのVRユーザにも提供し、英語-ベトナム語同時通訳者を介してベトナム427dのVRユーザにも提供するケースを示す。
【0246】
図27に示されるユースケースの例のように、ガイドと同時通訳者が連携して、それぞれの言語で解説することができれば、
図20を用いて説明した実現したいユースケースは実現可能になる。
【0247】
図28は、実施例4の変形例1に係るVR観光システム5aが備える音声切替部350の機能を説明する図である。より詳しくは、
図28の(a)は、VR観光サービス管理部340が管理する各VRユーザの状態の遷移を示す状態遷移
図415を示し、
図28の(b)は、
図28の(a)に示される各状態を説明する動作モード説明表411を示し、
図28の(c)は、音声切替部350の構成例を示し、
図28の(d)は、状態「全員質問不可」415a・状態「ガイドユーザ質問可」415b・状態「通訳ユーザ質問可」415dでの音声切替部350の動作状態を示し、
図28の(e)は、状態「ガイドユーザ質問中」415cでの音声切替部350の動作状態を示し、
図28の(e)は、状態「通訳ユーザ質問中」415eでの音声切替部350の動作状態を示す。
【0248】
図28の(a)に示される状態遷移
図415において、実線矢印は、日本語ガイド20aが「質問不可」を指示した場合の遷移を示し、破線矢印は、日本語ガイド20aが日本語ガイド20aに対して「質問可」を指示した場合の遷移を示し、点線矢印は、日本語ガイド20aが日英同時通訳者20cに対して「質問可」を指示した場合の遷移を示す。
【0249】
図28の(b)に示される動作モード説明表411において、「状態」は、
図28の(a)に示される状態415a~415eを示し、「ガイドの指示」は、日本語ガイド20aの指示を示し、「VRの表示状態(Guide)」は、日本語ガイド20aを選択しているVRユーザのVRシステムでの表示モードを示し、「VRの表示状態(SI)」は、日英同時通訳者20cを選択しているVRユーザのVRシステムでの表示モードを示し、「VRのミュート機能(G)」は、日本語ガイド20aを選択しているVRユーザのミュート状態を示し、「VRのミュート機能(SI)」は、日英同時通訳者20cを選択しているVRユーザのMute状態を示し、「SIのマイクの接続先」は、日英同時通訳者20cのマイクの接続となるVRユーザを示す。なお、「GU」は、日本語ガイド20aを意味し、「SI」は、日英同時通訳者20cを意味する。
【0250】
動作モード説明表411に示されるように、状態「全員質問不可」415aは、「ガイドの指示」が「質問不可」の場合に対応し、このときは、「VRの表示状態(Guide)」は「質問不可」となり、「VRの表示状態(SI)」は「質問不可」となり、「VRのミュート機能(G)」は「Mute中」となり、「VRのミュート機能(SI)」は「Mute中」となり、「SIのマイクの接続先」は日英同時通訳者20cを選択しているVRユーザ向けとなる(
図28の(d))。
【0251】
状態「ガイドユーザ質問可」415bは、「ガイドの指示」が日本語ガイド20aに対して「質問可」で、かつ、「VRの表示状態(Guide)」が「質問可」の場合に対応し、このときは、「VRの表示状態(SI)」は「質問不可」となり、「VRのミュート機能(G)」は「Mute中」となり、「VRのミュート機能(SI)」は「Mute中」となり、「SIのマイクの接続先」は日英同時通訳者20cを選択しているVRユーザ向けとなる(
図28の(d))。
【0252】
状態「ガイドユーザ質問中」415cは、「ガイドの指示」が日本語ガイド20aに対して「質問可」で、かつ、「VRの表示状態(Guide)」が「質問中」の場合に対応し、このときは、「VRの表示状態(SI)」は「質問不可」となり、「VRのミュート機能(G)」は「Mute解除」となり、「VRのミュート機能(SI)」は「Mute中」となり、「SIのマイクの接続先」は日英同時通訳者20cを選択しているVRユーザ向けとなる(
図28の(e))。
【0253】
状態「通訳ユーザ質問可」415dは、「ガイドの指示」が日英同時通訳者20cに対して「質問可」で、かつ、「VRの表示状態(Guide)」が「質問不可」で、かつ、「VRの表示状態(SI)」が「質問可」の場合に対応し、このときは、「VRのミュート機能(G)」は「Mute中」となり、「VRのミュート機能(SI)」は「Mute中」となり、「SIのマイクの接続先」は日英同時通訳者20cを選択しているVRユーザ向けとなる(
図28の(d))。
【0254】
状態「通訳ユーザ質問中」415eは、「ガイドの指示」が日英同時通訳者20cに対して「質問可」で、かつ、「VRの表示状態(Guide)」が「質問不可」で、かつ、「VRの表示状態(SI)」が「質問中」の場合に対応し、このときは、「VRのミュート機能(G)」は「Mute中」となり、「VRのミュート機能(SI)」は「Mute解除」となり、「SIのマイクの接続先」は日本語ガイド20aを選択しているVRユーザ向けとなる(
図28の(f))。
【0255】
図29は、実施例4の変形例1に係るVR観光システム5aの詳細な構成を示すブロック図である。VR観光システム5aは、
図24に示される実施例4に係るVR観光システム5の構成において、第2ガイド用端末210bに代えて、日英同時通訳者20c用の第3ガイド用端末210cを備え、かつ、VRクラウド300eに音声切替部350が追加された構成を備える。
【0256】
つまり、本変形例に係るVR観光システム5aは、
図24に示される実施例1と同等の構成をとる。主な違いは、
図28で説明したように、ガイド指示の種類が2つから3に増えることと、日英同時通訳者20cは指示を出すことができないことと、3つのガイド指示とVRユーザ10~13の操作との組合せで5つの状態があること、及び、その状態に応じて、VR観光サービス管理部340によって、VRクラウド300eの音声切替部350の動作が変化することである。
【0257】
図30は、実施例4の変形例1に係るVR観光システム5aの動作フロー例(つまり、映像表示方法の具体例)を示す図である。より詳しくは、
図30の(a)は、VRシステム100、110、120及び130の動作フローを示し、
図30の(b)は、VRクラウド300eの動作フローを示す。
【0258】
各VRシステム100、110、120及び130では、メイン処理、VRユーザからの入力の割り込み処理、及び、VRクラウド300eからの割り込み処理については、実施例4と同じである(図示せず)。
【0259】
また、VRシステム100、110、120及び130においてVRユーザがVR観光の利用を開始する初期設定処理(
図30の(a))については、
図17の(b)に示される実施例3の動作フロー(S100~S105)と同一であり、その説明を省略する。
【0260】
VRクラウド300eでは、メイン処理として、
図30の(b)に示されるように、VR観光サービス管理部340は、スマートフォン210のAPPやガイド用リモコン230等から「ガイドの指示」(「質問不可」への遷移、「質問可GU」、「質問可IU」への遷移)を受け付ける(S180)。
【0261】
そして、VR観光サービス管理部340は、受け付けた「ガイドの指示」を判定し、下記の3つの処理に振り分ける。
【0262】
つまり、「ガイドの指示」が「質問可GU」の場合は(S181でY)、VR観光サービス管理部340は、「ガイドの指示」を「質問可GU」に設定し(S185)、GUの全VRシステム100等に通知し(S186)、IUの全VRシステム110等に「質問不可」を通知して(S187)、ステップS180に戻る。
【0263】
また、「ガイドの指示」が「質問可IU」の場合は(S182でY)、VR観光サービス管理部340は、「ガイドの指示」を「質問可IU」に設定し(S190)、IUの全VRシステム110等に通知し(S191)、GUの全VRシステム100等に「質問不可」を通知して(S192)、ステップS180に戻る。
【0264】
「ガイドの指示」が「質問可GU」でもなく(S181でN)、「質問可IU」でもない場合は(S182でN)、VR観光サービス管理部340は、「ガイドの指示」を「質問不可」に設定し(S183)、全VRシステム100等に通知して(S184)、ステップS180に戻る。
【0265】
また、VRクラウド300eでは、ログイン処理として、
図30の(b)に示されるように、VR観光サービス管理部340は、VRシステム100、110、120及び130から、ユーザID、パスワードを取得し、本観光サービスの正規ユーザかどうかを確認する(S160)。
【0266】
正規ユーザでない場合は(S161でN)、VR観光サービス管理部340は、該当VRシステム100等にエラーを送信し(S162)、ステップS160に戻る。正規ユーザである場合は(S161でY)、VR観光サービス管理部340は、ユーザ管理テーブル330aから該当ユーザの値を取得する(S163)。
【0267】
取得したユーザの言語選択が第1ガイドの言語(日本語ガイド20aの言語(日本語))と同じ場合は(S165でY)、VR観光サービス管理部340は、該当ユーザのVRシステム100等を第1VR音声会議部310bと接続し(S166)、ステップS170に飛ぶ。
【0268】
一方、取得したユーザの言語選択が、日英同時通訳者20cの言語と同じ場合は(S167でY)、VR観光サービス管理部340は、該当ユーザのVRシステム100等を第2VR音声会議部310cと接続し(S168)、ステップS170に飛ぶ。
【0269】
取得したユーザの言語選択が第1ガイドの言語(日本語ガイド20aの言語(日本語))と同じではなく(S165でN)、かつ、日英同時通訳者20cの言語と同じでない場合は(S167でN)、VR観光サービス管理部340は、デフォルト言語選択処理を実行し(S169)、ステップS165に戻る。
【0270】
該当ユーザのVRシステム100等を第1VR音声会議部310b又は第2VR音声会議部310cと接続した後(S166、S168)、VR観光サービス管理部340は、観光サービスの利用準備が正常に終わったことを、該当VRシステム100等に送信して(S170)、処理を終了する。
【0271】
デフォルト言語選択処理(S169)では、例えば、VR観光サービス管理部340は、A)該当ユーザに、第1ガイドの言語(例えば、日本語ガイド20aの言語(日本語))又は同時通訳者の言語(例えば、日英同時通訳者20cの言語(英語))を選択させる、あるいは、B)第1ガイド又は第2ガイドの言語が英語の場合は、英語を選択する、あるいは、C)第1ガイドの言語(例えば、日本語ガイド20aの言語(日本語))を選択する。
【0272】
以上のように、本変形例に係るVR観光システム5aであっても、同時通訳者によって複数の言語に対応した説明及び会話がサポートされ、上記課題(4)が解決される。
【0273】
(実施例4の変形例2)
次に、実施例4の変形例2を説明する。
【0274】
図31は、実施例4の変形例2に係るVR観光システム5bの概略構成図である。VR観光システム5bは、上記課題(4)(外国旅行や外国人に対応するため、VR観光参加者への複数言語対応と複数ガイド対応が必要となる)を解決する3つ目の具体例に相当する。
【0275】
VR観光システム5bは、機械翻訳の機能をもつVR観光に対応したシステムであり、
図3に示される実施例1に係るVR観光システム2の構成において、VRクラウド300fのVR音声会議部310dに、機械翻訳部360、機械翻訳管理テーブル333、及び、ユーザ管理テーブル330bが追加された構成を備える。
【0276】
機械翻訳部360は、第1言語と第2言語との間で機械翻訳をする実施の形態における機械翻訳部66a~66bの一例である。機械翻訳管理テーブル333は、実施の形態における機械翻訳管理情報73の一例であり、機械翻訳部360がもつ複数の翻訳処理モジュールのそれぞれのID(翻訳処理モジュールID「MT-ID」)ごとに、翻訳元の第1言語(「Language-S」)と翻訳先の第2言語(「Language-D」)との対応を記録した情報テーブルである。ユーザ管理テーブル330bは、実施の形態における言語情報72の一例であり、ガイドが使用する言語(「Guide Language」)、デフォルト言語(「Default Language」)、VRユーザ(「User-ID」)ごとの使用言語(「Language」)、ガイドに向けた翻訳処理モジュールID(「MT-ID-S」)、VRユーザに向けた翻訳処理モジュールID(「MT-ID-D」)を記録した情報テーブルである。
【0277】
図31に示されるように、本変形例に係るVR観光システム5bは、
図3に示される実施例1に係るVR観光システム2の概略構成図とほぼ同じ構成を備えるが、VRクラウド300fのVR音声会議部310dに、機械翻訳部360と各VRユーザ10~13毎に利用する機械翻訳手段を選ぶための機械翻訳管理テーブル333とユーザ管理テーブル330bを持つ。
【0278】
本変形例では、ガイドが、日本語ガイド20aであるために、ユーザ管理テーブル330bに示されるように、VRユーザ000001~000003までは日本語ユーザのため、機械翻訳は利用しない。VRユーザ000004とVRユーザ000005は英語ユーザのため、日英翻訳の翻訳処理モジュール(MT-IDが01と02)を利用する。VRユーザ000006は仏語ユーザであるが、機械翻訳部360には仏語-日本語翻訳機能がないため、デフォルト言語の英語が選ばれ、VRユーザ000004及びVRユーザ000005と同じ設定になる。VRユーザ000008も、機械翻訳部360がタイ語に対応していないため、VRユーザ000006と同じ日英翻訳が選択される。VRユーザ000007は中国語ユーザであり、日中翻訳の翻訳処理モジュール(MT-IDが05と06)が選択される。
【0279】
このようなVR観光システム5bを使うことにより、日本語ユーザからも、外国語ユーザからも、機械翻訳の精度の問題が存在する可能性があるものの、ガイド付きのVR観光が、自分の言語もしくはデフォルト言語で体験することができる。
【0280】
図32は、実施例4の変形例2に係るVR観光システム5bが実現するユースケースの例を示す図である。より詳しくは、
図32の(a)は、海外(エジプト428a)の観光地での英語ガイドによるVR観光を、英語圏428cのVRユーザだけでなく、機械翻訳部360を介して日本428bのVRユーザにも提供するケースを示し、
図32の(b)は、日本429aの観光地でのタイ語ガイドによるVR観光を海外のVRユーザ(タイ429cのVRユーザだけでなく、機械翻訳部360を介してベトナム429bのVRユーザ)に提供するケースを示し、
図32の(c)は、海外(エジプト430a)の観光地での英語ガイドによるVR観光を、英語圏430dのVRユーザだけでなく、機械翻訳部360を介して日本430bのVRユーザにも提供し、機械翻訳部360を介してベトナム430cのVRユーザにも提供し、機械翻訳部360を介して仏語圏430eのVRユーザにも提供するケースを示す。
【0281】
図32に示されるように、本変形例に係るVR観光システム5bによれば、日本語ガイド20aと日英同時通訳者20cとが連携して、それぞれの言語で解説することができれば、
図20を用いて説明した実現したいユースケースは実現可能になる。
【0282】
図33は、実施例4の変形例2に係るVR観光システム5bが備える機械翻訳部360の詳細な機能を説明するための図である。より詳しくは、
図33の(a)は、VR音声会議部310dの詳細な構成を示すブロック図であり、
図33の(b)は、
図33の(a)に示される機械翻訳部360が有する翻訳処理モジュール群370の構成(機械翻訳部360a~360d)を示し、
図33の(c)は、
図33の(a)に示される機械翻訳管理テーブル333を示し、
図33の(d)は、
図33の(a)に示されるユーザ管理テーブル330bを示す。
【0283】
図33の(a)に示されるように、VR音声会議部310dは、ユーザ管理テーブル330b、機械翻訳管理テーブル333、ガイド指示記録部、機械翻訳部360、及び、Audio混合部313を有する。機械翻訳部360は、VRユーザ10~13ごとに第1言語から第2言語に機械翻訳をする機械翻訳部360a~360dの集まりである。
【0284】
機械翻訳部360a~360dのそれぞれは、対応するVRシステム100等から送られてくる音声データを復号するAudio復号部361a、復号された音声データをガイド(本変形例では日本語ガイド20a)に対応する言語に翻訳する翻訳処理モジュール群S(361b)、得られた音声データを圧縮してAudio混合部313に出力するAudio圧縮部361c、ガイド用端末210a等から送られてくる音声データを復号するAudio復号部362a、復号された音声データをVRユーザに対応する言語に翻訳する翻訳処理モジュール群D(362b)、及び、翻訳された音声データを圧縮して対応するVRシステム100等に送るAudio圧縮部362cを有する。Audio混合部313は、機械翻訳部360a~360dから出力された翻訳語の音声データを混合してガイド用端末210a等に送る。
【0285】
図33の(b)に示されるように、翻訳処理モジュール群370は、
図33の(a)に示される翻訳処理モジュール群S(361b)及び翻訳処理モジュール群D(362b)として使用される翻訳処理モジュールの集まりであり、図示されるように、英語から日本語(「English To Japanese」)、日本語から仏語(「Japanese To English」)等のように、様々な第1言語から第2言語に翻訳するモジュールで構成される。
【0286】
この例では、翻訳処理モジュール群370は、8種類の翻訳機能を持ち、
図33の(c)のCの機械翻訳管理テーブル333でデータ化されている。
図33の(a)に示されるように、各VRユーザ10~13のVRシステム100、110、120及び130から機械翻訳部360a~360dに接続され、ユーザ管理テーブル330bの情報により、各VRユーザ毎に使用される翻訳処理モジュールが選択され、その結果がガイド用端末210a等経由で、ガイドに伝わるため、ガイドは自分の言語で各VRユーザの質問を聞くことができる。
【0287】
ガイドの説明は、ガイド用端末210a等経由で各VRユーザ毎の機械翻訳部360a~360dに送られ、ユーザ管理テーブル330bで選択された翻訳処理モジュールで翻訳された後、各VRユーザに送られることで、各VRユーザはガイドの言語に関わらず自分の言語で観光案内を聞くことができる。
【0288】
図33の(d)に示されるユーザ管理テーブル330bの例では、ガイドが使用する言語が英語で、かつ、デフォルト言語が英語に設定されているため、ユーザ000001~000003は、日英翻訳の翻訳処理モジュール01及び02が選択され、ユーザ000004及び000005は、英語ユーザのため、翻訳は不要になり、ユーザ000006は、仏語ユーザのため、英仏翻訳の翻訳処理モジュール07及び08が選択され、ユーザ000007は、中国語ユーザのため、中英翻訳の翻訳処理モジュール03及び04が選択され、ユーザ000008は、タイ語ユーザであるが、タイ語の翻訳処理モジュールがないため、デフォルト言語の英語が選択され、機械翻訳は設定されない。
【0289】
図34は、実施例4の変形例2に係るVR観光システム5bの詳細な構成を示すブロック図である。VR観光システム5bは、
図5に示される実施例1に係るVR観光システム2の構成において、VRシステム100、110、120及び130が備えるVR音声会議部105に代えて双方向の音声処理を行う実施例4に係るVR音声会議部105aを有し、VRクラウド300のVR音声会議部310に代えて機械翻訳の機能をもつVR音声会議部310dを有することに相当する構成を備える。
【0290】
つまり、本変形例に係るVR観光システム5bは、機械翻訳の機能をもつVR音声会議部310dを有するVRクラウド300fを備える。VR音声会議部310dは、会話制御部311と、各VRユーザのVRシステム100等から送られてくる音声データを復号するAudio復号部361aと、復号された音声データをガイド(本変形例では、日本語ガイド20a)に対応する言語に翻訳する翻訳処理モジュール群S(361b)と、各VRユーザに対応する複数の翻訳された音声データを混合するAudio混合部313と、混合された音声データを圧縮してガイド用端末210aに送信するAudio圧縮部361cと、ガイド用端末210aから送られてくる音声データを復号するAudio復号部362aと、復号された音声データを各VRユーザに対応する言語に翻訳する翻訳処理モジュール群D(362b)と、翻訳された音声データを圧縮して対応するVRシステム100等に送信するAudio圧縮部362cと、機械翻訳管理テーブル333と、ユーザ管理テーブル330bと、ガイド指示記録部315とを有する。
【0291】
本変形例に係るVR観光システム5bでは、機械翻訳管理テーブル333及びユーザ管理テーブル330bに基づいて、各ユーザのVRシステム100、110、120及び130と翻訳処理モジュール群370(翻訳処理モジュール群S(361b)及び翻訳処理モジュール群D(362D))とが正しく接続される。そして、ガイド(本変形例では、日本語ガイド20a)の使用言語と同一言語のVRユーザについては、そのまま、ガイドと会話を行う。
【0292】
本変形例に係るVR観光システム5bでは、自分の言語と違う言語を話すガイドしかいない場合に、VRクラウド300fで音声翻訳を行ったうえで、双方で通信されるが、この点を除くと、本変形例に係るVR観光システム5bは、
図5に示される実施例1に係るVR観光システム2の機能と同一になる。
【0293】
VRクラウド300fのVR観光サービス管理部340は、機械翻訳管理テーブル333及びユーザ管理テーブル330bに基づいて、VRユーザの言語選択とガイドの言語、デフォルト言語の設定を使って、翻訳処理モジュール群370から正しい翻訳処理モジュールを選択し、ユーザ管理テーブル330内の各VRユーザのガイドに向けた翻訳処理モジュールID(「MT-ID-S」)、VRユーザに向けた翻訳処理モジュールID(「MT-ID-D」)の値を設定する。
【0294】
図35は、実施例4の変形例2に係るVR観光システム5bの動作フロー例(つまり、映像表示方法の具体例)を示す図である。より詳しくは、
図35の(a)は、VRシステム100、110、120及び130の動作フローを示し、
図35の(b)は、VRクラウド300fの動作フローを示す。
【0295】
各VRシステム100、110、120及び130では、メイン処理、VRユーザからの入力の割り込み処理、及び、VRクラウド300fからの割り込み処理については、実施例4と同じである(図示せず)。
【0296】
また、VRシステム100、110、120及び130においてVRユーザがVR観光の利用を開始する初期設定処理(
図35の(a))については、
図17の(b)に示される実施例3の動作フロー(S100~S105)と同一であり、その説明を省略する。
【0297】
また、VRクラウド300fでは、メイン処理は、実施例1及び実施例2と同じである(図示せず)。
【0298】
VRクラウド300fでは、ログイン処理として、
図35の(b)に示されるように、VR観光サービス管理部340は、まず、VRシステム100、110、120及び130から、ユーザID、パスワードを取得し(S210)、本観光サービスの正規ユーザかどうかを確認する(S210)。
【0299】
正規ユーザでない場合は(S211でN)、VR観光サービス管理部340は、該当VRシステム100等にエラーを送信し(S212)、ステップS210に戻る。
【0300】
正規ユーザである場合は(S211でY)、VR観光サービス管理部340は、ユーザ管理テーブル330bから該当ユーザの言語選択の値を取得する(S213)。
【0301】
その結果、該当ユーザの言語選択が、ガイド20の言語と同じ場合は(S215でY)、VR観光サービス管理部340は、ステップS220に飛ぶ。
【0302】
該当ユーザの言語選択とガイドの言語との対が翻訳処理モジュールにある場合は(S216でY)、VR観光サービス管理部340は、該当ユーザのユーザ管理テーブル330b内の翻訳処理モジュールID(「MT-ID-S」及び「MT-ID-D」)として、選択された対の値をセットし(S225)、該当VRシステム100等の音声を、選択された翻訳処理モジュールIDに対応する翻訳処理モジュールに接続し(S226)、ステップS218に飛ぶ。
【0303】
デフォルト言語選択とガイドの言語とが同じ場合は(S217でY)、VR観光サービス管理部340は、ステップS220に飛ぶ。
【0304】
デフォルト言語選択とガイドの言語とが異なり(S217でN)、かつ、ガイドの言語とデフォルト言語との対が翻訳処理にある場合は(S230でY)、VR観光サービス管理部340は、該当ユーザのユーザ管理テーブル330b内の翻訳処理モジュールIDをガイドの言語とデフォルト言語との対にし(S231)、該当VRシステム100等の音声を選択された翻訳処理モジュールIDの翻訳処理モジュールに接続し(S232)、ステップS218に飛ぶ。
【0305】
ガイドの言語とデフォルト言語との対が翻訳処理にない場合は(S230でN)、VR観光サービス管理部340は、ステップS220に飛ぶ。
【0306】
ステップS220では、VR観光サービス管理部340は、該当ユーザのユーザ管理テーブル330b内の翻訳処理モジュールIDの2つの値を「N/A」にセットし(S220)、該当VRシステム100等の音声をガイド用端末210a等に接続し(S221)、ステップS218に飛ぶ。
【0307】
ステップS218では、VR観光サービス管理部340は、観光サービスの利用準備が正常に終わったことを該当VRシステム100等に送信して(S218)、処理を終了する。
【0308】
以上のように、本変形例に係るVR観光システム5bであっても、機械翻訳部360によって複数の言語に対応した説明及び会話がサポートされ、上記課題(4)が解決される。
【0309】
以上、本開示の映像表示システム及び映像表示方法について、実施の形態及び実施例に基づいて説明したが、本開示は、これらの実施の形態及び実施例に限定されるものではない。本開示の主旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態及び実施例に施したものや、実施の形態及び実施例における一部の構成要素を組み合わせて構築される別の形態も、本開示の範囲内に含まれる。
【0310】
例えば、実施例として、本開示に係る映像表示システムをVR観光システムに適用した例が説明されたが、本開示に係る映像表示システムは、VR観光システムだけでなく、展示会見学、視察、工場見学、美術館・博物館・動物園・水族館見学等のバーチャル体験を提供するVR体験システムにも適用できる。
【0311】
また、上記実施の形態等では、音声会話部によって、参加者10等とガイド20等との間で、音声による会話が支援されたが、これに加えて、あるいは、これに代えて、これらの会話が、VRシステムの表示部にテロップとして表示されてもよい。そのために、例えば、VRシステムに、会話の音声をリアルタイムで認識する音声認識部、及び、音声認識部で得られたテキストをVRシステムの表示部に表示させる映像合成部等が設けられればよい。
【0312】
このとき、ガイド20が参加者10等から、チャットの形式で質問を受けてもよい。ガイド20は、音声の場合と同様に、ガイド用リモコンを用いて、チャット入力可能/不可能を制御してもよい。
【0313】
また、複数言語対応の実施例4では、機械翻訳部からの出力を音声ではなく、テキストにしてVRシステムに出力してもよい。具体的な構成例として、
1)単一の言語で、ガイドの音声を他の言語に変えるのではなく、同じ言語でテキスト化してVRシステムに表示する、
2)ガイドの使用言語とは異なる言語に翻訳してテキスト化してVRシステムに表示する、
3)複数の使用言語が異なるガイドが存在する場合に、それぞれのガイドの音声を翻訳せずにテキスト化してVRシステムに表示する、
4)複数の使用言語が異なるガイドが存在する場合に、テキスト化する言語により近い言語のガイドを選択し、選択したガイドの音声を翻訳してテキスト化してVRシステムに表示する、等が考えられる。そのために、例えば、VRクラウドに、機械翻訳部に加えて、音声認識部、音声認識部で得られたテキストを360度映像に合成する合成部等を設ければよい。
【0314】
テロップ表示の可否については、
図26のユーザ管理テーブル330a、
図31のユーザ管理テーブル330bあるいは機械翻訳管理テーブル333、
図33のユーザ管理テーブル330bに、テロップを使用するか否かの情報を記載して管理することで行うこと、あるいはここの参加者10が使用時に選択することなどで判断することができる。
【産業上の利用可能性】
【0315】
本開示に係る映像表示システム及び映像表示方法は、VR(仮想現実)を体験するサービスを提供する映像表示システムとして、例えば、観光旅行、展示会見学、視察、工場見学、美術館・博物館・動物園・水族館見学等のバーチャル体験を提供するVR体験システムとして、利用できる。
【符号の説明】
【0316】
1、1a 映像表示システム
2、2a、2b、3、4、4a、5、5a、5b VR観光システム
10~13 参加者(VRユーザ)
20 ガイド(説明者)
20a 日本語ガイド(第1説明者)
20b 英語ガイド(第2説明者)
20a1 ベトナム語ガイド(第1説明者)
20b1 タイ語ガイド(第2説明者)
20c 日英同時通訳者
30a~30b VRシステム
31 表示部
32 音声処理部
33 参加者用入力部
40 説明者端末
40a 第1説明者端末
40b 第2説明者端末
41 説明者用入力部
50 観測システム
51 カメラ
52 マイク
60、60a~60d クラウド
61 音声会話部
61a 第1音声会話部
61b 第2音声会話部
62、62a~62d 制御部
63 映像配信部
64 グループ音声会話部
65 音声切替部
66a~66b 機械翻訳部
70 ブロック情報
71 グループ情報
72 言語情報
73 機械翻訳管理情報
100、110、120、130 VRシステム
101、111、121、131 ディスプレイ
102、112、122、132 入力部
103、113、123、133 VR空間生成部
104、114、124、134 通信部
105、105a、105b VR音声会議部
106 VRリモコン
106a volume調整機能付VRリモコン
107 会話制御部
108 マイク
108a A/D変換器
108b Audio圧縮部
108c Mute部
109 ガイダンス表示制御部
140 VRグラス
141 動き・位置センサ
142 音量ボタン
143 電源スイッチ
144 バッテリー
145 電源制御素子
146 AV入力端子
147 USB
148 無線通信素子
149 BLE(登録商標)
150 バス変換部
151 GPU
151a 動き・位置検出部
151b 映像表示処理部
152a、152b 表示素子
153a、153b レンズ
154 EEPROM
155 RAM
156 CPU
156a 音声圧縮部
157a マイク
157b マイクアンプ
157c ADC(A/D変換器)
158a DAC(D/A変換器)
158b アンプ
158c スピーカー
158d ヘッドフォン端子
160 コンピュータ/スマートフォン
161 AV出力端子
162 USB
163 通信素子
164 バス変換部
165 GPU
165a 動き・位置検出部
165b VR制御部
165c VR映像復号部
165d ガイダンス表示生成部
165e グラフィックス生成部
165f VR表示制御部
166 RAM
167 不揮発性メモリ
168 電源スイッチ
169 電源制御素子
170 CPU
170a 多重化部
170b 分離部
170c 音声復号部
170d 音声再生制御部
180 第2Mute部
181 第1Mute部
182a Audio復号部
182b Audio混合部
182c D/A変換器
182d スピーカー
183 AV分離部
184 Audio復号部
186 360度映像処理部
187 ボリューム調整部
200、200a 観測システム
201 通信部
202 撮影部
203 カメラ
204 リモコン
205 マイク
206 乗物
210、210a~210c スマートフォン
211 ガイド指示生成部
211a 通信部・ヘッドセット用CODEC
211b 入力処理部
212 入力部
213a A/D変換器
213b Audio圧縮部
213c Mute部
214a Audio復号部
214b D/A変換器
215 オーディオ・インターフェース
216 マイク
217 スピーカー
219a、219b メタデータ用付加情報
220、220a~220c ヘッドセット
230、230a、230b ガイド用リモコン
240a~240d 音声制御アプリによる表示例
250 VR音声会議部
300、300a~300f VRクラウド
310、310a、310d VR音声会議部
310b 第1VR音声会議部
310c 第2VR音声会議部
311 会話制御部
312 音声処理部
313 Audio混合部
314a~314d Audio復号部
315 ガイド指示記録部
316 Audio復号部
317 Audio圧縮部
320、320a 360度映像配信部
321 AV分離部
322 Audio復号部
323 Audio混合部
324 Audio圧縮部
325 AV合成部
330、330a、330b、331 ユーザ管理テーブル
332 ガイド言語管理テーブル
333 機械翻訳管理テーブル
340 VR観光サービス管理部
341a~341c グループ用音声会議部
350 音声切替部
360、360a~360d 機械翻訳部
361a Audio復号部
361b 翻訳処理モジュール群S
361c Audio圧縮部
362a Audio復号部
362b 翻訳処理モジュール群D
362c Audio圧縮部
370 翻訳処理モジュール群
400~402 画面表示例
400a 「質問不可」
401a 「質問可」
402a 「質問中」
410、411 動作モード説明表
415 状態遷移図
415a~415e 状態