(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2023-12-20
(45)【発行日】2023-12-28
(54)【発明の名称】VR動画同期再生装置
(51)【国際特許分類】
H04N 21/258 20110101AFI20231221BHJP
H04N 21/6332 20110101ALI20231221BHJP
H04N 21/44 20110101ALI20231221BHJP
H04L 67/131 20220101ALI20231221BHJP
【FI】
H04N21/258
H04N21/6332
H04N21/44
H04L67/131
(21)【出願番号】P 2023008178
(22)【出願日】2023-01-23
【審査請求日】2023-01-23
(73)【特許権者】
【識別番号】523025805
【氏名又は名称】株式会社楽喜
(73)【特許権者】
【識別番号】517356324
【氏名又は名称】株式会社エヌ・ティー・エス
(74)【代理人】
【識別番号】100111132
【氏名又は名称】井上 浩
(74)【代理人】
【識別番号】100179729
【氏名又は名称】金井 一美
(72)【発明者】
【氏名】吉田 龍司
(72)【発明者】
【氏名】福田 智
【審査官】醍醐 一貴
(56)【参考文献】
【文献】特開2022-62179(JP,A)
【文献】特開2012-195644(JP,A)
【文献】米国特許出願公開第2021/0281909(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 21/00-21/858
H04L 51/00-51/58
H04L 67/00-67/75
(57)【特許請求の範囲】
【請求項1】
管理者が操作する管理者端末と、受信者が操作する受信者端末と、前記管理者端末及び前記受信者端末と通信可能なサーバー群を備え、
前記サーバー群は、動画配信サーバーと、操作サーバーと、テキスト情報送信サーバーと、音声情報通信サーバーであり、
前記動画配信サーバーは、前記管理者端末と前記受信者端末に、VR画像情報及びVR音声情報で構成されるVR動画を配信し、
前記管理者端末は、前記受信者端末における前記VR動画の再生及び停止を制御するための、テキスト形式の操作情報を前記操作サーバーに送信するとともに、前記受信者端末に送信するための音声形式の管理者音声情報を前記音声情報通信サーバーに送信し、
前記操作サーバーは、前記管理者端末から受信した前記操作情報を前記テキスト情報送信サーバーに送信し、
前記テキスト情報送信サーバーは、受信した前記操作情報を前記受信者端末に送信し、
前記音声情報通信サーバーは、受信した前記管理者音声情報を前記受信者端末に送信し、かつ前記受信者端末からの音声形式の受信者音声情報を受信して前記管理者端末に送信し、
前記VR動画は、前記受信者端末が前記操作情報に従うことで、前記管理者端末と前記受信者端末において、時間的に同期して再生されることを特徴とするVR動画同期再生装置。
【請求項2】
前記管理者端末は、管理者端末制御部を備え、
この管理者端末制御部は、前記管理者音声情報を、前記音声情報通信サーバーを介して前記受信者端末に送信する場合に、前記操作情報のうち、前記VR音声情報の再生を停止する旨のVR音声停止注意情報を、前記操作サーバー及び前記テキスト情報送信サーバーを介し、前記受信者端末に対して送信するとともに、前記操作情報のうち、前記VR音声情報の再生を停止させる旨のVR音声停止命令を、前記操作サーバー及び前記テキスト情報送信サーバーを介し、前記受信者端末に対して送信することを特徴とする請求項1に記載のVR動画同期再生装置。
【請求項3】
前記管理者端末制御部は、前記受信者端末が前記管理者端末からの前記管理者音声情報に応答する場合に限って、前記受信者端末が前記受信者音声情報を送信可能である旨の受信者音声送信注意情報を、前記操作サーバーと前記テキスト情報送信サーバーを介して前記受信者端末に送信することを特徴とする請求項2に記載のVR動画同期再生装置。
【請求項4】
前記管理者端末は、管理者端末表示部を備え、
この管理者端末表示部は、前記VR動画に加えて、前記操作情報及び前記管理者音声情報を入力するための操作が可能な操作画面をそれぞれ表示することを特徴とする請求項1又は請求項2に記載のVR動画同期再生装置。
【請求項5】
前記受信者端末は、受信者端末制御部と、前記VR動画を表示する受信者端末表示部と、前記受信者端末のモーションを検知するためのモーションセンサーを備え、
前記受信者端末制御部は、前記VR動画に基づく前記モーションセンサーの検知データに対応するモーション動画を、前記受信者端末表示部に表示し、
前記モーション動画は、前記管理者端末表示部で表示される前記VR動画の視点と異なる視点で構成可能であることを特徴とする請求項4に記載のVR動画同期再生装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、VR動画を複数の端末で同期して再生するためのVR動画同期再生装置に係り、特に、複数の端末のうちの1の管理者端末が、他の端末でのVR動画の再生を制御可能なVR動画同期再生装置に関する。
【背景技術】
【0002】
従来、ひとつのVR(Virtual Reality、仮想現実)動画を複数の端末で再生するための技術が要望されている。これは、VR動画では、自分が仮想空間の中に現実に存在しているかのように感じることができるため、VR動画を、例えばセミナーや不動産の内覧会等で複数の顧客に視聴させることで、これらの顧客にそれぞれの内容を深く理解してもらうことを期待したものである。
しかしながら、VR動画を複数の端末で再生すると、データ量の大きさや回線速度の遅さ等に起因して、VR動画が各端末で正確に同期して再生されないという課題があった。
そこで、近年、このような課題を解決するための技術が開発されており、それに関してすでに発明が開示されている。
【0003】
特許文献1には、「VRコンテンツ視聴装置」という名称で、端末間での高速な通信を可能とするVRコンテンツの視聴装置に関する発明が開示されている。
以下、特許文献1に開示された発明について説明する。特許文献1に開示された発明は、第1の情報端末と、第2の情報端末との間でサーバ装置を通じて、動画形式の動画データであるVRコンテンツをリアルタイムに共有するVRコンテンツ視聴装置において、サーバ装置は、第1の情報端末、及び第2の情報端末からの要求に基づいてVRコンテンツを描写する描写部と、第1の情報端末、及び第2の情報端末との間でのVRコンテンツの同期を同期情報に基づいて処理する同期処理部と、を備え、第1の情報端末、及び第2の情報端末は、描写部によって描写されたVRコンテンツをブラウザ上で再生するとともに、VRコンテンツを再生している状態において、VRコンテンツを閲覧する方向を示す視線情報を同期情報としてサーバ装置に対して送信し、同期処理部は、第1の情報端末、及び第2の情報端末間で同期するように視線情報に基づいてVRコンテンツの描写を描写部に指示することを特徴とする。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1に開示された発明においては、第1の情報端末と、第2の情報端末間での音声通話を可能とする通話手段が設けられていない。そのため、第1の情報端末を操作する者と、第2の情報端末を操作する者が、VR動画の見所やその感想等についてリアルタイムで会話することができず、複数人で視聴しているにもかかわらず、あたかも一人で視聴していることと同じになる。よって、第1及び第2の情報端末を操作する者は、複数人で視聴していると発生するであろう楽しさや一体感を感じることができず、満足度を高めることができないおそれがある。また、仮に、リアルタイムで会話ができたとしても、VRコンテンツが音声データを含んでいる場合、この音声データと会話が重なり合って、これらの聞き取りが不完全なものとなる。
【0006】
本発明は、このような従来の事情に対処してなされたものであり、VR動画の再生時に、このVR動画を視聴するための複数の端末を操作する者同士での会話を可能とすることで視聴の満足度を高め、さらに、VR動画が再生する音声データと会話との重なりを防止するVR動画同期再生装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記目的を達成するため、第1の発明は、管理者が操作する管理者端末と、受信者が操作する受信者端末と、管理者端末及び受信者端末と通信可能なサーバー群を備え、サーバー群は、動画配信サーバーと、操作サーバーと、テキスト情報送信サーバーと、音声情報通信サーバーであり、動画配信サーバーは、管理者端末と受信者端末に、VR画像情報及びVR音声情報で構成されるVR動画を配信し、管理者端末は、受信者端末におけるVR動画の再生及び停止を制御するための、テキスト形式の操作情報を操作サーバーに送信するとともに、受信者端末に送信するための音声形式の管理者音声情報を音声情報通信サーバーに送信し、操作サーバーは、管理者端末から受信した操作情報をテキスト情報送信サーバーに送信し、テキスト情報送信サーバーは、受信した操作情報を受信者端末に送信し、音声情報通信サーバーは、受信した管理者音声情報を受信者端末に送信し、かつ受信者端末からの音声形式の受信者音声情報を受信して管理者端末に送信し、VR動画は、受信者端末が操作情報に従うことで、管理者端末と受信者端末において、時間的に同期して再生されることを特徴とする。
【0008】
このような構成の発明において、VR動画として、例えば360度VR動画や、180度VR動画が想定される。
また、管理者端末の台数と受信者端末の台数は、それぞれ特に限定されないが、例えば、管理者端末を1台にすると、1台以上の受信者端末を同時に制御できるため、VR動画再生や音声での通信をスムーズに進行させるという点で好適である。ただし、管理者端末を複数台にしても、これらの間に受信者端末を制御する権限の順位付けをすることで、やはりVR動画再生等をスムーズに進行させることができる。
さらに、管理者端末からの操作情報は、テキスト形式であるが、管理者端末からの管理者音声情報と、受信者端末からの受信者音声情報は、いずれも音声形式である。このように、管理者端末から送信される情報をテキスト形式と音声形式とに分けた理由は、テキスト形式の情報は、一般的に音声形式と比べてデータ量が少ないから、通信時の負荷を軽減するとともに、この操作情報をいち早く送信するためである。ただし、音声情報通信サーバーは、受信者端末からのテキスト形式の情報を、管理者端末へ送信可能に構成されてもよい。
【0009】
上記構成の発明においては、動画配信サーバーが、管理者端末と受信者端末に、VR画像情報及びVR音声情報で構成されるVR動画を配信した後で、管理者端末がこの配信されたVR動画の再生や再生停止を制御する操作情報を、操作サーバーと、テキスト情報送信サーバーを介して、受信者端末に送信する。これにより、受信者端末は、動画配信サーバーによって配信されたVR動画の再生や再生停止が可能となる。
すなわち、受信者端末で再生されるVR動画は、受信者端末が操作情報に従うことで、管理者端末と受信者端末において、時間的に同期して再生されることになる。
【0010】
また、管理者端末は、管理者音声情報を、音声情報通信サーバーを介して、受信者端末に送信する。そして、受信者端末は、受信した管理者音声情報に対して応答する受信者音声情報を発し、音声情報通信サーバーを介して、管理者端末に送信する。すなわち、管理者端末を操作する管理者と、受信者端末を操作する受信者との間で、双方向の通話が可能となる。ただし、受信者端末は、受信した管理者音声情報に対して必ずしも応答しなくてもよい。
【0011】
第2の発明は、第1の発明において、管理者端末は、管理者端末制御部を備え、この管理者端末制御部は、管理者音声情報を、音声情報通信サーバーを介して受信者端末に送信する場合に、操作情報のうち、VR音声情報の再生を停止する旨のVR音声停止注意情報を、操作サーバー及びテキスト情報送信サーバーを介し、受信者端末に対して送信するとともに、操作情報のうち、VR音声情報の再生を停止させる旨のVR音声停止命令を、操作サーバー及びテキスト情報送信サーバーを介し、受信者端末に対して送信することを特徴とする。
このような構成の発明においては、第1の発明の作用に加えて、管理者端末制御部が、管理者音声情報を、音声情報通信サーバーを介して受信者端末に送信する場合、すなわち、管理者が、自身の音声を受信者に伝達したい場合に、管理者端末制御部は、予めVR音声停止注意情報を、操作サーバー等を介して受信者端末へ送信する。すると、受信者端末がVR音声停止注意情報を文字や音声に変換して報知する。これにより、受信者が、VR音声情報の再生のみが停止することを前もって知ることができる。
また、管理者端末がVR音声停止命令を、操作サーバー等を介して受信者端末へ送信すると、受信者端末は、VR音声停止命令に従い、VR音声情報の再生を停止する。よって、管理者音声情報の再生が、VR音声情報によって遮られることがない。なお、受信者端末において、VR動画のVR画像情報の再生は停止されずに継続する。
【0012】
第3の発明は、第2の発明において、管理者端末制御部は、受信者端末が管理者端末からの管理者音声情報に応答する場合に限って、受信者端末が受信者音声情報を送信可能である旨の受信者音声送信注意情報を、操作サーバーとテキスト情報送信サーバーを介して受信者端末に送信することを特徴とする。
このような構成の発明においては、第2の発明の作用に加えて、管理者端末制御部が送信注意情報を受信者端末に送信するため、受信者が通話できる場合は、管理者からの音声に返答する場合のみであることが受信者に理解される。
【0013】
第4の発明は、第1又は第2の発明において、管理者端末表示部を備え、この管理者端末表示部は、VR動画に加えて、操作情報及び管理者音声情報を入力するための操作が可能な操作画面をそれぞれ表示することを特徴とする。
このような発明においては、第1又は第2の発明の作用に加えて、管理者端末表示部は、VR動画と、操作画面をそれぞれ表示するものであるが、VR動画と、操作画面を同時または異なるタイミングで表示する。前者では、例えば、VR動画の再生中に、このVR動画上に操作画面を重ねて表示することが可能となる。
【0014】
第5の発明は、第4の発明において、受信者端末は、受信者端末制御部と、VR動画を表示する受信者端末表示部と、受信者端末のモーションを検知するためのモーションセンサーを備え、受信者端末制御部は、VR動画に基づくモーションセンサーの検知データに対応するモーション動画を、受信者端末表示部に表示し、モーション動画は、管理者端末表示部で表示されるVR動画の視点と異なる視点で構成可能であることを特徴とする。
【0015】
このような構成の発明において、モーション動画は、動画情報の中から、モーションセンサーの検知データ、すなわち検知された受信者端末の方向に対応する動画情報が読み出されたものである。このような読み出しは、例えば、受信者端末とデータ通信が可能なヘッドマウントディスプレイに内蔵される処理部や、モーション動画の読み出しを行うアプリケーションがインストールされ、このアプリケーションを実行させる受信者端末制御部によって行われる。
上記構成の発明においては、第4の発明の作用に加えて、モーション動画は、管理者端末表示部で表示されるVR動画の視点と異なる視点で構成可能であることから、各受信者は、管理者や他の受信者と同一の視点のほか、互いに異なる視点で、VR動画を視聴できる。
【発明の効果】
【0016】
第1の発明によれば、受信者端末で再生されるVR動画は、管理者端末と受信者端末において、時間的に同期して再生されるため、受信者は少なくとも管理者と、同時に、かつ同一のVR動画を視聴することができる。そのため、複数人で視聴している場合の一体感等を感じることができ、満足度を高めることができる。
そして、受信者端末は、管理者端末から独立してVR動画を再生等することができないので、例えば、1以上の受信者がVR動画をランダムに停止して再生が滞り、受信者の不満が発生することを防止できる。
また、管理者と、受信者との間で双方向の通話が可能となるため、VR動画の見所やその感想等についてリアルタイムで会話することができる。よって、この点からも視聴の満足度を一層高めることができる。
【0017】
第2の発明によれば、第1の発明の効果に加えて、VR音声情報の再生の停止によって、管理者音声情報の再生が、VR音声情報によって遮られることがないため、受信者は管理者の通話をはっきりと聞き取ることができる。また、このとき、VR動画のVR画像情報の再生は継続することから、管理者が話す内容を集中して聴きながら無音のVR動画を眺めることができるとともに、例えばVR動画の見所の見逃しを避けることができる。
また、VR音声停止注意情報により、受信者はVR音声情報の再生のみが停止することを前もって知ることができるため、VR音声情報の停止に驚くことを防ぐことができる。
【0018】
第3の発明によれば、第2の発明の効果に加えて、受信者端末が、独立して受信者音声情報を管理者端末に送信することが防止されるため、受信者が会話する機会を管理者の会話後に限定することができる。よって、例えば、受信者がVR動画を再生中にあげた大声や、VR動画と無関係な話が、管理者やほかの受信者に聞こえてしまうことがなく、VR動画の再生をスムーズに進行させることができる。
【0019】
第4の発明によれば、第1又は第2の発明の効果に加えて、例えば、VR動画の再生中に、このVR動画上に操作画面を重ねて表示することが可能な場合、VR動画の再生中に操作情報や管理者音声情報を受信者端末へ送信するときの操作性が良好である。よって、例えば、管理者がVR動画の解説をしたいと考えているタイミングを逃さず、その結果、受信者がVR動画の内容について一層深く理解することができる。
【0020】
第5の発明によれば、第4の発明の効果に加えて、各受信者は、管理者や他の受信者と異なる視点でもVR動画を視聴できるので、VR動画が時間的に同期していても所望の方向に頭を向けて視聴できるという自由度を確保することが可能である。
【図面の簡単な説明】
【0021】
【
図1】実施例に係るVR動画同期再生装置の構成図である。
【
図2】(a)及び(b)は、それぞれ実施例に係るVR動画同期再生装置を構成する管理者端末の外観図及び受信者端末の外観図である。
【
図3】実施例に係るVR動画同期再生装置の処理手順を示す工程図である。
【
図4】実施例に係るVR動画同期再生装置の処理手順を示す工程図である。
【発明を実施するための形態】
【実施例】
【0022】
本発明の実施の形態に係るVR動画同期再生装置について、
図1乃至
図4を用いて詳細に説明する。
図1は、実施例に係るVR動画同期再生装置の構成図である。
図2(a)及び
図2(b)は、それぞれ実施例に係るVR動画同期再生装置を構成する管理者端末の外観図及び受信者端末の外観図である。
図1に示すように、実施例に係るVR動画同期再生装置1は、1名の管理者が操作する1台の管理者端末2と、3名の受信者がそれぞれ操作する3台の受信者端末3A~3Cと、管理者端末2及び受信者端末3A~3Cとそれぞれ通信可能なサーバー群4を備える。なお、受信者端末3A~3Cの台数は、受信者の人数に応じて、3台未満や、4台以上であってもよい。そして、管理者端末2と、受信者端末3A~3Cは、スマートフォン、タブレット端末、パーソナルコンピュータのいずれが用いられてもよい。
【0023】
また、サーバー群4は、動画配信サーバー4Aと、操作サーバー4Bと、テキスト情報送信サーバー4Cと、音声情報通信サーバー4Dである。具体的には、操作サーバー4BとしてAPI(Application Programming Interface)サーバーが、テキスト情報送信サーバー4CとしてWebSocketサーバーが、音声情報通信サーバー4DとしてWebRTC(Web Real-Time Communication)サーバーが、それぞれ利用される。
このうち、テキスト情報送信サーバー4CとしてWebSocketサーバーを利用することで、管理者端末2と受信者端末3A~3Cによる、リアルタイムな操作情報の共有を可能にする。
また、音声情報通信サーバー4DとしてWebRTCサーバーを利用することで、容量が大きい音声データをリアルタイムに送受信したり、管理者端末2や受信者端末3A~3Cが音声を送受信したりすることを可能にする。
【0024】
さらに、動画配信サーバー4Aは、管理者端末2と受信者端末3A~3Cに、それぞれ通信経路5a,5a´を介してVR画像情報及びVR音声情報で構成されるVR動画を配信する。なお、VR動画は、例えば360度VR動画であって、その配信は、正距円筒図法で作成された360度VR動画を、管理者端末2や受信者端末3A~3Cに設定される球体の内側に貼り付けるSkySphere方式によって実現される。
また、管理者端末2と、受信者端末3A~3Cは、VR動画をSkySphere方式によって構成するためのプログラムが、それぞれ所定のウェブサイトにアクセスしてダウンロードされ、インストールされている。さらに、管理者端末2と、受信者端末3A~3Cは、この管理者端末2、受信者端末3A~3Cをそれぞれ後述するVR動画同期再生方法100の各工程のとおりに動作させるためのプログラムが予めインストールされている。
【0025】
次に、
図2(a)に示すように、管理者端末2は、管理者端末制御部2aと、操作情報及び管理者音声情報等を送信し、VR動画及び受信者音声情報等を受信するための通信部2bと、管理者が発した音声を収音するマイク2cと、VR音声情報及び受信者端末3A~3Cの各受信者音声情報を出力するスピーカー2dと、管理者端末表示部2gとマイク2cを介して入力された操作情報と管理者音声情報を記憶する記憶部2eと、管理者端末2のモーションを検知するためのモーションセンサー2fが内蔵されるとともに、VR動画を表示する管理者端末表示部2gを備える。
ここで、操作情報とは、受信者端末3A~3CにおけるVR動画の再生及び停止を制御するためのテキスト形式の情報である。また、管理者音声情報とは、受信者端末3A~3Cに送信するための音声形式の情報であって、具体的には、マイク2cが収音する音声が、電子データに変換されたものである。
【0026】
管理者端末2の上記構成のうち、管理者端末表示部2gは、VR動画に加えて、操作情報及び管理者音声情報を入力させるための操作が可能な操作画面6をそれぞれ表示する。この操作画面6は、操作情報入力ボタン6aと、管理者音声入力ボタン6bが常時表示される構成である。ただし、操作画面6は、所望の場合に管理者端末表示部2gを長押しすることで表示される構成であってもよい。
このうち、操作情報入力ボタン6aは、管理者がVR画像情報とVR音声情報を同時に再生または同時に停止させるための操作情報を、入力するためのボタンであり、管理者音声入力ボタン6bは、管理者が管理者音声情報を、スピーカー2dを介して入力するためのボタンである。
これに対し、管理者が、VR画像情報のみを再生または停止させるための操作情報は、VR画像情報操作ボタン6a-1を介して入力され、VR音声情報のみを再生または停止させるための操作情報は、VR音声情報操作ボタン6a-2を介して入力される。なお、VR画像情報操作ボタン6a-1と、VR音声情報操作ボタン6a-2は、操作情報入力ボタン6aを長押しすることで表示される構成であるが、常時表示される構成であってもよい。
【0027】
次に、モーションセンサー2fは、例えば、直交する3軸方向の加速度を検知する加速度センサーであって、管理者が、管理者端末2がセットされたヘッドマウントディスプレイ(図示せず)を装着することで、管理者の視点の方向を検知する。
また、管理者端末制御部2aは、VR動画に基づくモーションセンサー2fの検知データに対応するモーション動画を、管理者端末表示部2gに表示する。具体的には、管理者端末制御部2aは、記憶部2eにインストールされたアプリケーションによって、公知の方法により、VR動画の中からモーションセンサー2fの検知データに対応するものを選択してモーション動画とする。
なお、上記の通信部2b等の動作は、すべて管理者端末制御部2aによって制御される。また、管理者端末2に入力及び管理者端末2から出力された情報は、すべて記憶部2eに記憶される。
【0028】
図1に戻ると、管理者端末2は、操作情報を、通信経路5bを介して操作サーバー4Bに送信するとともに、管理者音声情報を、通信経路5eを介して音声情報通信サーバー4Dに送信する。
さらに、操作サーバー4Bは、管理者端末2から受信した操作情報を、通信経路5cを介してテキスト情報送信サーバー4Cに送信する。なお、通信経路5b,5cの通信プロトコルはいずれもHTTPであり、通信経路5eの通信プロトコルはWebRTCである。
【0029】
そして、テキスト情報送信サーバー4Cは、受信した操作情報を、通信経路5dを介して受信者端末3A~3Cにそれぞれ一括して送信する。なお、通信経路5dの通信プロトコルは、WebSocketである。
また、音声情報通信サーバー4Dは、受信した管理者音声情報を、通信経路5fを介して受信者端末3A~3Cにそれぞれ一括して送信し、かつ通信経路5fを介して受信者端末3A~3Cからの受信者音声情報を受信し、さらにこの受信者音声情報を、通信経路5eを介して管理者端末2に送信する。なお、受信者音声情報とは、具体的には受信者が管理者に向けて、マイク3c(
図2(b)参照)を介して発する音声である。そして、通信経路5fの通信プロトコルは、WebRTCである。
【0030】
次に、
図2(b)に示すように、受信者端末3A~3Cのうち、受信者端末3Aは、受信者端末制御部3aと、VR動画や管理者端末2から送信された操作情報等を受信し、かつ受信者端末3A~3Cの各受信者音声情報を送受信する通信部3bと、受信者が発した音声を収音するマイク3cと、VR音声情報、管理者音声情報及び受信者端末3A~3Cの各受信者音声情報を出力するスピーカー3dと、マイク3cを介して入力された受信者音声情報等を記憶する記憶部3eと、受信者端末3Aのモーションを検知するためのモーションセンサー3fが内蔵されるとともに、VR動画を表示する受信者端末表示部3gを備える。
ここで、受信者音声情報とは、管理者端末2に送信するための音声形式の情報であって、具体的には、マイク3cが収音する音声が、電子データに変換されたものである。
【0031】
受信者端末3Aの上記構成のうち、受信者端末表示部3gは、VR動画に加えて、状況表示画面7を常時表示する。状況表示画面7は、VR動画の再生状況を表すVR動画再生状況ボタン7aと、受信者音声情報の入力状況を表す音声状況ボタン7bが常時表示される構成である。ただし、状況表示画面7は、所望の場合に受信者端末表示部3gを長押しすることで表示される構成であってもよい。
このうち、VR動画再生状況ボタン7aは、管理者がVR画像情報とVR音声情報を同時に再生停止したときに点灯し、VR画像情報とVR音声情報を同時に再生停止したときに消灯するボタンである。また、音声状況ボタン7bは、受信者が、受信者音声情報を、スピーカー3dを介して入力可能なタイミングに点滅することで、このタイミングを認識できるようにしたボタンである。
これに対し、管理者が、VR画像情報のみを再生したときには、動画再生ボタン7a-1が点灯し、VR音声情報のみを再生したときには、音声再生ボタン7a-2が点灯する。
このように、状況表示画面7には、受信者がVR動画の再生や停止を制御したり、受信者音声情報を所望のタイミングに入力したりするためのボタンは設けられていない。
【0032】
次に、モーションセンサー3fは、管理者端末2に内蔵されたモーションセンサー2fと同様の構成と作用を有している。よって、受信者端末制御部3aは、VR動画に基づくモーションセンサー3fの検知データに対応するモーション動画を、受信者端末表示部3gに表示する。
したがって、受信者端末3Aで表示されるモーション動画は、管理者端末表示部2gで表示されるVR動画であるモーション動画の視点と異なる視点で構成可能である。
なお、上記の通信部3b等の動作は、すべて受信者端末制御部3aによって制御される。また、受信者端末3Aに入力及び受信者端末3Aから出力された情報は、すべて記憶部3eに記憶される。
そして、受信者端末3B,3Cの構造及び作用は、受信者端末3Aの構造及び作用とそれぞれ同様である。
【0033】
続いて、実施例に係るVR動画同期再生装置の動作について、
図3及び
図4を用いて説明する。
図3及び
図4は、それぞれ実施例に係るVR動画同期再生装置の処理手順を示す工程図である。
図3に示すように、VR動画同期再生装置1は、ステップS1のVR動画配信工程から、ステップS22の操作情報送信工程までの工程を有するVR動画同期再生方法100を実行する。以下、ステップS1のVR動画配信工程から順を追って説明する。
【0034】
ステップS1のVR動画配信工程は、動画配信サーバー4Aが、管理者端末2と、受信者端末3A~3Cに、それぞれ通信経路5a,5a´を介してVR動画を配信する工程である。なお、この工程が開始される前において、管理者端末2と、受信者端末3A~3Cは、前述のように、VR動画を再生するためのアプリケーションがすでにインストールされている。よって、管理者端末制御部2aと、受信者端末3A~3Cの各受信者端末制御部3aが、配信されたVR動画をそれぞれ再生可能な状態になっている。
また、VR動画のコンテンツとして、例えば旅行体験、風景鑑賞、スポーツ体験、飛行体験といった内容が想定されるが、勿論これに限定されるものではない。
【0035】
次に、ステップS2の管理者端末VR動画再生工程は、管理者端末2の管理者端末制御部2aが、操作画面6上の操作情報入力ボタン6aを介して入力された操作情報に基づき、配信されたVR動画のVR画像情報と、VR音声情報を、管理者端末表示部2gと、スピーカー2dで同時に再生する工程である。
【0036】
続いて、ステップS3の操作情報送信工程は、管理者端末制御部2aが、操作情報入力ボタン6aを介して入力された操作情報を、通信経路5bを介して操作サーバー4Bに送信する第1の送信工程と、操作サーバー4Bに送信された操作情報を、通信経路5cを介してテキスト情報送信サーバー4Cに送信する第2の送信工程と、テキスト情報送信サーバー4Cに送信された操作情報を、通信経路5dを介して受信者端末3Aの通信部3bに送信する第3の送信工程からなる。
第1乃至第3の送信工程により、操作情報が、管理者端末2から受信者端末3A~3Cへ伝達される。
【0037】
さらに、ステップS4の受信者端末VR動画再生工程は、受信者端末制御部3aが、通信部3bを介して受信した操作情報に基づいて、予め受信したVR動画のVR画像情報及びVR音声情報を、受信者端末表示部3gとスピーカー3dにそれぞれ再生させるための工程である。
操作情報を受信したとき、受信者端末3A~3Cは、それぞれモーションセンサー3fを備えることから、前述のとおり、各受信者端末制御部3aによってVR動画に基づくモーション動画が構成されて再生される。
【0038】
そして、ステップS5の管理者音声情報入力判定工程は、管理者が管理者音声情報を入力するときに実行される工程であって、具体的には管理者端末制御部2aが、管理者が管理者音声入力ボタン6bを操作後に管理者音声情報がマイク2cを介して入力されるか否かを判定して、これ以降に実施する工程を決定する工程である。
管理者端末制御部2aは、管理者音声情報が所定の時間内に入力されない場合に、VR動画の再生を継続させる。一方、管理者音声情報が所定の時間内に入力される場合には、
図3、
図4における「a」の工程以降を実行する。
【0039】
ステップS6のVR動画停止判定工程は、管理者がVR動画の再生を停止するときに実行される工程であって、具体的には、管理者端末制御部2aが、VR動画の再生を停止させる操作情報が操作情報入力ボタン6aを介して入力されるか否か、VR画像情報のみの再生を停止させる操作情報がVR画像情報操作ボタン6a-1を介して入力されるか否か、またはVR音声情報のみの再生を停止させる操作情報がVR音声情報操作ボタン6a-2を介して入力されるか否か、を判定する工程である。
管理者端末制御部2aは、操作情報が所定の時間内に入力されない場合に、ステップS4の受信者端末VR動画再生工程に戻って、VR動画、VR画像情報またはVR音声情報の再生を継続させる。一方、操作情報が所定の時間内に入力される場合には、管理者端末制御部2aは、ステップS7の操作情報送信工程を実行する。
【0040】
ステップS7の操作情報送信工程は、管理者端末制御部2aが、再生中のVR動画、VR画像情報またはVR音声情報を停止させる操作情報を、通信経路5b,5c,5dを介して、受信者端末3A~3Cにそれぞれ送信する工程である。
【0041】
次のステップS8の受信者端末再生停止工程は、受信者端末3A~3Cにおいて、それぞれの通信部3bを介して操作情報を受信したとき、各受信者端末制御部3aが、この操作情報に従って受信者端末表示部3gやスピーカー3dにおけるVR動画のすべて、またはVR画像情報あるいはVR音声情報の再生を停止させる。
【0042】
そして、ステップS9の受信者端末再生再開工程は、管理者端末制御部2aが、再生停止中のVR動画、VR画像情報またはVR音声情報の再生を再開させる操作情報を、操作情報入力ボタン6a等の操作によりそれぞれ入力する工程である。
管理者端末制御部2aは、操作情報が所定の時間内に入力されない場合に、ステップS10の問い合わせ工程を実行する。一方、操作情報が所定の時間内に入力される場合には、管理者端末制御部2aは、ステップS4の受信者端末VR動画再生工程に戻って、VR動画、VR画像情報またはVR音声情報の再生を再開させる。これとともに、管理者端末制御部2aは、ステップS11の操作情報送信工程を実行する。
【0043】
ステップS10の問い合わせ工程は、管理者端末制御部2aが、停止中のVR動画、VR画像情報またはVR音声情報の再生を再開させるか否かを、管理者に問い合わせる工程である。具体的には、管理者端末制御部2aが、操作画面6上に、例えば「再生を終了しますか?」といった文字を表示する。
管理者が、この文字に対応し、操作画面6上で、例えば操作情報入力ボタン6aを長押しすると、管理者端末制御部2aは、停止中のVR動画等の再生を再開することなく終了する。これにより、VR動画同期再生方法100は終了する。
これに対し、管理者が、この文字に対応して、操作画面6上で、例えば操作情報入力ボタン6aをダブルタップすると、管理者端末制御部2aは、ステップS11の操作情報送信工程を実行する。
【0044】
ステップS11の操作情報送信工程は、管理者端末制御部2aが、停止中のVR動画、VR画像情報またはVR音声情報の再生を再開させる操作情報を、操作サーバー4Bと、テキスト情報送信サーバー4Cと、通信経路5b,5c,5dを介して、受信者端末3A~3Cにそれぞれ送信する工程である。これにより、受信者端末3A~3Cにおいて、各受信者端末制御部3aが、操作情報に従ってVR動画等の再生を再開させる。
【0045】
次に、ステップS5の管理者音声情報入力判定工程の結果、管理者音声情報が所定の時間内に入力される場合の「a」の工程以降について、
図4を用いて説明する。
ステップS12の管理者音声情報工程は、管理者端末制御部2aが、管理者端末2において再生中のVR動画のうち、VR音声情報のみの再生を停止させる工程である。具体的には、管理者端末制御部2aが、VR音声情報操作ボタン6a-2が長押しされるときに、VR音声情報のみの再生を停止させる操作情報が入力されたことを検知する。
【0046】
続いて、ステップS13の管理者音声情報送信工程は、管理者端末制御部2aが、管理者音声情報を、音声情報通信サーバー4Dと、通信経路5e,5fを介して受信者端末3A~3Cに送信する工程である。
【0047】
さらに、ステップS14のVR音声停止注意情報送信工程は、管理者端末制御部2aが、ステップS13の管理者音声情報送信工程において、管理者音声情報を受信者端末3A~3Cに送信する場合に、操作情報のうち、VR音声情報のみの再生を停止する旨のVR音声停止注意情報を、操作サーバー4Bと、テキスト情報送信サーバー4Cと、通信経路5b,5c,5dを介し、受信者端末3A~3Cに対してそれぞれ送信する工程である。
受信者端末3A~3Cの各受信者端末制御部3aは、VR音声停止注意情報を受信した後に、操作画面6上の文字やスピーカー3dによる音声で、各受信者に報知する。
【0048】
そして、ステップS15の受信者音声送信注意情報送信工程は、管理者端末制御部2aが、受信者端末3A~3Cが管理者端末2からの管理者音声情報に応答する場合に限って、受信者端末3A~3Cが受信者音声情報を送信可能である旨の受信者音声送信注意情報を、操作サーバー4Bと、テキスト情報送信サーバー4Cと、通信経路5b,5c,5dを介し、受信者端末3A~3Cに対してそれぞれ送信する工程である。なお、この工程は、ステップS14のVR音声停止注意情報送信工程よりも前に、または同時に実行されてもよい。
受信者端末3A~3Cの各受信者端末制御部3aは、受信者音声送信注意情報を受信した後に、操作画面6上の文字やスピーカー3dによる音声で、各受信者に報知する。
【0049】
続いて、ステップS16のVR音声停止命令送信工程は、管理者端末制御部2aが、操作情報のうち、VR音声情報の再生を停止させる旨のVR音声停止命令を、操作サーバー4B等を介し、受信者端末3A~3Cに対して送信する工程である。これにより、受信者端末3A~3Cにおいては、受信者端末制御部3aが、VR音声停止命令に従い、VR音声情報の再生を停止する。
【0050】
続いて、ステップS17の受信許可通知送信判定工程は、管理者端末制御部2aが、音声情報通信サーバー4Dに受信許可通知を送信するか否かを判定する工程である。この受信許可通知は、受信者端末3A~3Cが管理者端末2からの管理者音声情報を受信した場合に限って、音声情報通信サーバー4Dに受信者端末3A~3Cからの受信者音声情報を受信させるという内容である。
なお、受信者端末3A~3Cに予めインストールされたVR動画同期再生方法100を実行するためのプログラムでは、受信者端末3A~3Cが管理者端末2からの管理者音声情報を受信すると、受信者端末3A~3Cの各受信者端末制御部3aが、それぞれテキスト形式の受信完了情報を、通信経路5gと、操作サーバー4Bと、通信経路5cと、テキスト情報送信サーバー4Cと、通信経路5hを介し、管理者端末2に直ちに送信されるよう設定されている。なお、通信経路5gの通信プロトコルは、HTTPであり、通信経路5hの通信プロトコルは、WebSocketである。
よって、この工程では、管理者端末制御部2aが、受信者端末3A~3Cからの受信完了情報を管理者端末2が受信したか否かを判定する。管理者端末制御部2aが、管理者端末2が受信完了情報を受信したと判定する場合、ステップS18の受信許可通知送信工程が実行される。一方、管理者端末制御部2aが、管理者端末2が受信完了情報を受信していないと判定する場合、ステップS13の管理者音声情報送信工程に戻る。
【0051】
ステップS18の受信許可通知送信工程は、管理者端末制御部2aが、受信者端末3A~3Cが管理者端末2からの管理者音声情報を受信した場合に限って、音声情報通信サーバー4Dに受信者音声情報を受信させる受信許可通知を送信する工程である。
音声情報通信サーバー4Dは、管理者端末制御部2aが送信した受信許可通知を受信すると、受信者端末3A~3Cからの受信者音声情報を、通信経路5fを介して受信し、さらに通信経路5eを介して管理者端末2へそれぞれ送信する。
【0052】
ステップS19の受信者音声情報送受信工程は、管理者と、受信者との相互の音声による実際の通話が可能となる工程であって、管理者端末制御部2aが、音声情報通信サーバー4Dが受信した受信者端末3A~3Cからの受信者音声情報を、管理者端末2に送信させ、スピーカー2dによって管理者が聞き取り可能な音声として出力される受信者音声情報受信工程と、管理者が聞き取った音声に対する音声をマイク2cに収音させて、新たな管理者音声情報として受信者端末3A~3Cに送信する管理者音声情報送信工程からなる。
ステップS19の受信者音声情報送受信工程が実行されている間に、管理者音声の送信を終了する旨の管理者音声送信終了通知が管理者端末2に入力されない場合は、管理者端末制御部2aは、管理者と、受信者との音声の送受信を継続する。なお、管理者音声送信終了通知は、例えば、管理者が管理者音声入力ボタン6bを長押しすることで入力されるテキスト形式の情報であるように設定することができる。
【0053】
ステップS20の管理者音声送信終了決定工程は、管理者端末制御部2aが、管理者音声送信終了通知が入力されたか否かによって、これ以降に実行する工程を決定する工程である。管理者端末制御部2aは、管理者音声送信終了通知が入力された場合に、ステップS21のVR音声情報再開工程を実行し、入力されない場合に、ステップS19の受信者音声情報送受信工程を継続させる。
【0054】
ステップS21のVR音声情報再開工程は、管理者端末制御部2aが、管理者端末2に、VR音声情報の再生を再開させる工程である。これにより、再生中のVR画像情報に加え、VR音声情報が再生される。
【0055】
ステップS22の操作情報送信工程は、管理者端末制御部2aが、受信者端末3A~3Cに、VR音声情報の再生を再開させる工程である。これにより、受信者端末3A~3Cは、VR画像情報と、VR音声情報が同時に再生されて、ステップS4の受信者端末VR動画再生工程の場合と同じ状態となる。
【0056】
以上説明したように、VR動画同期再生装置1は、ステップS1のVR動画配信工程乃至ステップS22の操作情報送信工程を実行可能である。
このうち、ステップS3の操作情報送信工程により、受信者端末3A~3Cにおいて、VR動画、VR画像情報またはVR音声情報はそれぞれ操作情報に従って再生されるから、これらは管理者端末2と受信者端末3A~3Cにおいて、時間的に同期して再生されることになる。
また、ステップS7,S11の操作情報送信工程により、受信者端末3A~3Cにおいて、VR動画、VR画像情報またはVR音声情報はそれぞれ操作情報に従って停止されたり、再開されたりする。よって、受信者端末3A~3Cは、管理者端末から独立してVR動画等の再生やその停止をすることができない。
【0057】
さらに、ステップS4の受信者端末VR動画再生工程においては、受信者端末3A~3Cは、それぞれVR動画に基づくモーション動画が構成されて再生されることから、例えば、VR動画が風景動画であった場合に、受信者端末3Aの受信者の視点は山に向かい、受信者端末3Bの受信者の視点は海に向かい、受信者端末3Cの受信者の視点は森に向かう、といったように、同時に異なる風景を視聴可能である。
【0058】
また、ステップS13の管理者音声情報送信工程において、管理者が管理者音声情報を送信すると、ステップS16のVR音声停止命令送信工程において、受信者端末制御部3aが、受信者端末3A~3CのVR音声情報の再生をいずれも自動的に停止するため、管理者の音声が、VR音声情報によって遮られることを防止できる。よって、受信者端末3A~3Cの各受信者は管理者の通話をはっきりと聞き取ることができる。
また、受信者端末制御部3aが、受信者端末3A~3CのVR音声情報の再生をいずれも停止する前に、ステップS14のVR音声停止注意情報送信工程において、各受信者端末制御部3aがVR音声停止注意情報を各受信者に報知するので、各受信者が、VR音声情報の停止に驚いたり、トラブルが発生したのではないかとの疑問を抱いたりすることを避けることができる。
【0059】
さらに、VR動画同期再生装置1によれば、ステップS19の受信者音声情報送受信工程において、管理者端末2と受信者端末3A~3Cが、VR音声情報が停止している最中に、リアルタイムで通話をすることができる。よって、管理者と受信者は、互いの音声をスムーズにやり取りすることで、ストレスを感じずに会話を楽しむことができるので、管理者や受信者同士の一体感が増して、視聴による満足感を高めることができる。
また、管理者端末2と受信者端末3A~3Cが通話をする前には、ステップS15の受信者音声送信注意情報送信工程において、受信者端末3A~3Cへ受信者音声送信注意情報が送信されるとともに、ステップS18の受信許可通知送信工程及びステップS19の受信者音声情報送受信工程により、管理者端末制御部2aが、受信許可通知を送信した場合に限って、管理者と、受信者との相互の音声による実際の通話が可能となるので、受信者が管理者の許可なく会話をすることを確実に防止することができる。よって、多人数の受信者同士が同時に会話をしながらも、VR画像情報の再生をスムーズに進行させることが実現可能である。
【0060】
なお、本発明に係るVR動画同期再生装置1は、実施例に示すものに限定されない。例えば、VR動画同期再生装置1は、VR動画同期再生方法100のうち、ステップS5の管理者音声情報入力判定工程と、ステップS12の管理者音声情報工程乃至ステップS22の操作情報送信工程は省略可能に構成されてもよい。
また、VR動画同期再生装置1は、ステップS17の受信許可通知送信判定工程と、ステップS18の受信許可通知送信工程を省略可能に構成されてもよい。
【産業上の利用可能性】
【0061】
本発明は、VR動画を複数の端末で同期して再生するためのVR動画同期再生装置として利用可能である。
【符号の説明】
【0062】
1…VR動画同期再生装置 2…管理者端末 2a…管理者端末制御部 2b…通信部 2c…マイク 2d…スピーカー 2e…記憶部 2f…モーションセンサー 2g…管理者端末表示部 3A~3C…受信者端末 3a…受信者端末制御部 3b…通信部 3c…マイク 3d…スピーカー 3e…記憶部 3f…モーションセンサー 3g…受信者端末表示部 4…サーバー群 4A…動画配信サーバー 4B…操作サーバー 4C…テキスト情報送信サーバー 4D…音声情報通信サーバー 5a~5h…通信経路 6…操作画面 6a…操作情報入力ボタン 6a-1…VR画像情報操作ボタン 6a-2…VR音声情報操作ボタン 6b…管理者音声入力ボタン 7…状況表示画面 7a…VR動画再生状況ボタン 7a-1…動画再生ボタン 7a-2…音声再生ボタン 7b…音声状況ボタン 100…VR動画同期再生方法
【要約】
【課題】VR動画の視聴者間の会話を可能として満足度を高め、VR動画が再生する音声データと会話との重なりを防ぐVR動画同期再生装置を提供する。
【解決手段】VR動画同期再生装置1は、管理者端末2と、受信者端末3A~3Cと、これらとそれぞれ通信可能なサーバー群4を備え、サーバー群4は、動画配信サーバー4Aと、操作サーバー4Bと、テキスト情報送信サーバー4Cと、音声情報通信サーバー4Dであり、管理者端末2は、テキスト形式の操作情報を操作サーバー4Bに送信するとともに、音声形式の管理者音声情報を音声情報通信サーバー4Dに送信し、操作サーバー4Bは、操作情報をテキスト情報送信サーバー4Cを介して受信者端末3A~3Cに送信し、音声情報通信サーバー4Dは、管理者音声情報を受信者端末3A~3Cに送信し、かつ受信者音声情報を受信して管理者端末2に送信する。
【選択図】
図1