(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024079570
(43)【公開日】2024-06-11
(54)【発明の名称】表示端末、通信システム、情報処理システム、表示方法、情報処理方法、通信方法、及びプログラム
(51)【国際特許分類】
H04N 7/15 20060101AFI20240604BHJP
H04N 21/431 20110101ALI20240604BHJP
H04N 5/765 20060101ALI20240604BHJP
H04N 5/93 20060101ALI20240604BHJP
【FI】
H04N7/15
H04N21/431
H04N5/765
H04N5/93
【審査請求】未請求
【請求項の数】16
【出願形態】OL
(21)【出願番号】P 2023161697
(22)【出願日】2023-09-25
(31)【優先権主張番号】P 2022192284
(32)【優先日】2022-11-30
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】大場 一寛
【テーマコード(参考)】
5C164
【Fターム(参考)】
5C164FA10
5C164UB81P
5C164VA07P
5C164VA11S
(57)【要約】
【課題】本開示は、録画された動画の再生中に、ユーザが、動画を閲覧している他のユーザにより、その動画のどの時間的な部分動画が注目されているかを把握できることを目的とする。
【解決手段】本開示は、通信端末に配信される際に録画された動画を再生表示する表示端末であって、前記録画された動画の再生中に、当該動画における時間的な部分動画の共有を受け付ける第1のモード(620)と、前記表示端末を含めた各表示端末によって共有された各動画における時間的な各部分動画を表示させる第2のモード(630)と、を表示部に表示させる表示制御部33を有する表示端末である。
【選択図】
図50
【特許請求の範囲】
【請求項1】
通信端末に配信される際に録画された動画を再生表示する表示端末であって、
前記録画された動画の再生中に、当該動画における時間的な部分動画の共有を受け付ける第1のモードと、
前記表示端末を含めた各表示端末によって共有された各動画における時間的な各部分動画を表示させる第2のモードと、
を表示部に表示させる表示制御部を有する表示端末。
【請求項2】
請求項1に記載の表示端末であって、
前記第1のモードにおいて、前記動画が広視野動画である場合に、当該広視野動画における所定領域を特定するための視点情報を、前記録画された動画を配信する情報処理システムに送信する送信部を有し、
前記第2のモードにおいて、前記表示制御部は、前記情報処理システムから受信した、前記広視野動画における前記所定領域の前記部分動画を前記表示部に表示させる、
表示端末。
【請求項3】
前記第1のモードにおいて、前記録画された動画の再生中に、当該動画における所定の再生経過時間のフレームである静止画の共有を受け付ける受付部と、
前記第2のモードにおいて、前記表示制御部は、前記静止画を表示させる
ことを特徴とする請求項1に記載の表示端末。
【請求項4】
通信端末に配信される際に録画された動画を再生表示する表示端末と、前記録画された動画を配信する情報処理システムと、を有する通信システムであって、
前記表示端末は、
前記動画における時間的な部分動画の共有を受け付ける受付部と、
前記部分動画の共有に関する情報を、前記情報処理システムに送信する送信部と、
を有し、
前記情報処理システムは、
前記部分動画の共有に関する情報を受信する受信部と、
前記表示端末を含めた各表示端末によって共有された各動画における時間的な各部分動画を、前記表示端末に送信する送信部と、
を有し、
前記表示端末は、前記各部分動画を表示部に表示させる表示制御部を有する、
通信システム。
【請求項5】
前記受付部は、前記配信された動画の再生中の第1のモードにおいて、前記部分動画の共有を受け付け、
前記表示制御部は、前記配信された動画の再生中の第2のモードにおいて、前記各部分動画を前記表示部に表示させる、
請求項4に記載の通信システム。
【請求項6】
通信端末に配信される際に録画された動画を再生表示する表示端末が実行する表示方法であって、
前記録画された動画の再生中に、当該動画における時間的な部分動画の共有を受け付ける第1のモードと、
前記表示端末を含めた各表示端末によって共有された各動画における時間的な各部分動画を表示させる第2のモードと、
を表示部に表示させる表示方法。
【請求項7】
通信端末に配信される際に録画された動画を再生表示する表示端末と、前記録画された動画を配信する情報処理システムと、を有する通信システムが実行する通信方法であって、
前記表示端末は、
前記動画における時間的な部分動画の共有を受け付ける受付処理と、
前記部分動画の共有に関する情報を、前記情報処理システムに送信する送信処理と、
を実行し、
前記情報処理システムは、
前記部分動画の共有に関する情報を受信する受信処理と、
前記表示端末を含めた各表示端末によって共有された各動画における時間的な各部分動画を、前記表示端末に送信する送信処理と、
を実行し、
前記表示端末は、前記各部分動画を表示部に表示させる表示制御処理を実行する、
通信方法。
【請求項8】
コンピュータに、通信端末に配信される際に録画された動画を再生表示させるプログラムであって、
前記コンピュータに、
前記録画された動画の再生中に、当該動画における時間的な部分動画の共有を受け付ける第1のモードと、
前記コンピュータを含めた各表示端末によって共有された各動画における時間的な各部分動画を表示させる第2のモードと、
を表示部に表示させるプログラム。
【請求項9】
通信端末に配信される際に録画された動画を再生表示する表示端末であって、
他の各表示端末における前記動画の各閲覧履歴を記録させる受け付けを行う受付部と、
前記録画された動画を配信する情報処理システムに対して、前記各閲覧履歴の記録要求を送信する送信部と、
前記情報処理システムから、前記記録された前記他の各表示端末における各閲覧履歴に基づき、前記動画において前記他の各表示端末で所定数よりも多く閲覧された動画における時間的な部分動画を受信する受信部と、
前記受信された前記部分動画を表示部に表示させる表示制御部と、
を有する表示端末。
【請求項10】
前記録画された動画の再生中の第1のモードにおいて、前記受付部及び前記送信部が実行し、
前記録画された動画の再生中の第2のモードにおいて、前記送信部及び前記表示制御部が実行する、
請求項9に記載の表示端末。
【請求項11】
通信端末に配信される際に録画された動画を表示端末に配信する情報処理システムであって、
所定の表示端末から、他の各表示端末における前記動画の各閲覧履歴を記録させる要求を受信する受信部と、
前記他の各表示端末に、当該他の各表示端末における前記動画の閲覧履歴を記録する要求を送信する送信部と、
前記他の各表示端末から取得した前記他の各表示端末における前記動画の各閲覧履歴に基づいて、前記他の各表示端末で所定数よりも多く閲覧された動画における時間的な部分動画を特定する部分動画特定部と、
を有し、
前記送信部は、前記部分動画を前記通信端末に送信する、情報処理システム。
【請求項12】
請求項9又は10に記載の表示端末と、
請求項11に記載の情報処理システムと、
を有する通信システム。
【請求項13】
通信端末に配信される際に録画された動画を再生表示する表示端末が実行する表示方法であって、
他の各表示端末における前記動画の各閲覧履歴を記録させる受け付けを行う受付処理と、
前記録画された動画を配信する情報処理システムに対して、前記各閲覧履歴の記録要求を送信する送信処理と、
前記情報処理システムから、前記記録された前記他の各表示端末における各閲覧履歴に基づき、前記動画において前記他の各表示端末で所定数よりも多く閲覧された動画における時間的な部分動画を受信する受信処理と、
前記受信された前記部分動画を表示部に表示させる表示制御処理と、
を実行する表示方法。
【請求項14】
コンピュータに、通信端末に配信される際に録画された動画を再生表示させるプログラムであって、
前記コンピュータに、
他の各表示端末における前記動画の各閲覧履歴を記録させる受け付けを行う受付処理と、
前記録画された動画を配信する情報処理システムに対して、前記各閲覧履歴の記録要求を送信する送信処理と、
前記情報処理システムから、前記記録された前記他の各表示端末における各閲覧履歴に基づき、前記動画において前記他の各表示端末で所定数よりも多く閲覧された動画における時間的な部分動画を受信する受信処理と、
前記受信された前記部分動画を表示部に表示させる表示制御処理と、
を実行させるプログラム。
【請求項15】
通信端末に配信される際に録画された動画を表示端末に配信する情報処理システムが実行する情報処理方法であって、
所定の表示端末から、他の各表示端末における前記動画の各閲覧履歴を記録させる要求を受信する受信処理と、
前記他の各表示端末に、当該他の各表示端末における前記動画の閲覧履歴を記録する要求を送信する送信処理と、
前記他の各表示端末から取得した前記他の各表示端末における前記動画の各閲覧履歴に基づいて、前記他の各表示端末で所定数よりも多く閲覧された動画における時間的な部分動画を特定する部分動画特定処理と、
を実行し、
前記送信処理は、前記部分動画を前記通信端末に送信する処理を含む、情報処理方法。
【請求項16】
コンピュータに、通信端末に配信される際に録画された動画を表示端末に配信させるプログラムであって、
前記コンピュータに、
所定の表示端末から、他の各表示端末における前記動画の各閲覧履歴を記録させる要求を受信する受信処理と、
前記他の各表示端末に、当該他の各表示端末における前記動画の閲覧履歴を記録する要求を送信する送信処理と、
前記他の各表示端末から取得した前記他の各表示端末における前記動画の各閲覧履歴に基づいて、前記他の各表示端末で所定数よりも多く閲覧された動画における時間的な部分動画を特定する部分動画特定処理と、
を実行させ、
前記送信処理は、前記部分動画を前記通信端末に送信する処理を含む、プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、表示端末、通信システム、情報処理システム、表示方法、情報処理方法、通信方法、及びプログラムに関する。
【背景技術】
【0002】
過去に他のユーザの間で盛り上がった動画像を、後でユーザが閲覧することのできる技術が提案されている(特許文献1参照)。
【発明の概要】
【発明が解決しようとする課題】
【0003】
しかしながら、複数のユーザが同じタイミングで、既に録画された動画を閲覧する場合、複数のユーザのうちの任意のユーザは、この動画を現在閲覧している他のユーザが動画のどの時間的な部分動画に注目しているかを把握することができない。
【0004】
本開示は、上述の課題に鑑みてなされたもので、録画された動画の再生中に、ユーザが、動画を閲覧している他のユーザにより、その動画のどの時間的な部分動画が注目されているかを把握できることを目的とする。
【課題を解決するための手段】
【0005】
請求項1に係る発明は、通信端末に配信される際に録画された動画を再生表示する表示端末であって、前記録画された動画の再生中に、当該動画における時間的な部分動画の共有を受け付ける第1のモードと、前記表示端末を含めた各表示端末によって共有された各動画における時間的な各部分動画を表示させる第2のモードと、を表示部に表示させる表示制御部を有する表示端末である。
【発明の効果】
【0006】
以上説明したように本発明によれば、録画された動画の再生中に、ユーザが、動画を閲覧している他のユーザにより、その動画のどの時間的な部分動画が注目されているかを把握することができるという効果を奏する。
【図面の簡単な説明】
【0007】
【
図1】広視野画像を用いた遠隔コミュニケーションの一例を説明する図である。
【
図3】撮像装置のハードウエア構成図の一例である。
【
図4】通信端末、情報処理システムのハードウエア構成図の一例である。
【
図5】(a)は撮像装置の左側面図であり、(b)は撮像装置の正面図であり、(c)は撮像装置の平面図である。
【
図7】(a)は撮像装置で撮像された半球画像(前)、(b)は撮像装置で撮像された半球画像(後)、(c)は正距円筒図法により表された画像を示した図である。
【
図8】(a)正距円筒射影画像で球を被う状態を示した概念図、(b)全天球画像を示した図である。
【
図9】全天球画像を三次元の立体球とした場合の仮想カメラ及び所定領域の位置を示した図である。
【
図10】(a)は
図5の立体斜視図、(b)は(a)の状態の所定領域画像がディスプレイに表示されている図、(c)は(a)における仮想カメラICの視点を変更後の所定領域を示した図、(d)は(c)の状態の所定領域画像がディスプレイに表示されている図である。
【
図11】所定領域情報と所定領域Tの画像との関係を示した図である。
【
図12】球座標による三次元ユークリッド空間内の点を示した図である。
【
図14】(a)、(b)は、画像管理情報記憶部に記憶される画像管理情報を示す概念図である。
【
図15】仮想ルーム情報記憶部に記憶される仮想ルーム情報を示す概念図である。
【
図16】テナント情報記憶部に記憶されているテナント情報を示す概念図である。
【
図17】視点関連情報記憶部に記憶される視点関連情報を示す概念図である。
【
図18】静止画共有情報記憶部5005に記憶される静止画共有情報を示す概念図である。
【
図19】部分平面動画の共有情報記憶部5006に記憶される部分平面動画の共有情報を示す概念図である。
【
図20】部分広視野動画の共有情報記憶部5007に記憶されている部分広視野動画の共有情報を示す概念図である。
【
図21】(a)は入室画面の一例を示す図である。(b)はユーザが仮想ルームに入室したことで、通信端末が表示する画像閲覧画面の一例を示す図である。
【
図22】ユーザ(又は通信端末)が仮想ルームに入室する処理を説明するシーケンス図の一例である。
【
図23】通信端末が表示するデバイス登録画面の一例を示す図である。
【
図24】(a)は、撮像装置登録ダイアログを示す図の一例である。(b)は、二次元コード画面の一例を示す図である。
【
図25】VRゴーグル登録ボタンが押下された場合に表示されるVRゴーグル登録画面の一例を示す図である。
【
図26】仮想ルームに撮像装置を対応付けるための仮想ルーム対応付け画面(その1)の一例を示す図である。
【
図27】仮想ルーム対応付け画面(その2)の一例を示す図である。
【
図28】仮想ルーム対応付け画面(その3)の一例を示す図である。
【
図29】通信端末が表示する広視野画像送信開始停止ダイアログの一例を示す図である。
【
図30】ユーザが仮想ルームに撮像装置を登録する手順を示すシーケンス図の一例である。
【
図31】広視野画像が共有される流れを説明するシーケンス図の一例である。
【
図32】広視野画像の共有時において、通信端末からユーザが撮像装置に撮像を要求する処理を説明するシーケンス図の一例である。
【
図33】通信端末が表示する画像閲覧画面の一例を示す図である。
【
図34】通信端末において、撮像ボタンが押下されたことでダウンロードボタンが表示された画像閲覧画面の一例を示す図である。
【
図35】(a)は、ユーザがダウンロードボタンを押下する前に表示される画像閲覧画面を示す図の一例である。(b)は、ユーザがダウンロードボタンを押下した後に表示される画像閲覧画面を示す図の一例である。
【
図36】サムネイルが表示された画像閲覧画面を示す図の一例である。
【
図37】3つの画像欄がある場合の画像閲覧画面の一例を示す図である。
【
図38】広視野画像の共有時において、通信端末からユーザが撮像装置に撮像を要求する処理を説明するシーケンス図の変形例を示す図である。
【
図39】ユーザがストレージに保存されている広視野画像を閲覧する処理を説明するシーケンスである。
【
図40】仮想ルームリスト画面の一例を示す図である。
【
図42】所定のサムネイルを拡大表示した例である。
【
図43】静止画を共有する処理を示すシーケンス図である。
【
図44】部分動画を共有する処理を示すシーケンス図である。
【
図45】主催者以外の各閲覧者が閲覧している履歴を記録する処理を示すシーケンス図である。
【
図47】閲覧者が共有静止画を再生する処理を示すシーケンス図である。
【
図48】共有静止画を再生した画面を示す図である。
【
図49】閲覧者が共有部分動画を再生する処理を示すシーケンス図である。
【
図50】共有部分動画を再生した画面を示す図である。
【
図51】閲覧者が高注目部分動画を再生する処理を示すシーケンス図である。
【
図52】高注目部分動画を再生した図面を示す図である。
【
図53】通信システムが遠隔医療に適用された遠隔コミュニケーションの一例を説明する図である。
【
図54】遠隔医療の場合において仮想ルームに撮像装置を対応付けるための仮想ルーム対応付け画面の一例を示す図である。
【
図55】任意のユーザが通信端末をストレージに接続させて表示した仮想ルームリスト画面の一例を示す図である。
【
図56】各拠点における表示画像のサムネイルを選択するための拠点表示画像選択画面の一例を示す図である。
【発明を実施するための形態】
【0008】
以下、本発明を実施するための形態の一例として、情報処理システムと情報処理システムが行う画像送信方法について説明する。
【0009】
<遠隔コミュニケーションの一例>
図1は、広視野画像を用いた遠隔コミュニケーションの一例を説明する図である。
図1では、3つの拠点A~Cが情報処理システム50を介して通信している。拠点の数は一例に過ぎず、2拠点でも、4拠点以上でもよい。
【0010】
拠点Aは一例として、工事現場である。拠点B,Cはどこでもよいが、例えばオフィス等、広視野画像を通信可能な場所であればよい。拠点Aには、被写体等を撮像することで、例えば全天球画像と言われる広視野画像、上下方向又は水平方向に180~360度といった周囲の広角な広視野画像を生成可能な撮像装置10が配置されている。以下ではこのような広角な画像を単に「広視野画像」という。拠点A~Cには広視野画像を閲覧する各種の通信端末30A~30Cが配置されている。なお、以下では、通信端末30A~30Cのうち任意の通信端末を「通信端末30」と称する。
【0011】
工事現場は、各場所で様々な工事が作業員により進められており、撮像装置が、工事現場が映された広視野画像を生成するために工事現場の全体を撮像しつつ、各拠点A~Cのユーザが着目したい工事又は作業があれば、拠点A~Cの各ユーザa~cが仮想的な視点を任意に変えて確認できる。この場合の視点とは、広視野画像全体のうちディスプレイ等の表示画面に表示される所定領域の中心位置又は範囲である。
【0012】
撮像装置10は三脚86に取り付けられたり、ジンバル87を介してアーム85に取り付けられたりする。工事現場には中継装置(
図1では通信端末30Aが中継装置を兼ねている)が設置されており、通信端末30Aが有線又は無線で撮像装置10から受信した広視野画像を、情報処理システム50に送信する。通信端末30Aは、広視野画像の閲覧用の端末にもなり得る。通信端末30にカメラ9が接続されており(内蔵していてもよい)、カメラ9が撮像した通常の画角の画像(広視野画像を撮像できてもよい)も情報処理システム50に送信可能である。また、ユーザa(例えば作業員でもよい)はスマートグラス88を装着でき、スマートグラス88が撮像することで生成した通常の画角の画像(広視野画像を撮像できてもよい)が情報処理システム50に送信される場合がある。スマートグラス88とは、視野を確保しながら、インターネット経由で取得した情報をディスプレイに表示する情報端末である。スマートグラス88は任意の拠点に配置されていてよい。
【0013】
一方、拠点Bには通信端末30Bの一例としてPC(Personal Computer)又はスマートフォン等が配置されている。また、通信端末30Bは情報処理システム50と通信できる装置であればよく、これらの他、タブレット端末、PDA(Personal Digital Assistant)、電子黒板、プロジェクタ等でもよい。通信端末30Bにカメラが内蔵又は接続されていてもよい。
【0014】
また、拠点Cには通信端末30Cの一例としてPC、スマートフォン、VR(Virtual Reality)ゴーグル89等が配置され、
図1では、通信端末30Cにカメラ8が内蔵又は接続されている。VRゴーグル89とは、コンピュータ上の人工的な世界又は全天球画像を、首又は身体を動かした方向に合わせて表示する情報端末である。VRゴーグル89は、外付けのVRスコープ(本体にプラスチック製等のレンズが付いており、組み立ててスマートフォンをセットすることで手軽にVRを楽しめるVRスコープ)のようにスマートフォンにVR用のゴーグルをセットしたものでもよい。カメラ8は広角用でも通常画角用でもよい。また、通信端末30Cは情報処理システム50と通信できる装置であればよく、タブレット端末、PDA、電子黒板、プロジェクタ等でもよい。VRゴーグル89は任意の拠点に配置されていてよい。
【0015】
本実施形態では、撮像装置10及び各通信端末30は、「仮想ルーム」という通信グループで通信が管理される。撮像装置10は仮想ルームに対応付けられており、通信端末30(通信端末30を操作するユーザ)は、この仮想ルームに入室して、撮像装置10によって送信された広視野画像を受信することで、ユーザが広視野画像を閲覧できる。スマートグラス88又はVRゴーグル89も仮想ルームに対応付けることが可能である。カメラ8,9は、通信端末30と同様に仮想ルームに入室する。
【0016】
拠点A~Cのユーザa~cは各自の通信端末30で任意に広視野画像の視点を変更できる。このため、リアルタイムに広視野画像を閲覧する各ユーザa~cはそれぞれ異なる視点を見ている可能性が生じて、意思の疎通が困難になるおそれがある。そこで、本実施形態では、任意の拠点の通信端末30において設定されている仮想的な視点の情報を他の拠点の通信端末30でも共有できるようにする。共有の概略を説明する。以下では、説明のため、拠点Bのユーザbが指定した視点が拠点A、Cのユーザa,cと共有する場合が示されている。
【0017】
(1) 通信端末30A~30Cは撮像装置10が撮像することで生成した広視野画像(第一の広視野画像の一例)を共有している。ユーザbが通信端末30Bで任意の視点で閲覧した状態で広視野画像を要求すると、通信端末30B(第一の通信端末の一例)が視点情報と撮像要求を情報処理システム50に送信する。
【0018】
(2) 情報処理システム50は撮像要求に応じて、視点情報を指定して撮像装置10に撮像(静止画でも動画でもよい)を要求する。
【0019】
(3) 撮像装置10は撮像要求に応じて撮像し、広視野画像(第二の広視野画像の一例)と視点情報を情報処理システム50から通知されたURL(保存場所情報の一例。
図1では、ストレージ90上の保存場所を示す。)に関連付けて保存する。ストレージ90に保存された広視野画像は任意の通信端末30がダウンロードして表示可能である。
【0020】
(4) 情報処理システム50はURLを通信端末30Bに送信する。
【0021】
(5)また、情報処理システム50は、自動で又はユーザbの要求に応じて、URLを同じ仮想ルームに入室中の通信端末30A、30C(第二の通信端末の一例)に送信する。
【0022】
(6) 通信端末30A、30CはURLにアクセスして視点情報と広視野画像を受信し、視点情報で特定される広視野画像の視点を画像欄の中央に一致させるように設定して表示する。なお、視点を完全に中央に一致させる必要はなく、視点を画像欄の中央近傍の範囲に含まれるように設定して表示させてもよい。
【0023】
拠点Aのユーザaの視点を拠点B、Cのユーザに共有する場合、拠点Cのユーザの視点を拠点A、Bのユーザに共有する場合も同様である。
【0024】
以上のように、本実施形態の通信システム1aは、広視野画像が配信された場合でも、各拠点で着目していた所定領域が表示されるように撮像されることで生成された広視野画像に対する視点の移動を指示しなくとも、視点情報が共有されるので、ユーザの意図疎通が容易になる。
【0025】
なお、(3)で撮像装置10が広視野画像そのものを情報処理システム50に送信し、(4)で情報処理システム50が広視野画像を通信端末30A~30Cに送信することもできる。
【0026】
また、
図1では、工事現場に撮像装置10が配置される例を説明したが、VR教育、イベント配信、リモート接客、遠隔医療等にも本実施形態を適用可能である。VR教育では、撮像装置10が研究室等の現場の拠点に配置され、遠隔拠点から学生が任意に視点を変えて黒板、器具、サンプル、実験結果等を閲覧できる。イベント配信では、撮像装置10が現場のイベントの開催場所に配置され、遠隔拠点から観客等のイベント参加者がオンラインで任意に視点を変えて開催場所の様子を閲覧できる。なお、開催場所の様子は演者、出場者、発表者、イベントで説明される製品又は展示物などの被写体の映像、イベントで説明される資料の映像、開催場所の状態の映像等を含む。なお、イベントの開催場所は屋内であっても屋外であってもよく、スポーツ、コンサート、演劇等の会場も含まれる。リモート接客では、例えば旅行代理店の接客に適用する場合には、撮像装置10が現場の旅先に配置され、遠隔拠点から顧客が任意に視点を変えて旅程を検討できる。遠隔医療では、撮像装置10が手術室等の医療現場に配置され、遠隔拠点から医師、学生、医療機器の関係者等が任意に視点を変えて医療現場で医療行為を行っている医師の動作、看護師の動作、器具の配置、患者の状態、バイタル等を閲覧できる。
【0027】
画像が撮像される拠点は、これらに限られず、学校、工場、倉庫、建設現場、サーバルーム又は店舗等、閲覧側の拠点のユーザ(閲覧者)が遠隔拠点の現場の状況を把握したいニーズが存在する空間であればよい。
【0028】
<用語について>
テナントとは、サービスの提供者(本実施形態では情報処理システム)から画像配信サービスを受けることを契約する際の契約単位に紐づくユーザのグループを示しており、契約した企業、組織、個人等である。そのため、テナントは、ユーザグループとも言い換えることができる。ユーザは一例としてテナントに所属しているが、ユーザ個人でサービスに加入してもよい。テナント(ユーザグループ)には、ユーザの他、撮像装置、仮想ルーム等が登録されている。
【0029】
拠点とは、活動のよりどころとする場所をいう。本実施形態では、拠点の例として会議室を例にする。会議室は、主に会議に使用することを目的に設置された部屋のことである。会議は、会合、ミーティング、打ち合わせ、集会、寄り合い、集まり等ともいう。
【0030】
デバイスとは、PC、スマートフォン等の汎用的な通信端末30でない装置をいい、撮像装置、又は、広視野画像の閲覧装置である。本実施形態では、撮像装置10、スマートグラス88、及び、VRゴーグル89が挙げられる。
【0031】
視点情報とは、ディスプレイの表示画面に表示する広視野画像のどの所定領域をディスプレイの表示画面に表示するかを特定するパラメータ情報である。本実施形態ではディスプレイの表示画面に表示される広視野画像の中心に対応する「動径」、「極角」、「方位角」を視点情報の一例として説明するが、対角頂点の座標など他のパラメータ情報で特定されてもよい。
【0032】
広視野画像とは、所定の表示方法においてディスプレイの表示画面(広視野画像が表示される領域)に一度に表示できる表示範囲より広い広範囲の視野角を有する画像を意味する。広視野画像は、最大で上下方向360度(または180度)、左右方向360度の視野分の表示範囲を持つが、上下360度未満、左右360度未満であってもディスプレイに一度に表示できる表示範囲より広い広範囲の視野角を有する画像であれば広視野画像に含まれる。また、上下方向及び左右方向についてそれぞれ、160度以上の視野分の表示範囲を有している画像も広視野画像に含まれる。例えば、人間が一度に視認できる範囲よりも広い表示範囲を有している画像も広視野画像に含まれる。なお、表示方法によってはディスプレイの表示画面に一度に表示できる画像であっても、所定の表示方法(表示モード、又は拡大若しくは縮小等)に切り替えたり、変更したりすることによって、広範囲の視野角を有するのであれば広視野画像に含まれる。なお、本実施形態では、広視野画像の一例としてエクイレクタングラー(equirectangular)形式の全天球画像を例に説明するが、全方位画像、半球画像、3Dパノラマ画像、2Dパノラマ画像、VR画像も広視野画像に含まれる。広視野画像は、例えばキューブマッピング形式、ドームマスター形式等の画像であってもよい。また、全天球画像はエクイレクタングラー(equirectangular)形式以外の形式であってもよい。
【0033】
通常の画角で撮像された画像は、広視野画像でない画像であるが、本実施形態では、広視野画像でない画像(平面画像)として説明する。
【0034】
通信グループとは、広視野画像が共有される(配信される)ユーザの集まりである。通常の空間では、各ユーザが同じ部屋に入室した場合に各ユーザにより広視野画像が共有可能となるという意味で、通信グループを仮想的な部屋(仮想ルーム)という用語で説明する。ここでの仮想とはネットワークを介した情報処理で実現されるという意味である。
【0035】
各拠点のユーザは遠隔地同士で遠隔コミュニケーションを行う。遠隔コミュニケーションは遠隔地の拠点で行われる会合である。会合とは相談又は討議などのために人々が寄り集まることをいう。会合には接客、会議、集会、打合せ、勉強会、授業、セミナー、発表会など種々の態様がある。必ずしも双方向通信である必要はない。したがって、仮想ルームを仮想会議室と称してもよい。
【0036】
<通信システムの構成例>
図2は、通信システム1aの構成概略図の一例である。
図1は、
図2の通信システム1aを現場との遠隔コミュニケーションに適用した一例である。通信システム1aは、複数の拠点間において、撮像装置10が撮像した広視野画像又は通常画角の画像を双方向に送受信するシステムであり、ある拠点から配信される画像を、他の拠点において表示させることで、他の拠点のユーザが画像を閲覧できるシステムである。なお、広視野画像の一例として、撮像装置10が撮像する全天球画像が配信される。通信システム1aは、例えば、所定の一拠点で撮像された広視野画像を、遠隔地にある他の拠点において閲覧させることができる。
【0037】
図2に示されているように、通信システム1aでは、拠点Aに配置された撮像装置10、通信端末30A、情報処理システム50、及び複数の拠点(拠点B,C,D)のそれぞれに配置された通信端末30B,30C,30Dが通信可能に接続されている。
【0038】
撮像装置10が直接、通信ネットワークNに接続できる通信機能を有している場合、中継装置(例えばルーター等)としての通信端末30Aは不要である。この場合、通信端末30Aは、撮像装置10を伴わずに通信ネットワークNに接続される。しかし、拠点Aに通信端末30Aが配置される場合、通信端末30Aが中継装置を兼ね、通信端末30B,30C,30Dと同様にユーザaが広視野画像を閲覧できる。なお、拠点A以外の拠点に撮像装置10がさらに配置されていてもよいし、拠点Aに複数の撮像装置10が配置されていてもよい。
【0039】
各通信端末30及び情報処理システム50は、通信ネットワークNを介して通信することができる。通信ネットワークNは、インターネット、移動体通信網、LAN(Local Area Network)等によって構築されている。なお、通信ネットワークNには、有線通信だけでなく、3G(3rd Generation)、4G(4th Generation)、5G(5th Generation)、Wi-Fi(Wireless Fidelity)(登録商標)、WiMAX(Worldwide Interoperability for Microwave Access)又はLTE(Long Term Evolution)等の無線通信によるネットワークが含まれてもよい。
【0040】
撮像装置10は、後述するように、広視野画像を撮像可能な撮像装置の一例として、被写体又は風景等を撮像して元になる二つの半球画像を得て、一つの全天球画像を生成することが可能なデジタルカメラを例にして説明する。撮像装置10によって得られる広視野画像は、動画であっても静止画であってもよく、動画と静止画の両方であってもよい。また、撮像画像は、画像と共に音声を含む映像であってもよい。
【0041】
通信端末30は、各拠点のユーザによって使用されるPC等のコンピュータである。通信端末30は、自拠点で撮像することで得られた画像、他の拠点から配信された広視野画像(静止画又は動画)及び通常の画角の画像を表示する。通信端末30は、例えば、通信ネットワークNを介して、撮像装置10によって撮像された広視野画像を取得する。また、通信端末30には、OpenGL ES等の画像処理を実行するソフトウェアがインストールされており、広視野画像の一部の領域を特定する視点情報に基づく画像表示ができる。なお、OpenGL ESは画像処理を実行するソフトウェアの一例であって、他のソフトウェアであってもよい。また、画像処理を実行するソフトウェアをインストールしていなくても、外部から受信したソフトウェアによって画像処理を実行してもよいし、外部のソフトウェアによって実行される画像処理結果を受信することで画像表示を行ってもよい。すなわち、通信端末30は、広視野画像の一部の所定領域を表示可能である。
【0042】
通信端末30はユーザの操作に応じて広視野画像の表示範囲に対する視点を任意に変更できる。通信端末30は、タッチパネル、方向ボタン、マウス、キーボード、タッチパッドなどに対するユーザ操作入力(キー入力、ドラッグ、スクロール等を含む)に応じて、仮想的な視点を移動させることで、移動後の視点に応じた視点情報に基づいて視野範囲(所定領域)を変更して表示できる。さらに、通信端末30が例えばVRゴーグル等のユーザが装着する通信端末の場合に、装着したユーザの動きの変更に応じて変更された通信端末30の姿勢情報を検知し、検知した姿勢情報に応じて、仮想的な視点を移動させることで、移動後の視点に応じた視点情報に基づいて視野範囲(所定領域)を変更して表示してもよい。
【0043】
通信端末30Aは、後述の入出力I/F116に接続されたUSB(Universal Serial Bus)ケーブル等の有線ケーブルを介して撮像装置10から取得した広視野画像を、情報処理システム50を介して、他の拠点の通信端末30に配信する。撮像装置10及び通信端末30Aの接続は、有線ケーブルを用いた有線接続ではなく、近距離無線通信等を用いた無線接続であってもよい。拠点Aに複数の通信端末30Aが配置されてもよい。
【0044】
拠点Aのユーザがスマートグラス88を装着し、スマートグラス88が通信ネットワークNに接続する場合もある。この場合、スマートグラス88が撮像した画像は通信ネットワークNを介して情報処理システム50に送信され、情報処理システム50が各拠点の通信端末30に配信することができる。
【0045】
通信端末30Bは、ユーザbが存在する拠点Bに配置されており、通信端末30Cは、ユーザcが存在する拠点Cに配置されている。拠点B,Cに複数の通信端末30B,30Cが配置されてもよい。なお、通信端末30B、通信端末30Cは、ユーザb、ユーザcがそれぞれ持ち歩くことができてもよい。
【0046】
なお、拠点A~Cの通信端末30A~30Cは撮像部としての一例のカメラ8、9を内蔵していたり外付けしたりすることが可能であり、通信端末30A~30Cは、自端末のカメラ8、9等によって自拠点が撮像された画像を他拠点に配信することができる。また、拠点A~Cには任意のデバイスが配置されてよい。
【0047】
図2に示す各端末及び装置(通信端末30及び撮像装置)、並びにユーザの配置は一例であり、他の例であってもよい。また、通信端末30は、PCに限られず、例えば、タブレット端末、スマートフォン、PDA、ウェアラブル端末(スマートグラス、VRゴーグルを含む)、PJ(Projector:プロジェクタ)、電子黒板(相互通信が可能な電子式の黒板機能を有する白板)又は自律走行ロボット等であってもよい。通信端末30は、Webブラウザ又は画像配信サービスに専用のアプリケーションが動作するコンピュータであればよい。
【0048】
さらに、撮像装置10がディスプレイを有する場合、他の拠点から配信された画像を表示する構成であってもよい。
【0049】
情報処理システム50は、一台以上の情報処理装置を有している。情報処理システム50は、各拠点間の撮像装置10、通信端末30の通信を管理及び制御したり、送受信される広視野画像を管理したりする。情報処理システム50は、広視野画像の配信を行う画像配信サービスを提供するために必要な機能を利用できるプラットフォームを提供する。このプラットフォームを、画像配信サービスを提供したい個人又は企業等のサービス提供者が、契約により利用できるようにしてもよい。以下、画像配信サービスを受けるテナントと区別するため、契約したプラットフォームを利用して画像配信サービスをユーザに提供するサービス提供者をプラットフォーム契約者という。
【0050】
このため、プラットフォームとして情報処理システム50がAPI(Application Programming Interface)を公開し、プラットフォーム契約者がこのAPIを使用して様々な画像配信サービスを提供できるようにしてもよい。プラットフォーム契約者は、主に通信端末30が表示する画面、APIの呼出しなどを行うアプリケーション等のソフトウェアを開発すればよく、画像配信等のAPIによって提供される機能を一から開発する必要がない。
【0051】
情報処理システム50は、単一のコンピュータによって構築されてもよいし、各部(機能又は手段)を分割して任意に割り当てられた複数のコンピュータによって構築されてもよい。また、情報処理システム50の機能の全て又は一部は、クラウド環境に存在するサーバコンピュータであってもよいし、オンプレミス環境に存在するサーバコンピュータであってもよい。
【0052】
ストレージ90は、広視野画像等のデータを記憶させる記憶装置である。ストレージ90は、情報処理システム50と別体となった外部ストレージ(クラウド上に配置されたストレージでもよいしオンプレミスに配置されたストレージでもよい)でもよいし、情報処理システム50に含まれるストレージでもよい。
【0053】
<ハードウエア構成>
続いて、
図3、
図4を用いて、本実施形態に係る画像通信システムが有する各装置又は端末のハードウエア構成を説明する。なお、
図3、
図4に示されているハードウエア構成は、必要に応じて構成要素が追加又は削除されてもよい。
【0054】
<<撮像装置のハードウエア構成>>
まず、
図3を用いて、撮像装置10のハードウエア構成を説明する。
図3は、撮像装置10のハードウエア構成の一例を示す図である。以下では、撮像装置10は、二つの撮像素子を使用した全天球(全方位)撮像装置とするが、撮像素子は一つであっても、二つ以上あってもよい。また、必ずしも全方位撮像専用の装置である必要はなく、通常のデジタルカメラ又はスマートフォン等に後付けの全方位撮像ユニットを取り付けることで、実質的に撮像装置10と同じ機能を有するようにしてもよい。
【0055】
図3に示されているように、撮像装置10は、撮像ユニット101、画像処理ユニット104、撮像制御ユニット105、マイク108、音処理ユニット109、CPU(Central Processing Unit)111、ROM(Read Only Memory)112、SRAM(Static Random Access Memory)113、DRAM(Dynamic Random Access Memory)114、操作部115、入出力I/F116、近距離通信回路117、近距離通信回路117のアンテナ117a、電子コンパス118、ジャイロセンサ119,加速度センサ120、及びネットワークI/F121によって構成されている。
【0056】
このうち、撮像ユニット101は、各々半球画像を結像するための180°以上の画角を有する広角レンズ(いわゆる魚眼レンズ)102a,102b(以下区別する必要のないときは、レンズ102と称する。)、及び各レンズに対応させて設けられている二つの撮像素子103a,103bを備えている。撮像素子103a,103bは、レンズ102a,102bによる光学像を電気信号の画像データに変換して出力するCMOS(Complementary Metal Oxide Semiconductor)センサ又はCCD(Charge Coupled Device)センサ等の画像センサ、この画像センサの水平若しくは垂直同期信号又は画素クロック等を生成するタイミング生成回路、及びこの撮像素子の動作に必要な種々のコマンドもしくはパラメータ等が設定されるレジスタ群等を有している。なお、撮像ユニット101が広角レンズを2つ備える構成はあくまで一例であって、1つだけ備えていてもよいし、3つ以上備えていてもよい。
【0057】
撮像ユニット101の撮像素子103a,103bは、各々、画像処理ユニット104とパラレルI/Fバスを介して接続している。一方、撮像ユニット101の撮像素子103a,103bは、それぞれ撮像制御ユニット105とシリアルI/Fバス(I2Cバス等)を介して接続している。画像処理ユニット104、撮像制御ユニット105及び音処理ユニット109は、バス110を介してCPU111と接続している。さらに、バス110には、ROM112、SRAM113、DRAM114、操作部115、入出力I/F116、近距離通信回路117、電子コンパス118、ジャイロセンサ119、加速度センサ120及びネットワークI/F121等も接続される。
【0058】
画像処理ユニット104は、撮像素子103a,103bから出力される画像データをパラレルI/Fバスを通して取り込み、それぞれの画像データに対して所定の処理を施した後、これらの画像データを合成処理して、後述する正距円筒射影画像(広視野画像の一例)のデータを作成する。
【0059】
撮像制御ユニット105は、一般に撮像制御ユニット105をマスタデバイス、撮像素子103a,103bをスレーブデバイスとして、I2Cバスを利用して、撮像素子103a,103bのレジスタ群にコマンド等を設定する。必要なコマンド等は、CPU111から受け取る。また、撮像制御ユニット105は、同じくI2Cバスを利用して、撮像素子103a,103bのレジスタ群のステータスデータ等を取り込み、CPU111に送る。
【0060】
また、撮像制御ユニット105は、操作部115のシャッターボタンが押下されたタイミングで、撮像素子103a,103bに画像データの出力を指示する。撮像装置10によっては、ディスプレイ(例えば、近距離通信回路117を用いて撮像装置10と近距離通信を行うスマートフォン等の外部端末のディスプレイ)によるプレビュー表示機能、又は動画表示に対応する機能を持つ場合もある。この場合は、撮像素子103a,103bからの画像データの出力は、所定のフレームレート(フレーム/分)によって連続して行われる。
【0061】
また、撮像制御ユニット105は、後述するように、CPU111と協働して撮像素子103a,103bの画像データの出力タイミングの同期をとる同期制御手段としても機能する。なお、本実施形態では、撮像装置10には表示部(ディスプレイ)が設けられていないが、表示部を設けてもよい。マイク108は、音を音(信号)データに変換する。音処理ユニット109は、マイク108から出力される音データをI/Fバスを通して取り込み、音データに対して所定の処理を施す。
【0062】
CPU111は、撮像装置10の全体の動作を制御すると共に必要な処理を実行する。ROM112は、CPU111のための種々のプログラムを記憶している。SRAM113及びDRAM114はワークメモリであり、CPU111で実行するプログラム及び処理途中のデータ等を記憶する。特にDRAM114は、画像処理ユニット104での処理途中の画像データ、又は処理済みの正距円筒射影画像のデータを記憶する。
【0063】
操作部115は、シャッターボタン等の種々の操作ボタン、電源スイッチ、及び表示と操作の機能を兼ねたタッチパネル等の総称である。ユーザは、操作部115を操作することで、種々の撮像モード又は撮像条件等を入力する。
【0064】
入出力I/F116は、SDカード等の外付けのメディア又はパーソナルコンピュータ等とのインターフェース回路(USBI/F等)の総称である。入出力I/F116は、無線、有線を問わない。DRAM114に記憶された正距円筒射影画像のデータは、入出力I/F116を介して外付けのメディアに記録されたり、必要に応じて入出力I/F116を介して外部端末(装置)に送信されたりする。
【0065】
近距離通信回路117は、撮像装置10に設けられたアンテナ117aを介して、NFC(Near Field Communication)、Bluetooth(登録商標)又はWi-Fi等の近距離無線通信技術によって、外部端末(装置)と通信を行う。近距離通信回路117は、正距円筒射影画像のデータを、外部端末(装置)に送信することができる。
【0066】
電子コンパス118は、地球の磁気から撮像装置10の方位を算出し、方位情報を出力する。この方位情報は、Exifに沿った関連情報(メタデータ)の一例であり、撮像画像の画像補正等の画像処理に利用される。なお、関連情報は、画像の撮像日時及び画像データのデータ容量の各データも含む。
【0067】
ジャイロセンサ119は、撮像装置10の移動に伴う角度の変化(Roll角、Pitch角、Yaw角)を検出するセンサである。角度の変化はExifに沿った関連情報(メタデータ)の一例であり、撮像画像の画像補正等の画像処理に利用される。
【0068】
加速度センサ120は、三軸方向の加速度を検出するセンサである。撮像装置10は、加速度センサ120が検出した加速度に基づいて、自装置(撮像装置10)の姿勢(重力方向に対する角度)を算出する。撮像装置10は、加速度センサ120を設けることによって、画像補正の精度が向上する。
【0069】
ネットワークI/F121は、ルーター等を介して、インターネット等の通信ネットワークNを利用したデータ通信を行うためのインターフェースである。また、撮像装置10のハードウエア構成はここに示すものに限られず、撮像装置10の機能的構成を実現できるものであればよい。また、上記ハードウエア構成の少なくとも一部は通信ネットワークN上に存在していてもよい。
【0070】
<<通信端末のハードウエア構成>>
図4は、通信端末30及び情報処理システム50のハードウエア構成の一例を示す図である。まず、通信端末30について説明する。通信端末30のハードウエア構成は、300番台の符号で示されている。通信端末30は、コンピュータによって構築されており、
図4に示されているように、CPU301、ROM302、RAM303、HDD(Hard Disk)304、HDDコントローラ305、ディスプレイ306、外部機器接続I/F308、ネットワークI/F309、バスライン310、キーボード311、ポインティングデバイス312、DVD-RW(Digital Versatile Disk Rewritable)ドライブ314、メディアI/F316、音入出力I/F317、マイク318、スピーカ319、近距離通信回路320及びカメラ321を備えている。
【0071】
これらのうち、CPU301は、通信端末30全体の動作を制御する。ROM302は、IPL等のCPU301の駆動に用いられるプログラムを記憶する。RAM303は、CPU301のワークエリアとして使用される。HDD304は、プログラム及びデータ等の各種データを記憶する。HDDコントローラ305は、CPU301の制御にしたがってHDD304に対する各種データの読み出し又は書き込みを制御する。
【0072】
ディスプレイ306は、カーソル、メニュー、ウィンドウ、文字、又は画像等の各種情報を表示する。ディスプレイ306は、入力手段を備えたタッチパネルディスプレイであってもよい。なお、ディスプレイ306は、表示部の一例である。表示部には、通信端末30に設けられたディスプレイだけなく、通信端末30の外付けのディスプレイ、通信端末30の外付けの他の通信端末のディスプレイ、又はプロジェクタで映し出されるスクリーン(プロジェクションマッピングの被表示対象も含む)が含まれる。
【0073】
外部機器接続I/F308は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USBメモリ又はプリンタ等である。ネットワークI/F309は、通信ネットワークNを利用してデータ通信をするためのインターフェースである。バスライン310は、
図4に示されているCPU301等の各構成要素を電気的に接続するためのアドレスバス又はデータバス等である。なお、HDD304及びHDDコントローラ305は、それぞれプログラム又はデータ等を記憶するストレージの一例であって、それぞれSSD(Solid State Drive)又はSSDコントローラであってもよい。
【0074】
また、キーボード311は、文字、数値、各種指示等の入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス312は、各種指示の選択もしくは実行、処理対象の選択、又はカーソルの移動等を行う入力手段の一種である。なお、入力手段は、キーボード311及びポインティングデバイス312のみならず、タッチパネル又は音声入力装置等であってもよい。DVD-RWドライブ314は、着脱可能な記録媒体の一例としてのDVD-RW313に対する各種データの読み出し又は書き込みを制御する。なお、DVD-RW313は、DVD-R又はBlu-ray(登録商標) Disc(ブルーレイディスク)等であってもよい。メディアI/F316は、フラッシュメモリ等の記録メディア315に対するデータの読み出し又は書き込み(記憶)を制御する。マイク318は、音声を入力する内蔵型の集音手段の一種である。音入出力I/F317は、CPU301の制御にしたがってマイク318及びスピーカ319との間で音信号の入出力を処理する回路である。近距離通信回路320は、NFC、Bluetooth(登録商標)又はWi-Fi等の近距離無線通信技術によって、外部端末(装置)と通信を行うための通信回路である。カメラ321は、被写体を撮像して画像データを得る内蔵型の撮像手段の一種である。なお、マイク318、スピーカ319及びカメラ321は、通信端末30の内蔵型ではなく、外付けの装置であってもよい。
【0075】
また、通信端末30のハードウエア構成はここに示すものに限られず、通信端末30の機能的構成を実現できるものであればよい。また、上記ハードウエア構成の少なくとも一部はネットワークN上に存在していてもよい。
【0076】
<<情報処理システムのハードウエア構成>>
図4に示すように、情報処理システム50の各ハードウエア構成は、括弧内の500番台の符号で示されている。情報処理システム50は、コンピュータによって構築されており、
図4に示されているように、通信端末30と同様の構成を備えているため、各ハードウエア構成の説明を省略する。
【0077】
また、情報処理システム50のハードウエア構成はここに示すものに限られず、情報処理システム50の機能的構成を実現できるものであればよい。また、上記ハードウエア構成の少なくとも一部はネットワーク上に存在していてもよい。
【0078】
なお、上記各プログラムは、インストール可能な形式又は実行可能な形式のファイルで、コンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。記録媒体の例として、CD-R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、Blu-ray Disc(登録商標)、SDカード、USBメモリ等が挙げられる。また、記録媒体は、プログラム製品(Program Product)として、国内又は国外へ提供されることができる。例えば、通信端末30は、本発明に係るプログラムが実行されることで本発明に係る画像表示方法を実現する。
【0079】
<広視野画像、及び、視点情報について>
以下では、
図5~
図12を用いて広視野画像(全天球画像)の生成方法を説明する。
【0080】
まず、
図5を用いて、撮像装置10の外観を説明する。撮像装置10は、全天球(360°)画像の元になる撮像画像を得るためのデジタルカメラである。
図5(a)は撮像装置の左側面図であり、
図5(b)は撮像装置の正面図であり、
図5(c)は撮像装置の平面図である。この外観図は撮像装置10のあくまで一例であって、他の外観であってもよい。
【0081】
図5(a)に示されているように、撮像装置10は、人間が片手で持つことができる大きさであるが、この形状はあくまで一例であって、他の形状であってもよい。また、
図5(a),
図5(b),
図5(c)に示されているように、撮像装置10の上部には、正面側(前側)に撮像素子103a及び背面側(後側)に撮像素子103bが設けられている。これら撮像素子(画像センサ)103a,103bは、半球画像(画角180°以上)の撮像が可能な光学部材(例えば、後述するレンズ102a,102b)と併せて用いられる。また、
図5(b)に示されているように、撮像装置10の正面側とは反対側の面には、シャッターボタン等の操作部115が設けられている。なお、上記したように撮像素子は1つだけであってもよいし、3つ以上備えていてもよい。
【0082】
次に、
図6を用いて、撮像装置10の使用状況を説明する。
図6は、撮像装置の使用イメージ図である。撮像装置10は、
図6に示されているように、例えば、撮像装置10の周りの被写体を撮像するために用いられる。この場合、
図5に示されている撮像素子103a及び撮像素子103bによって、それぞれ撮像装置10の周りの被写体が撮像されることで、二つの半球画像を得ることができる。
【0083】
次に、
図7及び
図8を用いて、撮像装置10が撮像して得た画像から全天球画像が作成されるまでの処理の概略を説明する。
図7(a)は撮像装置が撮像して得た半球画像(前側)、
図7(b)は撮像装置が撮像して得た半球画像(後側)、
図7(c)は正距円筒図法により表された画像(以下、「正距円筒射影画像」という)を示した図である。
図8(a)は正距円筒射影画像で球を被う状態を示した概念図、
図8(b)は全天球画像を示した図である。なお、「正距円筒射影画像」は、上述の広視野画像の一例としてエクイレクタングラー(equirectangular)形式の全天球画像である。
【0084】
図7(a)に示されているように、撮像素子103aによって得られた画像は、後述のレンズ102aによって湾曲した半球画像(前側)となる。また、
図7(b)に示されているように、撮像素子103bによって得られた画像は、後述のレンズ102bによって湾曲した半球画像(後側)となる。そして、撮像装置10は、半球画像(前側)と180度反転された半球画像(後側)とを合成して、
図7(c)に示されているような正距円筒射影画像ECが作成する。
【0085】
そして、撮像装置10は、OpenGL ES(Open Graphics Library for Embedded Systems)等のソフトウェアを利用することで、
図8(a)に示されているように、球面を覆うように正距円筒射影画像ECを貼り付け、
図8(b)に示されているような全天球画像(全天球パノラマ画像)CEを作成する。このように、全天球画像CEは、正距円筒射影画像ECが球の中心を向いた画像として表される。なお、OpenGL ESは、2D(2-Dimensions)及び3D(3-Dimensions)のデータを視覚化するために使用するグラフィックスライブラリである。OpenGL ESはあくまで画像処理を実行するソフトウェアの一例であって、他のソフトウェアによって全天球画像CEを作成してもよい。また、全天球画像CEは、静止画であっても動画であってもよい。なお、ここでは撮像装置10が全天球画像を生成する例として説明したが、同様の画像処理又は一部の画像処理の工程を情報処理システム50又は通信端末30が実行してもよい。
【0086】
以上のように、全天球画像CEは、球面を覆うように貼り付けられた画像であるため、人間が見ると違和感を持ってしまう。そこで、撮像装置10又は通信端末30において、全天球画像CEの一部の所定領域T(以下、「所定領域画像」という)を湾曲の少ない画像として表示することで、人間に違和感を与えない表示をすることができる。これに関して、
図9乃至
図10を用いて説明する。
【0087】
図9は、全天球画像を三次元の立体球とした場合の仮想カメラ及び所定領域の位置を示した図である。仮想カメラICは、三次元の立体球として表示されている全天球画像CEに対して、その画像を見るユーザの仮想的な視点の位置に相当するものである。
図10において、(a)は
図9の立体斜視図、(b)は(a)の状態の所定領域画像がディスプレイに表示されている図、(c)は(a)における仮想カメラICの視点を変更後の所定領域を示した図、(d)は(c)の状態の所定領域画像がディスプレイに表示されている図である。
【0088】
このように生成された全天球画像CEが、立体球CSであるとした場合、
図9に示されているように、仮想カメラICは、全天球画像CEの内部に位置している。全天球画像CEにおける所定領域Tは、仮想カメラICの撮像領域であり、全天球画像CEを含む三次元の仮想空間における仮想カメラICの撮像方向と画角を示す所定領域情報によって特定される。また、所定領域Tのズームは、仮想カメラICを全天球画像CEに近づいたり、遠ざけたりすることで表現することもできる。所定領域画像Qは、全天球画像CEにおける所定領域Tの画像である。したがって、所定領域Tは、画角αと、仮想カメラICから全天球画像CEまでの距離fにより特定できる(
図11参照)。
【0089】
そして、
図10(a)に示されている所定領域画像Qは、
図10(b)に示されているように、所定のディスプレイに、仮想カメラICの撮像領域の画像として表示される。
図10(b)に示されている画像は、初期設定(デフォルト)された所定領域情報によって表された所定領域画像である。以下、仮想カメラICの撮像方向(ea,aa)と画角(α)を用いて説明する。なお、所定領域Tは、画角αと距離fではなく、所定領域Tである仮想カメラICの撮像領域を位置座標(X,Y,Z)によって示してもよい。
【0090】
また、
図10(a)の状態から、
図10(c)に示されているように、仮想カメラICの仮想的な視点が右側(図面に向かって左側)に移動(「変更」ともいう)されると、これに応じて全天球画像CEにおける所定領域Tが所定領域T'に移動されるため、所定のディスプレイに表示される所定領域画像Qが所定領域画像Q'に変更される。これにより、ディスプレイには、
図10(b)に示されている画像が、
図10(d)に示されている画像に変更表示される。
【0091】
次に、
図11を用いて、所定領域情報と所定領域Tの画像の関係について説明する。
図11は、所定領域情報と所定領域Tの画像との関係を示した図である。
図11に示されているように、「ea」はelevation angle(仰角)、「aa」はazimuth angle(方位角)、「α」は画角(Angle)を示す。すなわち、仮想カメラICの姿勢は、撮像方向(ea,aa)で示される仮想カメラICの注視点が、仮想カメラICの撮像領域である所定領域Tの中心点CP(x,y)となるように変更される。
図11に示されているように、仮想カメラICの画角αによって表される所定領域Tの対角画角をαとした場合の中心点CP(x,y)が、所定領域情報のパラメータ((x,y))となる。所定領域画像Qは、全天球画像CEにおける所定領域Tの画像である。fは、仮想カメラICから中心点CP(x,y)までの距離である。Lは、所定領域Tの任意の頂点と中心点CP(x,y)との距離である(2Lは対角線)。そして、
図11では、一般的に以下の(式1)で示される三角関数が成り立つ。
【0092】
(L/f)=tan(α/2)・・・(式1)
【0093】
なお、上記で説明した撮像装置10は、広視野画像を取得可能な撮像装置の一例であり、全天球画像は、広視野画像の一例である。ここで、広視野画像は、一般には広角レンズを用いて撮像された画像であり、人間の目で感じるよりも広い範囲を撮像することができるレンズで撮像されたものである。
【0094】
図12は、
図11で説明した関係を球座標による三次元ユークリッド空間内の点で示した図である。ここで、
図11で示した中心点CPを球面極座標系で表現したときの位置座標を(r,θ,φ)とする。(r,θ,φ)は、それぞれ動径、極角、方位角である。動径rは、全天球画像を含む三次元の仮想空間の原点から中心点CPまでの距離であるため、
図11で示した距離fに等しい。
図12は、これらの関係を表した図である。以降、仮想カメラICの位置座標(r,θ,φ)を視点情報の一例として用いて説明する。なお、視点情報は、上記したように
図10で示した所定のディスプレイに、仮想カメラICの撮像領域の画像として表示される所定領域T(所定領域画像Q)が特定できるパラメータ情報であればよく、所定領域Tの対角頂点の座標も含む。また、
図11で説明した仮想カメラICの画角αを示す情報及び中心点CP(x,y)を示す情報が視点情報であってもよい。また、
図11で説明した仮想カメラICの画角αを示す情報及び方位角aaを示す情報が視点情報であってもよい。また、視点情報は球座標による位置座標情報だけでなく、直交座標による位置座標情報及び初期設定(デフォルト)された所定領域情報から座標の差分値等も含む。また、視点情報は
図11で示したように角度及び距離といった座標情報以外の情報であってもよい。また、
図11及び
図12では所定領域Tの中心点を基準にしているが、所定領域Tの頂点のいずれかを基準としたパラメータ情報により所定領域Tを特定してもよい。なお、上記では広視野画像が全天球画像である場合を例として視点情報を説明したが、他の広視野画像の場合には、その広視野画像における所定領域Tを特定する情報が視点情報となる。また、視点情報には所定領域Tの高さ及び幅といったパラメータ情報、又は仮想カメラICのズーム等による拡大率といったパラメータ情報が含まれていてもよい。また、
図7(c)に示されているような正距円筒射影画像ECの各画素の位置を球体の表面の座標(例えば緯度、経度の2軸とした座標)と対応付けた場合に、仮想カメラICの方向と画角といったパラメータ情報を視点情報としてもよいし、緯度及び経度といった情報を視点情報に含めてもよい。このように、視点情報とは、必ずしも点を示す情報に限られない。
【0095】
<機能について>
続いて、
図13を用いて、本実施形態に係る通信システム1aの機能構成について説明する。
図13は、本実施形態に係る通信システム1aの機能構成の一例を示す図である。なお、
図13では、
図1に示されている各端末、装置及びサーバのうち、後述の処理又は動作に関連しているものが示されている。
【0096】
<<撮像装置の機能構成>>
まず、
図13を参照して、撮像装置10の機能構成について説明する。撮像装置10は、通信部11、受付部12、撮像処理部13、解析部14、登録要求部15、接続部16、保存処理部17、画像送信制御部18、及び、記憶・読出部19を有している。これら各部は、
図3に示されている各構成要素のいずれかが、SRAM113又はDRAM114上に展開されたプログラムに従ったCPU111からの命令によって動作することで実現される機能、又は機能する手段である。また、撮像装置10は、
図3に示されているROM112等によって構築される記憶部1000を有している。
【0097】
通信部11は、主に、近距離通信回路117に対するCPU101の処理によって実現され、Wi-Fiなどの無線通信手段を利用して、通信ネットワークNに接続して、他の装置との間で各種データ又は情報の送受信を行う機能である。本実施形態では、主に、接続部16により、撮像処理部13によって取得された広視野画像を情報処理システム50に送信する形態を説明するが、通信部11が広視野画像を情報処理システム50に送信することも可能である。
【0098】
受付部12は、主に、操作部115に対するCPU101の処理によって実現され、撮像装置10に対するユーザからの操作入力を受け付ける機能である。受付部12は、電源のオン、オフ、シャッターボタンのオン、オフ(広視野画像の送信開始又は送信停止)、タッチパネル又はボタン等に対するユーザの操作入力等を受け付ける。
【0099】
撮像処理部13は、主に、画像処理ユニット104に対するCPU101の処理によって実現され、被写体又は風景画像等を撮像し、撮像画像を取得(生成)する。撮像処理部13によって取得される撮像画像は、動画であっても静止画であってもよく(両方でもよく)、画像と共に音声を含んでもよい。また、撮像処理部13は、例えば、通信端末30のディスプレイ306に表示された二次元コード(
図24参照)を撮像する。また、撮像処理部13が撮像画像に対して
図7及び
図8で説明した画像処理を実行することによって広視野画像を生成してもよい。
【0100】
解析部14は、主に、CPU101の処理によって実現され、撮像処理部13によって撮像されて取得された二次元コードを解析して二次元コードに含まれる情報(撮像装置をテナントに登録するためのURL、一時的なIDとパスワード)を抽出する。
【0101】
登録要求部15は、主に、CPU101の処理によって実現され、解析部14によって読み取られた二次元コードに含まれる情報を用いて、情報処理システム50のテナントに撮像装置10を登録する要求を、通信部11を介して情報処理システム50に送信する。
【0102】
接続部16は、主に、入出力I/F116に対するCPU101の処理によって実現され、通信端末30Aから電源供給を受けると共に、データ通信を行う機能である。
【0103】
保存処理部17は、主に、CPU101の処理によって実現され、任意の拠点からの撮像要求に応じて撮像された広視野画像を、情報処理システム50から通知されたURL(例えばストレージ90等)に保存する処理を行う。
【0104】
画像送信制御部18は、主に、CPU101の処理によって実現され、情報処理システム50に対する広視野画像の送信を制御する機能である。画像送信制御部18は、例えば、撮像処理部13によって取得された撮像画像を、静止画であれば定期的又はユーザ操作に応じて、動画であれば所定のFPS(Flame Per Second)で情報処理システム50に対して送信する。画像送信制御部18は通信部11と接続部16の切り替えも行う。
【0105】
記憶・読出部19は、主に、CPU101の処理によって実現され、記憶部1000に各種データを記憶させ、又は記憶部1000から各種データを読み出す機能である。また、記憶部1000は、撮像処理部13によって取得された撮像画像データ、撮像装置ID等を記憶している。なお、記憶部1000に記憶されている撮像画像データは、撮像処理部13によって取得されてから所定の時間経過した場合に削除される構成であってもよいし、情報処理システム50へ送信されたデータが削除される構成であってもよい。
【0106】
なお、撮像装置10では、通信システム1aに対応するためのアプリケーション(プラグインともいう)がインストールされている。このアプリケーションは、撮像装置10を仮想ルームに対応付ける際、又は外部からの制御を受け付けたりするために使用される。
図13に示した機能の一部(例えば登録要求部15)はこのアプリケーションによるものが含まれる。なお、通信システム1aに対応するためのアプリケーションを通信ネットワークN上に配置し、撮像装置10が有するWebブラウザ等によってアプリケーションにアクセスすることで同様の機能を実現させてもよい。
【0107】
<<通信端末の機能構成>>
続いて、
図13を用いて、通信端末30の機能構成について説明する。通信端末30は、通信部31、受付部32、表示制御部33、撮像部34、録画部35、記憶・読出部39、接続部36、及び画面生成部37を有している。これら各部は、
図4に示されている各構成要素のいずれかが、RAM303上に展開されたプログラム(Webブラウザでも専用のアプリケーションでもよい)に従ったCPU301からの命令によって動作することで実現される機能、又は機能する手段である。また、通信端末30は、
図4に示されているROM302又は記録メディア315によって構築される記憶部3000を有している。
【0108】
通信部31は、主に、ネットワークI/F309に対するCPU301の処理によって実現され、通信ネットワークNに接続し、他の装置との間で各種データ又は情報の送受信を行う機能である。
【0109】
受付部32は、主に、キーボード311及びポインティングデバイス312に対するCPU301の処理によって実現され、通信端末30への各種選択又は操作入力を受け付ける機能である。表示制御部33は、通信端末30のディスプレイ306に広視野画像、通常の画角の画像、及び、各種画面の少なくとも一つの画像を表示させる機能である。なお、通信端末30はタッチパネル、又はジェスチャ若しくは音声入力のインターフェースを備えていてもよく、このような場合には、タッチ入力、ジェスチャ又は音声入力によって各種選択又は操作入力を受け付けてもよい。
【0110】
表示制御部33は、主に、CPU301の処理によって実現され、例えば、情報処理システム50から送信された二次元コードを、ディスプレイ306に表示させる。二次元コードは、例えば、QRコード(登録商標)、DataMatrix(DataCode)、MaxiCode又はPDF417等である。二次元コードは、バーコードでもよい。
【0111】
撮像部34は、主に、カメラ321に対するCPU301の処理によって実現され、被写体及び被写体の周囲を撮像する。
【0112】
録画部35は、CPU301の処理によって実現され、情報処理システム50から配信された動画に係る広視野画像のデータを通信部31で受信された後に録画することで、記憶・読出部39を介して記憶部3000に録画データを保存する。
【0113】
接続部36は、主に、近距離通信回路320に対するCPU301の処理によって実現され、撮像装置10に電源を供給すると共に、データ通信を行う機能である。
【0114】
画面生成部37は、閲覧アプリケーション(「閲覧アプリ」)により、主に、CPU301の処理によって実現され、各視点情報で示された所定領域画像のサムネイルを生成(作成)する。なお、閲覧アプリを必ずしも事前にインストールしている必要はなく、画面生成部37と同等の機能を通信端末が予め備えていてもよいし、仮想ルームに入室する際に情報処理システム又は他のサーバから画面生成部37の機能を備える閲覧アプリと同等の機能を有するプログラムを通信端末が受信することによって、通信端末が画面生成部37の機能を実行してもよい。また、通信端末の閲覧アプリはWebブラウザによって実現されていてもよい。
【0115】
記憶・読出部39は、主に、CPU301の処理によって実行され、記憶部3000に各種データを記憶させ、又は記憶部3000から各種データを読み出す機能である。記憶部3000には、画像管理情報記憶部3001が形成される。画像管理情報記憶部3001については情報処理システム50の説明において説明する。
【0116】
<<情報処理システムの機能構成>>
次に、情報処理システム50の機能構成について説明する。情報処理システム50は、通信部51、画面生成部52、関連付け処理部53、画像配信部54、認証部55、通信グループ管理部56、通信制御部57、コネクション管理部58、記憶・読出部59、API管理部60、及び部分動画特定部61を有している。これら各部は、
図4に示されている各構成要素のいずれかが、RAM503上に展開されたプログラムに従ったCPU501からの命令によって動作することで実現される機能、又は機能する手段である。また、情報処理システムは、
図4に示されているROM502、HDD504又は記録メディア515によって構築される記憶部5000を有している。
【0117】
通信部51は、主に、ネットワークI/F509に対するCPU501の処理通信ネットワークNを介して、他の装置との間で各種データ又は情報の送受信を行う機能である。
【0118】
画面生成部52は、主に、CPU501の処理によって実現され、通信端末30が表示する画面情報の生成を行う。通信端末30がWebアプリを実行する場合は、画面情報は、HTML、XML、CSS(Cascade Style Sheet)、及びJavaScript(登録商標)等により作成される。通信端末30がネイティブアプリを実行する場合は、画面情報は通信端末30が保持しており、表示される情報がXML等で送信される。画面生成部52は画像配信部54が通信部51を介して配信する広視野画像等が配置される画面情報を生成する。
【0119】
関連付け処理部53は、主に、CPU501の処理によって実現され、広視野画像の視点情報の関連付け及び共有に関する制御を行う。関連付け処理部53は、通信端末30から視点情報と撮像要求を受信した場合、撮像装置10に撮像を要求して取得した広視野画像と視点情報を関連付ける処理を行う。さらに、関連付けた広視野画像と視点情報は、記憶・読出部59によって画像管理情報記憶部5001に保存される。また、関連付け処理部53は、関連付けられた該広視野画像と視点情報が保存される保存場所を示す情報として各保存場所情報(例えばURL)を通信端末30に送信する。なお、情報処理システム50は、通信端末30から視点情報と撮像要求を同時に受信する必要はなく、別々に受信した上で関連付ける処理を行ってもよい。また、URLは保存場所を示す保存場所情報の一例であって、URI等の他の形式であってもよい。
【0120】
画像配信部54は、主に、CPU501の処理によって実現され、仮想ルームに入室中のユーザが操作する通信端末30に、同じ仮想ルームに対応付けられている撮像装置10が送信した広視野画像等の画像を、通信部51を介して配信する。通信端末30が有するカメラ又は接続されたカメラ8,9が撮像した通常の画角の画像についても同様に配信される。なお、配信される画像は、ストリーミング映像、動画、静止画等を含む。
【0121】
認証部55は、主に、CPU501の処理によって実現され、通信部51によって受信された認証要求に基づいて、要求元の認証を行う機能である。認証部55は、例えば、通信部51によって受信された認証要求に含まれている認証情報(ユーザID及びパスワード)が予め保持する認証情報と一致するか否かにより、ユーザを認証する。なお、認証情報は、ICカードのカード番号、顔、指紋、声紋などの生体認証情報、デバイスID、パスコード、アクセストークン、セキュリティキー、チケット等でもよい。また、認証部55は、外部の認証システム又はOAuthなどの認証方法で認証してもよい。また、認証部55は、ユーザだけでなく撮像装置等のデバイスを認証してもよい。
【0122】
通信グループ管理部56は、主に、CPU501の処理によって実現され、仮想ルームへの通信端末30(又はユーザ)ユーザの入室、デバイスの対応付け等を管理する。通信グループ管理部56は、認証部55による認証が成功した場合に、ユーザID及び通信端末30のIPアドレスを仮想ルーム情報記憶部5002に登録したり、仮想ルームに撮像装置10を対応付けたりする。
【0123】
通信制御部57は、主に、CPU501の処理によって実現され、各仮想ルームに対応付けられた撮像装置10との通信の開始、確立、終了を管理する。また、通信制御部57は、通信端末30が仮想ルームに入室したり退室したりすることに応じて、広視野画像及び(又は)音声を配信する通信の開始、確立、終了を管理する。
【0124】
コネクション管理部58は、主に、CPU501の処理によって実現され、通信端末30及び撮像装置10が情報処理システム50と確立している通信(コネクション)を、仮想ルームに対応付けて管理をする。
【0125】
API管理部60は、主に、CPU501の処理によって実現され、プラットフォーム契約者が広視野画像の画像配信サービスを提供する場合に使用するAPIを管理する。APIを利用する場合、プラットフォーム契約者は、別途、APIを呼び出すソフトウェアを開発すればよい。開発するソフトウェアはサーバ上で動作してもよいし、通信端末等のクライアント上で動作するものであってもよい。画像配信部54、関連付け処理部53、通信制御部57等のように情報処理システム50が備える機能であれば、APIとして提供可能である。また、後から情報処理システム50に追加した機能をAPIとして提供することも可能である。APIとして提供するか否かはプラットフォーム提供者が操作する通信端末が情報処理システム50にアクセスし、APIの公開設定を受け付けることによって、API管理部60が公開設定に基づいたAPIの制御ができる。また、API管理部60はAPIの呼び出しを要求する要求元のソフトウェアが正当なプラットフォーム契約者によって開発されたソフトウェアか否かを確認する認証処理を行ってもよい。認証処理は記憶部5000においてプラットフォーム契約者の情報として予め登録して記憶されている情報と、要求元のソフトウェアから送信された情報を対比させることで確認することができる。
【0126】
認証処理の具体的な処理の一例として、プラットフォーム契約者が開発するソフトウェアに対して、API管理部60によって予め発行されたアプリIDを要求元のソフトウェアから情報処理システム50が受信し、API管理部60が、アプリIDが記憶部5000に記憶されていると判断できれば正当なソフトウェアとしてAPIを提供することを許可する制御をAPI管理部60が行う。一方で、正当なソフトウェアとして判断できなかった場合には、APIを提供することを許可しない制御をAPI管理部60が行う。
【0127】
なお、アプリIDは正当性を判断するための認証情報の一例であって、予め情報処理システムのAPI管理部60もしくは外部システムが発行したアクセストークン、チケット、セキュリティキー、パスワード、PINコード等の認証情報によってAPI管理部60が要求元の正当性を確認してもよい。本実施形態では、APIとして情報処理システム50が備える機能を使用する形態は説明しないが、プラットフォーム契約者の開発したアプリケーション等のソフトウェアがAPI管理部60における判断を経由して情報処理システム50が備える機能を利用する以外の処理の流れは同じでよい。
【0128】
部分動画特定部61は、主に、CPU501の処理によって実現され、通信部51が所定の通信端末30Aから、他の各通信端末30B,30C,30Dにおける動画の各閲覧履歴を記録させる要求を受信した場合には、他の各通信端末30B,30C,30Dから取得した他の各通信端末30B,30C,30Dにおける動画の各閲覧履歴に基づいて、他の各通信端末30B,30C,30Dで所定数よりも多く閲覧された動画における時間的な部分動画を特定する。動画における時間的な部分動画は、この動画における第1の再生経過時間から第2の再生経過時間の部分動画である。なお、第2の再生経過時間は、第1の再生経過時間よりも後の時間である。
【0129】
記憶・読出部59は、主に、CPU501の処理によって実現され、記憶部5000に各種データを記憶させ、又は記憶部5000から各種データを読み出す機能である。
【0130】
「画像管理情報記憶部5001」
記憶部5000には、画像管理情報記憶部5001が構築されている。
図14(a)は、画像管理情報記憶部5001に記憶される画像管理情報を示す概念図である。画像管理情報記憶部5001には、
図14に示されているような画像管理情報が記憶されている。画像管理情報は、撮像要求により撮像された広視野画像を管理する情報であり、ユーザが通信端末30から撮像要求を送信すると、1レコードの画像管理情報が生成される。画像管理情報が有する各項目について説明する。
【0131】
・画像データIDは、動画に係る画像のデータを識別するための識別情報である。画像データIDは、情報処理システム50が採番する。IDはIdentificationの略であり識別子又は識別情報という意味である。IDは複数の対象から、ある特定の対象を一意的に区別するために用いられる名称、符号、文字列、数値又はこれらのうち1つ以上の組み合わせをいう。なお、データIDは広視野画像だけでなく、仮想ルームに対応付けられた撮像装置10によって通常の画角で撮像された画像に対しても関連付けてもよい。
【0132】
・データ名称は、通信端末30のユーザが設定した広視野画像の名称である。データ名称はユーザが設定できるが、自動で設定されてもよい。
【0133】
・撮像開始日時情報は、ユーザが通信端末30に撮像要求を入力した日時、撮像装置10が広視野画像等の撮像画像を撮像した日時等、広視野画像等の撮像画像の撮像開始日時を特定するための情報である。撮像開始日時情報は広視野画像等の撮像画像のタイムスタンプ情報で代用してもよい。
【0134】
・撮像者情報は、通信端末30に撮像要求を入力したユーザの識別情報(ユーザID、又はユーザ名を含む)である。ユーザは仮想ルームに入室した状態で、通信端末30に撮像要求を入力するので、撮像者情報に登録されるユーザは情報処理システム50又は仮想ルームへの認証により特定されている。撮像者情報は、撮像要求と共に情報処理システム50に送信される。なお、撮像要求と撮像者情報は必ずしも同時に情報処理システム50に送信される必要はなく、異なるタイミングで情報処理システム50に送信されてもよい。
【0135】
・撮像装置情報は、広視野画像を撮像した撮像装置10の識別情報(撮像装置ID)である。撮像装置IDは、情報処理システム50が採番して撮像装置10と共有するが、MACアドレス又はシリアル番号など撮像装置10に固有の情報が使用されてもよい。撮像装置IDは、広視野画像と共に情報処理システム50に送信される。なお、撮像装置IDと広視野画像は必ずしも同時に情報処理システム50に送信される必要はなく、異なるタイミングで情報処理システム50に送信されてもよい。
【0136】
・撮像時の仮想ルームIDは、撮像装置10が対応付けられている仮想ルームの識別情報である。なお、撮影時に録画を行うため、「録画時」と示すこともできる。
【0137】
・画像のデータの保存場所情報(保存場所情報)は、画像が保存されている場所を示す情報であって、URL又はファイルパス等である。また、保存場所情報によって特定される保存場所は所定のフォルダを示す情報であってもよい。フォルダは撮像時の仮想ルームに対応付けられたフォルダであってもよい。また、撮像日時、撮像装置、撮像者、撮像時の仮想ルーム等の分類の1つ又は2つ以上の組み合わせを示す識別情報(名称等の付加情報)に対応付けられたフォルダであってもよい。また、データの保存場所情報とデータID又はデータ名称等の情報と組み合わせてデータの保存場所を特定してもよい。
【0138】
・参加者IDは、撮影時の仮想ルームIDで特定される仮想ルームに参加したユーザを識別するためのユーザ識別情報の一例である。
【0139】
図14(b)は、
図14(a)の変形例として、画像管理情報を示す概念図である。
図14(b)では、撮像時の仮想ルームIDが同じ広視野画像が保存されている。このように、画像管理情報は仮想ルーム単位で分類されてよい。
【0140】
「仮想ルーム情報記憶部5002」
記憶部5000には、仮想ルーム情報記憶部5002が構築されている。
図15は、仮想ルーム情報記憶部5002に記憶される仮想ルーム情報を示す概念図である。仮想ルーム情報記憶部5002には、
図15に示されているような仮想ルーム情報が記憶されている。仮想ルーム情報は、仮想ルームに関する情報であり、仮想ルームごとに保持される。仮想ルーム情報が有する各項目について説明する。なお、ここでは仮想ルームはテナントに登録されているが、テナントへの登録は必須ではなく、一時的に作成された仮想ルーム又は共有で利用できる仮想ルームの情報も仮想ルーム情報記憶部5002に記憶される。
【0141】
・仮想ルームIDは、仮想ルームを識別する識別情報である。本実施形態では、仮想ルームはユーザが任意に作成できるものとする。
【0142】
・仮想ルーム名称は、ユーザが仮想ルームを判別するための名称であり、ユーザが任意に設定できるものとする。なお、仮想ルームIDと仮想ルーム名称は同一の情報であってもよい。
【0143】
・デバイス情報は、仮想ルームに対応付けられている撮像装置10を含むデバイスの識別情報(デバイスID)である。
【0144】
・入室中のユーザは、現在、仮想ルームに入室しているユーザのユーザIDである。このユーザは仮想ルームの入室者に対して配信される広視野画像等の画像を閲覧可能なユーザである。入室方法については後述する。また、ユーザIDには該ユーザが操作する通信端末30のIPアドレスが対応付けられていてもよい。また、ユーザIDにはユーザ名が対応付けて記憶されていてもよい。
【0145】
「テナント情報記憶部5003」
記憶部5000には、テナント情報記憶部5003が構築されている。
図16は、テナント情報記憶部5003に記憶されるテナント情報を示す概念図である。テナント情報記憶部5003には、
図16に示されているようなテナント情報が記憶されている。テナント情報は、テナント(ユーザグループ)に関する情報であり、テナントごとに保持される。テナント情報が有する各項目について説明する。なお、テナント情報にはユーザ情報など図示する以外に様々な情報が登録されており、
図16は一部に過ぎない。
・テナントIDは、テナントを識別する識別情報である。
・テナント名は、ユーザがテナントを判別するための名称である。なお、テナントIDとテナント名は同一の情報であってもよい。
・テナント登録仮想ルームIDは、テナントに登録された仮想ルームの識別情報である。
・テナント登録デバイスは、テナントに登録されたデバイスに関する情報である。
なお、テナント情報記憶部、テナントID、テナント名、テナント登録仮想ルームID、テナント登録デバイスは、それぞれ、ユーザグループ情報記憶部、ユーザグループID、ユーザグループ名、ユーザグループ登録仮想ルームID、ユーザグループ登録デバイスと言い換えることができる。
【0146】
「視点関連情報記憶部5004」
記憶部5000には、視点関連情報記憶部5004が構築されている。
図17は、視点関連情報記憶部5004に記憶される視点関連情報を示す概念図である。視点関連情報には、画像データID、参加者ID、閲覧開始日時情報、及び視点情報の保存場所情報が関連付けられている。なお、画像データID、及び参加者IDは、
図14の画像管理情報における同じ名称の項目と同じ意味である。
【0147】
・閲覧開始日時情報は、録画時に配信中の広視野画像のうち、各拠点で閲覧されているデフォルトの(初期設定されている)所定領域画像から変更されることで新たな所定領域画像の閲覧が開始された日時を示す。なお、閲覧開始日時ではなく、1つの動画における再生経過時間を示す情報であってもよい。
【0148】
・視点情報の保存時間情報は、同じレコードの閲覧開始日時情報で示される日時に閲覧された所定領域を特定するための視点情報が保存されている場所を示す情報であって、URL又はファイルパス等である。
【0149】
図17に示す視点関連情報により、所定の広視野画像に関して、どの拠点における通信端末30(ユーザ)が、いつから所望の所定領域画像に変更して表示(閲覧)したかを示す記録を残すことができる。
【0150】
「静止画共有情報記憶部5005」
記憶部5000には、静止画共有情報記憶部5005が構築されている。
図18は、静止画共有情報記憶部5005に記憶される静止画共有情報を示す概念図である。静止画共有情報には、仮想ルームID、画像データID、再生経過時間、閲覧者ID、及び静止画の保存場所情報が関連付けられている。なお、仮想ルームIDは
図15、画像データIDは
図14における同じ名称の項目と同じ意味である。
【0151】
・再生経過時間は、画像データIDで特定される録画された動画の再生中に、動画におけるフレームである静止画が切り出された時点の再生経過時間を示す。
【0152】
・閲覧者IDは、画像データIDで特定される録画された動画の再生中に、再生中の仮想ルームIDで特定される仮想ルームに参加して、録画された動画を閲覧するユーザを識別するためのユーザ識別情報の一例である。
【0153】
・静止画の保存場所情報は、動画におけるフレームである静止画が切り出された静止画が保存されている場所を示す情報であって、URL又はファイルパス等である。
【0154】
「部分平面動画の共有情報記憶部5006」
記憶部5000には、部分平面動画の共有情報記憶部5006が構築されている。
図19は、部分平面動画の共有情報記憶部5006に記憶される部分平面動画の共有情報を示す概念図である。
【0155】
「部分平面動画」は、一般のカメラ8等で撮影されることで得られた平面動画における時間的な部分動画を示す。この場合の時間的な部分動画は、再生経過期間の部分動画を示す。
【0156】
部分平面動画の共有情報には、仮想ルームID、画像データID、再生経過期間、閲覧者ID、及び注目フラグが関連付けられている。なお、仮想ルームID、画像データID、及び閲覧者IDは、
図18における同じ名称の項目と同じ意味である。
【0157】
・再生経過期間は、一般のカメラ8等で撮影されることで得られた平面動画において、共有される部分動画の再生経過期間を示す。
【0158】
・注目フラグは、閲覧者のうちの主催者(例えば、ユーザa)が後述の「各閲覧履歴記録」ボタン619を押下した場合に、情報処理システム50が、他の閲覧者(例えば、ユーザb、c、d)の通信端末30B,30C,30Dから自動的に取得した閲覧履歴に付されているフラグである。なお「0」の場合は注目フラグがない、「1」の場合は注目フラグがあることを示す。
【0159】
「部分広視野動画の共有情報記憶部5007」
記憶部5000には、部分広視野動画の共有情報記憶部5007が構築されている。
図20は、部分広視野動画の共有情報記憶部5007に記憶されている部分広視野動画の共有情報を示す概念図である。
【0160】
「広視野動画」は、全天球カメラとしての撮像装置10で撮影されることで得られた動画である。
【0161】
「部分広視野動画」は、広視野動画における時間的な部分動画を示す。部分広視野動画の共有情報の場合、部分平面動画の共有情報とは異なり視点情報も管理されるため、結果的には、部分広視野動画のうち、視点情報で特定される所定領域T(
図10参照)を示す所定領域動画が表示される。
【0162】
部分広視野動画の共有情報には、仮想ルームID、画像データID、再生経過時間、閲覧者ID、視点情報及び注目フラグが関連付けられている。なお、仮想ルームID、画像データID、及び閲覧者ID、及び注目フラグは、
図19における同じ名称の項目と同じ意味である。
【0163】
・再生経過時間は、視点情報で特定される広視野動画の所定領域である部分広視野動画の再生経過時間を示す。ここでは、1秒毎に通信端末30から部分広視野動画の共有情報を受信して管理する場合が示されている。なお、1秒毎ではなく、フレームレートに合わせて、1/30秒毎、1/60秒毎、又は現場の通信トラフィックを考慮して10秒毎等で通信端末30から受信した部分広視野動画の共有情報を管理してもよい。
【0164】
<通信端末の仮想ルームへの入室>
続いて、
図21、
図22を参照し、ユーザbが仮想ルームに入室する処理について説明する。なお、すでに撮像装置10が仮想ルームに対応付けられ、通信端末30Aが広視野画像と通常の画角の画像を情報処理システム50に送信しているものとする(撮像装置10の仮想ルームへの対応付け等については
図23以降で説明する)。また、以下では、ユーザbが仮想ルームに入室することと、ユーザbが操作する通信端末30Bが仮想ルームに入室することを特に区別しないで説明する。
【0165】
図21は、ユーザbが仮想ルームに入室する際に通信端末30Bが表示する画面例を示す。
図21(a)は、入室画面200の一例である。補足すると、入室画面200の表示に先立って、ユーザbは情報処理システム50にログインしている。ログインすることでユーザbが所属するテナントが特定される。仮想ルームはテナントと関連付けられている。ユーザbはテナントに関連付けられている仮想ルームの一覧を通信端末30Bで表示し(
図26参照)、一覧から入室する仮想ルームを選択する。
図21(a)はこのようにユーザbが選択した仮想ルームに対する入室画面200である。なお、テナントに関連付けられていない一時的に作成した仮想ルーム又は共有の仮想ルームが
図21(a)の画面に表示されてもよい。
【0166】
あるいは、仮想ルームの作成者が仮想ルームに対応するURLの発行を情報処理システム50に要求し、このURLをメール等でユーザbに送信してもよい。ユーザbが通信端末30Bに表示されたURLを押下すると、通信端末30Bが
図21(a)の入室画面200を表示する。
【0167】
入室画面200は、仮想ルーム名称201、参加者名入力欄202、及び入室ボタン203を有している。仮想ルーム名称201は仮想ルーム情報記憶部5002に記憶されているものと同じである。参加者名入力欄202は、仮想ルーム内で表示されるユーザ名を入力する欄であって、ニックネームなどユーザbの呼称でもよい。ユーザbがログインすることでユーザbのユーザIDに紐づくユーザ名を特定し、この特定したユーザ名が自動で表示されてもよい。入室ボタン203は、ユーザbが仮想ルームへの入室を要求するボタンである。
【0168】
なお、入室時に仮想ルームの入室のための認証が、テナントへのログインとは別に要求されてもよい。
【0169】
図21(b)は、ユーザbが仮想ルームに入室したことで、通信端末30Bが表示する画像閲覧画面210である。
図21(b)の画像閲覧画面210は、撮像装置10が情報処理システム50を介して広視野画像の配信をすでに開始しており、通信端末30Aが通常の画角の画像の配信をすでに開始している。このため、画像閲覧画面210は、第一の画像欄211と第二の画像欄212を有している。第一の画像欄211には広視野画像が表示され、第二の画像欄212には通常の画角の画像が表示されている。画像を送信する拠点が3つ以上になれば、送信元の拠点の数に応じて画像閲覧画面210が分割される。
【0170】
第一の画像欄211には、広視野画像マーク213が表示されている。広視野画像マーク213は、情報処理システム50の画面生成部52が、第一の画像欄211に表示する画像が広視野画像であると判断して設定する。通信端末30Bが判断して表示してもよい。ユーザbは広視野画像マーク213を見ることで、視点を変更できる広視野画像が配信されていることが分かる。また、第一の画像欄211にはデバイスの名称214(広視野画像と共に撮像装置10から送信される)が表示される。デバイスの名称214は後述するようにユーザa等によって設定された情報である(
図24参照)。
【0171】
第二の画像欄212には、参加者名215が表示される。参加者名215はユーザ名であって、参加者名入力欄202に、すでに入室済みのユーザ(ここではユーザaが入室済みなので、ユーザaが参加者名入力欄202に入力した「AAA」)の参加者名が表示される。
【0172】
図22は、ユーザb(又は通信端末30B)が仮想ルームに入室する処理を説明するシーケンス図である。
【0173】
S1:まず、拠点Bのユーザbが仮想ルームの一覧画面の表示を行う操作を行う。なお、通信端末30Bは、ユーザbによる操作に応じて事前に情報処理システム50へアクセスし、仮想ルームの一覧画面を表示させるための仮想ルーム情報記憶部5002に記憶されている仮想ルームの情報を情報処理システム50から受信している。この際に、通信端末30Bはログイン等に必要な認証情報を情報処理システム50へ送信することによって、情報処理システム50の認証部55によって認証されてもよい。認証情報はユーザbに紐づく認証情報であっても、通信端末30Bに紐づく認証情報であってもよい。このような場合に、一覧画面に表示される仮想ルームはユーザbに紐づくテナントに登録されている仮想ルーム又は通信端末30Bに紐づくテナントに登録されている仮想ルームであってもよい。受付部32が一覧画面を表示する操作を受け付けることで、通信端末30Bの表示制御部33は、ディスプレイ306に選択画面を表示させる。
【0174】
S2:ユーザbがある仮想ルームの選択ボタンを選択した場合、通信端末30Bの受付部32は、仮想ルームの選択を受け付ける。通信端末30Bの表示制御部33は、ディスプレイ306に
図21(a)で示した入室画面200を表示させる。
【0175】
S3:ユーザbが必要事項を入力し、入室ボタン203を押下する。受付部32が押下を受け付けることで、通信端末30Bの通信部31は、情報処理システム50に対して、仮想ルームへの入室要求を送信する。この入室要求は、ステップS2で選択された仮想ルームを示す仮想ルームID、ログイン等によって認証されたユーザbのユーザID、及び要求元端末である通信端末30BのIPアドレス等の情報を含む。これにより、情報処理システム50の通信部51は、入室要求を受信する。
【0176】
S4:通信グループ管理部56は、仮想ルーム情報記憶部5002の仮想ルームIDで特定される仮想ルーム情報に、ログイン等によって認証されたユーザIDとIPアドレスを登録する。
【0177】
S5:そして、情報処理システム50の通信部51は、通信端末30Bに対して、入室済みを示す応答を送信する。これにより、通信端末30Bの通信部31は、入室済みを示す応答を受信する。通信端末30Bの表示制御部33はステップS5に続けて、情報処理システム50の画面生成部52が生成した画面の情報と画像配信部54が配信した画像の情報を受信し、受信した情報に基づいて、
図21(b)に示した画像閲覧画面210を表示させる。
【0178】
<撮像装置のルームへの対応付け>
続いて、
図23~
図30を参照して、撮像装置10の仮想ルームへの対応付けについて説明する。なお、撮像装置10の仮想ルームへの対応付けは拠点Aのユーザaが行うとして説明するが、システム管理者又はテナント管理者等が行ってもよい。
【0179】
図23は、通信端末30Aが表示するデバイス登録画面220の一例である。ユーザaは情報処理システム50にログイン等によって認証されている状態である。ログインすることでユーザaが所属するテナントが特定される。ユーザaはデバイス登録画面220の表示を情報処理システム50に要求し、通信端末30Aは情報処理システム50から受信したデバイス登録画面220を表示する。デバイス登録画面220によりまず、デバイスがテナントに登録される。
【0180】
デバイス登録画面220は、撮像装置登録ボタン221、VRゴーグル登録ボタン222、スマートグラス登録ボタン223を有している。デバイスの種類ごとにボタンが用意されるのは、カメラの有無、登録に使用される情報等に違いがあるためである。また、デバイスの種類ごとにデバイスが登録されるので、情報処理システム50ではデバイスの種類も把握できる。
【0181】
撮像装置登録ボタン221は、ユーザaが撮像装置10を登録するためのボタンであり、VRゴーグル登録ボタン222はVRゴーグル89を登録するためのボタンであり、スマートグラス登録ボタン223はスマートグラス88を登録するためのボタンである。
【0182】
図24は、撮像装置登録ボタン221が押下された場合に表示される画面の一例である。
図24(a)は、撮像装置登録ダイアログ230を示す。撮像装置登録ダイアログ230は、撮像装置10の名称欄231と、説明欄232と、次へボタン233を有している。ユーザaは登録する撮像装置10であることが分かるように撮像装置10の名称欄231に任意の名称を設定し、説明欄232に説明を設定する。
【0183】
ユーザaが次へボタン233を押下すると、通信端末30Aが二次元コードを情報処理システム50に要求し、通信端末30Aが二次元コードを表示する。
【0184】
図24(b)は、通信端末30Aが表示した二次元コード画面240の一例である。二次元コード画面240は、「××(名称欄に入力した名称)というデバイスを登録するため、以下の二次元コードをスキャンして下さい」という旨のメッセージ241、及び、二次元コード242を有している。ユーザaは二次元コード242を登録したい撮像装置10で撮像する。二次元コード242には、撮像装置10が自身の登録のために接続するURL、一時的なIDとパスワードといった登録に必要な認証情報が含まれている。
【0185】
ユーザaが撮像装置10で二次元コード242を撮像すると、撮像装置10がURLに接続し、一時的なIDとパスワードで認証を受ける。認証が成功すると、正式な撮像装置IDが交換され、撮像装置10の名称、説明、及び、撮像装置IDがテナントに登録される。撮像装置10もこの撮像装置ID、名称、及び説明を保持する。テナントに登録された撮像装置10は、後述するユーザaの操作に応じて仮想ルームに対応付けられる。なお、二次元コード242はコード情報の一例であって、同様の認証情報が埋め込まれていればよく、バーコード等の他の形態のコードであってもよい。
【0186】
続いて、
図25を参照して、VRゴーグル89又はスマートグラス88等の通信端末のテナントへの登録方法の一例を説明する。
図25は、VRゴーグル登録ボタン222が押下された場合に表示されるVRゴーグル登録画面250の一例である。VRゴーグル登録画面250は、一時コード入力欄251と、シークレット入力欄252を有している。
【0187】
VRゴーグル89がカメラを有さない場合には二次元コードを撮像できない。このため、ユーザaはVRゴーグル89に一時コード(一時的なID)と、シークレット(パスワード)を出力させ(表示させ)、一時コード入力欄251と、シークレット入力欄252に入力してもよい。通信端末30Aは一時コードとシークレットを情報処理システム50に送信することで、VRゴーグル89をテナントに登録する。VRゴーグル89が情報処理システム50に接続し、一時コードとシークレットを送信することで、認証を受ける。認証が成功すると、正式なVRゴーグルIDが交換され、VRゴーグルIDがテナントに登録される。VRゴーグル89もこのVRゴーグルIDを保持する。テナントに登録されたVRゴーグル89は、後述するユーザaの操作に応じて仮想ルームに対応付けられる。スマートグラス88については詳細を説明するが、ユーザaは撮像装置10又はVRゴーグル89と同様に登録できる。なお、一時コードとシークレットは認証情報の一例であって、他の情報を認証情報に用いてもよい。なお、撮像装置ID、VRゴーグルID、スマートグラスIDはそれぞれデバイスIDの一例であるため、デバイスIDと言い換えることができる。そのため、撮像装置10、VRゴーグル、スマートグラス以外のデバイスを登録する際にも同様の手順によってデバイスIDを仮想ルーム又はテナントとの関連付けに利用することができる。なお、デバイスIDは、デバイスの所有者に紐づく識別情報であってもよい。
【0188】
図26は、仮想ルームに撮像装置10を対応付けるための仮想ルーム対応付け画面(その1)260の一例を示す。VRゴーグル89、スマートグラス88の場合も画面構成は同じでよい。仮想ルーム対応付け画面(その1)260は、仮想ルームのリスト261を有している。仮想ルームのリスト261は、テナントに作成されている仮想ルームに基づいて仮想ルーム個別欄262~264を表示する。各仮想ルーム個別欄262~264は、リンク発行ボタン265と、入室ボタン266と、設定ボタン267と、仮想ルーム名称268と、を有する。リンク発行ボタン265は、仮想ルームへのリンク(招待するためのURL)とパスコードを発行するためのボタンである。入室ボタン266は仮想ルームにユーザaが入室するためのボタンである。設定ボタン267は、仮想ルームに撮像装置10を対応付けるためのボタンである。仮想ルーム名称268は仮想ルーム情報記憶部5002に記憶されているものと同じである。したがって、ユーザaは設定ボタン267を押下する。設定ボタン267の押下により、通信端末30Aは仮想ルーム対応付け画面(その2)270を表示する。
【0189】
また、仮想ルームにすでにデバイスが対応付けられている場合、仮想ルーム個別欄(図では仮想ルーム個別欄264)にデバイスの名称269が表示される。
【0190】
図27は、仮想ルーム対応付け画面(その2)270の一例を示す。なお、仮想ルーム対応付け画面(その2)270は仮想ルーム対応付け画面(その1)260にポップアップ表示されている。仮想ルーム対応付け画面(その1)260から仮想ルーム対応付け画面(その2)270への画面遷移は、情報処理システム50を経由しないが、経由する画面遷移も可能である。
【0191】
仮想ルーム対応付け画面(その2)270は、現在(すでに)、仮想ルームに対応付けられている撮像装置10の名称271(まだ登録されていないので図では未登録)と、接続ボタン272と、ストレージボタン273と、を有する。接続ボタン272は、仮想ルームにデバイスを対応付けるためにテナントに登録されているデバイスの一覧を対応付ける候補として表示させるボタンである。ストレージボタン273は当該仮想ルームに対応付けられている撮像装置10によって撮像された広視野画像又は通常の画角の画像を保存するストレージ90の一覧を表示させるボタンである。ストレージ90の一覧には、仮想ルームに対応付けるストレージ90の一覧だけでなく、ストレージ90上のフォルダ等の特定の保存場所の一覧が含まれていてもよい。ユーザが所定のストレージ90又はストレージ90上のフォルダ等の特定の保存場所を選択することで、仮想ルームに対してストレージ90を対応付けることができる。このようにして対応付けたストレージ90の情報(ストレージ90にアクセスするためのアドレス情報、又はストレージ90上のフォルダ等の保存場所)は、仮想ルーム情報記憶部5002において仮想ルームIDと関連付けて記憶させることができる。接続ボタン272の押下により、通信端末30Aは仮想ルーム対応付け画面(その3)を表示する。
【0192】
通信端末30Aは情報処理システム50に仮想ルームIDを送信し、該仮想ルームが生成されているテナントに登録されているデバイスの名称(デバイスのID等も含む)、及び、仮想ルームに対応付けられているデバイスの名称(デバイスのID等も含む)を取得する。
【0193】
図28は、仮想ルーム対応付け画面(その3)280の一例を示す。仮想ルーム対応付け画面(その3)280は、現在(すでに)、仮想ルームに対応付けられている撮像装置10の名称281と、追加可能デバイス一覧282と、保存ボタン283と、を有している。ユーザaは追加可能デバイス一覧282から仮想ルームに追加で対応付けたいデバイスを選択し、保存ボタン283を押下する。これにより、仮想ルームにデバイスが対応付けられる(仮想ルーム情報記憶部5002に撮像装置ID等のデバイスIDが登録される)。なお、
図28に示しているように、仮想ルームに対応付けられる撮像装置の数を制限してもよく、例えば上限が2台の場合に、仮想ルーム情報記憶部5002に既に登録されている撮像装置IDの数を参照することによって、追加で登録できるデバイスの残りの数を仮想ルーム対応付け画面(その3)に表示させてもよい。
【0194】
<撮像装置に対する広視野画像の送信開始処理>
以上で、撮像装置10等のデバイスが仮想ルームに対応付けられたが、ユーザaがデバイスに対し画像の送信開始を操作する必要がある。
【0195】
VRゴーグル89とスマートグラス88については、ユーザaがデバイス本体を操作して画像の送信をオン、オフする。これは、現在、VRゴーグル89とスマートグラス88については、通信システム1aに専用のアプリケーションが動作していないためである。VRゴーグル89とスマートグラス88においても通信システム1aに専用のアプリケーションが動作する場合、ユーザaが遠隔から画像の送信をオン、オフできる。
【0196】
撮像装置10の場合、アプリケーションが有効になっていれば、ユーザaが仮想ルームに入室してメニューから広視野画像の送信をオン、オフできる。
【0197】
図29は、通信端末30Aが表示する広視野画像送信制御ダイアログ290の一例である。広視野画像送信制御ダイアログ290は画像閲覧画面210にポップアップ表示されている。ユーザaが通信端末30Aを操作して、撮像装置10を対応付けた仮想ルームに入室したものとする。広視野画像送信制御ダイアログ290は、この仮想ルームに対応付けられている撮像装置10の名称292を表示する。名称292の近くにトグルボタン291が表示されており、ユーザaがトグルボタン291を操作して、撮像装置10による広視野画像の送信をオン(送信開始)又はオフ(送信停止)に設定できる。なお、トグルボタンによるオン又はオフの設定方法は一例であって、ユーザ操作の入力に応じて設定できればよい。例えば、ラジオボタン又は所定のアイコンの選択、メニュー操作等によって設定してもよい。また、ユーザ操作を不要として、撮像装置10が入室してから自動で広視野画像の送信を開始してもよい。また、日時、入室したユーザの人数、特定のユーザが参加したことなどの所定の条件を予め定めておき、その条件を満たしたことを判断した場合に、広視野画像の送信を開始してもよい。
【0198】
通信端末30Aはトグルボタン291の操作による送信制御の設定情報を情報処理システム50に送信する。情報処理システム50は送信制御の設定情報に応じた送信開始要求又は送信停止要求を撮像装置10に送信する。
【0199】
図29(a)はトグルボタン291がオフの設定の状態を示す。このため、
図29(a)では広視野画像が表示されていない。一方、
図29(a)では、通信端末30Aが入室した時点で、通信端末30Aのカメラ9が撮像した通常の画角の画像がすでに共有されており、画像閲覧画面210に表示されている。
【0200】
図29(b)はトグルボタン291がオンの設定の状態を示す。トグルボタン291のオンにより、情報処理システム50が送信開始要求を撮像装置10に送信したため、撮像装置10が広視野画像の送信を開始した。このため、1つの仮想ルームで2つの画像が共有されるので、画像閲覧画面210が2つに分割される。また、オンの設定からオフの設定に変更した場合には、オフの設定情報を通信端末30Aが送信し、情報処理システム50がオフの設定情報の受信に応じて送信停止要求を撮像装置10に送信し、撮像装置10が広視野画像の送信を停止する。
【0201】
図30で説明したように、ユーザが仮に現場にいる状況であっても、撮像装置10によってコード情報を撮像するといった簡易な操作によって、仮想ルームに撮像装置10を関連付けることができる。現場にいるユーザはPC等を持たないこともあるため、予め発行しておいたコード情報と撮像装置10さえあれば、その場で関連付け処理を行うことができることは現場のユーザにとって特に有用である。また、関連付け処理を予め実施しておけば、ユーザは仮想ルームの選択等しなくとも撮像装置10を所定の仮想ルームに接続させることができ、送信の開始又は停止についても遠隔拠点から指示できるため、現場の作業に集中したいユーザの負担を軽減することができる。したがって、事前準備の工程においても現場と遠隔拠点でのコミュニケーションを効率的に行えるシステムを提供することができる。
【0202】
<<仮想ルームへの撮像装置の登録手順>>
次に、
図30を参照して、
図23~
図29の一連の画面遷移で説明した仮想ルームへの撮像装置10の登録手順を説明する。
図30は、ユーザaが仮想ルームに撮像装置10を登録する手順を示すシーケンス図の一例である。
【0203】
S11:まず、ユーザaが通信端末30Aを情報処理システム50に接続させ、認証情報(ユーザID,パスワード等)を入力して、ログインを要求する。通信端末30Aの受付部32が操作を受け付ける。
【0204】
S12:通信端末30Aの通信部31は認証情報を指定してログイン要求を情報処理システム50に送信する。情報処理システム50の通信部51は、ログイン要求を受信し、認証部55が指定された認証情報に基づいて認証を行う。ここでは認証が成功したものとする。また、この際に情報処理システム50はテナント情報記憶部5003を参照することで、認証されたユーザIDに関連付けられたテナントIDを特定することができる。
【0205】
S13:ユーザ操作に応じて、情報処理システム50の画面生成部52はデバイス登録画面220を生成し、通信部51がデバイス登録画面220の画面情報を通信端末30Aに送信する。
【0206】
S14:通信端末30Aの通信部31がデバイス登録画面220の画面情報を受信し、表示制御部33が
図23に示したデバイス登録画面220を表示する。ユーザaはデバイスの種類を選択し(ここでは撮像装置10(例えば全天球カメラ)が選択されたものとする)、次いで、
図24で示したように撮像装置10の名称、説明を入力する。受付部32が入力を受け付ける。
【0207】
S15:通信端末30Aの通信部31は、ユーザaが入力した名称と説明を指定して、コード情報(例えば二次元コード)の要求を情報処理システム50に送信する。
【0208】
S16:情報処理システム50の通信部51は、コード情報(例えば二次元コード)の要求を受信する。通信グループ管理部56は、名称と説明と関連付けてURL(登録のための接続先)を生成し、URL、一時的なID及びパスワードを含むコード情報(例えば二次元コード)を生成する。情報処理システム50の通信部51はコード情報(例えば二次元コード)を通信端末30Aに送信する。通信端末30Aの通信部31がコード情報(例えば二次元コード)を受信し、
図24で示したように表示制御部33がコード情報(例えば二次元コード)を表示する。
【0209】
S17:次に、ユーザaは仮想ルームに対応付けたい撮像装置10を操作して、コード情報(例えば二次元コード)を撮像する。撮像装置10の受付部12が操作を受け付ける。
【0210】
S18:撮像装置10の撮像処理部13はコード情報(例えば二次元コード)を含む撮像対象に対して撮像処理を行うことで画像データを生成し、解析部14が画像データを解析してURL、一時的なID及びパスワードを抽出する。これにより、登録要求部15が接続部16を経由してURLに接続し、一時的なID及びパスワードを指定して撮像装置10の登録要求を情報処理システム50に送信する。なお、
図25で説明した登録画面による登録方法を実施する場合は、コード情報を撮像しないため、撮像装置10がVRゴーグル89又はスマートグラス88等の通信端末に置き換わり、ステップS15~S17のステップは省略することができる。
【0211】
S19:情報処理システム50の通信部51は、一時的なID及びパスワードを受信し、認証部55が接続されたURLに関連付けられている一時的なID及びパスワードと一致するかどうかを判断する。ここでは一致したものとする。
【0212】
S20:情報処理システム50の通信グループ管理部56は、撮像装置10の登録が要求されているので、デバイスIDの一例として撮像装置IDを生成し、ユーザaがログインした際に特定したテナントIDに対応するテナントに撮像装置IDを登録する。なお、撮像装置IDには、名称及び(又は)説明が関連付けられている。具体的には、通信グループ管理部56が、テナント情報記憶部5003を参照し、特定したテナントIDに関連付けられるテナント登録デバイスに撮像装置IDを追加して登録する。なお、ここでは通信グループ管理部56が撮像装置IDを生成して登録しているが、撮像装置10から受信した撮像装置IDを登録してもよい。なお、撮像装置10ではなくVRゴーグル89又はスマートグラス88等の通信端末をテナントに登録する場合には、同様の手順でそれぞれに対応するデバイスIDをテナント情報記憶部5003に登録することができる。
【0213】
S21:情報処理システム50の通信部51は、撮像装置IDを撮像装置10に送信する。撮像装置10の接続部16が撮像装置IDを受信し、記憶部1000に保存する。
【0214】
S22:通信端末30Aには、情報処理システム50の通信部51から登録完了が通知され、これによりユーザaが仮想ルームへの撮像装置10の対応付けを開始することができる。ユーザaは仮想ルーム対応付け画面(その1)260を通信端末30Aに表示させ、テナントに登録した撮像装置10を対応付けたい仮想ルームを選択する。通信端末30Aの受付部32が選択を示す操作入力を受け付ける。具体的には、通信端末30Aの受付部32がユーザaからの操作入力を受け付けることによって、表示制御部33が仮想ルーム対応付け画面(その1)260を表示させる。この際に、通信部31は画面の更新要求を情報処理システム50の通信部51へ送信してもよい。情報処理システム50は更新要求を受信すると、テナント情報記憶部5003を参照し、認証されたユーザIDに関連付けられたテナントに登録された仮想ルームIDを特定する。さらに続けて、仮想ルーム情報記憶部5002を参照し、特定した仮想ルームIDに関連付けられた仮想ルーム名称を取得する。このようにして特定した仮想ルームID及び対応する仮想ルーム名称の情報(画面生成部52がこれらの情報に基づいて生成した画面の情報であってもよい)を情報処理システム50の通信部51は通信端末30Aへ送信する。通信端末30Aの通信部31は、仮想ルームID及び仮想ルーム名称の情報を受信し、受信した情報に基づいて表示制御部33が仮想ルーム対応付け画面(その1)260を更新表示することができる。なお、このような情報はユーザIDに基づいて特定することができるため、認証後のステップS13で受信しておいてもよい。このようにして表示した仮想ルーム対応付け画面(その1)260に対してユーザaからの選択を示す操作入力を受付部32が受け付けることによって、通信端末30Aが選択された仮想ルームIDを特定することができる。
【0215】
S23:次に、ユーザaは仮想ルーム対応付け画面(その2)270を通信端末30Aに表示させ、デバイスを追加で仮想ルームに対応付けるために接続ボタン272を押下する。通信端末30Aの受付部32が押下を示す操作入力を受け付ける。具体的には、通信端末30Aの表示制御部33は、ステップS22で特定した選択された仮想ルームIDに対応する仮想ルーム対応付け画面(その2)270を表示する。さらに、受付部32は、ユーザaからデバイスを追加で仮想ルームに対応付ける指示を受け付ける(接続ボタン272の押下)。
【0216】
S24:ステップS23における操作入力に応じて、通信端末30Aの通信部31は、仮想ルームに対応付けるデバイスの候補となるテナントに登録済みのデバイスと、ステップS22で選択された仮想ルームIDに既に対応付けられているデバイスの情報を情報処理システム50に要求する。
【0217】
S25:情報処理システム50の通信部51は、テナントに登録済みのデバイスと、選択された仮想ルームIDに対応付けられているデバイスの情報の要求を受信し、画面生成部52がテナントに登録済みのデバイスと、選択された仮想ルームIDに対応付けられているデバイスのデバイスIDを含む仮想ルーム対応付け画面(その3)280を生成する。情報処理システム50の通信部51は仮想ルーム対応付け画面(その3)280の画面情報を通信端末30Aに送信する。
【0218】
S26:通信端末30Aの通信部31が仮想ルーム対応付け画面(その3)280の画面情報を受信し、表示制御部33が仮想ルーム対応付け画面(その3)280を表示する。ユーザaは仮想ルームに対応付けるデバイス(ここでは撮像装置10を例に説明する)を選択する。通信端末30Aの受付部32が選択を受け付け、選択されたデバイスのデバイスIDとして撮像装置IDが特定される。
【0219】
S27:通信端末30Aの通信部31は、ステップS22で選択された仮想ルームIDとステップS26で選択されたデバイスID(例えば撮像装置ID)を指定して、対応付け要求を情報処理システム50に送信する。
【0220】
S28:情報処理システム50の通信部51は、対応付け要求を受信し、通信グループ管理部56が仮想ルームにデバイス(例えば撮像装置10)を登録する。すなわち、通信グループ管理部56は、仮想ルーム情報記憶部5002を参照し、ステップS27の要求で指定されている仮想ルームIDにデバイスID(例えば撮像装置ID)を関連付けて登録する。
【0221】
S29:仮想ルームにデバイスID(例えば撮像装置ID)が対応付けられたので、情報処理システム50の通信部51は、仮想ルームID,名称、説明を撮像装置10に送信する。情報処理システム50はプッシュ通知を利用してもよいし、撮像装置10がポーリングすることを利用して送信してもよい。撮像装置10の接続部16が仮想ルームID,名称、説明を受信し、記憶部1000に保存する。これにより、撮像装置10が広視野画像を送信する際は、撮像装置ID、仮想ルームID、名称、説明等を付加できる。撮像装置10以外のデバイスも同様の手順で仮想ルームに対応付けることができる。さらに続けて、情報処理システム50の通信部51は、通信端末30Aに対して対応付け完了を示す通知を送信してもよい。このステップ以降、仮想ルームに対して登録されたデバイス(撮像装置10)は、対応付けられた仮想ルームに接続することができる。ここでは、続けて撮像装置10が情報処理システム50に対して、ステップS29で受信した仮想ルームIDを指定して仮想ルームに接続要求を送信することで、仮想ルームに接続したものとして説明を続けるが、撮像装置10が仮想ルームに接続するタイミングはユーザの操作によって変更することができる。
【0222】
S30:通信端末30A及び情報処理システム50は、
図22で説明した入室処理を行うことで、通信端末30Aがデバイス(撮像装置10)の対応付けを行った仮想ルームに入室する。
【0223】
S31:入室後、ユーザaが画像閲覧画面210において仮想ルームに対応付けられた撮像装置10のトグルボタン291をオンする。通信端末30Aの受付部32がオンを受け付ける。
【0224】
S32:通信端末30Aの通信部31は、デバイスID(撮像装置ID)を指定して広視野画像の送信開始要求を情報処理システム50に送信する。なお、ユーザaが直接、撮像装置10のボタンを操作して、広視野画像の送信を開始してもよい。なお、ユーザaの操作により、通信端末30Aの通信部31が、送信停止要求を情報処理システム50に送信する場合もある。
【0225】
S33:情報処理システム50の通信部51は、送信開始要求を受信し、デバイスID(撮像装置ID)で特定される撮像装置10に送信開始を要求する。情報処理システム50はプッシュ通知を利用してもよいし、撮像装置10がポーリングすることを利用してもよい。撮像装置10の接続部16が送信開始を受信し、撮像処理部13が撮像を開始する。画像送信制御部18が接続部16を介して決まったFPS又は帯域に応じたFPSで広視野画像の送信を繰り返す。したがって、仮想ルームに入室した通信端末30は拠点Aの状況を画像閲覧画面210にリアルタイムに表示できる。
【0226】
<広視野画像等の配信>
図31を参照して、広視野画像及び(又は)通常の画角の画像が共有される流れを説明する。
図31は、広視野画像が共有される流れを説明するシーケンス図の一例である。
図31では、通信端末30A、30Bが
図22で説明した入室処理を実行し、仮想ルームに入室ずみである。また、通信端末30Aは通常の画角のカメラ9を有し、通信端末30Bと共有されている。通信端末30Aのカメラ9でなく、仮想ルームに対応付けられたスマートグラス88が撮像した画像等が共有されてもよい。また、
図31では、
図30で説明した登録手順によって、撮像装置10が同じ仮想ルームに接続済みである。
【0227】
S41:通信端末30Aの撮像部34は周囲の撮像を行い、通信部31は入室している仮想ルームIDを指定して撮像で得た画像を含む映像及び音声を情報処理システム50に送信する。
【0228】
S42,S43:情報処理システム50の通信部51が画像を含む映像及び音声を受信すると、画像配信部54が同じ仮想ルームに入室している通信端末30A,30BのIPアドレスを仮想ルーム情報記憶部5002から取得し、通信部51を介して画像を含む映像及び音声を送信する。なお、
図31では、通信端末30Aの通信部31が通常の画角の画像を情報処理システム50から受信して表示しているが、撮像部34が撮像した通常の画角の画像を受信することなく表示してもよい。
【0229】
S44:次に、撮像装置10が送信開始の設定に基づく送信開始要求に応じて、撮像処理部13は広視野画像の撮像を行い、画像送信制御部18が接続部16を介して自機が登録されている仮想ルームID、撮像装置ID、名称、説明を指定して広視野画像を含む映像及び音声を、情報処理システム50に送信する。
【0230】
S45,S46:情報処理システム50の通信部51が広視野画像を含む映像及び音声を受信すると、画像配信部54が同じ仮想ルームに入室している通信端末30A,30BのIPアドレスを仮想ルーム情報記憶部5002から取得し、通信部51を介して広視野画像を含む映像及び音声を送信する。
【0231】
S47:次に、カメラ9を備えた通信端末30Cが
図22で説明した入室処理を実行することで新しく仮想ルームに入室した。
【0232】
S48:通信端末30Cの通信部31は通常の画角の画像を含む映像及び音声を情報処理システム50に送信する。
【0233】
S49~S51:情報処理システム50の通信部51は通信端末30Cから通常の画角の画像を含む映像及び音声を受信し、同じ仮想ルームに入室している通信端末30A~30CのIPアドレスを仮想ルーム情報記憶部5002から取得し、画像配信部54が通常の画角の画像を含む映像及び音声を送信する。
【0234】
S52:また、情報処理システム50の通信部51は同じ仮想ルームに入室した通信端末30Cに対しても、広視野画像を含む映像及び音声を送信する。
【0235】
このように、同じ仮想ルームに入室したユーザa,bは、仮想ルームに対応付けられた撮像装置10が撮像する広視野画像を含む映像をリアルタイムに共有できる。なお、
図31で示した、各画像の送信順は一例であり、広視野画像が先に共有されてもよいし、通常の画角の画像が先に共有されてもよい。
【0236】
ここで、スマートグラス88とVRゴーグル89について補足する。スマートグラス88は通常の画角のカメラと表示機能を有している。スマートグラス88が保持するカメラが撮像により得た通常の画角の画像は、カメラ8,9と同様に配信される。スマートグラス88が保持する表示機能は、通常のディスプレイと同様に平面なので、ユーザが指示する視点で広視野画像の一部が表示される。VRゴーグル89は表示機能を有している(通常の画角のカメラをさらに有していてもよい)。スマートグラス88が保持する表示機能は、ユーザの頭部の向きによって決まる視点の広視野画像を投影するので、ユーザの頭部の向きに応じた視点で広視野画像における所定領域Tの所定領域画像Qが表示される。ユーザは、スマートグラス88又はVRゴーグル89で広視野画像を閲覧中に、閲覧中の視点情報を指定した撮像要求を情報処理システム50に送信できる。
【0237】
<通信端末からの指示による撮像装置の録画>
続いて、
図33~
図38を参照して、任意の通信端末30からの指示により撮像装置10が録画する処理について説明する。
【0238】
まず、広視野画像の共有時において、通信端末30を操作してユーザが撮像装置10に録画を要求する際の画面を説明する。なお、任意のユーザが録画を指示できるが、ここでは、ユーザbが録画を指示するものとする。また、広視野画像の共有時であるので、厳密には撮像装置10はすでに「撮像」をリアルタイムに行っている。広視野画像の共有時の録画要求とは、広視野画像を保存のために録画することをいう。単に、広視野画像がリアルタイムに配信されている状態では広視野画像は保存されていないため、後から確認することができない(ある場面が任意に保存されていない)。
【0239】
図33は、通信端末30Bが表示する画像閲覧画面400の一例である。なお、
図33の説明では主に
図29(b)との相違を説明する。通信端末30Aと30Bがリアルタイムに配信されている広視野画像を含む映像をそれぞれ表示し、通信端末30A、30Bは通信端末30Aが有するカメラ9が撮像した通常の画角の画像を含む映像も表示している。広視野画像の映像は、各拠点におけるユーザの操作により任意に仮想的な視点(
図11参照)を変更することで、表示される広視野画像の所定領域T(
図9、
図10参照)を変更することができる。このため、通常の画角では確認できないような範囲まで現場の状況を確認することができる。
【0240】
図33に示すように、広視野画像が表示された第一の画像欄211には、録画ボタン401が表示される。録画ボタン401は、現在、第一の画像欄211に表示されている広視野画像を含む映像の所定領域を特定するための視点情報を用いて、通信端末30Bが撮像装置10に録画要求を送信するためのボタンである。なお、
図33では録画ボタン401に「360度映像を録画」といった説明が付与されているが、これは広視野画像の一例である全天球画像の映像を録画する場合のボタンの一例であって、他の説明が付与されたボタンであってもよいし、説明が付与されていないアイコン等の画像で表現されたボタンであってもよい。また、全天球画像以外の広視野画像の録画を指示するボタンであってもよい。録画ボタン401は、録画を指示可能なGUIの部品であればよく、
図33の例に限られない。
【0241】
図34は、通信端末30Bにおいて、録画ボタン401が押下されたことでダウンロードボタン402が表示された画像閲覧画面400を示す。
図34では、第一の画像欄211の下方にダウンロードボタン402(表示部品の一例)が表示されている。ダウンロードボタン402には「撮像した映像をダウンロード」というメッセージが表示されている。ダウンロードボタン402には、撮像装置10が録画ボタン401の押下によって送信された録画要求に応じて録画した広視野画像をアップロードした保存場所情報(例えばURL)が埋め込まれており、ユーザbがダウンロードボタン402を押下すると、通信端末30BがURLに接続して、録画した広視野画像をダウンロードできる。広視野画像には視点情報が関連付けられているので、通信端末30Bがダウンロードした広視野画像を表示する際は、視点情報によって特定される広視野画像の所定領域を第一の画像欄211の中央に一致させるように仮想的な視点を設定して表示する。ダウンロードした広視野画像に複数の拠点の視点情報が関連付けられている場合には、何れの拠点の視点情報に基づいて表示するのか選択肢を画面上に表示させ、選択肢に対する選択の入力をユーザから受け付けることによって選択された視点情報に基づいて表示させてもよい。なお、視点を完全に中央に一致させる必要はなく、視点を第一の画像欄211の中央近傍の範囲に含まれるように設定して表示させてもよい。なお、ここではリアルタイムに配信されている広視野画像を含む映像が表示されていた第一の画像欄211にダウンロードした広視野画像を表示する例を説明したが、第一の画像欄211には、そのままリアルタイムに配信されている広視野画像を含む映像を表示し続け、新しい画像欄を画像閲覧画面400に追加し、新しい画像欄にダウンロードした広視野画像を表示させてもよい。このようにすることで、リアルタイムに配信されている広視野画像の映像によって現場の状況の変化を確認しつつ、現場の特定の状況を切り取った広視野画像も同時に確認することができる。
【0242】
なお、ダウンロードボタン402の態様は一例であって、ダウンロードボタン402は例えば「全天球画像URL」のようなメッセージを表示してもよい。また、ボタンではなく保存場所情報(例えばURL)に対応するリンクが表示されてもよい。ユーザはリンクをクリックすることで同様にダウンロードすることができてもよい。
【0243】
また、通信端末30Bはダウンロードボタン402を表示することなく、保存された広視野画像及び関連付けられた視点情報を自動的に受信して表示してもよい。
【0244】
また、
図34は、録画要求した通信端末30Bが表示する画像閲覧画面400であるが、リアルタイムに配信されている広視野画像を含む映像を表示している通信端末30Aが表示する画像閲覧画面400でもダウンロードボタン402が表示され得る。一つの実施例としては、ユーザbが録画要求によって撮像した広視野画像の共有を指示する操作を行うことに応じて、同じ仮想ルームに入室している参加者の通信端末30Aにダウンロードボタン402を表示するようにしてもよい。このようにすることによって、録画を指示した撮像者(ユーザb)が手元で録画した画像を確認した上で他の参加者に共有させることができるため、誤って録画した広視野画像、及び共有する必要のない広視野画像が共有されることを防ぐことができる。ただし、仮想ルームに入室している全ての通信端末30が、広視野画像の保存に応じて自動的にダウンロードボタン402を表示してもよい。
【0245】
図35を参照し、通信端末30Aがダウンロードボタン402を表示したものとして説明する。
図35(a)は、ユーザaがダウンロードボタン402を押下する前に表示される画像閲覧画面410の一例である。ユーザaがダウンロードボタン402を押下する前に、通信端末30Aが第一の画像欄211に、ユーザaが指定した任意の仮想的な視点として例えばドリルを備えた作業機械が含まれる画角での広視野画像を表示している。この状態で、ユーザaがダウンロードボタン402を押下した。
【0246】
図35(b)は、ユーザbがダウンロードボタン402を押下した後に表示されるユーザa側の画像閲覧画面420の一例である。ユーザbが録画ボタン401を押下した際の視点情報が、
図33の第一の画像欄211なので、
図35(b)に示すように、通信端末30Aの第一の画像欄211に、
図33の第一の画像欄211と同じ視点でダウンロードした録画された広視野画像が表示される。そのため、ドリルを備えた作業機械ではなく、建屋の屋上からクレーンで建材をつり上げるシーンが確認できる画角での録画された広視野画像を表示している。また、ユーザaは、
図35(b)において第一の画像欄211に表示されたダウンロードした広視野画像に対して、リアルタイムに配信される広視野画像の映像と同様に、任意に仮想的な視点を変更することができる。そのため、ある特定のシーンを切り取った広視野画像に対しても、録画を要求したユーザの視点を初期値として反映できるとともに、通常の画角では確認できないような範囲まで現場の特定のシーンを確認することができる。
【0247】
このように、異なる拠点のユーザ同士がある特定のシーンに関する録画された広視野画像の仮想的な視点を後から共有できる。なお、保存要求で保存された広視野画像は
図35(b)における第一の画像欄211でなくポップアップ表示されてもよいし、別のウィンドウで表示されてもよい。このようにすることで、経時的に変化する現場の状況をリアルタイムに配信される広視野画像の映像で確認しつつ、録画されたある特定のシーンを切り取った広視野画像を利用して相互のコミュニケーションを効率化することができる。
【0248】
なお、
図35(b)に示すように、通信端末30Aがダウンロードした広視野画像を表示中は、録画ボタン401が表示されない。第一の画像欄211にリアルタイムの広視野画像が表示されていないからである。また、第一の画像欄211のデバイスの名称214には撮像装置10の名称と共に共有された画像である旨が表示される。なお、デバイスの名称214はテナント情報記憶部5003に記憶されているテナント登録デバイスの情報から特定することができる。また、デバイス名称214はデバイスIDであってもよい。
【0249】
また、ダウンロードボタン402が表示された通信端末30A,30Bでは、ユーザa,bが任意にダウンロードボタン402を削除できる。
【0250】
また、
図36に示すように、ダウンロードボタン402と共に(ダウンロードボタン402を兼ねて)、通信端末30A,30Bが広視野画像のサムネイル404を表示してもよい。サムネイル404は情報処理システム50が作成しても通信端末30が作成してもよい。サムネイル404は視点情報により視点が定まっている。
【0251】
また、ユーザa,bはそれぞれ、録画要求で録画された広視野画像にデータ名称(各通信端末30の画像管理情報記憶部3001に登録される)を設定できることが好ましい。
【0252】
図37は、3つの画像欄がある場合の画像閲覧画面430の一例を示す。
図37の画像閲覧画面430では、例えば、撮像装置10が撮像した広視野画像が表示される第一の画像欄211、通信端末30Aのカメラ9が撮像した通常の画角の画像が表示される第二の画像欄212、及び、通信端末30Cのカメラ8が撮像した通常の画角の画像が表示される第三の画像欄431が表示されている。ユーザa,b,cのうち任意のユーザが録画ボタンを押下でき、各拠点のユーザa,b,cが広視野画像を同じ視点で共有できる。
【0253】
<<広視野画像の共有時における、録画要求に応じた動作又は処理>>
続いて、
図32を参照し、広視野画像の共有時における、通信システム1bの録画要求に応じた動作又は処理を説明する。
図32は、広視野画像の共有時において、通信端末30Bからユーザbが録画を要求する処理を説明するシーケンス図の一例である。
図32の説明では、
図22で説明した入室処理によって、通信端末30A、Bが仮想ルームに入室しているものとする。また、
図32の説明では、ユーザbが録画ボタン401を押下し、ユーザaと視点情報を共有する場合を説明するが、ユーザaが録画ボタン401を押下し、ユーザbと視点情報を共有することもできる。また、
図32では、
図30で説明した登録手順によって、撮像装置10が同じ仮想ルームに接続済みである。なお、
図32では、実施形態の一例として、各通信端末30には、所定領域画像の表示及び視点情報の送信に関する機能を有する閲覧アプリケーション(閲覧アプリ)がインストールされている例を用いて説明する。なお、閲覧アプリを必ずしも事前にインストールしている必要はなく、同等の機能を通信端末が予め備えていてもよいし、仮想ルームに入室する際に情報処理システム又は他のサーバから閲覧アプリと同等の機能を有するプログラムを通信端末が受信することによって、通信端末が
図32に記載の通信端末の処理を実行してもよい。また、通信端末の閲覧アプリはWebブラウザによって実現されていてもよい。
【0254】
S61:ユーザbは、
図33において録画ボタン401を押下する操作を入力する。通信端末30Bの受付部32は押下する操作入力を受け付ける。録画ボタン401の押下は録画要求を送信するための操作入力方法の一例であって、その他のユーザインターフェースに対する入力に応じて録画要求を送信してもよい。ユーザインターフェースはGUIだけでなく、音声又はジェスチャによるインターフェースも含む。
【0255】
S62:録画要求を送信するための操作入力の受け付けに応じて、通信端末30Bの通信部31が、情報処理システム50に対して、録画要求を送信する。この録画要求には、現在利用中の仮想ルームを識別するための仮想ルームID、及び映像の配信元である撮影装置を識別するための撮影装置IDが含まれている。これにより、情報処理システム50の通信部51は、録画要求を受信する。なお、画像の録画だけでなく、音の録音も行われているが、以降、簡略化のために画像の録画について説明する。但し、本実施形態では、画像と同様に、音に関してもデータが通信され録音も行われる。
【0256】
S63: 情報処理システム50の通信部51が録画要求を受信すると、関連付け処理部53が仮想ルーム情報記憶部5002を参照し、仮想ルームIDに基づいて録画された広視野画像の保存場所情報(例えばURL)を作成し、更に、仮想ルームに入室中の通信端末30Aを特定して同じ仮想ルームに設定されているストレージ90を対象とする視点情報の保存場所情報(例えばURL)を作成する。そして、通信部51が視点情報のアップロード開始指示を通信端末30Aに送信する。この開始指示には、通信端末30A専用の視点情報の保存用URLが含まれている。これにより、通信端末30Aの通信部31が開始指示を受信する。また、これに応じて、表示制御部33がダウンロードボタン402を表示する。
【0257】
S64:情報処理システム50の通信部51は、録画要求元の通信端末30Bに対して、通信端末30Aに対する送信と同様に、視点情報のアップロード開始指示(視点情報の保存場所情報を含む)を送信すると共に、録画要求元に対する応答として、録画開始指示を送信する。この録画開始指示には、録画した広視野画像の保存場所情報が含まれている。
【0258】
S65:通信端末30Bの録画部35は、撮像装置10から配信された動画に係る広視野画像(S46参照)の録画及び音声の録音を開始する。録画された録画データは、録画部35から記憶・読出部19を介して、一旦、記憶部3000に保存される。なお、画像データに音データが含まれている場合には、録画部35は音の録音も行う。
【0259】
S66:ユーザbは、通信端末30Bによって表示されているデフォルトの所定領域画像に対して、ポインティングデバイス312、外付けマウス等により、仮想的な視点を移動(変更)させる操作を入力する。これにより、受付部32が視点の移動操作を受け付け、表示制御部33が変更後の視点に応じた所定領域画像を通信端末30Bのディスプレイ306上に表示させる。例えば、
図10において、デフォルトで表示されてる所定領域画像が
図10(b)に示されている場合、ユーザbによる操作により、
図10(c)のように仮想カメラICの視点が移動することで、結果的にディスプレイ306上には
図10(d)のような所定領域画像が表示される。なお、仮想の視点の移動は、ポインティングデバイス312等のユーザインターフェースに対する入力に限らず、音声又はジェスチャによる入力であってもよい。
【0260】
S67:通信端末30Aの通信部31は、視点移動操作に応じて、情報処理システム50に対して、視点情報と視点関連情報をアップロードする。この視点情報は、仮想的な視点が移動された後の広視野画像の所定領域を特定するための情報である。また、視点関連情報には、
図17に示されているように、録画対象の広視野画像のデータID、参加者であるユーザbのユーザID、仮想的な視点を移動させて新たな所定領域画像の閲覧を開始することができた日時を示す閲覧開始日時情報、及びステップS64で取得した視点情報の保存場所情報が含まれている。これにより、情報処理システム50の通信部51は、視点関連情報を受信し、記憶・読出部59が、視点関連情報記憶部5004に1レコードとして視点関連情報を記憶する。
【0261】
S68:情報処理システム50の通信部51は、ステップS67で受信した視点情報の保存場所情報に係る保存場所(URL等)に対して、ステップS67で受信した視点情報を保存する。なお、情報処理システム50は、ストレージ90に視点情報を保存せずに、自システムにて、
図17の視点関連情報に、視点関連情報における「視点情報の保存場所情報」の代わりに、視点情報を保存してもよい。
【0262】
S69:ユーザaも、ステップS66のユーザbと同様に操作する。
【0263】
S70:通信端末30Aの通信部31は、ステップS67と同様に、情報処理システム50に対して、視点情報と視点関連情報をアップロードする。
【0264】
S71:情報処理システム50の通信部51は、ステップS68と同様に、ステップS70で受信した視点情報の保存場所情報に係る保存場所(URL等)に対して、ステップS70で受信した視点情報を保存する。
【0265】
S72:ユーザbがマウス等で録画を停止する操作を入力した場合、受付部32が録画停止操作を受け付ける。
【0266】
S73:録画停止操作の入力の受付に応じて、録画部35が録画の動作を停止する。
【0267】
S74:通信端末30Bでは、記憶・読出部39が記憶部3000に保存されている録画データを読み出し、通信部31が、ステップS64で取得した広視野画像の保存場所情報に係るストレージ90の保存場所に対して、動画に係る広視野画像の録画データをアップロードして保存する。なお、ステップS74は情報処理システム50を介してストレージ90の保存場所に対してアップロードして保存してもよい。
【0268】
S75:通信端末30Bの通信部31は、ステップS74でアップロードが完了すると、情報処理システム50に対して録画データのアップロードが完了した旨を通知する。
【0269】
S76-1,S76-2:情報処理システム50の通信部51は、アップロードが完了した旨の通知を受信すると、広視野画像の保存場所情報(URL等)を仮想ルームに入室している通信端末30A及び通信端末30Bにそれぞれ通知する。これらの通知を受け取った通信端末30A及び通信端末30Bの表示制御部33は、それぞれ
図34及び
図35で説明したダウンロードボタン402を表示させることができる。通信端末30A及び通信端末30Bの通信部31はそれぞれ、ダウンロードボタン402の押下に対応する操作入力を受付部32によって受け付けることに応じて、保存場所情報に対応するストレージ90の保存場所に保存されている録画データをストレージ90に要求し(なお、情報処理システム50を介して要求してもよい)、録画データをストレージ90からダウンロードすることによって録画データの共有を行うことができる(なお、情報処理システム50を介してダウンロードしてもよい)。
【0270】
【0271】
なお、スマートグラス88又はVRゴーグル89が通信端末30である場合も、同様に
図32に示される処理が実行される。
【0272】
図38には、
図32の処理の変形例が示されている。
図38は、視点情報及び広視野画像のアップロードの処理(その2)を示すシーケンス図である。なお、この変形例においても、
図32におけるステップS61~S65と同様の処理が行われるため、これらの説明を省略し、通信端末30Bで録画が開始された後の処理について、ステップS86から説明する。
【0273】
S86:上記ステップS66と同様に、ユーザbは、通信端末30Bによって表示されているデフォルトの所定領域画像に対して、ポインティングデバイス312又は外付けマウス等により、仮想的な視点を移動(変更)させる操作を入力する。これにより、通信端末30Bの受付部32が視点を移動させる操作入力を受け付け、表示制御部33が変更後の視点に応じた所定領域画像を通信端末30Bのディスプレイ306上に表示させる。
【0274】
S87:通信端末30Bでは、記憶・読出部39が、ステップS86によって仮想的な視点が移動された後の所定領域を特定するための視点情報と、この視点情報に係る視点関連情報を記憶部3000に保存する。
【0275】
S88:ユーザaもステップS86と同様に、ユーザaは、通信端末30Aによって表示されているデフォルトの所定領域画像に対して、ポインティングデバイス312又は外付けマウス等により、仮想的な視点を移動(変更)させる操作を入力する。これにより、通信端末30Aの受付部32が視点を移動させる操作入力を受け付け、表示制御部33が変更後の視点に応じた所定領域画像を通信端末30Aのディスプレイ306上に表示させる。
【0276】
S89:通信端末30BでもステップS89と同様に、記憶・読出部39が、ステップS88によって仮想的な視点が移動された後の所定領域を特定するための視点情報と、この視点情報に係る視点関連情報を記憶部3000に保存する。
【0277】
S90:ユーザbがマウス等で録画を停止した場合、ステップS72と同様に、受付部32が録画停止を受け付ける。
【0278】
S91:録画部35が録画の動作を停止する。
【0279】
S92:通信端末30Bの通信部92が、情報処理システム50に対して、録画を停止した旨を示す録画停止通知を送信する。これにより、情報処理システム50の通信部51が、録画停止通知を受信する。
【0280】
S93:情報処理システム50の通信部51が、録画処理をしていない通信端末30Aに対して、視点情報と視点関連情報のアップロード要求を送信する。これにより、通信端末30Aの通信部31は、アップロード要求を受信する。
【0281】
S94:通信端末30Bでは、記憶・読出部39が、これまで記憶部3000に保存しておいた、広視野画像の録画データ、視点情報、及び視点関連情報を読み出し、通信部31が、これらを情報処理システム50にアップロードする。なお、上述のように、視点関連情報には、視点情報の保存場所情報が含まれている。これにより、情報処理システム50の通信部51は、広視野画像の録画データ、視点情報、及び視点関連情報を受信する。
【0282】
S95:情報処理システム50の通信部51は、ステップS94で受信した視点情報の保存場所情報に係る保存場所(URL等)に対して、ステップS94で受信した視点情報を保する。また、情報処理システム50の通信部51は、画像管理情報記憶部5001(
図14参照)に記憶されている広視野画像のデータの保存場所情報で示されるストレージ90の保存場所(URL等)に対して、ステップS94で受信した広視野画像の録画データを保存する。なお、通信端末30Bが保存場所を特定できていれば、情報処理システム50を介さずに広視野画像の録画データと視点情報をストレージ90に保存してもよい。
【0283】
S96:通信端末30Aでは、記憶・読出部39が、これまで記憶部3000に保存しておいた、視点情報及び視点関連情報を読み出し、通信部31が、これらを情報処理システム50に送信する。なお、上述のように、視点関連情報には、視点情報の保存場所情報が含まれてる。これにより、情報処理システム50の通信部51は、視点情報及び視点関連情報を受信する。
【0284】
S97:情報処理システム50の通信部51は、ステップS96で受信した視点情報の保存場所情報に係るストレージ90の保存場所(URL等)に対して、ステップS96で受信した視点情報を保存する。また、情報処理システム50の通信部51は、画像管理情報記憶部5001(
図14参照)に記憶されている広視野画像のデータの保存場所情報で示されるストレージ90の保存場所(URL等)に対して、ステップS96で受信した広視野画像の録画データを保存する。なお、通信端末30Aが保存場所を特定できていれば、情報処理システム50を介さずに視点情報をストレージ90に保存してもよい。
【0285】
S98-1,S98-2:情報処理システム50の通信部51は、ステップS95,S97で説明した処理を実行することによって、ストレージ90への録画データと視点情報の保存が完了すると、広視野画像の保存場所情報(URL等)を仮想ルームに入室している通信端末30A及び通信端末30Bにそれぞれ通知する。これらの通知を受け取った通信端末30A及び通信端末30Bの表示制御部33は、それぞれ
図34又は
図35で説明したダウンロードボタン402を表示させることができる。通信端末30A及び通信端末30Bの通信部31はそれぞれ、ダウンロードボタン402の押下に対応する操作入力を受付部32によって受け付けることに応じて、保存場所情報に対応するストレージ90の保存場所に保存されている録画データをストレージ90に要求し(なお、情報処理システム50を介して要求してもよい)、録画データをストレージ90からダウンロードすることによって録画データの共有を行うことができる(なお、情報処理システム50を介してダウンロードしてもよい)。
【0286】
【0287】
また、
図32、
図38の例では、通信端末30において録画の開始と停止を行っていたが、
図31で説明したように、情報処理システム50も通信端末30と同様に撮像装置10によって撮像された広視野画像を受信しているため、通信端末30が備える録画部35を情報処理システム50が備え、情報処理システム50の録画部によって広視野画像の録画の開始及び(又は)停止を実行してもよい。このような場合にはクラウド等のサーバで録画する構成となるため、ユーザが操作する通信端末30に録画に係る処理負荷がかからないといった利点がある。このような変形例の場合には、ステップS74において通信端末30が録画データをアップロードしているが、情報処理システム50がストレージ90に録画データを保存する構成となる。
【0288】
また、同様に撮像装置10が録画部35の機能を有している場合には、撮像装置10において広視野画像の録画を実行してもよい。このような場合には、情報処理システム50及び通信端末30に録画に係る処理負荷がかからないといった利点がある。このような変形例の場合には、ステップS62で情報処理システム50が録画要求を受信することに応じて、撮像装置IDに対応する撮像装置10に対して録画要求を情報処理システム50が送信することによって、撮像装置10が録画を開始することができる。また、ステップS72の録画停止操作の入力を受け付けることに応じて、通信端末30が録画停止要求を情報処理システム50に送信し、情報処理システム50がさらに撮像装置10に対して保存場所情報を含む録画停止要求を送信することで撮像装置10は録画を停止することができる。録画が停止された後は、ステップS74と同様に通信端末30ではなく、撮像装置10が保存場所情報に基づいてストレージ90(又は情報処理システム50を介して)へ録画データをアップロードすればよい。
【0289】
また、
図32、
図38の例では、通信端末30のうち、録画要求を送信した通信端末30のみで録画を実行する構成となっていたが、仮想ルームに入室している全ての通信端末30が視点情報のアップロード開始指示を受信することに応じて、録画要求を送信した通信端末30と同様に配信されている広視野画像の録画の開始及び停止の制御を行い、広視野画像の録画データのアップロードを行ってもよい。
【0290】
また、
図32、
図38の例において、視点情報を情報処理システム50又はストレージ90に送信する際に、視点情報が録画データに埋め込まれているデータ形式の場合には、視点情報を含む録画データを送信することによって、視点情報を送信してもよい。
【0291】
<ストレージに登録されている広視野画像の閲覧>
続いて、
図39~
図52を参照して、録画された広視野画像を含むストレージ90に保存された情報の閲覧について説明する。
図39は、ユーザがストレージ90に保存されている広視野画像を閲覧する処理を説明するシーケンスである。
【0292】
S301:ユーザが通信端末30(表示端末の一例)を情報処理システム50にアクセスさせた状態で、通信端末30がユーザから認証情報(ユーザID,パスワード等)の入力を受け付け、通信端末30が、ユーザが所属するテナントへのログインの要求の操作入力を受け付ける。通信端末30の受付部32がこれらの操作入力を受け付ける。
【0293】
S302:通信端末30の通信部31は認証情報を指定してログイン要求を情報処理システム50に送信する。情報処理システム50の通信部51は、ログイン要求を受信し、認証部55が認証情報に基づいて認証を行う。ここでは認証が成功したものとする。
【0294】
S303:情報処理システム50の画面生成部52は所定の分類で画像を分類した仮想ルームリスト画面600を生成し、通信部51が生成した仮想ルームリスト画面600の画面情報を通信端末30に送信する。具体的には、
図14の画像管理情報、
図15の仮想ルーム情報、テナント情報に基づいた分類の一覧を選択候補として表示する仮想ルームリスト画面600を生成する。
図40の例では、仮想ルームの分類の一例として、ストレージ90に保存された画像を含むデータがどの仮想ルームに対応付けられているかで分類した一覧(分類一覧604)を含む仮想ルームリスト画面600が生成される。
【0295】
S304:通信端末30の通信部31が仮想ルームリスト画面600の画面情報を受信し、表示制御部33が通信端末30のディスプレイ306上に仮想ルームリスト画面600を表示する。
【0296】
ここで、仮想ルームリスト画面600に関して詳細に説明する。
【0297】
仮想ルームリスト画面600には、ログインユーザ名603、分類一覧604a~604cが表示される。ログインユーザ名603はテナントにログインしているユーザを識別する情報であって、ユーザの名前又はユーザIDが含まれる。分類一覧604a~604cは、画像管理情報記憶部5001に記憶されている情報に基づいた分類の一覧である。ここでは、分類の一例として、ストレージ90に保存された、録画された画像の録画データを含むデータがどの仮想ルームに対応付けられているかで分類することができる。例えば録画データに含まれる広視野画像は、それぞれがどの仮想ルームで遠隔コミュニケーション中に撮像されたかを画像管理情報記憶部5001に記憶されている撮像時の仮想ルームIDによって特定することができる。なお、ここでの「撮像時」とは、並行して録画も行っているため「録画時」に言い換えることもできる。
図40の分類一覧604a~604cでは遠隔コミュニケーションが行われた仮想ルームの名称に加えて、遠隔コミュニケーションが行われた日付(画像を撮像した日時情報と対応する)が対応付けられて表示されている。
図40の例では例えば、日付"2021年10月12日"に仮想ルーム名称が"A工事現場"の仮想ルームにおいて遠隔コミュニケーションが行われ、この遠隔コミュニケーション中に録画された画像が日付"2021年10月12日"の仮想ルーム名称"A工事現場"の分類に保存されていることがわかる。もし仮想ルーム名称が"A工事現場"の仮想ルームにおいて日付"2021年10月12日"以外の日付において撮像された画像の情報が画像管理情報記憶部5001に記憶されている場合には、分類一覧604に日付"2021年10月12日"以外の日付(例えば2021年10月13日)と仮想ルーム名称が"A工事現場"を組み合わせた分類の選択肢を表示させることができる。
【0298】
ユーザは通信端末30を用いて情報処理システム50の仮想ルーム情報記憶部5002にアクセスすることで仮想ルーム名称を編集でき、仮想ルーム名称は仮想ルームの作成時に設定されて仮想ルーム情報記憶部5002に記憶されている。画像管理情報記憶部50001に記憶されている撮像時の仮想ルームIDに基づいて、仮想ルーム情報記憶部5002を参照することで、対応する仮想ルーム名称を特定することができる。日付は、画像管理情報記憶部5001に記憶されている画像管理情報の撮像日時から特定することができる(複数ある場合は最初の日時)。なお、
図40では仮想ルームで分類されているが、その他にも日付、日時、撮像者情報、撮像装置情報又はデータ名称等の分類で分類されていてもよい。また、これらの分類を2つ以上組み合わせた分類で分類されていてもよい。
【0299】
また、仮想ルームリスト画面600は、以下の処理によって作成される。
【0300】
まず、ステップS302において認証されたユーザIDが所属するテナントのテナントIDを
図16に示したテナント情報記憶部5003を参照することで特定する。テナント情報記憶部5003において、各テナントには、仮想ルームが登録されている。仮想ルームで行われた遠隔コミュニケーション中に参加者からの要求に応じて仮想ルームに対応付けられている撮像装置によって撮像され、保存された広視野画像は、遠隔コミュニケーションが行われていた仮想ルームの仮想ルームID、録画を要求した撮像者(参加者)、撮像日時、撮像装置、視点情報、保存場所等と対応付けて画像管理情報記憶部5001に保存されている。
【0301】
なお、ここでの「撮像者」とは、撮像に並行して録画も行っているため、「録画者」と言い換えることもできる。このため、画面生成部52は、テナント情報記憶部5003を参照することで、ログインしたユーザが所属するテナントのテナントIDに関連付けられた仮想ルームID及び対応する仮想ルーム名を特定することができる。このようにして、
図40に示した分類一覧604a~604cに表示する仮想ルーム名を特定することができる。
【0302】
さらに、
図40で示しているように保存されたデータに関連付けられた仮想ルームの分類に対して、撮像された日付と組み合わせて表示する場合には、画面生成部52は、画像管理情報記憶部5001を参照することで、特定した仮想ルームIDそれぞれに関連付けられたデータIDを特定することができる。
【0303】
さらに、画面生成部52は、特定したデータIDに関連付けられた撮像日時の情報を、画像管理情報記憶部5001を参照することで特定できる。画面生成部52は、このようにして特定した撮像日時の情報から日付を特定できるため、分類一覧604a~604cに表示する仮想ルームに対して、
図40で示したように特定した日付を対応付けて表示する仮想ルームリスト画面600を生成できる。このように日付と組み合わせることで、例えば"A工事現場"という名前の仮想ルームにおいて撮像された広視野画像が複数保存されていた場合に、撮像された日付が異なる場合には、異なる分類として分類一覧に表示させることができる。これは、例えば、同じ現場で撮像された広視野画像であっても日程によって異なる作業が行われる場合もあるため、作業が行われた日程で選択可能な広視野画像の候補を絞りたい場合に有用である。
【0304】
また、同様に日付ではなく仮想ルームの分類に対して、画像管理情報記憶部5001を参照して、撮像者、撮像装置又は保存場所の情報を組み合わせて表示することもできる。このように表示することで、例えば同じ現場で撮像された広視野画像であっても、撮像者、撮像装置又は保存場所といった条件で選択可能な広視野画像の候補を絞りたい場合に有用である。また、これらの分類の条件はそれぞれ単独の条件として分類した分類一覧604a~604cを生成することもできるし、
図40に示したように2つ以上の条件を組み合わせて分類した分類一覧604を生成することもできる。なお、この例では仮想ルームリスト画面600(分類一覧604)を画面生成部52が生成しているが、分類一覧604に表示させる分類の情報(この例では、分類の条件に合致する仮想ルーム名及び日付)を画面生成部52が通信部51を介して通信端末30に送信することで、通信端末30に分類の情報に基づいた分類一覧604を配置した仮想ルームリスト画面600を生成させてもよい。
【0305】
したがって、ステップS303において送信する画面情報には、画面生成部52が生成した仮想ルームリスト画面600が含まれていてもよいし、生成した画面の代わりに分類一覧604に表示させる分類の情報が含まれていてもよい。また、生成した仮想ルームリスト画面600 に表示させる分類の情報の両方が画面情報に含まれていてもよい。
【0306】
続いて、ステップS305から説明を続ける。
【0307】
S305:通信端末30の通信部31は、ユーザが選択した分類を特定する識別情報(この例では選択された仮想ルームの仮想ルームID及び日付の情報)を条件として指定して、広視野画像のリスト要求を情報処理システム50に送信する。なお、仮想ルームID及び日付等の条件の指定は必ずしも同時に指定する必要はなく、別々に指定して要求を送信してもよい。
【0308】
S306,S307:情報処理システム50の通信部51は、画像のリストの要求を受信する。画面生成部52は、要求において指定された条件に含まれる仮想ルームIDに対応付けられている画像データIDを画像管理情報記憶部5001から特定する。さらに、この例では受信した要求において日付も条件として指定されているため、特定した画像データIDのうち、画像管理情報記憶部5001において指定された日付と一致する撮像日時の日付に対応付けられた画像データIDを特定する。このようにして指定された条件に一致する画像データIDについて、画像管理情報記憶部5001において対応付けられているデータの保存場所の情報をそれぞれ取得する。画面生成部52は、通信部51を介して、取得した保存場所の情報を用いてストレージ90のそれぞれの保存場所へアクセスし、ストレージ90から広視野画像及び視点情報並びに平面画像を取得する。なお、画面生成部52は画像管理情報記憶部5001に記憶されている視点情報を取得して使用してもよい。
【0309】
S308:情報処理システム50の画面生成部52は、S306,S307において取得した広視野画像及び視点情報並びに平面画像を用いて各サムネイル621~624を含んだモード選択画面610を生成する。なお、この例ではモード選択画面610を画面生成部52が生成しているが、サムネイル及び画像情報を画面生成部52が通信部51を介して通信端末30に送信することで、通信端末30にサムネイル及び画像情報に基づいたモード選択画面610を生成させてもよい。
【0310】
S309:通信部51がモード選択画面610の画面情報を通信端末30に送信する。ここでの画面情報とは、S308で生成されたモード選択画面610であってもよいし、モード選択画面610を通信端末30が生成するために必要な情報(S306~S308で生成したサムネイル及び(又は)取得した画像情報等)であってもよい。また、画面情報には、S306,S307において特定した、作成したサムネイルそれぞれに対応するデータを特定するための識別情報(この例では画像データID)も含まれる。
【0311】
これにより、通信端末としての表示端末30では、表示制御部33がディスプレイ306上に、
図41に示すようなモード選択画面610を表示させる。
【0312】
モード選択画面610には、例えば、
図40で選択された分類一覧604aで示される画像の録画(配信)日時情報611、通常再生モードの表示領域620、共有再生モードの表示領域630、「再生同期」ボタン618、及び「各閲覧履歴記録」ボタン619が示されている。なお、
図41に示すモード選択画面610は、閲覧者のうちの主催者であるユーザaの通信端末30Aで表示される画面である。
【0313】
通常再生モードは、第1のモードの一例であり、録画された動画の再生中に、この動画における所定の再生経過時間の静止画、又はこの動画の時間的な部分動画の共有を受け付けるモードである。
【0314】
共有再生モードは、第2のモードの一例であり、通信端末30Aを含めた各通信端末30によって共有された各動画における時間的な各部分動画を表示させるモードである。
【0315】
「再生同期」ボタン618及び「各閲覧履歴記録」ボタン619は、主催者のユーザaの通信端末30Aのみ表示され、その他の閲覧者であるユーザb,c,dの通信端末30A,30B,30Cには表示されない。
【0316】
通常再生モードの表示領域620には、2021年10月12日のA工事現場で撮影されて録画された画像(広視野動画の所定領域動画、平面動画)の各サムネイル621~624が示されている。なお、共有再生モードの表示領域630については後述する。
【0317】
「再生同期」ボタン618は、閲覧中の各通信端末30で再生されている各動画の再生経過時間を合わせるためのボタンである。
【0318】
「各閲覧履歴記録」ボタン619は、主催者以外の閲覧者の通信端末30B,30C,30Dにおける動画の各閲覧履歴を記録させる受け付けを行うボタンである。サムネイルが広視野動画の場合、閲覧者は、
図6(a)から
図6(b)のように、所定領域Tを変更させて所望の所定領域動画を表示させて閲覧することができるため、主催者は他の閲覧者がどの所定領域動画を閲覧しているのか分からない状態になる。そのため、「各閲覧履歴記録」ボタン619は、主催者が、各他の閲覧者によって注目されている所定領域動画を把握したい場合に、情報処理システム50が各所定領域動画の閲覧履歴を取得するためのボタンである。
【0319】
ここで、
図610に示すように、ユーザaが「再生同期」ボタン618を押下すると、通信端末30Aの受付部32が、再生同期の要求を受け付け、通信部31が情報処理システム50に再生同期の要求を送信し、情報処理システム50の通信部51が他の各通信端末30B,30C,30Dに各サムネイル621~624の再生経過時間を合わせる命令を送り、他の各通信端末30B,30C,30Dは再生経過時間を合わせる処理を行う。
【0320】
続いて、ユーザaが、
図41に示すように、カーソルc1で所望のサムネイル(ここでは、サムネイル623)を選択すると、受付部32が選択を受け付け、表示制御部33が、
図42に示すように拡大した所定領域動画623eを表示させる。この場合、他のサムネイル621,622,624は、右側に表示される。
【0321】
所定領域動画623eには、仮想的な視点を移動して、所定領域動画623eを変更表示(
図10参照)させることが可能である旨を示す変更表示アイコン623aが表示されている。即ち、ユーザaは、カーソルc1等を用いて、
図10に示すように所定領域動画623eを変更表示させることができる。
【0322】
また、通常再生モードの表示領域620の下側には、「静止画共有」ボタン628及び「部分動画共有」ボタン629が表示されている。
【0323】
「静止画共有」ボタン628は、録画された動画(ここでは、所定領域動画623e)の再生中に、この動画における所定の再生経過時間のフレームである静止画の共有を受け付けるためのボタンである。
【0324】
「部分動画共有」ボタン629は、録画された動画の再生中に、この動画における時間的な部分動画の共有を受け付けるためのボタンである。
【0325】
<通常再生モードの処理>
続いて、
図43乃至
図45を用いて、通常再生モードのうちの3つの処理について説明する。
【0326】
(静止画の共有)
まずは、
図43を用いて、通常再生モードの中で、静止画を共有する処理を説明する。
図43は、静止画を共有する処理を示すシーケンス図である。なお、静止画の共有は、全ての通信端末30で同様の処理が行われる。
【0327】
S411:受付部32は、閲覧者であるユーザから「静止画共有」ボタン628の押下を受け付ける。
【0328】
S412:表示制御部33は、録画された動画の再生中に、この動画から「静止画共有」ボタン628の押下された再生経過時間におけるフレームである静止画を切り出す。
【0329】
S413:通信部31は、情報処理システム50に対して、静止画共有情報を送信する。この静止画共有情報には、切り出された静止画データ、「静止画共有」ボタン628を押下した閲覧者の閲覧者ID、切り出す元の画像を示す画像データID、及び切り出された再生経過時間が含まれている。これにより、情報処理システム50の通信部51は、静止画共有情報を受信する。
【0330】
S414:情報処理システム50では、記憶・読出部59が、静止画の保存場所のURLを作成し、通信部51によって受信された静止画共有情報記憶部5005(
図18参照)に、通信部51によって受信された静止画共有情報及び作成したURLを関連付けて、1レコードとして記憶する。
【0331】
S415,S416:通信部51は、処理S414で作成されたストレージ90のURLに、通信端末30から送られて来た静止画データを送信して、ストレージ90のURLに記憶する。
【0332】
(部分動画の共有)
次に、
図44を用いて、通常再生モードの中で、部分動画を共有する処理を説明する。
図44は、部分動画を共有する処理を示すシーケンス図である。なお、部分動画の共有は、全ての通信端末30で同様の処理が行われる。
【0333】
S431:受付部32は、閲覧者であるユーザから「部分動画共有」ボタン629の押下を受け付ける。
【0334】
S432:通信部31は、情報処理システム50に対して、部分動画共有情報を送信する。この部分動画共有情報には、「部分動画共有」ボタン629を押下した閲覧者の閲覧者ID、及び部分動画の元の動画を示す画像データIDが含まれている。更に、元の動画が広視野動画の場合には、部分動画共有情報の送信元の通信端末30で表示されている所定領域動画を特定するための視点情報が含まれている。これにより、情報処理システム50の通信部51は、部分動画共有情報を受信する。
【0335】
S433:情報処理システム50では、通信部51によって受信された部分動画共有情報に視点情報が含まれていない場合、記憶・読出部59が、部分平面動画の共有情報記憶部5006(
図19参照)に、通信部51によって受信された部分動画共有情報を1レコードとして記憶する。一方、通信部51によって受信された部分動画共有情報に視点情報が含まれている場合、記憶・読出部59が、部分広視野動画の共有情報記憶部5007(
図20参照)に、通信部51によって受信された部分動画共有情報を1レコードとして記憶する。なお、処理S431によって、一旦、「部分動画共有」ボタン629が押下された場合には、次に押下されるまで、処理S432による部分動画共有情報の送信が例えば1秒毎に行われる。なお、上述のように、1/30秒毎、1/60秒毎、又は10秒毎等に送信されてもよい。
【0336】
S434:続いて、受付部32は、閲覧者であるユーザから「部分動画共有」ボタン629の2回目の押下を受け付ける。
【0337】
S435:通信部51は、受付部32によって「部分動画共有」ボタン629の2回目の押下を受け付けることにより、処理S432で送信していた部分動画共有情報の送信を停止する。なお、情報処理システム50では、部分動画共有情報に視点情報が含まれていない場合には、部分平面動画の共有情報記憶部5006(
図19参照)において、「部分動画共有」ボタン629が1回目に押下された再生経過時間と2回目に押下された再生経過時間の間である再生経過期間が記憶される。また、部分動画共有情報に視点情報が含まれている場合には、部分広視野動画の共有情報記憶部5007(
図20参照)において、「部分動画共有」ボタン629が1回目に押下された再生経過時間から2回目に押下された再生経過時間の間で所定時間(例えば1秒)毎に再生経過時間が記憶される。
【0338】
(各閲覧履歴記録)
続いて、
図45を用いて、通常再生モードの中で、主催者以外の各閲覧者が閲覧している履歴を記録する処理を説明する。
図45は、主催者以外の各閲覧者が閲覧している履歴を記録する処理を示すシーケンス図である。
【0339】
S451:通信端末30Aの受付部32は、閲覧者のうちの主催者であるユーザaから「各閲覧履歴記録」ボタン619の押下を受け付ける。
【0340】
S452:通信端末30Aの通信部31は、情報処理システム50に対して、閲覧履歴記録要求を送信する。これにより、情報処理システム50の通信部51は、閲覧履歴記憶要求を受信する。
【0341】
S453:情報処理システム50では、記憶・読出部59が仮想ルーム情報記憶部5002を検索することで、仮想ルーム(2021年10月12日 A工事現場)に参加(入室)している他の全ての通信端末を検索する。
【0342】
S454:通信部51は、通信端末30Aと同じ仮想ルームに参加している他の全ての通信端末30B,30C,30Dに、閲覧履歴記録要求を送信する。これにより、各通信端末30B,30C,30Dの通信部31は、閲覧履歴記録要求を受信する。
【0343】
S455:各通信端末30B,30C,30Dの記憶・読出部39は、各ユーザb,c,dが、
図42と同様に拡大した所定領域動画623eをそのまま閲覧したり、
図10に示すように変更表示したりする履歴を記憶部3000に記録しておく。この記録処理は、後述の処理S458で通信部31が閲覧履歴送信要求を受信するまで続けられる。
【0344】
S456:続いて、通信端末30Aの受付部32は、主催者であるユーザaから「各閲覧履歴記録」ボタン619の2回目の押下を受け付ける。
【0345】
S457:通信端末30Aの通信部31は、情報処理システム50に対して、閲覧履歴送信要求を送信する。これにより、情報処理システム50の通信部51は、閲覧履歴送信要求を受信する。
【0346】
S458:通信部51は、処理S454の送信先である各通信端末30B,30C,30Dに、閲覧履歴送信要求を送信する。これにより、各通信端末30B,30C,30Dの通信部31は、閲覧履歴送信要求を受信する。
【0347】
S459:各通信端末30B,30C,30Dの記憶・読出部39は、処理S455により開始して続けていた閲覧履歴の記録を停止する。
【0348】
S460:各通信端末30B,30C,30Dの記憶・読出部39が、記憶部3000からこれまでに記録されていた閲覧履歴の情報を読み出す。そして、各通信端末30B,30C,30Dの通信部31は、各閲覧履歴の情報を情報処理システム50に送信する。この閲覧履歴の情報は、処理S432により送信された部分動画共有情報に加えて「注目フラグ」が付された情報である。これにより、情報処理システム50の通信部51は、各通信端末30B,30C,30Dから各閲覧履歴の情報を受信する。
【0349】
S461:情報処理システム50では、記憶・読出部39が、各閲覧履歴の情報について、処理S433と同様の記録処理を行う。
【0350】
<共有再生モードの処理>
続いて、
図46乃至
図52を用いて、共有再生モードのうちの3つの処理について説明する。まずは、ユーザがカーソルc1で共有再生モードのタブを選択すると、受付部32が共有再生モードの表示領域630への表示切替を受け付け、表示制御部33が
図46に示すような共有再生モードの表示領域630を表示させる。この共有再生モードの表示領域630には、「共有静止画再生」ボタン640、「共有部分動画再生」ボタン650、及び「高注目部分動画再生」ボタン660が表示されている。「共有静止画再生」ボタン640、「共有部分動画再生」ボタン650、及び「高注目部分動画再生」ボタン660は、それぞれ通常再生モードにおいて、「静止画の共有」、「部分動画の共有」、及び「各閲覧履歴記録」によって記録された画像(静止画又は動画)を再生するためのボタンである。録画された動画を再生表示する際に、通常再生モードと共有再生モードの切り替えが可能であるため、各閲覧者は、録画された動画を閲覧中に、静止画の共有、部分動画の共有、及び各閲覧履歴記録による画像(静止画又は動画)も閲覧することができる。
【0351】
(共有静止画再生)
図47及び
図48を用いて、閲覧者が共有静止画を再生する処理を説明する。
図47は、閲覧者が共有静止画を再生する処理を示すシーケンス図である。
図48は、共有静止画を再生した画面を示す図である。
【0352】
S511:通信端末30の受付部32は、任意の閲覧者から「共有静止画再生」ボタン640の押下を受け付ける。
【0353】
S512:通信端末30の通信部31は、情報処理システム50に対して、共有静止画要求を送信する。これにより、情報処理システム50の通信部51は、共有静止画要求を受信する。
【0354】
S513:情報処理システム50では、記憶・読出部59が静止画共有情報記憶部5005(
図18参照)を検索することで、ここでは仮想ルーム(2021年10月12日 A工事現場)の仮想ルームIDに関連付けて記憶されている静止画共有情報を読み出す。なお、記憶・読出部59が静止画共有情報のうちの静止画の保存場所情報としてのURLを読み出してもよい。
【0355】
S514,S515:通信部51は、処理S513で読み出されたURLに対してアクセスし、ストレージ90に記憶されている静止画データを取得する。
【0356】
S516:画面生成部52は、処理S515で取得された静止画データ、及び処理S513で読み出された静止画共有情報を用いて、
図48に示すような共有再生モードの画面を作成する。この場合の画面には、
図48に示すように、静止画641,642及びこれらの各静止画641,642の下に静止画共有情報(ここでは、閲覧者ID、再生経過時間)が表示されている。ここでは、閲覧者IDが示されているが、静止画共有情報記憶部5005で、閲覧者名が管理されている等の場合には、画面生成部52は、閲覧者IDに替えて又は加えて、閲覧者名を表示させる画面を生成してもよい。また、画面生成部52が生成する画面は、共有再生モードの表示領域630内全体であっても良いし、共有再生モードの表示領域630内の各ボタン640,650,660を除く表示領域であっても良いし、
図48に示す全体であってもよい。
【0357】
S517:通信部51は、画面生成部52によって生成された画面データを、共有静止画要求の送信元の通信端末30に送信する。なお、通信部51は、画面生成部52によって生成された画面データを、共有静止画要求の送信元の通信端末30と同じ仮想ルームに参加している他の一部又は他の全部の通信端末に送信してもよい。
【0358】
S518:通信端末30では、表示制御部33が、
図48に示すような画面を表示させる。なお、通信端末30が主催者の通信端末30Aの場合のみ、「再生同期」ボタン618、及び「各閲覧履歴記録」ボタン619が表示される。
【0359】
(共有部分動画再生)
図49及び
図50を用いて、閲覧者が共有部分動画を再生する処理を説明する。
図49は、閲覧者が共有部分動画を再生する処理を示すシーケンス図である。
図50は、共有部分動画を再生した画面を示す図である。
【0360】
S531:通信端末30の受付部32は、任意の閲覧者から「共有部分動画再生」ボタン650の押下を受け付ける。
【0361】
S532:通信端末30の通信部31は、情報処理システム50に対して、部分動画要求を送信する。これにより、情報処理システム50の通信部51は、部分動画要求を受信する。
【0362】
S533:情報処理システム50では、記憶・読出部59が部分平面動画の共有情報記憶部5006(
図19参照)を検索することで、ここでは仮想ルーム(2021年10月12日 A工事現場)の仮想ルームIDに関連付けて記憶されている部分平面動画の共有情報を読み出す。同様に、記憶・読出部59が部分広視野動画の共有情報記憶部5007(
図20参照)を検索することで、ここでは仮想ルーム(2021年10月12日 A工事現場)の仮想ルームIDに関連付けて記憶されている部分広視野動画の共有情報を読み出す。但し、記憶・読出部59は、注目フラグ「1」が付されていない部分平面動画の共有情報及び部分広視野動画の共有情報に絞り込んで読み出す。更に、記憶・読出部59が、読み出した「部分平面動画の共有情報」及び「部分広視野動画の共有情報」に含まれる画像データIDに基づいて、画像管理情報記憶部5001(
図14参照)を検索することで、対応する画像データの保存場所情報としてのURLを読み出す。
【0363】
S534,S535:通信部51は、処理S533で読み出されたURLに対してアクセスし、ストレージ90に記憶されている動画データ(平面動画、広視野動画)を取得する。
【0364】
S536:画面生成部52は、処理S535で取得された動画データ、及び処理S533で読み出された「部分平面動画の共有情報」及び「部分広視野動画の共有情報」を用いて、
図50に示すような共有再生モードの画面を作成する。この場合、画面生成部52は、ストレージ90から取得した平面動画のうち、処理S533で読み出された「部分平面動画の共有情報」で示される「再生経過期間」の部分動画を切り出して、共有再生モードの画面を作成する。また、画面生成部52は、ストレージ90から取得した広視野動画のうち、処理S533で読み出された「部分平面動画の共有情報」で示される「視点情報」で特定される所定領域(
図10参照)の所定領域であって「再生経過期間」の部分動画を切り出して、
図50に示すような共有再生モードの画面を作成する。
【0365】
この場合の画面には、動画651,652,653及びこれらの各動画651,652,653の下に部分平面動画の共有情報(ここでは、閲覧者ID、再生経過期間)又は部分広視野動画の共有情報(ここでは、閲覧者ID、再生経過時間(処理S431の時間)と再生経過時間(処理S434の時間))が表示されている。ここでは、閲覧者IDが示されているが、静止画共有情報記憶部5005で、閲覧者名が管理されている等の場合には、画面生成部52は、閲覧者IDに替えて又は加えて、閲覧者名を表示させる画面を生成してもよい。また、画面生成部52が生成する画面は、共有再生モードの表示領域630内全体であっても良いし、共有再生モードの表示領域630内の各ボタン640,650,660を除く表示領域であっても良いし、
図50に示す全体であっても良い。
【0366】
S537:通信部51は、画面生成部52によって生成された画面データを、部分動画要求の送信元の通信端末30に送信する。なお、通信部51は、画面生成部52によって生成された画面データを、部分動画要求の送信元の通信端末30と同じ仮想ルームに参加している他の一部又は他の全部の通信端末に送信してもよい。
【0367】
S538:通信端末30では、表示制御部33が、
図50に示すような画面を表示させる。なお、通信端末30が主催者の通信端末30Aの場合のみ、「再生同期」ボタン618、及び「各閲覧履歴記録」ボタン619が表示される。
【0368】
(高注目部分動画再生)
図51及び
図52を用いて、主催者以外の閲覧者が閲覧している動画部分のうち、主催者以外の通信端末30で所定数よりも多く閲覧された部分動画(高注目部分動画)を再生する処理を説明する。
図51は、閲覧者が高注目部分動画を再生する処理を示すシーケンス図である。
図52は、高注目部分動画を再生した画面を示す図である。なお、以下では、所定数よりも多く閲覧された部分動画である一例として、最も多く閲覧された部分動画について説明するが、2番目以降に多く閲覧された部分動画であってもよい。
【0369】
S551:通信端末30の受付部32は、任意の閲覧者から「高注目部分動画再生」ボタン660の押下を受け付ける。
【0370】
S552:通信端末30の通信部31は、情報処理システム50に対して、高注目部分動画要求を送信する。これにより、情報処理システム50の通信部51は、高注目部分動画要求を受信する。
【0371】
S553:情報処理システム50では、記憶・読出部59が部分平面動画の共有情報記憶部5006(
図19参照)を検索することで、ここでは仮想ルーム(2021年10月12日 A工事現場)の仮想ルームIDに関連付けて記憶されている部分平面動画の共有情報を読み出す。同様に、記憶・読出部59が部分広視野動画の共有情報記憶部5007(
図20参照)を検索することで、ここでは仮想ルーム(2021年10月12日 A工事現場)の仮想ルームIDに関連付けて記憶されている部分広視野動画の共有情報を読み出す。但し、記憶・読出部59は、注目フラグ「1」が付されている部分平面動画の共有情報及び部分広視野動画の共有情報に絞り込んで読み出す。更に、記憶・読出部59が、読み出した「部分平面動画の共有情報」及び「部分広視野動画の共有情報」に含まれる画像データIDに基づいて、画像管理情報記憶部5001(
図14参照)を検索することで、対応する画像データの保存場所情報としてのURLを読み出す。
【0372】
S554,S555:通信部51は、処理S533で読み出されたURLに対してアクセスし、ストレージ90に記憶されている動画データ(平面動画、広視野動画)を取得する。
【0373】
S556:部分動画特定部61は、各閲覧履歴(注目フラグ「1」が付された部分平面動画の共有情報、注目フラグ「1」が付された部分広視野動画の共有情報)に基づいて、主催者の通信端末30A以外の他の各表示端末30B,30C,30Dで所定数よりも多く閲覧された動画における時間的な部分動画を特定する。例えば、通信端末30B,30C,30Dのうち、通信端末30Bと通信端末30Cで、
図42に示すように同じ画像を拡大して閲覧していた場合には、全体の2/3の通信端末30で閲覧していたため、高注目部分動画と特定される。
【0374】
S557:画面生成部52は、処理S556で特定された部分動画の動画データ、及び処理S553で読み出された「部分平面動画の共有情報」又は「部分広視野動画の共有情報」を用いて、
図52に示すような共有再生モードの画面を作成する。この場合、画面生成部52は、ストレージ90から取得した平面動画のうち、処理S556で特定された部分動画を切り出して、共有再生モードの画面を作成する。また、画面生成部52は、ストレージ90から取得した広視野動画のうち、処理S556で特定された所定領域(
図10参照)の部分動画を切り出して、
図52に示すような共有再生モードの画面を作成する。
【0375】
この場合の画面には、動画661及び動画661の下に、高い注目の部分動画である旨の表示、及び部分平面動画の共有情報(ここでは、再生経過期間)又は部分広視野動画の共有情報(ここでは、再生経過時間(処理S431の時間)と再生経過時間(処理S434の時間))が表示されている。ここでは、閲覧者IDが示されているが、静止画共有情報記憶部5005で、閲覧者名が管理されている等の場合には、画面生成部52は、閲覧者IDに替えて又は加えて、閲覧者名を表示させる画面を生成してもよい。また、画面生成部52が生成する画面は、共有再生モードの表示領域630内全体であっても良いし、共有再生モードの表示領域630内の各ボタン640,650,660を除く表示領域であってもよいし、
図52に示す全体であってもよい。
【0376】
S558:通信部51は、画面生成部52によって生成された画面データを、高注目部分動画要求の送信元の通信端末30に送信する。なお、通信部51は、画面生成部52によって生成された画面データを、高注目部分動画要求の送信元の通信端末30と同じ仮想ルームに参加している他の一部又は他の全部の通信端末に送信してもよい。
【0377】
S559:通信端末30では、表示制御部33が、
図50に示すような画面を表示させる。なお、通信端末30が主催者の通信端末30Aの場合のみ、「再生同期」ボタン618、及び「各閲覧履歴記録」ボタン619が表示される。
【0378】
<遠隔医療における通信システムの適用例>
図53は、通信システムが遠隔医療に適用された遠隔コミュニケーションの一例を説明する図である。
図54は、遠隔医療の場合において仮想ルームに撮像装置を対応付けるための仮想ルーム対応付け画面の一例を示す図である。
図55は、任意のユーザが通信端末をストレージに接続させて表示した仮想ルームリスト画面の一例を示す図である。
図56は、各拠点における表示画像のサムネイルを選択するための拠点表示画像選択画面の一例を示す図である。
【0379】
なお、この場合の通信システム1bの説明において、
図53と
図1との相違を説明する。
図53の拠点Aは手術室であるが、(1)~(6)の処理の流れについては
図1と同様でよい。
図53において、患者は手術台355に乗せられ、医師等の医療従事者による手術を受ける。医療従事者(ユーザに相当する)は、鉗子、メスなど各種の術具354を使用して、患者を手術する。また、医療従事者はスマートグラス88を装着でき、医療従事者の術野の画像を通信ネットワークNに送信できる。また、手術室には、術場カメラ351、術野カメラ352、内視鏡353など、各種のカメラが撮像装置10と同様の撮像装置として配置される。また、これらの撮像装置は何れも広視野画像を生成するための画像を撮像する撮像機能を有していてもよい。手術室の全ての撮像装置及びスマートグラス88は仮想ルームと対応付けられる例として説明する。
【0380】
手術室には、患者のバイタル及び医療機器の動作状態等をモニターするメインユニット356が配置される。メインユニット356が本実施形態の通信端末30に相当する。手術室にある通信端末30(メインユニット356)は
図1の機能に加えて、内視鏡353又は術野カメラ352の映像を受信する機能も備えていてもよい。通信端末30は受信した広視野画像を含む映像をディスプレイ306に表示できるし、情報処理システム50に通信端末30の拠点の映像として送信することができる。操作パネル357は各種操作を受け付ける入力インターフェースであって、医療従事者が手術室にある機器を、操作パネル357を介して操作できるようにしてもよい。また、内視鏡353、術場カメラ351及び術野カメラ352は通信端末30を介さずに直接、情報処理システム50と通信してもよい。このように、複数の撮像装置10を同じ仮想ルームに対応付けることができるため、遠隔拠点のユーザは拠点Aの現場の様々なシーンを切り取った広視野画像の録画を要求することができる。例えば、患者の体内を撮像した映像を録画したい場合には内視鏡353に対応する撮像装置の映像に対して録画要求を送信し、手術室全体の状況を録画したい場合には術場カメラ351に対応する撮像装置の映像に対して録画要求を送信することができる。
【0381】
また、通信端末30は電子カルテシステムの機能を備えていてもよいし、電子カルテシステムと通信する機能を備えていてもよい。通信端末30はディスプレイ306に電子カルテの情報を表示してもよい。また、ストレージ90が電子カルテシステムであってもよい。このような場合に、録画要求に応じて録画した広視野画像(及び関連付けられた視点情報)の録画データは、関連付け処理部53によって患者の電子カルテと関連付けて保存されてもよい。また、ストレージ90の保存場所が示すフォルダは、患者又は手術ごとに分類されていてもよい。また、仮想ルーム情報記憶部5002には、患者又は手術内容を示す情報が関連付けて記憶されていてもよい。このようにすることで、通信端末30の閲覧画面に常に患者又は手術に関する情報を表示し続けることができる。
【0382】
図54は、遠隔医療の場合において仮想ルームに撮像装置を対応付けるための仮想ルーム対応付け画面860の一例を示す図である。
図54の説明では主に
図26との相違を説明する。
【0383】
遠隔医療の場合、仮想ルーム対応付け画面860には、例えば遠隔で行われる手術又は診察に関連付けられた仮想ルーム861の一覧が表示される。拠点Aには全天球カメラである撮像装置10を含む医療用カメラが対応付けられる。医療用カメラは、内視鏡(T111)、手術室内で術野撮像に用いる術場カメラ、顕微鏡画像を撮像するカメラ等を含む。
【0384】
このように、医療現場の場合、複数のカメラが使用されるため、
図54に示すように、複数の手術のうちのいずれかを選択するだけでなく、各手術で使用された複数のカメラ(T111,T222,T333,T444)のうちの特定のカメラを選択するためのボタンが表示されている。
【0385】
また、
図40に対応する
図55の仮想ルームリスト画面800には、ログインユーザ名603、分類一覧604A~604Cが表示される。
【0386】
また、
図41に対応する
図56の拠点表示画像選択画面810では、
図41のサムネイル621~624に対応するサムネイル821~824が表示されている。また、
図41の「再生同期」ボタン618及び「各閲覧履歴記録」ボタン619に対応する「再生同期」ボタン818及び「各閲覧履歴記録」ボタン819が表示されている。
【0387】
<実施形態の主な効果>
以上説明したように本実施形態によれば、複数のユーザが同じタイミングで、既に録画された動画を再生して閲覧する場合、複数のユーザのうちの任意のユーザが、同じ動画を閲覧している複数のユーザのうちの他のユーザにより、その動画のどの時間的な部分動画が注目されているかを把握することができるという効果を奏する。
【0388】
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
【0389】
例えば、
図13などの構成例は、情報処理システム50、撮像装置10、及び、通信端末30による処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方又は名称によって本願発明が制限されることはない。情報処理システム50、撮像装置10、通信端末30の処理は、処理内容に応じてさらに多くの処理単位に分割することもできる。また、1つの処理単位がさらに多くの処理を含むように分割することもできる。
【0390】
上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサ、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)、又は従来の回路モジュール等のデバイスを含むものとする。
【0391】
また、上述の装置群は、本明細書に開示された実施形態を実施するための複数のコンピューティング環境のうちの1つを示すものにすぎない。ある実施形態では、情報処理システム50は、サーバクラスタといった複数のコンピューティングデバイスを含む。複数のコンピューティングデバイスは、ネットワーク、共有メモリなどを含む任意のタイプの通信リンクを介して互いに通信するように構成されており、本明細書に開示された処理を実施する。
【0392】
さらに、情報処理システム50は、開示された処理ステップ、例えば
図30,
図31,
図32,
図38等を様々な組み合わせで共有するように構成できる。例えば、所定のユニットによって実行されるプロセスは、情報処理システム50が有する複数の情報処理装置によって実行され得る。また、情報処理システム50は、1つのサーバ装置にまとめられていても良いし、複数の装置に分けられていても良い。
【0393】
上記各プログラムは、(非一時的な)記録媒体に記録して提供することも、通信ネットワーク100を介して提供することも可能である。
【符号の説明】
【0394】
1a、1b 通信システム
10 撮像装置
30 通信端末(録画後に再生表示する場合は「表示端末」ともいう)
31 通信部(送信部の一例、受信部の一例)
32 受付部
33 表示制御部
50 情報処理システム
51 通信部(受信部の一例、送信部の一例)
52 画面生成部
61 部分動画特定部
306 ディスプレイ(表示部の一例)
【先行技術文献】
【特許文献】
【0395】