(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024033277
(43)【公開日】2024-03-13
(54)【発明の名称】通信システム、情報処理システム、映像再生方法、プログラム
(51)【国際特許分類】
H04N 21/231 20110101AFI20240306BHJP
H04N 21/2187 20110101ALI20240306BHJP
H04N 21/234 20110101ALI20240306BHJP
H04N 5/92 20060101ALI20240306BHJP
【FI】
H04N21/231
H04N21/2187
H04N21/234
H04N5/92 010
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2022136775
(22)【出願日】2022-08-30
(71)【出願人】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100107515
【弁理士】
【氏名又は名称】廣田 浩一
(72)【発明者】
【氏名】横山 和也
(72)【発明者】
【氏名】日野原 寛
(72)【発明者】
【氏名】本間 毅史
(72)【発明者】
【氏名】齊藤 大輔
【テーマコード(参考)】
5C053
5C164
【Fターム(参考)】
5C053GB06
5C053JA21
5C053LA01
5C053LA04
5C053LA06
5C053LA11
5C053LA14
5C164FA07
5C164SA26P
5C164SB01P
5C164SB21S
5C164SB36P
5C164UD44S
(57)【要約】
【課題】閲覧者が記録映像を表示させた視点情報を使用して追従視点情報を作成する技術を提供すること。
【解決手段】本発明は、広範囲の視野角を有する広視野画像を撮像可能な撮像装置と、該撮像装置が撮像した広視野画像を含む映像を通信端末に送信する情報処理システムとを備える通信システムであって、前記情報処理システムは、前記通信端末で閲覧者が前記広視野画像を表示させた視点情報と対応付けて前記広視野画像の記録映像を保存する記録部と、前記視点情報に基づいて前記記録映像から追従対象物を抽出する抽出部と、前記抽出部が抽出した前記追従対象物を追従する追従視点情報を作成する追従映像作成部と、前記追従視点情報を用いて再生される前記記録映像を前記通信端末に提供する提供部と、を有する。
【選択図】
図32
【特許請求の範囲】
【請求項1】
広範囲の視野角を有する広視野画像を撮像可能な撮像装置と、該撮像装置が撮像した広視野画像を含む映像を通信端末に送信する情報処理システムとを備える通信システムであって、
前記情報処理システムは、
前記通信端末で閲覧者が前記広視野画像を表示させた視点情報と対応付けて前記広視野画像の記録映像を保存する記録部と、
前記視点情報に基づいて前記記録映像から追従対象物を抽出する抽出部と、
前記抽出部が抽出した前記追従対象物を追従する追従視点情報を作成する追従映像作成部と、
前記追従視点情報を用いて再生される前記記録映像を前記通信端末に提供する提供部と、
を有する通信システム。
【請求項2】
前記抽出部は、前記視点情報により表示されている時間が所定時間以上の対象物を前記追従対象物に決定する請求項1に記載の通信システム。
【請求項3】
前記抽出部は、前記記録映像から画像認識により複数の対象物を検出し、前記複数の対象物のそれぞれについて、表示されている時間を前記視点情報により測定し、
前記表示されている時間が所定時間以上の前記対象物の候補を前記通信端末に送信し、前記通信端末から前記追従対象物の指定を受信する第一の通信部を有し、
前記追従映像作成部は、前記通信端末から指定された前記追従対象物を追従する前記追従視点情報を作成する請求項1又は2に記載の通信システム。
【請求項4】
前記情報処理システムと通信可能な通信端末を有し、
前記通信端末は、
前記抽出部が抽出した前記対象物の候補を、前記表示されている時間が長い順に表示する表示制御部と、
前記対象物の候補の選択を受け付ける受付部と、
前記受付部が受け付けた前記対象物の候補を前記情報処理システムに送信する第二の通信部と、
を有する請求項3に記載の通信システム。
【請求項5】
前記第一の通信部は、前記追従視点情報が対応付けられた前記記録映像へのリンクの設定欄を有する文書データのひな形を前記通信端末に送信し、
前記第一の通信部は、前記通信端末から前記設定欄に設定する前記記録映像のリストの要求に応じて、前記追従視点情報が対応付けられた前記記録映像のリストを前記通信端末に送信し、
前記通信端末により指定された、前記追従視点情報が対応付けられた前記記録映像へのリンクを前記設定欄に設定する文書作成部を有する請求項3に記載の通信システム。
【請求項6】
前記提供部は、前記追従視点情報が対応付けられた前記記録映像へのリンクが前記設定欄に設定された前記文書データを前記通信端末に提供し、
前記第一の通信部が前記通信端末から前記リンクが押下された旨を受信した場合、前記提供部は、前記リンクにより特定される前記追従視点情報を用いて再生される前記記録映像を前記通信端末に提供する請求項5に記載の通信システム。
【請求項7】
前記通信端末は、
前記追従視点情報を用いて前記記録映像を再生する請求項1に記載の通信システム。
【請求項8】
広範囲の視野角を有する広視野画像を撮像可能な撮像装置が撮像した広視野画像を含む映像を通信端末に送信する情報処理システムであって、
前記通信端末で前記広視野画像が表示された視点情報と対応付けて前記広視野画像の記録映像を保存する記録部と、
前記視点情報に基づいて前記記録映像から追従対象物を抽出する抽出部と、
前記抽出部が抽出した前記追従対象物を追従する追従視点情報を作成する追従映像作成部と、
前記追従視点情報を用いて再生される前記記録映像を前記通信端末に提供する提供部と、
を有する情報処理システム。
【請求項9】
広範囲の視野角を有する広視野画像を撮像可能な撮像装置と、該撮像装置が撮像した広視野画像を含む映像を通信端末に送信する情報処理システムとを備えた通信システムが行う映像再生方法であって、
前記情報処理システムは、
前記通信端末で閲覧者が前記広視野画像を表示させた視点情報と対応付けて前記広視野画像の記録映像を保存するステップと、
前記視点情報に基づいて前記記録映像から追従対象物を抽出するステップと、
抽出された前記追従対象物を追従する追従視点情報を作成するステップと、
前記追従視点情報を用いて再生される前記記録映像を前記通信端末に提供するステップと、
を有する映像再生方法。
【請求項10】
広範囲の視野角を有する広視野画像を撮像可能な撮像装置が撮像した広視野画像を含む映像を通信端末に送信する情報処理システムを、
前記通信端末で閲覧者が前記広視野画像を表示させた視点情報と対応付けて前記広視野画像の記録映像を保存する記録部と、
前記視点情報に基づいて前記記録映像から追従対象物を抽出する抽出部と、
前記抽出部が抽出した前記追従対象物を追従する追従視点情報を作成する追従映像作成部と、
前記追従視点情報を用いて再生される前記記録映像を前記通信端末に提供する提供部、
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、通信システム、情報処理システム、映像再生方法、及びプログラムに関する。
【背景技術】
【0002】
一方の拠点から1つ以上の他の拠点にリアルタイムに画像や音声を送信し、遠隔地にいるユーザー同士で画像や音声を用いた遠隔コミュニケーションを行う通信システムが知られている。この画像として、通常の画角では確認しきれないような箇所も含む撮像範囲として例えば360度の全周囲が撮像された360度画像(全天球画像、全方位画像、全周囲画像ともいう)を含む広い撮像範囲で撮像された広い視野角を有する広視野の画像が知られている。ユーザーは通信端末を操作して通信端末の表示画面に表示された広視野画像の一部の画像を任意の仮想的な視点から見たり、動画として記録映像を保存したりすることができる。
【0003】
複数の拠点で広視野の画像を共有する技術が知られている(例えば、特許文献1参照。)。特許文献1には、複数の拠点で表示領域を共有し、操作状態が操作中から待機中に遷移した通信端末が、所定領域画像に切り替えて追従表示を行う技術が開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の技術では、閲覧者が記録映像を表示させた視点情報が対象物を追従する追従視点の作成に使用されていないという問題がある。広視野画像には種々の対象物が写っており、各対象物を追従する映像を作成することができても、追従するメリットが低い映像が作成されるおそれがあった。
【0005】
本発明は、上記課題に鑑み、閲覧者が記録映像を表示させた視点情報を使用して追従視点情報を作成する通信システムを提供することを目的とする。
【課題を解決するための手段】
【0006】
上記課題に鑑み、本発明は、広範囲の視野角を有する広視野画像を撮像可能な撮像装置と、該撮像装置が撮像した広視野画像を含む映像を通信端末に送信する情報処理システムとを備える通信システムであって、
前記情報処理システムは、前記通信端末で前記広視野画像が表示された視点情報と対応付けて前記広視野画像の記録映像を保存する記録部と、前記視点情報に基づいて前記記録映像から追従対象物を抽出する抽出部と、前記抽出部が抽出した前記追従対象物を追従する追従視点情報を作成する追従映像作成部と、前記追従視点情報を用いて再生される前記記録映像を前記通信端末に提供する提供部と、を有する。
【発明の効果】
【0007】
閲覧者が記録映像を表示させた視点情報を使用して追従視点情報を作成する技術を提供できる。
【図面の簡単な説明】
【0008】
【
図1】広視野画像を用いた遠隔コミュニケーションの一例を説明する図である。
【
図3】撮像装置のハードウエア構成図の一例である。
【
図4】通信端末、情報処理システムのハードウエア構成図の一例である。
【
図5】(a)は撮像装置の左側面図であり、(b)は撮像装置の正面図であり、(c)は撮像装置の平面図である。
【
図7】(a)は撮像装置で撮像された半球画像(前)、(b)は撮像装置で撮像された半球画像(後)、(c)は正距円筒図法により表された画像を示した図である。
【
図8】(a)正距円筒射影画像で球を被う状態を示した概念図、(b)全天球画像を示した図である。
【
図9】全天球画像を三次元の立体球とした場合の仮想カメラ及び所定領域の位置を示した図である。
【
図10】(a)は
図5の立体斜視図、(b)はディスプレイに所定領域の画像が表示されている状態を示す図である。
【
図11】所定領域情報と所定領域Tの画像との関係を示した図である。
【
図12】球座標による三次元ユークリッド空間内の点を示した図である。
【
図14】画像管理情報記憶部に記憶される画像管理情報を示す概念図である。
【
図15】仮想ルーム情報記憶部に記憶される仮想ルーム情報及びテナント情報記憶部に記憶されるテナント情報を示す概念図である。
【
図16】記録映像記憶部に記憶される記録映像情報を示す概念図の一例である。
【
図17】追従視点付き記録映像情報を示す概念図の一例である。
【
図18】報告書記憶部に記憶される報告書の項目を示す概念図の一例である。
【
図19】(a)は入室画面の一例を示す図である。(b)はユーザーが仮想ルームに入室したことで、通信端末が表示する画像閲覧画面の一例を示す図である。
【
図20】ユーザー(又は通信端末)が仮想ルームに入室する処理を説明するシーケンス図の一例である。
【
図21】通信端末が表示するデバイス登録画面の一例を示す図である。
【
図22】(a)は、撮像装置登録ダイアログを示す図の一例である。(b)は、二次元コード画面の一例を示す図である。
【
図23】VRゴーグル登録ボタンが押下された場合に表示されるVRゴーグル登録画面の一例を示す図である。
【
図24】仮想ルームに撮像装置を対応付けるための仮想ルーム対応付け画面(その1)の一例を示す図である。
【
図25】仮想ルーム対応付け画面(その2)の一例を示す図である。
【
図26】仮想ルーム対応付け画面(その3)の一例を示す図である。
【
図27】通信端末が表示する広視野画像送信開始停止ダイアログの一例を示す図である。
【
図28】ユーザーが仮想ルームに撮像装置を登録する手順を示すシーケンス図の一例である。
【
図29】広視野画像が共有される流れを説明するシーケンス図の一例である。
【
図30】通信端末が遠隔コミュニケーション中に記録映像を録画するシーケンス図の一例である。
【
図31】情報処理システムが、視点移動情報を用いて追従視点付き記録映像を作成する処理を説明するシーケンス図の一例である。
【
図32】追従視点の作成時に通信端末のWebアプリが表示する記録映像選択画面と追従対象物選択画面の一例を示す図である。
【
図33】記録映像を用いた報告書をユーザーが作成する処理を説明するシーケンス図の一例である。
【
図34】通信端末が表示する報告書作成画面の一例を示す図である。
【
図35】ユーザーが報告書を閲覧する処理を説明するシーケンス図の一例である。
【
図36】通信端末が表示する報告書画面の一例を示す図である。
【
図37】通信システムが遠隔医療に適用された遠隔コミュニケーションの一例を説明する図である。
【
図38】医療現場を撮像した記録映像について追従視点の作成時に通信端末のWebアプリが表示する記録映像選択画面と追従対象物選択画面の一例を示す図である。
【発明を実施するための形態】
【0009】
以下、本発明を実施するための形態の一例として、情報処理システムと情報処理システムが行う映像再生方法について説明する。
【0010】
<遠隔コミュニケーションの一例>
図1は、広視野画像を用いた遠隔コミュニケーションの一例を説明する図である。
図1では、3つの拠点A~Cが情報処理システム50を介して通信している。拠点の数は一例に過ぎず、2拠点でも、4拠点以上でもよい。
【0011】
拠点Aは一例として、工事現場である。拠点B,Cはどこでもよいが、例えばオフィス等、広視野画像を通信可能な場所であればよい。拠点Aには、例えば全天球画像と言われる広視野画像や、上下方向又は水平方向に180~360度といった周囲の広角な広視野画像を撮像可能な撮像装置10が配置されている。以下ではこのような広角な画像を単に広視野画像という。拠点A~Cには広視野画像を閲覧する各種の通信端末30A~30Cが配置されている。なお、以下では、通信端末30A~30Cのうち任意の通信端末を「通信端末30」と称する。
【0012】
工事現場は、各場所で様々な工事が作業員により進められており、広視野画像によりその全体を撮像しつつ、着目したい工事や作業があれば各拠点A~Cのユーザーが仮想的な視点を任意に変えて確認できる。視点とは、広視野画像全体のうちディスプレイ等の表示画面に表示される所定領域の中心位置又は範囲である。
【0013】
撮像装置10は三脚86に取り付けられたり、ジンバル87を介してアーム85に取り付けられたりする。工事現場には中継装置(
図1では通信端末30Aが中継装置を兼ねている)が設置されており、通信端末30Aが有線又は無線で撮像装置10から受信した広視野画像を、情報処理システム50に送信する。通信端末30Aは、広視野画像の閲覧用の端末にもなり得る。通信端末30Aにカメラ9が接続されており(内蔵していてもよい)、カメラ9が撮像した通常の画角の画像(全天球画像を撮像できてもよい)も情報処理システム50に送信可能である。また、ユーザーA(例えば作業員でもよい)はスマートグラス88を装着でき、スマートグラス88が撮像する通常の画角の画像(全天球画像を撮像できてもよい)が情報処理システム50に送信される場合がある。スマートグラス88とは、視野を確保しながら、インターネット経由で取得した情報をディスプレイに表示する情報端末である。スマートグラス88は任意の拠点に配置されていてよい。
【0014】
拠点Bには通信端末30Bの一例としてPC(Personal Computer)やスマートフォン等が配置されている。また、通信端末30Bは情報処理システム50と通信できる装置であればよく、これらの他、タブレット端末、PDA(Personal Digital Assistant)、電子黒板、プロジェクタ等でもよい。通信端末30Bにカメラが内蔵又は接続されていてもよい。
【0015】
拠点Cには通信端末30Cの一例としてPC、スマートフォン、VRゴーグル89等が配置され、
図1では、通信端末30Cにカメラ8が内蔵又は接続されている。VRゴーグル89とは、コンピュータ上の人工的な世界や全天球画像を、首や身体を動かした方向に合わせて表示する情報端末である。カメラ8は広角用でも通常画角用でもよい。また、通信端末30Cは情報処理システム50と通信できる装置であればよく、タブレット端末、PDA、電子黒板、プロジェクタ等でもよい。VRゴーグル89は任意の拠点に配置されていてよい。
【0016】
本実施形態では、撮像装置10、及び、通信端末30が仮想ルームという通信グループで管理される。撮像装置10は仮想ルームに対応付けられており、通信端末30(通信端末30を操作するユーザー)はこの仮想ルームに入室することで、撮像装置10が送信する広視野画像を受信し、ユーザーが広視野画像を閲覧できる。スマートグラス88やVRゴーグル89も仮想ルームに対応付けることが可能である。カメラ8,9は、通信端末30と一体に仮想ルームに入室する。
【0017】
拠点A~CのユーザーA~Cは任意に広視野画像の視点を変更できる。このため、リアルタイムに広視野画像を閲覧する各ユーザーA~Cはそれぞれ異なる視点を見ている可能性が生じて、意思の疎通が困難になるおそれがある。そこで、本実施形態では、例えば拠点Bの通信端末30の視点を他の拠点A、Cに通信端末30に送信するなどして、任意の拠点の通信端末30において設定されている仮想的な視点の情報を他の拠点の通信端末30でも共有できるようにする。共有の概略を説明する。以下では、説明のため、拠点Bのユーザーが指定した視点を拠点A、Cのユーザーに共有するものとする。
【0018】
(1) 通信端末30A~30Cは撮像装置10が撮像する広視野画像(第一の広視野画像の一例)を共有している。ユーザーBが通信端末30Bで任意の視点で閲覧した状態で広視野画像の撮像を要求すると、通信端末30B(第一の通信端末の一例)が視点情報と撮像要求を情報処理システム50に送信する。
【0019】
(2) 情報処理システム50は撮像要求に応じて、視点情報を指定して撮像装置10に撮像(静止画でも動画でもよい)を要求する。
【0020】
(3) 撮像装置10は撮像要求に応じて撮像し、広視野画像(第二の広視野画像の一例)と視点情報を情報処理システム50から通知されたURL(保存先情報の一例。
図1では、ストレージ90上の保存場所を示す。)に関連付けて保存する。ストレージ90に保存された広視野画像は任意の通信端末30がダウンロードして表示可能である。
【0021】
(4) 情報処理システム50はURLを通信端末30Bに送信する。
【0022】
(5)また、情報処理システム50は、自動で又はユーザーBの要求に応じて、URLを同じ仮想ルームに入室中の通信端末30A、30C(第二の通信端末の一例)に送信する。
【0023】
(6) 通信端末30A、30CはURLに接続して視点情報と広視野画像を受信し、視点情報で特定される広視野画像の視点を画像欄の中央に一致させるように設定して表示する。なお、視点を完全に中央に一致させる必要はなく、視点を画像欄の中央近傍の範囲に含まれるように設定して表示させてもよい。
【0024】
拠点Aのユーザーの視点を拠点B、Cのユーザーに共有する場合、拠点Cのユーザーの視点を拠点A、Bのユーザーに共有する場合も同様である。
【0025】
以上のように、本実施形態の通信システム1は、広視野画像が配信された場合でも、各拠点で着目していた所定領域が表示されるように撮像された広視野画像に対する視点の移動を指示しなくとも、視点情報が共有されるので、ユーザーの意思疎通が容易になる。
【0026】
(3)で撮像装置10が広視野画像そのものを情報処理システム50に送信し、(4)で情報処理システム50が広視野画像を通信端末30A~30Cに送信することもできる。
【0027】
なお、
図1では、工事現場に撮像装置10が配置される例を説明したが、VR(Virtual Reality)教育、イベント配信、リモート接客、遠隔医療等にも本実施形態を適用可能である。VR教育では、撮像装置10が研究室等の現場の拠点に配置され、遠隔拠点から学生が任意に視点を変えて黒板、器具、サンプル、実験結果等を閲覧できる。イベント配信では、撮像装置10が現場のイベントの開催場所に配置され、遠隔拠点から観客等のイベント参加者がオンラインで任意に視点を変えて開催場所の様子を閲覧できる。なお、開催場所の様子は演者、出場者、発表者、イベントで説明される製品や展示物などの被写体の映像、イベントで説明される資料の映像、開催場所の状態の映像等を含む。なお、イベントの開催場所は屋内であっても屋外であってもよく、スポーツ、コンサート、演劇等の会場も含まれる。リモート接客では、例えば旅行代理店の接客に適用する場合には、撮像装置10が現場の旅先に配置され、遠隔拠点から顧客が任意に視点を変えて旅程を検討できる。遠隔医療では、撮像装置10が手術室等の医療現場に配置され、遠隔拠点から医師、学生、医療機器の関係者等が任意に視点を変えて医療現場で医療行為を行っている医師の動作、看護師の動作、器具の配置、患者の状態、バイタル等を閲覧できる。
【0028】
画像が撮像される拠点は、これらに限られず、学校、工場、倉庫、建設現場、サーバルーム又は店舗等、閲覧側の拠点のユーザー(閲覧者)が遠隔拠点の現場の状況を把握したいニーズが存在する空間であればよい。
【0029】
<用語について>
テナントとは、サービスの提供者(本実施形態では情報処理システム)から画像配信サービスを受けることを契約する際の契約単位に紐づくユーザーのグループを示しており、契約した企業、組織、個人等である。そのため、テナントは、ユーザーグループとも言い換えることができる。ユーザーは一例としてテナントに所属しているが、ユーザー個人でサービスに加入してもよい。テナント(ユーザーグループ)には、ユーザーの他、撮像装置、仮想ルーム等が登録されている。
【0030】
拠点とは、活動のよりどころとする場所をいう。本実施形態では、拠点の例として会議室を例にする。会議室は、主に会議に使用することを目的に設置された部屋のことである。会議は、会合、ミーティング、打ち合わせ、集会、寄り合い、集まり等ともいう。
【0031】
デバイスとは、PCやスマートフォン等の汎用的な通信端末30でない装置をいい、撮像装置、又は、広視野画像の閲覧装置である。本実施形態では、撮像装置10、スマートグラス88、及び、VRゴーグル89が挙げられる。
【0032】
視点情報とは、ディスプレイの表示画面に表示する広視野画像のどの所定領域をディスプレイの表示画面に表示するかを特定するパラメータ情報である。本実施形態ではディスプレイの表示画面に表示される広視野画像の中心に対応する動径、極角、方位角を視点情報の一例として説明するが、対角頂点の座標など他のパラメータ情報で特定されてもよい。
【0033】
・広視野画像
360度の全周囲が撮像された360度画像(全天球画像、全方位画像、全周囲画像ともいう)を含む広い撮像範囲で撮像された広い視野角を有する画像である。広視野画像は、所定の表示方法においてディスプレイの表示画面(広視野画像が表示される領域)に一度に表示できる表示範囲より広い広範囲の視野角を有する画像を意味する。広視野画像は、最大で上下方向360度(又は180度)、左右方向360度の視野分の表示範囲を持つが、上下360度未満、左右360度未満であってもディスプレイに一度に表示できる表示範囲より広い広範囲の視野角を有する画像であれば広視野画像に含まれる。例えば、人間が一度に視認できる範囲よりも広い表示範囲を有している画像も広視野画像に含まれる。また、上下方向及び左右方向についてそれぞれ、160度以上の視野分の表示範囲を有している画像も広視野画像に含まれる。なお、表示方法によってはディスプレイの表示画面に一度に表示できる画像であっても、所定の表示方法に切り替えたり、変更したりすることによって、広範囲の視野角を有するのであれば広視野画像に含まれる。なお、本実施形態では、広視野画像の一例としてエクイレクタングラー(equirectangular)形式の全天球画像を例に説明するが、全方位画像、半球画像、3Dパノラマ画像、2Dパノラマ画像、VR(Virtual Reality)画像も広視野画像に含まれる。広視野画像は、例えばキューブマッピング形式、ドームマスター形式等の画像であってもよい。また、全天球画像はエクイレクタングラー(equirectangular)形式以外の形式であってもよい。
【0034】
通常の画角で撮像された画像は、広視野画像でない画像であるが、本実施形態では、広視野画像でない画像(平面画像)として説明する。
【0035】
通信グループとは、広視野画像が共有される(配信される)ユーザーの集まりである。通常の空間では、各ユーザーが同じ部屋に入室した場合に各ユーザーにより広視野画像が共有可能となるという意味で、通信グループを仮想的な部屋(仮想ルーム)という用語で説明する。ここでの仮想とはネットワークを介した情報処理で実現されるという意味である。
【0036】
各拠点のユーザーは遠隔地同士で遠隔コミュニケーションを行う。遠隔コミュニケーションは物理的に離れたところにいる相手と、ITツールを活用することによって画像や音声を通じた意思疎通を図ることを言う。必ずしも双方向通信である必要はない。したがって、仮想ルームを仮想会議室と称してもよい。
【0037】
・VR教育、リモート接客
VR教育は、眼前に非現実の空間をもたらし、リアルさで見るものを没入させるVR(Virtual Reality)を活用して子供達の関心を引き、理解を深めるための教育ツールをいう。
リモート接客は、タブレットやディスプレイ越しに、ビデオ会議を利用して遠隔地にいるスタッフがユーザーに対して商品案内を行う接客をいう。
【0038】
視点情報及び追従視点情報は、広視野画像を動画として表示する際の視点が動画の録画時間に対応付けられた情報である。視点情報は、閲覧者が手動で変更した始点であり、追従視点情報は、追従対象物を自動で追従する視点が動画の録画時間に対応付けられた情報である。
【0039】
追従対象物は有体物でも無体物でもよく、少なくとも一時的に広視野画像に写っている(可視できる)形状を有すればよい。追従対象物は、記録映像の最初から最後まで広視野画像の一部に常に写っていることまでは必要ない。記録映像の一部の時間で継続して写っていれば、追従映像作成部64は追従可能である。
【0040】
追従視点情報を用いて記録映像を再生するとは、追従視点情報が有する時刻と視点の対応に基づいて、広視野画像の一部である所定領域を表示することをいう。追従視点情報を用いた記録映像の再生は、サーバ側で行われても任意の端末装置側で行われてもよい。
【0041】
追従とは、後に付き従うことであるが、本実施形態では、広視野画像のある対象物を所定領域に表示できるように視点を自動で変更することをいう。
<通信システムの構成例>
図2は、通信システム1の構成概略図の一例である。
図1は、
図2の通信システム1を現場との遠隔コミュニケーションに適用した一例である。通信システム1は、複数の拠点間において、撮像装置10が撮像した広視野画像や通常画角の画像を双方向に送受信するシステムであり、ある拠点から配信される画像を、他の拠点において表示させることで、他の拠点のユーザーが画像を閲覧できるシステムである。なお、広視野画像の一例として、撮像装置10が撮像する全天球画像が配信される。通信システム1は、例えば、所定の一拠点で撮像された広視野画像を、遠隔地にある他の拠点において閲覧させることができる。
【0042】
図2に示されているように、通信システム1では、拠点Aに配置された撮像装置10、通信端末30A、情報処理システム50、及び複数の拠点(拠点B,C)のそれぞれに配置された通信端末30B,30Cが通信可能に接続されている。
【0043】
撮像装置10が直接、通信ネットワークNに接続できる通信機能を有している場合、中継装置(例えばルーター等)としての通信端末30Aは不要である。この場合、通信端末30Aは、撮像装置10を伴わずに通信ネットワークNに接続される。しかし、拠点Aに通信端末30Aが配置される場合、通信端末30Aが中継装置を兼ね、通信端末30B,30Cと同様にユーザーAが広視野画像を閲覧できる。なお、拠点A以外の拠点に撮像装置10がさらに配置されていてもよいし、拠点Aに複数の撮像装置10が配置されていてもよい。
【0044】
各通信端末30及び情報処理システム50は、通信ネットワークNを介して通信することができる。通信ネットワークNは、インターネット、移動体通信網、LAN(Local Area Network)等によって構築されている。なお、通信ネットワークNには、有線通信だけでなく、3G(3rd Generation)、4G(4th Generation)、5G(5th Generation)、Wi-Fi(Wireless Fidelity)(登録商標)、WiMAX(Worldwide Interoperability for Microwave Access)又はLTE(Long Term Evolution)等の無線通信によるネットワークが含まれてもよい。
【0045】
撮像装置10は、後述するように、被写体や風景等を撮像して元になる二つの半球画像を得ることで、全天球画像を撮像可能なデジタルカメラである。撮像装置10によって得られる広視野画像は、動画であっても静止画であってもよく、動画と静止画の両方であってもよい。また、撮像画像は、画像と共に音声を含む映像であってもよい。
通信端末30は、各拠点のユーザーによって使用されるPC等のコンピュータである。通信端末30は、自拠点で撮像された画像、他の拠点から配信された広視野画像(静止画又は動画)及び通常の画角の画像を表示する。通信端末30は、例えば、通信ネットワークNを介して、撮像装置10によって撮像された広視野画像を取得する。また、通信端末30には、OpenGL ES等の画像処理を実行するソフトウェアがインストールされており、広視野画像の一部の領域を特定する視点情報に基づく画像表示ができる。なお、OpenGL ESは画像処理を実行するソフトウェアの一例であって、他のソフトウェアであってもよい。また、画像処理を実行するソフトウェアをインストールしていなくても、外部から受信したソフトウェアによって画像処理を実行してもよいし、外部のソフトウェアによって実行される画像処理結果を受信することで画像表示を行ってもよい。すなわち、通信端末30は、広視野画像の一部の所定領域を表示可能である。
【0046】
通信端末30はユーザーの操作に応じて広視野画像の表示範囲に対する視点を任意に変更できる。通信端末30は、タッチパネル、方向ボタン、マウス、キーボード、タッチパッドなどに対するユーザー操作入力(キー入力、ドラッグ、スクロール等を含む)に応じて、仮想的な視点を移動させることで、移動後の視点に応じた視点情報に基づいて視野範囲(所定領域)を変更して表示できる。さらに、通信端末30が例えばVRゴーグル等のユーザーが装着する通信端末の場合に、装着したユーザーの動きの変更に応じて変更された通信端末30の姿勢情報を検知し、検知した姿勢情報に応じて、仮想的な視点を移動させることで、移動後の視点に応じた視点情報に基づいて視野範囲(所定領域)を変更して表示してもよい。
【0047】
通信端末30Aは、USB(Universal Serial Bus)ケーブル等の有線ケーブルを介して撮像装置10から取得した広視野画像を、情報処理システム50を介して、他の拠点の通信端末30に配信する。撮像装置10及び通信端末30Aの接続は、有線ケーブルを用いた有線接続ではなく、近距離無線通信等を用いた無線接続であってもよい。拠点Aに複数の通信端末30Aが配置されてもよい。
【0048】
拠点Aのユーザーがスマートグラス88を装着し、スマートグラス88が通信ネットワークに接続する場合もある。この場合、スマートグラス88が撮像した画像は通信ネットワークを介して情報処理システム50に送信され、情報処理システム50が各拠点の通信端末30に配信することができる。
【0049】
通信端末30Bは、ユーザーBが存在する拠点Bに配置されており、通信端末30Cは、ユーザーCが存在する拠点Cに配置されている。拠点B,Cに複数の通信端末30B,30Cが配置されてもよい。なお、通信端末30Bや通信端末30CはユーザーBやユーザーCがそれぞれ持ち歩くことができてもよい。
【0050】
なお、拠点A~Cの通信端末30A~30Cは撮像部としての一例のカメラ8、9を内蔵していたり外付けしたりすることが可能であり、通信端末30A~30Cは、自端末のカメラ8、9等によって自拠点が撮像された画像を他拠点に配信することができる。また、拠点A~Cには任意のデバイスが配置されてよい。
【0051】
図2に示す各端末及び装置(通信端末30及び撮像装置)、並びにユーザーの配置は一例であり、他の例であってもよい。また、通信端末30は、PCに限られず、例えば、タブレット端末、スマートフォン、PDA、ウェアラブル端末(スマートグラスやVRゴーグルを含む)、プロジェクタ、電子黒板(相互通信が可能な電子式の黒板機能を有する白板)又は自律走行ロボット等であってもよい。通信端末30は、Webブラウザ又は画像配信サービスに専用のアプリケーションが動作するコンピュータであればよい。
【0052】
さらに、撮像装置10がディスプレイを有する場合、他の拠点から配信された画像を表示する構成であってもよい。
【0053】
情報処理システム50は、一台以上の情報処理装置を有している。情報処理システム50は、各拠点間の撮像装置10、通信端末30の通信を管理及び制御したり、送受信される広視野画像を管理したりする。情報処理システム50は、広視野画像の配信を行う画像配信サービスを提供するために必要な機能を利用できるプラットフォームを提供する。このプラットフォームを、画像配信サービスを提供したい個人や企業等のサービス提供者が、契約により利用できるようにしてもよい。以下、画像配信サービスを受けるテナントと区別するため、契約したプラットフォームを利用して画像配信サービスをユーザーに提供するサービス提供者をプラットフォーム契約者という。
【0054】
このため、プラットフォームとして情報処理システム50がAPI(Application Programming Interface)を公開し、プラットフォーム契約者がこのAPIを使用して様々な画像配信サービスを提供できるようにしてもよい。プラットフォーム契約者は、主に通信端末30が表示する画面やAPIの呼出しなどを行うアプリケーション等のソフトウェアを開発すればよく、画像配信等のAPIによって提供される機能を一から開発する必要がない。
【0055】
情報処理システム50は、単一のコンピュータによって構築されてもよいし、各部(機能又は手段)を分割して任意に割り当てられた複数のコンピュータによって構築されてもよい。また、情報処理システム50の機能の全て又は一部は、クラウド環境に存在するサーバコンピュータであってもよいし、オンプレミス環境に存在するサーバコンピュータであってもよい。
【0056】
ストレージ90は、撮像した広視野画像等のデータを記憶させる記憶装置である。ストレージ90は、情報処理システム50と別体となった外部ストレージ(クラウド上に配置されたストレージでもよいしオンプレミスに配置されたストレージでもよい)でもよいし、情報処理システム50に含まれるストレージでもよい。
【0057】
<ハードウエア構成例>
続いて、
図3、
図4を用いて、本実施形態に係る画像通信システムが有する各装置又は端末のハードウエア構成を説明する。なお、
図3、
図4に示されているハードウエア構成は、必要に応じて構成要素が追加又は削除されてもよい。
【0058】
<<撮像装置のハードウエア構成>>
まず、
図3を用いて、撮像装置10のハードウエア構成を説明する。
図3は、撮像装置10のハードウエア構成の一例を示す図である。以下では、撮像装置10は、二つの撮像素子を使用した全天球(全方位)撮像装置とするが、撮像素子は1つであっても、二つ以上あってもよい。また、必ずしも全方位撮像専用の装置である必要はなく、通常のデジタルカメラやスマートフォン等に後付けの全方位撮像ユニットを取り付けることで、実質的に撮像装置10と同じ機能を有するようにしてもよい。
【0059】
図3に示されているように、撮像装置10は、撮像ユニット101、画像処理ユニット104、撮像制御ユニット105、マイク108、音処理ユニット109、CPU(Central Processing Unit)111、ROM(Read Only Memory)112、SRAM(Static Random Access Memory)113、DRAM(Dynamic Random Access Memory)114、操作部115、入出力I/F116、近距離通信回路117、近距離通信回路117のアンテナ117a、電子コンパス118、ジャイロセンサ119、加速度センサ120及びネットワークI/F121によって構成されている。
【0060】
このうち、撮像ユニット101は、各々半球画像を結像するための180°以上の画角を有する広角レンズ(いわゆる魚眼レンズ)102a,102b(以下区別する必要のないときは、レンズ102と称する。)、及び各レンズに対応させて設けられている二つの撮像素子103a,103bを備えている。撮像素子103a,103bは、レンズ102a,102bによる光学像を電気信号の画像データに変換して出力するCMOS(Complementary Metal Oxide Semiconductor)センサやCCD(Charge Coupled Device)センサ等の画像センサ、この画像センサの水平又は垂直同期信号や画素クロック等を生成するタイミング生成回路、及びこの撮像素子の動作に必要な種々のコマンドもしくはパラメータ等が設定されるレジスタ群等を有している。なお、撮像ユニット101が広角レンズを2つ備える構成はあくまで一例であって、1つだけ備えていてもよいし、3つ以上備えていてもよい。
【0061】
撮像ユニット101の撮像素子103a,103bは、各々、画像処理ユニット104とパラレルI/Fバスを介して接続している。一方、撮像ユニット101の撮像素子103a,103bは、それぞれ撮像制御ユニット105とシリアルI/Fバス(I2Cバス等)を介して接続している。画像処理ユニット104、撮像制御ユニット105及び音処理ユニット109は、バス110を介してCPU111と接続している。さらに、バス110には、ROM112、SRAM113、DRAM114、操作部115、入出力I/F116、近距離通信回路117、電子コンパス118、ジャイロセンサ119、加速度センサ120及びネットワークI/F121等も接続される。
【0062】
画像処理ユニット104は、撮像素子103a,103bから出力される画像データをパラレルI/Fバスを通して取り込み、それぞれの画像データに対して所定の処理を施した後、これらの画像データを合成処理して、後述する正距円筒射影画像(広視野画像の一例)のデータを作成する。
【0063】
撮像制御ユニット105は、一般に撮像制御ユニット105をマスタデバイス、撮像素子103a,103bをスレーブデバイスとして、I2Cバスを利用して、撮像素子103a,103bのレジスタ群にコマンド等を設定する。必要なコマンド等は、CPU111から受け取る。また、撮像制御ユニット105は、同じくI2Cバスを利用して、撮像素子103a,103bのレジスタ群のステータスデータ等を取り込み、CPU111に送る。
【0064】
また、撮像制御ユニット105は、操作部115のシャッターボタンが押下されたタイミングで、撮像素子103a,103bに画像データの出力を指示する。撮像装置10によっては、ディスプレイ(例えば、近距離通信回路117を用いて撮像装置10と近距離通信を行うスマートフォン等の外部端末のディスプレイ)によるプレビュー表示機能や動画表示に対応する機能を持つ場合もある。この場合は、撮像素子103a,103bからの画像データの出力は、所定のフレームレート(フレーム/分)によって連続して行われる。
【0065】
また、撮像制御ユニット105は、後述するように、CPU111と協働して撮像素子103a,103bの画像データの出力タイミングの同期をとる同期制御手段としても機能する。なお、本実施形態では、撮像装置10には表示部(ディスプレイ)が設けられていないが、表示部を設けてもよい。マイク108は、音を音(信号)データに変換する。音処理ユニット109は、マイク108から出力される音データをI/Fバスを通して取り込み、音データに対して所定の処理を施す。
【0066】
CPU111は、撮像装置10の全体の動作を制御すると共に必要な処理を実行する。ROM112は、CPU111のための種々のプログラムを記憶している。SRAM113及びDRAM114はワークメモリであり、CPU111で実行するプログラムや処理途中のデータ等を記憶する。特にDRAM114は、画像処理ユニット104での処理途中の画像データや処理済みの正距円筒射影画像のデータを記憶する。
【0067】
操作部115は、種々の操作ボタンや電源スイッチ、シャッターボタン、及び表示と操作の機能を兼ねたタッチパネル等の総称である。ユーザーは、操作部115を操作することで、種々の撮像モードや撮像条件等を入力する。
【0068】
入出力I/F116は、SDカード等の外付けのメディア又はパーソナルコンピュータ等とのインターフェース回路(USBI/F等)の総称である。入出力I/F116は、無線、有線を問わない。DRAM114に記憶された正距円筒射影画像のデータは、入出力I/F116を介して外付けのメディアに記録されたり、必要に応じて入出力I/F116を介して外部端末(装置)に送信されたりする。
【0069】
近距離通信回路117は、撮像装置10に設けられたアンテナ117aを介して、NFC(Near Field Communication)、Bluetooth(登録商標)又はWi-Fi等の近距離無線通信技術によって、外部端末(装置)と通信を行う。近距離通信回路117は、正距円筒射影画像のデータを、外部端末(装置)に送信することができる。
【0070】
電子コンパス118は、地球の磁気から撮像装置10の方位を算出し、方位情報を出力する。この方位情報は、Exifに沿った関連情報(メタデータ)の一例であり、撮像画像の画像補正等の画像処理に利用される。なお、関連情報は、画像の撮像日時及び画像データのデータ容量の各データも含む。また、ジャイロセンサ119は、撮像装置10の移動に伴う角度の変化(Roll角、Pitch角、Yaw角)を検出するセンサである。角度の変化はExifに沿った関連情報(メタデータ)の一例であり、撮像画像の画像補正等の画像処理に利用される。さらに、加速度センサ120は、三軸方向の加速度を検出するセンサである。撮像装置10は、加速度センサ120が検出した加速度に基づいて、自装置(撮像装置10)の姿勢(重力方向に対する角度)を算出する。撮像装置10は、加速度センサ120を設けることによって、画像補正の精度が向上する。
【0071】
ネットワークI/F121は、ルーター等を介して、インターネット等の通信ネットワークNを利用したデータ通信を行うためのインターフェースである。
【0072】
また、撮像装置10のハードウエア構成はここに示すものに限られず、撮像装置10の機能構成を実現できるものであればよい。また、上記ハードウエア構成の少なくとも一部はネットワーク上に存在していてもよい。
【0073】
<<通信端末のハードウエア構成>>
図4は、通信端末30及び情報処理システム50のハードウエア構成の一例を示す図である。まず、通信端末30について説明する。通信端末30のハードウエア構成は、300番台の符号で示されている。通信端末30は、コンピュータによって構築されており、
図4に示されているように、CPU301、ROM302、RAM303、HDD(Hard Disk Drive)304、HDDコントローラ305、ディスプレイ306、外部機器接続I/F308、ネットワークI/F309、バスライン310、キーボード311、ポインティングデバイス312、DVD-RW(Digital Versatile Disk Rewritable)ドライブ314、メディアI/F316、音入出力I/F317、マイク318、スピーカ319、近距離通信回路320及びカメラ321を備えている。
【0074】
これらのうち、CPU301は、通信端末30全体の動作を制御する。ROM302は、IPL等のCPU301の駆動に用いられるプログラムを記憶する。RAM303は、CPU301のワークエリアとして使用される。HDD304は、プログラムやデータ等の各種データを記憶する。HDDコントローラ305は、CPU301の制御にしたがってHDD304に対する各種データの読み出し又は書き込みを制御する。ディスプレイ306は、カーソル、メニュー、ウィンドウ、文字、又は画像等の各種情報を表示する。ディスプレイ306は、表示部の一例である。なお、ディスプレイ306は、入力手段を備えたタッチパネルディスプレイであってもよい。外部機器接続I/F308は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USBメモリ又はプリンタ等である。ネットワークI/F309は、通信ネットワークNを利用してデータ通信をするためのインターフェースである。バスライン310は、
図4に示されているCPU301等の各構成要素を電気的に接続するためのアドレスバス又はデータバス等である。なお、HDD304やHDDコントローラ305は、それぞれプログラムやデータ等を記憶するストレージの一例であって、それぞれSSD(Solid State Drive)やSSDコントローラであってもよい。
【0075】
また、キーボード311は、文字、数値、各種指示等の入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス312は、各種指示の選択もしくは実行、処理対象の選択、又はカーソルの移動等を行う入力手段の一種である。なお、入力手段は、キーボード311及びポインティングデバイス312のみならず、タッチパネル又は音声入力装置等であってもよい。DVD-RWドライブ314は、着脱可能な記録媒体の一例としてのDVD-RW313に対する各種データの読み出し又は書き込みを制御する。なお、DVD-RW313は、DVD-R又はBlu-ray(登録商標) Disc(ブルーレイディスク)等であってもよい。メディアI/F316は、フラッシュメモリ等の記録メディア315に対するデータの読み出し又は書き込み(記憶)を制御する。マイク318は、音声を入力する内蔵型の集音手段の一種である。音入出力I/F317は、CPU301の制御にしたがってマイク318及びスピーカ319との間で音信号の入出力を処理する回路である。近距離通信回路320は、NFC、Bluetooth(登録商標)又はWi-Fi等の近距離無線通信技術によって、外部端末(装置)と通信を行うための通信回路である。カメラ321は、被写体を撮像して画像データを得る内蔵型の撮像手段の一種である。なお、マイク318、スピーカ319及びカメラ321は、通信端末30の内蔵型ではなく、外付けの装置であってもよい。
【0076】
また、通信端末30のハードウエア構成はここに示すものに限られず、通信端末30の機能構成を実現できるものであればよい。また、上記ハードウエア構成の少なくとも一部はネットワーク上に存在していてもよい。
【0077】
<<情報処理システムのハードウエア構成>>
図4に示すように、情報処理システム50の各ハードウエア構成は、括弧内の500番台の符号で示されている。情報処理システム50は、コンピュータによって構築されており、
図4に示されているように、通信端末30と同様の構成を備えているため、各ハードウエア構成の説明を省略する。
【0078】
また、情報処理システム50のハードウエア構成はここに示すものに限られず、情報処理システム50の機能構成を実現できるものであればよい。また、上記ハードウエア構成の少なくとも一部はネットワーク上に存在していてもよい。
【0079】
なお、上記各プログラムは、インストール可能な形式又は実行可能な形式のファイルで、コンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。記録媒体の例として、CD-R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、Blu-ray Disc(登録商標)、SDカード、USBメモリ等が挙げられる。また、記録媒体は、プログラム製品(Program Product)として、国内又は国外へ提供されることができる。例えば、通信端末30は、本発明に係るプログラムが実行されることで本発明に係る画像表示方法を実現する。
【0080】
<広視野画像、及び、視点情報について>
以下では、
図5~
図12を用いて広視野画像(全天球画像)の生成方法を説明する。
【0081】
まず、
図5を用いて、撮像装置10の外観を説明する。撮像装置10は、全天球(360°)画像の元になる撮像画像を得るためのデジタルカメラである。
図5(a)は撮像装置の左側面図であり、
図5(b)は撮像装置の正面図であり、
図5(c)は撮像装置の平面図である。この外観図は撮像装置10のあくまで一例であって、他の外観であってもよい。
【0082】
図5(a)に示されているように、撮像装置10は、人間が片手で持つことができる大きさであるが、この形状はあくまで一例であって、他の形状であってもよい。また、
図5(a),
図5(b),
図5(c)に示されているように、撮像装置10の上部には、正面側(前側)に撮像素子103a及び背面側(後側)に撮像素子103bが設けられている。これら撮像素子(画像センサ)103a,103bは、半球画像(画角180°以上)の撮像が可能な光学部材(例えば、後述するレンズ102a,102b)と併せて用いられる。また、
図5(b)に示されているように、撮像装置10の正面側と反対側の面には、シャッターボタン等の操作部115が設けられている。なお、上記したように撮像素子は1つだけであってもよいし、3つ以上備えていてもよい。
【0083】
次に、
図6を用いて、撮像装置10の使用状況を説明する。
図6は、撮像装置の使用イメージ図である。撮像装置10は、
図6に示されているように、例えば、撮像装置10の周りの被写体を撮像するために用いられる。この場合、
図5に示されている撮像素子103a及び撮像素子103bによって、それぞれ撮像装置10の周りの被写体が撮像されることで、二つの半球画像を得ることができる。
【0084】
次に、
図7及び
図8を用いて、撮像装置10で撮像された画像から全天球画像が作成されるまでの処理の概略を説明する。
図7(a)は撮像装置で撮像された半球画像(前側)、
図7(b)は撮像装置で撮像された半球画像(後側)、
図7(c)は正距円筒図法により表された画像(以下、「正距円筒射影画像」という)を示した図である。
図8(a)は正距円筒射影画像で球を被う状態を示した概念図、
図8(b)は全天球画像を示した図である。
【0085】
図7(a)に示されているように、撮像素子103aによって得られた画像は、後述のレンズ102aによって湾曲した半球画像(前側)となる。また、
図7(b)に示されているように、撮像素子103bによって得られた画像は、後述のレンズ102bによって湾曲した半球画像(後側)となる。そして、撮像装置10は、半球画像(前側)と180度反転された半球画像(後側)とを合成して、
図7(c)に示されているような正距円筒射影画像ECが作成する。
【0086】
そして、撮像装置10は、OpenGL ES(Open Graphics Library for Embedded Systems)等のソフトウェアを利用することで、
図8(a)に示されているように、球面を覆うように正距円筒射影画像ECを貼り付け、
図8(b)に示されているような全天球画像(全天球パノラマ画像)CEを作成する。このように、全天球画像CEは、正距円筒射影画像ECが球の中心を向いた画像として表される。なお、OpenGL ESは、2D(2-Dimensions)及び3D(3-Dimensions)のデータを視覚化するために使用するグラフィックスライブラリである。OpenGL ESはあくまで画像処理を実行するソフトウェアの一例であって、他のソフトウェアによって全天球画像CEを作成してもよい。また、全天球画像CEは、静止画であっても動画であってもよい。なお、ここでは撮像装置10が全天球画像を生成する例として説明したが、同様の画像処理又は一部の画像処理の工程を情報処理システム50又は通信端末30が実行してもよい。
【0087】
以上のように、全天球画像CEは、球面を覆うように貼り付けられた画像であるため、人間が見ると違和感を持ってしまう。そこで、撮像装置10又は通信端末30において、全天球画像CEの一部の所定領域T(以下、「所定領域画像」という)を湾曲の少ない平面画像として表示することで、人間に違和感を与えない表示をすることができる。これに関して、
図9乃至
図10を用いて説明する。
【0088】
図9は、全天球画像を三次元の立体球とした場合の仮想カメラ及び所定領域の位置を示した図である。仮想カメラICは、三次元の立体球として表示されている全天球画像CEに対して、その画像を見るユーザーの仮想的な視点の位置に相当するものである。
図10(a)は、
図9の立体斜視図、
図10(b)は、ディスプレイに表示された場合の所定領域画像を表す図である。
図10(a)は、
図9に示した全天球画像CEを、三次元の立体球CSで表している。このように生成された全天球画像CEが、立体球CSであるとした場合、
図9に示されているように、仮想カメラICは、全天球画像CEの内部に位置している。全天球画像CEにおける所定領域Tは、仮想カメラICの撮像領域であり、全天球画像CEを含む三次元の仮想空間における仮想カメラICの撮像方向と画角を示す所定領域情報によって特定される。また、所定領域Tのズームは、仮想カメラICを全天球画像CEに近づいたり、遠ざけたりすることで表現することもできる。所定領域画像Qは、全天球画像CEにおける所定領域Tの画像である。したがって、所定領域Tは、画角αと、仮想カメラICから全天球画像CEまでの距離fにより特定できる(
図11参照)。
【0089】
そして、
図10(a)に示されている所定領域画像Qは、
図10(b)に示されているように、所定のディスプレイに、仮想カメラICの撮像領域の画像として表示される。
図10(b)に示されている画像は、初期設定(デフォルト)された所定領域情報によって表された所定領域画像である。以下、仮想カメラICの撮像方向(ea,aa)と画角(α)を用いて説明する。なお、所定領域Tは、画角αと距離fではなく、所定領域Tである仮想カメラICの撮像領域を位置座標(X,Y,Z)によって示してもよい。
【0090】
次に、
図11を用いて、所定領域情報と所定領域Tの画像の関係について説明する。
図11は、所定領域情報と所定領域Tの画像との関係を示した図である。
図11に示されているように、「ea」はelevation angle(仰角)、「aa」はazimuth angle(方位角)、「α」は画角(Angle)を示す。すなわち、仮想カメラICの姿勢は、撮像方向(ea,aa)で示される仮想カメラICの注視点が、仮想カメラICの撮像領域である所定領域Tの中心点CP(x,y)となるように変更される。
図11に示されているように、仮想カメラICの画角αによって表される所定領域Tの対角画角をαとした場合の中心点CP(x,y)が、所定領域情報のパラメータ((x,y))となる。所定領域画像Qは、全天球画像CEにおける所定領域Tの画像である。fは、仮想カメラICから中心点CP(x,y)までの距離である。Lは、所定領域Tの任意の頂点と中心点CP(x,y)との距離である(2Lは対角線)。そして、
図11では、一般的に以下の(式1)で示される三角関数が成り立つ。
【数1】
なお、上記で説明した撮像装置10は、広視野画像を取得可能な撮像装置の一例であり、全天球画像は、広視野画像の一例である。ここで、広視野画像は、一般には広角レンズを用いて撮像された画像であり、人間の目で感じるよりも広い範囲を撮像することができるレンズで撮像されたものである。
【0091】
図12は、
図11で説明した関係を球座標による三次元ユークリッド空間内の点で示した図である。ここで、
図11で示した中心点CPを球面極座標系で表現したときの位置座標を(r,θ,φ)とする。(r,θ,φ)は、それぞれ動径、極角、方位角である。動径rは、全天球画像を含む三次元の仮想空間の原点から中心点CPまでの距離であるため、
図11で示した距離fに等しい。
図12は、これらの関係を表した図である。以降、仮想カメラICの位置座標(r, θ, φ)を視点情報の一例として用いて説明する。なお、視点情報は、上記したように
図10で示した所定のディスプレイに、仮想カメラICの撮像領域の画像として表示される所定領域T(所定領域画像Q)が特定できるパラメータ情報であればよく、所定領域Tの対角頂点の座標も含む。また、
図11で説明した仮想カメラICの画角αを示す情報及び中心点CP(x,y)を示す情報が視点情報であってもよい。また、
図11で説明した仮想カメラICの画角αを示す情報及び方位角aaを示す情報が視点情報であってもよい。また、視点情報は球座標による位置座標情報だけでなく、直交座標による位置座標情報や初期設定(デフォルト)された所定領域情報から座標の差分値等も含む。また、視点情報は
図11で示したように角度や距離といった座標情報以外の情報であってもよい。また、
図11や
図12では所定領域Tの中心点を基準にしているが、所定領域Tの頂点のいずれかを基準としたパラメータ情報により所定領域Tを特定してもよい。なお、上記では広視野画像が全天球画像である場合を例として視点情報を説明したが、他の広視野画像の場合には、その広視野画像における所定領域Tを特定する情報が視点情報となる。また、視点情報には所定領域Tの高さや幅といったパラメータ情報や、仮想カメラICのズーム等による拡大率といったパラメータ情報が含まれていてもよい。また、
図7(c)に示されているような正距円筒射影画像ECの各画素の位置を球体の表面の座標(例えば緯度、経度の2軸とした座標)と対応付けた場合に、仮想カメラICの方向と画角といったパラメータ情報を視点情報としてもよいし、緯度や経度といった情報を視点情報に含めてもよい。このように、視点情報とは、必ずしも点を示す情報に限られない。
【0092】
<機能について>
続いて、
図13を用いて、本実施形態に係る通信システム1の機能構成について説明する。
図13は、本実施形態に係る通信システム1の機能構成の一例を示す図である。なお、
図13では、
図1に示されている各端末、装置及びサーバのうち、後述の処理又は動作に関連しているものが示されている。
【0093】
<<撮像装置の機能構成>>
まず、
図13を参照して、撮像装置10の機能構成について説明する。撮像装置10は、通信部11、受付部12、撮像処理部13、解析部14、登録要求部15、接続部16、保存処理部17、画像送信制御部18、及び、記憶・読出部19を有している。これら各部は、
図3に示されている各構成要素のいずれかが、SRAM113又はDRAM114上に展開されたプログラムに従ったCPU111からの命令によって動作することで実現される機能、又は機能する手段である。また、撮像装置10は、
図3に示されているROM112等によって構築される記憶部1000を有している。
【0094】
通信部11は、Wi-Fiなどの無線通信手段を利用して、通信ネットワークNに接続して、他の装置との間で各種データ又は情報の送受信を行う機能である。本実施形態では、主に、接続部16により、撮像処理部13によって取得された広視野画像を情報処理システム50に送信する形態を説明するが、通信部11が広視野画像を情報処理システム50に送信することも可能である。
【0095】
受付部12は、撮像装置10に対するユーザーからの操作入力を受け付ける機能である。受付部12は、電源のオン、オフ、シャッターボタンのオン、オフ(広視野画像の送信開始又は送信停止)、タッチパネルやボタン等に対するユーザーの操作入力等を受け付ける。
【0096】
撮像処理部13は、被写体や風景画像等を撮像し、撮像画像を取得する。撮像処理部13によって取得される撮像画像は、動画であっても静止画であってもよく(両方でもよく)、画像と共に音声を含んでもよい。また、撮像処理部13は、例えば、通信端末30のディスプレイ306に表示された二次元コード(
図22参照)を撮像する。また、撮像処理部13が撮像画像に対して
図7及び
図8で説明した画像処理を実行することによって広視野画像を生成してもよい。
【0097】
解析部14は、撮像処理部13によって撮像されて取得された二次元コードを解析して二次元コードに含まれる情報(撮像装置をテナントに登録するためのURL、一時的なIDとパスワード)を抽出する。
【0098】
登録要求部15は、解析部14によって読み取られた二次元コードに含まれる情報を用いて、情報処理システム50のテナントに撮像装置10を登録する要求を情報処理システム50に送信する。
【0099】
接続部16は、例えば近距離通信回路117によって実現され、通信端末30Aから電源供給を受けると共に、データ通信を行う機能である。
【0100】
保存処理部17は、任意の拠点からの撮像要求に応じて撮像された広視野画像を、情報処理システム50から通知されたURL(例えばストレージ90等)に保存する処理を行う。
【0101】
画像送信制御部18は、情報処理システム50に対する広視野画像の送信を制御する機能である。画像送信制御部18は、例えば、撮像処理部13によって取得された撮像画像を、静止画であれば定期的又はユーザー操作に応じて、動画であれば所定のFPS(Flame Per Second)で情報処理システム50に対して送信する。画像送信制御部18は通信部11と接続部16の切り替えも行う。
【0102】
記憶・読出部19は、記憶部1000に各種データを記憶させ、又は記憶部1000から各種データを読み出す機能である。また、記憶部1000は、撮像処理部13によって取得された撮像画像データ、撮像装置ID等を記憶している。なお、記憶部1000に記憶されている撮像画像データは、撮像処理部13によって取得されてから所定の時間経過した場合に削除される構成であってもよいし、情報処理システム50へ送信されたデータが削除される構成であってもよい。
【0103】
なお、撮像装置10では、通信システム1に対応するためのアプリケーション(プラグインともいう)がインストールされている。このアプリケーションは、撮像装置10を仮想ルームに対応付ける際や、外部からの制御を受け付けたりするために使用される。
図13に示した機能の一部(例えば登録要求部15)はこのアプリケーションによるものが含まれる。なお、通信システム1に対応するためのアプリケーションをネットワーク上に配置し、撮像装置10が有するWebブラウザ等によってアプリケーションにアクセスすることで同様の機能を実現させてもよい。
【0104】
<<通信端末の機能構成>>
続いて、
図13を用いて、通信端末30の機能構成について説明する。通信端末30は、通信部31、受付部32、表示制御部33、撮像部34、記憶・読出部35、及び接続部36を有している。これら各部は、
図4に示されている各構成要素のいずれかが、RAM303上に展開されたプログラム(Webブラウザでも専用のアプリケーションでもよい)に従ったCPU301からの命令によって動作することで実現される機能、又は機能する手段である。また、通信端末30は、
図4に示されているROM302又は記録メディア315によって構築される記憶部3000を有している。
【0105】
通信部31(第二の通信部の一例)は、例えばネットワークI/F309によって実現され、通信ネットワークNに接続し、他の装置との間で各種データ又は情報の送受信を行う機能である。
【0106】
受付部32は、通信端末30への各種選択又は操作入力を受け付ける機能である。表示制御部33は、通信端末30のディスプレイ306に広視野画像や通常の画角の画像、及び、各種画面を表示させる機能である。表示制御部33は、例えば、情報処理システム50から送信された二次元コードを、ディスプレイ306に表示させる。二次元コードは、例えば、QRコード(登録商標)、DataMatrix(DataCode)、MaxiCode又はPDF417等である。二次元コードは、バーコードでもよい。
【0107】
接続部36は、例えば近距離通信回路320によって実現され、撮像装置10に電源を供給すると共に、データ通信を行う機能である。
【0108】
記憶・読出部35は、
図4に示されているCPU301からの命令によって実行され、記憶部3000に各種データを記憶させ、又は記憶部3000から各種データを読み出す機能である。記憶部3000には、画像管理情報記憶部3001が形成される。画像管理情報記憶部3001については情報処理システム50の説明において説明する。
【0109】
<<情報処理システムの機能構成>>
次に、情報処理システム50の機能構成について説明する。情報処理システム50は、通信部51、画面生成部52、関連付け処理部53、画像配信部54、認証部55、通信グループ管理部56、通信制御部57、コネクション管理部58、記憶・読出部59、API管理部60、記録部61、抽出部62、文書作成部63、追従映像作成部64、及び、提供部65、を有している。これら各部は、
図4に示されている各構成要素のいずれかが、RAM503上に展開されたプログラムに従ったCPU501からの命令によって動作することで実現される機能、又は機能する手段である。また、情報処理システムは、
図4に示されているROM502、HDD504又は記録メディア515によって構築される記憶部5000を有している。
【0110】
通信部51(第一の通信部の一例)は、通信ネットワークNを介して、他の装置との間で各種データ又は情報の送受信を行う機能である。
【0111】
画面生成部52は通信端末30が表示する画面情報の生成を行う。通信端末30がWebアプリを実行する場合は、画面情報は、HTML、XML、CSS(Cascade Style Sheet)、及びJavaScript(登録商標)等により作成される。通信端末30がネイティブアプリを実行する場合は、画面情報は通信端末30が保持しており、表示される情報がXML等で送信される。画面生成部52は画像配信部54が配信する広視野画像等が配置される画面情報を生成する。
【0112】
関連付け処理部53は、広視野画像の視点情報の関連付け及び共有に関する制御を行う。関連付け処理部53は、通信端末30から視点情報と共に撮像要求を受信した場合、撮像装置10に撮像を要求して取得した広視野画像と視点情報を関連付ける処理を行う。さらに、関連付け処理部53は、関連付けた広視野画像と視点情報を画像管理情報記憶部5001に保存する。また、関連付け処理部53は、関連付けられた該広視野画像と視点情報が保存される保存場所を示す情報として保存先情報(例えばURL)を通信端末30に送信する。なお、情報処理システム50は、通信端末30から視点情報と撮像要求を同時に受信する必要はなく、別々に受信した上で関連付ける処理を行ってもよい。また、URLは保存場所を示す保存先情報の一例であって、URI等の他の形式であってもよい。
【0113】
画像配信部54は、仮想ルームに入室中のユーザーが操作する通信端末30に、同じ仮想ルームに対応付けられている撮像装置10が送信した広視野画像等の画像を配信する。通信端末30が有するカメラ又は接続されたカメラ8,9が撮像した通常の画角の画像についても同様に配信される。なお、配信される画像はストリーミング映像、動画、静止画等を含む。
【0114】
認証部55は、通信部51によって受信された認証要求に基づいて、要求元の認証を行う機能である。認証部55は、例えば、通信部51によって受信された認証要求に含まれている認証情報(ユーザーID及びパスワード)が予め保持する認証情報と一致するか否かにより、ユーザーを認証する。なお、認証情報は、ICカードのカード番号、顔、指紋や声紋などの生体認証情報、デバイスID、パスコード、アクセストークン、セキュリティキー、チケット等でもよい。また、認証部55は、外部の認証システムやOAuthなどの認証方法で認証してもよい。また、認証部55は、ユーザーだけでなく撮像装置等のデバイスを認証してもよい。
【0115】
通信グループ管理部56は、仮想ルームへの通信端末30やユーザーの入室、デバイスの対応付け等を管理する。通信グループ管理部56は、認証部55による認証が成功した場合に、ユーザーID及び通信端末30のIPアドレスを仮想ルーム情報記憶部5002に登録したり、仮想ルームに撮像装置10を対応付けたりする。
【0116】
通信制御部57は、各仮想ルームに対応付けられた撮像装置10との通信の開始、確立、終了を管理する。また、通信制御部57は、通信端末30が仮想ルームに入室したり退室したりすることに応じて、広視野画像や音声を配信する通信の開始、確立、終了を管理する。
【0117】
コネクション管理部は、通信端末30及び撮像装置10が情報処理システム50と確立している通信(コネクション)を、仮想ルームに対応付けて管理をする。
【0118】
API管理部60は、プラットフォーム契約者が広視野画像の画像配信サービスを提供する場合に使用するAPIを管理する。APIを利用する場合、プラットフォーム契約者は、別途、APIを呼び出すソフトウェアを開発すればよい。開発するソフトウェアはサーバ上で動作してもよいし、通信端末等のクライアント上で動作するものであってもよい。画像配信部54、関連付け処理部53、通信制御部57等のように情報処理システム50が備える機能であれば、APIとして提供可能である。また、後から情報処理システム50に追加した機能をAPIとして提供することも可能である。APIとして提供するか否かはプラットフォーム提供者が操作する通信端末が情報処理システム50にアクセスし、APIの公開設定を受け付けることによって、API管理部60が公開設定に基づいたAPIの制御ができる。また、API管理部60はAPIの呼び出しを要求する要求元のソフトウェアが正当なプラットフォーム契約者によって開発されたソフトウェアか否かを確認する認証処理を行ってもよい。認証処理は記憶部5000においてプラットフォーム契約者の情報として予め登録して記憶されている情報と、要求元のソフトウェアから送信された情報を対比させることで確認することができる。認証処理の具体的な処理の一例として、プラットフォーム契約者が開発するソフトウェアに対して、API管理部60によって予め発行されたアプリIDを要求元のソフトウェアから情報処理システム50が受信し、API管理部60が、アプリIDが記憶部5000に記憶されていると判断できれば正当なソフトウェアとしてAPIを提供することを許可する制御をAPI管理部60が行う。一方で、正当なソフトウェアとして判断できなかった場合には、APIを提供することを許可しない制御をAPI管理部60が行う。なお、アプリIDは正当性を判断するための認証情報の一例であって、予め情報処理システムのAPI管理部60もしくは外部システムが発行したアクセストークン、チケット、セキュリティキー、パスワード、PINコード等の認証情報によってAPI管理部60が要求元の正当性を確認してもよい。本実施形態では、APIとして情報処理システム50が備える機能を使用する形態は説明しないが、プラットフォーム契約者の開発したアプリケーション等のソフトウェアがAPI管理部60における判断を経由して情報処理システム50が備える機能を利用する以外の処理の流れは同じでよい。
【0119】
記憶・読出部59は、記憶部5000に各種データを記憶させ、又は記憶部5000から各種データを読み出す機能である。また、記憶部5000には、画像管理情報記憶部5001、仮想ルーム情報記憶部5002、テナント情報記憶部5003、記録映像記憶部5004、及び、報告書記憶部5005が形成されている。
【0120】
記録部61は、閲覧者が視点を変えながら閲覧した広視野画像の動画を記録映像として記録する。記録部61は、記録映像を閲覧中に閲覧者が変更した閲覧者の視点を示す視点移動情報を記録映像に添付する。
【0121】
抽出部62は、物体認識などの画像処理により追従対象物の候補を記録映像から抽出する。追従対象物は人や物など、追従の対象となりうるものであればよい。
【0122】
追従映像作成部64は、ユーザーが選択した追従対象物を追従する追従画像を作成する。記録映像は広視野画像の動画なので、追従映像作成部64は追従対象物を所定領域に収める視点を時系列に記録した追従視点情報を作成する。追従視点情報が対応付けられた記録映像を「追従視点付き記録映像」という。
【0123】
文書作成部63は、報告書などの文書であって、追従視点付き記録映像のリンクが埋め込まれた文書を作成する。文書は、コンピュータで処理可能な電子データ(文書データの一例)であればよい。
【0124】
提供部65は、ユーザーからの要求に応じて文書作成部63が作成した文書を、通信端末30に提供する。
【0125】
「画像管理情報記憶部5001」
図14(a)は、画像管理情報記憶部5001に記憶される画像管理情報を示す概念図である。画像管理情報記憶部5001には、
図14に示されているような画像管理情報が記憶されている。画像管理情報は、撮像要求により撮像された広視野画像を管理する情報であり、ユーザーが通信端末30から撮像要求を送信すると、1レコードの画像管理情報が生成される。画像管理情報が有する各項目について説明する。
【0126】
・データIDは、広視野画像等の画像データを識別する識別情報である。データIDは、情報処理システム50が採番する。IDはIdentificationの略であり識別子や識別情報という意味である。IDは複数の対象から、ある特定の対象を一意的に区別するために用いられる名称、符号、文字列、数値又はこれらのうち1つ以上の組み合わせをいう。なお、データIDは広視野画像だけでなく、仮想ルームに対応付けられた撮像装置10によって通常の画角で撮像された画像に対しても関連付けてもよい。
【0127】
・データ名称は、通信端末30のユーザーが設定した広視野画像の名称である。データ名称はユーザーが設定できるが、自動で設定されてもよい。
【0128】
・撮像日時情報は、ユーザーが通信端末30に撮像要求を入力した日時、撮像装置10が広視野画像等の撮像画像を撮像した日時等、広視野画像等の撮像画像の撮像日時を特定するための情報である。撮像日時情報は広視野画像等の撮像画像のタイムスタンプ情報で代用してもよい。
【0129】
・撮像者情報は、通信端末30に撮像要求を入力したユーザーの識別情報(ユーザーIDやユーザー名を含む)である。ユーザーは仮想ルームに入室した状態で、通信端末30に撮像要求を入力するので、撮像者情報に登録されるユーザーは情報処理システム50又は仮想ルームへの認証により特定されている。撮像者情報は、撮像要求と共に情報処理システム50に送信される。なお、撮像要求と撮像者情報は必ずしも同時に情報処理システム50に送信される必要はなく、異なるタイミングで情報処理システム50に送信されてもよい。
【0130】
・撮像装置情報は、広視野画像を撮像した撮像装置10の識別情報(撮像装置ID)である。撮像装置IDは、情報処理システム50が採番して撮像装置10と共有するが、MACアドレスやシリアル番号など撮像装置10に固有の情報が使用されてもよい。撮像装置IDは、広視野画像と共に情報処理システム50に送信される。なお、撮像装置IDと広視野画像は必ずしも同時に情報処理システム50に送信される必要はなく、異なるタイミングで情報処理システム50に送信されてもよい。
【0131】
・撮像者の視点情報は、撮像者の通信端末30において指定されている視点情報である。例えば、視点情報は、通信端末30が表示中の広視野画像の中心座標を示しており、通信端末30において表示される広視野画像の所定領域を特定するために利用されるパラメータ情報である。ここではパラメータ情報の一例として、動径、極角及び方位角を示しているが、
図10~
図12で説明した他のパラメータ情報であってもよい。視点情報は撮像要求する通信端末30から送信される。なお、視点情報は、所定領域の表示範囲の幅と高さを指定する情報を有していてよい。あるいは、視点情報は表示範囲の幅と高さのみでもよい。
・撮像時の仮想ルームIDは、撮像装置10が対応付けられている仮想ルームの識別情報である。
【0132】
・データの保存場所情報(保存先情報)は、広視野画像が保存されている場所を示す情報であって、URLやファイルパス等である。また、保存場所情報によって特定される保存場所は所定のフォルダを示す情報であってもよい。フォルダは撮像時の仮想ルームに対応付けられたフォルダであってもよい。また、撮像日時、撮像装置、撮像者、撮像時の仮想ルーム等の分類の1つ又は2つ以上の組み合わせを示す識別情報(名称等の付加情報)に対応付けられたフォルダであってもよい。また、データの保存場所情報とデータIDやデータ名称等の情報と組み合わせてデータの保存場所を特定してもよい。
【0133】
図14(b)も同じく画像管理情報を示す概念図である。
図14(b)では、撮像時の仮想ルームIDが同じ広視野画像が保存されている。このように、画像管理情報は仮想ルーム単位で分類されてよい。
【0134】
「仮想ルーム情報記憶部5002」
図15(a)は、仮想ルーム情報記憶部5002に記憶される仮想ルーム情報を示す概念図である。仮想ルーム情報記憶部5002には、
図15(a)に示されているような仮想ルーム情報が記憶されている。仮想ルーム情報は、仮想ルームに関する情報であり、仮想ルームごとに保持される。仮想ルーム情報が有する各項目について説明する。なお、ここでは仮想ルームはテナントに登録されているが、テナントへの登録は必須ではなく、一時的に作成された仮想ルームや共有で利用できる仮想ルームの情報も仮想ルーム情報記憶部5002に記憶される。
【0135】
・仮想ルームIDは、仮想ルームを識別する識別情報である。本実施形態では、仮想ルームはユーザーが任意に作成できるものとする。
【0136】
・仮想ルーム名称は、ユーザーが仮想ルームを判別するための名称であり、ユーザーが任意に設定できるものとする。なお、仮想ルームIDと仮想ルーム名称は同一の情報であってもよい。
【0137】
・デバイス情報は、仮想ルームに対応付けられている撮像装置10を含むデバイスの識別情報(デバイスID)である。
・入室中のユーザーは、現在、仮想ルームに入室しているユーザーのユーザーIDである。このユーザーは仮想ルームの入室者に対して配信される広視野画像等の画像を閲覧可能なユーザーである。入室方法については後述する。また、ユーザーIDには該ユーザーが操作する通信端末30のIPアドレスが対応付けられていてもよい。また、ユーザーIDにはユーザー名が対応付けて記憶されていてもよい。
【0138】
「テナント情報記憶部5003」
図15(b)は、テナント情報記憶部5003に記憶されるテナント情報を示す概念図である。テナント情報記憶部5003には、
図15(b)に示されているようなテナント情報が記憶されている。テナント情報は、テナント(ユーザーグループ)に関する情報であり、テナントごとに保持される。テナント情報が有する各項目について説明する。なお、テナント情報にはユーザー情報など図示する以外に様々な情報が登録されており、
図15(b)は一部に過ぎない。
・テナントIDは、テナントを識別する識別情報である。
・テナント名は、ユーザーがテナントを判別するための名称である。なお、テナントIDとテナント名は同一の情報であってもよい。
・テナント登録仮想ルームIDは、テナントに登録された仮想ルームの識別情報である。
・テナント登録デバイスは、テナントに登録されたデバイスに関する情報である。
なお、テナント情報記憶部、テナントID、テナント名、テナント登録仮想ルームID、テナント登録デバイスは、それぞれ、ユーザーグループ情報記憶部、ユーザーグループID、ユーザーグループ名、ユーザーグループ登録仮想ルームID、ユーザーグループ登録デバイスと言い換えることができる。
【0139】
「記録映像記憶部5004」
図16は、記録映像記憶部5004に記憶される記録映像情報を示す概念図である。記録映像記憶部5004には、
図16(a)に示されているような記録映像に関連する記録映像情報が記憶されている。記録映像情報は、記録映像ID、仮想ルームID、記録映像、視点移動情報、保存先情報、記録開始日時と終了日時の各項目を有している。
・記録映像IDは、記録映像を識別する識別情報である。記録映像は、広視野画像の動画である。記録映像は、閲覧者が見ながら記録されているが(閲覧者はいなくてもよい)、広視野画像なので閲覧視点がないと閲覧された所定領域が特定されない。
・仮想ルームIDは、記録映像の録画に使用された撮像装置10が対応付けられている仮想ルームの識別情報である。
・記録映像の項目は、記録映像のファイル名などである。
図16ではファイル名は記録映像の記録開始日時であるが、ファイル名をユーザーが任意に設定できるとよい。
・視点移動情報は、
図16(b)に示すように、閲覧視点が時刻に対応付けられたファイルである。
・保存先情報は、記録映像と視点移動情報の保存先(URLやパスなど)である。
・記録開始日時と終了日時は、記録映像の録画が開始された日時(当該国又は地域の標準時)と録画が停止された日時である。
【0140】
図16(b)は視点移動情報の一例を示す。視点移動情報は、記録映像の録画開始からの経過時間と、経過時間に対応付けられた閲覧視点を有している。記録開始日時が記録されているので、経過時間は標準時に変換可能である。閲覧視点により、閲覧者が閲覧した所定領域が特定される。
図16(b)では、閲覧視点が変化された場合にのみ閲覧視点が記録されているが、閲覧視点はその変化にかかわらず定期的に記録されてもよい。
【0141】
また、記録映像記憶部5004には
図17に示す追従視点付き記録映像情報が保存されている。
図17は、追従視点付き記録映像情報を示す概念図である。追従視点付き記録映像情報は、上記の記録映像に、追従対象物を追従する視点(追従視点)を対応付ける情報である。追従視点は、上記の追従映像作成部64が作成した、追従対象物を追従する視点を時系列に記録したものである。
・記録映像IDは、記録映像と追従視点を対応付けるものであり、
図16(a)の記録映像IDと同じものである。
・追従視点IDは、追従視点を識別する識別情報である。追従視点は、1つの記録映像に対し、複数作成可能なので、1つの記録映像について異なる追従対象物で記録映像を再生可能になる。
・追従視点情報は、記録映像内で追従対象物を追従するための視点が時系列に、記録開始からの経過時間に対応付けられたファイルである。追従視点情報の形式は視点移動情報と同様でよい。
・保存先情報は、追従視点情報の保存先(URLやファイルパスなど)である。なお、追従視点情報を用いた記録映像の再生のための映像ビューワーと一体に保存されていてもよい。
【0142】
「報告書記憶部5005」
図18は、報告書記憶部5005に記憶される報告書の項目を示す概念図である。この報告書は、文書作成部63が作成する文書の一例に過ぎない。報告書記憶部5005には、
図18に示されているように報告書が有する項目が記憶されている。報告書の作成時、文書作成部63は、通信端末30に対し項目(件名、作成日、場所名、報告内容)ごとに入力欄を表示させる。ユーザーは項目に必要事項を入力することで報告書を作成できる。
図18のような報告書のひな形が、ユーザーが作成する各種の報告書ごとに予め用意されている。したがって、報告書の項目は報告書によって様々である。
【0143】
記録映像の項目は、ユーザーが報告書に埋め込んだ追従視点付き記録映像のファイル名などである。したがって、記録映像の項目は、記録映像のファイル名と同じ場合がある。また、リンクの項目は、追従視点付き記録映像の保存先を示すURLやファイルパス等である。すなわち、リンクの項目には記録映像と追従視点情報の保存先が設定される。
【0144】
<通信端末の仮想ルームへの入室>
続いて、
図19、
図20を参照し、ユーザーBが仮想ルームに入室する処理について説明する。なお、すでに撮像装置10が仮想ルームに対応付けられ、通信端末30Aが広視野画像と通常の画角の画像を情報処理システム50に送信しているものとする(撮像装置10の仮想ルームへの対応付け等については
図21以降で説明する)。また、以下では、ユーザーBが仮想ルームに入室することと、ユーザーBが操作する通信端末30Bが仮想ルームに入室することを特に区別しないで説明する。
【0145】
図19は、ユーザーBが仮想ルームに入室する際に通信端末30Bが表示する画面例を示す。
図19(a)は、入室画面200の一例である。補足すると、入室画面200の表示に先立って、ユーザーBは情報処理システム50にログインしている。ログインすることでユーザーBが所属するテナントが特定される。仮想ルームはテナントと関連付けられている。ユーザーBはテナントに関連付けられている仮想ルームの一覧を通信端末30Bで表示し(
図24参照)、一覧から入室する仮想ルームを選択する。
図19(a)はこのようにユーザーBが選択した仮想ルームに対する入室画面200である。なお、テナントに関連付けられていない一時的に作成した仮想ルームや共有の仮想ルームが
図19(a)の画面に表示されてもよい。
【0146】
あるいは、仮想ルームの作成者が仮想ルームに対応するURLの発行を情報処理システム50に要求し、このURLをメール等でユーザーBに送信してもよい。ユーザーBが通信端末30Bに表示されたURLを押下すると、通信端末30Bが
図19(a)の入室画面200を表示する。
【0147】
入室画面200は、仮想ルーム名称201、参加者名入力欄202、及び入室ボタン203を有している。仮想ルーム名称201は仮想ルーム情報記憶部5002に記憶されているものと同じである。参加者名入力欄202は、仮想ルーム内で表示されるユーザー名を入力する欄であって、ニックネームなどユーザーBの呼称でもよい。ユーザーBがログインすることでユーザーBのユーザーIDに紐づくユーザー名を特定し、この特定したユーザー名が自動で表示されてもよい。入室ボタン203は、ユーザーBが仮想ルームへの入室を要求するボタンである。
【0148】
なお、入室時に仮想ルームの入室のための認証が、テナントへのログインとは別に要求されてもよい。
【0149】
図19(b)は、ユーザーBが仮想ルームに入室したことで、通信端末30Bが表示する画像閲覧画面210である。
図19(b)の画像閲覧画面210は、撮像装置10が情報処理システム50を介して広視野画像の配信をすでに開始しており、通信端末30Aが通常の画角の画像の配信をすでに開始している。このため、画像閲覧画面210は、第一の画像欄211と第二の画像欄212を有している。第一の画像欄211には広視野画像が表示され、第二の画像欄212には通常の画角の画像が表示されている。画像を送信する拠点が3つ以上になれば、送信元の拠点の数に応じて画像閲覧画面210が分割される。
【0150】
第一の画像欄211には、広視野画像マーク213が表示されている。広視野画像マーク213は、情報処理システム50の画面生成部52が、第一の画像欄211に表示する画像が広視野画像であると判断して設定する。通信端末30Bが判断して表示してもよい。ユーザーBは広視野画像マーク213を見ることで、視点を変更できる広視野画像が配信されていることが分かる。また、第一の画像欄211にはデバイスの名称214(広視野画像と共に撮像装置10から送信される)が表示される。デバイスの名称214は後述するようにユーザーA等によって設定された情報である(
図22参照)。
【0151】
第二の画像欄212には、参加者名215が表示される。参加者名215はユーザー名であって、参加者名入力欄202に、すでに入室済みのユーザー(ここではユーザーAが入室済みなので、ユーザーAが参加者名入力欄202に入力した「AAA」)の参加者名が表示される。
【0152】
図20は、ユーザーB(又は通信端末30B)が仮想ルームに入室する処理を説明するシーケンス図である。
【0153】
S1:まず、拠点BのユーザーBが仮想ルームの一覧画面の表示を行う操作を行う。なお、通信端末30Bは、ユーザーBによる操作に応じて事前に情報処理システム50へアクセスし、仮想ルームの一覧画面を表示させるための仮想ルーム情報記憶部5002に記憶されている仮想ルームの情報を情報処理システム50から受信している。この際に、通信端末30Bはログイン等に必要な認証情報を情報処理システム50へ送信することによって、情報処理システム50の認証部55によって認証されてもよい。認証情報はユーザーBに紐づく認証情報であっても、通信端末30Bに紐づく認証情報であってもよい。このような場合に、一覧画面に表示される仮想ルームはユーザーBに紐づくテナントに登録されている仮想ルームや通信端末30Bに紐づくテナントに登録されている仮想ルームであってもよい。受付部32が一覧画面を表示する操作を受け付けることで、通信端末30Bの表示制御部33は、ディスプレイ306に選択画面を表示させる。
【0154】
S2:ユーザーBがある仮想ルームの選択ボタンを選択した場合、通信端末30Bの受付部32は、仮想ルームの選択を受け付ける。通信端末30Bの表示制御部33は、ディスプレイ306に
図19(a)で示した入室画面200を表示させる。
【0155】
S3:ユーザーBが必要事項を入力し、入室ボタン203を押下する。受付部32が押下を受け付けることで、通信端末30Bの通信部31は、情報処理システム50に対して、仮想ルームへの入室要求を送信する。この入室要求は、ステップS2で選択された仮想ルームを示す仮想ルームID、ログイン等によって認証されたユーザーBのユーザーID、及び要求元端末である通信端末30BのIPアドレス等の情報を含む。
【0156】
S4:これにより、情報処理システム50の通信部51は、入室要求を受信する。通信グループ管理部56は、仮想ルーム情報記憶部5002の仮想ルームIDで特定される仮想ルーム情報に、ログイン等によって認証されたユーザーIDとIPアドレスを登録する。
【0157】
S5:そして、情報処理システム50の通信部51は、通信端末30Bに対して、入室済みを示す応答を送信する。これにより、通信端末30Bの通信部31は、入室済みを示す応答を受信する。通信端末30Bの表示制御部33はS5に続けて、情報処理システム50の画面生成部52が生成した画面の情報と画像配信部54が配信した画像の情報を受信し、受信した情報に基づいて、
図19(b)に示した画像閲覧画面210を表示させる。
【0158】
<撮像装置のルームへの対応付け>
続いて、
図21~
図28を参照して、撮像装置10の仮想ルームへの対応付けについて説明する。なお、撮像装置10の仮想ルームへの対応付けは拠点AのユーザーAが行うとして説明するが、システム管理者やテナント管理者等が行ってもよい。
【0159】
図21は、通信端末30Aが表示するデバイス登録画面220の一例である。ユーザーAは情報処理システム50にログイン等によって認証されている状態である。ログインすることでユーザーAが所属するテナントが特定される。ユーザーAはデバイス登録画面220の表示を情報処理システム50に要求し、通信端末30Aは情報処理システム50から受信したデバイス登録画面220を表示する。デバイス登録画面220によりまず、デバイスがテナントに登録される。
【0160】
デバイス登録画面220は、撮像装置登録ボタン221、VRゴーグル登録ボタン222、スマートグラス登録ボタン223を有している。デバイスの種類ごとにボタンが用意されるのは、カメラの有無、登録に使用される情報等に違いがあるためである。また、デバイスの種類ごとにデバイスが登録されるので、情報処理システム50ではデバイスの種類も把握できる。
【0161】
撮像装置登録ボタン221は、ユーザーAが撮像装置10を登録するためのボタンであり、VRゴーグル登録ボタン222はVRゴーグル89を登録するためのボタンであり、スマートグラス登録ボタン223はスマートグラス88を登録するためのボタンである。
【0162】
図22は、撮像装置登録ボタン221が押下された場合に表示される画面の一例である。
図22(a)は、撮像装置登録ダイアログ230を示す。撮像装置登録ダイアログ230は、撮像装置10の名称欄231と、説明欄232と、次へボタン233を有している。ユーザーAは登録する撮像装置10であることが分かるように撮像装置10の名称欄231に任意の名称を設定し、説明欄232に説明を設定する。
【0163】
ユーザーAが次へボタン233を押下すると、通信端末30Aが二次元コードを情報処理システム50に要求し、通信端末30Aが二次元コードを表示する。
【0164】
図22(b)は、通信端末30Aが表示した二次元コード画面240の一例である。二次元コード画面240は、「××(名称欄に入力した名称)というデバイスを登録するため、以下の二次元コードをスキャンして下さい」というメッセージ241、及び、二次元コード242を有している。ユーザーAは二次元コード242を登録したい撮像装置10で撮像する。二次元コード242には、撮像装置10が自身の登録のために接続するURL、一時的なIDとパスワードといった登録に必要な認証情報が含まれている。
【0165】
ユーザーAが撮像装置10で二次元コード242を撮像すると、撮像装置10がURLに接続し、一時的なIDとパスワードで認証を受ける。認証が成功すると、正式な撮像装置IDが交換され、撮像装置10の名称、説明、及び、撮像装置IDがテナントに登録される。撮像装置10もこの撮像装置ID、名称、及び説明を保持する。テナントに登録された撮像装置10は、後述するユーザーAの操作に応じて仮想ルームに対応付けられる。なお、二次元コード242はコード情報の一例であって、同様の認証情報が埋め込まれていればよく、バーコード等の他の形態のコードであってもよい。
【0166】
続いて、
図23を参照して、VRゴーグル89やスマートグラス88等の通信端末のテナントへの登録方法の一例を説明する。
図23は、VRゴーグル登録ボタン222が押下された場合に表示されるVRゴーグル登録画面250の一例である。VRゴーグル登録画面250は、一時コード入力欄251と、シークレット入力欄252を有している。
【0167】
VRゴーグル89がカメラを有さない場合には二次元コードを撮像できない。このため、ユーザーAはVRゴーグル89に一時コード(一時的なID)と、シークレット(パスワード)を出力させ(表示させ)、一時コード入力欄251と、シークレット入力欄252に入力してもよい。通信端末30Aは一時コードとシークレットを情報処理システム50に送信することで、VRゴーグル89をテナントに登録する。VRゴーグル89が情報処理システム50に接続し、一時コードとシークレットを送信することで、認証を受ける。認証が成功すると、正式なVRゴーグルIDが交換され、VRゴーグルIDがテナントに登録される。VRゴーグル89もこのVRゴーグルIDを保持する。テナントに登録されたVRゴーグル89は、後述するユーザーAの操作に応じて仮想ルームに対応付けられる。スマートグラス88については詳細を説明するが、ユーザーAは撮像装置10又はVRゴーグル89と同様に登録できる。なお、一時コードとシークレットは認証情報の一例であって、他の情報を認証情報に用いてもよい。なお、撮像装置ID、VRゴーグルID、スマートグラスIDはそれぞれデバイスIDの一例であるため、デバイスIDと言い換えることができる。そのため、撮像装置10、VRゴーグル、スマートグラス以外のデバイスを登録する際にも同様の手順によってデバイスIDを仮想ルームやテナントとの関連付けに利用することができる。なお、デバイスIDは、デバイスの所有者に紐づく識別情報であってもよい。
【0168】
図24は、仮想ルームに撮像装置10を対応付けるための仮想ルーム対応付け画面(その1)260の一例を示す。VRゴーグル89、スマートグラス88の場合も画面構成は同じでよい。仮想ルーム対応付け画面(その1)260は、仮想ルームのリスト261を有している。仮想ルームのリスト261は、テナントに作成されている仮想ルームに基づいて仮想ルーム個別欄262~264を表示する。各仮想ルーム個別欄262~264は、リンク発行ボタン265と、入室ボタン266と、設定ボタン267と、仮想ルーム名称268と、を有する。リンク発行ボタン265は、仮想ルームへのリンク(招待するためのURL)とパスコードを発行するためのボタンである。入室ボタン266は仮想ルームにユーザーAが入室するためのボタンである。設定ボタン267は、仮想ルームに撮像装置10を対応付けるためのボタンである。仮想ルーム名称268は仮想ルーム情報記憶部5002に記憶されているものと同じである。したがって、ユーザーAは設定ボタン267を押下する。設定ボタン267の押下により、通信端末30Aは仮想ルーム対応付け画面(その2)270を表示する。
【0169】
また、仮想ルームにすでにデバイスが対応付けられている場合、仮想ルーム個別欄(図では仮想ルーム個別欄264)にデバイスの名称269が表示される。
【0170】
図25は、仮想ルーム対応付け画面(その2)270の一例を示す。なお、仮想ルーム対応付け画面(その2)270は仮想ルーム対応付け画面(その1)260にポップアップ表示されている。仮想ルーム対応付け画面(その1)260から仮想ルーム対応付け画面(その2)270への画面遷移は、情報処理システム50を経由しないが、経由する画面遷移も可能である。
【0171】
仮想ルーム対応付け画面(その2)270は、現在(すでに)、仮想ルームに対応付けられている撮像装置10の名称271(まだ登録されていないので図では未登録)と、接続ボタン272と、ストレージボタン273と、を有する。接続ボタン272は、仮想ルームにデバイスを対応付けるためにテナントに登録されているデバイスの一覧を対応付ける候補として表示させるボタンである。ストレージボタン273は当該仮想ルームに対応付けられている撮像装置10によって撮像された広視野画像や通常の画角の画像を保存するストレージ90の一覧を表示させるボタンである。ストレージ90の一覧には、仮想ルームに対応付けるストレージ90の一覧だけでなく、ストレージ90上のフォルダ等の特定の保存場所の一覧が含まれていてもよい。ユーザーが所定のストレージ90やストレージ90上のフォルダ等の特定の保存場所を選択することで、仮想ルームに対してストレージ90を対応付けることができる。このようにして対応付けたストレージ90の情報(ストレージ90にアクセスするためのアドレス情報やストレージ90上のフォルダ等の保存場所)は、仮想ルーム情報記憶部5002において仮想ルームIDと関連付けて記憶させることができる。接続ボタン272の押下により、通信端末30Aは仮想ルーム対応付け画面(その3)を表示する。
【0172】
通信端末30Aは情報処理システム50に仮想ルームIDを送信し、該仮想ルームが生成されているテナントに登録されているデバイスの名称(デバイスのID等も含む)、及び、仮想ルームに対応付けられているデバイスの名称(デバイスのID等も含む)を取得する。
【0173】
図26は、仮想ルーム対応付け画面(その3)280の一例を示す。仮想ルーム対応付け画面(その3)280は、現在(すでに)、仮想ルームに対応付けられている撮像装置10の名称281と、追加可能デバイス一覧282と、保存ボタン283と、を有している。ユーザーAは追加可能デバイス一覧282から仮想ルームに追加で対応付けたいデバイスを選択し、保存ボタン283を押下する。これにより、仮想ルームにデバイスが対応付けられる(仮想ルーム情報記憶部5002に撮像装置ID等のデバイスIDが登録される)。なお、
図26に示しているように、仮想ルームに対応付けられる撮像装置の数を制限してもよく、例えば上限が2台の場合に、仮想ルーム情報記憶部5002に既に登録されている撮像装置IDの数を参照することによって、追加で登録できるデバイスの残りの数を仮想ルーム対応付け画面(その3)に表示させてもよい。
【0174】
<撮像装置に対する広視野画像の送信開始処理>
以上で、撮像装置10等のデバイスが仮想ルームに対応付けられたが、ユーザーAがデバイスに対し画像の送信開始を操作する必要がある。
【0175】
VRゴーグル89とスマートグラス88については、ユーザーAがデバイス本体を操作して画像の送信をオン、オフする。これは、現在、VRゴーグル89とスマートグラス88については、通信システム1に専用のアプリケーションが動作していないためである。VRゴーグル89とスマートグラス88においても通信システム1に専用のアプリケーションが動作する場合、ユーザーAが遠隔から画像の送信をオン、オフできる。
【0176】
撮像装置10の場合、アプリケーションが有効になっていれば、ユーザーAが仮想ルームに入室してメニューから広視野画像の送信をオン、オフできる。
【0177】
図27は、通信端末30Aが表示する広視野画像送信制御ダイアログ290の一例である。広視野画像送信制御ダイアログ290は画像閲覧画面210にポップアップ表示されている。ユーザーAが通信端末30Aを操作して、撮像装置10を対応付けた仮想ルームに入室したものとする。広視野画像送信制御ダイアログ290は、この仮想ルームに対応付けられている撮像装置10の名称292を表示する。名称292の近くにトグルボタン291が表示されており、ユーザーAがトグルボタン291を操作して、撮像装置10による広視野画像の送信をオン(送信開始)又はオフ(送信停止)に設定できる。なお、トグルボタンによるオン又はオフの設定方法は一例であって、ユーザー操作の入力に応じて設定できればよい。例えば、ユーザーは、ラジオボタンや所定のアイコンの選択、メニュー操作等によって設定してもよい。また、ユーザー操作を不要として、撮像装置10が入室してから自動で広視野画像の送信を開始してもよい。また、日時や入室したユーザーの人数や特定のユーザーが参加したことなどの所定の条件を予め定めておき、その条件を満たしたことを判断した場合に、広視野画像の送信を開始してもよい。
【0178】
通信端末30Aはトグルボタン291の操作による送信制御の設定情報を情報処理システム50に送信する。情報処理システム50は送信制御の設定情報に応じた送信開始要求又は送信停止要求を撮像装置10に送信する。
【0179】
図27(a)はトグルボタン291がオフの設定の状態を示す。このため、
図27(a)では広視野画像が表示されていない。一方、
図27(a)では、通信端末30Aが入室した時点で、通信端末30Aのカメラ9が撮像した通常の画角の画像がすでに共有されており、画像閲覧画面210に表示されている。
【0180】
図27(b)はトグルボタン291がオンの設定の状態を示す。トグルボタン291のオンにより、情報処理システム50が送信開始要求を撮像装置10に送信したため、撮像装置10が広視野画像の送信を開始した。このため、1つの仮想ルームで2つの画像が共有されるので、画像閲覧画面210が2つに分割される。また、オンの設定からオフの設定に変更した場合には、オフの設定情報を通信端末30Aが送信し、情報処理システム50がオフの設定情報の受信に応じて送信停止要求を撮像装置10に送信し、撮像装置10が広視野画像の送信を停止する。
【0181】
図28で説明したように、ユーザーが仮に現場にいる状況であっても、撮像装置10によってコード情報を撮像するといった簡易な操作によって、仮想ルームに撮像装置10を関連付けることができる。現場にいるユーザーはPC等を持たないこともあるため、予め発行しておいたコード情報と撮像装置10さえあれば、その場で関連付け処理を行うことができることは現場のユーザーにとって特に有用である。また、関連付け処理を予め実施しておけば、ユーザーは仮想ルームの選択等しなくとも撮像装置10を所定の仮想ルームに接続させることができ、送信の開始又は停止についても遠隔拠点から指示できるため、現場の作業に集中したいユーザーの負担を軽減することができる。したがって、事前準備の工程においても現場と遠隔拠点でのコミュニケーションを効率的に行えるシステムを提供することができる。
【0182】
<<仮想ルームへの撮像装置の登録手順>>
次に、
図28を参照して、
図21~
図27の一連の画面遷移で説明した仮想ルームへの撮像装置10の登録手順を説明する。
図28は、ユーザーAが仮想ルームに撮像装置10を登録する手順を示すシーケンス図の一例である。
【0183】
S11:まず、ユーザーAが通信端末30Aを情報処理システム50に接続させ、認証情報(ユーザーID,パスワード等)を入力して、ログインを要求する。通信端末30Aの受付部32が操作を受け付ける。
【0184】
S12:通信端末30Aの通信部31は認証情報を指定してログイン要求を情報処理システム50に送信する。情報処理システム50の通信部51は、ログイン要求を受信し、認証部55が指定された認証情報に基づいて認証を行う。ここでは認証が成功したものとする。また、この際に情報処理システム50はテナント情報記憶部5003を参照することで、認証されたユーザーIDに関連付けられたテナントIDを特定することができる。
【0185】
S13:ユーザー操作に応じて、情報処理システム50の画面生成部52はデバイス登録画面220を生成し、通信部51がデバイス登録画面220の画面情報を通信端末30Aに送信する。
【0186】
S14:通信端末30Aの通信部31がデバイス登録画面220の画面情報を受信し、表示制御部33が
図21に示したデバイス登録画面220を表示する。ユーザーAはデバイスの種類を選択し(ここでは撮像装置10(例えば全天球カメラ)が選択されたものとする)、次いで、
図22で示したように撮像装置10の名称、説明を入力する。受付部32が入力を受け付ける。
【0187】
S15:通信端末30Aの通信部31は、ユーザーAが入力した名称と説明を指定して、コード情報(例えば二次元コード)の要求を情報処理システム50に送信する。
【0188】
S16:情報処理システム50の通信部51は、コード情報(例えば二次元コード)の要求を受信する。通信グループ管理部56は、名称と説明と関連付けてURL(登録のための接続先)を生成し、URL、一時的なID及びパスワードを含むコード情報(例えば二次元コード)を生成する。情報処理システム50の通信部51はコード情報(例えば二次元コード)を通信端末30Aに送信する。通信端末30Aの通信部31がコード情報(例えば二次元コード)を受信し、
図22で示したように表示制御部33がコード情報(例えば二次元コード)を表示する。
【0189】
S17:次に、ユーザーAは仮想ルームに対応付けたい撮像装置10を操作して、コード情報(例えば二次元コード)を撮像する。撮像装置10の受付部12が操作を受け付ける。
【0190】
S18:撮像装置10の撮像処理部13はコード情報(例えば二次元コード)を含む撮像対象に対して撮像処理を行うことで画像データを生成し、解析部14が画像データを解析してURL、一時的なID及びパスワードを抽出する。これにより、登録要求部15が接続部16を経由してURLに接続し、一時的なID及びパスワードを指定して撮像装置10の登録要求を情報処理システム50に送信する。なお、
図23で説明した登録画面による登録方法を実施する場合は、コード情報を撮像しないため、撮像装置10がVRゴーグル89やスマートグラス88等の通信端末に置き換わり、S15~S17のステップは省略することができる。
【0191】
S19:情報処理システム50の通信部51は、一時的なID及びパスワードを受信し、認証部55が接続されたURLに関連付けられている一時的なID及びパスワードと一致するかどうかを判断する。ここでは一時的なID及びパスワードが一致したものとする。
【0192】
S20:情報処理システム50の通信グループ管理部56は、撮像装置10の登録が要求されているので、デバイスIDの一例として撮像装置IDを生成し、ユーザーAがログインした際に特定したテナントIDに対応するテナントに撮像装置IDを登録する。なお、撮像装置IDには名称や説明が関連付けられている。具体的には、通信グループ管理部56が、テナント情報記憶部5003を参照し、特定したテナントIDに関連付けられるテナント登録デバイスに撮像装置IDを追加して登録する。なお、ここでは通信グループ管理部56が撮像装置IDを生成して登録しているが、撮像装置10から受信した撮像装置IDを登録してもよい。なお、撮像装置10ではなくVRゴーグル89やスマートグラス88等の通信端末をテナントに登録する場合には、同様の手順でそれぞれに対応するデバイスIDをテナント情報記憶部5003に登録することができる。
【0193】
S21:情報処理システム50の通信部51は、撮像装置IDを撮像装置10に送信する。撮像装置10の接続部16が撮像装置IDを受信し、記憶部1000に保存する。
【0194】
S22:通信端末30Aには、情報処理システム50の通信部51から登録完了が通知され、これによりユーザーAが仮想ルームへの撮像装置10の対応付けを開始することができる。ユーザーAは仮想ルーム対応付け画面(その1)260を通信端末30Aに表示させ、テナントに登録した撮像装置10を対応付けたい仮想ルームを選択する。通信端末30Aの受付部32が選択を示す操作入力を受け付ける。具体的には、通信端末30Aの受付部32がユーザーAからの操作入力を受け付けることによって、表示制御部33が仮想ルーム対応付け画面(その1)260を表示させる。この際に、通信部31は画面の更新要求を情報処理システム50の通信制御部57へ送信してもよい。情報処理システム50は更新要求を受信すると、テナント情報記憶部5003を参照し、認証されたユーザーIDに関連付けられたテナントに登録された仮想ルームIDを特定する。情報処理システム50は、さらに続けて、仮想ルーム情報記憶部5002を参照し、特定した仮想ルームIDに関連付けられた仮想ルーム名称を取得する。このようにして特定した仮想ルームID及び対応する仮想ルーム名称の情報(画面生成部52がこれらの情報に基づいて生成した画面の情報であってもよい)を情報処理システム50の通信部51は通信端末30Aへ送信する。通信端末30Aの通信部31は、仮想ルームID及び仮想ルーム名称の情報を受信し、受信した情報に基づいて表示制御部33が仮想ルーム対応付け画面(その1)260を更新表示することができる。なお、このような情報はユーザーIDに基づいて特定することができるため、認証後のS13で受信しておいてもよい。このようにして表示した仮想ルーム対応付け画面(その1)260に対してユーザーAからの選択を示す操作入力を受付部32が受け付けることによって、通信端末30Aが選択された仮想ルームIDを特定することができる。
【0195】
S23:次に、ユーザーAは仮想ルーム対応付け画面(その2)270を通信端末30Aに表示させ、デバイスを追加で仮想ルームに対応付けるために接続ボタン272を押下する。通信端末30Aの受付部32が押下を示す操作入力を受け付ける。具体的には、通信端末30Aの表示制御部33は、S22で特定した選択された仮想ルームIDに対応する仮想ルーム対応付け画面(その2)270を表示する。さらに、受付部32は、ユーザーAからデバイスを追加で仮想ルームに対応付ける指示を受け付ける(接続ボタン272の押下)。
【0196】
S24:S23における操作入力に応じて、通信端末30Aの通信部31は、仮想ルームに対応付けるデバイスの候補となるテナントに登録済みのデバイスと、ステップS22で選択された仮想ルームIDに既に対応付けられているデバイスの情報を情報処理システム50に要求する。
【0197】
S25:情報処理システム50の通信部51は、テナントに登録済みのデバイスと、選択された仮想ルームIDに対応付けられているデバイスの情報の要求を受信し、画面生成部52がテナントに登録済みのデバイスと、選択された仮想ルームIDに対応付けられているデバイスのデバイスIDを含む仮想ルーム対応付け画面(その3)280を生成する。情報処理システム50の通信部51は仮想ルーム対応付け画面(その3)280の画面情報を通信端末30Aに送信する。
【0198】
S26:通信端末30Aの通信部31が仮想ルーム対応付け画面(その3)280の画面情報を受信し、表示制御部33が仮想ルーム対応付け画面(その3)280を表示する。ユーザーAは仮想ルームに対応付けるデバイス(ここでは撮像装置10を例に説明する)を選択する。通信端末30Aの受付部32が選択を受け付け、選択されたデバイスのデバイスIDとして撮像装置IDが特定される。
【0199】
S27:通信端末30Aの通信部31は、ステップS22で選択された仮想ルームIDとS26で選択されたデバイスID(例えば撮像装置ID)を指定して、対応付け要求を情報処理システム50に送信する。
【0200】
S28:情報処理システム50の通信部51は、対応付け要求を受信し、通信グループ管理部56が仮想ルームにデバイス(例えば撮像装置10)を登録する。すなわち、通信グループ管理部56は、仮想ルーム情報記憶部5002を参照し、S27の要求で指定されている仮想ルームIDにデバイスID(例えば撮像装置ID)を関連付けて登録する。
【0201】
S29:仮想ルームにデバイスID(例えば撮像装置ID)が対応付けられたので、情報処理システム50の通信部51は、仮想ルームID,名称、説明を撮像装置10に送信する。情報処理システム50はプッシュ通知を利用してもよいし、撮像装置10がポーリングすることを利用して送信してもよい。撮像装置10の接続部16が仮想ルームID,名称、説明を受信し、記憶部1000に保存する。これにより、撮像装置10が広視野画像を送信する際は、撮像装置ID、仮想ルームID、名称、説明等を付加できる。撮像装置10以外のデバイスも同様の手順で仮想ルームに対応付けることができる。さらに続けて、情報処理システム50の通信部51は、通信端末30Aに対して対応付け完了を示す通知を送信してもよい。このステップ以降、仮想ルームに対して登録されたデバイス(撮像装置10)は、対応付けられた仮想ルームに接続することができる。ここでは、続けて撮像装置10が情報処理システム50に対して、S29で受信した仮想ルームIDを指定して仮想ルームに接続要求を送信することで、仮想ルームに接続したものとして説明を続けるが、撮像装置10が仮想ルームに接続するタイミングはユーザーの操作によって変更することができる。
【0202】
S30:通信端末30A及び情報処理システム50は、
図20で説明した入室処理を行うことで、通信端末30Aがデバイス(撮像装置10)の対応付けを行った仮想ルームに入室する。
【0203】
S31:入室後、ユーザーAが画像閲覧画面210において仮想ルームに対応付けられた撮像装置10のトグルボタン291をオンする。通信端末30Aの受付部32がオンを受け付ける。
【0204】
S32:通信端末30Aの通信部31は、デバイスID(撮像装置ID)を指定して広視野画像の送信開始要求を情報処理システム50に送信する。なお、ユーザーAが直接、撮像装置10のボタンを操作して、広視野画像の送信を開始してもよい。なお、ユーザーAの操作により、通信端末30Aの通信部31が、送信停止要求を情報処理システム50に送信する場合もある。
【0205】
S33:情報処理システム50の通信部51は、送信開始要求を受信し、デバイスID(撮像装置ID)で特定される撮像装置10に送信開始を要求する。情報処理システム50はプッシュ通知を利用してもよいし、撮像装置10がポーリングすることを利用してもよい。撮像装置10の接続部16が送信開始を受信し、撮像処理部13が撮像を開始する。画像送信制御部18が接続部16を介して決まったFPS又は帯域に応じたFPSで広視野画像の送信を繰り返す。したがって、仮想ルームに入室した通信端末30は拠点Aの状況を画像閲覧画面210にリアルタイムに表示できる。
【0206】
<広視野画像等の配信>
図29を参照して、広視野画像や通常の画角の画像が共有される流れを説明する。
図29は、広視野画像が共有される流れを説明するシーケンス図の一例である。
図29では、通信端末30A、30Bが
図20で説明した入室処理を実行し、仮想ルームに入室ずみである。また、通信端末30Aは通常の画角のカメラ9を有し、通信端末30Bと共有されている。通信端末30Aのカメラ9でなく、仮想ルームに対応付けられたスマートグラス88が撮像した画像等が共有されてもよい。また、
図29では、
図28で説明した登録手順によって、撮像装置10が同じ仮想ルームに接続済みである。
【0207】
S41:通信端末30Aの撮像部34は画像の撮像を行い、通信部31は入室している仮想ルームIDを指定して撮像した画像を含む映像及び音声を情報処理システム50に送信する。
【0208】
S42,S43:情報処理システム50の通信部51が画像を含む映像及び音声を受信すると、画像配信部54が同じ仮想ルームに入室している通信端末30A,30BのIPアドレスを仮想ルーム情報記憶部5002から取得し、通信部51を介して画像を含む映像及び音声を送信する。なお、
図29では、通信端末30Aの通信部31が通常の画角の画像を情報処理システム50から受信して表示しているが、撮像部34が撮像した通常の画角の画像を受信することなく表示してもよい。
【0209】
S44:次に、撮像装置10が送信開始の設定に基づく送信開始要求に応じて、撮像処理部13は広視野画像の撮像を行い、画像送信制御部18が接続部16を介して自機が登録されている仮想ルームID、撮像装置ID、名称、説明を指定して広視野画像を含む映像及び音声を、情報処理システム50に送信する。
【0210】
S45,S46:情報処理システム50の通信部51が広視野画像を含む映像及び音声を受信すると、画像配信部54が同じ仮想ルームに入室している通信端末30A,30BのIPアドレスを仮想ルーム情報記憶部5002から取得し、通信部51を介して広視野画像を含む映像及び音声を送信する。
【0211】
S47:次に、カメラ9を備えた通信端末30Cが
図20で説明した入室処理を実行することで新しく仮想ルームに入室した。
【0212】
S48:通信端末30Cの通信部31は通常の画角の画像を含む映像及び音声を情報処理システム50に送信する。
【0213】
S49~S51:情報処理システム50の通信部51は通信端末30Cから通常の画角の画像を含む映像及び音声を受信し、同じ仮想ルームに入室している通信端末30A~30CのIPアドレスを仮想ルーム情報記憶部5002から取得し、画像配信部54が通常の画角の画像を含む映像及び音声を送信する。
【0214】
S52:また、情報処理システム50の通信部51は同じ仮想ルームに入室した通信端末30Cに対しても、広視野画像を含む映像及び音声を送信する。
【0215】
このように、同じ仮想ルームに入室したユーザーA,Bは、仮想ルームに対応付けられた撮像装置10が撮像する広視野画像を含む映像をリアルタイムに共有できる。なお、
図29で示した、各画像の送信順は一例であり、広視野画像が先に共有されてもよいし、通常の画角の画像が先に共有されてもよい。
【0216】
スマートグラス88とVRゴーグル89について補足する。スマートグラス88は通常の画角のカメラと表示機能を有している。スマートグラス88が保持するカメラが撮像した通常の画角の画像は、カメラ8,9と同様に配信される。スマートグラス88が保持する表示機能は、通常のディスプレイと同様に平面なので、ユーザーが指示する視点で広視野画像の一部が表示される。VRゴーグル89は表示機能を有している(通常の画角のカメラをさらに有していてもよい)。スマートグラス88が保持する表示機能は、ユーザーの頭部の向きによって決まる視点の広視野画像を投影するので、ユーザーの頭部の向きに応じた視点で広視野画像の一部が表示される。ユーザーは、スマートグラス88やVRゴーグル89で広視野画像を閲覧中に、閲覧中の視点情報を指定した撮像要求を情報処理システム50に送信できる。
【0217】
<対象物の追従表示>
続いて、対象物を追従する記録映像の作成について説明する。広視野画像をユーザーが閲覧する場合に、特定の対象物を対象物が映り続ける状態で閲覧したくても、対象物が移動してしまえば、手動で視点を変える必要があり、対象物を自動で追従しながら視点を変えて記録映像を閲覧することができなかった。
【0218】
そこで、本実施形態では、ユーザーが広視野画像の中の注視したい対象物を特定することで、通信端末30が、対象物の移動に追従して視点を変更する。
【0219】
これにより、注目したい対象物が移動しても広視野画像から切り出した画角から対象物がフレームアウトすることなく、ユーザーが対象物を見失うことがなくなる。遠隔コミュニケーションを行っている際の各拠点の視点は、注目させたい対象物の動きの有無に関わらず映り続けている可能性が高く、各拠点の閲覧者の視点を活用することで、動きの有無に関係なく注目させたい被写体を追従対象物として提案することができる。
【0220】
<記録映像の録画>
まず、
図30を参照して、閲覧者が閲覧視点と共に記録映像を録画する処理を説明する。
図30は、通信端末30が遠隔コミュニケーション中に、閲覧者が閲覧した記録映像を録画するシーケンス図である。通信端末30は、撮像装置10が撮像したリアルタイムの広視野画像をすでに閲覧している。リアルタイムとは最大の遅延時間が保証されていることをいう。
【0221】
S101:閲覧者が入室した仮想ルームに登録されている撮像装置10は繰り返し、広視野画像と音声を情報処理システム50に送信する。
【0222】
S102:情報処理システムの通信部51は、仮想ルームに入室している通信端末30に広視野画像と音声を送信する。通信端末30は二台以上あってよい。通信端末30の通信部31は広視野画像と音声を受信し、表示制御部33がこれらを動画として表示する。
【0223】
S103:閲覧者が録画開始操作として、通信端末30で動作するWebアプリに対し、録画ボタンを押下する。録画ボタンは、広視野画像の動画である記録映像を閲覧視点と共に保存するためのボタンである。受付部32が録画ボタンの押下を受け付ける。
【0224】
S104:通信端末30の通信部31は、録画開始を情報処理システム50に要求する。
【0225】
S105:情報処理システムの通信部51は録画開始要求を受信し、記録部61が、広視野画像の録画(動画)を開始する。
【0226】
S106:閲覧者はWebアプリが表示する広視野画像の視点を任意に変更しながら閲覧できる。
【0227】
S107:受付部32は閲覧者が変更する視点を随時、受け付け、表示制御部33が、操作に応じて広視野画像の所定領域をディスプレイに表示する。したがって、閲覧者の操作に応じて所定領域が移動する。
【0228】
S108:通信端末30の通信部31は、閲覧者が操作した閲覧視点を含む視点移動情報を情報処理システムに変更の度に送信する。上記のように、視点移動情報では、録画開始時刻を基準とする録画の経過時間に閲覧視点が対応付けられている。視点移動情報は、録画停止時に送信されてもよい。
【0229】
S109:閲覧者が録画終了操作として、通信端末30で動作するWebアプリに対し録画停止ボタンを押下する。受付部32が録画停止ボタンの押下を受け付ける。
【0230】
S110:通信端末30の通信部31は、録画停止を情報処理システム50に要求する。
【0231】
S111:情報処理システムの通信部51は録画停止要求を受信し、記録部61が、記録映像の録画を停止する。
【0232】
S112:記録部61は録画開始してから録画停止するまでの記録映像と視点移動情報を記録映像IDに対応付けて記録映像記憶部5004に保存する。
【0233】
<追従対象物を用いた追従視点付き記録映像の作成>
次に、
図31を参照して、視点移動情報を用いた追従視点付き記録映像の作成について説明する。
図31は、情報処理システムが、視点移動情報を用いて追従視点付き記録映像を作成する処理を説明するシーケンス図の一例である。なお、以下の通信端末30は、広視野画像の閲覧に使用された通信端末30に限らず任意の端末装置でよい。
【0234】
S201:ユーザーが通信端末30を操作し、例えばテナントに登録されている記録映像のリストを情報処理システム50に要求する。情報処理システム50の画面生成部52は、記録映像記憶部5004に保存されている記録映像のリストで、
図32に示す記録映像選択画面400を生成し、通信端末30に送信する。これにより、通信端末30の通信部31は記録映像のリストを受信し、表示制御部33が記録映像選択画面400に記録映像のリストを表示する。
【0235】
S202:ユーザーは記録映像選択画面400に対し、追従対象物を設定したい記録映像を選択する。
【0236】
S203:受付部32が選択を受け付け、通信部31が選択された記録映像IDを指定して追従対象物の抽出を情報処理システム50に送信する。
【0237】
S204:情報処理システム50の通信部51は追従対象物の抽出要求を受信し、記憶・読出部59が記録映像記憶部5004から記録映像IDで特定される記録映像と視点移動情報を取得する。
【0238】
S205:情報処理システム50の追従映像作成部64は、記録映像と視点移動情報と共に、追従対象物の抽出を抽出部62に要求する。
【0239】
S206:抽出部62は視点移動情報を元に追従対象物を抽出する。まず、抽出部62は、広視野画像に対して画像認識を行い、認識された複数の追従対象物の候補を抽出する。抽出部62は、その中から視点移動情報に基づいて、所定時間以上、表示された上位のものを追従対象物の候補に決定する。抽出部62は、追従対象物として検出すべき物体を予め学習済みである。検出すべき物体はユーザーが広視野画像で見たいものであるため、工事現場や医療現場など撮像装置10が設置された現場によって異なってよい。例えば、検出すべき物体は、工事現場では建設車両、工具、ビルなどであり、医療現場では術具、術野、医師、器具などである。一方、人間、一般車両、看板、階段などは現場に限らず汎用的な物体と言える。抽出部62は、これらの物体を検出する識別モデルを機械学習で構築済みである。また、抽出部62は機械学習を使用せずに例えばパターンマッチングやエッジ検出などにより追従対象物を抽出することができる。また、抽出部62は、オプティカルフローなどで動体を検出してもよい。
【0240】
そして、抽出部62は、視点移動情報に基づいて、検出された追従対象物の候補に優先順位を付与する。例えば、抽出部62が、追従対象物の候補として、建設車両、工具、ビル、人間、看板を抽出したとする。抽出部62は、視点移動情報を参照することで視点が変化してから次に変化するまでの時間に、所定領域に入っている追従対象物の候補を判断し、各追従対象物の候補の閲覧継続時間を測定する。閲覧継続時間が所定時間未満の物体は破棄されてよい。例えば視点移動情報によると各追従対象物の候補の閲覧継続時間が、以下のようであるとする。
【0241】
工具: 10分
ビル: 5分
建設車両:4分
人間: 3分
看板: 1分
この場合、抽出部62は、工具、ビル、建設車両、人間、ゲートの順に高い優先順位を付与する。
【0242】
なお、本実施形態では、この後、ユーザーによる追従対象物の選択により追従視点付き記録映像が作成されるが、ユーザーの選択なしに追従視点付き記録映像が作成されてもよい。この場合、追従映像作成部64は、優先順位が上位N個の追従対象物の候補をそれぞれ使用して追従視点付き記録映像を作成する。
【0243】
S207:抽出部62は、優先順位を付与した追従対象物の候補を追従映像作成部64に送信する。この追従対象物の候補は、各物体の代表的な静止画でよい。
【0244】
S208:情報処理システムの画面生成部52は、追従対象物の候補を優先順位に基づいて配置した追従対象物選択画面410を生成する。通信部51は、優先順位に基づいて配置された追従対象物の候補を含む追従対象物選択画面410の画面情報を通信端末30に送信する。
【0245】
S209:通信端末30の通信部31は、追従対象物選択画面410の画面情報を受信する。表示制御部33は、追従対象物の候補が優先順位に基づいて配置された追従対象物選択画面410を表示する。ユーザーは追従対象物選択画面410に対し、追従対象物としたい物体を選択する。受付部32は選択を受け付ける。
【0246】
S210:通信端末30の通信部31は、選択された追従対象物ID(追従対象物の候補の識別情報)を情報処理システムに送信する。
【0247】
S211:情報処理システムの通信部51は、追従対象物IDを受信し、追従映像作成部64が、選択された追従対象物を追従する追従視点を作成する。記録映像は広視野画像なので、通信端末30は、視点があれば追従対象物を所定領域に含むようにして記録映像を再生できる。追従映像作成部64は、追従対象物IDで指定された追従対象物の特徴量(SIFT特徴量や、エッジ形状と色ヒストグラムなど)を取得する。追従映像作成部64は、この特徴量を持つ追従対象物を記録映像のフレームごとに検出し、そのフレームにおける追従対象物の視点(動径・極角・方位角)を特定する。各フレームの視点を時系列に並べた(動径・極角・方位角)のリストが追従視点である。なお、追従対象物の視点(動径・極角・方位角)の特定はフレームごとでなく、数秒などの定期的に実行されてもよい。また、追従映像作成部64は、記録映像を広視野画像のまま追従視点と対応付けるのでなく、広視野画像から追従対象物を含む所定領域を切り取った平面画像の動画を作成してもよい。
【0248】
記録映像の開始から終了まで広視野画像に継続して追従対象物が写っていれば、情報処理システム50は重要な対象物を常に追従する記録映像を作成できる。しかし、 記録映像の開始から終了まで広視野画像に継続して追従対象物が写っていない場合もあり、この場合、追従対象物が写っている間のみの追従視点が作成されてよい。記録映像は、追従対象物が写っている間のみの一部が切り取られて保存されてもよいし、全体が保存されてもよい。記録映像の一部のみが保存されると動画サイズを小さくでき、通信負荷を低減できる。
【0249】
S212:情報処理システムの通信部51は、記録映像を追従視点で再生するWebアプリを通信端末30に送信する。このWebアプリとしては
図36にて後述する映像ビューワー450がある。映像ビューワー450は、動画である記録映像を、追従視点に基づいて視点を変えながら記録映像の所定領域を表示するプログラムである。
【0250】
S213:通信端末30の通信部31は、記録映像を追従視点で再生するWebアプリを受信する。表示制御部33が追従視点で記録映像を再生する(
図36参照)。これにより、ユーザーは追従視点が適切に設定されたか確認できる。確認できたユーザーはWebアプリに追従視点情報を保存する旨を入力する。
【0251】
S214:受付部32が追従視点情報を保存する旨の入力を受け付け、通信部31が追従視点の保存要求を情報処理システム50に送信する。
【0252】
S215:情報処理システムの通信部51は追従視点の保存要求を受信し、記録・読出部59が記録映像に対応付けて記録映像記憶部5004に追従視点情報を保存する。
【0253】
S216:情報処理システム50の通信部51は、追従視点のURLなど保存場所情報を通信端末30に送信する。通信端末30の通信部31は、保存場所情報を受信し、表示制御部33が表示する。保存場所情報は、記録映像を報告書などにユーザーが張り付けるために表示される。こうすることで、ユーザーは記録映像を、自作アプリにリンクやiframeなどで埋め込むことができ、動画をURLで提供できる。ただし、本実施形態では、保存場所情報は後述するようにWebアプリ上で報告書に設定可能である。
【0254】
図32は、追従視点の作成時に通信端末30のWebアプリが表示する画面を示す。
図32(a)は、記録映像選択画面400を示し、
図32(b)は追従対象物選択画面410を示す。
【0255】
記録映像選択画面400には、ユーザーが追従視点を作成可能な記録映像の一覧が表示される。ユーザーが追従視点を作成可能な記録映像は、例えばユーザーと同じテナントに対応付けられた記録映像である。
【0256】
ユーザーは記録映像選択画面400から追従対象物を自動で抽出する記録映像を選択し、追従対象物抽出ボタン401を押下する。追従対象物抽出ボタン401は、記録映像から追従対象物の候補を抽出させるボタンである。
【0257】
ユーザーが追従対象物抽出ボタン401を押下すると、上記のように抽出部62が追従対象物の候補を記録映像から抽出し、通信端末30が
図32(b)の追従対象物選択画面410を表示する。追従対象物選択画面410には、記録映像で閲覧継続時間が長い順に(優先順位にしたがって)、記録映像から抽出された追従対象物の候補412が表示される。閲覧者は任意に視点を変えながら広視野画像を閲覧するので、閲覧者が重要と感じた対象物が所定領域に含まれている。追従対象物選択画面410には閲覧者が重要と感じた対象物の候補412が閲覧継続時間の長い順に表示されるので、ユーザーは、重要な対象物を追従する記録映像を容易に作成できる。閲覧者が熟練者の場合、熟練者が注視した対象物を追従する追従視点をユーザーが作成できる。
【0258】
ユーザーは、追従させたい追従対象物をラジオボタン411で選択し、追従視点生成ボタン413を押下する。これにより、追従映像作成部64が追従対象物を追従する追従視点を作成する。
【0259】
<記録映像を用いた報告書の作成>
続いて、
図33、
図34を参照して、追従視点付きの記録映像を用いた報告書の作成と閲覧について説明する。
【0260】
図33は、記録映像を用いた報告書をユーザーが作成する処理を説明するシーケンス図である。
【0261】
S301:ユーザーが通信端末30を操作し、例えばテナントに登録されている報告書の種類を情報処理システム50に要求する。これにより、通信端末30の通信部31は、報告書の種類を受信し、表示制御部33が報告書の種類を表示する。
【0262】
S302:ユーザーは表示された報告書の種類から、作成したい報告書の種類を選択する。
【0263】
S303:受付部32が選択を受け付け、通信部31が選択された報告書のひな形(テンプレート)を情報処理システム50に要求する。
【0264】
S304:情報処理システム50の通信部51は報告書のひな形の要求を受信し、記憶・読出部59が報告書記憶部5005から報告書のひな形を取得する。報告書はデータベースに登録されている項目と、項目ごとの値である。ひな形の場合、項目には何もないか、又は、初期値が設定されている。
【0265】
S305:情報処理システム50の画面生成部52は、報告書のひな形を用いた報告書作成画面420(
図34参照)を生成する。文書作成部63は、この報告書作成画面420の画面情報を、通信部51を介して通信端末30に送信する。なお、報告書は、例えばHTML文書で作成されていてもよいし(Webページとして表示される)、ワープロソフト等のファイルでもよい(ファイルそのものが送信される)。
【0266】
S306:通信端末30の通信部31は、報告書のひな形を用いた報告書作成画面420の画面情報を受信する。表示制御部33が報告書作成画面420を表示する。ユーザーは報告書に必要事項を入力し、追従視点付きの記録映像のリストを表示させる追加ボタン425を押下する。
【0267】
S307:受付部32が追加ボタン425の押下を受け付け、通信部31が追従視点付きの記録映像のリストを情報処理システム50に要求する。
【0268】
S308:情報処理システムの通信部51は追従視点付きの記録映像のリスト要求を受信し、記録・読出部59が記録映像記憶部5004から追従視点付きの記録映像のリストを取得する。
【0269】
S309:情報処理システム50の画面生成部52は、追従視点付きの記録映像のリストを用いた追従視点付き記録映像選択画面430(
図34参照)を生成する。文書作成部63は、通信部51を介して、追従視点付き記録映像選択画面430の画面情報を通信端末30に送信する。
【0270】
S310:通信端末30の通信部31は、追従視点付きの記録映像のリストを用いた追従視点付き記録映像選択画面430の画面情報を受信する。表示制御部33が追従視点付き記録映像選択画面430を表示する。ユーザーは報告書に保存先を示すリンクを埋め込みたい追従視点付きの記録映像を選択する。
【0271】
S311:受付部32が追従視点付きの記録映像の選択を受け付け、通信部31が追従視点IDを情報処理システム50に送信する。なお、通信部31は、報告書の内容も情報処理システム50に送信する。
【0272】
S312:情報処理システムの通信部51は追従視点IDと報告書の内容を受信し、文書作成部63が報告書を作成する。すなわち、文書作成部63が報告書に追従視点付きの記録映像のリンクを埋め込む。リンクを埋め込むとは、保存先情報(例えばURL)を報告書に記載、保存又は対応付けることをいう。あるいは、文書作成部63がHTMLにおけるiframeタグを使用する場合、iframeタグを報告書に記載することをいう。iframeタグはHTML文書の中に、もうひとつ別のHTMLファイルを組み込むためのタグである。書式は以下のとおりである。
<iframe src="iframe.html" width="200″ height="100″></iframe>
src属性は、記録映像と追従視点情報の保存先情報が指定される。width属性は記録映像の幅が指定される。height属性は記録映像の高さが指定される。
【0273】
S313:情報処理システム50の文書作成部63は、追従視点付きの記録映像のリンクが埋め込まれた報告書を報告書記憶部5005に保存する。
【0274】
なお、
図33では、ユーザーが報告書に追従視点付きの記録映像のリンクを埋め込んでいるが、追従視点付きの記録映像は、報告書がなくても表示できる。この場合、ユーザーは通信端末30を情報処理システム50に接続させ、
図34の記録映像選択画面430と同様の追従視点付き記録映像のリスト431から追従視点付きの記録映像を選択して表示できる。
【0275】
図34は、通信端末30が表示する報告書作成画面420を示す。
図34(a)は報告書作成画面420を示し、
図34(b)は追従視点付き記録映像選択画面430を示す。報告書作成画面420は、HTMLファイルで作成されたWebアプリでもよいし、任意のワープロソフトウェアのファイルを表示したものでもよい。
図34では報告書作成画面420は、HTMLファイルで作成されたWebアプリとする。
【0276】
報告書作成画面420は、報告書に記載される件名欄421、作成日欄422、場所名欄423、報告内容欄424、を有している。ユーザーは件名欄421に任意の件名を入力する。ユーザーは作成日欄422に報告書の更新日を入力する。作成日欄422には当日の日付けが自動で入力されてもよい。ユーザーは場所名欄423に映像が撮像された場所を入力する。ユーザーは報告内容欄424に任意の報告内容を入力する。
【0277】
ユーザーが追従視点付きの記録映像のリンクを埋め込みたい場合、報告書作成画面420の追加ボタン425を押下する。追加ボタン425は、追従視点付きの記録映像のリンクを報告書に埋め込むためのボタンである。追加ボタン425の押下により追従視点付き記録映像選択画面430が例えばポップアップ表示される。なお、追従視点が添付されていない記録映像が含まれてもよい。
【0278】
追従視点付き記録映像選択画面430には、追従視点付き記録映像のリスト431が表示される。追従視点付き記録映像のリスト431には、追従視点IDが対応付けて表示される。追従視点IDは同じ記録映像を異なる追従視点で再生可能とする。
図34では、追従視点IDは数値だが、ユーザーがわかりやすい文字や記号が付されていてよい。
【0279】
ユーザーが追従視点付き記録映像を選択し、登録ボタン432を押下すると、文書作成部63が追従視点付き記録映像の保存先情報のリンクを報告書に埋め込む。報告書の追加ボタン425は追従視点付き記録映像のファイル名に置き換わる。したがって、追加ボタン425は追従視点付きの記録映像のリンクの設定欄でもある。
【0280】
<報告書の閲覧>
次に、
図35、
図36を参照して、ユーザーが報告書を閲覧する流れを説明する。
図35は、ユーザーが報告書を閲覧する処理を説明するシーケンス図である。
【0281】
S401:ユーザーが通信端末30を操作し、例えばテナントに登録されている報告書のリストを情報処理システム50に要求する。これにより、通信端末30の通信部31は、報告書のリストを受信し、表示制御部33が報告書の種類を表示する。
【0282】
S402:ユーザーは表示された報告書のリストから、閲覧したい報告書の種類を選択する。
【0283】
S403:受付部32が選択を受け付け、通信部31が選択された報告書を情報処理システムに要求する。
【0284】
S404:情報処理システム50の通信部51は報告書の要求を受信し、記憶・読出部59が報告書記憶部5005から指定された報告書を取得する。
【0285】
S405:情報処理システム50の提供部65は、情報処理システム50の画面生成部52は、報告書を用いた報告書画面440(
図36参照)を生成する。提供部65は、この報告書画面440の画面情報を、通信部51を介して通信端末30に送信する。なお、報告書は、例えばHTML文書で作成されていてもよいし(Webページとして表示される)、ワープロソフト等のファイルでもよい(ファイルそのものが送信される)。
【0286】
S406:通信端末30の通信部31は、報告書を用いた報告書画面440の画面情報を受信する。表示制御部33が報告書画面440を表示する。ユーザーは報告書を閲覧すると共に、追従視点付きの記録映像を閲覧する場合はリンクを押下する。リンクは、例えば追従視点付き記録映像のファイル名などに埋め込まれている。
【0287】
S407:受付部32がリンクの押下を受け付け、通信部31がリンクで特定される追従視点付き記録映像を情報処理システム50に要求する。
【0288】
S408:情報処理システムの通信部51は追従視点付きの記録映像の要求を受信し、記録・読出部59が記録映像記憶部5004からリンク(
図18のリンクの項目)を保存先とする追従視点付き記録映像を取得する。
【0289】
S409:情報処理システム50の提供部65は、追従視点付き記録映像を通信端末30に送信する。提供部65はストリーミング再生のように、追従視点がディスプレイに含まれる所定領域のみの映像を通信端末30に送信してもよい。
【0290】
S410:通信端末30の通信部31は、追従視点付き記録映像を受信する。表示制御部33が追従視点付き記録映像を再生する。表示制御部33は、追従視点に基づいて記録映像の所定領域をディスプレイに表示する。したがってディスプレイには追従対象物が(好ましくは常に)表示される。追従対象物が写っていない時間帯では追従対象物が表示されないこともある。
【0291】
追従視点付き記録映像を再生する再生のパターンとして、以下の2パターンがある。
【0292】
・リンクが単にURLの場合、表示制御部33は別ウィンドウで映像ビューワーを開き、記録映像を再生する。
【0293】
・リンクがiframeタグで記載されている場合、表示制御部33は報告書内に記録映像を再生する。
【0294】
図36は、通信端末30が表示する報告書画面440と記録映像の一例である。
図36(a)は、報告書画面440を示し、
図36(b)は、映像ビューワー450が表示する追従視点付き記録映像を示す。報告書には、ユーザーが設定した追従視点付き記録映像のファイル名441が記載されている。このファイル名441には、追従視点付き記録映像のリンクが埋め込まれている。ユーザーがファイル名441を押下すると、映像ビューワー450が表示される。
【0295】
映像ビューワー450は、追従対象物を自動的に追従する記録映像を再生する。映像ビューワー450は、動画である記録映像を、追従視点に基づいて視点を変えながら記録映像の所定領域を表示する。ユーザーは、手動で視点を変えることなく、特定の対象物を対象物が映り続ける状態で閲覧できる。すなわち、注目したい対象物が移動しても広視野画像から切り出した画角から対象物がフレームアウトすることなく、ユーザーが対象物を見失うことがなくなる。また、各拠点の閲覧者の視点を活用し、重要な被写体を映り続ける状態で閲覧できる。なお、ユーザーは手動で視点を変えることも可能である。
【0296】
<遠隔医療における通信システムの適用例>
図37は、通信システム1が遠隔医療に適用された遠隔コミュニケーションの一例を説明する図である。なお、
図37の説明においては、主に
図1との相違を説明する。
図37の拠点Aは手術室であるが、(1)~(6)の処理の流れについては
図1と同様でよい。
図37において、患者は手術台355に乗せられ、医師等の医療従事者による手術を受ける。医療従事者(ユーザーに相当する)は鉗子やメスなど各種の術具354を使用して、患者を手術する。また、医療従事者はスマートグラス88を装着でき、医療従事者の術野の画像を通信ネットワークNに送信できる。また、手術室には、術場カメラ351、術野カメラ352、内視鏡353など、各種のカメラが撮像装置10と同様の撮像装置として配置される。また、これらの撮像装置はいずれも広視野画像を生成するための画像を撮像する撮像機能を有していてもよい。手術室の全ての撮像装置及びスマートグラス88は仮想ルームと対応付けられることができる。
【0297】
手術室には、患者のバイタルや医療機器の動作状態等をモニターするメインユニット356が配置される。メインユニット356が本実施形態の通信端末30に相当する。手術室にある通信端末30(メインユニット356)は
図1の機能に加えて、内視鏡353や術野カメラ352の映像を受信する機能も備えていてもよい。通信端末30は受信した広視野画像を含む映像をディスプレイ306に表示できるし、情報処理システム50に通信端末30の拠点の映像として送信することができる。操作パネル357は各種操作を受け付ける入力インターフェースであって、医療従事者が手術室にある機器を、操作パネル357を介して操作できるようにしてもよい。また、内視鏡353、術場カメラ351及び術野カメラ352は通信端末30を介さずに直接、情報処理システム50と通信してもよい。このように、複数の撮像装置10を同じ仮想ルームに対応付けることができるため、遠隔拠点のユーザーは拠点Aの現場の様々なシーンを切り取った広視野画像の撮像を要求することができる。例えば、患者の体内を撮像したい場合には内視鏡353に対応する撮像装置に対して撮像要求を送信し、手術室全体の状況を撮像したい場合には術場カメラ351に対応する撮像装置に対して撮像要求を送信することができる。
【0298】
また、通信端末30は電子カルテシステムの機能を備えていてもよいし、電子カルテシステムと通信する機能を備えていてもよい。通信端末30はディスプレイ306に広視野画像と共に電子カルテの情報を表示してもよい。また、ストレージ90が電子カルテシステムであってもよい。このような場合に、撮像要求に応じて撮像した広視野画像(及び関連付けられた視点情報)は、関連付け処理部53によって患者の電子カルテと関連付けて保存されてもよい。また、ストレージ90の保存場所が示すフォルダは、患者や手術ごとに分類されていてもよい。また、仮想ルーム情報記憶部5002には、患者や手術内容を示す情報が関連付けて記憶されていてもよい。このようにすることで、通信端末の閲覧画面に常に患者や手術に関する情報を表示し続けることができる。
【0299】
図38を参照して、医療現場で記録映像に撮像される追従対象物について説明する。
図38は、医療現場を撮像した記録映像について追従視点の作成時に通信端末30のWebアプリが表示する画面を示す。
図38(a)は、記録映像選択画面400を示し、
図38(b)は追従対象物選択画面410を示す。記録映像選択画面400の構成は
図32(a)と同じであるが、記録映像が異なっている。
【0300】
図38(b)に示すように、追従対象物選択画面410には、医療現場を撮像装置10が撮像した記録映像から、医療に関する追従対象物の候補が表示されている。追従対象物の候補として、医師、メインユニット、術野、医療器具が抽出されている。抽出部62がこのような追従対象物を抽出するには、予めこれらの物体を機械学習などで識別できるようにしておく方法がある。
【0301】
<主な効果>
以上説明したように、本実施形態の通信システム1は、記録映像を記録した際の視点移動情報を使用して、追従視点情報を作成するので、閲覧者が重要と判断した対象物を追従する追従視点情報を容易に作成できる。
【0302】
また、ユーザーが広視野画像を閲覧する場合に、特定の対象物が映り続ける状態で閲覧したくても、対象物が移動してしまえば、手動で視点を変える必要があり、対象物を自動で追従しながら視点を変えて広視野画像を閲覧することができなかった。
【0303】
本実施形態の通信システムは、広視野画像の中の注視したい対象物を特定することで、対象物の移動に追従して視点を変更することができる。これにより、注目したい対象物が移動してもフレームアウトすることがなく、見失うことがなくなる。
【0304】
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
【0305】
例えば、通信端末30と情報処理システム50は例えばWebアプリを実行してる形態を説明したが、通信端末30はネイティブアプリを実行してもよい。この場合、画面の構成はネイティブアプリが有しており、情報処理システム50はネイティブアプリが表示する情報を通信端末30に送信する。
【0306】
例えば、
図13などの構成例は、情報処理システム50、撮像装置10、及び、通信端末30による処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。情報処理システム50、撮像装置10、通信端末30の処理は、処理内容に応じてさらに多くの処理単位に分割することもできる。また、1つの処理単位がさらに多くの処理を含むように分割することもできる。
【0307】
上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
【0308】
また、実施例に記載された装置群は、本明細書に開示された実施形態を実施するための複数のコンピューティング環境のうちの1つを示すものにすぎない。ある実施形態では、情報処理システム50は、サーバクラスタといった複数のコンピューティングデバイスを含む。複数のコンピューティングデバイスは、ネットワークや共有メモリなどを含む任意のタイプの通信リンクを介して互いに通信するように構成されており、本明細書に開示された処理を実施する。
【0309】
さらに、情報処理システム50は、開示された処理ステップ、例えば
図30,
図31,
図33,
図35等を様々な組み合わせで共有するように構成できる。例えば、所定のユニットによって実行されるプロセスは、情報処理システム50が有する複数の情報処理装置によって実行され得る。また、情報処理システム50は、1つのサーバ装置にまとめられていても良いし、複数の装置に分けられていても良い。
<請求項に関する付記>
[請求項1]
広範囲の視野角を有する広視野画像を撮像可能な撮像装置と、該撮像装置が撮像した広視野画像を含む映像を通信端末に送信する情報処理システムとを備える通信システムであって、
前記情報処理システムは、
前記通信端末で閲覧者が前記広視野画像を表示させた視点情報と対応付けて前記広視野画像の記録映像を保存する記録部と、
前記視点情報に基づいて前記記録映像から追従対象物を抽出する抽出部と、
前記抽出部が抽出した前記追従対象物を追従する追従視点情報を作成する追従映像作成部と、
前記追従視点情報を用いて再生される前記記録映像を前記通信端末に提供する提供部と、
を有する通信システム。
[請求項2]
前記抽出部は、前記視点情報により表示されている時間が所定時間以上の対象物を前記追従対象物に決定する請求項1に記載の通信システム。
[請求項3]
前記抽出部は、前記記録映像から画像認識により複数の対象物を検出し、前記複数の対象物のそれぞれについて、表示されている時間を前記視点情報により測定し、
前記表示されている時間が所定時間以上の前記対象物の候補を前記通信端末に送信し、前記通信端末から前記追従対象物の指定を受信する第一の通信部を有し、
前記追従映像作成部は、前記通信端末から指定された前記追従対象物を追従する前記追従視点情報を作成する請求項1又は2に記載の通信システム。
[請求項4]
前記情報処理システムと通信可能な通信端末を有し、
前記通信端末は、
前記抽出部が抽出した前記対象物の候補を、前記表示されている時間が長い順に表示する表示制御部と、
前記対象物の候補の選択を受け付ける受付部と、
前記受付部が受け付けた前記対象物の候補を前記情報処理システムに送信する第二の通信部と、
を有する請求項3に記載の通信システム。
[請求項5]
前記第一の通信部は、前記追従視点情報が対応付けられた前記記録映像へのリンクの設定欄を有する文書データのひな形を前記通信端末に送信し、
前記第一の通信部は、前記通信端末から前記設定欄に設定する前記記録映像のリストの要求に応じて、前記追従視点情報が対応付けられた前記記録映像のリストを前記通信端末に送信し、
前記通信端末により指定された、前記追従視点情報が対応付けられた前記記録映像へのリンクを前記設定欄に設定する文書作成部を有する請求項3又は4に記載の通信システム。
[請求項6]
前記提供部は、前記追従視点情報が対応付けられた前記記録映像へのリンクが前記設定欄に設定された前記文書データを前記通信端末に提供し、
前記第一の通信部が前記通信端末から前記リンクが押下された旨を受信した場合、前記提供部は、前記リンクにより特定される前記追従視点情報を用いて再生される前記記録映像を前記通信端末に提供する請求項5に記載の通信システム。
[請求項7]
前記通信端末は、
前記追従視点情報を用いて前記記録映像を再生する請求項1~6のいずれか1項に記載の通信システム。
【符号の説明】
【0310】
10 撮像装置
30 通信端末
50 情報処理システム
【先行技術文献】
【特許文献】
【0311】