IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社リコーの特許一覧

特許7533061通信端末、画像通信システム、画像表示方法およびプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-08-05
(45)【発行日】2024-08-14
(54)【発明の名称】通信端末、画像通信システム、画像表示方法およびプログラム
(51)【国際特許分類】
   H04N 23/63 20230101AFI20240806BHJP
   H04N 23/698 20230101ALI20240806BHJP
   H04N 23/60 20230101ALI20240806BHJP
   H04N 21/431 20110101ALI20240806BHJP
   H04N 21/4728 20110101ALI20240806BHJP
   G06F 3/0484 20220101ALI20240806BHJP
【FI】
H04N23/63
H04N23/698
H04N23/60 300
H04N23/63 300
H04N21/431
H04N21/4728
G06F3/0484
【請求項の数】 8
(21)【出願番号】P 2020157198
(22)【出願日】2020-09-18
(65)【公開番号】P2022050979
(43)【公開日】2022-03-31
【審査請求日】2023-07-14
(73)【特許権者】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】森田 健一郎
(72)【発明者】
【氏名】安中 英邦
(72)【発明者】
【氏名】相川 智慎
(72)【発明者】
【氏名】秋本 佑哉
(72)【発明者】
【氏名】神田 博之
(72)【発明者】
【氏名】上主 恭輔
【審査官】櫃本 研太郎
(56)【参考文献】
【文献】特開2013-236215(JP,A)
【文献】特開2017-108356(JP,A)
【文献】国際公開第99/035850(WO,A1)
【文献】特開2005-142683(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/222-5/257、21/00-21/858、
23/00、23/40-23/76、23/90-23/959
H04N 7/18
G06F 3/048-3/04895
(57)【特許請求の範囲】
【請求項1】
配信拠点に設置された複数の撮影装置の撮影画像を受信する通信端末であって、
利用者によって指定された前記配信拠点における注目点を受け付ける受付手段と、
通信管理システムに記憶された前記複数の撮影装置の設置位置情報を受信する受信手段と、
前記受付手段で受け付けられた前記注目点の位置と複数の前記撮影装置の設置位置とに基づいて、前記複数の撮影装置のうちの特定の撮影装置を選択する選択手段と、
前記選択手段で選択された前記特定の撮影装置の撮影画像における前記注目点を含む所定領域を示す所定領域情報を生成する生成手段と、
前記生成手段で生成された前記所定領域情報を取得する取得手段と、
前記取得手段で取得された前記所定領域情報に基づいて、前記特定の撮影装置の撮影画像における前記所定領域の画像である所定領域画像を表示する表示制御手段と、
を備え
前記選択手段は、前記注目点の位置を中心に分割された前記配信拠点の複数のエリアごとに前記注目点に最も近い撮影装置を、前記特定の撮影装置として選択する通信端末。
【請求項2】
前記表示制御手段は、前記配信拠点を示すマップ画像を表示させ、
前記受付手段は、前記表示制御手段で表示された前記マップ画像に対する前記注目点を受け付ける請求項1に記載の通信端末。
【請求項3】
前記表示制御手段は、前記撮影装置によって撮影された撮影画像を表示させ、
前記受付手段は、前記表示制御手段で表示された前記撮影画像に対する前記注目点を受け付ける請求項1に記載の通信端末。
【請求項4】
前記取得手段は、複数の前記撮影装置に対応する複数の前記所定領域情報を取得し、
前記表示制御手段は、前記取得手段で取得された複数の前記所定領域情報のうち少なくとも一つの所定領域情報に対応する前記所定領域画像を表示する請求項1乃至3のいずれか一項に記載の通信端末。
【請求項5】
前記撮影画像は、全天球画像である請求項1乃至のいずれか一項に記載の通信端末。
【請求項6】
配信拠点に設置された複数の撮影装置の撮影画像を受信する通信端末と、前記通信端末と通信可能な通信管理システムと、を備える画像通信システムであって、
利用者によって指定された前記配信拠点における注目点を受け付ける受付手段と、
前記受付手段で受け付けられた前記注目点の位置と複数の前記撮影装置の設置位置とに基づいて、前記複数の撮影装置のうちの特定の撮影装置を選択する選択手段と、
前記選択手段で選択された前記特定の撮影装置の撮影画像における前記注目点を含む所定領域を示す所定領域情報を生成する生成手段と、
前記生成手段で生成された前記所定領域情報に示される前記所定領域の画像である所定領域画像を表示する表示制御手段と、
を備え
前記選択手段は、前記注目点の位置を中心に分割された前記配信拠点の複数のエリアごとに前記注目点に最も近い撮影装置を、前記特定の撮影装置として選択する画像通信システム。
【請求項7】
配信拠点に設置された複数の撮影装置の撮影画像を受信する通信端末が実行する画像表示方法であって、
利用者によって指定された前記配信拠点における注目点を受け付ける受付ステップと、
通信管理システムに記憶された前記複数の撮影装置の設置位置情報を受信する受信ステップと、
前記受付ステップで受け付けられた前記注目点の位置と複数の前記撮影装置の設置位置とに基づいて、前記複数の撮影装置のうちの特定の撮影装置を選択する選択ステップと、
前記選択ステップで選択された前記特定の撮影装置の撮影画像における前記注目点を含む所定領域を示す所定領域情報を生成する生成ステップと、
前記生成ステップで生成された前記所定領域情報を取得する取得ステップと、
前記取得ステップで取得された前記所定領域情報に基づいて、前記特定の撮影装置の撮影画像における前記所定領域の画像である所定領域画像を表示する表示制御ステップと、
を実行し、
前記選択ステップは、前記注目点の位置を中心に分割された前記配信拠点の複数のエリアごとに前記注目点に最も近い撮影装置を、前記特定の撮影装置として選択する画像表示方法。
【請求項8】
配信拠点に設置された複数の撮影装置の撮影画像を受信する通信端末に、
利用者によって指定された前記配信拠点における注目点を受け付ける受付ステップと、
通信管理システムに記憶された前記複数の撮影装置の設置位置情報を受信する受信ステップと、
前記受付ステップで受け付けられた前記注目点の位置と複数の前記撮影装置の設置位置とに基づいて、前記複数の撮影装置のうちの特定の撮影装置を選択する選択ステップと、
前記選択ステップで選択された前記特定の撮影装置の撮影画像における前記注目点を含む所定領域を示す所定領域情報を生成する生成ステップと、
前記生成ステップで生成された前記所定領域情報を取得する取得ステップと、
前記取得ステップで取得された前記所定領域情報に基づいて、前記特定の撮影装置の撮影画像における前記所定領域の画像である所定領域画像を表示する表示制御ステップと、
を実行させ
前記選択ステップは、前記注目点の位置を中心に分割された前記配信拠点の複数のエリアごとに前記注目点に最も近い撮影装置を、前記特定の撮影装置として選択するプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示内容は、通信端末、画像通信システム、画像表示方法およびプログラムに関する。
【背景技術】
【0002】
複数の広角レンズまたは魚眼レンズを用いて全方位を撮影可能な撮影装置が知られている。また、このような撮影装置を用いて撮影された画像データをリアルタイムに配信し、撮影装置が設置された配信拠点の状況を、別拠点においてリアルタイムに閲覧可能なシステムが知られている。
【0003】
例えば、特許文献1には、遠隔地に配置された複数のカメラが撮像した画像を端末に表示させて、ユーザが遠隔地の様子を把握することができるシステムが開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の方法では、閲覧者が配信拠点の特定の箇所(例えば、注目点)を閲覧したい場合、配信拠点に設置された複数の撮影装置に対する個別操作を行う必要であるという課題があった。
【課題を解決するための手段】
【0005】
上述した課題を解決すべく、請求項1に係る発明は、配信拠点に設置された複数の撮影装置の撮影画像を受信する通信端末であって、利用者によって指定された前記配信拠点における注目点を受け付ける受付手段と、通信管理システムに記憶された前記複数の撮影装置の設置位置情報を受信する受信手段と、前記受付手段で受け付けられた前記注目点の位置と複数の前記撮影装置の設置位置とに基づいて、前記複数の撮影装置のうちの特定の撮影装置を選択する選択手段と、前記選択手段で選択された前記特定の撮影装置の撮影画像における前記注目点を含む所定領域を示す所定領域情報を生成する生成手段と、前記生成手段で生成された前記所定領域情報を取得する取得手段と、前記取得手段で取得された前記所定領域情報に基づいて、前記特定の撮影装置の撮影画像における前記所定領域の画像である所定領域画像を表示する表示制御手段と、を備え、前記選択手段は、前記注目点の位置を中心に分割された前記配信拠点の複数のエリアごとに前記注目点に最も近い撮影装置を、前記特定の撮影装置として選択する通信端末である。
【発明の効果】
【0006】
本発明によれば、利用者によって指定された注目点に対応する配信拠点の画像を表示させることができるという効果を奏する。
【図面の簡単な説明】
【0007】
図1】(A)は撮影装置の左側面図であり、(B)は撮影装置の正面図であり、(C)は撮影装置の平面図である。
図2】撮影装置の使用イメージ図である。
図3】(A)は撮影装置で撮影された半球画像(前)、(B)は撮影装置で撮影された半球画像(後)、(C)は正距円筒図法により表された画像を示した図である。
図4】(A)正距円筒射影画像で球を被う状態を示した概念図、(B)全天球画像を示した図である。
図5】全天球画像を三次元の立体球とした場合の仮想カメラおよび所定領域の位置を示した図である。
図6】(A)は図5の立体斜視図、(B)はディスプレイに所定領域の画像が表示されている状態を示す図である。
図7】所定領域情報と所定領域Tの画像との関係を示した図である。
図8】球座標による三次元ユークリッド空間内の点を示した図である。
図9】画像通信システムの全体構成の一例を示す図である。
図10】画像通信システムにおける配信拠点の概略を説明するための図である。
図11】撮影装置のハードウエア構成の一例を示す図である。
図12】配信端末、通信管理システムおよび通信端末のハードウエア構成の一例を示す図である。
図13】画像通信システムの機能構成の一例を示す図である。
図14】画像通信システムの機能構成の一例を示す図である。
図15】(A)は、撮影装置管理テーブルの一例を示す概略図であり、(B)は、画像種類管理テーブルの一例を示す概念図である。
図16】(A)は、セッション管理テーブルの一例を示す概略図であり、(B)は、画像種類管理テーブルの一例を示す概念図である。
図17】(A)は、所定領域管理テーブルの一例を示す概略図であり、(B)は、設置情報管理テーブルの一例を示す概念図である。
図18】配信拠点管理テーブルの一例を示す概略図である。
図19】(A)は、画像種類管理テーブルの一例を示す概略図であり、(B)は、所定領域管理テーブルの一例を示す概念図である。
図20】画像通信システムにおける特定の通信セッションへの参加処理の一例を示すシーケンス図である。
図21】通信セッションの選択画面の一例を示す図である。
図22】画像通信システムにおける画像種類情報の管理処理の一例を示すシーケンス図である。
図23】画像通信システムにおける撮影画像データおよび音データの通信処理の一例を示すシーケンス図である。
図24】画像通信システムにおける注目点の表示処理の一例を示すシーケンス図である。
図25】通信端末に表示される拠点表示画面の一例を示す図である。
図26】撮影装置の選択処理の一例を示すフローチャートである。
図27】撮影装置の選択処理の一例の概略的に説明するための図である。
図28】所定領域画像が表示された表示画面の一例を示す図である。
図29】画像通信システムにおける注目点の表示処理の変形例を示すシーケンス図である。
【発明を実施するための形態】
【0008】
以下、図面を参照しながら、発明を実施するための形態を説明する。なお、図面の説明において同一要素には同一符号を付し、重複する説明は省略する。
【0009】
●実施形態●
●全天球画像の生成方法
図1乃至図8を用いて、全天球画像の生成方法について説明する。
【0010】
まず、図1を用いて、撮影装置10の外観を説明する。撮影装置10は、全天球(360°)画像の元になる撮影画像を得るためのデジタルカメラである。図1(A)は撮影装置の左側面図であり、図1(B)は撮影装置の正面図であり、図1(C)は撮影装置の平面図である。
【0011】
図1(A)に示されているように、撮影装置10は、人間が片手で持つことができる大きさである。また、図1(A),図1(B),図1(C)に示されているように、撮影装置10の上部には、正面側(前側)に撮像素子103aおよび背面側(後側)に撮像素子103bが設けられている。これら撮像素子(画像センサ)103a,103bは、半球画像(画角180°以上)の撮影が可能な光学部材(例えば、後述するレンズ102a,102b)と併せて用いられる。また、図1(B)に示されているように、撮影装置10の正面側と反対側の面には、シャッターボタン等の操作部115が設けられている。
【0012】
次に、図2を用いて、撮影装置10の使用状況を説明する。図2は、撮影装置の使用イメージ図である。撮影装置10は、図2に示されているように、例えば、ユーザが手に持ってユーザの周りの被写体を撮影するために用いられる。この場合、図1に示されている撮像素子103aおよび撮像素子103bによって、それぞれユーザの周りの被写体が撮像されることで、二つの半球画像を得ることができる。
【0013】
次に、図3および図4を用いて、撮影装置10で撮影された画像から全天球画像が作成されるまでの処理の概略を説明する。図3(A)は撮影装置で撮影された半球画像(前側)、図3(B)は撮影装置で撮影された半球画像(後側)、図3(C)は正距円筒図法により表された画像(以下、「正距円筒射影画像」という)を示した図である。図4(A)は正距円筒射影画像で球を被う状態を示した概念図、図4(B)は全天球画像を示した図である。
【0014】
図3(A)に示されているように、撮像素子103aによって得られた画像は、後述のレンズ102aによって湾曲した半球画像(前側)となる。また、図3(B)に示されているように、撮像素子103bによって得られた画像は、後述のレンズ102bによって湾曲した半球画像(後側)となる。そして、撮影装置10は、半球画像(前側)と180度反転された半球画像(後側)とを合成して、図3(C)に示されているような正距円筒射影画像ECが作成する。
【0015】
そして、撮影装置10は、OpenGL ES(Open Graphics Library for Embedded Systems)を利用することで、図4(A)に示されているように、球面を覆うように正距円筒射影画像ECを貼り付け、図4(B)に示されているような全天球画像(全天球パノラマ画像)CEを作成する。このように、全天球画像CEは、正距円筒射影画像ECが球の中心を向いた画像として表される。なお、OpenGL ESは、2D(2-Dimensions)および3D(3-Dimensions)のデータを視覚化するために使用するグラフィックスライブラリである。また、全天球画像CEは、静止画であっても動画であってもよい。
【0016】
以上のように、全天球画像CEは、球面を覆うように貼り付けられた画像であるため、人間が見ると違和感を持ってしまう。そこで、撮影装置10は、全天球画像CEの一部の所定領域T(以下、「所定領域画像」という)を湾曲の少ない平面画像として表示することで、人間に違和感を与えない表示をすることができる。これに関して、図5乃至図8を用いて説明する。
【0017】
図5は、全天球画像を三次元の立体球とした場合の仮想カメラおよび所定領域の位置を示した図である。仮想カメラICは、三次元の立体球として表示されている全天球画像CEに対して、その画像を見るユーザの視点の位置に相当するものである。図6(A)は、図5の立体斜視図、図6(B)は、ディスプレイに表示された場合の所定領域画像を表す図である。図6(A)は、図5に示した全天球画像CEを、三次元の立体球CSで表している。このように生成された全天球画像CEが、立体球CSであるとした場合、図5に示されているように、仮想カメラICは、全天球画像CEの内部に位置している。全天球画像CEにおける所定領域Tは、仮想カメラICの撮影領域であり、全天球画像CEを含む三次元の仮想空間における仮想カメラICの撮影方向と画角を示す所定領域情報によって特定される。また、所定領域Tのズームは、仮想カメラICを全天球画像CEに近づいたり、遠ざけたりすることで表現することもできる。所定領域画像Qは、全天球画像CEにおける所定領域Tの画像である。したがって、所定領域Tは、画角αと、仮想カメラICから全天球画像CEまでの距離fにより特定できる(図7参照)。
【0018】
そして、図6(A)に示されている所定領域画像Qは、図6(B)に示されているように、所定のディスプレイに、仮想カメラICの撮影領域の画像として表示される。図6(B)に示されている画像は、初期設定(デフォルト)された所定領域情報によって表された所定領域画像である。以下、仮想カメラICの撮影方向(ea,aa)と画角(α)を用いて説明する。なお、所定領域Tは、画角αと距離fではなく、所定領域Tである仮想カメラICの撮像領域(X,Y,Z)によって示してもよい。
【0019】
次に、図7を用いて、所定領域情報と所定領域Tの画像の関係について説明する。図7は、所定領域情報と所定領域Tの画像との関係を示した図である。図7に示されているように、「ea」はelevation angle(仰角)、「aa」はazimuth angle(方位角)、「α」は画角(Angle)を示す。すなわち、仮想カメラICの姿勢は、撮影方向(ea,aa)で示される仮想カメラICの注視点が、仮想カメラICの撮影領域である所定領域Tの中心点CP(x,y)となるように変更される。図7に示されているように、仮想カメラICの画角αによって表される所定領域Tの対角画角をαとした場合の中心点CP(x,y)が、所定領域情報のパラメータ((x,y))となる。所定領域画像Qは、全天球画像CEにおける所定領域Tの画像である。fは、仮想カメラICから中心点CP(x,y)までの距離である。Lは、所定領域Tの任意の頂点と中心点CP(x,y)との距離である(2Lは対角線)。そして、図7では、一般的に以下の(式1)で示される三角関数が成り立つ。
【0020】
【数1】
【0021】
なお、上記で説明した撮影装置10は、広角画像を取得可能な撮影装置の一例であり、全天球画像は、広角画像の一例である。ここで、広角画像は、一般には広角レンズを用いて撮影された画像であり、人間の目で感じるよりも広い範囲を撮影することができるレンズで撮影されたものである。また、一般的に35mmフィルム換算で35mm以下の焦点距離のレンズで、撮影された画像を意味する。
【0022】
図8は、球座標による三次元ユークリッド空間内の点を示した図である。ここで、中心点CPを球面極座標系で表現したときの位置座標を(r,θ,φ)とする。(r,θ,φ)は、それぞれ動径、極角、方位角である。動径rは、全天球画像を含む三次元の仮想空間の原点から中心点CPまでの距離であるため、fに等しい。図8は、これらの関係を表した図である。以降、仮想カメラICの位置座標(r,θ,φ)を用いて説明する。
【0023】
●画像通信システムの概略
続いて、図9を用いて、第1の実施形態の画像通信システムの構成の概略について説明する。図9は、画像通信システムの全体構成の一例を示す図である。図9に示されている画像通信システム1は、複数の配信拠点から配信される映像等の撮影画像を、複数の閲覧拠点において表示させることで、配信拠点が撮影された広範囲な画像(例えば、全天球画像)を、リアルタイムに閲覧できるシステムである。
【0024】
図9に示されているように、画像通信システム1は、複数の配信拠点(配信拠点A、配信拠点B)のそれぞれに位置する撮影装置10(10A,10B、以下区別する必要のないときは、撮影装置10と称する。)および配信端末30(30A,30B、以下区別する必要のないときは、配信端末30と称する。)、通信管理システム50、並びに複数の閲覧拠点(閲覧拠点A、閲覧拠点B)のそれぞれに位置する通信端末70(70A,70B、以下区別する必要のないときは、通信端末70と称する。)を含む。
【0025】
画像通信システム1を構成する配信端末30、通信管理システム50および通信端末70は、通信ネットワーク100を介して通信することができる。通信ネットワーク100は、インターネット、移動体通信網、LAN(Local Area Network)等によって構築されている。なお、通信ネットワーク100には、有線通信だけでなく、3G(3rd Generation)、4G(4th Generation)、5G(5th Generation)、Wi-Fi(Wireless Fidelity)(登録商標)、WiMAX(Worldwide Interoperability for Microwave Access)またはLTE(Long Term Evolution)等の無線通信によるネットワークが含まれてもよい。
【0026】
これらのうち、撮影装置10は、上述のように、被写体や風景等を撮影して全天球画像の元になる二つの半球画像を得るための特殊なデジタルカメラである。撮影装置10によって得られる撮影画像は、動画であっても静止画であってもよく、動画と静止画の両方であってもよい。また、撮影画像は、画像とともに音声を含んでもよい。配信端末30は、USB(Universal Serial Bus)ケーブル等の有線ケーブルを介して撮影装置10から取得した画像を、通信管理システム50を介して、通信端末70に配信する。ここでは、撮影装置10Aおよび配信端末30Aは、同じ拠点である配信拠点Aに置かれている。一方、撮影装置10Bおよび配信端末30Bは、同じ拠点である配信拠点Bに置かれている。なお、配信拠点は、二拠点に限られず、一拠点のみであってもよいし、三拠点以上であってもよい。また、撮影装置10および配信端末30の接続関係は、有線ケーブルを用いた有線接続ではなく、近距離無線通信等を用いた無線接続であってもよい。
【0027】
通信管理システム50は、配信端末30および通信端末70の通信を管理および制御したり、送受信される画像データの種類(一般画像と特殊画像の種別)を管理したりする。ここでは、特殊画像は、全天球画像である。また、通信管理システム50は、画像通信のサービスを行なうサービス会社等に設置されている。
【0028】
なお、通信管理システム50は、単一のコンピュータによって構築されてもよいし、各部(機能または手段)を分割して任意に割り当てられた複数のコンピュータによって構築されてもよい。また、通信管理システム50の機能の全てまたは一部は、クラウド環境に存在するサーバコンピュータであってもよいし、オンプレミス環境に存在するサーバコンピュータであってもよい。
【0029】
通信端末70は、各閲覧拠点の利用者によって使用されるPC等のコンピュータである。通信端末70は、配信端末30から配信された画像(静止画または動画)を表示させる。通信端末70は、通信ネットワーク100を介して、撮影装置10によって撮影された撮影画像である全天球画像を取得する。また、通信端末70は、OpenGL ESをインストールしており、全天球画像の一部の領域を示す所定領域情報を作成したり、配信端末30から送られて来た全天球画像から所定領域画像を作成したりすることができる。ここでは、通信端末70Aは、利用者A1が位置する閲覧拠点Aに置かれており、通信端末70Bは、利用者Bが位置する閲覧拠点Bに置かれている。
【0030】
なお、図9に示す各端末および装置(通信端末、撮影装置および配信端末)、並びに利用者の配置は一例であり、他の例であってもよい。また、通信端末70は、PCに限られず、例えば、タブレット端末、スマートフォン、ウェアラブル端末、、PJ(Projector:プロジェクタ)、IWB(Interactive White Board:相互通信が可能な電子式の黒板機能を有する白板)または自律走行ロボット等であってもよい。
【0031】
ここで、図10を用いて、画像通信システム1における配信拠点について概略的に説明する。図10は、画像通信システムにおける配信拠点の概略を説明するための図である。図10は、配信拠点Aに配置された撮影装置10Aと配信端末30Aを示す。なお、図10は、配信拠点Aの例を説明するが、配信拠点B等の他の配信拠点においても同様である。
【0032】
図10に示されている配信拠点Aは、例えば、オフィスフロア等の空間内に、複数の撮影装置10A(撮影装置10A-1~撮影装置10A-8)、およびそれぞれの撮影装置10Aと通信可能な配信端末30Aが設置されている。なお、配信拠点は、オフィスフロアに限られず、学校、工場、倉庫、建設現場、サーバルームまたは店舗等、閲覧拠点の利用者(閲覧者)が遠隔拠点の状況を把握したいニーズが存在する空間であればよい。撮影装置10Aは、例えば、オフィスフロアに配置されたデスクの上に所定の間隔で配置されている。配信拠点Aは、複数の撮影装置10Aを用いて、配信拠点Aの全体が撮影される。また、配信端末30Aは、撮影装置10Aから撮影画像データで受信し、受信した撮影画像データを、閲覧拠点の通信端末70に配信する。なお、配信拠点Aに設置される撮影装置10Aおよび配信端末30Aの数は、これに限られない。
【0033】
従来、遠隔地に配置された複数の撮影装置によって撮影された撮影画像を、閲覧拠点から閲覧可能なシステムにおいて、配信拠点の特定の箇所の様子を見たい場合、利用者は、どの撮影装置の撮影画像を見ればよいのかがわからなかった。また、異なる閲覧拠点の利用者が異なる箇所を閲覧したい場合、撮影装置に対する操作(例えば、PTZ(pan-tilt-zoom)操作)が競合するため、同じ配信拠点を閲覧する複数の利用者がそれぞれ異なる箇所を閲覧するような排他的な閲覧を行うことができなかった。さらに、撮影装置によって上述のような全天球画像を撮影する場合であっても、複数の全天球画像を個別に操作して目的の箇所を表示させるための処理を行わなければならず、利用者が直感的に操作することができなかった。そこで、画像通信システム1は、利用者の表示画面に対する直感的な操作によって、複数の利用者が同じ撮影装置から取得した撮影画像を用いて配信拠点の異なる箇所を注目して閲覧可能にする。
【0034】
●ハードウエア構成
続いて、図11および図12を用いて、実施形態に係る画像通信システムを構成する各装置または端末のハードウエア構成を説明する。なお、図11および図12に示されているハードウエア構成は、必要に応じて構成要素が追加または削除されてもよい。
【0035】
○撮影装置のハードウエア構成○
まず、図11を用いて、撮影装置10のハードウエア構成を説明する。図11は、撮影装置のハードウエア構成の一例を示す図である。以下では、撮影装置10は、二つの撮像素子を使用した全天球(全方位)撮影装置とするが、撮像素子は二つ以上いくつでもよい。また、必ずしも全方位撮影専用の装置である必要はなく、通常のデジタルカメラやスマートフォン等に後付けの全方位撮影ユニットを取り付けることで、実質的に撮影装置10と同じ機能を有するようにしてもよい。
【0036】
図11に示されているように、撮影装置10は、撮像ユニット101、画像処理ユニット104、撮像制御ユニット105、マイク108、音処理ユニット109、CPU(Central Processing Unit)111、ROM(Read Only Memory)112、SRAM(Static Random Access Memory)113、DRAM(Dynamic Random Access Memory)114、操作部115、入出力I/F116、近距離通信回路117、近距離通信回路117のアンテナ117a、電子コンパス118、ジャイロセンサ119、加速度センサ120およびネットワークI/F121によって構成されている。
【0037】
このうち、撮像ユニット101は、各々半球画像を結像するための180°以上の画角を有する広角レンズ(いわゆる魚眼レンズ)102a,102b(以下区別する必要のないときは、レンズ102と称する。)、および各レンズに対応させて設けられている二つの撮像素子103a,103bを備えている。撮像素子103a,103bは、レンズ102a,102bによる光学像を電気信号の画像データに変換して出力するCMOS(Complementary Metal Oxide Semiconductor)センサやCCD(Charge Coupled Device)センサ等の画像センサ、この画像センサの水平または垂直同期信号や画素クロック等を生成するタイミング生成回路、およびこの撮像素子の動作に必要な種々のコマンドもしくはパラメータ等が設定されるレジスタ群等を有している。
【0038】
撮像ユニット101の撮像素子103a,103bは、各々、画像処理ユニット104とパラレルI/Fバスを介して接続している。一方、撮像ユニット101の撮像素子103a,103bは、それぞれ撮像制御ユニット105とシリアルI/Fバス(I2Cバス等)を介して接続している。画像処理ユニット104、撮像制御ユニット105および音処理ユニット109は、バス110を介してCPU111と接続している。さらに、バス110には、ROM112、SRAM113、DRAM114、操作部115、入出力I/F116、近距離通信回路117、電子コンパス118、ジャイロセンサ119、加速度センサ120およびネットワークI/F121等も接続される。
【0039】
画像処理ユニット104は、撮像素子103a,103bから出力される画像データをパラレルI/Fバスを通して取り込み、それぞれの画像データに対して所定の処理を施した後、これらの画像データを合成処理して、図3(C)に示されているような正距円筒射影画像のデータを作成する。
【0040】
撮像制御ユニット105は、一般に撮像制御ユニット105をマスタデバイス、撮像素子103a,103bをスレーブデバイスとして、I2Cバスを利用して、撮像素子103a,103bのレジスタ群にコマンド等を設定する。必要なコマンド等は、CPU111から受け取る。また、撮像制御ユニット105は、同じくI2Cバスを利用して、撮像素子103a,103bのレジスタ群のステータスデータ等を取り込み、CPU111に送る。
【0041】
また、撮像制御ユニット105は、操作部115のシャッターボタンが押下されたタイミングで、撮像素子103a,103bに画像データの出力を指示する。撮影装置10によっては、ディスプレイ(例えば、近距離通信回路117を用いて撮影装置10と近距離通信を行うスマートフォン等の外部端末のディスプレイ)によるプレビュー表示機能や動画表示に対応する機能を持つ場合もある。この場合は、撮像素子103a,103bからの画像データの出力は、所定のフレームレート(フレーム/分)によって連続して行われる。
【0042】
また、撮像制御ユニット105は、後述するように、CPU111と協働して撮像素子103a,103bの画像データの出力タイミングの同期をとる同期制御手段としても機能する。なお、本実施形態では、撮影装置10には表示部(ディスプレイ)が設けられていないが、表示部を設けてもよい。マイク108は、音を音(信号)データに変換する。音処理ユニット109は、マイク108から出力される音データをI/Fバスを通して取り込み、音データに対して所定の処理を施す。
【0043】
CPU111は、撮影装置10の全体の動作を制御すると共に必要な処理を実行する。ROM112は、CPU111のための種々のプログラムを記憶している。SRAM113およびDRAM114はワークメモリであり、CPU111で実行するプログラムや処理途中のデータ等を記憶する。特にDRAM114は、画像処理ユニット104での処理途中の画像データや処理済みの正距円筒射影画像のデータを記憶する。
【0044】
操作部115は、種々の操作ボタンや電源スイッチ、シャッターボタン、および表示と操作の機能を兼ねたタッチパネル等の総称である。ユーザは、操作部115を操作することで、種々の撮影モードや撮影条件等を入力する。
【0045】
入出力I/F116は、SDカード等の外付けのメディアまたはパーソナルコンピュータ等とのインターフェース回路(USBI/F等)の総称である。入出力I/F116は、無線、有線を問わない。DRAM114に記憶された正距円筒射影画像のデータは、入出力I/F116を介して外付けのメディアに記録されたり、必要に応じて入出力I/F116を介して外部端末(装置)に送信されたりする。
【0046】
近距離通信回路117は、撮影装置10に設けられたアンテナ117aを介して、NFC(Near Field Communication)、Bluetooth(登録商標)またはWi-Fi等の近距離無線通信技術によって、外部端末(装置)と通信を行う。近距離通信回路117は、正距円筒射影画像のデータを、外部端末(装置)に送信することができる。
【0047】
電子コンパス118は、地球の磁気から撮影装置10の方位を算出し、方位情報を出力する。この方位情報は、Exifに沿った関連情報(メタデータ)の一例であり、撮影画像の画像補正等の画像処理に利用される。なお、関連情報は、画像の撮影日時および画像データのデータ容量の各データも含む。また、ジャイロセンサ119は、撮影装置10の移動に伴う角度の変化(Roll角、Pitch角、Yaw角)を検出するセンサである。角度の変化はExifに沿った関連情報(メタデータ)の一例であり、撮影画像の画像補正等の画像処理に利用される。さらに、加速度センサ120は、三軸方向の加速度を検出するセンサである。撮影装置10は、加速度センサ120が検出した加速度に基づいて、自装置(撮影装置10)の姿勢(重力方向に対する角度)を算出する。撮影装置10は、加速度センサ120を設けることによって、画像補正の精度が向上する。ネットワークI/F121は、ルータ等を介して、インターネット等の通信ネットワーク100を利用したデータ通信を行うためのインターフェースである。
【0048】
○配信端末のハードウエア構成○
図12は、配信端末のハードウエア構成の一例を示す図である。配信端末30の各ハードウエア構成は、300番台の符号で示されている。配信端末30は、コンピュータによって構築されており、図12に示されているように、CPU301、ROM302、RAM303、HD(Hard Disk)304、HDDコントローラ305、ディスプレイ306、外部機器接続I/F308、ネットワークI/F309、バスライン310、キーボード311、ポインティングデバイス312、DVD-RW(Digital Versatile Disk Rewritable)ドライブ314、メディアI/F316、音入出力I/F317、マイク318、スピーカ319および近距離通信回路320を備えている。
【0049】
これらのうち、CPU301は、配信端末30全体の動作を制御する。ROM302は、IPL等のCPU301の駆動に用いられるプログラムを記憶する。RAM303は、CPU301のワークエリアとして使用される。HD304は、プログラム等の各種データを記憶する。HDDコントローラ305は、CPU301の制御にしたがってHD304に対する各種データの読み出しまたは書き込みを制御する。ディスプレイ306は、カーソル、メニュー、ウィンドウ、文字、または画像等の各種情報を表示する。ディスプレイ306は、表示部の一例である。なお、ディスプレイ306は、入力手段を備えたタッチパネルディスプレイであってもよい。外部機器接続I/F308は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USBメモリまたはプリンタ等である。ネットワークI/F309は、通信ネットワーク100を利用してデータ通信をするためのインターフェースである。バスライン310は、図12に示されているCPU301等の各構成要素を電気的に接続するためのアドレスバスまたはデータバス等である。
【0050】
また、キーボード311は、文字、数値、各種指示等の入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス312は、各種指示の選択もしくは実行、処理対象の選択、またはカーソルの移動等を行う入力手段の一種である。なお、入力手段は、キーボード311およびポインティングデバイス312のみならず、タッチパネルまたは音声入力装置等であってもよい。DVD-RWドライブ314は、着脱可能な記録媒体の一例としてのDVD-RW313に対する各種データの読み出しまたは書き込みを制御する。なお、DVD-RWに限らず、DVD-RまたはBlu-ray(登録商標) Disc(ブルーレイディスク)等であってもよい。メディアI/F316は、フラッシュメモリ等の記録メディア315に対するデータの読み出しまたは書き込み(記憶)を制御する。マイク318は、音声を入力する内蔵型の集音手段の一種である。音入出力I/F317は、CPU301の制御に従ってマイク318およびスピーカ319との間で音信号の入出力を処理する回路である。近距離通信回路320は、NFC、BluetoothまたはWi-Fi等の近距離無線通信技術によって、外部端末(装置)と通信を行うための通信回路である。
【0051】
○通信管理システムのハードウエア構成○
図12は、通信管理システムのハードウエア構成の一例を示す図である。通信管理システム50の各ハードウエア構成は、括弧内の500番台の符号で示されている。通信管理システム50は、コンピュータによって構築されており、図12に示されているように、配信端末30と同様の構成を備えているため、各ハードウエア構成の説明を省略する。
【0052】
○通信端末のハードウエア構成○
図12は、通信端末のハードウエア構成の一例を示す図である。通信端末70の各ハードウエア構成は、括弧内の700番台の符号で示されている。通信端末70は、コンピュータによって構築されており、図12に示されているように、配信端末30と同様の構成を備えているため、各ハードウエア構成の説明を省略する。
【0053】
なお、上記各プログラムは、インストール可能な形式または実行可能な形式のファイルで、コンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。記録媒体の例として、CD-R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、Blu-ray Disc、SDカード、USBメモリ等が挙げられる。また、記録媒体は、プログラム製品(Program Product)として、国内または国外へ提供されることができる。例えば、通信端末70は、本発明に係るプログラムが実行されることで本発明に係る画像表示方法を実現する。
【0054】
●機能構成
続いて、図13乃至図19を用いて、実施形態に係る画像通信システムの機能構成について説明する。図13および図14は、画像通信システムの機能構成の一例を示す図である。なお、図13および図14は、図9に示されている装置または端末のうち、後述の処理または動作に関連しているものを示す。
【0055】
○撮影装置の機能構成○
まず、図13を用いて、撮影装置10の機能構成について説明する。撮影装置10は、通信部11、受付部12、撮像部13、集音部14および記憶・読出部19を有している。これら各部は、図11に示されている各構成要素のいずれかが、SRAM113からDRAM114上に展開された撮影装置用のプログラムに従ったCPU111からの命令によって動作することで実現される機能または手段である。また、撮影装置10は、図11に示されているROM112、SRAM113およびDRAM114によって構築される記憶部1000を有している。記憶部1000は、自装置のGUID(Globally Unique Identifier)を記憶している。
【0056】
通信部11は、主に、CPU111の処理によって実現され、他の装置または端末と各種データまたは情報の通信を行う。通信部11は、例えば、近距離通信回路117を用いて、他の装置または端末との間で、近距離無線通信技術によるデータ通信を行う。また、通信部11は、例えば、入出力I/F116を用いて、他の装置または端末との間で、各種ケーブル等を介したデータ通信を行う。さらに、通信部11は、ネットワークI/F121を用いて、他の装置または端末との間で、通信ネットワーク100を介したデータ通信を行う。
【0057】
受付部12は、主に、操作部115に対するCPU111の処理によって実現され、利用者から各種の選択または入力を受け付ける。撮像部13は、主に、撮像ユニット101、画像処理ユニット104および撮像制御ユニット105に対するCPU111の処理によって実現され、風景等の被写体を撮像し、撮影画像データを取得する。集音部14は、主に、マイク108および音処理ユニット109に対するCPU111の処理によって実現され、撮影装置10の周囲の音を集音する。
【0058】
記憶・読出部19は、主に、CPU111の処理によって実現され、記憶部1000に、各種データ(または情報)を記憶したり、記憶部1000から各種データ(または情報)を読み出したりする。
【0059】
○配信端末の機能構成○
次に、図13を用いて、配信端末30の機能構成について説明する。配信端末30は、送受信部31、受付部32、画像・音処理部33、表示制御部34、判断部35、作成部36、通信部37および記憶・読出部39を有している。これら各部は、図12に示されている各構成要素のいずれかが、HD304からRAM303上に展開された配信端末用プログラムに従ったCPU301からの命令によって動作することで実現される機能または手段である。また、配信端末30は、図12に示されているROM302、RAM303およびHD304によって構築される記憶部3000を有している。
【0060】
送受信部31は、主に、ネットワークI/F309に対するCPU301の処理によって実現され、通信ネットワーク100を介して、他の装置または端末との間で各種データまたは情報の送受信を行う。
【0061】
受付部32は、主に、キーボード311またはポインティングデバイス312に対するCPU301の処理によって実現され、利用者から各種の選択または入力を受け付ける。
【0062】
画像・音処理部33は、主に、CPU301の処理によって実現され、撮影装置10が被写体を撮像して取得した撮影画像データに対して画像処理を行う。また、画像・音処理部33は、マイク318によって利用者の音声が音声信号に変換された後、この音声信号に係る音データに対して音声処理を行う。画像・音処理部33は、例えば、表示制御部34がディスプレイ306に画像を表示させるため、ソース名等の画像種類情報に基づき、撮影装置10から受信された撮影画像データに対して画像処理を行う。具体的には、画像種類情報が特殊画像である旨を示す場合、画像・音処理部33は、撮影画像データ(例えば、図3(A),(B)に示されているような各半球画像のデータ)に基づいて、図4(B)に示されているような全天球画像データに変換することで全天球画像データを作成する。さらに、画像・音処理部33は、他の端末から通信管理システム50を介して配信された音データに係る音声信号をスピーカ319に出力し、スピーカ319から音声を出力させる。
【0063】
表示制御部34は、主に、CPU301の処理によって実現され、ディスプレイ306に、各種画像または文字等を表示させる。判断部35は、CPU301の処理によって実現され、各種判断を行う。判断部35は、例えば、撮影装置10から受信された撮影画像データに係る画像種類を判断する。
【0064】
作成部36は、主に、CPU301の処理によって実現され、判断部35によって、一般画像または特殊画像(ここでは、全天球画像)と判断された結果に基づき、命名規則に従って、画像種類情報の一例であるソース名を作成する。例えば、判断部35が、一般画像であると判断した場合、作成部36は、一般画像である旨を示すソース名「Video」を作成する。一方、判断部35が、特殊画像であると判断した場合、作成部36は、特殊画像である旨を示すソース名「Video_Theta」を作成する。
【0065】
通信部37は、主に、近距離通信回路320に対するCPU301の処理によって実現され、撮影装置10の通信部11と、NFC、BluetoothまたはWiFi等の近距離無線通信技術による通信を行う。なお、通信部37と送受信部31とは通信ユニットを別個に有する構成で説明したが、共用構成であってもよい。
【0066】
記憶・読出部39は、主に、CPU301の処理によって実現され、記憶部3000に、各種データ(または情報)を記憶したり、記憶部3000から各種データ(または情報)を読み出したりする。
【0067】
○撮影装置管理テーブル
図15(A)は、撮影装置管理テーブルの一例を示す概念図である。記憶部3000には、図15(A)に示されている撮影装置管理テーブルによって構成されている撮影装置管理DB3001が構築されている。この撮影装置管理テーブルは、全天球画像の元になる二つの半球画像を得ることができる撮影装置のGUIDのうちのベンダIDとプロダクトIDを記憶して管理している。GUIDとしては、例えば、USBデバイスで利用されるベンダID(VID)とプロダクトID(PID)が利用できる。このベンダIDとプロダクトIDは、例えば、配信端末30の工場出荷時から記憶されていてもよいし、工場出荷後に追加で記憶してもよい。
【0068】
○画像種類管理テーブル
図15(B)は、画像種類管理テーブルの一例を示す概念図である。記憶部3000には、図15(B)に示されている画像種類管理テーブルによって構成されている画像種類管理DB3002が構築されている。この画像種類管理テーブルは、画像データID、撮影装置の宛先の一例であるIP(Internet Protocol)アドレス、およびソース名を関連づけて管理している。このうち、画像データIDは、画像配信を行う際の画像データを識別するための画像データ識別情報の一例である。撮影装置のIPアドレスは、関連づけられている画像データIDで示される画像データを撮影した撮影装置10のIPアドレスを示す。ソース名は、関連づけられている画像データIDで示される画像データを撮影した撮影装置10を特定するための名称であり、画像種類情報の一例である。このソース名は、所定の名称の命名規則に従って、配信端末30によって作成された名称である。
【0069】
例えば、IPアドレスがそれぞれ「2.1.2.3」、「2.1.1.5」、「2.1.5.4」、「2.1.5.6」の四つの撮影装置は、それぞれ、画像データID「RS001」、「RS002」、「RS003」、「RS004」によって示される画像データを送信していることが表されている。さらに、各撮影装置のソース名によって示される画像の種類は、「Video_Theta」、「Video_Theta」、「Video」、「Video」であり、これらは順に画像種類が「特殊画像」、「特殊画像」、「一般画像」、「一般画像」である旨を示している。本実施形態において、特殊画像は、全天球画像である。なお、IPアドレスは、宛先情報の一例であって、宛先情報は、MAC(Media Access Control)アドレスまたは端末ID(Identification)等であってもよい。また、IPアドレスは、IPv4アドレスを簡略化して表すが、IPアドレスは、IPv6であってもよい。さらに、画像データ以外のデータについても、画像データIDと関連づけて管理してもよい。画像データ以外のデータは、例えば、音データ、配信拠点と閲覧拠点との画面共有時の資料データ等である。
【0070】
○通信管理システムの機能構成○
次に、図14を用いて、通信管理システム50の機能構成について説明する。通信管理システム50は、送受信部51、判断部52、選択部53、生成部54、配信拠点管理部55および記憶・読出部59を有している。これら各部は、図12に示されている各構成要素のいずれかが、HD504からRAM503上に展開された通信管理システム用プログラムに従ったCPU501からの命令によって動作することで実現される機能または手段である。また、通信管理システム50は、図12に示されているROM502、RAM503およびHD504によって構築される記憶部5000を有している。
【0071】
送受信部51は、主に、ネットワークI/F509に対するCPU501の処理によって実現され、通信ネットワーク100を介して、他の装置との間で各種データまたは情報の送受信を行う。
【0072】
判断部52は、CPU501の処理によって実現され、各種判断を行なう。選択部53は、主に、CPU501の処理によって実現され、通信端末70からの要求に応じて、撮影装置10の選択を行う。選択部53は、例えば、通信端末70によって受け付けられた注目点の位置と複数の撮影装置10の設置位置とに基づいて、複数の撮影装置10のうちの特定の撮影装置10を選択する。
【0073】
生成部54は、主に、CPU501の処理によって実現され、画像データIDおよび所定領域情報を生成する。生成部54は、例えば、選択部53によって選択された撮影装置10が撮影した撮影画像における所定領域(例えば、図5等に示されている所定領域T)を示す所定領域情報を生成する。なお、撮影画像の全体が表示された場合の画像(例えば、図5等に示されている全天球画像CE)は、「全体画像」ともいう。配信拠点管理部55は、主に、CPU501の処理によって実現され、配信拠点の状態を示す配信拠点情報を管理する。
【0074】
記憶・読出部59は、主に、CPU501の処理によって実現され、記憶部5000に、各種データ(または情報)を記憶したり、記憶部5000から各種データ(または情報)を読み出したりする。
【0075】
○セッション管理テーブル
図16(A)は、セッション管理テーブルの一例を示す概念図である。記憶部5000には、図16(A)に示されているセッション管理テーブルによって構成されているセッション管理DB5001が構築されている。このセッション管理テーブルは、セッションID、拠点IDおよび参加した通信端末のIPアドレスを関連づけて管理している。このうち、セッションIDは、画像通信を実現する通信セッションを識別するためのセッション識別情報の一例であり、仮想のフロアごとに生成される。セッションIDは、各通信端末でも管理されており、各通信端末において通信セッションの選択の際に利用される。拠点IDは、配信拠点を識別するための拠点識別情報の一例である。参加した通信端末のIPアドレスは、関連づけられているセッションIDで示される仮想のフロアに参加した通信端末のIPアドレスを示している。
【0076】
○画像種類管理テーブル
図16(B)は、画像種類管理テーブルの一例を示す概念図である。記憶部5000には、図16(B)に示されている画像種類管理テーブルによって構成されている画像種類管理DB5002が構築されている。この画像種類管理テーブルは、図15(B)に示されている画像種類管理テーブルで管理されている各情報に加え、セッション管理テーブルで管理されているセッションIDと同じセッションIDを関連づけて管理している。なお、通信管理システム5において、配信端末30および通信端末70で管理される、画像データID、撮影装置のIPアドレスおよび画像種類情報と同じものを管理するのは、新たな通信端末が仮想のフロアに入る場合等に、既に画像通話中の通信端末と新たに参加した通信端末に、画像種類情報等を送信するためである。これにより、既に通話中の通信端末と新たに参加した通信端末との間で、画像種類情報等の送受信を行なう必要がない。
【0077】
○所定領域管理テーブル
図17(A)は、所定領域管理テーブルの一例を示す概念図である。記憶部5000には、図17(A)に示されている所定領域管理テーブルによって構成されている所定領域管理DB5003が構築されている。この所定領域管理テーブルは、撮影画像データの送信元の配信端末のIPアドレス、撮影画像データの送信先の通信端末のIPアドレス、および撮影画像データの送信先の通信端末で表示中の所定領域画像を示す所定領域情報を関連づけて管理している。なお、撮影画像データの送信先の通信端末は、所定領域情報の送信元の通信端末でもある。所定領域情報は、図6および図7に示されているように、撮影画像から、この撮影画像における所定領域Tの画像(所定領域画像)に変換するための変換パラメータである。
【0078】
例えば、図17(A)の所定領域管理テーブルの1行目から4行目までは、配信端末30のIPアドレスが「1.3.2.3」の場合、配信端末30から送信された撮影画像データが、通信管理システム5を介して、IPアドレスが「1.2.1.3」の通信端末70に送信された旨を管理している。さらに、配信端末30は、図17(A)の所定領域管理テーブルの1行目から4行目までの四つの所定領域情報の送信元の配信端末である旨を管理している。
【0079】
また、送受信部51によって、既に管理されている撮影画像データの送信元の配信端末のIPアドレスおよび撮影画像データの送信先の通信端末のIPアドレスと同じ組のIPアドレスを含む所定領域情報が新たに受信された場合には、記憶・読出部59は、既に管理している所定領域情報を新たに受信された所定領域情報に書き換える。
【0080】
○設置情報管理テーブル
図17(B)は、設置情報管理テーブルの一例を示す概念図である。記憶部5000には、図17(B)に示されている設置情報管理テーブルによって構成されている設置情報管理DB5004が構築されている。この設置情報管理テーブルは、配信拠点を識別するための拠点ID、配信拠点に設置された撮影装置10のIPアドレス、撮影装置10が設置された位置を示す座標値、および撮影装置10の設置方向が関連づけられた設置情報を管理している。このうち、座標値は、撮影装置10が設置された配信拠点のマップ上の位置を示す座標情報である。この座標情報は、撮影装置10の設置位置を示す設置位置情報の一例である。なお、設置位置情報は、座標情報に限られず、撮影装置10の設置位置を特定可能な情報であればよい。また、撮影装置10の設置方向は、撮影装置10の正面が向いているマップ上の方向を示す。なお、この設置情報は、配信拠点または配信端末30の管理者によって設定される。
【0081】
○配信拠点管理テーブル
図18は、配信拠点管理テーブルの一例を示す概念図である。記憶部5000には、図18に示されている配信拠点管理テーブルによって構成されている配信拠点管理DB5005が構築されている。この配信拠点管理テーブルは、配信拠点を識別するための拠点IDおよび拠点名、並びに配信拠点の状態を示す配信拠点情報を関連づけて管理している。このうち、配信拠点情報は、配信拠点のマップを示すマップ画像データおよび配信拠点の座標値を示す拠点座標情報にアクセスするためのURL(Uniform Resource Locator)を含む。通信端末70は、通信管理システム50から送信されたURLへアクセスすることで、配信拠点のマップ画像データおよび拠点座標情報を取得することができる。なお、URLは、記憶先情報の一例である。記憶先情報は、URLに限られず、URI(Uniform Resource Identifier)等であってもよい。
【0082】
○通信端末の機能構成○
次に、図14を用いて、通信端末70の機能構成について説明する。通信端末70は、送受信部71、受付部72、画像・音処理部73、表示制御部74、判断部75、作成部76、注目点特定部77、選択部81、生成部82および記憶・読出部79を有している。これら各部は、図12に示されている各構成要素のいずれかが、HD704からRAM703上に展開された通信端末用プログラムに従ったCPU701からの命令によって動作することで実現される機能または手段である。また、通信端末70は、図12に示されているROM702、RAM703およびHD704によって構築される記憶部7000を有している。
【0083】
送受信部71は、主に、ネットワークI/F709に対するCPU701の処理によって実現され、通信ネットワーク100を介して、他の装置または端末との間で各種データまたは情報の送受信を行う。送受信部71は、例えば、配信端末30から配信された撮影画像データを、通信管理システム50を介して受信する。また、送受信部71は、例えば、取得部としての機能を担い、受付部72で受け付けられた注目点の位置と撮影装置10の設置位置とに基づいて選択された特定の撮影装置10の撮影画像における注目点を含む所定領域を示す所定領域情報を取得する。
【0084】
受付部72は、主に、キーボード711またはポインティングデバイス712に対するCPU701の処理によって実現され、利用者から各種の選択または入力を受け付ける。受付部72は、例えば、利用者によって指定された配信拠点における注目点を受け付ける。
【0085】
画像・音処理部73は、主に、CPU701の処理によって実現され、配信端末30から配信された撮影画像データに対して画像処理を行う。また、画像・音処理部73は、配信端末30から配信された音データに対して音声処理を行う。画像・音処理部73は、例えば、送受信部71によって受信された所定領域情報に対応する所定領域の画像をディスプレイ706に表示させるため、撮影画像(全天球画像)に対する所定領域情報を用いた透視射影変換を行うことで、所定領域情報に対応する所定領域画像を生成する。さらに、画像・音処理部73は、配信端末30から通信管理システム50を介して配信された音データに係る音声信号をスピーカ719に出力し、スピーカ719から音声を出力させる。
【0086】
表示制御部74は、主に、CPU701の処理によって実現され、ディスプレイ706に、各種画像または文字等を表示させる。表示制御部74は、例えば、画像・音処理部73によって生成された所定領域画像を、ディスプレイ706に表示させる。判断部75は、CPU701の処理によって実現され、各種判断を行う。
【0087】
作成部76は、主に、CPU701の処理によって実現され、作成部36と同様の機能を実現する。注目点特定部77は、主に、CPU701の処理によって実現され、撮影装置10が設置されている配信拠点における注目点を特定する。注目点特定部77は、例えば、利用者によって指定された配信拠点のマップ画像上での注目点の位置を特定する。
【0088】
選択部81は、主に、CPU701の処理によって実現され、選択部53と同様の機能を実現する。生成部82は、主に、CPU701の処理によって実現され、所定領域情報を生成する。生成部82は、例えば、選択部81によって選択された撮影装置10が撮影した撮影画像における所定領域を示す所定領域情報を生成する。また、生成部82は、例えば、取得部としての機能を担い、受付部72で受け付けられた注目点の位置と撮影装置10の設置位置とに基づいて選択された特定の撮影装置10の撮影画像における注目点を含む所定領域を示す所定領域情報を取得する。
【0089】
記憶・読出部79は、主に、CPU701の処理によって実現され、記憶部7000に、各種データ(または情報)を記憶したり、記憶部7000から各種データ(または情報)を読み出したりする。
【0090】
○画像種類管理テーブル
図19(A)は、画像種類管理テーブルの一例を示す概念図である。記憶部7000には、図19(A)に示されている画像種類管理テーブルによって構成されている画像種類管理DB7001が構築されている。この画像種類管理テーブルは、図15(B)に示されている画像種類管理テーブルと同じデータ構成であるため、説明を省略する。
【0091】
○所定領域管理テーブル
図19(B)は、所定領域管理テーブルの一例を示す概念図である。記憶部7000には、図19(B)に示されている所定領域管理テーブルによって構成されている所定領域管理DB7002が構築されている。この所定領域管理テーブルは、撮影画像データの送信元の配信端末のIPアドレス、撮影画像データを撮影した撮影装置のIPアドレス、および表示中の所定領域画像を示す所定領域情報を関連づけて管理している。所定領域情報は、図6および図7に示されているように、撮影画像から、この撮影画像における所定領域Tの画像(所定領域画像)に変換するための変換パラメータである。
【0092】
●実施形態の処理または動作
○セッション参加処理○
続いて、図20乃至図28を用いて、実施形態に係る画像通信システムの処理または動作について説明する。なお、以下の説明において、配信拠点Aの撮影画像が通信端末70に配信される例を説明するが、配信拠点B等の他の配信拠点からの画像配信においても同様の処理が行われる。まず、図20および図21を用いて、特定の通信セッションへの参加処理について説明する。図20は、画像通信システムにおける特定の通信セッションへの参加処理の一例を示すシーケンス図である。図21は、通信セッションの選択画面の一例を示す図である。
【0093】
まず、閲覧拠点Aの利用者(例えば、利用者A1)が通信セッションの選択画面の表示を行う操作を行い、受付部72が選択画面を表示する操作を受け付けることで、通信端末70Aの表示制御部74は、ディスプレイ706に、図21に示されている選択画面800を表示させる(ステップS11)。図21に示されている選択画面800は、選択対象である各フロアA1,B1,B2等を示す選択ボタン810a,810b,810c等を表示している。また、各選択ボタン810a等は、各セッションIDを関連づけている。
【0094】
ここで、利用者A1が配信拠点である仮想のフロアの所望の選択ボタン(ここでは選択ボタン810a)を選択した場合、受付部72は、通信セッションの選択を受け付ける(ステップS12)。そして、送受信部71は、通信管理システム50に対して、配信拠点との通信セッションへの参加要求を送信する(ステップS13)。この参加要求は、ステップS12で選択を受け付けられた通信セッションを示すセッションID、および要求元端末である通信端末70AのIPアドレスを含む。これにより、通信管理システム50の送受信部51は、参加要求を受信する。
【0095】
次に、通信管理システム50の記憶・読出部59は、セッション管理DB5001(図16(A)参照)において、ステップS13で受信されたセッションIDと同じセッションIDのレコードにおける参加端末IPアドレスのフィールドに、ステップS13で受信されたIPアドレスを追加することで、通信セッションへの参加処理を行なう(ステップS14)。また、記憶・読出部59は、セッション管理DB5001において、参加処理が行われた通信セッションのセッションIDに関連づけられた拠点IDを読み出す。次に、記憶・読出部59は、ステップS14で読み出された拠点IDを検索キーとして配信拠点管理DB5005(図18参照)を検索することにより、読み出された拠点IDと同じ拠点IDに関連づけられた配信拠点情報を読み出す(ステップS15)。そして、送受信部51は、通信端末70Aに対して、参加要求応答を送信する(ステップS16)。この参加要求応答は、ステップS13によって受信されたセッションID、ステップS15で読み出された配信拠点情報および参加処理結果を含む。また、この参加処理結果は、ステップS14で読み出された拠点IDを含む。これにより、通信端末70Aの送受信部71は、参加要求応答を受信する。以降、参加処理が成功した場合について説明する。なお、図20に示されている処理と同様の処理により、閲覧拠点Bの通信端末70Bは、通信セッションの参加処理を行う。
【0096】
○画像種類情報の管理処理○
次に、図22を用いて、画像種類情報の管理処理を説明する。図22は、画像種類情報の管理処理を示すシーケンス図である。
【0097】
まず、配信拠点Aの利用者が、配信端末30Aに、撮影装置10Aを接続すると、撮影装置10Aの記憶・読出部19は、記憶部1000に記憶されている自装置(撮影装置10A)のGUIDを読み出す。そして、撮影装置10Aの通信部11は、配信端末30Aに対して自装置のGUIDを送信する(ステップS31)。これにより、配信端末30Aの通信部37は、撮影装置10AのGUIDを受信する。
【0098】
次に、配信端末30Aの判断部35は、撮影装置管理DB3001(図15(A)参照)において、ステップS31で受信されたGUID中のベンダIDおよびプロダクトIDと、同じベンダIDおよびプロダクトIDが管理されているか否かを判断することで、画像種類を判断する(ステップS32)。具体的には、撮影装置管理DB3001において、同じベンダIDおよびプロダクトIDが管理されている場合、判断部35は、撮影装置10Aが特殊画像(ここでは、全天球画像)を撮影する撮影装置であると判断する。これに対して、撮影装置管理DB3001において、同じベンダIDおよびプロダクトIDが管理されていない場合には、判断部35は、撮影装置10Aが一般画像を撮影する撮影装置であると判断する。
【0099】
次に、記憶・読出部39は、画像種類管理DB3002(図15(B)参照)に対して、撮影装置10AのIPアドレスと、ステップS32で判断された判断結果である画像種類情報とを関連づけて記憶する(ステップS33)。この状態では、画像データIDは関連づけられていない。画像種類情報は、例えば、所定の命名規則に従って定められたソース名または画像種類(一般画像、特殊画像)である。
【0100】
次に、送受信部31は、通信管理システム50に対して、画像種類情報の追加要求を送信する(ステップS34)。この画像種類情報の追加要求は、ステップS33で記憶した撮影装置10AのIPアドレス、配信拠点Aの拠点IDおよび画像種類情報を含む。これにより、通信管理システム50の送受信部51は、画像種類情報の追加要求を受信する。
【0101】
次に、通信管理システム50の記憶・読出部59は、ステップS34によって受信された拠点IDを検索キーとして、セッション管理DB5001(図16(A)参照)を検索することにより、対応するセッションIDを読み出す(ステップS35)。
【0102】
次に、生成部54は、固有の画像データIDを生成する(ステップS36)。そして、記憶・読出部59は、画像種類管理DB5002(図16(B)参照)に、新たなレコードとして、ステップS35で読み出されたセッションID、ステップS36で生成された画像データID、並びにステップS34で受信された撮影装置10AのIPアドレスおよび画像種類情報を関連づけて記憶する(ステップS37)。そして、送受信部51は、配信端末30Aに対して、ステップS36で生成された画像データIDを送信する(ステップS38)。これにより、配信端末30Aの送受信部31は、画像データIDを受信する。
【0103】
次に、配信端末30Aの記憶・読出部39は、画像種類管理DB3002(図15(B)参照)に、ステップS33で記憶しておいた撮影装置10AのIPアドレスおよび画像種類情報に関連づけて、ステップS38で受信された画像データIDを記憶する(ステップS39)。
【0104】
一方、通信管理システム50の送受信部51は、通信端末70Aに対して、画像種類情報の追加通知を送信する(ステップS40)。この画像種類情報の追加通知は、ステップS36で生成された画像データID、並びにステップS37で記憶された撮影装置10AのIPアドレスおよび画像種類情報を含む。これにより、通信端末70Aの送受信部71は、画像種類情報の追加通知を受信する。
【0105】
次に、通信端末70Aの記憶・読出部79は、画像種類管理DB7001(図19(A)参照)に、新たなレコードとして、ステップS40で受信された、画像データID、撮影装置10AのIPアドレスおよび画像種類情報を関連づけて記憶する(ステップS41)。以上より、配信端末30Aと通信端末70Aでは、各画像種類管理DB3002,7001で同じ情報を共有することができる。なお、同様に、他の通信端末である通信端末70Bにも画像種類情報の追加通信が送信され、通信端末70Bでも、画像種類管理DB7001に記憶される。
【0106】
○撮影画像データの通信処理○
次に、図23を用いて、配信拠点Aで得られた撮影画像データおよび音データが、通信管理システム50を介して、各通信端末(通信端末70A,70B)へ送信される処理について説明する。図23は、画像通信システムにおける撮影画像データおよび音データの通信処理の一例を示すシーケンス図である。なお、図23は、一台の撮影装置10によって取得された撮影画像データが各通信端末70に配信される例を示すが、配信拠点に設置された他の撮影装置10によって取得された複数の撮影画像データが配信される場合においても同様の処理が行われる。
【0107】
まず、撮影装置10Aの通信部11は、配信端末30Aに対して、被写体や風景等を撮影して取得された撮影画像データおよび集音して取得された音データを送信する(ステップS51)。この場合、撮影装置10Aは、全天球画像の元になる二つの半球画像を得ることができる装置であるため、図3(A),(B)に示されているように、撮影画像データは、二つの半球画像のデータによって構成されている。これにより、配信端末30Aの通信部37は、撮影画像データおよび音データを受信する。
【0108】
次に、配信端末30Aの送受信部31は、通信管理システム50に対して、撮影装置10Aから送られてきた撮影画像データおよび音データを送信する(ステップS52)。この送信は、送信対象である撮影画像データを識別するための画像データIDを含む。これにより、通信管理システム50の送受信部51は、撮影画像データおよび音データ、並びの画像データIDを受信する。
【0109】
次に、通信管理システム50の送受信部51は、配信端末30Aと同じセッションに参加している通信端末(通信端末70A,70B)に対して、撮影画像データおよび音データを送信する(ステップS53,S54)。これら各送信は、送信対象である撮影画像データを識別するための画像データIDを含む。これにより、通信端末70Aおよび通信端末70Bの送受信部71は、それぞれ撮影画像データおよび音データ、並びに画像データIDを受信する。
【0110】
○注目点の表示処理○
次に、図24乃至図28を用いて、閲覧拠点の利用者によって指定された配信拠点の注目点の画像を表示させる処理について説明する。図24は、画像通信システムにおける注目点の表示処理の一例を示すシーケンス図である。図24は、閲覧拠点Aの通信端末70Aが配信端末30Aから配信された撮影画像を表示する場合の例を説明する。なお、他の閲覧拠点である閲覧拠点Bの通信端末70Bに撮影画像を表示させる場合も同様の処理が行われる。
【0111】
まず、通信端末70Aの表示制御部74は、ステップS16で受信された配信拠点情報を用いて、配信拠点Aの状況を示す拠点表示画面600を、ディスプレイ706に表示させる(ステップS71)。図25は、通信端末に表示される拠点表示画面の一例を示す図である。図25に示されている拠点表示画面600は、配信拠点の状況を示すマップ画像が表示されている。
【0112】
図25に示されている拠点表示画面600は、配信拠点が撮影された全天球画像を閲覧することで配信拠点を遠隔閲覧させるツアー画像610、ツアー画像610の所定の撮影地点へ視点変更するための視点変更アイコン630、配信拠点の模式図を示す模式画像650、配信拠点内の注目点を表示させる場合に押下される「注目点」ボタン605、および配信拠点の閲覧を終了する場合に押下される「キャンセル」ボタン609を含む。
【0113】
このうち、ツアー画像610および模式画像650は、ステップS16で受信された配信拠点情報に含まれるマップ画像データを用いて表示される。ツアー画像610は、予め配信拠点を撮影装置10によって撮影された画像であり、利用者A1が視点変更アイコン630を操作することで、配信拠点全体の配置等を把握することができる。なお、ツアー画像610は、ステップS16で受信された配信拠点情報に含まれるマップ画像データを用いて表示されるものとして説明するが、ツアー画像610は、リアルタイムに受信された配信拠点の撮影画像データを表示させる構成であってもよい。
【0114】
また、模式画像650は、ツアー画像610の現在の表示位置を示す視点位置アイコン655を含む。利用者A1は、例えば、ツアー画像610および模式画像650を見ながら、ポインタp1を用いて視点変更アイコン630を操作することで、配信拠点内の閲覧したい箇所を閲覧することができる。
【0115】
次に、利用者A1がポインタp1を用いて視点変更アイコン630を操作し、「注目点」ボタン605を押下することで、受付部72は、注目点の指定を受け付ける(ステップS72)。なお、受付部72は、入力手段の一例であるマウスを用いた利用者A1のクリックまたはダブルクリックの操作によって、注目点の指定を受け付けてもよい。次に、注目点特定部77は、ステップS72で指定が受け付けられた注目点の座標である注目点座標を特定する(ステップS73)。ここで、注目点特定部77によって特定される注目点座標は、ステップS72で注目点の指定が受け付けられた際に表示されているツアー画像610の中心点の座標である。なお、注目点座標は、ツアー画像610中のポインタp1の位置を示す座標であってもよい。また、注目点座標は、注目点の位置を示す注目点位置情報の一例である。なお、注目点位置情報は、注目点座標に限られず、注目点の位置を特定可能な情報であればよい。
【0116】
送受信部71は、通信管理システム50に対して、撮影装置10の選択を要求する旨を示す撮影装置選択要求を送信する(ステップS74)。この撮影装置選択要求は、ステップS73で特定された注目点座標およびステップS16で受信された拠点IDを含む。これにより、通信管理システム50の送受信部51は、通信端末70から送信された撮影装置選択要求を受信する。
【0117】
次に、通信管理システム50は、ステップS74で受信された撮影装置選択要求に応じて、撮影装置10の選択処理を実行する(ステップS75)。ここで、図26および図27を用いて、ステップS75の処理を詳細に説明する。図26は、撮影装置の選択処理の一例を示すフローチャートである。図27は、撮影装置の選択処理の一例の概略的に説明するための図である。
【0118】
まず、記憶・読出部59は、ステップS74で受信された拠点IDを検索キーとして配信拠点管理DB5005(図18参照)を検索することにより、受信された拠点IDと同じ拠点IDに関連づけられた配信拠点情報を読み出す(ステップS101)。
【0119】
次に、選択部53は、ステップS74で受信された注目点座標を中心に、配信拠点を複数のエリアに分割する(ステップS102)。具体的には、選択部53は、受信された注目点座標を起点として、ステップS101で読み出された配信拠点情報に含まれる拠点座標情報に基づいて、配信拠点のエリア全体を複数のエリアに分割する。図27に示されている例では、利用者A1によって指定された注目点を黒丸(●)で示しており、選択部53は、この注目点を中心に周囲360°方向を、90°ごとに4方向に均等に4等分する。これにより、選択部53は、配信拠点をエリア1~エリア4の四つのエリアに分割する。
【0120】
なお、本実施形態では、選択部53によって四つのエリアに分割される例を説明するが、選択部53は、配信拠点に設置されている撮影装置10もしくは配信端末の数、通信ネットワーク100のネットワーク帯域、または通信端末70に同時に受信および表示可能な画像の数等に応じて分割数を増減されてもよい。
【0121】
次に、記憶・読出部59は、ステップS74で受信された拠点IDを検索キーとして設置情報管理DB5004(図17(B)参照)を検索することにより、受信された拠点IDと同じ拠点IDに関連づけられた設置情報を読み出す(ステップS103)。
【0122】
次に、選択部53は、ステップS103で読み出された設置情報が示す座標値に基づいて、ステップS102で分割されたエリアごとの注目点座標に最も近い撮影装置10を選択する(ステップS104)。具体的には、選択部53は、設置情報に示されている撮影装置10を、一つずつ順次処理を行う。
【0123】
まず、選択部53は、例えば、読み出された設置情報が示す座標値を参照し、撮影装置10が存在しているエリアが分割されたエリア(例えば、エリア1~エリア4)のどのエリアに属するかを判定する。その後、選択部53は、撮影装置10の座標値と注目点座標との距離を算出する。そして、選択部53は、判定されたエリアにおいて初めての撮影装置10であった場合、または判定されたエリアで「現時点も最も距離が短い」撮影装置10よりも距離が短い場合、判定されたエリアにおける「現時点で最も距離が短い」撮影装置10として、撮影装置10の識別情報(例えば、撮影装置10のIPアドレス)および算出された距離を保持する。
【0124】
選択部53は、上述の処理を設置情報に示されている全ての撮影装置10に対して行うことで、分割されたエリアのそれぞれでの「最も距離が近い」撮影装置10を選択する。選択部53は、分割されたエリアの数と同じ数の撮影装置10が選択する。図27の例において、選択部53は、撮影装置10A-1,10A-2,10A-3,10A-4を、それぞれエリア1~エリア4における注目点座標に最も近い撮影装置10として選択する。
【0125】
次に、生成部54は、ステップS104で選択された撮影装置10ごとに、ステップS74で受信された注目点座標に対応する所定領域情報を生成する(ステップS105)。具体的には、生成部54は、選択された撮影装置10が撮影する全天球画像に対して、注目点座標が中心にくるような所定領域画像(透視射影変換画像)を表示させるための所定領域情報を生成する。ここで、動径(r)と極角(θ)は、予め設定された所定の値が用いられるものとする。これは、透視射影変換画像の画角と仰角を一定として処理することを示している。方位角(φ)は、図27に示されているように、設置情報に示されている撮影装置10の設置方向と撮影装置10から注目点座標の方向との相対値として算出することができる。そして、生成部54は、算出された結果をもとに、撮影装置10が取得する全天球画像から注目点座標を中心とした所定領域画像を表示(透視射影表示)させるための所定領域情報を生成する。生成部54は、このような処理を、ステップS104で選択された全ての撮影装置10に対して実行する。なお、撮影装置10の設置位置(座標値)および設置方向(撮影装置10の正面がどの方向を向いているか)は、予め管理者等によって設置情報管理DB5004に設定されている。
【0126】
そして、記憶・読出部59は、所定領域管理DB5003(図17(A)参照)に対して、ステップS105で生成された所定領域情報を、該当する撮影装置10のIPアドレスに関連づけて記憶する。
【0127】
このように、通信管理システム50は、通信端末70から送信された注目点座標等の注目点位置情報と、複数の撮影装置10の設置情報とに基づいて、注目点を撮影する撮影装置10を選択するとともに、注目点を表示するための選択された撮影装置10の画角を算出することができる。
【0128】
図24に戻り、通信管理システム50の送受信部51は、通信端末70Aに対して、ステップS75における処理結果である選択結果通知を送信する(ステップS76)。この選択結果通知は、ステップS105で生成された所定領域情報の数に応じた、生成された所定領域情報と該当する撮影装置10のIPアドレスの組を含む。これにより、通信端末70Aの送受信部71は、通信管理システム50から送信された選択結果通知を受信する。このように、通信端末70Aの送受信部71は、ステップS72で受け付けられた注目点を含む所定領域を示す所定領域情報を取得する
【0129】
次に、通信端末70Aの記憶・読出部79は、所定領域管理DB7002(図19(B)参照)に対して、ステップS76で受信された所定領域情報を撮影装置10のIPアドレスに関連づけて記憶する(ステップS77)。
【0130】
次に、利用者A1による所定の入力操作によって、受付部72は、ステップS53で受信された撮影画像データのうち、通信端末70Aに表示させる表示画像の選択を受け付ける(ステップS78)。なお、通信端末70が複数の撮影画像を同時に表示することが可能な場合、または受信された撮影画像が通信端末70で同時に表示可能な数より少ない場合において、ステップS78の処理は省略されてもよい。
【0131】
次に、画像・音処理部73は、ステップS76で選択された表示画像に対応する所定領域情報によって特定される所定領域の画像を表示させるため、ステップS76で受信された所定領域情報を用いた透視射影変換を行うことで、所定領域画像を生成する(ステップS79)。これにより、通信端末70Aは、通信管理システム50で選択された撮影装置10が撮影した撮影画像である全天球画像のうち、利用者が指定した注目点を含む所定領域画像を生成することができる。
【0132】
そして、表示制御部74は、ステップS79で生成された所定領域画像を、ディスプレイ706に表示させる(ステップS80)。図29は、ステップS80で通信端末70Aに表示される表示画面の一例である。図29に示されている表示画面900は、ステップS79で生成された所定領域画像Xを表示している。利用者A1は、拠点表示画面600を用いて指定した配信拠点の注目点の位置に対応する所定領域画像を確認することで、配信拠点における注目点の位置の現在の状況を詳細に確認することができる。
【0133】
このように、画像通信システム1は、閲覧拠点の利用者が指定した注目点を閲覧するために適切な撮影装置10を、通信管理システム50を用いて選択することができる。そして、画像通信システム1は、選択された撮影装置10によって注目点が撮影された画像を表示可能な所定領域情報を、通信管理システム50から通信端末70へ送信することで、通信端末70に注目点を示す画像を表示させることができる。
【0134】
●注目点の表示処理の変形例
次に、図29を用いて、画像通信システム1における注目点の表示処理の変形例について説明する。図29は、画像通信システムにおける注目点の表示処理の変形例を示すシーケンス図である。図29は、上述の撮影装置10の選択処理を、閲覧拠点の通信端末70で実行する例を示す。なお、ステップS201~ステップS203の処理は、図24のステップS71~ステップS73の処理と同様であるため説明を省略する。
【0135】
ステップS204において、通信端末70Aの送受信部71は、通信管理システム50に対して、撮影装置の設置位置を示す設置情報の取得を要求する旨を示す設置情報取得情報を送信する。この設置情報取得要求は、ステップS16で受信された拠点IDを含む。これにより、通信管理システム50の送受信部51は、通信端末70Aから送信された設置情報取得要求を受信する。
【0136】
次に、通信管理システム50は、ステップS204で受信された拠点IDを検索キーとして設置情報管理DB5004(図17(B)参照)を検索することにより、受信された拠点IDと同じ拠点IDに関連づけられた設置情報を読み出す(ステップS205)。そして、送受信部51は、通信端末70Aに対して、ステップS205で読み出された設置情報を送信する(ステップS206)。これにより、通信端末70Aの送受信部71は、通信管理システム50から送信された設置情報を受信する。
【0137】
次に、通信端末70Aの選択部81は、ステップS203で特定された注目点座標を中心に、配信拠点を複数のエリアに分割する(ステップS207)。具体的には、選択部81は、特定された注目点座標を起点として、ステップS16で受信された配信拠点情報に含まれる拠点座標情報に基づいて、配信拠点のエリア全体を複数のエリアに分割する。次に、選択部81は、ステップS206で受信された設置情報が示す座標値に基づいて、ステップS207で分割されたエリアごとの注目点座標に最も近い撮影装置10を選択する(ステップS208)。そして、生成部82は、ステップS208で選択された撮影装置10ごとに、ステップS203で特定された注目点座標に対応する所定領域情報を生成する(ステップS209)。このように、通信端末70Aの生成部82は、ステップS202で受け付けられた注目点を含む所定領域を示す所定領域情報を取得する。なお、ステップS207、ステップS208およびステップS209の処理の詳細は、それぞれ図24のステップS102、ステップS104およびステップS105の処理と同様である。
【0138】
次に、通信端末70Aの記憶・読出部79は、所定領域管理DB7002(図19(B)参照)に対して、ステップS209で生成された所定領域情報を撮影装置10のIPアドレスに関連づけて記憶する(ステップS210)。以降ステップS211~ステップS213の処理は、図24のステップS78~ステップS80の処理と同様であるため、説明を省略する。
【0139】
このように、実施形態の変形例に係る画像通信システムは、利用者が指定した注目点を表示させる画像を撮影する撮影装置10の選択処理を通信端末70が行うことで、通信端末70に注目点を示す画像を表示させることができる。これにより、画像通信システム1は、上述の実施形態と同様に、指定した注目点の画像を閲覧拠点の利用者に閲覧させることができる。
【0140】
●実施形態の効果
以上説明したように、画像通信システム1は、利用者が撮影装置10に対する操作を行わずに、利用者によって指定された注目点に対応する配信拠点の画像を、閲覧拠点の通信端末70に表示させることができる。
【0141】
また、画像通信システム1は、通信端末70で全天球画像における注目点を写す領域のみを切り出して表示させることで、例えば、他の通信端末70で別の領域が表示されている場合であっても、他の通信端末70では表示変更を行わずに、全天球画像の任意の領域を表示させ続けることができる。
【0142】
上記実施形態において、所定領域Tは、全天球画像CEを含む三次元の仮想空間における仮想カメラICの撮影方向と画角を示す所定領域情報によって特定されるが、これに限るものではない。例えば、画角を一定にして利用する場合等、所定領域Tは、図7において、中心点CPまたは矩形の所定領域Tの四隅の任意の点を示す所定点情報によって特定されるようにしてもよい。また、上記実施形態では、全天球画像(全天球パノラマ画像)の一例として、撮影画像(全体画像)が三次元のパノラマ画像である場合について説明したが、二次元のパノラマ画像であってもよい。
【0143】
上記実施形態において、閲覧拠点の通信端末70は、閲覧専用の端末である必要は無く、この端末自身から撮影画像が配信されていて、配信機能と閲覧機能を同時に行える構成となっていてもよい。同様に、配信拠点の配信端末30は、配信専用の端末である必要はなく、他の拠点から配信された撮影画像を表示し、配信機能と閲覧機能を同時に行える構成となっていてもよい。このように、画像通信システム1は、複数の拠点の間において、撮影画像の双方向の通信を行うような構成であってもよい。
【0144】
●まとめ●
以上説明したように、本発明の一実施形態に係る通信端末は、配信拠点に設置された複数の撮影装置10の撮影画像(例えば、全天球画像)を受信する通信端末70であって、利用者によって指定された配信拠点における注目点を受け付け、受け付けられた注目点の位置と撮影装置10の設置位置とに基づいて選択された特定の撮影装置の撮影画像における注目点を含む所定領域を示す所定領域情報を取得する。そして、通信端末70は、取得された所定領域情報に基づいて、特定の撮影装置の撮影画像における所定領域の画像である所定領域画像を表示する。これにより、通信端末70は、利用者によって指定された注目点に対応する配信拠点の画像を表示させることができる。
【0145】
また、本発明の一実施形態に係る通信端末は、配信拠点を示すマップ画像(例えば、ツアー画像610)を表示させ、表示されたマップ画像に対する注目点を受け付ける。また、通信端末70は、撮影装置10によって撮影された撮影画像(例えば、全天球画像)を表示させ、表示された撮影画像に対する注目点を受け付ける。これにより、通信端末70は、利用者が配信拠点の状況を閲覧しながら、配信拠点における注目点を指定することができる。
【0146】
さらに、本発明の一実施形態に係る通信端末は、複数の撮影装置10に対応する複数の所定領域情報を取得し、取得された複数の所定領域情報のうち少なくとも一つの所定領域情報に対応する所定領域画像を表示する。これにより、通信端末70は、複数の撮影装置10の撮影画像のうち、所望の撮影画像に対する注目点を含む所定領域画像を表示させることができる。
【0147】
また、本発明の一実施形態に係る画像通信システムは、配信拠点に設置された複数の撮影装置10の撮影画像を受信する通信端末70と、通信端末70と通信可能な通信管理システム50と、を備える画像通信システム1である。画像通信システム1は、利用者によって指定された配信拠点における注目点を受け付け、受け付けられた注目点の位置と複数の撮影装置10の設置位置とに基づいて、複数の撮影装置10のうちの特定の撮影装置を選択し、選択された特定の撮影装置の撮影画像における所定領域を示す所定領域情報を生成する。そして、画像通信システム1は、生成された所定領域情報に示される所定領域の画像である所定領域画像を表示する。これにより、画像通信システム1は、利用者によって指定された注目点に対応する配信拠点の画像を表示させることができる。
【0148】
●補足●
上記で説明した実施形態の各機能は、一または複数の処理回路によって実現することが可能である。ここで、本実施形態における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウエアによって各機能を実行するようプログラミングされたプロセッサ、並びに上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)、SOC(System on a chip)、GPU(Graphics Processing Unit)および従来の回路モジュール等のデバイスを含むものとする。
【0149】
また、上記で説明した実施形態の各種テーブルは、機械学習の学習効果によって生成されたものでもよく、関連づけられている各項目のデータを機械学習にて分類付けすることで、テーブルを使用しなくてもよい。ここで、機械学習とは、コンピュータに人のような学習能力を獲得させるための技術であり,コンピュータが,データ識別等の判断に必要なアルゴリズムを、事前に取り込まれる学習データから自律的に生成し,新たなデータについてこれを適用して予測を行う技術のことをいう。機械学習のための学習方法は、教師あり学習、教師なし学習、半教師学習、強化学習および深層学習のいずれかの方法でもよく、さらに、これらの学習方法を組み合わせた学習方法でもよく、機械学習のための学習方法は問わない。
【0150】
これまで本発明の一実施形態に係る通信端末、画像通信システム、画像表示方法およびプログラムについて説明してきたが、本発明は、上述した実施形態に限定されるものではなく、他の実施形態の追加、変更または削除等、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
【符号の説明】
【0151】
1 画像通信システム
10 撮影装置
30 配信端末
50 通信管理システム
53 選択部(選択手段の一例)
54 生成部(生成手段の一例)
70 通信端末
71 送受信部(取得手段の一例、受信手段の一例)
72 受付部(受付手段の一例)
73 画像・音処理部
74 表示制御部(表示制御手段の一例)
77 注目点特定部
81 選択部(選択手段の一例)
82 生成部(生成手段の一例)
【先行技術文献】
【特許文献】
【0152】
【文献】特開2017-22587号公報
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29