(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-05
(45)【発行日】2024-11-13
(54)【発明の名称】通信端末、画像通信システム、表示方法、プログラム
(51)【国際特許分類】
G06T 3/047 20240101AFI20241106BHJP
G06T 3/00 20240101ALI20241106BHJP
H04N 23/60 20230101ALI20241106BHJP
G03B 15/00 20210101ALI20241106BHJP
G03B 37/00 20210101ALI20241106BHJP
【ＦＩ】
G06T3/047
G06T3/00 775
H04N23/60 500
H04N23/60 300
G03B15/00 W
G03B37/00 A
【請求項の数】
13
(21)【出願番号】P 2022196234
(22)【出願日】2022-12-08
(62)【分割の表示】P 2019049128の分割
【原出願日】2019-03-15
(65)【公開番号】P2023039975
(43)【公開日】2023-03-22
【審査請求日】2022-12-12
【前置審査】
(73)【特許権者】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】110004381
【氏名又は名称】弁理士法人ＩＴＯＨ
(72)【発明者】
【氏名】城 英樹
(72)【発明者】
【氏名】森田 健一郎
(72)【発明者】
【氏名】安中 英邦
(72)【発明者】
【氏名】本間 毅史
(72)【発明者】
【氏名】曽根田 拓也
(72)【発明者】
【氏名】相川 智慎
(72)【発明者】
【氏名】武田 貴文
【審査官】清水 祐樹
(56)【参考文献】
【文献】特開２０１４－１３１２１５（ＪＰ，Ａ）
【文献】特開２０１７－１０８３５６（ＪＰ，Ａ）
【文献】特開２０１６－０４８８５６（ＪＰ，Ａ）
【文献】特開２０１６－１６７７３９（ＪＰ，Ａ）
【文献】特開２０１９－２９８７７（ＪＰ，Ａ）
【文献】国際公開第２０１８／１９９０５２（ＷＯ，Ａ１）
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｔ １／００ － ５／９４
Ｈ０４Ｎ ２３／６０
Ｇ０３Ｂ １５／００
Ｇ０３Ｂ ３７／００
(57)【特許請求の範囲】
【請求項1】
他の拠点の撮像者がリアルタイムで指定した全天球画像の注目点と、前記撮像者が撮像した全天球画像の所定領域の画像と、を他の通信端末との映像通信中に遠隔で閲覧する通信端末であって、前記撮像者の指定する注目点の有無を判断する判断部と、
前記判断部が前記撮像者によって注目点が指定されていると判断した場合に、前記通信端末の映像画面に前記全天球画像における前記注目点を含む所定領域の画像を表示させる表示制御部と、
を有する通信端末。
【請求項2】
前記表示制御部は、前記全天球画像における前記注目点を中心とした所定領域の画像を表示させる、請求項１に記載の通信端末。
【請求項3】
前記表示制御部は、さらに、前記所定領域の画像に前記注目点に基づいた注目点アイコンを表示させる、請求項１又は２に記載の通信端末。
【請求項4】
前記表示制御部は、さらに、前記所定領域の表示を変更できないようにする、請求項１に記載の通信端末。
【請求項5】
他の拠点の撮像者がリアルタイムで指定した全天球画像の注目点と、前記撮像者が撮像した全天球画像の所定領域の画像と、を第１の通信端末との映像通信中に前記第１の通信端末から遠隔で閲覧する第２の通信端末に送信する画像通信システムであって、前記第１の通信端末は、
前記撮像者が撮像した全天球画像から注目点を指定し、注目点情報を生成する指定部と、
前記全天球画像と前記注目点情報を前記第２の通信端末に送信する送信部と、を有し、
前記第２の通信端末は、
前記注目点情報から前記撮像者の指定する注目点の有無を判断する判断部と、
前記判断部が前記撮像者によって注目点が指定されていると判断した場合に、前記第２の通信端末の映像画面に前記全天球画像における前記注目点を中心とした所定領域の画像を表示させる表示制御部と、
を有する、画像通信システム。
【請求項6】
前記表示制御部は、前記全天球画像における前記注目点を中心とした所定領域の画像を表示させる、請求項５に記載の画像通信システム。
【請求項7】
前記表示制御部は、さらに、前記所定領域の画像に前記注目点に基づいた注目点アイコンを表示させる、請求項５又は６に記載の画像通信システム。
【請求項8】
前記表示制御部は、さらに、前記所定領域の表示を変更できないようにする、請求項５に記載の画像通信システム。
【請求項9】
他の拠点の撮像者がリアルタイムで指定した全天球画像の注目点と、前記撮像者が撮像した全天球画像の所定領域の画像と、を他の通信端末との映像通信中に遠隔で閲覧する通信端末が行う表示方法であって、判断部が、前記撮像者の指定する注目点の有無を判断する処理と、
前記判断部が前記撮像者によって注目点が指定されていると判断した場合に、前記通信端末の映像画面に、表示制御部が、前記全天球画像における前記注目点を含む所定領域の画像を表示させる処理と、
を行う表示方法。
【請求項10】
前記表示制御部は、前記全天球画像における前記注目点を中心とした所定領域の画像を表示させる、請求項９に記載の表示方法。
【請求項11】
前記表示制御部は、さらに、前記所定領域の画像に前記注目点に基づいた注目点アイコンを表示させる、請求項９又は１０に記載の表示方法。
【請求項12】
前記表示制御部は、さらに、前記所定領域の表示を変更できないようにする、請求項９に記載の表示方法。
【請求項13】
他の拠点の撮像者がリアルタイムで指定した全天球画像の注目点と、前記撮像者が撮像した全天球画像の所定領域の画像と、を他の通信端末との映像通信中に遠隔で閲覧する通信端末を、前記撮像者の指定する注目点の有無を判断する判断部と、
前記判断部が前記撮像者によって注目点が指定されていると判断した場合に、前記通信端末の映像画面に前記全天球画像における前記注目点を含む所定領域の画像を表示させる表示制御部、
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、通信端末、画像通信システム、表示方法、及び、プログラムに関する。
【背景技術】
【0002】
魚眼レンズや超広角レンズなどの広角なレンズを複数使用して周囲３６０度又は全方位（以下、全天球という。）を一度に撮像する撮像装置が知られている。この撮像装置では、各々のレンズからの像を各撮像素子に投影し、得られる各画像を画像処理によってつなぎ合わせることで、全天球画像を生成する。例えば、１８０度を超える画角を有する２つの広角なレンズを用いて、全天球の被写体が撮像された全天球画像を生成することができる。
【0003】
しかしながら、撮像装置で生成される全天球画像は球面座標系にて表現されているのに対し、ディスプレイなどの通常の表示装置は平面であるため、一度に全体を表示することが困難である。このため、全天球画像を表示する際には、通常、全天球画像の一部の画角を通常の表示装置に適合した画像へ変換する専用ビューアが用いられる。
【0004】
全天球画像のうち任意の画角を端末側が表示できるように、注目点を決定する技術が考案されている（例えば、特許文献１参照。）。特許文献１には、ユーザが撮像装置を傾けたり回転させたりすることで注目点を変更し、注目点を通常の表示装置に表示する方法が開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、従来の技術では、画像の撮像元がリアルタイムに注目点を指定することが困難であるという問題があった。リアルタイムに注目点を指定したいユースケースの１つとして、不動産の内見を例に説明する。
【0006】
上記の撮像装置を不動産の内見に利用する場合、撮像装置は物件の部屋の全体を撮像できるので、内見をしたい顧客が物件まで移動しなくても物件の全体的な様子を把握でき、移動する手間を省くことができる。例えば、以下のような仕組みで内見が実現される。
１．不動産業者が物件に赴き、撮像装置で物件を撮像する。
２．内見をしたい顧客が撮像装置の映像を通信端末で受信してリアルタイムに遠隔で閲覧する。
３．映像だけでなく音声もつながっているので顧客は不動産業者と会話しながら内見できる。
１．不動産業者が物件に赴き、撮像装置で物件を撮像する。
２．内見をしたい顧客が撮像装置の映像を通信端末で受信してリアルタイムに遠隔で閲覧する。
３．映像だけでなく音声もつながっているので顧客は不動産業者と会話しながら内見できる。
【0007】
しかし、顧客は全天球画像のある画角しか見えないので、不動産業者が説明している箇所を顧客が見ているとは限らないし、その箇所を平面デバイスですぐに表示させることも困難である。つまり、顧客は全天球画像のどこに注目をしたらよいかわからない。例えば、現地の不動産業者が「この部屋には最新のエアコンが備え付けられています! これです!」と言っても、遠隔で内見をしている顧客は全天球画像の中でエアコンの方向を見ているとは限らず、リアルタイムに指定された注目点について意思疎通することが難しい。
【0008】
このような不都合に対し、不動産業者が携帯する通信端末に全天球画像のプレビューを表示して、注目点を指示する操作を行えば、不動産業者の通信端末が遠隔で内見している顧客の通信端末に注目点を送信でき、不動産業者と顧客が同じ注目点に注目できる。しかし、不動産業者が撮像装置で撮像しながら通信端末を操作するのは困難である。不動産業者が複数人で現地に赴けば可能であるが、人員の確保が困難な場合も多い。
【0009】
全天球画像を解析して注目点を推定する技術もあるが、あくまでも推定であるため、不動産業者が説明する箇所を、注目点として推定するとは限らない。
【0010】
本発明は、上記課題に鑑み、画像の撮像元がリアルタイムに注目点を指定することができる技術を提供することを目的とする。
【課題を解決するための手段】
【0011】
上記課題に鑑み、本発明は、他の拠点の撮像者がリアルタイムで指定した全天球画像の注目点と、前記撮像者が撮像した全天球画像の所定領域の画像と、を他の通信端末との映像通信中に遠隔で閲覧する通信端末であって、前記撮像者の指定する注目点の有無を判断する判断部と、前記判断部が前記撮像者によって注目点が指定されていると判断した場合に、前記通信端末の映像画面に前記全天球画像における前記注目点を含む所定領域の画像を表示させる表示制御部と、を有する。
【発明の効果】
【0012】
画像の撮像元がリアルタイムに注目点を指定することができる画像通信システムを提供することができる。
【図面の簡単な説明】
【0013】
【図1】任意の方向の注目点が指定された全天球画像を拠点Ａから拠点Ｂの間に送信する画像通信システムの概略的な動作を説明する図である。
【図2】（ａ）は撮像装置の左側面図であり、（ｂ）は撮像装置の正面図であり、（ｃ）は撮像装置の平面図である。
【図3】撮像装置の使用イメージ図である。
【図4】（ａ）は撮像装置で撮像された半球画像（前）、（ｂ）は撮像装置で撮像された半球画像（後）、（ｃ）は正距円筒射影図法により表された画像を示した図である。
【図5】（ａ）正距円筒射影画像で球を被う状態を示した概念図、（ｂ）全天球パノラマ画像を示した図である。
【図6】全天球パノラマ画像を３次元の立体球とした場合の仮想カメラ及び所定領域の位置を示した図である。
【図8】所定領域情報と所定領域Ｔの画像との関係を示した図である。
【図9】球座標による３次元ユークリッド空間内の点を示した図である。
【図10】本実施形態の画像通信システムの構成の概略図である。
【図11】撮像装置の一例のハードウェア構成図である。
【図12】通信端末３，４の一例のハードウェア構成図である
【図13】通信管理システムの一例のハードウェア構成図である。
【図14】通信端末１，２の一例のハードウェア構成図である。
【図15】画像通信システムの機能をブロック状に示す一例の機能ブロック図である（その１）。
【図16】画像通信システムの機能をブロック状に示す一例の機能ブロック図である（その２）。
【図17】画像種類管理テーブルを示す概念図である。
【図18】撮像装置管理テーブルを示す概念図である。
【図19】所定領域情報管理テーブルを示す概念図である。
【図20】セッション管理テーブルを示す概念図である。
【図21】画像種類管理テーブルを示す概念図である。
【図22】所定領域情報管理テーブルを示す概念図である。
【図23】特定の通信セッションへの参加処理を示した一例のシーケンス図である。
【図24】通信セッション（仮想の会議室）の一例の選択画面を示した図である。
【図25】撮像装置の一例の座標軸を説明する図である。
【図26】基準となる撮像装置の姿勢の一例を説明する図である。
【図27】加速度・方位センサが検出する値の一例を説明する図である。
【図28】（ａ）は撮像者が対象を指し示す様子の概念図、（ｂ）は天頂補正なしに全天球画像が正距円筒図法で表された一例の正距円筒画像、（ｃ）は天頂補正ありに全天球画像が正距円筒図法で表された一例の正距円筒画像、である。
【図29】撮像装置が有する画像処理部の一例の機能ブロック図である。
【図30】一例の変換テーブル及び平面座標系から球面座標系への変換の一例を説明する図である。
【図31】姿勢情報に基づく変換テーブルの補正の一例を説明する図である。
【図32】画像回転部による一例の画像回転処理を模式的に示す図である。
【図33】映像通話における全天球画像及び音データの通信処理を示す一例のシーケンス図である。
【図34】撮像装置が全天球画像を生成する一例の処理と、通信端末が全天球画像を表示する処理を示す一例のフローチャート図である。
【図35】ディスプレイに表示された一例の映像表示画面を示す図である。
【発明を実施するための形態】
【0014】
以下、本発明を実施するための形態の一例として、画像処理システムと画像処理システムが行う画像処理方法について図面を参照しながら説明する。
【0015】
＜画像通信システムの概略＞
まず、図１を用いて、画像通信システム１０の概略的な動作について説明する。図１は、任意の方向の注目点が指定された全天球画像を拠点Ａから拠点Ｂの間に送信する画像通信システム１０の概略的な動作を説明する図である。
まず、図１を用いて、画像通信システム１０の概略的な動作について説明する。図１は、任意の方向の注目点が指定された全天球画像を拠点Ａから拠点Ｂの間に送信する画像通信システム１０の概略的な動作を説明する図である。
【0016】
（１）本実施形態の撮像装置５ａには注目点座標が予め定義されている。注目点座標は、例えば撮像装置５ａの長手方向（上側）の被写体が写る撮像素子の画素又はある範囲を示すｘ、ｙ座標である。なお、注目点座標は、撮像素子上の座標であり出荷時に予め設定されている。
【0017】
（２）拠点Ａの撮像者８がエアコン１４０を拠点Ｂのユーザに注目して欲しい場合、撮像者８は撮像装置５ａの長手方向（上側）をエアコン１４０に向ける。撮像装置５ａは後述する天頂補正のために常に姿勢情報を取得している。撮像装置５ａは全天球画像を撮像し、姿勢情報に基づいて天頂補正を行うので、エアコン１４０が傾いて撮像されるようなことはない。また、注目点座標にはエアコン１４０が写っているので、注目点座標の被写体がエアコンである。そして、撮像者８が撮像装置５ａを傾けることで、注目点座標がどこに変化したかは姿勢情報そのものである。従って、天頂補正により、定義されている注目点座標の変換後の注目点座標を特定できる。
【0018】
（３）撮像装置５ａは通信端末１を介して全天球画像と変換後の注目点座標を拠点Ｂの通信端末２に送信する。
【0019】
（４）通信端末２はそれまで表示していた所定領域画像に関わりなく、注目点座標を含む所定範囲を切り出して、所定領域画像を生成してディスプレイ等に表示するので、撮像者８は注目して欲しい対象をユーザに注目させることができる。また、撮像者ビュー情報で生成された所定領域画像は、少なくとも一定時間、閲覧者が変更できない。すなわち、強制的に撮像者ビュー情報で生成された所定領域画像が表示される。
【0020】
このように、本実施形態の画像通信システム１０は、撮像装置５ａに予め注目点座標が定義されており、撮像者がこの注目点座標で見せたい対象を指し示すことで、注目点座標を姿勢情報に応じて変換してユーザに送信するので、撮像者８は拠点Ｂのユーザをリアルタイムに注目点に注目させることができる。
【0021】
＜用語について＞
定義される注目点とは上記のように撮像素子上の１点又はある範囲である。撮像装置５ａからみて常に同じ方向の被写体が写る。本実施形態では長手方向の上側の被写体が写る撮像素子の画素又はある範囲を定義された注目点とするが、注目点の場所は任意に決定できる。例えば、長手方向の下側が指す方向、レンズの光軸方向、又は、撮像装置５ａの突起部分が指す方向、の被写体が写る撮像素子の画素などでもよい。
定義される注目点とは上記のように撮像素子上の１点又はある範囲である。撮像装置５ａからみて常に同じ方向の被写体が写る。本実施形態では長手方向の上側の被写体が写る撮像素子の画素又はある範囲を定義された注目点とするが、注目点の場所は任意に決定できる。例えば、長手方向の下側が指す方向、レンズの光軸方向、又は、撮像装置５ａの突起部分が指す方向、の被写体が写る撮像素子の画素などでもよい。
【0022】
撮像装置の姿勢情報は、撮像装置の任意の方向が指し示す方向を特定できる情報であればよい。例えば、正立状態からどの位倒れているかを示す情報や、三次元空間の各軸の回転に関する情報である。
【0023】
【0024】
まず、図２を用いて、撮像装置５ａの外観を説明する。撮像装置５ａは、３次元の全天球（３６０°）画像の元になる撮像画像を得るためのデジタルカメラである。なお、図２（ａ）は撮像装置５ａの左側面図であり、図２（ｂ）は撮像装置５ａの正面図であり、図２（ｃ）は撮像装置５ａの平面図である。
【0025】
図２（ａ）に示されているように、撮像装置５ａは、人間が片手で持つことができる大きさである。また、図２（ａ），図２（ｂ），図２（ｃ）に示されているように、撮像装置５ａの上部には、正面側（前側）に撮像素子１０３ａ及び背面側（後側）に撮像素子１０３ｂが設けられている。これら撮像素子（画像センサ）１０３ａ，１０３ｂは、半球画像（画角１８０°以上）の撮像が可能な光学部材（例えば、後述する図１１の魚眼レンズ１０２ａ，１０２ｂ）と併せて用いられる。また、図２（ｂ）に示されているように、撮像装置５ａの正面側と反対側の面には、シャッターボタン等の操作部１１５が設けられている。
【0026】
次に、図３を用いて、撮像装置５ａの使用状況を説明する。なお、図３は、撮像装置の使用イメージ図である。撮像装置５ａは、図３に示されているように、例えば、ユーザが手に持ってユーザの周りの被写体を撮像するために用いられる。この場合、図２に示されている撮像素子１０３ａ及び撮像素子１０３ｂによって、それぞれユーザの周りの被写体が撮像されることで、２つの半球画像を得ることができる。
【0027】
次に、図４及び図５を用いて、撮像装置５ａで撮像された画像から全天球画像が作成されるまでの処理の概略を説明する。なお、図４（ａ）は撮像装置で撮像された半球画像（前側）、図４（ｂ）は撮像装置で撮像された半球画像（後側）、図４（ｃ）は正距円筒図法により表された画像（以下、「正距円筒画像」という）を示した図である。図５（ａ）は正距円筒画像で球を被う状態を示した概念図、図５（ｂ）は全天球画像を示した図である。
【0028】
図４（ａ）に示されているように、撮像素子１０３ａによって得られた画像は、後述の魚眼レンズ１０２ａによって湾曲した半球画像（前側）となる。また、図４（ｂ）に示されているように、撮像素子１０３ｂによって得られた画像は、後述の魚眼レンズ１０２ｂによって湾曲した半球画像（後側）となる。そして、半球画像（前側）と、１８０度反転された半球画像（後側）とは、撮像装置５ａによって合成され、図４（ｃ）に示されているように、正距円筒画像が作成される。
【0029】
そして、OpenGL ES（Open Graphics Library for Embedded Systems）が利用されることで、図５（ａ）に示されているように、正距円筒画像が球面を覆うように貼り付けられ、図５（ｂ）に示されているような全天球画像が作成される。このように、全天球画像は、正距円筒画像が球の中心を向いた画像として表される。なお、OpenGL ESは、２Ｄ(2－Dimensions)及び３Ｄ(3－Dimensions)のデータを視覚化するために使用するグラフィックスライブラリである。なお、全天球画像は、静止画であっても動画であってもよい。
【0030】
以上のように、全天球画像は、球面を覆うように貼り付けられた画像であるため、人間が見ると違和感を持ってしまう。そこで、全天球画像の一部の所定領域（以下、「所定領域画像」という）を湾曲の少ない平面画像として表示することで、人間に違和感を与えない表示をすることができる。これに関して、図６及び図７を用いて説明する。
【0031】
なお、図６は、全天球画像を三次元の立体球とした場合の仮想カメラ及び所定領域の位置を示した図である。仮想カメラＩＣは、三次元の立体球として表示されている全天球画像ＣＥに対して、その画像を見るユーザの視点の位置に相当するものである。また、図７（ａ）は図６の立体斜視図、図７（ｂ）はディスプレイに表示された場合の所定領域画像を表す図である。また、図７（ａ）では、図６に示されている全天球画像ＣＥが、三次元の立体球ＣＳで表されている。このように生成された全天球画像ＣＥが、立体球ＣＳであるとすると、図６に示されているように、仮想カメラＩＣが全天球画像ＣＥの外部に位置している。全天球画像ＣＥにおける所定領域Ｔは、仮想カメラＩＣの撮像領域であり、全天球画像ＣＥを含む三次元の仮想空間における仮想カメラＩＣの撮像方向と画角を示す所定領域情報によって特定される。
【0032】
そして、図７（ａ）に示されている所定領域Ｔは、図７（ｂ）に示されているように、所定のディスプレイに、仮想カメラＩＣの撮像領域の画像として表示される。図７（ｂ）に示されている画像は、例えば初期設定された所定領域情報によって表された所定領域画像である。なお、所定領域情報は、仮想カメラＩＣの位置座標ではなく、所定領域Ｔである仮想カメラＩＣの撮像領域（Ｘ，Ｙ，Ｚ）によって示してもよい。以下では、仮想カメラＩＣの撮像方向（ｒＨ，ｒＶ）と画角（α）を用いて説明する。
【0033】
図８を用いて、所定領域情報と所定領域Ｔの画像の関係について説明する。なお、図８は、所定領域情報と所定領域Ｔの画像の関係との関係を示した図である。図８に示されているように、ｒＨはHorizontal Radian、ｒＶはVertical Radian、αは画角(Angle)を示す。即ち、撮像方向（ｒＨ，ｒＶ）で示される仮想カメラＩＣの注視点が、仮想カメラＩＣの撮像領域である所定領域Ｔの中心点ＣＰとなるように、仮想カメラＩＣの姿勢を変更することになる。所定領域画像Ｑは、全天球画像ＣＥにおける所定領域Ｔの画像である。ｆは仮想カメラＩＣから中心点ＣＰまでの距離である。Ｌは所定領域Ｔの任意の頂点と中心点ＣＰとの距離である（２Ｌは対角線）。そして、図８では、一般的に以下の式（Ａ）で示される三角関数が成り立つ。
【0034】
Ｌ/ｆ＝ｔａｎ（α／２）・・・（Ａ）
図９は、球座標による３次元ユークリッド空間内の点を示した図である。中心点ＣＰを球面極座標系で表現したときの位置座標を（ｒ、θ、φ）とする。（ｒ、θ、φ）は、それぞれ動径、極角、方位角である。動径ｒは、全天球画像を含む三次元の仮想空間の原点から中心点ＣＰまでの距離であるため、ｆに等しい。図９は、これらの関係を表した図である。以降、位置座標（ｒ，θ、φ）を用いて中心点を説明する。
図９は、球座標による３次元ユークリッド空間内の点を示した図である。中心点ＣＰを球面極座標系で表現したときの位置座標を（ｒ、θ、φ）とする。（ｒ、θ、φ）は、それぞれ動径、極角、方位角である。動径ｒは、全天球画像を含む三次元の仮想空間の原点から中心点ＣＰまでの距離であるため、ｆに等しい。図９は、これらの関係を表した図である。以降、位置座標（ｒ，θ、φ）を用いて中心点を説明する。
【0035】
【0036】
図１０に示されているように、本実施形態の画像通信システム１０は、拠点Ａ～拠点Ｄに配置された各通信端末１～４がインターネット等の通信ネットワーク１００を介して通信して、各拠点の通信端末１～４が映像を共有することができる。拠点Ａには撮像装置５ａと通信端末１が配置されており、拠点Ｂには通信端末２と撮像装置５ｂが配置されており、拠点Ｃには撮像装置５ｃ、通信端末３，及び、ディスプレイ６ｃが配置されており、拠点Ｄには通信端末４とディスプレイ６ｄが配置されている。
【0037】
撮像装置５ａ，５ｃは、上述のように、被写体や風景等を撮像して全天球画像の元になる２つの半球画像を得るための特殊なデジタルカメラである。一方、撮像装置５ｂは、被写体や風景等を撮像して一般の平面画像を得るための一般のデジタルカメラである。
【0038】
通信端末３、４はビデオ会議専用のビデオ会議端末であり、ＵＳＢ(Universal Serial Bus)ケーブル等の有線ケーブルを介して映像通話（ビデオ通話）の画像を、それぞれディスプレイ６ｃ，６ｄに表示する。通信端末３，４は、通常は後述の図１２のカメラ３１２でユーザ等を撮像するが、撮像装置５ｃを取り付けるクレードル７に有線ケーブルで接続されると、撮像装置５ｃが優先され、全天球画像を得ることができる。有線ケーブルを利用する場合、クレードル７は、撮像装置５ｃと通信端末３との間の通信を行うだけでなく、撮像装置５ｃに電源供給及び撮像装置５ｃを支える役割を果たす。
【0039】
通信端末１，２はビデオ会議用のアプリケーションソフトを動作させることで他の拠点と通信する汎用的な情報処理装置である。通信端末１は例えば、ノートＰＣ（Personal Computer）、携帯電話、スマートフォン、タブレット端末、カーナビ、ゲーム機、ＰＤＡ（Personal Digital Assistant）、ウェアラブルＰＣ又はデスクトップＰＣ等である。しかし、これらには限られない。
【0040】
通信端末１は、自装置に設けられた後述のディスプレイ９１７に映像通話の画像を表示する。通信端末１は、通常は自装置に設けられた後述のＣＭＯＳ(Complementary Metal Oxide Semiconductor)センサ９０５等で撮像するが、Wi－Fi(Wireless Fidelity)やBluetooth（登録商標）等の無線通信技術を利用して、撮像装置５ａで得られた全天球画像を取得することができる。
【0041】
通信端末２は、自装置に設けられた後述のディスプレイ９１７に映像通話の画像を表示する。通信端末２は、外付けされた撮像装置５ｂでユーザ等を撮像する。
【0042】
また、通信端末１～４には、OpenGL ESがインストールされており、全天球画像の一部の領域を示す所定領域情報を作成したり、他の通信端末から送られて来た全天球画像から所定領域画像を作成したりすることができる。従って、各通信端末１～４は全天球画像から切り出した所定領域画像を表示できる。
【0043】
拠点Ａには、少なくとも一人の撮像者８が存在し、撮像装置５ａを手に把持したり棒状部材に取り付けたりして保持している。撮像者８は撮像装置５ａと共に移動することができる。また、通信端末１は、撮像装置５ａ～５ｃ及び通信端末４のカメラ３１２が撮像する映像をディスプレイ９１７に表示する。
【0044】
拠点Ｂには一人のユーザ９ｂが存在し、通信端末２は撮像装置５ａ～５ｃ及び通信端末４のカメラ３１２が撮像する映像をディスプレイ９１７に表示する。拠点Ｂのユーザ９ｂは、撮像者８により指定された注目点に注目するユーザの一人である。ただし、ユーザの人数は一例である。
【0045】
拠点Ｃには二人のユーザ９ｃ１，９ｃ２が存在し、通信端末３は撮像装置５ａ～５ｃ及び通信端末４のカメラ３１２が撮像する映像をディスプレイ６ｃに表示する。拠点Ｃのユーザ９ｃ１，９ｃ２は、撮像者８により指定された注目点に注目するユーザの一人である。ただし、ユーザの人数は一例である。
【0046】
拠点Ｄには一人のユーザ９ｄが存在し、通信端末４は撮像装置５ａ～５ｃ及び通信端末４のカメラ３１２が撮像する映像をディスプレイ６ｄに表示する。拠点Ｄのユーザ９ｄは、撮像者８により指定された注目点に注目するユーザの一人である。ただし、ユーザの人数は一例である。
【0047】
通信管理システム５０は、通信端末１～４の通信を管理及び制御する。よって、通信管理システム５０は通信制御システムでもある。なお、通信管理システム５０は、ビデオ通信のサービスを行うサービス会社等に設置されている。また、通信管理システム５０は、単一のコンピュータによって構築されてもよいし、各部（機能、手段、又は記憶部）を分割して任意に割り当てられた複数のコンピュータによって構築されていてもよい。
【0048】
なお、図１０に示した、拠点数、各拠点に配置される通信端末１～４の種類、撮像装置５ａ～５ｃの種類、及び、ユーザの人数は一例であり、本実施形態では、拠点Ａと他の１つの拠点があればよい。また、拠点Ｂは撮像装置５ｂを有していなくてもよく、拠点Ａから送信される全天球画像を表示できればよい。
【0049】
また、拠点Ａの撮像装置５ａと通信端末１は一体でもよい。つまり、撮像装置５ａが通信ネットワーク１００に接続する機能を有していれば、通信端末１はなくてよい。この場合、撮像装置５ａが通信端末１となる。本実施形態では、撮像者８が撮像装置５ａだけで注目点を指定できるためである。しかし、通信端末１があることで、撮像者８は通信端末１を操作して注目点を指定できる。また、通信端末１は拠点Ａの撮像装置５ａと通信せずに記憶媒体を介して全天球画像と注目点座標を受信してもよい。
【0050】
以降、撮像装置５ａ～５ｃのうち任意の撮像装置を表す場合には、「撮像装置５」として表す。更に、ディスプレイ６ｃ，６ｄのうち任意のディスプレイを表す場合には、「ディスプレイ６」として表す。
【0051】
＜＜実施形態のハードウェア構成＞＞
次に、図１１～図１４を用いて、本実施形態の撮像装置５ａ、５ｃ、通信端末１～４、通信管理システムのハードウェア構成を詳細に説明する。なお、撮像装置５ｃは、一般のカメラであるため、詳細な説明は省略する。
次に、図１１～図１４を用いて、本実施形態の撮像装置５ａ、５ｃ、通信端末１～４、通信管理システムのハードウェア構成を詳細に説明する。なお、撮像装置５ｃは、一般のカメラであるため、詳細な説明は省略する。
【0052】
＜撮像装置５ａ、５ｃのハードウェア構成＞
まず、図１１を用いて、撮像装置５ａ、５ｃのハードウェア構成を説明する。図１１は、撮像装置５ａ、５ｃのハードウェア構成図である。以下では、撮像装置５ａ、５ｃは、２つの撮像素子を使用した全天球（全方位）撮像装置とするが、撮像素子は２つ以上いくつでもよい。また、必ずしも全方位撮像専用の装置である必要はなく、通常のデジタルカメラやスマートフォン等に後付けの全方位撮像ユニットを取り付けることで、実質的に撮像装置５ａ、５ｃと同じ機能を有するようにしてもよい。
まず、図１１を用いて、撮像装置５ａ、５ｃのハードウェア構成を説明する。図１１は、撮像装置５ａ、５ｃのハードウェア構成図である。以下では、撮像装置５ａ、５ｃは、２つの撮像素子を使用した全天球（全方位）撮像装置とするが、撮像素子は２つ以上いくつでもよい。また、必ずしも全方位撮像専用の装置である必要はなく、通常のデジタルカメラやスマートフォン等に後付けの全方位撮像ユニットを取り付けることで、実質的に撮像装置５ａ、５ｃと同じ機能を有するようにしてもよい。
【0053】
図１１に示されているように、撮像装置５ａ、５ｃは、撮像ユニット１０１、画像処理ユニット１０４、撮像制御ユニット１０５、マイク１０８、音処理ユニット１０９、ＣＰＵ(Central Processing Unit)１１１、ＲＯＭ(Read Only Memory)１１２、ＳＲＡＭ(Static Random Access Memory)１１３、ＤＲＡＭ(Dynamic Random Access Memory)１１４、操作部１１５、ネットワークＩ／Ｆ１１６、通信部１１７、及びアンテナ１１７ａによって構成されている。
【0054】
このうち、撮像ユニット１０１は、各々半球画像を結像するための１８０°以上の画角を有する広角レンズ（いわゆる魚眼レンズ）１０２ａ，１０２ｂと、各広角レンズに対応させて設けられている２つの撮像素子１０３ａ，１０３ｂを備えている。撮像素子１０３ａ，１０３ｂは、魚眼レンズ１０２ａ，１０２ｂによる光学像を電気信号の画像データに変換して出力するＣＭＯＳセンサやＣＣＤ(Charge Coupled Device)センサなどの画像センサ、この画像センサの水平又は垂直同期信号や画素クロックなどを生成するタイミング生成回路、この撮像素子の動作に必要な種々のコマンドやパラメータなどが設定されるレジスタ群などを有している。
【0055】
撮像ユニット１０１の撮像素子１０３ａ，１０３ｂは、各々、画像処理ユニット１０４とパラレルＩ／Ｆバスで接続されている。一方、撮像ユニット１０１の撮像素子１０３ａ，１０３ｂは、撮像制御ユニット１０５とは別に、シリアルＩ／Ｆバス（Ｉ２Ｃバス等）で接続されている。画像処理ユニット１０４及び撮像制御ユニット１０５は、バス１１０を介してＣＰＵ１１１と接続される。更に、バス１１０には、ＲＯＭ１１２、ＳＲＡＭ１１３、ＤＲＡＭ１１４、操作部１１５、ネットワークＩ／Ｆ１１６、通信部１１７、加速度・方位センサ１１８、及び、ジャイロセンサ１１９なども接続される。
【0056】
画像処理ユニット１０４は、撮像素子１０３ａ，１０３ｂから出力される画像データをパラレルＩ／Ｆバスを通して取り込み、それぞれの画像データに対して所定の処理を施した後、これらの画像データを合成処理して、図４（ｃ）に示されているような正距円筒画像のデータを作成する。
【0057】
撮像制御ユニット１０５は、一般に撮像制御ユニット１０５をマスタデバイス、撮像素子１０３ａ，１０３ｂをスレーブデバイスとして、Ｉ２Ｃバスを利用して、撮像素子１０３ａ，１０３ｂのレジスタ群にコマンド等を設定する。必要なコマンド等は、ＣＰＵ１１１から受け取る。また、撮像制御ユニット１０５は、同じくＩ２Ｃバスを利用して、撮像素子１０３ａ，１０３ｂのレジスタ群のステータスデータ等を取り込み、ＣＰＵ１１１に送る。
【0058】
また、撮像制御ユニット１０５は、操作部１１５のシャッターボタンが押下されたタイミングで、撮像素子１０３ａ，１０３ｂに画像データの出力を指示する。撮像装置５ａ、５ｃによっては、ディスプレイ（例えば、通信端末１、３が有するディスプレイ）によるプレビュー表示機能や動画表示に対応する機能を持つ場合もある。この場合は、撮像素子１０３ａ，１０３ｂからの画像データの出力は、所定のフレームレート（フレーム／分）によって連続して行われる。
【0059】
また、撮像制御ユニット１０５は、後述するように、ＣＰＵ１１１と協働して撮像素子１０３ａ，１０３ｂの画像データの出力タイミングの同期をとる同期制御手段としても機能する。なお、本実施形態では、撮像装置５ａ、５ｃには表示部（ディスプレイ）が設けられていないが、表示部を設けてもよい。
【0060】
マイク１０８は、音を音（信号）データに変換する。音処理ユニット１０９は、マイク１０８から出力される音データをＩ／Ｆバスを通して取り込み、音データに対して所定の処理を施す。
【0061】
ＣＰＵ１１１は、撮像装置５ａ、５ｃの全体の動作を制御すると共に必要な処理を実行する。ＲＯＭ１１２は、ＣＰＵ１１１のための種々のプログラムを記憶している。ＳＲＡＭ１１３及びＤＲＡＭ１１４はワークメモリであり、ＣＰＵ１１１で実行するプログラムや処理途中のデータ等を記憶する。特にＤＲＡＭ１１４は、画像処理ユニット１０４での処理途中の画像データや処理済みの正距円筒画像のデータを記憶する。
【0062】
操作部１１５は、種々の操作ボタンや電源スイッチ、シャッターボタン、表示と操作の機能を兼ねたタッチパネルなどの総称である。ユーザは操作ボタンを操作することで、種々の撮像モードや撮像条件などを入力する。
【0063】
ネットワークＩ／Ｆ１１６は、ＳＤカード等の外付けのメディアやパーソナルコンピュータなどとのインタフェース回路（ＵＳＢＩ／Ｆ等）の総称である。また、ネットワークＩ／Ｆ１１６としては、無線、有線を問わない。ＤＲＡＭ１１４に記憶された正距円筒画像のデータは、このネットワークＩ／Ｆ１１６を介して外付けのメディアに記録されたり、必要に応じてネットワークＩ／Ｆ１１６を介して通信端末３等の外部装置に送信されたりする。
【0064】
通信部１１７は、撮像装置５ａ、５ｃに設けられたアンテナ１１７ａを介して、Wi－FiやNFC（Near Field Communication）等の近距離無線技術によって、通信端末１，３等の外部装置と通信を行う。この通信部１１７によっても、正距円筒画像のデータを通信端末１，３等の外部装置に送信することができる。
【0065】
加速度・方位センサ１１８は、地球の磁気から撮像装置５ａ、５ｃの方位及び傾き(ロール角、ヨー角、ピッチ角)を算出し、方位・傾き情報を出力する。この方位・傾き情報はExifに沿った関連情報（メタデータ）の一例であり、撮像画像の画像補正等の画像処理に利用される。なお、関連情報には、画像の撮像日時、及び画像データのデータ容量の各データも含まれている。
【0066】
ジャイロセンサ１１９は、Ｘ、Ｙ、Ｚ軸それぞれの回りの回転速度を検出する３軸又は６軸のセンサである。回転速度を蓄積（積分）することで回転角（姿勢情報）が得られる。
【0067】
＜通信端末３，４（ビデオ会議端末）のハードウェア構成＞
次に、図１２を用いて、通信端末３，４のハードウェア構成を説明する。図１２は、通信端末３，４のハードウェア構成図である。図１２に示されているように、通信端末３，４は、ＣＰＵ３０１、ＲＯＭ３０２、ＲＡＭ３０３、フラッシュメモリ３０４、ＳＳＤ３０５、メディアＩ／Ｆ３０７、操作ボタン３０８、電源スイッチ３０９、バスライン３１０、ネットワークＩ／Ｆ３１１、カメラ３１２、撮像素子Ｉ／Ｆ３１３、マイク３１４、スピーカ３１５、音入出力Ｉ／Ｆ３１６、ディスプレイＩ／Ｆ３１７、外部機器接続Ｉ／Ｆ３１８、近距離通信回路３１９、近距離通信回路３１９のアンテナ３１９ａを備えている。
次に、図１２を用いて、通信端末３，４のハードウェア構成を説明する。図１２は、通信端末３，４のハードウェア構成図である。図１２に示されているように、通信端末３，４は、ＣＰＵ３０１、ＲＯＭ３０２、ＲＡＭ３０３、フラッシュメモリ３０４、ＳＳＤ３０５、メディアＩ／Ｆ３０７、操作ボタン３０８、電源スイッチ３０９、バスライン３１０、ネットワークＩ／Ｆ３１１、カメラ３１２、撮像素子Ｉ／Ｆ３１３、マイク３１４、スピーカ３１５、音入出力Ｉ／Ｆ３１６、ディスプレイＩ／Ｆ３１７、外部機器接続Ｉ／Ｆ３１８、近距離通信回路３１９、近距離通信回路３１９のアンテナ３１９ａを備えている。
【0068】
これらのうち、ＣＰＵ３０１は、通信端末３，４全体の動作を制御する。ＲＯＭ３０２は、ＩＰＬ(Initial Program Loader)等のＣＰＵ３０１の駆動に用いられるプログラムを記憶する。ＲＡＭ３０３は、ＣＰＵ３０１のワークエリアとして使用される。フラッシュメモリ３０４は、通信用プログラム、画像データ、及び音データ等の各種データを記憶する。ＳＳＤ（Solid State Drive）３０５は、ＣＰＵ３０１の制御に従ってフラッシュメモリ３０４に対する各種データの読み出し又は書き込みを制御する。なお、ＳＳＤに代えてＨＤＤを用いてもよい。メディアＩ／Ｆ３０７は、フラッシュメモリ等の記録メディア３０６に対するデータの読み出し又は書き込み（記憶）を制御する。操作ボタン３０８は、通信端末３，４の宛先を選択する場合などに操作されるボタンである。電源スイッチ３０９は、通信端末３，４の電源のＯＮ／ＯＦＦを切り換えるためのスイッチである。
【0069】
また、ネットワークＩ／Ｆ３１１は、インターネット等の通信ネットワーク１００を利用してデータ通信をするためのインタフェースである。カメラ３１２は、ＣＰＵ３０１の制御に従って被写体を撮像して画像データを得る内蔵型の撮像手段の一種である。撮像素子Ｉ／Ｆ３１３は、カメラ３１２の駆動を制御する回路である。マイク３１４は、音声を入力する内蔵型の集音手段の一種である。音入出力Ｉ／Ｆ３１６は、ＣＰＵ３０１の制御に従ってマイク３１４及びスピーカ３１５との間で音信号の入出力を処理する回路である。ディスプレイＩ／Ｆ３１７は、ＣＰＵ３０１の制御に従って外付けのディスプレイ６に画像データを送信する回路である。外部機器接続Ｉ／Ｆ３１８は、各種の外部機器を接続するためのインタフェースである。近距離通信回路３１９は、ＮＦＣ（登録商標）、Ｂｌｕｅｔｏｏｔｈ（登録商標）等の通信回路である。
【0070】
また、バスライン３１０は、図１２に示されているＣＰＵ３０１等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0071】
ディスプレイ６は、被写体の画像や操作用アイコン等を表示する液晶や有機ＥＬ（electro luminescence）によって構成された表示手段の一種である。また、ディスプレイ６は、ケーブル６ｙによってディスプレイＩ／Ｆ３１７に接続される。このケーブル６ｙは、アナログＲＧＢ（ＶＧＡ）信号用のケーブルであってもよいし、コンポーネントビデオ用のケーブルであってもよいし、ＨＤＭＩ(High－Definition Multimedia Interface)（登録商標）やＤＶＩ(Digital Video Interactive)信号用のケーブルであってもよい。
【0072】
なお、カメラ３１２は、レンズや、光を電荷に変換して被写体の画像（映像）を電子化する固体撮像素子を含み、固体撮像素子として、ＣＭＯＳセンサや、ＣＣＤセンサ等が用いられる。外部機器接続Ｉ／Ｆ３１８には、ＵＳＢ(Universal Serial Bus)ケーブル等によって、外付けカメラ、外付けマイク、及び外付けスピーカ等の外部機器がそれぞれ接続可能である。外付けカメラが接続された場合には、ＣＰＵ３０１の制御に従って、内蔵型のカメラ３１２に優先して、外付けカメラが駆動する。同じく、外付けマイクが接続された場合や、外付けスピーカが接続された場合には、ＣＰＵ３０１の制御に従って、それぞれが内蔵型のマイク３１４や内蔵型のスピーカ３１５に優先して、外付けマイクや外付けスピーカが駆動する。
【0073】
また、記録メディア３０６は、通信端末３，４に対して着脱自在な構成となっている。また、ＣＰＵ３０１の制御に従ってデータの読み出し又は書き込みを行う不揮発性メモリであれば、フラッシュメモリ３０４に限らず、ＥＥＰＲＯＭ（Electrically Erasable and Programmable ROM）等を用いてもよい。
【0074】
【0075】
通信管理システム５０は、通信管理システム５０全体の動作を制御するＣＰＵ５０１、ＩＰＬ等のＣＰＵ５０１の駆動に用いられるプログラムを記憶したＲＯＭ５０２、ＣＰＵ５０１のワークエリアとして使用されるＲＡＭ５０３、通信管理システム５０用のプログラム等の各種データを記憶するＨＤ５０４、ＣＰＵ５０１の制御に従ってＨＤ５０４に対する各種データの読み出し又は書き込みを制御するＨＤＤ(Hard Disk Drive)５０５、フラッシュメモリ等の記録メディア５０６に対するデータの読み出し又は書き込み（記憶）を制御するメディアドライブ５０７、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示するディスプレイ５０８、通信ネットワーク１００を利用してデータ通信するためのネットワークＩ／Ｆ５０９、文字、数値、各種指示などの入力のための複数のキーを備えたキーボード５１１、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行うマウス５１２、着脱可能な記録媒体の一例としてのＣＤ－ＲＷ(Compact Disc－ReWritable)５１３に対する各種データの読み出しを制御するＣＤ－ＲＷドライブ５１４、及び、上記各構成要素を図１３に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン５１０を備えている。
【0076】
＜通信端末１，２のハードウェア構成＞
次に、図１４を用いて、通信端末１，２のハードウェアについて説明する。図１４は、通信端末１，２のハードウェア構成図である。図１４に示されているように、通信端末１，２は、ＣＰＵ９０１、ＲＯＭ９０２、ＲＡＭ９０３、ＥＥＰＲＯＭ９０４、ＣＭＯＳセンサ９０５、加速度・方位センサ９０６、メディアＩ／Ｆ９０８、ＧＰＳ受信部９０９を備えている。
次に、図１４を用いて、通信端末１，２のハードウェアについて説明する。図１４は、通信端末１，２のハードウェア構成図である。図１４に示されているように、通信端末１，２は、ＣＰＵ９０１、ＲＯＭ９０２、ＲＡＭ９０３、ＥＥＰＲＯＭ９０４、ＣＭＯＳセンサ９０５、加速度・方位センサ９０６、メディアＩ／Ｆ９０８、ＧＰＳ受信部９０９を備えている。
【0077】
これらのうち、ＣＰＵ９０１は、通信端末１，２全体の動作を制御する。ＲＯＭ９０２は、ＩＰＬ等のＣＰＵ９０１の駆動に用いられるプログラムを記憶する。ＲＡＭ９０３は、ＣＰＵ９０１のワークエリアとして使用される。ＥＥＰＲＯＭ９０４は、ＣＰＵ９０１の制御に従って、通信端末１，２用プログラム等の各種データの読み出し又は書き込みを行う。ＣＭＯＳセンサ９０５は、ＣＰＵ９０１の制御に従って被写体（主に自画像）を撮像し画像データを得る。加速度・方位センサ９０６は、地磁気を検知する電子磁気コンパスやジャイロコンパス、加速度センサ等の各種センサである。メディアＩ／Ｆ９０８は、フラッシュメモリ等の記録メディア９０７に対するデータの読み出し又は書き込み（記憶）を制御する。ＧＰＳ受信部９０９は、ＧＰＳ衛星からＧＰＳ信号を受信する。
【0078】
また、通信端末１，２は、遠距離通信回路９１１、カメラ９１２、撮像素子Ｉ／Ｆ９１３、マイク９１４、スピーカ９１５、音入出力Ｉ／Ｆ９１６、ディスプレイ９１７、外部機器接続Ｉ／Ｆ９１８、近距離通信回路９１９、近距離通信回路９１９のアンテナ９１９ａ、及びタッチパネル９２１を備えている。
【0079】
これらのうち、遠距離通信回路９１１は、通信ネットワーク１００を介して、他の機器と通信する回路である。カメラ９１２は、ＣＰＵ９０１の制御に従って被写体を撮像して画像データを得る内蔵型の撮像手段の一種である。撮像素子Ｉ／Ｆ９１３は、カメラ９１２の駆動を制御する回路である。マイク９１４は、音声を入力する内蔵型の集音手段の一種である。音入出力Ｉ／Ｆ９１６は、ＣＰＵ９０１の制御に従ってマイク９１４及びスピーカ９１５との間で音信号の入出力を処理する回路である。ディスプレイ９１７は、被写体の画像や各種アイコン等を表示する液晶や有機ＥＬなどの表示手段の一種である。外部機器接続Ｉ／Ｆ９１８は、各種の外部機器を接続するためのインタフェースである。近距離通信回路９１９は、ＮＦＣやＢｌｕｅｔｏｏｔｈ（登録商標）等の通信回路である。タッチパネル９２１は、利用者がディスプレイ９１７を押下することで、通信端末１，２を操作する入力手段の一種である。
【0080】
また、通信端末１，２は、バスライン９１０を備えている。バスライン９１０は、ＣＰＵ９０１等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0081】
なお、上記各プログラムが記憶されたＣＤ－ＲＯＭ等の記録媒体、並びに、これらプログラムが記憶されたＨＤは、いずれもプログラム製品(Program Product)として、国内又は国外へ提供されることができる。
【0082】
【0083】
＜撮像装置５ａの機能構成＞
図１５に示されているように、撮像装置５ａは、受付部１２ａ、撮像部１３ａ、集音部１４ａ、姿勢情報取得部１５ａ、画像処理部１６ａ、通信部１８ａ、及び記憶・読出部１９ａを有している。これら各部は画像処理部１６ａを除いて、図１１に示されている各構成要素のいずれかが、ＳＲＡＭ１１３からＤＲＡＭ１１４上に展開された撮像装置用のプログラムに従ったＣＰＵ１１１からの命令によって動作することで実現される機能又は手段である。画像処理部１６ａはASIC（Application Specific Integrated Circuit）、DSP（digital signal processor）、FPGA（field programmable gate array）等の回路モジュールで実現されるとするが、ソフト的に実現されてもよい。
図１５に示されているように、撮像装置５ａは、受付部１２ａ、撮像部１３ａ、集音部１４ａ、姿勢情報取得部１５ａ、画像処理部１６ａ、通信部１８ａ、及び記憶・読出部１９ａを有している。これら各部は画像処理部１６ａを除いて、図１１に示されている各構成要素のいずれかが、ＳＲＡＭ１１３からＤＲＡＭ１１４上に展開された撮像装置用のプログラムに従ったＣＰＵ１１１からの命令によって動作することで実現される機能又は手段である。画像処理部１６ａはASIC（Application Specific Integrated Circuit）、DSP（digital signal processor）、FPGA（field programmable gate array）等の回路モジュールで実現されるとするが、ソフト的に実現されてもよい。
【0084】
また、撮像装置５ａは、図１１に示されているＲＯＭ１１２、ＳＲＡＭ１１３、及びＤＲＡＭ１１４によって構築される記憶部１０００ａを有している。記憶部１０００ａには、自装置のＧＵＩＤ(Globally Unique Identifier)が記憶されている。
【0085】
（撮像装置５ａの各機能構成）
撮像装置５ａの受付部１２ａは、主に、図１１に示されている操作部１１５及びＣＰＵ１１１の処理によって実現され、撮像者８からの操作入力を受け付ける。
撮像装置５ａの受付部１２ａは、主に、図１１に示されている操作部１１５及びＣＰＵ１１１の処理によって実現され、撮像者８からの操作入力を受け付ける。
【0086】
撮像部１３ａは、主に、図１１に示されている撮像ユニット１０１、画像処理ユニット１０４、及び撮像制御ユニット１０５、並びにＣＰＵ１１１の処理によって実現され、風景等を撮像し、撮像画像データ（全天球画像）を得る。
【0087】
集音部１４ａは、図１１に示されている１０８及び音処理ユニット１０９、並びにＣＰＵ１１１の処理によって実現され、撮像装置５ａの周囲の音を集音する。
【0088】
姿勢情報取得部１５ａは、撮像装置の姿勢（三次元空間の傾き）に関する姿勢情報を取得する。画像処理部１６ａは２つの半球画像を１つの正距円筒画像に合成する処理を行う。この処理の際に、姿勢情報に基づいて天頂補正を行う過程があり、長手方向（上側）が指し示す注目点座標を、撮像者が指し示す方向を表す球面座標系（正距円筒座標）の座標に変換できる。
【0089】
通信部１８ａは、主に、ＣＰＵ１１１の処理によって実現され、通信端末１の通信部９８と、NFC規格、Bluetooth（登録商標）、WiーFi等による近距離無線通信技術によって通信することができる。
【0090】
記憶・読出部１９ａは、主に、図１１に示されているＣＰＵ１１１の処理によって実現され、記憶部１０００ａに各種データ（又は情報）を記憶したり、記憶部１０００ａから各種データ（又は情報）を読み出したりする。
【0091】
なお、撮像装置５ｃは、受付部１２ｃ、撮像部１３ｃ、集音部１４ｃ、姿勢情報取得部１５ｃ、画像処理部１６ｃ、通信部１８ｃ、記憶・読出部１９ｃ、及び記憶部１０００ｃを有しているが、それぞれ、撮像装置５ａにおける受付部１２ａ、撮像部１３ａ、集音部１４ａ、姿勢情報取得部１５ａ、画像処理部１６ａ、通信部１８ａ、記憶・読出部１９ａ及び記憶部１０００ａと同様の機能を実現するため、これらの説明を省略する。
【0092】
＜通信端末１の機能構成＞
図１５に示されているように、通信端末１は、送受信部９１、受付部９２、画像・音処理部９３、表示制御部９４、判断部９５、作成部９６、算出部９７、通信部９８、及び記憶・読出部９９を有している。これら各部は、図１４に示されている各構成要素のいずれかが、ＥＥＰＲＯＭ９０４からＲＡＭ９０３上に展開された通信端末１用プログラムに従ったＣＰＵ９０１からの命令によって動作することで実現される機能又は手段である。
図１５に示されているように、通信端末１は、送受信部９１、受付部９２、画像・音処理部９３、表示制御部９４、判断部９５、作成部９６、算出部９７、通信部９８、及び記憶・読出部９９を有している。これら各部は、図１４に示されている各構成要素のいずれかが、ＥＥＰＲＯＭ９０４からＲＡＭ９０３上に展開された通信端末１用プログラムに従ったＣＰＵ９０１からの命令によって動作することで実現される機能又は手段である。
【0093】
また、通信端末１は、図１４に示されているＲＯＭ９０２、ＲＡＭ９０３、及びＥＥＰＲＯＭ９０４によって構築される記憶部９０００を有している。この記憶部９０００には、画像種類管理ＤＢ９００１、撮像装置管理ＤＢ９００２、及び所定領域管理ＤＢ９００３が構築されている。
【0094】
これらのうち、画像種類管理ＤＢ９００１は、図１７に示されている画像種類管理テーブルによって構成されている。撮像装置管理ＤＢ９００２は、図１８に示される撮像装置管理テーブルによって構成されている。所定領域管理ＤＢ９００３は、図１９に示されている所定領域情報管理テーブルによって構成されている。
【0095】
（画像種類管理テーブル）
図１７は、画像種類管理テーブルを示す概念図である。この画像種類管理テーブルでは、画像データＩＤ、送信元端末の宛先の一例であるＩＰアドレス、及びソース名が関連付けて記憶されて管理されている。これらのうち、画像データＩＤは、ビデオ通信を行う際の画像データを識別するための画像データ識別情報の一例である。同じ送信元端末から送信される画像データには、同じ画像データＩＤが付加されている。これにより、送信先端末（受信側の通信端末）は、受信した画像データの送信元端末を特定することができる。送信元端末のＩＰアドレスは、関連付けられている画像データＩＤで示される画像データを送信する通信端末のＩＰアドレスを示す。ソース名は、関連付けられている画像データＩＤで示される画像データを出力する撮像装置を特定するための名称であり、画像種類情報の一例である。このソース名は、所定の名称の命名規則に従って、通信端末３等によって作成された名称である。
図１７は、画像種類管理テーブルを示す概念図である。この画像種類管理テーブルでは、画像データＩＤ、送信元端末の宛先の一例であるＩＰアドレス、及びソース名が関連付けて記憶されて管理されている。これらのうち、画像データＩＤは、ビデオ通信を行う際の画像データを識別するための画像データ識別情報の一例である。同じ送信元端末から送信される画像データには、同じ画像データＩＤが付加されている。これにより、送信先端末（受信側の通信端末）は、受信した画像データの送信元端末を特定することができる。送信元端末のＩＰアドレスは、関連付けられている画像データＩＤで示される画像データを送信する通信端末のＩＰアドレスを示す。ソース名は、関連付けられている画像データＩＤで示される画像データを出力する撮像装置を特定するための名称であり、画像種類情報の一例である。このソース名は、所定の名称の命名規則に従って、通信端末３等によって作成された名称である。
【0096】
例えば、ＩＰアドレスがそれぞれ「１．２．１．３」、「１．２．２．３」、「１．３．１．３」、「１．３．２．３」の４つの通信端末は、それぞれ、画像データＩＤ「ＲＳ００１」、「ＲＳ００２」、「ＲＳ００３」、「ＲＳ００４」によって示される画像データを送信していることが表されている。更に、各通信端末のソース名によって示される画像の種類は、「Video_Wide」、「Video_ Wide」、「Video」、「Video」であり、これらは順に画像種類が「特殊画像」、「特殊画像」、「一般画像」、「一般画像」である旨を示している。なお、特殊画像は、ここでは、全天球画像である。
【0097】
なお、画像データ以外のデータについても、画像データＩＤと関連付けて管理してもよい。画像データ以外のデータは、例えば、音データ、画面共有時の資料データである。また、画像データ以外のデータについても、画像データＩＤと関連付けて管理してもよい。画像データ以外のデータは、例えば、音データ、画面共有時の資料データである。
【0098】
（撮像装置管理テーブル）
図１８は、撮像装置管理テーブルを示す概念図である。この撮像装置管理テーブルでは、全天球画像の元になる２つの半球画像を得ることができる撮像装置のＧＵＩＤのうちのベンダＩＤとプロダクトＩＤが記憶されて管理されている。ＧＵＩＤとしては、例えば、ＵＳＢデバイスで利用されるベンダＩＤ(ＶＩＤ)とプロダクトＩＤ(ＰＩＤ)が利用できる。このベンダＩＤとプロダクトＩＤは、通信端末３、４の工場出荷時から記憶されているが、工場出荷後に追加で記憶してもよい。
図１８は、撮像装置管理テーブルを示す概念図である。この撮像装置管理テーブルでは、全天球画像の元になる２つの半球画像を得ることができる撮像装置のＧＵＩＤのうちのベンダＩＤとプロダクトＩＤが記憶されて管理されている。ＧＵＩＤとしては、例えば、ＵＳＢデバイスで利用されるベンダＩＤ(ＶＩＤ)とプロダクトＩＤ(ＰＩＤ)が利用できる。このベンダＩＤとプロダクトＩＤは、通信端末３、４の工場出荷時から記憶されているが、工場出荷後に追加で記憶してもよい。
【0099】
（所定領域情報管理テーブル）
図１９は、所定領域情報管理テーブルを示す概念図である。この所定領域情報管理テーブルでは、撮像画像データの送信元の通信端末のＩＰアドレス、撮像画像データの送信先の通信端末のＩＰアドレス、及び、撮像画像データの送信先の通信端末で表示中の所定領域画像を示す所定領域情報が関連付けられて記憶されて管理されている。なお、撮像画像データの送信先の通信端末は、所定領域情報の送信元の通信端末でもある。所定領域情報は、図６及び図７に示されているように、撮像画像から、この撮像画像における所定領域Ｔの画像（所定領域画像）に変換するための変換テーブルである。なお、ＩＰアドレスは、宛先情報の一例であって、宛先情報には、ＭＡＣ(Media Access Control)アドレス、通信端末を特定するための端末ＩＤ(Identification)等が含まれる。また、ここでは、ＩＰアドレスは、ＩＰｖ４アドレスを簡略化して表されている。ＩＰアドレスは、ＩＰｖ６でもよい。
図１９は、所定領域情報管理テーブルを示す概念図である。この所定領域情報管理テーブルでは、撮像画像データの送信元の通信端末のＩＰアドレス、撮像画像データの送信先の通信端末のＩＰアドレス、及び、撮像画像データの送信先の通信端末で表示中の所定領域画像を示す所定領域情報が関連付けられて記憶されて管理されている。なお、撮像画像データの送信先の通信端末は、所定領域情報の送信元の通信端末でもある。所定領域情報は、図６及び図７に示されているように、撮像画像から、この撮像画像における所定領域Ｔの画像（所定領域画像）に変換するための変換テーブルである。なお、ＩＰアドレスは、宛先情報の一例であって、宛先情報には、ＭＡＣ(Media Access Control)アドレス、通信端末を特定するための端末ＩＤ(Identification)等が含まれる。また、ここでは、ＩＰアドレスは、ＩＰｖ４アドレスを簡略化して表されている。ＩＰアドレスは、ＩＰｖ６でもよい。
【0100】
例えば、図１９の所定領域情報管理テーブルの１行目から３行目までは、通信端末３のＩＰアドレスが「１．２．１．３」の場合、通信端末３から送信された撮像画像データが、通信管理システム５０を介して、ＩＰアドレスが「１．２．２．３」の通信端末４、ＩＰアドレスが「１．３．１．３」の通信端末２、及びＩＰアドレスが「１．３．２．３」の通信端末１に送信された旨が管理されている。更に、通信端末４は、所定領域情報（ｒ＝１０，θ＝２０，φ＝３０）の送信元の通信端末である旨が管理されている。同様に、通信端末２は、所定領域情報（ｒ＝２０，θ＝３０，φ＝４０）の送信元の通信端末である旨が管理されている。また、通信端末１は、所定領域情報（ｒ＝３０，θ＝４０，φ＝５０）の送信元の通信端末である旨が管理されている。つまり、通信端末１，２，４がどのような所定領域情報で全天球画像を見ているか管理されている。
【0101】
また、送受信部３１ｃによって、既に管理されている撮像画像データの送信元の通信端末のＩＰアドレス及び撮像画像データの送信先の通信端末のＩＰアドレスと同じ組のＩＰアドレスを含む所定領域情報が新たに受信された場合には、記憶・読出部３９ｃは既に管理している所定領域情報を新たに受信された所定領域情報に書き換える。
【0102】
（通信端末１の各機能構成）
通信端末１の送受信部９１は、主に、図１４に示されている遠距離通信回路９１１及びＣＰＵ９０１の処理によって実現され、通信ネットワーク１００を介して、通信管理システム５０と各種データ（又は情報）の送受信を行う。
通信端末１の送受信部９１は、主に、図１４に示されている遠距離通信回路９１１及びＣＰＵ９０１の処理によって実現され、通信ネットワーク１００を介して、通信管理システム５０と各種データ（又は情報）の送受信を行う。
【0103】
受付部９２は、主にタッチパネル９２１及びＣＰＵ９０１による処理によって実現され、利用者から各種の選択又は入力を受け付ける。また、タッチパネル９２１だけでなく、他の入力手段として音声入力等を用いてもよい。
【0104】
画像・音処理部９３は、図１４に示されているＣＰＵ９０１からの命令によって実現され、カメラ９１２が被写体を撮像して得た画像データに対して画像処理を行う。また、画像・音処理部９３は、マイク９１４によって利用者の音声が音声信号に変換された後、この音声信号に係る音データに対して音声処理を行う。
【0105】
更に、画像・音処理部９３は、表示制御部９４がディスプレイ９１７に画像を表示させるため、ソース名等の画像種類情報に基づき、他の通信端末から受信された画像データに対して画像処理を行う。また、画像・音処理部９３は、他の通信端末から通信管理システム５０を介して受信された音データに係る音声信号をスピーカ９１５に出力し、スピーカ９１５から音声を出力させる。
【0106】
表示制御部９４は、主にディスプレイ９１７及びＣＰＵ９０１の処理によって実現され、ディスプレイ９１７に各種画像や文字等を表示させるための制御を行う。
【0107】
判断部９５は、主にＣＰＵ９０１の処理によって実現され、例えば、撮像装置５ａから受信された画像データに係る画像種類を判断する。
【0108】
作成部９６は、主にＣＰＵ９０１の処理によって実現され、判断部９５によって、一般画像又は特殊画像（ここでは、全天球画像）と判断された結果に基づき、上述の命名規則に従って、画像種類情報の一例であるソース名を作成する。例えば、判断部９５が、一般画像であると判断した場合には、作成部９６は、一般画像である旨を示すソース名「Video」を作成する。一方、判断部９５が、特殊画像であると判断した場合には、作成部９６は、特殊画像である旨を示すソース名「Video_Wide」を作成する。
【0109】
算出部９７は、主にＣＰＵ９０１の処理によって実現され、所定領域Ｔを示す所定領域情報、及び送受信部９１によって他の通信端末から受信された所定領域情報に基づき、撮像画像において所定領域Ｔ１の位置（位置情報）を算出する。また、撮像画像の全体が表示された場合の画像は、「全体画像」ともいう。
【0110】
通信部９８は、主に、近距離通信回路９１９、アンテナ９１９ａ、及びＣＰＵ９０１の処理によって実現され、撮像装置５ａの通信部１８ａと、NFC、Bluetooth（登録商標）、Wi－Fi等による近距離無線技術によって通信することができる。なお、通信部９８と送受信部９１は通信ユニットを別個に有する構成で説明したが、共用構成であってもよい。
【0111】
記憶・読出部９９は、主に、図１４に示されているＣＰＵ９０１の処理によって実現され、記憶部９０００に各種データ（又は情報）を記憶したり、記憶部９０００から各種データ（又は情報）を読み出したりする。
【0112】
＜通信端末２の機能構成＞
次に、通信端末２の機能構成について詳細に説明する。通信端末２は、基本的に通信端末１と同じ機能を有している。即ち、図１６に示されているように、通信端末２は、送受信部７１、受付部７２、画像・音処理部７３、表示制御部７４、判断部７５、作成部７６、算出部７７、通信部７８、及び記憶・読出部７９を有している。しかし、各機能はそれぞれ、通信端末１における送受信部９１、受付部９２、画像・音処理部９３、表示制御部９４、判断部９５、作成部９６、算出部９７、通信部９８、及び記憶・読出部９９と同様の機能を実現するため、これらの説明を省略する。
次に、通信端末２の機能構成について詳細に説明する。通信端末２は、基本的に通信端末１と同じ機能を有している。即ち、図１６に示されているように、通信端末２は、送受信部７１、受付部７２、画像・音処理部７３、表示制御部７４、判断部７５、作成部７６、算出部７７、通信部７８、及び記憶・読出部７９を有している。しかし、各機能はそれぞれ、通信端末１における送受信部９１、受付部９２、画像・音処理部９３、表示制御部９４、判断部９５、作成部９６、算出部９７、通信部９８、及び記憶・読出部９９と同様の機能を実現するため、これらの説明を省略する。
【0113】
また、通信端末２は、図１４に示されているＲＯＭ９０２、ＲＡＭ９０３、及びＥＥＰＲＯＭ９０４によって構築される記憶部７０００を有している。この記憶部７０００には、画像種類管理ＤＢ７００１、撮像装置管理ＤＢ７００２、及び所定領域管理ＤＢ７００３が構築されている。なお、画像種類管理ＤＢ７００１、撮像装置管理ＤＢ７００２、及び所定領域管理ＤＢ７００３は、それぞれ通信端末１における画像種類管理ＤＢ９００１、撮像装置管理ＤＢ９００２、及び所定領域管理ＤＢ９００３と同じデータ構造であるため、これらの説明を省略する。
【0114】
＜通信端末３の機能構成＞
次に、通信端末３の機能構成について説明する。通信端末３は、基本的に通信端末１と同じ機能を有している。即ち、図１５に示されているように、通信端末３は、送受信部３１ｃ、受付部３２ｃ、画像・音処理部３３ｃ、表示制御部３４ｃ、判断部３５ｃ、作成部３６ｃ、算出部３７ｃ、通信部３８ｃ、記憶・読出部３９ｃを有している。しかし、これらは、通信端末１における送受信部９１、受付部９２、画像・音処理部９３、表示制御部９４、判断部９５、作成部９６、算出部９７、通信部９８、記憶・読出部９９、及び記憶部９０００と同様の機能を実現するため、これらの説明を省略する。
次に、通信端末３の機能構成について説明する。通信端末３は、基本的に通信端末１と同じ機能を有している。即ち、図１５に示されているように、通信端末３は、送受信部３１ｃ、受付部３２ｃ、画像・音処理部３３ｃ、表示制御部３４ｃ、判断部３５ｃ、作成部３６ｃ、算出部３７ｃ、通信部３８ｃ、記憶・読出部３９ｃを有している。しかし、これらは、通信端末１における送受信部９１、受付部９２、画像・音処理部９３、表示制御部９４、判断部９５、作成部９６、算出部９７、通信部９８、記憶・読出部９９、及び記憶部９０００と同様の機能を実現するため、これらの説明を省略する。
【0115】
また、通信端末３は、図１２に示されているＲＯＭ３０２、ＲＡＭ３０３、及びＳＳＤ３０５によって構築される記憶部３０００ｃを有している。記憶部３０００ｃには、画像種類管理ＤＢ３００１ｃ、撮像装置管理ＤＢ３００２ｃ、及び所定領域管理ＤＢ３００３ｃが構築されているが、これらは、通信端末１における画像種類管理ＤＢ９００１、撮像装置管理ＤＢ９００２、及び所定領域管理ＤＢ９００３と同様の機能を実現するため、これらの説明を省略する。
【0116】
＜通信端末４の機能構成＞
次に、通信端末４の機能構成について説明する。通信端末４は、基本的に通信端末１と同じ機能を有している。即ち、図１６に示されているように、通信端末４は、送受信部３１ｄ、受付部３２ｄ、画像・音処理部３３ｄ、表示制御部３４ｄ、判断部３５ｄ、作成部３６ｄ、算出部３７ｄ、通信部３８ｄ、記憶・読出部３９ｄ、及び記憶部３０００ｄを有している。しかし、これらは、通信端末１における送受信部９１、受付部９２、画像・音処理部９３、表示制御部９４、判断部９５、作成部９６、算出部９７、通信部９８、記憶・読出部９９、及び記憶部９０００と同様の機能を実現するため、これらの説明を省略する。
次に、通信端末４の機能構成について説明する。通信端末４は、基本的に通信端末１と同じ機能を有している。即ち、図１６に示されているように、通信端末４は、送受信部３１ｄ、受付部３２ｄ、画像・音処理部３３ｄ、表示制御部３４ｄ、判断部３５ｄ、作成部３６ｄ、算出部３７ｄ、通信部３８ｄ、記憶・読出部３９ｄ、及び記憶部３０００ｄを有している。しかし、これらは、通信端末１における送受信部９１、受付部９２、画像・音処理部９３、表示制御部９４、判断部９５、作成部９６、算出部９７、通信部９８、記憶・読出部９９、及び記憶部９０００と同様の機能を実現するため、これらの説明を省略する。
【0117】
また、通信端末４は、図１２に示されているＲＯＭ３０２、ＲＡＭ３０３、及びＳＳＤ３０５によって構築される記憶部３０００ｄを有している。記憶部３０００ｄには、画像種類管理ＤＢ３００１ｄ、撮像装置管理ＤＢ３００２ｄ、及び所定領域管理ＤＢ３００３ｄが構築されているが、これらは、通信端末１における画像種類管理ＤＢ９００１、撮像装置管理ＤＢ９００２、及び所定領域管理ＤＢ９００３と同様の機能を実現するため、これらの説明を省略する。
【0118】
＜通信管理システムの機能構成＞
次に、通信管理システム５０の各機能構成について詳細に説明する。通信管理システム５０は、送受信部５１、判断部５５、生成部５６、及び記憶・読出部５９を有している。これら各部は、図１３に示されている各構成要素のいずれかが、ＨＤ５０４からＲＡＭ５０３上に展開された通信管理システム５０用プログラムに従ったＣＰＵ５０１からの命令によって動作することで実現される機能又は手段である。
次に、通信管理システム５０の各機能構成について詳細に説明する。通信管理システム５０は、送受信部５１、判断部５５、生成部５６、及び記憶・読出部５９を有している。これら各部は、図１３に示されている各構成要素のいずれかが、ＨＤ５０４からＲＡＭ５０３上に展開された通信管理システム５０用プログラムに従ったＣＰＵ５０１からの命令によって動作することで実現される機能又は手段である。
【0119】
また、通信管理システム５０は、図１３に示されているＲＡＭ５０３、及びＨＤ５０４によって構築される記憶部５０００を有している。この記憶部５０００には、セッション管理ＤＢ５００１、画像種類管理ＤＢ５００２、及び所定領域管理ＤＢ５００３が構築されている。このうち、セッション管理ＤＢ５００１は、図２０に示されているセッション管理テーブルによって構成されている。画像種類管理ＤＢ５００２は、図２１に示される画像種類管理テーブルによって構成されている。所定領域管理ＤＢ５００３は、図２２に示される所定領域情報管理テーブルによって構成されている。
【0120】
（セッション管理テーブル）
図２０は、セッション管理テーブルを示す概念図である。このセッション管理テーブルでは、セッションＩＤ、及び参加した通信端末のＩＰアドレスが関連付けて記憶されて管理されている。このうち、セッションＩＤは、映像通話を実現する通信セッションを識別するためのセッション識別情報の一例であり、仮想の会議室ごとに生成される。セッションＩＤは、通信端末１～４でも管理されており、各通信端末において通信セッションの選択の際に利用される。参加した通信端末のＩＰアドレスは、関連付けられているセッションＩＤで示される仮想の会議室に参加した通信端末のＩＰアドレスを示している。
図２０は、セッション管理テーブルを示す概念図である。このセッション管理テーブルでは、セッションＩＤ、及び参加した通信端末のＩＰアドレスが関連付けて記憶されて管理されている。このうち、セッションＩＤは、映像通話を実現する通信セッションを識別するためのセッション識別情報の一例であり、仮想の会議室ごとに生成される。セッションＩＤは、通信端末１～４でも管理されており、各通信端末において通信セッションの選択の際に利用される。参加した通信端末のＩＰアドレスは、関連付けられているセッションＩＤで示される仮想の会議室に参加した通信端末のＩＰアドレスを示している。
【0121】
（画像種類管理テーブル）
図２１は、画像種類管理テーブルを示す概念図である。図２１に示されている画像種類管理テーブルは、図１７に示されている画像種類管理テーブルで管理されている各情報に加え、セッション管理テーブルで管理されているセッションＩＤと同じセッションＩＤが関連付けて管理されている。ここでは、同じセッションＩＤ「ｓｅ１０１」で示される仮想の会議室には、ＩＰアドレスがそれぞれ「１．２．１．３」、「１．２．２．３」、「１．３．１．３」の３つの通信端末が参加していることが示されている。なお、通信管理システム５０において、通信端末１～４（ビデオ会議端末）等の通信端末で管理される、画像データＩＤ、送信元端末のＩＰアドレス、及び画像種類情報を同じものを管理するのは、新たな通信端末が仮想の会議室に入る場合等に、既に映像通話中の通信端末と新たに参加した通信端末に、画像種類情報等を送信するためである。これにより、既に映像通話中の通信端末と新たに参加した通信端末との間で、画像種類情報等の送受信を行う必要がない。
図２１は、画像種類管理テーブルを示す概念図である。図２１に示されている画像種類管理テーブルは、図１７に示されている画像種類管理テーブルで管理されている各情報に加え、セッション管理テーブルで管理されているセッションＩＤと同じセッションＩＤが関連付けて管理されている。ここでは、同じセッションＩＤ「ｓｅ１０１」で示される仮想の会議室には、ＩＰアドレスがそれぞれ「１．２．１．３」、「１．２．２．３」、「１．３．１．３」の３つの通信端末が参加していることが示されている。なお、通信管理システム５０において、通信端末１～４（ビデオ会議端末）等の通信端末で管理される、画像データＩＤ、送信元端末のＩＰアドレス、及び画像種類情報を同じものを管理するのは、新たな通信端末が仮想の会議室に入る場合等に、既に映像通話中の通信端末と新たに参加した通信端末に、画像種類情報等を送信するためである。これにより、既に映像通話中の通信端末と新たに参加した通信端末との間で、画像種類情報等の送受信を行う必要がない。
【0122】
（所定領域情報管理テーブル）
図２２は、所定領域情報管理テーブルを示す概念図である。この所定領域情報管理テーブルは、基本的に図１９に示されている所定領域情報管理テーブルと同様のデータ構造を有している。但し、後述のように、送受信部５１は、各通信端末に一定期間（例えば３０秒）毎に最新の所定領域情報を送信するため、所定領域情報が一定期間毎に送信されるまでの間に、送受信部５１によって受信された全ての所定領域情報は削除されずに保存されている。図２２では、新しい所定領域情報ほど上位で管理されている。
図２２は、所定領域情報管理テーブルを示す概念図である。この所定領域情報管理テーブルは、基本的に図１９に示されている所定領域情報管理テーブルと同様のデータ構造を有している。但し、後述のように、送受信部５１は、各通信端末に一定期間（例えば３０秒）毎に最新の所定領域情報を送信するため、所定領域情報が一定期間毎に送信されるまでの間に、送受信部５１によって受信された全ての所定領域情報は削除されずに保存されている。図２２では、新しい所定領域情報ほど上位で管理されている。
【0123】
（通信管理システムの各機能構成）
通信管理システム５０の送受信部５１は、主に、図１３に示されているネットワークＩ／Ｆ５０９及びＣＰＵ５０１の処理によって実現され、通信ネットワーク１００を介して通信端末１～４と各種データ（又は情報）の送受信を行う。
通信管理システム５０の送受信部５１は、主に、図１３に示されているネットワークＩ／Ｆ５０９及びＣＰＵ５０１の処理によって実現され、通信ネットワーク１００を介して通信端末１～４と各種データ（又は情報）の送受信を行う。
【0124】
判断部５５は、主にＣＰＵ５０１の処理によって実現され、各種判断を行う。
【0125】
生成部５６は、主にＣＰＵ５０１の処理によって実現され、画像データＩＤを生成する。
【0126】
記憶・読出部５９は、主に、図１３に示されているＨＤＤ５０５、及びＣＰＵ５０１の処理によって実現され、記憶部５０００に各種データ（又は情報）を記憶したり、記憶部５０００から各種データ（又は情報）を読み出したりする。
【0127】
＜参加の処理＞
まず、図２３及び図２４を用いて、特定の通信セッションへの参加処理について説明する。図２３は、特定の通信セッションへの参加処理を示したシーケンス図である。図２４は、通信セッション（仮想の会議室）の選択画面を示した図である。
まず、図２３及び図２４を用いて、特定の通信セッションへの参加処理について説明する。図２３は、特定の通信セッションへの参加処理を示したシーケンス図である。図２４は、通信セッション（仮想の会議室）の選択画面を示した図である。
【0128】
まず、拠点Ａの撮像者８が、通信端末１において、通信セッション（仮想の会議室）の選択画面の表示を行う操作をすると、受付部９２が選択画面を表示する操作を受け付け、表示制御部９４が通信端末１のディスプレイ９１７に、図２４に示されているような選択画面を表示する（ステップＳ２１）。この選択画面には、選択対象である各仮想の会議室Ｒ１，Ｒ２，Ｒ３等を示す選択ボタンｂ１，ｂ２，ｂ３等が表示されている。また、各選択ボタンｂ１等には、各セッションＩＤが関連付けられている。
【0129】
ここで、撮像者８が仮想の会議室の所望の選択ボタン（ここでは選択ボタンｂ１）を選択すると、受付部９２は、通信セッションの選択を受け付ける（ステップＳ２２）。選択される会議室は例えば不動産の内見を行うために予め決まっている会議室である。
【0130】
そして、送受信部９１は、通信管理システム５０に対して、仮想の会議室への参加要求を送信する（ステップＳ２３）。この参加要求には、ステップＳ２２で選択を受け付けられた通信セッションを示すセッションＩＤ、及び要求元端末である通信端末１のＩＰアドレスが含まれている。これにより、通信管理システム５０の送受信部５１は、参加要求を受信する。
【0131】
次に、通信管理システム５０の記憶・読出部５９は、セッション管理ＤＢ５００１において、ステップＳ２３で受信されたセッションＩＤと同じセッションＩＤのレコードにおける参加端末ＩＰアドレスのフィールドに、ステップＳ２３で受信されたＩＰアドレスを追加することで、通信セッションへの参加処理を行う（ステップＳ２４）。
【0132】
そして、送受信部５１は、通信端末１に対して、参加要求応答を送信する（ステップＳ２５）。この参加要求応答には、ステップＳ２３によって受信されたセッションＩＤ、及び参加処理結果が含まれている。これにより、通信端末１の送受信部９１は、参加要求応答を受信する。以降、参加処理が成功した場合について説明する。
【0133】
なお、同様の参加要求を拠点Ｂ～Ｄの通信端末２～４も行い、それぞれが同じ会議室を選択することで、通信端末１～４が同一のセッションに参加し、互いに映像通話が可能になる。また、図２３、図２４に示したセッションへの参加方法は一例に過ぎず、撮像者８は宛先の通信端末又はユーザの識別情報を指定してセッションを確立してもよい。この場合、宛先に指定された宛先の通信端末又はユーザは呼び出しに応答することでセッションが確立する。
【0134】
＜姿勢情報について＞
次に、図２５～図２７を用いて撮像装置５ａの姿勢情報について説明する。図２５は、撮像装置５ａの座標軸を説明する図の一例であり、図２６は基準となる撮像装置５ａの姿勢を説明する図の一例である。基準となる撮像装置５ａの姿勢とは、撮像装置の姿勢の初期状態である。
次に、図２５～図２７を用いて撮像装置５ａの姿勢情報について説明する。図２５は、撮像装置５ａの座標軸を説明する図の一例であり、図２６は基準となる撮像装置５ａの姿勢を説明する図の一例である。基準となる撮像装置５ａの姿勢とは、撮像装置の姿勢の初期状態である。
【0135】
図２５に示すように、撮像装置５ａの長手方向をＺ軸、シャッターボタンＳＢがある面からない面に向かって２つのレンズを通過する方向をＹ軸、撮像装置５ａの幅方向をＸ軸とする。この軸は撮像装置５ａと共に移動する。撮像装置５ａはＸ軸、Ｙ軸、Ｚ軸のそれぞれを中心に回転することができる。Ｘ軸を中心とする回転角をα、Ｙ軸を中心とする回転角をβ、Ｚ軸を中心とする回転角をγとする。
【0136】
【0137】
図２７は加速度・方位センサ１１８が検出する値を説明する図である。加速度・方位センサ１１８が検出する値を(ax, ay, az)とすると、図２７（ａ）のように本体はＸ軸を中心にα回転しており、その角度は
α＝ atan2(ay,－az) ay^2+az^2 ≧ threshR^2
＝ ０ ay^2+az^2 < threshR^2
と表せる。αは－π<α≦πの値をとる。
α＝ atan2(ay,－az) ay^2+az^2 ≧ threshR^2
＝ ０ ay^2+az^2 < threshR^2
と表せる。αは－π<α≦πの値をとる。
【0138】
Ｙ軸に関する回転は，図２７（ｂ）のように表せる。Ｚ軸に関する回転は，図２７（ｃ）のように表せる。しかし、応答性を向上させるためにはジャイロセンサ１１９を使用するとよい。ジャイロセンサ１１９の値(gα,gβ,gγ)は角速度[rad/sec]に相当する値が出力される。撮像装置５ａの回転角（姿勢情報）α,β、γは，ジャイロセンサ１１９の値を用いて，
α(n+1)=α(n)+k*gα*dt
β(n+1)=β(n)+k*gβ*dt
γ(n+1)=γ(n)+k*gγ*dt
として算出できる。
α(n+1)=α(n)+k*gα*dt
β(n+1)=β(n)+k*gβ*dt
γ(n+1)=γ(n)+k*gγ*dt
として算出できる。
【0139】
ただし、初期状態の向き(α(0)、β(0)、γ(0))=(α0、0、0)とする。kはジャイロセンサ１１９の感度に関する係数である。初期値を，k=1.0とする。手振れなどの影響を避ける場合はk=0.5とするなどすればローパスフィルタの効果を持たせられる。こうして得られた (α、β、γ) が姿勢情報である。なお、Ｚ軸回りの回転角のγは指し示す方向に影響しないので、γは算出しなくてもよい。
【0140】
Ｘ軸回りの回転角のαは加速度・方位センサ１１８の信号により、初期値がゼロでなくても正しい値を得られる。また、Ｚ軸回りの回転角のγは指し示す方向に影響しない。これに対し、Ｙ軸回りの回転角のβは単に初期値を０にするだけなので、例えば、電源ＯＮ時の初期状態が傾いていると正しい回転角のβが得られない。そこで、撮像者８が対象を指し示す際は、撮像装置５ａを成立させ、所定のボタンを長押しするなどの回転角のα、β、γの初期化を行うことが好ましい。
【0141】
あるいは、Ｙ軸回りの回転角のβについてもＸ軸回りの回転角のαと同様に、加速度・方位センサ１１８の出力から初期値を求めるとよい。
【0142】
＜撮像者が指し示した注目点座標が天頂補正でどのように処理されるか＞
図２８を用いて、撮像者８が指し示した注目点座標が天頂補正でどのように処理されるかのイメージを説明する。図２８（ａ）は撮像者８が対象を指し示す様子を示す。撮像者８は撮像装置５ａで人形１９０を指し示している。
図２８を用いて、撮像者８が指し示した注目点座標が天頂補正でどのように処理されるかのイメージを説明する。図２８（ａ）は撮像者８が対象を指し示す様子を示す。撮像者８は撮像装置５ａで人形１９０を指し示している。
【0143】
例えば、撮像装置５ａの長手方向（上側）の被写体が写る画素又はある範囲を注目点座標とすると、図２８（ａ）の状態で撮像された画像は図２８（ｂ）のようになる。図２８（ｂ）は全天球画像が正距円筒図法で表された正距円筒画像である。この正距円筒画像は"天頂補正が行われていない"。正距円筒画像を作成する際、長手方向（上側）の被写体は上端部に横方向に拡大して変換される。すなわち、天頂補正しなければ長手方向（上側）の被写体は上端部に配置され、正距円筒画像なので上端部の被写体は横に広がる。天頂補正しない場合、注目点座標は正距円筒画像において常に同じ場所になる。
【0144】
撮像装置５ａは撮像装置５ａの姿勢に関わらず、実空間の上にあるものは画像の上側、下にあるものは画像の下側に表示するため、姿勢情報に基づいて画像を天頂補正する。図２８（ｃ）は"天頂補正された"正距円筒画像を示す。天頂補正の方向と量は姿勢情報によって決まるので、天頂補正のために画像を回転させる座標変換情報で、定義されている元の注目点座標を回転させれば正距円筒画像における注目点座標になる。図２８（ｃ）では注目点座標を丸１９１で囲んで示すが、丸１９１の中に図２８（ａ）の人形１９０が写っている。つまり、注目点座標で撮像者８が指し示す対象を特定できる。
【0145】
＜画像処理部１６ａの機能について＞
図２９は、撮像装置５ａが有する画像処理部１６ａの主要な機能ブロックを示す。画像処理部１６ａは、撮像画像取得部２０２と、つなぎ合わせ処理部２０４と、天頂補正部２０６と、全天球画像生成部２０８と、画像圧縮部２１０と、注目点定義部１９４と、注目点変換部１９６と、注目点指定有無判断部１９８と、を有する。
図２９は、撮像装置５ａが有する画像処理部１６ａの主要な機能ブロックを示す。画像処理部１６ａは、撮像画像取得部２０２と、つなぎ合わせ処理部２０４と、天頂補正部２０６と、全天球画像生成部２０８と、画像圧縮部２１０と、注目点定義部１９４と、注目点変換部１９６と、注目点指定有無判断部１９８と、を有する。
【0146】
撮像画像取得部２０２は、上述した２つの撮像素子１３０Ａ，１３０Ｂを制御し、それぞれからの撮像画像を取得する。静止画の場合は、シャッターが押されたタイミングで取得された１フレーム分の２つの撮像画像が取得される。動画の場合は、連続したフレームが順次撮像され、各フレーム毎に２つの撮像画像が取得される。撮像素子１３０各々で撮像される画像は、概ね全天球のうちの半球を視野に収めた魚眼画像であり、全天球画像の部分的な画像を構成する。以下、撮像素子１３０それぞれが撮像した画像を部分画像と参照する場合がある。
【0147】
つなぎ合わせ処理部２０４は、取得された２つの部分画像間のつなぎ位置を検出し、２つの部分画像をつなぎ合わせるための処理を実行する。つなぎ位置検出処理では、フレーム毎に、複数の部分画像間に存在する重複領域において、複数の対応点各々の位置ずらし量を検出する処理が行われる。
【0148】
注目点定義部１９４は平面画像の中で注目点座標(x,y)を定義し保持している。注目点座標はユーザ（撮像者８等）が設定するのではなく、製造時、設計時、又は出荷時等に予め定義されている（固定されている）。なお、注目点座標が複数あってもよい。この場合、撮像者８は自分が使いたい注目点座標を撮像装置５ａ又は通信端末１を操作して選択する。
【0149】
注目点指定有無判断部１９８は、撮像者８が注目点を指定しようとしているか否かを判断する。例えば、撮像装置５ａの本体上のボタンが押下されている間、注目点指定有無判断部１９８は撮像者８が注目点を指定していると判断する。押下されていない間、注目点が指定されていないと判断する。
【0150】
天頂補正部２０６は、姿勢情報取得部１５ａが取得した姿勢情報に基づいて、生成される全天球画像の天頂方向が所定の基準方向に一致するようにするための補正処理を実行する。具体的には後述する変換テーブルを補正する。ここで、所定の基準方向とは、典型的には、鉛直方向であり、重力加速度が作用する方向である。全天球画像の天頂方向が鉛直方向（天方向）に一致するよう補正することにより、特に動画像において、閲覧時に視野の変更を行う場合でもユーザに３次元酔いなどの違和感を与えないようにすることが可能となる。なお、変換テーブルについては図３０にて説明する。
【0151】
注目点変換部１９６は、注目点定義部１９４と注目点指定有無判断部１９８と、補正された変換テーブルを元に、平面座標上の注目点座標(x,y)を球面座標上の注目点座標(θ,φ)に変換する。つまり、姿勢情報に基づいて天頂補正された後の注目点座標を決定する。注目点変換部１９６は注目点情報に球面座標上の注目点座標(θ,φ)を設定する。
【0152】
【表1】
【0153】
全天球画像生成部２０８は、注目点変換部１９６の処理結果が反映された状態で、撮像された２つの部分画像から全天球画像を生成する処理を実行する。説明する実施形態においては、２つの部分画像から全天球画像を生成するためにも変換テーブルが使用される。全天球画像生成部２０８は、補正された変換テーブルを用いて、２つの部分画像から全天球画像を生成する。このように処理することにより、最終的な全天球画像を得るための処理負荷を軽減することができる。
【0154】
しかしながら、上述した実施形態に限定されるものではなく、２つの部分画像をつなぎ合わせて全天球画像を生成し、生成された全天球画像に対して天頂補正処理を施して、天頂補正が施された全天球画像を生成するよう構成することもできる。
【0155】
画像圧縮部２１０は、静止画圧縮ブロックを含み構成され、静止画を撮像する場合、撮像された画像を、ＪＰＥＧ（Joint Photographic Experts Group）などの所定の静止画形式の画像データに圧縮する。画像圧縮部２１０は、動画を撮像する場合、撮像された連続する画像フレームを所定の動画形式の画像データに圧縮する。動画圧縮形式としては、特に限定されるものではないが、Ｈ．２６４／ＭＰＥＧ－４ ＡＶＣ（Advanced Video Coding）、Ｈ．２６５／ＨＥＶＣ（High Efficiency Video Coding）、Ｍｏｔｉｏｎ ＪＰＥＧ、Ｍｏｔｉｏｎ ＪＰＥＧ２０００などの種々の動画圧縮形式を挙げることができる。生成された画像データは、伝送部２１１により他の拠点Ｂ～Ｄに送信される。伝送部２１１は撮像装置５ａの通信部１８ａと通信端末１の送受信部９１に相当する。
【0156】
＜各通信端末の表示制御部の機能＞
他の拠点から送信された全天球画像を受信すると、通信端末１～４は全天球画像を表示する。
他の拠点から送信された全天球画像を受信すると、通信端末１～４は全天球画像を表示する。
【0157】
図２９に示すように、通信端末２の表示制御部７４は、画像展開部２１２と、注目点決定部２１４と、画像回転部２１６と、切出処理部２２０と、拡大／レターボックス処理部２２２と、出力部２２４とを有する。図２９では表示制御部７４の機能を説明するが、通信端末３の表示制御部３４ｃ、通信端末４の表示制御部３４ｄ、及び、通信端末１の表示制御部９４も同様になる。
【0158】
画像展開部２１２は、撮像装置５ａから送信された全天球画像を読み出し、全天球画像を取得する。取得された全天球画像は、メモリ上に展開される。
【0159】
画像回転部２１６は、注目点変換部１９６により決定された注目点に応じて、全天球画像を回転させる。これにより、注目点座標は正距円筒画像の中央に移動する。回転処理については図３２にて説明する。
【0160】
切出処理部２２０は、回転された全天球画像の一部（中央）を切り出して、切出画像を生成する。切り出すとはある部分を取り出すことをいう。また、トリミングといってもよい。好ましい実施形態では、切出処理部２２０は、変換後全天球画像の中央部分を切り出す処理であり、これにより、全天球画像における注目点を中心とした一定サイズの部分に対応した画像が切り出される。
【0161】
なお、説明する実施形態では、切出処理部２２０は、画像の一部を切り出して切出画像を生成する機能を有するものとして説明する。しかしながら、他の実施形態では、切出処理部２２０が備える機能としては、画像の一部を切り出して切出画像を生成するという機能のみならず、解像度を低下させる機能であってもよい。
【0162】
拡大／レターボックス処理部２２２は、切出処理部２２０で切り出された画像に対し、出力先のディスプレイやプロジェクタなどの映像出力装置の解像度及びアスペクト比に応じて拡大処理を実行し、切り出された画像部分の上下に黒帯を追加する処理を行い、表示画像を生成する。出力部２２４は、拡大／レターボックス処理部２２２により処理されて生成された表示画像を、映像出力インタフェース１２９を介して出力する（表示する）。なお、拡大／レターボックス処理部２２２による処理は、切出画像が映像出力装置の解像度及びアスペクト比に対応している場合には省略することができる。
【0163】
静止画の場合は、少なくとも注目点が変化する毎、典型的には所定インターバル毎に、同一の全天球画像に対し、上記機能部（画像回転部２１６と、切出処理部２２０と、拡大／レターボックス処理部２２２と、出力部２２４）による映像出力処理が繰り返し実行され、その時点の注目点に応じて表示画像が更新される。動画の場合は、典型的にはフレーム毎に、上記機能部による映像出力処理が繰り返し実行され、表示画像が更新される。
【0164】
撮像者８が、撮像装置５ａを真上方向に向けた状態を基準とし、前後左右に傾けたり、回転させたりすることにより、注目点を変更し、変更された注目点に応じた全天球画像の表示画像をユーザが閲覧することが可能となる。
【0165】
＜変換テーブルについて＞
図３０は変換テーブル及び平面座標系から球面座標系への変換を説明する図である。図３０（ａ）は、本実施形態による撮像装置５ａが用いる変換テーブルを説明する図である。変換テーブルは、撮像素子の平面座標系（ｘ、ｙ）で表現される部分画像から、球面座標系（θ、φ）の正距円筒画像（以下、補正後画像という）への射影を規定する。変換テーブルは、各魚眼レンズごとに、補正後画像の座標値（θ,φ）と、該座標値（θ,φ）にマッピングされる補正前の部分画像の座標値（ｘ、ｙ）とを対応付ける情報を、全座標値（θ，φ）に対して保持したものである。図３０の例示では、１画素が担当する角度は、φ方向及びθ方向いずれも１／１０度であり、変換テーブルは、各魚眼レンズについて、３６００×１８００の対応関係を示す情報を有している。オリジナルの変換テーブルは、事前に製造元等で理想的なレンズモデルからの歪みを補正した上で計算され、テーブル化されたものを用いることができる。
図３０は変換テーブル及び平面座標系から球面座標系への変換を説明する図である。図３０（ａ）は、本実施形態による撮像装置５ａが用いる変換テーブルを説明する図である。変換テーブルは、撮像素子の平面座標系（ｘ、ｙ）で表現される部分画像から、球面座標系（θ、φ）の正距円筒画像（以下、補正後画像という）への射影を規定する。変換テーブルは、各魚眼レンズごとに、補正後画像の座標値（θ,φ）と、該座標値（θ,φ）にマッピングされる補正前の部分画像の座標値（ｘ、ｙ）とを対応付ける情報を、全座標値（θ，φ）に対して保持したものである。図３０の例示では、１画素が担当する角度は、φ方向及びθ方向いずれも１／１０度であり、変換テーブルは、各魚眼レンズについて、３６００×１８００の対応関係を示す情報を有している。オリジナルの変換テーブルは、事前に製造元等で理想的なレンズモデルからの歪みを補正した上で計算され、テーブル化されたものを用いることができる。
【0166】
図３０（ｂ）に示すように、変換テーブルにより、平面座標系（ｘ、ｙ）で表現される注目点座標１９９Ａが球面座標系（θ、φ）に射影される。平面座標系（ｘ、ｙ）で表現される注目点座標１９９Ａは撮像装置５ａから見て常に一定方向である。従って、変換テーブルが固定なら球面座標系（θ、φ）における注目点座標１９９Ｂも一定になる。
【0167】
しかし、撮像装置５ａはユーザの持ち方によって姿勢が変わるので、姿勢情報に応じて変換テーブルを補正しないと、実空間の天地方向と補正後画像の天地方向が一致しない。このため、天頂補正では、この変換テーブルが姿勢情報に応じて補正される。
【0168】
＜変換テーブルの補正＞
図３１は、姿勢情報に基づく変換テーブルの補正を説明する図である。ここで、座標変換前の３次元直交座標を（ｘ１，ｙ１，ｚ１）、（ｘ１，ｙ１，ｚ１）の球面座標を（θ１，φ１）と表記し、座標変換後の３次元直交座標を（ｘ２，ｙ２，ｚ２）、（ｘ２，ｙ２，ｚ２）の球面座標を（θ２，φ２）と表記する。
図３１は、姿勢情報に基づく変換テーブルの補正を説明する図である。ここで、座標変換前の３次元直交座標を（ｘ１，ｙ１，ｚ１）、（ｘ１，ｙ１，ｚ１）の球面座標を（θ１，φ１）と表記し、座標変換後の３次元直交座標を（ｘ２，ｙ２，ｚ２）、（ｘ２，ｙ２，ｚ２）の球面座標を（θ２，φ２）と表記する。
【0169】
変換テーブルの補正処理では、式（１）～（６）を用いて、球面座標（θ１、φ１）から球面座標（θ２、φ２）への変換を行う。
【0170】
【数1】
【0171】
次に、対象を指し示す撮像装置５ａの姿勢情報α、β、γを用いて、式（４）により、３次元直交座標系（ｘ１，ｙ１，ｚ１）を、３次元直交座標系（ｘ２，ｙ２，ｚ２）に変換する。式（４）は、元の座標系を、ｘ軸を軸にα回転させ、ｙ軸を軸にβ回転させ、ｚ軸を軸にγ回転させることにより、変換後の座標系になることを意味している。
【0172】
最後に、式（５）及び式（６）を用いて、変換後の３次元直交座標（ｘ２，ｙ２，ｚ２）を球面座標（θ２，φ２）に戻す変換を行う。（θ１，φ１）を変換テーブルの補正前の球面座標系の座標とすれば、撮像装置５ａの姿勢情報に応じて、変換テーブルの球面座標を（θ２，φ２）に補正できる。
【0173】
注目点変換部１９６が補正後の変換テーブルで平面座標系の注目点座標を球面座標系の注目点座標に変換すれば、それが天頂補正後の球面座標系の注目点座標になる。
【0174】
＜画像回転部による画像回転処理＞
続いて、図３２を用いて、画像回転部２１６による回転処理について説明する。図３２は画像回転部２１６の画像回転処理を模式的に示す図である。画像回転とは球面座標上で注目点座標を画像中央に移動させる処理をいう。
・回転後の新しい座標を(θN,φN)
・注目点座標を(θ0,φ0)
・回転の対象となる任意の座標を（θ、φ）
とする。
続いて、図３２を用いて、画像回転部２１６による回転処理について説明する。図３２は画像回転部２１６の画像回転処理を模式的に示す図である。画像回転とは球面座標上で注目点座標を画像中央に移動させる処理をいう。
・回転後の新しい座標を(θN,φN)
・注目点座標を(θ0,φ0)
・回転の対象となる任意の座標を（θ、φ）
とする。
【0175】
式（７）（８）により注目点座標を画像中央に移動させることができる。
θN=θ－θ0 + 180° (θ－θ0 ≦ 180°)
θ－θ0 － 180° (θ－θ0 > 180°) … （７）
φN=φ－φ0 + 90° (φ－φ0 ≦ 90°)
φ－φ0 － 90° (φ－φ0 > 90°) … （８）
式（７）（８）は、中央点と注目点座標のθ方向とφ方向の差だけ任意の画素を回転（移動）させている。
θN=θ－θ0 + 180° (θ－θ0 ≦ 180°)
θ－θ0 － 180° (θ－θ0 > 180°) … （７）
φN=φ－φ0 + 90° (φ－φ0 ≦ 90°)
φ－φ0 － 90° (φ－φ0 > 90°) … （８）
式（７）（８）は、中央点と注目点座標のθ方向とφ方向の差だけ任意の画素を回転（移動）させている。
【0176】
＜全天球画像の送信手順＞
続いて、図３３を用い、拠点Ａで得られた全天球画像及び音データが、通信管理システム５０を介して、他の各通信端末２～４へ送信される処理について説明する。図３３は、映像通話における全天球画像及び音データの通信処理を示すシーケンス図である。
続いて、図３３を用い、拠点Ａで得られた全天球画像及び音データが、通信管理システム５０を介して、他の各通信端末２～４へ送信される処理について説明する。図３３は、映像通話における全天球画像及び音データの通信処理を示すシーケンス図である。
【0177】
まず、撮像装置５ａの通信部１８ａから通信端末１の通信部９８に対して、被写体や風景等を撮像して得た全天球画像及び集音して得た音データを送信する（ステップＳ１０１）。撮像装置５ａは注目点指定有無判断部１９８の判断結果に関わらず注目点情報を添付する。これにより、通信端末１の通信部９８は、全天球画像及び音データを受信する。
【0178】
次に、通信端末１の送受信部９１は、通信管理システム５０に対して、撮像装置５ａから送られてきた全天球画像、音データ、及び注目点情報を送信する（ステップＳ１０２）。この送信には、送信対象である撮像画像データを識別するための画像データＩＤが含まれている。これにより、通信管理システム５０の送受信部５１は、全天球画像（画像データＩＤ）、音データ、及び注目点情報を受信する。
【0179】
次に、通信管理システム５０の送受信部５１は、通信端末１と同じ映像通話に参加している通信端末２～４に対して、全天球画像（画像データＩＤ）、音データ、及び注目点情報を送信する（ステップＳ１０３，Ｓ１０４，Ｓ１０５）。これら各送信には、送信対象である全天球画像を識別するための画像データＩＤが含まれている。これにより、通信端末２の送受信部７１、通信端末３の送受信部３１ｃ及び通信端末４の送受信部３１ｄは、それぞれ、全天球画像（画像データＩＤ）、音データ、及び注目点情報を受信する。なお、一般には通信端末１も自拠点の全天球画像を通信管理システム５０から受信して表示するが、図３３では省略されている。
【0180】
次に、図３４を用いて、撮像装置５ａが全天球画像を生成する処理の詳細と、通信端末２～４が全天球画像を表示する処理の詳細を説明する。図３４は、撮像装置５ａが全天球画像を生成する処理と、通信端末２～４が全天球画像を表示する処理を示すフローチャート図の一例である。
【0181】
図３４（ａ）は撮像装置５ａの処理を示す。なお、通信端末１については省略した。
【0182】
注目点定義部１９４に平面座標系における注目点座標が定義される（Ｓ２００）。定義は図２９で説明したように、予め静的に設定しておく。
【0183】
撮像時、注目点指定有無判断部１９８は、センサ情報に基づいて撮像者８が注目点を指定しているかを判断する（Ｓ２０１）。センサ情報とは、撮像装置５ａのボタンを押下しているか否かが検出された情報である。押下されている場合、注目点が指定されていると判断する。注目点が指定されている場合、表１の注目点情報の注目点指定をありに設定する。
【0184】
撮像画像取得部２０２は、撮像素子１３０Ａ，１３０Ｂからの撮像画像を取得する（Ｓ２０２）。
【0185】
次に、つなぎ合わせ処理部２０４が取得された２つの部分画像間の重複領域におけるつなぎ位置を検出し、変換テーブルに対しつなぎ位置検出の結果を反映する（Ｓ２０３）。つなぎ位置検出の結果の反映により、図３０（ａ）に示す変換テーブルは、補正後画像の座標値（θ，φ）に対し、つなぎ位置の補正を反映した部分画像の座標値（ｘ、ｙ）が対応付けられるように修正される。
【0186】
天頂補正部２０６は姿勢情報に基づいて変換テーブルを補正する（Ｓ２０４）。すなわち、天頂補正を行う。
【0187】
次に、注目点変換部１９６は変換テーブルを用いて、注目点定義部１９４が定義する注目点座標を球面座標系の注目点座標に変換する（Ｓ２０５）。また、表１の注目点情報に、変換で得た球面座標系の注目点座標を設定する。なお、ステップＳ２０１で注目点が指定されていないと判断された場合も、注目点座標が設定されるが、注目点が指定されていないと判断された場合、注目点座標は設定されなくてもよい。
【0188】
以上の処理で生成された全天球画像と注目点情報は図３３で説明したように通信端末２～４に送信される。
【0189】
図３４（ｂ）は通信端末２～４の表示制御部３４の処理を示すフローチャート図である。
【0190】
まず、画像回転部２１６は全天球画像に添付された注目点情報における注目点指定が"あり"か否かを判断する（Ｓ２１０）。
【0191】
注目点指定がありの場合、画像回転部２１６は注目点が正距円筒画像の中央に来るように回転させる（Ｓ２１１）。それまで、表示していた所定領域画像に関わりなく、強制的に注目点が表示される。
【0192】
次に、切出処理部２２０が、全天球画像の中央部分を切り出して、切出画像を生成する（Ｓ２１２）。切り出す広さは予め決まっているものとする。図８を例にすれば、中心点ＣＰが注目点座標であり、画角αと距離ｆが予め決まっている。
【0193】
注目点指定がなしの場合、ユーザが任意に全天球画像を回転させることができる。静止画の場合は、最後にユーザが全天球画像を回転させた所定領域Ｔが表示され、動画の場合、最後にユーザが回転させた所定領域Ｔの表示を維持する。切出処理部２２０は、ユーザが操作して決定した所定領域Ｔを切り出す（Ｓ２１３）。
【0194】
拡大／レターボックス処理部２２２は、出力先の解像度及びアスペクト比に応じて、切り出された画像を拡大及び黒帯追加を行い、表示画像を生成する（Ｓ２１４）。
【0195】
出力部２２４は生成された表示画像を、ディスプレイＩ／Ｆ３１７、ディスプレイ９１７に出力する（Ｓ２１５）。
【0196】
＜通信端末の表示例＞
図３５は、拠点Ｂにおいて通信端末２のディスプレイ９１７に表示された映像表示画面２５０の一例である。映像表示画面２５０の左側の表示領域（レイアウト番号「１」）には拠点Ａの全天画像が表示され、右側上段の表示領域（レイアウト番号「２」）には拠点Ｃの全天球画像が表示されている。更に、映像表示画面２５０の右側中段の表示領域（レイアウト番号「３」）には拠点Ｄの画像が表示され、右側下段の表示領域（レイアウト番号「４」）には拠点Ｂ（自拠点）の画像が表示されている。レイアウト番号「１」の表示領域は主表示領域であり、レイアウト番号「２」、「３」及び「４」の表示領域は副表示領域である。主表示領域の画像と副表示領域の画像は、各通信端末で変更することができる。通常、各拠点では、主表示領域に、映像通話の中心人物がいる拠点の画像が表示される。
図３５は、拠点Ｂにおいて通信端末２のディスプレイ９１７に表示された映像表示画面２５０の一例である。映像表示画面２５０の左側の表示領域（レイアウト番号「１」）には拠点Ａの全天画像が表示され、右側上段の表示領域（レイアウト番号「２」）には拠点Ｃの全天球画像が表示されている。更に、映像表示画面２５０の右側中段の表示領域（レイアウト番号「３」）には拠点Ｄの画像が表示され、右側下段の表示領域（レイアウト番号「４」）には拠点Ｂ（自拠点）の画像が表示されている。レイアウト番号「１」の表示領域は主表示領域であり、レイアウト番号「２」、「３」及び「４」の表示領域は副表示領域である。主表示領域の画像と副表示領域の画像は、各通信端末で変更することができる。通常、各拠点では、主表示領域に、映像通話の中心人物がいる拠点の画像が表示される。
【0197】
なお、レイアウト番号１とレイアウト番号２の表示領域には、全天球アイコン１９２が表示されている。これにより、表示領域に表示されている映像が全天球画像であることがわかり、ユーザは所定領域Ｔを変更できる。また、レイアウト番号１の表示領域には注目点アイコン１９３が表示されている。注目点アイコン１９３は、注目点情報の注目点指定がありの場合に表示制御部７４が表示させる。注目点アイコン１９３は、注目点が指定されている旨を示す。これにより、ユーザは現在、注目点が表示されており、所定領域Ｔを変更できないことが分かる。
【0198】
所定領域Ｔを変更できないとは、受付部７２が表示領域の変更を受け付けないか、又は、表示領域の変更を受け付けるが、ユーザ９ｂが表示領域の変更の操作をやめると、注目点変換部１９６が変換した注目点を切出処理部２２０が画像から切り出して再度、表示することをいう。例えば、ユーザ９ｂはドラッグしている間だけ（マウスはクリックしたまま）又はスワイプして指をタッチさせたままの間だけ任意の表示領域を表示できる。
【0199】
なお、ユーザ９ｂが注目点の表示を停止させることができてもよい。この場合、例えば所定のボタンが用意される。このボタンを１回、押下すると注目点の表示が停止され、ユーザ９ｂは任意の所定領域Ｔを表示できる。更にこのボタンを１回、押下すると、注目点が自動で表示される。
【0200】
図３５に示すように、多拠点で映像通信できるので、ユーザ９ｂと９ｄが知り合いだが、内見はもちろん一緒に不動産店舗に行けないような場合も、臨場感のある内見が可能になる。例えば、ユーザ９ｂとユーザ９ｄが夫婦であり、一人は店舗に行けるが、他の一人は行けない場合、それぞれの拠点から物件を見て、その場で感想を言い合うような使い方が可能になる。
【0201】
＜まとめ＞
以上説明したように、本実施形態の画像通信システム１０は、撮像装置５ａに予め注目点座標が定義されており、撮像者がこの注目点座標で見せたい対象を指し示すことで、撮像者８は撮像装置だけでリアルタイムに他の拠点のユーザに注目点を注目点させることができる。
以上説明したように、本実施形態の画像通信システム１０は、撮像装置５ａに予め注目点座標が定義されており、撮像者がこの注目点座標で見せたい対象を指し示すことで、撮像者８は撮像装置だけでリアルタイムに他の拠点のユーザに注目点を注目点させることができる。
【0202】
＜その他の適用例＞
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
【0203】
例えば、本実施形態では不動産の内見を例にして説明したが、画像通信システム１０の適用例はこれに限られない。例えば、展示会、展覧会、工場見学、観光、視察、など現地の対象を指し示す場合に適用できる。
【0204】
また、本実施形態では人間が撮像装置５ａで対象を指し示したが、機械やロボット、動物が指し示してもよい。例えば、移動可能な機械などの進行方向に撮像装置５ａを固定すれば、常に進行方向の対象を表示でき、必要であれば画像を回転させて周囲の状況も確認することができる。この場合、注目点座標を表示するかどうかを、全天球画像を受信する側で切り替えられるとよい。
【0205】
また、本実施形態では全天球画像を例にしてその一部の注目点を表示させたが、全天球画像は必ずしも周囲３６０度を撮像できなくてもよい。例えば、半球だけを撮像できてもよいし、水平方向にだけ３６０度を撮像できてもよい。また、ディスプレイに収まりきらない画素数が多い平面画像でもよい。
【0206】
また、図１５、図１６、図２９などの構成例は、画像通信システム１０による処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。画像通信システム１０の処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、１つの処理単位が更に多くの処理を含むように分割することもできる。
【0207】
複数の通信管理システム５０が存在してもよいし、通信管理システム５０の機能が複数のサーバに分散していてもよい。画像データと音データを中継する中継装置があってもよい。
【0208】
上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC（Application Specific Integrated Circuit）、DSP（digital signal processor）、FPGA（field programmable gate array）や従来の回路モジュール等のデバイスを含むものとする。
【符号の説明】
【0209】
１～４ 通信端末
５ 撮像装置
８ 撮像者
１０ 画像通信システム
５ 撮像装置
８ 撮像者
１０ 画像通信システム
【先行技術文献】
【特許文献】
【0210】
【文献】特開2016－167739号公報
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】