(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024108191
(43)【公開日】2024-08-13
(54)【発明の名称】情報処理装置、情報処理方法、プログラムおよび情報処理システム
(51)【国際特許分類】
H04N 23/60 20230101AFI20240805BHJP
G06T 1/20 20060101ALI20240805BHJP
【FI】
H04N23/60 300
H04N23/60 500
G06T1/20 Z
【審査請求】未請求
【請求項の数】16
【出願形態】OL
(21)【出願番号】P 2023012415
(22)【出願日】2023-01-31
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.BLU―RAY DISC
(71)【出願人】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】小田巻 誠
(72)【発明者】
【氏名】鳥越 慎
【テーマコード(参考)】
5B057
5C122
【Fターム(参考)】
5B057CA08
5B057CA12
5B057CA16
5B057CB08
5B057CB12
5B057CB16
5B057CD11
5B057CD20
5B057CH18
5B057CH20
5C122DA11
5C122DA22
5C122EA55
5C122FH01
5C122FH04
5C122FH11
5C122FH13
5C122FH14
5C122FH20
5C122FH23
5C122GC14
5C122GC38
5C122GC52
5C122HA61
5C122HA71
5C122HA88
5C122HB01
5C122HB09
5C122HB10
(57)【要約】 (修正有)
【課題】画像の送信元装置と送信先装置で画像処理を適切に実行する情報処理装置、情報処理方法、プログラムおよび情報処理システムを提供する。
【解決手段】サーバと通信端末が、通信ネットワークを介して相互に通信し、さらに、サーバ50と外部サーバ70が、通信ネットワークを介して通信する画像処理システム1において、サーバ50は、送信元装置の一例である撮影装置10または通信端末90から送信された、被写体を撮影した撮影画像に対して画像処理設定情報に基づく第1の画像処理が実行された処理画像を受信する受信手段の一例である送受信部51と、処理画像に対して、画像処理設定情報に基づく第2の画像処理を、実行する画像処理部57と、を備える。
【選択図】
図13
【特許請求の範囲】
【請求項1】
送信元装置から送信された、被写体を撮影した撮影画像に対して画像処理設定情報に基づく第1の画像処理が実行された処理画像を受信する受信手段と、
前記処理画像に対して、前記画像処理設定情報に基づく第2の画像処理を、実行する画像処理手段と、
を備えた情報処理装置。
【請求項2】
前記画像処理設定情報は、前記送信元装置で実行される前記第1の画像処理と前記情報処理装置で実行される前記第2の画像処理が設定された情報である請求項1記載の情報処理装置。
【請求項3】
前記第1の画像処理および前記第2の画像処理を対応付けて前記画像処理設定情報として設定する設定手段を備えた請求項1記載の情報処理装置。
【請求項4】
前記送信元装置に対して、前記第1の画像処理を示す第1の処理情報を送信する送信手段を備えた請求項3記載の情報処理装置。
【請求項5】
前記受信手段は、さらに、前記送信元装置または外部装置から、前記第2の画像処理を示す第2の処理情報を受信する請求項1記載の情報処理装置。
【請求項6】
前記送信元装置は、前記被写体を撮影する撮影装置である請求項1~5の何れか記載の情報処理装置。
【請求項7】
被写体を撮影した撮影画像に対して画像処理設定情報に基づく第1の画像処理を実行する画像処理手段と、
送信先装置に対して、前記第1の画像処理が実行された処理画像を送信する送信手段と、を備え、
前記第1の画像処理は、前記処理画像に対して前記送信先装置側で実行する前記画像処理設定情報に基づく第2の画像処理に対応づけられている情報処理装置。
【請求項8】
前記画像処理設定情報は、前記情報処理装置で実行される前記第1の画像処理と前記送信先装置で実行される前記第2の画像処理が設定された情報である請求項7記載の情報処理装置。
【請求項9】
前記第1の画像処理および前記第2の画像処理を対応付けて前記画像処理設定情報として設定する設定手段を備えた請求項7記載の情報処理装置。
【請求項10】
前記送信手段は、さらに、前記送信先装置に対して、前記第2の画像処理を示す第2の処理情報を送信する請求項9記載の情報処理装置。
【請求項11】
前記送信先装置または外部装置から、前記第1の画像処理を示す第1の処理情報を受信する受信手段を備える請求項7記載の情報処理装置。
【請求項12】
前記被写体を撮影する撮影装置である請求項7~11の何れか記載の情報処理装置。
【請求項13】
情報処理装置により実行される情報処理方法であって、
送信元装置から送信された、被写体を撮影した撮影画像に対して画像処理設定情報に基づく第1の画像処理が実行された処理画像を受信する受信ステップと、
前記画像処理設定情報に基づく第2の画像処理を、前記処理画像に対して実行する画像処理ステップと、
を実行する情報処理方法。
【請求項14】
情報処理装置により実行される情報処理方法であって、
被写体を撮影した撮影画像に対して画像処理設定情報に基づく第1の画像処理を実行する画像処理ステップと、
送信先装置に対して、前記第1の画像処理が実行された処理画像を送信する送信ステップと、を実行し、
前記第1の画像処理は、前記処理画像に対して前記送信先装置側で実行する前記画像処理設定情報に基づく第2の画像処理に対応づけられている情報処理方法。
【請求項15】
請求項13または14記載の情報処理方法をコンピュータに実行させるプログラム。
【請求項16】
送信元装置と、前記送信元装置と通信可能な送信先装置と、を備えた情報処理システムであって、
前記送信元装置は、
被写体を撮影した撮影画像に対して画像処理設定情報に基づく第1の画像処理を実行する画像処理手段と、
前記送信先装置に対して、前記第1の画像処理が実行された処理画像を送信する送信手段と、を備え、
前記送信先装置は、
前記送信元装置から送信された、前記処理画像を受信する受信手段と、
前記処理画像に対して、前記画像処理設定情報に基づく第2の画像処理を実行する画像処理手段と、
を備えた情報処理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示内容は、情報処理装置、情報処理方法、プログラムおよび情報処理システムに関する。
【背景技術】
【0002】
特許文献1には、複数の入力画像間のつなぎ位置を検出するための画像処理装置であって、第1の入力画像から、それぞれ第2の入力画像内で探索する対象となる複数の対象画像を生成する対象画像生成手段と、前記複数の対象画像各々に対し、特徴量を算出する特徴量算出手段と、前記複数の対象画像の注目する注目対象画像に対し、該注目対象画像よりも特徴量が大きな周辺の他の対象画像のつなぎ位置に基づいて前記注目対象画像の前記第2の入力画像へのつなぎ位置を検出するつなぎ位置検出手段とを含む、画像処理装置が記載されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明は、画像の送信元装置と送信先装置で画像処理を適切に実行することを課題とする。
【課題を解決するための手段】
【0005】
本発明の請求項1に係る情報処理装置は、送信元装置から送信された、被写体を撮影した撮影画像に対して画像処理設定情報に基づく第1の画像処理が実行された処理画像を受信する受信手段と、処理画像に対して、画像処理設定情報に基づく第2の画像処理を、実行する画像処理手段と、を備える。
【発明の効果】
【0006】
本発明によれば、画像の送信元装置と送信先装置で画像処理を適切に実行することができる。
【図面の簡単な説明】
【0007】
【
図1】本発明の実施形態に係る画像処理システムの全体構成の一例を示す図である。
【
図2】撮影装置によって撮影された全天球画像の一例を示す図である。
【
図3】(A)は撮影装置で撮影された半球画像(前)、(B)は撮影装置で撮影された半球画像(後)、(C)は正距円筒図法により表された画像を示した図である。
【
図4】(A)正距円筒射影画像で球を被う状態を示した概念図、(B)全天球画像を示した図である。
【
図5】全天球画像を三次元の立体球とした場合の仮想カメラおよび所定領域の位置を示した図である。
【
図6】所定領域情報と所定領域Tの画像との関係を示した図である。
【
図7】撮影装置による撮影時の状態の一例を示す図である。
【
図8】全天球画像の一例を説明するための図である。
【
図9】全天球画像から変換された平面画像の一例を説明するための図である。
【
図10】(A)(B)画像処理システムに適用可能な撮影装置の一例について説明するための概略図である。
【
図11】本実施形態に係る撮影装置のハードウエア構成の一例を示す図である。
【
図12】本実施形態に係るサーバおよび通信端末のハードウエア構成の一例を示す図である。
【
図13】本実施形態に係る画像処理システムの機能構成の一例を示す図である。
【
図14】本実施形態に係るTwin管理テーブルの一例を示す概念図である。
【
図15】本実施形態に係るTwin登録処理の一例を示すシーケンス図である。
【
図16】本実施形態に係るTwin登録処理の一例を示すフローチャートである。
【
図17】本実施形態に係る設定情報管理テーブルの一例を示す概念図である。
【
図18】本実施形態に係る処理の一例を示すシーケンス図である。
【
図19】本実施形態に係る画像処理の一例を示すフローチャートである。
【
図20】位置検出処理の際における2つの魚眼レンズで撮像された2つの部分画像の球面座標系へのマッピングを説明する図である。
【
図21】画像合成処理の際における2つの魚眼レンズで撮像された2つの部分画像の球面座標系へのマッピングを説明する図である。
【
図22】本実施形態の第1の変形例に係る設定情報管理テーブルの一例を示す概念図である。
【
図23】本実施形態第1の変形例に係る処理の一例を示すシーケンス図である。
【
図24】本実施形態の第2の変形例に係る設定情報管理テーブルの一例を示す概念図である。
【
図25】本実施形態第2の変形例に係る処理の一例を示すシーケンス図である。
【
図26】本実施形態の第3の変形例に係る設定情報管理テーブルの一例を示す概念図である。
【
図27】本実施形態第3の変形例に係る処理の一例を示すシーケンス図である。
【
図28】本実施形態の第4の変形例に係る設定情報管理テーブルの一例を示す概念図である。
【
図29】本実施形態の第5の変形例に係る設定情報管理テーブルの一例を示す概念図である。
【
図30】本実施形態第5の変形例に係る処理の一例を示すシーケンス図である。
【発明を実施するための形態】
【0008】
以下、図面を参照しながら、発明を実施するための形態を説明する。なお、図面の説明において同一要素には同一符号を付し、重複する説明は省略する。
【0009】
●実施形態●
●画像処理システムの概略
図1は、本発明の実施形態に係る画像処理システムの全体構成の一例を示す図である。
図1に示されている画像処理システム1は、情報処理システムの一例であり、不動産、建築物件等の構造物の内部の空間や建設、土木等の構造物を閲覧者にオンラインで閲覧させるための撮影画像に対する画像処理を行うシステムである。
【0010】
図1に示されているように、画像処理システム1は、撮影装置10、サーバ50および通信端末90を含み、外部サーバ70に接続可能である。画像処理システム1を構成するサーバ50および通信端末90は、通信ネットワーク100を介して相互に通信することができる。サーバ50は、通信ネットワーク100を介して外部サーバ70と通信することができる。撮影装置10は、Wi-Fi等の近距離無線通信により通信端末90と通信可能であるが、通信ネットワーク100を介してサーバ50および通信端末90と通信してもよい。通信ネットワーク100は、インターネット、移動体通信網、LAN(Local Area Network)等によって構築されている。なお、通信ネットワーク100には、有線通信だけでなく、3G(3rd Generation)、4G(4th Generation)、5G(5th Generation)、Wi-Fi(Wireless Fidelity)(登録商標)、WiMAX(Worldwide Interoperability for Microwave Access)またはLTE(Long Term Evolution)等の無線通信によるネットワークが含まれてもよい。
【0011】
サーバ50は、情報処理装置、送信先装置の一例であり、所定の拠点である不動産、建築物件等の構造物の内部の空間や建設、土木等の構造物が撮影された撮影画像に対する画像処理を行うサーバコンピュータである。サーバ50は、例えば、撮影装置10が撮影した撮影画像を取得し、取得した撮影画像を用いて、ユーザにバーチャルツアーを提供するためのツアー画像を生成する。ここで、バーチャルツアーとは、不動産物件等を実際に現場で閲覧しているかのようにユーザに閲覧させるコンテンツである。また、ツアー画像は、撮影装置10によって撮影された複数の撮影画像を用いて生成され、撮影画像に写る拠点内をユーザ操作によって仮想的に移動することが可能な閲覧用の画像である。このようなバーチャルツアーは、不動産物件や建築現場の構造物の内部空間に限られず、例えば観光地やテーマパークなどのような構造物の外部空間においても好適に実現できる。つまり、構造物の内部空間を、所定のエリア内と捉えることも可能である。構造物の外部空間でバーチャルツアーを実現する場合、後述する不動産、建築物件等の構造物の内部空間を示すマップを、例えば観光地を紹介する観光地マップやテーマパークのエリアマップに置き換えることで、本実施形態を実現可能である。
【0012】
なお、サーバ50は、一台のサーバコンピュータによって構成されてもよく、複数のサーバコンピュータによって構成されてもよい。また、サーバ50は、クラウド環境に存在するサーバコンピュータであるものとして説明するが、オンプレミス環境に存在するサーバであってもよい。
【0013】
撮影装置10は、情報処理装置、送信元装置の一例であり、撮影拠点における不動産物件等の構造物が存在する空間を全方位に撮影して全天球(円周方向、垂直方向ともに360°)画像を取得可能な特殊なデジタルカメラ(全天球撮影装置)である。以下、主に不動産物件等の構造物を例にして説明するが、上述したように、建築物件等の構造物の内部の空間や建設、土木等の構造物であってもよい。
【0014】
また、撮影装置10に替えて、例えば全天球画像を取得可能な機能を有する通信端末90により全天球画像を取得してもよく、または全天球画像を取得可能なカメラアタッチメントを通信端末90に接続して通信端末90とカメラアタッチメントにより全天球画像を取得してもよい。すなわち、送信元装置とは、取得した全天球画像をサーバ50へ送信する装置であればよい。
【0015】
なお、全天球画像とはいわゆる立体角4πsr[sr:ステラジアン]の画像を指す。また、本明細書では全天球画像の一部の領域が欠けている画像も便宜上、全天球画像と呼ぶ。例えば、全天球撮影装置の真上方向や真下方向の一部、全天球画像の鉛直上向き方向や鉛直下向き方向の一部、または全天球画像の所定領域の一部、などが欠けている画像である。
【0016】
これは、例えば全天球画像に写っている被写体の真上や真下の部分などは、全天球画像を閲覧する際にあまり注意深く見ない利用シーンが考えられる。そういう場合は、そもそもその部分を撮影しないような撮像素子・光学系の設計をする、画像を表示しない、その部分にロゴ等を表示するなどし、全天球画像そのものを表示しないことも想定される。
【0017】
撮影装置10は、例えば、不動産物件を管理または販売する不動産業者によって使用される。なお、撮影装置10は、所定値以上の画角を有する広角画像を取得可能な広角カメラまたはステレオカメラ等であってもよい。広角画像は、一般には広角レンズを用いて撮影された画像(広角画像)であり、人間の目で感じるよりも広い範囲を撮影することができるレンズで撮影された画像である。すなわち、撮影装置10は、所定値より焦点距離の短いレンズを用いて撮影された画像(全天球画像、広角画像)を取得可能な撮影手段である。広角画像は、一般的に35mmフィルム換算で35mm以下の焦点距離のレンズで、撮影された画像を意味する。また、撮影装置10は、撮影機能にパノラマ撮影機能を有しても良く、パノラマ画像を撮影するものであっても良い。
【0018】
通信端末90は、情報処理装置、送信元装置の一例であり、タブレット端末等のコンピュータである。通信端末90は、例えば、撮影装置10と同じ不動産業者によって使用される。通信端末90には、例えば、撮影装置10に対する撮影指示およびサーバ50から提供される画像の閲覧を行うための専用のアプリケーションがインストールされている。また、通信端末90は、例えば、専用のアプリケーションを用いずに、Webブラウザを用いて専用のWebサイトにアクセスすることにより、撮影指示および画像閲覧を行う構成であってもよい。また、撮影指示および画像閲覧は、異なる通信端末90によって行われる構成であってもよい。
【0019】
なお、通信端末90は、タブレット端末に限られず、例えば、PC、スマートフォン、ウェアラブル端末、HMD(head mount display)、またはIWB(Interactive White Board:相互通信が可能な電子式の黒板機能を有する白板)等であってもよい。
【0020】
○撮影装置の概略○
ここで、
図2乃至
図11を用いて、画像処理システム1を構成する撮影装置10の概略について説明する。
図2は、撮影装置によって撮影された全天球画像の一例を示す図である。
図2に示されている画像は、撮影装置10によって構造物の内部の空間の一例である不動産物件の部屋が撮影された全天球画像である。全天球画像は、部屋の内部が全方位で撮影することができるため、不動産物件等の閲覧に適している。全天球画像の形態は、様々であるが、後述のEquirectangular(正距円筒図法)の投影方式で生成されることが多い。この正距円筒図法によって生成された画像は、画像の外形が矩形となり画像データの保存が効率的かつ容易であることや、赤道付近の歪みが少なく縦方向の直線が歪まないため、比較的自然に見えることが利点である。
【0021】
○全天球画像の生成方法
次に、
図3乃至
図9を用いて、全天球画像の生成方法について説明する。まず、
図3および
図4を用いて、撮影装置10で撮影された画像から全天球画像が生成されるまでの処理の概略を説明する。
図3(A)は撮影装置で撮影された半球画像(前側)、
図3(B)は撮影装置で撮影された半球画像(後側)、
図3(C)は正距円筒図法により表された画像(以下、「正距円筒射影画像」という)を示した図である。
図4(A)は正距円筒射影画像で球を被う状態を示した概念図、
図4(B)は全天球画像を示した図である。
【0022】
撮影装置10は、正面側(前側)および背面側(後側)のそれぞれに撮像素子が設けられている。これらの撮像素子(画像センサ)は、半球画像(画角180°以上)の撮影が可能なレンズ等の光学部材と併せて用いられる。撮影装置10は、二つの撮像素子によって、それぞれユーザの周りの被写体が撮像されることで、二つの半球画像を得ることができる。
【0023】
図3(A),(B)に示されているように、撮影装置10の撮像素子によって得られた画像は、湾曲した半球画像(前側および後側)となる。そして、撮影装置10は、半球画像(前側)と180度反転された半球画像(後側)とを合成して、
図3(C)に示されているような正距円筒射影画像ECを作成する。
【0024】
そして、撮影装置10は、OpenGL ES(Open Graphics Library for Embedded Systems)を利用することで、
図4(A)に示されているように、球面を覆うように正距円筒射影画像ECを貼り付け、
図4(B)に示されているような全天球画像(全天球パノラマ画像)CEを作成する。このように、全天球画像CEは、正距円筒射影画像ECが球の中心を向いた画像として表される。なお、OpenGL ESは、2D(2-Dimensions)および3D(3-Dimensions)のデータを視覚化するために使用するグラフィックスライブラリである。また、全天球画像CEは、静止画であっても動画であってもよい。さらに、変換手法は、OpenGL ESに限らず、半球画像から正距円筒射影図法に変換可能な手法であればよく、例えば、CPUによる演算またはOpenCLによる演算であってもよい。
【0025】
以上のように、全天球画像CEは、球面を覆うように貼り付けられた画像であるため、人間が見ると違和感を持ってしまう。そこで、撮影装置10は、全天球画像CEの一部の所定領域T(以下、「所定領域画像」という)を湾曲の少ない平面画像として表示することで、人間に違和感を与えない表示をすることができる。これに関して、
図5および
図6を用いて説明する。
【0026】
図5は、全天球画像を三次元の立体球とした場合の仮想カメラおよび所定領域の位置を示した図である。仮想カメラICは、三次元の立体球として表示されている全天球画像CEに対して、その画像を見るユーザの視点の位置に相当するものである。
図5は、全天球画像CEを、三次元の立体球CSで表している。このように生成された全天球画像CEが、立体球CSであるとした場合、
図5に示されているように、仮想カメラICは、全天球画像CEの内部に位置している。全天球画像CEにおける所定領域Tは、仮想カメラICの撮影領域であり、全天球画像CEを含む三次元の仮想空間における仮想カメラICの撮影方向と画角を示す所定領域情報によって特定される。また、所定領域Tのズームは、仮想カメラICを全天球画像CEに近づいたり、遠ざけたりすることで表現することもできる。所定領域画像Qは、全天球画像CEにおける所定領域Tの画像である。したがって、所定領域Tは、画角αと、仮想カメラICから全天球画像CEまでの距離fにより特定できる。
【0027】
そして、所定領域画像Qは、所定のディスプレイに、仮想カメラICの撮影領域の画像として表示される。以下、仮想カメラICの撮影方向(ea,aa)と画角(α)を用いて説明する。なお、所定領域Tは、画角αと距離fではなく、所定領域Tである仮想カメラICの撮影領域(X,Y,Z)によって示してもよい。
【0028】
次に、
図6を用いて、所定領域情報と所定領域Tの画像の関係について説明する。
図6は、所定領域情報と所定領域Tの画像との関係を示した図である。
図6に示されているように、「ea」はelevation angle(仰角)、「aa」はazimuth angle(方位角)、「α」は画角(Angle)を示す。すなわち、仮想カメラICの姿勢は、撮影方向(ea,aa)で示される仮想カメラICの注視点が、仮想カメラICの撮影領域である所定領域Tの中心点CP(x,y)となるように変更される。
図6に示されているように、仮想カメラICの画角αによって表される所定領域Tの対角画角をαとした場合の中心点CP(x,y)が、所定領域情報のパラメータ((x,y))となる。所定領域画像Qは、全天球画像CEにおける所定領域Tの画像である。fは、仮想カメラICから中心点CP(x,y)までの距離である。Lは、所定領域Tの任意の頂点と中心点CP(x,y)との距離である(2Lは対角線)。そして、
図6では、一般的に以下の(式1)で示される三角関数が成り立つ。
【0029】
【0030】
次に、
図7を用いて、撮影装置10による撮影時の様子について説明する。
図7は、撮影装置による撮影時の状態の一例を示す図である。不動産物件等の部屋の全体を見渡せるように撮影するためには、撮影装置10を人間の目に高さに近い位置に設置することが好ましい。そのため、
図7に示されているように、撮影装置10は、一脚または三脚等の支持部材20で撮影装置10を固定して撮影を行うことが一般的である。撮影装置10は、上述のように、全周囲の全ての方向の光線を取得可能な全天球撮影装置であり、撮影装置10の周囲の単位球上の画像(全天球画像CE)を取得するともいえる。撮影装置10は、撮影方向が決まれば、全天球画像の座標が決定する。例えば、
図7において、点Aは、撮影装置10の中心点Cから(d,-h)だけ離れた距離にあり、このとき線分ACと水平方向のなす角度をθとすると、角度θは、以下の(式2)で表すことができる。
【0031】
【0032】
そして、点Aが俯角θにあると仮定すると、点Aと点Bの距離dは、撮影装置10の設置高さhを用いて、以下の(式3)で表すことができる。
【0033】
【0034】
ここで、全天球画像上の位置情報を、全天球画像から変換された平面画像上の座標に変換する処理について概略的に説明する。
図8は、全天球画像の一例を説明するための図である。なお、
図8(A)は、
図3(A)に示されている半球画像を光軸に対して水平方向および垂直方向の入射角が等位となる箇所を線で結んで示す図である。以下、光軸に対して水平方向の入射角を「θ」、光軸に対して垂直方向の入射角を「φ」という。
【0035】
また、
図9(A)は、正距円筒図法によって処理された画像の一例を説明する図である。具体的には、
図8に示されている画像を予め生成されるLUT(Look Up Table)等で対応させ、正距円筒図法によって処理し、処理された
図8(A)および
図8(B)に示されているそれぞれの画像を合成すると、全天球画像に対応する
図9(A)に示されている平面画像が、撮影装置10によって生成される。
図3(C)に示されている正距円筒射影画像ECは、
図9(A)に示されている平面画像の一例である。
【0036】
図9(A)に示されているように、正距円筒図法によって処理された画像では、緯度(θ)と経度(φ)が直交する。
図9(A)に示されている例では、画像の中心を(0,0)とし、緯度方向を-90~+90、経度方向を-180~+180で表現することで、全天球画像中の任意の位置を示すことができる。例えば、画像左上の座標は、(-180,-90)となる。なお、全天球画像の座標は、
図9(A)に示されているような360度数を用いた形式で表されてもよいし、ラジアン表示または現実の画像のようなピクセル数の表示で表されてもよい。また、全天球画像の座標は、
図9(B)に示されているような二次元座標(x,y)に変換されて表されてもよい。
【0037】
なお、
図9(A)または
図9(B)に示されている平面画像への合成処理は、
図8(A)および
図8(B)に示されている半球画像を単に連続して配置する処理に限られない。例えば、全天球画像の水平方向中心がθ=180°でない場合には、合成処理において、撮影装置10は、まず、
図3(C)に示されている半球画像を前処理し、全天球画像の中心に配置する。次に、撮影装置10は、生成する画像の左右部分に、
図3(B)に示されている半球画像を前処理した画像を左右部分に配置できる大きさに分割し、半球画像を合成して
図3(C)に示されている正距円筒射影画像ECを生成してもよい。
【0038】
また、
図9(A)に示されている平面画像において、
図8(A)および
図8(B)に示されている半球画像(全天球画像)の極点(PL1またはPL2)に対応する箇所は、線分CT1またはCT2となる。
図4(A)および
図4(B)に示されているように、全天球画像(例えば、全天球画像CE)は、OpenGL ESを利用することで、
図9(A)に示されている平面画像(正距円筒射影画像EC)を球面に貼り付けることにより作成されたものであるからである。
【0039】
○画像処理システムに適用可能な撮影装置の例
図10は、画像処理システムに適用可能な撮影装置の一例について説明するための概略図である。
図10(A)は、上述のような生成方法によって全天球画像を生成することができる複数の撮像素子を備えた特殊撮影装置を示す。特殊撮影装置は、画角の広い広角レンズや魚眼レンズ等で構成される光学系を使用し、複数の撮像素子の出力を組み合わせて全方位が撮影された画像を取得できる。
図10(B)は、いわゆる通常のカメラである一般撮影装置を示す。一般撮影装置は、例えば、通常のデジタルカメラまたはカメラを備えたスマートフォン等の携帯端末等である。撮影者は、一般撮影装置を手に持って回転しながら撮影を行う。一般撮影装置は、得られた画像を合成することで全方位の画像を取得できる。特殊撮影装置および一般撮影装置は、いずれも複数の撮影結果を画像処理によってつなぎ合わせる(スティッチング処理)ことによって、最終的な撮影画像を生成する。なお、複数の撮影結果を得るための撮影装置10の光学中心は、同一であることが好ましい。
【0040】
●ハードウエア構成
続いて、
図11および
図12を用いて、実施形態に係る画像処理システムを構成する各装置または端末のハードウエア構成を説明する。なお、
図11および
図12に示されているハードウエア構成は、必要に応じて構成要素が追加または削除されてもよい。
【0041】
○撮影装置のハードウエア構成○
まず、
図11を用いて、撮影装置10のハードウエア構成を説明する。
図11は、撮影装置のハードウエア構成の一例を示す図である。以下では、撮影装置10は、二つの撮像素子を使用した全天球(全方位)撮影装置とするが、撮像素子は二つ以上いくつでもよい。また、必ずしも全方位撮影専用の装置である必要はなく、通常のデジタルカメラやスマートフォン等に後付けの全方位撮影ユニットを取り付けることで、実質的に撮影装置10と同じ機能を有するようにしてもよい。
【0042】
図11に示されているように、撮影装置10は、撮像ユニット101、画像処理ユニット104、撮像制御ユニット105、マイク108、音処理ユニット109、CPU(Central Processing Unit)111、ROM(Read Only Memory)112、SRAM(Static Random Access Memory)113、DRAM(Dynamic Random Access Memory)114、操作部115、入出力I/F(Interface)116、近距離通信回路117、近距離通信回路117のアンテナ117a、電子コンパス118、ジャイロセンサ119、加速度センサ120およびネットワークI/F121によって構成されている。また、図示しない映像信号を処理するプロセッサであるISP(Image Signal Processor)を有する。
【0043】
このうち、撮像ユニット101は、各々半球画像を結像するための180°以上の画角を有する光学系(広角レンズやいわゆる魚眼レンズ)102a,102b(以下区別する必要のないときは、レンズ102と称する。)、および各レンズに対応させて設けられている二つの撮像素子103a,103bを備えている。ここでは、一つの光学系と一つの撮像素子の組み合わせを撮影光学系と呼び、二つの撮影光学系が互いに対向するよう配置することで撮影装置10を構成することが出来る。なお、撮影光学系を二つ以上採用して撮影装置10を構成することも可能である。撮像素子103a,103bは、レンズ102a,102bによる光学像を電気信号の画像データに変換して出力するCMOS(Complementary Metal Oxide Semiconductor)センサやCCD(Charge Coupled Device)センサ等の画像センサ、この画像センサの水平または垂直同期信号や画素クロック等を生成するタイミング生成回路、およびこの撮像素子の動作に必要な種々のコマンドもしくはパラメータ等が設定されるレジスタ群等を有している。
【0044】
撮像ユニット101の撮像素子103a,103bは、各々、画像処理ユニット104とパラレルI/Fバスを介して接続している。一方、撮像ユニット101の撮像素子103a,103bは、それぞれ撮像制御ユニット105とシリアルI/Fバス(I2Cバス等)を介して接続している。画像処理ユニット104、撮像制御ユニット105および音処理ユニット109は、バス110を介してCPU111と接続している。さらに、バス110には、ROM112、SRAM113、DRAM114、操作部115、入出力I/F116、近距離通信回路117、電子コンパス118、ジャイロセンサ119、加速度センサ120およびネットワークI/F121等も接続される。
【0045】
画像処理ユニット104は、撮像素子103a,103bから出力される画像データをパラレルI/Fバスを通して取り込み、それぞれの画像データに対して所定の処理を施した後、これらの画像データを合成処理して、
図3(C)に示されているような正距円筒射影画像のデータを作成する。
【0046】
撮像制御ユニット105は、一般に撮像制御ユニット105をマスタデバイス、撮像素子103a,103bをスレーブデバイスとして、I2Cバスを利用して、撮像素子103a,103bのレジスタ群にコマンド等を設定する。必要なコマンド等は、CPU111から受け取る。また、撮像制御ユニット105は、同じくI2Cバスを利用して、撮像素子103a,103bのレジスタ群のステータスデータ等を取り込み、CPU111に送る。
【0047】
また、撮像制御ユニット105は、操作部115のシャッターボタンが押下されたタイミングで、撮像素子103a,103bに画像データの出力を指示する。撮影装置10によっては、ディスプレイ(例えば、近距離通信回路117を用いて撮影装置10と近距離通信を行うスマートフォン等の外部端末のディスプレイ)によるプレビュー表示機能や動画表示に対応する機能を持つ場合もある。この場合は、撮像素子103a,103bからの画像データの出力は、所定のフレームレート(フレーム/秒)によって連続して行われる。
【0048】
また、撮像制御ユニット105は、後述するように、CPU111と協働して撮像素子103a,103bの画像データの出力タイミングの同期をとる同期制御手段としても機能する。なお、本実施形態では、撮影装置10には表示部(ディスプレイ)が設けられていないが、表示部を設けてもよい。マイク108は、音を音(信号)データに変換する。音処理ユニット109は、マイク108から出力される音データをI/Fバスを通して取り込み、音データに対して所定の処理を施す。
【0049】
CPU111は、撮影装置10の全体の動作を制御すると共に必要な処理を実行する。ROM112は、CPU111のための種々のプログラムを記憶している。SRAM113およびDRAM114はワークメモリであり、CPU111で実行するプログラムや処理途中のデータ等を記憶する。特にDRAM114は、画像処理ユニット104での処理途中の画像データや処理済みの正距円筒射影画像のデータを記憶する。
【0050】
操作部115は、種々の操作ボタンや電源スイッチ、シャッターボタン、および表示と操作の機能を兼ねたタッチパネル等の総称である。ユーザは、操作部115を操作することで、種々の撮影モードや撮影条件等を入力する。
【0051】
入出力I/F116は、SDメモリカード等の外付けのメディアまたはパーソナルコンピュータ等とのインターフェース回路(SDメモリカードI/FやUSBI/F等)の総称である。入出力I/F116は、無線、有線を問わない。DRAM114に記憶された正距円筒射影画像のデータは、入出力I/F116を介して外付けのメディアに記録されたり、必要に応じて入出力I/F116を介して外部端末(装置)に送信されたりする。
【0052】
近距離通信回路117は、撮影装置10に設けられたアンテナ117aを介して、NFC(Near Field Communication)、Bluetooth(登録商標)またはWi-Fi等の近距離無線通信技術によって、外部端末(装置)と通信を行う。近距離通信回路117は、正距円筒射影画像のデータを、外部端末(装置)に送信することができる。
【0053】
電子コンパス118は、地球の磁気から撮影装置10の方位を算出し、方位情報を出力する。この方位情報は、Exifに沿った関連情報(メタデータ)の一例であり、撮影画像の画像補正等の画像処理に利用される。なお、関連情報は、画像の撮影日時および画像データのデータ容量の各データも含む。また、ジャイロセンサ119は、撮影装置10の移動に伴う角度の変化(Roll角、Pitch角、Yaw角)を検出するセンサである。角度の変化はExifに沿った関連情報(メタデータ)の一例であり、撮影画像の画像補正等の画像処理に利用される。さらに、加速度センサ120は、三軸方向の加速度を検出するセンサである。撮影装置10は、加速度センサ120が検出した加速度に基づいて、自装置(撮影装置10)の姿勢(重力方向に対する角度)を算出する。撮影装置10は、加速度センサ120を設けることによって、画像補正の精度が向上する。ネットワークI/F121は、ルータ等を介して、インターネット等の通信ネットワーク100を利用したデータ通信を行うためのインターフェースである。
【0054】
○サーバのハードウエア構成○
まず、
図12を用いて、サーバ50のハードウエア構成を説明する。
図12は、サーバのハードウエア構成の一例を示す図である。サーバ50の各ハードウエア構成は、500番台の符号で示されている。サーバ50は、コンピュータによって構築されており、
図12に示されているように、CPU501、ROM502、RAM(Random Access Memory)503、HD(Hard Disk)504、HDD(Hard Disk Drive)コントローラ505、ディスプレイ506、外部機器接続I/F508、ネットワークI/F509、バスライン510、キーボード511、ポインティングデバイス512、DVD-RW(Digital Versatile Disk Rewritable)ドライブ514、およびメディアI/F516を備えている。
【0055】
これらのうち、CPU501は、サーバ50全体の動作を制御する。ROM502は、IPL(Initial Program Loader)等のCPU501の駆動に用いられるプログラムを記憶する。RAM503は、CPU501のワークエリアとして使用される。HD504は、プログラム等の各種データを記憶する。HDDコントローラ505は、CPU501の制御にしたがってHD504に対する各種データの読み出しまたは書き込みを制御する。ディスプレイ506は、カーソル、メニュー、ウィンドウ、文字、または画像等の各種情報を表示する。なお、ディスプレイ506は、入力手段を備えたタッチパネルディスプレイであってもよい。外部機器接続I/F508は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USBメモリ等である。ネットワークI/F509は、通信ネットワーク100を利用してデータ通信をするためのインターフェースである。バスライン510は、
図12に示されているCPU501等の各構成要素を電気的に接続するためのアドレスバスまたはデータバス等である。
【0056】
また、キーボード511は、文字、数値、各種指示等の入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス512は、各種指示の選択もしくは実行、処理対象の選択、またはカーソルの移動等を行う入力手段の一種である。なお、入力手段は、キーボード511およびポインティングデバイス512のみならず、タッチパネルまたは音声入力装置等であってもよい。DVD-RWドライブ514は、着脱可能な記録媒体の一例としてのDVD-RW513に対する各種データの読み出しまたは書き込みを制御する。なお、着脱可能な記録媒体は、DVD-RWに限らず、DVD-RまたはBlu-ray(登録商標) Disc(ブルーレイディスク)等であってもよい。メディアI/F516は、フラッシュメモリ等の記録メディア515に対するデータの読み出しまたは書き込み(記憶)を制御する。
【0057】
○通信端末のハードウエア構成○
図12は、通信端末90のハードウエア構成の一例も示している。通信端末90の各ハードウエア構成は、括弧内の900番台の符号で示されている。通信端末90は、コンピュータによって構築されており、
図12に示されているように、サーバ50と同様の構成を備えているため、各ハードウエア構成の説明を省略する。通信端末90は、サーバ50と同様の構成に加え、近距離通信回路917および近距離通信回路917のアンテナ917aを備えている。近距離通信回路917は、NFC、BluetoothまたはWi-Fi等の通信回路である。
【0058】
なお、上記各プログラムは、インストール可能な形式または実行可能な形式のファイルで、コンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。記録媒体の例として、CD-R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、Blu-ray Disc、SDカード、USBメモリ等が挙げられる。また、記録媒体は、プログラム製品(Program Product)として、国内または国外へ提供されることができる。例えば、サーバ50は、本発明に係るプログラムが実行されることで本発明に係る画像処理方法を実現する。
【0059】
●機能構成
続いて、
図13を用いて、実施形態に係る画像処理システムの機能構成について説明する。
図13は、画像処理システムの機能構成の一例を示す図である。なお、
図13は、
図1に示されている装置または端末のうち、後述の処理または動作に関連しているものを示す。
【0060】
○撮影装置の機能構成○
まず、
図13を用いて、撮影装置10の機能構成について説明する。撮影装置10は、送受信部11、操作受付部12、撮影制御部13、動画撮影部14、静止画撮影部15、画像処理部16および記憶・読出部19を有している。これら各部は、
図11に示されている各構成要素のいずれかが、SRAM113からDRAM114上に展開された撮影装置用のプログラムに従ったCPU111からの命令によって動作することで実現される機能または手段である。また、撮影装置10は、
図11に示されているROM112、SRAM113およびDRAM114によって構築される記憶部1000を有している。記憶部1000は、自装置のGUID(Globally Unique Identifier)を記憶している。
【0061】
送受信部11は、送信手段および受信手段の一例であり、主に、CPU111の処理によって実現され、他の装置または端末と各種データまたは情報の通信を行う。さらに、送受信部11は、ネットワークI/F121を用いて、他の装置または端末との間で、通信ネットワーク100を介したデータ通信を行う。
【0062】
操作受付部12は、主に、操作部115に対するCPU111の処理によって実現され、撮影者となるユーザから各種の選択または入力を受け付ける。
【0063】
撮影制御部13は、主に、撮像ユニット101、画像処理ユニット104および撮像制御ユニット105に対するCPU111の処理によって実現され、風景等の被写体を撮像し、撮影画像データを取得する。撮影制御部13は、例えば、動画撮影部14による動画撮影と静止画撮影部15による静止画撮影を時分割に切り替えて撮影を行う。
【0064】
動画撮影部14は、主に、撮像ユニット101、画像処理ユニット104および撮像制御ユニット105に対するCPU111の処理によって実現され、撮影装置10による動画撮影を行う。動画撮影部14は、例えば、所定の拠点である不動産物件等の構造物内や構造物が配置された空間を移動しながら撮影された動画像の撮影を行う。動画撮影部14は、撮影装置10を保持する撮影者の移動中に、低解像度の連続フレームでの動画撮影を行い、撮影された画像データを記憶部1000に記憶させる。動画撮影部14は、例えば、撮影装置10を保持した撮影者が所定の拠点である不動産物件内の第1の地点から第2の地点までを移動している際に動画撮影を行う。
【0065】
静止画撮影部15は、主に、撮像ユニット101の処理によって実現され、風景等の被写体を撮像し、撮影装置10による静止画撮影を行う。静止画撮影部15は、例えば、所定の拠点である不動産物件等の構造物内や構造物が配置された空間の異なる撮影位置で撮影された複数の静止画像の撮影を行う。静止画撮影部15は、例えば、動画撮影部14により撮影される動画像よりも高解像度の静止画(写真)撮影を行い、撮影される画像データを記憶部1000に記憶させる。静止画撮影部15によって撮影される静止画像は、1フレームの画像であってもよいし、複数の画像を合成したHDR(High Dynamic Range)画像であってもよい。また、動画撮影は、所定の拠点内の移動時に行われ、静止画撮影は、所定の拠点内の静止時に行われる。
【0066】
ここで、動画撮影と静止画撮影は、それぞれの撮影目的に対応して要求される撮影スペックが異なる。動画撮影の場合、位置推定に用いるため高フレームレートの連続画像(連続フレーム)で取得される一方で、撮影画像の高解像度およびカラーレイヤは必須ではなく、低解像度およびグレースケールであっても十分である。また、静止画撮影の場合、連続フレームの取得は不要である一方で、高解像度、カラー情報(RGB)、高ダイナミックレンジの撮影が求められる。静止画撮影部15によって撮影される静止画像は閲覧用画像取得の目的のため、例えば、4K解像度以上の高解像度であることが好ましい。一方で、動画撮影部14によって撮影される動画像は、位置推定に用いる画像であり、動画像に写る被写体が識別可能でありさえすればよいため、静止画像よりも解像度の低い画像である。動画像は、例えば、480p程度またはそれ以下の解像度であってもよい。撮影装置10は、低解像度の動画像を撮影することによって、ツアー撮影における全体のデータ量を低減させることができる。
【0067】
画像処理部16は、主に、CPU111の処理によって実現され、静止画撮影部15により撮影された静止画や、動画撮影部14により撮影された動画に対して、各種画像処理を行う。
【0068】
記憶・読出部19は、設定手段の一例であり、主に、CPU111の処理によって実現され、記憶部1000に、各種データ(または情報)を記憶したり、記憶部1000から各種データ(または情報)を読み出したりする。また、記憶部1000には、動画撮影部14および静止画撮影部15によって撮影された画像データが記憶される。記憶部1000に記憶される画像データには、撮影画像の撮影時刻がメタデータとして関連づけられている。
【0069】
記憶部1000には、設定情報管理DB1001、画像管理DB1002およびTwin管理DB1003が構築されている。設定情報管理DB1001は、後述する設定情報管理テーブルによって構成されており、静止画や動画に対して画像処理部16が実行する画像処理の設定情報等を記憶して管理する。
【0070】
画像管理DB1002は、撮影装置10で撮影された撮影画像、および撮影画像に対して画像処理部16により画像処理が実行された処理画像をそれぞれ画像IDと対応付けて記憶して管理する。撮影画像や処理画像は上述した外付けメディアであるSDメモリカード等の記憶媒体に記憶されても良い。
【0071】
Twin管理DB1003は、ユーザIDに関連付けて、Twinを識別するTwinIDが管理されている。Twinは、詳細は後述するが、撮影装置10等の現物デバイスに関するメタデータ、構成、状態などの情報をサーバ50に保持する機能を示す。
【0072】
○サーバの機能構成○
まず、
図13を用いて、サーバ50の機能構成について説明する。サーバ50は、送受信部51、受付部52、判断部55、画像処理部57および記憶・読出部59を有している。これら各部は、
図12に示されている各構成要素のいずれかが、HD504からRAM503上に展開されたサーバ用プログラムに従ったCPU501からの命令によって動作することで実現される機能または手段である。また、サーバ50は、
図12に示されているROM502、RAM503およびHD504によって構築される記憶部5000を有している。
【0073】
送受信部51は、送信手段および受信手段の一例であり、主に、ネットワークI/F509に対するCPU501の処理によって実現され、通信ネットワーク100を介して、他の装置または端末との間で各種データまたは情報の送受信を行う。送受信部51は、例えば、撮影装置10によって撮影された動画像を、撮影装置10または通信端末90から受信(取得)する。また、送受信部51は、例えば、撮影装置10によって撮影された静止画像を、撮影装置10または通信端末90から受信(取得)する。
【0074】
受付部52は、主に、キーボード511またはポインティングデバイス512に対するCPU501の処理によって実現され、ユーザから各種の選択または入力を受け付ける。
【0075】
判断部55は、CPU501の処理によって実現され、各種判断処理を行う。
【0076】
画像処理部57は、CPU501の処理によって実現され、静止画や動画に対して各種画像処理を行う。
【0077】
記憶・読出部59は、設定手段の一例であり、主に、CPU501の処理によって実現され、記憶部5000への各種データ(または情報)の記憶、および記憶部5000から各種データ(または情報)の読出を行う。
【0078】
記憶部5000には、設定情報管理DB5001、画像管理DB5002およびTwin管理DB5003が構築されている。設定情報管理DB5001は、後述する設定情報管理テーブルによって構成されており、静止画や動画に対して画像処理部57が実行する画像処理の設定情報等を記憶して管理する。
【0079】
画像管理DB5002は、撮影装置10または通信端末90で画像処理されて撮影装置10または通信端末90から受信した処理画像、および受信した処理画像に対して画像処理部57により画像処理が実行された処理画像をそれぞれ画像IDと対応付けて記憶して管理する。
【0080】
画像処理部57により画像処理が実行された処理画像は、撮影装置10または通信端末90へ送信され、撮影装置10または通信端末90側の画像管理DB1002または9002や、SDメモリカード等の記憶媒体に記憶されても良い。
【0081】
Twin管理DB5003は、ユーザID、撮影装置10を識別する機種IDに関連付けて、Twinを識別するTwinIDが管理されている。
【0082】
○通信端末の機能構成○
次に、
図13を用いて、通信端末90の機能構成について説明する。通信端末90は、送受信部91、受付部92、表示制御部93、画像処理部94および記憶・読出部99を有している。これら各部は、
図13に示されている各構成要素のいずれかが、HD904からRAM903上に展開された通信端末用プログラムに従ったCPU901からの命令によって動作することで実現される機能または手段である。また、通信端末90は、
図13に示されているROM902、RAM903およびHD904によって構築される記憶部9000を有している。
【0083】
送受信部91は、送信手段および受信手段の一例であり、主に、ネットワークI/F909に対するCPU901の処理によって実現され、通信ネットワーク100を介して、他の装置または端末との間で各種データまたは情報の送受信を行う。
【0084】
受付部92は、設定手段の一例であり、主に、キーボード911またはポインティングデバイス912に対するCPU901の処理によって実現され、ユーザから各種の選択または入力を受け付ける。
【0085】
表示制御部93は、主に、CPU901の処理によって実現され、ディスプレイ906に、各種画像または文字等を表示させる。表示制御部93は、例えば、Webブラウザまたは専用のアプリケーションを用いてサーバ50にアクセスにして、サーバ50から配信されるデータに対応する画像を、ディスプレイ906に表示させる。
【0086】
画像処理部94は、主に、CPU901の処理によって実現され、静止画や動画に対して各種画像処理を行う。
【0087】
記憶・読出部99は、主に、CPU901の処理によって実現され、記憶部9000への各種データ(または情報)の記憶、および記憶部9000から各種データ(または情報)の読出を行う。
【0088】
記憶部9000には、設定情報管理DB9001および画像管理DB9002が構築されている。設定情報管理DB9001は、後述する設定情報管理テーブルによって構成されており、静止画や動画に対して画像処理部94が実行する画像処理の設定情報等を記憶して管理する。
【0089】
画像管理DB9002は、撮影装置10で撮影されて撮影装置10から受信した撮影画像、および撮影画像に対して画像処理部94により画像処理が実行された処理画像をそれぞれ画像IDと対応付けて記憶して管理する。撮影画像や処理画像は、外付けメディアであるSDメモリカード等の記憶媒体に記憶されても良い。
【0090】
以上説明した画像処理システム1は、Twin機能を有する。Twin機能とは、撮影装置10等の現物デバイスに関するメタデータ、構成、状態などの情報をサーバ50に保持する機能である。これにより、サーバ50に、デジタル的に撮影装置10の双子(Twin)が生成される。
【0091】
現物デバイス(撮影装置10)とTwin(サーバ50)は、通信ネットワーク100を介して同期されている。同期される情報として、さらに画像(静止画や動画)や撮影に関する情報などもある。
【0092】
Twin機能により、サーバ50と撮影装置10とが直接やりとり可能となり、撮影装置10で撮影した画像データがTwin側に直接アップロードされて反映されたり、撮影装置10側の設定変更がTwin側に反映されたり、Twin側の設定変更が撮影装置10側に反映されたり、する。
【0093】
具体的には、Twin側で画像処理を設定することにより、撮影装置10側の画像処理を設定することができる。
【0094】
図13において、サーバ50をTwinとして機能させる機能部は、送受信部51、受付部52、判断部55、記憶・読出部59および記憶部5000であり、
図12において、サーバ50をTwinとして機能させるハードウエアは、CPU501、ROM502、RAM503、ネットワークI/F509、HDDコントローラ505およびHD504である。
【0095】
図14は、本実施形態に係るTwin管理テーブルの一例を示す概念図である。
【0096】
図14は、
図13に示したサーバ50の記憶部5000に構築されたTwin管理DB5003を構成する設定情報管理テーブルを示す。
【0097】
Twin管理DB5003を構成する設定情報管理テーブルでは、ユーザID、撮影装置10を識別する機種IDに関連付けて、Twinを識別するTwinIDが管理されている。
【0098】
なお、
図13に示した撮影装置10の記憶部1000に構築されたTwin管理DB1003を構成する設定情報管理テーブルでも、ユーザIDに関連付けて、Twinを識別するTwinIDが管理されている。
【0099】
ここで、ユーザIDは、複数人のチームで共有されていてもよく、ユーザIDをチームのIDとして、ユーザIDの下層に個人を識別するIDを紐づけても良い。
【0100】
図14では、1つのTwinIDに対して、1つまたは複数のユーザID、および1つの撮影装置を割り当てているが、1つのユーザIDに対して複数のTwinIDを割り当ててもよい。
【0101】
図15は、本実施形態に係るTwin登録処理の一例を示すシーケンス図である。
【0102】
通信端末90の受付部92は、ユーザがユーザIDとTwinIDを入力することにより、設定された情報を受け付ける(ステップS501)。
【0103】
送受信部91は、ステップS501で受け付けられたユーザIDとTwinIDをサーバ50に対して送信し、サーバ50の送受信部51は、通信端末90から送信されたユーザIDとTwinIDを受信する(ステップS502)。
【0104】
通信端末90の送受信部91は、ステップS501で受け付けられたユーザIDとTwinIDを撮影装置10に対して送信し、撮影装置10の送受信部11は、通信端末90から送信されたユーザIDとTwinIDを受信する(ステップS503)。
【0105】
撮影装置10の送受信部11は、ステップS503で受信したTwinIDと、機種IDをサーバ50に送信し、サーバ50の送受信部51は、撮影装置10から送信されたTwinIDおよび機種IDを受信する(ステップS504)。
【0106】
サーバ50の判断部55は、ステップS502で受信したユーザIDおよびステップS504で受信した機種IDに基づき、Twin登録が可能か判断し(ステップS505)、登録可能な場合、送受信部51は、ユーザID、TwinID、およびTwin登録が可能なことを示す登録可能情報を撮影装置10に送信し、撮影装置10の送受信部11は、サーバ50から送信されたユーザID、TwinID、および登録可能情報を受信する(ステップS506)。
【0107】
記憶・読出部19は、ステップS506で受信した登録可能情報に基づき、ステップS506で受信したTwinIDおよびユーザIDを対応付けてTwin管理DB1003に記憶させて登録する(ステップS507)。
【0108】
撮影装置10の送受信部11は、ユーザID、TwinID、機種IDおよびTwinIDが登録されたことを示す登録完了情報をサーバ50に送信し、サーバ50の送受信部51は、撮影装置10から送信されたユーザID、TwinID、機種IDおよび登録完了情報を受信する(ステップS508)。
【0109】
記憶・読出部59は、ステップS508で受信した登録完了情報に基づき、ステップS508で受信したTwinID、機種IDおよびユーザIDを対応付けてTwin管理DB5003に記憶させて登録する(ステップS509)。
【0110】
図16は、本実施形態に係るTwin登録処理の一例を示すフローチャートである。
図16は、
図15に示したシーケンス図のステップS505に対応する処理を示す。
【0111】
サーバ50には種々のクラウドサービスが実現可能なプログラムが記憶されており、一例として、撮影装置10が撮影した撮影画像を用いて、ユーザにバーチャルツアーを提供するためのツアー画像を生成する。バーチャルツアーとは、不動産物件等を実際に現場で閲覧しているかのようにユーザに閲覧させるコンテンツである。ツアー画像は、撮影装置10によって撮影された複数の撮影画像を用いて生成され、撮影画像に写る拠点内をユーザ操作によって仮想的に移動することが可能な閲覧用の画像である。
【0112】
サーバ50の判断部55は、ユーザIDに基づき、ユーザが利用中の上述したバーチャルツアーのようなサービスが、Twin機能を使用可能か判断する(ステップS511)。
【0113】
ステップS511でTwin機能を使用可能と判断した場合、判断部55は、機種IDに基づき、撮影装置10が、Twin機能を使用可能か判断する(ステップS512)。
【0114】
ステップS512でTwin機能を使用可能と判断した場合、送受信部51は、ユーザID、TwinID、およびTwin登録が可能なことを示す登録可能情報を撮影装置10に送信する(ステップS513)。
【0115】
ステップS511またはステップS512でTwin機能を使用不可と判断した場合、送受信部51は、ユーザID、TwinID、およびTwin登録が不可であることを示す登録不可情報を撮影装置10および通信端末90に送信する(ステップS514)。
【0116】
図17は、本実施形態に係る設定情報管理テーブルの一例を示す概念図である。
【0117】
図17(a)は、
図13に示したサーバ50の記憶部5000に構築された設定情報管理DB5001を構成する設定情報管理テーブルを示す。
【0118】
設定情報管理DB5001を構成する設定情報管理テーブルでは、ユーザID、撮影装置10を識別する機種ID、および画像処理を実行する画像を識別する画像IDに関連付けて、撮影装置側画像処理情報、サーバ側画像処理情報、および画像管理DB5002に記憶される画像に対する外部サーバのアクセスの可否を示すアクセス情報が管理されている。
【0119】
撮影装置側画像処理情報は、送信元装置としての撮影装置10側で実行する第1の画像処理を示す第1の処理情報の一例であり、サーバ側画像処理情報は、送信先装置としてのサーバ50側で実行する第2の画像処理を示す第2の処理情報の一例である。撮影装置10が実行する第1の画像処理は、比較的負荷の小さい画像処理とし、サーバ50が実行する第2の画像処理は比較的負荷の大きい画像処理とすることが可能である。
【0120】
なお、第1の画像処理や第2の画像処理は、後述する撮像素子103a,103bのそれぞれによって取得された画像をつないで全天球画像を生成するつなぎ処理のほか、画像の上下を鉛直上向き方向や下向き方向に調整する天頂補正、手ブレなどによって生じる画像のブレを補正する手ブレ補正、画像の解像度を向上させる超解像処理、強い光がレンズなどで反射することで画像の一部や全体が白くなるフレアを補正するフレア補正、顔や人物、物体検知用のマーカなど特定の物体を検出する物体検出処理、画像に発生したノイズを除去や低減するデノイズ処理など、画像に対する処理であれば本実施形態を適用可能である。
【0121】
なお、これ以外にも画像処理は種々の処理が存在するが、本実施形態としては、撮影装置10でのみ実行する画像処理と、一例として上述した画像処理とが存在してもよい。撮影装置10でのみ実行する画像処理の一例として、不図示のISPで処理するシェーディング補正や色補正などがある。撮影装置10で撮影された画像は、サーバ50に送信する前に撮影装置10で画像圧縮が行われる。このため、この画像圧縮の前に処理しておかなければならない画像処理は、撮影装置10でのみ実行する画像処理に該当する。換言すると、画像圧縮の後でもできる画像処理は第1の画像処理や第2の画像処理として扱うことが可能である。
【0122】
つまり、本実施形態でいう画像処理とは、撮影装置10でのみ実行する撮影装置側固有画像処理と、撮影装置側やサーバ側で実行する第1の画像処理および第2の画像処理と、の2つに大別される。そして、後述するような撮影装置側とサーバ側とで役割を分担する画像処理は、第1の画像処理および第2の画像処理を対象として説明する。
【0123】
図17(b)は、
図13に示した撮影装置10の記憶部1000に構築された設定情報管理DB1001を構成する設定情報管理テーブルを示す。
【0124】
設定情報管理DB1001を構成する設定情報管理テーブルでは、ユーザIDに関連付けて、撮影条件、および撮影装置側画像処理情報が管理されている。
【0125】
図18は、本実施形態に係る処理の一例を示すシーケンス図である。
【0126】
通信端末90の受付部92は、ユーザがユーザID、例えばA0002と、撮影条件を設定する情報を入力することにより、設定された情報を受け付ける(ステップS1)。
【0127】
送受信部91は、ユーザIDと、ステップS1で設定された撮影条件を撮影装置10に対して送信し、撮影装置10の送受信部11は、通信端末90から送信されたユーザIDと撮影条件を受信する(ステップS2)。
【0128】
記憶・読出部19は、ステップS2で受信したユーザIDと撮影条件を対応付けて設定情報管理DB1001に記憶させる(ステップS3)。
【0129】
通信端末90の受付部92は、ユーザが、ユーザID、機種ID、画像ID、画像処理情報およびアクセス情報を設定する情報を入力することにより、設定された各種情報を受け付ける(ステップS4)。ここで、画像処理情報は、
図17(a)で説明した撮影装置側画像処理情報およびサーバ側画像処理情報を含む。
【0130】
機種IDは、例えばD02345であり、画像IDは、例えば、P0101~であり、撮影装置側画像処理情報は、例えば手振れ補正であり、サーバ側画像処理情報は、例えばつなぎ処理である。
【0131】
送受信部91は、ユーザIDと、ステップS4で設定された各種情報をサーバ50に対して送信し、サーバ50の送受信部51は、通信端末90から送信されたユーザIDと各種情報を受信する(ステップS5)。
【0132】
記憶・読出部59は、ステップS5で受信したユーザIDと各種情報を対応付けて設定情報管理DB5001に記憶させる(ステップS6)。記憶・読出部59は、送信元装置としての撮影装置10側で実行する第1の画像処理と、送信先装置としてのサーバ50側で実行する第2の画像処理を示す第2の処理情報を対応付けて設定する設定手段の一例である。
【0133】
撮影装置10の送受信部11は、所定の条件をトリガーとして、ユーザIDおよび機種IDをサーバ50に送信し、サーバ50の送受信部51は、撮影装置10から送信されたユーザIDおよび機種IDを受信する(ステップS7)。
【0134】
ここで、トリガーとする所定の条件は、撮影装置10が通信ネットワーク100を介してサーバ50と接続(同期)可能になる場合である。例えば、撮影装置10が通信端末90と連携して(通信端末90を介して)、通信ネットワーク100を介してサーバ50に初めて接続した場合、または、撮影装置10を起動して通信ネットワーク100を介してサーバ50へ2回目以降の接続をした場合、もしくは、撮影装置10がユーザによる通信ネットワーク100との切断や通信環境により通信ネットワーク100に接続できない状態から再接続してサーバ50へ接続した場合、などである。
【0135】
記憶・読出部59は、ステップS7で受信したユーザIDおよび機種IDを検索キーとして設定情報管理DB5001から撮影装置側画像処理情報を読み出す(ステップS8)。送受信部51は、ステップS8で読み出した撮影装置側画像処理情報をユーザIDと対応付けて撮影装置10に送信し、撮影装置10の送受信部11は、サーバ50から送信されたユーザIDおよび撮影装置側画像処理情報を受信する(ステップS9)。
【0136】
記憶・読出部19は、ステップS9で受信したユーザIDと撮影装置側画像処理情報を対応付けて設定情報管理DB1001に記憶させる(ステップS10)。
【0137】
撮影制御部13は、所定の条件をトリガーとして、記憶・読出部59によりユーザIDを検索キーとして設定情報管理DB1001から撮影条件を読み出して、静止画撮影部15または動画撮影部14により、静止画または動画を撮影し、記憶・読出部19は、撮影した静止画または動画を示す撮影画像を画像IDに対応付けて画像管理DB1002に記憶させる(ステップS11)。
【0138】
画像処理部16は、記憶・読出部59によりユーザIDを検索キーとして設定情報管理DB1001から撮影装置側画像処理情報を読み出して、ステップS11で撮影した静止画または動画に対して、撮影装置側画像処理情報で示される画像処理を実行し、記憶・読出部19は、画像処理部16により画像処理が実行された静止画または動画を示す処理画像を画像IDに対応付けて画像管理DB1002に記憶させる(ステップS12)。
【0139】
撮影装置10の送受信部11は、ユーザID、機種ID、ステップS12で画像処理が実行された処理画像とその画像IDをサーバ50に送信し、サーバ50の送受信部51は、撮影装置10から送信されたユーザID、機種ID、処理画像および画像IDを受信する(ステップS13)。
【0140】
画像処理部57は、記憶・読出部59により、ステップS13で受信したユーザIDおよび機種IDを検索キーとして設定情報管理DB5001からサーバ側画像処理情報を読み出して、ステップS13で受信した処理画像に対して、サーバ側画像処理情報で示される画像処理を実行し、記憶・読出部59は、ステップS13で受信した処理画像、および画像処理部57により画像処理が実行された処理画像をそれぞれ画像IDに対応付けて画像管理DB5002に記憶させる(ステップS14)。
【0141】
送受信部51が、外部サーバ70から送信されたユーザIDおよび画像要求を受信すると(ステップS15)、記憶・読出部59は、ステップS15で受信したユーザIDを検索キーとして設定情報管理DB5001から外部サーバ70によりアクセス可能な画像の画像IDを読み出す(ステップS16)。
【0142】
記憶・読出部59は、ステップS16で読み出した画像IDを検索キーとして画像管理DB5002から処理画像を読み出して(ステップS17)、送受信部51は、ステップS17で読み出した処理画像をユーザIDと対応付けて外部サーバ70に送信する(ステップS18)。
【0143】
図19は、本実施形態に係る画像処理の一例としてつなぎ処理を示すフローチャートである。
図19は、
図18に示したシーケンス図のステップS12またはS14に対応する処理を示す。
【0144】
画像処理部16または57は、撮像素子103a,103bのそれぞれによって取得された部分画像0および部分画像1に対し、位置検出用変換テーブルを用いて歪み補正を行う。これによって、位置検出用補正画像0および位置検出用補正画像1が得られる。これにより、全天球画像フォーマットの補正画像が得られる(ステップS21)。
【0145】
ここで、位置検出用変換テーブルは、事前に製造元等で、レンズ設計データなどを元に、レンズの射影関係に基づき、放射歪曲および偏心歪曲等に起因した理想的なレンズモデルからの歪みを補正した上で計算され、テーブル化されたものである。
【0146】
画像処理部16または57は、位置検出用補正画像0および位置検出用補正画像1の重複領域において、画像間のつなぎ位置検出を行う(ステップS22)。
【0147】
具体的には、画像処理部16または57は、ステップS21で変換された補正画像0,1の入力を受けて、パターンマッチング処理により、入力された補正画像0,1間のつなぎ位置を検出し、検出結果データを生成する。
【0148】
画像処理部16または57は、ステップS22で生成した検出結果データを用いて、位置検出用変換テーブルを画像が球面座標上で位置合わせされるように修正する(ステップS23)。
【0149】
具体的には、ステップS22のつなぎ位置検出処理により、全天球画像フォーマットの座標値毎に、ずらし量が求まるので、ステップS23では、部分画像0の歪み補正に用いた検出用歪み補正テーブル0において、入力座標値(θ,φ)に対し、修正前には(θ+Δθ,φ+Δφ)に対応付けられていた(x,y)を対応付けるように修正する。なお、部分画像1の歪み補正に用いた検出用歪み補正テーブル1については対応付けを変える必要はない。
【0150】
画像処理部16または57は、ステップS23で修正された位置検出用変換テーブルから、回転座標変換することによって、画像合成用変換テーブルを生成する(ステップS24)。
【0151】
画像処理部16または57は、ステップS24で生成した画像合成用変換テーブルを用いて、元の部分画像0および部分画像1に対し歪み補正を行い、画像合成用補正画像0および画像合成用補正画像1を得る(ステップS25)。
【0152】
これにより、魚眼レンズで撮像された2つの部分画像0,1は、全天球画像フォーマット上に展開される。魚眼レンズ0により撮影された部分画像0は、典型的には、全天球のうちの概ね左半球にマッピングされ、魚眼レンズ1により撮影された部分画像1は、全天球のうちの概ね右半球にマッピングされる。
【0153】
画像処理部16または57は、画像合成用補正画像0および画像合成用補正画像1を合成する(ステップS26)。
【0154】
この合成処理では、画像間で重複する重複領域については、ブレンド処理等が行われ、片方しか画素値が存在しない領域については、存在するそのままの画素値が採用されることになる。上記合成処理により、魚眼レンズにより撮像された2枚の部分画像から、1枚の全天球画像が生成される。
【0155】
図20は、
図19のステップS22で説明した位置検出処理の際における2つの魚眼レンズで撮像された2つの部分画像の球面座標系へのマッピングを説明する図である。
【0156】
図21は、
図19のステップS25で説明した画像合成処理の際における2つの魚眼レンズで撮像された2つの部分画像の球面座標系へのマッピングを説明する図である。
【0157】
図22は、本実施形態の第1の変形例に係る設定情報管理テーブルの一例を示す概念図である。
【0158】
図22(a)は、
図13に示したサーバ50の記憶部5000に構築された設定情報管理DB5001を構成する設定情報管理テーブルを示す。
【0159】
設定情報管理DB5001を構成する設定情報管理テーブルでは、ユーザID、撮影装置10を識別する機種ID、および画像処理を実行する画像を識別する画像IDに関連付けて、サーバ側画像処理情報、および画像管理DB5002に記憶される画像に対する外部サーバのアクセスの可否を示すアクセス情報が管理されている。
【0160】
すなわち、
図22(a)に示される設定情報管理テーブルは、
図17(a)に示される設定情報管理テーブルとは異なり、撮影装置側画像処理情報は記憶せず、管理しない。
【0161】
図22(b)は、
図13に示した撮影装置10の記憶部1000に構築された設定情報管理DB1001を構成する設定情報管理テーブルを示し、
図17(b)に示される設定情報管理テーブルと同様に構成される。
す。
【0162】
図23は、本実施形態第1の変形例に係る処理の一例を示すシーケンス図である。
【0163】
通信端末90の受付部92は、ユーザが、ユーザIDと、撮影条件を設定する情報を入力することにより、設定された情報を受け付ける(ステップS101)。
【0164】
受付部92は、ユーザが、ユーザID、機種ID、画像ID、画像処理情報およびアクセス情報を設定する情報を入力することにより、設定された各種情報を受け付ける(ステップS102)。ここで、画像処理情報は、撮影装置側画像処理情報およびサーバ側画像処理情報を含む。
【0165】
受付部92は、送信元装置としての撮影装置10側で実行する第1の画像処理と、送信先装置としてのサーバ50側で実行する第2の画像処理を示す第2の処理情報を対応付けて設定する設定手段の一例である。
【0166】
送受信部91は、ユーザID、ステップS101で設定された撮影条件、およびステップS102で設定された撮影装置側画像処理情報を撮影装置10に対して送信し、撮影装置10の送受信部11は、通信端末90から送信されたユーザID、撮影条件および撮影装置側画像処理情報を受信する(ステップS103)。
【0167】
記憶・読出部19は、ステップS103で受信したユーザID、撮影条件および撮影装置側画像処理情報を対応付けて設定情報管理DB1001に記憶させる(ステップS104)。
【0168】
通信端末90の送受信部91は、ユーザIDと、ステップS102で設定された撮影装置側画像処理情報を除く各種情報をサーバ50に対して送信し、サーバ50の送受信部51は、通信端末90から送信されたユーザIDと各種情報を受信する(ステップS105)。
【0169】
記憶・読出部59は、ステップS105で受信したユーザIDと各種情報を対応付けて設定情報管理DB5001に記憶させる(ステップS106)。
【0170】
ステップS107~S114の処理は、
図18で説明したステップS11~S18の処理と同様である。
【0171】
図24は、本実施形態の第2の変形例に係る設定情報管理テーブルの一例を示す概念図である。
【0172】
図24(a)は、
図13に示したサーバ50の記憶部5000に構築された設定情報管理DB5001を構成する設定情報管理テーブルを示し、
図22(a)に示される設定情報管理テーブルと同様に構成される。
【0173】
図24(b)は、
図13に示した撮影装置10の記憶部1000に構築された設定情報管理DB1001を構成する設定情報管理テーブルを示す。
【0174】
設定情報管理DB1001を構成する設定情報管理テーブルでは、ユーザID、撮影条件および画像IDに関連付けて、撮影装置側画像処理情報およびサーバ側画像処理情報が管理されている。
【0175】
すなわち、
図24(b)に示される設定情報管理テーブルは、
図17(b)に示される設定情報管理テーブルに加えて、画像IDおよびサーバ側画像処理情報を記憶して管理する。
【0176】
図25は、本実施形態第2の変形例に係る処理の一例を示すシーケンス図である。
【0177】
通信端末90の受付部92は、ユーザIDと、ユーザが撮影条件を設定する情報を入力することにより、設定された情報を受け付ける(ステップS201)。
【0178】
受付部92は、ユーザが、ユーザID、機種ID、画像ID、画像処理情報およびアクセス情報を設定する情報を入力することにより、設定された各種情報を受け付ける(ステップS202)。画像処理情報は、撮影装置側画像処理情報およびサーバ側画像処理情報を含む。
【0179】
送受信部91は、ユーザID、ステップS201で設定された撮影条件、およびステップS202で設定された画像ID、および画像処理情報を撮影装置10に対して送信し、撮影装置10の送受信部11は、通信端末90から送信されたユーザID、撮影条件、画像IDおよび画像処理情報を受信する(ステップS203)。
【0180】
記憶・読出部19は、ステップS203で受信したユーザID、撮影条件および画像処理情報を対応付けて設定情報管理DB1001に記憶させる(ステップS204)。記憶・読出部19は、送信元装置としての撮影装置10側で実行する第1の画像処理と、送信先装置としてのサーバ50側で実行する第2の画像処理を示す第2の処理情報を対応付けて設定する設定手段の一例である。
【0181】
通信端末90の送受信部91は、ユーザIDと、ステップS202で設定された画像処理情報を除く各種情報をサーバ50に対して送信し、サーバ50の送受信部51は、通信端末90から送信されたユーザIDと各種情報を受信する(ステップS205)。
【0182】
記憶・読出部59は、ステップS205で受信したユーザIDと各種情報を対応付けて設定情報管理DB5001に記憶させる(ステップS206)。
【0183】
撮影装置10の送受信部11は、所定の条件をトリガーとして、ユーザID、機種ID、画像IDおよびサーバ側画像処理情報をサーバ50に送信し、サーバ50の送受信部51は、撮影装置10から送信されたユーザIDと各種情報を受信する(ステップS207)。
【0184】
記憶・読出部59は、ステップS207で受信したユーザIDおよび機種IDと各種情報を対応付けて設定情報管理DB5001に記憶させる(ステップS208)。
【0185】
ステップS209~S216の処理は、
図18で説明したステップS11~S18の処理と同様である。
【0186】
図26は、本実施形態の第3の変形例に係る設定情報管理テーブルの一例を示す概念図である。第3の変形例におけるTwin機能は、撮影装置10および通信端末90側のメタデータ、構成、状態などの情報をサーバ50に保持する機能である。
【0187】
図26(a)は、
図13に示したサーバ50の記憶部5000に構築された設定情報管理DB5001を構成する設定情報管理テーブルを示し、
図22(a)および
図24(a)に示される設定情報管理テーブルと同様に構成される。
【0188】
図26(b)は、
図13に示した撮影装置10の記憶部1000に構築された設定情報管理DB1001を構成する設定情報管理テーブルを示す。
【0189】
設定情報管理DB1001を構成する設定情報管理テーブルでは、ユーザIDに関連付けて撮影条件が管理されている。
【0190】
すなわち、
図26(b)に示される設定情報管理テーブルは、
図17(a)に示される設定情報管理テーブルとは異なり、撮影装置側画像処理情報は記憶せず、管理しない。
【0191】
図26(c)は、
図13に示した通信端末90の記憶部9000に構築された設定情報管理DB9001を構成する設定情報管理テーブルを示す。
【0192】
設定情報管理DB9001を構成する設定情報管理テーブルでは、ユーザID、機種IDに関連付けて、通信端末側処理情報が管理されている。
【0193】
通信端末側画像処理情報は、送信元装置としての通信端末90側で実行する第1の画像処理を示す第1の処理情報の一例である。
【0194】
図27は、本実施形態第3の変形例に係る処理の一例を示すシーケンス図である。
【0195】
通信端末90の受付部92は、ユーザが、ユーザIDと、撮影条件を設定する情報を入力することにより、設定された情報を受け付ける(ステップS301)。
【0196】
送受信部91は、ユーザIDと、ステップS301で設定された撮影条件を撮影装置10に対して送信し、撮影装置10の送受信部11は、通信端末90から送信されたユーザIDと撮影条件を受信する(ステップS302)。
【0197】
記憶・読出部19は、ステップS302で受信したユーザIDと撮影条件を対応付けて設定情報管理DB1001に記憶させる(ステップS303)。
【0198】
通信端末90の受付部92は、ユーザが、ユーザID、機種ID、画像ID、画像処理情報およびアクセス情報を設定する情報を入力することにより、設定された各種情報を受け付ける。画像処理情報は、通信端末側画像処理情報およびサーバ側画像処理情報を含む。記憶・読出部99は、受付部92が受け付けたユーザID、機種ID、および通信端末側処理情報を対応付けて設定情報管理DB9001に記憶させる(ステップS304)。
【0199】
受付部92は、送信元装置としての通信端末90側で実行する第1の画像処理と、送信先装置としてのサーバ50側で実行する第2の画像処理を示す第2の処理情報を対応付けて設定する設定手段の一例である。
【0200】
送受信部91は、ユーザIDと、ステップS304で設定された通信端末側画像処理情報を除く各種情報をサーバ50に対して送信し、サーバ50の送受信部51は、通信端末90から送信されたユーザIDと各種情報を受信する(ステップS305)。
【0201】
記憶・読出部59は、ステップS5で受信したユーザIDと各種情報を対応付けて設定情報管理DB5001に記憶させる(ステップS306)。
【0202】
撮影制御部13は、所定の条件をトリガーとして、記憶・読出部59によりユーザIDを検索キーとして設定情報管理DB1001から撮影条件を読み出して、静止画撮影部15または動画撮影部14により、静止画または動画を撮影し、記憶・読出部19は、撮影した静止画または動画を示す撮影画像を画像IDに対応付けて画像管理DB1002に記憶させる(ステップS307)。
【0203】
撮影装置10の送受信部11は、ステップS307で撮影した撮影画像とその画像IDをユーザIDおよび機種IDと対応付けて通信端末90に送信し、通信端末90の送受信部91は、撮影装置10から送信されたユーザID、機種ID、撮影画像および画像IDを受信する(ステップS308)。
【0204】
画像処理部94は、記憶・読出部99により、ステップS308で受信したユーザIDおよび機種IDを検索キーとして設定情報管理DB9001から通信端末側画像処理情報を読み出して、ステップS308で受信した撮影画像に対して、通信端末側画像処理情報で示される画像処理を実行し、記憶・読出部99は、画像処理部94により画像処理が実行された処理画像を画像IDに対応付けて画像管理DB9002に記憶させる(ステップS309)。
【0205】
送受信部91は、ユーザID、機種ID、ステップS309で画像処理が実行された処理画像とその画像IDをサーバ50に送信し、サーバ50の送受信部51は、通信端末90から送信されたユーザID、機種ID、処理画像および画像IDを受信する(ステップS310)。
【0206】
ステップS311~S315の処理は、
図18で説明したステップS14~S18の処理と同様である。
【0207】
図28は、本実施形態の第4の変形例に係る設定情報管理テーブルの一例を示す概念図である。
【0208】
図28(a)は、
図13に示したサーバ50の記憶部5000に構築された設定情報管理DB5001を構成する設定情報管理テーブルを示し、
図26(a)に示される設定情報管理テーブルと同様に構成される。
【0209】
図28(b)は、
図13に示した撮影装置10の記憶部1000に構築された設定情報管理DB1001を構成する設定情報管理テーブルを示し、
図26(b)に示される設定情報管理テーブルと同様に構成される。
【0210】
図28(c)は、
図13に示した通信端末90の記憶部9000に構築された設定情報管理DB9001を構成する設定情報管理テーブルを示す。
【0211】
設定情報管理DB9001を構成する設定情報管理テーブルでは、ユーザID、機種IDおよび画像IDに関連付けて、通信端末側処理情報およびサーバ側画像処理情報が管理されている。
【0212】
図28に示す第4の変形例に係る処理は、
図27に示した第3の変形例のシーケンス図と同様であるが、
図27のステップS304において、記憶・読出部99は、受付部92が受け付けたユーザID、機種ID、および通信端末側処理情報に加えて、受付部92が受け付けた画像IDおよびサーバ側画像処理情報を対応付けて設定情報管理DB9001に記憶させる。
【0213】
記憶・読出部99は、送信元装置としての通信端末90側で実行する第1の画像処理と、送信先装置としてのサーバ50側で実行する第2の画像処理を示す第2の処理情報を対応付けて設定する設定手段の一例である。
【0214】
図29は、本実施形態の第5の変形例に係る設定情報管理テーブルの一例を示す概念図である。
【0215】
図29(a)は、
図13に示したサーバ50の記憶部5000に構築された設定情報管理DB5001を構成する設定情報管理テーブルを示し、
図26(a)に示される設定情報管理テーブルに加えて、通信端末側画像処理情報を記憶して管理する。
【0216】
設定情報管理テーブルは、サーバ50の受付部52に対して入力された情報や、通信端末90以外の外部端末から送信されて送受信部51が受信した情報等に基づき、記憶・読出部59により、
図29(a)に示す各種情報を記憶して管理する。
【0217】
記憶・読出部59は、送信元装置としての通信端末90側で実行する第1の画像処理と、送信先装置としてのサーバ50側で実行する第2の画像処理を示す第2の処理情報を対応付けて設定する設定手段の一例である。
【0218】
図29(b)は、
図13に示した撮影装置10の記憶部1000に構築された設定情報管理DB1001を構成する設定情報管理テーブルを示し、
図26(b)に示される設定情報管理テーブルと同様に構成される。
【0219】
図29(c)は、
図13に示した通信端末90の記憶部9000に構築された設定情報管理DB9001を構成する設定情報管理テーブルを示し、
図26(c)に示される設定情報管理テーブルと同様に構成される。
【0220】
図30は、本実施形態第5の変形例に係る処理の一例を示すシーケンス図である。
【0221】
通信端末90の受付部92は、ユーザがユーザIDと、撮影条件を設定する情報を入力することにより、設定された情報を受け付ける(ステップS401)。
【0222】
送受信部91は、ユーザIDと、ステップS401で設定された撮影条件を撮影装置10に対して送信し、撮影装置10の送受信部11は、通信端末90から送信されたユーザIDと撮影条件を受信する(ステップS402)。
【0223】
記憶・読出部19は、ステップS402で受信したユーザIDと撮影条件を対応付けて設定情報管理DB1001に記憶させる(ステップS403)。
【0224】
通信端末90の送受信部91は、所定の条件をトリガーとして、ユーザIDおよび機種IDをサーバ50に送信し、サーバ50の送受信部51は、通信端末90から送信されたユーザIDおよび機種IDを受信する(ステップS405)。
【0225】
記憶・読出部59は、ステップS405で受信したユーザIDおよび機種IDを検索キーとして設定情報管理DB5001から通信端末側画像処理情報を読み出す(ステップS406)。送受信部51は、ステップS406で読み出した通信端末側画像処理情報をユーザID、機種IDと対応付けて通信端末90に送信し、通信端末90の送受信部91は、サーバ50から送信されたユーザID、機種IDおよび通信端末側画像処理情報を受信する(ステップS407)。
【0226】
記憶・読出部99は、ステップS407で受信したユーザID、機種IDと撮影装置側画像処理情報を対応付けて設定情報管理DB9001に記憶させる(ステップS408)。
【0227】
ステップS409~S417の処理は、
図27で説明したステップS307~S315の処理と同様である。
【0228】
以上説明したように、本発明の一本実施形態に係る、送信元装置の一例である撮影装置10または通信端末90や、送信先装置の一例であるサーバ50は、例えば不動産物件を管理または販売する不動産業者や、不動産物件を紹介する不動産紹介業者や、建築物等の構造物を管理する建築業者などが利用可能に構成されているが、本発明の適用はこれらに限られない。
【0229】
例えば、銀行や、小売業者が商品を販売する小売店、自治体が管理する道路や市街地などを監視対象とした監視カメラシステムに適用することも可能である。この場合、
図1を例にすると、銀行や小売店などの監視対象において、撮影装置10を天井や壁などの所定の監視位置に設置する。
【0230】
道路や市街地を監視対象とする場合は、撮影装置10を歩道橋や電柱などの構造物に設置する。そして、サーバ50は画像を管理する画像管理業者が有してもよく、銀行や小売店または自治体が有してもよい。
【0231】
外部サーバ70は、監視対象の警備を行う警備業者が有し、通信ネットワーク100を介してサーバ50と通信可能に構成される。通信端末90は、銀行や小売店または自治体が有してもよく、警備業者が有してもよく、両者が有してもよい。
【0232】
ここで、監視対象を監視する用途の場合、撮影画像の共有にリアルタイム性(即時性)が求められる場合がある。このとき、撮影装置10側では、最低限、利用者が画像を確認できるレベルである比較的負荷の少ない画像処理を実行し、サーバ50へ共有する。
【0233】
サーバ50において、例えば物体検出処理など、比較的負荷の大きい画像処理を実行する。こうすることで、撮影装置10はサーバ50に素早く画像を共有することができ、監視カメラシステムに適用する場合において、撮影画像を効率的に活用することが可能となる。
【0234】
●まとめ●
[第1態様]
以上説明したように、本発明の一実施形態に係る情報処理装置の一例であるサーバ50は、送信元装置の一例である撮影装置10または通信端末90から送信された、被写体を撮影した撮影画像に対して画像処理設定情報に基づく第1の画像処理が実行された処理画像を受信する受信手段の一例である送受信部51と、処理画像に対して、画像処理設定情報に基づく第2の画像処理を、実行する画像処理部57と、を備える。
【0235】
これにより、撮影装置10または通信端末90と、サーバ50で、画像処理を適切に役割分担して実行することができる。
【0236】
具体的には、第1の画像処理と第2の画像処理で、処理が重複しないようにしたり、低負荷の処理を第1の画像処理とするとともに高負荷の処理を第2の画像処理としたり、することができる。
【0237】
[第2態様]
第1態様において、画像処理設定情報は、撮影装置10または通信端末90で実行される第1の画像処理と、サーバ50で実行される第2の画像処理が設定された情報である。
【0238】
画像処理設定情報は、撮影装置10または通信端末90とサーバ50の利用開始前に、設計、出荷、リリース等の際に事前設定されてもよく、撮影装置10または通信端末90とサーバ50を利用開始時または利用中に、ユーザが任意に設定、変更可能であってもよい。
【0239】
[第3態様]
第1態様または第2態様において、サーバ50は、第1の画像処理および第2の画像処理を対応付けて設定する設定手段の一例である記憶・読出部59を備える。
【0240】
これにより、サーバ50は、第1の画像処理および第2の画像処理を対応付けて設定することができる。
【0241】
[第4態様]
第3態様において、サーバ50は、撮影装置10または通信端末90に対して、第1の画像処理を示す第1の処理情報を送信する送信手段の一例である送受信部51を備える。
【0242】
これにより、サーバ50側で設定した第1の画像処理を、撮影装置10または通信端末90側で実行することができる。
【0243】
[第5態様]
第1態様または第2態様において、送受信部51は、さらに、送信元装置の一例である撮影装置10および通信端末90の何れか、または外部装置の一例である通信端末90から、第2の処理情報を受信する。
【0244】
これにより、撮影装置10または通信端末90側で設定した第2の画像処理を、サーバ50側で実行することができる。
【0245】
[第6態様]
第1~第5態様の何れかにおいて、送信元装置は、被写体を撮影する撮影装置10である。
【0246】
これにより、撮影装置10とサーバ50で、画像処理を適切に役割分担して実行することができる。
【0247】
[第7態様]
本発明の一実施形態に係る情報処理装置の一例である撮影装置10または通信端末90は、被写体を撮影した撮影画像に対して画像処理設定情報に基づく第1の画像処理を実行する画像処理部16または94と、送信先装置の一例であるサーバ50に対して、第1の画像処理が実行された処理画像を送信する送信手段の一例である送受信部11または91と、を備え、第1の画像処理は、処理画像に対してサーバ50側で実行する画像処理設定情報に基づく第2の画像処理に対応づけられている。
【0248】
[第8態様]
第7態様において、画像処理設定情報は、撮影装置10または通信端末90で実行される第1の画像処理と、サーバ50で実行される第2の画像処理が設定された情報である。
【0249】
[第9態様]
第7態様または第8態様において、撮影装置10または通信端末90は、第1の画像処理および第2の画像処理を対応付けて設定する設定手段の一例である記憶・読出部19または受付部92を備える。
【0250】
これにより、撮影装置10または通信端末90は、第1の画像処理および第2の画像処理を対応付けて設定することができる。
【0251】
[第10態様]
第9態様において、送受信部11または91は、さらに、サーバ50に対して、第2の画像処理を示す第2の処理情報を送信する。
【0252】
これにより、撮影装置10または通信端末90側で設定した第2の画像処理を、サーバ50側で実行することができる。
【0253】
[第11態様]
第7態様または第8態様において、撮影装置10は、送信先装置の一例であるサーバ50、または外部装置の一例である通信端末90から、第1の画像処理を示す第1の処理情報を受信する受信手段の一例である送受信部11を備える。
【0254】
これにより、サーバ50または通信端末90側で設定した第1の画像処理を、撮影装置10で実行することができる。
【0255】
[第12態様]
第7~第11態様の何れかにおいて、情報処理装置は、被写体を撮影する撮影装置10である。
【0256】
これにより、撮影装置10とサーバ50で、画像処理を適切に役割分担して実行することができる。
【0257】
[第13態様]
本発明の一実施形態に係るサーバ50により実行される情報処理方法は、撮影装置10または通信端末90から送信された、被写体を撮影した撮影画像に対して画像処理設定情報に基づく第1の画像処理が実行された処理画像を受信する受信ステップと、画像処理設定情報に基づく第2の画像処理を、処理画像に対して実行する画像処理ステップと、を実行する。
【0258】
[第14態様]
本発明の一実施形態に係る撮影装置10または通信端末90により実行される情報処理方法は、被写体を撮影した撮影画像に対して画像処理設定情報に基づく第1の画像処理を実行する画像処理ステップと、サーバ50に対して、第1の画像処理が実行された処理画像を送信する送信ステップと、を実行し、第1の画像処理は、処理画像に対して送信先装置側で実行する画像処理設定情報に基づく第2の画像処理に対応づけられている。
【0259】
[第15態様]
本発明の一実施形態に係るプログラムは、第13態様または第14態様の情報処理方法をコンピュータに実行させる。
【0260】
[第16態様]
本発明の一実施形態に係る情報処理システムの一例である画像処理システム1は、撮影装置10または通信端末90と、撮影装置10または通信端末90と通信可能なサーバ50と、を備え、撮影装置10または通信端末90は、被写体を撮影した撮影画像に対して画像処理設定情報に基づく第1の画像処理を実行する画像処理部16または94と、サーバ50に対して、第1の画像処理が実行された処理画像を送信する送受信部11または91と、を備え、サーバ50は、撮影装置10または通信端末90から送信された、処理画像を受信する送受信部51と、処理画像に対して、画像処理設定情報に基づく第2の画像処理を実行する画像処理部57と、を備える。
【0261】
●補足●
上記で説明した実施形態の各機能は、一または複数の処理回路によって実現することが可能である。ここで、本実施形態における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウエアによって各機能を実行するようプログラミングされたプロセッサ、並びに上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)、SOC(System on a chip)、GPU(Graphics Processing Unit)および従来の回路モジュール等のデバイスを含むものとする。
【0262】
これまで本発明の一実施形態に係る情報処理装置、情報処理方法、プログラムおよび情報処理システムについて説明してきたが、本発明は、上述した実施形態に限定されるものではなく、他の実施形態の追加、変更または削除等、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
【符号の説明】
【0263】
1 画像処理システム(情報処理システムの一例)
10 撮影装置(情報処理装置、送信元装置の一例)
11 送受信部(送信手段、受信手段の一例)
12 操作受付部
13 撮影制御部(撮影制御手段の一例)
14 動画撮影部
15 静止画撮影部
16 画像処理部
19 記憶・読出部(設定手段の一例)
20 支持部材
50 サーバ(情報処理装置、送信先装置の一例)
51 送受信部(受信手段、送信手段の一例)
57 画像処理部
58 パス生成部(パス生成手段の一例)
59 記憶・読出部(設定手段の一例)
60 画像処理部(画像処理手段の一例)
90 通信端末(情報処理装置、送信元装置の一例)
91 送受信部(送信手段の一例)
92 受付部(設定手段の一例)
93 表示制御部(表示制御手段の一例)
94 画像処理部
906 ディスプレイ(表示部の一例)