(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024173424
(43)【公開日】2024-12-12
(54)【発明の名称】情報処理装置、情報処理方法、撮像システム、及びプログラム
(51)【国際特許分類】
H04N 23/61 20230101AFI20241205BHJP
H04N 23/695 20230101ALI20241205BHJP
H04N 23/69 20230101ALI20241205BHJP
【FI】
H04N23/61
H04N23/695
H04N23/69
【審査請求】未請求
【請求項の数】13
【出願形態】OL
(21)【出願番号】P 2023091836
(22)【出願日】2023-06-02
(71)【出願人】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】110003281
【氏名又は名称】弁理士法人大塚国際特許事務所
(72)【発明者】
【氏名】樋口 州吾
【テーマコード(参考)】
5C122
【Fターム(参考)】
5C122DA21
5C122EA63
5C122EA66
5C122EA67
5C122FA01
5C122FA06
5C122FA18
5C122FD10
5C122FE05
5C122FH11
5C122GD06
5C122HB01
(57)【要約】
【課題】ユーザの意図する視覚効果を有する撮像画像を提供する。
【解決手段】複数の撮像装置による撮像画像に基づいて被写体の三次元位置を推定する。三次元位置の推定結果の信頼度を評価する。評価した信頼度に基づいて、複数の撮像装置に含まれる撮像装置の制御を行う。
【選択図】
図7
【特許請求の範囲】
【請求項1】
複数の撮像装置による撮像画像に基づいて被写体の三次元位置を推定する推定手段と、
前記三次元位置の推定結果の信頼度を評価する評価手段と、
前記信頼度に基づいて、前記複数の撮像装置に含まれる撮像装置の制御を行う制御手段と、
を備えることを特徴とする、情報処理装置。
【請求項2】
前記評価手段は、前記被写体の撮像中の前記撮像装置の移動速度、前記被写体を撮像する撮像装置の画角の広さ、又は前記被写体を撮像範囲に含む撮像装置の数に基づいて、前記信頼度を評価することを特徴とする、請求項1に記載の情報処理装置。
【請求項3】
前記評価手段は、前記被写体の撮像中の前記撮像装置の移動速度が小さいほど信頼度が高くなるように、前記信頼度を評価することを特徴とする、請求項2に記載の情報処理装置。
【請求項4】
前記評価手段は、前記撮像装置の画角が広いほど信頼度が高くなるように、前記信頼度を評価することを特徴とする、請求項2に記載の情報処理装置。
【請求項5】
前記評価手段は、前記被写体を撮像範囲に含む撮像装置の数が多いほど前記信頼度が高くなるように、前記信頼度を評価することを特徴とする、請求項2に記載の情報処理装置。
【請求項6】
前記制御手段は、前記信頼度が所定の閾値よりも小さい場合に、前記信頼度が上昇するように前記撮像装置の制御を行うことを特徴とする、請求項1に記載の情報処理装置。
【請求項7】
前記制御手段は、前記信頼度が所定の閾値よりも小さい場合に、前記被写体を撮像している移動中の撮像装置の移動速度が小さくなるように前記撮像装置を制御することを特徴とする、請求項6に記載の情報処理装置。
【請求項8】
前記制御手段は、前記信頼度が所定の閾値よりも小さい場合に、前記被写体を撮像している撮像装置の画角が広くなるように前記撮像装置を制御することを特徴とする、請求項6に記載の情報処理装置。
【請求項9】
前記制御手段は、前記信頼度が所定の閾値よりも小さい場合に、前記複数の撮像装置のうちの、前記被写体を撮像範囲に含む撮像装置の数が増えるように前記撮像装置を制御することを特徴とする、請求項6に記載の情報処理装置。
【請求項10】
前記制御手段は、前記信頼度が所定の閾値よりも小さい場合に、前記被写体を撮像している撮像装置の被写界深度が広くなるように前記撮像装置を制御することを特徴とする、請求項6に記載の情報処理装置。
【請求項11】
複数の撮像装置による撮像画像に基づいて被写体の三次元位置を推定する工程と、
前記三次元位置の推定結果の信頼度を評価する工程と、
前記信頼度に基づいて、前記複数の撮像装置に含まれる撮像装置の制御を行う工程と、
を備えることを特徴とする、情報処理方法。
【請求項12】
複数の撮像装置による撮像画像に基づいて被写体の三次元位置を推定する推定手段と、
前記三次元位置の推定結果の信頼度を評価する評価手段と、
前記信頼度に基づいて、前記複数の撮像装置に含まれる撮像装置の制御を行う制御パラメータを生成する生成手段と、
前記制御パラメータを前記撮像装置に送信する送信手段と、
を備える情報処理装置、及び
前記制御パラメータを受信する受信手段と、
前記制御パラメータに基づいて撮像の制御を行う制御手段と、
を備える前記撮像装置
を備えることを特徴とする、撮像システム。
【請求項13】
コンピュータを、請求項1乃至10の何れか一項に記載の情報処理装置の各手段として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報処理装置、情報処理方法、撮像システム、及びプログラムに関する。
【背景技術】
【0002】
近年、無線又は有線のネットワークを介して接続された複数台のカメラを用いて、スポーツなどのイベントを撮像して配信する映像制作システムが普及している。最近の映像制作においては、視覚効果の高い映像が起用される機会が増加しており、例えば、注目被写体にピントを合わせ、背景を強くぼかしたような被写界深度の浅い映像が注目されている。被写界深度の浅い映像を撮像するためには、カメラから被写体までの距離を正確に計測し、光学的なレンズの制御(カメラの焦点位置又は絞り口径などの制御)により、被写界深度の決定が行われる。また、被写界深度の浅い画像を出力するための別の方法として、撮像された映像に対して背景をぼかすような画像処理を行い、被写界深度の浅い映像をシミュレーションする技術が考案されている。
【0003】
特許文献1では、画角内の注目被写体までの距離を計測し、計測した全ての注目被写体のボケ量が所定の値以内になるように、焦点位置及び絞り口径を調整する技術が開示されている。また、特許文献2では、カメラに備えた深度センサの出力に基づいて背景のボケ効果などの深度効果をシミュレートする技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2007-199171号公報
【特許文献2】特開2022-133303号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ユーザの意図する視覚効果を有する撮像画像を提供する。
【0006】
本開示は、ユーザの意図する視覚効果を有する撮像画像を提供することを目的とする。
【課題を解決するための手段】
【0007】
本開示の目的を達成するために、例えば、一実施形態に係る情報処理装置は以下の構成を備える。すなわち、複数の撮像装置による撮像画像に基づいて被写体の三次元位置を推定する推定手段と、前記三次元位置の推定結果の信頼度を評価する評価手段と、前記信頼度に基づいて、前記複数の撮像装置に含まれる撮像装置の制御を行う制御手段と、を備える。
【発明の効果】
【0008】
ユーザの意図する視覚効果を有する撮像画像を提供する。
【図面の簡単な説明】
【0009】
【
図1】撮像システムにより撮像を行う状況の一例を示す図。
【
図2】撮像装置及び情報処理装置のハードウェア構成の一例を示すブロック図。
【
図3】撮像装置及び情報処理装置の機能構成の一例を示すブロック図。
【
図4】撮像装置及び情報処理装置が行う処理の一例を示すフローチャート。
【
図6】情報処理装置による解析処理の一例を示すフローチャート。
【
図7】信頼度の推定に用いる各種情報について説明するための図。
【
図8】情報処理装置による信頼度の評価処理の一例を示すフローチャート。
【
図9】撮像装置の制御内容の設定処理の一例を示すフローチャート。
【
図10】撮像装置による制御処理の一例を示すフローチャート。
【
図11】信頼度を上昇させるための制御を説明するための図。
【発明を実施するための形態】
【0010】
以下、添付図面を参照して実施形態を詳しく説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
【0011】
[第1の実施形態]
本実施形態に係る情報処理装置を含む撮像システムは、複数の撮像装置及び情報処理装置を含む。本実施形態に係る情報処理装置は、複数の撮像装置による撮像画像に基づいて被写体の三次元位置を推定し、推三次元位置の推定結果の信頼度を評価する。次いで情報処理装置は、信頼度に基づいて、システム内の撮像装置の制御を行う。以下、そのような撮像システムの一例について、
図1を参照して説明を行う。
【0012】
図1は、本実施形態に係る撮像システムにより撮像を行う状況の一例を示す図である。
図1においては、複数の被写体107~110が存在するエリア113を取り囲むように複数の撮像装置101~105が配置されており、撮像装置101~105は情報処理装置106と有線及び/又は無線のネットワークを介して接続されている。撮像装置101~105の位置及び姿勢は、ユーザ操作に基づいて制御されてもよく、情報処理装置106からの指示に基づいて制御されてもよい。本実施形態に係る撮像装置101~105は、情報処理装置106からの指示に基づいて撮像を開始し、撮像した画像(撮像画像)は上記のネットワークを介して情報処理装置106に送信される。本実施形態においては、撮像装置101~105として同一種類の撮像装置を用いるものとし、これらを区別せずに単に「撮像装置」と呼ぶ場合がある。また被写体107~110についても同様に、これらを区別せずに単に「被写体」と呼ぶ場合がある。
【0013】
情報処理装置106は、PC(パーソナルコンピュータ)、スマートフォン、又はタブレット端末装置などのコンピュータ装置である。情報処理装置106は、撮像装置101~105による撮像画像を用いて、被写体の三次元位置を推定する。本実施形態に係る情報処理装置106は、被写体の位置を推定する公知の技術(例えば多視点映像処理技術)により、例えば後述する式(1)により被写体の位置を推定することができる。ここでは、情報処理装置106は、被写体の三次元位置の推定として、撮像装置から被写体までの距離を算出することができる。推定された被写体の位置は、情報処理装置106が有する表示画面に表示されてもよく、ネットワークを介して接続された外部の装置で表示されてもよい。
【0014】
また、
図1においては遮蔽物111~112がエリア113に設置されており、各撮像装置の撮像範囲に被写体が含まれるか否かに差が生じている。
【0015】
なお、
図1は、撮像システムにおいて、以下の説明で参照する主要な構成を示したものであり、撮像システムは
図1に示した構成に加えてさらなる装置を含んでもよい。例えば、撮像システムは、データ通信を中継する装置、又は撮像装置101~105により撮像された撮像画像群を格納するためのサーバ装置などの装置を含んでもよい。
【0016】
次に、本実施形態に係る撮像システムにおける、撮像装置101及び情報処理装置106のハードウェア構成の一例について、
図2のブロック図を用いて説明する。
図2においては、撮像装置101~105及び情報処理装置106は何れもLANに接続されているものとしているが、それぞれの装置間をつなぐネットワークの形態には様々な形態があり、特定の形態には限定されない。
【0017】
まず、撮像装置101~105のハードウェア構成例について説明する。本実施形態においては撮像装置101~105のハードウェアはいずれも同じ構成であるものとし、ここでは、撮像装置101のハードウェア構成例についてのみ説明を行う。撮像装置101は、CPU201、メインメモリ202、記憶部203、操作部204、表示部205、撮像部206、及び通信部207を備えている。撮像装置101が有する各機能部はバス208により互いに通信可能に接続されている。
【0018】
CPU201は、メインメモリ202に格納されているコンピュータプログラム及びデータを用いて各種の処理を実行する。CPU201は、撮像装置101全体の動作制御を行い、撮像装置101が行うものとして以下に説明する各種の処理を実行又は制御する。
【0019】
メインメモリ202は、記憶部203からロードされたコンピュータプログラム及びデータ、通信部207により外部から受信したデータ、又は撮像部206が撮像した撮像画像などの各種データを格納するためのエリアを有する。さらにメインメモリ202は、CPU201が各種の処理を実行する際に用いるワークエリアを有する。このようにメインメモリ202は、各種処理に必要なエリアを適宜提供することができる。
【0020】
記憶部203には、OS(オペレーティングシステム)、並びに撮像装置101が行うものとして説明する各種の処理をCPU201に実行又は制御させるためのコンピュータプログラム及びデータなどが格納されている。記憶部203に保存されているコンピュータプログラム及びデータは、CPU201による制御に従って適宜メインメモリ202にロードされ、CPU201による処理対象となる。記憶部203には、例えば、シリコンディスクなどの不揮発性メモリを適用することができる。
【0021】
操作部204は、ボタン、モードダイヤル、スイッチ、レバー又はタッチパネル画面などを含むユーザインターフェースであり、ユーザの操作を受け付ける。操作部204は、受け付けたユーザの操作に応じた指示をCPU201に対して入力することができる。
【0022】
表示部205は、液晶画面、タッチパネル画面などの画面であり、CPU201による処理結果を画像又は文字などにより表示する。なお、表示部205がタッチパネル画面を有する場合には、表示部205が操作部204を兼ねるものとして、タッチパネル画面へのユーザ入力がCPU201に通知される。
【0023】
撮像部206は、静止画像又は動画像を撮像可能な構成を有し、例えば、光学系、シャッター若しくは撮像センサなどを有する。撮像部206は、CPU201からの指示に応じて、フォーカスを合わせる、シャッターを開く/閉じる、若しくは絞りを調節するなど、光学系又は撮像センサの制御を行う。
【0024】
通信部207は、Ethernet又はIEEE802.11などの通信規格に準拠したデバイスであり、外部装置との通信を行う。撮像装置101は通信部207により外部装置とのデータ通信を行うことができる。
【0025】
次に、情報処理装置106のハードウェア構成例について説明する。情報処理装置106は、CPU209、メインメモリ210、記憶部211、及び通信部212を備えている。情報処理装置106が有する各機能部はバス213により互いに通信可能に接続されている。
【0026】
CPU209は、メインメモリ210に格納されているコンピュータプログラム及びデータを用いて各種の処理を実行する。CPU209は、情報処理装置106全体の動作制御を行うとともに、情報処理装置106が行うものとして以下に説明する各種の処理を実行又は制御する。
【0027】
メインメモリ210は、記憶部211からロードされたコンピュータプログラム及びデータ、又は通信部212により外部から受信したデータなどを格納するためのエリアを有する。さらにメインメモリ210は、CPU209が各種の処理を実行する際に用いるワークエリアを有する。このようにメインメモリ210は、各種処理に必要なエリアを適宜提供することができる。
【0028】
記憶部211には、OS、並びに情報処理装置106が行うものとして説明する各種の処理をCPU209に実行又は制御させるためのコンピュータプログラム及びデータなどが格納されている。記憶部211に格納されているコンピュータプログラム及びデータは、CPU209による制御に従って適宜メインメモリ210にロードされ、CPU209による処理対象となる。
【0029】
通信部212は、外部装置とのデータ通信を行うためのデバイスであり、外部装置との通信を行う。情報処理装置106は通信部212により外部装置とのデータ通信を行うことができる。例えば、情報処理装置106は通信部212により、撮像装置101~105に対し、撮像の開始若しくは停止、又はシャッタースピード及び絞り等の変更などの指示を送信してもよく、撮像装置101~105から撮像画像を受信してもよい。
【0030】
本実施形態に係る情報処理装置106(CPU209)は、被写体の位置推定又は信頼度算出をするためのコンピュータプログラムを実行する。情報処理装置106は、撮像装置101~105が同時刻に撮像した撮像画像に基づいて、被写体107~110それぞれの三次元位置を推定し、各撮像装置から見た被写体までの距離を算出する。そして情報処理装置106は、各被写体の三次元位置の推定結果(各被写体までの距離)の信頼度を評価する。信頼度を上昇するような制御パラメータを生成する。本実施形態に係る情報処理装置106は、信頼度に基づいて、例えば信頼度が所定の閾値を下回っている場合に、信頼度が上昇するように撮像装置を制御することができる。
【0031】
図3は、撮像装置101~105及び情報処理装置106のそれぞれの機能構成の一例を示すブロック図である。撮像装置101は、取得部301、送信部302、受信部309、深度制御部310、及び制御部311を備える。また情報処理装置106は、受信部303、解析部304、位置推定部305、信頼度評価部306、パラメータ算出部307、送信部308を備える。撮像装置101が有する各機能部が行う処理については、後述する
図4のフローチャートを参照しながら説明する。以下、情報処理装置106が備える各機能部について説明を行う。
【0032】
受信部303は、撮像装置から撮像画像を受信する。また例えば、受信部303は、撮像装置から、当該撮像装置の制御に用いるカメラパラメータを受信してもよい。本実施形態に係るカメラパラメータは外部パラメータ及び内部パラメータで構成されているパラメータである。外部パラメータは、回転行列と並進行列とで構成されており、カメラの位置及び姿勢を示すパラメータである。また、内部パラメータは、カメラの焦点距離及び光学的中心などを含みカメラの画角又は撮像センサの大きさなどを示すパラメータである。
【0033】
これらのカメラパラメータを算出する処理はキャリブレーションと呼ばれ、撮像装置により撮像前に実施する、又は撮像中に動的に補正するなどにより実現される。例えば、撮像前のキャリブレーションは、チェッカーボードなど特定パターンを撮像した複数枚の画像を用いて取得した三次元の世界座標系の点と、当該点に対応する二次元上の点との対応関係を用いることにより行うことができる。また、撮像中のキャリブレーションは、カメラの動きを計測できる外部センサ又はレンズの制御をしているパラメータなどを用いて、先述の対応関係を解きなおすことで実行することができる。また、キャリブレーションは撮像装置101で実行してもよく、情報処理装置106で実行してもよい。情報処理装置でキャリブレーションを実行する場合は、カメラの動きを計測できる外部センサの値やレンズを制御しているパラメータをカメラパラメータとして取得すればよい。
【0034】
解析部304は、撮像装置と被写体との関係を解析する。解析部304による処理は
図6及び
図7を参照して後述する。
【0035】
位置推定部305は、被写体の三次元位置を推定する。位置推定部305は、複数の撮像装置による撮像画像(例えば、受信部303が受信した画像)に基づいて、世界座標系における被写体の三次元位置を推定することができる。また位置推定部305は、推定した被写体の三次元位置に基づいて、各撮像装置からの被写体までの距離を算出することができる。
【0036】
位置推定部305は、公知の任意の手法により、複数の撮像画像から被写体の三次元位置を推定することができる。例えば位置推定部305は、各撮像画像から被写体を抽出したシルエット画像を生成し、三次元空間内の共通領域を算出する視体積交差法により被写体の三次元位置を推定してもよい。また例えば、位置推定部305は、画像間でマッチングする特徴点の座標値に基づいて三角測量の原理を用いて被写体までの距離を推定するMVS(Multi View Stereo)又はSfM(Structure from Motion)などの手法により三次元位置を推定してもよい。これらの処理は公知の技術により可能であるため、詳細な説明は省略する。
【0037】
信頼度評価部306は、推定した三次元位置の信頼度を評価する。以下、撮像装置と被写体との三次元位置、及び被写体の三次元位置の信頼度について説明を行う。本実施形態においては、世界座標系とは、実空間における1点を原点とし、当該原点で互いに直交する3軸をそれぞれx軸、y軸、z軸とする直交座標系である。一例として、本実施形態に係る世界座標系は、
図1に示したエリア113の中心位置を原点とし、エリア113の短手の辺に沿う軸をx軸、該エリアの長手の辺に沿う軸をy軸、該エリアの面に垂直な方向に沿う軸をz軸とする直交座標系であるものとする。また以下においては、撮像装置の三次元位置を原点とし、当該撮像装置の三次元姿勢における3成分に対応する軸をそれぞれx軸、y軸、z軸とする直交座標系(撮像装置の位置姿勢を基準とする直交座標系)をカメラ座標系と称する。また、撮像装置による撮像画像の中心位置を原点とし、当該撮像画像の水平方向をx軸、垂直方向をy軸とする直交座標系を画像座標系と称する。
【0038】
次に、世界座標系とカメラ座標系と画像座標系との関係を
図5に示す。Owは世界座標系の原点を、Xw,Yw,Zwはそれぞれ世界座標系におけるx軸、y軸、z軸を示す。Ocはカメラ座標系の原点、Xc,Yc,Zcはそれぞれカメラ座標系におけるx軸、y軸、z軸を示す。Oiは画像座標系の原点、X
i,Y
iはそれぞれ画像座標系におけるx軸、y軸を示す。ここで、位置推定部305は、例えば以下の式(1)に基づいて、世界座標系における三次元位置Pw=(Xw,Yw,Zw)をカメラ座標系における三次元位置Pc=(Xc,Yc,Zc)に変換する。
【数1】
【0039】
ここで、Rは各軸周りの回転行列の合成であり、Tは並進行列である。また、カメラ座標系における三次元位置Pcを、ピンホールカメラモデルに従い、画像座標系における二次元位置Pi=(Xi,Yi)に変換する式は、例えば以下の式(2)のように表される。
【数2】
【0040】
ここで、λは画像のスケール係数、fは焦点距離、(sx,sy)はそれぞれ、x軸方向の画素の大きさとy軸方向の画素の大きさとを示す。また、(xco,yco)は画像主点位置、ksは画像平面におけるx軸に対するyの傾きを表すせん断係数である。
【0041】
行列R、Tは、撮像装置の世界座標系における三次元位置及び三次元姿勢を表す外部パラメータ、行列Aは撮像装置の射影特性を表す内部パラメータである。このように、撮像装置と被写体との三次元位置は、カメラパラメータに基づいて、世界座標系、カメラ座標系、及び画像座標系における座標として相互に変換することができる。
【0042】
次に、被写体の位置に関する信頼度について説明する。本実施形態に係る信頼度評価部306は、上述のように、カメラパラメータを用いて画像座標系における撮像画像の座標値を世界座標系における三次元位置に変換する手法により、被写体の三次元位置の推定を行う。そのため、カメラパラメータに誤差が生じると、三次元位置の推定精度も低下することが考えられる。例えば、撮像装置を動かしながら撮像を行う場合、又は望遠の画角で撮像を行う場合などには、カメラパラメータに誤差が生じやすくなることが考えられる。また他にも、被写体を撮像している撮像装置の位置関係や台数によっても、所望の推定精度の三次元位置が得られないことが考えられる。
【0043】
このように、本実施形態において被写体の三次元位置の推定の誤差要因(推定誤差要因)として挙げられるのは、撮像装置の移動情報若しくは画角情報、又は被写体を可視できる(撮像範囲に含んでいる)撮像装置の位置関係若しくは台数である。本実施形態では、信頼度評価部306が、これらの推定誤差要因に基づいて、信頼度に対して推定誤差要因が寄与する割合が小さいほど信頼度が高く、そうでない場合は信頼度が低くなるように信頼度の評価を行う。すなわち、例えば、本実施形態に係る信頼度評価部306は、移動情報として、被写体の撮像中の撮像装置の移動速度に基づいて、当該被写体の三次元位置の推定結果の信頼度を評価することができる。また例えば、信頼度評価部306は、画角情報として、被写体を撮像する撮像装置の画角の広さに応じて、当該被写体の三次元位置の推定結果の信頼度を評価することができる。また例えば、信頼度評価部306は、撮像装置の位置関係として、被写体を撮像する複数の撮像装置について、各撮像装置の位置及び姿勢の関係に基づいて、当該被写体の三次元位置の推定結果の信頼度を評価することができる。
【0044】
また例えば、信頼度評価部306は、被写体に対して、撮像装置が当該被写体を撮像範囲に含むか否かに基づいて、当該被写体の三次元位置の推定結果の信頼度を評価することができる。とくに、信頼度評価部306は、被写体を撮像範囲に含む撮像装置の数に応じて、当該被写体の三次元位置の推定結果の信頼度を評価してもよい。
【0045】
なお、推定誤差要因は上述の例には限定されず、被写体の位置の推定の精度を下げる要因となり得る情報であれば任意のものを採用することが可能である。例えば、被写体が移動している状態で撮像を行う場合は、撮像画像中の被写体がぼやけてしまい、その被写体の三次元位置の推定精度が低下すると考えられる。そのため信頼度評価部306は、推定誤差要因に被写体の移動量を加えた上で、信頼度を算出してもよい。
【0046】
パラメータ算出部307及び送信部308は、信頼度評価部306により評価された信頼度に基づいて撮像装置の制御を行う。ここでは、パラメータ算出部307が、信頼度に基づいて、撮像装置を制御するための制御パラメータを生成する。制御パラメータは、撮像装置の移動速度、画角、又は表示画面の制御内容を示す情報である。制御パラメータの生成処理については
図9を参照して後述する。送信部308は、パラメータ算出部307が生成した制御パラメータを撮像装置に送信することにより、制御パラメータに応じた撮像装置の制御を行う。
【0047】
図4は、本実施形態に係る撮像システムにおいて撮像装置101と情報処理装置106とにより実行される処理の一例を示すフローチャートである。S401~S402及びS409~S411は撮像装置101により、S403~S408は情報処理装置106により実行される。なお、以下において説明する処理においては、
図3に示す各機能部が処理の主体であるものとして説明する。しかしながら、実際には撮像装置101~105の機能部の機能をCPU201に実現させるためのコンピュータプログラムをCPU201が実行することで、撮像装置101~105の機能部の機能を実現させる。また、情報処理装置106の機能部の機能をCPU209に実現させるためのコンピュータプログラムをCPU209が実行することで、情報処理装置106の機能部の機能を実現させる。なお、
図3に示した機能部はハードウェアで実装しても構わない。
【0048】
S401で取得部301は、撮像画像及びカメラパラメータを取得する。撮像画像は、撮像部206によって撮像された画像データであり、静止画像であってもよく、動画像における各フレームの画像であってもよい。また、カメラパラメータは、上述のキャリブレーションにより取得可能である。S402で送信部302は、撮像画像及びカメラパラメータを情報処理装置106へ送信する。
【0049】
S403で受信部303は、すべての撮像装置から撮像画像とカメラパラメータを受信する。S404で解析部304は、撮像装置と被写体との関係を解析する。撮像装置と被写体との関係の解析処理の詳細については後述する。S405で位置推定部305は、被写体の位置を推定する。
【0050】
S406で信頼度評価部306は、被写体の位置に関する信頼度を算出する。S407でパラメータ算出部307は、S406で算出した信頼度に基づいて制御パラメータを生成する。S408で送信部308は、被写体の位置と信頼度及び制御パラメータを撮像装置へ送信する。
【0051】
S409で受信部309は、情報処理装置106から被写体の位置、信頼度及び制御パラメータを受信する。S410で深度制御部310は、注目被写体の位置と信頼度に基づいて被写界深度を制御する。深度の制御処理の詳細については後述する。S411で制御部311は、制御パラメータに基づいて撮像装置を制御し、
図4の処理を終了する。
【0052】
[撮像装置と被写体との関係の解析処理]
ここで、S404で行われる撮像装置と被写体との関係を解析する処理の詳細について説明する。
図6は、解析部304によって行われる処理の一例を示すフローチャートである。
【0053】
S601で解析部304は、注目被写体を特定する情報を取得する。注目被写体は、複数の被写体のうちの処理対象とされる被写体であり、ユーザが任意のタイミングで指定及び変更することができるものとする。すなわち、注目被写体を特定する情報は、複数の被写体のうちの処理対象とする被写体を特定する情報であり、情報処理装置106により管理されているものとする。例えば、撮像装置は自身が撮像した撮像画像を表示部205に表示して、当該撮像画像中の被写体のうち以降の処理の対象となる注目被写体の選択を受け付ける。ユーザは表示部205の画面上で注目被写体をタッチするなど、操作部204を操作して注目被写体を選択してもよい。そして撮像装置は、この選択された注目被写体を特定するための情報を情報処理装置に送信する。また例えば、情報処理装置106にユーザの情報を登録しておき、携帯端末などから情報処理装置106にログインし、携帯端末上で注目被写体を随時指定できるようにしてもよい。
【0054】
次いで解析部304は、S602~S605を全ての撮像装置について行う。S602で解析部304は、すべての撮像装置に対して処理を開始するため、複数の撮像装置のうち、処理対象とする対象撮像装置を設定する。ここでは、まだS602で処理対象となっていない撮像装置のうちの1つが無作為に対象撮像装置として選択されるものとする。
【0055】
S603で解析部304は、対象撮像装置の撮像画像から被写体の情報を解析する。本実施形態では、解析部304は、それぞれの撮像画像に映っている被写体の識別情報を抽出するものとする。本実施形態においては、被写体の識別情報は、画像中の被写体を特定して抽出した情報であるものとする。解析部304は、公知の被写体検出手法、又は被写体認識手法を用いて画像中から被写体を特定して抽出してもよく、過去フレームの画像から時間的・空間的連続性を考慮した上で被写体を特定して抽出してもよい。また解析部304は、この識別情報から、各被写体について、当該被写体を撮像範囲に含んでいる撮像装置を特定し、その台数を記録してもよい。
【0056】
S604で解析部304は、対象撮像装置のカメラパラメータから推定誤差要因を解析する。本実施形態に係る推定誤差要因は、上述の通り、撮像装置の移動情報又は画角情報などである。解析部304は、S401で取得したカメラパラメータを用いて撮像装置の位置や姿勢を算出し、時間方向の変化量を撮像装置の移動情報とすることができる。また解析部304は、撮像装置の画角情報を、カメラパラメータの外部パラメータから算出できる。
【0057】
S605で解析部304は、S602においてすべての撮像装置を処理対象としたか否かを判定する。全ての撮像装置を処理対象としている場合は
図6の処理が終了し、そうでない場合は処理はS602へ進む。
【0058】
図7(a)は、本実施形態に係る撮像システムにおける、ある時刻での撮像装置101~105、被写体107~110、及び遮蔽物111~112の位置関係の一例を示す概略図である。
図7(a)においては、各撮像装置の移動、向き、及び画角、並びに各被写体の位置が上から俯瞰した形式で示されている。また、
図7(b)は、
図7(a)に示す本実施形態の一例において、解析部304によって解析した情報を示すテーブルであり、このテーブルには各撮像装置について撮像範囲に含む被写体を示す情報が含まれている。またこのテーブルは、推定誤差要因として撮像装置の移動情報及び画角情報、並びに被写体ごとに撮像範囲に含む撮像装置の情報を含んでいる。
【0059】
ここで、本実施形態では、撮像装置の移動情報は停止、低速、中速、及び高速の4つの状態で表され、撮像装置の画角情報は広角、標準、及び望遠の3つの状態で表されるものとするが、より細かく、又は大まかに各状態を定義して分類してもよい。また、それぞれの撮像装置において被写体が撮像範囲内である状態を〇、そうでない状態を×として表現し、それぞれの被写体について撮像範囲に含む撮像装置の台数が算出されている。解析部304により解析された情報の一部は、推定された被写体の位置は、情報処理装置106が有する表示画面に表示されてもよく、ネットワークを介して接続された外部の装置で表示されてもよい。
【0060】
[信頼度算出処理]
ここで、S406で行われる被写体の信頼度を推定する処理の詳細について説明する。
図8は、信頼度評価部306によって行われる処理の一例を示すフローチャートである。
【0061】
S801で信頼度評価部306は、複数の被写体のうち処理対象とする対象被写体を設定する。ここでは、まだS801~S809で処理対象となっていない被写体のうちの1つが無作為に対象被写体として選択されるものとする。
【0062】
S802で信頼度評価部306は、複数の撮像装置のうち処理対象とする対象撮像装置を設定する。ここでは、まだS802~S806で処理対象となっていない撮像装置のうちの1つが無作為に対象撮像装置として選択されるものとする。
【0063】
S803で信頼度評価部306は、対象被写体と対象撮像装置とに対して、可視による(撮像範囲に含まれるか否かの)重み係数を決定する。ここで、対象被写体をs、対象撮像装置をiの添字で表し、可視による重み係数をαi(s)とすると、以下のように記すことができる。
αi(s)∈{0,1} 式(3)
【0064】
ここでは、αi(s)は、対象撮像装置iの撮像範囲に対象被写体sが含まれているのであれば1、そうでないならば0となるものとする。
【0065】
S804で信頼度評価部306は、対象被写体と対象撮像装置とに対して、移動情報による重み係数を決定する。信頼度評価部306は、例えば、対象被写体を撮像している撮像装置の撮像中の移動量に応じて、移動情報による重み係数を決定してもよい。ここで、対象撮像装置の移動情報をviで表し、移動情報による重み係数をβi(vi)とすると、βi(vi)は例えば以下の式(4)のように表すことができる。
0≦βi(vi)≦1 式(4)
【0066】
ここでは、対象撮像装置の移動情報viに基づいて、対象撮像装置が静止しているならば1、そうでないならば移動量が増加するにつれて単調減少となるように重み係数が決定されるものとする。なお、撮像装置の移動情報viに対する重み係数の関係式は、情報処理装置が有する記憶部211に予め格納されているものとする。
【0067】
S805で信頼度評価部306は、対象被写体と対象撮像装置とに対して、画角情報による重み係数を決定する。信頼度評価部306は、例えば、対象被写体を撮像している撮像装置の画角の広さに応じて、画角情報による重み係数を決定してもよい。ここで、対象撮像装置の画角情報をaiで表し、画角情報による重み係数をγi(ai)とすると、γi(ai)は例えば以下の式(5)のように表すことができる。
0≦γi(ai)≦1 式(5)
【0068】
本実施形態においては、対象撮像装置の画角の設定が所定の範囲ごとに区分されており、画角が広い順に広角、標準、及び望遠の3つの区分が存在している。ここで、対象撮像装置の画角情報aiに基づいて、対象撮像装置の画角が広角ならば1、そうでないならば画角が狭くなるにつれて単調減少となるように重み係数が決定されるものとするが、特にこのように限定されるわけではない。例えば各区分に対して対応する重み係数が設定され(例えば、広角は1、標準が0.5、望遠が0など)、対象撮像装置の画角がどの区分となるかに応じて対応する重み係数が採用されるような形式で合ってもよい。なお、撮像装置の画角情報aiに対する重み係数の関係式は、情報処理装置が有する記憶部211に予め格納されているものとする。
【0069】
S806で信頼度評価部306は、対象被写体について、S802ですべての撮像装置を処理対象としたか否かを判定する。すべての撮像装置を処理対象としている場合は処理がS807へ進み、そうでない場合は処理はS802へ進む。
【0070】
S807で信頼度評価部306は、対象被写体に対して、撮像装置の位置関係による重み係数を決定する。2つの撮像装置の位置関係は、先述のカメラパラメータを用いて算出することができるが、ここでは、世界座標系の原点からそれぞれの撮像装置の方位角をφiとして、位置関係による重み係数δ(s)を簡易的に以下の式(6)のように記すことができる。
【数3】
【0071】
ここでは、2つの撮像装置の位置関係が直交しているときに重み係数が最大となるように正弦関数を用いてδ(s)を算出しているが、それぞれの撮像装置の関係式を情報処理装置が有する記憶部211に予め保持し、これを参照して決定しても構わない。
【0072】
S808で信頼度評価部306は、これまでに決定した重み係数を用いて、対象被写体についての推定される三次元位置の信頼度(以下、これを単純に「(対象)被写体の信頼度」と表記する場合がある)を評価する。ここで、対象被写体の信頼度をR(s)とすると、以下のように記すことができる。
【数4】
【0073】
ここで、εは信頼度を正規化するための係数であり、情報処理装置が有する記憶部211に予め保持しているものとする。
【0074】
S809で信頼度評価部306は、S801においてすべての被写体を処理対象としたか否かを判定する。すべての被写体を処理対象としている場合は
図8の信頼度評価処理は終了し、そうでない場合は処理がS801へ進む。
【0075】
[制御パラメータの生成処理]
ここで、S407で行われる制御パラメータを生成する処理の詳細について説明する。
図9は、パラメータ算出部307によって行われる処理の一例を示すフローチャートである。
【0076】
S901でパラメータ算出部307は、複数の被写体のうち処理対象とする対象被写体を設定する。ここでは、まだS901~S909で処理対象となっていない被写体のうちの1つが無作為に対象被写体として選択されるものとする。
【0077】
S902でパラメータ算出部307は、対象被写体の信頼度を取得する。対象被写体の信頼度はS406で算出されたものである。
【0078】
S903でパラメータ算出部307は、対象被写体の信頼度が閾値以下であるか否かを判定する。閾値以下である場合は処理はS904へ進み、そうでない場合は処理はS909へ進む。
【0079】
S904でパラメータ算出部307は、対象被写体を撮像範囲に含む撮像装置に対して移動を停止する命令を行う制御パラメータを生成する。例えば、先述の
図7(b)に示す状況において、被写体107の信頼度が低い場合には、被写体107を撮像している撮像装置101の移動を停止することにより信頼度の向上が期待されるため、パラメータ算出部307は撮像装置101の移動を停止する命令を生成する。
【0080】
S905でパラメータ算出部307は、対象被写体の信頼度を再評価し、再評価した信頼度が閾値以下であるか否かを判定する。閾値以下である場合は処理がS906へ進み、そうでない場合は処理はS909へ進む。
【0081】
S906でパラメータ算出部307は、対象被写体を撮像範囲に含む撮像装置に対して、画角を広げる命令を行う制御パラメータを生成する。例えば、先述の
図7(b)に示す状況において、被写体109の信頼度が低い場合には、被写体109を撮像している撮像装置103の画角をより広角にすることにより信頼度の向上が期待されるため、パラメータ算出部307は撮像装置103の画角を広げる命令を生成する。
【0082】
S907でパラメータ算出部307は、対象被写体の信頼度を再評価し、再評価された信頼度が閾値以下であるか否かを判定する。閾値以下である場合は処理がS908へ進み、そうでない場合は処理はS909へ進む。
【0083】
S908でパラメータ算出部307は、対象被写体を撮像範囲に含んでいない撮像装置に対して、対象被写体を撮像範囲に含むように制御する制御パラメータを生成する。例えば、先述の
図7(b)に示す状況において、被写体110の信頼度が低い場合には、被写体110を撮像範囲に含む撮像装置の数を増やすことにより信頼度の向上が期待される。したがって、パラメータ算出部307は、撮像装置104以外の撮像装置に対して被写体110を撮像範囲に含むように制御する命令を生成する。なお、ここでは、対象被写体を撮像範囲に含まないすべての撮像装置に対して制御が行われるように命令が生成されるものとするが、特定の条件を定め、制御を行う撮像装置を限定しても構わない。例えば、対象被写体に一番近い撮像装置、又はどの被写体も映していない撮像装置など、優先的に制御が行われる撮像装置の設定が行われ、そのような設定を行われている撮像装置から順に選択されるような形式で合ってもよい。
【0084】
S909でパラメータ算出部307は、すべての被写体を処理対象としたか否かを判定する。すべての被写体を処理対象としている場合は
図9の生成処理は終了し、そうでない場合は処理がS901へ進む。
【0085】
[深度の制御処理]
ここで、S410で行われる深度を制御する処理の詳細について説明する。
図10は、撮像装置の深度制御部310によって行われる処理の一例を示すフローチャートである。本実施形態では、撮像装置104における、複数の被写体(ここでは、被写体108及び被写体109)を注目被写体とした際の処理の一例について説明する。
図11(a)は、撮像装置104から各被写体までの距離を示す概略図であり、
図11(b)は、深度制御部310が処理する効果の一例を説明する概略図である。
【0086】
S1001で深度制御部310は、情報処理装置から受信した被写体の位置と信頼度とを取得する。S1002で深度制御部310は、注目被写体までの距離の最小値及び最大値を算出する。本実施形態の一例においては、被写体109の推定位置が距離の最小値、被写体108の推定位置が距離の最大値として算出される。
【0087】
S1003で深度制御部310は、注目被写体の信頼度に基づいて最小値と最大値とを補正する。ここでは、深度制御部310は、信頼度を値に応じて(例えば、小、中、大の三段階に)区分し、信頼度の区分に応じて値の補正を行ってもよい。例えば、深度制御部310は、被写体109の信頼度が低い(小の)場合、値が小さくなるように最小値を補正することができる。また例えば、深度制御部310は、被写体108の信頼度が低い(小の)場合、値が大きくなるように最大値を補正することができる。なお、補正の度合いについては、対象被写体の信頼度が低い場合は補正量を大きく、信頼度が高い場合には補正量を小さくするように決定することができる。また、信頼度と補正量との関係を示す対応表が記憶部203に予め格納され、この対応表を参照して深度制御部310による補正量が決定されても構わない。
【0088】
S1004で深度制御部310は、補正した最小値と最大値に基づいて深度パラメータを決定する。ここで、深度パラメータは、レンズの絞り値及びピント位置であり、補正した距離の最小値と最大値が被写界深度に含まれるように決定される。また、被写界深度の計算式は、以下の式(8)及び式(9)のように表すことができる。
【数5】
【0089】
ここで、Lnはピントが合って見える前方の被写界深度、Lfはピントが合って見える後方の被写界深度であり、Fはレンズの絞り値、Lはピント位置、δは許容錯乱円径、fは焦点距離である。深度制御部310は、レンズの絞り値F及びピント位置Lを、被写体までの距離の最小値をdmin、最大値をdmaxとして、以下の不等式を満たすように決定することができる。
Ln≦dmin≦dmax≦Lf 式(10)
【0090】
S1005で深度制御部310は、S1004で決定した深度パラメータに基づいてレンズを制御する。
図11(b)は深度制御部310が処理する効果の一例を説明する概略図である。このような処理によれば、被写体109又は被写体108の推定位置に誤差が生じている場合でも、信頼度に基づく制御パラメータの補正により、注目被写体を被写界深度に収めた撮像をすることができる。
【0091】
このように構成によれば、複数の撮像装置による撮像画像に基づいて被写体の三次元位置を推定し、推定結果の信頼度を評価したうえで、信頼度に基づいて撮像装置の制御を行うことができる。とりわけ、撮像装置から注目被写体までの距離に生じる誤差を信頼度として考慮し、信頼度に基づいて被写界深度を決定することにより、ユーザの意図する視覚効果を有する撮像画像を提供することができる。
【0092】
なお、本実施形態においては、
図11を参照して説明したように、情報処理装置106が被写体の三次元位置の信頼度を算出し、撮像装置が被写体の信頼度に基づいて深度の制御を行う例について説明を行った。しかしながら、信頼度に基づく撮像装置の制御は、深度の制御以外であってもよい。例えば、情報処理装置106は、被写体の三次元位置の信頼度に基づいて、画角を制御する、又は移動速度を制御するなどの制御を行ってもよい。
この場合、例えば情報処理装置106は、信頼度が(例えば、所定の閾値よりも)低い場合には画角を広くする又は移動速度を遅くするなどの信頼度の向上が期待できる制御を行うことができる。
【0093】
本明細書の開示は、以下の情報処理装置、情報処理方法、撮像システム、及びプログラムを含む。
(項目1)
複数の撮像装置による撮像画像に基づいて被写体の三次元位置を推定する推定手段と、
前記三次元位置の推定結果の信頼度を評価する評価手段と、
前記信頼度に基づいて、前記複数の撮像装置に含まれる撮像装置の制御を行う制御手段と、
を備えることを特徴とする、情報処理装置。
(項目2)
前記評価手段は、前記被写体の撮像中の前記撮像装置の移動速度、前記被写体を撮像する撮像装置の画角の広さ、又は前記被写体を撮像範囲に含む撮像装置の数に基づいて、前記信頼度を評価することを特徴とする、項目1に記載の情報処理装置。
(項目3)
前記評価手段は、前記被写体の撮像中の前記撮像装置の移動速度が小さいほど信頼度が高くなるように、前記信頼度を評価することを特徴とする、項目2に記載の情報処理装置。
(項目4)
前記評価手段は、前記撮像装置の画角が広いほど信頼度が高くなるように、前記信頼度を評価することを特徴とする、項目2又は3に記載の情報処理装置。
(項目5)
前記評価手段は、前記被写体を撮像範囲に含む撮像装置の数が多いほど前記信頼度が高くなるように、前記信頼度を評価することを特徴とする、項目2乃至4の何れか一項目に記載の情報処理装置。
(項目6)
前記制御手段は、前記信頼度が所定の閾値よりも小さい場合に、前記信頼度が上昇するように前記撮像装置の制御を行うことを特徴とする、項目1乃至5の何れか一項目に記載の情報処理装置。
(項目7)
前記制御手段は、前記信頼度が所定の閾値よりも小さい場合に、前記被写体を撮像している移動中の撮像装置の移動速度が小さくなるように前記撮像装置を制御することを特徴とする、項目6に記載の情報処理装置。
(項目8)
前記制御手段は、前記信頼度が所定の閾値よりも小さい場合に、前記被写体を撮像している撮像装置の画角が広くなるように前記撮像装置を制御することを特徴とする、項目6又は7に記載の情報処理装置。
(項目9)
前記制御手段は、前記信頼度が所定の閾値よりも小さい場合に、前記複数の撮像装置のうちの、前記被写体を撮像範囲に含む撮像装置の数が増えるように前記撮像装置を制御することを特徴とする、項目6乃至8の何れか一項目に記載の情報処理装置。
(項目10)
前記制御手段は、前記信頼度が所定の閾値よりも小さい場合に、前記被写体を撮像している撮像装置の被写界深度が広くなるように前記撮像装置を制御することを特徴とする、項目6乃至9の何れか一項目に記載の情報処理装置。
(項目11)
複数の撮像装置による撮像画像に基づいて被写体の三次元位置を推定する工程と、
前記三次元位置の推定結果の信頼度を評価する工程と、
前記信頼度に基づいて、前記複数の撮像装置に含まれる撮像装置の制御を行う工程と、
を備えることを特徴とする、情報処理方法。
(項目12)
複数の撮像装置による撮像画像に基づいて被写体の三次元位置を推定する推定手段と、
前記三次元位置の推定結果の信頼度を評価する評価手段と、
前記信頼度に基づいて、前記複数の撮像装置に含まれる撮像装置の制御を行う制御パラメータを生成する生成手段と、
前記制御パラメータを前記撮像装置に送信する送信手段と、
を備える情報処理装置、及び
前記制御パラメータを受信する受信手段と、
前記制御パラメータに基づいて撮像の制御を行う制御手段と、
を備える前記撮像装置
を備えることを特徴とする、撮像システム。
(項目13)
コンピュータを、項目1乃至10の何れか一項目に記載の情報処理装置の各手段として機能させるためのプログラム。
【0094】
(その他の実施例)
本開示は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
【0095】
本開示は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
【符号の説明】
【0096】
303:受信部、304:解析部、305:位置推定部、306:信頼度評価部、307:パラメータ算出部、308:送信部