(58)【調査した分野】(Int.Cl.,DB名)
複数台のロボットカメラのうち、予め設定された1台のロボットカメラであるマスターカメラのカメラ姿勢を操作するカメラ姿勢操作部と、前記カメラ姿勢操作部で操作されたカメラ姿勢をとるように前記マスターカメラの姿勢を制御するマスターカメラ制御部と、前記マスターカメラの光軸上を移動可能な注視点に向くように、前記マスターカメラ以外のロボットカメラであるスレーブカメラの姿勢を制御するスレーブカメラ制御部とを備えるロボットカメラ制御装置において、
前記複数台のロボットカメラで撮影された第一の多視点映像と、前記第一の多視点映像の撮影時から前記複数台のロボットカメラを所定量パン又はチルトして撮影された第二の多視点映像とを用いて弱校正キャリブレーションを行い、前記各ロボットカメラのパン又はチルト前のカメラ姿勢、位置及び光学主点と、パン又はチルト後のカメラ姿勢、位置及び光学主点とを算出するカメラパラメータ算出部と、前記カメラパラメータ算出部で算出された前記各ロボットカメラのパン又はチルト前の光学主点と、パン又はチルト後の光学主点とに基づいて、前記各ロボットカメラが搭載された雲台の回転中心の位置をそれぞれ算出する回転中心算出部とを備えるカメラキャリブレーション部と、
前記カメラパラメータ算出部により算出した前記マスターカメラのカメラ姿勢と、撮影時の前記マスターカメラのカメラ姿勢との差分に基づいて、前記注視点に向いたマスターカメラの光軸方向を示す単位ベクトルを算出し、前記マスターカメラが搭載された雲台の回転中心に、算出した当該単位ベクトルと前記マスターカメラから前記注視点までの距離であるデプス値との積を加算することで、前記注視点の位置を算出する注視点算出部と、を備え、
前記スレーブカメラ制御部は、前記注視点算出部が算出した注視点に向くように、前記スレーブカメラの姿勢を制御することを特徴とするロボットカメラ制御装置。
複数台のロボットカメラのうち、予め設定された1台のロボットカメラであるマスターカメラと、前記マスターカメラ以外のロボットカメラであるスレーブカメラと、前記マスターカメラの光軸上を移動可能な注視点に向くように、前記スレーブカメラの姿勢を制御するロボットカメラ制御装置と、を備えた多視点ロボットカメラシステムであって、
前記ロボットカメラ制御装置が、
前記マスターカメラのカメラ姿勢を操作するカメラ姿勢操作部と、
前記カメラ姿勢操作部で操作されたカメラ姿勢をとるように前記マスターカメラの姿勢を制御するマスターカメラ制御部と、
前記スレーブカメラの姿勢を制御するスレーブカメラ制御部と、
前記複数台のロボットカメラで撮影された第一の多視点映像と、前記第一の多視点映像の撮影時から前記複数台のロボットカメラを所定量パン又はチルトして撮影された第二の多視点映像とを用いて弱校正キャリブレーションを行い、前記各ロボットカメラのパン又はチルト前のカメラ姿勢、位置及び光学主点と、パン又はチルト後のカメラ姿勢、位置及び光学主点とを算出するカメラパラメータ算出部と、前記カメラパラメータ算出部で算出された前記各ロボットカメラのパン又はチルト前の光学主点と、パン又はチルト後の光学主点とに基づいて、前記各ロボットカメラが搭載された雲台の回転中心の位置をそれぞれ算出する回転中心算出部とを備えるカメラキャリブレーション部と、
前記カメラパラメータ算出部により算出した前記マスターカメラのカメラ姿勢と、撮影時の前記マスターカメラのカメラ姿勢との差分に基づいて、前記注視点に向いたマスターカメラの光軸方向を示す単位ベクトルを算出し、前記マスターカメラが搭載された雲台の回転中心に、算出した当該単位ベクトルと前記マスターカメラから前記注視点までの距離であるデプス値との積を加算することで、前記注視点の位置を算出する注視点算出部と、を備え、
前記スレーブカメラ制御部は、前記注視点算出部が算出した注視点に向くように、前記スレーブカメラの姿勢を制御することを特徴とする多視点ロボットカメラシステム。
複数台のロボットカメラのうち、予め設定された1台のロボットカメラであるマスターカメラの光軸上を移動可能な注視点に向くように、前記マスターカメラ以外のロボットカメラであるスレーブカメラの姿勢を制御するために、前記マスターカメラのカメラ姿勢を操作するカメラ姿勢操作部と、前記カメラ姿勢操作部で操作されたカメラ姿勢をとるように前記マスターカメラの姿勢を制御するマスターカメラ制御部と、前記スレーブカメラの姿勢を制御するスレーブカメラ制御部とを備えるコンピュータを、
前記複数台のロボットカメラで撮影された第一の多視点映像と、前記第一の多視点映像の撮影時から前記複数台のロボットカメラを所定量パン又はチルトして撮影された第二の多視点映像とを用いて弱校正キャリブレーションを行い、前記各ロボットカメラのパン又はチルト前のカメラ姿勢、位置及び光学主点と、パン又はチルト後のカメラ姿勢、位置及び光学主点とを算出するカメラパラメータ算出部、
前記カメラパラメータ算出部で算出された前記各ロボットカメラのパン又はチルト前の光学主点と、パン又はチルト後の光学主点とに基づいて、前記各ロボットカメラが搭載された雲台の回転中心の位置をそれぞれ算出する回転中心算出部、
前記カメラパラメータ算出部により算出した前記マスターカメラのカメラ姿勢と、撮影時の前記マスターカメラのカメラ姿勢との差分に基づいて、前記注視点に向いたマスターカメラの光軸方向を示す単位ベクトルを算出し、前記マスターカメラが搭載された雲台の回転中心に、算出した当該単位ベクトルと前記マスターカメラから前記注視点までの距離であるデプス値との積を加算することで、前記注視点の位置を算出する注視点算出部、として機能させ、
前記スレーブカメラ制御部は、前記注視点算出部が算出した注視点に向くように、前記スレーブカメラの姿勢を制御することを特徴とするロボットカメラ制御プログラム。
【発明を実施するための形態】
【0016】
以下、本発明の実施形態について、適宜図面を参照しながら詳細に説明する。なお、以下の説明において、同一の名称および符号については原則として同一もしくは同質の部材を示しており、詳細説明を適宜省略する。
【0017】
[多視点ロボットカメラシステムの構成]
図1を参照し、本発明の実施形態に係る多視点ロボットカメラシステム100の構成について説明する。
図1に示すように、多視点ロボットカメラシステム100は、被写体の多視点映像を撮影するものであり、ロボットカメラ制御装置1と、マスターカメラMCと、スレーブカメラSC
1,…,SC
s(SC)とを備える。スレーブカメラはs台であるものとする(但し、s≧1を満たす整数)。ロボットカメラは、合計N台であるものとする(つまり、N=s+1)。
【0018】
ロボットカメラ制御装置1は、マスターカメラMC及びスレーブカメラSCを制御するものであり、操作インターフェース部10と、カメラキャリブレーション部20と、マスターカメラ制御部30と、注視点算出部40と、スレーブカメラ制御部50
1,…,50
s(50)とを備える。
【0019】
操作インターフェース部10は、カメラマンが、マスターカメラMC及びスレーブカメラSCを遠隔操作するものであり、パン・チルト操作部(マスターカメラ操作部)11と、ズーム操作部13と、デプス操作部(デプス値算出部)15と、フォーカス・アイリス指令部18とを備える。
【0020】
パン・チルト操作部11は、カメラマンが、マスターカメラMCのパン及びチルト(カメラ姿勢)を操作するものである。そして、パン・チルト操作部11は、カメラマンの操作に応じたパン値及びチルト値を検出して、パン・チルト・ズーム制御部31と、注視点算出部40とに出力する。
例えば、パン・チルト操作部11は、パン・チルトの移動操作が行われる操作部と、操作部による移動操作を検出するエンコーダとを備えている(いずれも図示せず)。パン・チルト操作部11は、予め設定された、エンコーダ値とパン・チルト値とを対応付けたパン・チルト値変換情報を参照して、エンコーダ(不図示)で検出されたエンコーダ値をパン・チルト値に変換する。
【0021】
ズーム操作部13は、カメラマンが、マスターカメラMCのズームを操作するものである。そして、ズーム操作部13は、カメラマンの操作に応じたズーム値を検出して、パン・チルト・ズーム制御部31と、ズーム制御部55とに出力する。
【0022】
デプス操作部15は、注視点を移動させる移動操作が行われ、注視点の移動操作の検出値から、後記する式(1)を用いて、マスターカメラMCから注視点Q(
図2)までの距離であるデプス値を算出するものである。
【0023】
デプス操作部15は、例えば、注視点の移動操作が行われる操作部と、操作部による移動操作を検出するエンコーダとを備えている(いずれも図示せず)。デプス操作部15は、エンコーダ値とデプス値とを対応付けたデプス値変換情報が予め設定され、このデプス値変換情報を参照して、エンコーダ(不図示)で検出されたエンコーダ値をデプス値に変換する。さらに、デプス操作部15は、変換されたデプス値を以下で説明するように変化(増減)させて、注視点算出部40に出力する。
【0024】
ここで、
図2〜
図4を参照して、デプス操作部15によるデプス値の調整について説明する(適宜
図1参照)。
図2に示すように、カメラマンは、マスターカメラMCの撮影映像90を見ながら、マスターカメラMCが被写体αを捉えるようにパン・チルト操作部11及びズーム操作部13を操作する。従って、マスターカメラMCの撮影映像90は、画面中央に被写体αが捉えられている。一方、スレーブカメラSCの撮影映像91は、被写体αが捉えられていない。なお、ズーム操作部13は、カメラマン以外が遠隔操作することもある。
【0025】
次に、カメラマンは、操作部(不図示)によりデプス値を変化させることで、注視点Qを光軸βの上で移動させる。そして、
図3に示すように、カメラマンは、スレーブカメラSCの撮影映像91を見ながら、撮影映像91の中央に被写体αが位置するように、操作部(不図示)を操作してデプス値を調整する。
【0026】
デプス操作部15は、マスターカメラMCから離れるほど、単位時間当たりの注視点Qの移動距離が長くなるように、デプス値を非線形に変化させる。具体的には、デプス操作部15は、以下の式(1)を用いて、デプス値Depthを算出する。
【0028】
この式(1)のBaseは、
図4に示すように、マスターカメラMCと、予め選択(設定)された1台のスレーブカメラSCとのベースラインの相対距離を表す。このBaseは、後記するカメラキャリブレーション部20に格納されている。ここで、多視点ロボットカメラシステム100では、s台のスレーブカメラSCのうち、任意の1台のスレーブカメラSCを選択できる。さらに多視点ロボットカメラシステム100では、カメラ操作を容易にするため、マスターカメラMCの光軸βと、スレーブカメラSCの光軸γとのなす角が最も垂直に近くなるスレーブカメラSCを1台選択することが好ましい。以後、選択された1台のスレーブカメラを「選択スレーブカメラ」と呼ぶ。
【0029】
また、式(1)のθは、単位ベクトルuと単位ベクトルvのなす角であり、選択スレーブカメラSCの制御角度幅を表す。この単位ベクトルuは、弱校正カメラキャリブレーション時のマスターカメラMCの光軸βの向きを示す単位ベクトルである。また、単位ベクトルvは、選択スレーブカメラSCからマスターカメラMCに向かう単位ベクトルである。
なお、
図4では、説明を分かりやすくするため、単位ベクトルvの始点に単位ベクトルuの始点が一致するように、マスターカメラMCを破線で図示した。
【0030】
また、式(1)に示すd
maxは、デプス操作部15のエンコーダ(不図示)で検出可能なエンコーダ値の最大値であり、dは、エンコーダ(不図示)で検出されたエンコーダ値である。この最大値d
maxは、0≦d≦d
maxを満たすように予め設定される。
【0031】
図1に戻り、多視点ロボットカメラシステム100の説明を続ける。フォーカス・アイリス指令部18は、マスターカメラMC及びスレーブカメラSCに対し、フォーカス及びアイリスを指令するものである。具体的には、フォーカス・アイリス指令部18は、カメラマンから指令が入力されると、フォーカス及びアイリスの指令信号を生成し、フォーカス・アイリス制御部33と、フォーカス・アイリス制御部53とに出力する。
【0032】
カメラキャリブレーション部20は、カメラパラメータ算出部21と、回転中心算出部22とを備える。
カメラパラメータ算出部21は、各ロボットカメラCam
n(添え字nは、カメラ番号1〜Nを示す)のカメラパラメータ(ここでは、回転行列R
n及び並進行列T
n)を弱校正カメラキャリブレーションにより算出して、メモリやハードディスク等の記憶装置(不図示)に格納するものである。
【0033】
ここで、カメラパラメータ算出部21は、弱校正カメラキャリブレーションを行い、マスターカメラMCのカメラパラメータ(ここでは、回転行列R
m及び並進行列T
m)を算出し、記憶装置に格納する。
なお、添え字mがマスターカメラMCを示す。
【0034】
また、カメラパラメータ算出部21は、弱校正カメラキャリブレーションを行い、スレーブカメラSCのカメラパラメータ(回転行列R
s及び並進行列T
s)を算出し、記憶装置に格納する。
なお、添え字sがスレーブカメラSCを示す。
【0035】
さらに、カメラパラメータ算出部21は、各ロボットカメラCam
nにより撮影した第一の多視点映像と第二の多視点映像とを用いて弱校正カメラキャリブレーションを行い、パン又はチルト前のカメラ姿勢R
nbefore及びカメラ位置T
nbeforeと、パン又はチルト後のカメラ姿勢R
nafter及びカメラ位置T
nafterを求めるものである。カメラパラメータ算出部21は、求めたパン又はチルト後のカメラ姿勢R
nafter及びカメラ位置T
nafterを、回転中心算出部22に出力する。
【0036】
第一の多視点映像は、各ロボットカメラCam
nを同じ被写体に向けて撮影されたものである。したがって、第一の多視点映像には、それぞれ同じ被写体が写っているものとする。第二の多視点映像は、各ロボットカメラCam
nを、第一の多視点映像の撮影時から所定量パン又はチルトして撮影されたものである。つまり、第二の多視点映像は、第一の多視点映像の撮影時から、各ロボットカメラCam
nのズーム値を変えず、パン値又はチルト値のみを所定量変えて撮影されている。ここで、パン又はチルト量は、第二の多視点映像に、弱校正キャリブレーションが可能な程度に、第一の多視点映像と共通の被写体が写る程度に設定される。
【0037】
ここで、世界座標系WとロボットカメラCam
nのカメラ座標系w
nとの関係は、カメラ姿勢R
nおよびカメラ位置T
nを用いて、以下の式(2)で表される。
【0039】
また、前記式(2)におけるR
nは、以下の式(3)で表される。
【0041】
そして、カメラパラメータ算出部21は、以下の式(4)、(5)により、パン又はチルト前の光学主点P
nbeforeと、パン又はチルト後の光学主点P
nafterとを算出する。
【0044】
なお、弱校正キャリブレーションとして、例えば、以下のホームページに記載された「Bundler」を利用できるため、詳細な説明を省略する。
参考URL:「http://phototour.cs.washington.edu/bundler/」
【0045】
回転中心算出部22は、各ロボットカメラCam
nが搭載された雲台の回転中心O
nを算出し、メモリやハードディスク等の記憶装置(不図示)に格納するものである。
【0046】
ここで、
図5に、ロボットカメラCam
1,・・・,Cam
Nを並べて配置したときの、ロボットカメラCam
1、Cam
n、Cam
Nのパン又はチルト前の撮影方向をそれぞれ破線で示し、パン又はチルト後の撮影方向をそれぞれ実線で示した。
図5では、ロボットカメラCam
nを上方から見下ろしたときの雲台の回転中心O
nと、ロボットカメラCam
nのパン又はチルト前の光学主点P
nbeforeと、パン又はチルト後の光学主点P
nafterとを、それぞれ×印で示した。なお、光学主点P
nbefore及び光学主点P
nafterは、本来、カメラの内部に位置しているが、雲台の回転中心O
nとの位置関係を分かりやすく示すために、
図5では、カメラの外側に抜き出して示している。具体的には、パン又はチルト前のロボットカメラCam
nの光軸上において、雲台の回転中心O
nから所定距離離れた位置に光学主点P
nbeforeをおいた。同様に、パン又はチルト後のロボットカメラCam
nの光軸上において、雲台の回転中心O
nから所定距離離れた位置に光学主点P
nafterをおいた。
【0047】
カメラの光学主点位置P
nと雲台の回転中心O
nとが一致していない場合、
図5に示すように、パン又はチルト前の光学主点P
nbeforeの位置と、パン又はチルト後の光学主点P
nafterの位置とが異なることになる。また、ロボットカメラCam
nは、雲台の回転中心O
nで回転されるので、パン又はチルト前の光学主点P
nbeforeと、パン又はチルト後の光学主点P
nafterとは、雲台の回転中心O
nからの距離が必ず等しくなる。したがって、
図5に示すように、雲台の回転中心O
nと、パン又はチルト前の光学主点P
nbeforeと、パン又はチルト後の光学主点P
nafterとが、二等辺三角形をなすことがわかる。なお、パン又はチルト前の光学主点P
nbeforeと、パン又はチルト後の光学主点P
nafterとが、それぞれロボットカメラCam
n内にある場合も、同様である。
【0048】
これにより、回転中心算出部22は、カメラパラメータ算出部21により算出されたパン又はチルト前の光学主点P
nbeforeと、パン又はチルト後の光学主点P
nafterとに加え、パン・チルト量θ
nと、パン又はチルト前のカメラ姿勢の奥行成分のベクトル値(r
z)とに基づき、各ロボットカメラCam
nが搭載された雲台の回転中心O
nを以下の式(6)により、求めることができる。
【0050】
前記した式(6)におけるパン・チルト量θ
nは、第二の多視点映像の撮影時における、第一の多視点映像の撮影時からの各ロボットカメラCam
nのパン・チルト角度幅である。つまり、パン・チルト量θ
nは、パン又はチルト前の撮影方向とパン又はチルト後の撮影方向とでなす角を指す。
なお、「パン・チルト量θ
n」としているが、ここでは、第一の多視点映像の撮影時と、第二の多視点映像の撮影時とにおいて、各ロボットカメラCam
nのパン値又はチルト値のいずれか一方のみを変更することとしているので、パン値又はチルト値のいずれか一方のみを指すものとする。
【0051】
このパン・チルト量(パン・チルト角度幅)θ
nは、各ロボットカメラCam
nが備えるエンコーダ(不図示)により検出された、パン・チルト前の撮影方向(角度)のエンコーダ値と、パン・チルト後の撮影方向(角度)のエンコーダ値とに基づいて求めることができる。例えば、エンコーダ値とパン・チルト値とを対応付けて予め設定されたパン・チルト変換情報により、それぞれのエンコーダ値をパン値又はチルト値に変換し、変換後のパン値又はチルト値同士で差分をとることで、パン・チルト量θ
nを求めることができる。パン・チルト量θ
nは、例えば外部のPC等において、各ロボットカメラCam
nから出力されたパン・チルト前後のエンコーダ値に基づいて前記した方法により算出され、カメラパラメータ算出部21に出力される。なお、パン・チルト量θ
nは、ロボットカメラ制御装置1内にパン・チルト量θ
nの算出手段(不図示)を設けて、当該算出手段(不図示)により算出してもよい。
【0052】
また、カメラキャリブレーション部20は、外部から、カメラキャリブレーション時のロボットカメラCam
nのパン値p
0n、チルト値t
0n、ズーム値z
0n、フォーカス値f
0n、アイリス値i
0nを入力し、記憶装置(不図示)に格納する。
ここでは、パン・チルト前後のそれぞれにおいて、ロボットカメラCam
nが備えるエンコーダ(不図示)により、パン、チルト、ズーム、フォーカス、アイリスのエンコーダ値がそれぞれ検出される。そして、外部のPC(Personal Computer)等において、各エンコーダ値と対応付けて予め設定された変換情報により、各エンコーダ値を変換することでパン・チルト前後のパン値、チルト値、ズーム値、フォーカス値、アイリス値がそれぞれ求められる。カメラキャリブレーション部20は、このようにして求められた、パン値p
0nbefore、p
0nafter、チルト値t
0nbefore、t
0nafter、ズーム値z
0nbefore、z
0nafter、フォーカス値f
0nbefore、f
0nafter、アイリス値i
0nbefore、i
0nafterを記憶装置(不図示)に格納する。
【0053】
マスターカメラ制御部30は、マスターカメラMCを制御するものであり、パン・チルト・ズーム制御部31と、フォーカス・アイリス制御部33とを備える。
【0054】
パン・チルト・ズーム制御部31は、パン・チルト操作部11から入力されたパン値、チルト値及びズーム値を、それらの値の大きさに応じたパン・チルト・ズーム制御信号に変換する。そして、パン・チルト・ズーム制御部31は、変換したパン・チルト・ズーム制御信号をマスターカメラMCに出力する。
【0055】
フォーカス・アイリス制御部33は、フォーカス・アイリス指令部18から入力された指令信号に基づいて、マスターカメラMCのフォーカス及びアイリスを制御するものである。ここでは、フォーカス・アイリス制御部33は、指令信号が入力されると、オートフォーカス機能及びオートアイリス機能を用いて、マスターカメラMCのフォーカス値及びアイリス値を算出する。そして、フォーカス・アイリス制御部33は、算出したフォーカス値及びアイリス値を、それらの値の大きさに応じたフォーカス・アイリス制御信号に変換して、マスターカメラMCに出力する。
【0056】
マスターカメラMCは、多視点ロボットカメラシステム100が備える複数台(N台)のロボットカメラCam
1,・・・,Cam
Nのうち、予め設定された1台のロボットカメラである。このマスターカメラMCは、雲台(例えば、電動雲台)に小型カメラを搭載したものである。マスターカメラMCは、パン・チルト・ズーム制御部31から入力されたパン・チルト・ズーム制御信号に従って、パン、チルト及びズームを駆動する。さらに、マスターカメラMCは、フォーカス・アイリス制御部33から入力されたフォーカス・アイリス制御信号に従って、フォーカス及びアイリスを駆動する。
【0057】
注視点算出部40は、パン・チルト操作部11から入力されたパン値及びチルト値と、デプス操作部15から入力されたデプス値と、カメラキャリブレーション部20に格納されたカメラパラメータとに基づいて、注視点の世界座標を算出するものである。
【0058】
具体的には、注視点算出部40は、以下の式(7)を用いて、マスターカメラMCについて、パン・チルト操作部11からのパン値p
mと、カメラキャリブレーション部20の記憶装置に格納された弱校正キャリブレーション時のパン値p
0mとの角度差θ
pmを算出する。
【0060】
また、注視点算出部40は、以下の式(8)を用いて、マスターカメラMCについて、パン・チルト操作部11からのチルト値t
mと、カメラキャリブレーション部20の記憶装置に格納された弱校正キャリブレーション時のチルト値t
0mとの角度差θ
tmを算出する。
【0062】
次に、注視点算出部40は、以下の式(9)に示すように、角度差θ
pm及び角度差θ
tmを用いて、カメラ座標系における回転行列R´
Cmを生成する。
【0064】
そして、注視点算出部40は、以下の式(9)に示すように、回転行列R´
Cm、及び、マスターカメラMCのカメラパラメータである回転行列R
mの逆行列R
−1mを用いて、カメラ座標系におけるカメラ姿勢の回転行列R´
mを生成する。このR´
mは、マスターカメラMCについて、弱校正キャリブレーション時のカメラ姿勢から、操作インターフェース部10で操作後のカメラ姿勢に変えるための回転行列である。
【0066】
ここで、式(10)の回転行列R´
mは、以下の式(11)で表すことができる。この場合、注視点Qに向いたマスターカメラMCの光軸方向を示す単位ベクトルOptaxis
mは、以下の式(12)で表すことができる。
【0069】
そして、注視点算出部40は、以下の式(13)に示すように、カメラキャリブレーション部20から入力された、マスターカメラMCの雲台の回転中心O
mと、デプス操作部15から入力されたデプス値Depthと、式(12)の単位ベクトルOptaxis
mとを用いて、注視点Qの世界座標(位置)Pを算出する。その後、注視点算出部40は、算出した注視点Qの世界座標Pを、パン・チルト制御部51に出力する。
【0071】
パン・チルト制御部51は、注視点算出部40から入力された注視点Qの世界座標Pとカメラキャリブレーション部20に格納されたカメラパラメータ(回転行列R
s及びスレーブカメラSCの雲台の回転中心O
s)とに基づいて、スレーブカメラSCの姿勢(パン及びチルト)を制御するものである。
【0072】
具体的には、パン・チルト制御部51は、以下の式(14)に示すように、パン及びチルトを制御するために、スレーブカメラSCから注視点Qの世界座標Pへ向かう単位ベクトルOptaxis
sを算出する。なお、式(14)における“|| ||”は、ノルムを表す。
【0074】
また、パン・チルト制御部51は、以下の式(15)に示すように、算出した単位ベクトルOptaxis
s、及び、回転行列R
sを用いて、カメラ座標系におけるスレーブカメラSCから注視点Qの世界座標Pへ向かう単位ベクトルOptaxis
Csを算出する。
【0075】
そして、パン・チルト制御部51は、以下の式(16)〜式(18)に示すように、単位ベクトルOptaxis
CsからスレーブカメラSCのパン値p
s及びチルト値t
sを算出する。なお、e
1,e
2,e
3は、それぞれ、単位ベクトルOptaxis
CsのX軸、Y軸、Z軸成分を示す。
【0080】
さらに、パン・チルト制御部51は、算出したパン値p
s及びチルト値t
sを、それらの値の大きさに応じたパン・チルト制御信号に変換する。その後、パン・チルト制御部51は、変換したパン・チルト制御信号をスレーブカメラSCに出力する。
【0081】
フォーカス・アイリス制御部53は、フォーカス・アイリス指令部18のフォーカス・アイリス指令信号に基づいて、スレーブカメラSCのフォーカス及びアイリスを制御するものである。ここでは、フォーカス・アイリス制御部53は、指令信号が入力されると、オートフォーカス機能及びオートアイリス機能を用いて、スレーブカメラSCのフォーカス値及びアイリス値を算出する。そして、フォーカス・アイリス制御部53は、算出したフォーカス値及びアイリス値を、それらの値の大きさに応じたフォーカス・アイリス制御信号に変換して、スレーブカメラSCに出力する。
【0082】
ズーム制御部55は、ズーム操作部13から入力されたズーム値に基づいて、スレーブカメラSCのズームを制御するものである。具体的には、ズーム制御部55は、ズーム値を、その値の大きさに応じたズーム制御信号に変換する。そして、ズーム制御部55は、変換したズーム制御信号をスレーブカメラSCに出力する。
【0083】
スレーブカメラSCは、多視点ロボットカメラシステム100が備える複数台のロボットカメラのうち、マスターカメラMC以外のロボットカメラである。このスレーブカメラSCは、雲台(例えば、電動雲台)に小型カメラを搭載したものである。また、スレーブカメラSCは、パン・チルト制御部51から入力されたパン・チルト制御信号に応じて、パン及びチルトを駆動する。そして、スレーブカメラSCは、フォーカス・アイリス制御部53から入力されたフォーカス・アイリス制御信号に応じて、フォーカス及びアイリスを駆動する。さらに、スレーブカメラSCは、ズーム制御部55から入力されたズーム制御信号に応じて、ズームを駆動する。
【0084】
前記した式(7)のパン値p
0m、式(8)のチルト値t
0m、式(10)のカメラ姿勢R
m、式(17)のパン値p
0s、式(18)のチルト値t
0sは、弱校正キャリブレーション時におけるパン・チルト前又はパン・チルト後のいずれかの値を統一して用いることとする。
【0085】
[多視点ロボットカメラシステムの動作]
図6を参照し、
図1の多視点ロボットカメラシステム100の動作について、説明する(適宜
図1参照)。
多視点ロボットカメラシステム100は、カメラキャリブレーション部20のカメラパラメータ算出部21によって、各ロボットカメラCam
n(マスターカメラMC及びスレーブカメラSC)のカメラパラメータを算出する。また、多視点ロボットカメラシステム100は、カメラキャリブレーション部20のカメラパラメータ算出部21によって、式(4)、(5)のように、各ロボットカメラCam
n(マスターカメラMC及びスレーブカメラSC)のパン・チルト操作前の光学主点P
nbeforeと、パン・チルト操作後の光学主点P
nafterとを算出する。
そして、多視点ロボットカメラシステム100は、カメラキャリブレーション部20の回転中心算出部22によって、式(6)のように、各ロボットカメラCam
nが搭載された雲台の回転中心O
nを算出する(ステップS1)。
多視点ロボットカメラシステム100は、カメラキャリブレーション部20によって、算出したカメラパラメータ及び雲台の回転中心O
nを記憶装置に格納する(ステップS2)。
【0086】
多視点ロボットカメラシステム100は、パン・チルト操作部11によって、カメラマンの操作に応じたパン値及びチルト値を検出して、パン・チルト・ズーム制御部31と、注視点算出部40とに出力する。
多視点ロボットカメラシステム100は、ズーム操作部13によって、カメラマンの操作に応じたズーム値を検出して、パン・チルト・ズーム制御部31と、ズーム制御部55に出力する。
多視点ロボットカメラシステム100は、デプス操作部15によって、デプス値を算出し、注視点算出部40に出力する。
多視点ロボットカメラシステム100は、フォーカス・アイリス指令部18によって、カメラマンからの指令に応じて指令信号を生成し、フォーカス・アイリス制御部33と、フォーカス・アイリス制御部53とに出力する(ステップS3)。
【0087】
多視点ロボットカメラシステム100は、パン・チルト・ズーム制御部31によって、パン値、チルト値及びズーム値を、パン・チルト・ズーム制御信号に変換して、マスターカメラMCに出力する。
多視点ロボットカメラシステム100は、フォーカス・アイリス制御部33によって、フォーカス・アイリス指令部18からの指令信号に応じて、マスターカメラMCのフォーカス・アイリス制御信号を生成して、マスターカメラMCに出力する(ステップS4)。
【0088】
多視点ロボットカメラシステム100は、注視点算出部40によって、式(13)のように、カメラキャリブレーション部20で算出された、マスターカメラMCが搭載された雲台の回転中心O
mに、単位ベクトルOptaxis
mとデプス値Depthとの積を加算することで、注視点Qの世界座標を算出する(ステップS5)。
【0089】
多視点ロボットカメラシステム100は、パン・チルト制御部51によって、式(14)〜式(18)のように、スレーブカメラSCが搭載された雲台の回転中心O
sを用いて、注視点Qに向かうパン値及びチルト値を求める。そして、求めたパン値及びチルト値を、パン・チルト・ズーム制御信号に変換して、スレーブカメラSCに出力する。
【0090】
多視点ロボットカメラシステム100は、フォーカス・アイリス制御部53によって、フォーカス・アイリス指令部18からの指令信号に応じて、スレーブカメラSCのフォーカス・アイリス制御信号を生成して、スレーブカメラSCに出力する。
多視点ロボットカメラシステム100は、ズーム制御部55によって、ズーム値をズーム制御信号に変換して、スレーブカメラSCに出力する(ステップS6)。
【0091】
以上のように、本発明の実施形態に係る多視点ロボットカメラシステム100は、式(6)のように、各ロボットカメラCam
nが搭載された雲台の回転中心O
nを算出する。そして、多視点ロボットカメラシステム100は、式(13)のように、マスターカメラMCが搭載された雲台の回転中心O
mを用いて、注視点Qの世界座標Pを正確に算出することができる。また、多視点ロボットカメラシステム100は、式(14)〜式(18)のように、スレーブカメラSCが搭載された雲台の回転中心O
sを用いて、注視点Qに向かうパン値p
0s及びチルト値t
0sを正確に求めることができる。これによって、多視点ロボットカメラシステム100は、マスターカメラMCおよびスレーブカメラSCの方向制御を正確に行うことが可能となる。
【0092】
なお、本発明は、前記した実施形態に限定されず、その趣旨を逸脱しない範囲で様々な変形を加えることができる。
前記した実施形態では、デプス操作部15によって、デプス操作部15によって、デプス値を非線形に変化させることとしたが、これに限られず、デプス値を線形に変化させてもよい。
また、前記した実施形態では、各ロボットカメラCam
nによる第一の多視点映像の撮影時と第二の多視点映像の撮影時とにおいて、パン又はチルトのいずれか一方のみを変化させたが、これに限られず、パン及びチルトの両方を変化させてもよい。
【0093】
さらに、前記した実施形態では、フォーカス・アイリス制御部33は、オートフォーカス機能及びオートアイリス機能を用いて算出したマスターカメラMCのフォーカス値及びアイリス値に応じたフォーカス・アイリス制御信号を生成したが、これに限られない。
フォーカス・アイリス制御部33は、マスターカメラMCが備えるエンコーダ(不図示)により検出された、カメラマンによるマスターカメラMCのフォーカス及びアイリスの移動操作(エンコーダ値)を、外部のPC等によりフォーカス値及びアイリス値に変換した結果を入力し、このフォーカス値及びアイリス値に応じたフォーカス・アイリス制御信号を生成してもよい。なお、フォーカス・アイリス制御部53も同様である。
【0094】
また、さらに、前記した実施形態では、カメラキャリブレーション部20は、パン・チルト前後のパン値、チルト値、ズーム値、フォーカス値、アイリス値を記憶装置に格納したが、これに限られず、パン・チルト前又はパン・チルト後のいずれか一方のパン値、チルト値、ズーム値、フォーカス値、アイリス値を記憶装置に格納してもよい。