(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-02
(45)【発行日】2024-07-10
(54)【発明の名称】撮像装置および撮像方法
(51)【国際特許分類】
G03B 5/00 20210101AFI20240703BHJP
G03B 15/00 20210101ALI20240703BHJP
G02B 7/04 20210101ALI20240703BHJP
H04N 23/69 20230101ALI20240703BHJP
H04N 23/695 20230101ALI20240703BHJP
【FI】
G03B5/00 L
G03B15/00 Q
G03B5/00 J
G03B15/00 S
G02B7/04 E
H04N23/69
H04N23/695
(21)【出願番号】P 2019236745
(22)【出願日】2019-12-26
【審査請求日】2022-12-08
(73)【特許権者】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】100126240
【氏名又は名称】阿部 琢磨
(74)【代理人】
【識別番号】100223941
【氏名又は名称】高橋 佳子
(74)【代理人】
【識別番号】100159695
【氏名又は名称】中辻 七朗
(74)【代理人】
【識別番号】100172476
【氏名又は名称】冨田 一史
(74)【代理人】
【識別番号】100126974
【氏名又は名称】大朋 靖尚
(72)【発明者】
【氏名】芦谷 智史
【審査官】岡田 弘
(56)【参考文献】
【文献】特開2015-130612(JP,A)
【文献】特開2018-189730(JP,A)
【文献】特開2015-201711(JP,A)
【文献】特開2019-212968(JP,A)
【文献】特開2017-069884(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G03B 5/00-5/08
G03B 15/00-15/035
G03B 15/06-15/16
G02B 7/02-7/16
H04N 5/222-5/257
H04N 23/00
H04N 23/40-23/76
H04N 23/90-23/959
(57)【特許請求の範囲】
【請求項1】
被写体を撮像する撮像手段と、
前記撮像手段の画角を変更するズーム駆動手段と、
前記撮像手段をパン方向およびチルト方向に回転させるパンチルト駆動手段と、
前記撮像手段で撮像された撮像画像から前記被写体を検出する被写体検出手段と、
前記被写体検出手段の検出結果に基づいて、前記被写体を追尾するための前記撮像手段の画角である追尾画角を算出する追尾手段と、
前記撮像手段の振れを検出する振れ検出手段と、
前記振れ検出手段の検出結果に基づいて、前記パンチルト駆動手段を制御して振れを補正する振れ補正手段と、
前記振れ補正手段による振れ補正後に残存する振れ残り角度を算出する算出手段と、
を有し、
前記追尾手段は、前記算出手段によって算出された前記振れ残り角度に基づいて、前記追尾画角に対する閾値である撮像画角限度を算出し、
前記ズーム駆動手段は、
前記追尾画角が前記撮像画角限度を超える場合、前記撮像手段の画角を前記撮像画角限度に変更
し、
前記追尾画角が前記撮像画角限度以下の場合、前記撮像手段の画角を前記追尾画角とし、
前記振れ補正後に振れ残りが発生している振れ残り発生時間に基づいて、前記撮像手段の画角を変更することを特徴とする撮像装置。
【請求項2】
前記ズーム駆動手段は、前記振れ残りの発生時間が発生時間閾値を超え、かつ、前記追尾画角が前記撮像画角限度を超える場合、前記撮像手段の画角を前記撮像画角限度に変更することを特徴とする請求項
1に記載の撮像装置。
【請求項3】
前記ズーム駆動手段は、前記振れ補正により振れ残りが解消されるのに要する時間に基づいて、前記撮像手段の画角を決定することを特徴とする請求項
1に記載の撮像装置。
【請求項4】
前記ズーム駆動手段は、前記振れ残りが解消されるのに要する時間が解消時間閾値を超えることなく、かつ、前記追尾画角が前記撮像画角限度を超える場合、前記撮像手段の画角を前記撮像画角限度に変更することを特徴とする請求項
3に記載の撮像装置。
【請求項5】
前記ズーム駆動手段は、過去の振れ残り時間に基づいて前記発生時間閾値を決定することを特徴とする請求項
2に記載の撮像装置。
【請求項6】
前記ズーム駆動手段は、過去の振れ残り時間に基づいて前記解消時間閾値を決定することを特徴とする請求項
4に記載の撮像装置。
【請求項7】
前記ズーム駆動手段は、前記追尾画角が前記撮像画角限度を超える場合、前記撮像手段の画角を前記撮像画角限度に変更しし、電子ズーム制御により前記追尾画角と一致させるように電子ズーム制御することを特徴とする請求項1に記載の撮像装置。
【請求項8】
撮像部の画角を変更するステップと、
前記撮像部をパン方向およびチルト方向に回転させるステップと、
前記撮像部の振れを検出するステップと、
前記振れを検出するステップの検出結果に基づいて、前記撮像部のパン方向およびチルト方向を制御して振れを補正するステップと、
前記撮像部が撮像した撮像画像から被写体を検出するステップと、
前記被写体を検出するステップの検出結果に基づいてパン方向およびチルト方向を制御して追尾対象の被写体を追尾するための前記撮像部の画角である追尾画角を算出するステップと、
振れを補正するステップにおける触れ補正後に残存する振れ残り角度を算出するステップと、
前記振れ残り角度に基づいて、前記追尾画角に対する閾値である撮像画角限度を算出するステップと、
を有し、
前記画角を変更するステップにおいては、
前記追尾画角が前記撮像画角限度を超える場合、前記撮像部の画角を前記撮像画角限度に変更し、
前記追尾画角が前記撮像画角限度以下の場合、前記撮像部の画角を前記追尾画角とし、
前記振れ補正後に振れ残りが発生している振れ残り発生時間に基づいて、前記撮像部の画角を変更する
ことを特徴とする撮像方法。
【請求項9】
コンピュータを、請求項1から
7のいずれか1項に記載の撮像装置の各手段として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置および撮像方法に関する。
【背景技術】
【0002】
従来より、振れ量を検出し、振れが許容できる限界値以下になるように、光学ズームまたはデジタルズームの倍率を変更する技術が知られている(たとえば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明が解決しようとする課題は、振れ補正機能を備えた撮像装置において、被写体のフレームアウトを抑制することである。
【課題を解決するための手段】
【0005】
上記目的を達成するために、本発明の1つの態様による撮像装置は、被写体を撮像する撮像手段と、前記撮像手段の画角を変更するズーム駆動手段と、前記撮像手段をパン方向およびチルト方向に回転させるパンチルト駆動手段と、前記撮像手段の振れを検出する振れ検出手段と、前記振れ検出手段の検出結果に基づいて、前記パンチルト駆動手段を制御して振れを補正する振れ補正手段と、前記振れ補正手段による振れ補正後に残存する振れ残り角度を算出する算出手段と、を有し、前記ズーム駆動手段は、前記算出手段が算出した振れ残り角度に基づいて、前記撮像手段の画角を変更する。
【図面の簡単な説明】
【0006】
【
図1】本発明の第1実施形態に係る撮像装置の構成を示すブロック図。
【
図5】
図1の撮像装置のハードウェア構成を示すブロック図。
【
図7】被写体検出処理における被写体の位置と大きさの計算方法を説明する図。
【
図8】第1実施形態での自動追尾における画角決定処理を示すフローチャート。
【
図9】第1実施形態での自動追尾における画角計算方法について説明する図。
【
図10】第1実施形態での振れ残り発生時の撮像画角限度について説明する図。
【
図11】第2実施形態での自動追尾における画角決定処理を示すフローチャート。
【
図12】第2実施形態での振れ残り角度とズーム制御の関係を示すタイミングチャート。
【
図13】第3実施形態での自動追尾における画角決定処理を示すフローチャート。
【
図14】第3実施形態での自動追尾における画角計算方法について説明する図。
【発明を実施するための形態】
【0007】
以下、本発明の実施形態を、図面を参照して詳細に説明する。なお、以下の実施形態は本発明を限定するものではなく、また、本実施形態で説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。実施形態の構成は、本発明が適用される装置の仕様や各種条件(使用条件、使用環境等)によって適宜修正又は変更され得る。本発明の技術的範囲は、特許請求の範囲によって確定されるのであって、以下の個別の実施形態によって限定されない。また、後述する各実施形態の一部を適宜組み合わせて構成してもよい。
【0008】
第1実施形態
本発明の第1実施形態に係る撮像装置の構成例について、
図1を参照して説明する。
図1は、本実施形態に係る撮像装置1000の機能構成を示すブロック構成図である。
【0009】
<撮像装置の構成>
撮像装置1000は、ネットワーク3000を介して不図示のクライアント装置(情報処理装置)と接続されており、撮像装置1000とクライアント装置は相互に通信可能である。撮像装置1000は、撮像部1001と、画像処理部1002と、ズーム駆動部1003と、パン駆動部1004と、チルト駆動部1005と、振れ検出部1006と、システム制御部1007と、通信部1008とを有する。本実施形態では、撮像装置本体とレンズが一体となった撮像装置について説明するが、レンズ交換式であってもよい。
【0010】
撮像部1001は、被写体を撮像する。撮像部1001は、レンズ、撮像素子およびその制御回路部を有し、レンズの撮像光学系により結像される被写体からの光を受光し、光電変換によって被写体の光像を電気信号へ変換する。
画像処理部1002は、撮像部1001が光電変換した信号を取得し、現像処理や圧縮・符号化処理等を施した画像データを生成する。画像処理部1002は、生成された画像データをシステム制御部1007へ送信する。また、画像処理部1002は、画像認識処理により撮像画像内の追尾対象となる被写体を検出する。画像処理部1002は、当該検出結果をシステム制御部1007に送信する。
【0011】
撮像装置1000は、撮像部1001の撮像画角を変更するためのズーム駆動部1003を有する。ズーム駆動部1003は、光学ズームレンズ機構部(図示せず)と、そのアクチュエータであるステッピングモータ等の電動モータ(図示せず)とを有する。
また、撮像装置1000は、撮像部1001の撮像方向を変更する複数の駆動部を有する。本実施形態では、撮像装置1000が、第1の駆動部としてパンニング(以下、「パン」と称する場合もある)動作を行うパン駆動部1004と、第2の駆動部としてチルティング(以下、「チルト」と称する場合もある)動作を行うチルト駆動部1005とを有する例を説明する。
パン駆動部1004は、パン動作を行う機構部(図示せず)と、アクチュエータであるステッピングモータ等の電動モータ(図示せず)と、パン角度を検出するエンコーダ(図示せず)とを有する。
チルト駆動部1005は、チルト動作を行う機構部(図示せず)と、アクチュエータであるステッピングモータ等の電動モータ(図示せず)と、チルト角度を検出するエンコーダ(図示せず)とを有する。なお、以下の記載において、パン駆動部1004とチルト駆動部1005を合わせてパンチルト駆動部と称する場合もある。
【0012】
振れ検出部1006は、例えば、ジャイロセンサや加速度センサ等(図示せず)を有し、撮像装置1000のパン方向およびチルト方向それぞれの振動を検出する。振れ検出部1006は、検出結果をシステム制御部1007に出力する。
【0013】
システム制御部1007は、CPU(中央演算処理装置:Central Processing Unit)を有し、撮像装置1000全体の制御を行う。システム制御部1007は、通信部1008を介して、画像データ等を不図示のクライアント装置に配信する。また、システム制御部1007は、通信部1008を介してクライアント装置から送信されるカメラ制御コマンドを受信し、受信したカメラ制御コマンドを解析し、カメラ制御コマンドに応じた処理を実行する。そして、システム制御部1007は、カメラ制御コマンドに対するレスポンスをクライアント装置へ送信する。例えば、システム制御部1007は、クライアント装置から受信した画質調整コマンドの指示に基づいて画像処理部1002を制御する。また、システム制御部1007は、クライアント装置から受信したPTZコマンドの指示に基づいて、パン駆動部1004、チルト駆動部1005およびズーム駆動部1003を制御する。
【0014】
また、システム制御部1007は、振れ検出部1006から取得した検出結果に基づいて、撮像装置1000に加わる振動に対して、パン駆動部1004およびチルト駆動部1005を制御し、撮像装置1000の振れを補正するPT防振の制御を行う。
防振制御には、画像処理による補正を用いた電子防振方式や、レンズ駆動等により光学的に補正を行う光学防振方式、上述のようにパン駆動部1004およびチルト駆動部1005を制御して防振を実現するPT防振と呼ばれる手法などがある。PT防振は、振幅の大きい振れに対しても補正可能であり、船上等大きな振れが発生する設置環境において特に有効である。なお、本明細書に記載された防振という用語は、振れや振れ等の物理的な振動自体を抑制することを意味するものではなく、振れや振れ等に伴う画像の像ブレを補正することを意味する。
また、システム制御部1007は、画像処理部1002から取得した被写体の検出結果に基づいて、被写体を追いかけるようにパン駆動部1004、チルト駆動部1005およびズーム駆動部1003を制御する自動追尾の制御を行う。すなわち、自動追尾制御では、被写体が常に画面中心の位置になるようにパンチルト制御を行い、当該被写体が撮像画角内の所定サイズで写るようにズーム制御を行う。
【0015】
<パンチルト駆動>
次に、
図2を参照してパンチルト駆動について説明する。
図2(a)は、撮像装置1000を上面から見た図であり、
図2(b)は撮像装置1000を側面から見た図である。撮像装置1000は、ベース(基台)部であるボトムケース1101と、ターンテーブル1102と、カメラヘッド支柱1103と、カメラヘッド1104とを有する。
図2を参照して、
図1に示すパン駆動部1004およびチルト駆動部1005と各部との関係について説明する。パン駆動部1004は、ボトムケース1101とターンテーブル1102で構成される。ターンテーブル1102が鉛直軸を中心軸として回転することにより、パンニング方向の駆動が行われる。本実施形態のパン駆動部1004は、
図2(a)に示すように、パンニング方向に-175度から+175度まで回転することができる。なお、以下の記載において、ボトムケース1101の下面(底面)1101aを接地面と称する。
【0016】
チルト駆動部1005は、ターンテーブル1102上のカメラヘッド支柱1103とカメラヘッド1104で構成される。カメラヘッド1104が鉛直軸に直交する軸(
図2(b)の紙面に垂直な軸)を中心軸として回転することにより、チルティング方向の駆動が行われる。本実施形態のチルト駆動部1005は、パンニング方向を0度として斜め下方向-45°から真上方向+90度まで回転することができる。
このように本実施形態の撮像装置1000は、カメラヘッド1104をパンニング方向およびチルティング方向に回転することで撮影方向を変えて撮影することができる。また、パン駆動部1004およびチルト駆動部1005を用いて、振れ検出部1006で検出した振れをキャンセルするようにカメラヘッド1104を駆動することで、振れを低減した画像を撮影することができる。なお、本実施形態のパンニング方向およびチルティング方向の駆動範囲は一例であり、上記した駆動範囲に限られるものではない。
【0017】
<PT防振制御中のカメラヘッドの動き>
次に、
図3を参照してPT防振制御中のカメラヘッド1104の動きを説明する。
図3において、直線の矢印2001は、撮像装置1000の撮影方向を示す。カメラヘッド1104Aは、振れがない状態のカメラヘッド1104の状態を示す。カメラヘッド1104Bは、振れにより接地面1101aが前方に傾いた場合にチルト補正をしたカメラヘッド1104の状態を示す。カメラヘッド1104Cは、振れにより接地面1101aが後方に傾いた場合にチルト補正をしたカメラヘッド1104の状態を示す。
振れがない状態では、カメラヘッド1104Aは水平方向を向き、矢印2001で示す撮影方向を撮影している。撮像装置1000が接地面の振れにより前方に傾いた場合には、カメラヘッド1104Bで示すように、チルト角度を上方向に制御することで、矢印2001で示す撮影方向を維持する。撮像装置1000が接地面の振れにより後方に傾いた場合には、カメラヘッド1104Cで示すように、チルト角度を下方向に制御することで、矢印2001で示す撮影方向を維持する。
このようにPT防振制御では、接地面の振れによる撮像装置1000の傾きを振れ検出部1006で検出し、撮影方向を維持するようにパン駆動部1004およびチルト駆動部1005を制御することで、振れを低減した画像撮影する。
【0018】
<像ブレ補正処理>
次に、
図4のフローチャートを参照してパンチルト駆動部による像ブレ補正処理(PT防振処理)を説明する。なお、SはStepの略である。
図4のフローチャート(PT防振処理)は、撮像装置1000における撮影開始と同時に開始される。
S1001において、システム制御部1007は、振れ検出部1006で検出したパン方向の角速度およびチルト方向の角速度を取得する。
S1002において、システム制御部1007は、S1001で取得した角速度を角度値に変換する角度変換処理を行う。システム制御部1007は、取得したパン方向の角速度を時間積分してパン振れ角度値を算出すると共に、取得したチルト方向の角速度を時間積分してチルト振れ角度値を算出する。
【0019】
S1003において、システム制御部1007は、S1002において算出した振れ角度値から振れ補正角度を算出するための振れ補正角度算出処理を行う。システム制御部1007は、算出したパン振れ角度値からパン方向の振れ補正角度を算出すると共に、算出したチルト振れ角度値からチルト方向の振れ補正角度を算出する。システム制御部1007は、振れにより発生した角度分をキャンセルするよう振れ補正角度を算出する。例えば、パン振れ角度値0.1度の場合、パン方向の振れ補正角度は-0.1度とする。
S1004において、システム制御部1007は、S1003で算出したパン方向およびチルト方向の補正角度に応じて、パン駆動部1004およびチルト駆動部1005に駆動指示を行う。
このように本実施形態のPT防振処理では、検出したパン方向およびチルト方向それぞれの振れに応じて、振れをキャンセルするようにパンチルト駆動部1004を制御し振れを補正する。
【0020】
<撮像装置のハードウェア構成>
次に、撮像装置の1000のハードウェア構成について説明する。
図5は、撮像装置1000のハードウェア構成を示している。撮像装置1000は、CPU151と、ROM152と、RAM153と、通信部154と、撮像デバイス155と、入力部156と、外部メモリ157とを有する。撮像装置1000の各部(151~157)はバス158により相互に接続されている。
CPU151は、撮像装置1000を統括制御する制御装置である。CPU151は、各構成部(152~157)を制御する。
ROM152は、CPU151が処理を実行するために必要なプログラム等を記憶する。CPU151が、ROM152に記憶されたプログラムに基づき処理を実行することにより、撮像装置1000の上述した機能構成や処理ステップ(
図4、
図6、
図8、
図11、
図13)等が実現される。なお、当該プログラム等は、外部メモリ157や着脱可能な記憶媒体(図示せず)に記憶されてもよい。
RAM153は、CPU151がROM152から読み出したプログラムを展開し、処理を実行するためのメモリである。また、RAM153は、一時記憶メモリとして各種処理の対象となるデータを一時記憶するための記憶領域としても使用される。
【0021】
通信部154は、ネットワーク3000を介してクライアント装置と通信を行う回路である。例えば、通信部154は、外部へ撮影画像や情報を送信する際に使用される。通信部154は、例えば、無線LANインタフェースである。
撮像デバイス155は、被写体を動画および静止画として撮影する画像センサを有するデバイスである。撮像デバイス155は、画角や撮影方向等の撮影条件を調整することができる。また、撮像デバイス155は、パン、チルトおよびズーム機構を有し、CPU151の制御によって、パン、チルトおよびズーム(望遠制御/広角制御)動作を実行する。
撮像デバイス155は、レンズ等の光学系の部材や、CMOSイメージセンサやCCDイメージセンサを有しており、被写体を撮影して、映像を取得する。撮像デバイス155は、例えば、1秒間に30フレーム分の画像を取得して、30fps(frame per second)の動画像を取得することができる。本実施形態では、撮像デバイス155(撮像部1001)は、撮像デバイス155から取得したビデオ画像をH.264等のネットワーク配信可能なデジタル画像データに変換する(符号化する)機能も備えている。
【0022】
入力部156は、電源ボタンやテンキーなどから構成される。撮像装置1000のユーザは、入力部156を介して撮像装置1000に指示を与えることができる。入力部156は、ユーザインタフェースと称されることもある。例えば、撮像装置1000のユーザは、入力部156を介して撮像装置1000の位置情報をROM152または外部メモリ(図示せず)に入力することができる。
外部メモリは、例えば、CPU151がプログラムを用いた処理を実行する際に必要な各種データや情報などを記憶する。また、外部メモリには、CPU151がプログラムを用いた処理を実行することにより得られた各種データや情報などが記憶される。
【0023】
<被写体検出処理>
次に、
図6のフローチャートを参照して自動追尾における被写体検出処理を説明する。
図6のフローチャート(被写体検出処理)は、撮像装置1000における自動追尾の開始と同時に開始される。
S2001において、画像処理部1002は、追尾対象の被写体を検出する。被写体の検出には、例えば、フレーム間差分を用いる。フレーム間差分では、撮像画像の連続するフレーム間の差分を抽出して動体を検出する。なお、被写体の検出の手法はフレーム間差分に限定されない。例えば、一定期間取得した撮像画像中の静止箇所を抽出した背景画像を生成し、当該背景画像と現在画像との差分を抽出することにより動体を検出する背景差分方式を用いてもよい。また、予め追尾対象となる被写体(例えば、船舶等)が撮影された一定量のデータから追尾対象となる被写体の特徴を捉え学習し、その学習データを基に撮像画像中の被写体を検出する機械学習方式を用いてもよい。
【0024】
S2002において、画像処理部1002は、追尾対象の被写体の位置と大きさを算出する。
ここで、
図7を参照して被写体検出処理における被写体の位置と大きさの計算方法を説明する。
図7において、符号3001Aは撮像画角を示し、符号3002Aは追尾対象の被写体を示している。また、X1は被写体領域の水平方向左側座標を示し、X2は被写体領域の水平方向右側座標を示し、Y1は被写体領域の垂直方向上側座標を示し、Y2は被写体領域の垂直方向下側座標を示す。また、X3は被写体中心水平座標を示し、Y3は被写体中心垂直座標を示し、Y4は被写体の垂直方向の大きさを示す。
例えば、撮像解像度が水平方向1920ピクセル、垂直方向1080ピクセルとし、撮像画像における位置を、水平方向と垂直方向の2次元座標で表し、左上端点を原点、つまり0位置とする。かかる前提の下、S2001において検出した被写体が、水平方向についてはX1の1280ピクセルからX2の1600ピクセルまで、垂直方向についてはY1の592ピクセルからY2の728ピクセルまでで囲まれた矩形領域に存在したとする。このとき、検出被写体の中心座標水平方向X3は、1280+(1600-1280)/2=1440ピクセルとなる。検出被写体の中心座標垂直方向Y3は、592+(728-592)/2=660ピクセルとなる。また検出被写体の垂直方向の大きさY4は、728-592=136ピクセルとなる。画像処理部1002は、このように検出した被写体の中心座標および垂直方向の大きさを求め、システム制御部1003に出力する。
【0025】
<画角決定処理>
次に、
図8のフローチャートを参照して自動追尾における画角決定処理を説明する。本処理は、撮像装置1000における自動追尾の開始と同時に開始される。
S3001において、システム制御部1007は、画像処理部1002より追尾対象の被写体検出結果を取得する。
S3002において、システム制御部1007は、取得した被写体検出結果である被写体の中心位置および大きさに基づいて、追尾画角、つまり追尾のためのパンチルト位置およびズーム画角を算出する。
ここで、
図9を参照して自動追尾における画角計算方法について説明する。
図9において、符号3001Aは撮像画角を示し、符号3001Bは追尾画角を示し、符号3002Aは追尾対象の被写体を示している。X0は撮像中心水平座標を示し、Y0は撮像中心垂直座標を示し、X3は被写体中心水平座標を示し、Y3は被写体中心垂直座標を示す。X5は被写体中心と撮像中心の水平方向の差分を示し、Y5は被写体中心と撮像中心の垂直方向の差分を示す。Y4は被写体の垂直方向の大きさを示し、Y6は追尾画角の垂直方向の大きさを示す。
例えば、撮像解像度が水平方向1920ピクセル、垂直方向1080ピクセルとし、現在の撮像画角が水平方向6.4度、垂直方向3.6度とする。また、現在のパン位置が5度であり、現在のチルト位置が2度とする。撮像画像における位置を水平方向と垂直方向の2次元座標で表し、左上端点を原点、つまり0位置とすると、撮像中心の水平座標X0は960ピクセルとなり、垂直座標Y0は540ピクセルとなる。また、被写体検出処理で説明した通り、被写体中心の水平座標X3は1440ピクセルであり、垂直座標Y3は660ピクセルであり、被写体の垂直方向の大きさY4は136ピクセルであるとする。
このとき、撮像画像の中心位置から被写体中心位置との水平方向の差分X5は、1440-960=480ピクセルとなる。これを撮像画角より角度に換算すると、差分X5は、480×3.2/1920=0.8度となる。これより、追尾のパン位置は、現在のパン位置から上記差分を加えて、5+0.8=5.8度となる。
同様に、撮像画像の中心位置から被写体中心位置との垂直方向の差分Y5は、660-540=120ピクセルとなる。これを撮像画角より角度に換算すると、差分Y5は、120×1.8/1080=0.2度となる。これより、追尾のチルト位置は、現在のチルト位置から上記差分を加えて、2+0.2=2.2度となる。
【0026】
また、被写体の垂直方向の大きさY4から追尾画角を決定する。例えば、追尾時に被写体の大きさが撮像画角の1/3となるように追尾画角を設定すると、追尾画角垂直方向の大きさY6は、136÷1/3=408ピクセルとなる。これを撮像画角に換算すると、 Y6は、408×3.6/1080=1.36度となる。
以上より、追尾画角は、パン位置5.8度、チルト位置2.2度、垂直方向の画角が1.36度と算出される。
図8に戻る。S3003において、システム制御部1007は、振れ補正後に残存する振れ残り角度を算出する。振れ残り角度は、検出した振れ角度と実際に振れを補正したパンチルト角度との差分から算出する。例えば、チルト振れ検出角度が-5度のとき、チルト振れ補正角度は5度となる。防振制御においてパンチルト駆動部の応答性を超える大きい振れが発生した場合には、振れ補正しきれない状態となる。振れ補正しきれず、チルト振れ補正角度に対してチルトが実際に動作した角度をエンコーダより検出し、これが3度であるとする。このとき、チルト方向の振れ残り角度は、5-3=2度となる。
【0027】
S3004において、システム制御部1007は、振れ残り角度より撮像画角限度を算出する。
ここで、
図10を参照して自動追尾における振れ残り発生時の撮像画角限度について説明する。
図10において、符号3001Cは撮像画角を示し、符号3001Dは撮像画角限度を示し、符号3002Cは追尾対象の被写体を示す。また、A1はチルト方向振れ残り角度を示し、A2は被写体の垂直方向の大きさの半分の換算角度を示し、A3は垂直方向の撮像画角限度を示す。
例えば、撮像画角の垂直方向が3.6度、撮像解像度の垂直方向が1080ピクセルとし、チルト方向の振れ残り角度A1が2度であり、被写体の垂直方向の大きさが136ピクセルとする。
被写体の垂直方向の大きさの半分は、136÷2=68ピクセルとなる。これを角度換算したA2は、68×3.6/1080=0.22度となる。振れ残りが生じたときにも被写体全体が画角に含まれる最低限の画角は、振れ残り角度A1および被写体の大きさの半分の換算角度A2を基に、(2+0.22)×2=4.44度となる。これに対し、画角の上下余白を含めたマージン1.2倍をとるとすると、垂直方向の撮像画角限度A3は、 4.44×1.2=5.328度となる。
【0028】
図8に戻る。S3005において、システム制御部1007は、S3002で求めた垂直方向の追尾画角がS3004で求めた撮像画角限度
以下か否か、換言すれば、撮像画角限度を超えるか否かを判定する。追尾画角が撮像画角限度
以下で
ない場合、換言すれば、追尾画角が撮像画角限度を超える場合
(S3005でNO)、システム制御部1007はS3006の処理に進む。追尾画角が撮像画角限度
以下で
ある場合
(S3005でYES)、換言すれば、追尾画角が撮像画角限度を超えない場合、システム制御部1007は
追尾画角をS3002で求めた追尾画角に設定してS3007の処理に進む。
S3006において、システム制御部1007は、追尾画角をS3004で求めた撮像画角限度に制限して設定する。
S3007において、システム制御部1007は、設定された追尾画角にパン駆動部1004、チルト駆動部1005およびズーム制御部1003を制御する。
【0029】
<第1実施形態の効果>
本実施形態では、パンチルト機構を用いて防振を行うPT防振と、パンチルトズームを用いて被写体を追いかけるよう制御する自動追尾を備えた撮像装置において、PT防振中の自動追尾の際に、振れ残り角度から撮像画角限度を求める。次いで、その撮像画角限度を基に追尾画角を決定することで、PT防振で振れ残りが生じた場合も追尾対象が画角から外れてしまうことを低減し、追尾に適した画角で撮影することができる。
なお、本実施形態では、撮像画角限度をチルト方向の振れ残りおよび被写体の垂直方向の大きさを基に決めたが、撮像画角限度の決定方法はこれに限定されない。例えば、パン方向の振れ残りおよび被写体の水平方向の大きさを基に、撮像画角限度を決めてもよい。あるいは、パン方向およびチルト方向の振れ残りと、被写体の水平方向と垂直方向の大きさの両方を基に、撮像画角限度を決めてもよい。
【0030】
第2実施形態
第2実施形態では、PT防振制御の振れ残り時間を考慮したズーム制御を行う形態について説明する。装置構成(
図1乃至
図3および
図5)については、第1実施形態と同様であるため説明は省略する。第1実施形態と同様な構成や処理については、同様な参照符号を付ける。
第1実施形態では、振れ残り角度に基づいて撮像画角限度を求め、撮像画角限度に基づいて追尾画角を決定する方法を示したが、振れ残り角度が変動する場合、振れ残り角度の変動に連動してズームを頻繁に制御することになる。画角が頻繁に変化すると、視認性の悪い映像となってしまう。
そこで、第2実施形態では、振れ残り角度と振れ残り時間に基づいて撮像画角を決定する。例えば、振れ残りが発生しワイド側(一番短い焦点距離側)で撮影している状態から振れ残りが収まってすぐにテレ側(一番長い焦点距離側)にズーム制御するのではなく、所定時間待ってからテレ側にズームするようにする。
あるいは、逆に振れ残りがなくテレ側で撮影している状態から、短時間の瞬間的な振れ残りであればワイド側にズーム制御しないようにする。このように、第2実施形態においては、振れ残りの発生時間や振れ残りの解消時間を考慮してズーム制御を行う。それによって、振れ残り角度が変動する場合でも、頻繁にズーム制御することにより視認性の悪い映像となることをさらに低減し、追尾に適した画角で撮影することができる。
【0031】
<画角決定処理>
図11のフローチャートを参照して第2実施形態における画角決定処理を説明する。
図11のフローチャート(画角決定処理)は、撮像装置1000における自動追尾の開始と同時に開始される。
S4001において、システム制御部1007は、画像処理部1002より追尾対象の被写体検出結果を取得する。
S4002において、システム制御部1007は、取得した被写体検出結果の被写体の位置および大きさを検出に基づいて、追尾画角、つまり追尾のためのパンチルト位置およびズーム画角を算出する。
S4003において、システム制御部1007は、振れ残り角度を算出する。第1実施形態での説明と同様に、例えば、チルト方向の振れ残り角度は2度とする。
S4004において、システム制御部1007は、振れ残り角度より撮像画角限度を算出する。
S4005において、システム制御部1007は、振れ残りが発生しているか否かを判定する。例えば、システム制御部1007は、算出した振れ残り角度の振幅が所定値以上の場合、振れ残りが発生していると判定する。振れ残りが発生している場合、システム制御部1007は、S4006の処理に進む。振れ残りが発生していない場合、システム制御部1007は、S4008の処理に進む。
S4006において、システム制御部1007は、振れ残り発生時間を算出する。例えば、システム制御部1007は、S4005において振れ残りが発生していると判定された時点から振れ残り発生と判定した状態が継続している時間を計測する。
S4007において、システム制御部1007は、振れ残り発生時間が第1の所定時間(発生時間閾値)以上か否かを判定する。振れ残り発生時間が第1の所定時間以上である場合、換言すれば、振れ残り発生時間が発生時間閾値を越える場合、システム制御部1007は、S4010の処理に進む。振れ残り発生時間が第1の所定時間以上ではない場合、換言すれば、振れ残り発生時間が発生時間閾値を超えない場合、システム制御部1007は、S4012の処理に進む。
【0032】
S4008において、システム制御部1007は、振れ残り解消時間を算出する。例えば、システム制御部1007は、S4005において振れ残りが発生していないと判定された時点から振れ残りが発生していないと判定した状態が継続している時間を計測する。
S4009において、システム制御部1007は、振れ残り解消時間が第2の所定時間(解消時間閾値)以上か否かを判定する。振れ残り解消時間が第2の所定時間以上ではない場合、換言すれば、振れ残り解消時間が解消時間閾値を越えない場合、システム制御部1007はS4010の処理に進む。振れ残り解消時間が第2の所定時間以上である場合、換言すれば、振れ残り解消時間が解消時間閾値を越えた場合、システム制御部1007はS4012の処理に進む。
S4010において、システム制御部1007は、追尾画角が撮像画角限度未満か否かを判定する。追尾画角が撮像画角限度未満である場合、換言すれば、追尾画角が撮像画角限度を超える場合、システム制御部1007はS4011の処理に進む。追尾画角が撮像画角限度未満ではない場合、換言すれば、追尾画角が撮像画角限度を超えない場合、システム制御部1007はS4012の処理に進む。
S4011において、システム制御部1007は、追尾画角をS4004で求めた撮像画角限度に制限して設定する。
S4012において、システム制御部1007は、設定された追尾画角にパン駆動部1004、チルト駆動部1005およびズーム制御部1003を制御する。
このように、第2実施形態では、振れ残り発生時間および振れ残り解消時間は、ズーム制御による画角決定(S4007、S4009、S4010、S4011、S4012)の判断に用いられている。
【0033】
ここで、
図12のタイミングチャートを参照して防振制御中の振れ残り角度とズーム制御の関係を説明する。
図12(a)は、防振制御中の振れ残り角度の変化例を示すタイミングチャートであり、A1は振れ残り角度を示し、Ath振れ残り角度閾値を示し、Tth1は振れ残り発生時間閾値を示し、Tth2振れ残り解消時間閾値を示す。
図12(b)は、防振制御中の追尾画像角の変化例を示すタイミングチャートであり、A3は撮像画角を示し、Z1は振れ残り解消時の追尾画角を示し、Z2は振れ残り発生時の追尾画角を示す。
図12(a)において、時刻t1からt2の期間は、振れ残り角度が振れ残り角度閾値Athを超え、振れ残りが発生している状態を示している。しかし、時刻t1からt2の期間の振れ残り発生時間は、振れ残り発生時間閾値Tth1未満である。したがって、この場合、撮像画角のズーム制御は行わない。
時刻t3を過ぎると再度、振れ残りが発生している状態となる。振れ残りの発生は、時刻t4を超えて継続し、振れ残り発生時間は、振れ残り発生時間閾値Tth1以上となる。この場合、時刻t4のタイミングで撮像画角のズーム制御を行う。
時刻t5からt6の期間は、継続していた振れ残りが解消されている状態を示している。時刻t5からt6の振れ残り解消時間は、振れ残り解消時間閾値Tth2未満である。したがって、この場合、撮像画角のズーム制御は行わない。
時刻t7を過ぎると再度、振れ残りが解消されている状態となる。振れ残りの解消は、時刻t8を超えて継続し、振れ残り解消時間は、振れ残り解消時間閾値Tth2以上となる。そのため、時刻t8のタイミングで撮像画角のズーム制御を行う。
【0034】
<第2実施形態の効果>
本実施形態では、PT防振中の自動追尾の際に、振れ残り角度に加えてその振れ残り発生時間、または振れ残り解消時間を基にズーム制御する。これにより、PT防振で振れ残りが生じた場合も追尾対象が画角から外れてしまうことを低減できる。さらに、振れ残り角度が変動する場合でも、頻繁にズームを制御することにより視認性の悪い映像となることを低減し、より追尾に適した画角で撮影することができる。
なお、本実施形態では、時間閾値を固定値としたが、時間閾値は固定値でなくともよい。例えば、時間閾値を振れ残りの状況に応じて変更してもよい。例えば、過去のPT制御のデータ等から、振れ残りが多いと判断できる場合、一度振れ残りが収まっても再度振れ残りが発生する可能性が高い。そのため、過去のPT制御のデータ等に基づいて、振れ残り解消時間閾値を長くしてもよい。
このように、振れ残りの過去の発生状況に応じて時間閾値を変更することにより、振れ残り角度が変動する場合でも、頻繁にズームを制御することにより視認性の悪い映像となることをさらに低減し、より追尾に適した画角で撮影することができる。
【0035】
第3実施形態
第3実施形態では、電子ズームを利用した形態について説明する。装置構成(
図1乃至
図3および
図5)については、第1実施形態と同様であるため説明は省略する。第1実施形態と同様な構成や処理については、同様な参照符号を付ける。
第1実施形態では、振れ残り角度に基づいて撮像画角限度を求め、撮像画角限度に基づいて追尾画角を決定する方法を示したが、振れ残り角度が頻繁に変動する場合、当該変動に連動してズームを頻繁に制御することになる。画角が頻繁に変化すると、視認性の悪い映像となってしまう。そこで、第3実施形態では、振れ残り角度に基づいて撮像画角限度を決定し、追尾画角が撮像画角限度で制限される場合には、広角に制限した画角から元の追尾画角になるよう電子ズーム制御を行い、見た目上の画角が変動しないように制御する。これにより振れ残り角度が変動する場合でも、頻繁にズーム制御することにより視認性の悪い映像となることを低減し、より追尾に適した画角で撮影することができる。
【0036】
<画角決定処理>
図13のフローチャートを参照して第3実施形態における画角決定処理を説明する。
図13のフローチャート(画角決定処理)は、撮像装置1000における自動追尾の開始と同時に開始される。
S5001において、システム制御部1007は、画像処理部1002より追尾対象の被写体検出結果を取得する。
S5002において、システム制御部1007は、取得した被写体検出結果の被写体の位置および大きさを検出に基づいて、追尾画角、つまり追尾のためのパンチルト位置およびズーム画角を算出する。
S5003において、システム制御部1007、振れ残り角度を算出する。
S5004において、システム制御部1007は、振れ残り角度より撮像画角限度を算出する。
S5005において、システム制御部1007は、追尾画角が撮像画角限度未満か否かを判定する。追尾画角が撮像画角限度未満である場合、換言すれば、追尾画角が撮像画角限度を超える場合、システム制御部1007は、S5006の処理に進む。追尾画角が撮像画角限度未満ではない場合、換言すれば、追尾画角が撮像画角限度を超えない場合、システム制御部1007は、S5009の処理に進む。
S5006において、システム制御部1007は、追尾画角をS5004で求めた撮像画角限度に制限して設定する。
S5007において、システム制御部1007は、電子ズーム率を算出する。
【0037】
ここで、
図14の説明図を参照して第3実施形態における画角計算方法を説明する。
図14において、A4は撮像画角限度を示し、A5は追尾画角を示す。例えば、撮像画角限度A4が5.328度であり、追尾画角A2が4.8度であるとする。このとき追尾画角のズーム駆動部の制御位置としては、追尾画角が撮像画角限度未満であるため、撮像画角は撮像画角限度で制限される。ここで、撮像画角限度A4から見た目が元の追尾画角A5と同じとなるような電子ズーム倍率は、5.328/4.8=1.11倍となる。
図13に戻る。S5008において、システム制御部1007は、S5007で算出した電子ズーム率を画像処理部1002に指示する。画像処理部1002は、指示された電子ズーム率の画像処理を行う。
S5009において、システム制御部1007は、設定された追尾画角にパン駆動部1004、チルト駆動部1005およびズーム制御部1003を制御する。
【0038】
<第3実施形態の効果>
本実施形態では、PT防振中の自動追尾の際に、振れ残り角度に基づいて撮像画角限度を決定する。その際、追尾画角が撮像画角限度で制限される場合には、広角に制限した画角から元の追尾画角になるよう電子ズームを制御する、すなわち電子ズーム制御を行うことで、見た目上の画角が変動しないようにすることができる。これにより振れ残り角度が変動する場合でも、頻繁にズーム制御することにより視認性の悪い映像となることを低減し、より追尾に適した画角で撮影することができる。
【0039】
<その他の実施形態>
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形および変更が可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワークまたは記憶媒体を介してシステムまたは装置に供給し、そのシステムまたは装置のコンピュータにおける1つ以上のプロセッサがプログラムを読み出し実行する処理でも実行可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。ASICは、Application Specific Integrated Circuitの略である。
【符号の説明】
【0040】
1000…撮像装置、1001…撮像部、1002…画像処理部、1003…ズーム駆動部、1004…パン駆動部、1005…チルト駆動部、1006…振れ検出部、1007…システム制御部