(58)【調査した分野】(Int.Cl.,DB名)
異なる時刻に撮像された画像列から、画像特徴量に基づいて被写体領域をそれぞれ抽出し、抽出された被写体領域同士が同じ被写体による被写体領域であるか否かを判定するための条件を示す抽出情報と、被写体領域を撮像するための設定を示す撮像情報とを、抽出された被写体領域にそれぞれ対応付ける領域抽出部と、
前記画像列の第1画像からフレームアウトした被写体領域と、前記画像列の第2画像にフレームインした被写体領域とが、同じ被写体による被写体領域であるか否かを、前記抽出情報に基づいて判定し、同じ被写体による被写体領域であると判定した場合、前記第2画像にフレームインした被写体領域を撮像するための前記撮像情報として、前記第1画像からフレームアウトした被写体領域に対応付けられた前記撮像情報を選択する領域判定部と、
を備えることを特徴とする領域判定装置。
前記領域抽出部は、露光量、ゲイン及び階調カーブのうち少なくとも一つを、前記撮像情報として被写体領域に対応付けることを特徴とする請求項1又は請求項2に記載の領域判定装置。
前記領域抽出部は、被写体に対する撮像装置の動作、移動又は向きのうち少なくとも一つを表すアクション情報を、前記撮像情報として被写体領域に対応付けることを特徴とする請求項1から請求項3のいずれか一項に記載の領域判定装置。
前記領域抽出部は、撮像された被写体領域の色情報を、前記抽出情報として被写体領域に対応付けることを特徴とする請求項1から請求項5のいずれか一項に記載の領域判定装置。
前記領域判定部は、前記抽出情報であるズーム倍率に基づいて、前記同じ被写体の被写体領域であるか否かを判定することを特徴とする請求項1から請求項6のいずれか一項に記載の領域判定装置。
前記領域判定部は、前記第1画像が撮像された時刻から、前記第2画像が撮像された時刻までが、予め定められた時間内である場合、前記同じ被写体の被写体領域であるか否かを判定することを特徴とする請求項1から請求項7のいずれか一項に記載の領域判定装置。
前記領域判定部は、前記抽出情報が被写体領域同士で一致している度合いに基づいて、同じ被写体の被写体領域であるか否かを判定することを特徴とする請求項8に記載の領域判定装置。
【発明を実施するための形態】
【0011】
本発明の一実施形態について図面を参照して詳細に説明する。
図1には、レンズ鏡筒と、撮像装置と、記憶媒体との構成が、ブロック図により表されている。撮像装置100は、レンズ鏡筒111から入射される光学像を撮像し、静止画形式の画像、又は動画形式の画像列を、記憶媒体200に記憶させる。
【0012】
まず、レンズ鏡筒111の構成を説明する。
レンズ鏡筒111は、焦点調整レンズ(以下、「AF(Auto Focus)レンズ」という)112と、レンズ駆動部116と、AFエンコーダ117と、鏡筒制御部118を備える。なお、レンズ鏡筒111は、撮像装置100に着脱可能に接続されてもよいし、撮像装置100と一体であってもよい。
【0013】
AFレンズ112は、レンズ駆動部116により駆動され、撮像部110(後述)の撮像素子119の受光面(光電変換面)に、光学像を導く。
【0014】
AFエンコーダ117は、AFレンズ112の移動を検出し、AFレンズ112の移動量に応じた信号を、鏡筒制御部118に出力する。ここで、AFレンズ112の移動量に応じた信号とは、例えば、AFレンズ112の移動量に応じて位相が変化するサイン(sin)波信号であってもよい。
【0015】
鏡筒制御部118は、撮像装置100のCPU190(後述)から入力される駆動制御信号に応じて、レンズ駆動部116を制御する。ここで、駆動制御信号とは、AFレンズ112を光軸方向に駆動させる制御信号である。鏡筒制御部118は、駆動制御信号に応じて、例えば、レンズ駆動部116に出力するパルス電圧のステップ数を変更する。
【0016】
また、鏡筒制御部118は、AFレンズ112の移動量に応じた信号に基づいて、レンズ鏡筒111におけるAFレンズ112の位置(フォーカスポジション)を、撮像装置100のCPU190に出力する。ここで、鏡筒制御部118は、例えば、AFレンズ112の移動量に応じた信号を、AFレンズ112の移動方向に応じて積算することで、レンズ鏡筒111におけるAFレンズ112の移動量(位置)を算出してもよい。
【0017】
レンズ駆動部116は、鏡筒制御部118の制御に応じてAFレンズ112を駆動し、AFレンズ112をレンズ鏡筒111内で光軸方向に移動させる。
【0018】
次に、撮像装置100の構成を説明する。
撮像装置100は、撮像部110と、画像処理部140と、領域判定装置141と、表示部150と、バッファメモリ部130と、操作部180と、記憶部160と、CPU190と、通信部170とを備える。
【0019】
撮像部110は、撮像素子119と、A/D(Analog/Digital)変換部120とを備える。撮像部110は、設定された撮像条件(例えば、絞り値、露光量)に基づいて、CPU190により制御される。
【0020】
撮像素子119は、光電変換面を備え、レンズ鏡筒111(光学系)により光電変換面に結像された光学像を電気信号に変換して、A/D変換部120に出力する。撮像素子119は、例えば、CMOS(Complementary Metal Oxide Semiconductor)で構成されていてもよい。また、撮像素子119は、光電変換面の一部の領域について、光学像を電気信号に変換するようにしてもよい(画像切り出し)。
【0021】
また、撮像素子119は、操作部180を介してユーザからの撮影指示を受け付けた際に得られる画像を、A/D変換部120を介して記憶媒体200に記憶させる。一方、撮像素子119は、操作部180を介してユーザからの撮影指示を受け付けていない状態において、連続的に得られる画像をスルー画像として、バッファメモリ部130及び表示部150に、A/D変換部120を介して出力する。
【0022】
A/D変換部120は、撮像素子119によって変換された電気信号をデジタル化して、デジタル信号である画像をバッファメモリ部130に出力する。
【0023】
操作部180は、例えば、電源スイッチ、シャッタボタン、マルチセレクタ(十字キー)、又はその他の操作キーを備え、ユーザによって操作されることでユーザの操作入力を受け付け、受け付けた操作入力に応じた信号をCPU190に出力する。
【0024】
画像処理部140は、記憶部160に記憶されている画像処理条件に基づいて、バッファメモリ部130に一時的に記憶されている画像を画像処理する。画像処理された画像は、通信部170を介して記憶媒体200に記憶される。
【0025】
領域判定装置141は、バッファメモリ部130に一時的に記憶されている画像列から、画像特徴量に基づいて被写体領域を抽出する。また、領域判定装置141は、抽出した被写体領域について、第1画像からフレームアウトした被写体領域と、この第1画像とは異なる時刻に撮像された第2画像にフレームインした被写体領域とが、同じ被写体による被写体領域であるか否かを、被写体領域に対応付けた属性情報(属性データ)に基づいて判定する。
【0026】
この属性情報には、抽出された被写体領域同士が同じ被写体による被写体領域であるか否かを判定するための条件を示す抽出情報と、被写体領域を撮像するための設定を示す撮像情報とがある。
【0027】
抽出情報には、例えば、被写体領域の輝度と、被写体領域の色情報と、被写体領域のテクスチャと、被写体領域の面積と、被写体領域に外接する矩形と、その矩形に対する被写体領域の占有率と、画像フレームにおける被写体領域の重心位置と、画角中心から被写体領域までの距離と、被写体領域の慣性モーメントと、被写体領域のAF評価値(例えば、コントラスト、位相差)と、被写体領域の境界(エッジ)を表す情報と、ズーム倍率と、画像における被写体領域の動きと、被写体領域が背景による被写体領域であるか否かを示す情報と、センサにより測定された撮像装置の向き(例えば、撮像装置100に対する被写体の向き)を示す情報とがある。例えば、抽出された被写体領域同士が同じ被写体による被写体領域であるか否かは、被写体領域同士の抽出情報の近似度に基づいて判定されてもよい。
【0028】
また、撮像情報には、例えば、合焦位置(焦点距離)と、絞り値と、露光量と、アクション情報(アクションデータ)とがある。ここで、アクション情報とは、被写体に対して実行した撮像装置のアクション(例えば、動作、移動、向き)を表す情報である。例えば、アクション情報は、画像にフレームインした複数の被写体領域に順次合焦させるための優先度を定めるために参照されてもよい。
【0029】
領域判定装置141は、被写体領域に対応付けた属性情報(抽出情報、撮像情報)を記憶部160に記憶させる。また、領域判定装置141は、バッファメモリ部130に一時的に記憶されている画像から抽出した被写体領域に、被写体領域に合焦させるための優先度を設定する。領域判定装置141の詳細については、後述する。
【0030】
表示部150は、撮像部110によって得られた画像、及び操作画面等を表示する。表示部150は、例えば、液晶ディスプレイである。
【0031】
バッファメモリ部130は、撮像部110によって撮像された画像を、一時的に記憶する。
【0032】
記憶部160は、シーン判定の際にCPU190によって参照される判定条件と、シーン判定によって判断されたシーン毎に対応付けられた撮像条件と、被写体領域毎に定まる属性情報(抽出情報、撮像情報)とを記憶する。
【0033】
CPU190は、設定された撮像条件(例えば、絞り値、露光量)に基づいて、撮像部110を制御する。また、CPU190は、領域判定装置141から属性情報(抽出情報、撮像情報)を取得する。
【0034】
CPU190は、撮像情報に基づいて、画像処理のプレ処理又はポスト処理として、焦点調整(AF)の設定、露出調整(AE)の設定、ホワイトバランス調整(AWB)の設定、被写体像(オブジェクト)の追尾の設定、夜景か否かの判定の設定、色補正処理の設定、被写体像の拡大表示の設定、パンニング表示の設定、ズーム倍率に連動した明るさの最適化の設定、などを制御する。また、CPU190は、撮像情報に基づいて、トーンカーブ(階調カーブ)の設定、静止画及び動画による同時撮像を実行するか否かの設定などを制御する。
【0035】
また、CPU190は、撮像情報に基づいて、プレ処理又はポスト処理として、連写するか否かの設定、及び、連写において、合焦させる被写体像の切り替えの設定、焦点距離の連続変更の設定、撮像装置100の発光部(不図示)が発光する閃光の発光量の変更の設定、露光量の変更の設定、又はシャッタスピードの変更を実行するか否かの設定などを制御する。また、CPU190は、操作部180から入力された「操作入力に応じた信号」に基づいて、静止画形式又は動画形式の画像を、画像処理部140に画像処理させる。
【0036】
また、CPU190(焦点調節部)は、撮像情報に基づいてレンズ鏡筒111の鏡筒制御部118に駆動制御信号を出力することで、被写体領域に合焦させるよう焦点を調節する。
【0037】
例えば、CPU190は、第1画像からフレームアウトした被写体領域と、第2画像にフレームインした被写体領域とが同じ被写体による被写体領域である、と領域判定装置141により判定された場合、次のように動作する。
【0038】
CPU190は、撮像情報として記憶部160に記憶されている合焦位置に基づいて、第1画像からフレームアウトした被写体領域の合焦位置に、AFレンズ112を移動させることにより、第2画像にフレームインした被写体領域に合焦させる。
【0039】
また、CPU190は、抽出情報として色情報が記憶されている場合、記憶されている色情報に基づいてコントラストスキャンを実行してもよい。また、CPU190は、撮像情報として露光量が記憶されている場合、その露光量で露光するよう撮像部110を制御する。これにより、画像列は、記憶されている露光量に応じて撮像部110により撮像される。
【0040】
通信部170は、取り外し可能な記憶媒体200(カードメモリ等)と接続され、この記憶媒体200への情報(画像データ、属性情報など)の書込み、読み出し、あるいは消去を行う。
【0041】
記憶媒体200は、撮像装置100に対して着脱可能に接続される記憶部であって、情報(画像データ、属性情報など)を記憶する。なお、記憶媒体200は、撮像装置100と一体であってもよい。
【0042】
センサ500は、撮像装置100に対する被写体の方位、すなわち、領域判定装置141の向きを測定し、その測定結果を表す情報を領域判定装置141に出力する。
【0043】
次に、領域判定装置141の詳細について説明する。
領域判定装置141は、特徴量算出部142と、領域抽出部143と、領域処理部144と、優先度設定部145とを備える。
【0044】
特徴量算出部142は、撮像部110が撮像した画像を、バッファメモリ部130から取得する。また、特徴量算出部142は、バッファメモリ部130から取得した画像における複数の特徴(例えば、色相、彩度、明度、テクスチャ、エッジ)毎に、その特徴量(例えば、輝度情報に基づく特徴量、色情報に基づく特徴量)を算出し、算出した特徴量を領域抽出部142に出力する。
【0045】
領域抽出部143は、特徴量算出部142が算出した特徴量を取得する。また、領域抽出部143は、異なる時刻に撮像部110が撮像した画像列を、バッファメモリ部130から取得する。また、領域抽出部143は、取得した画像列から、画像特徴量に基づいて被写体領域を抽出する。ここで、領域抽出部143は、画像列を構成する全ての画像から被写体領域を抽出するようにしてもよいし、画像列を構成する画像に変化があった場合のみ、変化があった画像から被写体領域を抽出するようにしてもよい。
【0046】
領域抽出部143は、例えば、画像特徴量である輝度(Y)、色情報(Cr,Cb、RGB)に基づいて、被写体領域を抽出する。また、領域抽出部143は、一定範囲の画像特徴量と、その一定範囲外の画像特徴量とに2値化された画像から、被写体領域を抽出する。また、領域抽出部143は、被写体領域にラベルを割り当てる(ラベリング)。
【0047】
また、領域抽出部143は、被写体領域に対応付けた属性情報(抽出情報、撮像情報)を、記憶部160に記憶させる。ここで、領域抽出部143は、例えば、被写体領域に対する合焦位置を、撮像情報として記憶部160に記憶させる。また、領域抽出部143は、例えば、被写体領域に対する露光量、ゲイン及び階調カーブのうち少なくとも一つを、撮像情報として記憶部160に記憶させる。また、領域抽出部143は、例えば、被写体に対する撮像装置の動作、移動又は向きのうち少なくとも一つを表すアクション情報を、撮像情報として記憶部160に記憶させる。また、領域抽出部143は、例えば、センサ500により測定された撮像装置100の向きを、抽出情報として記憶部160に記憶させる。また、領域抽出部143は、例えば、被写体領域の色情報を、抽出情報として記憶部160に記憶させる。
【0048】
領域判定部144は、撮像装置100が移動(例えば、ブームアップ、ブームダウン)、又は向きを変更(例えば、パンニング、チルト)したか否かを判定する。
【0049】
また、領域判定部144は、第1画像からフレームアウトした被写体領域と、第1画像とは異なる時刻に撮像された第2画像にフレームインした被写体領域とが、同じ被写体による被写体領域であるか否かを、抽出情報に基づいて判定する。また、領域判定部144は、同じ被写体による被写体領域であると判定した場合、その同じ被写体による被写体領域に対応付けられた最新の撮像情報を選択する。
【0050】
また、領域判定部144は、抽出情報として記憶部160に記憶された、被写体領域に対するズーム倍率に基づいて、第1画像からフレームアウトした被写体領域と、第2画像にフレームインした被写体領域とが同じ被写体の被写体領域であるか否かを判定する。
【0051】
また、領域判定部144は、第1画像が撮像された時刻から、第2画像が撮像された時刻までの時間が、予め定められた時間内である場合、第1画像からフレームアウトした被写体領域と、第2画像にフレームインした被写体領域とが同じ被写体の被写体領域であるか否かを、抽出情報に基づいて判定する。また、領域判定部144は、抽出情報が被写体領域同士で一致している度合いに基づいて、第1画像からフレームアウトした被写体領域と、第2画像にフレームインした被写体領域とが同じ被写体の被写体領域であるか否かを判定する。
【0052】
図1に戻り、領域判定装置141の説明を続ける。優先度設定部145は、予め定められた条件(例えば、面積が閾値以上であること)を満たす被写体領域に、画像における「領域の優先度」を定める。この「領域の優先度」とは、人がより注目しているであろう領域の優先度である。優先度設定部144は、設定した「領域の優先度」を被写体領域に対応付けて、属性情報(抽出情報、撮像情報)として記憶部160に記憶させる。
【0053】
領域の優先度は、次のように定められてもよい。以下では、優先度を示す数字が小さいほど、領域の優先度が高いものとする。また、以下に示す優先度は、一例である。
【0054】
優先度1.
動いている領域(動いている領域が画像に複数ある場合、画角からはみ出していない領域、又は画角の中央に分布する領域)。また、パンニングしたことにより、動いている領域が画像に広く分布している場合は、動いていない領域。
これらの領域は、優先度「1」に設定される。
人は、動いている領域及びパンニングした際に変化量の少ない領域に注目するためである。
【0055】
なお、画像からフレームアウトするまで優先度1に設定されていた被写体領域が、画像に再びフレームインしたと判定された場合、その被写体領域には、優先度1が設定されるようにしてもよい。
【0056】
優先度2.
画角(構図)、奥行(パースペクト)、被写体距離(デプス、深度)に関する領域。画角の中央付近に分布する領域。画像に奥行がある場合、至近側に分布する領域のうち、画角からはみ出していない領域であって、面積が所定の範囲内である(極端に大きくない)領域。
これらの領域は、優先度「2」に設定される。
主要な被写体像の領域が、至近から無限までの広い範囲に存在する可能性があるためである。
【0057】
優先度3.
人の顔検出、動物(ペット)の顔検出、顔が検出された領域における肌色検出、動物の毛並みのテクスチャ(模様)、又は植物のテクスチャに基づいて抽出された領域。
これらの領域は、優先度「3」に設定される。
人または動物が撮像されている場合、人は、その顔に注目するためである。
【0058】
優先度4.
特異である特徴量(例えば、色相環において不連続である色相)がある領域。背景の領域とそれ以外の領域とに分割された領域。彩度が高い領域。周囲と比較して明度が著しく異なる領域。周囲と比較して色相(色合い)が著しく異なる領域。テクスチャ(模様)が周囲と異なる領域。周囲と比較して空間周波数(画像周波数)が高い領域。ある特徴量において不連続な分布が一定量あり、その特徴量に基づいてラベリングされた結果、領域が形成された場合に、画像において違和感がある領域。
これらの領域は、優先度「4」に設定される。
【0059】
優先度5.
特定の色相又は彩度に基づいて抽出された領域。
これらの領域は、優先度「5」に設定される。
人は、赤色、黄色、肌色の領域に注目するためである。
【0060】
優先度6.
明度(明暗)に基づいて抽出された領域。
これらの領域は、優先度「6」に設定される。
【0061】
優先度7.
テクスチャ(模様)に基づいて抽出された領域。
これらの領域は、優先度「7」に設定される。
【0062】
優先度8.
空間周波数(画像周波数)に基づいて抽出された領域。
これらの領域は、優先度「8」に設定される。
【0063】
優先度9.
縦又は横に延びたエッジで囲まれた領域であって、一定以上の太さがある領域。
これらの領域は、優先度「9」に設定される。
【0064】
次に、領域判定装置の処理の手順を説明する。
<被写体領域の撮像情報を撮影設定(例えば、焦点調整(コントラストAF))に活用する場合について>
図2は、被写体領域の撮像情報に基づいてコントラストAFを実行する動作手順を示すフローチャート(前半)である。また、
図3は、被写体領域の撮像情報に基づいてコントラストAFを実行する動作手順を示すフローチャート(後半)である。また、
図4には、被写体領域の撮像情報に基づいてコントラストAFを実行する動作手順を説明するための図が表されている。
【0065】
撮像部110(
図1を参照)は、動画モードに遷移し、動画形式の画像列を撮像する(ステップS1)。CPU190(
図1を参照)は、動画モードにおける合焦(AF)駆動(例えば、ウォブリング)を、仮の合焦駆動として実行する(ステップS2)。領域判定部144は、撮像装置100が移動(例えば、ブームアップ、ブームダウン)、又は向きを変更(例えば、パンニング、チルト)したか否かを判定する(ステップS3)。
【0066】
撮像装置100が移動していない、且つ、向きを変更していない場合(ステップS3−No)、領域抽出部143は、特徴量算出部142が前回算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる(ステップS4)。領域抽出部143は、有効な(例えば、面積が閾値以上である)被写体領域が画像に在るか否かを判定する。
【0067】
有効な被写体領域が画像に在る場合(ステップS5−Yes)、且つ、有効な被写体領域が複数である場合、優先度設定部145(
図1を参照)は、それら有効な被写体領域に優先度を定める(ステップS6)。CPU190は、優先度が最も高い被写体領域について、コントラストAFを実行する。本フローチャートでは、優先度が最も高い被写体領域が、被写体領域400(
図4(A)を参照)と定められたものとして説明を続ける。なお、被写体領域400には、コントラスト評価値が算出される領域である評価領域300が定められてもよい(ステップS7)。
【0068】
領域抽出部143は、被写体領域400により定まる属性情報(撮像情報)として、被写体領域400に対する合焦位置を示す情報を、記憶部160に記憶させる(ステップS8)。特徴量算出部142は、画像列における後続の画像フレームを取り込む(ステップS9)。領域抽出部143は、特徴量算出部142が前回算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる(ステップS10)。
【0069】
領域判定部144は、被写体領域400が画像の規定範囲に在るか否かを判定する。ここで、規定範囲とは、例えば、前回読み込んだ画像における被写体領域400の位置の周辺範囲、又は、画像フレーム(画角)の少し内側に定められた範囲である(
図4(B)の規定範囲600を参照)(ステップS11)。
【0070】
被写体領域400が画像の規定範囲に無い場合(ステップS11−No)、領域判定部144は、撮像装置100が移動又は向きを変更したか否かを判定する(ステップS12)。撮像装置100が移動していない、且つ、向きを変更していない場合(ステップS12−No)、特徴量算出部142は、画像列における後続の画像フレームを取り込む(ステップS13)。領域抽出部143は、特徴量算出部142が前回算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる(ステップS14)。
【0071】
領域判定部144(
図1を参照)は、有効な被写体領域が画像に在るか否かを判定する(ステップS15)。有効な被写体領域が画像に在る場合(ステップS15−Yes)、領域判定部144は、画像に在る有効な被写体領域が被写体領域400(既存ラベル)である可能性が高いか否かを判定する。ここで、方位を測定することが可能なセンサ500が撮像装置100に備えられている場合、領域判定部144は、撮像装置100に対する被写体の方位が一致するか否かに基づいて、画像に在る有効な被写体領域が被写体領域400である可能性が高いか否かを判定する。
【0072】
なお、画像に在る有効な被写体領域が既存ラベルである可能性が高いか否かを判定する方法は、上記の方法に限らなくてよい。例えば、領域判定部144は、方位を測定することが可能なセンサ500が撮像装置100に備えられていない場合、画像に在る有効な被写体領域が被写体領域400である可能性が高いか否かを、領域形状に基づいて判定してもよい(ステップS16)。
【0073】
画像に在る有効な被写体領域が被写体領域400(既存ラベル)である可能性が高い場合(ステップS16−Yes)、領域判定部144は、被写体領域400により定まる属性情報(抽出情報)を、記憶部160から読み込む(ステップS17)。そして、領域判定部144は、被写体領域400により定まる属性情報(抽出情報)と、抽出した領域により定まる属性情報(抽出情報)との近似度を算出し、算出した近似度が所定閾値よりも高いか否かを判定する(ステップS18)。
【0074】
近似度が所定閾値よりも高い場合(ステップS18−Yes)、CPU190は、被写体領域400に対する合焦位置に、AFレンズ112(
図1を参照)を移動させる。属性情報(撮像情報)である合焦位置は、このようにAFレンズ112の移動に活用される(ステップS19)。特徴量算出部142は、画像列における後続の画像フレームを取り込む(ステップS20)。領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる(ステップS21)。
【0075】
領域判定部144は、前回に最優先であった被写体領域400が画像の規定範囲に在るか否かを判定する(ステップS22)。前回に最優先であった被写体領域400が画像の規定範囲に無い場合(ステップS22−No)、領域判定部144は、撮像装置100が移動又は向きを変更したか否かを判定する(ステップS23)。撮像装置100が移動していない、且つ、向きを変更していない場合(ステップS23−No)、特徴量算出部142は、ステップ13に処理を戻す。
【0076】
一方、ステップS3において、撮像装置100が移動又は向きを変更している場合(ステップS3−Yes)、領域判定部144は、ステップS3における判定処理を繰り返す。また、ステップS5において、有効な被写体領域が画像に無い場合(ステップS5−No)、CPU190は、ステップ2に処理を戻す。また、ステップS11において、被写体領域400が画像の規定範囲に在る場合(ステップS11−Yes)、特徴量算出部142は、ステップ9に処理を戻す。
【0077】
また、ステップS12において、撮像装置100が移動又は向きを変更している場合(ステップS12−Yes)、領域判定部144は、ステップS12における判定処理を繰り返す。また、ステップS15において、有効な被写体領域が画像に無い場合(ステップS15−No)、且つ、一定時間が経過した場合、CPU190は、コントラストAFを実行する(ステップS24)。そして、特徴量算出部142は、ステップ13に処理を戻す。
【0078】
また、ステップS16において、画像に在る有効な被写体領域が被写体領域400(既存ラベル)である可能性が高くない場合(ステップS16−No)、且つ、有効な被写体領域が複数である場合、優先度設定部145(
図1を参照)は、それら有効な被写体領域に優先度を定める(ステップS25)。また、CPU190は、優先度が最も高い被写体領域について、コントラストAFを実行する。本フローチャートでは、ここで優先度が最も高い被写体領域が、被写体領域410(
図4(C)を参照)と定められたものとして説明を続ける。なお、被写体領域410には、コントラスト評価値が算出される領域である評価領域310が定められてもよい(ステップS26)。領域抽出部143は、被写体領域410により定まる属性情報(撮像情報)として、被写体領域410に対する合焦位置を示す情報を、記憶部160に記憶させる(ステップS27)。そして、領域抽出部143は、ステップS20に処理を戻す。
【0079】
また、ステップS18において、近似度が所定閾値よりも高くない場合(ステップS18−No)、CPU190は、被写体領域400に対する合焦位置の付近に定められた、AFレンズ112(
図1を参照)の駆動範囲の手前に、AFレンズ112を移動させる(ステップS28)。そして、CPU190は、被写体領域400により定まる属性情報(撮像情報)に基づいて、狭い駆動範囲でコントラストAFを実行する。属性情報(撮像情報)である合焦位置は、このようにコントラストAFに活用される(ステップS29)。そして、CPU190は、ステップS20に処理を戻す。
【0080】
また、ステップS22において、前回に最優先であった被写体領域400が画像の規定範囲に在る場合(ステップS22−Yes)、特徴量算出部142は、ステップS20に処理を戻す。
【0081】
図5には、被写体領域の撮像情報に基づいてコントラストAFを実行する動作例を説明するための図が表されている。ここで、横軸は、時刻を表す。また、縦軸は、AFレンズ112の位置を表す。
【0082】
まず、時刻t1から時刻t2までの間に、CPU190は、AFレンズ112(
図1を参照)を駆動させながらコントラスト評価値を算出することにより、コントラストスキャンを実行したとする。また、これにより、被写体領域400(
図4(A)を参照)に合焦させることができる合焦位置Aが定まったとする。領域抽出部143は、被写体領域400に対する合焦位置Aを、被写体領域400により定まる属性情報(撮像情報)として記憶部160に記憶させる。
【0083】
時刻t3において、CPU190は、被写体領域400に対する合焦位置Aに、AFレンズ112を移動させる。その後、被写体領域400は、画像からフレームアウトしたとする。そして、CPU190は、コントラストスキャンを実行し、被写体領域410(
図4(C)を参照)に対する合焦位置Bに、AFレンズ112を移動させる。領域抽出部143は、被写体領域410に対する合焦位置Bを、被写体領域410により定まる属性情報(撮像情報)として記憶部160に記憶させる。
【0084】
その後、被写体領域400が画像に再びフレームインしたとする。領域判定部144は、時刻t1から時刻t2までの間に撮像された画像からフレームアウトした被写体領域と、時刻t4までに撮像された画像にフレームインした被写体領域とが、同じ被写体による被写体領域400であるか否かを、属性情報(抽出情報)に基づいて判定する。ここで、領域判定部144は、同じ被写体による被写体領域400であると判定したとする。
【0085】
時刻t4から時刻t5までの間に、CPU190は、コントラストスキャンを実行することなく属性情報(撮像情報=合焦位置A)に基づいて、被写体領域400(
図4(A)を参照)に対する合焦位置Aに、AFレンズ112を移動させる。
【0086】
<画像に在る複数の被写体領域に、順次合焦させる場合について>
図6は、被写体領域の撮像情報に基づいてコントラストAFを順次実行する動作手順を示すフローチャートである。撮像部110(
図1を参照)は、動画モードに遷移し、動画形式の画像列を撮像する(ステップSa1)。領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域を抽出する。ここで、被写体領域400、410及び420(
図4には不図示)が抽出されたとする(ステップSa2)。領域抽出部143は、抽出した各被写体領域の属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を被写体領域毎に記憶部160に記憶させる(ステップSa3)。
【0087】
特徴量算出部142は、画像列における後続の画像フレームを取り込む(ステップSa4)。領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる(ステップSa5)。領域判定部144(
図1を参照)は、前回までに抽出した被写体領域(既存ラベル)が画像に在るか否かを判定する(ステップSa6)。
【0088】
前回までに抽出した被写体領域(既存ラベル)が画像に無い場合(ステップSa6−No)、領域判定部144は、撮像装置100が移動又は向きを変更したか否かを判定する(ステップSa7)。撮像装置100が移動していない、且つ、向きを変更していない場合(ステップSa7−No)、領域判定部144は、前回合焦させた被写体領域が1番中心域に在るか否か、すなわち、画角中心に最も近い領域に在るか否かを判定する(ステップSa8)。
【0089】
前回合焦させた被写体領域(既存ラベル)が1番中心域に在る場合(ステップSa8−Yes)、CPU190は、その1番中心域に在る被写体領域(例えば、被写体領域400)により定まる属性情報(撮像情報)に基づいて、その被写体領域に対する合焦位置にAFレンズ112を移動させる。属性情報(撮像情報)である合焦位置は、このようにAFレンズ112の移動に活用される(ステップSa9)。そして、特徴量算出部142は、一定時間が経過するのを待ってから(ステップSa10)、ステップSa4に処理を戻す。
【0090】
一方、ステップSa8において、前回合焦させた被写体領域が1番中心域に無い場合(ステップSa8−No)、領域判定部144は、前回合焦させた被写体領域が2番中心域に在るか否か、すなわち、1番中心域のすぐ外側の領域に在るか否かを判定する(ステップSa11)。
【0091】
前回合焦させた被写体領域(既存ラベル)が2番中心域に在る場合(ステップSa11−Yes)、CPU190は、その2番中心域に在る被写体領域(例えば、被写体領域410)により定まる属性情報(撮像情報)に基づいて、その被写体領域に対する合焦位置にAFレンズ112を移動させる。属性情報(撮像情報)である合焦位置は、このようにAFレンズ112の移動に活用される(ステップSa12)。そして、特徴量算出部142は、一定時間が経過するのを待ってから(ステップSa10)、ステップSa4に処理を戻す。
【0092】
また、ステップSa11において、前回合焦させた被写体領域(既存ラベル)が2番中心域に無い場合(ステップSa11−No)、CPU190は、その2番中心域のすぐ外側の3番中心域に在る被写体領域(例えば、被写体領域420(
図4には不図示))により定まる属性情報(撮像情報)に基づいて、その被写体領域に対する合焦位置にAFレンズ112を移動させる。属性情報(撮像情報)である合焦位置は、このようにAFレンズ112の移動に活用される(ステップSa13)。そして、特徴量算出部142は、一定時間が経過するのを待ってから(ステップSa10)、ステップSa4に処理を戻す。
【0093】
また、ステップSa6において、前回までに抽出した被写体領域(既存ラベル)が画像に在る場合(ステップSa6−Yes)、特徴量算出部142は、ステップSa4に処理を戻す。また、ステップSa7において、撮像装置100が移動又は向きを変更した場合(ステップSa7−Yes)、領域判定部144は、ステップSa7における判定処理を繰り返す。
【0094】
<被写体領域に対する撮像装置のアクション情報に基づいて、被写体領域の優先度(注目フラグ)を変更する場合について>
図7は、被写体領域の撮像情報であるアクション情報に基づいてコントラストAFを実行する動作手順を示すフローチャート(前半)である。また、
図8は、被写体領域の撮像情報であるアクション情報に基づいてコントラストAFを実行する動作手順を示すフローチャート(前半の続き)である。また、
図9は、被写体領域の撮像情報であるアクション情報に基づいてコントラストAFを実行する動作手順を示すフローチャート(後半)である。
【0095】
また、
図10には、被写体領域の撮像情報であるアクション情報に基づいてコントラストAFを実行する動作手順を説明するための図が表されている。また、
図11には、被写体領域の撮像情報であるアクション情報に基づいてコントラストAFを実行する動作手順を説明するための図が表されている。
【0096】
撮像部110(
図1を参照)は、動画モードに遷移し、動画形式の画像列を撮像する(ステップSb1)。CPU190(
図1を参照)は、動画モードにおける合焦(AF)駆動(例えば、ウォブリング)を、仮の合焦駆動として実行する(ステップSb2)。領域判定部144は、撮像装置100が移動(例えば、ブームアップ、ブームダウン)、又は向きを変更(例えば、パンニング、チルト)したか否かを判定する(ステップSb3)。
【0097】
撮像装置100が移動していない、且つ、向きを変更していない場合(ステップSb3−No)、領域抽出部143は、特徴量算出部142が前回算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる(ステップSb4)。領域抽出部143は、有効な(例えば、面積が閾値以上である)被写体領域が画像に在るか否かを判定する(ステップSb5)。
【0098】
有効な被写体領域が画像に在る場合(ステップSb5−Yes)、且つ、有効な被写体領域が複数である場合、優先度設定部145(
図1を参照)は、それら有効な被写体領域に優先度を定める(ステップSb6)。CPU190は、優先度が最も高い被写体領域について、コントラストAFを実行する。本フローチャートでは、ここで優先度が最も高い被写体領域が、被写体領域420(
図10(A)を参照)と定められたものとして説明を続ける。なお、被写体領域420には、コントラスト評価値が算出される領域である評価領域320が定められてもよい(ステップSb7)。
【0099】
領域抽出部143は、被写体領域420により定まる属性情報(撮像情報)として、被写体領域420に対する合焦位置を示す情報を、記憶部160に記憶させる(ステップSb8)。特徴量算出部142は、画像列における後続の画像フレームを取り込む(ステップSb9)。領域抽出部143は、特徴量算出部142が前回算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる(ステップSb10)。領域判定部144は、被写体領域420が画像の規定範囲に在るか否かを判定する(ステップSb11)。
【0100】
被写体領域420が画像の規定範囲に無い場合(ステップSb11−No)、領域判定部144は、撮像装置100が移動又は向きを変更したか否かを判定する(ステップSb12)。撮像装置100が移動していない、且つ、向きを変更していない場合(ステップSb12−No)、特徴量算出部142は、画像列における後続の画像フレームを取り込む(ステップSb13)。領域抽出部143は、特徴量算出部142が前回算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる(ステップSb14)。
【0101】
領域判定部144(
図1を参照)は、被写体領域420ではない有効な被写体領域が画像に在るか否か、を判定する。本フローチャートでは、被写体領域420ではない有効な被写体領域が被写体領域430(
図10(B)を参照)と定められたものとして、説明を続ける(ステップSb15)。有効な被写体領域が画像に在る場合(ステップSb15−Yes)、特徴量算出部142は、画像列における後続の画像フレームを取り込む(ステップSb16)。
【0102】
領域抽出部143は、特徴量算出部142が前回算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる(ステップSb17)。領域判定部144は、被写体領域430が画像に在るか否かを判定する(ステップSb18)。
【0103】
被写体領域430(
図10(C)を参照)が画像に無い場合(ステップSb18−No)、領域判定部144は、撮像装置100が移動又は向きを変更したか否かを判定する(ステップSb19)。撮像装置100が移動していない、且つ、向きを変更していない場合(ステップSb19−No)、特徴量算出部142は、画像列における後続の画像フレームを取り込む(ステップSb20)。
【0104】
領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる(ステップSb21)。領域判定部144(
図1を参照)は、有効な被写体領域が画像に在るか否かを判定する(ステップSb22)。有効な被写体領域が画像に在る場合(ステップSb22−Yes)、領域判定部144は、画像に在る有効な被写体領域が被写体領域420又は被写体領域430であるか否かを判定する(ステップSb23)。
【0105】
画像に在る有効な被写体領域が被写体領域420でない、且つ、被写体領域430でない場合(ステップSb23−No)、特徴量算出部142は、画像列における後続の画像フレームを取り込む(ステップSb24)。
【0106】
領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる。本フローチャートでは、移動している被写体領域440(
図11(A)を参照)が抽出されたものとして説明を続ける。ここで、被写体領域440が移動している場合、領域判定部144は、撮像装置100が移動又は向きを変更することにより(
図11(B)を参照)、被写体領域440を追尾しているか否か(
図11(C)を参照)を判定する(ステップSb25)。
【0107】
撮像装置100が移動又は向きを変更することにより、被写体領域440を追尾している場合(ステップSb25−Yes)、領域判定部144は、被写体領域440が画像の規定範囲に在るか否かを判定する(ステップSb26)。被写体領域440が画像の規定範囲に無い場合(ステップSb26−No)、領域判定部144は、撮像装置100が移動又は向きを変更したか否かを判定する(ステップSb27)。
【0108】
撮像装置100が移動していない、且つ、向きを変更していない場合(ステップSb27−No)、特徴量算出部142は、画像列における後続の画像フレームを取り込む(ステップSb28)。領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる(ステップSb29)。
【0109】
領域判定部144(
図1を参照)は、有効な被写体領域が画像に在るか否かを判定する(ステップSb30)。有効な被写体領域が画像に在る場合(ステップSb30−Yes)、領域判定部144は、画像に在る有効な被写体領域が被写体領域420、被写体領域430又は被写体領域440であるか否かを判定する(ステップSb31)。
【0110】
画像に在る有効な被写体領域が被写体領域420、被写体領域430又は被写体領域440である場合(ステップSb31−Yes)、領域判定部144は、撮像装置100が移動又は向きを変更したか否かを判定する(ステップSb32)。撮像装置100が移動していない、且つ、向きを変更していない場合(ステップS32−No)、領域抽出部143は、複数の被写体領域が画像に在れば、画像フレームの一定の内側領域(例えば、中心域)から被写体領域を抽出する(ステップSb33)。
【0111】
領域抽出部143は、画像フレームの一定の内側領域以外に在る被写体領域を、処理対象から除外する(ステップSb34)。領域判定部144(
図1を参照)は、有効な被写体領域が被写体領域430(
図10(B)を参照)のみであるか否かを判定する(ステップSb35)。
【0112】
有効な被写体領域が被写体領域430のみである場合(ステップSb35−Yes)、領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報(例えば、無限合焦位置、各色のコントラスト評価値)を算出し、算出した属性情報を記憶部160に記憶させる。CPU190は、被写体領域430に対する合焦位置に、AFレンズ112(
図1を参照)を移動させる。属性情報(撮像情報)である合焦位置は、このようにAFレンズ112の移動に活用される(ステップSb36)。
【0113】
特徴量算出部142は、画像列における後続の画像フレームを取り込む(ステップSb37)。領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる(ステップSb38)。
【0114】
領域判定部144は、前回に最優先であった被写体領域が画像の規定範囲に在るか否かを判定する。ここで、規定領域とは、前回の画像フレームにおける被写体領域の位置の周辺か、画像フレーム(画角)より少し内側の範囲である(ステップSb39)。
【0115】
前回に最優先であった被写体領域が画像の規定範囲に無い場合(ステップSb39−No)、領域判定部144は、撮像装置100が移動又は向きを変更したか否かを判定する(ステップSb40)。撮像装置100が移動していない、且つ、向きを変更していない場合(ステップS40−No)、領域抽出部143は、特徴量算出部142が前回算出した画像特徴量に基づいて、被写体領域を抽出する(ステップSb41)。
【0116】
領域抽出部143は、有効な(例えば、面積が閾値以上である)被写体領域が画像に在るか否かを判定する(ステップSb42)。有効な被写体領域が画像に在る場合(ステップS42−Yes)、領域抽出部143は、被写体領域を解析し、解析した被写体領域により定まる属性情報(抽出情報、撮像情報)を、記憶部160に記憶させる。CPU190は、優先度が最も高い被写体領域について、コントラストAFを実行する。属性情報(撮像情報)である合焦位置は、このようにAFレンズ112の移動に活用される(ステップSb43)。そして、領域抽出部143は、ステップSb3に処理を進める。
【0117】
一方、ステップSb11において、被写体領域420(
図10(A)を参照)が画像の規定範囲に在る場合(ステップSb11−Yes)、且つ、一定時間以上、被写体領域420が中心域に在る場合、優先度設定部145は、被写体領域420の優先度を上げる。また、領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる。ここで、領域抽出部143は、「被写体領域を中心域に据えることを示すアクション情報」を記憶させる。また、領域抽出部143は、撮影者による被写体領域の注目度を表すフラグである注目フラグに、値1を設定する(ステップSb44)。
【0118】
また、ステップSb18において、被写体領域430(
図10(C)を参照)が画像に在る場合(ステップSb18−Yes)、且つ、被写体領域430が画像に在る時間が所定時間以下である場合、優先度設定部145は、被写体領域430の優先度を下げる。また、領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる。ここで、領域抽出部143は、「被写体領域を無視したことを示すアクション情報」を記憶させる。また、領域抽出部143は、撮影者による被写体領域の注目度を表すフラグである注目フラグに、値0を設定する(ステップSb45)。
【0119】
また、ステップSb26において、被写体領域440(
図11(A)を参照)が画像の規定範囲に在る場合(ステップSb26−Yes)、領域判定部144は、領域440が画像に在る時間を計測し、その計測結果に基づいて、被写体領域440を追尾しているか否かを判定する。
【0120】
撮像装置100(
図1を参照)が被写体領域440を追尾している場合、優先度設定部145は、被写体領域430の優先度を下げる。また、領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる。ここで、領域抽出部143は、「追尾していることを示すアクション情報」を記憶させる。また、領域抽出部143は、撮影者による被写体領域の注目度を表すフラグである注目フラグに、値2を設定する(ステップSb46)。
【0121】
また、ステップSb30において、有効な被写体領域が画像に在る場合(ステップSb30−No)、CPU190は、優先度が最も高い被写体領域について、コントラストAFを実行する(ステップSb47)。
【0122】
また、ステップSb35において、有効な被写体領域が被写体領域430でない場合(ステップSb35−No)、領域判定部144は、有効な被写体領域が被写体領域420(
図10(A)を参照)のみ、又は、有効な被写体領域が被写体領域420及び被写体領域430であるか否かを判定する(ステップSb48)。
【0123】
有効な被写体領域が被写体領域420のみ、又は、有効な被写体領域が被写体領域420及び被写体領域430である場合(ステップSb48−Yes)、領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域420を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる。CPU190は、被写体領域420に対する合焦位置に、AFレンズ112(
図1を参照)を移動させる。属性情報(撮像情報)である合焦位置は、このようにAFレンズ112の移動に活用される(ステップSb49)。
【0124】
一方、ステップSb48において、有効な被写体領域が被写体領域420のみでない、且つ、有効な被写体領域が被写体領域420及び被写体領域430でない場合(ステップSb48−No)、領域判定部144は、有効な被写体領域が被写体領域440(
図11を参照)のみ、又は、有効な被写体領域が被写体領域420、被写体領域430及び被写体領域440であるか否かを判定する(ステップSb50)。
【0125】
有効な被写体領域が被写体領域440のみ、又は、有効な被写体領域が被写体領域420、被写体領域430及び被写体領域440である場合(ステップSb50−Yes)、領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域420を抽出して属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を記憶部160に記憶させる。CPU190は、被写体領域440に対する合焦位置に、AFレンズ112(
図1を参照)を移動させる。属性情報(撮像情報)である合焦位置は、このようにAFレンズ112の移動に活用される(ステップSb51)。
【0126】
一方、ステップSb50において、有効な被写体領域が被写体領域440のみでない、且つ、有効な被写体領域が被写体領域420、被写体領域430及び被写体領域440でない場合(ステップSb50−No)、領域抽出部143及びCPU190は、処理をステップSb43に進める。
【0127】
また、ステップSb3において、撮像装置100が移動又は向きを変更している場合(ステップSb3−No)、領域判定部144は、ステップSb3における判定処理を繰り返す。また、ステップSb5において、有効な被写体領域が画像に無い場合(ステップSb5−No)、CPU190(
図1を参照)は、ステップSb2に処理を戻す。
【0128】
また、ステップSb12において、撮像装置100が移動又は向きを変更している場合(ステップSb12−Yes)、領域判定部144は、ステップSb12における判定処理を繰り返す。また、ステップSb15において、有効な被写体領域が画像に無い場合(ステップSb15−No)、特徴量算出部142は、ステップSb13に処理を戻す。
【0129】
また、ステップSb19において、撮像装置100が移動又は向きを変更している場合(ステップSb19−Yes)、領域判定部144は、ステップSb19における判定処理を繰り返す。また、ステップSb22において、有効な被写体領域が画像に無い場合(ステップSb22−No)、特徴量算出部142は、ステップSb20に処理を戻す。
【0130】
また、ステップSb23において、画像に在る有効な被写体領域が被写体領域420又は被写体領域430である場合(ステップSb23−Yes)、領域判定部144は、ステップSb32に処理を進める。また、ステップSb32において、撮像装置100が移動又は向きを変更している場合(ステップS32−Yes)、領域判定部144は、ステップSb32における判定処理を繰り返す。
【0131】
また、ステップSb39において、前回に最優先であった被写体領域が画像の規定範囲に在る場合(ステップSb39−Yes)、特徴量算出部142は、ステップSb37に処理を戻す。また、ステップSb40において、撮像装置100が移動又は向きを変更している場合(ステップS40−Yes)、領域判定部144は、ステップSb40における判定処理を繰り返す。また、ステップSb42において、有効な被写体領域が画像に無い場合(ステップS42−No)、領域抽出部143は、ステップSb41に処理を戻す。
【0132】
<被写体領域が抽出された後にズーム倍率が変更された場合について>
図12は、ズーム倍率が変更された場合に、被写体領域の撮像情報に基づいてコントラストAFを実行する動作手順を示すフローチャートである。撮像部110(
図1を参照)は、動画モードに遷移し、動画形式の画像列を撮像する(ステップSc1)。領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域を抽出する。ここで、被写体領域400(
図4(A)を参照)が抽出されたとする(ステップSc2)。領域抽出部143は、抽出した被写体領域400の属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を被写体領域400に対応付けて記憶部160に記憶させる(ステップSc3)。そして、被写体領域400が、画像からフレームアウトしたとする。
【0133】
特徴量算出部142は、画像列における後続の画像フレームを取り込む(ステップSc4)。領域抽出部143は、CPU190からズーム倍率を取得して、取得したズーム倍率を記憶する(ステップSc5)。領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域を抽出する。領域抽出部143は、抽出した被写体領域の属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を被写体領域毎に記憶部160に記憶させる(ステップSc6)。
【0134】
領域抽出部143は、記憶したズーム倍率に応じて、抽出情報(例えば、被写体領域のサイズ及び位置)を換算する。例えば、抽出情報が被写体領域のサイズを表す場合、領域抽出部143は、記憶したズーム倍率の二乗に応じて、被写体領域のサイズを換算(例えば、ズーム倍率を乗算又は除算)する(ステップSc7)。領域判定部144は、前回までに抽出した被写体領域(既存ラベル)を含む有効な被写体領域が、画像の規定領域に在るか否かを判定する。ここで、規定領域とは、前回の画像フレームにおける被写体領域のズーム倍率に応じて換算した位置の周辺か、ズーム倍率に応じて換算した画像フレーム(画角)より少し内側の範囲である(ステップSc8)。前回までに抽出した被写体領域を含む有効な被写体領域が、画像の規定領域に在る場合(ステップSc8−Yes)、領域判定部144は、撮像装置100が移動又は向きを変更したか否かを判定する(ステップSc9)。
【0135】
撮像装置100が移動していない、且つ、向きを変更していない場合(ステップSc10−No)、有効な被写体領域が被写体領域400であれば、CPU190は、被写体領域400により定まる属性情報(撮像情報)に基づいて、被写体領域400に対する合焦位置にAFレンズ112を移動させる。一方、有効な被写体領域が被写体領域400以外であれば、領域抽出部143は、その被写体領域により定まる属性情報(撮像情報)を更新し、更新した属性情報(撮像情報)を記憶部160に記憶させる。
【0136】
また、特徴量算出部142は、画像列における後続の画像フレームを取り込む(ステップSc11)。領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域を抽出する。領域抽出部143は、抽出した被写体領域の属性情報(抽出情報、撮像情報)を算出し、算出した属性情報を被写体領域毎に記憶部160に記憶させる(ステップSc12)。
【0137】
領域判定部144は、被写体領域400が画像の規定範囲に在るか否かを判定する(ステップSc13)。被写体領域400が画像の規定範囲に在る場合(ステップSc13−Yes)、領域判定部144は、撮像装置100が移動又は向きを変更したか否かを判定する(ステップSc14)。撮像装置100が移動していない、且つ、向きを変更していない場合(ステップSc14−No)、領域抽出部143は、特徴量算出部142が算出した画像特徴量に基づいて、被写体領域を抽出する(ステップSc15)。
【0138】
領域判定部144は、有効な被写体領域が画像に在るか否かを判定する(ステップSc16)。有効な被写体領域が画像に在る場合(ステップSc16−Yes)、領域抽出部143は、被写体領域を解析し、解析した被写体領域により定まる属性情報(抽出情報、撮像情報)を、記憶部160に記憶させる。CPU190は、優先度が最も高い被写体領域について、コントラストAFを実行する。属性情報(撮像情報)である合焦位置は、このようにAFレンズ112の移動に活用される(ステップSc17)。そして、領域抽出部143は、ステップSc4に処理を戻す。
【0139】
一方、ステップSc8において、前回までに抽出した被写体領域を含む有効な被写体領域が、画像の規定領域に無い場合(ステップSc8−No)、特徴量算出部142は、ステップSc4に処理を進める。また、ステップSc9において、撮像装置100が移動又は向きを変更している場合(ステップSc9−Yes)、領域判定部144は、ステップSc9における判定処理を繰り返す。また、ステップSc13において、被写体領域400が画像の規定範囲に無い場合(ステップSc13−No)、特徴量算出部142は、ステップSc11に処理を戻す。
【0140】
また、ステップSc14において、撮像装置100が移動又は向きを変更している場合(ステップSc14−Yes)、領域判定部144は、ステップSc14における判定処理を繰り返す。また、ステップSc16において、有効な被写体領域が画像に無い場合(ステップSc16−No)、領域抽出部143は、ステップSc15に処理を戻す。
【0141】
<コントラスト評価値を算出(隣接画素差を加算)する際、コントラスト評価値が最大である色チャネルを記憶し、その色チャネルのコントラスト評価値を次回のコントラストAFに活用する場合について>
図13は、被写体領域の抽出情報である色チャネルに基づいてコントラストAFを実行する動作手順を示すフローチャートである。また、
図14には、AFレンズ位置とコントラスト評価値との関係が示されている。ここで、横軸は、AFレンズ位置を表す。また、縦軸は、コントラスト評価値を表す。
図14では、コントラスト評価値のピーク値が、赤(R)チャネル、緑(G)チャネル、青(B)チャネルの順に高いものとする。
【0142】
図13に戻り、動作手順の説明を続ける。撮像部110(
図1を参照)は、動画モードに遷移し、動画形式の画像列を撮像する(ステップSd1)。CPU190(
図1を参照)は、動画モードにおける合焦(AF)駆動(例えば、ウォブリング)を、仮の合焦駆動として実行する(ステップSd2)。CPU190は、画像に定められたコントラスト評価値ウィンドウに対して、コントラストAFを実行する。領域抽出部143は、複数の被写体領域における、コントラスト評価値が最大である色チャネルを示す情報、コントラスト評価値の順位、コントラスト評価値の比率を、属性情報(抽出情報)として被写体領域毎に記憶部160に記憶させる、また、領域抽出部143は、属性情報(撮像情報)として、合焦位置を被写体領域毎に記憶部160に記憶させる(ステップSd3)。
【0143】
領域判定部144は、露光量が大きく変化してから一定時間が経過したか否かを判定する(ステップSd4)。露光量が大きく変化してから一定時間が経過した場合(ステップSd4−Yes)、領域判定部144は、記憶された合焦位置と、被写体領域により定まる合焦位置との類似度が高いか否かを判定する。
【0144】
ここで、例えば、コントラスト評価値のピーク値の順位が、R>G>Bである場合、コントラスト評価値が類似であると判定される。また、例えば、コントラスト評価値のピーク値(R/G)及び(B/G)に基づいて、コントラスト評価値が類似であると判定されてもよい。また、例えば、画像に定められたコントラスト評価値ウィンドウ内のRGBの統計量(例えば、平均値、分散)に基づいて、コントラスト評価値が類似であると判定されてもよい(ステップSd5)。
【0145】
記憶された合焦位置と、被写体領域により定まる合焦位置との類似度が高い場合(ステップSd5−Yes)、CPU190は、記憶された合焦位置に基づいて、コントラスト評価値のピーク(合焦位置P1)付近に限定したコントラストAF(合焦駆動)を実行する。属性情報(撮像情報)である合焦位置は、このようにAFレンズ112の移動に活用される(ステップSd6)。そして、領域判定部144は、ステップSd4に処理を戻す。
【0146】
一方、ステップSd4において、露光量が大きく変化してから一定時間が経過していない場合(ステップSd4−No)、領域判定部144は、ステップSd4における判定処理を繰り返す。また、ステップSd5において、記憶された合焦位置と、被写体領域により定まる合焦位置との類似度が高くない場合(ステップSd5−No)、CPU190は、ステップSd2に処理を戻す。
【0147】
以上のように、領域判定装置141は、異なる時刻に撮像された画像列から、画像特徴量に基づいて被写体領域をそれぞれ抽出し、抽出された被写体領域同士が同じ被写体による被写体領域であるか否かを判定するための条件を示す抽出情報と、被写体領域を撮像するための設定を示す撮像情報とを、抽出された被写体領域にそれぞれ対応付ける領域抽出部143と、前記画像列の第1画像からフレームアウトした被写体領域と、前記画像列の第2画像にフレームインした被写体領域とが、同じ被写体による被写体領域であるか否かを、前記抽出情報に基づいて判定し、同じ被写体による被写体領域であると判定した場合、前記第2画像にフレームインした被写体領域を撮像するための前記撮像情報として、前記第1画像からフレームアウトした被写体領域に対応付けられた前記撮像情報を選択する領域判定部144と、を備える。
この構成により、領域判定部144は、同じ被写体による被写体領域であると判定した場合、前記第2画像にフレームインした被写体領域を撮像するための前記撮像情報として、前記第1画像からフレームアウトした被写体領域に対応付けられた前記撮像情報を選択する。これにより、領域判定装置141は、撮像された画像にフレームインした被写体領域を精度よく判定し、選択した前記撮像情報に基づいて、被写体を適切に撮像させることができる。
【0148】
また、領域抽出部143は、前記被写体領域の合焦位置を、前記撮像情報として前記被写体領域に対応付ける。
これにより、領域判定装置141は、選択した前記合焦位置に基づいて短時間で合焦させた被写体領域を撮像させることができる。
【0149】
また、領域抽出部143は、露光量、ゲイン及び階調カーブのうち少なくとも一つを、前記撮像情報として被写体領域に対応付ける。
これにより、領域判定装置141は、選択した前記露光量、ゲイン及び階調カーブのうち少なくとも一つに基づいて適切に露光等させた被写体領域を撮像させることができる。
【0150】
また、領域抽出部143は、被写体に対する撮像装置の動作、移動又は向きのうち少なくとも一つを表すアクション情報を、前記撮像情報として被写体領域に対応付ける。
これにより、領域判定装置141は、選択した前記アクション情報に基づいて適切に追尾等させた被写体領域を撮像させることができる。
【0151】
また、領域抽出部143は、センサにより測定された撮像装置の向きを、前記抽出情報として被写体領域に対応付ける。
これにより、領域判定装置141は、撮像された画像にフレームインした被写体領域が前記同じ被写体であるか否かを、撮像装置の向きに基づいて精度よく判定することができる。
【0152】
また、領域抽出部143は、撮像された被写体領域の色情報を、前記抽出情報として被写体領域に対応付ける。
これにより、領域判定装置141は、撮像された画像にフレームインした被写体領域が前記同じ被写体であるか否かを、被写体領域の色情報に基づいて精度よく判定することができる。
【0153】
また、領域判定部144は、前記抽出情報であるズーム倍率に基づいて、前記同じ被写体の被写体領域であるか否かを判定する。
これにより、領域判定装置141は、撮像された画像にフレームインした被写体領域が前記同じ被写体であるか否かを、ズーム倍率に基づいて精度よく判定することができる。
【0154】
また、領域判定部144は、前記第1画像が撮像された時刻から、前記第2画像が撮像された時刻までが、予め定められた時間内である場合、前記同じ被写体の被写体領域であるか否かを判定する。
これにより、領域判定装置141は、撮像時刻の間隔が離れすぎている画像に基づくことなく、撮像された画像にフレームインした被写体領域を精度よく判定することができる。
【0155】
また、領域判定部144は、前記抽出情報が被写体領域同士で一致している度合いに基づいて、同じ被写体の被写体領域であるか否かを判定する。
これにより、領域判定装置141は、撮像された画像にフレームインした被写体領域が前記同じ被写体であるか否かを、前記抽出情報が被写体領域同士で一致している度合いに基づいて、精度よく判定することができる。
【0156】
また、撮像装置100は、領域判定装置と、前記領域判定装置が選択した前記撮像情報である合焦位置に基づいて、光学系により被写体領域に合焦させる焦点調節部と、被写体領域に合焦した状態の画像を撮像する撮像部と、を備える。
この構成により、CPU190は、記憶されている撮像情報(合焦位置)に基づいて、光学系(AFレンズ112)により被写体領域に合焦させる。これにより、撮像装置100は、領域判定装置141に精度良く判定された被写体領域に合焦した状態の画像を撮像することができる。
【0157】
また、撮像部110は、前記領域判定装置が選択した前記撮像情報である露光量に応じて画像を撮像する。
この構成により、CPU190は、記憶されている撮像情報(露光量)に基づいて、撮像素子119における露光量を制御する。これにより、撮像装置100は、領域判定装置141に精度良く判定された被写体領域が最適に露光された状態の画像を撮像することができる。
【0158】
また、CPU190は、前記抽出情報である色情報に基づいてコントラストスキャンを実行する。
この構成により、CPU190は、記憶されている色情報(色チャネル)に基づいて、コントラストスキャン(コントラストAF)を実行する。これにより、撮像装置100は、領域判定装置141に精度良く判定された被写体領域に合焦した状態の画像を撮像することができる。
【0159】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【0160】
例えば、属性情報(撮像情報)は、焦点調整のみならず、露光量調整、ホワイトバランス調整などの撮影設定に活用されてもよい。
【0161】
また、上記に説明した領域判定装置、撮像装置を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、実行処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものであってもよい。
【0162】
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
【0163】
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。
さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。