(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0013】
以下、図面に基づいて本発明の実施の形態を詳細に説明する。なお、本実施形態においては、撮像素子の撮影画面の全体から出力された画像を第1画像と定義し、撮影画面内の被写体が動く領域を含む部分領域が出力された画像を第2画像と定義し、また、第1画像の部分領域となる箇所を、第2画像で上書き(或いは置換)することで生成した擬似フレームを第3画像と定義する。
【0014】
図1は、本実施形態の電子カメラ1の構成を説明するブロック図である。
【0015】
電子カメラ1は、
図1に示す通り、撮影光学系11と、撮像素子12と、タイミングジェネレータ(以下「TG」という)13と、信号処理部14と、RAM(Random Access Memory)15と、フラッシュメモリ16と、表示モニタ17と、記録インターフェース部(以下「記録I/F部」という)18と、タッチパネル19と、操作部20と、レリーズ釦21と、ASIC(Application Specific Integrated Circuit)22と、データバス23とを備える。
【0016】
このうち、RAM15、フラッシュメモリ16、表示モニタ17、記録I/F部18及びASIC22は、データバス23を介して互いに接続されている。また、タッチパネル19、操作部20及びレリーズ釦21は、ASIC22に接続されている。
【0017】
撮影光学系11は、ズームレンズと、フォーカスレンズとを含む複数のレンズ群で構成されている。なお、簡単のため、
図1では、撮影光学系11を1枚のレンズとして図示する。
【0018】
撮像素子12は、撮影画面内の被写体の像を撮像し、画像(アナログの画像信号)を出力する。ここで、撮像素子12は、複数の画素を2次元的に配列し、XYアドレス指定により任意のラインを読み出し可能なCMOS(Complementary Metal−Oxide Semiconductor)型のイメージセンサである。CMOS型のイメージセンサには、画像信号を読み出すための水平走査回路と垂直走査回路(不図示)とが設けられている。撮像素子12は、垂直走査回路にて指定された読み出しラインに基づいて、撮影画面の全体からなる第1画像と、撮影画面内の被写体が動く領域を含む部分領域からなる第2画像との何れか一方を出力する(詳細は後述する)。なお、撮像素子12の撮像面には、R(赤)、G(緑)B(青)の3種類のカラーフィルタが例えばベイヤー配列で配置されている。
【0019】
ここで、撮像素子12は、レリーズ釦21の全押し操作に応答して記録用の画像(本画像)を撮像する。また、撮像素子12は、撮影待機時にも所定のフレームレート(例えば、30fps)で観測用の画像(スルー画像)を連続的に撮像する(ライブビュー表示)。
【0020】
TG13は、撮像素子12の電荷蓄積時間及び画像信号の読み出しを制御する。具体的には、ASIC22からの指示に従い撮像素子12及び信号処理部14の各々へ向けて制御信号を送信し、駆動タイミングを制御する。そして、撮像素子12が出力するアナログの画像信号は、信号処理部14に入力される。
【0021】
信号処理部14は、撮像素子12が出力する画像信号に対してアナログ信号処理を施すアナログフロントエンド回路(AFE)と、そのAFEでアナログ信号処理が施された画像信号に対して、デジタル信号処理を施すデジタルフロントエンド回路(DFE)とを有する。ここで、信号処理部14のAFEは、アナログの画像信号に対して相関二重サンプリングやゲイン調整をした後、アナログの画像信号をデジタルの画像信号に変換する(A/D変換)処理等を行なう。また、信号処理部14のDFEは、A/D変換されたデジタルの画像信号におけるノイズ成分の除去等を行なう。
【0022】
この信号処理部14が出力する画像信号は、RGB信号の画像データとして、ライブビュー表示の際、ASIC22内の第1フレームメモリ22c、又は、第2フレームメモリ22dに一時的に順次記録(格納)される。第1フレームメモリ22c、第2フレームメモリ22dは、画像処理の前工程(動き検出)に用いるためのバッファメモリである。なお、第1フレームメモリ22c、第2フレームメモリ22dは、例えば、前工程に必要なフレーム数分の画像データを各々格納することができる容量を有している。ASIC22の動き検出部22aは、第1フレームメモリ22cと第2フレームメモリ22dとに記録された画像データを用いて、フレーム間差分を行なうことにより、動き量を検出する(詳細は後述する)。
【0023】
RAM15は、例えば、記録用の画像の画像データを一時的に記録するバッファメモリである。つまり、RAM15は、画像処理の後工程(各種の画像処理)に用いるためのバッファメモリである。
【0024】
フラッシュメモリ16は、電子カメラ1の制御を行なうプログラム等を予め記憶している不揮発性のメモリである。なお、ASIC22は、記録用の画像をフラッシュメモリ16に記録しても良い。また、表示モニタ17は、ASIC22の指示に応じて各種画像や電子カメラ1の操作メニュー等を表示する。
【0025】
また、記録I/F部18には、着脱自在の記録媒体30を接続するためのコネクタ(不図示)が形成されている。そして、記録I/F部18は、そのコネクタに接続された記録媒体30にアクセスして記録用の画像の記録処理等を行なう。この記録媒体30は、例えば、不揮発性のメモリカードである。
図1では、コネクタに接続された後の記録媒体30を示している。
【0026】
タッチパネル19は、タッチパネル表面に接触した指先等の位置を検出する。そして、タッチパネル19は、検出した位置情報をASIC22に出力することで撮影者からの操作を受け付ける。なお、タッチパネル19は、表示モニタ17と同等の大きさを有する透明なパネルで構成されており、表示モニタ17の表面全体に積層して配置される。また、本実施形態の例では、タッチパネル19は、静電気による電気信号を感知する静電容量式のパネルで構成されている。タッチパネル19の構成は、静電容量式に限られず、圧力による電圧の変化を検出する抵抗膜式のパネルを用いても良い。操作部20は、撮影者の操作を受け付ける複数の釦(不図示)を有している。
【0027】
レリーズ釦21は、半押し操作(撮影前における自動露出(AE)、自動焦点合わせ(AF:Auto Focus)等の動作開始)の指示入力と全押し操作(撮像動作開始)との指示入力とを受け付ける。
【0028】
ASIC22は、各種演算及び電子カメラ1の制御を行なうプロセッサである。ASIC22は、フラッシュメモリ16に予め格納されたプログラムを実行することにより、電子カメラ1の各部の制御を行なう。また、ASIC22は、上記の画像処理(前工程や後工程)の機能を有する。例えば、ASIC22は、RAM15に記録されている画像データを読み出し、必要に応じて各種の画像処理(例えば、輪郭強調処理、色補間処理、ホワイトバランス処理等)を施す。
【0029】
また、ASIC22は、動き検出部22a及び読み出し制御部22bとしても機能する。また、ASIC22は、上述した第1フレームメモリ22c及び第2フレームメモリ22dを有する。
【0030】
動き検出部22aは、撮像素子12が所定のフレームレートで出力する画像間の差分に基づいて、追尾対象である注目被写体の動き量を検出する。具体的には、動き検出部22aは、先ず、撮影画面内を複数のブロックに分割して各々の画像内における注目被写体の領域の位置を検出する。続いて、動き検出部22aは、時系列の複数の画像間にわたって注目被写体として例えば人物の輪郭形状を含む領域をブロック単位で追尾する。一例として、先ず、動き検出部22aは、第1フレームメモリ22c又は第2フレームメモリ22dに記録されたスルー画像の元になる画像データを用いて注目被写体の位置を検出する。この場合、動き検出部22aは、公知のフレーム間差分により注目被写体の位置の動きを検出し、順次、動きベクトルを算出していく。これにより、動き検出部22aは、注目被写体(人物の輪郭形状)の動きを検出して、撮影画面内でその注目被写体を追尾する。なお、動き検出部22aは、上記手法に限られず、他の公知の追尾手段によって追尾しても良い。
【0031】
読み出し制御部22bは、動き検出部22aが検出した動き量に基づいて、撮影画面内の少なくとも被写体が動く領域を含む指定領域での読み出しを選択して、撮像素子12に次の画像間の差分に用いる画像を出力させる。具体的には、読み出し制御部22bは、動き量に基づいて、指定領域として第1画像の読み出しと、指定領域として第2画像の読み出しとの何れか一方を選択する。そして、読み出し制御部22bは、第1画像の読み出しを選択する場合には、撮像素子12の垂直走査回路に全てのライン番号の読み出しを指示する。一方、読み出し制御部22bは、第2画像の読み出しを選択する場合には、撮像素子12の垂直走査回路に、部分的に読み出すライン番号を指示する。
【0032】
ここで、動き検出部22aは、撮像素子12が現フレームに相当する第1画像を出力した場合には、前フレームに相当する第1画像と、現フレームに相当する第1画像との間で動き検出を行なう。また、動き検出部22aは、撮像素子12が現フレームに相当する第2画像を出力した場合には、その第2画像の前フレームに相当する第1画像の部分領域となる箇所を、第2画像で上書き(或いは置換)してなる第3画像(擬似フレーム)を生成して、第1画像と第3画像との間で動き検出を行なう。これにより、本実施形態では、第1画像と比較して第2画像を出力する分、電力消費を抑制することができる。なお、擬似フレームは、元来、第1画像であるので、動き検出部22aは、前フレームが擬似フレームの場合には、擬似フレームを第1画像相当であるとみなして、現フレーム(第1画像又は擬似フレーム)との間で動き検出を行なう。
【0033】
また、読み出し制御部22aは、動き量が予め設定した閾値以上の場合、第2画像の読み出しを非連続とする選択を行なっても良い。つまり、第2画像の読み出しを非連続とすることにより、読み出し制御部22aは、動き量が予め設定した閾値未満の被写体に比べて、動きが速い注目被写体に対しても第1画像にて位置を正確に特定して追尾することができる。なお、閾値は、予めフラッシュメモリ16に記録されており、読み出し制御部22aは、その閾値をフラッシュメモリ16から読み出す。
【0034】
また、読み出し制御部22aは、動き量が予め設定した閾値未満の場合、第2画像の読み出しを予め設定した回数分連続して選択しても良い。つまり、動き量が予め設定した閾値未満であれば、読み出し制御部22aは、第2画像を連続して読み出しても、注目被写体が第2画像の領域からはみ出すことを極力、防ぐ。なお、予め設定した回数は、ここでは3回とする。つまり、読み出し制御部22aは、3回連続して第2画像を読み出すことで、その分、電力消費を抑制することができる。なお、予め設定した回数(3回)は、一例であって、この3回に限定されない。
【0035】
次に、本実施形態の電子カメラ1の動作の一例を説明する。
図2は、電子カメラ1の動作の一例を示すフローチャートである。ここで、電子カメラ1の電源がオンされた後、
図1に示す操作部20が、静止画撮影を行なう撮影モードの入力を受け付けると、ASIC22は、
図2に示すフローの処理を開始させる。
【0036】
ステップS101:ASIC22は、TG13を介して、撮像素子12にスルー画像の取得を指示する。これにより、ASIC22は、例えば、30fpsのフレームレートでスルー画像を表示モニタ17に表示させる。
【0037】
ステップS102:ASIC22は、追尾対象となる注目被写体の動体検出処理を行なう。具体的には、ASIC22は、スルー画像の元になる画像データを解析して被写体の輪郭を検出する。例えば、ASIC22は、画像データに基づいて画素値が急変する部分を算出し、その画素値が急変する部分を輪郭として検出する。
【0038】
なお、ASIC22は、他の動体検出処理を採用しても良い。例えば、ASIC22は、撮影者が表示モニタ17の表示画面上において注目被写体の周囲を指先でなぞった場合、注目被写体を囲む領域の位置座標の入力をタッチパネル19を介して受け付ける。これにより、ASIC22は、追尾対象となる注目被写体を検出することができる。
【0039】
ステップS103:ASIC22は、第1モードの設定を行なう。ここで、第1モードは、注目被写体が動く領域を含む指定領域として撮影画面の全体からなる第1画像の読み出しを2回連続して行なった後、指定領域として撮影画面内の注目被写体が動く領域を含む部分領域からなる第2画像の読み出しを行なうモードである。ASIC22は、
図2に示すフローの処理が開始された場合、第1モードの設定を初期設定の位置づけとして行なう。それ以降、ASIC22は、後述する通り、注目被写体の動き量に応じて、第2モードの設定と第3モードの設定との何れか一方を選択する。
【0040】
ステップS104:ASIC22は、モードに応じた動き検出処理をモード別のサブルーチンにより行なう(詳細は後述する)。
【0041】
ステップS105:ASIC22は、注目被写体の動き量が閾値以上か否かを判定する。動き量が閾値以上の場合(ステップS105:Yes)、ASIC22は、ステップS106の処理に移行する。一方、動き量が閾値未満の場合(ステップS105:No)、ASIC22は、ステップS107の処理に移行する。
【0042】
ステップS106:ASIC22は、第2モードの設定を行ない、ステップS108の処理に移行する。ここで、第2モードは、動き量が予め設定した閾値以上の場合、第2画像の読み出しを非連続とするモードである。
【0043】
ステップS107:ASIC22は、第3モードの設定を行ない、ステップS108の処理に移行する。ここで、第3モードは、動き量が予め設定した閾値未満の場合、第2画像の読み出しを予め設定した回数分連続して選択するモードである。本実施形態では、第2画像の読み出しの回数を3回とする。
【0044】
ステップS108:ASIC22は、レリーズ釦21が全押し操作の指示入力を受け付けたか否かを判定する。レリーズ釦21が全押し操作の指示入力を受け付けた場合(ステップS108:Yes)、ASIC22は、ステップS109の処理に移行する。一方、レリーズ釦21が全押し操作の指示入力を受け付けていない場合(ステップS108:No)、ASIC22は、ステップS104の処理に戻り、再度、モードに応じた動き検出処理を行なう。
【0045】
ステップS109:ASIC22は、記録用の画像(本画像)の撮影処理を行なう。具体的には、ASIC22は、TG13を介して、レリーズ釦21による全押し操作の指示入力に応答して、露出値、絞り、シャッタ速度等の撮影条件に基づいて撮像素子12を駆動する。信号処理部14は、画像信号のゲイン調整やA/D変換等を行なう。信号処理部14が出力する画像信号は、RAM15に画像データとして一時記録される。ASIC22は、RAM15に記録されている画像データを読み出し、各種の画像処理(階調変換処理、輪郭強調処理、ホワイトバランス処理等)を施す。
【0046】
ステップS110:ASIC22は、本画像の記録処理を行なう。具体的には、ASIC22は、各種の画像処理が施された本画像を、記録I/F部18を介して、記録媒体30に記録する。そして、ASIC22は、
図2に示すフローを終了させる。
【0047】
次に、第1モードの動き検出処理について説明する。
【0048】
図3は、第1モードのサブルーチンの一例を示すフローチャートである。
図4は、モードに応じた動き量検出処理を説明する図である。
図5は、擬似フレームの生成の処理を説明する図である。
図6は、第1モード及び第2モードでの処理のシーケンスの一例を説明する図である。
図6では、第1フレームメモリ22c及び第2フレームメモリ22dに順次記録される画像を模式的に示している。ここで、
図6において、各フレームには、シーケンスの番号が付与されている。なお、図中の丸付きの番号は、第2画像を表している。そして、図中のダッシュ付きの番号は、第2画像で上書きした擬似フレームを表している。
【0049】
図3では、説明をわかりやすくするため、撮像素子12側の制御とASIC22側との制御のシーケンスの処理を例示している(後述する
図7、
図8も同様)。
図3において、先ず、ASIC22の読み出し制御部22bが、第1画像(全画面)の読み出しの指示を行なうことにより、撮像素子12は、ステップS201の処理を開始する。なお、ASIC22は、撮像素子12への指示をTG13を介して行なう。また、フローの処理では、フレームの番号をnで一般化しているが、簡単のため撮像素子12が読み出し開始時のフレームの番号をn=1として説明する。
【0050】
ステップS201:撮像素子12は、1フレーム目(n=1)の第1画像を出力する。すなわち、撮像素子12は、撮像された入射光を有効画素領域の全体で読み出して、1フレーム目の第1画像として出力する。ASIC22は、この第1画像の画像データを
図6に示す第1フレームメモリ22cに記録する。
【0051】
ステップS202:撮像素子12は、(n+1)フレーム目の第1画像を出力する。具体例として、撮像素子12は、2フレーム目の第1画像を出力する。ASIC22は、この第1画像の画像データを
図6に示す第2フレームメモリ22dに記録する。
【0052】
ステップS203:ASIC22の動き検出部22aは、フレーム間差分に基づく動き検出処理を行なう。具体的には、
図4に示す通り、画像を複数のブロックに分割する。各々のブロックには、複数の画素が含まれる。そして、動き検出部22aは、ブロック毎に、隣り合うフレーム間(例えば、
図4(a)に示す2フレーム目の第1画像と、
図4(b)に示す1フレーム目の第1画像)での差分により動き(動きベクトル)を検出する。これにより、動き検出部22aは、動きベクトルを有することにより差分が生じたブロックを検出する。例えば、
図4(c)の差分画像に示す通り、時刻t1での注目被写体Pの位置から時刻t2での注目被写体Pの位置へと移動したことにより、動き検出部22aは、斜線で囲むブロックについて、動きを検出する。
【0053】
ステップS204:ASIC22の読み出し制御部22bは、動きを検出したブロックを含む複数の水平方向のライン番号(座標データ)を送信する。すなわち、読み出し制御部22bは、撮像素子12の垂直走査回路に第2画像の読み出しを指示する。なお、
図4では、ブロックに分割された画像を撮像素子12の有効撮像領域に対応付けており、読み出し制御部22bは、ライン番号5〜8の読み出しを指示する。また、読み出し制御部22aは、動き量が大きくなるに従って、部分領域のサイズも大きくなるようにして第2画像の読み出しを選択しても良い。これにより、読み出し制御部22aは、注目被写体を見失うことを防ぎながら、電力消費を抑制することができる。
【0054】
ステップS205:撮像素子12は、第2画像の読み出しのライン番号(座標データ)を受信する。具体的には、撮像素子12は、読み出しラインをフラグのオン、オフで管理しており、垂直走査回路に第2画像の読み出しのライン番号が入力されると、読み出すライン番号についてフラグをオンにする。
【0055】
ステップS206:撮像素子12は、(n+2)フレーム目の第2画像を出力する。具体的には、撮像素子12は、有効画素領域のうち、フラグがオンになったライン番号の部分領域のみ読み出して、3フレーム目の第2画像の画像信号として出力する。
図5(a)では、第2画像を各ブロックに分割して模式的に表している。そして、ASIC22は、第2画像の画像信号を受信して、第2フレームメモリ22dに記録する。
【0056】
ステップS207:ASIC22は、(n+1)フレーム目の第1画像に第2画像を上書きして、(n+2)フレームの第3画像(擬似フレーム)を生成する。具体的には、ASIC22は、3フレーム目の第2画像(
図5(a)参照)を2フレーム目の第1画像(
図5(b)参照)に上書きすることにより、3フレーム目として第3画像(擬似フレーム)を生成する(
図5(c)参照)。なお、説明の便宜上、各画像はブロックで分割されている。また、
図6では、3フレーム目として第3画像(擬似フレーム3’)が第2フレームメモリ22dに記録されたことを表している。
【0057】
ステップS208:読み出し制御部22bは、次のフレームの番号(n=n+3)のセットを行なう。具体的には、読み出し制御部22bは、次のフレームの番号(n=4)をセットする。
【0058】
以上より、動き検出部22aは、第1モードに応じた動き検出処理を終了し、
図2に示すステップS105の処理に移行する。そして、上述した通り、ASIC22は、動き量が閾値以上か否かを判定する。
【0059】
動き量が閾値以上の場合には、ASIC22は、第2モードを設定する。そして、全押しの指示入力がない場合には、ASIC22は、再度、ステップS104の処理に移行し、第2モードの動き検出処理を行なう。
【0060】
一方、動き量が閾値未満の場合には、ASIC22は、第3モードを設定する。そして、全押しの指示入力がない場合には、ASIC22は、再度、ステップS104の処理に移行し、第3モードの動き検出処理を行なう。なお、ライブビュー表示の場合には、例えば、第1フレームメモリ22c又は第2フレームメモリ22dに順次記録された第1画像(擬似フレームも含む)は、表示モニタ17に順次出力される。
【0061】
以下、第2モード及び第3モードの動き検出処理について説明する。先ず、第2モードの動き検出処理について説明する。
【0062】
図7は、第2モードのサブルーチンの一例を示すフローチャートである。第2モードでは、読み出し制御部22bは、一例として、第1画像の読み出しと第2画像の読み出しとを交互に行なう。これにより、第2モードでは、注目被写体の動きに伴う画質の劣化を防ぐことができる。なお、フローの処理では、
図6を参照して説明する。
【0063】
図7において、先ず、読み出し制御部22bが、第1画像の読み出しの指示を行なうことにより、撮像素子12は、ステップS301の処理を開始する。ここで、上述した第1モードから第2モードに切り替っているため、読み出し制御部22bは、第2モード時に4フレーム目の第1画像の読み出しの指示を行なう。
【0064】
ステップS301:撮像素子12は、4フレーム目(n=4)の第1画像を出力する。すなわち、撮像素子12は、有効画素領域の全体で読み出して、4フレーム目の第1画像として出力する。ASIC22は、この第1画像の画像データを
図6に示す第1フレームメモリ22cに記録する。
【0065】
ステップS302:動き検出部22aは、フレーム間差分に基づく動き検出処理を行なう。具体的には、動き検出部22aは、
図6に示す通り、第2フレームメモリ22dに記録されている3フレーム目の第3画像(擬似フレーム3’)と、第1フレームメモリ22cに記録されている4フレーム目の第1画像4とを用いて、フレーム間差分に基づく動き検出処理を行なう。
【0066】
ステップS303:読み出し制御部22bは、動きを検出したブロックを含む複数の水平方向のライン番号(座標データ)を送信する。すなわち、読み出し制御部22bは、撮像素子12の垂直走査回路に第2画像の読み出しを指示する。
【0067】
ステップS304:撮像素子12は、第2画像の読み出しのライン番号を受信する。具体的には、上述した通り、撮像素子12は、垂直走査回路に第2画像の読み出しのライン番号が入力されると、読み出すライン番号についてフラグをオンにする。
【0068】
ステップS305:撮像素子12は、(n+1)フレーム目の第2画像を出力する。具体的には、撮像素子12は、有効画素領域のうち、フラグがオンになったライン番号の部分領域のみ読み出して、5フレーム目の第2画像の画像信号として出力する。そして、ASIC22は、第2画像の画像信号を受信して、第1フレームメモリ22cに記録する。
【0069】
ステップS306:ASIC22は、nフレーム目の第1画像に第2画像を上書きして、(n+1)フレームの第3画像(擬似フレーム)を生成する。具体的には、ASIC22は、5フレーム目の第2画像を4フレーム目の第1画像に上書きすることにより、5フレーム目として第3画像(擬似フレーム5’)を生成する。
図6では、5フレーム目として第3画像(擬似フレーム5’)が第1フレームメモリ22cに記録されたことを表している。
【0070】
ステップS307:読み出し制御部22bは、次のフレームの番号(n=n+2)のセットを行なう。具体的には、読み出し制御部22bは、次のフレームの番号(n=6)をセットする。
【0071】
以上より、動き検出部22aは、第2モードに応じた動き検出処理を終了し、
図2に示すステップS105の処理に移行する。その後、ASIC22は、ステップS104に戻り、第2モードに応じた動き検出処理を繰り返す場合、
図7に示す第2モードのサブルーチンのフローの処理を行なう。これにより、
図6に示す通り、6フレーム(第1画像6)、7フレーム(擬似フレーム7’)、8フレーム(第1画像8)、9フレーム(擬似フレーム9’)というように、各々のフレームは、第1フレームメモリ22c又は第2フレームメモリ22dに順次記録されていく。これにより、動き検出部22aは、フレーム間差分を行なうことができる。
【0072】
次に、第3モードの動き検出処理について説明する。
【0073】
図8は、第3モードのサブルーチンの一例を示すフローチャートである。
図9は、第1モード及び第3モードでの処理のシーケンスの一例を説明する図である。第3モードでは、読み出し制御部22bは、一例として、動き量が予め設定した閾値未満の場合、第2画像の読み出しを予め設定した回数(3回)分連続して選択する。これにより、第3モードでは、第2画像を連続して読み出す分、省電力化を図ることができる。なお、前フレームが既に第2画像として出力されていた場合には、読み出し制御部22bは、引き続き2回連続して第2画像の読み出しを選択する。つまり、読み出し制御部22bは、結果的に3回連続して第2画像の読み出しを選択することとする。
【0074】
図8において、第3モードでは、読み出し制御部22bが第1画像の読み出しの指示を行なわずに、撮像素子12は、ステップS401の処理を開始する。なお、フローの処理では、
図9を参照して説明する。
【0075】
ステップS401:撮像素子12は、4フレーム目(n=4)の第2画像を出力する。ASIC22は、この第2画像の画像データを第2フレームメモリ22dに記録する。
【0076】
ステップS402:ASIC22は、(n−1)フレーム目の第1画像に第2画像を上書きして、nフレームの第3画像(擬似フレーム)を生成する。具体的には、ASIC22は、4フレーム目の第2画像を3フレーム目の第1画像(擬似フレーム3’)に上書きすることにより、4フレーム目として第3画像(擬似フレーム4’)を生成する。
図9では、4フレーム目として第3画像(擬似フレーム4’)が第2フレームメモリ22dに記録されたことを表している。
【0077】
ステップS403:撮像素子12は、(n+1)フレーム目の第2画像を出力する。具体的には、撮像素子12は、5フレーム目の第2画像を出力する。ASIC22は、この第2画像の画像データを第2フレームメモリ22dに記録する。
【0078】
ステップS404:ASIC22は、nフレーム目の第1画像に第2画像を上書きして、n+1フレームの第3画像(擬似フレーム)を生成する。具体的には、ASIC22は、5フレーム目の第2画像を4フレーム目の第1画像(擬似フレーム4’)に上書きすることにより、5フレーム目として第3画像(擬似フレーム5’)を生成する。
図9では、5フレーム目として第3画像(擬似フレーム5’)が第2フレームメモリ22dに記録されたことを表している。そして、読み出し制御部22bは、第1画像の読み出しの指示を行なう。
【0079】
ステップS405:撮像素子12は、(n+2)フレーム目の第1画像を出力する。具体的には、撮像素子12は、有効画素領域の全体で読み出して、6フレーム目の第1画像6として出力する。ASIC22は、この第1画像の画像データを第1フレームメモリ22cに記録する。
【0080】
ステップS406:動き検出部22aは、フレーム間差分に基づく動き検出処理を行なう。具体的には、動き検出部22aは、第2フレームメモリ22dに記録されている5フレーム目の第3画像(擬似フレーム5’)と、第1フレームメモリ22cに記録されている6フレーム目の第1画像6とを用いて、フレーム間差分に基づく動き検出処理を行なう。
【0081】
ステップS407:読み出し制御部22bは、動きを検出したブロックを含む複数の水平方向のライン番号(座標データ)を送信する。すなわち、読み出し制御部22bは、撮像素子12の垂直走査回路に第2画像の読み出しを指示する。
【0082】
ステップS408:撮像素子12は、第2画像の読み出しのライン番号(座標データ)を受信する。具体的には、上述した通り、撮像素子12は、垂直走査回路に第2画像の読み出しのライン番号が入力されると、読み出すライン番号についてフラグをオンにする。
【0083】
ステップS409:撮像素子12は、(n+3)フレーム目の第2画像を出力する。具体的には、撮像素子12は、有効画素領域のうち、フラグがオンになったライン番号の部分領域のみ読み出して、7フレーム目の第2画像の画像信号として出力する。そして、ASIC22は、第2画像の画像信号を受信して、第1フレームメモリ22cに記録する。
【0084】
ステップS410:ASIC22は、n+2フレーム目の第1画像に第2画像を上書きして、n+3フレームの第3画像(擬似フレーム)を生成する。具体的には、ASIC22は、7フレーム目の第2画像を6フレーム目の第1画像6に上書きすることにより、7フレーム目として第3画像(擬似フレーム7’)を生成する。
図9では、7フレーム目として第3画像(擬似フレーム7’)が第1フレームメモリ22cに記録されたことを表している。
【0085】
ステップS411:読み出し制御部22bは、次のフレームの番号(n=n+4)のセットを行なう。具体的には、読み出し制御部22bは、次のフレームの番号(n=8)をセットする。
【0086】
以上より、動き検出部22aは、第3モードに応じた動き検出処理を終了し、
図2に示すステップS105の処理に移行する。その後、ASIC22は、ステップS104に戻り、第3モードに応じた動き検出処理を繰り返す場合、
図8に示す第3モードのサブルーチンのフローの処理を行なう。これにより、
図9に示す通り、8フレーム(擬似フレーム8’)、9フレーム(擬似フレーム9’)、10フレーム(第1画像10)というように、各々のフレームは、第1フレームメモリ22c又は第2フレームメモリ22dに順次記録されていく。これにより、動き検出部22aは、フレーム間差分を行なうことができる。
【0087】
なお、動画記録の場合には、第1フレームメモリ22c又は第2フレームメモリ22dに順次記録された第1画像(擬似フレームも含む)は、RAM15に記録され、所定の画像処理が施された後、フラッシュメモリ16又は記録媒体30に記録される。
【0088】
以上より、本実施形態の電子カメラ1は、ライブビュー表示中や動画記録中において、ASIC22からフィードバックされた読み出しラインの情報に基づいて、撮影画面内で動く被写体を含む第2画像を撮像素子12から出力する。この第2画像は第1画像に上書き(或いは置換)され擬似フレームとして表示モニタ17に表示される。電子カメラ1は、第2画像を出力することによりデータ転送量を削減することができるので、その分、電力消費を抑制できる。従って、本発明によれば、低消費電力化を実現する電子カメラを提供できる。
【0089】
(実施形態の補足事項)
(1)上記実施形態では、CMOS型のイメージセンサを用いて説明したが、CCD(Charge Coupled Device)型のイメージセンサであっても良い。
【0090】
(2)上記実施形態では、撮影画面内を左右方向に移動する被写体について説明したが、移動方向は左右のみに限定されるものではなく、撮影画面内を上下方向、斜め方向、もしくは前後(光軸)方向に移動する被写体であっても良い。
【0091】
(3)上記実施形態では、スルー画像から追尾対象として人物の被写体を例示したが、追尾対象は、人物に限られず、動物、乗物等の各種の物体を追尾対象としても良い。
【0092】
(4)上記実施形態では、被写体の動きを検知して、動き量に応じて、第2モードと第3モードに切り替えたが、例えば、第2モードに固定して読み出す方式を採用しても良い。
【0093】
(5)上記実施形態では、フレーム間差分では、隣接するフレーム間で差分を行なったが、例えば、動き量が閾値未満の場合、30fps毎に出力される第1フレームを読み出して、フレーム間差分を行なうようにしても良い。
【0094】
(6)上記実施形態では、動き量の閾値として、第2モードと第3モードの切換えを判定するための閾値について説明したが、第2モードと第3モードの判定閾値よりもさらに大きい動き量を判別するための閾値を新たに追加して、検出した動き量がこの新たな閾値以上の場合、被写体の動きが非常に早いものと判別し、第1画像を毎フレーム出力し続けるようにしても良い。このようにすれば、被写体の動きが非常に速い場合は被写体の動きに対する追従性を優先した制御を行い、被写体の動きがそれ程速くない場合は消費電力の低減を優先した制御を行うというように、撮影条件に応じて要求される目的に適した制御を行うことが可能となる。