(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0008】
以下、図面を用いて本発明の実施形態について説明する。
【0009】
<一の実施形態での構成例の説明>
図1は、一の実施形態における撮像装置の一例である電子カメラの構成例を示すブロック図である。
【0010】
電子カメラ1は、撮影レンズ11と、撮像素子12と、A/D変換部13と、第1メモリ14と、画像処理部15と、記録インターフェース(I/F)16と、表示I/F17と、モニタ18と、操作部19と、CPU(Central Processing Unit)20と、第2メモリ21と、温度検出部22と、システムバス23とを有している。なお、第1メモリ14、画像処理部15、記録I/F16、表示I/F17、およびCPU20は、システムバス23を介して接続されている。また、操作部19、第2メモリ21、および温度検出部22は、CPU20と接続されている。
【0011】
撮影レンズ11は、撮像素子12の撮像面に被写体の像を結像する。なお、撮像レンズ11は、ズームレンズと、合焦位置調節用のフォーカスレンズとを含む複数のレンズ群で構成されている。
【0012】
撮像素子12は、撮影レンズ11を通過した光束を光電変換して被写体の像を撮像(撮影)する。本実施形態の撮像素子12は、例えば、CMOS(Complementary Metal-Oxide Semiconductor)イメージセンサである。
【0013】
ここで、撮像素子12は、操作部19からの指示に応じて、不揮発性の記録媒体(30)への記録を伴う記録用の静止画像や記録用の動画像を撮像する。また、撮像素子12は、撮影待機時において所定の時間間隔ごとに観測用の画像(スルー画像)を撮影する。時系列に取得されたスルー画像のデータは、例えば、CPU20による各種の演算処理や、モニタ18での動画表示(ライブビュー表示)に使用される。
【0014】
A/D変換部13は、撮像素子12から出力されたアナログの画像信号をA/D変換することでデジタルの画像信号を出力する。A/D変換部13の出力は第1メモリ14に接続されている。
【0015】
第1メモリ14は、画像処理部15による画像処理の前工程や後工程で画像データを一時的に記録するためのバッファメモリである。第1メモリ14は、例えば、揮発性の記録媒体のSDRAM(Synchronous Dynamic Random Access Memory)である。また、本実施形態の第1メモリ14は、後述の算出部31によって算出されたFPN補正値を一時的に記録する。
【0016】
画像処理部15は、撮影時のデジタル画像信号に各種の画像処理(例えば、色補間、階調変換、ホワイトバランス補正、輪郭強調など)を施す。また、画像処理部15は、画像処理後の静止画像や動画像のデータを所定の圧縮形式で圧縮する。さらに、画像処理部15は、CPU20の指示により、スルー画像の画像信号や動画像の画像信号からライブビュー表示用の画像(ビュー画像)を生成する。
【0017】
記録I/F16は記録媒体30を接続するためのコネクタを有している。そして、記録I/F16は、コネクタに接続された記録媒体30に対して静止画像または動画像のデータの書き込み/読み込みを実行する。上記の記録媒体30は、ハードディスクや半導体メモリを内蔵したメモリカードなどである。なお、
図1では記録媒体30の一例としてメモリカードを図示する。
【0018】
表示I/F17は、CPU20の指示に基づいてモニタ18の表示を制御する。
【0019】
モニタ18は、CPU20および表示I/F17の指示に応じて各種画像を表示する。モニタ18は、例えば液晶モニタである。モニタ18には、撮影待機時にビュー画像が動画表示される。
【0020】
操作部19は、記録用の静止画像の撮像指示や、記録用の動画像の撮像指示を含む各種入力をユーザから受け付ける。
【0021】
CPU20は、制御部の一例であって、第2メモリ21に格納されたプログラムに従って、電子カメラ1の各部動作を制御することにより、動画像および静止画像を撮像させる。例えば、CPU20は、撮像素子12の駆動制御、撮像時の自動露出(Auto Exposure)制御などを行う。また、CPU20は、撮像素子12の電荷蓄積時間の制御により、撮像時の露光時間(シャッタ秒時)を調整する。また、CPU20は、例えば、撮像素子12の増幅回路(不図示)でのゲイン調整などにより、ISO感度に相当する撮像感度を制御する。
【0022】
また、本実施形態のCPU20は、算出部31、補正部32、動き検出部33を有している。
図1に示す算出部31、補正部32、動き検出部33は、ハードウェア的には任意のプロセッサ、メモリ、その他の電子回路で実現でき、ソフトウェア的にはメモリにロードされたプログラムによって実現される。本実施形態では、算出部31、補正部32、動き検出部33を、CPU20によって処理されるプログラムモジュールとして説明するが、これらの一部または全部は、ASIC(Application Specific Integrated Circuit)等であってもよい。
【0023】
算出部31は、撮像素子12の固定パターンノイズの成分を示すFPN補正値(補正値の一例)を算出する。例えば、算出部31は、CMOSイメージセンサである撮像素子12の画素の蓄積電荷をリセットした後に信号を読み出し、リセット後に読み出した信号を用いてFPN補正値を生成する。例えば、FPN補正値は、撮像素子12の各列の固定パターンノイズの値をそれぞれ示す情報である。
【0024】
ここで、撮像素子12の画素から出力される信号には、入射光による信号電荷の成分と、固定パターンノイズの成分とが含まれる。一方、撮像素子12の画素をリセットした後に読み出される信号は、入射光による信号電荷の成分を含まないので、固定パターンノイズの成分を示す信号となる。例えば、CMOSイメージセンサの場合、画素の垂直方向に設けられるカラム読出回路等のバラツキにより、固定パターンノイズは画像に縦筋状のノイズとして現れる。しかし、撮像素子12の画素をリセットした後に読み出される信号を用いてFPN補正値を生成することで、電子カメラ1は撮像素子12の出力から縦筋状の固定パターンノイズを列ごとに除去することが可能となる。
【0025】
なお、上記の固定パターンノイズの大きさは、撮像素子12の動作条件(例えば、撮像感度や撮像素子12の温度)に応じて変化しうる。そのため、CPU20は、撮像素子12の動作条件が変化するときに、算出部31にFPN補正値を算出させる算出動作を指示する。
【0026】
補正部32は、撮像素子12から出力される画像信号からFPN補正値を減算することで、撮像した画像から固定パターンノイズの成分を除去する。
【0027】
動き検出部33は、時系列の画像間での被写体の動きを検出する。例えば、動き検出部33は、時系列に取得された2つの画像を対比し、画像間でのエッジのズレや画像間で画素の色成分に変化があるときに、2つの画像間で被写体に動きがあると判定する。また、例えば、動き検出部33は、時系列に取得された2つの画像間で被写体の動きベクトルを求め、上記の動きベクトルを用いて被写体に動きがあるか否かを判定してもよい。上記の動きベクトルは、動き検出部33が算出してもよく、画像処理部15が動画像の圧縮時に算出した動きベクトルを動き検出部33が用いてもよい。なお、動き検出部33は、画像に含まれる被写体のうち、例えば、画面中央や焦点検出領域に対応する主要被写体を上記の動き検出の対象としてもよい。
【0028】
第2メモリ21は、電子カメラの各部動作を制御するプログラムを記録する不揮発性メモリである。なお、上記のプログラムによるFPN補正の動作例は後述する。
【0029】
温度検出部22は、撮像素子12近傍の温度を検出する。温度検出部22が検出する温度の情報は、CPU20に出力される。例えば、温度検出部22は、撮像素子12近傍の温度として、電子カメラ1内の温度を常時監視する温度センサである。
【0030】
<一の実施形態での動作例の説明>
図2は、一の実施形態における電子カメラ1の動作例を示すフローチャートである。
図2の動作例では、記録用の動画像の撮像中に、記録用の静止画像の取得指示が行われる場合を説明する。なお、
図2の処理は、電子カメラ1の撮影モードの起動により開始される。
【0031】
ステップS101:CPU20は、撮像素子12を駆動させてスルー画像の取得を開始する。撮像素子12は所定間隔毎に間引き読み出しでスルー画像の画像信号を取得する。画像処理部15はスルー画像のデータに基づいてビュー画像を逐次生成する。そして、撮影待機時のモニタ18にはビュー画像が動画表示される。したがって、ユーザはモニタ18のビュー画像によって、撮影構図を決定するためのフレーミングを行うことができる。
【0032】
ステップS102:CPU20は、操作部19の操作により動画記録開始の指示を受け付けたか否かを判定する。CPU20が動画記録開始の指示を受け付けたと判定した場合(YES側)、ステップS103に処理が移行する。一方、CPU20が動画記録開始の指示を受け付けていないと判定した場合(NO側)、CPU20は、動画記録開始の指示を待機する。
【0033】
ステップS103:CPU20は、動画像の記録開始に先立ち、FPN補正値を算出させる算出動作を算出部31に指示する。
【0034】
例えば、CPU20は、撮像素子12の撮像感度を設定した後、撮像素子12の画素を一度リセットしてから、固定パターンノイズの成分を示す信号を撮像素子12に出力させる。そして、算出部31は、撮像素子12から出力された固定パターンノイズの成分を示す信号を用いて、記録用の動画像の撮像時に使用するFPN補正値(第2の補正値の一例)を算出する。FPN補正値の情報は、CPU20の制御により、第1メモリ14に記録される。
【0035】
ステップS104:CPU20は、撮像素子12を駆動させて所定のフレームレートで動画像の撮像を行う。このとき、補正部32は、第1メモリ14に記録されたFPN補正値を用いて、撮像した画像の画像信号からFPN補正値を減算することで、動画像の各フレームについて固定パターンノイズの成分を除去する。そして、画像処理部15は、固定パターンノイズの成分を除去した補正後の画像に対して、画像処理および圧縮処理を施す。圧縮処理後の動画像のデータは、CPU20の制御により、記録媒体30に記録される。
【0036】
なお、動画像の撮像中には、画像処理部15は動画像のデータを用いて、ビュー画像を生成する。
【0037】
ステップS105:CPU20は、動画像の撮像中に撮像素子12の動作条件が変更されたか否かを判定する。例えば、CPU20は、撮像素子12の撮像感度が変更された場合や、撮像素子12近傍の温度に閾値以上の変化があったときに、撮像素子12の動作条件が変更されたと判定する。
【0038】
撮像素子12の動作条件が変更された場合(YES側)、ステップS106に処理が移行する。一方、撮像素子12の動作条件が変更されていない場合(NO側)、ステップS107に処理が移行する。
【0039】
ステップS106:CPU20は、撮像素子12の動作条件の変更に伴い、FPN補正値を更新する動作を算出部31に指示する。
【0040】
例えば、CPU20は、撮像素子12の現在の動作条件の下で、撮像素子12の画素を一度リセットしてから、固定パターンノイズの成分を示す信号を撮像素子12に出力させる。そして、算出部31は、撮像素子12から出力された固定パターンノイズの成分を示す信号を用いて、記録用の動画像の撮像時に使用するFPN補正値(第2の補正値の一例)を算出する。ステップS106で更新されたFPN補正値の情報は、CPU20の制御により、第1メモリ14に記録される。ステップS106の処理後には、ステップS104に処理が移行する。
【0041】
上記のFPN補正値の更新により、電子カメラ1は、撮像素子12の動作条件が変化しても、固定パターンノイズが適切に除去された動画像を記録することができる。なお、ステップS106のFPN補正値の更新動作により、動画像のフレームに欠落が生じる場合には、画像処理部15は前後のフレームを用いて欠落したフレームを補間すればよい。
【0042】
ステップS107:CPU20は、操作部19の操作により記録用の静止画像の撮像指示を受け付けたか否かを判定する。例えば、CPU20は、操作部19に含まれるレリーズ釦が押圧されたときに、静止画像の撮像指示を受け付ける。
【0043】
静止画像の撮像指示を受け付けた場合(YES側)、ステップS108に処理が移行する。一方、静止画像の撮像指示を受け付けていない場合(NO側)、ステップS104に処理が移行し、CPU20は動画像の撮像を継続する。
【0044】
ステップS108:CPU20は、静止画像を撮像するときの撮像感度が動画像の撮像時と変化するか否かを判定する。両者の撮像感度が変化する場合(YES側)、ステップS109に処理が移行する。一方、両者の撮像感度が変化しない場合(NO側)、ステップS111に処理が移行する。
【0045】
ステップS109:CPU20は、動き検出部33の検出結果により、撮影する被写体に動きがあるか否かを判定する。被写体に動きがある場合(YES側)、ステップS110に処理が移行する。一方、被写体に動きがない場合(NO側)、ステップS113に処理が移行する。
【0046】
ステップS110:この場合は、静止画像の撮像時に撮像素子12の撮像感度が変更され、かつ撮影する被写体に動きがある場合に相当する。ステップS110の場合、撮像素子12の動作条件に変化があるが、CPU20は、静止画像の動作条件に対応するFPN補正値の算出動作を算出部31に行わせない。そして、CPU20は、動画像の撮像時に使用されたFPN補正値(ステップS103、S106)を用いて、静止画像に含まれる固定パターンノイズの成分を補正部32に除去させる。
【0047】
これにより、動画像の撮像中に静止画像の撮像指示があったときに、FPN補正値の算出動作が省略されるので、FPN補正値の算出動作を行う場合と比べて、静止画像の撮像タイミングの遅延が少なくなる。静止画像の撮像タイミングの遅延が少なくなる結果、電子カメラ1は、静止画像を撮像するときに、動きのある被写体の所望の状態を撮り逃がしにくくなる。
【0048】
また、ステップS110でのCPU20は、静止画像を撮像するときの撮像素子12の撮像感度を動画像の撮像感度と一致させるとともに、例えば、撮像素子12の電荷蓄積時間の制御や、不図示の絞りの制御によって、静止画像を撮像するときの露出を調整する。
【0049】
例えば、CPU20は、撮像素子12の撮像感度を低下させるときには、代わりに撮像素子12の電荷蓄積時間を長くする制御、または絞りを開く制御により露出を調整する。例えば、CPU20は、撮像素子12の撮像感度を増加させるときには、代わりに撮像素子12の電荷蓄積時間を短くする制御、または絞りを絞る制御により露出を調整する。
【0050】
これにより、電子カメラ1は、撮像素子12の動作条件を動画像の撮像時と同じにしつつ、静止画像を適正な露出で撮像することができる。ステップS110の場合には、動画像の撮像時と静止画像の撮像時とで撮像素子12の動作条件が同じになるため、補正部32は、動画像の撮像時のFPN補正値を用いて静止画像から固定パターンノイズの成分を適切に除去できる。
【0051】
なお、ステップS110の処理後は、ステップS114に処理が移行する。
【0052】
ステップS111:CPU20は、撮像素子12近傍の温度に閾値以上の変化があるか(例えば、撮像素子12近傍の温度が以前より上昇しているか)否かを判定する。撮像素子12近傍の温度に閾値以上の変化がある場合(YES側)、ステップS112に処理が移行する。一方、撮像素子12近傍の温度に閾値以上の変化がない場合(NO側)、ステップS114に処理が移行する。
【0053】
ここで、ステップS111のNO側は、動画像の撮像時と静止画像の撮像時とで撮像素子12の動作条件が同じになる場合に相当する。ステップS111のNO側の場合、動画像の撮像時のFPN補正値で静止画像の固定パターンノイズを適切に除去できるので、算出部31は、FPN補正値の算出動作を行わない。
【0054】
ステップS112:CPU20は、動き検出部33の検出結果により、撮影する被写体に動きがあるか否かを判定する。被写体に動きがある場合(YES側)、ステップS114に処理が移行する。一方、被写体に動きがない場合(NO側)、ステップS113に処理が移行する。
【0055】
ここで、ステップS112のYES側は、撮像素子12近傍の温度に閾値以上の変化があり、かつ撮影する被写体に動きがある場合に相当する。ステップS112のYES側の場合、CPU20は、静止画像の動作条件に対応するFPN補正値の算出動作を算出部31に行わせない。そして、CPU20は、動画像の撮像時に使用されたFPN補正値(ステップS103、S106)を用いて、静止画像に含まれる固定パターンノイズの成分を補正部32に除去させる。
【0056】
これにより、動画像の撮像中に静止画像の撮像指示があったときに、FPN補正値の算出動作が省略されるので、FPN補正値の算出動作を行う場合と比べて、静止画像の撮像タイミングの遅延が少なくなる。静止画像の撮像タイミングの遅延が少なくなる結果、電子カメラ1は、静止画像を撮像するときに、動きのある被写体の所望の状態を撮り逃がしにくくなる。
【0057】
なお、ステップS112のYES側の場合、撮像素子12の動作条件が動画像の撮像時と静止画像の撮像時とで異なるため、動画像の撮像時のFPN補正値を用いると、静止画像には固定パターンノイズの影響が残る可能性がある。しかし、被写体に動きがあるため、撮像指示の時点から撮像タイミングの遅延無く静止画像を撮像する方が、ユーザの意図に沿った画像を得ることができる。
【0058】
ステップS113:この場合は、動画像の撮像時と静止画像の撮像時とで撮像素子12の動作条件が異なり、かつ被写体に動きがない場合(ステップS109のNO側、ステップS112のNO側)に相当する。ステップS113の場合、被写体に動きがないため、撮像指示の時点から撮像タイミングの遅延があっても大きな問題はない。そのため、CPU20は、撮像素子12の動作条件の変更に伴い、FPN補正値を算出する動作を算出部31に指示する。
【0059】
例えば、CPU20は、撮像素子12の現在の動作条件の下で、撮像素子12の画素を一度リセットしてから、固定パターンノイズの成分を示す信号を撮像素子12に出力させる。そして、算出部31は、撮像素子12から出力された固定パターンノイズの成分を示す信号を用いて、記録用の静止画像の撮像時に使用するFPN補正値(第1の補正値の一例)を算出する。ステップS113で算出されたFPN補正値の情報は、CPU20の制御により、第1メモリ14に記録される。
【0060】
上記のFPN補正値により、電子カメラ1は、撮像素子12の動作条件が変化しても、固定パターンノイズが適切に除去された静止画像を記録することができる。
【0061】
ステップS114:CPU20は、撮像素子12を駆動させて記録用の静止画像の撮像を行う。
【0062】
このとき、補正部32は、動画像の撮像時に使用されたFPN補正値(ステップS103、S106)または静止画像の撮像時に使用するFPN補正値(ステップS113)を用いて、撮像した静止画像の画像信号からFPN補正値を減算することで固定パターンノイズの成分を除去する。そして、画像処理部15は、固定パターンノイズの成分を除去した補正後の画像に対して、画像処理および圧縮処理を施す。圧縮処理後の静止画像のデータは、CPU20の制御により、記録媒体30に記録される。以上で本フローチャートの処理は終了する。
【0063】
以下、本実施形態における電子カメラの作用効果を説明する。
【0064】
一の実施形態の電子カメラ1は、被写体に動きがあるかないかに応じて(ステップS109、ステップS112)、静止画像の動作条件に対応するFPN補正値(ステップS113)および動画像の撮像時に使用されたFPN補正値(ステップS103、S106)のいずれかを用いて、静止画像に含まれる固定パターンノイズの成分を補正部32に除去させる。
【0065】
一の実施形態の電子カメラ1は、動画像の撮像中に静止画像の撮像指示があったとき(ステップS107のYES側)に、撮像素子12の動作条件が変更され、かつ撮影する被写体に動きがある場合(ステップS109のYES側、ステップS112のYES側)、静止画像の動作条件に対応するFPN補正値の算出動作を省略する。このとき、電子カメラ1は、動画像の撮像時に使用されたFPN補正値(ステップS103、S106)を用いて、静止画像に含まれる固定パターンノイズの成分を補正部32に除去させる。
【0066】
これにより、動画像の撮像中に静止画像の撮像指示があったときに、FPN補正値の算出動作を行う場合(ステップS113)と比べて、静止画像の撮像タイミングの遅延が少なくなる。静止画像の撮像タイミングの遅延が少なくなる結果、電子カメラ1は、静止画像を撮像するときに、動きのある被写体の所望の状態を撮り逃がしにくくなる。
【0067】
<実施形態の補足事項>
(1)一の実施形態では、動画記録開始の指示(ステップS102)を受け付けたときにFPN補正値を算出する例を説明した。しかし、本件開示の撮像装置は、スルー画像を取得するときにFPN補正値を取得してもよい。
【0068】
(2)本件開示の撮像装置は、被写体の動きを検出するときに、スルー画像または動画像のデータから顔領域を検出し、検出した顔領域に対応する被写体領域に動きがあるか否かを判定してもよい。また、動き検出部33は、顔検出の後、顔認識データの顔に対応する人物、画面中央にいる人物、顔の面積が一番大きい人物、又は被写体距離が最も近い人物等を主要被写体として、主要被写体に動きがあるか否かを判定してもよい。
【0069】
(3)一の実施形態では、ステップS108の後にステップS111の処理を行うこととしたが、上記の処理の順番は入れ替えてもよい。
【0070】
(4)一の実施形態では、CMOSイメージセンサの固定パターンノイズを除去する例を説明した。しかし、本件開示の撮像装置は、CCD(Charge Coupled Device)イメージセンサを用いる撮像装置にも適用できる。なお、CCDイメージセンサやCMOSイメージセンサの固定パターンノイズを取得する場合に、例えばメカシャッタで撮像面を遮光して固定パターンノイズを示す信号を取得するようにしてもよい。
【0071】
(5)本件開示の撮像装置は、レンズ一体型の電子カメラであってもよく、レンズ交換式の電子カメラであってもよい。また、本件開示の撮像装置は、例えば、携帯電子機器(スマートフォン、携帯電話、タブレットコンピュータ等)に組み込まれるカメラモジュールであってもよく、例えば、車両に搭載されるドライブレコーダなどであってもよい。
【0072】
以上の詳細な説明により、実施形態の特徴点および利点は明らかになるであろう。これは、特許請求の範囲が、その精神および権利範囲を逸脱しない範囲で前述のような実施形態の特徴点および利点にまで及ぶことを意図するものである。また、当該技術分野において通常の知識を有する者であれば、あらゆる改良および変更に容易に想到できるはずである。したがって、発明性を有する実施形態の範囲を前述したものに限定する意図はなく、実施形態に開示された範囲に含まれる適当な改良物および均等物によることも可能である。