(58)【調査した分野】(Int.Cl.,DB名)
前記ノイズ読み出し手段が、電荷読み出し対象画素に隣接する画素の画素回路から、ノイズ信号を読み出すことを特徴とする請求項1乃至3のいずれかに記載の撮像装置。
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1のようにノイズ源となる機構の駆動信号を本撮影時に記憶し、その後暗露光撮影を行ってノイズを再現する場合、本撮影中に生じた電源揺らぎなどは再現することができない。また、機構の制約により本撮影時と暗露光撮影時に同じ駆動を行なえない状況も生じる。例えば、撮像装置の姿勢が本撮影時の暗露光撮影時で変化すると、像ブレ補正機構などは重力変化によって同等の駆動を行なえない。
【0006】
したがって、画素信号を読み出す際に生じる、電源揺らぎなども含めたノイズ成分を、正確に抽出することが求められる。
【課題を解決するための手段】
【0007】
本発明の撮像装置は、複数の画素を有する撮像素子と、所定の画素に蓄積された電荷を、その電荷蓄積画素の画素回路を介して読み出す電荷読み出し手段と、所定の画素の画素回路から、ノイズ信号を読み出すノイズ読み出し手段とを備え、ノイズ読み出し手段が、電荷読み出し手段による電荷読み出しと並行して、ノイズ取得対象画素の画素回路から、ノイズ信号を読み出す。複数の画素は、例えば光電変換画素、光電変換機能をもたないダミー画素などを含み、光電変換画素に蓄積された電荷を読み出すことが可能である。ノイズ取得対象画素としては、光電変換画素、あるいは、光電変換機能をもたないダミー画素であってもよい。例えばノイズ読み出し手段は、蓄積電荷を読み出さずに画素回路から信号を出力させる。
【0008】
ノイズ読み出し手段は、電荷読み出し対象画素と異なる画素の画素回路から、ノイズ信号を読み出すことが可能であり、例えば、電荷読み出し手段が水平ライン毎に蓄積電荷を読み出す場合、ノイズ読み出し手段は、電荷読み出し対象ラインとは異なるラインに沿って、ノイズ信号を読み出せばよい。特に、ノイズ読み出し手段は、電荷読み出し対象画素に隣接する画素の画素回路からノイズ信号を読み出すのがよく、隣接するラインに沿ってノイズ信号を読み出すことが可能である。
【0009】
例えば、電荷もしくはノイズ信号を読み出す複数の信号処理手段を有する場合、複数の初期信号処理手段のうち、有効画素領域の同じ縁側にあって互いに異なる信号処理手段が、電荷とノイズ信号とをそれぞれ処理することが可能である。特に、互いに隣り合う信号処理手段が処理すればよい。例えば、撮像素子に設けられたカラーフィルタアレイの色ごとに複数の信号処理手段が設けられている。
【0010】
一方、ノイズ読み出し手段は、電荷読み出し済み画素の画素回路から、ノイズ信号を読み出すことも可能である。例えば、電荷読み出し手段は、水平ライン毎に蓄積電荷を読み出し、ノイズ読み出し手段が、電荷読み出し終了した水平ラインから順にノイズ信号を読み出し、ノイズ読み出し手段が、電荷読み出しと同時に読み出されたノイズ信号に対し、電荷読み出し画素の画素位置に合わせる位置合わせシフト補正を行う。
【0011】
撮像装置は手振れ補正機構を設けることが可能であり、ノイズ読み出し手段は、ノイズ信号読み出し開始までの遅延期間中における手振れ補正機構に対する駆動信号をメモリに記憶し、電荷読み出し終了後、メモリに記憶された駆動信号を用いて手振れ補正機構を動作させ、ノイズ信号を読み出すことができる。
【0012】
撮影時、手振れ補正処理が有効であるか否かを判断する第1判断手段をさらに備えることも可能であり、ノイズ読み出し手段は、手振れ補正処理が有効である場合、ノイズ信号を読み出せばよい。また、撮影時、設定された感度が所定値以上であるか否かを判断する第2判断手段を備えることも可能であり、ノイズ読み出し手段は、感度が所定値以上である場合、ノイズ信号を読み出せばよい。
【0013】
さらに、読み出された電荷の画素信号からノイズ信号を減算する補正処理手段をさらに備えることが可能である。この場合、補正処理手段は、ノイズ信号に対して画素欠陥補正を行ってから減算してもよい。
【0014】
本発明の他の態様における撮像方法は、撮像素子に設けられた複数の画素に蓄積された電荷を、画素の画素回路を介して読み出す電荷読み出し、画素の画素回路から、ノイズ信号を読み出す方法であって、電荷読み出しと並行して、ノイズ取得対象画素の画素回路から、ノイズ信号を読み出す。
【発明の効果】
【0015】
本発明によれば、撮像装置において、画素信号読み出し時に生じるノイズを、正確に抽出することができる。
【発明を実施するための形態】
【0017】
以下では、図面を参照して本実施形態であるデジタルカメラについて説明する。
【0018】
図1は、第1の実施形態であるデジタルカメラのブロック図である。
【0019】
デジタルカメラ100は、画像処理部114を有するDSP110、イメージセンサ121を備えたイメージセンサユニット121A、ノイズ源となるSR(Shake Reduction)ブロック122、ジャイロセンサ123、メモリ124、記録媒体125、操作部材126、表示部を成すモニタ127、及びノイズ源となる撮影レンズ130などを備えている。ここでのイメージセンサ121は、CMOS型イメージセンサ(以下、CISという)によって構成されている。
【0020】
撮影レンズ130は、レンズ131とレンズ駆動モータ132とを備え、着脱自在となるようにデジタルカメラ100に取り付けられる。撮影レンズ130はCIS121に被写体像を結像させる。レンズ駆動モータ132は、コイル又は磁性体を備え、動作時に電気的なノイズを発生する。
【0021】
CIS121は、垂直方向(列方向)及び水平方向(行方向)に並べられた複数の画素を備える。画素は光電変換素子を備え、撮影レンズ130により結ばれた被写体像を画素が受光して電荷に変換し蓄積する。蓄積された電荷は、1フレーム分の画素信号としてDSP110に出力される。
【0022】
DSP110は、手振れ補正機構であるSRブロック122を制御するSR制御部111、イメージセンサユニット121Aを制御するCIS制御部112、レンズ駆動モータ132を制御するモータ制御部113、及び画像処理部114を備える。
【0023】
画像処理部114は、CIS121から画像信号を受信し、メモリ124を一時記憶領域として使用しながら画像処理を行って画像又は画像ファイルを生成する。画像はモニタ127に表示され、画像ファイルは記録媒体125に記憶される。記憶媒体は、デジタルカメラ100に対して着脱自在となるように設けられる、例えばSDカードである。
【0024】
モータ制御部113は、画像処理部114から画像を受信し、画像のコントラストなどに基づいて被写体像の合焦状態を判断する。そして、合焦状態に応じてレンズ駆動信号をレンズ駆動モータ132に送信して駆動する。レンズ駆動モータ132を駆動するとき、モータ制御部113は画像処理部114にもレンズ駆動信号を送信する。
【0025】
ジャイロセンサ123は、デジタルカメラ100に加えられた振動、すなわち角速度を検知してSR制御部111に送信する。SR制御部111は、CIS121が露光を行っているとき、角速度に応じて、デジタルカメラ100に対する振動(手振れ)を打ち消すのに必要な駆動量を算出する。そして駆動量をSR駆動信号としてSRブロック122及び画像処理部114に送信する。
【0026】
SRブロック122は、ボイスコイルモータ122aを備える。SR制御部111から駆動量を受信したSRブロック122は、駆動量に応じてボイスコイルモータ122aに通電し、ボイスコイルモータ122aが生じた力を利用してCIS121を移動させる。これにより、デジタルカメラ100に加えられた振動(手振れ)を打ち消すようにCIS121が移動する。
【0027】
ボイスコイルモータ122aは磁性体とコイルを備え、コイルに流す電流の方向(向き)と大きさとを変えることにより力を発生する。またボイスコイルモータ122aは、コイルに流す電流を調整してCIS121の位置を固定する。コイルに通電する電流が変化したとき、ボイスコイルモータ122aは電気的なノイズを発生する。
【0028】
CIS制御部112は、イメージセンサユニット121Aに読み出し信号(駆動信号)を出力し、CIS121の蓄積電荷が読み出し信号に応じてCIS121から出力される。このとき、画素信号(以下、画素データともいう)の読み出しと同時に、SRブロック122、レンズ駆動モータ132の動作に起因するノイズが含まれる信号(以下、ノイズ信号あるいはノイズデータという)を、同じ1フレーム読み出し期間内に行う。
【0029】
図2は、CIS121を含むイメージセンサユニット121Aの構成を示した図である。
【0030】
CIS121の受光面上には、ここではR,Gr,Gb,Bのカラーフィルタをベイヤー配列させたカラーフィルタアレイが設けられており、R,GrとGb、Grがそれぞれ水平ラインに沿って隣接し、R,BとGr,Gbがそれぞれ斜め方向に隣接したブロックが繰り返される。
【0031】
有効画素領域121Sの周辺には、各色に応じたカラムA/D変換回路(以下、カラムADC回路という)141、142、143、144が設けられている。ここでは、ここでは1水平ライン分の画素数に応じてカラムADC回路141〜144が有効画素領域121Sの上下周辺に設けられており、有効画素領域121Sの上側にカラムADC回路141、142、下側にカラムADC回路143、144を設けている。
【0032】
図2のようなカラーフィルタの構成の場合、有効画素領域121S上側のカラムADC回路141、カラムADC回路142は、カラーフィルタRに応じた画素(以下、R画素)、カラーフィルタBに応じた画素(以下、B画素)から読み出される画素信号(電荷)に対し、それぞれA/D変換処理を行う。下側のカラムADC回路143、カラムADC回路144は、カラーフィルタGbに応じた画素(以下、Gb画素)、カラーフィルタGrに応じた画素(以下、Gr画素)から読み出される画素信号に対し、それぞれA/D変換処理を行う。このようにR,Gr,Gb,Bの各色に応じてカラムADC回路を設けているため、2ライン分の画素信号を同時タイミングで読み出してA/D変換処理することが可能である。
【0033】
なお、カラムADC回路の構成については、有効画素領域121Sの上下にそれぞれ1つずつ、あるいは4つずつカラムADC回路を設けてもよく、また、有効画素領域121Sの上下いずれか一方だけにカラムADC回路を設けることも可能である。さらに、上下以外の有効画素領域121Sの周辺に設けることも可能である。
【0034】
図3は、画素回路の構成を示した図である。
図4は、画素信号およびノイズ信号読み出しのタイミングチャートを示した図である。
図3、4を用いて、画素信号およびノイズ信号の同時読み出しについて説明する。以下では、R画素を含む水平ラインの画素信号を画素データとして読み出す一方、B画素を含む水平ラインからノイズ信号を読み出す場合について説明する。
【0035】
R画素の画素回路121Rは、フォトダイオードPD、トランスファゲートTG、リセットゲートRG、フローティングディフュージョンFD、増幅回路AMP、および読み出しラインを選択する選択スイッチSELを備える。B画素の画素回路121Bも、同様の画素回路の構成になっている。カラムADC回路141、142には、相関二重サンプリング/ホールド回路150が設けられている。尚、カラムADCにはシングルスロープ型ADCなど知られている。
【0036】
画素信号を読み出す場合、まず初めに、リセット信号により(リセットゲートがON状態になることにより)、フローティングディフュージョンFDがリセットされる。そしてリセット解除後、選択スイッチSELがON状態になることによって、リセット信号が第1サンプルホールド(SH)信号線によって保持される。
【0037】
フォトダイオードPDに蓄積された電荷は、転送信号線を通じてトランスファゲートTGがON状態になると、フローティングディフュージョンFDに転送される。そして、トランスファゲートTGがOFFに切り替えられた後選択スイッチSELがON状態になることにより、第2SH信号線が電荷(画素信号)を保持する。
【0038】
第2SH信号線の画素信号から第1SH信号線のリセット信号を減算することで、リセットノイズを除去した画素信号がイメージセンサユニット121Aから読み出される。すなわち、撮影画像を構成する電荷情報を含んだ画素データが読み出される。
【0039】
一方、B画素に対しては、同様にリセット信号が第1SH信号線に保持される。しかしながら、転送信号線はOFF状態を維持したまま、すなわちTGがOFF状態のまま選択スイッチSELがON状態となり、リセット信号が第2SH線に保持される。そして第1SH信号線のリセット信号から第2SH信号線のリセット信号を減算した信号を、ノイズ信号(ノイズデータ)として読み出す。すなわち、電荷情報を持たないダークデータが、画素回路121Bから読み出される。
【0040】
図4に示すように、R画素、B画素ともに、第1SH線、第2SH線で保持されている信号が同じタイミングで読み出される。したがって、R画素の画素信号読出し期間内において電圧変動、磁界変化による揺らぎなどが発生すると、R画素の画素信号およびB画素の画素回路から出力されるノイズ信号に対して同様なノイズが生じる。
【0041】
Gb画素、Gr画素についても、同様の画素回路が構成されており、Gr画素から画素信号が読み出される一方、Gb画素の画素回路からノイズ信号が読み出される。
図2に示したn行目の水平ラインから画素信号が読み出され、n+1行目の水平ラインからノイズ信号が読み出されると、次に、n+1行目のGb、B画素の水平ラインに従って画素信号が読み出され、n+2行目のGr、R画素の水平ラインに従ってノイズ信号が読み出される。このような画素信号、ノイズ信号の同時で並列的な読み出しが1フレーム分の画像データ取得するまで行われる。
【0042】
図5は、1フレーム読み出し期間に渡る画素信号読み出し処理のタイミングチャートである。ここではローリングシャッタ方式によって画素信号を読み出しているが、グローバルシャッタ方式を適用してもよい。
【0043】
CIS121では、垂直同期信号VDに従って1フレーム分の画素信号が読み出される。ローリングシャッタ方式に従い、画像上から下に向けてラインごとに画素信号が順次読み出されていく。このとき、上下に配置されたカラムADC回路によって読み出されていく。一方、上述したようにデジタルカメラ100は手振れ補正機構であるSRブロック122を備えて、像ブレ補正機能がON状態で撮影が行われると、露光期間中および画素信号読み出し期間に渡って、像ブレ補正・位置保持処理を実行する。
【0044】
SRブロック122にはボイスコイル、磁石、ホール素子などが設けられており、画素信号読出し期間、すなわちカラムADC回路の動作期間中にボイスコイルに電流が流れると、CIS121の周辺では磁界変動が発生し、磁気かぶり変化によって撮影画像に筋状のノイズを発生させる。尚、磁界変動はライン上で磁界ムラがある場合、必ずしも筋状ノイズになるとは限らず、ライン上の部分的なノイズとして発生する場合もある。カラムADC回路の動作期間中に電源変動が生じた場合にも、同様の筋状ノイズを発生させる。電源変動としては、ライン上に大きな電荷読み出し画素を含む場合に筋引きノイズが発生することも知られている。
【0045】
本実施形態では、画素信号の読み出し期間と並行してノイズ信号を読み出し、同じ1フレーム読み出し期間に渡って同時タイミングで画素信号あるいはノイズ信号がラインごとに順次読み出される。そのため、時系列的なノイズ変動がどちらの読み出し期間も一致する。
【0046】
画素信号読み出し時と同じ磁界変動、電源変動に基づくノイズ信号が取得されることで、撮影画像に生じる筋状のノイズと同等のノイズがノイズ信号に重畳されているとみなせる。よって、画素データからノイズデータを減算することで、筋状ノイズのない補正された画素信号を得ることができる。このノイズ減算処理(補正処理)は、ここではイメージセンサユニット121Aに設けられた初期回路(図示せず)内で行われ、補正された画素データがDSP110へ送られても良いし、画素信号とノイズ信号を同時にDSP110へ出力してDSP110で減算しても良い。尚、画素信号と異なる画素を用いてノイズデータを取得する場合、画素欠陥出力が異なるため、例えば画素欠陥補正を行ってから減算するなど考慮しても良い。
【0047】
図6は、水平同期信号HDの周期に従った画素信号およびノイズ信号のタイミングチャートである。ここでは、R画素、Gr画素が隣接して並ぶn行目の水平ラインからの画素信号およびノイズ信号の読み出しについて説明する。
図6では、画素データをEXP、ノイズデータをDARKで示している。
【0048】
水平同期信号HDnの期間では、カラムADC回路141、142によってR画素、Gr画素が隣接して並ぶn行目の水平ラインの画素信号が読み出されると同時に、B画素、Gb画素が隣接して並ぶn+1行目の水平ラインに対してノイズ信号が読み出される。そして、水平同期信号HDn+1において、画素データからノイズデータを減算した補正画素データが、A/D変換されて出力される。Gb画素、Gr画素についても、画素信号およびノイズ信号が水平同期信号HDnによって同時に読み出され、HDn+1期間において補正画素データが取得される。水平同期信号HDn+1、水平同期信号HDn+2においても、同様に補正画素データが取得される。
【0049】
異なる水平ラインにあって互いに隣接する画素Rと画素B、あるいは画素Gbと画素Grとに基づいて補正画素データを取得することにより、CIS121の感度不均一などに起因するシェーディング(明度ムラ)の影響が同程度となり、適切にノイズを除去することができる。
【0050】
また、隣接するカラムADC回路141、142およびカラムADC回路143、144において、それぞれ画素信号とノイズ信号とを同時に読み出すことにより、同じくシェーディングの影響を低減することができる。さらに、磁束破りのとき、ノイズ源とカラムADC回路との距離によってノイズ量が相違するが、隣接するカラムADC回路同士で画素信号とノイズ信号を読み出すことで、正確なノイズ成分を取得することができる。
【0051】
なお、隣接するカラムADC回路141、142の間でオフセット成分やゲイン特性に差がある場合、それを加味した減算を行ってもよい。また、間引き読み出しを行う場合にも、間引き間隔で隣接する画素が並ぶ水平ラインに沿ってノイズデータを取得してもよいし、画素信号として用いる間引き行ではない行を用いてノイズデータを取得してもよい。
【0052】
n行目の水平ラインに対してn−1行面、n+2行目の水平ラインからノイズデータを取得してもよい。あるいは、n行目の水平ラインに対してn+1行目の水平ラインからノイズデータを取得すると、次にn+1行目の水平ラインに対してn行目の水平ラインからノイズデータを取得するなど交互に入れ替えてもよい。また、ノイズデータは有効画素を用いず周辺に配置したダミー画素を用いてもよい。例えば、光電変換機能をもたないダミー画素の画素回路からノイズデータを取得することが可能である。
【0053】
このように本実施形態によれば、R,Gb,Gr,Bのカラーフィルタを配列させたCMOS型イメージセンサであるCIS121と手振れ補正機構であるSRブロック122とを備えたデジタルカメラ100において、CIS121の有効画素領域の上下傍に、各カラーフィルタに応じたカラムADC回路141、142、143、144を設ける。水平ラインごとに蓄積電荷(画素信号)を読み出すとき、隣接する水平ラインの画素回路から蓄積電荷を含まないノイズ信号を並行して読み出す。同一フレーム読み出し期間内に画素信号およびノイズ信号を読み出すため、迅速にノイズ低減処理を行うことができる。また、同時刻のノイズ成分が画素信号、ノイズ信号に重畳されるため、適正にノイズ成分を除去することができる。
【0054】
次に、
図7〜9を用いて、第2の実施形態であるデジタルカメラについて説明する。第2の実施形態では、画素信号を読み出した水平ラインに対してノイズ信号を順次読み出していく。また、手振れ補正機能ON/OFF、設定された感度に応じてノイズ信号読み出しを行うか否かを判断する。
【0055】
図7は、第2の実施形態における垂直同期信号VDに従う画素信号およびノイズ信号読み出し処理のタイミングチャートである。ここでは、ローリングシャッタ方式を採用しているが、グローバルシャッタ方式を適用してもよい。
【0056】
第2の実施形態では、蓄積電荷の読み出しが終了した水平ラインの順でノイズ信号を読み出す。すなわち、最上位の水平ラインから最下位ラインの順で、ノイズ信号を読み出す。画素信号読み出し終了に続けてノイズ信号を読み出すことにより、ノイズ信号の一部だけ同時刻でノイズデータを取得することになる。電荷読み出し終了後できるだけ速やかにノイズ信号を読み出すようにしても遅延期間DTが生じ、遅延期間DTでは同時刻のノイズ成分が取得されない。また、1フレーム分の画素データとしては、画像上下方向にシフトした水平ラインの位置にノイズ成分が重畳されている。
【0057】
本実施形態では、遅延期間DTにおけるSRブロック122への駆動信号(パルス)をメモリ124などに記録し、すべての画素データ読み出し完了後、SRブロック122を記録した駆動信号で動作させることで、遅延期間DTのノイズ成分を再現させる。一方、ノイズ成分のシフトについては、次に説明するノイズデータの位置合わせ補正を行う。なお、第2の実施形態では、画像処理部114においてノイズ除去処理が行われる。
【0058】
図8は、ノイズデータの位置合わせ補正を示した図である。
【0059】
図8では、画素データに対し、ノイズデータが1行分遅れて読み出されているのを示している。例えば、時刻t+1において、n+1行目の画素データ(Gb、B)が並ぶ水平ラインからの画素信号読み出しタイミングでは、n行目のR,Gr画素が並ぶ水平ラインに沿ってノイズ信号が読み出される。
【0060】
同時刻タイミングのノイズデータを画素データから減算するため、ここでは画素位置に合合わせたノイズデータの位置合わせ補正を行う。すなわち、1行分シフトしたノイズ信号によってノイズ減算処理を行う。ただし、上述したように互いに隣接するカラムADC回路141、カラムADC回路142のR画素、B画素間で画素信号、ノイズ信号を読み出してノイズ減算処理を行うことが好ましいため、B画素、Gb画素が交互に入れ替わっている。Gr画素とR画素についても同じである。
図8では、左上隅のR画素の画素データに対し、位置合わせによって、B画素のノイズデータが対応していることを示している。
【0061】
このような位置合わせ後のノイズデータによる1フレーム分のノイズ画像データを生成し、画素データによる撮影画像データからノイズ画像データを減算することで、磁気かぶりなどで生じる筋状ノイズを低減することができる。このとき、メモリ124に記憶された駆動信号でSRブロック122を動作させたときのノイズデータも加えられる。なお、位置合わせ補正の仕方は、カラムADC回路の配置などによって異なる。また、有効画素領域に起因するノイズ成分については、別途位置合わせ用の1フレーム分のノイズデータを作成するのが良い。
【0062】
図9は、第2の実施形態における撮影シーケンスのフローチャートである。レリーズボタンが全押しされると処理が開始される。
【0063】
電荷蓄積が開始されてから設定された露光時間が経過すると、電荷読み出しが開始される(S101〜S103)。ここでは、1ラインごとに蓄積電荷がフローティングディフュージョンFDを経由して読み出される。
【0064】
ステップS104では、手振れ補正機能がON状態か否か判断される。手振れ補正機能がOFF状態の場合、筋状ノイズを発生させるボイスコイルなどが動作していないため、ノイズ低減処理は行われず、電荷読み出しが完了すると終了する(S112)。また、設定された撮影感度(ISO感度など)が所定感度以上であるか否かが判断される(S105)。感度が高い場合筋状ノイズが目立ため、感度の値に応じてノイズ減算処理を実行するか否かを判断する。設定感度が所定値より小さい場合、ノイズ低減処理は実行されない(S112)。
【0065】
手振れ補正機能がON状態で設定感度が所定値以上である場合、ノイズ信号読み出しが開始されるまで、SRブロック122に対する駆動信号がメモリ124に記憶される(S106、S107)。遅延期間が経過すると画素信号読み出し終了した水平ラインからノイズ信号が終了ライン順に読み出される(S108)。蓄積電荷読み出しが完了すると、メモリに記憶された駆動信号に基づいてSRブロック122を駆動させ、遅延期間分のノイズデータを取得する(S109〜S110)。1フレーム分のノイズデータが取得されると(S111)、処理が終了する。
【0066】
カラーフィルタアレイについては、R,Gb,Gr,B以外のカラーフィルタを配列させた構成も可能である。また、CMOS型イメージセンサ以外の撮像素子を適用してもよい。