(58)【調査した分野】(Int.Cl.,DB名)
奇数フレームについて前記算出手段で算出された前記補正値と、偶数フレームについて前記算出手段で算出された前記補正値を平均した値を前記補正手段による補正に用いることを特徴とする請求項1または2に記載の撮像装置。
前記A/D変換器は、前記2つの基準信号それぞれを前記第1のランプ信号及び前記第2のランプ信号と比較することによりA/D変換し、前記算出手段は、該A/D変換して得られた信号に基づいて、前記補正値を算出することを特徴とする請求項4に記載の撮像装置。
有効画素領域と、前記有効画素領域の外側に設けられたダミー画素領域と、前記画素の信号を、第1のランプ信号または第1のランプ信号より傾きの大きい第2のランプ信号と比較することによりA/D変換を行うA/D変換器とを備える撮像装置を制御する方法であって、
前記第1のランプ信号との比較によりA/D変換した第1の変換信号または前記第2のランプ信号との比較によりA/D変換した第2の変換信号に、前記画素に入射する光量に応じて変化する前記第1の変換信号と前記第2の変換信号が連続するように補正を加える補正工程と、
ダミー画素を読み出す期間に前記A/D変換器に基準信号を入力し、A/D変換した信号に基づいて、前記補正のための補正値を算出する算出工程と、
前記A/D変換器に前記基準信号を入力する期間をフレームごとに変え、前記算出工程にフレームごとに前記補正値を算出させる制御工程と、
を有することを特徴とする撮像装置の制御方法。
【発明を実施するための形態】
【0011】
以下、本発明の実施形態について、添付図面を参照して詳細に説明する。
【0012】
(第1の実施形態)
図1は、本発明の第1の実施形態に係る撮像装置の構成を示すブロック図である。
図1において、撮像素子1は、並列型A/D変換器(並列型ADC)を実装したCMOS型のイメージセンサである。画像処理LSI2は、撮像素子1が出力する画像データに対し、ホワイトバランス処理や、ガンマ処理などの現像処理を行い、処理した画像データを記録媒体に記録する。また、画像処理LSI2はCPUを内蔵しており、このCPUにより、撮像装置の動作モードに応じて撮像素子と通信(例えばシリアル通信)し、撮像素子1の制御を行う。
【0013】
撮像素子1は、画素部110、垂直走査回路120、列AMP130、ランプ回路140、列A/D変換器(列ADC)150、水平転送回路160、信号処理回路170、外部出力回路180、コントローラ回路300を備える。
【0014】
コントローラ回路300は画像処理LSI2とのI/F部であり、シリアル通信などを用いて画像処理LSI2のCPUとの通信を行い、撮像素子1全体を制御する。画素部110には、入射光量に応じて光電変換し、蓄積した電荷を電圧として出力する光電変換素子(フォトダイオード)が行列状に複数配置されている。光電変換素子の各々の表面には、カラーフィルタとマイクロレンズが実装されている。このカラーフィルタとして、R(赤),G(緑),B(青)の3色の原色カラーフィルタを用いることで、いわゆるRGB原色のベイヤー配列の周期構造をとっている。
【0015】
タイミング制御部100は、撮像素子1の各ブロックに動作クロック(CLK)やタイミング信号を供給し、その動作を制御する。垂直走査回路120は、画素部110に2次元に配置された光電変換素子が蓄積した画素信号を、1フレーム中に順次読み出すためのタイミング制御を行う。一般的に、映像信号は1フレーム中に上部の行から下部の行にかけて、行単位で順次読み出される。
【0016】
列アンプ130は、画素部110から読みだされた画素信号を電気的に増幅するために用いられる。列アンプ130で画素信号の信号レベルを増幅することにより、ランプ回路140や列ADC150から出るノイズレベルに対する画素信号の信号レベルを相対的に大きくし、等価的にSNを改善する。ただし、画素部110から出るノイズに対し、ランプ回路140や列ADC150が出すノイズが十分小さい回路構造においては、列アンプ130は必ずしも必須ではない。
【0017】
定電圧入力回路400は、列アンプ130に入力される前の段階で、画素部110から画素信号が出力される信号出力線に所定の定電圧を与える。本実施形態では定電圧入力回路と記載するが、ある一定電圧で信号をクリップするようなクリップ回路などに応用できる回路でも良い。ランプ回路140は、時間方向に一定のスロープ(傾き)を持つランプ形状電圧信号(ランプ信号)を発生する信号発生器である。
【0018】
列ADC150は、デュアルスロープ型のA/D変換器である。なお、詳細な動作は後述する。AD変換された1行分の画像データは、端の画素から水平転送回路160により順次読み出される。
【0019】
水平転送回路160の出力は信号処理回路170に入力される。信号処理回路170はデジタル的に信号処理を行う回路であり、デジタル処理で一定量のオフセット値を加えるほかに、シフト演算や乗算を行うことで、簡易にゲイン演算を行うことができる。また、画素部110に、意図的に遮光した画素領域を設け、その出力を利用したデジタルの黒レベルクランプ動作を行っても良い。
【0020】
信号処理回路170の出力は、外部出力回路180に渡される。外部出力回路180はシリアライザー機能を有し、信号処理回路170から出力される多ビットのパラレル信号をシリアル信号に変換する。また、このシリアル信号を、例えばLVDS信号等に変換し、外部デバイス(この場合、画像処理LSI2)に対し画像情報として出力する。 次に、本実施形態における撮像素子1の列ADC150を用いたA/D変換について、
図2(a)を用いて説明する。
【0021】
列ADC150は、内部に比較部151とカウンタ・ラッチ回路152を有している。比較部151は、列アンプ130により増幅された画素信号VAMPと、ランプ回路140から出力されるランプ信号VRAMPとを比較し、比較結果を出力する。カウンタ・ラッチ回路152は、カウントをリセットしてから、比較部151の出力が反転するまでの期間、すなわち、画素信号の信号レベルとランプ信号の信号レベルが一致するまでカウント動作を行い、信号レベルが一致したときのカウント値を保持する。この動作により、列アンプ130からの読み出し信号レベルに比例したカウント値を得られるため、このカウント値がA/D変換結果となり、デジタルデータ(変換信号)として出力される。
【0022】
図2(b)は、ランプ回路140から出力されるランプ信号VRAMPのスロープ(傾き)を変えたときの様子を示した図である。スロープを変えることで、比較部の出力が反転するタイミングが変化し、カウント時間が変わることで、A/D変換されたデジタル信号のゲインを変えることができる。
【0023】
図3は、横軸を時間としたときの列ADC150の動作タイミング図である。この図を用いて、列アンプ130の出力信号のレベルに応じて、ランプ信号VRAMPのスロープを変える動作について説明する。
【0024】
一般的に、単位画素から出力される画素信号のA/D変換においては、まずN信号(ノイズ信号)の読出し及びA/D変換を行い、そのあとにS信号(ノイズ信号+光信号)の読出し及びA/D変換を行う。この2つの信号について、信号処理回路170でS信号−N信号の演算を行い、ノイズ成分を打ち消すことで、S/Nの良い信号を取得することができる。
【0025】
まず、N信号のA/D変換期間において、第1のランプ信号でN信号のカウント動作を行う。N信号はS信号よりも小さいため、傾きの小さい第1のランプ信号を用いてカウント動作を行う。
【0026】
次に、画素部110に蓄積された電荷に応じたS信号を読出し、点線で示す列アンプ130の出力がS信号のレベルになった後、ランプ回路140はレベル判定期間にある一定レベルのランプ信号を比較部151に出力し、S信号のレベルと比較する。カウンタ・ラッチ回路152はその結果を受け、S信号がその一定レベル(S信号判定レベル)よりも大きいか小さいかを判断する。S信号が一定のレベルよりも小さい場合は、N信号と同じ第1のランプ信号でA/D変換を行い、デジタル信号を得る。S信号が一定のレベルよりも大きい場合は、第1のランプ信号よりもスロープがα倍である第2のランプ信号を使用して、S信号のA/D変換を行い、デジタル信号を得る。このように、信号レベルの大きさによりランプ信号のスロープを変えることにより、A/D変換時のカウンタのカウント時間が最適化されて短くなり、結果として撮像素子からの信号読み出し時間を短縮することができる。これがデュアルスロープ型のA/D変換器の利点である。
【0027】
図4は、画素部110への入射光量(すなわち列アンプ130の出力信号レベル)に対するA/D変換後のデジタル値を示している。
図4の横軸が画素部110への入射光量(列アンプ130の出力信号レベル)、縦軸がA/D変換後のデジタル値である。
図4の実線は、比較部151及びカウンタ・ラッチ回路152でA/D変換され、水平転送回路160を経て、信号処理回路170に入力されるデジタル値を表している。S信号判定レベルよりも小さい信号は第1のランプ信号を用いてA/D変換され、S信号判定レベルよりも大きい信号は第2のランプ信号を用いてA/D変換されている。そのため、その前後で光量に対するA/D変換値の整合が取れていないことになる。
【0028】
そこで、例えば信号処理回路170において、S信号判定レベルよりも大きい信号に対しては、第1のランプ信号と第2のランプ信号の傾きの比αを乗算し、さらにオフセットβを加算する。これにより、入射光量とA/D変換値の関係がS信号判定レベルの前後で一次的に連続するように補正される。この補正が行われない状態で、有効画素の映像を出力すると、S信号判定レベル前後の輝度で段差がある違和感のある映像となってしまう。上記のようにデュアルスロープ型のA/D変換器では、撮像素子からの信号読み出し時間を短縮できる利点があるが、一方でこのような補正を行うことが必要となる。この補正値は、撮像素子の温度、撮像素子の駆動タイミングもしくは駆動設定(列アンプ130のゲイン、電源設定などの動作状態)によって変化が生じるため、定期的な補正値の取得が必要である。
【0029】
次に、上記した補正値である傾きの比αと加算するオフセット量βを算出する例について説明する。この補正値を算出する動作を、以降、補正値取得動作と記載する。
【0030】
図5は、画素部110の画素構成を示した図である。
図5に示すように、最も上部にダミー画素領域(補正値算出領域)を配置し、次にオプティカルブラック領域、実際の映像信号を読み出すための有効画素領域の順で配置されている。本実施形態では、有効画素領域の外側に配置されたダミー画素領域を、傾きの比αとオフセット量βからなる補正値を算出するために使用する。
【0031】
ダミー画素は、フォトダイオードを持たず、
図1に示した列アンプ130の入力である列信号線に接続されている。ダミー画素の信号を読み出す時間に、定電圧入力回路400から固定電圧(基準信号)を入力し、列アンプ130から比較部151に入力される電圧をある固定電圧(本実施形態では、V1,V2、V2>V1)になるように制御する。
【0032】
図6A、
図6Bにダミー画素出力信号のA/D変換の流れを示す。
図6A(a)では、固定電圧V1をA/D変換する。
図3とは異なり、N信号のA/D変換期間は設ける必要がない。
図6A(a)では、レベル判定期間のランプ信号VRAMPのレベルを最大値まで上げて、常に固定電圧V1がS信号判定レベルを下回るようにして、常に傾きの小さい第1のランプ信号VRAMPを用いて固定電圧V1のA/D変換を行うようにする。A/D変換した結果をV1Lとする。
【0033】
続いて
図6A(b)では、レベル判定期間のランプ信号VRAMPを最小値とし、常に固定電圧V1がS信号判定レベルを上回るようにして、常に傾きの大きい第2のランプ信号VRAMPを用いて固定電圧V1のA/D変換を行うようにする。A/D変換した結果をV1Hとする。
図6B(c)、
図6B(d)では、固定電圧をV1よりも大きいV2に変え、
図6A(a)、
図6A(b)と同様にA/D変換を行う。この結果はV2L、V2Hとする。
【0034】
これらの固定電圧V1とV2に対するA/D変換後のデジタル値は、横軸に入射光量(列アンプ130の出力信号レベル)、縦軸にA/D変換値をとると、
図7のように表わされる。
図7は、S信号判定レベルよりも小さい部分を拡大したものである。固定電圧V1,V2に対する第1のランプ信号と第2のランプ信号によるA/D変換値を縦軸にとると
図7の様になる。
【0035】
図7に示す4点(V1L,V2L,V1H,V2H)の座標から傾きの比αと、オフセット量βを求めることができる。例えば、傾きの比αは、次の式で求められる。
【0036】
α=(V2L−V1L)/(V2H−V1H)
傾きの比αを求めた上で、2本の直線がS信号判定レベルで交わるように、オフセット量βを決めることができる。以降、これら傾きの比αとオフセットの補正値βを、単に補正値と記載する。上記の算出は、撮像素子内部で行っても良いし、画像処理LSIで行っても良い。
【0037】
ここで、上記の異なるスロープを持つ2つのランプ信号によるA/D変換の補正を行う必要がある撮像素子で上記の補正値を算出する場合に、1フレームの画素内に一次元に近いシェーディングなどが存在する場合の対処方法について説明する。具体的には、撮像素子の消費電力が、垂直同期信号VD内で変化する場合、1フレーム内で電源電圧の変動によるオフセット性のシェーディングが発生することがある。
【0038】
図8は、垂直同期信号VDの1垂直同期期間(1VD)内に画素信号読出し期間および消費電力削減を行う省電期間がある撮像素子の動作遷移を表している。
図8の横軸は時間軸であり、垂直同期信号VDを出力するタイミングを示している。画素信号読出し期間は、撮像素子内のほぼすべての回路が動作している状態なので、消費電力が高く、電源電圧が低くなりやすい。画素信号の読出しが終了したら、読出しに係る回路の電源を落とし、消費電力を削減する。画素信号読出し期間の消費電力が大きい場合、省電期間との切り替わりで電源電圧が変動しやすい。
【0039】
電源電圧が変動すると、画素読出し回路がその影響を受け、撮像素子から出力される映像にオフセット性のシェーディングが発生することがある。そのため、画素信号の読出しの始め(映像における画面上部)と終わり(映像における画面下部)で上述した複数のランプ信号のA/D変換に係る補正値、特にオフセット量βの補正係数が変化してしまう。
【0040】
そこで本実施形態では、撮像素子の読出し方法を
図9のように変更する。
図9では、横軸は時間であり、垂直同期信号VDを出力するタイミングを示している。また、縦軸は垂直方向の読出しラインであり、それぞれのラインの画素信号を読出すタイミングを示している。
【0041】
奇数フレーム(N=2n−1:nは自然数)では、ダミー画素信号読出し及び補正値を算出する補正値取得動作を有効画素信号読出し期間より先に実行し、取得した補正値を出力する。偶数フレーム(N=2n:nは自然数)では、補正値取得動作を有効画素読出し期間より後に実行し、取得した補正値を出力する。奇数フレームと偶数フレームについてそれぞれ算出した補正値を平均して、次フレームから有効画素信号の補正に適用する。
【0042】
このようなダミー画素信号を用いた補正値の算出及び算出した補正値を用いた補正動作を
図10のフローチャートを用いて説明する。ここで、β_*は*番目のフレームで求めた補正値βを表す。
【0043】
ステップS1で、撮像素子から映像信号の出力を開始する。フレーム数をNとして、N=1とする。ステップS2では、そのフレーム数Nが奇数番目のフレームであるのか偶数番目のフレームであるのかを判定する。奇数フレームであれば、ステップS3で有効画素信号読出し前に補正値取得期間を設定し、その期間で補正値を取得する。
【0044】
ステップS4でフレーム数N(=2n−1)が1番目である場合(n=1)、そのフレームで求めた補正値を次フレームの有効画素信号の補正に適用する(ステップS5)。ステップS4でフレーム数Nが1番目ではない奇数番目である場合、ステップS6で、そのフレームで求めた補正値β_2n−1と、直前の偶数フレームで求めた補正値β_2n−2の平均値を算出する。そして、算出した平均値を次フレームの補正値として適用する。
【0045】
ステップS2で、偶数フレームであれば、奇数フレームと同様に、ステップS7、ステップS8で補正値β_2nを求め、直前の奇数フレームで求めた補正値β_2n−1との平均値を算出する。そして、算出した平均値を次フレームの補正値として適用する。ステップS9では、映像信号出力の終了であるか否かを判断し、終了であればこのフローを終了し、終了でなければ、ステップS10でN=N+1としてステップS2に戻る。
【0046】
以上説明したような手法により、異なるスロープを持つ複数のランプ信号によるA/D変換の補正を行う必要がある撮像素子で、映像に一次元的なシェーディングがある場合でも、その有効映像期間に適する補正値を演算して求めることができる。
【0047】
なお、本実施形態では2つのスロープを持つランプ信号について記載したが、これは複数のスロープについても同様の扱いができるため、スロープの数は2つに限定されるものではない。また、補正値の取得方法や演算方法などは本実施形態の手法に限定されるものではない。また、奇数フレームと偶数フレームで求めた補正値を平均化しているが、加重平均することや、時定数を持って算出するなど、計算方法は本実施形態の方法に限定されるものではない。奇数フレームと偶数フレームで、補正値取得動作を行う順番を入れ替えることもできる。
【0048】
(第2の実施形態)
第1の実施形態では、ダミー画素信号の読出し期間を最小限に抑えるため、1VD(1垂直同期期間)にダミー画素信号を1回のみ読み出す構成について説明した。これに限らず、1VDにダミー画素信号の読出しを複数回行い、ダミー画素読出し期間毎に補正値を取得するようにしても良い。
【0049】
本実施形態では、撮像素子の読出し方法を
図11のように変更する。
図11では、横軸が時間軸であり、垂直同期信号VDを出力するタイミングを示している。また、縦軸は垂直方向の読出しラインであり、それぞれのラインの画素信号を読出すタイミングを示している。
【0050】
本実施形態では、各フレームで、ダミー画素信号の読出し及び補正値を算出する補正値取得動作を有効画素信号読出し期間の前後で行い、補正値を取得する。有効画素信号読出し期間の前後で取得した補正値を平均して、次フレームの有効画素信号の補正に適用する。
【0051】
このような補正値の算出動作であれば、1フレーム内で補正値の演算を完結することができるが、1フレーム(1VD)にダミー画素信号を2回以上読み出す期間があるため、第1の実施形態に比べ、撮像素子の駆動時間が長くなる。また、1フレーム内で複数回の補正値算出を行うことから、撮像素子及び画像処理LSIの回路規模が大きくなる。一方、各フレームで有効画素を読み出すタイミングが変わらないため、有効画素に係るシェーディングの影響がフレームごとに変わらないという長所がある。
【0052】
(第3の実施形態)
第2の実施形態で、回路規模の増大を防ぐために、1フレーム(1VD)に補正値の取得動作は1回のみとし、ダミー画素信号の読出しを2回行う手法でも良い。
【0053】
本実施形態では、撮像素子の読出し方法を
図12のように変更する。
図12では、横軸時間軸であり、垂直同期信号VDを出力するタイミングを示している。また、縦軸は垂直方向の読出しラインであり、それぞれのラインの画素信号を読出すタイミングを示している。
【0054】
本実施形態では、各フレームで、ダミー画素信号の読出しを有効画素信号読出し期間の前後で行うが、補正値の取得動作を各フレームで1回のみとし、奇数フレームと偶数フレームで補正値の取得動作を伴うダミー画素信号の読出し期間を変更する。奇数フレーム(N=2n−1:nは自然数)では、補正値取得動作を有効画素信号読出し期間より先のダミー画素信号読出し期間に行い、補正値を出力する。偶数フレーム(N=2n:nは自然数)では、補正値の取得動作を有効画素信号読出し期間より後のダミー画素信号読出し期間に行い、補正値を出力する。実際に撮像素子にセットする補正値は、上記の奇数フレームと偶数フレームのそれぞれについて算出した補正値を平均して、次フレームから撮像素子に適用する。
【0055】
この動作であれば、複数回補正値を算出するための撮像素子及び画像処理LSIの回路規模の増大を防ぎつつ、補正値の取得及び、各フレームで有効画素信号を読み出すタイミングが変わらないため、有効画素信号に係るシェーディングの影響がフレームごとに変わらないという長所がある。
【0056】
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。