(58)【調査した分野】(Int.Cl.,DB名)
前記カラーフィルタがベイヤカラーフィルタであり、前記カラーフィルタが装着される画素の対応ライン数に等しいライン数が2であることを特徴とする請求項1記載の撮像装置。
前記画像フレーム読出し制御部は、画像フレーム間隔に対する各画素の1電荷蓄積時間が6/10となるように制御するように構成されていることを特徴とする請求項1または2記載の撮像装置。
装着されるカラーフィルタ毎に、各画素に対応する単位フィルタが組み合わせられて規則性のある格子状に配列された画素回路について、該複数の画素に各々入射する光に応じた電荷が発生するように光電変換を行わせ、
前記光電変換を行う画素に対して、Y行のアドレスおよびX列のアドレスを指定することにより、画像フレーム読出しを所定の順序で行うCMOS型の撮像装置による撮像方法であって、
前記光電変換を行う画素は、X方向に7680画素でY方向に4320画素、またはX方向に3840画素でY方向に2160画素のいずれかに設定されるように制御し、
画像フレーム読出しは、非プログレッシブ方式を用い、1つの前記カラーフィルタが装着される画素の対応ライン数に等しいライン数毎に分割画像フレームを読み出すように制御し、
該分割画像フレーム間隔を8.333ミリ秒または8.342ミリ秒のいずれかに設定するとともに、光電変換部における各画素の1電荷蓄積時間を10ミリ秒に設定するように制御することを特徴とする撮像方法。
装着されるカラーフィルタ毎に、各画素に対応する単位フィルタが組み合わせられて規則性のある格子状に配列された、入射光に応じて電荷が発生する光電変換部に対して画像フレーム読出し制御信号を出力する画像フレーム読出し制御回路であって、
Y行のアドレスを選択して当該Y行に含まれる画素を駆動する行選択回路部およびX列のアドレスを選択して当該X列に含まれる画素からの信号を読み出す列並列読出し回路部を含み、
前記光電変換部の画素は、X方向に7680画素でY方向に4320画素、またはX方向に3840画素でY方向に2160画素のいずれかとして設定されるように制御し、
画像フレームの読出しは、非プログレッシブ方式を用い、1つの前記カラーフィルタが装着される画素の対応ライン数に等しいライン数毎に分割画像フレームを読み出すように制御し、かつ、該分割画像フレームの間隔は8.333ミリ秒または8.342ミリ秒のいずれかに設定されるとともに、前記光電変換部における各画素の蓄積時間を10ミリ秒に設定し得るように、前記複数の画素に対応する、少なくとも蓄積開始指示信号および蓄積終了指示信号を、前記光電変換部に向けて所定の順序で出力されるように制御することを特徴とする画像フレーム読出し制御回路。
装着されるカラーフィルタ毎に、各画素に対応する単位フィルタが組み合わせられて規則性のある格子状に配列された、入射光に応じて電荷が発生する光電変換部と、Y行のアドレスを選択して該光電変換部の当該Y行に含まれる画素を駆動する行選択回路部と、X列のアドレスを選択して該光電変換部の当該X列に含まれる画素からの信号を読み出す列読出し回路部とを備え、前記行選択回路部または前記列読出し回路部から出力された分割画像フレーム信号により前記光電変換部から分割画像フレームを読み出す信号処理装置であって、
前記光電変換部の画素は、X方向に7680画素でY方向に4320画素、またはX方向に3840画素でY方向に2160画素のいずれかとして設定されるように制御し、
前記分割画像フレームの読出しは、非プログレッシブ方式を用い、1つの前記カラーフィルタが装着される対応ライン数に等しいライン数毎に前記分割画像フレームを構成するように制御し、
前記分割画像フレームの間隔を8.333ミリ秒または8.342ミリ秒のいずれかに設定するとともに、前記光電変換部における各画素の蓄積時間を10ミリ秒に設定し得るように、前記複数の画素に対応する、少なくとも蓄積開始指示信号および蓄積終了指示信号を、前記行選択回路部または前記列読出し回路部から前記光電変換部に向けて所定の順序で前記分割画像フレーム信号を出力させるように制御し、
前記1つのカラーフィルタが装着される画素の対応ライン数に等しいライン数毎に信号が存在する分割画像フレームにおいて、該対応ライン数に等しいライン数毎に画素補間により画素信号を生成する複数ライン毎インターレースプログレッシブ変換部を備えたことを特徴とする信号処理装置。
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、照明強度変化が100Hzの照明下において、スーパーハイビジョンの規格とされている120Hzの撮像フレーム周波数により撮像を行った場合には、20Hzのフリッカが生じてしまう。この場合、撮像フレーム間隔が(1/120)秒=8.333ミリ秒であるため、電子シャッター期間を10ミリ秒に設定すると、撮像フレーム間隔に対する電子シャッター期間が1より大きい6/5に設定されることになるので撮像の
実行自体が困難となってしまう。
【0008】
本発明は、上記事情に鑑みなされたものであり、複数の単位フィルタを規則性のある格子状に配列されてなるカラーフィルタが、画素上に装着された単板式の撮像素子で撮像した場合においても、照明強度変化が100Hzの場合において、撮像フレーム周波数が120Hzで撮像をしたときに生じるフリッカを低減することが可能な撮像装置、撮像方法、画像フレーム読出し制御回路および信号処理装置を提供することを目的とするものである。
【課題を解決するための手段】
【0009】
本発明の撮像装置は、
装着されるカラーフィルタ毎に、各画素に対応する単位フィルタが組み合わせられて規則性のある格子状に配列された、入射光に応じて電荷が発生する光電変換部と、
該光電変換部に対して、Y行とX列のいずれか一方のアドレスを選択して駆動する行もしくは列選択回路部、およびY行とX列のいずれか他方毎に信号を読み出す列もしくは行並列読出し回路部を含む画像フレーム読出し制御部とを有し、
前記光電変換部の画素は、X方向に7680画素でY方向に4320画素、またはX方向に3840画素でY方向に2160画素のいずれかに設定されるように構成され、
前記画像フレーム読出し制御部は、非プログレッシブ方式を用い、1つの前記カラーフィルタが装着される画素の対応ライン数に等しいライン数毎に分割画像フレームを出力するように制御するものであり、かつ前記分割画像フレーム間隔を8.333ミリ秒または8.342ミリ秒のいずれかに設定するとともに、前記光電変換部における各画素の1電荷蓄積時間を10ミリ秒に設定することを特徴とするものである。
【0010】
ここで、上記および下記「前記光電変換部の画素は、X方向に7680画素でY方向に4320画素、またはX方向に3840画素でY方向に2160画素のいずれかとして出力されるように構成され」とは、「前記光電変換部の画素は、X方向に7680画素でY方向に4320画素、およびX方向に3840画素でY方向に2160画素のいずれかに物理的に設定される」場合、さらに、「前記光電変換部の画素は、信号処理部の信号処理によりX方向に7680画素でY方向に4320画素、またはX方向に3840画素でY方向に2160画素のいずれかに画素数が拡張される、または、縮小される」場合の両方を含むものとする。
【0011】
なお、後者については、具体的にはハードウエアまたはソフトウェア等を用いて画素補間処理を行ってX方向、Y方向に、上記各々の画素数に拡張されて、または、縮小されて出力される場合が含まれる。
ここで、上記「行もしくは列選択回路部」と上記「列もしくは行並列読出し回路部」の関係は、行選択回路部が採用されるときは列並列読出し回路部が採用され、列選択回路部が採用されるときは行並列読出し回路部が採用される。
【0012】
また、ここで、上記「装着されるカラーフィルタ毎に、各画素に対応する単位フィルタが組み合わせられて規則性のある格子状に配列された」とは、撮像素子の画素に装着されるR、G、BやW(白色)等の単位フィルタを、カラーフィルタ毎に、規則性のある格子状に画素配列して形成した状態をいう。
【0013】
また、上記「非プログレッシブ方式」とは、撮像素子の1方向から順番に走査される方式であるプログレッシブ方式とは異なる、いわゆる飛越し走査方式を指称するものである。
【0014】
また、本願明細書において、上記「画像フレーム」は、pライン毎に飛越し走査により
形成されたライン群、すなわち2pn+1行と2pn+2行と…2pn+p行により構成された奇数フレームと、2pn+(p+1)行と、2pn+(p+2)行と…2pn+2p行により構成された偶数フレームとを含む。なお、上記pは0または正の整数を表す。
ここで、奇数フレーム同士あるいは偶数フレーム同士のみならず、奇数フレームと偶数フレームの間隔も画像フレーム間隔と称されることが多い。
しかしながら、本願明細書においてそのようにすると、発明の本質的部分において紛らわしくなる可能性があるので、奇数フレーム同士、あるいは偶数フレーム同士の間隔は画像フレーム間隔と称するが、奇数フレームと偶数フレームの間隔は、便宜的に、分割画像フレーム間隔と称することとする。
【0015】
また、前記カラーフィルタがベイヤカラーフィルタであり、前記カラーフィルタが装着される画素の対応ライン数に等しいライン数が2であることが好ましい。
【0016】
また、前記画像フレーム読出し制御部は、画像フレーム間隔に対する各画素の1電荷蓄積時間が6/10となるように制御するように構成されていることが好ましい。
また、前記光電変換部が
、正方格子状に配列された複数の画素において画素共有されるように構成されていることが好ましい。
【0017】
また、本発明の撮像方法は、
装着されるカラーフィルタ毎に、各画素に対応する単位フィルタが組み合わせられて規則性のある格子状に配列された画素回路について、該複数の画素に各々入射する光に応じた電荷が発生するように光電変換を行わせ、
前記光電変換を行う画素に対して、Y行のアドレスおよびX列のアドレスを指定することにより、画像フレーム読出しを所定の順序で行うCMOS型の撮像装置による撮像方法であって、
前記光電変換を行う画素は、X方向に7680画素でY方向に4320画素、またはX方向に3840画素でY方向に2160画素のいずれかに設定されるように制御し、
画像フレーム読出しは、非プログレッシブ方式を用い、1つの前記カラーフィルタが装着される画素の対応ライン数に等しいライン数毎に分割画像フレームを読み出すように制御し、
該分割画像フレーム間隔を8.333ミリ秒または8.342ミリ秒のいずれかに設定するとともに
、光電変換部における各画素の1電荷蓄積時間を10ミリ秒に設定するように制御することを特徴とするものである。
【0018】
また、本発明の画像フレーム読出し制御回路は、
装着されるカラーフィルタ毎に、各画素に対応する単位フィルタが組み合わせられて規則性のある格子状に配列された、入射光に応じて電荷が発生する光電変換部に対して画像フレーム読出し制御信号を出力する画像フレーム読出し制御回路であって、
Y行のアドレスを選択して当該Y行に含まれる画素を駆動する行選択回路部およびX列のアドレスを選択して当該X列に含まれる画素からの信号を読み出す列並列読出し回路部を含み、
前記光電変換部の画素は、X方向に7680画素でY方向に4320画素、またはX方向に3840画素でY方向に2160画素のいずれかとして設定されるように制御し
、
画像フレームの読出しは、非プログレッシブ方式を用い、1つの前記カラーフィルタが装着される画素の対応ライン数に等しいライン数毎に分割画像フレームを読み出すように制御し、かつ、該分割画像フレームの間隔は8.333ミリ秒または8.342ミリ秒のいずれかに設定されるとともに、前記光電変換部における各画素の蓄積時間を10ミリ秒に設定し得るように、前記複数の画素に対応する、少なくとも蓄積開始指示信号および蓄積終了指示信号を、前記光電変換部に向けて所定の順序で出力されるように制御することを特徴とするものである。
【0019】
また、本発明の信号処理装置は、
装着されるカラーフィルタ毎に、各画素に対応する単位フィルタが組み合わせられて規則性のある格子状に配列された、入射光に応じて電荷が発生する光電変換部と、Y行のアドレスを選択して該光電変換部の当該Y行に含まれる画素を駆動する行選択回路部と、X列のアドレスを選択して該光電変換部の当該X列に含まれる画素からの信号を読み出す列読出し回路部とを備え、前記行選択回路部または前記列読出し回路部から出力された分割画像フレーム信号により前記光電変換部から分割画像フレームを読み出す信号処理装置であって、
前記光電変換部の画素は、X方向に7680画素でY方向に4320画素、またはX方向に3840画素でY方向に2160画素のいずれかとして設定されるように制御し、
前記分割画像フレームの読出しは、非プログレッシブ方式を用い、1つの前記カラーフィルタが装着される対応ライン数に等しいライン数毎に前記分割画像フレームを構成するように制御し、
前記分割画像フレームの間隔を8.333ミリ秒または8.342ミリ秒のいずれかに設定するとともに、前記光電変換部における各画素の蓄積時間を10ミリ秒に設定し得るように、前記複数の画素に対応する、少なくとも蓄積開始指示信号および蓄積終了指示信号を、前記行選択回路部または前記列読出し回路部から前記光電変換部に向けて所定の順序で前記分割画像フレーム信号を出力させるように制御し、
前記1つのカラーフィルタが装着される画素の対応ライン数に等しいライン数毎に信号が存在する分割画像フレームにおいて、該対応ライン数に等しいライン数毎に画素補間により画素信号を生成する複数ライン毎インターレースプログレッシブ変換部を備えたことを特徴とするものである。
【発明の効果】
【0020】
本発明の撮像装置、撮像方法、画像フレーム読出し制御回路および信号処理装置においては、有効画素が、X方向とY方向に、7680画素と4320画素、または3840画素と2160画素、のいずれかとして出力されるように構成され、
複数ライン毎のインターレース方式の、非プログレッシブ方式により駆動し、フレーム周波数を120Hzとし、電子シャッター期間を10ミリ秒に設定することにより、2pn+1行と2pn+2行と…2pn+p行により構成された奇数フレーム同士あるいは2pn+(p+1)行と、2pn+(p+2)行と…2pn+2p行により構成された偶数フレーム同士の画像フレーム間隔を16.667ミリ秒、奇数フレームと偶数フレームの分割画像フレーム間隔を8.333ミリ秒で信号読出しを行うとともに、各画素の蓄積時間を10ミリ秒としている(n、pは共に0または正の整数)。
【0021】
すなわち、照明強度変化が100Hzの照明下において、スーパーハイビジョンの規格とされている120Hzの撮像フレーム周波数により撮像を行った場合には、20Hzのフリッカが生じてしまう。これを防止するために、電子シャッター速度を10ミリ秒に設定した場合、撮像フレーム間隔(分割画像フレーム間隔)が(1/120)秒=8.333ミリ秒であるため、撮像フレーム間隔(分割画像フレーム間隔)に対する電子シャッター期間が1より大きい6/5に設定されることになるので撮像を行うことが困難となってしまう。
【0022】
しかし、本発明においては、電子シャッター速度を10ミリ秒とし、撮像フレーム間隔を(1/120)秒=8.333ミリ秒としたとしても、走査方式として、複数ライン毎のインターレース方式の非プログレッシブ方式を採用しているので、撮像フレーム間隔(画像フレーム間隔(分割画像フレーム間隔の倍の間隔:奇数フレーム同士あるいは偶数フレーム同士の間隔))に対する電子シャッター期間を1より小さい値の6/10に設定することができるので、画素がベイヤカラーフィルタを実装した正方格子状に配列された場
合であっても、電源周波数50Hz圏の100Hzの照明強度変化下において120Hzの撮像を行う際に生じるフリッカの発生を阻止することができる。
【発明を実施するための形態】
【0024】
以下、本発明の実施形態について、上記図面を参照しながら説明する。
【0025】
<第1の実施形態>
まず、第1の実施形態に係るCMOS型撮像装置に用いられる、1画素あたり4トランジスタ使用の画素回路の等価回路図を、
図1を用いて説明する。なお、この等価回路図に示す画素回路は、CMOS型撮像装置の画素アレイの各画素に対応して設けられる。
【0026】
図1に示すように、この画素回路は、フォトダイオード(PD:411)、電荷転送トランジスタ(TX:412)、浮遊拡散容量(FD:413)、リセットトランジスタ(RST:414)、ソースフォロアアンプトランジスタ(SF:415)、選択トランジスタ(SEL:416)、画素電源部(VDD:417)、および画素出力部(OUT:418)から構成される。
【0027】
また、この画素回路においては、ベイヤ配列のカラーフィルタが4画素単位の正方格子状に、
図3に示すように隙間なく多数個装着されて、
図2に示す画素アレイ201が構成されている。
画素アレイ201は、Y方向走査部202、X方向走査部203、タイミングジェネレータ204および出力回路205とともに撮像装置(イメージセンサ)200を構成している。なお、撮像装置200のうち、Y方向走査部202、X方向走査部203、タイミ
ングジェネレータ204および出力回路205は、本発明に係る画像フレーム読出し制御回路を構成する。
【0028】
図1の画素回路400において、PD411は、入射光の強度に応じた量の負電荷を蓄積する。このPD411のアノードは接地され、カソードはTX412を介してSF415のゲートに接続される。TX412のゲートは、Y方向走査部202からの信号線L
Tに接続され、転送信号が入力される。
【0029】
SF415およびSEL416は、VDD417と出力部418との間に直列接続される。SEL416のゲートは、Y方向走査部202からの信号線L
Sに接続され、選択信号が入力される。RST414は、VDD417とSF415のゲートとの間に接続される。RST414のゲートは、Y方向走査部202からの信号線L
Rに接続され、リセット信号を入力される。
また、FD413は、SF415のゲートに接続される。
【0030】
PD411をリセットするためには、SEL416がオフ状態でTX412とRST414をオン状態とする。これにより、PD411に蓄積されていた負電荷がTX412とRST414を介して、VDD417に放出され、リセット動作が終了する。
【0031】
PD411のリセット動作終了時から入射光による電荷の蓄積が開始する。すなわち、転送信号およびリセット信号が「L」状態となり、TX412とRST414がオフ状態となると、入射光の強度に応じた量の電荷がPD411に蓄えられ、電荷蓄積時間が開始する。
【0032】
一方、蓄積時間の終了は以下のように行われる。すなわち、まず、選択信号を「H」レベルにしてSEL416をオン状態とし、リセット信号を所定時間だけ「H」レベルにしてRST414をオン状態とすることでFD413をリセットする。次いで、転送信号を所定時間だけ「H」レベル状態にしてTX412をオン状態とすることで、PD411の蓄積電荷がFD413に移動され、TX412がオフとなった時点でPD411の蓄積時間が終了する。
【0033】
また、
図2に示すタイミングジェネレータ204は、Y方向走査部202に行選択アドレス信号および駆動制御信号を送出するとともに、X方向走査部203に列選択アドレス信号および読出し制御信号を送出する。Y方向走査部202は、Y方向走査回路および電圧レベルシフト回路の機能を有しており、入力された行選択アドレス信号および駆動制御信号に応じて、画素アレイ201の所定の複数行を順次選択し、選択した行の信号線L
T,L
R,L
Sを介して、その行の各画素回路400に転送信号、リセット信号および選択信号を送出する。
【0034】
また、X方向走査部203は、X方向走査回路およびカラム回路の機能を有しており、Y方向走査部202によって選択された所定の行の複数の画素回路400から複数のY方向信号線L
Vに出力された電流を複数の所定の信号に変換する。
さらに、出力回路205は、X方向走査部203で生成された複数の画素信号を外部に出力する。
【0035】
図4は、
図1に示す画素回路400を用いて、信号読出しを行った場合における、各トランジスタの入力信号を表すタイムチャートである。なお、第1の実施形態(および以下の第2の実施形態)においては、画像フレームレートが120Hzで、2ライン毎インターレース走査の非プログレッシブ走査を採用している。
【0036】
図4において、各グラフは、SEL416、RST414、TX412の信号波形を示すものであり、SEL、RSTおよびTXの後段に記されたかっこの中の数字は、
図3中での対応ライン(行)上の画素であることを示している。なお、各対応画素の蓄積時間を黒帯で示す。また、第1の実施形態において、nは0から(4320/4)−1=1079に設定されている。
【0037】
この画素回路400では、まず、第1ライン上の画素について、PD411をリセットするために、SEL416がオフ状態(SEL(1)が「L」レベル)でRST414とTX412を同時にオン状態(RST(1)とTX(1)が「H」レベル)とした後、同時にオフ状態(RST(1)とTX(1)が「L」レベル)とする(
図4の矢印A1を参照)。これにより、PD411とFD413の信号電荷がTX412とRST414を介してVDD417に放出されることになり、PD411のリセット処理が終了する。この直後から、PD411の蓄積時間が開始される。
【0038】
また、蓄積時間が開始されたのち、SEL416がオン状態(SEL(1)が「H」レベル)となる(
図4中の矢印Bを参照)ことで、当該画素が選択され、その際に、RST414がオン状態(RST(1)が「H」レベル)となることでFD413がリセットされ、RST414がオフ状態(RST(1)が「L」レベル)の時、FD413の電荷が放出された状態の値(リセット電位)が読みだされる。
【0039】
次に蓄積時間においてRST414がオフ状態(RST(1)が「L」レベル)となった後にTX412がオン状態(TX(1)が「H」レベル)になると、PD411に畜積されていた信号電荷がFD413に移動し、さらにTX412がオフ状態(TX(1)が「L」レベル)になると、このときの電位が読みだされる(
図4のSEL(1)、RST(1)、TX(1)、蓄積時間(1)のタイムチャート:矢印C1を参照)。このときPD411の蓄積時間が終了する。このように、当該画素が選択されてから、RST414がオフ状態となったのちにTX412がオフ状態となるまでの時間が各画素の1蓄積時間となる。なお、この蓄積時間は、例えば(1/100)秒(=10ミリ秒)に設定される。
【0040】
この後、第(1)行目に続いて第(2)行目の画素についても順次同様に行われ(
図4の黒帯に示すように、矢印A2のタイミングでPD411の蓄積時間が開始され、矢印C2のタイミングでPD411の蓄積時間が終了する)、続いて、第(5)行目、第(6)行目・・・第(4n+1)行目、第(4n+2)行目の奇数フレームの画素についても順次、同様にして行われる。
【0041】
一方、第(3)行目、に続いて第(1)行目の上記処理と同様の信号読出し処理が行われ(
図4のSEL(3)、RST(3)、TX(3)および蓄積時間(3)のタイムチャートを参照)、第(3)行目全体の信号読出しが終了する。この後、第(4)行目、第(7)行目、第(8)行目・・・、第(4n+3)行目、第(4n+4)行目の偶数フレームの信号読出し処理についても順次、同様にして行われる。
【0042】
すなわち、本実施形態における撮像装置においては、2ライン毎のインターレース走査により読出し操作を行っており、まず、(1)行目、(2)行目、・・・、(4n+1)行目、(4n+2)行目を順次選択して信号を読み出して奇数フレームの信号を読み出し、奇数フレームの画像信号を出力する。続いて、(3)行目、(4)行目、・・・、(4n+3)行目、(4n+4)行目を順次選択して偶数フレームの信号を読み出し、偶数フレームの画像信号を出力する。
【0043】
なお、奇数フレームと偶数フレームの時間間隔(分割画像フレーム間隔)は(1/12
0)秒=8.333ミリ秒に設定される。また、奇数フレーム同士、および偶数フレーム同士の時間間隔(画像フレーム間隔)は(1/60)秒=16.667ミリ秒に設定される。
【0044】
また、(1)行目、(2)行目、・・・、(4n+1)行目、(4n+2)行目の奇数フレームと、(3)行目、(4)行目、・・・、(4n+3)行目、(4n+4)行目の偶数フレームは、分割画像フレーム間隔が上述したように8.333ミリ秒となり、一方が電荷を蓄積しているときに他方が信号を読み出すように構成されている。奇数フレームと偶数フレームの蓄積時間同士が一部重複するように設定しているのは、各蓄積時間を10ミリ秒に設定しながら、奇数フレーム同士あるいは偶数フレーム同士の間隔(画像フレーム間隔)を16.667ミリ秒(60Hz)に設定するためである。
【0045】
ここで、
図5に、(1)行目、(2)行目、・・・、(4n+1)行目、(4n+2)行目の奇数フレームから、奇数フレームの(3)行目、(4)行目、・・・、(4n+3)行目、(4n+4)行目を生成する画素補間について示す。3行目のGをG3と表記すると、G3=(G1+G5)/2、4行目のGをG4と表記すると、G4=(G2+G6)/2、3行目のRをR3と表記すると、R3=(R1+R5)/2、4行目のBをB4と表記すると、B4=(B2+B6)/2と、各々計算される。
【0046】
さらに、
図6に、(3)行目、(4)行目、・・・、(4n+3)行目、(4n+4)行目の偶数フレームから、偶数フレームの(1)行目、(2)行目、・・・、(4n+1)行目、(4n+2)行目を生成する画素補間について示す。5行目のGはG5と表記すると、G5=(G3+G7)/2、6行目のGはG6と表記すると、G6=(G4+G8)/2、5行目のRをR5と表記すると、R5=(R3+R7)/2、6行目のBをB6と表記すると、B6=(B4+B8)/2と、各々計算される。
【0047】
図5と
図6に示すようにして、2ライン毎のインターレースプログレッシブ変換の画素補間処理を行い、奇数フレームから奇数フレームの全画素情報を生成し、偶数フレームから偶数フレームの全画素情報を生成する。
図7に、本実施形態に係る信号処理装置のブロック図(フローチャート)を示す。この信号処理装置は、FPN(Fixed Pattern Noise)キャンセル手段S1、ゲインコントロール手段S2、2ライン毎インターレースプログレッシブ変換手段S3、デモザイク処理手段S4、リニアマトリクス処理手段S5およびガンマ・ニー処理手段S6、を備えている。
【0048】
ここで、FPNキャンセル手段S1は、FPN(固定パターン雑音)を除去する機能を有し、ゲインコントロール手段S2は、RGBのそれぞれのゲインを調整して明るくする機能を有する。また、2ライン毎インターレースプログレッシブ変換手段S3は、2ライン毎のインターレースによる画像信号から、プログレッシブに変換する機能を有し、映像信号はRGGBのデュアルグリーン信号として形成される。
さらに、デモザイク処理手段S4は、RGGBのデュアルグリーン信号から、フルRGBの信号に変換する機能を有する。
また、上記リニアマトリクス処理手段S5は、RGB入力信号に3×3マトリクスの演算処理を施すことで色補正を行う機能を有する。
さらに、ガンマ・ニー処理手段S6は、信号にガンマ処理とニー処理を施す機能を有する。
なお、ガンマは、出力電圧をY、入力電圧をXとすると、Y=X
0.45
で表され、ニーは、所定のレベルを超える信号を大幅に利得圧縮することが可能である。
【0049】
すなわち、本実施形態に係る信号処理装置においては、従来技術とは異なり、2ライン
毎のインターレースプログレッシブ変換処理を行い、引き続いてデモザイク処理を行う。これにより、ベイヤ配列のカラーフィルタを装着した正方格子状の画素配列から、2ライン毎のインターレース走査により奇数フレームと偶数フレームを読み出し、2ライン毎のインターレースプログレッシブ変換により奇数フレームと偶数フレームの全画素情報を生成し、デモザイク処理により、全画素の色情報を生成する。
上述した第1の実施形態によれば、
図8に示すように、照明機器等が100Hz(電源周波数が50Hz圏)の照明強度下において、2ライン毎のインターレース方式を採用することにより、イメージセンサ(撮像装置)200において、ベイヤ配列のカラーフィルタを装着した画素(フォトダイオード)の1電荷蓄積時間を10ミリ秒に設定するとともに、撮像フレーム周波数を120Hzとしてスーパーハイビジョンに適合させつつ、フリッカの発生を阻止するようにしている。
【0050】
すなわち、フリッカの発生を阻止するために、電子シャッター速度を10ミリ秒に設定した場合には、撮像フレーム間隔(分割画像フレーム間隔)が(1/120)秒=8.333ミリ秒であるため、撮像フレーム間隔に対する電子シャッター期間が1より大きい6/5に設定されることになる。
【0051】
そこで、本実施形態においては、ベイヤ配列のカラーフィルタを装着した画素において、電子シャッター速度を10ミリ秒とし、分割画像フレーム間隔を(1/120)秒=8.333ミリ秒としたとしても、2ライン毎のインターレース方式を採用しているので、画像フレーム間隔(奇数フレーム同士あるいは偶数フレーム同士)に対する電子シャッター期間を1より小さい値(本実施形態では2ライン毎のインターレース方式を採用しているので6/10)に設定することができるので、電源周波数50Hz圏の100Hzの照明強度変化下において120Hzの撮像を行うにあたり、生じるフリッカの発生を阻止することができる。
【0052】
<第2の実施形態>
第2の実施形態に係るCMOS型撮像装置は、
図9に示すように、縦方向に2つの画素の読み出し回路部を共有している2画素を共有した構造を有するものである。
【0053】
なお、第2の実施形態においては、第1の実施形態と重複する部分も多いことから、そのような部分については適宜、簡単に説明する。特に、
図2に基づく装置構成および
図3に基づくベイヤ配列の構成、
図5、6による2ライン毎の画素補間方法、および
図7の信号処理装置のブロック図(フローチャート)は略同様であるので、その詳細な説明は省略する。
すなわち、この第2の実施形態に係るCMOS型撮像装置の画素回路は、
図9に示すように、2画素共有タイプであって、2つのフォトダイオード(PD)911−A,B、2つの電荷転送トランジスタ(TX)912−A,B、浮遊拡散容量(FD)913、リセットトランジスタ(RST)914、ソースフォロアアンプ(SF)915、選択トランジスタ(SEL)916、画素電源部(VDD)917、および画素出力部(OUT)918から構成される。
【0054】
図10は、
図9に示す画素回路と
図3に示すベイヤ配列カラーフィルタの画素配置を用いて信号読出しを行った場合における、各トランジスタの入力信号を表すタイムチャートである。かっこ内の数字は、第何行目に配置された画素であるかを示す数字である。例えば、SEL(1、2)、RST(1、2)と記載されているのは、第1行目と第2行目の2画素が画素共有されているSELとRSTの入力信号を示す。TX(1)、TX(2)として表されるTXは、それぞれ第1行目と第2行目の画素のTXを示す。蓄積時間(1)と蓄積時間(2)の黒帯は、それぞれ第1行目の画素のPD911−Aと第2行目の画素のPD911−Bの蓄積時間を示す。
【0055】
第2の実施形態における撮像装置においては、まず、第(1)行目、第(2)行目の画素をSEL(1,2)で選択し、TX(1)とTX(2)で第1行目の画素のPD911−Aと第2行目の画素のPD911−Bから信号を読み出す(
図10の黒帯に示すように、矢印A1のタイミングでPD911−Aの蓄積時間が開始され、矢印C1のタイミングでPD911−Aの蓄積時間が終了し、一方、矢印A2のタイミングでPD911−Bの蓄積時間が開始され、矢印C2のタイミングでPD911−Bの蓄積時間が終了する)。続いて、第(5)行目、第(6)行目の画素をSEL(5,6)で選択し、TX(5)とTX(6)で第5行目の画素のPD911−Aと第6行目の画素のPD911−Bから信号を読み出す。この処理を、4n+1行目と4n+2行目の信号読出しまで継続して行い、奇数フレームを生成する。
【0056】
続いて、第(3)行目、第(4)行目の画素をSEL(3,4)で選択し、TX(3)とTX(4)で第3行目の画素のPD911−Aと第4行目の画素のPD911−Bから信号を読み出す。続いて、第(7)行目、第(8)行目の画素をSEL(7,8)で選択し、TX(7)とTX(8)で第7行目の画素のPD911−Aと第8行目の画素のPD911−Bから信号を読み出す。この処理を、4n+3行目と4n+4行目の信号読出しまで継続して行い、偶数フレームを生成する。
【0057】
なお、奇数フレームと偶数フレームの時間間隔(分割画像フレーム間隔)は(1/120)秒=8.333ミリ秒に設定される。
【0058】
奇数フレームに、2ライン毎のインターレースプログレッシブ変換を行う手法は
図5と同様であり、偶数フレームに、2ライン毎のインターレースプログレッシブ変換を行う手法は
図6と同様である。また、第2の実施形態装置に用いられる信号処理装置は
図7と同様に構成されている。
【0059】
また、第2の実施形態において、nは0から(4320/4)−1=1079に設定されている。
【0060】
これにより、第2の実施形態においては、電源周波数50Hz圏の100Hzの照明強度変化下において120Hzの撮像を行うにあたり、生じるフリッカの発生を阻止することができる。
【0061】
<第3の実施形態>
第3の実施形態に係るCMOS型撮像装置は、
図11に示すように、縦方向に2つの画素読み出し回路部と横方向に2つの画素読み出し回路部を共有している4画素共有の構造を有するものである。
【0062】
なお、第3の実施形態においては、第1の実施形態と重複する部分も多いことから、そのような部分については適宜、簡単に説明する。特に、
図2に基づく装置構成および
図3に基づくベイヤ配列の構成、および
図7の信号処理装置のブロック図(フローチャート)は略同様であるので、その詳細な説明は省略する。
すなわち、
図11に示すように、この画素回路1100は、4つのフォトダイオード(PD)1111−A〜D、4つの電荷転送トランジスタ(TX)1112−A〜D、浮遊拡散容量(FD)1113、リセットトランジスタ(RST)1114、ソースフォロアアンプ(増幅トランジスタ:SF)1115、選択トランジスタ(SEL)1116、画素電源部(VDD)1117、および画素出力部(OUT)1118から構成される。
【0063】
図12は、
図11に示す画素回路と
図3に示すベイヤ配列カラーフィルタの画素配置を
用いて信号読出しを行った場合における、各トランジスタの入力信号を表すタイムチャートである。かっこ内の数字は、第何行目第何番目の配置の画素であるかを示すものである。例えば、SEL(1A、1B、2C、2D)、RST(1A、1B、2C、2D)と記載されているのは、第1行目A番目とB番目、第2行目C番目とD番目の4画素が画素共有されているSELとRSTの入力信号を示す。TX(1A)、TX(1B)、TX(2C)、TX(2D)として表されるTXは、それぞれ第1行目A番目とB番目、第2行目C番目とD番目の画素のTXを示す。蓄積時間(1A(矢印A1と矢印C1の期間))、蓄積時間(1B(矢印A2と矢印C2の期間))、蓄積時間(2C(矢印A3と矢印C3の期間))、蓄積時間(2D(矢印A4と矢印C4の期間))の黒帯は、それぞれ第1行目A番目とB番目、第2行目C番目とD番目の画素のPD1111−A〜Dの蓄積時間を示す。
【0064】
第3の実施形態における撮像装置においては、まず、第(1)行目A番目とB番目、第(2)行目C番目とD番目の画素をSEL(1A、1B、2C、2D)で選択し、TX(1A)とTX(1B)で第1行目A番目とB番目の画素のPD1111−A、Bから信号を読み出し、この後、TX(2C)とTX(2D)で第2行目C番目とD番目の画素のPD1111−C、Dから信号を読み出す。
続いて、第(5)行目A番目とB番目、第(6)行目C番目とD番目の画素をSEL(5A、5B、6C、6D)で選択し、TX(5A)とTX(5B)で第5行目A番目とB番目の画素のPD1111−A、Bから信号を読み出し、TX(6C)とTX(6D)で第6行目C番目とD番目の画素のPD1111−C、Dから信号を読み出す。
この処理を、4n+1行目と4n+2行目の信号読出しまで継続して行い、奇数フレームを生成する。
【0065】
続いて、第(3)行目A番目とB番目、第(4)行目C番目とD番目の画素をSEL(3A、3B、4C、4D)で選択し、TX(3A)とTX(3B)で第3行目A番目とB番目の画素のPD1111−A、Bから信号を読み出し、TX(4C)とTX(4D)で第4行目C番目とD番目の画素のPD1111−C、Dから信号を読み出す。
続いて、第(7)行目A番目とB番目、第(8)行目C番目とD番目の画素をSEL(7A、7B、8C、8D)で選択し、TX(7A)とTX(7B)で第7行目A番目とB番目の画素のPD1111−A、Bから信号を読み出し、TX(8C)とTX(8D)で第8行目C番目とD番目の画素のPD1111−C、Dから信号を読み出す。
この処理を、4n+3行目と4n+4行目の信号読出しまで継続して行い、偶数フレームを生成する。
【0066】
なお、奇数フレームと偶数フレームの時間間隔(分割画像フレーム間隔)は(1/120)秒=8.333ミリ秒に設定される。
【0067】
奇数フレームに、2ライン毎のインターレースプログレッシブ変換を行う手法は
図5と同様であり、偶数フレームに、2ライン毎のインターレースプログレッシブ変換を行う手法は
図6と同様である。また、第3の実施形態装置に用いられる信号処理装置は
図7と同様に構成されている。
【0068】
また、第3の実施形態において、nは0から(4320/4)−1=1079に設定されている。
【0069】
これにより、第3の実施形態においては、電源周波数50Hz圏の100Hzの照明強度変化下において120Hzの撮像を行うにあたり、生じるフリッカの発生を阻止することができる。
【0070】
さらに、本発明の撮像装置、撮像方法および画像フレーム読出し制御回路としては、上記実施形態のものに限られるものではなく、その他の種々の態様のものを採用し得る。例えば、上記実施形態においては、共有タイプの素子のうち、2つの画素に共有の2画素共有タイプの素子、および4つの画素に共有の4画素共有タイプの素子の例を挙げているが、それ以外の種々の、複数画素に共有の素子を用いて信号読出しを行うことができる。
また、画素補間の手法としても、
図5、6のものに限られるものではなく、その他の種々の手法を用いることができる。
【0071】
なお、上記実施形態においては、撮像装置を構成する複数の画素が、X方向に7680画素でY方向に4320画素、またはX方向に3840画素でY方向に2160画素のいずれかに物理的に設定される場合について説明しているが、これに替えて、複数の画素を、ハードウェアあるいはソフトウェア等を用いて画素補間処理を行い、X方向に7680画素でY方向に4320画素、またはX方向に3840画素でY方向に2160画素のいずれかとなるように画素数を拡張(増加)または縮小(減少)するようにしても、上記実施形態のものと、同様の効果が得られる。
【0072】
なお、上記実施形態においては、画像フレーム間隔を、1/120秒=8.333ミリ秒としているが、これに替えて、1/120秒×1001/1000=8.342ミリ秒としても、上記実施形態のものと略同様の効果を奏することができる。また、上記実施形態においては、フレーム周波数を120Hzとしているが、これに替えて、120×1000/1001=119.88Hzとしても、上記実施形態のものと略同様の効果を奏することができる。
【0073】
さらに、グローバルシャッタ機能(グローバルシャッタトランジスタ)を搭載することも可能であり、その場合には、全画素同時(実際には奇数フレーム画素を同時および偶数フレーム画素を同時)にシャッタ動作を行うことができ、全画素同時読出しが可能である。これにより、特に、動きが高速である被写体については像の歪みを軽減することができる。
【0074】
また、上記実施形態においては、カラーフィルタとして、2×2の正方格子状のベイヤカラーフィルタを用いているが、これに替えて、2×2の正方格子状であって、ベイヤカラーフィルタの1つのGをW(白色)に置き換えたものとしてもよいし、2×2の正方格子状であって、ベイヤカラーフィルタの2つのGを共にW(白色)に置き換えたものとしてもよいし、ベイヤカラーフィルタの1つのGをNIR(近赤外線透過フィルタ)に置き換えたものとしてもよい。
また、2ライン毎のインターレース方式で読み出す、いわゆるハニカム方式(正方格子とは異なる)カラーフィルタを採用してもよいし、6×6の正方格子状であって、6ライン毎のインターレース方式で読み出す、FUJIFILM X-Pro1(富士フイルム社製)と称されるカラーフィルタを採用してもよいし、いわゆる色順次方式と称されるカラーフィルタ等を採用してもよい。
【0075】
2ライン毎に分割画像フレームを読み出す構成としているが、3ライン以上の複数ライン毎に分割画像フレームを読み出す構成としてもよく、画素上にカラーフィルタを装着した際にカバーされる画素ラインの数と一致するライン数毎のインターレース方式とする。
なお、上記実施形態においては、Y行のアドレスを選択して駆動する行選択回路部(Y方向走査部)、とX列毎に信号を読み出す列並列読出し回路部(X方向走査部)を用いて画像フレーム読出し制御を行っているが、これに替えて、X列のアドレスを選択して駆動する列選択回路部(X方向走査部)、とY行毎に信号を読み出す行並列読出し回路部(Y方向走査部)を用いて画像フレーム読出し制御を行ってもよい。