【課題】全画素が3色分以上の光電変換層を持ち、原理的に偽色の発生のない多層センサーを用いて、高解像の静止画及び動画を得ながら、一方でデータ量を小さく抑えて高速読み出しを行う撮像装置を提供する。
【解決手段】素子の厚み方向に色分離され、3色以上の光電変換層を有する撮像素子200と、撮像素子の読み出しを制御する制御手段130を有する。撮像素子200は、厚み方向に色分離された各層ごとに所定の解像で画素情報を読み出され、撮像素子の色分離された各層のうち、少なくとも一つの層は最も高い解像で画素情報が読み出され、少なくとも一つの層は最も高い解像よりも低い解像で画素情報を読み出される。制御手段130は、色分離された各層のうち、最も高い解像で読み出された層の画素情報から輝度情報を取得し、最も高い解像で読み出された層以外の層の画素情報と同じ解像となるように各層の画素情報から色情報を取得する。
撮像装置であって、素子の厚み方向に色分離され、3色以上の光電変換層を有する撮像素子と、前記撮像素子の読み出しを制御する制御手段を有し、前記撮像素子は、厚み方向に色分離された各層ごとに所定の解像で画素情報を読み出され、前記撮像素子の色分離された各層のうち、少なくとも一つの層は最も高い解像で画素情報が読み出され、少なくとも一つの層は、最も高い解像よりも低い解像で画素情報を読み出され、前記制御手段は、色分離された各層のうち、最も高い解像で読み出された層の画素情報から輝度情報を取得し、最も高い解像で読み出された層以外の層の画素情報と同じ解像となるように、各層の画素情報から色情報を取得することを特徴とする撮像装置。
前記制御手段は、前記撮像素子の色分離された各層のうち、少なくとも一つの層について、最も高い解像として、全ての画素情報を読み出し、その他の層は、最も高い解像よりも低い解像となるように画素情報を読み出すことを特徴とする請求項1に記載の撮像装置。
前記制御手段は、前記撮像素子の色分離された各層のうち、最も高い解像として、全ての画素情報を読み出す層以外の層の画素情報を、間引き読み出しまたは画素結合で読み出すことを特徴とする請求項1又は2のいずれか1項に記載の撮像装置。
【技術分野】
【0001】
本発明は、撮像装置に関し、特に撮像素子(イメージセンサー)の高速画素読み出しが可能な撮像装置に関する。
【0002】
昨今、撮像装置は、静止画撮影だけでなく、動画撮影に対しても高解像、高画質と高品位化が求められており、一方で、データ量はなるべく少なくなるようにも求められている。ここに言う撮像装置とは、従来のフイルムカメラに変わり普及した、イメージセンサーを用いて、被写体からの光を光電変換することにより撮像し、取得した画像信号をデジタル値の画像データとして変換し、メモリカード等の記憶媒体に記憶する撮像装置である。
【0003】
上記のような撮像装置において通常用いられる一般的なベイヤーセンサーでは、主に輝度を構成する緑(G)画素が全撮像範囲の半分しかなく、赤色(R)、緑色(G)、青色(B)それぞれの色度面においては平面上異なる位置をサンプリングするために、埋め合わせ処理(デモザイク処理)の必要があり、そのために偽色の発生が避けられなかった。
【0004】
一方、このような問題を解決するため、ベイヤーセンサーとは異なるイメージセンサーが提案されている。
【0005】
たとえば、先行文献1に記載の多層センサーは、シリコン(Si)の光吸収係数の波長依存性を利用して、素子の厚み方向に色分離し、1画素ごとに赤色(R)、緑色(G)、青色(B)各色の光電変換層を有しており、また、同一色感度を有する画素群が全撮像範囲を網羅しているため、高い輝度情報を有効に得ることができる。
【0006】
また、先行文献2に記載の発明では、2画素の加算平均を行う際に工夫をすることで偽色の発生量を減らしている。
【発明を実施するための形態】
【0017】
以下、図面を用いて、本発明を実施するための最良の形態について説明する。なお、この実施の形態により本発明が限定されるものではない。
【0018】
図1は本発明を実施の撮像装置の主要な構成を示したブロック図である。
図1に示す撮像装置100は、レンズ部110と、撮像素子200と、読み出し制御部130と、信号処理部150と、メモリ部160と、カメラCPU170と、ユーザインターフェース171と、記録媒体インターフェース172と、画像表示部190と、画像処理部300とを備えている。
【0019】
レンズ部110は、フォーカスレンズ群やズームレンズ群を含む、複数の不図示のレンズ群で構成された、撮像のための結像光学系全体を示している。ただし、本図においては、便宜上、1枚のレンズのみ記載している。
【0020】
撮像素子200は、撮影光学系110により集光された光線を受光して光電変換し、画像データを出力する。本実施形態の撮像素子200としては、本実施例の撮像素子200には、画素から読み出した色成分信号を増幅するゲイン可変アンプやゲイン値を補正するためのゲイン補正回路、アナログ画像信号をデジタル変換するA/Dコンバータが内蔵されている。また、かかる撮像素子200としては、CMOSイメージセンサーが用いられている。かかる撮像素子200の受光面は、多数の画素から構成されている。これらの画素は、その内部において、入射光の波長により光電変換される深さの違いを用いることで、単一画素からRGBの各色成分信号を出力可能な垂直色分離型のイメージセンサーである。かかる垂直色分離型のイメージセンサーの詳しい構造については後述する。
【0021】
読み出し制御部130は、撮像素子200の駆動タイミングを決定するための信号を出力する。これにより、画素毎の水平駆動並びに垂直駆動が制御され、各画素からRGBの各色成分信号が読み出される。この読み出し制御部130は、さらに、画素から読み出す色成分についても制御する。
【0022】
撮像素子200から出力された色成分信号は一旦メモリ部160に記録される。メモリ
部160は、この他にも各種データのバッファとして機能する。
【0023】
信号処理部150は、撮像素子200から出力された信号から輝度データの作成と色データの作成を行う。また、色データに対しては画素結合又は間引き処理などを行う。
【0024】
画像処理部300は、信号処理部150が行った輝度データと色データを受け取り、画像処理を行う。例えば、欠陥画素補正、ノイズ除去、色補正、ガンマ補正、シャープニングを行う。撮影画像データは大まかに輝度データと色データから成り、これに各種補正が施されて撮影画像と成る。
【0025】
カメラCPU170は、撮像装置100全体の包括的な制御を行う。
【0026】
ユーザインターフェース(I/F)171は、例えば、レリーズボタン、電源ボタン、
コマンドダイヤル、十字キー等の操作部材を有しており、ユーザがこれらの操作部材を操
作すると、カメラCPU170は所定の動作を行う指示を出す。静止画撮影モードと動画
撮影モードの切り替えに用いる操作部材も、このI/F171に含まれる。
【0027】
記録媒体インターフェース(I/F)172は、不図示の記録媒体との間でRAWデー
タや現像後の画像データの記録又は読み出しを行う。この記録媒体は、半導体メモリ等の
着脱可能な記録媒体である。
【0028】
画像表示部190は、画像処理部300で処理された画像データや、不図示の記録媒体
から読み出された画像データ等を表示する。
【0029】
なお、上述したゲイン可変アンプ、ゲイン補正回路、A/Dコンバータを内蔵していない撮像素子200を採用する場合には、これらのデバイスを個別に搭載すればよい。
【0030】
次に、本実施例の撮像素子について、
図2を用いて説明する。
図2は、本発明の実施例における撮像装置100に実装される撮像素子200の単一画素を単純化して示した断面図である。上述したように、本実施形態の撮像素子200はいわゆる垂直色分離型のイメージセンサーであり、各画素には、深さ方向に3つのフォトダイオードが積層して形成されている。
【0031】
ある画素に光が入射すると、入射光中の青色(B)成分は主に最上面に位置するフォトダイオード210で光電変換される。同様に、入射光中の緑色(G)成分は主に中間深さに位置するフォトダイオード230で光電変換され、赤色(R)成分は主に最下層に位置するフォトダイオード250で光電変換される。これらの、垂直方向の色分離は撮像素子200の材料として用いるシリコン(Si)の特性を利用したものである。
【0032】
これら3つのフォトダイオードは、Si基板の内部の異なる深さに所定のドープ処理を行うことで形成される。具体的には、B成分用フォトダイオード210は、約0.2〜0.5μmの間の深さに形成され、G成分用フォトダイオード230は、約0.5〜1.5μmの間の深さに形成され、R成分用フォトダイオード250は、約1.5〜3.0μmの間の深さに形成される。
【0033】
従って、本実施形態の撮像素子200はベイヤー型イメージセンサーに必須のカラーフィルタが不要でありながら、1つの画素でRGB3色の色成分信号を取得することが可能である。各画素が3色全ての波長の色成分を光電変換できるため、本実施形態の撮像素子200には、ベイヤー型イメージセンサーにおいては必須となる画素補間を行う必要がないというメリットもある。
【0034】
次に、
図3を用いて、本発明の実施例における撮像素子200の信号読み出しについて説明する。
図3は、
図2に示した本発明の実施例における撮像素子200における単一画素の簡略化した等価回路図である。本図に示した等価回路を用いることで、撮像素子200内の各フォトダイオードにおける光電変換により生成された電荷をフォトダイオードの外部に読み出すことができる。
【0035】
上述したように、撮像素子200の各画素は、B成分用フォトダイオード210、G成分用フォトダイオード230、及びR成分用フォトダイオード250を有している。各フォトダイオードのアノードは接地されており、各フォトダイオードのカソードは、3つの色に対するフローティングディフュージョン(FD)を有する配線部201を備えている。
【0036】
フォトダイオード210、230、及び250のカソードは、各々の選択トランジスタを介してFD部201に接続されている。詳しくは、B成分選択トランジスタ211は、B成分用フォトダイオード210のカソードとFD部201との間に接続され、B成分選択トランジスタ211のゲートは、B成分選択線212に接続される。G成分選択トランジスタ231は、G成分用フォトダイオード230のカソードとFD部201との間に接続され、G成分選択トランジスタ231のゲートは、G成分選択線232に接続される。R成分選択トランジスタ251は、R成分用フォトダイオード250のカソードとFD部201との間に接続され、R成分選択トランジスタ251のゲートは、R成分選択線252に接続される。
【0037】
VDD線202とFD部201との間には、共通のリセットトランジスタ203が接続されている。リセットトランジスタ203のゲートは、リセット線204に接続される。
【0038】
FD部201にはソースフォロワトランジスタ205のゲートが接続され、そのドレインはVDD線202に接続され、そのソースは行選択トランジスタ206のドレインに接続されている。行選択トランジスタ206のソースは定電流源207に接続され、そのゲートは行選択線208に接続されている。
【0039】
なお、上述した撮像素子200の等価回路図は一例であり、これに限られるものではない。例えば、本図ではFD部は各フォトダイオードに共通して1つ設けられているが、各フォトダイオードにFD部を別個に設けてもよい。
【0040】
その場合、各フォトダイオードの選択トランジスタのカソードにそれぞれ個別のFD部が接続され、それらの各FD部はさらに共通のソースフォロワトランジスタのゲートに接続する。また、各FD部とVDD線との間には、それぞれ個別のリセットトランジスタを接続することで構成される。
【0041】
次に、撮像装置100を用いて撮影をする際の撮像素子200内の各画素からの各色成分信号の読み出しのうち、従来の1画素の読み出しについて
図4を用いて説明する。
図4は多層センサーにおける1画素読み出しのタイミングチャートの一例である。
【0042】
静止画撮影モードが選択された撮像装置100を用いて撮影者が静止画を撮影する場合を考える。撮影者によりレリーズ操作が行われると、撮影光学系110を介して被写体光が撮像素子200に入射して露光される。撮像素子200内の各フォトダイオードにおいて入射光が光電変換され、電荷の生成及び蓄積が完了すると、読み出し制御部130の制御により、まず、行選択線208がHighにされ、読み出す行が選択される。それと同時に、読み出し制御部130の制御により、リセット線204がHighにされ、これによりFD部201がリセットされる。
【0043】
図4に示すように、R成分信号、G成分信号、B成分信号の順に読み出されるので、まず、読み出し制御部130の制御によりR成分選択線252がHighにされ、R成分用フォトダイオード250に蓄積された電荷がFD部201に移動し、さらにVoutから出力される。これにより、R成分信号が画素中から読み出される。
【0044】
続いて、読み出し制御部130の制御により、再度リセット線204がHighにされ、これによりFD部201がリセットされる。次に、読み出し制御部130の制御によりG成分選択線232がHighにされ、G成分用フォトダイオード230に蓄積された電荷がFD部201に移動し、さらにVoutから出力される。これにより、G成分信号が画素中から読み出される。
【0045】
続いて、読み出し制御部130の制御により、再度リセット線204がHighにされ、これによりFD部201がリセットされる。次に、読み出し制御部130の制御によりB成分選択線212がHighにされ、B成分用フォトダイオード210に蓄積された電荷がFD部201に移動し、さらにVoutから出力される。これにより、B成分信号が画素中から読み出される。
【0046】
以上で、単一画素からRGB全ての色成分信号の読み出しが完了するので、読み出し制御部130の制御により、行選択信号がLowにされる。これが従来の多層センサーにおける1画素読み出しである。
【0047】
次に、本発明の撮像装置100を用いて静止画を撮影する際の撮像素子200内の各画素の色成分信号の読み出しのうち、実施例1による全体画素の読み出しについて、
図5を参照して説明する。
図5は本発明の実施例1の読み出し制御のフローチャートである。
【実施例1】
【0048】
ユーザが負図示のレリーズを押圧することにより、撮影光学系110を介して被写体光が撮像素子200に入射して露光される。撮像素子200内の各フォトダイオードにおいて入射光が光電変換され、電荷の生成及び蓄積が完了する。そして読み出す行が選択され、信号の読み出しが始まる。#1101では、読み出し制御部130が、撮像素子200内の画素信号の読み出しが完了したか判断を行う。画素信号の読み出しが完了していると判断されれば読み出しが終了し、未だ画素信号が読み出されていないと判断されれば#1102に進む。
【0049】
#1102においては読み出し制御部130が、読み出しが完了していない画素が、グループ1の画素か否かを判断する。
【0050】
ここで、かかるグループ1の画素とそれ以外であるグループ2の画素について、以下に
図6及び
図7を用いて説明する。
図6は本発明の撮像素子200のグループ1とグループ2の画素の分布の一例であり、
図7は本発明の撮像素子200のうち、縦横に2個ずつの単一画素からなる2×2の画素群を抜き出した概念図である。
【0051】
図6から分かるとおり、本発明の撮像素子200の画素は、縦横に2個ずつの単一画素からなる2×2の画素群としてみたとき、左上にグループ1の画素、右上、左下、右下にグループ2の画素が配置されている。
【0052】
なお、上述した撮像素子200の画素は一例であり、これに限られるものではない。例えば、全列においてグループ1の画素とグループ2の画素を交互に配置してもよい。
【0053】
グループ1の画素とグループ2の画素の差異は
図7を用いて説明する。
図7からわかるとおり、グループ1に分類された画素は、最上面のフォトダイオード210からB成分、中間深さのフォトダイオード230からG成分、最下層のフォトダイオード250からR成分とRGB全ての色成分の信号を読み出す。すなわち、前述の従来の1画素の信号読み出しが行われる。一方、グループ2の画素は中間深さのフォトダイオード230からG成分信号のみを読み出している。
【0054】
グループ2の画素の信号読み出しについては、
図8を用いて説明する。
図8は本発明の実施例1の撮像素子200のグループ2の画素の信号読み出しのタイミングチャートである。
【0055】
読み出し制御部130の制御により、まず、行選択線208がHighにされ、読み出す行が選択される。それと同時に、リセット線204がHighにされ、これによりFD部201がリセットされる。グループ2の画素においてはR成分の信号の読み出しを行わないので、次に、G成分選択線232がHighにされ、G成分用フォトダイオード230に蓄積された電荷がFD部201に移動し、さらにVoutから出力される。これにより、G成分信号が画素中から読み出される。また、グループ2の画素においてはB成分の信号読み出しを行わないので、以上で色成分信号の読み出しが完了するため、読み出し制御部130の制御により、行選択信号がLowにされる。
【0056】
なお、上述したグループ2の画素の読み出しにおいて、読み出す画素の選択は一例であり、読み出す画素はR成分でもB成分でもかまわない。
【0057】
以上のとおり、
図5のフローチャートにおいて、#1102においては読み出し制御部130により、信号読み出しが完了していない画素が、グループ1の画素であると判断されれば、#1103にすすみ、該当の画素の全層の信号読み出しを行う。また、読み出しが完了していない画素が、グループ2の画素であると判断されれば#1104にすすみ、該当の画素の一部の層のみの信号読み出しを行う。
【0058】
そして、#1103または#1104において信号読み出しを行うと、#1101において全画素の画素信号の読み出しが完了したかを判断し、全画素の信号読み出しが完了していると判断されれば処理を終了し、そうでなければまた#1102に進み、残った画素の信号読み出しを行う。以上の手順で読み出された一つ一つの画素信号は、全画素の信号読み出しが完了すると、まとまった1枚の画像を構成する画像信号となる。
【0059】
このような読み出しを行うことで、本発明の実施例1ではデータ量を小さく抑えながら、読み出しを高速に行うことが可能となる。
【0060】
次に、本発明の撮像装置100を用いて静止画を撮影する際の、画像信号を読み出した後に行う信号処理部150における処理について説明する。かかる処理とは、読み出した画像信号から輝度データの作成を行う処理である。
図9は本発明の実施例1の信号処理のうち、輝度データの作成にかかる処理のフローチャートである。
【0061】
図5のフローチャート終了後、読み出された信号は、信号処理部150に渡される。信号処理部150は受け取った画像信号から輝度データの作成を行う。
【0062】
かかる輝度データには一番解像度の高い層のデータを用いるため、信号処理部150は画像信号の中から一番解像度の高い層のデータを選出する。(#2101)一番解像度の高い層のデータとは、実施例1の読み出し制御において、グループ1の画素とグループ2の画素、いずれの画素でも読み出されていたG成分の層のデータことである。G成分の層は例外なく全ての画素で読み出されているため、グループ2の画素では読み出されないR層とB層の画素に比べ、解像度が高いといえるからである。
【0063】
信号処理部150は一番解像度の高い層のデータを輝度データとし、輝度データに関しての処理を終了する。
【0064】
次に、本発明の実施例1の信号処理のうち、輝度データを作成する一方で行われる、色データの作成にかかる信号処理部150における処理について説明する。かかる処理とは、読み出した信号から色データの作成を行う処理である。
図10は実施例1の信号処理のうち、色データの作成にかかる処理のフローチャートである。
【0065】
図5のフローチャート終了後、読み出された画像信号は、信号処理部150に送られる。信号処理部150は受け取った画像信号から色データの作成を行う。
【0066】
かかる色データは一番解像度の高い層以外のデータと同じ解像度でR成分G成分B成分全ての層のデータを作成するため、信号処理部150はまず、そのデータが一番解像度の低い層のデータか否かを判断する。(#3101)実施例1において一番解像度の高い層のデータとは、前述の読み出し制御において、グループ1の画素とグループ2の画素、いずれの画素でも読み出されていたG成分の層のデータことであるから、一番解像度の高い層以外のデータはGの層以外、すなわち、R成分の層とB成分の層のデータである。一番解像度の高い層以外のデータとはG成分の層以外、すなわち、R成分の層とB成分の層のデータであると判断されれば、信号処理終了となり、一番解像度の高い層のデータ、すなわち、G成分の層と判断されれば#3102に進み、画素結合や間引き処理が施され、R成分の層とB成分の層のデータと同じ解像度に調整される。かかる調整が完了すると処理終了となる。
【0067】
以上により、信号処理部150は一番解像度の高い層以外のデータと同じ解像度でR成分G成分B成分、3層全ての層の色データを作成し、色データに関しての信号処理を終了する。これにより、実施例1においては、G成分の層のデータが4分の1程度まで抑えられる。
【0068】
したがって、本発明の撮像装置では、以上の手順で信号処理を行うことで、輝度データのみは解像度の高い層のデータを用いるために、輝度解像は高いまま、データ量を小さく抑えることが可能となる。詳しくは、本来は
図6にあるような縦2画素、横2画素で4画素の画素群における画素信号の読み出しは、R成分が4、B成分が4、G成分が4であり、当然輝度データも4となるところ、本発明においては、R成分が1、B成分が1、G成分が4となり、輝度データはG成分を用いて作成するため、G成分と同じ4となる。かかるR成分B成分G成分の色データは読み出しの時点で間引いているため、読み出し量も抑えられ、結果、画像のデータ量も抑えられている。また、前述の通り輝度データは一番解像度の高い読み出しをされたG成分を用いるため、輝度解像は高いままであり、色のデータだけが読み出し量と画像のデータ量の両方を抑えられている。また、色データを小さく抑えてはいるものの、ベイヤー配列のようにデモザイク処理による偽色の発生がないため、色再現性の高い画像を得ることができる。
【0069】
また、本発明の実施例1においては、画素の読み出しを一部行わないというスキッピングを採用しているが、隣り合う画素をひとまとめに扱うビニングを採用してもよい。たとえば、G成分の層は読み出してそのまま出力し、R成分の層とB成分の層については、隣り合う位置の画素のデータとの平均値を出力することで、本発明の実施例1と同様の効果を得ることができる。
【0070】
また、本発明の実施例1においては、画像信号の読み出しを行うことで、データ量を小さく抑えて高速読み出しを行うことを可能にしているが、読み出しは従来どおり、全画素において全層読み出しを行い、信号処理において、一部の成分の層について画素結合や間引きを行うようにしてもよい。たとえば、読み出した画素のデータに対し、G成分の層のデータは読み出してそのまま後段処理に進み、R成分の層とB成分の層については、画素結合や間引きを行ってから後段処理に進むようにすることで、本発明の実施例1と同様の効果を得ることができる。