(58)【調査した分野】(Int.Cl.,DB名)
前記制御部は、前記第2制御において、前記第1光電変換部と前記第2光電変換部とのうち、感度の低い光電変換部の電荷の蓄積時間を、前記第1光電変換部と前記第2光電変換部とのうち、感度の高い光電変換部の電荷の蓄積時間よりも短くする請求項1から3のいずれか一項に記載の撮像素子。
【発明を実施するための形態】
【0008】
以下、図面を参照して本発明を実施するための形態について説明する。
図1は、本発明
の一実施の形態によるデジタルカメラ1の構成を例示する図である。デジタルカメラ1は
、制御部11、撮像部12、操作部13、画像処理部14、液晶モニタ15、およびバッ
ファメモリ16を有する。また、デジタルカメラ1には、メモリカード17が装着されて
いる。
【0009】
制御部11は、マイクロプロセッサおよびその周辺回路から構成され、不図示のROM
に格納された制御プログラムを実行することにより、デジタルカメラ1の各種の制御を行
う。撮像部12は、撮像素子21、増幅回路22、およびAD変換回路23を有する。
【0010】
撮像素子21は、複数の画素から構成され、不図示の撮影光学系を介して被写体からの
光束を受光し、光電変換を行ってアナログ画像信号を出力する。増幅回路22は、撮像素
子21から出力されるアナログ画像信号を所定の増幅率(ゲイン)で増幅してAD変換回
路23に出力する。AD変換回路23は、アナログ画像信号をAD変換してデジタル画像
信号を出力する。制御部11は、撮像部12から出力されるデジタル画像信号をバッファ
メモリ16に格納する。
【0011】
バッファメモリ16に格納されたデジタル画像信号は、画像処理部14において各種の
画像処理が行われ、液晶モニタ15に表示されたり、メモリカード17に格納されたりす
る。メモリカード17は、不揮発性のフラッシュメモリなどから構成され、デジタルカメ
ラ1に対して着脱可能である。
【0012】
操作部13は、レリーズボタンやモード切り替えボタン、電源ボタンなど各種の操作ボ
タンから構成され、撮影者により操作される。操作部13は、撮影者による上記の各操作
ボタンの操作に応じた操作信号を制御部11へ出力する。画像処理部14は、ASIC等
により構成されている。画像処理部14は、撮像部12によって撮像された画像データに
対して、補間、圧縮、ホワイトバランスなどの各種の画像処理や、後述するダイナミック
レンジ拡大処理を行う。
【0013】
<撮像素子の説明>
図2は、本実施形態に係る撮像素子21の概要を示す図である。なお、
図2では、撮像
素子21の光入射側を上側とした状態を示している。このため、以下の説明では、撮像素
子21の光入射側の方向を「上方」または「上」とし、光入射側に対して反対側の方向を
「下方」または「下」とする。撮像素子21は、上部光電変換層31と下部光電変換層3
2とを有する。上部光電変換層31と下部光電変換層32とは、同一光路上に積層配置さ
れている。上部光電変換層31は、所定の色成分(詳しくは後述する)の光を吸収(光電
変換)する有機光電膜で構成される。上部光電変換層31で吸収(光電変換)されなかっ
た色成分の光は、上部光電変換層31を透過して下部光電変換層32に入射し、下部光電
変換層32で光電変換される。下部光電変換層32は、フォトダイオードにより光電変換
を行う。なお、上部光電変換層31で光電変換される色成分と、下部光電変換層32で光
電変換される色成分とは、補色関係である。上部光電変換層31と下部光電変換層32と
は同一の半導体基板上に形成され、各画素位置は一対一に対応する。たとえば上部光電変
換層31の1行1列目の画素は、下部光電変換層32の1行1列目の画素に対応する。
【0014】
図3(a)は、上部光電変換層31の画素配置を示す図である。
図3(a)において、
水平方向をx軸、垂直方向をy軸とし、画素Pの座標をP(x,y)と表記する。
図3(
a)に示す上部光電変換層31の例では、奇数行の各画素にMg(マジェンタ)とYe(
イエロー)の光を光電変換する有機光電膜を交互に配置し、偶数行の各画素にCy(シア
ン)とMg(マジェンタ)の光を光電変換する有機光電膜を交互に配置している。そして
、各画素で受光されない光は透過される。たとえば画素P(1,1)はMgの光を光電変
換してMgの補色であるG(グリーン)の光を透過する。同様に、画素P(2,1)はY
eの光を光電変換してYeの補色であるB(ブルー)の光を透過し、画素P(1,2)は
Cyの光を光電変換してCyの補色であるR(レッド)の光を透過する。
【0015】
図3(b)は、下部光電変換層32の画素配置を示す図である。なお、
図3(b)に示
す各画素位置は、
図3(a)と同じである。たとえば下部光電変換層32の画素(1,1
)は、上部光電変換層31の画素(1,1)に対応する。
図3(b)において、下部光電
変換層32には、カラーフィルターなどは設けられておらず、上部光電変換層31を透過
する色成分(すなわち有機光電膜で吸収されて光電変換される色成分の補色)の光を光電
変換する。従って、
図3(c)に示すように、下部光電変換層32において、奇数行の画
素ではGとBの色成分の画像信号、偶数行の各画素ではRとGの色成分の画像信号が得ら
れる。たとえば画素P(1,1)ではMgの補色のG成分の画像信号が得られる。同様に
、画素P(2,1)ではYeの補色のB成分の画像信号、画素P(1,2)ではCyの補
色のR成分の画像信号がそれぞれ得られる。
【0016】
このように、本実施形態に係る撮像素子21では、有機光電膜で構成される上部光電変
換層31が下部光電変換層32に対してカラーフィルターの役割を果たし、下部光電変換
層32から上部光電変換層31の補色画像(
図3の例ではベイヤー配列の画像)が得られ
る。したがって、本実施形態に係る撮像素子21では、上部光電変換層31からはCy、
Mg、Yeの3色からなるCMY画像を取得することができ、下部光電変換層32からは
R、G、Bの3色からなるRGB画像を取得することができ、1回の撮影処理で2枚のカ
ラー画像信号を取得することができる。
【0017】
図4は、撮像素子21の断面の一部を例示する図である。
図4に示すように、撮像素子
21では、シリコン基板上に形成された下部光電変換層32と、有機光電膜を用いた上部
光電変換層31とが配線層40を介して積層されている。上部光電変換層31の上方には
、1つの画素に対して1つのマイクロレンズMLが形成されている。たとえば、上部光電
変換層31において、画素P(1,1)の光電変換部を構成する有機光電膜による受光部
PC(1,1)は、マイクロレンズML(1,1)から入射された被写体光におけるMg
の光を光電変換して補色であるGの光を透過する。下部光電変換層32において、画素P
(1,1)を構成するフォトダイオードPD(1,1)は、上部光電変換層31の受光部
PC(1,1)を透過したGの光を受光して光電変換する。
【0018】
図5は、撮像素子21における1つの画素P(x,y)の回路構成を例示する図である
。画素P(x,y)は、下部光電変換層32を構成するための回路として、フォトダイオ
ードPDと、転送トランジスタTxと、リセットトランジスタR2と、出力トランジスタ
SF2と、選択トランジスタSEL2とを有する。フォトダイオードPDは、入射光の光
量に応じた電荷を蓄積する。転送トランジスタTxは、フォトダイオードPDに蓄積され
た電荷を出力トランジスタSF2側の浮遊拡散領域(FD部)に転送する。出力トランジ
スタSF2は選択トランジスタSEL2を介して電流源PW2とソースホロワを構成し、
FD部に蓄積された電荷に応じた電気信号を出力信号OUT2として垂直信号線VLIN
E2に出力する。なお、リセットトランジスタR2は、FD部の電荷を電源電圧Vccに
リセットする。
【0019】
また、画素P(x,y)は、上部光電変換層31を構成するための回路として、有機光
電膜による受光部PCと、リセットトランジスタR1と、出力トランジスタSF1と、選
択トランジスタSEL1とを有する。有機光電膜による受光部PCは、非透過光を光量に
応じた電気信号に変換し、選択トランジスタSEL1を介して電流源PW1とソースホロ
ワを構成する出力トランジスタSF1を介して出力信号OUT1として垂直信号線VLI
NE1に出力する。なお、リセットトランジスタR1は、受光部PCの出力信号をリファ
レンス電圧Vrefにリセットする。また、有機光電膜の動作用として高電圧Vpcが与
えられている。各トランジスタはMOS_FETで構成される。
【0020】
ここで、下部光電変換層32に係る回路の動作について説明する。まず、選択信号φS
EL2が”High”になると、選択トランジスタSEL2がオンする。次に、リセット
信号φR2が”High”になると、FD部で電源電圧Vccにリセットされ、出力信号
OUT2もリセットレベルになる。そして、リセット信号φR2が”Low”になった後
、転送信号φTxが”High”になり、フォトダイオードPDに蓄積された電荷がFD
部に転送され、出力信号OUT2が電荷量に応じて変化し始め、安定する。そして、転送
信号φTxが”Low”になり、画素から垂直信号線VLINE2に読み出される出力信
号OUT2の信号レベルが確定する。そして、垂直信号線VLINE2に読み出された各
画素の出力信号OUT2は、不図示の水平出力回路に行毎に一時的に保持された後、撮像
素子21から出力される。このようにして、撮像素子21の下部光電変換層32の各画素
から信号が読み出される。
【0021】
また、上部光電変換層31に係る回路の動作について説明する。まず、選択信号φSE
L1が”High”になると、選択トランジスタSEL1がオンする。次にリセット信号
φR1が”High”になり、出力信号OUT1もリセットレベルになる。そして、リセ
ット信号φR1が”Low”になった直後から有機光電膜による受光部PCの電荷蓄積が
開始され、電荷量に応じて出力信号OUT1が変化する。そして、出力信号OUT1が不
図示の水平出力回路に行毎に一時的に保持された後、撮像素子21から出力される。この
ようにして、撮像素子21の上部光電変換層31の各画素から信号が読み出される。
【0022】
<ダイナミックレンジ拡大処理>
本実施形態のデジタルカメラ1では、撮像素子21の上部光電変換層31から出力され
る画像信号と下部光電変換層32から出力される画像信号とを合成して、ダイナミックレ
ンジを拡大した画像を生成するダイナミックレンジ拡大処理を行うようになっている。以
下、このダイナミックレンジ拡大処理について説明する。
【0023】
撮像素子21では、入射光を電気信号に変換する感度(受光感度)が上部光電変換層3
1の画素と下部光電変換層32の画素とで異なっている。本実施形態では、上部光電変換
層31の画素の感度の方が下部光電変換層32の画素の感度よりも高い。これは、上部光
電変換層31が受光するCyMgYeの方が下部光電変換層32が受光するRGBに比べ
て波長範囲が広いことと、上部光電変換層31の方が下部光電変換層32に比べて光学的
なケラレ等が少なくなるため、集光が有利であることが理由である。したがって、下部光
電変換層32からは比較的低感度で撮像された画像(低感度画像)が出力され、上部光電
変換層31からは比較的高感度で撮像された画像(高感度画像)が出力される。
【0024】
図6(a)は、上部光電変換層31および下部光電変換層32のそれぞれの画素におけ
る受光量とデジタル出力値との関係を示すグラフである。
図6(a)において、線L1は
、上部光電変換層31の画素における受光量とデジタル出力値との関係を示す。線L2は
、下部光電変換層32の画素における受光量とデジタル出力値との関係を示す。上部光電
変換層31の画素は下部光電変換層32の画素よりも高感度なので、同じ受光量において
、上部光電変換層31の画素の出力値は下部光電変換層32の画素の出力値よりも大きく
なっている。また、受光量がPm以下の範囲では、上部光電変換層31の画素の出力値は
、受光量が大きくなるほどリニアに大きくなっている。そして、受光量がPm以上では、
上部光電変換層31の画素の出力値は飽和値Vmとなって一定となる。一方、受光量がP
mとなっても、下部光電変換層32の画素の出力値は飽和せず、受光量が大きくなるほど
リニアに大きくなっている。
【0025】
制御部11は、ユーザによりレリーズボタンが押下されると、上部光電変換層31およ
び下部光電変換層32に記録用の光電変換を同時に行わせ、バッファメモリ16にこれら
の出力信号を記憶させる。なお、本実施形態では、上部光電変換層31および下部光電変
換層32の露光時間は同じであるとする。画像処理部14は、バッファメモリ16に記憶
された上部光電変換層31の画素からの出力信号と下部光電変換層32の画素からの出力
信号とを組み合わせることで、ダイナミックレンジを拡大した1枚の画像を生成する。
【0026】
図6(b)は、画素の受光量とダイナミックレンジ拡大後の画素値との関係を説明する
グラフである。
図6(b)において、線L3が画素の受光量とダイナミックレンジ拡大後
の画素値との関係を示す。ここでは、たとえば、飽和値Vmのたとえば70〜80%程度
の値が閾値Vtとして設定されるとする。上部光電変換層31の画素の出力値が閾値Vt
となる受光量をPtとする。下部光電変換層32の画素が同じ受光量Ptにおいて出力す
る出力値をVuとする。Vuは閾値Vtよりも低い値となる。画像処理部14は、上部光
電変換層31における出力値が閾値Vtよりも低い画素からの出力信号と、下部光電変換
層32における出力値がVuよりも高い画素からの出力信号とを用いて、ダイナミックレ
ンジを拡大した画像を生成する。すなわち、受光量がPtよりも小さい場合は上部光電変
換層31の出力信号が使用され、受光量がPtよりも大きい場合は下部光電変換層32の
出力信号が使用される。このとき画像処理部14は、下部光電変換層32の画素からの出
力信号については、出力値にVtとVuの差分値(Vt−Vu)を加算した後、上部光電
変換層31の画素からの出力信号と合成する。このように画像処理部14は、画像の暗い
部分については、高感度である上部光電変換層31の画素からの出力信号を用いるので黒
潰れの防止およびS/N比の向上を実現でき、画像の明るい部分については低感度である
下部光電変換層32の画素からの出力信号を用いるので飽和(白飛び)を防止でき、ダイ
ナミックレンジを拡大した画像を生成することができる。
【0027】
以上説明した実施形態によれば、次の作用効果が得られる。
デジタルカメラ1において、撮像素子21は上部光電変換層31と下部光電変換層32
とが積層されて配置されて構成され、画像処理部14は、画素の感度が異なる上部光電変
換層31と下部光電変換層32からの出力信号を合成して、ダイナミックレンジを拡大し
た画像を生成するようにした。本実施形態の撮像素子21では、上部光電変換層31を透
過した光を下部光電変換層32で受光するので、上述した従来の撮像素子のように1つの
画素の面積を開口面積の大きい受光素子と開口面積の小さい受光素子とで分割する場合に
比べて、入射光の利用効率を高くすることができる。ゆえに本実施形態では、撮像素子2
1を高感度にした場合でもノイズを減らすことができる。また、上部光電変換層31が従
来の撮像素子で必要であったカラーフィルターの代わりとなるため、カラーフィルターで
吸収されてしまっていた入射光を上部光電変換層31により有効に利用することができる
。
【0028】
(変形例1)
上述した実施形態では、画素の感度が互いに異なっている上部光電変換層31と下部光
電変換層32の画像信号を合成してダイナミックレンジを拡大した画像を生成する例につ
いて説明した。しかしながら、被写体によっては明るい箇所と暗い箇所の輝度差が大きく
、より拡大したダイナミックレンジが求められる場合がある。そこで、上部光電変換層3
1と下部光電変換層32について、さらに露光時間を変えるようにしてもよい。
【0029】
この場合、制御部11は、低感度である下部光電変換層32の画素の露光時間(電荷蓄
積時間)を、高感度である上部光電変換層31の画素の露光時間よりも短く設定する。こ
れにより、下部光電変換層32では上部光電変換層31よりも受光量が少なくなり、画像
の明るい部分については下部光電変換層32の画素においてより飽和しにくくなるので、
ダイナミックレンジの上限側を広げることができる。一方、上部光電変換層31では下部
光電変換層32よりも受光量が多くなり、画像の暗い部分については上部光電変換層31
の画素においてよりS/N比が向上するので、ダイナミックレンジの下限側を広げること
ができる。したがって、上部光電変換層31と下部光電変換層32とで、画素の感度に加
えて露光時間も異なることにより、画素の感度のみが異なる場合と比べて、よりダイナミ
ックレンジを拡大した画像を生成することができる。
【0030】
また、上部光電変換層31と下部光電変換層32とで画素の感度のみが異なる状態で(
すなわち露光時間は同一で)撮像した信号に基づいてダイナミックレンジ拡大処理を行う
モード(第1モード)と、画素の感度と露光時間の両方とも異なる状態で撮像した信号に
基づいてダイナミックレンジ拡大処理を行うモード(第2モード)とを切り替えるように
してもよい。
【0031】
第2モードは、第1モードよりもダイナミックレンジをより拡大することができるので
、輝度差の大きい被写体を撮影する際には、第1モードよりも第2モードの方が好ましい
と考えられる。しかし、第2モードでは、上部光電変換層31と下部光電変換層32の露
光開始時刻および露光終了時刻の少なくともいずれかを変えなければならないので、動き
が速い被写体に対しては上部光電変換層31と下部光電変換層32とで同時に露光開始お
よび露光終了できる第1モードの方が好ましいと考えられる。
【0032】
そこで、制御部11は、たとえば、デジタルカメラ1の撮影画面内を複数の領域に分割
して、それぞれの領域の輝度を不図示の測光センサにより検出する。検出した輝度の最大
値と最小値との差が大きい場合には、輝度差の大きい被写体であると考えられる。したが
って、制御部11は、当該検出した輝度の最大値と最小値との差が所定値よりも大きい場
合には第2モードに切り替え、所定値よりも小さい場合には第1モードに切り替えるよう
にしてもよい。
【0033】
また、制御部11は、たとえば、撮像素子21に所定のフレームレートで撮像を行わせ
、撮像素子21により撮像されたフレーム画像において隣接フレーム間の変化量を検出す
る。当該変化量が大きい場合には被写体の動きが速いと考えられる。そこで制御部11は
、当該変化量が所定値よりも大きい場合には第1モードに切り替え、所定値よりも小さい
場合には第2モードに切り替えるようにしてもよい。
【0034】
(変形例2)
上述した実施の形態では、上部光電変換層31の画素からの出力信号と下部光電変換層
32の画素からの出力信号とを合成してダイナミックレンジを拡大する例について説明し
た。しかしながら、上部光電変換層31の画素からの出力信号と下部光電変換層32の画
素からの出力信号とを加算した加算信号を生成し、この加算信号をさらに用いてダイナミ
ックレンジを拡大するようにしてもよい。
【0035】
たとえば、下部光電変換層32の画素からの出力信号と上記加算信号とを合成してダイ
ナミックレンジを拡大するようにしてもよい。この場合、画像処理部14は、画像の明る
い部分については下部光電変換層32の画素からの出力信号を使用し、画像の暗い部分に
ついては上記加算信号を使用して、ダイナミックレンジを拡大する。
【0036】
また、たとえば、上部光電変換層31の画素からの出力信号と下部光電変換層32の画
素からの出力信号と上記加算信号とを合成してダイナミックレンジを拡大するようにして
もよい。この場合、画像処理部14は、画像の明るい部分については下部光電変換層32
の画素からの出力信号を使用し、画像の中程度の明るさの部分については上部光電変換層
31の画素からの出力信号を使用し、画像の暗い部分については上記加算信号を使用して
、ダイナミックレンジを拡大する。
【0037】
(変形例3)
上述した実施の形態では、下部光電変換層32の画素が低感度であり、上部光電変換層
31の画素が高感度である例について説明したが、逆に下部光電変換層32の画素が高感
度であり、上部光電変換層31の画素が低感度であるようにしてもよい。
【0038】
(変形例4)
上述した実施の形態において説明した撮像素子21の画素配列は一例であり、他の画素
配列であってもよい。たとえば、上部光電変換層31にR、G、Bの光を光電変換する画
素を配置し、下部光電変換層32においてCy、Mg、Yeの光を光電変換するようにし
てもよい。
【0039】
(変形例5)
上述した実施の形態では、2層の光電変換層(上部光電変換層31および下部光電変換
層32)が積層された撮像素子21を用いてダイナミックレンジ拡大処理を行う例を説明
した。しかしながら、2層に限らず、3層以上の光電変換層が積層された撮像素子を用い
てダイナミックレンジ拡大処理を行うようにしてもよい。たとえば、高感度の画素を有す
る光電変換層と、中感度の画素を有する光電変換層と、低感度の画素を有する光電変換層
との3層の光電変換層を積層した撮像素子を設け、この撮像素子に撮像を行わせる。そし
て、画像の明るい部分については低感度の画素を有する光電変換層の出力信号を使用し、
画像の中程度の明るさの部分については中感度の画素を有する光電変換層の出力信号を使
用し、画像の暗い部分については高感度の画素を有する光電変換層の出力信号を使用して
、ダイナミックレンジを拡大する。
【0040】
上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定
されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の
範囲内に含まれる。