(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-05-20
(45)【発行日】2024-05-28
(54)【発明の名称】撮像装置
(51)【国際特許分類】
H04N 25/63 20230101AFI20240521BHJP
H04N 23/76 20230101ALI20240521BHJP
【FI】
H04N25/63
H04N23/76
(21)【出願番号】P 2019180782
(22)【出願日】2019-09-30
【審査請求日】2022-08-31
(73)【特許権者】
【識別番号】000004112
【氏名又は名称】株式会社ニコン
(74)【代理人】
【識別番号】100161207
【氏名又は名称】西澤 和純
(74)【代理人】
【識別番号】100140774
【氏名又は名称】大浪 一徳
(74)【代理人】
【識別番号】100175824
【氏名又は名称】小林 淳一
(72)【発明者】
【氏名】明賀 聖慈
(72)【発明者】
【氏名】佐藤 琢也
(72)【発明者】
【氏名】中村 文樹
(72)【発明者】
【氏名】山▲崎▼ 弘喜
(72)【発明者】
【氏名】神保 直樹
【審査官】三沢 岳志
(56)【参考文献】
【文献】特開2013-110566(JP,A)
【文献】特開平11-304134(JP,A)
【文献】特開2010-141583(JP,A)
【文献】特開2015-226135(JP,A)
【文献】特開2012-080500(JP,A)
【文献】特開2010-141738(JP,A)
【文献】特開2008-118293(JP,A)
【文献】特開2013-038497(JP,A)
【文献】特開2013-058856(JP,A)
【文献】特開2013-207610(JP,A)
【文献】特開2013-207631(JP,A)
【文献】特開2008-187255(JP,A)
【文献】特開2018-117290(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 25/63
H04N 23/76
(57)【特許請求の範囲】
【請求項1】
光電変換部で生成された電荷に基づく信号を出力する複数の画素を有する撮像部と、
前記複数
の画素のうち補正対象となる画素に対して、前記撮像部への光を遮光した状態
で前記光電変換部で生成された電荷に基づく第1信
号に基づいて
、前記撮像部への光が入射した状態で前記光電変換部で生成された電荷に基づく第2信号を補正する補正部と、
を備え、
前記第1信号は、第1の温度及び第1の期間において前記光電変換部で生成された電荷に基づいて、第1の感度において出力された信号であり、
前記第2信号は、
第2の温度及び第2の期間において前記光電変換部で生成された電荷に基づ
いて、第2の感度において出力された信号であ
り、
前記補正部は、前記第1信号へ、前記第1及び第2の温度と前記第1及び第2の期間と前記第1及び第2の感度と前記第2の期間内の異なる時刻における温度とに基づく値を乗じた後の前記第1信号を前記第2信号から減算する、
撮像装置。
【請求項2】
請求項
1に記載の撮像装置において、
前記補正部は、前記第2の温度が所定温度以上、及び前記第2の期間が所定期間以上の少なくとも一方である場合、前記第2信号を補正する撮像装置。
【請求項3】
請求項1
または請求項2に記載の撮像装置において、
前記補正部は、
前記複数
の画素の各々の
前記値を乗じた後の前記第1信号の平均値を前記第2信号から減算する撮像装置。
【請求項4】
請求項1から請求項
3までのいずれか一項に記載の撮像装置において、
前記補正部は、
前記複数の画素のうち、前記第1信号の値が所定範囲内となる
一部の画素を前記補正対象の画素として決定する撮像装置。
【請求項5】
請求項
4に記載の撮像装置において、
前記所定範囲は、前記撮像部への光を遮光した状態で前記撮像部から出力される前記第1信号の値の分布に基づいて決定される撮像装置。
【請求項6】
請求項1から請求項
5までのいずれか一項に記載の撮像装置において、
前記第1の温度、前記第1の期間、及び前記第1信号を記憶する記憶部を備える撮像装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置に関する。
【背景技術】
【0002】
一般に、電子カメラにおいて長秒時撮影を行うと、画像データに固定パターンノイズおよびランダムノイズが現れる。これらのノイズを除去する装置として、特許文献1の装置が知られている。しかし、従来の装置では、これらのノイズを十分に除去することができなかった。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【0004】
本発明の第1の態様によると、撮像装置は、光電変換部で生成された電荷に基づく信号を出力する複数の画素を有する撮像部と、前記複数の画素のうち補正対象となる画素に対して、前記撮像部への光を遮光した状態で前記光電変換部で生成された電荷に基づく第1信号に基づいて、前記撮像部への光が入射した状態で前記光電変換部で生成された電荷に基づく第2信号を補正する補正部と、を備え、前記第1信号は、第1の温度及び第1の期間において前記光電変換部で生成された電荷に基づいて、第1の感度において出力された信号であり、前記第2信号は、第2の温度及び第2の期間において前記光電変換部で生成された電荷に基づいて、第2の感度において出力された信号であり、前記補正部は、前記第1信号へ、前記第1及び第2の温度と前記第1及び第2の期間と前記第1及び第2の感度と前記第2の期間内の異なる時刻における温度とに基づく値を乗じた後の前記第1信号を前記第2信号から減算する。
【図面の簡単な説明】
【0005】
【
図1】第1の実施の形態に係る撮像装置の構成例を示す図である。
【
図2】第1の実施の形態に係る撮像素子の一部の構成例を示す図である。
【
図3】第1の実施の形態に係る撮像素子の各画素の暗電流のヒストグラムの一例を示す図である。
【
図4】第1の実施の形態に係る撮像素子の各画素の画素信号のヒストグラムの一例を示す図である。
【
図5】第1の実施の形態に係る撮像装置の動作例を示したフローチャートである。
【発明を実施するための形態】
【0006】
(第1の実施の形態)
図1は、第1の実施の形態に係る撮像装置の一例であるカメラ1の構成例を示す図である。カメラ1は、撮影光学系(結像光学系)2、撮像素子3、制御部4、メモリ5、表示部6、操作部7、及び温度検出部8を備える。撮影光学系2は、焦点調節レンズ(フォーカスレンズ)を含む複数のレンズ及び開口絞りを有し、撮像素子3に被写体像を結像する。なお、撮影光学系2は、カメラ1から着脱可能にしてもよい。
【0007】
撮像素子3は、CMOSイメージセンサやCCDイメージセンサ等の撮像素子である。撮像素子3は、撮影光学系2を通過した光束を受光し、撮影光学系2により形成される被写体像を撮像する。撮像素子3には、光電変換部を有する複数の画素が二次元状(行方向及び列方向)に配置される。光電変換部は、フォトダイオード(PD)によって構成される。
【0008】
画素には、入射した光のうち第1の波長域の光(赤(R)の光)を分光する特性を有するフィルタを有する画素(R画素)と、入射した光のうち第2の波長域の光(緑(G)の光)を分光する特性を有するフィルタを有する画素(G画素)と、入射した光のうち第3の波長域の光(青(B)の光)を分光する特性を有するフィルタを有する画素(B画素)とがある。R画素とG画素とB画素とは、ベイヤー配列に従って配置されている。撮像素子3は、受光した光を光電変換して信号(画素信号)を生成し、生成した信号を制御部4に出力する。
【0009】
メモリ5は、不揮発性の記憶媒体により構成される。メモリ5には、画像信号(画像データ)や制御プログラム等が記憶(記録)される。メモリ5へのデータの書き込みや、メモリ5からのデータの読み出しは、制御部4によって制御される。表示部6は、画像信号に基づく画像、シャッター速度や絞り値等の撮影に関する情報、及びメニュー画面等を表示する。操作部7は、レリーズボタン、電源スイッチ、各種モードを切り替えるためのスイッチなどの各種設定スイッチ等を含み、それぞれの操作に基づく信号を制御部4へ出力する。
【0010】
制御部4は、CPUやFPGA、ASIC等のプロセッサ、及びROMやRAM等のメモリにより構成され、制御プログラムに基づきカメラ1の各部を制御する。制御部4は、撮像素子3を制御する信号を撮像素子3に供給して、撮像素子3の動作を制御する。制御部4は、撮像素子3の光電変換部で電荷の蓄積が行われる期間(電荷蓄積期間)や、撮像素子3において画素信号を増幅する際のゲイン(増幅率)を制御する。制御部4は、静止画撮影や動画撮影を行う場合、表示部6に被写体のスルー画像(ライブビュー画像)を表示する場合に、撮像素子3に被写体像を撮像させて、各画素の画素信号を出力させる。制御部4は、各画素の画素信号を含む画像信号(画像データ)を、メモリ5に記憶させる。
【0011】
制御部4は、記憶部4aと処理部(補正部)4bを有する。記憶部4aには、後述するが、撮像素子3への光を遮光した状態で撮像を行って得られる画像信号(暗時画像信号)と、遮光状態で撮像を行った際の条件に関する情報(条件情報)とが記憶される。なお、これら暗時画像信号と条件情報とは、メモリ5に記憶するようにしてもよい。なお、後述する複数の演算式に関する情報は、記憶部4a(又はメモリ5)に記憶される。
【0012】
処理部4bは、後述するが、記憶部4aに記憶された暗時画像信号及び条件情報を用いて、被写体を撮像して得られた画像信号に対して暗電流成分を除去するための補正処理(以下、ノイズ補正処理と称する)を施す。処理部4bは、ノイズ補正処理後の画像信号に各種の画像処理を行って、静止画用の画像信号や動画用の画像信号を生成する。画像処理には、階調変換処理や色補間処理等の画像処理が含まれる。
【0013】
温度検出部8は、サーミスタや熱電対などの温度センサにより構成され、撮像素子3の温度を検出する。温度検出部8は、撮像素子3の温度に関する情報(温度情報)を生成し、生成した温度情報を制御部4に出力する。なお、温度検出部として、撮像素子3の温度を検出する回路を、撮像素子3の内部に設けてもよい。この場合、撮像素子3は、温度情報を生成して制御部4に出力する。
【0014】
図2は、第1の実施の形態に係る撮像素子の一部の構成例を示す図である。
図2は、撮像素子3に設けられた複数の画素10のうちの一部の画素10と、垂直制御部25と、水平制御部22とを示している。また、
図2では、列方向(垂直方向)及び列方向に交差する行方向(水平方向)に配置される複数の画素10のうち、列方向に配置された複数の画素列の2つの画素列の一部を示している。撮像素子3には、列方向、即ち垂直方向に並んだ複数の画素の列である画素列に対して、垂直信号線20が設けられる。垂直信号線20に対して不図示の電流源が設けられる。なお、他の画素列の構成も、
図2の画素列の構成と同様である。
【0015】
画素10は、光電変換部11と、転送部12と、フローティングディフュージョン(FD)13と、リセット部14と、増幅部15と、選択部16とを有する。光電変換部11は、フォトダイオードPDであり、入射した光を電荷に変換し、光電変換された電荷を蓄積する。転送部12は、信号TGにより制御されるトランジスタM1から構成され、光電変換部11で光電変換された電荷をFD13に転送する。トランジスタM1は、転送トランジスタである。FD13は、FD13に転送された電荷を蓄積(保持)する。
【0016】
増幅部15は、FD13に蓄積された電荷による信号を増幅して出力する。増幅部15は、ドレイン(端子)、ゲート(端子)、及びソース(端子)がそれぞれ、電源VDD、FD13、及び選択部16に接続されるトランジスタM3により構成される。増幅部15のソースは、選択部16を介して垂直信号線20に接続される。トランジスタM3は、増幅トランジスタである。
【0017】
リセット部14は、信号RSTにより制御されるトランジスタM2から構成され、FD13に蓄積された電荷を排出し、FD13の電圧(電位)をリセットする。トランジスタM2は、リセットトランジスタである。選択部16は、信号SELにより制御されるトランジスタM4から構成され、増幅部15と垂直信号線20とを電気的に接続又は切断する。選択部16のトランジスタM4は、オン状態の場合に、増幅部15からの信号を垂直信号線20に出力する。トランジスタM4は、選択トランジスタである。増幅部15と選択部16とは、光電変換部11により生成された電荷に基づく信号を生成し出力する出力部を構成する。
【0018】
上述のように、光電変換部11で光電変換された電荷は、転送部12によってFD13に転送される。FD13に転送された電荷に応じた信号(画素信号)が、垂直信号線20に出力される。画素10から出力される画素信号は、光電変換部11によって光電変換された電荷に基づいて生成されるアナログ信号である。
【0019】
垂直制御部25は、複数の画素列に対して共通に設けられる。垂直制御部25は、信号TG(
図2ではTG1、TG2)、信号RST(
図2ではRST1、RST2)、信号SEL(
図2ではSEL1、SEL2)を各画素に供給して、各画素の動作を制御する。垂直制御部25は、画素の各トランジスタのゲートに信号を供給して、トランジスタをオン状態(接続状態、導通状態、短絡状態)又はオフ状態(切断状態、非導通状態、開放状態、遮断状態)とする。
【0020】
水平制御部22は、アンプ部および信号処理部を含んで構成される。アンプ部は、垂直信号線20毎に設けられ、垂直信号線20を介して入力される画素信号を所定のゲイン(増幅率)で増幅する。この場合、アンプ部は、カメラ1が自動的に選択したISO感度、又はユーザが操作部7の操作によって選択したISO感度に応じてゲインを決定し、決定したゲインを画素信号に掛ける処理を行う。アンプ部は、増幅した画素信号を信号処理部に出力する。
【0021】
信号処理部は、アナログ/デジタル変換部(AD変換部)を有し、アンプ部から出力された画素信号をデジタル信号に変換する。なお、信号処理部は、アンプ部による増幅処理の代わりに、又は、それに加えて、選択されたISO感度に応じてゲインを決定し、決定したゲインを画素信号に掛ける処理を行うようにしてもよい。信号処理部は、画素信号に信号処理を行った後に、処理後の画素信号をカメラ1の制御部4に出力する。
水平制御部22により画素信号が増幅される際、画素信号に含まれる暗電流成分も、ISO感度に基づいて決定されるゲインで増幅される。このため、画素信号に含まれるノイズ成分の大きさは、カメラ1に設定されるISO感度に依存する。
【0022】
撮像素子3では暗電流が生じうるため、撮像素子3から出力される画素信号には、暗電流に起因する信号成分(暗電流成分)が含まれうる。画素信号のうち暗電流成分は、画素信号にとってノイズ成分となる。暗電流成分の大きさは、光電変換部11で電荷の蓄積が行われる電荷蓄積期間、光電変換部11で電荷の蓄積が行われる際の温度、及びISO感度などの撮像を行う際の条件(撮像条件)によって変化する。また、欠陥が形成された画素、例えば画素10の光電変換部11への異物元素等の混入により不純物準位等の欠陥因子が生じた画素10では、他の画素10と比較して暗電流が比較的多くなり、画素信号に混入する暗電流成分が大きくなる傾向がある。このような大きな暗電流成分が混入した画素信号を含む画像信号を用いて画像を表示すると、画像に暗電流に起因する欠陥が生じることになる。このような欠陥が形成された画素10や、このような欠陥が形成された画素10に起因する画像中の欠陥は、白点とも呼ばれる。長時間露光を行った場合や、撮像素子3の温度が高い場合に、画像に白点が顕著に表れる。
【0023】
本実施の形態に係る撮像素子3は、記録用や表示用の画像信号の生成に用いる画素信号を取得するための撮像動作(以下、本撮像と称する)と、本撮像により得られる画像信号の補正に用いる画素信号を取得するための撮像動作(以下、予備撮像と称する)とを行う。本実施の形態では、予備撮像は、カメラ1の出荷前の工程において、撮像素子3への光を遮光した状態で行われる。制御部4は、撮像素子3に予備撮像を行わせて、各画素10の画素信号を出力させる。この場合、光電変換部11には外部から光が入射しない状態となるため、画素10は、暗電流量に応じた画素信号を出力する。
【0024】
制御部4の処理部4bは、予備撮像を行って得られる各画素の画素信号に対して、後述する信号処理を行う。処理部4bは、信号処理後の各画素の画素信号を含む暗時画像信号、及び予備撮像を行った際の撮像条件に関する条件情報を、記憶部4a(又はメモリ5)に記憶させる。予備撮像時の条件情報には、予備撮像を行った際の撮像素子3の温度、電荷蓄積期間、及びISO感度に関する情報が含まれる。
【0025】
本撮像においては、撮像素子3は、撮影光学系2により形成された被写体像を撮像する。処理部4bは、撮像素子3から出力される各画素の画素信号を含む画像信号と、本撮像を行った際の撮像条件に関する条件情報とを、メモリ5に記憶させる。本撮像時の条件情報には、本撮像を行った際の撮像素子3の温度、電荷蓄積期間、及びISO感度に関する情報が含まれる。なお、本撮像時の画像信号および本撮像時の条件情報を、記憶部4aに記憶するようにしてもよい。
【0026】
処理部4bは、本撮像により得られた画像信号に対して、ノイズ補正処理を行う。具体的には、処理部4bは、予備撮像により得られた暗時画像信号と、予備撮像時の条件情報と、本撮像時の条件情報とに基づいて、本撮像時に生じる暗電流量に応じた画像信号を推定する。本実施の形態では、処理部4bは、暗時画像信号に、予備撮像時および本撮像時の条件情報に基づいて決定したゲインを乗算することにより、本撮像時に生じる暗電流量に応じた画像信号を算出する。処理部4bは、算出した画像信号を、本撮像により得られた画像信号から減算する。処理部4bは、ゲインを乗じた予備撮像時の暗時画像信号を本撮像時の画像信号から減じることにより、本撮像時の画像信号に含まれる暗電流によるノイズ成分を低減することができる。
【0027】
存在する不純物や欠陥等の違いによって、各画素10の光電変換部11(又は光電変換部11を構成する材料と他の材料との界面)に生じる不純物準位に差異が生じる。画素10の光電変換部11に金属が混入して不純物準位が形成された画素10では、その不純物準位に起因して暗電流量が大きくなる傾向がある。このため、撮像素子3には、暗電流が比較的少ない画素10と、暗電流が比較的多い画素10とがある場合がある。一般的に、暗電流が比較的少ない画素10から出力される画素信号に対してノイズ補正処理を行うと、画素信号に含まれるノイズ成分が増加してしまうおそれがある。画素信号に含まれるランダムノイズが増加して画質が劣化したり、画像信号の各色成分(R成分、G成分、およびB成分)の比が変化して画像に色ずれが生じたりする場合がある。
【0028】
本実施の形態では、暗電流が比較的少ない画素の画素信号についてはノイズ補正処理を行わず、暗電流が比較的多い画素の画素信号についてノイズ補正処理を行う。なお、以下の説明では、撮像素子3に設けられた画素10のうち、暗電流が比較的多い画素10を補正対象画素と称し、暗電流が比較的少ない画素10を通常画素と称する。
【0029】
通常画素の暗電流値DC’[e-]は、次式(1)で表すことができる。
DC’=DC×{exp[-(q/k×Ea_d)/Temp_d]/exp[-(q/k×Ea_d)/Temp_st)]}×Time_d
=DC×exp[(q/k×Ea_d)×(1/Temp_st-1/Temp_d)]×Time_d …(1)
補正対象画素の暗電流値DC_h’[e-]は、次式(2)で表すことができる。
DC_h’=DC_h×exp[(q/k×Ea_h)×(1/Temp_st-1/Temp_d)]×Time_d …(2)
上述の式(1)において、DC[e-/s]は温度(絶対温度)がTemp_st[K]の場合の通常画素の暗電流値であり、Ea_d[eV]は通常画素の暗電流の活性化エネルギーである。上述の式(2)において、DC_h[e-/s]は温度がTemp_st[K]の場合の補正対象画素の暗電流値であり、Ea_h[eV]は補正対象画素の暗電流の活性化エネルギーである。また、qは素電荷(電荷素量)であり、kはボルツマン定数であり、Temp_dは予備撮像時の温度であり、Time_dは予備撮像時の電荷蓄積期間(露光時間)である。一般的に、撮像時の温度が高くなる程、また電荷蓄積期間が長くなる程、暗電流値が大きくなる。また、予備撮像時の温度Temp_dが高く、電荷蓄積期間Time_dが長くなるにつれて、通常画素の暗電流値DC’に比べて補正対象画素の暗電流値DC_h’の方がより大きくなり、暗電流値DC’と暗電流値DC_h’とが離れる。
【0030】
暗電流による電荷が画素に蓄積されるとその電荷に起因する暗電流ショットノイズが発生し、その値は暗電流[e
-]の平方根になる。電荷蓄積時間が数秒と長く、撮像素子の温度が室温より10℃以上高い時は、画素部で発生するランダムノイズにおいて暗電流ショットノイズ成分が支配的になる。このため、例えば通常画素の平均的な暗電流値がNであった場合ランダムノイズは(N)^0.5になり、複数の通常画素の信号の標準偏差を見るとその値は(N)^0.5になる。以後、この値を暗電流値の標準偏差とよぶ。各補正対象画素の暗電流値の標準偏差は、各補正対象画素の暗電流値の平均値の平方根で与えられる。各通常画素の暗電流値の標準偏差は、各通常画素の暗電流値の平均値の平方根で与えられる。また、予備撮像の場合に補正対象画素及び通常画素からそれぞれ出力される画素信号は、それぞれ、補正対象画素の暗電流値DC_h’、通常画素の暗電流値DC’に応じた値となる。このため、次式(3)で表される条件を満たす場合に、補正対象画素と通常画素とを識別することが可能となる。
DC’+b×sqrt(DC’)<DC_h’-b×sqrt(DC_h’) …(3)
上述の式(3)において、bは標準偏差の倍率である。倍率bは、使用する撮像素子等によって適宜選択すればよいが、例えば倍率b=3.5とした式(3)を満たすように温度Temp_d及び電荷蓄積期間Time_dを決定し、決定した温度Temp_d及び電荷蓄積期間Time_dにて予備撮像を行うことによって、補正対象画素の画素信号と通常画素の画素信号とを十分に区別することが可能となる。このような温度及び電荷蓄積期間の条件は、特定の温度依存性をもつ暗電流に起因する白点が多く発生する条件となる。このような条件で予備撮像を行った場合の撮像素子3の各画素の暗電流の分布は、
図3に示すようになる。
【0031】
図3は、第1の実施の形態に係る撮像素子の各画素の暗電流のヒストグラムの一例を示す図である。
図3において、横軸は暗電流の大きさを示し、縦軸は各暗電流値を示す画素の頻度(数)を示す。
図3に示す例では、通常画素の暗電流値のピーク値DC’と補正対象画素の暗電流値のピーク値DC_h’との差が大きく、式(3)においてb=3.5とした条件式、即ち、DC’+3.5×sqrt(DC’)<DC_h’-3.5×sqrt(DC_h’)を満たしている。このため、補正対象画素と通常画素とを識別することができる。
【0032】
図4は、第1の実施の形態に係る撮像素子の各画素の画素信号のヒストグラムの一例を示す図であり、予備撮像を行って得られる暗時画像信号に含まれる各画素の画素信号のヒストグラムを示している。
図4において、横軸は画素信号の信号レベルを示し、縦軸は各信号レベルに応じた画素信号の頻度を示す。
図4(a)は、後述するクリップ処理前の各画素の画素信号のヒストグラムを示し、
図4(b)は、クリップ処理後の各画素の画素信号のヒストグラムを示している。
【0033】
処理部4bは、
図4(a)に示すように、補正対象画素を決定するための第1の閾値Thre_d1及び第2の閾値Thre_d2を設定する。第1の閾値Thre_d1及び第2の閾値Thre_d2は、暗時画像信号に含まれる各画素の画素信号の値の分布に基づいて決定される。本実施の形態では、処理部4bは、次式(4)、(5)を用いて、それぞれ第1の閾値Thre_d1、第2の閾値Thre_d2を算出する。
Thre_d1=Thre_st1×G_Temp1×(Time_d/Time_st)×(2
(SV_d-SV_st)) …(4)
Thre_d2=Thre_st2×G_Temp1×(Time_d/Time_st)×(2
(SV_d-SV_st)) …(5)
上述の式(4)、(5)において、閾値Thre_st1及び閾値Thre_st2は、それぞれ、補正対象画素の画素信号と通常画素の画素信号とが完全に分離される条件(温度Temp_st、ISO感度SV_st、及び電荷蓄積期間Time_st)の場合の第1の閾値、第2の閾値である。閾値Thre_st1及び閾値Thre_st2は、予備撮像の前に、予めシミュレーションや実験等により求められる。SV_dは、予備撮像時のISO感度である。また、G_Temp1は、次式(6)で表されるパラメータである。
G_Temp1=exp[(q/k×Ea_d)×(1/Temp_st-1/Temp_d)] …(6)
【0034】
処理部4bは、予備撮像を行って得られる各画素の画素信号と、第1の閾値Thre_d1及び第2の閾値Thre_d2とに基づき、各々の画素が補正対象画素であるか否かを判定する。処理部4bは、各画素の画素信号のうち、第1の閾値Thre_d1から第2の閾値Thre_d2までの間の信号レベルとなる画素信号を、補正対象画素の画素信号と決定する。処理部4bは、第1の閾値Thre_d1以下となる画素信号および第2の閾値Thre_d2以上となる画素信号を、通常画素の画素信号と決定する。
【0035】
処理部4bは、通常画素の画素信号の値(信号レベル)を、所定の値(例えば0)に置き換える処理(クリップ処理)を行う。これにより、
図4(b)に示すように、信号レベルが第1の閾値Thre_d1以下、又は、第2の閾値Thre_d2以上である画素信号の頻度(数)は、0となる。また、処理部4bは、第1の閾値Thre_d1から第2の閾値Thre_d2までの範囲内の画素信号については、その画素信号の値を保持する。処理部4bは、クリップ処理後の各画素の画素信号を含む暗時画像信号を、記憶部4aに記憶させる。また、処理部4bは、予備撮像時に温度検出部8から出力される温度情報を、予備撮像時の撮像素子3の温度Temp_dに関する情報として取得する。処理部4bは、予備撮像時の温度情報、電荷蓄積期間Time_dに関する情報、及びISO感度SV_dに関する情報を、予備撮像時の条件情報として、記憶部4aに記憶させる。
【0036】
本撮像が行われると、処理部4bは、本撮像を行って得られる各画素の画素信号を含む画像信号を、メモリ5に記憶させる。また、処理部4bは、本撮像時に温度検出部8から出力される温度情報を、本撮像時の撮像素子3の温度Temp_hに関する情報として取得する。処理部4bは、本撮像時の温度情報、電荷蓄積期間Time_hに関する情報、及びISO感度SV_hに関する情報を、本撮像時の条件情報として、メモリ5に記憶させる。
【0037】
処理部4bは、予備撮像時および本撮像時の条件情報と次式(7)に基づいて、ゲインGを算出する。
G=G_adj×G_Temp2×(Time_h/Time_d)×(2(SV_h-SV_d)) …(7)
なお、式(7)において、G_adjは、調整用ゲインであり、予め実験やシミュレーションにより求められる。G_Temp2は、次式(8)で表されるパラメータである。
G_Temp2=exp[(q/k×Ea_h)×(1/Temp_st-1/Temp_h)] …(8)
【0038】
処理部4bは、記憶部4aに記憶されたクリップ処理後の暗時画像信号に、算出されたゲインGを乗算することによって、本撮像時に生じる暗電流量に応じた画像信号を求める。処理部4bは、ゲインGの乗算後の暗時画像信号を、メモリ5に記憶された本撮像時の画像信号から減算する。これにより、本撮像時の画像信号に含まれる暗電流によるノイズ成分を低減することができる。
【0039】
本実施の形態では、本撮像前に取得された暗時画像信号に基づいて、本撮像により得られる画像信号にノイズ補正処理を行う。このため、本撮像後に撮像素子を遮光した状態で撮像を行って暗時画像信号を取得し、その暗時画像信号と本撮像時の画像信号との差分を求める場合と比較して、本撮像を行ってノイズ補正処理後の画像信号を得るまでの時間を短縮することができる。本実施の形態では、実際に撮影を行う場合の撮像動作は1回となり、また、撮影毎に暗時画像信号を取得する必要はないため、撮影に要する時間を短縮することができる。また、本実施の形態では、本撮像後に撮像素子3への光を遮光するための遮光要素(メカシャッターやレンズ内絞り切り機構等)をカメラ1に設ける必要がなく、カメラ1の大型化やコストの増加を防ぐことができる。
【0040】
また、処理部4bは、予備撮像時および本撮像時の条件情報と、暗時画像信号とに基づき、本撮像時の暗電流量に応じた画像信号を算出する。このため、予備撮像時と本撮像時とで撮像条件(温度、露光時間(電荷蓄積期間)、ISO感度)が異なる場合であっても、本撮像時の暗電流量に応じた画像信号を精度良く求めることができる。処理部4bは、電荷蓄積期間だけでなく、温度及びISO感度を考慮して本撮像時に生じる暗電流量に応じた画像信号を推定し、本撮像時の画像信号に対して補正処理を行う。この結果、処理部4bは、ノイズ補正処理の精度を向上させることができる。画像に生じる白点を減少させて、画質を向上させることができる。
【0041】
また、上述のように、クリップ処理後の暗時画像信号に含まれる画素信号のうち通常画素の画素信号の値は0であるため、ゲインGの乗算後の暗時画像信号に含まれる通常画素の画素信号の値は0となる。処理部4bが上述の減算を行うことによって、本撮像時の画像信号のうち、補正対象画素の画素信号は補正されるが、通常画素の画素信号は補正されない。このように、処理部4bは、本撮像時の画像信号を部分的(局所的)に補正することができる。このため、通常画素の画素信号に含まれるノイズ成分が増加することや、色ずれが生じることを抑制することができる。また、暗時画像信号に含まれる通常画素の画素信号の値は0となるため、記憶部4a(又はメモリ5)に記憶されるデータ量を低減することができる。
【0042】
図5は、第1の実施の形態に係るカメラ1の動作の一例を示したフローチャートである。
図5に示す処理は、例えばユーザによりレリーズボタンが操作されて本撮像の指示が行われた場合に実行される。
【0043】
ステップS100において、制御部4は、被写体からの光が撮像素子3に入射する状態で、撮像素子3に被写体像を撮像させて、各画素の画素信号を出力させる。ステップS110において、制御部4は、撮像素子3から出力された各画素の画素信号を含む画像信号を、メモリ5に記憶させる。また、制御部4は、本撮像時の電荷蓄積期間Time_hに関する情報と、本撮像時の撮像素子3の温度Temp_hに関する温度情報と、本撮像時のISO感度SV_hに関する情報とを含む条件情報を、メモリ5に記憶させる。
【0044】
ステップS120では、制御部4は、本撮像時の電荷蓄積期間Time_hが所定時間以上であるか否かを判定する。また、制御部4は、本撮像時の撮像素子3の温度Temp_hが所定温度以上であるか否かを判定する。制御部4は、電荷蓄積期間Time_hが所定時間以上であり、かつ温度Temp_hが所定温度以上であると判定すると、ステップS130へ進む。なお、ステップS120で否定判定された場合には、本撮像時の画像信号に対してノイズ補正処理は行われない。
【0045】
ステップS130において、制御部4は、予備撮像時および本撮像時の条件情報と、上述した式(7)とに基づき、ゲインGを算出する。ステップS140において、制御部4は、記憶部4aに記憶されたクリップ処理後の暗時画像信号に、算出したゲインGを乗算する。ステップS150では、制御部4は、本撮像時の画像信号から、ゲインGが乗算された暗時画像信号を減算する。これにより、本撮像時の画像信号から暗電流によるノイズ成分を取り除くことができる。制御部4は、減算後の本撮像時の画像信号をメモリ5に記憶させる。
【0046】
上述のように、制御部4は、電荷蓄積期間が所定時間以上であり、かつ温度が所定温度以上である場合、即ち画像信号に含まれる暗電流成分が多いと想定される場合に、本撮像時の画像信号に対してノイズ補正処理を行う。このため、電荷蓄積期間が所定時間より短い、又は温度が所定温度よりも低い場合、即ち画像信号に含まれる暗電流成分が少ないと想定される場合にノイズ補正処理を行って、ノイズ成分が増加することや色ずれが生じることを防ぐことができる。
【0047】
上述した実施の形態によれば、次の作用効果が得られる。
(1)撮像装置(カメラ1)は、光電変換部11で生成された電荷に基づく信号を出力する画素10を有する撮像部(撮像素子3)と、撮像部への光を遮光した状態で第1の温度及び第1の期間において光電変換部11で生成された電荷に基づく第1信号と、第1の温度と第1の期間とに基づいて、撮像部へ光が入射した状態で光電変換部11で生成された電荷に基づく第2信号を補正する補正部(処理部4b)と、を備える。本実施の形態では、処理部4bは、予備撮像により得られた暗時画像信号と予備撮像時の条件情報とに基づいて、本撮像時の画像信号を補正する。このため、本撮像時の画像信号に含まれる暗電流成分を低減することができ、画像の画質低下を抑制することができる。
(2)処理部4bは、予備撮像時の撮像素子3の温度及び電荷蓄積期間に基づいて、本撮像時に生じる暗電流量に応じた画像信号を算出して、本撮像時の画像信号に対するノイズ補正処理を行う。このため、ノイズ補正処理の精度を向上させることができる。
【0048】
次のような変形も本発明の範囲内であり、変形例の一つ、もしくは複数を上述の実施形態と組み合わせることも可能である。
【0049】
(変形例1)
暗時画像信号に含まれるノイズ成分が大きく、本撮像時の画像信号に含まれるノイズ成分が小さい場合は、ノイズ補正処理の精度が低下する場合がある。そこで、本変形例では、制御部4は、予備撮像を複数回行って、複数の暗時画像信号を取得し、複数の暗時画像信号を加算平均する。制御部4は、加算平均された暗時画像信号に対してクリップ処理を行い、クリップ処理後の暗時画像信号を記憶部4a(又はメモリ5)に記憶する。このため、制御部4は、加算平均された暗時画像信号を用いて、本撮像時の画像信号のノイズ補正処理を行うことが可能となり、ノイズ補正処理の精度が低下することを抑制できる。なお、クリップ処理後の暗時画像信号は信号の値が0の画素信号を多く含むため、制御部4は、クリップ処理後の暗時画像信号に対してハフマン圧縮(ハフマン符号化)を行って、圧縮後の暗時画像信号を記憶部4aに記憶させてもよい。
【0050】
(変形例2)
本撮像時に撮像素子3の温度が変化した場合に、ゲインGに誤差が生じる場合がある。そこで、本変形例では、制御部4は、本撮像時の電荷蓄積期間の間に繰り返し検出された複数の温度情報を、温度検出部8から取得する。制御部4は、上述した式(7)の代わりに、次式(9)を用いて、ゲインGを算出する。
G=G_adj×2(SV_h-SV_d))×1/Time_d×Σ(G_Temp’×Δt) …(9)
式(9)において、Δtは温度検出部8が温度を検出する時間間隔であり、ΣΔt=Time_hとなる。また、G_Temp’は、次式(10)で表されるパラメータである。
G_Temp’=exp[(q/k×Ea_h)×(1/Temp_d-1/Temp_h’)] …(10)
式(10)において、Temp_h’は、温度情報によって把握される各時刻における撮像素子3の温度である。
制御部4は、本撮像時の電荷蓄積期間における撮像素子3の温度を考慮してゲインGを算出して、本撮像時の画像信号に対してノイズ補正処理を行う。このため、ノイズ補正処理を精度良く行うことができる。
【0051】
(変形例3)
上述した実施の形態では、カメラ1の出荷前の工程において、暗時画像信号を取得する例について説明した。しかし、カメラ1の出荷後の工程において、暗時画像信号を取得可能としてもよい。暗時画像信号の更新を行い、最新の暗時画像信号を用いてノイズ補正処理を行うことにより、ノイズ補正処理の精度を向上させることができる。
【0052】
また、撮像素子3では撮像素子3の製造後に欠陥画素が生じる場合があり、制御部4は、画素10への光が遮光された状態で各画素から出力される画素信号に基づいて、欠陥画素の検出を行うようにしてもよい。制御部4は、この欠陥画素の検出を行う場合に、暗時画像信号の取得を行ってもよい。また、制御部4は、カメラ1の電池の残量に基づいて、暗時画像信号の取得を行うか否かを決定してもよい。制御部4は、カメラ1の電池の残量が少なくなったことを検出した場合は、暗時画像信号の取得を行わないようにしてもよい。
【0053】
(変形例4)
画像信号に含まれる各画素の画素信号のうち、一部の画素信号のみについてノイズ補正処理を行うようにしてもよい。制御部4は、本撮像時の画像信号に含まれる画素信号のうち、画像を表示した場合にノイズが目立ちやすいところのみノイズ補正処理を行うようにしてもよい。
【0054】
(変形例5)
上述した実施の形態では、補正対象画素の画素信号の減算処理を行う例について説明した。しかし、制御部4は、本撮像時の補正対象画素の画素信号を、その補正対象画素の周辺画素の画素信号を用いて補間する処理を行ってもよい。この場合、制御部4は、補正対象画素の画素信号を、その補正対象画素の周辺の複数(例えば8つ)の同色画素の画素信号の平均値に置き換えてもよい。また、制御部4は、補正対象画素の周辺の8つの同色画素の画素信号のうち、信号レベルが上位4番目の画素信号を用いて、その補正対象画素の画素信号を補間してもよい。
【0055】
(変形例6)
制御部4は、暗時画像信号に含まれる補正対象画素の画素信号の平均値を算出し、算出した平均値を、本撮像時の画像信号に含まれる複数の補正対象画素の画素信号それぞれから減算するようにしてもよい。前述したように補正対象画素の画素信号には補正対象画素の平均的な暗電流[e-]の平方根の暗電流ショットノイズによるランダムノイズ成分が含まれており、固定値で減算することにより、ランダム性質同士の減算によるランダムノイズの増加を防ぐことができる。
【0056】
(変形例7)
制御部4は、クリップ処理前の暗時画像信号を用いて、ダークシェーディング補正を行うようにしてもよい。この場合、予備撮像が行われた後、制御部4は、クリップ処理前の暗時画像信号を記憶部4a(又はメモリ5)に記憶させる。制御部4は、本撮像時の画像信号から、クリップ処理前の暗時画像信号を減算する。
また、制御部4は、暗時画像信号に含まれる各画素の画素信号を、画像内の複数の領域毎に分割し、分割された各領域の画素信号の平均値または中央値を、記憶部4aに記憶してもよい。記憶部4aには、分割された各領域の画素信号の平均値または中央値からなる暗時画像信号が記憶されるため、記憶部4aに記憶されるデータ量を低減することができる。制御部4は、分割された各領域の画素信号の平均値からなる暗時画像信号をもとの画像サイズに復元するためにガウシアンフィルタ等による平滑化処理を行った後、処理後の暗時画像信号を、本撮像時の画像信号から減算する。また、分割しない場合に対しても高周波成分を除去する目的で、ガウシアンフィルタ等による平滑化処理を行って減算してもよい。本変形例では、本撮像時の画像信号に対してダークシェーディング補正が行われて、画像信号のノイズ成分を低減することができる。
【0057】
なお、制御部4は、分割された各領域の画素信号の平均値からなる暗時画像信号に、上述したような不純物混入に起因する比較的大きな暗電流量ではなく通常の暗電流量、例えば通常画素で生じる暗電流量に応じたゲインG’を乗算し、ゲインG’の乗算後の暗時画像信号を、本撮像時の画像信号から減算するようにしてもよい。これにより、本撮像時の画像信号に含まれる暗電流成分を低減することができる。なお、ゲインG’は、上述したゲインGとは異なる値であり、予めシミュレーションや実験等により求められる。
【0058】
(変形例8)
上述した実施の形態では、制御部4は、電荷蓄積期間が所定時間以上であり、かつ温度が所定温度以上である場合に、本撮像時の画像信号に対してノイズ補正処理を行う例について説明した。しかし、制御部4は、本撮像時の電荷蓄積期間が所定時間以上、及び温度が所定温度以上の少なくとも一方である場合に、本撮像時の画像信号に対してノイズ補正処理を行うようにしてもよい。
【0059】
(変形例9)
上述した実施の形態および変形例では、光電変換部としてフォトダイオードを用いる例について説明した。しかし、光電変換部として光電変換膜(有機光電膜)を用いるようにしてもよい。
【0060】
(変形例10)
上述の実施の形態及び変形例で説明した撮像素子及び撮像装置は、カメラ、スマートフォン、タブレット、PCに内蔵のカメラ、車載カメラ、無人航空機(ドローン、ラジコン機等)に搭載されるカメラ等に適用されてもよい。
【0061】
上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
【符号の説明】
【0062】
1…撮像装置、3…撮像素子、4…制御部、4a…記憶部、4b…処理部(補正部)、5…メモリ、10…画素