(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024141221
(43)【公開日】2024-10-10
(54)【発明の名称】撮像素子および撮像装置
(51)【国際特許分類】
H04N 25/77 20230101AFI20241003BHJP
H04N 25/704 20230101ALI20241003BHJP
H04N 25/702 20230101ALI20241003BHJP
【FI】
H04N25/77
H04N25/704
H04N25/702
【審査請求】未請求
【請求項の数】15
【出願形態】OL
(21)【出願番号】P 2023052740
(22)【出願日】2023-03-29
(71)【出願人】
【識別番号】000004112
【氏名又は名称】株式会社ニコン
(74)【代理人】
【識別番号】100161207
【弁理士】
【氏名又は名称】西澤 和純
(74)【代理人】
【識別番号】100140774
【弁理士】
【氏名又は名称】大浪 一徳
(74)【代理人】
【識別番号】100175824
【弁理士】
【氏名又は名称】小林 淳一
(72)【発明者】
【氏名】山▲崎▼ 弘喜
(72)【発明者】
【氏名】森岡 優
(72)【発明者】
【氏名】東川 哲之
【テーマコード(参考)】
5C024
【Fターム(参考)】
5C024CY17
5C024EX12
5C024EX43
5C024EX52
5C024GX03
5C024GX16
5C024GX18
5C024GY39
5C024GY41
(57)【要約】 (修正有)
【課題】位相差検出画素を備えた撮像素子であって、焦点検出の精度が向上した撮像素子を提供する。
【解決手段】撮像素子が備える画素アレイは、撮像画素Pi及び遮光画素Psを含み、マイクロレンズを透過した光を電荷に変換する第2光電変換部(フォトダイオードPDs)と、マイクロレンズを透過した光を電荷に変換する第1光電変換部(フォトダイオードPDi)と、マイクロレンズと第2光電変換部との間に設けられる遮光部(黒色のカラーフィルタや遮光膜)と、第2光電変換部と第1光電変換部とを接続可能な接続部(PD転送トランジスタT6-2)と、第2光電変換部の電荷に基づく信号を出力する出力部(転送トランジスタT1-2及びフローティングディフュージョンFDs)と、を備える。
【選択図】
図4
【特許請求の範囲】
【請求項1】
マイクロレンズを透過した光を電荷に変換する第1光電変換部と、
前記マイクロレンズを透過した光を電荷に変換する第2光電変換部と、
前記マイクロレンズと前記第1光電変換部との間に設けられる遮光部と、
前記第1光電変換部と前記第2光電変換部とを接続可能な接続部と、
前記第1光電変換部の電荷に基づく信号を出力する出力部と、
を備える撮像素子。
【請求項2】
前記第1光電変換部の電荷を排出する排出部を備える、
請求項1に記載の撮像素子。
【請求項3】
前記第1光電変換部は、前記接続部により前記第2光電変換部と接続され、前記第2光電変換部で変換された電荷を蓄積する、
請求項1に記載の撮像素子。
【請求項4】
前記出力部は、
前記第1光電変換部に蓄積された電荷を転送する転送部と、
前記転送部により転送された電荷を蓄積する蓄積部と、
を備える、
請求項1に記載の撮像素子。
【請求項5】
前記第1光電変換部と前記第2光電変換部とは、
前記光を受光する領域が同じ面積である、
請求項1に記載の撮像素子。
【請求項6】
前記第1光電変換部は、
2次元の行列状の有効画素領域内に複数配置される前記第2光電変換部の内、所定の箇所に配置された前記第2光電変換部を置き換えて配置される、
請求項1に記載の撮像素子。
【請求項7】
前記マイクロレンズは、
前記有効画素領域において行方向に隣接する前記第1光電変換部と前記第2光電変換部とで共用される、
請求項6に記載の撮像素子。
【請求項8】
前記第1光電変換部は、
前記有効画素領域において所定の行に配置された複数の前記第2光電変換部のそれぞれを置き換えて複数配置される、
請求項6に記載の撮像素子。
【請求項9】
前記第1光電変換部は、
前記有効画素領域の複数行に配置される、
請求項6に記載の撮像素子。
【請求項10】
前記第1光電変換部は、
緑色以外のカラーフィルタが形成された画素と置き換えて配置され、
前記第2光電変換部は、
緑色のカラーフィルタが形成された画素として配置される、
請求項1に記載の撮像素子。
【請求項11】
請求項1から請求項10のうちいずれか1項に記載の撮像素子と、
前記接続部により前記第1光電変換部と前記第2光電変換部とを接続状態にし、前記第2光電変換部で変換された電荷を前記第1光電変換部に蓄積させる第1動作、または前記接続部により前記第1光電変換部と前記第2光電変換部とを非接続状態にさせる第2動作で前記撮像素子の駆動を制御する制御部と、
を備える撮像装置。
【請求項12】
前記制御部は、
前記第1光電変換部と前記第2光電変換部とに蓄積された電荷に応じた電気信号を画素信号として出力させる、
請求項11に記載の撮像装置。
【請求項13】
前記第1動作によって出力された前記画素信号に含まれる前記第1光電変換部に対応する前記画素信号である第1画素信号に基づいた第1処理、または前記第2動作によって出力された前記画素信号に含まれる前記第1光電変換部に対応する前記画素信号である第2画素信号に基づいた第2処理を行う画処理部、をさらに備える、
請求項12に記載の撮像装置。
【請求項14】
前記第1処理は、
2次元の行列状の有効画素領域内の異なる行に配置されたそれぞれの前記第1光電変換部に対応する前記第1画素信号に基づいて、レンズ部が備える焦点位置を調整するための処理であり、
前記第2処理は、
前記有効画素領域内のそれぞれの前記第1光電変換部に対応する前記第2画素信号に基づいて、前記第2動作によって出力された前記有効画素領域内のそれぞれの前記第2光電変換部に対応する前記画素信号に基づいて生成した第1画像における暗部の明るさのムラを補正する処理である、
請求項13に記載の撮像装置。
【請求項15】
前記画処理部は、
前記第1処理において、それぞれの前記第1画素信号の位相差に基づいて、前記第1動作によって出力された前記有効画素領域内のそれぞれの前記第2光電変換部に対応する前記画素信号に基づいて生成した第2画像における合焦度合いを求め、求めた前記合焦度合いを表す情報を、前記レンズ部を制御するレンズ制御部に出力し、
前記第2処理において、前記有効画素領域内のそれぞれの前記第1光電変換部に対応する前記第2画素信号に基づいて第3画像を生成し、前記第1画像から前記第3画像を差し引いた第4画像を生成する、
請求項14に記載の撮像装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像素子および撮像装置に関する。
【背景技術】
【0002】
位相差検出画素を備えた撮像素子が知られている(例えば、特許文献1参照)。従来から、焦点検出の精度向上が求められている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【0004】
本発明の一態様に係る撮像素子は、マイクロレンズを透過した光を電荷に変換する第1光電変換部と、前記マイクロレンズを透過した光を電荷に変換する第2光電変換部と、前記マイクロレンズと前記1光電変換部との間に設けられる遮光部と、前記第1光電変換部と前記第2光電変換部とを接続可能な接続部と、前記第1光電変換部の電荷に基づく信号を出力する出力部と、を備える。
【0005】
本発明の一態様に係る撮像装置は、上記一態様の撮像素子と、前記接続部により前記第1光電変換部と前記第2光電変換部とを接続状態にし、前記第2光電変換部で変換された電荷を前記第1光電変換部に蓄積させる第1動作、または前記接続部により前記第1光電変換部と前記第2光電変換部とを非接続状態にさせる第2動作で前記撮像素子の駆動を制御する制御部と、を備える。
【図面の簡単な説明】
【0006】
【
図1】実施形態に係る撮像装置の概略構成を示すブロック図である。
【
図2】実施形態の撮像素子が備える画素アレイにおける画素の配置の一例を示す図である。
【
図3】実施形態の撮像素子が備える画素アレイの構造の一例を示す断面図である。
【
図4】実施形態の撮像素子が備える画素アレイに配置される画素の概略構成の一例を示す回路図である。
【
図5】実施形態の撮像装置の撮影動作における撮像素子の駆動シーケンスの概略を示すシーケンス図である。
【
図6】実施形態の撮像素子が備える画素アレイ内の遮光画素の駆動タイミングの一例を示すタイミングチャートである。
【
図7】実施形態の撮像素子が備える画素アレイ内の遮光画素を駆動タイミングで駆動した場合における電荷の移動と電気信号の出力の様子を模式的に示す図である。
【
図8】実施形態の撮像素子が備える画素アレイ内の遮光画素の駆動タイミングの一例を示すタイミングチャートである。
【
図9】実施形態の撮像素子から読み出した画素信号と生成する画像との関係の一例を模式的に示す図である。
【
図10】実施形態の撮像装置の撮影動作における撮像素子の別の駆動シーケンスの概略を示すシーケンス図である。
【
図11】実施形態の撮像素子が備える画素アレイ内の遮光画素の駆動タイミングの一例を示すタイミングチャートである。
【発明を実施するための形態】
【0007】
以下、本発明の実施形態について、図面を参照して説明する。
【0008】
図1は、実施形態に係る撮像装置の概略構成を示すブロック図である。撮像装置1は、例えば、レンズ部Lと、撮像素子10と、画像処理エンジン20と、レリーズボタンRと、開始ボタンBと、を備える。撮像装置1は、例えば、ミラーレスカメラなどのようなデジタルカメラである。撮像装置1は、撮像装置1の使用者(ユーザー)によるレリーズボタンRまたは開始ボタンBの操作に応じて、レンズ部Lを介して撮像素子10に入射した被写体の光(被写体光)を撮像した画像(動画像や静止画像)を生成する。
【0009】
レリーズボタンRは、撮像装置1のユーザーが静止画像の撮影を指示する操作部である。レリーズボタンRは、押下の度合いに応じて2段階で撮影の指示をする構成である。以下の説明においては、レリーズボタンRを1段階目まで押下する操作を「半押し」といい、2段階目まで押下する操作を「全押し」という。撮像装置1は、レリーズボタンRが半押しされると、静止画像を撮影するための撮影条件を決定し、レリーズボタンRが全押しされると、決定した撮影条件で撮影を行って静止画像を生成する。
【0010】
開始ボタンBは、撮像装置1のユーザーが動画像の撮影を指示する操作部である。撮像装置1は、動画像の生成をしていない状態で開始ボタンBが押下されると動画像の生成を開始し、動画像の生成をしている状態で開始ボタンBが押下されると動画像の生成を終了する。
【0011】
レンズ部Lは、被写体光を集光して透過させることにより、撮像素子10に被写体像を結像させる。レンズ部Lは、例えば、焦点距離を変更させるためのズーム機構、焦点位置(ピント)を調整するためのフォーカス機構、透過させる被写体光の光量を調整するための絞り機構などを備える。レンズ部Lが備えるそれぞれの機構の動作は、画像処理エンジン20によって制御される。レンズ部Lは、撮像装置1に対して容易に着脱可能な構成であってもよい。
【0012】
撮像素子10は、画像処理エンジン20からの制御に応じてレンズ部Lを介して入射した被写体光を露光し、露光した被写体光の光量を表す画素信号を画像処理エンジン20に出力する。撮像素子10は、例えば、画素アレイ11と、走査回路12と、アナログ・デジタル変換器(Analog Digital Converter:ADC)13と、出力部14と、温度センサ15と、を備える。
【0013】
画素アレイ11は、入射した被写体光を電気信号に光電変換する光電変換部を備える画素が、二次元の行列状に複数配置されている。画素アレイ11には、有効画素の領域内に、入射した被写体光の光量に応じた電気信号を出力する通常の画素(以下、「撮像画素」という)と、入射する被写体光が遮光された画素(以下、「遮光画素」という)とが配置されている。言い換えれば、画素アレイ11では、所定の位置(所定の箇所)に配置された撮像画素が遮光画素に置き換わっている。遮光画素は、像面位相差を利用した自動焦点(オートフォーカス:Auto Focus:AF)制御に用いられる位相差AF用の画素、あるいは撮像装置1が生成する画像における暗部の明るさのムラ(黒レベルのばらつき)を補正するダークシェーディング補正に用いられる暗部補正用の画素として機能する。画素アレイ11に配置されたそれぞれの画素は、走査回路12により駆動され、被写体光を光電変換した電気信号(アナログの電気信号)をADC13に出力する。
【0014】
走査回路12は、画像処理エンジン20により出力された制御信号に応じて、画素アレイ11に配置されたそれぞれの画素を駆動するための駆動信号を生成する。走査回路12は、生成した駆動信号を画素アレイ11に配置されたそれぞれの画素に出力する。走査回路12は、例えば、垂直走査回路と、水平走査回路とを備える。垂直走査回路は、画素アレイ11に配置されたそれぞれの画素を行(画素行)の単位で駆動する垂直駆動信号を生成し、被写体光を光電変換したアナログの電気信号を、画素行ごとに順次、それぞれの画素が対応する垂直信号線に出力させる。水平走査回路は、画素アレイ11に配置されたそれぞれの画素の列(画素列)の単位で駆動する水平駆動信号を生成し、垂直駆動信号に従って対応する垂直信号線に出力されたそれぞれの画素行のアナログの電気信号を、画素列ごとに順次、つまり、画素ごとに順次、ADC13に出力させる。
【0015】
ADC13は、画素アレイ11に配置されたそれぞれの画素から順次出力されたアナログの電気信号を、デジタルの電気信号に変換する。ADC13は、変換したデジタルの電気信号を、出力部14に順次出力する。
【0016】
出力部14は、ADC13により出力されたデジタルの電気信号を、撮像素子10が撮像した画素信号として、画像処理エンジン20に出力する。出力部14は、例えば、アンプ回路を備える。
【0017】
温度センサ15は、撮像素子10(特に、画素アレイ11に配置されたそれぞれの画素)が動作しているときの温度を計測する。温度センサ15は、計測した撮像素子10の温度を表す情報を、画像処理エンジン20に出力する。
【0018】
撮像素子10の構成は、
図1に示した構成に限定されない。つまり、
図1に示す撮像素子10の構成はあくまで一例であり、構成要素の一部が省略されてもよいし、さらに別の構成要素が追加されてもよい。例えば、
図1に示す撮像素子10から温度センサ15が省略されてもよいし、電気信号に含まれるノイズを抑圧する相関二重サンプリング(Correlated Double Sampling:CDS)回路などのノイズ抑圧処理回路をさらに備えてもよい。CDS回路は、例えば、画素アレイ11とADC13との間の位置に配置されてもよい。この場合、画素アレイ11により出力されたそれぞれのアナログの電気信号は、CDS回路を介してADC13に出力され、ADC13は、CDS回路によってノイズ抑圧処理がされたアナログの電気信号をデジタルの電気信号に変換して出力部14にする。CDS回路は、例えば、ADC13と出力部14との間の位置に配置されてもよい。この場合、ADC13により出力されたそれぞれのデジタルの電気信号は、CDS回路を介して出力部14に出力され、出力部14は、CDS回路によってノイズ抑圧処理がされたデジタルの電気信号を画素信号として、画像処理エンジン20に出力する。
【0019】
<撮像素子の構成>
ここで、画素アレイ11における画素の配置、および画素の構成の一例について説明する。
図2は、実施形態の撮像素子10が備える画素アレイ11における画素の配置の一例を示す図である。
【0020】
図2には、画素が10行、12列に配置された画素アレイ11の一例を示している。画素アレイ11において、それぞれの撮像画素Piには、赤色(R)、緑色(G)、あるいは青色(B)の可視光を透過させるオンチップカラーフィルタ(Onchip Color Filter)が形成されている。
図2に示した画素アレイ11は、オンチップカラーフィルタ(以下、単に「カラーフィルタ」という)がベイヤー配列に形成された場合の一例を示している。
図2において、「S」は、遮光画素であることを表している。
図2に示した画素アレイ11では、4行目と10行目とのそれぞれの画素行において、青色(B)のカラーフィルタが形成された撮像画素Piが、例えば、黒色(BL)のカラーフィルタが形成された遮光画素Psに置き換わっている。遮光画素Psは、緑色(G)のカラーフィルタが形成された撮像画素Pi以外であれば、一部または全部が、例えば、赤色(R)のカラーフィルタが形成された撮像画素Piと置き換わってもよい。
【0021】
画素アレイ11において、それぞれの画素には、マイクロレンズが形成されている。マイクロレンズは、撮像画素Piでは、それぞれの画素に対して形成され、遮光画素Psでは、近傍に配置される撮像画素Piと共用するように形成される。つまり、画素アレイ11においては、撮像画素Piと近傍に配置される遮光画素Psとの二つの画素で一つのマイクロレンズが形成される。
図2には、それぞれの撮像画素PiにマイクロレンズML-1が形成され、遮光画素Psと、この遮光画素Psの行方向に隣接する撮像画素Piとで共用されるマイクロレンズML-2が形成されている状態を示している。
【0022】
図2に示した画素の配置の一例では、同じ列の4行目に配置された遮光画素Psと10行目に配置された遮光画素Psとの二つの遮光画素Psに対応する画素信号に基づいて、AF制御を行うための位相差AFの処理をすることができる。
図2に示した画素の配置の一例では、それぞれの遮光画素Psに対応する画素信号に基づいて、ダークシェーディング補正の処理をすることができる。
【0023】
図3は、実施形態の撮像素子10が備える画素アレイ11の構造の一例を示す断面図である。
図3の(a)には、緑色(G)のカラーフィルタCFが形成された撮像画素Piと、青色(B)のカラーフィルタCFが形成された撮像画素Piとが配置された画素行(例えば、2行目の画素行)の断面図を示し、
図3の(b)には、遮光画素Psが配置された画素行(例えば、4行目の画素行)の断面図を示している。
図3の(a)および
図3の(b)には、それぞれの画素が備える光電変換部PDも併せて示している。上述したように、遮光画素Psが配置されない画素行では、それぞれの画素に対して一つのマイクロレンズML-1が形成され(
図3の(a)参照)、遮光画素Psが配置される画素行では、遮光画素Psと行方向に隣接する撮像画素Piとで共用される一つのマイクロレンズML-2が形成される(
図3の(b)参照)。
【0024】
図3の(b)に示した画素行では、黒色(BL)のカラーフィルタCFによって遮光画素Psに入射する被写体光を遮光する構成を示しているが、遮光画素Psに入射する被写体光を遮光する構成は、カラーフィルタCFによる構成に限定されない。遮光画素Psは、例えば、撮像素子10を製造する際の半導体プロセスにおいて、光電変換部PDに光が入射する側(つまり、光電変換部PDとマイクロレンズML-2との間)に遮光膜を形成することによって入射する被写体光を遮光する構成であってもよい。黒色(BL)のカラーフィルタCFや遮光膜は、「遮光部」の一例である。
【0025】
図4は、実施形態の撮像素子10が備える画素アレイ11に配置される画素の概略構成の一例を示す回路図である。
図4には、遮光画素Psと、この遮光画素Psの行方向に隣接する撮像画素Pi、つまり、一つのマイクロレンズML-2を共用する二つの画素の構成を示している。
【0026】
まず、撮像画素Piの構成の一例について説明する。撮像画素Piは、入射した被写体光を光電変換した電気信号を、垂直信号線V-1に出力する。撮像画素Piは、例えば、フォトダイオードPDiと、フローティングディフュージョンFDiと、転送トランジスタT1-1と、リセットトランジスタT2-1と、増幅トランジスタT3-1と、選択トランジスタT4-1と、を備える。
【0027】
フォトダイオードPDiは、入射した光を光電変換して電荷を発生して蓄積する光電変換素子である。フォトダイオードPDiは、「第2光電変換部」の一例である。
【0028】
フローティングディフュージョンFDiは、フォトダイオードPDiが蓄積した電荷を一時的に保持・蓄積する容量である。フローティングディフュージョンFDiは、増幅トランジスタT3-1のゲート端子に接続されたノードに付随する容量である。
【0029】
転送トランジスタT1-1は、走査回路12により出力された転送駆動信号TXに応じて、フォトダイオードPDiが蓄積した電荷をフローティングディフュージョンFDiに転送する。転送トランジスタT1-1によって転送された電荷は、フローティングディフュージョンFDiに蓄積される。
【0030】
リセットトランジスタT2-1は、走査回路12により出力された第1リセット駆動信号RST1に応じて、フローティングディフュージョンFDiに蓄積された電荷を電源電位VDDのレベルにする。つまり、リセットトランジスタT2-1は、フローティングディフュージョンFDiに蓄積された電荷を電源電位VDD側に排出(リセット)させる。
【0031】
増幅トランジスタT3-1は、フローティングディフュージョンFDiに蓄積された電荷に応じた電圧を出力する。
【0032】
選択トランジスタT4-1は、走査回路12により出力された選択駆動信号SELに応じて、増幅トランジスタT3-1が出力した電圧を、撮像画素Piに入射した被写体光の光量を表す電気信号として垂直信号線V-1に出力させる。垂直信号線V-1に出力された電気信号は、ADC13に出力される。
【0033】
遮光画素PsとマイクロレンズML-2を共用しない撮像画素Pi、つまり、マイクロレンズML-1が形成された撮像画素Piの構成は、
図4に示した撮像画素Piと同様の構成である。ただし、マイクロレンズML-1が形成された撮像画素Piでは、後述するPD転送トランジスタT6-2がフォトダイオードPDiに接続されていない。
【0034】
続いて、遮光画素Psの構成の一例について説明する。遮光画素Psは、撮像画素Piにより転送されたフォトダイオードPDiが発生して蓄積した電荷、あるいは暗電流に応じて発生して蓄積した電荷を表す電気信号を、垂直信号線V-2に出力する。遮光画素Psは、例えば、フォトダイオードPDsと、フローティングディフュージョンFDsと、転送トランジスタT1-2と、リセットトランジスタT2-2と、増幅トランジスタT3-2と、選択トランジスタT4-2と、PDリセットトランジスタT5-2と、PD転送トランジスタT6-2と、を備える。遮光画素Psは、撮像画素Piに、PDリセットトランジスタT5-2と、PD転送トランジスタT6-2とが追加された構成である。
【0035】
フォトダイオードPDsは、フォトダイオードPDiと同様に、入射した光を光電変換して電荷を発生して蓄積する光電変換素子である。フォトダイオードPDsは、入射した光を受光する領域(受光面積)がフォトダイオードPDiと同じ広さの光電変換素子である。ただし、フォトダイオードPDsに入射する光は遮光されている。このため、フォトダイオードPDsが発生する電荷は、遮光された状態で流れる微弱な暗電流に基づく電荷である。暗電流は、例えば、撮像素子10の温度上昇などに起因するものであり、撮像素子10にとっては、露光した被写体光の光量を表す画素信号に含まれるノイズの要因となるものである。フォトダイオードPDsは、「第1光電変換部」の一例である。以下の説明においてフォトダイオードPDiとフォトダイオードPDsとを区別せずに表す場合には、単に「フォトダイオードPD」という。
【0036】
フローティングディフュージョンFDsは、フローティングディフュージョンFDiと同様に、フォトダイオードPDsが蓄積した電荷を一時的に保持・蓄積する容量である。フローティングディフュージョンFDsも、増幅トランジスタT3-2のゲート端子に接続されたノードに付随する容量である。フローティングディフュージョンFDsは、「蓄積部」の一例である。以下の説明においてフローティングディフュージョンFDiとフローティングディフュージョンFDsとを区別せずに表す場合には、単に「フローティングディフュージョンFD」という。
【0037】
転送トランジスタT1-2は、転送トランジスタT1-1と同様に、走査回路12により出力された転送駆動信号TXに応じて、フォトダイオードPDsが蓄積した電荷をフローティングディフュージョンFDsに転送する。転送トランジスタT1-2によって転送された電荷は、フローティングディフュージョンFDsに蓄積される。転送トランジスタT1-2は、「転送部」の一例である。
【0038】
リセットトランジスタT2-2は、リセットトランジスタT2-1と同様に、走査回路12により出力された第1リセット駆動信号RST1に応じて、フローティングディフュージョンFDsに蓄積された電荷を電源電位VDDのレベルにする。つまり、リセットトランジスタT2-2も、リセットトランジスタT2-1と同様に、フローティングディフュージョンFDsに蓄積された電荷を電源電位VDD側に排出(リセット)させる。
【0039】
増幅トランジスタT3-2は、増幅トランジスタT3-1と同様に、フローティングディフュージョンFDsに蓄積された電荷に応じた電圧を出力する。
【0040】
選択トランジスタT4-2は、選択トランジスタT4-1と同様に、走査回路12により出力された選択駆動信号SELに応じて、増幅トランジスタT3-2が出力した電圧を、遮光画素Psが出力する電気信号として垂直信号線V-2に出力させる。垂直信号線V-2に出力された電気信号も、ADC13に出力される。転送トランジスタT1-2およびフローティングディフュージョンFDs(増幅トランジスタT3-2および選択トランジスタT4-2を含めてもよい)は、「出力部」の一例である。
【0041】
PDリセットトランジスタT5-2は、走査回路12により出力された第2リセット駆動信号RST2に応じて、フォトダイオードPDsが蓄積した電荷を電源電位VDDのレベルにする。つまり、PDリセットトランジスタT5-2は、フォトダイオードPDsが蓄積した電荷を電源電位VDD側に排出(リセット)させる。PDリセットトランジスタT5-2は、「排出部」の一例である。
【0042】
PD転送トランジスタT6-2は、走査回路12により出力されたPD転送駆動信号GSに応じて、撮像画素Piが備えるフォトダイオードPDiとフォトダイオードPDsとを接続可能にする。つまり、PD転送トランジスタT6-2は、PD転送駆動信号GSに応じて非接続状態となった場合には、フォトダイオードPDiとフォトダイオードPDsとをそれぞれのフォトダイオードPDとして機能させ、PD転送駆動信号GSに応じて接続状態となった場合には、フォトダイオードPDiが発生して蓄積した電荷をフォトダイオードPDsに転送させる。PD転送トランジスタT6-2によって転送された電荷は、フォトダイオードPDsが発生して蓄積した電荷として扱われる。つまり、フォトダイオードPDiが発生した電荷が、フォトダイオードPDsに蓄積される。言い換えれば、フォトダイオードPDsは、フォトダイオードPDiが発生した電荷のメモリとして機能する。PD転送トランジスタT6-2は、「接続部」の一例である。
【0043】
このような構成によって、実施形態の撮像素子10では、画素アレイ11における有効画素の領域内に遮光画素Psを配置し、画像処理エンジン20からの制御に応じて、撮像画素Piと遮光画素Psとのそれぞれに対応する画素信号を出力する。これにより、画像処理エンジン20は、遮光画素Psに対応する画素信号に基づいて、AF制御を行うための処理と、ダークシェーディング補正の処理とを行うことができる。
【0044】
画素アレイ11に配置される画素(撮像画素Piや遮光画素Ps)の構成は、
図4に示した構成に限定されない。例えば、画素アレイ11において他の画素行に配置された画素(複数の画素であってもよい)と、フローティングディフュージョンFDを共用する構成であってもよい。
【0045】
図1に戻り、画像処理エンジン20は、撮像装置1のユーザーによる撮影の指示(レリーズボタンRや開始ボタンBの押下)に応じて、撮像素子10により出力された画素信号に基づいた動画像や静止画像を生成する。画像処理エンジン20が生成する動画像は、記録用の動画像、あるいはユーザーが撮影する被写体を確認するための動画像、いわゆる、ライブビュー画像である。画像処理エンジン20は、ライブビュー画像を生成した場合、生成したライブビュー画像を、例えば、撮像装置1が備える表示装置(不図示)に表示させる。画像処理エンジン20は、記録用の動画像、あるいは静止画像を生成した場合、生成した画像を、例えば、撮像装置1が備えるメモリ、あるいは撮像装置1に対して容易に着脱可能なメモリカードなどの記憶媒体に記録させる。画像処理エンジン20は、例えば、制御部21と、演算部22と、入力部23と、画処理部24と、メモリ25と、レンズ制御部26と、を備える。
【0046】
画像処理エンジン20や、画像処理エンジン20が備える制御部21、演算部22、入力部23、画処理部24、レンズ制御部26は、それぞれ、例えば、ハードウェアプロセッサがプログラム(ソフトウェア)を実行することにより以下の機能を実現するものである。ハードウェアプロセッサとは、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、大規模集積回路(Large Scale Integration:LSI)、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)または複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、フィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))などのハードウェア(回路部;circuitryを含む)を意味する。画像処理エンジン20や、画像処理エンジン20が備えるそれぞれの構成要素の機能のうち一部または全部は、専用のLSIによって実現されてもよい。プログラムは、予め撮像装置1が備える、ROM(Read Only Memory)や、RAM(Random Access Memory)、フラッシュメモリなどの半導体メモリ素子、ハードディスクドライブ(Hard Disk Drive:HDD)などの記憶装置(非一過性の記憶媒体を備える記憶装置)に格納されていてもよいし、ハードウェアプロセッサの回路内に直接組み込まれてもよい。ハードウェアプロセッサは、格納されたプログラムを読み出して実行することにより各機能を実現する。
【0047】
制御部21は、撮像装置1における撮影の動作を制御する。制御部21は、ユーザーが開始ボタンBやレリーズボタンRを押下したことにより撮影の指示を受け付けると、受け付けた撮影の指示に応じた露光をさせるための制御信号を撮像素子10(より具体的には、走査回路12)に出力する。このとき、制御部21は、演算部22により出力された撮像素子10の現在の温度の情報も参照して、撮像素子10の露光を制御する。制御部21は、撮像素子10により出力された画素信号に基づいた動画像(ライブビュー画像を含む)や静止画像の生成を制御する。制御部21は、「制御部」の一例である。
【0048】
演算部22は、撮像素子10により出力された温度を表す情報を取得し、撮像素子10の現在の温度を演算する。演算部22は、演算した撮像素子10の現在の温度の情報(以下、「温度情報」という)を、制御部21に出力する。
【0049】
入力部23は、制御部21からの制御に応じて、撮像素子10により出力された画素信号を取得する。入力部23は、取得した画素信号を画処理部24に出力する。
【0050】
画処理部24は、入力部23により出力された画素信号に対して、予め定められた種々の画像処理を施す。種々の画像処理には、例えば、AF制御や、撮影時のシャッタースピードと絞りとの最適な組合せを決定する自動露出(Auto Exposure:AE)制御、画像の色味を最適化させるオートホワイトバランス(Auto White Balance:AWB)処理、画素アレイ11に配置された画素に含まれる欠陥画素が出力した画素信号を補正する欠陥画素補正の処理、ダークシェーディング補正の処理、生成した画像のデータを圧縮する圧縮処理なども含まれる。画処理部24は、生成した画像(圧縮処理を行った画像も含む)をメモリ25に記憶させる。画処理部24は、入力部23により出力された画素信号に対する画像処理の処理過程において生成する画像データや処理データを一時的に記憶させる一時記憶手段として、メモリ25を利用してもよい。
【0051】
以下の説明においては、撮像素子10が備える画素アレイ11に配置された遮光画素Psにより出力された画素信号に基づいて実施するAF制御とダークシェーディング補正の処理とに着目して説明する。画処理部24は、例えば、AF処理部242と、ダークシェーディング補正部244と、を備える。
【0052】
AF処理部242は、入力部23により出力された画素信号に含まれる遮光画素Psの画素信号に基づいて、撮像した画像における合焦度合いを求める。AF処理部242が合焦度合いを求める位相差AFの処理方法は、位相差AFセンサを用いた位相差AFの処理方法やオートフォーカス制御と同様である。AF処理部242は、求めた合焦度合いを表す情報を、レンズ制御部26に出力する。AF処理部242における位相差AFの処理(合焦度合いを求める処理や、求めた合焦度合いを表す情報をレンズ制御部26に出力する処理)は、「第1処理」の一例である。合焦度合いを求める画像は、「第2画像」の一例である。
【0053】
ダークシェーディング補正部244は、入力部23により出力された画素信号に含まれる遮光画素Psの画素信号に基づいて、撮像した画像全体の黒レベルのばらつき(変動)を補正する。より具体的には、ダークシェーディング補正部244は、遮光画素Psの画素信号に基づいて、画像全体の領域の黒レベルのばらつきを表す黒レベル画像を生成する。そして、ダークシェーディング補正部244は、入力部23により出力された画素信号に含まれる撮像画素の画素信号に基づいて画処理部24が生成した被写体の画像から、生成した黒レベル画像を差し引いて、ダークシェーディング補正を施した補正画像を生成する。被写体の画像から黒レベル画像を差し引く処理は、例えば、それぞれの画像における同じ位置の画像情報の値(画像データ)同士で演算することによって行う。ダークシェーディング補正部244は、生成した補正画像をメモリ25に記憶させる。これにより、画処理部24が備えるその他の構成要素は、ダークシェーディング補正部244がダークシェーディング補正を行った補正画像に対して、引き続き所定の画像処理を行うことができる。AF処理部242におけるダークシェーディング補正の処理(被写体の画像から黒レベル画像を差し引く処理)は、「第2処理」の一例である。被写体の画像は、「第1画像」の一例であり、黒レベル画像は、「第3画像」の一例であり、補正画像は、「第4画像」の一例である。
【0054】
メモリ25は、画処理部24が生成した最終的な画像(動画像や静止画像)のデータや、画処理部24における画像処理の処理過程の画像データや処理データを記憶する。メモリ25は、例えば、RAMやフラッシュメモリなどの半導体メモリ素子、ハードディスクドライブHDDなどの記憶装置である。メモリ25は、メモリカードであってもよい。
【0055】
レンズ制御部26は、AF処理部242により出力された合焦度合いを表す情報に基づいて、レンズ部Lが備えるフォーカス機構を制御するためのAF制御信号を生成する。レンズ制御部26は、生成したAF制御信号をレンズ部Lに出力する。これにより、レンズ部Lが備えるフォーカス用レンズが移動され、撮像素子10に入射する被写体光の焦点位置が変更される。レンズ制御部26は、例えば、画処理部24が行ったAE制御の結果を表す情報に基づいて、レンズ部Lが備える絞り機構を制御するための絞り制御信号を生成してレンズ部Lに出力してもよい。この場合、レンズ部Lが備える絞り機構が駆動され、撮像素子10に入射する被写体光の光量が変更される。
【0056】
<動作シーケンスの一例>
ここで、撮像装置1における撮影動作の一例について説明する。
図5は、実施形態の撮像装置1の撮影動作における撮像素子10の駆動シーケンスの概略を示すシーケンス図である。
図5には、撮像装置1において動画像を生成しながらAF制御を行い、ユーザーによる撮影の指示に応じて静止画像を生成する場合における撮像素子10の駆動シーケンスの一例を示している。
図5において、横軸は時間を示し、縦軸は駆動させる画素アレイ11の画素行を示している。
【0057】
図5において、シーケンス101は、画素アレイ11に配置された画素(撮像画素Piおよび遮光画素Ps)をリセットするリセット動作を示している。シーケンス102およびシーケンス103は、画素アレイ11に配置された画素から、露光量に応じた画素信号を出力させる(読み出す)読み出し動作を示している。
【0058】
撮像装置1における撮影動作では、撮像装置1が起動されると、画像処理エンジン20は、動画像の生成を開始する。このとき、画像処理エンジン20は、ユーザーによって開始ボタンBが押下されている、つまり、動画像の撮影の指示がある場合には、記録用の動画像の生成を開始し、開始ボタンBが押下されていない場合には、ライブビュー画像の生成を開始する。
【0059】
撮像装置1の撮影動作において動画像の生成を開始すると、画像処理エンジン20は、動画像の撮像(露光)と同時に、AF制御を行うためのAF情報を取得する露光を撮像素子10に行わせる。動画像の撮影動作では、まず、時刻t1において、制御部21は、画素アレイ11の画素行ごとにシーケンス101のリセット動作を順次行わせる。シーケンス101において制御部21は、シーケンス101のリセット動作を行わせる画素行に配置された全ての画素(撮像画素Piや遮光画素Ps)が備えるフォトダイオードPDおよびフローティングディフュージョンFDに蓄積されている電荷をリセットさせる。
【0060】
より具体的には、撮像画素Piに対するリセット動作では、走査回路12が、制御部21からの制御に応じて、転送駆動信号TXおよび第1リセット駆動信号RST1を、例えば、“High”レベルにする。これにより、同じ画素行の全ての撮像画素Piでは、転送トランジスタT1-1およびリセットトランジスタT2-1が同時にオン状態になり、フォトダイオードPDiおよびフローティングディフュージョンFDiに蓄積されている電荷がリセットされる。遮光画素Psに対するリセット動作も、撮像画素Piに対するリセット動作と同様である。遮光画素Psに対するリセット動作では、走査回路12が、さらに第2リセット駆動信号RST2を、例えば、“High”レベルにしてもよい。これにより、同じ画素行の全ての遮光画素Psでは、PDリセットトランジスタT5-2が同時にオン状態になり、PDリセットトランジスタT5-2を介した経路でも、フォトダイオードPDsに蓄積されている電荷がリセットされる。その後、走査回路12は、制御部21からの制御に応じて、転送駆動信号TXおよび第1リセット駆動信号RST1、さらには第2リセット駆動信号RST2を、例えば、“Low”レベルにする。これにより、同じ画素行の全ての撮像画素Piでは、転送トランジスタT1-1およびリセットトランジスタT2-1が同時にオフ状態になり、さらに全ての遮光画素Psでは、PDリセットトランジスタT5-2が同時にオフ状態になり、同じ画素行の全ての画素が備えるフォトダイオードPDおよびフローティングディフュージョンFDのリセットを終了する。これにより、シーケンス101のリセット動作を行った画素行に配置された全ての撮像画素Piは、入射した被写体光の露光(光電変換した電荷の発生と蓄積)を開始する。
図5において、露光期間EMは、1回の露光期間を表している。
【0061】
続いて、予め定めた露光期間EMが経過した時刻t2のときに、制御部21は、シーケンス102の読み出し動作を行わせる。シーケンス102において制御部21は、シーケンス102の読み出し動作を行わせる画素行に配置された全ての遮光画素PsのフォトダイオードPDsに、マイクロレンズML-2を共用する撮像画素Piが備えるフォトダイオードPDiが発生して蓄積した電荷を同時に転送させた後、同じ画素行の全ての画素(撮像画素Piおよび遮光画素Ps)から画素信号を出力させる(読み出す)。
【0062】
ここで、制御部21からの制御に応じて走査回路12が行うシーケンス102の読み出し動作における画素の駆動タイミングの一例について説明する。
図6は、実施形態の撮像素子10が備える画素アレイ11内の遮光画素Psの駆動タイミングの一例を示すタイミングチャートである。
図6には、画素アレイ11において遮光画素Psが配置されたいずれかの画素行におけるシーケンス102の駆動タイミング(以下、「第1の駆動タイミング」という)を示している。
図7は、実施形態の撮像素子10が備える画素アレイ11内の遮光画素Psを駆動タイミング(第1の駆動タイミング)で駆動した場合における電荷の移動と電気信号の出力の様子を模式的に示す図である。
図6に示したタイミングチャートの説明においては、
図7を適宜参照して説明する。第1の駆動タイミングは、「第1動作」の一例である。
【0063】
時刻t2においてシーケンス102の読み出し動作を開始すると、走査回路12は、時刻t21において、第2リセット駆動信号RST2を“High”レベルにして、PDリセットトランジスタT5-2をオン状態にさせる。これにより、遮光画素Psが備えるフォトダイオードPDsに蓄積されている電荷が(再度)リセットされる。その後、走査回路12は、第2リセット駆動信号RST2を“Low”レベルにして、フォトダイオードPDsのリセットを解除させる。
【0064】
続いて、走査回路12は、時刻t22において、PD転送駆動信号GSを“High”レベルにして、PD転送トランジスタT6-2をオン状態にさせる。これにより、遮光画素PsとマイクロレンズML-2を共用する撮像画素Piが備えるフォトダイオードPDiが発生して蓄積した電荷が、フォトダイオードPDsに転送されて蓄積される。
図7の(a)には、マイクロレンズML-2を共用する撮像画素Piから遮光画素Psに、フォトダイオードPDiの電荷が転送されている様子を示している。その後、走査回路12は、PD転送駆動信号GSを“Low”レベルにして、フォトダイオードPDiからフォトダイオードPDsへの電荷の転送を終了させる。
【0065】
そして、走査回路12は、時刻t23において、選択駆動信号SELを“High”レベルにして、選択トランジスタT4-2をオン状態にさせる。これにより、選択トランジスタT4-2は、増幅トランジスタT3-2により出力された電圧の電気信号を垂直信号線V-2に出力する状態になる。このとき、遮光画素PsとマイクロレンズML-2を共用する撮像画素Pi、つまり、同じ画素行の撮像画素Piが備える選択トランジスタT4-1も、選択駆動信号SELの“High”レベルに応じてオン状態になる。これにより、選択トランジスタT4-1も、増幅トランジスタT3-1により出力された電圧の電気信号を垂直信号線V-1に出力する状態になる。
【0066】
続いて、走査回路12は、時刻t24において、第1リセット駆動信号RST1を“High”レベルにして、リセットトランジスタT2-2をオン状態にさせる。これにより、フローティングディフュージョンFDsに蓄積されている電荷が(再度)リセットされ、増幅トランジスタT3-2から、フローティングディフュージョンFDsのリセットレベルの電荷に応じた電圧の電気信号が出力され、選択トランジスタT4-2を介して垂直信号線V-2に出力される。このとき、遮光画素Psと同じ画素行のそれぞれの撮像画素Piが備えるリセットトランジスタT2-1も、第1リセット駆動信号RST1の“High”レベルに応じてオン状態になり、それぞれの撮像画素Piの垂直信号線V-1に、増幅トランジスタT3-1により出力されたフローティングディフュージョンFDiのリセットレベルの電荷に応じた電圧の電気信号が、選択トランジスタT4-1を介して出力される。
【0067】
撮像素子10がCDS回路を備え、CDS回路が画素アレイ11とADC13との間の位置に配置されている場合、CDS回路は、それぞれの垂直信号線に出力されたフローティングディフュージョンFDのリセットレベルの電気信号をサンプリングして保持(クランプ)してもよい。
【0068】
その後、走査回路12は、第1リセット駆動信号RST1を“Low”レベルにして、それぞれのフローティングディフュージョンFDのリセットを解除させ、リセットレベルの電気信号の出力を終了させる。
【0069】
続いて、走査回路12は、時刻t25において、転送駆動信号TXを“High”レベルにして、転送トランジスタT1-2をオン状態にさせる。これにより、フォトダイオードPDsに蓄積されている電荷、つまり、時刻t22において転送された撮像画素Piが備えるフォトダイオードPDiが発生して蓄積した電荷が、フローティングディフュージョンFDsに転送されて蓄積される。これにより、増幅トランジスタT3-2から、フローティングディフュージョンFDsに転送されたフォトダイオードPDiが露光した被写体光の光量を表す信号レベルの電圧の電気信号が出力され、選択トランジスタT4-2を介して垂直信号線V-2に出力される。ここで垂直信号線V-2に出力される電気信号は、AF情報の電気信号である。このとき、遮光画素Psと同じ画素行のそれぞれの撮像画素Piが備える転送トランジスタT1-1も、転送駆動信号TXの“High”レベルに応じてオン状態になり、それぞれの撮像画素Piの垂直信号線V-1に、増幅トランジスタT3-1により出力されたフローティングディフュージョンFDiに転送された信号レベルの電荷に応じた電圧の電気信号が、選択トランジスタT4-1を介して出力される。ただし、遮光画素Psと同じ画素行のそれぞれの撮像画素Piにおいて垂直信号線V-1に出力される電気信号は、時刻t22においてフォトダイオードPDsに転送された後の信号レベルを表す電気信号であるため、動画像の生成やAF制御には無効な電気信号である。
【0070】
撮像素子10がCDS回路を備え、CDS回路が画素アレイ11とADC13との間の位置に配置されている場合、CDS回路は、それぞれの垂直信号線に出力されたフォトダイオードPDの信号レベルの電気信号をサンプリングし、保持(クランプ)しているフローティングディフュージョンFDのリセットレベルの電気信号との差分をとることによって、ノイズ抑圧処理をしてもよい。
【0071】
その後、走査回路12は、転送駆動信号TXを“Low”レベルにして、それぞれのフローティングディフュージョンFDへの電荷の転送を終了させ、信号レベルの電気信号の出力を終了させる。
【0072】
続いて、走査回路12は、時刻t26において、選択駆動信号SELを“Low”レベルにして、選択トランジスタT4-2が増幅トランジスタT3-2により出力された電圧の電気信号を垂直信号線V-2に出力する状態を終了させる。遮光画素Psと同じ画素行のそれぞれの撮像画素Piが備える選択トランジスタT4-1も、選択駆動信号SELを“Low”レベルによって、増幅トランジスタT3-1により出力された電圧の電気信号を垂直信号線V-1に出力する状態が終了される。そして、走査回路12は、垂直信号線V-1および垂直信号線V-2のそれぞれに出力された現在の画素行の電気信号を、画素ごと(画素列ごと)に順次出力させる。走査回路12は、現在の画素行の全ての電気信号を出力させると、現在の画素行におけるシーケンス102の読み出し動作を終了する。
図7の(b)には、遮光画素Psが配置された画素行から画素ごとの電気信号(AF情報を含む)が出力されている様子を示している。AF情報は、「第1画素信号」の一例である。
【0073】
図6に示したタイミングチャートでは、走査回路12における遮光画素Psが配置された画素行の第1の駆動タイミングを示した。走査回路12は、第2リセット駆動信号RST2およびPD転送駆動信号GSの制御を行わない、つまり、時刻t23~時刻t26の間の駆動タイミングと同様の駆動タイミングでそれぞれの画素を駆動することによって、遮光画素Psが配置されていない画素行に配置されたそれぞれの撮像画素Piから、リセットレベルおよび信号レベルのそれぞれの電気信号を垂直信号線V-1に出力させる。走査回路12は、シーケンス102において、遮光画素Psが配置された画素行では、
図6に示した第1の駆動タイミングでそれぞれの画素を駆動し、遮光画素Psが配置されていない画素行では、時刻t23~時刻t26の間の駆動タイミングでそれぞれの画素を駆動することによって、それぞれの画素行に配置された画素により出力された電気信号を、画素ごとに順次出力させる。
図7の(c)には、
図7の(b)に示した遮光画素Psが配置された画素行と異なる、遮光画素Psが配置された画素行から画素ごとの電気信号(AF情報を含む)が出力されている様子を示している。
【0074】
このようにして走査回路12は、制御部21からの制御に応じて、シーケンス101のリセット動作(言い換えれば、露光開始動作)と、シーケンス102の読み出し動作とを、画素行ごとに行う。これにより、撮像素子10は、動画像を生成するための画素信号と同時に、AF制御を行うためのAF情報を画像処理エンジン20に出力する。
【0075】
図5に戻り、時刻t3において、シーケンス102の読み出し動作による撮像素子10からの全ての画素行の画素信号の読み出し動作が完了すると、画処理部24は、読み出した画素信号の内、遮光画素Psが配置されていない画素行のそれぞれの撮像画素Piに対応する画素信号に基づいて、動画像のフレームを生成する。
図5では、最初のシーケンス102で読み出した画素信号に基づいて動画像の最初のフレームF1を生成するものとしている。
【0076】
さらに、画処理部24(より具体的には、AF処理部242)は、読み出した画素信号の内、遮光画素Psが配置されている画素行のそれぞれの遮光画素Psに対応する画素信号(AF情報)に基づいて位相差AFの処理を行って、生成したフレームF1における被写体の合焦度合いを求め、求めた合焦度合いを表す情報をレンズ制御部26に出力する。これにより、レンズ制御部26は、AF処理部242により出力された合焦度合いを表す情報に基づくAF制御信号をレンズ部Lに出力して、撮像装置1におけるAF制御を行う。
図5では、AF制御AFを、合焦度合いを求めたフレームF1の二つ後に生成する動画像の三つ目のフレームF3の撮像(露光)に反映させるものとしている。求めた合焦度合いに応じてAF制御を行うタイミングは、動画像のフレームの露光期間EMが終了してから次のフレームの露光期間EMが開始されるまでの間であれば、いかなるタイミングであってもよい。
【0077】
撮像装置1における撮影動作では、ユーザーによって開始ボタンBが再び押下される(つまり、動画像の撮影の終了の指示がある)、あるいはユーザーによってレリーズボタンRが押下される(つまり、静止画像の撮影の指示がある)まで、動画像の撮像とAF情報の取得およびAF制御とを繰り返す。
図5では、動画像の撮像をさらに3回繰り返している。より具体的には、時刻t4において完了したシーケンス102の読み出し動作によって出力された画素信号に基づいて動画像のフレームF2の生成およびAF制御を行い、時刻t5において完了したシーケンス102の読み出し動作によって出力された画素信号に基づいて動画像のフレームF3の生成およびAF制御を行っている。さらに、時刻t6において完了したシーケンス102の読み出し動作によって出力された画素信号に基づいて動画像のフレームF4の生成を行っている。そして、
図5では、動画像のフレームF4を生成するための動画像の撮像を行っている途中で、ユーザーによりレリーズボタンRが半押しされたものとしている。
【0078】
この場合、撮像装置1における撮影動作において画像処理エンジン20は、静止画像の生成を開始する。撮像装置1において静止画像の生成を開始すると、制御部21は、最後に生成した動画像のフレーム(ここでは、フレームF4)に基づいて、静止画像を撮影するための撮影条件を決定する。撮影条件とは、例えば、静止画像の撮像(露光)を行うためのISO感度や、シャッタースピード(露光期間)、絞りなど条件である。このとき、制御部21は、演算部22により出力された温度情報も用いて、撮影条件を決定する。ただし、ユーザーによって撮影条件が設定されている場合には、制御部21は、ユーザーによって設定された撮影条件を、決定した撮影条件とする。さらに、制御部21は、最後に生成した動画像のフレーム(ここでは、フレームF4)に基づいて、撮像した静止画像に対してダークシェーディング補正の処理が必要であるか否かを判断する。
【0079】
そして、画像処理エンジン20は、ユーザーによりレリーズボタンRが全押しされた場合に、決定した(あるいはユーザーにより設定された)撮影条件で静止画像の撮像(露光)を開始する。このとき、フレームF4に基づいたAF制御も行う。
図5では、フレームF4に基づくAF制御と決定した撮影条件の設定が完了した時刻t7から静止画像の撮像(露光)を開始するものとしている。ここでは、ダークシェーディング補正の処理が必要であると判断したものとする。
【0080】
静止画像の撮像(露光)を開始すると、制御部21は、まず、シーケンス101のリセット動作を順次行わせる。そして、制御部21は、撮影条件として決定した露光期間ESが経過した時刻t8から、シーケンス103の読み出し動作を行わせる。シーケンス103において制御部21は、シーケンス103の読み出し動作を行わせる画素行に配置された全ての遮光画素Psを撮像画素Piであるものとして、同じ画素行の全ての画素(撮像画素Piおよび遮光画素Ps)から画素信号を出力させる(読み出す)。
【0081】
ここで、制御部21からの制御に応じて走査回路12が行うシーケンス103の読み出し動作における画素の駆動タイミングの一例について説明する。
図8は、実施形態の撮像素子10が備える画素アレイ11内の遮光画素Psの駆動タイミングの一例を示すタイミングチャートである。
図8には、画素アレイ11において遮光画素Psが配置されたいずれかの画素行におけるシーケンス103の駆動タイミング(以下、「第2の駆動タイミング」という)を示している。第2の駆動タイミングは、「第2動作」の一例である。
【0082】
時刻t8においてシーケンス103の読み出し動作を開始すると、走査回路12は、時刻t81から、同じ画素行の全ての画素を駆動する。
図8に示したように、第2の駆動タイミングにおいて走査回路12は、第2リセット駆動信号RST2およびPD転送駆動信号GSを“High”レベルにして制御を行わない。このため、第2の駆動タイミングでは、同じ画素行の全ての画素(撮像画素Piおよび遮光画素Ps)が同様に駆動される。つまり、第2の駆動タイミングでは、遮光画素Psの駆動タイミングと撮像画素Piの駆動タイミングとに差がない。そして、第2の駆動タイミングは、
図5に示した第1の駆動タイミングにおける時刻t23~時刻t26の間の駆動タイミングと同様である。より具体的には、走査回路12は、時刻t81において、第1の駆動タイミングの時刻t23と同様に選択駆動信号SELを制御し、時刻t82において、第1の駆動タイミングの時刻t24と同様に第1リセット駆動信号RST1を制御し、時刻t83において、第1の駆動タイミングの時刻t25と同様に転送駆動信号TXを制御し、時刻t84において、第1の駆動タイミングの時刻t26と同様に選択駆動信号SELを制御する。このため、第2の駆動タイミングのそれぞれの時刻における遮光画素Psおよび撮像画素Pi内のそれぞれの構成要素の動作は、第1の駆動タイミングにおいて対応する時刻におけるそれぞれの構成要素の動作と同様である。従って、第2の駆動タイミングのそれぞれの時刻におけるそれぞれの動作に関する詳細な説明は省略する。
【0083】
このようにして走査回路12は、制御部21からの制御に応じて、シーケンス101のリセット動作(言い換えれば、露光開始動作)と、シーケンス103の読み出し動作とを、画素行ごとに行う。これにより、撮像素子10は、静止画像を生成するための画素信号を画像処理エンジン20に出力する。このとき、撮像素子10が備える画素アレイ11において遮光画素Psが配置されている画素行の画素信号には、被写体光が遮光されている状態の画素信号が含まれている。この画素信号は、上述したように、フォトダイオードPDsが、遮光された状態で流れる微弱な暗電流の大きさを表す画素信号である。
【0084】
図5に戻り、時刻t9において、シーケンス103の読み出し動作による撮像素子10からの全ての画素行の画素信号の読み出し動作が完了すると、画処理部24は、読み出した画素信号に基づいて、静止画像を生成する。
図5では、シーケンス103で読み出した画素信号に基づいて静止画像S1を生成するものとしている。このとき、画処理部24(より具体的には、ダークシェーディング補正部244)は、読み出した画素信号の内、遮光画素Psが配置されている画素行のそれぞれの遮光画素Psに対応する画素信号(以下、「暗時情報」という)に基づいて、ダークシェーディング補正の処理を行う。暗時情報は、「第2画素信号」の一例である。
【0085】
ここで、ダークシェーディング補正部244が行うダークシェーディング補正の処理の一例について説明する。
図9は、実施形態の撮像素子10から読み出した画素信号と生成する画像との関係の一例を模式的に示す図である。静止画像の撮像において、撮像素子10は、
図9の(a)に示したように、撮像画素Piが発生した被写体光の光量を表す画素信号と、遮光画素Psが発生した暗電流を表す画素信号(暗時情報)とのそれぞれの画素信号を出力する。
【0086】
画処理部24は、撮像画素Piに対応する画素信号に基づいて、
図9の(b)に示したような静止画像を生成する。このとき、画処理部24は、遮光画素Psが配置された画素行の画素信号を、例えば、周辺の撮像画素Piが配置された画素行の画素信号で補間して、静止画像を生成する。
図9の(b)には、遮光画素Psが配置された画素行の画素信号を、列方向に上下の画素行において緑色(G)のカラーフィルタCFが形成された撮像画素Piと、青色(B)のカラーフィルタCFが形成された撮像画素Piとが配置された画素行の画素信号で補間している場合を示している。静止画像を生成する際に行う補間は、例えば、線形補間である。
【0087】
ダークシェーディング補正部244は、遮光画素Psに対応する画素信号に基づいて、
図9の(c)に示したような暗時情報で構成される画像(黒レベル画像)を生成する。このとき、ダークシェーディング補正部244は、撮像画素Piが配置されている位置の暗時情報を、例えば、周辺の遮光画素Psの暗時情報で補間して、黒レベル画像を生成する。
図9の(c)には、遮光画素Psが配置された画素行の撮像画素Piに対応する暗時情報を、行方向に左右に隣接する二つの遮光画素Psの暗時情報で補間している場合を示している。さらに、
図9の(c)には、遮光画素Psが配置されていない画素行の暗時情報を、列方向に上下の画素行において遮光画素Psが配置された画素行の暗時情報で補間している場合を示している。黒レベル画像を生成する際に行う補間も、例えば、線形補間である。そして、ダークシェーディング補正部244は、画処理部24が生成した静止画像におけるそれぞれの画素に対応する画像データから、黒レベル画像において同じ位置の画素に対応する暗時情報のデータ(画像データ)を差し引くことによって、ダークシェーディング補正を施した補正画像を生成する。
【0088】
このようにして画像処理エンジン20では、ダークシェーディング補正の処理が必要であると判断した場合、撮像素子10により出力された画素信号に含まれる暗時情報に基づいて、画処理部24が備えるダークシェーディング補正部244が黒レベル画像を生成し、画処理部24が生成した静止画像に対してダークシェーディング補正の処理を行った補正画像を生成する。ところで、ユーザーによりレリーズボタンRが全押しされて静止画像の撮影を行う場合、必ずしもダークシェーディング補正の処理が必要であるとは限らない。例えば、ISO感度が低い場合や、シャッタースピードが速い(露光期間が短い)場合、撮像素子10の温度が低い場合など、暗電流が問題にはならない条件での撮影では、ダークシェーディング補正の処理を行う必要はない。ダークシェーディング補正の処理が必要ではないと判断した場合、制御部21は、動画像の撮影と同様の駆動タイミングで撮像素子10を駆動してもよい。この場合、静止画像の撮影においても、例えば、次に撮影する静止画像のためのAF処理を行うことができる。
【0089】
このように、実施形態の撮像装置1では、画像処理エンジン20が動画像を生成する場合には、制御部21が、動画像の撮像(露光)と同時にAF情報を取得するように撮像素子10を駆動し、静止画像を生成する場合には、制御部21が、静止画像の撮像(露光)と同時に暗時情報を取得するように撮像素子10を駆動する。これにより、実施形態の撮像装置1では、撮像素子10が備える画素アレイ11の有効画素の領域内に配置された遮光画素Psを有効に活用することができる。そして、実施形態の撮像装置1では、より好適なAF制御と、より好適なダークシェーディング補正の処理とを両立させることができる。
【0090】
ところで、実施形態の撮像素子10のように、有効画素の領域内に遮光画素を配置した撮像素子は、従来から知られている。しかし、この従来の撮像素子では、遮光画素は、被写体光を受光する受光領域(受光面積)の半分を遮光する構成である。このため、従来の撮像素子では、実施形態の撮像素子10と同様に、遮光画素の画素信号に基づいてAF処理を行うことができるが、従来の撮像素子の遮光画素は完全に遮光されている構成でないため、実施形態の撮像素子10のように、遮光画素Psの画素信号をダークシェーディング補正の処理にも利用することはできない。
【0091】
さらに、有効画素の領域内に完全に遮光されている遮光画素を配置した撮像素子も、従来から知られている。しかし、この従来の撮像素子では、撮像画素と遮光画素とのそれぞれにマイクロレンズが形成されている。つまり、従来の撮像素子では、実施形態の撮像素子10におけるマイクロレンズML-2のように、遮光画素Psと、この遮光画素Psの近傍に配置される撮像画素Pi(ここでは、行方向に隣接する撮像画素Pi)とでマイクロレンズが共用されるように形成されておらず、マイクロレンズML-1のように、遮光画素も含めて、それぞれの画素に対してマイクロレンズが形成されている。このため、従来の撮像素子では、実施形態の撮像素子10と同様に、遮光画素の画素信号に基づいてダークシェーディング補正の処理を行うことができるが、従来の撮像素子の遮光画素の画素信号は、撮像素子10が備える遮光画素Psの画素信号のように、位相差AFの処理には利用することができない。つまり、静止画像を生成する際にダークシェーディング補正を行う必要がない場合には、従来の撮像素子の遮光画素の画素信号は、単に静止画像の生成には用いられない無効な画素信号である。
【0092】
しかも、実施形態の撮像素子10では、従来からある、遮光画素を有効画素領域の外側、いわゆる、オプティカルブラック(Optical Black:OB)領域に遮光画素を複数(複数行または複数列)配置した構成の一般的な撮像素子よりも、より適切なダークシェーディング補正を行うことができる。より具体的には、OB領域に配置された遮光画素の画素信号に基づくダークシェーディング補正では、遮光画素に近い位置に配置された撮像画素に対しては適切な補正となるが、遮光画素から遠い位置に配置された撮像画素では適切な補正とはならない場合があるため、OB領域と画素行あるいは画素列との間の距離によって補正の精度が低下する可能性がある。これに対して、実施形態の撮像素子10では、遮光画素Psを有効画素領域内に配置しているため、ダークシェーディング補正を有効画素領域の全体に対して一律に行うことができる。
【0093】
これらのことから、実施形態の撮像素子10は、画素アレイ11に配置した遮光画素Psを、従来の撮像素子よりも、より有効に活用することができる。
【0094】
<動作シーケンスの別の一例>
撮像装置1では、
図5に示した動作シーケンスと異なる動作シーケンスで撮影動作を行うこともできる。ここで、撮像装置1における撮影動作の別の一例について説明する。
図10は、実施形態の撮像装置1の撮影動作(以下、「第2の撮影動作」という)における撮像素子10の別の駆動シーケンスの概略を示すシーケンス図である。
図10にも、撮像装置1において動画像を生成しながらAF制御を行い、ユーザーによる撮影の指示に応じて静止画像を生成する場合における撮像素子10の駆動シーケンスの一例を示している。
図10においても、横軸は時間を示し、縦軸は駆動させる画素アレイ11の画素行を示している。
【0095】
図10において、シーケンス201は、画素アレイ11に配置された画素(撮像画素Piおよび遮光画素Ps)をリセットするリセット動作を示している。シーケンス202およびシーケンス204は、画素アレイ11に配置された画素に、フォトダイオードPDに蓄積されている電荷をフローティングディフュージョンFDに転送させる転送動作を示している。シーケンス203およびシーケンス205は、画素アレイ11に配置された画素から画素行ごとに順次、露光量に応じた画素信号を出力させる(読み出す)読み出し動作を示している。
【0096】
撮像装置1における第2の撮影動作でも、撮像装置1が起動されると、画像処理エンジン20は、
図5に示した動作シーケンスの撮影動作(以下、「第1の撮影動作」という)と同様に、動画像の生成を開始する。
【0097】
第2の撮影動作でも、撮像装置1が動画像の生成を開始すると、画像処理エンジン20は、動画像の撮像(露光)と同時に、AF制御を行うためのAF情報を取得する露光を撮像素子10に行わせる。動画像の第2の撮影動作では、まず、時刻t1において、制御部21は、撮像素子10に配置された全ての画素に対して同時に、シーケンス201のリセット動作を行わせる。シーケンス201において制御部21は、画素アレイ11に配置された全ての画素(撮像画素Piおよび遮光画素Ps)が備えるフォトダイオードPDおよびフローティングディフュージョンFDに蓄積されている電荷を同時にリセットさせる。
【0098】
シーケンス201のリセット動作は、全ての画素を同時に駆動する以外は、第1の撮影動作におけるシーケンス101のリセット動作と同様である。つまり、走査回路12は、制御部21からの制御に応じて、全ての画素行の転送駆動信号TXおよび第1リセット駆動信号RST1を、例えば、“High”レベルにすることによって、全ての画素が備えるフォトダイオードPDおよびフローティングディフュージョンFDに蓄積されている電荷をリセットさせる。走査回路12は、第1の撮影動作におけるシーケンス101のリセット動作と同様に、さらに全ての画素行の第2リセット駆動信号RST2を、例えば、“High”レベルにすることによって、全ての遮光画素PsのフォトダイオードPDsに蓄積されている電荷を、PDリセットトランジスタT5-2を介した経路でも、リセットさせてもよい。その後、走査回路12は、全ての画素行の転送駆動信号TXおよび第1リセット駆動信号RST1、さらには全ての画素行の第2リセット駆動信号RST2を、例えば、“Low”レベルにすることによって、全ての画素が備えるフォトダイオードPDおよびフローティングディフュージョンFDのリセットを終了する。これにより、画素アレイ11に配置された全ての撮像画素Piは同時に、入射した被写体光の露光(光電変換した電荷の発生と蓄積)を開始する。
図10においても、露光期間EMは、1回の露光期間を表している。
【0099】
続いて、予め定めた露光期間EMが経過した時刻t2のときに、制御部21は、全ての画素(撮像画素Piおよび遮光画素Ps)に対して同時に、シーケンス202の転送動作を行わせる。シーケンス202において走査回路12は、画素アレイ11に配置された全ての遮光画素PsのフォトダイオードPDsに、マイクロレンズML-2を共用する撮像画素Piが備えるフォトダイオードPDiが発生して蓄積した電荷を同時に転送させた後、画素アレイ11に配置された全ての画素(撮像画素Piおよび遮光画素Ps)を同時に、フォトダイオードPDに蓄積されている電荷をフローティングディフュージョンFDに転送させる。その後、制御部21は、画素信号を出力させる(読み出す)タイミングになると、画素アレイ11の画素行ごとに、シーケンス203の読み出し動作を順次行わせる。
【0100】
ここで、制御部21からの制御に応じて走査回路12が行うシーケンス202およびシーケンス203における画素の駆動タイミングについて説明する。
図11は、実施形態の撮像素子10が備える画素アレイ11内の遮光画素Psの駆動タイミングの一例を示すタイミングチャートである。
図11には、いずれかの画素行に配置された遮光画素Psに対するシーケンス202およびシーケンス203における駆動タイミング(以下、「第3の駆動タイミング」という)を示している。撮像素子10が備える画素アレイ11内の遮光画素Psを第3の駆動タイミングで駆動した場合における電荷の移動と電気信号の出力の様子は、
図7に示した第1の撮影動作における電荷の移動と電気信号の出力の様子と同様である。
図11に示したタイミングチャートの説明においては、
図7を適宜参照して説明する。第3の駆動タイミングは、「第1動作」の一例である。
【0101】
時刻t2においてシーケンス202の転送動作を開始すると、走査回路12は、時刻t21において、遮光画素Psが配置された全ての画素行の第2リセット駆動信号RST2を“High”レベルにすることによって、全ての遮光画素Psが備えるフォトダイオードPDsに蓄積されている電荷を(再度)リセットさせる。その後、走査回路12は、遮光画素Psが配置された全ての画素行の第2リセット駆動信号RST2を“Low”レベルにすることによって、全ての遮光画素Psが備えるフォトダイオードPDsのリセットを解除させる。
【0102】
続いて、走査回路12は、時刻t22において、遮光画素Psが配置された全ての画素行のPD転送駆動信号GSを“High”レベルにすることによって、全ての遮光画素Psにおいて、マイクロレンズML-2を共用する撮像画素Piが備えるフォトダイオードPDiが発生して蓄積した電荷を、フォトダイオードPDsに転送させて蓄積させる(
図7の(a)参照)。その後、走査回路12は、遮光画素Psが配置された全ての画素行のPD転送駆動信号GSを“Low”レベルにすることによって、全ての遮光画素PsにおけるフォトダイオードPDiからフォトダイオードPDsへの電荷の転送を終了させる。
【0103】
そして、走査回路12は、時刻t23において、全ての画素行の転送駆動信号TXを“High”レベルにすることによって、全ての画素(撮像画素Piおよび遮光画素Ps)を同時に、フォトダイオードPDに蓄積されている電荷をフローティングディフュージョンFDに転送させて蓄積させる。これにより、撮像画素Piでは、フォトダイオードPDiが発生して蓄積した電荷が、フローティングディフュージョンFDiに転送されて蓄積され、遮光画素Psでは、時刻t22において転送された、マイクロレンズML-2を共用する撮像画素Pi(同じ画素行の撮像画素Pi)が備えるフォトダイオードPDiが発生して蓄積した電荷が、フローティングディフュージョンFDsに転送されて蓄積される。ただし、遮光画素Psが配置された画素行の撮像画素PiにおけるフォトダイオードPDiが発生して蓄積した電荷は、時刻t22においてすでにフォトダイオードPDsに転送された後であるため、フローティングディフュージョンFDiには、無効な電荷が転送される。この時点では、走査回路12は、全ての画素行の選択駆動信号SELは“Low”レベルにしている。このため、この時点では、いずれの画素からも画素信号は出力されない。その後、走査回路12は、全ての画素行の転送駆動信号TXを“Low”レベルにすることによって、全ての画素におけるフォトダイオードPDからフローティングディフュージョンFDへの電荷の転送(シーケンス202の転送動作)を終了させる。
【0104】
そして、走査回路12は、遮光画素Psが配置された画素行の画素信号を出力させる(読み出す)タイミングになると、時刻t24において、シーケンス203の読み出し動作を行わせる画素行の選択駆動信号SELを“High”レベルにすることによって、同じ画素行のそれぞれの画素から垂直信号線Vに電気信号(AF情報を含む)を出力させる。これにより、撮像画素Piでは、増幅トランジスタT3-1から、フローティングディフュージョンFDiに転送されたフォトダイオードPDiが露光した被写体光の光量を表す信号レベルの電圧の電気信号が出力され、選択トランジスタT4-1を介して垂直信号線V-1に出力される。ただし、遮光画素Psと同じ画素行のそれぞれの撮像画素Piにおいて垂直信号線V-1に出力される信号レベルの電気信号は、上述したように、動画像の生成やAF制御には無効な信号レベルの電気信号である。遮光画素Psでは、増幅トランジスタT3-2から、フローティングディフュージョンFDsに転送された、マイクロレンズML-2を共用する撮像画素Piが備えるフォトダイオードPDiが露光した被写体光の光量を表す信号レベルの電圧の電気信号(AF情報)が出力され、選択トランジスタT4-2を介して垂直信号線V-2に出力される。
【0105】
撮像素子10がCDS回路を備え、CDS回路が画素アレイ11とADC13との間の位置に配置されている場合、CDS回路は、それぞれの垂直信号線に出力されたフォトダイオードPDの信号レベルの電気信号をサンプリングして保持(クランプ)してもよい。
【0106】
続いて、走査回路12は、時刻t25において、第1リセット駆動信号RST1を“High”レベルにすることによって、同じ画素行のそれぞれの画素から垂直信号線Vに電気信号を出力させる。これにより、撮像画素Piでは、増幅トランジスタT3-1から、フローティングディフュージョンFDiのリセットレベルの電荷に応じた電圧の電気信号が、選択トランジスタT4-1を介して垂直信号線V-1に出力される。遮光画素Psでは、増幅トランジスタT3-2から、フローティングディフュージョンFDsのリセットレベルの電荷に応じた電圧の電気信号が、選択トランジスタT4-2を介して垂直信号線V-2に出力される。
【0107】
撮像素子10がCDS回路を備え、CDS回路が画素アレイ11とADC13との間の位置に配置されている場合、CDS回路は、それぞれの垂直信号線に出力されたフローティングディフュージョンFDのリセットレベルの電気信号をサンプリングし、保持(クランプ)しているフォトダイオードPDの信号レベルの電気信号との差分をとることによって、ノイズ抑圧処理をしてもよい。
【0108】
その後、走査回路12は、第1リセット駆動信号RST1を“Low”レベルにすることによって、それぞれのフローティングディフュージョンFDのリセットを解除させ、リセットレベルの電気信号の出力を終了させる。
【0109】
続いて、走査回路12は、時刻t26において、選択駆動信号SELを“Low”レベルにして、シーケンス203の読み出し動作を行わせる画素行からの画素信号の出力(読み出し)を終了させる。そして、走査回路12は、垂直信号線V-1および垂直信号線V-2のそれぞれに出力された現在の画素行の電気信号を、画素ごと(画素列ごと)に順次出力させる。走査回路12は、現在の画素行の全ての電気信号を出力させると、現在の画素行におけるシーケンス203の読み出し動作を終了する(
図7の(b)および
図7の(c)参照)。
【0110】
図11に示したタイミングチャートでは、第1の撮影動作と同様に、走査回路12における遮光画素Psが配置された画素行の第3の駆動タイミングを示した。走査回路12は、第1の撮影動作と同様に、第2リセット駆動信号RST2およびPD転送駆動信号GSの制御を行わない、つまり、時刻t23~時刻t26の間の駆動タイミングと同様の駆動タイミングでそれぞれの画素を駆動することによって、遮光画素Psが配置されていない画素行に配置されたそれぞれの撮像画素Piから、信号レベルおよびリセットレベルのそれぞれの電気信号を垂直信号線V-1に出力させる。つまり、走査回路12は、第1の撮影動作と同様に、シーケンス202およびシーケンス203において、遮光画素Psが配置された画素行では、
図11に示した第3の駆動タイミングでそれぞれの画素を駆動し、遮光画素Psが配置されていない画素行では、時刻t23~時刻t26の間の駆動タイミングでそれぞれの画素を駆動することによって、それぞれの画素行に配置された画素により出力された電気信号を、画素ごとに順次出力させる。
【0111】
このようにして走査回路12は、制御部21からの制御に応じて、全画素に対して同時にシーケンス201のリセット動作(言い換えれば、露光開始動作)と、シーケンス202の転送動作とを行い、シーケンス203の読み出し動作を、画素行ごとに行う。これにより、撮像素子10は、動画像を生成するための画素信号と同時に、AF制御を行うためのAF情報を画像処理エンジン20に出力する。
【0112】
図10に戻り、時刻t3において、シーケンス203の読み出し動作による撮像素子10からの全ての画素行の画素信号の読み出し動作が完了すると、画処理部24は、第1の撮影動作と同様に、読み出した画素信号に基づいて、動画像のフレームの生成と、生成したフレームに基づくAF制御とを行う。
図10でも、第1の撮影動作と同様に、それぞれの動画像の撮影に対応するシーケンス203の読み出し動作が完了したときに、動画像のフレームの生成と、生成した動画像のフレームに基づくAF制御とを行っている。
【0113】
撮像装置1における第2の撮影動作でも、ユーザーによって開始ボタンBが再び押下される(つまり、動画像の撮影の終了の指示がある)、あるいはユーザーによってレリーズボタンRが押下される(つまり、静止画像の撮影の指示がある)まで、動画像の撮像とAF情報の取得およびAF制御とを繰り返す。
図10でも、動画像のフレームF4を生成するための動画像の撮像を行っている途中で、ユーザーによりレリーズボタンRが半押しされたものとしている。
【0114】
この場合、撮像装置1における第2の撮影動作でも、画像処理エンジン20は、静止画像の生成を開始する。第2の撮影動作でも、撮像装置1において静止画像の生成を開始すると、第1の撮影動作と同様に、制御部21は、最後に生成した動画像のフレーム(ここでは、フレームF4)に基づいて、静止画像を撮影するための撮影条件を決定する。さらに、第2の撮影動作でも第1の撮影動作と同様に、制御部21は、最後に生成した動画像のフレーム(ここでは、フレームF4)に基づいて、撮像した静止画像に対してダークシェーディング補正の処理が必要であるか否かを判断する。そして、第2の撮影動作でも第1の撮影動作と同様に、画像処理エンジン20は、ユーザーによりレリーズボタンRが全押しされた場合に、決定した(あるいはユーザーにより設定された)撮影条件で静止画像の撮像(露光)を開始する。このとき、フレームF4に基づいたAF制御も行う。
図10では、フレームF4に基づくAF制御と決定した撮影条件の設定が完了した時刻t7から静止画像の撮像(露光)を開始するものとしている。
【0115】
撮像装置1における第2の撮影動作でも、静止画像の撮像(露光)を開始すると、制御部21は、まず、シーケンス201のリセット動作を順次行わせる。そして、制御部21は、撮影条件として決定した露光期間ESが経過した時刻t8のときに、全ての画素(撮像画素Piおよび遮光画素Ps)に対して同時に、シーケンス204の転送動作を行わせる。その後、画素信号を出力させる(読み出す)タイミングになると、制御部21は、画素アレイ11の画素行ごとに、シーケンス205の読み出し動作を順次行わせる。
【0116】
シーケンス204の転送動作の駆動タイミングは、
図11に示した第3の駆動タイミングにおける時刻t23の駆動タイミングと同様である。つまり、走査回路12は、第2リセット駆動信号RST2およびPD転送駆動信号GSを“High”レベルにして制御を行わない。このため、シーケンス204の転送動作では、全ての画素(撮像画素Piおよび遮光画素Ps)において、フォトダイオードPDからフローティングディフュージョンFDに電荷が転送されるように駆動される。より具体的には、走査回路12は、時刻t8において、第3の駆動タイミングの時刻t23と同様に転送駆動信号TXを制御して、それぞれのフォトダイオードPDからそれぞれのフローティングディフュージョンFDに電荷を転送させる。このときの遮光画素Psおよび撮像画素Pi内のそれぞれの構成要素の動作は、第3の駆動タイミングの時刻t23のそれぞれの構成要素の動作と同様である。これにより、撮像画素Piでは、フォトダイオードPDiが発生して蓄積した電荷が、フローティングディフュージョンFDiに転送されて蓄積され、遮光画素Psでは、フォトダイオードPDsが発生して蓄積した暗電流を表す電荷が、フローティングディフュージョンFDsに転送されて蓄積される。この時点でも、第3の駆動タイミングと同様に、いずれの画素からも画素信号は出力されない。
【0117】
シーケンス205の読み出し動作の駆動タイミングは、
図11に示した第3の駆動タイミングにおける時刻t24~時刻t26の間の駆動タイミングと同様である。より具体的には、走査回路12は、画素信号を出力させる(読み出す)タイミングになると、第3の駆動タイミングの時刻t24と同様に選択駆動信号SELを制御し、続いて第3の駆動タイミングの時刻t25と同様に第1リセット駆動信号RST1を制御し、その後、第3の駆動タイミングの時刻t26と同様に選択駆動信号SELを制御する。このときの遮光画素Psおよび撮像画素Pi内のそれぞれの構成要素の動作は、第3の駆動タイミングにおいて対応する時刻におけるそれぞれの構成要素の動作と同様である。これにより、撮像画素Piでは、まず、フローティングディフュージョンFDiに転送されたフォトダイオードPDiが露光した被写体光の光量を表す信号レベルの電圧の電気信号が垂直信号線V-1に出力され、次に、フローティングディフュージョンFDiのリセットレベルの電荷に応じた電圧の電気信号が垂直信号線V-1に出力される。遮光画素Psでは、まず、フローティングディフュージョンFDsに転送されたフォトダイオードPDsが発生した暗電流を表す信号レベルの電圧の電気信号(暗時情報)が垂直信号線V-2に出力され、次に、フォトダイオードPDsのリセットレベルの電荷に応じた電圧の電気信号が垂直信号線V-2に出力される。
【0118】
シーケンス204の転送動作およびシーケンス205の読み出し動作における駆動タイミングは、「第2動作」の一例である。
【0119】
このようにして走査回路12は、撮像装置1における第2の撮影動作において、制御部21からの制御に応じて、全画素に対して同時にシーケンス201のリセット動作(言い換えれば、露光開始動作)と、シーケンス204の転送動作とを行い、シーケンス205の読み出し動作を、画素行ごとに行う。これにより、撮像素子10は、静止画像を生成するための画素信号を画像処理エンジン20に出力する。このとき、撮像素子10が備える画素アレイ11において遮光画素Psが配置されている画素行の画素信号には、被写体光が遮光されている状態の画素信号が含まれている。この画素信号は、上述したように、フォトダイオードPDsが、遮光された状態で流れる微弱な暗電流の大きさを表す画素信号である。
【0120】
時刻t9において、シーケンス205の読み出し動作による撮像素子10からの全ての画素行の画素信号の読み出し動作が完了すると、画処理部24は、第1の撮影動作と同様に、読み出した画素信号に基づいて、静止画像を生成する。
図10でも、第1の撮影動作と同様に、シーケンス205で読み出した画素信号に基づいて静止画像S1を生成するものとしている。このとき、画処理部24(より具体的には、ダークシェーディング補正部244)は、第1の撮影動作と同様に、読み出した画素信号に基づいて、ダークシェーディング補正の処理を行う。撮像装置1における第2の撮影動作におけるダークシェーディング補正の処理は、
図9に示した第1の撮影動作におけるダークシェーディング補正の処理と同様である。従って、撮像装置1における第2の撮影動作におけるダークシェーディング補正の処理に関する詳細な説明は省略する。
【0121】
このように、実施形態の撮像装置1では、第2の撮影動作でも、画像処理エンジン20が動画像を生成する場合には、制御部21が、動画像の撮像(露光)と同時にAF情報を取得するように撮像素子10を駆動し、静止画像を生成する場合には、制御部21が、静止画像の撮像(露光)と同時に暗時情報を取得するように撮像素子10を駆動する。これにより、実施形態の撮像装置1では、第2の撮影動作でも、撮像素子10が備える画素アレイ11の有効画素の領域内に配置された遮光画素Psを有効に活用することができる。そして、実施形態の撮像装置1では、第2の撮影動作でも、より好適なAF制御と、より好適なダークシェーディング補正の処理とを両立させることができる。
【0122】
しかも、第2の撮影動作では、それぞれの画素におけるシーケンス201のリセット動作(露光開始動作)と、シーケンス202やシーケンス204の転送動作とを、全ての画素(撮像画素Piおよび遮光画素Ps)に対して同時に行う。このため、第2の撮影動作では、撮像素子10が出力する全ての画素信号において、露光期間の開始と終了とのタイミング(露光タイミング)が同じである。さらに、第2の撮影動作では、シーケンス202の転送動作を終了してからシーケンス203の読み出し動作を開始するまでの時間が画素行ごとに異なる。つまり、それぞれのフローティングディフュージョンFDにおいて転送された電荷を保持している時間が画素行ごとに異なる。しかしながら、少なくとも遮光画素Psは遮光されているため、電荷を保持している期間に、例えば、光に起因するノイズがフローティングディフュージョンFDで発生してしまうことはない。これらのことから、第2の撮影動作では、同じ露光タイミングで露光した画素信号を利用して、より精度が高い位相差AFの処理およびダークシェーディング補正の処理を行うことができる。
【0123】
上記に述べたように、本発明を実施するための形態によれば、撮像素子が備える画素アレイにおいて、被写体を撮像するための撮像画素が配置された有効画素の領域内に、AF制御あるいはダークシェーディング補正の処理に用いられる遮光画素が配置する。そして、本発明を実施するための形態では、撮像装置が備える画像処理エンジンが、動画像の撮像と同時にAF制御を行うためのAF情報を取得する、あるいは、静止画像の撮像と同時にダークシェーディング補正の処理を行うための暗時情報を取得する。これにより、本発明を実施するための形態では、撮像素子が備える遮光画素を有効に活用することができる。
【0124】
以上、本発明の実施形態について、図面を参照して説明してきたが、具体的な構成はこの実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲においての種々の変更も含まれる。
【符号の説明】
【0125】
1・・・撮像装置、10・・・撮像素子、11・・・画素アレイ、ML-1・・・マイクロレンズ、ML-2・・・マイクロレンズ、CF・・・カラーフィルタ、Pi・・・撮像画素、V-1・・・垂直信号線、PDi・・・フォトダイオード、FDi・・・フローティングディフュージョン、T1-1・・・転送トランジスタ、T2-1・・・リセットトランジスタ、T3-1・・・増幅トランジスタ、T4-1・・・選択トランジスタ、Ps・・・遮光画素、V-2・・・垂直信号線、PDs・・・フォトダイオード、FDs・・・フローティングディフュージョン、T1-2・・・転送トランジスタ、T2-2・・・リセットトランジスタ、T3-2・・・増幅トランジスタ、T4-2・・・選択トランジスタ、T5-2・・・PDリセットトランジスタ、T6-2・・・PD転送トランジスタ、12・・・走査回路、13・・・ADC、14・・・出力部、15・・・温度センサ、20・・・画像処理エンジン、21・・・制御部、22・・・演算部、23・・・入力部、24・・・画処理部、242・・・AF処理部、244・・・ダークシェーディング補正部、25・・・メモリ、26・・・レンズ制御部、L・・・レンズ部、R・・・レリーズボタン、B・・・開始ボタン