IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ キヤノン株式会社の特許一覧

特許7417560光電変換装置、光電変換システム、輸送機器および信号処理装置
<>
  • 特許-光電変換装置、光電変換システム、輸送機器および信号処理装置 図1
  • 特許-光電変換装置、光電変換システム、輸送機器および信号処理装置 図2
  • 特許-光電変換装置、光電変換システム、輸送機器および信号処理装置 図3
  • 特許-光電変換装置、光電変換システム、輸送機器および信号処理装置 図4
  • 特許-光電変換装置、光電変換システム、輸送機器および信号処理装置 図5
  • 特許-光電変換装置、光電変換システム、輸送機器および信号処理装置 図6
  • 特許-光電変換装置、光電変換システム、輸送機器および信号処理装置 図7
  • 特許-光電変換装置、光電変換システム、輸送機器および信号処理装置 図8
  • 特許-光電変換装置、光電変換システム、輸送機器および信号処理装置 図9
  • 特許-光電変換装置、光電変換システム、輸送機器および信号処理装置 図10
  • 特許-光電変換装置、光電変換システム、輸送機器および信号処理装置 図11
  • 特許-光電変換装置、光電変換システム、輸送機器および信号処理装置 図12
  • 特許-光電変換装置、光電変換システム、輸送機器および信号処理装置 図13
  • 特許-光電変換装置、光電変換システム、輸送機器および信号処理装置 図14
  • 特許-光電変換装置、光電変換システム、輸送機器および信号処理装置 図15
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-01-10
(45)【発行日】2024-01-18
(54)【発明の名称】光電変換装置、光電変換システム、輸送機器および信号処理装置
(51)【国際特許分類】
   H04N 25/70 20230101AFI20240111BHJP
【FI】
H04N25/70
【請求項の数】 14
(21)【出願番号】P 2021101025
(22)【出願日】2021-06-17
(65)【公開番号】P2023000287
(43)【公開日】2023-01-04
【審査請求日】2022-05-18
(73)【特許権者】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】110003281
【氏名又は名称】弁理士法人大塚国際特許事務所
(72)【発明者】
【氏名】芦田 純平
(72)【発明者】
【氏名】高橋 渓輔
【審査官】三沢 岳志
(56)【参考文献】
【文献】特開2020-167542(JP,A)
【文献】特開2018-160740(JP,A)
【文献】特開2015-002400(JP,A)
【文献】特開2017-142484(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 25/70
(57)【特許請求の範囲】
【請求項1】
複数の画素が行列状に配された画素アレイと、前記画素アレイから読み出された信号を処理する信号処理部と、を含む光電変換装置であって、
前記複数の画素は、信号の読み出し方が異なる複数の駆動モードで動作可能に構成され、
前記信号処理部は、
補正値を生成するために指定された前記画素アレイの領域から、前記複数の駆動モードのうちそれぞれの画素に設定された駆動モードに基づいて前記複数の画素のうち第1画素群および第2画素群を選択する選択手段と、
前記第1画素群から読み出された信号に基づいた第1代表値と、前記第2画素群から読み出された信号に基づいた第2代表値と、に応じて前記補正値を生成する補正値生成手段と、
前記画素アレイから読み出された信号を、前記補正値に基づいて補正する補正手段と、
を含み、
前記光電変換装置は、連続したフレームにわたって前記画素アレイから信号が読み出されるように構成されており、
前記補正値生成手段は、複数のフレームでそれぞれ生成された複数の前記補正値を保持する保持手段を含み、
前記補正手段は、複数の前記補正値のうち同じフレームで生成された補正値、または、複数の前記補正値のうち1つ以上前のフレームで生成された補正値を、前記画素アレイから読み出された信号に適用可能に構成されていることを特徴とする光電変換装置。
【請求項2】
前記選択手段は、指定された前記画素アレイの領域から、前記複数の駆動モードのうちそれぞれの画素に設定された駆動モードに基づいて前記複数の画素のうち第3画素群を選択し、
前記補正手段は、前記第3画素群から読み出された信号に、複数の前記補正値のうち同じフレームで生成された補正値、または、複数の前記補正値のうち1つ以上前のフレームで生成された補正値を適用することを特徴とする請求項1に記載の光電変換装置。
【請求項3】
前記補正手段は、前記第3画素群以外から読み出された信号に前記補正値を適用しないことを特徴とする請求項2に記載の光電変換装置。
【請求項4】
前記複数の画素のそれぞれは、複数の光電変換部を含み、
前記複数の駆動モードは、前記複数の光電変換部で生成された電荷をそれぞれ加えた第1電荷に応じた信号が読み出される第1モードと、前記複数の光電変換部のうち一部の光電変換部で生成された電荷に応じた第2信号および前記第1電荷に応じた信号がそれぞれ読み出される第2モードと、を含むことを特徴とする請求項1乃至3の何れか1項に記載の光電変換装置。
【請求項5】
前記複数の画素のそれぞれは、複数の光電変換部を含み、
前記複数の駆動モードは、前記複数の光電変換部で生成された電荷をそれぞれ加えた第1電荷に応じた信号が読み出される第1モードと、前記複数の光電変換部のうち一部の光電変換部で生成された電荷に応じた第2信号および前記第1電荷に応じた信号がそれぞれ読み出される第2モードと、を含み、
前記第1画素群が、前記複数の画素のうち前記第1モードで駆動する画素によって構成され、
前記第2画素群が、前記複数の画素のうち前記第2モードで駆動する画素によって構成されることを特徴とする請求項1乃至3の何れか1項に記載の光電変換装置。
【請求項6】
前記補正値生成手段は、前記第1代表値と前記第2代表値との差分に基づいて前記補正値を生成することを特徴とする請求項に記載の光電変換装置。
【請求項7】
前記補正値生成手段は、前記第1代表値と前記第2代表値との比に基づいて前記補正値を生成することを特徴とする請求項に記載の光電変換装置。
【請求項8】
前記画素アレイは、遮光されたオプティカルブラック領域を含み、
前記第1画素群および前記第2画素群が、前記複数の画素のうち前記オプティカルブラック領域に配されている画素によって構成されていることを特徴とする請求項1乃至の何れか1項に記載の光電変換装置。
【請求項9】
前記画素アレイにおいて、前記複数の駆動モードのそれぞれの駆動モードで駆動される画素が、周期的なパターンを有するように配され、
前記選択手段は、さらに、前記周期的なパターンに基づいて前記第1画素群を選択することを特徴とする請求項1乃至の何れか1項に記載の光電変換装置。
【請求項10】
前記第1画素群が、前記画素アレイの複数の領域にわたって配されており、
前記補正値生成手段は、前記複数の領域のそれぞれに対応した複数の前記補正値を生成し、
前記複数の領域の前記画素アレイにおける位置と、複数の前記補正値と、に基づいて、前記画素アレイにおける前記複数の画素のそれぞれの位置に対応する補間補正値を生成する補間手段をさらに含み、
前記補正手段は、前記画素アレイから読み出された信号に前記補間補正値を適用して補正を行うことを特徴とする請求項1乃至の何れか1項に記載の光電変換装置。
【請求項11】
請求項1乃至10の何れか1項に記載の光電変換装置と、
前記光電変換装置から出力された信号を処理する信号処理部と、
を備えることを特徴とする光電変換システム。
【請求項12】
駆動装置を具備する輸送機器であって、請求項1乃至10の何れか1項に記載の光電変換装置を搭載し、前記光電変換装置で得られた情報に基づいて前記駆動装置を制御する制御装置を備えることを特徴とする輸送機器。
【請求項13】
信号の読み出し方が異なる複数の駆動モードで動作可能な複数の画素が行列状に配された画素アレイから読み出された信号を処理する信号処理装置であって、
補正値を生成するために指定された前記複数の画素の前記画素アレイにおける領域から、前記複数の駆動モードのうちそれぞれの画素に設定された駆動モードに基づいて前記複数の画素のうち第1画素群および第2画素群を選択する選択手段と、
前記第1画素群から読み出された信号に基づいた第1代表値と、前記第2画素群から読み出された信号に基づいた第2代表値と、に応じて前記補正値を生成する補正値生成手段と、
前記画素アレイから読み出された信号を、前記補正値に基づいて補正する補正手段と、
を含み、
前記補正値生成手段は、連続したフレームにわたって前記画素アレイから読み出された複数のフレームでそれぞれ生成された複数の前記補正値を保持する保持手段を含み、
前記補正手段は、複数の前記補正値のうち同じフレームで生成された補正値、または、複数の前記補正値のうち1つ以上前のフレームで生成された補正値を、前記画素アレイから読み出された信号に適用可能に構成されていることを特徴とする信号処理装置。
【請求項14】
前記選択手段は、指定された前記画素アレイの領域から、前記複数の駆動モードのうちそれぞれの画素に設定された駆動モードに基づいて前記複数の画素のうち第3画素群を選択し、
前記補正手段は、前記第3画素群から読み出された信号に、複数の前記補正値のうち同じフレームで生成された補正値、または、複数の前記補正値のうち1つ以上前のフレームで生成された補正値を適用することを特徴とする請求項13に記載の信号処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、光電変換装置、光電変換システム、輸送機器および信号処理装置に関する。
【背景技術】
【0002】
近年、デジタルスチルカメラやデジタルビデオカメラなどの撮像システムに搭載される撮像装置の多機能化が進んでいる。特許文献1には、信号を読み出す際に画素行によって画素を異なるモードで駆動し、撮像画像用データに加えて焦点検出用データを出力することが可能な撮像装置が示されている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2020-167542号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
画素アレイから信号を読み出す際に画素によって異なるモードで駆動した場合、読み出された信号に対する補正処理を行う際の補正量が、駆動モードごとに異なりうる。様々な駆動モードに対応可能な補正処理が望まれる。
【0005】
本発明は、補正処理の精度の向上に有利な技術を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記課題に鑑みて、本発明の実施形態に係る光電変換装置は、複数の画素が行列状に配された画素アレイと、前記画素アレイから読み出された信号を処理する信号処理部と、を含む光電変換装置であって、前記複数の画素は、信号の読み出し方が異なる複数の駆動モードで動作可能に構成され、前記信号処理部は、補正値を生成するために指定された前記画素アレイの領域から、前記複数の駆動モードのうちそれぞれの画素に設定された駆動モードに基づいて前記複数の画素のうち第1画素群および第2画素群を選択する選択手段と、前記第1画素群から読み出された信号に基づいた第1代表値と、前記第2画素群から読み出された信号に基づいた第2代表値と、に応じて前記補正値を生成する補正値生成手段と、前記画素アレイから読み出された信号を、前記補正値に基づいて補正する補正手段と、を含み、前記光電変換装置は、連続したフレームにわたって前記画素アレイから信号が読み出されるように構成されており、前記補正値生成手段は、複数のフレームでそれぞれ生成された複数の前記補正値を保持する保持手段を含み、前記補正手段は、複数の前記補正値のうち同じフレームで生成された補正値、または、複数の前記補正値のうち1つ以上前のフレームで生成された補正値を、前記画素アレイから読み出された信号に適用可能に構成されていることを特徴とする。
【発明の効果】
【0007】
本発明によれば、補正処理の精度の向上に有利な技術を提供することができる。
【図面の簡単な説明】
【0008】
図1】本実施形態の光電変換装置の構成例を示す図。
図2図1の光電変換装置の画素の構成例を示す図。
図3図1の光電変換装置の読出動作の例を示すタイミング図。
図4図1の光電変換装置の読出動作の例を示すタイミング図。
図5図1の光電変換装置の出力信号の概念を示す図。
図6図1の光電変換装置の補正部の構成例を示す図。
図7図1の光電変換装置の補正値の生成に使用する画素群の位置の例を示す図。
図8図1の光電変換装置の補正値取得部の構成例を示す図。
図9図1の光電変換装置の領域制御部の構成例を示す図。
図10図1の光電変換装置の補正適用部の構成例を示す図。
図11図1の光電変換装置の補正処理の設定例を示す図。
図12図1の光電変換装置の補正値取得部の構成例を示す図。
図13図1の光電変換装置の補正値の生成に使用する画素群の位置の例を示す図。
図14図1の光電変換装置が組み込まれた撮像システムの構成例を示す図。
図15図1の光電変換装置が組み込まれた輸送機器の構成例を示す図。
【発明を実施するための形態】
【0009】
以下、添付図面を参照して実施形態を詳しく説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
【0010】
図1図15を参照して、本開示の実施形態による光電変換装置について説明する。まず、本実施形態による光電変換装置の構造について、図1および図2を用いて説明する。図1は、本実施形態による光電変換装置100の概略構成を示すブロック図である。図2は、光電変換装置100の画素102の構成例を示す回路図である。図1に示されるように、光電変換装置100は、画素アレイ101、垂直走査回路103、制御部104、読出回路105、AD変換回路106、メモリ107、水平走査回路108、処理部109を含む。
【0011】
画素アレイ101には、複数の行および複数の列にわたって、複数の画素102が行列状に配されている。図1には、第0列から第m列まで、および、第0行から第n列までの、(m+1)列×(n+1)行に配列された画素102を有する画素アレイ101が示されている。画素102のそれぞれには、符号Pに対応する列番号と行番号とを示す座標を付記した符号P(m、n)が記載されている。画素102のそれぞれは、複数の光電変換部を含む。より具体的には、本実施形態において、画素102のそれぞれは、2つの光電変換部112A、112Bを含む。光電変換装置100は、光電変換部112Aから出力される信号と光電変換部112Bから出力される信号とを比較することによって位相差の検知が可能である。本実施形態において、画素102のそれぞれは、2つの光電変換部112A、112Bを備えるが、3つ以上の光電変換部112を備えていてもよい。
【0012】
画素アレイ101には、行ごとに行選択線110が配されている。行選択線110のそれぞれは、対応する行に配された(m+1)個の画素102に接続されている。行選択線110は、垂直走査回路103に接続されている。
【0013】
画素アレイ101には、列ごとに垂直出力線111が配されている。垂直出力線111のそれぞれは、対応する列に配された(n+1)個の画素102に接続されている。垂直出力線111は、読出回路105に接続されている。
【0014】
垂直走査回路103は、画素アレイ101の画素102に対して行単位で駆動信号を与える動作(垂直走査)を行うための制御回路である。垂直走査回路103によって選択された行において、選択された行に含まれる(m+1)個の画素102から、それぞれ対応する列の垂直出力線111を介して同時に画素102から信号が出力される。このようにして画素アレイ101から行単位で出力された信号(アナログ信号)は、読出回路105に入力される。
【0015】
読出回路105は、画素アレイ101から読み出されたアナログの信号に対して所定の処理を行う回路である。読出回路105は、画素アレイ101の各列(垂直出力線111)に対応する複数の増幅回路や複数の信号保持回路を含みうる。例えば、読出回路105は、画素アレイ101の各列の垂直出力線111から出力されるアナログの信号を対応する列の増幅回路で増幅し、増幅した信号を対応する列の信号保持回路で保持する。
【0016】
AD変換回路106は、読出回路105から出力される各列の信号をアナログ信号からデジタル信号に変換する回路である。メモリ107は、AD変換回路106でAD変換された各列のデジタルの信号を一時的に保持する信号保持回路である。
【0017】
水平走査回路108は、メモリ107の各列の列メモリに記憶されたデジタル画素信号を処理部109に出力するための制御信号をメモリ107に供給する回路である。すなわち、水平走査回路108によってアドレス指定された列の列メモリに記憶されたデジタルの信号がメモリ107から順次読み出され、処理部109へと転送される。
【0018】
処理部109は、メモリ107から読み出されたデジタルの信号に対して所定の処理を行う。処理部109が行う処理には、デジタル相関二重サンプリング(CDS:Correlated Double Sampling)や、後述する補正処理などが含まれる。また、処理部109は、LVDS(Low Voltage Differential Signaling)などの外部インターフェースを含み、処理後のデジタル信号を光電変換装置100の外部へと出力する。
【0019】
制御部104(タイミングジェネレータとも呼ばれうる。)は、垂直走査回路103、読出回路105、AD変換回路106、メモリ107、水平走査回路108、処理部109に対して、動作やそのタイミングを制御する制御信号を供給するための制御回路である。これら制御信号の少なくとも一部は、光電変換装置100の外部から供給されてもよい。また、制御部104には、外部からの通信によって光電変換装置100の設定情報を与えることができる。この場合、制御部104は、外部から入力された設定情報に基づき、垂直走査回路103、読出回路105、AD変換回路106、メモリ107、水平走査回路108、処理部109の制御を行う。制御部104の機能は、CPUやMPUなどがプログラムを読み出して実行することによって実現されてもよいし、ASICやFPGAなどの機能を実現する回路によって実現されてもよい。
【0020】
ここで、光電変換部112Aから得られる信号、すなわち光電変換部112Aで生じた電荷に応じた信号をA像信号と呼ぶ。また、光電変換部112Bから得られる信号、すなわち光電変換部112Bで生じた電荷に応じた信号をB像信号と呼ぶ。A像信号およびB像信号は、例えば、焦点検出用の信号として用いることができる。また、A像信号とB像信号とを合成した信号、すなわち光電変換部112Aで生じた電荷と光電変換部112Bで生じた電荷とを合成することによって得られる電荷に応じた信号をA+B像信号と呼ぶ。A+B像信号は、例えば、撮像画像用の信号として用いることができる。
【0021】
また、画素アレイ101を構成する複数の行のうち、A像信号とA+B像信号とが読み出される画素102を含む行を、焦点検出用データ行と呼ぶ。また、画素アレイ101を構成する複数の行のうち、画素102からA+B像信号のみが読み出される行を、撮像画像用データ行と呼ぶ。本実施形態による光電変換装置100では、画素アレイ101内に焦点検出用データ行と撮像画像用データ行とが、撮像パラメータ(撮像条件)などに応じて適宜設定される。
【0022】
画素102のそれぞれは、例えば、図2に示される回路によって構成されうる。図2に示されるように、画素102のそれぞれは、2つのフォトダイオードPDA、PDB、転送トランジスタM1A、M1B、リセットトランジスタM2、増幅トランジスタM3、選択トランジスタM4を含みうる。
【0023】
2つのフォトダイオードPDA、PDBは、上述の光電変換部112A、112Bにそれぞれ対応している。1つの画素102のフォトダイオードPDA、PDBは、1つのマイクロレンズ(図示せず)を共有し、撮像レンズの射出瞳の異なる瞳領域を通過した光が入射するように構成されている。これによって、フォトダイオードPDAで生じた電荷に基づく信号とフォトダイオードPDBで生じた電荷に基づく信号とは、焦点距離検出用の信号として使用することができる。また、フォトダイオードPDAで生じた電荷とフォトダイオードPDBで生じた電荷とをそれぞれ加えた総電荷に基づく信号は、画像取得用の信号として使用することができる。
【0024】
フォトダイオードPDAは、アノードが接地ノード(GND)に接続され、カソードが転送トランジスタM1Aのソースに接続されている。フォトダイオードPDBは、アノードが接地ノード(GND)に接続され、カソードが転送トランジスタM1Bのソースに接続されている。転送トランジスタM1A、M1Bのドレインは、リセットトランジスタM2のソースおよび増幅トランジスタM3のゲートに接続されている。転送トランジスタM1A、M1Bのドレイン、リセットトランジスタM2のソースおよび増幅トランジスタM3のゲートの接続ノードは、いわゆるフローティングディフュージョンFDである。フローティングディフュージョンFDは、容量成分を含み、電荷保持部として機能するとともに、この容量成分によって電荷電圧変換部を構成する。リセットトランジスタM2のドレインおよび増幅トランジスタM3のドレインは、電源ノード(電圧VDD)に接続されている。増幅トランジスタM3のソースは、選択トランジスタM4のドレインに接続されている。選択トランジスタM4のソースは、垂直出力線111に接続されている。ここで、トランジスタの2つの主端子におけるソースおよびドレインの呼称は、トランジスタの導電型や着目する機能などに応じて異なることがあり、上述のソースおよびドレインは逆の名称で呼ばれることもある。
【0025】
各行の行選択線110は、転送トランジスタM1Aのゲートに接続された信号線、転送トランジスタM1Bのゲートに接続された信号線、リセットトランジスタM2のゲートに接続された信号線、選択トランジスタM4のゲートに接続された信号線を含む。転送トランジスタM1Aのゲートに接続された信号線には、垂直走査回路103から、制御信号PTXAが供給される。転送トランジスタM1Bのゲートに接続された信号線には、垂直走査回路103から、制御信号PTXBが供給される。リセットトランジスタM2のゲートに接続された信号線には、垂直走査回路103から、制御信号PRESが供給される。選択トランジスタM4のゲートに接続された信号線には、垂直走査回路103から、制御信号PSELが供給される。それぞれのトランジスタがN型トランジスタで構成される場合、垂直走査回路103からハイレベルの制御信号が供給されると、対応するトランジスタがオン(導通)状態になり、垂直走査回路103からローレベルの制御信号が供給されると対応するトランジスタがオフ(不導通)状態になる。
【0026】
画素アレイ101に光が入射すると、それぞれの画素102のフォトダイオードPDA、PDBは、入射光の光量に応じた量の電荷を生成(光電変換)するとともに、生じた電荷を蓄積する。転送トランジスタM1A、M1Bは、オン動作することによってフォトダイオードPDA、PDBの電荷をフローティングディフュージョンFDに転送する。フローティングディフュージョンFDは、フォトダイオードPDA、PDBから転送された電荷を保持する。A像信号を読み出す際には、フォトダイオードPDAにおいて光電変換された電荷が、転送トランジスタM1Aを介してフローティングディフュージョンFDに転送される。B像信号を読み出す際には、フォトダイオードPDBにおいて光電変換された電荷が、転送トランジスタM1Bを介してフローティングディフュージョンFDに転送される。A+B像信号を読み出す際には、フォトダイオードPDA、PDBにて光電変換された総電荷が、転送トランジスタM1A、M1Bを介してフローティングディフュージョンFDに転送される。これによって、フローティングディフュージョンFDは、その容量成分による電荷電圧変換によって、フォトダイオードPDA、PDBから転送された電荷の量に応じた電圧になる。
【0027】
増幅トランジスタM3には、ドレインに電圧VDDが供給され、ソースに選択トランジスタM4を介して図示しない電流源からバイアス電流が供給される構成になっており、ゲートを入力ノードとする増幅部(ソースフォロワ回路)を構成する。これによって増幅トランジスタM3は、フローティングディフュージョンFDの電圧に基づく信号を、選択トランジスタM4を介して垂直出力線111に出力する。リセットトランジスタM2は、オン動作することによってフローティングディフュージョンFDを電圧VDDに応じた電圧にリセットする。
【0028】
画素102の転送トランジスタM1A、M1B、リセットトランジスタM2および選択トランジスタM4は、垂直走査回路103から供給される制御信号PTXA、PTXB、PRES、PSELによって行単位で制御される。制御信号PSELによって選択された行(選択行)に接続された複数の画素102の画素信号は、各列の垂直出力線111に同時に出力される。
【0029】
次に、本実施形態による撮像装置の画素アレイ101の動作について、図3および図4を用いて説明する。図3は、撮像画像用データ行に属する画素102から信号を読み出す場合のタイミング図である。図4は、焦点検出用データ行に属する画素102から信号を読み出す場合のタイミング図である。図3および図4には、一例として、垂直走査回路103によってn行目の画素102が選択された際の読出動作が示されている。画素102のそれぞれのトランジスタは、上述のように、垂直走査回路103からハイレベルの制御信号が供給されるとオン状態になり、垂直走査回路103からローレベルの制御信号が供給されるとオフ状態になるものとする。
【0030】
まず、撮像画像用データ行に対する読出動作について、図3を用いて説明する。図3には、水平同期信号SYNC、制御信号PSEL(n)、PRES(n)、PTXA(n)、PTXB(n)、AD変換の期間、水平走査パルス信号が示されている。撮像画像用データ行からのデータの読み出しは、フォトダイオードPDA、PDBで生成された電荷を合成することによって得られる電荷に応じたA+B像信号を読み出す駆動モードで行われる。一方、撮像画像用データ行からのデータの読み出しにおいて、フォトダイオードPDAのみで生成された電荷に応じたA像信号、または、フォトダイオードPDBのみで生成された電荷に応じたB像信号を読み出す駆動モードは実施されない。
【0031】
時刻t301において、制御部104から垂直走査回路103に供給される水平同期信号SYNCがローレベルからハイレベルへと遷移する。この水平同期信号SYNCの立ち上がりに応じて、垂直走査回路103は、第n行の制御信号PSEL(n)をローレベルからハイレベルへと制御する。これによって、第n行に属する画素102は、選択トランジスタM4がオン状態になり、選択トランジスタM4を介して垂直出力線111に信号を出力可能な状態になる。すなわち、垂直走査回路103からの制御信号PSEL(n)によって第n行が選択される。
【0032】
次に、時刻t302において、垂直走査回路103は、選択された行、すなわち第n行の制御信号PRES(n)をローレベルからハイレベルへと制御する。これによって、第n行に属する画素102は、リセットトランジスタM2がオン状態になり、フローティングディフュージョンFDが電圧VDDに応じた電位にリセットされる。
【0033】
続く時刻t303において、垂直走査回路103は、第n行の制御信号PRES(n)をハイレベルからローレベルへと制御する。これによって、第n行に属する画素102は、リセットトランジスタM2がオフ状態になり、フローティングディフュージョンFDのリセットが解除される。このとき、第n行に属する画素102の選択トランジスタM4はオン状態のままであるため、フローティングディフュージョンFDのリセットが解除された際の増幅トランジスタM3のゲートの電位に応じた出力信号が、垂直出力線111に出力される。このようにして画素102から出力されるリセットレベルの画素信号を、N信号(ノイズ信号)と呼ぶ。
【0034】
次いで、時刻t304から時刻t305の期間は、垂直出力線111に出力されたN信号に対してAD変換処理を行う期間である。垂直出力線111に出力されたN信号は、読出回路105に読み出され、AD変換回路106でデジタル信号に変換される。AD変換回路106によって得られたN信号のデジタル信号は、メモリ107に保持される。時刻t304から時刻t305において行われる動作、すなわちN信号をデジタル信号に変換する動作をN変換と呼ぶ。
【0035】
次に、時刻t306において、垂直走査回路103は、第n行の制御信号PTXA(n)、PTXB(n)をそれぞれローレベルからハイレベルへと制御する。これによって、第n行に属する画素102は、転送トランジスタM1A、M1Bがオン状態になり、フォトダイオードPDA、PDBに蓄積されていた電荷がフローティングディフュージョンFDに転送される。これによって、フローティングディフュージョンFD、すなわち増幅トランジスタM3のゲートの電位が、フォトダイオードPDA、PDBから転送された電荷の量に応じた電位になる。このとき、第n行に属する画素102の選択トランジスタM4はオン状態のままであるため、垂直出力線111には、フォトダイオードPDA、PDBで発生した電荷の総量に応じた信号であるA+B像信号が出力される。
【0036】
続く時刻t307において、垂直走査回路103は、第n行の制御信号PTXA(n)、PTXB(n)をそれぞれハイレベルからローレベルへと制御する。これによって、第n行に属する画素102の転送トランジスタM1A、M1Bがオフ状態になる。転送トランジスタM1A、M1Bがオフ状態になった後も、垂直出力線111にはA+B像信号が出力され続ける。
【0037】
次いで、時刻t308から時刻t309の期間は、垂直出力線111に出力されたA+B像信号に対してAD変換処理を行う期間である。垂直出力線111に出力されたA+B像信号は、読出回路105に読み出され、AD変換回路106でデジタル信号に変換される。AD変換回路106によって得られたA+B像信号のデジタル信号は、メモリ107のN信号が保持されたメモリ領域とは異なるメモリ領域に保持される。時刻t308から時刻t309において行われる動作、すなわちA+B像信号をデジタル信号に変換する動作をA+B変換と呼ぶ。
【0038】
続く時刻t310から時刻t311の期間は、メモリ107に保持されたN信号およびA+B像信号を処理部109へと転送する期間である。水平走査回路108は、メモリ107に水平走査パルス信号を出力する。メモリ107は、水平走査パルス信号で選択されたアドレス(列)に対応するN信号およびA+B像信号を処理部109へと転送する。この動作を水平走査パルス信号が選択するアドレスを変えながら第0列から第m列まで繰り返し行う(水平走査を行う)ことによって、読み出し対象になっている行の1行分のN信号とA+B像信号とを読み出すことができる。処理部109は、A+B像信号から当該A+B像信号に対応するN信号を減算する処理を行い、A+B像信号に重畳するノイズを抑制する。
【0039】
その後、垂直走査回路103は、第n行の制御信号PSEL(n)をハイレベルからローレベルへと制御して第n行の選択を解除し、撮像画像用データ行の1行分の読出動作を完了し、次の行の読出動作へと移行する。
【0040】
次に、焦点検出用データ行に対する読出動作について、図4を用いて説明する。図4には、水平同期信号SYNC、制御信号PSEL(n)、PRES(n)、PTXA(n)、PTXB(n)、AD変換の期間、水平走査パルス信号が示されている。
【0041】
焦点検出用データ行からの読み出しは、フォトダイオードPDAで生成された電荷に応じたA像信号と、フォトダイオードPDA、PDBで生成された電荷を合成することによって得られる合成電荷に応じたA+B像信号と、を読み出す駆動モードで行われる。
【0042】
時刻t401において、制御部104から垂直走査回路103に供給される水平同期信号SYNCがローレベルからハイレベルへと遷移する。この水平同期信号SYNCの立ち上がりに応じて、垂直走査回路103は、第n行の制御信号PSEL(n)をローレベルからハイレベルへと制御する。これによって、第n行に属する画素102の選択トランジスタM4がオン状態になり、第n行が選択される。
【0043】
次に、時刻t402において、垂直走査回路103は、第n行の制御信号PRES(n)をローレベルからハイレベルへと制御する。これによって、第n行に属する画素102は、リセットトランジスタM2がオン状態になり、フローティングディフュージョンFDが電圧VDDに応じた電位にリセットされる。
【0044】
続く時刻t403において、垂直走査回路103は、第n行の制御信号PRES(n)をハイレベルからローレベルへと制御する。これによって、第n行に属する画素102は、リセットトランジスタM2がオフ状態になり、フローティングディフュージョンFDのリセットが解除される。このとき、第n行に属する画素102の選択トランジスタM4はオン状態のままであるため、リセットレベルの画素信号(N信号)が垂直出力線111に出力される。
【0045】
次いで、時刻t404から時刻t405の期間は、垂直出力線111に出力されたN信号に対してAD変換処理(N変換)を行う期間である。垂直出力線111に出力されたN信号は、読出回路105に読み出され、AD変換回路106でデジタル信号に変換される。AD変換回路106によって得られたN信号のデジタル信号は、メモリ107に保持される。
【0046】
次の時刻t406において、垂直走査回路103は、第n行の制御信号PTXA(n)をローレベルからハイレベルへと制御する。これによって、第n行に属する画素102は、転送トランジスタM1Aがオン状態になり、フォトダイオードPDAに蓄積されていた電荷がフローティングディフュージョンFDに転送される。これによって、フローティングディフュージョンFD、すなわち増幅トランジスタM3のゲートの電位が、フォトダイオードPDAから転送された電荷の量に応じた電位になる。このとき、第n行に属する画素102の選択トランジスタM4はオン状態のままであるため、垂直出力線111には、フォトダイオードPDAで発生した電荷の量に応じた画素信号であるA像信号が出力される。
【0047】
続く時刻t407において、垂直走査回路103は、第n行の制御信号PTXA(n)をハイレベルからローレベルへと制御する。これによって、第n行に属する画素102の転送トランジスタM1Aがオフ状態になる。転送トランジスタM1Aがオフ状態になった後も、垂直出力線111にはA像信号が出力され続ける。
【0048】
次いで、時刻t408から時刻t409の期間は、垂直出力線111に出力されたA像信号に対してAD変換処理を行う期間である。垂直出力線111に出力されたA像信号は、読出回路105に読み出され、AD変換回路106でデジタル信号に変換される。AD変換回路106によって得られたA像信号のデジタル信号は、メモリ107のN信号が保持されたメモリ領域とは異なるメモリ領域に保持される。時刻t408から時刻t409において行われる動作、すなわちA像信号をデジタル信号に変換する動作をA変換と呼ぶ。
【0049】
続く時刻t410から時刻t411の期間は、メモリ107に保持されたN信号およびA像信号を処理部109へと転送する期間である。水平走査回路108は、メモリ107に水平走査パルス信号を出力する。メモリ107は、水平走査パルス信号で選択されたアドレス(列)に対応するN信号およびA像信号を処理部109へと転送する。この動作を水平走査パルス信号が選択するアドレスを変えながら第0列から第m列まで繰り返し行う(水平走査を行う)ことによって、読み出し対象になっている行の1行分のN信号とA像信号とを読み出すことができる。
【0050】
次に、時刻t412において、制御部104から垂直走査回路103に供給される水平同期信号SYNCが、再びローレベルからハイレベルへと遷移する。このとき、第n行に属する画素102の選択トランジスタM4はオン状態のままであり、第n行が選択された状態が維持される。
【0051】
続く時刻t413から時刻t414の期間において、垂直走査回路103は、第n行の制御信号PRES(n)をローレベルのまま維持する。すなわち、時刻t413から時刻t414の期間では、フローティングディフュージョンFDのリセットおよびN変換を実施しない。フローティングディフュージョンFDには、時刻t406から時刻t415の期間、フォトダイオードPDAから転送された電荷がそのまま保持された状態である。
【0052】
次いで、時刻t415において、垂直走査回路103は、第n行の制御信号PTXA(n)、PTXB(n)をローレベルからハイレベルへと制御する。これによって、第n行に属する画素102は、転送トランジスタM1A、M1Bがオン状態になり、フォトダイオードPDBに蓄積されていた電荷がフローティングディフュージョンFDに転送される。これによって、フローティングディフュージョンFDでは、フォトダイオードPDAから転送された電荷に、フォトダイオードPDBから転送された電荷が加算される。フローティングディフュージョンFDの電位、すなわち増幅トランジスタM3のゲートの電位は、フォトダイオードPDA、PDBから転送された電荷の総量に応じた電位になる。このとき、第n行に属する画素102の選択トランジスタM4はオン状態のままであるため、垂直出力線111には、フォトダイオードPDA、PDBで発生した電荷の総量に応じた画素信号であるA+B像信号が出力される。
【0053】
次に、時刻t416において、垂直走査回路103は、第n行の制御信号PTXA(n)、PTXB(n)をハイレベルからローレベルへと制御する。これによって、第n行に属する画素102の転送トランジスタM1A、M1Bがオフ状態になる。転送トランジスタM1A、M1Bがオフ状態になった後も、垂直出力線111にはA+B像信号が出力され続ける。
【0054】
続く時刻t417から時刻t418の期間は、垂直出力線111に出力されたA+B像信号に対してAD変換処理(A+B変換)を行う期間である。垂直出力線111に出力されたA+B像信号は、読出回路105に読み出され、AD変換回路106でデジタル信号に変換される。AD変換回路106によって得られたA+B像信号のデジタル信号は、メモリ107のA像信号を保持していたメモリ領域と同じメモリ領域に保持されてもよい。
【0055】
次いで、時刻t419から時刻t420の期間は、メモリ107に保持されたN信号およびA+B像信号を処理部109へと転送する期間である。水平走査回路108は、メモリ107に水平走査パルス信号を出力する。メモリ107は、水平走査パルス信号で選択されたアドレス(列)に対応するN信号およびA+B像信号を処理部109へと転送する。この動作を水平走査パルス信号が選択するアドレスを変えながら第0列から第m列まで繰り返し行う(水平走査を行う)ことによって、読み出し対象になっている行の1行分のN信号とA+B像信号とを読み出すことができる。
【0056】
このようにして、読み出し対象になっている行の1行分のA像信号と、当該A像信号に対応するN信号と、A+B像信号と、当該A+B像信号に対応するN信号と、を読み出すことができる。
【0057】
処理部109は、A像信号から当該A像信号に対応するN信号を減算する処理を行い、A像信号に重畳するノイズを抑制する。また、処理部109は、A+B像信号から当該A+B像信号に対応するN信号を減算する処理を行い、A+B像信号に重畳するノイズを抑制する。焦点検出を行うために必要になるB像信号は、A+B像信号からA像信号を減算することによって得ることができる。
【0058】
その後、垂直走査回路103は、第n行の制御信号PSEL(n)をハイレベルからローレベルへと制御して第n行の選択を解除し、焦点検出用データ行の1行分の読出動作を完了し、次の行の読出動作へと移行する。
【0059】
撮像画像用データ行の画素102から画素信号を読み出す際には、図3に示したように、A+B像信号を読み出す。一方、焦点検出用データ行の画素102から画素信号を読み出す際には、図4に示すように、同じ行からA像信号とA+B像信号とを読み出す。
【0060】
図5(a)、5(b)は、本実施形態の光電変換装置100における読出動作を概念的に説明する図である。図5(a)は、画素アレイ101の構成例を示している。図5(b)は、光電変換装置100から出力される信号を、水平同期信号SYNCを基準に改行しながら、出力される順番で左から順に並べた概念図である。図5(b)における水平方向の幅が、水平同期信号SYNCの間隔で規定される1水平期間の長さに対応している。
【0061】
画素アレイ101を構成する複数の画素102は、フォトダイオードPDA、PDBが遮光されていない受光画素と、フォトダイオードPDA、PDBが遮光されたオプティカルブラック(OB)画素と、を含む。画素アレイ101のうち、受光画素が配された領域が受光画素領域502であり、OB画素が配された領域が基準画素領域(オプティカルブラック領域とも言う)501である。図5(a)、5(b)において、基準画素領域501と受光画素領域502とを視覚的に区別しやすいように、基準画素領域501にドットパターンが付されている。基準画素領域501には、任意の領域を設定することができ、設定した領域は、受光画素の出力データに対する補正処理において用いられる補正値(クランプ値)を生成するために使用することができる。この領域をクランプ値取得領域と呼ぶ。
【0062】
また、基準画素領域501のうち、画素アレイ101の上側の辺に接する領域をVOB画素領域506とよび、画素アレイ101の左側の辺に接する領域をHOB画素領域507と呼ぶ。VOB画素領域506は、受光画素領域502の受光画素が配された行とは異なる行に配されたOB画素を含む領域である。HOB画素領域507は、受光画素領域502の受光画素が配された行と同じ行の異なる列に配されたOB画素を含む領域である。一例では、クランプ値取得領域は、VOB画素領域506のうちの一部の行に設定される。
【0063】
図5(b)は、画素アレイ101から読み出された画素信号の内訳が示されている。図5(b)において、撮像画像用データ行から読み出された信号と焦点検出用データ行から読み出された信号とを視覚的に区別しやすいように、焦点検出用データ行から読み出された信号に線影を付している。例えば、画素アレイ101のある撮像画像用データ行から、図3に示されるタイミングに従って、水平期間503の間にA+B像信号が出力される。また、画素アレイ101のある焦点検出用データ行から、図4に示されるタイミングに従って、水平期間504の間にA像信号が出力され、水平期間505の間にA+B像信号が出力される。このように、本実施形態による光電変換装置100の読出動作において、撮像画像用データの出力中に焦点検出用データが離散的に出力される。
【0064】
次に、処理部109において行われる信号処理について説明する。処理部109では、まず、A+B像信号から当該A+B像信号に対応するN信号を減算する処理が行われる。これによって、A+B像信号からノイズが抑制される。次に、ノイズが抑制されたA+B像信号に対して、後述する汎用補正処理が実施される。その後に、基準画素領域501から生成されたクランプ値を減算する処理が行われる。このクランプ値を減算する処理は、黒レベルを基準レベルに合わせる補正処理である。
【0065】
図6には、本実施形態の光電変換装置100における汎用補正処理を実施する処理部109に配された補正部600の構成例を示すブロック図が示されている。補正部600に入力された信号に対して、補完部601、補正値取得部602、補正適用部603を含む補正部600によって汎用補正処理が実施される。補正部600を含む処理部109の機能は、CPUやMPUなどがプログラムを読み出して実行することによって実現されてもよいし、ASICやFPGAなどの機能を実現する回路によって実現されてもよい。
【0066】
補完部601は、故障や突発性のノイズなどによって外れ値をもった信号(キズデータと呼ばれうる。)が後述する汎用補正処理に影響しないようにするために、キズデータの値を基準値に置き替える。補完部601は、例えば、画素アレイ101から出力され補正部600に入力された信号のうち所定の閾値を超える信号データをキズデータとして検出できる。基準値は、例えば、所定の領域内の平均値や中央値を用いることができる。
【0067】
補正値取得部602は、補正値を生成するために指定された画素アレイ101の領域から出力された信号から補正値を生成する。図6に示されるように、複数の補正値取得部602a、602bが、補正部600に配されていてもよい。複数の補正値取得部602a、602bが補正部600に配されている場合、複数の補正値取得部602a、602bのそれぞれが、独立して補正値を求めることができる。補正適用部603は、画素アレイ101から読み出された信号を、補正値取得部602が生成した補正値に基づいて補正する。
【0068】
以下、上述のように、撮像画像用のデータ(A+B像信号)を出力する駆動モードと、焦点検出用(A像信号およびA+B像信号)を出力する駆動モードと、でそれぞれの画素102の駆動が行われる場合を例に説明する。図7は、補正値を生成するために指定された画素アレイ101の領域Pos、Neg、および、補正値を適用するために指定された画素アレイの領域Corの例を示す図である。領域Posと領域Negとは、図7に示されるように、一部が重なるように指定されていてもよいし、異なる場所が指定されていてもよいし、同じ場所が指定されていてもよい。それぞれの領域Pos、Neg、Corの指定は、ユーザが適宜指定してもよいし、ユーザによって設定された撮像パラメータ(それぞれの画素行における駆動モードや露光時間、読み出す際のゲインの設定など)に応じて、後述する領域制御部701が設定してもよい。
【0069】
補正値取得部602について、図8を用いて詳細に説明する。補正値取得部602は、領域制御部701、代表値生成部702、703、補正値生成部704を含む。領域制御部701は、補正値を生成するために指定された画素アレイ101の領域Pos、Negから、複数の駆動モードのうちそれぞれの画素に設定された駆動モードに基づいて複数の画素102のうち補正値の生成に信号を使用する画素群を選択する。
【0070】
代表値生成部702は、領域Posから選択された画素群から読み出された信号に基づいた領域Pos代表値を生成する。代表値生成部703は、領域Negから選択された画素群から読み出された信号に基づいた領域Neg代表値を生成する。領域Pos代表値および領域Neg代表値は、例えば、領域Posおよび領域Negから選択された画素群からそれぞれ読み出された信号の平均値や中央値でありうる。
【0071】
補正値生成部704は、領域Pos代表値と、領域Neg代表値と、に応じて補正値を生成する。補正値生成部704は、例えば、領域Pos代表値と領域Neg代表値との差分を補正値として算出してもよい。また、例えば、補正値生成部704が、領域Pos代表値と領域Neg代表値との差分に所定の係数を乗算するなど調整演算を行うことによって、補正値が生成されてもよい。代表値生成部702、703および補正値生成部704は、協働して、領域Pos代表値を生成するために選択された画素群から領域Pos代表値を生成し、領域Neg代表値を生成するために選択された画素群から領域Neg代表値を生成し、領域Pos代表値と領域Neg代表値とに応じて補正値を生成する補正値生成手段として機能する。
【0072】
補正値生成部704は、複数のフレームでそれぞれ生成された複数の補正値を保持する保持部705を含んでいてもよい。光電変換装置100は、連続したフレームにわたって画素アレイ101から信号が読み出されるように構成されうる。これによって、補正部600は、複数の補正値のうち同じフレームで生成された補正値、または、複数の補正値のうち1つ以上前のフレームで生成された補正値を、画素アレイ101から読み出された信号に適用可能に構成される。このように、保持部705は、複数のフレームでそれぞれ生成された複数の補正値を保持する保持手段として機能する。
【0073】
例えば、図8に示されるように、補正値取得部602が、補正値を保持する2つの保持部705を備え、現フレームの信号から取得した補正値と1つ前のフレームの信号から取得した補正値との何れかを、画素アレイ101から出力された信号に適用できてもよい。例えば、撮像パラメータなどの設定に基づいて、何れのフレームで取得した補正値を出力するかが選択されうる。
【0074】
図9を用いて領域制御部701について説明する。領域制御部701は、位置設定およびフラグ設定を組み合わせて、領域Posから領域Pos代表値を生成するための画素群を選択する。同様に、領域制御部701は、位置設定およびフラグ設定を組み合わせて、領域Negから領域Neg代表値を生成するための画素群を選択する。
【0075】
位置設定は、信号を出力した画素102の画素アレイ101における座標に基づく領域判定である。例えば、画素アレイ101内に矩形領域を指定(垂直方向および水平方向の開始と終了を指定)し、その領域内の画素102から出力された信号を領域Pos、領域Negから出力された信号であると判定する。
【0076】
フラグ設定は、画素102から出力される信号に付随して入力されたフラグ(メタデータ)が、所定の値に一致するか否かを判定する。領域制御部701は、例えば、フラグが一致した信号を、領域Pos代表値、領域Neg代表値をそれぞれ生成するための画素群として選択する。フラグは、画素102の駆動モードなど信号の特性を識別するものである。例えば、フラグは、A像信号であるかA+B像信号であるかを示す信号であってもよい。また、例えば、フラグは、焦点検出用の駆動モードで読み出された行の画素102の信号であるか、撮像画像用の駆動モードで読み出された行の画素102の信号であるかを示す信号であってもよい。さらに、例えば、フラグは、1つの画素出力に対して異なるゲインで出力するなど、それぞれの駆動モードにおけるゲインを識別する信号であってもよい。また、例えば、フラグは、VOB画素領域506、HOB画素領域507、受光画素領域502の何れの画素から出力された信号であるかを示す信号であってもよい。また、例えば、フラグとして、垂直ブランキング期間中であるか否かを示す信号、フレーム番号などが挙げられる。また、フラグとして、当該画素のみならず周囲の画素の駆動モード(例えば、焦点検出用の画素に隣接する画素か否かなど)を含めてもよい。
【0077】
領域制御部701は、位置設定およびフラグ設定を組み合わせることによって、画素アレイ101に配される複数の画素102のうち領域Pos代表値、領域Neg代表値をそれぞれ生成するための画素群を構成する画素102を最終判定する。例えば、位置設定によって画素アレイ101の領域Posの位置判定が行われ、フラグ設定によって、領域Posから撮像画素用の駆動モードで信号を読み出された画素102によって構成される領域Pos代表値を生成するための画素群が選択される。このように、領域制御部701は、補正値を生成するために指定された画素アレイ101の領域Posから、複数の駆動モードのうちそれぞれの画素102に設定された駆動モードに基づいて複数の画素のうち領域Pos代表値を生成するための画素群を選択する選択手段として機能する。
【0078】
領域制御部701は、位置設定およびフラグ設定だけではなく、さらに、パターン設定を組み合わせて、領域Pos代表値、領域Neg代表値をそれぞれ生成するための画素群を選択してもよい。画素アレイ101において、図5(b)に示されるように、複数の駆動モードのそれぞれの駆動モードで駆動される画素102が、周期的なパターンを有するように配される場合がある。パターン設定は、所定の周期的なパターンに基づいて、領域Pos代表値、領域Neg代表値をそれぞれ生成するための画素群を選択する。例えば、パターン設定を用いる事で、図5(b)に示されるパターンにおいて、焦点検出用の駆動モードで信号が読み出される画素行の前後行を、領域Pos代表値や領域Neg代表値を生成するための画素群として選択できるなど、柔軟な設定が可能になる。
【0079】
次いで、補正適用部603について、図10を用いて説明する。補正適用部603は、領域制御部801、適用部802を含む。領域制御部801は、領域制御部701と同様の構成を有しうる。領域制御部801は、指定された画素アレイ101の領域Corから、複数の駆動モードのうちそれぞれの画素102に設定された駆動モードに基づいて複数の画素102のうち補正値取得部602によって生成された補正値を適用する画素群を選択する。領域制御部801は、上述のように、位置設定、フラグ設定、パターン設定などを組み合わせて、補正値を適用する領域Cor内に配された画素によって構成される画素群を選択する。
【0080】
適用部802は、領域制御部801によって選択された画素群を構成する画素102から出力された信号に対して、それぞれ補正値を適用する。例えば、適用部802は、領域制御部801によって選択された画素102から出力された信号に対して、補正値取得部602によって生成された補正値を加算、減算、乗算、除算するなど、四則演算を用いて補正を行ってもよい。例えば、補正値生成部704において、領域Pos代表値と領域Neg代表値との差分に基づいて補正値を生成する。この場合、適用部802は、領域制御部801によって選択された画素102から読み出された信号に対して、補正値を加算してもよい。また、例えば、補正値生成部704において、領域Pos代表値と領域Neg代表値との比に基づいて補正値を生成する。この場合、適用部802は、補正値を乗算することによってゲイン成分を補正できる。このように、補正適用部603は、画素アレイ101から読み出された信号を、補正値に基づいて補正する補正手段として機能する。
【0081】
また、補正適用部603の適用部802は、領域制御部801によって選択された画素群以外から読み出された信号に補正値を適用しなくてもよい。例えば、画素アレイ101から読み出された信号のうち、領域制御部801によって選択された画素群以外から読み出された信号は、汎用補正処理を実施せずに出力されてもよい。
【0082】
図6に示されるように複数の補正値取得部602が存在する場合、それぞれの補正値取得部602に対応して複数の適用部802a、802bが、図8に示されるように配されうる。複数の適用部802a、802bが、連続してそれぞれの補正値1、2を適用した結果が、補正適用部603から出力される。この場合、補正値が適用される画素群は、それぞれの補正値1、2に対して独立に設定可能である。画素アレイ101から出力される全ての信号に対して補正が行われる場合、領域制御部801は、配されていなくてもよい。
【0083】
図11(a)、11(b)には、本実施形態の補正部600における汎用補正処理の例が示されている。例えば、VOB画素領域506において、焦点検出用データと撮像画像用データとの差分から補正値を求め、受光画素領域502の焦点検出用データの補正に用いる場合が考えられる。この場合、図11(a)に示されるように、領域Pos代表値を生成するための画素群の選択として、位置設定としてVOB画素領域506、フラグ設定として撮像画像用の駆動モードで読み出された信号がそれぞれ設定される。これによって、VOB画素領域506、かつ、撮像画像用データ行に配された画素102によって構成される画素群が、領域Pos代表値を生成するための画素群として選択される。また、領域Neg代表値を生成するための画素群の選択として、位置設定としてVOB画素領域506、フラグ設定として焦点検出用の駆動モードで読み出された信号がそれぞれ設定される。これによって、VOB画素領域506、かつ、焦点検出用データ行に配された画素102によって構成される画素群が、領域Neg代表値を生成するための画素群として選択される。このように、領域Pos代表値を生成するための画素群および領域Neg代表値を生成するための画素群が、複数の画素102のうち基準画素領域501(オプティカルブラック領域)に配されている画素102によって構成されていてもよい。
【0084】
領域Pos代表値および領域Neg代表値に応じて生成された補正値を適用する画素群の選択として、位置設定として受光画素領域502、フラグ設定として焦点検出用の駆動モードで読み出された信号がそれぞれ設定される。これによって、受光画素領域502、かつ、焦点検出用データ行に配された画素102によって構成される画素群が、補正値が適用される画素群として選択される。また、図8に示されるように、補正値取得部602が、補正値を保持する2つの保持部705を備える場合、受光画素領域502、かつ、焦点検出用データ行に配された画素102によって構成される画素群から読み出された信号に対して、同じフレームで生成された信号から取得された補正値が適用されうる。
【0085】
また、例えば、垂直シェーディングが大きく、VOB画素領域506と受光画素領域502との間でオフセット量が異なってくる可能性もある。この場合、図11(b)に示されるように、領域Pos代表値を生成するための画素群の選択として、位置設定としてHOB画素領域507、フラグ設定として撮像画像用の駆動モードで読み出された信号がそれぞれ設定される。これによって、HOB画素領域507、かつ、撮像画像用データ行に配された画素102によって構成される画素群が、領域Pos代表値を生成するための画素群として選択される。また、領域Neg代表値を生成するための画素群の選択として、位置設定としてHOB画素領域507、フラグ設定として焦点検出用の駆動モードで読み出された信号がそれぞれ設定される。これによって、HOB画素領域507、かつ、焦点検出用データ行に配された画素102によって構成される画素群が、領域Neg代表値を生成するための画素群として選択される。
【0086】
領域Pos代表値および領域Neg代表値に応じて生成された補正値を適用する画素群の選択として、位置設定として画素アレイ101、フラグ設定として焦点検出用の駆動モードで読み出された信号がそれぞれ設定される。これによって、画素アレイ101、かつ、焦点検出用データ行に配された画素102によって構成される画素群が、補正値が適用される画素群として選択される。また、図8に示されるように、補正値取得部602が、補正値を保持する2つの保持部705を備える場合、受光画素領域502、かつ、焦点検出用データ行に配された画素102によって構成される画素群から読み出された信号に対して、1つ前のフレームで生成された信号から取得された補正値が適用されうる。
【0087】
以上、説明したように、本実施形態の汎用補正処理を実施するための補正部600を備える光電変換装置100は、領域Pos代表値および領域Neg代表値を生成するための領域Posおよび領域Negの位置設定を柔軟に制御することが可能である。これによって、様々な駆動モードやそれぞれの駆動モードで動作する画素行の配置パターンなどに対応可能な汎用的な補正処理が実現できる。
【0088】
次いで、補正値が画素アレイ101内で一様でない場合に対して、上述の汎用補正処理を適用する方法について説明する。光電変換装置100において、理想的には全ての座標位置において、補正値が直接計測されれば、補正処理の精度は高くなる。しかしながら、補正値を取得するための計算コストが高くなるため、離散的に計測した補正値から補間によって各座標位置における補正値(補間補正値)を求める。
【0089】
図12には、図8に示される補正値取得部602の変形例である補正値取得部1002の構成が示されている。図12に示される補正値取得部1002は、図8に示される補正値取得部602と比較して、補間部1005が追加されている。補間部1005を含む補正値取得部1002以外の光電変換装置100の構成は、上述の各構成と同様であってもよいため、ここでは、補正値取得部1002を中心に説明する。
【0090】
また、補正値取得部1002を備える光電変換装置100の動作として、補正値を生成するフレームと補正値が適用されるフレームとは、別のフレームであるとして説明する。例えば、領域制御部701、代表値生成部702、703、補正値生成部704は、補正値を生成するフレームにおいて動作し、補間部1005は、補正適用部603が画素アレイ101から読み出された信号に補正値を適用するフレームで動作する。補正値を生成するフレームには、通常の撮像を行うフレームが用いてもよい。また、例えば、遮光した状態、あるいは、制御信号PTXA、PTXBをローレベルに固定した状態で画素アレイ101から信号が読み出される補正値生成用のフレームを用いて、補正値が生成されてもよい。
【0091】
まず、補正値を生成するフレームにおける動作を説明する。領域制御部701は、位置設定において、複数の領域Posおよび複数の領域Negを設定し、複数の領域内の画素102から出力された信号を領域Pos、領域Negから出力された信号であると判定する。例えば、領域Posおよび領域Negは、1フレームにおいて、図13(a)に示される9か所の領域1~9に設定できるものとする。図13(a)に示される領域1に1つ目の領域Posおよび領域Negが設定され、領域2に2つ目の領域Posおよび領域Negが設定され、領域9に9つ目の領域Posおよび領域Negが設定される。また、フラグ設定を組み合わせることによって、領域Posとして設定された領域1から、例えば、撮像画像用の駆動モードで信号が読み出される画素102によって構成される画素群が選択される。また、領域Negとして設定された領域1から、例えば、焦点検出用の駆動モードで信号が読み出される画素102によって構成される画素群が選択される。同様に、それぞれの領域2~9から、それぞれ領域Pos代表値および領域Neg代表値を生成するための画素群が選択される。つまり、図13(a)に示されるように、領域Pos代表値、領域Neg代表値を生成するための画素群が、画素アレイ101の複数の領域にわたって配されている。
【0092】
次いで、代表値生成部702は、領域1~9のそれぞれの領域Pos代表値、領域Neg代表値を生成する。領域1~9のそれぞれの領域Pos代表値、領域Neg代表値を用いて、補正値生成部704は、領域1~9ごとに領域Pos代表値および領域Neg代表値に応じて、領域1~9それぞれの補正値を生成する。補正値生成部704は、例えば、上述のように、領域Pos代表値および領域Neg代表値の差分や比を、補正値として生成する。これによって、補正値を生成するフレームにおいて、図13(a)の複数の領域1~9のそれぞれに対応した複数の補正値が生成される。
【0093】
次に、補正値が適用されるフレームにおける動作を説明する。補間部1005は、複数の領域1~9の画素アレイ101における位置と、複数の補正値と、に基づいて、画素アレイ101における複数の画素102のそれぞれの位置に対応する補間補正値を生成する補間手段として機能する。補間部1005は、例えば、領域1~9の補正値、領域1~9の画素アレイ101における重心位置、それぞれの画素102の座標に基づいて、補間処理によって画素102ごとの補間補正値を求める。補間処理は、例えば、図13(b)に示されるように、注目する画素102の座標Pを囲む4つの領域2、3、5、6の重心位置C2、C3、C5、C6からバイリニア補間によって補正値を求めてもよい。補間処理を行う際の領域の数や補間方法は、上述の方法に限られるわけではない。補間部1005は、任意の領域の補正値から、所定の曲線近似によって補間補正値を生成してもよい。また、補間部1005は、図13(b)に示される内挿だけでなく、外挿を利用して補間補正値を生成してもよい。
【0094】
画素アレイ101に配されたそれぞれの画素102に対応する補間補正値が生成されると、補正適用部603は、画素アレイ101から読み出された信号に補間補正値を適用して補正を行う。この、補正値が適用されるフレームにおいて、次のフレームで補正に用いるための新たな補正値が生成、取得されてもよい。
【0095】
このように、画素アレイ101の面内において補正値が一様でない場合においても、補正処理の精度を向上させることができる。また、この場合においても、本実施形態の汎用補正処理を実施するための補正部600を備える光電変換装置100は、領域Pos代表値および領域Neg代表値を生成するための領域Posおよび領域Negの位置設定を柔軟に制御することが可能である。これによって、様々な駆動モードやそれぞれの駆動モードで動作する画素行の配置パターンなどに対応可能な汎用的な補正処理が実現できる。
【0096】
上述の各実施形態において、A+B像信号を取得する撮像画像用の駆動モードと、A像信号およびA+B像信号を取得する焦点検出用の駆動モードと、で、画素アレイ101に配された画素102から信号を読み出す場合について説明した。しかしながら、汎用補正処理の適用は、これに限られることはなく、画素アレイ101に配された複数の画素102が、信号の読み出し方が異なる複数の駆動モードで動作可能に構成されている場合に適用できる。例えば、光電変換装置100によって得られる画像のダイナミックレンジを拡大するために、画素アレイ101の画素行によって信号を読み出す際のゲインを変化させる場合や、画素アレイ101の画素行によって露光時間(蓄積時間)を変化させる場合が考えられる。また、例えば、光電変換装置100の読出速度向上のために、複数の画素行から同時に信号を読み出す場合や、信号を読み出す画素行と信号を読み出さない画素行とが混在する場合などが考えられる。これら、画素102から信号を読み出す際に複数の駆動モードを備える場合、上述のように、補正部600に領域制御部701が配されることによって、領域Posや領域Negの位置を自由に指定することが可能になる。これによって、様々な駆動モードに対応し、精度が高い補正処理を実施することが可能になる。
【0097】
また、駆動モードの種類や補正処理の精度の要求などによって、領域制御部701が、画素アレイ101における1つの領域から、複数の駆動モードのうちそれぞれの画素に設定された駆動モードに基づいて1つの画素群を選択し、補正値が生成されてもよい。この場合であっても、補正値を生成するための領域を自由に指定することが可能であり、様々な駆動モードに対応し、精度が高い補正処理を実施することが可能になる。
【0098】
ここで、本実施形態の光電変換装置100の応用例について説明する。図14は、光電変換装置100が組み込まれた光電変換システム1400の概略構成を示すブロック図である。
【0099】
上述した本実施形態の光電変換装置100は、種々の光電変換システムに適用可能である。適用可能な光電変換システムの例としては、デジタルスチルカメラ、デジタルカムコーダ、監視カメラ、複写機、ファックス、携帯電話、車載カメラ、観測衛星などが挙げられる。また、レンズなどの光学系と光電変換装置とを備えるカメラモジュールも、光電変換システムに含まれる。図14には、これらのうちの一例として、デジタルスチルカメラのブロック図が例示されている。
【0100】
図14に例示される光電変換システム1400は、光電変換装置100、被写体の光学像を光電変換装置100の光電変換部(例えば、画素アレイ101、また、例えば、受光画素領域502)に結像させるレンズ1402、レンズ1402を通過する光量を可変にするための絞り1403、レンズ1402の保護のためのバリア1401を有する。レンズ1402および絞り1403は、光電変換装置100に光を集光する光学系である。光電変換装置100は、レンズ1402により結像された光学像を電気信号に変換する。
【0101】
光電変換システム1400は、また、光電変換装置100よって出力される出力信号の処理を行うことで画像を生成する画像生成部である信号処理部1407を有する。信号処理部1407は、必要に応じて各種の補正、圧縮を行って画像データを出力する動作を行う。信号処理部1407は、光電変換装置100が設けられた半導体基板に形成されていてもよいし、光電変換装置100とは別の半導体基板に形成されていてもよい。また、光電変換装置100と信号処理部1407とが同一の半導体基板に形成されていてもよい。
【0102】
光電変換システム1400は、さらに、画像データを一時的に記憶するためのメモリ部1410、外部コンピュータなどと通信するための外部インターフェース部(外部I/F部)1413を有する。さらに光電変換システム1400は、撮像データの記録または読み出しを行うための半導体メモリなどの記録媒体1412、記録媒体1412に記録または読み出しを行うための記録媒体制御インターフェース部(記録媒体制御I/F部)1411を有する。なお、記録媒体1412は、光電変換システム1400に内蔵されていてもよく、着脱可能であってもよい。
【0103】
さらに光電変換システム1400は、各種演算とデジタルスチルカメラ全体を制御する全体制御・演算部1409、光電変換装置100と信号処理部1407とに各種タイミング信号を出力するタイミング発生部1408を有する。ここで、タイミング信号などは外部から入力されてもよく、光電変換システム1400は少なくとも光電変換装置100と、光電変換装置100から出力された出力信号を処理する信号処理部1407とを有すればよい。
【0104】
光電変換装置100は、撮像信号を信号処理部1407に出力する。信号処理部1407は、光電変換装置100から出力される撮像信号に対して所定の信号処理を実施し、画像データを出力する。信号処理部1407は、撮像信号を用いて、画像を生成する。
【0105】
このように、本実施形態によれば、上述の光電変換装置100(例えば、撮像装置)を適用した光電変換システムを実現することができる。
【0106】
次いで、本実施形態の光電変換装置100が組み込まれた光電変換システムおよび輸送機器について、図15(a)、15(b)を用いて説明する。図15(a)、15(b)は、本実施形態の光電変換装置100が組み込まれた光電変換システム1500、および、光電変換システム1500が組み込まれた輸送機器1501の構成を示す図である。
【0107】
図15(a)は、車載カメラに関する光電変換システム1500の一例を示したものである。光電変換システム1500は、本実施形態の光電変換装置100によって取得された複数の画像データに対し、画像処理などの信号処理を行う画像処理部1512と、画像処理部1512によって信号処理された複数の画像データから視差(視差画像の位相差)の算出を行う視差取得部1514を有する。また、光電変換システム1500は、算出された視差に基づいて対象物までの距離を算出する距離取得部1516と、算出された距離に基づいて衝突可能性があるか否かを判定する衝突判定部1518と、を有する。ここで、視差取得部1514や距離取得部1516は、対象物までの距離情報を取得する距離情報取得手段の一例である。すなわち、距離情報とは、視差、デフォーカス量、対象物までの距離などに関する情報である。衝突判定部1518はこれらの距離情報の何れかを用いて、衝突可能性を判定してもよい。距離情報取得手段は、専用に設計されたハードウェアによって実現されてもよいし、ソフトウェアモジュールによって実現されてもよい。また、FPGA(Field Programmable Gate Array)やASIC(Application Specific Integrated Circuit)などによって実現されてもよいし、これらの組合せによって実現されてもよい。
【0108】
光電変換システム1500は、駆動装置を具備する輸送機器1501(例えば、車両)の車両情報取得装置1520と接続されており、車速、ヨーレート、舵角などの車両情報を取得することができる。また、光電変換システム1500は、衝突判定部1518での判定結果に基づいて、車両に対して制動力を発生させる制御信号を出力する制御装置である制御ECU1530が接続されている。また、光電変換システム1500は、衝突判定部1518での判定結果に基づいて、ドライバーへ警報を発する警報装置1540とも接続されている。例えば、衝突判定部1518の判定結果として衝突可能性が高い場合、制御ECU1530はブレーキをかける、アクセルを戻す、エンジン出力を抑制するなどして衝突を回避、被害を軽減する車両制御を行う。警報装置1540は音などの警報を鳴らす、カーナビゲーションシステムなどの画面に警報情報を表示する、シートベルトやステアリングに振動を与えるなどしてユーザに警告を行う。
【0109】
本実施形態では、輸送機器1501の周囲、例えば前方または後方を光電変換システム1500で撮像する。図15(b)に、輸送機器1501の前方(撮像範囲1550)を撮像する場合の光電変換システム1500を示した。車両情報取得装置1520が、光電変換システム1500ないしは光電変換装置100に指示を送る。このような構成によって、測距の精度をより向上させることができる。
【0110】
上記では、他の車両と衝突しないように光電変換装置100で得られた情報に基づいて輸送機器1501のブレーキ、アクセル、エンジンなどの駆動装置1560を制御する例を説明した。しかし、これに限られることはなく他の車両に追従して自動運転する制御や、車線からはみ出さないように自動運転する制御などにも適用可能である。また、光電変換装置100が組み込まれた光電変換システム1500が、輸送機器1501に組み込まれる例を示したが、光電変換装置100は、車両情報取得装置1520や制御ECU1530、警報装置1540に組み込まれていてもよい。さらに、光電変換装置100が組み込まれた光電変換システム1500は、自動車などの車両に限らず、例えば、船舶、航空機、鉄道車両あるいは産業用ロボットなどの駆動装置を具備する輸送機器に適用することができる。加えて、移動体に限らず、高度道路交通システム(ITS)など、広く物体認識を利用する機器に適用することができる。
【0111】
発明は上記実施形態に制限されるものではなく、発明の精神および範囲から離脱することなく、様々な変更および変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
【符号の説明】
【0112】
100:光電変換装置、101:画素アレイ、102:画素、109:処理部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15