IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニーセミコンダクタソリューションズ株式会社の特許一覧

<>
  • 特開-撮像システム及び撮像装置 図1
  • 特開-撮像システム及び撮像装置 図2
  • 特開-撮像システム及び撮像装置 図3
  • 特開-撮像システム及び撮像装置 図4
  • 特開-撮像システム及び撮像装置 図5
  • 特開-撮像システム及び撮像装置 図6
  • 特開-撮像システム及び撮像装置 図7
  • 特開-撮像システム及び撮像装置 図8
  • 特開-撮像システム及び撮像装置 図9
  • 特開-撮像システム及び撮像装置 図10
  • 特開-撮像システム及び撮像装置 図11
  • 特開-撮像システム及び撮像装置 図12
  • 特開-撮像システム及び撮像装置 図13
  • 特開-撮像システム及び撮像装置 図14
  • 特開-撮像システム及び撮像装置 図15
  • 特開-撮像システム及び撮像装置 図16
  • 特開-撮像システム及び撮像装置 図17
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022152974
(43)【公開日】2022-10-12
(54)【発明の名称】撮像システム及び撮像装置
(51)【国際特許分類】
   H04N 5/369 20110101AFI20221004BHJP
【FI】
H04N5/369
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2021055953
(22)【出願日】2021-03-29
(71)【出願人】
【識別番号】316005926
【氏名又は名称】ソニーセミコンダクタソリューションズ株式会社
(74)【代理人】
【識別番号】100091487
【弁理士】
【氏名又は名称】中村 行孝
(74)【代理人】
【識別番号】100120031
【弁理士】
【氏名又は名称】宮嶋 学
(72)【発明者】
【氏名】石井 俊輔
【テーマコード(参考)】
5C024
【Fターム(参考)】
5C024CX03
5C024GX02
5C024HX29
(57)【要約】
【課題】信号のノイズ成分を抑制するためのデータを取得する。
【解決手段】撮像システムは、光電変換部と、光電変換された電荷又は前記電荷に関する情報を保持する保持部と、を有する複数の画素から、前記電荷又は前記情報を信号として読み出す読出部と、前記読出部を制御することにより、画像データを生成するように複数の前記画素から信号を読み出すとともに、読出期間中に少なくとも一部の前記画素から信号を2回以上読み出す読出制御部と、読出期間中に2回目以降に読み出された信号に基づいて、前記画像データを生成するための信号を処理する信号処理部と、を備える。
【選択図】図8
【特許請求の範囲】
【請求項1】
光電変換部と、光電変換された電荷又は前記電荷に関する情報を保持する保持部と、を有する複数の画素から、前記電荷又は前記情報を信号として読み出す読出部と、
前記読出部を制御することにより、画像データを生成するように複数の前記画素から信号を読み出すとともに、読出期間中に少なくとも一部の前記画素から信号を2回以上読み出す読出制御部と、
読出期間中に2回目以降に読み出された信号に基づいて、前記画像データを生成するための信号を処理する信号処理部と、を備える、撮像システム。
【請求項2】
信号が読み出された少なくとも一部の前記画素の前記保持部は、初期化され、
前記読出制御部は、前記保持部が初期化されてから次の信号の読み出しまでの期間に前記保持部に保持された前記電荷又は前記情報を、読出期間中に2回目以降に読み出される信号として読み出す、請求項1に記載の撮像システム。
【請求項3】
前記読出制御部は、少なくとも一部の前記画素から信号を読み出した後に全ての前記画素から信号を読み出すことにより、読出期間中に少なくとも一部の前記画素から信号を2回以上読み出す、請求項1に記載の撮像システム。
【請求項4】
前記読出制御部は、少なくとも一部の前記画素を分けて信号を複数回読み出した後に全ての前記画素から信号を読み出すことにより、読出期間中に少なくとも一部の前記画素から信号を2回以上読み出す、請求項3に記載の撮像システム。
【請求項5】
前記読出制御部は、第1速度で少なくとも一部の前記画素から信号を読み出した後に、前記第1速度よりも遅い第2速度で全ての前記画素から信号を読み出す、請求項3に記載の撮像システム。
【請求項6】
複数の前記画素は、行列状に配置され、
前記読出制御部は、行単位又は列単位で少なくとも一部の前記画素から信号を読み出した後に、全ての前記画素から信号を読み出す、請求項3に記載の撮像システム。
【請求項7】
前記読出制御部は、前記画素単位で少なくとも一部の前記画素から信号を読み出した後に、全ての前記画素から信号を読み出す、請求項3に記載の撮像システム。
【請求項8】
前記読出制御部は、読出期間中に、間引かれた少なくとも一部の前記画素から信号を2回以上読み出し、
前記信号処理部は、
読出期間中に2回目以降に読み出された信号に基づいて、間引かれた前記画素の間の信号を補間することにより、信号分布を生成し、
前記信号分布に基づいて、前記画像データを生成するための信号を処理する、請求項1に記載の撮像システム。
【請求項9】
前記信号処理部は、間引かれた少なくとも一部の前記画素以外の前記画素から読み出された信号から、前記信号分布に基づく対応する前記画素の信号を減算することにより、前記画像データを生成するための信号を処理する、請求項8に記載の撮像システム。
【請求項10】
前記読出制御部は、複数の前記画素ごとに、又は、1つの前記画素ごとに、順次信号を読み出す、請求項1に記載の撮像システム。
【請求項11】
全ての前記画素は、略同時に露光され、
露光の終了後、全ての前記画素の前記電荷又は前記情報は、略同時に前記保持部に保持される、請求項1に記載の撮像システム。
【請求項12】
光電変換部と、光電変換された電荷又は前記電荷に関する情報を保持する保持部と、を有する複数の画素から、前記電荷又は前記情報を信号として読み出す読出部と、
前記読出部を制御することにより、画像データを生成するように複数の前記画素から信号を読み出すとともに、読出期間中に少なくとも一部の前記画素から信号を2回以上読み出す読出制御部と、を備える、撮像装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示による実施形態は、撮像システム及び撮像装置に関する。
【背景技術】
【0002】
画素内にメモリを有するグローバルシャッタ方式のイメージセンサにおいて、メモリへの光漏れ起因のPLS(Parasitic Light Sensitivity)、及び、フォトダイオードからの信号漏れ(ブルーミング)等が問題となる。このPLS及びブルーミング等によって、メモリに保持された信号電荷にノイズ成分が重畳されてしまう。このノイズ成分を補正するために、補正専用の画素、又は、補正専用のメモリを画素アレイ内に配置することが考えられている(特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2017-76899号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、画素アレイ内に補正専用の画素又は補正専用のメモリを配置すると、画素面積の低下により、飽和信号量の低下、感度の低下、又は、解像度の悪化につながる場合がある。
【0005】
そこで、本開示では、信号のノイズ成分を抑制するためのデータを取得することができる撮像装置システム及び撮像装置を提供するものである。
【課題を解決するための手段】
【0006】
上記の課題を解決するために、本開示によれば、
光電変換部と、光電変換された電荷又は前記電荷に関する情報を保持する保持部と、を有する複数の画素から、前記電荷又は前記情報を信号として読み出す読出部と、
前記読出部を制御することにより、画像データを生成するように複数の前記画素から信号を読み出すとともに、読出期間中に少なくとも一部の前記画素から信号を2回以上読み出す読出制御部と、
読出期間中に2回目以降に読み出された信号に基づいて、前記画像データを生成するための信号を処理する信号処理部と、を備える、撮像システムが提供される。
【0007】
信号が読み出された少なくとも一部の前記画素の前記保持部は、初期化され、
前記読出制御部は、前記保持部が初期化されてから次の信号の読み出しまでの期間に前記保持部に保持された前記電荷又は前記情報を、読出期間中に2回目以降に読み出される信号として読み出してもよい。
【0008】
前記読出制御部は、少なくとも一部の前記画素から信号を読み出した後に全ての前記画素から信号を読み出すことにより、読出期間中に少なくとも一部の前記画素から信号を2回以上読み出してもよい。
【0009】
前記読出制御部は、少なくとも一部の前記画素を分けて信号を複数回読み出した後に全ての前記画素から信号を読み出すことにより、読出期間中に少なくとも一部の前記画素から信号を2回以上読み出してもよい。
【0010】
前記読出制御部は、第1速度で少なくとも一部の前記画素から信号を読み出した後に、前記第1速度よりも遅い第2速度で全ての前記画素から信号を読み出してもよい。
【0011】
複数の前記画素は、行列状に配置され、
前記読出制御部は、行単位又は列単位で少なくとも一部の前記画素から信号を読み出した後に、全ての前記画素から信号を読み出してもよい。
【0012】
前記読出制御部は、前記画素単位で少なくとも一部の前記画素から信号を読み出した後に、全ての前記画素から信号を読み出してもよい。
【0013】
前記読出制御部は、読出期間中に、間引かれた少なくとも一部の前記画素から信号を2回以上読み出し、
前記信号処理部は、
読出期間中に2回目以降に読み出された信号に基づいて、間引かれた前記画素の間の信号を補間することにより、信号分布を生成し、
前記信号分布に基づいて、前記画像データを生成するための信号を処理してもよい。
【0014】
前記信号処理部は、間引かれた少なくとも一部の前記画素以外の前記画素から読み出された信号から、前記信号分布に基づく対応する前記画素の信号を減算することにより、前記画像データを生成するための信号を処理してもよい。
【0015】
前記読出制御部は、複数の前記画素ごとに、又は、1つの前記画素ごとに、順次信号を読み出してもよい。
【0016】
全ての前記画素は、略同時に露光され、
露光の終了後、全ての前記画素の前記電荷又は前記情報は、略同時に前記保持部に保持されてもよい。
【0017】
本開示によれば、光電変換部と、光電変換された電荷又は前記電荷に関する情報を保持する保持部と、を有する複数の画素から、前記電荷又は前記情報を信号として読み出す読出部と、
前記読出部を制御することにより、画像データを生成するように複数の前記画素から信号を読み出すとともに、読出期間中に少なくとも一部の前記画素から信号を2回以上読み出す読出制御部と、を備える、撮像装置が提供される。
【図面の簡単な説明】
【0018】
図1】本開始の第1の実施の形態に係る撮像装置を備えた撮像システムの概略構成の一例を表す図である。
図2図1の撮像システムにおける撮像手順の一例を表す図である
図3】本開示の第1の実施の形態に係る撮像装置の概略構成の一例を表す図である。
図4図1のセンサ画素及び読み出し回路の回路構成の一例を表す図である。
図5図1のセンサ画素の断面構成の一例を表す図である。
図6】撮像装置の動作及びノイズ混入の一例を示すタイミングチャートである。
図7】本開示の第1の実施の形態に係る分割読み出しが行われる画素の一例を示す図である。
図8】本開示の第1の実施の形態に係る撮像装置の動作の一例を示すタイミングチャートである。
図9】本開示の第1の実施の形態に係る後読み信号の行間の補間の一例を示す模式図である。
図10】第1の実施の形態の変形例に係る撮像装置の概略構成の一例を表す図である。
図11】本開示の第2の実施の形態に係る分割読み出しが行われる画素の一例を示す図である。
図12】本開示の第2の実施の形態に係る撮像装置の動作の一例を示すタイミングチャートである。
図13】本開示の第3の実施の形態に係る分割読み出しが行われる画素の一例を示す図である。
図14】本開示の第3の実施の形態に係る撮像装置の動作の一例を示すタイミングチャートである。
図15】本開示の第4の実施の形態に係る分割読み出しが行われる画素の一例を示す図である。
図16】車両制御システムの概略的な構成の一例を示すブロック図である。
図17】車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
【発明を実施するための形態】
【0019】
以下、図面を参照して、撮像システム及び撮像装置の実施形態について説明する。以下では、撮像システム及び撮像装置の主要な構成部分を中心に説明するが、撮像システム及び撮像装置には、図示又は説明されていない構成部分や機能が存在しうる。以下の説明は、図示又は説明されていない構成部分や機能を除外するものではない。
【0020】
<第1の実施の形態>
[撮像システム]
図1は、本開示の第1の実施の形態に係る撮像装置1を備えた撮像システム2の構成例を示すブロック図である。
【0021】
撮像システム2は、例えば、デジタルスチルカメラやビデオカメラ等の撮像装置や、スマートフォンやタブレット型端末等の携帯端末装置などの電子機器である。撮像システム2は、例えば、撮像装置1、DSP回路210、フレームメモリ220、表示部230、記憶部240、操作部250及び電源部260を備えている。DSP回路210が、本開示の「信号処理部」の一具体例に相当する。撮像システム2において、DSP回路210、フレームメモリ220、表示部230、記憶部240、操作部250及び電源部260は、バスライン270を介して相互に接続されている。
【0022】
撮像装置1は、入射光に応じた画像データを出力する。DSP回路210は、撮像装置1から出力される信号(画像データ)を処理する信号処理回路である。フレームメモリ220は、DSP回路210により処理された画像データを、フレーム単位で一時的に保持する。表示部230は、例えば、液晶パネルや有機EL(Electro Luminescence)パネル等のパネル型表示装置からなり、撮像装置1で撮像された動画又は静止画を表示する。記憶部240は、撮像装置1で撮像された動画又は静止画の画像データを、半導体メモリやハードディスク等の記録媒体に記録する。操作部250は、ユーザによる操作に従い、撮像システム2が有する各種の機能についての操作指令を発する。電源部260は、DSP回路210、フレームメモリ220、表示部230、記憶部240及び操作部250の動作電源となる各種の電源を、これら供給対象に対して適宜供給する。
【0023】
次に、撮像システム2における撮像手順について説明する。
【0024】
図2は、撮像システム2における撮像動作のフローチャートの一例を表す。ユーザは、操作部250を操作することにより撮像開始を指示する(ステップS101)。すると、操作部250は、撮像指令を撮像装置1に送信する(ステップS102)。撮像装置1(具体的には撮像装置1のシステム制御回路24)は、撮像指令を受けると、グローバルシャッター動作での撮像を実行する(ステップS103)。DSP回路210は、撮像装置1から入力された後述の補正用データに基づいて所定のノイズ低減処理を行う(ステップS104)。なお、ノイズ低減処理の詳細については、図7図9を参照して、後で説明する。DSP回路210は、ノイズ低減処理により得られた画像データをフレームメモリ220に保持させ、フレームメモリ220は、画像データを記憶部240に記憶させる(ステップS108)。このようにして、撮像システム2における撮像が行われる。
【0025】
[撮像装置の構成]
本開示の第1の実施の形態に係る撮像装置1について説明する。撮像装置1は、例えば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等からなる表面照射型のイメージセンサである。撮像装置1は、被写体からの光を受光して光電変換し、画像信号を生成することで画像を撮像する。撮像装置1は、入射光に応じた画素信号を出力する。
【0026】
表面照射型のイメージセンサとは、被写体からの光が入射する受光面と、半導体基板の裏面との間に、被写体からの光を受光し、電気信号に変換するフォトダイオード等の光電変換部が設けられている構成のイメージセンサである。なお、撮像装置1は、裏面照射型のイメージセンサであってもよい。また、本開示は、CMOSイメージセンサへの適用に限られるものではない。
【0027】
図3は、本開示の第1の実施の形態に係る撮像装置1の概略構成の一例を表す。撮像装置1は、画素アレイ部10と、ロジック回路20とを備えている。画素アレイ部10は、複数のセンサ画素11と、複数の読み出し回路12(後述)とを有している。センサ画素11は、本開示の「画素」の一具体例に相当する。各センサ画素11は、光電変換を行って受光量に応じた電荷を出力する。複数のセンサ画素11は、受光面10A(後述)と対向配置されており、画素アレイ部10において、行列状に配置されている。各読み出し回路12は、センサ画素11から出力された電荷に基づく画素信号を出力する。複数の読み出し回路12は、例えば、画素アレイ部10において、1つのセンサ画素11ごとに1つずつ設けられている。なお、複数の読み出し回路12は、画素アレイ部10において、複数のセンサ画素11ごとに1つずつ設けられていてもよい。
【0028】
画素アレイ部10は、複数の画素駆動線HSLと、複数のデータ出力線VSLとを有している。画素駆動線HSLは、センサ画素11に蓄積された電荷の出力を制御する制御信号が印加される配線であり、例えば、行方向に延在している。データ出力線VSLは、各読み出し回路12から出力された画素信号をロジック回路20に出力する配線であり、例えば、列方向に延在している。
【0029】
ロジック回路20は、例えば、垂直駆動回路21、カラム信号処理回路22、水平駆動回路23及びシステム制御回路24を有している。ロジック回路20(具体的には水平駆動回路23)は、センサ画素11ごとの出力電圧を外部機器に出力することにより、外部機器に画像データを提供する。
【0030】
垂直駆動回路21は、例えば、複数のセンサ画素11を所定の単位画素行ごとに順に選択する。「所定の単位画素行」とは、同一アドレスで画素選択可能な画素行を指している。例えば、1つの読み出し回路12に1つのセンサ画素11が割り当てられている場合、「所定の単位画素行」は、1画素行を指している。また、例えば、複数のセンサ画素11が1つの読み出し回路12を共有する場合、読み出し回路12を共有する複数のセンサ画素11のレイアウトが2画素行×n画素列(nは1以上の整数)となっているときには、「所定の単位画素行」は、2画素行を指している。同様に、読み出し回路12を共有する複数のセンサ画素11のレイアウトが4画素行×n画素列(nは1以上の整数)となっているときには、「所定の単位画素行」は、4画素行を指している。垂直駆動回路21は、画素駆動線HSLを介して、各センサ画素11内のトランジスタ(例えば、転送トランジスタTRX,TRG及び排出トランジスタOFG)を制御し、さらに、各読み出し回路12内のトランジスタ(例えば、リセットトランジスタRST及び選択トランジスタSEL)を制御する。
【0031】
カラム信号処理回路22は、例えば、垂直駆動回路21によって選択された行の各センサ画素11から出力される画素信号に対して、相関二重サンプリング(Correlated Double Sampling:CDS)処理を施す。カラム信号処理回路22は、例えば、CDS処理を施すことにより、画素信号の信号レベルを抽出し、各センサ画素11の受光量に応じた画素データを保持する。カラム信号処理回路22は、例えば、データ出力線VSLごとにカラム信号処理部を有している。カラム信号処理部は、例えば、シングルスロープA/D変換器を含んでいる。シングルスロープA/D変換器は、例えば、比較器及びカウンタ回路を含んで構成されている。水平駆動回路23は、例えば、カラム信号処理回路22に保持されている画素データを順次、外部に出力する。システム制御回路24は、例えば、ロジック回路20内の各ブロック(垂直駆動回路21、カラム信号処理回路22及び水平駆動回路23)の駆動を制御する。
【0032】
図4は、センサ画素11及び読み出し回路12の回路構成の一例を表す。図2には、1つの読み出し回路12に1つのセンサ画素11が割り当てられている場合が例示されている。各センサ画素11は、互いに共通の構成要素を有している。各センサ画素11は、例えば、フォトダイオードPDと、転送トランジスタTRX,TRGと、電荷保持部MEMと、フローティングディフュージョンFDと、排出トランジスタOFGと、排出フローティングディフュージョンOFDとを有している。転送トランジスタTRX,TRG及び排出トランジスタOFGは、例えば、NMOS(Metal Oxide Semiconductor)トランジスタである。
【0033】
フォトダイオードPDは、本開示の「光電変換部」の一具体例に相当する。電荷保持部MEMは、本開示の「保持部」の一具体例に相当する。読み出し回路12は、本開示の「読出部」の一具体例に相当する。垂直駆動回路21及び水平駆動回路23は、本開示の「読出制御部」の一具体例に相当する。
【0034】
フォトダイオードPDは、受光面10A(後述)を介して入射した光を光電変換する。フォトダイオードPDは、光電変換を行って受光量に応じた電荷を発生する。フォトダイオードPDは、例えば、PN接合型の光電変換素子である。フォトダイオードPDのカソードが転送トランジスタTRXのソースに電気的に接続されており、フォトダイオードPDのアノードが基準電位線(例えばグラウンドGND)に電気的に接続されている。
【0035】
転送トランジスタTRXは、フォトダイオードPDと転送トランジスタTRGとの間に接続されており、転送トランジスタTRXのゲートに印加される制御信号に応じて、電荷保持部MEMのポテンシャルを制御する。例えば、転送トランジスタTRXがオンしたとき、電荷保持部MEMのポテンシャルが深くなる。また、例えば、転送トランジスタTRXがオフしたとき、電荷保持部MEMのポテンシャルが浅くなる。転送トランジスタTRXがオンすると、フォトダイオードPDに蓄積されている電荷が、転送トランジスタTRXを介して、電荷保持部MEMに転送される。転送トランジスタTRXのドレインが転送トランジスタTRGのソースに電気的に接続されており、転送トランジスタTRXのゲートは画素駆動線HSLに接続されている。
【0036】
電荷保持部MEMは、フォトダイオードPDに蓄積された電荷を一時的に保持する不純物半導体領域である。電荷保持部MEMは、フォトダイオードPDから転送された電荷を保持する。電荷保持部MEM及び後述のフローティングディフュージョンFDは、ともに、共通の導電型の不純物半導体領域によって構成されている。さらに、電荷保持部MEMの不純物濃度は、後述のフローティングディフュージョンFDの不純物濃度よりも低くなっている。
【0037】
転送トランジスタTRGは、転送トランジスタTRXとフローティングディフュージョンFDとの間に接続されており、転送トランジスタTRGのゲートに印加される制御信号に応じて、電荷保持部MEMに保持されている電荷をフローティングディフュージョンFDに転送する。例えば、転送トランジスタTRXがオフし、転送トランジスタTRGがオンすると、電荷保持部MEMに保持されている電荷が、転送トランジスタTRGを介して、フローティングディフュージョンFDに転送される。転送トランジスタTRGのドレインがフローティングディフュージョンFDに電気的に接続されており、転送トランジスタTRGのゲートは画素駆動線HSLに接続されている。
【0038】
フローティングディフュージョンFDは、転送トランジスタTRX及び転送トランジスタTRGを介してフォトダイオードPDから出力された電荷を一時的に保持する浮遊拡散領域(不純物半導体領域)である。フローティングディフュージョンFDには、例えば、リセットトランジスタRSTが接続されるとともに、増幅トランジスタAMP及び選択トランジスタSELを介して垂直信号線VSLが接続されている。
【0039】
排出トランジスタOFGは、フォトダイオードPDと電源線VDDとの間に接続されており、排出トランジスタOFGのゲートに印加される制御信号に応じて、フォトダイオードPDを初期化(リセット)する。例えば、排出トランジスタOFGがオンすると、フォトダイオードPDの電位が電源線VDDの電位レベルにリセットされる。すなわち、フォトダイオードPDの初期化が行われる。また、排出トランジスタOFGは、例えば、転送トランジスタTRXと電源線VDDの間にオーバーフローパスを形成し、フォトダイオードPDから溢れた電荷を電源線VDDに排出する。排出トランジスタOFGのドレインが電源線VDDに接続されるとともに、排出トランジスタOFGのソースがフォトダイオードPDと転送トランジスタTRXとの間に接続されており、排出トランジスタOFGのゲートが画素駆動線HSLに接続されている。
【0040】
リセットトランジスタRSTは、フローティングディフュージョンFDと電源線VDDとの間に接続されており、リセットトランジスタRSTのゲートに印加される制御信号に応じて、電荷保持部MEMからフローティングディフュージョンFDまでの各領域を初期化(リセット)する。例えば、転送トランジスタTRG及びリセットトランジスタRSTがオンすると、電荷保持部MEM及びフローティングディフュージョンFDの電位が電源線VDDの電位レベルにリセットされる。すなわち、電荷保持部MEM及びフローティングディフュージョンFDの初期化が行われる。リセットトランジスタRSTのドレインが電源線VDDに接続されており、リセットトランジスタRSTのソースがフローティングディフュージョンFDに接続されており、リセットトランジスタRSTのゲートが画素駆動線HSLに接続されている。
【0041】
増幅トランジスタAMPでは、ゲートがフローティングディフュージョンFDに接続されており、ドレインが電源線VDDに接続されており、ソースが選択トランジスタSELのドレインに接続されている。増幅トランジスタAMPは、フォトダイオードPDでの光電変換によって得られる電荷を読み出すソースフォロワ回路の入力部となっている。増幅トランジスタAMPは、増幅トランジスタAMPのソースが選択トランジスタSELを介して垂直信号線VSLに接続されていることから、垂直信号線VSLの一端に接続される定電流源とソースフォロワ回路を構成する。増幅トランジスタAMPは、フォトダイオードPDでの光電変換によって得られる電荷を画素信号に変換し、選択トランジスタSELを介して垂直信号線VSLに出力する。
【0042】
選択トランジスタSELでは、ドレインが増幅トランジスタAMPのソースに接続されており、ソースが垂直信号線VSLに接続されており、ゲートが画素駆動線HSLに接続されている。選択トランジスタSELは、選択トランジスタSELのゲートに印加される制御信号に応じて、増幅トランジスタAMPから出力される画素信号の垂直信号線VSLへの出力を制御する。選択トランジスタSELは、制御信号がオンすると導通状態となり、選択トランジスタSELに連結されたセンサ画素11が選択状態となる。センサ画素11が選択状態になると、増幅トランジスタAMPから出力される画素信号が垂直信号線VSLを介してカラム信号処理回路22に読み出される。
【0043】
次に、センサ画素11の構成について詳細に説明する。図5は、センサ画素11の断面構成の一例を表す。図5は、模式図であり、必ずしも厳密に図示されたものではない。図5には、不純物濃度の濃さが、「P+」、「N-」、「N+」、「N++」といった表現で示されている。ここで、「P+」と記載された箇所では、例えば、p型不純物(アクセプタ)の濃度が1×1016cm-3~5×1018cm-3の範囲内の値よりも大きな値となっている。「N+」は「N-」よりもn型不純物(ドナー)の濃度が高いことを示している。「N++」は「N+」よりもn型不純物(ドナー)の濃度が高いことを示している。「N-」と記載された箇所では、例えば、n型不純物(ドナー)の濃度が1×1016cm-3~5×1018cm-3の範囲内の値となっている。
【0044】
センサ画素11は、半導体基板30上に形成されている。半導体基板30は、例えば、シリコン基板である。半導体基板30は、半導体基板30の上面及びその近傍にpウェル層32を有しており、pウェル層32よりも深い箇所にn型半導体層31を有している。pウェル層32は、半導体基板30の上面及びその近傍に形成されたp型半導体領域である。pウェル層32には、n型半導体領域33及びp型半導体領域34が形成されている。p型半導体領域34は、半導体基板30の上面に形成されており、n型半導体領域33と接している。n型半導体領域33及びp型半導体領域34は、半導体基板30の厚さ方向(法線方向)に積層されており、フォトダイオードPDを構成している。
【0045】
pウェル層32のうち、転送トランジスタTRXのゲートと対向する箇所には、電荷保持部MEMが形成されている。電荷保持部MEMは、半導体基板30の上面から所定の深さに形成されている。電荷保持部MEMは、pウェル層32内に形成されたn型不純物の半導体領域によって構成されている。半導体基板30の上面と電荷保持部MEMとの間には、p型半導体領域35が形成されている。
【0046】
フローティングディフュージョンFD及び排出フローティングディフュージョンOFDは、ともに、pウェル層32内に形成されたn型不純物濃度の高い半導体領域によって構成されている。排出フローティングディフュージョンOFDの近傍には、排出トランジスタOFGが形成されている。つまり、センサ画素11は、排出フローティングディフュージョンOFDの近傍に、排出トランジスタOFGを有している。
【0047】
センサ画素11は、半導体基板30上に、遮光層36を有している。遮光層36は、フォトダイオードPDと対向する位置に開口部36Aを有している。開口部36A内には、受光面10Aが露出している。遮光層36は、受光面10Aの周囲であって、かつ少なくとも電荷保持部MEMと対向する位置に配置されている。遮光層36は、例えば、金属材料によって形成されている。
【0048】
本開示は電荷保持部としてMEMを例に説明したが、フローティングディフュージョンFDを電荷保持部とするFD保持型や、画素毎のキャパシタに電圧を保持する電圧保持型のグローバルシャッター方式においても適用が可能である。
【0049】
[ノイズ]
電荷保持部MEMは、上記のように、フォトダイオードPDから転送された電荷(以下、「信号電荷」と称する。)を保持する。しかし、PLS(Parasitic Light Sensitivity)、ブルーミング及び暗電流等によって、ノイズ電荷が電荷保持部MEMに混入すると、信号電荷にノイズ成分として重畳されてしまう。これにより、画素信号にはノイズ成分が含まれることになるので、得られる画像は、画質が劣化したものとなる。
【0050】
PLSは、フォトダイオードPDに強い光が入射したとき等に入射光量に応じて生じる迷光を指している。例えば、光が電荷保持部MEMに直接入り、光電変換されることにより、ノイズ電荷が生成される。
【0051】
ブルーミングは、例えば、強い光の入射等により光電変換された信号電荷が所定以上になり、電荷保持部MEMに溢れ出ることである。フォトダイオードPDで溢れる電荷は、通常、排出フローティングディフュージョンOFDに流れる。しかし、ブルーミングの影響を完全にゼロにすることは困難である。
【0052】
暗電流は、画素に光が入射しない状況でも流れる電流であり、例えば、電荷保持部MEMで発生する。
【0053】
図6は、撮像装置1の動作及びノイズ混入の一例を示すタイミングチャートである。図6は、一例として、4行の画素アレイ部の読み出しを示す。
【0054】
画素内に電荷保持部MEMを有するグローバルシャッタ型のCMOSイメージセンサでは、光電変換されフォトダイオードPDに蓄積された全画素分の信号電荷は、略同時に電荷保持部MEMへ転送される。その後、画素行ごとに、順次信号が読み出されてAD変換が行われる。
【0055】
まず、フォトダイオードPDがリセットされ、露光が開始される。露光期間が終了すると、フォトダイオードPDから電荷保持部MEMへ電荷が一括転送される。これにより、信号電荷が電荷保持部MEMに保持される。なお、フォトダイオードPDのリセット及び電荷保持部MEMへの電荷の一括転送は、全行で略同時に行われる。従って、全ての画素は、略同時に露光(一括露光)される。
【0056】
電荷保持部MEMへの電荷の一括転送後、各電荷保持部MEMは、行単位で順次信号が読み出される。全ての行における信号の読み出しが終了することにより、読出期間が終了する。メモリ保持期間Thは、露光期間が終了してから信号が読み出されるまでに、電荷保持部MEMが電荷を保持する期間を示す。メモリ読出期間Trは、メモリ保持期間Th後に信号が読み出される期間を示す。
【0057】
ここで、メモリ保持期間Thに、PLS、ブルーミング及び暗電流によって不要電荷(ノイズ電荷)が蓄積される。図6に示すように、行の読み出し順が遅いほど、メモリ保持期間Thが長くなる。例えば、暗電流はほぼ常に発生しているため、メモリ保持期間Thにほぼ比例してノイズ電荷が蓄積される。また、例えば、メモリ保持期間Thが長いほど、強い光を受けてPLSによるノイズ電荷が溜まる確率が高くなる。従って、理想的には、読み出し速度を高速化して、ノイズ電荷の影響を最小化することが望ましい。しかし、読み出し速度は、消費電力増大の懸念、画素内の物理的な制約、又は、出力インターフェースの仕様の制約を受けるため、限界がある。
【0058】
そこで、撮像装置1は、上記の制約の中でノイズ電荷の量を把握し、補正に必要なデータを取得するために、電荷保持部MEMの電荷を2回以上に分割して読み出す。より詳細には、垂直駆動回路21及び水平駆動回路23である読出制御部は、読み出し回路12を制御することにより、画像データを生成するように複数の画素から信号を読み出すとともに、読出期間中に少なくとも一部の画素(先読み画素)から信号を2回以上読み出す。
【0059】
[補正用データの取得]
図7は、本開示の第1の実施の形態に係る分割読み出しが行われる画素の一例を示す図である。また、図7に示す複数のセンサ画素11は、行列状に配置される。読出制御部は、行単位で画素から信号を読み出す。図7に示す各画素のカラーフィルタは、一例として、ベイヤー配列で配置される。
【0060】
図7は、読出制御部による2回読み出しの例を示す。この2回の分割読み出しを、先読み、及び、後読みと定義する。また、先読み時に読み出される行を「先読み行」と定義する。
【0061】
図7に示すように、先読み行の画素は、配列された画素から所定の行間隔で間引かれた画素である。すなわち、読出制御部は、間引くように画素の先読みを行う。
【0062】
分割読み出しの先読み行(図7の先-1~先-4)が読み出されると、先読み行の電荷保持部MEMはリセット(初期化)され、電荷保持部MEM内の電荷は空になる。この一度リセットされた電荷保持部MEMは、後読みまでの間にPLS、ブルーミング及び暗電流によるノイズ電荷が蓄積される。後読み時では、先読み時に読み出されなかった行の電荷保持部MEMの読み出しと、先読み行(図7の後-1、後-8、後-15、後-22)の電荷保持部MEMの2度目の読み出しと、が行われる。なお、先読み時に読み出されなかった行は、先読み行以外の行(図7の後-2~後-7、後-9~後-14、後-16~後-21、後-23~後-28)である。つまり、後読みでは全画素分(全行分)の電荷保持部MEMの読み出しが行われる。この後読みの際に、先読み時に読み出しが行われた先読み行(図7の後-1、後-8、後-15、後-22)の電荷保持部MEMの読み出しで得られる信号は、PLS、ブルーミング及び暗電流成分の信号である。
【0063】
図8は、本開示の第1の実施の形態に係る撮像装置1の動作の一例を示すタイミングチャートである。図8は、各行におけるメモリ保持期間及び読み出しのタイミングを示す。なお、図8は、図7の下から17行目までの画素の読み出しの例を示す。
【0064】
まず、先読みにより、先読み行(図8の先-1、先-2、先-3)の読み出しが行われる。読み出しは、先-1、先-2、先-3の順番で行われる。これにより、メモリ保持期間Th1の先読み信号S1が得られる。
【0065】
次に、後読みが行われる。後読みは、全ての画素行で行われる。読み出しは、後-1、後-2、後-3、・・・、後-15、後-16、後-17の順番で行われる。上記のように、先読みにより、先読み行の電荷保持部MEMの電荷がリセットされる。従って、先読み行(図8の後-1、後-8、後-15)の読み出しにより、メモリ保持期間Th1aの後読み信号S3が得られる。なお、メモリ保持期間Th1aは、或る画素行における先読みから後読みまでのメモリ保持期間である。すなわち、読出制御部は、電荷保持部MEMが初期化されてから次の信号の読み出しまでの期間に電荷保持部MEMに保持された電荷を、読出期間中に2回目以降に読み出される信号として読み出す。先読み行以外の行(図8の後-2~後-7、後-9~後-14、後-16、後-17)の読み出しにより、メモリ保持期間Thの後読み信号S2が得られる。
【0066】
先読み行の先読み信号S1は、メモリ保持期間Th1が短いため、僅かなノイズ成分が重畳された画素信号である。先読み行の後読み信号S3は、メモリ保持期間Th1aの間に蓄積されたノイズ電荷による信号である。先読み行以外の行の後読み信号S2は、メモリ保持期間Thの間に蓄積されたノイズ電荷による信号が重畳された画素信号である。
【0067】
先読み行の先読み信号S1と、先読み行以外の行の後読み信号S2と、を合成することにより、全画素分(全行分)のフォトダイオードPDで光電変換された信号が得られる。後読み信号S3は、上記のように、ノイズ電荷による信号である。この後読み信号S3は、ノイズを補正(抑制)するためのデータである。
【0068】
[補正]
図9は、本開示の第1の実施の形態に係る後読み信号S3の行間の補間の一例を示す模式図である。図9は、一例として、PLSによるノイズの分布を示す。
【0069】
例えば、移動する強い光を撮像すると、画像内で強い光の周辺の一部が本来の明るさよりも明るくなってしまう。これは、PLSによるノイズ電荷が大きいためである。撮像システム2は、一例として、このようなノイズ電荷の影響を抑制する。
【0070】
図9に示すように、後読み信号S3は、行間が間引かれたデータであるため、一般的な行間信号の補間処理により、全画素分のノイズ電荷信号分布が作成される。補間処理は、例えば、線形補間等であるが、これに限られない。この補間された全画素分の信号を、図9に示す分布信号S3aとする。図9に示す例では、PLSにより、分布信号S3aの中央部が明るくなっている。この分布信号S3aを用いて、画像データのノイズ補正処理が行われる。ノイズ電荷信号分布の作成及びノイズ補正処理は、例えば、図1に示すDSP回路210により作成される。
【0071】
先読み行では、メモリ保持期間Th1がメモリ保持期間Thよりも短く、PLS等のノイズの影響が抑制された先読み信号S1が得られる。先読み行以外の行では、後読み信号S2から分布信号S3aを減算することにより、PLS等のノイズの影響が減算された信号データが得られる。従って、先読み信号S1と、分布信号S3aにより減算された後読み信号S2と、を合成することにより、PLS等のノイズの影響が抑制された、全画素分の信号データである画像データを得ることができる。
【0072】
以上のように、第1の実施の形態によれば、読出制御部は、読出期間中に、一部の画素である先読み行の画素から信号を2回読み出す。まず、先読み行の画素の信号が読み出され、次に、全行の画素の信号が読み出される。これにより、先読み行において、先読みによって少ないノイズ電荷での画素信号が取得することができる。さらに、後読みによって、ノイズ補正処理に用いられる、ノイズ電荷の信号を得ることができる。後読みで得られるノイズ電荷の信号から補間により全画素分のノイズ電荷信号分布を作成して、先読み行以外の行でのノイズ電荷の影響を減算することができる。この結果、ノイズ電荷を抑制した画像データを取得することができる。
【0073】
また、先読み信号S1には、メモリ保持期間Th1がゼロではないため、ノイズ電荷の影響は僅かに存在し得る。第1の実施の形態では、先読み信号S1にノイズ補正処理は行われていない。そこで、例えば、先読み時のみ走査線(垂直駆動回路21及び水平駆動回路23)のドライブ能力を上げる、又は、読み出し回路12(例えば、垂直信号線VSLに接続される定電流源)の電流を増大させる等により、先読みに要する時間をより短縮することができる。この結果、メモリ保持期間Th1をさらに短くすることができ、先読み信号S1におけるノイズ電荷の影響をさらに抑制することができる。従って、読出制御部は、第1速度で先読み行の画素から信号を読み出した後に、第1速度よりも遅い第2速度で全ての画素から信号を読み出す。後読みの読み出し速度は、変更されることなく、先読みの読み出し速度よりも遅い。これにより、消費電力増大等の影響は小さい。
【0074】
なお、第1の実施の形態では、信号の読み出しが行単位で行われる。しかし、これに限られず、列単位又は1つの画素単位に信号が順次読み出されてもよい。
【0075】
また、第1の実施の形態では、画素の先読みが行単位で行われる。しかし、これに限られず、読出制御部は、先読みを列単位で行ってもよい。
【0076】
また、出力に関しては、アナログ出力方式を含めた構成も含み、AD変換の方式も問わない。図3に示す例では、AD変換にカラム信号処理回路22が用いられている。すなわち、画素列内の画素で1つのAD変換器が共有される。しかし、AD変換器がセンサ画素11ごとに配置されてもよい。画素ごとにAD変換及び信号の読み出しが行われる場合であっても、例えば、電荷の転送のタイミングが画素ごとにずれる場合、本開示の実施の形態を適用することができる。
【0077】
また、一つの画素行に対して、読出期間中に最大で2回の信号の読み出しが行われているが、3回以上読み出しが行われてもよい。読出期間中に2回目以降に読み出されたがノイズ補正処理に用いられる。
【0078】
また、DSP回路210に代えて、FPGA(Field-Programmable Gate Array)がノイズ電荷信号分布の作成及びノイズ補正処理を行ってもよい。
【0079】
また、電荷保持部MEMは、フローティングディフュージョンFDで代用されてもよい。また、ボルテージドメイングローバルシャッタ画素では、例えば、MIM(Metal Insulator Metal)構造のキャパシタが設けられる。このキャパシタに、フォトダイオードPDで生成された電荷が電圧に変換されて保持される。従って、電荷保持部MEMに代えて、フォトダイオードPDで光電変換された電荷に関する情報を電圧として保持する電圧保持部が用いられてもよい。このように、電荷に限られず、電荷に関する情報が保持部に保持されてもよい。
【0080】
[比較例]
PLS、ブルーミング及び暗電流によるノイズを補正する方法として、例えば、補正専用の画素、又は、電荷保持部MEMとは別の補正専用の電荷保持部(メモリ)を画素アレイ部10内に配置することが考えられる。しかし、画素アレイ部10内に補正専用の画素又は補正専用の電荷保持部を配置すると、画素面積の低下により、飽和信号量の低下、感度の低下、又は、解像度の悪化につながる場合がある。
【0081】
これに対して、第1の実施の形態では、補正専用の画素又は補正専用の電荷保持部が設けられない。従って、撮像装置1の構成を変更することなく、PLS、ブルーミング及び暗電流等によるノイズを補正するためのデータを駆動によって取得することができる。この結果、画素面積の低下による特性の劣化を抑制しつつ、ノイズを補正するためのデータを取得することができる。
【0082】
<変形例>
図10は、第1の実施の形態の変形例に係る撮像装置1の概略構成の一例を表す。第1の実施の形態の変形例は、撮像装置1がノイズ補正処理を行う点で、第1の実施の形態とは異なっている。
【0083】
第1の実施の形態では、撮像装置1は、補正用データである後読み信号S3の読み出し及びAD変換を行い、後読み信号S3を外部(例えば、DSP回路210)に出力する。DSP回路210は、後読み信号S3に基づいて、ノイズ電荷信号分布の作成及びノイズ補正処理を行う。
【0084】
図10に示すように、第2の実施の形態に係る撮像装置1は、信号処理部25をさらに備える。
【0085】
信号処理部25は、例えば、第1の実施の形態で説明したDSP回路210の機能を有する。すなわち、信号処理部25は、後読み信号S3に基づいて、ノイズ電荷信号分布の作成及びノイズ補正処理を行う。このように、信号処理部25は、画像データを生成するための信号を処理する。信号処理部25は、例えば、フレームバッファ又はフレームメモリを有する。第2の実施の形態では、撮像装置1が単独でノイズ補正処理を行うことができる。
【0086】
なお、図10に示す例では、信号処理部25は、水平駆動回路23に接続されている。しかし、信号処理部25は、例えば、カラム信号処理回路22と接続されてもよく、また、カラム信号処理回路22内に配置されてもよい。
【0087】
また、信号処理部25は、撮像装置1と同じ基板上に配置されてもよい。撮像装置1が積層された複数の基板を有する場合、画素アレイ部10が配置される基板とは異なる、信号処理のための回路が配置される基板に、信号処理部25が配置される。
【0088】
第1の実施の形態の変形例のように、ノイズ補正処理を行う信号処理部25が撮像装置1内に設けられてもよい。この場合にも、第1の実施の形態と同等の効果を得ることができる。
【0089】
<第2の実施の形態>
図11は、本開示の第2の実施の形態に係る分割読み出しが行われる画素の一例を示す図である。第2の実施の形態は、第1の実施の形態と比較して、先読みの間引き率が異なっている。
【0090】
図11に示す例では、第1の実施の形態の図7と比較して、先読み行(図11の先-1~先-7)の数が多い。第1の実施の形態では、7行ごとに先読みが行われるのに対して、第2の実施の形態では、4行ごとに先読みが行われる。すなわち、第1の実施の形態の図7と比較して、先読み行の間引き率が減少し、先読み行の間隔が狭くなっている。これにより、先読み行の画素の解像度を向上させることができる。この結果、ノイズ電荷信号分布をより精度よく作成することができ、補正精度を向上させることができる。
【0091】
図12は、本開示の第2の実施の形態に係る撮像装置1の動作の一例を示すタイミングチャートである。
【0092】
図12に示すように、先読み行が多くなるほど、先読み行であっても、読み出しの順が遅い行におけるメモリ保持期間Th1が長くなる。従って、先読み信号S1に重畳されるノイズ電荷の影響が大きくなる可能性がある。この場合、合成される画像データにおいて、先読み行における画素のノイズ電荷の影響を抑制することが困難になってしまう。従って、間引き率の変更に関して、先読み行以外の行の補正精度と、先読み行のノイズ成分の大きさと、がトレードオフの関係にある。
【0093】
また、間引き率を下げる場合に限られず、間引き率を上げて先読み行の間隔を広くしてもよい。この場合、先読み行の画素の解像度が低下する。従って、先読み行のノイズ成分を低下させることができるが、先読み行以外の行の補正精度が低下してしまう。上記のトレードオフの関係により、先読み行の間引き率は、撮像装置1に必要な性能に応じて設定される。
【0094】
第2の実施の形態のように、先読み行の間引き率が変更されてもよい。この場合にも、第1の実施の形態と同等の効果を得ることができる。なお、第2の実施の形態に係る撮像システム2及び撮像装置1に、第1の実施の形態の変形例を組み合わせてもよい。
【0095】
<第3の実施の形態>
図13は、本開示の第3の実施の形態に係る分割読み出しが行われる画素の一例を示す図である。第3の実施の形態は、行間引きによる3回読み出しが行われる点で、第1の実施の形態とは異なっている。
【0096】
図13に示す例では、第1の実施の形態と比較して、先読みと後読みとの間の中読みが行われる。なお、中読みは、先読み行を分けて先読みを複数回(例えば、2回)行うことに対応する。また、中読み時に読み出される行を「中読み行」と定義する。
【0097】
中読みでは、中読み行(図13の中-1~中-4)の信号が読み出される。中読み行の間引き率は、例えば、先読み行の間引き率と同じである。中読み行は、例えば、先読み行から2行分ずれている。
【0098】
分割読み出しの中読み行(図13の中-1~中-4)が読み出されると、先読みと同様に、中読み行の電荷保持部MEMはリセットされ、電荷保持部MEM内の電荷は空になる。この一度リセットされた電荷保持部MEMは、後読みまでの間にPLS、ブルーミング及び暗電流によるノイズ電荷が蓄積される。
【0099】
図14は、本開示の第3の実施の形態に係る撮像装置1の動作の一例を示すタイミングチャートである。
【0100】
図14に示すように、第1の実施の形態の図8で説明した先読みと後読みとの間に、中読みが行われる。中読みにより、中読み行(図14の中-1、中-2、中-3)の読み出しが行われる。読み出しは、中-1、中-2、中-3の順番で行われる。これにより、メモリ保持期間Th2の中読み信号S4が得られる。また、後読み時に、中読み行(図14の後-3、後-10、後-17)の読み出しにより、メモリ保持期間Th2aの後読み信号S5が得られる。
【0101】
中読み行の中読み信号S4は、メモリ保持期間Th2が短いため、僅かなノイズ成分が重畳された画素信号である。中読み行の後読み信号S5は、メモリ保持期間Th2aの間に蓄積されたノイズ電荷による信号である。
【0102】
先読み行の先読み信号S1と、中読み行の中読み信号S4と、先読み行及び中読み行以外の行の後読み信号S2と、を合成することにより、全画素分(全行分)のフォトダイオードPDで光電変換された信号が得られる。後読み信号S3、S5は、上記のように、ノイズ電荷による信号である。この後読み信号S3、S5は、ノイズを補正するためのデータの1つである。
【0103】
後読み信号S5により、第1の実施の形態と比較して、ノイズ電荷の信号の解像度を向上させることができる。この結果、ノイズ電荷信号分布をより精度よく作成することができ、補正精度を向上させることができる。
【0104】
なお、中読みは先読みの後に行われるため、中読み信号S4のメモリ保持期間Th2は、先読み信号S1のメモリ保持期間Th1よりも長い。従って、中読み信号S4は、先読み信号S1よりも重畳されるノイズ電荷の影響が大きくなる可能性がある。この場合、合成される画像データにおいて、中読み行のノイズ電荷の影響を抑制することが困難になってしまう。従って、第2の実施の形態で説明した先読み行の間引き率の変更とほぼ同様に、読み出し回数の変更に関して、先読み行及び中読み行以外の行の補正精度と、先読み行及び中読み行のノイズ成分の大きさと、がトレードオフの関係にある。
【0105】
第3の実施の形態のように、2回に限られず、3回以上の読み出しが行われてもよい。この場合にも、第1の実施の形態と同等の効果を得ることができる。なお、第3の実施の形態に係る撮像システム2及び撮像装置1に、第1の実施の形態の変形例、及び、第2の実施の形態を組み合わせてもよい。
【0106】
<第4の実施の形態>
図15は、本開示の第4の実施の形態に係る分割読み出しが行われる画素の一例を示す図である。第4の実施の形態は、画素の先読みが行単位ではない点で、第1の実施の形態とは異なっている。
【0107】
図15に示す例では、先読みは、行ごとではなく、画素ごとに行われる。すなわち、読出制御部は、先読みを画素単位で行う。先読み画素は、画素アレイ部10においてばらばらに配置されている。図15に示す例では、先読み画素は、下から1、7、13、19、25行目の赤色用の画素11R、及び、下から4、10、16、22、28行目の青色用の画素11Bである。このように、行単位ではなく、画素ごとに散らして間引きすることにより、ノイズ補正の精度が上がり、先読み時に高速でスキャンできる可能性もある。
【0108】
第4の実施の形態のように、画素ごとに先読みが行われてもよい。この場合にも、第1の実施の形態と同等の効果を得ることができる。なお、第4の実施の形態に係る撮像システム2及び撮像装置1に、第1の実施の形態の変形例、並びに、第2の実施の形態及び第3の実施の形態を組み合わせてもよい。
【0109】
<移動体への応用例>
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
【0110】
図16は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
【0111】
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図16に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
【0112】
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
【0113】
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
【0114】
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
【0115】
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
【0116】
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
【0117】
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
【0118】
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
【0119】
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
【0120】
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図16の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
【0121】
図17は、撮像部12031の設置位置の例を示す図である。
【0122】
図17では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
【0123】
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
【0124】
なお、図17には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
【0125】
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
【0126】
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
【0127】
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
【0128】
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
【0129】
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、撮像部12031,12101,12102,12103,12104,12105や、運転者状態検出部12041等に適用され得る。具体的には、これらの撮像部や検出部に対して、例えば、本開示の撮像システム2及び撮像装置1を適用することができる。そして、本開示に係る技術を適用することにより、ノイズを抑制することができるため、より安全な車両走行を実現することが可能になる。
【0130】
なお、本技術は以下のような構成を取ることができる。
(1)光電変換部と、光電変換された電荷又は前記電荷に関する情報を保持する保持部と、を有する複数の画素から、前記電荷又は前記情報を信号として読み出す読出部と、
前記読出部を制御することにより、画像データを生成するように複数の前記画素から信号を読み出すとともに、読出期間中に少なくとも一部の前記画素から信号を2回以上読み出す読出制御部と、
読出期間中に2回目以降に読み出された信号に基づいて、前記画像データを生成するための信号を処理する信号処理部と、を備える、撮像システム。
(2)信号が読み出された少なくとも一部の前記画素の前記保持部は、初期化され、
前記読出制御部は、前記保持部が初期化されてから次の信号の読み出しまでの期間に前記保持部に保持された前記電荷又は前記情報を、読出期間中に2回目以降に読み出される信号として読み出す、(1)に記載の撮像システム。
(3)前記読出制御部は、少なくとも一部の前記画素から信号を読み出した後に全ての前記画素から信号を読み出すことにより、読出期間中に少なくとも一部の前記画素から信号を2回以上読み出す、(1)又は(2)に記載の撮像システム。
(4)前記読出制御部は、少なくとも一部の前記画素を分けて信号を複数回読み出した後に全ての前記画素から信号を読み出すことにより、読出期間中に少なくとも一部の前記画素から信号を2回以上読み出す、(3)に記載の撮像システム。
(5)前記読出制御部は、第1速度で少なくとも一部の前記画素から信号を読み出した後に、前記第1速度よりも遅い第2速度で全ての前記画素から信号を読み出す、(3)又は(4)に記載の撮像システム。
(6)複数の前記画素は、行列状に配置され、
前記読出制御部は、行単位又は列単位で少なくとも一部の前記画素から信号を読み出した後に、全ての前記画素から信号を読み出す、(3)乃至(5)のいずれか一項に記載の撮像システム。
(7)前記読出制御部は、前記画素単位で少なくとも一部の前記画素から信号を読み出した後に、全ての前記画素から信号を読み出す、(3)乃至(5)のいずれか一項に記載の撮像システム。
(8)前記読出制御部は、読出期間中に、間引かれた少なくとも一部の前記画素から信号を2回以上読み出し、
前記信号処理部は、
読出期間中に2回目以降に読み出された信号に基づいて、間引かれた前記画素の間の信号を補間することにより、信号分布を生成し、
前記信号分布に基づいて、前記画像データを生成するための信号を処理する、(1)乃至(7)のいずれか一項に記載の撮像システム。
(9)前記信号処理部は、間引かれた少なくとも一部の前記画素以外の前記画素から読み出された信号から、前記信号分布に基づく対応する前記画素の信号を減算することにより、前記画像データを生成するための信号を処理する、(8)に記載の撮像システム。
(10)前記読出制御部は、複数の前記画素ごとに、又は、1つの前記画素ごとに、順次信号を読み出す、(1)乃至(9)のいずれか一項に記載の撮像システム。
(11)全ての前記画素は、略同時に露光され、
露光の終了後、全ての前記画素の前記電荷又は前記情報は、略同時に前記保持部に保持される、(1)乃至(10)のいずれか一項に記載の撮像システム。
(12)光電変換部と、光電変換された電荷又は前記電荷に関する情報を保持する保持部と、を有する複数の画素から、前記電荷又は前記情報を信号として読み出す読出部と、
前記読出部を制御することにより、画像データを生成するように複数の前記画素から信号を読み出すとともに、読出期間中に少なくとも一部の前記画素から信号を2回以上読み出す読出制御部と、を備える、撮像装置。
【0131】
本開示の態様は、上述した個々の実施形態に限定されるものではなく、当業者が想到しうる種々の変形も含むものであり、本開示の効果も上述した内容に限定されない。すなわち、特許請求の範囲に規定された内容およびその均等物から導き出される本開示の概念的な思想と趣旨を逸脱しない範囲で種々の追加、変更および部分的削除が可能である。
【符号の説明】
【0132】
1 撮像装置、2 撮像システム、10 画素アレイ部、11 センサ画素、12 読み出し回路、20 ロジック回路、21 垂直駆動回路、22 カラム信号処理回路、23 水平駆動回路、25 信号処理部、210 DSP回路、PD フォトダイオード、MEM 電荷保持部、S1 先読み信号、S2 後読み信号、S3 後読み信号、S3a 分布信号、S4 中読み信号、S5 後読み信号
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17