(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2022-09-06
(45)【発行日】2022-09-14
(54)【発明の名称】測距装置および測距方法
(51)【国際特許分類】
H04N 5/369 20110101AFI20220907BHJP
G01S 17/894 20200101ALI20220907BHJP
G01C 3/06 20060101ALI20220907BHJP
【FI】
H04N5/369
G01S17/894
G01C3/06 120Q
G01C3/06 140
(21)【出願番号】P 2022539660
(86)(22)【出願日】2022-06-08
(86)【国際出願番号】 JP2022023093
【審査請求日】2022-06-28
(31)【優先権主張番号】P 2021108613
(32)【優先日】2021-06-30
(33)【優先権主張国・地域又は機関】JP
【早期審査対象出願】
(73)【特許権者】
【識別番号】520133916
【氏名又は名称】ヌヴォトンテクノロジージャパン株式会社
(74)【代理人】
【識別番号】100109210
【氏名又は名称】新居 広守
(74)【代理人】
【識別番号】100137235
【氏名又は名称】寺谷 英作
(74)【代理人】
【識別番号】100131417
【氏名又は名称】道坂 伸一
(72)【発明者】
【氏名】永田 朋史
【審査官】鈴木 明
(56)【参考文献】
【文献】国際公開第2014/002415(WO,A1)
【文献】国際公開第2016/189808(WO,A1)
【文献】国際公開第2017/150246(WO,A1)
【文献】国際公開第2018/101049(WO,A1)
【文献】国際公開第2019/054102(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N5/30-5/378
G01S17/894
G01C3/06
(57)【特許請求の範囲】
【請求項1】
パルス光を発する光源部と、
固体撮像装置と、
制御回路と、を備え、
前記固体撮像装置は、
光電変換により信号電荷を生成する複数の画素と、
信号電荷を保持および転送するパケットが形成される複数の垂直転送部と、
前記垂直転送部を覆い、前記パケットを形成する複数種類の垂直転送電極と、を有し、
前記複数の画素は、読み出し対象の第1画素と、読み出し対象でない第2画素とを含み、
前記制御回路は、
前記第1画素のそれぞれに対して、パルス光に対して互いに異なるタイミングのn種類の露光動作(nは4以上の整数)を制御し、前記n種類の露光動作に対応するn種類の信号電荷を前記垂直転送部のn個のパケットに読み出し、
前記垂直転送部が配置される領域のうち前記n個のパケットが形成される第1領域は、垂直方向に連続するm個の画素(mは3以上の整数)が配置される画素領域と隣り合い、
前記m個の画素は、前記第1画素及び前記第2画素を含む
測距装置。
【請求項2】
前記nは6以上であり、
前記mは4以上である
請求項1に記載の測距装置。
【請求項3】
前記制御回路は、前記パルス光と1対1で組み合わされる第1露光パルスから第n露光パルスを生成し、
前記パルス光と前記第1露光パルスから第n露光パルスのそれぞれとの時間差は、前記第1露光パルスから第nの露光パルスの順に大きく、
前記制御回路は、前記n種類の露光動作において、第1露光パルスから第n露光パルスを、前記第1から第nの露光パルスの順に生成する
請求項
1に記載の測距装置。
【請求項4】
前記制御回路は、前記パルス光と1対1で組み合わされる第1露光パルスから第n露光パルスを生成し、
前記パルス光と前記第1露光パルスから第n露光パルスのそれぞれとの時間差は、前記第1露光パルスから第nの露光パルスの順に大きく、
前記制御回路は、前記n種類の露光動作において、第1露光パルスから第nの露光パルスを、第1から第nのうち奇数に対応する露光パルスを順に生成し、かつ、第1から第nのうち偶数に対応する露光パルスを順に生成する
請求項
1に記載の測距装置。
【請求項5】
前記固体撮像装置から出力されるn個のパケットに対応するn個のパケット信号に基づいて距離値を算出する信号処理回路を備え、
前記信号処理回路は、前記n個のパケット信号のうち、反射光のうち先頭を含む部分に対応する第1パケット信号と、反射光のうち先頭を含む部分以外の部分に対応する第2パケット信号と、を判別し、
前記n個のパケット信号の中から背景光成分を示す第1背景光パケット信号と、第2背景光パケット信号とを選択し、
前記第1パケット信号から第1背景光パケット信号を減算し、
前記第2パケット信号から第2背景光パケット信号を減算し、
減算後の前記第1パケット信号と、減算後の前記第2パケット信号とから距離値を算出する
請求項
1に記載の測距装置。
【請求項6】
前記n(nは偶数)個のパケット信号は、所定の読み出し電極を通過したパケットに対応するパケット信号からなる第1グループと、所定の読み出し電極を通過していないパケットに対応するパケット信号からなる第2グループとを構成し、
前記信号処理回路は、
前記第1背景光パケット信号を、前記第1パケット信号が属するグループから選択し、
前記第2背景光パケット信号を、前記第2パケット信号が属するグループから選択する請求項5に記載の測距装置。
【請求項7】
前記第1画素は赤外光を光電変換する赤外光画素であり、
前記第2画素は可視光を光電変換する可視光画素である
請求項1から6のいずれか1項に記載の測距装置。
【請求項8】
前記複数の画素は、交互に配置された第1画素行と、第2画素行とを有し、
前記第1画素行は、一次元配置された複数の前記赤外光画素を有し、
前記第2画素行は、一次元配置された複数の前記可視光画素を有する
請求項7に記載の測距装置。
【請求項9】
所定列の垂直転送部のそれぞれは、前記第1画素の読み出し動作において、所定行の前記第1画素行における、行方向に隣り合う2つの赤外光画素からの信号電荷を混合し、
前記所定列以外の垂直転送部のそれぞれは、前記第1画素の読み出し動作において、所定行以外の前記第1画素行における、行方向に隣り合う2つの赤外光画素からの信号電荷を混合し、
前記所定列は、奇数列または偶数列であり、
前記所定行は、前記第1画素行の集まりのうちの奇数番目の第1画素行または偶数番目の第1画素行である
請求項8に記載の測距装置。
【請求項10】
前記複数の画素のそれぞれは、赤外光を光電変換する赤外光画素である
請求項1から6のいずれか1項に記載の測距装置。
【請求項11】
前記第1画素は、列方向の隣り合う4画素行のうちの2画素行に属する画素であり、
前記第2画素は、前記4画素行のうちの前記第1画素以外の画素であり、
所定列の垂直転送部のそれぞれは、前記第1画素の読み出し動作において、第1所定画素行における、行方向に隣り合う2つの第1画素からの信号電荷を混合し、
前記所定列以外の垂直転送部のそれぞれは、前記第1画素の読み出し動作において、第2所定画素行における、行方向に隣り合う2つの第1画素からの信号電荷を混合し、
前記所定列は、奇数列または偶数列であり、
前記第1所定画素行は、前記2画素行のうちの1画素行であり、
前記第2所定画素行は、前記2画素行のうちの他の1画素行である
請求項10に記載の測距装置。
【請求項12】
パルス光を発する光源部と、固体撮像装置とを有する測距装置における測距方法であって、
読み出し対象の第1画素と、読み出し対象でない第2画素とを決定し、
前記第1画素のそれぞれに対して、パルス光に対して互いに異なるタイミングのn種類の露光動作(nは4以上の整数)を制御し、
前記n種類の露光動作に対応するn種類の信号電荷を、前記固体撮像装置内の垂直転送部のn個のパケットに読み出し、
前記垂直転送部が配置される領域のうち前記n個のパケットが形成される第1領域は、垂直方向に連続するm個の画素(mは3以上の整数)が配置される画素領域と隣り合い、
前記m個の画素は、前記第1画素及び前記第2画素を含む
測距方法。
【請求項13】
さらに、前記n個のパケットのうち、反射光のうち先頭を含む第1部分による信号電荷を保持する第1パケットと、反射光のうち前記第1部分以外の部分による信号電荷を保持する第2パケットと、を判別し、
前記n個のパケットの中から背景光成分を示す第1背景光パケットと、第2背景光パケットとを選択し、
前記第1パケットから第1背景光パケットを減算し、
前記第2パケットから第2背景光パケットを減算し、
減算後の前記第1パケットと、減算後の前記第2パケットとから距離値を算出する
請求項12に記載の測距方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、距離画像を生成する測距装置および測距方法に関する。
【背景技術】
【0002】
従来、測距装置として様々な技術が提案されている(特許文献1、2、3参照)。
【先行技術文献】
【特許文献】
【0003】
【文献】国際公開第2014/002415号
【文献】国際公開第2016/189808号
【文献】国際公開第2018/101049号
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来の測距装置において発光および露光のためのパルス幅を大きくすれば測距レンジを拡大できるが測距バラツキが増大するという課題がある。ここでいう測距バラツキは、繰り返し測定において生じるバラツキをいい、パルス幅に比例して大きくなる。
【0005】
そこで、本開示は、測距レンジの拡大と、測距バラツキの低減とを可能にする測距装置および測距方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するために、本開示の一態様に係る測距装置は、パルス光を発する光源部と、固体撮像装置と、制御回路と、を備え、固体撮像装置は、光電変換により信号電荷を生成する複数の画素と、信号電荷を保持および転送するパケットが形成される複数の垂直転送部と、垂直転送部を覆いパケットを形成する複数種類の垂直転送電極と、を有し、複数の画素は、所定フレームを構成する読み出し対象の第1画素と、所定フレームを構成しない読み出し対象でない第2画素とを含み、制御回路は、第1画素のそれぞれに対して、パルス光に対して互いに異なるタイミングのn種類の露光動作(nは4以上の整数)を制御し、n種類の露光動作に対応するn種類の信号電荷を垂直転送部のn個のパケットに読み出し、垂直転送部が配置される領域のうちn個のパケットが形成される第1領域は、垂直方向に連続するm個の画素(mは3以上の整数)が配置される画素領域と隣り合い、m個の画素は、第1画素及び第2画素を含む。
【0007】
また、本開示の一態様に係る測距方法は、パルス光を発する光源部と、固体撮像装置とを有する測距装置における測距方法であって、読み出し対象の第1画素と、読み出し対象でない第2画素とを決定し、第1画素のそれぞれに対して、パルス光に対して互いに異なるタイミングのn種類の露光動作(nは4以上の整数)を制御し、n種類の露光動作に対応するn種類の信号電荷を、固体撮像装置内の垂直転送部のn個のパケットに読み出し、垂直転送部が配置される領域のうちn個のパケットが形成される第1領域は、垂直方向に連続するm個の画素(mは3以上の整数)が配置される画素領域と隣り合い、m個の画素は、第1画素及び第2画素を含む。
【0008】
なお、これらの全般包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD-ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
【発明の効果】
【0009】
本開示の測距装置および測距方法は、測距レンジの拡大と測距バラツキの低減とを可能にする。
【図面の簡単な説明】
【0010】
【
図1】
図1は、実施の形態1に係る測距装置の構成例を示すブロック図である。
【
図2】
図2は、実施の形態1に係る固体撮像装置の構成例を示すブロック図である。
【
図3】
図3は、実施の形態1に係る測距動作時に形成される6種類のパケットの配置例を示す説明図である。
【
図4A】
図4Aは、実施の形態1に係る測距装置5の動作例を示すタイムチャートである。
【
図4B】
図4Bは、実施の形態1に係る測距装置5の他の動作例を示すタイムチャートである。
【
図5】
図5は、実施の形態1に係る測距装置の動作例を示すフローチャートである。
【
図6A】
図6Aは、実施の形態1に係る反射光のタイミングの第1例を示す説明図である。
【
図6B】
図6Bは、実施の形態1に係る反射光のタイミングの第2例を示す説明図である。
【
図6C】
図6Cは、実施の形態1に係る反射光のタイミングの第3例を示す説明図である。
【
図7A】
図7Aは、実施の形態2に係る測距装置5の動作例を示すタイムチャートである。
【
図7B】
図7Bは、実施の形態2に係る測距装置5の他の動作例を示すタイムチャートである。
【
図8】
図8は、実施の形態2に係る測距装置の動作例を示すフローチャートである。
【
図9A】
図9Aは、実施の形態2に係る反射光のタイミングの第1例を示す説明図である。
【
図9B】
図9Bは、実施の形態2に係る反射光のタイミングの第2例を示す説明図である。
【
図9C】
図9Cは、実施の形態2に係る反射光のタイミングの第3例を示す説明図である。
【
図10】
図10は、実施の形態3に係る固体撮像装置の構成例を示すブロック図である。
【
図11】
図11は、実施の形態3に係る測距動作時に形成される6種類のパケットの配置例を示す説明図である。
【発明を実施するための形態】
【0011】
以下、本開示の一態様に係る測距装置および測距方法の実施の形態について、図面を参照しながら具体的に説明する。
【0012】
なお、以下で説明する実施の形態は、いずれも本開示の一包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
【0013】
(実施の形態1)
[1.1 構成]
図1は、実施の形態1に係る測距装置5の構成例を示すブロック図である。
【0014】
測距装置5は、距離画像と可視光画像とを生成する測距カメラである。そのため、測距装置5は、光源部20、固体撮像装置10、制御回路30及び信号処理回路40を備える。
【0015】
光源部20は、制御回路30からの発光制御信号に従って被写体に向けて赤外光のパルス光を照射する光源である。光源部20は、例えば、レーザダイオード又は発光ダイオード等の発光素子を含む。
【0016】
固体撮像装置10は、制御回路30からの露光制御信号に従って露光動作をし、露光動作により画素信号を生成するイメージセンサである。
【0017】
図2は、固体撮像装置10の構成例を示す図である。同図のように、固体撮像装置10は、複数の画素と、複数の垂直転送部とを含む。
【0018】
複数の画素は、行列状に配置される。各画素は、赤外光または可視光を光電変換して信号電荷を生成する。
図2の複数の画素は、交互に配置された第1画素行と、第2画素行とを有する。第1画素行は、一次元配置された複数の赤外光画素13を有する。第2画素行は、一次元配置された複数の可視光画素12を有する。複数の画素は、距離画像用の読み出し対象の第1画素と、距離画像用の読み出し対象でない第2画素とを含む。赤外光画素13は第1画素の具体例であり、可視光画素12は第2画素の具体例である。第1画素は、距離画像を構成する画素に対応し、距離画像の生成動作で読み出される。また、第2画素は、距離画像の生成動作で読み出されないが、輝度画像の生成動作で読み出される。
【0019】
複数の垂直転送部は、奇数列の垂直転送部14aと、偶数列の垂直転送部14bとを含む。以下では、垂直転送部14aと垂直転送部14bとを特に区別しない場合は、垂直転送部14と記す。垂直転送部14は、信号電荷を保持および転送するパケットが形成される。ここで、パケットとは、垂直転送電極V1~V10により形成されるポテンシャルの井戸であり、信号電荷の保持と、信号電荷の垂直転送とに用いられる。垂直転送は、垂直転送部14の長手方向にパケットを転送することであり、双方向に可能である。そのため、各垂直転送部14は、垂直転送部14を覆い、パケットを形成する複数種類の垂直転送電極V1~V10を有する。
【0020】
複数種類の垂直転送電極V1~V10は、印加される電圧の組合せによりパケットを形成および転送する。
図2では、垂直転送電極V1~V10のうちの垂直転送電極V4は、赤外光画素13から垂直転送部14に信号電荷を読み出すための読み出し電極を兼用している。読み出し電極を兼用する垂直転送電極V4は、上記の第1画素行のうち例えば奇数番目の第1画素行において、2つの赤外光画素13からの信号電荷を偶数列の垂直転送部14bに読み出して加算混合するように配置されている。また、読み出し電極を兼用する垂直転送電極V4は、上記の第1画素行のうち例えば偶数番目の第1画素行において、2つの赤外光画素13からの信号電荷を奇数列の垂直転送部14aに読み出して加算混合するように配置されている。
【0021】
なお、垂直転送電極V1~V10のうちの垂直転送電極V9は、可視光画素12から垂直転送部14に信号電荷を読み出すための読み出し電極を兼用している。
【0022】
図1における制御回路30は、制御回路30にパルス光の照射を指示する発光パルスを有する発光制御信号を出力し、固体撮像装置10に露光を指示する露光パルスを有する露光制御信号を出力する。より具体的には、制御回路30は、発光制御信号および露光制御信号によって、第1画素(つまり赤外光画素13)のそれぞれに対して、パルス光に対して互いに異なるタイミングのn種類の露光動作(nは4以上の整数)を制御する。このとき、制御回路30は、n種類の露光動作のそれぞれで生成される信号電荷を垂直転送部のパケットに読み出し、垂直方向に転送する。また、垂直転送部14が配置される領域のうちn個のパケットが形成される第1領域は、垂直方向に連続するm個の画素(mは3以上の整数)が配置される画素領域と隣り合う。m個の画素は、上記の第1画素と第2画素とを含む。なお、制御回路30は、専用の論理回路で構成されてもよいし、プログラムを格納するメモリ、プログラムを実行するプロセッサ、および、入出力ポート等を含む構成であってもよい。
【0023】
図3は、n=6の場合のパケットの配置例を示す図である。垂直転送部14の両側の2つの赤外光画素13から読み出された信号電荷は、n種類の露光動作に対応してn個のパケットに読み出されて保持される。
図3のパケットP1~P6は、露光、読み出しおよび垂直転送を6回実行することにより生成される。
【0024】
図1における信号処理回路40は、固体撮像装置10からの出力されるn個のパケット信号に基づいて、第1画素毎に(
図3では混合加算の赤外光画素13の2つ毎に)距離値を算出する。具体的には、信号処理回路40は、まず、n個のパケット信号のうち、反射光のうち先頭を含む第1部分に対応する第1パケット信号と、反射光のうち第1部分以外の部分に対応する第2パケットとを判別する。次に、信号処理回路40は、n個のパケット信号の中から背景光成分を示す第1背景光パケット信号および第2背景光パケット信号を選択する。第1背景光パケット信号は、第1パケット信号と同等の背景光の信号電荷BG0を含むとみなすことができるパケット信号である。第2背景光パケット信号は、第2パケット信号と同等の背景光の信号電荷BG1を含むとみなすことができるパケット信号である。さらに、信号処理回路40は、第1パケット信号から第1背景光パケット信号を減算し、第2パケット信号ら第2背景光パケット信号を減算し、減算後の前記第1パケットと、減算後の前記第2パケットとから距離値を算出する。なお、信号処理回路40は、パケット信号等のデータおよびプログラムを格納するメモリ、プログラムを実行するプロセッサ、および、入出力ポート等を含む構成であってもよい。
【0025】
なお、測距装置5は、光学レンズ等の光学系、光学レンズを移動させる駆動機構、生成された可視光画像及び距離画像を表示するディスプレイ及び保存する補助メモリ、操作者からの指示を受け取る入力デバイス(ボタン、タッチパネル)等を備えてもよい。
【0026】
[1.2 動作]
上記のようの構成された本実施の形態に係る測距装置5について、以下その動作を説明する。
【0027】
まず、n種類の露光動作およびn個のパケットを生成する動作について説明する。
【0028】
図4Aは、実施の形態1に係る測距装置5の動作例を示すタイムチャートである。同図の「L0」は、制御回路30から光源部20に出力される発光制御信号に含まれる、発光タイミングを指示する発光パルスを示す。この発光パルスL0は正論理であり、ハイレベルで発光を、ローレベルで非発光を指示する。発光パルスL0のパルス幅Tpは、例えば10nSである。
【0029】
「E1」は、制御回路30から光源部20に出力される露光制御信号に含まれる、露光タイミングを示す第1露光パルスを示す。この第1露光パルスE1は正論理であり、ハイレベルで露光を、ローレベルで非露光を指示する。第1露光パルスのパルス幅は、発光パルスと同じパルス幅Tpである。なお、第1露光パルスのパルス幅は、発光パルスと異なっていてもよい。
【0030】
第2露光パルスE2から第6露光パルスE6も、第1露光パルスE1と同様である。ただし、「E1」から「E6」は発光パルスL0対して互いに異なるタイミングで露光を指示する。
【0031】
図4Aでは、6種類の異なるタイミングの露光動作を、便宜上1つのタイムチャートにまとめて図示してある。6種類の露光動作は、発光パルスL0と第1露光パルスE1の組(L0、E1)による露光動作、(L0、E2)、(L0、E3)、(L0、E4)、(L0、E5)、(L0、E6)による露光動作である。
【0032】
制御回路30は、この順番に露光動作を実施するように光源部20および固体撮像装置10を制御する。その結果、
図3に示すように、(L0、E1)による露光動作により生成される信号電荷は、パケットP1に転送される。同様に、(L0、E2)、(L0、E3)、(L0、E4)、(L0、E5)、(L0、E6)の露光動作によりで生成される信号電荷は、パケットP2からP6に転送される。
【0033】
また、
図4AのパケットP1からP3からなるパケットグループを第1グループと呼ぶ。パケットP4からP6からなるパケットグループを第2グループと呼ぶ。第1グループと第2グループとは、暗電流に関して次の差異がある。すなわち、第1グループは、n個のパケットのうち、垂直転送部14内で第1の所定の読み出し電極を通過したパケットからなる。また、第2グループは、第2の所定の読み出し電極を通過したパケットからなる。第1の所定の読み出し電極とは、
図2では読み出し電極を兼用する垂直転送電極V4のうち、当該パケットP1~P3への読み出しを行っていない読み出し電極をいい、第2の所定の読み出し電極とは、
図2では読み出し電極を兼用する垂直転送電極V4のうち、当該パケットP4~P6への読み出しを行っていない読み出し電極をいう。第1、第2の所定の読み出し電極にも読み出し用の高電圧が印加されるので、第1、第2の所定の読み出し電極を通過したパケットは、それぞれ異なる暗電流成分が含まれることになる。すなわち、第1グループのパケットは、第2グループのパケットとは異なる暗電流成分が含まれると考えられる。また、同じグループ内のパケットは、ほぼ同じくらいの暗電流成分を含むと考えられる。
【0034】
ここで、
図4Aの動作例を、n=3、m=2のケースを比較例として説明する。この比較例は、
図4Aから、第4~第6露光パルスE4~E6を削除し、パケットP4~P6が形成されない動作に相当する。例えば、
図4Aの動作例は、露光パルス幅が比較例と同じである場合には、測距レンジを2.5倍に拡大することができる。また、
図4Bに示すように、露光パルス幅Tqが比較例のパルス幅Tp約半分である場合には、測距レンジが同じで、測距バラツキを約半分にすることができる。
【0035】
次に、測距装置における露光から距離画像の生成までの動作について説明する。
【0036】
図5は、実施の形態1に係る測距装置の動作例を示すフローチャートである。距離画像を生成する場合、測距装置5は、まず、距離画像に対応する画素を読み出し対象の第1画素と決定し、距離画像に対応しない画素を読み出し対象でない第2画素とを決定する(S100)。
図2の例では、第1画素は赤外光画素13である。また、第2画素は可視光画素12である。
【0037】
次に、測距装置5は、ループ1(S101~S106)におけるn回の処理によって画素毎にパケット1~パケットnを生成する。ここでいう画素は、距離画像の画素であり、
図3の例では、混合加算される2つの赤外光画素13が距離画像の1画素に対応する。
図5の制御変数iは1からnまでの整数である。nは4以上の整数であり、
図3の例ではnは6である。
【0038】
ループ1において、測距装置5は、パルス光に対して第i露光パルスにより露光し(S102)、露光により可視光画素12で発生した信号電荷を垂直転送部14に読み出す(S103)。これにより、垂直転送部14に第i露光パルスによるパケットiが形成される。さらに、測距装置5は、垂直転送部14の各パケットを1パケット分垂直方向に転送する(S104)。
【0039】
ループ1の処理により、距離画像の1画素あたりn種類のパケットP1~Pnが生成される。
【0040】
固体撮像装置10は、パケットP1~Pnの信号電荷量を示すn種類のパケット信号を信号処理回路40に出力する(S106)。パケット信号は、デジタル信号でもよいし、アナログ信号でもよい。
【0041】
信号処理回路40は、ループ2(S107~S114)において、固体撮像装置10から出力されるn種類のパケット信号に基づいて距離値を算出する。ループ2は、距離画像の画素毎の繰り返し処理である。
【0042】
ループ2において、信号処理回路40は、n個のパケット信号のうち、反射光のうち先頭を含む部分に対応する信号電荷S0を示す第1パケット信号と、反射光のうち先頭を含む部分以外の部分に対応する信号電荷S1を示す第2パケット信号とを判別する(S108)。
【0043】
ここで信号電荷S0、信号電荷S1について
図6A~
図6Cを用いて説明する。
図6A~
図6C中のRA、RB、RCは対象物からの反射光のタイミングを例示している。
【0044】
図6Aの例では反射光RAの先頭を含む部分は第1露光パルスE1で露光され、信号電荷S0を生成する。信号電荷S0はパケットP1に保持される。また、反射光RAの先頭を含む部分以外の部分は第2露光パルスE2で露光され、信号電荷S1を生成する。信号電荷S1は、パケットP2に保持される。反射光RAにより生成される全信号電荷は、S0+S1に相当する。
【0045】
図6Bの例では反射光RBの先頭を含む部分は第3露光パルスE3で露光され、信号電荷S0を生成する。信号電荷S0はパケットP3に保持される。また、反射光RBの先頭を含む部分以外の部分は第4露光パルスE4で露光され、信号電荷S1を生成する。信号電荷S1は、パケットP4に保持される。反射光RBにより生成される全信号電荷は、S0+S1に相当する。
【0046】
図6Cの例では反射光RCの先頭を含む部分は第5露光パルスE5で露光され、信号電荷S0を生成する。信号電荷S0はパケットP5に保持される。また、反射光RCの先頭を含む部分以外の部分は第6露光パルスE6で露光され、信号電荷S1を生成する。信号電荷S1は、パケットP6に保持される。反射光RBにより生成される全信号電荷は、S0+S1に相当する。
【0047】
n種類のパケット信号うち信号電荷S0を保持するパケットに対応するパケット信号を第1パケット信号と呼ぶ。また、n種類のパケット信号うち信号電荷S1を保持するパケットに対応するパケット信号を第2パケット信号と呼ぶ。
【0048】
次に、信号処理回路40は、判別した第1パケット信号が属するグループを特定し(S109)、特定したグループから第1背景光パケット信号を選択する(S110)。第1背景光パケット信号は、n個のパケット信号のうち、反射光による信号電荷を含まず、背景光による信号電荷を含むパケット信号をいう。
図6Aでは、パケットP3~P6は反射光による信号電荷を含まず、背景光による信号電荷を含む。
図6Aでは、第1パケット信号がパケットP1対応し、第1グループG1に含まれるので、パケットP3に対応するパケット信号が第1背景光パケット信号として選択される。また、
図6Bでは、パケットP2に対応するパケット信号が第1背景光パケット信号として選択される。なお、
図6Bでは、パケットP1に対応するパケット信号が第1背景光パケット信号として選択されてもよい。
図6Cでは、パケットP4に対応するパケット信号が第1背景光パケット信号として選択される。
【0049】
さらに、信号処理回路40は、判別した第2パケット信号が属するグループを特定し(S111)、特定したグループから第2背景光パケット信号を選択する(S112)。第1背景光パケット信号は、n個のパケット信号のうち、反射光による信号電荷を含まず、背景光による信号電荷を含むパケット信号をいう。
図6Aでは、パケットP3~P6は反射光を含まず、背景光を含む。
図6Aでは、第2パケット信号がパケットP2対応し、第1グループG1に含まれるので、パケットP3に対応するパケット信号が第2背景光パケット信号として選択される。また、
図6Bでは、パケットP5対応するパケット信号が第2背景光パケット信号として選択される。なお、
図6Bでは、パケットP6に対応するパケット信号が第2背景光パケット信号として選択されてもよい。
図6Cでは、パケットP4に対応するパケット信号が第2背景光パケット信号として選択される。
【0050】
さらに、信号処理回路40は、信号電荷S0を示す第1パケット信号から第1背景光パケット信号を減算し、信号電荷S1を示す第2パケット信号から第2背景光パケット信号を減算し、減算後の前記第1パケット信号と、減算後の前記第2パケット信号とから距離値を算出する(S113)。
【0051】
距離値zは、例えば、式1により算出される。
【0052】
z={c×(i-1)×Tp+c×((S1-BG1)/(S0-BG0+S1-BG1)) ×Tp}/2 ・・・(式1)
【0053】
第1パケット信号と第1背景光パケット信号とは同じグループに属するので同じくらいの暗電流成分を含んでいる。よって、第1パケット信号と第1背景光パケット信号との減算により、背景光成分をキャンセルするだけでなく、暗電流成分もキャンセルすることがるできる。
【0054】
同様に、第2パケット信号と第2背景光パケット信号とは同じグループに属するので同じくらいの暗電流成分を含んでいる。よって、第1パケット信号と第1背景光パケット信号との減算により、背景光成分をキャンセルするだけでなく、暗電流成分もキャンセルすることができる。
【0055】
このように、
図5の動作例によれば、第1背景光パケット信号および第2背景光パケット信号の選択候補をグループ内に限定するので、グループによって異なる暗電流成分の大きさを、距離値の演算において適切にキャンセルすることができる。
【0056】
以上説明してきたように、実施の形態1に係る測距装置は、パルス光を発する光源部20と、固体撮像装置10と、制御回路30と、を備え、固体撮像装置10は、光電変換により信号電荷を生成する複数の画素と、信号電荷を保持および転送するパケットが形成される複数の垂直転送部14と、垂直転送部を覆いパケットを形成する複数種類の垂直転送電極V1~V10と、を有し、複数の画素は、所定フレームを構成する読み出し対象の第1画素(例えば赤外光画素13)と、所定フレームを構成しない読み出し対象でない第2画素(例えば可視光画素12)とを含み、制御回路30は、第1画素のそれぞれに対して、パルス光に対して互いに異なるタイミングのn種類の露光動作(nは4以上の整数)を制御し、n種類の露光動作に対応するn種類の信号電荷を垂直転送部14のn個のパケットに読み出し、垂直転送部14が配置される領域のうちn個のパケットが形成される第1領域は、垂直方向に連続するm個の画素(mは3以上の整数)が配置される画素領域と隣り合い、m個の画素は、第1画素及び第2画素を含む。
【0057】
これによれば、測距レンジの拡大と測距バラツキの低減とを可能にする。具体的には、互いに異なるタイミングの4つ以上の露光動作で反射光を露光するので、測距レンジを拡大することを可能にする。また、4つ以上の露光動作における露光パルス幅を短くすれば、測距バラつきの低減することを可能にする。
【0058】
ここで、nは6以上であり、mは4以上であってもよい。
【0059】
これによれば、例えば、比較例としてn=3、m=2のケースと比較してみれば、露光パルス幅が同じ場合は測距レンジを2.5倍以上に拡大することができ、露光パルス幅を半分にした場合は測距バラツキを半分以下にすることがでできる。
【0060】
ここで、制御回路30は、パルス光と1対1で組み合わされる第1露光パルスから第n露光パルスを生成し、パルス光と第1露光パルスから第n露光パルスのそれぞれとの時間差は、第1露光パルスから第nの露光パルスの順に大きく、制御回路は、n種類の露光動作において、第1露光パルスから第n露光パルスを、第1から第nの露光パルスの順に生成してもよい。
【0061】
これによれば、垂直転送部におけるn個のパケットの並び順は、パルス光に対する時間差の順大きい順または小さい順と同じになる。言い換えれば、n個のパケットは、隣接する距離区間の順と同じ順に並ぶ。よって、反射光で生じる信号電荷は、n個のパケットの並びにおいて隣り合う2つのパケットに保持させることができる。
【0062】
ここで、測距装置5は、固体撮像装置10から出力されるn個のパケットに対応するn個のパケット信号に基づいて距離値を算出する信号処理回路40を備え、信号処理回路40は、n個のパケット信号のうち、反射光のうち先頭を含む部分に対応する第1パケット信号と、反射光のうち先頭を含む部分以外の部分に対応する第2パケット信号と、を判別し、n個のパケット信号の中から背景光成分を示す第1背景光パケット信号と、第2背景光パケット信号とを選択し、第1パケット信号から第1背景光パケット信号を減算し、第2パケット信号から第2背景光パケット信号を減算し、減算後の第1パケット信号と、減算後の第2パケット信号とから距離値を算出してもよい。
【0063】
これによれば、距離値に対する背景光および暗電流の影響を抑制することができる。
【0064】
ここで、n(nは偶数)個のパケット信号は、所定の読み出し電極を通過したパケットに対応するパケット信号からなる第1グループと、所定の読み出し電極を通過していないパケットに対応するパケット信号からなる第2グループとを構成し、信号処理回路40は、第1背景光パケット信号を、第1パケット信号が属するグループから選択し、第2背景光パケット信号を、第2パケット信号が属するグループから選択してもよい。
【0065】
これによれば、距離値に対する背景光の影響を抑制し、暗電流の影響をさらに効果的に抑制することができる。なぜなら、第1パケット信号および第1背景光パケットは同じグループに属するので、同程度の暗電流成分を含んでいるからである。また、第2パケット信号および第2背景光パケットは同じグループに属するので、同程度の暗電流成分を含んでいるからである。
【0066】
ここで、第1画素は赤外光を光電変換する赤外光画素であり、第2画素(可視光画素12)は可視光を光電変換する可視光画素であってもよい。
【0067】
これによれば、距離画像の他に可視光による輝度画像を生成することができる。
【0068】
ここで、複数の画素は、交互に配置された第1画素行と、第2画素行とを有し、第1画素行は、一次元配置された複数の赤外光画素13を有し、第2画素行は、一次元配置された複数の可視光画素12を有していてもよい。
【0069】
これによれば、測距レンジの拡大と測距バラツキの低減とを可能にする。
【0070】
ここで、所定列の垂直転送部14のそれぞれは、第1画素の読み出し動作において、所定行の第1画素行における、行方向に隣り合う2つの赤外光画素からの信号電荷を混合し、所定列以外の垂直転送部14のそれぞれは、第1画素の読み出し動作において、所定行以外の第1画素行における、行方向に隣り合う2つの赤外光画素からの信号電荷を混合し、所定列は、奇数列または偶数列であり、所定行は、第1画素行の集まりのうちの奇数番目の第1画素行または偶数番目の第1画素行であってもよい。
【0071】
これによれば、画素混合に伴い感度を向上させることができる。
【0072】
また、実施の形態1に係る測距方法は、パルス光を発する光源部20と、固体撮像装置10とを有する測距装置における測距方法であって、読み出し対象の第1画素と、読み出し対象でない第2画素とを決定し、第1画素のそれぞれに対して、パルス光に対して互いに異なるタイミングのn種類の露光動作(nは4以上の整数)を制御し、n種類の露光動作に対応するn種類の信号電荷を、固体撮像装置内の垂直転送部14のn個のパケットに読み出し、垂直転送部14が配置される領域のうちn個のパケットが形成される第1領域は、垂直方向に連続するm個の画素(mは3以上の整数)が配置される画素領域と隣り合い、m個の画素は、第1画素及び第2画素を含む。
【0073】
これによれば、測距レンジの拡大と測距バラツキの低減とを可能にする。具体的には、互いに異なるタイミングの4つ以上の露光動作で反射光を露光するので、3以上の距離区間の距離演算、または、4以上の距離区間の物体有無の判別が可能になり、測距レンジを拡大することを可能にする。また、4つ以上の露光動作における露光パルス幅を短くすれば、測距バラつきの低減することを可能にする。
【0074】
ここで、測距方法において、さらに、n個のパケット信号のうち、反射光のうち先頭を含む部分に対応する第1パケット信号と、反射光のうち先頭を含む部分以外の部分に対応する第2パケット信号と、を判別し、n個のパケット信号の中から背景光成分を示す第1背景光パケット信号と、第2背景光パケット信号とを選択し、第1パケット信号から第1背景光パケット信号を減算し、第2パケット信号から第2背景光パケット信号を減算し、減算後の第1パケット信号と、減算後の第2パケット信号とから距離値を算出してもよい。
【0075】
これによれば、距離値に対する背景光および暗電流の影響を抑制することができる。
【0076】
(実施の形態2)
実施の形態1では、反射光で生じる全信号電荷(S0+S1)は、垂直転送部14のn個のパケットの並びにおいて隣り合う2つのパケットに保持される。これに対して、実施の形態2では、反射光で生じる全信号電荷(S0+S1)が、垂直転送部14のn個のパケットの並びにおいて隣り合わない2つのパケットに保持される構成例について説明する。
【0077】
本実施の形態における測距装置5の構成は、
図1~
図3と同じでよい。ただし、制御回路30によるn種類の露光動作の順序が主に異なっている。以下、同じ点の説明の重複を避けて、異なっている点を中心に説明する。
【0078】
図7Aは、実施の形態2に係る測距装置5の動作例を示すタイムチャートである。同図は、
図4Aと比べて、第1露光パルスE1から第6露光パルスE6を出力する順序が異なっている。
図7Aでは、6種類の露光動作は、(L0、E1)、(L0、E3)、(L0、E5)、(L0、E2)、(L0、E4)、(L0、E6)の順序で実行される。その結果、(L0、E1)、(L0、E3)、(L0、E5)の露光動作が順に実行され、第1グループのパケットP1、P2、P3が生成される。(L0、E2)、(L0、E4)、(L0、E6)露光動作が順に実行され、第2グループのパケットP4、P5、P6が生成される。また、
図7Bも
図7Aとパルス幅が異なる点以外同様である。
【0079】
図8は、実施の形態2に係る測距装置の動作例を示すフローチャートである。同図は、
図5と比べて、ループ1の代わりにループ1aを実行する点が異なっている。
【0080】
ループ1a(S101a~S105a)は、
図5のループ1(S101~S105)と比べて制御変数iが1、3、5、2、4、6の順になっている点が異なる。制御変数iは第i露光パルスに対応する。
【0081】
次に、実施の形態2における、第1パケット信号、第2パケット信号、第1背景光パケット信号、第2背景光パケット信号について
図6A~
図6Cを用いて説明する。
図9A~
図9C中のRA、RB、RCは、
図6A~6Cと同様に、対象物からの反射光のタイミングを例示している。
【0082】
図9Aの例では反射光RAの先頭を含む部分は第1露光パルスE1で露光され、信号電荷S0を生成する。信号電荷S0はとしてパケットP1に保持される。また、反射光RAの先頭を含む部分以外の部分は第2露光パルスE2で露光され、信号電荷S1を生成する。信号電荷S1は、パケットP4に保持される。
【0083】
反射光RAにより生成される全信号電荷(S0+S1)は、パケットP1とパケットP4に保持される。第1パケット信号はパケットP1に対応する。第2パケット信号はパケットP4に対応する。
【0084】
また、第1背景光パケット信号は、第1パケット信号と同じグループから選択され、パケットP2に対応するパケット信号が選択される。なお、第1背景光パケット信号は、パケットP3に対応するパケット信号でもよい。第2背景光パケット信号は、第2パケット信号と同じグループから選択され、パケットP5に対応するパケット信号が選択される。なお、第2背景光パケット信号は、パケットP6に対応するパケット信号でもよい。
【0085】
このように、
図9Aでは、反射光で生じる全信号電荷(SO+S1)が、垂直転送部14のn個のパケットの並びにおいて隣り合わない2つのパケットP1、P4に保持される。これにより、第1背景光パケット信号の候補を2つ確保することができる。第1背景光パケット信号をより適切に選択すること可能になる。同様に、第2背景光パケット信号の候補も2つ確保することができる。この点、
図6Aでは、第1背景光パケット信号の候補も、第2背景光パケット信号の候補も1つだけである。
図9Aでは、
図6Aよりも、背景光成分のキャンセルと暗電流成分のキャンセルとをより適切に行うことができる。
【0086】
図9Bの例では反射光RBの先頭を含む部分は第3露光パルスE3で露光され、信号電荷S0を生成する。信号電荷S0はパケットP2に保持される。また、反射光RBの先頭を含む部分以外の部分は第4露光パルスE4で露光され、信号電荷S1を生成する。信号電荷S1は、パケットP5に保持される。
【0087】
反射光RBにより生成される全信号電荷(S0+S1)は、パケットP2とパケットP5に保持される。第1パケット信号はパケットP2に対応する。第2パケット信号はパケットP5に対応する。
【0088】
また、第1背景光パケット信号は、第1パケット信号と同じグループから選択され、パケットP3に対応するパケット信号が選択される。なお、第1背景光パケット信号は、パケットP1に対応するパケット信号でもよい。第2背景光パケット信号は、第2パケット信号と同じグループから選択され、パケットP6に対応するパケット信号が選択される。なお、第2背景光パケット信号は、パケットP4に対応するパケット信号でもよい。
【0089】
このように、
図9Bでは、反射光で生じる全信号電荷(SO+S1)が、垂直転送部14のn個のパケットの並びにおいて隣り合わない2つのパケットP2、P5に保持される。これにより、第1背景光パケット信号の候補を2つ確保することができる。第1背景光パケット信号をより適切に選択すること可能になる。同様に、第2背景光パケット信号の候補も2つ確保することができる。この点は、
図6Bと同様である。
【0090】
図9Cの例では反射光RCの先頭を含む部分は第5露光パルスE5で露光され、信号電荷S0を生成する。信号電荷S0はパケットP3に保持される。また、反射光RCの先頭を含む部分以外の部分は第6露光パルスE6で露光され、信号電荷S1を生成する。信号電荷S1は、パケットP6に保持される。
【0091】
反射光RCにより生成される全信号電荷(S0+S1)は、パケットP3とパケットP6に保持される。第1パケット信号はパケットP3に対応する。第2パケット信号はパケットP6に対応する。
【0092】
また、第1背景光パケット信号は、第1パケット信号と同じグループから選択され、パケットP2に対応するパケット信号が選択される。なお、第1背景光パケット信号は、パケットP1に対応するパケット信号でもよい。第2背景光パケット信号は、第2パケット信号と同じグループから選択され、パケットP5に対応するパケット信号が選択される。なお、第2背景光パケット信号は、パケットP4に対応するパケット信号でもよい。
【0093】
このように、
図9Cでは、反射光で生じる全信号電荷(SO+S1)が、垂直転送部14のn個のパケットの並びにおいて隣り合わない2つのパケットP3、P6に保持される。これにより、第1背景光パケット信号の候補を2つ確保することができる。第1背景光パケット信号をより適切に選択すること可能になる。同様に、第2背景光パケット信号の候補も2つ確保することができる。第1背景光パケット信号をより適切に選択すること可能になる。同様に、第2背景光パケット信号の候補も2つ確保することができる。この点、
図6Cでは、第1背景光パケット信号の候補も、第2背景光パケット信号の候補も1つだけである。
図9Cでは、
図6Cよりも、背景光成分のキャンセルと暗電流成分のキャンセルとをより適切に行うことができる。
【0094】
以上説明してきたように、実施の形態2に係る測距装置において、制御回路30は、パルス光と1対1で組み合わされる第1露光パルスから第n露光パルスを生成し、パルス光と第1露光パルスから第n露光パルスのそれぞれとの時間差は、第1露光パルスから第nの露光パルスの順に大きく、制御回路30は、n種類の露光動作において、第1露光パルスから第nの露光パルスを、第1から第nのうち奇数に対応する露光パルスを順に生成し、かつ、第1から第nのうち偶数に対応する露光パルスを順に生成する。
【0095】
これによれば、垂直転送部におけるn個のパケットの並び順は、パルス光との時間差の順ではなく飛び飛びの順になる。これによれば、反射光で生じる信号電荷は、n個のパケットの並びにおいて、隣り合わない2つのパケットに保持させることができる。この場合、反射光に対応する2つのパケットが隣り合わないので、2つのパケットそれぞれに対応する背景光成分となるパケットの候補をより多く確保することができる。その結果、測距バラツキをより抑制することができる。
【0096】
(実施の形態3)
実施の形態3では、
図2の異なる画素配列を有する測距装置の構成例について説明する。
【0097】
[3.1 構成]
本実施の形態における測距装置5の構成は、
図1と同じでよい。ただし、固体撮像装置10の複数の画素の構成が異なっている。以下異なる点を中心に説明する。
【0098】
図10は、実施の形態3に係る固体撮像装置の構成例を示すブロック図である。同図は、
図2と比べて、可視光画素12代わりに赤外光画素13を備える点が異なっている。この固体撮像装置10は、距離画像と輝度画像とを生成する。輝度画像は赤外光による二次元画像である。距離画像は、実施の形態1、2と同様に生成する。
【0099】
制御回路30は、距離画像の生成において、列方向の隣り合う4つの画素行のうちの2つの画素行を使用し、のこり2つの画素行を使用しない。つまり、距離画像用の読み出し対象の第1画素は、列方向の隣り合う4画素行のうちの2画素行に属する画素である。読み出し対象でない第2画素は、列方向の隣り合う4画素行のうちの残り2画素行に属する画素である。そのため、
図10では、複数種類の垂直転送電極V1~V10のうちV5A、V5B、V7A、V7Bは読み出し電極を兼用している。読み出し電極と兼用の垂直転送電極V5AとV5Bは、独立して制御可能である。読み出し電極と兼用の垂直転送電極V7AとV7Bも、独立して制御可能である。距離画像の生成動作では、垂直転送電極V5AとV7Aを読み出し電極として使用し、垂直転送電極V5BとV7Bを読み出し電極として使用しない。これにより、4つの画素行のうちの2つの画素行を使用し、のこり2つの画素行を使用しないことになる。
【0100】
図11は、
図10においてn=6の場合のパケットの配置例を示す図である。垂直転送部14の両側の2つの赤外光画素13から読み出された信号電荷は、n種類の露光動作に対応して6個のパケットに読み出されて保持される。パケットP1~P6は、露光、読み出しおよび垂直転送を6回実行することにより生成される。
【0101】
本実施の形態における測距動作は、実施の形態1の
図5のフローチャートに従ってもよいし、実施の形態2の
図8のフローチャートに従ってもよい。
【0102】
以上説明してきたように、実施の形態3に係る測距装置において、複数の画素のそれぞれは、赤外光を光電変換する赤外光画素である。
【0103】
これによれば、測距レンジの拡大と測距バラツキの低減とを可能にする。
【0104】
ここで、第1画素は、列方向の隣り合う4画素行のうちの2画素行に属する画素であり、第2画素は、4画素行のうちの第1画素以外の画素であり、所定列の垂直転送部のそれぞれは、第1画素の読み出し動作において、第1所定画素行における、行方向に隣り合う2つの第1画素からの信号電荷を混合し、所定列以外の垂直転送部のそれぞれは、第1画素の読み出し動作において、第2所定画素行における、行方向に隣り合う2つの第1画素からの信号電荷を混合し、所定列は、奇数列または偶数列であり、第1所定画素行は、2画素行のうちの1画素行であり、第2所定画素行は、2画素行のうちの他の1画素行であってもよい。
【0105】
これによれば、距離画像の他に可視光画像を生成することができる。
【0106】
なお、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。ここで、上記各実施の形態の測距装置5を実現するソフトウェアは、次のようなプログラムである。
【0107】
すなわち、このプログラムは、コンピュータに、
図5または
図8に示した測距方法を実行させる。
【0108】
以上、本開示の一つまたは複数の態様に係る測距装置について、実施の形態に基づいて説明したが、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、本開示の一つまたは複数の態様の範囲内に含まれてもよい。
【産業上の利用可能性】
【0109】
本開示は、距離画像を生成する測距装置に利用可能である。
【符号の説明】
【0110】
5 測距装置
10 固体撮像装置
12 可視光画素
13 赤外光画素
14、14a、14b 垂直転送部
20 光源部
30 制御回路
40 信号処理回路
V1~V10、V5A、V5B、V7A、V7B 垂直転送電極
【要約】
測距装置は、複数の画素は、読み出し対象の第1画素と、読み出し対象でない第2画素とを決定し、第1画素のそれぞれに対して、互いに異なるタイミングのn種類の露光動作(nは4以上の整数)を行い、n種類の露光動作に対応するn種類の信号電荷を垂直転送部のn個のパケットに読み出し、垂直転送部が配置される領域のうちn個のパケットが形成される第1領域は、垂直方向に連続するm個の画素(mは3以上の整数)が配置される画素領域と隣り合い、m個の画素は、第1の画素および第2画素を含む。