(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022162392
(43)【公開日】2022-10-24
(54)【発明の名称】距離画像撮像装置、及び距離画像撮像方法
(51)【国際特許分類】
G01S 7/497 20060101AFI20221017BHJP
H04N 5/3745 20110101ALI20221017BHJP
G01C 3/06 20060101ALI20221017BHJP
G01S 17/08 20060101ALI20221017BHJP
【FI】
G01S7/497
H04N5/3745
G01C3/06 120Q
G01S17/08
【審査請求】未請求
【請求項の数】3
【出願形態】OL
(21)【出願番号】P 2021067216
(22)【出願日】2021-04-12
(71)【出願人】
【識別番号】000003193
【氏名又は名称】凸版印刷株式会社
(74)【代理人】
【識別番号】100149548
【弁理士】
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100139686
【弁理士】
【氏名又は名称】鈴木 史朗
(74)【代理人】
【識別番号】100169764
【弁理士】
【氏名又は名称】清水 雄一郎
(74)【代理人】
【識別番号】100147267
【弁理士】
【氏名又は名称】大槻 真紀子
(72)【発明者】
【氏名】畠山 邦広
(72)【発明者】
【氏名】中込 友洋
(72)【発明者】
【氏名】高橋 聡
【テーマコード(参考)】
2F112
5C024
5J084
【Fターム(参考)】
2F112AD01
2F112BA06
2F112CA12
2F112DA25
2F112DA28
2F112EA05
2F112FA03
2F112FA07
2F112FA21
2F112FA23
2F112FA45
5C024AX07
5C024CY17
5C024EX13
5C024GX02
5C024GX16
5C024GX18
5C024GY39
5C024GY41
5J084AA05
5J084AD01
5J084BA04
5J084BA40
5J084BA50
5J084BB01
5J084CA03
5J084CA04
5J084EA11
(57)【要約】
【課題】ToF距離に対する距離ずれが不規則となる場合であっても、計算時間を増大させることなくToF距離を補正することができる距離画像撮像装置、及び距離画像撮像方法を提供する。
【解決手段】光源部と、光電変換素子及び三つ以上の電荷蓄積部を具備する画素と、前記電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、電荷蓄積部のそれぞれに蓄積された電荷量を用いて、前記被写体までの測定距離を決定する距離画像処理部と、第1補正関数群と第2補正関数群を記憶する記憶部と、を備え、前記第1補正関数群は、前記ToF距離と実際の距離との関係が線形となる線形領域に適用される補正関数の集合であり、前記第2補正関数群は、前記第1補正関数群よりも次数が大きい補正関数の集合であって、前記ToF距離と実際の距離との関係が非線形となる非線形領域に適用される補正関数の集合である。
【選択図】
図1
【特許請求の範囲】
【請求項1】
被写体が存在する測定空間に光パルスを照射する光源部と、
入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定のタイミングで前記画素における前記電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、
前記電荷蓄積部のそれぞれに蓄積された電荷量を用いて前記被写体までの測定距離を決定する距離画像処理部と、
前記光パルスの反射光に応じた電荷の振り分け比率を用いて算出されるToF距離を補正する補正関数であって、前記ToF距離が含まれる領域に応じて適用される少なくとも2つの第1補正関数群と第2補正関数群を記憶する記憶部と、
を備え、
前記第1補正関数群は、前記第2補正関数群よりも次数が小さい補正関数の集合であって、前記ToF距離と実際の距離との関係が線形となる線形領域に適用される補正関数の集合であり、
前記第2補正関数群は、前記第1補正関数群よりも次数が大きい補正関数の集合であって、前記ToF距離と実際の距離との関係が非線形となる非線形領域に適用される補正関数の集合であり、
前記距離画像処理部は、前記反射光に応じた電荷の振り分け値に基づいて、前記第1補正関数群又は前記第2補正関数群のいずれかに含まれる関数を、前記算出した前記ToF距離に適用する補正関数として選択し、前記選択した補正関数を用いて補正した前記ToF距離を、前記測定距離とする、
距離画像撮像装置。
【請求項2】
前記光電変換素子によって発生された電荷を排出する電荷排出部を更に備え、
前記光源部は、光パルスを断続的に照射し、
前記距離画像処理部は、1フレームの期間において、前記光パルスの照射に同期させたタイミングで前記画素における前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる単位蓄積処理を複数回繰り返すことによって前記電荷蓄積部のそれぞれに電荷を蓄積させ、前記単位蓄積処理において、前記電荷蓄積部のそれぞれに電荷を蓄積させる時間区間とは異なる時間区間では、前記電荷排出部によって前記光電変換素子によって発生された電荷が排出されるように制御する、
請求項1に記載の距離画像撮像装置。
【請求項3】
被写体が存在する測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定のタイミングで前記画素における前記電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量を用いて前記被写体までの測定距離を決定する距離画像処理部と、前記光パルスの反射光に応じた電荷の振り分け比率を用いて算出されるToF距離を入力変数として前記測定距離を算出する補正関数であって、前記ToF距離が含まれる領域に応じて適用される少なくとも2つの第1補正関数群と第2補正関数群を記憶する記憶部と、を備える距離画像撮像装置による距離画像撮像方法であって、
前記第1補正関数群は、前記第2補正関数群よりも次数が小さい補正関数の集合であって、前記ToF距離と実際の距離との関係が線形となる線形領域に適用される補正関数の集合であり、
前記第2補正関数群は、前記第1補正関数群よりも次数が大きい補正関数の集合であって、前記ToF距離と実際の距離との関係が非線形となる非線形領域に適用される補正関数の集合であり、
前記距離画像処理部は、前記反射光に応じた電荷の振り分け値に基づいて、前記第1補正関数群又は前記第2補正関数群のいずれかに含まれる関数を、前記算出した前記ToF距離に適用する補正関数として選択し、前記選択した補正関数を用いて補正した前記ToF距離を、前記測定距離とする、
距離画像撮像方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、距離画像撮像装置、及び距離画像撮像方法に関する。
【背景技術】
【0002】
従来から、物体との距離を計測するための技術として、光パルスの飛行時間を測定する技術がある。このような技術は、タイム・オブ・フライト(Time of Flight、以下、ToFという)と呼ばれる。ToFでは、光の速度が既知であることを利用し、物体に近赤外領域の光パルスを照射する。そして、この光パルスを照射した時刻と、照射した光パルスが物体によって反射してきた反射光を受光した時刻との時間差を測定する。この時間差に基づいて物体との距離を算出する。フォトダイオード(光電変換素子)を用いて距離を測定するための光を検出する測距センサ(ToFセンサ)が実用化されている。
【0003】
そして、近年では、物体との距離のみではなく、物体を含む二次元の画像における画素ごとの奥行き情報、つまり、物体に対する三次元の情報を得ることができる測距センサが実用化されている。このような測距センサは、距離画像撮像装置ともいわれている。距離画像撮像装置では、フォトダイオードを含む画素がシリコン基板に二次元の行列状に複数配置され、この画素面で物体に反射した反射光を受光する。距離画像撮像装置では、それぞれの画素が受光した光量(電荷)に基づいた光電変換信号を1つの画像分出力することによって、物体を含む二次元の画像と、この画像を構成するそれぞれの画素ごとの距離の情報を得ることができる。例えば、特許文献1には、1つの画素に3つの電荷蓄積部が設けられ、順番に電荷を振り分けて距離を計算する技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
ToFセンサにおいては、CW(Continuous Wave)法、及びSP(Short Pulse)法の計算式を用いた距離(以下、ToF距離という)を算出する。CW法はパルスを連続的に照射する方式である。SP法はパルスを断続的に照射する方式である。計算式は、反射光に応じた電荷の振り分け比率が、光パルスの照射時刻から反射光の受光時刻までの時間差と比例する関係にあることを利用して距離を算出する計算式である(下記の(1)式を参照)。
【0006】
一般的に、このような計算式を用いて算出されるToF距離は、電荷転送の遅延や光源およびゲートパルス波形のなまりなどの要因によって、実際の距離(実距離)に対してずれ(距離ずれ)があることが知られている。また、ToFにおける距離ずれに関して、実距離に対して線形にずれる場合と非線形にずれる場合があることが知られている。特にSP法では、電荷転送ゲートを順次開閉する蓄積期間の前後でドレインゲートをONとする期間を設けており、転送ゲートとドレインゲートの開閉境界のタイミングで、信号が不連続に消失する。このため、非線形な距離ずれが表れやすい。そのような距離ずれを抑制する手法として、ToF距離に対する距離ずれを、多項式で表される補正式を用いて補正する技術がある。
【0007】
しかしながら、距離ずれを1つの多項式で補正しようとした場合に問題が生じていた。具体的には、ToF距離に対して距離ずれが一定でない不規則な領域があると、補正式に、高次(例えば、6次など)の多項式を用いなければならず、計算が複雑になって計算時間が増大するという問題があった。また、距離ずれが一定である領域に高次の多項式を用いて補正すると、補正値の振動等によって、かえって誤差が大きくなる場合もあった。一方、補正式に、低次(例えば、1次など)の関数を適用した場合、距離ずれが不規則な領域を補正しきれないため精度よく補正することができない、という問題があった。
【0008】
本発明は、上記の課題に基づいてなされたものであり、ToF距離に対する距離ずれが不規則となる場合であっても、計算時間を増大させることなく、かつ、補正式に依存する補正誤差を抑制してToF距離を補正することができる距離画像撮像装置、及び距離画像撮像方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明の距離画像撮像装置は、被写体が存在する測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定のタイミングで前記画素における前記電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量を用いて前記被写体までの測定距離を決定する距離画像処理部と、前記光パルスの反射光に応じた電荷の振り分け比率を用いて算出されるToF距離を補正する補正関数であって、前記ToF距離が含まれる領域に応じて適用される少なくとも2つの第1補正関数群と第2補正関数群を記憶する記憶部と、を備え、前記第1補正関数群は、前記第2補正関数群よりも次数が小さい補正関数の集合であって、前記ToF距離と実際の距離との関係が線形となる線形領域に適用される補正関数の集合であり、前記第2補正関数群は、前記第1補正関数群よりも次数が大きい補正関数の集合であって、前記ToF距離と実際の距離との関係が非線形となる非線形領域に適用される補正関数の集合であり、前記距離画像処理部は、前記反射光に応じた電荷の振り分け値に基づいて、前記第1補正関数群又は前記第2補正関数群のいずれかに含まれる関数を、前記算出した前記ToF距離に適用する補正関数として選択し、前記選択した補正関数を用いて補正した前記ToF距離を、前記測定距離とする。
【0010】
本発明の距離画像撮像装置では、前記光電変換素子によって発生された電荷を排出する電荷排出部を更に備え、前記光源部は、光パルスを断続的に照射し、前記距離画像処理部は、1フレームの期間において、前記光パルスの照射に同期させたタイミングで前記画素における前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる単位蓄積処理を複数回繰り返すことによって前記電荷蓄積部のそれぞれに電荷を蓄積させ、前記単位蓄積処理において、前記電荷蓄積部のそれぞれに電荷を蓄積させる時間区間とは異なる時間区間では、前記電荷排出部によって前記光電変換素子によって発生された電荷が排出されるように制御する。
【0011】
本発明の距離画像撮像方法は、被写体が存在する測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定のタイミングで前記画素における前記電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量を用いて前記被写体までの測定距離を決定する距離画像処理部と、前記光パルスの反射光に応じた電荷の振り分け比率を用いて算出されるToF距離を入力変数として前記測定距離を算出する補正関数であって、前記ToF距離が含まれる領域に応じて適用される少なくとも2つの第1補正関数群と第2補正関数群を記憶する記憶部と、を備える距離画像撮像装置による距離画像撮像方法であって、前記第1補正関数群は、前記第2補正関数群よりも次数が小さい補正関数の集合であって、前記ToF距離と実際の距離との関係が線形となる線形領域に適用される補正関数の集合であり、前記第2補正関数群は、前記第1補正関数よりも次数が大きい補正関数の集合であって、前記ToF距離と実際の距離との関係が非線形となる非線形領域に適用される補正関数の集合であり、前記距離画像処理部は、前記反射光に応じた電荷の振り分け値に基づいて、前記第1補正関数群又は前記第2補正関数群のいずれかに含まれる関数を、前記算出した前記ToF距離に適用する補正関数として選択し、前記選択した補正関数を用いて補正した前記ToF距離を、前記測定距離とする。
【発明の効果】
【0012】
本発明によれば、ToF距離に対する距離ずれが不規則となる場合であっても、精度よくToF距離を補正することができる。
【図面の簡単な説明】
【0013】
【
図1】実施形態の距離画像撮像装置1の概略構成を示したブロック図である。
【
図2】実施形態の距離画像センサ32の概略構成を示したブロック図である。
【
図3】実施形態の画素321の構成の一例を示した回路図である。
【
図4】実施形態の画素321を駆動するタイミングの例を示すタイミングチャートである。
【
図5】実施形態の実距離とToF距離との関係の例を示す図である。
【
図6】実施形態のToF距離と距離ずれとの関係の例を示す図である。
【
図7】実施形態の補正情報440の構成の例を示す図である。
【
図8】実施形態の距離画像処理部4が行う処理の流れを示すフローチャートである。
【発明を実施するための形態】
【0014】
以下、実施形態の距離画像撮像装置を、図面を参照しながら説明する。
【0015】
<実施形態>
まず、実施形態について説明する。
図1は、本発明の第1の実施形態の距離画像撮像装置の概略構成を示したブロック図である。
図1に示した構成の距離画像撮像装置1は、光源部2と、受光部3と、距離画像処理部4とを備える。
図1には、距離画像撮像装置1において距離を測定する対象物である被写体OBも併せて示している。
【0016】
光源部2は、距離画像処理部4からの制御に従って、距離画像撮像装置1において距離を測定する対象の被写体OBが存在する撮影対象の空間に光パルスPOを照射する。光源部2は、例えば、垂直共振器面発光レーザー(VCSEL:Vertical Cavity Surface Emitting Laser)などの面発光型の半導体レーザーモジュールである。光源部2は、光源装置21と、拡散板22とを備える。
【0017】
光源装置21は、被写体OBに照射する光パルスPOとなる近赤外の波長帯域(例えば、波長が850nm~940nmの波長帯域)のレーザー光を発光する光源である。光源装置21は、例えば、半導体レーザー発光素子である。光源装置21は、タイミング制御部41からの制御に応じて、パルス状のレーザー光を発光する。
【0018】
拡散板22は、光源装置21が発光した近赤外の波長帯域のレーザー光を、被写体OBに照射する面の広さに拡散する光学部品である。拡散板22が拡散したパルス状のレーザー光が、光パルスPOとして出射され、被写体OBに照射される。
【0019】
受光部3は、距離画像撮像装置1において距離を測定する対象の被写体OBによって反射された光パルスPOの反射光RLを受光し、受光した反射光RLに応じた画素信号を出力する。受光部3は、レンズ31と、距離画像センサ32とを備える。
【0020】
レンズ31は、入射した反射光RLを距離画像センサ32に導く光学レンズである。レンズ31は、入射した反射光RLを距離画像センサ32側に出射して、距離画像センサ32の受光領域に備えた画素に受光(入射)させる。
【0021】
距離画像センサ32は、距離画像撮像装置1に用いられる撮像素子である。距離画像センサ32は、二次元の受光領域に複数の画素を備える。距離画像センサ32のそれぞれの画素の中に、1つの光電変換素子と、この1つの光電変換素子に対応する複数の電荷蓄積部と、それぞれの電荷蓄積部に電荷を振り分ける構成要素とが設けられる。つまり、画素は、複数の電荷蓄積部に電荷を振り分けて蓄積させる振り分け構成の撮像素子である。
【0022】
距離画像センサ32は、タイミング制御部41からの制御に応じて、光電変換素子が発生した電荷をそれぞれの電荷蓄積部に振り分ける。また、距離画像センサ32は、電荷蓄積部に振り分けられた電荷量に応じた画素信号を出力する。距離画像センサ32には、複数の画素が二次元の行列状に配置されており、それぞれの画素の対応する1フレーム分の画素信号を出力する。
【0023】
距離画像処理部4は、距離画像撮像装置1を制御し、被写体OBまでの距離を演算する。距離画像処理部4は、タイミング制御部41と、距離演算部42と、測定制御部43と、記憶部44とを備える。なお、距離画像処理部4の機能部(タイミング制御部41、距離演算部42、測定制御部43、及び記憶部44)の一部が、距離画像センサ32に組み込まれていてもよい。
【0024】
タイミング制御部41は、測定制御部43の制御に応じて、測定に要する様々な制御信号を出力するタイミングを制御する。ここでの様々な制御信号とは、例えば、光パルスPOの照射を制御する信号、反射光RLを複数の電荷蓄積部に振り分けて蓄積させる信号、1フレームあたりの振り分け回数(蓄積回数)を制御する信号などである。振り分け回数とは、電荷蓄積部CS(
図3参照)に電荷を振り分ける処理を繰返す回数である。
【0025】
距離演算部42は、距離画像センサ32から出力された画素信号と、後述する(1)式を用いてToF距離を算出する。距離演算部42は、算出したToF距離を、補正情報440を用いて補正し、補正したToF距離を、被写体OBまでの距離(測定距離)とする。補正情報440、及び、距離演算部42が補正情報440を用いてToF距離を補正する方法については、後で詳しく説明する。
【0026】
測定制御部43は、タイミング制御部41を制御する。例えば、測定制御部43は、1フレームの振り分け回数、及び蓄積時間Ta等を設定し、設定した内容で撮像が行われるようにタイミング制御部41を制御する。
【0027】
記憶部44は、記憶媒体、例えば、HDD(Hard Disk Drive)、フラッシュメモリ、EEPROM(Electrically Erasable Programmable Read Only Memory)、RAM(Random Access read/write Memory)、ROM(Read Only Memory)、または、これらの記憶媒体の任意の組み合わせによって構成される。記憶部44は、例えば、補正情報440を記憶する。
【0028】
このような構成によって、距離画像撮像装置1では、光源部2が被写体OBに照射した近赤外の波長帯域の光パルスPOが被写体OBによって反射された反射光RLを受光部3が受光し、距離画像処理部4が、被写体OBとの距離を測定した距離情報を出力する。
【0029】
なお、
図1においては、距離画像処理部4を内部に備えた構成の距離画像撮像装置1を示しているが、距離画像処理部4は、距離画像撮像装置1の外部に備える構成要素であってもよい。
【0030】
次に、距離画像撮像装置1において撮像素子として用いられる距離画像センサ32の構成について説明する。
図2は、実施形態の距離画像撮像装置1に用いられる撮像素子(距離画像センサ32)の概略構成を示したブロック図である。
【0031】
図2に示すように、距離画像センサ32は、例えば、複数の画素321が配置された受光領域320と、制御回路322と、振り分け動作を有した垂直走査回路323と、水平走査回路324と、画素信号処理回路325とを備える。
【0032】
受光領域320は、複数の画素321が配置された領域であって、
図2では、8行8列に二次元の行列状に配置された例を示している。画素321は、受光した光量に応じた電荷を蓄積する。制御回路322は、距離画像センサ32を統括的に制御する。制御回路322は、例えば、距離画像処理部4のタイミング制御部41からの指示に応じて、距離画像センサ32の構成要素の動作を制御する。なお、距離画像センサ32に備えた構成要素の制御は、タイミング制御部41が直接行う構成であってもよく、この場合、制御回路322を省略することも可能である。
【0033】
垂直走査回路323は、制御回路322からの制御に応じて、受光領域320に配置された画素321を行ごとに制御する回路である。垂直走査回路323は、画素321の電荷蓄積部CSそれぞれに蓄積された電荷量に応じた電圧信号を画素信号処理回路325に出力させる。この場合、垂直走査回路323は、光電変換素子により変換された電荷を画素321の電荷蓄積部それぞれに振り分ける。つまり、垂直走査回路323は、「画素駆動回路」の一例である。
【0034】
画素信号処理回路325は、制御回路322からの制御に応じて、それぞれの列の画素321から対応する垂直信号線に出力された電圧信号に対して、予め定めた信号処理(例えば、ノイズ抑圧処理やA/D変換処理など)を行う回路である。
【0035】
水平走査回路324は、制御回路322からの制御に応じて、画素信号処理回路325から出力される信号を、水平信号線に順次出力させる回路である。これにより、1フレーム分蓄積された電荷量に相当する画素信号が、水平信号線を経由して距離画像処理部4に順次出力される。
【0036】
以下では、画素信号処理回路325がA/D変換処理を行い、画素信号がデジタル信号であるものとして説明する。
【0037】
ここで、距離画像センサ32に備える受光領域320内に配置された画素321の構成について説明する。
図3は、実施形態の距離画像センサ32の受光領域320内に配置された画素321の構成の一例を示した回路図である。
図3には、受光領域320内に配置された複数の画素321のうち、1つの画素321の構成の一例を示している。この図の例では、画素321が4つの画素信号読み出し部を備えた構成の一例である。
【0038】
図3に示すように、画素321は、1つの光電変換素子PDと、ドレインゲートトランジスタGDと、4つの画素信号読み出し部RU(画素信号読み出し部RU1~RU4)とを備える。それぞれの画素信号読み出し部RUは、出力端子Oから電圧信号を出力する。
【0039】
以下の説明においては、4つの画素信号読み出し部RU符号の後に、「1」、「2」、「3」または「4」の数字を付与することによって、それぞれの画素信号読み出し部RU、を区別する。また、同様に、4つの画素信号読み出し部RUに備えたそれぞれの構成要素も、それぞれの符号の後に数字を付与することによって、それぞれの構成要素を区別して表す。
【0040】
画素信号読み出し部RUのそれぞれは、電荷振り分けゲートトランジスタGと、フローティングディフュージョンFDと、電荷蓄積容量Cと、リセットゲートトランジスタRTと、ソースフォロアゲートトランジスタSFと、選択ゲートトランジスタSLとを備える。それぞれの画素信号読み出し部RUでは、フローティングディフュージョンFDと電荷蓄積容量Cとによって電荷蓄積部CSが構成されている。具体的には、画素信号読み出し部RU1は、電荷振り分けゲートトランジスタG1と、フローティングディフュージョンFD1と、電荷蓄積容量C1と、リセットゲートトランジスタRT1と、ソースフォロアゲートトランジスタSF1と、選択ゲートトランジスタSL1とを備える。画素信号読み出し部RU1では、フローティングディフュージョンFD1と電荷蓄積容量C1とによって電荷蓄積部CS1が構成されている。画素信号読み出し部RU2~RU4も同様の構成である。なお、電荷振り分けゲートトランジスタGの構成は、トランスファー方式に限定されず、フォトゲート方式の電荷振り分けであってもよい。
【0041】
光電変換素子PDは、入射した光を光電変換して電荷を発生させ、発生させた電荷を蓄積する埋め込み型のフォトダイオードである。光電変換素子PDの構造は任意であってよい。光電変換素子PDは、例えば、P型半導体とN型半導体とを接合した構造のPNフォトダイオードであってもよいし、P型半導体とN型半導体との間にI型半導体を挟んだ構造のPINフォトダイオードであってもよい。
【0042】
画素321では、光電変換素子PDが入射した光を光電変換して発生させた電荷を4つの電荷蓄積部CSのそれぞれに振り分け、振り分けられた電荷の電荷量に応じたそれぞれの電圧信号を、画素信号処理回路325に出力する。
【0043】
距離画像センサ32に配置される画素の構成は、
図3に示したような、4つの画素信号読み出し部RUを備えた構成に限定されるものではなく、複数の画素信号読み出し部RUを備えた構成の画素であればよい。つまり、距離画像センサ32に配置される画素に備える画素信号読み出し部RU(電荷蓄積部CS)の数は、2つであってもよいし、3つであってもよいし、5つ以上であってもよい。
【0044】
また、
図3に示した構成の画素321では、電荷蓄積部CSを、フローティングディフュージョンFDと電荷蓄積容量Cとによって構成する一例を示した。しかし、電荷蓄積部CSは、少なくともフローティングディフュージョンFDによって構成されればよく、画素321が電荷蓄積容量Cを備えない構成であってもよい。
【0045】
また、
図3に示した構成の画素321では、ドレインゲートトランジスタGDを備える構成の一例を示したが、これに限定されない。例えば、電荷蓄積部CSに蓄積されずに光電変換素子PDに残っている電荷を破棄する必要がない場合には、ドレインゲートトランジスタGDを備えない構成であってもよい。
【0046】
次に、画素321の駆動タイミングについて
図4を用いて説明する。
図4は、実施形態の画素321を駆動するタイミングを示すタイミングチャートである。
【0047】
図4では、1回の振り分け処理において、電荷蓄積部CSのそれぞれに電荷を蓄積させるまでに要する時間を「単位蓄積時間UT」と表している。「単位蓄積時間UT」において行われる振り分け処理(単位蓄積処理)を1フレームに相当する蓄積回数だけ繰り返し行った後に、その間に蓄積された電荷量を読み出す処理が行われる。この蓄積された電荷量を読み出す処理が行われる時間を「読み出し期間」と表している。
【0048】
また、
図4では、光パルスPOを照射するタイミングを「L」、反射光RLが受光されるタイミングを「R」、電荷振り分けゲートトランジスタG1を駆動させるタイミングを「G1」、電荷振り分けゲートトランジスタG2を駆動させるタイミングを「G2」、電荷振り分けゲートトランジスタG3を駆動させるタイミングを「G3」、電荷振り分けゲートトランジスタG4を駆動させるタイミングを「G4」、駆動信号RSTDのタイミングを「GD」、の項目名でそれぞれ示している。
【0049】
垂直走査回路323は、光パルスPOの照射に同期させたタイミングで、電荷蓄積部CS1~CS4に電荷を蓄積させる。
図4の例では、光パルスPOを照射したタイミングと同じタイミングで電荷蓄積部CS1に電荷を蓄積させ、電荷蓄積部CS1に電荷を蓄積させた後、順次、電荷蓄積部CS2~CS4に電荷を蓄積させる。
【0050】
図4の例では、光パルスPOが照射された時刻から遅延時間Td遅れて反射光RLが距離画像センサ32に受光される場合のタイミングチャートが示されている。遅延時間Tdに応じて、反射光RLに応じた電荷が電荷蓄積部CS1及びCS2に振り分けて蓄積される。電荷蓄積部CS3及びCS4が電荷を蓄積するタイミングでは、反射光RLが受光されることはなく、背景光などの外光成分に応じた電荷が電荷蓄積部CS3及びCS4に蓄積される。
【0051】
具体的に、まず、垂直走査回路323は、光パルスPOを照射させる。垂直走査回路323は照射のタイミングと同じタイミングでドレインゲートトランジスタGDをオフ状態にするとともに、電荷振り分けゲートトランジスタG1を蓄積時間Taに渡りオン状態とする。垂直走査回路323は、電荷振り分けゲートトランジスタG1を蓄積時間Taに渡りオン状態とした後に、電荷振り分けゲートトランジスタG1をオフ状態とする。これにより、電荷振り分けゲートトランジスタG1がオン状態に制御されている間に光電変換素子PDにより光電変換された電荷が、電荷振り分けゲートトランジスタG1を介して電荷蓄積部CS1に蓄積される。
【0052】
次に、垂直走査回路323は、電荷振り分けゲートトランジスタG2をオフ状態としたタイミングで、電荷振り分けゲートトランジスタG2を蓄積時間Taに渡りオン状態とする。垂直走査回路323は、電荷振り分けゲートトランジスタG2を蓄積時間Taに渡りオン状態とした後に、電荷振り分けゲートトランジスタG2をオフ状態にする。これにより、電荷振り分けゲートトランジスタG2がオン状態に制御されている間に光電変換素子PDにより光電変換された電荷が、電荷振り分けゲートトランジスタG2を介して電荷蓄積部CS2に蓄積される。
【0053】
次に、垂直走査回路323は、電荷振り分けゲートトランジスタG2をオフ状態としたタイミングで、電荷振り分けゲートトランジスタG3を蓄積時間Taに渡りオン状態にする。垂直走査回路323は、電荷振り分けゲートトランジスタG3を蓄積時間Taに渡りオン状態とした後に、電荷振り分けゲートトランジスタG3をオフ状態にする。これにより、電荷振り分けゲートトランジスタG3がオン状態に制御されている間に光電変換素子PDにより光電変換された電荷は、電荷振り分けゲートトランジスタG3を介して電荷蓄積部CS3に蓄積される。
【0054】
次に、垂直走査回路323は、電荷蓄積部CS3への電荷の蓄積を終了させたタイミングで、電荷振り分けゲートトランジスタG4を蓄積時間Taに渡りオン状態にする。垂直走査回路323は、電荷振り分けゲートトランジスタG4を蓄積時間Taに渡りオン状態とした後に、電荷振り分けゲートトランジスタG4をオフ状態とする。これにより、電荷振り分けゲートトランジスタG4がオン状態に制御されている間に光電変換素子PDにより光電変換された電荷は、電荷振り分けゲートトランジスタG4を介して電荷蓄積部CS4に蓄積される。垂直走査回路323は、電荷振り分けゲートトランジスタG4をオフ状態としたタイミングでドレインゲートトランジスタGDをオン状態にする。ドレインゲートトランジスタGDがオン状態とされることにより、この間に光電変換素子PDにより光電変換された電荷は、電荷蓄積部CSに蓄積されることなく、ドレインゲートトランジスタGDを介して破棄される。
【0055】
このように、本実施形態では、単位蓄積時間UTにおいて電荷蓄積部CSに電荷を蓄積させる時間区間UT1以外のタイミングにて光電変換された電荷を蓄積することがないように制御する。すなわち、単位蓄積時間UTにおいて、時間区間UT1ではドレインゲートトランジスタGDがオフ状態に制御され、時間区間UT1以外の時間区間UT2ではドレインゲートトランジスタGDがオン状態に制御される。これは、本実施形態が、光パルスPOを断続的に照射するSP方式を採用しているためである。SP方式においては、単位蓄積時間UTにおいて、反射光RLを受光することが想定されていない時間区間UT2にはドレインゲートトランジスタGDをオン状態にして電荷の排出を行う。これにより、光パルスPOの反射光RLを受光することが想定されていない時間区間UT2において、外光成分に応じた電荷が蓄積され続けることを回避する。
【0056】
一方、光パルスPOが連続的に照射される、CW方式では、単位蓄積時間UTにおいて電荷を電荷蓄積部CSに蓄積させる度に電荷の排出を行うことはない。これは、CW方式においては、常時、反射光RLを受光していることから、反射光RLを受光することが想定されていない時間区間が存在しないためである。CW方式においては、1フレームにおいて単位蓄積時間UTを複数回繰り返す処理が実行されている時間区間においては、光電変換素子PDに接続されたリセットゲートトランジスタなどの電荷排出部はオフ状態に制御され、電荷の排出を行わない。そして、1フレームにおいて読出時間RDが到来すると、電荷蓄積部CSのそれぞれに蓄積された電荷量を読み出した後、リセットゲートトランジスタなどの電荷排出部がオン状態に制御され、電荷の排出が行われる。また、上記の説明では、光電変換素子PDに電荷排出部が接続された機構を例に説明したがこれに限定されない。光電変換素子PDに電荷排出部が存在せず、フローティングディフュージョンFDに電荷排出部が接続されたリセットゲートトランジスタを用いる機構などであってもよい。
【0057】
本実施形態では、単位蓄積時間UTにおいて電荷蓄積部CSに電荷を蓄積させる時間区間UT1とは異なる時間区間UT2に光電変換された電荷が、ドレインゲートトランジスタGD(「電荷排出部」の一例)によって排出されるように制御する。ドレイン期間を設けることにより、蓄積期間外で発生した外光ノイズを除去しつつ、光パルス周期を調整できる。これにより、アイセーフを満たしつつ、発光回数を多くしたり、高いピークパワーで光照射したりすることが可能になる。
【0058】
垂直走査回路323は、上述したような駆動を、1フレームに渡って所定の振り分け回数分繰り返し行う。その後、垂直走査回路323は、それぞれの電荷蓄積部CSに蓄積され電荷量に応じた電圧信号を出力する。具体的に、垂直走査回路323は、選択ゲートトランジスタSL1を所定時間オン状態にすることにより、画素信号読み出し部RU1を介して電荷蓄積部CS1に蓄積された電荷量に応じた電圧信号を出力端子O1から出力させる。同様に、垂直走査回路323は、順次、選択ゲートトランジスタSL2~SL4をオン状態とすることにより、電荷蓄積部CS2~CS4に蓄積された電荷量に応じた電圧信号を出力端子O2~O4から出力させる。これによって、電荷蓄積部CSのそれぞれに蓄積された1フレーム分の電荷量に相当する電気信号が距離演算部42に出力される。
【0059】
なお、上記では、光パルスPOが照射されたタイミングで、電荷振り分けゲートトランジスタG1をオン状態とする場合を例に説明した。しかしながらこれに限定されることはない。少なくとも反射光RLに応じた電荷が複数の電荷蓄積部に振り分けて蓄積されるタイミングで光パルスPOが照射されればよい。
【0060】
図4では、光パルスPOを照射するタイミングと、反射光RLが受光されるタイミングと、電荷蓄積部CSのそれぞれに電荷を蓄積させるタイミングとの関係から、電荷蓄積部CS1及びCS2に、反射光RLに応じた電荷量が振り分けられて蓄積される。また、電荷蓄積部CS1~CS4に外光成分に応じた電荷量が蓄積される。
【0061】
電荷蓄積部CS1及びCS2に振り分けられる電荷量の配分(振り分け比率)は、光パルスPOの照射時刻から反射光RLの受光時刻までの遅延時間Tdに応じた比率となる。距離演算部42は、この原理を利用して、以下の(1)式により、遅延時間Tdを算出する。(1)式におけるRは反射光RLの振り分け比率を示す電荷比である。(1)式では、電荷蓄積部CS1~CS3のそれぞれに蓄積された外光成分に応じた電荷量が同量であることを前提とする。
【0062】
Td=To×R …(1)
但し、 R=(Q2-Q3)/(Q1+Q2-Q3)
Toは光パルスPOが照射された時間間隔
Q1は電荷蓄積部CS1に蓄積された電荷量
Q2は電荷蓄積部CS2に蓄積された電荷量
Q3は電荷蓄積部CS3に蓄積された電荷量
【0063】
距離演算部42は、近距離受光画素においては、(1)式で求めた遅延時間Tdに、光速(速度)を乗算させることにより、被写体OBまでの往復の距離を算出する。そして、距離演算部42は、上記で算出した往復の距離を1/2とすることにより、ToF距離を求める。
【0064】
ここで、(1)式を用いて算出される距離(ToF距離)に誤差が生じる要因について説明する。
【0065】
誤差が生じる一因として、距離の測定に係る各種の信号処理に用いられる矩形信号において波形になまりが生じることが考えられる。実際の回路では配線抵抗や寄生容量などに起因して信号伝送時の高周波特性が劣化する。また、光電変換素子PDにおける電荷転送効率に起因して電荷転送時に遅延が生じる。高周波特性が劣化したり、光電変換素子PDにおける電荷転送効率したりすると、信号の立上りや立下り等、信号振幅が急峻に変化する時に遅延が発生し、波形になまりが生じる。その結果、矩形が崩れ、立上り遅延及び立下りが遅延した波形に変化する。
【0066】
距離を測定する様々な処理で用いられる矩形信号がなまると誤差が生じる原因となる。例えば、光パルスを照射するレーザダイオードを制御するドライバのタイミング信号がなまると光パルスを照射した後やや遅れて規定の光量に達し、照射を停止した後やや遅れて光パルスPOの光量が0(ゼロ)となる。このような波形のなまりが反射光RLに影響するため、反射光RLも裾引波形となって画素321に受光される。さらに、電荷振り分けゲートトランジスタGのタイミング信号がなまると、電荷蓄積部CS1に蓄積されるはずの電荷量が電荷蓄積部CS2に蓄積されたり、電荷蓄積部CS2に蓄積されるはずの電荷量が電荷蓄積部CS3に蓄積されたりする。このように、本来蓄積されるべき電荷蓄積部CSと異なる電荷蓄積部CSに蓄積された電荷量を用いて、(1)式から算出される遅延時間Tdは、本来の遅延時間Tdとは異なる値と異なり、誤差を含む値となる。また、
図4の時間区間UT2では、電荷振り分けゲートと、ドレインゲートの境界では信号が不連続に消失するため、ToF距離における誤差が非線形になってしまう。すなわち、電荷転送等の遅延によるなまりを含んだ電子電流が時間区間UT1に入っていれば線形に近い距離ずれが生じる一方、上述したような、電荷転送等の遅延によるなまりを含んだ電子電流の一部が時間区間UT2に入っている場合は非線形な距離ずれとなる。
【0067】
この対策として、本実施形態では、ToF距離を、補正情報440を用いて補正する。補正情報440は、ToF距離を補正する補正関数を示す情報である。
【0068】
ここでToF距離を補正する方法について、
図5、
図6を用いて具体的に説明する。
図5は、実距離(実際の距離)とToF距離との関係の例を示す図である。
図6は、
図5におけるToF距離と距離ずれの関係を示す図である。
【0069】
図5の横軸には実距離、縦軸にはToF距離が示されている。
図5では、実距離に対するToF距離の関係が実線で示されている。
図5では、ToF距離に距離ずれがない場合における実距離に対するToF距離の関係が点線で示されている。
図5における横軸(実距離)について、実線と点線との差分が、「距離ずれ」に相当する。
【0070】
図6の横軸にはToF距離、縦軸には距離ずれが示されている。
図6に示すように、距離ずれは、ToF距離に対して一定の値とはならない。この図の例では、点P1~P3までの領域E1ではToF距離と距離ずれとの関係が非線形となる。また、点P3~P10までの領域E2ではToF距離と距離ずれとの関係がほぼ線形となる。また、点P10~P14までの領域E3ではToF距離と距離ずれとの関係が非線形となる。
【0071】
例えば、予め実距離が判っている被写体OBに、光パルスPOを照射してToF距離することによって、
図5に示すような実距離に対するToF距離の関係を求めることができる。実距離に対するToF距離の関係を用いて、
図6に示すような、ToF距離と距離ずれとの関係を求めることができる。
【0072】
このようにして求めたToF距離と距離ずれとの関係から、例えば、距離演算部42は、ToF距離と距離ずれとの関係が、ほぼ線形とみなすことができるような、より低次の補正関数を割り当てる「低次補正領域」(以下、「線形領域」ともいう)と、ToF距離と距離ずれとの関係が非線形となるような、より高次の補正関数を割り当てる「高次補正領域」(以下、非線形領域ともいう)とを、予め抽出する。
【0073】
ここで、「線形領域」と「非線形領域」とを区分する方法について説明する。距離演算部42は、複数の点P(点P1~P14)のそれぞれにおける微分値を算出する。例えば、距離演算部42は、複数の点P(点P1~P14)のそれぞれの傾きK(傾きK1~K14)を求める。具体的には、点P1における傾きK1は下記の(2)式により、点P2における傾きK2は下記の(3)式により、求められる。他の点P(点P3~P14)の傾きK(傾きK3~K14)についても同様な方法を用いて求めることができる。
【0074】
K1=(y2-y1)/(x2-x1) …(2)
K2=(y3-y2)/(x3-x2) …(3)
但し、点P1の座標値を(x1、y1)とする
点P2の座標値を(x2、y2)とする
点P3の座標値を(x3、y3)とする
【0075】
距離演算部42は、傾きがほぼ一定とみなせる領域を「線形領域」とする。傾きがほぼ一定とみなせる領域とは、例えば、各点Pの傾きKが、所定値V±αとなる領域である。ここで、所定値Vは予め任意に設定される値である。αは予め任意に設定されるマージン量である。
【0076】
一方、距離演算部42は、傾きが一定とみなすことができない領域を「非線形領域」とする。傾きが一定とみなすことができない領域とは、例えば、各点Pの傾きKが加速度的に大きくなる、或いは小さくなる等、各点Pにおける距離ずれが変化する領域である。
【0077】
距離演算部42は、「線形領域」と「非線形領域」のそれぞれに適用する補正関数を決定する。補正関数は、ToF距離を入力変数x、補正後の距離(測定距離)を出力変数yとする場合に、y=f(x)として表される関数である。
【0078】
距離演算部42は、「線形領域」に適用する補正関数(第1補正関数)を、「非線形領域」に適用する補正関数(第2補正関数)よりも次数が小さい補正関数とする。具体的に、距離演算部42は、「線形領域」に適用する補正関数を一次関数とする。距離演算部42は、例えば、「線形領域」に適用する補正関数を、y=Bx+C(B、Cは実数値)とし、「線形領域」に含まれる点P(点P3~P10)のそれぞれの座標値が、y=Bx+Cの関係を満たすようなB、Cを、例えば最小二乗法などを用いて決定する。
【0079】
距離演算部42は、「非線形領域」に適用する補正関数(第2補正関数)を、「線形領域」に適用する補正関数(第1補正関数)よりも次数が大きい補正関数とする。具体的に、距離演算部42は、まず、「非線形領域」に適用する補正関数の次数を決定する。
【0080】
例えば、距離演算部42は、「非線形領域」に適用する補正関数が二次関数であると仮定する。具体的に、距離演算部42は、「非線形領域」に適用する補正関数を、y=Ax2+Bx+C(A、B、Cは実数値)とし、「非線形領域」に含まれる点P(例えば、点P1~P3)のそれぞれの座標値が、y=Ax2+Bx+Cの関係を満たすようなA、B、Cを、例えば最小二乗法などを用いて決定する。距離演算部42は、このようにして決定した二次の補正関数が、距離ずれを精度よく補正するか否かを判定する。例えば、距離演算部42は、「非線形領域」の点P(例えば、点P1~P3)のそれぞれに補正関数を用いて算出した補正後の距離と、実距離との差分を算出する。距離演算部42は、算出した差分の絶対値が、所定の閾値未満である場合、補正関数が、距離ずれを精度よく補正すると判定する。一方、距離演算部42は、算出した差分の絶対値が、所定の閾値以上である場合、補正関数が、距離ずれを精度よく補正しないと判定する。
【0081】
距離演算部42は、二次の補正関数が距離ずれを精度よく補正しないと判定した場合、「非線形領域」に適用する補正関数が三次関数であると仮定する。そして、距離演算部42は、一次関数や二次関数の場合と同様に、最小二乗法などを用いて係数を決定する距離演算部42は、二次の補正関数の場合と同様な方法にて、三次の補正関数が距離ずれを精度よく補正するか否かを判定する。以降も同様に、距離演算部42は、補正関数の次数を順に大きくして、距離ずれを精度よく補正すると判定される補正関数を決定する。
【0082】
距離演算部42は、非線形領域が複数存在する場合、それぞれの非線形領域に対応する補正関数を決定するようにしてもよい。また、距離演算部42は、線形領域が複数存在する場合、それぞれの線形領域に対応する補正関数を決定するようにしてもよい。
【0083】
ここで補正情報440について、
図7を用いて具体的に説明する。
図7は、実施形態の補正情報440の例を示す図である。
図7に示すように、補正情報440は、例えば、領域、ToF距離、線形/非線形判定結果、及び補正関数などの項目を備える。領域は、線形或いは非線形の領域に対して一意に対応づけられた識別情報が示される。ToF距離には、それぞれの領域に対応するToF距離の範囲が示される。ToF距離は、電荷蓄積部CSのそれぞれに蓄積された電荷量を用いて(1)式により算出される距離値である。線形/非線形判定結果は、それぞれの領域が、線形領域と判定されたか、非線形領域と判定されたかを示す情報である。補正関数は、それぞれの領域を補正する補正関数を示す情報である。
【0084】
この図の例では、領域E1は、ToF距離が0.10~0.25[m]の範囲の非線形領域であり、補正関数がA1x2+B1x+C1であることが示されている。また、領域E2は、ToF距離が0.25~1.35[m]の範囲の線形領域であり、補正関数がB2x+C2であることが示されている。領域E3は、ToF距離が1.35~1.80[m]の範囲の線形領域であり、補正関数がA3x2+B3x+C3であることが示されている。
【0085】
図8は、実施形態の距離画像処理部4が行う処理の流れを示すフローチャートである。距離演算部42は、電荷蓄積部CS1~CS3のそれぞれに蓄積された電荷量Q1~Q3を取得する(ステップS10)。距離演算部42は、取得した電荷量Q1~Q3に、ToF距離を計算する計算式(例えば、(1)式)を適用することによって、ToF距離を算出する(ステップS11)。
なお、この図では、線形領域に一次関数を適用し、非線形領域に二次関数を適用する場合を例示して説明したが、これに限定されることはない。線形領域に適用する補正関数と比較して、少なくとも、非線形領域に適用する補正関数の方が、次数が大きい数であればよい。例えば、線形領域に二次関数を適用し、非線形領域に四次関数を適用してもよい。
【0086】
距離演算部42は、ステップS11で算出したToF距離を補正する補正関数を選択する(ステップS12)。距離演算部42は、補正情報440を参照し、ステップS11で算出したToF距離が含まれる範囲に対応する補正関数を取得する。距離演算部42は、取得した補正関数を、ステップS11で算出したToF距離を補正する補正関数として選択する。距離演算部42は、ステップS12で選択した補正関数を用いてToF距離を補正する。(ステップS13)。距離演算部42は、補正後のToF距離を、測定距離と決定する(ステップS14)。
なお、述した実施形態では、補正関数を選択する選択基準として、例示的に、ToF距離を用いたが、これに限定されない。選択基準として、電荷比及び電荷量等、線形/非線形の判別が可能なパラメータを用いることが可能である。
また、上述した実施形態では、線形領域/非線形領域の分類手法として、距離ずれ関数(ToF距離と距離ずれとの関係を示す関数)の傾きを基準とする場合を例示したが、これに限定されない。線形領域に適用する補正関数(第1補正関数という)と、非線形領域に適用する補正関数(第2補正関数という)のそれぞれのフィッティングが最適になる任意の距離で、適用する補正関数を区分するようにしてもよい。
例えば、予め、第1補正関数と、第2補正関数のそれぞれの次数を決定し、最小二乗法で誤差を計算する。そして、第1補正関数、及び第2補正関数のそれぞれのフィッティング誤差が最小になるようなToF距離、および電荷振り分け比率を、線形領域と非線形領域の区切り(境界)とする。ここでの電荷振り分け比率は、「電荷振り分け値」の一例である。また、この場合において、電荷振り分け比率の算出に用いられた電荷蓄積部CSのそれぞれに蓄積された電荷量は、「電荷振り分け値」の一例である。
【0087】
以上説明したように、実施形態の距離画像撮像装置1は、光源部2と、受光部3と、距離画像処理部4と、記憶部44と、を備える。光源部2は、被写体OBが存在する測定空間に光パルスPOを照射する。受光部3は、画素321と、垂直走査回路323(駆動回路の一例)を備える。画素321は、光電変換素子PDと、複数の電荷蓄積部CSを具備する。垂直走査回路323は、光パルスPOの照射に同期させた所定のタイミングで画素321における電荷蓄積部CSのそれぞれに電荷を振り分けて蓄積させる。距離画像処理部4は、電荷蓄積部CSのそれぞれに蓄積された電荷量を用いて被写体OBまでの測定距離を決定する。記憶部44は、補正情報440を記憶する。補正情報440は、補正関数を示す情報である。補正関数は、反射光RLに応じた電荷の振り分け値を用いて算出されるToF距離を補正する関数である。補正関数は、ToF距離が含まれる領域に応じて適用される少なくとも2つの第1補正関数群と第2補正関数群を含む。第1補正関数群は、第2補正関数群よりも次数が小さい補正関数の集合である。第1補正関数群は、ToF距離と実距離(実際の距離)との関係が線形となる線形領域に適用される補正関数の集合である。第2補正関数群は、第1補正関数群よりも次数が大きい関数である。第2補正関数群は、ToF距離と実距離との関係が非線形となる非線形領域に適用される補正関数の集合である。距離画像処理部4は、反射光RLに応じた電荷の振り分け値を用いてToF距離を算出する。距離画像処理部4は、算出したToF距離に応じて、第1補正関数群又は第2補正関数群のいずれかに含まれる関数を、ToF距離に適用する補正関数として選択する。距離画像処理部4は、選択した補正関数を用いて補正した前記ToF距離を、測定距離とする。
【0088】
これにより、実施形態の距離画像撮像装置1は、計算式により求められるToF距離の範囲に応じて適用する補正関数を、互いに異なる補正関数とすることができる。このため、線形領域には次数の低い補正関数を適用し、非線形領域には次数の高い補正関数を適用することが可能となる。したがって、少なくとも線形領域に次数の低い補正関数を適用することができ、ToF距離の全範囲に一つの高次の補正関数を適用する場合と比較して、計算時間を削減することが可能である。すなわち、ToF距離に対する距離ずれが不規則となる場合であっても、計算時間を増大させることなくToF距離を補正することができる。また、高次の補正式による、補正値の振動誤差を抑制してToF距離を補正することができる。
【0089】
また、実施形態の距離画像撮像装置1では、ドレインゲートトランジスタGD(電荷排出部)を更に備える。この場合、光源部2は、光パルスPOを断続的に照射する。距離画像処理部4は、単位蓄積時間UTを複数回繰り返すことによって、電荷蓄積部CSのそれぞれに電荷を蓄積させる。距離画像処理部4は、単位蓄積時間UTにおいて、時間区間UT2では、光電変換素子PDによって発生された電荷が、ドレインゲートトランジスタGDによって排出されるように制御する。ドレイン期間を設けることにより、蓄積期間外で発生した外光ノイズを除去しつつ、光パルス周期を調整できる。これにより、アイセーフを満たしつつ、発光回数を多くしたり、高いピークパワーで光照射したりすることが可能になる。
【0090】
上述した実施形態における距離画像撮像装置1、距離画像処理部4の全部または一部をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、FPGA等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。
【0091】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【符号の説明】
【0092】
1…距離画像撮像装置
2…光源部
3…受光部
32…距離画像センサ
321…画素
323…垂直走査回路
4…距離画像処理部
41…タイミング制御部
42…距離演算部
43…測定制御部
44…記憶部
440…補正情報
CS…電荷蓄積部
PO…光パルス