(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-12-16
(45)【発行日】2024-12-24
(54)【発明の名称】距離画像撮像装置、及び距離画像撮像方法
(51)【国際特許分類】
G01S 17/894 20200101AFI20241217BHJP
G01S 7/497 20060101ALI20241217BHJP
G01C 3/06 20060101ALI20241217BHJP
【FI】
G01S17/894
G01S7/497
G01C3/06 120Q
(21)【出願番号】P 2021008218
(22)【出願日】2021-01-21
【審査請求日】2023-12-20
(73)【特許権者】
【識別番号】000003193
【氏名又は名称】TOPPANホールディングス株式会社
(74)【代理人】
【識別番号】100149548
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100139686
【氏名又は名称】鈴木 史朗
(74)【代理人】
【識別番号】100169764
【氏名又は名称】清水 雄一郎
(74)【代理人】
【識別番号】100147267
【氏名又は名称】大槻 真紀子
(72)【発明者】
【氏名】畠山 邦広
(72)【発明者】
【氏名】中込 友洋
【審査官】佐藤 宙子
(56)【参考文献】
【文献】特開2019-219400(JP,A)
【文献】特開2020-3250(JP,A)
【文献】国際公開第2009/005098(WO,A1)
【文献】米国特許出願公開第2018/0252800(US,A1)
【文献】米国特許出願公開第2019/0086521(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G01S 7/48- 7/51
G01S 17/00-17/95
G01C 3/00- 3/32
(57)【特許請求の範囲】
【請求項1】
被写体が存在する測定空間に光パルスを照射する光源部と、
入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定のタイミングで前記画素における前記電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、
前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記被写体までの測定距離を決定する距離画像処理部と、
単位蓄積回数あたりに蓄積される電荷量に基づく第1変数ごとに、電荷比に基づく第2変数と前記被写体までの距離に対応する対応距離との関係を示すテーブル情報を記憶する記憶部と、
を備え、
前記第1変数は、単位蓄積回数あたりに前記電荷蓄積部のそれぞれに蓄積される電荷量の和に対応する変数であり、
前記第2変数は、三つ以上の前記電荷蓄積部のうち前記光パルスが前記被写体に反射した反射光に対応する電荷量が振り分けて蓄積される二つ以上の距離演算用電荷蓄積部のそれぞれに蓄積された電荷量から外光成分を減算した距離演算用電荷量を用いて示される電荷比であり、
前記距離画像処理部は、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて前記第1変数及び前記第2変数を算出し、算出した前記第1変数に対応する前記テーブル情報を選択し、選択した前記テーブル情報を用いて、算出した前記第2変数に対応する前記対応距離を取得し、取得した前記対応距離を用いて、前記測定距離を決定する、
距離画像撮像装置。
【請求項2】
前記電荷比は、前記距離演算用電荷蓄積部のそれぞれに蓄積された前記距離演算用電荷量の和に対する、二つ以上の前記距離演算用電荷蓄積部のいずれか一つまたは複数の組み合わせによる前記距離演算用電荷量の比である、
請求項1に記載の距離画像撮像装置。
【請求項3】
前記距離画像処理部は、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて前記第1変数及び前記第2変数を算出し、算出した前記第1変数に対応する前記テーブル情報を選択し、選択した前記テーブル情報から、前記第2変数より小さい電荷比に対応付けられた第1距離と、前記第2変数より大きい電荷比に対応付けられた第2距離とを抽出し、抽出した前記第1距離と前記第2距離を線形補間することによって前記測定距離を決定する、
請求項1に記載の距離画像撮像装置。
【請求項4】
前記画素は、三つ以上の前記電荷蓄積部を具備し、
前記距離画像処理部は、三つ以上の前記電荷蓄積部のそれぞれに蓄積された電荷量のうち、最も少ない電荷量を、外光成分に相当する電荷量とする、
請求項1から請求項3のいずれか一項に記載の距離画像撮像装置。
【請求項5】
前記画素は、三つ以上の前記電荷蓄積部を具備し、
前記距離画像処理部は、三つ以上の前記電荷蓄積部のうち、予め決められた外光蓄積用電荷蓄積部に前記反射光に対応する電荷が蓄積されないように、前記外光蓄積用電荷蓄積部に電荷を蓄積させるタイミングを制御し、前記外光蓄積用電荷蓄積部に蓄積された電荷量を、外光成分に相当する電荷量とする、
請求項1から請求項3のいずれか一項に記載の距離画像撮像装置。
【請求項6】
前記記憶部は、前記第1変数が閾値より小さい場合に対応する前記テーブル情報である第1テーブル情報と、前記第1変数が前記閾値より大きい場合に対応する前記テーブル情報である第2テーブル情報とを記憶し、
前記閾値は、前記光電変換素子から前記電荷蓄積部までの経路における電荷の転送効率に応じて決定される値であり、
前記距離画像処理部は、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて前記第1変数及び前記第2変数を算出し、算出した前記第1変数が前記閾値より小さい場合に前記第1テーブル情報を選択し、算出した前記第1変数が前記閾値より大きい場合に前記第2テーブル情報を選択する、
請求項1に記載の距離画像撮像装置。
【請求項7】
前記記憶部は、二つの前記距離演算用電荷蓄積部の組合せごとに前記テーブル情報を記憶し、
前記距離画像処理部は、三つ以上の前記電荷蓄積部のうち、電荷を蓄積させるタイミングが連続する二つの前記電荷蓄積部のそれぞれに蓄積された電荷量の和が、他の二つの前記電荷蓄積部のそれぞれに蓄積された電荷量よりも大きい組合せを、前記距離演算用電荷蓄積部の組合せと決定し、決定した前記距離演算用電荷蓄積部の組合せに応じて前記テーブル情報を選択する、
請求項1に記載の距離画像撮像装置。
【請求項8】
前記画素には、三つの前記電荷蓄積部である第1電荷蓄積部、第2電荷蓄積部、及び第3電荷蓄積部が設けられ、
前記距離画像処理部は、
前記光パルスの照射に同期させたタイミングで、前記第1電荷蓄積部、第2電荷蓄積部、及び第3電荷蓄積部の順に、前記電荷が蓄積されるように制御し、
前記第1電荷蓄積部に蓄積された第1電荷量と前記第3電荷蓄積部に蓄積された第3電荷量とを用いて、前記第1電荷量と前記第3電荷量との差分である第1算出値を算出し、前記第1算出値を、二つの前記距離演算用電荷蓄積部のいずれか一方の前記距離演算用電荷量とする、
請求項1に記載の距離画像撮像装置。
【請求項9】
前記画素には、四つの前記電荷蓄積部である第1電荷蓄積部、第2電荷蓄積部、第3電荷蓄積部、及び第4電荷蓄積部が設けられ、
前記距離画像処理部は、
前記光パルスの照射に同期させたタイミングで、前記第1電荷蓄積部、第2電荷蓄積部、第3電荷蓄積部、及び第4電荷蓄積部の順に、前記電荷が蓄積されるように前記画素駆動回路を制御し、
前記第1電荷蓄積部に蓄積された第1電荷量と前記第3電荷蓄積部に蓄積された第3電荷量とを用いて、前記第1電荷量と前記第3電荷量との差分である第1算出値を算出し、
前記第2電荷蓄積部に蓄積された第2電荷量と前記第4電荷蓄積部に蓄積された第4電荷量とを用いて、前記第2電荷量と前記第4電荷量との差分である第2算出値を算出し、
前記第1算出値の絶対値と前記第2算出値の絶対値を加算した加算値を、二つの前記距離演算用電荷蓄積部における前記距離演算用電荷量の和とし、前記第1算出値を二つの前記距離演算用電荷蓄積部における一方の前記距離演算用電荷量とし、前記第2算出値を二つの前記距離演算用電荷蓄積部における他方の前記距離演算用電荷量する、
請求項1に記載の距離画像撮像装置。
【請求項10】
被写体が存在する測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定のタイミングで前記画素における前記電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路とを有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記被写体までの測定距離を決定する距離画像処理部と、単位蓄積回数あたりに蓄積される電荷量に基づく第1変数ごとに、電荷比に基づく第2変数と前記被写体までの距離に対応する対応距離との関係を示すテーブル情報を記憶する記憶部と、を備える距離画像撮像装置による距離画像撮像方法であって、
前記第1変数は、単位蓄積回数あたりに前記電荷蓄積部のそれぞれに蓄積される電荷量の和に対応する変数であり、
前記第2変数は、三つ以上の前記電荷蓄積部のうち前記光パルスが前記被写体に反射した反射光に対応する電荷量が振り分けて蓄積される二つ以上の距離演算用電荷蓄積部のそれぞれに蓄積された電荷量から外光成分を減算した距離演算用電荷量を用いて示される電荷比であり、
前記距離画像処理部は、
前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて前記第1変数及び前記第2変数を算出し、
算出した前記第1変数に対応する前記テーブル情報を選択し、
選択した前記テーブル情報を用いて、算出した前記第2変数に対応する前記対応距離を取得し、
取得した前記対応距離を用いて、前記測定距離を決定する、
距離画像撮像方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、距離画像撮像装置、及び距離画像撮像方法に関する。
【背景技術】
【0002】
従来から、物体との距離を計測するための技術として、光パルスの飛行時間を測定する技術がある。このような技術は、タイム・オブ・フライト(Time of Flight、以下、TOFという)と呼ばれる。TOFでは、光の速度が既知であることを利用し、物体に近赤外領域の光パルスを照射する。そして、この光パルスを照射した時刻と、照射した光パルスが物体によって反射してきた反射光を受光した時刻との時間差を測定する。この時間差に基づいて物体との距離を算出する。フォトダイオード(光電変換素子)を用いて距離を測定するための光を検出する測距センサが実用化されている。
【0003】
そして、近年では、物体との距離のみではなく、物体を含む二次元の画像における画素ごとの奥行き情報、つまり、物体に対する三次元の情報を得ることができる測距センサが実用化されている。このような測距センサは、距離画像撮像装置ともいわれている。距離画像撮像装置では、フォトダイオードを含む画素がシリコン基板に二次元の行列状に複数配置され、この画素面で物体に反射した反射光を受光する。距離画像撮像装置では、それぞれの画素が受光した光量(電荷)に基づいた光電変換信号を1つの画像分出力することによって、物体を含む二次元の画像と、この画像を構成するそれぞれの画素ごとの距離の情報を得ることができる。例えば、特許文献1には、1つの画素に3つの電荷蓄積部が設けられ、順番に電荷を振り分けて距離を計算する技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
このような距離画像撮像装置では、物体によって反射してきた反射光を画素が受光し、受光した反射光の光量を電荷に光電変換し、変換した電荷を電荷蓄積部に蓄積させ、蓄積させた電荷量に基づいて距離の情報を算出する。しかしながら、蓄積された電荷量から算出される距離が、実際の距離(実距離)に対して誤差がある場合があった。
【0006】
本発明は、上記の課題に基づいてなされたものであり、電荷蓄積部に蓄積された電荷量に基づいて算出される距離に誤差がある場合であっても、実際の距離に近づくように補正することができる距離画像撮像装置、及び距離画像撮像方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の距離画像撮像装置は、被写体が存在する測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する三つ以上の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定のタイミングで前記画素における前記電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記被写体までの測定距離を決定する距離画像処理部と、単位蓄積回数あたりに蓄積される電荷量に基づく第1変数ごとに、電荷比に基づく第2変数と前記被写体までの距離に対応する対応距離との関係を示すテーブル情報を記憶する記憶部と、を備え、前記第1変数は、単位蓄積回数あたりに前記電荷蓄積部のそれぞれに蓄積される電荷量の和に対応する変数であり、前記第2変数は、複数の前記電荷蓄積部のうち前記光パルスが前記被写体に反射した反射光に対応する電荷量が振り分けて蓄積される二つ以上の距離演算用電荷蓄積部のそれぞれに蓄積された電荷量から外光成分を減算した距離演算用電荷量を用いて示される電荷比であり、前記距離画像処理部は、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて前記第1変数及び前記第2変数を算出し、算出した前記第1変数に対応する前記テーブル情報を選択し、選択した前記テーブル情報を用いて、算出した前記第2変数に対応する前記対応距離を取得し、取得した前記対応距離を用いて、前記測定距離を決定する。
【0008】
本発明の距離画像撮像装置では、前記電荷比は、前記距離演算用電荷蓄積部のそれぞれに蓄積された前記距離演算用電荷量の和に対する、二つ以上の前記距離演算用電荷蓄積部のいずれか一つまたは複数の組み合わせによる前記距離演算用電荷量の比である。
【0009】
本発明の距離画像撮像装置では、前記距離画像処理部は、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて前記第1変数及び前記第2変数を算出し、算出した前記第1変数に対応する前記テーブル情報を選択し、選択した前記テーブル情報から、前記第2変数より小さい電荷比に対応付けられた第1距離と、前記第2変数より大きい電荷比に対応付けられた第2距離とを抽出し、抽出した前記第1距離と前記第2距離を線形補間することによって前記測定距離を決定する。
【0010】
本発明の距離画像撮像装置では、前記画素は、三つ以上の前記電荷蓄積部を具備し、前記距離画像処理部は、三つ以上の前記電荷蓄積部のそれぞれに蓄積された電荷量のうち、最も少ない電荷量を、外光成分に相当する電荷量とする。
【0011】
本発明の距離画像撮像装置では、前記画素は、三つ以上の前記電荷蓄積部を具備し、前記距離画像処理部は、三つ以上の前記電荷蓄積部のうち、予め決められた外光蓄積用電荷蓄積部に前記反射光に対応する電荷が蓄積されないように、前記外光蓄積用電荷蓄積部に電荷を蓄積させるタイミングを制御し、前記外光蓄積用電荷蓄積部に蓄積された電荷量を、外光成分に相当する電荷量とする。
【0012】
本発明の距離画像撮像装置では、前記記憶部は、前記第1変数が閾値より小さい場合に対応する前記テーブル情報である第1テーブル情報と、前記第1変数が前記閾値より大きい場合に対応する前記テーブル情報である第2テーブル情報とを記憶し、前記閾値は、前記光電変換素子から前記電荷蓄積部までの経路における電荷の転送効率によって生じる距離ずれに応じて決定される値であり、距離画像処理部は、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて前記第1変数及び前記第2変数を算出し、算出した前記第1変数が前記閾値より小さい場合に前記第1テーブル情報を選択し、算出した前記第1変数が前記閾値より大きい場合に前記第2テーブル情報を選択する。
【0013】
本発明の距離画像撮像装置では、前記記憶部は、二つの前記距離演算用電荷蓄積部の組合せごとに前記テーブル情報を記憶し、前記距離画像処理部は、三つ以上の前記電荷蓄積部のうち、電荷を蓄積させるタイミングが連続する二つの前記電荷蓄積部のそれぞれに蓄積された電荷量の和が、他の二つの前記電荷蓄積部のそれぞれに蓄積された電荷量よりも大きい組合せを、前記距離演算用電荷蓄積部の組合せと決定し、決定した前記距離演算用電荷蓄積部の組合せに応じて前記テーブル情報を選択する。
【0014】
本発明の距離画像撮像装置では、前記画素には、三つの前記電荷蓄積部である第1電荷蓄積部、第2電荷蓄積部、及び第3電荷蓄積部が設けられ、前記距離画像処理部は、前記光パルスの照射に同期させたタイミングで、前記第1電荷蓄積部、第2電荷蓄積部、及び第3電荷蓄積部の順に、前記電荷が蓄積されるように制御し、前記第1電荷蓄積部に蓄積された第1電荷量と前記第3電荷蓄積部に蓄積された第3電荷量とを用いて、前記第1電荷量と前記第3電荷量との差分である第1算出値を算出し、前記第1算出値を、二つの前記距離演算用電荷蓄積部のいずれか一方の前記距離演算用電荷量とする。
【0015】
本発明の距離画像撮像装置では、前記画素には、四つの前記電荷蓄積部である第1電荷蓄積部、第2電荷蓄積部、第3電荷蓄積部、及び第4電荷蓄積部が設けられ、前記距離画像処理部は、前記光パルスの照射に同期させたタイミングで、前記第1電荷蓄積部、第2電荷蓄積部、第3電荷蓄積部、及び第4電荷蓄積部の順に、前記電荷が蓄積されるように前記画素駆動回路を制御し、前記第1電荷蓄積部に蓄積された第1電荷量と前記第3電荷蓄積部に蓄積された第3電荷量とを用いて、前記第1電荷量と前記第3電荷量との差分である第1算出値を算出し、前記第2電荷蓄積部に蓄積された第2電荷量と前記第4電荷蓄積部に蓄積された第4電荷量とを用いて、前記第2電荷量と前記第4電荷量との差分である第2算出値を算出し、前記第1算出値の絶対値と前記第2算出値の絶対値を加算した加算値を、二つの前記距離演算用電荷蓄積部における前記距離演算用電荷量の和とし、前記第1算出値を二つの前記距離演算用電荷蓄積部における一方の前記距離演算用電荷量とし、前記第2算出値を二つの前記距離演算用電荷蓄積部における他方の前記距離演算用電荷量する。
【0016】
本発明の距離画像撮像方法は、被写体が存在する測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定のタイミングで前記画素における前記電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路とを有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記被写体までの測定距離を決定する距離画像処理部と、単位蓄積回数あたりに蓄積される電荷量に基づく第1変数ごとに、電荷比に基づく第2変数と前記被写体までの距離に対応する対応距離との関係を示すテーブル情報を記憶する記憶部と、を備える距離画像撮像装置による距離画像撮像方法であって、前記第1変数は、単位蓄積回数あたりに前記電荷蓄積部のそれぞれに蓄積される電荷量の和に対応する変数であり、前記第2変数は、三つ以上の前記電荷蓄積部のうち前記光パルスが前記被写体に反射した反射光に対応する電荷量が振り分けて蓄積される二つの距離演算用電荷蓄積部のそれぞれに蓄積された電荷量から外光成分を減算した距離演算用電荷量を用いて示される電荷比であり、前記距離画像処理部は、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて前記第1変数及び前記第2変数を算出し、算出した前記第1変数に対応する前記テーブル情報を選択し、選択した前記テーブル情報を用いて、算出した前記第2変数に対応する前記対応距離を取得し、取得した前記対応距離を用いて、前記測定距離を決定する。
【発明の効果】
【0017】
本発明によれば、電荷蓄積部に蓄積された電荷量に基づいて算出される距離に誤差がある場合であっても、実際の距離に近づくように補正することができる。
【図面の簡単な説明】
【0018】
【
図1】実施形態の距離画像撮像装置1の概略構成を示したブロック図である。
【
図2】実施形態の距離画像センサ32の概略構成を示したブロック図である。
【
図3】実施形態の画素321の構成の一例を示した回路図である。
【
図4】実施形態の画素321を駆動するタイミングの例を示すタイミングチャートである。
【
図5A】実施形態のテーブル情報440の構成の例を示す図である。
【
図5B】実施形態のテーブル情報440の構成の例を示す図である。
【
図5C】実施形態のテーブル情報440の構成の例を示す図である。
【
図5D】実施形態のテーブル情報440の構成の例を示す図である。
【
図6】実施形態のテーブル情報440を説明する図である。
【
図7】実施形態の距離画像処理部4がテーブル情報440を用いて線形補間を行う処理を説明する図である。
【
図8】実施形態の距離画像処理部4が外光成分を決定する処理を説明する図である。
【
図9】実施形態の距離画像処理部4が外光成分を決定する処理を説明する図である。
【
図10】実施形態の距離画像処理部4が行う処理の流れを示すフローチャートである。
【
図12】実施形態の変形例1におけるテーブル情報440Aの構成の例を示す図である。
【
図13】実施形態の変形例2におけるテーブル情報440Bの構成の例を示す図である。
【
図14】実施形態の変形例3における二つのタイムウィンドウを説明する図である。
【
図15】実施形態の変形例3におけるテーブル情報440Cの構成の例を示す図である。
【
図16】実施形態の変形例3におけるテーブル情報440Dの構成の例を示す図である。
【発明を実施するための形態】
【0019】
以下、実施形態の距離画像撮像装置を、図面を参照しながら説明する。
【0020】
<実施形態>
まず、実施形態について説明する。
図1は、本発明の第1の実施形態の距離画像撮像装置の概略構成を示したブロック図である。
図1に示した構成の距離画像撮像装置1は、光源部2と、受光部3と、距離画像処理部4とを備える。
図1には、距離画像撮像装置1において距離を測定する対象物である被写体OBも併せて示している。
【0021】
光源部2は、距離画像処理部4からの制御に従って、距離画像撮像装置1において距離を測定する対象の被写体OBが存在する撮影対象の空間に光パルスPOを照射する。光源部2は、例えば、垂直共振器面発光レーザー(VCSEL:Vertical Cavity Surface Emitting Laser)などの面発光型の半導体レーザーモジュールである。光源部2は、光源装置21と、拡散板22とを備える。
【0022】
光源装置21は、被写体OBに照射する光パルスPOとなる近赤外の波長帯域(例えば、波長が850nm~940nmの波長帯域)のレーザー光を発光する光源である。光源装置21は、例えば、半導体レーザー発光素子である。光源装置21は、タイミング制御部41からの制御に応じて、パルス状のレーザー光を発光する。
【0023】
拡散板22は、光源装置21が発光した近赤外の波長帯域のレーザー光を、被写体OBに照射する面の広さに拡散する光学部品である。拡散板22が拡散したパルス状のレーザー光が、光パルスPOとして出射され、被写体OBに照射される。
【0024】
受光部3は、距離画像撮像装置1において距離を測定する対象の被写体OBによって反射された光パルスPOの反射光RLを受光し、受光した反射光RLに応じた画素信号を出力する。受光部3は、レンズ31と、距離画像センサ32とを備える。
【0025】
レンズ31は、入射した反射光RLを距離画像センサ32に導く光学レンズである。レンズ31は、入射した反射光RLを距離画像センサ32側に出射して、距離画像センサ32の受光領域に備えた画素に受光(入射)させる。
【0026】
距離画像センサ32は、距離画像撮像装置1に用いられる撮像素子である。距離画像センサ32は、二次元の受光領域に複数の画素を備える。距離画像センサ32のそれぞれの画素の中に、1つの光電変換素子と、この1つの光電変換素子に対応する複数の電荷蓄積部と、それぞれの電荷蓄積部に電荷を振り分ける構成要素とが設けられる。つまり、画素は、複数の電荷蓄積部に電荷を振り分けて蓄積させる振り分け構成の撮像素子である。
【0027】
距離画像センサ32は、タイミング制御部41からの制御に応じて、光電変換素子が発生した電荷をそれぞれの電荷蓄積部に振り分ける。また、距離画像センサ32は、電荷蓄積部に振り分けられた電荷量に応じた画素信号を出力する。距離画像センサ32には、複数の画素が二次元の行列状に配置されており、それぞれの画素の対応する1フレーム分の画素信号を出力する。
【0028】
距離画像処理部4は、距離画像撮像装置1を制御し、被写体OBまでの距離を演算する。距離画像処理部4は、タイミング制御部41と、距離演算部42と、測定制御部43と、記憶部44とを備える。なお、距離画像処理部4の機能部(タイミング制御部41、距離演算部42、測定制御部43、及び記憶部44)の一部が、距離画像センサ32に組み込まれていてもよい。
【0029】
タイミング制御部41は、測定制御部43の制御に応じて、測定に要する様々な制御信号を出力するタイミングを制御する。ここでの様々な制御信号とは、例えば、光パルスPOの照射を制御する信号、反射光RLを複数の電荷蓄積部に振り分けて蓄積させる信号、1フレームあたりの振り分け回数(蓄積回数)を制御する信号などである。振り分け回数とは、電荷蓄積部CS(
図3参照)に電荷を振り分ける処理を繰返す回数である。この電振り分け回数と、電荷を振り分ける処理1回あたりに各電荷蓄積部に電荷を蓄積させる時間(後述する蓄積時間Ta)の積が露光時間となる。
【0030】
距離演算部42は、距離画像センサ32から出力された画素信号に基づいて、被写体OBまでの距離を算出し、算出した距離情報を出力する。距離演算部42は、複数の電荷蓄積部に蓄積された電荷量に基づいて、被写体OBまでの距離を演算する。
【0031】
本実施形態では、距離演算部42は、後述するテーブル情報440を用いて、被写体OBまでの距離を決定する。テーブル情報440については後で詳しく説明する。また、距離演算部42が、テーブル情報440を用いて被写体OBまでの距離を決定する方法については、後で詳しく説明する。
【0032】
測定制御部43は、タイミング制御部41を制御する。例えば、測定制御部43は、1フレームの振り分け回数及び蓄積時間Ta等を設定し、設定した内容で撮像が行われるようにタイミング制御部41を制御する。
【0033】
記憶部44は、記憶媒体、例えば、HDD(Hard Disk Drive)、フラッシュメモリ、EEPROM(Electrically Erasable Programmable Read Only Memory)、RAM(Random Access read/write Memory)、ROM(Read Only Memory)、または、これらの記憶媒体の任意の組み合わせによって構成される。記憶部44は、例えば、テーブル情報440を記憶する。テーブル情報440については後で詳しく説明する。
【0034】
このような構成によって、距離画像撮像装置1では、光源部2が被写体OBに照射した近赤外の波長帯域の光パルスPOが被写体OBによって反射された反射光RLを受光部3が受光し、距離画像処理部4が、被写体OBとの距離を測定した距離情報を出力する。
【0035】
なお、
図1においては、距離画像処理部4を内部に備えた構成の距離画像撮像装置1を示しているが、距離画像処理部4は、距離画像撮像装置1の外部に備える構成要素であってもよい。
【0036】
次に、距離画像撮像装置1において撮像素子として用いられる距離画像センサ32の構成について説明する。
図2は、実施形態の距離画像撮像装置1に用いられる撮像素子(距離画像センサ32)の概略構成を示したブロック図である。
【0037】
図2に示すように、距離画像センサ32は、例えば、複数の画素321が配置された受光領域320と、制御回路322と、振り分け動作を有した垂直走査回路323と、水平走査回路324と、画素信号処理回路325とを備える。
【0038】
受光領域320は、複数の画素321が配置された領域であって、
図2では、8行8列に二次元の行列状に配置された例を示している。画素321は、受光した光量に相当する電荷を蓄積する。制御回路322は、距離画像センサ32を統括的に制御する。制御回路322は、例えば、距離画像処理部4のタイミング制御部41からの指示に応じて、距離画像センサ32の構成要素の動作を制御する。なお、距離画像センサ32に備えた構成要素の制御は、タイミング制御部41が直接行う構成であってもよく、この場合、制御回路322を省略することも可能である。
【0039】
垂直走査回路323は、制御回路322からの制御に応じて、受光領域320に配置された画素321を行ごとに制御する回路である。垂直走査回路323は、画素321の電荷蓄積部CSそれぞれに蓄積された電荷量に応じた電圧信号を画素信号処理回路325に出力させる。この場合、垂直走査回路323は、光電変換素子により変換された電荷を画素321の電荷蓄積部それぞれに振り分ける。つまり、垂直走査回路323は、「画素駆動回路」の一例である。
【0040】
画素信号処理回路325は、制御回路322からの制御に応じて、それぞれの列の画素321から対応する垂直信号線に出力された電圧信号に対して、予め定めた信号処理(例えば、ノイズ抑圧処理やA/D変換処理など)を行う回路である。
【0041】
水平走査回路324は、制御回路322からの制御に応じて、画素信号処理回路325から出力される信号を、水平信号線に順次出力させる回路である。これにより、1フレーム分蓄積された電荷量に相当する画素信号が、水平信号線を経由して距離画像処理部4に順次出力される。
【0042】
以下では、画素信号処理回路325がA/D変換処理を行い、画素信号がデジタル信号であるものとして説明する。
【0043】
ここで、距離画像センサ32に備える受光領域320内に配置された画素321の構成について説明する。
図3は、実施形態の距離画像センサ32の受光領域320内に配置された画素321の構成の一例を示した回路図である。
図3には、受光領域320内に配置された複数の画素321のうち、1つの画素321の構成の一例を示している。画素321は、3つの画素信号読み出し部を備えた構成の一例である。
【0044】
図3に示すように、画素321は、1つの光電変換素子PDと、ドレインゲートトランジスタGDと、対応する出力端子Oから電圧信号を出力する3つの画素信号読み出し部RUとを備える。画素信号読み出し部RUのそれぞれは、読み出しゲートトランジスタGと、フローティングディフュージョンFDと、電荷蓄積容量Cと、リセットゲートトランジスタRTと、ソースフォロアゲートトランジスタSFと、選択ゲートトランジスタSLとを備える。それぞれの画素信号読み出し部RUでは、フローティングディフュージョンFDと電荷蓄積容量Cとによって電荷蓄積部CSが構成されている。
【0045】
なお、
図3においては、3つの画素信号読み出し部RUの符号「RU」の後に、「1」、「2」または「3」の数字を付与することによって、それぞれの画素信号読み出し部RUを区別する。また、同様に、3つの画素信号読み出し部RUに備えたそれぞれの構成要素も、それぞれの画素信号読み出し部RUを表す数字を符号の後に示すことによって、それぞれの構成要素が対応する画素信号読み出し部RUを区別して表す。
【0046】
図3に示した画素321において、出力端子O1から電圧信号を出力する画素信号読み出し部RU1は、読み出しゲートトランジスタG1と、フローティングディフュージョンFD1と、電荷蓄積容量C1と、リセットゲートトランジスタRT1と、ソースフォロアゲートトランジスタSF1と、選択ゲートトランジスタSL1とを備える。画素信号読み出し部RU1では、フローティングディフュージョンFD1と電荷蓄積容量C1とによって電荷蓄積部CS1が構成されている。画素信号読み出し部RU2および画素信号読み出し部RU3も同様の構成である。
【0047】
光電変換素子PDは、入射した光を光電変換して電荷を発生させ、発生させた電荷を蓄積する埋め込み型のフォトダイオードである。光電変換素子PDの構造は任意であってよい。光電変換素子PDは、例えば、P型半導体とN型半導体とを接合した構造のPNフォトダイオードであってもよいし、P型半導体とN型半導体との間にI型半導体を挟んだ構造のPINフォトダイオードであってもよい。また、光電変換素子PDは、フォトダイオードに限定されるものではなく、例えば、フォトゲート方式の光電変換素子であってもよい。
【0048】
画素321では、光電変換素子PDが入射した光を光電変換して発生させた電荷を3つの電荷蓄積部CSのそれぞれに振り分け、振り分けられた電荷の電荷量に応じたそれぞれの電圧信号を、画素信号処理回路325に出力する。
【0049】
距離画像センサ32に配置される画素の構成は、
図3に示したような、3つの画素信号読み出し部RUを備えた構成に限定されるものではなく、複数の画素信号読み出し部RUを備えた構成の画素であればよい。つまり、距離画像センサ32に配置される画素に備える画素信号読み出し部RU(電荷蓄積部CS)の数は、2つであってもよいし、4つ以上であってもよい。
【0050】
また、
図3に示した構成の画素321では、電荷蓄積部CSを、フローティングディフュージョンFDと電荷蓄積容量Cとによって構成する一例を示した。しかし、電荷蓄積部CSは、少なくともフローティングディフュージョンFDによって構成されればよく、画素321が電荷蓄積容量Cを備えない構成であってもよい。
【0051】
また、
図3に示した構成の画素321では、ドレインゲートトランジスタGDを備える構成の一例を示したが、これに限定されない。例えば、電荷蓄積部CSに蓄積されずに光電変換素子PDに残っている電荷を破棄する必要がない場合には、ドレインゲートトランジスタGDを備えない構成であってもよい。
【0052】
次に、画素321の駆動タイミングについて
図4を用いて説明する。
図4は、実施形態の画素321を駆動するタイミングを示すタイミングチャートである。
【0053】
図4では、光パルスPOを照射するタイミングを「L」、反射光が受光されるタイミングを「R」、駆動信号TX1のタイミングを「G1」、駆動信号TX2のタイミングを「G2」、駆動信号TX3のタイミングを「G3」、駆動信号RSTDのタイミングを「GD」、の項目名でそれぞれ示している。なお、駆動信号TX1は、読み出しゲートトランジスタG1を駆動させる信号である。駆動信号TX2、TX3についても同様である。
【0054】
図4に示すように、光パルスPOが照射時間Toで照射され、遅延時間Td遅れて反射光RLが距離画像センサ32に受光されるとする。垂直走査回路323は、光パルスPOの照射に同期させて、電荷蓄積部CS1、CS2、及びCS3の順に、電荷を蓄積させる。
図4では、1回の振り分け処理において、光パルスPOを照射して電荷蓄積部CSに順に電荷を蓄積させるまでの時間を「単位蓄積期間」と表している。「単位蓄積期間」において行われる振り分け処理を1フレームに相当する蓄積回数だけ繰り返し行った後に、その間に蓄積された電荷量を読み出す処理が行われる。この蓄積された電荷量を読み出す処理が行われる時間を「読み出し期間」と表している。
【0055】
まず、
図4を用いて近距離にある物体からの反射光RLを受光する場合について説明する。垂直走査回路323は、光パルスPOを照射させるタイミングに同期させて、ドレインゲートトランジスタGDをオフ状態にするとともに、読み出しゲートトランジスタG1をオン状態とする。垂直走査回路323は、読み出しゲートトランジスタG1をオン状態としてから蓄積時間Taが経過した後に、読み出しゲートトランジスタG1をオフ状態にする。これにより、読み出しゲートトランジスタG1がオン状態に制御されている間に光電変換素子PDにより光電変換された電荷は、読み出しゲートトランジスタG1を介して電荷蓄積部CS1に蓄積される。
【0056】
次に、垂直走査回路323は、読み出しゲートトランジスタG1をオフ状態としたタイミングで、読み出しゲートトランジスタG2を蓄積時間Taオン状態にする。これにより、読み出しゲートトランジスタG2がオン状態に制御されている間に光電変換素子PDにより光電変換された電荷は、読み出しゲートトランジスタG2を介して電荷蓄積部CS2に蓄積される。
【0057】
次に、垂直走査回路323は、電荷蓄積部CS2への電荷の蓄積を終了させたタイミングで、読み出しゲートトランジスタG3をオン状態にし、蓄積時間Taが経過した後に、読み出しゲートトランジスタG3をオフ状態にする。これにより、読み出しゲートトランジスタG3がオン状態に制御されている間に光電変換素子PDにより光電変換された電荷は、読み出しゲートトランジスタG3を介して電荷蓄積部CS3に蓄積される。
【0058】
次に、垂直走査回路323は、電荷蓄積部CS3への電荷の蓄積を終了させたタイミングで、ドレインゲートトランジスタGDをオン状態にして電荷の排出を行う。これにより、光電変換素子PDにより光電変換された電荷はドレインゲートトランジスタGDを介して破棄される。
【0059】
垂直走査回路323は、上述したような駆動を、1フレームに渡って所定の振り分け回数分繰り返し行う。その後、垂直走査回路323は、それぞれの電荷蓄積部CSに振り分けられた電荷量に応じた電圧信号を出力する。具体的に、垂直走査回路323は、選択ゲートトランジスタSL1を所定時間オン状態にすることにより、画素信号読み出し部RU1を介して電荷蓄積部CS1に蓄積された電荷量に対応する電圧信号を出力端子O1から出力させる。同様に、垂直走査回路323は、順次、選択ゲートトランジスタSL2、SL3をオン状態とすることにより、電荷蓄積部CS2、CS3に蓄積された電荷量に対応する電圧信号を出力端子O2、O3から出力させる。そして、画素信号処理回路325、及び水平走査回路324を介して、電荷蓄積部CSのそれぞれに蓄積された、1フレーム分の電荷量に相当する電気信号が距離演算部42に出力される。
【0060】
なお、上記では、光源部2が読み出しゲートトランジスタG1がオン状態となったタイミングで、光パルスPOを照射する場合を例に説明した。しかしながらこれに限定されることはない。光源部2は、少なくとも近距離にある物体からの反射光RLが電荷蓄積部CS1、CS2に跨って受光されるようなタイミングで照射されればよい。例えば、光源部2は、読み出しゲートトランジスタG1がオン状態となる手前のタイミングで照射されるようにしてもよい。また、上記では、光パルスPOを照射する照射時間Toが蓄積時間Taと同じ長さである場合を例に説明した。しかしながらこれに限定されることはない。照射時間Toと蓄積時間Taとが異なる時間間隔であってもよい。
【0061】
図4に示すような近距離受光画素においては、光パルスPOを照射するタイミングと、電荷蓄積部CSのそれぞれに電荷を蓄積させるタイミングとの関係から、電荷蓄積部CS1及びCS2に、反射光RL及び外光成分に相当する電荷量が振り分けられて保持される。また、電荷蓄積部CS3には背景光などの外光成分に相当する電荷量が保持される。この場合、電荷蓄積部CS1及びCS2は「距離演算用電荷蓄積部」の一例である。この場合、電荷蓄積部CS1及びCS2に蓄積される反射光RLに相当する電荷量は「距離演算用電荷量」の一例である。
【0062】
電荷蓄積部CS1及びCS2に振り分けられる電荷量の配分(振り分け比率)は、光パルスPOが被写体OBに反射して距離画像撮像装置1に入射されるまでの遅延時間Tdに応じた比率となる。
【0063】
距離演算部42は、この原理を利用して、従来の近距離受光画素においては、以下の(1)式により、遅延時間Tdを算出する。
【0064】
Td=To×(Q2-Q3)/(Q1+Q2-2×Q3) …(1)
【0065】
ここで、Toは光パルスPOが照射された期間、Q1は電荷蓄積部CS1に蓄積された電荷量、Q2は電荷蓄積部CS2に蓄積された電荷量、Q3は電荷蓄積部CS3に蓄積された電荷量、を示す。なお、(1)式では、電荷蓄積部CS1及びCS2に蓄積される電荷量のうちの外光成分に相当する電荷量が電荷蓄積部CS3に蓄積された電荷量と同量であることを前提とする。
【0066】
距離演算部42は、近距離受光画素においては、(1)式で求めた遅延時間Tdに、光速(速度)を乗算させることにより、被写体OBまでの往復の距離を算出する。そして、距離演算部42は、上記で算出した往復の距離を1/2とすることにより、被写体OBまでの距離を求める。
【0067】
ここで、従来の距離画像撮像装置1において、蓄積された電荷量から算出される距離(測定距離)に誤差が生じる要因について説明する。
【0068】
誤差が生じる一因として、距離画像撮像装置1における回路内での信号遅延により、矩形の立上りや立下りにおいて遅延が発生し、波形になまりが生じることが考えられる。すなわち、このような光パルス及びゲートパルスのなまり及び電荷転送の遅延が、測定する距離に誤差が生じる要因となっていた。この対策として、例えば、電荷比Rに距離Dが対応付けられた対応表(「テーブル情報」の一例)を用いて、誤差を補正する方法が採用されている。ここでの距離は被写体OBまでの距離である。
【0069】
ここでの電荷比Rは、反射光RLが振り分けられて蓄積される二つの電荷蓄積部CS(
図4における電荷蓄積部CS1及びCS2)のそれぞれに蓄積された電荷量の比率である。この場合、電荷比Rは、例えば、以下の(2)式、或いは(3)式で示される。
【0070】
R=Q1#/(Q1#+Q2#) …(2)
R=Q2#/(Q1#+Q2#) …(3)
ただし、Q1#=Q1-Qb
Q2#=Q2-Qb
Q1は電荷蓄積部CS1に蓄積された電荷量
Q2は電荷蓄積部CS2に蓄積された電荷量
Qbは電荷蓄積部CSに蓄積される外光成分に相当する電荷量
【0071】
電荷比Rに距離Dが対応付けられた対応表を用いることによって、(1)式により算出した距離に誤差が生じる場合であっても、誤差が少なくなるように距離を補正することが可能となる。なお、外光成分に相当する電荷量Qbを算出する方法については、後で詳しく説明する。
【0072】
また、誤差が生じる別の要因として、1回の光電変換で発生する電荷の絶対量によって、電荷を転送する効率(転送効率)が異なることが考えられる。ここでの転送とは、光電変換素子PDから電荷蓄積部CSのそれぞれに電荷が蓄積されることである。
【0073】
例えば、光電変換素子PDに入射される光の強度(光量)が小さい場合、光電変換素子PDに入射される光の強度が大きい場合と比較して、転送効率が低下する。これは、転送経路にポテンシャルのポケット(穴)が形成されている場合等に、そのポケットを埋めるために転送中の電荷に係る電子が使用されるためと考えられている。
【0074】
例えば、光電変換素子PDに入射される光の強度が大きい場合には、光電変換素子PDで発生する電荷量が多い。このためポケットを埋めるために電子が使用されたとしても、全体の電荷量はほとんど変化せず、転送効率はさほど低下しない。
【0075】
一方、光電変換素子PDに入射される光の強度が小さい場合には、光電変換素子PDで発生する電荷量が少ない。このため、ポケットを埋めるために電子が使用された場合には、全体の電荷量が大きく減少してしまい、転送効率が低下してしまう。
【0076】
電荷比Rに距離Dが対応付けられた対応表を用いた場合、このような転送効率の良し悪しを考慮することができなかった。電荷比Rは、1フレームあたりに蓄積された電荷量Q1、或いはQ2を対象として算出される値であり、1回の蓄積回数で蓄積された電荷量が判らないためである。この結果、測定距離と、実際の距離が異なり距離ずれが生じる原因となっていた。
【0077】
この対策として、本実施形態では、単位蓄積電荷量Qintごとに、テーブル情報440を作成する。単位蓄積電荷量Qintは、単位蓄積回数(例えば、1回の蓄積回数)あたりに電荷蓄積部CSのそれぞれに蓄積された電荷量の総和である。例えば、単位蓄積電荷量Qintは、以下の(4)式で示される。
【0078】
Qint=QSUM/int …(4)
ただし、QSUM=Q1+Q2+Q3
Q1は電荷蓄積部CS1に蓄積された電荷量
Q2は電荷蓄積部CS2に蓄積された電荷量
Q3は電荷蓄積部CS3に蓄積された電荷量
intは1フレームあたりの蓄積回数
【0079】
或いは、単位蓄積電荷量Qintに代えて、単位蓄積電子数Nintごとに、テーブル情報440を作成するようにしてもよい。単位蓄積電子数Nintは、単位蓄積回数(例えば、1回の蓄積回数)あたりに電荷蓄積部CSのそれぞれに蓄積された電子数の総和である。例えば、単位蓄積電子数Nintは、以下の(5)式で示される。
【0080】
Nint=NSUM/int …(5)
ただし、NSUM=Q1/CG1+Q2/CG2+Q3/CG3
NSUMは電荷蓄積部CS1~CS3蓄積された電子数の総和[e-]
intは1フレームあたりの蓄積回数
Q1は電荷蓄積部CS1に蓄積された電荷量[V]
Q2は電荷蓄積部CS2に蓄積された電荷量[V]
Q3は電荷蓄積部CS3に蓄積された電荷量[V]
CG1は電荷蓄積部CS1に蓄積された電荷量の変換ゲイン[V/e-]
CG2は電荷蓄積部CS2に蓄積された電荷量の変換ゲイン[V/e-]
CG3は電荷蓄積部CS3に蓄積された電荷量の変換ゲイン[V/e-]
【0081】
変換ゲインCG1~CG3は、電荷を電子数に換算(変換)する係数であり、例えば、レイアウトなどを考慮して予め決定された値である。変換ゲインCG1~CG3は、互いに異なる値であってもよいし、変換ゲインCG1~CG3の全部または一部が同じ値であってもよい。
【0082】
このように、単位蓄積電荷量Qint(又は、単位蓄積電子数Nint)ごとにテーブル情報440が作成される構成により、単位蓄積電荷量Qint(又は、単位蓄積電子数Nint)に応じて、適切なテーブル情報440を選択することが可能となる。
【0083】
例えば、単位蓄積電荷量Qintが多く、転送効率が低下していない場合には、通常のテーブル情報440を用いて距離を補正する。一方、単位蓄積電荷量Qintが少なく、転送効率が低下している場合には、転送効率が低い場合に対応させたテーブル情報440を用いて距離を補正する。これにより、電荷の転送効率が異なる場合であっても、距離を精度よく補正することが可能となる。ここで、単位蓄積電荷量Qintは、「第1変数」の一例である。電荷比Rは、「第2変数」の一例である。
【0084】
ここで、テーブル情報440について
図5A~
図5Dを用いて説明する。
図5A~
図5Dは、実施形態のテーブル情報440の構成の例を示す図である。
図5Aには、単位蓄積電荷量Qint1である場合における、電荷比Rに距離を対応づけたテーブル情報440が示されている。
図5Bには、単位蓄積電荷量Qint2である場合における、電荷比Rに距離を対応づけたテーブル情報440が示されている。
図5Cには、単位蓄積電荷量Qint3である場合における、電荷比Rに距離を対応づけたテーブル情報440が示されている。
図5Dには、単位蓄積電荷量Qint4である場合における、電荷比Rに距離を対応づけたテーブル情報440が示されている。
【0085】
この例では、電荷の比率が同じ電荷比R1である場合であっても、単位蓄積電荷量Qint1であれば、距離D11となる。一方、単位蓄積電荷量Qint3であれば、距離D31となる。このように、電荷比Rが同じ値であっても、蓄積処理1回あたりに蓄積された電荷量に応じて、演算後の距離を異なる値とすることができる。
【0086】
図6は、実施形態のテーブル情報440を説明する図である。
図6には、ある単位蓄積電荷量Qintにおける電荷比Rと距離(
図6では実距離Dと記載)の関係が示されている。
図6に示すように、電荷比Rと距離の関係は比例関係になるとは限らず、非線形となる場合がある。このような場合、電荷比Rと距離との関係を関数で表そうとすると複雑な多次元の関係式となると考えられる。このような場合、距離を補正する度に複雑な多次元の関係式を演算しなければならず、処理負荷がかかってしまう。電荷比Rと距離の関係を
図5のテーブル情報440に示すような対応表とすることにより、電荷比Rと距離Dの関係が非線形となる場合であっても、処理負荷を増大させることなく、補正に係る処理を実行することが可能となる。
【0087】
図7は、実施形態の距離画像処理部4がテーブル情報440を用いて線形補間を行う処理を説明する図である。
図7には、
図6の特性の一部(電荷比R1~R2の範囲)が示されている。この図の例では、光電変換素子PD蓄積された電荷量に基づいて算出した電荷比が、電荷比R1とR2の中間の値に相当する電荷比Rであった場合を例示している。この場合、距離演算部42は、電荷比R1に対応する距離D11と、電荷比R2対応する距離D12とを線形補間することによって、電荷比Rに対応する距離Dを算出するようにしてもよい。線形補間することによって、距離をより精度良く算出することが可能となる。
【0088】
また、線形補間した場合に、補間した距離の精度が所定の範囲内となるように、テーブル情報440における電荷比の間隔が設定されるようにしてもよい。この場合、テーブル情報440における電荷比の間隔は、例えば、線形とみなせる範囲内に設定される。
【0089】
ここで、外光成分に相当する電荷量Qbを算出する方法について、
図8、
図9を用いて説明する。
図8、
図9は、実施形態の距離画像処理部4が外光成分を決定する処理を説明する図である。
【0090】
(外光成分に相当する電荷量Qbを算出する方法1)
図8には、
図4と比較して遠距離にある物体からの反射光RLを受光した場合のタイミングチャートが示されている。
図8において、垂直走査回路323が、光パルスPOを照射させるタイミング、読み出しゲートトランジスタG1~G3、及びドレインゲートトランジスタGDをオン状態とするタイミング等は、
図4と同様であるため、その説明を省略する。
【0091】
図8に示すように、
図4のタイミングチャートと比較して遅延時間Tdが大きい場合、
図4と同じタイミングで電荷蓄積部CSのそれぞれに電荷を蓄積させた場合、電荷蓄積部CS1に外光成分に相当する電荷量Qbが蓄積され、電荷蓄積部CS2及びCS3に反射光RL及び外光成分に相当する電荷量Qbが振り分けられて蓄積される。この場合、電荷蓄積部CS2及びCS3は「距離演算用電荷蓄積部」の一例である。
【0092】
すなわち、遅延時間Tdが大きくない場合(
図4の場合)には電荷蓄積部CS3に外光成分に相当する電荷量Qbが蓄積され、遅延時間Tdが大きい場合(
図8の場合)には、電荷蓄積部CS1に外光成分に相当する電荷量Qbが蓄積される。
図4、
図8何れの場合であっても、電荷蓄積部CS1~CS3のそれぞれに同じ量の外光成分に相当する電荷量Qbが蓄積される。したがって、反射光RLが振り分けて蓄積された電荷蓄積部CSは、他の外光成分のみが蓄積された電荷蓄積部CSと比較して、より多くの電荷量が蓄積されることとなる。
【0093】
この性質を利用して、距離演算部42は、電荷蓄積部CS1~CS3に蓄積された電荷量のうち、最も少ない電荷量を、外光成分に相当する電荷量Qbと決定する。
【0094】
なお、ここでの電荷比Rは、反射光RLが振り分けられて蓄積される二つの電荷蓄積部CS(
図8における電荷蓄積部CS2及びCS3)のそれぞれに蓄積された電荷量の比率である。この場合、電荷比Rは、例えば、以下の(6)式、或いは(7)式で示される。
【0095】
R=Q2#/(Q2#+Q3#) …(6)
R=Q3#/(Q2#+Q3#) …(7)
ただし、Q2#=Q2-Qb
Q3#=Q3-Qb
Q2は電荷蓄積部CS2に蓄積された電荷量
Q3は電荷蓄積部CS3に蓄積された電荷量
Qbは電荷蓄積部CSに蓄積される外光成分に相当する電荷量
【0096】
(外光成分に相当する電荷量Qbを算出する方法2)
距離画像撮像装置1は、予め決定された特定の電荷蓄積部CSに外光成分に相当する電荷量Qbのみが蓄積されるように、タイミングを制御するようにしてもよい。この場合、距離演算部42は、遅延時間Tdの大小に関わらず、その特定の電荷蓄積部CSに蓄積された電荷量を、外光成分に相当する電荷量Qbと決定することができる。
【0097】
図9には、電荷蓄積部CS1に外光成分に相当する電荷量Qbのみが蓄積されるように制御した場合のタイミングチャートが示されている。
図9において、垂直走査回路323が、光パルスPOを照射させるタイミング、読み出しゲートトランジスタG1~G3、及びドレインゲートトランジスタGDをオン状態とするタイミング等は、
図4と同様であるため、その説明を省略する。
【0098】
図9の例に示すように、光パルスPOを照射する前に、電荷蓄積部CS1に電荷を蓄積させることによって、電荷蓄積部CS1に外光成分に相当する電荷量Qbのみが蓄積されるようにすることができる。この場合、距離演算部42は、電荷蓄積部CS1に蓄積された電荷量を、外光成分に相当する電荷量Qbと決定する。この場合、電荷蓄積部CS1は「予め決められた外光蓄積用電荷蓄積部」の一例である。
【0099】
図10は、実施形態の距離画像処理部4が行う処理の流れを示すフローチャートである。距離演算部42は、電荷蓄積部CS1~CS3のそれぞれに蓄積された電荷量Q1~Q3を取得する(ステップS10)。距離演算部42は、取得した電荷量Q1~Q3を用いて、外光成分に相当する電荷量Qbを算出する(ステップS11)。距離演算部42は、電荷量Q1~Q3のうち最も少ない電荷量を電荷量Qbとしてもよいし、予め決定された特定の電荷蓄積部CS(例えば、
図9における電荷蓄積部CS1)に蓄積された電荷量を電荷量Qbとしてもよい。
【0100】
距離演算部42は、電荷量Q1~Q3、及び電荷量Qbを用いて、電荷比Rを算出する(ステップS12)。距離演算部42は、例えば、(2)式、又は(3)式に、電荷量Q1~Q3、及び電荷量Qbを代入することによって、電荷比Rを算出する。この場合において、距離演算部42は、テーブル情報440に示された電荷比の構成に合致するように(2)式、又は(3)式のいずれかを選択し、選択した式を用いて、電荷比Rを算出する。
【0101】
距離演算部42は、電荷量Q1~Q3、及び蓄積回数intを用いて、単位蓄積電荷量Qintを算出する(ステップS13)。蓄積回数intは予め決定された値であり、例えば、記憶部44に記憶される。この場合、距離演算部42は、記憶部44から蓄積回数intを読み出し、電荷量Q1~Q3、及び読み出した蓄積回数intを、(4)式に代入することによって、単位蓄積電荷量Qintを算出する。
【0102】
距離演算部42は、ステップS13で算出した単位蓄積電荷量Qintを用いて、単位蓄積電荷量Qintに対応するテーブル情報440を選択する(ステップS14)。距離演算部42は、選択したテーブル情報440を用いて、ステップS12で算出した電荷比Rに対応する距離を選択する。この場合において、距離演算部42は、線形補間するための二つの電荷比のそれぞれに対応付けられた、二つの距離を選択するようにしてもよいし、ステップS12で算出した電荷比Rに最も近い電荷比に対応する一つの距離を選択するようにしてもよい。
【0103】
距離演算部42は、二つの距離を選択した場合(ステップS16、YES)、線形補間により距離(測定距離)を決定する(ステップS17)。一方、距離演算部42は、一つの距離を選択した場合(ステップS16、NO)、選択した距離を補正後の距離(測定距離)と決定する(ステップS18)。
【0104】
なお、上記では、距離画像撮像装置1の画素321が三つの電荷蓄積部CS1~CS3を備える場合を例に説明した。しかしながらこれに限定されない。距離画像撮像装置1の画素321が四つ以上(例えばN個、N≧4)の電荷蓄積部CSを備える構成であってもよい。
【0105】
また、
図10に示すフローにおいて、演算の有効/無効が判断されるようにしてもよい。例えば、距離演算部42は、ステップS12で求めた電荷比Rが、所定の上限閾値(例えば、0.98など)を超える場合、演算を無効とする。また、距離演算部42は、ステップS12で求めた電荷比Rが、所定の下限閾値(例えば、0.12など)を下回る場合、演算を無効とする。
【0106】
距離画像撮像装置1の画素321がN個(N≧4)の電荷蓄積部CSを備える場合、ステップS10で、距離演算部42は、電荷蓄積部CS1~CSNのそれぞれに蓄積された電荷量Q1~QNを取得する。ステップS11で、距離演算部42は、取得した電荷量Q1~Q3を用いて、外光成分に相当する電荷量Qbを算出する。距離演算部42が電荷量Qbを算出する方法は、距離画像撮像装置1の画素321が三つの電荷蓄積部CS1~CS3を備える場合と同様である。
【0107】
ステップS12で、距離演算部42は、電荷蓄積部CS1~CSNから、反射光RLに対応する電荷が振り分けて蓄積された二つの電荷蓄積部CS(距離測定用電荷蓄積部)を選択する。距離演算部42が二つの電荷蓄積部CSを選択する方法は、例えば、連続して電荷が蓄積される二つの電荷蓄積部CSの組合せのうち、それぞれの電荷蓄積部CSに蓄積された電荷量の和が最も大きいものを、反射光RLに対応する電荷が振り分けて蓄積された二つの電荷蓄積部CS(距離測定用電荷蓄積部)とする。距離演算部42は、反射光RLに対応する電荷が振り分けて蓄積された二つの電荷蓄積部CSのそれぞれに蓄積された電荷量、及び外光成分に相当する電荷量Qbを用いて、電荷比Rを算出する。ステップS13~S18の処理は、距離画像撮像装置1の画素321が三つの電荷蓄積部CS1~CS3を備える場合と同様である。
【0108】
或いは、距離画像撮像装置1の画素321が2個の電荷蓄積部CSを備える構成であってもよい。この場合、距離画像撮像装置1は、1回の測定につき、外光成分に相当する電荷のみを蓄積させる処理(第1処理という)と、反射光RLを含む電荷を蓄積させる処理(第2処理という)との、2つの電荷蓄積に係る処理を行う。例えば、距離画像撮像装置1は、最初のフレームで第1処理を行い、次のフレームで第2処理を行う。第1処理を行う場合、距離画像撮像装置1は、光パルスPOを照射せずに、電荷蓄積部CS1、CS2のそれぞれに電荷を蓄積させる。第2処理を行う場合、距離画像撮像装置1は、光パルスPOを照射して、電荷蓄積部CS1、CS2のそれぞれに電荷を蓄積させる。
【0109】
この場合、ステップS10で、距離演算部42は、第1処理で電荷蓄積部CS1、CS2のそれぞれに蓄積された電荷量Q1f、Q2fを取得する。また、距離演算部42は、第2処理で電荷蓄積部CS1、CS2のそれぞれに蓄積された電荷量Q1s、Q2sを取得する。ステップS11で、距離演算部42は、取得した電荷量Q1f、又はQ2fのいずれかを外光成分に相当する電荷量Qbとする。ステップS12で、距離演算部42は、取得した電荷量Q1s、Q2s、及び電荷量Qbを用いて、電荷比Rを算出する。距離演算部42が電荷比Rを算出する方法は、距離画像撮像装置1の画素321が三つの電荷蓄積部CS1~CS3を備える場合と同様である。
【0110】
以上説明したように、実施形態の距離画像撮像装置1は、光源部2と、受光部3と、距離画像処理部4とを備える。光源部2は、被写体OBが存在する測定空間に光パルスPOを照射する。受光部3は、画素321と、垂直走査回路323(駆動回路の一例)を備える。画素321は、光電変換素子PDと、複数の電荷蓄積部CSを具備する。垂直走査回路323は、光パルスPOの照射に同期させた所定のタイミングで画素321における電荷蓄積部CSのそれぞれに電荷を振り分けて蓄積させる。距離画像処理部4は、記憶部44を備える。記憶部44はテーブル情報440を記憶する。テーブル情報440は、単位蓄積電荷量Qint(第1変数の一例)ごとに、電荷比R(第2変数の一例)と距離(対応距離)との関係を示す情報である。単位蓄積電荷量Qintは、(4)式、又は(5)式で表される変数である。単位蓄積電荷量Qintは、単位蓄積回数あたりに電荷蓄積部CSのそれぞれに蓄積される電荷量の和に対応する変数である。電荷比Rは、(2)式、又は(3)式で表される変数である。電荷比Rは、二つ以上の距離演算用電荷蓄積部(例えば、
図4の電荷蓄積部CS1、及びCS2)のそれぞれに蓄積された電荷量(例えば、
図4の電荷量Q1、及びQ2)から外光成分(電荷量Qb)を減算した電荷量を用いて示される比率である。電荷比は、二つ以上の距離演算用電荷蓄積部のいずれか一つまたは複数の組み合わせによる距離演算用電荷量の比である。例えば、電荷比は、反射光RLに応じた電荷量(Q1#+Q2#)に対する、いずれか一方の電荷量(Q1#、又はQ2#)の比、すなわち(2)式、又は(3)式で表される変数である。距離画像処理部4は、電荷蓄積部CSのそれぞれに蓄積された電荷量に基づいて単位蓄積電荷量Qint、及び電荷比Rを算出する。距離画像処理部4は、算出した単位蓄積電荷量Qintに対応するテーブル情報440を選択する。距離演算部42は、選択したテーブル情報440を用いて、算出した電荷比Rに対応する距離(対応距離)を取得する。距離演算部42は、取得した対応距離を用いて、補正後の距離(測定距離)を決定する。
【0111】
これにより、実施形態の距離画像撮像装置1は、テーブル情報440を用いて電荷比Rに対応する距離を取得することができ、電荷蓄積部CS1~CS3に蓄積された電荷量Q1~Q3に基づいて算出される距離に誤差がある場合であっても、実際の距離に近づくように補正することができる。しかも、本実施形態では、テーブル情報440は、単位蓄積電荷量Qintごとに作成されている。このため、単位蓄積電荷量Qintに応じて適切なテーブル情報440を選択することが可能である。したがって、1回の蓄積処理あたりに蓄積される電荷量の絶対値によって転送効率が大きく異なる場合であっても、精度よく距離を補正することができる。
【0112】
また、実施形態の距離画像撮像装置1では、距離画像処理部4は、線形補間することによって補正後の距離を決定するようにする。距離画像処理部4は、テーブル情報440を用いて、算出した電荷比Rより小さい電荷比(例えば、電荷比R1)に対応付けられた第1距離(例えば、距離D11)と、電荷比Rより大きい電荷比(例えば、電荷比R2)に対応付けられた第2距離(例えば、距離D12)とを抽出する。距離画像処理部4は、抽出した第1距離(例えば、距離D11)と第2距離(例えば、距離D12)を、線形補間することによって得られる距離を、補正後の距離(測定距離)と決定する。これにより、実施形態の距離画像撮像装置1では、より精度よく、距離を補正することができる。
【0113】
また、実施形態の画素321は、三つ以上の電荷蓄積部CS1~CS3を具備する。距離画像処理部4は、電荷蓄積部CS1~CS3のそれぞれに蓄積された電荷量のうち、最も少ない電荷量を、外光成分に対応する電荷量Qbとする。これにより、実施形態の距離画像撮像装置1では、電荷蓄積部CS1~CS3のそれぞれに蓄積された電荷量を比較するという容易な処理により、外光成分に対応する電荷量Qbを算出することができる。
【0114】
また、実施形態の画素321は、三つ以上の電荷蓄積部CS1~CS3を具備する。距離画像処理部4は、電荷蓄積部CS1~CS3のうちの特定の電荷蓄積部CSに、外光成分に相当する光量のみが蓄積されるように、蓄積タイミングを制御する。距離演算部42は、この特定の電荷蓄積部CSに蓄積された電荷量を、外光成分に対応する電荷量Qbとする。これにより、実施形態の距離画像撮像装置1では、特定の電荷蓄積部CSに蓄積された電荷量を、外光成分に対応する電荷量Qbとして算出することができ、容易に外光成分に対応する電荷量Qbを決定できる。
【0115】
(実施形態の効果)
ここで、実施形態の距離画像撮像装置1における効果を、
図11を用いて説明する。
図11は、実施形態の効果を説明する図である。
図11には、実際の距離(実距離)と測定距離との関係が示されている。
図11の横軸は実距離、縦軸は測定距離を示す。ここでの距離は、被写体OBまでの距離である。
図11において、黒丸で示したテーブル情報440を使用しない(テーブル情報不使用)場合の測定距離は、例えば、(1)式に電荷量Q1~Q3を代入することによって算出される距離である。黒三角で示したテーブル情報440を使用する(テーブル情報使用)場合の測定距離は、テーブル情報440を用いて算出された距離である。この図に示すように、テーブル情報使用の場合における測定距離は、実距離に一致する。一方、テーブル情報不使用の場合における測定距離は実距離とは一致せず、誤差を含む値となっている。すなわち、本実施形態の距離画像撮像装置1では、テーブル情報440を用いて測定距離を決定することにより、より実距離に近い値を算出することが可能である。
【0116】
(実施形態の変形例1)
ここで、実施形態の変形例1について説明する。本変形例では、記憶部44が、閾値Thで分けた二つのテーブル情報440を記憶する点において、上述した実施形態と相違する。
【0117】
図12は、実施形態の変形例1におけるテーブル情報440Aの構成の例を示す図である。
図12に示すように、テーブル情報440Aの上段には、単位蓄積電荷量Qintが閾値Th未満である場合における、電荷比Rと距離Dの関係が示されている。テーブル情報440Aの下段には、単位蓄積電荷量Qintが閾値Th以上である場合における、電荷比Rと距離Dの関係が示されている。この図の例に示すように、テーブル情報440(440A)は、単位蓄積電荷量Qintと電荷比Rとを変数とする二次元の対応表であってもよい。
【0118】
すでに説明したように、転送効率の良し悪しは、1回の蓄積処理で転送される電荷の絶対量に依存する。このため、ある閾値Th未満の電荷量が転送される場合には転送効率が低下し、その閾値以上の電荷量が転送される場合には転送効率が低下しないと考えられる。本変形例では、このような閾値Thで分けた二つのテーブル情報440(テーブル情報440Aにおける上段と下段)を予め作成し、記憶部44に記憶させる。距離演算部42は、算出した単位蓄積電荷量Qintと閾値Thとを比較し、比較結果に応じて二つのテーブル情報440Aの上段と下段とのいずれかを選択する。具体的に、距離演算部42は、単位蓄積電荷量Qintが閾値Th未満である場合には、テーブル情報440Aの上段の対応表を選択する。距離演算部42は、単位蓄積電荷量Qintが閾値Th以上である場合には、テーブル情報440Aの下段の対応表を選択する。距離演算部42は、選択した対応表を用いて距離を決定する。
【0119】
上述したように、実施形態の変形例1に係る距離画像撮像装置1では、記憶部44は、テーブル情報440Aの上段に対応する情報(「第1テーブル情報」の一例)と、テーブル情報440Aの下段に対応する情報(「第2テーブル情報」の一例)との二つの情報を記憶する。テーブル情報440Aの上段に対応する情報は、単位蓄積電荷量Qintが閾値Thより小さい場合に対応する情報である。テーブル情報440Aの下段に対応する情報は、単位蓄積電荷量Qintが閾値Thより大きい場合に対応する情報である。閾値Thは、光電変換素子PDから電荷蓄積部CSまでの経路における電荷の転送効率に応じて決定される値である。距離画像処理部4は、電荷蓄積部CSのそれぞれに蓄積された電荷量に基づいて、単位蓄積電荷量Qint、及び電荷比Rを算出する。距離画像処理部4は、算出した単位蓄積電荷量Qintが閾値Thより小さい場合にテーブル情報440Aの上段に対応する情報を選択する。距離画像処理部4は、算出した単位蓄積電荷量Qintが閾値Thより大きい場合にテーブル情報440Aの下段に対応する情報を選択する。
【0120】
これにより、実施形態の変形例1に係る距離画像撮像装置1では、電荷の転送効率の良し悪しに対応する二つのテーブル情報440のいずれかを選択することができ、記憶部44に記憶させるテーブル情報440の数が少ない場合であっても、精度よく距離を決定することが可能となる。
【0121】
(実施形態の変形例2)
ここで、実施形態の変形例2について説明する。本変形例では、記憶部44が、単位蓄積電荷量Qintの範囲に対応させたテーブル情報440を記憶する点において、上述した実施形態と相違する。
【0122】
図13は、実施形態の変形例2におけるテーブル情報440Bの構成の例を示す図である。テーブル情報440Bの上段には、単位蓄積電荷量Qintが閾値Th1以上かつ閾値Th2未満である場合における、電荷比Rと距離Dの関係が示されている。テーブル情報440Bの下段には、単位蓄積電荷量Qintが閾値Th2以上かつ閾値Th3未満である場合における、電荷比Rと距離Dの関係が示されている。
【0123】
本変形例において、テーブル情報440Bにおける単位蓄積電荷量Qintの範囲は、例えば、転送効率の傾向が似た範囲に対応させる。距離演算部42は、算出した単位蓄積電荷量Qintが、テーブル情報440Bにおけるいずれの単位蓄積電荷量Qintの範囲に対応するかを判定し、判定結果応じてテーブル情報440Bのいずれかを選択する。距離演算部42は、選択した対応表を用いて距離を決定する。これにより、電荷の転送効率の傾向に応じてテーブル情報440を選択することができ、精度よく距離を決定することが可能となる。
【0124】
(実施形態の変形例3)
ここで、実施形態の変形例3について説明する。本変形例では、記憶部44が、複数のタイムウィンドウごとのテーブル情報440を記憶する点において、上述した実施形態と相違する。ここでのタイムウィンドウとは、距離測定用電荷蓄積部の組合せに対応する。
【0125】
例えば、
図4では、距離測定用電荷蓄積部の組合せは電荷蓄積部CS1及びCS2であり、この組み合わせが一つ目のタイムウィンドウに相当する。この一つ目のタイムウィンドウにて振り分けて蓄積される電荷の電荷比Rに応じて距離Dが決定される。
【0126】
また、
図8では、距離測定用電荷蓄積部の組合せは電荷蓄積部CS2及びCS3である。この組み合わせが二つ目のタイムウィンドウに相当する。この二つ目のタイムウィンドウにて振り分けて蓄積される電荷の電荷比Rに応じて距離Dが決定される。
【0127】
図14は、実施形態の変形例3における二つのタイムウィンドウの特性を説明する図である。ここでの特性は、実距離と測定距離の対応関係を示す特性である。
図14の横軸は実距離、縦軸は測定距離を示す。特性L0は理想的な実距離と測定距離の関係を示している。特性L1は一つ目のタイムウィンドウにおける実距離と測定距離の関係を示している。特性L2は二つ目のタイムウィンドウにおける実距離と測定距離の関係を示している。この図の例に示すように、あるタイムウィンドウと別のタイムウィンドウでは、実距離と測定距離の対応関係が互いに異なる場合が多い。このため、あるタイムウィンドウでは精度よく補正を行うことができるテーブル情報440を用いて、別のタイムウィンドウの距離を補正する場合、精度よく補正できるとは限らない。
【0128】
この対策として、本変形例では、記憶部44に、タイムウィンドウごとのテーブル情報440を予め作成し、記憶部44に記憶させる。
【0129】
図15、及び
図16は、実施形態の変形例3におけるテーブル情報の構成の例を示す図である。
図15には、あるタイムウィンドウに相当する距離測定用の電荷蓄積部の組合せ(例えば、電荷蓄積部CS1、及びCS2)に用いるテーブル情報440Cが示されている。
図16には、別のタイムウィンドウに相当する距離測定用の電荷蓄積部の組合せ(例えば、電荷蓄積部CS2、及びCS3)に用いるテーブル情報440Dが示されている。
図15、及び
図16に示すように、テーブル情報440C(400D)では、単位蓄積電荷量Qintと電荷比Rとが同一の値であっても、タイムウィンドウが異なる場合には、異なる距離Dが対応付けられている。このように、タイムウィンドウごとのテーブル情報440を作成することにより、それぞれのタイムウィンドウに応じた補正を行うことが可能となる。
【0130】
以上説明したように、実施形態の変形例3に係る距離画像撮像装置1では、記憶部44は、タイムウィンドウ(二つの距離演算用の電荷蓄積部の組合せ)ごとにテーブル情報440C(400D)を記憶する。距離画像処理部4は、電荷蓄積部CSのそれぞれに蓄積された電荷量に基づいて、二つの距離演算用の電荷蓄積部の組合せを決定する。距離画像処理部4は、電荷蓄積部CS1~CS3のうち、電荷を蓄積させるタイミングが連続する二つの電荷蓄積部CS(例えば、電荷蓄積部CS1及びCS2)のそれぞれに蓄積された電荷量の和(Q1+Q2)が、他の二つの電荷蓄積部CSのそれぞれに蓄積された電荷量よりも大きい組合せを、距離演算用電荷蓄積部の組合せと決定する。距離画像処理部4は、決定した距離演算用電荷蓄積部の組合せに応じて、テーブル情報440C(400D)を選択する。
【0131】
これにより、実施形態の変形例3に係る距離画像撮像装置1では、タイムウィンドウに応じてテーブル情報440を選択することができ、タイムウィンドウごとに実距離と測定距離の対応関係が異なる傾向となる場合であっても、それぞれのタイムウィンドウに適するテーブル情報440を選択することができ、精度よく距離を決定することが可能となる。
【0132】
(実施形態の変形例4)
ここで、実施形態の変形例4について説明する。本変形例では、外光のみが蓄積された電荷蓄積部CS、或いは反射光RLが振り分けられて蓄積される二つの電荷蓄積部CS(距離演算用電荷蓄積部)を特定することなく電荷比Rを算出する点において、上述した実施形態と相違する。
【0133】
本変形例では、距離演算部42は、特許文献WO2019/031510に記載されている方法を利用する。特許文献WO2019/031510には、指標値が所定の閾値を超えるか否かに応じて、距離演算に用いる演算式が選択される技術が記載されている。ここでの指標値は、特許文献WO2019/031510における「距離データ有効性判定信号」である。また、ここでの演算式は、特許文献WO2019/031510における「距離参照値」であり、本実施形態の「電荷比R」に相当する。以下では、画素321が三つの電荷蓄積部CSを備える場合と、画素321が四つの電荷蓄積部CSを備える場合に分けて、具体的な電荷比Rの算出方法を説明する。
【0134】
(画素321が三つの電荷蓄積部CSを備える場合)
本変形例において、距離演算部42は、以下の(8)式、或いは(9)式を用いて電荷比Rを算出する。ここでは、
図4、及び
図8に示すタイミングチャートにしたがって、電荷蓄積部CS1、CS2、CS3の順に、電荷が蓄積されるものとする。すなわち、距離演算部42は、光パルスPOの照射に同期させたタイミングで、電荷蓄積部CS1、CS2,及びCS3の順に、電荷が蓄積されるように制御する。この場合、電荷蓄積部CS1は「第1電荷蓄積部」の一例である。電荷蓄積部CS2は「第2電荷蓄積部」の一例である。電荷蓄積部CS3は「第3電荷蓄積部」の一例である。また、電荷蓄積部CS1に蓄積された電荷量は「第1電荷量」の一例である。電荷蓄積部CS2に蓄積された電荷量は「第2電荷量」の一例である。電荷蓄積部CS3に蓄積された電荷量は「第3電荷量」の一例である。
【0135】
R=1-(Q1-Q3)/SA …(8)
R=(Q1-Q3)/SA …(9)
ただし、
SA=|Q1-Q3|+Q2-0.5×SB
SB=|Q1+Q3|-|Q1-Q3|
Q1は電荷蓄積部CS1に蓄積された電荷量
Q2は電荷蓄積部CS2に蓄積された電荷量
Q3は電荷蓄積部CS3に蓄積された電荷量
【0136】
記憶部44には、単位蓄積電荷量Qintごとに、電荷比Rに距離を対応づけたテーブル情報440が記憶されている。距離演算部42は、単位蓄積電荷量Qintを算出し、算出した単位蓄積電荷量Qintに対応するテーブル情報440を用いて電荷比Rに対応づけられた距離を、測定距離とする。
【0137】
(画素321が四つの電荷蓄積部CSを備える場合)
まず、画素321が四つの電荷蓄積部CSを備える場合における、画素321の駆動タイミングについて説明する。この場合、例えば、
図4、及び
図8にさらに読み出しゲートトランジスタG4の項目が追加され、電荷蓄積部CS1、CS2、CS3、CS4の順に、電荷が蓄積される。この場合、電荷蓄積部CS1は「第1電荷蓄積部」の一例である。電荷蓄積部CS2は「第2電荷蓄積部」の一例である。電荷蓄積部CS3は「第3電荷蓄積部」の一例である。電荷蓄積部CS4は「第4電荷蓄積部」の一例である。また、電荷蓄積部CS1に蓄積された電荷量は「第1電荷量」の一例である。電荷蓄積部CS2に蓄積された電荷量は「第2電荷量」の一例である。電荷蓄積部CS3に蓄積された電荷量は「第3電荷量」の一例である。電荷蓄積部CS4に蓄積された電荷量は「第4電荷量」の一例である。
【0138】
具体的には、
図4、及び
図8に示すタイミングで、光パルスPOの照射、ドレインゲートトランジスタGDをオフ状態とする制御、読み出しゲートトランジスタG1~G3をオン状態とする制御が行われる。次に、垂直走査回路323は、電荷蓄積部CS3への電荷の蓄積を終了させたタイミングで、読み出しゲートトランジスタG4をオン状態にし、蓄積時間Taが経過した後に、読み出しゲートトランジスタG4をオフ状態にする。これにより、読み出しゲートトランジスタG4がオン状態に制御されている間に光電変換素子PDにより光電変換された電荷は、読み出しゲートトランジスタG4を介して電荷蓄積部CS4に蓄積される。次に、垂直走査回路323は、電荷蓄積部CS4への電荷の蓄積を終了させたタイミングで、ドレインゲートトランジスタGDをオン状態にして電荷の排出を行う。これにより、光電変換素子PDにより光電変換された電荷はドレインゲートトランジスタGDを介して破棄される。
【0139】
上記のようなタイミングにて制御された電荷蓄積部CSのそれぞれに蓄積された電荷量に基づいて、距離演算部42は、以下の(10)式、或いは(11)式を用いて、電荷比XRを算出する。
【0140】
XR=1-(Q1-Q3)/SA …(10)
XR=(Q1-Q3)/SA …(11)
ただし、
SA=|Q1-Q3|+|Q2-Q4|
Q1は電荷蓄積部CS1に蓄積された電荷量
Q2は電荷蓄積部CS2に蓄積された電荷量
Q3は電荷蓄積部CS3に蓄積された電荷量
Q4は電荷蓄積部CS4に蓄積された電荷量
【0141】
また、距離演算部42は、以下の(12)式、或いは(13)式を用いて、電荷比YRを算出する。
【0142】
YR=2-(Q2-Q4)/SA …(12)
YR=1+(Q2-Q4)/SA …(13)
ただし、
SA=|Q1-Q3|+|Q2-Q4|
Q1は電荷蓄積部CS1に蓄積された電荷量
Q2は電荷蓄積部CS2に蓄積された電荷量
Q3は電荷蓄積部CS3に蓄積された電荷量
Q4は電荷蓄積部CS4に蓄積された電荷量
【0143】
距離演算部42は、電荷比XRと閾値ThRとを比較する。閾値ThRは、タイムウィンドウの切り替わり付近に相当する電荷比XRの値の近傍に設定される。距離演算部42は、電荷比XRが閾値ThR以下の場合、電荷比XRを、電荷比Rとして選択する。一方、距離演算部42は、電荷比XRが閾値ThRを超えている場合、電荷比YRを、電荷比Rとして選択する。
【0144】
記憶部44には、単位蓄積電荷量Qintごとに、電荷比Rに距離を対応づけたテーブル情報440が記憶されている。距離演算部42は、単位蓄積電荷量Qintを算出し、算出した単位蓄積電荷量Qintに対応するテーブル情報440を用いて電荷比Rに対応づけられた距離を、測定距離とする。
【0145】
以上説明したように、実施形態の変形例4に係る距離画像撮像装置1では、画素321は、三つの電荷蓄積部CS1~CS3を具備する。距離画像処理部4は、光パルスPOの照射に同期させたタイミングで、電荷蓄積部CS1、CS2、CS3の順に、電荷が蓄積されるように制御する。距離演算部42は、(8)式または(9)式のように、(Q1-Q3)を、二つの距離演算用電荷蓄積部のいずれか一方の電荷蓄積部CSに蓄積された、反射光RLに対応する電荷量(距離演算用電荷量)とする。Q1は電荷蓄積部CS1に蓄積された電荷量である。Q3は電荷蓄積部CS3に蓄積された電荷量である。
【0146】
これにより、実施形態の変形例4に係る距離画像撮像装置1では、二つの距離演算用電荷蓄積部を特定することなく、二つの距離演算用電荷蓄積部のいずれか一方に蓄積された距離演算用電荷量を算出することができる。このため、(8)式または(9)式のSAに示すように、二つの距離演算用電荷蓄積部のそれぞれに蓄積された距離演算用電荷量の和を算出することによって、電荷比Rを算出することが可能である。したがって、実施形態の変形例4に係る距離画像撮像装置1では、遅延時間Tdの長さに応じて、(2)式または(3)式を適用するか、(6)式または(7)式を適用するかの場合分けを行うことなく、また、外光のみが蓄積された電荷蓄積部CSを特定し、外光成分に相当する電荷量Qbを算出することなく、容易に電荷比Rを算出することができる。さらに、二つのタイムウィンドウの境界においても同一の演算式((8)式または(9)式)を適用することができるため、タイムウィンドウの境界における不連続性を改善させることが可能である。
【0147】
また、実施形態の変形例4に係る距離画像撮像装置1では、画素321は、四つの電荷蓄積部CS1~CS4を具備する。距離画像処理部4は、光パルスPOの照射に同期させたタイミングで、電荷蓄積部CS1、CS2、CS3、CS4の順に、電荷が蓄積されるように制御する。距離演算部42は、(Q1-Q3)を、二つの距離演算用電荷蓄積部の一方の電荷蓄積部CSに蓄積された電荷量から計算される信号量とする。距離演算部42は、(Q2-Q4)を、二つの距離演算用電荷蓄積部の他方の電荷蓄積部CSに蓄積された電荷量から計算される信号量とする。距離演算部42は、|Q1-Q3|+|Q2-Q4|を、二つの距離演算用電荷蓄積部のそれぞれの電荷蓄積部CSに蓄積された電荷量から計算される信号量の和とする。
【0148】
これにより、実施形態の変形例4に係る距離画像撮像装置1では、二つの距離演算用電荷蓄積部のそれぞれに蓄積された距離演算用電荷量の和、二つの距離演算用電荷蓄積部のいずれか一方に蓄積された距離演算用電荷量、及び他方に蓄積された距離演算用電荷量を算出することができる。このため、二つの距離演算用電荷蓄積部を特定することなく、電荷比Rを算出することが可能である。
【0149】
さらに、この場合、タイムウィンドウの境界において(10)式における電荷比XRと(12)式における電荷比YRとが同じ値となる。このため、タイムウィンドウの境界における不連続性を改善させることが可能である。
【0150】
なお、上述した少なくとも一つの実施形態では、電荷比Rが二つの距離演算用電荷蓄積部のそれぞれに蓄積された距離演算用電荷量の和に対する、二つの距離演算用電荷蓄積部のいずれか一方の距離演算用電荷量の比である場合を例に説明した。しかしながらこれに限定されない。電荷比Rは、少なくとも二つの距離演算用電荷蓄積部のそれぞれに蓄積された距離演算用電荷量を用いて示される比率であればよい。例えば、電荷比Rは、二つの距離演算用電荷蓄積部のいずれか一方の距離演算用電荷量に対する、他方の距離演算用電荷量の比であってもよい。
【0151】
また、
図9では、光パルスPOを照射する前に電荷蓄積部CS1に電荷を蓄積させることによって、電荷蓄積部CS1に外光成分に相当する電荷量Qbのみが蓄積されるように制御する場合を例に説明した。しかしながらこれに限定されない。光パルスPOを照射し、反射光RLを受光した後に電荷蓄積部CS3に電荷を蓄積させるように制御してもよい。この場合、電荷蓄積部CS3に外光成分に相当する電荷量Qbのみが蓄積される。この場合、電荷蓄積部CS3は「予め決められた外光蓄積用電荷蓄積部」の一例である。
また、外光成分に相当する電荷量Qbみを蓄積させる電荷蓄積部CSを固定する場合において、
図8に示すように、電荷蓄積部CS1~CS3を、連続的にオン状態とするようにしてもよい。
また、電荷蓄積部CS1~CS3を連続的にオン状態とする場合、それぞれのオン状態を切り替えるタイミングにGAP(ギャップ)を入れるように駆動を制御するようにしてもよい。ここでのGAPとは、電荷蓄積部CS同士が同時にオン状態となる重複を抑制するための駆動であり、電荷蓄積部CSの全てをオフ状態に制御することである。例えば、光パルスPOを照射する照射時間Toを10[clk]とした場合、電荷蓄積部CSに電荷を蓄積させる蓄積時間Taを9[clk]、GAPを1[clk]とする。そして、電荷蓄積部CSをオフ状態からオン状態に切り替えるタイミング、或いは電荷蓄積部CSをオン状態からオフ状態に切り替えるタイミングにてGAPを設けるように制御する。
【0152】
上述した実施形態における距離画像撮像装置1、距離画像処理部4の全部または一部をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、FPGA等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。
【0153】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【符号の説明】
【0154】
1…距離画像撮像装置
2…光源部
3…受光部
32…距離画像センサ
321…画素
323…垂直走査回路
4…距離画像処理部
41…タイミング制御部
42…距離演算部
43…測定制御部
44…記憶部
440…テーブル情報
CS…電荷蓄積部
PO…光パルス