(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024084686
(43)【公開日】2024-06-25
(54)【発明の名称】距離画像撮像装置、及び距離画像撮像方法
(51)【国際特許分類】
G01S 17/894 20200101AFI20240618BHJP
【FI】
G01S17/894
【審査請求】未請求
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2023181212
(22)【出願日】2023-10-20
(31)【優先権主張番号】P 2022198729
(32)【優先日】2022-12-13
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000003193
【氏名又は名称】TOPPANホールディングス株式会社
(74)【代理人】
【識別番号】100149548
【弁理士】
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100139686
【弁理士】
【氏名又は名称】鈴木 史朗
(74)【代理人】
【識別番号】100169764
【弁理士】
【氏名又は名称】清水 雄一郎
(74)【代理人】
【識別番号】100147267
【弁理士】
【氏名又は名称】大槻 真紀子
(72)【発明者】
【氏名】畠山 邦広
(72)【発明者】
【氏名】針生 弘光
【テーマコード(参考)】
5J084
【Fターム(参考)】
5J084AD01
5J084BA04
5J084BA20
5J084BA36
5J084BA40
5J084BB02
5J084CA03
5J084CA20
5J084CA49
5J084EA02
(57)【要約】
【課題】計算コストを増大させることなく、フレア現象により受光された光量を減算する。
【解決手段】光源部と受光部と距離画像処理部とを備え、前記距離画像処理部は、第1パターン、第2パターン、及び第3パターンからなる3つの駆動パターンにより前記画素を駆動させ、前記第1パターンにおいてフレア光が受光されたフレア受光タイミングを算出し、前記第2パターンにおいて、前記フレア受光タイミングと、ゲート開閉タイミングとが同じタイミングとなるように、照射タイミングを制御し、前記第3パターンにおいて、照射期間が、前記第2パターンにおける前記照射期間よりも短くなるように制御し、前記第2パターンにおける前記蓄積信号から、前記第3パターンにおける前記蓄積信号を減算した減算値を用いて、前記画素が受光したフレア光の光量に相当するフレア信号量を算出し、算出した前記フレア信号量を用いて被写体までの距離を算出する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
測定対象の空間に光パルスを照射する光源部と、
測定対象の空間から入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記電荷蓄積部のそれぞれに電荷を蓄積させる駆動を行う画素駆動回路と、を有する受光部と、
前記画素駆動回路を制御し、前記光パルスを照射する照射タイミングに同期させた蓄積タイミングで前記電荷蓄積部の各々に電荷を振り分けて蓄積させ、前記電荷蓄積部の各々に蓄積された電荷量に基づいて被写体までの距離を算出する距離画像処理部と、を備え、
前記距離画像処理部は、
第1パターン、第2パターン、及び第3パターンからなる3つの駆動パターンにより前記画素を駆動させ、
前記第1パターンにおいて前記画素の前記電荷蓄積部のそれぞれに蓄積された電荷量に相当する蓄積信号に基づいてフレア光が受光されたフレア受光タイミングを算出し、
前記第2パターンにおいて、前記フレア受光タイミングと、前記画素における前記電荷蓄積部のうちの第1電荷蓄積部に電荷を蓄積させる第1ゲート開閉タイミングとが同じタイミングとなるように、前記照射タイミングを制御し、
前記第3パターンにおいて、前記光パルスを照射させる照射期間が、前記第2パターンにおける前記照射期間よりも短くなるように制御し、
前記第2パターンにおける前記蓄積信号から、前記第3パターンにおける前記蓄積信号を減算した減算値を用いて、前記画素が受光したフレア光の光量に相当するフレア信号量を算出し、算出した前記フレア信号量を用いて、被写体までの距離を算出する、
距離画像撮像装置。
【請求項2】
前記距離画像処理部は、
前記第3パターンにおける前記照射期間と、前記第2パターンにおける前記照射期間との差分である短縮期間を用いて、
前記減算値を、前記短縮期間におけるフレア光の光量に対応する部分フレア信号量とし、前記部分フレア信号量を前記短縮期間で除算して前記第2パターンにおける前記照射期間を乗算した値を、前記フレア信号量として算出する、
請求項1に記載の距離画像撮像装置。
【請求項3】
前記短縮期間は、前記第2パターンにおいて前記第1電荷蓄積部に蓄積される電荷量のうちのフレア光に対応する電荷量と前記第3パターンにおいて前記第1電荷蓄積部に蓄積される電荷量のうちのフレア光に対応する電荷量とが異なり、前記第2パターンにおいて前記第1電荷蓄積部に蓄積される電荷量のうちの前記光パルスが被写体に反射した反射光に対応する電荷量と、前記第3パターンにおいて前記第1電荷蓄積部に蓄積される電荷量のうちの前記反射光に対応する電荷量とが等しくなる期間に設定される、
請求項2に記載の距離画像撮像装置。
【請求項4】
前記短縮期間は、前記照射期間を制御するために使用されるクロック信号における1クロックに相当する期間である、
請求項2に記載の距離画像撮像装置。
【請求項5】
前記距離画像処理部は、前記第2パターンにおいて前記第1電荷蓄積部に蓄積された電荷量に対応する第1蓄積信号から前記フレア信号量を減算した信号量を用いて算出した距離に、前記短縮期間に対応する距離を加算する補正を行い、補正後の距離を、被写体までの距離として算出する、
請求項2に記載の距離画像撮像装置。
【請求項6】
前記距離画像処理部は、
前記第1パターンにおいて、前記フレア受光タイミングと、前記第1ゲート開閉タイミングとの差分が、前記照射期間を制御するために使用されるクロック信号における1クロックに相当する期間の整数倍でない場合、
前記第2パターンにおいて、前記フレア受光タイミングと、前記第1ゲート開閉タイミングとの差分が、前記クロック信号における1クロックに相当する期間未満となるように、前記照射タイミングを制御し、
前記第2パターンにおける前記蓄積信号から、前記第3パターンにおける前記蓄積信号を減算した減算値、及び、前記差分を用いて、前記フレア信号量を算出する、
請求項1に記載の距離画像撮像装置。
【請求項7】
前記距離画像処理部は、
前記光パルスの照射を制御する制御パルスが波形なまりを有する場合、
前記第2パターンにおける前記蓄積信号から、前記第3パターンにおける前記蓄積信号を減算した減算値、及び、前記制御パルスの波形特性を用いて、前記フレア信号量を算出する、
請求項1に記載の距離画像撮像装置。
【請求項8】
前記距離画像処理部は、
前記第1パターンにおいて、前記フレア受光タイミングと、前記第1ゲート開閉タイミングとの差分が、前記照射期間を制御するために使用されるクロック信号における1クロックに相当する期間の整数倍でなく、且つ、前記光パルスの照射を制御する制御パルスが波形なまりを有する場合、
前記第2パターンにおいて、前記フレア受光タイミングと、前記第1ゲート開閉タイミングとの差分が、前記クロック信号における1クロックに相当する期間未満となるように、前記照射タイミングを制御し、
前記第2パターンにおける前記蓄積信号から、前記第3パターンにおける前記蓄積信号を減算した減算値、前記差分、及び、前記制御パルスの波形特性を用いて、前記フレア信号量を算出する、
請求項1に記載の距離画像撮像装置。
【請求項9】
測定対象の空間に光パルスを照射する光源部と、測定対象の空間から入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記電荷蓄積部のそれぞれに電荷を蓄積させる駆動を行う画素駆動回路と、を有する受光部と、前記画素駆動回路を制御し、前記光パルスを照射する照射タイミングに同期させた蓄積タイミングで前記電荷蓄積部の各々に電荷を振り分けて蓄積させ、前記電荷蓄積部の各々に蓄積された電荷量に基づいて被写体までの距離を算出する距離画像処理部と、を備える距離画像撮像装置が行う距離画像撮像方法であって、
前記距離画像処理部が、
第1パターン、第2パターン、及び第3パターンからなる3つの駆動パターンにより前記画素を駆動させ、
前記第1パターンにおいて前記画素の前記電荷蓄積部のそれぞれに蓄積された電荷量に相当する蓄積信号に基づいてフレア光が受光されたフレア受光タイミングを算出し、
前記第2パターンにおいて、前記フレア受光タイミングと、前記画素における前記電荷蓄積部のうちの第1電荷蓄積部に電荷を蓄積させる第1ゲート開閉タイミングとが同じタイミングとなるように、前記照射タイミングを制御し、
前記第3パターンにおいて、前記光パルスを照射させる照射期間が、前記第2パターンにおける前記照射期間よりも短くなるように制御し、
前記第2パターンにおける前記蓄積信号から、前記第3パターンにおける前記蓄積信号を減算した減算値を用いて、前記画素が受光したフレア光の光量に相当するフレア信号量を算出し、算出した前記フレア信号量を用いて、被写体までの距離を算出する、
距離画像撮像方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、距離画像撮像装置、及び距離画像撮像方法に関する。
【背景技術】
【0002】
従来から、光の速度が既知であることを利用し、空間(測定空間)における光の飛行時間に基づいて測定器と対象物との距離を測定する、タイム・オブ・フライト(Time of Flight、以下「TOF」という)方式の距離画像センサが実現されている(例えば、特許文献1参照)。
【0003】
TOF方式の距離画像撮像装置を用いて、近距離にある被写体と遠距離にある被写体とを同時に撮像しようとした場合、近距離に存在する被写体からの反射光が、遠距離に存在する被写体からの反射光よりも、大きい光強度で受光される。その場合、距離画像撮像装置に設けられたレンズなどの光学系において、フレア現象と称される多重反射が発生し、遠距離に存在する被写体からの反射光を受光する画素に、近距離に存在する被写体からの反射光が重畳されてしまい、正確な測距を測定することが困難になる。駆動方法の工夫によりフレア現象が生じ難くなるようにする抑制手段が開示されている(例えば、特許文献2参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特許第4235729号公報
【特許文献2】特開2020-197422号公報
【特許文献3】国際公開2021/020496号
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献2では、4つの方程式を生成して各方程式が0になるようなパラメータを求めなければならず、計算コストが増大するという問題があった。
【0006】
本発明は、このような状況に鑑みてなされたものであり、計算コストを増大させることなく、フレア現象により受光された光量を減算することができる距離画像撮像装置、及び距離画像撮像方法を提供する。
【課題を解決するための手段】
【0007】
上述した課題を解決するために、本発明の距離画像撮像装置は、測定対象の空間に光パルスを照射する光源部と、測定対象の空間から入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記電荷蓄積部のそれぞれに電荷を蓄積させる駆動を行う画素駆動回路と、を有する受光部と、前記画素駆動回路を制御し、前記光パルスを照射する照射タイミングに同期させた蓄積タイミングで前記電荷蓄積部の各々に電荷を振り分けて蓄積させ、前記電荷蓄積部の各々に蓄積された電荷量に基づいて被写体までの距離を算出する距離画像処理部と、を備え、前記距離画像処理部は、第1パターン、第2パターン、及び第3パターンからなる3つの駆動パターンにより前記画素を駆動させ、前記第1パターンにおいて前記画素の前記電荷蓄積部のそれぞれに蓄積された電荷量に相当する蓄積信号に基づいてフレア光が受光されたフレア受光タイミングを算出し、前記第2パターンにおいて、前記フレア受光タイミングと、前記画素における前記電荷蓄積部のうちの第1電荷蓄積部に電荷を蓄積させる第1ゲート開閉タイミングとが同じタイミングとなるように、前記照射タイミングを制御し、前記第3パターンにおいて、前記光パルスを照射させる照射期間が、前記第2パターンにおける前記照射期間よりも短くなるように制御し、前記第2パターンにおける前記蓄積信号から、前記第3パターンにおける前記蓄積信号を減算した減算値を用いて、前記画素が受光したフレア光の光量に相当するフレア信号量を算出し、算出した前記フレア信号量を用いて、被写体までの距離を算出する。
【0008】
本発明の距離画像撮像方法は、測定対象の空間に光パルスを照射する光源部と、測定対象の空間から入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記電荷蓄積部のそれぞれに電荷を蓄積させる駆動を行う画素駆動回路と、を有する受光部と、前記画素駆動回路を制御し、前記光パルスを照射する照射タイミングに同期させた蓄積タイミングで前記電荷蓄積部の各々に電荷を振り分けて蓄積させ、前記電荷蓄積部の各々に蓄積された電荷量に基づいて被写体までの距離を算出する距離画像処理部と、を備える距離画像撮像装置が行う距離画像撮像方法であって、前記距離画像処理部が、第1パターン、第2パターン、及び第3パターンからなる3つの駆動パターンにより前記画素を駆動させ、前記第1パターンにおいて前記画素の前記電荷蓄積部のそれぞれに蓄積された電荷量に相当する蓄積信号に基づいてフレア光が受光されたフレア受光タイミングを算出し、前記第2パターンにおいて、前記フレア受光タイミングと、前記画素における前記電荷蓄積部のうちの第1電荷蓄積部に電荷を蓄積させる第1ゲート開閉タイミングとが同じタイミングとなるように、前記照射タイミングを制御し、前記第3パターンにおいて、前記光パルスを照射させる照射期間が、前記第2パターンにおける前記照射期間よりも短くなるように制御し、前記第2パターンにおける前記蓄積信号から、前記第3パターンにおける前記蓄積信号を減算した減算値を用いて、前記画素が受光したフレア光の光量に相当するフレア信号量を算出し、算出した前記フレア信号量を用いて、被写体までの距離を算出する。
【発明の効果】
【0009】
以上説明したように、本発明によれば、計算コストを増大させることなく、フレア現象により受光された光量を減算することができる。
【図面の簡単な説明】
【0010】
【
図1】実施形態の距離画像撮像装置1の構成例を示すブロック図である。
【
図2】実施形態の距離画像センサ32の構成例を示すブロック図である。
【
図3】実施形態の画素321の構成例を示す回路図である。
【
図5A】実施形態の距離画像撮像装置1が行う処理を説明する図である。
【
図5B】実施形態の距離画像撮像装置1が行う処理を説明する図である。
【
図5C】実施形態の距離画像撮像装置1が行う処理を説明する図である。
【
図5D】実施形態の距離画像撮像装置1が行う処理を説明する図である。
【
図6】実施形態の距離画像処理部4が行う処理の流れを示すフローチャートである。
【
図7A】実施形態の距離画像撮像装置1が行う処理を説明するための図である。
【
図7B】実施形態の距離画像撮像装置1が行う処理を説明するための図である。
【
図7C】実施形態の距離画像撮像装置1が行う処理を説明するための図である。
【
図8A】実施形態の距離画像撮像装置1が行う処理を説明するための図である。
【
図8B】実施形態の距離画像撮像装置1が行う処理を説明するための図である。
【
図8C】実施形態の距離画像撮像装置1が行う処理を説明するための図である。
【
図9】実施形態の変形例1に係る距離画像撮像装置1が行う処理を説明する図である。
【
図10】実施形態の変形例2に係る距離画像撮像装置1が行う処理を説明する図である。
【
図11】実施形態の変形例3に係る距離画像撮像装置1が行う処理を説明する図である。
【
図12】実施形態の変形例3に係るLUT(ルックアップテーブル)の例を示す図である。
【
図13】実施形態の変形例3に係る距離画像処理部4が行う処理の流れを示すフローチャートである。
【発明を実施するための形態】
【0011】
以下、本発明の実施形態について、図面を参照して説明する。
図1は、距離画像撮像装置1の構成例を示すブロック図である。距離画像撮像装置1は、例えば、光源部2と、受光部3と、距離画像処理部4とを備える。なお、
図1には、距離画像撮像装置1において距離を測定する対象物である被写体OBも併せて示している。距離画像撮像素子は、例えば、受光部3における距離画像センサ32(後述)である。
【0012】
光源部2は、距離画像処理部4からの制御に従って、距離画像撮像装置1において距離を測定する対象の被写体OBが存在する撮影対象の空間に光パルスPOを照射する。光源部2は、例えば、垂直共振器面発光レーザー(VCSEL:Vertical Cavity Surface Emitting Laser)などの面発光型の半導体レーザーモジュールである。光源部2は、光源装置21と、拡散板22とを備える。
【0013】
光源装置21は、被写体OBに照射する光パルスPOとなる近赤外の波長帯域(例えば、波長が850nm~940nmの波長帯域)のレーザー光を発光する光源である。光源装置21は、例えば、半導体レーザー発光素子である。光源装置21は、タイミング制御部41からの制御に応じて、パルス状のレーザー光を発光する。拡散板22は、光源装置21が発光した近赤外の波長帯域のレーザー光を、被写体OBに照射する面の広さに拡散する光学部品である。拡散板22が拡散したパルス状のレーザー光が、光パルスPOとして出射され、被写体OBに照射される。
【0014】
受光部3は、距離画像撮像装置1において距離を測定する対象の被写体OBによって反射された光パルスPOの反射光RLを受光し、受光した反射光RLに応じた画素信号を出力する。受光部3は、レンズ31と、距離画像センサ32とを備える。レンズ31は、入射した反射光RLを距離画像センサ32に導く光学レンズである。レンズ31は、入射した反射光RLを距離画像センサ32側に出射して、距離画像センサ32の受光領域に備えた画素回路に受光(入射)させる。
【0015】
距離画像センサ32は、距離画像撮像装置1に用いられる撮像素子である。距離画像センサ32は、二次元の受光領域に複数の画素を備える。距離画像センサ32のそれぞれの画素回路(画素321)の中に、1つの光電変換素子と、この1つの光電変換素子に対応する複数の電荷蓄積部と、それぞれの電荷蓄積部に電荷を振り分ける構成要素とが設けられる。
【0016】
距離画像センサ32は、タイミング制御部41からの制御に応じて、光電変換素子が発生した電荷をそれぞれの電荷蓄積部に振り分ける。また、距離画像センサ32は、電荷蓄積部に振り分けられた電荷量に応じた画素信号を出力する。距離画像センサ32には、複数の画素回路が二次元の行列状に配置されており、それぞれの画素回路の対応する1フレーム分の画素信号を出力する。
【0017】
距離画像処理部4は、距離画像撮像装置1を制御し、被写体OBまでの距離を演算する。距離画像処理部4は、タイミング制御部41と、距離演算部42とを備える。タイミング制御部41は、距離の測定に要する様々な制御信号を出力するタイミングを制御する。ここでの様々な制御信号とは、例えば、光パルスPOの照射を制御する信号や、反射光RLを複数の電荷蓄積部に振り分ける信号、受光部3が受光した背景光などの光が電荷蓄積部に蓄積されないように電荷を排出する信号、及び1フレームあたりの振り分け回数を制御する信号などである。振り分け回数とは、電荷蓄積部CS(
図3参照)に電荷を振り分ける処理を繰返す回数である。
【0018】
距離演算部42は、距離画像センサ32から出力された画素信号に基づいて、被写体OBまでの距離を演算した距離情報を出力する。距離演算部42は、複数の電荷蓄積部CSに蓄積された電荷量に基づいて、光パルスPOを照射してから反射光RLを受光するまでの遅延時間Tdを算出する。距離演算部42は、算出した遅延時間Tdに応じて、距離画像撮像装置1から被写体OBまでの距離を演算する。
【0019】
このような構成によって、距離画像撮像装置1では、光源部2が被写体OBに照射した近赤外の波長帯域の光パルスPOが被写体OBによって反射された反射光RLを受光部3が受光し、距離画像処理部4が、被写体OBと距離画像撮像装置1との距離を測定した距離情報を出力する。なお、
図1においては、距離画像処理部4を内部に備えた構成の距離画像撮像装置1を示しているが、距離画像処理部4は、距離画像撮像装置1の外部に備える構成要素であってもよい。
【0020】
次に、距離画像撮像装置1において画像撮像素子として用いられる距離画像センサ32の構成について説明する。
図2は、画像撮像素子(距離画像センサ32)の構成例を示すブロック図である。
図2に示すように、距離画像センサ32は、例えば、複数の画素321が配置された受光領域320と、制御回路322と、振り分け動作を有した垂直走査回路323と、水平走査回路324と、画素信号処理回路325とを備える。
【0021】
受光領域320は、複数の画素321が配置された領域であって、
図2では、8行8列に二次元の行列状に配置された例を示している。画素321は、受光した光量に相当する電荷を蓄積する。制御回路322は、例えば、距離画像処理部4のタイミング制御部41からの指示に応じて、距離画像センサ32の構成要素の動作を制御する。
【0022】
垂直走査回路323は、制御回路322からの制御に応じて、受光領域320に配置された画素321を行ごとに制御する回路である。垂直走査回路323は、画素321の電荷蓄積部CSそれぞれに蓄積された電荷量に応じた電圧信号を画素信号処理回路325に出力させる。
【0023】
画素信号処理回路325は、制御回路322からの制御に応じて、それぞれの列の画素321から出力された電圧信号に対して、予め定めた信号処理(例えば、ノイズ抑圧処理やA/D変換処理など)を行う。水平走査回路324は、制御回路322からの制御に応じて、画素信号処理回路325から出力される信号を、順次、時系列に出力させる回路である。これにより、1フレーム分蓄積された電荷量に相当する画素信号が、距離画像処理部4に順次出力される。以下の説明においては、画素信号処理回路325がA/D変換処理を行い、画素信号がデジタル信号であるものとして説明する。
【0024】
ここで、距離画像センサ32に備える受光領域320内に配置された画素321の構成について説明する。
図3は、画素321の構成例を示す回路図である。
図3の画素321は、4つの画素信号読み出し部を備えた構成例である。
【0025】
画素321は、1つの光電変換素子PDと、電荷排出トランジスタGD(後述するGD1、GD2)と、対応する出力端子Oから電圧信号を出力する4つの画素信号読み出し部RU(RU1からRU4)とを備える。画素信号読み出し部RUのそれぞれは、電荷転送トランジスタGと、フローティングディフュージョンFDと、電荷蓄積容量Cと、リセットトランジスタRTと、ソースフォロアトランジスタSFと、選択トランジスタSLとを備える。フローティングディフュージョンFDと電荷蓄積容量Cとは、電荷蓄積部CSを構成している。
【0026】
図3に示す画素321において、出力端子O1から電圧信号を出力する画素信号読み出し部RU1は、電荷転送トランジスタG1(転送MOSトランジスタ)と、フローティングディフュージョンFD1と、電荷蓄積容量C1と、リセットトランジスタRT1と、ソースフォロアトランジスタSF1と、選択トランジスタSL1とを備える。画素信号読み出し部RU1では、フローティングディフュージョンFD1と電荷蓄積容量C1とによって電荷蓄積部CS1が構成されている。画素信号読み出し部RU2、RU3及びRU4も同様の構成である。
【0027】
光電変換素子PDは、入射した光を光電変換して、入射した光(入射光)に応じた電荷を発生させ、発生させた電荷を蓄積する埋め込み型のフォトダイオードである。本実施形態においては、入射光は測定対象の空間から入射される。画素321では、光電変換素子PDが入射光を光電変換して発生させた電荷を4つの電荷蓄積部CS(CS1からCS4)のそれぞれに振り分け、振り分けられた電荷の電荷量に応じたそれぞれの電圧信号を、画素信号処理回路325に出力する。
【0028】
また、画素321の構成は、
図3に示すような、4つの画素信号読み出し部RU(RU1からRU4)を備えた構成に限定されるものではない。画素321は、例えば、画素信号読み出し部RUが2M(Mは整数であり、M≧2)個以上の複数の画素信号読み出し部RUを備えた構成の画素回路でもよい。すなわち、2M(Mは整数であり、M≧2)個以上の電荷転送トランジスタGが備えられた構成の画素回路でもよい。
【0029】
また、画素321の構成は、
図3に示すような、電荷排出トランジスタGD(後述するGD1、GD2)と、を備えた構成に限定されるものではない。画素321は、例えば、2N(Nは整数であり、N≧1)個以上の複数の電荷排出トランジスタGDを備えた構成の画素回路でもよい。
【0030】
ここで、
図4(
図4A及び
図4B)を用いて、フレア現象について説明する。
図4は、フレア現象を説明するための図である。
【0031】
図4Aには、距離画像撮像の画角に、2つの被写体OBが存在する様子が模式的に示されている。この図の例に示すように、距離画像撮像において、測定対象とする物体(ターゲット被写体OB1)と、フレア発生源となり得る物体(フレア発生源被写体OB2)との、2つの被写体OBが撮像される場合がある。ここでのフレア発生源となり得る物体とは、光強度が大きい反射光を反射する物体であり、例えば、標識など再帰性反射する物体、距離画像撮像装置1から近距離に存在する物体、或いは、白壁や鏡など反射率が高い物体などである。
【0032】
このような場合、ターゲット被写体OB1からの反射光RL(ターゲット光)を受光する画素321に、フレア発生源から到来するフレア光が受光されてしまう場合がある。このようなフレア光が受光された場合、ターゲット光のみを受光した場合と比較して、受光する光量が大きくなり、画素321が受光した光量に基づいて算出されるターゲット被写体OB1までの測定距離に、誤差が生じる要因となる。
【0033】
図4Bには、フレア発生源となり得る物体までの距離を測定した場合における、各画素において算出された距離と、その距離に対応する画素321の数との対応関係を示すヒストグラムが示されている。
図4Bの横軸は距離、縦軸は画素数を示している。
【0034】
この図の例に示すように、フレア発生源となり得る物体を撮像した場合、距離Lに対応する画素の数がピークとなる。距離Lに対応する画素は、フレア光、を測定対象物体からの反射光として受光した画素321に対応すると考えられる。
【0035】
また、フレア発生源となり得る物体を撮像した場合、距離Lの近傍の距離を示す画素の数が、距離Lに近づくに応じて増加する傾向にある。これは、本来受光すべきではないフレア光を受光したことに起因して、誤差を含む距離が算出されたと考えることができる。
【0036】
本実施形態では、このような本来受光すべきではないフレア光を受光した画素321の蓄積信号から、その画素321が受光したフレア光の光量に対応する信号量を減算することができるようにした。以下では、画素321の蓄積信号から、画素321が受光したフレア光の光量に対応する信号量を減算する処理(以下、フレア抑制処理という)について説明する。
【0037】
まず、フレア抑制処理を行う対象とするフレア光が以下の2つの性質を有することを前提とする。
(1)フレア光は、ターゲット光よりも早いタイミングで受光されること
(2)フレア光とターゲット光の受光タイミングの差分が、1クロック以上あること
【0038】
上記(1)に示すように、本実施形態では、フレア発生源となり得る物体が、ターゲットとする被写体OBよりも、距離画像撮像装置1に近い位置に存在していることを前提とする。
【0039】
上記(2)におけるクロックとは、距離画像処理部4が各種の処理を行うタイミングを同期させるために使用される周期信号である。例えば、クロック周波数が500[MHz]であり、光パルスPOを照射する照射期間が16[ns]であるとすると、距離画像処理部4は、照射期間が8クロックに相当する期間となるように制御する。この場合、(2)として、フレア光とターゲット光の受光タイミングの差分が1クロック以上、つまり2[ns]以上あることを前提とする。
【0040】
ここで、
図5(
図5A~
図5D)を用いて、フレア抑制処理について説明する。
図5は、実施形態の距離画像撮像装置1が行う処理を説明する図である。
【0041】
図5には、画素321を駆動させるタイミングを示すタイミングチャートが模式的に示されている。
【0042】
図5では、「E」の項目にて光パルスPOを照射する照射タイミングEが示されている。「R」の項目にてターゲット光を受光する反射光受光タイミングRが示されている。また、「F」の項目にてフレア光を受光するフレア受光タイミングFが示されている。「A」の項目にて背景光を受光する背景光受光タイミングAが示されている。
【0043】
また、「G1」の項目にて電荷蓄積部CS1に電荷を蓄積させる電荷転送トランジスタG1のゲート開閉タイミングG1が示されている。「G2」の項目にて電荷蓄積部CS2に電荷を蓄積させる電荷転送トランジスタG2のゲート開閉タイミングG2が示されている。「G3」の項目にて電荷蓄積部CS3に電荷を蓄積させる電荷転送トランジスタG3のゲート開閉タイミングG3が示されている。「G4」の項目にて電荷蓄積部CS4に電荷を蓄積させる電荷転送トランジスタG4のゲート開閉タイミングG4が示されている。
【0044】
また、
図5では、1クロックに相当する期間を、1マスに対応させて示している。
【0045】
図5には3つの駆動パターン(第1パターン、第2パターン、及び第3パターン)が示されている。
図5Aには、第1パターンによる駆動の例が示されている。
図5Bには、第2パターンによる駆動の例が示されている。
図5Cには、第3パターンによる駆動の例が示されている。第1パターンは、フレア抑制処理ではない通常の距離測定と同じ駆動タイミングである。第2パターン及び第3パターンは、フレア抑制処理を実行する場合に行われる駆動タイミングである。
【0046】
まず、
図5Aに示すように、第1パターンにおいて、距離画像処理部4は、フレア抑制処理ではない通常の距離測定と同じ駆動を行う。この図の例では、通常の距離測定において、光パルスPOを照射する照射期間は、4クロックに相当する期間である。
【0047】
第1パターンでは、画素321がフレア光の影響を受けているか否か、つまり、フレア発生源となり得るような、光強度が大きい反射光を反射する物体、例えば近距離に存在する物体、再帰性反射する物体、反射率が高い物体などが測定空間に存在するか否かが判定される。第1パターンにおける駆動では、光強度が大きい反射光を受光することを想定していることから、通常の距離測定よりも、1フレームあたりの振り分け回数を少なくするようにしてもよい。
【0048】
図5Aの例では、照射タイミングEから3クロックに相当する期間遅れて反射光受光タイミングRが到来し、ターゲット光が受光される。また、照射タイミングEから1クロックに相当する期間遅れてフレア受光タイミングFが到来し、フレア光が受光される。また、常時、背景光が受光される。
【0049】
また、
図5Aの例では、距離画像処理部4は、照射タイミングEと同じタイミングにてゲート開閉タイミングG1を、照射期間と同じ4クロックに相当する期間においてオン状態に制御する。その後、距離画像処理部4は、順次、ゲート開閉タイミングG2~G4を、照射期間と同じ4クロックに相当する期間においてオン状態に制御する。
【0050】
距離画像処理部4は、このように、通常の距離測定と同じタイミングにて、1フレーム分、画素321を駆動させ、画素321のそれぞれに蓄積された電荷に対応する蓄積信号を取得する。距離画像処理部4は、取得した蓄積信号から距離を算出し、算出した距離と画素数との対応関係を示す統計量に基づいて、フレア光の影響を受けているか否かを判定する。例えば、距離画像処理部4は、算出した距離と画素数との対応関係を示すヒストグラムを生成する。
【0051】
例えば、距離画像処理部4は、ヒストグラムが、ピークに向かってなだらかに増加する山型分布の傾向、つまり
図4Bのような傾向を示す場合、フレア光の影響を受けていると判定する。
【0052】
一方、距離画像処理部4は、ヒストグラムが、ピークがあるものの、その画素数の分布が、例えばデルタ関数的に急峻に変化する傾向を示すなど、ピークに向かってなだらかに増加する山型分布の傾向とは異なる場合、フレア光の影響を受けていないと判定する。
【0053】
なお、距離画像処理部4は、ヒストグラムを生成する代わりに、距離と画素との対応関係を示す統計量、例えば、中央値、平均値、分散、標準偏差などを用いて、フレア光の影響を受けているか否かを判定するようにしてもよい。
【0054】
例えば、距離画像処理部4は、画素321それぞれにおいて、予め定めた単位時間あたりの閾値を超える蓄積信号が含まれているか否かを判定する。距離画像処理部4は、画素321に閾値を超える蓄積信号が含まれている場合、その画素321に対応する距離を算出する。そして、距離画像処理部4は算出した距離と、画素数との対応関係を示すヒストグラムに基づいて、フレア光の影響を受けているか否かを判定する。或いは、距離画像処理部4は算出した距離と、画素数との対応関係を示す統計量に基づいて、フレア光の影響を受けているか否かを判定する。
【0055】
距離画像処理部4は、フレア光の影響を受けていると判定した場合、フレア抑制処理を実行する。フレア抑制処理を実行する場合、距離画像処理部4は、
図5Aに示す通常の距離測定におけるフレア受光タイミングFを算出する。距離画像処理部4は、例えば、ヒストグラムにおいてピークを示す距離に対応する画素321に、反射光RL(フレア光)が受光されたタイミングを、フレア受光タイミングFとして算出する。
【0056】
一方、距離画像処理部4は、フレア光の影響を受けていないと判定した場合、通常の距離測定を行う。
【0057】
フレア抑制処理を行う場合、距離画像処理部4は、第2パターンの駆動を行う。第2パターンにおいて、距離画像処理部4は、フレア受光タイミングFとゲート開閉タイミングG1とが同じタイミングとなるように、照射タイミングEを調整し、第1パターンよりも照射タイミングEが早くなるように制御する。
【0058】
図5Bの例に示すように、第2パターンにおいて、例えば、距離画像処理部4は、照射タイミングEを、第1パターンにおける照射タイミングEから1クロックだけ早めたタイミングとなるように制御する。これは、
図5Aに示す第1パターンにおいて、照射タイミングEから1クロックに相当する期間遅れて、フレア光が受光されたためである。一方、距離画像処理部4は、第2パターンにおいて、ゲート開閉タイミングG1~G4を、第1パターンと同じタイミングにて制御する。
【0059】
距離画像処理部4は、このような第2パターンの駆動タイミングにて、1フレーム分、画素321を駆動させ、画素321のそれぞれに蓄積された電荷に対応する蓄積信号を取得する。距離画像処理部4は、画素321のそれぞれの、電荷蓄積部CS1~CS4に対応する蓄積信号SIG1~SIG4を記憶させる。
【0060】
次に、距離画像処理部4は、
図5Cの例に示すように、第3パターンの駆動を行う。第3パターンにおいて、距離画像処理部4は、光パルスPOを照射する照射期間を、第2パターンと比較して、1クロックに相当する期間だけ短縮させる。これにより、1クロックに相当する期間だけ短いフレア光が受光され、1クロックに相当する期間だけ短いターゲット光が受光される。
【0061】
一方、距離画像処理部4は、第3パターンにおいて、光パルスPOの照射を開始するタイミング、及びゲート開閉タイミングG1~G4については、第2パターンと同じタイミングにて制御する。
【0062】
距離画像処理部4は、このような第3パターンの駆動タイミングにて、1フレーム分、画素321を駆動させ、画素321のそれぞれに蓄積された電荷に対応する蓄積信号を取得する。距離画像処理部4は、画素321のそれぞれの、電荷蓄積部CS1~CS4に対応する蓄積信号SIG1~SIG4を記憶させる。
【0063】
そして、距離画像処理部4は、
図5Dの例に示すように、画素321のそれぞれにおいて、第2パターンの駆動に対応する蓄積信号から、第3パターンの駆動に対応する蓄積信号を減算する。これにより、画素321における電荷蓄積部CS1に蓄積された電荷に対応する蓄積信号SIG1から、1クロックに相当する期間分のフレア光の光量に対応する信号量が算出される。
【0064】
また、画素321における電荷蓄積部CS2に蓄積された電荷に対応する蓄積信号SIG2から、1クロックに相当する期間分のターゲット光の光量に対応する信号量が算出される。
【0065】
距離画像処理部4は、1クロックに相当する期間分のフレア光の光量に対応する信号量(1CLKフレア信号量)に基づいて、第2パターンにおいて画素321が受光したフレア光の光量に相当する信号量(フレア信号量)を算出する。例えば、光パルスPOの照射期間が、4クロックに相当する期間である場合、距離画像処理部4は、1CLKフレア信号量を4倍した値を、フレア信号量とする。
【0066】
距離画像処理部4は、第2パターンの駆動に対応する蓄積信号SIG1から、フレア信号量を減算する。これにより、蓄積信号SIG1に含まれていたフレア光の光量に相当する信号量が減算される。距離画像処理部4は、減算後の蓄積信号SIG1を用いて、距離を算出する。これにより、距離画像処理部4は、本来受光すべきではないフレア光を受光した画素321の蓄積信号から、その画素321が受光したフレア光の光量に対応する信号量を減算することができる。したがって、距離を精度よく算出することが可能となる。
【0067】
ここで、
図6を用いて、距離画像撮像装置1が行う処理の流れを説明する。
図6は、実施形態の距離画像処理部4が行う処理の流れを示すフローチャートである。
【0068】
距離画像処理部4は、第1パターンにて、1フレーム分、画素321を駆動させ、電荷蓄積部CS1~CS4のそれぞれに蓄積された電荷量に対応する蓄積信号を取得する。距離画像処理部4は、蓄積信号が、予め定めた単位時間当たりの閾値を超えるか否かを判定する(ステップS10)。距離画像処理部4は、蓄積信号が、予め定め閾値を超える場合、その画素の蓄積信号に基づく距離を算出する(ステップS11)。距離画像処理部4は、算出した距離と画素数との対応関係に基づく代表値(中央値、平均値、分散、標準偏差、或いはヒストグラムのピークなど)から、フレア光の影響を受けていると判定する場合には、フレア抑制処理を行う。
【0069】
距離画像処理部4は、フレア受光タイミングFと、ゲート開閉タイミングG1が同じタイミングとなるように、照射タイミングEを早めた第2パターンによる駆動を、1フレーム分、実行する(ステップS13)。距離画像処理部4は、光パルスPOの照射期間を、1クロックに相当する期間だけ短縮させた、第3パターンによる駆動を、1フレーム分、実行する(ステップS14)。距離画像処理部4は、第2パターンの蓄積信号から、第3パターンの蓄積信号を減算する(ステップS15)。
【0070】
距離画像処理部4は、1クロックに相当する期間分のフレア光の光量に対応する信号量に基づいて、画素321が受光したフレア光の光量の信号量を推定する(ステップS16)。例えば、光パルスPOの照射期間が、4クロックに相当する期間である場合、距離画像処理部4は、1クロックに相当する期間分のフレア光の光量に対応する信号量(1CLKフレア信号量)を4倍した値を、画素321が受光したフレア光の光量の信号量(フレア信号量)と推定する。
【0071】
距離画像処理部4は、第2パターンの蓄積信号SIG1(電荷蓄積部CS1に蓄積された電荷量に対応する蓄積信号)から、画素321が受光したフレア光の光量の信号量(フレア信号量)を減算する(ステップS17)。
【0072】
距離画像処理部4は、減算後の蓄積信号SIG1、および蓄積信号SIG2~SIG4を用いて、距離を算出する(ステップS18)。また、距離画像処理部4は、ステップS18で算出した距離に、第2パターンにて早めた照射タイミングEに対応する距離を加える補正を行い、補正後の距離を被写体OBまでの距離とする(ステップS19)。
【0073】
一方、距離画像処理部4は、ステップS10において閾値を超える蓄積信号がない場合、及び、ステップS12においてフレア光の影響を受けていないと判定する場合、通常の距離測定を実行する(ステップS20)。
【0074】
ここで、ターゲット光が受光されるタイミングは、被写体OBの位置に応じて、様々に変化する。ターゲット光が受光されるタイミングが様々に変化した場合であっても、本実施形態のフレア抑制処理を実行して、フレア信号量を算出することが可能である。
【0075】
図7(
図7A~
図7C)は、実施形態の距離画像撮像装置1が行う処理を説明するための図である。
図7には、4つのタイミングチャートが示されている。一番上のタイミングチャートには、
図5Aに対応する、第1パターンにおける駆動タイミングが示されている。上から二番のタイミングチャートには、
図5Bに対応する、第2パターンにおける駆動タイミングが示されている。上から三番のタイミングチャートには、
図5Cに対応する、第3パターンにおける駆動タイミングが示されている。一番下のタイミングチャートには、
図5Dに対応する、第2パターンにおける各蓄積信号から、第3パターンにおける各蓄積信号を減算させた減算値が示されている。
【0076】
図7には、異なるタイミングで、ターゲット光が受光された場合の例が示されている。
図7Aには、ターゲット光が、電荷蓄積部CS1及びCS2に跨って蓄積された場合の例が示されている。
図7Aの例は、
図5と同様であり、上述したとおり、ターゲット光が電荷蓄積部CS1及びCS2に跨って蓄積されるよう反射光受光タイミングRにおいて、フレア信号量を算出することが可能である。
【0077】
図7Bには、ターゲット光が、電荷蓄積部CS2及びCS3に跨って蓄積された場合の例が示されている。
図7Bに示す反射光受光タイミングRであっても、第2パターンの駆動に対応する蓄積信号から、第3パターンの駆動に対応する蓄積信号を減算することにより、蓄積信号SIG1において、1クロックに相当する期間分のフレア光の光量に対応する信号量が算出される。このため、ターゲット光が電荷蓄積部CS2及びCS3に跨って蓄積されるよう反射光受光タイミングRにおいて、フレア信号量を算出することが可能である。
【0078】
図7Cには、ターゲット光が、電荷蓄積部CS3及びCS4に跨って蓄積された場合の例が示されている。
図7Cに示す反射光受光タイミングRであっても、第2パターンの駆動に対応する蓄積信号から、第3パターンの駆動に対応する蓄積信号を減算することにより、蓄積信号SIG1において、1クロックに相当する期間分のフレア光の光量に対応する信号量が算出される。このため、ターゲット光が電荷蓄積部CS3及びCS4に跨って蓄積されるよう反射光受光タイミングRにおいて、フレア信号量を算出することが可能である。
【0079】
また、画素321に受光される光の内訳は、様々なケースが想定される。具体的には、画素321に、ターゲット光とフレア光とが混在して受光されるケース、フレア光のみが受光されるケース、及びターゲット光のみが受光されるケースがあり得る。このような様々なケースにおいても、本実施形態のフレア抑制処理を実行して、フレア信号量を算出することが可能である。
【0080】
図8(
図8A~
図8C)は、実施形態の距離画像撮像装置1が行う処理を説明するための図である。
図8には、
図7と同様に、4つのタイミングチャートが示されている。一番上のタイミングチャートには、
図5Aに対応する、第1パターンにおける駆動タイミングが示されている。上から二番のタイミングチャートには、
図5Bに対応する、第2パターンにおける駆動タイミングが示されている。上から三番のタイミングチャートには、
図5Cに対応する、第3パターンにおける駆動タイミングが示されている。一番下のタイミングチャートには、
図5Dに対応する、第2パターンにおける各蓄積信号から、第3パターンにおける各蓄積信号を減算させた減算値が示されている。
【0081】
図8には、異なる内訳の光が受光された場合の例が示されている。
図8Aには、ターゲット光とフレア光とが混在して受光されたケースの例が示されている。
図8Aの例は、
図5と同様であり、上述したとおり、ターゲット光とフレア光とが混在して受光された場合において、フレア信号量を算出することが可能である。
【0082】
図8Bには、フレア光のみが受光されたケースの例が示されている。
図8Bの例に示すように、フレア光のみが受光されたケースであっても、第2パターンの駆動に対応する蓄積信号から、第3パターンの駆動に対応する蓄積信号を減算することにより、蓄積信号SIG1において、1クロックに相当する期間分のフレア光の光量に対応する信号量が算出される。このため、フレア光のみが受光されたケースであっても、フレア信号量を算出することが可能である。
【0083】
図8Cには、ターゲット光のみが受光されたケースの例が示されている。
図8Cの例に示すように、ターゲット光のみが受光されたケースであっても、第2パターンの駆動に対応する蓄積信号から、第3パターンの駆動に対応する蓄積信号を減算することにより、蓄積信号SIG1において、1クロックに相当する期間分のフレア光の光量(ゼロ)に対応する信号量が算出される。このため、ターゲット光のみが受光されたケースであっても、フレア信号量を算出することが可能である。
【0084】
以上、説明したように、実施形態の距離画像撮像装置1では、距離画像処理部4は、パターン、第2パターン、及び第3パターンからなる3つの駆動パターンにより画素321を駆動する。距離画像処理部4は、第1パターンにおいて、画素321の電荷蓄積部CSのそれぞれに蓄積された電荷量に相当する蓄積信号SIGを用いて算出した距離に基づいてフレア光が受光されたフレア受光タイミングFを算出する。距離画像処理部4は、第2パターンにおいて、フレア受光タイミングFと、画素321における電荷蓄積部CS1(第1電荷蓄積部)に電荷を蓄積させる第1ゲート開閉タイミングG1とが同じタイミングとなるように、照射タイミングEを制御する。距離画像処理部4は、第3パターンにおいて、光パルスPOを照射させる照射期間が、第2パターンにおける照射期間よりも短くなるように制御する。距離画像処理部4は、第2パターンにおける蓄積信号SIG1から、第3パターンにおける蓄積信号SIG1を減算した減算値を用いて、画素321が受光したフレア光の光量に相当するフレア信号量を算出する。距離画像処理部4は、算出したフレア信号量を用いて、被写体OBまでの距離を算出する。
【0085】
これにより、実施形態の距離画像撮像装置1では、画素321が受光したフレア光の光量に相当するフレア信号量を算出することができる。また、第2パターンにおいて、特定の電荷蓄積部(例えば、電荷蓄積部CS1)に、全てのフレア光の光量に対応する電荷が蓄積させることができる。これにより、蓄積信号からフレア信号量を減算することができる。したがって、蓄積信号からフレア信号量を減算した信号を用いて、精度よく距離を算出することが可能である。しかも、第2パターンにおける蓄積信号SIG1から、第3パターンにおける蓄積信号SIG1を減算した減算値を用いてフレア信号量を算出することができる。このため、4つの方程式を生成したり、各方程式が0になるようなパラメータを求めたりする必要がなく、計算コストを増大させることがない。すなわち、計算コストを増大させることなく、フレア現象により受光された光量を減算することができる。
【0086】
また、実施形態の距離画像撮像装置1では、距離画像処理部4は、第3パターンにおける照射期間と、第2パターンにおける照射期間との差分である、1クロックに相当する期間(短縮期間)を用いる。距離画像処理部4は、第2パターンにおける蓄積信号SIG1から、第3パターンにおける蓄積信号SIG1を減算した減算値を、1クロックに相当する期間におけるフレア光の光量に対応する1CLKフレア信号量(部分フレア信号量)とする。距離画像処理部4は、1CLKフレア信号量を、1クロックに相当する期間(短縮期間)で除算して、4クロックに相当する期間(第2パターンにおける照射期間)を乗算した値を、フレア信号量として算出する。また、実施形態の距離画像撮像装置1において、短縮期間は、照射期間を制御するために使用されるクロック信号における1クロックに相当する期間である。また、距離画像処理部4は、第2パターンにおける蓄積信号SIG1(第2パターンにおいて第1電荷蓄積部に蓄積された電荷量に対応する第1蓄積信号)からフレア信号量を減算した信号量を用いて算出した距離を補正する。補正は、算出した距離に、1クロックに相当する期間(短縮期間)に対応する距離を加算する補正である。距離画像処理部4は、補正後の距離を、被写体OBまでの距離として算出する。これにより、実施形態の距離画像撮像装置1では、計算コストを増大させることなく、フレア現象により受光された光量を減算して、精度よく距離を算出することができる。
ここで、短縮期間は、第3パターンにおける照射期間と、第2パターンにおける照射期間との差分(減算値)であり、1クロックに相当する期間に限定されない。画素321が受光したフレア光に対応する信号値のみが減算値に含まれており、反射光RLに対応する信号値が減算値に含まれないように、短縮期間が設定されていればよい。
短縮期間の設定条件は、以下のように決定することができる。ここでは、蓄積信号SIG1のうち、フレア光に対応する信号量を蓄積信号SIG1Fとし、反射光RLに対応する信号量を蓄積信号SIG1Rとする。短縮期間の設定条件は、第2パターンにおける蓄積信号SIG1Fと第3パターンにおける蓄積信号SIG1Fとが異なり、且つ、第2パターンにおける蓄積信号SIG1Rと第3パターンにおける蓄積信号SIG1Rとが等しくなる条件である。すなわち、短縮期間は、第2パターンにおいて電荷蓄積部CS1に蓄積される電荷量のうちのフレア光に対応する電荷量と、第3パターンにおいて電荷蓄積部CS1に蓄積される電荷量のうちのフレア光に対応する電荷量とが異なり、且つ、第2パターンにおいて電荷蓄積部CS1に蓄積される電荷量のうちの反射光RLに対応する電荷量と、第3パターンにおいて電荷蓄積部CS1に蓄積される電荷量のうちの反射光RLに対応する電荷量とが等しくなる期間に設定される。
【0087】
(実施形態の変形例1)
ここで、実施形態の変形例1について説明する。本変形例では、実際の測定環境に即した処理を行う点において、上述した実施形態と相違する。
【0088】
実際の測定環境においては、フレア光と、ターゲット光とを受光するタイミングの差分が、1クロックに相当する期間の整数倍となることは、稀である。通常、フレア光と、ターゲット光とを受光するタイミングの差分は、1.3クロック、或いは、2.8クロックなど、1クロックの整数倍にはならずに、中途半端になることが多い。
【0089】
例えば、フレア発生源となり得る物体(例えば、フレア発生源被写体OB2)が距離画像撮像装置1から50[cm]の距離に存在し、測定対象とする被写体(例えば、
図4Aにおけるターゲット被写体OB1)が距離画像撮像装置1から1[m]の距離に存在すると仮定する。また、クロック周波数が432[MHz]、照射期間が、4クロックに相当する期間であるとする。
【0090】
このような測定環境において、フレア発生源となり得る物体に反射して受光される反射光RL(フレア光)は、光パルスPOが往復する距離が、1[m](=50[cm]×2)であることから、往復に要する時間は3.3[ns](=1[m]/3E8)である。よって、フレア発生源となり得る物体が、画素321に受光されるタイミング(フレア受光タイミングF)は、照射タイミングEから、1.4クロック(=3.3[ns]/2.3[ns])に相当する期間遅れたタイミングである。
【0091】
一方、測定対象とする被写体に反射して受光される反射光RL(ターゲット光)は、光パルスPOが往復する距離が、2[m](=1[m]×2)であることから、往復に要する時間は6.6[ns](=2[m]/3E8)である。よって、フレア発生源となり得る物体が、画素321に受光されるタイミング(フレア受光タイミングF)は、照射タイミングEから、2.8クロック(=6.6[ns]/2.3[ns])に相当する期間遅れたタイミングである。
【0092】
この場合、フレア光とターゲット光とを受光するタイミングの差分が、1.4クロックに相当する期間となり、1クロックに相当する期間の整数倍とならない。
【0093】
本変形例では、このような、フレア光とターゲット光とを受光するタイミングの差分が1クロックに相当する期間の整数倍とならない場合に対応する処理(半端クロック対応処理という)を実行する。
【0094】
図9を用いて、半端クロック対応処理について説明する。
図9は、実施形態の変形例1に係る距離画像撮像装置1が行う処理を説明するための図である。
【0095】
図9には、
図7及び
図8と同様に、4つのタイミングチャートが示されている。一番上のタイミングチャートには、
図5Aに対応する、第1パターンにおける駆動タイミングが示されている。上から二番のタイミングチャートには、
図5Bに対応する、第2パターンにおける駆動タイミングが示されている。上から三番のタイミングチャートには、
図5Cに対応する、第3パターンにおける駆動タイミングが示されている。一番下のタイミングチャートには、
図5Dに対応する、第2パターンにおける各蓄積信号から、第3パターンにおける各蓄積信号を減算させた減算値が示されている。
【0096】
図9には、フレア光とターゲット光とを受光するタイミングの差分が1クロックに相当する期間の整数倍とならない例が示されている。
図9の例では、第1パターンの駆動において、照射タイミングEから2.8クロックに相当する期間遅れて反射光受光タイミングRが到来し、ターゲット光が受光される。また、照射タイミングEから1.4クロックに相当する期間遅れてフレア受光タイミングFが到来し、フレア光が受光される。
【0097】
この場合、距離画像処理部4は、第2パターンの駆動において、フレア受光タイミングFと、ゲート開閉タイミングG1との差分が、1クロックに相当する期間未満となるように、照射タイミングEを1クロック単位で早める。
【0098】
この図の例では、距離画像処理部4は、第2パターンの駆動において、照射タイミングEから1クロックだけ早め、ゲート開閉タイミングG1がオン状態に制御された後、0.4クロックに相当する期間遅れて、フレア光が受光されるようにする。
【0099】
また、距離画像処理部4は、第3パターンの駆動において、上述した実施形態と同様に、照射期間を、第2パターンと比較して1クロックに相当する期間だけ短縮させる。
【0100】
これにより、本変形例において、距離画像処理部4は、第2パターンの駆動に対応する蓄積信号から、第3パターンの駆動に対応する蓄積信号を減算した、減算後の蓄積信号SIG1から、0.6クロックに相当する期間分のフレア光の光量に対応する信号量を算出する。
【0101】
距離画像処理部4は、0.6クロックに相当する期間分のフレア光の光量に対応する信号量(06CLKフレア信号量)に基づいて、第2パターンにおいて画素321が受光したフレア光の光量に相当する信号量(フレア信号量)を算出する。例えば、光パルスPOの照射期間が、4クロックに相当する期間である場合、距離画像処理部4は、06CLKフレア信号量を、0.6で除算してから4倍した値を、フレア信号量とする。
【0102】
以上説明したように、実施形態の変形例1に係る距離画像撮像装置1では、距離画像処理部4は、第1パターンにおいて、フレア受光タイミングFと、ゲート開閉タイミングG1との差分が、1クロックに相当する期間の整数倍でない場合、第2パターンにおいて、フレア受光タイミングFと、ゲート開閉タイミングG1との差分が、1クロックに相当する期間未満となるように、照射タイミングEを制御する。距離画像処理部4は、第2パターンにおける蓄積信号SIG1から、第3パターンにおける蓄積信号SIG1を減算した減算値を用いて、画素321が受光したフレア光の光量に相当するフレア信号量を算出する。距離画像処理部4は、第2パターンにおける蓄積信号SIG1から、第3パターンにおける蓄積信号SIG1を減算した減算値を、1クロックに相当する期間未満におけるフレア光の光量に対応する06CLKフレア信号量(部分フレア信号量)とする。距離画像処理部4は、06CLKフレア信号量を、1クロック未満に相当する期間(短縮期間)で除算して、4クロックに相当する期間(第2パターンにおける照射期間)を乗算した値を、フレア信号量として算出する。
【0103】
これにより、実施形態の変形例1に係る距離画像撮像装置1では、フレア光とターゲット光とを受光するタイミングの差分が1クロックに相当する期間の整数倍とならない場合であっても、フレア信号量を算出することが可能となる。
【0104】
(実施形態の変形例2)
ここで、実施形態の変形例2について説明する。本変形例では、実際の測定環境に即した処理を行う点において、上述した実施形態と相違する。
【0105】
実際の測定環境においては、制御パルスが矩形とならず、波形なまりが発生することが多い。本変形例では、このような、波形がなまった制御パルスにて制御が行われる場合に対応する処理(波形なまり対応処理という)を実行する。
【0106】
図10を用いて、波形なまり対応処理について説明する。
図10は、実施形態の変形例2に係る距離画像撮像装置1が行う処理を説明するための図である。
【0107】
図10の左側には、
図7及び
図8と同様に、4つのタイミングチャートが示されている。一番上のタイミングチャートには、
図5Aに対応する、第1パターンにおける駆動タイミングが示されている。上から二番のタイミングチャートには、
図5Bに対応する、第2パターンにおける駆動タイミングが示されている。上から三番のタイミングチャートには、
図5Cに対応する、第3パターンにおける駆動タイミングが示されている。一番下のタイミングチャートには、
図5Dに対応する、第2パターンにおける各蓄積信号から、第3パターンにおける各蓄積信号を減算させた減算値が示されている。
【0108】
図10の右側には、制御パルスが波形なまりを有する場合におけるフレア光の光量の推移が模式的に示されている。ここでの制御パルスは、例えば、光パルスPOを照射する照射タイミングの制御に用いられる制御パルスである。
【0109】
図10の右側の上段には、第2パターンにおける4クロック分(4clk幅)に相当するフレア光の光量の推移が示されている。第2パターンにおけるフレア光の光量は、0(ゼロ)[clk]~1[clk]に相当する期間において、光量KAである。1[clk]~2[clk]に相当する期間において、光量KBである。2[clk]~3[clk]に相当する期間において、光量KCである。3[clk]~4[clk]に相当する期間において、光量KDである。
【0110】
図10の右側の中段には、第3パターンにおける3クロック分(3clk幅)に相当するフレア光の光量の推移が示されている。第3パターンにおけるフレア光の光量は、0(ゼロ)[clk]~1[clk]に相当する期間において、光量KA#である。1[clk]~2[clk]に相当する期間において、光量KB#である。2[clk]~3[clk]に相当する期間において、光量KC#である。3[clk]~4[clk]に相当する期間において、光量KD#である。
【0111】
図10の右側の下段には、第2パターンの駆動に対応するフレア光の光量から、第3パターンの駆動に対応するフレア光の光量を減算して算出される、1クロックに相当する期間分のフレア光の光量が模式的に示されている。ここで、波形なまりを有する場合において、制御パルスの立ち上がり特性は、第2パターン及び第3パターンにおいて、同等な特性であると言うことができることから、光量KA=光量KA#、光量KB=光量KB#、および光量KC=光量KC#とみなすことが可能である。したがって、波形なまりを有する場合において、1クロックに相当する期間分のフレア光の光量は、光量(KD-KD#)である。
【0112】
このような観点により、本変形例において、距離画像処理部4は、第2パターンの駆動に対応する蓄積信号から、第3パターンの駆動に対応する蓄積信号を減算した、減算後の蓄積信号SIG1から、波形なまりを有する場合における1クロックに相当する期間分のフレア光の光量(KD-KD#)に対応する信号量を算出する。
【0113】
例えば、事前に制御パルスの波形特性を測定するなどして、波形なまりを有する場合における1クロックに相当する期間分のフレア光の光量(KD-KD#)が、波形なまりを有する場合における照射期間である4クロックに相当する期間分のフレア光の光量(KA+KB+KC+KD)に占める割合を求めて記憶させておく。これにより、距離画像処理部4は、光量(KD-KD#)に対応する信号量を算出し、算出した信号量から、画素321が受光したフレア光の光量(KA+KB+KC+KD)に対応するフレア信号量を算出することができる。
【0114】
以上説明したように、実施形態の変形例2に係る距離画像撮像装置1では、距離画像処理部4は、光パルスPOの照射を制御する制御パルスが波形なまりを有する場合、第2パターンにおける蓄積信号SIG1から、第3パターンにおける蓄積信号SIG1を減算した減算値、及び、制御パルスの波形特性を用いて、画素321が受光したフレア光の光量に相当するフレア信号量を算出する。これにより、実施形態の変形例1に係る距離画像撮像装置1では、光パルスPOの照射を制御する制御パルスが波形なまりを有する場合であっても、フレア信号量を算出することが可能となる。
【0115】
(実施形態の変形例3)
ここで、実施形態の変形例3について説明する。本変形例では、実際の測定環境に即した処理を行う点において、上述した実施形態と相違する。
【0116】
本変形例では、上述した変形例1と変形例2とが組み合わされた場合、つまり、フレア光とターゲット光とを受光するタイミングの差分が1クロックの整数倍にならず、且つ、制御パルスが矩形とならない場合に対応する処理(半端クロック波形なまり対応処理という)を実行する。
【0117】
図11を用いて、半端クロック波形なまり対応処理について説明する。
図11は、実施形態の変形例3に係る距離画像撮像装置1が行う処理を説明するための図である。
【0118】
図11の左側には、
図7及び
図8と同様に、4つのタイミングチャートが示されている。一番上のタイミングチャートには、
図5Aに対応する、第1パターンにおける駆動タイミングが示されている。上から二番のタイミングチャートには、
図5Bに対応する、第2パターンにおける駆動タイミングが示されている。上から三番のタイミングチャートには、
図5Cに対応する、第3パターンにおける駆動タイミングが示されている。一番下のタイミングチャートには、
図5Dに対応する、第2パターンにおける各蓄積信号から、第3パターンにおける各蓄積信号を減算させた減算値が示されている。
【0119】
図11の左側には、第1パターンの駆動において、照射タイミングEから2.8クロックに相当する期間遅れて反射光受光タイミングRが到来し、ターゲット光が受光される。また、照射タイミングEから1.4クロックに相当する期間遅れてフレア受光タイミングFが到来し、フレア光が受光される。
【0120】
距離画像処理部4は、第2パターンの駆動において、照射タイミングEから1クロックだけ早め、ゲート開閉タイミングG1がオン状態に制御された後、0.4クロックに相当する期間遅れて、フレア光が受光されるようにする。
【0121】
図11の右側には、フレア光とターゲット光とを受光するタイミングの差分が1クロックの整数倍にならず、且つ、制御パルスが波形なまりを有する場合におけるフレア光の光量の推移が模式的に示されている。
【0122】
図11の右側の上段には、第2パターンにおける4クロック分(4clk幅)に相当するフレア光の光量の推移が示されている。第2パターンの駆動において、ゲート開閉タイミングG1がオン状態に制御された後、0.4クロックに相当する期間遅れて、フレア光が受光されている。第2パターンにおけるフレア光の光量は、0(ゼロ)[clk]~1[clk]に相当する期間において、光量KEである。1[clk]~2[clk]に相当する期間において、光量KFである。2[clk]~3[clk]に相当する期間において、光量KGである。3[clk]~4[clk]に相当する期間において、光量KHである。
【0123】
図11の右側の中段には、おいて、第3パターンにおける3クロック分(3clk幅)に相当するフレア光の光量の推移が示されている。第3パターンの駆動において、ゲート開閉タイミングG1がオン状態に制御された後、0.4クロックに相当する期間遅れて、フレア光が受光されている。第3パターンにおけるフレア光の光量は、0(ゼロ)[clk]~1[clk]に相当する期間において、光量KE#である。1[clk]~2[clk]に相当する期間において、光量KF#である。2[clk]~3[clk]に相当する期間において、光量KG#である。3[clk]~4[clk]に相当する期間において、光量KH#である。
【0124】
図11の右側の下段には、第2パターンの駆動に対応するフレア光の光量から、第3パターンの駆動に対応するフレア光の光量を減算して算出される、0.6クロックに相当する期間分のフレア光の光量が模式的に示されている。ここで、波形なまりを有する場合において、制御パルスの立ち上がり特性は、第2パターン及び第3パターンにおいて、同等な特性であると言うことができる。また、第2パターン及び第3パターンにおいて、共に、ゲート開閉タイミングG1がオン状態に制御された後、0.4クロックに相当する期間遅れて、フレア光が受光されている。これらから、光量KE=光量KE#、光量KF=光量KF#、および光量KG=光量KG#とみなすことが可能である。したがって、波形なまりを有する場合において、0.6クロックに相当する期間分のフレア光の光量は、光量(KH-KH#)である。
【0125】
このような観点により、本変形例において、距離画像処理部4は、第2パターンの駆動に対応する蓄積信号から、第3パターンの駆動に対応する蓄積信号を減算した、減算後の蓄積信号SIG1から、波形なまりを有する場合における0.6クロックに相当する期間分のフレア光の光量(KH-KH#)に対応する信号量を算出する。
【0126】
例えば、事前に記憶させておいたLUT(ルックアップテーブル)を用いて、0.6クロックに相当する期間分のフレア光の光量(KH-KH#)から、光パルスPOの照射期間である4クロックに相当する期間分のフレア光の光量(KE+KF+KG+KH)を求める。
【0127】
ここで、
図12を用いて、LUTについて説明する。
図12は、実施形態の変形例3に係るLUTの例を示す図である。LUTは、例えば、遅延量と倍率とを対応づけたテーブルである。遅延量は、ゲート開閉タイミングG1がオン状態に制御されたタイミングから、フレア光が到来するまでの期間である。倍率は、光パルスPOの照射期間である4クロックに相当する期間分のフレア光の光量を求めるために、遅延量に対応するフレア光の光量に乗算する乗算値である。この図の例では、遅延量(delay)0clkに対し倍率が4.1倍、遅延量(delay)0.1clkに対し倍率5.0であること等が示されている。
【0128】
例えば、電荷転送トランジスタGの分配特性T1を取得し、取得した分配特性を時間で微分することにより、フレア光の受光特性T2を得ることが可能である。受光特性T2は例えば、距離画像撮像装置1が受光するフレア光の経時的な変化である。
【0129】
距離画像処理部4は、第1パターンの駆動に基づく蓄積信号に基づいて、照射タイミングEと、フレア受光タイミングFとの差分に対応するクロック数(ここでは、1.4クロックとする)を算出する。また、距離画像処理部4は、第2パターンにおいて、ゲート開閉タイミングG1と、フレア受光タイミングFとの差分が1クロックに相当する期間未満となるように、フレア受光タイミングFを1クロックだけ早め、ゲート開閉タイミングG1から、0.4クロックに相当する期間遅延して、フレア受光タイミングFが到来するように制御する。この場合、遅延量は、0.4クロックとなる。
【0130】
例えば、距離画像処理部4は、第1パターンの駆動に基づく蓄積信号に基づいて、照射タイミングEと、フレア受光タイミングFとの差分に対応するクロック数(例えば、1.4クロック)を算出する。また、距離画像処理部4は、第2パターンの駆動に対応する蓄積信号から、第3パターンの駆動に対応する蓄積信号を減算した、減算後の蓄積信号SIG1から、0.4クロックの遅延量にて電荷蓄積部CS1に蓄積された、0.6クロックに相当する期間分のフレア光の光量T3に対応する信号量を算出する。
【0131】
距離画像処理部4は、遅延量が0.4クロックに対応する光量T3に基づいて、LUTを参照し、遅延量が0.4クロックに対応する倍率を取得する。距離画像処理部4は、遅延量が0.4クロックに対応する光量T3に、遅延量が0.4クロックに対応する倍率を乗算した乗算値を、光パルスPOの照射期間である4クロックに相当する期間分のフレア光の光量とする。
【0132】
ここで、
図13を用いて、変形例において距離画像撮像装置1が行う処理の流れを説明する。
図13は、実施形態の変形例3に係る距離画像処理部4が行う処理の流れを示すフローチャートである。本フローは、変形例1、および変形例2に適用することも可能である。
【0133】
本フローでは、予め、
図12に示すような、遅延量と倍率との対応関係を示すLUTを記憶していることを前提とする。
【0134】
また、本フローにおけるステップS30~S32、S34~S35、S38~S41に示す処理は、
図6におけるステップS10~S12、S14~S15、S17~S20に示す処理と同様であるため、その説明を省略する。
【0135】
ステップS33において、距離画像処理部4は、フレア受光タイミングFと、ゲート開閉タイミングG1の差分が1クロックに相当する期間以内となるように、照射タイミングEを早めた第2パターンによる駆動を、1フレーム分、実行する。
【0136】
ステップS36において、距離画像処理部4は、フレア受光タイミングFと、ゲート開閉タイミングG1の差分に相当する遅延量に基づいて、LUTを参照し、遅延量に対応する倍率を取得する。
【0137】
ステップS37において、距離画像処理部4は、差分の遅延量に相当するフレア光の光量に、ステップS36において取得した倍率を乗算することにより、画素が受光したフレア光の光量を推定する。
【0138】
以上説明したように、実施形態の変形例3に係る距離画像撮像装置1では、距離画像処理部4は、第1パターンにおいて、フレア受光タイミングFとゲート開閉タイミングG1との差分が1クロックに相当する期間の整数倍でなく、且つ、光パルスPOの照射を制御する制御パルスが波形なまりを有する場合、第2パターンにおいて、フレア受光タイミングFと、ゲート開閉タイミングG1との差分が、1クロックに相当する期間未満となるように、照射タイミングEを制御する。距離画像処理部4は、第2パターンにおける蓄積信号SIG1から、第3パターンにおける蓄積信号SIG1を減算した減算値、及び、光パルスPOの照射を制御する制御パルスの波形特性を用いて、画素321が受光したフレア光の光量に相当するフレア信号量を算出する。これにより、実施形態の変形例3に係る距離画像撮像装置1では、フレア受光タイミングFとゲート開閉タイミングG1との差分が1クロックに相当する期間の整数倍でなく、且つ、光パルスPOの照射を制御する制御パルスが波形なまりを有する場合であっても、フレア信号量を算出することが可能となる。
【0139】
(実施形態の変形例4)
ここで、実施形態の変形例4について説明する。本変形例では、3つの駆動パターン(第1パターン、第2パターン、第3パターン)の一部において、前回の駆動結果を利用する点において、上述した実施形態と相違する。
【0140】
上述した実施形態では、3つの駆動パターンのそれぞれの駆動に対応する3フレーム分の駆動を実行しないと測定結果を得ることができないため、測定に時間を要していた。
【0141】
これに対し、本変形例では、3つの駆動パターンの一部において、前回の駆動結果を利用する。前回の駆動結果を利用することにより、処理負荷を低減させると共に測定結果を早く出力させることが可能となる。
【0142】
例えば、本変形例において、3つの駆動パターンのうち、2つの駆動結果について、前回以前の駆動結果を利用する態様が考えられる。
【0143】
具体的に、距離画像処理部4は、1回目の測定において、3つの駆動パターン(第1パターン、第2パターン、第3パターン)を駆動し、その駆動結果に基づいて、1回目の測定結果を出力する。
次に、距離画像処理部4は、2回目の測定において、1つの駆動パターン(第1パターン)を駆動し、1回目の第2パターン、及び第3パターンの駆動結果と、2回目の第1パターンの駆動結果に基づいて、2回目の測定結果を出力する。
次に、距離画像処理部4は、3回目の測定において、1つの駆動パターン(第2パターン)を駆動し、1回目の第3パターンの駆動結果と、2回目の第1パターンの駆動結果と、3回目の第2パターンの駆動結果に基づいて、3回目の測定結果を出力する。
以降の駆動においても、同様に、今回駆動した1つの駆動パターンの求道結果、及び前回以前に駆動した2つの駆動パターンの駆動結果に基づいて、今回の測定を行う。
【0144】
或いは、本変形例において、3つの駆動パターンのうち、1つの駆動結果について、前回の駆動結果を利用する態様が考えられる。
【0145】
具体的に、距離画像処理部4は、1回目の測定において、3つの駆動パターン(第1パターン、第2パターン、第3パターン)を駆動し、その駆動結果に基づいて、1回目の測定結果を出力する。
次に、距離画像処理部4は、2回目の測定において、2つの駆動パターン(第1パターン、第2パターン)を駆動し、1回目の第3パターンの駆動結果と、2回目の第1パターン及び第2パターンの駆動結果に基づいて、2回目の測定結果を出力する。
次に、距離画像処理部4は、3回目の測定において、2つの駆動パターン(第3パターン、第1パターン)を駆動し、2回目の第2パターンの駆動結果と、3回目の第3パターン及び第1パターンの駆動結果に基づいて、3回目の測定結果を出力する。
以降の駆動においても、同様に、今回駆動した2つの駆動パターンの求道結果、及び前回駆動した2つの駆動パターンの駆動結果に基づいて、今回の測定を行う。
【0146】
以上説明したように、実施形態の変形例4に係る距離画像撮像装置1では、距離画像処理部4は、2回目以降の測定において、複数の駆動パターンにおける一部の駆動パターンにおいて画素321を駆動させ、今回の駆動結果、および前回以前の駆動結果を用いて、被写体OBまでの距離を算出する。これにより、実施形態の変形例4に係る距離画像撮像装置1では、処理負荷を低減させると共に測定結果を早く出力させることが可能となる。
【0147】
上述した実施形態における距離画像撮像装置1、距離画像処理部4の全部または一部をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、FPGA等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。
【符号の説明】
【0148】
1…距離画像撮像装置
2…光源部
3…受光部
321…画素
4…距離画像処理部
CS…電荷蓄積部
G1,G2,G3,G4…電荷転送トランジスタ
GD1,GD2…電荷排出トランジスタ
PD…光電変換素子
PO…光パルス