(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023133816
(43)【公開日】2023-09-27
(54)【発明の名称】測距装置
(51)【国際特許分類】
G01S 17/86 20200101AFI20230920BHJP
G01S 7/4863 20200101ALI20230920BHJP
G01C 3/06 20060101ALI20230920BHJP
【FI】
G01S17/86
G01S7/4863
G01C3/06 120Q
G01C3/06 140
【審査請求】未請求
【請求項の数】14
【出願形態】OL
(21)【出願番号】P 2022039019
(22)【出願日】2022-03-14
(71)【出願人】
【識別番号】316005926
【氏名又は名称】ソニーセミコンダクタソリューションズ株式会社
(74)【代理人】
【識別番号】100116942
【弁理士】
【氏名又は名称】岩田 雅信
(74)【代理人】
【識別番号】100167704
【弁理士】
【氏名又は名称】中川 裕人
(72)【発明者】
【氏名】黒田 圭一
【テーマコード(参考)】
2F112
5J084
【Fターム(参考)】
2F112AD01
2F112BA04
2F112BA05
2F112BA06
2F112CA12
2F112CA20
2F112DA25
2F112DA28
2F112EA05
2F112FA03
2F112FA21
2F112FA36
2F112FA45
2F112GA01
5J084AA04
5J084AA05
5J084AB07
5J084AC04
5J084AD01
5J084AD05
5J084BA04
5J084BA11
5J084BA20
5J084BA36
5J084BA40
5J084BA48
5J084CA03
5J084CA20
5J084CA23
5J084CA31
5J084CA65
5J084CA67
5J084EA04
5J084EA05
5J084EA40
(57)【要約】
【課題】ToF方式による測距を行う測距装置について、測距精度向上や消費電力削減を図る。
【解決手段】本技術に係る測距装置は、光を発する発光部と、発光部より発せられた光が物体にて反射されて得られる反射光について、ToF方式による測距用の受光動作を行うセンサ部と、センサ部の受光信号に基づき、ToF方式による距離の算出を行う演算部と、センサ部を用いて測距を行うことが可能な画角範囲である測距可能範囲を対象としたセンシングにより得られたセンシング画像に基づいて、物体検出処理を行う物体検出部と、物体検出部により検出した対象物体の位置に応じた位置に対し発光部による光を照射したときにセンサ部で得られる受光信号に基づき、演算部が対象物体の距離算出を行うように制御する制御部とを備える。
【選択図】
図1
【特許請求の範囲】
【請求項1】
光を発する発光部と、
前記発光部より発せられた光が物体にて反射されて得られる反射光について、ToF方式による測距用の受光動作を行うセンサ部と、
前記センサ部の受光信号に基づき、ToF方式による距離の算出を行う演算部と、
前記センサ部を用いて測距を行うことが可能な画角範囲である測距可能範囲を対象としたセンシングにより得られたセンシング画像に基づいて、物体検出処理を行う物体検出部と、
前記物体検出部により検出した対象物体の位置に応じた位置に対し前記発光部による光を照射したときに前記センサ部で得られる受光信号に基づき、前記演算部が前記対象物体の距離算出を行うように制御する制御部と、を備えた
測距装置。
【請求項2】
前記物体検出部は、前記センサ部の受光信号に基づき生成される階調画像に基づいて前記物体検出処理を行う
請求項1に記載の測距装置。
【請求項3】
前記制御部は、
前記発光部を非発光とした状態で前記センサ部に受光動作を実行させて得られる前記階調画像を対象として前記物体検出部に前記物体検出処理を実行させる
請求項2に記載の測距装置。
【請求項4】
前記センサ部は、一部の画素についてのみ受光信号の読み出しを行う部分読み出しが可能に構成された
請求項1に記載の測距装置。
【請求項5】
前記制御部は、
前記物体検出部による物体検出処理結果から特定される物体検出画素領域の部分読み出しを前記センサ部に指示し、該指示により部分読み出しされた受光信号に基づく前記距離の算出を前記演算部に実行させる
請求項4に記載の測距装置。
【請求項6】
前記センサ部は、イベントベース型の部分読み出しが可能に構成され、
前記制御部は、
前記センサ部により部分読み出しされた受光信号に基づき前記演算部が前記距離の算出を行うように制御する
請求項4に記載の測距装置。
【請求項7】
前記制御部は、
前記測距可能範囲内における物体検出領域を含む一部領域内で前記発光部による光の照射位置を変化させながら、前記照射位置ごとに、前記センサ部における物体検出画素領域内で前記対象物体からの反射光が受光されたか否かについての評価を行う評価処理を実行し、
前記評価処理において前記物体検出画素領域内で前記対象物体からの反射光が受光されたと評価された場合に、該評価が行われたときの照射位置の設定状態で前記演算部が算出した前記物体検出画素領域内の距離に基づく値が前記対象物体の距離の値として出力されるように制御する
請求項1に記載の測距装置。
【請求項8】
前記センサ部は、一部の画素についてのみ受光信号の読み出しを行う部分読み出しが可能に構成され、
前記制御部は、
前記評価処理において、前記照射位置ごとに前記センサ部に前記物体検出画素領域の受光信号を部分読み出しさせ、該部分読み出しにより得られた受光信号に基づいて前記評価を行う
請求項7に記載の測距装置。
【請求項9】
前記センサ部は、イベントベース型の部分読み出しが可能に構成され、
前記制御部は、
前記照射位置ごとの前記評価として、前記センサ部における受光信号の読み出し有無に基づいて前記物体検出画素領域内で前記対象物体からの反射光が受光されたか否かの評価を行う
請求項7に記載の測距装置。
【請求項10】
前記発光部が発する光の波長帯をターゲット波長帯とする光学的バンドパスフィルタ効果を前記センサ部が受光する光に対して作用させるフィルタ有効化モードと、前記光学的バンドパスフィルタ効果を前記センサ部が受光する光に対して作用させないフィルタ無効化モードとの切り替えが可能に構成された光学的透過制御部を備え、
前記制御部は、
前記センサ部が測距のための受光を行う場合には前記光学的透過制御部を前記フィルタ有効化モードに制御し、前記センサ部が前記物体検出処理のための受光を行う場合には前記光学的透過制御部を前記フィルタ無効化モードに制御する
請求項2に記載の測距装置。
【請求項11】
前記発光部が発する光についてビームステアリングを行うビームステアリング部を備えた
請求項1に記載の測距装置。
【請求項12】
前記発光部は、前記測距可能範囲のそれぞれ異なるエリアに光を発する複数の光源を有し、
前記制御部は、
前記複数の光源のうち何れの光源を発光させるかにより前記発光部による光の照射位置を変化させる
請求項1に記載の測距装置。
【請求項13】
前記物体検出部は、
前記センサ部による前記階調画像と、前記センサ部とは得られるセンシング画像の種別が異なる別センサ部によるセンシング画像とに基づいて前記物体検出処理を行う
請求項2に記載の測距装置。
【請求項14】
光を発する発光部より発せられた光が物体にて反射されて得られる反射光について、ToF方式による測距用の受光動作を行うセンサ部と、
前記センサ部の受光信号に基づき、ToF方式による距離の算出を行う演算部と、
前記センサ部を用いた測距を行うことが可能な画角範囲である測距可能範囲を対象としたセンシングにより得られたセンシング画像に基づいて、物体検出処理を行う物体検出部と、
前記物体検出部により検出した対象物体の位置に応じた位置に対して前記発光部による光を照射したときに前記センサ部で得られる受光信号に基づき、前記演算部が前記対象物体の距離を算出するように制御する制御部と、を備えた
測距装置。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は、ToF(Time Of Flight)方式による測距を行う測距装置に関するものであり、測距精度の向上や測距における消費電力の削減、処理の高速化を図るための技術に関する。
【背景技術】
【0002】
例えば、下記特許文献1等に記載されるように、ToF(Time Of Flight:飛行時間)方式による測距を行う測距装置が知られている。
ToF方式による測距装置には、測距の対象物体にアクティブ光を発する発光部が設けられる。ToF方式では、対象物体に照射したアクティブ光の反射光を受光し、アクティブ光の発光開始タイミングと、反射光の受光タイミングとの時間差に基づいて距離を算出する。特に、間接ToF方式においては、アクティブ光の発光開始タイミングと反射光の受光タイミングとの位相差に基づいて物体の距離を算出するようにされている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
ここで、測距の対象範囲全体にアクティブ光を照射する手法としては、例えば、単一光源からの光をレンズ等で拡散させて照射する手法が考えられる。しかしながらこの手法とした場合には、光を拡散させるため対象物体に十分な光を照射できず、反射光量を十分に得ることが困難となり、測距精度の向上を図ることが困難となる。特に、遠方の物体までアクティブ光を届かせることが困難となり、遠方物体の測距を行うことが困難となる。
一方で、測距の対象範囲全体を複数の光源を用いて照射する構成を採ることも考えられる。この場合には、対象物体からの反射光量を高め易くなるものの、アクティブ光の発光に要する消費電力が高まってしまうという課題がある。
【0005】
本技術は上記課題に鑑み為されたものであり、ToF方式による測距を行う測距装置について、測距精度向上や消費電力削減、処理の高速化を図ることを目的とする。
【課題を解決するための手段】
【0006】
本技術に係る第一の測距装置は、光を発する発光部と、前記発光部より発せられた光が物体にて反射されて得られる反射光について、ToF方式による測距用の受光動作を行うセンサ部と、前記センサ部の受光信号に基づき、ToF方式による距離の算出を行う演算部と、前記センサ部を用いて測距を行うことが可能な画角範囲である測距可能範囲を対象としたセンシングにより得られたセンシング画像に基づいて、物体検出処理を行う物体検出部と、前記物体検出部により検出した対象物体の位置に応じた位置に対し前記発光部による光を照射したときに前記センサ部で得られる受光信号に基づき、前記演算部が前記対象物体の距離算出を行うように制御する制御部と、を備えたものである。
上記構成によれば、測距可能範囲の全体ではなく、対象物体が存在する位置に応じた一部にのみアクティブ光を照射して対象物体の距離を算出可能となる。
【0007】
また、本技術に係る第二の測距装置は、光を発する発光部より発せられた光が物体にて反射されて得られる反射光について、ToF方式による測距用の受光動作を行うセンサ部と、前記センサ部の受光信号に基づき、ToF方式による距離の算出を行う演算部と、前記センサ部を用いた測距を行うことが可能な画角範囲である測距可能範囲を対象としたセンシングにより得られたセンシング画像に基づいて、物体検出処理を行う物体検出部と、前記物体検出部により検出した対象物体の位置に応じた位置に対して前記発光部による光を照射したときに前記センサ部で得られる受光信号に基づき、前記演算部が前記対象物体の距離を算出するように制御する制御部と、を備えたものである。
このような第二の測距装置によっても、上記した第一の測距装置と同様の作用が得られる。
【図面の簡単な説明】
【0008】
【
図1】本技術に係る第一実施形態としての測距装置の構成例を説明するためのブロック図である。
【
図2】第一実施形態におけるセンサ部の内部回路構成例を示したブロック図である。
【
図3】第一実施形態におけるセンサ部が有する画素の等価回路図である。
【
図4】第一実施形態としての測距手法を説明するための図である。
【
図5】測距時における照射光の別例についての説明図である。
【
図6】第一実施形態としての測距手法を実現するための具体的な処理手順例を示したフローチャートである。
【
図7】照射光の位置調整の別例についての説明図である。
【
図8】第二実施形態の第一例としての測距装置の構成例を説明するためのブロック図である。
【
図9】第二実施形態の第一例としての測距装置が備えるセンサ部の内部回路構成例を示したブロック図である。
【
図10】第二実施形態における第一例としての測距手法を実現するための具体的な処理手順例を示したフローチャートである。
【
図11】物体検出画素領域の例を説明するための図である。
【
図12】第二実施形態の第二例としての測距装置が備えるセンサ部の内部回路構成例を示したブロック図である。
【
図13】第二実施形態の第二例としての測距装置が備えるセンサ部の内部回路構成例を示したブロック図である。
【
図15】第三実施形態としての測距装置の構成例を説明するためのブロック図である。
【
図16】第三実施形態としての測距手法の説明図である。
【
図17】第三実施形態としての測距手法を実現するための具体的な処理手順例を示したフローチャートである。
【
図18】発光部が複数の光源を備える変形例の説明図である。
【
図19】変形例としての測距装置の構成例を説明するためのブロック図である。
【発明を実施するための形態】
【0009】
以下、添付図面を参照し、本技術に係る実施形態を次の順序で説明する。
<1.第一実施形態>
(1-1.測距装置の全体構成)
(1-2.センサ部の構成)
(1-3.第一実施形態としての測距手法)
(1-4.処理手順)
<2.第二実施形態>
(2-1.第一例)
(2-2.第二例)
<3.第三実施形態>
<4.変形例>
<5.実施形態のまとめ>
<6.本技術>
【0010】
<1.第一実施形態>
(1-1.測距装置の全体構成)
図1は、本技術に係る第一実施形態としての測距装置である測距装置1の構成例を説明するためのブロック図である。
【0011】
図示のように測距装置1は、光を発する発光部10と、発光部10より発せられた光(図中、照射光Liとして示す)が物体にて反射されて得られる反射光Lr(図中では対象物体Obからの反射光Lrとして示している)について、ToF(Time of Flight)方式に対応した受光動作が可能に構成されたセンサ部11とを備えると共に、距離算出部12、制御部13、階調画像生成部14、物体検出部15、ビームステアリング部16、及びフィルタ効果制御部17を備えている。
【0012】
測距装置1は、画素単位でToF方式による測距を行うことが可能とされている。具体的に、本例における測距装置1は、間接ToF方式(インダイレクトToF方式)による測距を行うことが可能に構成されている。間接ToF方式は、対象物体Obに対する照射光Liと、照射光Liが対象物体Obで反射されて得られる反射光Lrとの位相差に基づいて対象物体Obまでの距離を算出する測距方式とされる。
【0013】
発光部10は、光源として一又は複数の発光素子を有し、照射光Liを発する。本例において、発光部10は、発光素子として単一のVCSEL(Vertical Cavity Surface Emitting Laser:垂直共振器面発光型レーザ)を備えており、照射光Liとして例えば波長が750nmから1400nmの範囲のIR(赤外)光を発光する。
【0014】
センサ部11は、反射光Lrを受光する。具体的には、反射光Lrと照射光Liの位相差を検出可能となるように反射光Lrの受光動作を行う。
後述もするが、本例のセンサ部11は、光電変換素子(フォトダイオードPD)と、光電変換素子の蓄積電荷を転送するための第一転送ゲート素子(転送トランジスタTG-A)と第二転送ゲート素子(転送トランジスタTG-B)とを含んで構成された画素Pxが二次元に複数配列された画素アレイ部111を有しており、画素Pxごとに間接ToF方式による測距用の受光動作を行う。
なお、センサ部11の受光動作については後に改めて説明する。
【0015】
制御部13は、例えばCPUやROM、RAM等を有するマイクロコンピュータ等として構成され、発光部10による照射光Liの発光動作や、センサ部11の動作、及び後述する階調画像生成部14、物体検出部15、ビームステアリング部16、及びフィルタ効果制御部17の動作を制御する。
間接ToF方式による測距を行う場合、照射光Liとしては、所定の周期で強度が変化するように強度変調された光が用いられる。具体的に、本例では、照射光Liとして、パルス光を所定周期で繰り返し発光する。以下、このようなパルス光の発光周期のことを「発光周期Cl」と表記する。また、発光周期Clによりパルス光が繰り返し発光される際におけるパルス光の発光開始タイミング間の期間のことを「1変調期間Pm」或いは単に「変調期間Pm」と表記する。
制御部13は、変調期間Pmごとに所定の発光期間のみ照射光Liを発するように発光部10の発光動作を制御する。
間接ToF方式において、発光周期Clは、例えば数十MHzから数百MHz程度と比較的高速とされる。
【0016】
ここで、公知のように間接ToF方式では、センサ部11の画素Pxにおける光電変換素子に蓄積された信号電荷が、交互にオンされる第一転送ゲート素子、第二転送ゲート素子によって二つのフローティングディフュージョン(FD)に振り分けられる。この際、第一転送ゲート素子と第二転送ゲート素子を交互にオンする周期は発光部10の発光周期Clと同周期とされる。すなわち、第一転送ゲート素子、第二転送ゲート素子はそれぞれ変調期間Pmごとに1度オンとされるものであり、上記のような信号電荷の二つのフローティングディフュージョンへの振り分けは、変調期間Pmごとに繰り返し行われる。
例えば、第一転送ゲート素子としての転送トランジスタTG-Aは、変調期間Pmにおける照射光Liの発光期間においてオンとされ、第二転送ゲート素子としての転送トランジスタTG-Bは、変調期間Pmにおける照射光Liの非発光期間においてオンとされる。
また、測距演算においてIQ変調(I:In-phase(同相成分)、Q:Quadrature(直交成分))を適用する場合には、転送トランジスタTG-Aは照射光Liの発光周期に対し位相が90度ずれた周期でオン/オフされ、転送トランジスタTG-Bは照射光Liの周期に対し位相が270度ずれた周期でオン/オフされることもある。
【0017】
前述のように、発光周期Clは比較的高速とされるため、上記のような第一、第二転送ゲート素子を用いた1回の振り分けにより各フローティングディフュージョンに蓄積される信号電荷は比較的微量なものとなる。このため間接ToF方式では、1回の測距につき、照射光Liの発光を数千回から数万回程度繰り返し、センサ部11では、このように照射光Liが繰り返し発光される間、上記のような第一、第二転送ゲート素子を用いた各フローティングディフュージョンへの信号電荷の振り分けを繰り返し行う。
【0018】
上記説明から理解されるように、センサ部11においては、画素Pxごとに第一転送ゲート素子、第二転送ゲート素子を照射光Liの発光周期に基づくタイミングで駆動することになる。このため、制御部13は、共通のクロックに基づいてセンサ部11による受光動作、発光部10による発光動作の制御を行う。
【0019】
距離算出部12は、センサ部11における前述した振り分け動作により各フローティングディフュージョンに蓄積された電荷信号に基づいて、対象物体Obの距離を算出する。
各フローティングディフュージョンに蓄積された電荷信号について、間接ToF方式による所定の演算を行うことで、画素Pxごとに、その画素Pxに反射光Lrが受光された物体の距離を算出することができる。
なお、画素Pxごとに二種の検出信号(フローティングディフュージョンごとの検出信号)に基づいて間接ToF方式による距離情報を算出する手法については公知の手法を用いることができ、ここでの説明は省略する。
【0020】
階調画像生成部14は、制御部13からの指示に基づき、センサ部11で画素Pxごとに得られる各フローティングディフュージョンの電荷信号に基づく階調画像の生成を行う。
ここで言う階調画像とは、画素ごとに受光量の大きさを示す画像を意味する。
間接ToF方式に対応したセンサ部11で得られる受光信号、すなわち上記した画素Pxごとの各フローティングディフュージョンに蓄積された電荷信号によっては、各画素Pxにおける受光量(後述する受光期間Prにおける受光量)を推定できる。具体的には、画素Pxごとに各フローティングディフュージョンの電荷信号を加算すれば、その画素Pxにおける受光量を示す信号が得られる。
階調画像生成部14は、センサ部11が上記したような所定期間にわたる電荷振り分けを行って各フローティングディフュージョンに蓄積された電荷信号を画素Pxごとに入力し、それら各フローティングディフュージョンの電荷信号を加算することで、画素Pxごとに受光量の大きさを示す階調画像を生成する。
【0021】
なお本例において、センサ部11の有効画素数は水平640画素×垂直480とされる。従って、階調画像生成部14が生成する階調画像の最大解像度はVGA解像度とされる。
【0022】
物体検出部15は、制御部13からの指示に基づき、階調画像生成部14が生成した階調画像に基づく物体検出処理を行う。
ここでの物体検出処理では、例えば人や動物、車、飛行機等の予め定められた種別の物体を対象物体Obとして検出する処理を行う。例えば、物体検出部15としては、ターゲット種別の物体を検出するように機械学習されたAI(人工知能)による画像認識器として構成することが考えられる。或いは、物体検出部15としては、例えばテンプレート画像を用いたテンプレートマッチング処理等のルールベース処理によりターゲット種別の物体を検出するように構成することも考えられる。
物体検出部15では、検出した対象物体Obの位置や対象物体Obの存在領域である物体検出領域を特定する処理も行われる。
【0023】
ビームステアリング部16は、発光部10が発する光(本例ではIR光)についてビームステアリングを行う、換言すれば、照射光Liの光軸の向きを変化させる。ビームステアリング部16の具体的な構成としては、例えば照射光Liの光路中に挿入されたガルバノミラーや液晶パネル(偏光素子)、OPA(Optical Phase Array)、或いは、発光部10を含む照射光Liの光学系をパンチルトさせるアクチュエータ(例えばモータ等)等を挙げることができる。
ビームステアリング部16は、制御部13の指示に従って照射光Liの光軸の向きを変化させる。
【0024】
フィルタ効果制御部17は、発光部10が発する光の波長帯(本例ではIR光の波長帯)をターゲット波長帯とする光学的バンドパスフィルタ効果をセンサ部11が受光する光に対して作用させるフィルタ有効化モードと、光学的バンドパスフィルタ効果をセンサ部11が受光する光に対して作用させないフィルタ無効化モードとの切り替えが可能に構成された光学的要素である。
フィルタ効果制御部17の具体的な構成としては、例えば上記の光学的バンドパスフィルタ効果のON/OFF切り替えが可能に構成された液晶パネルを挙げることができる。或いは、フィルタ効果制御部17としては、センサ部11の受光光路中にIRフィルタを出し入れすることにより上記のフィルタ有効化モードとフィルタ無効化モードとの切り替えを可能にする構成とすることも考えられる。
フィルタ効果制御部17は、制御部13からの指示に基づいてフィルタ有効化モードとフィルタ無効化モードとの切り替えを行う。
【0025】
(1-2.センサ部の構成)
図2は、センサ部11の内部回路構成例を示したブロック図である。
図示のようにセンサ部11は、画素アレイ部111、転送ゲート駆動部112、垂直駆動部113、システム制御部114、カラム処理部115、水平駆動部116、信号処理部117、及びデータ格納部118を備えている。
【0026】
画素アレイ部111は、複数の画素Pxが行方向及び列方向の行列状に二次元に配列された構成となっている。各画素Pxは、光電変換素子として後述するフォトダイオードPDを有する。なお、画素Pxの詳細については
図3により改めて説明する。
ここで、行方向とは、水平方向の画素Pxの配列方向を言い、列方向とは、垂直方向の画素Pxの配列方向を言う。図中では、行方向を横方向、列方向を縦方向としている。
【0027】
画素アレイ部111においては、行列状の画素配列に対して、画素行ごとに行駆動線120が行方向に沿って配線されるとともに、各画素列に二つのゲート駆動線121、二つの垂直信号線122がそれぞれ列方向に沿って配線されている。例えば、行駆動線120は、画素Pxから信号を読み出す際の駆動を行うための駆動信号を伝送する。なお、
図2では、行駆動線120について1本の配線として示しているが、1本に限られるものではない。行駆動線120の一端は、垂直駆動部113の各行に対応した出力端に接続されている。
【0028】
システム制御部114は、各種のタイミング信号を生成するタイミングジェネレータなどによって構成され、該タイミングジェネレータで生成された各種のタイミング信号を基に、転送ゲート駆動部112、垂直駆動部113、カラム処理部115、及び水平駆動部116などの駆動制御を行う。
【0029】
転送ゲート駆動部112は、システム制御部114の制御に基づき、上記のように各画素列に二つ設けられるゲート駆動線121を通じて、画素Pxごとに二つ設けられた転送ゲート素子を駆動する。
前述のように、二つの転送ゲート素子は変調期間Pmごとに交互にオンするものとされる。このため、システム制御部114は、転送ゲート駆動部112に対し、前述した制御部13より入力されるクロックを供給し、転送ゲート駆動部112は、このクロックに基づいて二つの転送ゲート素子を駆動する。
【0030】
垂直駆動部113は、シフトレジスタやアドレスデコーダなどによって構成され、画素アレイ部111の画素Pxを全画素同時或いは行単位等で駆動する。すなわち、垂直駆動部113は、垂直駆動部113を制御するシステム制御部114と共に、画素アレイ部111の各画素Pxの動作を制御する駆動部を構成している。
【0031】
垂直駆動部113による駆動制御に応じて画素行の各画素Pxから出力される(読み出される)受光信号、具体的には、画素Pxごとに二つ設けられたフローティングディフュージョンそれぞれに蓄積された信号電荷に応じた信号(電荷信号)は、対応する垂直信号線122を通してカラム処理部115に入力される。カラム処理部115は、各画素Pxから垂直信号線122を通して読み出された受光信号に対して所定の信号処理を行うとともに、信号処理後の受光信号を一時的に保持する。具体的には、カラム処理部115は、信号処理としてCDS(Correlated Double Sampling:相関二重サンプリング)によるノイズ除去処理やA/D(Analog to Digital)変換処理等を行う。
【0032】
ここで、各画素Pxからの二つの受光信号(フローティングディフュージョンごとの検出信号)の読み出しは、照射光Liの所定回数分の繰り返し発光ごと(前述した数千から数万回の繰り返し発光ごと)に1度行われる。
従って、システム制御部114は、前述したクロックに基づき垂直駆動部113を制御して、各画素Pxからの受光信号の読み出しタイミングが、このように照射光Liの所定回数分の繰り返し発光ごとのタイミングとなるように制御する。
【0033】
水平駆動部116は、シフトレジスタやアドレスデコーダなどによって構成され、カラム処理部115の画素列に対応する単位回路を順番に選択する。この水平駆動部116による選択走査により、カラム処理部115において単位回路ごとに信号処理された受光信号が順番に出力される。
【0034】
信号処理部117は、少なくとも演算処理機能を有し、カラム処理部115から出力される受光信号に対して所定の信号処理を施す。
【0035】
データ格納部118は、信号処理部117での信号処理にあたって、その処理に必要なデータを一時的に格納する。
【0036】
図3は、画素アレイ部111に二次元配列された画素Pxの等価回路を示している。
画素Pxは、光電変換素子としてのフォトダイオードPDとOF(オーバーフロー)ゲートトランジスタOFGとをそれぞれ1個ずつ有する。また、画素Pxは、転送ゲート素子としての転送トランジスタTG、フローティングディフュージョンFD、リセットトランジスタRST、増幅トランジスタAMP、及び選択トランジスタSELをそれぞれ2個ずつ有する。
【0037】
ここで、画素Pxにおいて2個ずつ設けられる転送トランジスタTG、フローティングディフュージョンFD、リセットトランジスタRST、増幅トランジスタAMP、及び選択トランジスタSELのそれぞれを区別する場合、
図3に示されるように、転送トランジスタTG-A及びTG-B、フローティングディフュージョンFD-A及びFD-B、リセットトランジスタRST-A及びRST-B、増幅トランジスタAMP-A及びAMP-B、選択トランジスタSEL-A及びSEL-Bと表記する。
OFゲートトランジスタOFG、転送トランジスタTG、リセットトランジスタRST、増幅トランジスタAMP、及び選択トランジスタSELは、例えば、N型のMOSトランジスタで構成される。
【0038】
OFゲートトランジスタOFGは、ゲートに供給されるOFゲート信号SOFGがオンされると導通状態となる。フォトダイオードPDは、OFゲートトランジスタOFGが導通状態となると、所定の基準電位VDDにクランプされて蓄積電荷がリセットされる。
なお、OFゲート信号SOFGは、例えば垂直駆動部113より供給される。
【0039】
転送トランジスタTG-Aは、ゲートに供給される転送駆動信号STG-Aがオンされると導通状態となり、フォトダイオードPDに蓄積されている信号電荷をフローティングディフュージョンFD-Aに転送する。転送トランジスタTG-Bは、ゲートに供給される転送駆動信号STG-Bがオンされると導通状態となり、フォトダイオードPDに蓄積されている電荷をフローティングディフュージョンFD-Bに転送する。
転送駆動信号STG-A、STG-Bは、それぞれが
図2に示したゲート駆動線121の一つとして設けられたゲート駆動線121-A、121-Bを通じて転送ゲート駆動部112より供給される。
【0040】
フローティングディフュージョンFD-A及びFD-Bは、フォトダイオードPDから転送された電荷を一時保持する電荷保持部である。
【0041】
リセットトランジスタRST-Aは、ゲートに供給されるリセット信号SRSTがオンとされると導通状態となり、フローティングディフュージョンFD-Aの電位を基準電位VDDにリセットする。同様に、リセットトランジスタRST-Bはゲートに供給されるリセット信号SRSTがオンされることで導通状態となり、フローティングディフュージョンFD-Bの電位を基準電位VDDにリセットする。
なお、リセット信号SRSTは、例えば垂直駆動部113より供給される。
【0042】
増幅トランジスタAMP-Aは、ソースが選択トランジスタSEL-Aを介して垂直信号線122-Aに接続され、ドレインが基準電位VDD(定電流源)に接続されて、ソースフォロワ回路を構成する。増幅トランジスタAMP-Bは、ソースが選択トランジスタSEL-Bを介して垂直信号線122-Bに接続され、ドレインが基準電位VDD(定電流源)に接続されてソースフォロワ回路を構成する。
ここで、垂直信号線122-A、122-Bは、それぞれ
図2に示した垂直信号線122の一つとして設けられたものである。
【0043】
選択トランジスタSEL-Aは、増幅トランジスタAMP-Aのソースと垂直信号線122-Aとの間に接続され、ゲートに供給される選択信号SSELがオンとされると導通状態となり、フローティングディフュージョンFD-Aに保持された電荷を増幅トランジスタAMP-Aを介して垂直信号線122-Aに出力する。
選択トランジスタSEL-Bは、増幅トランジスタAMP-Bのソースと垂直信号線122-Bとの間に接続され、ゲートに供給される選択信号SSELがオンとされると導通状態となり、フローティングディフュージョンFD-Bに保持された電荷を増幅トランジスタAMP-Aを介して垂直信号線122-Bに出力する。
なお、選択信号SSELは、行駆動線120を介して垂直駆動部113より供給される。
【0044】
画素Pxの動作について簡単に説明する。
先ず、受光を開始する前に、画素Pxの電荷をリセットするリセット動作が全画素で行われる。すなわち、例えばOFゲートトランジスタOFG、各リセットトランジスタRST、及び各転送トランジスタTGがオン(導通状態)とされ、フォトダイオードPD、各フローティングディフュージョンFDの蓄積電荷がリセットされる。
【0045】
蓄積電荷のリセット後、全画素で測距のための受光動作が開始される。ここで言う受光動作とは、1回の測距のために行われる受光動作を意味する。すなわち、受光動作中では、転送トランジスタTG-AとTG-Bを交互にオンする動作が所定回数(本例では数千回から数万回程度)繰り返される。以下、このような1回の測距のために行われる受光動作の期間を「受光期間Pr」と表記する。
【0046】
受光期間Prにおいて、発光部10の1変調期間Pm内では、例えば転送トランジスタTG-Aがオンの期間(つまり転送トランジスタTG-Bがオフの期間)が照射光Liの発光期間にわたって継続された後、残りの期間、つまり照射光Liの非発光期間は、転送トランジスタTG-Bがオンの期間(つまり転送トランジスタTG-Aがオフの期間)とされる。すなわち、受光期間Prにおいては、1変調期間Pm内にフォトダイオードPDの電荷をフローティングディフュージョンFD-AとFD-Bとに振り分ける動作が所定回数繰り返される。
【0047】
そして、受光期間Prが終了すると、画素アレイ部111の各画素Pxが、順次に選択される。選択された画素Pxでは、選択トランジスタSEL-A及びSEL-Bがオンされる。これにより、フローティングディフュージョンFD-Aに蓄積された電荷が垂直信号線122-Aを介してカラム処理部115に出力される。また、フローティングディフュージョンFD-Bに蓄積された電荷は垂直信号線122-Bを介してカラム処理部115に出力される。
【0048】
以上で、1回の受光動作が終了し、リセット動作から始まる次の受光動作が実行される。
【0049】
ここで、画素Pxが受光する反射光Lrは、発光部10が照射光Liを発したタイミングから、対象物体Obまでの距離に応じて遅延されている。対象物体Obまでの距離に応じた遅延時間によって、二つのフローティングディフュージョンFD-A、FD-Bに蓄積される電荷の配分比が変化するため、これら二つのフローティングディフュージョンFD-A、FD-Bに蓄積される電荷の配分比から、対象物体Obまでの距離を求めることが可能である。
【0050】
ここで、上記では、間接ToF方式による測距について、いわゆる2phase方式による測距を行う場合を例示した。すなわち、発光信号に対する位相差を0度、180度とした転送駆動信号STGにより電荷振り分けを行って得られる2種の受光信号(フローティングディフュージョンFD-A、FD-Bそれぞれに蓄積された電荷信号)から距離を算出する場合を例示した。
しかしながら、間接ToF方式による測距としては、いわゆる4phase方式による測距を行うこともできる。この4phase方式は、前述したIQ変調に基づく測距演算を行うものであり、発光信号に対する位相差を0度、180度とした受光信号のみでなく、90度、270度とした受光信号を用いる。
この場合、受光期間Prにおいては、上記で例示したように発光信号に対する位相差を0度とした転送駆動信号STG-Aと該位相差を180度とした転送駆動信号STG-BとによりフローティングディフュージョンFD-AとFD-Bへの電荷振り分けを行って位相差0度と位相差180度の受光信号を得る動作と、発光信号に対する位相差を90度とした転送駆動信号STG-Aと該位相差を270度とした転送駆動信号STG-BとによりフローティングディフュージョンFD-AとFD-Bへの電荷振り分けを行って位相差90度と位相差270度の受光信号を得る動作とを行う。
なお、これら位相差0度、180度、90度、270度の4種の受光信号を用いて行われる4phase方式による測距演算は公知であり、ここでの詳細説明は省略する。
【0051】
(1-3.第一実施形態としての測距手法)
ここで、本例においては、発光部10として単一光源を設けて、該単一光源からの光をレンズ等で拡散させて照射する手法を採ることを前提としている。
しかしながら、この手法とした場合には、光を拡散させるため対象物体Obに十分な光を照射できず、反射光量を十分に得ることが困難となり、測距精度の向上を図ることが困難となる。特に、遠方の物体までアクティブ光を届かせることが困難となり、遠方物体の測距を行うことが困難となる。
【0052】
そこで本実施形態では、物体検出部15により検出した対象物体Obの位置に応じた位置に対し照射光Liを照射したときにセンサ部11で得られる受光信号に基づき、距離算出部12が対象物体Obの距離算出を行うように制御する、という手法を採る。
【0053】
図4を参照し、第一実施形態としての測距手法について具体的に説明する。
図4Aでは、測距の対象物体Obが測距装置1による測距可能範囲Aa内に存在している状態を例示している。測距可能範囲Aaとは、センサ部11を用いて測距を行うことが可能な画角範囲を意味するものである。
【0054】
本実施形態において、対象物体Obの測距を行うにあたっては、先ず、物体検出部15を用いて対象物体Obをターゲット物体とした物体検出処理を行う。この物体検出処理は、測距可能範囲Aaを対象としたセンシングにより得られたセンシング画像に基づいて行う。具体的に本例において、物体検出処理は、センサ部11の受光信号に基づき生成される階調画像に基づいて行う。より具体的に、この場合の物体検出処理は、発光部10を非発光とした状態でセンサ部11に受光動作を実行させて得られる階調画像を対象として行う。
前述のように、階調画像は、センサ部11が受光期間Prにおいて測距用の受光動作を行って得られるフローティングディフュージョンFD-A、FD-Bごとの電荷信号に基づき階調画像生成部14が生成するものである。具体的には、画素Pxごとに各フローティングディフュージョンFDの電荷信号を加算することで階調画像を生成するものである。
【0055】
ここで、本例では物体検出用の階調画像を得るにあたり発光部10を非発光の状態とする、すなわちアクティブ光ではなく環境光のみの反射光Lrに基づいて階調画像を得ようとするものであるが、このとき、アクティブ光を用いる場合と同様に、発光部10が発する光の波長帯をターゲットとした光学的バンドパスフィルタ効果を有効化してしまうと、センサ部11における受光量が減少して物体検出精度の低下を招く虞がある。
そこで本実施形態では、物体検出処理のための階調画像を得る際には、制御部13が、フィルタ効果制御部17をフィルタ無効化モードに制御する。
これにより、環境光におけるアクティブ光以外の波長帯の光も受光して階調画像を生成可能となり、物体検出精度の向上を図ることができる。
【0056】
上記のように本実施形態では、物体検出用の階調画像をセンサ部11の受光信号に基づいて得るものとしているが、これは、測距用のセンサと物体検出用のセンサとを共通化しているものと換言できる。
これにより、物体検出用のセンサを別途に設ける必要をなくすことが可能となり、部品点数の削減、及び測距装置の小型軽量化、低コスト化を図ることができる。
また、測距に用いるセンサと物体検出処理に用いるセンサとが共通となることで、物体検出用の別途のセンサを用いる場合のように画像の位置合わせを行う必要がなくなり、位置合わせ処理の精度に依存して測距精度が低下してしまうことの防止が図られ、測距精度向上を図ることができる。
【0057】
図4Bは、物体検出部15による物体検出処理により対象物体Obが検出された様子を模式的に示している。
【0058】
本実施形態では、このように測距可能範囲Aa内に対象物体Obが検出された場合には、
図4Cに示すように、検出した対象物体Obの位置に応じた位置に対し照射光Liを照射し、このように対象物体Obの位置に応じた位置に照射光Liを照射したときにセンサ部11で得られる受光信号に基づき、距離算出部12が対象物体Obの距離算出を行うようにする。
【0059】
具体的に、第一実施形態では、
図4Cに示すように、測距可能範囲Aaの全域ではなく、検出した対象物体Obの位置を含む一部領域に対してのみ照射光Liを照射する。このとき、制御部13は、ビームステアリング部16に対する指示を行って、照射光Liの照射位置を制御する。本例では、発光部10が発する照射光Liは、
図4Cに例示するように測距可能範囲Aaの縦方向を貫く、換言すれば、測距可能範囲Aaの上端から下端までを連続的にカバーする縦長の光とされる。この場合、照射光Liの横幅は、少なくとも測距可能範囲Aaの横幅よりも短くされていればよい。
【0060】
この場合の制御部13は、
図4Cのような縦長の照射光Liを、測距可能範囲Aa内の横方向における対象物体Obの検出位置を含む領域に照射させた状態で、センサ部11に測距用の受光動作を実行させる。そして、該受光動作により得られた受光信号に基づき、距離算出部12が対象物体Obの距離を算出するように制御する。
ここでの距離算出部12による対象物体Obの距離の算出は、例えば以下のように、物体検出画素領域Ag内の受光信号に基づいて行うことが考えられる。ここで、物体検出画素領域Agとは、対象物体Obが検出されたセンサ部11の画素領域のことを指す。
先ず、センサ部11の各画素Pxで得られるフローティングディフュージョンFDごとの電荷信号に基づき、物体検出画素領域Ag内において、例えば受光量が所定閾値以上の画素Pxを、対象物体Obからの反射光Lrを受光した画素Pxとして検出する。なお、画素Pxごとの受光量は、前述のようにフローティングディフュージョンFDごとの電荷信号を加算することで推定可能である。
そして、上記のように検出した、反射光Lrを受光した画素Pxについて算出した距離の平均値を、対象物体Obの距離とする。
【0061】
なお、対象物体Obの距離の算出手法は上記手法に限定されるものではない。例えば、物体検出画素領域Ag内において、受光量が最大の画素Pxを検出し、その画素Pxについて算出した距離を対象物体Obの距離とすることが考えられる。この際、受光量が最大となる画素Pxが複数存在した場合には、それらの画素Pxについて算出される距離の平均値とすることが考えられる。
【0062】
この場合における対象物体Obの距離は、物体検出画素領域Ag内の画素Pxにおける距離に基づくものであればよい。すなわち、物体検出画素領域Ag内の所定位置における画素Pxの距離そのものや、或いは、物体検出画素領域Ag内の所定画素領域内における各画素Pxの距離の平均値等、物体検出画素領域Ag内で算出される距離に基づく値であればよい。
【0063】
ここで、照射光Liを照射して対象物体Obの距離を算出するためにセンサ部11に受光動作を実行させる際、制御部13は、フィルタ効果制御部17をフィルタ有効化モードに制御する。具体的には、少なくとも該受光動作の実行期間中はフィルタ効果制御部17がフィルタ有効化モードを維持するように制御する。
【0064】
なお、上記では対象物体Obの測距時における照射光Liを測距可能範囲Aaの縦方向を貫通する縦長の光とする例を挙げたが、該照射光Liについては、例えば
図5Aのように測距可能範囲Aaの横方向を貫通する横長の光としたり、
図5Bのような非貫通型の光としたりすることも可能である。ここで言う非貫通型の光とは、測距可能範囲Aaの縦方向を貫通せず、横方向も貫通しない光を意味する。例えば、
図5Bに例示するような丸型の照射範囲を形成する光とすることが考えられる。或いは、非貫通型の光としては、縦長の光や横長の光とすることも考えられる。この場合の縦長の光としては、少なくとも測距可能範囲Aaの縦方向を貫通しないことが条件とされるものであり、照射範囲が測距可能範囲Aaの縦方向の何れの端部にも達しない光とすることのみでなく、照射範囲が測距可能範囲Aaの縦方向における一方の端部に達する光とすることも考えられる。同様に、この場合の横長の光としては、少なくとも測距可能範囲Aaの横方向を貫通しないことが条件とされるものであり、照射範囲が測距可能範囲Aaの横方向の何れの端部にも達しない光とすることのみでなく、照射範囲が測距可能範囲Aaの横方向における一方の端部に達する光とすることも可能である。
【0065】
確認のため述べておくと、照射光Liの照射範囲は、発光部10が発する光についての照射光学系の構成によりコントロール可能なものである。
【0066】
(1-4.処理手順)
図6は、上記により説明した第一実施形態としての測距手法を実現するための具体的な処理手順例を示したフローチャートである。具体的に
図6では、
図1に示した制御部13が実行すべき処理手順の例を示している。
【0067】
先ず、制御部13はステップS101で、測距開始を待機する。例えば、ユーザからの測距を指示する操作入力等、測距開始の条件として予め定められた条件が成立するのを待機する処理である。
【0068】
測距開始と判定した場合、制御部13はステップS102に進み、フィルタ無効化処理として、フィルタ効果制御部17をフィルタ無効化モードに制御する処理を行う。
そして、ステップS102に続くステップS103で制御部13は、階調画像生成指示を行う。すなわち、センサ部11に受光動作(測距時の受光動作と同じ)を実行させると共に、該受光動作によって画素Pxごとに得られるフローティングディフュージョンFDごとの電荷信号に基づき、階調画像生成部14に階調画像を生成させる。
これらステップS102及びS103の処理により、環境光に基づく階調画像の生成が行われる。
【0069】
ステップS103に続くステップS104で制御部13は、物体検出実行指示として、ステップS103で得られた階調画像を対象とした物体検出処理を実行するように物体検出部15に指示を出す。
【0070】
ステップS104に続くステップS105で制御部13は、対象物体Obが検出されたか否かを判定する。すなわち、ステップS104で実行させた物体検出処理により、対象物体Obが検出されたか否かを判定する。
【0071】
対象物体Obが検出されていないと判定した場合、制御部13は
図6に示す一連の処理を終える。すなわち、この場合は測距対象となるべき対象物体Obが検出されていないので、測距動作は行われない。
【0072】
一方、対象物体Obが検出されたと判定した場合、制御部13はステップS106に進み、フィルタ有効化処理として、フィルタ効果制御部17をフィルタ有効化モードに制御する処理を行った上で、ステップS107の照射位置調整処理を実行する。このステップS107の照射位置調整処理で制御部13は、先ず、物体検出処理で検出された対象物体Obの位置に基づき、照射光Liの照射位置(照射目標位置)を決定する。そして、制御部13は、決定した照射目標位置に照射光Liが照射されるように、発光部10を発光させると共に、ビームステアリング部16により照射光Liの照射位置を調整させる。
【0073】
ステップS107に続くステップS108で制御部13は、測距動作実行指示を行う。すなわち、センサ部11に測距用の受光動作を実行させると共に、該受光動作により画素Pxごとに得られるフローティングディフュージョンFDごとの電荷信号に基づく距離の算出を距離算出部12に実行させる。
【0074】
ステップS108に続くステップS109で制御部13は、物体検出画素領域Ag内の距離に基づく値が対象物体Obの距離の値として出力されるように制御する。
先の説明から理解されるように本例では、距離算出部12が、物体検出画素領域Ag内の距離に基づく値を対象物体Obの距離として求める処理を行う。例えば、先に例示したように、センサ部11から画素Pxごとに入力されるフローティングディフュージョンFDごとの電荷信号に基づき、物体検出画素領域Ag内において、受光量が所定閾値以上の画素Pxを対象物体Obからの反射光Lrを受光した画素Pxとして検出し、それら検出した画素Pxについて算出した距離の平均値を、対象物体Obの距離として求める処理等、物体検出画素領域Ag内で算出される距離に基づく値を対象物体Obの距離の値として求める処理を距離算出部12が行うものである。
この場合、ステップS109の処理は、制御部13が、このように距離算出部12により求められた距離の値を、対象物体Obの距離の値として距離算出部12の外部に出力させる処理となる。
【0075】
ここで、距離算出部12としては、上記のような対象物体Obの距離を求める機能を有さず、センサ部11から入力された各画素PxのフローティングディフュージョンFDごとの電荷信号に基づき、各画素Pxについての距離を算出する機能のみを有する構成とすることも考えられる。その場合は、制御部13が、距離算出部12により算出された各画素Pxの距離や、センサ部11から入力した各画素PxのフローティングディフュージョンFDごとの電荷信号に基づいて、対象物体Obの距離を求める処理を行うことが考えられる。具体的には、フローティングディフュージョンFDごとの電荷信号に基づき、物体検出画素領域Ag内において、受光量が所定閾値以上の画素Pxを対象物体Obからの反射光Lrを受光した画素Pxとして検出し、それら検出した画素Pxについて距離算出部12で算出された距離の平均値を、対象物体Obの距離として求める処理等、物体検出画素領域Ag内で算出される距離に基づく値を対象物体Obの距離の値として求める処理である。
この場合、ステップS109の処理は、上記のように制御部13自身が対象物体Obの距離として求めた距離の値を外部に出力する処理となる。
【0076】
なお、上記のように制御部13が対象物体Obの距離の値を求める処理を行う場合において、制御部13に対して全ての画素PxについてのフローティングディフュージョンFDごとの電荷信号や距離を入力することは必須ではなく、少なくとも、物体検出画素領域Ag内の画素Pxについての電荷信号や距離を入力すればよい。
【0077】
制御部13は、ステップS109の処理を実行したことに応じて、
図6に示す一連の処理を終える。
【0078】
ここで、上記説明では、対象物体Obの検出位置に応じた位置にアクティブ光としての照射光Liを照射させるにあたり、照射位置の制御を行うビームステアリング部16を設ける例を挙げたが、ビームステアリング部16を設けることは必須ではない、
例えば、
図7Aに例示されるように測距装置1がドローン等の姿勢調整が可能な電子機器50に取り付けられている場合には、電子機器50の姿勢を制御することで、ビームステアリング部16を設けずとも照射光Liの照射位置を調整可能となる(
図7Aから
図7Bへの遷移を参照)。
【0079】
<2.第二実施形態>
第二実施形態は、測距用の受光動作を行うセンサ部として、部分読み出しが可能に構成されたセンサ部を用いるものである。ここで言う部分読み出しとは、一部の画素についてのみ受光信号の読み出しを行うことを意味するものである。
以下では部分読み出しが可能なセンサ部として、外部から指示された画素領域の部分読み出しが可能に構成されたセンサ部11Aと、EVS(Event Based Sensor)のようなイベントベース型の部分読み出しが可能に構成されたセンサ部11Bとを例示する。
ここで、イベントベース型の部分読み出しとは、受光量の変化としての「イベント」が発生した画素の受光信号を選択的に読み出すことを意味する。
【0080】
以下では、センサ部11Aを用いる例を第二実施形態の第一例、センサ部11Bを用いる例を第二実施形態の第二例としてそれぞれ説明する。
【0081】
(2-1.第一例)
図8は、第二実施形態の第一例としての測距装置1Aの構成例を説明するためのブロック図であり、
図9は、測距装置1Aが備えるセンサ部11Aの内部回路構成例を示したブロック図である。
なお、以下の説明において、既に説明済みとなった部分と同様となる部分については同一符号や同一ステップ番号を付して説明を省略する。
【0082】
図8において、測距装置1Aは、第一実施形態における測距装置1と比較して、センサ部11に代えてセンサ部11Aが、制御部13に代えて制御部13Aがそれぞれ設けられた点が異なる。
【0083】
図9において、センサ部11Aは、センサ部11(
図2)と比較して、システム制御部114に代えてシステム制御部114Aが、垂直駆動部113に代えて垂直駆動部113Aが、水平駆動部116に代えて水平駆動部116Aがそれぞれ設けられた点と、行選択レジスタ131、及び列選択レジスタ132が追加された点が異なる。
【0084】
システム制御部114Aは、
図8に示した制御部13Aから部分読み出しを行うべき画素領域(以下「読出対象画素領域」と表記)が指定された場合には、読出対象画素領域内の各画素Pxの行アドレスを行選択レジスタ131に書き込む。
垂直駆動部113Aは、全ての画素行を対象とした行順次スキャンを行うのではなく、行選択レジスタ131に書き込まれた行アドレスが示す画素行のみを順に選択していく。
【0085】
また、システム制御部114Aは、垂直駆動部113Aが一つの画素行を選択するごとに、列選択レジスタ132に対し、当該画素行の画素Pxのうち読出対象画素領域内となる画素Pxの列アドレスを順次書き込む。
水平駆動部116Aは、垂直駆動部113Aが一つの画素行を選択するごとに、列選択レジスタ132に書き込まれた列アドレスが示す画素Pxについてのみカラム処理部115が電荷信号に対する信号処理(垂直信号線122を通して供給されるフローティングディフュージョンFDごとの電荷信号に対する信号処理)を行うように、カラム処理部115を駆動する。
【0086】
例えば上記のような構成により、制御部13Aが画素アレイ部111の一部の画素領域のみを読出対象画素領域として指定した場合に、該一部の画素領域についてのみ受光信号の読み出しが行われるようにすることができる。
【0087】
なお、上記構成によれば、行選択レジスタ131に全ての行アドレスを書き込み、列選択レジスタ132に順次全ての行アドレスを書き込むことで、全画素読み出しを行うことも可能である。
【0088】
図10は、第二実施形態における第一例としての測距手法を実現するための具体的な処理手順例を示したフローチャートである。具体的には、制御部13Aが実行すべき処理手順の例を示したものである。
【0089】
先ず、制御部13AはステップS101で測距開始を待機し、測距開始と判定した場合は、ステップS102でフィルタ無効化処理を行う。
そして、制御部13Aは、続くステップS103Aで、全画素読み出しによる階調画像生成指示を行う。すなわち、制御部13Aは、センサ部11Aにおけるシステム制御部114Aに対し、前述した読出対象画素領域として画素アレイ部111の全画素領域(有効画素領域の全体)を指示してセンサ部11Aに全画素読み出しを実行させ、該全画素読み出しで得られた各画素PxのフローティングディフュージョンFDごとの電荷信号に基づき、階調画像生成部14に階調画像を生成させる。
【0090】
ステップS103Aの階調画像生成指示を行った以降、ステップS104の物体検出実行指示からステップS107の照射位置調整処理までの処理を実行する点は
図6の場合と同様である。
なお、ステップS105で対象物体Obが検出されなかったと判定した場合に処理終了となる点も
図6の場合と同様である。
【0091】
ステップS107の照射位置調整処理を実行したことに応じ、制御部13AはステップS108Aで、部分読み出しによる測距動作実行指示を行う。具体的に、ステップS108Aにおいて制御部13Aは、先ず、センサ部11Aに測距用の受光動作を実行させると共に、ステップS104の指示に応じて実行された物体検出処理で特定された物体検出画素領域Agを読出対象画素領域としてシステム制御部114Aに指示して、センサ部11Aに物体検出画素領域Agを対象とした部分読み出しを実行させる。そして、部分読み出しされた物体検出画素領域Agの受光信号、具体的には、フローティングディフュージョンFDごとの電荷信号に基づく距離の算出を距離算出部12に実行させる。
【0092】
ここで、物体検出画素領域Agの例について
図11を参照して説明しておく。
物体検出画素領域Agとしては、例えば
図11Aに示すような対象物体Obを内包する四角形状の領域とすることが考えられる。この場合の物体検出画素領域Agは、対象物体Obの形状を忠実に再現するものではなく、対象物体Obの周囲領域も含む比較的余裕を持った範囲設定となる。
或いは、物体検出画素領域Agとしては
図11Bに示すように、四角形状ではなく対象物体Obの形状を或る程度反映させた形状とすることもできる。
何れにしても物体検出画素領域Agとしては、対象物体Obの少なくとも一部を含む画素領域として設定されたものであればよい。
【0093】
ステップS108Aの処理によれば、このような物体検出画素領域Agを読出対象画素領域として、センサ部11Aによる部分読み出しが行われる。
【0094】
ステップS108Aに続くステップS109で制御部13は、物体検出画素領域Ag内の距離に基づく値が対象物体Obの距離の値として出力されるように制御する。
この場合の距離算出部12は、ステップS108Aの指示により部分読み出しされた物体検出画素領域Ag内の各画素Pxの電荷信号(フローティングディフュージョンFDごとの電荷信号)に基づき、対象物体Obの距離を求める処理を行う。具体的には、物体検出画素領域Ag内において受光量が所定閾値以上の画素Pxを対象物体Obからの反射光Lrを受光した画素Pxとして検出し、それら検出した画素Pxについて算出した距離の平均値を、対象物体Obの距離として求める。或いは、物体検出画素領域Ag内において受光量が最大の画素Pxを検出し、その画素Pxについて算出した距離を対象物体Obの距離とする等である。
【0095】
上記のように物体検出画素領域Ag内で算出される距離に基づく値を対象物体Obの距離の値として求める処理を距離算出部12が行う場合、ステップS109の処理は、制御部13が、このように距離算出部12により求められた距離の値を、対象物体Obの距離の値として距離算出部12の外部に出力させる処理となる。
【0096】
或いは、対象物体Obの距離の値を求める処理は、制御部13Aが、センサ部11Aから部分読み出しされた物体検出画素領域Ag内の各画素Pxの電荷信号や、距離算出部12により算出された物体検出画素領域Ag内の各画素Pxの距離に基づいて行うことも考えられる。すなわち、フローティングディフュージョンFDごとの電荷信号に基づき、物体検出画素領域Ag内において受光量が所定閾値以上の画素Pxを対象物体Obからの反射光Lrを受光した画素Pxとして検出し、それら検出した画素Pxについて距離算出部12で算出された距離の平均値を、対象物体Obの距離として求める処理等である。
この場合には、ステップS109の処理は、上記のように制御部13A自身が対象物体Obの距離として求めた距離の値を外部に出力する処理となる。
【0097】
制御部13Aは、ステップS109の処理を実行したことに応じて
図10に示す一連の処理を終える。
【0098】
(2-2.第二例)
図12は、第二実施形態における第二例としての測距装置1Bの構成例を説明するためのブロック図であり、
図13は、測距装置1Bが備えるセンサ部11Bの内部回路構成例を示したブロック図である。
【0099】
図12において、測距装置1Bは、第一実施形態における測距装置1と比較して、センサ部11に代えてセンサ部11Bが、距離算出部12に代えて距離算出部12Bが、階調画像生成部14に代えて階調画像生成部14Bが、制御部13に代えて制御部13Bがそれぞれ設けられた点が異なる。
【0100】
図13に示すように、センサ部11Bは、画素アレイ部111B、転送ゲート駆動部112、及びアービタ部141を備えている。
画素アレイ部111Bは、画素Px-Bが行方向及び列方向にそれぞれ複数配列されて形成される。画素アレイ部111とは異なり、画素アレイ部111Bにおいては、垂直信号線122-A、122-Bが形成されていない。
【0101】
画素Px-Bは、画素Px(
図3参照)と比較して、検出部140が追加された点が異なる。
なお、
図13では画素Px-B内の構成について、リセットトランジスタRST-A、RST-B、OFゲートトランジスタOFGの図示、及びOFゲート信号SOFGやリセット信号SRSTの供給ラインの図示は省略しているが、この場合、リセットトランジスタRST-A、RST-BやOFゲートトランジスタOFGの駆動は、図示を省略した駆動回路により行われる。
この場合も転送トランジスタTG-A、TG-Bの駆動は、転送ゲート駆動部112がそれぞれゲート駆動線121-A、121-Bを通じて転送駆動信号STG-A、STG-Bを供給することで行われる。
この場合の転送ゲート駆動部112は、外部からの駆動指示信号に基づいて転送トランジスタTG-A、TG-Bの駆動を実行する。本例では、駆動指示信号は制御部13Bより供給される。
【0102】
検出部140は、フローティングディフュージョンFD-AとFD-Bの双方の蓄積電荷量から得たアクティブ光強度が所定閾値よりも大きいことをイベントとして検出する。具体的に、検出部140は、フローティングディフュージョンFD-AとFD-Bの双方の蓄積電荷量の二乗和を計算し、該二乗和が閾値以上であった場合に、イベントが発生したとの検出結果を得る。なお、アクティブ光強度の算出については、上記の二乗和による算出に限定されるものではなく、例えばフローティングディフュージョンFD-AとFD-Bの双方の蓄積電荷量の和、或いは差による算出であってもよい。
イベントを検出した場合、検出部140は、イベント発生通知をアービタ部141に対して行う。
【0103】
アービタ部141は、それぞれの画素Px-Bにおける検出部140からのイベント発生通知を入力可能に構成され、イベント発生通知のあった画素Px-Bについて、各フローティングディフュージョンFDの電荷信号、すなわち、フローティングディフュージョンFD-Aの電荷信号Saと、フローティングディフュージョンFD-Bの電荷信号Sbとが読み出されるように制御する。具体的には、イベント発生通知のあった画素Px-Bについて、画素駆動線120’を通じて選択トランジスタSEL-A及びSEL-Bを駆動することで、電荷信号Sa、Sbの読み出しを実行させる。
また、これと共にアービタ部141は、イベント発生通知があった画素Px-Bについては、発生したイベントについてのタイムスタンプ(イベント発生タイミングを示す情報)、及びイベントが発生した画素Px-Bのアドレスの情報を含む付帯情報も出力する。
【0104】
上記のような構成により、センサ部11Bにおいては、「イベント」が発生した画素の電荷信号Sa、Sbを選択的に読み出すことができ、また、イベントが発生した画素Px-Bについては、その画素Pxのアドレス及びタイムスタンプの情報が付帯情報として出力される。
【0105】
図12において、距離算出部12B、階調画像生成部14Bには、センサ部11Bからの電荷信号Sa、Sb、及び付帯情報が入力される。
階調画像生成部14Bは、入力された電荷信号Sa、Sb及び付帯情報に基づき、イベントが発生した画素領域であるイベント発生画素領域についての階調画像を生成する。
この場合の物体検出部15は、このように階調画像生成部14Bで生成されるイベント発生画素領域の階調画像を対象として物体検出処理を行う。
【0106】
距離算出部12Bは、センサ部11Bから入力された階調信号Sa、Sb及び付帯情報に基づき、イベント発生画素領域内の画素Px-Bの距離を算出する。本例における距離算出部12Bは、イベント発生画素領域内の各画素Px-Bの距離を算出可能に構成されている。
【0107】
制御部13Bは、物体検出部15による物体検出結果に基づき、物体検出画素領域Ag内の距離に基づく値が対象物体Obの距離の値として出力されるように制御する。
具体的に、この場合の制御部13Bが対象物体Obの測距にあたって実行する処理は、先の
図6に示したものと同様となる。
この場合もステップS109の処理としては、物体検出画素領域Ag内で算出される距離に基づく値を対象物体Obの距離の値として求める処理を、距離算出部12Bに実行させる、或いは制御部13B自身が実行する形態とすることが考えられる。
【0108】
なお、制御部13Bは、ステップS103の階調画像生成指示やステップS108の測距動作実行指示の際、センサ部11Bに受光動作を実行させるにあたっては、前述した駆動指示信号を転送ゲート駆動部112に出力する。
【0109】
<3.第三実施形態>
続いて、第三実施形態について説明する。
第三実施形態は、照射光Liの発光光学系と反射光Lrの受光光学系との間のベースライン距離Dbを考慮するものである。
図14に模式化して示すように、発光部10が発した光を照射光Liとして対象物体Obに照射するための光学系と、対象物体Obからの反射光Lrをセンサ部11(11A、11B)に受光させるための光学系とは物理的に異なる位置にあり、それらの間にはベースライン距離Dbが存在する。そのため、対象物体Obに対して照射光Liを照射するための目標照射位置(照射角度)は、厳密には、対象物体Obと測距装置1(1A、1B)との距離によって変化させるべきある。
しかしながら、対象物体Obの測距前においては、当然のことながら対象物体Obの距離は未知であるため、対象物体Obの距離に応じて目標照射位置を正確に設定することは非常に困難である。
【0110】
そこで、第三実施形態では、測距可能範囲Aa内における物体検出領域を含む一部領域内で照射光Liの照射位置を変化させながら、照射位置ごとに、反射光が受光されたか否かを評価し、反射光が受光された際の受光信号に基づいて対象物体Obの距離が算出されるようにする。
【0111】
図15は、第三実施形態としての測距装置1Cの構成例を説明するためのブロック図である。
ここでは、第三実施形態の測距装置1Cとして、
図8に示した測距装置1Aと同様、センサ部11Aを備えた構成を例示する。すなわち、部分読み出しに対応した構成である。
【0112】
測距装置1Cにおいて、
図8に示した測距装置1Aとの相違点は、制御部13Aに代えて制御部13Cが設けられた点である。
制御部13Cは、以下で説明する第三実施形態としての測距手法により対象物体Obの測距が行われるように制御を行う点が制御部13Aとは異なる。
【0113】
図16は、第三実施形態としての測距手法の説明図である。
図16Aは、物体検出画素領域Ag、物体検出画素位置Po、及び照射光Liの照射位置Piの関係の例を模式的に示している。物体検出画素位置Poは、物体検出処理で検出された対象物体Obの画素位置であり、例えば物体検出画素領域Agの上下左右の中心位置等として検出される位置である。
ここでは、照射光Liとして、
図5Bに例示したような丸型の非貫通光(非貫通型の光)を照射する場合を前提とした説明を行う。
【0114】
第三実施形態では、物体検出部15により対象物体Obが検出されたことに応じて、先ず、照射位置Piを初期照射位置に調整する。本例では、初期照射位置は、縦座標については物体検出画素位置Poと同じ縦座標とし、横座標については中央座標とした画素座標に対応した位置に定める。
図中では、物体検出画素位置Poの縦座標は「5」であり、横座標の中央座標は「9」であることから、初期照射位置としては、(9,5)の画素座標に対応した位置に調整する。
【0115】
制御部13Cは、照射位置Piを初期照射位置に調整した上で、センサ部11Aに物体検出画素領域Agを読出対象範囲とした測距用の受光動作を実行させる。そして、該受光動作で得られたフローティングディフュージョンFDごとの電荷信号に基づき、物体検出画素領域Ag内で対象物体Obからの反射光Lrが受光されたか否かについての評価を行う。この評価は、制御部13Cが、センサ部11Aで部分読み出しされたフローティングディフュージョンFDごとの電荷信号に基づいて物体検出画素領域Ag内の各画素Pxの受光量を計算し、該受光量が所定閾値以上の画素Pxを、反射光Lrを受光した画素Pxとして特定することで行うことが考えられる。或いは、物体検出画素領域Ag内の各画素Pxの受光量は距離算出部12に算出させ、算出された受光量の情報に基づいて制御部13Cが上記の閾値に基づいて反射光Lrを受光した画素Pxを特定することも考えられる。
【0116】
制御部13Cは、初期照射位置において、物体検出画素領域Ag内で反射光Lrが受光された画素Pxがないと評価した場合には、照射光Liの照射位置Piを更新する。具体的に本例では、左右何れかの方向のうち物体検出画素位置Poに近づく方向に、照射位置Piの横位置を更新する(
図16B参照)。ここでは説明の便宜上、横位置の更新幅は1画素幅としているが、該更新幅は複数画素分の幅とすることも可能である。
【0117】
このように照射位置Piを更新した場合も、制御部13Cは、同様にセンサ部11Aに物体検出画素領域Agを読出対象範囲とした測距用の受光動作を実行させて、物体検出画素領域Ag内で対象物体Obからの反射光Lrが受光されたか否かについての評価を行う。
以降も、物体検出画素領域Ag内で反射光Lrが受光された画素Pxがないと評価した場合、制御部13Cは、照射位置Piの更新を同様に行うと共に、更新後の照射位置Piにおいて、センサ部11Aに物体検出画素領域Agを読出対象範囲とした測距用の受光動作を実行させて、物体検出画素領域Ag内で対象物体Obからの反射光Lrが受光されたか否かについての評価を行う。
【0118】
図16Cでは、上記のような照射位置Piの横位置の更新が継続されて、照射位置Piが物体検出画素領域Ag内の画素Pxに対応した位置まで変化した様子を例示している。
【0119】
物体検出画素領域Ag内で対象物体Obからの反射光Lrが受光されたと評価した場合、制御部13Cは、その照射位置Piの設定状態で距離算出部12が算出した物体検出画素領域Ag内の距離に基づく値が対象物体Obの距離の値として出力されるように制御する。
例えば、制御部13Cは、物体検出画素領域Ag内で対象物体Obからの反射光Lrが受光されたと評価した場合には、該評価が行われたときの照射位置Piの設定状態で実行させた受光動作によりセンサ部11Aから読み出される物体検出画素領域Ag内の各画素Pxの階調信号に基づき、物体検出画素領域Ag内で受光量が所定閾値以上の画素Pxを、反射光Lrを受光した画素Pxとして特定し、それら特定した画素Pxについて距離算出部12が算出した距離の平均値を、対象物体Obの距離の値として出力する。
或いは、反射光Lrを受光した画素Pxの特定、及び特定された画素Pxの距離の平均値の計算は距離算出部12に実行させてもよく、その場合、制御部13Cは、このように算出された平均値を対象物体Obの距離の値として距離算出部12の外部に出力させる処理を行う。
【0120】
なお、反射光Lrを受光した画素Pxの特定は評価の段階で実行されているため、評価後に改めて該特定を行う必要はない。
【0121】
ここで、上記により説明したような初期照射位置から物体検出画素位置Po側への照射位置Piの更新を行う場合において、何らかの要因により、物体検出画素領域Ag内で反射光Lrが受光されずに、照射位置Piが横方向の端部位置まで更新されてしまうことも考えられ得る。
このように照射位置Piが横方向端部位置まで更新され、該横方向端部位置においても反射光Lrを受光した画素Pxがないと評価した場合、制御部13Cは、反対側の横方向端部位置から横方向中央位置に向けての照射位置Piの更新を行う。
【0122】
図17は、上記により説明した第三実施形態としての測距手法を実現するための具体的な処理手順例を示したフローチャートである。
先ず、制御部13Cとしても、先の
図10で説明したステップS101、S102、S103A、S104、S105、及びS106の処理を実行する。
【0123】
制御部13Cは、ステップS106でフィルタ有効化処理を実行したことに応じて、ステップS201で初期照射位置調整処理を実行する。すなわち、照射光Liの照射位置が前述した初期照射位置となるようにビームステアリング部16を制御する。
【0124】
ステップS201に続くステップS202で制御部13Cは、物体検出画素領域Agの部分読み出しを指定した受光動作実行指示として、物体検出画素領域Agを読出対象範囲とした測距用の受光動作を実行させるための指示をセンサ部11Aに対して行う。
【0125】
ステップS202に続くステップS203で制御部13Cは、対象物体Obからの反射光Lrが受光されたか否かを判定する。この判定は、制御部13Cが、センサ部11Aで部分読み出しされたフローティングディフュージョンFDごとの電荷信号に基づいて物体検出画素領域Ag内の各画素Pxの受光量を計算し、該受光量が所定閾値以上の画素Pxを、反射光Lrを受光した画素Pxとして特定することで行うことが考えられる。
或いは、物体検出画素領域Ag内の各画素Pxの受光量は距離算出部12に算出させ、算出された受光量の情報に基づいて、制御部13Cが上記の閾値に基づいて反射光Lrを受光した画素Pxを特定することも考えられる。
制御部13Cは、反射光Lrを受光した画素Pxが一つでも特定された場合には対象物体Obからの反射光Lrが受光されたとの判定結果を得、それ以外の場合には対象物体Obからの反射光Lrが受光されなかったとの判定結果を得る。
【0126】
ステップS203において、対象物体Obからの反射光Lrが受光されなかったと判定した場合、制御部13CはステップS204に進み、照射位置更新処理を実行し、ステップS202に戻る。先の説明から理解されるように、ステップS204の更新処理では、左右何れかの方向のうち、初期照射位置から物体検出画素位置Poに近づく方向に照射位置Piを更新する。そして、このような照射位置更新により現在の照射位置Piが横方向端部位置に達した場合には、反対側の横方向端部位置に照射位置Piを更新し、以降の更新処理では、照射位置Piを初期照射位置に向けて更新する。
【0127】
ステップS204の更新処理後にステップS202の受光動作実行指示が行われることで、新たな照射位置Piについて、物体検出画素領域Agを対象読出範囲とした受光動作(S202)、及び該受光動作により得られた電荷信号に基づく反射光Lrの受光有無の評価(S203)が行われる。
【0128】
ここで、ステップS202→S203→S204→S202のループ処理が、本技術における「評価処理」の一例に相当するものである。
【0129】
ステップS203において、対象物体Obからの反射光Lrが受光されたと判定した場合、制御部13CはステップS205に進み、物体検出画素領域Ag内の距離に基づく値が対象物体Obの距離の値として出力されるように制御する。
具体的に制御部13Cは、受光量が所定閾値以上の画素Pxとして特定した「反射光Lrを受光した画素Px」について、それら画素Pxの距離の平均値を対象物体Obの距離の値として出力する処理を行う。或いは、反射光Lrを受光した画素Pxの特定、及び特定された画素Pxの距離の平均値の計算は距離算出部12に実行させてもよく、その場合、ステップS205の処理として制御部13Cは、このように算出された平均値を対象物体Obの距離の値として距離算出部12の外部に出力させる処理を行う。
【0130】
ステップS205の処理を実行したことに応じ、制御部13Cは
図17に示す一連の処理を終える。
【0131】
ここで、第三実施形態においては、第二実施形態のような部分読み出しを採用しているが、このことで、評価処理の実行にあたり、センサ部11Aの消費電力削減を図ることができる。
また、部分読み出しを採用することで、対象物体Obが動く場合や測距の画角が変化する場合のモーションブラーの低減を図ることができる。また、部分読み出しにより、処理の高速化を図ることができる。
【0132】
上記では、部分読み出しの例としてセンサ部11Aを用いる例を挙げたが、イベントベース型のセンサ部11Bを用いる場合にも同様の手法でベースライン距離Dbを考慮した測距動作を実現できる。
イベントベース型のセンサ部11Bを用いる場合には、センサ部11Bにおける受光信号の読み出し有無に基づいて、物体検出画素領域Ag内で対象物体Obからの反射光Lrが受光されたか否かの評価を行うことができる。具体的に、この場合の制御部13Cは、照射位置ごとに、センサ部11Bに測距用の受光動作を実行させ、センサ部11Bから物体検出画素領域Ag内の画素Px-Bについての信号読み出しがあったか否かにより、物体検出画素領域Ag内で対象物体Obからの反射光Lrが受光されたか否かを評価する。
【0133】
センサ部11Bを用いることで、評価処理時には、照射光Liが対象物体Obに照射されなければセンサ部11Bによる受光信号読み出しが行われないようにすることが可能である。
従って、上記構成によれば、評価処理時におけるセンサ部11Bの消費電力削減を図ることができる。さらに、ベースライン距離Dbに対する測距精度向上を図るにあたり、評価処理時にセンサ部11Bに対し部分読み出し指示を行う必要がなくなるため、測距装置1Cが有する制御プロセッサ(本例では制御部13C)の処理負担軽減を図ることができる。
さらに、部分読み出しにより、処理の高速化を図ることができる。
【0134】
なお、照射位置Piの更新手法については上記で例示したような横方向中央位置からの更新に限定されるものではない。
例えば、物体検出画素位置Poが中心画素位置に対し左右何れかに偏って位置している場合には、物体検出画素位置Poが存在する側とは逆側の横方向端部位置を初期照射位置として、物体検出画素位置Poに近づく方向に照射位置Piを更新していくことも考えられる。或いは逆に、物体検出画素位置Poが存在する側の横方向端部位置を初期照射位置として、物体検出画素位置Poに近づく方向に照射位置Piを更新していくことも考えられる。
【0135】
また、上記では、照射位置Piの更新幅を固定とする例としたが、照射位置Piの更新幅は、例えば物体検出画素位置Poとの離間距離等、所定の条件に応じて可変とすることも考えられる。一例として、物体検出画素位置Poとの離間距離が大きいほど更新幅を大きくすること等が考えられる。
【0136】
なお、第三実施形態のようなベースライン距離Dbを考慮した測距手法は、第一実施形態のように全体読み出しを行うセンサ部11を用いた場合にも好適に適用可能である。
【0137】
<4.変形例>
なお、実施形態としては上記により説明した具体例に限定されるものではなく、多様な変形例としての構成を採り得る。
例えば、上記では、単一光源とされた発光部10が発する光を照射光Liとして照射する例を挙げたが、照射光Liの発光部としては、
図18Aに例示するような複数の発光素子10aを有する発光部10Dとして形成することもできる。
そして、このような発光部10Dを用いる場合には、それぞれの発光素子10aが、測距可能範囲Aa内のそれぞれ異なる照射エリアArに照射光Liを照射する構成とすることが考えられる。
具体的に、
図18Bでは、測距可能範囲Aaを六つの照射エリアAr(Ar-1、Ar-2、Ar-3、Ar-4、Ar-5、Ar-6)に分割する例を示しているが、この場合、発光部10Dとしては、
図18Aに例示するように六つの発光素子10a(10a-1,10a-2,10a-3,10a-4,10a-5,10a-6)を設け、各発光素子10aが、それぞれ対応する一つの照射エリアArをカバーする照射光Liを照射するようにする。
【0138】
この場合、照射光Liの照射位置の調整は、複数の照射エリアArのうちターゲットとする照射エリアArのみに照射光Liを照射するという手法で行われる。具体的に、この場合の照射位置の調整は、発光部10Dにおける複数の発光素子10aのうち、ターゲットとする照射エリアArを担当する発光素子10aのみを発光させることで行う。
【0139】
このように何れの発光素子10aを発光させるかによって照射光Liの照射位置調整が行われる場合において、実施形態としての測距手法を採用することによっては、測距時において、対象物体Obの検出位置に対応した照射エリアArの発光素子10aのみを発光させれば済むものとなり、測距における消費電力削減を図ることができる。
【0140】
なお、上記では一つの照射エリアArにつき一つの発光素子10aを設ける例としたが、一つの照射エリアArにつき複数の発光素子10aを設ける構成であってもよい。
【0141】
また、上記では、反射光Lrの受光光学系にIRフィルタを設ける例を挙げたが、このことは必須ではない。仮に、IRフィルタを設けなかった場合であっても、例えば、測距時に照射光Liの強度を高めれば、環境光(ノイズ成分)が受光されても、S/N比を高めることができ、IRフィルタを設けないことによる測距精度低下の抑制を図ることができる。
【0142】
また、上記では、物体検出処理に用いる階調画像を得る際には、照射光Liを照射しない例としたが、例えば夜間等の暗い環境においては、照射光Liを照射して階調画像生成を行うことも考えられる。このとき、階調画像生成用の照射光Liについては、発光部10(又は10D)とは別の光源(例えば、LED(Light Emitting Diode)等)による照明光とすることが考えられる。或いは、別光源でなくとも、例えば発光部10からの光を拡散させる手段を用いて階調画像生成用の照明光とする手法も考えられる。
【0143】
また、上記では、物体検出が、間接ToFセンサとしてのセンサ部11(11A,11B)で得られるセンシング画像のみに基づいて行われる例としたが、物体検出は、間接ToFセンサによるセンシング画像と、間接ToFセンサとは別途に設けた別センサ部によるセンシング画像とを用いたフュージョン処理として行うこともできる。
【0144】
図19は、このようなフュージョン処理としての物体検出処理を行う変形例としての測距装置1Eの構成例を説明するためのブロック図である。
測距装置1Eは、測距装置1と比較して、別センサ部20が追加された点と、物体検出部15、制御部13に代えてそれぞれ物体検出部15E、制御部13Eが設けられた点が異なる。
【0145】
別センサ部20は、センサ部11とは得られるセンシング画像の種別が異なるセンサ部である。別センサ部20の一例としては、例えば、RGBセンサ等、画素ごとに受光量を検出する階調画像センサや、画素ごとに温度の情報を検出するサーマル画像センサ、画素ごとに複数波長についての受光量情報を示すマルチスペクトラム画像を得るマルチスペクトラム画像センサ、画素ごとに偏光情報を検出する偏光画像センサ等を挙げることができる。この場合、階調画像センサとしては、センサ部11よりも画素数の多い(つまり階調画像としてより高解像度の画像が得られる)センサを用いることが考えられる。或いは、階調画像センサとしては、画素数がセンサ部11の画素数以下であるセンサを用いることも考えられる。
ここで言う「センシング画像の種別が異なる」とは、例えば距離画像、階調画像、サーマル画像、マルチスペクトラム画像、偏光画像等の画像特性の違いのみでなく、画像解像度の違いも含むものである。
別センサ部20としては、この「センシング画像の種別が異なる」との定義に当て嵌まるものであれば、具体的なセンサ種別を問わない。
【0146】
物体検出部15Eは、階調画像生成部14により生成される階調画像と、別センサ部20によるセンシング画像とに基づいて物体検出処理を行う。
【0147】
制御部13Eは、物体検出部15Eによる物体検出の際に、センサ部11のみでなく別センサ部20によるセンシング動作を実行させる点が制御部13とは異なる。
【0148】
上記のような測距装置1Eによれば、センサ部11による階調画像のみでなく、別センサ部によるセンシング画像も用いたセンサフュージョン処理による物体検出処理を行うことが可能となる。
従って、単一のセンサ部によるセンシング画像のみに基づき物体検出処理を行う場合と比較して物体検出処理の精度向上を図ることができ、物体検出結果に基づき行われる測距の精度向上を図ることができる。
【0149】
なお、物体検出処理に間接ToFセンサによる階調画像を用いることは必須ではない。
具体的には、高解像度RGBセンサ等、「得られる画像の種別が異なる別センサ部」により得られる画像のみに基づいて物体検出処理を行うものである。
例えば、高解像度RGBセンサを用いることで、間接ToFセンサよりも高解像な画像に基づく物体検出処理が行われるため、物体検出の精度向上を図られ、対象物体の測距精度の向上を図ることができる。
【0150】
また、これまでの説明では、測距センサとして間接ToFセンサを用いる例を挙げたが、本技術は、測距センサとして、例えば直接ToF(ダイレクトToF)方式に対応したセンサ等、ToF方式による測距に対応したセンサが用いられる場合に広く好適に適用可能なものである。
【0151】
また、上記では発光部10の光源にVCSELを用いる例を挙げたが、VCSEL以外の半導体レーザやLED等、他の発光素子が光源として用いられる場合にも本技術は好適に適用することができる。
【0152】
<5.実施形態のまとめ>
上記により説明したように、実施形態としての第一の測距装置(同1,1A,1B,1C,1E)は、光を発する発光部(同10,10D)と、発光部より発せられた光が物体にて反射されて得られる反射光について、ToF方式による測距用の受光動作を行うセンサ部(同11,11A,11B)と、センサ部の受光信号に基づき、ToF方式による距離の算出を行う演算部(距離算出部12,12B)と、センサ部を用いて測距を行うことが可能な画角範囲である測距可能範囲を対象としたセンシングにより得られたセンシング画像に基づいて、物体検出処理を行う物体検出部(同15,15E)と、物体検出部により検出した対象物体の位置に応じた位置に対し発光部による光を照射したときにセンサ部で得られる受光信号に基づき、演算部が対象物体の距離算出を行うように制御する制御部(同13,13A,13B,13C,13E)と、を備えたものである。
上記構成によれば、測距可能範囲の全体ではなく、対象物体が存在する位置に応じた一部にのみアクティブ光を照射して対象物体の距離を算出可能となる。
従って、本来は測距可能範囲全体に拡散照射すべき光を一部範囲に集中して照射することが可能となり、対象物体からの反射光を強めることができ、測距精度の向上を図ることができる。
或いは、測距可能範囲全体を複数の光源を用いて照射する構成を前提とした場合には、対象物体が存在する一部範囲を照射する光源のみを発光させれば済み、測距における消費電力削減を図ることができる。
また、対象物体が存在する位置に応じた一部にのみアクティブ光を照射して対象物体の距離を算出可能となるため、測距処理の高速化を図ることができる。
【0153】
また、実施形態としての第一の測距装置においては、物体検出部は、センサ部の受光信号に基づき生成される階調画像に基づいて物体検出処理を行っている。
上記構成によれば、測距に用いるセンサと物体検出処理に用いるセンサとが共通となる。
従って、物体検出用のセンサを別途に設ける必要をなくすことが可能となり、部品点数の削減、及び測距装置の小型軽量化、低コスト化を図ることができる。
また、測距に用いるセンサと物体検出処理に用いるセンサとが共通となることで、物体検出用の別途のセンサを用いる場合のように画像の位置合わせを行う必要がなくなり、位置合わせ処理の精度に依存して測距精度が低下してしまうことの防止が図られ、測距精度向上を図ることができる。
【0154】
さらに、実施形態としての第一の測距装置においては、制御部は、発光部を非発光とした状態でセンサ部に受光動作を実行させて得られる階調画像を対象として物体検出部に物体検出処理を実行させている。
これにより、センサ部が環境光を受光して得られる階調画像を対象として物体検出処理が行われる。
従って、アクティブ光とは異なる波長の光も含む受光画像に基づいて物体検出処理を行うことが可能となり、物体検出精度の向上を図ることができる。
【0155】
さらにまた、実施形態としての第一の測距装置においては、センサ部(同11A,11B)は、一部の画素についてのみ受光信号の読み出しを行う部分読み出しが可能に構成されている。
本技術の測距においては、物体検出位置に応じた位置の受光信号が得られればよいため、センサ部が部分読み出し可能な構成とされていれば、物体検出位置に応じた位置の画素の受光信号のみを選択的に読み出して測距を行うことが可能となる。
従って、対象物体についての測距を行うにあたり、センサ部の消費電力の削減、及び測距演算処理の負担軽減を図ることができる。
【0156】
また、実施形態としての第一の測距装置においては、制御部(同13A)は、物体検出部による物体検出処理結果から特定される物体検出画素領域の部分読み出しをセンサ部(同11A)に指示し、該指示により部分読み出しされた受光信号に基づく距離の算出を演算部に実行させている。
上記のように物体検出画素領域を部分読み出しした受光信号に基づいて距離算出が行われるようにすることで、距離算出で扱うデータ量の削減が図られる。
従って、距離算出処理の負担軽減を図ることができる。
【0157】
さらに、実施形態としての第一の測距装置においては、センサ部(同11B)は、イベントベース型の部分読み出しが可能に構成され、制御部(同13B)は、センサ部により部分読み出しされた受光信号に基づき演算部が距離の算出を行うように制御している。
上記構成によれば、物体検出画素領域を部分読み出し領域としてセンサ部に指示する処理を行うことなく、部分的な測距を行うことが可能となる。
従って、測距装置が有する制御プロセッサの処理負担軽減を図ることができる。
【0158】
さらにまた、実施形態としての第一の測距装置においては、制御部(同13C)は、測距可能範囲内における物体検出領域を含む一部領域内で前記発光部による光の照射位置を変化させながら、照射位置ごとに、センサ部における物体検出画素領域内で対象物体からの反射光が受光されたか否かについての評価を行う評価処理を実行し、評価処理において物体検出画素領域内で対象物体からの反射光が受光されたと評価された場合に、該評価が行われたときの照射位置の設定状態で演算部が算出した物体検出画素領域内の距離に基づく値が対象物体の距離の値として出力されるように制御している。
上記のように発光部によるアクティブ光の照射位置を変化させながら物体検出画素領域内で対象物体からの反射光が受光されたか否かの評価を行うことで、発光部とセンサ部との間にベースライン距離が存在しても、対象物体の距離を適切に算出することが可能となる。
従って、発光部とセンサ部とが離間して配置されている場合に対応して測距を適切に行うことができる。
【0159】
また、実施形態としての第一の測距装置においては、センサ部(同11A)は、一部の画素についてのみ受光信号の読み出しを行う部分読み出しが可能に構成され、制御部(同13C)は、評価処理において、照射位置ごとにセンサ部に物体検出画素領域の受光信号を部分読み出しさせ、該部分読み出しにより得られた受光信号に基づいて評価を行っている。
これにより、評価処理において繰り返し行われる測距用の受光動作について、部分読み出しによる受光動作を行うことが可能となる。
従って、評価処理の実行にあたり、センサ部の消費電力削減を図ることができる。
【0160】
さらに、実施形態としての第一の測距装置においては、センサ部(11B)は、イベントベース型の部分読み出しが可能に構成され、制御部は、照射位置ごとの評価として、センサ部における受光信号の読み出し有無に基づいて物体検出画素領域内で対象物体からの反射光が受光されたか否かの評価を行っている。
センサ部がイベントベース型の部分読み出しが可能に構成されることで、評価処理時には、アクティブ光が対象物体に照射されなければセンサ部による受光信号読み出しが行われないようにすることが可能である。
従って、上記構成によれば、評価処理時におけるセンサ部の消費電力削減を図ることができる。さらに、ベースライン距離に対する測距精度向上を図るにあたり、評価処理時にセンサ部に対し部分読み出し指示を行う必要がなくなるため、測距装置が有する制御プロセッサの処理負担軽減を図ることができる。
【0161】
さらにまた、実施形態としての第一の測距装置においては、発光部が発する光の波長帯をターゲット波長帯とする光学的バンドパスフィルタ効果をセンサ部が受光する光に対して作用させるフィルタ有効化モードと、光学的バンドパスフィルタ効果をセンサ部が受光する光に対して作用させないフィルタ無効化モードとの切り替えが可能に構成された光学的透過制御部(フィルタ効果制御部17)を備え、制御部は、センサ部が測距のための受光を行う場合には光学的透過制御部をフィルタ有効化モードに制御し、センサ部が物体検出処理のための受光を行う場合には光学的透過制御部をフィルタ無効化モードに制御している。
上記構成によれば、測距時にはフィルタ有効化モードとなるので環境光に起因したノイズの低減が図られ、測距精度の向上を図ることが可能となる。一方、物体検出処理時には、フィルタ無効化モードとなるので環境光の受光量を高めることができ、物体検出精度の向上を図ることが可能となる。
従って、測距におけるノイズ低減と物体検出精度向上の双方の面で、測距精度(物体検出結果に基づき行われる測距の精度)向上を図ることができる。
【0162】
また、実施形態としての第一の測距装置においては、発光部が発する光についてビームステアリングを行うビームステアリング部(同16)を備えている。
ビームステアリング部を備えることで、アクティブ光の照射位置変更に係る自由度向上を図ることができる。
【0163】
さらに、実施形態としての第一の測距装置においては、発光部(同10D)は、測距可能範囲のそれぞれ異なるエリアに光を発する複数の光源(発光素子10a)を有し、制御部(同13E)は、複数の光源のうち何れの光源を発光させるかにより発光部による光の照射位置を変化させている。
これにより、アクティブ光の照射位置を変化させるにあたり、光学系にビームステアリングのための機構や駆動部、光学部品等を設ける必要がなくなる。
従って、光学系の小型軽量化を図ることができる。
【0164】
さらにまた、実施形態としての第一の測距装置においては、物体検出部(同15E)は、センサ部による階調画像と、センサ部とは得られるセンシング画像の種別が異なる別センサ部(同20)によるセンシング画像とに基づいて物体検出処理を行っている。
上記構成によれば、センサ部による階調画像のみでなく、別センサ部によるセンシング画像も用いたセンサフュージョン処理による物体検出処理を行うことが可能となる。
従って、単一のセンサ部によるセンシング画像のみに基づき物体検出処理を行う場合と比較して物体検出処理の精度向上を図ることができ、物体検出結果に基づき行われる測距の精度向上を図ることができる。
【0165】
また、実施形態としての第二の測距装置(同1,1A,1B,1C,1E)は、光を発する発光部より発せられた光が物体にて反射されて得られる反射光について、ToF方式による測距用の受光動作を行うセンサ部と、センサ部の受光信号に基づき、ToF方式による距離の算出を行う演算部と、センサ部を用いた測距を行うことが可能な画角範囲である測距可能範囲を対象としたセンシングにより得られたセンシング画像に基づいて、物体検出処理を行う物体検出部と、物体検出部により検出した対象物体の位置に応じた位置に対して発光部による光を照射したときにセンサ部で得られる受光信号に基づき、演算部が対象物体の距離を算出するように制御する制御部と、を備えたものである。
このような第二の測距装置によっても、上記した第一の測距装置と同様の作用及び効果を得ることができる。
【0166】
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
【0167】
<6.本技術>
なお本技術は以下のような構成も採ることができる。
(1)
光を発する発光部と、
前記発光部より発せられた光が物体にて反射されて得られる反射光について、ToF方式による測距用の受光動作を行うセンサ部と、
前記センサ部の受光信号に基づき、ToF方式による距離の算出を行う演算部と、
前記センサ部を用いて測距を行うことが可能な画角範囲である測距可能範囲を対象としたセンシングにより得られたセンシング画像に基づいて、物体検出処理を行う物体検出部と、
前記物体検出部により検出した対象物体の位置に応じた位置に対し前記発光部による光を照射したときに前記センサ部で得られる受光信号に基づき、前記演算部が前記対象物体の距離算出を行うように制御する制御部と、を備えた
測距装置。
(2)
前記物体検出部は、前記センサ部の受光信号に基づき生成される階調画像に基づいて前記物体検出処理を行う
前記(1)に記載の測距装置。
(3)
前記制御部は、
前記発光部を非発光とした状態で前記センサ部に受光動作を実行させて得られる前記階調画像を対象として前記物体検出部に前記物体検出処理を実行させる
前記(2)に記載の測距装置。
(4)
前記センサ部は、一部の画素についてのみ受光信号の読み出しを行う部分読み出しが可能に構成された
前記(1)から(3)の何れかに記載の測距装置。
(5)
前記制御部は、
前記物体検出部による物体検出処理結果から特定される物体検出画素領域の部分読み出しを前記センサ部に指示し、該指示により部分読み出しされた受光信号に基づく前記距離の算出を前記演算部に実行させる
前記(4)に記載の測距装置。
(6)
前記センサ部は、イベントベース型の部分読み出しが可能に構成され、
前記制御部は、
前記センサ部により部分読み出しされた受光信号に基づき前記演算部が前記距離の算出を行うように制御する
前記(4)に記載の測距装置。
(7)
前記制御部は、
前記測距可能範囲内における物体検出領域を含む一部領域内で前記発光部による光の照射位置を変化させながら、前記照射位置ごとに、前記センサ部における物体検出画素領域内で前記対象物体からの反射光が受光されたか否かについての評価を行う評価処理を実行し、
前記評価処理において前記物体検出画素領域内で前記対象物体からの反射光が受光されたと評価された場合に、該評価が行われたときの照射位置の設定状態で前記演算部が算出した前記物体検出画素領域内の距離に基づく値が前記対象物体の距離の値として出力されるように制御する
前記(1)から(6)の何れかに記載の測距装置。
(8)
前記センサ部は、一部の画素についてのみ受光信号の読み出しを行う部分読み出しが可能に構成され、
前記制御部は、
前記評価処理において、前記照射位置ごとに前記センサ部に前記物体検出画素領域の受光信号を部分読み出しさせ、該部分読み出しにより得られた受光信号に基づいて前記評価を行う
前記(7)に記載の測距装置。
(9)
前記センサ部は、イベントベース型の部分読み出しが可能に構成され、
前記制御部は、
前記照射位置ごとの前記評価として、前記センサ部における受光信号の読み出し有無に基づいて前記物体検出画素領域内で前記対象物体からの反射光が受光されたか否かの評価を行う
前記(7)に記載の測距装置。
(10)
前記発光部が発する光の波長帯をターゲット波長帯とする光学的バンドパスフィルタ効果を前記センサ部が受光する光に対して作用させるフィルタ有効化モードと、前記光学的バンドパスフィルタ効果を前記センサ部が受光する光に対して作用させないフィルタ無効化モードとの切り替えが可能に構成された光学的透過制御部を備え、
前記制御部は、
前記センサ部が測距のための受光を行う場合には前記光学的透過制御部を前記フィルタ有効化モードに制御し、前記センサ部が前記物体検出処理のための受光を行う場合には前記光学的透過制御部を前記フィルタ無効化モードに制御する
前記(2)又は(3)に記載の測距装置。
(11)
前記発光部が発する光についてビームステアリングを行うビームステアリング部を備えた
前記(1)から(10)の何れかに記載の測距装置。
(12)
前記発光部は、前記測距可能範囲のそれぞれ異なるエリアに光を発する複数の光源を有し、
前記制御部は、
前記複数の光源のうち何れの光源を発光させるかにより前記発光部による光の照射位置を変化させる
前記(1)から(10)の何れかに記載の測距装置。
(13)
前記物体検出部は、
前記センサ部による前記階調画像と、前記センサ部とは得られるセンシング画像の種別が異なる別センサ部によるセンシング画像とに基づいて前記物体検出処理を行う
前記(2)又は(3)又は(10)に記載の測距装置。
(14)
光を発する発光部より発せられた光が物体にて反射されて得られる反射光について、ToF方式による測距用の受光動作を行うセンサ部と、
前記センサ部の受光信号に基づき、ToF方式による距離の算出を行う演算部と、
前記センサ部を用いた測距を行うことが可能な画角範囲である測距可能範囲を対象としたセンシングにより得られたセンシング画像に基づいて、物体検出処理を行う物体検出部と、
前記物体検出部により検出した対象物体の位置に応じた位置に対して前記発光部による光を照射したときに前記センサ部で得られる受光信号に基づき、前記演算部が前記対象物体の距離を算出するように制御する制御部と、を備えた
測距装置。
【符号の説明】
【0168】
1,1A,1B,1C,1E 測距装置
10,10D 発光部
10a,10a-1,10a-2,10a-3,10a-4,10a-5,10a-6 発光素子
11,11A,11B センサ部
12,12B 距離算出部
13,13A,13B,13C,13E 制御部
14,14B 階調画像生成部
15,15E 物体検出部
16 ビームステアリング部
17 フィルタ効果制御部
Ob 対象物体
Li 照射光
Lr 反射光
Px 画素
111,111B 画素アレイ部
120 行駆動線
120’ 画素駆動線
121,121-A,121-B ゲート駆動線
122,122-A,122-B 垂直信号線
PD フォトダイオード
FD,FD-A,FD-B フローティングディフュージョン
TG,TG-A,TG-B 転送トランジスタ
Aa 測距可能範囲
Ag 物体検出画素領域
50 電子機器
131 行選択レジスタ
132 列選択レジスタ
140 検出部
141 アービタ部
Sa,Sb 電荷信号
Db ベースライン距離
Po 物体検出画素位置
Pi 照射位置
Ar-1,Ar-2,Ar-1,Ar-2,Ar-1,Ar-2 照射エリア
20 別センサ部