IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

7789012信号処理装置、測距装置、測距方法、イメージセンサ
<>
  • -信号処理装置、測距装置、測距方法、イメージセンサ 図1
  • -信号処理装置、測距装置、測距方法、イメージセンサ 図2
  • -信号処理装置、測距装置、測距方法、イメージセンサ 図3
  • -信号処理装置、測距装置、測距方法、イメージセンサ 図4
  • -信号処理装置、測距装置、測距方法、イメージセンサ 図5
  • -信号処理装置、測距装置、測距方法、イメージセンサ 図6
  • -信号処理装置、測距装置、測距方法、イメージセンサ 図7
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-12-11
(45)【発行日】2025-12-19
(54)【発明の名称】信号処理装置、測距装置、測距方法、イメージセンサ
(51)【国際特許分類】
   G01S 17/36 20060101AFI20251212BHJP
   G01S 17/894 20200101ALI20251212BHJP
   G01C 3/06 20060101ALI20251212BHJP
【FI】
G01S17/36
G01S17/894
G01C3/06 120Q
G01C3/06 140
【請求項の数】 9
(21)【出願番号】P 2022565154
(86)(22)【出願日】2021-10-28
(86)【国際出願番号】 JP2021039866
(87)【国際公開番号】W WO2022113637
(87)【国際公開日】2022-06-02
【審査請求日】2024-09-18
(31)【優先権主張番号】P 2020196095
(32)【優先日】2020-11-26
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】316005926
【氏名又は名称】ソニーセミコンダクタソリューションズ株式会社
(74)【代理人】
【識別番号】110003410
【氏名又は名称】弁理士法人テクノピア国際特許事務所
(72)【発明者】
【氏名】杉本 憲明
【審査官】東 治企
(56)【参考文献】
【文献】特開2018-036145(JP,A)
【文献】国際公開第2020/037167(WO,A1)
【文献】特公昭49-028238(JP,B1)
【文献】米国特許出願公開第2016/0116594(US,A1)
【文献】米国特許出願公開第2016/0216376(US,A1)
【文献】米国特許出願公開第2018/0011196(US,A1)
【文献】特開2017-201760(JP,A)
【文献】特表2013-538342(JP,A)
【文献】独国特許出願公開第102013207653(DE,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G01S 7/48-7/51
G01S 17/00-17/95
G01C 3/00-3/32
(57)【特許請求の範囲】
【請求項1】
第1周波数により変調された第1変調光の受光信号に基づいて第1深度情報を算出する第1深度情報算出部と、
前記第1周波数未満とされた第2周波数により変調された第2変調光の受光信号に基づいて第2深度情報を算出する第2深度情報算出部と、
前記第1深度情報と前記第2深度情報に基づいて被写体までの距離情報を算出する距離情報算出部と、
照射から受光までの前記第2変調光の位相変化が2π未満であるか否かを判定する折り返し判定部と、
前記第2変調光の位相変化が2π未満であると判定された場合に前記距離情報を出力する距離情報出力部と、を備え、
前記折り返し判定部は、前記第2深度情報と前記距離情報の差分が閾値以上である場合に前記第2変調光の位相変化が2π以上であると判定し、
前記閾値は、受光信号の強度に応じて可変とされた
信号処理装置。
【請求項2】
前記距離情報出力部は、前記第2変調光の位相変化が2π以上であると判定された場合に無効値を出力する
請求項1に記載の信号処理装置。
【請求項3】
前記距離情報算出部は、前記第2深度情報が前記第1変調光の位相変化が2πとされたときの被写体の距離である第1折り返し距離以上である場合に、前記第1折り返し距離と前記第1深度情報とを加算することにより前記距離情報を算出する
請求項1に記載の信号処理装置。
【請求項4】
以下の条件式(A)を満足する
請求項3に記載の信号処理装置。
(A)fH≠n×fL
但し、
fH:第1周波数
fL:第2周波数
n:自然数
とする。
【請求項5】
以下の条件式(B)を満足する
請求項4に記載の信号処理装置。
(B)fH=(n+0.5)fL
但し、
fH:第1周波数
fL:第2周波数
n:自然数
とする。
【請求項6】
二次元配列された画素ごとに前記距離情報を算出することにより距離画像を生成する
請求項1に記載の信号処理装置。
【請求項7】
第1周波数により変調された第1変調光と前記第1周波数未満とされた第2周波数により変調された第2変調光の照射が可能とされた光照射部と、
前記第1変調光及び前記第2変調光が被写体に反射した反射光を受光し前記反射光の光強度に応じた受光信号を出力する受光部と、
前記受光部から出力された受光信号に対する信号処理を行う信号処理部と、を備え、
前記信号処理部は、
前記第1変調光の受光信号に基づいて第1深度情報を算出する第1深度情報算出部と、
前記第2変調光の受光信号に基づいて第2深度情報を算出する第2深度情報算出部と、
前記第1深度情報と前記第2深度情報に基づいて被写体までの距離情報を算出する距離情報算出部と、
照射から受光までの前記第2変調光の位相変化が2π未満であるか否かを判定する折り返し判定部と、
前記第2変調光の位相変化が2π未満であると判定された場合に前記距離情報を出力する距離情報出力部と、を有し、
前記折り返し判定部は、前記第2深度情報と前記距離情報の差分が閾値以上である場合に前記第2変調光の位相変化が2π以上であると判定し、
前記閾値は、受光信号の強度に応じて可変とされた
測距装置。
【請求項8】
第1周波数により変調された第1変調光の照射処理と、
前記第1変調光の受光信号に基づいて第1深度情報を算出する処理と、
前記第1周波数未満とされた第2周波数により変調された第2変調光の照射処理と、
前記第2変調光の受光信号に基づいて第2深度情報を算出する処理と、
前記第1深度情報と前記第2深度情報に基づいて被写体までの距離情報を算出する処理と、
照射から受光までの前記第2変調光の位相変化が2π未満であるか否かを判定する処理と、
前記第2変調光の位相変化が2π未満であると判定された場合に前記距離情報を出力する処理と、を備え、
2π未満であるか否かを判定する前記処理では、前記第2深度情報と前記距離情報の差分が閾値以上である場合に前記第2変調光の位相変化が2π以上であると判定され、
前記閾値は、受光信号の強度に応じて可変とされた
測距方法。
【請求項9】
第1周波数により変調された第1変調光及び前記第1周波数未満とされた第2周波数により変調された第2変調光の受光が可能とされ、光電変換部における光電変換によって生じた電荷を検出する第1タップ及び第2タップを有する画素アレイ部を備え、
前記第2変調光の照射から受光までの位相変化が2π以上であるか否かを判定するための受光信号として、前記画素アレイ部は、前記第1変調光の受光に基づく前記第1タップ及び前記第2タップの検出信号と、前記第2変調光の受光に基づく前記第1タップ及び前記第2タップの検出信号とを、出力し、
前記第1変調光の受光信号は第1深度情報の算出に用いられ、
前記第2変調光の受光信号は第2深度情報の算出に用いられ、
前記第1深度情報と前記第2深度情報は、被写体までの距離情報の算出に用いられ、
2π以上であるか否かについての前記判定では、前記第2深度情報と前記距離情報の差分が閾値以上である場合に前記第2変調光の位相変化が2π以上であると判定され、
前記閾値は、受光信号の強度に応じて可変とされた
イメージセンサ。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は、測距のための信号処理を行う信号処理装置、測距装置、測距方法、イメージセンサに関する。
【背景技術】
【0002】
測距技術としてToF(Time of Flight)が知られている。ToFでは、測距レンジと測距精度を両立させることが望まれている。
例えば、下記の特許文献1においては、二つの変調周波数をアナログ的に重畳して測距し、De-Alias処理を行う技術が提案されている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2018-036145公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、特許文献1に記載の方法では、二つの変調周波数f1,f2がn1・f1=n2・f2を満たし、n1、n2が自然数且つn1/n2が自然数でないという条件を満たす必要がある。
【0005】
ところが、PLL(Phase Locked Loop)の精度やEMI(Electro Magnetic Interference)対策等によって上記の条件を満たす変調周波数を正確に設定できない場合がある。
【0006】
本技術は上記事情に鑑み為されたものであり、変調周波数の設定に柔軟性を持たせた上でDe-Alias処理を行うことを目的とする。
【課題を解決するための手段】
【0007】
本技術に係る信号処理装置は、第1周波数により変調された第1変調光の受光信号に基づいて第1深度情報を算出する第1深度情報算出部と、前記第1周波数未満とされた第2周波数により変調された第2変調光の受光信号に基づいて第2深度情報を算出する第2深度情報算出部と、前記第1深度情報と前記第2深度情報に基づいて被写体までの距離情報を算出する距離情報算出部と、照射から受光までの前記第2変調光の位相変化が2π未満であるか否かを判定する折り返し判定部と、前記第2変調光の位相変化が2π未満であると判定された場合に前記距離情報を出力する距離情報出力部と、を備えるものである。
第2変調光の位相変化が2π未満である場合は、第2深度情報と被写体までの実際の距離が略等しくされる。
【0008】
上記した信号処理装置における前記距離情報出力部は、前記第2変調光の位相変化が2π以上であると判定された場合に無効値を出力してもよい。
第2変調光の位相変化が2π以上である場合には、第2深度情報が被写体までの実際の距離よりも短くされる。
【0009】
上記した信号処理装置における前記距離情報算出部は、前記第1変調光の位相変化が2πとされたときの被写体の距離である第1折り返し距離と前記第1深度情報とを加算することにより前記距離情報を算出してもよい。
第1折り返し距離とは、第1変調光が照射されてから受光されるまでの位相の変化が丁度2πとなる被写体までの距離であり、第1変調光によって測距可能な距離でもある。第1変調光の照射によって得られる第1深度情報は第2変調光の照射によって得られる第2深度よりも高精度とされる。
【0010】
上記した信号処理装置においては、以下の条件式(A)を満足するように構成されていてもよい。
(A)fH≠n×fL
但し、
fH:第1周波数
fL:第2周波数
n:自然数
とする。
これにより、被写体までの実際の距離が第2変調光における測距可能距離の1倍以上2倍未満とされた場合に算出される距離情報がゼロ値ではなくなる。
【0011】
上記した信号処理装置においては、以下の条件式(B)を満足するように構成されていてもよい。
(B)fH=(n+0.5)fL
但し、
fH:第1周波数
fL:第2周波数
n:自然数
とする。
これにより、被写体までの実際の距離が第2変調光における測距可能距離と同じ場合に算出される距離情報は、第1変調光における測距可能距離の略半分の数値とされる。
【0012】
上記した信号処理装置における前記折り返し判定部は、前記第2深度情報と前記距離情報を比較することにより前記第2変調光の位相変化が2π未満であるか否かを判定してもよい。
被写体までの実際の距離が第2変調光における測距可能距離の1倍以上且つ2倍未満とされた場合において算出される距離情報は、算出される第2深度情報と乖離したものとなる。
【0013】
上記した信号処理装置における前記折り返し判定部は、前記第2深度情報と前記距離情報の差分が閾値以上である場合に前記第2変調光の位相変化が2π以上であると判定してもよい。
これにより、第2深度情報と距離情報の差分がある程度大きい場合に前記第2変調光の位相変化が2π以上であると判定される。
【0014】
上記した信号処理装置においては、二次元配列された画素ごとに前記距離情報を算出することにより距離画像を生成してもよい。
これにより、距離画像における画素ごとの距離情報において、第2変調光の位相変化が2π未満である場合は、第2深度情報と被写体までの実際の距離が略等しくされる。
【0015】
本技術に係る測距装置は、第1周波数により変調された第1変調光と前記第1周波数未満とされた第2周波数により変調された第2変調光の照射が可能とされた光照射部と、前記第1変調光及び前記第2変調光が被写体に反射した反射光を受光し前記反射光の光強度に応じた受光信号を出力する受光部と、前記受光部から出力された受光信号に対する信号処理を行う信号処理部と、を備え、前記信号処理部は、前記第1変調光の受光信号に基づいて第1深度情報を算出する第1深度情報算出部と、前記第2変調光の受光信号に基づいて第2深度情報を算出する第2深度情報算出部と、前記第1深度情報と前記第2深度情報に基づいて被写体までの距離情報を算出する距離情報算出部と、照射から受光までの前記第2変調光の位相変化が2π未満であるか否かを判定する折り返し判定部と、前記第2変調光の位相変化が2π未満であると判定された場合に前記距離情報を出力する距離情報出力部と、を有するものである。
【0016】
本技術に係る測距装置が実行する測距方法は、第1周波数により変調された第1変調光の照射処理と、前記第1変調光の受光信号に基づいて第1深度情報を算出する処理と、前記第1周波数未満とされた第2周波数により変調された第2変調光の照射処理と、前記第2変調光の受光信号に基づいて第2深度情報を算出する処理と、前記第1深度情報と前記第2深度情報に基づいて被写体までの距離情報を算出する処理と、照射から受光までの前記第2変調光の位相変化が2π未満であるか否かを判定する処理と、前記第2変調光の位相変化が2π未満であると判定された場合に前記距離情報を出力する処理と、を備えたものである。
【0017】
本技術に係るイメージセンサは、第1周波数により変調された第1変調光及び前記第1周波数未満とされた第2周波数により変調された第2変調光の受光が可能とされ、光電変換部における光電変換によって生じた電荷を検出する第1タップ及び第2タップを有する画素アレイ部を備え、前記第2変調光の照射から受光までの位相変化が2π以上であるか否かを判定するための受光信号として、前記画素アレイ部は、前記第1変調光の受光に基づく前記第1タップ及び前記第2タップの検出信号と、前記第2変調光の受光に基づく前記第1タップ及び前記第2タップの検出信号とを、出力するものである。
このような測距装置、測距方法及びイメージセンサによっても、上記した本技術に係る信号処理装置と同様の作用を得ることができる。
【図面の簡単な説明】
【0018】
図1】本技術に係る測距装置の構成例を示す図である。
図2】本技術に係る受光部が備える各画素の構成例を示す図である。
図3】本技術に係る露光制御と受光制御に関する書く信号のタイミングチャートである。
図4】本技術に係る信号処理部が備える各部の構成例を示す図である。
図5】本技術に係る第1制御信号と第2制御信号のON/OFF制御と第1FDと第2FDに蓄積される電荷量の一例を示す図である。
図6】本技術に係る第1深度情報と第2深度情報と距離情報算出部が算出する距離情報の関係を示す図である。
図7】本技術に係る制御部及び信号処理部が実行する処理のフローチャートである。
【発明を実施するための形態】
【0019】
以下、添付図面を参照し、本技術に係る実施の形態を次の順序で説明する。
<1.システム構成>
<2.距離情報の算出>
<3.判定処理>
<4.距離情報出力処理>
<5.処理フロー>
<6.まとめ>
<7.本技術>
【0020】
<1.システム構成>
本技術の測距装置1の構成について図1を参照して説明する。
測距装置1は、光照射部2、受光部3、制御部4、信号処理部5を備えている。
【0021】
光照射部2は、例えば赤外線(IR:Infrared)LED(Light Emitting Diode)などの光源を備えて構成され、制御部4から入力される制御信号に基づいて光を照射する。
光照射部2は特定周波数に基づいて光強度を変調させた変調光の照射が可能とされている。また、光照射部2は、特定周波数を異ならせた複数種類の変調光の照射が可能とされている。以下に示す例では、2種類の特定周波数に基づいて変調された2種類の変調光の照射が可能とされている。以下の説明においては、特定周波数を変調周波数と記載する。
【0022】
以下に示す各例において光照射部2は、2種類の変調周波数に基づく変調光の照射が可能とされている。また、2種類の変調周波数は、相対的に高周波とされた変調周波数を第1周波数fHとし、相対的に低周波とされた変調周波数を第2周波数fLとすると、第1周波数fHは第2周波数fLの整数倍とならないように決定される。具体的には、以下の式(1)を満たすように設定される。
【0023】
fH≠n×fL・・・式(1)
【0024】
本例では、第1周波数fHと第2周波数fLが以下の式(2)を満たすようにされる。
【0025】
fH=(n+0.5)fL・・・式(2)
【0026】
以下の説明においては、第1周波数fHが50MHzとされ、第2周波数fLが20MHzとされた例について述べる。
また、第1周波数fHに基づいて変調された変調光を第1変調光MLHと記載し、第2周波数fLに基づいて変調された変調光を第2変調光MLLと記載する。
なお、光照射部2は3種類以上の変調周波数に基づく変調光の照射が可能とされていてもよい。
【0027】
受光部3は、CMOS(Complementary Metal Oxide Semiconductor)型やCCD(Charge Coupled Device)型などのイメージセンサであり、iToF(Indirect ToF)方式を用いた測距が可能なセンサとして構成されている。受光部3は、画素31が2次元配列されて構成された画素アレイ部を備えている。
受光部3は、制御部4から入力される制御信号に基づく受光制御を行う。
【0028】
受光部3の画素31の構成例について図2に示す。
画素31は、受光素子とされたPD(Photodiode)32と、PD32における光電変換で生成された電荷を検出する第1タップ33及び第2タップ34とを備えて構成されている。
本例におけるPD32は、例えば、赤外領域の光についての感度を有するものとされている。
【0029】
第1タップ33は、第1FD(Floating Diffusion)35と、PD32から第1FD35に電荷を転送するための第1転送トランジスタ36と、図示しない選択トランジスタとリセットトランジスタを備えて構成されている。
【0030】
第2タップ34は、第2FD37と、PD32から第2FD37に電荷を転送するための第2転送トランジスタ38と、図示しない選択トランジスタとリセットトランジスタを備えて構成されている。
【0031】
第1転送トランジスタ36と第2転送トランジスタ38は一方がON状態に制御された場合に他方がOFF状態に制御される。即ち、第1転送トランジスタ36と第2転送トランジスタ38の双方が同時にON状態とならないように制御される。
【0032】
第1転送トランジスタ36のON/OFF状態を制御するための信号は、光照射部2が備える光源の発光周期と同期されている。また、第1転送トランジスタ36と第2転送トランジスタ38に付与される制御信号は、位相差が180度とされる。
【0033】
第1FD35に転送された電荷は、読み出し信号に応じて第1タップ33から出力される検出信号である第1信号S1として信号処理部5に出力される。
第2FD37に転送された電荷は、読み出し信号に応じて第2タップ34から出力される検出信号である第2信号S2として信号処理部5に出力される。
【0034】
画素31は、図2に示す各部以外にも図示しない読み出し用のトランジスタやリセット用のトランジスタを備えている。
【0035】
図1の説明に戻る。
制御部4は、上記したように、変調光を照射するための変調周波数に応じた駆動信号(20MHzや50MHz)を光照射部2に供給する。
これにより、光照射部2は、供給された矩形波の駆動信号に基づいて強度変調された光の照射が可能とされる。なお、光照射部2は正弦波の駆動信号に基づいて強度変調された光を照射してもよい。
【0036】
また、制御部4は、変調周波数に同期させたタイミングで第1転送トランジスタ36と第2転送トランジスタ38のON/OFF制御を行う。
【0037】
1回の露光時間において、制御部4は複数回(例えば数百回から数万回など)のON/OFF制御を行う。具体的に図3を用いて説明する。図3は、露光制御に用いる露光制御信号Seと、所定の変調周波数で強度変調させた光を照射させるために光照射部2に提供される照射光信号SLと、第1転送トランジスタ36に供給される第1制御信号St1と、第2転送トランジスタ38に供給される第2制御信号St2の関係を示した図である。
第1転送トランジスタ36は第1制御信号St1に基づいてON/OFF制御される。また、第2転送トランジスタ38は第2制御信号St2に基づいてON/OFF制御される。
【0038】
図示するように、露光時間Teの間に、照射期間TLに亘る光の照射が複数回行われる。複数回の光の照射は、光の照射期間TLと非照射期間が交互に繰り返されることで行われる。光の非照射期間は、照射期間TLと同じ時間長とされる。即ち、Duty比は50%とされている。
【0039】
制御部4は、照射光信号SLに同期した第1期間T1に亘って第1FD35へ電荷が蓄積されるように第1転送トランジスタ36の切り替え制御を行う。また、制御部4は、照射光信号SLに同期した第2期間T2に亘って第2FD37へ電荷が蓄積されるように第2転送トランジスタ38の切り替え制御を行う。第1期間T1と第2期間T2は照射期間TLと同じ時間長とされている。
【0040】
これにより、第1FD35及び第2FD37には数百回や数千回或いは数万回に亘って電荷が断続的に蓄積される。
照射光の一周期分についての光の受光量がごく微量である場合には、有意なデータが取得できない可能性があるため、数百から数万周期分についての光を受光して電荷を蓄積することにより、十分な受光量を得ることができ有意な情報を取得することが可能となる。
【0041】
なお、1回の露光時間において第1FD35と第2FD37がそれぞれ1回ずつ電荷を蓄積するようにスイッチの切り換えを1回行うようにしてもよい。即ち、露光時間Teの前半に第1FD35が電荷を蓄積するように第1転送トランジスタ36をON状態に制御し、露光時間Teの後半の開始時に第1転送トランジスタ36をOFF状態且つ第2転送トランジスタ38をON状態に切り換える切り替え制御を行うことにより露光時間の後半は第2FD37に電荷が蓄積されるようにしてもよい。
【0042】
図1の説明に戻る。
信号処理部5は、受光部3の第1FD35から出力される第1信号S1と第2FD37から出力される第2信号S2に基づいて各種の処理を行い、距離情報を出力する。そのために、信号処理部5は、第1深度情報算出部51と、第2深度情報算出部52と、距離情報算出部53と、折り返し判定部54と、距離情報出力部55とを備えている。
【0043】
信号処理部5の機能ブロックの一例について図4を参照して説明する。
受光部3からは、第1FD35の出力である第1信号S1と第2FD37の出力である第2信号S2が出力される。以降の説明では、受光部3から出力される第1信号S1と第2信号S2のうち、第1変調光MLHの照射に応じた受光に基づいて出力される信号を第1信号S1Hと第2信号S2Hと記載し、第2変調光MLLの照射に応じた受光に基づいて出力される信号を第1信号S1Lと第2信号S2Lと記載する。
【0044】
第1信号S1Hと第2信号S2Hは、第1深度情報算出部51に入力される。
第1信号S1Hと第2信号S2Hの一例を図5に示す。
図示するように、照射光信号SLに基づいて照射された第1変調光MLHは、被写体で反射した反射光RLとして受光部3で受光される。光電変換によって生成された電荷は、第1制御信号St1及び第2制御信号St2に応じて第1FD35と第2FD37に蓄積される。
【0045】
図5に示す第1領域AR1は、第1制御信号St1がON状態とされた間に第1FD35に蓄積される電荷量を示している。また、第2領域AR2は、第2制御信号St2がON状態とされた間に第2FD37に蓄積される電荷量を示している。
【0046】
第1深度情報算出部51は、第1領域AR1と第2領域AR2に基づいて被写体との深度情報を算出する。50MHzの第1変調光MLHが被写体で反射した反射光は、位相θだけ遅れて受光部3で受光される。第1深度情報算出部51は、位相θを算出し、位相θに応じて深度情報を算出する。
【0047】
具体的には、第1制御信号St1及び第2制御信号St2のON/OFF制御を数百回から数万回程度繰り返すことにより、微少な電荷を数百回から数万回に亘って第1FD35及び第2FD37に蓄積する。第1深度情報算出部51は、このようにして第1FD35及び第2FD37に蓄積された電荷に基づいて位相θを算出する。
【0048】
但し、第1深度情報算出部51が算出する位相θは0~2πの間で算出される。従って、第1変調光MLHに対して反射光の遅れが2π+θや4π+θとされていても、第1深度情報算出部51が算出する位相の遅れはθとして算出される。
【0049】
第1深度情報算出部51が算出する深度情報は、50MHzで強度変調された第1変調光MLHを照射した場合に算出される深度情報であり、これを第1深度情報Dp1と記載する。
【0050】
第1深度情報算出部51が算出する第1深度情報Dp1は、測距レンジが狭い代わりに測距精度が高い。
第1深度情報算出部51における測距レンジの狭さを補うために第2深度情報算出部52が設けられている。
【0051】
第2深度情報算出部52は、20MHzで強度変調された第2変調光MLLの反射光を受光することによって第1FD35から出力される第1信号S1Lと第2FD37から出力される第2信号S2Lに基づいて第2深度情報Dp2を算出する。具体的には、第1深度情報Dp1と同様に、第2変調光MLLに対する反射光の位相の遅れθを算出することにより深度情報が算出される。
【0052】
第2深度情報Dp2は、50MHzよりも低周波とされた20MHzで強度変調された第2変調光MLLを用いて算出されるため、第1深度情報Dp1よりも測距レンジが広い。
【0053】
第1深度情報算出部51から出力される第1深度情報Dp1と第2深度情報算出部52から出力される第2深度情報Dp2は距離情報算出部53に出力される。
【0054】
距離情報算出部53は第1深度情報Dp1と第2深度情報Dp2を用いてDe-Alias処理後の距離情報Daを算出する。
【0055】
ここで、第1変調光MLHを照射した場合に前述の位相θが2πとなる被写体との距離を第1測距可能距離MD1とする。また、第2変調光MLLを照射した場合に前述の位相θが2πとなる被写体との距離を第2測距可能距離MD2とする。また、第1測距可能距離MD1は第1折り返し距離とされ、第2測距可能距離MD2は第2折り返し距離とされる。
【0056】
距離情報算出部53が算出する距離情報Daは0以上且つ第2測距可能距離MD2未満の値とされる。
従って、被写体との実距離Drが第2測距可能距離MD2以上である場合には、適切でない距離情報Daが算出される。
【0057】
折り返し判定部54は、距離情報算出部53が算出した距離情報Daが適切か否かを判定する。具体的には後述するが、距離情報Daは被写体との実距離Drが第2測距可能距離MD2の整数倍に達する毎に折り返された値が算出される。折り返し判定部54は、距離情報Daが折り返される前のものであるか、折り返された後のものであるかを判定する。この判定処理は、被写体との実距離Drが第2測距可能距離MD2未満であるか、第2測距可能距離MD2以上であるかを判定する処理と同義である。
【0058】
折り返し判定部54は、第2測距可能距離MD2以上であるか否かの判定結果と距離情報Daを距離情報出力部55に出力する。
【0059】
距離情報出力部55は、折り返し判定部54から出力された判定結果に基づいて距離情報Daを出力する。距離情報出力部55は、被写体との実距離Drが第2測距可能距離MD2未満であることを示す判定結果が入力された場合には距離情報算出部53で算出された距離情報Daを出力し、被写体との実距離Drが第2測距可能距離MD2以上であることを示す判定結果が入力された場合には距離情報算出部53で算出された距離情報Daを出力せずに無効値を出力する。無効値は、距離情報Daが取り得る値よりも大きな値として第2測距可能距離MD2よりも大きな値とされてもよいし、距離情報Daが取り得ない負の値とされてもよいし、数値以外のフラグ情報などとされてもよい。
【0060】
なお、各図において不図示としたが、測距装置1は、被写体に反射した反射光を適切に受光部3へ集光するための各種レンズや絞り機構などの光学部材と、それらの光学部材を駆動するためのドライバ等を備えていてもよい。
【0061】
<2.距離情報の算出>
第1深度情報Dp1と第2深度情報Dp2と距離情報算出部53が算出する距離情報Daの関係を図6に示す。
【0062】
図6に示すように、被写体との実距離Drが第1測距可能距離MD1未満であれば、第1深度情報Dp1と第2深度情報Dp2の双方ともに被写体との実距離Drに応じた適切な深度情報が出力される。
【0063】
被写体との実距離Drが第1測距可能距離MD1以上且つ第2測距可能距離MD2未満であれば、第2深度情報Dp2は被写体との実距離Drに応じた適切な深度情報が出力される。
一方、第1深度情報Dp1については、被写体との実距離Drとは異なる深度情報として第1測距可能距離MD1未満の深度情報が出力される。
【0064】
更に、被写体との実距離Drが第2測距可能距離MD2以上であれば、第1深度情報Dp1と第2深度情報Dp2の双方ともに被写体との実距離Drとは異なる深度情報が出力される。具体的には、第1深度情報Dp1として第1測距可能距離MD1未満の深度情報が出力され、第2深度情報Dp2として第2測距可能距離MD2未満の深度情報が出力される。
【0065】
距離情報算出部53は、第1深度情報Dp1と第2深度情報Dp2から距離情報Daを算出する。具体的には、先ず、以下に示す式(3)を満たす自然数Nを求める。
【0066】
MD1×N≦Dp2<MD1×(N+1)・・・式(3)
【0067】
次に、以下に示す式(4)を用いて距離情報Daを算出する。
【0068】
Da=MD1×N+Dp1・・・式(4)
【0069】
このように、最終的に距離情報Daを算出する式(4)において第2深度情報Dp2ではなく第1深度情報Dp1を用いることで、測距精度を確保することができる。
【0070】
ここで、被写体との実距離Drが第2測距可能距離MD2である場合の距離情報Daについて説明する。被写体との実距離Drが第2測距可能距離MD2である場合において、上記の式(3)を満たす自然数Nを算出すると、Dp2=0であることから自然数N=0となる。
従って、式(4)よりDa=Dpとなる。
【0071】
このように、被写体との実距離Drが第2測距可能距離MD2を超えた場合には、算出される距離情報Daが0にならないようにされている。これは、被写体の実距離DrがMD2とされた場合における第2深度情報Dp2(=0)と第1深度情報Dp1(≠0)が一致していないことに基づいている。
【0072】
<3.判定処理>
折り返し判定部54が実行する判定処理について説明する。
【0073】
折り返し判定部54は、距離情報算出部53が算出した距離情報Daが折り返される前のものであるか、折り返された後のものであるかを判定する。
この判定処理は、光照射部2から照射された第2変調光MLLが被写体に反射されて受光部3で受光されるまでの位相変化が2π未満であるか否かを判定する処理と同義である。
【0074】
具体的には、距離情報Daと第2深度情報Dp2の差分Dtを算出し、差分Dtが閾値Thよりも大きいか否かを判定することにより、位相変化が2π未満であるか否かを判定する。
【0075】
差分Dtは例えば以下の式(5)によって算出可能である。
【0076】
Dt=abs(Da-Dp2)・・・式(5)
【0077】
なお、abs関数は絶対値を取得する関数とされる。
【0078】
図6に示すように、位相変化が2π未満であれば、即ち、被写体との実距離Drが第2測距可能距離MD2未満であれば、距離情報Daと第2深度情報Dp2の差分Dtは略ゼロ値となる。
一方、位相変化が2π以上であれば、即ち、被写体との実距離Drが第2測距可能距離MD2以上であれば、差分Dtは第1測距可能距離MD1の略半分とされる。
【0079】
差分Dtの比較対象である閾値Thは、実環境において発生するノイズ等を考慮して、例えば、以下の式(6)を用いて設定する。
【0080】
Th=(MD1)/3・・・式(6)
【0081】
なお、閾値Thは、ゼロ値に近い小さな値とすると2π未満の位相変化を2π以上であると誤判定する虞があり、第1測距可能距離MD1の半分に近い大きな値とすると2π以上の位相変化を2π未満であると誤判定する虞がある。
【0082】
閾値Thは、測定環境におけるノイズの大きさによって適切に決定されることが望ましい。ノイズが小さい場合には、閾値Thをゼロ値に近い小さな値とすることや、第1測距可能距離MD1の半分に近い大きな値とすることが許容される。
【0083】
また、ノイズによって誤判定をしないように、受光信号の強度に応じて閾値Thが変化するように構成されていてもよい。
【0084】
位相変化が2π未満であるか否かの判定結果(被写体との実距離Drが第2測距可能距離MD2未満であるか否かの判定結果)は、折り返し判定部54から距離情報出力部55に出力される。
【0085】
なお、被写体との実距離Drが第2測距可能距離MD2の2倍以上3倍未満とされた場合には、差分Dtが略ゼロ値とされる。しかし、この場合には、測距したい距離である第2測距可能距離MD2に対して被写体との実距離Drが2倍以上の距離とされているため、反射光が著しく弱くなっていると考えられる。
従って、受光量が所定値よりも低い場合には、算出された第1深度情報Dp1や第2深度情報Dp2を無視することにより、後段の距離情報出力処理において不適切な距離情報が出力されないようにすることができる。
【0086】
また、換言すれば、測距したい距離の2倍以上の距離にある被写体で反射した光の受光量が所定値よりも低くなるように発光強度を調節することにより、被写体との実距離Drが第2測距可能距離MD2の2倍以上3倍未満とされた場合において距離情報Daが折り返される前のものである、即ち、第2変調光MLLの位相変化が2π未満であると誤判定されてしまう可能性を排除することができる。
【0087】
<4.距離情報出力処理>
距離情報出力部55は、折り返し判定部54から判定結果と距離情報Daを受け取り、必要に応じて距離情報Daを出力する。具体的には、位相変化が2π未満であることを示す判定結果を受け取った場合には、距離情報Daは被写体との実距離Drを示す情報とされているため、距離情報Daを出力する。
【0088】
一方、位相変化が2π以上であることを示す判定結果を受け取った場合には、距離情報Daは被写体との実距離Drと乖離した情報であるため、折り返し判定部54から受け取った距離情報Daをそのまま出力することはしない。代わりに、距離情報Daに無効値を示す情報を格納して距離情報Daとして出力してもよい。
【0089】
無効値を示す情報としては、上述したように、距離情報Daが取り得る値よりも大きな値として第2測距可能距離MD2よりも大きな値とされてもよいし、距離情報Daが取り得ない負の値とされてもよいし、数値以外のフラグ情報などとされてもよい。
【0090】
<5.処理フロー>
測距装置1の処理部として制御部4や信号処理部5が実行する処理の流れについて、図7を参照して説明する。
【0091】
先ず、ステップS101において、測距装置1の制御部4は光照射部2及び受光部3と協働することにより発光処理と露光処理を行う。
【0092】
これにより、画素31ごとの第1信号S1と第2信号S2が後段の信号処理部5に出力される。なお、ステップS101の発光処理及び露光処理は、第1変調光MLHの照射及び露光と、第2変調光MLLの照射及び露光が行われる。従って、ステップS101においては、第1変調光MLHの受光に基づく第1信号S1及び第2信号S2と、第2変調光MLLの受光に基づく第1信号S1及び第2信号S2が出力される。
【0093】
信号処理部5はステップS102においてカウンタcntをゼロ値にリセットする処理を行う。カウンタcntは画素ごとの処理を終えるたびに加算されていくカウンタであり、一枚の距離画像を生成する際に必要となる処理を終えたか否かを判定するために用いられる。
【0094】
次に信号処理部5の第1深度情報算出部51及び第2深度情報算出部52は、ステップS103において第1深度情報Dp1及び第2深度情報Dp2を算出する処理を行う。
【0095】
信号処理部5の距離情報算出部53はステップS104において、第1深度情報Dp1及び第2深度情報Dp2を用いて距離情報Daを算出する。ここで算出される距離情報Daは、ゼロ値以上且つ第2測距可能距離MD2未満の値とされる。
【0096】
信号処理部5の折り返し判定部54は、ステップS105において、折り返し判定を行う。折り返し判定では、前述したように、光照射部2から照射された第2変調光MLLが被写体に反射されて受光部3で受光されるまでの位相変化が2π未満であるか否かを判定する。
【0097】
折り返されていないと判定された場合、即ち、位相変化が2π未満であると判定された場合、信号処理部5の距離情報出力部55はステップS106において、距離情報算出部53によって算出された距離情報Daを出力する。
【0098】
一方、折り返されていると判定された場合、即ち、位相変化が2π以上であると判定された場合、信号処理部5の距離情報出力部55はステップS107において無効値を出力する。
【0099】
ステップS106またはステップS107の処理を実行した後、信号処理部5はステップS108において、カウンタcntが横画素数Pwと縦画素数Phを乗算した値未満であるか否かを判定する。
横画素数Pwは、撮像された画像における横方向(水平方向)の画素数を示す。また、縦画素数Phは、撮像された画像における縦方向(垂直方向)の画素数を示す。
【0100】
カウンタcntが横画素数Pwと縦画素数Phを乗算した値未満である場合には、距離画像に含まれる画素数分の処理を終えていないことになる。この場合には、信号処理部5はステップS109においてカウンタcntに1を加算してステップS103の処理へと戻る。
【0101】
一方、カウンタcntが横画素数Pwと縦画素数Phを乗算した値以上である場合には、一枚の距離画像を生成するために必要な画素数分の処理を終えていることになる。この場合には、信号処理部5はステップS101の処理へと戻り次フレームの距離画像を得るための発光処理及び露光処理を行う。
【0102】
測距装置1は、図7に示す一連の処理を実行することにより、複数枚の距離画像を生成することが可能となる。
【0103】
<6.まとめ>
これまで説明してきたように、信号処理装置としての測距装置1は、第1周波数fH(例えば50MHz)により変調された第1変調光MLHの受光信号に基づいて第1深度情報Dp1を算出する第1深度情報算出部51と、第1周波数fH未満とされた第2周波数fL(例えば20MHz)により変調された第2変調光MLLの受光信号に基づいて第2深度情報Dp2を算出する第2深度情報算出部52と、第1深度情報Dp1と第2深度情報Dp2に基づいて被写体までの距離情報Daを算出する距離情報算出部53と、照射から受光までの第2変調光MLLの位相変化が2π未満であるか否かを判定する折り返し判定部54と、第2変調光MLLの位相変化が2π未満であると判定された場合に距離情報Daを出力する距離情報出力部55と、を備えている。
第2変調光MLLの位相変化が2π未満である場合は、第2深度情報Dp2と被写体までの実際の距離(被写体との実距離Dr)が略等しくされる。
従って、被写体までの実際の距離に応じた適切な距離情報Daを出力することができる。
【0104】
図7等を用いて説明したように、また、測距装置1における距離情報出力部55は、第2変調光MLLの位相変化が2π以上であると判定された場合に距離情報Daとして無効値を出力してもよい。
第2変調光MLLの位相変化が2π以上である場合には、第2深度情報Dp2が被写体までの実際の距離(被写体との実距離Dr)よりも短くされる。
従って、被写体までの実際の距離と乖離している距離情報Daが出力されないようにすることができる。
【0105】
式(4)等を用いて説明したように、測距装置1における距離情報算出部53は、第2深度情報Dp2が第1変調光MLHの位相変化が2πとされたときの被写体の距離である第1折り返し距離(第1測距可能距離MD1)以上である場合に、第1折り返し距離と第1深度情報Dp1とを加算することにより距離情報Daを算出してもよい。
第1折り返し距離とは、第1変調光MLHが照射されてから受光されるまでの位相の変化が丁度2πとなる被写体までの距離であり、第1変調光MLHによって測距可能な距離でもある。第1変調光MLHの照射によって得られる第1深度情報Dp1は第2変調光MLLの照射によって得られる第2深度情報Dp2よりも高精度とされる。
これにより、距離情報算出部53が算出する距離情報Daを高精度なものとすることができる。
【0106】
図6等を用いて説明したように、測距装置1においては、以下の条件式(A)を満足するように構成してもよい。
(A)fH≠n×fL
但し、
fH:第1周波数
fL:第2周波数
n:自然数
とする。
上述した例においては、第1周波数fHが50MHzとされ、第2周波数fLが20MHzとされているため、条件式(A)においてn=2.5となり、nが自然数であるという条件を満たさない。従って、上述した例は、条件式(A)を満たすものである。
これにより、被写体までの実際の距離(被写体との実距離Dr)が第2変調光MLLにおける第2測距可能距離MD2の1倍以上2倍未満とされた場合に算出される距離情報Daがゼロ値ではなくなる。
従って、被写体までの実際の距離と乖離しているか否かの判定を行うことが可能となる。
【0107】
図6等を用いて説明したように、測距装置1においては、以下の条件式(B)を満足するように構成してもよい。
(B)fH=(n+0.5)fL
但し、
fH:第1周波数
fL:第2周波数
n:自然数
とする。
上述した例においては、第1周波数fHが50MHzとされ、第2周波数fLが20MHzとされているため、条件式(B)においてn=2となり、nが自然数であるという条件を満たす。従って、上述した例は、条件式(B)を満たすものである。
これにより、被写体までの実際の距離(被写体との実距離Dr)が第2変調光MLLにおける第2測距可能距離MD2と同じ場合に算出される距離情報Daは、第1変調光MLHにおける第1測距可能距離MD1の略半分の数値とされる。
従って、第2変調光MLLにおける第2測距可能距離MD2は、第1変調光MLHにおける第1測距可能距離MD1の定数倍となる距離の丁度中心の値となるため、被写体までの実際の距離と乖離しているか否かの判定を行うことが可能となるだけでなく、ノイズやキャリブレーションずれや混色等による誤判定への耐性を高めることができる。
【0108】
図6等を用いて説明したように、測距装置1における折り返し判定部54は、第2深度情報Dp2と距離情報Daを比較することにより第2変調光MLLの位相変化が2π未満であるか否かを判定してもよい。
被写体までの実際の距離(被写体との実距離Dr)が第2変調光MLLにおける第2測距可能距離MD2の1倍以上且つ2倍未満とされた場合において算出される距離情報Daは、算出される第2深度情報Dp2と乖離したものとなる。
従って、第2深度情報Dp2と距離情報Daの差分Dtを算出することにより、第2変調光MLLの位相変化が2π未満であるか否かを判定することができる。これにより、被写体までの実際の距離に応じた適切な距離情報を出力することができる
【0109】
図6等を用いて説明したように、測距装置1における折り返し判定部54は、第2深度情報Dp2と距離情報Daの差分Dtが閾値Th以上である場合に第2変調光MLLの位相変化が2π以上であると判定してもよい。
これにより、第2深度情報Dp2と距離情報Daの差分Dtがある程度大きい場合に第2変調光MLLの位相変化が2π以上であると判定される。
従って、ノイズ等による誤判定を防止することができる。
【0110】
図7等を用いて説明したように、測距装置1においては、二次元配列された画素31ごとに距離情報Daを算出することにより距離画像を生成してもよい。
これにより、距離画像における画素31ごとの距離情報Daにおいて、第2変調光MLLの位相変化が2π未満である場合は、第2深度情報Dp2と被写体までの実際の距離(被写体との実距離Dr)が略等しくされる。
従って、被写体までの実際の距離に応じた適切な距離情報Daに基づく距離画像を出力することができる。
【0111】
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
【0112】
<7.本技術>
(1)
第1周波数により変調された第1変調光の受光信号に基づいて第1深度情報を算出する第1深度情報算出部と、
前記第1周波数未満とされた第2周波数により変調された第2変調光の受光信号に基づいて第2深度情報を算出する第2深度情報算出部と、
前記第1深度情報と前記第2深度情報に基づいて被写体までの距離情報を算出する距離情報算出部と、
照射から受光までの前記第2変調光の位相変化が2π未満であるか否かを判定する折り返し判定部と、
前記第2変調光の位相変化が2π未満であると判定された場合に前記距離情報を出力する距離情報出力部と、を備える
信号処理装置。
(2)
前記距離情報出力部は、前記第2変調光の位相変化が2π以上であると判定された場合に無効値を出力する
上記(1)に記載の信号処理装置。
(3)
前記距離情報算出部は、前記第2深度情報が前記第1変調光の位相変化が2πとされたときの被写体の距離である第1折り返し距離以上である場合に、前記第1折り返し距離と前記第1深度情報とを加算することにより前記距離情報を算出する
上記(1)から上記(2)の何れかに記載の信号処理装置。
(4)
以下の条件式(A)を満足する
上記(3)に記載の信号処理装置。
(A)fH≠n×fL
但し、
fH:第1周波数
fL:第2周波数
n:自然数
とする。
(5)
以下の条件式(B)を満足する
上記(4)に記載の信号処理装置。
(B)fH=(n+0.5)fL
但し、
fH:第1周波数
fL:第2周波数
n:自然数
とする。
(6)
前記折り返し判定部は、前記第2深度情報と前記距離情報を比較することにより前記第2変調光の位相変化が2π未満であるか否かを判定する
上記(4)から上記(5)の何れかに記載の信号処理装置。
(7)
前記折り返し判定部は、前記第2深度情報と前記距離情報の差分が閾値以上である場合に前記第2変調光の位相変化が2π以上であると判定する
上記(6)に記載の信号処理装置。
(8)
二次元配列された画素ごとに前記距離情報を算出することにより距離画像を生成する
上記(1)から上記(7)の何れかに記載の信号処理装置。
(9)
第1周波数により変調された第1変調光と前記第1周波数未満とされた第2周波数により変調された第2変調光の照射が可能とされた光照射部と、
前記第1変調光及び前記第2変調光が被写体に反射した反射光を受光し前記反射光の光強度に応じた受光信号を出力する受光部と、
前記受光部から出力された受光信号に対する信号処理を行う信号処理部と、を備え、
前記信号処理部は、
前記第1変調光の受光信号に基づいて第1深度情報を算出する第1深度情報算出部と、
前記第2変調光の受光信号に基づいて第2深度情報を算出する第2深度情報算出部と、
前記第1深度情報と前記第2深度情報に基づいて被写体までの距離情報を算出する距離情報算出部と、
照射から受光までの前記第2変調光の位相変化が2π未満であるか否かを判定する折り返し判定部と、
前記第2変調光の位相変化が2π未満であると判定された場合に前記距離情報を出力する距離情報出力部と、を有する
測距装置。
(10)
第1周波数により変調された第1変調光の照射処理と、
前記第1変調光の受光信号に基づいて第1深度情報を算出する処理と、
前記第1周波数未満とされた第2周波数により変調された第2変調光の照射処理と、
前記第2変調光の受光信号に基づいて第2深度情報を算出する処理と、
前記第1深度情報と前記第2深度情報に基づいて被写体までの距離情報を算出する処理と、
照射から受光までの前記第2変調光の位相変化が2π未満であるか否かを判定する処理と、
前記第2変調光の位相変化が2π未満であると判定された場合に前記距離情報を出力する処理と、を備えた
測距方法
(11)
第1周波数により変調された第1変調光及び前記第1周波数未満とされた第2周波数により変調された第2変調光の受光が可能とされ、光電変換部における光電変換によって生じた電荷を検出する第1タップ及び第2タップを有する画素アレイ部を備え、
前記第2変調光の照射から受光までの位相変化が2π以上であるか否かを判定するための受光信号として、前記画素アレイ部は、前記第1変調光の受光に基づく前記第1タップ及び前記第2タップの検出信号と、前記第2変調光の受光に基づく前記第1タップ及び前記第2タップの検出信号とを、出力する
イメージセンサ。
【符号の説明】
【0113】
Da 距離情報
Dp1 第1深度情報
Dp2 第2深度情報
Dt 差分
fH 第1周波数
fL 第2周波数
MD1 第1測距可能距離
MD2 第2測距可能距離
MLH 第1変調光
MLL 第2変調光
Th 閾値
1 測距装置
2 光照射部
3 受光部
5 信号処理部
31 画素
33 第1タップ
34 第2タップ
51 第1深度情報算出部
52 第2深度情報算出部
53 距離情報算出部
54 折り返し判定部
55 距離情報出力部
図1
図2
図3
図4
図5
図6
図7