【文献】
Payne, A. D. et al.,'MULTIPLE FREQUENCY RANGE IMAGING TO REMOVE MEASUREMENT AMBIGUITY',Proceedings of at 9th Confenrence on Optical 3-D Measurement Techniques,July 1-3,2009,Vienna,Austria,オーストリア,Vienna University of Technology,2009年,[平成29年7月5日検索],pages 139-148,URL,http://researchcommons.waikato.ac.nz/handle/10289/4032
(58)【調査した分野】(Int.Cl.,DB名)
【背景技術】
【0002】
タイムオブフライト(TOF)カメラシステムは、光源から物体までの及び戻りのタイムオブフライトを解析することによって、物体までの距離に関する情報を提供することで知られている。1つの特定の適用例は、シーンの3次元(3−D)画像、すなわち2次元情報および深さすなわち距離情報を取り込むことが可能なカメラである。そのようなカメラシステムは、固定点からの深さすなわち距離情報が判定される必要がある多くの適用例において利用される。一般に、深さすなわち距離情報はTOFカメラシステムから測定される。
【0003】
TOFカメラシステムの基本動作原理は、パルスなどの変調光を用いてシーンを照射することである。これらの光パルスなどの変調光は、シーン内の物体から反射されて戻り、反射された光をレンズが集光して、画像センサ上に、特に、センサのセンサ面上に、シーン内の物体の画像を形成する。カメラからの物体の距離に応じて、例えばパルスなどの、変調光の放出と、カメラにおけるその反射の受信との間で遅延が発生し、例えばカメラから2.5m離れたところにある物体は、16.66nsの遅延を発生させる。しかしパルスを使用する場合、各光パルスのパルス幅がカメラレンジ(camera range)を決定し、例えば50nsのパルス幅の場合、レンジは7.5mに制限される。結果として、シーンの照射はTOFカメラシステムの動作に不可欠なものとなり、照射ユニットに対する要求は、そのような短い光パルスを生成するための、発光ダイオード(LED)又はレーザなどの専用の光源の使用を必要とする。
【0004】
TOFカメラシステムのもう1つの主要な構成要素は、イメージングセンサである。イメージングセンサは一般に、シーンの画像を形成するピクセルのアレイを含む。加えて、ピクセルの出力は、照射ユニットからシーン内の物体までの光、及び物体からイメージングセンサまで反射されて戻る光の、タイムオブフライトを判定するために使用されてもよい。タイムオブフライトは、センサに結合された別個の処理ユニット内で計算されてもよく、又は処理ユニットはセンサ内に組み込まれていてもよい。光が照射ユニットから物体まで移動し、物体からイメージングセンサまで戻るタイミングを測定する、様々な方法が知られている。
【0005】
よく知られているように、各ピクセルは、入射光を受信してこれを例えば電流信号などの電気信号に変換する、感光素子を実質的に含む。アナログタイミングイメージングセンサでは、ピクセルは、加算装置として働くメモリに電流信号を導くスイッチに接続される。デジタルタイミングイメージングセンサでは、電流信号を検知するために高周波カウンタが使用される。背景光の存在は、シーン内の物体から反射されていない追加の光をピクセルが受信する際に距離が誤って判定されることを引き起こす可能性がある。
【0006】
もちろん、イメージング光学系及び処理電子回路もTOFカメラの一部を形成する。イメージング光学系は、シーン内の物体からの反射された光を集め、照射ユニットによって放出された光と同じ波長又は周波数でない光を除去する。不必要な波長又は周波数における光を除去することによって、背景光が効果的に抑止され得る。処理電子回路は、照射ユニット及びイメージングセンサの両方のためのドライバを含み、これによりこれらの構成要素は、シーンの高解像度画像が取得可能であることを保障するように正確に制御され得る。
【0007】
TOFカメラシステムは、利用されるイメージングセンサのタイプに応じて、数ミリメートルから数キロメートルまでの広いレンジをカバーする傾向がある。そのようなTOFカメラシステムは、特定の適用例において使用されるTOFカメラシステムの構成に応じて、センチメートル未満から数センチメートル、又は更にはメートルまでの様々な距離分解能を有する可能性がある。TOFカメラシステムと共に使用されてもよい技術としては、デジタル時間カウンタを有するパルス光源、位相検出器を有する無線周波数(RF)変調光源、及びレンジゲーテッドイメージャ(range−gated imagers)が含まれる。
【0008】
シーン内の物体についてのイメージングセンサの出力から距離情報を抽出することは比較的容易な可能性があるが、TOFシステムは、上述の背景光、2つ以上のTOFカメラシステムがシーンのオーバラップする視野を有して動作している場合の干渉、及び多重反射の影響を受ける。異なるTOFカメラシステム間の干渉は、時分割多重化技術を使用することによって、又は各TOFカメラシステムについて異なる変調周波数を利用することによって低減させられ得る。TOFカメラシステムはシーン全体を照射するため、照射光がいくつかの経路に沿って各物体に到達するのに伴って、複数の反射が得られる可能性がある。これは、TOFカメラシステムからの物体の測定される距離が、TOFカメラシステムからのその実際の距離より大きい又は小さいものとして判定される可能性があるという影響を有する。これは従来のTOFカメラシステムの主要な欠点である。レンジイメージングシステムにおける測定の曖昧性の除去は、A.D.Payne(A.D.パイン)らによって「Multiple Frequency Range Imaging to Remove Measurement Ambiguity(測定の曖昧性を除去するための複数周波数レンジイメージング)」と題された論文において説明されており、この中では、不正確な距離測定をもたらす位相の曖昧性の問題を克服するために、単一の取り込みにおいて2つの異なる変調周波数が重畳される(http://researchcommons.waikato.ac.nz/bitstram/10289/4032/1/Multiple%20Frequency%20Range%20Imaging.pdf)。
【0009】
S.H.McClure(S.H.マクルーア)らによる「Resolving Depth Measurement Ambiguity with Commercially Available Range Imaging Cameras(市販のレンジイメージングカメラでの深さ測定の曖昧性の解決)」と題された論文(Proc.SPIE−IS&T Electronic Imaging、SPIE vol.7538、pp.75380K、2010年)では、深さの曖昧性を解決するためにソフトウェア後処理が使用される。シーンを別個の物体に分割するようにレンジデータが処理され、各物体の平均強度が、どのピクセルが曖昧でないレンジの外にあるかを判定するために使用される。この方法は、例えば、カメラが画像取り込み中に移動している可能性がある、かつシーン内の物体からの反射率の差に対する低減された感度を有する、ロボットビジョンなどの、任意のレンジイメージングカメラシステムに使用され得る。信号処理及び関連する分野において、エイリアシングは、異なる信号がサンプリングされる際に区別できなくなる(すなわち相互のエイリアスとなる)ことを引き起こすという効果を意味する。時間的エイリアシングは、サンプルが時間において区別できなくなる場合である。時間的エイリアシングは、周期的にサンプリングされている信号が周期的内容も有する場合に発生する可能性がある。TOFシステムでは、エイリアシングは、光源と、光を反射する物体との間の距離に関する曖昧性をもたらす。
【0010】
「位相アンラッピング」が、David Droeschel(ダーヴィト・ドレーシェル)、Dirk Holz(ディルク・ホルツ)、及びSven Behnke(スウェン・ベーンケ)による「Probabilistic Phase Unwrapping for Time−of−Flight Cameras(タイムオブフライトカメラのための確率的位相アンラッピング)」と題された論文(Proceedings of Joint 41st International Symposium on Robotics and 6th German Conference on Robotics、ミュンヘン、2010年6月)において説明されている。ラッピングされた位相信号から複数の相対位相シフトが推論され、ここで、距離情報を含む深さ画像内の不連続性に基づいて位相ジャンプ又は位相シフトを検出するために、確率的アプローチが使用される。この著者らは、「Multi−frequency Phase Unwrapping for Time−of−Flight Cameras(タイムオブフライトカメラのためのマルチ周波数位相アンラッピング)」(Proceedings of IEEE/RSJ International Conference on Intelligent Robots and Systems(IROS)、台北、台湾、2010年10月)においても位相アンラッピングについて説明している。
【0011】
R.Schwarte(R.シュヴァルテ)らによる「A New Active 3D−Vision System Based on RF−Modulation Interferometry of Incoherent Light(インコヒーレント光のRF変調インターフェロメトリに基づく新しいアクティブ3Dビジョンシステム)」と題された論文(Photonics East−Intelligent Systems and Advanced Manufacturing、Proceedings of the SPIE、Vol.2588、フィラデルフィア、1995年)において、TOFカメラシステムからの信号を処理する方法が開示されており、この中では、自己相関関数が位相シフトアルゴリズムを利用し、ここで、位相はTOFカメラシステムからの距離に比例し、ここで、測定不確実性は、位相測定の数、変調コントラスト、アクティブ信号内及びノイズ信号内の電子、及び変調信号の波長に従って判定され得る。そのようなシステムは、歩行者及び車両安全システムの両方のために有用であると説明されている。
【0012】
米国特許第7791715(B)号明細書には、少なくとも2つの変調周波数を利用して位相データを取得することによって、TOF位相派生データをディエイリアシングする方法が説明されている。ディエイリアシングを実施するために、ピクセル検出情報が、少なくとも2つの、好ましくは4つの別個の位相において取り込まれる。これらの別個の位相は、TOFカメラシステム内の変調器と、照射ユニットとの間のシフトを表す。これは、放出される光と、イメージングセンサによって受信される、物体からの反射された光との間で検出される、所望される位相シフトとは異なる。別個の位相は、変調器と照射ユニットとの間の固定されたパターンオフセットを相殺するために相互に減算される。2つの変調周波数を使用することによって、システムは、2つの変調周波数の間の差に比例する非常に低速な変調周波数において動作させられている間に位相データが収集されるかのように挙動する。複数の変調周波数の使用は、1つのみの変調周波数を使用して達成可能であるよりも良好な、深さ測定の確実性及び精度を提供する。
【0013】
複数の変調周波数の使用は、Canesta Inc.(カネスタ・インク)のS.Burak Gokturk(S.ブラク・ゴクターク)、Hakan Yalcin(ハカン・ヤルシン)、及びCyrus Bamji(サイラス・バンジ)による「A Time−of−Flight Depth Sensor−System Description,Issues and Solutions(タイムオブフライト深さセンサ−システム記述、問題及び解決法)」においても説明されている。一実施形態では、2つの変調周波数が使用され、結果が組み合わされて、単一の変調周波数と比較してより正確な、物体についての深さ値が提供される。加えて、曖昧でないすなわち明白レンジ(non−ambiguous or unambiguous range)が拡張される。別の実施形態では、f、2f、4f、8fなどにおける変調周波数を用いて複数の測定が行われ、各変調周波数における結果が組み合わされて、長い曖昧でないすなわち明白レンジにわたる、距離の正確な値を提供することが可能である。それぞれの相次ぐ測定において、分解能は倍になり、レンジは半分になる。
【0014】
使用される照射源の周期的性質に、すなわち照射源の変調に起因して、距離レンジ間隔(distance range intervals)は繰り返す傾向がある。この現象は、上述のように、TOFエイリアシングとして知られている。現在、このTOFエイリアシングの問題を解決して、TOFカメラシステムが実装される特定の適用例のための、十分に長い間隔の曖昧でないすなわち明白距離をTOFカメラシステムが提供することを可能にする、限られた数の技術が存在する。しかしこれらの技術は複数の既知の制限を有し、なぜならこれらは、実装が非常に複雑である、集中的な計算を必要とする、堅牢でない、データ伝送において帯域幅オーバヘッドを発生させる、又は、深さ精度又は全体的カメラ性能の減少をもたらす、という傾向があるからである。
【発明の概要】
【発明が解決しようとする課題】
【0015】
従って本発明の目的は、タイムオブフライト(TOF)信号を処理する代替の装置及び方法を、特に、そのようなタイムオブフライト信号のディエイリアシングのための装置及び方法を提供することである。特に、本発明の目的は、タイムオブフライト信号のディエイリアシングを含む代替のTOFセンサ、カメラなどを提供することに関する。
【課題を解決するための手段】
【0016】
本発明の一利点は、TOF信号のディエイリアシングが効率的な手法で実行され得るということである。本発明の実施形態の態様は以下の通りである。
a)2つの相関プロセスを使用し、第1の相関プロセスは、距離又は深さ値を判定するためのものであり、第2の相関プロセスは、第1の相関内にエイリアシングが存在するかどうかを判定するためのものである。これらの2つのプロセスは相互に独立に行われてもよい。
b)上記のa)のうちの第1の相関は、第2の相関より高い優先度を与えられてもよく、例えば第1の相関についての計算量は、第2についてよりも第1について多くてもよく、かつ/又は、第1の相関における信号についての積分時間は、第2についてよりも長くてもよい。
c)深さ又は距離情報を得るために1つの相関プロセスが使用されるのに対して、エイリアシングが存在するかどうかを判定するために2つの方法又はプロセスが使用されてもよい。これらのプロセスのうちの第1は、好ましくは、可能なエイリアシングされた値の数を低減させ、第2のプロセスは次に、例えば除去のプロセスによって、可能なエイリアシングされた値の数を1又は1付近まで集中又は低減させる。
d)判定プロセス、すなわちエイリアシングが存在するかどうかについては、好ましくは、例えば超過又は未満の判定などの、単純な算術に基づく。
【0017】
本発明の第1の態様によれば、イメージングセンサを有し、照射ユニットと共に使用するためのタイムオブフライトシステム内の相関測定において、特定の制限内でエイリアシングの存在を判定する又はエイリアシングを回避する方法が提供され、照射ユニットは、変調光を用いてシーンを照射するように適合され、システムは、シーンから反射された変調光に相関信号を適用することによって相関測定値を取得するように適合され、
この方法は、
a)シーン内の少なくとも1つの物体からの反射された光を検出し、
b)1つ以上の第1の相関測定値によって、第1の相関信号と、イメージングセンサにおいて受信される反射された光との間の第1の相関を判定し、第1の相関信号は第1の周波数の周期的波形を有し、第1の相関測定値はイメージングセンサから少なくとも1つの物体までの距離に関するパラメータの値を提供し、
c)1つ以上の第2の相関測定値によって、イメージングセンサにおいて受信される反射された光と、第2の相関信号との間の第2の相関を判定し、第2の相関信号は第1の周波数より低い第2の周波数の周期的波形を有し、
d)パラメータの値について、第2の相関測定値からエイリアシングの存在を判定することを含む。
【0018】
第1及び第2の信号は、シーンを照射するための光を変調するために使用されてもよく、第2の周波数は第1の周波数と異なる。又は、照射ユニットからの光を変調するために使用される第3の信号が、第2の相関のために使用される第2の信号と異なるデューティサイクルを有してもよい。第2の信号は、第1の信号と比較してオフセットされていてもよい。第2の相関ステップの後に依然として存在する可能性がある任意の可能なエイリアシングを除去するために、距離関連パラメータ、すなわちセンサとシーンとの間の距離を判定するための、第3のプロセスが提供されてもよい。この距離関連パラメータは、例えば反射率マップなどの、
信頼度レベルであってもよい。
【0019】
本発明の別の態様によれば、タイムオブフライトシステム内の位相測定において、例えば少なくとも特定の制限内でエイリアシングの存在を判定する方法が提供され、システムは、イメージングセンサを有しかつ照射ユニットと共に使用するためのものであり、照射ユニットは、周期的波形を有する変調光を用いてシーンを照射するように適合され、システムは、シーンから反射された変調光に相関信号を適用することによって相関測定値を取得するように適合され、
この方法は、
a)第1の周波数及び第2の周波数で変調された光を用いてシーンを照射するために照射ユニットによって使用される、変調信号を提供するステップと、
b)第1の周波数における、シーン内の少なくとも1つの物体からの反射された光を検出するステップと、
c)変調信号と、イメージングセンサにおいて受信される反射された光との間の第1の相関を判定するステップと、
d)照射ユニットによって放出される照射光と、イメージングセンサにおいて受信される反射された光との間の第2の相関を判定するステップと、
e)第1及び/又は第2の相関から、検出される反射された光の同相及び/又は直角位相成分を判定し、同相及び/又は直角位相成分を使用してエイリアシングの存在を判定するステップとを含む。
【0020】
エイリアシングの存在又は曖昧性は、例えば第1及び第2の周波数とそれらの間の関係とによって判定される通りに、特定の距離制限内で判定されてもよい。この曖昧性は、ToF距離が特定の距離まで確実に判定され得ることを意味する。エイリアシングの影響又は曖昧性は、いくつかの実施形態では、TOF以外の距離依存因子又はプロセスに基づく距離測定について
信頼度レベルが判定される場合、更に低減させられ得る。そのような距離関連因子は、例えば、物体から反射されるIR光の量、戻る画像内のスペックルのサイズのような、パッシブなものであり、又は、発散パターンを投射し、センサによって見られるパターンのサイズを測定することなどの、アクティブなものであってもよい。本発明の実施形態によれば、
信頼度閾値が適用される。この
信頼度閾値は、例えば、検出されることが可能な、シーンの物体の距離依存特性に基づいてもよい。閾値はピクセルごとに適用されてもよい。代替の実施形態では、
信頼度閾値は、完全画像の一部に基づいて、例えば画像処理技術によって画像内で検出されることが可能な物体(1つ又は複数)に基づいて、又は画像全体について適用されてもよい。例えば、シーン内で検出される物体の反射率は、測定される距離が正しい可能性があることを確認するために使用されてもよい。
信頼度閾値が距離依存であるインテリジェント閾値プロセスを使用することによって、本発明のTOF方法によって実際にサポートされることが可能な最大距離を増加させること、又は確実に検出されることが可能な最大距離が拡張され得るように最小反射率を減少させることが可能である。
【0021】
直角位相(quadrature)という用語は、位相情報を有する信号を意味する。一般にそのような信号は90°位相がずれているが、本発明は直角位相が90°を意味することに限定されない。60、30°などのような、360°内に配置されるその他の角度が使用されてもよい。本発明の実施形態によって使用されるのは、少なくとも特定の制限内でエイリアシングが判定され得るような手法で、異なる周波数における2つの信号がコンステレーションダイアグラムの異なるセクタ内に入るということである。エイリアシングの判定は、コンステレーションダイアグラム内の決定領域を調べることによって行われてもよい。
【0022】
好ましくは、エイリアシングの存在は、検出される反射された光の同相及び/又は直角位相成分の符号から判定される。
【0023】
好ましくは、位相測定値が、第1の周波数についての様々な位相オフセットにおける相関から判定される。好ましくは、位相測定値が、第2の周波数についての様々な位相オフセットにおける相関から判定される。必要に応じて、第2の周波数は第1の周波数の2
−nであり、ここで、n=1,2,...などである。
【0024】
好ましくは、I値及びQ値を判定するステップは、第1の周波数及び/又は第2の周波数において行われることが好ましい。第1の及び/又は第2の周波数を使用した位相測定ステップは、I値及びQ値を使用して位相測定値を判定することを含んでもよい。
【0025】
本発明の実施形態では、エイリアシングの存在を判定することは、第1の周波数及び/又は第2の周波数において、例えばI値及び/又はQ値を0と比較することによって、I値及び/又はQ値の符号を判定することなどの、単純な算術演算を実行することを含む。コンステレーション円のセクタが、様々な位相オフセットを決定アルゴリズムと関連付けてエイリアシングの存在を判定するために使用されてもよい。
【0026】
別の態様では、本発明は、特定の制限内でエイリアシングの存在を判定する又はエイリアシングを回避する手段を有する、タイムオブフライト又はレンジ検出センサ(range finding sensor)を提供し、センサは、第1及び第2の信号と共に使用するためのものであり、照射ユニットと共に使用するためのものでもあり、照射ユニットは、変調された変調光を用いてシーンを照射するように適合され、システムは、シーンから反射された変調光に相関信号を適用することによって相関測定値を取得するように適合され、
センサは、
a)シーンを照射するために照射ユニットによって使用される第1の信号を提供する手段と、
b)第1の周波数における、シーン内の少なくとも1つの物体からの反射された光を検出する手段と、
c)変調信号と、イメージングにおいて受信される反射された光との間の第1の相関を判定する手段と、
d)イメージングセンサにおいて受信される反射された光と、第2の信号との間の第2の相関を判定する手段と、
e)第1の相関から、イメージングセンサからシーンまでの距離を判定し、第2の相関から、エイリアシングの存在を判定する手段とを含む。
【0027】
手段は、第1の周波数とは異なる第2の周波数を用いてシーンを照射するための光を変調するために、第2の信号が使用され得るように提供されてもよい。又は手段は、照射ユニットからの光を変調するために使用される第3の信号が、第2の相関のために使用される第2の信号と異なるデューティサイクルを有し得るように提供されてもよい。手段は、第2の信号が第1の信号と比較してオフセットされ得るように提供されてもよい。手段は、第2の相関ステップの後に依然として存在する可能性がある任意の可能なエイリアシングを除去するために、距離関連パラメータ、すなわちセンサとシーンとの間の距離に関するパラメータを判定するために提供されてもよい。この距離関連パラメータは、例えば反射率マップなどの、
信頼度レベルであってもよい。
【0028】
更に別の態様では、本発明は、特定の制限内でエイリアシングの存在を判定する又はエイリアシングを回避する手段を有する、タイムオブフライト又はレンジ検出センサを提供し、センサは、イメージングセンサを有し、照射ユニットと共に使用するためのものであり、照射ユニットは、周期的波形を有する変調光を用いてシーンを照射するように適合され、
a)第1の周波数及び第2の周波数で変調された光を用いてシーンを照射するために照射ユニットによって使用される、変調信号を提供する手段と、
b)シーン内の少なくとも1つの物体からの反射された光を検出する手段と、
c)第1の周波数について、変調信号と、イメージングセンサにおいて受信される反射された光との間の第1の相関を判定する第1の手段と、
d)第2の周波数について、照射ユニットによって送られる照射光と、イメージングセンサにおいて受信される反射された光との間の第2の相関を判定する第2の手段と、
e)第1及び/又は第2の相関から、検出される反射された光の同相及び/又は直角位相成分を判定し、同相及び/又は直角位相成分を使用してエイリアシングの存在を判定する第3の手段とを含む。
【0029】
反射された光を検出する手段は、ピクセルを有するセンサであってもよい。相関を判定する手段、及び/又は、同相及び/又は直角位相成分を判定する手段、又は、エイリアシングの存在を判定する手段は、センサに接続された、又はセンサと一体化された処理ユニットであってもよい。例えばこれらの手段はコンピュータによって提供されてもよく、センサの出力はコンピュータに接続される。
【0030】
エイリアシングの存在又は曖昧性は、第1及び第2の周波数、及びそれらの分離、又はそれらの間の関係によって、特定の制限内で判定されてもよい。この曖昧性は、ToF距離が特定の距離まで確実に判定され得ることを意味する。エイリアシングの影響又は曖昧性は、いくつかの実施形態では、ToF以外の因子又はプロセスに基づく距離測定について
信頼度レベルが判定される場合、更に低減させられ得る。本発明の実施形態によれば、
信頼度閾値が適用される。この
信頼度閾値は、例えば、検出されることが可能な、シーンの物体の距離依存特性に基づいてもよい。そのような距離関連因子は、例えば、物体から反射されるIR光の量、戻る画像内のスペックルのサイズのような、パッシブなものであり、又は、発散パターンを投射し、センサによって見られるパターンのサイズを測定することなどの、アクティブなものであってもよい。閾値はピクセルごとに適用されてもよい。代替の実施形態では、
信頼度閾値は、完全画像の一部に基づいて、例えば画像処理技術によって画像内で検出されることが可能な物体(1つ又は複数)に基づいて、又は画像全体について適用されてもよい。例えば、シーン内で検出される物体の反射率は、測定される距離が正しい可能性があることを確認するために使用されてもよい。
信頼度閾値が距離依存であるインテリジェント閾値プロセスを使用することによって、本発明のTOFカメラシステムによって実際にサポートされることが可能な最大距離を増加させること、又は確実に検出されることが可能な最大距離が拡張され得るように最小反射率を減少させることが可能である。
【0031】
好ましくは、第3の手段は、検出される反射された光の同相及び/又は直角位相成分の符号からエイリアシングの存在を判定するように適合される。
【0032】
好ましくは、第1の手段は、第1の周波数についての様々な位相オフセットにおける相関から位相測定を行うように適合される。好ましくは、第2の手段は、第2の周波数についての様々な位相オフセットにおける相関から位相測定を行うように適合される。
【0033】
必要に応じて、第2の周波数は第1の周波数の2
−nであり、ここで、n=1,2,...などである。
【0034】
好ましくは、判定する第3の手段は、第1の周波数及び/又は第2の周波数においてI値及びQ値を判定するように適合される。
【0035】
本発明の実施形態では、判定する第3の手段は、第1の周波数及び/又は第2の周波数において、例えばI値及び/又はQ値を0と比較することによって、I値及び/又はQ値の符号を判定することによって、エイリアシングの存在を判定するように適合される。
【0036】
上記のセンサのうちのいずれも、TOF装置の一部であってもよい。
【0037】
本発明をより良く理解するために、ここで添付の図面を単なる例として参照する。
【発明を実施するための形態】
【0039】
本発明について、特定の実施形態に関して特定の図面を参照して説明するが、本発明はそれらに限定されない。記載される図面は概略的なものにすぎず、非限定的なものである。図面において、要素のうちのいくつかのサイズは、説明の目的のために誇張され、縮尺通りには描かれていない場合がある。
【0040】
本明細書の残りの部分では、ディエイリアシングの原理について、位相測定に基づいて説明する。但し、本発明は他の周期的信号(例えば疑似ランダムビットストリーム又はその他のデジタル信号)に対しても使用できることに留意されたい。
【0041】
図7を参照すると、TOF測定においては、照射ユニットを有するTOFカメラシステムからの照射光がシーン内の点まで進み、それらの点からの反射された光がTOFカメラシステムのセンサユニットに戻るまでの、ラウンドトリップ時間が測定される。従来のTOFカメラシステムでは、照射光は、信号発生器からの信号を用いて照射ユニットを駆動することによって生成される、周期的に変調された光を含む。タイムオブフライトを判定するための1つの選択肢では、シーンを照射するためのTOFカメラシステムから放出される光と、受信されるシーンから反射された光との間の位相遅延が判定される。これは、信号発生器からの変調信号を受信する相関及び評価ユニット内で行われる。
【0042】
この位相遅延は、次に、周期長及び光速を使用して、測定される距離に、すなわちTOFカメラシステムからの、物体の少なくとも1つの点の距離に変換されてもよい。これはピクセルごとに行われてもよい。変調光の周期的性質に起因して、特定の距離において位相遅延測定値は繰り返され(すなわちエイリアシングされ)、これは位相遅延が周期の倍数を超過すると発生する。位相遅延測定値のこの繰り返しは、上述のように、信号の「エイリアシング」と呼ばれる。本質的に、TOF距離測定値Dは、
【数1】
として判定されてもよく、上式で、cは光速であり、fは変調光の周波数であり、phase_degは度単位での位相シフトであり、kは「エイリアシング」された周期の数に関する。この式内の第1の因数は、ディエイリアシングのための備えを有さないシステムについてのエイリアシング距離であり、これは次の明白距離に一致する。
【数2】
この距離は、1周期内に含まれてもよい最大距離を表す。より大きな距離は、k回の繰り返しであり、従って画像内に含まれる場合はエイリアシングされ、そして明白に測定されるためにはkに関する知識が必要とされる。
【0043】
この原理に基づく距離測定値は、理論的には決して一意に規定されず、無制限の数の可能な距離測定値に一致する。現在のシステムでは、全ての測定値について、kの値が0に等しいと仮定する。従って、実際にはいくつかのピクセルについてk>0である場合、この仮定は正しくなく、測定値は不正確である。
【0044】
本発明の態様に従って、新規なディエイリアシング方法が説明され、この方法は、kが0である、又は特定の範囲内であると識別するために、及び/又はkの正確な値を識別するために使用されてもよい。本発明の実施形態は、イメージングセンサを有し、照射ユニットと共に使用するためのタイムオブフライトシステム内の相関測定において、特定の制限内で、エイリアシングの存在を判定する又はエイリアシングを回避する方法を説明し、照射ユニットは、変調光を用いてシーンを照射するように適合され、システムは、シーンから反射された変調光に相関信号を適用することによって相関測定値を取得するように適合される。この方法のステップは任意の好適な順序で実行されてもよい。この方法は、
a)シーン内の少なくとも1つの物体からの反射された光を検出し、
b)1つ以上の第1の相関測定値によって、第1の相関信号と、イメージングセンサにおいて受信される反射された光との間の第1の相関を判定し、第1の相関信号は第1の周波数の周期的波形を有し、第1の相関測定値はイメージングセンサから少なくとも1つの物体までの距離に関するパラメータの値を提供し、
c)1つ以上の第2の相関測定値によって、イメージングセンサにおいて受信される反射された光と、第2の相関信号との間の第2の相関を判定し、第2の相関信号は第1の周波数より低い第2の周波数の周期的波形を有し、
d)パラメータの値について、第2の相関測定値からエイリアシングの存在を判定することを含んでもよい。
【0045】
パラメータは位相差であってもよい。この方法では、第1の位相測定値が、第1の周波数についての様々な位相オフセットにおける第1の相関測定値から判定されてもよい。好ましくは、第1の相関測定値における、検出される反射された信号の信号積分時間は、第2の相関測定値の信号積分時間より長い。これにより距離測定値の精度が向上し、同時に依然としてエイリアシングが解決される。
【0046】
第2の相関信号は、これが相関される検出される反射された変調光のデューティサイクルとは異なるデューティサイクルを有してもよい。第2の相関信号のデューティサイクルは50%であってもよい。
【0047】
第1及び/又は第2の相関測定値はエイリアシングインジケータとして結合される。そのようなエイリアシングインジケータはI値及びQ値であってもよい。別のインジケータは、シーン内の物体からの反射率などの、距離関連因子に基づいてもよい。
【0048】
この方法は、
第2の周波数についての様々な位相オフセットを使用して第2の相関測定値を判定するステップと、
1つ以上の第2の相関測定値から、検出される反射された光の同相及び/又は直角位相成分を判定し、同相及び/又は直角位相成分を使用してエイリアシングの存在を判定するステップとを更に含んでもよい。
【0049】
エイリアシングの存在は、距離関連因子を測定することから判定される
信頼度レベルを使用することによって判定されてもよい。距離関連因子は、反射された光の量、スペックルパターンのサイズ、インポーズされるパターンのサイズであってもよい。
【0050】
エイリアシングの存在は、検出される反射された光の同相及び/又は直角位相成分の符号などのインジケータから判定されてもよい。
【0051】
第2の位相測定値が、第2の周波数についての様々な位相オフセットにおける第2の相関測定値から判定されてもよい。第1の周波数は第2の周波数と異なり、例えば第2の周波数より高い、又は第2の周波数の倍数である。
【0052】
同相及び/又は直角位相成分を判定するステップは、第1の周波数及び/又は第2の周波数におけるI値及びQ値を判定することを含んでもよい。
【0053】
エイリアシングの存在は、I及び/又はQの符号、及び/又は、I及びQの絶対値の差などのインジケータから判定されてもよい。
【0054】
実施形態は、特定の制限内でエイリアシングの存在を判定する又はエイリアシングを回避する手段を有する、タイムオブフライト又はレンジ検出センサユニットを説明し、センサは、照射ユニットと共に使用するためのものであり、照射ユニットは、変調光を用いてシーンを照射するように適合され、システムは、シーンから反射された変調光に相関信号を適用することによって相関測定値を取得するように適合され、
センサユニットは、
a)シーン内の少なくとも1つの物体からの反射された光を検出する、第1の手段と、
b)第1の相関測定値によって、第1の信号と、イメージングセンサにおいて受信される反射された光との間の第1の相関を判定する、第2の手段と(第1の相関測定値はイメージングセンサからシーンまでの距離に関するパラメータの値を提供し)、
d)第2の相関測定値によって、イメージングセンサにおいて受信される反射された光と、第2の信号との間の第2の相関を判定する、第3の手段と(第2の信号は第1の周波数より低い第2の周波数の周期的波形を有し)、
e)その値について、第2の相関測定値からエイリアシングの存在を判定する、第4の手段とを含む。
【0055】
パラメータは位相差であってもよい。第2の手段は、第1の周波数についての様々な位相オフセットにおける第1の相関測定値から第1の位相測定値を判定するように適合されてもよい。
【0056】
好ましくは、第2及び第3の手段は、第1の相関測定値の信号積分時間が第2の相関測定値の積分時間より長いように適合される。
【0057】
第2の相関信号は、これが相関される検出される反射された変調光のデューティサイクルとは異なるデューティサイクルを有してもよい。第2の信号のデューティサイクルは50%であってもよい。
【0058】
第2の相関を判定する第3の手段は、第2の周波数についての様々な位相オフセットにおいて第2の相関測定を実行するように適合されてもよい。
センサユニットは、第2の相関測定値から、検出される反射された光の同相及び/又は直角位相成分を判定するように適合されてもよく、第4の手段は、同相及び/又は直角位相成分を使用してエイリアシングの存在を判定する。
【0059】
エイリアシングの存在は、距離関連因子から判定される
信頼度レベルを使用することによって判定されてもよい。距離関連因子は、第1の周波数及び/又は第2の周波数において変調された反射された光の量、スペックルパターンのサイズ、インポーズされるパターンのサイズであってもよい。
【0060】
同相及び/又は直角位相成分を判定する手段は、検出される反射された光の同相及び/又は直角位相成分の符号からエイリアシングの存在を判定するように適合されてもよい。
【0061】
判定する第2の手段は、第1の周波数についての様々な位相オフセットにおける第1の相関から位相測定を行うように適合されてもよい。
【0062】
判定する第3の手段は、第2の周波数についての様々な位相オフセットにおける第2の相関から位相測定を行うように適合されてもよい。
【0063】
第1の周波数は第2の周波数と異なり、例えば第2の周波数より高い、又は第2の周波数の倍数である。
【0064】
同相及び/又は直角位相成分を判定する第4の手段は、第2の周波数におけるI値及びQ値を判定するように適合されてもよい。
【0065】
同相及び/又は直角位相成分を判定する第4の手段は、I値及び/又はQ値の符号を判定することによってエイリアシングの存在を判定するように適合されてもよい。
【0066】
第1及び/又は第2の信号は、好ましくは、オフセットエラーを回避するために位相オフセットについて較正される。
【0067】
センサユニットのセンサは、マイクロプロセッサ又はFPGAなどのプロセッサを含んでもよい相関及び評価ユニットと共に使用するためのものであってもよい。
【0068】
第1及び第2の信号が、反射された光との相関のために説明されるが、本発明は、カスケードされてもよい又は繰り返し適用されてもよい、より多くの信号の使用を含み、それらの信号は第1及び第2の信号とは異なる周波数におけるものであってもよい。
【0069】
第1の利点は、kが0であるかどうかを判定する場合、距離測定値は今や一意に規定される距離測定値であり、これにより、k>0の場合に上記で説明したようにシステムが不正確な距離情報を出力することが回避されるということである。第2の利点は、kの値を認識した場合、この識別された情報をシステムがより長い距離レンジに変換することが更に可能になるということである。第3の利点は、より高い変調周波数が使用可能であり、深さ精度に関する有利な効果を有する可能性があるということである。
【0070】
TOFなどのいくつかの距離測定技術では、測定において使用される反射されたアクティブ赤外線光の強度についての追加の値も取得され、本願発明者らはこれを
信頼度と呼ぶ。
信頼度は距離の2乗で低下する。
【0071】
エイリアシングの曖昧性の解決における第1のアプローチは、kを判定するために
信頼度を見ることである。
信頼度は距離の関数であるだけでなく、シーン内の表面の反射率の関数でもあるため、これは良い解決法ではない。従って、非常に低い
信頼度は、1周期を超えて離れた物体(k>0)に、又は非常に低い反射率を有するすぐ近くの物体(例えば黒い革ジャケット)に対応する可能性がある。従って、この原理に依拠するためには、シーン内の全てのピクセルについて、シーン内の反射率が知られていなければならない。そのような場合、
信頼度はkを判定するために使用されてもよい。しかし実際にはこれは稀なケースである。
【0072】
本発明で使用されるアプローチでは、
信頼度に部分的に依拠する。第1のアプローチは、
信頼度に基づいて、k>0を有する可能性がある全てのピクセルを抑止することである。上記で示したように、
信頼度は、k>0を有するピクセルが、すぐ近くのより低い反射率を有するピクセルと区別されることを可能にせず、両方が抑止される。従って、この原理を適用すれば、k>0を有する測定値が抑止されることが保証され、しかし特定の反射率制限より下の、エイリアシング距離未満の良好な測定値も抑止される。一次において、この最少反射率制限は、適用例のために必要とされる最大距離の2乗に比例し、明白距離の2乗に反比例する。高反射率、及び例えば低反射率衣料などの非常に低い反射率レベルに適合することが、この技術の使用事例の多くにおける目的であるため、この反射率制限は上記の技術の重大な制限である。従って、本発明の目的は、この制限を最小にすることである。これは明白距離を増加させること、又は適用例のために必要とされる最大距離を低減させることによって取得される。しかし後者は、ほとんどの場合はこれが適用例によって規定される固定パラメータであるため、見通しをほとんど又は全く提供せず、従って本明細書の残りの部分では考慮されない。明白距離は、変調周波数を低減させることによって容易に増加させることが可能である。しかしこれは距離測定に関する不確実性に悪影響を及ぼす。従って、本明細書で説明される、明白距離を増加させる他の手段が重要である。
【0073】
距離依存である適応閾値などの、より複雑な
信頼度閾値メカニズムを使用すれば、特定の反射率制限での最大サポート距離を増加させること、及び/又は最小反射率制限を減少させることが可能である。
【0074】
説明を容易にするために、一般的なTOFカメラシステムが本明細書全体を通して仮定される。TOFカメラシステムにおいて位相を測定するために、同相すなわちI値、及び直角位相すなわちQ値が判定される。直角位相という用語は、位相情報を有する信号を意味する。一般にそのような信号は90°位相がずれているが、本発明は直角位相が90°を意味することに限定されない。60、30°などのような、360°内に配置されるその他の角度が使用されてもよい。エイリアシングの判定は、コンステレーションダイアグラム内のそのような決定領域を調べることによって行われてもよい。
【0075】
本発明の実施形態によれば、I値及びQ値が判定される。これは一般に、例えば2つ以上の、又は、3つ、4つの異なる位相オフセットなどの、複数の位相オフセットにおいて、放出される及び反射される光信号の間の相関を測定することによって行われる。例えば4つのオフセットは、一般に0°、90°、180°、及び270°である。これらの測定値を使用する場合、I値及びQ値は、
I=M_0−M_180
Q=M_90−M_270
であり、上式で、M_0、M_90、M_180、及びM_270はそれぞれ0°、90°、180°、及び270°における測定値である。
【0076】
I及びQは、次に、標準的な三角法の関係
φ=atan2(Q,I)
を使用して位相φを計算するために使用されてもよい。
【0077】
TOF測定のための照射光として使用される変調周波数は、以下の説明全体を通して、第1の周波数又はベース周波数(BF)と呼ばれる。加えて、第2の周波数又は派生周波数が、BFに対するそれらの関係に従って、例えばHALF及びQUARTERなどと呼ばれる。
【0078】
本発明の目的は、TOF距離測定に次いで、追加のより短い測定を追加することによってエイリアシングを区別し、エイリアシング状態を判定することを可能にする技術も提供することである。本発明の目的は、この測定を行うために必要とされる積分時間をできるだけ短く保って、必要とされる照射におけるエネルギーを節約し、できるだけ集中し、実際の距離測定のための長い積分時間を可能にすることである。積分時間がより長ければ、不確実性はより少ない。しかし利用可能な積分時間は、例えば50fpsに対して20msのように、必要とされるフレームレートによって制限される。従って、非常に短い時間フレーム内でエイリアシングを識別する技術を有することが重要であり、非常に有利である。
【0079】
本発明の第1の実施形態によれば、1つの追加の測定が、上述の標準的なTOF技術を用いて、より低い第2の周波数において行われる。この測定は、例えば第2の周波数HALF、すなわち第1の周波数又はBFの半分において行われる。その場合、システムは以下の関係を使用して、kが偶数であることとkが奇数であることを判別することが可能である。
QHALF>0の場合→kが偶数でのTOF測定
QHALF<0の場合→kが奇数でのTOF測定
【0080】
従って、1回の測定の符号を調べることのみで、kについての可能な値を奇数又は偶数のいずれかであることに低減させることが可能になる。従って、明白距離は2倍に増加させられ、これにより反射率制限は4分の1に低減させられる。
【0081】
しかし、この測定におけるノイズに起因して、例えばQHALFが0に非常に近い場合、測定値は誤って解釈される可能性がある。
【0082】
あるいは、IHALF測定値も、上記と同じ関係を使用して、測定におけるノイズの同じ問題を伴って使用されてもよい。
【0083】
これを改良するために、測定の時間的コヒーレンシを考慮に入れ、エイリアシング距離を完全に又はほぼ完全に変える距離を拒絶してもよく、なぜならそれらは上記で説明したノイズに起因する可能性があるからである。エイリアシング距離は一般にかなり大きく、例えば20MHzの変調周波数に対して7.5mなどである。時間的コヒーレンシに次いで又はこれと共に、周囲のピクセルも考慮に入れられてもよい。
【0084】
ノイズに対する耐性を向上させるための別の手法は、例えばIHALF又はQHALFだけでなく、両方を調べ、次にQHALF、IHALFの符号、並びにQBF及びIBFの符号も使用することによって、追加の冗長性を測定内に追加することである。このようにして、以下でより詳細に説明するように、4つの可能性のある結果及び結論が取得され得る。
【0085】
QBF及びIBFは一般に、容易に入手可能であり、なぜならこれらはTOF測定自体を完了するために計算されなければならず、従って追加の必要とされる測定値とはみなされないからである。
【0086】
図1は、4つの象限1、2、3、及び4に分割されたコンステレーションダイアグラム10を示す。各象限1、2、3、及び4は、それぞれ、0°と90°との間、90°と180°との間、180°と270°との間、及び270°と0°すなわち360°との間の位相範囲に対応する。第1の周波数又はベース周波数、及びベース周波数の半分である第2の周波数に関して、以下の表1は、各行が、円10内のHALF又は低周波数象限に対応し、各列が、BF又は高周波数象限に対応することを示す。各測定について、QHALF、IHALF、QBF、及びIBFの符号が、次に、BF又は第1の周波数、及びHALF又はより低い周波数についての象限を判定するために使用されてもよい。これらの象限を使用して、HALF又はより低い周波数についての正しい象限の値が表1に示されている。この正しい値は次に、上記で示したように、kの奇数及び偶数符号を判定するために使用される。このようにして、測定値の冗長性に起因して、最大90°までのノイズが補正され得る。
【0088】
従って、最初に
信頼度閾値が設定されてk>1の可能性がある全ての測定値を除去しなければならず、次にHALF象限を認識し、「HALF_3」又は「HALF_4」の値は単一のエイリアシング距離が追加される必要があることを意味し、「HALF_1」又は「HALF_2」の象限値はエイリアシングが存在しないことを意味する。従って、HALFQ及びHALFIの測定を追加し、HALFQ、HALFI、QBF、IBFの符号を見ることのみによって、明白距離の倍増を達成することが可能である。
【0089】
HALFQ及びHALFI測定値について符号のみが区別される必要があるため、これらの測定値を得るために使用されるアクティブ光の量を制限することが望ましい。上記で示したように、約90°のノイズがこの技術を使用して修正され得る。従って、システム動作は、3Dタイムオブフライトカメラの当業者によって行われ得るように、90°を超えるノイズを回避するように設計されるべきである。
【0090】
更に、第2の重要な制約条件は、両方の周波数において行われる測定の間のオフセットである。このオフセットは、90°の許容ノイズレベルから上記の理由において導き出される。従って、このオフセットをできるだけ低減させることが重要である。これは例えば1)変調信号を位相シフトさせること、又は2)受信される相関のうちの1つを後で計算的に回転させることによって行われてもよい。
【0091】
オフセットを低減させることは、製造中のTOFカメラ較正フェーズの間に、固定された既知の距離において各周波数について位相を測定し、測定されるオフセットについて補正することによって行われてもよい。このオフセット値はデジタルメモリ内に記憶され、次に、放出される光又は反射される光のうちの1つに遅延を適用してオフセットを補償するために使用される。
【0092】
一般的な実装では、第1の周波数又は高変調周波数は、TOFカメラシステム内のベースクロックによって許容される可能な最小数のデジタルステップを用いて達成され、第2の周波数又は最低周波数は、いくつかのベースクロック・ティックで作られる。従って、第2の周波数又は最低周波数(この場合はHALF)のみを調節することが、その遅延を第1の周波数又は最高周波数(BF)と一致させるために必要である。
【0093】
加えて、残りの不一致は、PLL又は遅延線を使用して除去されてもよい。
【0094】
あるいは、同期は、(2×2)×(2×1)マトリクス操作を用いてI及びQ座標を回転させることによって達成されてもよく、ここで(2×2)マトリクスは、較正中に決定されてもよく、又は特定のTOFカメラシステム製造ラインについての固定されたマトリクスとして定義されてもよい。
【0095】
但し、本発明の第1の実施形態は、第1の周波数又は元の変調周波数すなわちBF信号において取得可能な、曖昧性のないすなわち明白距離(non−ambiguity or unambiguous distance)の、最大2倍までしか検出できないという点において明確な制限を有することに留意されたい。
【0096】
本発明の第2の実施形態では、第2の周波数はQUARTER周波数であってもよく、例えば、20MHzの第1の周波数BFに対して、使用されてもよい第2の周波数又は最低周波数は5MHzである。これはエイリアシング距離レンジの最大4倍までの、識別がもたらされ得るレンジの拡張を提供する。
【0097】
図2は、示されている8つのセクタ1、2、3、4、5、6、7、及び8に分割された円20を示す。この場合、測定におけるノイズの存在に起因する1つのケースから別のケースへのジャンプを回避するために調べられる必要がある、以下の表2に示す8つの可能なケースが存在する。
【0098】
上記のHALF周波数の場合と同様に、冗長性のない、しかしノイズの傾向がある実装が可能である。この場合、これはQUARTER周波数を4つのみの象限に分割することに基づく。前の場合と同様に、ノイズの影響に対する補償は、時間コヒーレンシ及び/又は隣接するピクセルとのコヒーレンシを使用して提供され得る。
【0100】
表2では、各行が、円20内の第2の周波数QUARTER又は低周波数セクタに対応し、各列が、第1の周波数BF又は高周波数象限に対応する。表2内の値は、正しいQUARTERに対応する。このようにして、測定値の冗長性に起因して、最大90°までのBF又は高周波数ノイズが補正され得る。
【0101】
表2では、ケース1〜8は、以下のステップが実行されるという前提で区別され得る。
1)Iの符号を調べる
2)Qの符号を調べる
3)I>Qかどうかを調べる
【0102】
前と同様に、これらの全ての演算は単純な比較演算であり、しかし制約条件は同じままであり、すなわち、第1の周波数BF又は高周波数信号の90°が、第2の周波数QUARTER又は低周波数信号の22.5°と等しい。これは、表1及び2のそれぞれが4つの列を有する理由でもある。
【0103】
より低い周波数についてQUARTER_1〜QUARTER_8のケースを区別することは、次に、以下を識別するために役立つ。
QUARTER_1又はQUARTER_2:kは[0;4;8;...]に属する
QUARTER_3又はQUARTER_4:kは[1;5;9;...]に属する
QUARTER_5又はQUARTER_6:kは[2;6;10;...]に属する
QUARTER_7又はQUARTER_8:kは[3;7;11;...]に属する
【0104】
明白距離はこれによって4倍に拡張される。従って、
信頼度閾値に課される必要がある反射率制限は、所望されたように大幅に低減される。
【0105】
本発明は、HALF又はQUARTER周波数である第2の周波数に限定されず、EIGHTH及びより低い分数周波数などの他の周波数に拡張されてもよい、ということは容易に理解されるであろう。しかし、EIGHTH又はより低い分数周波数の利用に伴って、計算要件における関連する増加があり、なぜならその場合この技術は、全てのエイリアシングパターンを識別できるように、少なくとも8つの、及び好ましい16のケースを使用するからである。
【0106】
エイリアシングレンジを、BF又は高周波数の曖昧性のないすなわち明白な間隔の最大4倍に拡張することは、完全にディエイリアシングされた距離測定又は関連する画像を達成するために、多くの場合すでに十分である。しかしTOPカメラシステムの曖昧性のないすなわち明白レンジを更に拡張することが本発明の範囲内に含まれることは、理解されるであろう。
【0107】
反射率と距離との間のトレードオフが、距離に対する相対信号強度のグラフがプロットされた
図3に示されている。トレース30は、反射率4%の場合のエイリアシングされていない信号に関し、トレース35は、反射率100%の場合のエイリアシングされた信号に関する。
【0108】
しかし、変調周波数を増加させる場合、これはTOFカメラシステムの性能のために有益であるが、システムの最大レンジを4倍に拡張することは適切ではない場合がある、ということが見い出された。1.5mの自然な曖昧性のないすなわち明白距離を有する100MHzの第1の周波数BFが使用される場合、上記の本発明の第2の実施形態に関して説明されたQUARTER周波数である第2の周波数を使用すれば、曖昧性のないすなわち明白距離は今や6mである。しかし、TOFカメラシステムが動作する領域のサイズに起因して、距離測定は3mに制限され、反射率制限は一次において25%となり、これはより低い反射率の物体についての距離判定を非常に困難にする。その上、6mより大きな距離におけるディエイリアシングが必要とされるシステムについて、QUARTER周波数である第2の周波数は、従って十分ではない。
【0109】
上述のように、EIGHTH周波数である第2の周波数がこれらの状況のために使用されてもよいが、より複雑な比較が伴う。より複雑な比較の代替として、反復技術が、曖昧性のないすなわち明白距離を拡張するために使用されてもよい。
【0110】
本発明の第1の実施形態で上述したHALF周波数である第2の周波数を使用する、反復方法が実装されてもよい。これは曖昧性のないすなわち明白距離を100%拡張し、すなわち、第1の周波数BFを用いて取得される明白距離を2倍にする。第1の反復において距離は100%拡張される(2倍される)。第2の反復において距離は更に100%拡張され(実質的に4倍され)、第3の反復において距離は更に100%拡張される(8倍にされる)。各反復において、測定値におけるエイリアシングの存在が判定され得るように、I及びQの符号が判定される。
【0111】
反復を無期限に実行することが可能であるが、許容ノイズ制限が慎重に守られなければならない、ということが理解されるであろう。1ステップについての最大許容ノイズは90°であり、しかしこれはその後、この反復プロセスの全ての段階において順守されなければならない。
【0112】
あるいは、第2のHALF周波数の反復を使用する代わりに、第2のQUARTER周波数について反復が実行されてもよく、これは同じ数の測定を用いて物体が測定され得る距離のより大きな拡張を可能にする。加えて、反復は、第2のHALF及びQUARTER周波数の両方を使用して結合されてもよい。第2のHALF周波数を反復内に含め、これにより、曖昧性のないすなわち明白距離を他の手法で更に拡張することも可能な場合がある。
【0113】
TOF測定は一般に、複数の異なる測定を行うことによって実施される。これらの測定は、照射源によって放出される変調信号と、TOFカメラシステムのイメージングセンサにおいて受信されるものとの間の位相差又は時間遅延差において異なる。これらの測定は「位相フレーム」と呼ばれてもよい。一般に、0°、90°、180°、及び270°が位相フレームのために使用される。これらの測定のそれぞれは並列に、又は順次行われてもよい。本発明は1つ以上の追加の測定が行われることを必要とするため、これらの追加の測定を実施する様々な手法が可能である。
【0114】
追加の測定を実施する一方法は、位相フレームのための測定時間の長さを低減させ、必要とされる追加の測定を追加することである。一実施では、4つの追加の位相フレームが必要とされ、0_HF、90_HF、180_HF、270_HF、0_LF、90_LF、180_LF、270_LFにおける測定がもたらされ、ここで、HFは高周波数を意味し、LFは低周波数に関する。一般にこれらの測定は順次行われ、ディエイリアシングの十分な精度のために必要とされる測定時間は、LFについてはHFと比較してはるかに短い。
【0115】
別の方法は、これらの追加の測定を個々の位相フレームのそれぞれの後に追加することであり、これにより、0_HF、0_LF、90_HF、90_LF、180_LF、180_HF、270_LF、270_HFにおける測定がもたらされる。
【0116】
これらの測定は、システムが許容する場合、並列に行われてもよい。本発明の方法は、低レベル電子回路を使用して実装されてもよい。この方法は、ホスト上のドライバ回路内に、又は更にはその背後に容易に実装されることが可能であるが、一般には、コンパニオンチップ又はフィールドプログラマブルゲートアレイ(FPGA)上で動作するファームウェア内に実装される。この方法はまた、イメージングセンサの集積回路(IC)内に組み込まれてもよい。加えて、本発明の方法は、逆正接(tan−1すなわちarctan)、平方根(sqrt)などのような困難な代数関数にではなく、非常に単純な比較ロジックに基づくため、特に有用である。
【0117】
本発明のシステムは、必要とされる測定値の数を低減させることによって最適化され得る。TOF理論によれば、少なくとも3つの測定値が好ましい。従って、0°及び90°値のみを基準値と共に測定することが可能である。ここで、必要とされるI値及びQ値は以下のように判定されてもよい。
I=M_0°−基準
Q=M_90°−基準
上式で、M_0°及びM_90°は、それぞれ0°及び90°において取られる測定値である。
【0118】
本発明について、例えば0°、90°、180°、及び270°などの、90°間隔で取られる測定値を使用して説明してきたが、その他の測定値も使用されてもよいということが理解されるであろう。測定値間隔は、0°、120°、及び240°、又は任意のその他の好適な測定値間隔であってもよい。同相及び/又は直角位相信号が評価される場合、0°、90°、180°、及び270°、又は、90°、180°、270°、及び360°の間隔が使用される傾向がある。
【0119】
本発明の別の実装では、追加のより低い周波数の測定のために、光源に送られる変調信号とセンサ内のミキサ29(
図6を参照)に送られるミックス信号とについて、異なるデューティサイクルが使用されてもよい。そのようなアプローチのために使用される信号を有する例示的フレームが、
図4に示されている。フレームは長さ110を有し、これらの種類の測定において一般的なように、信号対ノイズ比を向上させるために、示されているフレームは1回の測定について複数回繰り返される。数値の一般的な例は、フレーム長について100ns、1000回の繰り返し、及び100μsの実効時間にわたる積分である。
【0120】
例えばBFの周期の半分である、例えば長さ100を有するパルス106などの信号が、照射の変調信号として使用され、センサのミキサは、例えばHALF周波数パルス長に対応する、パルス長100より長いデューティサイクル長103を有するパルス107を用いて駆動される。そのような信号を使用して、kが奇数であるか偶数であるかを以下のように確認することができる。
1)
図4に示すMIX信号についての、第1の測定値(M1)
2)
図4に示す反転されたMIX信号についての、第2の測定値(M2)
図4のRETURN_LIGHT_Aによって示されているように、M1>M2はk=偶数を示す。
図4のRETURN_LIGHT_Bによって示されているように、M2>M1はk=奇数を示す。
【0121】
図4における波形は、好ましくは、M1=M2となる距離がBFについてのエイリアシング距離と一致するように構成される。この理由により、
図4に示されているパルス106の開始は、パルス107の開始から位相シフトされている。パルス106はフレーム境界にまたがるため、従ってフレームの始まりにおける部分とフレームの終わりにおける部分とを有する。より小さなパルス幅100が選択されれば、kの値に関してより多くのコントラストが得られ、しかしパルス幅100がより短く選択されるにつれて、より少ないエネルギーが照射によって放出され、従ってより長い積分時間が特定のノイズレベルを得るために必要とされる、ということにも留意されたい。
【0122】
この技術の利点は、行われなければならない測定が2つだけであるということである。追加の冗長性は必要とされない。従って、実際のTOF距離測定を実行するためにより多くの時間が利用可能である。
【0123】
上記のデューティサイクル変化技術のより一般的なアプローチのために使用される信号を有する例示的フレームが、
図5に示されている。再び、フレームは長さ210を有し、ディエイリアシングのための追加の測定の間、継続的に繰り返されるとみなされる。パルス長203は、kに関して調べるために任意に選択されてもよく、例えば、パルス長203がエイリアシング距離に一致しパルス長204がエイリアシング距離の2倍に一致するように選択されてもよく、これにより以下のようにkに関して調べることが可能になる。
1)
図5に示すMIX信号についての、M1を測定
2)
図5に示す反転されたMIX信号についての、M2を測定
M1>M2は、kが[0;3;4;7;8;11...]に属することを示す
M2>M1は、kが[1;2;5;6;9;10...]に属することを示す
【0124】
従って、2つのみの追加の測定を用いて、明白距離の拡張はk=2までになり得る(k=3はk=0と同様となる)。
【0125】
上記は一例であるということ、及び、当業者によって構成され得るように、異なるパルス長203及び204を選択することによって、非整数を含む、kに関する任意の確認が、同様の手法で確認され得るということに留意されたい。また、前の技術と同様に、この技術も、明白距離を更に拡張するために反復されてもよい。
【0126】
より小さなパルス幅200が選択されれば、kの値に関してより多くのコントラストが得られ、しかしパルス幅200がより短く選択されるにつれて、より少ないエネルギーが照射によって放出され、従ってより長い積分時間が特定のノイズレベルを得るために必要とされる、ということに再び留意されたい。
【0127】
MIX信号波形が平均して50%のバランスの取れたデューティサイクルを依然として有するということは重要である。これは主として、背景光がバランスが取れていて、様々な必要とされるTOF測定の間に打ち消される、ということを確実にするためである。例として、
図5に示すように、MIX信号が周期の始まり及び終わりにおいてhighであるようにパルスを拡張することが達成される。始まりのパルス長205は、実際には(前のフレームの終わりにおける)パルス長203によって先行され、バランスが取れているために、両方の合計は204に等しい。
【0128】
図6は、本発明によるTOFカメラ又はレンジ検出システムの別の実施形態を示す。レンジ検出システムは、光を反射する関心領域に好ましくは焦点が合わせられた周期的光51をシーン55上に放出するための、光源49を含む。周期的光51は、2つの検出可能に異なる周波数−第1の周波数又はベース周波数及び第2のより低い周波数−を含む。レンジ検出システムは、反射された光を受信するための少なくとも1つのピクセル31を更に含む。反射された光はまた、第1及び第2の周波数における、例えばパルスなどの信号成分を含む。光源49が変調光を放出するために、信号発生器43が備えられる。信号発生器43は、例えば約10MHzにおける所定の第1の周波数又はベース周波数において好ましくは恒久的に発振している信号又は変調信号を、ノード48上で生成する。この信号発生器43は、類似した第2〜第5のクロック信号も生成し、これらはそれぞれ、ノード48上の第1のクロック信号との0°、180°、90°、及び270°の位相関係を有して、ノード44、45、46、47上に配送される。当業者は、その他の又はより多くのクロック位相を動作方式内で使用することも考慮することが可能であり、より多くのクロック位相は、より良好な測定精度を、より長い測定時間と引き換えにもたらす。信号発生器は、第2の周波数又はより低い周波数における信号も生成する。従って、信号発生器は、第2の周波数又はより低い周波数における、第1〜第5のクロック信号を生成する。これは例えば、第1の周波数又はベース周波数における信号を生成し、しかしベース周波数信号の振幅を、一定の間隔をおいて、例えばベース周波数の何分の1かの周波数において、変更する(例えばこれを増加させる)ことによって達成されることが可能である。例えば、第2の周波数は第1の周波数の2
−nであってもよく、ここで、n=1,2,...などである。フィルタリングによって、変調信号から、及び例えば観察中の物体からの反射された信号からも、第1又は第2の周波数における信号のいずれかが抽出されることが可能である。
【0129】
信号発生器43は、変調信号変更手段による変調信号の変更を決定する制御信号41、例えば、セレクタ58による第2〜第5のクロック信号の間での、すなわちクロック信号の様々な位相の間での選択を決定する制御信号41も生成してもよい。セレクタ58は、これらの4つの位相の間を順次切り換えて、検出器及びミキサステージ200のミキサ29の入力ノード42を、ノード44、45、46、及び47上の第2〜第5のクロック信号と順次接続する。これらの位置のそれぞれにおいて、セレクタ58は、例えば約1msの緩和期間にわたって接続されたままであってもよい。
【0130】
バッファ50は、好ましくは関心領域に焦点が合わせられた光51をシーン55上に放出する、光源49を駆動する。この光の一部は反射され、従って反射された光52を生成する。この反射された光52は次に、レンズ56などの光学合焦システム上に到達し、これを通してピクセル31内の検出器28上に結像又は合焦され、ここで、入射の一部は、反射された変調光(ML)27と呼ばれる。
【0131】
TOF測定を目的としない二次光源30から生じる間接光53及び直接光54の両方も、シーン内に存在し、光学合焦システム56に当たり、従って検出器28上に合焦される。検出器28に入る、この光の一部は、背景光(BL)26と呼ばれる。BLを生成する光源30は、白熱灯、TL灯、太陽光、昼光、又はシーン上に存在しTOF測定のための光源49から発するものではないその他のいかなる光も含む。
【0132】
ML27及びBL26は光検出器28上に当たり、当たっているBL26及びML27による光誘起電流応答であるML電流及びBL電流をそれぞれ生成する。検出器28はこれらの電流を、当たっているBL26及びML27による電流応答を入力ノード42上の位相シフトされたクロック信号とミキシングするための、例えばミキサ29などの、後続のミキシング手段に出力する。このBL26は、TOF測定のために受信されるML27によって誘起されるML電流より最大6桁大きいBL電流を誘起する可能性がある。
【0133】
検出器及びミキサステージ200を形成する検出器28及びミキサ29は、例えば欧州特許出願公開第1513202(A1)号明細書に記載されているような、光生成電荷を混合してミキシングプロダクト電流を一度に生成する1つの単一装置として実装されてもよい。検出器及びミキサステージ200は、当たっているBL26及びML27による電流応答と位相シフトされたクロック信号とのミキシングプロダクトを生成し、これらの信号はノード38上で、例えばキャパシタ25を用いて実装される積分器によって積分され、キャパシタ25は好ましくは、例えば周辺のトランジスタの寄生容量などの、小さな容量に保たれる。積分の間、積分器ノード38上のミキサ出力信号の自動リセットが実行される。これは第1及び第2の周波数の両方について実行される。
【0134】
これは例えば、比較器33が、例えばリセットトランジスタ32などの、リセットスイッチをトリガすることによって実施されてもよく、これによりノード38上のミキサ出力信号は、これが基準値Vrefに到達したら自動的にリセットされ、従って飽和が回避される。
【0135】
図面に示されていない代替の実施形態では、積分器ノード38上のミキサ出力信号の自動リセットは、その他のいくつかの手法で実施されてもよい。それらのうちの1つは、リセットスイッチ32の代わりに電荷ポンプをトリガして一定量の電荷をキャパシタ25に追加するというものであり、これにより、複雑さのいくらかの増加を犠牲にして、より良好なノイズ性能がもたらされる。
【0136】
ミキサ出力信号を形成するミキシングプロダクトは、積分器ノード38において、変調信号変更手段(示されている例ではセレクタ58)と同期された順次的形式で得られる。例えばバッファなどの、出力ドライバ24は、実質的に1の電圧利得と、電流増幅とを提供し、これにより、より強力な出力信号を出力ノード23において提供する。
【0137】
フィルタリングによって、観察中の物体からの反射された信号から、第1又は第2の周波数における信号のいずれかが抽出されることが可能である。
【0138】
本発明について、図面及び前述の説明において詳細に図示及び説明したが、そのような図示及び説明は、限定的なものではなく、例証又は例示のためのものであるとみなされるべきであり、本発明は開示された実施形態に限定されない。開示された実施形態のその他の変形が、図面、開示、及び添付の特許請求の範囲を検討することによって、特許請求される本発明の実施において当業者によって理解され、もたらされ得る。特定の手段が相互に異なる従属請求項内に記載されているという単なる事実は、これらの手段の組み合わせが有利に使用され得ないということを示さない。特許請求の範囲内のいかなる参照符号も、範囲を限定するものと解釈されるべきではない。
【0139】
付記1
イメージングセンサを有し、照射ユニットと共に使用するためのタイムオブフライトシステム内の相関測定において、特定の制限内でエイリアシングの存在を判定する又はエイリアシングを回避する方法であって、前記照射ユニットは、変調光を用いてシーンを照射するように適合され、前記システムは、前記シーンから反射された変調光に相関信号を適用することによって相関測定値を取得するように適合され、
前記方法は、
a)前記シーン内の少なくとも1つの物体からの反射された光を検出し、
b)1つ以上の第1の相関測定値によって、第1の相関信号と、前記イメージングセンサにおいて受信される前記反射された光との間の第1の相関を判定し、前記第1の相関信号は第1の周波数の周期的波形を有し、前記第1の相関測定値は前記イメージングセンサから前記少なくとも1つの物体までの距離に関するパラメータの値を提供し、
c)1つ以上の第2の相関測定値によって、前記イメージングセンサにおいて受信される前記反射された光と、第2の相関信号との間の第2の相関を判定し、前記第2の相関信号は前記第1の周波数より低い第2の周波数の周期的波形を有し、
d)前記パラメータの値について、前記第2の相関測定値からエイリアシングの存在を判定すること
を含む、方法。
付記2
第1の位相測定値が、前記第1の周波数についての様々な位相オフセットにおける前記第1の相関測定値から判定され、必要に応じて、第2の位相測定値が、前記第2の周波数についての様々な位相オフセットにおける前記第2の相関測定値から判定される、付記1に記載の方法。
付記3
前記第1の相関測定値における、検出される反射された信号の信号積分時間は、前記第2の相関測定値の信号積分時間より長い、付記1又は2に記載の方法。
付記4
前記第2の相関信号は、これが相関される検出される反射された変調光のデューティサイクルとは異なるデューティサイクルを有し、前記第2の相関信号のデューティサイクルは必要に応じて50%である、付記1〜3のいずれか一項に記載の方法。
付記5
前記第2の周波数についての様々な位相オフセットを使用して前記第2の相関測定値を判定するステップと、
1つ以上の第2の相関測定値から、検出される反射された光の同相及び/又は直角位相成分を判定し、前記同相及び/又は直角位相成分を使用してエイリアシングの存在を判定するステップと
を更に含む、付記1〜3のいずれか一項に記載の方法。
付記6
エイリアシングの存在は、距離関連因子を測定することから判定されるコンフィデンスレベルを使用することによって判定され、前記距離関連因子は、必要に応じて、反射された光の量、スペックルパターンのサイズ、インポーズされるパターンのサイズである、付記1〜5のいずれか一項に記載の方法。
付記7
前記第1の相関測定値及び/又は第2の相関測定値はエイリアシングインジケータとして結合され、エイリアシングの存在は、検出される反射された光の同相及び/又は直角位相成分の符号であるインジケータから判定される、付記1〜6のいずれか一項に記載の方法。
付記8
同相及び/又は直角位相成分を判定するステップは、前記第1の周波数及び/又は前記第2の周波数におけるI値及びQ値、及び/又は、I及びQの絶対値の差を判定することを含む、付記5〜7のいずれか一項に記載の方法。
付記9
タイムオブフライト又はレンジ検出センサユニットであって、
特定の制限内でエイリアシングの存在を判定する又はエイリアシングを回避する手段を有し、センサは、照射ユニットと共に使用するためのものであり、前記照射ユニットは、変調光を用いてシーンを照射するように適合され、システムは、前記シーンから反射された変調光に相関信号を適用することによって相関測定値を取得するように適合され、
前記センサユニットは、
a)前記シーン内の少なくとも1つの物体からの反射された光を検出する、第1の手段と、
b)第1の相関測定値によって、第1の信号と、イメージングセンサにおいて受信される前記反射された光との間の第1の相関を判定する、第2の手段と、
ここで、前記第1の相関測定値は前記イメージングセンサから前記シーンまでの距離に関するパラメータの値を提供し、
d)第2の相関測定値によって、前記イメージングセンサにおいて受信される前記反射された光と、第2の信号との間の第2の相関を判定する、第3の手段と、
ここで、前記第2の信号は第1の周波数より低い第2の周波数の周期的波形を有し、
e)その値について、前記第2の相関測定値からエイリアシングの存在を判定する、第4の手段と
を備える、センサユニット。
付記10
前記第2の手段は、前記第1の周波数についての様々な位相オフセットにおける前記第1の相関測定値から第1の位相測定値を判定するように適合され、又は、判定する前記第3の手段は、前記第2の周波数についての様々な位相オフセットにおける前記第2の相関から位相測定を行うように適合され、又は、前記第2及び第3の手段は、前記第1の相関測定値の信号積分時間が前記第2の相関測定値の積分時間より長いように適合される、付記9に記載のセンサユニット。
付記11
第2の相関信号は、これが相関される検出される反射された変調光のデューティサイクルとは異なるデューティサイクルを有し、必要に応じて、前記第2の信号のデューティサイクルは50%である、付記9又は10に記載のセンサユニット。
付記12
前記第2の相関を判定する前記第3の手段は、前記第2の周波数についての様々な位相オフセットにおいて第2の相関測定を実行するように適合され、
前記センサユニットは、前記第2の相関測定値から、検出される反射された光の同相及び/又は直角位相成分を判定するように適合され、前記第4の手段は、前記同相及び/又は直角位相成分を使用してエイリアシングの存在を判定し、ここで、エイリアシングの存在は、必要に応じて、距離関連因子から判定されるコンフィデンスレベルを使用することによって判定され、前記距離関連因子は、必要に応じて、前記第1の周波数及び/又は第2の周波数において変調された反射された光の量、スペックルパターンのサイズ、インポーズされるパターンのサイズであり、
同相及び/又は直角位相成分を判定する手段は、必要に応じて、前記検出される反射された光の前記同相及び/又は直角位相成分の符号からエイリアシングの存在を判定するように適合される、
付記9〜11のいずれか一項に記載のセンサユニット。
付記13
同相及び/又は直角位相成分を判定する前記第4の手段は、前記第2の周波数におけるI値及びQ値を判定するように適合され、又は、同相及び/又は直角位相成分を判定する前記第4の手段は、前記I値及び/又はQ値の符号を判定することによってエイリアシングの存在を判定するように適合される、付記9〜12のいずれか一項に記載のセンサユニット。
付記14
前記第1の信号及び/又は第2の信号は、位相オフセットについて較正される、付記9〜13のいずれか一項に記載のセンサユニット。
付記15
付記9〜14のいずれか一項に記載のセンサユニットを有するTOFカメラ。