(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0010】
(本発明の基礎となった知見)
被写体の測距情報を有する画像(以下、距離画像)を生成する装置や手法は、近年、ゲームやアミューズメント分野だけでなく、車載カメラまたは監視カメラなどの2次元イメージセンサーが使用されてきた分野にも応用されている。
【0011】
距離画像を生成するための被写体の測距手法には、複数のカメラを用いて撮像した画像の視差に基づいて距離画像を生成する方法、既知のランダムドットパターンを被写体に照射しドットパターンを受光する視差に基づいて距離画像を生成する方法などが存在する。それらの方法の一例であるTOF方式は、赤外光やレーザー光を被写体に向けて照射してから、被写体で反射した光を固体撮像装置で受光するまでの計測時間に基づいて被写体までの距離を算出(測距)する方式である。
【0012】
昨今のTOF方式は、被写体で反射した光を、画素アレイを有する固体撮像素子により露光し、得られた信号量より、固体撮像素子の画素毎に距離情報を取得することが可能であり2次元面上に距離分布を示す距離画像を生成することが可能である。
【0013】
当該技術では、固体撮像素子から被写体までの距離や被写体の表面反射率に応じて、受光する反射光の強度は大きく変動する。そこで、照射光源の強度や固体撮像素子の受光感度や露光量を一律にする。しかし、固体撮像素子の受光面に距離の異なる複数の対象物が存在する場合には、距離画像全体にわたって良好な測距性能を得ることが難しい。
【0014】
固体撮像素子で受光する反射光強度は、光源から被写体までの距離の二乗に反比例して減衰する光の特性または被写体表面の光反射率に依存する。例えば、反射光の露出調整を実施し露光量を増やすと、近距離にある物体や表面反射率の高い物体からの反射光は光強度が高くなり、固体撮像素子の受光可能な露光量を超えて飽和状態となる。この場合、正しい受光量信号を取得できなくなる。逆に、露光量を減らすと、遠距離にある物体または表面反射率の低い物体からの反射光量は微小となる。この場合には、安定した距離測定が困難になる。
【0015】
上述のような技術的課題に対する解決手段として、特許文献1、特許文献2および特許文献3が開示されている。
【0016】
特許文献1および特許文献3では、露出の異なる複数枚の距離画像を取得し、それら複数画像から距離画像の合成を行い距離測定範囲の拡大と距離測定精度の向上を実施している。
【0017】
特許文献2では、固体撮像素子において、偶数画素行と奇数画素行とで、それぞれ信号電荷の蓄積時間を個別に設定することにより異なる感度の信号を取り出し、これら感度の異なる信号を後段の信号処理系で合成する。具体的には、例えば、偶数行の各画素については蓄積時間を長く設定し高感度の画素信号を得て、奇数行の各画素については蓄積時間を短く設定し低感度の画素信号を得る。合成処理においては、偶数行の画素信号(高感度の画素信号)が飽和していない画素については高感度の画素信号を選択して利用し、飽和した画素については近傍の奇数行の画素信号(低感度の画素信号)を選択するといった合成処理が一般的である。
【0018】
しかしながら、特許文献1または特許文献3の距離測定装置は、フレーム単位で時系列に異なる露光条件で距離画像を取得するため、対象物の距離が変化した際に距離測定の精度が低下する課題がある。さらに、当該測距測定装置では、露出の異なる複数枚の距離画像を記憶するため、固体撮像素子の画素毎の距離値を記憶するフレームメモリが必要となる。したがって、固体撮像素子の多画素化に伴い、より大容量のフレームメモリを必要とし、距離測定装置が大型かつ高価になるという問題がある。
【0019】
また、特許文献2の合成処理では、高感度の画素信号が飽和していない場合は高感度の画素信号のみを利用するため、低感度の画素信号の画素情報は、有効であっても利用されないことになる。
【0020】
以下に説明する距離測定装置では、対象物体の距離による光の減衰または表面反射率の影響による反射光強度の低下により制約を受ける固体撮像素子の1フレーム内の距離測定範囲を拡大することで、時系列に沿った対象物の距離変化に強い距離画像を取得することができる。また、当該距離測定装置では、照射光以外の背景光による外乱の影響を除去することで、良好な精度の距離画像を取得することができる。これにより、フレームメモリ等を必要としない小型で低価格な距離測定装置の提供が可能となる。
【0021】
以下、本開示に係る実施形態について、図面を参照しながら詳細に説明する。
【0022】
(各実施形態における共通説明)
以下に説明する各実施形態では、被写体に対してLED光やレーザー光を照射して発生する反射光の往復時間を求めることで測距するTOF方式を用いる場合を例として説明する。
【0023】
図1は、本実施形態1または2に係る距離測定装置100の構成を示す構成図である。
図1に示す距離測定装置100は、発光露光制御部101、固体撮像素子102、信号処理部103および発光部104を備えている。
【0024】
固体撮像素子102としては、CCD(Charge Coupled Device)イメージセンサーや、CMOS(Complementary Metal―Oxide Semiconductor)イメージセンサー等が挙げられる。
【0025】
発光部104は、光源駆動部114と光源115から構成されている。光源115は、例えばLEDやレーザーダイオード等が挙げられる。
【0026】
信号処理部103は、ラインメモリ111、合成部112および距離演算部113から構成される。
【0027】
発光露光制御部101は、後述の所定の条件に従って、発光タイミング信号LT1と露光タイミング信号ET1とシャッタータイミング信号SH1とを生成し出力する。発光タイミング信号LT1により発光部104内の光源駆動部114がON/OFF制御され、光源115が対象物OBJに向かって光L1を照射する。照射光L1は、所定の発光幅を持つパルス波形の光である。
【0028】
照射光L1は、対象物OBJで反射する。この反射光L2は、図示しないレンズ光学系を介して固体撮像素子102で受光される。固体撮像素子102は、行列状に配置された複数の画素を有している。固体撮像素子102において、露光タイミング信号ET1とシャッタータイミング信号SH1に従って各画素での露光が制御される。各画素で光電変換され蓄積された信号電荷に応じた画素信号は、信号処理部103へ出力される。
【0029】
図2は、TOF方式の一例を示す図である。
図2を用いてTOF方式の距離測定法の一例を説明する。TOF方式では、光源からパルス状に照射される光の反射光を全て受光するS0露光、光源から照射されるパルス光が反射した物体の距離に起因して時間遅延した反射光のうちで遅延時間分に相当する反射光の一部を受光するS1露光、および、光源を発光させずに背景光のみを受光するBG露光を行う。また、S0露光及びS1露光においては、背景光も同時に受光する。これらの3種類の露光を複数回ずつ繰り返して電荷を蓄積し、その蓄積した電荷量に応じた画素信号S0、S1、BGを得る。光源から対象物OBJまでの距離Lは、発光パルス幅(照射パルス時間幅)をT0、光の速度をcとすると、数式1で得られる。
【0030】
【数1】
・・・・・・・・・・・・・・・・・・・・・・・・・ 数式1
【0031】
図3は、TOF方式の他の例を示す図である。
図2の方式に対して固体撮像素子の露光期間の長さが発光パルス幅と概同一となり、対象物から反射し遅延して戻ってきた反射光に対して、照射光のパルス発光タイミングと概同一の露光期間で受光するS0露光と、照射光のパルス発光完了より後に戻ってきた反射光の一部を受光するS1露光を得る。この場合の対象物OBJまでの距離Lは、数式2で得ることができる。
【0032】
【数2】
・・・・・・・・・・・・・・・・・・・・・・・・・ 数式2
【0033】
なお、露光信号のタイミングおよび距離計算式はこれだけに限定されるものではない。例えば、照射光をサイン波状に発光させて、照射光のサイン波の位相に対して0度の位相、90度の位相、180度の位相および270度の位相に相当するタイミングで反射光を露光して4つの画素信号を画素群ごとに取得する。そして、0度の位相の画素信号と180度の位相の画素信号の差分信号と90度の位相の画素信号と270度の位相の画素信号の差分信号との比から照射光に対する反射光の時間差を算出し、距離に換算する方法を取ることもできる。
【0034】
信号処理部103に入力された画素信号群(S0、S1、BG)は、固体撮像素子102の画素に対応してライン単位で、ラインメモリ111に保持される。合成部112は、ラインメモリ111から必要な参照画素の画素信号を入力して合成処理を行う。合成部112で行われた合成処理の結果は距離演算部113に入力され、距離演算部113で合成後の画素信号を用いて数式1もしくは数式2の計算を行い、計算の結果得られた距離値D0を出力する。
【0035】
(第1の実施形態)
以下、第1の実施形態について説明する。本実施形態では、発光露光制御部101から出力される露光タイミング信号ET1は、詳細には前述のS0露光用、S1露光用、およびBG露光用の3つの露光用信号を1組とした2組の信号ET10a、ET11a、ET12aおよびET10b、ET11b、ET12bから構成されている。発光露光制御部101は、当該信号群を固体撮像素子102へ出力する。
【0036】
図4は、本実施形態に係る測距測定装置における固体撮像素子の概略構成図である。
図4に固体撮像素子102の画素セルの配置と露光タイミング信号群の接続関係の一例を示す。
図4中のP01、P02、P03・・・は、フォトダイオード領域を含む各画素セルを示している。
【0037】
各画素セルは、ライン単位で奇数ラインと偶数ラインとにおいて画素位置が水平方向に半画素ピッチずらして配置されている。奇数ラインの画素セルには露光タイミング信号ET10a、ET11a、ET12aの3つの信号が接続され、偶数ラインの画素セルにはET10b、ET11b、ET12bの3つの信号が接続されている。なお、図示していないが、シャッタータイミング信号SH1を供給するラインは、すべての画素セルに共通して接続されている。
【0038】
図5に、本実施形態に係る測距測定装置における固体撮像素子の画素セルの概略構成図を一例として示す。
【0039】
光電変換を行うフォトダイオード501にはリセットトランジスタ502が接続され、シャッタータイミング信号SH1がオンされるとフォトダイオードで光電変換された電荷は破棄される。
【0040】
さらに、フォトダイオード501にはアナログスイッチ510、511、512を介してアナログメモリー520、521、522がそれぞれ接続される。奇数ラインの画素セルでは、アナログスイッチ510のON/OFFの制御のために露光タイミング信号ET10aが供給され、アナログスイッチ511ON/OFFの制御のために露光タイミング信号ET11aが供給され、アナログスイッチ512のON/OFFの制御のために露光タイミング信号ET12aが供給される。同様に、偶数ラインの画素セルでは、アナログスイッチ510のON/OFF制御に露光タイミング信号ET10bが接続され、アナログスイッチ511ON/OFFの制御のために露光タイミング信号ET11bが供給され、アナログスイッチ512のON/OFFの制御のために露光タイミング信号ET12bが供給される。
【0041】
アナログメモリー520、521、522は、それぞれ接続されるアナログスイッチ510、511、512がON状態の期間かつリセットトランジスタ502がOFF状態の非リセット期間に、フォトダイオード501で光電変換された電荷を蓄積する。また、アナログメモリー520、521、522は、アナログスイッチ510、511、512がON状態の期間かつリセットトランジスタ502がON状態の期間またはアナログスイッチ510、511、512がOFF状態の期間には電荷蓄積しない。
【0042】
上記の構成を取ることにより、固体撮像素子102は奇数ラインと偶数ラインの行毎に独立して露光制御が可能となる。
【0043】
図6A及び
図6Bに、発光露光制御の第1の例として、発光露光制御部101が出力する露光タイミング信号と照射光及びシャッタータイミング信号SH1との関係の一例を示す。
図6Aは、本実施形態に係る測距測定装置における発光露光制御タイミング図である。
【0044】
発光露光制御部101が生成し出力する発光タイミング信号LT1によって生じるパルス状の照射光と、発光露光制御部101が生成し出力する露光タイミング信号ET1およびシャッタータイミング信号SH1は、
図6Aに示すように、同一のパターンを1サイクルとして、複数サイクル繰り返し出力される。当該1サイクルの時間(露光期間の周期Tcyc)は、例えば、距離測定装置100の使用される環境下で商用交流電源を電力源とする照明光の光量変動周期(光源の周期時間Tbg)の1/n(nは2以上の整数)とする。サイクル数Ncycは、n×m(mは1以上の整数)に概ね設定する。なお、
図6Aでは、例としてn=3、m=2として総数6サイクルとしているが、これに限定するものではない。
【0045】
図6Bに、上述した
図6Aの1サイクル期間を拡大したものを示す。
【0046】
1サイクル期間は、前述の
図2および数式1で示したTOF方式その1に基づいて、発光露光制御部101がON状態となるタイミングを生成したシャッタータイミング信号SH1により形成されるS0露光を行う期間と、S1露光を行う期間と、BG露光を行う期間とから構成されている。
【0047】
S0露光の期間では、露光タイミング信号ET10aおよびET10bが供給され、S1露光の期間では、露光タイミング信号ET11aおよびET11bが供給され、BG露光の期間では、露光タイミング信号ET12aおよびET12bが供給される。
【0048】
加えて、例えばS0露光ではET10a信号が発光タイミング信号LT1によって発生するパルス状の照射光の8パルス分の期間に供給されるのに対し、ET11b信号は2パルス分の期間に供給されるのみとし、前述の説明の通り固体撮像素子102の奇数ラインの画素で光電変換されアナログメモリー520に信号蓄積される時間(第1の条件)と、偶数ラインの画素のアナログメモリー520に信号蓄積される時間(第2の条件)は、露光時間に相当する信号蓄積時間の比率が4:1の関係となる。
【0049】
S1露光の期間、BG露光の期間についても同様である。
【0050】
なお、本実施形態では、露光時間の比率が4:1となる制御例を示したが、これに限定するものではなく、上述のタイミング制御の変形をすることで容易に異なる露光時間の比を形成することができる。
【0051】
上述のような発光と露光のタイミング制御で、S0露光によって固体撮像素子102の奇数ラインのひとつの画素セルのアナログメモリー520に蓄積された信号をS0oddとすると、S0oddは数式3で表せる。
【0052】
S0odd=A0odd+B0odd ・・・・ 数式3
【0053】
数式3において、A0oddは照射光による信号成分、B0oddは背景光による信号成分を示す。
【0054】
S1露光によって固体撮像素子102の奇数ラインのひとつの画素セルのアナログメモリー521に蓄積された信号をS1oddとすると、S1oddは数式4で表せる。
【0055】
S1odd=A1odd+B1odd ・・・・ 数式4
【0056】
数式4において、A1oddは照射光による信号成分、B1oddは背景光による信号成分を示す。
【0057】
BG露光によって固体撮像素子102の奇数ラインのひとつの画素セルのアナログメモリー521に蓄積された信号をBGoddとする。
【0058】
同様に、S0露光によって固体撮像素子102の偶数ラインのひとつの画素セルであって、上述の奇数ラインのひとつの画素の近傍にある画素セルのアナログメモリー520に蓄積された信号をS0evnとすると、S0evnは数式5で表せる。
【0059】
S0evn=A0evn+B0evn ・・・・ 数式5
【0060】
数式5において、A0evnは照射光による信号成分、B0evnは背景光による信号成分を示す。
【0061】
S1露光によって固体撮像素子102の偶数ラインの他方の画素のアナログメモリー521に蓄積された信号をS1evnとすると、S1evnは数式6で表せる。
【0062】
S1evn=A1evn+B1evn ・・・・ 数式6
【0063】
数式6において、A1evnは照射光による信号成分、B1evnは背景光による信号成分を示す。
【0064】
固体撮像素子102の偶数ラインの他方の画素にBG露光によってアナログメモリー521に蓄積された信号をBGevnとする。
【0065】
前述のように固体撮像素子102の奇数ラインと偶数ラインは露光時間で4:1の関係であるため、固体撮像素子102内のS0oddが信号飽和しない受光強度である場合には、近傍の奇数ラインの画素と偶数ラインの画素間では、数式7が成立する。
【0066】
A0odd=4×A0evn
A1odd=4×A1evn
・・・・ 数式7
【0067】
さらに、商用交流電源を電力源とする照明光が周期性を持って変動する背景光として存在する環境下であっても、固体撮像素子102の奇数ラインと偶数ラインそれぞれのS0露光、S1露光およぶBG露光の各画素信号を、本実施形態では6回の周期的な露光期間で行う。また、各露光期間の周期は、商用交流電源を電力源とする照明光の光量変動の1周期に対して1/3周期であり、間欠的な露光が行われる。これにより、背景光の大小を偏りなく各露光期間にて固体撮像素子102で光電変換された電荷を各アナログメモリー520、521、522へ逐次電荷蓄積して露光するので、S0信号、S1信号、BG信号それぞれの画素信号の背景光成分は平均化される。したがって、背景光の変動によらず、数式8が成立する。
【0068】
BGodd=B0odd=B1odd
BGevn=B0evn=B1evn
・・・・ 数式8
【0069】
さらに、数式9が成立し、背景光成分が除去された照明光による信号成分のみが正確に抽出することができる。
【0070】
A0odd=S0odd−BGodd
A1odd=S1odd−BGodd
A0evn=S0evn−BGevn
A1evn=S1evn−BGevn
・・・・ 数式9
【0071】
上述の数式7と数式8から、商用交流電源等により強度が変動する照明光下であっても、その外乱を受けず数式10が成立する。
【0072】
S0odd−BGodd=4×(S0evn−BGevn)
S1odd−BGodd=4×(S1evn−BGevn)
・・・・ 数式10
【0073】
発光露光制御の第1の例の発光露光制御部101の動作により、商用交流電源を電力源とする照明光が雑音となる環境下で、露光時間の異なる露光制御を固体撮像素子の同一フレーム内で実施しても、照明光強度の変動を受ける背景光成分の信号を平均化できる。これにより、固体撮像素子102の奇数ラインと偶数ラインそれぞれのS0露光とS1露光とBG露光間の背景光成分の信号量の偏りを排除することができる。
【0074】
特に、商用交流電源を電力源とする照明光の光量変動の1周期に対して相対的に短い露光時間となる画素は、変動する背景光の局所的な大小の偏りの影響を画素信号の背景光成分に大きく受けるが、本実施形態に示すように短い露光時間となる第2の条件の画素群では、背景光の局所的な大小を平均して、S0信号とS1信号の背景光成分がBG信号と等しくなることから、S0露光およびS1露光の照明光成分の信号を精度よく抽出することができる。
【0075】
さらに、発光露光制御の第1の例では、第1の条件の長い露光時間となる画素を露光するための光源の発光を、部分的に第2の条件の短い露光時間となる画素を露光するための発光と兼用しているため、照明光光源の電力を最小にする効果がある。以上が発光露光制御の第1の例の説明である。
【0076】
続いて、
図7に発光露光制御の第2の例を示す。
図7に示す発光制御タイミングの制御方法は、
図6Aで示した発光露光タイミングの制御方法とは別の制御方法である。
図7に示す発光制御タイミングの制御方法は、第1の条件となる奇数ラインを露光するための照明光の発光と、第2の条件となる偶数ラインを露光するための照明光の発光を時間的に分離している。
【0077】
当発光露光タイミング制御では、奇数ラインと偶数ラインの露光タイミングと露光期間が時間的に分離されている。これにより、例えば第2の条件の露光期間の対象でない照射光が固体撮像素子102前面に配置されたレンズの内面で反射した迷光、または、照射光の照射範囲にある高い光反射率の物体から対象物へ飛行した反射光が対象物で2次反射して発生する迷光が、その長い飛行距離に起因する時間遅延で、第2条件の露光期間に到達することにより発生する第2の条件の画素信号へ及ぼす光学的な影響を避けることができる。以上が発光露光制御の第2の例の説明である。
【0078】
固体撮像素子102は、図示しない内蔵のタイミングジェネレータ等により、上述の
図6A又は
図7に示す露光が行われた後に、画素毎のS0信号、S1信号、BG信号が逐次画素配列上でラスタースキャン順に読み出しされる。読み出しされた画素毎のS0信号、S1信号、BG信号は、信号処理部103へ出力される。
【0079】
固体撮像素子102から入力された画素信号は、信号処理部103内のラインメモリ111にて奇数ラインの所定のライン数のS0odd信号とS1odd信号とBGodd信号、および偶数ラインの所定のライン数のS0evn信号とS1evn信号とBGevn信号を逐次記憶保持し、順次参照対象となる画素信号を合成部112へ出力する。
【0080】
ここで、合成部112の構成例を示す。
図8は、第1の実施形態に係る測距測定装置における合成部の構成図である。
【0081】
合成部112は、
図8に示すように、合成演算処理部801と、第1の条件の背景光除去部802と、第1の条件の飽和判定部803と、第2の条件の背景光除去部804と、第2の条件の飽和判定部805とを有している。
【0082】
また、合成部112の第1の例として、合成時に参照する画素群の関係を示す。
図9は、本実施形態に係る測距測定装置における合成部112で参照する画素図である。
【0083】
合成部112は、ラインメモリ111から、
図9に示すように、奇数ラインのひとつの画素とこれに上下で隣接する偶数ラインの4つの画素を処理対象とする画素群として、各画素のS0信号、S1信号およびBG信号をラインメモリ111から入力する。
【0084】
例えば、
図9におけるP01、P02、P11、P21、P22の画素群が一組の処理対象画素であり、例えばP02、P03、P12、P22、P23の一組や、P21、P22、P31、P41、P42の一組が順次合成部112へ入力されて合成処理される。後述する説明では、
図9中の対象画素群AであるP01、P02、P11、P21、P22を例にする。
【0085】
合成部112では、
図8に示すように、奇数ラインのひとつの画素の入力信号S0odd(P11)、S1odd(P11)、BGodd(P11)は、第1の条件の背景光除去部802および第1の条件の飽和判定部803へ入力される。S0odd(P11)は画素P11のS0odd信号、S1odd(P11)は画素P11のS1odd信号、BGodd(P11)は画素P11のBGodd信号を示す。
【0086】
第1の条件の背景光除去部802では、数式11が演算実行され、A0odd(P11)およびA1odd(P11)が合成演算処理部801へ出力される。
【0087】
A0odd(P11)=S0odd(P11)−BGodd(P11)
A1odd(P11)=S1odd(P11)−BGodd(P11)
・・・・ 数式11
【0088】
第1の条件の飽和判定部803では、固体撮像素子102の出力信号レンジに対応して予め設定されている飽和判定用閾値Smaxに対して、数式12の条件判定が実施される。第1の条件の飽和判定部803は、数式12のいずれかの条件が満たされる場合には、飽和信号有りを合成演算処理部801へ通知する。
【0089】
S0odd(P11) > Smax
S1odd(P11) > Smax
BGodd(P11) > Smax
・・・・ 数式12
【0090】
偶数ラインの4つの画素の入力信号S0evn(P01)、S1evn(P01)、BGevn(P01)と、S0evn(P02)、S1evn(P02)、BGevn(P02)と、S0evn(P21)、S1evn(P21)、BGevn(P21)と、S0evn(P22)、S1evn(P22)、BGevn(P22)は、第2の条件の背景光除去部804および第2の条件の飽和判定部805へ入力される。
【0091】
第2の条件の背景光除去部804では、数式13が演算実行され、A0evn(P01)、A1evn(P01)、A0evn(P02)、A1evn(P02)、A0evn(P21)、A1evn(P21)、A0evn(P22)、A1evn(P22)が合成演算処理部801へ出力される。
【0092】
A0evn(P01)=S0evn(P01)−BGevn(P01)
A1evn(P01)=S1evn(P01)−BGevn(P01)
A0evn(P02)=S0evn(P02)−BGevn(P02)
A1evn(P02)=S1evn(P02)−BGevn(P02)
A0evn(P21)=S0evn(P21)−BGevn(P21)
A1evn(P21)=S1evn(P21)−BGevn(P21)
A0evn(P22)=S0evn(P22)−BGevn(P22)
A1evn(P22)=S1evn(P22)−BGevn(P22)
・・・・ 数式13
【0093】
第2の条件の飽和判定部805では、前述の閾値Smaxに対して数式14の条件判定が実施される。第2の条件の飽和判定部805は、いずれかの条件が満たされる場合には、飽和信号有りを合成演算処理部801へ通知する。
【0094】
S0evn(P01) > Smax
S1evn(P01) > Smax
BGevn(P01) > Smax
S0evn(P02) > Smax
S1evn(P02) > Smax
BGevn(P02) > Smax
S0evn(P21) > Smax
S1evn(P21) > Smax
BGevn(P21) > Smax
S0evn(P22) > Smax
S1evn(P22) > Smax
BGevn(P22) > Smax
・・・・ 数式14
【0095】
次に、合成演算処理部801で実行される処理を例として示す。
図10は、本実施形態に係る測距測定装置100における合成演算処理の手順を示すフローチャートである。
【0096】
合成処理が開始されると、第2の条件の飽和判定部805は、上述したように、飽和信号があるか否かを判定する(ステップS1001)。飽和信号が有る場合は(ステップS1001においてY)、第2の条件の飽和判定部805から合成演算処理部801に飽和信号有りの通知がされる。この場合、合成演算処理部801は、測距不能処理を行う(ステップS1005)。
【0097】
測距不能処理では、短い露光時間である第2の条件であっても光入力が固体撮像素子102の信号レンジを越えているため、処理対象画素では正しい距離測定が不能である。したがって、合成演算処理部801は、測距不能状態を距離演算部113へ出力する。
【0098】
飽和信号が無しの場合は(ステップS1001においてN)、第1の条件の飽和判定部803は、飽和信号があるか否かを判定する(ステップS1002)。飽和信号がある場合は(ステップS1002においてY)、第1の条件の飽和判定部803から合成演算処理部801に飽和信号有りの通知がされる。この場合、合成演算処理部801は、合成演算2を行う(ステップS1004)。また、飽和信号が無い場合は、合成演算処理部801は、合成演算1を行う(ステップS1003)。
【0099】
合成演算1では、処理対象画素すべてが非飽和状態の正常な信号レンジ内で固体撮像素子102から入力されているので、合成演算処理部801は、数式15の演算を実行し、A0mix、A1mixを距離演算部113へ出力する。
【0100】
A0mix=A0odd(P11)+A0evn(P01)+A0evn(P02)+A0evn(P21)+A0evn(P22)
A1mix=A1odd(P11)+A1evn(P01)+A1evn(P02)+A1evn(P21)+A1evn(P22)
・・・・ 数式15
【0101】
ここで、合成部112の第1の例として、合成演算1で得られる信号量と入力信号の関係を示す。
図11Aは、第1の実施形態に係る測距測定装置における合成演算1で得られる信号量と入力信号の関係を示す図である。
【0102】
本実施形態では、第1の条件と第2の条件では露光時間の比が4:1であるため、第2の条件で画素から得られる信号量の8倍の信号量が合成演算1で得られることになる。したがって、合成演算1により、高S/N化が実現できる。これに合わせて、水平方向で画素ピッチの半分の周期で1:3:3:1、垂直方向で画素ピッチの周期で1:2:1の水平および垂直方向が対称的な特性のローパスフィルターを形成しているため、空間的なサンプリング点の偏りがない。
【0103】
合成演算2では、第2の条件よりも相対的に長い露光時間である第1の条件では光入力が固体撮像素子102の信号レンジを越えている。したがって、合成演算処理部801は、第2の条件で得られる画素信号のみで数式16の演算を実行し、A0mix、A1mixを距離演算部113へ出力する。
【0104】
A0mix={A0evn(P01)+A0evn(P02)+A0evn(P21)+A0evn(P22)}×K
A1mix={A1evn(P01)+A1evn(P02)+A1evn(P21)+A1evn(P22)}×K
・・・・ 数式16
【0105】
なお、数式16中の係数Kは、第1の条件の露光時間の1画素分と、第2の条件の露光時間で4画素分の合計値の比率から予め決定されたものである。ここで、第2の条件の露光時間をaとすると、本実施形態では下記から算出された値である2となる。
【0106】
K=(4a+4×1a)/(4×1a)=2
【0107】
図11Bに、合成演算2で得られる信号量と入力信号の関係図を示す。係数Kを乗算して合成演算1で得られる信号量とスケールを統一することにより、例えば信号ノイズの更なる低減のために空間的なローパスフィルターやバイラテラルフィルターを合成部112と距離演算部113の間に配置する際に、当空間フィルターの参照画素群の中で第1の条件で露光した画素信号の飽和有り無しが混在しても、信号量の連続性が保たれるため正常にフィルター処理を実行することができる。以上が合成部112の第1の例についての説明である。
【0108】
次に、合成部112の第2の例として、合成演算2で得られる信号量と入力信号の関係を示す。
図11Bは、本実施形態に係る測距測定装置100における合成演算2で得られる信号量と入力信号の関係を示す図である。また、
図12は、合成部112で参照する画素図である。
【0109】
合成部112は、ラインメモリ111から、
図12に示すように、奇数ラインのひとつの画素と、当画素に上側または下側で隣接する偶数ラインのひとつの画素を、処理対象とする画素群として、各画素のS0信号、S1信号およびBG信号をラインメモリ111から入力する。
【0110】
例えば、
図12におけるP01、P11の画素群が一組の処理対象画素であり、P02とP11の一組、または、P11とP21の一組が順次合成部へ入力されて信号処理される。後の説明では、
図12中の対象画素群BであるP01とP11を例にして説明する。
【0111】
なお、合成演算2を行う合成部112の内部構成は、
図8と同じである。
【0112】
奇数ラインのひとつの画素の入力信号S0odd(P11)、S1odd(P11)、BGodd(P11)は、第1の条件の背景光除去部802および第1の条件の飽和判定部803へ入力される。
【0113】
第1の条件の背景光除去部802では、前述の数式11と同一の演算が実行され、A0odd(P11)およびA1odd(P11)が合成演算処理部801へ出力される。
【0114】
第1の条件の飽和判定部803では、前述の数式12と同一の条件判定を実施し、予め設定された前述の閾値SmaxとS0odd(P11)、S1odd(P11)、BGodd(P11)をそれぞれ比較する。いずれかの入力信号が大なる条件を満たす場合には、第1の条件の飽和判定部803は、飽和信号有りを合成演算処理部801へ通知する。
【0115】
偶数ラインのひとつの画素の入力信号S0evn(P01)、S1evn(P01)、BGevn(P01)は、第2の条件の背景光除去部804および第2の条件の飽和判定部805へ入力される。
【0116】
第2の条件の背景光除去部804では、数式17が演算実行され、A0evn(P01)、A1evn(P01)、A0evn(P02)が合成演算処理部801へ出力される。
【0117】
A0evn(P01)=S0evn(P01)−BGevn(P01)
A1evn(P01)=S1evn(P01)−BGevn(P01)
・・・・ 数式17
【0118】
第2の条件の飽和判定部805では、前述の閾値Smaxに対して数式18の条件判定を実施する。いずれかの条件を満たす場合には、第2の条件の飽和判定部805は、飽信号和有りを合成演算処理部801へ通知する。
【0119】
S0evn(P01) > Smax
S1evn(P01) > Smax
BGevn(P01) > Smax
・・・・ 数式18
【0120】
このときの、合成演算処理部801の処理手順は、
図10に示したものと同じであるが、合成演算1および合成演算2の計算方式が異なる。
【0121】
合成演算1では、処理対象画素すべてが正常な信号レンジ内で入力されているので合成演算処理部801は、数式19の演算を実行し、A0mix、A1mixを距離演算部113へ出力する。
【0122】
A0mix=A0odd(P11)+A0evn(P01)×K2
A1mix=A1odd(P11)+A1evn(P01)×K2
・・・・ 数式19
【0123】
なお、数式19中の係数K2は、第1の条件の露光時間と、第2の条件の露光時間の比率から予め決定されたもので、第2の条件の露光時間をaとすると本実施形態では下記から算出された値である4となる。
【0125】
ここで、合成演算1で得られる信号量と入力信号の関係図を示す。
図13Aは、合成演算1で得られる信号量と入力信号の関係を示す図である。係数K2を乗算して合成演算1を実行することで、第1の条件と第2の条件の露光時間の差を吸収することができる。これにより、合成された画素の仮想的な重心位置が画素配列上で行方向および列方向で均一に保つことができる。
【0126】
合成演算2では、合成演算処理部801は、第2の条件で得られる画素信号のみで数式20の演算を実行し、A0mix、A1mixを距離演算部113へ出力する。
【0127】
A0mix=A0evn(P01)×K3
A1mix=A1evn(P01)×K3
・・・・ 数式20
【0128】
なお、数式20中の係数K3は、第1の条件の露光時間の1画素分と第2の条件の露光時間の4倍の値の合計値と、第2の条件の露光時間の比率から予め決定されたもので、第2の条件の露光時間をaとすると本実施形態では下記から算出された値である8となる。
【0130】
ここで、合成演算2で得られる信号量と入力信号の関係図を示す。
図13Bは、合成演算2で得られる信号量と入力信号の関係を示す図である。係数K3を乗算して合成演算1で得られる信号量とスケールを統一することによる効果は、合成部112の第1の例で述べた通りである。
【0131】
合成部112の第2の例によれば、固体撮像素子102の奇数ラインと偶数ラインで露光時間を異ならせて広い測定可能範囲を確保しているにも関わらず、合成処理後の画素信号は高い空間分解能を有している。以上が合成部112の第2の例についての説明である。
【0132】
合成演算処理部801から出力された合成処理後のA0mix、A1mixは、合成部112の出力として距離演算部113へ入力される。
【0133】
距離演算部113では、合成演算処理部801から前述の測距不能状態が通知された場合は、出力信号DOを予め決められた測定不能状態を示す値で出力する。測距不能状態が通知されていない場合は、合成演算処理部801は、数式21により出力信号DOを算出する。
【0134】
DO=A1mix/A0mix ・・・・ 数式21
【0135】
数式21は、
図2で説明したTOF方式その1に対応する数式2と等価な式であるため、出力信号DOは対象物までの距離に相当する値である。
【0136】
併せて、前述同様に
図3で述べたTOF方式その2に対応することも可能であり、発光露光制御部101から出力するシャッタータイミング信号SH1のパルス上のOFF期間を照射光のパルス発光期間と概同一とし、距離演算部113で実施する演算を数式22とすればよい。
【0137】
DO=A1mix/(A0mix+A1mix) ・・・・ 数式22
【0138】
(第2の実施形態)
第1の実施形態の説明では、固体撮像素子102が独立して露光制御可能な画素群を奇数ラインと偶数ラインの2つの画素群で構成した例を示したが、本技術の応用として、
図14から
図17に示すような4つの画素群で構成することも可能である。以下、第2の実施形態について、
図14〜
図17を用いて説明する。
【0139】
図14は、本実施形態に係る測距測定装置100における固体撮像素子102の画素配置と合成部112で参照する画素図である。
図14では、固体撮像素子102の画素セルの配置と各画素群の構成、合成部112で参照する画素の組合せを示している。以降では、主に第1の実施形態と異なる点を中心に説明する。
【0140】
固体撮像素子102は、偶数ラインかつ偶数列の画素と(以降、第1の画素群)、偶数ラインかつ奇数列の画素と(以降、第2の画素群)、奇数ラインかつ偶数列の画素と(以降、第3の画素群)、奇数ラインかつ奇数列の画素(以降、第4の画素群)、の4つの画素群ごとにそれぞれ独立の露光制御を可能としている。
【0141】
例えば、画素P01が第1の画素群であり、画素P02が第2の画素群であり、画素P11が第3の画素群であり、画素P12が第4の画素群である。以降はこれらの画素を例にして説明する。
【0142】
本実施形態に係る距離測定装置100では、発光露光制御部101から出力される露光タイミング信号ET1は、前述と同様にS0露光用、S1露光用、およびBG露光用の3つの露光用信号を1組とした4組の信号から構成されている。ET10a信号、ET11a信号、ET12a信号は、画素P01を含む第1の画素群に供給される。ET10b信号、ET11b信号、ET12b信号は、画素P02を含む第2の画素群に供給される。ET10c信号、ET11c信号、ET12c信号は、画素P11を含む第3の画素群に供給される。ET10d信号、ET11d信号、ET12d信号は、画素P12を含む第4の画素群に供給される。
【0143】
ここで、発光露光制御部101が出力する露光タイミング信号の関係を示す。
図15は、本実施形態に係る測距測定装置100における発光露光制御タイミング図である。
【0144】
本実施形態では、一例として、発光露光制御部101が生成し出力する発光タイミング信号LT1によって生じるパルス状の照射光と、発光露光制御部101が生成し出力する露光タイミング信号は固体撮像素子102の4つの画素群ごとの露光時間で、S0露光とS1露光とBG露光のそれぞれに対する露光時間の比が、第1の画素群:第2の画素群:第3の画素群:第4の画素群=8:4:2:1となるよう構成されている。
【0145】
第1実施形態と同様に、本実施形態の発光露光制御部101の動作により、商用交流電源を電力源とする照明光が雑音となる環境下で、4つの画素群ごとに露光時間の異なる露光制御を固体撮像素子の同一フレーム内で実施しても、照明光強度の変動を受ける背景光成分の信号を平均化できる。これにより、固体撮像素子102の第1の画素群から第4の画素群までのそれぞれのS0露光とS1露光とBG露光との間で背景光成分の信号量の偏りを排除することができる。特に、相対的に短い露光時間となる第3の画素群または第4の画素群の各画素のS0露光およびS1露光の照明光成分の信号を、精度よく抽出することが可能となる。
【0146】
図14には、本実施形態として、信号処理部103内の合成部112が合成時に参照する画素群の関係を合わせて示している。
【0147】
合成部112は、ラインメモリ111から、
図14に示すように、隣接する第1の画素群のひとつの画素と第2の画素群のひとつの画素と第3の画素群のひとつの画素と第4の画素群のひとつの画素の4つの画素とを処理対象とする画素群として、各画素のS0信号、S1信号およびBG信号をラインメモリ111から入力する。
【0148】
例えば、
図14におけるP01、P02、P11、P12が一組の処理対象画素群であり、その他の組合せとしてP03、P04、P13、P14の一組、または、P21、P22、P31、P32の一組が、順次合成部112へ入力されて合成処理される。後述の説明では、
図14中の対象画素群CであるP01、P02、P11、P12を例に説明する。
【0149】
図16は、本実施形態に係る距離測定装置100における合成部112の構成図である。
図16に示すように、本実施形態において、合成部112は、合成演算処理部1601と、第1の画素群の背景光除去部1602と、第1の画素群の飽和判定部1603と、第2の画素群の背景光除去部1604と、第2の画素群の飽和判定部1605と、第3の画素群の背景光除去部1606と、第3の画素群の飽和判定部1607と、第4の画素群の背景光除去部1608と、第4の画素群の飽和判定部1609とを有している。
【0150】
第1の画素群のひとつの画素P01の画素信号の入力として、S0信号であるS0g1(P01)、S1信号であるS1g1(P01)、BG信号であるBGg1(P01)は、第1の画素群の背景光除去部1602および第1の画素群の飽和判定部1603へ入力される。
【0151】
第1の画素群の背景光除去部1602では、数式23が演算実行され、A0g1(P01)およびA1g1(P01)が合成演算部1601へ出力される。
【0152】
A0g1(P01)=S0g1(P01)−BGg1(P01)
A1g1(P01)=S1g1(P01)−BGg1(P01)
・・・・ 数式23
【0153】
第1の画素群の飽和判定部1603は、第1の実施形態と同様に、飽和検出用閾値Smaxに対して数式24の条件判定を実施し、いずれかの条件を満たす場合には、第1の画素群の飽和判定部1603は、飽和信号有りを合成演算処理部1601へ通知する。
【0154】
S0g1(P01) > Smax
S1g1(P01) > Smax
BGg1(P01) > Smax
・・・・ 数式24
【0155】
第2の画素群の画素P02の入力信号S0g2(P02)、S1g2(P02)、BGg2(P02)についても、画素P01と同様である。第2の画素群の背景光除去部1604は、A0g2(P02)とA1g2(P02)を算出し、合成演算処理部1601へ出力する。第2の画素群の飽和判定部1605は、S0g2(P02)、S1g2(P02)、BGg2(P02)の内のいずれかの飽和信号有無を合成演算処理部1601へ通知する。
【0156】
第3の画素群の画素P11の入力信号S0g3(P11)、S1g3(P11)、BGg3(P11)についても、画素P01と同様である。第3の画素群の背景光除去部1606は、A0g3(P11)とA1g3(P11)を算出し、合成演算処理部1601へ出力する。第3の画素群の飽和判定部1607は、S0g3(P11)、S1g3(P11)、BGg3(P11)の内のいずれかの飽和信号有無を合成演算処理部1601へ通知する。
【0157】
第4の画素群の画素P12の入力信号S0g4(P12)、S1g4(P12)、BGg4(P12)についても、画素P01と同様である。第4の画素群の背景光除去部1608は、A0g4(P12)とA1g4(P12)を算出し、合成演算処理部1601へ出力する。第4の画素群の飽和判定部1609は、S0g4(P12)、S1g4(P12)、BGg4(P12)の内のいずれかの飽和信号有無を合成演算処理部1601へ通知する。
【0158】
次に、合成演算処理部1601で実行される処理を例として示す。
図17は、本実施形態に係る測距測定装置100における合成演算処理の手順を示すフローチャートである。
【0159】
合成処理が開始されると、第4の画素群の飽和判定部1609は、飽和信号があるか否かを判定する(ステップS1701)。飽和信号がある場合は(ステップS1701においてY)、第4の画素群の飽和判定部1609から合成演算処理部1601に飽和信号有りの通知がされる。この場合、合成演算処理部1601は、測距不能処理を行う(ステップS1705)。
【0160】
測距不能処理では、最も短い露光時間である第4の画素群の画素であっても光入力が固体撮像素子102の信号レンジを越えているため、処理対象画素では正しい距離測定が不能である。したがって、合成演算処理部1601は、測距不能状態を距離演算部113へ出力する。
【0161】
飽和信号が無しの場合は(ステップS1701においてN)、第3の画素群の飽和判定部1607は、飽和信号があるか否かを判定する(ステップS1702)。飽和信号がある場合は(ステップS1702においてY)、第3の画素群の飽和判定部1607から合成演算処理部1601に飽和信号有りの通知がされる。この場合、合成演算処理部1601は、の合成演算4を行う(ステップS1706)。
【0162】
飽和信号が無しの場合は(ステップS1702においてN)、第2の画素群の飽和判定部は、飽和信号があるか否かを判定する(ステップS1703)。飽和信号がある場合は(ステップS1703においてY)、第2の画素群の飽和判定部1605から合成演算処理部1601に飽和信号有りの通知がされる。この場合、合成演算処理部1601は、合成演算3を行う(ステップS1707)。
【0163】
飽和信号が無しの場合は(ステップS1703においてN)、第1の画素群の飽和判定部1603は、飽和信号があるか否かを判定する(ステップS1704)。飽和信号がある場合は(ステップS1704においてY)、第1の画素群の飽和判定部1603から合成演算処理部1601に飽和信号有りの通知がされる。この場合、合成演算処理部1601は、合成演算2を行う(ステップS1708)。
【0164】
飽和信号が無しの場合は(ステップS1704においてN)、合成演算処理部1601は、合成演算1を行う。合成演算1では、処理対象画素すべてが非飽和状態の正常な信号レンジ内で固体撮像素子102から出力されているので、合成演算処理部1601は、数式25の演算を実行し、A0mix、A1mixを距離演算部113へ出力する。
【0165】
A0mix=A0g1(P01)+A0g2(P02)+A0g3(P11)+A0g4(P12)
A1mix=A1g1(P01)+A1g2(P02)+A1g3(P11)+A1g4(P12)
・・・・ 数式25
【0166】
前述の第1の画素群から第4の画素群までの露光時間の比が8:4:2:1であることから、もっとも短い露光時間のP12のA0g4信号に対し、出力信号A0mixは15倍の信号量を有する。また、P12のA1g4信号に対し、出力信号A1mixは同じく15倍の信号量を有する。
【0167】
合成演算2では、処理対象画素の中で第1の画素群であるP01のみが飽和している状態である。したがって、合成演算処理部1601は、P01の画素信号を排除して数式26の演算を実行し、A0mix、A1mixを距離演算部113へ出力する。
【0168】
A0mix=A0g2(P02)+A0g3(P11)+A0g4(P12)
A1mix=A1g2(P02)+A1g3(P11)+A1g4(P12)
・・・・ 数式26
【0169】
合成演算3では、処理対象画素の中で第1の画素群であるP01と第2の画素群であるP02が飽和している状態である。したがって、合成演算処理部1601は、P01とP02の画素信号を排除して数式27の演算を実行し、A0mix、A1mixを距離演算部113へ出力する。
【0170】
A0mix=A0g3(P11)+A0g4(P12)
A1mix=A1g3(P11)+A1g4(P12)
・・・・ 数式27
【0171】
合成演算4では、処理対象画素の中で第4の画素群であるP12のみが非飽和状態の正常な信号レンジ内で固体撮像素子102から出力されている。したがって、合成演算処理部1601は、数式28の演算を実行し、A0mix、A1mixを距離演算部113へ出力する。
【0172】
A0mix=A0g4(P12)
A1mix=A1g4(P12)
・・・・ 数式28
【0173】
なお、距離演算部113の動作は、第1および第2の実施形態と同様である。
【0174】
上述のような第2の実施形態によると、4つの画素群の独立な露光制御により、固体撮像素子102の信号レンジに対して、信号レンジを8倍に拡大することが可能である。つまり、本実施形態に係る距離測定装置100は、第1の実施形態に示した距離測定装置100と比較して、距離に換算して3倍弱の距離測定範囲の拡大を行うことができる。
【0175】
なお、4つの画素群の露光時間比は、第2の実施形態に記載した比率に限定されるものではなく、発光露光制御部101で生成する露光タイミング信号のタイミング変更で容易に変更可能である。
【0176】
また、第2の実施形態に係る距離測定装置100では、独立に露光時間の制御を行う画素群を4つとしたが、発光露光制御部101で生成する露光タイミング信号の本数を増やし、当信号の固体撮像素子102内の各画素セルへの分割配線を増やすことで、独立な露光制御を行う画素群の数をさらに増やすことは容易に実施できる。
【0177】
以上のような実施形態により、対象物体の距離による光の減衰や表面反射率の影響による反射光強度の低下により制約を受ける固体撮像素子の1フレーム内の距離測定範囲を拡大することで、時間方向の対象物の距離変化に強く、さらには照射光以外の背景光による外乱の影響を除去可能な、良好な精度の距離画像を取得可能な距離測定装置を実現することができる。また、フレームメモリ等を必要としない、小型で低価格な距離測定装置を実現することができる。