特許第6981997号(P6981997)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ パナソニックセミコンダクターソリューションズ株式会社の特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6981997
(24)【登録日】2021年11月22日
(45)【発行日】2021年12月17日
(54)【発明の名称】距離測定装置
(51)【国際特許分類】
   G01S 17/89 20200101AFI20211206BHJP
   G01C 3/06 20060101ALI20211206BHJP
【FI】
   G01S17/89
   G01C3/06 120Q
   G01C3/06 140
【請求項の数】9
【全頁数】28
(21)【出願番号】特願2018-553826(P2018-553826)
(86)(22)【出願日】2017年11月27日
(86)【国際出願番号】JP2017042318
(87)【国際公開番号】WO2018101187
(87)【国際公開日】20180607
【審査請求日】2020年6月11日
(31)【優先権主張番号】特願2016-230890(P2016-230890)
(32)【優先日】2016年11月29日
(33)【優先権主張国】JP
(73)【特許権者】
【識別番号】520133916
【氏名又は名称】ヌヴォトンテクノロジージャパン株式会社
(74)【代理人】
【識別番号】100109210
【弁理士】
【氏名又は名称】新居 広守
(74)【代理人】
【識別番号】100137235
【弁理士】
【氏名又は名称】寺谷 英作
(74)【代理人】
【識別番号】100131417
【弁理士】
【氏名又は名称】道坂 伸一
(72)【発明者】
【氏名】森 圭一
(72)【発明者】
【氏名】中村 清治
【審査官】 安井 英己
(56)【参考文献】
【文献】 特開2016−099233(JP,A)
【文献】 特開2013−219708(JP,A)
【文献】 国際公開第2015/025497(WO,A1)
【文献】 米国特許出願公開第2015/0109414(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G01S 7/48− 7/51,
G01S 17/00−17/95,
G01C 3/06
(57)【特許請求の範囲】
【請求項1】
光の往復時間を利用して物体までの距離を測定する距離測定装置であって、
光源から測定対象範囲に向けて光を照射する発光部と、
前記発光部による照射光の画角内の前記物体の反射光を、行列状に配置された複数の画素において光電変換するとともに、前記画素の露光を独立して実施可能な複数の画素群を有する固体撮像素子と、
前記発光部に対し前記光源の発光タイミングおよび発光期間を指示し、前記固体撮像素子の前記画素群ごとに光の往復時間に起因する照射光と反射光の時間差に対応する複数種類の画素信号を得るための露光タイミングと露光期間を指示し、前記露光タイミングと前記露光期間の指示を、前記画素群ごとの画素信号の露光を異なる露光時間で実施し、各前記画素群の照射光と反射光の時間差に対応する各画素信号の露光を背景光の光量変動周期内において、周期的な少なくとも2つ以上の露光期間で実施することで、前記画素の露光を間欠的に行う発光露光制御部と、
前記固体撮像素子の画素群ごとに異なる露光時間で露光を実施された2つ以上の近隣の画素の、照射光と反射光の時間差に対応した画素信号に基づいて、前記固体撮像素子に結像される物体の距離値を算出する信号処理部と、を備える
距離測定装置。
【請求項2】
前記信号処理部は、
前記固体撮像素子の前記画素群で異なる時間で露光された2つ以上の近隣の前記画素に対して、照射光と反射光の時間差に対応した前記画素信号ごとに合成して、照射光と反射光の時間差に対応する合成画素信号を得る合成部と、
前記合成画素信号から照射光と反射光の時間差に基づいて、前記固体撮像素子に結像される前記物体の距離値を算出する距離演算部と、を有する
請求項1に記載の距離測定装置。
【請求項3】
前記固体撮像素子において、露光を独立して実施可能な2つ以上の前記複数の画素群は、
前記固体撮像素子内の前記複数の画素のうち、奇数行に配置された画素を第1の画素群
とし、偶数行に配置された画素を第2の画素群とし、前記第1の画素群と前記第2の画素群とは、それぞれ露光を独立して実施可能な2つの画素群である
請求項1または2に記載の距離測定装置。
【請求項4】
前記固体撮像素子において、露光を独立して実施可能な2つ以上の前記複数の画素群は、
前記固体撮像素子内の前記複数の画素のうち、偶数行かつ偶数列に配置された画素を第1の画素群とし、偶数行かつ奇数列に配置された画素を第2の画素群とし、奇数行かつ偶数列に配置された画素を第3の画素群とし、奇数行かつ奇数列に配置された画素を第4の画素群とし、前記第1の画素群と前記第2の画素群と前記第3の画素群と前記第4の画素群とは、それぞれ露光を独立して実施可能な4つの画素群である
請求項1または2に記載の距離測定装置。
【請求項5】
前記合成部は、
前記固体撮像素子の前記画素群で異なる時間で露光された2つ以上の近隣の前記画素のそれぞれから出力された複数の前記画素信号の中で、各前記画素信号が飽和しているか否かの判断を行い、飽和している前記画素信号がある場合はこれを排除して、照射光と反射光の時間差に対応する前記合成画素信号を取得する
請求項2に記載の距離測定装置。
【請求項6】
前記合成部は、
前記固体撮像素子の前記画素群で異なる時間で露光された2つ以上の近隣の前記画素のそれぞれから出力された複数の前記画素信号の中で、飽和している前記画素信号がある場合は、飽和していない前記画素の露光時間に対する飽和している前記画素の露光時間の倍率を、飽和していない近隣の前記画素の各前記画素信号に乗じて、飽和している前記画素信号を補間した後に合成する
請求項5に記載の距離測定装置。
【請求項7】
前記発光露光制御部において、
前記固体撮像素子の各前記画素群における照射光と反射光の時間差に対応する各前記画素信号の露光期間の周期をTcycとし、1フレーム内の露光期間の回数をNcycとしたときに、商用交流電源を供給源とする照明光の光量変動周期時間Tbgに対してTcycを約1/nとし(nは2以上の自然数)、休止期間を含む露光に要する時間Tcyc×Ncycを、前記光量変動周期時間Tbgの約m倍(mは1以上の自然数)とする
請求項1または2に記載の距離測定装置。
【請求項8】
前記発光露光制御部において、
前記固体撮像素子の各前記画素群における照射光と反射光の時間差に対応する前記画素信号の間欠的な露光期間のうちで、一方の前記画素群で実施される露光期間と、前記一方の画素群で実施される露光期間よりも相対的に短い他方の画素群で実施される露光期間が、時間的に重なるよう制御する
請求項1または2に記載の距離測定装置。
【請求項9】
前記発光露光制御部において、
前記固体撮像素子の前記画素群における照射光と反射光の時間差に対応する各画素信号の間欠的な露光期間のうちで、各前記画素群で少なくとも1つの前記画素信号の露光期間は、物体の反射光が前記固体撮像素子に入射しない露光タイミングに設定して前記背景光のみが光電変換された画素信号となるよう制御し、
前記合成部は、背景光成分のみの前記画素信号を用いて、照射光成分と前記背景光
成分の両方を含む前記画素信号から前記背景光成分を除去する
請求項2に記載の距離測定装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、距離画像を生成する距離測定装置に関する。特に、照射光源とそれを受光する固体撮像素子で光の往復による遅延を用いて距離を測定する距離測定装置に関する。
【背景技術】
【0002】
近年、距離画像を生成するための被写体の測距手法の一例として、赤外光またはレーザー光を被写体に向けて照射してから、被写体で反射した光を固体撮像装置で受光するまでの計測時間に基づいて被写体までの距離を算出(測距)するTOF(Time Of Flight)方式が知られている。
【0003】
昨今のTOF方式は、被写体で反射した光を画素アレイを有する固体撮像素子により露光し、信号量を2次元面上に距離分布を示す距離画像として生成することで距離測定を行っている(例えば、特許文献1〜3参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2012−225807号公報
【特許文献2】特開2006−253876号公報
【特許文献3】特開2011−64498号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、従来の距離測定装置は、フレーム単位で時系列毎に異なる露光条件で距離画像を取得するため、距離測定可能な範囲が狭い装置では対象物の距離が変化した際に距離測定の精度が低下するという課題がある。また、従来の測距測定装置では、露出の異なる複数枚の距離画像を合成して距離を計測するため、距離画像に背景光などの照射光以外の外乱が含まれる場合、距離画像の露出にばらつきがあり、計測精度が安定しないという課題がある。
【0006】
このような課題に鑑み、本開示は、対象物の距離変化に影響されない距離測定範囲で、良好な精度で距離測定を行うことができる距離測定装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
本開示の距離測定装置は、光の往復時間を利用して物体までの距離を測定する距離測定装置であって、光源から測定対象範囲に向けて光を照射する発光部と、前記発光部による照射光の画角内の前記物体の反射光を、行列状に配置された複数の画素において光電変換するとともに、前記画素の露光を独立して実施可能な複数の画素群を有する固体撮像素子と、前記発光部に対し前記光源の発光タイミングおよび発光期間を指示し、前記固体撮像素子の前記画素群ごとに光の往復時間に起因する照射光と反射光の時間差に対応する複数種類の画素信号を得るための露光タイミングと露光期間を指示し、前記露光タイミングと前記露光期間の指示を、前記画素群ごとの画素信号の露光を異なる露光時間で実施し、各前記画素群の照射光と反射光の時間差に対応する各画素信号の露光を周期的な少なくとも2つ以上の露光期間で実施することで、前記画素の露光を間欠的に行う発光露光制御部と、前記固体撮像素子の画素群ごとに異なる露光時間で露光を実施された2つ以上の近隣の画素の、照射光と反射光の時間差に対応した画素信号に基づいて、前記固体撮像素子に結像される物体の距離値を算出する信号処理部と、を備える。
【発明の効果】
【0008】
本開示の距離測定装置によれば、対象物の距離変化に影響されない距離測定範囲で、良好な精度で距離測定を行うことができる。
【図面の簡単な説明】
【0009】
図1図1は、距離測定装置の概略構成図である。
図2図2は、TOF方式の一例を示す図である。
図3図3は、TOF方式の他の例を示す図である。
図4図4は、第1の実施形態に係る測距測定装置における固体撮像素子の概略構成図である。
図5図5は、第1の実施形態に係る測距測定装置における固体撮像素子の画素セルの構成図である。
図6A図6Aは、第1の実施形態に係る測距測定装置における発光露光制御タイミング図である。
図6B図6Bは、図6Aの一部の区間を拡大した発光露光制御タイミング図である。
図7図7は、第1の実施形態に係る測距測定装置における発光露光制御タイミング図である。
図8図8は、第1の実施形態に係る測距測定装置における合成部の構成図である。
図9図9は、第1の実施形態に係る測距測定装置における合成部で参照する画素図である。
図10図10は、第1の実施形態に係る測距測定装置における合成演算処理の手順を示すフローチャートである。
図11A図11Aは、第1の実施形態に係る測距測定装置における合成演算1で得られる信号量と入力信号の関係を示す図である。
図11B図11Bは、第1の実施形態に係る測距測定装置における合成演算2で得られる信号量と入力信号の関係を示す図である。
図12図12は、第1の実施形態に係る測距測定装置における合成部で参照する画素図である。
図13A図13Aは、第1の実施形態に係る測距測定装置における合成演算1で得られる信号量と入力信号の関係を示す図である。
図13B図13Bは、第1の実施形態に係る測距測定装置における合成演算2で得られる信号量と入力信号の関係を示す図である。
図14図14は、第2の実施形態に係る測距測定装置における固体撮像素子の画素配置と合成部で参照する画素図である。
図15図15は、第2の実施形態に係る測距測定装置における発光露光制御タイミング図である。
図16図16は、第2の実施形態に係る測距測定装置における合成部の構成図である。
図17図17は、第2の実施形態に係る測距測定装置における合成演算処理の手順を示すフローチャートである。
【発明を実施するための形態】
【0010】
(本発明の基礎となった知見)
被写体の測距情報を有する画像(以下、距離画像)を生成する装置や手法は、近年、ゲームやアミューズメント分野だけでなく、車載カメラまたは監視カメラなどの2次元イメージセンサーが使用されてきた分野にも応用されている。
【0011】
距離画像を生成するための被写体の測距手法には、複数のカメラを用いて撮像した画像の視差に基づいて距離画像を生成する方法、既知のランダムドットパターンを被写体に照射しドットパターンを受光する視差に基づいて距離画像を生成する方法などが存在する。それらの方法の一例であるTOF方式は、赤外光やレーザー光を被写体に向けて照射してから、被写体で反射した光を固体撮像装置で受光するまでの計測時間に基づいて被写体までの距離を算出(測距)する方式である。
【0012】
昨今のTOF方式は、被写体で反射した光を、画素アレイを有する固体撮像素子により露光し、得られた信号量より、固体撮像素子の画素毎に距離情報を取得することが可能であり2次元面上に距離分布を示す距離画像を生成することが可能である。
【0013】
当該技術では、固体撮像素子から被写体までの距離や被写体の表面反射率に応じて、受光する反射光の強度は大きく変動する。そこで、照射光源の強度や固体撮像素子の受光感度や露光量を一律にする。しかし、固体撮像素子の受光面に距離の異なる複数の対象物が存在する場合には、距離画像全体にわたって良好な測距性能を得ることが難しい。
【0014】
固体撮像素子で受光する反射光強度は、光源から被写体までの距離の二乗に反比例して減衰する光の特性または被写体表面の光反射率に依存する。例えば、反射光の露出調整を実施し露光量を増やすと、近距離にある物体や表面反射率の高い物体からの反射光は光強度が高くなり、固体撮像素子の受光可能な露光量を超えて飽和状態となる。この場合、正しい受光量信号を取得できなくなる。逆に、露光量を減らすと、遠距離にある物体または表面反射率の低い物体からの反射光量は微小となる。この場合には、安定した距離測定が困難になる。
【0015】
上述のような技術的課題に対する解決手段として、特許文献1、特許文献2および特許文献3が開示されている。
【0016】
特許文献1および特許文献3では、露出の異なる複数枚の距離画像を取得し、それら複数画像から距離画像の合成を行い距離測定範囲の拡大と距離測定精度の向上を実施している。
【0017】
特許文献2では、固体撮像素子において、偶数画素行と奇数画素行とで、それぞれ信号電荷の蓄積時間を個別に設定することにより異なる感度の信号を取り出し、これら感度の異なる信号を後段の信号処理系で合成する。具体的には、例えば、偶数行の各画素については蓄積時間を長く設定し高感度の画素信号を得て、奇数行の各画素については蓄積時間を短く設定し低感度の画素信号を得る。合成処理においては、偶数行の画素信号(高感度の画素信号)が飽和していない画素については高感度の画素信号を選択して利用し、飽和した画素については近傍の奇数行の画素信号(低感度の画素信号)を選択するといった合成処理が一般的である。
【0018】
しかしながら、特許文献1または特許文献3の距離測定装置は、フレーム単位で時系列に異なる露光条件で距離画像を取得するため、対象物の距離が変化した際に距離測定の精度が低下する課題がある。さらに、当該測距測定装置では、露出の異なる複数枚の距離画像を記憶するため、固体撮像素子の画素毎の距離値を記憶するフレームメモリが必要となる。したがって、固体撮像素子の多画素化に伴い、より大容量のフレームメモリを必要とし、距離測定装置が大型かつ高価になるという問題がある。
【0019】
また、特許文献2の合成処理では、高感度の画素信号が飽和していない場合は高感度の画素信号のみを利用するため、低感度の画素信号の画素情報は、有効であっても利用されないことになる。
【0020】
以下に説明する距離測定装置では、対象物体の距離による光の減衰または表面反射率の影響による反射光強度の低下により制約を受ける固体撮像素子の1フレーム内の距離測定範囲を拡大することで、時系列に沿った対象物の距離変化に強い距離画像を取得することができる。また、当該距離測定装置では、照射光以外の背景光による外乱の影響を除去することで、良好な精度の距離画像を取得することができる。これにより、フレームメモリ等を必要としない小型で低価格な距離測定装置の提供が可能となる。
【0021】
以下、本開示に係る実施形態について、図面を参照しながら詳細に説明する。
【0022】
(各実施形態における共通説明)
以下に説明する各実施形態では、被写体に対してLED光やレーザー光を照射して発生する反射光の往復時間を求めることで測距するTOF方式を用いる場合を例として説明する。
【0023】
図1は、本実施形態1または2に係る距離測定装置100の構成を示す構成図である。図1に示す距離測定装置100は、発光露光制御部101、固体撮像素子102、信号処理部103および発光部104を備えている。
【0024】
固体撮像素子102としては、CCD(Charge Coupled Device)イメージセンサーや、CMOS(Complementary Metal―Oxide Semiconductor)イメージセンサー等が挙げられる。
【0025】
発光部104は、光源駆動部114と光源115から構成されている。光源115は、例えばLEDやレーザーダイオード等が挙げられる。
【0026】
信号処理部103は、ラインメモリ111、合成部112および距離演算部113から構成される。
【0027】
発光露光制御部101は、後述の所定の条件に従って、発光タイミング信号LT1と露光タイミング信号ET1とシャッタータイミング信号SH1とを生成し出力する。発光タイミング信号LT1により発光部104内の光源駆動部114がON/OFF制御され、光源115が対象物OBJに向かって光L1を照射する。照射光L1は、所定の発光幅を持つパルス波形の光である。
【0028】
照射光L1は、対象物OBJで反射する。この反射光L2は、図示しないレンズ光学系を介して固体撮像素子102で受光される。固体撮像素子102は、行列状に配置された複数の画素を有している。固体撮像素子102において、露光タイミング信号ET1とシャッタータイミング信号SH1に従って各画素での露光が制御される。各画素で光電変換され蓄積された信号電荷に応じた画素信号は、信号処理部103へ出力される。
【0029】
図2は、TOF方式の一例を示す図である。図2を用いてTOF方式の距離測定法の一例を説明する。TOF方式では、光源からパルス状に照射される光の反射光を全て受光するS0露光、光源から照射されるパルス光が反射した物体の距離に起因して時間遅延した反射光のうちで遅延時間分に相当する反射光の一部を受光するS1露光、および、光源を発光させずに背景光のみを受光するBG露光を行う。また、S0露光及びS1露光においては、背景光も同時に受光する。これらの3種類の露光を複数回ずつ繰り返して電荷を蓄積し、その蓄積した電荷量に応じた画素信号S0、S1、BGを得る。光源から対象物OBJまでの距離Lは、発光パルス幅(照射パルス時間幅)をT0、光の速度をcとすると、数式1で得られる。
【0030】
【数1】
・・・・・・・・・・・・・・・・・・・・・・・・・ 数式1
【0031】
図3は、TOF方式の他の例を示す図である。図2の方式に対して固体撮像素子の露光期間の長さが発光パルス幅と概同一となり、対象物から反射し遅延して戻ってきた反射光に対して、照射光のパルス発光タイミングと概同一の露光期間で受光するS0露光と、照射光のパルス発光完了より後に戻ってきた反射光の一部を受光するS1露光を得る。この場合の対象物OBJまでの距離Lは、数式2で得ることができる。
【0032】
【数2】
・・・・・・・・・・・・・・・・・・・・・・・・・ 数式2
【0033】
なお、露光信号のタイミングおよび距離計算式はこれだけに限定されるものではない。例えば、照射光をサイン波状に発光させて、照射光のサイン波の位相に対して0度の位相、90度の位相、180度の位相および270度の位相に相当するタイミングで反射光を露光して4つの画素信号を画素群ごとに取得する。そして、0度の位相の画素信号と180度の位相の画素信号の差分信号と90度の位相の画素信号と270度の位相の画素信号の差分信号との比から照射光に対する反射光の時間差を算出し、距離に換算する方法を取ることもできる。
【0034】
信号処理部103に入力された画素信号群(S0、S1、BG)は、固体撮像素子102の画素に対応してライン単位で、ラインメモリ111に保持される。合成部112は、ラインメモリ111から必要な参照画素の画素信号を入力して合成処理を行う。合成部112で行われた合成処理の結果は距離演算部113に入力され、距離演算部113で合成後の画素信号を用いて数式1もしくは数式2の計算を行い、計算の結果得られた距離値D0を出力する。
【0035】
(第1の実施形態)
以下、第1の実施形態について説明する。本実施形態では、発光露光制御部101から出力される露光タイミング信号ET1は、詳細には前述のS0露光用、S1露光用、およびBG露光用の3つの露光用信号を1組とした2組の信号ET10a、ET11a、ET12aおよびET10b、ET11b、ET12bから構成されている。発光露光制御部101は、当該信号群を固体撮像素子102へ出力する。
【0036】
図4は、本実施形態に係る測距測定装置における固体撮像素子の概略構成図である。図4に固体撮像素子102の画素セルの配置と露光タイミング信号群の接続関係の一例を示す。図4中のP01、P02、P03・・・は、フォトダイオード領域を含む各画素セルを示している。
【0037】
各画素セルは、ライン単位で奇数ラインと偶数ラインとにおいて画素位置が水平方向に半画素ピッチずらして配置されている。奇数ラインの画素セルには露光タイミング信号ET10a、ET11a、ET12aの3つの信号が接続され、偶数ラインの画素セルにはET10b、ET11b、ET12bの3つの信号が接続されている。なお、図示していないが、シャッタータイミング信号SH1を供給するラインは、すべての画素セルに共通して接続されている。
【0038】
図5に、本実施形態に係る測距測定装置における固体撮像素子の画素セルの概略構成図を一例として示す。
【0039】
光電変換を行うフォトダイオード501にはリセットトランジスタ502が接続され、シャッタータイミング信号SH1がオンされるとフォトダイオードで光電変換された電荷は破棄される。
【0040】
さらに、フォトダイオード501にはアナログスイッチ510、511、512を介してアナログメモリー520、521、522がそれぞれ接続される。奇数ラインの画素セルでは、アナログスイッチ510のON/OFFの制御のために露光タイミング信号ET10aが供給され、アナログスイッチ511ON/OFFの制御のために露光タイミング信号ET11aが供給され、アナログスイッチ512のON/OFFの制御のために露光タイミング信号ET12aが供給される。同様に、偶数ラインの画素セルでは、アナログスイッチ510のON/OFF制御に露光タイミング信号ET10bが接続され、アナログスイッチ511ON/OFFの制御のために露光タイミング信号ET11bが供給され、アナログスイッチ512のON/OFFの制御のために露光タイミング信号ET12bが供給される。
【0041】
アナログメモリー520、521、522は、それぞれ接続されるアナログスイッチ510、511、512がON状態の期間かつリセットトランジスタ502がOFF状態の非リセット期間に、フォトダイオード501で光電変換された電荷を蓄積する。また、アナログメモリー520、521、522は、アナログスイッチ510、511、512がON状態の期間かつリセットトランジスタ502がON状態の期間またはアナログスイッチ510、511、512がOFF状態の期間には電荷蓄積しない。
【0042】
上記の構成を取ることにより、固体撮像素子102は奇数ラインと偶数ラインの行毎に独立して露光制御が可能となる。
【0043】
図6A及び図6Bに、発光露光制御の第1の例として、発光露光制御部101が出力する露光タイミング信号と照射光及びシャッタータイミング信号SH1との関係の一例を示す。図6Aは、本実施形態に係る測距測定装置における発光露光制御タイミング図である。
【0044】
発光露光制御部101が生成し出力する発光タイミング信号LT1によって生じるパルス状の照射光と、発光露光制御部101が生成し出力する露光タイミング信号ET1およびシャッタータイミング信号SH1は、図6Aに示すように、同一のパターンを1サイクルとして、複数サイクル繰り返し出力される。当該1サイクルの時間(露光期間の周期Tcyc)は、例えば、距離測定装置100の使用される環境下で商用交流電源を電力源とする照明光の光量変動周期(光源の周期時間Tbg)の1/n(nは2以上の整数)とする。サイクル数Ncycは、n×m(mは1以上の整数)に概ね設定する。なお、図6Aでは、例としてn=3、m=2として総数6サイクルとしているが、これに限定するものではない。
【0045】
図6Bに、上述した図6Aの1サイクル期間を拡大したものを示す。
【0046】
1サイクル期間は、前述の図2および数式1で示したTOF方式その1に基づいて、発光露光制御部101がON状態となるタイミングを生成したシャッタータイミング信号SH1により形成されるS0露光を行う期間と、S1露光を行う期間と、BG露光を行う期間とから構成されている。
【0047】
S0露光の期間では、露光タイミング信号ET10aおよびET10bが供給され、S1露光の期間では、露光タイミング信号ET11aおよびET11bが供給され、BG露光の期間では、露光タイミング信号ET12aおよびET12bが供給される。
【0048】
加えて、例えばS0露光ではET10a信号が発光タイミング信号LT1によって発生するパルス状の照射光の8パルス分の期間に供給されるのに対し、ET11b信号は2パルス分の期間に供給されるのみとし、前述の説明の通り固体撮像素子102の奇数ラインの画素で光電変換されアナログメモリー520に信号蓄積される時間(第1の条件)と、偶数ラインの画素のアナログメモリー520に信号蓄積される時間(第2の条件)は、露光時間に相当する信号蓄積時間の比率が4:1の関係となる。
【0049】
S1露光の期間、BG露光の期間についても同様である。
【0050】
なお、本実施形態では、露光時間の比率が4:1となる制御例を示したが、これに限定するものではなく、上述のタイミング制御の変形をすることで容易に異なる露光時間の比を形成することができる。
【0051】
上述のような発光と露光のタイミング制御で、S0露光によって固体撮像素子102の奇数ラインのひとつの画素セルのアナログメモリー520に蓄積された信号をS0oddとすると、S0oddは数式3で表せる。
【0052】
S0odd=A0odd+B0odd ・・・・ 数式3
【0053】
数式3において、A0oddは照射光による信号成分、B0oddは背景光による信号成分を示す。
【0054】
S1露光によって固体撮像素子102の奇数ラインのひとつの画素セルのアナログメモリー521に蓄積された信号をS1oddとすると、S1oddは数式4で表せる。
【0055】
S1odd=A1odd+B1odd ・・・・ 数式4
【0056】
数式4において、A1oddは照射光による信号成分、B1oddは背景光による信号成分を示す。
【0057】
BG露光によって固体撮像素子102の奇数ラインのひとつの画素セルのアナログメモリー521に蓄積された信号をBGoddとする。
【0058】
同様に、S0露光によって固体撮像素子102の偶数ラインのひとつの画素セルであって、上述の奇数ラインのひとつの画素の近傍にある画素セルのアナログメモリー520に蓄積された信号をS0evnとすると、S0evnは数式5で表せる。
【0059】
S0evn=A0evn+B0evn ・・・・ 数式5
【0060】
数式5において、A0evnは照射光による信号成分、B0evnは背景光による信号成分を示す。
【0061】
S1露光によって固体撮像素子102の偶数ラインの他方の画素のアナログメモリー521に蓄積された信号をS1evnとすると、S1evnは数式6で表せる。
【0062】
S1evn=A1evn+B1evn ・・・・ 数式6
【0063】
数式6において、A1evnは照射光による信号成分、B1evnは背景光による信号成分を示す。
【0064】
固体撮像素子102の偶数ラインの他方の画素にBG露光によってアナログメモリー521に蓄積された信号をBGevnとする。
【0065】
前述のように固体撮像素子102の奇数ラインと偶数ラインは露光時間で4:1の関係であるため、固体撮像素子102内のS0oddが信号飽和しない受光強度である場合には、近傍の奇数ラインの画素と偶数ラインの画素間では、数式7が成立する。
【0066】
A0odd=4×A0evn
A1odd=4×A1evn
・・・・ 数式7
【0067】
さらに、商用交流電源を電力源とする照明光が周期性を持って変動する背景光として存在する環境下であっても、固体撮像素子102の奇数ラインと偶数ラインそれぞれのS0露光、S1露光およぶBG露光の各画素信号を、本実施形態では6回の周期的な露光期間で行う。また、各露光期間の周期は、商用交流電源を電力源とする照明光の光量変動の1周期に対して1/3周期であり、間欠的な露光が行われる。これにより、背景光の大小を偏りなく各露光期間にて固体撮像素子102で光電変換された電荷を各アナログメモリー520、521、522へ逐次電荷蓄積して露光するので、S0信号、S1信号、BG信号それぞれの画素信号の背景光成分は平均化される。したがって、背景光の変動によらず、数式8が成立する。
【0068】
BGodd=B0odd=B1odd
BGevn=B0evn=B1evn
・・・・ 数式8
【0069】
さらに、数式9が成立し、背景光成分が除去された照明光による信号成分のみが正確に抽出することができる。
【0070】
A0odd=S0odd−BGodd
A1odd=S1odd−BGodd
A0evn=S0evn−BGevn
A1evn=S1evn−BGevn
・・・・ 数式9
【0071】
上述の数式7と数式8から、商用交流電源等により強度が変動する照明光下であっても、その外乱を受けず数式10が成立する。
【0072】
S0odd−BGodd=4×(S0evn−BGevn)
S1odd−BGodd=4×(S1evn−BGevn)
・・・・ 数式10
【0073】
発光露光制御の第1の例の発光露光制御部101の動作により、商用交流電源を電力源とする照明光が雑音となる環境下で、露光時間の異なる露光制御を固体撮像素子の同一フレーム内で実施しても、照明光強度の変動を受ける背景光成分の信号を平均化できる。これにより、固体撮像素子102の奇数ラインと偶数ラインそれぞれのS0露光とS1露光とBG露光間の背景光成分の信号量の偏りを排除することができる。
【0074】
特に、商用交流電源を電力源とする照明光の光量変動の1周期に対して相対的に短い露光時間となる画素は、変動する背景光の局所的な大小の偏りの影響を画素信号の背景光成分に大きく受けるが、本実施形態に示すように短い露光時間となる第2の条件の画素群では、背景光の局所的な大小を平均して、S0信号とS1信号の背景光成分がBG信号と等しくなることから、S0露光およびS1露光の照明光成分の信号を精度よく抽出することができる。
【0075】
さらに、発光露光制御の第1の例では、第1の条件の長い露光時間となる画素を露光するための光源の発光を、部分的に第2の条件の短い露光時間となる画素を露光するための発光と兼用しているため、照明光光源の電力を最小にする効果がある。以上が発光露光制御の第1の例の説明である。
【0076】
続いて、図7に発光露光制御の第2の例を示す。図7に示す発光制御タイミングの制御方法は、図6Aで示した発光露光タイミングの制御方法とは別の制御方法である。図7に示す発光制御タイミングの制御方法は、第1の条件となる奇数ラインを露光するための照明光の発光と、第2の条件となる偶数ラインを露光するための照明光の発光を時間的に分離している。
【0077】
当発光露光タイミング制御では、奇数ラインと偶数ラインの露光タイミングと露光期間が時間的に分離されている。これにより、例えば第2の条件の露光期間の対象でない照射光が固体撮像素子102前面に配置されたレンズの内面で反射した迷光、または、照射光の照射範囲にある高い光反射率の物体から対象物へ飛行した反射光が対象物で2次反射して発生する迷光が、その長い飛行距離に起因する時間遅延で、第2条件の露光期間に到達することにより発生する第2の条件の画素信号へ及ぼす光学的な影響を避けることができる。以上が発光露光制御の第2の例の説明である。
【0078】
固体撮像素子102は、図示しない内蔵のタイミングジェネレータ等により、上述の図6A又は図7に示す露光が行われた後に、画素毎のS0信号、S1信号、BG信号が逐次画素配列上でラスタースキャン順に読み出しされる。読み出しされた画素毎のS0信号、S1信号、BG信号は、信号処理部103へ出力される。
【0079】
固体撮像素子102から入力された画素信号は、信号処理部103内のラインメモリ111にて奇数ラインの所定のライン数のS0odd信号とS1odd信号とBGodd信号、および偶数ラインの所定のライン数のS0evn信号とS1evn信号とBGevn信号を逐次記憶保持し、順次参照対象となる画素信号を合成部112へ出力する。
【0080】
ここで、合成部112の構成例を示す。図8は、第1の実施形態に係る測距測定装置における合成部の構成図である。
【0081】
合成部112は、図8に示すように、合成演算処理部801と、第1の条件の背景光除去部802と、第1の条件の飽和判定部803と、第2の条件の背景光除去部804と、第2の条件の飽和判定部805とを有している。
【0082】
また、合成部112の第1の例として、合成時に参照する画素群の関係を示す。図9は、本実施形態に係る測距測定装置における合成部112で参照する画素図である。
【0083】
合成部112は、ラインメモリ111から、図9に示すように、奇数ラインのひとつの画素とこれに上下で隣接する偶数ラインの4つの画素を処理対象とする画素群として、各画素のS0信号、S1信号およびBG信号をラインメモリ111から入力する。
【0084】
例えば、図9におけるP01、P02、P11、P21、P22の画素群が一組の処理対象画素であり、例えばP02、P03、P12、P22、P23の一組や、P21、P22、P31、P41、P42の一組が順次合成部112へ入力されて合成処理される。後述する説明では、図9中の対象画素群AであるP01、P02、P11、P21、P22を例にする。
【0085】
合成部112では、図8に示すように、奇数ラインのひとつの画素の入力信号S0odd(P11)、S1odd(P11)、BGodd(P11)は、第1の条件の背景光除去部802および第1の条件の飽和判定部803へ入力される。S0odd(P11)は画素P11のS0odd信号、S1odd(P11)は画素P11のS1odd信号、BGodd(P11)は画素P11のBGodd信号を示す。
【0086】
第1の条件の背景光除去部802では、数式11が演算実行され、A0odd(P11)およびA1odd(P11)が合成演算処理部801へ出力される。
【0087】
A0odd(P11)=S0odd(P11)−BGodd(P11)
A1odd(P11)=S1odd(P11)−BGodd(P11)
・・・・ 数式11
【0088】
第1の条件の飽和判定部803では、固体撮像素子102の出力信号レンジに対応して予め設定されている飽和判定用閾値Smaxに対して、数式12の条件判定が実施される。第1の条件の飽和判定部803は、数式12のいずれかの条件が満たされる場合には、飽和信号有りを合成演算処理部801へ通知する。
【0089】
S0odd(P11) > Smax
S1odd(P11) > Smax
BGodd(P11) > Smax
・・・・ 数式12
【0090】
偶数ラインの4つの画素の入力信号S0evn(P01)、S1evn(P01)、BGevn(P01)と、S0evn(P02)、S1evn(P02)、BGevn(P02)と、S0evn(P21)、S1evn(P21)、BGevn(P21)と、S0evn(P22)、S1evn(P22)、BGevn(P22)は、第2の条件の背景光除去部804および第2の条件の飽和判定部805へ入力される。
【0091】
第2の条件の背景光除去部804では、数式13が演算実行され、A0evn(P01)、A1evn(P01)、A0evn(P02)、A1evn(P02)、A0evn(P21)、A1evn(P21)、A0evn(P22)、A1evn(P22)が合成演算処理部801へ出力される。
【0092】
A0evn(P01)=S0evn(P01)−BGevn(P01)
A1evn(P01)=S1evn(P01)−BGevn(P01)
A0evn(P02)=S0evn(P02)−BGevn(P02)
A1evn(P02)=S1evn(P02)−BGevn(P02)
A0evn(P21)=S0evn(P21)−BGevn(P21)
A1evn(P21)=S1evn(P21)−BGevn(P21)
A0evn(P22)=S0evn(P22)−BGevn(P22)
A1evn(P22)=S1evn(P22)−BGevn(P22)
・・・・ 数式13
【0093】
第2の条件の飽和判定部805では、前述の閾値Smaxに対して数式14の条件判定が実施される。第2の条件の飽和判定部805は、いずれかの条件が満たされる場合には、飽和信号有りを合成演算処理部801へ通知する。
【0094】
S0evn(P01) > Smax
S1evn(P01) > Smax
BGevn(P01) > Smax
S0evn(P02) > Smax
S1evn(P02) > Smax
BGevn(P02) > Smax
S0evn(P21) > Smax
S1evn(P21) > Smax
BGevn(P21) > Smax
S0evn(P22) > Smax
S1evn(P22) > Smax
BGevn(P22) > Smax
・・・・ 数式14
【0095】
次に、合成演算処理部801で実行される処理を例として示す。図10は、本実施形態に係る測距測定装置100における合成演算処理の手順を示すフローチャートである。
【0096】
合成処理が開始されると、第2の条件の飽和判定部805は、上述したように、飽和信号があるか否かを判定する(ステップS1001)。飽和信号が有る場合は(ステップS1001においてY)、第2の条件の飽和判定部805から合成演算処理部801に飽和信号有りの通知がされる。この場合、合成演算処理部801は、測距不能処理を行う(ステップS1005)。
【0097】
測距不能処理では、短い露光時間である第2の条件であっても光入力が固体撮像素子102の信号レンジを越えているため、処理対象画素では正しい距離測定が不能である。したがって、合成演算処理部801は、測距不能状態を距離演算部113へ出力する。
【0098】
飽和信号が無しの場合は(ステップS1001においてN)、第1の条件の飽和判定部803は、飽和信号があるか否かを判定する(ステップS1002)。飽和信号がある場合は(ステップS1002においてY)、第1の条件の飽和判定部803から合成演算処理部801に飽和信号有りの通知がされる。この場合、合成演算処理部801は、合成演算2を行う(ステップS1004)。また、飽和信号が無い場合は、合成演算処理部801は、合成演算1を行う(ステップS1003)。
【0099】
合成演算1では、処理対象画素すべてが非飽和状態の正常な信号レンジ内で固体撮像素子102から入力されているので、合成演算処理部801は、数式15の演算を実行し、A0mix、A1mixを距離演算部113へ出力する。
【0100】
A0mix=A0odd(P11)+A0evn(P01)+A0evn(P02)+A0evn(P21)+A0evn(P22)
A1mix=A1odd(P11)+A1evn(P01)+A1evn(P02)+A1evn(P21)+A1evn(P22)
・・・・ 数式15
【0101】
ここで、合成部112の第1の例として、合成演算1で得られる信号量と入力信号の関係を示す。図11Aは、第1の実施形態に係る測距測定装置における合成演算1で得られる信号量と入力信号の関係を示す図である。
【0102】
本実施形態では、第1の条件と第2の条件では露光時間の比が4:1であるため、第2の条件で画素から得られる信号量の8倍の信号量が合成演算1で得られることになる。したがって、合成演算1により、高S/N化が実現できる。これに合わせて、水平方向で画素ピッチの半分の周期で1:3:3:1、垂直方向で画素ピッチの周期で1:2:1の水平および垂直方向が対称的な特性のローパスフィルターを形成しているため、空間的なサンプリング点の偏りがない。
【0103】
合成演算2では、第2の条件よりも相対的に長い露光時間である第1の条件では光入力が固体撮像素子102の信号レンジを越えている。したがって、合成演算処理部801は、第2の条件で得られる画素信号のみで数式16の演算を実行し、A0mix、A1mixを距離演算部113へ出力する。
【0104】
A0mix={A0evn(P01)+A0evn(P02)+A0evn(P21)+A0evn(P22)}×K
A1mix={A1evn(P01)+A1evn(P02)+A1evn(P21)+A1evn(P22)}×K
・・・・ 数式16
【0105】
なお、数式16中の係数Kは、第1の条件の露光時間の1画素分と、第2の条件の露光時間で4画素分の合計値の比率から予め決定されたものである。ここで、第2の条件の露光時間をaとすると、本実施形態では下記から算出された値である2となる。
【0106】
K=(4a+4×1a)/(4×1a)=2
【0107】
図11Bに、合成演算2で得られる信号量と入力信号の関係図を示す。係数Kを乗算して合成演算1で得られる信号量とスケールを統一することにより、例えば信号ノイズの更なる低減のために空間的なローパスフィルターやバイラテラルフィルターを合成部112と距離演算部113の間に配置する際に、当空間フィルターの参照画素群の中で第1の条件で露光した画素信号の飽和有り無しが混在しても、信号量の連続性が保たれるため正常にフィルター処理を実行することができる。以上が合成部112の第1の例についての説明である。
【0108】
次に、合成部112の第2の例として、合成演算2で得られる信号量と入力信号の関係を示す。図11Bは、本実施形態に係る測距測定装置100における合成演算2で得られる信号量と入力信号の関係を示す図である。また、図12は、合成部112で参照する画素図である。
【0109】
合成部112は、ラインメモリ111から、図12に示すように、奇数ラインのひとつの画素と、当画素に上側または下側で隣接する偶数ラインのひとつの画素を、処理対象とする画素群として、各画素のS0信号、S1信号およびBG信号をラインメモリ111から入力する。
【0110】
例えば、図12におけるP01、P11の画素群が一組の処理対象画素であり、P02とP11の一組、または、P11とP21の一組が順次合成部へ入力されて信号処理される。後の説明では、図12中の対象画素群BであるP01とP11を例にして説明する。
【0111】
なお、合成演算2を行う合成部112の内部構成は、図8と同じである。
【0112】
奇数ラインのひとつの画素の入力信号S0odd(P11)、S1odd(P11)、BGodd(P11)は、第1の条件の背景光除去部802および第1の条件の飽和判定部803へ入力される。
【0113】
第1の条件の背景光除去部802では、前述の数式11と同一の演算が実行され、A0odd(P11)およびA1odd(P11)が合成演算処理部801へ出力される。
【0114】
第1の条件の飽和判定部803では、前述の数式12と同一の条件判定を実施し、予め設定された前述の閾値SmaxとS0odd(P11)、S1odd(P11)、BGodd(P11)をそれぞれ比較する。いずれかの入力信号が大なる条件を満たす場合には、第1の条件の飽和判定部803は、飽和信号有りを合成演算処理部801へ通知する。
【0115】
偶数ラインのひとつの画素の入力信号S0evn(P01)、S1evn(P01)、BGevn(P01)は、第2の条件の背景光除去部804および第2の条件の飽和判定部805へ入力される。
【0116】
第2の条件の背景光除去部804では、数式17が演算実行され、A0evn(P01)、A1evn(P01)、A0evn(P02)が合成演算処理部801へ出力される。
【0117】
A0evn(P01)=S0evn(P01)−BGevn(P01)
A1evn(P01)=S1evn(P01)−BGevn(P01)
・・・・ 数式17
【0118】
第2の条件の飽和判定部805では、前述の閾値Smaxに対して数式18の条件判定を実施する。いずれかの条件を満たす場合には、第2の条件の飽和判定部805は、飽信号和有りを合成演算処理部801へ通知する。
【0119】
S0evn(P01) > Smax
S1evn(P01) > Smax
BGevn(P01) > Smax
・・・・ 数式18
【0120】
このときの、合成演算処理部801の処理手順は、図10に示したものと同じであるが、合成演算1および合成演算2の計算方式が異なる。
【0121】
合成演算1では、処理対象画素すべてが正常な信号レンジ内で入力されているので合成演算処理部801は、数式19の演算を実行し、A0mix、A1mixを距離演算部113へ出力する。
【0122】
A0mix=A0odd(P11)+A0evn(P01)×K2
A1mix=A1odd(P11)+A1evn(P01)×K2
・・・・ 数式19
【0123】
なお、数式19中の係数K2は、第1の条件の露光時間と、第2の条件の露光時間の比率から予め決定されたもので、第2の条件の露光時間をaとすると本実施形態では下記から算出された値である4となる。
【0124】
K2=4a/1a=4
【0125】
ここで、合成演算1で得られる信号量と入力信号の関係図を示す。図13Aは、合成演算1で得られる信号量と入力信号の関係を示す図である。係数K2を乗算して合成演算1を実行することで、第1の条件と第2の条件の露光時間の差を吸収することができる。これにより、合成された画素の仮想的な重心位置が画素配列上で行方向および列方向で均一に保つことができる。
【0126】
合成演算2では、合成演算処理部801は、第2の条件で得られる画素信号のみで数式20の演算を実行し、A0mix、A1mixを距離演算部113へ出力する。
【0127】
A0mix=A0evn(P01)×K3
A1mix=A1evn(P01)×K3
・・・・ 数式20
【0128】
なお、数式20中の係数K3は、第1の条件の露光時間の1画素分と第2の条件の露光時間の4倍の値の合計値と、第2の条件の露光時間の比率から予め決定されたもので、第2の条件の露光時間をaとすると本実施形態では下記から算出された値である8となる。
【0129】
K=(4a+4×1a)/1a=8
【0130】
ここで、合成演算2で得られる信号量と入力信号の関係図を示す。図13Bは、合成演算2で得られる信号量と入力信号の関係を示す図である。係数K3を乗算して合成演算1で得られる信号量とスケールを統一することによる効果は、合成部112の第1の例で述べた通りである。
【0131】
合成部112の第2の例によれば、固体撮像素子102の奇数ラインと偶数ラインで露光時間を異ならせて広い測定可能範囲を確保しているにも関わらず、合成処理後の画素信号は高い空間分解能を有している。以上が合成部112の第2の例についての説明である。
【0132】
合成演算処理部801から出力された合成処理後のA0mix、A1mixは、合成部112の出力として距離演算部113へ入力される。
【0133】
距離演算部113では、合成演算処理部801から前述の測距不能状態が通知された場合は、出力信号DOを予め決められた測定不能状態を示す値で出力する。測距不能状態が通知されていない場合は、合成演算処理部801は、数式21により出力信号DOを算出する。
【0134】
DO=A1mix/A0mix ・・・・ 数式21
【0135】
数式21は、図2で説明したTOF方式その1に対応する数式2と等価な式であるため、出力信号DOは対象物までの距離に相当する値である。
【0136】
併せて、前述同様に図3で述べたTOF方式その2に対応することも可能であり、発光露光制御部101から出力するシャッタータイミング信号SH1のパルス上のOFF期間を照射光のパルス発光期間と概同一とし、距離演算部113で実施する演算を数式22とすればよい。
【0137】
DO=A1mix/(A0mix+A1mix) ・・・・ 数式22
【0138】
(第2の実施形態)
第1の実施形態の説明では、固体撮像素子102が独立して露光制御可能な画素群を奇数ラインと偶数ラインの2つの画素群で構成した例を示したが、本技術の応用として、図14から図17に示すような4つの画素群で構成することも可能である。以下、第2の実施形態について、図14図17を用いて説明する。
【0139】
図14は、本実施形態に係る測距測定装置100における固体撮像素子102の画素配置と合成部112で参照する画素図である。図14では、固体撮像素子102の画素セルの配置と各画素群の構成、合成部112で参照する画素の組合せを示している。以降では、主に第1の実施形態と異なる点を中心に説明する。
【0140】
固体撮像素子102は、偶数ラインかつ偶数列の画素と(以降、第1の画素群)、偶数ラインかつ奇数列の画素と(以降、第2の画素群)、奇数ラインかつ偶数列の画素と(以降、第3の画素群)、奇数ラインかつ奇数列の画素(以降、第4の画素群)、の4つの画素群ごとにそれぞれ独立の露光制御を可能としている。
【0141】
例えば、画素P01が第1の画素群であり、画素P02が第2の画素群であり、画素P11が第3の画素群であり、画素P12が第4の画素群である。以降はこれらの画素を例にして説明する。
【0142】
本実施形態に係る距離測定装置100では、発光露光制御部101から出力される露光タイミング信号ET1は、前述と同様にS0露光用、S1露光用、およびBG露光用の3つの露光用信号を1組とした4組の信号から構成されている。ET10a信号、ET11a信号、ET12a信号は、画素P01を含む第1の画素群に供給される。ET10b信号、ET11b信号、ET12b信号は、画素P02を含む第2の画素群に供給される。ET10c信号、ET11c信号、ET12c信号は、画素P11を含む第3の画素群に供給される。ET10d信号、ET11d信号、ET12d信号は、画素P12を含む第4の画素群に供給される。
【0143】
ここで、発光露光制御部101が出力する露光タイミング信号の関係を示す。図15は、本実施形態に係る測距測定装置100における発光露光制御タイミング図である。
【0144】
本実施形態では、一例として、発光露光制御部101が生成し出力する発光タイミング信号LT1によって生じるパルス状の照射光と、発光露光制御部101が生成し出力する露光タイミング信号は固体撮像素子102の4つの画素群ごとの露光時間で、S0露光とS1露光とBG露光のそれぞれに対する露光時間の比が、第1の画素群:第2の画素群:第3の画素群:第4の画素群=8:4:2:1となるよう構成されている。
【0145】
第1実施形態と同様に、本実施形態の発光露光制御部101の動作により、商用交流電源を電力源とする照明光が雑音となる環境下で、4つの画素群ごとに露光時間の異なる露光制御を固体撮像素子の同一フレーム内で実施しても、照明光強度の変動を受ける背景光成分の信号を平均化できる。これにより、固体撮像素子102の第1の画素群から第4の画素群までのそれぞれのS0露光とS1露光とBG露光との間で背景光成分の信号量の偏りを排除することができる。特に、相対的に短い露光時間となる第3の画素群または第4の画素群の各画素のS0露光およびS1露光の照明光成分の信号を、精度よく抽出することが可能となる。
【0146】
図14には、本実施形態として、信号処理部103内の合成部112が合成時に参照する画素群の関係を合わせて示している。
【0147】
合成部112は、ラインメモリ111から、図14に示すように、隣接する第1の画素群のひとつの画素と第2の画素群のひとつの画素と第3の画素群のひとつの画素と第4の画素群のひとつの画素の4つの画素とを処理対象とする画素群として、各画素のS0信号、S1信号およびBG信号をラインメモリ111から入力する。
【0148】
例えば、図14におけるP01、P02、P11、P12が一組の処理対象画素群であり、その他の組合せとしてP03、P04、P13、P14の一組、または、P21、P22、P31、P32の一組が、順次合成部112へ入力されて合成処理される。後述の説明では、図14中の対象画素群CであるP01、P02、P11、P12を例に説明する。
【0149】
図16は、本実施形態に係る距離測定装置100における合成部112の構成図である。図16に示すように、本実施形態において、合成部112は、合成演算処理部1601と、第1の画素群の背景光除去部1602と、第1の画素群の飽和判定部1603と、第2の画素群の背景光除去部1604と、第2の画素群の飽和判定部1605と、第3の画素群の背景光除去部1606と、第3の画素群の飽和判定部1607と、第4の画素群の背景光除去部1608と、第4の画素群の飽和判定部1609とを有している。
【0150】
第1の画素群のひとつの画素P01の画素信号の入力として、S0信号であるS0g1(P01)、S1信号であるS1g1(P01)、BG信号であるBGg1(P01)は、第1の画素群の背景光除去部1602および第1の画素群の飽和判定部1603へ入力される。
【0151】
第1の画素群の背景光除去部1602では、数式23が演算実行され、A0g1(P01)およびA1g1(P01)が合成演算部1601へ出力される。
【0152】
A0g1(P01)=S0g1(P01)−BGg1(P01)
A1g1(P01)=S1g1(P01)−BGg1(P01)
・・・・ 数式23
【0153】
第1の画素群の飽和判定部1603は、第1の実施形態と同様に、飽和検出用閾値Smaxに対して数式24の条件判定を実施し、いずれかの条件を満たす場合には、第1の画素群の飽和判定部1603は、飽和信号有りを合成演算処理部1601へ通知する。
【0154】
S0g1(P01) > Smax
S1g1(P01) > Smax
BGg1(P01) > Smax
・・・・ 数式24
【0155】
第2の画素群の画素P02の入力信号S0g2(P02)、S1g2(P02)、BGg2(P02)についても、画素P01と同様である。第2の画素群の背景光除去部1604は、A0g2(P02)とA1g2(P02)を算出し、合成演算処理部1601へ出力する。第2の画素群の飽和判定部1605は、S0g2(P02)、S1g2(P02)、BGg2(P02)の内のいずれかの飽和信号有無を合成演算処理部1601へ通知する。
【0156】
第3の画素群の画素P11の入力信号S0g3(P11)、S1g3(P11)、BGg3(P11)についても、画素P01と同様である。第3の画素群の背景光除去部1606は、A0g3(P11)とA1g3(P11)を算出し、合成演算処理部1601へ出力する。第3の画素群の飽和判定部1607は、S0g3(P11)、S1g3(P11)、BGg3(P11)の内のいずれかの飽和信号有無を合成演算処理部1601へ通知する。
【0157】
第4の画素群の画素P12の入力信号S0g4(P12)、S1g4(P12)、BGg4(P12)についても、画素P01と同様である。第4の画素群の背景光除去部1608は、A0g4(P12)とA1g4(P12)を算出し、合成演算処理部1601へ出力する。第4の画素群の飽和判定部1609は、S0g4(P12)、S1g4(P12)、BGg4(P12)の内のいずれかの飽和信号有無を合成演算処理部1601へ通知する。
【0158】
次に、合成演算処理部1601で実行される処理を例として示す。図17は、本実施形態に係る測距測定装置100における合成演算処理の手順を示すフローチャートである。
【0159】
合成処理が開始されると、第4の画素群の飽和判定部1609は、飽和信号があるか否かを判定する(ステップS1701)。飽和信号がある場合は(ステップS1701においてY)、第4の画素群の飽和判定部1609から合成演算処理部1601に飽和信号有りの通知がされる。この場合、合成演算処理部1601は、測距不能処理を行う(ステップS1705)。
【0160】
測距不能処理では、最も短い露光時間である第4の画素群の画素であっても光入力が固体撮像素子102の信号レンジを越えているため、処理対象画素では正しい距離測定が不能である。したがって、合成演算処理部1601は、測距不能状態を距離演算部113へ出力する。
【0161】
飽和信号が無しの場合は(ステップS1701においてN)、第3の画素群の飽和判定部1607は、飽和信号があるか否かを判定する(ステップS1702)。飽和信号がある場合は(ステップS1702においてY)、第3の画素群の飽和判定部1607から合成演算処理部1601に飽和信号有りの通知がされる。この場合、合成演算処理部1601は、の合成演算4を行う(ステップS1706)。
【0162】
飽和信号が無しの場合は(ステップS1702においてN)、第2の画素群の飽和判定部は、飽和信号があるか否かを判定する(ステップS1703)。飽和信号がある場合は(ステップS1703においてY)、第2の画素群の飽和判定部1605から合成演算処理部1601に飽和信号有りの通知がされる。この場合、合成演算処理部1601は、合成演算3を行う(ステップS1707)。
【0163】
飽和信号が無しの場合は(ステップS1703においてN)、第1の画素群の飽和判定部1603は、飽和信号があるか否かを判定する(ステップS1704)。飽和信号がある場合は(ステップS1704においてY)、第1の画素群の飽和判定部1603から合成演算処理部1601に飽和信号有りの通知がされる。この場合、合成演算処理部1601は、合成演算2を行う(ステップS1708)。
【0164】
飽和信号が無しの場合は(ステップS1704においてN)、合成演算処理部1601は、合成演算1を行う。合成演算1では、処理対象画素すべてが非飽和状態の正常な信号レンジ内で固体撮像素子102から出力されているので、合成演算処理部1601は、数式25の演算を実行し、A0mix、A1mixを距離演算部113へ出力する。
【0165】
A0mix=A0g1(P01)+A0g2(P02)+A0g3(P11)+A0g4(P12)
A1mix=A1g1(P01)+A1g2(P02)+A1g3(P11)+A1g4(P12)
・・・・ 数式25
【0166】
前述の第1の画素群から第4の画素群までの露光時間の比が8:4:2:1であることから、もっとも短い露光時間のP12のA0g4信号に対し、出力信号A0mixは15倍の信号量を有する。また、P12のA1g4信号に対し、出力信号A1mixは同じく15倍の信号量を有する。
【0167】
合成演算2では、処理対象画素の中で第1の画素群であるP01のみが飽和している状態である。したがって、合成演算処理部1601は、P01の画素信号を排除して数式26の演算を実行し、A0mix、A1mixを距離演算部113へ出力する。
【0168】
A0mix=A0g2(P02)+A0g3(P11)+A0g4(P12)
A1mix=A1g2(P02)+A1g3(P11)+A1g4(P12)
・・・・ 数式26
【0169】
合成演算3では、処理対象画素の中で第1の画素群であるP01と第2の画素群であるP02が飽和している状態である。したがって、合成演算処理部1601は、P01とP02の画素信号を排除して数式27の演算を実行し、A0mix、A1mixを距離演算部113へ出力する。
【0170】
A0mix=A0g3(P11)+A0g4(P12)
A1mix=A1g3(P11)+A1g4(P12)
・・・・ 数式27
【0171】
合成演算4では、処理対象画素の中で第4の画素群であるP12のみが非飽和状態の正常な信号レンジ内で固体撮像素子102から出力されている。したがって、合成演算処理部1601は、数式28の演算を実行し、A0mix、A1mixを距離演算部113へ出力する。
【0172】
A0mix=A0g4(P12)
A1mix=A1g4(P12)
・・・・ 数式28
【0173】
なお、距離演算部113の動作は、第1および第2の実施形態と同様である。
【0174】
上述のような第2の実施形態によると、4つの画素群の独立な露光制御により、固体撮像素子102の信号レンジに対して、信号レンジを8倍に拡大することが可能である。つまり、本実施形態に係る距離測定装置100は、第1の実施形態に示した距離測定装置100と比較して、距離に換算して3倍弱の距離測定範囲の拡大を行うことができる。
【0175】
なお、4つの画素群の露光時間比は、第2の実施形態に記載した比率に限定されるものではなく、発光露光制御部101で生成する露光タイミング信号のタイミング変更で容易に変更可能である。
【0176】
また、第2の実施形態に係る距離測定装置100では、独立に露光時間の制御を行う画素群を4つとしたが、発光露光制御部101で生成する露光タイミング信号の本数を増やし、当信号の固体撮像素子102内の各画素セルへの分割配線を増やすことで、独立な露光制御を行う画素群の数をさらに増やすことは容易に実施できる。
【0177】
以上のような実施形態により、対象物体の距離による光の減衰や表面反射率の影響による反射光強度の低下により制約を受ける固体撮像素子の1フレーム内の距離測定範囲を拡大することで、時間方向の対象物の距離変化に強く、さらには照射光以外の背景光による外乱の影響を除去可能な、良好な精度の距離画像を取得可能な距離測定装置を実現することができる。また、フレームメモリ等を必要としない、小型で低価格な距離測定装置を実現することができる。
【産業上の利用可能性】
【0178】
本開示は、例えば、人物の有無を検知する機器として、車載の乗員検知装置、産業FA用途向けの監視システム装置、人の腕や指の動きを3次元的に検出して人物のジェスチャー動作を認識しPCなどの特定機器のユーザーインターフェース入力を行う入力装置等に適用できる。
【符号の説明】
【0179】
100 距離測定装置
101 発光露光制御部
102 固体撮像素子
103 信号処理部
104 発光部
111 ラインメモリ
112 合成部
113 距離演算部
114 光源駆動部
115 光源
501 フォトダイオード
502 リセットトランジスタ
510 アナログスイッチ
511 アナログスイッチ
512 アナログスイッチ
520 アナログメモリー
521 アナログメモリー
522 アナログメモリー
530 アンプ
531 アンプ
532 アンプ
801 合成演算処理部
802 第1の条件の背景光除去部
803 第1の条件の飽和判定部
804 第2の条件の背景光除去部
805 第2の条件の飽和判定部
1601 合成演算処理部
1602 第1の画素群の背景光除去部
1603 第1の画素群の飽和判定部
1604 第2の画素群の背景光除去部
1605 第2の画素群の飽和判定部
1606 第3の画素群の背景光除去部
1607 第3の画素群の飽和判定部
1608 第4の画素群の背景光除去部
1609 第4の画素群の飽和判定部
図1
図2
図3
図4
図5
図6A
図6B
図7
図8
図9
図10
図11A
図11B
図12
図13A
図13B
図14
図15
図16
図17