(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-04-01
(45)【発行日】2024-04-09
(54)【発明の名称】距離画像撮像装置、及び距離画像撮像方法
(51)【国際特許分類】
G01S 7/497 20060101AFI20240402BHJP
G01S 17/89 20200101ALI20240402BHJP
G01C 3/06 20060101ALI20240402BHJP
G01B 11/00 20060101ALI20240402BHJP
H04N 25/53 20230101ALI20240402BHJP
【FI】
G01S7/497
G01S17/89
G01C3/06 120Q
G01C3/06 140
G01B11/00 B
H04N25/53
(21)【出願番号】P 2019142536
(22)【出願日】2019-08-01
【審査請求日】2022-07-20
(73)【特許権者】
【識別番号】000003193
【氏名又は名称】TOPPANホールディングス株式会社
(74)【代理人】
【識別番号】100149548
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100139686
【氏名又は名称】鈴木 史朗
(74)【代理人】
【識別番号】100169764
【氏名又は名称】清水 雄一郎
(74)【代理人】
【識別番号】100147267
【氏名又は名称】大槻 真紀子
(72)【発明者】
【氏名】赤堀 知行
(72)【発明者】
【氏名】大久保 優
(72)【発明者】
【氏名】畠山 邦広
(72)【発明者】
【氏名】高橋 聡
【審査官】東 治企
(56)【参考文献】
【文献】特開2010-096730(JP,A)
【文献】国際公開第2016/075885(WO,A1)
【文献】特許第6298236(JP,B2)
【文献】国際公開第2015/107869(WO,A1)
【文献】特開2018-009917(JP,A)
【文献】特開2017-133853(JP,A)
【文献】特開2001-116516(JP,A)
【文献】国際公開第2008/152647(WO,A2)
【文献】国際公開第2017/170568(WO,A1)
【文献】国際公開第2010/098454(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G01S 7/48-7/51
G01S 17/00-17/95
G01C 3/00-3/32
G01B 11/00-11/30
H04N 25/53
(57)【特許請求の範囲】
【請求項1】
測定対象の空間である測定空間に光パルスを照射する光源部と、
入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定の蓄積タイミングで前記画素における電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、
前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を測定する距離画像処理部と、
を備え、
前記距離画像処理部は、測定対象とする距離の範囲に応じて予め定めた測定モードに応じて、前記蓄積タイミングを制御するタイミング制御部を有
し、
前記画素における複数の前記電荷蓄積部は、第1電荷蓄積部、第2電荷蓄積部、及び第3電荷蓄積部からなり、
前記タイミング制御部は、前記測定モードが中距離モードである場合、フレア光受光期間に前記受光部に入射された光量に相当する電荷を、前記第1電荷蓄積部、及び第2電荷蓄積部に振り分けて蓄積させ、反射光受光期間に前記受光部に入射された光量に相当する電荷を、前記第2電荷蓄積部、及び第3電荷蓄積部に振り分けて蓄積させ、
前記フレア光受光期間は、前記光パルスが照射されている期間である照射期間から、所定のパルス光遅延時間、遅れた期間であり、
前記反射光受光期間は、前記照射期間から、前記パルス光遅延時間よりも大きい反射光遅延時間、遅れた期間であり、
前記フレア光受光期間と前記反射光受光期間とは、前記中距離モードにおいて少なくとも一部が互いに重複する期間であり、
前記距離画像処理部は、前記中距離モードにおいて前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記電荷量からフレア光に起因するフレア光成分を抽出し、抽出したフレア光成分を前記電荷量から除いた値に基づいて、前記距離を測定する、
距離画像撮像装置。
【請求項2】
前記タイミング制御部は、前記測定モードが遠距離モードである場合、前記光パルスが照射されないオフ状態である外光蓄積期間に前記第1電荷蓄積部に前記電荷を蓄積させ、少なくとも前記フレア光受光期間を、前記電荷蓄積部の何れにも前記電荷を蓄積させない非蓄積期間とし、前記非蓄積期間の経過後、前記反射光受光期間に前記受光部に入射された光量に相当する電荷を、前記第2電荷蓄積部、及び第3電荷蓄積部に振り分けて蓄積させ、
前記フレア光受光期間と前記反射光受光期間とは、前記遠距離モードにおいて互いに重複しない期間である、
請求項1に記載の距離画像撮像装置。
【請求項3】
前記タイミング制御部は、前記測定モードとして、前記中距離モード、及び中距離外光モードにて測定を行い、前記測定モードが中距離外光モードである場合、前記光パルスが照射されないオフ状態である外光蓄積期間に前記第1電荷蓄積部に前記電荷を蓄積させ、
前記距離画像処理部は、
前記中距離モードにおいて前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、フレア光に起因するフレア光成分を抽出し、
前記中距離外光モードにおいて前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、外光に起因する外光成分を抽出し、
抽出した前記フレア光成分、及び前記外光成分を用いて、前記距離を測定する、
請求項1に記載の距離画像撮像装置。
【請求項4】
前記タイミング制御部は、前記測定モードが前記中距離外光モードである場合、前
記外光蓄積期間に前記第1電荷蓄積部に前記電荷を蓄積させ、
前記フレア光受光期間を前記電荷蓄積部の何れにも前記電荷を蓄積させない非蓄積期間とし、
前記反射光受光期間に前記受光部に入射された光量に相当する電荷を、前記第2電荷蓄積部、及び第3電荷蓄積部に振り分けて蓄積させ、
前記距離画像処理部は、前記中距離モードにおいて前記電荷蓄積部のそれぞれに蓄積された電荷量と、前記中距離外光モードにおいて前記電荷蓄積部のそれぞれに蓄積された電荷量とを合成することにより、前
記距離を測定する、
請求項3に記載の距離画像撮像装置。
【請求項5】
前記距離画像処理部は、前記中距離モードにおいて、前記第1電荷蓄積部に蓄積された電荷量を定数倍した値を、前記第2電荷蓄積部に蓄積された電荷量に含まれる、フレア光に起因するフレア光成分として抽出する、
請求項1から請求項4のいずれか一項に記載の距離画像撮像装置。
【請求項6】
測定対象の空間である測定空間に光パルスを照射する光源部と、
入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定の蓄積タイミングで前記画素における電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、
前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を測定する距離画像処理部と、
を備え、
前記距離画像処理部は、測定対象とする距離の範囲に応じて予め定めた測定モードに応じて、前記蓄積タイミングを制御するタイミング制御部を有
し、
前記画素における複数の前記電荷蓄積部は、第1電荷蓄積部、第2電荷蓄積部、第3電荷蓄積部、及び第4電荷蓄積部からなり、
前記タイミング制御部は、
前記測定モードが、中距離モードと中距離外光モードとに対応する動作を共に行う動作モードである場合、
前記光パルスが照射されないオフ状態である外光蓄積期間に前記第1電荷蓄積部に前記電荷を蓄積させ、
フレア光受光期間に前記受光部に入射された光量に相当する電荷を、前記第2電荷蓄積部、及び第3電荷蓄積部に振り分けて蓄積させ、反射光受光期間に前記受光部に入射された光量に相当する電荷を、前記第3電荷蓄積部、及び第4電荷蓄積部に振り分けて蓄積させ、
前記フレア光受光期間は、前記光パルスが照射されている期間である照射期間から、所定のパルス光遅延時間、遅れた期間であり、
前記反射光受光期間は、前記照射期間から、前記パルス光遅延時間よりも大きい反射光遅延時間、遅れた期間であり、
前記フレア光受光期間と前記反射光受光期間とは、前記動作モードにおいて少なくとも一部が互いに重複する期間である、
距離画像撮像装置。
【請求項7】
測定対象の空間である測定空間に光パルスを照射する光源部と、
入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定の蓄積タイミングで前記画素における電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、
前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を測定する距離画像処理部と、
を備え、
前記距離画像処理部は、測定対象とする距離の範囲に応じて予め定めた測定モードに応じて、前記蓄積タイミングを制御するタイミング制御部と測定を制御する測定制御部を有し、
前記画素における複数の前記電荷蓄積部は、第1電荷蓄積部、第2電荷蓄積部、及び第3電荷蓄積部からなり、
前記タイミング制御部は、前記測定モードが第1通常モードである場合、前記光パルスが照射されないオフ状態である外光蓄積期間に前記第1電荷蓄積部に前記電荷を蓄積させ、前記光パルスが照射されるオン状態となった後の所定の反射光受光期間に、前記第2電荷蓄積部、及び前記第3電荷蓄積部に、順に前記電荷を蓄積させる蓄積周期を、所定の積算回数繰り返し、
前記測定制御部は、前記測定モードを前記第1通常モードとして測定を行い、前記第1通常モードにおける測定結果に基づいて前記被写体よりも近距離にある近距離物体が前記測定空間に存在するか否かを判定し、前記近距離物体が前記測定空間に存在すると判定した場合、前記第1通常モードより前記積算回数を減らした第2通常モードにて測定を行い、前記第1通常モードにおける測定結果に基づく第1距離と、前記第2通常モードにおける測定結果に基づく第2距離との差分がしきい値以上である場合に前記測定モードを遠距離モードに変更して再度の測定を行い、前記差分がしきい値未満である場合に記測定モードを中距離モードに変更して再度の測定を行う、
距離画像撮像装置。
【請求項8】
前記測定制御部は、前記第1通常モードにおいて、前記第2電荷蓄積部に蓄積された電荷量が所定の閾値以上である場合、前記近距離物体が、前記測定空間に存在すると判定する、
請求項
7に記載の距離画像撮像装置。
【請求項9】
測定対象の空間である測定空間に光パルスを照射する光源部と、
入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定の蓄積タイミングで前記画素における電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、
前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を測定する距離画像処理部と、
前記蓄積タイミングを制御するタイミング制御部と、
を備える距離画像撮像装置による距離画像撮像方法であって、
前記タイミング制御部が、測定対象とする距離の範囲に応じて予め定めた測定モードに応じて前記蓄積タイミングを制御する工程、
を有し、
前記画素における複数の前記電荷蓄積部は、第1電荷蓄積部、第2電荷蓄積部、及び第3電荷蓄積部からなり、
前記タイミング制御部は、前記測定モードが中距離モードである場合、フレア光受光期間に前記受光部に入射された光量に相当する電荷を、前記第1電荷蓄積部、及び第2電荷蓄積部に振り分けて蓄積させ、反射光受光期間に前記受光部に入射された光量に相当する電荷を、前記第2電荷蓄積部、及び第3電荷蓄積部に振り分けて蓄積させ、
前記フレア光受光期間は、前記光パルスが照射されている期間である照射期間から、所定のパルス光遅延時間、遅れた期間であり、
前記反射光受光期間は、前記照射期間から、前記パルス光遅延時間よりも大きい反射光遅延時間、遅れた期間であり、
前記フレア光受光期間と前記反射光受光期間とは、少なくとも一部が互いに重複する期間であり、
前記距離画像処理部は、前記中距離モードにおいて前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記電荷量からフレア光に起因するフレア光成分を抽出し、抽出したフレア光成分を前記電荷量から除いた値に基づいて、前記被写体までの距離を測定する、
距離画像撮像方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、距離画像撮像装置、及び距離画像撮像方法に関する。
【背景技術】
【0002】
従来から、光の速度が既知であることを利用し、光の飛行時間に基づいて被写体との距離を測定する、タイム・オブ・フライト(Time of Flight、以下「TOF」という)方式の距離画像撮像装置がある。距離画像撮像装置では、撮像装置と同様に、距離を測定するための光を検出する画素が二次元の行列状に複数配置され、被写体との間の2次元の距離の情報や、被写体の画像を取得(撮像)することができる。
【0003】
このような距離画像撮像装置を用いて、遠距離にある物体までの距離を精度良く測定しようとする場合、振り分け回数(露光量)を増やす方法がある。しかし、遠距離にある物体とは別に、近距離にも別の物体が存在する場合がある。このような状況において、遠距離、及び近距離にある両方の物体に、同時に光を照射させると、近距離にある物体からの反射光が、遠距離にある物体からの反射光よりも大きな強度で受光される。このような大きな強度の反射光が受光されると、距離画像撮像装置内のレンズなどの光学系において、フレア現象と称される多重反射が発生する。このフレア現象が、遠距離にある物体の距離を測定するための光を検出する画素の受光量に影響を与え、測定する距離に誤差が生じる要因となっていた。
【0004】
この対策として、距離画像撮像装置内の光学設計と光学素材、測定環境を作り込むことにより、フレア現象を低減させ、或いは回避することが可能である。しかし、その一方で、レンズに特殊な加工が必要となり、コストが上昇したり、測定環境が制限されたりする問題があった。
【0005】
別の対策として、画素の受光量から、フレア現象による受光成分を除去する処理を行うことが考えられる。特許文献1では、基準電荷量比のデータベースを用いて、フレア現象による受光成分を取り除く技術が開示されている。基準電荷量比は、フレアが発生していない場合の理想的な環境で対象物を測定して得た、距離毎の電荷量の比である。
【先行技術文献】
【特許文献】
【0006】
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1の技術では、基準電荷量比のデータベースを作成する必要がある。フレア現象による受光成分を精度よく除去するためには、フレアが発生しない理想的な環境を構築した上で、細かく距離を刻んでサンプリングした詳細なデータベースを作成しなければならない。このため、データベースを作成する手間がかかるという問題があった。
【0008】
本発明は、上記の課題に基づいてなされたものであり、装置内の光学的な構成を変えることなく、また、理想的な環境での距離と電荷量の比との関係を示すデータベースを作成することなく、フレア現象による影響を抑制することができる距離画像撮像装置、及び距離画像撮像方法を提供することを目的としている。
【課題を解決するための手段】
【0009】
本発明の距離画像撮像装置は、測定対象の空間である測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定の蓄積タイミングで前記画素における電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を測定する距離画像処理部と、を備え、前記距離画像処理部は、測定対象とする距離の範囲に応じて予め定めた測定モードに応じて、前記蓄積タイミングを制御するタイミング制御部を有し、前記画素における複数の前記電荷蓄積部は、第1電荷蓄積部、第2電荷蓄積部、及び第3電荷蓄積部からなり、前記タイミング制御部は、前記測定モードが中距離モードである場合、フレア光受光期間に前記受光部に入射された光量に相当する電荷を、前記第1電荷蓄積部、及び第2電荷蓄積部に振り分けて蓄積させ、反射光受光期間に前記受光部に入射された光量に相当する電荷を、前記第2電荷蓄積部、及び第3電荷蓄積部に振り分けて蓄積させ、前記フレア光受光期間は、前記光パルスが照射されている期間である照射期間から、所定のパルス光遅延時間、遅れた期間であり、前記反射光受光期間は、前記照射期間から、前記パルス光遅延時間よりも大きい反射光遅延時間、遅れた期間であり、前記フレア光受光期間と前記反射光受光期間とは、前記中距離モードにおいて少なくとも一部が互いに重複する期間であり、前記距離画像処理部は、前記中距離モードにおいて前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記電荷量からフレア光に起因するフレア光成分を抽出し、抽出したフレア光成分を前記電荷量から除いた値に基づいて、前記距離を測定する。
【0010】
本発明の距離画像撮像装置では、前記画素における複数の前記電荷蓄積部は、第1電荷蓄積部、第2電荷蓄積部、及び第3電荷蓄積部からなり、前記タイミング制御部は、前記測定モードが遠距離モードである場合、前記光パルスが照射されないオフ状態である外光蓄積期間に前記第1電荷蓄積部に前記電荷を蓄積させ、少なくともフレア光受光期間を、前記電荷蓄積部の何れにも前記電荷を蓄積させない非蓄積期間とし、前記非蓄積期間の経過後、反射光受光期間に前記受光部に入射された光量に相当する電荷を、前記第2電荷蓄積部、及び第3電荷蓄積部に振り分けて蓄積させ、前記フレア光受光期間は、前記光パルスが照射されている期間である照射期間から、所定のパルス光遅延時間、遅れた期間であり、前記反射光受光期間は、前記照射期間から、前記パルス光遅延時間よりも大きい反射光遅延時間、遅れた期間であり、前記フレア光受光期間と前記反射光受光期間とは、互いに重複しない期間である。
【0012】
本発明の距離画像撮像装置では、前記画素における複数の前記電荷蓄積部は、第1電荷蓄積部、第2電荷蓄積部、及び第3電荷蓄積部からなり、前記タイミング制御部は、前記測定モードとして、前記中距離モード、及び中距離外光モードにて測定を行い、前記測定モードが中距離外光モードである場合、前記光パルスが照射されないオフ状態である外光蓄積期間に前記第1電荷蓄積部に前記電荷を蓄積させ、前記距離画像処理部は、前記中距離モードにおいて前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、フレア光に起因するフレア光成分を抽出し、前記中距離外光モードにおいて前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、外光に起因する外光成分を抽出し、抽出した前記フレア光成分、及び前記外光成分を用いて、前記被写体までの距離を測定する。
【0013】
本発明の距離画像撮像装置では、前記タイミング制御部は、前記測定モードが前記中距離外光モードである場合、前記光パルスが前記オフ状態である外光蓄積期間に前記第1電荷蓄積部に前記電荷を蓄積させ、フレア光受光期間を前記電荷蓄積部の何れにも前記電荷を蓄積させない非蓄積期間とし、反射光受光期間に前記受光部に入射された光量に相当する電荷を、前記第2電荷蓄積部、及び第3電荷蓄積部に振り分けて蓄積させ、前記距離画像処理部は、前記中距離モードにおいて前記電荷蓄積部のそれぞれに蓄積された電荷量と、前記中距離外光モードにおいて前記電荷蓄積部のそれぞれに蓄積された電荷量とを合成することにより、前記測定空間に存在する被写体までの距離を測定する。
【0014】
本発明の距離画像撮像装置では、前記距離画像処理部は、前記中距離モードにおいて、前記第1電荷蓄積部に蓄積された電荷量を定数倍した値を、前記第2電荷蓄積部に蓄積された電荷量に含まれる、フレア光に起因するフレア光成分として抽出する。
【0015】
本発明の距離画像撮像装置では、前記画素における複数の前記電荷蓄積部は、第1電荷蓄積部、第2電荷蓄積部、第3電荷蓄積部、及び第4電荷蓄積部からなり、前記タイミング制御部は、前記測定モードが、中距離モードと中距離外光モードとに対応する動作を共に行う動作モードである場合、前記光パルスが照射されないオフ状態である外光蓄積期間に前記第1電荷蓄積部に前記電荷を蓄積させ、フレア光受光期間に前記受光部に入射された光量に相当する電荷を、前記第2電荷蓄積部、及び第3電荷蓄積部に振り分けて蓄積させ、反射光受光期間に前記受光部に入射された光量に相当する電荷を、前記第3電荷蓄積部、及び第4電荷蓄積部に振り分けて蓄積させ、前記フレア光受光期間は、前記光パルスが照射されている期間である照射期間から、所定のパルス光遅延時間、遅れた期間であり、前記反射光受光期間は、前記照射期間から、前記パルス光遅延時間よりも大きい反射光遅延時間、遅れた期間であり、前記フレア光受光期間と前記反射光受光期間とは、前記動作モードにおいて少なくとも一部が互いに重複する期間である。
【0016】
本発明の距離画像撮像装置では、測定を制御する測定制御部を更に備え、前記画素における複数の前記電荷蓄積部は、第1電荷蓄積部、第2電荷蓄積部、及び第3電荷蓄積部からなり、前記タイミング制御部は、前記測定モードが前記第1通常モードである場合、前記光パルスが照射されないオフ状態である外光蓄積期間に前記第1電荷蓄積部に前記電荷を蓄積させ、前記光パルスが照射されるオン状態となった後の所定の反射光受光期間に、前記第2電荷蓄積部、及び第3電荷蓄積部に、順に前記電荷を蓄積させる蓄積周期を、所定の積算回数繰り返し、前記測定制御部は、前記測定モードを前記第1通常モードとして測定を行い、前記第1通常モードにおける測定結果に基づいて前記被写体よりも近距離にある近距離物体が前記測定空間に存在するか否かを判定し、前記近距離物体が前記測定空間に存在すると判定した場合、前記第1通常モードより前記積算回数を減らした第2通常モードにて測定を行い、前記第1通常モードにおける測定結果に基づく第1距離と、前記第2通常モードにおける測定結果に基づく第2距離との差分がしきい値以上である場合に前記測定モードを遠距離モードに変更して再度の測定を行い、前記差分がしきい値未満である場合に記測定モードを中距離モードに変更して再度の測定を行う。
【0017】
本発明の距離画像撮像装置では、前記測定制御部は、前記第1通常モードにおいて、前記第2電荷蓄積部に蓄積された電荷量が所定の閾値以上である場合、前記近距離物体が、前記測定空間に存在すると判定する。
【0018】
本発明の距離画像撮像方法は、測定対象の空間である測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定の蓄積タイミングで前記画素における電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を測定する距離画像処理部と、前記蓄積タイミングを制御するタイミング制御部と、を備える距離画像撮像装置による距離画像撮像方法であって、前記タイミング制御部が、測定対象とする距離の範囲に応じて予め定めた測定モードに応じて前記蓄積タイミングを制御する工程、を有し、前記画素における複数の前記電荷蓄積部は、第1電荷蓄積部、第2電荷蓄積部、及び第3電荷蓄積部からなり、前記タイミング制御部は、前記測定モードが中距離モードである場合、フレア光受光期間に前記受光部に入射された光量に相当する電荷を、前記第1電荷蓄積部、及び第2電荷蓄積部に振り分けて蓄積させ、反射光受光期間に前記受光部に入射された光量に相当する電荷を、前記第2電荷蓄積部、及び第3電荷蓄積部に振り分けて蓄積させ、前記フレア光受光期間は、前記光パルスが照射されている期間である照射期間から、所定のパルス光遅延時間、遅れた期間であり、前記反射光受光期間は、前記照射期間から、前記パルス光遅延時間よりも大きい反射光遅延時間、遅れた期間であり、前記フレア光受光期間と前記反射光受光期間とは、少なくとも一部が互いに重複する期間であり、前記距離画像処理部は、前記中距離モードにおいて前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記電荷量からフレア光に起因するフレア光成分を抽出し、抽出したフレア光成分を前記電荷量から除いた値に基づいて、前記被写体までの距離を測定する。
【発明の効果】
【0019】
本発明によれば、装置内の光学的な構成を変えることなく、また、データベースを用いることなく、フレア現象による影響を抑制することができる。
【図面の簡単な説明】
【0020】
【
図1】第1の実施形態の距離画像撮像装置1の概略構成を示したブロック図である。
【
図2】第1の実施形態の距離画像撮像装置1に用いられる撮像素子の概略構成を示したブロック図である。
【
図3】第1の実施形態の距離画像撮像装置1に用いられる撮像素子の受光領域に配置された画素321の構成の一例を示した回路図である。
【
図4】第1の実施形態の遠距離モードにおける画素321を駆動するタイミングを示すタイミングチャートである。
【
図5A】第1の実施形態の中距離モードにおける画素321を駆動するタイミングを示すタイミングチャートである。
【
図5B】第1の実施形態の中距離モードにおける画素321を駆動するタイミングを示すタイミングチャートである。
【
図6】第1の実施形態の中距離外光モードにおける画素321を駆動するタイミングを示すタイミングチャートである。
【
図7】第1の実施形態の中距離モードと中距離外光モードのフレーム合成を説明する図である。
【
図8A】第1の実施形態の中距離モードの変形例を説明する図である。
【
図8B】第1の実施形態の中距離モードの変形例を説明する図である。
【
図9A】第1の実施形態の中距離モードにおける効果を説明する図である。
【
図9B】第1の実施形態の中距離モードにおける効果を説明する図である。
【
図9C】第1の実施形態の中距離モードにおける効果を説明する図である。
【
図9D】第1の実施形態の中距離モードにおける効果を説明する図である。
【
図9E】第1の実施形態の中距離モードにおける効果を説明する図である。
【
図9F】第1の実施形態の中距離モードにおける効果を説明する図である。
【
図10】第1の実施形態の距離画像撮像装置1における処理の流れを示すフローチャートである。
【
図11】第2の実施形態の距離画像撮像装置1における画素321を駆動するタイミングを示すタイミングチャートである。
【
図12A】従来の測定における画素を駆動するタイミングを示すタイミングチャートである。
【
図12B】実施形態におけるフレア光の概念を説明する図である。
【
図12C】従来の測定においてフレア光が受光された場合の精度の劣化を説明する図である。
【発明を実施するための形態】
【0021】
以下、実施形態の距離画像撮像装置を、図面を参照しながら説明する。
【0022】
<第1の実施形態>
まず、第1の実施形態について説明する。
図1は、本発明の第1の実施形態の距離画像撮像装置の概略構成を示したブロック図である。
図1に示した構成の距離画像撮像装置1は、光源部2と、受光部3と、距離画像処理部4とを備える。なお、
図1には、距離画像撮像装置1において距離を測定する対象物である被写体Sも併せて示している。
【0023】
光源部2は、距離画像処理部4からの制御に従って、距離画像撮像装置1において距離を測定する対象の被写体Sが存在する撮影対象の空間に光パルスPOを照射する。光源部2は、例えば、垂直共振器面発光レーザー(VCSEL:Vertical Cavity Surface Emitting Laser)などの面発光型の半導体レーザーモジュールである。光源部2は、光源装置21と、拡散板22とを備える。
【0024】
光源装置21は、被写体Sに照射する光パルスPOとなる近赤外の波長帯域(例えば、波長が850nm~940nmの波長帯域)のレーザー光を発光する光源である。光源装置21は、例えば、半導体レーザー発光素子である。光源装置21は、タイミング制御部41からの制御に応じて、パルス状のレーザー光を発光する。
【0025】
拡散板22は、光源装置21が発光した近赤外の波長帯域のレーザー光を、被写体Sに照射する面の広さに拡散する光学部品である。拡散板22が拡散したパルス状のレーザー光が、光パルスPOとして出射され、被写体Sに照射される。
【0026】
受光部3は、距離画像撮像装置1において距離を測定する対象の被写体Sによって反射された光パルスPOの反射光RLを受光し、受光した反射光RLに応じた画素信号を出力する。受光部3は、レンズ31と、距離画像センサ32とを備える。
【0027】
レンズ31は、入射した反射光RLを距離画像センサ32に導く光学レンズである。レンズ31は、入射した反射光RLを距離画像センサ32側に出射して、距離画像センサ32の受光領域に備えた画素に受光(入射)させる。
【0028】
距離画像センサ32は、距離画像撮像装置1に用いられる撮像素子である。距離画像センサ32は、二次元の受光領域に複数の画素を備える。距離画像センサ32のそれぞれの画素の中に、1つの光電変換素子と、この1つの光電変換素子に対応する複数の電荷蓄積部と、それぞれの電荷蓄積部に電荷を振り分ける構成要素とが設けられる。つまり、画素は、複数の電荷蓄積部に電荷を振り分けて蓄積させる振り分け構成の撮像素子である。
【0029】
距離画像センサ32は、タイミング制御部41からの制御に応じて、光電変換素子が発生した電荷をそれぞれの電荷蓄積部に振り分ける。また、距離画像センサ32は、電荷蓄積部に振り分けられた電荷量に応じた画素信号を出力する。距離画像センサ32には、複数の画素が二次元の行列状に配置されており、それぞれの画素の対応する1フレーム分の画素信号を出力する。
【0030】
距離画像処理部4は、距離画像撮像装置1を制御し、被写体Sまでの距離を演算する。距離画像処理部4は、タイミング制御部41と、距離演算部42と、測定制御部43とを備える。
【0031】
タイミング制御部41は、測定制御部43の制御に応じて、測定に要する様々な制御信号を出力するタイミングを制御する。ここでの様々な制御信号とは、例えば、光パルスPOの照射を制御する信号や、反射光RLを複数の電荷蓄積部に振り分ける信号、1フレームあたりの振り分け回数を制御する信号などである。振り分け回数とは、電荷蓄積部CS(
図3参照)に電荷を振り分ける処理を繰返す回数である。
【0032】
距離演算部42は、距離画像センサ32から出力された画素信号に基づいて、被写体Sまでの距離を演算した距離情報を出力する。距離演算部42は、複数の電荷蓄積部に蓄積された電荷量に基づいて、光パルスPOを照射してから反射光RLを受光するまでの遅延時間Td(
図12A参照)を算出する。距離演算部42は、算出した遅延時間Tdに応じて被写体Sまでの距離を演算する。
【0033】
測定制御部43は、測定環境に応じて、複数の測定モードから1つの測定モードを選択する。測定モードは、測定する環境毎に設けられ、光パルスPOを照射するタイミングと、反射光RLを複数の電荷蓄積部に振り分けるタイミングとが互いに異なる関係で規定される。測定する環境は、測定の対象とする距離の範囲、及び測定の精度が劣化する要因となるフレア光を考慮するか否か等に応じて区分される。測定モードの詳細については、後で詳しく説明する。
【0034】
このような構成によって、距離画像撮像装置1では、光源部2が被写体Sに照射した近赤外の波長帯域の光パルスPOが被写体Sによって反射された反射光RLを受光部3が受光し、距離画像処理部4が、被写体Sとの距離を測定した距離情報を出力する。
【0035】
なお、
図1においては、距離画像処理部4を内部に備えた構成の距離画像撮像装置1を示しているが、距離画像処理部4は、距離画像撮像装置1の外部に備える構成要素であってもよい。
【0036】
次に、距離画像撮像装置1において撮像素子として用いられる距離画像センサ32の構成について説明する。
図2は、本発明の第1の実施形態の距離画像撮像装置1に用いられる撮像素子(距離画像センサ32)の概略構成を示したブロック図である。
【0037】
図2に示すように、距離画像センサ32は、例えば、複数の画素321が配置された受光領域320と、制御回路322と、振り分け動作を有した垂直走査回路323と、水平走査回路324と、画素信号処理回路325とを備える。
【0038】
受光領域320は、複数の画素321が配置された領域であって、
図2では、8行8列に二次元の行列状に配置された例を示している。画素321は、受光した光量に相当する電荷を蓄積する。制御回路322は、距離画像センサ32を統括的に制御する。制御回路322は、例えば、距離画像処理部4のタイミング制御部41からの指示に応じて、距離画像センサ32の構成要素の動作を制御する。なお、距離画像センサ32に備えた構成要素の制御は、タイミング制御部41が直接行う構成であってもよく、この場合、制御回路322を省略することも可能である。
【0039】
垂直走査回路323は、制御回路322からの制御に応じて、受光領域320に配置された画素321を行ごとに制御する回路である。垂直走査回路323は、画素321の電荷蓄積部CSそれぞれに蓄積された電荷量に応じた電圧信号を画素信号処理回路325に出力させる。この場合、垂直走査回路323は、光電変換素子により変換された電荷を画素321の電荷蓄積部それぞれに振り分ける。つまり、垂直走査回路323は、「画素駆動回路」の一例である。
【0040】
画素信号処理回路325は、制御回路322からの制御に応じて、それぞれの列の画素321から対応する垂直信号線に出力された電圧信号に対して、予め定めた信号処理(例えば、ノイズ抑圧処理やA/D変換処理など)を行う回路である。
【0041】
水平走査回路324は、制御回路322からの制御に応じて、画素信号処理回路325から出力される信号を、水平信号線に順次出力させる回路である。これにより、1フレーム分蓄積された電荷量に相当する画素信号が、水平信号線を経由して距離画像処理部4に順次出力される。
【0042】
以下の説明においては、画素信号処理回路325がA/D変換処理を行い、画素信号がデジタル信号であるものとして説明する。
【0043】
ここで、距離画像センサ32に備える受光領域320内に配置された画素321の構成について説明する。
図3は、本発明の第1の実施形態の距離画像撮像装置1に用いられる撮像素子(距離画像センサ32)の受光領域320内に配置された画素321の構成の一例を示した回路図である。
図3には、受光領域320内に配置された複数の画素321のうち、1つの画素321の構成の一例を示している。画素321は、3つの画素信号読み出し部を備えた構成の一例である。
【0044】
画素321は、1つの光電変換素子PDと、ドレインゲートトランジスタGDと、対応する出力端子Oから電圧信号を出力する3つの画素信号読み出し部RUとを備える。画素信号読み出し部RUのそれぞれは、読み出しゲートトランジスタGと、フローティングディフュージョンFDと、電荷蓄積容量Cと、リセットゲートトランジスタRTと、ソースフォロアゲートトランジスタSFと、選択ゲートトランジスタSLとを備える。それぞれの画素信号読み出し部RUでは、フローティングディフュージョンFDと電荷蓄積容量Cとによって電荷蓄積部CSが構成されている。
【0045】
なお、
図3においては、3つの画素信号読み出し部RUの符号「RU」の後に、「1」、「2」または「3」の数字を付与することによって、それぞれの画素信号読み出し部RUを区別する。また、同様に、3つの画素信号読み出し部RUに備えたそれぞれの構成要素も、それぞれの画素信号読み出し部RUを表す数字を符号の後に示すことによって、それぞれの構成要素が対応する画素信号読み出し部RUを区別して表す。
【0046】
図3に示した画素321において、出力端子O1から電圧信号を出力する画素信号読み出し部RU1は、読み出しゲートトランジスタG1と、フローティングディフュージョンFD1と、電荷蓄積容量C1と、リセットゲートトランジスタRT1と、ソースフォロアゲートトランジスタSF1と、選択ゲートトランジスタSL1とを備える。画素信号読み出し部RU1では、フローティングディフュージョンFD1と電荷蓄積容量C1とによって電荷蓄積部CS1が構成されている。画素信号読み出し部RU2および画素信号読み出し部RU3も同様の構成である。電荷蓄積部CS1は「第1電荷蓄積部」の一例である。電荷蓄積部CS2は「第2電荷蓄積部」の一例である。電荷蓄積部CS3は「第3電荷蓄積部」の一例である。
【0047】
光電変換素子PDは、入射した光を光電変換して電荷を発生させ、発生させた電荷を蓄積する埋め込み型のフォトダイオードである。光電変換素子PDの構造は任意であってよい。光電変換素子PDは、例えば、P型半導体とN型半導体とを接合した構造のPNフォトダイオードであってもよいし、P型半導体とN型半導体との間にI型半導体を挟んだ構造のPINフォトダイオードであってもよい。また、光電変換素子PDは、フォトダイオードに限定されるものではなく、例えば、フォトゲート方式の光電変換素子であってもよい。
【0048】
画素321では、光電変換素子PDが入射した光を光電変換して発生させた電荷を3つの電荷蓄積部CSのそれぞれに振り分け、振り分けられた電荷の電荷量に応じたそれぞれの電圧信号を、画素信号処理回路325に出力する。
【0049】
距離画像センサ32に配置される画素の構成は、
図3に示したような、3つの画素信号読み出し部RUを備えた構成に限定されるものではなく、複数の画素信号読み出し部RUを備えた構成の画素であればよい。つまり、距離画像センサ32に配置される画素に備える画素信号読み出し部RU(電荷蓄積部CS)の数は、2つであってもよいし、4つ以上であってもよい。
【0050】
また、
図3に示した構成の画素321では、電荷蓄積部CSを、フローティングディフュージョンFDと電荷蓄積容量Cとによって構成する一例を示した。しかし、電荷蓄積部CSは、少なくともフローティングディフュージョンFDによって構成されればよく、画素321が電荷蓄積容量Cを備えない構成であってもよい。
【0051】
また、
図3に示した構成の画素321では、ドレインゲートトランジスタGDを備える構成の一例を示したが、光電変換素子PDに蓄積されている(残っている)電荷を破棄する必要がない場合には、ドレインゲートトランジスタGDを備えない構成であってもよい。
【0052】
次に、距離画像撮像装置1における画素321の駆動(制御)方法について
図12Aを用いて説明する。
図12Aは、従来の距離画像撮像装置における画素を駆動する駆動信号のタイミングを示したタイミングチャートである。
【0053】
図12Aでは、光パルスPOを照射するタイミングを「Light」、反射光が受光されるタイミングを「REFRECTION」、駆動信号TX1のタイミングを「G1」、駆動信号TX2のタイミングを「G2」、駆動信号TX3のタイミングを「G3」、駆動信号RSTDのタイミングを「GD」、の項目名でそれぞれ示している。また、距離画像撮像装置における一連の受光動作タイミングを「Camera」の項目名で示している。「Camera」では、読み出しゲートトランジスタG1、G2、G3、及びドレインゲートトランジスタGDがオン状態となるタイミングを、それぞれ、「G1」、「G2」、「G3」、及び「GD」で示している。なお、駆動信号TX1は、読み出しゲートトランジスタG1を駆動させる信号である。駆動信号TX2、TX3についても同様である。
【0054】
図12Aに示すように、光パルスPOが照射時間Toで照射され、遅延時間Td遅れて反射光RLが距離画像センサ32に受光されるとする。垂直走査回路323は、光パルスPOの照射に同期させて、電荷蓄積部CS1、CS2、及びCS3の順に、電荷を蓄積させる。
【0055】
まず、垂直走査回路323は、読み出しゲートトランジスタG1をオン状態にする。これにより、光電変換素子PDにより光電変換された電荷が、読み出しゲートトランジスタG1を介して電荷蓄積部CS1に蓄積される。その後、垂直走査回路323は、読み出しゲートトランジスタG1をオフ状態にする。これにより、電荷蓄積部CS1への電荷の転送が停止される。このようにして、垂直走査回路323は、電荷蓄積部CS1に電荷を蓄積させる。
【0056】
次に、垂直走査回路323は、電荷蓄積部CS1への電荷の蓄積を終了させたタイミングで、読み出しゲートトランジスタG2をオン状態とし、電荷蓄積部CS2への電荷の蓄積を開始させる。以降の電荷蓄積部CS2に電荷を蓄積させる処理の流れは、電荷蓄積部CS1に電荷を蓄積させる処理の流れと同様であるため、その説明を省略する。
【0057】
一方、光源部2は、読み出しゲートトランジスタG1がオフ状態となったタイミング、つまり読み出しゲートトランジスタG2がオン状態となったタイミングで、光パルスPOを照射する。光源部2が光パルスPOを照射する照射時間Toは、蓄積期間Taと同じ長さである。ここで、読み出しゲートトランジスタG1がオン状態となり、電荷蓄積部CS1に電荷が蓄積された期間(蓄積期間Ta)は、「外光蓄積期間」の一例である。
【0058】
次に、垂直走査回路323は、電荷蓄積部CS2への電荷の蓄積を終了させたタイミングで、読み出しゲートトランジスタG3をオン状態とし、電荷蓄積部CS3への電荷の蓄積を開始させる。以降の電荷蓄積部CS3に電荷を蓄積させる処理の流れは、電荷蓄積部CS1に電荷を蓄積させる処理の流れと同様であるため、その説明を省略する。
【0059】
次に、垂直走査回路323は、電荷蓄積部CS3への電荷の蓄積を終了させたタイミングで、ドレインゲートトランジスタGDをオン状態にし、電荷の排出を行う。これにより、光電変換素子PDにより光電変換された電荷がドレインゲートトランジスタGDを介して破棄される。
【0060】
上述したような、垂直走査回路323による電荷蓄積部CSへ電荷の蓄積と光電変換素子PDが光電変換した電荷の破棄とが、1フレームに渡って繰り返し行われる。これにより、所定の時間区間に距離画像撮像装置1に受光された光量に相当する電荷が、電荷蓄積部CSのそれぞれに蓄積される。水平走査回路324は、電荷蓄積部CSのそれぞれに蓄積された、1フレーム分の電荷量に相当する電気信号を、距離演算部42に出力する。
【0061】
光パルスPOを照射するタイミングと、電荷蓄積部CSのそれぞれに電荷を蓄積させるタイミングとの関係から、電荷蓄積部CS1には、光パルスPOを照射する前の背景光などの外光成分に相当する電荷量が保持される。また、電荷蓄積部CS2、及びCS3には、反射光RL、及び外光成分に相当する電荷量が振り分けられて保持される。電荷蓄積部CS2、及びCS3に振り分けられる電荷量の配分(振り分け比率)は、光パルスPOが被写体Sに反射して距離画像撮像装置1に入射されるまでの遅延時間Tdに応じた比率となる。
【0062】
距離演算部42は、この原理を利用して、以下の(1)式により、遅延時間Tdを算出する。
【0063】
Td=To×(Q3-Q1)/(Q2+Q3-2×Q1) …(1)
【0064】
ここで、Toは光パルスPOが照射された期間、Q1は電荷蓄積部CS1に蓄積された電荷量、Q2は電荷蓄積部CS2に蓄積された電荷量、Q3は電荷蓄積部CS3に蓄積された電荷量、を示す。なお、(1)式では、電荷蓄積部CS2、及びCS3に蓄積される電荷量のうち、外光成分に相当する成分が、電荷蓄積部CS1に蓄積された電荷量と同量であることを前提とする。
【0065】
距離演算部42は、(1)式で求めた遅延時間に、光速(速度)を乗算させることにより、被写体Sまでの往復の距離を算出する。そして、距離演算部42は、上記で算出した往復の距離を1/2とすることにより、被写体Sまでの距離を求める。
【0066】
ここで、フレア光について
図12B、
図12Cを用いて説明する。
図12Bは、フレア光の概念を説明する図である。
図12Bに示すように、光パルスPOを照射し得る測定対象とする測定空間Eのうち、距離画像撮像装置1からの距離が比較的遠い位置にある(以下、遠距離にある、などと記載する)物体Bが被写体である場合を考える。
【0067】
被写体までの距離が遠距離である場合、距離画像撮像装置1からの距離が比較的近い位置にある物体を測定する場合と比較して反射光RLの光量が低下する。反射光RLの光量が低下すると、測定する距離の精度が劣化する要因となる。このため、被写体までの距離が遠距離である場合には、振り分け回数を増やして露光量(距離画像センサ32が受光する光量)を増加させ、測定の精度を向上させることが考えられる。
【0068】
しかしながら、
図12Bの断面拡大図に示すように、受光された光の一部が、レンズ31を介して距離画像センサ32に到達する際に、距離画像撮像装置1内で多重反射する場合がある。この場合、物体からの反射光が本来の結像する位置とは異なる位置に光(フレア光)が受光されてしまう。このようなフレア光が、測定の精度を劣化させる要因となり得る。
【0069】
特に、遠距離にある被写体(物体B)とは別に、距離画像撮像装置1との距離が比較的近い位置(以下、近距離などという)に別の物体Aがある場合、露光量を増やすと、物体Aからの反射光RLの光量が増大する。この場合、物体Aからの反射光RLに由来するフレア光の光量が大きくなり、測定の精度を大きく劣化させる要因となってしまう。
【0070】
図12Cは、従来の測定においてフレア光が受光された場合を説明する図である。
図12Cにおける「FLARE_A」は、物体A(近距離にある物体)からの反射光等に由来するフレア光を示す。「REFRECTION_B」は、物体B(遠距離にある被写体)からの反射光を示す。その他、「Light」等の項目は、
図12Aと同様であるためその説明を省略する。
【0071】
図12Cに示すように、光パルスPOが照射時間Toで照射され、遅延時間Tb遅れてフレア光が、遅延時間Td遅れて反射光RLが、それぞれ距離画像センサ32に受光されるとする。この場合、電荷蓄積部CS2、及びCS3には、反射光RL、及び外光成分に相当する電荷量に加え、フレア光に相当する電荷量が蓄積される。このような、フレア光が混在する電荷量に(1)式を適用させたとしても、精度よく距離を演算することは困難である。
【0072】
この対策として、本実施形態では、複数の測定モードを規定する。測定モードのそれぞれは、光パルスPOの照射タイミングに対し、電荷を電荷蓄積部に振り分けるタイミングを互いに異なるタイミングとする。
【0073】
例えば、測定モードは、測定対象とする距離の範囲に応じて規定される。測定対象とする距離の範囲とは、光パルスPOを照射してから反射光RLを受光するまでの遅延時間Tdに応じて演算される距離に応じて区分される。距離の範囲は、例えば、距離画像撮像装置1からの距離に応じて区分される、遠距離と中距離と近距離との3つの範囲である。例えば、光パルスPOの照射時間Toが10nsである場合、近距離は概ね0~75cm、中距離は概ね75cm~2.25m、遠距離は概ね2.25m以上となる範囲である。
【0074】
また、測定モードは、フレア光に対する対策を講じるか否かに応じて規定される。被写体とは異なる物体が近距離に存在する場合、フレア光に対する対策を講じるものとする。一方、被写体とは異なる物体が近距離に存在しない場合、フレア光に対する対策を講じないものとする。
【0075】
本実施形態では、測定モードとして、例えば、遠距離モード、中距離モード、中距離外光モード、通常モード1(第1通常モード)、通常モード2(第2通常モード)、をそれぞれ規定する。
【0076】
遠距離モードは、近距離に被写体とは別の物体が存在し得る状況において、遠距離にある被写体までの距離を精度よく測定するモードである。すなわち、遠距離モードは、遠距離にある被写体に対し、フレア光に対する対策を講じて測定を行うモードである。
【0077】
中距離モードは、近距離に被写体とは別の物体が存在し得る状況において、中距離にある被写体までの距離を精度よく測定するモードである。すなわち、中距離モードは、中距離にある被写体に対し、フレア光に対する対策を講じて測定を行うモードである。
【0078】
中距離外光モードは、中距離モードにおいて測定を行う際の、外光に相当する電荷量を測定するモードである。中距離外光モードは、中距離モードで測定する際、外光を考慮する場合に用いられるモードである。
【0079】
通常モード1は、近距離に被写体とは別の物体が存在しないと想定される状況において、遠距離にある被写体までの距離を測定するモードである。すなわち、通常モード1は、遠距離にある被写体に対し、フレア光に対する対策を講じないで測定を行うモードである。通常モード1は、従来の測定を行うモードである。
【0080】
通常モード2は、近距離にある物体までの距離を測定するモードである。通常モード2は、従来の測定を行うモードであり、通常モード1よりも露光量を抑えた(すなわち、振り分け回数が少ない)モードである。
以下、遠距離モード、中距離モード、及び中距離外光モードについて順に説明する。
【0081】
(遠距離モード)
まず、遠距離モードについて
図4を用いて説明する。
図4は、第1の実施形態の遠距離モードにおける画素321を駆動するタイミングを示すタイミングチャートである。
図4における「Camera」の項目では、「G1」から「G2」に至る間において、ドレインゲートトランジスタGDがオン状態となるタイミングを「GD2」で示している。その他の「Light」等の項目については、
図12Cと同様であるため、その説明を省略する。
【0082】
図4の例に示すように、光パルスPOが照射時間Toで照射され、遅延時間Tb遅れてフレア光が、遅延時間Td遅れて反射光RLが、それぞれ距離画像センサ32に受光されるとする。
【0083】
遠距離モードでは、被写体である物体Bとフレア光が生じる要因となる物体Aとで、距離画像撮像装置1からの距離が離れている状況を想定している。すなわち、遅延時間Tbと比較して、遅延時間Tdとが大きく、フレア光と反射光RLとが、同時に受光されることがないことを前提とする。遠距離モードでは、上記を前提とした上で、光パルスPOが照射されるタイミングと、電荷蓄積部CSに電荷を蓄積するタイミングとを調整することにより、フレア光に由来する電荷を蓄積しないようにする。
【0084】
具体的に、まず、垂直走査回路323は、光パルスPOが照射されるタイミングに先んじて、蓄積期間Taの間、読み出しゲートトランジスタG1をオン状態にし、電荷蓄積部CS1に、外光に相当する電荷を蓄積させる。
【0085】
次に、垂直走査回路323は、ドレインゲートトランジスタGDをオン状態にし、電荷の排出を行う。これにより、光電変換素子PDが光電変換した電荷が破棄(排出)されるようにして、この間に受光したフレア光が電荷蓄積部CSに蓄積されないようにする。
【0086】
垂直走査回路323は、少なくともフレア光が受光される期間(フレア光受光期間)を、光電変換された電荷が破棄(排出)される期間、つまり電荷が蓄積されない「非蓄積期間」とする。
遠距離モードにおいて、「フレア光受光期間」と、「反射光受光期間」は、互いに重複しない期間である。
「フレア光受光期間」とは、光パルスPOの照射が開始された時間から遅延時間Tbだけ遅れた時間から始まり、光パルス照射時間To(照射期間)経過するまでの期間である。つまり、「フレア光受光期間」とは、光パルスPOの照射時間Toから遅延時間Tb、遅れた期間である。ここで、遅延時間Tbは「パルス光遅延時間」の一例である。
「反射光受光期間」は、光パルスPOの照射が開始された時間から遅延時間Tdだけ遅れた時間から始まり、光パルス照射時間To(照射期間)までの期間である。つまり、「反射光受光期間」は、光パルスPOの照射時間Toから遅延時間Td、遅れた期間である。ここで、遅延時間Tdは「反射光遅延時間」の一例である。
【0087】
次に、垂直走査回路323は、ドレインゲートトランジスタGDをオフ状態に戻したタイミングで、読み出しゲートトランジスタG2、及びG3を、順に、蓄積期間Taの間、オン状態とし、反射光RLを電荷蓄積部CS2、CS3に振り分けて蓄積させる。これにより、電荷蓄積部CS1には外光に相当する電荷が蓄積され、電荷蓄積部CS2、CS3には反射光RLと外光に相当する電荷が蓄積される。したがって、遠距離モードにおいては、電荷蓄積部CS1~CS3が蓄積した電荷量に相当する電気信号に(1)式を適用することで、フレア光に影響されることなく、距離を演算することができる。
【0088】
図4の例では、垂直走査回路323は、読み出しゲートトランジスタG1をオフ状態とした時点から、光パルスPOの照射が開始された時点より期間TX経過するまでの間、ドレインゲートトランジスタGDをオン状態とする。期間TXは、照射時間Toと遅延時間Tbの合計の値以上、且つ遅延時間Td以下((To+Tb)≦TX≦Tdの期間である。
【0089】
このように、遠距離モードでは、フレア光が受光される期間に電荷が蓄積されないように、且つ、反射光が受光される期間に電荷が蓄積されるように蓄積タイミングを制御する。これにより、近距離に被写体とは異なる別の物体Aが存在し得る状況であっても、遠距離にある物体Bまでの距離を精度よく測定することが可能となる。
【0090】
(中距離モード)
次に、中距離モードについて
図5A、及び
図5Bを用いて説明する。
図5A、
図5Bは、第1の実施形態の中距離モードにおける画素321を駆動するタイミングを示すタイミングチャートである。
図5A、
図5Bにおける「Light」等の項目については、
図12Cと同様であるため、その説明を省略する。
【0091】
なお、中距離モードは、後述するように、外光のみに相当する電荷を蓄積させる電荷蓄積部CSを有していない。つまり、電荷蓄積部CSのそれぞれに蓄積された電荷量に含まれる外光成分を抽出し、外光成分を除去した上で距離を算出することができない。このため、外光成分が距離を演算した結果に与える影響が比較的小さい環境、例えば外光の光量が小さい環境において、中距離モード単独で測定を行うことが可能となる。外光の光量が大きく、外光成分を除去しなければ、距離の演算精度が劣化してしまう環境では、後述する中距離外光モードにて、或いは任意の方法にて外光を受光し、1フレーム分の外光に相当する電荷量を別途求めた上で距離を算出する必要がある。
【0092】
図5Aの例に示すように、光パルスPOが照射時間Toで照射され、遅延時間Tb遅れてフレア光が、遅延時間Td遅れて反射光RLが、それぞれ距離画像センサ32に受光されるとする。
【0093】
中距離モードでは、遠距離モードと比較して、被写体である物体Bと、フレア光が生じる要因となる物体Aとで、距離画像撮像装置1からの距離が近い状況を想定している。すなわち、遅延時間Tbと、遅延時間Tdとの差が、遠距離モードにおいて想定されている差と比較して小さい値であり、フレア光と反射光RLとが、同時に受光される期間が存在することを前提とする。中距離モードでは、上記を前提とした上で、光パルスPOが照射されるタイミングと、電荷蓄積部CSに電荷を蓄積するタイミングとを調整することにより、フレア光に由来する電荷量を抽出できるようにする。
【0094】
垂直走査回路323は、フレア光に相当する電荷が、電荷蓄積部CS1、及びCS2に振り分けられて(跨って)蓄積されるようにする。また、垂直走査回路323は、反射光RLに相当する電荷が、電荷蓄積部CS2、及びCS3に振り分けられて蓄積されるようにする。つまり、垂直走査回路323は、「フレア光受光期間」に受光部3に入射された光量に相当する電荷を、電荷蓄積部CS1、及びCS2に振り分けて蓄積させる。また、垂直走査回路323は、「反射光受光期間」に受光部3に入射された光量に相当する電荷を、電荷蓄積部CS2、及びCS3に振り分けて蓄積させる。
中距離モードにおいて、「フレア光受光期間」と「反射光受光期間」とは、少なくとも一部が互いに重複する。
「フレア光受光期間」とは、光パルスPOの照射が開始された時間から遅延時間Tbだけ遅れた時間から始まり、光パルス照射時間To(照射期間)経過するまでの期間である。つまり、「フレア光受光期間」とは、光パルスPOの照射時間Toから遅延時間Tb、遅れた期間である。ここで、遅延時間Tbは「パルス光遅延時間」の一例である。
「反射光受光期間」は、光パルスPOの照射が開始された時間から遅延時間Tdだけ遅れた時間から始まり、光パルス照射時間To(照射期間)までの期間である。つまり、「反射光受光期間」は、光パルスPOの照射時間Toから遅延時間Td、遅れた期間である。ここで、遅延時間Tdは「反射光遅延時間」の一例である。
【0095】
具体的に、垂直走査回路323は、まず、読み出しゲートトランジスタG1をオン状態にして、電荷蓄積部CS1への電荷の蓄積を行う。
光源部2は、読み出しゲートトランジスタG1がオン状態に変化した時点から、期間TY経過した時点で、光パルスPOの照射を開始する。光パルスPOの照射が開始された時点(照射開始時)から遅延時間Tb経過した時点で、フレア光が距離画像撮像装置1に到達し、フレア光が受光され始める。
【0096】
垂直走査回路323は、光パルスPOの照射が開始された時点から期間TZ経過するまで、読み出しゲートトランジスタG1をオン状態にして、電荷蓄積部CS1への電荷の蓄積を行う。ここで、期間TYと期間TZを合計した値は、蓄積期間Taに相当する期間である。垂直走査回路323は、期間TZが、遅延時間Tb以上(TZ≧Tb)となるように調整する。これにより、電荷蓄積部CS1の蓄積期間Taに、フレア光の受光が開始される「フレア光受光開始時」を含めることができ、電荷蓄積部CS1にフレア光に相当する電荷を蓄積させることができる。
【0097】
次に、垂直走査回路323は、電荷蓄積部CS1への電荷の蓄積を終了させたタイミングで、読み出しゲートトランジスタG2、G3を、順に、蓄積期間Taの間、オン状態とし、電荷を電荷蓄積部CS2、CS3に蓄積させる。これにより、電荷蓄積部CS1、CS2にはフレア光と外光に相当する電荷が、振り分けられて蓄積される。また、電荷蓄積部CS2、CS3には反射光RLと外光に相当する電荷が振り分けられて蓄積される。
【0098】
距離演算部42は、電荷蓄積部CS1に蓄積された、フレア光に相当する電荷量に基づいて、電荷蓄積部CS2に蓄積された電荷量のうち、フレア光に起因するフレア光成分を抽出する。距離演算部42は、以下の(2)式により、電荷蓄積部CS2に蓄積された電荷量のフレア光成分Q2fを算出する。
【0099】
Q2f=K×Q1 …(2)
【0100】
ここで、Q2fは電荷蓄積部CS2に蓄積された電荷量のうちフレア光成分に相当する電荷量、Q1は電荷蓄積部CS1に蓄積された電荷量、Kは定数、を示す。定数Kは、電荷蓄積部CS1の蓄積期間Taが終了したタイミングと、フレア光の受光が開始されたタイミングとの時期的な関係に応じて一意に決定される定数である。
【0101】
ここで、定数Kを決定する方法について、
図5Bを用いて説明する。
図5Bでは、蓄積期間Ta、及び照射時間Toが、共に、13クロック(13ck)で構成されている場合の例が示されている。また、
図5Bでは、中距離モードにおいて、読み出しゲートトランジスタG1がオン状態となった時点から、10クロック(10ck)後に光パルスPOの照射が開始される例を示している。
【0102】
図5Bに示すように、光パルスPOの照射が開始された時点から1クロック(Tb;1ck)後にフレア光の受光が開始された場合、電荷蓄積部CS1には、13クロック分のフレア光のうち2クロック分の受光量に相当する電荷が蓄積される。また、電荷蓄積部CS2には、13クロック分のフレア光のうち11クロック分の受光量に相当する電荷が蓄積される。この場合、以下の(3)式が成立する。
【0103】
Q2f=11/2×Q1f …(3)
【0104】
ここで、Q2fは電荷蓄積部CS2に蓄積された電荷量に含まれるフレア光成分の電荷量、である。Q1fは、電荷蓄積部CS1に蓄積された電荷量に含まれるフレア光成分の電荷量、である。外光が所望の距離の演算結果に影響を与えないような環境(例えば、外光の光量が小さい環境)であれば、電荷量Q1fは、電荷蓄積部CS1に蓄積された電荷量、つまり(2)式の電荷量Q1であると見なすことが可能である。また、(3)式の「11/2」は、(2)式の定数Kに相当する。
【0105】
このように、定数Kは、電荷蓄積部CS1の蓄積期間Taが終了するタイミングと、フレア光の受光が開始されるタイミングとの時間的な関係により決定される。フレア光の受光が開始されるタイミングは、近距離にあるフレア光が生じる要因となる物体A(近距離物体)までの距離に応じて決まる。つまり、定数Kは、近距離物体までの距離に応じて決定される定数である。
【0106】
距離画像撮像装置1は、近距離物体までの距離を、例えば、通常モード2にて測定する。この場合、距離画像撮像装置1は、中距離モードによる測定の前又は後に、通常モード2にて近距離物体までの距離を測定する。また、この場合、距離画像撮像装置1は、予め、近距離物体までの距離と定数Kとを対応づけたテーブルを記憶しておく。
【0107】
そして、距離演算部42は、通常モード2にて測定した近距離物体までの距離に基づいてテーブルを参照し、測定した近距離物体までの距離に対応する定数Kを取得する。距離演算部42は、取得した定数K、及び中距離モードで取得した電荷蓄積部CS1、CS2の電荷量を(2)式に適用させる。これにより、距離演算部42は、電荷蓄積部CS2が蓄積した電荷量に含まれるフレア光成分を抽出することができる。
【0108】
距離演算部42は、抽出したフレア光成分を、電荷蓄積部CS2が蓄積した電荷量から差し引くことにより、電荷蓄積部CS2が蓄積した反射光RLに相当する電荷量を算出する。距離演算部42は、算出した電荷量を(1)式の電荷量Q2に適用することにより遅延時間Tdを算出し、算出した遅延時間Tdを用いて物体Bまでの距離を演算することが可能である。このとき、外光に相当する電荷量((1)式の電荷量Q1に相当する電荷量)は0(ゼロ)である。このようにして求めた物体Bまでの距離には、フレア光成分の影響が除去されているため、フレア光に由来する距離の精度劣化を抑制することが可能である。なお、上述したように、外光の光量が大きい環境では外光に相当する電荷量を除外して距離の演算を行う必要があるため、後述する中距離外光モードにて、或いは任意の方法にて外光を受光し、1フレーム分の外光に相当する電荷量を別途求める必要がある。
【0109】
(中距離外光モード)
次に、中距離外光モードについて、
図6を用いて説明する。
図6は、第1の実施形態の中距離モードにおける画素321を駆動するタイミングを示すタイミングチャートである。
図6における「Light」等の項目については、
図12Cと同様であるため、その説明を省略する。また、
図6における光パルスPOの照射、フレア光、及び反射光RLの受光のそれぞれのタイミング関係は、
図5Aと同様であるため、その説明を省略する。
【0110】
中距離外光モードでは、電荷蓄積部CS1をオン状態とするタイミングを、蓄積期間Ta早める点において中距離モードと相違する。一方、中距離外光モードでは、光パルスPOを照射するタイミング、及び電荷蓄積部CS2、CS3をオン状態とするタイミングを、中距離モードと同じタイミングとする。
【0111】
電荷蓄積部CS1をオン状態とするタイミングを蓄積期間Ta早めることにより、中距離外光モードでは、電荷蓄積部CS1に外光に相当する電荷量を蓄積させる。また、光パルスPOを照射するタイミング、及び電荷蓄積部CS2、CS3をオン状態とするタイミングを、中距離モードと同じタイミングとすることにより、中距離モードと同様の振り分け比率にて、電荷蓄積部CS2にフレア光と反射光RLに相当する電荷を蓄積させると共に、電荷蓄積部CS3に反射光RLに相当する電荷を蓄積させる。
【0112】
(中距離モードによる距離算出方法)
ここで、中距離モード、及び中距離外光モードの測定結果を用いて、中距離にある被写体としての物体Bまでの距離を算出する方法について、
図7を用いて説明する。
図7は、第1の実施形態の距離画像撮像装置1が、中距離モード、及び中距離外光モードの測定結果を用いて距離を算出する処理を説明する図である。
【0113】
図7に示すように、距離画像撮像装置1は、中距離モードによる1フレーム分の測定(処理F1)、及び中距離外光モードによる1フレーム分の測定(処理F2)を交互に繰り返す。
距離画像撮像装置1は、処理F1による処理結果のうち少なくとも電荷量Q1gfをフレームメモリに記憶させ、中距離モードによる測定結果を一時的に保持する(処理F4)。処理F1による処理結果には、1フレーム分の振り分け比率に応じたフレア光と外光に相当する電荷量Q1gf、1フレーム分の振り分け比率に応じたフレア光及び反射光RLと外光に相当する電荷量Q2grf、及び1フレーム分の振り分け比率に応じた反射光RLと外光に相当する電荷量Q3grを含む。
【0114】
距離画像撮像装置1は、処理F2による処理結果のうち少なくとも電荷量Q1gをフレームメモリに記憶させ、中距離外光モードによる測定結果を一時的に保持する(処理F3)。処理F2による処理結果には、1フレーム分の外光に相当する電荷量Q1g、1フレーム分の振り分け比率に応じたフレア光及び反射光RLと外光に相当する電荷量Q2grf、及び1フレーム分の振り分け比率に応じた反射光RLと外光に相当する電荷量Q3grを含む。
【0115】
距離画像撮像装置1は、処理F3による処理結果と、処理F1による処理結果とを用いて、中距離モードと中距離外光モードとの二つの測定結果を合成する(処理F5)。
フレームメモリに、処理F3による処理結果のうち、中距離外光モードの電荷量Q1gのみが記憶されている場合、当該電荷量Q1gと、処理F1による処理結果としての中距離モードの電荷量Q1gf、電荷量Q2grf、及び、電荷量Q3grを用いて合成を行う。
フレームメモリに、中距離外光モードの電荷量Q1g、電荷量Q2grf、及び、電荷量Q3grが記憶されている場合には、当該電荷量Q1g、Q2grf、Q3gr、及び、中距離モードの電荷量Q1gfを用いて合成を行う。
或いは、フレームメモリに、中距離外光モードの電荷量Q1g、電荷量Q2grf、及び、電荷量Q3grが記憶されている場合において、中距離モードの電荷量Q1gf、電荷Q2grf、及び、電荷量Q3grを用いて合成を行うようにしてもよい。この場合、処理F5による合成結果には、中距離外光モードによる1フレーム分の外光に相当する電荷量Q1g、中距離モードによる1フレーム分の振り分け比率に応じたフレア光と外光に相当する電荷量Q1gf、中距離モードと中距離外光モードによる2フレーム分の振り分け比率に応じたフレア光及び反射光RLと外光に相当する電荷量を合成(例えば、平均)した値、及び、中距離モードと中距離外光モード2フレーム分の振り分け比率に応じた反射光RLと外光に相当する電荷量を合成(例えば、平均)した値が含まれる。
【0116】
距離画像撮像装置1は、処理F4による処理結果と、処理F2による処理結果とを用いて、中距離モードと中距離外光モードとの二つの測定結果を合成する(処理F6)。処理F6による合成結果には、処理F5による合成結果と同様の結果が含まれる。
【0117】
距離画像撮像装置1は、処理F5(又は処理F6)により算出した合成結果を、以下の(4)式を適用することにより、光パルスPOが物体Bに反射して距離画像撮像装置1に入射されるまでの遅延時間Tdを算出する。
【0118】
Td=To×Q3r/(Q2r+Q3r) …(4)
【0119】
ここで、Toは光パルスPOが照射された期間、Q3rは、電荷蓄積部CS3に蓄積された電荷量Q3のうちの反射光成分であり、Q2rは、電荷蓄積部CS2に蓄積された電荷量Q2のうちの反射光成分を示す。
【0120】
電荷量Q3rは、電荷蓄積部CS3に蓄積された電荷量Q3のうちの外光成分の電荷量をQ3gとすると、以下の(5)式により示される。
【0121】
Q3r=Q3-Q3g …(5)
【0122】
電荷量Q2rは、電荷蓄積部CS2に蓄積された電荷量Q2のうちの外光成分の電荷量をQ2g、フレア光成分をQ2fとすると、以下の(6)式により示される。
【0123】
Q2r=Q2-Q2g-Q2f …(6)
【0124】
電荷量Q2g、及び電荷量Q3gは、中距離外光モードにて電荷蓄積部CS1に蓄積された電荷量と同量である。また、電荷量Q2fは、中距離モードにて抽出された電荷蓄積部CS1に蓄積された電荷量のうちのフレア光成分の定数K倍である。
【0125】
(中距離外光モードの変形例)
ここで、中距離外光モードの変形例について説明する。本変形例では、
図12Aに示すような従来の測定タイミングにて、光パルスPOを照射させずに測定を行う。これにより、電荷蓄積部CS1~CS3のそれぞれに、外光の光量に相当する1フレーム分の電荷を蓄積させることができる。室内など、屋外と比較して外光の光量の変化が少ない環境で測定を行う場合に、本変形例による測定が行われることが望ましい。また、本変形例による測定を定期的に繰り返し行い、外光の光量が更新されることが望ましい。
【0126】
(定数Kの算出方法の変形例)
ここで、定数Kの算出方法の変形例について、
図8A、及び
図8B(以下
図8A等という)を用いて説明する。本変形例では、予め測定した結果を用いて、定数Kを算出する。
図8A等は、定数Kの算出方法の変形例について説明する図である。
図8A等には、画素ごとの測定結果(距離)をヒストグラムにて示している。
図8A等の横軸は距離(Distance[m])、縦軸は画素の数(Count)を示している。
図8A等では、物体Bを壁とし、壁までの距離を測定している。
図8A等には、物体B(Wallと記載)までの距離を、近距離物体A(Objectと記載)が測定領域に存在する場合(Wall+Object)と、存在しない場合(Wall)との両方で測定した結果が示されている。
図8Aにはフレア光を除去する前(補正なし)の測定結果、
図8Bにはフレア光を除去した後(フレア補正)の測定結果がそれぞれ示されている。
【0127】
図8Aに示すように、物体Bのみ(Wall)の測定では、距離1.2m付近に、ヒストグラムのピークが現れる。すなわち、物体Bまでの距離は、1.2m付近である。
一方、物体Bと近距離物体(Wall+Object)の測定では、近距離物体までの距離(0.3m~0.4m)を示すピークと、距離1.0m付近のピークが現れる。距離1.0m付近のピークは、物体Bの反射光に近距離物体Aに由来するフレア光が混じることで、物体Bまでの距離が実際の距離よりも短く計測されてしまうことを示している。
【0128】
図8Bでは、
図8Aの1.0m付近のピークが、1.2m付近にシフトするような、定数Kを探索し、探索した定数Kを用いてフレア光成分を除去した後、距離を演算した結果を示している。このように統計的な手法を用いて定数Kを算出することにより、より精度よく距離を演算することが可能となる。
【0129】
ここで、本変形例による効果を、
図9A~
図9Fを用いて説明する。
図9A~
図9Fは、中距離モードによる測定の効果を説明する図である。
図9A、
図9Bには、物体Bのみを撮影した距離画像と、物体Bと近距離物体とを撮影した距離画像とを用いて、画素ごとの距離の差分を画素値とした画像(差分画像)が示されている。
図9Aはフレア光成分を除去する前(補正なし)、
図9Bはフレア光成分を除去した後(フレア補正)の差分画像である。
図9A、
図9Bの横軸は水平方向の画素(Pixel(H))、縦軸は垂直方向の画素(Pixel(V))、差分画像の右側には差分値の指標がグレースケールで示され、グレーが明るくなるにしたがい、差分が大きくなることを示している。
なお、符号D1、D2については、後述する図で説明する。
【0130】
図9Aに示すように、補正を行わない場合、物体B(壁)全体が明るいグレーとなり、距離に差分があることが示されている。特に、近距離物体の周辺(近距離物体の左右方向、及び下側)の領域において、より明るいグレーとなっており、この領域における距離の差分が大きく算出されている。一方、
図9Bに示すように、フレア補正を行った場合、物体B(壁)全体が暗いグレーとなり、距離の差分が全体的にゼロに近づいている。
【0131】
図9C、
図9Dには、
図9A、
図9Bの垂直方向断面(符号D1)の画素と距離との関係を示している。
図9Cはフレア光成分を除去する前(補正なし)、
図9Dはフレア光成分を除去した後(フレア補正)の距離画像を用いた結果を示している。
図9C、
図9Dの横軸は画素(Pixel)、縦軸は距離(Distance[m])を示している。
【0132】
図9Cに示すように、補正を行わない場合、近距離物体Aがない場合(点線)と、近距離物体Aがある場合(実線)とで30cm~40cmの差分が発生している。一方、
図9Dに示すように、フレア補正を行った場合、近距離物体Aがない場合(点線)と、近距離物体Aがある場合(実線)とが近距離物体が存在しない領域においてほとんど重なり、差分が低減されている。
【0133】
図9E、
図9Fには、
図9A、
図9Bの垂直方向断面(符号D2)の画素と距離との関係を示している。
図9Eはフレア光成分を除去する前(補正なし)、
図9Fはフレア光成分を除去した後(フレア補正)の距離画像を用いた結果を示している。
図9E、
図9Fの横軸は画素(Pixel)、縦軸は距離(Distance[m])を示している。
【0134】
図9Eに示すように、補正を行わない場合、近距離物体Aがない場合(点線)と、近距離物体Aがある場合(実線)とで30cm~40cmの差分が発生し、特に、近距離物体Aの位置(60Pixel近傍)に近づくにつれ、差分が大きくなっている。一方、
図9Fに示すように、フレア補正を行った場合、近距離物体Aがない場合(点線)と、近距離物体Aがある場合(実線)とがほとんど重なり、近距離物体Aに近い領域であっても差分大きくなることがない。
【0135】
ここで、第1の実施形態の距離画像撮像装置1における処理の流れを、
図10を用いて説明する。
ステップS100:
距離画像撮像装置1は、まず、通常モード1にて測定を行う。距離画像撮像装置1は、測定結果(被写体である物体Bまでの距離DB、及び電荷蓄積部CSに蓄積された電荷量など)を記憶する。
ステップS101:
距離画像撮像装置1は、通常モード1の測定結果から、電荷蓄積部CS2に蓄積された電荷量Q2にフレア光成分が有るか否かを判定する。距離画像撮像装置1は、電荷量Q2(例えば、全画素における電荷量Q2の平均値)が予め定めた所定の閾値以上である場合、電荷量Q2にフレア光成分が有ると判定する。距離画像撮像装置1は、電荷量Q2にフレア光成分が有ると判定した場合、ステップS102の処理を行う。一方、距離画像撮像装置1は、電荷量Q2にフレア光成分がないと判定した場合、ステップS100に戻り、通常モード1による測定を継続する。
【0136】
ステップS102:
距離画像撮像装置1は、通常モード2にて測定を行う。通常モード2では、通常モード1と比較して振り分け回数を減らし、露光量を抑えているため遠距離の被写体の距離は測定されず(測定することができず)、近距離物体Aまでの距離のみが測定される。距離画像撮像装置1は、測定結果(近距離物体Aまでの距離DAなど)を記憶させる。
【0137】
ステップS103:
距離画像撮像装置1は、フレア光成分を除去するための再度の測定を、遠距離モードにて行うか、中距離モードにて行うか判定する。距離画像撮像装置1は、距離DAと距離DBとの距離の差分(絶対値)が、所定の閾値以上である場合、再度の測定を遠距離モードとする。一方、距離画像撮像装置1は、距離DAと距離DBとの距離の差分(絶対値)が、所定の閾値未満である場合、再度の測定を中距離モードとする。距離画像撮像装置1は、再度の測定を遠距離モードとする場合、ステップS104に示す処理を行う。距離画像撮像装置1は、再度の測定を中距離モードとする場合、ステップS106に示す処理を行う。
【0138】
ステップS104:
距離画像撮像装置1は、遠距離モードにて測定を行う。遠距離モードでの測定は、例えば、通常モード1の振り分け回数と同じ振り分け回数にて行う。
ステップS105:
距離画像撮像装置1は、遠距離モードを所定のフレーム数(例えば、30フレーム分)繰り返した後、近距離物体Aが存在し続けているか否か判定する。これは、近距離物体Aが移動体である場合など、近距離物体Aと被写体との関係が変化した場合に、遠距離モードから、通常モード1に戻すものである。距離画像撮像装置1は、通常モード1の測定結果から、電荷蓄積部CS2に蓄積された電荷量Q2にフレア光成分が有るか否かを判定する。フレア光成分が有るか否かの判定は、ステップS101に示す処理と同様の方法であってよい。距離画像撮像装置1は、電荷量Q2にフレア光成分が有ると判定した場合、ステップS104の処理に戻り、遠距離モードによる測定を継続する。一方、距離画像撮像装置1は、電荷量Q2にフレア光成分がないと判定した場合、ステップS100に戻り、通常モード1による測定に回帰する。
【0139】
ステップS106:
距離画像撮像装置1は、中距離モードにて測定を行う。中距離モードでの測定は、例えば、通常モード1の振り分け回数と同じ振り分け回数にて行う。距離画像撮像装置1は、電荷蓄積部CS1~CS3に蓄積された電荷量を記憶し、ステップS107に示す処理を行う。
【0140】
ステップS107:
距離画像撮像装置1は、中距離モードの測定結果から、電荷蓄積部CS2に蓄積された電荷量Q2にフレア光成分が有るか否かを判定する。これは、ステップS101にてフレア光成分が有ると判定された場合であっても、近距離物体Aが移動体であり、一時的に測定領域を横切った場合など、中距離モードで再度の測定を行った際にフレア光成分がなくなっていた場合に対応するものである。電荷量Q2にフレア光成分が有るか否かを判定する方法は、ステップS101と同様である。距離画像撮像装置1は、電荷量Q2にフレア光成分が有ると判定した場合、ステップS108の処理を行う。一方、距離画像撮像装置1は、電荷量Q2にフレア光成分がないと判定した場合、ステップS109の処理を行う。
【0141】
ステップS108:
距離画像撮像装置1は、中距離モードの測定結果(電荷蓄積部CS1~CS3に蓄積された電荷量)を用いて、電荷量Q2に含まれるフレア光成分を除去し、物体Bまでの距離を算出する。なお、本フローチャートでは記載を省略しているが、距離画像撮像装置1は、中距離モードの測定結果に、中距離外光モードにて測定した外光成分を用いて、物体Bまでの距離を算出する。距離画像撮像装置1は、ステップS106の処理に戻り、中距離モードによる測定を継続する。
【0142】
ステップS109:
距離画像撮像装置1は、中距離モードの測定結果(電荷蓄積部CS1~CS3に蓄積された電荷量)を用いて、フレア光の電荷量Q2のフレア光成分を除去することなく、物体Bまでの距離を算出する。この場合の距離の算出方法は、従来の算出方法と同様である。距離画像撮像装置1は、ステップS100に戻り、通常モード1による測定に回帰する。
【0143】
なお、上述したフローチャートでは、それぞれの測定モードにおける1回の測定が、1フレーム分の測定結果であってもよいし、複数フレーム分の測定結果を平均(例えば、移動平均)したものであってもよい。
【0144】
以上説明したように、第1の実施形態に係る距離画像撮像装置1は、光源部2と、受光部3と、距離画像処理部4とを備える。光源部2は、測定空間Eに光パルスPOを照射する。受光部3は、入射した光に応じた電荷を発生する光電変換素子PD、及び前記電荷を蓄積する複数の電荷蓄積部CSを具備する画素と、光パルスPOの照射に同期させた所定の蓄積タイミングで、電荷蓄積部CSのそれぞれに電荷を振り分けて蓄積させる垂直走査回路323(画素駆動回路)と、を有する。距離画像処理部4は、電荷蓄積部CSのそれぞれに蓄積された電荷量に基づいて、測定空間Eに存在する被写体Sまでの距離を測定する。距離画像処理部4は、タイミング制御部41を有する。タイミング制御部41は、測定対象とする距離の範囲に応じて予め定めた測定モードに応じて、蓄積タイミングを制御する。これにより、第1の実施形態の距離画像撮像装置1では、測定対象とする距離の範囲に応じて測定モードを選択することができる。このため、遠距離にある物体を測定する際にフレア光の影響がある場合に、蓄積タイミングを変更させてフレア光の影響を低減させることが可能である。したがって、装置内の光学的な構成を変えることなく、また、データベースを用いることなく、フレア現象による影響を抑制することができる。
【0145】
また、第1の実施形態の距離画像撮像装置1では、タイミング制御部41は、測定モードが遠距離モードである場合、フレア光を受光せず、フレア光の光量に相当する電荷を蓄積しないように、蓄積タイミングを調整する。これにより、フレア光成分の排除を行うことができ、上述した効果と同様の効果を奏する。
【0146】
また、第1の実施形態の距離画像撮像装置1では、タイミング制御部41は、測定モードが中距離モードである場合、フレア光に相当する電荷が電荷蓄積部CS1とCS2とに振り分けて蓄積されるように、蓄積タイミングを調整する。これにより、フレア光成分の除去を行うことができ、上述した効果と同様の効果を奏する。
【0147】
また、第1の実施形態の距離画像撮像装置1では、タイミング制御部41は、測定モードが中距離モードである場合、別途測定した外光に相当する電荷量を用いて外光成分の除去を行う。これにより、フレア光成分の除去及び外光成分の除去を行うことができ、上述した効果と同様の効果を奏する。
【0148】
また、第1の実施形態の距離画像撮像装置1では、タイミング制御部41は、測定モードが中距離モードである場合、中距離外光モードにて外光に相当する電荷が電荷蓄積部CSに蓄積されるように、蓄積タイミングを調整する。これにより、所謂フレーム合成を行うことにより、容易にフレア光成分の除去及び外光成分の除去を行うことができ、上述した効果と同様の効果を奏する。
【0149】
また、第1の実施形態の距離画像撮像装置1では、距離演算部42は、測定モードが中距離モードである場合、電荷蓄積部CS1に蓄積された電荷量に定数Kを乗算した値を、電荷蓄積部CS2に蓄積された電荷量に含まれるフレア光成分とする。これにより、フレア光成分の除去を行うことができ、上述した効果と同様の効果を奏する。
【0150】
また、第1の実施形態の距離画像撮像装置1では、例えば、
図10のフローに示すように、フレア光の有無を判定した結果に応じて、測定モードを動的に変化させながら測定する。これにより、近距離物体が一時的に測定空間Eを横切った場合であっても、測定モードを切り替えて再度の測定を行うことができ、上述した効果と同様の効果を奏する。
【0151】
(第2の実施形態)
次に、第2の実施形態について説明する。本実施形態では、画素が4つの電荷蓄積部CS1~CS4を備える点において、上述した実施形態と相違する。
図11は、第2の実施形態における画素321を駆動するタイミングを示すタイミングチャートである。
図11における「Light」等の項目については、
図12Cと同様であるため、その説明を省略する。また、
図11における光パルスPOの照射、フレア光、及び反射光RLの受光のそれぞれのタイミング関係は、
図5Aと同様であるため、その説明を省略する。
【0152】
図11に示すように、本実施形態では、電荷蓄積部CS1~CS4を順にオン状態とすることにより、中距離モードと中距離外光モードとに対応する動作を同時に行う。これにより、電荷蓄積部CS1には外光の光量に相当する1フレーム分の電荷量が蓄積される。電荷蓄積部CS2、CS3には、フレア光の光量に相当する1フレーム分の電荷量が、振り分け比率に応じてそれぞれ蓄積される。電荷蓄積部CS3、CS4には、反射光RLの光量に相当する1フレーム分の電荷量が、振り分け比率に応じてそれぞれ蓄積される。
【0153】
距離演算部42は、電荷蓄積部CS2に蓄積された電荷量、及び近距離物体までの距離に基づいて定数Kを決定する。距離演算部42は、定数Kを用いて、電荷蓄積部CS3に蓄積された電荷量のうちのフレア光成分を抽出する。距離演算部42は、抽出したフレア光成分を、電荷蓄積部CS3から除去することにより、電荷蓄積部CS3に蓄積された反射光RLに相当する電荷量を算出する。距離演算部42は、電荷蓄積部CS3に蓄積された反射光RLに相当する電荷量、及び、電荷蓄積部CS1、CS4に蓄積された電荷量を用いて、物体までの距離を演算する。
【0154】
以上説明したように、第2の実施形態に係る距離画像撮像装置1では、画素321が4つの電荷蓄積部CSを備える。これにより、中距離モード、及び中距離外光モードによる測定を同時に行うことができ、所謂フレーム合成などの複雑な処理を行わずに、精度よく距離を算出することが可能である。
【0155】
上述した実施形態における距離画像撮像装置1の全部または一部をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、FPGA等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。
【0156】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【符号の説明】
【0157】
1…距離画像撮像装置
2…光源部
3…受光部
32…距離画像センサ
321…画素
323…垂直走査回路
4…距離画像処理部
41…タイミング制御部
42…距離演算部
43…測定制御部
CS…電荷蓄積部
PO…光パルス