IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 凸版印刷株式会社の特許一覧

特開2022-112827距離画像撮像装置及び距離画像撮像方法
<>
  • 特開-距離画像撮像装置及び距離画像撮像方法 図1
  • 特開-距離画像撮像装置及び距離画像撮像方法 図2
  • 特開-距離画像撮像装置及び距離画像撮像方法 図3
  • 特開-距離画像撮像装置及び距離画像撮像方法 図4
  • 特開-距離画像撮像装置及び距離画像撮像方法 図5
  • 特開-距離画像撮像装置及び距離画像撮像方法 図6
  • 特開-距離画像撮像装置及び距離画像撮像方法 図7
  • 特開-距離画像撮像装置及び距離画像撮像方法 図8
  • 特開-距離画像撮像装置及び距離画像撮像方法 図9
  • 特開-距離画像撮像装置及び距離画像撮像方法 図10
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022112827
(43)【公開日】2022-08-03
(54)【発明の名称】距離画像撮像装置及び距離画像撮像方法
(51)【国際特許分類】
   G01S 17/894 20200101AFI20220727BHJP
   H04N 5/374 20110101ALI20220727BHJP
   G01S 17/10 20200101ALI20220727BHJP
   G01S 7/483 20060101ALI20220727BHJP
【FI】
G01S17/894
H04N5/374
G01S17/10
G01S7/483
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2021008797
(22)【出願日】2021-01-22
(71)【出願人】
【識別番号】000003193
【氏名又は名称】凸版印刷株式会社
(74)【代理人】
【識別番号】100149548
【弁理士】
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100139686
【弁理士】
【氏名又は名称】鈴木 史朗
(74)【代理人】
【識別番号】100169764
【弁理士】
【氏名又は名称】清水 雄一郎
(74)【代理人】
【識別番号】100147267
【弁理士】
【氏名又は名称】大槻 真紀子
(72)【発明者】
【氏名】大久保 優
(72)【発明者】
【氏名】高橋 聡
【テーマコード(参考)】
5C024
5J084
【Fターム(参考)】
5C024CX51
5C024CY17
5C024GX03
5C024GX16
5C024GX18
5C024GY39
5C024GY41
5J084AA05
5J084AA10
5J084AB07
5J084AD01
5J084AD06
5J084BA04
5J084BA20
5J084BA36
5J084BA40
5J084BB01
5J084BB40
5J084CA03
5J084CA12
5J084CA23
5J084CA32
5J084CA45
5J084CA49
5J084DA01
5J084DA08
5J084DA09
5J084EA06
5J084EA29
(57)【要約】
【課題】被写体の各々の反射率及び距離画像撮像装置からの距離が不明でも、電荷蓄積部を飽和させず、所定の精度における距離の計測に必要な電荷量を蓄積させる蓄積回数を設定する距離画像撮像装置を提供する。
【解決手段】本発明は、入射光により電荷を発生する光電変換素子、フレーム周期で電荷を蓄積するN個(N≧3)の電荷蓄積部、光電変換素子から電荷蓄積部に電荷を転送する転送トランジスタとを備える画素回路、光パルスに同期した蓄積タイミングで、電荷蓄積部に転送トランジスタで電荷を振分ける画素駆動回路を有する受光部と、光パルスを照射する光源部と、電荷蓄積部の蓄積電荷量に基づいて被写体までの測定距離を求める距離画像処理部と、蓄積電荷量、距離及び入射光の光強度とに応じ、電荷蓄積部に電荷を蓄積する積算回数を求める測定制御部とを備え、測定制御部が、蓄積電荷量が第1閾値以下となるまで、積算回数を第1単位で低減させる。
【選択図】図1
【特許請求の範囲】
【請求項1】
測定対象の空間である測定空間から入射する光である入射光に応じた電荷を発生する光電変換素子と、フレーム周期において前記電荷を蓄積するN個(N≧3)の電荷蓄積部と、前記光電変換素子から前記電荷蓄積部のそれぞれに前記電荷を転送する転送トランジスタとを備える複数の画素回路と、
光パルスの照射に同期した所定の蓄積タイミングで、前記電荷蓄積部の各々に前記転送トランジスタそれぞれのオンオフ処理を行い前記電荷を振分けて蓄積させる画素駆動回路と
を有する受光部と、
前記測定空間に前記光パルスを照射する光源部と、
前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を測定距離として求める距離画像処理部と、
前記電荷蓄積部に蓄積された電荷量である蓄積電荷量、前記距離及び前記入射光の光強度とに応じて、前記電荷蓄積部に電荷を蓄積する回数である積算回数を求める測定制御部と
を備え、
前記測定制御部が、
前記蓄積電荷量が予め設定された第1閾値を超えた場合、当該電荷量が前記第1閾値以下となるまで、前記積算回数を所定の第1単位で順次低減させる
ことを特徴とする距離画像撮像装置。
【請求項2】
前記測定制御部が、
前記蓄積電荷量が前記第1閾値以下となった後、前記電荷蓄積部の各々の前記蓄積電荷量から最大の蓄積電荷量である最大蓄積電荷量の画素回路を抽出し、当該最大蓄積電荷量における前記画素回路における前記距離及び前記光強度とに対応して前記積算回数を求める
ことを特徴とする請求項1に記載の距離画像撮像装置。
【請求項3】
前記距離及び前記光強度の各々の組合せと、前記積算回数とを対応付けた積算回数テーブルをさらに有し、
前記光強度が前記蓄積電荷量を前記積算回数で除算した、一回の積算における電荷量であり、
前記測定制御部が、
前記最大蓄積電荷量の前記距離及び前記光強度とに対応した前記積算回数を前記積算回数テーブルから選択して読み出す
ことを特徴とする請求項2に記載の距離画像撮像装置。
【請求項4】
前記測定制御部が、
前記積算回数を読み出した際に用いた前記光強度が予め設定した第2閾値以上の場合、前記積算回数テーブルから読み出した前記積算回数を所定の第2単位で低減する
ことを特徴とする請求項3に記載の距離画像撮像装置。
【請求項5】
前記第1閾値が、前記電荷蓄積部の最大蓄積容量の60%以上の任意の数値として設定されている
ことを特徴とする請求項1から請求項4のいずれか一項に記載の距離画像撮像装置。
【請求項6】
前記測定制御部が、
前記距離及び前記光強度とに対応して前記積算回数を求めた後、当該積算回数を前記蓄積電荷量が前記第1閾値を超えるまで継続して使用する
ことを特徴とする請求項1から請求項5のいずれか一項に記載の距離画像撮像装置。
【請求項7】
前記測定制御部が、
前記距離及び前記光強度とに対応して前記積算回数を求めた後、前記距離を測定した回数が予め設定した所定の回数を超えるまで、当該積算回数を継続して使用する
ことを特徴とする請求項1から請求項5のいずれか一項に記載の距離画像撮像装置。
【請求項8】
前記測定制御部が、
前記距離及び前記光強度とに対応して前記積算回数を求めた後、予め設定した数の前記フレーム周期毎に、前記距離と、前記光強度と、背景光により生成された電荷量とにより、前記積算回数を変更する
ことを特徴とする請求項1から請求項5のいずれか一項に記載の距離画像撮像装置。
【請求項9】
前記積算回数が増加するに従って、前記光パルスを照射する周期が長くなるように設定されている
ことを特徴とする請求項1から請求項8のいずれか一項に記載の距離画像撮像装置。
【請求項10】
前記受光部において前記画素回路の複数個がアレイ状に配置されており、
前記測定制御部が、アレイ状に配置された前記画素回路における、予め設定された所定の領域における画素回路の各々における前記電荷蓄積部の前記蓄積電荷量を前記第1閾値と比較する
ことを特徴とする請求項1から請求項9のいずれか一項に記載の距離画像撮像装置。
【請求項11】
前記電荷蓄積部に前記電荷を蓄積する時間以外、前記光電変換素子が発生した前記電荷を排出する電荷排出回路が前記画素回路に備えられている
ことを特徴とする請求項1から請求項10のいずれか一項に記載の距離画像撮像装置。
【請求項12】
光電変換素子と複数の電荷蓄積部と転送トランジスタとからなる複数の画素回路の各々と、光源部と、画素駆動回路と、距離画像処理部と、測定制御部とを備える距離画像撮像装置を制御する距離画像撮像方法であり、
前記光源部が、測定対象の空間である測定空間に光パルスを照射する過程と、
前記画素駆動回路が、前記光パルスの照射に同期した所定の蓄積タイミングで、前記測定空間から入射光に応じて前記光電変換素子が発生した電荷を、N個(N≧3)の電荷蓄積部の各々に、前記光電変換素子から前記電荷蓄積部に前記電荷を転送させる前記転送トランジスタそれぞれのオンオフ処理を行って振分けて蓄積させる過程と、
前記距離画像処理部が、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を測定距離として求める過程と、
前記測定制御部が、前記電荷蓄積部に蓄積された電荷量である蓄積電荷量、前記距離及び前記入射光の光強度とに応じて、前記電荷蓄積部に電荷を蓄積する回数である積算回数を求める際、前記蓄積電荷量が予め設定された第1閾値を超えた場合、当該電荷量が前記第1閾値以下となるまで、前記積算回数を所定の第1単位で順次低減させて前記積算回数を求める過程と
を含むことを特徴とする距離画像撮像方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、距離画像撮像装置及び距離画像撮像方法に関する。
【背景技術】
【0002】
従来から、光の速度が既知であることを利用し、光の飛行時間に基づいて被写体との距離を測定するタイム・オブ・フライト(Time of Fright、以下「ToF」と記す)方式の距離画像撮像装置がある(例えば、特許文献1参照)。
ToF方式距離画像撮像装置は、光を照射する光源部と、距離を測定するための光を検出する画素回路が二次元の行列状(アレイ状)に複数配置された画素アレイを含む撮像部を備えている。上記画素回路の各々は、光の強度に対応する電荷を発生する光電変換素子(例えば、フォトダイオード)を構成要素として有している。
この構成により、ToF方式距離画像撮像装置は、測定空間(三次元空間)において、自身と被写体との間の距離の情報や、被写体の画像を取得(撮像)することができる。
【0003】
ToF方式距離画像撮像装置は、放射光を放射したタイミングから、被写体により反射した反射光を受光したタイミングまでの遅延時間により距離の計測を行う。
しかし、入射される入射光の強度に応じて光センサが発生する電荷量が変化するため、被写体までの距離が増加するに従い、反射光の強度が低下してしまう(光の強度は距離の二乗に反比例)。
ToF方式距離画像撮像装置は、電荷蓄積部に蓄積された電荷量に基づいて上記遅延時間を求めるため、信号とノイズとのSN比が大きくなるほど測定精度が向上する。
【0004】
このため、ToF方式距離画像撮像装置(以下、単に距離画像撮像装置)から被写体まで距離に対応して、光電変換素子が入射光の強度に応じて生成した電荷を電荷蓄積部に蓄積する時間である露光時間を変化させる(オートエクスポージャ)ことが行われている(例えば、特許文献2参照)。
これにより、遠ければ遠くなるほど電荷の露光時間を増加させて、TOFセンサの電荷蓄積部に蓄積される電荷量を増加させることにより、距離の計測精度を保つ。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2004-294420号公報
【特許文献2】特開2012-185171号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、光の強度が被写体との距離に反比例するため、予め遠距離の物体に合わせて露光時間を設定した場合、被写体の各々の反射率が異なり、反射率の高い被写体からの反射光で発生される電荷により電荷蓄積部が飽和してしまう。
また、測定距離の精度を向上させるために遠距離の被写体に合わせて露光時間を設定した際、距離画像撮像装置から被写体の各々までの距離が不明であるため、近距離に被写体が存在した場合、当該被写体からの反射光の強度が大きく、近距離の被写体からの反射光で発生される電荷により電荷蓄積部が飽和してしまう。
【0007】
本発明は、このような状況に鑑みてなされたもので、測定空間における被写体の各々の反射率、及び距離画像撮像装置からの距離の各々が不明であっても、電荷蓄積部を飽和させることなく、所定の精度における距離の計測に必要な電荷量を蓄積させる蓄積回数を設定することが可能な距離画像撮像装置及び距離画像撮像方法を提供することを目的としている。
【課題を解決するための手段】
【0008】
上述した課題を解決するために、本発明の距離画像撮像装置は、測定対象の空間である測定空間から入射する光である入射光に応じた電荷を発生する光電変換素子と、フレーム周期において前記電荷を蓄積するN個(N≧3)の電荷蓄積部と、前記光電変換素子から前記電荷蓄積部のそれぞれに前記電荷を転送する転送トランジスタとを備える複数の画素回路と、光パルスの照射に同期した所定の蓄積タイミングで、前記電荷蓄積部の各々に前記転送トランジスタそれぞれのオンオフ処理を行い前記電荷を振分けて蓄積させる画素駆動回路とを有する受光部と、前記測定空間に前記光パルスを照射する光源部と、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を測定距離として求める距離画像処理部と、前記電荷蓄積部に蓄積された電荷量である蓄積電荷量、前記距離及び前記入射光の光強度とに応じて、前記電荷蓄積部に電荷を蓄積する回数である積算回数を求める測定制御部とを備え、前記測定制御部が、前記蓄積電荷量が予め設定された第1閾値を超えた場合、当該電荷量が前記第1閾値以下となるまで、前記積算回数を所定の第1単位で順次低減させることを特徴とする。
【0009】
本発明の距離画像撮像装置は、前記測定制御部が、前記蓄積電荷量が前記第1閾値以下となった後、前記電荷蓄積部の各々の前記蓄積電荷量から最大の蓄積電荷量である最大蓄積電荷量の画素回路を抽出し、当該最大蓄積電荷量における前記画素回路における前記距離及び前記光強度とに対応して前記積算回数を求めることを特徴とする。
【0010】
本発明の距離画像撮像装置は、前記距離及び前記光強度の各々の組合せと、前記積算回数とを対応付けた積算回数テーブルをさらに有し、前記光強度が前記蓄積電荷量を前記積算回数で除算した、一回の積算における電荷量であり、前記測定制御部が、前記最大蓄積電荷量の前記距離及び前記光強度とに対応した前記積算回数を前記積算回数テーブルから選択して読み出すことを特徴とする。
【0011】
本発明の距離画像撮像装置は、前記測定制御部が、前記測定制御部が、前記積算回数を読み出した際に用いた前記光強度が予め設定した第2閾値以上の場合、前記積算回数テーブルから読み出した前記積算回数を所定の第2単位で低減することを特徴とする。
【0012】
本発明の距離画像撮像装置は、前記第1閾値が、前記電荷蓄積部の最大蓄積容量の60%以上の任意の数値として設定されていることを特徴とする。
【0013】
本発明の距離画像撮像装置は、前記測定制御部が、前記距離及び前記光強度とに対応して前記積算回数を求めた後、当該積算回数を前記蓄積電荷量が前記第1閾値を超えるまで継続して使用することを特徴とする。
【0014】
本発明の距離画像撮像装置は、前記測定制御部が、前記距離及び前記光強度とに対応して前記積算回数を求めた後、前記距離を測定した回数が予め設定した所定の回数を超えるまで、当該積算回数を継続して使用することを特徴とする。
【0015】
本発明の距離画像撮像装置は、前記測定制御部が、前記距離及び前記光強度とに対応して前記積算回数を求めた後、予め設定した数の前記フレーム周期毎に、前記距離と、前記光強度と、背景光により生成された電荷量とにより、前記積算回数を変更することを特徴とする。
【0016】
本発明の距離画像撮像装置は、前記積算回数が増加するに従って、前記光パルスを照射する周期が長くなるように設定されていることを特徴とする。
【0017】
本発明の距離画像撮像装置は、前記受光部において前記画素回路の複数個がアレイ状に配置されており、前記測定制御部が、アレイ状に配置された前記画素回路における、予め設定された所定の領域における画素回路の各々における前記電荷蓄積部の前記蓄積電荷量を前記第1閾値と比較することを特徴とする。
【0018】
本発明の距離画像撮像装置は、前記電荷蓄積部に前記電荷を蓄積する時間以外、前記光電変換素子が発生した前記電荷を排出する電荷排出回路(実施形態における電荷排出トランジスタGD)が前記画素回路に備えられていることを特徴とする。
【0019】
本発明の距離画像撮像方法は、光電変換素子と複数の電荷蓄積部と転送トランジスタとからなる複数の画素回路の各々と、光源部と、画素駆動回路と、距離画像処理部と、測定制御部とを備える距離画像撮像装置を制御する距離画像撮像方法であり、前記光源部が、測定対象の空間である測定空間に光パルスを照射する過程と、前記画素駆動回路が、前記光パルスの照射に同期した所定の蓄積タイミングで、前記測定空間から入射光に応じて前記光電変換素子が発生した電荷を、N個(N≧3)の電荷蓄積部の各々に、前記光電変換素子から前記電荷蓄積部に前記電荷を転送させる前記転送トランジスタそれぞれのオンオフ処理を行って振分けて蓄積させる過程と、前記距離画像処理部が、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を測定距離として求める過程と、前記測定制御部が、前記電荷蓄積部に蓄積された電荷量である蓄積電荷量、前記距離及び前記入射光の光強度とに応じて、前記電荷蓄積部に電荷を蓄積する回数である積算回数を求める際、前記蓄積電荷量が予め設定された第1閾値を超えた場合、当該電荷量が前記第1閾値以下となるまで、前記積算回数を所定の第1単位で順次低減させて前記積算回数を求める過程とを含むことを特徴とする。
【発明の効果】
【0020】
以上説明したように、本発明によれば、測定空間における被写体の各々の反射率、及び距離画像撮像装置からの距離の各々が不明であっても、電荷蓄積部を飽和させることなく、所定の精度における距離の計測に必要な電荷量を蓄積させる蓄積回数を設定することが可能な距離画像撮像装置及び距離画像撮像方法を提供することができる。
【図面の簡単な説明】
【0021】
図1】本図1は、本発明の第1の実施形態の距離画像撮像装置の概略構成を示したブロック図である。
図2】本発明の第1の実施形態の距離画像撮像装置における距離画像センサ32に配置された画素回路321の構成の一例を示した回路図である。
図3】光電変換素子PDで生成された電荷を電荷蓄積部CSの各々に転送するタイミングチャートを示す図である。
図4】第1の実施形態の距離画像撮像装置における測定制御部43の構成例を示すブロック図である。
図5】蓄積電荷量判定部431が行う積算回数の調整処理の動作を示す概念図である。
図6】積算回数テーブル記憶部436に予め書き込まれて記憶されている積算回数テーブルの構成例を示す図である。
図7】第1の実施形態の距離画像撮像装置1による距離画像センサ32と被写体Sとの距離の算出の処理の動作例を示すフローチャートである。
図8】第2の実施形態の距離画像撮像装置における測定制御部43Aの構成例を示すブロック図である。
図9】アイセーフにおける積算回数及び光パルス周期の各々と、最大許容露光量との関係を示す図である。
図10】第2の実施形態の距離画像撮像装置1による距離画像センサ32と被写体Sとの距離の算出の処理の動作例を示すフローチャートである。
【発明を実施するための形態】
【0022】
<第1の実施形態>
以下、本発明の第1の実施形態について、図面を参照して説明する。
図1は、本発明の第1の実施形態の距離画像撮像装置の概略構成を示したブロック図である。図1に示した構成の距離画像撮像装置1は、ToF方式の距離画像撮像装置であり、光源部2と、受光部3と、距離画像処理部4とを備える。なお、図1には、距離画像撮像装置1において距離を測定する対象物である被写体Sも併せて示している。距離画像撮像素子は、例えば、受光部3における距離画像センサ32(後述)である。
【0023】
光源部2は、距離画像処理部4からの制御に従って、距離画像撮像装置1において距離を測定する対象の被写体Sが存在する撮影対象の空間に光パルスPOを照射する。光源部2は、例えば、垂直共振器面発光レーザー(VCSEL:Vertical Cavity Surface Emitting Laser)などの面発光型の半導体レーザーモジュールである。光源部2は、光源装置21と、拡散板22とを備える。
【0024】
光源装置21は、被写体Sに照射する光パルスPOとなる近赤外の波長帯域(例えば、波長が850nm~940nmの波長帯域)のレーザー光を発光する光源である。光源装置21は、例えば、半導体レーザー発光素子である。光源装置21は、タイミング制御部41からの制御に応じて、パルス状のレーザー光を発光する。
拡散板22は、光源装置21が発光した近赤外の波長帯域のレーザー光を、被写体Sに照射する面の広さに拡散する光学部品である。拡散板22が拡散したパルス状のレーザー光が、光パルスPOとして出射され、被写体Sに照射される。
【0025】
受光部3は、距離画像撮像装置1において距離を測定する対象の被写体Sによって反射された光パルスPOの反射光RLを受光し、受光した反射光RLに応じた画素信号を出力する。受光部3は、レンズ31と、距離画像センサ32とを備える。
レンズ31は、入射した反射光RLを距離画像センサ32に導く光学レンズである。レンズ31は、入射した反射光RLを距離画像センサ32側に出射して、距離画像センサ32の受光領域に備えた画素回路に受光(入射)させる。
【0026】
距離画像センサ32は、距離画像撮像装置1に用いられる撮像素子である。距離画像センサ32は、二次元の受光領域に複数の画素回路321、画素回路321の各々を制御する画素駆動回路322と備える。
上記画素回路321は、1つの光電変換素子(例えば、後述する光電変換素子PD)と、この1つの光電変換素子に対応する複数の電荷蓄積部(例えば、後述する電荷蓄積部CS1からCS4)と、それぞれの電荷蓄積部に電荷を振り分ける構成要素とが設けられている。
【0027】
距離画像センサ32は、タイミング制御部41からの制御に応じて、光電変換素子が発生した電荷をそれぞれの電荷蓄積部に振り分ける。また、距離画像センサ32は、電荷蓄積部に振り分けられた電荷量に応じた画素信号を出力する。距離画像センサ32には、複数の画素回路が二次元の行列状に配置されており、それぞれの画素回路の対応する1フレーム分の画素信号を出力する。
【0028】
距離画像処理部4は、距離画像撮像装置1を制御し、被写体Sまでの距離を演算する。
距離画像処理部4は、タイミング制御部41と、距離演算部42と、測定制御部43とを備える。
タイミング制御部41は、測定制御部43の制御に応じて、距離の測定に要する様々な制御信号を出力するタイミングを制御する。ここでの様々な制御信号とは、例えば、光パルスPOの照射を制御する信号や、反射光RLを複数の電荷蓄積部に振り分ける信号、1フレームあたりの振り分け回数を制御する信号などである。振り分け回数とは、電荷蓄積部CS(図2参照)に電荷を振り分ける処理を繰返す回数である。
【0029】
距離演算部42は、測定制御部43の制御に応じて、距離画像センサ32から出力された画素信号に基づいて、被写体Sまでの距離を演算した距離情報を出力する。距離演算部42は、複数の電荷蓄積部CSに蓄積された電荷量に基づいて、光パルスPOを照射してから反射光RLを受光するまでの遅延時間Tdを算出する。距離演算部42は、算出した遅延時間Tdに応じて、距離画像撮像装置1から被写体Sまでの距離(測定距離)を演算する。
【0030】
測定制御部43は、フレーム周期で繰返されるフレームにおいて、電荷蓄積部CSに蓄積される蓄積電荷量と、距離演算部42が求めた測定距離及び背景光の電荷量(蓄積電荷量Q1、後述)とにより、電荷蓄積部CSにおける電荷を蓄積する積算回数(すなわち、光パルスPOの照射回数)、及び光パルスの照射をする周期(照射周期)を求める。
そして、測定制御部43は、求めた積算回数及び照射周期に対応して、タイミング制御部41におけるタイミングの制御、距離演算部42における演算の制御を行う(後に詳述する)。
【0031】
このような構成によって、距離画像撮像装置1では、光源部2が被写体Sに照射した近赤外の波長帯域の光パルスPOが被写体Sによって反射された反射光RLを受光部3が受光し、距離画像処理部4が、被写体Sと距離画像撮像装置1との測定距離を測定した距離情報を出力する。
なお、図1においては、距離画像処理部4を内部に備えた構成の距離画像撮像装置1を示しているが、距離画像処理部4は、距離画像撮像装置1の外部に備える構成要素であってもよい。
【0032】
すなわち、本実施形態による距離画像撮像装置は、電荷蓄積部CSに蓄積される電荷により、被写体と距離画像センサ32との距離を算出する。
このため、測定距離の計算において、入射光の強度が高く、光電変換素子において発生する電荷が、電荷蓄積部CSの容量を超えてしまう場合、距離の計算によって、距離画像撮像装置1と被写体Sとの測定距離を正確に求めることができない。
また、距離画像撮像装置1から被写体Sまでの距離が遠くなる従い、また被写体Sの反射率が低い程、被写体Sで光パルスPOが反射して生成される反射光の強度が低下する。このため、光電変換素子において反射光により発生する電荷も減少するため、ノイズよって影響を受けて測定距離の計算の精度が低下するため、積算回数を増加させる必要がある。
【0033】
上述した処理を電荷蓄積部に蓄積される電荷量により、積算回数、あるいは光パルスPOの放射回数を制御するオートエクスポージャの処理が行われる。
ここで、反射光の強度が低下した場合、積算回数を増加させて、反射光によって光電変換素子で発生する電荷の蓄積回数を増加させることにより、測定距離の計算に必要な電荷量が電荷蓄積素子に蓄積され、得られる測定距離の精度が向上する。
【0034】
しかしながら、被写体の各々の反射率が同一であることは一般的に少なく、被写体のそれぞれの反射率は互いに異なっており、光の強度が被写体との距離に反比例することから、予め遠距離の物体に合わせて積算回数を設定した場合、距離画像撮像装置に近い距離にある反射率の高い被写体からの反射光で発生される電荷により電荷蓄積部が飽和してしまう。
【0035】
また、測定距離の精度を向上させるために遠距離の被写体に合わせて積算回数を設定した際、遠距離の被写体以外の被写体の各々から距離画像撮像装置までの距離が不明であり距離画像撮像装置1の近距離に被写体が存在する場合、当該近距離の被写体からの反射光の強度が遠距離にある被写体に比較して大きく、近距離の被写体からの反射光で発生される電荷により電荷蓄積部が飽和してしまう。
このため、本実施形態においては、後述するように、測定制御部43が電荷蓄積部が飽和しないように、タイミング制御回路41を介して、距離画像を撮像する(すなわち、測定距離の測定の処理を行う)際に光源部2及び受光部3の制御を行う。
【0036】
次に、距離画像センサ32における画素回路321の構成について説明する。
図2は、本発明の第1の実施形態の距離画像撮像装置における距離画像センサ32に配置された画素回路321の構成の一例を示した回路図である。図2の画素回路321は、例えば、4つの画素信号読み出し部RU1からRU4を備えた構成例である。本実施形態における画素回路321の構成は、一例であり、画素信号読み出し部は3個以上の複数個、すなわちn個(n≧3)の構成を有する。
【0037】
画素回路321は、1つの光電変換素子PDと、電荷排出トランジスタGDと、対応する出力端子Oから電圧信号を出力する4つの画素信号読み出し部RU(RU1からRU4)とを備える。画素信号読み出し部RUのそれぞれは、転送トランジスタGと、フローティングディフュージョンFDと、電荷蓄積容量Cと、リセットトランジスタRTと、ソースフォロアトランジスタSFと、選択トランジスタSLとを備える。フローティングディフュージョンFD(FD1、FD2、FD3、FD4)と電荷蓄積容量C(C1、C2、C3、C4)とは、電荷蓄積部CS(CS1、CS2、CS3、CS4)を構成している。
【0038】
図2に示した画素回路321において、出力端子O1から電圧信号を出力する画素信号読み出し部RU1は、転送トランジスタG1(転送MOSトランジスタ)と、フローティングディフュージョンFD1と、電荷蓄積容量C1と、リセットトランジスタRT1と、ソースフォロアトランジスタSF1と、選択トランジスタSL1とを備える。画素信号読み出し部RU1では、フローティングディフュージョンFD1と電荷蓄積容量C1とによって電荷蓄積部CS1が構成されている。画素信号読み出し部RU2、RU3及びRU4も同様の構成である。
【0039】
光電変換素子PDは、入射した光を光電変換して、入射した光(入射光)に応じた電荷を発生させ、発生させた電荷を蓄積する埋め込み型のフォトダイオードである。本実施形態においては、入射光は測定対象の空間から入射される。
画素回路321では、光電変換素子PDが入射光を光電変換して発生させた電荷を4つの電荷蓄積部CS(CS1からCS4)のそれぞれに振り分け、振り分けられた電荷の電荷量に応じたそれぞれの電圧信号を、距離画像処理部4に出力する。
また、距離画像センサ32に配置される画素回路の構成は、図2に示したような、4つの画素信号読み出し部RU(RU1からRU4)を備えた構成に限定されるものではなく、画素信号読み出し部RUが1個以上の複数の画素信号読み出し部RUを備えた構成の画素回路でもよい。
【0040】
上記距離画像撮像装置1の画素回路321の駆動において、光パルスPOが照射時間Toで照射され、遅延時間Td遅れて反射光RLが距離画像センサ32に受光される。画素駆動回路322は、タイミング制御部41に制御により、光パルスPOの照射に同期させて、光電変換素子PDに発生する電荷を、転送トランジスタG1、G2、G3、G4に対して、蓄積駆動信号TX1からTX4をそれぞれのタイミングにより供給して振り替えて、電荷蓄積部CS1、CS2、CS3、CS4の順に蓄積させる。
【0041】
そして、画素駆動回路322は、リセットトランジスタRT及び選択トランジスタSLの各々を、駆動信号RST、SELそれぞれにより制御し、電荷蓄積部CSに蓄積された電荷を、ソースフォロアトランジスタSFにより電気信号に変換し、生成された電気信号を出力端子Oを介して距離演算部42に出力する。
また、画素駆動回路322は、タイミング制御部41に制御により、駆動信号RSTDにより、光電変換素子PDにおいて発生された電荷を電源VDDに流して放電する(電荷を消去する)。
【0042】
図3は、光電変換素子PDで生成された電荷を電荷蓄積部CSの各々に転送するタイミングチャートを示す図である。
図3のタイミングチャートにおいて、縦軸はパルスのレベルを示し、横軸は時間を示している。また、フレームにおける電荷の蓄積期間に繰返される蓄積周期を示している。光パルスPO及び反射光RLの時間軸における相対関係と、転送トランジスタG1からG4の各々に供給する蓄積駆動信号TX1からTX4それぞれのタイミングと、電荷排出トランジスタGDに供給する駆動信号RSTDのタイミングとを示している。
【0043】
タイミング制御部41は、光源部2に対して光パルスPOを測定空間に対して照射させる。これにより、光パルスPOが被写体に反射し、反射光RLとして受光部3に受講される。そして、光電変換素子PDは、背景光及び反射光RLの各々に対応した電荷を発生する。画素駆動回路322は、光電変換素子PDの発生した電荷を、電荷蓄積部CS1からCS4の各々に対して転送するため、転送トランジスタG1からG4の各々のオンオフを制御する。
すなわち、画素駆動回路322は、蓄積駆動信号TX1からTX4の各々を、所定の時間幅(照射時間To、すなわちパルス幅と同一の幅)の「H」レベルの信号として、転送トランジスタG1からG4それぞれに供給する。
【0044】
画素駆動回路322は、例えば、光電変換素子PDから電荷を電荷蓄積部CS1に転送する転送経路上に設けられた転送トランジスタG1をオン状態にする。これにより、光電変換素子PDにより光電変換された電荷が、転送トランジスタG1を介して電荷蓄積部CS1に蓄積される。その後、画素駆動回路322は、転送トランジスタG1をオフ状態にする。これにより、電荷蓄積部CS1への電荷の転送が停止される。このようにして、画素駆動回路322は、電荷蓄積部CS1に電荷を蓄積させる。他の電荷蓄積部CS2、CS3及びCS4においても同様である。
【0045】
このとき、電荷蓄積部CSに電荷の振り分けを行なう電荷蓄積期間(フレームにおける電荷蓄積部CSの各々に電荷を蓄積する期間)において、蓄積駆動信号TX1、TX2、TX3、TX4の各々が、転送トランジスタG1、G2、G3、G4それぞれに供給される蓄積周期(電荷を蓄積して積算する周期)が繰返される。
そして、転送トランジスタG1、G2、G3及びG4の各々を介して、電荷蓄積部CS1、CS2、CS3、CS4それぞれに、光電変換素子PDから入射光に対応した電荷が転送される。電荷蓄積期間に複数の蓄積周期が繰返される。
これにより、電荷蓄積期間における電荷蓄積部CS1、CS2、CS3及びCS4の各々の蓄積周期毎に、電荷蓄積部CS1、CS2、CS3、CS4それぞれに電荷が蓄積される。
【0046】
また、画素駆動回路322は、電荷蓄積部CS1、CS2、CS3及びCS4の各々の蓄積周期を繰返す際、電荷蓄積部CS4に対する電荷の転送(振替)が終了した後、光電変換素子PDから電荷を排出する排出経路上に設けられた電荷排出トランジスタGDに対して、「H」レベルの駆動信号RSTDを供給してオンさせる。
これにより、電荷排出トランジスタGDは、電荷蓄積部CS1に対する蓄積周期が開始される前に、直前の電荷蓄積部CS4の蓄積周期の後に光電変換素子PDに発生した電荷を破棄する(すなわち、光電変換素子PDをリセットさせる)。
【0047】
そして、画素駆動回路322は、受光部3内に配置された全ての画素回路321の各々から、それぞれ電圧信号を画素回路321の行(横方向の配列)単位で、順次A/D変換処理などの信号処理を行なう。
その後、画素駆動回路322は、信号処理を行った後の電圧信号を、受光部3において配置された列の順番に、順次、距離演算部42に出力させる。
【0048】
上述したような、画素駆動回路322による電荷蓄積部CSへ電荷の蓄積と光電変換素子PDが光電変換した電荷の破棄とが、1フレームに渡って繰り返し行われる。これにより、所定の時間区間に距離画像撮像装置1に受光された光量に相当する電荷が、電荷蓄積部CSのそれぞれに蓄積される。画素駆動回路322は、電荷蓄積部CSのそれぞれに蓄積された、1フレーム分の電荷量に相当する電気信号を、距離演算部42に出力する。
【0049】
光パルスPOを照射するタイミングと、電荷蓄積部CS(CS1からCS4)のそれぞれに電荷を蓄積させるタイミングとの関係から、電荷蓄積部CS1には、光パルスPOを照射する前の背景光などの外光成分に相当する電荷量が保持される。また、電荷蓄積部CS2、CS3及びCS4には、反射光RL、及び外光成分に相当する電荷量が振り分けられて保持される。電荷蓄積部CS2及びCS3、あるいは電荷蓄積部CS3及びCS4に振り分けられる電荷量の配分(振り分け比率)は、光パルスPOが被写体Sに反射して距離画像撮像装置1に入射されるまでの遅延時間Tdに応じた比率となる。
【0050】
図1に戻り、距離演算部42は、この原理を利用して、以下の(1)あるいは(2)式により、遅延時間Tdを算出する。
Td=To×(Q3-Q1)/(Q2+Q3-2×Q1) …(1)
Td=To+To×(Q4-Q1)/(Q3+Q4-2×Q1) …(2)
ここで、Toは光パルスPOが照射された期間、Q1は電荷蓄積部CS1に蓄積された電荷量、Q2は電荷蓄積部CS2に蓄積された電荷量、Q3は電荷蓄積部CS3に蓄積された電荷量、Q4は電荷蓄積部CS4に蓄積された電荷量を示す。距離演算部42は、例えば、Q4=Q1である場合、(1)式で遅延時間Tdを算出し、一方、Q2=Q1である場合、(2)式で遅延時間Tdを算出する。
【0051】
(1)式においては、電荷蓄積部CS2及びCS3には反射光により発生された電荷が蓄積されるが、電荷蓄積部CS4には蓄積されない。一方、(2)式においては、電荷蓄積部CS3及びCS4には反射光により発生された電荷が蓄積されるが、電荷蓄積部CS2には蓄積されない。
なお、(1)式あるいは(2)式では、電荷蓄積部CS2、CS3及びCS4に蓄積される電荷量のうち、外光成分に相当する成分が、電荷蓄積部CS1に蓄積された電荷量と同量であることを前提とする。
【0052】
距離演算部42は、(1)式あるいは(2)式で求めた遅延時間に、光速(速度)を乗算させることにより、被写体Sまでの往復の測定距離を算出する。
そして、距離演算部42は、上記で算出した往復の距離を1/2とする(遅延時間Td×c(光速度)/2)ことにより、距離画像センサ32(すなわち、距離画像撮像装置1)から被写体Sまでの距離を求める。
【0053】
また、時間Trsは、図3における蓄積周期の1サイクルにおける電荷蓄積部CS4に対する光電変換素子PDからの電荷の振分け終了後における、当該光電変換素子PDに入力光により発生した電荷が留まらない(溜らない)ように、電荷排出トランジスタGDに供給する駆動信号RSTDを「H」レベルとされる期間を示している。
【0054】
図4は、第1の実施形態の距離画像撮像装置における測定制御部43の構成例を示すブロック図である。図4において、測定制御部43は、蓄積電荷量判定部431、光強度算出部432、積算回数選択部433、積算回数補正部434、閾値記憶部435、積算回数テーブル記憶部436の各々を備えている。
【0055】
蓄積電荷量判定部431は、蓄積電荷量との比較に用いる第1閾値を閾値記憶部435から読み込む。この第1閾値は、例えば、電荷蓄積部CSの最大蓄積容量の60%、あるいは60%以上のいずれかの電荷量として設定される。
ここで、実際の運用において、閾値として、電荷蓄積部CSに蓄積される反射光により発生する電荷の変動を考慮し、第1閾値は、通常、経験的な範囲として、例えば最大蓄積容量の90%~95%程度に設定される。
しかしながら、第1閾値が最大蓄積容量の90%~95%の設定の場合、光電変換素子PDが反射光のみでなく背景光を含んだ入射光による電荷を発生するため、背景光による影響を考慮すると、背景光の強度の変化によっては電荷蓄積部CSが飽和することが想定される。このため、背景光の変化による光電変換素子PDが発生する入射光による電荷量の変動に対する余裕(マージン)を持たせると、実験的には60%以上とすることが望ましい結果が得られた。
【0056】
そして、蓄積電荷量判定部431は、画素回路321の各々の電荷蓄積部CSそれぞれに蓄積される電荷量である蓄積電荷量が予め設定されている第1閾値を超えるか否かの判定を行う。ここで参照する画素回路321の各々は、アレイ状(2次元配列であり、言い換えると格子状)に配置された画素回路321の配列において、予め設定された所定の位領域(例えば、距離画像センサ32における画素回路321の配列の中央領域)における領域の画素回路群である。
また、上述した説明においては、予め設定された所定の位領域の画素回路321を用いる構成としているが、距離画像センサ32における全ての画素回路321を上記判定に用いる構成としてもよい。
【0057】
このとき、蓄積電荷量判定部431は、閾値記憶部435に予め記憶されている第1調整回数(第1単位)を読み込む。
そして、蓄積電荷量判定部431は、蓄積電荷量が第1閾値を超えている場合、使用している積算回数から予め設定されている第1調整回数(一定数の積算回数)を減算し、減算結果を新たな積算回数(調整積算回数)として、光源部2及び受光部3の制御を行う。ここで、蓄積電荷量判定部431は、蓄積電荷量が第1閾値以下となるまで、上記第1調整回数を積算回数(あるいは調整積算回数)減算する処理を繰返して行う。
一方、蓄積電荷量判定部431は、蓄積電荷量が第1閾値以下の場合、飽和していないことを示す制御情報を光強度算出部432へ出力する。
【0058】
図5は、蓄積電荷量判定部431が行う積算回数の調整処理の動作を示す概念図である。
図5においては、説明のための一例として、受光部3の距離画像センサ32において画素回路321の各々が20行、20列の400個として示されている。
図5(a)は、距離画像センサ32のアレイ状に配列した画素回路321の各々において、電荷蓄積部CSが第1閾値を超える蓄積電荷量が蓄積されている(飽和している)画素回路321群(グループ)を示し、領域Aに含まれる領域Bが最大の蓄積電荷量(最大蓄積電荷量)が蓄積されている画素回路321を示している。
【0059】
図5(b)は、距離画像センサ32のアレイ状に配列した画素回路321の各々において、蓄積電荷量判定部431が積算回数から第1調整回数を減算し、調整積算回数を求めて、タイミング制御部41及び距離演算部42を制御させた結果における電荷蓄積部CSの飽和状態を示している。
この図5(b)において、領域Cが第1閾値を超える蓄積電荷量が蓄積されている(飽和している)画素回路321群(グループ)を示している。積算回数を低減したため、図5(a)の領域Aに比較すると領域Cの画素回路321の各々における電荷蓄積部CSの飽和状態が減少しているものの、完全に解消されていないことが示されている。領域Cに含まれる領域Dが最大の蓄積電荷量が蓄積されている画素回路321を示している。
【0060】
図5(c)は、距離画像センサ32のアレイ状に配列した画素回路321の各々において、図5(b)の場合に対して、さらに蓄積電荷量判定部431が積算回数から第1調整回数を減算し、調整積算回数を求めて、タイミング制御部41及び距離演算部42を制御させた結果における電荷蓄積部CSの飽和状態を示している。
この図5(c)において、第1閾値を超える蓄積電荷量が蓄積されている(飽和している)画素回路321は存在していない。
【0061】
ここで、領域Eは距離画像センサ32のアレイ状に配列した画素回路321のなかで、他の領域に比較してより高い蓄積電荷量が蓄積される電荷蓄積部CSの画素回路321群(グループ)を示している。この領域Eに含まれる画素回路321のなかで、最も高い蓄積電荷量が蓄積される電荷蓄積部CSの画素回路321を画素回路321MAXとしている。
光強度算出部432は、この画素回路321MAXの電荷蓄積部CS(最も蓄積電荷量の多い電荷蓄積部)の蓄積電荷量を積算回数(新たに求めた調整積算回数ではなく、蓄積電荷量を取得した際の積算回数)で除算し、除算結果を光強度として求める。
【0062】
また、本実施形態においては、蓄積電荷量判定部431における積算回数の調整を、調整積算回数(一定数の積算回数)を減算することで行っていたが、蓄積電荷量が第1閾値を超えている場合、使用している積算回数に所定の割合α(一定の割合、α<1)を乗算し、乗算結果を新たな積算回数(調整積算回数)とする構成としても良い。
あるいは、蓄積電荷量判定部431は、蓄積電荷量が第1閾値を超えている場合、使用している積算回数を所定の割合β(一定の割合、β>1)により除算し、除算結果を新たな積算回数(調整積算回数)とする構成としても良い。
【0063】
光強度算出部432は、蓄積電荷量判定部431による積算回数の補正後において、上記所定の領域における画素回路321において、最大の蓄積電荷量を抽出する。
光強度算出部432は、蓄積電荷量判定部431が求めた新たな積算回数(調整積算回数)ではなく、最大の電荷蓄積量を取得した際の積算回数により上記最大の蓄積電荷量を除算し、一回の積算で増加する電荷量(すなわち、一回の光パルスPOの照射で得られる積算電荷量)を、入射光の光強度として求める。
【0064】
積算回数選択部433は、最大の蓄積電荷量を抽出した画素回路321の蓄積電荷量により求められた距離を、距離演算部42から読み込む。
また、積算回数選択部433は、光強度算出部432が求めた光強度を読み込む。
そして、積算回数選択部433は、積算回数テーブル記憶部436を参照し、距離及び光強度の各々の組合せに対応した積算回数を検索(選択)し、積算回数テーブルから読み込む。
積算回数選択部433は、読み込んだ積算回数を新たな積算回数とし、積算回数補正部434へ出力する。
【0065】
図6は、積算回数テーブル記憶部436に予め書き込まれて記憶されている積算回数テーブルの構成例を示す図である。
積算回数テーブルは、距離画像撮像装置1から被写体までの測定距離と、一回の照射により得られる電荷量としての光強度との組合せの各々に対し、それぞれ積算回数が対応付けられた構成のルックアップテーブルとなっている。
上述したように、積算回数選択部433は、図6に示す積算回数テーブルを参照して、距離(テーブルの列)の数値と、光強度(テーブルの行)の数値との交差する(組合せにおける)欄の積算回数を選択して抽出する。
【0066】
図4に戻り、積算回数補正部434は、光強度との比較に用いる第2閾値を閾値記憶部435から読み込む。この第2閾値は、例えば、一回あたりに積算において許容される電荷量として設定され、積算回数を乗じた場合に電荷蓄積部CSの最大蓄積容量を超えない電荷量であり、電荷蓄積部CSが飽和しない積算回数を求める処理を行うか否かを判定するために設定されている。すなわち、第2閾値は、反射光の強度変化により光電変換素子PDが発生する電荷量が変動するため、反射光の強度によって電荷蓄積部CSが飽和する可能性のある場合を検出するために用いる。したがって、第2閾値は、最適積算回数にもよるが、第1閾値の場合と同様に背景光の強度のバラツキを考慮して、最適積算回数を乗算した場合に電荷蓄積部CSの最大蓄積容量の60%となる、一回あたりに積算する電荷量として設定している。
そして、積算回数補正部434は、光強度と第2閾値とを比較し、光強度が第2閾値を超える場合、電荷蓄積部CS1に蓄積された電荷量、すなわち背景光などの外光成分により生成され背景光電荷量(外光信号量、蓄積電荷量Q1)を、距離演算部42から読み込んで取得する。
【0067】
積算回数補正部434は、閾値記憶部435を参照して、背景光電荷量と第2調整回数(第2単位)との対応テーブルから、背景光電荷量に対応した第2調整回数を読み込む。
そして、積算回数補正部434は、積算回数選択部433が求めた積算回数から、上記対応テーブルから読み込んだ第2調整回数を減算し、減算結果を補正積算回数として求める。
そして、測定制御部43は、積算回数補正部が求めた補正積算回数に対応して、各フレームにおけるタイミング制御部41におけるタイミングの制御、距離演算部42における演算の制御を行う。
【0068】
図7は、第1の実施形態の距離画像撮像装置1による距離画像センサ32と被写体Sとの距離の算出の処理の動作例を示すフローチャートである。距離画像撮像装置1が起動された場合、予め設定された所定の積算回数がディフォルトの数値として設定され、以下のステップS101から処理が開始される。
【0069】
ステップS101:
測定制御部43は、予め設定された所定の積算回数及び光パルス照射条件により、光源部2及び受光部3の各々を制御する。
すなわち、光源部2は、所定の周期、すなわち所定の蓄積周期及び上記積算回数(照射回数)に対応して光パルスPOを照射する。
また、画素駆動回路322は、フレーム単位の測距処理を行い、所定の蓄積周期及び基準積算回数の各々により、画素回路321の各々における電荷蓄積部CS1、CS2、CS3、CS4それぞれに、反射光RLにより光電変換素子PDが生成した電荷を振分けて蓄積させる。
そして、距離演算部42は、電荷蓄積部CS1、CS2、CS3及びCS4の各々に蓄積された電荷量により距離(参照測定距離)を算出する。
【0070】
ステップS102:
蓄積電荷量判定部431は、受光部3における画素回路321の各々の電荷蓄積部CSから距離演算部42が取得した蓄積電荷量(電圧信号)のそれぞれを、距離演算部42から順次取得する。
そして、蓄積電荷量判定部431は、蓄積電荷量と比較する第1閾値を、閾値記憶部435から読み込む。
【0071】
ステップS103:
蓄積電荷量判定部431は、読み込んだ第1閾値と、電荷蓄積部CSの各々から取得した蓄積電荷量とをそれぞれ比較する。
そして、蓄積電荷量判定部431は、電荷蓄積部CSの各々において第1閾値を超える蓄積電荷量があるか否かの判定を行う。
このとき、蓄積電荷量判定部431は、第1閾値を超える蓄積電荷量の電荷蓄積部CSがある場合、処理をステップS104へ進める。
一方、蓄積電荷量判定部431は、第1閾値を超える蓄積電荷量の電荷蓄積部CSがない場合、処理をステップS105へ進める。
【0072】
ステップS104:
蓄積電荷量判定部431は、積算回数を調整する第1調整回数を閾値記憶部435から読み込む。
そして、蓄積電荷量判定部431は、積算回数から第1調整回数を減算し、調整積算回数を求める。
これにより、蓄積電荷量判定部431は、求めた調整積算回数を、新たに測定距離の測定に用いる積算回数として設定し、処理をステップS103へ進める。
【0073】
ステップS105:
光強度算出部432は、受光部3の画素回路321の電荷蓄積部CSの各々の蓄積電荷量から、最も大きな蓄積電荷量を抽出する。
そして、光強度算出部432は、抽出した蓄積電荷量を、上記最も大きな蓄積電荷量を得た際の積算回数により除算し、除算結果を一回の積算により得られる電荷量、すなわち光強度として求める。
光強度算出部432は、求めた光強度を、積算回数選択部433に対して出力する。
【0074】
ステップS106:
積算回数選択部433は、上記最も大きな蓄積電荷量とされた画素回路321の電荷蓄積部CSの各々の電荷量より距離演算部42が算出した距離を読み込む。
そして、積算回数選択部433は、積算回数テーブル記憶部436の積算回数テーブルを参照し、上記距離及び光強度との組合せに対応する積算回数を抽出して読み出す。
積算回数選択部433は、読み出した積算回数を、積算回数補正部434に対して出力する。
このとき、測定制御部43は、フレームカウント数を「0」にリセットする。
【0075】
ステップS107:
積算回数補正部434は、積算回数選択部433から積算回数が供給された場合、閾値記憶部435から予め設定されている第2閾値を読み出す。
そして、積算回数補正部434は、光強度と第2閾値とを比較し、光強度が第2閾値を超えているか否かの判定を行う。この判定処理は、光強度が第2閾値を超える場合、電荷蓄積部CSが飽和する可能性があるためである。
このとき、積算回数補正部434は、光強度が第2閾値を超える場合、処理をステップS108へ進める。
【0076】
一方、積算回数補正部434は、光強度が第2閾値以下の場合、処理をステップS109へ進める。
ここで、光強度が第2閾値以下の場合には、背景光を考慮したとしても、反射光RLにより発生する電荷量が小さいため、電荷蓄積部CSが飽和する可能性が低いため、後述する第2調整回数による積算回数の補正を行わない。
【0077】
ステップS108:
積算回数補正部434は、光強度が第2閾値を超えた場合、背景光などの外光成分により生成され背景光電荷量(蓄積電荷量Q1)を、距離演算部42から読み込む。
そして、積算回数補正部434は、閾値記憶部435に記憶されている対応テーブルを参照し、読み込んだ背景光電荷量に対応する第2調整回数を読み出す。
積算回数補正部434は、積算回数から第2調整回数を減算して、減算結果の積算回数を補正積算回数として求める。
【0078】
ステップS109:
測定制御部43は、積算回数補正部434から供給される補正積算回数を積算回数とし、所定の光パルス照射条件により、光源部2及び受光部3の各々を制御する。
すなわち、光源部2は、所定の周期、すなわち所定の蓄積周期及び補正された上記積算回数(照射回数)に対応して光パルスPOを照射する。
【0079】
また、画素駆動回路322は、フレーム単位の測距処理を行い、所定の蓄積周期及び補正された上記積算回数の各々により、画素回路321の各々における電荷蓄積部CS1、CS2、CS3、CS4それぞれに、反射光RLにより光電変換素子PDが生成した電荷を振分けて蓄積させる。
そして、距離演算部42は、電荷蓄積部CS1、CS2、CS3及びCS4の各々に蓄積された電荷量により測定距離を算出する。
このとき、測定制御部43は、フレームカウント数をインクリメントする(フレームカウント数に「1」を加算する)。
【0080】
ステップS110:
測定制御部43は、現在の積算回数によるフレームカウント数が、予め設定されている規定回数以上か否かの判定を行う。
このとき、測定制御部43は、フレームカウント数が、予め設定されている規定回数未満の場合、処理をステップS109へ進める。
【0081】
一方、測定制御部43は、フレームカウント数が、予め設定されている規定回数以上の場合、処理をステップS102へ進める。
この規定回数は、積算回数補正部434が求めた積算回数を変更して、新たな積算回数を求めるタイミングを設定した数値である。
【0082】
上述した実施形態においては、測距処理に用いる積算回数を変更するタイミングを、フレームカウント数により決定する制御として説明したが、ステップS110において、電荷蓄積部CSに蓄積される蓄積電荷量が第1閾値を超えたか否かの判定を行ない、蓄積電荷量が第1閾値を超えた場合に、ステップS102に処理を進ませ、積算回数を変更する制御を行う構成としてもよい。
【0083】
本実施形態によれば、積算回数を変更するタイミングにおいて、電荷蓄積部CSに蓄積される蓄積電荷量が第1閾値を超える場合に、積算回数から第1調整回数を順次減算して、蓄積電荷量が第1閾値を超えない積算回数として求めるため、距離のみで積算回数を設定する場合に比較し、被写体からの反射光RLの強度より積算回数を求めることにより、距離だけで無く被写体の反射率も考慮することにより、近距離で反射率の高い物体が存在しても、電荷蓄積部CSを飽和させることがなく、正確に距離画像撮像装置と被写体との間の距離が計測できる。
【0084】
また、本実施形態によれば、光パルスPOを照射する毎に反射光RLによる光強度を求め、反射光RLの各々の光強度が第2閾値を超える場合に、背景光の強度及び反射光RLの強度によっては新たな積算回数により、電荷蓄積部CSに蓄積される蓄積電荷量が飽和する可能性があるため、光強度に対応して求めた積算回数から背景光に対応した第2調整回数を減算する補正を行なうことにより、電荷蓄積部CSが飽和しないように最終的に使用する新たな積算回数を求めることが可能であり、測定空間における被写体の各々の反射率、及び距離画像撮像装置からの距離の各々が不明であり、かつ背景光の強度が強い場合も、電荷蓄積部を飽和させることなく、所定の精度における測定距離の計測に必要な電荷量を蓄積させる蓄積回数を設定することが可能となる。
【0085】
また、本実施形態によれば、電荷蓄積部を飽和させることなく、所定の精度における測定距離の計測に必要な電荷量を蓄積させる蓄積回数を設定できるため、電荷蓄積部CSが飽和することを防止し、かつ信号(反射光RLにより発生する電荷)と、ノイズ(背景光の発生する電荷)とのSN比を大きくすることが可能となり、測定距離の測定精度を向上させることができる。
【0086】
<第2の実施形態>
以下、本発明の第2の実施形態について、図面を参照して説明する。
本発明の第2の実施形態の距離画像撮像装置は、図1に示す第1の実施形態と同様の構成である。
以下、第1の実施形態の距離画像撮像装置と異なる動作のみを説明する。
図8は、第2の実施形態の距離画像撮像装置における測定制御部43Aの構成例を示すブロック図である。図8において、測定制御部43Aは、蓄積電荷量判定部431、光強度算出部432、積算回数選択部433、積算回数補正部434、閾値記憶部435、積算回数テーブル記憶部436、照射周期変更部437、照射周期テーブル記憶部438の各々を備えている。
【0087】
すでに説明した第1の実施形態においては、積算回数を変更しても図3に示す蓄積周期の時間の長さ(時間幅)は所定の予め設定された規定時間に固定されている。
しかしながら、単に積算回数を増加させた場合、光パルスPOの放射回数が増加し、被写体に人間が含まれる場合、積極的に人間を含めた被写体に対してレーザー光を意図的に照射し続けてしまう。
すなわち、距離画像撮像装置1から被写体までの距離が遠いからと言って、単純に積算回数を増加させた場合、レーザー光源にから発光されるパルス光により、人体の影響を規定した安全基準(所謂アイセーフなどが規定されたJIS C 6801)、例えば最大許容露光量(MPE:maximum permissible exposure)を満たせなくなる可能性がある。
【0088】
このため、本実施形態においては、照射周期変更部437が、被写体に人間が含まれ場合を考慮し、人間に対するレーザー光の影響を低減させ、アイセーフの安全基準を満たす(例えば、最大許容露光量を超えない露光量に抑制するなどの)計測制御を行う(詳細な処理は後述)。
照射周期テーブル記憶部438には、照射回数と照射周期との対応関係が示された照射周期テーブルが予め書き込まれている。照射周期テーブルには、積算回数(すなわち照射回数)の各々に対応して、アイセーフを満たす照射周期が記載されている。
【0089】
ここで、電荷蓄積部CSに電荷を積算する蓄積周期は、図3における1サイクルであり、光パルスPOが照射される照射周期に対応しており、本実施形態において、照射周期変更部437は、上記時間Trsを調整することにより、アイセーフを満たすように、積算回数(照射回数)に応じて光パルスPOを照射する周期である照射周期の時間を調整する。
すなわち、照射周期は、図3における時間Trsを積算回数(照射回数)に対応させて変化させることにより調整される。ここで、光パルスPOが照射された時刻Tsから蓄積周期の終端までは、2To(光パルスのパルス幅)+Trsとして求められ、パルス周期は3To+Trsとなる。
そして、照射周期は、設定された積算回数と、使用する光パルスの強度及び光パルスのパルス幅とにより求められる最大許容露光量を超えない周期として求められる。本実施形態においては、使用する光パルスの強度及び光パルスのパルス幅を固定し、積算回数に対応して照射周期(光パルスを照射する周期であるパルス周期)の変更のみによってアイセーフを満たす。
【0090】
図9は、アイセーフにおける積算回数及び光パルスを照射するパルス周期の各々と、最大許容露光量との関係を示す図である。図9において、縦軸が積算回数を示し、横軸がパルス周期を示している。また、パルス幅は、実線が8nsであり、破線が12nsであり、一点鎖線が16nsであり、二点鎖線が20nsである。
図9においては、所定の強度の光パルスPOのパルス幅の各々に対応して求められた、積算回数及びパルス周期の各々で決定される最大許容露光量の限界線を示している。
例えば、実線のパルス幅が8nsの光パルスを用いた場合、実線より上部の積算回数及びパルス幅の組合せは最大許容露光量を超えることを示している。他の破線のパルス幅12ns、一点鎖線のパルス幅16ns、二点鎖線のパルス幅20nsの各々については同様である。
【0091】
そして、例えば、光パルスPOが破線で示される12nsのパルス幅として設定されている際、パルス周期90nsにおいて積算回数を50000回から160000回に増加させた場合、積算回数及びパルス周期で決まる座標点が破線の上部に位置することになる。
すなわち、パルス周期90nsであり、かつ積算回数が160000回の場合、12nsのパルス幅で規定されるアイセーフの基準を上回ってしまう。
【0092】
このため、積算回数を160000とされた場合、パルス周期を110nsに延ばして、積算回数及びパルス周期で決まる座標点を破線の下部における位置に移動させる。
これにより、座標点が破線の下部に位置することになり、積算回数を160000回として、12nsのパルス幅による光パルスPOを繰返して160000回にわたって照射しても、12nsのパルス幅で規定されるアイセーフの基準を下回る(基準を満たす)。上述した図9に示すパルス幅(本実施形態においては固定)、積算回数及びパルス周期の関係に基づき、本実施形態における照射周期テーブルには、使用する光パルスPOの強度及び光パルスPOのパルス幅とに対応させて、積算回数毎にアイセーフの基準を満たす照射周期(すなわち、時間Trs)が設定されている。ここで、照射周期テーブルには、積算回数(照射回数)が増加するにしたがい、アイセーフの基準を満たすように照射周期も長くなるように設定されている。
【0093】
また、光パルスPOを照射する照射周期が短い場合、設定した積算回数分を各電荷蓄積部CSに積算して蓄積した後に、電荷蓄積部CSの各々に蓄積された電荷を読み出す。
そして、電荷を読み出した後に、電荷蓄積部CSから読み出した電荷の電荷量によって、被写体までの距離計算や補正などの上述した各種処理を実施する。
このとき、1フレーム内の時間は限られているため、距離計算や補正などに用いることができる時間が長くなるほど、演算に要する負荷が低減されてシステムの動作は安定する。
このため、通常の設定においては、距離計算や補正などに用いることができる時間が長くなる観点から、光パルスPOを放射する照射周期は短いほど適している。
【0094】
一方、光パルスPOを放射する照射周期が短すぎると、遠くの被写体から反射した反射光が戻ってくるまでの遅延時間が長くなり、次の積算を行う照射周期において入射する可能性がある。
したがって、1回の積算時における照射時間Trsの長さを一定以上としているが、上述したように、照射周期が短い方がシステムの動作の安定性が向上するため、積算回数とアイセーフの観点も含めて、照射周期を設定する必要がある。
【0095】
図8に戻り、照射周期変更部437は、照射周期テーブル記憶部438における照射周期テーブルを参照し、積算回数補正部434が求めた補正積算回数に対応する照射周期を読み出す。
そして、測定制御部43は、照射周期変更部437から供給される、補正積算回数を積算回数と、アイセーフに対応した照射周期に基づき時間Trsが調整された蓄積周期との光パルス照射条件により、光源部2及び受光部3の各々を制御する。
すなわち、光源部2は、所定の照射周期、すなわち所定の蓄積周期及び補正された上記積算回数(照射回数)に対応して光パルスPOを照射する。
【0096】
また、画素駆動回路322は、フレーム単位の測距処理を行い、所定の蓄積周期及び補正された上記積算回数の各々により、画素回路321の各々における電荷蓄積部CS1、CS2、CS3、CS4それぞれに、反射光RLにより光電変換素子PDが生成した電荷を振分けて蓄積させる。
そして、距離演算部42は、電荷蓄積部CS1、CS2、CS3及びCS4の各々に蓄積された電荷量により測定距離を算出する。
【0097】
図10は、第2の実施形態の距離画像撮像装置1による距離画像センサ32と被写体Sとの測定距離の算出の処理の動作例を示すフローチャートである。距離画像撮像装置1が起動された場合、予め設定された所定の積算回数及び所定の照射周期がディフォルトの数値として設定され、図10のフローチャートにおけるステップS101から処理が開始される。
ここで、ステップS101からステップS108までが同様であるため、ステップS109AからステップS110までの処理を説明する。
【0098】
ステップS109A:
照射周期変更部437は、補正積算回数が積算回数補正部434から供給された場合、照射周期テーブル記憶部438における照射周期テーブルを参照する。
そして、照射周期変更部437は、積算回数補正部434が求めた補正積算回数に対応する照射周期を照射周期テーブルから読み出す。
また、照射周期変更部437は、読み出した照射周期を測定制御部43に対して出力する。
【0099】
ステップS109B:
測定制御部43は、照射周期変更部437から供給される補正積算回数を積算回数とし、かつ積算回数に対応した照射周期とした光パルス照射条件により、光源部2及び受光部3の各々の制御を行う。
これにより、光源部2は、積算回数補正部434が求めた補正積算回数(照射回数)と、当該補正積算回数に対応して照射周期変更部437が求めた照射周期とに対応して光パルスPOを照射する。
【0100】
また、画素駆動回路322は、フレーム単位の測距処理を行い、積算回数補正部434が求めた補正積算回数と、当該補正積算回数に対応して照射周期変更部437が求めた照射周期との各々により、画素回路321の各々における電荷蓄積部CS1、CS2、CS3、CS4それぞれに、反射光RLにより光電変換素子PDが生成した電荷を振分けて蓄積させる。
そして、距離演算部42は、電荷蓄積部CS1、CS2、CS3及びCS4の各々に蓄積された電荷量により測定距離を算出する。
このとき、測定制御部43は、フレームカウント数をインクリメントする(フレームカウント数に「1」を加算する)。
【0101】
ステップS110:
測定制御部43は、現在の積算回数によるフレームカウント数が、予め設定されている規定回数以上か否かの判定を行う。
このとき、測定制御部43は、フレームカウント数が、予め設定されている規定回数未満の場合、処理をステップS109Aへ進める。
【0102】
一方、測定制御部43は、フレームカウント数が、予め設定されている規定回数以上の場合、処理をステップS102へ進める。
この規定回数は、積算回数補正部434が求めた補正積算回数を変更して、新たな積算回数を求めるタイミングを設定した数値である。
【0103】
本実施形態によれば、第1の実施形態と同様に、積算回数を変更するタイミングにおいて、電荷蓄積部CSに蓄積される蓄積電荷量が第1閾値を超える場合に、積算回数から第1調整回数を順次減算して、蓄積電荷量が第1閾値を超えない積算回数として求めるため、距離のみで積算回数を設定する場合に比較し、被写体からの反射光RLの強度より積算回数を求めることにより、距離だけで無く被写体の反射率も考慮することにより、近距離で反射率の高い物体が存在しても、電荷蓄積部CSを飽和させることがなく、正確に距離画像撮像装置と被写体との間の測定距離が測定できる。
【0104】
また、本実施形態によれば、光パルスPOを照射する毎に反射光RLによる光強度を求め、反射光RLの各々の光強度が第2閾値を超える場合に、背景光の強度及び反射光RLの強度によっては新たな積算回数により、電荷蓄積部CSに蓄積される蓄積電荷量が飽和する可能性があるため、光強度に対応して求めた積算回数から背景光に対応した第2調整回数を減算する補正を行なうことにより、電荷蓄積部CSが飽和しないように最終的に使用する新たな積算回数を求めることが可能であり、測定空間における被写体の各々の反射率、及び距離画像撮像装置からの距離の各々が不明であり、かつ背景光の強度が強い場合も、電荷蓄積部を飽和させることなく、所定の精度における測定距離の測定に必要な電荷量を蓄積させる蓄積回数を設定することが可能となる。
【0105】
また、本実施形態によれば、電荷蓄積部を飽和させることなく、所定の精度における距離の計測に必要な電荷量を蓄積させる蓄積回数を設定できるため、電荷蓄積部CSが飽和することを防止し、かつ信号(反射光RLにより発生する電荷)と、ノイズ(背景光の発生する電荷)とのSN比を大きくすることが可能となり、測定距離の測定精度を向上させることができる。
【0106】
また、本実施形態によれば、積算回数補正部434が求めた補正積算回数に対応させて、当該積算回数でアイセーフを満たす照射周期を照射周期テーブルから抽出し、上記補正積算回数及び照射周期の各々を含む光パルス照射条件により光パルスの照射及び照射毎に光電変換素子PDが生成する電荷が各電荷蓄積部に振分けられて積算される電荷量を蓄積させるため、電荷蓄積部に対して距離の計測に必要な電荷量を蓄積させる蓄積回数を満たし、かつ電荷蓄積部を飽和させることなく、パルス光が連続して照射された場合にも被写体に対する曝露量を低下させることができ、人体に対する最大露光量以下に制限することが可能であり、人体に対する安全基準(アイセーフ)を満たすことができる。
【0107】
上述した第1の実施形態態及び第2の実施形態の構成として、TOF技術による距離画像撮像装置を説明したが、本発明の適用対象はこれに限定されるものではなく、RGB-IR(Red Green Blue-Infrared Radiation)センサなどのフォトダイオードが一つの電荷蓄積部を供給する構造を有するセンサにおいても適用が可能である。
また、入射光によりフォトダイオードで生成された電荷を電荷蓄積部に蓄積する構成であれば、CCD(Charge Coupled Device)イメージセンサあるいはCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどにも適用が可能である。
【0108】
また、上述した第1の実施形態及び第2の実施形態の各々においては、画素信号読み出し部RU1からRU4の4個の構成について説明したが、この構成に限定されず、3個の画素信号読み出し部RUを備える構成、あるいは5個以上の画素信号読み出し部RUを備える構成についても、すなわち3個以上の画素読み出し部RUを有する構成について、「積算回数を変更するタイミングにおいて、電荷蓄積部CSに蓄積される蓄積電荷量が第1閾値を超える場合に、積算回数から第1調整回数を順次減算して、蓄積電荷量が第1閾値を超えない積算回数として求めることにより、距離のみで積算回数を設定する場合に比較し、被写体からの反射光RLの強度より積算回数を求める」という本実施形態と同様の処理を行うことにより、被写体からの距離だけで無く、反射率も考慮することにより、当該被写体が近距離で反射率の高い物体が存在しても、電荷蓄積部CSを飽和させることがなく、正確に距離画像撮像装置と被写体との間の距離が計測できる。
【0109】
また、3個以上の複数の画素信号読み出し部RUを備える構成についても、「光パルスPOを照射する毎に反射光RLによる光強度を求め、反射光RLの各々の光強度が第2閾値を超える場合に、背景光の強度及び反射光RLの強度によっては新たな積算回数により、電荷蓄積部CSに蓄積される蓄積電荷量が飽和する可能性があるため、光強度に対応して求めた積算回数から背景光に対応した第2調整回数を減算する補正を行なう」という本実施形態の処理を行うことにより、電荷蓄積部CSが飽和しないように最終的に使用する新たな積算回数を求めることが可能であり、測定空間における被写体の各々の反射率、及び距離画像撮像装置からの距離の各々が不明であり、かつ背景光の強度が強い場合も、電荷蓄積部を飽和させることなく、所定の精度における測定距離の計測に必要な電荷量を蓄積させる蓄積回数を設定することが可能となる。
【0110】
また、第1の実施形態及び第2の本実施形態においては、画素信号読み出し部RU1からRU4の4個の構成において、画素信号読み出し部RU1を背景光の計測に固定して説明したが、3個以上の複数の画素信号読み出し部RUを備える構成について、画素信号読み出し部RUのいずれかを背景光用として固定することなく、画素信号読み出し部RUの各々の蓄積電荷量をそれぞれ比較することにより、最小の蓄積電荷量の画素信号読み出し部RUを、背景光を読み出す画素信号読み出し部RUとして選択する構成であっても、第1の実施形態及び第2の実施形態と同様の処理を行うことにより、電荷蓄積部CSの各々が飽和しない積算回数を求めることができる。
上述したように、画素信号読み出し部RUが3個以上の構成においても、背景光に使用する背景光の量と、対象物までの距離と、背景光を除いた反射光の合計電荷量を取得することができれば、本実施形態に記載した、電荷蓄積部を飽和させることなく、所定の精度における距離の計測に必要な電荷量を蓄積させる蓄積回数を設定できるため、電荷蓄積部CSが飽和することを防止し、かつ信号(反射光RLにより発生する電荷)と、ノイズ(背景光の発生する電荷)とのSN比を大きくすることが可能となり、測定距離の測定精度を向上させることができる。
【符号の説明】
【0111】
1…距離画像撮像装置
2…光源部
3…受光部
31…レンズ
32…距離画像センサ(距離画像撮像素子)
321…画素回路
322…画素駆動回路
4…距離画像処理部
41…タイミング制御部
42…距離演算部
43…測定制御部
431…蓄積電荷量判定部
432…光強度算出部
433…積算回数選択部
434…積算回数補正部
435…閾値記憶部
436…積算回数テーブル記憶部
437…照射周期変更部
438…照射周期テーブル記憶部
CS1,CS2,CS3,CS4…電荷蓄積部
FD1,FD2,FD3,FD4…フローティングディフュージョン
G1,G2,G3,G4…転送トランジスタ
GD…電荷排出トランジスタ
PD…光電変換素子
PO…光パルス
RL…反射光
RT1,RT2,RT3,RT4…リセットトランジスタ
S…被写体
SF1,SF2,SF3,SF4…ソースフォロアトランジスタ
SL1,SL2,SL3,SL4…選択トランジスタ
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10