(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024082236
(43)【公開日】2024-06-19
(54)【発明の名称】距離画像撮像装置、及び距離画像撮像方法
(51)【国際特許分類】
G01S 7/4863 20200101AFI20240612BHJP
G01S 17/894 20200101ALI20240612BHJP
G01C 3/06 20060101ALI20240612BHJP
【FI】
G01S7/4863
G01S17/894
G01C3/06 120Q
G01C3/06 140
【審査請求】未請求
【請求項の数】4
【出願形態】OL
(21)【出願番号】P 2023183197
(22)【出願日】2023-10-25
(31)【優先権主張番号】P 2022195502
(32)【優先日】2022-12-07
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000003193
【氏名又は名称】TOPPANホールディングス株式会社
(74)【代理人】
【識別番号】100149548
【弁理士】
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100139686
【弁理士】
【氏名又は名称】鈴木 史朗
(74)【代理人】
【識別番号】100169764
【弁理士】
【氏名又は名称】清水 雄一郎
(74)【代理人】
【識別番号】100147267
【弁理士】
【氏名又は名称】大槻 真紀子
(72)【発明者】
【氏名】櫃岡 祥之
(72)【発明者】
【氏名】中込 友洋
(72)【発明者】
【氏名】畠山 邦広
【テーマコード(参考)】
2F112
5J084
【Fターム(参考)】
2F112AD01
2F112BA03
2F112BA05
2F112CA12
2F112DA21
2F112DA25
2F112DA28
2F112EA05
2F112FA03
2F112FA07
2F112FA21
2F112FA45
2F112GA01
5J084AA04
5J084AA05
5J084BA04
5J084BA20
5J084BA36
5J084BA40
5J084BB02
5J084BB20
5J084CA03
5J084CA20
5J084CA31
5J084CA49
5J084CA65
5J084CA67
5J084CA70
5J084DA08
5J084EA05
5J084EA07
(57)【要約】
【課題】測定に要する時間を増大させることなく、測定可能な範囲を伸ばす。
【解決手段】1フレームに複数の蓄積サイクルを設け、複数の蓄積サイクルにおいて、画素が具備する電荷蓄積部の数より多い蓄積タイミングの何れかのタイミングにて電荷蓄積部のそれぞれに電荷が蓄積されるように制御し、1フレームにおいて電荷蓄積部のそれぞれに電荷を蓄積させる回数の合計である合計回数が同一となるように制御し、複数の蓄積サイクルのうちの特定蓄積サイクルにおいて複数の電荷蓄積部のうちの特定電荷蓄積部に電荷を蓄積させる蓄積タイミングである第1蓄積タイミングと、前記特定蓄積サイクルとは異なる他蓄積サイクルにおいて前記特定電荷蓄積部に電荷を蓄積させる蓄積タイミングである第2蓄積タイミングとの時間差分が、前記電荷蓄積部のそれぞれに電荷を蓄積させる蓄積時間とは異なる時間となるように制御する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
測定空間に光パルスを照射する光源部と、
入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスを照射する照射タイミングに同期させた所定の蓄積タイミングで前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、
前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を算出する距離画像処理部と、
を備え、
前記距離画像処理部は、
1フレームに複数の蓄積サイクルを設け、
前記複数の蓄積サイクルにおいて、前記画素が具備する前記電荷蓄積部の数より多い前記蓄積タイミングの何れかのタイミングにて前記電荷蓄積部のそれぞれに電荷が蓄積されるように制御し、
1フレームにおいて前記電荷蓄積部のそれぞれに電荷を蓄積させる回数の合計である合計回数が同一となるように制御し、
前記複数の蓄積サイクルのうちの特定蓄積サイクルにおいて前記複数の電荷蓄積部のうちの特定電荷蓄積部に電荷を蓄積させる前記蓄積タイミングである第1蓄積タイミングと、前記複数の蓄積サイクルのうち前記蓄積サイクルとは異なる他蓄積サイクルにおいて前記特定電荷蓄積部に電荷を蓄積させる前記蓄積タイミングである第2蓄積タイミングとの時間差分が、前記電荷蓄積部のそれぞれに電荷を蓄積させる蓄積時間とは異なる時間となるように制御する、
距離画像撮像装置。
【請求項2】
前記距離画像処理部は、前記照射タイミングとの差分が小さい前記蓄積タイミングより、前記差分が大きい前記蓄積タイミングのほうが、1フレームにおいて電荷が蓄積された合計時間が大きくなるように制御する、
請求項1に記載の距離画像撮像装置。
【請求項3】
通常モードと、広範囲モードと、を含む複数の測定モードを備え、
前記通常モードは、近距離にある被写体OBまでの距離を測定し、且つ遠距離にある被写体OBまでの距離を測定しないモードであり、
前記広範囲モードは、近距離から遠距離までの広範囲にある被写体OBまでの距離を測定するモードであり、
前記距離画像処理部は、距離画像を構成する前記画素のそれぞれの画素値の統計量を算出し、算出した統計量に基づき、次回の測定における測定モードを、前記通常モード及び前記広範囲モードのいずれとするか決定する、
請求項1に記載の距離画像撮像装置。
【請求項4】
測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスを照射する照射タイミングに同期させた所定の蓄積タイミングで前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を算出する距離画像処理部と、を備える距離画像撮像装置が行う距離画像撮像方法であって、
前記距離画像処理部は、
1フレームに複数の蓄積サイクルを設け、
前記複数の蓄積サイクルにおいて、前記画素が具備する前記電荷蓄積部の数より多い前記蓄積タイミングの何れかのタイミングにて前記電荷蓄積部のそれぞれに電荷が蓄積されるように制御し、
1フレームにおいて前記電荷蓄積部のそれぞれに電荷を蓄積させる回数の合計である合計回数が同一となるように制御し、
前記複数の蓄積サイクルのうちの特定蓄積サイクルにおいて前記複数の電荷蓄積部のうちの特定電荷蓄積部に電荷を蓄積させる前記蓄積タイミングである第1蓄積タイミングと、前記複数の蓄積サイクルのうち前記特定蓄積サイクルとは異なる他蓄積サイクルにおいて前記特定電荷蓄積部に電荷を蓄積させる前記蓄積タイミングである第2蓄積タイミングとの時間差分が、前記電荷蓄積部のそれぞれに電荷を蓄積させる蓄積時間とは異なる時間となるように制御する、
距離画像撮像方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、距離画像撮像装置、及び距離画像撮像方法に関する。
【背景技術】
【0002】
光の速度が既知であることを利用し、測定空間における光の飛行時間に基づいて測定器と対象物との距離を測定する、タイム・オブ・フライト(Time of Flight、以下「TOF」という)方式の距離画像撮像装置が実現されている(例えば、特許文献1参照)。このような距離画像撮像装置では、測距範囲を広げるために、同一の電荷蓄積部に、電荷を蓄積させる蓄積タイミングを複数回設けることが行われている。蓄積タイミングを複数回設けることによって、被写体までの距離が近い場合には早い方の蓄積タイミングで反射光成分の電荷が蓄積されるようにし、被写体までの距離が遠い場合には遅い方の蓄積タイミングで反射光成分の電荷が蓄積されるようにすることができる。こうすることにより、近距離から遠距離までの広い範囲を測定することが可能となる。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1では、全ての電荷蓄積部に蓄積させる背景光成分の電荷量を揃えるために、測定可能な範囲とは異なるタイミングにおいて電荷蓄積部に背景光成分の電荷を蓄積させる必要がある。このため、測定に要する時間が大きくなるという問題があった。
【0005】
本発明は、上記の課題に基づいてなされたものであり、測定に要する時間を増大させることなく、測定可能な範囲を伸ばすことができる距離画像撮像装置、及び距離画像撮像方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の距離画像撮像装置は、測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスを照射する照射タイミングに同期させた所定の蓄積タイミングで前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を算出する距離画像処理部と、を備え、前記距離画像処理部は、1フレームに複数の蓄積サイクルを設け、前記複数の蓄積サイクルにおいて、前記画素が具備する前記電荷蓄積部の数より多い前記蓄積タイミングの何れかのタイミングにて前記電荷蓄積部のそれぞれに電荷が蓄積されるように制御し、1フレームにおいて前記電荷蓄積部のそれぞれに電荷を蓄積させる回数の合計である合計回数が同一となるように制御し、前記複数の蓄積サイクルのうちの特定蓄積サイクルにおいて前記複数の電荷蓄積部のうちの特定電荷蓄積部に電荷を蓄積させる前記蓄積タイミングである第1蓄積タイミングと、前記複数の蓄積サイクルのうち前記特定蓄積サイクルとは異なる他蓄積サイクルにおいて前記特定電荷蓄積部に電荷を蓄積させる前記蓄積タイミングである第2蓄積タイミングとの時間差分が、前記電荷蓄積部のそれぞれに電荷を蓄積させる蓄積時間とは異なる時間となるように制御する。
【0007】
本発明の距離画像撮像装置では、前記距離画像処理部は、前記照射タイミングとの差分が小さい前記蓄積タイミングより、前記差分が大きい前記蓄積タイミングのほうが、1フレームにおいて電荷が蓄積された合計時間が大きくなるように制御する。
【0008】
本発明の距離画像撮像方法は、測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスを照射する照射タイミングに同期させた所定の蓄積タイミングで前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を算出する距離画像処理部と、を備える距離画像撮像装置が行う距離画像撮像方法であって、前記距離画像処理部は、1フレームに複数の蓄積サイクルを設け、前記複数の蓄積サイクルにおいて、前記画素が具備する前記電荷蓄積部の数より多い前記蓄積タイミングの何れかのタイミングにて前記電荷蓄積部のそれぞれに電荷が蓄積されるように制御し、1フレームにおいて前記電荷蓄積部のそれぞれに電荷を蓄積させる回数の合計である合計回数が同一となるように制御し、前記複数の蓄積サイクルのうちの特定蓄積サイクルにおいて前記複数の電荷蓄積部のうちの特定電荷蓄積部に電荷を蓄積させる前記蓄積タイミングである第1蓄積タイミングと、前記複数の蓄積サイクルのうち前記特定蓄積サイクルとは異なる他蓄積サイクルにおいて前記特定電荷蓄積部に電荷を蓄積させる前記蓄積タイミングである第2蓄積タイミングとの時間差分が、前記電荷蓄積部のそれぞれに電荷を蓄積させる蓄積時間とは異なる時間となるように制御する。
【発明の効果】
【0009】
本発明によれば、測定に要する時間を増大させることなく、測定可能な範囲を伸ばすことができる。
【図面の簡単な説明】
【0010】
【
図1】実施形態の距離画像撮像装置1の概略構成を示すブロック図である。
【
図2】実施形態の距離画像センサ32の概略構成を示すブロック図である。
【
図3】実施形態の画素321の構成の一例を示す回路図である。
【
図4】第1実施形態の画素321を駆動するタイミングを示すタイミングチャートである。
【
図5】第1実施形態の画素321を駆動するタイミングを示すタイミングチャートである。
【
図6】第1実施形態の画素321を駆動するタイミングを示すタイミングチャートである。
【
図7】第1実施形態の距離画像処理部4が行う処理を説明するための図である。
【
図8】第1実施形態の距離画像処理部4が行う処理の流れを示すフローチャートである。
【
図9】第1実施形態の画素321を駆動するタイミングを示すタイミングチャートである。
【
図10】第1実施形態の画素321を駆動するタイミングを示すタイミングチャートである。
【
図11】第1実施形態の画素321を駆動するタイミングを示すタイミングチャートである。
【
図12】第1実施形態の距離画像処理部4が行う処理を説明するための図である。
【
図13】第1実施形態の変形例に係る画素321を駆動するタイミングを示すタイミングチャートである。
【
図14】第1実施形態の変形例に係る画素321を駆動するタイミングを示すタイミングチャートである。
【
図15】第1実施形態の変形例に係る画素321を駆動するタイミングを示すタイミングチャートである。
【
図16】第1実施形態の変形例に係る画素321を駆動するタイミングを示すタイミングチャートである。
【
図17】第1実施形態の変形例に係る画素321を駆動するタイミングを示すタイミングチャートである。
【発明を実施するための形態】
【0011】
以下、実施形態の距離画像撮像装置を、図面を参照しながら説明する。
【0012】
図1は、実施形態の距離画像撮像装置の概略構成を示すブロック図である。距離画像撮像装置1は、例えば、光源部2と、受光部3と、距離画像処理部4とを備える。
図1には、距離画像撮像装置1において距離を測定する対象物である被写体OBも併せて示している。
【0013】
光源部2は、距離画像処理部4からの制御に従って、距離画像撮像装置1において距離を測定する対象の被写体OBが存在する測定対象の空間に光パルスPOを照射する。光源部2は、例えば、垂直共振器面発光レーザー(VCSEL:Vertical Cavity Surface Emitting Laser)などの面発光型の半導体レーザーモジュールである。光源部2は、光源装置21と、拡散板22とを備える。
【0014】
光源装置21は、被写体OBに照射する光パルスPOとなる近赤外の波長帯域(例えば、波長が850nm~940nmの波長帯域)のレーザー光を発光する光源である。光源装置21は、例えば、半導体レーザー発光素子である。光源装置21は、タイミング制御部41からの制御に応じて、パルス状のレーザー光を発光する。
【0015】
拡散板22は、光源装置21が発光した近赤外の波長帯域のレーザー光を、所望の照射領域に拡散する光学部品である。拡散板22が拡散したパルス状のレーザー光が、光パルスPOとして出射され、被写体OBに照射される。
【0016】
受光部3は、距離画像撮像装置1において距離を測定する対象の被写体OBによって反射された光パルスPOの反射光RLを受光し、受光した反射光RLに応じた画素信号を出力する。受光部3は、レンズ31と、距離画像センサ32とを備える。なお、受光部3において、レンズ31と距離画像センサ32との間に、バンドパスフィルタ(図示せず)を備えてもよい。バンドパスフィルタは、帯域制限を行う。例えば、バンドパスフィルタは、レンズ31に入射された光のうち、所定の周波数帯域にある成分を距離画像センサ32に出射し、所定の周波数帯域にない成分を距離画像センサ32に出射しないようにする。
【0017】
レンズ31は、入射した反射光RLを距離画像センサ32に導く光学レンズである。レンズ31は、入射した反射光RLを距離画像センサ32側に出射して、距離画像センサ32の受光領域に備えた画素に受光(入射)させる。
【0018】
距離画像センサ32は、距離画像撮像装置1に用いられる撮像素子である。距離画像センサ32は、二次元の受光領域に複数の画素を備える。距離画像センサ32のそれぞれの画素の中に、1つの光電変換素子と、この1つの光電変換素子に対応する複数の電荷蓄積部と、それぞれの電荷蓄積部に電荷を振り分ける構成要素とが設けられる。つまり、画素は、複数の電荷蓄積部に電荷を振り分けて蓄積させる振り分け構成の撮像素子である。
【0019】
距離画像センサ32は、タイミング制御部41からの制御に応じて、光電変換素子が発生した電荷をそれぞれの電荷蓄積部に振り分ける。また、距離画像センサ32は、電荷蓄積部に振り分けられた電荷量に応じた画素信号を出力する。距離画像センサ32には、複数の画素が二次元の行列状に配置されており、それぞれの画素の対応する1フレーム分の画素信号を出力する。
【0020】
距離画像処理部4は、距離画像撮像装置1を制御し、被写体OBまでの距離を算出する。距離画像処理部4は、タイミング制御部41と、距離演算部42と、測定制御部43とを備える。
【0021】
タイミング制御部41は、測定制御部43の制御に応じて、測定に要する様々な制御信号を出力するタイミングを制御する。ここでの様々な制御信号とは、例えば、光パルスPOの照射を制御する信号、反射光RLを複数の電荷蓄積部に振り分けて蓄積させる信号、1フレームあたりの蓄積回数を制御する信号などである。蓄積回数とは、電荷蓄積部CS(
図3参照)に電荷を振り分けて蓄積させる処理を繰り返す回数である。この蓄積回数と、電荷を振り分けて蓄積させる処理1回あたりに各電荷蓄積部に電荷を蓄積させる時間(蓄積時間)の積が蓄積時間となる。
【0022】
距離演算部42は、距離画像センサ32から出力された画素信号に基づいて、被写体OBまでの距離を演算した距離情報を出力する。距離演算部42は、複数の電荷蓄積部に蓄積された電荷量に基づいて、光パルスPOを照射してから反射光RLを受光するまでの遅延時間を算出する。距離演算部42は、算出した遅延時間に応じて被写体OBまでの距離を算出する。
【0023】
測定制御部43は、タイミング制御部41を制御する。例えば、測定制御部43は、1フレームにおける蓄積回数及び蓄積時間を設定し、設定した内容で撮像が行われるようにタイミング制御部41を制御する。
【0024】
このような構成によって、距離画像撮像装置1では、光源部2が被写体OBに照射した近赤外の波長帯域の光パルスPOが被写体OBによって反射された反射光RLを受光部3が受光し、距離画像処理部4が、被写体OBとの距離を算出し距離情報を出力する。
【0025】
なお、
図1においては、距離画像処理部4を距離画像撮像装置1の内部に備える構成の距離画像撮像装置1を示しているが、距離画像処理部4は、距離画像撮像装置1の外部に備える構成要素であってもよい。
【0026】
ここで、
図2を用いて、距離画像撮像装置1において撮像素子として用いられる距離画像センサ32の構成について説明する。
図2は、実施形態の距離画像撮像装置1に用いられる撮像素子(距離画像センサ32)の概略構成を示すブロック図である。
【0027】
図2に示すように、距離画像センサ32は、例えば、複数の画素321が配置された受光領域320と、制御回路322と、振り分け動作を有した垂直走査回路323と、水平走査回路324と、画素信号処理回路325とを備える。
【0028】
受光領域320は、複数の画素321が配置された領域であって、
図2では、8行8列に二次元の行列状に配置された例を示している。画素321は、受光した光量に相当する電荷を蓄積する。制御回路322は、距離画像センサ32を統括的に制御する。制御回路322は、例えば、距離画像処理部4のタイミング制御部41からの指示に応じて、距離画像センサ32の構成要素の動作を制御する。なお、距離画像センサ32に備えた構成要素の制御は、タイミング制御部41が直接行う構成であってもよく、この場合、制御回路322を省略することも可能である。
【0029】
垂直走査回路323は、制御回路322からの制御に応じて、受光領域320に配置された画素321を行ごとに制御する回路である。垂直走査回路323は、画素321の電荷蓄積部CSそれぞれに蓄積された電荷量に応じた電圧信号を画素信号処理回路325に出力させる。この場合、垂直走査回路323は、光電変換素子により変換された電荷を画素321の電荷蓄積部それぞれに振り分けて蓄積させる。つまり、垂直走査回路323は、「画素駆動回路」の一例である。
【0030】
画素信号処理回路325は、制御回路322からの制御に応じて、それぞれの列の画素321から対応する垂直信号線に出力された電圧信号に対して、予め定めた信号処理(例えば、ノイズ抑圧処理やA/D変換処理など)を行う回路である。
【0031】
水平走査回路324は、制御回路322からの制御に応じて、画素信号処理回路325から出力される信号を、水平信号線に順次出力させる回路である。これにより、1フレーム分蓄積された電荷量に相当する画素信号が、水平信号線を経由して距離画像処理部4に順次出力される。
【0032】
以下では、画素信号処理回路325がA/D変換処理を行い、画素信号がデジタル信号であるものとして説明する。
【0033】
ここで、
図3を用いて、距離画像センサ32に備える受光領域320内に配置された画素321の構成について説明する。
図3は、実施形態の距離画像センサ32の受光領域320内に配置された画素321の構成の一例を示す回路図である。
図3には、受光領域320内に配置された複数の画素321のうち、1つの画素321の構成の一例を示している。画素321は、4個の画素信号読み出し部を備えた構成の一例である。
【0034】
画素321は、1個の光電変換素子PDと、ドレインゲートトランジスタGDと、対応する出力端子Oから電圧信号を出力する4個の画素信号読み出し部RUとを備える。画素信号読み出し部RUのそれぞれは、読み出しゲートトランジスタGと、フローティングディフュージョンFDと、電荷蓄積容量Cと、リセットゲートトランジスタRTと、ソースフォロアゲートトランジスタSFと、選択ゲートトランジスタSLとを備える。それぞれの画素信号読み出し部RUでは、フローティングディフュージョンFDと電荷蓄積容量Cとによって電荷蓄積部CSが構成されている。
【0035】
なお、
図3においては、4個の画素信号読み出し部RUの符号「RU」の後に、「1」、「2」、「3」または「4」の数字を付与することによって、それぞれの画素信号読み出し部RUを区別する。また、同様に、4個の画素信号読み出し部RUに備えたそれぞれの構成要素も、それぞれの画素信号読み出し部RUを表す数字を符号の後に示すことによって、それぞれの構成要素が対応する画素信号読み出し部RUを区別して表す。
【0036】
図3に示した画素321において、出力端子O1から電圧信号を出力する画素信号読み出し部RU1は、読み出しゲートトランジスタG1と、フローティングディフュージョンFD1と、電荷蓄積容量C1と、リセットゲートトランジスタRT1と、ソースフォロアゲートトランジスタSF1と、選択ゲートトランジスタSL1とを備える。画素信号読み出し部RU1では、フローティングディフュージョンFD1と電荷蓄積容量C1とによって電荷蓄積部CS1が構成されている。画素信号読み出し部RU2~RU4も同様の構成である。
【0037】
光電変換素子PDは、入射した光を光電変換して電荷を発生させ、発生させた電荷を蓄積する埋め込み型のフォトダイオードである。光電変換素子PDの構造は任意であってよい。光電変換素子PDは、例えば、P型半導体とN型半導体とを接合した構造のPNフォトダイオードであってもよいし、P型半導体とN型半導体との間にI型半導体を挟んだ構造のPINフォトダイオードであってもよい。
【0038】
画素321では、光電変換素子PDが入射した光を光電変換して発生させた電荷を4個の電荷蓄積部CSのそれぞれに振り分け、振り分けられた電荷の電荷量に応じたそれぞれの電圧信号を、画素信号処理回路325に出力する。
【0039】
距離画像センサ32に配置される画素の構成は、
図3に示したような、4個の画素信号読み出し部RUを備えた構成に限定されるものではなく、複数の画素信号読み出し部RUを備えた構成の画素であればよい。つまり、距離画像センサ32に配置される画素に備える画素信号読み出し部RU(電荷蓄積部CS)の数は、2個であってもよいし、3個であってもよいし、5個以上であってもよい。
【0040】
また、
図3に示した構成の画素321では、電荷蓄積部CSを、フローティングディフュージョンFDと電荷蓄積容量Cとによって構成する一例を示した。しかし、電荷蓄積部CSは、少なくともフローティングディフュージョンFDによって構成されればよく、画素321が電荷蓄積容量Cを備えない構成であってもよい。
【0041】
また、
図3に示した構成の画素321では、ドレインゲートトランジスタGDを備える構成の一例を示したが、光電変換素子PDに蓄積されている(残っている)電荷を破棄する必要がない場合には、ドレインゲートトランジスタGDを備えない構成であってもよい。
【0042】
ここで、
図4~
図6を用いて画素321を駆動するタイミングについて説明する。
図4~
図6は、第1実施形態の画素321を駆動するタイミングを示すタイミングチャートである。
【0043】
本実施形態では、1フレームに複数のサブフレームが設けられる。以下の説明では、1フレームに3つのサブフレーム、第1サブフレーム、第2サブフレームおよび第3サブフレームが含まれる場合を例に説明するが、1フレームに含まれるサブフレームの数が2つであってもよいし、4つ以上であってもよい。
【0044】
図4には第1サブフレームにおいて画素321を駆動するタイミングを示すタイミングチャートが示されている。
図5には第2サブフレームにおいて画素321を駆動するタイミングを示すタイミングチャートが示されている。
図6には第3サブフレームにおいて画素321を駆動するタイミングを示すタイミングチャートが示されている。
【0045】
図4~
図6のタイミング信号について説明する。光パルスPOを照射する照射タイミングを「L」で示している。また、駆動信号TX1にて電荷蓄積部CS1に電荷を蓄積させる蓄積タイミング(読み出しゲートトランジスタG1の開閉を制御するタイミング)を「G1」で示している。同様に、駆動信号TX2~TX4にて電荷蓄積部CS2~CS4に電荷を蓄積させる蓄積タイミング(読み出しゲートトランジスタG2~G4の開閉を制御するタイミング)を「G2-G4」で示している。駆動信号RSTDにて電荷を排出させる排出タイミングを「GD」で示している。
【0046】
図4~
図6のタイミングチャートにおける信号論理を説明する。それぞれのタイミング信号は、「High」レベル、又は「Low」レベルで示されている。照射タイミングLでは、「High」レベルとなるタイミングで光パルスPOが照射され、「Low」レベルの場合は光パルスPOが照射されないことが示されている。蓄積タイミングG1~G4では、「High」のタイミングで電荷が蓄積され、「Low」の場合は電荷が蓄積されないことが示されている。排出タイミングGDでは、「High」のタイミングで電荷が排出され、「Low」の場合は電荷が排出されないことが示されている。
【0047】
図4~
図6に示すように、各サブフレームには、蓄積期間および読出期間が設けられる。蓄積期間において画素321が駆動され、画素321に設けられた複数の電荷蓄積部CS(電荷蓄積部CS1~CS4)のそれぞれに電荷を蓄積させるサイクル(蓄積サイクル)が所定の回数、例えば、1万回繰り返される。読出期間において、電荷蓄積部CSのそれぞれに蓄積された電荷量に対応する蓄積信号が読み出される。
【0048】
図4~
図6に示すように、距離画像処理部4は、各サブフレームの蓄積期間において、6つの蓄積タイミングTM1~TM6の何れかのタイミングで、電荷蓄積部CSの何れかに電荷を蓄積させる。
【0049】
蓄積タイミングTM1は光パルスPOを照射する照射タイミングLからの遅延時間が0(ゼロ)であり、光パルスPOの照射タイミングと同じタイミングである。蓄積タイミングTM2は光パルスPOを照射する照射タイミングLからの遅延時間が時間Toであるタイミングである。ここで、時間Toは光パルスPOを照射する照射時間である。また、ここでは電荷を蓄積させる蓄積時間が照射時間と同じ、つまり蓄積時間が時間Toであることを前提とする。
【0050】
蓄積タイミングTM2は光パルスPOを照射する照射タイミングLからの遅延時間が時間Toとなるタイミングである。蓄積タイミングTM3は光パルスPOを照射する照射タイミングLからの遅延時間が時間To×2となるタイミングである。蓄積タイミングTM4は光パルスPOを照射する照射タイミングLからの遅延時間が時間To×3となるタイミングである。蓄積タイミングTM5は光パルスPOを照射する照射タイミングLからの遅延時間が時間To×4となるタイミングである。蓄積タイミングTM6は光パルスPOを照射する照射タイミングLからの遅延時間が時間To×5となるタイミングである。
【0051】
図4には、第1サブフレームの蓄積期間において、第1サイクルが繰り返される例が示されている。第1サイクルでは、蓄積タイミングTM1~TM4で、電荷蓄積部CS1~CS4のそれぞれに順に電荷を蓄積させる例が示されている。これにより、蓄積タイミングTM1~TM4のいずれかのタイミングで受光した反射光RLに対応する電荷を蓄積させることが可能となる。この場合、蓄積タイミングTM1~TM2、蓄積タイミングTM2~TM3、および蓄積タイミングTM3~TM4に跨って反射光RLに対応する電荷が蓄積された場合における被写体OBまでの距離を測定することができる。
【0052】
図5には、第2サブフレームの蓄積期間において、第2サイクルが繰り返される例が示されている。第2サイクルでは、蓄積タイミングTM2~TM5で、電荷蓄積部CS2、CS3、CS4、CS1のそれぞれに順に電荷を蓄積させる例が示されている。これにより、蓄積タイミングTM2~TM5のいずれかのタイミングで受光した反射光RLに対応する電荷を蓄積させることが可能となる。この場合、蓄積タイミングTM2~TM3、蓄積タイミングTM3~TM4、および蓄積タイミングTM4~TM5に跨って反射光RLに対応する電荷が蓄積された場合における被写体OBまでの距離を測定することができる。つまり、第1サブフレームの場合より遠くに存在する被写体OBまでの処理を測定することが可能である。
【0053】
図6には、第3サブフレームの蓄積期間において、第3サイクルが繰り返される例が示されている。第2サイクルでは、蓄積タイミングTM2、TM4~TM6で、電荷蓄積部CS2、CS4、CS1、CS3のそれぞれに順に電荷を蓄積させる例が示されている。これにより、蓄積タイミングTM2、TM4~TM6のいずれかのタイミングで受光した反射光RLに対応する電荷を蓄積させることが可能となる。この場合、蓄積タイミングTM4~TM5、および蓄積タイミングTM5~TM6に跨って反射光RLに対応する電荷が蓄積された場合における被写体OBまでの距離を測定することができる。つまり、第1サブフレームおよび第2サブフレームの場合より遠くに存在する被写体OBまでの処理を測定することが可能である。
【0054】
このように、距離画像処理部4は、各サブフレームにおいて蓄積タイミングTM1~TM6の何れかのタイミングで電荷蓄積部CSの何れかに電荷を蓄積させる。これにより、遠い距離に存在する被写体OBからの反射光RLに対応する電荷を蓄積できるようにする。したがって測定可能な距離を拡大させることができる。
【0055】
また、距離画像処理部4は、1フレームにおいて、電荷蓄積部CSのそれぞれに電荷を蓄積させた合計の蓄積回数が同一となるように制御する。例えば、距離画像処理部4は、各サブフレームにおいて電荷蓄積部CS1~CS4のそれぞれに1回ずつ電荷を蓄積させ、1フレームにおける合計の蓄積回数が、電荷蓄積部CS1~CS4の全てにおいて同一となる3回となるように制御する。
【0056】
或いは、距離画像処理部4は、第1サブフレームにおいて電荷蓄積部CS1に2回、電荷蓄積部CS2~CS4のそれぞれに1回ずつ電荷を蓄積させ、第2サブフレームにおいて電荷蓄積部CS1に0回、電荷蓄積部CS2~CS4のそれぞれに1回ずつ電荷を蓄積させ、第3サブフレームにおいて電荷蓄積部CS1~CS4のそれぞれに1回ずつ電荷を蓄積させる。このようにして、距離画像処理部4は、1フレームにおける合計の蓄積回数は、電荷蓄積部CS1~CS4の全てにおいて3回となるように制御する。
【0057】
このように、1フレームにおいて、電荷蓄積部CSのそれぞれの合計の蓄積回数が同一となるように制御することにより、距離画像処理部4は、各電荷蓄積部CSに蓄積される背景光成分に相当する電荷量を同量となるようにする。これにより、反射光RLに対応する電荷が蓄積された電荷蓄積部CSを特定し易くすることが可能となる。
【0058】
また、距離画像処理部4は、各サブフレームにおいて、特定の電荷蓄積部CSに電荷を蓄積させるタイミングの時間差分が蓄積時間(ここでは時間To)とならないように制御する。
【0059】
具体的に、第1サブフレームにおいて電荷蓄積部CS1に電荷を蓄積させる第1蓄積タイミングと、第2サブフレームにおいて電荷蓄積部CS1に電荷を蓄積させる第2蓄積タイミングとの時間差分が蓄積時間とならないように制御する。また、第1蓄積タイミングと、第3サブフレームにおいて電荷蓄積部CS1に電荷を蓄積させる第3蓄積タイミングとの時間差分が蓄積時間とならないように制御する。また、第2蓄積タイミングと第3蓄積タイミングとの時間差分が蓄積時間Toとは異なる時間となるように制御する。
【0060】
電荷蓄積部CS1でない他の電荷蓄積部CSについても同様に、第1サブフレームにおいて電荷蓄積部CS2(又は、電荷蓄積部CS3、CS4)に電荷を蓄積させる第1蓄積タイミングと、第2サブフレームにおいて電荷蓄積部CS2(又は、電荷蓄積部CS3、CS4)に電荷を蓄積させる第2蓄積タイミングとの時間差分が、蓄積時間Toとは異なる時間となるように制御する。また、第1蓄積タイミングと、第3サブフレームにおいて電荷蓄積部CS2(又は、電荷蓄積部CS3、CS4)に電荷を蓄積させる第3蓄積タイミングとの時間差分が、蓄積時間Toとは異なる時間となるように制御する。また、第2蓄積タイミングと第3蓄積タイミングとの時間差分が、蓄積時間Toとは異なる時間となるように制御する。
【0061】
このような制御を行うことにより、距離画像処理部4は、特定のサブフレームにおいて特定の電荷蓄積部CSに反射光RLに対応する電荷の一部(前半部分)が蓄積された場合において、他のサブフレームにおいて同じ特定の電荷蓄積部CSに反射光RLに対応する電荷の残りの部分(後半部分)が蓄積されないようにすることができる。これにより、各サブフレームで閉じた測定、つまりそれぞれのサブフレームにおいて蓄積された電荷量のみを用いた距離の測定のみならず、複数のサブフレームのそれぞれにおいて蓄積された電荷量を組み合わせて距離を算出することが可能となる。
【0062】
例えば、
図4に示すように、第1サブフレームにおいて蓄積タイミングTM1にて電荷蓄積部CS1に電荷を蓄積させる場合、距離画像処理部4は、第2サブフレームおよび第3サブフレームでは、蓄積タイミングTM2ではないタイミングにて電荷蓄積部CS1に電荷を蓄積させる。
図5では、第2サブフレームにおいて蓄積タイミングTM5にて電荷蓄積部CS1に電荷を蓄積させる例が示されている。
図6では、第2サブフレームにおいて蓄積タイミングTM5にて電荷蓄積部CS1に電荷を蓄積させる例が示されている。
【0063】
このように、第1サブフレームにおいて蓄積タイミングTM1にて電荷蓄積部CS1に電荷を蓄積させる場合、他のサブフレームにおいて少なくとも蓄積タイミングTM2ではないタイミングで電荷蓄積部CS1に電荷を蓄積させればよく、複数のサブフレームにおいて同じ蓄積タイミングで電荷蓄積部CS1に電荷を蓄積させてもよい。
【0064】
また、
図4に示すように、第1サブフレームにおいて蓄積タイミングTM2にて電荷蓄積部CS2に電荷を蓄積させる場合、距離画像処理部4は、第2サブフレームおよび第3サブフレームでは、蓄積タイミングTM1およびTM3ではないタイミングにて電荷蓄積部CS2に電荷を蓄積させる。
図5では、第2サブフレームにおいて蓄積タイミングTM2にて電荷蓄積部CS2に電荷を蓄積させる例が示されている。
図6では、第2サブフレームにおいて蓄積タイミングTM2にて電荷蓄積部CS2に電荷を蓄積させる例が示されている。
【0065】
このように、第1サブフレームにおいて蓄積タイミングTM2にて電荷蓄積部CS2に電荷を蓄積させる場合、他のサブフレームにおいて少なくとも蓄積タイミングTM1及びTM3ではないタイミングで電荷蓄積部CS2に電荷を蓄積させればよい。例えば、全てのサブフレームにおいて同じ蓄積タイミングTM2で電荷蓄積部CS2に電荷を蓄積させてもよい。
【0066】
また、
図4に示すように、第1サブフレームにおいて蓄積タイミングTM3にて電荷蓄積部CS3に電荷を蓄積させる場合、距離画像処理部4は、第2サブフレームおよび第3サブフレームでは、蓄積タイミングTM2およびTM4ではないタイミングにて電荷蓄積部CS3に電荷を蓄積させる。
図5では、第2サブフレームにおいて蓄積タイミングTM3にて電荷蓄積部CS3に電荷を蓄積させる例が示されている。
図6では、第2サブフレームにおいて蓄積タイミングTM6にて電荷蓄積部CS3に電荷を蓄積させる例が示されている。
【0067】
このように、第1サブフレームにおいて蓄積タイミングTM3にて電荷蓄積部CS3に電荷を蓄積させる場合、他のサブフレームにおいて少なくとも蓄積タイミングTM2及びTM4ではないタイミングで電荷蓄積部CS3に電荷を蓄積させればよい。例えば、他のサブフレームのうち一方にて第1サブフレームと同じ蓄積タイミングTM3で電荷蓄積部CS3に電荷を蓄積させ、他方にて第1サブフレームとは異なり、且つ蓄積タイミングTM2及びTM4ではない蓄積タイミングTM6で電荷蓄積部CS3に電荷を蓄積させてもよい。
【0068】
また、
図4に示すように、第1サブフレームにおいて蓄積タイミングTM4にて電荷蓄積部CS4に電荷を蓄積させる場合、距離画像処理部4は、第2サブフレームおよび第3サブフレームでは、蓄積タイミングTM3およびTM5ではないタイミングにて電荷蓄積部CS4に電荷を蓄積させる。
図5では、第2サブフレームにおいて蓄積タイミングTM4にて電荷蓄積部CS4に電荷を蓄積させる例が示されている。
図6では、第2サブフレームにおいて蓄積タイミングTM4にて電荷蓄積部CS4に電荷を蓄積させる例が示されている。
【0069】
ここで、
図7~
図8を用いて距離画像処理部4が距離を算出する方法について説明する。
図7は、第1実施形態の距離画像処理部4が行う処理を説明するための図である。
図8は、第1実施形態の距離画像処理部4が行う処理の流れを示すフローチャートである。
【0070】
図7の縦方向には、「ゲート」、つまり電荷蓄積部CS1~CS4のそれぞれに対応する読み出しゲートトランジスタG1~G4の別が示されている。
図7の横方向には、「タイミング」、つまり蓄積タイミングTM1~TM6の別が示されている。
図7には、1フレームにおいて、縦方向の「ゲート」毎に、横方向の蓄積タイミングにて電荷が蓄積された回数が示されている。
【0071】
具体的には、ゲートG1、つまり電荷蓄積部CS1において、蓄積タイミングTM1にて「1回」、蓄積タイミングTM5にて「2回」電荷が蓄積されたことが示されている。ゲートG2、つまり電荷蓄積部CS2において、蓄積タイミングTM2にて「3回」電荷が蓄積されたことが示されている。ゲートG3、つまり電荷蓄積部CS3において、蓄積タイミングTM3にて「2回」、蓄積タイミングTM6にて「1回」電荷が蓄積されたことが示されている。ゲートG4、つまり電荷蓄積部CS4において、蓄積タイミングTM4にて「3回」電荷が蓄積されたことが示されている。
【0072】
また、
図7には、縦方向の「ゲート」毎に、1フレームにおいて電荷が蓄積された回数の合計回数が示されている。具体的には、ゲートG1~G4、つまり電荷蓄積部CS1~CS4の全てにおいて、合計回数が同じ「3回」であることが示されている。
【0073】
また、
図7には、横方向の「タイミング」毎に、1フレームにおいて電荷が蓄積された合計時間(合計ゲート開時間)が示されている。
【0074】
具体的に、蓄積タイミングTM1において電荷が蓄積された合計時間が時間To×1であることが示されている。蓄積タイミングTM2において電荷が蓄積された合計時間が時間To×3であることが示されている。蓄積タイミングTM3において電荷が蓄積された合計時間が時間To×2であることが示されている。蓄積タイミングTM4において電荷が蓄積された合計時間が時間To×3であることが示されている。蓄積タイミングTM5において電荷が蓄積された合計時間が時間To×2であることが示されている。蓄積タイミングTM6において電荷が蓄積された合計時間が時間To×1であることが示されている。
【0075】
図8に示すように、まず、距離画像処理部4は、各サブフレームのタイミングにて画素321を駆動させる(ステップS10)。距離画像処理部4は、各サブフレームの蓄積期間にて電荷蓄積部CSのそれぞれに電荷を蓄積させ、読出期間にて電荷蓄積部CSのそれぞれに蓄積された電荷量に対応する蓄積信号SIG1~SIG4を読み出す。距離画像処理部4は、読出した蓄積信号SIG1~SIG4をバッファに記憶させる。
【0076】
次に、距離画像処理部4は、背景光成分に対応する信号値を算出する(ステップS11)。例えば、距離画像処理部4は、(1)式を用いて、背景光成分に対応する信号値SIGHを算出する。
【0077】
SIGH=MIN(ΣSIG1、ΣSIG2、ΣSIG3、ΣSIG4)/N …(1)
但し、
SIGHは、背景光成分に対応する信号値。
ΣSIG1は、1フレームにおけるSIG1の合計値。SIG1は、各サブフレームにおいて電荷蓄積部CS1に蓄積された電荷量に対応する信号値である。
ΣSIG2は、1フレームにおけるSIG2の合計値。SIG2は、各サブフレームにおいて電荷蓄積部CS2に蓄積された電荷量に対応する信号値である。
ΣSIG3は、1フレームにおけるSIG3の合計値。SIG3は、各サブフレームにおいて電荷蓄積部CS3に蓄積された電荷量に対応する信号値である。
ΣSIG4は、1フレームにおけるSIG4の合計値。SIG4は、各サブフレームにおいて電荷蓄積部CS4に蓄積された電荷量に対応する信号値である。
Nは、1フレームに含まれるサブフレームの数である。
例えば、1フレームが、第1サブフレームから第3サブフレームまでの3つのサブフレームからなる場合、N=3である。
【0078】
次に、距離画像処理部4は、反射光RLが受光されたタイミングを特定する(ステップS12)。例えば、距離画像処理部4は、蓄積タイミングTM1~TM6のそれぞれにおける蓄積信号から、(1)で算出した信号値(外光成分に対応する信号値)を算出した値が、閾値以上である2つの連続する蓄積タイミングTMを、反射光RLを受光したタイミングとして特定する。
【0079】
図7に示すように蓄積タイミングTM1において電荷が蓄積された合計時間が時間To×1であり、
図4~
図6に示すように第1サブフレームにおいて蓄積タイミングTM1にて電荷蓄積部CS1に電荷が蓄積されたとする。この場合、距離画像処理部4は、第1サブフレームの蓄積信号SIG1と、(1)式で算出した背景光成分に対応する信号値SIGHをとの差分が閾値以上である場合、蓄積タイミングTM1において反射光RLを受光した可能性があると判定する。一方、距離画像処理部4は、差分が閾値未満である場合、蓄積タイミングTM1において反射光RLを受光した可能性はないと判定する。
【0080】
また、
図7に示すように蓄積タイミングTM2において電荷が蓄積された合計時間が時間To×3であり、
図4~
図6に示すように各サブフレームにおいて蓄積タイミングTM2にて電荷蓄積部CS2に電荷が蓄積されたとする。この場合、距離画像処理部4は、何れかのサブフレームにおける蓄積信号SIG2と、(1)式で算出した背景光成分に対応する信号値SIGHをとの差分が閾値以上である場合、蓄積タイミングTM2において反射光RLを受光した可能性があると判定する。一方、距離画像処理部4は、差分が閾値未満である場合、蓄積タイミングTM2において反射光RLを受光した可能性はないと判定する。
【0081】
また、
図7に示すように蓄積タイミングTM3において電荷が蓄積された合計時間が時間To×2であり、
図4~
図6に示すように第1サブフレーム及び第2サブフレームにおいて蓄積タイミングTM3にて電荷蓄積部CS3に電荷が蓄積されたとする。この場合、距離画像処理部4は、第1サブフレーム又は第2サブフレームの蓄積信号SIG3と、(1)式で算出した背景光成分に対応する信号値SIGHをとの差分が閾値以上である場合、蓄積タイミングTM3において反射光RLを受光した可能性があると判定する。一方、距離画像処理部4は、差分が閾値未満である場合、蓄積タイミングTM3において反射光RLを受光した可能性はないと判定する。
【0082】
また、
図7に示すように蓄積タイミングTM4において電荷が蓄積された合計時間が時間To×3であり、
図4~
図6に示すように各サブフレームにおいて蓄積タイミングTM4にて電荷蓄積部CS4に電荷が蓄積されたとする。この場合、距離画像処理部4は、何れかのサブフレームにおける蓄積信号SIG4と、(1)式で算出した背景光成分に対応する信号値SIGHをとの差分が閾値以上である場合、蓄積タイミングTM4において反射光RLを受光した可能性があると判定する。一方、距離画像処理部4は、差分が閾値未満である場合、蓄積タイミングTM4において反射光RLを受光した可能性はないと判定する。
【0083】
また、
図7に示すように蓄積タイミングTM5において電荷が蓄積された合計時間が時間To×2であり、
図4~
図6に示すように第2サブフレームおよび第3サブフレームにおいて蓄積タイミングTM5にて電荷蓄積部CS1に電荷が蓄積されたとする。この場合、距離画像処理部4は、第2サブフレーム又は第3サブフレームの蓄積信号SIG1と、(1)式で算出した背景光成分に対応する信号値SIGHをとの差分が閾値以上である場合、蓄積タイミングTM5において反射光RLを受光した可能性があると判定する。一方、距離画像処理部4は、差分が閾値未満である場合、蓄積タイミングTM5において反射光RLを受光した可能性はないと判定する。
【0084】
また、
図7に示すように蓄積タイミングTM6において電荷が蓄積された合計時間が時間To×1であり、
図4~
図6に示すように第3サブフレームにおいて蓄積タイミングTM6にて電荷蓄積部CS3に電荷が蓄積されたとする。この場合、距離画像処理部4は、第3サブフレームの蓄積信号SIG3と、(1)式で算出した背景光成分に対応する信号値SIGHをとの差分が閾値以上である場合、蓄積タイミングTM6において反射光RLを受光した可能性があると判定する。一方、距離画像処理部4は、差分が閾値未満である場合、蓄積タイミングTM6において反射光RLを受光した可能性はないと判定する。
【0085】
このようにして、距離画像処理部4は、蓄積タイミングTM1~TM6のそれぞれにおいて反射光RLを受光した可能性があるか否かを判定する。距離画像処理部4は、反射光RLを受光した可能性がある蓄積タイミングが2つ存在し、且つ、その2つが連続するタイミングである場合、その2つの蓄積タイミングを、反射光RLを受光したタイミングとして特定する。
【0086】
距離画像処理部4は、反射光RLを受光した2つの連続した蓄積タイミングが特定できた場合、反射光RLが受光された2つの連続する蓄積タイミングTMにて蓄積された電荷量に対応する蓄積信号SIGQ1およびSIGQ2を算出する。ここで、蓄積信号SIGQ1は反射光RLの前半部分が含まれる蓄積信号である。蓄積信号SIGQ2は反射光RLの後半部分が含まれる蓄積信号である。
【0087】
例えば、反射光RLを受光した2つの連続した蓄積タイミングが蓄積タイミングTM1及びTM2である場合、第1サブフレームの蓄積信号SIG1を、蓄積信号SIGQ1とする。また、何れかのサブフレームにおける蓄積信号SIG2を、蓄積信号SIGQ2とする。
【0088】
例えば、反射光RLを受光した2つの連続した蓄積タイミングが蓄積タイミングTM2及びTM3である場合、何れかのサブフレームにおける蓄積信号SIG2を、蓄積信号SIGQ1とする。また、第1サブフレーム又は第2サブフレームにおける蓄積信号SIG3を、蓄積信号SIGQ2とする。
【0089】
例えば、反射光RLを受光した2つの連続した蓄積タイミングが蓄積タイミングTM3及びTM4である場合、第1サブフレーム又は第2サブフレームにおける蓄積信号SIG3を、蓄積信号SIGQ1とする。また、何れかのサブフレームにおける蓄積信号SIG4を、蓄積信号SIGQ2とする。
【0090】
例えば、反射光RLを受光した2つの連続した蓄積タイミングが蓄積タイミングTM4及びTM5である場合、何れかのサブフレームにおける蓄積信号SIG4を、蓄積信号SIGQ1とする。また、第2サブフレーム又は第3サブフレームの蓄積信号SIG1を、蓄積信号SIGQ2とする。
【0091】
例えば、反射光RLを受光した2つの連続した蓄積タイミングが蓄積タイミングTM5及びTM6である場合、第2サブフレーム又は第3サブフレームの蓄積信号SIG1を、蓄積信号SIGQ1とする。また、第3サブフレームの蓄積信号SIG3を、蓄積信号SIGQ2とする。
【0092】
次に、距離画像処理部4は、被写体OBまでの距離を算出する(ステップS13)。例えば、距離画像処理部4は、蓄積タイミングTM1及びTM2にて反射光RLを受光した場合、(2)式を用いて、被写体OBまでの距離dを算出する。
【0093】
d=c0×(1/2×Td)
Td=To×(SIGQ2-SIGH)/(SIGQ1+SIGQ2-2×SIGH)
…(2)
但し、
dは、被写体OBまでの距離である。
c0は光速である。
Tdは、被写体OBに光が到達するまでに要した時間である。
SIGQ1は、反射光RLの前半部分に対応する蓄積信号である。
SIGQ2は、反射光RLの後半部分に対応する蓄積信号である。
SIGHは、背景光成分に対応する蓄積信号である。
【0094】
ここで、
図9~
図12を用いて画素321を駆動するタイミングについて説明する。
図9~
図11は、第1実施形態の画素321を駆動するタイミングを示すタイミングチャートである。
図12は、第1実施形態の距離画像処理部4が行う処理を説明するための図である。
【0095】
図9には第1サブフレーム、
図10には第2サブフレーム、
図11には第3サブフレームのそれぞれにおいて画素321を駆動するタイミングを示すタイミングチャートが示されている。
図9~
図10の信号名および信号論理は
図4~
図6と同様である。
【0096】
図9には、第1サブフレームの蓄積期間において、第1サイクルが繰り返される例が示されている。第1サイクルでは、蓄積タイミングTM1で電荷蓄積部CS1に、蓄積タイミングTM2で電荷蓄積部CS2に、蓄積タイミングTM5で電荷蓄積部CS3に、蓄積タイミングTM6で電荷蓄積部CS4に、それぞれ電荷を蓄積させる例が示されている。
【0097】
図10には、第2サブフレームの蓄積期間において、第2サイクルが繰り返される例が示されている。第2サイクルでは、蓄積タイミングTM3で電荷蓄積部CS1に、蓄積タイミングTM4で電荷蓄積部CS2に、蓄積タイミングTM5で電荷蓄積部CS3に、蓄積タイミングTM6で電荷蓄積部CS4に、それぞれ電荷を蓄積させる例が示されている。
【0098】
図11には、第3サブフレームの蓄積期間において、第3サイクルが繰り返される例が示されている。第3サイクルでは、第2サイクルと同様に、蓄積タイミングTM3で電荷蓄積部CS1に、蓄積タイミングTM4で電荷蓄積部CS2に、蓄積タイミングTM5で電荷蓄積部CS3に、蓄積タイミングTM6で電荷蓄積部CS4に、それぞれ電荷を蓄積させる例が示されている。
【0099】
図12には、
図9~
図11に対応するフレームにおける、「ゲート」と「タイミング」の関係が示されている。
図12における「ゲート」と「タイミング」は、
図7と同様である。
【0100】
図12には、横方向の「タイミング」毎に、1フレームにおいて電荷が蓄積された合計時間(合計ゲート開時間)が示されている。
【0101】
具体的に、蓄積タイミングTM1およびTM2において電荷が蓄積された合計時間が時間To×1であることが示されている。蓄積タイミングTM3及びTM4において電荷が蓄積された合計時間が時間To×2であることが示されている。蓄積タイミングTM5及びTM6において電荷が蓄積された合計時間が時間To×3であることが示されている。
【0102】
このように、距離画像処理部4は、複数の前記蓄積タイミングTM1~TM6のそれぞれにおいて、照射タイミングLとの差分が小さい蓄積タイミングTM1およびTM2より、差分が大きい蓄積タイミングTM3及びTM4のほうが、1フレームにおいて電荷が蓄積された合計時間が大きくなるように制御する。また、照射タイミングLとの差分が小さい蓄積タイミングTM3およびTM4より、差分が大きい蓄積タイミングTM5及びTM6のほうが、1フレームにおいて電荷が蓄積された合計時間が大きくなるように制御する。
【0103】
一般に、被写体OBまで距離が小さいほど反射光RLの強度が大きくなる。つまり、蓄積タイミングTM1およびTM2で受光する反射光RLの強度は、他の蓄積タイミングTM3~TM6よりも大きくなる。このため、すぐに、電荷蓄積部に蓄積される電荷量が飽和してしまう傾向にある。したがって、電荷蓄積部に蓄積される電荷量が飽和しないように、1フレームにおいて電荷を蓄積させる合計時間を決定する必要がある。
【0104】
これに対し、被写体OBまで距離が大きいほど反射光RLの強度が小さくなる。つまり、蓄積タイミングTM5およびTM6で受光する反射光RLの強度は、他の蓄積タイミングTM1~TM4よりも小さくなる。このため、蓄積タイミングTM1およびTM2にて飽和しないように決定した合計時間と同じ時間で、電荷蓄積部に電荷を蓄積させた場合、電荷量が不足してしまい、距離の演算精度が劣化してしまう可能性が高い。
【0105】
この対策として、距離画像処理部4は、照射タイミングLとの差分が小さい蓄積タイミング(例えば、蓄積タイミングTM1及びTM2)より、差分が大きい蓄積タイミング(例えば、蓄積タイミングTM5およびTM6)のほうが、1フレームにおいて電荷が蓄積された合計時間が大きくなるように制御する。これにより、近い距離に存在する被写体OBからの反射光RLを受光した場合に飽和させないようにし、且つ、遠い距離に存在する被写体OBからの反射光RLを受光した場合において距離を精度よく測定できる程度の電荷を蓄積できるようにすることができる。
【0106】
以上説明したように、第1実施形態の距離画像撮像装置1は、光源部2と受光部3と距離画像処理部4を備える。距離画像処理部4は、1フレームにおいて、互いに異なるパターンで電荷を蓄積させる蓄積サイクルが設けられる。ここで、各サブフレームにおいて繰り返されるサイクル、具体的に、「第1サイクル」、「第2サイクル」、および「第3サイクル」のそれぞれは、「蓄積サイクル」の一例である。距離画像処理部4は、複数のサブフレームにおいて、電荷蓄積部CSの数(4)より多い複数の蓄積タイミングTM1~TM6の何れかのタイミングにて、電荷蓄積部CSのそれぞれに電荷が蓄積されるように制御する。距離画像処理部4は、1フレームにおいて、電荷蓄積部CSのそれぞれに電荷を蓄積させる回数の合計である合計回数が同一となるように制御する。距離画像処理部4は、第1蓄積タイミングと第2蓄積タイミングとの時間差分が、蓄積時間Toとは異なる時間となるように制御する。第1蓄積タイミングは、特定のサブフレーム(例えば、第1サブフレーム)において特定の電荷蓄積部(例えば、電荷蓄積部CS1)に電荷を蓄積させる蓄積タイミングTMである。第2蓄積タイミングは、特定のサブフレームとは異なる他のサブフレーム(例えば、第2サブフレームまたは第3サブフレーム)において特定の電荷蓄積部(例えば、電荷蓄積部CS1)に電荷を蓄積させる蓄積タイミングTMである。
【0107】
これにより、第1実施形態の距離画像撮像装置1では、電荷蓄積部CSの数(4)より多い複数の蓄積タイミングTM1~TM6の何れかのタイミングにて、電荷蓄積部CSのそれぞれに電荷が蓄積されるように制御することができ、測定可能な距離を拡大させることができる。また、1フレームにおいて、電荷蓄積部CSのそれぞれに電荷を蓄積させる回数の合計である合計回数が同一となるように制御することができ、反射光RLに対応する電荷が蓄積された電荷蓄積部CSを特定し易くすることが可能となる。さらに、第1蓄積タイミングと第2蓄積タイミングとの時間差分が、蓄積時間Toとは異なる時間となるように制御することができ、各サブフレームで閉じた測定のみならず、複数のサブフレームのそれぞれにおいて蓄積された電荷量を組み合わせて距離を算出することが可能となる。したがって、測定可能な範囲に対応するタイミング(蓄積タイミングTM1~TM6)において電荷蓄積部に電荷を蓄積させ、測定可能な範囲とは異なるタイミングにおいて電荷蓄積部に背景光成分の電荷を蓄積させる必要がない。つまり、測定に要する時間を増大させることなく、測定可能な範囲を伸ばすことができる。
【0108】
また、第1実施形態の距離画像撮像装置1では、距離画像処理部4は、照射タイミングLとの差分が小さい蓄積タイミング(例えば、蓄積タイミングTM1及びTM2)より、差分が大きい蓄積タイミング(例えば、蓄積タイミングTM5およびTM6)のほうが、1フレームにおいて電荷が蓄積された合計時間が大きくなるように制御する。これにより、近い距離に存在する被写体OBからの反射光RLを受光した場合に飽和させないようにし、且つ、遠い距離に存在する被写体OBからの反射光RLを受光した場合において距離を精度よく測定できる程度の電荷を蓄積できるようにすることができる。
【0109】
(第1実施形態の変形例)
上述した第1実施形態では、1フレームに複数のサブフレームが設けられ、各サブフレームにおいて蓄積期間と読出期間が設けられる場合を例示して説明した。しかしながら、これに限定されない。各サブフレームにおいて蓄積期間のみが設けられ、1フレーム最後に1つの読出期間が設けられるフレーム構成であってもよい。この場合、各サブフレームにおいて蓄積された電荷の合計値に相当する信号値が読み出される。上述した第1実施形態のようにサブフレーム毎に読出期間を設ける場合と比較して、読出期間を減らすことができ、効率よく測定を行うことが可能となる。
【0110】
また、少なくとも、1フレームにおいて蓄積サイクルが異なる駆動が行われればよく、必ずしもサブフレームが設けられなくともよい。本変形例では、1フレームにサブフレームを設けず、蓄電サイクルの異なる駆動を行う場合の例について説明する。
【0111】
図13~
図17は、第1実施形態の変形例に係る画素321を駆動するタイミングを示すタイミングチャートである。
図13~
図17には、同じタイミングチャートが示されており、同じタイミングチャートに対して反射光RLが異なるタイミングで受光された例が示されている。
【0112】
具体的には、1フレームに、蓄電サイクルが異なる駆動を順に行うセット(第1セット、第2セット、…、第Mセット、Mは任意の自然数)が設けられる例が示されている。ここでのセットでは、「第1サイクル」、「第2サイクル」、および「第3サイクル」のそれぞれにしたがった駆動が行われる。ここでの「第1サイクル」は
図4の第1サイクルと、「第2サイクル」は
図5の第2サイクルと、「第3サイクル」は
図6の第3サイクルと、同様である。
【0113】
図13~
図17には、同じタイミングチャートに対して、反射光RLが異なるタイミングで受光された例が示されている。
【0114】
図13には、蓄積タイミングTM1~TM2に跨って反射光RLに対応する電荷が蓄積された例が示されている。
【0115】
この場合、第1サイクルにおいて、ゲートG1、つまり電荷蓄積部CS1に、反射光RLの前半部分に対応する電荷が蓄積される。また、第1サイクルにおいて、ゲートG2、つまり電荷蓄積部CS2に、反射光RLの後半部分に対応する電荷が蓄積される。また、第2サイクルにおいて、ゲートG2、つまり電荷蓄積部CS2に反射光RLの後半部分に対応する電荷が蓄積される。また、第3サイクルにおいて、ゲートG2、つまり電荷蓄積部CS2に反射光RLの後半部分に対応する電荷が蓄積される。
【0116】
また、各サイクル(第1サイクル、第2サイクルおよび第3サイクル)において、電荷蓄積部CS1~CS4のそれぞれに、各サイクルあたり1回ずつ、背景光成分に対応する電荷が蓄積される。
【0117】
すなわち、距離画像処理部4が、1フレームにおける蓄積期間の駆動を行うと、電荷蓄積部CS1には、1回分の反射光RLの前半部分、および3回分の背景光成分のそれぞれの光量の総和に対応する電荷が蓄積される。距離画像処理部4は、蓄積期間が終了した後、読出期間において蓄積信号SIG1を読み出す。蓄積信号SIG1は、1回分の反射光RLの前半部分、および3回分の背景光成分の光量に対応する信号値となる。
【0118】
また、距離画像処理部4が、1フレームにおける蓄積期間の駆動を行うと、電荷蓄積部CS2には、3回分の反射光RLの後半部分、および3回分の背景光成分のそれぞれの光量の総和に対応する電荷が蓄積される。距離画像処理部4は、蓄積期間が終了した後、読出期間において蓄積信号SIG2を読み出す。蓄積信号SIG2は、3回分の反射光RLの後半部分、および3回分の背景光成分の光量の総和に対応する信号値となる。
【0119】
また、距離画像処理部4が、1フレームにおける蓄積期間の駆動を行うと、電荷蓄積部CS3には、3回分の背景光成分の光量に対応する電荷が蓄積される。距離画像処理部4は、蓄積期間が終了した後、読出期間において蓄積信号SIG3を読み出す。蓄積信号SIG3は、3回分の背景光成分の光量の総和に対応する信号値となる。
【0120】
また、距離画像処理部4が、1フレームにおける蓄積期間の駆動を行うと、電荷蓄積部CS4には、3回分の背景光成分の光量に対応する電荷が蓄積される。距離画像処理部4は、蓄積期間が終了した後、読出期間において蓄積信号SIG4を読み出す。蓄積信号SIG4は、3回分の背景光成分の光量の総和に対応する信号値となる。
【0121】
距離画像処理部4は、例えば、蓄積信号SIG1~SIG4のうち、最小の信号値を背景光成分に対応する信号値とする。例えば、距離画像処理部4は、(3)式を用いて、背景光成分に対応する信号値SIGHを算出する。
【0122】
SIGH=MIN(SIG1、SIG2、SIG3、SIG4) …(3)
但し、
SIGHは、背景光成分に対応する信号値である。
SIG1は、電荷蓄積部CS1に蓄積された電荷量に対応する蓄積信号である。
SIG2は、電荷蓄積部CS2に蓄積された電荷量に対応する蓄積信号である。
SIG3は、電荷蓄積部CS3に蓄積された電荷量に対応する蓄積信号である。
SIG4は、電荷蓄積部CS4に蓄積された電荷量に対応する蓄積信号である。
【0123】
ここで、本変形例では、各セットにおいて電荷蓄積部CSのそれぞれに電荷を蓄積させる回数を同じ回数(3回)としている。これにより、電荷蓄積部CSのそれぞれに蓄積される背景光成分の電荷量を揃えることができる。したがって、(3)式に示すように、最小値を求めるという容易な処理にて、背景光成分に対応する信号値SIGHを算出することが可能となる。
【0124】
距離画像処理部4は、蓄積信号SIG1から、信号値SIGHを減算することにより、1回分の反射光RLの前半部分に相当する蓄積信号SIGR1を算出する。また、距離画像処理部4は、蓄積信号SIG2から信号値SIGHを減算することにより、3回分の反射光RLの後半部分に相当する蓄積信号SIGR2を算出する。
【0125】
距離画像処理部4は、蓄積信号SIGR1およびSIGR2を補正し、同じ回数分の反射光RLに対応する、補正後の蓄積信号SIGR1#およびSIGR2#を算出する。例えば、距離画像処理部4は、(4)式を用いて、補正後の蓄積信号SIGR1#およびSIGR2#を算出する。
【0126】
SIGR1#=SIGR1×3
SIGR2#=SIGR2×1
…(4)
但し、
SIGR1#は、補正後の、反射光RLの前半部分に相当する蓄積信号である。
SIGR2#は、補正後の、反射光RLの後半部分に相当する蓄積信号である。
【0127】
距離画像処理部4は、蓄積信号SIGR1#、SIGR2#、及びSIGHを、例えば(5)式に代入することにより、被写体OBまでの距離dを算出する。
【0128】
d=c0×(1/2×Td)
Td=To×(SIGR2#)/(SIGR1#+SIGR2#) …(5)
但し、
dは、被写体OBまでの距離である。
c0は光速である。
Tdは、被写体OBに光が到達するまでに要した時間である。
SIGR1#は、補正後の、反射光RLの前半部分に対応する蓄積信号である。
SIGR2#は、補正後の、反射光RLの後半部分に対応する蓄積信号である。
【0129】
図14には、蓄積タイミングTM2~TM3に跨って反射光RLに対応する電荷が蓄積された例が示されている。この場合、蓄積信号SIG1は、3回分の背景光成分の光量に対応する信号値となる。蓄積信号SIG2は、3回分の反射光RLの前半部分、および3回分の背景光成分の光量に対応する信号値となる。蓄積信号SIG3は、2回分の反射光RLの後半部分、および3回分の背景光成分の光量に対応する信号値となる。蓄積信号SIG4は、3回分の背景光成分の光量に対応する信号値となる。
【0130】
距離画像処理部4は、(3)式を用いて、背景光成分に対応する信号値SIGHを算出する。
【0131】
距離画像処理部4は、蓄積信号SIG2から、信号値SIGHを減算することにより、3回分の反射光RLの前半部分に相当する蓄積信号SIGR2を算出する。また、距離画像処理部4は、蓄積信号SIG3から信号値SIGHを減算することにより、2回分の反射光RLの後半部分に相当する蓄積信号SIGR3を算出する。
【0132】
距離画像処理部4は、蓄積信号SIGR2およびSIGR3を補正する。例えば、距離画像処理部4は、(6)式を用いて、補正後の蓄積信号SIGR2#およびSIGR3#を算出する。
【0133】
SIGR2#=SIGR2×1
SIGR3#=SIGR3×3/2
…(6)
但し、
SIGR2#は、補正後の、反射光RLの前半部分に相当する蓄積信号である。
SIGR3#は、補正後の、反射光RLの後半部分に相当する蓄積信号である。
SIGR2は、反射光RLの前半部分に相当する蓄積信号である。
SIGR3は、反射光RLの後半部分に相当する蓄積信号である。
【0134】
距離画像処理部4は、蓄積信号SIGR2#、SIGR3#、及びSIGHを、例えば(7)式に代入することにより、被写体OBまでの距離dを算出する。
【0135】
d=c0×(1/2×Td)
Td=To×(SIGR3#)/(SIGR2#+SIGR3#) …(7)
但し、
dは、被写体OBまでの距離である。
c0は光速である。
Tdは、被写体OBに光が到達するまでに要した時間である。
SIGR2#は、補正後の、反射光RLの前半部分に対応する蓄積信号である。
SIGR3#は、補正後の、反射光RLの後半部分に対応する蓄積信号である。
【0136】
図15には、蓄積タイミングTM3~TM4に跨って反射光RLに対応する電荷が蓄積された例が示されている。この場合、蓄積信号SIG1は、3回分の背景光成分の光量に対応する信号値となる。蓄積信号SIG2は、3回分の背景光成分の光量に対応する信号値となる。蓄積信号SIG3は、2回分の反射光RLの前半部分、および3回分の背景光成分の光量に対応する信号値となる。蓄積信号SIG4は、3回分の反射光RLの後半部分、および3回分の背景光成分の光量に対応する信号値となる。
【0137】
距離画像処理部4は、(3)式を用いて、背景光成分に対応する信号値SIGHを算出する。
【0138】
距離画像処理部4は、蓄積信号SIG3から、信号値SIGHを減算することにより、2回分の反射光RLの前半部分に相当する蓄積信号SIGR3を算出する。また、距離画像処理部4は、蓄積信号SIG4から信号値SIGHを減算することにより、3回分の反射光RLの後半部分に相当する蓄積信号SIGR4を算出する。
【0139】
距離画像処理部4は、蓄積信号SIGR3およびSIGR4を補正する。例えば、距離画像処理部4は、(8)式を用いて、補正後の蓄積信号SIGR3#およびSIGR4#を算出する。
【0140】
SIGR3#=SIGR3×3/2
SIGR4#=SIGR4×1
…(8)
但し、
SIGR3#は、補正後の、反射光RLの前半部分に相当する蓄積信号である。
SIGR4#は、補正後の、反射光RLの後半部分に相当する蓄積信号である。
SIGR3は、反射光RLの前半部分に相当する蓄積信号である。
SIGR4は、反射光RLの後半部分に相当する蓄積信号である。
【0141】
距離画像処理部4は、蓄積信号SIGR3#、SIGR4#、及びSIGHを、例えば(9)式に代入することにより、被写体OBまでの距離dを算出する。
【0142】
d=c0×(1/2×Td)
Td=To×(SIGR4#)/(SIGR3#+SIGR4#) …(9)
但し、
dは、被写体OBまでの距離である。
c0は光速である。
Tdは、被写体OBに光が到達するまでに要した時間である。
SIGR3#は、補正後の、反射光RLの前半部分に対応する蓄積信号である。
SIGR4#は、補正後の、反射光RLの後半部分に対応する蓄積信号である。
【0143】
図16には、蓄積タイミングTM4~TM5に跨って反射光RLに対応する電荷が蓄積された例が示されている。この場合、蓄積信号SIG1は、2回分の反射光RLの後半部分、および3回分の背景光成分の光量に対応する信号値となる。蓄積信号SIG2は、3回分の背景光成分の光量に対応する信号値となる。蓄積信号SIG3は、3回分の背景光成分の光量に対応する信号値となる。蓄積信号SIG4は、3回分の反射光RLの前半部分、および3回分の背景光成分の光量に対応する信号値となる。
【0144】
距離画像処理部4は、(3)式を用いて、背景光成分に対応する信号値SIGHを算出する。
【0145】
距離画像処理部4は、蓄積信号SIG4から、信号値SIGHを減算することにより、3回分の反射光RLの前半部分に相当する蓄積信号SIGR4を算出する。また、距離画像処理部4は、蓄積信号SIG1から信号値SIGHを減算することにより、2回分の反射光RLの後半部分に相当する蓄積信号SIGR1を算出する。
【0146】
距離画像処理部4は、蓄積信号SIGR4およびSIGR1を補正する。例えば、距離画像処理部4は、(10)式を用いて、補正後の蓄積信号SIGR4#およびSIGR1#を算出する。
【0147】
SIGR4#=SIGR4×1
SIGR1#=SIGR1×3/2
…(10)
但し、
SIGR4#は、補正後の、反射光RLの前半部分に相当する蓄積信号である。
SIGR1#は、補正後の、反射光RLの後半部分に相当する蓄積信号である。
SIGR4は、反射光RLの前半部分に相当する蓄積信号である。
SIGR1は、反射光RLの後半部分に相当する蓄積信号である。
【0148】
距離画像処理部4は、蓄積信号SIGR4#、SIGR1#、及びSIGHを、例えば(11)式に代入することにより、被写体OBまでの距離dを算出する。
【0149】
d=c0×(1/2×Td)
Td=To×(SIGR1#)/(SIGR4#+SIGR1#) …(11)
但し、
dは、被写体OBまでの距離である。
c0は光速である。
Tdは、被写体OBに光が到達するまでに要した時間である。
SIGR4#は、補正後の、反射光RLの前半部分に対応する蓄積信号である。
SIGR1#は、補正後の、反射光RLの後半部分に対応する蓄積信号である。
SIGHは、背景光成分に対応する蓄積信号である。
【0150】
図17には、蓄積タイミングTM5~TM6に跨って反射光RLに対応する電荷が蓄積された例が示されている。この場合、蓄積信号SIG1は、2回分の反射光RLの前半部分、および3回分の背景光成分の光量に対応する信号値となる。蓄積信号SIG2は、3回分の背景光成分の光量に対応する信号値となる。蓄積信号SIG3は、1回分の反射光RLの後半部分、および3回分の背景光成分の光量に対応する信号値となる。蓄積信号SIG4は、3回分の背景光成分の光量に対応する信号値となる。
【0151】
距離画像処理部4は、(3)式を用いて、背景光成分に対応する信号値SIGHを算出する。
【0152】
距離画像処理部4は、蓄積信号SIG1から、信号値SIGHを減算することにより、2回分の反射光RLの前半部分に相当する蓄積信号SIGR1を算出する。また、距離画像処理部4は、蓄積信号SIG3から信号値SIGHを減算することにより、1回分の反射光RLの後半部分に相当する蓄積信号SIGR3を算出する。
【0153】
距離画像処理部4は、蓄積信号SIGR1およびSIGR3を補正する。例えば、距離画像処理部4は、(12)式を用いて、補正後の蓄積信号SIGR1#およびSIGR3#を算出する。
【0154】
SIGR1#=SIGR1×3/2
SIGR3#=SIGR3×3
…(12)
但し、
SIGR1#は、補正後の、反射光RLの前半部分に相当する蓄積信号である。
SIGR3#は、補正後の、反射光RLの後半部分に相当する蓄積信号である。
SIGR1は、反射光RLの前半部分に相当する蓄積信号である。
SIGR3は、反射光RLの後半部分に相当する蓄積信号である。
【0155】
距離画像処理部4は、蓄積信号SIGR1#、SIGR3#、及びSIGHを、例えば(13)式に代入することにより、被写体OBまでの距離dを算出する。
【0156】
d=c0×(1/2×Td)
Td=To×(SIGR3#)/(SIGR1#+SIGR3#) …(13)
但し、
dは、被写体OBまでの距離である。
c0は光速である。
Tdは、被写体OBに光が到達するまでに要した時間である。
SIGR1#は、補正後の、反射光RLの前半部分に対応する蓄積信号である。
SIGR3#は、補正後の、反射光RLの後半部分に対応する蓄積信号である。
【0157】
なお、(4)式、(6)式、(8)式、(10)式、および(12)式で示した補正係数は一例であり、これに限定されない。補正により、少なくとも、反射光RLの前半および後半部分に対応する蓄積信号のそれぞれが、同じ回数に相当する蓄積信号に補正できればよい。例えば、(3)式において、SIGR1に「1」を乗算し、SIGR2に「1/3」を乗算するようにしてもよい。
【0158】
以上説明したように、第1実施形態の変形例に係る距離画像撮像装置1は、距離画像処理部4は、1フレームにおいて、互いに異なるパターンで電荷を蓄積させる蓄積サイクルが設けられる。ここで、各サブフレームにおいて繰り返されるサイクル、具体的に、「第1サイクル」、「第2サイクル」、および「第3サイクル」のそれぞれは、「蓄積サイクル」の一例である。距離画像処理部4は、1フレームにおいて、電荷蓄積部CSの数(4)より多い複数の蓄積タイミングTM1~TM6の何れかのタイミングにて、電荷蓄積部CSのそれぞれに電荷が蓄積されるように、蓄積サイクルを制御する。距離画像処理部4は、1フレームにおいて、電荷蓄積部CSのそれぞれに電荷を蓄積させる回数の合計である合計回数が同一となるように制御する。距離画像処理部4は、第1蓄積タイミングと第2蓄積タイミングとの時間差分が、蓄積時間Toとは異なる時間となるように制御する。第1蓄積タイミングは、特定のサイクル(例えば、第1サイクル)において特定の電荷蓄積部(例えば、電荷蓄積部CS1)に電荷を蓄積させるタイミングである。第2蓄積タイミングは、特定のサイクルとは異なる他のサイクル(例えば、第2サイクルまたは第3サイクル)において特定の電荷蓄積部(例えば、電荷蓄積部CS1)に電荷を蓄積させるタイミングである。
【0159】
これにより、第1実施形態の変形例に係る距離画像撮像装置1では、電荷蓄積部CSの数(4)より多い複数の蓄積タイミングTM1~TM6の何れかのタイミングにて、電荷蓄積部CSのそれぞれに電荷が蓄積されるように制御することができ、測定可能な距離を拡大させることができる。また、1フレームにおいて、電荷蓄積部CSのそれぞれに電荷を蓄積させる回数の合計である合計回数が同一となるように制御することができ、背景光成分に対応する蓄積信号を算出し易くし、反射光RLに対応する電荷が蓄積された電荷蓄積部CSを特定し易くすることが可能となる。さらに、第1蓄積タイミングと第2蓄積タイミングとの時間差分が、蓄積時間Toとは異なる時間となるように制御することができ、1フレームに渡り蓄積された電荷量に対応する蓄積信号を用いて距離を算出することが可能となる。したがって、上述した実施形態と同様の効果を奏する。
【0160】
(第2実施形態)
ここで第2実施形態について説明する。本実施形態では、複数の測定モードを備える点において、上述した実施形態と相違する。複数の測定モードは、少なくとも、通常モードと、広範囲モードと、を含む。
通常モードは、近距離にある被写体OBまでの距離を測定するが、遠距離にある被写体OBまでの距離を測定しないモードである。通常モードでは、近距離にある被写体OBから到来する反射光RLに対応する電荷を電荷蓄積部CSに蓄積させるが、遠距離にある被写体OBから到来する反射光RLに対応する電荷を電荷蓄積部CSに蓄積させないように、画素321が駆動される。
【0161】
通常モードは、1フレームの内訳として、例えば、
図4に示す第1サブフレームのみを繰り返し実行することによって画素321が駆動されるモードである。
図4では、蓄積タイミングTM1~TM4のそれぞれのタイミングにおいて電荷を蓄積させるが、蓄積タイミングTM5及びTM6のいずれのタイミングにおいても電荷を蓄積させないように、画素321が駆動される。蓄積タイミングTM1~TM4は、近距離にある被写体OBから到来する反射光RLに対応する電荷を電荷蓄積部CSに蓄積させるタイミングの一例である。蓄積タイミングTM5及びTM6は、遠距離にある被写体OBから到来する反射光RLに対応する電荷を電荷蓄積部CSに蓄積させるタイミングの一例である。
【0162】
広範囲モードは、近距離から遠距離までの広範囲にある被写体OBまでの距離を測定するモードである。遠距離モードでは、近距離及び遠距離にある何れの被写体OBから到来する反射光RLに対応する電荷を電荷蓄積部CSに蓄積させるように、画素321が駆動される。
【0163】
広範囲モードは、1フレームの内訳として、例えば、
図4~
図6に示す、第1サブフレーム~第3サブフレームを繰り返し実行することによって画素321が駆動されるモードである。
図4では、蓄積タイミングTM1~TM4のそれぞれのタイミングにおいて電荷を蓄積させるように、画素321が駆動される。
図5では、蓄積タイミングTM2~TM5のそれぞれにおいて、電荷蓄積部CS2~CS5のそれぞれに電荷が蓄積されるように、画素321が駆動される。
図6では、蓄積タイミングTM2、TM4~TM6のそれぞれにおいて、電荷蓄積部CS2、CS4、CS1、CS3のそれぞれに電荷が蓄積されるように、画素321が駆動される。
【0164】
或いは、広範囲モードは、1フレームの内訳として、例えば、
図9~
図11に示す、第1サブフレーム~第3サブフレームを繰り返し実行することによって画素321が駆動されるモードである。
図9では、蓄積タイミングTM1~TM2、TM5~TM6のそれぞれのタイミングにおいて電荷を蓄積させるように、画素321が駆動される。
図10及び
図11では、蓄積タイミングTM3~TM6のそれぞれのタイミングにおいて電荷を蓄積させるように、画素321が駆動される。
【0165】
このように、広範囲モードでは、近距離に対応する蓄積タイミングTM1~TM4、及び遠距離に対応する蓄積タイミングTM5及びTM6のいずれにも、反射光RLに対応する電荷は電荷蓄積部CSに蓄積されるように画素321が駆動される。これにより、近距離から遠距離までの広範囲にある被写体OBまでの距離を測定することができるようになる。
【0166】
本実施形態において、距離画像処理部4は、距離画像撮像装置1により撮像(測定)した距離画像を構成する画素321のそれぞれの画素値(距離値)の統計量を算出する。ここでの統計量は、任意の統計手法を用いて算出される統計量であってよい。統計量は、例えば、距離値の度数分布、平均値、中央値、分散、標準偏差、最頻値、最大値、最小値等の何れか及びこれらの組合せである。距離画像処理部4は、算出した統計量に基づいて、近距離から遠距離までの広範囲に被写体OBが存在すると判定した場合には、次回の測定における測定モードを、広範囲モードとする。一方、距離画像処理部4は、算出した統計量に基づいて、近距離にのみ被写体OBが存在すると判定した場合には、次回の測定における測定モードを、通常モードとする。
【0167】
距離画像処理部4は、例えば、統計量として、最小値及び測定範囲を算出する。最小値は、距離画像において測定された最小の距離値である。測定範囲は、距離画像において測定された最小の距離値から最大の距離値までの範囲である。距離画像処理部4は、距離画像に基づいて算出した最小値が第1しきい値未満であり、測定範囲が第2しきい値以上である場合、近距離から遠距離までの広範囲に被写体OBが存在すると判定する。第1しきい値は、近距離とみなす距離に対応して設定される値である。第2しきい値は、広範囲とみなす距離範囲に対応して設定される値である。広範囲に被写体OBが存在すると判定した場合、距離画像処理部4は、次回の測定における測定モードを、広範囲モードとする。一方、最小値が第1しきい値未満であり、測定範囲が第2しきい値未満である場合、距離画像処理部4は、近距離にのみ被写体OBが存在すると判定する。近距離にのみ被写体OBが存在すると判定した場合、距離画像処理部4は、次回の測定における測定モードを、通常モードとする。
【0168】
或いは、距離画像処理部4は、統計量として、最大値を算出する。最大値は、距離画像において測定された最大の距離値である。距離画像処理部4は、距離画像に基づいて算出した最大値が第3しきい値以上である場合、被写体OBが遠距離にあると判定する。第3しきい値は、遠距離とみなす距離に対応して設定される値である。被写体OBが遠距離にあると判定した場合、距離画像処理部4は、次回の測定における測定モードを、広範囲モードとする。一方、最大値が第3しきい値未満である場合、距離画像処理部4は、近距離にのみ被写体OBが存在すると判定する。近距離にのみ被写体OBが存在すると判定した場合、距離画像処理部4は、次回の測定における測定モードを、通常モードとする。
【0169】
また、距離画像処理部4は、通常モードでの測定において何等かの変化があった場合に、次回の測定における測定モードを、広範囲モードとするようにしてもよい。この場合、距離画像処理部4は、まず、通常モードにて撮像(測定)を開始する、距離画像処理部4は、測定ごとに統計量を算出し、算出した統計量を記憶させる。距離画像処理部4は、今回の測定において算出した統計量と、前回の測定において算出した統計量との差分が第4しきい値以上である場合に、次回の測定における測定モードを、広範囲モードとする。第4しきい値は、変化があったとみなす値に対応して設定される値であり、統計量に応じて設定される値である。測定空間に被写体OBが存在しなくなった場合など、測定において何等かの変化があった場合に測定モードを変更することにより、広範囲モードにて測定可能な範囲(遠距離)に被写体OBが存在しているのか否かを判定することができる。例えば、距離画像処理部4は、遠距離に被写体OBが存在している場合には広範囲モードにて測定を継続し、遠距離を含めた広範囲モードの測定空間に被写体OBが存在していない場合には、通常モードに戻して測定を継続する。
【0170】
以上説明したように、第2実施形態の距離画像撮像装置1では、通常モードと、広範囲モードと、を含む複数の測定モードを備える。通常モードは、近距離にある被写体OBまでの距離を測定するが、遠距離にある被写体OBまでの距離を測定しないモードである。広範囲モードは、近距離から遠距離までの広範囲にある被写体OBまでの距離を測定するモードである。距離画像処理部4は、画素321のそれぞれの画素値(距離値)の統計量を算出する。距離画像処理部4は、算出した統計量に基づき、次回の測定における測定モードを、通常モード及び広範囲モードのいずれとするか決定する。
【0171】
これにより、第2実施形態の距離画像撮像装置1では、測定空間に存在する被写体OBの状況に応じて測定モードを切り替えることができ、測定に要する時間を増大させることなく測定を行うことができる。例えば、近距離にのみ被写体OBが存在する状況であれば通常モードにて測定を行い、遠距離にある被写体OBまでの距離を測定しないようにし、広範囲モードにて測定する場合と比較して測定に要する時間を短縮させることができる。一方、近距離から遠距離までの広範囲に被写体OBが存在する状況であれば広範囲モードにて測定を行い、広範囲に存在する被写体OBのそれぞれの距離を測定でき、且つ、測定可能な範囲とは異なるタイミングにおいて電荷蓄積部CSに背景光成分の電荷を蓄積させる場合と比較して、測定に要する時間を短縮させることができる。
【0172】
(第2実施形態の変形例)
ここで、第2実施形態の変形例について説明する。本変形例では、画素エリアごとに測定モードを設定する点において、上述した第2実施形態と異なる。画素エリアは、距離画像センサ32に設けられた複数の画素321を、隣接する複数の画素321からなる画素群に分割した領域(エリア)である。例えば、
図2の距離画像センサ32において8行8列に二次元の行列状に配置された画素群を4つに分割することにより、4つの画素エリアを設けることができる。この場合、各画素エリアには、4行×4列からなる16個の画素が含まれる。なお、4行×4列に限定されることはなく、画素エリアは任意に設定されてよく、例えば、5行×5列の25個の画素からなる画素エリアが設けられてもよいし、2行×5列の10個画素からなる画素エリアが設けられてもよい。
【0173】
本変形例において、距離画像処理部4は、画素エリアを構成する画素321のそれぞれの画素値(距離値)の統計量を算出する。距離画像処理部4は、算出した統計量に基づき、次回の測定における測定モードを、画素エリアごとに、通常モード及び広範囲モードのいずれとするか決定する。
【0174】
距離画像処理部4が、通常モード及び広範囲モードのいずれとするか決定する方法は、上述した第2実施形態と同様である。具体的に、距離画像処理部4は、画素エリアごとに、その画素エリアを構成する画素321のそれぞれの画素値(距離値)の統計量を算出する。距離画像処理部4は、画素エリアごとの統計量に基づいて、その画素エリアによって距離測定された空間に、近距離から遠距離までの広範囲に被写体OBが存在すると判定した場合には、次回の測定において、その画素エリアの測定モードを、広範囲モードとする。一方、距離画像処理部4は、画素エリアごとの統計量に基づいて、その画素エリアによって測定される空間には近距離にのみ被写体OBが存在すると判定した場合には、次回の測定における測定モードを、通常モードとする。
【0175】
以上説明したように、第2実施形態の変形例に係る距離画像撮像装置1では、距離画像処理部4は、画素エリアごとに、画素321のそれぞれの画素値(距離値)の統計量を算出する。距離画像処理部4は、算出した画素エリアごとの統計量に基づき、次回の測定における測定モードを、通常モード及び広範囲モードのいずれとするか、画素エリアごとに決定する。これにより、第2実施形態の変形例に係る距離画像撮像装置1では、画素エリアごとに、測定モードを決定することができる。このため、距離画像の一部にのみ、広範囲に存在する被写体OBまでの距離が測定されるような状況において、その一部に対応する画素エリアのみを広範囲モードにて測定するように対応することができる。
【0176】
上述した実施形態における距離画像撮像装置1、距離画像処理部4の全部または一部をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、FPGA等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。
【0177】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計、装置構成、補正処理やフィルタリング処理等も含まれる。
【符号の説明】
【0178】
1…距離画像撮像装置
2…光源部
3…受光部
32…距離画像センサ
321…画素
323…垂直走査回路
4…距離画像処理部
41…タイミング制御部
42…距離演算部
43…測定制御部
CS…電荷蓄積部
PO…光パルス