(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022113429
(43)【公開日】2022-08-04
(54)【発明の名称】距離画像撮像装置、及び距離画像撮像方法
(51)【国際特許分類】
G01S 7/497 20060101AFI20220728BHJP
G01S 17/894 20200101ALI20220728BHJP
G01C 3/06 20060101ALI20220728BHJP
【FI】
G01S7/497
G01S17/894
G01C3/06 120Q
【審査請求】未請求
【請求項の数】15
【出願形態】OL
(21)【出願番号】P 2021009673
(22)【出願日】2021-01-25
(71)【出願人】
【識別番号】000003193
【氏名又は名称】凸版印刷株式会社
(74)【代理人】
【識別番号】100149548
【弁理士】
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100139686
【弁理士】
【氏名又は名称】鈴木 史朗
(74)【代理人】
【識別番号】100169764
【弁理士】
【氏名又は名称】清水 雄一郎
(74)【代理人】
【識別番号】100147267
【弁理士】
【氏名又は名称】大槻 真紀子
(72)【発明者】
【氏名】中込 友洋
(72)【発明者】
【氏名】大久保 優
(72)【発明者】
【氏名】高橋 聡
(72)【発明者】
【氏名】後藤 浩成
【テーマコード(参考)】
2F112
5J084
【Fターム(参考)】
2F112AD01
2F112BA06
2F112CA12
2F112DA04
2F112DA25
2F112EA11
5J084AA04
5J084AA05
5J084AD01
5J084AD05
5J084BA04
5J084BA36
5J084BA40
5J084CA03
5J084CA49
5J084EA20
(57)【要約】
【課題】画素がシングルパスを受光したか、マルチパスを受光したかを判定することができる距離画像撮像装置、及び距離画像撮像方法を提供する。
【解決手段】光源部と、受光部と、被写体までの距離を演算する距離画像処理部と、を備え、前記距離画像処理部は、前記照射タイミングと前記蓄積タイミングとの相対的なタイミング関係が互いに異なる複数の測定を行い、前記複数の測定のそれぞれにて蓄積された電荷量に基づく特徴量を抽出し、前記抽出した特徴量の傾向に基づいて、前記光パルスの反射光がシングルパスにて前記画素に受光されたか、前記光パルスの反射光がマルチパスにて前記画素に受光されたかを判定し、前記判定した結果に応じて前記測定空間に存在する被写体までの距離を算出する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
測定対象の空間である測定空間に光パルスを照射する光源部と、
入射した光に応じた電荷を発生する光電変換素子、及び電荷を蓄積する三つ以上の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させたタイミングで前記画素における前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、
前記光パルスを照射する照射タイミングと前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる蓄積タイミングとを制御し、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を算出する距離画像処理部と、
を備え、
前記距離画像処理部は、前記照射タイミングと前記蓄積タイミングとの相対的なタイミング関係が互いに異なる複数の測定を行い、前記複数の測定のそれぞれにて蓄積された電荷量に基づく特徴量を抽出し、前記抽出した特徴量の傾向に基づいて、前記光パルスの反射光がシングルパスにて前記画素に受光されたか、前記光パルスの反射光がマルチパスにて前記画素に受光されたかを判定し、前記判定した結果に応じて前記測定空間に存在する被写体までの距離を算出する、
距離画像撮像装置。
【請求項2】
前記距離画像処理部は、前記反射光がシングルパスで前記画素に受光された場合における、前記相対的なタイミング関係と前記特徴量とが対応付けられたルックアップテーブルを用いて、前記ルックアップテーブルの傾向と、前記複数の測定のそれぞれの前記特徴量の傾向との類似度合いに基づいて、前記反射光がシングルパスにて前記画素に受光されたか、前記光パルスの反射光がマルチパスにて前記画素に受光されたかを判定する、
請求項1に記載の距離画像撮像装置。
【請求項3】
前記ルックアップテーブルは、前記光パルスの形状、前記光パルスの照射時間、前記電荷蓄積部のそれぞれに電荷を蓄積させる蓄積時間のうち、少なくともいずれかの測定条件に応じて作成され、
前記距離画像処理部は、前記測定条件に対応する前記ルックアップテーブルを用いて、前記反射光がシングルパスにて前記画素に受光されたか、前記反射光がマルチパスにて前記画素に受光されたかを判定する、
請求項2に記載の距離画像撮像装置。
【請求項4】
前記特徴量は、前記三つ以上の電荷蓄積部のそれぞれに蓄積された電荷のうち、少なくとも前記反射光に応じた電荷が蓄積される電荷蓄積部に蓄積された電荷量を用いて算出される値である、
請求項1から請求項3のいずれか一項に記載の距離画像撮像装置。
【請求項5】
前記画素には、第1電荷蓄積部、第2電荷蓄積部、及び第3電荷蓄積部が設けられ、
前記距離画像処理部は、前記第1電荷蓄積部、前記第2電荷蓄積部、又は前記第3電荷蓄積部の少なくともいずれかに前記反射光に応じた電荷が蓄積されるタイミングにて、前記第1電荷蓄積部、前記第2電荷蓄積部、前記第3電荷蓄積部の順に電荷を蓄積させ、
前記特徴量は、前記第1電荷蓄積部、前記第2電荷蓄積部、及び前記第3電荷蓄積部のそれぞれの蓄積電荷量を変数とする複素数である、
請求項1から請求項4のいずれか一項に記載の距離画像撮像装置。
【請求項6】
前記特徴量は、前記第1電荷蓄積部に蓄積された第1電荷量と前記第2電荷蓄積部に蓄積された第2電荷量との差分である第1変数を実部とし、前記第2電荷蓄積部に蓄積された第2電荷量と前記第3電荷蓄積部に蓄積された第3電荷量との差分である第2変数を虚部とする複素数で表される値である、
請求項5に記載の距離画像撮像装置。
【請求項7】
前記複数の測定では、前記蓄積タイミングに対して前記照射タイミングを相対的に遅らせる遅延時間が互いに異なる時間となるように制御される、
請求項1から請求項6のいずれか一項に記載の距離画像撮像装置。
【請求項8】
前記距離画像処理部は、前記反射光がシングルパスで前記画素に受光された場合における、前記相対的なタイミング関係と前記特徴量とが対応付けられたルックアップテーブルを用いて、前記ルックアップテーブルの傾向と、前記複数の測定のそれぞれの前記特徴量の傾向との類似度合いを示す指標値を算出し、前記指標値が閾値を超えない場合に前記反射光がシングルパスにて前記画素に受光されたと判定し、前記指標値が前記閾値を超える場合に前記反射光がマルチパスにて前記画素に受光されたと判定し、
前記指標値は、前記複数の測定のそれぞれから算出される前記特徴量である第1特徴量と、前記ルックアップテーブルにおいて前記複数の測定のそれぞれに対応する前記特徴量である第2特徴量との差分を、前記第2特徴量の絶対値で正規化した差分正規化値について、前記複数の測定のそれぞれの前記差分正規化値を加算した加算値である、
請求項1から請求項7のいずれか一項に記載の距離画像撮像装置。
【請求項9】
前記距離画像処理部は、前記反射光がマルチパスで前記画素に受光されたと判定した場合、マルチパスに含まれる光の経路のそれぞれに対応する距離を、最小二乗法を用いることにより算出する、
請求項1から請求項8のいずれか一項に記載の距離画像撮像装置。
【請求項10】
前記光電変換素子によって発生された電荷を排出する電荷排出部を更に備え、
前記距離画像処理部は、1フレーム期間において、前記光パルスの照射に同期させたタイミングで前記画素における前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる単位蓄積処理を、複数回繰り返すことによって、前記電荷蓄積部のそれぞれに電荷を蓄積させ、前記単位蓄積処理において前記電荷蓄積部のそれぞれに電荷を蓄積させる時間区間とは異なる時間区間では、前記光電変換素子によって発生された電荷が前記電荷排出部によって排出されるように制御する、
請求項1から請求項9のいずれか一項に記載の距離画像撮像装置。
【請求項11】
前記距離画像処理部は、前記複数の測定のうち最初の測定に基づいて前記被写体までの暫定距離を算出し、前記暫定距離に基づいて前記複数の測定のうち残りの測定に用いる遅延時間を決定し、
前記遅延時間は、前記蓄積タイミングに対して前記照射タイミングを相対的に遅らせる時間である、
請求項1から請求項10のいずれか一項に記載の距離画像撮像装置。
【請求項12】
前記距離画像処理部は、前記暫定距離を前記光パルスが進むのに要する時間、及び前記特徴量の傾向に基づいて、前記遅延時間を決定する、
請求項11に記載の距離画像撮像装置。
【請求項13】
前記距離画像処理部は、前記暫定距離が閾値を超える遠距離である場合、前記暫定距離が閾値を超えない短距離である場合と比較して、前記複数の測定のうち残りの測定における前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる蓄積回数を増加させる、
請求項11又は請求項12に記載の距離画像撮像装置。
【請求項14】
前記距離画像処理部は、前記反射光がシングルパスで前記画素に受光されたと判定した場合、前記複数の測定タイミングでの測定に基づいて前記被写体までの暫定距離をそれぞれ算出し、算出した暫定距離のそれぞれの代表値を、前記被写体までの距離と決定する、
請求項1から請求項13のいずれか一項に記載の距離画像撮像装置。
【請求項15】
測定対象の空間である測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子、及び電荷を蓄積する三つ以上の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させたタイミングで前記画素における前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記光パルスを照射する照射タイミングと前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる蓄積タイミングとを制御し、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を算出する距離画像処理部と、を備える距離画像撮像装置が行う距離画像撮像方法であって、
前記距離画像処理部は、
前記照射タイミングと前記蓄積タイミングとの相対的なタイミング関係が互いに異なる複数の測定を行い、
前記複数の測定のそれぞれにて蓄積された電荷量に基づく特徴量を抽出し、
前記抽出した特徴量の傾向に基づいて、前記光パルスの反射光がシングルパスにて前記画素に受光されたか、前記光パルスの反射光がマルチパスにて前記画素に受光されたかを判定し、
前記判定した結果に応じて前記測定空間に存在する被写体までの距離を算出する、
距離画像撮像方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、距離画像撮像装置、及び距離画像撮像方法に関する。
【背景技術】
【0002】
従来から、物体との距離を計測するための技術として、光パルスの飛行時間を測定する技術がある。このような技術は、タイム・オブ・フライト(Time of Flight、以下、TOFという)と呼ばれる。TOFでは、光の速度が既知であることを利用して物体との距離を算出する。TOFの技術を用いて、物体を含む二次元の画像における画素ごとの奥行き情報、つまり、物体に対する三次元の情報を得る距離画像撮像装置が実用化されている。距離画像撮像装置では、フォトダイオード(PD)を含む画素がシリコン基板に二次元の行列状に配置され、この画素面で光パルスが物体に反射した反射光を受光する。距離画像撮像装置では、それぞれの画素が受光した光量(電荷量)に基づいた光電変換信号を1つの画像分出力することによって、物体を含む二次元の画像と、この画像を構成するそれぞれの画素ごとの距離の情報を得る。例えば、特許文献1には、1つの画素に設けられた三個の電荷蓄積部に、受光した光に応じた電荷を順に振り分けて蓄積させることにより距離を計算する技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
このような距離画像撮像装置では、光パルスの光源と物体との間を直接往復した直接波(シングルパス)を画素が受光することを想定して距離を算出する演算式が定義されている。しかしながら、物体のコーナー部や、物体の表面が凹凸構造となっている部分などにおいて光パルスが多重反射し、直接波と間接波とが混在したマルチパスが受光される場合がある。このようなマルチパスを受光した場合に、シングルパスを受光したとみなして距離を算出してしまうと、測定距離に誤差が生じてしまうという問題があった。
【0005】
本発明は、上記の課題に基づいてなされたものであり、画素がシングルパスを受光したか、マルチパスを受光したかを判定することができる距離画像撮像装置、及び距離画像撮像方法を提供することを目的とする。さらに、画素がシングルパスを受光したと判定した場合は一つの反射体までの距離を算出すること、及び画素がマルチパスを受光したと判定した場合は複数の反射体の各々までの距離を算出することを目的とする。
【課題を解決するための手段】
【0006】
本発明の距離画像撮像装置は、測定対象の空間である測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子、及び電荷を蓄積する三つ以上の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させたタイミングで前記画素における前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記光パルスを照射する照射タイミングと前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる蓄積タイミングとを制御し、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を算出する距離画像処理部と、を備え、前記距離画像処理部は、前記照射タイミングと前記蓄積タイミングとの相対的なタイミング関係が互いに異なる複数の測定を行い、前記複数の測定のそれぞれにて蓄積された電荷量に基づく特徴量を抽出し、前記抽出した特徴量の傾向に基づいて、前記光パルスの反射光がシングルパスにて前記画素に受光されたか、前記光パルスの反射光がマルチパスにて前記画素に受光されたかを判定し、前記判定した結果に応じて前記測定空間に存在する被写体までの距離を算出する。
【0007】
本発明の距離画像撮像装置では、前記距離画像処理部は、前記反射光がシングルパスで前記画素に受光された場合における、前記相対的なタイミング関係と前記特徴量とが対応付けられたルックアップテーブルを用いて、前記ルックアップテーブルの傾向と、前記複数の測定のそれぞれの前記特徴量の傾向との類似度合いに基づいて、前記反射光がシングルパスにて前記画素に受光されたか、前記光パルスの反射光がマルチパスにて前記画素に受光されたかを判定する。
【0008】
本発明の距離画像撮像装置では、前記ルックアップテーブルは、前記光パルスの形状、前記光パルスの照射時間、前記電荷蓄積部のそれぞれに電荷を蓄積させる蓄積時間のうち、少なくともいずれかの測定条件に応じて作成され、前記距離画像処理部は、前記測定条件に対応する前記ルックアップテーブルを用いて、前記反射光がシングルパスにて前記画素に受光されたか、前記反射光がマルチパスにて前記画素に受光されたかを判定する。
【0009】
本発明の距離画像撮像装置では、前記特徴量は、前記三つ以上の電荷蓄積部のそれぞれに蓄積された電荷のうち、少なくとも前記反射光に応じた電荷が蓄積される電荷蓄積部に蓄積された電荷量を用いて算出される値である。
【0010】
本発明の距離画像撮像装置では、前記画素には、第1電荷蓄積部、第2電荷蓄積部、及び第3電荷蓄積部が設けられ、前記距離画像処理部は、前記第1電荷蓄積部、前記第2電荷蓄積部、又は前記第3電荷蓄積部の少なくともいずれかに前記反射光に応じた電荷が蓄積されるタイミングにて、前記第1電荷蓄積部、前記第2電荷蓄積部、前記第3電荷蓄積部の順に電荷を蓄積させ、前記特徴量は、前記第1電荷蓄積部、前記第2電荷蓄積部、前記第3電荷蓄積部の蓄積電荷量を変数とする複素函数(複素関数)である。例えば、前記特徴量は、前記第1電荷蓄積部に蓄積された第1電荷量と前記第2電荷蓄積部に蓄積された第2電荷量との差分である第1変数を実部とし、前記第2電荷蓄積部に蓄積された第2電荷量と前記第3電荷蓄積部に蓄積された第3電荷量との差分である第2変数を虚部とする複素数で表される値ある。
【0011】
本発明の距離画像撮像装置では、前記複数の測定では、前記蓄積タイミングに対して前記照射タイミングを相対的に遅らせる遅延時間が互いに異なる時間となるように制御される。
【0012】
本発明の距離画像撮像装置では、前記距離画像処理部は、前記反射光がシングルパスで前記画素に受光された場合における、前記相対的なタイミング関係と前記特徴量とが対応付けられたルックアップテーブルを用いて、前記ルックアップテーブルの傾向と、前記複数の測定のそれぞれの前記特徴量の傾向との類似度合いを示す指標値を算出し、前記指標値が閾値を超えない場合に前記反射光がシングルパスにて前記画素に受光されたと判定し、前記指標値が前記閾値を超える場合に前記反射光がマルチパスにて前記画素に受光されたと判定し、前記指標値は、前記複数の測定のそれぞれから算出される前記特徴量である第1特徴量と、前記ルックアップテーブルにおいて前記複数の測定のそれぞれに対応する前記特徴量である第2特徴量との差分を、前記第2特徴量の絶対値で正規化した差分正規化値について、前記複数の測定のそれぞれの前記差分正規化値を加算した加算値である。
【0013】
本発明の距離画像撮像装置では、前記距離画像処理部は、前記反射光がマルチパスで前記画素に受光されたと判定した場合、マルチパスに含まれる光の経路のそれぞれに対応する距離を、最小二乗法を用いることにより算出する。
【0014】
本発明の距離画像撮像装置では、前記光電変換素子によって発生された電荷を排出する電荷排出部を更に備え、前記距離画像処理部は、1フレーム期間において、前記光パルスの照射に同期させたタイミングで前記画素における前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる単位蓄積処理を、複数回繰り返すことによって、前記電荷蓄積部のそれぞれに電荷を蓄積させ、前記単位蓄積処理において前記電荷蓄積部のそれぞれに電荷を蓄積させる時間区間とは異なる時間区間では、前記光電変換素子によって発生された電荷が前記電荷排出部によって排出されるように制御する。
【0015】
本発明の距離画像撮像装置では、前記距離画像処理部は、前記複数の測定のうち最初の測定に基づいて前記被写体までの暫定距離を算出し、前記暫定距離に基づいて前記複数の測定のうち残りの測定に用いる遅延時間を決定し、前記遅延時間は、前記蓄積タイミングに対して前記照射タイミングを相対的に遅らせる時間である。
【0016】
本発明の距離画像撮像装置では、前記距離画像処理部は、前記暫定距離を前記光パルスが進むのに要する時間、及び前記特徴量の傾向に基づいて、前記遅延時間を決定する。
【0017】
本発明の距離画像撮像装置では、前記距離画像処理部は、前記暫定距離が閾値を超える遠距離である場合、前記暫定距離が閾値を超えない短距離である場合と比較して、前記複数の測定のうち残りの測定における前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる蓄積回数が増加するように、前記蓄積回数を決定する。
【0018】
本発明の距離画像撮像装置では、前記距離画像処理部は、前記反射光がシングルパスで前記画素に受光されたと判定した場合、前記複数の測定タイミングでの測定に基づいて前記被写体までの暫定距離をそれぞれ算出し、算出した暫定距離のそれぞれの代表値を、前記被写体までの距離と決定する。また、距離画像撮像装置では、前記距離画像処理部は、前記反射光がシングルパスで前記画素に受光されたと判定した場合、前記複数の測定タイミングでの測定に基づいて前記被写体までの暫定距離を最小二乗法に基づいてそれぞれ決定する。前記距離画像処理部は、前記反射光がマルチパスで前記画素に受光されたと判定した場合、前記複数の測定タイミングでの測定に基づいて前記被写体の各々の距離を最小二乗法に基づいて決定する。
【0019】
本発明の距離画像撮像方法は、測定対象の空間である測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子、及び電荷を蓄積する三つ以上の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させたタイミングで前記画素における前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記光パルスを照射する照射タイミングと前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる蓄積タイミングとを制御し、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を算出する距離画像処理部と、を備える距離画像撮像装置が行う距離画像撮像方法であって、前記距離画像処理部は、前記照射タイミングと前記蓄積タイミングとの相対的なタイミング関係が互いに異なる複数の測定を行い、前記複数の測定のそれぞれにて蓄積された電荷量に基づく特徴量を抽出し、前記抽出した特徴量の傾向に基づいて、前記光パルスの反射光がシングルパスにて前記画素に受光されたか、前記光パルスの反射光がマルチパスにて前記画素に受光されたかを判定し、前記判定した結果に応じて前記測定空間に存在する被写体までの距離を算出する。
【発明の効果】
【0020】
本発明によれば、画素がシングルパスを受光したか、マルチパスを受光したかを判定することができる。また、画素がシングルパスを受光したと判定した場合は一つの反射体までの距離を算出し、画素がマルチパスを受光したと判定した場合は複数の反射体の各々までの距離を算出することができる。
【図面の簡単な説明】
【0021】
【
図1】実施形態の距離画像撮像装置1の概略構成を示したブロック図である。
【
図2】実施形態の距離画像センサ32の概略構成を示したブロック図である。
【
図3】実施形態の画素321の構成の一例を示した回路図である。
【
図4】実施形態の画素321を駆動するタイミングを示すタイミングチャートである。
【
図6】実施形態の複素関数CP(φ)の例を示す図である。
【
図7】実施形態の複素関数CP(φ)の例を示す図である。
【
図8】実施形態の画素321を駆動するタイミングを示すタイミングチャートである。
【
図9】実施形態の距離画像処理部4が行う処理を説明する図である。
【
図10】実施形態の距離画像処理部4が行う処理を説明する図である。
【
図11】実施形態の距離画像処理部4が行う処理を説明する図である。
【
図12】実施形態の距離画像処理部4が行う処理を説明する図である。
【
図13】実施形態の距離画像撮像装置1が行う処理の流れを示すフローチャートである。
【
図14】実施形態の変形例に係る距離画像撮像装置1が行う処理の流れを示すフローチャートである。
【発明を実施するための形態】
【0022】
以下、実施形態の距離画像撮像装置を、図面を参照しながら説明する。
【0023】
(実施形態)
まず、実施形態について説明する。
図1は、本発明の実施形態の距離画像撮像装置の概略構成を示したブロック図である。
図1に示した構成の距離画像撮像装置1は、光源部2と、受光部3と、距離画像処理部4とを備える。
図1には、距離画像撮像装置1において距離を測定する対象物である被写体OBも併せて示している。
【0024】
光源部2は、距離画像処理部4からの制御に従って、距離画像撮像装置1において距離を測定する対象の被写体OBが存在する測定対象の空間に光パルスPOを照射する。光源部2は、例えば、垂直共振器面発光レーザー(VCSEL:Vertical Cavity Surface Emitting Laser)などの面発光型の半導体レーザーモジュールである。光源部2は、光源装置21と、拡散板22とを備える。
【0025】
光源装置21は、被写体OBに照射する光パルスPOとなる近赤外の波長帯域(例えば、波長が850nm~940nmの波長帯域)のレーザー光を発光する光源である。光源装置21は、例えば、半導体レーザー発光素子である。光源装置21は、タイミング制御部41からの制御に応じて、パルス状のレーザー光を発光する。
【0026】
拡散板22は、光源装置21が発光した近赤外の波長帯域のレーザー光を、被写体OBに照射する面の広さに拡散する光学部品である。拡散板22が拡散したパルス状のレーザー光が、光パルスPOとして出射され、被写体OBに照射される。
【0027】
受光部3は、距離画像撮像装置1において距離を測定する対象の被写体OBによって反射された光パルスPOの反射光RLを受光し、受光した反射光RLに応じた画素信号を出力する。受光部3は、レンズ31と、距離画像センサ32とを備える。
【0028】
レンズ31は、入射した反射光RLを距離画像センサ32に導く光学レンズである。レンズ31は、入射した反射光RLを距離画像センサ32側に出射して、距離画像センサ32の受光領域に備えた画素に受光(入射)させる。
【0029】
距離画像センサ32は、距離画像撮像装置1に用いられる撮像素子である。距離画像センサ32は、二次元の受光領域に複数の画素を備える。距離画像センサ32のそれぞれの画素の中に、1つの光電変換素子と、この1つの光電変換素子に対応する複数の電荷蓄積部と、それぞれの電荷蓄積部に電荷を振り分ける構成要素とが設けられる。つまり、画素は、複数の電荷蓄積部に電荷を振り分けて蓄積させる振り分け構成の撮像素子である。
【0030】
距離画像センサ32は、タイミング制御部41からの制御に応じて、光電変換素子が発生した電荷をそれぞれの電荷蓄積部に振り分ける。また、距離画像センサ32は、電荷蓄積部に振り分けられた電荷量に応じた画素信号を出力する。距離画像センサ32には、複数の画素が二次元の行列状に配置されており、それぞれの画素の対応する1フレーム分の画素信号を出力する。
【0031】
距離画像処理部4は、距離画像撮像装置1を制御し、被写体OBまでの距離を演算する。距離画像処理部4は、タイミング制御部41と、距離演算部42と、測定制御部43とを備える。
【0032】
タイミング制御部41は、測定制御部43の制御に応じて、測定に要する様々な制御信号を出力するタイミングを制御する。ここでの様々な制御信号とは、例えば、光パルスPOの照射を制御する信号、反射光RLを複数の電荷蓄積部に振り分ける信号、1フレームあたりの振り分け回数(蓄積回数)を制御する信号などである。振り分け回数(蓄積回数)とは、電荷蓄積部CS(
図3参照)に電荷を振り分ける処理を繰返す回数である。この振り分け回数と、電荷を振り分ける処理1回あたりに各電荷蓄積部に電荷を蓄積させる時間(後述する蓄積時間Ta)の積が露光時間となる。
【0033】
距離演算部42は、距離画像センサ32から出力された画素信号に基づいて、被写体OBまでの距離を演算した距離情報を出力する。距離演算部42は、複数の電荷蓄積部に蓄積された電荷量に基づいて、光パルスPOを照射してから反射光RLを受光するまでの遅延時間Td(
図4参照)を算出する。距離演算部42は、算出した遅延時間Tdに応じて被写体OBまでの距離を演算する。
【0034】
測定制御部43は、タイミング制御部41を制御する。例えば、測定制御部43は、1フレームの振り分け回数及び蓄積時間Ta(
図4参照)を設定し、設定した内容で撮像が行われるようにタイミング制御部41を制御する。
【0035】
このような構成によって、距離画像撮像装置1では、光源部2が被写体OBに照射した近赤外の波長帯域の光パルスPOが被写体OBによって反射された反射光RLを受光部3が受光し、距離画像処理部4が、被写体OBとの距離を測定した距離情報を出力する。
【0036】
なお、
図1においては、距離画像処理部4を内部に備えた構成の距離画像撮像装置1を示しているが、距離画像処理部4は、距離画像撮像装置1の外部に備える構成要素であってもよい。
【0037】
次に、距離画像撮像装置1において撮像素子として用いられる距離画像センサ32の構成について説明する。
図2は、本発明の第1の実施形態の距離画像撮像装置1に用いられる撮像素子(距離画像センサ32)の概略構成を示したブロック図である。
【0038】
図2に示すように、距離画像センサ32は、例えば、複数の画素321が配置された受光領域320と、制御回路322と、振り分け動作を有した垂直走査回路323と、水平走査回路324と、画素信号処理回路325とを備える。
【0039】
受光領域320は、複数の画素321が配置された領域であって、
図2では、8行8列に二次元の行列状に配置された例を示している。画素321は、受光した光量に相当する電荷を蓄積する。制御回路322は、距離画像センサ32を統括的に制御する。制御回路322は、例えば、距離画像処理部4のタイミング制御部41からの指示に応じて、距離画像センサ32の構成要素の動作を制御する。なお、距離画像センサ32に備えた構成要素の制御は、タイミング制御部41が直接行う構成であってもよく、この場合、制御回路322を省略することも可能である。
【0040】
垂直走査回路323は、制御回路322からの制御に応じて、受光領域320に配置された画素321を行ごとに制御する回路である。垂直走査回路323は、画素321の電荷蓄積部CSそれぞれに蓄積された電荷量に応じた電圧信号を画素信号処理回路325に出力させる。この場合、垂直走査回路323は、光電変換素子により変換された電荷を画素321の電荷蓄積部それぞれに振り分ける。つまり、垂直走査回路323は、「画素駆動回路」の一例である。
【0041】
画素信号処理回路325は、制御回路322からの制御に応じて、それぞれの列の画素321から対応する垂直信号線に出力された電圧信号に対して、予め定めた信号処理(例えば、ノイズ抑圧処理やA/D変換処理など)を行う回路である。
【0042】
水平走査回路324は、制御回路322からの制御に応じて、画素信号処理回路325から出力される信号を、水平信号線に順次出力させる回路である。これにより、1フレーム分蓄積された電荷量に相当する画素信号が、水平信号線を経由して距離画像処理部4に順次出力される。
【0043】
以下では、画素信号処理回路325がA/D変換処理を行い、画素信号がデジタル信号であるものとして説明する。
【0044】
ここで、距離画像センサ32に備える受光領域320内に配置された画素321の構成について説明する。
図3は、第1の実施形態の距離画像センサ32の受光領域320内に配置された画素321の構成の一例を示した回路図である。
図3には、受光領域320内に配置された複数の画素321のうち、1つの画素321の構成の一例を示している。画素321は、3つの画素信号読み出し部を備えた構成の一例である。
【0045】
画素321は、1つの光電変換素子PDと、ドレインゲートトランジスタGDと、対応する出力端子OUTから電圧信号を出力する3つの画素信号読み出し部RUとを備える。画素信号読み出し部RUのそれぞれは、読み出しゲートトランジスタGと、フローティングディフュージョンFDと、電荷蓄積容量Cと、リセットゲートトランジスタRTと、ソースフォロアゲートトランジスタSFと、選択ゲートトランジスタSLとを備える。それぞれの画素信号読み出し部RUでは、フローティングディフュージョンFDと電荷蓄積容量Cとによって電荷蓄積部CSが構成されている。
【0046】
なお、
図3においては、3つの画素信号読み出し部RUの符号「RU」の後に、「1」、「2」または「3」の数字を付与することによって、それぞれの画素信号読み出し部RUを区別する。また、同様に、3つの画素信号読み出し部RUに備えたそれぞれの構成要素も、それぞれの画素信号読み出し部RUを表す数字を符号の後に示すことによって、それぞれの構成要素が対応する画素信号読み出し部RUを区別して表す。
【0047】
図3に示した画素321において、出力端子OUT1から電圧信号を出力する画素信号読み出し部RU1は、読み出しゲートトランジスタG1と、フローティングディフュージョンFD1と、電荷蓄積容量C1と、リセットゲートトランジスタRT1と、ソースフォロアゲートトランジスタSF1と、選択ゲートトランジスタSL1とを備える。画素信号読み出し部RU1では、フローティングディフュージョンFD1と電荷蓄積容量C1とによって電荷蓄積部CS1が構成されている。画素信号読み出し部RU2および画素信号読み出し部RU3も同様の構成である。電荷蓄積部CS1は「第1電荷蓄積部」の一例である。電荷蓄積部CS2は「第2電荷蓄積部」の一例である。電荷蓄積部CS3は「第3電荷蓄積部」の一例である。
【0048】
光電変換素子PDは、入射した光を光電変換して電荷を発生させ、発生させた電荷を蓄積する埋め込み型のフォトダイオードである。光電変換素子PDの構造は任意であってよい。光電変換素子PDは、例えば、P型半導体とN型半導体とを接合した構造のPNフォトダイオードであってもよいし、P型半導体とN型半導体との間にI型半導体を挟んだ構造のPINフォトダイオードであってもよい。また、光電変換素子PDは、フォトダイオードに限定されるものではなく、例えば、フォトゲート方式の光電変換素子であってもよい。
【0049】
画素321では、光電変換素子PDが入射した光を光電変換して発生させた電荷を3つの電荷蓄積部CSのそれぞれに振り分け、振り分けられた電荷の電荷量に応じたそれぞれの電圧信号を、画素信号処理回路325に出力する。
【0050】
距離画像センサ32に配置される画素の構成は、
図3に示したような、3つの画素信号読み出し部RUを備えた構成に限定されるものではなく、複数の画素信号読み出し部RUを備えた構成の画素であればよい。つまり、距離画像センサ32に配置される画素に備える画素信号読み出し部RU(電荷蓄積部CS)の数は、4つ以上であってもよい。
【0051】
また、
図3に示した構成の画素321では、電荷蓄積部CSを、フローティングディフュージョンFDと電荷蓄積容量Cとによって構成する一例を示した。しかし、電荷蓄積部CSは、少なくともフローティングディフュージョンFDによって構成されればよく、画素321が電荷蓄積容量Cを備えない構成であってもよい。
【0052】
また、
図3に示した構成の画素321では、ドレインゲートトランジスタGDを備える構成の一例を示したが、光電変換素子PDに蓄積されている(残っている)電荷を破棄する必要がない場合には、ドレインゲートトランジスタGDを備えない構成であってもよい。
【0053】
次に、実施形態の画素321の駆動タイミングについて
図4を用いて説明する。
図4は、実施形態の画素321を駆動するタイミングを示すタイミングチャートである。
図4には、光パルスPOが照射されてから遅延時間Td経過後に反射光を受光する画素のタイミングチャートが示されている。
【0054】
図4では、光パルスPOを照射するタイミングを「L」、反射光が受光されるタイミングを「R」、駆動信号TX1のタイミングを「G1」、駆動信号TX2のタイミングを「G2」、駆動信号TX3のタイミングを「G3」、駆動信号RSTDのタイミングを「GD」、の項目名でそれぞれ示している。なお、駆動信号TX1は、読み出しゲートトランジスタG1を駆動させる信号である。駆動信号TX2、TX3についても同様である。
【0055】
図4に示すように、光パルスPOが照射時間Toで照射され、遅延時間Td遅れて反射光RLが距離画像センサ32に受光されるとする。垂直走査回路323は、光パルスPOの照射に同期させて、電荷蓄積部CS1、CS2、及びCS3の順に、電荷を蓄積させる。
図4では、1回の振り分け処理において、光パルスPOを照射して電荷蓄積部CSに順に電荷を蓄積させるまでの時間を単位蓄積時間UTと表している。
【0056】
図4に示すように、垂直走査回路323は、光パルスPOを照射させるタイミングに同期させて、ドレインゲートトランジスタGDをオフ状態にするとともに、読み出しゲートトランジスタG1をオン状態とする。垂直走査回路323は、読み出しゲートトランジスタG1をオン状態としてから蓄積時間Taが経過した後に、読み出しゲートトランジスタG1をオフ状態にする。これにより、読み出しゲートトランジスタG1がオン状態に制御されている間に光電変換素子PDにより光電変換された電荷は、読み出しゲートトランジスタG1を介して電荷蓄積部CS1に蓄積される。
【0057】
次に、垂直走査回路323は、読み出しゲートトランジスタG1をオフ状態としたタイミングで、読み出しゲートトランジスタG2を蓄積時間Taオン状態にする。これにより、読み出しゲートトランジスタG2がオン状態に制御されている間に光電変換素子PDにより光電変換された電荷は、読み出しゲートトランジスタG2を介して電荷蓄積部CS2に蓄積される。
【0058】
次に、垂直走査回路323は、電荷蓄積部CS2への電荷の蓄積を終了させたタイミングで、読み出しゲートトランジスタG3をオン状態にし、蓄積時間Taが経過した後に、読み出しゲートトランジスタG3をオフ状態にする。これにより、読み出しゲートトランジスタG3がオン状態に制御されている間に光電変換素子PDにより光電変換された電荷は、読み出しゲートトランジスタG3を介して電荷蓄積部CS3に蓄積される。
【0059】
次に、垂直走査回路323は、電荷蓄積部CS3への電荷の蓄積を終了させたタイミングで、ドレインゲートトランジスタGDをオン状態にして電荷の排出を行う。これにより、光電変換素子PDにより光電変換された電荷はドレインゲートトランジスタGDを介して破棄される。
【0060】
このように、本実施形態では、単位蓄積時間UTにおいて電荷蓄積部CSに電荷を蓄積させる時間区間以外のタイミングにて光電変換された電荷を蓄積することがないように制御する。これは、本実施形態において光パルスPOを断続的に照射する、所謂ショートパルス方式(以下、SP方式という)であるためである。SP方式においては、単位蓄積時間UTにおいて、反射光RLを受光することが想定されていない時間区間にはドレインゲートトランジスタGDをオン状態にして電荷の排出を行う。これにより、光パルスPOの反射光RLを受光することが想定されていない時間区間において、外光成分に応じた電荷が蓄積され続けることを回避する。
【0061】
一方、光パルスPOが連続的に照射される、所謂コンティニアスウェイブ方式(以下、CW方式という)では、単位蓄積時間UTにおいて電荷を電荷蓄積部CSに蓄積させる度に電荷の排出を行うことはない。これは、CW方式においては、常時、反射光RLを受光していることから、反射光RLを受光することが想定されていない時間区間が存在しないためである。CW方式においては、1フレームにおいて単位蓄積時間UTを複数回繰り返す処理が実行されている時間区間においては、光電変換素子PDに接続されたリセットゲートトランジスタなどの電荷排出部はオフ状態に制御され、電荷の排出を行わない。そして、1フレームにおいて読出時間RDが到来すると、電荷蓄積部CSのそれぞれに蓄積された電荷量を読み出した後、リセットゲートトランジスタなどの電荷排出部がオン状態に制御され、電荷の排出が行われる。また、上記の説明では、光電変換素子PDに電荷排出部が接続された機構を例に説明したがこれに限定されない。光電変換素子PDに電荷排出部が存在せず、フローティングディフュージョンFDに電荷排出部が接続されたリセットゲートトランジスタを用いる機構などであってもよい。
【0062】
本実施形態では、単位蓄積時間UTにおいて電荷蓄積部CSに電荷を蓄積させる時間区間とは異なる時間区間に光電変換された電荷が、ドレインゲートトランジスタGD(「電荷排出部」の一例)によって排出されるように制御する。これにより、電荷転送の遅延等に起因して電荷蓄積部CSに蓄積される電荷量に誤差が生じる場合があっても、CW方式のように単位蓄積時間UTごとに電荷を排出しない場合と比較して、その誤差を低減することが可能となる。
【0063】
本実施形態では、SP方式を採用していることから、距離画像撮像装置1の画素321がドレインゲートトランジスタGDを備える。これにより、CW方式により1フレームにおいて継続的に電荷を蓄積させる場合と比較して誤差を低減させることができるため、電荷量のSN比(信号成分に対する誤差の比率)を高めることが可能である。したがって、積算回数を増やしても誤差が積算され難いために、電荷蓄積部CSに蓄積される電荷量の精度を維持することができ、特徴量を精度よく算出することができる。
【0064】
垂直走査回路323は、上述したような駆動を、1フレームに渡って所定の振り分け回数分繰り返し行う。その後、垂直走査回路323は、それぞれの電荷蓄積部CSに振り分けられた電荷量に応じた電圧信号を出力する。具体的に、垂直走査回路323は、選択ゲートトランジスタSL1を所定時間オン状態にすることにより、画素信号読み出し部RU1を介して電荷蓄積部CS1に蓄積された電荷量に対応する電圧信号を出力端子OUT1から出力させる。同様に、垂直走査回路323は、順次、選択ゲートトランジスタSL2、SL3をオン状態とすることにより、電荷蓄積部CS2、CS3に蓄積された電荷量に対応する電圧信号を出力端子OUT2、OUT3から出力させる。そして、画素信号処理回路325、及び水平走査回路324を介して、電荷蓄積部CSのそれぞれに蓄積された、1フレーム分の電荷量に相当する電気信号が距離演算部42に出力される。
【0065】
なお、上記では、光源部2が読み出しゲートトランジスタG1がオン状態となったタイミングで、光パルスPOを照射する場合を例に説明した。しかしながらこれに限定されることはない。光パルスPOは、少なくとも測定対象にある物体からの反射光RLが、3つの電荷蓄積部CS1~CS3のいずれか2つに跨って受光されるようなタイミングで照射されればよい。例えば、読み出しゲートトランジスタG1がオン状態となった後に光パルスPOが照射されるようにしてもよい。また、上記では、光パルスPOを照射する照射時間Toが蓄積時間Taと同じ長さである場合を例に説明した。しかしながらこれに限定されることはない。照射時間Toと蓄積時間Taとが異なる時間間隔であってもよい。
【0066】
図4に示すような近距離受光画素においては、光パルスPOを照射するタイミングと、電荷蓄積部CSのそれぞれに電荷を蓄積させるタイミングとの関係から、電荷蓄積部CS1及びCS2に、反射光RL及び外光成分に相当する電荷量が振り分けられて保持される。また、電荷蓄積部CS3には背景光などの外光成分に相当する電荷量が保持される。電荷蓄積部CS1及びCS2に振り分けられる電荷量の配分(振り分け比率)は、光パルスPOが被写体OBに反射して距離画像撮像装置1に入射されるまでの遅延時間Tdに応じた比率となる。
【0067】
距離演算部42は、この原理を利用して、従来の近距離受光画素においては、以下の(1)式により、遅延時間Tdを算出する。なお、(1)式では、電荷蓄積部CS1及びCS2に蓄積される電荷量のうちの外光成分に相当する電荷量が電荷蓄積部CS3に蓄積された電荷量と同量であることを前提とする。
【0068】
Td=To×(Q2-Q3)/(Q1+Q2-2×Q3) …(1)
ただし、Toは光パルスPOが照射された期間
Q1は電荷蓄積部CS1に蓄積された電荷量
Q2は電荷蓄積部CS2に蓄積された電荷量
Q3は電荷蓄積部CS3に蓄積された電荷量
【0069】
距離演算部42は、近距離受光画素においては、(1)式で求めた遅延時間Tdに、光速(速度)を乗算させることにより、被写体OBまでの往復の距離を算出する。そして、距離演算部42は、上記で算出した往復の距離を1/2とすることにより、被写体OBまでの距離を求める。
【0070】
次に、
図5を用いて、実施形態のマルチパスについて説明する。
図5は、実施形態のマルチパスについて説明する図である。距離画像撮像装置1では、Lider(Light Detection and Ranging)などと比較して照射範囲の広い光源を使用する。このため、ある程度の範囲を有する空間を一度に測定できるメリットを有する一方で、マルチパスが発生し易いというデメリットを有している。
図5の例では、距離画像撮像装置1が測定空間Eに光パルスPOを照射し、直接波W1と、間接波W2との複数の反射波(マルチパス)を受光する様子が模式的に示されている。以下の説明では、マルチパスが2つの反射波により構成される場合を例示して説明する。しかしながらこれに限定されることはなく、マルチパスが3つ以上の反射波により構成されていてもよい。マルチパスが3つ以上の反射波により構成されている場合にも、以下に説明する方法を適用することが可能である。
【0071】
マルチパスを受光した場合、距離画像撮像装置1に受光される反射光の形状(時系列変化)はシングルパスのみを受光した場合とは異なるものとなる。
【0072】
例えば、シングルパスの場合、距離画像撮像装置1には、光パルスと同じ形状の反射光(直接波W1)が、遅延時間Td遅れて受光される。これに対し、マルチパスの場合、直接波に加え、さらに光パルスと同じ形状の反射光(間接波W2)が遅延時間Td+α遅れて受光される。ここでのαは、直接波W1に対して間接波W2が遅延する時間である。すなわち、マルチパスの場合、距離画像撮像装置1には、光パルスと同じ形状の光が複数、互いに時間差を有しながら加算された状態の反射光が受光される。
【0073】
つまり、マルチパスとシングルパスの場合とでは、異なる形状(時系列変化)の反射光が受光される。上述した(1)式は、遅延時間が、光パルスが光源と物体との間を直接往復するのに要した時間であることを前提とした数式である。すなわち、(1)式では距離画像撮像装置1がシングルパスを受光することを前提としている。このため、距離画像撮像装置1がマルチパスを受光したにもかかわらず、(1)式を用いて距離を算出してしまうと、算出された距離はどの反射体の位置とも対応しない非物理的な距離となってしまう。このため、例えば、算出した距離(測定距離)と実際の距離との差異が乖離してしまい、誤差が発生する要因となる。
【0074】
この対策として、本実施形態では、距離画像撮像装置1がシングルパスを受光したか、マルチパスを受光したかを判定し、判定結果に応じて距離を演算する。例えば、距離画像撮像装置1がシングルパスを受光した場合、単一の反射体を想定した関係式、例えば、(1)式を用いて距離を算出する。距離画像撮像装置1がマルチパスを受光した場合、(1)式を用いず別の手段で距離を算出する。これにより、算出された距離が、必ず、反射体が存在する位置に対応する距離となる、或いは、複数の位置に対応した物理的に妥当な距離とすることができ、測定距離に生じる誤差を低減させることが可能となる。
【0075】
ここで、距離画像撮像装置1がシングルパスを受光したか、マルチパスを受光したかを判定する判定方法について説明する。距離画像撮像装置1は、画素321が備える3つの電荷蓄積部CSのそれぞれに蓄積された電荷量に基づいて、その特徴量を抽出する。そして、抽出した特徴量の傾向に応じて、画素321がシングルパスを受光したか、マルチパスを受光したかを判定する。
【0076】
具体的に、距離画像処理部4は、電荷蓄積部CSのそれぞれに蓄積された電荷量に基づいて、以下の(2)式に示す複素変数CPを算出する。複素変数CPは「特徴量」の一例である。
【0077】
CP=(Q1-Q2)+j(Q2-Q3) …(2)
ただし、jは虚数単位
Q1は電荷蓄積部CS1に蓄積された電荷量
Q2は電荷蓄積部CS2に蓄積された電荷量
Q3は電荷蓄積部CS3に蓄積された電荷量
【0078】
また、距離画像処理部4は、(2)式に示す複素変数CPを、(3)式を用いて位相(2πfτA)の関数GFとして表す。ここでの位相(2πfτA)は光パルスPOの照射タイミングに対する遅延時間τAを、光パルスPOの周期(1/f=2To)に対する位相遅延で示すものである。(3)式では、距離LAにある被写体OBAからの反射光のみ、すなわちシングルパスが受光されたことを前提とする。関数GFは「特徴量」の一例である。
【0079】
CP=DA×GF(2πfτA) …(3)
ただし、DAは距離LAにある被写体OBAからの反射光の強度(定数)
τAは距離LAにある被写体OBAまで光が往復するのに要する時間
τA=2LA/c
cは光速
【0080】
(3)式において、位相0(ゼロ)~2πに対応する関数GFの値を求めることができれば、距離画像撮像装置1に受光され得る全てのシングルパスを規定することができる。そこで、距離画像処理部4は、(3)式に示す複素変数CPについて位相φの複素関数CP(φ)を定義し、(4)式のように表す。φは、(3)式における複素変数CPの位相を0(ゼロ)とした場合の位相変化量である。
【0081】
CP(φ)=DA×GF(2πfτA-φ) …(4)
ただし、DAは距離LAにある被写体OBAからの反射光の強度
τAは距離LAにある被写体OBAまで光が往復するのに要する時間
τA=2LA/c
cは光速
φは位相
【0082】
ここで複素関数CP(φ)のふるまい(位相の変化に伴う複素数の変化)について、
図6、
図7を用いて説明する。
図6、
図7は、実施形態の複素関数CP(φ)の例を示す図である。
図6の横軸は位相x、縦軸は関数GF(x)の値である。
図6において実線は複素関数CP(φ)の実部、点線は複素関数CP(φ)の虚部の値をそれぞれ示している。
図7には、
図6の関数GF(x)を複素平面に示した例が示されている。
図7の横軸は実軸、縦軸は虚軸を示している。
図6、及び
図7の関数GF(x)に、信号の強度に相当する定数(D
A)を乗じた値が複素関数CP(φ)となる。
【0083】
複素関数CP(φ)の変化は、光パルスPOの形状(時系列変化)に応じて決定される。
図6には、例えば、光パルスPOが矩形波である場合の複素関数CP(φ)において位相の変化に伴う軌跡が示されている。
【0084】
位相x=0(つまり、遅延時間Td=0)においては、電荷蓄積部CS1に反射光に応じた電荷の全てが蓄積され、電荷蓄積部CS2、CS3には反射光に応じた電荷が蓄積されない。このため、関数GF(x=0)の実部(Q1-Q2)が最大値maxとなり、虚部(Q2-Q3)が0(ゼロ)となる。maxは全反射光に応じた電荷量に相当する信号値である。位相x=π/2(つまり、遅延時間Td=照射時間To)においては、電荷蓄積部CS2に反射光に応じた電荷の全てが蓄積され、電荷蓄積部CS1、CS3には反射光に応じた電荷が蓄積されない。このため、関数GF(x=π/2)の実部(Q1-Q2)が最小値(-max)となり、虚部(Q2-Q3)が最大値maxとなる。位相x=π(つまり、遅延時間Td=照射時間To×2)においては、電荷蓄積部CS3に反射光に応じた電荷の全てが蓄積され、電荷蓄積部CS1、CS2には反射光に応じた電荷が蓄積されない。このため、関数GF(x=π)の実部(Q1-Q2)が0(ゼロ)となり、虚部(Q2-Q3)が最小値(-max)となる。
【0085】
図7に示すように、複素平面においては、位相x=0で関数GF(x=0)は座標(max、0)、位相x=π/2で関数GF(x=π/2)は座標(-max、max)、位相x=πで関数GF(x=π)は座標(0、-max)となる。
【0086】
距離画像処理部4は、
図6、
図7に示すような関数GF(x)のふるまい(位相の変化に伴う複素数の変化)の傾向に基づいて、画素321がシングルパスを受光したか、マルチパスを受光したかを判定する。距離画像処理部4は、測定にて算出した複素関数CP(φ)変化の傾向が、シングルパスにおける関数GF(x)の変化の傾向と一致する場合、画素321がシングルパスを受光したと判定する。一方、距離画像処理部4は、測定にて算出した複素関数CP(φ)変化の傾向が、シングルパスにおける関数GF(x)の変化の傾向と一致しない場合、画素321がマルチパスを受光したと判定する。
【0087】
ここで、
図8を用いて、距離画像処理部4が、シングルパスを受光したか、マルチパスを受光したかを判定する具体的な方法について説明する。
図8に示すように、距離画像処理部4は、測定環境を変えて複数回(この図の例ではM回)の測定を行う。ここでMは2以上の任意の自然数である。
【0088】
距離画像処理部4は、まず特定の測定環境にて測定を行い、(3)式における複素変数CPを算出し、算出した複素変数CPを位相φ=0における複素関数CP(0)とする。次に、距離画像処理部4は、複素関数CP(0)に対応する測定環境において位相φだけ変化させた測定環境にて測定を行い、複素関数CP(φ)を算出する。
【0089】
具体的には、1回目の測定では、光パルスPOを照射する照射タイミングと電荷蓄積部CSのそれぞれに電荷を蓄積させる蓄積タイミングを同じタイミングとする。より具体的には、
図4と同様に、光パルスPOの照射開始と同時に電荷蓄積部CS1をオン状態とし、以降、順に電荷蓄積部CS2、CS3をオン状態として、電荷蓄積部CS1~CS3に電荷を蓄積させる。この図の例では、
図4と同様に測定空間に存在する被写体OBに反射した反射光が、照射タイミングから遅延時間Tdだけ遅れて画素321に受光されるものとする。距離画像処理部4は、1回目の測定にて、複素関数CP(0)を算出する。
【0090】
2回目の測定では、照射タイミングを蓄積タイミングに対して、照射遅延時間Dtm2遅らせる。より具体的には、2回目の測定では、電荷蓄積部CS1~CS3をオン状態とするタイミングを固定させたまま、光パルスPOの照射開始を照射遅延時間Dtm2だけ遅らせる。測定空間に存在する被写体OBの位置は1回目の測定と変更がない。このため、1回目の測定と同様に、被写体OBに反射した反射光が、照射タイミングから遅延時間Tdだけ遅れて画素321に受光される。2回目の測定では、蓄積タイミングに対して照射タイミングを照射遅延時間Dtm2だけ遅らせていることから、反射光は、見かけ上、照射タイミングから(遅延時間Td+照射遅延時間Dtm2)遅れて画素321に受光される。距離画像処理部4は、2回目の測定に基づいて、複素関数CP(φ1)を算出する。位相φ1は、照射遅延時間Dtm2に相当する位相(2πf×Dtm2)である。fは光パルスPOの照射周波数(頻度)である。
【0091】
(M-1)回目の測定では、照射タイミングを蓄積タイミングに対して、照射遅延時間Dtm3遅らせる。より具体的には、(M-1)回目の測定では、電荷蓄積部CS1~CS3をオン状態とするタイミングを固定させたまま、光パルスPOの照射開始を照射遅延時間Dtm3だけ遅らせる。これにより、反射光が、照射タイミングから、見かけ上、(遅延時間Td+照射遅延時間Dtm3)遅れて画素321に受光される。距離画像処理部4は、(M-1)回目の測定に基づいて、複素関数CP(φ2)を算出する。位相φ2は、照射遅延時間Dtm3に相当する位相(2πf×Dtm3)である。
【0092】
M回目の測定では、照射タイミングを蓄積タイミングに対して、照射遅延時間Dtm4遅らせる。より具体的には、電荷蓄積部CS1~CS3をオン状態とするタイミングを固定させたまま、光パルスPOの照射開始を照射遅延時間Dtm4だけ遅らせる。これにより、反射光が、照射タイミングから、見かけ上、(遅延時間Td+照射遅延時間Dtm4)遅れて画素321に受光される。距離画像処理部4は、M回目の測定に基づいて、複素関数CP(φ3)を算出する。位相φ3は、照射遅延時間Dtm4に相当する位相(2πf×Dtm4)である。
【0093】
本実施形態では、距離画像処理部4は、このように測定タイミングを変更しながら複数回の測定を行い、測定毎の複素関数CPを算出する。この図の例では、距離画像処理部4は、1回目の測定にて照射遅延時間Dtm1(=0)とした測定を行い、複素関数CP(0)を算出する。距離画像処理部4は、2回目の測定にて照射遅延時間Dtm2とした測定を行い、複素関数CP(φ1)を算出する。距離画像処理部4は、(M-1)回目の測定にて照射遅延時間Dtm3とした測定を行い、複素関数CP(φ2)を算出する。距離画像処理部4は、M回目の測定にて照射遅延時間Dtm4とした測定を行い、複素関数CP(φ3)を算出する。
【0094】
ここで、
図9~
図12を用いて、距離画像処理部4が、シングルパスを受光したか、マルチパスを受光したかを判定する具体的な方法について説明する。
図9~
図12には、
図7同様に、横軸が実軸、縦軸が虚軸の複素平面に示されている。
【0095】
距離画像処理部4は、例えば、
図9に示すように、複素平面においてルックアップテーブルLUTと、実測点P1~P3をプロットする。ルックアップテーブルLUTは、画素321がシングルパスを受光した場合における関数GF(x)とその位相xとを対応づけた情報である。ルックアップテーブルLUTは、例えば、予め測定され、記憶部(不図示)に記憶されている。実測点P1~P3は測定により算出された複素関数CP(φ)の値である。距離画像処理部4は、
図9に示すように、ルックアップテーブルLUTの変化の傾向と、実測点P1~P3の変化の傾向が一致する場合に、測定において画素321がシングルパスを受光したと判定する。
【0096】
距離画像処理部4は、
図10に示すように、複素平面においてルックアップテーブルLUTと、実測点P1#~P3#をプロットする。ルックアップテーブルLUTは、
図9におけるルックアップテーブルLUTと同様である。実測点P1#~P3#は、
図9とは異なる測定空間における測定により算出された複素関数CP(φ)の値である。距離画像処理部4は、
図10に示すように、ルックアップテーブルLUTの変化の傾向と、実測点P1#~P3#の変化の傾向が一致しない場合に、測定において画素321がマルチパスを受光したと判定する。
【0097】
ここで、距離画像処理部4が、ルックアップテーブルLUTの傾向と、実測点P1~P3の傾向とが一致するか否かを判定(一致判定)する。ここで、距離画像処理部4が、スケール調整、及びSD指標を用いて、一致判定を行う方法について説明する。
【0098】
(スケール調整について)
ここで、距離画像処理部4は、必要に応じてスケール調整を行う。スケール調整とは、ルックアップテーブルLUTのスケール(複素数の絶対値)と、実測点Pのスケール(複素数の絶対値)とが同じ値となるように調整する処理である。式(4)に示すように、複素関数CP(φ)は、関数GF(x)に定数DAを乗算した値である。定数DAは、受光する反射光の光量に応じて決定される一定値である。すなわち、定数DAは、光パルスPOの照射時間、照射強度、及び1フレームあたりの振り分け回数などに応じて、測定毎に決定される値となる。このため、実測点Pは、ルックアップテーブルLUTの対応点と比較して、原点を基準として定数DAだけ拡大(或いは縮小)された座標となる。
【0099】
このような場合、距離画像処理部4は、ルックアップテーブルLUTの変化の傾向と、実測点P1~P3の変化の傾向が一致するか判定し易くするために、スケール調整を行う。
【0100】
距離画像処理部4は、
図11に示すように、実測点P1~P3のうちの特定の実測点P(例えば、実測点P1)を抽出する。距離画像処理部4は、抽出した実測点を、原点を基準として定数D倍した、スケール調整後の実測点Ps(例えば、実測点P1s)が、ルックアップテーブルLUT上の点となるようにスケール調整を行う。そして、距離画像処理部4は、残りの実測点P(例えば、実測点P2、P3)についても、同じ乗算値(定数D)を乗算した値を、スケール調整後の実測点Ps(例えば、実測点P2s、P3s)とする。
【0101】
なお、距離画像処理部4は、スケール調整を行わなくとも特定の実測点P(例えば、実測点P1)がルックアップテーブルLUT上の点となる場合にはスケール調整は不要である。この場合、距離画像処理部4は、スケール調整を省略することができる。
【0102】
(SD指標を用いた一致判定について)
ここで、
図12を用いて、SD指標を用いた一致判定について説明する。
図12の上側には複素平面を示しており、横軸が実軸、縦軸が虚軸を示している。
図12には、画素321がシングルパスを受光した場合における関数GF(x)を示すルックアップテーブルLUT、及びルックアップテーブルLUT上の点G(x0)、G(x0+Δφ)、G(x0+2Δφ)が示されている。また、
図12には、実測点として複素関数CP(0)、CP(1)、CP(2)が示されている。
【0103】
距離画像処理部4は、まず、測定により得られた複素関数CP(n)と始点を一致させた関数GG(n)を作成(定義)する。nは測定番号を示す自然数である。例えば、複数の測定のうち1回目の測定においては(n=0)、複数の測定のうち2回目の測定においては(n=1)、…、NN回目の測定においては(n=NN-1)となる。
【0104】
関数GG(x)は、測定により得られた複素関数CP(n)の始点と一致するように関数GF(x)の位相をシフトさせた関数である。例えば、距離画像処理部4は、式(5)に示すように、1回目の測定により得られた複素関数CP(n=0)に相当する位相量(x0)を初期位相とし、初期位相をシフトさせた関数GG(x)を作成する。式(5)におけるx0は初期位相、nは測定番号、Δφは測定毎の位相シフト量を示す。
【0105】
【0106】
距離画像処理部4は、次に、式(6)に示すように、複素関数CP(n)と関数GG(x)と差分を示す関数SD(n)を作成(定義)する。式(6)におけるnは測定番号を示す。
【0107】
【0108】
そして、距離画像処理部4は、式(7)に示すように、関数SD(n)を用いて、複素関数CP(n)と関数GG(x)とが類似する度合を示すSD指標を算出する。式(7)におけるnは測定番号、NNは測定回数を示す。なお、ここで定義したSD指標は、一例である。SD指標は、複素関数CP(n)と、関数GG(n)における複素平面上での解離度を、単一の実数に置換えたものであり、関数GF(x)の函数形などに応じて、函数形が調節可能であることは勿論である。SD指標は、少なくとも、複素関数CP(n)と、関数GG(n)における複素平面上での解離度を示す指標であればよく、任意に定義されてよい。
【0109】
【0110】
距離画像処理部4は、算出したSD指標を所定の閾値と比較する。距離画像処理部4は、SD指標が所定の閾値を超えない場合、画素321がシングルパスを受光したと判定する。一方、距離画像処理部4は、SD指標が所定の閾値を超える場合、画素321がマルチパスを受光したと判定する。
【0111】
ここで、距離画像処理部4が、判定結果に応じて測定距離を算出する方法について説明する。ここでの判定結果とは、シングルパスを受光したか、マルチパスを受光したかを判定した結果である。
【0112】
シングルパスを受光した場合、距離画像処理部4は、(8)式を用いて測定距離を算出する。(8)式におけるnは測定番号、x0は初期位相、nは測定番号、Δφは測定毎の位相シフト量を示す。なお、(8)式における内部距離は、画素321の構造などに応じて任意に設定されてよい。内部距離を特に考慮しない場合、内部距離=0とする。
【0113】
【0114】
或いは、距離画像処理部4は、画素321がシングルパスを受光したと判定した場合、(1)式に基づいて遅延時間Tdを算出し、算出した遅延時間Tdを用いて測定距離を算出するようにしてもよい。
【0115】
マルチパスを受光した場合、距離画像処理部4は、(9)式に示すように、測定により得られた複素関数CPを、複数(ここでは2つ)の経路から到来した反射光の和として表す。(9)式におけるDAは距離LAにある被写体OBAからの反射光の強度である。xAは距離LAにある被写体OBAまで光が往復するのに要する位相である。nは測定番号である。Δφは測定毎の位相シフト量を示す。DBは距離LBにある被写体OBBからの反射光の強度である。xBは距離LBにある被写体OBBまで光が往復するのに要する位相である。
【0116】
【0117】
距離画像処理部4は、(10)式に示す差分Jを最小にする{位相xA、xB、及び強度DA、DB}の組合せを決定する。差分Jは(9)式における複素関数CP(n)と関数Gとの差分の絶対値の二乗和に相当する。距離画像処理部4は、例えば、最小二乗法などを適用することにより、{位相xA、xB、及び強度DA、DB}の組合せを決定する。
【0118】
【0119】
なお、上記では、ルックアップテーブルLUTを用いて、シングルパスを受光したか、マルチパスを受光したかを判定する場合を例に説明した。しかしながらこれに限定されない。距離画像処理部4は、ルックアップテーブルLUTの代わりに、関数GF(x)を示す数式を用いてもよい。
【0120】
関数GF(x)を示す数式とは、例えば、位相の範囲に応じて定義される数式である。
図7の例であれば、位相xについて(0≦x≦2/π)の範囲において関数GF(x)は傾き(-1/2)、切片(max/2)の一次関数として定義される。また(2/π0<x≦π)の範囲において関数GF(x)は傾き(-2)、切片(-max)の一次関数として定義される。
【0121】
また、ルックアップテーブルLUTは、シングルパスのみが受光される環境で行った実際の測定結果に基づいて作成されたものであってもよいし、シミュレーション等による算出結果に基づいて作成されたものであってもよい。
【0122】
また、上記では、(2)式に示す複素変数CPを用いる場合を例示して説明したが、これに限定されることはない。複素変数CPは、少なくとも、反射光RLに応じた電荷量を蓄積する電荷蓄積部CSに蓄積された電荷量を用いて算出される変数であればよい。例えば、実部と虚部を入れ替えた複素変数CP2=(Q2-Q3)+j(Q1-Q2)であってもよいし、実部と虚部の組合せを変更した複素変数CP3=(Q1-Q3)+j(Q2-Q3)などであってもよい。
【0123】
また、上記では、
図8において、電荷蓄積部CSをオン状態とするタイミング(蓄積タイミング)を固定とし、光パルスPOを照射する照射タイミングを遅らせる場合を例示して説明したが、これに限定されることはない。複数の測定において、蓄積タイミングと照射タイミングが少なくとも相対的に変化すればよく、例えば、照射タイミングを固定し、蓄積タイミングを早めるようにしてもよいのは勿論である。また、上記では、関数SD(n)が(6)式で定義される場合を例に説明した。しかしながら、これに限定されることはない。関数SD(n)は、少なくとも、複素関数CP(n)と、関数GG(n)における複素平面上での差分を示す関数であればよく、任意に定義されてよい。
【0124】
ここで、
図13を用いて実施形態の距離画像撮像装置1が行う処理の流れを説明する。
図13は実施形態の距離画像撮像装置1が行う処理の流れを示すフローチャートである。このフローチャートの例では、NN(≧2)回の測定を行うことを前提とする。また、NN回の測定のそれぞれにおける照射遅延時間Dtmが予め決定されているものとする。
【0125】
(ステップS10)
距離画像処理部4は、照射遅延時間Dtmを設定し測定を行う。距離画像処理部4は、照射遅延時間Dtmを設定し、設定した測定タイミングにて1フレームに相当する振り分け回数の電荷蓄積を行い、電荷蓄積部CSのそれぞれに電荷を蓄積させる。
(ステップS11)
距離画像処理部4は、測定により得られた電荷蓄積部CSのそれぞれに蓄積された電荷量に基づき複素関数CP(n)を算出する。nは測定番号である。
(ステップS12)
距離画像処理部4は、NN回の測定が終了したか否かを判定する。NN回の測定が終了した場合にはステップS13に進み、NN回の測定が終了していない場合には、測定回数をインクリメントし(ステップS17)、ステップS10に戻り測定を繰り返す。
(ステップS13)
距離画像処理部4は、SD指標を算出する。距離画像処理部4は、測定から得られた複素関数CP(n)について、必要に応じてスケール調整を行う。距離画像処理部4は、スケール調整後の複素関数CP(n)を用いて、始点を一致させた関数GG(n)を作成する。距離画像処理部4は、作成した関数GG(n)とスケール調整後の複素関数CP(n)を用いて、差分の関数SD(n)を作成する。距離画像処理部4は、作成した関数SD(n)と関数GG(n)とを用いて、SD指標を算出する。
(ステップS14)
距離画像処理部4は、SD指標と所定の閾値とを比較する。距離画像処理部4は、SD指標が閾値を超えていない場合、ステップS15に進む。一方、距離画像処理部4は、SD指標が閾値を超えていない場合、ステップS16に進む。
(ステップS15)
距離画像処理部4は、画素321がシングルパスを受光したと判定し、そのシングルパスが往復した経路に相当する距離を測定距離として算出する。
(ステップS16)
距離画像処理部4は、画素321がマルチパスを受光したと判定し、そのマルチパスのそれぞれの経路に相当する距離を測定距離として、例えば最小二乗法を用いて算出する。
【0126】
以上説明したように、実施形態の距離画像撮像装置1は、光源部2と、受光部3と、距離画像処理部4とを備える。光源部2は、測定空間Eに光パルスPOを照射する。受光部3は、入射した光に応じた電荷を発生する光電変換素子PD、及び前記電荷を蓄積する複数の電荷蓄積部CSを具備する画素と、光パルスPOの照射に同期させた所定の蓄積タイミングで、電荷蓄積部CSのそれぞれに電荷を振り分けて蓄積させる垂直走査回路323(画素駆動回路)と、を有する。距離画像処理部4は、光パルスPOを照射する照射タイミングと電荷蓄積部CSのそれぞれに電荷を振り分けて蓄積させる蓄積タイミングとを制御する。距離画像処理部4は、電荷蓄積部CSのそれぞれに蓄積された電荷量に基づいて、測定空間Eに存在する被写体OBまでの距離を算出する。距離画像処理部4は、複数の測定を行う。複数の測定では、照射タイミングと蓄積タイミングとの相対的なタイミング関係が互いに異なる測定を行う。距離画像処理部4は、複数の測定のそれぞれから複素関数CP(n)を算出する。nは測定番号である。距離画像処理部4は、SD指標に基づいて、反射光RLがシングルパスにて画素321に受光されたか、反射光RLがマルチパスにて画素321に受光されたかを判定する。距離画像処理部4は、判定した結果に応じて測定空間Eに存在する被写体OBまでの距離を算出する。
【0127】
これにより、実施形態の距離画像撮像装置1は、画素321がシングルパスを受光したか、マルチパスを受光したかを判定することができる。複素変数CP、複素関数(φ)、複素関数CP(n)、関数GF(x)、関数GG(n)は「複数の測定のそれぞれにて蓄積された電荷量に基づく特徴量」の一例である。また、SD指標は「特徴量の傾向」の一例である。
【0128】
また、実施形態の距離画像撮像装置1では、ルックアップテーブルLUTを用いて判定を行うようにしてもよい。ルックアップテーブルLUTは、反射光RLがシングルパスで画素321に受光された場合における、位相(相対的なタイミング関係)と関数GF(x)(特徴量)とが対応付けられたテーブルである。距離画像処理部4は、ルックアップテーブルLUT上の点として実測点Pがプロットできる場合に反射光RLがシングルパスにて画素321に受光されたと判定する。すなわち、ルックアップテーブルRUTの傾向と、複数の測定のそれぞれの特徴量の傾向との類似度合いに基づいて、反射光RLがシングルパスにて画素321に受光されたか、反射光RLがマルチパスにて画素321に受光されたかを判定する。これにより、実施形態の距離画像撮像装置1では、ルックアップテーブルLUTと傾向を比較するという容易な方法で判定することができる。
【0129】
また、実施形態の距離画像撮像装置1では、ルックアップテーブルLUTは、光パルスPOの形状、光パルスPOの照射時間To、電荷蓄積部CSのそれぞれに電荷を蓄積させる蓄積時間Taのうち、少なくともいずれかの測定条件に応じて作成される。距離画像処理部4は、測定条件に対応するルックアップテーブルLUTを用いて、反射光RLがシングルパスにて画素321に受光されたか、反射光RLがマルチパスにて画素321に受光されたかを判定する。これにより、実施形態の距離画像撮像装置1では、測定条件に応じて適切なルックアップテーブルLUT選択することができ、精度よく判定することができる。
【0130】
また、実施形態の距離画像撮像装置1では、特徴量は、三つ以上の電荷蓄積部CSのそれぞれに蓄積された電荷のうち、少なくとも反射光RLに応じた電荷が蓄積される電荷蓄積部CSに蓄積された電荷量を用いて算出される値である。これにより、実施形態の距離画像撮像装置1では、反射光RLが受光される状況に応じて、反射光RLがシングルパスにて画素321に受光されたか、反射光RLがマルチパスにて画素321に受光されたかを判定することが可能となる。
【0131】
また、実施形態の距離画像撮像装置1では、特徴量は、複素変数CPである。これにより、実施形態の距離画像撮像装置1では、遅延時間Tdを位相の遅れとみなして複素変数CPのふるまいを観察することにより、反射光RLがシングルパスにて画素321に受光されたか、反射光RLがマルチパスにて画素321に受光されたかを判定することが可能となる。
【0132】
また、実施形態の距離画像撮像装置1では、距離画像処理部4は、反射光RLがマルチパスで画素321に受光されたと判定した場合、マルチパスに含まれる光の経路のそれぞれに対応する距離を、最小二乗法を適用することにより算出する。これにより、実施形態の距離画像撮像装置1では、マルチパスのそれぞれの経路について、最も確からしい経路を決定することができ、マルチパスのそれぞれに対応する距離を算出することが可能となる。
【0133】
(実施形態の変形例)
ここで、実施形態の変形例について説明する。本変形例では、複数の測定のうちの最初の測定の結果に応じて、残りの測定における照射遅延時間Dtimを決定する点において、上述した実施形態と相違する。
【0134】
図14を用いて、本変形例に係る距離画像撮像装置1が行う処理の流れを説明する。
図14は、実施形態の変形例に係る距離画像撮像装置1が行う処理の流れを示すフローチャートである。
図14のフローチャートにおけるステップS23~S30に示す処理は、
図13のフローチャートにおけるステップS10~S17に示す処理と同様であるためその説明を省略する。
【0135】
(ステップS20)
距離画像処理部4は、所定の照射遅延時間Dtim1にて最初の測定を行う。照射遅延時間Dtim1は、予め決定された値であり、例えば0(ゼロ)である。
(ステップS21)
距離画像処理部4は、最初の測定にて電荷蓄積部CSのそれぞれに蓄積された電荷量に基づいて暫定距離ZKを算出する。距離画像処理部4は、最初の測定において画素321がシングルパスを受光したとみなして、暫定距離ZKを算出する。距離画像処理部4は、画素321がシングルパスを受光したと判定した場合と同様な方法を用いて、暫定距離ZKを算出する。
(ステップS22)
距離画像処理部4は、暫定距離ZKを用いて、残りの測定に適用する照射遅延時間Dtim2~DtimNNを決定する。距離画像処理部4は、例えば、暫定距離ZKの近傍の距離が精度よく算出できるように、照射遅延時間Dtim2~DtimNNを決定する。
【0136】
例えば、距離画像処理部4は、暫定距離ZKに相当する位相がπ/4近傍である場合を考える。この場合、
図7の例に示すような関数GF(x)がx=2/πの近傍で切り替わる関数であれば、位相xが(0≦x≦π/2)に相当する照射遅延時間Dtimとする方が、シングルパスかマルチパスかを判定し易くなる。このため、距離画像処理部4は、残りの測定に適用する照射遅延時間Dtim2~DtimNNを(0≦x≦π/2)の範囲となるように決定する。
【0137】
例えば、距離画像処理部4は、暫定距離ZKに相当する位相が(π×3/4)近傍である場合を考える。この場合、
図7の例に示すような関数GF(x)がx=2/πの近傍で切り替わる関数であれば、位相xが(π/2<x≦π)に相当する照射遅延時間Dtimとする方が、シングルパスかマルチパスかを判定し易くなる。このため、距離画像処理部4は、残りの測定に適用する照射遅延時間Dtim2~DtimNNを(π/2<x≦π)の範囲となるように決定する。
【0138】
例えば、距離画像処理部4は、暫定距離ZKに相当する位相がπ/2近傍である場合を考える。この場合、
図7の例に示すような関数GF(x)がx=π/2の近傍で切り替わる関数であれば、位相xが(0≦x≦π/2)、或いは(π/2<x≦π)のいずれかに相当する照射遅延時間Dtimとする方が、シングルパスかマルチパスかを判定し易くなる。このため、距離画像処理部4は、残りの測定に適用する照射遅延時間Dtim2~DtimNNを(0≦x≦π/2)、或いは(π/2<x≦π)のいずれか一方の範囲となるように決定する。
【0139】
また、この場合において、距離画像処理部4は、照射遅延時間Dtimのみならず、残りの測定における振り分け回数を決定するようにしてもよい。例えば、距離画像処理部4は、暫定距離ZKが所定の距離より大きい遠距離である場合、暫定距離ZKが所定の距離より小さい近距離である場合と比較して、振り分け回数を増加させる。一般に、遠距離に存在する被写体OBから反射光が到来する場合、距離画像撮像装置1に到達する反射光RLの光量が減少する。このため、遠距離の場合に振り分け回数を増加させることで、1回の測定で蓄積する電荷量を増加させる。こうすることで、遠距離の場合であっても精度よく測定距離を算出することが可能となる。
【0140】
以上説明したように、実施形態の変形例に係る距離画像撮像装置1では、距離画像処理部4は、複数の測定のうち最初の測定に基づいて被写体OBまでの暫定距離ZKを算出する。距離画像処理部4は、暫定距離ZKに基づいて、複数の測定のうち残りの測定に用いる照射遅延時間Dtim(「遅延時間」の一例)を決定する。これにより、実施形態の変形例に係る距離画像撮像装置1では、測定空間Eに存在する被写体OBの状況に応じて、照射遅延時間Dtimを決定することができ、シングルパスかマルチパスかを精度よく判定することが可能となる。
【0141】
また、実施形態の変形例に係る距離画像撮像装置1では、距離画像処理部4は、暫定距離ZKを光パルスPOが進むのに要する時間(位相)、及び関数GF(x)の傾向に基づいて、照射遅延時間Dtimを決定するようにしてもよい。これにより、実施形態の変形例に係る距離画像撮像装置1では、関数GF(x)の傾向に基づいて、例えば、線形な範囲(0≦x≦π/2)或いは(π/2<x≦π)のいずれか一方の範囲に対応させて照射遅延時間Dtimを決定することができる。したがって、シングルパスかマルチパスかを精度よく判定することが可能となる。
【0142】
また、実施形態の変形例に係る距離画像撮像装置1では、距離画像処理部4は、暫定距離ZKが閾値を超える遠距離である場合、暫定距離ZKが閾値を超えない短距離である場合と比較して、複数の測定のうち残りの測定における、振り分け回数(「蓄積回数」の一例)を増加させる。これにより、実施形態の変形例に係る距離画像撮像装置1では、遠距離に被写体が存在する場合であっても精度よく距離を算出することが可能となる。
【0143】
なお、実施形態、及び実施形態の変形例に係る距離画像撮像装置1において、画素321がシングルパスを受光した場合、複数の測定から算出された測定距離の代表値を、その測定距離の算出結果として決定するようにしてもよい。これにより、1つの測定から算出された測定距離と比較して、精度よく測定距離を決定することが可能となる。
【0144】
また、実施形態の変形例において、距離画像処理部4は、最小二乗法を用いてマルチパスのそれぞれの距離を算出する際に、暫定距離ZKに基づいて、最適解の組合せを見つける範囲を絞るようにしてもよい。例えば、距離画像処理部4は、暫定距離ZKを中心として、暫定距離ZK±αの範囲に存在する被写体OBから反射した反射光がマルチパスとして受光されたとみなし、その範囲で最適解の組合せを見つけるように演算を行う。これにより、取り得る解の組合せ全ての誤差を算出する場合と比較して、限定された範囲にある解の組合せの誤差を算出することができるため、演算負荷を低減させることが可能である。
【0145】
なお、上述した実施形態では、画素321が三つの電荷蓄積部CS1~CS3を備える場合を例示して説明した。しかしながら、これに限定されることはない。画素321が四つ以上の電荷蓄積部CSを備える場合にも適用することができる。例えば、画素321が四つの電荷蓄積部CSを備える場合、一例として、以下の(11)式、(12)式に示すように複素変数CPを定義することが可能である。また、(11)式、(12)式に示す数式に限定されることはなく、電荷蓄積部CS1~CS4のそれぞれに蓄積された電荷量を、加算したり減算したりすることにより算出される値を、実部や虚部とする複素変数CPを定義することが可能である。
【0146】
CP=(Q1-Q3)+j(Q2-Q4) …(11)
CP={(Q1+Q2)-(Q3+Q4)}
+j{(Q2+Q3)-(Q4+Q1)} …(12)
ただし、jは虚数単位
Q1は電荷蓄積部CS1に蓄積された電荷量
Q2は電荷蓄積部CS2に蓄積された電荷量
Q3は電荷蓄積部CS3に蓄積された電荷量
Q4は電荷蓄積部CS4に蓄積された電荷量
【0147】
上述した実施形態における距離画像撮像装置1、距離画像処理部4の全部または一部をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、FPGA等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。
【0148】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【符号の説明】
【0149】
1…距離画像撮像装置
2…光源部
3…受光部
32…距離画像センサ
321…画素
323…垂直走査回路
4…距離画像処理部
41…タイミング制御部
42…距離演算部
43…測定制御部
CS…電荷蓄積部
PO…光パルス