IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ キヤノン株式会社の特許一覧

<>
  • 特許-光検出システム 図1
  • 特許-光検出システム 図2
  • 特許-光検出システム 図3
  • 特許-光検出システム 図4
  • 特許-光検出システム 図5
  • 特許-光検出システム 図6
  • 特許-光検出システム 図7
  • 特許-光検出システム 図8
  • 特許-光検出システム 図9
  • 特許-光検出システム 図10
  • 特許-光検出システム 図11
  • 特許-光検出システム 図12
  • 特許-光検出システム 図13
  • 特許-光検出システム 図14
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-22
(45)【発行日】2024-12-02
(54)【発明の名称】光検出システム
(51)【国際特許分類】
   G01N 21/49 20060101AFI20241125BHJP
【FI】
G01N21/49 Z
【請求項の数】 15
(21)【出願番号】P 2021059047
(22)【出願日】2021-03-31
(65)【公開番号】P2022021296
(43)【公開日】2022-02-02
【審査請求日】2024-02-15
(31)【優先権主張番号】P 2020124548
(32)【優先日】2020-07-21
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】100126240
【弁理士】
【氏名又は名称】阿部 琢磨
(74)【代理人】
【識別番号】100223941
【弁理士】
【氏名又は名称】高橋 佳子
(74)【代理人】
【識別番号】100159695
【弁理士】
【氏名又は名称】中辻 七朗
(74)【代理人】
【識別番号】100172476
【弁理士】
【氏名又は名称】冨田 一史
(74)【代理人】
【識別番号】100126974
【弁理士】
【氏名又は名称】大朋 靖尚
(72)【発明者】
【氏名】関根 寛
(72)【発明者】
【氏名】森本 和浩
【審査官】小野寺 麻美子
(56)【参考文献】
【文献】国際公開第2016/158856(WO,A1)
【文献】特開2014-186035(JP,A)
【文献】特開2019-192903(JP,A)
【文献】米国特許出願公開第2019/0331775(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G01N 21/00 - G01N 21/958
JSTPlus/JST7580/JSTChina(JDreamIII)
(57)【特許請求の範囲】
【請求項1】
光検出システムであって、
複数のダイオードが2次元平面に配された第1の光検出部と、
複数のダイオードが2次元平面に配された第2の光検出部と、
前記第1の光検出部と前記第2の光検出部で取得された、前記2次元平面の光量分布情報と、前記光量分布情報を取得した時間である時間情報とを有するデータを複数備えたデータセットに対して演算処理を行う演算処理部と、を有し、
前記演算処理部は、前記データセットから、観測対象である光の進行方向のベクトルのうち、前記第1の光検出部の前記2次元平面と直交する方向のベクトル成分と、前記第2の光検出部の前記2次元平面と直交する方向のベクトル成分と、を推定する推定部を有することを特徴とする光検出システム。
【請求項2】
前記第1の光検出部または前記第2の光検出部の前記2次元平面と直交する方向のベクトル成分の推定には、3次元の空間情報および時間情報から、前記第1の光検出部または前記第2の光検出部の上の2次元の空間情報及び時間情報を計算するモデルを用いることを特徴とする請求項1に記載の光検出システム。
【請求項3】
前記データセットと、前記モデルを用いて計算した前記第1の光検出部または前記第2の光検出部の上の2次元の空間情報および時間情報とをフィッティングすることにより、前記3次元の空間情報および時間情報を取得し、取得された前記3次元の空間情報および時間情報から、前記第1の光検出部または前記第2の光検出部の前記2次元平面と直交する方向のベクトル成分を推定することを特徴とする請求項2に記載の光検出システム。
【請求項4】
前記演算処理部は、前記フィッティングにより取得された前記3次元の空間情報および時間情報から、画像を構成する画像構成部を有することを特徴とする請求項3に記載の光検出システム。
【請求項5】
前記第1の光検出部から得られた情報の検出精度と、前記第2の光検出部から得られた情報の検出精度を判定することを特徴とする請求項1から4のいずれかに記載の光検出システム。
【請求項6】
光検出システムであって、
複数のダイオードが2次元平面に配された第1の光検出部と、
複数のダイオードが2次元平面に配された第2の光検出部と、
前記第1の光検出部と前記第2の光検出部で取得された、前記2次元平面の光量分布情報と、前記光量分布情報を取得した時間である時間情報とを有するデータを複数備えたデータセットに対して演算処理を行う演算処理部と、を有し、
前記演算処理部は、前記データセットに対して演算処理を行うことにより得られた光の進行方向の情報に基づいて、前記第1の光検出部から得られた情報の検出精度と、前記第2の光検出部から得られた情報の検出精度を取得することを特徴とする光検出システム。
【請求項7】
前記演算処理部は、前記第1の光検出部および前記第2の光検出部で取得された光の進行方向を解析する解析部を有することを特徴とする請求項1から6のいずれかに記載の光検出システム。
【請求項8】
前記演算処理部は、
前記第1の光検出部の前記2次元平面に対する法線方向の単位ベクトルと、
前記第2の光検出部の前記2次元平面に対する法線方向の単位ベクトルと、
前記第1の光検出部または前記第2の光検出部で取得された光の進行方向の単位ベクトルを用いて、前記検出精度を判定することを特徴とする請求項5または6に記載の光検出システム。
【請求項9】
前記第1の光検出部の前記2次元平面に対する法線方向の単位ベクトルと、前記光の進行方向の単位ベクトルとの内積と、
前記第2の光検出部の前記2次元平面に対する法線方向の単位ベクトルと、前記光の進行方向の単位ベクトルとの内積と、を比較することにより、前記検出精度を判定することを特徴とする請求項8に記載の光検出システム。
【請求項10】
前記第1の光検出部で取得された第1の進行方向の光の見かけの速度と、前記第2の光検出部で取得された前記第1の進行方向の光の見かけの速度に基づいて、前記検出精度を判定することを特徴とする請求項8に記載の光検出システム。
【請求項11】
前記検出精度に基づいて、前記第1の光検出部からの情報と、前記第2の光検出部からの情報を統合することを特徴とする請求項5または6に記載の光検出システム。
【請求項12】
前記ダイオードは、アバランシェダイオードであって、
前記第1の光検出部および前記第2の光検出部は、前記アバランシェダイオードの光検出の開始と終了を制御する制御部を有し、
第1のフレームは、光源の照射の開始時刻から、前記制御部により前記アバランシェダイオードの光検出の開始時刻までが第1の期間であり、
第2のフレームは、前記光源の照射の開始時刻から、前記制御部により前記アバランシェダイオードの光検出の開始時刻までが第2の期間であり、
前記第1の期間の長さと、前記第2の期間の長さが異なることを特徴とする請求項1から11のいずれかに記載の光検出システム。
【請求項13】
前記第1のフレームおよび前記第2のフレームは、前記光源の照射の開始と前記アバランシェダイオードの光検出の開始の動作が繰り返して行われることを特徴とする請求項12に記載の光検出システム。
【請求項14】
前記アバランシェダイオードに入射する光をカウントするカウンタを有し、
前記制御部は、前記アバランシェダイオードと前記カウンタとの間に設けられているスイッチ、または論理回路であることを特徴とする請求項12または13に記載の光検出システム。
【請求項15】
前記アバランシェダイオードに入射する光をカウントするカウンタを有し、
前記制御部は、前記カウンタの動作と非動作を切り替える信号を前記カウンタに入力することを特徴とする請求項12または13に記載の光検出システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、伝搬する光を撮像する光検出システムに関する。
【背景技術】
【0002】
アバランシェ増倍を起こすアバランシェダイオードを用いた光検出部において、受光部に到来する光子の数をデジタル的に計測し、その計数値をデジタル信号として画素から出力する光電変換素子が知られている。このような技術は、シングルフォトンアバランシェダイオード(SPAD:Single-photon avalanche diode)と呼ばれている。
【0003】
SPADは、ピコ秒オーダからナノ秒オーダの時間分解能を有するため、高速撮像技術の1つとして、有効である。非特許文献1では、2次元状に複数のアバランシェダイオードが配されたSPADカメラを用いて、光が伝搬する様子の撮影を行っている。具体的には、レーザ光源から出力されたパルスレーザ光は、複数のミラーで反射されるように構成されており、レーザ光が反射する領域を撮像可能とするように、SPADカメラが設けられる。レーザ光源からのパルスレーザ光は、SPADカメラの時間測定の参照クロックと同期されており、SPADカメラは、パルスレーザ光の散乱光を、1フレームあたり約0.7ナノ秒単位で検出する。SPADカメラでは2次元領域、すなわち、XY平面について散乱光を検出できるため、XY平面に配置されている各画素で検出された光の時間情報を複数回測定して統計処理すれば、レーザ光の伝搬により生じる散乱光の可視化が可能としている。また、各フレームを時系列的に表示すれば、散乱光の動画を表示することも可能としている。
【先行技術文献】
【非特許文献】
【0004】
【文献】Gariepy,G.et al.Single-photon sensitive light-in-flight imaging.Nat.Commun.6,6021(2015).
【発明の概要】
【発明が解決しようとする課題】
【0005】
非特許文献1に開示されている技術では、1つのSPADカメラしか設けられておらず、取得できる情報が少なかった。
【課題を解決するための手段】
【0006】
本発明の一側面は、光検出システムであって、複数のダイオードが2次元平面に配された第1の光検出部と、複数のダイオードが2次元平面に配された第2の光検出部と、前記第1の光検出部と前記第2の光検出部で取得された、前記2次元平面の光量分布情報と、前記光量分布情報を取得した時間である時間情報とを有するデータを複数備えたデータセットに対して演算処理を行う演算処理部と、を有し、前記演算処理部は、前記データセットから、観測対象である光の進行方向のベクトルのうち、前記第1の光検出部の前記2次元平面と直交する方向のベクトル成分と、前記第2の光検出部の前記2次元平面と直交する方向のベクトル成分と、を推定する推定部を有することを特徴とする。
【0007】
また、本発明の別の側面は、光検出システムであって、複数のダイオードが2次元平面に配された第1の光検出部と、複数のダイオードが2次元平面に配された第2の光検出部と、前記第1の光検出部と前記第2の光検出部で取得された、前記2次元平面の光量分布情報と、前記光量分布情報を取得した時間である時間情報とを有するデータを複数備えたデータセットに対して演算処理を行う演算処理部と、を有し、前記演算処理部は、前記データセットに対して演算処理を行うことにより得られた光の進行方向の情報に基づいて、前記第1の光検出部から得られた情報の検出精度と、前記第2の光検出部から得られた情報の検出精度を取得することを特徴とする。
【発明の効果】
【0008】
本発明によれば、非特許文献1と比較して、多くの情報を取得できる光検出システムを提供することができる。
【図面の簡単な説明】
【0009】
図1】実施形態に係る光検出システムのブロック図である。
図2】実施形態に係る光検出システムの概略図である。
図3】光速よりも遅い動体と光速で進むパルス光の違いを説明する図である。
図4】実施形態に係る光検出部の構成図である。
図5】実施形態に係る光検出部の駆動パルスを説明する図である。
図6】実施形態に係る演算処理部で行う処理を説明する図である。
図7】実施形態に係る進行方向解析部、空間情報推定部、画像構成部で行う処理を説明する図である。
図8】実施形態に係る進行方向解析部、空間情報推定部、画像構成部で行う処理を説明する図である。
図9】光検出部の配置を示す図である。
図10】撮像対象空間を示す図である。
図11】光検出部からの出力画像を示す図である。
図12】光検出部からの出力画像を示す図である。
図13】演算処理部で処理された後の出力画像を示す図である。
図14】光検出部の配置を示す図である。
【発明を実施するための形態】
【0010】
以下に示す形態は、本発明の技術思想を具体化するためのものであって、本発明を限定するものではない。各図面が示す部材の大きさや位置関係は、説明を明確にするために誇張していることがある。以下の説明において、同一の構成については同一の番号を付して説明を省略することがある。
【0011】
(全体的構成)
図1は、本実施形態に係る光検出システム100のブロック図である。また、図2は、光検出システム100の概略図である。
【0012】
光源112は、短パルスレーザを照射可能な光源である。たとえば、光源112としては、ピコ秒レーザを用いることができる。
【0013】
光検出部110(第1の光検出部)と光検出部111(第2の光検出部)は、光源112から照射されたパルスレーザ光により生じた散乱光を検出する装置である。光検出部110、111は、光源112から照射されたパルスレーザ光を検出してもよい。光検出部110、111は、2次元平面の方向、すなわち、XY方向に複数のSPAD画素が配置されたSPADアレイである。光を高速に検出できるのであれば、検出部110、111はSPADを用いなくてもよい。図2に示すように、例えば、光検出部110と光検出部111は、4次元イメージング対象空間を挟んで、対向して配置される。
【0014】
タイミング制御部116は、光検出部110と光検出部111による光検出タイミングと、光源112の照射タイミングを同期するために設けられている。ここで、「同期」とは、光源112の照射タイミングと光検出の開始タイミングとを同時にするのはもちろんのこと、両者のタイミングがずれており、そのずれがタイミング制御部116からの制御信号に基づくものである場合も含む。つまり、光源112の照射タイミングと、光検出部110、111の開始タイミングとが、タイミング制御部116からの共通の制御信号に基づいて制御されているものを「同期」という。
【0015】
演算処理部120は、光検出部110、111から入力された信号を処理する。演算処理部120は、進行方向解析部121、空間情報推定部(推定部)122、画像構成部123を有する。
【0016】
進行方向解析部121は、光検出部110、111から出力される複数フレームの2次元空間の光量分布情報から、パルスレーザ光の進行方向を解析する。すなわち、x(X方向の情報),y(Y方向の情報),t(時間情報)の情報から、撮像面(XY平面)における光の進行方向を求め、光の進行方向ごとに光跡をグルーピングする。
【0017】
空間情報推定部122は、進行方向解析部121により算出されたパルスレーザ光の進行方向ごとに、光の進行方向のうちZ方向成分の空間情報を推定する。すなわち、x,y,tの3次元情報からx,y,z,tの4次元情報を求める。具体的な推定方法については後述する。
【0018】
画像構成部123は、空間情報推定部122から入力された4次元情報から所定の次元の情報から所望の画像を構成し、表示部130に情報を出力する。例えば、x,y,z,tの4次元情報から、x,y,zの3次元情報を選択し、XYZ空間にパルスレーザ光の光跡を構成した情報を出力する。また、画像構成部123では、XYZ空間を座標変換して、所望の角度から光跡を視認できるように情報を処理する機能を有してもよい。画像構成部123は、x,y,z,tの4次元情報から、x,y,tの3次元情報のように、2つの空間情報と時間情報を表示する画像を構成し、表示部130に情報を出力してもよい。
【0019】
画像構成部123は、光検出部110(第1の光検出部)から取得された情報(第1の情報)と、光検出部111(第2の光検出部)から取得された情報(第2の情報)の精度を取得して、どちらが高精度かを判定する。
【0020】
例えば、光の進行方向が複数あり、第1の進行方向の光跡の撮像は、光検出部110で取得した情報(第1の情報)が、光検出部111で取得した情報(第2の情報)よりも精度が高い場合がある。また、第2の進行方向の光跡の撮像は、光検出部111で取得した情報(第2の情報)の方が、光検出部110で取得した情報(第1の情報)よりも精度が高い場合がある。この状況においては、第1の進行方向の光跡は、光検出部110で取得した情報(第1の情報)に基づいて画像を構成し、第2の進行方向の光跡は光検出部111で取得した情報(第2の情報)に基づいて画像を構成する。
【0021】
すなわち、画像構成部123は、高精度の情報を選択するとともに、高精度の情報を統合して画像を構成する。
【0022】
表示部130は、画像構成部123から入力された信号に基づいて、画像を表示する。ユーザの操作により、画像構成部123から出力される情報を選択し、表示部130に画像を表示してもよい。
【0023】
なお、図示していないが、演算処理部120には、演算中の情報あるいは演算結果の情報を格納するメモリを有している。
【0024】
ところで、後述するように、演算処理の一形態では、進行方向解析部121で、各グループの光跡に対して高精度の情報を取得可能な光検出部を、複数の光検出部から選択することが可能である。この場合、空間情報推定部122では、高精度の情報を取得可能な光検出部からの情報に基づいて演算を行う。例えば、上記例であれば、第1の進行方向の光跡は、光検出部110で取得した情報(第1の情報)に基づいて、Z方向成分の空間情報を取得し、光検出部111で取得した情報(第2の情報)を用いない。逆に、第2の進行方向の光跡は光検出部111で取得した情報(第2の情報)に基づいて、Z方向成分の空間情報を取得し、光検出部110で取得した情報(第1の情報)は用いない。画像構成部123では、空間情報推定部122で演算された第1の進行方向の光跡の4次元情報と、第2の進行方向の光跡の4次元情報を統合する。
【0025】
また、上記では、第1の進行方向の光跡と第2の進行方向の光跡という2つの進行方向の光跡の例を示しているが、精度が高いと判定された光検出部からの情報に基づいて、1つの進行方向を有する光跡の分析を行ってもよい。
【0026】
(見かけの速度)
以下、XY平面の空間情報と時間情報から、Z方向の空間情報を得るために用いる「見かけの速度」について説明する。
【0027】
図3は、光速よりも十分遅い動体の見かけの速度と、光速で進むパルス光との見かけの速度との違いを説明するための図である。
【0028】
図3(A)は、光速よりも十分遅い動体の例として、ボールが移動する例を示している。動体の進む方向と同じ方向に設けられているカメラC(θ=0°)と、動体の進む方向とは逆の方向に設けられているカメラA(θ=180°)と、動体の進む方向と直交する方向に設けられているカメラB(θ=90°)が示されている。
【0029】
図3(B)は、動体の位置(被写体位置)と、動体からの散乱光を各カメラが検出している時間(検出時間)との関係を示したものである。動体からの散乱光がカメラに到達する間に動体はほぼ動かないため、動体の位置によらず、カメラA、B、Cの検出時間は、一緒の傾向を示す。
【0030】
図3(C)は、動体の進む方向に対するカメラが設けられている角度θと、見かけの速度との関係を示したものである。見かけの速度は、検出時間あたりの動体の移動量となる。図3(B)から、検出時間あたりの動体の移動量は、一定であるため、見かけの速度も一定となる。図3(C)は、この関係を示したものである。すなわち、動体の見かけの速度は、各カメラに対する動体の進行方向によらず、一定となる。
【0031】
他方、図3(D)は、光速で進むパルス光の例を示している。図3(A)と同様に、パルス光の進む方向と同じ方向にカメラC(θ=0°)、パルス光の進む方向とは逆の方向にカメラA(θ=180°)、パルス光の進む方向と直交する方向にカメラB(θ=90°)がそれぞれ設けられている。
【0032】
図3(E)は、パルス光の位置(被写体位置)と、パルス光によって生じる散乱光が各カメラで検出されている時間(検出時間)との関係を示したものである。所定の位置で発生したパルス光の散乱光がカメラに到達する間に、散乱光を発生するパルス光自体も進むため、異なる位置に設けられているカメラA、B、Cの検出時間がそれぞれ異なることとなる。具体的には、カメラCでは、X1からX4において生じた散乱光は、同時に検出される。他方、カメラAでは、X1からX4において生じた散乱光は、X1、X2、X3、X4の順でカメラAに到達するため、各位置からの散乱光の検出時間は異なる。カメラBも、カメラAと同様に、X1からX4において生じた散乱光は、X1、X2、X3、X4の順でカメラAに到達するため、各位置からの散乱光の検出時間は異なる。但し、カメラAが設けられた位置と比較すると、カメラBが設けられた位置は、散乱光が発生する各地点からの距離がほぼ一定のため、各地点で発生する散乱光のカメラBの検出時間の間隔は、カメラAよりも短くなる。この結果、図3(E)に示すような関係となる。
【0033】
図3(F)は、パルス光の進む方向に対するカメラが設けられている角度θと、見かけの速度との関係を示したものである。図3(E)から、見かけの速度、すなわち、検出時間あたりの散乱光の移動量は、各カメラにおいて異なる。具体的には、カメラB(θ=90°)で検出される散乱光の見かけの速度は、カメラA(θ=180°)よりも大きくなる。また、カメラC(θ=0°)で検出される散乱光の見かけの速度は、無限大となる。図3(F)は、この関係を示したものである。すなわち、各カメラで観測されるパルス光の見かけの速度は、各カメラに対するパルス光の進行方向によって変化する。
【0034】
以上より、カメラにより観測される光の進行方向の速度を解析することにより、新たな次元の光の進行方向のベクトルを見積もることが可能となる。具体的には、カメラの光検出部で取得されたXY平面(2次元平面)の光量分布情報と、この光量分布情報を取得した時間である時間情報とを複数備えたデータセットから、Z方向(2次元平面と直交する方向)の情報を推定することが可能となる。これにより、3次元の時空間情報から4次元の時空間情報を取得することが可能となる。
【0035】
また、図3(F)により、光の進行方向に対するカメラの位置によって、見かけの速度は大きく異なる。例えば、カメラC(θ=0°)で検出される散乱光の見かけの速度は、無限大となるため、時間分解能が高い撮像技術を用いても、検出が困難となる。この結果、取得される3次元の時空間情報の精度が低くなり、推定されるZ方向の情報の精度も低くなる。他方、カメラA(θ=180°)で検出される散乱光の見かけの速度は、相対的に遅いため、高い精度の3次元の時空間情報を取得できる。この結果、推定されるZ方向の情報の精度も高くなる。このため、例えば、複数のカメラを用いて、光の進行方向ごとに、高精度の情報を取得できる方のカメラを選択し、選択された各情報を合成・統合することにより、精度の高い時空間情報を取得することが可能となる。
【0036】
(光検出部)
図4は、光検出部110を示したものである。画素領域には、SPAD画素103がXY方向において2次元状に複数配されている。
【0037】
1つのSPAD画素103は、光電変換部201(アバランシェダイオード)と、クエンチ素子202と、制御部210、カウンタ/メモリ211、読み出し部212を有する。
【0038】
光電変換部201のカソードにはアノードに供給される電位VLよりも高い電位VHに基づく電位が供給される。光電変換部201のアノードとカソードには、光電変換部201に入射したフォトンがアバランシェ増倍されるような逆バイアスがかかるように電位が供給される。このような逆バイアスの電位を供給した状態で光電変換することで、入射光によって生じた電荷がアバランシェ増倍を起こしアバランシェ電流が発生する。
【0039】
逆バイアスの電位が供給される場合において、アノードおよびカソードの電位差が降伏電圧より大きいときには、アバランシェダイオードはガイガーモード動作となる。ガイガーモード動作を用いて単一光子レベルの微弱信号を高速検出するアバランシェダイオードがSPAD(Single Photon Avalanche Diode)である。
【0040】
クエンチ素子202は、高い電位VHを供給する電源と光電変換部201に接続される。クエンチ素子202は、P型MOSトランジスタまたはPoly抵抗などの抵抗素子により構成される。また、クエンチ素子202は、直列の複数のMOSトランジスタにより構成されていてもよい。光電変換部201においてアバランシェ増倍により光電流が増倍されると、増倍した電荷によって得られる電流が、光電変換部201とクエンチ素子202との接続ノードに流れる。この電流による電圧降下により、光電変換部201のカソードの電位が下がり、光電変換部201は、電子なだれを形成しなくなる。これにより、光電変換部201のアバランシェ増倍が停止する。その後、電源の電位VHがクエンチ素子202を介して光電変換部201のカソードに供給されるため、光電変換部201のカソードに供給される電位が電位VHに戻る。つまり、光電変換部201の動作領域は再びガイガーモード動作となる。このように、クエンチ素子202は、アバランシェ増倍による電荷の増倍時に負荷回路(クエンチ回路)として機能し、アバランシェ増倍を抑制する働きを持つ(クエンチ動作)。また、クエンチ素子は、アバランシェ増倍を抑制した後に、アバランシェダイオードの動作領域を再びガイガーモードにする働きを持つ。
【0041】
制御部210は、光電変換部201からの出力信号をカウントするか否かを決定する。例えば、制御部210は光電変換部201とカウンタ/メモリ211との間に設けられたスイッチ(ゲート回路)である。スイッチのゲートは、パルス線114と接続されており、パルス線114に入力される信号に応じて、制御部のオンとオフが切り替えられる。例えば、図2において、水平走査回路部(不図示)からパルス線114に入力される信号は全列一括して制御される。これにより、全SPAD画素が一括して光検出の開始と終了が制御される。このような制御をグローバルシャッタ制御ということもある。
【0042】
また、制御部210は、スイッチではなく、論理回路で構成してもよい。例えば、論理回路として、AND回路を設け、AND回路の第1の入力を光電変換部201からの出力とし、第2の入力をパルス線114の信号とすれば、光電変換部201からの出力信号をカウントするか否かを切り替えることが可能となる。
【0043】
さらに、制御部210は、光電変換部201とカウンタ/メモリ211との間に設ける必要はなく、カウンタ/メモリ211のうち、カウンタの動作と非動作を切り替える信号を入力する回路であってもよい。
【0044】
カウンタ/メモリ211は、光電変換部201に入る光子の数をカウントして、デジタルデータとして保持する。リセット線213は各行に対応して設けられており、垂直走査回路部(不図示)からリセット線213に制御パルスが供給されたとき、保持されていた信号がリセットされる。
【0045】
読み出し部212は、カウンタ/メモリ211と読み出し信号線113に接続されている。読み出し部212には、垂直走査回路部(不図示)から、制御線を介して制御パルスが供給され、カウンタ/メモリ211のカウント値を読み出し信号線113に出力するか否かを切り替える。読み出し部212は、例えば、信号を出力するためのバッファ回路などを含む。
【0046】
読み出し信号線113は、光検出部110から演算処理部120に出力する信号線であっても、光検出部110内に設けられている信号処理部に出力する信号線であってもよい。また、水平走査回路部(不図示)と垂直走査回路部(不図示)は、SPADアレイが設けられている基板に設けてもよいし、SPADアレイが設けられている基板とは異なる基板に設けてもよい。
【0047】
また、上記では、カウンタを用いる構成を示したが、カウンタの代わりに、時間・デジタル変換回路(TDC:Time to Digital Converter)を設けて、パルス検出タイミングを取得してメモリに情報を保持してもよい。
【0048】
(タイミングチャート)
図5には、光源112からのパルスレーザ光を発光するタイミング、パルスレーザ光が物体(例えば、水蒸気や塵)に照射され、パルスレーザ光の散乱光が光検出部110に到達するタイミングが示されている。また、図5には、光検出部110で光検出(光量カウント)するタイミングが示されている。
【0049】
第1フレームでは、時刻t11(t12)が、光照射の開始時刻と光検出の開始時刻であり、時刻t13が光検出の終了時刻である。図5に示す第1フレームでは、散乱光が光検出部110に到達する時刻には、光検出部110は光検出しておらず、散乱光は検出されていない。第1フレームで、光検出部110が複数回光検出しているのは、XY平面の光量分布を取得するためである。各フレーム内で複数回の光検出が終了すると、メモリに格納されている値が読み出される。
【0050】
ところで、図4に示すように、光検出部110には、アレイ状に複数のSPAD画素が配されており、各行に配されている複数のSPAD画素の光検出開始のタイミングは、全画素一括で制御される。すなわち、SPADの全画素において、図5に示す発光光のタイミングと、カウント期間のタイミングは同じである。
【0051】
第2フレームでは、時刻t21に発光光が照射され、時刻t22に光検出が開始され、時刻t23に光検出が終了する。第1フレームと比較して、第2フレームは、発光光が照射される時刻から光検出が開始される時刻までの期間が長くなっている。図5に示す第2フレームでは、散乱光が光検出部110に到達する時刻に、光検出部110は光検出しており、散乱光が検出される。
【0052】
その後、各フレームは、発光光の照射時刻と光検出開始時刻の間の期間が徐々に長くなるように設定され、第Nフレームでは、時刻tN1に発光光が照射され、時刻tN2に光検出が開始され、時刻tN3に光検出が終了するように構成されている。
【0053】
光検出部110は、2次元にSPAD画素が配置されたSPADアレイである。そのため、上記のようなタイミングチャートにより、フレームごとに、XY平面(撮像面)の光量分布情報と、この光量分布情報を取得した時間である時間情報を備えた1組のデータを複数取得できる。ここでは、所定の時間の光量分布情報をデータといい、各時間の光量分布情報をデータセットという。このデータセットから、x,y,tに関する情報を取得することができる。
【0054】
また、光検出部111についても、上記した光検出部110と同様の制御を行い、光量分布情報と時間情報を有するデータセットを取得する。もっとも、光検出部111は、光検出部110が配されている位置とは異なる位置に配されているため、図5に示した散乱光が光検出部110に到達するタイミングと、散乱光が光検出部111に到達するタイミングは異なる。
【0055】
上記した実施形態によれば、3次元の時空間情報から、4次元目の時空間情報を取得することを可能としている。これにより、2次元アレイの検出器から得られる情報では分離できなかった空間情報が取得できるようになり、より高機能の光検出システムが提供できる。
【0056】
また、複数の光検出部を有していることから、検出精度が相対的に高い方の光検出部からの情報を利用することが可能である。これにより、より高精度の光検出システムが提供できる。
【0057】
(演算処理のコンセプト)
図6は、演算処理部120で行う処理のコンセプトを説明する図である。
【0058】
図6(A)において、符号400は光検出部110、111の撮像面である。撮像面はXY平面を有する。矢印で記載したのは、光の進行方向のベクトルである。(i)撮像面400に対して平行な方向に進む光、(ii)撮像面400に対して遠ざかる方向に進む光、(iii)撮像面400に対して向う方向に進む光、をそれぞれ示している。図4では、単純化するために、これらの光は、X方向とZ方向のベクトル成分のみを有し、Y方向のベクトル成分を有さないとしている。
【0059】
図6(B)は、時刻t1~t3について、撮像面400で撮影される上記(i)から(iii)の光の光跡を示したものである。フレームレートが遅い場合、光跡は線状のように観測される。また、見かけの速度が遅い光の場合、光跡はより尾を引いているように観測される。そのため、ここでは光の進行方向に対して光強度の立ち上がり部分(光跡の先頭部分)のみを表示している。
【0060】
図6(B)に示すように、光はX方向とZ方向のベクトル成分を有するが、各時刻において撮影されるXY平面には、Z方向のベクトル成分はXY平面に投影され、Z方向の情報を取り出すことができない。図6(B)に示すように、進行方向(i)の光に比べて、進行方向(ii)の光は、見かけの速度が遅くなり、逆に、進行方向(i)の光に比べて、進行方向(iii)の光は、見かけの速度が速くなる。
【0061】
図6(C)は、時刻t1~t3と、撮像面の光跡の位置(X方向)との関係を示す図である。図6(C)において、進行方向(i)~(iii)の光、すなわち、Z方向のベクトル成分が異なる光は、異なる関数で記述されることになる。
【0062】
例えば、線形近似で記述する場合、X方向の位置(目的変数)=a+b・時間(説明変数)となり、Z方向のベクトル成分の違いによって、係数aとbの値が異なることとなる。
【0063】
実際の光跡を記述するためには、Y方向のベクトル成分、散乱光が生じる位置と光検出の撮像面の距離、光検出部からパルス光への方向ベクトルがパルス光の進行とともに時間変化することに起因する非線形効果を考慮しなければならない。そのため、変数および係数が増加し、より複雑なモデルとなるが、光のZ方向のベクトル成分によって、撮像面における光の位置情報と時間情報を記述する関数が異なることは変わらない。
【0064】
図6(D)は、光検出部110、111で実測されるデータ(計測値)について、図6(C)と同様に、時間軸と撮像面上の光の位置(X方向)の軸にプロットしたものである。各計測値にフィッティングする関数を探索し、その関数からZ方向のベクトル成分を抽出できれば、Z方向のベクトル成分を推定することができる。
【0065】
すなわち、2次元の空間情報(XZ方向のベクトル情報)及び時間情報に基づき、光検出部上の1次元の位置情報(X方向のベクトル情報)及び時間情報を計算するモデルを作る。そして、実測データであるX方向情報と時間情報を十分に説明できる、XZ方向のベクトル情報と時間情報が探索できれば、Z方向のベクトル成分を推定できる。このような演算は、実測データから観測対象である光の動きを推定しているため、逆問題を解くと表現することも可能である。
【0066】
さらに、次元を拡張して、3次元の空間情報(XYZ方向のベクトル情報)及び時間情報から、光検出部上の2次元の空間情報(XY方向のベクトル情報)及び時間情報を計算するモデルを作る。そして、実測データであるXY方向の情報と時間情報(データセット)を十分に説明できる、3次元の空間情報(XYZ方向のベクトル情報)と時間情報が探索できれば、Z方向のベクトル成分を推定できる。より具体的には、計測値であるデータセットと、モデルを用いて計算した光検出部上の2次元の空間情報及び時間情報とをフィッティングすることにより、3次元の空間情報および時間情報を取得する。そして、取得された3次元の空間情報および時間情報から、Z方向のベクトル成分を推定する。
【0067】
(演算処理のフロー)
(第1の演算処理)
図7は、図1の進行方向解析部121、空間情報推定部122、画像構成部123で行われる演算処理のフローを示した図である。
【0068】
演算処理が開始されると(S410)、進行方向解析部121は、光の進行方向を解析して、光跡を複数のグループに分ける(S420)。このグループ分けの処理は、光検出部110と111のそれぞれから取得された情報のそれぞれに対して行われる。
【0069】
次に、空間情報推定部122において、計測された撮像面における光跡の位置情報(XY平面の光量分布情報)と、各光跡の位置情報に対応した時間情報を用いて、フィッティングする関数をグループごとに探索する(S430)。グループごとに探索するのは、各グループに属する光跡間では、Z方向のベクトルが異なり、フィッティングする関数が異なるからである。
【0070】
次に、空間情報推定部122において、探索した関数と計測値とのフィッティングを評価して、フィッティングが十分であるか否かを判断する(S440)。十分なフィッティングかを判断するためには、例えば最小二乗法を用いて、モデルの計算値と計測値との残差の二乗和が、所定の値以下になるかを判断する。あるいは、計算の繰り返し回数が所定回数に至ったら、十分フィッティングしたと判断してもよい。
【0071】
次に、空間情報推定部122において、全てのグループの計測値について、関数の探索が行われた否かを判断する(S450)。
【0072】
次に、空間情報推定部122において、探索が完了した各関数から、各時間における光跡のZ方向のベクトル情報を推定する(S460)。
【0073】
次に、画像構成部123において、各グループの光跡に対して、各光検出部から得られた情報の検出精度を取得して判定する(S470)。
【0074】
具体的には、光の進行方向に対して、光検出部が設けられている角度を比較し、角度が大きい位置に設けられている光検出部から取得される情報の精度が高いと判定する。例えば、図3(D)を参照し、紙面右方向に進行する光に対して、θ=90°の位置に設けられているカメラBと、θ=45°の位置に設けられているカメラD(不図示)があると仮定する。この場合、進行する光に対して、角度が大きい位置に設けられているカメラBから取得される情報の方が、カメラDから取得される情報の方が、高精度の情報である。そのため、紙面右方向に進行する光のグループについては、カメラDではなく、カメラBからの情報の精度が高いと判定する。他方、紙面左方向に進行する光のグループについては、カメラDはθ=135°の位置に設けられていることになるため、カメラBではなく、カメラDからの情報の精度が高いと判定する。
【0075】
また、その他の検出精度の判定方法としては、カメラの撮影方向の単位ベクトルと、光の進行方向の単位ベクトルの内積を算出し、最大となるカメラからの情報の精度が高いと判定する方法がある。なお、複数のダイオードが2次元平面に配された光検出部の場合、カメラの撮影方向とは、複数のダイオードが配されている2次元平面に対して法線方向となる。
【0076】
ここで、カメラ1の撮影方向と光の進行方向と一致する場合、見かけの速度が小さくなるため、精度が高くなる。他方、カメラ2の撮影方向と光の進行方向が逆の場合、見かけの速度が大きくなるため、精度が高くなる。ここで、撮影方向の第1のベクトルとし、光の進行を第2のベクトルとすると、第1のベクトルと第2のベクトルのなす角が0度の場合に最も精度が高く、180度の場合に最も精度が低くなる。また、90度および270度の場合には、見かけの速度の影響がなくなり、0度と180度の中間程度の精度となる。すなわち、cosθ(θ:第1のベクトルと第2のベクトルのなす角)の値が大きい方が相対的に高精度である。cosθは、第1のベクトルの単位ベクトルと第2のベクトルの単位ベクトルの内積に相当するため、カメラの撮影方向の単位ベクトルと、光の進行方向の単位ベクトルの内積の大きさを比較すればよい。
【0077】
例えば、XY平面を進行する光について、カメラ1とカメラ2とで撮影する場合を考える。具体例を図14に示す。図14では、光の進行方向のベクトルA=(1,2)とし、カメラ1の撮影方向のベクトルB=(1,1)とし、カメラ2の撮影方向のベクトルC=(0,1)とする。
【0078】
ここで、ベクトルAの単位ベクトルaは、以下のとおりとなる。
【0079】
【数1】
【0080】
また、ベクトルBの単位ベクトルbは、以下のとおりとなる。
【0081】
【数2】
【0082】
さらに、ベクトルCの単位ベクトルcは、以下のとおりとなる。
【0083】
【数3】
【0084】
ここで、各単位ベクトル同士の内積を比較すると、以下のとおりとなる。
【0085】
【数4】
【0086】
すなわち、カメラ1の撮影方向の単位ベクトルと光の進行方向の単位ベクトルの内積が、カメラ2の撮影方向の単位ベクトルと光の進行方向の単位ベクトルの内積よりも大きいため、カメラ2からの情報の精度よりも、カメラ1からの情報の精度が高いと判定する。
【0087】
以上の説明は、2次元空間のベクトルを例にして説明したが、3次元空間においても同様であり、カメラの撮影方向の単位ベクトルと光の進行方向の内積を比較することにより、精度判定が可能である。
【0088】
また、精度判定には、進行する光に対する光検出部の位置に基づいて判定するだけでなく、モデルと実測値のフィッティング度合い(例:モデルによる計算値と計測値との残差の二乗和の値)を用いて判定してもよい。
【0089】
次に、画像構成部123において、各グループの光跡に対して、高い検出精度を有する光検出部からの情報を選択し、統合する(S470)。具体的には、第1の進行方向の光跡の撮像は、光検出部110で取得した情報(第1の情報)が、光検出部111で取得した情報(第2の情報)よりも精度が高い場合がある。また、第2の進行方向の光跡の撮像は、光検出部111で取得した情報(第2の情報)の方が、光検出部110で取得した情報(第1の情報)よりも精度が高い場合がある。この状況においては、第1の進行方向の光跡は、光検出部110で取得した情報(第1の情報)に基づいて画像を構成し、第2の進行方向の光跡は光検出部111で取得した情報(第2の情報)に基づいて画像を構成する。
【0090】
上記のステップを実行することにより、処理が終了する(S480)。
【0091】
なお、上記では、光の進行方向ごとにグループ化し、全てのグループについて関数を探索した後にZ方向のベクトル情報を推定したが、グループごとに、関数の探索とZ方向のベクトル情報の推定を行ってもよい。
【0092】
(第2の演算処理)
図8は、図7とは異なる演算処理のフローを示した図である。
【0093】
図7と同様に、進行方向解析部121において、光の進行方向を解析して光跡を複数のグループに分ける(S420)。このグループ分けの処理は、光検出部110と111のそれぞれから取得された情報のそれぞれに対して行われる。
【0094】
次に、進行方向解析部121において、各グループに対して、光検出部110で取得された情報と、光検出部111で取得された情報のどちらが高精度かを判定する(S421)。光検出部110と光検出部111では異なる位置から散乱光を撮像することになるが、光検出部110と光検出部111のそれぞれで、各グループに属する光跡を特定することが可能である。各検出部からは、光跡の位置情報(XY平面の光量分布情報)と時間情報を取得できるため、各グループに属する光跡の速度を取得することも可能である。図3(D)から(F)を用いて説明したように、見かけ上の速度が小さいほうが検出精度は高くなる。そのため、各グループに属する光跡について、光跡の速度が遅い方の光検出部からの情報を用いて、この後の処理ステップを行う。なお、光跡の速度自体の演算は必須ではなく、所定の進行方向を有する光跡の開始点の観測時刻と終了点の観測時刻の差を求め、当該差が大きい方の光検出部を、当該所定の進行方向を有する光跡に対する検出精度の高い光検出部とすればよい。
【0095】
次に、空間情報推定部122において、計測された撮像面における光跡の位置情報(XY平面の光量分布情報)と、各光跡の位置情報に対応した時間情報を用いて、フィッティングする関数をグループごとに探索する(S431)。図7に示したS430では、第1の進行方向を有する光跡について、光検出部110で取得されたデータセットと、光検出部111で取得されたデータセットのそれぞれについて、関数を探索する演算処理を行った。他方、図8に示したS432では、第1の進行方向を有する光跡について、光検出部110で取得されたデータセット、あるいは、光検出部111で取得されたデータセットの一方しか、関数を探索する演算処理を行わない。すなわち、前のステップで行った検出精度の判定において、第1の進行方向を有する光跡に関して高精度の情報を取得できると判定された光検出部からのデータセットしか演算を行わない。これにより、図7に示したフローに比べて、演算量と演算時間の削減を図ることができる。
【0096】
(光検出部の配置例)
図9は、光検出部110と光検出部111の配置例を示したものである。
【0097】
図9(A)では、光検出部110と光検出部111は4次元イメージング対象空間を挟んで、対向して配置される。このように配置すれば、4次元イメージング対象空間を進行する光に対して、光の進行方向に対するカメラが設けられている角度θが90°未満にならない。このため、光検出部110と光検出部111の両方から取得されるデータに関して、見かけの光の速度変化による検出精度の低下を抑制することができる。また、光の進行方向によって、光検出部110と光検出部111の検出精度が異なることから、検出精度が相対的に高い方の光検出部からの情報を利用することも可能である。これにより、より高精度の光検出システムが提供できる。
【0098】
図9(B)では、光検出部110と光検出部111は、並列して配置される。このように配置することにより、光の進行方向に対するカメラが設けられている角度θは、光検出部110と光検出部111とで大きな違いは生じない。しかし、両方の光検出部が見かけの速度が無限大となる0°という配置となることを避けることが可能となる。そのため、本実施形態は、このように光検出部同士が並列して配置されていてもよい。このような配置は、カメラを配置する空間が限定されている場合に有効な配置となる。
【0099】
その他、図9(A)と(B)では、図示していないが、両光検出部を対向して配することを180°の関係で配置すると呼称することにすると、両光検出部を90°の関係、あるいは、270°の関係で配置してもよい。
【0100】
(実施例)
図10は、本実施例で用いるセットアップを示す図である。
【0101】
地点Aにおいて光源112から照射されたパルスレーザ光は、光学素子である複数の反射鏡により反射されるように構成されている。具体的には、地点B、C、D、Eにおいてパルスレーザ光が反射するように、複数の反射鏡が設けられている。地点Fは、4次元イメージング対象空間において、光検出部110が検出できる最後の地点となる。
【0102】
光検出部110と111は、4次元イメージング対象空間を挟んで、対向して配されている。光源112と、光検出部110および111は、パルス生成器により、タイミングが制御されており、例えば、図5に示すタイミングチャートを実現するように構成されている。
【0103】
図11は、光検出部110で取得される光跡のイメージ図である。地点Aから地点Fまでの光跡の見かけの速度を、各線で示している。具体的には、実線は、見かけの速度が遅く、点線は見かけの速度が普通、一点鎖線は見かけの速度が速いことを意味している。見かけの速度が速いと、光検出部110で取得できる4次元情報(3次元空間情報と時間情報)の精度が低くなる。そこで、一点鎖線(見かけの速度が速い)の光跡、具体的には、地点EからFまでの光跡に関する4次元情報については、光検出部110とは異なる位置に設けられている光検出部111から取得することとする。
【0104】
図12は、光検出部111で取得される光跡のイメージ図である。地点Aから地点Fまでの光跡の見かけの速度を、各線で示している。具体的には、実線は、見かけの速度が遅く、点線は見かけの速度が普通、一点鎖線は見かけの速度が速いことを意味している。見かけの速度が速いと、光検出部111で取得できる4次元情報(3次元空間情報と時間情報)の精度が低くなる。そこで、一点鎖線(見かけの速度が速い)の光跡、具体的には、地点AからB、および、地点CからDまでの光跡に関する4次元情報については、光検出部111とは異なる位置に設けられている光検出部110から取得することとする。
【0105】
図13は、複数の光検出部から、相対的に高精度の情報を選択して、光跡を合成した場合のイメージ図である。すなわち、光検出部110および110と、空間情報推定部122により取得されたx,y,z,tの4次元情報から、x,y,z,の3次元情報を選択し、XYZ空間にパルスレーザ光の光跡を再構成した図を示すものである。空間情報推定部122により推定されたZ方向ベクトルの成分の情報を基に、画像構成部123によって画像が生成され、生成された画像は表示部130に表示される。
【0106】
上記のように、地点AからB、地点CからDまでの光跡は、光検出部110で取得される情報を選択する。他方、地点EからFまでの光跡は、光検出部111で取得される情報を選択して、上記情報と統合する。情報の統合は画像構成部123で行われる。
【0107】
地点BからCまでの光跡、地点DからEまでの光跡は、光検出部110と111の精度が同程度であるため、どちらの光検出部で取得された情報を選択して統合してもよい。また、これらの地点間の光跡は、光検出部110と111の精度が同程度であるため、光検出部110と111でそれぞれ得られた情報の平均値を用いてもよい。あるいは、これらの地点間の光跡は、光検出部110と111の精度が同程度であるため、例えば、光検出部110から取得される情報の重みづけを大きくし、光検出部111から取得される情報の重みづけを小さくしてもよい。例えば、光検出部110の画素数が、光検出部111の画素数よりも多い場合には、光検出部110から取得される情報の重みづけを大きくし、光検出部111から取得される情報の重みづけを小さくしてもよい。
【0108】
(計算モデルの説明)
以下、計算に用いるモデルの一例について説明をする。下記モデルのかわりに、レンズの収差やセンサ特性の不均一性などを考慮した、より複雑なモデルを用いてもよい。また、最小二乗法を解く代わりに、ニューラルネットワークモデル等を用いたパラメータ推定を行ってもよい。
【0109】
レーザパルス位置の時間変化
【0110】
【数5】
【0111】
は、
【0112】
【数6】
【0113】
と記述できる。ここで、
【0114】
【数7】
【0115】
は、時間に依存しない定数ベクトル、cは、光の速度、
【0116】
【数8】
【0117】
は、光伝搬の方向を示す規格化ベクトルである。ここで、tは、
【0118】
【数9】
【0119】
にレーザパルスが到達したときの時間であり、t’に対してオフセットを有している。t’は、
【0120】
【数10】
【0121】
の位置にあるレーザパルスがカメラで検出される時間である。光検出器の撮像面(焦点面)に対して射影したレーザパルスの位置は、
【0122】
【数11】
【0123】
である。ここで、α(t)は、時間に依存する係数、-zは、焦点距離である。zが時間に依存しないと仮定すると、α(t)は、α(t)=z/(z+ct・n)と記述できる。光検出器の撮像面に幾何学的に射影されたレーザパルスの動きは以下の式1のように記述できる。
【0124】
【数12】
【0125】
【数13】
【0126】
から光検出器までの光伝搬時間を考慮すると、観測時間t’は、以下の式2のように記述できる。
【0127】
【数14】
【0128】
上記式を解くと、以下の式3になる。
【0129】
【数15】
【0130】
式3を式1に代入し、観測時間t’の関数である撮像面に射影されたレーザパルス光の位置は以下の式4のように記述できる。
【0131】
【数16】
【0132】
時間分解測定により、3次元データポイント(X ,Y ,T)のNセットのデータが取得できる(i=1,2,…,N)。4次元の光を再現するために、6つのパラメータであるx,y,z,n,n,nを設定し、以下の式5に示す最適化問題を解く。
【0133】
【数17】
【0134】
ここで、Nは測定データ点の全体の数、(X ,Y )はi番目のデータ点に関する撮像面の画素の位置、-zは焦点距離、T’はi番目のデータ点に関する測定された観測時間、
【0135】
【数18】
【0136】
はt=0におけるレーザ光の位置である。
【0137】
式5において、規格化された光伝搬ベクトルは、極座標系で表現すると、
【0138】
【数19】
【0139】
となる。式5を極座標に変換すると、以下の式6および式7となる。
【0140】
【数20】
【0141】
【数21】
【0142】
上記式6および式7では、5つのパラメータであるx,y,z,θ,φを設定して最適化問題を解く。
【0143】
上で説明したモデルの特徴は以下の3点である。
【0144】
すなわち、第1として、「光の直進性」と「光速不変の法則」を仮定していることである。第2として、撮像面上の2次元座標(Xp,Yp)は、パルス光の位置(x,y,z)に対する撮像面への射影により算出していることである。第3として、検出時間T’は、パルス光が位置(x,y,z)に到達する時間tに対し、散乱光がカメラに到達するまでにかかる時間を考慮して算出していることである。
【0145】
ところで、データ点数が少ない軌跡では、最適化問題を解く際に値が発散することや、誤った解に収束してしまう可能性がある。そこで、光の軌跡の連続性を仮定すれば、この問題を回避できることができる。具体的には、複数の軌跡があった場合に、第2の軌跡の開始点が、第1の軌跡の終了点であるという制約条件を追加する。
【0146】
より具体的には、第2の軌跡に関しては、コスト関数(損失関数)であるλ・{(x-x-ct・n+(y-y-ct・n+(z-z-ct・n}を式5に追加すればよい。ここで、(x,y,z,t)は、第1の軌跡の終了点の4次元座標である。あるいは、最小二乗法の式に追加するのではなく、第2の軌跡を推定する際の初期条件として第1の軌跡の終了点を設定してもよい。
【0147】
(その他の実施形態)
上記実施形態では、カメラの実測値(x,y,t)にフィッティングする関数を探索し、フィッティングした関数から光の進行ベクトルのうちZ方向のベクトル成分を復元した。他方、カメラの実測値(x,y,t)から、見かけの光速の値を演算して、光の進行ベクトルのうちZ方向のベクトル成分を復元してもよい。この場合においても、データセットから、観測対象である光の進行方向のベクトルのうち、Z方向のベクトル成分を推定している。
【0148】
また、上記実施形態ではアバランシェダイオードを用いたSPADカメラを前提として説明したが、高速撮像が可能なカメラがあれば、SPADカメラを用いなくてもよい。
【0149】
さらに、図10では、複数の反射鏡による光跡の変更の撮像を説明したが、上記実施形態の適用は、このような撮像に限られず、以下のような分析にも適用できる。
【0150】
(3次元形状の推定)
反射体に入射する光の光跡と、反射体で反射する光の光跡を特定することにより、反射体における微小領域の法線ベクトルの情報も得ることができる。また、光源からのレーザ光を走査することにより、複数の微小領域の法線ベクトルの情報も得ることができる。さらに、XY方向の面内方向に複数のダイオードが配された光検出部からは、光量分布情報と、当該光量分布情報を取得した時間である時間情報とをデータを複数備えたデータセットを取得することができる。これらの情報から、観測対象である光の進行方向のベクトルのうち、XY平面に直交する方向(Z方向)のベクトル成分を推定することもできる。これにより、前記微小領域の法線ベクトルのうち、Z軸方向のベクトル成分も推定することができる。この結果、入射光と反射光のデータセットから、反射体の3次元形状を推定することも可能となる。特に、複数の光検出部を用いることにより、検出精度の高い光検出部を選択できるため、精度の高い反射体の3次元形状の推定ができる。
【0151】
(屈折率分布の推定)
物体を透過する光(正確には、物体を透過する光の散乱光)を観察することによって、物体の屈折率分布情報を取得することも可能である。例えば、第1の領域と第2の領域を有する物体において、第1の領域の屈折率と、第2の領域の屈折率が異なる場合には、光の進行速度が第1の領域と第2の領域とで異なる。XY方向の面内方向に複数のダイオードが配された光検出部からは、光量分布情報と、当該光量分布情報を取得した時間である時間情報とをデータを複数備えたデータセットを取得することができる。そのため、これらの情報に基づいて、物体の屈折率分布情報を取得することができる。特に、複数の光検出部を用いることにより、検出精度の高い光検出部を選択できるため、より精度の高い屈折率分布情報の取得が可能となる。
【0152】
また、上記データセットを用いて、観測対象である光の進行方向のベクトルのうち、XY平面に直交する方向(Z方向)のベクトル成分を推定することもできる。そのため、Z方向に屈折率分布が異なるような物体の屈折率分布情報も取得することができる。特に、複数の光検出部を用いることにより、検出精度の高い光検出部を選択できるため、より精度の高い屈折率分布情報の取得が可能となる。
【0153】
(その他)
本発明は、上記実施形態に限らず種々の変形が可能である。例えば、いずれかの実施形態の一部の構成を他の実施形態に追加した例や、他の実施形態の一部の構成と置換した例も、本発明の実施形態である。
【0154】
なお、上記実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。
【符号の説明】
【0155】
110 光検出部
111 光検出部
112 光源
116 タイミング制御部
120 演算処理部
121 進行方向解析部
122 空間情報推定部(推定部)
123 画像構成部
130 表示部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14