(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022188643
(43)【公開日】2022-12-21
(54)【発明の名称】測距装置、移動体及び測距方法
(51)【国際特許分類】
G01S 7/481 20060101AFI20221214BHJP
G01S 17/931 20200101ALI20221214BHJP
G01C 3/06 20060101ALI20221214BHJP
【FI】
G01S7/481 A
G01S17/931
G01C3/06 120Q
G01C3/06 140
【審査請求】未請求
【請求項の数】7
【出願形態】OL
(21)【出願番号】P 2021096855
(22)【出願日】2021-06-09
(71)【出願人】
【識別番号】000006633
【氏名又は名称】京セラ株式会社
(74)【代理人】
【識別番号】100147485
【弁理士】
【氏名又は名称】杉村 憲司
(74)【代理人】
【識別番号】230118913
【弁護士】
【氏名又は名称】杉村 光嗣
(74)【代理人】
【識別番号】100132045
【弁理士】
【氏名又は名称】坪内 伸
(74)【代理人】
【識別番号】100180655
【弁理士】
【氏名又は名称】鈴木 俊樹
(72)【発明者】
【氏名】森田 渉吾
【テーマコード(参考)】
2F112
5J084
【Fターム(参考)】
2F112AD01
2F112BA05
2F112CA05
2F112CA12
2F112DA04
2F112DA09
2F112DA13
2F112DA15
2F112DA19
2F112DA21
2F112DA25
2F112DA26
2F112DA28
2F112EA03
2F112EA05
2F112FA19
2F112FA35
2F112GA01
5J084AA04
5J084AA05
5J084AA14
5J084AB01
5J084AB07
5J084AB16
5J084AB17
5J084AC02
5J084AC04
5J084AD01
5J084AD02
5J084AD05
5J084BA02
5J084BA04
5J084BA06
5J084BA07
5J084BA14
5J084BA20
5J084BA34
5J084BA36
5J084BA40
5J084BA49
5J084BA50
5J084BB11
5J084BB14
5J084BB20
5J084BB24
5J084BB26
5J084BB27
5J084BB28
5J084BB37
5J084CA03
5J084CA49
5J084CA65
5J084CA70
5J084EA04
5J084EA22
5J084EA29
(57)【要約】
【課題】推定精度を高めることが可能な測距装置、移動体及び測距方法が提供される。
【解決手段】測距装置(10)は、入力情報を取得する入力部(141)と、入力情報に基づいて、所定の処理に従って、疎な深度として測定される距離情報におけるサンプリング点を推定するサンプリング点推定部(147)と、距離情報に基づいて、密な深度である出力情報を推定する深度推定部(146)と、を備え、所定の処理は、深度推定部によって推定された複数の出力情報を用いた評価に基づいて決定される。
【選択図】
図1
【特許請求の範囲】
【請求項1】
入力情報を取得する入力部と、
前記入力情報に基づいて、所定の処理に従って、疎な深度として測定される距離情報におけるサンプリング点を推定するサンプリング点推定部と、
前記距離情報に基づいて、密な深度である出力情報を推定する深度推定部と、を備え、
前記所定の処理は、前記深度推定部によって推定された複数の前記出力情報を用いた評価に基づいて決定される、測距装置。
【請求項2】
前記所定の処理は、前記評価に基づいて生成される前記サンプリング点の教師データを用いる機械学習によって決定される、請求項1に記載の測距装置。
【請求項3】
前記入力情報は画像情報である、請求項1又は2に記載の測距装置。
【請求項4】
前記深度推定部は、前記距離情報及び前記入力情報に基づいて、前記出力情報を推定する、請求項1から3のいずれか一項に記載の測距装置。
【請求項5】
請求項1から4のいずれか一項に記載の測距装置を備える、移動体。
【請求項6】
通信部と、外部装置と、を備える移動体であって、
前記通信部は、入力情報を請求項1から4のいずれか一項に記載の測距装置に送信し、前記測距装置が前記入力情報に基づいて推定した出力情報を受信し、
前記外部装置は、前記出力情報に基づいて前記移動体を制御する、又は、前記出力情報に基づいて前記移動体のドライバーに対して通知する、移動体。
【請求項7】
入力情報を取得することと、
前記入力情報に基づいて、所定の処理に従って、疎な深度として測定される距離情報におけるサンプリング点を推定することと、
前記距離情報に基づいて、密な深度である出力情報を推定することと、を含み、
前記所定の処理は、推定された複数の出力情報を用いた評価に基づいて決定される、測距方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、測距装置、移動体及び測距方法に関する。
【背景技術】
【0002】
近年、電磁波を検出する複数の検出器による検出結果から周囲に関する情報を得る装置が開発されている。例えば、このような装置において、撮像素子によって被写体を含む撮像画像を取得するとともに、被写体で反射した反射波を含む電磁波を検出することによって被写体までの距離を検出することがある。距離は深度とも称される。
【0003】
一般に、撮像素子によって1フレーム分の撮像画像が取得される時間に比べて、1フレーム分の距離の検出に要する時間の方が長い。そのため、撮像画像における被写体の位置と距離情報(深度情報)における被写体の位置とのずれが大きくならないように、深度を検出する測定点(サンプリング点)を少なくして、フレームレートを高めることがある。また、サンプリング点が少ない場合にも、より多くの深度情報が得られるように、「疎な深度(Sparse Depth)」から「密な深度(Dense Depth)」を推定する技術が知られている(例えば非特許文献1から非特許文献3参照)。
【先行技術文献】
【非特許文献】
【0004】
【非特許文献1】Eyal Gofer,et al. “Adaptive LiDAR Sampling and Depth Completion using Ensemble Variance.” arXiv:2007.13834 (2020)
【非特許文献2】A.W.Bergman,D.B.Lindell,andG.Wetzstein, “Deep adaptive lidar: End-to-end optimization of sampling and depth completion at low sampling rates,” IEEE International Conference on Computational Photography IEEE,2020,pp.1-11
【非特許文献3】A.Wolff,S.Praisler,I.Tcenov,and G.Gilboa, “Super-pixel sampler: a data-driven approach for depth sampling and reconstruction,” IEEE International Conference on Robotics and Automation IEEE,2020
【発明の概要】
【発明が解決しようとする課題】
【0005】
ここで、サンプリング点の選択によって、密な深度の推定精度が変化する。非特許文献1の技術は、疎な深度から密な深度を推定するモデルを複数用意し、複数のモデルの出力の分散に基づいて、サンプリング点を決定する。非特許文献2の技術は、予め定められた初期サンプリング点を動的に動かすことによって、サンプリング点を決定する。非特許文献3の技術は、入力画像においてスーパーピクセル化を行い、それぞれのスーパーピクセルの中心をサンプリング点に決定する。ここで、スーパーピクセル化とは、類似する画素をグルーピングして1つのスーパーピクセルとする処理である。
【0006】
非特許文献1の技術は、推定精度が高いが、複数のモデルを用いて演算を実行する必要があり、サンプリング点の決定までに複数のステップを経る必要がある。そのため、リアルタイム計測に対応することができない。また、非特許文献2及び非特許文献3の技術は、非特許文献1の技術と比べて、推定精度が劣る。
【0007】
かかる事情に鑑みてなされた本開示の目的は、推定精度を高めることが可能な測距装置、移動体及び測距方法を提供することにある。
【課題を解決するための手段】
【0008】
本開示の一実施形態に係る測距装置は、
入力情報を取得する入力部と、
前記入力情報に基づいて、所定の処理に従って、疎な深度として測定される距離情報におけるサンプリング点を推定するサンプリング点推定部と、
前記距離情報に基づいて、密な深度である出力情報を推定する深度推定部と、を備え、
前記所定の処理は、前記深度推定部によって推定された複数の前記出力情報を用いた評価に基づいて決定される。
【0009】
本開示の一実施形態に係る移動体は、
上記の測距装置を備える。
【0010】
本開示の一実施形態に係る移動体は、
通信部と、外部装置と、を備える移動体であって、
前記通信部は、入力情報を上記の測距装置に送信し、前記測距装置が前記入力情報に基づいて推定した出力情報を受信し、
前記外部装置は、前記出力情報に基づいて前記移動体を制御する、又は、前記出力情報に基づいて前記移動体のドライバーに対して通知する。
【0011】
本開示の一実施形態に係る測距方法は、
入力情報を取得することと、
前記入力情報に基づいて、所定の処理に従って、疎な深度として測定される距離情報におけるサンプリング点を推定することと、
前記距離情報に基づいて、密な深度である出力情報を推定することと、を含み、
前記所定の処理は、推定された複数の出力情報を用いた評価に基づいて決定される。
【発明の効果】
【0012】
本開示によれば、推定精度を高めることが可能な測距装置、移動体及び測距方法を提供することができる。
【図面の簡単な説明】
【0013】
【
図1】
図1は、一実施形態に係る測距装置の概略構成を示す構成図である。
【
図2】
図2は、
図1の測距装置の第1の状態と第2の状態における電磁波の進行方向を説明するための図である。
【
図3】
図3は、反射波を含む電磁波の検出を説明するための図である。
【
図4】
図4は、距離の演算を説明するためのタイミングチャートである。
【
図5】
図5は、推定精度の向上について説明するための図である。
【
図6】
図6は、
図1の測距装置が行う密な深度の推定について説明するための図である。
【
図7】
図7は、サンプリング点の算出について説明するための図である。
【
図8】
図8は、サンプリング点推定モデルの生成について説明するための図である。
【
図9】
図9は、サンプリング点推定モデルの生成処理を示すフローチャートである。
【
図10】
図10は、一実施形態に係る測距方法を示すフローチャートである。
【発明を実施するための形態】
【0014】
図1は、一実施形態に係る測距装置10の概略構成を示す構成図である。測距装置10は、照射系111と、受光系110と、記憶部112と、制御部14と、を備えて構成される。本実施形態では、測距装置10が1つの照射系111と1つの受光系110を有するものとして説明するが、照射系111及び受光系110は1つに限られるものではなく、複数の照射系111の各々に対して、複数の受光系110の各々が対応付けられる構成であり得る。
【0015】
照射系111は、照射部12と、偏向部13と、を備える。受光系110は、入射部15と、分離部16と、第1の検出部20と、第2の検出部17と、切替部18と、第1の後段光学系19と、を備える。制御部14は、入力部141と、出力部142と、照射制御部143と、受光制御部144と、演算部145と、深度推定部146と、サンプリング点推定部147と、モデル生成部148と、を備える。本実施形態に係る測距装置10の各機能ブロックの詳細については後述する。
【0016】
図面において、各機能ブロックを結ぶ破線は、制御信号又は通信される情報の流れを示す。破線が示す通信は有線通信であってよいし、無線通信であってよい。また、実線の矢印はビーム状の電磁波を示す。また、図面において、対象obは、測距装置10の被写体である。被写体は、例えば道路、中央分離帯、歩道、街路樹、車両等の物を含んでよいし、人を含んでよい。また対象obは1つに限られない。
【0017】
測距装置10は、被写体を含む画像を取得するとともに、被写体で反射した反射波を検出することによって被写体を識別可能である。本実施形態に係る測距装置10は、演算部145によって対象obまでの距離を計測する。例えば測距装置10は、車両等に搭載されて、走行中に近づいた対象obを検出してドライバーに通知する運転支援に用いられてよい。ここで、距離は深度とも称される。以下における「深度」との文言は「距離」に置き換えることが可能である。
【0018】
ここで、1フレーム分の撮像画像が取得される時間に比べて、1フレーム分の距離の検出に要する時間の方が長い。そのため、撮像画像における被写体の位置と距離情報(深度情報)における被写体の位置とのずれが大きくならないように、深度を検出するサンプリング点を少なくして、フレームレートを高めることがある。このとき、直接的に測定される距離(深度)は「疎な深度(Sparse Depth)」である。測距装置10は、後述するように、疎な深度として測定される距離情報に基づいて、「密な深度(Dense Depth)」である出力情報を推定する。つまり、本実施形態において、測距装置10は、対象obまでの距離を計測し、計測した疎な深度に基づいて密な深度を推定して、推定した密な深度を出力する。出力される密な深度は、例えば対象obの接近の判定、移動予測など、運転支援で用いられ得る。ここで、密な深度は、直接的に測定される疎な深度より多くの深度を含む。密な深度は、例えば撮像画像の各ピクセルに対応する深度を含んでよいが、疎な深度より多くの深度を含むならば、撮像画像の各ピクセルに対応する深度まで含まなくてよい。
【0019】
(照射系)
照射系111は、対象obが存在する空間に電磁波を照射する。本実施形態において、照射系111は、照射部12が照射する電磁波を、偏向部13を介して、対象obが存在する空間に向けて照射する。別の例として、照射系111は、照射部12が電磁波を対象obに向けて直接に照射する構成であってよい。
【0020】
照射部12は、赤外線、可視光線、紫外線及び電波の少なくともいずれかを照射する。本実施形態において、照射部12は赤外線を照射する。また、本実施形態において、照射部12は、幅の細い、例えば0.5°のビーム状の電磁波を照射する。また、照射部12は電磁波をパルス状に照射する。照射部12は、電磁波照射素子として、例えばLED(Light Emitting Diode)を含んで構成され得る。また、照射部12は、電磁波照射素子として、例えばLD(Laser Diode)を含んで構成され得る。照射部12は、制御部14の制御に基づいて電磁波の照射及び停止を切替える。ここで、照射部12は複数の電磁波照射素子をアレイ状に配列させたLEDアレイ又はLDアレイを構成し、複数本のビームを同時に照射させてよい。
【0021】
偏向部13は、照射部12が照射した電磁波を複数の異なる方向に出力させて、対象obが存在する空間に照射される電磁波の照射位置を変更する。複数の異なる方向への出力は、偏向部13が照射部12からの電磁波を、向きを変えながら反射することで行ってよい。例えば偏向部13は、一次元方向又は二次元方向に対象obを走査する。ここで、照射部12が例えばLDアレイとして構成されている場合、偏向部13はLDアレイから出力される複数のビームの全てを反射させて、同一方向に出力させる。すなわち、照射系111は、1つ又は複数の電磁波照射素子を有する照射部12に対して1つの偏向部13を有している。
【0022】
偏向部13は、電磁波を出力する空間である照射領域の少なくとも一部が、受光系110における電磁波の検出範囲に含まれるように構成されている。したがって、偏向部13を介して対象obが存在する空間に照射される電磁波の少なくとも一部は、対象obの少なくとも一部で反射して、受光系110において検出され得る。ここで、偏向部13から出力された電磁波が対象obの少なくとも一部で反射した電磁波を反射波と称する。
【0023】
偏向部13は、例えば、MEMS(Micro Electro Mechanical Systems)ミラー、ポリゴンミラー、及びガルバノミラーなどを含む。本実施形態において、偏向部13は、MEMSミラーを含む。
【0024】
偏向部13は、制御部14の制御に基づいて、電磁波を反射する向きを変える。また、偏向部13は、例えばエンコーダなどの角度センサを有してよく、角度センサが検出する角度を、電磁波を反射する方向情報として、制御部14に通知してよい。このような構成において、制御部14は、偏向部13から取得する方向情報に基づいて、電磁波の照射位置を算出し得る。また、制御部14は、偏向部13に電磁波を反射する向きを変えさせるために入力する駆動信号に基づいても照射位置を算出し得る。
【0025】
(受光系)
以下において、「反射波を含む電磁波」は、対象obでの反射波を含んで受光系110に入射する電磁波を意味する。つまり、照射系111から照射される電磁波と区別するために、受光系110に入射する電磁波は「反射波を含む電磁波」と称されることがある。反射波を含む電磁波は、照射系111から照射された電磁波が対象obで反射した反射波のみならず、太陽光などの外光、外光が対象obで反射した光などを含む。
【0026】
入射部15は、少なくとも1つの光学部材を有する光学系であって、被写体となる対象obの像を結像させる。光学部材は、例えばレンズ、ミラー、絞り及び光学フィルタ等の少なくとも1つを含む。
【0027】
分離部16は、入射部15と、入射部15から所定の位置をおいて離れた対象obの像の、入射部15による結像位置である一次結像位置との間に設けられている。分離部16は、反射波を含む電磁波を波長に応じて第1の方向d1又は第2の方向d2に進行するように分離する。
【0028】
本実施形態において、分離部16は、反射波を含む電磁波の一部を第1の方向d1に反射し、別の一部を第2の方向d2に透過する。本実施形態において、分離部16は、入射する電磁波のうち、太陽光などの環境光が対象obで反射した可視光を第1の方向d1に反射する。また、分離部16は、入射する電磁波のうち、照射部12が照射した赤外線が対象obで反射した赤外線を第2の方向d2に透過する。別の例として、分離部16は、入射する電磁波の一部を第1の方向d1に透過し、電磁波の別の一部を第2の方向d2に反射してよい。また、分離部16は、入射する電磁波の一部を第1の方向d1に屈折させ、電磁波の別の一部を第2の方向d2に屈折させてよい。分離部16は、例えば、ハーフミラー、ビームスプリッタ、ダイクロイックミラー、コールドミラー、ホットミラー、メタサーフェス、偏向素子及びプリズムなどである。
【0029】
第2の検出部17は、分離部16から第1の方向d1に進行する電磁波の経路上に、設けられている。第2の検出部17は、第1の方向d1における対象obの結像位置又は結像位置の近傍に、設けられている。第2の検出部17は、分離部16から第1の方向d1に進行した電磁波を検出する。
【0030】
また、第2の検出部17は、分離部16から第1の方向d1に進行する電磁波の第1の進行軸が、第2の検出部17の第1の検出軸に平行となるように、分離部16に対して配置されていてよい。第1の進行軸は、分離部16から第1の方向d1に進行する、放射状に広がりながら伝播する電磁波の中心軸である。本実施形態において、第1の進行軸は、入射部15の光軸を分離部16まで延ばし、分離部16において第1の方向d1に平行になるように折曲げた軸である。第1の検出軸は、第2の検出部17の検出面の中心を通り、検出面に垂直な軸である。
【0031】
さらに、第2の検出部17は、第1の進行軸及び第1の検出軸の間隔が第1の間隔閾値以下となるように配置されていてよい。また、第2の検出部17は、第1の進行軸及び第1の検出軸が一致するように配置されていてよい。本実施形態において、第2の検出部17は、第1の進行軸及び第1の検出軸が一致するように配置されている。
【0032】
また、第2の検出部17は、第1の進行軸と、第2の検出部17の検出面とのなす第1の角度が第1の角度閾値以下又は所定の角度となるように、分離部16に対して配置されていてよい。本実施形態において、第2の検出部17は、第1の角度が90°となるように配置されている。
【0033】
本実施形態において、第2の検出部17は、パッシブセンサである。本実施形態において、第2の検出部17は、さらに具体的には、素子アレイを含む。例えば、第2の検出部17は、イメージセンサ又はイメージングアレイなどの撮像素子を含み、検出面において結像した電磁波による像を撮像して、撮像した対象obを含む空間の画像情報を生成する。
【0034】
本実施形態において、第2の検出部17は、さらに具体的には可視光の像を撮像する。第2の検出部17は、生成した画像情報を信号として制御部14に送信する。第2の検出部17は、赤外線、紫外線、及び電波の像など、可視光以外の像を撮像してよい。
【0035】
切替部18は、分離部16から第2の方向d2に進行する電磁波の経路上に設けられている。切替部18は、第2の方向d2における対象obの一次結像位置又は一次結像位置近傍に、設けられている。
【0036】
本実施形態において、切替部18は、結像位置に設けられている。切替部18は、入射部15及び分離部16を通過した電磁波が入射する作用面asを有している。作用面asは、2次元状に沿って並ぶ複数の切替素子seによって構成されている。作用面asは、後述する第1の状態及び第2の状態の少なくともいずれかにおいて、電磁波に、例えば、反射及び透過などの作用を生じさせる面である。
【0037】
切替部18は、作用面asに入射する電磁波を、第3の方向d3に進行させる第1の状態と、第4の方向d4に進行させる第2の状態とに、切替素子se毎に切替可能である。本実施形態において、第1の状態は、作用面asに入射する電磁波を、第3の方向d3に反射する第1の反射状態である。また、第2の状態は、作用面asに入射する電磁波を、第4の方向d4に反射する第2の反射状態である。
【0038】
本実施形態において、切替部18は、さらに具体的には、切替素子se毎に電磁波を反射する反射面を含んでいる。切替部18は、切替素子se毎の各々の反射面の向きを任意に変更することにより、第1の反射状態及び第2の反射状態を切替素子se毎に切替える。
【0039】
本実施形態において、切替部18は、例えばDMD(Digital Micro mirror Device:デジタルマイクロミラーデバイス)を含む。DMDは、作用面asを構成する微小な反射面を駆動することにより、切替素子se毎に反射面を作用面asに対して+12°及び-12°のいずれかの傾斜状態に切替可能である。作用面asは、DMDにおける微小な反射面を載置する基板の板面に平行である。
【0040】
切替部18は、制御部14の制御に基づいて、第1の状態及び第2の状態を、切替素子se毎に切替える。例えば、
図2に示すように、切替部18は、同時に、一部の切替素子se1を第1の状態に切替えることにより切替素子se1に入射する電磁波を第3の方向d3に進行させ得、別の一部の切替素子se2を第2の状態に切替えることにより切替素子se2に入射する電磁波を第4の方向d4に進行させ得る。より具体的には、制御部14は偏向部13からの方向情報に基づいて、電磁波が照射された方向又は電磁波が照射された位置を検出する。そして、検出した電磁波の照射方向又は照射位置に応じた切替素子se1を第1の状態とし、それ以外の切替素子se1は第2の状態とすることで、対象obからの反射波を選択的に第3の方向d3に進行させる。分離部16を通過した電磁波のうち、対象obからの反射波以外の電磁波は第4の方向d4に進行するため、第1の検出部20には入射しない。
【0041】
図1に示すように、第1の後段光学系19は、切替部18から第3の方向d3に設けられている。第1の後段光学系19は、例えば、レンズ及びミラーの少なくとも一方を含む。第1の後段光学系19は、切替部18において進行方向を切替えられた電磁波としての対象obの像を結像させる。
【0042】
第1の検出部20は反射波を検出する。第1の検出部20は、切替部18による第3の方向d3に進行した後に第1の後段光学系19を経由して進行する電磁波を検出可能な位置に配置されている。第1の検出部20は、第1の後段光学系19を経由した電磁波、すなわち第3の方向d3に進行した電磁波を検出して、検出信号を出力する。
【0043】
また、第1の検出部20は、切替部18とともに、分離部16から第2の方向d2に進行して切替部18により第3の方向d3に進行方向が切替えられた電磁波の第2の進行軸が、第1の検出部20の第2の検出軸に平行となるように、分離部16に対して配置されていてよい。第2の進行軸は、切替部18から第3の方向d3に進行する、放射状に広がりながら伝播する電磁波の中心軸である。本実施形態において、第2の進行軸は、入射部15の光軸を切替部18まで延ばし、切替部18において第3の方向d3に平行になるように折曲げた軸である。第2の検出軸は、第1の検出部20の検出面の中心を通り、検出面に垂直な軸である。
【0044】
さらに、第1の検出部20は、切替部18とともに、第2の進行軸及び第2の検出軸の間隔が第2の間隔閾値以下となるように配置されていてよい。第2の間隔閾値は、第1の間隔閾値と同じ値であってよいし、異なる値であってよい。また、第1の検出部20は、第2の進行軸及び第2の検出軸が一致するように配置されていてよい。本実施形態において、第1の検出部20は、第2の進行軸及び第2の検出軸が一致するように配置されている。
【0045】
また、第1の検出部20は、切替部18とともに、第2の進行軸と、第1の検出部20の検出面とのなす第2の角度が第2の角度閾値以下又は所定の角度となるように、分離部16に対して配置されていてよい。第2の角度閾値は、第1の角度閾値と同じ値であってよいし、異なる値であってよい。本実施形態において、第1の検出部20は、前述のように、第2の角度が90°となるように配置されている。
【0046】
本実施形態において、第1の検出部20は、照射部12から対象obに向けて照射された電磁波の反射波を検出するアクティブセンサである。第1の検出部20は、例えばAPD(Avalanche PhotoDiode)、PD(PhotoDiode)及び測距イメージセンサなどの単一の素子を含む。また、第1の検出部20は、APDアレイ、PDアレイ、測距イメージングアレイ、及び測距イメージセンサなどの素子アレイを含むものであってよい。
【0047】
本実施形態において、第1の検出部20は、被写体からの反射波を検出したことを示す検出情報を信号として制御部14に送信する。第1の検出部20は、さらに具体的には、赤外線の帯域の電磁波を検出する。
【0048】
また、本実施形態において、第1の検出部20は、対象obまでの距離を測定するための検出素子として用いられる。換言すると、第1の検出部20は、測距センサを構成する素子であって、電磁波を検出できればよく、検出面において結像される必要がない。それゆえ、第1の検出部20は、第1の後段光学系19による結像位置である二次結像位置に設けられなくてよい。すなわち、この構成において、第1の検出部20は、全ての画角からの電磁波が検出面上に入射可能な位置であれば、切替部18により第3の方向d3に進行した後に第1の後段光学系19を経由して進行する電磁波の経路上のどこに配置されてよい。
【0049】
以上のような構成を有することにより、測距装置10は画像上における所定の位置と、当該位置の距離を測定するための反射波の光軸を一致させている。
【0050】
ここで、
図3は反射波を含む電磁波の検出を説明するための図である。
図3において、対象obが存在する空間は、照射系111が電磁波を照射する1フレームあたりの回数で分割され、格子状に区分されている。一般に、反射波を含む電磁波の1フレーム分の検出に要する時間は、撮像素子等によって1フレーム分の撮像画像50(
図5参照)が取得される時間より長い。
図3の例では、照射部12から照射されたビーム状の電磁波が偏向部13で反射されて、照射波として、空間における1つの領域Rに入射されている。領域Rに存在する対象obで反射した反射波を含む電磁波が、入射部15に入射される。本実施形態において、反射波は赤外線である。また、反射波を含む電磁波は、外光が領域Rに存在する対象obで反射した可視光を含む。分離部16は、反射波を含む電磁波のうち可視光を第1の方向d1に反射する。反射された可視光は第2の検出部17で検出される。また、分離部16は、反射波を含む電磁波のうち赤外線を第2の方向d2に透過する。分離部16を透過した赤外線は、切替部18で反射して、少なくとも一部が第3の方向d3に進行する。第3の方向d3に進行した赤外線は、第1の後段光学系19を通って、第1の検出部20で検出される。
【0051】
(記憶部)
記憶部112は、各種の情報を記憶するメモリとしての機能を有してよい。記憶部112は、例えば制御部14において実行されるプログラム、及び、制御部14において実行された処理の結果などを記憶してよい。また、記憶部112は、制御部14のワークメモリとして機能してよい。記憶部112は、例えば半導体メモリ等により構成することができるが、これに限定されず、任意の記憶装置とすることができる。別の例として、記憶部112は、制御部14が備えるプロセッサの内部メモリであってよいし、制御部14に接続される外部の記憶装置であってよい。
【0052】
記憶部112は、モデル生成部148によって生成される学習済みモデルを記憶してよい。本実施形態において、学習済みモデルは、後述する深度推定モデル及びサンプリング点推定モデルを含む。
【0053】
(制御部)
入力部141は、入力情報を取得する。入力情報は、測距装置10が密な深度を推定する処理で用いられるデータである。本実施形態において、入力情報は、第2の検出部17からの対象obが存在する空間の画像情報である。入力部141は、入力情報を一時的に記憶するためのバッファを備えて構成されてよい。バッファは、例えば、半導体メモリ又は磁気メモリなどで構成される。
【0054】
出力部142は、測距装置10によって推定される密な深度である出力情報を出力する。本実施形態において、出力部142は出力情報を、測距装置10と異なる外部装置に出力する。外部装置は、例えば危険を検知した場合にドライバーに対して通知する装置であってよい。外部装置は、出力部142が出力した出力情報に基づいて、例えば対向車、障害物などへの接近を判定して、回避行動が必要な場合に通知したり、警告を発したりしてよい。また、外部装置は車両を制御する装置であってよい。外部装置は、出力部142が出力した出力情報に基づいて、例えば測距装置10が搭載された車両が先行車両と車間距離を保持するように車両を制御してよい。つまり、外部装置は、出力部142が出力した出力情報を用いて、アダプティブクルーズコントロールなどを行ってよい。また、出力情報が障害物との距離を示すものであれば、外部装置は、出力情報に基づいて障害物を回避するように車両を制御してよい。ここで、外部装置の「外部」は、測距装置10とは別の装置であることを意味しており、配置される場所について限定するものでない。
【0055】
照射制御部143は、照射系111を制御する。照射制御部143は、例えば照射部12に、電磁波の照射及び停止を切替えさせる。照射制御部143は、例えば偏向部13に、電磁波を反射する向きを変えさせる。後に詳細に説明するように、照射制御部143は、サンプリング点推定部147によって推定されたサンプリング点(すなわち、深度推定部146にとって効果的な測定点)に、照射系111が電磁波を照射するように制御する。
【0056】
受光制御部144は、受光系110を制御する。受光制御部144は、例えば切替部18に、第1の状態及び第2の状態を切替素子se毎に切替えさせる。
【0057】
演算部145は、第1の検出部20の検出情報に基づいて、対象obとの距離を演算する。第1の検出部20の検出情報は距離情報(深度情報)である。演算部145は、取得した検出情報に基づいて、例えばToF(Time-of-Flight)方式で距離を演算可能である。
【0058】
図4に示すように、制御部14は、照射部12に電磁波放射信号を入力することにより、照射部12にパルス状の電磁波を照射させる(“電磁波放射信号”欄参照)。照射部12は、入力された電磁波放射信号に基づいて電磁波を照射する(“照射部放射量”欄参照)。照射部12が照射し、かつ、偏向部13が反射して、対象obが存在する空間である照射領域に照射された電磁波は、照射領域において反射する。制御部14は、照射領域の反射波の入射部15による切替部18における結像領域の中の少なくとも一部の切替素子seを第1の状態に切替え、他の切替素子seを第2の状態に切替える。そして、第1の検出部20は、照射領域において反射された電磁波を検出するとき(“電磁波検出量”欄参照)、検出情報を制御部14に通知する。
【0059】
演算部145は、検出情報を含む上記の信号の情報を取得する。演算部145は、例えば、時間計測LSI(Large Scale Integrated circuit)を含み、照射部12に電磁波を照射させた時期T1から、検出情報を取得(“検出情報取得”欄参照)した時期T2までの時間ΔTを計測する。演算部145は、時間ΔTに光速を乗算し、かつ、2で除算することにより、照射位置までの距離を算出する。
【0060】
深度推定部146は、疎な深度に基づいて密な深度を推定する。深度推定部146は、疎な深度を含む情報を入力し、推定される密な深度を出力するモデルを用いて構成されてよい。モデルは、数値モデルであってよいし、機械学習モデルであってよい。本実施形態において、深度推定部146は、モデル生成部148によって生成される機械学習済みモデル(深度推定モデル)を用いて構成される。深度推定部146は、推定を実行する場合に、記憶部112から深度推定モデルを読み出してよい。また、本実施形態において、深度推定部146は、入力する情報として、疎な深度に加えて、入力情報を用いる。換言すると、本実施形態において、深度推定モデルは、疎な深度の情報及び入力情報(画像情報)を入力して、推定される密な深度を出力する。
【0061】
サンプリング点推定部147は、疎な深度として測定される距離情報におけるサンプリング点を推定する。本実施形態において、サンプリング点推定部147が推定したサンプリング点の情報は照射制御部143に伝えられて、照射制御部143が、推定されたサンプリング点に電磁波を照射するように照射系111を制御する。サンプリング点推定部147は、入力情報に基づいて、所定の処理に従って、深度推定部146にとって効果的なサンプリング点を推定する。サンプリング点推定部147は、入力情報を入力し、推定されるサンプリング点を出力するモデルを用いて構成されてよい。モデルは、数値モデルであってよいし、機械学習モデルであってよい。本実施形態において、サンプリング点推定部147は、モデル生成部148によって生成される機械学習済みモデル(サンプリング点推定モデル)を用いて構成される。サンプリング点推定部147は、推定を実行する場合に、記憶部112からサンプリング点推定モデルを読み出してよい。
【0062】
ここで、サンプリング点推定モデルを用いて実行される所定の処理は、深度推定部146によって推定された複数の出力情報を用いた評価に基づいて決定される。詳細について後述するが、所定の処理が深度推定部146の推定結果に基づいて決定されることによって、サンプリング点推定部147は、深度推定部146にとって効果的なサンプリング点を推定できる。本実施形態において、サンプリング点推定モデルは、上記の評価に基づいて生成される教師データを用いた機械学習によって生成される。
【0063】
モデル生成部148は、学習フェーズにおいて、深度推定モデル及びサンプリング点推定モデルを生成する。上記のように、本実施形態において、これらのモデルは教師データを用いる機械学習によって生成される。ここで、測距装置10が処理を実行するフェーズは、「学習フェーズ」と「推定フェーズ」とに分けられる。推定フェーズは、測距装置10がリアルタイムに取得した入力情報などを用いて密な深度を推定するフェーズである。学習フェーズは、推定フェーズより前(密な深度の推定の実行前)であって、上記のようにモデルを生成するフェーズである。
【0064】
本実施形態において、モデル生成部148は、教師データを用いる機械学習によって深度推定モデル及びサンプリング点推定モデルを生成する。機械学習の手法は、入力と出力の関係性を分析する回帰分析を行うものであれば特に限定されない。例えばニューラルネットワーク、ランダムフォレストなどの手法が用いられてよい。
【0065】
ここで、制御部14は、1つ以上のプロセッサを含んでよい。プロセッサは、アクセス可能なメモリ(例えば記憶部112)からプログラムをロードして、入力部141、出力部142、照射制御部143、受光制御部144、演算部145、深度推定部146、サンプリング点推定部147及びモデル生成部148として動作してよい。プロセッサは、特定のプログラムを読み込ませて特定の機能を実行する汎用のプロセッサ、及び特定の処理に特化した専用のプロセッサの少なくともいずれかを含んでよい。専用のプロセッサは、特定用途向けIC(ASIC;Application Specific Integrated Circuit)を含んでよい。プロセッサは、プログラマブルロジックデバイス(PLD;Programmable Logic Device)を含んでよい。PLDは、FPGA(Field-Programmable Gate Array)を含んでよい。制御部14は、1つ又は複数のプロセッサが協働するSoC(System-on-a-Chip)、及びSiP(System In a Package)の少なくともいずれかを含んでよい。
【0066】
(深度推定)
一般に、疎な深度を含む情報を入力し、推定される密な深度を出力する深度推定モデルでは、疎な深度のサンプリング点の位置によって、密な深度の推定精度が変化する。本実施形態のように、深度推定モデルが疎な深度の情報及び画像情報を入力とする場合に、画像情報に基づいて距離を判別しにくい部分に、疎な深度のサンプリング点の位置が対応することによって、推定される密な深度について、推定精度が向上する。
【0067】
図5は、上記のような推定精度の向上について説明するための図である。
図5において、入力情報(画像情報)に対応する撮像画像50が示されている。また、疎な深度を撮像画像50に対応させて示した「疎な深度画像60」が示されている。また、密な深度を撮像画像50に対応させて示した「密な深度画像70」が示されている。撮像画像50において、例えば太陽光などの強い光の影響で白飛びd1が生じることがある。また、撮像画像50において、光の当たらない遠方などに不鮮明部分d2が生じることがある。このとき、疎な深度のサンプリング点(
図5のS)の位置を、白飛びd1及び不鮮明部分d2に対応させることによって、深度推定部146が白飛びd1及び不鮮明部分d2の距離(深さ)を把握することができる。そのため、深度推定部146が推定する密な深度の推定精度が向上する。
【0068】
このような疎な深度のサンプリング点(
図5におけるS)は、密な深度の推定精度を向上させる、深度推定部146にとって「効果的なサンプリング点」である。効果的なサンプリング点は、深度推定部146が用いる深度推定モデルに依存する。詳細について後述するが、サンプリング点推定モデルが実行する所定の処理は、深度推定部146によって推定された複数の出力情報(密な深度)の評価に基づいて決定される。
【0069】
図6は、推定フェーズにおいて、本実施形態に係る測距装置10が行う密な深度の推定について説明するための図である。入力情報として画像情報が入力部141によって取得される。サンプリング点推定部147は、画像情報から、疎な深度として測定される距離情報におけるサンプリング点を推定する。推定されるサンプリング点は、深度推定部146にとって効果的なサンプリング点である。照射制御部143は、サンプリング点推定部147によって推定されたサンプリング点に、照射系111が電磁波を照射するように制御する。演算部145は、第1の検出部20の検出情報に基づいて、サンプリング点における対象obとの距離(深度)を演算し、疎な深度として深度推定部146に出力する。深度推定部146は、画像情報と疎な深度から、高精度に密な深度を推定する。ここで、測距装置10が行う密な深度の推定において、測定される距離(深度)は疎な深度であって、測距のフレームレートを高めることができる。また、深度推定部146は、1つのモデル(深度推定モデル)で構成することができ、演算を高速に実行できる。よって、本実施形態に係る測距装置10は、リアルタイム計測に適している。
【0070】
(モデル生成)
上記のように、学習フェーズにおいて、モデル生成部148は、教師データを用いる機械学習によって深度推定モデル及びサンプリング点推定モデルを生成する。これらのモデルのうち深度推定モデルは、例えばディープラーニングなどを用いて生成されてよい。別の例として、深度推定モデルは、既に生成されたモデルを利用してよい。サンプリング点推定モデルは、深度推定モデルの出力を用いて、以下のように生成される。
【0071】
図7は、深度推定モデルを用いた、効果的なサンプリング点の算出について説明するための図である。まず、画像情報と、画像情報に対応する密な深度の教師データが用意される。
図7において、画像情報に対応する「撮像画像51」が示されている。また、密な深度の教師データを撮像画像51に対応させて示した「密な深度画像71」が示されている。
【0072】
モデル生成部148は、密な深度の教師データから、複数の疎な深度データを生成する。
図7の疎な深度画像60-1~60-n(nは2以上の整数)は、複数の疎な深度データの深度画像である。複数の疎な深度データは、サンプリング点がそれぞれ異なるように生成される。モデル生成部148は、例えば遺伝的アルゴリズムを用いて、密な深度の教師データから、複数の疎な深度データを生成してよい。
【0073】
モデル生成部148は、深度推定部146の深度推定モデルに複数の疎な深度データを順に入力して、複数の密な深度データを出力させる。
図7の密な深度画像70-1~70-nは、複数の密な深度データの深度画像である。モデル生成部148は、複数の密な深度データのそれぞれについて評価を行う。
図7の例において、評価は、複数の密な深度データのそれぞれについて、密な深度の教師データと比較を行い、一致しない部分をエラーとして、エラーの多少又はエラーの大きさを評価値としてよい(
図7のError:e1~en)。モデル生成部148は、上記の評価と複数の疎な深度データとの対応関係に基づいて、深度推定部146にとって効果的なサンプリング点を算出する。
図7の疎な深度画像61は、算出されたサンプリング点を有する疎な深度データを画像化したものである。
【0074】
続いて、モデル生成部148は、算出されたサンプリング点を有する疎な深度データを、疎な深度の教師データとして、機械学習によってサンプリング点推定モデルを生成する。
図8に示すように、モデル生成部148は、画像情報(撮像画像51)が入力された場合に、疎な深度の教師データと同じサンプリング点を出力するように、サンプリング点推定モデルを生成する。例えばモデル生成部148は、サンプリング点推定モデルが出力したサンプリング点と、疎な深度の教師データにおけるサンプリング点との距離(乖離の度合い)を誤差として学習させてよい。
【0075】
(測距方法)
本実施形態に係る測距装置10の制御部14は、学習フェーズにおいて、例えば
図9のフローチャートに従ってサンプリング点推定モデルを生成する。そして、本実施形態に係る測距装置10の制御部14は、推定フェーズにおいて、例えば
図10のフローチャートの測距方法を実行して、密な深度である出力情報を推定する。
【0076】
図9は、サンプリング点推定モデルの生成処理を示すフローチャートである。制御部14のモデル生成部148は、
図7を参照しながら説明したように、深度推定部146にとって効果的なサンプリング点を算出する(ステップS1)。
【0077】
制御部14のモデル生成部148は、
図8を参照しながら説明したように、算出したサンプリング点を教師データとして、サンプリング点推定部147のモデルを生成する(ステップS2)。
【0078】
図10は、一実施形態に係る測距方法を示すフローチャートである。制御部14の入力部141は、入力情報を取得する(ステップS11)。
【0079】
制御部14のサンプリング点推定部147は、入力情報からサンプリング点を推定する(ステップS12)。
【0080】
制御部14の深度推定部146は、推定されたサンプリング点において測定された疎な深度を取得する(ステップS13)。
【0081】
制御部14の深度推定部146は、疎な深度に基づいて、密な深度を推定する(ステップS14)。
【0082】
以上のように、本実施形態に係る測距装置10は、上記の構成によって、深度推定部146にとって効果的なサンプリング点をサンプリング点推定部147が推定する。そのため、本実施形態に係る測距装置10は、疎な深度から密な深度を推定することにおける推定精度を高めることが可能である。また、深度推定部146は、疎な深度から密な深度を推定する1つのモデルで構成することができる。よって、本実施形態に係る測距装置10は、複数のモデルを用いて演算することなく、推定精度を高めることができる。
【0083】
(他の実施形態)
本開示を諸図面及び実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形及び修正を行うことが容易であることに注意されたい。従って、これらの変形及び修正は本開示の範囲に含まれることに留意されたい。
【0084】
上記の実施形態において、入力部141が取得する入力情報は画像情報であるが、第1の検出部20で検出される赤外線に基づく距離情報(深度情報)であってよい。入力情報として用いられる距離情報は、空間における対象obを識別可能な程度に高密度な測定によって得られる。
【0085】
上記の実施形態において、測距装置10は、画像の撮像機構と反射波による距離の測定機構とで光軸を一致させた構成であるが、これらの光軸が一致していない構成であってよい。即ち、画像の撮像機構と反射波による距離の推定機構とで同じ対象物が捉えられていればよい。ただし、光軸が一致しない場合に視差の影響が生じ得るため、より推定精度を高めたい場合には、上記の実施形態のように光軸が一致した構成を用いてよい。
【0086】
上記の実施形態において、測距装置10が車両等に搭載されることを例示したが、測距装置10は様々な移動体に搭載され得る。本開示における移動体は、例えば車両だけでなく、航空機を含んでよい。また、車両は、例えば自動車、産業車両、鉄道車両、生活車両、及び滑走路を走行する固定翼機等を含んでよい。自動車は、例えば乗用車、トラック、バス、二輪車、及びトロリーバス等を含んでよい。産業車両は、例えば農業及び建設向けの産業車両等を含んでよい。産業車両は、例えばフォークリフト及びゴルフカート等を含んでよい。農業向けの産業車両は、例えばトラクター、耕耘機、移植機、バインダー、コンバイン、及び芝刈り機等を含んでよい。建設向けの産業車両は、例えばブルドーザー、スクレーバー、ショベルカー、クレーン車、ダンプカー、及びロードローラ等を含んでよい。車両は、人力で走行するものを含んでよい。車両の分類は、上記の例に限られない。例えば、自動車は、道路を走行可能な産業車両を含んでよい。複数の分類に同じ車両が含まれてよい。航空機は、例えば固定翼機及び回転翼機等を含んでよい。
【0087】
上記の実施形態において、測距装置10が車両等に搭載されることを例示したが、測距装置10の一部は、車両等に搭載されない構成であってよい。例えば、測距装置10(照射系111及び受光系110を除く)は、移動体から離れた位置に設置され、移動体と通信可能な遠隔サーバで実現されてよい。このとき、移動体は、通信部と、外部装置と、を備えてよい。また、測距装置10のうち照射系111及び受光系110の機能は、移動体が搭載する別の計測装置で実現されてよい。通信部は、上記の実施形態において制御部14と、照射系111及び受光系110との間で送受信されていたデータを、移動体と遠隔サーバとの間で送受信する。移動体が備える通信部は、特に入力情報を遠隔サーバに送信し、遠隔サーバにおいて入力情報に基づいて推定された出力情報を受信する。移動体が備える外部装置は、上記のように、出力情報に基づいて移動体を制御してよいし、又は、出力情報に基づいて移動体のドライバーに対して通知してよい。測距装置10が遠隔サーバで実現されることによって、移動体側の処理負荷を軽減し、他の制御処理にリソースを割くことが可能になる。また、測距装置10が遠隔サーバで実現されることによって、遠隔サーバ側で学習モデル又はアルゴリズムなどをアップデートすれば、移動体毎に更新処理を実行することなく、全ての移動体で即時のアップデートが可能になる。
【0088】
また、他の実施形態として、制御部14が備える機能部のうち、密な深度を推定することに関連する機能部の処理が制御部14とは別のプロセッサ又は装置で実行されてよい。例えば、制御部14とデータの入出力が可能な別のプロセッサが、入力部141と、出力部142と、深度推定部146と、サンプリング点推定部147と、モデル生成部148と、を備える構成であってよい。また、測距装置10とデータの送受信が可能な別の情報処理装置(一例としてコンピュータ)が、モデル生成部148を備えており、モデル生成部148によって生成された学習済みモデルを、ネットワーク経由で記憶部112に記憶させてよい。つまり、学習済みモデルが測距装置10とは別の装置で生成される構成であってよい。
【0089】
上記の実施形態において、測距装置10は、レーザー光を照射して、返ってくるまでの時間を直接測定するDirect ToFにより距離情報を作成する構成である。しかし、測距装置10は、このような構成に限られない。例えば、測距装置10は、電磁波を一定の周期で照射し、照射された電磁波と返ってきた電磁波との位相差から、返ってくるまでの時間を間接的に測定するFlash ToFにより距離情報を作成してよい。また、測距装置10は、他のToF方式、例えば、Phased ToFにより距離情報を作成してよい。
【0090】
上記の実施形態において、切替部18は、作用面asに入射する電磁波の進行方向を2方向に切替え可能であるが、2方向のいずれかへの切替えでなく、3以上の方向に切替え可能であってよい。
【0091】
また、上記の実施形態において、測距装置10は、第2の検出部17がパッシブセンサであり、第1の検出部20がアクティブセンサである構成を有する。しかし、測距装置10は、このような構成に限られない。例えば、測距装置10において、第2の検出部17及び第1の検出部20が共にアクティブセンサである構成でも、パッシブセンサである構成でも上記の実施形態と類似の効果が得られる。
【0092】
上記の実施形態において代表的な例を説明したが、本開示の趣旨及び範囲内で、多くの変更及び置換が可能であることは当業者に明らかである。したがって、本開示は、上記の実施形態によって制限するものと解するべきではなく、特許請求の範囲から逸脱することなく、種々の変形及び変更が可能である。例えば、実施形態の構成図に記載の複数の構成ブロックを1つに組み合わせたり、あるいは1つの構成ブロックを分割したりすることが可能である。
【0093】
また、本開示の解決手段を装置として説明してきたが、本開示は、これらを含む態様としても実現し得るものであり、また、これらに実質的に相当する方法、プログラム、プログラムを記録した記憶媒体としても実現し得るものであり、本開示の範囲にはこれらも包含されるものと理解されたい。
【符号の説明】
【0094】
10 測距装置
12 照射部
13 偏向部
14 制御部
15 入射部
16 分離部
17 第2の検出部
18 切替部
19 第1の後段光学系
20 第1の検出部
50 撮像画像
51 撮像画像
60 疎な深度画像
61 疎な深度画像
70 密な深度画像
71 密な深度画像
110 受光系
111 照射系
112 記憶部
141 入力部
142 出力部
143 照射制御部
144 受光制御部
145 演算部
146 深度推定部
147 サンプリング点推定部
148 モデル生成部