(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-01-06
(45)【発行日】2025-01-15
(54)【発明の名称】測定装置および測距装置
(51)【国際特許分類】
G01S 17/10 20200101AFI20250107BHJP
【FI】
G01S17/10
(21)【出願番号】P 2021539218
(86)(22)【出願日】2020-08-04
(86)【国際出願番号】 JP2020029766
(87)【国際公開番号】W WO2021029270
(87)【国際公開日】2021-02-18
【審査請求日】2023-06-21
(31)【優先権主張番号】P 2019148675
(32)【優先日】2019-08-13
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】316005926
【氏名又は名称】ソニーセミコンダクタソリューションズ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】横山 恭二
【審査官】藤脇 昌也
(56)【参考文献】
【文献】国際公開第2017/057056(WO,A1)
【文献】国際公開第2019/044487(WO,A1)
【文献】特開2008-45984(JP,A)
【文献】特開2009-103464(JP,A)
【文献】米国特許第9760837(US,B1)
【文献】米国特許出願公開第2017/221212(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G01S 7/48 - 7/51
17/00 - 17/95
G01B 11/00 - 11/30
G01C 3/00 ー 3/32
(57)【特許請求の範囲】
【請求項1】
第1の基板に配置され、光源から照射され被測定物で反射される光を受光した際に信号を出力する複数の受光素子と、
前記複数の受光素子の出力信号に基づき、前記光源が発光した発光タイミングから前記受光素子が受光した受光タイミングまでの時間を計測し、時間計測値を計測する時間計測部と、
前記第1の基板とは異なる第2の基板に配置され、前記複数の受光素子の
前記出力信号に基づき、
前記複数の受光素子それぞれに対応する複数の前記時間計測値を入力とする機械学習モデルを用いて前記被測定物までの距離
を算出する
算出部と、
を備える測定装置。
【請求項2】
前記
算出部は、前記光源が1回発光したときに前記時間計測部が計測した前記
時間計測値に基づき、前記距離
を算出する請求項
1に記載の測定装置。
【請求項3】
前記
算出部は、前記光源が複数回発光したときに、前記時間計測部が各発光に対応して計測した前記
時間計測値に基づき、前記距離
を算出する請求項
1に記載の測定装置。
【請求項4】
前記距離に関する情報を認識したと判定した場合に、前記
算出部は、前記距離
の算出を終了する請求項
3に記載の測定装置。
【請求項5】
前記
算出部は、前記機械学習モデルとしてニューラルネットワークを用いて前記距離
を算出する請求項
4に記載の測定装置。
【請求項6】
前記第1の基板と前記第2の基板との間の接続は、銅電極同士の接続である請求項
5に記載の測定装置。
【請求項7】
前記被測定物が存在する被写体空間に関する情報に基づき、前記機械学習モデルの選択、及び/又は、前記時間計測値を取得するためのパラメータの決定を行う決定部をさらに備える請求項1に記載の測定装置。
【請求項8】
被測定物に光を照射する光源と、
第1の基板に配置され、前記被測定物から反射される光を受光した際に信号を出力する複数の受光素子と、
前記複数の受光素子の出力信号に基づき、前記光源が発光した発光タイミングから前記受光素子が受光した受光タイミングまでの時間を計測し、時間計測値を計測する時間計測部と、
前記第1の基板とは異なる第2の基板に配置され、前記複数の受光素子の
前記出力信号に基づき、
前記複数の受光素子それぞれに対応する複数の前記時間計測値を入力とする機械学習モデルを用いて前記被測定物までの距離
を算出する
算出部と、
を備える測距装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、測定装置および測距装置に関する。
【背景技術】
【0002】
光を用いて被測定物までの距離を測定する測距方式の一つとして、直接ToF(direct Time of Flight)方式と呼ばれる測距手法が知られている。直接ToF方式による測距処理では、光源による光の射出を示す射出タイミングから、当該光が被測定物により反射された反射光が受光素子に受光される受光タイミングまでの時間に基づき、被測定物までの距離を求める。
【0003】
より具体的には、射出タイミングから、受光素子により光が受光された受光タイミングまでの時間を計測し、計測された時間を示す時間情報をメモリに記憶する。この計測を複数回実行し、メモリに記憶された複数回の計測による複数の時間情報に基づきヒストグラムを作成する。このヒストグラムに基づき、被測定物までの距離を求める。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上記の従来技術では、ヒストグラムを生成したり、このヒストグラムをしきい値判定し時間情報を検出したり、被測定物までの距離を求めるために種々の処理が必要となり、処理時間がかかるという問題があった。また、種々の処理に必要なパラメータを調整する手間がかかるという問題があった。さらに、距離の算出精度は、時間情報を記憶するメモリのメモリ量や、ヒストグラムの階級(ビン(bins))の数等に依存するため、精度を向上させることが難しいという問題があった。
【0006】
そこで、本開示では、処理時間、パラメータ調整の手間を低減させることができ、精度を向上させることができる測定装置および測距装置を提案する。
【課題を解決するための手段】
【0007】
本開示によれば、測定装置が提供される。測定装置は、複数の受光素子と、認識部と、を備える。複数の受光素子は、第1の基板に配置され、光源から照射され被測定物で反射される光を受光した際に信号を出力する。認識部は、前記第1の基板とは異なる第2の基板に配置され、前記複数の受光素子の出力信号に基づき、機械学習モデルを用いて前記被測定物までの距離に関する情報を認識する。
【発明の効果】
【0008】
本開示によれば、処理時間、パラメータ調整の手間を低減させることができ、精度を向上させることができる。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
【図面の簡単な説明】
【0009】
【
図1】直接ToF方式による測距の一例を模式的に示す図である。
【
図2】受光部が受光した時刻に基づく一例のヒストグラムを示す図である。
【
図3】本開示の実施形態にかかる測距方法の概要を説明するための図である。
【
図4】本開示の実施形態にかかる測距システムの構成の一例を示すブロック図である。
【
図5】本開示の実施形態にかかる測定装置の構成の一例を示すブロック図である。
【
図6】本開示の実施形態にかかる測定装置の積層構造の一例を示す概略図である。
【
図7】ニューラルネットワークの概要を説明するための図である。
【
図8】機械学習モデルの例を説明するための図である。
【
図9】機械学習モデルの例を説明するための図である。
【
図10】認識部による時間情報の認識について説明するための図である。
【
図11】本開示の実施形態にかかる制御装置の構成例を示すブロック図である。
【
図12】測距決定部が決定する測距位置について説明するための図である。
【
図13】測距決定部が決定する測距位置について説明するための図である。
【
図14】本開示の実施形態に係るモデル選択処理の手順の一例を示すフローチャートである。
【
図15】本開示の実施形態に係る測定処理の手順の一例を示すフローチャートである。
【
図16】画素の時間情報の分布の一例を示す図である。
【
図17】画素の時間情報の分布の他の例を示す図である。
【
図18】上述の実施形態および変形例を適用可能な測定装置を使用する使用例を示す図である。
【
図19】本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
【発明を実施するための形態】
【0010】
以下に、本開示の各実施形態について図面に基づいて詳細に説明する。なお、以下の各実施形態において、同一の部位には同一の符号を付することにより重複する説明を省略する。
【0011】
(ヒストグラムを用いた測距方法)
本開示の実施形態の説明に先んじて、理解を容易とするために、測距方法の一つとして、ヒストグラムを用いて測距を行う技術について説明する。この場合の測距技術として、直接ToF(direct Time Of Flight)方式を適用する。直接ToF方式は、光源から射出された光が被測定物により反射した反射光を受光素子により受光し、光の射出タイミングと受光タイミングとの差分の時間に基づき測距を行う技術である。
【0012】
図1および
図2を用いて、直接ToF方式による測距方法の一例について、概略的に説明する。
図1は、直接ToF方式による測距の一例を模式的に示す図である。測距装置300aは、光源部301aと受光部302aとを含む。光源部301aは、例えばレーザダイオードであって、レーザ光をパルス状に発光するように駆動される。光源部301aから射出された光は、被測定物303aにより反射され、反射光として受光部302aに受光される。受光部302aは、光電変換により光を電気信号に変換する受光素子を含み、受光した光に応じた信号を出力する。
【0013】
ここで、光源部301aが発光した時刻(発光タイミング)を時間tem、光源部301aから射出された光が被測定物303aにより反射された反射光を受光部302aが受光した時刻(受光タイミング)を時間treとする。定数cを光速度(2.9979×108[m/sec])とすると、測距装置300aと被測定物303aとの間の距離Dは、次式(1)により計算される。
D=(c/2)×(tem-tre) …(1)
【0014】
測距装置300aは、上述の処理を、複数回繰り返して実行する。受光部302aが複数の受光素子を含み、各受光素子に反射光が受光された各受光タイミングに基づき距離Dをそれぞれ算出してもよい。測距装置300aは、発光タイミングの時間temから受光部302aに光が受光された受光タイミングまでの時間tm(受光時間tmと呼ぶ)を階級(ビン(bins))に基づき分類し、ヒストグラムを生成する。
【0015】
なお、受光部302aが受光時間tmに受光した光は、光源部301aが発光した光が被測定物303aにより反射された反射光に限られない。例えば、測距装置300a(受光部302a)の周囲の環境光も、受光部302aに受光される。
【0016】
図2は、受光部302aが受光した時刻に基づく一例のヒストグラムを示す図である。
図2において、横軸はビン、縦軸は、ビンごとの頻度を示す。ビンは、受光時間t
mを所定の単位時間dごとに分類したものである。具体的には、ビン#0が0≦t
m<d、ビン#1がd≦t
m<2×d、ビン#2が2×d≦t
m<3×d、…、ビン#(N-2)が(N-2)×d≦t
m<(N-1)×dとなる。受光部302aの露光時間を時間t
epとした場合、t
ep=N×dである。
【0017】
測距装置300aは、受光時間tmを取得した回数をビンに基づき計数してビンごとの頻度310aを求め、ヒストグラムを生成する。ここで、受光部302aは、光源部301aから射出された光が反射された反射光以外の光も受光する。このような、対象となる反射光以外の光の例として、上述した環境光がある。ヒストグラムにおいて範囲311aで示される部分は、環境光による環境光成分を含む。環境光は、受光部302aにランダムに入射される光であって、対象となる反射光に対するノイズとなる。
【0018】
一方、対象となる反射光は、特定の距離に応じて受光される光であって、ヒストグラムにおいてアクティブ光成分312aとして現れる。このアクティブ光成分312a内のピークの頻度に対応するビンが、被測定物303aの距離Dに対応するビンとなる。測距装置300aは、そのビンの代表時間(例えばビンの中央の時間)を上述した時間treとして取得することで、上述した式(1)に従い、被測定物303aまでの距離Dを算出することができる。このように、複数の受光結果を用いることで、ランダムなノイズに対して適切な測距が実行可能となる。
【0019】
しかしながら、上述したヒストグラムを用いる測距方法では、受光タイミングである時間treを検出するまでに、複数の受光結果を取得する必要があり、受光タイミングの検出処理に時間がかかってしまう。また、ヒストグラムを生成するために、受光時間tmを記憶しておくメモリが必要となり、装置の回路規模が大きくなってしまう。また、ヒストグラムから時間treを適切に検出するためには、生成したヒストグラムごとに適切なしきい値を設定する必要があり、そのためのフィルタリング処理やしきい値設定処理が必要になるため、処理負荷が大きくなってしまう。また、求められる距離精度によっては確実にノイズを除去できるフィルタ係数や、時間treを適切に検出するためのしきい値が必要となるため、これらを設定するための開発工数も増加してしまう。
【0020】
このように、ヒストグラムを用いる測距方法は、処理時間や、処理負荷あるいはメモリ削減といった観点から改善が望まれる。そこで、本開示の技術では、ヒストグラムは生成せずに、機械学習モデルを用いて受光部の受光タイミング(時間t
re)から被測定物までの距離を認識する。以下、
図3を用いてかかる技術の概要について説明する。
【0021】
(実施形態)
[測距方法の概要]
図3は、本開示の実施形態にかかる測距方法の概要を説明するための図である。
図3に示す測距方法は、測定装置1(
図3での図示は省略する)によって実行される。また、測定装置1は、複数の画素(受光素子)を有する受光部302を有する。
【0022】
図3に示すように、測定装置1の受光部302は、被測定物での反射光が受光された各受光タイミングを受光素子ごとに出力する(ステップS1)。測定装置1は、受光タイミングの分布310に基づき、機械学習モデルを用いて被測定物までの距離に対応する時間t
reを認識する(ステップS2)。具体的に、測定装置1は、複数の受光素子による受光タイミングの分布を入力データとし、被測定物までの距離に対応する時間t
reを正解データとして、機械学習モデルMを予め学習しておく。測定装置1は、ステップS1で受光部302が出力した受光タイミングを入力データとして、機械学習モデルMに入力し、機械学習モデルMの出力結果を被測定物までの距離に対応する時間t
reとして取得する。
【0023】
測定装置1は、取得した時間treから被測定物までの距離を含むデータを生成する(ステップS3)。
【0024】
このように、測定装置1が受光タイミングを入力とする機械学習モデルを用いて被測定物までの距離に対応する時間treを認識することで、測定装置1は、ヒストグラムを生成する必要がなく、距離を測定する時間を短縮することができる。また、ヒストグラムの生成に必要な処理が不要となり、測定装置1は、距離を測定する処理負荷を低減することができる。また、ヒストグラムを生成するためのメモリが不要となり、測定装置1の回路規模を削減することができる。
【0025】
[測距システムの構成]
図4は、本開示の実施形態にかかる測距システムの構成の一例を示すブロック図である。
図4に示す測距システム6は、測定装置1と、光源2と、記憶装置7と、制御装置4と、光学系5と、撮像装置8と、を含む。
【0026】
光源2は、例えばレーザダイオードであって、レーザ光をパルス状に発光するように駆動される。光源2は、面光源としてレーザ光を射出するVCSEL(Vertical Cavity Surface Emitting LASER)を適用することができる。これに限らず、光源2として、レーザダイオードをライン上に配列したアレイを用い、レーザダイオードアレイから射出されるレーザ光をラインに垂直の方向にスキャンする構成を適用してもよい。さらにまた、単光源としてのレーザダイオードを用い、レーザダイオードから射出されるレーザ光を水平および垂直方向にスキャンする構成を適用することもできる。
【0027】
測定装置1は、複数の受光素子を含む。複数の受光素子は、例えば2次元格子状に配列されて受光面を形成する。測定装置1は、複数の受光素子の出力信号に基づき、機械学習を用いて被測定物までの距離に対応する時間treを認識し、距離データを生成する。算出された距離データは、例えば記憶装置7に記憶される。光学系5は、外部から入射する光を、測定装置1が含む受光面に導く。なお、以下、光源2および測定装置1を含む装置を測距装置ともいう。
【0028】
撮像装置8は、例えば被測定物が存在する被写体空間のRGB画像を撮像するRGBカメラである。
【0029】
制御装置4は、測距システム6の全体の動作を制御する。例えば、制御装置4は、測定装置1に対して、光源2を発光させるためのトリガである発光トリガ信号を供給する。測定装置1は、この発光トリガ信号に基づくタイミングで光源2を発光させると共に、発光タイミングを示す時間temを記憶する。また、制御装置4は、例えば外部からの指示に応じて、測定装置1に対して、測距の際のパターンの設定を行う。
【0030】
また、制御装置4は、撮像装置8が撮像したRGB画像に基づき、測定装置1による機械学習に用いる機械学習モデルMの切り替えを制御する。測定装置1は、制御装置4の制御に応じて、例えば被測定物の種別に応じた機械学習モデルMを選択する。
【0031】
[測定装置の構成]
図5は、本開示の実施形態にかかる測定装置1の構成の一例を示すブロック図である。
図5に示すように、測定装置1は、画素アレイ部100と、測距処理部101と、画素制御部102と、全体制御部103と、クロック生成部104と、発光制御部105と、インタフェース(I/F)部106と、モデル記憶部107と、を含む。
【0032】
全体制御部103は、例えば予め組み込まれるプログラムに従い、測定装置1の全体の動作を制御する。また、全体制御部103は、外部から供給される外部制御信号に応じた制御を実行することもできる。クロック生成部104は、外部から供給される基準クロック信号に基づき、測定装置1内で用いられる1以上のクロック信号を生成する。発光制御部105は、外部から供給される発光トリガ信号に従い発光タイミングを示す発光制御信号を生成する。発光制御信号は、光源2に供給されると共に、測距処理部101に供給される。
【0033】
画素アレイ部100は、2次元格子状に配列される、それぞれ受光素子を含む複数の画素10、10、…を含む受光部である。各画素10の動作は、全体制御部103の指示に従った画素制御部102により制御される。例えば、画素制御部102は、各画素10の出力信号が一度に読み出されるように各画素10を制御する。また画素10は、受光素子として例えばSPAD(Single Photon Avalanche Diode)素子を有する。
【0034】
測距処理部101は、各画素10から読み出された出力信号に基づき、被測定物までの距離Dを測定する。測距処理部101は、変換部110と、認識部111と、データ生成部112と、モデル切替部113と、を含む。
【0035】
変換部110は、画素アレイ部100から供給された出力信号を、デジタル情報に変換する。画素アレイ部100から供給される出力信号は、当該画素信号が対応する画素10に含まれる受光素子に光が受光されたタイミングに対応して出力される。変換部110は、供給された出力信号を、当該タイミングを示すデジタル値の時間情報に変換する。変換部110には、画素アレイ部100の全ての画素10の出力信号が入力される。変換部110は、全ての出力信号を時間情報に変換し、認識部111に出力する。
【0036】
認識部111は、機械学習モデルの一例であるDNN(Deep Neural Network)111aを備える。DNN111aは、全画素10の出力信号にそれぞれ対応した時間情報(以下、各画素10の時間情報ともいう)から被測定物までの距離Dに対応した時間情報(以下、被測定物の時間情報ともいう)を認識するように機械学習によって設計された人間の脳神経回路(ニューラルネットワーク)をモデルとした多階層構造のアルゴリズムである。なお、DNN111aは一例であり、認識部111が、機械学習モデルとして、例えばSVM等の回帰モデル等、任意の形式のモデル(学習器)を用いてもよい。
【0037】
認識部111は、変換部110から入力される各画素10の時間情報をDNN111aへ入力してDNN処理を実行することにより、被測定物の時間情報を認識する。そして、認識部111は、DNN111aから出力されるDNN結果を認識結果としてデータ生成部112へ出力する。
【0038】
データ生成部112は、認識部111から入力されるDNN結果から出力データを生成し、記憶装置7へ出力する。具体的に、データ生成部112は、認識部111が認識した被測定物の時間情報に基づき、被測定物までの距離Dを算出して出力データを生成し、I/F部106へ出力する。
【0039】
モデル切替部113は、認識部111の機械学習モデルを切り替える。モデル切替部113は、例えば制御装置4からの指示に基づき、モデル記憶部107に記憶されたモデルを読み出してDNN111aに供給する。
【0040】
I/F部106には、データ生成部112で生成された出力データが供給される。I/F部106は、例えばMIPI(Mobile Industry Processor Interface)であり、出力データを例えば記憶装置7へ出力する。あるいは、I/F部106が出力データを制御装置4や外部装置(図示省略)へ出力してもよい。
【0041】
(測定装置の積層構造)
ここで、
図6を用いて測定装置1の積層構造について概略的に説明する。
図6は、本開示の実施形態にかかる測定装置1の積層構造の一例を示す概略図である。
図6に示すように、測定装置1は、画素アレイ部100が配置される第1の基板P1と、変換部110が配置される第2の基板P2と認識部111が配置される第3の基板P3と、を有する。
【0042】
図6に示すように、画素アレイ部100は、第1の基板P1に配置される。なお、第1の基板P1には、画素アレイ部100の画素10のうち受光素子が配置され、画素10に含まれるその他の回路構成は例えば第2の基板P2など第1の基板P1以外の基板に配置されてもよい。
【0043】
第2の基板P2には、変換部110が配置される。例えば、変換部110が、画素10ごとに時間デジタル変換回路110aを有する場合、第2の基板P2には、各画素10に対応する時間デジタル変換回路が配置される。
【0044】
ここで、時間デジタル変換回路(TDC)110aは、画素10からの出力信号が供給された時間を計測し、計測された時間をデジタル値による時間情報に変換する。このように、TDC110aは、1つの画素10に対して1つの時間情報を生成する回路であり、変換部110は、例えば、画素10の数と同じ数のTDC110aを有する。
【0045】
TDC110aは、例えば光源2が光を照射した照射タイミングから、画素10が光を受光した受光タイミングまでの時間をカウントするカウンタを含む。カウンタは、発光制御部105から供給される発光制御信号に同期して時間の計測(カウント)を開始する。カウンタは、画素10から供給される出力信号の反転タイミングに応じて時間の計測を終了する。TDC110aは、カウンタが時間の計測を開始してから終了するまでのカウント数をデジタル値に変換した時間情報を認識部111に出力する。
【0046】
図6に示す第1の基板P1および第2の基板P2の接合には、例えば互いに接合面に形成された銅電極同士を接続する、いわゆるCu-Cu接合が用いられる。あるいは、第1の基板P1および第2の基板P2の接合に、例えばそれぞれの接合面を平坦化して両者を電子間力で貼り合わせる、いわゆる直接接合や、その他、バンプ接合などを用いてもよい。
【0047】
第3の基板P3には、認識部111が配置される。なお、第3の基板P3に、認識部111以外の、例えばデータ生成部112や全体制御部103などのロジック回路が配置されてもよい。あるいは、データ生成部112やモデル切替部113、全体制御部103などのロジック回路を、別の基板(図示省略)に配置してもよい。
【0048】
第3の基板P3に配置された認識部111には、全てのTDC110aから時間情報が供給される。認識部111は、全てのTDC110aから供給された各画素10の時間情報を入力として機械学習モデルで認識することで、被測定物の時間情報を認識する。
【0049】
図6に示す第2の基板P2および第3の基板P3の接合には、例えば互いに接合面に形成された銅電極同士を接続する、いわゆるCu-Cu接合が用いられる。あるいは、第2の基板P2および第3の基板P3の接合に、例えばそれぞれの接合面を平坦化して両者を電子間力で貼り合わせる、いわゆる直接接合や、その他、バンプ接合などを用いてもよい。
【0050】
このように、本開示の実施形態では、画素アレイ部100、変換部110および認識部111をそれぞれ異なる基板(第1~第3の基板P1~P3)に配置し、測定装置1が全ての画素10の受光時間を一度に計測する。これにより、認識部111は、全ての画素10の出力信号に基づいて被測定物の時間情報を認識することができる。そのため、測定装置1は、ヒストグラムを生成することなく、被測定物までの距離Dを検出することができ、ヒストグラムを生成するための処理やメモリが不要となる。
【0051】
なお、ここでは、画素アレイ部100、変換部110および認識部111をそれぞれ異なる基板(第1~第3の基板P1~P3)に配置する例を示したが、これに限定されない。例えば、画素アレイ部100、変換部110および認識部111を1つの基板に配置してもよい。
【0052】
また、ここでは、全画素10の出力信号を一度に読み出す場合を例に示したが、画素10の読み出し方法はこれに限定されない。例えば所定領域の画素10ごとに出力信号を読み出すようにしてもよい。あるいは、例えば画素10、行または列ごとに出力信号を読み出すようにしてもよい。この場合、測定装置1が画素10ごとに読み出した出力信号(あるいは出力信号を時間に変換した時間情報)を記憶するメモリを有していてもよい。
【0053】
(機械学習モデル)
次に、
図7~
図9を用いて認識部111が距離Dの認識に用いる機械学習モデルついて説明する。上述したように、認識部111には、画素10全ての出力信号に対応する時間情報が入力される。認識部111は、DNN11aに各画素10の時間情報を入力してDNN処理を実行することにより、被測定物の時間情報を認識する。
【0054】
図7を用いて、機械学習モデルのニューラルネットワークの一例を説明する。
図7は、ニューラルネットワークの概要を説明するための図である。
【0055】
図7に示すように、ニューラルネットワーク40は、入力層41、中間層42及び出力層43の3種の層からなり、各層に含まれるノード同士がリンクで接続されたネットワーク構造を有する。
図7における円形はノードに相当し、矢印はリンクに相当する。入力層41に入力データが入力されると、入力層41から中間層42へ、中間層42から出力層43への順に、ノードにおける演算とリンクにおける重み付けとが行われ、出力層43から出力データが出力される。なお、ニューラルネットワークのうち、所定数以上の層を有するものは、DNN(Deep Neural Network)あるいはディープラーニングとも称される。
【0056】
また、
図7に示すニューラルネットワーク40は、一例に過ぎず、所望の機能を実現可能であればどのようなネットワーク構成であってもよい。例えば、
図7の例では、説明を簡単にするために出力層43のノードが1個である場合を示すが、例えば、分類モデルである場合、出力層43のノードの数は複数(例えば分類するクラス数)であってもよい。
【0057】
なお、ニューラルネットワークは、任意の関数を近似できることが知られている。ニューラルネットワークは、バックプロパゲーション等の計算手法を用いることで、教師データに合うネットワーク構造を学習することができる。そのため、ニューラルネットワークによりモデルを構成することにより、モデルは、人が理解できる範囲内で設計される、という表現能力の制約から解放される。
【0058】
なお、認識部111が時間情報の認識に用いる機械学習モデルは、DNN111aに限定されず、種々のネットワークにより構成されてもよい。例えば、機械学習モデルは、SVM(Support Vector Machine)等の回帰モデル等、任意の形式のモデル(学習器)であってもよい。例えば、機械学習モデルは、非線形の回帰モデルや線形の回帰モデル等、種々の回帰モデルであってもよい。
【0059】
また、認識部111が時間情報の認識に用いる機械学習モデルは、被測定物の種類に応じて切り替えられる。かかる点について、
図8および
図9を用いて説明する。
図8および
図9は、機械学習モデルの例を説明するための図である。
【0060】
光源2から照射された光は、被測定物に反射して測定装置1で受光される。このとき、どれくらいの反射光が測定装置1まで到達するかは被測定物の種類によって変化する。
【0061】
図8に示すように、被測定物が車である場合、照射光の多くは、例えば平面で構成されるボディ部分に反射して測定装置1で受光される。そのため、環境光を受光する画素10より、被測定物までの距離に応じた受光タイミングt
c付近で反射光を受光する画素10が多くなる。
【0062】
したがって、
図8のグラフに示すように、受光タイミングの分布は、受光タイミングt
cを含む所定範囲で反射光を受光した画素数が多くなる分布となる。なお、
図8に示すグラフは、縦軸がビンごとの頻度、横軸がビン(時間t)を示しており、各画素の受光タイミングと画素数との関係を示している。換言すると、
図8に示すグラフは、どの時刻に反射光を受光した画素が多いかを示すグラフである。
【0063】
一方、
図9に示すように、被測定物が木である場合、照射光の一部は木の表面で乱反射するため、測定装置1まで到達する反射光は車の場合に比べて少なくなる。そのため、
図9に示すように、受光タイミングの分布は、被測定物までの距離に応じた受光タイミングt
t付近で多くなるが、被測定物が車である場合に比べて、受光タイミングt
t付近で反射光を受光した画素数は少なくなる。
【0064】
このように、受光タイミングの分布は、被測定物までの距離Dだけでなく、被測定物の種類によっても変化する。そこで、本開示の実施形態では、例えば、車、建物、道路、歩行者や木といった被測定物の種類ごとに機械学習モデルを学習する。これにより、被測定物の時間情報の認識精度を向上させることができる。
【0065】
なお、機械学習モデルは、被測定物の種類ごとに、受光タイミングの分布と被測定物の時間情報を関連付けて教師データとして教師あり学習に基づいて予め構築されているものとする。また、構築された機械学習モデルは、予めモデル記憶部107に記憶されているものとする。認識部111は、モデル切替部113の指示に基づき、モデル記憶部107から機械学習モデルを読み出すことで、時間情報の認識に用いる機械学習モデルを切り替える。
【0066】
なお、機械学習モデルの構築は、上述した被測定物の種類ごとに限定されない。例えば、被写体空間のシーンごとに機械学習モデルを構築してもよい。具体的には、例えば昼や夜といった時間ごと、雨天や晴天といった天気ごと、あるいは国、地域、市街地や山間部といった場所ごとに機械学習モデルを構築してもよい。昼と夜とでは、各画素10が受光する反射光以外の例えば環境光が変化する。また、雨天の場合は、雨粒による反射によって画素10の受光タイミングが変化する。また、国、地域、市街地や山間部によって道路状況や標識、周囲環境が異なる。そのため、被写体空間のシーンごとに機械学習モデルを構築することで、被写体空間にある被測定物の時間情報の認識精度を向上させることができる。また、例えば、昼間の市街地で車までの距離Dを認識する場合など、シーンと被測定物の種類との組み合わせごとに機械学習モデルを構築してもよい。
【0067】
(機械学習モデルによる距離認識)
次に、
図10を用いて、認識部111による被測定物の時間情報の認識について説明する。
図10は、認識部111による時間情報の認識について説明するための図である。以下、光源2が照射光を照射することをショットとも記載する。
【0068】
認識部111は、例えば1ショットごとに画素アレイ部100からの出力信号を変換部110で変換した時間情報を取得する。認識部111は、1ショットごとに取得した時間情報をDNN111aに入力し、被測定物の距離Dに対応する時間情報の認識結果を取得する。
【0069】
例えば、
図10に示すように、光源2がN回照射光を照射する場合を例に説明する。このとき、光源2による第n回目の照射を第nショット(n=1~N)と呼ぶ。認識部111は、光源2による第1~第Nショットに対応して、
図10に示すような分布の時間情報を順次取得する。
【0070】
認識部111は、第1~第Nショットそれぞれについて、画素10の時間情報を取得すると、順次DNN111aに入力し、被測定物の時間情報を認識する。例えば、
図10に示す例では、認識部111は、第1ショットに対応して時間情報t
1をDNN11aによる認識結果として取得し、データ生成部112へ出力する。同様に、認識部111は、第nショットに対応して時間t
n(n=2~N)をDNN11aによる認識結果として取得し、データ生成部112へ出力する。
【0071】
データ生成部112は、例えば、認識部111から第1~第Nショットごとに被測定物の時間情報t1~tNを順次取得すると、各ショットに対応する被測定物までの距離Dを上述した式(1)に基づいて算出する。なお、認識部111から出力される時間情報t1~tNが式(1)のtem-treに対応する。
【0072】
このように、データ生成部112は、第1~第Nショットごとに被測定物までの距離Dを算出してもよく、あるいは、データ生成部112は、複数ショットごとに被測定物までの距離Dを算出してもよい。このとき、データ生成部112が、複数ショットにおける被測定物の時間情報の平均値を用いて距離Dを算出してもよい。
【0073】
あるいは、データ生成部112が被測定物の時間情報の値が収束したか否かを判定し、収束したと判定したショットにおける時間情報を用いて距離Dを算出してもよい。なお、時間情報の値が収束し、データ生成部112が距離Dを算出した場合に、データ生成部112が、認識部111による認識が終了したと判定し、被測定物の距離の測定を終了するようにしてもよい。
【0074】
なお、ここでは、光源2が複数回照射した光に基づいて距離Dを算出する場合について説明したが、例えば測定装置1が1ショットで距離Dの測定を終了してもよい。すなわち、認識部111が1ショットに対応して取得した各画素10の時間情報にDNN処理を施して、被測定物の時間情報を認識し、データ生成部112が距離Dを算出すると、測定装置1による距離Dの測定を終了するようにしてもよい。このように、機械学習モデルを用いて距離Dを算出することで、測定装置1は、最短1ショットで距離Dを測定することができ、距離Dの測定時間を短縮することができる。
【0075】
[制御装置]
続いて、
図11を用いて制御装置4の詳細について説明する。制御装置4は、測距システムの制御を行うとともに、モデル切替部113による機械学習モデルの切り替えを制御する。ここでは、主に、制御装置4が機械学習モデルの切り替え制御を行う点について説明する。なお、
図11は、本開示の実施形態にかかる制御装置4の構成例を示すブロック図である。
【0076】
制御装置4は、例えばCPU(Central Processing Unit)、マイクロプロセッサ等の電子回路によって実現される。また、制御装置4は、使用するプログラムや演算パラメータ等を記憶するROM(Read Only Memory)、及び適宜変化するパラメータ等を一時記憶するRAM(Random Access Memory)を含んでいてもよい。
【0077】
制御装置4は、撮像装置8の撮像画像に基づき、被測定物の検出、被写体空間のシーン認識を行い、測定装置1の機械学習モデルの切り替え制御を行う。具体的には、制御装置4は、取得部401、抽出部402、シーン認識部403、測距決定部406、モデル選択部404および通知部405として機能する。
【0078】
取得部401は、撮像装置8からRGB画像を取得する。取得部401は、例えばRGB画像の撮像時刻や撮像場所等に関する情報を取得してもよい。かかる情報は、撮像装置8から取得してもよく、例えばGPSセンサ(図示省略)等のセンサから取得してもよい。かかるセンサは測距システム6が有していてもよく、外部センサであってもよい。
【0079】
抽出部402は、RGB画像から被測定物を抽出する。抽出部402は、例えばテンプレートマッチング等の画像処理を行い、RGB画像から木や車両、道路といった被測定物を抽出する。また、抽出部402が、例えばRGB画像の色情報から空領域や道路を含む地面領域等を抽出してもよい。あるいは、抽出部402がDNN等、機械学習モデルを用いて被測定物、空領域や地面領域等を抽出してもよい。
【0080】
シーン認識部403は、RGB画像から被写体空間のシーンを認識する。あるいは、シーン認識部403は、RGB画像の撮像時刻や撮像場所等に関する情報からシーンを認識してもよい。また、シーン認識部403が、シーン認識に必要な情報を、ネットワーク(図示省略)を介して外部装置等から取得してもよい。
【0081】
ここで、シーンとは、例えば季節、時刻、天気または場所等の周辺情報によって表される被写体空間を示す情報である。RGB画像からシーンを認識する場合、シーン認識部403は、例えば、RGB画像の明るさ(明度)から被写体空間が昼間であるか夜間であるかを認識する。また、シーン認識部403は、抽出部402による抽出結果に基づき、シーンを認識してもよい。例えば、抽出部402が被測定物として建物や歩行者、車等を検出した場合、シーン認識部403は、被写体空間が市街地であると認識する。
【0082】
なお、シーン認識部403によるシーン認識はRGB画像に基づくものに限定されず、RGB画像以外の情報からシーンを認識するようにしてもよい。例えば、シーン認識部403がRGB画像の撮像日時から、被写体空間の季節や時刻等を認識してもよい。また、シーン認識部403がRGB画像の撮像場所から被写体空間の場所を認識してもよい。シーン認識部403は、例えば雨検出センサの検出結果およびRGB画像に基づき、被写体空間の天候を認識してもよい。このように、シーン認識部403は、複数のセンサ等の検出結果に基づいて被写体空間のシーンを認識してもよい。あるいは、時刻情報や天候などをネットワークを介して外部装置から取得することも可能である。
【0083】
あるいは、シーン認識部403は、DNN等の機械学習モデルを用いて被写体空間のシーンを認識してもよい。この場合、シーン認識部403は、DNNにRGB画像を入力してもよく、RGB画像に加え、撮影日時や雨検出センサの検出結果等の情報をDNNに入力してもよい。
【0084】
このように、シーン認識部403は、例えばRGB画像を含むセンサの検出結果に基づき、被写体空間のシーンを認識する。シーン認識部403は、例えば、被写体空間が「日本国内」、「市街地」、「晴れ」および「夕方」であることを認識する。
【0085】
測距決定部406は、抽出部402の抽出結果およびシーン認識部403の認識結果に基づき、距離Dを測定する測距位置(測距点)を決定する。また、測距決定部406は、光源2による照射の方向やパワー、パルス形状等、発光系に関連する各種パラメータの値を決定する。また、測距決定部406は、画素アレイ部100の露光期間やフレームレート等、受光系に関連する各種パラメータの値を選択する。
【0086】
ここで、
図12および
図13を参照して、測距決定部406が決定する測距位置(測距点)について説明する。
図12および
図13は、測距決定部406が決定する測距位置について説明するための図である。
【0087】
なお、ここでは、
図12に示すように、抽出部402がRGB画像M1から木Tr、道路R、車C1、家H、歩行者Peおよび空領域SRを抽出したものとする。このとき、測距決定部406は、抽出部402の抽出結果に基づき、被写体空間に存在するどの被測定物までの距離Dを測定するか決定する。また測距決定部406は、被測定物のどの位置における距離Dを測定するか決定する。
【0088】
具体的には、測距決定部406は、例えば、歩行者Peまでの距離Dを、
図12に「+」で示す5カ所において測定すると決定する。被測定物ごとに測定する距離Dの数N1は、例えば被測定物の種類ごとに予め決まっており、測距決定部406は、かかる数N1に応じてRGB画像M1における測距位置、換言すると光源2から照射される光の方向を決定する。
【0089】
測距決定部406は、被測定物の種類ごとに定められる測定数N1を、例えば被測定物が歩行者Peや車C1等の動体の場合に最も多くし、木Trや家Hといった静止物体の場合は、動体の場合より少なくなるようにする(
図12参照)。また、道路Rのような背景は、静止物体より測定数N1が少なくてもよい。また、空領域SRのように被測定物のない領域は、距離Dの測定を行わなくてもよい。すなわち、空領域SRには被測定物がないと考えられるため、光源2は、空領域SRに向けて光を照射する必要がない。そこで、測距決定部406は、空領域SRを除く被測定物までの距離Dを測定すると決定する。
【0090】
このように、測距決定部406は、光源2から照射される光の方向(測距位置)を、抽出部402が抽出した被測定物の種類とRGB画像における位置とに基づいて決定する。
【0091】
あるいは、
図13に示すように、例えば、抽出部402が横向きの車C2を抽出した場合、測距決定部406は、車C2までの距離Dを測定する測定位置として、位置A1を1つ決定する。これは、車C2が横向きの場合、車C2の側面はほぼ平面で構成されるため、車C2までの距離Dは側面のどの位置で測定しても大きくは変わらないためである。このように、被測定物が平面を有する場合、測距決定部406は、平面の代表位置を測距位置に決定する。これにより、測距システム6は、測定装置1による被測定物までの距離Dの測定回数を削減することができる。
【0092】
なお、ここでは、測距決定部406が代表位置を1つ決定するとしたが、これに限定されない。測距決定部406が複数の代表位置を決定するようにしてもよい。
【0093】
また、測距決定部406は、シーン認識部403の認識結果を用いてシーンに応じた測距位置を決定するようにしてもよい。例えば被写体空間の時間帯が「夜」である場合、測距決定部406は、時間帯が「昼」の場合よりも被測定物までの距離Dの測定数N1が多くなるようにしてもよい。すなわち、測距決定部406は、時間帯が「夜」の場合、「昼」の場合より多くの測定位置で被測定物までの距離Dが測定されるように、測定位置を決定するようにしてもよい。
【0094】
図11に戻り、モデル選択部404は、抽出部402の抽出結果およびシーン認識部403の認識結果に基づき、測定装置1による被測定物の距離Dの認識に用いる機械学習モデルを例えば測距決定部406が決定した測距位置ごとに選択する。
【0095】
具体的に、モデル選択部404は、例えば、抽出部402が歩行者を抽出した場合、歩行者を正解データとして教師あり学習で構築した機械学習モデルを選択する。このように、モデル選択部404は、例えば、抽出部402が抽出した被測定物の種類に応じて機械学習モデルを選択する。
【0096】
あるいは、モデル選択部404がシーン認識部403の認識結果を用いて、シーンに応じた機械学習モデルを選択するようにしてもよい。例えば、被写体空間の天候が「雨」の場合、雨天時に収集した測定データに基づいて構築された機械学習モデルを選択するなど、モデル選択部404は、シーンの認識結果に基づき、シーンにあった機械学習モデルを選択する。
【0097】
また、モデル選択部404は、例えば、抽出部402の抽出結果およびシーン認識部403の認識結果に基づき、機械学習モデルを選択するようにしてもよい。例えば、機械学習モデルに予め関連するキーワードが紐付けられており、モデル選択部404は、抽出結果および認識結果と同じキーワードが紐付けられた機械学習モデルを選択する。具体的に、例えば抽出結果が「車」であり、シーン認識結果が「昼間」、「雨」である場合、モデル選択部404は、抽出結果およびシーン認識結果と複数の機械学習モデルに紐付けられたキーワードとを照合し、結果とキーワードとの一致度が最も高い機械学習モデルを選択する。
【0098】
あるいは、モデル選択部404が、機械学習を用いてモデル選択を行ってもよい。この場合、モデル選択部404は、例えば機械学習モデルの一例であるDNNに、抽出結果およびシーン認識結果を入力してDNN処理を実行することにより、距離Dの測定に用いる機械学習モデルを選択する。
【0099】
通知部405は、モデル選択部404の選択結果を測定装置1に通知する。通知部405は、例えばモデル選択部404が選択した機械学習モデルを指定する情報を測定装置1に通知する。また、モデル選択部404が発光系および受光系に関連するパラメータの値を選択した場合は、選択したパラメータの値を測定装置1または光源2に通知する。
【0100】
[測距処理手順]
次に、測距システム6が実行する測距処理手順の一例を説明する。まず、制御装置4によるモデル選択処理について説明し、その後、測定装置1による測定処理手順について説明する。
【0101】
(モデル選択処理)
図14は、本開示の実施形態に係るモデル選択処理の手順の一例を示すフローチャートである。
【0102】
図14に示すように、制御装置4は、撮像装置8からRGB画像を取得する(ステップS201)。次に、制御装置4は、RGB画像から特徴量を抽出することで、被測定物を抽出する(ステップS202)。
【0103】
続いて、制御装置4は、RGB画像のシーンを認識する(ステップS203)。制御装置4は、ステップS202で抽出した被測定物およびステップS203で認識したシーンに基づき、被測定物の距離Dの測距位置を決定する(ステップS204)。
【0104】
制御装置4は、測距位置ごとに機械学習モデルを選択し(ステップS205)、決定した測距位置および対応する機械学習モデルを測定装置1に通知する(ステップS206)。
【0105】
(測定処理)
図15は、本開示の実施形態に係る測定処理の手順の一例を示すフローチャートである。
【0106】
図15に示すように、測定装置1は、まず、制御装置4の通知および測距位置に基づき、認識部111の認識に用いる機械学習モデルを切り替える(ステップS101)。続いて測定装置1は、光源2を制御して光を照射させる(ステップS102)。
【0107】
測定装置1は、全ての画素10において、光源2が光を照射してから画素10で当該光を受光するまでの時間を計測する(ステップS103)。測定装置1は、機械学習モデルを用いて、全ての画素10における時間の計測結果から、被測定物の時間情報を認識する(ステップS104)。測定装置1は、認識した被測定物の時間情報に基づき、被測定物までの距離Dを含むデータを生成する(ステップS105)。
【0108】
以上、説明したように、本開示の実施形態にかかる測定装置1は、複数の受光素子(画素10)と、認識部111と、を備える。複数の受光素子は、第1の基板P1に配置され、光源2から照射され被測定物で反射される光を受光した際に信号を出力する。認識部111は、第1の基板P1とは異なる第2の基板(上記実施形態の第3の基板P3に対応)に配置され、複数の受光素子の出力信号に基づき、機械学習モデルを用いて被測定物までの距離Dを認識する。
【0109】
これにより、測定装置1は、複数の受光素子の出力信号に基づいて被測定物の時間情報を認識することができ、被測定物までの距離Dの測定に必要な処理時間を低減させることができる。また、測定装置1は、ヒストグラムを生成せず、メモリも必要としないことから、ヒストグラムを用いた距離Dの測定に比べてパラメータ調整の手間を低減させることができ、精度を向上させることができる。
【0110】
[変形例]
なお、上記実施形態では、制御装置4がRGB画像に基づき、機械学習モデルを選択するとしたが、これに限定されない。例えば、測定装置1が、全画素10の時間情報に基づき、機械学習モデルを選択するようにしてもよい。
【0111】
例えば、
図16に示すように、画素10の時間情報の分布が特定の領域で密とならずランダムな分布であったとする。この場合、測定装置1のモデル切替部113は、かかる分布に応じた機械学習モデルを選択し、認識部111の認識で利用する機械学習モデルを切り替える。モデル切替部113は、例えば、変換部110から画素10の時間情報の分布を取得してもよく、認識部111から取得してもよい。なお、
図16は、画素10の時間情報の分布の一例を示す図である。
【0112】
あるいは、測定装置1の例えばモデル切替部113は、かかる分布に基づき、光源2による照射の方向やパワー、パルス形状等、発光系に関連する各種パラメータの値を変更するようにしてもよい。例えば、モデル切替部113は、画素10の時間情報が
図16に示すようにランダムな分布の場合、被測定物までの距離Dが遠いと判定して照射パワーを大きくしたり、照射方向に被測定物がないと判定して照射方向を変更したりするよう各種パラメータの値を変更する。モデル切替部113は、変更したパラメータを例えば発光制御部105に出力する。あるいは、発光制御部105が、かかる分布に基づき、各種パラメータを変更するようにしてもよい。
【0113】
また、
図17に示すように、画素10の時間情報の分布が特定の領域に集中する分布であったとする。すなわち、画素10による受光タイミングの検出結果が飽和した分布の場合、測定装置1のモデル切替部113は、かかる分布に応じた機械学習モデルを選択し、認識部111の認識で利用する機械学習モデルを切り替える。なお、
図17は、画素10の時間情報の分布の他の例を示す図である。
【0114】
あるいは、測定装置1の例えばモデル切替部113は、かかる分布に基づき、光源2による照射の方向やパワー、パルス形状等、発光系に関連する各種パラメータの値を変更するようにしてもよい。モデル切替部113は、変更したパラメータを例えば発光制御部105に出力する。あるいは、発光制御部105が、かかる分布に基づき、各種パラメータを変更するようにしてもよい。
【0115】
なお、ここでは、測定装置1が発光系の各種パラメータを変更するとしたが、例えば受光感度など、受光系の各種パラメータを変更するようにしてもよい。
【0116】
このように、測定装置1が画素10の時間情報に基づき、機械学習モデルを切り替えたり、発光系または受光系の各種パラメータを変更したりすることで、測定装置1は、被測定物までの距離Dの測定精度を向上させることができる。
【0117】
また、上記実施形態では、測定装置1の認識部111が被測定物の時間情報を認識するとしたが、これに限定されない。測定装置1の認識部111が、各画素10の時間情報をDNN111aに入力して、被測定物までの距離Dを認識するようにしてもよい。このように、認識部111は、被測定物の時間情報や距離Dなど、被測定物までの距離Dに関する情報を認識する。
【0118】
なお、上記実施形態では、制御装置4が撮像装置8の撮像結果に基づき、機械学習モデルを選択するとしたが、他のセンサ装置のセンシング結果に基づいて機械学習モデルを選択してもよい。
【0119】
例えば、撮像装置8の代わりに近赤外光(IR)センサや短波赤外(SWIR)センサ、中波赤外(MWIR)センサ、長波赤外(LWIR)センサなどの赤外センサのセンシング結果に基づいて、制御装置4が機械学習モデルを選択するようにしてもよい。あるいは、制御装置4が、光源2から照射される光の周波数帯域とは異なる周波数帯域の光に基づいて距離Dを測定するLIDAR(Laser Imaging Detection and Ranging)センサのセンシング結果に基づいて機械学習モデルを選択するようにしてもよい。また、制御装置4が、RADAR(Radio Detecting and Ranging)センサのセンシング結果に基づいて機械学習モデルを選択するようにしてもよい。
【0120】
あるいは、制御装置4が、上述した撮像装置8を含む各種センサのセンシング結果を組み合わせて、機械学習モデルを選択するようにしてもよい。
【0121】
また、上述した各種センサのセンシング結果を用いて、認識部111が被測定物の時間情報を認識するようにしてもよい。この場合、上述した各種センサの出力が認識部111に入力される。認識部111は、各画素10の時間情報および上述した各種センサの出力をDNN111aに入力してDNN処理を実行することにより、被測定物の時間情報を認識する。このように、各種センサの出力も用いることで、認識部111による被測定物の時間情報の認識精度を向上させることができる。
【0122】
なお、上記実施形態では、測定装置1が機械学習モデルを切り替えて被測定物までの距離Dを測定するとしたが、これに限定されない。例えば、1つの機械学習モデルで複数種類の被測定物に対応できる場合は、測定装置1が1つの機械学習モデルを用いて被測定物までの距離Dを測定するようにしてもよい。あるいは、測定装置1が例えば車など特定の被測定物までの距離Dを測定する場合も、測定装置1が例えば車に特化した1つの機械学習モデルを用いて距離Dを測定するようにしてもよい。
【0123】
また、例えば、実施形態では、データ生成部112およびモデル切替部113が測定装置1の内部に設けられる例について示したが、測距装置の外部に設けられるアプリケーションプロセッサにデータ生成部112およびモデル切替部113を設けてもよい。
【0124】
あるいは、例えば、実施形態では、測距決定部406およびモデル選択部404が制御装置4の内部に設けられる例について示したが、測定装置1に測距決定部406およびモデル選択部404を設けてもよい。この場合、モデル切替部113にモデル選択部404の機能を含めることで、測定装置1にモデル選択部404を設けるようにしてもよい。
【0125】
[効果]
実施形態および変形例にかかる測定装置1は、第1の基板P1に配置され、光源2から照射され被測定物で反射される光を受光した際に信号を出力する複数の受光素子(画素10)と、第1の基板P1とは異なる第3の基板P3に配置され、複数の受光素子の出力信号に基づき、機械学習モデル(DNN111a)を用いて被測定物までの距離Dに関する情報を認識する認識部111と、を備える。
【0126】
これにより、測定装置1は、ヒストグラムを生成せずに被測定物までの距離Dを測定することができ、距離Dの測定に必要な処理時間を低減することができる。
【0127】
また、実施形態および変形例にかかる測定装置1は、複数の受光素子の出力信号に基づき、光源2が発光した発光タイミングから受光素子が受光した受光タイミングまでの時間を計測し、計測値を取得する時間計測部(変換部110)をさらに備える。認識部111は、複数の受光素子それぞれに対応する複数の計測値を入力とする機械学習モデルを用いて距離Dに関する情報を認識する。
【0128】
これにより、測定装置1は、ヒストグラムを生成せずに被測定物までの距離Dを測定することができ、距離Dの測定に必要な処理時間を低減することができる。
【0129】
また、実施形態および変形例にかかる認識部111は、光源2が1回発光したときに時間計測部(変換部110)が計測した計測値に基づき、距離Dに関する情報を認識する。
【0130】
このように、光源2による1度の発光で認識部111が距離Dに関する情報を認識することで、測定装置1は、距離Dの測定時間を低減することができる。
【0131】
また、実施形態および変形例にかかる認識部111は、光源2が複数回発光したときに、時間計測部(変換部110)が各発光に対応して計測した計測値に基づき、距離Dに関する情報を認識する。
【0132】
このように、光源2による複数回の発光で認識部111が距離Dに関する情報を認識することで、測定装置1は、距離Dの測定精度を向上させることができる。
【0133】
また、実施形態および変形例にかかる認識部111は、距離Dに関する情報を認識したと判定した場合に、距離Dに関する情報の認識を終了する。
【0134】
このように、認識部111が距離Dに関する情報を認識した場合に認識処理を終了することで、測定装置1は、距離Dの測定精度を向上させることができる。
【0135】
また、実施形態および変形例にかかる認識部111は、機械学習モデルとしてニューラルネットワークを用いて距離Dに関する情報を認識する。
【0136】
これにより、測定装置1は、距離Dの測定精度を向上させることができる。
【0137】
また、実施形態および変形例にかかる第1の基板P1と第3の基板P3との間の接続は、銅電極同士の接続である。
【0138】
これにより、測定装置1の設計の自由度が向上し、また、測定装置1の小型化が可能となる。
【0139】
また、実施形態および変形例にかかる測距装置は、被測定物に光を照射する光源2と、第1の基板P1に配置され、被測定物から反射される光を受光した際に信号を出力する複数の受光素子(画素10)と、第1の基板P1とは異なる第3の基板P3に配置され、複数の受光素子の出力信号に基づき、機械学習モデル(DNN111a)を用いて被測定物までの距離Dに関する情報を認識する認識部111と、を備える。
【0140】
これにより、測距装置は、ヒストグラムを生成せずに被測定物までの距離Dを測定することができ、距離Dの測定に必要な処理時間を低減することができる。
【0141】
[本開示にかかる技術の適用例]
次に、本開示の実施形態および変形例の適用例について説明する。
図18は、上述の実施形態および変形例を適用可能な測定装置1を使用する使用例を示す図である。
【0142】
上述した測定装置1は、例えば、以下のように、可視光や、赤外光、紫外光、X線等の光をセンシングする様々なケースに使用することができる。
【0143】
・ディジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する装置。
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置。
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置。
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置。
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置。
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置。
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置。
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置。
【0144】
(移動体への適用例)
本開示に係る技術(本技術)は、様々な製品へ適用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
【0145】
図19は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
【0146】
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。
図19に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(Interface)12053が図示されている。
【0147】
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
【0148】
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
【0149】
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
【0150】
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
【0151】
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
【0152】
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
【0153】
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
【0154】
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
【0155】
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。
図19の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
【0156】
図20は、撮像部12031の設置位置の例を示す図である。
【0157】
図20では、撮像部12031として、撮像部12101、12102、12103、12104、12105を有する。
【0158】
撮像部12101、12102、12103、12104、12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102、12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部12105は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
【0159】
なお、
図20には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
【0160】
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
【0161】
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
【0162】
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
【0163】
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
【0164】
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部12031に適用され得る。具体的には、
図4の測距システム6は、撮像部12031に適用することができる。撮像部12031に本開示に係る技術を適用することにより、車両周辺の障害物までの距離の算出速度を向上させることができる。
【0165】
以上、本開示の実施形態について説明したが、本開示の技術的範囲は、上述の実施形態そのままに限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。また、異なる実施形態及び変形例にわたる構成要素を適宜組み合わせてもよい。
【0166】
また、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
【0167】
なお、本技術は以下のような構成も取ることができる。
(1)
第1の基板に配置され、光源から照射され被測定物で反射される光を受光した際に信号を出力する複数の受光素子と、
前記第1の基板とは異なる第2の基板に配置され、前記複数の受光素子の出力信号に基づき、機械学習モデルを用いて前記被測定物までの距離に関する情報を認識する認識部と、
を備える測定装置。
(2)
前記複数の受光素子の前記出力信号に基づき、光源が発光した発光タイミングから前記受光素子が受光した受光タイミングまでの時間を計測し、計測値を取得する時間計測部をさらに備え、
前記認識部は、前記複数の受光素子それぞれに対応する複数の前記計測値を入力とする前記機械学習モデルを用いて前記距離に関する情報を認識する
(1)に記載の測定装置。
(3)
前記認識部は、前記光源が1回発光したときに前記時間計測部が計測した前記計測値に基づき、前記距離に関する情報を認識する(2)に記載の測定装置。
(4)
前記認識部は、前記光源が複数回発光したときに、前記時間計測部が各発光に対応して計測した前記計測値に基づき、前記距離に関する情報を認識する(2)に記載の測定装置。
(5)
前記距離に関する情報を認識したと判定した場合に、前記認識部は、前記距離に関する情報の認識を終了する(4)に記載の測定装置。
(6)
前記認識部は、前記機械学習モデルとしてニューラルネットワークを用いて前記距離に関する情報を認識する(1)~(5)のいずれか1つに記載の測定装置。
(7)
前記第1の基板と前記第2の基板との間の接続は、銅電極同士の接続である(1)~(6)のいずれか1つに記載の測定装置。
(8)
被測定物に光を照射する光源と、
第1の基板に配置され、前記被測定物から反射される光を受光した際に信号を出力する複数の受光素子と、
前記第1の基板とは異なる第2の基板に配置され、前記複数の受光素子の出力信号に基づき、機械学習モデルを用いて前記被測定物までの距離に関する情報を認識する認識部と、
を備える測距装置。
【符号の説明】
【0168】
1 測定装置
2 光源
4 制御装置
6 測距システム
8 撮像装置
10 画素
100 画素アレイ部
107 モデル記憶部
110 変換部
111 認識部
112 データ生成部
113 モデル切替部
401 取得部
402 抽出部
403 シーン認識部
404 モデル選択部
405 通知部
406 測距決定部