(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-12-19
(45)【発行日】2022-12-27
(54)【発明の名称】センサ遅延時間推定装置
(51)【国際特許分類】
G01C 21/28 20060101AFI20221220BHJP
G01S 17/86 20200101ALI20221220BHJP
G01S 17/931 20200101ALN20221220BHJP
【FI】
G01C21/28
G01S17/86
G01S17/931
(21)【出願番号】P 2020061600
(22)【出願日】2020-03-30
【審査請求日】2021-06-29
(73)【特許権者】
【識別番号】000003609
【氏名又は名称】株式会社豊田中央研究所
(74)【代理人】
【識別番号】110001519
【氏名又は名称】弁理士法人太陽国際特許事務所
(72)【発明者】
【氏名】森 大輝
(72)【発明者】
【氏名】服部 義和
(72)【発明者】
【氏名】杉浦 豪軌
【審査官】武内 俊之
(56)【参考文献】
【文献】特開2013-170904(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01C 21/28
G01S 17/86
G01S 17/931
(57)【特許請求の範囲】
【請求項1】
車両状態の推定に必要な観測量を検出して出力する複数の各々異なるセンサから前記観測量を取得する取得部と、
前記複数のセンサの各々から取得した一定時間の区間の前記観測量に基づいて、前記複数のセンサの各々の、観測量の検出から取得までの遅延時間と、一定時間の区間の車両状態とを推定する演算部と、
を含
み、
前記演算部は、時間と車両状態との相関関係と、前記複数のセンサのうち、観測量の検出から取得までの遅延時間が最小である基準センサの前記観測量とに基づいて、次時刻の車両状態を示す状態量の予測値を算出する状態量予測部と、
前記一定時間の区間内における、前記車両状態の予測値との誤差、並びに前記遅延時間を考慮した前記複数のセンサの観測量と、前記状態量から算出された前記複数のセンサの観測量との偏差に基づいて、前記車両状態及び前記基準センサと異なる他のセンサの遅延時間を推定する車両状態推定部と、
を含むセンサ遅延時間推定装置。
【請求項2】
前記遅延時間は、前記センサが検出したセンサ出力値の後処理時間、前記センサから前記取得部への通信遅延時間、及び前記センサと前記演算部との回路の時間同期ズレの少なくともいずれか1つによって生じる請求項1に記載のセンサ遅延時間推定装置。
【請求項3】
前記遅延時間は、前記複数のセンサのうちの、観測量の検出から取得までの遅延時間が最小である基準センサの遅延時間を基準とした、前記基準センサと異なる他のセンサの遅延時間である請求項
1に記載のセンサ遅延時間推定装置。
【請求項4】
前記状態量は、車両の現在位置を示す座標、前記車両の方位角、前記車両のヨーレート、及び前記車両の車体横速度である請求項1~3のいずれか1項に記載のセンサ遅延時間推定装置。
【請求項5】
前記観測量は、車両の現在位置を示す座標、前記車両の方位角、前記車両のヨーレート、及び前記車両の車体横加速度である請求項4に記載のセンサ遅延時間推定装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、センサの遅延時間を推定するセンサ遅延時間推定装置に関する。
【背景技術】
【0002】
自動運転の自車位置を推定する技術において、近年より多くのセンサが活用されるようになっている。従来から、車載カメラ等の撮像装置、IMU(Inertial Measurement Unit:慣性計測装置)、車速センサ、及び操舵角センサ等が利用されてきたが、近年はミリ波レーダ、LIDAR、ソナー、及びGPS(全地球測位システム)等のGNSS(全地球航法衛星システム)が普及してきている。さらに今後は、予防安全のために街頭又は信号機等のインフラに設置されたカメラ、さらにはスマートフォン等の携帯情報端末の回線を利用したデータの活用も見込まれる。
【0003】
このように活用できるセンサが増えている一方、いつの情報なのかという時間管理が課題になってきている。車速100km/h(28m/s)で走行している車の情報が0.1秒遅れると、例えば位置の情報は28m/s*0.1=2.8m誤る事になる。例えば、車間距離を一定に保つような自動加減速システムを利用している場合、2.8mの誤差は大きな課題である。車載センサの場合は時間管理が比較的行いやすいが、インフラに設置されているようなセンサでは大きな遅延が生じる。
【0004】
時間の管理をする一般的な方法は、そのセンサ情報が取得された時刻を記録し、その時間情報を基準に情報を処理する。しかし、一般的に車載コンピュータは個々の時間を持っており、車載からインフラまですべてのコンピュータの時刻同期をするのは現実的ではない。
【0005】
特許文献1には、GNSS、車載カメラ及びIMUの各センサを統合し、各センサの信頼性を評価しながら最も精度の高い位置を推定する自己位置推定装置の発明が開示されている。
【0006】
特許文献2には、GPSと車輪速計および角速度計の速度の関係を利用して、GPSの時間遅れを推定する位置補正装置の発明が開示されている。
【先行技術文献】
【特許文献】
【0007】
【文献】特開2018-155731号公報
【文献】特開2002-350157号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかしながら、特許文献1に記載の発明は、各時刻に取得されたセンサ情報を同一時刻の情報として扱ってしまっているため、例えばGNSSの信号を位置情報に変換するのに時間を要した場合には推定精度が劣化してしまうという問題があった。
【0009】
特許文献2に記載の発明は、GPSの他に速度情報を出力するセンサについては遅れを検出する事が可能だが、例えばセンサが位置情報のみ出力するような場合だと、遅れを検出する事ができないという問題があった。
【0010】
本発明は、上記問題に鑑みてなされたものであり、センサの遅延時間を推定すると共に車両状態を精度良く推定するセンサ遅延時間推定装置を実現することを目的とする。
【課題を解決するための手段】
【0011】
第1の態様に係るセンサ遅延時間推定装置は、車両状態の推定に必要な観測量を検出して出力する複数の各々異なるセンサから前記観測量を取得する取得部と、
前記複数のセンサの各々から取得した一定時間の区間の前記観測量に基づいて、前記複数のセンサの各々の、観測量の検出から取得までの遅延時間と、一定時間の区間の車両状態とを推定する演算部と、を含み、前記演算部は、時間と車両状態との相関関係と、前記複数のセンサのうち、観測量の検出から取得までの遅延時間が最小である基準センサの前記観測量とに基づいて、次時刻の車両状態を示す状態量の予測値を算出する状態量予測部と、前記一定時間の区間内における、前記車両状態の予測値との誤差、並びに前記遅延時間を考慮した前記複数のセンサの観測量と、前記状態量から算出された前記複数のセンサの観測量との偏差に基づいて、前記車両状態及び前記基準センサと異なる他のセンサの遅延時間を推定する車両状態推定部と、を含んでいる。
【0012】
第2の態様は、第1の態様において、前記遅延時間は、前記センサが検出したセンサ出力値の後処理時間、前記センサから前記取得部への通信遅延時間、及び前記センサと前記演算部との回路の時間同期ズレの少なくともいずれか1つによって生じる。
【0015】
第3の態様は、第1の態様において、前記遅延時間は、前記複数のセンサのうちの、観測量の検出から取得までの遅延時間が最小である基準センサの遅延時間を基準とした、前記基準センサと異なる他のセンサの遅延時間である。
【0016】
第4の態様は、第1の態様から第3の態様のいずれか1つの態様において、前記状態量は、車両の現在位置を示す座標、前記車両の方位角、前記車両のヨーレート、及び前記車両の車体横速度である。
【0017】
第5の態様は、第4の態様において、前記観測量は、車両の現在位置を示す座標、前記車両の方位角、前記車両のヨーレート、及び前記車両の車体横加速度である。
【発明の効果】
【0018】
本発明によれば、センサの遅延時間を推定すると共に車両状態を精度良く推定するという効果を奏する。
【図面の簡単な説明】
【0019】
【
図1】本発明の実施の形態に係るセンサ遅延時間推定装置の一例を示したブロック図である。
【
図2】センサ遅延時間及び車両位置を推定する遅延・状態推定アルゴリズムの一例を示した機能ブロック図である。
【
図3】センサが出力した離散的な出力値の一例と、離散的な出力値をガウス過程回帰、及びt過程回帰によって補完した場合の一例を示した説明図である。
【
図4】状態方程式及び観測方程式の立式における座標系及び状態量の変数の定義を示した説明図である。
【発明を実施するための形態】
【0020】
以下、図面を参照して本発明の実施の形態を詳細に説明する。
図1に示すように、本実施の形態に係るセンサ遅延時間推定装置10は、後述する演算装置14の演算に必要なデータ及び演算装置14による演算結果を記憶する記憶装置18と、撮像装置22が取得した画像情報から目標経路と車両との相対横位置、車両のヨー角及び目標経路の曲率を算出する画像情報処理部20と、画像情報処理部20が算出した横位置偏差、ヨー角偏差及び曲率、車速センサ24が検出した車両前後速度、IMU26が検出した車両の方位角の偏差及び加速度、操舵角センサ28が検出した車両の操舵角、GPS30で検出した車両の現在位置及び現在のヨー角(方位角)、LIDAR32で検出した車両の現在位置及び現在のヨー角、並びにV2X通信部34が無線通信で取得した情報が各々入力される入力装置12と、入力装置12から入力された入力データ及び記憶装置18に記憶されたデータに基づいて車両の自己位置の推定の演算を行なうコンピュータ等で構成された演算装置14と、演算装置14で演算された車両の位置等を表示するCRT又はLCD等で構成された表示装置16と、で構成されている。演算装置14は、各々のセンサの観測量からノイズ及び外れ値を各々取り除くと共に、各々のセンサの観測量の予測値を算出する観測量予測部を有する。また、演算装置14は、車両の運動状態に係る影響、及び前記予測値を含む観測量に基づいて、前記他のセンサの遅延時間と車両の運動状態に係る状態量である車両の現在位置を示す座標、当該車両の方位角、当該車両のヨーレートR、及び当該車両の車体横速度を推定する遅延時間算出部を有する。
【0021】
本実施の形態に係る外界センサである撮像装置22は車載カメラ等であり、一例として、撮影により取得した車両周辺の画像情報を解析して道路の白線等を検出する。又は、画像と高精度地図とのマッチングから現在位置の座標及び車両の方位角を算出してもよい。LIDAR32は、一例として、車両周辺に照射したパルス状のレーザ(電磁波)の散乱光から道路の白線等を検出する。また、本実施形態に係るセンサ遅延時間推定装置10は、ミリ波レーダ、及びソナー等の他のセンサをさらに備えていてもよい。
【0022】
図2は、センサ遅延時間及び車両位置を推定する遅延・状態推定アルゴリズムの一例を示した機能ブロック図である。
図2に示したように、GPS30、撮像装置22、LIDAR32、及びV2X通信部34の各々のセンサは信号処理による遅延が存在する。
【0023】
しかしながら、IMU26、車速センサ、及び操舵角センサ28はデータの検出から演算装置14による取得までの遅延時間が極めて短い。本実施形態では、一般的に遅延が最も少ないと言われているIMU26を基準に、他のセンサ情報の遅延を推定する。換言すれば、本実施形態では、IMU26の観測量の遅延時間と他のセンサの観測量の遅延時間との差分を他のセンサの遅延時間とする。さらに、本実施形態では、推定したセンサ遅延時間を、より精度の高い車両位置の推定に資する。
【0024】
演算装置14は、
図2に示した遅延・状態推定アルゴリズムにより、車両状態を予測する観測量予測部、及びセンサが出力する観測量からセンサ遅延時間及び車両の運動状態を示す状態量を推定する車両状態推定部として機能する。
【0025】
以下、本実施形態に係る遅延・状態推定アルゴリズムについて説明する。一般に、センサが出力する信号(データ)は、離散的である。
図3における×印は、あるセンサが出力したデータの一例である。データの一部は外れ値110となっているが、本実施形態では、かかる外れ値110及びセンサのノイズと思われる異常値は正常データの母集団から予め除外する。
図3に示したように、センサが出力したデータは離散的であり、連続していないので、微分が不可能な状態になっている。本実施形態では、センサが出力したデータを補完して連続的な値とし、微分可能な状態にする。
【0026】
データの補間方法には、線形補間やスプライン補間といった方法が一般的に利用されている。それらの補間方法では、データ間の関係において次数を決定するなど事前の仮定を詳細に設定する必要がある。そのため、センサ情報の特徴を把握したうえで補間方法を各々設定することを要する。しかしながら、今後多様なセンサ情報が活用可能になる中、そのような設定を行うのは現実的ではない。
【0027】
本実施形態では、時間に対するデータの相関を考慮する事によってデータを補間・予測する事が可能なガウス過程回帰という手法を利用する。ガウス過程回帰では一般的に時間とデータの相関とをガウス分布によって決定するというもので、離散的なデータを確率的に連続的に補間ができるのが特徴である。
【0028】
以下にガウス過程回帰を用いたデータの補間方法について説明する。ガウス過程回帰では、データ(t,y)が与えられた際に、t´におけるデータの補間及び予測をすべく、下記のようなカーネル関数と呼ばれる関数を定義する。下記の式中のa
1、a
2は定数であり、適切な値を試行錯誤的に調整することによって決定することが可能だが、カーネル関数の出力値に基づいて推定してもよい。
【0029】
上記のカーネル関数を用いて、次のように要素を持つカーネル行列を定義する。
【0030】
上記のカーネル行列を以下のように3種類準備する。
(1)与えられた(センサが出力した)データ内での相関を表すカーネル行列K(t,t)。
(2)与えられたデータと補間データとの相関を表すカーネル行列K(t,t´)。
(3)補間データ同士の相関を表すカーネル行列K(t´,t´)。
【0031】
これらカーネル行列を用いて、y´の平均値を次のように計算する事ができる。
【0032】
さらに、与えられたデータと補間データとの分散は、下記の式のようになる。
【0033】
図3には、与えられたデータが連続する場合を想定した真値の曲線100と、本実施形態に係るガウス過程回帰の曲線102と、参考としてガウス過程より裾の厚いデータを表現可能とされているt過程回帰の曲線105とが表示されている。
図3に示したように、いずれの関数もt´を入力とした連続関数となっている。連続関数であることから、離散データの補間及び予測が可能となるのみならず、微分も可能になる。さらに、カーネル関数をt過程回帰にすることにより、外れ値110に対してよりロバストな補間が可能となる。
【0034】
続いて、センサ遅延時間及び車両状態の推定について説明する。本実施形態では、MHE(Moving horizon estimation)と呼ばれる、ある一定時間内におけるセンサ情報(データ)と、車両運動方程式に基づく運動拘束を用いて、車両状態を最適化計算によって推定する手法を利用する。
【0035】
当該手法は、ある一定時間過去のデータを利用する事により、センサ情報の遅延又は周期違いに対応ができることが特徴である。また、逐次非線形最適計算を行う事により、非線形な車両状態の拘束条件、及び非線形な観測条件に加え、センサ情報の遅延を推定することが可能となる。
【0036】
MHEにおいて用いる車両運動方程式に基づいた状態方程式及び観測方程式を立式する。
図4は、状態方程式及び観測方程式の立式における座標系及び状態量の変数の定義を示した説明図である。座標系は、緯度nと経度eとで示される。車両200の運動状態を示す状態量の変数は、車両200の現在位置を示す座標である緯度n及び経度eと、方位角ψと、ヨーレートRと、車体横速度Vとである。
【0037】
状態方程式の入力値を次のように定義する。入力値は、遅延なしとみなされる車速センサ24で検出した車速(車両の前後速度)U及び同じく遅延なしとみなされる操舵角センサ28で検出した操舵角δである。
【0038】
従って、状態方程式f
s(x,u)は下記のようになる。下記の式中のl
fは車両重心P
rから前輪までの距離、l
rは車両重心P
rから後輪までの距離、K
fは前輪のコーナリングスティフネス、K
rは後輪のコーナリングスティフネス、I
zはヨー回転の慣性モーメントである。
【0039】
また、状態方程式におけるシステムノイズQ
nを下記のように定義する。
【0040】
続いて観測方程式に適用する観測量の変数を下記のように定義する。観測量の変数は緯度n´、経度e´、方位角ψ´、ヨーレートR´、横加速度A
y´である。観測量の変数のうち、緯度n´及び経度e´は遅延が存在する撮像装置22又はGPS30等により、方位角ψ´、ヨーレートR´及び横加速度A
y´は遅延なしとみなされるIMU26により各々取得する。
【0041】
従って、観測方程式y=f
o(x,u)は下記のようになる。
【0042】
また、観測方程式における観測ノイズR
nを下記のように定義する。
【0043】
続いて、MHEによるセンサ遅延時間の推定の手法について説明する。
図5はMHEの動作の概念図である。
図5に示したように、MHEでは現在からホライズンと呼ばれる一定時間過去までの時間t
hにおける情報を使って、現在の状態を精度よく推定するアルゴリズムである。ホライズンから現在までの時間t
hは、任意の値だが、一例として、数秒間程度である。
【0044】
図5は、遅延時間の考慮を要しないIMU26等のセンサ1と、遅延時間の考慮を要する撮像装置22等のセンサ2とにおける、情報検出のログでもある。
図5において、実時間の軸における各ドットは遅延時間及び自己位置を演算する時刻を示しており、実時間の軸は時間経過を示している。また、センサ1及びセンサ2の各々におけるドットはセンサデータを受信したタイミング(時刻)を示している。センサ1の情報は実時間に対して遅延を伴わないので、最新の情報は現在のものとなる。しかしながら、実時間に対して、センサ2の情報は遅れて自動運転等を司る車両の演算装置(ECU:Electronic Control Unit)で受信するので、センサ2の情報の最新の値は、現在よりも遅延時間t
d分過去の情報となる。センサ2が撮像装置22である場合、撮像装置22が出力した信号は、後段での画像処理等の高度な後処理が必要な情報であるため、撮像装置22が信号を出力した時点から、当該信号を、車両の演算装置が認識可能なセンサ情報として取得するまでに遅延時間t
dが生じる。また、遅延時間t
dは、センサ2から演算装置への通信遅延時間によっても生じ得る。
【0045】
遅延時間tdは、センサ2の時間と車両の演算装置の時間とが同期がとれていない等の場合も、実際にセンサ2が対象物を検知したことを示す信号を出力した時間とセンサ情報の時間とのずれ(これを、「演算周期の非同期による離散化誤差」と称する)に起因して生じ得る。遅延時間tdが生じている場合は、遅延時間tdの区間は情報が無いことになり、推定精度の低下が生じる。この遅延時間tdに対して、前述のガウス過程回帰を利用することで遅延時間td内の情報を精度よく補完すると共に、演算周期の非同期による離散化誤差を最小化する。
【0046】
図5では、一例として、センサ2は撮像装置22を想定しているが、他のLIDAR32等のセンサについても同様の推定が可能である。
【0047】
MHEでは、ある時間区間t
n~t
n+hにおける、下記を満たす引数Xを逐次最適化計算によって算出する。
…(1)
【0048】
【0049】
上記の式中のtdは、例えばIMU26に対するカメラセンサの遅延時間であり、遅延時間tdを推定するセンサが異なれば別個の変数として扱われる。例えば、カメラセンサが出力したセンサ情報から得られる位置及び方位は同じ遅延時間を有しているとし、別のセンサであるLIDAR32等からのセンサ情報は異なる遅延時間を有しているとする。
【0050】
上記の式中の第1項はarrival cost と呼ばれる項で、時間区間の最初の状態量と推定された状態量との偏差を表すコストである。第2項は状態方程式(fs´(xi,ui))による状態量xi+1の拘束(車両運動の拘束)に対するコスト、最後の第3項は遅延時間を考慮した時間ti+td(i=n~n+h)における観測量(fav(ti+td))と観測方程式によって算出される観測量(fo(xi,ui))との関係に対するコスト(偏差)を表す。換言すれば、上記の式中の第1項及び第2項は状態量の変化量に係る影響を示し、上記の式中の第3項は、ガウス過程回帰による予測値を含む観測量と状態量から算出された観測量との偏差を示している。
【0051】
MHEの特徴は、上記の式中の第3項において観測値の遅延時間tdも最適化の対象となっている点である。従来はこの観測値の時間は既知として扱っていたため、時間遅れによる精度の低下が生じてしまっていた。本実施形態では、離散的な観測値をガウス過程回帰を用いて連続関数にすることにより、遅延時間tdの推定が可能になる。離散的な観測値を連続関数にする際に、ガウス過程回帰に代えてt過程回帰を用いてもよい。ガウス過程回帰に代えてt過程回帰を用いることにより、センサ値の外れ値110が存在してもデータをロバストに補間して予測ができる。
【0052】
実際の最適化計算の手法については、例えば上記(1)式の右辺である非線形関数の2乗誤差を最小化する事に特化したガウス・ニュートン法を利用する。上記の方程式は、時間方向の状態変数x
nと時間遅れ変数であるt
dとを上記のように一つのベクトルにまとめたX、さらに各変数に対する分散(状態方程式および観測方程式で定義をした各変数に対するノイズ値)を対角行列に持つWを用いて次のように整理する事ができる。
【0053】
上記を解くことにより、状態量x
nと遅延時間t
dとを含む引数Xを算出できる。
【0054】
具体的には、状態量予測部が、時間と車両状態との相関関係と、複数のセンサのうち、観測量の検出から取得までの遅延時間が最小である基準センサの観測量とに基づいて、状態方程式を用いて、次時刻の車両状態の予測値を算出する。
【0055】
車両状態推定部が、一定時間の区間内における、車両状態の予測値との誤差、並びに遅延時間を考慮した複数のセンサの観測量と、状態量から算出された複数のセンサの観測量との偏差に基づいて、上記(1)式に従って、車両状態及び他のセンサの遅延時間を推定する。
【0056】
例えば、状態方程式による状態量の予測、及び上記の(2)式、(3)式による状態量及び遅延時間の推定を各時刻について繰り返すことにより、引数Xを更新していき、最適解を求める。なお、ΔXの演算方法は各最適化理論によって異なる。
【0057】
例えば、ガウス・ニュートン法では反復計算によって最適解を求める方法であるが、各時刻において収束まで反復を繰り返さずに一回の反復までにとどめる事によってリアルタイム性を保持するのが特徴である。他にも同様にアルゴリズムとしてレーベンバーグ・マーカート法や逐次動的計画法を利用する事も可能である。
【0058】
以上説明したように、本実施の形態に係るセンサ遅延時間推定装置10によれば、一般的に遅延が最も少ないと言われているIMU26を基準に、他のセンサ情報の遅延を推定することができる。さらに、推定したセンサ遅延時間に基づいて、より精度の高い車両位置の推定が可能になる。
【0059】
本実施形態では、ある一定時間区間における、時間に対するセンサ情報の相関を利用する事で、離散時間で取得されるセンサ情報の補間が可能になるとともに、遅延によって取得できていないセンサ情報を予測する事が可能になる。
【0060】
一般的にカルマンフィルタ又はパーティクルフィルタに代表されるような逐次推定を行う推定手法は、最新の情報は全て同時刻の情報として扱ってしまうという欠点がある。本実施形態では、一定時間過去のデータを保存し、それらすべてのセンサ情報を利用して車両200の状態推定を行うMHEを用いることにより、遅延情報に対応する事が可能になる。一般的には遅延時間は既知として扱う場合がほとんどであるが、本アルゴリズムではその遅延時間も未知変数として扱い推定する。この遅延時間を用いる事により、遅延時間が分からないような情報に対しても精度よく活用する事が可能になる。
【符号の説明】
【0061】
10 センサ遅延時間推定装置
12 入力装置
14 演算装置
16 表示装置
18 記憶装置
20 画像情報処理部
22 撮像装置
24 車速センサ
28 操舵角センサ
32 LIDAR
34 V2X通信部