(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024037541
(43)【公開日】2024-03-19
(54)【発明の名称】追跡装置
(51)【国際特許分類】
G06T 7/277 20170101AFI20240312BHJP
G01S 13/72 20060101ALI20240312BHJP
【FI】
G06T7/277
G01S13/72
【審査請求】未請求
【請求項の数】7
【出願形態】OL
(21)【出願番号】P 2022142461
(22)【出願日】2022-09-07
(71)【出願人】
【識別番号】000004695
【氏名又は名称】株式会社SOKEN
(71)【出願人】
【識別番号】000004260
【氏名又は名称】株式会社デンソー
(74)【代理人】
【識別番号】110000578
【氏名又は名称】名古屋国際弁理士法人
(72)【発明者】
【氏名】楠本 哲也
(72)【発明者】
【氏名】夏目 充啓
【テーマコード(参考)】
5J070
5L096
【Fターム(参考)】
5J070AB24
5J070AC01
5J070AC20
5J070AE01
5J070AE09
5J070AF03
5J070AK40
5J070BB06
5J070BB15
5J070BB16
5L096CA04
5L096FA66
5L096GA30
5L096GA51
5L096HA05
5L096JA03
(57)【要約】
【課題】物体を追跡するための演算負荷を低減する。
【解決手段】追跡装置4は、センサ2,3から取得した第1,2検出情報と、第1,2検出情報を取得する直前に推定された物体状態とに基づいて、第1,2同一物確率を算出する。追跡装置4は、第1,2検出情報と、第1,2検出情報を取得する直前に推定された物体状態と、第1,2同一物確率とに基づいて、推定した物体状態を示す第1,2観測後種別判定情報を生成する。追跡装置4は、第1,2検出情報のそれぞれについて算出された第1,2種別尤度と第1,2位置尤度と第1,2大きさ尤度とを用いて第1,2同一物確率を算出する。追跡装置4は、第1,2検出情報のうち、3個の値で表される第1,2種別検出情報に対して、第1,2種別検出情報と、第1,2種別検出情報を取得する直前に推定された物体状態を示す第2,1観測後種別判定情報との第1,2類似度を算出する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
周囲の状態を観測するように構成された少なくとも1つのセンサ(2,3)から観測結果を示す少なくとも1つの観測情報を周期的に取得し、前記少なくとも1つの観測情報に基づいて、前記周囲に存在する物体の状態である物体状態を推定して追跡する追跡装置(4)であって、
前記少なくとも1つのセンサから前記少なくとも1つの観測情報を取得する度に、取得した前記少なくとも1つの観測情報に基づいて前記物体状態を推定し直すように構成された状態更新部(S10~S100)を備え、
前記状態更新部は、
前記少なくとも1つのセンサの前記少なくとも1つの観測情報と、前記少なくとも1つの観測情報を取得する直前に前記状態更新部により推定された前記物体状態とに基づいて、取得した前記少なくとも1つの観測情報が、直前に推定された前記物体状態に対応する前記物体から得られた情報である確率を示す同一物確率を算出するように構成された確率算出部(S10~S30,S60~S80)と、
前記少なくとも1つのセンサの前記少なくとも1つの観測情報と、前記少なくとも1つの観測情報を取得する直前に前記状態更新部により推定された前記物体状態と、前記確率算出部により算出された前記同一物確率とに基づいて、推定した前記物体状態を示す物体状態推定情報を生成することにより前記物体状態を推定し直すように構成された状態推定部(S40~S50,S90~S100)とを備え、
前記確率算出部は、
前記少なくとも1つの観測情報のそれぞれについて、前記少なくとも1つの観測情報を取得する直前に前記状態更新部により推定された前記物体状態に対応する前記物体の情報であることの尤もらしさを示す少なくとも1つの尤度を算出するように構成された尤度算出部(S10~S20,S60~S70)を備え、前記尤度算出部により算出された前記少なくとも1つの尤度を用いて前記同一物確率を算出し、
前記尤度算出部は、前記少なくとも1つの観測情報のうち、複数個の値で表される観測情報である複数値観測情報に対して、前記複数値観測情報と、前記複数値観測情報を取得する直前に前記状態更新部により推定された前記物体状態を示す前記物体状態推定情報との類似度を算出するように構成された類似度算出部(S10,S60)を備える追跡装置。
【請求項2】
請求項1に記載の追跡装置であって、
前記状態推定部は、
前記少なくとも1つの観測情報が、前記少なくとも1つの観測情報を取得する直前に前記状態更新部により推定された前記物体状態に対応する前記物体の情報であると仮定した場合における前記物体状態である第1仮定物体状態と、前記少なくとも1つの観測情報が、前記少なくとも1つの観測情報を取得する直前に前記状態更新部により推定された前記物体状態に対応する前記物体の情報でないと仮定した場合における前記物体状態である第2仮定物体状態とを、前記同一物確率を用いて統合することにより、前記物体状態推定情報を生成する追跡装置。
【請求項3】
請求項1または請求項2に記載の追跡装置であって、
前記少なくとも1つのセンサは、複数のセンサであり、
前記複数のセンサは、互いに異なる第1センサと第2センサとを含み、
前記状態更新部は、
前記第1センサから取得した前記少なくとも1つの観測情報を用いて、前記物体状態を第1物体状態として推定する第1推定部(S10~S50)と、
前記第2センサから取得した前記少なくとも1つの観測情報と、前記第1推定部により推定された前記第1物体状態とを用いて、前記物体状態を第2物体状態として推定する第2推定部(S60~S100)と
を備える追跡装置。
【請求項4】
請求項1または請求項2に記載の追跡装置であって、
前記状態推定部は、前記物体状態に加え、前記物体が存在する確率を算出するように構成される追跡装置。
【請求項5】
請求項1または請求項2に記載の追跡装置であって、
前記状態更新部は、PHDフィルタ、LMBフィルタ、PMBMフィルタまたはPMBフィルタに代表されるランダム有限集合理論を用いて前記物体状態を更新する追跡装置。
【請求項6】
請求項1または請求項2に記載の追跡装置であって、
前記複数値観測情報は、前記物体の多次元特徴情報である追跡装置。
【請求項7】
請求項1または請求項2に記載の追跡装置であって、
前記少なくとも1つのセンサから取得された前記少なくとも1つの観測情報と、前記状態推定部により生成された前記物体状態推定情報とのマハラノビス距離を算出するように構成されたマハラノビス距離算出部(S22,S72)と、
前記マハラノビス距離が予め設定された閾値よりも大きい場合には、前記物体状態推定情報に対応する前記物体が前記少なくとも1つのセンサにより観測されなかったと判断するように構成された観測判断部(S24,S74)と
を備える追跡装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、物体を追跡する追跡装置に関する。
【背景技術】
【0002】
特許文献1には、複数のセンサのそれぞれから、複数のセンサにおいて共通する検出領域での検出結果を示す検出情報を受信し、受信した検出情報に基づいて、共通する検出領域内に存在する物体に関する複数の仮説を生成するように構成された自動運転システムが記載されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】米国特許出願公開第2020/0377086号明細書
【発明の概要】
【発明が解決しようとする課題】
【0004】
センサの検出情報に基づいて物体を追跡する追跡装置において、物体を追跡するために複数の仮説の生成を継続すると、時間経過に伴い仮説が大幅に増大して演算負荷が大きくなってしまうという問題があった。
【0005】
本開示は、物体を追跡するための演算負荷を低減することを目的とする。
【課題を解決するための手段】
【0006】
本開示の一態様は、周囲の状態を観測するように構成された少なくとも1つのセンサ(2,3)から観測結果を示す少なくとも1つの観測情報を周期的に取得し、少なくとも1つの観測情報に基づいて、周囲に存在する物体の状態である物体状態を推定して追跡する追跡装置(4)であって、状態更新部(S10~S100)を備える。
【0007】
状態更新部は、少なくとも1つのセンサから少なくとも1つの観測情報を取得する度に、取得した少なくとも1つの観測情報に基づいて物体状態を推定し直すように構成される。
【0008】
状態更新部は、確率算出部(S10~S30,S60~S80)と、状態推定部(S40~S50,S90~S100)とを備える。
確率算出部は、少なくとも1つのセンサの少なくとも1つの観測情報と、少なくとも1つの観測情報を取得する直前に状態更新部により推定された物体状態とに基づいて、取得した少なくとも1つの観測情報が、直前に推定された物体状態に対応する物体から得られた情報である確率を示す同一物確率を算出するように構成される。
【0009】
状態推定部は、少なくとも1つのセンサの少なくとも1つの観測情報と、少なくとも1つの観測情報を取得する直前に状態更新部により推定された物体状態と、確率算出部により算出された同一物確率とに基づいて、推定した物体状態を示す物体状態推定情報を生成することにより物体状態を推定し直すように構成される。
【0010】
確率算出部は、尤度算出部(S10~S20,S60~S70)を備える。尤度算出部は、少なくとも1つの観測情報のそれぞれについて、少なくとも1つの観測情報を取得する直前に状態更新部により推定された物体状態に対応する物体の情報であることの尤もらしさを示す少なくとも1つの尤度を算出するように構成される。そして確率算出部は、尤度算出部により算出された少なくとも1つの尤度を用いて同一物確率を算出する。
【0011】
尤度算出部は、類似度算出部(S10,S60)を備える。類似度算出部は、少なくとも1つの観測情報のうち、複数個の値で表される観測情報である複数値観測情報に対して、複数値観測情報と、複数値観測情報を取得する直前に状態更新部により推定された物体状態を示す物体状態推定情報との類似度を算出するように構成される。
【0012】
このように構成された本開示の追跡装置は、複数個の値で表される複数値観測情報を、1つの値で表される類似度に変換することができるため、仮説の増大を抑制して物体状態を推定することができる。これにより、本開示の追跡装置は、物体を追跡するための演算負荷を低減することができる。
【図面の簡単な説明】
【0013】
【
図1】運転支援システムの構成を示すブロック図である。
【
図2】第1実施形態の追跡処理を示すフローチャートである。
【
図3】ベクトルAおよびベクトルBを示す図である。
【
図5】第1種別判定情報の算出方法を示す図である。
【
図6】第1観測後種別判定情報の算出方法を示す図である。
【
図8】第2実施形態の追跡処理を示すフローチャートである。
【発明を実施するための形態】
【0014】
[第1実施形態]
以下に本開示の第1実施形態を図面とともに説明する。
本実施形態の運転支援システム1は、車両に搭載され、
図1に示すように、カメラセンサ2と、レーダセンサ3と、追跡装置4と、支援実行部5とを備える。以下、運転支援システム1を搭載する車両を自車両という。
【0015】
カメラセンサ2は、例えば、物体までの距離を検出可能なステレオカメラとして構成されており、撮像画像に基づき、画像中の物体について、位置(すなわち、自車両に対する相対位置)と、大きさと、種別とを検出する。本実施形態では、物体の種別として、歩行者、二輪車および自動車が設定されている。カメラセンサ2は、検出結果を示す第1検出情報を生成し、生成した第1検出情報を追跡装置4へ送信する。第1検出情報は、第1位置検出情報、第1大きさ検出情報および第1種別検出情報を含む。第1位置検出情報は、カメラセンサ2が検出した物体の位置を示す情報である。第1大きさ検出情報は、カメラセンサ2が検出した物体の大きさを示す情報である。第1種別検出情報は、カメラセンサ2が検出した物体の種別を示す情報である。
【0016】
レーダセンサ3は、ミリ波またはマイクロ波等のレーダ波を送信し、反射したレーダ波を受信することによって、物体について、位置(すなわち、自車両に対する相対位置)と、大きさと、種別とを検出する。本実施形態では、物体の種別として、歩行者、二輪車および自動車が設定されている。レーダセンサ3は、検出結果を示す第2検出情報を生成し、生成した第2検出情報を追跡装置4へ送信する。第2検出情報は、第2位置検出情報、第2大きさ検出情報および第2種別検出情報を含む。第2位置検出情報は、レーダセンサ3が検出した物体の位置を示す情報である。第2大きさ検出情報は、レーダセンサ3が検出した物体の大きさを示す情報である。第2種別検出情報は、レーダセンサ3が検出した物体の種別を示す情報である。
【0017】
追跡装置4は、CPU11、ROM12およびRAM13等を備えたマイクロコンピュータを中心に構成された電子制御装置である。マイクロコンピュータの各種機能は、CPU11が非遷移的実体的記録媒体に格納されたプログラムを実行することにより実現される。この例では、ROM12が、プログラムを格納した非遷移的実体的記録媒体に該当する。また、このプログラムの実行により、プログラムに対応する方法が実行される。なお、CPU11が実行する機能の一部または全部を、一つあるいは複数のIC等によりハードウェア的に構成してもよい。また、追跡装置4を構成するマイクロコンピュータの数は1つでも複数でもよい。
【0018】
追跡装置4は、カメラセンサ2により生成された第1検出情報と、レーダセンサ3により生成された第2検出情報とに基づいて、自車両の周囲に存在する物体を追跡し、追跡した物体の状態を示す物体情報を生成する。
【0019】
追跡装置4は、第1位置検出情報が示す物体の位置を位置の観測値(以下、第1位置観測値)として、カルマンフィルタを用いて、位置の推定値(以下、第1位置推定値)と、位置の推定値の不確かさを示す位置標準偏差(以下、第1位置標準偏差)と、カルマンゲイン(以下、第1位置カルマンゲイン)とを算出する。
【0020】
追跡装置4は、第1大きさ検出情報が示す物体の大きさを大きさの観測値(以下、第1大きさ観測値)として、カルマンフィルタを用いて、大きさの推定値(以下、第1大きさ推定値)と、大きさの推定値の不確かさを示す大きさ標準偏差(以下、第1大きさ標準偏差)と、カルマンゲイン(以下、第1大きさカルマンゲイン)とを算出する。
【0021】
追跡装置4は、第1種別検出情報が示す物体の種別を種別の観測値(以下、第1種別観測値)として、カルマンフィルタを用いて、種別の推定値(以下、第1種別推定値)と、種別の推定値の不確かさを示す種別標準偏差(以下、第1種別標準偏差)と、カルマンゲイン(以下、第1種別カルマンゲイン)とを算出する。
【0022】
追跡装置4は、第2位置検出情報が示す物体の位置を位置の観測値(以下、第2位置観測値)として、カルマンフィルタを用いて、位置の推定値(以下、第2位置推定値)と、位置の推定値の不確かさを示す位置標準偏差(以下、第2位置標準偏差)と、カルマンゲイン(以下、第2位置カルマンゲイン)とを算出する。
【0023】
追跡装置4は、第2大きさ検出情報が示す物体の大きさを大きさの観測値(以下、第2大きさ観測値)として、カルマンフィルタを用いて、大きさの推定値(以下、第2大きさ推定値)と、大きさの推定値の不確かさを示す大きさ標準偏差(以下、第2大きさ標準偏差)と、カルマンゲイン(以下、第2大きさカルマンゲイン)とを算出する。
【0024】
追跡装置4は、第2種別検出情報が示す物体の種別を種別の観測値(以下、第2種別観測値)として、カルマンフィルタを用いて、種別の推定値(以下、第2種別推定値)と、種別の推定値の不確かさを示す種別標準偏差(以下、第2種別標準偏差)と、カルマンゲイン(以下、第2種別カルマンゲイン)とを算出する。
【0025】
支援実行部5は、例えば、アクチュエータ、オーディオ装置および表示装置などを備える。支援実行部5は、追跡装置4にて生成される物体情報に基づき、自車両の挙動を制御したり、自車両の運転者に対する報知を実行したりする。
【0026】
次に、追跡装置4のCPU11が実行する追跡処理の手順を説明する。追跡処理は、追跡装置4の動作中において、予め設定された処理サイクル毎に繰り返し実行される処理である。処理サイクルの繰り返し周期を実行周期ΔTとする。
【0027】
追跡処理が実行されると、CPU11は、
図2に示すように、まずS10にて、第1類似度s1を算出する。
第1類似度s1は、カメラセンサ2から送信された直近の第1検出情報に含まれる第1種別検出情報と、実行周期ΔT前に実行された1周期前の追跡処理におけるS100で算出された後述の第2観測後種別判定情報とを用いて算出される。なお、追跡装置4が起動した直後に実行される初回の追跡処理におけるS10では、1周期前の追跡処理における第2観測後種別判定情報が存在しないため、第1類似度s1の算出は行われない。
【0028】
第1種別検出情報は、歩行者、二輪車および自動車それぞれの検出確率を示すベクトルで表される。歩行者の検出確率とは、カメラセンサ2が検出した物体が歩行者である確率である。同様に、二輪車の検出確率とは、カメラセンサ2が検出した物体が二輪車である確率である。また、自動車の検出確率とは、カメラセンサ2が検出した物体が自動車である確率である。例えば、第1種別情報が[0.1,0.2,0.7]である場合には、歩行者、二輪車および自動車の検出確率はそれぞれ、10%、20%および70%である。第1種別情報は、歩行者、二輪車および自動車の検出確率の総和が100%となるように生成される。
【0029】
また第2観測後種別判定情報は、第1種別検出情報と同様に、歩行者、二輪車および自動車それぞれの検出確率を示すベクトルで表される。
図3に示すように、第1種別検出情報を表すベクトルをベクトルA=[A
1,A
2,A
3]とし、第2観測後種別判定情報を表すベクトルをベクトルB=[B
1,B
2,B
3]として、CPU11は、式(1)により、第1類似度s1を算出する。ベクトルAとベクトルBとが完全に一致する場合には、第1類似度s1は1になる。
【0030】
【0031】
次にCPU11は、
図2に示すように、S20にて、第1種別尤度q11を算出する。第1種別尤度q11は、カメラセンサ2が検出した物体(すなわち、第1種別検出情報に対応する物体)と、予測の物体(すなわち、第2観測後種別判定情報に対応する物体)とが同一物であることの尤もらしさの度合いである。
【0032】
第1種別尤度q11は、第1類似度s1と、カメラセンサ2の種別判定精度と、予測の種別判定精度とを用いて算出される。なお、追跡装置4が起動した直後に実行される初回の追跡処理におけるS20では、1周期前の追跡処理における第1類似度s1が存在しないため、第1種別尤度q11の算出は行われない。
【0033】
カメラセンサ2の種別判定精度は、0から1までの値であり、予め設定された固定値(例えば、0.2)である。種別判定精度は、値が小さいほど精度が良いことを示している。
【0034】
予測の種別判定精度は、第2観測後種別判定情報が示す種別が、検出した物体の種別と一致する精度である。具体的には、予測の種別判定精度は、後述のS100で算出された複数の第2観測後種別判定情報を用いて算出される標準偏差である。
【0035】
CPU11は、予め設定された第1種別尤度関数に、第1類似度s1とカメラセンサ2の種別判定精度と予測の種別判定精度とを代入することにより、第1種別尤度q11を算出する。第1種別尤度関数は、第1類似度s1と、カメラセンサ2の種別判定精度と、予測の種別判定精度とを変数として第1種別尤度q11を算出するための関数である。なお、第1類似度s1、カメラセンサ2の種別判定精度、および、予測の種別判定精度と、第1種別尤度q11との対応関係が設定された第1種別尤度テーブルを参照することにより、第1種別尤度q11を算出するようにしてもよい。
【0036】
図4のグラフG1は、第1種別尤度関数を示す。但し、グラフG1で示す第1種別尤度関数は、図示の簡略化のために、変数を第1類似度s1のみとしている。
次にCPU11は、
図2に示すように、S30にて、第1同一物確率r1を算出する。第1同一物確率r1は、カメラセンサ2が検出した物体(すなわち、第1種別検出情報に対応する物体)と、予測の物体(すなわち、第2観測後種別判定情報に対応する物体)とが同一物である確率である。
【0037】
第1同一物確率r1は、第1種別尤度q11と、第1位置尤度q12と、第1大きさ尤度q13とを用いて算出される。なお、追跡装置4が起動した直後に実行される初回の追跡処理におけるS30では、1周期前の追跡処理における第1種別尤度q11が存在しないため、第1同一物確率r1の算出は行われない。
【0038】
第1位置尤度q12は、第1位置観測値の尤もらしさの度合いである。CPU11は、第1位置推定値と第1位置標準偏差とに基づいて設定された第1位置尤度関数に、第1位置観測値を代入することにより、第1位置尤度q12を算出する。第1位置尤度関数は、
図4のグラフG2で示すように、第1位置観測値を変数として第1位置尤度q12を算出するための関数である。第1位置尤度関数は、第1位置推定値を平均とし、第1位置標準偏差の二乗を分散とする正規分布を示す。
【0039】
第1大きさ尤度q13は、第1大きさ観測値の尤もらしさの度合いである。CPU11は、第1大きさ推定値と第1大きさ標準偏差とに基づいて設定された第1大きさ尤度関数に、第1大きさ観測値を代入することにより、第1大きさ尤度q13を算出する。第1大きさ尤度関数は、
図4のグラフG3で示すように、第1大きさ観測値を変数として第1大きさ尤度q13を算出するための関数である。第1大きさ尤度関数は、第1大きさ推定値を平均とし、第1大きさ標準偏差の二乗を分散とする正規分布を示す。
【0040】
そしてCPU11は、第1種別尤度q11、第1位置尤度q12および第1大きさ尤度q13の平均値を算出し、更に、この平均値に対して、平均値の最大値が1になるように正規化処理を行った値を第1同一物確率r1とする。
【0041】
次にCPU11は、
図2に示すように、S40にて、第1種別判定情報を算出する。具体的には、CPU11は、
図5に示すように、第1種別判定情報を表すベクトルをベクトルA’とし、第1種別カルマンゲインをK1として、式(2)により、第1種別判定情報を算出する。
【0042】
【0043】
次にCPU11は、
図2に示すように、S50にて、第1観測後種別判定情報と、第1観測後種別判定情報の標準偏差とを算出し、算出した第1観測後種別判定情報および標準偏差をRAM13に記憶する。
【0044】
具体的には、CPU11は、
図6に示すように、第1観測後種別判定情報を表すベクトルをベクトルA’’として、式(3)により、第1観測後種別判定情報を算出する。さらにCPU11は、RAM13に記憶されている複数の第1観測後種別判定情報を用いて、第1観測後種別判定情報の標準偏差を算出する。
【0045】
【0046】
次にCPU11は、
図2に示すように、S60にて、第2類似度s2を算出する。
第2類似度s2は、レーダセンサ3から送信された直近の第2検出情報に含まれる第2種別検出情報と、S50で算出された直近の第1観測後種別判定情報とを用いて算出される。
【0047】
第2種別検出情報を表すベクトルをベクトルC=[C1,C2,C3]とし、第1観測後種別判定情報を表すベクトルをベクトルD=[D1,D2,D3]として、CPU11は、式(4)により、第2類似度s2を算出する。ベクトルCとベクトルDとが完全に一致する場合には、第2類似度s2は1になる。
【0048】
【0049】
次にCPU11は、S70にて、第2種別尤度q21を算出する。第2種別尤度q21は、レーダセンサ3が検出した物体(すなわち、第2種別検出情報に対応する物体)と、予測の物体(すなわち、第1観測後種別判定情報に対応する物体)とが同一物であることの尤もらしさの度合いである。
【0050】
第2種別尤度q21は、第2類似度s2と、レーダセンサ3の種別判定精度と、予測の種別判定精度とを用いて算出される。
レーダセンサ3の種別判定精度は、0から1までの値であり、予め設定された固定値(例えば、0.4)である。
【0051】
予測の種別判定精度は、第1観測後種別判定情報が示す種別が、検出した物体の種別と一致する精度である。具体的には、予測の種別判定精度は、S50で算出された複数の第1観測後種別判定情報を用いて算出される標準偏差である。
【0052】
CPU11は、予め設定された第2種別尤度関数に、第2類似度s2とレーダセンサ3の種別判定精度と予測の種別判定精度とを代入することにより、第2種別尤度q21を算出する。第2種別尤度関数は、第2類似度s2と、レーダセンサ3の種別判定精度と、予測の種別判定精度とを変数として第2種別尤度q21を算出するための関数である。なお、第2類似度s2、レーダセンサ3の種別判定精度、および、予測の種別判定精度と、第2種別尤度q21との対応関係が設定された第2種別尤度テーブルを参照することにより、第2種別尤度q21を算出するようにしてもよい。
【0053】
次にCPU11は、S80にて、第2同一物確率r2を算出する。第2同一物確率r2は、レーダセンサ3が検出した物体(すなわち、第2種別検出情報に対応する物体)と、予測の物体(すなわち、第1観測後種別判定情報に対応する物体)とが同一物である確率である。
【0054】
第2同一物確率r2は、第2種別尤度q21と、第2位置尤度q22と、第2大きさ尤度q23とを用いて算出される。
第2位置尤度q22は、第2位置観測値の尤もらしさの度合いである。CPU11は、第2位置推定値と第2位置標準偏差とに基づいて設定された第2位置尤度関数に、第2位置観測値を代入することにより、第2位置尤度q22を算出する。第2位置尤度関数は、第2位置観測値を変数として第2位置尤度q22を算出するための関数である。第2位置尤度関数は、第2位置推定値を平均とし、第2位置標準偏差の二乗を分散とする正規分布を示す。
【0055】
第2大きさ尤度q23は、第2大きさ観測値の尤もらしさの度合いである。CPU11は、第2大きさ推定値と第2大きさ標準偏差とに基づいて設定された第2大きさ尤度関数に、第2大きさ観測値を代入することにより、第2大きさ尤度q23を算出する。第2大きさ尤度関数は、第2大きさ観測値を変数として第2大きさ尤度q23を算出するための関数である。第2大きさ尤度関数は、第2大きさ推定値を平均とし、第2大きさ標準偏差の二乗を分散とする正規分布を示す。
【0056】
そしてCPU11は、第2種別尤度q21、第2位置尤度q22および第2大きさ尤度q23の平均値を算出し、更に、この平均値に対して、平均値の最大値が1になるように正規化処理を行った値を第2同一物確率r2とする。
【0057】
次にCPU11は、S90にて、第2種別判定情報を算出する。具体的には、CPU11は、第2種別判定情報を表すベクトルをベクトルC’とし、第2種別カルマンゲインをK2として、式(5)により、第2種別判定情報を算出する。
【0058】
【0059】
次にCPU11は、S100にて、第2観測後種別判定情報と、第2観測後種別判定情報の標準偏差とを算出し、算出した第2観測後種別判定情報および標準偏差をRAM13に記憶する。
【0060】
具体的には、CPU11は、第2観測後種別判定情報を表すベクトルをベクトルC’’として、式(6)により、第2観測後種別判定情報を算出する。さらにCPU11は、RAM13に記憶されている複数の第2観測後種別判定情報を用いて、第2観測後種別判定情報の標準偏差を算出する。
【0061】
【0062】
なお、追跡装置4は、第2観測後種別判定情報に基づいて、カメラセンサ2およびレーダセンサ3によって検出された物体が歩行者、二輪車および自動車の何れに該当するか判断する。
【0063】
図7は、各フレームで物体状態推定の演算を実行するために要する時間を、本開示の手法と従来手法とで比較したグラフである。フレームは、上記の実行周期ΔTが経過する毎に繰り返し実行される各処理に対応する。なお、従来手法は、PMBフィルタを用いて物体状態推定の演算を実行する。PMBは、Poisson Multi-Bernoulliの略である。
【0064】
図7に示すように、従来手法における最長演算時間は47msであるのに対し、本開示の手法における最長演算時間は2.7msであり、本開示の手法によって演算時間を短縮することができる。
【0065】
このように構成された追跡装置4は、周囲の状態を観測するように構成されたカメラセンサ2およびレーダセンサ3から検出結果を示す第1,2検出情報を周期的に取得し、第1,2検出情報に基づいて、周囲に存在する物体の状態(以下、物体状態)を推定して追跡する。
【0066】
追跡装置4は、カメラセンサ2およびレーダセンサ3から第1,2検出情報を取得する度に、取得した第1,2検出情報に基づいて物体状態を推定し直すように構成される。
追跡装置4は、カメラセンサ2の第1検出情報と、第1検出情報を取得する直前に推定された物体状態(すなわち、第2観測後種別判定情報)とに基づいて、取得した第1検出情報が、直前に推定された物体状態に対応する物体から得られた情報である確率を示す第1同一物確率r1を算出するように構成される。
【0067】
追跡装置4は、レーダセンサ3の第2検出情報と、第2検出情報を取得する直前に推定された物体状態(すなわち、第1観測後種別判定情報)とに基づいて、取得した第2検出情報が、直前に推定された物体状態に対応する物体から得られた情報である確率を示す第2同一物確率r2を算出するように構成される。
【0068】
追跡装置4は、カメラセンサ2の第1検出情報と、第1検出情報を取得する直前に推定された物体状態(すなわち、第2観測後種別判定情報)と、算出された第1同一物確率r1とに基づいて、推定した物体状態を示す第1観測後種別判定情報を生成することにより物体状態を推定し直すように構成される。
【0069】
追跡装置4は、レーダセンサ3の第2検出情報と、第2検出情報を取得する直前に推定された物体状態(すなわち、第1観測後種別判定情報)と、算出された第2同一物確率r2とに基づいて、推定した物体状態を示す第2観測後種別判定情報を生成することにより物体状態を推定し直すように構成される。
【0070】
追跡装置4は、第1,2検出情報のそれぞれについて、第1,2検出情報を取得する直前に推定された物体状態に対応する物体の情報であることの尤もらしさを示す第1種別尤度q11,q21と、第1,2位置尤度q12,q22と、第1,2大きさ尤度q13,q23を用いて第1同一物確率r1,r2を算出する。そして追跡装置4は、算出された第1,2種別尤度q11,q21と第1,2位置尤度q12,q22と第1,2大きさ尤度q13,q23とを用いて第1,2同一物確率r1,r2を算出する。
【0071】
追跡装置4は、第1,2検出情報のうち、3個の値で表される第1,2種別検出情報に対して、第1,2種別検出情報と、第1,2種別検出情報を取得する直前に推定された物体状態を示す第2,1観測後種別判定情報との第1,2類似度s1,s2を算出するように構成される。
【0072】
このような追跡装置4は、複数個の値で表される第1,2種別検出情報を、1つの値で表される第1,2類似度s1,s2に変換することができるため、仮説の増大を抑制して物体状態を推定することができる。これにより、追跡装置4は、物体を追跡するための演算負荷を低減することができる。
【0073】
また追跡装置4は、第1種別検出情報が、第1種別検出情報を取得する直前に推定された物体状態に対応する物体の情報であると仮定した場合における物体状態である第1仮定物体状態(すなわち、ベクトルA’,C’)と、第1種別検出情報が、第1種別検出情報を取得する直前に推定された物体状態に対応する物体の情報でないと仮定した場合における物体状態である第2仮定物体状態(すなわち、ベクトルB,D)とを、第1,2同一物確率r1,r2を用いて統合することにより、第1,2観測後種別判定情報を生成する。
【0074】
このような追跡装置4は、第1仮定物体状態および第2仮定物体状態の2種類の状態を考慮して物体状態を推定するため、物体状態推定のロバスト性を向上させることができる。
【0075】
また追跡装置4は、カメラセンサ2から取得した第1検出情報を用いて、物体状態を第1物体状態として推定する。そして追跡装置4は、レーダセンサ3から取得した第2検出情報と、推定された第1物体状態とを用いて、物体状態を第2物体状態として推定する。
【0076】
このような追跡装置4は、2つのセンサの検出情報を統合して、物体状態を推定することができる。
以上説明した実施形態において、カメラセンサ2およびレーダセンサ3はセンサに相当し、第1,2検出情報は観測情報に相当し、S10~S100は状態更新部としての処理に相当し、S10~S30,S60~S80は確率算出部としての処理に相当し、同一物確率は第1,2同一物確率r1,r2に相当する。
【0077】
また、S40~S50,S90~S100は状態推定部としての処理に相当し、第1,2観測後種別判定情報は物体状態推定情報に相当し、S10~S20,S60~S70は尤度算出部としての処理に相当し、尤度q11,q21,q12,q22,q13,q23は尤度に相当する。
【0078】
また、S10,S60は類似度算出部としての処理に相当し、第1,2種別検出情報は複数値観測情報に相当する。
また、カメラセンサ2は第1センサに相当し、レーダセンサ3は第2センサに相当し、S10~S50は第1推定部としての処理に相当し、S60~S100は第2推定部としての処理に相当する。
【0079】
[第2実施形態]
以下に本開示の第2実施形態を図面とともに説明する。なお第2実施形態では、第1実施形態と異なる部分を説明する。共通する構成については同一の符号を付す。
【0080】
第2実施形態の運転支援システム1は、追跡処理が変更された点が第1実施形態と異なる。
第2実施形態の追跡処理は、
図8に示すように、S22,S24,S26,S72,S74,S76の処理が追加された点が第1実施形態と異なる。
【0081】
すなわち、S20の処理が終了すると、CPU11は、S22にて、S10で用いたベクトルAと、RAM13に記憶されている複数の第2観測後種別判定情報(すなわち、ベクトルB、ベクトルC’’)とのマハラノビス距離を第1マハラノビス距離として算出する。
【0082】
具体的には、CPU11は、複数のベクトルB(または、ベクトルC’)の平均ベクトルおよび分散共分散行列を算出し、マハラノビス距離を算出するための周知の算出式に、ベクトルAと、複数のベクトルBの平均ベクトルおよび分散共分散行列とを代入することにより、第1マハラノビス距離を算出する。
【0083】
そしてCPU11は、S24にて、S22で算出した第1マハラノビス距離が予め設定された閾値以下であるか否かを判断する。ここで、第1マハラノビス距離が閾値以下である場合には、CPU11は、S30に移行する。一方、第1マハラノビス距離が閾値を超えている場合には、CPU11は、S26にて、S10で用いた第2観測後種別判定情報(すなわち、ベクトルB)を第1観測後種別判定情報(すなわち、ベクトルA’’)とし、S60に移行する。
【0084】
また、S70の処理が終了すると、CPU11は、S72にて、S60で用いたベクトルCと、RAM13に記憶されている複数の第1観測後種別判定情報(すなわち、ベクトルA’’)とのマハラノビス距離を第2マハラノビス距離として算出する。
【0085】
具体的には、CPU11は、複数のベクトルA’’の平均ベクトルおよび分散共分散行列を算出し、マハラノビス距離を算出するための周知の算出式に、ベクトルCと、複数のベクトルA’’の平均ベクトルおよび分散共分散行列とを代入することにより、第2マハラノビス距離を算出する。
【0086】
そしてCPU11は、S74にて、S72で算出した第2マハラノビス距離が予め設定された閾値以下であるか否かを判断する。ここで、第2マハラノビス距離が閾値以下である場合には、CPU11は、S80に移行する。一方、第2マハラノビス距離が閾値を超えている場合には、CPU11は、S76にて、S60で用いた第1観測後種別判定情報(すなわち、ベクトルD)を第2観測後種別判定情報(すなわち、ベクトルC’’)とし、追跡処理を終了する。
【0087】
このように構成された追跡装置4は、カメラセンサ2から取得された第1種別判定情報(すなわち、ベクトルA)と、生成された第2観測後種別判定情報(すなわち、ベクトルB)との第1マハラノビス距離を算出する。そして追跡装置4は、第1マハラノビス距離が予め設定された閾値よりも大きい場合には、第2観測後種別判定情報に対応する物体がカメラセンサ2により観測されなかったと判断する。
【0088】
また追跡装置4は、レーダセンサ3から取得された第1種別判定情報(すなわち、ベクトルC)と、生成された第1観測後種別判定情報(すなわち、ベクトルA’’)との第2マハラノビス距離を算出する。そして追跡装置4は、第2マハラノビス距離が予め設定された閾値よりも大きい場合には、第1観測後種別判定情報に対応する物体がレーダセンサ3により観測されなかったと判断する。
【0089】
このような追跡装置4は、マハラノビス距離が大きい検出結果を用いた演算を省略することができるため、物体状態の推定精度の低下を抑制することができるとともに、物体状態の推定の演算を高速化することができる。
【0090】
以上説明した実施形態において、S22,S72はマハラノビス距離算出部としての処理に相当し、第1,2種別検出情報は観測情報に相当し、第1,2マハラノビス距離はマハラノビス距離に相当し、S24,S74は観測判断部としての処理に相当する。
【0091】
以上、本開示の一実施形態について説明したが、本開示は上記実施形態に限定されるものではなく、種々変形して実施することができる。
[変形例1]
上記実施形態では、カメラセンサ2およびレーダセンサ3から取得した第1,2検出情報に基づいて物体状態を推定する形態を示した。しかし、追跡装置4は、カメラセンサ2およびレーダセンサ3の何れか一方の検出情報に基づいて物体状態を推定するようにしてもよい。また追跡装置4は、3つ以上のセンサから検出情報を取得している場合には、3つ以上のセンサから取得した検出情報に基づいて物体状態を推定するようにしてもよい。
【0092】
[変形例2]
上記実施形態では、追跡装置4が物体状態を推定する形態を示したが、追跡装置4は、更に、物体が存在する確率(以下、物体存在確率)を算出するようにしてもよい。これにより、追跡装置4は、物体追跡において、物体の生起/消失に関連するパラメータ(すなわち、物体存在確率)を更新することができる。なお、追跡装置4は、例えば、PMBMフィルタまたはPMBフィルタを用いて物体存在確率を算出する。PMBMは、Poisson Multi-Bernoulli Mixtureの略である。
【0093】
[変形例3]
上記実施形態では、第1種別尤度q11,q21と、第1,2位置尤度q12,q22と、第1,2大きさ尤度q13,q23とを用いて第1同一物確率r1,r2を算出する形態を示した。しかし、追跡装置4は、PHDフィルタ、LMBフィルタ、PMBMフィルタまたはPMBフィルタに代表されるランダム有限集合理論を用いて第1同一物確率r1,r2を算出するようにしてもよい。このような追跡装置4は、ランダム有限集合理論を用いることで、物体推定のロバスト性を向上させることができる。PHDは、Probability Hypothesis Densityの略である。LMBは、Labeled Multi-Bernoulliの略である。
【0094】
[変形例4]
上記実施形態では、第1,2種別検出情報を用いて第1,2類似度s1,s2を算出する形態を示した。しかし、特に画像の学習によって得られる物体の多次元特徴情報を検出情報として用いて類似度を算出するようにしてもよい。このような追跡装置4は、AIが出力した特徴情報のように、個々の数値について物理的解釈が無い情報を用いて、物体状態を推定することができる。AIは、Artificial Intelligenceの略である。
【0095】
本開示に記載の追跡装置4およびその手法は、コンピュータプログラムにより具体化された一つ乃至は複数の機能を実行するようにプログラムされたプロセッサおよびメモリを構成することによって提供された専用コンピュータにより、実現されてもよい。あるいは、本開示に記載の追跡装置4およびその手法は、一つ以上の専用ハードウェア論理回路によってプロセッサを構成することによって提供された専用コンピュータにより、実現されてもよい。もしくは、本開示に記載の追跡装置4およびその手法は、一つ乃至は複数の機能を実行するようにプログラムされたプロセッサおよびメモリと一つ以上のハードウェア論理回路によって構成されたプロセッサとの組み合わせにより構成された一つ以上の専用コンピュータにより、実現されてもよい。また、コンピュータプログラムは、コンピュータにより実行されるインストラクションとして、コンピュータ読み取り可能な非遷移有形記録媒体に記憶されてもよい。追跡装置4に含まれる各部の機能を実現する手法には、必ずしもソフトウェアが含まれている必要はなく、その全部の機能が、一つあるいは複数のハードウェアを用いて実現されてもよい。
【0096】
上記実施形態における1つの構成要素が有する複数の機能を、複数の構成要素によって実現したり、1つの構成要素が有する1つの機能を、複数の構成要素によって実現したりしてもよい。また、複数の構成要素が有する複数の機能を、1つの構成要素によって実現したり、複数の構成要素によって実現される1つの機能を、1つの構成要素によって実現したりしてもよい。また、上記実施形態の構成の一部を省略してもよい。また、上記実施形態の構成の少なくとも一部を、他の上記実施形態の構成に対して付加または置換してもよい。
【0097】
上述した追跡装置4の他、当該追跡装置4を構成要素とするシステム、当該追跡装置4としてコンピュータを機能させるためのプログラム、このプログラムを記録した半導体メモリ等の非遷移的実体的記録媒体、追跡方法など、種々の形態で本開示を実現することもできる。
【符号の説明】
【0098】
2…カメラセンサ、3…レーダセンサ、4…追跡装置