(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-10-23
(54)【発明の名称】自律走行車両のレーン追跡のための方法及びシステム
(51)【国際特許分類】
G06T 7/00 20170101AFI20241016BHJP
G06T 7/277 20170101ALI20241016BHJP
G01C 21/28 20060101ALI20241016BHJP
B60W 30/12 20200101ALI20241016BHJP
B60W 60/00 20200101ALI20241016BHJP
G06N 3/0442 20230101ALI20241016BHJP
【FI】
G06T7/00 650A
G06T7/00 350C
G06T7/277
G01C21/28
B60W30/12
B60W60/00
G06N3/0442
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2024518850
(86)(22)【出願日】2022-09-27
(85)【翻訳文提出日】2024-03-26
(86)【国際出願番号】 EP2022076759
(87)【国際公開番号】W WO2023046975
(87)【国際公開日】2023-03-30
(31)【優先権主張番号】202141043726
(32)【優先日】2021-09-27
(33)【優先権主張国・地域又は機関】IN
(32)【優先日】2021-11-26
(33)【優先権主張国・地域又は機関】GB
(81)【指定国・地域】
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
(71)【出願人】
【識別番号】322007626
【氏名又は名称】コンチネンタル・オートナマス・モビリティ・ジャーマニー・ゲゼルシャフト・ミト・ベシュレンクテル・ハフツング
(74)【代理人】
【識別番号】100069556
【氏名又は名称】江崎 光史
(74)【代理人】
【識別番号】100111486
【氏名又は名称】鍛冶澤 實
(74)【代理人】
【識別番号】100191835
【氏名又は名称】中村 真介
(74)【代理人】
【識別番号】100221981
【氏名又は名称】石田 大成
(74)【代理人】
【識別番号】100191938
【氏名又は名称】高原 昭典
(72)【発明者】
【氏名】チャバリ・ポジュラージュ
(72)【発明者】
【氏名】ハリバクタ・スリ・ハリ・ブパラ
(72)【発明者】
【氏名】スリダー・ミュラリクリシュナ
【テーマコード(参考)】
2F129
3D241
5L096
【Fターム(参考)】
2F129AA03
2F129BB03
2F129BB48
2F129FF02
2F129FF14
2F129GG17
2F129GG18
3D241BA12
3D241BA50
3D241CE04
3D241CE06
3D241DB01Z
3D241DC37Z
5L096BA04
5L096FA67
5L096FA68
5L096HA05
5L096HA11
5L096KA04
(57)【要約】
開示される主題は、自律走行車両のレーン追跡システムの訓練及びレーン追跡のための方法及びシステムを開示する自律走行車両の分野に関する。訓練段階中、レーン追跡システムは、レーン境界検出点に対応するグラウンドトゥルース値及び測定値を受信し、且つグラウンドトゥルースクロソイド点及び測定されたクロソイド点を決定する。その後、レーン境界をモデル化するために、測定されたクロソイド点についてクロソイドパラメータの係数値が決定され、及び次いで、レーン境界を追跡するために、少なくとも1つのニューラルネットワークを使用して係数値のためのカルマンフィルタパラメータが決定される。更に、クロソイドパラメータの係数値は、カルマンフィルタパラメータを使用して更新され、それを使用して、測定されたクロソイド点が再構成され、且つレーン境界を追跡するために使用される。更に、訓練誤差は、係数ではなく、クロソイド点間のL2ノルムによって取得され、それにより訓練誤差の最小化を強化する。訓練されたレーン追跡システムは、その後、動的環境におけるレーン追跡のために展開される。
【特許請求の範囲】
【請求項1】
自律走行車両(101)のレーン追跡システム(103)を訓練する方法であって、
レーン追跡システム(103)により、前記レーン追跡システム(103)に関連するレーン境界検出システム(105)から、複数のレーン境界検出点に対応するグラウンドトゥルース値と、前記複数のレーン境界検出点に対応する測定値とを受信することと、
前記レーン追跡システム(103)により、レーンのレーン境界をモデル化するために、それぞれグラウンドトゥルース集合及び測定された集合を使用して形成されたグラウンドトゥルースクロソイド点及び測定されたクロソイド点について、クロソイドパラメータの係数値を決定することであって、前記グラウンドトゥルース集合は、連続したレーン境界検出点のサブセットと、前記対応するグラウンドトゥルース値とを含み、及び前記測定された集合は、連続したレーン境界検出点のサブセットと、前記対応する測定値とを含む、決定することと、
前記レーン追跡システム(103)により、前記レーンの前記レーン境界を追跡するために、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のためのカルマンフィルタパラメータを決定することであって、前記カルマンフィルタパラメータは、少なくとも1つのニューラルネットワークを使用して決定される、決定することと、
前記レーン追跡システム(103)により、前記対応するカルマンフィルタパラメータを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を更新することと、
前記レーン追跡システム(103)により、前記クロソイドパラメータの前記対応する更新された係数値を使用して、前記測定されたクロソイド点を再構成することであって、それぞれの再構成された測定されたクロソイド点は、前記レーン追跡システム(103)が前記自律走行車両(101)の前記レーン境界を追跡することを可能にする、再構成することと、
前記レーン追跡システム(103)により、各サイクルにおいて、前記再構成された測定されたクロソイド点と、前記対応するグラウンドトゥルース集合との間の差分に基づく訓練誤差を、前記訓練誤差が、事前定義された閾値を下回るまで最小化することと
を含む方法。
【請求項2】
前記複数のレーン境界検出点は、前記レーンの左レーン境界及び右レーン境界に対応する、請求項1に記載の方法。
【請求項3】
前記レーン追跡システム(103)により、それぞれ前記グラウンドトゥルースクロソイド点及び前記測定されたクロソイド点を生成するために必要な前記グラウンドトゥルース集合及び前記測定された集合を動的に選択することを含む、請求項1又は2に記載の方法。
【請求項4】
前記車両において構成された1つ以上のセンサ(113)から受信されたレーンデータと、リアルタイムで受信された前記レーンの画像フレームとの少なくとも一方を使用して、前記複数のレーン境界検出点を決定することを含み、前記レーンの前記画像フレームは、前記自律走行車両(101)に関連する画像取込デバイス(115)から受信される、請求項1~3のいずれか一項に記載の方法。
【請求項5】
前記レーンデータと、リアルタイムで取り込まれた前記画像フレームとを格納するように構成されたデータベースから、前記レーンデータと、前記レーンの前記画像フレームとの前記少なくとも一方を取得することを含む、請求項4に記載の方法。
【請求項6】
前記クロソイドパラメータは、レーン境界の初期曲率(c
o)、前記レーン境界の曲率変化率(c
1)及び車両の走行方向に対する向首角(β)を含む、請求項1~5のいずれか一項に記載の方法。
【請求項7】
前記少なくとも1つのニューラルネットワークは、時間記憶を伴うニューラルネットワークを含む、請求項1~6のいずれか一項に記載の方法。
【請求項8】
前記少なくとも1つのニューラルネットワークは、回帰型ニューラルネットワークを含む、請求項1~7のいずれか一項に記載の方法。
【請求項9】
前記少なくとも1つのニューラルネットワークは、長・短期記憶ニューラルネットワークを含む、請求項1~8のいずれか一項に記載の方法。
【請求項10】
前記少なくとも1つのニューラルネットワークを使用して前記カルマンフィルタパラメータを決定することは、
前記レーン追跡システム(103)により、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を第1のニューラルネットワークへの入力として提供することであって、前記第1のニューラルネットワークは、過去の測定された集合及びグラウンドトゥルース集合を使用して形成されたクロソイド点について決定された前記クロソイドパラメータの過去の係数値に基づいて訓練される、提供することと、
前記レーン追跡システム(103)により、前記第1のニューラルネットワークを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を使用して測定ノイズ共分散行列(R)を決定することと、
前記レーン追跡システム(103)により、前記レーンに沿って移動する前記自律走行車両(101)の速度と、連続した画像フレーム間の時間差とに基づいて、1つの画像フレームから別の画像フレームへの、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値の状態遷移(Y
p)を予測することと、
前記レーン追跡システム(103)により、前記予測された状態遷移を第2のニューラルネットワークへの入力として使用してプロセスノイズ共分散行列(Q)を決定することであって、前記第2のニューラルネットワークは、過去の自律走行車両(101)速度値及び時間差値を使用して訓練される、決定することと、
前記レーン追跡システム(103)により、前記決定されたプロセスノイズ共分散行列(Q)を使用して、前記予測された状態遷移の誤差共分散(P
p)を予測することと、
前記レーン追跡システム(103)により、前記予測された状態遷移(Y
p)及び共分散(P
p)、前記決定された測定ノイズ共分散行列(R)並びに前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値に基づいて、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のための前記カルマンフィルタパラメータを決定することと
を含む、請求項1~9のいずれか一項に記載の方法。
【請求項11】
前記レーン追跡システム(103)により、前記レーン境界と前記自律走行車両(101)との間の初期横方向オフセットを、前記再構成された測定されたクロソイド点に加えることを更に含む、請求項1~10のいずれか一項に記載の方法。
【請求項12】
自律走行車両(101)のレーン追跡の方法であって、
レーン追跡システム(103)により、前記レーン追跡システム(103)に関連するレーン境界検出システム(105)から、複数のレーン境界検出点に対応する測定値を受信することと、
前記レーン追跡システム(103)により、レーンのレーン境界をモデル化するために、測定された集合を使用して形成された測定されたクロソイド点について、クロソイドパラメータの係数値を決定することであって、前記測定された集合は、連続したレーン境界検出点のサブセットと、前記対応する測定値とを含む、決定することと、
前記レーン追跡システム(103)により、前記レーンの前記レーン境界を追跡するために、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のためのカルマンフィルタパラメータを決定することであって、前記カルマンフィルタパラメータは、少なくとも1つのニューラルネットワークを使用して決定される、決定することと、
前記レーン追跡システム(103)により、前記対応するカルマンフィルタパラメータを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を更新することと、
前記レーン追跡システム(103)により、前記クロソイドパラメータの前記対応する更新された係数値を使用して、前記測定されたクロソイド点を再構成することであって、それぞれの再構成された測定されたクロソイド点は、前記レーン追跡システム(103)が前記自律走行車両(101)の前記レーン境界を追跡することを可能にする、再構成することと
を含む方法。
【請求項13】
前記少なくとも1つのニューラルネットワークは、時間記憶を伴うニューラルネットワークを含む、請求項12に記載の方法。
【請求項14】
前記少なくとも1つのニューラルネットワークは、回帰型ニューラルネットワークを含む、請求項12又は13に記載の方法。
【請求項15】
前記少なくとも1つのニューラルネットワークは、長・短期記憶ニューラルネットワークを含む、請求項12~14のいずれか一項に記載の方法。
【請求項16】
自律走行車両(101)のレーン追跡システム(103)であって、
プロセッサ(107)と、
前記プロセッサ(107)に通信可能に結合されたメモリ(111)であって、実行時、前記プロセッサ(107)に前記レーン追跡システム(103)を訓練させるプロセッサ(107)命令を格納するメモリ(111)と
を含み、訓練のために、前記プロセッサ(107)は、
前記レーン追跡システム(103)に関連するレーン境界検出システム(105)から、複数のレーン境界検出点に対応するグラウンドトゥルース値と、前記複数のレーン境界検出点に対応する測定値とを受信することと、
レーンのレーン境界をモデル化するために、それぞれグラウンドトゥルース集合及び測定された集合を使用して形成されたグラウンドトゥルースクロソイド点及び測定されたクロソイド点について、クロソイドパラメータの係数値を決定することであって、前記グラウンドトゥルース集合は、連続したレーン境界検出点のサブセットと、前記対応するグラウンドトゥルース値とを含み、及び前記測定された集合は、連続したレーン境界検出点のサブセットと、前記対応する測定値とを含む、決定することと、
前記レーンの前記レーン境界を追跡するために、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のためのカルマンフィルタパラメータを決定することであって、前記カルマンフィルタパラメータは、少なくとも1つのニューラルネットワークを使用して決定される、決定することと、
前記対応するカルマンフィルタパラメータを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を更新することと、
前記クロソイドパラメータの前記対応する更新された係数値を使用して、前記測定されたクロソイド点を再構成することであって、それぞれの再構成された測定されたクロソイド点は、前記レーン追跡システム(103)が前記自律走行車両(101)の前記レーン境界を追跡することを可能にする、再構成することと、
各サイクルにおいて、前記再構成された測定されたクロソイド点と、前記対応するグラウンドトゥルース集合との間の差分に基づく訓練誤差を、前記訓練誤差が、事前定義された閾値を下回るまで最小化することと
を行うように構成される、レーン追跡システム(103)。
【請求項17】
前記複数のレーン境界検出点は、前記レーンの左レーン境界及び右レーン境界に対応する、請求項16に記載のレーン追跡システム(103)。
【請求項18】
前記プロセッサ(107)は、それぞれ前記グラウンドトゥルースクロソイド点及び前記測定されたクロソイド点を生成するために必要な前記グラウンドトゥルース集合及び前記測定された集合を動的に選択する、請求項16又は17に記載のレーン追跡システム(103)。
【請求項19】
前記複数のレーン境界検出点は、前記車両において構成された1つ以上のセンサ(113)から受信されたレーンデータと、リアルタイムで受信された前記レーンの画像フレームとの少なくとも一方を使用して決定され、前記レーンの前記画像フレームは、前記自律走行車両(101)に関連する画像取込デバイス(115)から受信される、請求項16~18のいずれか一項に記載のレーン追跡システム(103)。
【請求項20】
前記プロセッサ(107)は、前記レーンデータと、リアルタイムで取り込まれた前記画像フレームとを格納するように構成されたデータベースから、前記レーンデータと、前記レーンの前記画像フレームとの少なくとも一方を取得する、請求項19に記載のレーン追跡システム(103)。
【請求項21】
前記クロソイドパラメータは、レーン境界の初期曲率(c
o)、前記レーン境界の曲率変化率(c
1)及び車両の走行方向に対する向首角(β)を含む、請求項16~20のいずれか一項に記載のレーン追跡システム(103)。
【請求項22】
前記少なくとも1つのニューラルネットワークを使用して前記カルマンフィルタパラメータを決定するために、前記プロセッサ(107)は、
前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を第1のニューラルネットワークへの入力として提供することであって、前記第1のニューラルネットワークは、過去の測定された集合及びグラウンドトゥルース集合を使用して形成されたクロソイド点について決定された前記クロソイドパラメータの過去の係数値に基づいて訓練される、提供することと、
前記第1のニューラルネットワークを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を使用して測定ノイズ共分散行列(R)を決定することと、
前記レーンに沿って移動する前記自律走行車両(101)の速度と、連続した画像フレーム間の時間差とに基づいて、1つの画像フレームから別の画像フレームへの、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値の状態遷移(Y
p)を予測することと、
前記予測された状態遷移を第2のニューラルネットワークへの入力として使用してプロセスノイズ共分散行列(Q)を決定することであって、前記第2のニューラルネットワークは、過去の自律走行車両(101)速度値及び時間差値を使用して訓練される、決定することと、
前記決定されたプロセスノイズ共分散行列(Q)を使用して、前記予測された状態遷移の誤差共分散(P
p)を予測することと、
前記予測された状態遷移(Y
p)及び共分散(P
p)、前記決定された測定ノイズ共分散行列(R)並びに前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値に基づいて、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のための前記カルマンフィルタパラメータを決定することと
を行うように構成される、請求項16~21のいずれか一項に記載のレーン追跡システム(103)。
【請求項23】
前記プロセッサ(107)は、前記レーン境界と前記自律走行車両(101)との間の初期横方向オフセットを、前記再構成された測定されたクロソイド点に加えるように更に構成される、請求項16~22のいずれか一項に記載のレーン追跡システム(103)。
【請求項24】
前記少なくとも1つのニューラルネットワークは、時間記憶を伴うニューラルネットワークを含む、請求項16~23のいずれか一項に記載のレーン追跡システム(103)。
【請求項25】
前記少なくとも1つのニューラルネットワークは、回帰型ニューラルネットワークを含む、請求項16~24のいずれか一項に記載のレーン追跡システム(103)。
【請求項26】
前記少なくとも1つのニューラルネットワークは、長・短期記憶ニューラルネットワークを含む、請求項16~25のいずれか一項に記載のレーン追跡システム(103)。
【請求項27】
自律走行車両(101)のレーン追跡システム(103)であって、
プロセッサ(107)と、
前記プロセッサ(107)に通信可能に結合されたメモリ(111)であって、実行時、前記プロセッサ(107)に、
前記レーン追跡システム(103)に関連するレーン境界検出システム(105)から、複数のレーン境界検出点に対応する測定値を受信することと、
レーンのレーン境界をモデル化するために、測定された集合を使用して形成された測定されたクロソイド点について、クロソイドパラメータの係数値を決定することであって、前記測定された集合は、連続したレーン境界検出点のサブセットと、前記対応する測定値とを含む、決定することと、
前記レーンの前記レーン境界を追跡するために、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のためのカルマンフィルタパラメータを決定することであって、前記カルマンフィルタパラメータは、少なくとも1つのニューラルネットワークを使用して決定される、決定することと、
前記対応するカルマンフィルタパラメータを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を更新することと、
前記クロソイドパラメータの前記対応する更新された係数値を使用して、前記測定されたクロソイド点を再構成することであって、それぞれの再構成された測定されたクロソイド点は、前記レーン追跡システム(103)が前記自律走行車両(101)の前記レーン境界を追跡することを可能にする、再構成することと
を行わせるプロセッサ(107)命令を格納する、メモリ(111)と
を含むレーン追跡システム(103)。
【請求項28】
前記少なくとも1つのニューラルネットワークは、時間記憶を伴うニューラルネットワークを含む、請求項27に記載のレーン追跡システム(103)。
【請求項29】
前記少なくとも1つのニューラルネットワークは、回帰型ニューラルネットワークを含む、請求項27又は28に記載のレーン追跡システム(103)。
【請求項30】
前記少なくとも1つのニューラルネットワークは、長・短期記憶ニューラルネットワークを含む、請求項27~29のいずれか一項に記載のレーン追跡システム(103)。
【発明の詳細な説明】
【技術分野】
【0001】
本主題は、概して、自律走行車両の分野に関し、より詳細には、限定されないが、自律走行車両のレーン追跡のための方法及びシステムに関する。
【背景技術】
【0002】
現在、自動車産業は、自律走行車両に向けて動き始めている。本明細書及び特許請求の範囲で使用される場合、自律走行車とは、人間の介在の有無に関わらず、道路上を移動するために自らの周囲の環境を検知することができる車両である。自律走行車両は、レーザ、光検知測距(LIDAR)、全地球測位システム(GPS)、コンピュータビジョンなど、自律走行車両において構成されたセンサを用いて環境を検知する。自律走行車両は、円滑に移動するために、道路上でのレーン検出及び追跡に大きく依存する。
【0003】
既存のレーン検出及び追跡技法は、レーン境界を追跡するためにカルマンフィルタを使用し得る。特に、カルマンフィルタは、レーンパラメータを予測し、且つレーン境界を追跡するレーン追跡装置の出力を平滑化するために使用され得る。一般に、カルマンフィルタは、ノイズの多い測定値又はノイズの多いプロセスが存在する場合でも状態ベクトルの動態を推定することができるため、レーン境界を追跡する際にカルマンフィルタが選択される。カルマンフィルタを決定するのに役立つ主なパラメータは、プロセスノイズ共分散行列(Q)及び測定ノイズ共分散行列(R)である。レーン境界を追跡するためにカルマンフィルタに依拠する既存のレーン検出及び追跡技法は、カルマンフィルタを決定するために、事前定義又は固定されたQ及びRの値を使用する。実際には、Q及びRは、シナリオ、測定に使用された検出器、測定及び追跡に使用されたプロセスの種類などに基づいて動的に変化するパラメータである。しかしながら、既存の技法は、Q及びRの動的な性質を取り込むことができず、代わりにQ及びRに固定又は事前定義された値を使用し、これは、レーン追跡のためにカルマンフィルタに基づいて行われる予測の精度に影響を与える。不正確なレーン追跡により、自律走行車両に対して誤ったステアリングコマンド及び警告信号が生成され、その結果、車両の安全性が脅かされることになり得る。
【0004】
加えて、既存の技法では、Q及びRの値が固定されるため、既存の技法は、時間の経過と共に起こる状態の変化を取り込む柔軟性を欠き、その結果、予測は、数種類のレーン構造又は狭い範囲のレーン構造のみに制限される。
【発明の概要】
【発明が解決しようとする課題】
【0005】
したがって、カルマンフィルタを使用するレーン追跡をより高い精度及び柔軟性で行うことができる方法が必要とされている。
【0006】
本開示の背景のセクションに開示される情報は、本開示の一般的な背景の理解を高めるためのものにすぎず、この情報は、当業者に既に知られている従来技術を形成することの承認又は何らかの形式の示唆として解釈されるべきではない。
【課題を解決するための手段】
【0007】
自律走行車両のレーン追跡システムを訓練する方法が本明細書に開示される。本方法は、レーン追跡システムにより、レーン追跡システムに関連するレーン境界検出システムから、複数のレーン境界検出点に対応するグラウンドトゥルース値と、複数のレーン境界検出点に対応する測定値とを受信することを含む。更に、本方法は、レーンのレーン境界をモデル化するために、それぞれグラウンドトゥルース集合及び測定された集合を使用して形成されたグラウンドトゥルースクロソイド点及び測定されたクロソイド点について、クロソイドパラメータの係数値を決定することを含む。グラウンドトゥルース集合は、連続したレーン境界検出点のサブセットと、対応するグラウンドトゥルース値とを含み、測定された集合は、連続したレーン境界検出点のサブセットと、対応する測定値とを含む。その後、本方法は、レーンのレーン境界を追跡するために、測定されたクロソイド点について決定されたクロソイドパラメータの係数値のためのカルマンフィルタパラメータを決定することを含む。カルマンフィルタパラメータは、少なくとも1つのニューラルネットワークを使用して決定される。カルマンフィルタパラメータを決定すると、本方法は、対応するカルマンフィルタパラメータを使用して、測定されたクロソイド点について決定されたクロソイドパラメータの係数値を更新することを含む。更に、本方法は、クロソイドパラメータの対応する更新された係数値を使用して、測定されたクロソイド点を再構成することを含む。それぞれの再構成された測定されたクロソイド点は、レーン追跡システムが自律走行車両のレーン境界を追跡することを可能にする。最後に、本方法は、各サイクルにおいて、再構成された測定されたクロソイド点と、対応するグラウンドトゥルース集合との間の差分に基づく訓練誤差を、訓練誤差が、事前定義された閾値を下回るまで最小化することを含む。
【0008】
更に、本開示は、自律走行車両のレーン追跡システムを含む。レーン追跡システムは、プロセッサと、プロセッサに通信可能に結合されたメモリとを含む。メモリは、実行時、プロセッサにレーン追跡システムを訓練させるプロセッサ命令を格納し、訓練のために、プロセッサが、レーン追跡システムに関連するレーン境界検出システムから、複数のレーン境界検出点に対応するグラウンドトゥルース値と、複数のレーン境界検出点に対応する測定値とを受信するように構成される。更に、プロセッサは、レーンのレーン境界をモデル化するために、それぞれグラウンドトゥルース集合及び測定された集合を使用して形成されたグラウンドトゥルースクロソイド点及び測定されたクロソイド点について、クロソイドパラメータの係数値を決定する。グラウンドトゥルース集合は、連続したレーン境界検出点のサブセットと、対応するグラウンドトゥルース値とを含み、測定された集合は、連続したレーン境界検出点のサブセットと、対応する測定値とを含む。その後、プロセッサは、レーンのレーン境界を追跡するために、測定されたクロソイド点について決定されたクロソイドパラメータの係数値のためのカルマンフィルタパラメータを決定する。カルマンフィルタパラメータは、少なくとも1つのニューラルネットワークを使用して決定される。カルマンフィルタパラメータを決定すると、プロセッサは、対応するカルマンフィルタパラメータを使用して、測定されたクロソイド点について決定されたクロソイドパラメータの係数値を更新する。更に、プロセッサは、クロソイドパラメータの対応する更新された係数値を使用して、測定されたクロソイド点を再構成する。それぞれの再構成された測定されたクロソイド点は、レーン追跡システムが自律走行車両のレーン境界を追跡することを可能にする。最後に、プロセッサは、各サイクルにおいて、再構成された測定されたクロソイド点と、対応するグラウンドトゥルース集合との間の差分に基づく訓練誤差を、訓練誤差が、事前定義された閾値を下回るまで最小化する。
【0009】
更に、本開示は、自律走行車両のレーン追跡の方法を開示する。本方法は、レーン追跡システムにより、レーン追跡システムに関連するレーン境界検出システムから、複数のレーン境界検出点に対応する測定値を受信することを含む。その後、本方法は、レーンのレーン境界をモデル化するために、測定された集合を使用して形成された測定されたクロソイド点について、クロソイドパラメータの係数値を決定することを含む。測定された集合は、連続したレーン境界検出点のサブセットと、対応する測定値とを含む。その後、本方法は、レーンのレーン境界を追跡するために、測定されたクロソイド点について決定されたクロソイドパラメータの係数値のためのカルマンフィルタパラメータを決定することを含む。カルマンフィルタパラメータは、少なくとも1つのニューラルネットワークを使用して決定される。カルマンフィルタを決定すると、本方法は、対応するカルマンフィルタパラメータを使用して、測定されたクロソイド点について決定されたクロソイドパラメータの係数値を更新することを含む。最後に、本方法は、クロソイドパラメータの対応する更新された係数値を使用して、測定されたクロソイド点を再構成することを含む。それぞれの再構成された測定されたクロソイド点は、レーン追跡システムが自律走行車両のレーン境界を追跡することを可能にする。
【0010】
更に、本開示は、自律走行車両のレーン追跡システムを開示する。レーン追跡システムは、プロセッサと、プロセッサに通信可能に結合されたメモリとを含む。メモリは、実行時、プロセッサに、レーン追跡システムに関連するレーン境界検出システムから、複数のレーン境界検出点に対応する測定値を受信させるプロセッサ命令を格納する。その後、プロセッサは、レーンのレーン境界をモデル化するために、測定された集合を使用して形成された測定されたクロソイド点について、クロソイドパラメータの係数値を決定する。測定された集合は、連続したレーン境界検出点のサブセットと、対応する測定値とを含む。その後、プロセッサは、レーンのレーン境界を追跡するために、測定されたクロソイド点について決定されたクロソイドパラメータの係数値のためのカルマンフィルタパラメータを決定する。カルマンフィルタパラメータは、少なくとも1つのニューラルネットワークを使用して決定される。カルマンフィルタを決定すると、プロセッサは、対応するカルマンフィルタパラメータを使用して、測定されたクロソイド点について決定されたクロソイドパラメータの係数値を更新する。最後に、プロセッサは、クロソイドパラメータの対応する更新された係数値を使用して、測定されたクロソイド点を再構成する。それぞれの再構成された測定されたクロソイド点は、レーン追跡システムが自律走行車両のレーン境界を追跡することを可能にする。
【0011】
上記の概要は、単なる例示であり、決して限定することを意図するものではない。上述の例示的な態様、実施形態及び特徴に加えて、更なる態様、実施形態及び特徴が図面及び以下の詳細な記述を参照して明らかになるはずである。
【0012】
本開示に組み込まれ、本開示の一部を構成する添付の図面は、複数の例示的な実施形態を示し、以下の説明と併せて開示する原理を説明する役割を果たす。これらの図では、参照番号の左端の数字は、その参照番号が最初に現れる図を特定する。すべての図を通して同じ番号を用いて同様の特徴及び要素を指す。ここで、本主題の実施形態によるシステム及び/又は方法のいくつかの実施形態を、単なる例として添付の図を参照して説明する。
【図面の簡単な説明】
【0013】
【
図1】本開示のいくつかの実施形態による、自律走行車両のレーン追跡を行う例示的なアーキテクチャを示す。
【
図2A】本開示のいくつかの実施形態による、自律走行車両のレーン追跡の例示的なレーン追跡システムの詳細なブロック図を示す。
【
図2B】本開示のいくつかの実施形態による、例示的なグラウンドトゥルース値に従って連続的に配置された例示的な複数のレーン境界検出点を示す。
【
図2C】本開示のいくつかの実施形態による、例示的な測定値に従って連続的に配置された例示的な複数のレーン境界検出点を示す。
【
図2D】本開示のいくつかの実施形態による、例示的な再構成されたクロソイド点を使用して追跡された例示的なレーンを示す。
【
図2E】本開示のいくつかの実施形態による、自律走行車両が移動している道路に属する、追跡された複数の例示的なレーンを示す。
【
図3A】本開示のいくつかの実施形態による、自律走行車両のレーン追跡システムを訓練する方法を示すフローチャートを示す。
【
図3B】本開示のいくつかの実施形態による、自律走行車両のレーン追跡システムの方法を示すフローチャートを示す。
【
図4】本開示と一致する実施形態を実装するための例示的なコンピュータシステムのブロック図である。
【発明を実施するための形態】
【0014】
本明細書のブロック図は、本主題の原理を具現化する例示的なシステムの概念図を表すものであることが当業者によって理解されるべきである。同様に、フローチャート、フロー図、状態遷移図、擬似コードなどは、コンピュータ可読媒体において実質的に表され、コンピュータ又はプロセッサが明示的に示されているか否かに関わらず、かかるコンピュータ又はプロセッサによって実行され得る様々なプロセスを表すことを理解されたい。
【0015】
本明細書において、「例示的」という語は、「例、事例又は例示としての役割を果たすこと」を意味するために本明細書で使用される。「例示的」として本明細書で説明される本主題の実施形態又は実装は、必ずしも他の実施形態よりも好ましい又は有利であると解釈されるものではない。
【0016】
本開示は、様々な修正形態及び代替形態に対する余地がある一方、それらの特定の実施形態を図面において例として示し、以下で詳細に説明する。しかし、開示される形態に本開示を限定することは、意図されず、逆に、本開示は、本開示の範囲内に含まれるすべての修正形態、均等物及び代替形態を包含するものであることを理解されたい。
【0017】
用語「含む」、「含んでいる」、「包含する」又はそれらの任意の他の変形は、コンポーネント又はステップのリストを含むセットアップ、デバイス又は方法が、それらのコンポーネント又はステップのみを含むのではなく、明示的に列挙されていないか又はかかるセットアップ、若しくはデバイス、若しくは方法に固有ではない他のコンポーネント若しくはステップを含み得るように、非排他的な包含をカバーすることを意図される。換言すれば、「含む」に続くシステム又は装置の1つ以上の要素は、更なる制約がない限り、そのシステム又は方法に他の要素又は追加的な要素が存在することを排除しない。
【0018】
自律走行車両のレーン追跡の方法及びシステムが本明細書で開示される。いくつかの実施形態では、レーン追跡は、自律走行車両が移動している道路上の1つ以上のレーンの存在を検出することと、自律走行車両に対する1つ以上のコマンドを生成するために、検出されたレーンを追跡することとを含む。一例として、1つ以上のコマンドは、自律走行車両の移動を促進するステアリングコマンド、ブレーキコマンド、レーン変更コマンド、追い越しコマンド、警告信号などであり得る。本開示は、本開示の背景技術のセクションで述べた既存の技法の1つ以上の問題に対処するように、自律走行車両のレーン追跡を行う、人工知能(AI)ベースの方法を提供する。本方法はAIベースの方法であるため、本開示に開示される自律走行車両のレーンを追跡するレーン追跡システムは、動的環境に展開する前に訓練を必要とする。
【0019】
いくつかの実施形態では、レーン追跡システムは、様々な路上シナリオに対応する画像フレームを使用して決定された複数のレーン境界検出点に対応する測定値と共に、複数のレーン境界検出点に対応するグラウンドトゥルース値と、異なるタイプのレーンとを使用して訓練され得る。いくつかの実施形態では、グラウンドトゥルース値は、元の値、すなわち換言すれば現実のものであることが分かっており、且つ直接観測に基づいて提供される情報を指し得る。しかし、測定値は、システムによって決定又は予測される値であり、グラウンドトゥルース値のように直接観測に基づくものではない。したがって、測定値及びグラウンドトゥルース値は、測定値の精度に応じて、同じであることも異なることもある。いくつかの実施形態では、測定されたクロソイド点を形成するために測定値のサブセットが使用され得、グラウンドトゥルースクロソイド点を形成するためにグラウンドトゥルース値のサブセットが使用され得る。訓練段階中、レーン追跡システムは、カルマンフィルタを決定して、測定されたクロソイド点のクロソイドパラメータの係数値を更新し、次いでクロソイドパラメータの更新された係数値を使用して測定されたクロソイド点を再構成するように訓練され得る。その後、レーン追跡システムは、訓練誤差を決定し、サイクルごとの訓練誤差を最小化するように訓練され得る。クロソイド点に基づく自律走行車両のレーンを追跡するレーン追跡システムの訓練段階について、本開示の詳細な説明の後の部分で適切な図を用いて詳細に説明する。
【0020】
訓練段階中、レーン追跡システムは、1つ以上のニューラルネットワークを使用してカルマンフィルタパラメータを決定し得る。1つ以上のニューラルネットワークは、回帰型ニューラルネットワーク(RNN)又は長・短期記憶(LSTM)ニューラルネットワークなどの時間記憶を伴うニューラルネットワークを含み得る。1つ以上のニューラルネットワークは、過去のイベントに関連する記憶を格納することができ、格納された記憶に基づいて長期依存性を学習することができる。本開示では、レーン追跡システムは、訓練段階中、1つ以上の同じ又は異なるニューラルネットワークを使用して測定ノイズ共分散行列(R)及びプロセスノイズ共分散行列(Q)を動的に決定するように訓練され得る。例えば、測定ノイズ共分散行列(R)が、第1のニューラルネットワークを使用して動的に決定され得、プロセスノイズ共分散行列(Q)が、第2のニューラルネットワークを使用して動的に決定され得る。第1のニューラルネットワーク及び第2のニューラルネットワークのそれぞれが、時間記憶を伴うニューラルネットワーク、例えば、RNN又はLSTMネットワークであり得る。いくつかの他の実施形態では、測定ノイズ共分散行列(R)及びプロセスノイズ共分散行列(Q)は、同じニューラルネットワークを使用して動的に決定され得る。実際には、Q及びRは、シナリオ、測定に使用された検出器、測定及び追跡に使用されたプロセスの種類などに基づいて動的に変化する。ニューラルネットワークを使用してQ及びRを決定することにより、ニューラルネットワークにより、自律走行車両の過去のサイクルからの取り込まれた過去のデータに基づいてQ及びRを決めることが可能になる。したがって、ニューラルネットワークは、経時的な変化を分析することによってQ及びRを決定するため、Q及びRは共に進展することになり得る。したがって、ニューラルネットワーク(複数可)を使用して決定されたQ及びRの値は、何らかのランダムな事前定義された値又は静的な値ではなく、画像フレームに取り込まれた現在のシナリオに固有のものである。Q及びRの値は、データドリブンであるニューラルネットワーク、すなわち、過去のサイクルからの取り込まれた過去のデータに基づいて分析し、その分析結果を使用して現在のシナリオのQ及びRを決定するニューラルネットワークを使用して決定されるため、Q及びRの決定された値は正確且つロバストである。更に、ニューラルネットワークは、訓練段階中、測定値と共にグラウンドトゥルース値を使用して訓練されるため、Q及びRの決定された値はグラウンドトゥルース値に近く、これにより動的に決定されたQ及びRの値の精度レベルが高まる。このような動的に決定された正確なQ及びRの値により、レーン追跡の正確なカルマンフィルタを決定することができ、その結果、クロソイドパラメータの正確な更新された係数値及び再構成された測定されたクロソイド点が得られる。
【0021】
再構成されたクロソイド点に起因して発生し得る訓練誤差は、各サイクルにおいて、再構成されたクロソイド点と、対応するグラウンドトゥルース集合、すなわち対応するレーン境界検出点のグラウンドトゥルース値のサブセットとの間の差分に基づいて決定され得る。このような訓練誤差は、訓練誤差が、事前定義された閾値を下回るまで最小化され得る。したがって、訓練段階中に訓練誤差を最小化することにより、レーン追跡の精度に悪影響を及ぼし得るわずかな訓練誤差も低減される。本開示では、訓練誤差は、いくつかの既存の技法で使用されるクロソイド係数を使用するのではなく、クロソイド点間のL2ノルムを使用することによって取得され得る。したがって、本開示では、誤差を最小化する新しい方法が続けられ、この新しい方法は、再構成された測定されたクロソイド点と、再構成された、測定されたクロソイド点を形成するために最初に使用された対応するレーン境界検出点のグラウンドトゥルース値とを比較することを含む。これにより、測定されたクロソイド点のクロソイドパラメータの更新された係数値と、グラウンドトゥルースクロソイド点のクロソイドパラメータの係数値とを比較することを含む従来の誤差最小化技法と比較して、よりよい方法且つより少ないサイクル数で誤差最小化が強化される。
【0022】
追加的に、Q及びRはそれぞれプロセスノイズ及び測定ノイズを本質的に示すため、Q及びRの決定は自律走行車両において構成された1つ以上のセンサのデータを必要とする。RNN又はLSTMネットワークなどのニューラルネットワークの使用は、ニューラルネットワークにセンサ誤差モデルを含める柔軟性を本開示に提供し得る。このようなセンサ誤差モデルは、測定に関わるノイズの量、測定プロセスに関わるノイズの量など、1つ以上のセンサに関連する低レベルの特徴量を提供し得る。このような低レベルの特徴量は、センサ誤差モデルを使用してセンサ誤差を直接修正するのに役立ち、その結果、Q及びRの動的に決定された値の精度が向上する。したがって、これは、最大限の精度でレーン追跡を行うのに役立つ。したがって、ニューラルネットワーク及びカルマンフィルタを使用してクロソイドパラメータに基づくレーン追跡を行うことにより、正確なレーン追跡が可能になるだけでなく、誤ったステアリングコマンド及び警告信号の生成を低減し、自律走行車両の安全性を高める。
【0023】
互いに通信するいくつかのコンポーネントを有する実施形態の説明は、すべてのそのようなコンポーネントが必要とされることを意味するものではない。反対に、様々な任意選択のコンポーネントが、本開示の多様な可能な実施形態を例示するために説明される。
【0024】
本開示の実施形態の以下の詳細な説明において、この一部を形成し、本開示が実施され得る特定の実施形態を例示として示す添付の図面を参照する。これらの実施形態は、当業者が本開示を実施することを可能にするために十分に詳細に説明され、他の実施形態が利用され得、本開示の範囲から逸脱することなく変更形態がなされ得ることを理解されたい。したがって、以下の説明は、限定する意味で解釈されるべきではない。
【0025】
図1は、本開示のいくつかの実施形態による自律走行車両のレーン追跡の例示的なアーキテクチャを示す。
【0026】
アーキテクチャ100は、自律走行車両101と、レーン追跡システム103及びレーン境界検出システム105と、センサ113
1からセンサ113
n(1つ以上のセンサ113とも呼ばれる)と、画像取込デバイス115とを含む。一例として、自律走行車両101は、自律走行車両の車載ネットワークを介して通信することができる電子制御ユニット(ECU)及びシステムと統合される自動車、バス、トラック、貨物自動車などであり得る。いくつかの実施形態では、レーン境界検出システム105は、通信ネットワーク(
図1には示さず)を介してレーン追跡システム103と関連し得る。通信ネットワークは、有線通信ネットワーク及び無線通信ネットワークの少なくとも一方であり得る。いくつかの実施形態では、レーン境界検出システム105及びレーン追跡システム103の両方が、車両101において自律走行車両101のレーン追跡を行うように構成され得る。いくつかの他の実施形態では、レーン境界検出システム105及びレーン追跡システム103の両方が、自律走行車両101のレーン追跡を行う自律走行車両101のECUに外部で関連し得る。更に他の実施形態では、システムの一方が、自律走行車両101において構成され得、システムの他方が、自律走行車両101のレーン追跡を行う自律走行車両101のECUに外部で関連し得る。
【0027】
いくつかの実施形態では、自律走行車両101は、1つ以上のセンサ113と画像取込デバイス115とを有して構成され得る。自律走行車両101は、レーザ、光検知測距(LIDAR)、全地球測位システム(GPS)、コンピュータビジョンなど、1つ以上のセンサ113を用いて環境を検知し得る。更に、画像取込デバイス115は、自律走行車両101の前方の領域の画像フレームを取り込むように、自律走行車両101に取り付けられ得る。いくつかの実施形態では、画像取込デバイス115は、赤緑青(RGB)カメラ、モノクロカメラ、深度カメラ、360度カメラ、暗視カメラなどを含み得るが、これらに限定されない。いくつかの実施形態では、自律走行車両101は、2つ以上の画像取込デバイス115を取り付けられ得る。画像取込デバイス115は、自律走行車両101の前方の領域が画像フレームで適切にカバーされるように、自律走行車両101の領域に取り付けられ得る。例えば、画像取込デバイス115は、自律走行車両101の上に、自律走行車両101の前照灯領域に、外部バックミラー上などに取り付けられ得る。
【0028】
いくつかの実施形態では、レーン追跡システム103は、人工知能(AI)ベースのシステムであり、自律走行車両101が移動している動的環境にレーン追跡システム103を展開する前に、自律走行車両101のレーン追跡を行うように訓練され得る。いくつかの実施形態では、訓練段階中、レーン追跡システム103は、レーン境界検出システム105から、複数のレーン境界検出点に対応するグラウンドトゥルース値と、複数のレーン境界検出点に対応する測定値とを受信し得る。いくつかの実施形態では、グラウンドトゥルース値は、元の値、すなわち換言すれば、現実のものであることが分かっており、且つ直接観測に基づいて提供される情報を指し得る。しかし、測定値は、システムによって決定又は予測される値であり、グラウンドトゥルース値のように直接観測に基づくものではない。いくつかの実施形態では、レーン境界は、レーンの区域を示す線であり得る。各レーンは、そのレーンを囲む左レーン境界及び右レーン境界を有し得る。いくつかの実施形態では、複数のレーン境界検出点は、自律走行車両101が移動している道路の境界領域を示す点であり得る。換言すれば、複数のレーン境界検出点は、自律走行車両101が移動する道路に属する複数のレーンの左レーン境界及び右レーン境界に対応する。連続したレーン境界検出点のサブセットと、対応するグラウンドトゥルース値とは、グラウンドトゥルース集合と呼ばれ得、連続したレーン境界検出点のサブセットと、対応する測定値とは、測定された集合と呼ばれ得る。その後、レーン追跡システム103は、グラウンドトゥルース集合を用いてグラウンドトゥルースクロソイド点を生成し、測定された集合を用いて測定されたクロソイド点を生成し得る。いくつかの実施形態では、この訓練段階中、レーン追跡システム103は、グラウンドトゥルースクロソイド点及び測定されたクロソイド点をそれぞれ生成するために必要なグラウンドトゥルース集合及び測定された集合を選択するように訓練され得る。クロソイド点は、一般に、曲率が円弧の長さにわたって直線的に変化する螺旋曲線であり、自律走行車両101が水平方向の曲率が異なる道路セグメントを移動しているときに、ステアリングホイールの滑らかな動きを可能にする。その後、レーン追跡システム103は、自律走行車両101が移動するレーンのレーン境界をモデル化するために、グラウンドトゥルースクロソイド点及び測定されたクロソイド点についてクロソイドパラメータの係数値を決定するように訓練され得る。いくつかの実施形態では、クロソイドパラメータは、限定されるものではないが、レーン境界の初期曲率(co)、レーン境界の曲率変化率(c1)及び自律走行車両の走行方向に対する向首角(β)を含み得る。いくつかの実施形態では、レーン境界の初期曲率(co)は、画像フレームにおいて決定されたレーンの第1の曲率角度として定義され、レーン境界の曲率変化率(c1)は、初期曲率と比較した場合に画像フレームにおいてレーンの曲率が変化している変化率として定義され、向首角(β)は、そのレーン上の自律走行車両に対するレーンの曲率角度として定義され得る。その後、レーンのレーン境界を追跡するために、レーン追跡システム103は、測定されたクロソイド点について決定されたクロソイドパラメータの係数値のためのカルマンフィルタパラメータを決定するように訓練される。いくつかの実施形態では、レーン追跡システム103は、RNN又は長・短期記憶(LSTM)ネットワークなどの少なくとも1つのニューラルネットワークを使用してカルマンフィルタパラメータを決定し得る。カルマンフィルタパラメータを決定すると、レーン追跡システム103は、対応するカルマンフィルタパラメータを使用して、測定されたクロソイド点について決定されたクロソイドパラメータの係数値を更新するように訓練され得る。その後、レーン追跡システム103は、クロソイドパラメータの対応する更新された係数値を使用して、測定されたクロソイド点を再構成するように訓練され得る。いくつかの実施形態では、それぞれの再構成された測定されたクロソイド点は、レーン追跡システム103が自律走行車両101のレーン境界を追跡することを可能にする。次いで、レーン追跡システム103は、再構成されたクロソイド点と、対応するグラウンドトゥルース集合との間の差分を計算することにより、訓練誤差を決定し得る。訓練段階中、レーン追跡システム103は、各サイクルにおいて、訓練誤差が、事前定義された閾値を下回るまで、決定された訓練誤差を最小化し得る。
【0029】
このようにして訓練されたレーン追跡システム103は、自律走行車両101が道路を移動している動的環境で使用され得る。いくつかの実施形態では、レーン追跡システム103は、
図1に示すように、プロセッサ107と、入力/出力(I/O)インターフェース109と、メモリ111とを含み得る。レーン追跡システム103のI/Oインターフェース109は、レーン境界検出システム105から、複数のレーン境界検出点に対応する測定値を受信し得る。複数のレーン境界検出点は、自律走行車両101が移動しているレーンの左レーン境界及び右レーン境界に対応する。プロセッサ107は、連続したレーン境界検出点のサブセットと、対応する測定値とを含む測定された集合に基づいて測定されたクロソイド点を生成し得る。いくつかの実施形態では、プロセッサ107は、測定された集合を形成するために連続したレーン境界検出点のサブセットを動的に選択し得る。いくつかの実施形態では、プロセッサ107は、レーンのレーン境界をモデル化するために、測定されたクロソイド点のクロソイドパラメータの係数値を決定し得る。その後、プロセッサ107は、レーンのレーン境界を追跡するために、測定されたクロソイド点について決定されたクロソイドパラメータの係数値のためのカルマンフィルタパラメータを決定し、カルマンフィルタパラメータを使用して、測定されたクロソイド点について決定されたクロソイドパラメータの係数値を更新し得る。最後に、プロセッサ107は、クロソイドパラメータの対応する更新された係数値を使用して、測定されたクロソイド点を再構成し得る。いくつかの実施形態では、それぞれの再構成された測定されたクロソイド点は、レーン追跡システム103が自律走行車両101のレーン境界を追跡することを可能にする。
【0030】
図2Aは、開示のいくつかの実施形態による、自律走行車両のレーン追跡システム103の詳細なブロック図を示す。
【0031】
いくつかの実装形態では、レーン追跡システム103は、データ203とモジュール205とを含み得る。一例として、データ203は、
図2Aに示すように、レーン追跡システム103のメモリ111に格納される。一実施形態では、データ203は、訓練データ207と、クロソイド点データ209と、カルマンフィルタパラメトリックデータ211と、再構成されたデータ213と、他のデータ215とを含み得る。
図2Aにおいて、モジュール205を本明細書で詳細に説明する。
【0032】
いくつかの実施形態では、データ203は、様々なデータ構造の形態でメモリ111に格納され得る。加えて、データ203は、リレーショナル又は階層データモデルなどのデータモデルを使用して整理することができる。他のデータ215は、レーン追跡システム103の様々な機能を実行するためにモジュール205によって生成された、一時データ及び一時ファイルを含むデータを格納し得る。
【0033】
いくつかの実施形態では、訓練データ207は、自律走行車両101のレーン追跡のためのレーン追跡システム103の訓練に使用されたデータを含み得る。例えば、訓練データ207は、複数のレーン境界検出点に対応するグラウンドトゥルース値及び複数のレーン境界検出点に対応する測定値、グラウンドトゥルース集合及び測定された集合をそれぞれ使用して生成されたグラウンドトゥルースクロソイド点及び測定されたクロソイド点、カルマンフィルタパラメータ及び測定されたクロソイド点について決定されたクロソイドパラメータの係数値、クロソイドパラメータの更新された係数値、再構成された測定されたクロソイド点並びにレーン追跡システム103の訓練のために使用される訓練誤差を含み得るが、これらに限定されない。
【0034】
いくつかの実施形態では、クロソイド点データ209は、自律走行車両101が道路上を移動している動的環境で生成されたクロソイド点に関連するデータを含み得る。一例として、クロソイド点データ209は、測定されたクロソイド点、複数の連続したレーン境界検出点のサブセット及び測定されたクロソイド点を生成するために使用される対応する測定値を含む測定された集合並びに測定されたクロソイド点について決定されたクロソイドパラメータの係数値を含み得るが、これらに限定されない。
【0035】
いくつかの実施形態では、カルマンフィルタパラメトリックデータ211は、RNN又は短期記憶(LSTM)ネットワークを含み得る少なくとも1つのニューラルネットワークを使用して、測定されたクロソイド点について決定されたクロソイドパラメータの係数値について決定されたカルマンフィルタパラメータを含み得るが、これらに限定されない。
【0036】
いくつかの実施形態では、少なくとも1つのニューラルネットワークは、時間記憶を伴うニューラルネットワークを含み得る。時間記憶を伴うニューラルネットワークは、長期依存性を学習することができる特殊な回帰型ニューラルネットワーク(RNN)であり得る。少なくとも1つのニューラルネットワークは、長期依存性の問題を回避するように明示的に設計されたLSTMを含み得る。すべてのRNNは、ニューラルネットワークの繰り返されるモジュールのチェーンの形態を有する。標準的なRNNでは、この繰り返されるモジュールは、1つの双曲線正接層などの極めて単純な構造を有する。LSTMもこのチェーン様の構造を有するが、LSTMの繰り返されるモジュールは、一般的なRNNと異なる構造を有する。単一のニューラルネットワーク層を有するのではなく、特別な方法で相互作用する4つのニューラルネットワークが存在する。LSTMは、ゲートと呼ばれる構造によって慎重に制御された、セル状態から情報を削除するか又はセル状態に情報を追加する能力を有する。ゲートは、任意選択的に情報を通す方法である。例えば、セル状態を保護及び制御するために、LSTMには、以下の3つのこのゲートがある。(a)入力ゲート-いずれの新しい情報をセル状態に格納するかを決定する、(b)忘却ゲート-いずれの情報をセル状態から捨てるかを決定する、(c)出力ゲート-いずれの情報を出力とするかを決定する。
【0037】
いくつかの実施形態では、再構成されたデータ213は、再構成された測定されたクロソイド点及び測定されたクロソイド点の再構成に使用される測定されたクロソイド点について決定されたクロソイドパラメータの更新された係数値を含み得るが、これらに限定されない。
【0038】
いくつかの実施形態では、メモリ111に格納されたデータ203は、レーン追跡システム103のモジュール205によって処理され得る。モジュール205は、メモリ111内に格納され得る。一例では、レーン追跡システム103のプロセッサ107に通信可能に結合されたモジュール205は、
図2Aに示すようにメモリ111の外部にも存在し、ハードウェアとして実装され得る。本明細書で使用される場合、モジュール205という用語は、特定用途向け集積回路(ASIC)、電子回路、1つ以上のソフトウェア若しくはファームウェアプログラムを実行するプロセッサ(共有、専用又はグループ)及びメモリ、組み合わせ論理回路並びに/又は説明された機能を提供する他の適切なコンポーネントを指し得る。
【0039】
いくつかの実施形態では、モジュール205は、例えば、受信モジュール221と、係数値決定モジュール223と、カルマンフィルタ決定モジュール225と、再構成モジュール227と、学習モジュール229と、他のモジュール231とを含み得る。他のモジュール231は、レーン追跡システム103の様々な雑多な機能を実行するために使用され得る。かかる前述のモジュール205は、単一のモジュール又は異なるモジュールの組み合わせとして表され得ることを理解されたい。
【0040】
レーン追跡システム103は、自律走行車両101が移動している動的環境にレーン追跡システム103を展開する前に、自律走行車両101のレーン追跡を行うように訓練され得る。
【0041】
いくつかの実施形態では、訓練段階中、受信モジュール221は、レーン追跡システム103に関連するレーン境界検出システム105から、複数のレーン境界検出点に対応するグラウンドトゥルース値と、複数のレーン境界検出点に対応する測定値とを受信し得る。いくつかの実施形態では、複数のレーン境界検出点は、自律走行車両101が移動している道路に属する複数のレーンの左レーン境界及び右レーン境界に対応する。いくつかの実施形態では、レーン境界検出システム105は、自律走行車両101に構成された1つ以上のセンサ113から受信したレーンデータと、リアルタイムで受信したレーンの画像フレームとの少なくとも一方を使用して複数のレーン境界検出点を決定し得る。いくつかの実施形態では、レーンの画像フレームは、自律走行車両101に関連する画像取込デバイス115から受信される。いくつかの実施形態では、レーンデータとリアルタイムで取り込まれた画像フレームとを格納するように構成されたデータベースから、レーンデータとレーンの画像フレームとの少なくとも一方が取得される。一例として、レーンデータは、レーン標示、レーンパターン、レーンの色、レーンの数などを含み得るが、これらに限定されない。
図2Bは、例示的なグラウンドトゥルース値に従って連続的に配置された例示的な複数のレーン境界検出点233を示す例示的な図を示す。例示的な複数のレーン境界検出点233に対応するグラウンドトゥルース値は元の値であるため、
図2Bのレーン上に白色で示した線は、道路のレーン上に適切に重なる滑らかな線である。
図2Cは、例示的な測定値に従って連続的に配置された例示的な複数のレーン境界検出点235を示す例示的な図を示す。例示的な複数のレーン境界検出点235に対応する測定値は訓練されたレーン追跡システム103によって測定されるため、
図2Bのレーン上に白色で示した線は、滑らかではなく、道路のレーン上に重ならない。
【0042】
更に、いくつかの実施形態では、訓練段階中、係数値決定モジュール223は、連続したレーン境界検出点のサブセットと、対応するグラウンドトゥルース値とをグラウンドトゥルース集合として選択し、連続したレーン境界検出点のサブセットと、対応する測定値とを測定された集合として選択し得る。係数値決定モジュール223は、グラウンドトゥルース集合を用いてグラウンドトゥルースクロソイド点を生成し、測定された集合を用いて測定されたクロソイド点を生成し得る。いくつかの実施形態では、クロソイド点は、一般に、事前定義された数の連続したレーン境界検出点を使用して生成される。したがって、自律走行車両101が道路のレーンに沿って移動しているとき、グラウンドトゥルース集合及び測定された集合は、それぞれのグラウンドトゥルースクロソイド点及び測定されたクロソイド点を生成するために次々と連続的に選択される。グラウンドトゥルース値のレーン境界検出点を「N」個含む例示的なグラウンドトゥルース集合は、以下のように示すことができる。
[(x0,y0),(x1,y1),(x2,y2),……(xn-1,yn-1)]
【0043】
同様に、測定値のレーン境界検出点を「M」個含む例示的なグラウンドトゥルース集合は、以下のように示すことができる。
[(x0,y0),(x1,y1),(x2,y2),……(xm-1,ym-1)]
【0044】
その後、訓練段階中、自律走行車両101が移動するレーンのレーン境界をモデル化するために、係数値決定モジュール223は、グラウンドトゥルースクロソイド点及び測定されたクロソイド点についてクロソイドパラメータの係数値を決定するように訓練され得る。いくつかの実施形態では、クロソイドパラメータは、限定されるものではないが、レーン境界の初期曲率(co)、レーン境界の曲率変化率(c1)及び自律走行車両の走行方向に対する向首角(β)を含み得る。いくつかの実施形態では、レーン境界の初期曲率(co)は、画像フレームにおいて決定されたレーンの第1の曲率角度として定義され、レーン境界の曲率変化率(c1)は、初期曲率と比較した場合に画像フレームにおいてレーンの曲率が変化している変化率として定義され、向首角(β)は、レーンの曲率に対する、自律走行車両が前進すると予期される角度として定義され得る。
【0045】
いくつかの実施形態では、クロソイド点は閉形式で評価することができないため、係数値決定モジュール223は、以下の式1を使用してグラウンドトゥルースクロソイド点及び測定されたクロソイド点を決定するように訓練され得る。
【数1】
【0046】
上記の式1において、
- x及びyは、グラウンドトゥルース集合又は測定された集合の一方のレーン境界検出点を指し、
- coは、レーン境界の初期曲率を指し、
- c1は、レーン境界の曲率変化率を指し、
- βは、自律走行車両の走行方向に対する向首角を指し、
- xoffsetは、レーン境界と自律走行車両101(自車)との間の初期横方向オフセットを指す。
【0047】
いくつかの実施形態では、係数値決定モジュール223は、以下の式2を使用して、グラウンドトゥルースクロソイド点のクロソイドパラメータの係数値を決定するように訓練され得る。
【数2】
【0048】
上記の式2において、Aは、以下のとおりである。
【数3】
グラウンドトゥルース集合のレーン検出境界点のデルタ値は、以下のように決定される。
【数4】
c
oは、レーン境界の初期曲率を指し、
c
1は、レーン境界の曲率変化率を指し、
βは、自律走行車両の走行方向に対する向首角を指す。
【0049】
上記の式2を使用して、係数値決定モジュール223は、測定されたクロソイド点のクロソイドパラメータの係数値も決定し得る。いくつかの実施形態では、グラウンドトゥルースクロソイド点及び測定されたクロソイド点のクロソイドパラメータの係数値は、訓練段階中に自律走行車両101が移動しているレーンの境界の状態を表す。
【0050】
その後、カルマンフィルタ決定モジュール225は、レーンのレーン境界を追跡するために、測定されたクロソイド点について決定されたクロソイドパラメータの係数値のためのカルマンフィルタパラメータを決定するように訓練され得る。いくつかの実施形態では、カルマンフィルタ決定モジュール225は、RNN又は長・短期記憶(LSTM)ネットワークなどの少なくとも1つのニューラルネットワークを使用してカルマンフィルタパラメータを決定し得る。カルマンフィルタ決定モジュール225は、1つ以上のニューラルネットワークを使用してカルマンフィルタパラメータを決定し得る。いくつかの実施形態では、カルマンフィルタ決定モジュール225は、測定されたクロソイド点について決定されたクロソイドパラメータの係数値を第1のニューラルネットワークへの入力として最初に提供し得る。いくつかの実施形態では、第1のニューラルネットワークは、過去の測定された集合及びグラウンドトゥルース集合を使用して形成されたクロソイド点について決定されたクロソイドパラメータの過去の係数値に基づいて訓練され得る。その後、カルマンフィルタ決定モジュール225は、第1のニューラルネットワークを使用して、測定されたクロソイド点について決定されたクロソイドパラメータの係数値を使用して測定ノイズ共分散行列(R)を決定し得る。第1のニューラルネットワークは、長期依存性を学習することが可能であり得る。第1のニューラルネットワークは、RNN又はLSTMネットワークを含み得る。「R」を決定すると、カルマンフィルタ決定モジュール225は、レーンに沿って移動する自律走行車両101の速度と連続した画像フレーム間の時間差とに基づいて、1つの画像フレームから別の画像フレームへの、測定されたクロソイド点について決定されたクロソイドパラメータの係数値の状態遷移(Y
p)を予測し得る。いくつかの実施形態では、状態遷移は、次に示す行列を使用して予測され得る。
【数5】
【0051】
上記の行列において、
「v」は、自律走行車両の速度を指し、
「Δt」は、連続した画像フレーム間の時間差を指す。
【0052】
その後、カルマンフィルタ決定モジュール225は、予測された状態遷移を第2のニューラルネットワークへの入力として使用してプロセスノイズ共分散行列(Q)を決定し得る。いくつかの実施形態では、第2のニューラルネットワークも過去の自車速度値及び時間差値を使用して訓練され得る。第2のニューラルネットワークは、長期依存性を学習することが可能であり得る。第2のニューラルネットワークは、RNN又はLSTMネットワークを含み得る。決定されたプロセスノイズ共分散行列(Q)を使用して、カルマンフィルタ決定モジュール225は、予測された状態遷移の誤差共分散(Pp)を予測し得る。最後に、カルマンフィルタ決定モジュール225は、予測された状態遷移(Yp)及び共分散(Pp)、決定された測定ノイズ共分散行列(R)並びに測定されたクロソイド点について決定されたクロソイドパラメータの係数値に基づいて、測定されたクロソイド点について決定されたクロソイドパラメータの係数値のためのカルマンフィルタパラメータを決定し得る。いくつかの実施形態では、広義には、カルマンフィルタは、時間(t)における、状態ベクトル(y)、状態遷移行列(f)、状態誤差共分散行列(P)、プロセスノイズ共分散行列(Q)、カルマンゲイン(K)、測定ノイズ共分散行列(R)及び測定値(z)(複数のレーン境界検出点に対応する測定値とも呼ばれる)を含み得るが、これらに限定されない。上述のように、カルマンフィルタ決定モジュール225は、それぞれ第1のニューラルネットワーク及び第2のニューラルネットワークを使用してQ及びRを学習し得る。以下の式1~5は、カルマンフィルタパラメータの残りの部分の決定を示す。式1及び2はカルマンフィルタパラメータの予測に関連し、式3~5はカルマンフィルタパラメータの更新に関連する。
【0053】
下記の式1において、
【数6】
は、時間「t」における予測された状態ベクトルを示し、
【数7】
は、状態遷移行列である。
【数8】
【0054】
下記の式2において、
【数9】
は、時間「t」における予測された状態誤差共分散行列を示し、
【数10】
は、時間(t-1)において決定された状態誤差共分散行列を示し、「F」は、「f」の行列表現であり、「Q」は、プロセスノイズ共分散行列(Q)を示す。
【数11】
【0055】
下記の式3において、
【数12】
は、時間「t」における予測された状態誤差共分散を示し、「R」は、測定ノイズ共分散行列を示し、「K
t」は、時間「t」におけるカルマンゲインを示す。
【数13】
【0056】
下記の式4において、
【数14】
は、時間「t」における更新された状態ベクトルを示し、
【数15】
は、時間「t」における予測された状態ベクトルを示し、「K
t」は、時間「t」におけるカルマンゲインを示し、「z」は、時間「t」における、複数のレーン境界検出点に対応する測定値である。
【数16】
【0057】
下記の式5において、
【数17】
は、時間「t」における予測された状態誤差共分散行列を示し、
【数18】
は、時間「t」における更新された状態誤差共分散行列を示し、「K
t」は、時間「t」におけるカルマンゲインを示し、「I」は、単位行列を示す。
【数19】
【0058】
カルマンフィルタパラメータを決定すると、再構成モジュール227は、対応するカルマンフィルタパラメータを使用して、測定されたクロソイド点について決定されたクロソイドパラメータの係数値を更新するように訓練され得る。一例として、カルマンフィルタパラメータに基づいて更新されたクロソイドパラメータの係数値は、以下のように示される。
【数20】
【0059】
上記の例では、KFはカルマンフィルタパラメータを指し、「KF」が付けられたクロソイドパラメータは、決定されたカルマンフィルタパラメータが、クロソイドパラメータの係数値を更新するためにクロソイドパラメータに適用されることを示す。
【0060】
いくつかの実施形態では、測定されたクロソイド点について決定されたクロソイドパラメータの係数値を更新すると、再構成モジュール227は、クロソイドパラメータの対応する更新された係数値を使用して測定されたクロソイド点を再構成するように訓練され得る。いくつかの実施形態では、それぞれの再構成された測定されたクロソイド点は、レーン追跡システム103が自律走行車両101のレーン境界を追跡することを可能にする。いくつかの実施形態では、再構成モジュール227は、レーン境界と自車との間の初期横方向オフセットを再構成された測定されたクロソイド点に加え得る。一例として、再構成されたクロソイド点に基づいて形成された、例示的な追跡されモデル化されたレーン237は、
図2Dに示すとおりである。更なる例では、
図2Eは、自律走行車両101が移動している道路に属する、追跡された複数の例示的なレーンを示す。
図2Eでは、参照番号235で示される線は、例示的な複数のレーン境界検出点235に対応する初期測定値を表し、参照番号237で示される線は、再構成された測定されたクロソイド点に基づいて形成された例示的な追跡されモデル化されたレーン237を表す。したがって、本開示では、レーン追跡システム103は、自律走行車両101が移動しているレーンの左境界レーン及び右境界レーンを意味する自車レーンを追跡するだけでなく、
図2Eに示すように、道路の他のレーンも追跡する。
【0061】
更に、学習モジュール229は、再構成されたクロソイド点と、対応するグラウンドトゥルース集合との間の差分を計算することにより、訓練誤差を決定し得る。再構成されたクロソイド点と、対応するグラウンドトゥルース集合との間の差分を計算することにより、学習モジュール229は、誤差の最小化を強化することができ、これは、動的環境に展開されたときに自律走行車両101のレーン追跡を行うために、再構成された測定されたクロソイド点を正確に決定することにつながる。訓練段階中、学習モジュール229は、各サイクルにおいて、訓練誤差が、事前定義された閾値を下回るまで、決定された訓練誤差を最小化し得る。
【0062】
いくつかの実施形態では、このようにして訓練されたレーン追跡システム103は、自律走行車両101が道路を移動している動的環境で使用され得る。
【0063】
いくつかの実施形態では、動的環境において、受信モジュール221は、レーン境界検出システム105から、複数のレーン境界検出点に対応する測定値を受信し得る。複数のレーン境界検出点は、自律走行車両101が現在移動しているレーンの左レーン境界及び右レーン境界に対応する。
【0064】
その後、係数値決定モジュール223は、連続したレーン境界検出点のサブセットと、対応する測定値とを含む測定された集合に基づいて測定されたクロソイド点を生成し得る。いくつかの実施形態では、係数値決定モジュール223は、自律走行車両101が道路を移動しているときに、測定された集合を形成するために連続したレーン境界検出点のサブセットを動的に選択し得る。次いで、係数値決定モジュール223は、レーンのレーン境界をモデル化するために、測定されたクロソイド点のクロソイドパラメータの係数値を決定し得る。
【0065】
更に、いくつかの実施形態では、カルマンフィルタ決定モジュール225は、レーンのレーン境界を追跡するために、測定されたクロソイド点について決定されたクロソイドパラメータの係数値のためのカルマンフィルタパラメータを決定し得る。いくつかの実施形態では、カルマンフィルタ決定モジュール225は、予測された状態遷移(Yp)及び共分散(Pp)、決定された測定ノイズ共分散行列(R)並びに測定されたクロソイド点について決定されたクロソイドパラメータの係数値に基づいて、測定されたクロソイド点について決定されたクロソイドパラメータの係数値のためのカルマンフィルタパラメータを決定し得る。
【0066】
その後、再構成モジュール227は、カルマンフィルタパラメータを使用して、測定されたクロソイド点について決定されたクロソイドパラメータの係数値を更新し得る。最後に、再構成モジュール227は、クロソイドパラメータの対応する更新された係数値を使用して、測定されたクロソイド点を再構成し得る。いくつかの実施形態では、それぞれの再構成された測定されたクロソイド点は、レーン追跡システム103が自律走行車両101のレーン境界を追跡することを可能にする。
【0067】
図3Aは、本開示のいくつかの実施形態による、自律走行車両のレーン追跡システムを訓練する方法を示すフローチャートを示す。
【0068】
図3Aに示すように、方法300aは、自律走行車両101のレーン追跡システムを訓練する方法を示す1つ以上のブロックを含む。方法300aは、コンピュータ実行可能命令に一般的に関連して記述され得る。一般に、コンピュータ実行可能命令は、関数を実行する又は抽象データ型を実装するルーチン、プログラム、オブジェクト、コンポーネント、データ構造、プロシージャ、モジュール及び関数を含み得る。
【0069】
方法300aを説明する順序は、限定として解釈されることを意図されず、任意の数の説明する方法ブロックを任意の順序で組み合わせて方法300aを実装することができる。加えて、個々のブロックは、本明細書で説明される主題の趣旨及び範囲から逸脱することなく、方法から削除され得る。更に、方法300aは、任意の適当なハードウェア、ソフトウェア、ファームウェア又はこれらの組み合わせによって実施され得る。
【0070】
ブロック301において、方法300aは、レーン追跡システム103のプロセッサ107により、訓練段階中、レーン追跡システム103に関連するレーン境界検出システム105から、複数のレーン境界検出点に対応するグラウンドトゥルース値と、複数のレーン境界検出点に対応する測定値とを受信することを含み得る。いくつかの実施形態では、複数のレーン境界検出点は、車両101に構成された1つ以上のセンサ113から受信したレーンデータと、リアルタイムで受信したレーンの画像フレームとの少なくとも一方を使用して決定され得る。いくつかの実施形態では、レーンの画像フレームは、自律走行車両101に関連する画像取込デバイス115から受信される。いくつかの他の実施形態では、レーンデータとリアルタイムで取り込まれた画像フレームとを格納するように構成されたデータベースから、レーンデータとレーンの画像フレームとの少なくとも一方が取得される。データベースは、レーン追跡システム103に関連し得る。
【0071】
ブロック303において、方法300aは、訓練段階中、プロセッサ107により、レーンのレーン境界をモデル化するために、それぞれグラウンドトゥルース集合及び測定された集合を使用して形成されたグラウンドトゥルースクロソイド点及び測定されたクロソイド点について、クロソイドパラメータの係数値を決定することを含み得る。いくつかの実施形態では、プロセッサ107は、連続したレーン境界検出点のサブセットと、対応するグラウンドトゥルース値とを選択して、グラウンドトゥルース集合を形成し、連続したレーン境界検出点のサブセットと、対応する測定値とを選択して、測定された集合を形成し得る。いくつかの実施形態では、グラウンドトゥルース集合及び測定された集合を形成するために選択された連続したレーン境界検出点の数は、事前定義され得る。しかし、選択は、リアルタイムでプロセッサ107によって行われる。いくつかの他の実施形態では、グラウンドトゥルース集合及び測定された集合を形成するために選択された連続したレーン境界検出点の数は、画像フレームごとにプロセッサ107によって要件ごとに決定され得る。いくつかの実施形態では、クロソイドパラメータは、限定されるものではないが、レーン境界の初期曲率(co)、レーン境界の曲率変化率(c1)及び車両の走行方向に対する向首角(β)を含み得る。
【0072】
ブロック305において、方法300aは、訓練段階中、プロセッサ107により、レーンのレーン境界を追跡するために、測定されたクロソイド点について決定されたクロソイドパラメータの係数値のためのカルマンフィルタパラメータを決定することを含む。いくつかの実施形態では、プロセッサ107は、RNN又は長・短期記憶(LSTM)ネットワークなどのニューラルネットワークを使用してカルマンフィルタパラメータを決定し得る。
【0073】
ブロック307において、方法300aは、訓練段階中、プロセッサ107により、対応するカルマンフィルタパラメータを使用して、測定されたクロソイド点について決定されたクロソイドパラメータの係数値を更新することを含み得る。
【0074】
ブロック309において、方法300aは、訓練段階中、プロセッサ107により、クロソイドパラメータの対応する更新された係数値を使用して、測定されたクロソイド点を再構成することを含む。いくつかの実施形態では、それぞれの再構成された測定されたクロソイド点は、レーン追跡システム103が自律走行車両101のレーン境界を追跡することを可能にする。
【0075】
ブロック311において、方法300aは、訓練段階中、プロセッサ107により、各サイクルにおいて、再構成された測定されたクロソイド点と、対応するグラウンドトゥルース集合との間の差分に基づく訓練誤差を、訓練誤差が、事前定義された閾値を下回るまで最小化することを含む。このようにして、サイクルごとに、プロセッサ107は、訓練中にレーン追跡システム103を使用してレーンを追跡する際の誤差を減らす。いくつかの実施形態では、プロセッサ107は、レーン境界と自律走行車両101との間の初期横方向オフセットを再構成された測定されたクロソイド点に加え得る。
【0076】
図3Bは、本開示のいくつかの実施形態による自律走行車両のレーン追跡の方法を示すフローチャートを示す。
【0077】
図3Aに示すように、方法300bは、自律走行車両101のレーン追跡の方法を示す1つ以上のブロックを含む。方法300bは、コンピュータ実行可能命令に一般的に関連して記述され得る。一般に、コンピュータ実行可能命令は、関数を実行する又は抽象データ型を実装するルーチン、プログラム、オブジェクト、コンポーネント、データ構造、プロシージャ、モジュール及び関数を含み得る。
【0078】
方法300bを説明する順序は、限定として解釈されることを意図されず、任意の数の説明する方法ブロックを任意の順序で組み合わせて方法300bを実装することができる。加えて、個々のブロックは、本明細書で説明される主題の趣旨及び範囲から逸脱することなく、方法から削除され得る。更に、方法300bは、任意の適当なハードウェア、ソフトウェア、ファームウェア又はこれらの組み合わせにより実施され得る。
【0079】
ブロック313において、方法300bは、レーン追跡システム103のプロセッサ107により、自律走行車両101が道路を移動している動的環境において、レーン追跡システム103に関連するレーン境界検出システム105から、複数のレーン境界検出点に対応する測定値を受信することを含み得る。いくつかの実施形態では、複数のレーン境界検出点は、自律走行車両101に構成された1つ以上のセンサ113から受信したレーンデータと、リアルタイムで受信したレーンの画像フレームとの少なくとも一方を使用して決定される。いくつかの実施形態では、プロセッサ107は、自律走行車両101に関連する画像取込デバイス115からレーンの画像フレームを受信し得る。いくつかの実施形態では、プロセッサ107は、レーンデータとリアルタイムで取り込まれた画像フレームとを格納するように構成されたデータベースから、レーンデータとレーンの画像フレームとの少なくとも一方を取得し得る。データベースは、レーン追跡システム103に関連し得る。
【0080】
ブロック315において、方法300bは、動的環境において、プロセッサ107により、レーンのレーン境界をモデル化するために、それぞれ測定された集合を使用して形成された測定されたクロソイド点について、クロソイドパラメータの係数値を決定することを含み得る。いくつかの実施形態では、プロセッサ107は、測定された集合を形成するために連続したレーン境界検出点のサブセット及び対応する測定値を選択し得る。いくつかの実施形態では、測定された集合を形成するために選択された連続したレーン境界検出点の数は、事前定義され得る。しかし、選択は、リアルタイムでプロセッサ107によって行われる。いくつかの他の実施形態では、測定された集合を形成するために選択された連続したレーン境界検出点の数は、画像フレームごとにプロセッサ107によって要件ごとに決定され得る。いくつかの実施形態では、クロソイドパラメータは、限定されるものではないが、レーン境界の初期曲率(co)、レーン境界の曲率変化率(c1)及び車両の走行方向に対する向首角(β)を含み得る。
【0081】
ブロック317において、方法300bは、動的環境において、プロセッサ107により、レーンのレーン境界を追跡するために、測定されたクロソイド点について決定されたクロソイドパラメータの係数値のためのカルマンフィルタパラメータを決定することを含み得る。いくつかの実施形態では、プロセッサ107は、長期依存性を学習することができるニューラルネットワーク、例えば、RNN又は長・短期記憶(LSTM)ネットワークを使用してカルマンフィルタパラメータを決定し得る。
【0082】
ブロック319において、方法300bは、動的環境において、プロセッサ107により、対応するカルマンフィルタパラメータを使用して、測定されたクロソイド点について決定されたクロソイドパラメータの係数値を更新することを含み得る。
【0083】
ブロック321において、方法300bは、動的環境において、プロセッサ107により、クロソイドパラメータの対応する更新された係数値を使用して、測定されたクロソイド点を再構成することを含み得る。いくつかの実施形態では、それぞれの再構成された測定されたクロソイド点は、レーン追跡システム103が自律走行車両101のレーン境界を追跡することを可能にする。
【0084】
図4は、本開示と一致する実施形態を実装するための例示的なコンピュータシステムのブロック図である。
【0085】
いくつかの実施形態では、
図4は、本発明と一致する実施形態を実装するための例示的なコンピュータシステム400のブロック図を示す。いくつかの実施形態では、コンピュータシステム400は、
図4に示すように、自律走行車両のレーン追跡のレーン追跡システム103であり得る。コンピュータシステム400は、中央処理装置(「CPU」又は「プロセッサ」)402を含み得る。プロセッサ402は、ユーザ又はシステムが生成したビジネスプロセスを実行するためのプログラムコンポーネントを実行するための少なくとも1つのデータプロセッサを含み得る。ユーザは、人、本発明に含まれるものなどのデバイスを使用する人又はかかるデバイス自体を含み得る。プロセッサ402は、統合システム(バス)コントローラ、メモリ管理制御ユニット、浮動小数点ユニット、グラフィックス処理ユニット、デジタル信号処理ユニットなどの専用処理ユニットを含み得る。
【0086】
プロセッサ402は、I/Oインターフェース401を介して入力デバイス411及び出力デバイス412と連絡して配置され得る。I/Oインターフェース401は、オーディオ、アナログ、デジタル、ステレオ、IEEE-1394、シリアルバス、ユニバーサルシリアルバス(USB)、赤外線、PS/2、BNC、同軸、コンポーネント、コンポジット、デジタルビジュアルインターフェース(DVI)、高解像度マルチメディアインターフェース(HDMI)、無線周波数(RF)アンテナ、S-Video、ビデオグラフィックスアレイ(VGA)、IEEE 802.n/b/g/n/x、Bluetooth、セルラー(例えば、符号分割多元接続(CDMA)、高速パケットアクセス(HSPA+)、汎欧州デジタル移動電話方式(GSM)、ロングタームエボリューション(LTE)、WiMaxなど)の通信プロトコル/方法を採用し得るが、これらに限定されない。
【0087】
I/Oインターフェース401を使用して、コンピュータシステム400は、入力デバイス411及び出力デバイス412と通信し得る。
【0088】
いくつかの実施形態では、プロセッサ402は、ネットワークインターフェース403を介して通信ネットワーク409と連絡して配置され得る。ネットワークインターフェース403は、通信ネットワーク409と通信可能である。ネットワークインターフェース403は、これらに限定されないが、ダイレクトコネクト、イーサネット(例えば、ツイストペア10/100/1000 Base T)、伝送制御プロトコル/インターネットプロトコル(TCP/IP)、トークンリング、IEEE 802.11a/b/g/n/xなどを含む接続プロトコルを採用し得る。ネットワークインターフェース403及び通信ネットワーク409を使用して、コンピュータシステム400は、レーン境界検出システム105、1つ以上のセンサ113及び画像取込デバイス115と通信し得る。いくつかの実施形態では、レーン追跡システム103は、データベース(
図4には示さず)にも関連し得る。通信ネットワーク409は、イントラネット又はローカルエリアネットワーク(LAN)、クローズドエリアネットワーク(CAN)など、及び自律車両内部のような異なる種類のネットワークの1つとして実装することができる。通信ネットワーク409は、専用ネットワーク又は共有ネットワークのいずれか一方であり得、これは、互いに通信するために、種々のプロトコル、例えばハイパーテキスト転送プロトコル(HTTP)、CANプロトコル、伝送制御プロトコル/インターネットプロトコル(TCP/IP)、ワイヤレスアプリケーションプロトコル(WAP)などを使用する異なる種類のネットワークの関連を表す。更に、通信ネットワーク409は、ルータ、ブリッジ、サーバ、コンピューティングデバイス、ストレージデバイスなどを含む様々なネットワークデバイスを含み得る。1つ以上のセンサ113は、光検知測距(LIDAR)システム、全地球測位システム(GPS)、レーザなどを含み得るが、これらに限定されない。いくつかの実施形態では、プロセッサ402は、ストレージインターフェース404を介してメモリ405(例えば、RAM、ROMなど。
図4には示さず)と連絡して配置され得る。ストレージインターフェース404は、シリアルアドバンスドテクノロジーアタッチメント(SATA)、Integrated Drive Electronics(IDE)、IEEE-1394、ユニバーサルシリアルバス(USB)、ファイバーチャネル、小型計算機システムインターフェース(SCSI)などの接続プロトコルを採用して、メモリドライブ、リムーバブルディスクドライブなどを含むが、これらに限定されないメモリ405に接続し得る。メモリドライブは、ドラム、磁気ディスクドライブ、磁気光学ドライブ、光学ドライブ、Redundant Array of Independent Disc(RAID)、ソリッドステートメモリデバイス、ソリッドステートドライブなどを更に含み得る。
【0089】
メモリ405は、ユーザインターフェース406、オペレーティングシステム407、Webブラウザ408などを含むがこれらに限定されないプログラム又はデータベースコンポーネントの集合を格納し得る。いくつかの実施形態では、コンピュータシステム400は、本発明において説明するようなデータ、変数、記録などのユーザ/アプリケーションデータを格納し得る。かかるデータベースは、Oracle又はSybaseなどのフォールトトレラント、リレーショナル、スケーラブルで、セキュアなデータベースとして実装され得る。
【0090】
オペレーティングシステム407は、コンピュータシステム400のリソース管理及び動作を容易にし得る。オペレーティングシステム407の例としては、APPLE(登録商標)MACINTOSH(登録商標)OS X(登録商標)、UNIX(登録商標)、UNIX系システムディストリビューション(例えば、BERKELEY SOFTWARE DISTRIBUTION(登録商標)(BSD)、FREEBSD(登録商標)、NETBSD(登録商標)、OPENBSDなど)、LINUX(登録商標)ディストリビューション(例えば、RED HAT(登録商標)、UBUNTU(登録商標)、KUBUNTU(登録商標)など)、IBM(登録商標)OS/2(登録商標)、MICROSOFT(登録商標)WINDOWS(登録商標)(XP(登録商標)、VISTA(登録商標)/7/8、10など)、APPLE(登録商標)IOS(登録商標)、GOOGLE(商標)ANDROID(商標)、BLACKBERRY(登録商標)OSなどが挙げられるが、これらに限定されない。ユーザインターフェース406は、テキスト又はグラフィック機能を介してプログラムコンポーネントの表示、実行、対話、操作又は動作を容易にし得る。例えば、ユーザインターフェース406は、カーソル、アイコン、チェックボックス、メニュー、スクローラ、ウィンドウ、ウィジェットなど、コンピュータシステム400に動作可能に接続されるディスプレイシステム上のコンピュータ対話インターフェース要素を提供し得る。Apple(登録商標)Macintosh(登録商標)オペレーティングシステムのAqua(登録商標)、IBM(登録商標)OS/2(登録商標)、Microsoft(登録商標)Windows(登録商標)(例えば、Aero、Metroなど)、Webインターフェースライブラリ(例えば、ActiveX(登録商標)、Java(登録商標)、Javascript(登録商標)、AJAX、HTML、Adobe(登録商標)Flash(登録商標)など)などを含むがこれらに限定されないグラフィカルユーザインターフェース(GUI)が採用され得る。
【0091】
いくつかの実施形態では、コンピュータシステム400は、Webブラウザ408格納プログラムコンポーネントを実装し得る。Webブラウザ408は、MICROSOFT(登録商標)INTERNET EXPLORER(登録商標)、GOOGLE(商標)CHROME(商標)、MOZILLA(登録商標)FIREFOX(登録商標)、APPLE(登録商標)SAFARI(登録商標)などのハイパーテキスト閲覧アプリケーションであり得る。セキュアウェブブラウジングは、セキュアハイパーテキスト転送プロトコル(HTTPS)、Secure Sockets Layer(SSL)、トランスポート層セキュリティ(TLS)などを使用して提供され得る。Webブラウザ408は、AJAX、DHTML、ADOBE(登録商標)FLASH(登録商標)、JAVASCRIPT(登録商標)、JAVA(登録商標)、アプリケーションプログラミングインターフェース(API)などの機能を利用し得る。いくつかの実施形態では、コンピュータシステム400は、メールサーバ格納プログラムコンポーネントを実装し得る。メールサーバは、Microsoft Exchangeなどのインターネットメールサーバであり得る。メールサーバは、アクティブサーバページ(ASP)、ACTIVEX(登録商標)、ANSI(登録商標)C++/C#、MICROSOFT(登録商標)、.NET、CGIスクリプト、JAVA(登録商標)、JAVASCRIPT(登録商標)、PERL(登録商標)、PHP、PYTHON(登録商標)、WEBOBJECTS(登録商標)などの機能を利用し得る。メールサーバは、インターネットメッセージアクセスプロトコル(IMAP)、Messaging Application Programming Interface(MAPI)、MICROSOFT(登録商標)exchange、ポストオフィスプロトコル(POP)、簡易メール転送プロトコル(SMTP)などの通信プロトコルを利用し得る。いくつかの実施形態では、コンピュータシステム400は、メールクライアント格納プログラムコンポーネントを実装し得る。メールクライアントは、APPLE(登録商標)MAIL、MICROSOFT(登録商標)ENTOURAGE(登録商標)、MICROSOFT(登録商標)OUTLOOK(登録商標)、MOZILLA(登録商標)THUNDERBIRD(登録商標)などのメール閲覧アプリケーションであり得る。
【0092】
更に、1つ以上のコンピュータ可読記憶媒体は、本発明と一致する実施形態を実装することにおいて利用され得る。コンピュータ可読記憶媒体は、プロセッサ可読な情報又はデータを格納できる任意の種類の物理的メモリを指す。したがって、コンピュータ可読記憶媒体は、本明細書で説明される複数の実施形態と一致するステップ又は段階をプロセッサ(複数可)に実行させる命令を含む、1つ以上のプロセッサにより実行される命令を格納することができる。「コンピュータ可読媒体」という用語は、有形のアイテムを含み、搬送波及び過渡信号を除外し、すなわち非一時的であると理解されたい。例としては、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、揮発性メモリ、不揮発性メモリ、ハードドライブ、コンパクトディスク(CD)ROM、デジタルビデオディスク(DVD)、フラッシュドライブ、ディスク及び他の任意の公知の物理的記憶媒体が挙げられる。
【0093】
互いに通信するいくつかのコンポーネントを有する実施形態の説明は、すべてのそのようなコンポーネントが必要とされることを意味するものではない。反対に、様々な任意選択のコンポーネントは、本発明の多様な可能な実施形態を例示するために説明される。単一のデバイス又は物品が本明細書で説明される場合、単一のデバイス/物品の代わりに2つ以上のデバイス/物品(それらが協働するか否かに関わらず)が使用され得ることが明らかであろう。同様に、2つ以上のデバイス又は物品が本明細書で説明される場合(それらが協働するか否かに関わらず)、単一のデバイス/物品は、2つ以上のデバイス若しくは物品の代わりに使用され得るか、又は異なる数のデバイス/物品は、示した数のデバイス若しくはプログラムの代わりに使用され得ることが明らかであろう。デバイスの機能及び/又は特徴は、かかる機能/特徴を有するものとして明示的に説明されていない1つ以上の他のデバイスによって代替として具現化され得る。したがって、本発明の他の実施形態は、デバイス自体を含む必要はない。
【0094】
本明細書は、自律走行車両101のレーン追跡の方法及びシステムを説明した。図示のステップは、示した例示的な実施形態を説明するために提示され、進行中の技術開発が、特定の機能が実行される様式を変化させるであろうことは予期すべきである。これらの例は、例示の目的のために本明細書に提示され、限定するものではない。更に、機能構成ブロックの境界は、説明の便宜上、本明細書で任意に定義されている。指定された機能及びその関係が適切に実行される限り、代替の境界を定義することができる。代替形態(本明細書で説明するものの均等物、拡張形態、変形形態、逸脱などを含む)は、本明細書に含まれる教示に基づいて、関連する技術分野の当業者に明らかであろう。かかる代替形態は、開示した実施形態の範囲及び趣旨に含まれる。また、単語「含む」、「有する」、「含有する」及び「包含する」並びに他の同様の形態は、意味において同等であり、これらの単語のいずれか1つに続く項目が、かかる項目の網羅的な列挙であることを意味するものでも、又は列挙された単数又は複数の項目のみに限定されることを意味するものでもない点でオープンエンドであることを意図する。本明細書及び添付の特許請求の範囲で使用する場合、単数形「1つの(a)」、「1つの(an)」及び「その」は、文脈で明確に規定しない限り、複数の言及を含むことにも留意されたい。
【0095】
最終的に、本明細書において用いられる言語は、主に読みやすさ及び教示する目的のために選択されたものであり、本発明の主題を線引き又は限定するために選択されたものではない。したがって、本発明の範囲は、この詳細な説明によってではなく、本明細書に基づく出願に関して発行される特許請求の範囲によって限定されることを意図する。したがって、本発明の実施形態は、以下の特許請求の範囲に記載する本発明の範囲を例示することを意図するが、限定するものではない。
【符号の説明】
【0096】
100 アーキテクチャ
101 自律走行車両
103 レーン追跡システム
105 レーン境界検出システム
107 プロセッサ
109 I/Oインターフェース
111 メモリ
113 1つ以上のセンサ
115 画像取込デバイス
203 データ
205 モジュール
207 訓練データ
209 クロソイド点データ
211 カルマンフィルタパラメトリックデータ
213 再構成されたデータ
215 他のデータ
221 受信モジュール
223 係数値決定モジュール
225 カルマンフィルタ決定モジュール
227 再構成モジュール
229 学習モジュール
231 他のモジュール
233 測定値に対応する例示的な複数のレーン境界検出点
235 グラウンドトゥルース値に対応する例示的な複数のレーン境界検出点
237 再構成されたクロソイド点に基づいて追跡されモデル化された例示的なレーン
400 例示的なコンピュータシステム
401 例示的なコンピュータシステムのI/Oインターフェース
402 例示的なコンピュータシステムのプロセッサ
403 ネットワークインターフェース
404 ストレージインターフェース
405 例示的なコンピュータシステムのメモリ
406 ユーザインターフェース
407 オペレーティングシステム
408 Webブラウザ
409 通信ネットワーク
411 入力デバイス
412 出力デバイス
【手続補正書】
【提出日】2024-04-08
【手続補正1】
【補正対象書類名】明細書
【補正対象項目名】0095
【補正方法】変更
【補正の内容】
【0095】
最終的に、本明細書において用いられる言語は、主に読みやすさ及び教示する目的のために選択されたものであり、本発明の主題を線引き又は限定するために選択されたものではない。したがって、本発明の範囲は、この詳細な説明によってではなく、本明細書に基づく出願に関して発行される特許請求の範囲によって限定されることを意図する。したがって、本発明の実施形態は、以下の特許請求の範囲に記載する本発明の範囲を例示することを意図するが、限定するものではない。
なお、本願は、特許請求の範囲に記載の発明に関するものであるが、他の観点として以下も含む。
1.
自律走行車両(101)のレーン追跡システム(103)を訓練する方法であって、
レーン追跡システム(103)により、前記レーン追跡システム(103)に関連するレーン境界検出システム(105)から、複数のレーン境界検出点に対応するグラウンドトゥルース値と、前記複数のレーン境界検出点に対応する測定値とを受信することと、
前記レーン追跡システム(103)により、レーンのレーン境界をモデル化するために、それぞれグラウンドトゥルース集合及び測定された集合を使用して形成されたグラウンドトゥルースクロソイド点及び測定されたクロソイド点について、クロソイドパラメータの係数値を決定することであって、前記グラウンドトゥルース集合は、連続したレーン境界検出点のサブセットと、前記対応するグラウンドトゥルース値とを含み、及び前記測定された集合は、連続したレーン境界検出点のサブセットと、前記対応する測定値とを含む、決定することと、
前記レーン追跡システム(103)により、前記レーンの前記レーン境界を追跡するために、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のためのカルマンフィルタパラメータを決定することであって、前記カルマンフィルタパラメータは、少なくとも1つのニューラルネットワークを使用して決定される、決定することと、
前記レーン追跡システム(103)により、前記対応するカルマンフィルタパラメータを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を更新することと、
前記レーン追跡システム(103)により、前記クロソイドパラメータの前記対応する更新された係数値を使用して、前記測定されたクロソイド点を再構成することであって、それぞれの再構成された測定されたクロソイド点は、前記レーン追跡システム(103)が前記自律走行車両(101)の前記レーン境界を追跡することを可能にする、再構成することと、
前記レーン追跡システム(103)により、各サイクルにおいて、前記再構成された測定されたクロソイド点と、前記対応するグラウンドトゥルース集合との間の差分に基づく訓練誤差を、前記訓練誤差が、事前定義された閾値を下回るまで最小化することと
を含む方法。
2.
前記複数のレーン境界検出点は、前記レーンの左レーン境界及び右レーン境界に対応する、上記1に記載の方法。
3.
前記レーン追跡システム(103)により、それぞれ前記グラウンドトゥルースクロソイド点及び前記測定されたクロソイド点を生成するために必要な前記グラウンドトゥルース集合及び前記測定された集合を動的に選択することを含む、上記1又は2に記載の方法。
4.
前記車両において構成された1つ以上のセンサ(113)から受信されたレーンデータと、リアルタイムで受信された前記レーンの画像フレームとの少なくとも一方を使用して、前記複数のレーン境界検出点を決定することを含み、前記レーンの前記画像フレームは、前記自律走行車両(101)に関連する画像取込デバイス(115)から受信される、上記1~3のいずれか一つに記載の方法。
5.
前記レーンデータと、リアルタイムで取り込まれた前記画像フレームとを格納するように構成されたデータベースから、前記レーンデータと、前記レーンの前記画像フレームとの前記少なくとも一方を取得することを含む、上記4に記載の方法。
6.
前記クロソイドパラメータは、レーン境界の初期曲率(c
o
)、前記レーン境界の曲率変化率(c
1
)及び車両の走行方向に対する向首角(β)を含む、上記1~5のいずれか一つに記載の方法。
7.
前記少なくとも1つのニューラルネットワークは、時間記憶を伴うニューラルネットワークを含む、上記1~6のいずれか一つに記載の方法。
8.
前記少なくとも1つのニューラルネットワークは、回帰型ニューラルネットワークを含む、上記1~7のいずれか一つに記載の方法。
9.
前記少なくとも1つのニューラルネットワークは、長・短期記憶ニューラルネットワークを含む、上記1~8のいずれか一つに記載の方法。
10.
前記少なくとも1つのニューラルネットワークを使用して前記カルマンフィルタパラメータを決定することは、
前記レーン追跡システム(103)により、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を第1のニューラルネットワークへの入力として提供することであって、前記第1のニューラルネットワークは、過去の測定された集合及びグラウンドトゥルース集合を使用して形成されたクロソイド点について決定された前記クロソイドパラメータの過去の係数値に基づいて訓練される、提供することと、
前記レーン追跡システム(103)により、前記第1のニューラルネットワークを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を使用して測定ノイズ共分散行列(R)を決定することと、
前記レーン追跡システム(103)により、前記レーンに沿って移動する前記自律走行車両(101)の速度と、連続した画像フレーム間の時間差とに基づいて、1つの画像フレームから別の画像フレームへの、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値の状態遷移(Y
p
)を予測することと、
前記レーン追跡システム(103)により、前記予測された状態遷移を第2のニューラルネットワークへの入力として使用してプロセスノイズ共分散行列(Q)を決定することであって、前記第2のニューラルネットワークは、過去の自律走行車両(101)速度値及び時間差値を使用して訓練される、決定することと、
前記レーン追跡システム(103)により、前記決定されたプロセスノイズ共分散行列(Q)を使用して、前記予測された状態遷移の誤差共分散(P
p
)を予測することと、
前記レーン追跡システム(103)により、前記予測された状態遷移(Y
p
)及び共分散(P
p
)、前記決定された測定ノイズ共分散行列(R)並びに前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値に基づいて、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のための前記カルマンフィルタパラメータを決定することと
を含む、上記1~9のいずれか一つに記載の方法。
11.
前記レーン追跡システム(103)により、前記レーン境界と前記自律走行車両(101)との間の初期横方向オフセットを、前記再構成された測定されたクロソイド点に加えることを更に含む、上記1~10のいずれか一つに記載の方法。
12.
自律走行車両(101)のレーン追跡の方法であって、
レーン追跡システム(103)により、前記レーン追跡システム(103)に関連するレーン境界検出システム(105)から、複数のレーン境界検出点に対応する測定値を受信することと、
前記レーン追跡システム(103)により、レーンのレーン境界をモデル化するために、測定された集合を使用して形成された測定されたクロソイド点について、クロソイドパラメータの係数値を決定することであって、前記測定された集合は、連続したレーン境界検出点のサブセットと、前記対応する測定値とを含む、決定することと、
前記レーン追跡システム(103)により、前記レーンの前記レーン境界を追跡するために、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のためのカルマンフィルタパラメータを決定することであって、前記カルマンフィルタパラメータは、少なくとも1つのニューラルネットワークを使用して決定される、決定することと、
前記レーン追跡システム(103)により、前記対応するカルマンフィルタパラメータを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を更新することと、
前記レーン追跡システム(103)により、前記クロソイドパラメータの前記対応する更新された係数値を使用して、前記測定されたクロソイド点を再構成することであって、それぞれの再構成された測定されたクロソイド点は、前記レーン追跡システム(103)が前記自律走行車両(101)の前記レーン境界を追跡することを可能にする、再構成することと
を含む方法。
13.
前記少なくとも1つのニューラルネットワークは、時間記憶を伴うニューラルネットワークを含む、上記12に記載の方法。
14.
前記少なくとも1つのニューラルネットワークは、回帰型ニューラルネットワークを含む、上記12又は13に記載の方法。
15.
前記少なくとも1つのニューラルネットワークは、長・短期記憶ニューラルネットワークを含む、上記12~14のいずれか一つに記載の方法。
16.
自律走行車両(101)のレーン追跡システム(103)であって、
プロセッサ(107)と、
前記プロセッサ(107)に通信可能に結合されたメモリ(111)であって、実行時、前記プロセッサ(107)に前記レーン追跡システム(103)を訓練させるプロセッサ(107)命令を格納するメモリ(111)と
を含み、訓練のために、前記プロセッサ(107)は、
前記レーン追跡システム(103)に関連するレーン境界検出システム(105)から、複数のレーン境界検出点に対応するグラウンドトゥルース値と、前記複数のレーン境界検出点に対応する測定値とを受信することと、
レーンのレーン境界をモデル化するために、それぞれグラウンドトゥルース集合及び測定された集合を使用して形成されたグラウンドトゥルースクロソイド点及び測定されたクロソイド点について、クロソイドパラメータの係数値を決定することであって、前記グラウンドトゥルース集合は、連続したレーン境界検出点のサブセットと、前記対応するグラウンドトゥルース値とを含み、及び前記測定された集合は、連続したレーン境界検出点のサブセットと、前記対応する測定値とを含む、決定することと、
前記レーンの前記レーン境界を追跡するために、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のためのカルマンフィルタパラメータを決定することであって、前記カルマンフィルタパラメータは、少なくとも1つのニューラルネットワークを使用して決定される、決定することと、
前記対応するカルマンフィルタパラメータを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を更新することと、
前記クロソイドパラメータの前記対応する更新された係数値を使用して、前記測定されたクロソイド点を再構成することであって、それぞれの再構成された測定されたクロソイド点は、前記レーン追跡システム(103)が前記自律走行車両(101)の前記レーン境界を追跡することを可能にする、再構成することと、
各サイクルにおいて、前記再構成された測定されたクロソイド点と、前記対応するグラウンドトゥルース集合との間の差分に基づく訓練誤差を、前記訓練誤差が、事前定義された閾値を下回るまで最小化することと
を行うように構成される、レーン追跡システム(103)。
17.
前記複数のレーン境界検出点は、前記レーンの左レーン境界及び右レーン境界に対応する、上記16に記載のレーン追跡システム(103)。
18.
前記プロセッサ(107)は、それぞれ前記グラウンドトゥルースクロソイド点及び前記測定されたクロソイド点を生成するために必要な前記グラウンドトゥルース集合及び前記測定された集合を動的に選択する、上記16又は17に記載のレーン追跡システム(103)。
19.
前記複数のレーン境界検出点は、前記車両において構成された1つ以上のセンサ(113)から受信されたレーンデータと、リアルタイムで受信された前記レーンの画像フレームとの少なくとも一方を使用して決定され、前記レーンの前記画像フレームは、前記自律走行車両(101)に関連する画像取込デバイス(115)から受信される、上記16~18のいずれか一つに記載のレーン追跡システム(103)。
20.
前記プロセッサ(107)は、前記レーンデータと、リアルタイムで取り込まれた前記画像フレームとを格納するように構成されたデータベースから、前記レーンデータと、前記レーンの前記画像フレームとの少なくとも一方を取得する、上記19に記載のレーン追跡システム(103)。
21.
前記クロソイドパラメータは、レーン境界の初期曲率(c
o
)、前記レーン境界の曲率変化率(c
1
)及び車両の走行方向に対する向首角(β)を含む、上記16~20のいずれか一つに記載のレーン追跡システム(103)。
22.
前記少なくとも1つのニューラルネットワークを使用して前記カルマンフィルタパラメータを決定するために、前記プロセッサ(107)は、
前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を第1のニューラルネットワークへの入力として提供することであって、前記第1のニューラルネットワークは、過去の測定された集合及びグラウンドトゥルース集合を使用して形成されたクロソイド点について決定された前記クロソイドパラメータの過去の係数値に基づいて訓練される、提供することと、
前記第1のニューラルネットワークを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を使用して測定ノイズ共分散行列(R)を決定することと、
前記レーンに沿って移動する前記自律走行車両(101)の速度と、連続した画像フレーム間の時間差とに基づいて、1つの画像フレームから別の画像フレームへの、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値の状態遷移(Y
p
)を予測することと、
前記予測された状態遷移を第2のニューラルネットワークへの入力として使用してプロセスノイズ共分散行列(Q)を決定することであって、前記第2のニューラルネットワークは、過去の自律走行車両(101)速度値及び時間差値を使用して訓練される、決定することと、
前記決定されたプロセスノイズ共分散行列(Q)を使用して、前記予測された状態遷移の誤差共分散(P
p
)を予測することと、
前記予測された状態遷移(Y
p
)及び共分散(P
p
)、前記決定された測定ノイズ共分散行列(R)並びに前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値に基づいて、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のための前記カルマンフィルタパラメータを決定することと
を行うように構成される、上記16~21のいずれか一つに記載のレーン追跡システム(103)。
23.
前記プロセッサ(107)は、前記レーン境界と前記自律走行車両(101)との間の初期横方向オフセットを、前記再構成された測定されたクロソイド点に加えるように更に構成される、上記16~22のいずれか一つに記載のレーン追跡システム(103)。
24.
前記少なくとも1つのニューラルネットワークは、時間記憶を伴うニューラルネットワークを含む、上記16~23のいずれか一つに記載のレーン追跡システム(103)。
25、
前記少なくとも1つのニューラルネットワークは、回帰型ニューラルネットワークを含む、上記16~24のいずれか一つに記載のレーン追跡システム(103)。
26.
前記少なくとも1つのニューラルネットワークは、長・短期記憶ニューラルネットワークを含む、上記16~25のいずれか一つに記載のレーン追跡システム(103)。
27.
自律走行車両(101)のレーン追跡システム(103)であって、
プロセッサ(107)と、
前記プロセッサ(107)に通信可能に結合されたメモリ(111)であって、実行時、前記プロセッサ(107)に、
前記レーン追跡システム(103)に関連するレーン境界検出システム(105)から、複数のレーン境界検出点に対応する測定値を受信することと、
レーンのレーン境界をモデル化するために、測定された集合を使用して形成された測定されたクロソイド点について、クロソイドパラメータの係数値を決定することであって、前記測定された集合は、連続したレーン境界検出点のサブセットと、前記対応する測定値とを含む、決定することと、
前記レーンの前記レーン境界を追跡するために、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のためのカルマンフィルタパラメータを決定することであって、前記カルマンフィルタパラメータは、少なくとも1つのニューラルネットワークを使用して決定される、決定することと、
前記対応するカルマンフィルタパラメータを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を更新することと、
前記クロソイドパラメータの前記対応する更新された係数値を使用して、前記測定されたクロソイド点を再構成することであって、それぞれの再構成された測定されたクロソイド点は、前記レーン追跡システム(103)が前記自律走行車両(101)の前記レーン境界を追跡することを可能にする、再構成することと
を行わせるプロセッサ(107)命令を格納する、メモリ(111)と
を含むレーン追跡システム(103)。
28.
前記少なくとも1つのニューラルネットワークは、時間記憶を伴うニューラルネットワークを含む、上記27に記載のレーン追跡システム(103)。
29.
前記少なくとも1つのニューラルネットワークは、回帰型ニューラルネットワークを含む、上記27又は28に記載のレーン追跡システム(103)。
30.
前記少なくとも1つのニューラルネットワークは、長・短期記憶ニューラルネットワークを含む、上記27~29のいずれか一つに記載のレーン追跡システム(103)。
【手続補正2】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
自律走行車両(101)のレーン追跡システム(103)を訓練する方法であって、
レーン追跡システム(103)により、前記レーン追跡システム(103)に関連するレーン境界検出システム(105)から、複数のレーン境界検出点に対応するグラウンドトゥルース値と、前記複数のレーン境界検出点に対応する測定値とを受信することと、
前記レーン追跡システム(103)により、レーンのレーン境界をモデル化するために、それぞれグラウンドトゥルース集合及び測定された集合を使用して形成されたグラウンドトゥルースクロソイド点及び測定されたクロソイド点について、クロソイドパラメータの係数値を決定することであって、前記グラウンドトゥルース集合は、連続したレーン境界検出点のサブセットと、前記対応するグラウンドトゥルース値とを含み、及び前記測定された集合は、連続したレーン境界検出点のサブセットと、前記対応する測定値とを含む、決定することと、
前記レーン追跡システム(103)により、前記レーンの前記レーン境界を追跡するために、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のためのカルマンフィルタパラメータを決定することであって、前記カルマンフィルタパラメータは、少なくとも1つのニューラルネットワークを使用して決定される、決定することと、
前記レーン追跡システム(103)により、前記対応するカルマンフィルタパラメータを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を更新することと、
前記レーン追跡システム(103)により、前記クロソイドパラメータの前記対応する更新された係数値を使用して、前記測定されたクロソイド点を再構成することであって、それぞれの再構成された測定されたクロソイド点は、前記レーン追跡システム(103)が前記自律走行車両(101)の前記レーン境界を追跡することを可能にする、再構成することと、
前記レーン追跡システム(103)により、各サイクルにおいて、前記再構成された測定されたクロソイド点と、前記対応するグラウンドトゥルース集合との間の差分に基づく訓練誤差を、前記訓練誤差が、事前定義された閾値を下回るまで最小化することと
を含む方法。
【請求項2】
前記複数のレーン境界検出点は、前記レーンの左レーン境界及び右レーン境界に対応する、請求項1に記載の方法。
【請求項3】
前記レーン追跡システム(103)により、それぞれ前記グラウンドトゥルースクロソイド点及び前記測定されたクロソイド点を生成するために必要な前記グラウンドトゥルース集合及び前記測定された集合を動的に選択することを含む、請求項1又は2に記載の方法。
【請求項4】
前記車両において構成された1つ以上のセンサ(113)から受信されたレーンデータと、リアルタイムで受信された前記レーンの画像フレームとの少なくとも一方を使用して、前記複数のレーン境界検出点を決定することを含み、前記レーンの前記画像フレームは、前記自律走行車両(101)に関連する画像取込デバイス(115)から受信される、請求項1
又は2に記載の方法。
【請求項5】
前記レーンデータと、リアルタイムで取り込まれた前記画像フレームとを格納するように構成されたデータベースから、前記レーンデータと、前記レーンの前記画像フレームとの前記少なくとも一方を取得することを含む、請求項4に記載の方法。
【請求項6】
前記クロソイドパラメータは、レーン境界の初期曲率(c
o)、前記レーン境界の曲率変化率(c
1)及び車両の走行方向に対する向首角(β)を含む、請求項1
又は2に記載の方法。
【請求項7】
前記少なくとも1つのニューラルネットワークは、時間記憶を伴うニューラルネットワークを含む、請求項1
又は2に記載の方法。
【請求項8】
前記少なくとも1つのニューラルネットワークは、回帰型ニューラルネットワークを含む、請求項1
又は2に記載の方法。
【請求項9】
前記少なくとも1つのニューラルネットワークは、長・短期記憶ニューラルネットワークを含む、請求項1
又は2に記載の方法。
【請求項10】
前記少なくとも1つのニューラルネットワークを使用して前記カルマンフィルタパラメータを決定することは、
前記レーン追跡システム(103)により、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を第1のニューラルネットワークへの入力として提供することであって、前記第1のニューラルネットワークは、過去の測定された集合及びグラウンドトゥルース集合を使用して形成されたクロソイド点について決定された前記クロソイドパラメータの過去の係数値に基づいて訓練される、提供することと、
前記レーン追跡システム(103)により、前記第1のニューラルネットワークを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を使用して測定ノイズ共分散行列(R)を決定することと、
前記レーン追跡システム(103)により、前記レーンに沿って移動する前記自律走行車両(101)の速度と、連続した画像フレーム間の時間差とに基づいて、1つの画像フレームから別の画像フレームへの、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値の状態遷移(Y
p)を予測することと、
前記レーン追跡システム(103)により、前記予測された状態遷移を第2のニューラルネットワークへの入力として使用してプロセスノイズ共分散行列(Q)を決定することであって、前記第2のニューラルネットワークは、過去の自律走行車両(101)速度値及び時間差値を使用して訓練される、決定することと、
前記レーン追跡システム(103)により、前記決定されたプロセスノイズ共分散行列(Q)を使用して、前記予測された状態遷移の誤差共分散(P
p)を予測することと、
前記レーン追跡システム(103)により、前記予測された状態遷移(Y
p)及び共分散(P
p)、前記決定された測定ノイズ共分散行列(R)並びに前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値に基づいて、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のための前記カルマンフィルタパラメータを決定することと
を含む、請求項1
又は2に記載の方法。
【請求項11】
前記レーン追跡システム(103)により、前記レーン境界と前記自律走行車両(101)との間の初期横方向オフセットを、前記再構成された測定されたクロソイド点に加えることを更に含む、請求項1
又は2に記載の方法。
【請求項12】
自律走行車両(101)のレーン追跡の方法であって、
レーン追跡システム(103)により、前記レーン追跡システム(103)に関連するレーン境界検出システム(105)から、複数のレーン境界検出点に対応する測定値を受信することと、
前記レーン追跡システム(103)により、レーンのレーン境界をモデル化するために、測定された集合を使用して形成された測定されたクロソイド点について、クロソイドパラメータの係数値を決定することであって、前記測定された集合は、連続したレーン境界検出点のサブセットと、前記対応する測定値とを含む、決定することと、
前記レーン追跡システム(103)により、前記レーンの前記レーン境界を追跡するために、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のためのカルマンフィルタパラメータを決定することであって、前記カルマンフィルタパラメータは、少なくとも1つのニューラルネットワークを使用して決定される、決定することと、
前記レーン追跡システム(103)により、前記対応するカルマンフィルタパラメータを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を更新することと、
前記レーン追跡システム(103)により、前記クロソイドパラメータの前記対応する更新された係数値を使用して、前記測定されたクロソイド点を再構成することであって、それぞれの再構成された測定されたクロソイド点は、前記レーン追跡システム(103)が前記自律走行車両(101)の前記レーン境界を追跡することを可能にする、再構成することと
を含む方法。
【請求項13】
前記少なくとも1つのニューラルネットワークは、時間記憶を伴うニューラルネットワークを含む、請求項12に記載の方法。
【請求項14】
前記少なくとも1つのニューラルネットワークは、回帰型ニューラルネットワークを含む、請求項12又は13に記載の方法。
【請求項15】
前記少なくとも1つのニューラルネットワークは、長・短期記憶ニューラルネットワークを含む、請求項12
又は13に記載の方法。
【請求項16】
自律走行車両(101)のレーン追跡システム(103)であって、
プロセッサ(107)と、
前記プロセッサ(107)に通信可能に結合されたメモリ(111)であって、実行時、前記プロセッサ(107)に前記レーン追跡システム(103)を訓練させるプロセッサ(107)命令を格納するメモリ(111)と
を含み、訓練のために、前記プロセッサ(107)は、
前記レーン追跡システム(103)に関連するレーン境界検出システム(105)から、複数のレーン境界検出点に対応するグラウンドトゥルース値と、前記複数のレーン境界検出点に対応する測定値とを受信することと、
レーンのレーン境界をモデル化するために、それぞれグラウンドトゥルース集合及び測定された集合を使用して形成されたグラウンドトゥルースクロソイド点及び測定されたクロソイド点について、クロソイドパラメータの係数値を決定することであって、前記グラウンドトゥルース集合は、連続したレーン境界検出点のサブセットと、前記対応するグラウンドトゥルース値とを含み、及び前記測定された集合は、連続したレーン境界検出点のサブセットと、前記対応する測定値とを含む、決定することと、
前記レーンの前記レーン境界を追跡するために、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のためのカルマンフィルタパラメータを決定することであって、前記カルマンフィルタパラメータは、少なくとも1つのニューラルネットワークを使用して決定される、決定することと、
前記対応するカルマンフィルタパラメータを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を更新することと、
前記クロソイドパラメータの前記対応する更新された係数値を使用して、前記測定されたクロソイド点を再構成することであって、それぞれの再構成された測定されたクロソイド点は、前記レーン追跡システム(103)が前記自律走行車両(101)の前記レーン境界を追跡することを可能にする、再構成することと、
各サイクルにおいて、前記再構成された測定されたクロソイド点と、前記対応するグラウンドトゥルース集合との間の差分に基づく訓練誤差を、前記訓練誤差が、事前定義された閾値を下回るまで最小化することと
を行うように構成される、レーン追跡システム(103)。
【請求項17】
前記複数のレーン境界検出点は、前記レーンの左レーン境界及び右レーン境界に対応する、請求項16に記載のレーン追跡システム(103)。
【請求項18】
前記プロセッサ(107)は、それぞれ前記グラウンドトゥルースクロソイド点及び前記測定されたクロソイド点を生成するために必要な前記グラウンドトゥルース集合及び前記測定された集合を動的に選択する、請求項16又は17に記載のレーン追跡システム(103)。
【請求項19】
前記複数のレーン境界検出点は、前記車両において構成された1つ以上のセンサ(113)から受信されたレーンデータと、リアルタイムで受信された前記レーンの画像フレームとの少なくとも一方を使用して決定され、前記レーンの前記画像フレームは、前記自律走行車両(101)に関連する画像取込デバイス(115)から受信される、請求項16
又は17に記載のレーン追跡システム(103)。
【請求項20】
前記プロセッサ(107)は、前記レーンデータと、リアルタイムで取り込まれた前記画像フレームとを格納するように構成されたデータベースから、前記レーンデータと、前記レーンの前記画像フレームとの少なくとも一方を取得する、請求項19に記載のレーン追跡システム(103)。
【請求項21】
前記クロソイドパラメータは、レーン境界の初期曲率(c
o)、前記レーン境界の曲率変化率(c
1)及び車両の走行方向に対する向首角(β)を含む、請求項16
又は17に記載のレーン追跡システム(103)。
【請求項22】
前記少なくとも1つのニューラルネットワークを使用して前記カルマンフィルタパラメータを決定するために、前記プロセッサ(107)は、
前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を第1のニューラルネットワークへの入力として提供することであって、前記第1のニューラルネットワークは、過去の測定された集合及びグラウンドトゥルース集合を使用して形成されたクロソイド点について決定された前記クロソイドパラメータの過去の係数値に基づいて訓練される、提供することと、
前記第1のニューラルネットワークを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を使用して測定ノイズ共分散行列(R)を決定することと、
前記レーンに沿って移動する前記自律走行車両(101)の速度と、連続した画像フレーム間の時間差とに基づいて、1つの画像フレームから別の画像フレームへの、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値の状態遷移(Y
p)を予測することと、
前記予測された状態遷移を第2のニューラルネットワークへの入力として使用してプロセスノイズ共分散行列(Q)を決定することであって、前記第2のニューラルネットワークは、過去の自律走行車両(101)速度値及び時間差値を使用して訓練される、決定することと、
前記決定されたプロセスノイズ共分散行列(Q)を使用して、前記予測された状態遷移の誤差共分散(P
p)を予測することと、
前記予測された状態遷移(Y
p)及び共分散(P
p)、前記決定された測定ノイズ共分散行列(R)並びに前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値に基づいて、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のための前記カルマンフィルタパラメータを決定することと
を行うように構成される、請求項16
又は17に記載のレーン追跡システム(103)。
【請求項23】
前記プロセッサ(107)は、前記レーン境界と前記自律走行車両(101)との間の初期横方向オフセットを、前記再構成された測定されたクロソイド点に加えるように更に構成される、請求項16
又は17に記載のレーン追跡システム(103)。
【請求項24】
前記少なくとも1つのニューラルネットワークは、時間記憶を伴うニューラルネットワークを含む、請求項16
又は17に記載のレーン追跡システム(103)。
【請求項25】
前記少なくとも1つのニューラルネットワークは、回帰型ニューラルネットワークを含む、請求項16
又は17に記載のレーン追跡システム(103)。
【請求項26】
前記少なくとも1つのニューラルネットワークは、長・短期記憶ニューラルネットワークを含む、請求項16
又は17に記載のレーン追跡システム(103)。
【請求項27】
自律走行車両(101)のレーン追跡システム(103)であって、
プロセッサ(107)と、
前記プロセッサ(107)に通信可能に結合されたメモリ(111)であって、実行時、前記プロセッサ(107)に、
前記レーン追跡システム(103)に関連するレーン境界検出システム(105)から、複数のレーン境界検出点に対応する測定値を受信することと、
レーンのレーン境界をモデル化するために、測定された集合を使用して形成された測定されたクロソイド点について、クロソイドパラメータの係数値を決定することであって、前記測定された集合は、連続したレーン境界検出点のサブセットと、前記対応する測定値とを含む、決定することと、
前記レーンの前記レーン境界を追跡するために、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値のためのカルマンフィルタパラメータを決定することであって、前記カルマンフィルタパラメータは、少なくとも1つのニューラルネットワークを使用して決定される、決定することと、
前記対応するカルマンフィルタパラメータを使用して、前記測定されたクロソイド点について決定された前記クロソイドパラメータの前記係数値を更新することと、
前記クロソイドパラメータの前記対応する更新された係数値を使用して、前記測定されたクロソイド点を再構成することであって、それぞれの再構成された測定されたクロソイド点は、前記レーン追跡システム(103)が前記自律走行車両(101)の前記レーン境界を追跡することを可能にする、再構成することと
を行わせるプロセッサ(107)命令を格納する、メモリ(111)と
を含むレーン追跡システム(103)。
【請求項28】
前記少なくとも1つのニューラルネットワークは、時間記憶を伴うニューラルネットワークを含む、請求項27に記載のレーン追跡システム(103)。
【請求項29】
前記少なくとも1つのニューラルネットワークは、回帰型ニューラルネットワークを含む、請求項27又は28に記載のレーン追跡システム(103)。
【請求項30】
前記少なくとも1つのニューラルネットワークは、長・短期記憶ニューラルネットワークを含む、請求項27
又は28に記載のレーン追跡システム(103)。
【国際調査報告】