(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-06-21
(54)【発明の名称】自動化車両制御分散ネットワークの装置及び方法
(51)【国際特許分類】
G08G 1/09 20060101AFI20230614BHJP
B60W 60/00 20200101ALI20230614BHJP
B60W 50/08 20200101ALI20230614BHJP
G08G 1/01 20060101ALI20230614BHJP
【FI】
G08G1/09 F
B60W60/00
B60W50/08
G08G1/01 C
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2022570563
(86)(22)【出願日】2021-05-21
(85)【翻訳文提出日】2023-01-13
(86)【国際出願番号】 US2021033774
(87)【国際公開番号】W WO2021242646
(87)【国際公開日】2021-12-02
(32)【優先日】2020-08-07
(33)【優先権主張国・地域又は機関】US
(32)【優先日】2020-05-24
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】522450602
【氏名又は名称】レムコ コーポレーション
(74)【代理人】
【識別番号】100079108
【氏名又は名称】稲葉 良幸
(74)【代理人】
【識別番号】100109346
【氏名又は名称】大貫 敏史
(74)【代理人】
【識別番号】100117189
【氏名又は名称】江口 昭彦
(74)【代理人】
【識別番号】100134120
【氏名又は名称】内藤 和彦
(72)【発明者】
【氏名】パン,シャオウェイ
(72)【発明者】
【氏名】ポンテ,ブライアン
【テーマコード(参考)】
3D241
5H181
【Fターム(参考)】
3D241BA49
3D241BA63
3D241BA65
3D241CD10
3D241CE02
3D241CE08
3D241CE09
3D241DA52Z
3D241DB01Z
3D241DB05Z
5H181AA01
5H181BB04
5H181BB20
5H181CC04
5H181FF13
5H181FF27
(57)【要約】
自動化車両制御分散ネットワークノードであり、これは、道路の同じ側にある、2つの近隣の沿道ノードと通信する為の少なくとも2つのモデムと、無線接続を介して車両と通信する為の少なくとも1つのアンテナと、暗視機能を含む複数の高速高解像度ビデオカメラからの画像データを使用してパターンを検出するように動作するパターン認識処理と、パターン認識処理と作用的に結合されて、パターン認識処理を使用して車両の位置、速度、及び方向を予測するように動作する車両予測処理と、車両予測データを受け取る為に車両予測処理と作用的に結合され、少なくとも1つのアンテナと作用的に結合されて、車両予測処理から受け取った車両予測データに対する応答として、加速、減速、及び操舵の制御信号を複数の車両に送信するように動作する車両制御装置と、を含む。
【特許請求の範囲】
【請求項1】
自動化車両制御分散ネットワークノードであって、
道路の同じ側にある2つの近隣の沿道ノードと通信する為の少なくとも2つのモデムと、
無線接続を介して車両と通信する為の少なくとも1つのアンテナと、
暗視機能を含む複数の高速高解像度ビデオカメラからの画像データを使用してパターンを検出するように動作するパターン認識処理と、
前記パターン認識処理と作用的に結合されて、前記パターン認識処理を使用して車両の位置、速度、及び方向を予測するように動作する車両予測処理と、
車両予測データを受け取る為に前記車両予測処理と作用的に結合され、前記少なくとも1つのアンテナと作用的に結合されて、前記車両予測処理から受け取った車両予測データに対する応答として、加速、減速、及び操舵の制御信号を複数の車両に送信するように動作する車両制御装置と、
を含む自動化車両制御分散ネットワークノード。
【請求項2】
前記パターン認識処理と作用的に結合された、暗視機能を含む少なくとも1つの高速高解像度ビデオカメラ
を含む、請求項1に記載の自動化車両制御分散ネットワークノード。
【請求項3】
前記道路の向こう側にある第3の近隣ノードと通信する為の少なくとも第3のモデム
を更に含む、請求項1に記載の自動化車両制御分散ネットワークノード。
【請求項4】
前記少なくとも2つのモデム、前記少なくとも1つのアンテナ、及び前記車両制御装置と作用的に結合された無線、分散コアネットワーク並びに車両処理
を更に含む、請求項1に記載の自動化車両制御分散ネットワークノード。
【請求項5】
前記車両予測処理は、機械学習アルゴリズムを使用して実施される、請求項1に記載の自動化車両制御分散ネットワークノード。
【請求項6】
複数の、作用的に結合された、請求項1に記載の自動化車両制御分散ネットワークノードを含む自動化車両制御分散ネットワーク。
【請求項7】
前記パターン認識処理は更に、
近隣ノードのカメラからの画像データを使用して、前記ノード画像から欠落した点を検出する
ように動作する、
請求項1に記載の自動化車両制御分散ネットワークノード。
【請求項8】
前記無線、分散コアネットワーク並びに車両処理は、第4世代(4G)及び(第5世代)(5G)の無線アクセス構成要素及び関連する分散コアネットワークを含む、請求項4に記載の自動化車両制御分散ネットワークノード。
【請求項9】
複数の道路カメラから高速高解像度ビデオデータを取得することと、
前記高速高解像度ビデオデータを使用して、少なくとも1つの車両について、車両の位置、方向、及び速度を特定することと、
前記少なくとも1つの車両の位置を予測することと、
前記予測された位置に基づいて、加速、減速、及び操舵のコマンドを前記車両に送信することと、
を含む方法。
【請求項10】
複数の沿道ポールにマウントされた少なくとも1つのカメラから前記高速高解像度ビデオデータを取得して、タイムスタンプ付きの3次元画像を取得すること
を更に含む、請求項9に記載の方法。
【請求項11】
前記3次元画像に対して画像補正を実施して補正済み画像を生成することと、
前記補正済み画像を使用して、少なくとも1つの車両について、車両の位置、方向、及び速度を特定することと、
を更に含む、請求項10に記載の方法。
【請求項12】
加速、減速、及び操舵のコマンドを複数の車両に、ユニキャストインターネットプロトコル(IP)パケットとして送信すること
を更に含む、請求項9に記載の方法。
【請求項13】
加速、減速、及び操舵のコマンドを複数の車両に、マルチキャストインターネットプロトコル(IP)パケットとして送信すること
を更に含む、請求項12に記載の方法。
【請求項14】
複数の環境センサから環境データを取得すること
を更に含む、請求項9に記載の方法。
【請求項15】
トランスポンダと通信することによって、複数の環境センサと前記トランスポンダとを含む舗装道路マーカを介して、前記複数の環境センサから環境データを取得すること
を更に含む、請求項9に記載の方法。
【請求項16】
トランスポンダと通信することによって、複数のセンサと前記トランスポンダとを含む舗装道路マーカを介して、前記複数のセンサから地理的位置データを取得することと、
前記地理的位置データを使用して、前記3次元画像を較正することと、
を更に含む、請求項10に記載の方法。
【請求項17】
複数の道路高速高解像度カメラを使用して道路を監視して、車両、動物、歩行者、道路異常、及び障害物を検出することと、
検出された車両、動物、歩行者、道路異常、及び障害物のそれぞれについて予測モデルを作成することと、
少なくとも1つの予測モデルに基づいて、少なくとも1つの車両に対する制御アクションを決定することと、
前記決定された制御アクションに基づいて、前記少なくとも1つの車両に加速、減速、及び操舵のコマンドを送信することと、
を含む方法。
【請求項18】
前記複数の道路高速高解像度カメラを介して、前記少なくとも1つの車両についての制御フィードバックを受け取ることと、
前記制御フィードバックに基づいて調節された加速、減速、及び操舵のコマンドを前記少なくとも1つの車両に送信することと、
を更に含む、請求項17に記載の方法。
【請求項19】
前記少なくとも1つの車両と自動化車両制御分散ネットワークとの間の、複数の沿道ノードを介しての複数の無線接続を保持することと、
前記少なくとも1つの車両と前記自動化車両制御分散ネットワークとの間に通信遅延がないように、前記少なくとも1つの車両が道路に沿って移動しながら、前記少なくとも1つの車両によって少なくとも1つの更なる沿道ノードにメイクビフォアブレーク無線ハンドオフを連続的に実施することと、
を更に含む、請求項17に記載の方法。
【請求項20】
前記複数の沿道ノードを使用して、加速、減速、及び操舵のコマンドを、前記少なくとも1つの車両に冗長的に送信すること
を更に含む、請求項19に記載の方法。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の相互参照
本出願は、参照によって完全な形で本明細書に組み込まれていて、本出願と同じ譲受人に譲渡されている、2020年5月24日に出願された米国仮特許出願第63/029,542号、件名「自動化車両制御分散ネットワークの装置及び方法(AUTOMATED VEHICLE CONTROL DISTRIBUTED NETWORK APPARATUSES AND METHODS)」の優先権を主張するものである。
【0002】
本開示の分野
本開示は、全般的には、モノのインターネット(IoT)に関し、より具体的には、自動化車両制御の方法及び装置に関する。
【背景技術】
【0003】
背景
ソサエティ・オブ・オートモーティブ・エンジニアズ(SAE)は、自動化車両システムの自動化レベルを定義しており、これには、操舵の実行、加速及び減速、運転環境の監視、動的運転タスクの縮退運転性能、並びに条件付き自動化、高度自動化、及び完全自動化(SAEレベル5)等の運転モードで定義されるシステム機能等の機能が含まれる。SAEレベル5自動化では、自動運転システムは、人間の運転者が対処できるあらゆる道路条件及び環境条件の下で動的運転タスクの全ての態様を実施する。既存の自動運転システムは、車載人工知能(AI)システムをベースとしている。しかしながら、SAEレベル5は、既存の車載AIシステムでは達成できない。
【図面の簡単な説明】
【0004】
図面の簡単な説明
【
図1】様々な実施形態による、自動化車両制御分散ネットワークを有する道路の図である。
【
図2】様々な実施形態による、
図1に示した道路の図であり、自動化車両が自動化車両制御分散ネットワークと通信している様子を示している。
【
図3】様々な自動化車両が自動化車両制御分散ネットワークと通信している様子を示す図である。
【
図5】様々な実施形態による舗装道路マーカの図である。
【
図6】幾つかの実施形態による、自動化車両が自動化車両制御分散ネットワークと通信していて、自動化車両同士でも通信している様子を示す道路の図である。
【
図7】幾つかの実施形態による、自動化車両が自動化車両制御分散ネットワークの様々なノードへのハンドオーバを実施する様子を示す道路の図である。
【
図8】一実施形態による、道路上の物体のパターン認識を100倍強化するように動作するノード処理装置の図である。
【
図9】様々な実施形態による、自動化車両制御分散ネットワークの動作方法を示すフローチャートである。
【
図10】様々な実施形態による、自動化車両制御分散ネットワークの動作方法を示すフローチャートである。
【
図11】様々な実施形態による、自動化車両制御分散ネットワークの動作方法を示すフローチャートである。
【
図12】様々な実施形態による、自動化車両が沿道ノード間でハンドオーバする動作方法を示すフローチャートである。
【
図13】様々な実施形態による、自動化車両制御分散ネットワークの動作方法を示すフローチャートである。
【発明を実施するための形態】
【0005】
詳細な説明
手短に言えば、本開示は、人間の運転者によるインタラクション又は制御に全くよらずに、あらゆる道路条件及び環境条件の下で動的運転タスクの全ての態様を実施する、完全自動化された自動運転システムを可能にする自動化車両制御分散ネットワークを提供する。本開示の自動化車両制御分散ネットワークは、SAEレベル2自動化からSAEレベル5自動化への進化を可能にする。
【0006】
本開示の自動化車両制御分散ネットワークは、周囲物体の速度、位置、及び方向を含み、これに限定されない、車両の周囲環境の検出を可能にする。そのような周囲物体として、人間、動物、工事車両、他の車両等が考えられ、これらに限定されない。深い穴、氷、他の物体等を含み、これらに限定されない、あらゆる道路条件が3次元(3D)で検出される。
【0007】
本開示は、自動化車両制御分散ネットワークノードを提供し、これは、道路の同じ側にある、2つの近隣の沿道ノードと通信する為の少なくとも2つのモデムと、無線接続で車両と通信する為の少なくとも1つのアンテナと、暗視機能を含む複数の高速高解像度ビデオカメラからの画像データを使用してパターンを検出するように動作するパターン認識処理と、パターン認識処理と作用的に結合されて、パターン認識処理を使用して車両の位置、速度、及び方向を予測するように動作する車両予測処理と、車両予測データを受け取る為に車両予測処理と作用的に結合され、少なくとも1つのアンテナと作用的に結合されて、車両予測処理から受け取った車両予測データに対する応答として、加速、減速、及び操舵の制御信号を複数の車両に送信するように動作する車両制御装置と、を含む。本開示の自動化車両制御分散ネットワークは、SAEレベル2自動化からSAEレベル5自動化への進化を可能にする。
【0008】
幾つかの実施形態では、自動化車両制御分散ネットワークノードは、暗視機能を含み、パターン認識処理と作用的に結合された、少なくとも1つの高速高解像度ビデオカメラを含んでよい。自動化車両制御分散ネットワークノードは更に、道路の向こう側にある第3の近隣ノードと通信する為の少なくとも第3のモデムを含んでよい。自動化車両制御分散ネットワークノードは更に、少なくとも2つのモデム、少なくとも1つのアンテナ、及び車両制御装置と作用的に結合された無線、分散コアネットワーク並びに車両処理を含んでよい。車両予測処理は、機械学習アルゴリズムを使用して実施されてよい。
【0009】
本開示はまた、互いに作用的に結合された複数の自動化車両制御分散ネットワークノードを含む自動化車両制御分散ネットワークを提供する。
【0010】
幾つかの実施形態では、パターン認識処理は更に、近隣ノードのカメラからの画像データを使用して、ノード画像から欠落した点を検出するように動作する。無線、分散コアネットワーク並びに車両処理は、第4世代(4G)及び(第5世代)(5G)の無線アクセス構成要素及び関連する分散4G及び/又は5Gコアネットワークを含んでよい。
【0011】
本開示は、複数の道路カメラから高速高解像度ビデオデータを取得することと、その高速高解像度ビデオデータを使用して、少なくとも1つの車両について、車両の位置、方向、及び速度を特定することと、その少なくとも1つの車両の位置を予測することと、その予測された位置に基づいて、加速、減速、及び操舵のコマンドを車両に送信することと、を含む動作方法を提供する。
【0012】
本方法は更に、複数の沿道ポールにマウントされた少なくとも1つのカメラから高速高解像度ビデオデータを取得して、タイムスタンプ付きの3次元画像を取得することを含んでよい。本方法は更に、3次元画像に対して画像補正を実施して補正済み画像を生成することと、その補正済み画像を使用して、少なくとも1つの車両について、車両の位置、方向、及び速度を特定することと、を含んでよい。本方法は更に、加速、減速、及び操舵のコマンドを複数の車両に、ユニキャストインターネットプロトコル(IP)パケットとして送信することを含んでよい。本方法は更に、加速、減速、及び操舵のコマンドを複数の車両に、マルチキャストインターネットプロトコル(IP)パケットとして送信することを含んでよい。本方法は更に、複数の環境センサから環境データを取得することを含んでよい。本方法は更に、複数の環境センサから環境データを取得することを含んでよく、この取得は、複数の環境センサと、トランスポンダとを有する舗装道路マーカを介して行われ、そのトランスポンダと通信することによって行われる。
【0013】
本開示は、複数の道路高速高解像度カメラを使用して道路を監視して、車両、動物、歩行者、道路異常、及び障害物を検出することと、検出された車両、動物、歩行者、道路異常、及び障害物のそれぞれについて予測モデルを作成することと、少なくとも1つの予測モデルに基づいて、少なくとも1つの車両に対する制御アクションを決定することと、決定された制御アクションに基づいて、その少なくとも1つの車両に加速、減速、及び操舵のコマンドを送信することと、を含む動作方法を提供する。本方法は更に、少なくとも1つの車両についての制御フィードバックを、複数の道路高速高解像度カメラを介して受け取ることと、その制御フィードバックに基づいて調節された加速、減速、及び操舵のコマンドをその少なくとも1つの車両に送信することと、を含んでよい。
【0014】
本方法は更に、その少なくとも1つの車両と自動化車両制御分散ネットワークとの間の、複数の沿道ノードを介しての複数の無線接続を保持することと、その少なくとも1つの車両と自動化車両制御分散ネットワークとの間に通信遅延がないように、その少なくとも1つの車両が道路に沿って移動しながら、その少なくとも1つの車両が少なくとも1つの更なる沿道ノードとメイクビフォアブレーク無線ハンドオフを連続的に実施することと、を含んでよい。本方法は更に、その複数の沿道ノードを使用して、調節された加速、減速、及び操舵のコマンドを、その少なくとも1つの車両に冗長的に送信することを含んでよい。
【0015】
ここからは図面を参照する。図面間で類似の参照符号は類似の構成要素を表している。
図1は、様々な実施形態による自動化車両制御分散ネットワーク100を示す。自動化車両制御分散ネットワーク100は、様々な実施形態による開示の装置の一種である。道路101は、トランスポンダ構成要素を収容する舗装道路マーカ103(又は舗装道路スタッド)を含み、それによって、トランスポンダ構成要素は、自動化車両制御分散ネットワークの他の様々な構成要素に情報を伝達することが可能である。トランスポンダは、例えば、無線周波数識別(RFID)又は同等のトランスポンダ通信機能であってよい。
【0016】
自動化車両制御分散ネットワークは、道路101の両側の沿道の各点に配置された様々なポール105又はタワーを含む。各ポール105は、暗視機能を含む高速の(即ち、例えば、少なくとも60fpsの)高解像度ビデオカメラ107のセットがマウントされており、更にノード110を含む。各ポールのカメラ107は、ノード110と作用的に結合されており、ノード110と通信する。カメラ107の各視野角は、道路に沿う各カメラの視野に関して、互いに部分的に重なり合うように配置されている。例えば、任意のポール105上の最も右側のカメラの視野は、そのポール105上の最も左側のカメラ等の視野と部分的に重なり合うように配置されている。
【0017】
一実施形態では、ポール105上のカメラ107の全ての視野が、(例えば、1つの長い、高解像度の長方形又は台形の)1つのフレームにつなげられる。様々なカメラ107の視野は、道路101の両側をカバーする。一実施形態では、マルチカメラ107の画像は、キーストニングを用いて(即ち、キーストン補正アルゴリズムを適用して)補正されてよく、これは、例えば、光学台形補正、デジタル台形補正、又はこれらの組み合わせ等により行われる。利用される画像処理は3D画像処理であり、フレームタイムスタンプを使用して4D画像が生成される。カメラ107の全視野が道路101の向こうまで広がって、車両以外の物体、例えば、動物、歩行者、道路変形(例えば、深い穴/浅い穴、舗装のひび、舗装の座屈)等がキャプチャされる。道路の反対側のポール105の位置は、
図1に示すように、中間点にオフセットされている。
【0018】
図2は、様々な実施形態による、
図1に示した道路のブロック図であり、自動化車両109が複数の無線リンク108を介して自動化車両制御分散ネットワーク100と通信している様子を示している。自動化車両制御分散ネットワーク100は、特定の特異点(16、32、48等)に基づいて各車両109を認識するように動作する。幾つかの実施形態では、車両109のメーカ、型式、色、及びナンバープレート番号の検出が可能であれば、自動化車両制御分散ネットワーク100は、データベースで調べて車両のサイズ、年式、又は他の情報等を取得することが可能である。そうでない場合には、自動化車両制御分散ネットワーク100は、(例えば、ナンバープレート番号を車両のIDとして使用して)パターン認識及びデータベースを使用して、車両のメーカ、型式、色、サイズ、及び年式の情報等を取得するように動作する。自動化されていない車両も自動化車両制御分散ネットワーク100によって検出され、やはり、同じ条件でデータベースから情報が取り出されうる。トランスポンダが使用可能な舗装道路マーカ103は、受動又はバッテリ駆動のトランスポンダであってよい。
【0019】
トランスポンダが使用可能な舗装道路マーカ103は、ノード110と通信するように動作し、ノード110によって使用されて、位置を較正し、道路101の条件のアップデート(例えば、温度、湿度等)を提供する。従って、各舗装道路マーカ103は、様々な環境センサ(例えば、温度センサ、湿度センサ、圧力センサ等であり、これらに限定されない)も含んでよい。道路101は温度によって膨張したり収縮したりし、座屈することもあり、或いは、深い穴、ひび、その他の変形が発生することもある為、舗装道路マーカ103の厳密な位置は、時間とともに周期的に変化する。様々なノード110によって検出される舗装道路マーカ103の地理情報に基づいて、自動化車両制御分散ネットワーク100は、各位置を周期的に再較正することによって正確さを確保するように動作する。
【0020】
車両109の方向及び速度は、車両109ごとにノード110によって計算され、これには、隣接ビデオ画像及び対応するタイムスタンプにおいて検出される、車両109のIDが使用される。東西方向の道路上での動作の一例では、東に向かって移動する全ての車両IDが、道路101に沿って東に向かう方向に、道路の両側にある全ての隣接するノード及び対向するノード110を通り過ぎ、それらのノードによって識別される。これと同様のことが、西に向かう全ての車両についても、道路101に沿って西に向かう方向にある隣接するノード及び対向するノード110に対して行われる。
【0021】
各自動化車両109は、少なくとも5つのノード110と同時に通信しており、移動しながら、無線リンク108のうちの少なくとも1つの無線リンク108の、1つのノード110から別のノード110への無線ハンドオフを実施して、少なくとも5つのノード110との通信が常に保持されるようにしている。言い換えると、無線リンク108の4+1冗長性が保持されている。車両制御コマンド(例えば、加速、減速、及び操舵のコマンドであり、これらに限定されない)が、冗長無線リンクのそれぞれを介して車両に冗長的に送信されてよく、これにより、制御コマンドの信頼性が高まる。無線ハンドオフ動作の一例では、車両109は、最初に、道路101の最も右側にあるノードA-2と通信し、
図2に示した移動矢印の方向に移動しながらノードA+1との無線ハンドオフを開始してよい。言い換えると、車両109は、複数のノードとの複数の無線接続を保持し、道路に沿って移動しながらメイクビフォアブレーク無線ハンドオフを連続的に実施する。各ノード110は、車両109の位置の独自予測を実施しており、この情報を他の各ノード110と共有することが可能である。言い換えると、各ノード110は、分散ネットワーク内の他のノード110から独立して動作し、パターン認識を実施し、人工知能又は機械学習を応用して、車両の位置、方向、及び速度についての(加えて、非自動化車両、未登録車両、他の物体、歩行者、動物、及び道路変形についての)予測モデルを作成することと、加速、減速、及び操舵を含む制御信号を送信することと、を行うように動作する。ノード110同士は、必要に応じて通信し合ってデータ、モデル、及び処理能力を共有し、それによって、全ての自動化車両に対する冗長性を高めている。分散ネットワーク内の各ノード110はまた、機械学習/AIアルゴリズム(例えば、パターン認識及び車両予測処理であり、これらに限定されない)をトレーニングすることに使用されるトレーニングデータを集めるように動作し、それによって、これら及び他の機械的/AIアルゴリズムは、最初にトレーニングされ、更に追加で収集されるビッグデータで強化されることが可能である。
【0022】
図3は、道路を示す図であり、様々な実施形態による、様々な自動化車両と自動化車両制御分散ネットワーク100とのインタラクションを示す図である。自動化車両制御分散ネットワーク100内の各ノード110は、各自のビデオ画像からパターン認識を実施しており、エリア内の動物、エリア内の人間、深い穴や座屈のような道路変化、レーン間のオートバイ、大き過ぎるトラック貨物等を識別するように動作する。検出された物体は、サイズ、重量、最大速度、硬度等を含む少なくとも16点によって、ノード110においてモデル化され、データベースに格納される。モデル化された各物体は、作成元のノード110において固有IDが割り当てられ、割り当てられたIDは、ノード110間の無線又は有線の通信リンク112を介して、作成元のノード110から隣接するノード110に渡される。
【0023】
各ノード110は、完全分散ネットワーク機能(ネットワーク機能仮想化(NFV))を実現し、4G/5G無線及びコアネットワークの機能を1:1の比で収容する。自動化車両制御分散ネットワーク100内の各ポール105は、少なくとも1つのノード110を含む。各ノード110は、それぞれに固有のハンドオーバ用近隣リストを有するが、その近隣リストには、隣接するノード110は含まれない。その代わり、近隣リストには2番目に隣接するノード110が含まれる。ノード110間のハンドオフグループの一例では、ハンドオフグループ1がノード(2n)(n=1,2,3,…,M)であり、ハンドオフグループ2がノード(2n+1)(n=1,2,3,…,M)である。ハンドオフグループ1は第1の無線チャネルの同じ周波数に設定されており、ハンドオフグループ2は第2の無線チャネルの同じ周波数に設定されている。
【0024】
ノードからノードへの通信リンクは、道路の同じ側の通信リンク112と、道路を交差する通信リンク114とを含み、これによって、グリッド又はメッシュが形成されている。ノード110間の通信リンク112及び通信リンク114は、有線通信リンク、無線通信リンク、又は有線通信リンク及び無線通信リンクの両方の組み合わせであってよい。無線又は有線の通信リンク112及び通信リンク114は、冗長性を可能にする為に図示のようにメッシュ構成としてセットアップされている。隣接するノード110及び対向するノード110がリンクされている。各ノード110は、それぞれの目視検出エリア内にある車両及び物体の全てのID、並びに各近隣ノード110の車両ID及び物体IDを収集する。
【0025】
例えば、
図3では、ノードAは、自身が識別した車両及び物体の全てのID、並びにノードA+1、A-1、B、及びB-1に関する全てのIDを有することになる。全てのID及びそれらに関連付けられた情報が1つのパッケージにまとめられ、これには、物体のサイズ、重量、速度、方向、現在位置、タイプ、タイムスタンプ、スコア等が含まれる。しかるべき物体には危険スコアも割り当てられる。検出された深い穴等の道路変形については、深い穴のサイズ及び深さに関してアセスメントされる。車両の場合、最近の車両運転履歴が評価される。例えば、パターン認識によって検出された飲酒運転又は無謀運転にフラグが立てられる。全ての車両及び物体のID、並びに車両の運転方向を含む情報が、道路沿いの両側の隣接する各ノードに渡される。制御信号を受けていない車両(即ち、自動化車両制御分散ネットワーク100に登録されていない車両)、及び自動化車両ではない車両を含む、道路上の全ての車両が追跡される。
【0026】
ノード110からノード110への通信は、インターネットプロトコル(IP)パケットを使用して行われ、また、自動化車両制御分散ネットワーク100に登録されている全ての自動化車両に対して行われる。IPパケットは、状況に応じてブロードキャスト、ユニキャスト、又はマルチキャストで配信されてよい。例えば、車両を直接制御する場合にはユニキャストのインターネットプロトコル(IP)パケット配信が使用される。運転指示は、識別された危険、道路状況、並びに登録車両の周辺の車両の速度及び位置に基づいて行われる。ブレーキ、加速、及び操舵の制御信号は、この識別された危険情報に基づいてよく、ブロードキャストパケットを使用して複数の車両に送信されてよい。
【0027】
マルチキャストIPパケットの機能は、フリート車両制御に使用されてよい。例えば、気象条件は、最高速度を規定するメッセージがトラックフリートに送信される根拠になりうる。マルチキャストユーザは、ブロードキャストパケットも受信する。全ての登録車両に情報を提供する場合にブロードキャストIPパケットが使用され、全ての物体(車両、動物、人間)の3Dサイズ、移動方向、速度の情報等の支援情報が現在のポールノード110及びその近隣ノードに提供される。システム内のデータ更新は、20ミリ秒もの高速で行われる。
【0028】
一実施形態では、最小二乗法による効率的なパターン認識が行われる。車両を8個のxyz点でキャプチャし、これを8個のXYZ点のモデルと比較する一例では、スコアはsqrt[(x1-X1)2+(y1-Y1)2+(z1-Z1)2]+sqrt[(x2-X2)2+(y2-Y2)2+(z1-Z1)2]+...+sqrt[(x8-X8)2+(y8-Y8)2+(z8-Z8)2]であり、最小スコアがモデルになる。ノード110のプロセッサは、最大で64点の最小二乗法の為に特別に設計されており、対数アルゴリズムを使用して、乗算、除算、二乗、平方根の演算を大幅に減らしている。
【0029】
図4は、様々な実施形態によるノード110の図である。自動化車両制御分散ネットワークノード110は、様々な実施形態による開示の装置の一種である。各ノード110はセルラアンテナ113を含む。これは、無線リンク108を介して車両と通信する為のものであり、且つ車両に制御信号を送信する為のものである。セルラアンテナ113はアンテナアレイであってよく、複数入力複数出力(MIMO)アンテナアレイであってよい。少なくとも3つのモデム111が、無線通信リンク115、又は有線通信リンク、又はこれら両方の組み合わせを介して、近隣の隣接するノードとの通信を実現する。無線リンク108と同様に、幾つかの実施形態では、無線通信リンク115もMIMOアンテナアレイを使用して促進されてよい。カメラC1~C4が、ノード110、そして3D画像処理407と作用的に結合されている。3D画像処理407は処理結果をパターン認識409にフィードし、そのパターン認識409はパターン認識データを車両予測処理405に提供する。
【0030】
トランスポンダ読み取り器411が、無線リンク413を介して舗装道路マーカ103のトランスポンダと通信して環境センサデータを取得するように動作する。環境センサデータは、作用的な結合を介して車両予測処理405に提供される。
【0031】
ノード110は任意の数のモデム111を含んでよく、
図4は、ノード110内に3つのモデム111が存在する一例である。3つのモデム111は、無線(例えば、4G/5G)及び4G/5G分散コアネットワーク並びに車両処理401と作用的に結合されており、これは更に車両制御装置403と作用的に結合されている。
【0032】
車両制御装置403は、車両予測処理405と作用的に結合されている。パターン認識409及び車両予測処理405で生成される物体識別データ及び予測データは、モデム111を使用する無線通信リンク115を介して近隣ノードと共有される。車両予測処理405は、車両制御装置403と作用的に結合されており、道路条件及び物体情報を伝達するように動作する。車両予測処理405及び車両制御装置403は、車両制御装置403から送信される車両制御信号に対する応答として発生する車両位置の変化を車両予測処理405が検出するフィードバックシステムとして構成されている。
【0033】
車両制御装置403は、4G/5G無線及び4G/5G分散コアネットワーク並びに車両処理401を使用する無線リンク108を介して加速、減速、及び操舵の制御信号を送信することによって車両を制御するように動作する。4G/5G無線及び4G/5G分散コアネットワーク並びに車両処理401は、無線リンク108を介して車両制御信号を送信する為にセルラアンテナ113と作用的に結合されている。4G/5G無線及び4G/5G分散コアネットワーク並びに車両処理401は、4G/5G無線及び埋め込み分散コアネットワーク機能を含んでおり、これらは、ノード110が分散ネットワーク内で独立したエンティティとして動作することを可能にし、それによって、他のノード110がディセーブル又は他の形で利用不能になっても、自動化車両のフル制御が途切れない。
【0034】
ノード110内の様々な処理/処理装置は、システムオンチップ(SoC)システムとして実装されてよく、ノード110の様々な機能を実施する為のハードウェア、ファームウェア、及びソフトウェアを含んでよい。
【0035】
図5は、様々な実施形態による舗装道路マーカの一例103の図である。舗装道路マーカ103は、様々な実施形態による開示の装置の一種である。舗装道路マーカ103は、トランスポンダ(RFIDトランスポンダであってよい)と、トランスポンダ501と作用的に結合された環境センサとを含む。ノード110は、トランスポンダ501と通信して環境センサ503のデータを抽出することが可能である。環境センサとしては、温度センサ、湿度センサ、圧力センサ、慣性センサ等があってよく、これらに限定されない。
【0036】
図6は、幾つかの実施形態による、道路101のブロック図であり、自動化車両が自動化車両制御分散ネットワーク100と通信していて、自動化車両同士でも通信している様子を示す図である。車両から車両への通信601は、同じポール105及びノード110によって、又は隣接するポール/ノードによって促進されてよい。幾つかの実施形態では、各車両は、信頼性の為に4+1冗長性のリンクを有する。
【0037】
図7は、幾つかの実施形態による、自動化車両701が、道路に沿って自動化車両制御分散ネットワーク100の様々なノード110へのハンドオーバを実施する様子を示す図である。自動化車両701は、いつでも少なくとも4つのノード110との複数の無線接続703を保持し、その移動経路に沿って移動しながら、次に来る新たなノード110に対してメイクビフォアブレークハンドオーバ動作を実施する。
図7の例では、自動化車両701は、最初に5つのノードA+0、A+1、A+2、B+0、及びB-1(図示せず)と通信している。自動化車両701は、現在位置では、ノードB+2との新しい接続705を確立しており、ノードB-1との以前からの接続を削除している。自動化車両701が道路に沿って位置707まで移動すると、ノードA+3とのメイクビフォアブレーク接続705が確立される。ノードA+3との接続が確立された後に、ノードA+0との接続が削除される。位置709まで移動すると、自動化車両701は、ノードB+3との接続を確立し、ノードB+0との接続を削除する。位置711の手前で、自動化車両は、ノードA+4との接続を追加し、ノードA+1との接続を削除する。位置713の手前で、自動化車両は、ノードB+4との接続を追加し、ノードB+1との接続を削除する。位置715の手前で、自動化車両は、ノードA+5との接続を追加し、ノードA+2との接続を削除する(以降も同様)。
【0038】
図8は、一実施形態によるノードプロセッサ800の図である。ノード110のプロセッサ800は、3D画像処理407及びパターン認識409を実施してよく、最大で64点の最小二乗法の為に特別に設計されており、対数アルゴリズムを使用して、乗算、除算、二乗、平方根の演算を大幅に減らしている。幾つかの実施形態では、ノードプロセッサ800は、車両予測処理405、車両制御装置403、並びに4G/5G+コアネットワーク及び車両処理401、又はこれらの何らかの組み合わせを実装する為に使用されてもよい。4G/5G+コアネットワーク並びに車両処理401、車両制御装置403、車両予測処理405、3D画像処理装置407、及び/又はパターン認識409は、それぞれが1つ以上のマイクロプロセッサ、ASIC、FPGA、マイクロコンピュータ、マイクロコントローラ、デジタル信号プロセッサ、中央処理ユニット、状態機械、論理回路、及び/又は、演算命令に基づいて信号をマニピュレートするデバイスとして実装されてよい。ノード110の実装に使用されるプロセッサのうちの1つ以上は、幾つかある機能の中で特に、メモリ(図示せず)に格納されているコンピュータ可読命令(即ち、実行可能命令)をフェッチして実行するように構成され、そうするように動作し、メモリは、ノード110内にある独立した不揮発性非一時的メモリ、及び/又はSoC構成の一部であるオンボードメモリ、又はこれら両方の組み合わせであってよい。4G/5G+コアネットワーク並びに車両処理401、車両制御装置403、車両予測処理405、3D画像処理装置407、及びパターン認識409の具体的な実装にかかわらず、各構成要素は、
図4に示された通信入力及び通信出力と作用的に結合されており、そのような構成要素の間で必要とされる全てのAPI(アプリケーションプログラミングインタフェース)を含む、関連する全てのソフトウェア及び/又はファームウェアを実行するように動作可能である。4G/5G+コアネットワーク並びに車両処理401は、必要とされる全ての無線ベースバンドハードウェア及びソフトウェアを含み、情報の共有、制御コマンドの送信、及びフィードバック情報の受信を行う為に、インターネットプロトコル(IP)スタックを実行し、車両及び他のノードとの複数の無線IP接続を形成するように動作する。4G/5G+コアネットワーク並びに車両処理401は、制御される車両との冗長無線リンクを保持すること、及び複数の車両のメイクビフォアブレーク無線ハンドオフを実施することを含む4G/5G動作機能を実装することに必要とされる全ての4G/5G無線及びコアネットワーク構成要素/エンティティを含む完全なネットワークインフラストラクチャ/アーキテクチャである。
【0039】
図9は、様々な実施形態による、自動化車両制御分散ネットワーク100の動作方法を示すフローチャートである。本動作方法はまず、動作ブロック901で、自動化車両制御分散ネットワーク100のノード110が、道路の視覚画像データを取得する。視覚画像データは、車両と、幾つかあるものの中で特に歩行者、動物、道路内の物体、及び舗装道路の変形箇所とをキャプチャしたものである。動作ブロック903で、ノード110は、舗装道路マーカ103から環境センサデータを取得する。動作ブロック905で、ノード110は、道路上の複数の車両について、車両の位置、方向、及び速度を特定する。動作ブロック907で、ノード110は、自動化車両制御分散ネットワーク100に登録されている全ての車両について車両位置を予測する。動作ブロック909で、ノード110は、加速、減速、及び操舵の制御信号を各登録車両に送信する。
【0040】
図10は、様々な実施形態による、自動化車両制御分散ネットワークの動作方法を示すフローチャートである。本動作方法はまず、動作ブロック1001で、自動化車両制御分散ネットワーク110のノード110が、車両の視覚画像データを少なくとも5つのカメラから取得して、フレームごとにタイムスタンプがある3次元画像を取得する。動作ブロック1003で、ノード110は、画像に対してキーストン補正を実施して補正済み画像を生成する。動作ブロック1005で、ノード110は、補正済み画像を使用して、車両の位置、方向、及び速度を特定する。動作ブロック1007で、ノード110は、車両位置を予測する。動作ブロック1009で、ノード110は、加速、減速、及び操舵の制御信号を車両に送信する。
【0041】
図11は、様々な実施形態による、自動化車両制御分散ネットワークの動作方法を示すフローチャートである。本動作方法はまず、動作ブロック1101で、複数の道路ノード110から、各ノードにある少なくとも4つのカメラで車両の視覚画像データが取得されて、各フレームにタイムスタンプがある3次元画像データが取得され、動作ブロック1103で、各ノード110は、それぞれの画像データを各近隣ノードと共有する。動作ブロック1105で、各ノード110は、それぞれの画像データにある全ての車両及び物体の位置、方向、及び速度を特定する。動作ブロック1107で、各ノード110は、車両位置を予測し、道路に存在しうる危険を識別する。動作ブロック1109で、ノード110は、加速、減速、及び操舵の制御信号をノード110から車両に送信する。
【0042】
図12は、様々な実施形態による、
図7で示したように自動化車両が沿道ノード間でハンドオーバする動作方法を示すフローチャートである。本プロセスではまず、自動化車両が道路上を移動していて、動作ブロック1201のように、少なくとも4つのノードとの無線通信リンクを確立して保持する。自動化車両が移動して新たな沿道ノード110の前を通り過ぎると、RSSI(受信信号強度インジケータ)の増加が発生し、これを自動化車両が観察する。また、自動化車両のRSSIの増加は、自動化車両が近づきつつあるノード110の無線送受信器によって感知される。従って、判断ブロック1203では、自動化車両が次のノードを検出してよく、これは、例えば、閾値RSSI値又は他の何らかの通信リンクメトリックを使用して行われる。言い換えると、RSSIはメトリックの一例に過ぎず、次のノードの検出には他の任意の適切な通信リンクメトリックが使用されてよく、そのようなものとして、ビット誤り率、フレーム誤り率、フレーム消去率、又は他の何らかのメトリック等があり、これらに限定されない。次のノードの候補が閾値メトリック要件を満たすまで、既存の少なくとも4つの無線通信リンクは、動作ブロック1201において保持される。次のノードの候補が判断ブロック1203に現れたら、自動化車両は、動作ブロック1205で、その候補ノードとの新たなメイクビフォアブレーク通信リンクを確立する。その通信リンクが確立されたら、動作ブロック1207で、自動化車両は、これまでの少なくとも4つの通信リンクのうちの1つを削除してよい。通常は、メトリックが最も低い通信リンクが削除される。但し、幾つかの実施態様では、車両から最も遠いノードがデフォルトで削除されてよい。判断ブロック1209で、(例えば、車両が停止して、又は別の形で車両が目的地に到着して動かなくなって)車両がシャットダウンされた場合には、本プロセスは終了する。車両がシャットダウンされていない場合には、本プロセスは、車両が動きを止めるまで、動作ブロック1201からループで続行される。
【0043】
図13は、様々な実施形態による、自動化車両制御分散ネットワークの動作方法を示すフローチャートである。本動作方法はまず、動作ブロック1301で、自動化車両制御分散ネットワークが、道路上の全てのアクティビティを監視する。自動化車両制御分散ネットワークは、動作ブロック1303で、無線接続を介して舗装道路センサからセンサデータを取得し、動作ブロック1305で、センサデータを使用して舗装道路マーカ位置を較正する。センサデータとしては、温度データ、湿度データ、圧力データ等があってよく、これらに限定されない。
【0044】
次に自動化車両制御分散ネットワークは、全ての道路アクティビティを監視する。これには、判断ブロック1307での車両の監視、判断ブロック1309での動物の監視、判断ブロック1311での歩行者の監視、判断ブロック1313での道路異常の監視、及び判断ブロック1315での障害物の監視が含まれる。各判断ブロックのプロセスは、無期限に継続され、道路上の全てのアイテムを連続的に追跡する。
【0045】
判断ブロック1307で車両が検出されると、自動化車両制御分散ネットワークは、動作ブロック1317で車両のナンバープレートを検出し、判断ブロック1319で、そのナンバープレート番号をデータベースで確認してよい。動作ブロック1321で、データベース内の全ての車両情報が取り出される。一方、車両にナンバープレートがない場合、或いは、判断ブロック1319において、利用可能な情報がデータベースにない場合、自動化車両制御分散ネットワークは、動作ブロック1323で、視覚検出システムを使用して車両のメーカ、型式、色、及び重量を検出する。動作ブロック1325では、自動化車両制御分散ネットワークは、任意のデータベース情報及び視覚検出システムからの情報を使用して予測モデルを作成する。
【0046】
判断ブロック1309で動物が検出されると、自動化車両制御分散ネットワークは、動作ブロック1327で、動物の動き予測モデルを作成する。同様に、判断ブロック1311で歩行者が検出されると、自動化車両制御分散ネットワークは、動作ブロック1329で、歩行者の動き予測モデルを作成する。判断ブロック1313で何らかの道路異常が検出されると、動作ブロック1331で、位置、サイズ、深い穴の深さ等であってこれらに限定されないフィーチャを含む、異常のモデルが作成される。判断ブロック1315で障害物が検出されると、動作ブロック1333で、例えば、物体のサイズ、材料、重量等であってこれらに限定されないフィーチャを含む、障害物のモデルが、視覚検出システムと舗装道路センサからの情報との組み合わせによって検出可能な程度まで作成される。
【0047】
作成された予測モデルの全てに基づいて、自動化車両制御分散ネットワークは、動作ブロック1335で、各自動化車両の適切な回避アクションを決定する。各自動化車両も動作ブロック1325でモデル化されている。動作ブロック1337で、自動化車両制御分散ネットワークは、全ての衝突が回避されるように、適切な制御コマンドを各自動化車両に協調的に送信する。動作ブロック1339で、各自動化車両の更なる軌道修正を行う為のフィードバックが得られる。
【0048】
様々な実施形態を図示及び説明してきたが、当然のことながら、本発明はそのようには限定されない。当業者であれば、添付の特許請求項で定義される、本発明の範囲から逸脱しない、様々な修正、変更、変形、置換、及び等価物を思い浮かべられよう。
【国際調査報告】