(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024023534
(43)【公開日】2024-02-21
(54)【発明の名称】車両、ロボットまたはドローンを遠隔監視するシステムおよび方法
(51)【国際特許分類】
G08G 1/09 20060101AFI20240214BHJP
G08G 1/00 20060101ALI20240214BHJP
G08G 1/16 20060101ALI20240214BHJP
G08G 5/04 20060101ALI20240214BHJP
【FI】
G08G1/09 V
G08G1/00 A
G08G1/16 A
G08G5/04 A
【審査請求】未請求
【請求項の数】27
【出願形態】OL
(21)【出願番号】P 2023204975
(22)【出願日】2023-12-04
(62)【分割の表示】P 2021149433の分割
【原出願日】2021-09-14
(31)【優先権主張番号】17/025,152
(32)【優先日】2020-09-18
(33)【優先権主張国・地域又は機関】US
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.ANDROID
2.Linux
3.WINDOWS
4.MATLAB
5.QRコード
6.iOS
(71)【出願人】
【識別番号】521405595
【氏名又は名称】グイデント リミテッド
(74)【代理人】
【識別番号】100114775
【弁理士】
【氏名又は名称】高岡 亮一
(74)【代理人】
【識別番号】100121511
【弁理士】
【氏名又は名称】小田 直
(74)【代理人】
【識別番号】100202751
【弁理士】
【氏名又は名称】岩堀 明代
(74)【代理人】
【識別番号】100191086
【弁理士】
【氏名又は名称】高橋 香元
(72)【発明者】
【氏名】クリフォード エム.グロス
(72)【発明者】
【氏名】ハラルド ブラウン
(72)【発明者】
【氏名】ガブリエル カスタネダ
(72)【発明者】
【氏名】マイケル ジェー.トランク
(57)【要約】 (修正有)
【課題】車両、ロボットまたはドローンの遠隔監視および制御のためのシステムおよび方法に関する。
【解決手段】このシステムは、不揮発性メモリに格納されたコンピュータ実行可能コードを含む制御モジュールと、プロセッサと、制御センター装置と、制御センター装置から遠隔的に動作する複数の自律装置とを有し、複数の自律装置のそれぞれは制御装置を含む。制御モジュール、プロセッサ、制御センター装置、および制御装置は、複数の自律装置のそれぞれに配置された1つまたは複数の収集装置を使用してデータを収集し、複数の自律装置に配置された制御装置を使用して収集済みデータを処理し、複数の自律装置が制御センター装置による制御なしに自律的に動作している場合に、処理済みデータを制御装置から制御センター装置に転送し、制御装置から転送された処理済みデータに応じて人工知能を訓練するように構成される。
【選択図】
図1
【特許請求の範囲】
【請求項1】
遠隔監視制御装置であって、
マイクロプロセッサベースのコンピュータボードを含むコントローラと、
無線通信装置と、
センサおよびカメラと、
処理回路及びソフトウェアを含む遠隔制御モジュールであって、前記遠隔監視制御装置が設置されている自律ユニットおよび遠隔監視制御センターと通信するように構成された、遠隔制御モジュールと、を含み、
前記遠隔制御モジュールは、安全でないレベル又は危険レベルであるインシデントリスクレベルに基づき、前記自律ユニットの自律制御を停止して、前記自律ユニットの制御を前記遠隔監視制御センターに移すように構成され、
前記遠隔制御モジュールは、他の自律ユニットのうち、複数の他の遠隔監視制御装置と通信するように構成され、
前記遠隔制御モジュールは、安全なレベルであるインシデントリスクレベルに基づき、前記自律ユニットの自律制御を再確立するように構成され、
前記インシデントリスクレベルは、前記遠隔監視制御装置と前記複数の他の遠隔監視制御装置との間のデータ通信に基づいており、
前記データ通信は、前記複数の他の遠隔監視制御装置によるのと同一の監視環境にある前記複数の他の遠隔監視制御装置によりキャプチャされた視覚的ビューを含んだリアルタイムの視覚データを含んでいる
遠隔監視制御装置。
【請求項2】
前記遠隔監視制御センターが、処理回路を備える人工知能アプリケーション層を更に備え、前記人工知能アプリケーション層が、前記センサおよび前記カメラから受信した入力データを処理するように構成され、
前記人工知能アプリケーション層は、前記センサおよび前記カメラから受信した前記入力データ、又は天気若しくは交通情報を含む外部のデータソースのうち、少なくとも1つに基づいて前記インシデントリスクレベルを計算および更新し、前記遠隔制御モジュールは、前記安全でないレベル又は前記危険レベルである前記インシデントリスクレベルに基づき、前記無線通信装置を介した信号を転送して、前記自律ユニットの自律モードを無効にし、前記自律ユニットを制御するように構成される、請求項1に記載の遠隔監視制御装置。
【請求項3】
前記人工知能アプリケーション層が、コンピュータビジョンモデルを実行し、前記コンピュータビジョンモデルを前記入力データと組み合わせて、前記インシデントリスクレベルを計算し、更新する、請求項1に記載の遠隔監視制御装置。
【請求項4】
前記自律ユニットのキャビンの温度および湿度を感知するように構成されたキャビンセンサをさらに備える、請求項1に記載の遠隔監視制御装置。
【請求項5】
ビデオ処理モジュールを用いて自律ユニットのキャビン内に位置する人間のユーザとの双方向のビデオおよび音声通信を提供するディスプレイを備えたユーザの通信装置を更に備える、請求項1に記載の遠隔監視制御装置。
【請求項6】
GPS回路およびテキストメッセージを送受信するSMSプロトコルテキスト装置のうちの少なくとも1つをさらに備える、請求項1に記載の遠隔監視制御装置。
【請求項7】
前記センサおよび前記カメラが、ライダ、レーダ、および超音波センサからなる群から選択された少なくとも1つを含み、
前記カメラは、ビデオストリームのライブ画像を提供するように構成される、
請求項1に記載の遠隔監視制御装置。
【請求項8】
前記自律ユニットの遠隔測定データを収集するように構成されたホスト計算層であって、ハードウェア接続を有するホスト計算層をさらに備える、請求項1に記載の遠隔監視制御装置。
【請求項9】
複数の自律装置のそれぞれがプロセッサを含む遠隔監視制御装置を提供する工程、
前記遠隔監視制御装置のそれぞれを、遠隔監視制御センターと通信するように構成する工程、
前記遠隔監視制御装置のそれぞれを、前記複数の自律装置のそれぞれに配置されたセンサおよびカメラを含む1つまたは複数の収集装置と通信するように構成する工程、
前記1つまたは複数の収集装置のそれぞれから収集済みデータを受信する工程、
前記収集済みデータを処理する工程、
前記複数の自律装置が前記遠隔監視制御センターによる制御なしに自律的に動作している場合に、前記処理済みデータを前記遠隔監視制御センターに転送する工程、
前記処理済みデータに応じて人工知能を訓練する工程、
前記人工知能に基づいて、前記遠隔監視制御センターによる制御なしに動作する複数の自律装置のそれぞれのインシデントリスクレベルを決定する工程、
前記インシデントリスクレベルが安全なレベルから安全でないレベル又は危険レベルに変化した場合に、前記複数の自律装置のうち少なくとも1つの自律制御を停止し、且つ、前記複数の自律装置のうちの少なくとも1つの制御を取得するように、前記遠隔監視制御センターから前記遠隔監視制御装置へコマンドを転送したことに基づき、前記複数の自律装置のうち少なくとも1つの制御を前記遠隔監視制御センターに移す工程、
前記インシデントリスクレベルが前記安全なレベルに回復した場合に、前記複数の自律装置のうち少なくとも1つの制御を自立制御に戻す工程であって、
前記インシデントリスクレベルが前記遠隔監視制御装置の間のデータ通信に基づいており、
前記データ通信は、前記遠隔監視制御装置によるのと同一の監視環境にある前記遠隔監視制御装置によりキャプチャされた視覚的ビューを含んだリアルタイムの視覚データを含んでいる、工程、及び
前記複数の自律装置のうち少なくとも1つの動作を制御するのに基づき、前記インシデントリスクレベルを調整する工程、
を包含する方法。
を含む方法。
【請求項10】
前記処理済みデータを前記遠隔監視制御装置から前記遠隔監視制御センターに転送することが、商業用のパブリックまたはプライベートのLTE、Wi-Fi、または5Gネットワークのうち少なくとも1つを介して高帯域幅の音声およびビデオストリームを転送することを含む、請求項9に記載の方法。
【請求項11】
前記複数の自律装置が、車両、ロボット、およびドローンからなる群から選択され、
前記複数の自律装置のそれぞれに配置された前記1つまたは複数の収集装置のそれぞれが、センサおよび撮像装置からなる群から選択される、
請求項9に記載の方法。
【請求項12】
前記処理済みデータを前記遠隔監視制御センターに転送することが、センサデータ、メタデータ、ビデオデータ、および音声データをストリーミングすることを含む、請求項9に記載の方法。
【請求項13】
前記遠隔監視制御装置のそれぞれが、
前記収集済みデータを継続的に収集、処理、分析して、前記処理済みデータを生成し、
前記遠隔監視制御装置モジュールのコンピュータビジョンプログラムを使用することによって物体および環境を認識する、
ように構成された人工知能層を有する遠隔監視制御装置モジュールを含む、請求項9に記載の方法。
【請求項14】
遠隔監視制御システムであって、
不揮発性メモリに格納されたコンピュータ実行可能なコードを含む、データ分析モジュールおよび人工知能モジュールを含む制御モジュール、および
プロセッサを含むマイクロプロセッサの少なくとも一部を有し、複数の自律装置に配置された遠隔監視制御装置と通信するように構成された遠隔監視制御センターを含み、
前記制御モジュールおよび前記遠隔監視制御センターが、
前記遠隔監視制御装置から処理済みデータを受信し、前記処理済みデータは、前記複数の自律装置が前記遠隔監視制御センターによる制御なしに自律的に動作している場合に、前記複数の自律装置で収集されたデータに基づいて、前記遠隔監視制御装置によって処理されたものであり、
前記遠隔監視制御装置から受信した前記処理済みデータ又は外部のデータソースのうち少なくとも1つに応じて人工知能を訓練し、
前記人工知能に基づいて、前記遠隔監視制御センターによる制御なしに動作している複数の自律装置のそれぞれのインシデントリスクレベルを決定し、そして
安全なレベルから安全でないレベル又は危険レベルへ変化した前記インシデントリスクレベルに基づいて、前記複数の自律装置のうちの少なくとも1つの自律制御を停止し、
前記安全でないレベル又は危険レベルである前記インシデントリスクレベルに基づいて、前記複数の自律制御装置のうちの少なくとも1つの制御を、前記遠隔監視制御センターへ移し、
ここで、前記インシデントリスクレベルは、前記遠隔監視制御装置の間のデータ通信に基づいており、前記データ通信には、前記遠隔監視制御装置によるのと同一の監視環境にある前記遠隔監視制御装置によりキャプチャされた視覚的ビューを含んだリアルタイムの視覚データを含んでいることを特徴とし、
前記複数の自律装置のうち少なくとも1つの動きを制御するのに基づいて、前記インシデントリスクレベルを調整する
ように構成される、遠隔監視制御システム。
【請求項15】
前記インシデントリスクレベルは、前記自律装置の1つに配置された前記遠隔監視制御装置の1つによって転送された前記処理済みデータの画像センサデータによって視覚的に符号化された物体が、前記自律装置の少なくとも別の装置の動作に影響を与えるか否かを判断する基準に基づいて決定される、請求項14に記載の遠隔監視制御システム。
【請求項16】
前記制御モジュールおよび前記遠隔監視制御センターが、前記インシデントリスクレベルを所定の安全リスクレベル閾値と比較することに基づいて、インシデントリスクマージンを決定するようにさらに構成される、請求項15に記載の遠隔監視制御システム。
【請求項17】
前記所定の安全リスクレベル閾値は、前記人工知能が、テスト遠隔監視制御装置によってキャプチャされた過去のトレーニングデータに応じて構成されることによって予め決定される、請求項16に記載の遠隔監視制御システム。
【請求項18】
前記制御モジュールおよび前記遠隔監視制御センターは、前記インシデントリスクマージンが所定の安全最小リスクマージンよりも小さいという判定に応答して、
1つまたは複数の遠隔監視制御装置にデータを転送することによって、前記所定の安全最小リスクマージンよりも小さいインシデントリスクマージンで動作している前記複数の自律装置のうちの少なくとも1つの制御を行い、そして
前記複数の自律装置のうちの前記少なくとも1つの動作を制御することによって、前記複数の自律装置のうちの前記少なくとも1つの速度ベクトルを変化させることにより、前記複数の自律装置のうちの2つ以上の間の分離距離を増加させる、
ようにさらに構成される、請求項16に記載の遠隔監視制御システム。
【請求項19】
前記制御モジュールおよび前記遠隔監視制御センターが、
前記複数の自律装置のうちの前記少なくとも1つの動作を制御することに基づいて、前記複数の自律装置のうちの前記少なくとも1つの前記インシデントリスクレベルを前記安全なレベルに回復させ、
前記複数の自律装置に関して安全なレベルに回復した場合に、前記複数の自律装置のうちの前記少なくとも1つに制御を戻す、
ようにさらに構成される、請求項18に記載の遠隔監視制御システム。
【請求項20】
前記インシデントリスクレベルを安全なレベルに回復させることは、インシデントリスクを前記所定の安全最小リスクマージンと比較することに基づいて、前記レベルを決定することを含む、請求項19に記載の遠隔監視制御システム。
【請求項21】
前記制御モジュールおよび前記遠隔監視制御センターは、前記インシデントリスクマージンが所定の安全最小リスクマージンと同等以上であるという判定に応答して、前記インシデントリスクレベルが前記安全なレベルであると判定するようにさらに構成される、請求項16に記載の遠隔監視制御システム。
【請求項22】
プロセッサを含む遠隔監視制御センターを提供する工程、
複数の自律装置に配置された遠隔監視制御装置と通信するように前記遠隔監視制御センターを構成する工程、
前記遠隔監視制御装置から処理済みデータを受信する工程であって、前記処理済みデータは、前記複数の自律装置が前記遠隔監視制御センターによる制御なしに自律的に動作している場合に、前記複数の自律装置で収集されたデータに基づいて、前記遠隔監視制御装置によって処理される、受信する工程、
前記遠隔監視制御装置、及び前記自律装置に関連する外部の環境データソースから受信した前記処理済みデータに応じて人工知能を訓練する工程、
前記人工知能に基づいて、前記遠隔監視制御センターによる制御なしに動作している前記複数の自律装置のそれぞのインシデントリスクレベルを決定する工程、
前記インシデントリスクレベルが安全なレベルから安全でないレベル又は危険レベルに変化した場合に、前記複数の自律装置のうち少なくとも1つの自律制御を停止し、かつ前記複数の自律装置のうち少なくとも1つの制御を取得する、工程、
前記インシデントリスクレベルが前記安全なレベルに回復した場合に、前記複数の自律装置のうち少なくとも1つの自律制御を戻す工程であって、
前記インシデントリスクレベルは、前記遠隔監視制御装置間のデータ通信に基づいており、前記データ通信には、前記遠隔監視制御装置によるのと同一の監視環境にある前記遠隔監視制御装置によりキャプチャされた視覚的ビューを含んだリアルタイムの視覚データを含む、工程、及び
前記複数の自律装置のうち少なくとも1つの動きの制御に基づいて前記インシデントリスクレベルを調整する工程
を包含する方法。
【請求項23】
前記処理済みデータに応じて訓練された前記人工知能に基づいてインシデントを特定することに応答して、前記遠隔監視制御装置からの前記処理済みデータに基づいて、前記インシデントに関与する1つまたは複数のアイテムおよび前記1つまたは複数のアイテムへの損傷を決定することをさらに含む、請求項22に記載の方法。
【請求項24】
前記人工知能に基づいて、前記複数の自律装置のうちの少なくとも1つが、前記インシデントが発生した第1の場所から第2の場所に自律的に安全に移動可能であるかどうかを判断すること、および
前記複数の自律装置のうちの前記少なくとも1つが、前記第1の場所から前記第2の場所に自律的に安全に移動可能であると判断された場合に、前記複数の自律装置のうちの前記少なくとも1つを前記第1の場所から前記第2の場所に自律的に移動させることを開始すること、
をさらに含む、請求項23に記載の方法。
【請求項25】
前記1つまたは複数のアイテムが、自律装置、乗客、歩行者、動物、物理的物体、およびそれらの組み合わせの群から選択された少なくとも1つを含む、請求項23に記載の方法。
【請求項26】
前記インシデントリスクレベルが前記安全なレベルである場合に、前記遠隔監視制御センターのユーザインターフェース上に第1の指標を表示すること、
前記インシデントリスクレベルが前記危険レベルである場合に、前記遠隔監視制御センターの前記ユーザインターフェース上に第2の指標を表示すること、および
前記インシデントリスクレベルが前記安全でないレベルの場合に、前記遠隔監視制御センターの前記ユーザインターフェース上に第3の指標を表示すること、
をさらに含む、請求項22に記載の方法。
【請求項27】
前記第1の指標が、人間が見ることができる緑色の指標であり、
前記第2の指標が、人間が見ることができる黄色の指標であり、
前記第3の指標が、人間が見ることができる赤色の指標である、
請求項26に記載の方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、遠隔監視および制御のためのシステムおよび方法に関し、特に、車両、ロボットまたはドローンの遠隔監視および制御のためのシステムおよび方法に関する。
【背景技術】
【0002】
自律走行車(Autonomous vehicle:AV)、ロボットまたはドローンは、様々なコンピュータ処理システムを使用して、自律ユニットの動作を制御する。自律走行車は、パイロット、ドライバ、または乗客などのオペレータからの初期入力を利用して自律運転システムを機能させ、その後、SAE J3016のレベル3からレベル4または5の自律モード(車両は本質的に自力で操縦する)から、人間のオペレータが自律モードを完全に無効にしてユニットを完全に手動で制御することを許容するまでの様々な程度の人間の入力を伴うモードで動作し得、すべてのモードは2つの極端なモード間にあり、断続的な人間の入力および制御の可能性を備えている。自律走行車、ロボット、またはドローンは、車、歩行者、ならびにそれらのそれぞれの近接性および特性を検出するためのセンサ、カメラ、ソナー、およびレーダを含み得る。それらはまた、ナビゲーションに関して全地球測位システム(GPS)に依存し得、そして、2つのNFC対応デバイスが相互に通信することを可能にする、NFCピアツーピアを含むセンサまたは近距離無線通信(NFC)に基づくその他の形式の通信技術に依存して、最大20~30cmの距離までその場限りの方法で情報を交換し得る。物体の検出および識別、物体に関連する情報、ならびにナビゲーション能力は、自律ユニットの安全な動作に寄与する。
【0003】
AIを使用する自律ユニットの安全性については不確実性が高く、これはレベル4またはレベル5のAVの大規模な適応を妨げる。一部の管轄区域の規制基準では、事故またはトラブルが発生した場合に、バックアップの人間のオペレータがAVを制御することが義務付けられている。これらのオペレータは、車内にいる場合もあれば、離れた場所にいる場合もある。
【0004】
自律走行車を動作するためのいくつかの方法およびシステムの実装は、衝突を回避しようとする一方で、操縦に伴う瞬間的な意思決定からドライバを解放するように適合された衝突回避システムを含む。例えば、フロリダA&M大学によって提出された米国特許第9,429,943号明細書は、認知および制御技術に基づいて車両を制御するように適合された人工知能バレット(artificial intelligence valet:AIV)システムおよび方法を記載している。人工知能バレット(AIV)システムは、車両が車両のユーザまで航行することを可能にする現在のモバイルテクノロジー、ファジーロジック、およびニューラルネットワークを含むことができる。自律走行車がAIVの制御下で動作している間、AIVシステムは、例えば、人間、動物、他の車などの物体、またはそれらのいずれかの組み合わせとの衝突が、予期しない状況のために避けられない場合を認識することができる。このような決定に応答して、回避アクションを開始して、衝突をインテリジェントに回避するか、最悪の場合、避けられない衝突に直面した場合に衝突する物体を決定することができる。衝突後、衝突回避システムは緊急サービスへの呼び出しを開始し、自律ユニットを安全に駐車することができる。いくつかの実装では、傷害が発生していない場合、緊急サービスに連絡することなく車両を駐車することができる。しかしながら、米国特許第9,429,943号明細書は、複数の独立した自律ユニットを監視し、独立した自律ユニットの1つまたは複数を制御してユニットの動作を支配し、安全な動作が回復された場合に1つまたは複数の独立した自律ユニットに制御を戻すことの複雑さに特に対処していない。
【0005】
自律ユニットの動作の安全性は改善されてきたが、危険な自律ユニットの安全性の未達の可能性が依然としてある。いくつかの自律ユニットのシナリオでは、安全でない状態は、センサの誤動作、またはソフトウェアが不測の状況(例えば、共用道路での歩行者を巻き添えにした行き詰まった状況)を解決できないこと、ドライバがいないことに起因する安全上の懸念、および乗客がドライバまたは案内係に情報または支援を求めるための選択肢がないことに起因し得る。
【0006】
いくつかの自律走行車の実施は、自律走行車に関する安全性および消費者の満足度を向上させるのに役立ち、また完全な自律性に向けたギャップを埋めるのに役立つ方法およびシステムを含む。例えば、フロリダ国際大学評議会(The Florida International University Board of Trustees)が提出した米国特許第9,964,948号明細書は、自律走行車を支援するための方法およびシステムを記載している。自律走行車を支援する方法は、感覚入力を有する自律走行車を提供すること、および自律走行車との双方向通信を有する遠隔制御センターを提供することを含むことができる。自律走行車は、その感覚入力情報を制御センターに送信し、制御センターは、制御情報を自律走行車に送信することができる。しかしながら、米国特許第9,964,948号明細書は、複数の独立した自律ユニットを監視し、危険な動作安全状態が検出されたときに車両の動作を支配するために独立した自律ユニットの1つまたは複数を制御し、安全な動作が回復したときに1つまたは複数の独立した自律ユニットに制御を戻すことの複雑さについて特に対処していない。
【0007】
自律走行車を安全に運転できるように設計するための多大な努力にもかかわらず、衝突、事故、およびその他の緊急事態などのインシデントが発生する場合がある。衝突、事故、およびその他の緊急事態は、車両が自律的に動作している場合、さらなる問題をもたらす可能性がある。
【0008】
自動化された車両システムは、安全シャットダウンおよび緊急応答および事故報告モードも含む。例えば、米国特許第8,874,301号明細書は、セットアップモード、アクティブドライブモード、安全シャットダウンモード、および緊急応答モードを有する自律操縦制御を備えた車両を記載している。
【0009】
このような衝突回避および事故報告システムは、関与した車両、乗客、歩行者、動物、および物体の数、およびそれらに対する傷害および損傷の性質のより正確な評価を含む、インシデント後に発生した傷害および損傷の性質のより正確な評価を行うことによって改善され得る。
【0010】
いくつかの自動化車両の例には、事故または緊急時に自動化車両の制御を乗客または緊急応答者に移すための方法およびシステムが含まれる。例えば、Guident,Ltd.が提出した米国特許第10,699,580号明細書は、事故または緊急時に自動化車両の制御を乗客または緊急応答者に移すための方法およびシステムを記載している。このシステムは、衝突またはインシデントの回避、および改善された事故または緊急報告を行う自動化車両の人工知能システムと組み合わせて使用することができる。分散型情報システム(distributed information system:DISS)は、単一の自律走行車内の複数の分散されたセンサから情報を受信し、複数の分散されたセンサから受信した情報に基づいて事故の存在を判断し、前記センサから受信した情報に基づいて、インシデントに関与する車両、乗客、歩行者、動物、および物体と、インシデントに関与する車両、乗客、歩行者、動物、および物体の傷害および損傷の特性とを判断し、インシデントが発生した場所から第2の場所に自律走行車を安全に自律的に移動できるかどうかを判断し、第2の場所に自律走行車を安全に移動できる場合、第2の場所に自律走行車を自律的に移動させ、車両を駐車する。米国特許第10,699,580号明細書に記載されている方法およびシステムは、新規のセンサフュージョン技術を用いて、異なるセンサタイプから受信した異なる情報タイプを統合して、インシデントの存在を判断し、関与する車両、人物、動物、または物体を判断し、単一の自律走行車を安全に移動できるかどうかを判断し得る。しかしながら、米国特許第10,699,580号明細書は、複数の独立した自律ユニットを監視し、危険な動作安全状態が検出されたときに独立した自律ユニットの1つまたは複数を制御してユニットの動作を支配し、安全な動作が回復したときに1つまたは複数の独立した自律ユニットに制御を戻すことの複雑さについては特に対処していない。
【0011】
自動化車両が自律的に安全に駐車できない可能性があり、緊急応答者に通知する必要がある可能性がある場合があるかもしれない。例えば、自律運転車両が、他の車が走行する交通量の多い交差点や高速道路で事故に遭った場合、さらなる損害や負傷を防ぐために、自律運転車両を停止させる必要があるかもしれない。また、自律走行車両を、交通が進行できるように自律的または手動で邪魔にならないように移動させ、自律走行車両の乗客、他のドライバ、および歩行者の安全を確保する必要があるかもしれない。
【0012】
いくつかの自律走行車の実装は、自律走行車に遮蔽された物体を提示するシナリオにおいて、安全性を向上させるために車両間でデータを共有する方法およびシステムを含む。例えば、ミシガン州立大学の評議員会によって提出されたPCT特許出願PCT/US19/14547号は、その開示内容が、センサフュージョン技術を用いて複数の自律走行車間で共有されるセンサデータに基づく分散型物体検出を記載している。また、PCT/US19/14547号は、物体検出に基づいて複数の自律走行車の1つまたは複数を自動的に制動するように構成された衝突回避システムを記載している。しかしながら、PCT/US19/14547号は、複数の独立した自律ユニットを監視し、危険な動作安全状態が検出されたときに独立した自律ユニットの1つまたは複数を制御してユニットの動作を支配し、安全な動作が回復したときに1つまたは複数の独立した自律ユニットに制御を戻すことの複雑さについては特に対処していない。
【0013】
PCT特許出願PCT/US2020/021171号は、自律走行車の遠隔監視および制御のためのAI方法およびシステムを記載している。しかしながら、PCT/US2020/021171号は、そのような方法およびシステムを実装する自律走行車、ロボット、またはドローンの装置および処理回路に対する本明細書に記載された改良を記載していない。また、PCT/US2020/021171号は、1つまたは複数の自律走行車、ロボット、またはドローンが遠隔制御されるべき時を予測して遠隔監視制御センターに通信し、必要に応じて制御を行い、安全な動作が回復した場合に1つまたは複数の独立した自律ユニットに制御を戻すためにそのような装置が実装できる方法に対する本明細書に記載された改良を記載していない。
【0014】
本セクションは、本開示に関連する背景情報を提供するが、出願人は先行技術であることを認めていない。
【0015】
本開示の例示的に開示されたシステムおよび方法は、上述した欠点および/または既存技術の他の欠点の1つまたは複数を克服することに向けられる。
【発明の概要】
【0016】
1つの例示的な態様において、本開示はあるシステムに向けられる。このシステムは、不揮発性メモリに格納されたコンピュータ実行可能コードを含む制御モジュールと、プロセッサと、制御センター装置と、制御センター装置から遠隔的に動作する複数の自律装置とを含み、複数の自律装置のそれぞれは制御装置を含む。制御モジュール、プロセッサ、制御センター装置、および制御装置は、複数の自律装置のそれぞれに配置された1つまたは複数の収集装置を使用してデータを収集し、複数の自律装置に配置された制御装置を使用して収集されたデータを処理し、複数の自律装置が制御センター装置による制御なしに自律的に動作している場合に、制御装置から制御センター装置に処理済みデータを転送し、制御装置から転送された処理済みデータに応じて人工知能を訓練し、人工知能に基づいて、制御センター装置による制御なしで動作する複数の自律装置のインシデントリスクレベルを決定し、インシデントリスクレベルに基づいて、複数の自律装置のうちの少なくとも1つの制御を行うように構成される。
【0017】
別の態様において、本開示はある方法に向けられる。この方法は、制御センター装置を提供することと、制御センター装置から遠隔的に動作する複数の自律装置を提供することであって、複数の自律装置のそれぞれは制御装置を含む、提供することと、複数の自律装置のそれぞれに配置された1つまたは複数の収集装置を用いてデータを収集することと、複数の自律装置に配置された制御装置を用いて収集されたデータを処理することと、複数の自律装置が制御センター装置による制御なしに自律的に動作している場合に、制御装置から制御センター装置に処理済みデータを転送することとを含む。また本方法は、制御装置から転送された処理済みデータに応じて人工知能を訓練することと、人工知能に基づいて、制御センター装置による制御なしで動作する複数の自律装置のインシデントリスクレベルを決定することと、インシデントリスクレベルに基づいて、複数の自律装置のうちの少なくとも1つの制御を行うこととを含む。
【0018】
本明細書で以下に詳細に記載するように、自律ユニット(車両、地上または空中のドローン、またはロボット)の例示的な実施形態は、遠隔制御および監視のための方法システムおよび自律ユニットの組み込まれたシステムである。
【0019】
少なくともいくつかの例示的な実施形態では、少なくとも1つの処理装置を含み、自律ユニットに設置された汎用スマート遠隔監視制御装置(Generic Smart Remote Monitor and Control Device:G-SRMCD)を提供することができ、G-SRMCDは、自律走行車、ロボット、またはドローンの様々なセンサからデータを受信し;インシデントリスクレベル(IRL)を決定し、自律ユニットに支援が提供されるかどうか、電子通信で遠隔監視制御センター(RMCC)に報告するようにプログラムおよび構成される(例えば、RMCCのエージェントは、いつでも、自律走行車、ロボット、ドローンの制御を行うことができる)。例えば、G-SRMCDは、RMCCに制御を移し得る。
【0020】
別の実施形態では、G-SRMCDは、自律走行車、ロボット、またはドローンで事故が発生した場合に、緊急応答者に連絡するようにさらにプログラムおよび構成することができる。
【0021】
別の実施形態では、G-SRMCDは、自律走行車、ロボット、またはドローンの搭載カメラを人工知能法と組み合わせて使用して、遠隔支援を予測するようにさらにプログラムおよび構成することができる。
【0022】
別の実施形態では、G-SRMCDは、自律走行車、ロボットまたはドローンが動けない行き詰まった状況を検出し、RMCCに支援を要求するようにさらにプログラムおよび構成することができる。
【0023】
別の実施形態では、G-SRMCDは、自律走行車、ロボット、またはドローンを操縦している間に問題を検出および予測し、自律ユニットを遠隔操作している間に遠隔オペレータにレポートを表示するように、さらにプログラムおよび構成することができる。
【0024】
別の実施形態では、G-SRMCDは、インシデントを検出してRMCCに報告するようにさらにプログラムおよび構成することができる。
【0025】
別の実施形態では、G-SRMCDは、RMCCのオペレータから命令された場合に、自律走行車、ロボット、またはドローンに設置された複数のカメラまたは他のセンサからのビデオストリームをRMCCベースのワークステーションに伝送するように、さらにプログラムおよび構成することができる。
【0026】
別の実施形態では、G-SRMCDは、自律走行車、ロボット、またはドローンの警報および監視システムを監視するように、さらにプログラムおよび構成することができる。自律走行車では、G-SRMCDは、電子制御ユニット(ECU)または先進運転支援システム(ADAS)などの複数の装置からデータを取得することができる。
【0027】
別の実施形態では、G-SRMCDは、自律走行車、ロボット、またはドローンの様々なセンサからの受信データに基づいてRMCCに警報を報告するように、さらにプログラムおよび構成することができる。
【0028】
別の実施形態では、G-SRMCDは、RMCCまたは他の固定された場所に拠点を置くサーバへの永続的な通信チャネルを(安全で暗号化されたTCPベースのネットワークプロトコルであるトランスポート・レイヤー・セキュリティ「TLS」または安全なウェブソケット「WSS」を使用して、モバイルデータネットワーク仮想回路を介して)確立および維持するように、さらにプログラムおよび構成することができる。
【0029】
別の実施形態では、G-SRMCDは、記憶された認証情報を提示することによって自身を認証し、その存在、位置、およびステータスをリモートサーバおよびRMCCに登録するように、さらにプログラムおよび構成することができる。
【0030】
別の実施形態では、G-SRMCDは、RMCCへの冗長な無線データリンク接続を処理するようにさらにプログラムおよび構成することができる。
【0031】
別の実施形態では、G-SRMCDは、GPS自律走行車、ロボット、またはドローンの位置をRMCCに報告するようにさらにプログラムおよび構成することができる。
【0032】
別の実施形態では、G-SRMCDは、RMCCから自律走行車、ロボット、またはドローンを遠隔的に制御および操縦するようにさらにプログラムおよび構成することができる。
【0033】
別の実施形態では、G-SRMCDは、ドライブバイワイヤプロトコルなどの複数の車両、ロボット、またはドローンの制御プロトコルをサポートするように、さらにプログラムおよび構成することができる。
【0034】
別の実施形態では、G-SRMCDは、自律走行車、ロボット、またはドローンのキャビン内の温度および湿度レベルを取得するように、さらにプログラムおよび構成することができる。この情報は、G-SRMCDが動作条件内にあるかどうか、および乗客(いる場合)が快適な環境にいるかどうかを判断するのに役立ち得る。
【0035】
別の実施形態では、G-SRMCDは、SMPPまたは他のプロトコルを介してSMSを送受信するようにさらにプログラムおよび構成することができる。G-SRMCDは、G-SRMCDがRMCCとの接続を喪失した場合、または他の問題を検出した場合に、構成可能な管理者のリストに通知することができる。SMS通信により、管理者は、G-SRMCDに特定のデータまたはステータスおよび動作レポートを要求することができる。
【0036】
別の実施形態では、G-SRMCDは、RMCCへの無線データ接続のための4G LTE、プライベートワイヤレスまたは5Gモデムおよびアンテナをサポートするように、さらにプログラムおよび構成することができる。少なくともいくつかの例示的な実施形態では、制御装置(例えば、G-SRMCD)から制御センター装置(例えば、RMCC)への処理済みデータの転送は、LTEまたは5Gセルラーネットワーク規格のいずれかを使用して、商業的なパブリックまたはプライベートのモバイルデータネットワークのいずれかを介して、高帯域幅の音声およびビデオストリームを転送することを含み得る(RMCC監視ワークステーションへのビデオフレームの到着のために可能な限り低い待ち時間を確保することを目的としている)。
【0037】
別の実施形態では、G-SRMCDは、RMCCへの接続が喪失した場合を検出し、インシデントリスクレベルに基づいて、G-SRMCDは、継続するか、またはRMCCへの接続が再確立されるまで安全に駐車するように自律ユニットに指示し得るように、さらにプログラムおよび構成することができる。
【0038】
別の実施形態では、G-SRMCDは、無線ネットワークの弱い信号を検出し、その領域を避けて自律ユニットの経路を再設定するようにRMCCに提案するように、さらにプログラムおよび構成することができる。
【0039】
別の実施形態では、G-SRMCDは、任意の自律走行車、ロボット、またはドローンの操縦ユーザの警告メッセージまたはアラートを遠隔オペレータに転送するように、さらにプログラムおよび構成することができる。それらのアラートには、読み取り中の歩行者の検出、自律ユニットが制限速度を超えていること、前方の車両が突然停止したこと、および/または任意の他の適切な状況が含まれ得る。
【0040】
別の実施形態では、G-SRMCDは、車両、ロボット、またはドローンの自律モードを無効にし、RMCCエージェントを自律ユニットの制御に従事させるように、さらにプログラムおよび構成することができる。
【0041】
別の実施形態では、G-SRMCDは、自律走行車、ロボット、またはドローンにおいてキャプチャされたデータ、およびRMCCとのいずれかのデータ通信を安全化かつ暗号化するように、さらにプログラムおよび構成することができる。
【0042】
別の実施形態では、G-SRMCDは、インシデントリスクレベル(IRL)を計算して更新するために、自律走行車、ロボット、またはドローン内のRMCCセンサデータ、および様々なコンピュータビジョンアルゴリズムの結果を送信するように、さらにプログラムおよび構成することができる。
【0043】
別の実施形態では、G-SRMCDは、ソフトウェア更新が利用可能かどうかを検証し、自律ユニットが動作していないときにそれらをインストールするように、さらにプログラムおよび構成することができる。また、G-SRMCDは、データおよびソフトウェア更新を送信または受信するために、プッシュ通知を受信することができる。
【0044】
別の実施形態では、G-SRMCDは、データ分析および人工知能モデルを訓練する目的のために、データ、ビデオおよび音声を収集するように、さらにプログラムおよび構成することができる。
【0045】
別の実施形態では、G-SRMCDは、道路上の自律走行車、ロボット、またはドローンの動作を監視し、データを収集および分析して、自律ユニットがいつ遠隔支援を提供されるかを予測するように、さらにプログラムおよび構成することができる。自律ユニット製造業者のレビューのために、同じ情報を自律ユニット製造業者と共有してもよい。
【0046】
別の実施形態では、G-SRMCDは、G-SRMCDのセンサまたは自律走行車、ロボット、またはドローンのセンサを使用して速度制限標識を読み取り、スクールゾーンの点滅光を検出して自律ユニットの速度を監視し、自律ユニットが速度制限を順守していない場合、RMCCに報告し、遠隔制御を要求するように、さらにプログラムおよび構成することができる。
【0047】
別の実施形態では、G-SRMCDは、車内のドライバが自律走行車の自律モードを越えて制御を行うときの状況を記録するように、さらにプログラムおよび構成することができる。この情報は、自律走行車メーカーが人工知能アルゴリズムを微調整するために貴重な情報となり得る。
【0048】
別の実施形態では、G-SRMCDは、自律走行車、ロボット、またはドローンの人工知能アルゴリズムデータを統合するように、さらにプログラムおよび構成することができる。データの統合は、G-SRMCDがインシデントリスクレベルを更新し、自律ユニットが支援を要求しているか、支援を必要とする可能性がある場合にRMCCに通知することを支援し得る。
【0049】
別の実施形態では、G-SRMCDは、RMCCに音声およびビデオを提供することができる、車両の乗客(いる場合)のためのユーザインターフェースを含むように、さらにプログラムおよび構成することができる。
【0050】
別の実施形態では、G-SRMCDは、自律走行車の乗客のためのパニックボタンまたは緊急ボタンを提供し、G-SRMCDをRMCC内のエージェントに接続するように、さらにプログラムおよび構成することができる。
【0051】
別の実施形態では、G-SRMCDは、自律走行車、ロボット、またはドローンがゲート付きコミュニティに到着したときに支援するように、さらにプログラムおよび構成することができる。RMCCのエージェントに、守衛係または自動化キオスクと話をさせたり、エントリーコードを表示させたりすることが適切であるかもしれない。
【0052】
別の実施形態では、G-SRMCDは、自律走行車、ロボット、またはドローンが自律ユニットの動作マップから外れた場合を検出するように、さらにプログラムおよび構成することができる。このシナリオでは、RMCC内の遠隔オペレータは、自律ユニットを制御および操縦することができる。
【0053】
別の実施形態では、G-SRMCDは、自律ユニットが目的地から100メートル離れている場合に、RMCCに通知するようにさらにプログラムおよび構成することができる。これは、自律ユニットが配達を行う場合に支援を必要とする場合、またはその通りから離れる必要がある場合である。
【0054】
本明細書には、本開示の例示的な実施形態の図面集が添付されている。当業者であれば、これらは単なる例示的な実施形態であり、追加および代替の実施形態が存在し得るが、本明細書に記載された本開示の趣旨の範囲内にあることを理解するであろう。
【図面の簡単な説明】
【0055】
【
図1】例示的に開示された遠隔監視制御センター(RMCC)システムおよび例示的に開示された遠隔制御エージェントワークステーションとインターネット接続された、いくつかの例示的に開示された人工知能(AI)自律ユニットのグラフィカルな表示である。RMCCおよびエージェントワークステーションは、独立して支配される自律ユニットの動作の安全性を監督し、RMCCによって認識された安全でない動作に応答して、安全な動作を回復するために自律ユニットの制御を行い、安全な自律ユニットの動作が回復したという判断に応答して、自律ユニットに制御を戻すように構成することができる。RMCCは、認証/認可/課金(AAA)、車両位置およびセッションの相互接続アルゴリズム、データ分析ツール、サイバーセキュリティソフトウェア、データ処理能力、およびオンデマンド操作のための高度な人工知能(AI)ソフトウェア層などのコンポーネントを含む。
【
図2】本開示の様々な実施形態に従って、
図1のシステムに実装することができるインシデント回避システムの例を示すフローチャートである。
【
図3】本開示の様々な実施形態に従って、
図1のAIシステムに実装することができるインシデント報告システムの例を示すフローチャートである。
【
図4】
図1のAIシステムに実装することができる、インシデント発生時に自律走行車の制御を緊急応答者または人間のドライバに切り替えるためのシステムおよび方法の例を示すフローチャートである。
【
図5】本開示の様々な実施形態に従って、
図1のRMCCアーキテクチャで採用される汎用スマート遠隔監視制御装置(G-SRMCD)の1つの例示を提供する系統的なブロック図である。
【
図6】例示的なRMCCによって複数の自律ユニットを監督し、インシデントリスクを監視するための例示的なプロセスを示すフローチャートである。
【
図7】例示的なRMCCによって複数の自律ユニットのインシデントリスクを軽減するための例示的なプロセスを示すフローチャートである。
【
図8】本開示の少なくともいくつかの例示的な実施形態による、例示的なコンピューティングデバイスの概略図である。
【
図9】本開示の少なくともいくつかの例示的な実施形態による、例示的なネットワークの概略図である。
【発明を実施するための形態】
【0056】
少なくともいくつかの例示的な実施形態では、例示的な開示されたシステムは、自律走行車、ロボット、またはドローンのための汎用スマート遠隔監視制御装置(G-SRMCD)であり得る。例示的に開示されたシステムおよび方法は、自律走行車、ロボット、またはドローンの遠隔制御を提供し得る。少なくともいくつかの例示的な実施形態では、例示的に開示されたシステムおよび方法は、自律走行車、ロボット、またはドローンに配置されて、ユニットが遠隔支援を受ける場合に、ユニットを遠隔監視および制御することができる装置を提供し得る。
【0057】
本明細書には、安全性を向上させるために、自律ユニットと、自律ユニットから離れた監視制御センターとの間で、人工知能、視覚センサフュージョン、およびデータ共有に基づいて、独立して動作する自律走行車、ドローン、およびロボットを遠隔監視および制御することに関連する様々な実施形態が開示されている。次に、図面に示されているような例示的な実施形態の記載を詳細に参照するが、ここで、同様の参照番号は、複数の図を通して同様の部品を示している。
【0058】
例示的に開示された自律ユニットは、車両のユーザおよび自律ユニットの周囲に位置する人々に利便性および安全性を提供し得る、歩行者検知および回避などの機能を提供し得る。例示的に開示された自律ユニットのためのAIシステムは、車両がその目的地まで航行することを可能にし得る、現在のモバイル技術、機械学習、ディープネットワーク、および/またはニューラルネットワークを含み得る。例示的に開示された自律ユニットがAI制御下で動作している間、AIシステムは、例えば、人間、動物、別の車、物体、またはそれらの任意の組み合わせなどの物体との衝突が、不測の事態により起こり得る、または可能性が高い場合を認識することができる。このような判断に応答して、衝突をインテリジェントに回避するための回避行動を開始することができる。このシステムは、「プラグイン&プレイ」アイテムとして、あるいは後付けで実装することができ、または新しいユニットに組み込むことができる。このシステムは、自律ユニットを駐車するために拡張することができ、また、ユーザが車両に乗っているかどうかに関わらず目的地まで航行するためにユーザによって使用することができ、車両は、ユーザの助けをほとんどまたは実質的に必要とせずにそれを行うことができる。特定の自律ユニットについては、荷物の配送やその他の実用的なサービスに限定され得るとき、乗客もドライバもいない場合がある。
【0059】
図1は、例示的に開示されたAIシステムに含まれる様々な要素を図示したものである。例えば、AIシステム100は、自律走行車、ドローン、およびロボット101a、101b、および101cと、AIシステムの様々な特徴を実装する処理回路およびアプリケーションソフトウェアを含み得る遠隔監視制御センター(RMCC)130などの制御構成要素とを含み得る。図示の例では、RMCC130は、AIベースの自律ユニットの遠隔監視および制御サービスのためのオンデマンド操作を提供するサイバーセキュリティおよびデータ処理実装と統合されたデータ分析およびAIソフトウェアモジュールを含み得る。
図1の例示的な実施形態は、3つの自律ユニット101a、101b、および101cを示している。また例えば、実施形態のAIシステム100およびRMCC130は、より多数の同様の自律ユニットを遠隔監視および制御し得る。少なくともいくつかの例示的な実施形態では、処理回路は、マイクロプロセッサの少なくとも一部として実装することができる。処理回路は、1つまたは複数の回路、1つまたは複数のマイクロプロセッサ、マイクロコントローラ、特定用途向け集積回路、専用ハードウェア、デジタルシグナルプロセッサ、マイクロコンピュータ、中央処理装置、フィールドプログラマブルゲートアレイ、プログラマブルロジックデバイス、ステートマシン、スーパーコンピュータ、またはそれらの任意の組み合わせを使用して実装されてもよい。さらに他の実施形態では、処理回路は、1つまたは複数の処理回路内で実行可能な1つまたは複数のソフトウェアモジュールを含み得る。処理回路は、処理回路にデータ通信機能を実行させる命令および/またはコードを格納するように構成されたメモリをさらに含み得る。
【0060】
ユニット101a、101b、および101cは、例えば、無線ローカルエリアネットワーク(WLAN)、プライベートネットワークおよび/またはセルラーネットワークなどの無線ネットワーク120を介して通信するために、自律ユニットにそれぞれ設置された装置110a、110b、および110cを含み得る。装置110a、110b、および110cは、無線通信をサポートするための処理回路(例えば、送信機、受信機、および/または送受信機)を含むことができる。例えば、装置110a、110b、および110cは、例えば、第3世代(3G)、第4世代(4G)、ロングタームエボリューション(LTE)、第5世代(5G)、または他のデータ通信規格などのセルラーデータ接続などのセルラー通信をサポートし得る。ユニット101a、101b、および101c、および/または装置110a、110b、および110cは、例えば、IEEE802.11a/b/g/nや、802.11axとしても知られているWi-Fi6などの無線通信をサポートし得る。また、ユニット101a、101b、101c、および装置110a、110b、110cの処理回路は、地理的な位置を決定するためのGPS機能をサポートすることができる。AIシステム100は、遠隔オペレータデバイスのプラットフォームまたはオペレーティングシステム(例えば、Android、iOS、Linux、webOS、Windows、その他)、および/または、ユニットのタイプ、メーカー、モデル、および製造業者に依存しないアプリケーションを使用することができる。RMCC130との通信は、無線ネットワーク120に通信可能に結合されたネットワーク120(例えば、インターネット、プライベートネットワーク、VPN、その他)を介して実施することができる。RMCC130は、例えば、1つまたは複数のサーバなどの処理システム上のウェブサービスとして実装することができる。そのようなウェブサービスは、プライベートデータセンターまたはパブリックデータセンターから使用することができる。RMCC130は、データフュージョン技術を採用して、ユニット101a、101b、101cおよび装置110a、110b、110cのセンサからアクセス可能なデータを複合データに結合し得、RMCCは、このように形成された複合データからAIベースの学習に基づいて判断を行い得る。
【0061】
インテリジェントなインシデント回避は、自律ユニット101a、101b、および101cのそれぞれの経路に潜在的に存在する物体を識別することができ、それによって、ユニット101a、101b、および101cが潜在的な傷害および/または損害を最小限に抑えることを可能にする。インテリジェントなインシデント報告は、ユニット101a、101b、101cのいずれかが、例えば、他の車両に触れられたり、侵入されたり、および/または当てられたりした場合に、RMCC130を介して遠隔オペレータに通知することができる。インシデントが検出されると、101a、101b、101cまたは110a、110b、110cのカメラは、その周囲を撮影し、および/または検出時の周辺の音声および/またはビデオを記録し得る。
【0062】
遠隔キャビンコントロールは、遠隔制御オペレータ140が、ユニット101a、101b、および101cの設定を制御すること、および/または条件を決定することを可能にすることができる。例えば、遠隔制御オペレータは、窓、サン/ムーンルーフ、ドア、トランク、サイドドアミラー、ライト(例えば、キャビンライト、エクステリアヘッドライト、その他)、シートポジションおよび/または温度、室内気候制御(例えば、空調、暖房、デフォッガーおよび/または湿度などの他のモデル固有の設定)、メディアデバイス(例えば、標準および/またはSiriusXMラジオ、コンパクトディスクプレーヤ、DVDプレーヤ)を遠隔操作することが可能であり得、および/または任意のユニット101a、101b、101cを遠隔始動することが可能であり得る。制御および/またはステータス情報は、無線ネットワーク120を介して、および/またはRMCC130を介して、ユニット101a、101b、または101cと遠隔制御オペレータとの間で直接通信されてもよく、このRMCC130は、各ユニット101a、101b、および101cのための予め定められた制御設定を記憶してもよい。
【0063】
また、G-SRMCD110a、110b、110cは、スマートインシデント予測システム(SIPS)をサポートしている。インシデントは、自律ユニット101a、101bまたは101cへの衝突またはその他の破壊または損傷を含むことができる。インシデント予測システムは、自律ユニットがユニット101a、101b、または101cを損傷する可能性のある人間、動物、または他の物体と衝突しようとしているかどうかを判断するために使用される、人工知能法と組み合わせたコンピュータビジョンモデルであり得る。システムは、自律ユニットが遠隔制御されている場合には、起こりうるインシデントイベントを音響および視覚アラームで遠隔操作コントローラに通知し得、そうでない場合には、直ちに停止するようにユニットに指示し、インシデントをRMCCに通知し得る。
【0064】
スマートインシデント予測システムはまた、自律ユニットが困難に遭遇することが歴史的に示されている、またはユニットが損傷を受ける可能性がある道路状況または交通状況を検出し得る。それらの道路状況や交通状況は、例えば、持ち運び式のバリア、バリケード、交通誘導する警察官、水浸しの道路、開いたマンホール、くぼみ、雪で覆われた道路、道を塞いでいる救急車またはパトカー、車の事故、道を塞いでいる人々、道に倒れた木または柱、その他を含み得る。少なくともいくつかの例示的な実施形態において、システムは、自律ユニットが遠隔制御されている場合には、起こりうるインシデントイベントを音響および視覚アラームで遠隔操作コントローラに通知し、そうでない場合には、直ちに停止するようにユニットに指示し、インシデントをRMCCに通知し得る。
【0065】
インシデント予測システムは、G-SRMCD110a、110b、および110cのセンサからのセンサデータを利用し得る。また、目的を達成するために、例えばカメラ、超音波センサ、ラインフォローセンサ、サーマルセンサを含む、自律ユニット101a、101b、101c内のセンサデータを利用し得る。使用され得る他のセンサには、例えば、レーザ距離計および他の距離センサ、ライダ、ステレオカメラ、オーディオセンサ、ジャイロメータ、赤外線センサ、感光センサ、GPSユニット、トラッキングシステム、および/または他の適切なシステムが含まれる。センサからデータを収集した後、インシデント予測システムは、ニューラルネットワーク、および/またはディープ・コンボリューショナル・ニューラルネットワークなどの人工知能技術を採用して物体を認識し、自律ユニットを停止させてRMCCにイベントを警告するかどうかを判断し得る。少なくともいくつかの例示的な実施形態では、自律ユニット101a、101b、および101cとセンサ110a、110b、および110cから収集されたデータは、RMCC130に送信されてRMCC130によって処理され得る。いくつかのシナリオでは、スマートインシデント予測システムは、G-SRMCD110a、110b、または110cの処理回路(例えば、コンピュータシステム、スーパーコンピュータ、マイクロコントローラ、マイクロプロセッサ、グラフィックスプロセッシングユニット(GPU)および/または外部メモリ)によって実装することができる。様々な例では、スマートインシデント予測システムは、RMCC130の処理回路(例えば、コンピュータシステム、スーパーコンピュータ、マイクロコントローラ、マイクロプロセッサ、GPU、および/または外部メモリ)によって実装することもできる。
【0066】
車線検知には感光センサを使用できる一方、例えば、歩行者、動物、氷、およびよどんだ水を含む、ユニットの進路上にある物体の熱測定にはサーマルセンサを使用することができる。また、スマートインシデント予測システムは、物体を回避するために、超音波センサ、カメラ、レーザ距離計を使用し、距離情報を確認するそれらの能力を使用し得る。インシデント回避システムは、物体、道路標識、信号機およびその他のボディを適切に検出する車両の能力に依存する。結果として、独立した視覚システムを、G-SRMCD110a、110b、および110cによって使用して、固定または移動する生物または無生物を含む危険やインシデントを検出して回避することができる。視覚システムからのデータは、処理のために、例えば、マイクロコントローラ、マイクロプロセッサ、またはGPUなどの処理回路に供給することができるステレオビジョン品質の画像データを収集するために使用されてもよい。視覚システムは、例えば、ステレオカメラ、赤外線カメラ、マイクロコントローラ、マイクロプロセッサ、GPU、および接続部品を含み得る。また、様々な場所の車両101a、101b、および101cを記録するための位置データを収集してもよい。車両101a、101b、および101cに搭載されたGPSユニットは、緊急時には、位置データを取得するために使用されてもよい。
【0067】
物体認識において、ディープニューラルネットワークが採用されてもよい。ディープニューラルネットワークは、高度に相互接続された処理要素を用いて、脳を模倣するように導き出された計算方法を利用し得、これにより、学習能力が与えられ、微妙なまたは複雑なパターンを認識して理解することができる。ニューラルネットワークは、その構造と機能において生物学的ネットワークに類似した数学的モデルを含み得る。ニューラルネットワークは、学習段階の間にネットワークを介して送信されるデータに基づいて、ネットワークの構造を変化させることができる適応システムである。ネットワークは、学習段階の間に学習した後、関連するデータが与えられたときに、将来の結果を予測するために使用することができる。
【0068】
少なくともいくつかの例示的な実施形態において、例示的な開示システムは、洗練された機械学習および/または人工知能技術を利用して、データセットおよび変数を準備し、クラウドコンピューティングクラスタおよび/または人工知能ニューラルネットワークを使用してそのようなデータを分析し得る他の分析ツール(例えば、予測分析ツール)に提出し得る。例示的に開示されたシステムは、例えば、予測分析を実行するクラウドコンピューティングクラスタを含み得る。例えば、例示的なニューラルネットワークは、予測された結果を決定するために、複数の追加および/または他の処理ノードと相互接続および/またはネットワーク接続され得る複数の入力ノードを含み得る。例示的な人工知能プロセスは、データセットのフィルタリングおよび処理、無関係な変数、不変の変数、または余分な変数を統計的に排除することによってデータセットを単純化する処理、または基礎変数のセットの融合である新たな変数の生成、および/または、少なくとも層化されたサンプリング技術を使用してデータセットを訓練データセット、テストデータセット、および検証データセットに分割するための処理を含み得る。例示的な開示システムは、回帰モデル、ツリーベースのアプローチ、ロジスティック回帰、ベイズ法、深層学習、およびニューラルネットワークを含み得る予測アルゴリズムおよびアプローチを、単独およびアンサンブルベースの両方で利用し得、最終的な予測は、テストおよび検証データセットに対する実装によって判断された、最も高い精度と安定性を提供するモデル/構造に基づいて行うことができる。
【0069】
ディープニューラルネットワークは、スマートインシデント予測システムによって採用され、人間の物体を、例えばそれらの異なる形状、異なる身体構造、異なる姿勢、異なるポーズ、異なる光の強さ、異なる民族性、異なる活動、車両の領域における異なる動きおよび/または速度、および/または道路における異なる位置に基づいて識別することができる。動物などの人間以外の生物は、例えば、それらの異なる形状、異なる身体構造、異なる色、異なる活動、および/または車両のエリア内の異なる動きおよび/または速度に基づいて識別することができる。また、人間と動物の組み合わせは、例えば、それらの異なる形状、異なる身体構造、異なる色、異なる活動、および/または車両のエリア内における異なる動きおよび/または速度に基づいて識別することができる。車両の近傍にある生物および無生物の両方の上記特性を学習するディープニューラルネットワークに基づいて、スマートインシデント予測システムは、識別に対する応答を調整することができる。
【0070】
また、RMCC130は、インシデント危険レベルを低下させるために、犯罪および/または破壊行為が報告されたエリアを回避するためのルート代替案を提案する。G-SRMCD110a、110b、および110cは、その要求を受信し、計画された目的地に到達するための代替ルートを取るように自律走行車にその要求を押し付けることができる。人工知能の手法に基づくRMCCは、犯罪や破壊行為が報告されたエリアを回避するように、あるいは、進行中の火災、浸水した道路、警察によってブロックされた道路、進行中の行進または抗議活動、その他など、進行中の問題が報告されたエリアを回避するように学習する。頻繁に安全に移動した経路は、システムによって学習されてよい。
【0071】
遠隔制御オペレータは、例えば、事故などのインシデント後に、自律運転が無効または安全でない場合に、自律ユニット101a、101b、および101cの手動運転を可能にすることを、G-SRMCD110a、110b、および110cを介して要求することができる。
【0072】
図2は、AIシステム100(
図1)において、G-SRMCD110a、110b、110cに実装され、RMCC130に実装され得るスマートインシデント防止システムの一例を示すフローチャートである。203で開始し、スマートインシデント防止システムは、自律ユニットが自律的に走行している間アクティブである。RMCC130と自律ユニット101a、101b、101cの処理回路はセンサを監視し、G-SRMCD110a、110b、110cは車両101a、101b、101cに搭載されたセンサを監視し、206で物体が検出されたかどうかを判断する。物体が自律ユニット101a、101b、101cのいずれかの経路内に検出された場合、またはいずれかの自律ユニット101a、101b、101cの経路内に入る可能性がある場合、視覚システムが209で1つまたは複数の画像を処理して、それが生物であるかどうかを判断する。また、視覚システムは、交通状況または道路状況を認識し、その重大性に応じて、G-SRMCD110a、110b、110cは、212において、遠隔支援が適切であるかどうかをRMCC130に報告する。支援が提供される場合、自律ユニットは215で安全に駐車、停止される。その後、G-SRMCD110a、110b、110cは、233でRMCC130にインシデントの報告と遠隔制御の要求を行う。218において検出された物体が生物でない場合、車両101a、101b、または101cは、203において動作を継続する前に、221において利用可能な物体回避アルゴリズムで動作することができる。
【0073】
218において生物が検出されたと判断された場合、スマートインシデント回避システムは、224においてシナリオを処理し、車両101a、101b、または101cが自律ユニットを減速すべきか、または直ちに停止すべきかを判断する。224において、減速することで衝突を回避できると判断された場合、227において、衝突を回避できるユニット101a、101b、または101bは、203に戻る前に、230において減速するか、または物体から離れるように操縦するように指示される。衝突を回避するために即時停止が適切である場合、233において、自律ユニットを停止させる。スマートインシデント防止システムは、236においてRMCC130に通知して遠隔制御を要求し、車両101a、101b、または101cが自律的に安全に継続できるか、または自律ユニットの場所で緊急サービスを提供するかを判断することができる。239で事故が検出された場合、245で適切な緊急サービスに連絡する。緊急サービスにインシデントを報告した後、248で自律ユニット101a、101b、または101cは安全に駐車され、遠隔制御オペレータによって停止される。事故がない場合、自律モードは203に戻るために242において自律ユニット101a、101b、または101cにおいて有効にされる。いくつかの実装では、車両101a、101b、または101cは、傷害が発生していない場合、236でRMCCに通知することなく233で駐車してもよい。車両を248で安全に駐車することができない場合、緊急要員が到着するまで車両を停止することができる、または車両101a、101b、または101cはドライバ、乗客、または緊急応答者によって手動で安全に移動させることができる。
【0074】
AIシステム100はまた、スマートインシデント報告システム(SIRS)をサポートし得る。スマートインシデント報告システムは、自律ユニットが駐車またはアイドリングしている間、あるいは移動中であっても、外部のエンティティが自律ユニット101a、101b、または101c(例えば、
図1に示された)のボディまたは他の部分に手を加えたかどうかを検出し得る。音響および視覚センサを使用して、スマートインシデント報告システムは、接触に関与した当事者を記録することができ、自律ユニットに損傷を与える可能性があることをユーザまたは所有者に知らせるインシデントレポートが、ユーザまたは所有者に送信されてもよい。それはまた、関与した車両、乗客、および歩行者、動物、および物体の数と、それらの怪我や損害の特性についての評価を提供することができる。
【0075】
スマートインシデント報告システムを作動させることができる活動には、例えば、他の車両または物体が自律ユニット101a、101b、または101cのいずれかの部分に当たること、人間および/または動物が自律ユニット101a、101b、または101cに触れ、および/または損傷すること、自律ユニット101a、101b、または101cに対する破壊行為、自律ユニット101a、101b、または101cのいずれかの窃盗、および/または自律ユニット101a、101b、または101cのいずれかに異物が落下することが含まれる。センサは、カメラ(モノおよび/またはステレオ)、レーザ距離計、ライダ、ジャイロメータ、赤外線センサ、サーマルセンサ、イメージセンサ、その他を含むことができる。G-SRMCD110a、110b、110c内の処理回路(例えば、コンピュータまたは他の処理装置)は、センサを制御および監視し得る。
【0076】
インシデントが検出されると、データをセンサから収集することができ、スマートインシデント報告システムは、データを評価することによって、ユニットの周囲でどのような種類の活動が起こっているかを判断する。スマートインシデント報告システムは、RMCC130を介して、活動の種類(例えば、車両が触られたとき、侵入されたとき、および/または他の車に当てられたとき)を遠隔制御モニタに通知し得る。その後、遠隔制御モニタは、視覚、音響、およびサーマルセンサからのデータを見て、当局に通報するか、自律ユニット101a、101b、または101cのパニックボタンを押すか、または何もしないか、またはそれらの応答の任意の組み合わせを行うかを決定し得る。スマートインシデント報告システムは、RMCC130によって承認された場合、インシデントについて当局に自動的に連絡するように構成されてもよい。RMCC管理者は、どの活動を通知したいか、またはどの活動を、自律ユニットを管理する他の人々に同様に通知したいかを定めることができる。例えば、報告は、強盗の試み、車両への異物の干渉、他の車が車両に衝突する状況、またはそれらの任意の組み合わせの報告を含み得る。
【0077】
RMCC130またはG-SRMCD110a、110b、110cのいずれかによってインシデントが検出されると、関与する自律ユニット101a、101b、または101cおよびG-SRMCD110a、110b、110cの視覚システムは、周囲の写真および/またはビデオ記録を撮るように指示されてもよく、音響システムは、検出または干渉の時間前後に生じた音を記録する。インシデントの検出から収集されたデータは、記録され、分析され、インシデントレポートを作成するために使用することができる。このレポートは、遠隔制御オペレータインターフェース140に送信することができる。インシデントレポートは、犯人の可能性が高い人物に関するインシデントのスクリーンショットおよび/またはビデオを、インシデント中に設置マイクロフォンを使用して記録された音声とともに含むことができる。インシデントレポートはまた、緊急応答者の電子レポートプラットフォームに送信することができる。
【0078】
図3は、AIシステム100(
図1)の自律ユニット101a、101b、101c、およびG-SRMCD110a、110b、110c、およびRMCC130に実装可能なスマートインシデント報告システムの一例を示すフローチャートを示している。303で開始して、スマートインシデント報告システムは、ユニットが駐車位置にある間、静止している間、走行している間、またはアイドリングの間アクティブである。G-SRMCD110a、110b、110cは、自律ユニット101a、101b、または101cのいずれかの動き、または自律ユニット101a、101b、または101cのいずれかとの衝突に起因する衝撃を検出し得る。306で活動またはインシデントが検出された場合、スマートインシデント報告システムは309でセンサデータの記録を開始する。センサデータは、例えば、1分などの所定の間隔または他の所望の間隔で記録されてもよい。
【0079】
活動の種類は、記録されたデータおよび自律ユニットシステムからの他の指標に基づいて、312で事故報告システムによって決定される。例えば、ビデオ画像は、事故が個人、動物、他の車両、または他の物体によって引き起こされたかどうかを識別するために使用することができる。同じく、動きおよび/または衝撃の特徴を利用して、事故の種類を判断してもよい。315において活動が継続する場合、スマートインシデント報告システムは、318において、自律ユニットの事前に定義されたプリファレンスを閲覧することにより、識別された活動の種類についてRMCCに知らせるかどうかを決定する。知らせる場合、スマートインシデント報告システムは、321で通知を送信することにより、RMCC130に活動の種類を通知する。スマートインシデント報告システムは、309でセンサデータの記録を続ける。315で活動が停止した場合、324でインシデントレポートが作成され、327で遠隔制御コントローラのオペレータインターフェース140を介して、または電子メール、SMS、またはプライベートにアクセスされたウェブアプリケーションを介してRMCCに送信される。インシデントレポートのフォーマットは、RMCCによって予め定めることができ、記録されたセンサデータの少なくとも一部を含み得る。
【0080】
図4は、本開示の様々な実施形態に従って
図1のAIシステム100の様々な部分を実装するために使用され得る、例示的な処理装置400の概略ブロック図を示している。処理装置400は、例えば、車両101a、101b、および101c、G-SRMCD110a、110b、および110c、遠隔制御オペレータインターフェース140、および/またはRMCC130(
図1に図示)をサポートするサーバのいずれかに含まれるコンピュータおよび/またはマイクロプロセッサを含み得る。処理装置400は、例えば、ローカルインターフェース409に結合されたプロセッサ403、メモリ406、およびデータストア412を有する、複数のプロセッサ回路を含み得る。このため、処理装置400は、例えば、少なくとも1つのコンピュータ、サーバ、クラウドサーバ、IoTデバイス、組み込みシステム、電子制御ユニット(ECU)、スマートフォンまたは同様のデバイスなどの処理回路を含み得る。ローカルインターフェース409は、例えば、アドレス/制御バスが付随するデータバス、または他の適切なバス構造を含み得る。処理装置400は、例えば、ユーザインターフェースなどの生成されたグラフィックスをレンダリングするためのディスプレイと、例えば、ユーザの入力を可能にするためのキーパッドまたはタッチスクリーンなどの入力インターフェースとを含むことができる。さらに、処理装置400は、例えば、車両101a、101b、および101cのいずれか、および/またはRMCC130をサポートする装置に含まれる通信インターフェースなど、他の装置と処理装置400が通信可能に結合することを可能にする通信インターフェース(図示せず)を含むことができる。通信インターフェースは、例えば、Bluetoothまたは他の無線周波数(RF)接続などの1つまたは複数の無線接続、および/または1つまたは複数の有線接続を含み得る。
【0081】
メモリ406に格納されているのは、データと、プロセッサ403によって実行可能ないくつかのコンポーネントの両方であり得る。特に、メモリ406に格納され、プロセッサ403によって実行可能なものは、AIシステムアプリケーション415、オペレーティングシステム418、および/または他のアプリケーション421であり得る。AIシステムアプリケーション415は、自律ユニットの操作、監視、および制御、例えば、自律的な乗客の検索、自律的な駐車、インテリジェントな衝突回避、インテリジェントな事故報告、段階的なインテリジェントルート学習、リモートキャビン制御、同時複数の自律走行車の視覚センサフュージョン、同時複数の自律ユニットの監視、同時複数の自律走行車の制御、および/または分散型情報共有をサポートする人工知能および機械学習技術に基づくアプリケーションを含むことができる。また、理解できるように、メモリ406に格納され、プロセッサ403によって実行可能な他のアプリケーションが存在し得る。本明細書で考察されるいずれかのコンポーネントがソフトウェアの形態で実装される場合、例えば、C、C++、C#、Objective C、Java(登録商標)、JavaScript(登録商標)、Perl、PHP、Visual Basic(登録商標)、Python(登録商標)、Ruby、Delphi(登録商標)、Flash(登録商標)、Matlab、または他のプログラミング言語およびそのライブラリなど、多数のプログラミング言語のうちのいずれか1つを採用することができる。
【0082】
多数のソフトウェアコンポーネントは、メモリ406に格納されることができ、プロセッサ403によって実行可能である。「実行可能」であることは、最終的にプロセッサ403によって実行可能な形式のプログラムファイルを含み得る。実行可能なプログラムの例は、例えば、メモリ406のランダムアクセス部にロードされてプロセッサ403によって実行され得る形式のマシンコードに翻訳され得るコンパイルされたプログラム、メモリ406のランダムアクセス部にロードされてプロセッサ403によって実行され得るオブジェクトコードなどの適切な形式で表現され得るソースコード、または、他の実行可能なプログラムによって解釈されて、プロセッサ403によって実行されるメモリ406のランダムアクセス部に命令を生成し得るソースコード、または任意の他の適切なプログラムであり得る。実行可能プログラムは、例えば、ランダムアクセスメモリ(RAM)、リードオンリーメモリ(ROM)、ハードドライブ、ソリッドステートドライブ、USBフラッシュドライブ、メモリカード、コンパクトディスク(CD)またはデジタルバーサタイルディスク(DVD)などの光ディスク、フロッピーディスク、磁気テープ、または他のメモリコンポーネントを含む、メモリ406の任意の部分またはコンポーネントに格納されてもよい。
【0083】
メモリ406は、揮発性および不揮発性のメモリおよびデータストレージコンポーネントの両方を含み得る。揮発性コンポーネントは、電力の損失時にデータ値を保持しないものを含み得る。不揮発性コンポーネントは、電力の損失時にデータを保持するものを含み得る。したがって、メモリ406は、例えば、ランダムアクセスメモリ(RAM)、リードオンリーメモリ(ROM)、ハードディスクドライブ、ソリッドステートドライブ、USBフラッシュドライブ、メモリカードリーダーを介してアクセスされるメモリカード、関連するフロッピーディスクドライブを介してアクセスされるフロッピーディスク、光ディスクドライブを介してアクセスされる光ディスク、適切なテープドライブを介してアクセスされる磁気テープ、および/または他のメモリコンポーネント、またはこれらのメモリコンポーネントのうちの任意の2つ以上の組み合わせを含み得る。さらに、RAMは、例えば、SRAM(static random access memory)、DRAM(dynamic random access memory)、MRAM(magnetic random access memory)および他のそのようなデバイスを含み得る。ROMは、例えば、PROM(programmable read-only memory)、EPROM(erasable programmable read-only memory)、EEPROM(electrically erasable programmable read-only memory)または他の同様のメモリデバイスを含み得る。
【0084】
また、メモリ406は、並列処理回路で動作する複数のメモリ406を表し得る。そのような場合、ローカルインターフェース409は、複数のプロセッサ403のうちのいずれか2つの間、いずれかのプロセッサ403とメモリ406のうちのいずれかのものとの間、メモリ406のいずれか2つの間、または他のいずれかの適切な構成の間の通信を容易にする適切なネットワークであり得る。ローカルインターフェース409は、例えば、負荷分散を行うことを含めて、この通信を調整するように設計された追加のシステムを含み得る。プロセッサ403は、電気的な構造であってもよいし、他の利用可能な構造であり得る。
【0085】
AIシステムアプリケーション415、オペレーティングシステム418、アプリケーション421、および本明細書に記載された他の様々なシステムは、上述のように汎用ハードウェアによって実行されるソフトウェアまたはコードで具現化されてもよいが、代わりに、同じものが専用ハードウェア、またはソフトウェア/汎用ハードウェアと専用ハードウェアの組み合わせで具現化されてもよい。専用ハードウェアで具現化される場合、いくつかの技術のいずれか1つまたは組み合わせを採用した回路またはステートマシンとしてそれぞれ実装することができる。これらの技術には、例えば、1つまたは複数のデータ信号の適用に応じて様々な論理機能を実装するための論理ゲートを有する離散的な論理回路、適切な論理ゲートを有するアプリケーション固有の集積回路、または他の適切なコンポーネントが含まれ得る。
【0086】
図5は、例示的なG-SRMCD110a、110b、および110cの概略ブロック図を示す。G-SRMCD110a、110bおよび110cは、例示的に開示されたG-SRMCD500に類似し得る。G-SRMCD500は、1つまたは複数の高度なRISCマシン(ARM)、GPUまたはCPUプロセッサ回路を含み得、ホスト計算モジュール(HCM)510上で動作する。HCMは、自律ユニット101a、101b、101cおよびG-SRMCD500のハードウェアコンポーネントに接続するための複数のポートおよびインターフェースを含み得る。CAN(Controller Area Network)バスポートは、G-SRMCD500が他の自律ユニットのECU(Electronic Control Unit)と通信することを可能にする。各ECUは、他のECUと共有する必要のある情報を持っている可能性があり、CANバスへのアクセスにより、G-SRMCD500がセンサデータを取得し、自律ユニット110a、110b、110cを制御することができる可能性がある。自動車用CANバスは、すべての自律走行車で動作するとは限らない。また、G-SRMCD500は、MOST(Media Oriented Systems Transport)、LIN(Local Interconnect Network)、CXPI(Clock eXtension Peripheral Interface)、SAE J2716 SENT(Single Edge Nibble Transmission)、FlexRayまたは他のインターフェースおよびプロトコルをサポートして、自律ユニットの制御および監視を行うことができる。また、ホスト計算モジュール510は、カメラ、センサ、および無線モデムなどのG-SRMCD500のハードウェアコンポーネントを相互に接続するためのイーサネット、USB、PCIe、MIPI、GSML、FPDLink IIIまたはeSATAインターフェースをホストし得る。Wi-FiおよびBluetoothプロトコルも、ハードウェアデバイスをG-SRMCD500に相互接続するために、ホスト計算モジュール510によってサポートされてもよい。
【0087】
ホスト計算モジュール510は、ARMまたはIntelプロセッサのいずれかを使用するマイクロプロセッサベースのコンピュータボードであり得る。G-SRMCD500は、ハードウェアロジック、ソフトウェアロジック、またはハードウェアロジックとソフトウェアロジックの組み合わせで実装できることを理解すべきである。これに関連して、G-SRMCD500は、上述の方法を実装するソフトウェアでプログラムされたデジタル信号プロセッサ(DSP)、マイクロプロセッサ、マイクロコントローラ、GPU、または他のプログラマブルデバイスのいずれかであるか、またはそれらを含むことができる。代わりに、G-SRMCD500は、FPGA(Field Programmable Gate Array)、CPLD(Complex Programmable Logic Device)、またはASIC(Application Specific Integrated Circuit)などの他の論理デバイスであるか、またはそれらを含むことが理解されるべきである。G-SRMCD500が機能を実行する、または機能を実行するように構成されていると記載されている場合、G-SRMCD500は、適切なロジック(ソフトウェア、ハードウェア、ロジックデバイス、またはそれらの組み合わせなど)でそうするように構成されていると理解すべきである。
【0088】
セキュリティおよび暗号化層515は、G-SRMCD500内の一部または実質的にすべてのモジュールおよびオペレーティングシステムを保護し得る。また、G-SRMCD500とRMCC130および自律ユニット101a、101b、101cとの間のデータ通信は、安全化、暗号化、および常時監視することができる。
【0089】
G-SRMCD500のオペレーティングシステム(OS)520は、Linuxであり得る。G-SRMCD500を動作させるための適切なパッケージをインストールすることができる。OSは、ビデオ/オーディオストリーミング、G-SRMCDアプリケーションおよび人工知能処理をサポートするライブラリを含み得る。
【0090】
G-SRMCD110a、110bおよび110cは、処理装置400に表示される回路およびインターフェースに加えて、例えば、無線ローカルエリアネットワーク(WLAN)および/またはセルラーネットワークなどの無線ネットワーク120を介して通信するためのハードウェアを含み得る。G-SRMCD500は、無線通信をサポートする処理回路525(例えば、送信機、受信機、および/または送受信機)を含むことができる。例えば、G-SRMCD110a、110b、110cは、例えば、第3世代(3G)、第4世代(4G)、ロングタームエボリューション(LTE)、第5世代(5G)、または他のデータ通信規格などのセルラーデータ接続などのセルラー通信をサポートし得る。G-SRMCD110a、110b、110cは、例えば、IEEE802.11a/b/g/n、および802.11axとしても知られるWi-Fi6などの無線通信をサポートし得る。無線回路525は、RMCCへの冗長な無線リンク接続を処理するように構成することができる。異なる無線バンド、プライベートLTEネットワークまたはサービスプロバイダを使用する複数の無線データ接続は、RMCC130への実質的に保証された安全な接続を提供することができる。G-SRMCD110a、110bまたは110cが、ネットワーク接続がダウンしていることを検出した場合、ローカルインシデントリスクレベルに基づいて、G-SRMCD500は、RMCCへの接続が再確立されるまで、自律ユニットに、続行するか、安全に駐車するかのいずれかを指示し得る。G-SRMCD500は、無線信号強度を監視し得、弱い信号が検出された場合、G-SRMCD500は、RMCC130にその事象を報告し得る。RMCC130は、自律ユニット101a、101b、101cにそのエリアを回避するように提案し、インシデントリスクレベルを低下させるために自律ユニットを再ルーティングすることができる。いくつかの実装では、無線回路525は、自律走行車の乗客にWi-Fiアクセスを提供することができる。Wi-Fiアクセスは、地元の観光情報、交通情報または気象情報、サービスの更新、およびインターネットへのアクセスなどの複数のサービスを車両の乗客に提供することができる。
【0091】
G-SRMCD110a、110bおよび110cは、自律ユニットのキャビン内の温度および湿度レベルを取得する回路を含むことができる。キャビンセンサ530は、G-SRMCDがその動作条件内にあるかどうか、および乗客(いる場合)が快適な環境にいるかどうかを判断するのに役立ち得る。
【0092】
G-SRMCD110a、110b、110cのGPS回路535は、地理的な位置を決定するためのGPS機能をサポートし得る。G-SRMCD110a、110b、110cが、自律ユニット101a、101b、101cが取得したGPS位置にアクセスできない場合、G-SRMCD500は、自身のGPS回路535を用いて、地理的位置をRMCC130に報告することができる。
【0093】
さらに、G-SRMCD500は、車両に組み込まれ、遠隔制御オペレータ140にライブ画像をビデオストリーミングするために使用される複数のカメラおよびセンサ540を含み得る。ビデオストリームは、無線パブリックまたはプライベートネットワーク120を介してRMCC130にルーティングすることができ、装置525は、G-SRMCD500のデータ受信機および送信機である。複数のセンサ装置を自律ユニットに設置することができ、遠隔制御オペレータは、監視するカメラを選択して、自律ユニットを遠隔的に制御および操縦することができる。G-SRMCD500は、ホスト計算モジュール510の処理回路を利用して、ハードウェアエンコーダを利用し、ソフトウェアベースのアルゴリズムを利用するよりも高速に映像を生成することができる。このシステムは、ライダ、レーダ、超音波センサ、その他を含む任意のセンサモダリティを採用するように拡張することができる。また、カメラ、ライダ、レーダ、および/または超音波センサの任意の組み合わせなどのマルチモーダルセンサシステムの融合により、より強力なシステムを実現することができる。大量のデータを生成するセンサモダリティの場合、データ圧縮を利用することができる。したがって、視覚センサを使用する場合、車両および/またはインフラストラクチャ間の効率的な通信を実現するために、ビデオの圧縮/解凍を使用することができる。スタンドアローン型またはカメラ内蔵型の任意の適切なビデオコーディング規格または技術を使用することができる。
【0094】
SMSブロック545は、SMSサービスプロバイダによってサポートされるショートメッセージサービス(SMS)プロトコル、ショートメッセージピアツーピアプロトコル(SMPP)、またはrestful APIを介して、G-SRMCD500がテキストメッセージを送受信することを可能にし得る。SMSブロック545は、G-SRMCD500がRMCC130との接続を失った場合に、構成可能な管理者のリストに通知するように構成することができる。また、複数のイベントおよび/またはアラームを管理者に報告するように構成することができる。SMSブロック545は、G-SRMCD500の代替通信技術として、テキストコマンドを受信することもできる。受信したG-SRMCDテキストコマンドは、SMSブロック545によって検証することができ、その真正性が確認されると、コマンドをG-SRMCD500で実行することができる。G-SRMCDテキストコマンドは、例えば、トラブルシューティングルーチンの実行、モジュールレポートの準備および送信、機能の有効化または無効化、モジュールのシャットダウンまたは起動の要求、オペレーティングシステムコマンドの実行、および/またはモジュール統計の送信など、G-SRMCD500の各モジュール上のタスクの実行を可能にし得る。
【0095】
いくつかの実装では、G-SRMCD500は、自律走行車のキャビンに設置されたヒューマンインターフェース550を含み得る。この乗客インターフェースモジュールは、G-SRMCD500が乗員と対話し、乗客が例えば緊急時にRMCC130内の遠隔制御オペレータに連絡することや、自律走行車に関連する要求を行うことを可能にし得る。ヒューマンインターフェース550は、ビデオ処理モジュール570を用いて、RMCC130に双方向のビデオおよび音声通信を提供し得る。また、ヒューマンインターフェースは、例えば、遠隔制御オペレータとのビデオ通信、緊急サービスへの連絡、パニックボタン、地図上の現在の自律ユニットの位置の表示、情報提供ビデオの再生、および/または他の適切な機能を要求するための複数のボタンを備えたディスプレイを提供し得る。ヒューマンインターフェースは、自律ロボットまたはドローンに搭載して、自律ユニットが人間と対話する必要がある状況を支援することができる。例えば、自律ユニットがゲート付きコミュニティに到達すると、自律ユニットがそのハウスコミュニティに入ることを許可するために、遠隔制御オペレータに守衛係、自動化キオスクと話をさせたり、エントリーQRコードを表示させたりすることが適切であるかもしれない。ヒューマンインタラクションにおいて、ヒューマンインターフェース550は、自律ユニットが目的地に到達すること、または乗員、顧客、緊急対応者、および/または他の個人と対話することを支援することができる。
【0096】
G-SRMCD500内のアプリケーションは、ホスト計算モジュール510内の利用可能な装置およびハードウェアコンポーネントのうちの1つまたは複数を使用し得る。以下のセクションでは、少なくともいくつかの例示的な実施形態において、各アプリケーション層が使用する装置について記載する。自律ユニット遠隔制御モジュール555は、遠隔制御オペレータ140が自律ユニットを監視し、遠隔制御することを可能にし得る。このモジュールは、RMCC130が、例えば、スロットルの制御、ステアリングの制御、ブレーキの作動、シフト制御(例えば、前進、後退)、フロント/バックカメラの注視、自律ユニットの周囲の状況の聴取、右/左ミラーの注視、右/左方向指示器の作動、ヘッドライトの点灯、ホーンの作動、後退ホーンの作動(例えば、利用可能な場合)、ウィンドシールドワイパーのオン/オフ、自律ユニットのシャットダウン、または自律ユニットの起動を行うことを可能にする自律ユニット制御インターフェースに相互接続し得る。モジュール555は、例えば、ロボット・オペレーティング・システム(ROS)、ドライブ・バイ・ワイヤ、または他の自律ユニット製造業者のプロトコルおよびAPIなど、自律ユニットを制御するための複数のプロトコルに統合されてもよい。自律ユニット遠隔制御モジュール555は、自律ユニット101a、101b、101cの利用可能なセンサデータやアラームデータを接続して取得するための適切な処理回路およびソフトウェアを含み得る。したがって、自律ユニット制御モジュール555は、機械的、ハードウェア的またはソフトウェア的な問題が発生した場合に、G-SRMCD110a、110b、110cが自律ユニットの診断およびトラブルシューティングを行うことを可能にし得る。また、このデータは、自律走行車内の任意の先進運転支援システム(ADAS)によって作成されたメッセージを含み得る。警報または警告メッセージは、自律ユニットを制御する際に、遠隔制御オペレータ140に転送されてもよい。RMCC130がユニットを制御していない場合、これらのメッセージは、RMCC130によって処理されてもよく、インシデントリスクレベルを更新するために、または適切なイベント(例えば、クリティカルイベント)において、RMCC130に自律ユニットの即時制御を要求するために使用されてもよい。モジュール555は、例えば、ドライバのダッシュボードの警報および警告、タイヤの圧力、バッテリの電力レベル、ドアおよびロックの状態、燃料計、エンジンサービス通知、シートベルトセンサ、乗客検出センサ、メンテナンスサービス通知、全体の範囲、速度計、バッテリの充電状態、性能指標、外部温度、GPS位置、ビデオカメラおよびセンサ、および/または他の適切な機能へのアクセスを有し得る。遠隔制御モジュール555は、自律ユニットにおける自律モードを無効にして、ユニットの制御を行うことができ、また、緊急時や、ユニットを手動で制御する必要がある場合には、無効にされることができる。
【0097】
AIアプリケーション層560は、装置525、530、535、540および545から受信した入力データを処理して、自律ユニットの問題を予測および防止し得る。AI層560は、様々なコンピュータビジョンモデルを実行し得、それをセンサデータの入力特徴と組み合わせて、RMCC130に対するインシデントリスクレベル(IRL)を計算し、更新してもよい。IRLは、自律ユニットに支援を提供すべきかどうかを遠隔制御オペレータ140に示し得る。SIPSまたはSIRSモジュールによって報告されたイベントの場合、G-SRMCDによって直ちに遠隔制御が要求されてもよい。
【0098】
AI層560は、データ分析および人工知能モデルのトレーニングの目的で、データ、ビデオおよび音声を収集し得る。AI層560は、G-SRMCD500がキャプチャして収集したデータを継続的に収集、処理、および/または分析し得、無線データリンク525を使用してメタデータをRMCC130に送信し得る。遠隔制御オペレータ140がSIPSまたはSIRSの誤った肯定的なイベントまたは誤った否定的なイベントを検出した場合、イベントに関連するデータは、分析のために収集されてもよく、連続的なAIトレーニングアルゴリズムのためのフィードバックを提供し得る。また、データ収集は、自律ユニット製造者に提供されてもよい。AI層560が自律ユニットの性能問題を検出した場合、インシデントに関連するデータを収集して製造業者と共有し、自律アルゴリズムを再訓練して改善できるようにしてもよい。自律走行車が人間のドライバによって監督される場合、G-SRMCD500は、ドライバが自律走行車の自律モードを越えて制御するときの条件を記録することができる。この情報は、自律走行車メーカーが人工知能アルゴリズムを微調整するための貴重な情報となり得る。
【0099】
AI層560層は、物体や環境を認識するための一連のコンピュータビジョンプログラムを含み得る。それらのAIプログラムの1つは、道路の制限速度標識を読み取り、スクールゾーンの点滅信号を検出するように指定されてもよい。ユニットが制限速度を超えた場合、AI層560は、RMCC130にイベントの情報を送信し得る。IRLを増加することができ、G-SRMCD500はRMCC130に遠隔制御を要求し得る。同様に、AI層560層は、自律ユニットの人工知能アルゴリズムからのフィードバックまたはデータを統合し、IRLを更新し、適切であれば、RMCC130に遠隔制御を要求することができる。自律ユニットは、離れた物体、車、または歩行者を検出するための複数の検出装置および視覚装置を有することができ、自律ユニットの潜在的な事故を自律制御システムに報告し得る。それらのイベントは、自律制御システムによって、自律ユニット101a、101b、101cで処理されてもよい。また、AI層560層は、それらのイベントおよび警報を処理してIRLを更新し、遠隔支援が直ちに行われる場合にはRMCC130に報告することができる。
【0100】
自律ユニットの撮像装置540を用いて、画像データをキャプチャすることができる。画像データは、連続的に、定期的に、またはトリガ信号に応答してキャプチャすることができる。撮像装置は、カメラまたは任意の他の適切なタイプの撮像装置であり得る。画像データは、次に、AI層560によって分析されて、歩行者、別の車両、または他の潜在的な危険など、関心のある物体を検出および/または識別し得る。例示的な実施形態では、物体は、YOLO(You Only Look Once)物体検出アルゴリズムを用いて検出することができる。YOLO物体検出に関する詳細については、“YOYL09000:Better,Faster,Stronger’ArXiv:1612.08242 2016年12月を参照されたい。また、任意の他の適切なタイプの物体検出方法を利用することもできる。
【0101】
RMCCリンク565は、無線回路525を介してRMCC130との持続的な仮想回路ネットワーク接続を確立することによって、RMCC130との継続的な通信を維持し得る。ホスト計算モジュール510は、G-SRMCDおよび自律ユニットの遠隔測定データを収集して、RMCCリンク565を使用してRMCC130に報告し得る。さらに、RMCCリンク565は、例えば、自律ユニット101a、101b、または101cが動作していないときに、利用可能なソフトウェアアップデートがあるかどうかを確認し、それらをインストールし得る。RMCC130は、採用する無線ネットワークをG-SRMCD110a、110b、110cに示す場合があり、G-SRMCD500の完全性を提供する更新パッケージを検証し得る。
【0102】
ビデオ処理モジュール570は、G-SRMCDに設置された、または自律ユニットに配置されたカメラおよび他のセンサから収集された音声およびビデオのビットストリームの圧縮および準備のために、マイクロプロセッサCPUおよび/またはGPUの加速された音声およびビデオ処理能力を使用し得る。ビデオ処理モジュール570は、適切に低減された処理および伝送待ち時間で遠隔制御オペレータワークステーション140との安全で暗号化されたピアツーピアの音声およびビデオ通信を確立するために、RMCC130の車両ロケータおよび相互接続機能からRMCCリンク565を介して到着する遠隔制御オペレータ140からの接続要求に応答することによって、ウェブリアルタイム通信(WebRTC)技術を使用し得る。暗号化は、一部または実質的にすべてのWebRTCコンポーネントに使用されてもよく、したがって、データ通信は、G-SRMCD110a、110b、110cと遠隔コントローラオペレータ140との間で安全化することができる。G-SRMCDモジュール570は、WebRTC技術を利用し得、これにより変化するネットワーク条件に対して補償され、調整され得る。ビデオ品質は、帯域幅の利用可能性に応じて調整することができ、ネットワークの輻輳を回避して、適切な音声およびビデオ通信を提供し得る。WebRTCはまた、ICEおよびSCTPプロトコルを使用して、信頼性の高い冗長なセッション確立を提供し得る。ビデオ処理モジュール570は、WebRTCデータチャネルを利用して、G-SRMCD500と遠隔制御オペレータ140との間で情報を交換し得る。ビデオ処理モジュール570は、ヒューマンインターフェース550およびカメラアレイ540の装置を利用して、遠隔制御オペレータ140にビデオ画像を配信し得る。
【0103】
G-SRMCD500は、自律ユニットから比較的低い電力を消費し得、および/または自身のエネルギー源を提供し得る。少なくともいくつかの例示的な実施形態では、G-SRMCD500は、自身のバッテリが電力不足になった場合に、自律ユニットのバッテリをバックアップとして使用することができる。G-SRMCD500のバッテリは、手動で充電することができ、および/または、ソーラーパネルを自律走行車に追加して、G-SRMCD500のバッテリを継続的に充電することができる。G-SRMCD500は、バッテリレベルを監視し、バッテリをすぐに充電する必要がある場合には、RMCC130に警告し得る。
【0104】
図6は、(
図1に示された)AIシステム100において、RMCC130に実装されたインシデントリスクレベルを監視するための例示的なプロセスを示すフローチャートを示している。図示されたプロセスは、ステップ602で、RMCC130が複数の自律ユニットからセンサデータをキャプチャすることで始まる。様々な例では、センサは、複数の自律ユニットに分散することができる。いくつかの実施形態では、自律ユニットからRMCC130にセンサデータが送信される前に、融合されたセンサデータを圧縮することができる。例示的な例では、自律ユニットおよびRMCC130は、自律ユニットからRMCC130に伝送されるセンサデータの量を制限するために、データ通信およびネットワーク分野の技術を採用し得る。例えば、1つまたは複数の自律ユニットは、RMCC130に送信されるセンサデータストリームから冗長なセンサデータを排除するために、人工知能を用いて構成されてもよい。そのような例では、自律ユニットは、定期的な間隔で、または主要なセンサが値を変更したときに、センサデータの更新を送信し得る。
【0105】
様々な実施形態の実装の設計および使用方法を示す例において、RMCC130は、RMCC130が複数の自律ユニットから受信したセンサデータに基づいて、複数の自律ユニットを同時に監視および制御するように構成されてもよい。いくつかの例では、RMCC130は、RMCC130の支配の下で動作する複数の自律ユニットの各自律ユニットについて、独立したインシデントリスクレベルを決定し得る。例示的に開示されたRMCCは、RMCCによって安全ではないインシデントリスクレベルで動作していると判断された複数の自律ユニットのうちの1つまたは複数の完全または部分的な制御を引き受け得る。いくつかの実施形態では、RMCC130は、安全ではないインシデントリスクレベルを有する自律ユニットにおいて1つまたは複数の安全対策または勧告助言を実施することに基づいて、安全なインシデントリスクを回復するために、RMCC130が安全ではないインシデントリスクを決定した1つまたは複数の自律ユニットの完全または部分的な制御を引き受け得る。
【0106】
例示的な例では、RMCCは、各自律ユニットについて決定されたインシデントリスクを、安全、危険、安全でない、という少なくとも3つの範囲にあると特徴付けるように構成されてもよい。
【0107】
監視された自律ユニットが安全なインシデントリスクレベルで動作する例示的な例では、RMCCは、自律ユニットのそれぞれについて個別にインシデントリスクを決定することに基づいて、個々の自律ユニットの同時監視を継続し、インシデントリスクが安全でない状態に変化した場合に自律ユニットの制御を行い、安全なインシデントリスクが回復した場合に自律ユニットに制御を戻し得る。RMCCによって安全であると特徴付けられたシナリオは、正常な状態と呼ばれてもよく、1人または複数人の遠隔制御オペレータに「緑」の状態として表示または指示されてもよい。
【0108】
監視された自律ユニットが危険なインシデントリスクレベルで動作する様々な例では、RMCCは、インシデントリスクが危険であるとRMCCが判断した1つまたは複数の自律ユニットに対して、危険なインシデントリスクを警告するために、勧告アクションを発行し得るか、または勧告助言を送信し得る。例示的な例では、危険なインシデントリスクは、注意が勧告される増大したリスクを提示し得、または部分的な制御が実施され得る。RMCCが危険と特徴付けたシナリオは、注意または勧告状態と呼ぶことができ、1人または複数人のユーザに「黄色」の状態で表示または指示することができる。1つまたは複数の自律ユニットの危険なインシデントリスクに応答してRMCCが取る行動には、1つまたは複数の自律ユニットを同時に部分的に制御すること(例えば、速度を制限すること)、制御のレベルを完全な制御に昇格させ得るイベントに対する感度を高めること(例えば、自律ユニットがセンターラインまたは路肩を横切るなど)、自律ユニットコントローラにメッセージを送信して、自律ユニットが危険なインシデントリスクに適応するように警告すること、または自律ユニットコントローラまたは乗員に興味深い物体(例えば、自律ユニットの進路上で横断する準備をしている歩行者の画像)を提示することが含まれ得る。
【0109】
監視された自律ユニットが安全でないインシデントリスクレベルで動作するいくつかの例では、RMCCは、安全でないインシデントリスクで動作していた1つまたは複数の自律ユニットのインシデントリスクレベルを低減するために、インシデントリスクが安全でないとRMCCが判断した1つまたは複数の自律ユニットに安全対策を同時に実施し得る。安全でないインシデントリスクは、自律ユニットの乗員の死亡または負傷の重大かつ差し迫った危険を示し得る。例示的な例では、RMCCによって安全でないと特徴付けられたシナリオは、1人または複数人のユーザに対して「赤」の状態として表示または示すことができる。1つまたは複数の自律ユニットの安全でないインシデントリスクに応答してRMCCが取る行動には、1つまたは複数の自律ユニットの速度を低減して自律ユニット間の分離を増加させること、1つまたは複数の自律ユニットを操舵して衝突を回避すること、または1つまたは複数の自律ユニットを自動的に制動して衝突を回避することが含まれ得る。
【0110】
いくつかの例示的な実施形態では、RMCCは、RMCCの支配の下で動作していない1つまたは複数の自律ユニットからセンサデータを受信し、処理し、それに基づいて行動し得る。例示的な例では、RMCCの支配の下で動作する自律ユニットは、RMCCにセンサデータを送信し得る。しかしながら、このようなRMCCの支配下にない自律ユニットは、RMCCによる制御を受け入れることができない場合がある。例えば、RMCCの支配下にある自律ユニットは、RMCCの支配下にない別の車両の動作行動に基づいて、インシデントリスクを低減するように勧告または制御されることができる。
【0111】
いくつかの例示的な実施形態では、インシデントリスクマージンは、過去のセンサデータを用いて構成された人工知能によって決定することができる。例えば、センサを搭載したテスト車両は、特定の道路上、または特定の条件下での自律ユニットの移動を代表するセンサデータに基づいて、ニューラルネットワークまたは決定ツリーを訓練することができるかもしれない。このようなテストデータは、様々なライブ自律ユニット走行条件について、RMCCによって決定されたインシデントリスクに関する最小安全リスクマージン閾値の差を予測するために使用することができる。例示的な例では、様々な実施形態のRMCCは、インシデントリスク、インシデントリスクマージン、および/または最小安全リスクマージン閾値の関数として特徴付けられる、各自律ユニットのインシデントリスクを安全、危険、または安全でないと決定し得る。
【0112】
図示された方法は、604において、RMCCが、複数の自律ユニットから受信したセンサデータに基づいて、複数の自律ユニットの位置を決定することに続く。606において、G-SRMCD500は、センサデータに基づいて、物体の位置を決定する。608において、G-SRMCD500は、センサデータを用いて、自律ユニットの速度を決定する。610で、G-SRMCD500は、自律ユニットの位置、物体の位置、および自律ユニットの速度に基づいて、ローカルインシデントリスク評価を実行する。G-SRMCD500は、RMCC130のインシデントリスクレベルを更新するために、評価結果をRMCC130に報告する。インシデントの可能性を検出した場合、G-SRMCD500は、自律ユニットに速度を低下させるか、または直ちに停止するように要求することができる。いくつかの例では、インシデントリスクは、物体または自律ユニットが、複数の自律ユニットのうちの1つまたは複数にとって関心事であるかどうか(例えば、自律ユニットの動作に影響を与えるかどうか)に応じて、RMCCによって決定することができる。
【0113】
612でRMCC130は、過去のセンサデータを用いて構成された人工知能によって決定されたインシデントリスクマージンに応じて各自律ユニットについて評価されたインシデントリスクに基づいて、複数の自律ユニットの各自律ユニットについてインシデントリスクレベルが安全であるかどうかを判断する。ステップ614で、各自律ユニットのインシデントリスクレベルが安全であり、RMCC130が自律ユニットを制御していない場合、プロセスは602で継続する。ステップ614で、インシデントリスクレベルが安全であり、RMCC130が自律ユニットを制御している場合、616でRMCC130は自律ユニットに制御を戻し、プロセスは602で継続する。
【0114】
ステップ612において、インシデントリスクレベルが安全でない場合、RMCC130は、ステップ618において、過去のセンサデータを用いて構成された人工知能によって決定されたインシデントリスクマージンに応じて各自律ユニットについて評価されたインシデントリスクに基づいて、インシデントリスクレベルが危険であるかどうかを判断する。RMCC130が、ステップ618において、1つまたは複数の自律ユニットのインシデントリスクレベルが危険ではなく、インシデントリスクレベルを低下させることができると判断した場合、RMCCは、620において、1つまたは複数の自律ユニットに送信される助言メッセージを生成するために、勧告を処理する。様々な例において、勧告助言は、自律ユニットに対して速度を低減するように提案することを含み得、あるいは、自律ユニットの視野から遮蔽された物体、例えば歩行者の画像を含み得る。
【0115】
618でRMCC130が、少なくとも1つの自律ユニットのインシデントリスクレベルが危険であると判断した場合、622でRMCC130は、少なくとも1つの自律ユニットを制御し、方法は602でRMCC130が複数の自律ユニットからセンサデータをキャプチャすることで継続する。例示的な例では、例示的な開示されたRMCCは、リスクレベルが危険ではない複数の自律ユニットのうちの1つまたは複数の同時制御を想定して、複数の自律ユニットのそれぞれについてインシデントリスクを同時に決定し得る。例えば、例示的に開示されたRMCCは、100台の自律ユニットを監視することができ、所与の時間において、100台の自律ユニットのうちおそらく50台の自律ユニットが、50台の自律ユニットのそれぞれについてRMCCによって決定された安全でないインシデントリスクレベルに基づいて、RMCCによる制御が必要であると判断される可能性がある。
【0116】
図7は、例示的なRMCCによって複数の自律ユニットのインシデントリスクを軽減するための例示的なプロセスを示すフローチャートを示している。様々な例において、
図7に描かれたプロセスは、(
図1に示されている)AIシステム100のG-SRMCD110a、110b、110c、およびRMCC130において実施されてもよい。図示されたプロセスは、ステップ702で、RMCC130が、ライブセンサデータおよび過去のセンサデータに応じて決定された安全リスクマージンを予測するために、(例えば、本明細書に開示されているような)組み込まれた人工知能を訓練および展開することから始まる。プロセスは、ステップ704で、RMCC130が、複数の自律ユニットからライブセンサデータをキャプチャすることで継続する。706において、RMCC130は、人工知能と、G-SRMCD110a、110b、110cから受信したライブセンサデータおよびメタデータとに基づいて、安全リスクマージンを決定する。
【0117】
ステップ708で、RMCC130は、人工知能と、ライブセンサデータおよび履歴センサデータとに基づいて、複数の自律ユニットのそれぞれについて、自律ユニットごとのインシデントリスクを決定する。ステップ710で、RMCC130が、すべての自律ユニットのインシデントリスクレベルが危険ではないと判断した場合、プロセスは終了する。そうでなければ、RMCC130は、712において、(例えば、本明細書に記載されているような)人工知能によって決定された適切な安全対策を選択することによって、複数の自律ユニットのうちの少なくとも1つについての危険なインシデントリスクを軽減する。ステップ714において、RMCC130は、716において選択された安全対策を実施する自律ユニットを選択する。様々な例において、安全対策は、自律ユニットの自動制動、減速、ユニットの駐車、または潜在的な衝突から離れるための操舵を含み得る。
【0118】
718において、RMCC130は、インシデントリスクレベルを安全マージンまで低減するために、より多くの自律ユニットが安全対策を実施するかどうかを決定する。より多くの自律ユニットが安全対策を実施する場合、RMCC130は、716で安全対策を実施するために714で自律ユニットを選択し続ける。全ての自律ユニットが安全対策を実施する場合、RMCC130は、720において、全ての自律ユニットのインシデントリスクレベルが安全マージンまで低減されたかどうかを判断する。RMCC130が、720において、すべての自律ユニットが安全なリスクインシデントレベルで動作していないと判断した場合、プロセスは708で継続する。
【0119】
図面を参照して様々な例を記載してきたが、他の例も可能である。例えば、様々な例示的なRMCCの実施形態は、自律ユニットを監視および制御するための改良された分散型情報共有システムおよび方法を含んでもよく、ここでRMCCは複数の分散型センサおよびメタデータから情報を受信するようにプログラムおよび構成され;G-SRMCDは、自律ユニットが遠隔支援を受ける可能性があるときにRMCCに学習させ、かつ警告し得;インシデントの存在、インシデントに関与する自律ユニット、乗客、歩行者、動物および物体、インシデントによる負傷および損害の性質を判断し得;インシデントが発生した場所から第2の場所に自律ユニットを安全に自律的に移動させることができるかどうかを判断し得;自律ユニットを安全に自律的に移動させることができない場合には、緊急応答者に連絡し得;緊急応答者のユーザ装置から自律ユニットの制御権を移す要求を受信し得;これに応答して、暗号化およびハンドシェイク技術を使用して、自律ユニットの所有者の承認を伴うことなく、信頼された緊急応答者に自動化された自律ユニットの制御権を移し得;自律ユニットの所有者または利害関係者にインシデントを通知し得る。
【0120】
様々な実施形態の設計と使用の例示的な例において、安全アプリケーションのために自律ユニット間で基本的な交通メッセージを交換することによって、自律ユニットと指定されたインフラストラクチャの位置がセンサデータを共有する場合に、著しくより高いレベルの安全性を達成することができる。1つの自律ユニットに設置されたカメラは、多くの回避可能な事故を軽減するための視覚情報を提供できる一方、複数の自律ユニットによってキャプチャされた視覚データが、著しく最適化されたアクティブセーフティおよびドライバ支援システムのために共有および結合(例えば、融合)される新しい安全パラダイムが想定される。視覚データの共有は、1つの自律ユニットによってまたはインフラストラクチャの位置によってキャプチャされたいくつかの重要な視覚的ビューが、同じ環境にいる他の自律ユニットでは見えず、キャプチャされない可能性があるという事実によって動機付けられ得る。そのようなデータをリアルタイムで共有することは、ドライバ支援、接続された自律ユニット、および/または自律ユニットの安全システムを大幅に強化できる、計り知れない新しいレベルの認識を提供する。
【0121】
少なくともいくつかの例示的な実施形態において、本発明は、自律ユニットの動作のための方法およびシステムに向けられる。より具体的には、本発明のいくつかの実施形態は、事故または他の緊急事態が発生した場合に、自律ユニットの制御を、人間または自律的である緊急応答者あるいは人間の自律ユニットの乗員に切り替える方法およびシステムに向けられる。
【0122】
上の記載のいくつかの部分は、本明細書に記載された技術を、情報に対する操作のアルゴリズムおよび記号的表現の観点から提示している。これらのアルゴリズムの記載および表現は、作業の実体を伝えるために使用することができる。これらの操作は、機能的または論理的に記載されているが、コンピュータプログラムによって実装することができる。さらに、一般性を損なうことなく、これらの操作の配置をモジュールとして、または機能名で言及することが便利な場合もある。
【0123】
上記の考察から明らかなように、特に別段に記載されない限り、本記載全体を通して、「処理」または「コンピューティング」または「計算」または「決定」または「表示」またはそれらに類するものなどの用語を利用する考察は、コンピュータシステムのメモリまたはレジスタまたは他のそのような情報記憶、送信または表示デバイス内の物理的(電子)量として表されるデータを操作および変換する、コンピュータシステムまたは同様の電子コンピューティングデバイスの動作およびプロセスを指すことが理解される。
【0124】
記載された技術の特定の態様は、アルゴリズムの形で本明細書に記載されたプロセスステップおよび命令を含む。記載されたプロセスステップおよび命令は、ソフトウェア、ファームウェアまたはハードウェアで具現化され得、ソフトウェアで具現化される場合、リアルタイムネットワークオペレーティングシステムによって使用される異なるプラットフォーム上に存在し、そこから操作されるようにダウンロードされ得ることに留意すべきである。
【0125】
本開示の少なくともいくつかの例示的な実施形態は、本明細書の操作を実行するための装置にも関する。この装置は、所望の目的のために特別に構築することができる、または、コンピュータによってアクセス可能なコンピュータ可読媒体に格納されたコンピュータプログラムによって選択的に起動または再構成される汎用コンピュータを含み得る。このようなコンピュータプログラムは、フロッピーディスク、光ディスク、CD-ROM、光磁気ディスクを含む任意の種類のディスク、リードオンリーメモリ(ROM)、ランダムアクセスメモリ(RAM)、EPROM、EEPROM、磁気カードまたは光カード、特定用途向け集積回路(ASIC)、または電子命令を格納するのに適した任意の種類の媒体などであるが、それらに限定されず、それぞれがコンピュータシステムバスに結合される、有形のコンピュータ可読記憶媒体に格納されてもよい。さらに、本明細書で言及されているコンピュータは、単一のプロセッサを含み得る、または計算能力を高めるために複数のプロセッサ設計を採用したアーキテクチャであり得る。上記の一部またはすべての機能は、プライベートまたはパブリッククラウドベースのデータセンター(DC)によって提供することもできる。
【0126】
本明細書に提示されているアルゴリズムおよび操作は、特定のコンピュータおよび他の装置に本質的に関連しない。様々な汎用システムも、本明細書の教示に従ったプログラムと共に使用することができ、また、所望の方法ステップを実行するために、より特化された装置を構築することが便利であると分かるかもしれない。これらの様々なシステムのための所望の構造は、同等の変形とともに、当業者には明らかであろう。加えて、本開示は、特定のプログラミング言語を参照して記載されていない。本明細書に記載された本開示の教示を実施するために、様々なプログラミング言語を使用できることが理解される。
【0127】
実施形態の上述の記載は、例示および記載の目的で提供されている。網羅的であることも本開示を限定することも意図されていない。特定の実施形態の個々の要素または特徴は、一般に、その特定の実施形態に限定されず、適用可能な場合には、交換可能であり、具体的に示されず記載もされていない場合であっても、選択された実施形態で使用することができる。また、同じものを様々な方法で変化させることもできる。そのような変形は、本開示からの逸脱とみなされず、そのようなすべての変更は、本開示の範囲内に含まれることが意図されている。
【0128】
図2、3、6、および7のフローチャートは、自律ユニット101a、101b、および101c、G-SRMCD110a、110b、および110c、RMCC109、およびAIシステム100の一部の実装の機能および動作を示すものである。ソフトウェアで具現化される場合、各ブロックは、指定された論理機能を実装するためのプログラム命令を含むコードのモジュール、セグメント、または部分を表し得る。プログラム命令は、プログラミング言語で書かれた人間が読めるステートメントを含むソースコード、または、コンピュータシステム、組み込まれたシステム、その他のシステムにおけるG-SRMCD110a、110b、110c、RMCC130などの適切な実行システムによって認識可能な数値命令を含むマシンコードの形で具現化されてもよい。マシンコードは、ソースコード等から変換してもよい。ハードウェアで具現化される場合、各ブロックは、指定された論理機能を実装するための回路または相互接続された多数の回路を表し得る。
【0129】
図2、3、6、および7のフローチャートは、特定の実行順序を示しているが、実行順序は描かれているものとは異なる場合があることを理解されたい。例えば、2つ以上のブロックの実行順序は、示された順序に対してスクランブルされてもよい。また、
図2、3、6、および7に連続して示されている2つ以上のブロックは、同時に実行されてもよいし、部分的に一致して実行されてもよい。さらに、いくつかの実施形態では、
図2、3、6、および7に示されたブロックの1つまたは複数はスキップまたは省略されてもよい。さらに、実用性の向上、アカウンティング、パフォーマンス測定、またはトラブルシューティング補助の提供等の目的で、任意の数のカウンタ、状態変数、警告セマフォ、またはメッセージが、本明細書に記載された論理フローに追加される可能性がある。このようなすべての変形は、本開示の範囲内であることが理解される。
【0130】
また、RMCC130内のAIシステムアプリケーションおよび/またはアプリケーション550を含む、ソフトウェアまたはコードを含む本明細書に記載された任意の論理またはアプリケーションは、コンピュータシステム、組み込みシステムまたはその他のシステム内の、例えばホスト計算モジュール510またはRMCC130などの命令実行システムによって、または命令実行システムに関連して使用するために、任意の非一時的なコンピュータ可読媒体に具現化することができる。この意味で、論理は、例えば、コンピュータ可読媒体からフェッチされ、命令実行システムによって実行されることができる命令および宣言を含むステートメントを含み得る。本開示の文脈では、「コンピュータ可読媒体」は、命令実行システムによる使用のために、または命令実行システムに関連して、本明細書に記載された論理またはアプリケーションを含み、保存し、または維持することができる任意の媒体であり得る。コンピュータ可読媒体は、例えば、磁気媒体、光学媒体、または半導体媒体などの多くの物理的媒体のいずれか1つを含むことができる。適切なコンピュータ可読媒体のより具体的な例としては、磁気テープ、磁気フロッピーディスク、磁気ハードドライブ、メモリカード、ソリッドステートドライブ、USBフラッシュドライブ、または光ディスクが挙げられるが、これらに限定されるものではない。また、コンピュータ可読媒体は、例えば、SRAM(static random access memory)、およびDRAM(dynamic random access memory)、またはMRAM(magnetic random access memory)を含むランダムアクセスメモリ(RAM)であり得る。さらに、コンピュータ可読媒体は、リードオンリーメモリ(ROM)、PROM(programmable read-only memory)、EPROM(erasable programmable read-only memory)、EEPROM(electrically erasable programmable read-only memory)、セキュアデジタルカード(SD)、または他のタイプのメモリデバイスであり得る。
【0131】
本明細書で使用されている言語は、主に読みやすさと説明目的のために選択されたものであり、本発明的主題を画定または周到に説明するために選択されたものではないかもしれない。したがって、本発明の範囲は、この発明を実施するための形態によってではなく、むしろ本明細書に基づく本出願において発行される請求項によって限定されることが意図されている。したがって、本発明の実施形態の開示は、本発明の範囲を例示するものであって、限定するものではないことが意図されている。
【0132】
少なくとも来たる例示的な実施形態において、例示的に開示された装置は、少なくとも1つの処理装置を含む自律ユニット遠隔監視制御センター(RMCC)装置であり得、RMCCは以下のことを行うようにプログラムされ、構成される:RMCCから遠隔操作されている、独立して管理されている複数の自律ユニット(車両、ロボット、またはドローン)に設置された複数のG-SRMCD(Generic Smart Remote Monitor and Control Device)によって処理されたセンサデータ、メタデータ、ビデオおよびオーディオストリームを受信することであって、センサデータは、RMCCの管理下で動作していない自律ユニットのデータを含む、受信すること、RMCCから遠隔地にある複数の独立して支配された自律ユニットのインシデントリスクレベルを決定するステップであって、インシデントリスクレベルは、複数の自律ユニットにまたがって設置された複数のG-SRMCDによってキャプチャされた受信した融合画像センサデータおよびメタデータに応じて訓練された人工知能に基づいて決定され、およびインシデントリスクレベルは、1つの自律ユニットからキャプチャされた画像センサデータによって視覚的にエンコードされた物体が、少なくとも別の自律ユニットにとって関心事であるかどうかを決定する基準に基づいて決定される、決定するステップ、および、インシデントリスクレベルを所定の安全リスクレベル閾値と比較する関数として計算されたインシデントリスクマージンを決定することであって、安全リスクレベル閾値は、テストG-SRMCDによってキャプチャされた過去のトレーニングデータに応じて構成された人工知能によって事前に決定される、決定すること。同様にRMCCは、以下のことを行うようにプログラムされ、構成され得る:インシデントリスクマージンが所定の安全最小リスクマージンよりも小さいという判定に応答して、所定の安全最小リスクマージンよりも小さいインシデントリスクマージンで動作する複数の自律ユニットのうちの1つまたは複数を制御すること、複数の自律ユニットのうちの少なくとも1つの自律ユニットの速度ベクトルを変更することに基づいて、少なくとも2つの自律ユニット間の分離距離を増加させるように、複数の自律ユニットの動作を制御することに基づいて、自律ユニットの安全なインシデントリスクレベルを回復すること、インシデントリスクを所定の安全最小リスクマージンと比較することに基づいて、インシデントリスクが安全なレベルに回復したという判断に応答して、複数の自律ユニットのうちの1つまたは複数の自律ユニットに制御を戻すこと、インシデントリスクマージンが所定の安全最小リスクマージンと同等以上であるという判断に応答して、インシデントリスクレベルが安全であると判断すること。同様にRMCCは、以下のことを行うようにプログラムされ、構成され得る:複数の分散型G-SRMCDから受信した情報に基づいてインシデントの存在を決定することに応答して、インシデントに関与する自律ユニット、乗客、歩行者、動物、および物体、ならびにG-SRMCDから受信した情報に基づいてインシデントに関与する自律ユニット、乗客、歩行者、動物、および物体の負傷および損害の性質を判断すること、自律ユニットがインシデントの発生した場所から第2の場所に自律的に安全に移動できるかどうかを判断すること、自律ユニットを第2の場所に自律的に安全に移動できるという判断に応答して、自律ユニットを第2の場所に移動させ、自律ユニットを駐車すること。例示的に開示された装置は、インシデントリスクレベルが安全であるという判断に応答して、RMCCモニタに人間が見ることができる緑色の指標を表示するようにプログラムおよび構成されたRMCCをさらに含み得る。また、例示的に開示された装置は、インシデントリスクレベルが危険であるという判断に応答して、RMCCモニタに人間が見ることができる黄色の指標を表示するようにプログラムおよび構成されたRMCCを含み得る。例示的に開示された装置は、さらに、インシデントリスクレベルが安全でないという判断に応答して、RMCCモニタに人間が見ることができる赤色の指標を表示するようにプログラムおよび構成されたRMCCを含み得る。
【0133】
少なくともいくつかの例示的な開示された実施形態では、例示的な開示された装置および関連する方法は、コントローラから遠隔地にある複数の独立して支配される自律ユニット(例えば、車両、ロボット、およびドローン)のインシデントリスクレベルを同時に監視するようにコントローラを構成すること、1つまたは複数のユニットの安全でないインシデントリスクレベルがコントローラによって決定されたことに応答して、安全なインシデントリスクレベルに回復するために、安全でないインシデントリスクレベルを有する1つまたは複数の自律ユニットを制御すること、および、インシデントリスクが安全なレベルに回復したという判断に応答して、自律ユニットに制御を戻すことに関する。例示的な例では、インシデントリスクは、複数のユニット全体に設置されたG-SRMCD(Generic Smart Remote Monitor and Control Device)からのデータに基づいて、複数のユニットのそれぞれについて個別に、およびグループとして決定されてもよい。複数のユニットからのセンサデータは、自律ユニットのグループに対する正確なインシデントリスクの決定を可能にするように融合されてもよい。いくつかの例では、安全対策は、人工知能によって個々の自律ユニット、または車両、ロボット、ドローンのグループに的を絞られて、車両、ロボット、ドローン間の離隔を広げること、または車両速度を下げることに基づいて、インシデントリスクを安全なレベルに低減することができる。G-SRMCDは、自律ユニットからセンサデータを収集し得、人工知能の手法を用いて、自律ユニットが支援を受けるべきか、遠隔操作されるべきかを判断し、インシデントリスクレベルを更新するためのメタデータを遠隔制御オペレータに通知する。G-SRMCDは、インシデントリスクレベルが低い場合、またはG-SRMCDが、自律ユニットが緊急の支援を受けるべきであると検出した場合に、自律ユニットの遠隔制御をコントローラに提供することができる。
【0134】
少なくともいくつかの例示的に開示された実施形態では、例示的に開示されたG-SRMCDは、自律ユニットが支援を必要とする可能性があるときに、行き詰まった状況を予測および検出し得る。例示的に開示されたG-SRMCDは、インシデントを検出し、遠隔監視制御センター(RMCC)に報告することができる。例示的に開示されているG-SRMCDは、GPSデータを含む独自の遠隔測定を収集し、自律ユニットのあらゆる問題をRMCCに報告することができる。例示的に開示されたG-SRMCDは、自律ユニットが通常支援を必要とするタイミングを学習し、その特定のイベントを検出してRMCCに報告し得る。例示的に開示されているG-SRMCDは、速度制限標識、スクールゾーンを検出し、自律ユニットが交通規則に従っているかどうかを検証し、そうでない場合はRMCCに通知する。例示的に開示されたG-SRMCDは、自律ユニットが支援を受けている状況を記録し、遠隔測定データ、センサデータ、音声およびビデオは収集され、自律ユニットのメーカーと共有される。例示的に開示されたG-SRMCDは、タッチスクリーンおよびRMCCエージェントとビデオ通話できることなど、車両の乗客に複数のサービスを提供することができ、インタラクティブなアプリケーションおよびWi-Fiアクセスを提供することができる。乗員インターフェースには、パニックボタンまたは緊急ボタンを設けることもできる。例示的に開示されたG-SRMCDは、特に商品を配送する際に人間の対話が必要な場合に自律ユニットを支援することができる。例えば、自律ユニットは、守衛係、自動化キオスク、および/または別の当事者または装置と話をし得る。例示的に開示されたG-SRMCDは、目的地に到達しようとしているときに、遠隔支援を要求することができる(例えば、ユニットが商品を配送するのを支援するため、および車道を降りる必要がある場合)。例示的に開示されたG-SRMCDは、主に、LTEまたは5Gセルラーネットワーク規格のいずれかを採用した商業的な公共または民間のモバイルデータネットワークのいずれかを使用して、RMCCに高帯域幅のビデオストリームを低遅延で提供(例えば、実質的に保証)することによって、音声およびビデオを配信し得る。例示的に開示されたG-SRMCDは、スマートインシデント防止システム(SIPS)、スマートインシデント報告システム(SIRS)、インシデントリスクレベル予測(IRLP)など、イベントを予測してRMCCに報告することに特化した複数のAIアプリケーションを含み得る。例示的なG-SRMCDは、機器との代替通信手段として、SMSモジュールを含み得る。テキストコマンドは、システムが診断し、G-SRMCD内の任意のモジュールからレポートを取得することを可能にする。さらに、テキストコマンドは、アクションを要求したり、G-SRMCDの任意のモジュール内の機能を有効化または無効化したりすることができる。例示的に開示されたG-SRMCDは、プライベートLTEネットワークまたは5Gネットワークを使用して、RMCCへの高帯域ビデオストリームを低遅延で保証するように設計および最適化することができる。
【0135】
少なくともいくつかの例示的な開示された実施形態では、例示的な開示されたAIアプリケーションは、道路の制限速度標識を読み取り、スクールゾーンの点滅信号を検出し得る。自律ユニットが制限速度を超えた場合、RMCCに直ちに通知することができる。
【0136】
少なくともいくつかの例示的な開示された実施形態では、例示的な開示されたG-SRMCDは、利用可能なソフトウェア更新があるかどうかを検証し、自律ユニットが動作していないときにそれらをインストールし得る。例示的に開示されたG-SRMCDは、複数のプロトコルを介してSMSを送受信し得る。SMSモジュールは、テキストコマンドを受信することができる(例えば、これは、G-SRMCDへの通信の代替手段であり得る)。このモジュールは、G-SRMCDの各モジュール上でのタスクの実行、例えば、トラブルシューティングルーチンの実行、モジュールレポートの作成および送信、機能の有効化または無効化、モジュールのシャットダウンまたはスタートアップの要求、オペレーティングシステムコマンドの実行、および/またはモジュール統計の送信を可能にし得る。例示的に開示されたG-SRMCDは、ビデオ呼び出しを介して離れたエージェントと通信するためのタッチスクリーン、緊急事態の報告、および/またはタッチスクリーンもしくはWi-Fiサービス上での情報の表示などの乗員サービスを提供し得る。Wi-Fiサービスを介して他のサービスを提供することもできる。例示的に開示されたG-SRMCDは、例えば商品を配送する場合など、人間同士の対話が必要な場合に自律ユニットを支援し得る。自律ユニットは、守衛係、自動化キオスク、および/または他のデバイスまたは個人と会話し得る。例示的に開示されたG-SRMCDは、自身の電源を提供し得る。例示的に開示されたG-SRMCDは、自律ユニット内の温度および湿度レベルをキャプチャし得る(例えば、この情報は、G-SRMCDがその動作条件内にあるかどうか、および、乗客がいる場合には、その乗客が快適な環境にいるかどうかを判断するのに役立ち得る。例示的に開示されたG-SRMCDは、自律ユニットが支援を受けることになる条件、および/または、遠隔測定データ、センサデータ、音声およびビデオが収集され、自律ユニットメーカーと共有されることになる条件を記録し得る。例示的に開示されたG-SRMCDは、RMCCに転送されるデータを最小限にし得るプライベートLTEネットワークにより、また、G-SRMCDの処理能力を向上させることにより、音声およびビデオを比較的迅速に(例えば、はるかにより速く)RMCCに配信し得る。
【0137】
少なくともいくつかの例示的に開示された実施形態では、例示的に開示されたG-SRMCDのAIアプリケーションは、事故の報告に加えて、事故を防止するように設計されてもよい。G-SRMCDは、コンピュータビジョンアルゴリズムを使用して、自律ユニットが事故を防止するために遠隔操作を必要とする場合に、RMCCに報告し得る。例示的に開示されたG-SRMCDは、事故が起こりそうな場合、または潜在的な事故を回避するために、直ちに行動を起こすように自律ユニットに指示し得る(例えば、少なくともいくつかの例示的な実施形態では、これにより、RMCCにセンサデータを送信するよりも迅速な意思決定プロセスが提供され得る)。例示的に開示されたG-SRMCDは、SMSを使用した代替的な通信技術を有し得、これにより、冗長性およびG-SRMCDとの容易な通信チャネルが追加され得る。例示的に開示されたG-SRMCDは、遠隔制御オペレータと話したり、助けを求めたりする可能性を提供することによって、自律走行車に「人間味」を加え得る。G-SRMCDのタッチスクリーンを使用することによって、緊急サービスを要請する代替方法を提供することができる。例示的に開示されたG-SRMCDは、Wi-Fiサービスを提供し得、これは、車両の乗客がインターネットに接続できる前に、広告オプションの機会を提供し得る。例示的に開示されたG-SRMCDは、守衛係または自動化キオスクと対話する方法を提供するので、自律型配送装置の機能を拡張し得る。例示的に開示されたG-SRMCDは、独自のバッテリ電力を提供し得、これにより、自律ユニットのバッテリの消費が回避され得る(例えば、電気自動車の性能が向上され得る)。
【0138】
少なくともいくつかの例示的な開示された実施形態では、例示的な開示されたシステムは、不揮発性メモリに格納されたコンピュータ実行可能コードを含む制御モジュールと、プロセッサと、制御センター装置(例えば、RMCC)と、制御センター装置から遠隔で動作する複数の自律装置とを含み、複数の自律装置のそれぞれは、制御装置(例えば、G-SRMCD)を含む。制御モジュール、プロセッサ、制御センター装置、および制御装置は、複数の自律装置のそれぞれに配置された1つまたは複数の収集装置を使用してデータを収集し、複数の自律装置に配置された制御装置を使用して収集されたデータを処理し、複数の自律装置が制御センター装置による制御を受けずに自律的に動作しているときに、制御装置から制御センター装置に処理されたデータを転送し、制御装置から転送された処理済みデータに応じて人工知能を訓練し、人工知能に基づいて、制御センター装置による制御なしに動作する複数の自律装置のインシデントリスクレベルを決定し、インシデントリスクレベルに基づいて、複数の自律装置のうちの少なくとも1つを制御するように構成することができる。複数の自律装置は、車両、ロボット、およびドローンからなる群から選択することができる。複数の自律装置のそれぞれに配置された1つまたは複数の収集装置は、センサおよび撮像装置からなる群から選択することができる。制御装置から制御センター装置への処理済みデータの転送は、センサデータ、メタデータ、ビデオデータ、および音声データのストリーミングを含み得る。インシデントリスクレベルは、自律装置の1つに配置された制御装置の1つによって転送された処理済みデータの画像センサデータによって視覚的に符号化された物体が、自律装置の少なくとも別の装置の動作に影響を与えるかどうかを判断する基準に基づいて決定されてもよい。制御モジュール、プロセッサ、制御センター装置、および制御装置は、インシデントリスクレベルを所定の安全リスクレベル閾値と比較することに基づいて、インシデントリスクマージンを決定するようにさらに構成されてもよい。所定の安全リスクレベル閾値は、人工知能が、テスト制御装置によってキャプチャされた過去のトレーニングデータに応じて構成されることによって、事前に決定されてもよい。制御モジュール、プロセッサ、制御センター装置、および制御装置は、インシデントリスクマージンが所定の安全最小リスクマージンよりも小さいという決定に応答して、制御センター装置から1つまたは複数の制御装置にデータを転送することによって、所定の安全最小リスクマージンよりも小さいインシデントリスクマージンで動作し得る、複数の自律装置のうちの少なくとも1つを制御し、複数の自律装置のうちの少なくとも1つの動作を制御することによって、複数の自律装置のうちの少なくとも1つの速度ベクトルを変化させることにより、複数の自律装置のうちの2つ以上の間の分離距離を増加させるようにさらに構成することができる。制御モジュール、プロセッサ、制御センター装置、および制御装置は、複数の自律装置のうちの少なくとも1つの動作を制御することに基づいて、複数の自律装置の安全インシデントリスクレベルを復元し、複数の自律装置の安全インシデントリスクレベルが復元されたときに、複数の自律装置のうちの少なくとも1つに制御を戻すようにさらに構成することができる。安全インシデントリスクレベルを復元することは、インシデントリスクを所定の安全最小リスクマージンと比較することに基づいて、安全インシデントリスクレベルを決定することを含み得る。制御モジュール、プロセッサ、制御センター装置、および制御装置は、インシデントリスクマージンが所定の安全最小リスクマージンと等しいか、またはそれよりも大きいという判定に応答して、インシデントリスクレベルが安全であると判定するようにさらに構成することができる。
【0139】
少なくともいくつかの例示的な開示された実施形態において、例示的な開示された方法は、制御センター装置(例えば、RMCC)を提供することと、制御センター装置から遠隔で動作する複数の自律装置を提供することであって、複数の自律装置のそれぞれが制御装置(例えば、G-SRMCD)を含む、提供することと、複数の自律装置のそれぞれに配置された1つまたは複数の収集装置を使用してデータを収集することと、複数の自律装置に配置された制御装置を使用して収集されたデータを処理することと、複数の自律装置が制御センター装置による制御なしに自律的に動作しているときに、制御装置から制御センター装置に処理済みデータを転送することと、を含み得る。例示的に開示された方法はまた、制御装置から転送された処理済みデータに応じて人工知能を訓練することと、人工知能に基づいて、制御センター装置による制御なしで動作する複数の自律装置のインシデントリスクレベルを決定することと、インシデントリスクレベルに基づいて、複数の自律装置のうちの少なくとも1つを制御することとを含み得る。例示的な開示された方法は、処理済みデータに応じて訓練された人工知能に基づいてインシデントを特定することに応答して、制御装置からの処理済みデータに基づいて、インシデントに関与する1つまたは複数のアイテム、および1つまたは複数のアイテムの損傷の性質を決定することをさらに含み得る。例示的に開示された方法は、人工知能に基づいて、インシデントが発生した第1の場所から第2の場所に自律装置が自律的に安全に移動可能であるかどうかを判断することと、自律装置が自律的に第1の場所から第2の場所に安全に移動可能であると判断された場合に、自律装置を自律的に第1の場所から第2の場所に自律的に移動させることとをさらに含み得る。1つまたは複数のアイテムは、自律装置、乗客、歩行者、動物、物理的物体、およびそれらの組み合わせの群から選択された少なくとも1つを含み得る。例示的に開示された方法はまた、インシデントリスクレベルが安全であるときに制御センター装置のユーザインターフェース上に第1の表示を表示すること、インシデントリスクレベルが危険であるときに制御センター装置のユーザインターフェース上に第2の表示を表示すること、およびインシデントリスクレベルが安全でないときに制御センター装置のユーザインターフェース上に第3の表示を表示することを含み得る。第1の表示は、人間が見ることができる緑色の表示であり得る。第2の表示は、人間が見ることができる黄色の表示であり得る。第3の表示は、人間が見ることができる赤色の表示であり得る。処理済みデータは、LTEまたは5G規格のいずれかを利用する商業用のパブリックまたはプライベートのモバイルデータネットワークを介して、制御装置から制御センター装置に転送される。処理済みデータは、高帯域の音声およびビデオストリームを含み得る。
【0140】
少なくともいくつかの例示的な開示された実施形態では、例示的な開示されたシステムは、不揮発性メモリに格納されたコンピュータ実行可能コードを含む制御モジュールと、プロセッサと、制御センター装置(例えば、RMCC)と、制御センター装置から遠隔で動作する複数の自律装置とを含み得、複数の自律装置のそれぞれは、制御装置(例えば、G-SRMCD)を含む。制御モジュール、プロセッサ、制御センター装置、および制御装置は、複数の自律装置のそれぞれに配置されたセンサまたは撮像装置を使用してデータを収集し、複数の自律装置に配置された制御装置のそれぞれを使用して収集されたデータを処理し、複数の自律装置が制御センター装置による制御なしに自律的に動作しているときに、制御装置のそれぞれから処理済みデータを制御センター装置に転送し、制御装置のそれぞれから転送された処理済みデータに応じて人工知能を訓練し、人工知能に基づいて、制御センター装置による制御なしで動作している複数の自律装置のインシデントリスクレベルを決定し、インシデントリスクレベルに基づいて複数の自律装置の少なくとも1つを制御し、インシデントリスクレベルと所定の安全リスクレベル閾値との比較に基づいてインシデントリスクマージンを決定し、制御センター装置から1つまたは複数の制御装置にデータを転送することによって、所定の安全最小リスクマージンよりも小さいインシデントリスクマージンで動作している複数の自律装置の少なくとも1つを制御するように構成することができる。制御モジュール、プロセッサ、制御センター装置、および制御装置は、複数の自律装置のうちの少なくとも1つの自律装置の動作を制御することによって、複数の自律装置のうちの少なくとも1つの速度ベクトルを変化させることにより、複数の自律装置のうちの2つ以上の間の分離距離を増加させるようにさらに構成することができる。制御装置のそれぞれは、収集されたデータを継続的に収集、処理、および分析して処理済みデータを生成し、制御装置モジュールのコンピュータビジョンプログラムを使用して自律装置の近くの物体および環境を認識するように構成された人工知能層を有する制御装置モジュール(例えば、ホスト計算モジュール510)を含み得る。
【0141】
例示的に開示されたシステムおよび方法は、車両の遠隔監視のための任意の適切なアプリケーションで使用することができる。例えば、例示的に開示されたシステムおよび方法は、自律走行車、ロボット、および/またはドローンの遠隔監視のための任意の適切なアプリケーションで使用することができる。
【0142】
例示的に開示されたシステムおよび方法は、車両の遠隔監視のための効率的かつ効果的な技術を提供し得る。また、例示的に開示されたシステムおよび方法は、潜在的な人工知能の倫理的ジレンマを低減または実質的に排除し得る。例示的に開示されたシステムおよび方法は、複数の独立した自律ユニットを監視し、独立した自律ユニットの1つまたは複数の制御を行なってユニットの動作を支配し、安全な動作が復元されたときに1つまたは複数の独立した自律ユニットに制御を戻すことを提供し得る。
【0143】
本開示のシステムの実施形態で使用するのに適切なコンピューティングデバイスの例示的な表現が、
図8に示されている。コンピューティングデバイス1100は、一般的に、中央処理装置(CPU、1101)、グラフィックス処理装置(GPU)を含む任意選択のさらなる処理装置、ランダムアクセスメモリ(RAM、1102)、マザーボード1103、または代替的/追加的に記憶媒体(例えば、ハードディスクドライブ、ソリッドステートドライブ、フラッシュメモリ、クラウドストレージ)、オペレーティングシステム(OS、1104)、1つまたは複数のアプリケーションソフトウェア1105、表示要素1106、および1つまたは複数の通信インターフェース(例えば、RS232、イーサネット、Wi-Fi、Bluetooth、USB)を含む1つまたは複数の入力/出力デバイス/手段1107から構成されることができる。有用な例としては、パーソナルコンピュータ、スマートフォン、ラップトップ、モバイルコンピューティングデバイス、タブレットPC、およびサーバが挙げられるが、これらに限定されない。複数のコンピューティングデバイスは、クラスタ化されたコンピューティングデバイスおよびサーバーバンク/ファームなど、1つまたは複数のリソースを分散して共有するような方法で、コンピュータネットワークを形成するために動作可能にリンクさせることができる。
【0144】
本開示の実施形態に適したそのような汎用マルチユニットコンピュータネットワークの様々な例、それらの典型的な構成、および多くの標準化された通信リンクは、より詳細に説明されるように、および以下で考察される
図9によって示されるように、当業者によく知られている。
【0145】
本開示の例示的な実施形態によれば、データは、ローカルエリアネットワーク(LAN)(例えば、オフィスネットワーク、ホームネットワーク)またはワイドエリアネットワーク(WAN)(例えば、インターネット)を介して、システムに転送され、システムによって記憶され、および/またはシステムによってシステムのユーザに転送されてもよい。先の実施形態によれば、システムは、1つまたは複数のLANおよび/またはWANを介して通信可能に接続された多数のサーバから構成されてもよい。当業者であれば、システムが構成され得る多数の方法があり、本開示の実施形態が任意の構成で使用されることが企図されていることを理解するであろう。
【0146】
一般に、本明細書で提供されるシステムおよび方法は、ネットワークに接続されているか否かにかかわらず、コンピューティングデバイスのユーザによって採用されることができる。同様に、本明細書で提供される方法のいくつかのステップは、接続されているかどうかにかかわらず、システムのコンポーネントおよびモジュールによって実行されてもよい。そのようなコンポーネント/モジュールがオフラインである間、それらが生成したデータは、オフラインのコンポーネント/モジュールがネットワークの残りの部分(またはその関連部分)と再びオンライン状態になると、システムの関連する他の部分に転送される。本開示の一実施形態によれば、本開示のアプリケーションの一部は、ネットワークに接続されていないときにはアクセスできないかもしれないが、ユーザまたはシステム自体のモジュール/コンポーネントは、ユーザ/オフラインのシステムコンポーネントまたはモジュールが後でシステムネットワークに接続されたときに、システムまたはその他のコンポーネントによって消費されるデータを、システムの残りの部分からオフラインで構成することができるかもしれない。
【0147】
図9を参照すると、本開示の実施形態によるシステムの概略的な概要が示されている。システムは、システムで使用される情報を電子的に格納するための1つまたは複数のアプリケーションサーバ1203から構成される。サーバ1203内のアプリケーションは、記憶装置内の情報を取得して操作し、WAN1201(例えば、インターネット)を介して情報を交換してもよい。また、サーバ1203内のアプリケーションは、遠隔地に保存された情報を操作し、WAN1201(例えば、インターネット)の全域で遠隔地に保存されたデータを処理および分析するために使用されてもよい。
【0148】
例示的な実施形態によれば、
図9に示すように、WAN1201または他のネットワークを介した情報の交換は、1つまたは複数の高速接続を介して行われ得る。場合によっては、高速接続は、OTA(Over-the-Air)であり得るか、ネットワーク化されたシステムを介して送られるか、1つまたは複数のWAN1201に直接接続されるか、または1つまたは複数のルータ1202を介して方向付けられてもよい。ルータ1202は完全に任意であり、本開示による他の実施形態は、1つまたは複数のルータ1202を利用してもしなくてもよい。当業者であれば、サーバ1203が情報交換のためにWAN1201に接続し得る多数の方法があり、本開示の実施形態は、情報交換の目的でネットワークに接続するための任意の方法で使用することが企図されていることを理解するであろう。さらに、本出願は高速接続に言及しているが、本開示の実施形態は、任意の速度の接続で利用されてもよい。
【0149】
システムのコンポーネントまたはモジュールは、多数の方法で、WAN1201または他のネットワークを介してサーバ1203に接続してもよい。例えば、コンポーネントまたはモジュールは、i)WAN1201に直接接続されたコンピューティングデバイス1212を介して、ii)ルーティングデバイス1204を介してWAN1201に接続されたコンピューティングデバイス1205、1206を介して、iii)ワイヤレスアクセスポイント1207に接続されたコンピューティングデバイス1208、1209、1210を介して、またはiv)WAN1201への無線接続(例えば、CDMA、GMS、3G、4G、5G)を介してコンピューティングデバイス1211を介して、システムに接続し得る。当業者であれば、コンポーネントまたはモジュールがWAN1201または他のネットワークを介してサーバ1203に接続し得る数多くの方法があり、本開示の実施形態は、WAN1201または他のネットワークを介してサーバ1203に接続するための任意の方法で使用することが企図されていることを理解するであろう。さらに、サーバ1203は、他のコンピューティングデバイスが接続するためのホストとして機能する、スマートフォンなどのパーソナルコンピューティングデバイスから構成され得る。
【0150】
システムの通信手段は、1つまたは複数のネットワークを介して、またはシステムに取り付けられた1つまたは複数の周辺機器に、またはシステムモジュールもしくはコンポーネントに、画像およびビデオを含むデータを通信するための任意の手段であり得る。適切な通信手段には、無線接続、有線接続、セルラー接続、データポート接続、Bluetooth(登録商標)接続、近距離無線通信(NFC)接続、またはそれらの任意の組み合わせが含まれるが、これらに限定されない。当業者であれば、本開示の実施形態で利用することができる多数の通信手段があり、本開示の実施形態は、任意の通信手段で使用することが企図されていることを理解するであろう。
【0151】
伝統的に、コンピュータプログラムは、計算命令またはプログラム命令の有限のシーケンスを含む。プログラマブル装置またはコンピューティングデバイスは、そのようなコンピュータプログラムを受け取り、その計算命令を処理することによって、技術的効果を生み出すことができることが理解されるであろう。
【0152】
プログラマブル装置またはコンピューティングデバイスは、1つまたは複数のマイクロプロセッサ、マイクロコントローラ、組み込まれたマイクロコントローラ、プログラマブルデジタルシグナルプロセッサ、プログラマブルデバイス、プログラマブルゲートアレイ、プログラマブルアレイロジック、メモリデバイス、特定用途向け集積回路などを含み、これらは、コンピュータプログラム命令を処理する、コンピュータロジックを実行する、コンピュータデータを格納するなどのために好適に採用または構成することができる。本開示などを通じて、コンピューティングデバイスは、少なくとも1つの汎用コンピュータ、特殊目的コンピュータ、プログラマブルデータ処理装置、プロセッサ、プロセッサアーキテクチャなどのありとあらゆる適切な組み合わせを含むことができる。コンピューティングデバイスは、コンピュータ可読記憶媒体を含むことができ、この媒体は、内部または外部の、取り外し可能で交換可能なもの、または固定されたものである可能性があることが理解されよう。また、コンピューティングデバイスは、基本入出力システム(BIOS)、ファームウェア、オペレーティングシステム、データベースなどを含むことができ、これらは、本明細書に記載されているソフトウェアおよびハードウェアを含み、それらとインターフェースし、またはそれらをサポートすることができることも理解されるであろう。
【0153】
本明細書に記載のシステムの実施形態は、従来のコンピュータプログラムを含むアプリケーションおよびそれを実行するプログラマブル装置に限定されない。例えば、本明細書で特許請求される本開示の実施形態は、光学コンピュータ、量子コンピュータ、アナログコンピュータなどを含み得ることが企図される。
【0154】
関係するコンピュータプログラムまたはコンピューティングデバイスのタイプにかかわらず、コンピュータプログラムをコンピューティングデバイスにロードして、描かれた機能のすべてを実行することができる特定のマシンを作り出すことができる。この特定のマシン(またはそのネットワーク化された構成)は、描かれた機能のすべてを実行するための技術を提供する。
【0155】
1つまたは複数のコンピュータ可読媒体の任意の組み合わせを利用することができる。コンピュータ可読媒体は、コンピュータ可読信号媒体またはコンピュータ可読記憶媒体であり得る。コンピュータ可読記憶媒体は、例えば、電子的、磁気的、光学的、電磁的、赤外線的、または半導体システム、装置、もしくはデバイス、またはこれらの任意の適切な組み合わせであり得るが、これらに限定されない。コンピュータ可読記憶媒体の例としては、1本以上のワイヤを有する電気接続部、ポータブルコンピュータディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリーメモリ(ROM)、消去可能プログラマブルリードオンリーメモリ(EPROMまたはフラッシュメモリ)、光ファイバ、ポータブルコンパクトディスクリードオンリーメモリ(CD-ROM)、光記憶装置、磁気記憶装置、またはこれらの任意の適切な組み合わせが挙げられ得る。本文書の文脈において、コンピュータ可読記憶媒体は、命令実行システム、装置、またはデバイスによる、またはそれらに関連する使用のためのプログラムを含む、または保存することができる任意の有形媒体であり得る。
【0156】
データストアは、データベース、ファイルストレージシステム、リレーショナルデータストレージシステム、またはデータを格納するように構成された任意の他のデータシステムまたは構造のうちの1つまたは複数から構成されてもよい。データストアは、データを受け取り、処理し、格納するためのリレーショナルデータベース管理システム(RDBMS)と連携して動作するリレーショナルデータベースであり得る。データストアは、移動情報および推定情報の処理に関連する情報を格納するための1つまたは複数のデータベース、ならびに移動情報および推定情報の格納および検索のために構成された1つまたは複数のデータベースを含み得る。
【0157】
コンピュータプログラム命令は、コンピュータまたは他のプログラム可能なデータ処理装置に特定の方法で機能するように指示することができるコンピュータ可読メモリに格納することができる。コンピュータ可読メモリに格納された命令は、描かれた機能のすべてを実施するためのコンピュータ可読命令を含む製造品を構成する。
【0158】
コンピュータ可読信号媒体は、例えば、ベースバンドで、または搬送波の一部として、その中にコンピュータ可読プログラムコードが具現化された伝搬データ信号を含み得る。そのような伝搬信号は、電磁的、光学的、またはそれらの任意の適切な組み合わせを含むがこれらに限定されない、様々な形態のいずれかを取り得る。コンピュータ可読信号媒体は、コンピュータ可読記憶媒体ではなく、命令実行システム、装置、またはデバイスによるまたはそれらに関連した使用のためのプログラムを通信、伝播、またはトランスポートすることができるいずれかのコンピュータ可読媒体であり得る。
【0159】
コンピュータ可読媒体上に具現化されたプログラムコードは、無線、有線、光ファイバケーブル、RF、その他、または前述のものの任意の適切な組み合わせを含むがこれらに限定されない任意の適切な媒体を使用して伝送することができる。
【0160】
コンピュータプログラム命令は、コンピュータ実行可能コードを含み得ることが理解されるであろう。コンピュータプログラム命令を表現するための様々な言語が可能であり、これには限定されないが、C、C++、Java、JavaScript、アセンブリ言語、Lisp、HTML、Perlなどが含まれる。そのような言語には、アセンブリ言語、ハードウェア記述言語、データベースプログラミング言語、関数型プログラミング言語、命令型プログラミング言語などが含まれ得る。いくつかの実施形態では、コンピュータプログラム命令は、コンピューティングデバイス、プログラマブルデータ処理装置、プロセッサまたはプロセッサアーキテクチャの異種の組み合わせなどで実行するために、格納、コンパイル、または解釈することができる。限定されないが、本明細書に記載のシステムの実施形態は、クライアント/サーバソフトウェア、サービスとしてのソフトウェア、ピアツーピアソフトウェアなどを含む、ウェブベースのコンピュータソフトウェアの形態をとることができる。
【0161】
いくつかの実施形態では、コンピューティングデバイスは、複数のプログラムまたはスレッドを含むコンピュータプログラム命令の実行を可能にする。複数のプログラムまたはスレッドは、プロセッサの利用率を高め、実質的に同時の機能を容易にするために、多かれ少なかれ同時に処理されてもよい。実装の方法として、本明細書に記載されているすべての方法、プログラムコード、プログラム命令などは、1つまたは複数のスレッドに実装することができる。スレッドは、他のスレッドを生成することができ、これらのスレッドは、それ自体、関連する割り当てられた優先順位を持つことができる。いくつかの実施形態では、コンピューティングデバイスは、プログラムコードで提供される命令に基づいて、優先順位または他の任意の順序に基づいて、これらのスレッドを処理することができる。
【0162】
前述の図面および記載は、開示されたシステムの機能的側面を記載しているが、これらの機能的側面を実装するためのソフトウェアの特定の構成は、明示的に述べられていない限り、または文脈から明らかでない限り、これらの記載から推測されるべきではない。
【0163】
複数の実施形態が開示されているが、本開示のさらに他の実施形態は、この詳細な記載から当業者に明らかになるであろう。本明細書に記載されている選択肢は、例示のための例であり、選択肢を如何様にも限定するものではない。本発明のステップは、異なる順序で実行してもなお、望ましい結果を得ることができる。本明細書に記載された本発明に様々な変更および修正を加えることは、当業者にとって明らかであろう。これらの変形は、本明細書に記載されているものの範囲および趣旨から逸脱する範囲において、そこに包含されることが意図されている。当業者であれば、添付の特許請求の範囲によって包含される発明の範囲から逸脱することなく、その中で形態および細部における様々な変更を行うことができることが理解されるであろう。