IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ズークス インコーポレイテッドの特許一覧

特表2023-552338遠隔車両監視のためのユーザーインターフェース
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-12-15
(54)【発明の名称】遠隔車両監視のためのユーザーインターフェース
(51)【国際特許分類】
   G08G 1/09 20060101AFI20231208BHJP
   G06F 3/048 20130101ALI20231208BHJP
【FI】
G08G1/09 V
G06F3/048
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2023532572
(86)(22)【出願日】2021-11-09
(85)【翻訳文提出日】2023-05-29
(86)【国際出願番号】 US2021058648
(87)【国際公開番号】W WO2022115234
(87)【国際公開日】2022-06-02
(31)【優先権主張番号】17/107,570
(32)【優先日】2020-11-30
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】518156417
【氏名又は名称】ズークス インコーポレイテッド
(74)【代理人】
【識別番号】110001243
【氏名又は名称】弁理士法人谷・阿部特許事務所
(72)【発明者】
【氏名】オーヴァー セドリック オーストリア
(72)【発明者】
【氏名】ティモシー デイビッド ケントリー-クレイ
(72)【発明者】
【氏名】ジャニー ウィング ジィー ライ
(72)【発明者】
【氏名】フランク レイナルド ラミレス
(72)【発明者】
【氏名】デニス シェーファー
【テーマコード(参考)】
5E555
5H181
【Fターム(参考)】
5E555AA16
5E555BA02
5E555BB02
5E555BC01
5E555BC09
5E555BC14
5E555CB44
5E555CB74
5E555DB41
5E555FA00
5H181AA01
5H181BB04
5H181CC03
5H181CC04
5H181CC12
5H181CC14
5H181FF04
5H181FF13
5H181FF14
5H181FF22
5H181FF27
5H181FF32
5H181LL07
5H181LL08
5H181LL09
(57)【要約】
遠隔車両監視および/または制御のためのユーザーインターフェースを提供する技法は、ディスプレイの第1の部分に環境および環境を横切って進んでいる車両のデジタル表現を提示することと、ディスプレイの第2の部分に複数人との通信を提供するように構成される通信インターフェースを提示することとを含む。通信インターフェースは、リモートオペレーターと、車両のあらゆる数の乗員、他のオペレーター(例えば、他のリモートオペレーターまたは車内のオペレーター)、および/または車両の周りの環境における人との間の通信を可能にすることがある。さらに加えて、ユーザーインターフェースは、車両の構成要素を調節する制御を含むことがあり、制御は、ディスプレイの第3部分に提示されることがある。その上さらに、ユーザーインターフェースは、車両の現在の状態に関連付けられた情報を提供する車両状態インターフェースを含むことがある。
【特許請求の範囲】
【請求項1】
システムであって
1つまたは複数のプロセッサーと、
前記1つまたは複数のプロセッサーによって実行されると、前記システムに、
車両のフリートに関連付けられた情報をリモートオペレーターに提供するように構成されているユーザーインターフェースを、ディスプレイに提示することであって、前記ユーザーインターフェースは、
環境と前記環境を横切って進んでいる車両の前記フリートのうちの車両との表現、および
前記車両の乗員および別のリモートオペレーターとの通信を前記リモートオペレーターに提供するように構成された通信インターフェース
を含む、ことと、
前記通信インターフェースの第1の入力要素を介して、前記通信インターフェースの第1のチャットインターフェースが開かれることになることを示す第1のデータを受信することであって、前記第1のチャットインターフェースは、前記乗員と関連付けられる、ことと、
前記第1のデータを受信することに少なくとも部分的に基づいて、前記ディスプレイに前記第1のチャットインターフェースの提示を生じさせることと、
前記通信インターフェースの第2の入力要素を介して、前記乗員に送られることになる第1のメッセージを表す第2のデータを受信することと、
前記第1のメッセージが送られることになるというインディケーションを受信することに少なくとも部分的に基づいて、前記第1のメッセージに送られることを生じさせ、前記第1のチャットインターフェース内の前記ディスプレイに前記第1のメッセージを提示することと
を含む動作を行わせる命令を格納する1つまたは複数のコンピューター読取り可能媒体と
を備えたことを特徴とするシステム。
【請求項2】
前記動作は、
前記通信インターフェースの第3の入力要素を介して、第2のチャットインターフェースが開かれることになることを示す第3のデータを受信することであって、前記第2のチャットインターフェースは、他のリモートオペレーターと関連付けられる、ことと、
前記第3のデータを受信することに少なくとも部分的に基づいて、前記第1のチャットインターフェースの提示を抑制する間、前記ディスプレイに前記第2のチャットインターフェースの提示を生じさせることと、
前記通信インターフェースの前記第2の入力要素を介して、他のリモートオペレーターに送られることになる第2のメッセージを表す第4のデータを受信することと、
前記第2のメッセージが送られることになるというインディケーションを受信することに少なくとも部分的に基づいて、前記第2のチャットインターフェース内の前記ディスプレイに前記第2のメッセージを提示することと
をさらに含むことを特徴とする請求項1に記載のシステム。
【請求項3】
前記ユーザーインターフェースは、前記車両の構成要素またはシステムの制御を提供する車両制御インターフェースをさらに含み、前記動作は、
前記車両制御インターフェースの第1の入力要素を介して、前記車両の前記構成要素またはシステムが制御されることになることを示す第3のデータを受信することと、
前記車両に信号を送信することであって、前記信号は、前記車両に、前記車両制御インターフェースの前記第1の入力要素に従って前記構成要素を制御させるように構成される、ことと
をさらに含むことを特徴とする請求項1に記載のシステム。
【請求項4】
前記動作は、
ネットワークを介して、前記車両または前記車両の構成要素のうちの少なくとも1つに作動を行わせる要求を受信することと、
前記ユーザーインターフェースの入力要素を介して、前記車両または前記構成要素に前記作動を行わせる第3のデータを受信することと
をさらに含むことを特徴とする請求項1に記載のシステム。
【請求項5】
ディスプレイの第1の部分に、環境と前記環境を横切って進んでいる車両とのデジタル表現を提示することと、
前記ディスプレイの第2の部分に、第1の人との通信を提供するように構成されている通信インターフェースを提示することと、
前記通信インターフェースの第1の入力要素を介して、第1のチャットインターフェースが開かれることになることを示す第1のデータを受信することであって、前記第1のチャットインターフェースは、前記第1の人と関連付けられる、ことと、
前記第1のデータを受信することに少なくとも部分的に基づいて、前記ディスプレイに前記第1のチャットインターフェースを提示することと、
前記通信インターフェースの第2の入力要素を介して、送られることになる第1のメッセージを表す第2のデータを受信することと、
前記第1のメッセージが送られることになるというインディケーションを受信することに少なくとも部分的に基づいて、前記第1のメッセージに送られることを生じさせ、前記第1のチャットインターフェース内の前記ディスプレイに前記第1のメッセージを提示することと
を備えることを特徴とする方法。
【請求項6】
前記第1の人は、前記車両の乗員を含み、前記方法は、
前記通信インターフェース内に、前記第1のメッセージが聞こえるように通信されることになるかどうかを示すユーザー入力を受信するように構成された第3の入力要素を提示することと、
前記第3の入力要素を介して、前記第1のメッセージが聞こえるように通信されることになることを示す第3のデータを受信することと
をさらに備え、前記第1のメッセージに送られることを生じさせることは、前記第1のメッセージに、前記車両の内部において聞こえるように通信されることを生じさせることを含むことを特徴とする請求項5に記載の方法。
【請求項7】
前記第1の人は、前記車両の外部に最も近い歩行者を含み、前記方法は、
前記通信インターフェース内に、前記第1のメッセージが聞こえるように通信されることになるかどうかを示すユーザー入力を受信するように構成された第3の入力要素を提示することと、
前記第3の入力要素を介して、前記第1のメッセージが聞こえるように通信されることになることを示す第3のデータを受信することと
をさらに備え、前記第1のメッセージに送られることを生じさせることは、前記第1のメッセージに、前記車両の内部において聞こえるように通信されることを生じさせることを含むことを特徴とする請求項5に記載の方法。
【請求項8】
前記第2のデータは、前記第1のメッセージを表すテキストのストリングを含み、前記方法は、第3の入力要素を介して、前記第1のメッセージが聞こえるように通信されることになることを示す第3のデータを受信することをさらに備えることを特徴とする請求項5に記載の方法。
【請求項9】
前記第2のデータは、前記第1のメッセージを表すオーディオデータを含み、前記方法は、第3の入力要素を介して、前記第1のメッセージが聞こえるように通信されることになることを示す第3のデータを受信することをさらに備えることを特徴とする請求項5に記載の方法。
【請求項10】
前記第1の人は、前記車両の第1の乗員を含み、前記方法は、
前記通信インターフェースの第3の入力要素を介して、第3のデータを受信することと、
第2のチャットインターフェースが開かれることになることを示すことであって、前記第2のチャットインターフェースは、第2の乗員と関連付けられる、ことと、
前記第3のデータを受信することに少なくとも部分的に基づいて、前記ディスプレイに前記第2のチャットインターフェースを提示することと、
前記通信インターフェースの前記第2の入力要素を介して、送られることになる第2のメッセージを表す第4のデータを受信することと、
前記第2のメッセージが送られることになるというインディケーションを受信することに少なくとも部分的に基づいて、前記第2のチャットインターフェース内の前記ディスプレイに前記第2のメッセージを提示することと
をさらに備えることを特徴とする請求項5に記載の方法。
【請求項11】
前記人は、前記車両のリモートオペレーターを含み、前記チャットインターフェースは、前記車両の前記リモートオペレーターとの通信を提供するように構成されることを特徴とする請求項5に記載の方法。
【請求項12】
前記第1のチャットインターフェースは、第2の人にさらに関連付けられ、前記方法は、
ネットワークを介して、および、前記第1の人に関連付けられた第1のデバイスから、前記第1のメッセージに対する第1の応答を表す第3のデータを受信することと、
前記ディスプレイにおいて、および、前記第1のチャットインターフェース内に、前記第1の人に関連付けられている第1の識別子を含む前記第1の応答を提示することと、
前記ネットワークを介して、および、前記第2の人に関連付けられた第2のデバイスから、前記第1のメッセージまたは前記第1の応答のうちの少なくとも1つに対する第2の応答を表す第4のデータを受信することと、
前記ディスプレイにおいて、および、前記第1のチャットインターフェース内に、前記第2の人に関連付けられている第2の識別子を含む前記第2の応答を提示することと
をさらに備えることを特徴とする請求項5に記載の方法。
【請求項13】
前記第1の人は、前記車両の乗員を含み、前記方法は、
前記乗員に関連付けられたデバイスから、前記車両または前記車両の構成要素のうちの少なくとも1つに作動を行わせる要求を受信することと、
前記車両または前記構成要素に前記作動を行わせる入力を受信することと
をさらに備えることを特徴とする請求項5に記載の方法。
【請求項14】
前記ディスプレイの第3の部分に、前記車両の現在の状態に関連付けられた情報を提供する車両状態インターフェースを提示することであって、前記情報は、前記車両の速さ、前記車両の進行方向、または前記車両の現在のロケーションに関連付けられた交通規則のうちの1つまたは複数を含む、ことをさらに備えることを特徴とする請求項5に記載の方法。
【請求項15】
前記ディスプレイの第3の部分に、前記車両の構成要素の制御を提供する車両制御インターフェースを提示することであって、前記車両制御インターフェースは、前記車両の第1の構成要素に関連付けられている第1の入力要素を少なくとも含む、ことをさらに備えることを特徴とする請求項5に記載の方法。
【発明の詳細な説明】
【背景技術】
【0001】
本特許出願は、2020年11月30日に出願された米国特許出願第17/107,570号の優先権を主張し、参照により本明細書に完全に組み込まれる。
【0002】
車両のフリートは、人または貨物をあるロケーションから別のロケーションに輸送するために使用される。車両のフリートにおける個々の車両は、車両の周囲に関連付けられたデータを生成するための様々なセンサーを装備されることがある。センサーデータは、車両のフリートの遠隔監視にも使用されることがある。場合によっては、遠隔操作者(remote operator)は、車両のフリートにおける個々の車両と通信し、車両に指示または情報を提供することがある。しかしながら、複数の異なる車両および/または個々の車両間の通信を調整することは困難でありうる。
【図面の簡単な説明】
【0003】
詳細な説明は、添付の図面を参照して説明される。図面において、参照番号の左端のアラビア数字(複数可)は、参照番号が最初に現れる図を特定している。異なる図面における同じ参照番号の使用は、類似または同一のコンポーネントまたは特徴を示す。
図1】例示的な車両が遠隔操作オペレーターと通信している間に移動する例示的な環境の概略図を示す図である。
図2】車両のフリートを遠隔監視するための遠隔操作システムの例示的な詳細を示す概略図およびブロック図である。
図3】本明細書で説明される様々な技術のいくつかを実装するための例示的なシステムを示すブロック図である。
図4】車両が環境を横断するときに車両を遠隔監視するための例示的なユーザーインターフェースを示す図である。
図5A】車両の乗員に関連付けられた情報の例示的な詳細を含む、車両を遠隔監視するための例示的なユーザーインターフェースを示す図である。
図5B】車両の乗員に関連付けられた情報の例示的な詳細を含む、車両を遠隔監視するための例示的なユーザーインターフェースを示す図である。
図6A】ユーザーインターフェースの例示的な通信インターフェースチャットインターフェースを示す図である。
図6B】ユーザーインターフェースの例示的な通信インターフェースチャットインターフェースを示す図である。
図6C】ユーザーインターフェースの例示的な通信インターフェースチャットインターフェースを示す図である。
図6D】ユーザーインターフェースの例示的な通信インターフェースチャットインターフェースを示す図である。
図6E】ユーザーインターフェースの例示的な通信インターフェースチャットインターフェースを示す図である。
図6F】ユーザーインターフェースの例示的な通信インターフェースチャットインターフェースを示す図である。
図6G】ユーザーインターフェースの例示的な通信インターフェースチャットインターフェースを示す図である。
図6H】ユーザーインターフェースの例示的な通信インターフェースチャットインターフェースを示す図である。
図6I】ユーザーインターフェースの例示的な通信インターフェースチャットインターフェースを示す図である。
図6J】ユーザーインターフェースの例示的な通信インターフェースチャットインターフェースを示す図である。
図7】タッチキーボードインターフェースを含むさらに別のユーザーインターフェースを示す図である。
図8A】車両の1つまたは複数のコンポーネントを制御することがある例示的な車両および例示的な車両制御インターフェースを含む例示的なユーザーインターフェースを示す図である。
図8B】車両の1つまたは複数のコンポーネントを制御することがある例示的な車両および例示的な車両制御インターフェースを含む例示的なユーザーインターフェースを示す図である。
図9A】例示的なユーザーインターフェースに示されていない車両が例示的な車両に接近していることを示す例示的なオフスクリーンインジケータを含む別の例示的なユーザーインターフェースをまとめて示す図である。
図9B】例示的なユーザーインターフェースに示されていない車両が例示的な車両に接近していることを示す例示的なオフスクリーンインジケータを含む別の例示的なユーザーインターフェースをまとめて示す図である。
図10A】遠隔監視されている車両の状態を表示するために、本開示に記載される例示的なユーザーインターフェースと使用可能な例示的な車両状態インターフェースを示す図である。
図10B】遠隔監視されている車両の状態を表示するために、本開示に記載される例示的なユーザーインターフェースと使用可能な例示的な車両状態インターフェースを示す図である。
図11】車両の遠隔監視および/または制御のためにディスプレイ上にユーザーインターフェースを提示する例示的な方法を示すフローチャートである。
図12】車両の遠隔監視および/または制御のためにディスプレイ上にユーザーインターフェースを提示する別の例示的な方法を示すフローチャートである。
図13】車両の遠隔監視および/または制御のためにディスプレイ上にユーザーインターフェースを提示する方法、ならびに車両が応答していることがある物体の存在を示すためにユーザーインターフェース上にオフスクリーン通知を提示する方法のさらに別の例を示すフローチャートである。
【発明を実施するための形態】
【0004】
上述したように、車両のフリートは、あるロケーションから別のロケーションへ人または貨物を輸送するために使用されることがある。車両のフリートにおける個々の車両は、車両の周囲に関連付けられたデータを生成するための様々なセンサーを装備されることがある。センサーデータは、車両のフリートの遠隔監視にも使用されることがある。場合によっては、遠隔操作者は、車両のフリートにおける個々の車両と通信し、車両に指示または情報を提供することがある。しかしながら、複数の異なる車両および/または個々の車両間の通信を調整することは困難でありうる。例えば、遠隔操作者は、異なるモダリティ(例えば、アプリケーションまたはデバイス)を使用し、異なる人々と通信する必要があり得る、および/または異なる人々(例えば、乗り手、オペレーター、緊急サービスなど)との個別の通信セッションを開始する必要があり得るが、これは面倒で非効率的である。
【0005】
本出願は、車両のフリートに関連付けられた車両および個人との遠隔監視、制御、および/または通信のための改善されたユーザーインターフェースに関する。いくつかの例では、ユーザーインターフェースは、車両の現在の状態、車両の現在の地理的ロケーション、車両が動作している現在の環境など、車両に関連付けられた情報を遠隔ユーザー(例えば、遠隔操作者または「テレオペレーター(teleoperator)」)に提供することがある。例えば、車両の1つまたは複数のセンサー(例えば、LIDARセンサー、RADARセンサー、カメラなど)から受信したデータに少なくとも部分的に基づいて、ユーザーインターフェースは、車両が動作している環境のデジタル表現の提示を引き起こすことがある。環境のデジタル表現は、例えば、環境内の車両、環境内にある他の車両、環境内の歩行者、車両が進行している道路ネットワーク、信号機および/または交通標識などのデジタル表現を含むことがある。さらに、いくつかの例では、環境のデジタル表現は、ユーザーインターフェースの視野の外側に配置されるが、最終的には視野に入るだろう物体の通知を含むことがある。これらの技術によれば、ユーザーインターフェースは、車両の状態、車両の地理的ロケーション、および/または車両が動作している環境の正確でリアルタイムまたはほぼリアルタイムの表現をリモートユーザーに提供することがある。
【0006】
いくつかの例では、ユーザーインターフェースは、リモートユーザーが車両の1つまたは複数の乗員と通信することを可能にする通信インターフェースを含むことがある。例えば、通信インターフェースは、リモートユーザーが車両の乗員にメッセージを送信することを可能にすることがある。メッセージは、乗員に関連付けられたデバイス(例えば、ユーザーのモバイルデバイス、車両において乗員が座っているロケーションに関連付けられた車両内のディスプレイ画面など)に送信されるテキストメッセージを含むことがある。追加的または代替的に、メッセージは、車両の1つまたは複数の音声出力デバイス(例えば、スピーカー)を使用して可聴的に通信される音声メッセージ(例えば、音声メッセージ、事前に記録された音声メッセージ、双方向音声通信など)を含むことがある。
【0007】
いくつかの例では、通信インターフェースは、リモートユーザーが、車両に近接する歩行者、緊急サービス(例えば、911オペレーター)、他のリモートユーザー、車両のオペレーターなど、車両の乗員以外の人と通信することを可能にすることがある。例えば、リモートユーザーは、テキストメッセージング、双方向音声通信、音声および/または視覚通信を介して(例えば、車両のホーンを鳴らす、またはビープ音を鳴らす、車両のライトをオンまたはオフにするなどによって)これらの人々および他の人々と直接通信することがある。このように、ユーザーインターフェースは、リモートユーザーに別個のアプリケーション、インスタンス、またはデバイス(例えば、携帯電話、追加のディスプレイ画面など)を維持することを要求することなく、複数の異なる個人およびエンティティとのリモートユーザー通信を提供することがある。
【0008】
いくつかの例では、ユーザーインターフェースは、リモートユーザーに車両の1つまたは複数のコンポーネントの制御を提供するように構成された車両制御インターフェースを含むことがある。例えば、リモートユーザーによって遠隔から制御可能であり得る1つまたは複数のコンポーネントは、ドアの開閉、窓の開閉、車両気候制御システムの温度設定の調整、車両のステレオシステムの調整(例えば、音量の調整、音声コンテンツのソース、歌の選択など)、窓の色合いの制御、照明の制御、車両の乗車設定の調整(例えば、スポーツモード、快適モードなど)などを含むことがある。
【0009】
限定ではなく一例として、本開示に記載の様々な技術による方法は、ディスプレイ上に、ユーザーに車両に関連付けられた情報を提供するように構成されたユーザーインターフェースを提示することを含むことがある。いくつかの例では、ユーザーは、リモートユーザー(例えば、遠隔操作者)を含むことがあり、車両は、車両のフリート(例えば、複数の車両)のうちの第1の車両を含むことがある。
【0010】
いくつかの例では、ユーザーインターフェースは、ディスプレイの第1の部分上に提示される第1のインターフェース領域を含むことがある。第1のインターフェース領域は、車両が動作している環境のデジタル表現を含むことがある。例えば、センサーデータは、車両の1つまたは複数のセンサーシステム(例えば、LIDAR、RADAR、カメラなど)によってキャプチャされることがあり、センサーデータに少なくとも部分的に基づいて、ユーザーインターフェースは、センサーデータを処理することによって(例えば、センサーデータに1つまたは複数のルールおよび/またはヒューリスティックを適用することによって)環境の提示を引き起こすことがある。様々な例では、環境のデジタル表現は、他の車両、歩行者、サイクリスト、建造物(例えば、建物)、信号機および/または交通標識など、環境内に配置される物体の1つまたは複数のデジタル表現を含むことがある。1つまたは複数の物体は、環境内のそれぞれのロケーションに対応するロケーションにおける環境のデジタル表現内に置かれることがある。いくつかの例では、第1のインターフェース領域は、レーンマーキング、ジャンクション、道路セグメントなど、車両が進行している道路ネットワークのデジタル表現をさらに含むことがある。例えば、1つまたは複数の物体、道路ネットワークなどに関連付けられたセンサーデータは、車両の1つまたは複数のセンサーシステムによってキャプチャされることがあり、センサーデータは、環境のデジタル表現を生成するために処理されることがある。もちろん、少なくともいくつかの例では、センサーデータ自体は、その表現として送信されることがある。非限定的な例として、そのような表現は、境界ボックス、輪郭、統計分布など、ならびにそれらに関連付けられた任意のメトリック(例えば、確実性、範囲など)を含むことがある。
【0011】
さらに、いくつかの例では、第1のインターフェース領域は、1つまたは複数の視点から見た環境のデジタル表現を含むことがある。例えば、第1の透視視点は、空中または第三者の視点から見たように環境を横断するときの環境のデジタル表現だけでなく、車両のデジタル表現を含む鳥瞰視点であり得る。第1の透視視点は、環境内の車両のロケーションを示すことがある。追加的または代替的に、第2の透視視点は、車両自体の透視視点(例えば、車両の上部中心または前部)または車両の乗員から見た環境のデジタル表現を含む視点を含むことがある。視点は、前方に(例えば、車両の進行方向に)、後方に(例えば、車両の進行方向の反対側に)、または車両のいずれかの側面に向けられることがある。いくつかの例では、インターフェースは、リモートユーザーが異なる視点を切り替えること、および/または本明細書に記載されるものを含むがこれらに限定されない複数の利用可能な視点の中から選択することを可能にする制御を含むことがある。
【0012】
いくつかの例では、ユーザーインターフェースは、ディスプレイの第2の部分上に提示される第2のインターフェース領域を含むことがある。第2のインターフェース領域は、少なくとも第1の人とのユーザー通信を提供するように構成された通信インターフェースを含むことがある。第1の人は、いくつかの例では、車両の第1の乗員、車両の第1のオペレーター、車両に近接する第1の歩行者、または別のユーザー(例えば、別のテレオペレーター)を含むことがある。さらに、通信インターフェースは、第2の人、第3の人などの1つまたは複数の追加の人との通信を提供するようにさらに構成されることがある。例えば、第1の人が車両の第1の乗員を含む場合、1人または複数の追加の人は、車両の他の乗員(複数可)、車両のオペレーター(複数可)、車両に近接する歩行者(複数可)、別のユーザー(複数可)などを含むことがある。同様に、第1の人が車両に近接する第1の歩行者を含む場合、1人または複数の追加の人は、車両の乗員(複数可)、車両のオペレーター(複数可)、車両に近接する他の歩行者(複数可)、別のユーザー(複数可)などを含むことがある。
【0013】
いくつかの例では、通信されている人または物体が、車両が動作している環境に配置された歩行者または物体を含む場合、スピーカーの配列を使用して、特定の歩行者または物体に指向性音を発することがある。例えば、参照により本明細書に組み込まれる米国出願第15/986,739号は、自律車両の環境において、歩行者を含む物体に情報を伝達することを記載しており、自律車両は、音響エネルギーのビーム(すなわち、音響ビームステアリング)を舵取りするために、自律車両の外面上に音響アレイを含むことが可能である。
【0014】
いくつかの例では、1つまたは複数のチャットインターフェースがユーザーインターフェース上に提示されることがある。1つまたは複数のチャットインターフェースのチャットインターフェースは、車両の第1の乗員または車両のオペレーターなどの特定の人に関連付けられることがある。追加的または代替的に、チャットインターフェースは、遠隔のテレオペレーターのグループ、車両の乗員のグループなどの人のグループに関連付けられることがある。したがって、方法は、第2のインターフェース領域(例えば、通信インターフェース)の第1の入力要素を介して、第1のチャットインターフェースが開かれることを示す第1のデータを受信することを含むことがある。例えば、第1の入力要素は、第2のインターフェース領域内のディスプレイの第2の部分に提示されることがあり、第1のデータは、第1の入力要素がユーザーによって選択された(例えば、タッチスクリーンタイプディスプレイ上でユーザーによって押された)ことを示すことがある。第1の入力要素は、第1のチャットインターフェースを開くことに関連付けられることがある。第1のデータを受信することに少なくとも部分的に基づいて、第1のチャットインターフェースがディスプレイ上に提示されることがある。いくつかの例では、第1のチャットインターフェースは、第2のインターフェース領域内のディスプレイの第2の部分に提示されてもよく、または第1のチャットインターフェースは、ディスプレイの別の部分に提示されてもよい。
【0015】
様々な例では、通信されるメッセージは、ユーザーによって入力および/または選択されることがある。通信されることがあるメッセージのタイプは、テキストメッセージ、録音された音声メッセージ、事前に録音された音声メッセージ、および/またはテキストから音声へのメッセージを含むことがある。したがって、方法は、第2のインターフェース領域(例えば、通信インターフェース)の第2の入力要素を介して、送信される第1のメッセージを表す第2のデータを受信することを含むことがある。例えば、第2の入力要素は、第2のインターフェース領域または第1のチャットインターフェースのうちの少なくとも1つ内に提示されるテキストフィールド入力を含むことがある。さらに、第2のデータは、テキストフィールド入力を使用してユーザーによって入力されるテキストの文字列を含むことがある。第1のメッセージを表すテキストの文字列は、SMSテキストメッセージとして送信されてもよく、または音声で伝達されることが可能な可聴メッセージに変換されてもよい。追加的または代替的に、第2のデータは、記録された音声メッセージまたは事前に録音された音声メッセージを含むことがある。
【0016】
いくつかの例では、第1のメッセージは、第1のメッセージが送信されるべきであるという指示を受信することに少なくとも部分的に基づいて、第1のチャットインターフェース内のディスプレイ上に提示されることがある。例えば、第1のメッセージが送信されるという指示は、メッセージの送信に関連付けられた入力要素(例えば、「送信」入力要素)を介して受信されることがある。メッセージの送信に関連付けられた入力要素は、いくつかの例では、第2のインターフェース領域または第1のチャットインターフェースのうちの少なくとも1つ内に提示されることがある。さらに、第1のチャットインターフェース内に第1のメッセージを提示することは、第1のメッセージが第1の人に送信されたことを示すことがある。
【0017】
いくつかの例では、第1の人からユーザーに送信されるメッセージは、第1のチャットインターフェース内のディスプレイ上に提示されることがある。例えば、第1のチャットインターフェースは、第1の人に関連付けられることがあり、第1のチャットインターフェースは、ユーザーと第1の人との間で送信されたメッセージの履歴を提示することがある。したがって、方法は、ネットワークを介して、および第1の人に関連付けられた第1のデバイスから、第1のメッセージに対する第1の応答を表すデータを受信し、ディスプレイ上および第1のチャットインターフェース内で、第1のメッセージに対する第1の応答を提示することを含むことがある。
【0018】
追加的または代替的に、上述のように、チャットインターフェースは、遠隔のテレオペレーターのグループ、車両の乗員のグループなどの人のグループに関連付けられることがある。グループチャットインターフェースでは、第1の人または第2の人によってユーザーに送信されたメッセージを提示することは、メッセージおよびメッセージを送信した人を示す識別子を提示することを含むことがある。識別子は、例えば、人の写真、人の名前、人のイニシャルなどを含むことがある。したがって、方法は、第1の人から第1の応答メッセージを受信することと、ディスプレイ上およびグループチャットインターフェース内で、第1の人に関連付けられた第1の識別子を含む第1の応答メッセージを提示することとをさらに含むことがある。さらに、方法は、第2の人から第2の応答メッセージを受信することと、ディスプレイ上およびグループチャットインターフェース内で、第2の人に関連付けられた第2の識別子を含む第2の応答メッセージを提示することとを含むことがある。
【0019】
いくつかの例では、提案されたメッセージは、ユーザーによって入力されているメッセージの一部(例えば、予測されたテキスト)に少なくとも部分的に基づいてユーザーに提示されることがある。例えば、ユーザーが「please」という単語で始まるメッセージを入力している場合、「please buckle your seatbelt」、「please allow the doors to close」、「please wear a face covering if you feel sick」などの1つまたは複数の推奨メッセージがユーザーに提示されることがある。いくつかの例では、提案されたメッセージは、追加的または代替的に、入力されたメッセージの一部(複数可)の意味、車両の過去、現在または計画された状態(例えば、移動、静止、乗客を拾う、乗客を降ろすなど)、メッセージの意図された受信者との通信の履歴などに基づいてもよい。このようにして、メッセージを入力するユーザーは、推奨されるメッセージのうちの1つを選択することがあり、それによって、メッセージを作成するプロセスを簡素化および高速化する。したがって、方法は、第2のインターフェース領域(例えば、通信インターフェース)の第2の入力要素を介して、通信されるメッセージの第1の部分を表すデータを受信することと、少なくとも部分的にデータに基づいて、メッセージの第1の部分に関連付けられた1つまたは複数の推奨されるメッセージを決定することとをさらに含むことがある。さらに、方法は、ディスプレイ上の1つ以上の提案されたメッセージの少なくとも第1の提案されたメッセージを提示することと、第1の提案されたメッセージが送信されるべきであるという指示を受信することに少なくとも部分的に基づいて、第1のチャットインターフェース内のディスプレイ上の第1の提案されたメッセージを提示することとを含むことがある。
【0020】
さらに、いくつかの例では、コンテキスト手がかりがユーザーインターフェース上に提示されることがあり、提案されるメッセージが、コンテキスト手がかりに関連付けられたリモートユーザーに提示されることがある。例えば、車両の乗員がシートベルトを着用していない場合、インジケータがユーザーインターフェース上に提示し、乗員がシートベルトを着用していないことをリモートユーザーに通知することがある。さらに、リモートユーザーが要求を乗員に通信することができるように、乗員に送信する(例えば、乗員にシートベルトを締めるように指示する)提案メッセージがユーザーインターフェース上に提示されることがある。
【0021】
いくつかの例では、ユーザーインターフェースは、ディスプレイの第3の部分上に提示される第3のインターフェース領域を含むことがある。第3のインターフェース領域は、車両の状態に関連付けられた情報をユーザーに提供するように構成された車両状態インターフェースを含むことがある。いくつかの例では、情報は、車両の現在の速度、車両の走行方向(例えば、車両の軌道)、車両の現在のルートに関連付けられた交通ルール(例えば、車両が停止標識にあるかどうか、現在のロケーションまたはルートに関連付けられた制限速度標識など)、車両の1つまたは複数のコンポーネントの状態メッセージ(例えば、コンポーネントが故障状態にあるかどうか、整備が必要か、エラーメッセージ、電圧、電流、温度など)などのうちの1つまたは複数を含むことがある。車両状態インターフェースおよび/または第3のインターフェース領域は、車両のデジタル表現に近接する第1のインターフェース領域上またはその中に(例えば、車両の上部、下部、側面などに)配置されることがある。さらに、車両状態インターフェースは、車両の現在のルートにいくつの交通ルールが存在するかなど、車両の現在の状態に少なくとも部分的に基づいて、サイズが増加し、サイズが縮小することがある(例えば、拡大および縮小)。車両ステータスインターフェースのサイズの変更については、以下の図10Aおよび図10Bでさらに詳細に説明される。
【0022】
様々な例では、ユーザーインターフェースは、ユーザーが車両の1つまたは複数のコンポーネントを制御することを可能にすることがある。例えば、ユーザーインターフェースは、ディスプレイの第4の部分に提示される第4のインターフェース領域を含むことがある。第4のインターフェース領域は、ユーザーに車両の1つまたは複数のコンポーネントの制御を提供するように構成された車両制御インターフェースを含むことがある。車両制御インターフェースは、車両の1つまたは複数のコンポーネントを制御することに関連付けられた1つまたは複数の入力要素を含むことがある。車両の1つまたは複数のコンポーネントは、車両のドア、車両の窓、車両の気候制御システム、車両のステレオシステム、車両の照明、車両窓の日よけ、車両の乗車設定などを含むことがある。
【0023】
いくつかの例では、車両の第1のコンポーネントが制御されることを示すデータは、車両制御インターフェースの第1の入力要素を介して受信されることがある。データに少なくとも部分的に基づいて、1つまたは複数の追加の入力要素がディスプレイ上に提示されることがある。1つまたは複数の追加の入力要素は、車両の第1のコンポーネントを制御することに関連付けられることがある。例えば、制御されるコンポーネントが車両のドアを含む場合、1つまたは複数の追加の入力要素は、第1のドアを閉じるための第1の追加の入力要素、第1のドアを開くための第2の追加の入力要素、第2のドアを閉じるための第3の追加の入力要素、第2のドアを開くための第4の追加の入力要素などを含むことがある。
【0024】
いくつかの例では、方法は、第1の追加の入力要素を介して、第1のコンポーネントの状態が第1の状態から第2の状態に変更されることを示すデータを受信することを含むことがある。例えば、第1のコンポーネントが車両のドアを含む場合、第1の状態は、ドアが開かれていることに対応することがあり、第2の状態は、ドアが閉じられていることに対応することがある。いくつかの例では、コンポーネントの状態が変更されることを示すデータを受信することに少なくとも部分的に基づいて、方法は、コンポーネントの状態を第1の状態から第2の状態に変更させること(例えば、ドアを開位置から閉位置に遷移させること)を含むことがある。
【0025】
さらに、第2の状態に対応する車両の第1のコンポーネントの状態に少なくとも部分的に基づいて、車両のデジタル表現は、第1のコンポーネントが第2の状態にあることを示すように更新されることがある。例えば、第1のコンポーネントが車両のドアを含み、第1の状態が開かれている車両のドアに対応する場合、車両のデジタル表現は、最初にドアが開かれている車両を図示することがある。しかしながら、車両のドアが閉じられた後(第2の状態)、車両のデジタル表現は、更新され、車両のドアが閉じられたことを図示することがある。
【0026】
いくつかの例では、ユーザーインターフェースが、環境内に位置されるがディスプレイ上に提示される視野の外側にある物体、および/または環境内に位置されるが環境内の他の物体によって閉塞される物体の表示を提示することがある。例えば、物体(例えば、歩行者、サイクリスト、他の車両など)が車両に近づいているが、その物体が視野の外側にあるためにディスプレイ上に提示されない場合、ユーザーインターフェースは、物体が近づいている方向を示す指示をディスプレイ上に提示することがある。したがって、方法は、第1の視野の外側にある、および/または第1の視野から見たときに環境内の物体によって閉塞される環境の別の視野内に配置された1つまたは複数の物体を表すセンサーデータを受信することを含むことがある。いくつかの例では、センサーデータを処理することに少なくとも部分的に基づいて、1つまたは複数の物体の物体に関連付けられた進行方向(例えば、軌道)が決定されることがある。追加的または代替的に、視野へ移動する物体に関連付けられた期間が決定されることがある。期間は、いくつかの例では、センサーデータに少なくとも部分的に基づいて、および/または進行方向に少なくとも部分的に基づいて決定されることがある。いくつかの例では、第1の物体が第1の視野に入ろうとしているという表示がディスプレイ上に提示されることがある。表示を提示することは、センサーデータ、物体に関連付けられた進行方向、および/または閾値期間未満の期間に少なくとも部分的に基づいてもよい。
【0027】
これらおよび他の態様は、添付の図面を参照して以下でさらに説明される。図面は、単なる例示的な実施形態であり、特許請求の範囲を限定するように解釈されるべきではない。例えば、例示的な車両は、人間の制御または介入なしにロケーションの間において進行する性能がある自律車両として示され、説明されるが、本明細書で説明される技術は、非自律車両および/または半自律車両にも適用可能である。また、車両は、座席が車両の中心に向かって互いに向かい合っているコーチスタイルの車体モジュールを有するものとして示されているが、他の車体モジュールも企図される。任意の数の1つまたは複数の乗員(例えば、1、2、3、4、5、6、7、8など)を収容するように構成された車体モジュールが企図される。さらに、示される例示的な車体モジュールは、乗客区画を含むが、他の例では、車体モジュールは、乗客区画(例えば、貨物車両、配送車両、建設車両などの場合)を有しない場合がある。
【0028】
車両監視アーキテクチャの例
図1は、例示的な車両102が通過する例示的な環境100の概略図を示す。例示的な環境100は、中間線または二重黄線112によって分離されたレーン110の2つのペア108を有する複数の例示的な道路106を含む道路ネットワーク104を含み、レーン区分線114およびレーン境界線116によって定義されたレーン110のペア108のレーン110の各々を有する。例示的な道路106はまた、道路106の反対側に位置する路肩118を含む。図1はまた、家または建物などの建造物122を含む出発ロケーションに関連付けられた例示的な地理的ロケーション120、および家または建物などの建造物126も含む例示的な目的地124を示す。道路ネットワーク104は、地理的ロケーション120と目的地124との間の経路を定義するいくつかの道路106を提供し、図1は、例示的な道路106の一部の拡大図を示す。道路ネットワーク104は、カーブ、十字路との交差点、横断歩道、交通標識、信号機、鉄道交差点、交通サークル、方向矢印などのいくつかの特徴を含むことがある。
【0029】
図1に示されるように、例示的な車両102は、地理的ロケーション120から目的地124までの経路に従って、道路ネットワーク104を介して例示的な環境100を通って走行することがある。例示の目的で、車両102は、米国国家高速道路交通安全局によって発行されたレベル5分類に従って動作するように構成される自律走行車のような無人車両であってよく、これは、運転者(または乗員)が車両を常時制御することを予期することなく、全行程に対するすべての安全上重要な機能を実行することを可能とする車両を説明している。その場合、車両102は、すべての駐車機能を含む、旅行の開始から完了までのすべての機能を制御するように構成されることがあるため、ドライバを含まなくてもよい。これは単なる例であり、本明細書で説明されるシステムおよび方法は、運転者によって常に手動で制御される必要がある車両から部分的または完全に自律的に制御される車両までの範囲を含む、任意の地面、空中、または水上車両へ組み込まれてもよい。
【0030】
図1に示される例示的な車両102は、4つの車輪128と、車輪128のそれぞれについてのそれぞれのタイヤとを有する自動車である。例えば、バン、スポーツユーティリティ車両、クロスオーバー車両、トラック、バス、農業用車両、および建設用車両などの他のタイプおよび構成の車両が企図される。車両102は、1つまたは複数の内燃エンジン、1つまたは複数の電気モーター、水素燃料、それらの任意の組み合わせ、および/または任意の他の適切な動力源によって動力を供給されてよい。さらに、例示的な車両102は、4つの車輪を有することがあるが、本明細書に記載されるシステムおよび方法は、より少ないまたはより多い数の車輪、タイヤ、および/または軌道を有する車両に組み込むことがある。例示的な車両102は、四輪ステアリングを有し、例えば、車両102の第1の端部130が、第1の方向132に移動するときに車両102の前端になるように、ほぼすべての方向に等しい性能特性で動作することができ、そして、図1に示すように、第1の端部130は、反対の第2の方向134に移動するときに車両102の後端になる。同様に、車両102の第2の端部136は、第2の方向134に移動するときの車両102の前端であり、第2の端部136は、反対の第1の方向132に移動するときに車両102の後端になる。そのような構成は、本明細書では「双方向性」と称されることがある。これらの例示的な双方向特性は、例えば、駐車場や都市部などの狭いスペースまたは混雑した環境で、より優れた操縦性を促進する可能性があり得る。
【0031】
図1に示される例では、車両102は、様々なセンサーおよび車両コントローラを使用して、道路ネットワーク104を介して経路に沿って環境100を通して自律的に動作することがある。例えば、車両コントローラは、車両102が走行することがある仮想境界140によって定義されたドライビングコリドー(driving corridor)138を決定するように構成されることがある。例えば、ドライビングコリドー138は、車両102の幅方向に可変コリドー幅142、および車両102の進行方向に延びる可変コリドー長144を有することがある。いくつかの例では、本明細書でより詳細に説明されるように、ドライビングコリドー138の仮想境界140は、車両102に関連付けられるセンサーから受信されるセンサーデータおよび/または道路ネットワークデータストアを介して車両102によって受信される道路ネットワークデータに少なくとも部分的に基づいて決定されることがある。図1には図示されていないが、物体を示すそのようなセンサーデータは、くぼみ部分または取り外し部分としてそのような通廊に表されることがある。いくつかの例では、車両102は、ドライビングコリドー138内のドライブライン(drive line)146に沿って走行することがある。
【0032】
いくつかの例では、車両102は、車両102が道路106に沿って、例えば、車両102から離れて配置された遠隔操作システム148からの支援を要求することがあるイベントに遭遇するまで、自律的に動作することがある。例えば、車両102は、経路の一部に関連付けられた工事ゾーンに遭遇することがあり、工事ゾーンの近くの交通は、工事ゾーンの周りを操縦する交通のための指示を提供する工事作業員の指示の下にあり得る。このタイプのイベントの予測不可能な性質に部分的に起因して、車両102は、遠隔操作システム148から遠隔支援を要求することがある。しかしながら、車両102と遠隔操作システム148との間の相互作用は、イベントに限定されず、車両102および遠隔操作システム148は、車両102の乗員と直接通信するため、車両102に近接する歩行者と通信するため、車両102のコンポーネントを制御するためなど、いくつかの理由で相互作用することがある。いくつかの例では、車両102は、本明細書でより詳細に説明されるように、1つまたは複数の通信ネットワーク158を介して遠隔操作システム148と通信する車両のフリートの一部であり得る。
【0033】
いくつかの例では、例えば、図1に示されるように、遠隔操作システム148は、遠隔操作センター152または他の遠く離れたロケーション(複数可)に配置された人間のテレオペレーターであり得る1つまたは複数のテレオペレーター150を含むことがある。いくつかの例では、テレオペレーター150のうちの1つまたは複数は、人間ではない場合がある。例えば、それらは、人工知能、機械学習、および/または他の意思決定戦略を活用するコンピュータシステムであり得る。示される例では、テレオペレーター150は、テレオペレーターインターフェース154を介して車両のフリートにおける1つまたは複数の車両102と相互作用することがある。テレオペレーターインターフェース154は、テレオペレーター150に、車両102、車両のフリートのサブセット、および/または車両のフリートの動作に関連するデータを提供するように構成された1つまたは複数のディスプレイ156を含むことがある。例えば、ディスプレイ156(複数可)は、車両102から受信したセンサー信号に関連するデータ、道路ネットワーク104に関連するデータ、および/または車両102への支援の提供を容易にするための追加のデータまたは情報を示すように構成されることがある。さらに、テレオペレーターインターフェース154および/または1つまたは複数のディスプレイ156はまた、テレオペレーター150が例えば、車両102に案内を提供する遠隔操作信号の形態で、車両102のうちの1つまたは複数に情報を提供することを可能にするように構成されたテレオペレーター入力デバイスを含むことがある。テレオペレーター入力デバイスは、タッチ感知スクリーン、スタイラス、マウス、ダイヤル、キーパッド、および/またはテレオペレーター150によって実行されるジェスチャをテレオペレーターインターフェース154の入力コマンドに変換するように構成されたジェスチャ入力システムのうちの1つまたは複数を含むことがある。本明細書でより詳細に説明されるように、遠隔操作システム148は、1つまたは複数の車両102に、イベントを回避するまたは通過するための案内を提供することがある。
【0034】
いくつかの例では、テレオペレーター150に1つまたは複数の車両に関連付けられた情報および/またはデータを提供するために、テレオペレーターインターフェース154は、1つまたは複数のディスプレイ156上にユーザーインターフェースを提示することがある。ユーザーインターフェースは、環境100などの車両が動作している環境のデジタル表現を含むことがある。例えば、環境100のデジタル表現は、いくつかの例では、車両102、道路106を含む道路ネットワーク104、レーン110、中間線または二重黄線112、区分線114、およびレーン境界線116のデジタル表現を含むことがある。さらに、環境100のデジタル表現はまた、建造物122および126、他の車両、歩行者、運転者、信号機および/または交通標識などの建造物のデジタル表現を含むことがある。さらに、いくつかの例では、ユーザーインターフェースは、ディスプレイ156上に示される視野の外側に配置されるが、最終的には視野に入るだろう物体(例えば、他の車両、歩行者など)の通知を提示することがある。
【0035】
いくつかの例では、ユーザーインターフェースは、1つまたは複数のディスプレイ156に提示される通信インターフェースを含み、テレオペレーター150が車両102の1名または複数名の乗員160と通信することを可能にすることがある。たとえば、通信インターフェースは、テレオペレーター150がメッセージを車両102の乗員160に送ることを可能にすることがある。メッセージは、たとえば、乗員160のモバイルデバイス、乗員160により占められている座席に関連付けられる車両102のディスプレイ画面等、乗員160に関連付けられたデバイスに送られるSMSテキストメッセージを含むことがある。さらに加えて、または代わりに、メッセージは、オーディオ出力の性能がある車両102の1つまたは複数のデバイス(例えば、車両のスピーカー、車両のディスプレイ画面等)、乗員160に関連付けられたデバイス、および同類のものを用いて、聞こえるように通信されるオーディオメッセージ(例えば、音声メッセージ、予め記録された音声メッセージ、双方向音声通信等)を含むことがある。さらに加えて、または代わりに、いくつかの例では、通信インターフェースは、リモートユーザーが、車両に最も近い歩行者、第三者(例えば、911オペレーター、第1応答者等)、他のリモートユーザー、車両のオペレーター、および同類のもののうちのいずれか1名と直接的または間接的に通信することを可能にすることがある。さらに付け加えられた例では、通信インターフェースは、テレオペレーター150が、乗員160へのファイル、たとえば、画像、ビデオ、文書、および同類のものなどを送ることを可能にすることがある。
【0036】
いくつかの例では、通信インターフェースは、テレオペレーター150が、複数の言語を用いて、車両102の乗員160と通信することを可能にすることがある。たとえば、通信インターフェースは、乗員160から受信されるテキストメッセージおよび/またはオーディオメッセージを、第1の話し言葉から第2の話し言葉に翻訳するための言語翻訳機能を含むことがある。さらに加えて、言語翻訳機能は、テレオペレーター150が乗員160に送ることを試みているテキストメッセージおよび/またはオーディオメッセージを、第1の話し言葉から第2の話し言葉に翻訳することがある。言語翻訳機能は、どの言語が2者のいずれか一方により話されるかまたは理解されるかにもかかわらず、テレオペレーター150に乗員160と通信できるようにするあらゆる数の話し言葉(例えば、英語、スペイン語、北京語、アラビア語、ヒンディー語、ドイツ語、フランス語、イタリア語、ロシア語等)を翻訳する性能を有することがある。さらに加えて、通信インターフェースは、音声からテキストへの変換のために自然言語処理を利用することがある。このようにして、話されている音声メッセージは、テキストメッセージに変換され、逆の場合も同じであり、テレオペレーター150および乗員160がハンズフリーで通信することを可能にすることがある。さらに、テキストメッセージは、聞こえるようにユーザーが書かれているテキストメッセージを聞いてもよいように、コンピューター化された話し言葉に変換されることがある。
【0037】
いくつかの例では、ユーザーインターフェースは、たとえばドア162など、車両102の1つまたは複数の構成要素の制御をテレオペレーター150に提供するように構成される車両制御インターフェースを含むことがある。たとえば、ユーザーインターフェースの車両制御インターフェースは、テレオペレーター150に、車両102のドア102を開け閉めできる、ドア102を施錠できる、および同類のものをできるようにすることがある。さらに加えて、いくつかの例では、車両制御インターフェースは、テレオペレーター150に、窓を開け閉める、周囲の温度の設定を調節する(例えば、ヒーターまたはエアコンを作動させる)、ステレオシステムを調節する(例えば、音量を調節すること、歌曲の選択等)、ブラインドを調節する、フロントガラスのワイパーを制御する、ヘッドライトを制御する、および同類のものをする能力を含む、車両102のいろいろの構成要素を調節できるおよび/または制御できるようにすることがある。
【0038】
図2は、車両のフリート202を遠くから監視するための例示的な遠隔操作システム148を含む例示的なアーキテクチャ200を例示する。例示的な車両のフリート202は、少なくともいくつかが、例えば、ネットワーク(複数可)158と、遠隔操作システム148に関連付けられた遠隔操作レシーバー204および遠隔操作トランスミッター206とを介して、遠隔操作システム148に通信接続されている複数の車両102を含む。例えば、車両102は、遠隔操作レシーバー204によって受信される、車両102のネットワークインターフェースを介して通信信号を送ることがある。いくつかの例では、通信信号は、例えば、車両102(および/またはその表現)に関連付けられた1つまたは複数のセンサーによって生成されたセンサー信号からのセンサーデータ、および/または道路ネットワークデータストアからの道路ネットワークデータを含むことがある。いくつかの例では、センサーデータは、生のセンサーデータまたは処理されたセンサーデータを含むことがあり、道路ネットワークデータは、車両102の動作に関連付けられた領域のグローバルマップまたはローカルマップに関係したデータを含むことがある。いくつかの例では、通信信号は、例えば、現在の位置、現在の速さ、現在のパスおよび/または軌道、現在の占用、1つまたは複数のコンポーネントおよび/またはサブコンポーネントの状態、メッセージ(例えば、あらゆるコンポーネントおよび/またはサブコンポーネント間で送信されるメッセージ)、電池のうちの1つまたは複数の充電レベル、および/またはセンサーおよびドライブシステムの動作状態など、車両102およびシステムの現在の状態に関連付けられたデータを含むことがある。いくつかの例では、車両102からの通信信号は、遠隔操作システム148からの情報に対するリクエストを含むことがある。上記の情報は、例えば、物体、道路ネットワーク104、道路106、グローバルマップ、ローカルマップ、車両の操作および操縦に関する連携、および/または、車両102によって提案された情報および/または作動の確認についての情報のかたちにおいて車両148の操作に関する支援を含むことがある。
【0039】
図3に示されている、遠隔操作レシーバー204は、遠隔操作インターフェース154に通信接続されることがあり、いくつかの例では、テレオペレーター150は、遠隔操作インターフェース154を介して、車両102から受信した通信信号におけるセンサーデータ、道路ネットワークデータ、および/またはあらゆる他のデータにアクセスできることがある。いくつかの例では、テレオペレーター150は、遠隔操作インターフェース154を用いて、センサーデータ、道路ネットワークデータ、および/または他のデータに選択的にアクセスでき、ディスプレイ156のうちの1つまたは複数を介して選択されたデータを見ることがある。いくつかの例では、ディスプレイ156は、デジタル表現、過度に単純化した絵の表現、アニメーション、バウンディングボックス、物体の挙動および/または速度を示す矢印、物体を表すアイコン、センサーデータに関する色付け、および/または、データの他の表現を表示し、テレオペレーター150による解釈を平易にすることがある。いくつかの例では、さらに加えてまたは代わりに、ディスプレイ156は、生のセンサーデータ(例えば、カメラ画像、ライダー点群等)を表示することがある。
【0040】
示されている例では、さらに、遠隔操作システム148は、遠隔操作インターフェース154のうちの2つ以上とそれぞれのテレオペレーター150との間の通信、および/または遠隔操作データ210との通信を提供するように構成される遠隔操作ネットワーク208も含む。例えば、遠隔操作システム148は、複数の遠隔操作インターフェース154とそれぞれのテレオペレーター150とを含むことがあり、テレオペレーター150は、遠隔操作ネットワーク208を介して互いに通信して、フリート302の車両102に提供される案内を容易にするおよび/または整理することがある。たとえば、遠隔操作インターフェース154は、テレオペレーター150が、他のテレオペレーター150、車両102の乗員160、車両フリート202の車両102に最も近い歩行者、および同類のものと通信する通信インターフェースを含むディスプレイ156にユーザーインターフェースを提示することがある。いくつかの例では、車両102の各々に割り当てられたテレオペレーター150がいることがあり、いくつかの例では、テレオペレーター150は、車両202のフリートの単一の車両102よりも多い2台以上に割り当てられることがある。いくつかの例では、2名以上のテレオペレーター150が、単一の車両102に割り当てられることがある。いくつかの例では、テレオペレーター150は、車両フリート202の特定の車両102に割り当てられないことがあり、代わりに、特定の種類のイベントに遭遇した車両102に、および/または、例えば、車両のイベントとの遭遇に関連付けられた緊急のレベルに基づいて、車両102に案内を提供することがある。いくつかの例では、イベントに関連付けられたデータ、および/またはテレオペレーター150により提供される案内に関連付けられたデータは、遠隔操作システム148によって、例えば、遠隔操作データ210のためのストレージに格納される、および/または他のテレオペレーター150によりアクセスされることがある。
【0041】
いくつかの例では、遠隔操作データ210は、車両102に案内を提供するときの使用のために、例えば、遠隔操作インターフェース154を介して、テレオペレーター150によりアクセス可能であり得る。例えば、遠隔操作データ210は、道路ネットワーク104に関係した、道路ネットワーク104に関連付けられたイベントに関係した、および/または、例えば、交通量、気象条件、工事地帯および/または特別なイベントによる道路ネットワーク104に関連付けられた進行条件に関係した、グローバルおよび/またはローカルのマップデータを含むことがある。いくつかの例では、遠隔操作データ210は、例えば、メンテナンスおよびサービスの情報、および/または、例えば、車両102に関連付けられたイベント履歴、パス履歴、占有履歴、および車両102に関連付けられた他の種類のデータを含む操作履歴など、車両フリート202の車両102のうちの1台または複数台に関連付けられたデータを含むことがある。
【0042】
図3は、本明細書に説明される種々の技術のいくつかを実装するための例示的なシステム300を例示するブロック図である。いくつかの例では、システム300は、たとえば、図1、2、4等の他の図面を参照して、本明細書に説明される例の1つまたは複数の特徴、構成要素、および/または機能性を含むことがある。
【0043】
システム300は、車両102を含むことがある。いくつかの例では、車両302は、車両102に関して上に説明された特徴、構成要素、および/または機能性のいくつかまたはすべてを含むことがある。たとえば、車両302は、二方向性の車両を含むことがある。図3に示されている、さらに、車両302は、車両コンピューティングデバイス304、1つまたは複数のセンサーシステム306、1つまたは複数のエミッター308、1つまたは複数の通信接続310、1つまたは複数の直接接続312、および/または1つまたは複数のドライブアセンブリ314を含むこともある。
【0044】
いくつかの例では、車両コンピューティングデバイス304は、1つまたは複数のプロセッサー316と、1つまたは複数のプロセッサー316に通信接続されたメモリー318とを含むことが可能である。例示されている例では、車両302は自律車両であるが、しかしながら、車両302は、あらゆる他の種類の車両(例えば、自動車、トラック、バス、航空機、船、列車等)、またはたとえば図3に例示されているなどの構成要素を有するあらゆる他のシステム(例えば、ロボットシステム、自動組立/製造システム等)であることが可能だろう。例では、1つまたは複数のプロセッサー316は、メモリー318に格納された命令を実行して、1つまたは複数の車両コンピューティングデバイス304を代表して1つまたは複数の動作を行うことがある。
【0045】
1つまたは複数の車両コンピューティングデバイス304のメモリー318は、ローカライゼーションコンポーネント320、パーセプションシステム322、プランニングコンポーネント324、1つまたは複数のシステムコントローラー326、マップ(複数)コンポーネント328、監視コンポーネント330、フィルタリングコンポーネント332、およびユーザーインターフェースコンポーネント334を格納する。例示的な目的のためにメモリー318に常駐しているとして図3に描かれているにもかかわらず、さらに加えて、または代わりに、ローカライゼーションコンポーネント320、パーセプションシステム322、プランニングコンポーネント324、1つまたは複数のシステムコントローラー326、マップ(複数可)328、監視コンポーネント330、フィルタリングコンポーネント332、および/またはユーザーインターフェースコンポーネント334は、車両302にアクセス可能であることが可能である(例えば、車両302から離れたメモリー、たとえば1つまたは複数のコンピューティングデバイス340のメモリー344などに格納される、または別のやり方により車両302から離れたメモリーからアクセス可能である)ことが想定される。
【0046】
少なくとも一例にて、ローカライゼーションコンポーネント320は、データをセンサーシステム(複数可)306から受信して、車両302の位置および/または向き(例えば、x位置、y位置、z位置、ロール、ピッチ、またはヨーのうちの1つまたは複数)を決定する機能性を含むことが可能である。例えば、ローカライゼーションコンポーネント320は、環境のマップを含むおよび/または要求する/受信することが可能であり、マップ内の自律車両のロケーションおよび/または向きを連続的に決定することが可能である。場合によっては、ローカライゼーションコンポーネント320は、画像データ、ライダーデータ、レーダーデータ、IMUデータ、GPSデータ、ホイールエンコーダーデータ、および、1つまたは複数のセンサーシステム306によってキャプチャされる同類のもの、または自律車両のロケーションを正確に決定する1つまたは複数の他のデバイス(例えば、コンピューティングデバイス340)から受信される同類のものに基づいて、SLAM(simultaneous localization and mapping)、CLAMS(calibration, localization and mapping, simultaneously)、相対SLAM(relative SLAM)、バンドル調整、非線形最小二乗法最適化(non-linear least squares optimization)、または同類のものを利用することが可能である。場合によっては、ローカライゼーションコンポーネント320は、データを、車両302の種々の構成要素に提供して、軌道を生成するためにおよび/またはマップデータを検索すると決定するために、自律車両の初期位置を決定することが可能である。種々の例では、ローカライゼーションコンポーネント320は、データを遠隔操作システム148に提供することが可能であり、遠隔操作システム148は、ディスプレイ156に、車両302が横切って進んでいる環境に関する車両302の位置を提示することがある。
【0047】
場合によっては、パーセプションシステム322は、物体のトラッキング、検出、セグメンテーション、および/または分類を行う機能性を含むことが可能である。いくつかの例では、パーセプションシステム322は、車両302に最も近い実体の存在(presence)、および/または実体の種類(例えば、車、歩行者、サイクリスト、動物、建物、木、路面、縁石、歩道、不明等)として実体の分類を示す処理されたセンサーデータを提供することが可能である。追加および/または代替の例において、パーセプションシステム322は、検出される実体(例えば、トラッキングされる物体)および/または実体が置かれる環境に関連付けられた1つまたは複数の特性を示す処理されたセンサーデータを提供することが可能である。いくつかの例では、実体に関連付けられた特性は、限定されないが、x位置(グローバルおよび/またはローカルポジション)、y位置(グローバルおよび/またはローカルポジション)、z位置(グローバルおよび/またはローカルポジション)、向き(例えば、ロール、ピッチ、ヨー)、実体の種類(例えば、分類)、実体の速度、実体の加速度、実体の範囲(大きさ)等を含むことが可能である。限定されないが、環境に関連付けられた特性は、環境における別のエンティティの存在、環境における別のエンティティの状態、時刻、曜日、季節、気象条件、闇/光のインディケーション等を含むことが可能である。場合によっては、パーセプションシステム322は、遠隔操作システム148にデータを提供し、遠隔操作システム148は、ディスプレイ156に、車両が横切って進んでいる環境に配置されている1つまたは複数の物体のデジタル表現を提示することがある。
【0048】
一般に、プランニングコンポーネント324は、車両302が、環境を通って横切って進むために従うパスを決定することが可能である。例えば、プランニングコンポーネント324は、種々のルートおよび軌道および種々の詳細のレベルを決定することが可能である。例えば、プランニングコンポーネント324は、第1のロケーション(例えば、現在のロケーション)から第2のロケーション(例えば、目標のロケーション)まで進むルートを決定することが可能である。本議論の目的のために、ルートは、2つのロケーション間を進むためのウェイポイントのシーケンスであることが可能である。例として、ウェイポイントは、街路、交差点、GPS(全地球測位システム)座標等を含むことがある。さらに、プランニングコンポーネント324は、自律車両を、第1のロケーションから第2のロケーションまでの少なくとも一部分のルートに沿って、導くためのインストラクションを生成することができる。少なくとも一例では、プランニングシステム324は、自律車両を、ウェイポイントのシーケンスにおける第1のウェイポイントから、ウェイポイントのシーケンスにおける第2のウェイポイントまで、どのように導くかを決定することができる。いくつかの例にて、インストラクションは、軌道、または軌道の一部分であることが可能である。いくつかの例では、複数の軌道は、レシーディングホライズン(receding horizon)の技法に従って、実質的に同時に(例えば、技術的な許容範囲内に)生成されることが可能であり、複数の軌道のうちの1つが、ナビゲートする車両302に対して選択される。
【0049】
少なくとも1つの例では、車両コンピューティングデバイス304は、車両302の操舵、推進、制動、安全、エミッター、通信、構成要素、および他のシステムを制御するように構成されることが可能である1つまたは複数のシステムコントローラー326を含むことが可能である。今述べたシステムコントローラー(複数可)326は、車両302のドライブアセンブリ(複数可)314および/または他の構成要素の対応するシステムに対して通信するおよび/または制御することが可能である。
【0050】
さらに、メモリー318は、環境内をナビゲートするために車両302によって用いられることが可能である1つまたは複数のマップ(図示せず)を維持する、および/または更新するマップ(複数可)コンポーネント328を含むことが可能である。議論の目的のために、マップは、たとえば、限定されないが、トポロジー(たとえば、交差点など)、街路、山脈、道路、地形、および一般に環境など、環境について情報を提供する能力がある2次元、3次元、またはN次元のモデル化されたいくつものデータ構造であることが可能である。限定されないが、場合によっては、マップは、テクスチャ情報(例えば、色情報(例えば、RGB色情報、Lab色情報、HSV/HSL色情報)、および同類のもの)、強度情報(例えば、ライダー情報、レーダー情報、および同類のもの)、空間情報(例えば、メッシュの上に投影された画像データ、個々の「サーフェル」(例えば、個々の色および/または強度に関連付けられたポリゴン))、反射率情報(例えば、鏡面反射情報、再帰反射率(retroreflectivity)情報、BRDF情報、BSSRDF情報、および同類のもの)を含むことが可能である。1つの例では、マップは、環境の3次元メッシュを含むことが可能である。場合によっては、マップは、マップの個々のタイルが環境の離散的な部分を表すような、タイルフォーマットに格納されることが可能であり、必要に応じてワーキングメモリーにロードされることが可能である。少なくとも1つの例では、1つまたは複数のマップは、少なくとも1つのマップ(例えば、画像および/またはメッシュ)を含むことが可能である。いくつかの例では、車両302は、マップに少なくとも部分的に基づいて制御されることが可能である。すなわち、マップは、車両302のロケーションを決定し、環境における物体を識別し、および/または環境内をナビゲートするルートおよび/または軌道を生成するために、ローカライゼーションコンポーネント320、パーセプションコンポーネント322、および/またはプランニングコンポーネント324に関連して用いられることが可能である。
【0051】
いくつかの例では、1つまたは複数のマップは、ネットワーク(複数可)158を介してアクセス可能なリモートコンピューティングデバイス(複数可)(たとえばコンピューティングデバイス(複数可)340など)に格納されることが可能である。いくつかの例では、複数のマップは、例えば、特性(例えば、実体の種類、時刻、曜日、1年の季節等)に基づいて格納されることが可能である。複数のマップを格納することは、同様のメモリー要件を有するが、マップにおけるデータがアクセスされることが可能である速さを上げることが可能である。
【0052】
さらに、メモリー318は、ユーザーインターフェースコンポーネント330を格納することもある。ユーザーインターフェースコンポーネント330は、車両302に関連付けられたユーザーインターフェースを生成することがある。場合によっては、ユーザーインターフェースは、車両の乗員がユーザーインターフェースを見ることがあるように、車両に関連付けられた(例えば、車両の内部に貼り付けられ、たとえば、Bluetoothまたは他のショートレンジの通信ネットワークを介して車両と通信している等)ディスプレイに提示されることがある。さらに加えて、または代わりに、ユーザーインターフェースは、ユーザーおよび/または乗員のスマートフォン、タブレット、またはパーソナルコンピューターのディスプレイに提示されることがある。ユーザーインターフェースコンポーネント330は、車両302の種々の構成要素および/またはセンサーからデータを受信し、データを用いて、環境を横切って進んでいる車両302のデジタル表現を生成することがある。たとえば、ユーザーインターフェースコンポーネント3330は、パーセプションシステム322からのデータおよび/または種々のセンサーシステム306からの生データを受信し、データを用いて、環境に配置されている他の車両、歩行者、自転車、構造物、および同類のもののデジタル表現を生成することがある。
【0053】
場合によっては、本明細書に述べられメモリーに格納されるコンポーネントのいくつかまたはすべての様相は、どんなモデル、アルゴリズム、および/または機械学習アルゴリズムでも含むことが可能である。例えば、場合によっては、たとえば、パーセプションシステム322、プランニングコンポーネント324、監視コンポーネント330、およびフィルタリングコンポーネント336などのメモリー318(および以下にさらに詳細に述べられるメモリー344)におけるコンポーネントは、ニューラルネットワークとして実装されることが可能である。
【0054】
本明細書に説明されるように、典型的なニューラルネットワークは、一連の連結された層を通じて入力データを通して出力を生成する生物学的にインスパイアされたアルゴリズムである。さらに、ニューラルネットワークにおける各層は、別のニューラルネットワークを含むことも可能である、またはあらゆる数の層を(畳み込みかどうかにかかわらず)含むことも可能である。本開示という状況において理解されることが可能であるように、ニューラルネットワークは、出力が学習パラメーターに基づいて生成される上記のアルゴリズムの幅広いクラスを参照することが可能である機械学習を利用することが可能である。
ニューラルネットワークという状況にて述べられるが、どんな種類の機械学習でも、本開示と矛盾することなく用いられることが可能である。例えば、限定されないが、機械学習アルゴリズムは、回帰アルゴリズム(例えば、通常の最小二乗回帰(OLSR)、線形回帰、ロジスティック回帰、ステップワイズ回帰、多変量適応型回帰スプライン(MARS)、局所推定スキャッタープロット平滑化法(LOESS))、インスタンスベースのアルゴリズム(例えば、リッジ回帰、最小絶対収縮および選択演算子(LASSO)、弾性ネット、最小角度回帰(LARS))、ディシジョンツリーアルゴリズム(例えば、分類および回帰ツリー(CART)、反復二分法3(ID3)、カイ二乗自動相互作用検出(CHAID)、決定断端、条件付きディシジョンツリー)、ベイジアンアルゴリズム(例えば、ナイーブベイズ、ガウスナイーブベイズ、多項式ナイーブベイズ、アベレージワンディペンデンスエスティメータズ(AODE)、ベイジアンビリーフネットワーク(BNN)、ベイジアンネットワーク)、クラスタリングアルゴリズム(例えば、k平均法、kメジアン、期待値最大化(EM)、階層クラスタリング)、相関ルール学習アルゴリズム(例えば、パーセプトロン、逆伝搬、ホップフィールドネットワーク、動径基底関数ネットワーク(RBFN))、深層学習アルゴリズム(例えば、ディープボルツマンマシン(DBM)、ディープビリーフネットワーク(DBN)、畳み込みニューラルネットワーク(CNN)、スタックドオートエンコーダ)、次元縮退アルゴリズム(例えば、主成分分析(PCA)、主成分回帰(PCR)、部分的最小二乗回帰(PLSR)、サモンマッピング、多次元尺度構成法(MDS)、プロジェクション追跡、線形判別分析(LDA)、混合判別分析(MDA)、二次判別分析(QDA)、柔軟判別分析(FDA))、アンサンブルアルゴリズム(例えば、ブースティング、ブートストラップアグリゲーション(バギング)、アダブースト、スタックドジェネラリゼーション(ブレンディング)、勾配ブースティングマシン(GBM)、勾配ブースト回帰ツリー(GBRT)、ランダムフォレスト)、SVM(サポートベクターマシン)、教師あり学習、教師なし学習、準教師あり学習等を含むことがある。アーキテクチャの追加の例は、たとえば、ResNet50、ResNet101、VGG、DenseNet、PointNet、および同類のものなどのニューラルネットワークを含む。
【0055】
少なくとも1つの例では、センサーシステム(複数可)306は、ライダーセンサー、レーダーセンサー、超音波トランスデューサー、ソナーセンサー、ロケーションセンサー(例えば、GPS、方位磁針等)、慣性センサー(例えば、慣性測定ユニット(IMU)、加速度計、磁力計、ジャイロスコープ等)、画像センサー(例えば、カメラ、RGB、IR、強度、深度等)、オーディオセンサー(例えばマイク)、ホイールエンコーダー、環境センサー(例えば、温度センサー、湿度センサー、光センサー、圧力センサー等)、温度センサー(例えば車両コンポーネントの温度を測定するための)等を含むことが可能である。センサーシステム(複数可)306は、今述べたまたは他の種類のセンサーの各々に関する複数のインスタンスを含むことが可能である。たとえば、ライダーセンサーは、車両302の角、前面、後面、側面、および/または上面に位置される個々のライダーセンサーを含むことが可能である。別の例として、画像センサーは、車両302の外部および/または内部のあちこちに、種々のロケーションに配置された複数の画像センサーを含むことが可能である。さらに付け加えられた例として、オーディオセンサーは、車両302の外部および/または内部のあちこちに、種々のロケーションに配置された複数のオーディオセンサーを含むことが可能である。さらに加えて、オーディオセンサーは、オーディオデータの指向性を決定するための複数のオーディオセンサーのアレイを含むことが可能である。センサーシステム(複数可)306は、入力を、車両コンピューティングデバイス304に提供することが可能である。さらに加えて、または代わりに、センサーシステム(複数可)306は、1つまたは複数のネットワーク158を介して、センサーデータを、特有の周波数において、予め決められた一定の時間が経つと、ほぼリアルタイムにおいて等、1つまたは複数のコンピューティングデバイス(複数可)340に送ることが可能である。
【0056】
さらに、車両302は、光および/または音を発するための1つまたは複数のエミッター308を含むことも可能である。今述べた例におけるエミッター308は、車両302の乗客と通信する内部のオーディオおよびビジュアルのエミッターを含む。一例として、内部のエミッターは、スピーカー、ライト、サイン、ディスプレイ画面、タッチ画面、触覚に関するエミッター(例えば、振動および/またはフォースフィードバック)、メカニカルアクチュエーター(例えば、シートベルトテンショナー、シートポジショナー、ヘッドレストポジショナー等)、および同類のものを含むことが可能である。さらに、今述べた例におけるエミッター308は、外部のエミッターも含む。一例として、今述べた例における外部のエミッターは、進む方向、または車両の作動に関する他のインディケーション(例えば、インジケーターライト、サイン、ライトアレイ等)を合図するライト、および歩行者または他の近くの車と聞こえるように通信する1つまたは複数のオーディオエミッター(例えば、スピーカー、スピーカーアレイ、ホーン等)、アコースティックビームステアリング技術を含んでいる1つまたは複数を含む。
【0057】
さらに、車両302は、車両302と、1つまたは複数の他のローカルまたはリモートのコンピューティングデバイス(複数可)との間の通信を可能にする1つまたは複数の通信接続(複数可)310を含むこともある。たとえば、通信接続(複数可)310は、車両302上の他のローカルコンピューティングデバイス(複数可)との、および/またはドライブアセンブリ(複数可)314との通信を容易にすることがある。さらに、通信接続(複数可)310は、車両302に、他の近くのコンピュータデバイス(複数可)(例えば、他の近くの車両、交通信号機等)と通信できるようにすることも可能である。さらに、通信接続(複数可)310は、車両302がリモート遠隔操作システム148または他のリモートサービスと通信することを可能にする。
【0058】
通信接続(複数可)310は、車両コンピューティングデバイス(複数可)304を、別のコンピューティングデバイス(例えばコンピューティングデバイス(複数可)340)に、および/またはネットワークたとえばネットワーク(複数可)158などに接続するための物理および/または論理インターフェースを含むことが可能である。例えば、通信接続(複数可)310は、たとえば、IEEE702.11規格によって定義された周波数、たとえばBluetooth(登録商標)などのショートレンジのワイヤレス周波数、セルラー通信(例えば、2G、3G、4G、4G LTE、5G等)、またはそれぞれのコンピューティングデバイスが他のコンピューティングデバイス(複数可)とインターフェースをとることを可能にするどんな適切なワイヤードもしくはワイヤレスの通信プロトコルでも介してなど、Wi-Fiベースの通信を可能にすることが可能である。
【0059】
少なくとも1つの例では、車両302の直接接続312は、1つまたは複数のドライブアセンブリ(複数可)314を車両302の車体と結合させる物理的なインターフェースを提供することが可能である。例えば、直接接続312は、ドライブアセンブリ(複数可)314と車両302との間のエネルギー、流体、空気、データ等の伝達ができるようにすることが可能である。場合によっては、さらに、直接接続312は、車両302の車体にドライブアセンブリ(複数可)314を解放可能にしっかり固定することが可能である。
【0060】
少なくとも1つの例では、車両302は、1つまたは複数のドライブアセンブリ314を含むことが可能である。いくつかの例では、車両302は、単一のドライブアセンブリ314を有することが可能である。少なくとも1つの例では、車両302が複数のドライブアセンブリ314を有するならば、個々のドライブアセンブリ314は、車両302の向き合う端部(例えば、先頭の端部および後尾の端部、前方および後方等)に置かれることが可能である。
【0061】
ドライブアセンブリ(複数可)314は、高電圧バッテリー、車両を推進するモーター、他の車両システムによる使用のためにバッテリーからの直流を交流に変換するインバーター、(電気で動くことが可能である)ステアリングモーターおよびステアリングラックを含むステアリングシステム、油圧または電気アクチュエーターを含むブレーキングシステム、油圧および/または空気圧コンポーネントを含むサスペンションシステム、けん引のロスを軽減し制御を維持するブレーキ力を分配するための安定性制御システム、HVACシステム、ライティング(例えば、車両の外部の周囲を照らすヘッド/テールライトなどのライティング)、および1つまたは複数の他のシステム(例えば、冷却システム、安全性システム、オンボード充電システム、たとえば、DC/DCコンバーター、高電圧ジャンクション、高電圧ケーブル、充電システム、充電ポート等の他の電気コンポーネント)を含む、多くの車両システムおよび/またはコンポーネントを含むことが可能である。さらに加えて、ドライブアセンブリ(複数可)314は、センサーシステム(複数可)からのデータを受信し前処理することが可能であり、種々の車両システムの動作を制御するためのドライブアセンブリコントローラーを含むことが可能である。いくつかの例では、ドライブアセンブリコントローラーは、1つまたは複数のプロセッサーと、1つまたは複数のプロセッサーに通信接続されたメモリーとを含むことが可能である。メモリーは、ドライブアセンブリ(複数可)314の種々の機能性を行う1つまたは複数のシステムを格納することが可能である。その上さらに、ドライブアセンブリ(複数可)314は、それぞれのドライブアセンブリによって、1つまたは複数の他のローカルまたはリモートのコンピューティングデバイス(複数可)との通信を可能にする1つまたは複数の通信接続(複数可)を含むこともある。
【0062】
コンピューティングデバイス(複数可)340は、1つまたは複数のプロセッサー342と、1つまたは複数のプロセッサー342に通信接続されたメモリー344とを含むことが可能である。メモリー344は、ユーザーインターフェースコンポーネント346、乗り手履歴コンポーネント348、およびログデータ350を格納することがある。いくつかの例では、コンピューティングデバイス(複数可)340は、図1および図2に説明される遠隔操作システム148と関連付けられることがある。たとえば、コンピューティングデバイス(複数可)340は、遠隔操作システム148の遠隔操作インターフェース154のディスプレイ156を表すことがある。さらに加えて、または代わりに、コンピューティングデバイス(複数可)340は、遠隔操作システム148によってレバレッジされて、遠隔操作システム148に代わってデータを受信するおよび/または処理することがある。
【0063】
ユーザーインターフェースコンポーネント346は、車両302に関連付けられたユーザーインターフェースを生成することがある。ユーザーインターフェースは、テレオペレーターが車両302を遠くから監視することがあるように、テレオペレーターに関連付けられたデバイスに提示されることがある。たとえば、車両302が、第1の地理的なロケーション(例えば、サンノゼ)にて動作していることがある一方、リモートテレオペレーター(remote teleoperator)は、第2の地理的なロケーション(例えば、ロサンゼルス)から車両302を監視していることがある。ユーザーインターフェースコンポーネント346は、ネットワーク158を介して、車両302の種々の構成要素および/またはセンサーからデータを受信し、データを用いて、環境を横切って進んでいる車両302のデジタル表現を生成することがある。たとえば、ユーザーインターフェースコンポーネント346は、パーセプションシステム322からのデータおよび/または種々のセンサーシステム306からの生データを受信し、データを用いて、環境に配置されている他の車両、歩行者、自転車、構造物、および同類のもののデジタル表現を生成することがある。
【0064】
乗り手履歴コンポーネント348は、たとえば乗員160などの車両302の乗り手(例えば、現在およびまたは以前の車両の乗員)に関連付けられた種々のデータを格納することがある。いくつかの例では、乗り手履歴コンポーネント348は、各乗り手に関連付けられた統計352、各乗り手に関連付けられたチャット履歴354、および/または各乗り手に関連付けられた連絡情報356を格納する。乗り手統計352は、たとえば、乗り手に関連付けられた評価(rating)、乗り手に関連付けられたトリップ(trip)頻度、乗り手が進んだマイルの総数、乗り手が費やしたドル額、および同類のものを含むことがある。いくつかの例では、チャット履歴コンポーネント354は、乗り手とテレオペレーターとの間のすべての通信の履歴を格納することがある。たとえば、ユーザーインターフェースを用いて、テレオペレーターは、以下にさらに詳細に述べられるように、乗り手と通信することがある。今述べた通信の内容は、チャット履歴コンポーネント354によってロギングされることがある。さらに加えて、各乗り手に対する連絡情報356は、将来の使用のために格納されることがある。乗り手の連絡情報356は、いくつかの例では、乗り手のデバイス(例えば、携帯電話)に関連付けられた電話番号、乗り手に関連付けられた電子メールアドレス、乗り手に関連付けられたアカウント、および同類のものを含むことがある。
【0065】
いくつかの例では、メモリー344は、ログデータ350を含むことがある。ログデータ350は、ユーザーインターフェースを用いてテレオペレーターにより作成された1つまたは複数のノートを格納することがある。たとえば、異常が車両302に生じるならば、テレオペレーターは、将来の参照および/または診断のために、異常についてのノートをとることを望むことがある。したがって、ログデータ350には、テレオペレーターにより作成される上記ノートを格納することがある。
【0066】
車両302のプロセッサー(複数可)316およびコンピューティングデバイス(複数可)340のプロセッサー(複数可)342は、本明細書に説明されるように、データを処理し、動作を行う命令を実行する性能があるどんな適切なプロセッサーでもあることが可能である。一例としておよび限定ではない、プロセッサー(複数可)316および342は、1つまたは複数のCPU(中央処理装置)、GPU(Graphics Processing Unit)、または電子データを処理して、その電子データを、レジスターおよび/もしくはメモリーに格納されることが可能である他の電子データに変換するどんな他のデバイスもしくはデバイスの部分でも含むことが可能である。いくつかの例では、さらに、集積回路(例えば、ASIC等)、ゲートアレイ(例えば、FPGA等)、および他のハードウェアデバイスは、エンコードされた命令を実装するように構成される限り、考慮されるプロセッサーであることもできる。
【0067】
メモリー318、344は、非一時的なコンピューター読取り可能媒体の例である。メモリー318、344は、本明細書に説明される方法と、種々のシステムに帰する機能とを実装するためのオペレーティングシステムおよび1つまたは複数のソフトウェアアプリケーション、命令、プログラム、および/またはデータを格納することが可能である。種々の実装において、メモリーは、どんな適切なメモリー技術でも、たとえば、SRAM(スタティックRAM)、SDRAM(シンクロナスDRAM)、不揮発性/フラッシュ型メモリー、または情報を格納する性能があるどんな他の種類のメモリーでも用いて、実装されることが可能である。本明細書に説明されるアーキテクチャ、システム、および個々の要素は、多くの他の論理的な、プログラム的な、および物理的なコンポーネントを含むことが可能であり、添付の図面に示されるそれらは、本明細書の説明に関係する単なる例である。
【0068】
理解されることが可能であるように、本明細書に述べられる構成要素は、例示の目的のために区分されているとして説明される。しかしながら、種々の構成要素によって行われる動作は、どんな他の構成要素にでも組み合わされるまたは行われることが可能である。図3が分散システムとして例示される一方、代替の例において、車両302の構成要素は、コンピューティングデバイス(複数可)340と関連付けられることが可能であり、および/またはコンピューティングデバイス(複数可)340の構成要素は、車両302と関連付けられることが可能であることは、特筆されるべきである。すなわち、車両302は、コンピューティングデバイス(複数可)340に関連付けられた機能のうちの1つまたは複数を行い、逆もまた同様であることが可能である。
【0069】
例示的なユーザーインターフェース技術
図4は、環境を横切って進んでいる車両102を遠くから監視するための例示的なユーザーインターフェース(UI)400を例示する。いくつかの例では、ユーザーインターフェース400は、たとえば遠隔操作システム148の1つまたは複数のディスプレイ156などのディスプレイに提示されることがある。示されている、ユーザーインターフェース400は、環境を横切って進んでいる車両102のデジタル表現を、場合によっては車両102の軌道に関連付けられるドライビングコリドー138も同様に、含むことがある。
【0070】
いくつかの例では、ユーザーインターフェース400は、環境内に配置されている物体のデジタル表現を含むことがある。物体の各々は、たとえば、車両エージェント402、自転車に乗る人のエージェント404、および歩行者エージェント406など、異なる種類のエージェントを表すことがある。たとえば、検出された物体の種類が環境内にある別の車両であるならば、ユーザーインターフェース400は、物体を車両エージェント402として表すことがある。同様に、検出された物体の種類が自転車に乗る人または歩行者であるならば、ユーザーインターフェース400は、それぞれ、物体を自転車に乗る人のエージェント404または歩行者エージェント406として表すことがある。いくつかの例では、異なる物体は、エージェントの種類によって決まる、異なる形状、サイズ、色等を含むことがある。たとえば、車両エージェント402は、第1の色(例えば、青色)により表されることがあり、自転車に乗る人のエージェント404は、第2の色(例えば、紫色)により表されることがあり、歩行者エージェントは、第3の色(例えば、桃色)により表されることがある。別の例として、セダンは、セダンのボディスタイルに関連付けられた握りこぶしサイズおよび/または形状である第1の車両エージェント402によって表されることがあり、SUV(sport utility vehicle)は、SUVのボディスタイルに関連付けられた第2のサイズおよび/または形状である第2の車両エージェント402によって表されることがあり、ピックアップトラックは、ピックアップタックのボディスタイルに関連付けられた第3のサイズおよび/または形状である第3の車両エージェント402によって表されることがあり、セミトレーラトラックは、セミトレーラトラックのボディスタイルに関連付けられた第4のサイズおよび/または形状である第4の車両エージェント402によって表されることがある。さらに、簡単のため3次元(3D)の長方形ブロック、3Dの台形ブロック、および3Dの円柱として図4に例示されるが、他の形状および/またはデザインが、車両エージェント402、自転車に乗る人のエージェント404、および歩行者エージェント406を表すために想定されることは理解されることになる。たとえば、検出された物体がセダン型の車両からなるならば、物体を表す車両エージェント402は、セダン型の車両のかたちであり得る。
【0071】
いくつかの例では、ユーザーインターフェース400は、ディスプレイの異なる部分に提示される複数のインターフェースリージョン(interface region)を含むことがある。たとえば、インターフェースリージョンは、通信インターフェース408、車両制御インターフェース412、車両状態インターフェース414、および360度インターフェース416のうちの1つまたは複数を含むことがある。場合によっては、ユーザーインターフェース400は、図4に示されるよりも多くのインターフェースリージョンを含むことがあり、他の例では、ユーザーインターフェース400は、示されるよりも少ないインターフェースリージョンを含むことがある。
【0072】
ユーザーインターフェース400の通信インターフェース408は、1名または複数名の人とのリモートテレオペレーター通信を提供するように構成されることがある。たとえば、通信インターフェース408は、テレオペレーターが、車両102の1名または複数名の乗員(例えば、車両102の乗客および/またはオペレーター)、車両102に最も近い歩行者(例えば、歩行者エージェント406および/または自転車に乗る人のエージェント404)、他の車両(例えば、車両エージェント402)、他のテレオペレーター、第三者(例えば、第一応答者)、および同類のものと通信するのに用いることがある1または複数のチャットインターフェース410を含むことがある。さらに加えて、いくつかの例では、通信インターフェース408は、たとえば、「interior(内部)」、「exterior(外部)」、「listen(聞く)」、「speak(話す)」、「voice(音声)」、「rider(乗り手)」、「ops(オプス)」、および「note(ノート)」入力要素など、1つまたは複数の入力要素を含むことがある。さらに付け加えて、通信インターフェース408は、テレオペレーターが、テキストメッセージを入力することを可能にする、および/または音声メッセージを記録することを可能にするテキストフィールドおよび/または音声メッセージフィールドを含むことがある。
【0073】
いくつかの例では、音声、乗り手、オプス(ops)、およびノートの入力要素の各々は、異なる機能性に、および/または異なるチャットインターフェース410を開くことに関連付けられることがある。たとえば、音声入力要素は、音声および/またはオーディオメッセージを送ることと関連付けられることがある。図4に関して、音声入力素子が選択されているとして示される。いくつかの例では、音声入力要素が選択されると、チャットインターフェース410は、図4に示されるのと同様の外観を含むことがある。言い換えると、外部、音声入力要素が選択されるならば、内部、外部、聞く、および話す入力要素が、通信インターフェース408のチャットインターフェース410内に表示されることがある。いくつかの例では、内部入力要素は、車両102の内部の乗員が、音声および/またはオーディオメッセージが聞こえることがあるように、音声および/または音声メッセージに、車両102の内部に出力させることにならせることがある。対照的に、外部入力要素は、車両に最も近い歩行者が、音声および/またはオーディオメッセージが聞こえることがあるように、音声および/またはオーディオメッセージに、車両102の外部に出力させることにならせることがある。いくつかの例では、聞く入力要素は、テレオペレーターに、車両の、内部、我々の外側、外部を立ち聞きできるようにする。たとえば、聞く入力要素は、車両102の1つまたは複数のマイクが、テレオペレーターにより用いられることになることを可能にすることがある。いくつかの例では、話す入力要素は、テレオペレーターに、音声メッセージを記録する必要がなく、車両の乗員または車両に最も近い歩行者と話すこと(例えば、双方向通信)ができるようにする。
【0074】
いくつかの例では、乗り手入力要素は、車両の乗員へのテキストメッセージの送ることと関連付けられることがある。音声入力要素と同様に、乗り手入力要素は、図4に示されていない1つまたは複数の追加の入力要素を含むそれぞれのチャットインターフェース410の外観と関連付けられることがある。いくつかの例では、オプス入力要素(ops input element)は、車両102の他のテレオペレーターおよび/またはオペレーターと通信することと関連付けられることがある一方、ノート入力要素は、ノートをとることと関連付けられることがある。今述べた入力要素の各々は、例では、図4に示されていない追加の入力要素を含むそれぞれのチャットインターフェース410の外観と関連付けられることがある。種々のチャットインターフェース410および入力要素を含む通信インターフェース408に関するさらなる詳細を、以下にさらに詳細に述べる。いくつかの例では、通信インターフェース408は、新しいメッセージインジケータ418を提示することがある。新しいメッセージインジケータ418は、現在開かれていないチャットインターフェース内に、新しいメッセージが受信されたことをテレオペレーターに通知するために用いられることがある。たとえば、図4における新しいメッセージインジケータ418において、4つの新しい未読メッセージがオプスチャネルチャットインターフェース(ops channel chat interface)内に受信されたことを示すことがある。
【0075】
上述のように、さらに加えて、ユーザーインターフェース400は、車両制御インターフェース412を含むことがある。車両制御インターフェース412は、テレオペレーターが、車両102の1つまたは複数の構成要素および/または機能(例えば、ドア、窓、ライト、シェード、シート、ステレオ(例えば、音楽)、ディスプレイ画面(例えば、映画および/またはビデオを再生する、ユーザーインターフェースを表示する等)、クライメイトコントロール(climate control)等)を制御することを可能にするように構成されることがある。示されている、いくつかの例では、車両制御インターフェース412は、車両102の1つまたは複数の構成要素を制御または調整するための1つまたは複数の入力要素を含むことがある。たとえば、「door(ドア)」入力要素は、テレオペレーターに、車両102のドアを開けるおよび/または閉めることができるようにすることがある。「temp(温度)」入力要素は、テレオペレーターに、車両102の温度を調節する(例えば、エアコンまたはヒーターをオンにする)ことができるようにすることがある。いくつかの例では、「shade(シェード)」入力要素は、テレオペレーターに、車両のサンシェードを下げるおよび/または上げることができるようにすることがあり、「music(音楽)」入力要素は、テレオペレーターに、車両102によって出力される音楽を遠くから制御できるようにすることがある。さらに加えて、「light(ライト)」入力要素は、テレオペレーターに、たとえば内部および/または外部のライトなど、車両102のライトを制御できるようにすることがある。車両制御インターフェース412は、図4に示されているよりも多くの入力要素、または示されているよりも少ない入力要素を含む、あらゆる数の入力要素を含むことがある。
【0076】
場合によっては、車両制御インターフェース412の各々それぞれの入力要素は、車両の構成要素を制御するために、1つまたは複数の追加の入力要素と関連付けられることがある。たとえば、車両制御インターフェース412の特定の入力要素が選択されると、構成要素を制御するために追加の入力要素が表示されることがある。一例として、テレオペレーターがドア入力要素を選択するならば、たとえば、ドアを閉める入力要素、ドアを開ける入力要素も同様に、など、追加の入力要素が表示されることがある。車両制御インターフェース412の今述べた機能性および追加の機能性を、以下にさらに詳細に述べる。
【0077】
さらに加えて、ユーザーインターフェース400は、種々の例において、車両状態インターフェース414を含むことがある。車両状態インターフェース414は、車両102に関連付けられた情報をユーザーに提供するように構成されることがある。いくつかの例では、情報は、車両102の現在の速さ、車両102の進行方向(例えば、軌道)、車両102の現在のルートに関連付けられた交通記号(例えば、車両が停止標識にあるかどうか、現在のルートに関連付けられた制限速度標識等)、および同類のもののうちの1つまたは複数を含むことがある。車両状態インターフェース414に関連付けられた追加の詳細を、本開示において後に述べる。
【0078】
いくつかの例では、ユーザーインターフェース400は、360度インターフェース416を含むことがある。少なくとも1つの例では、360度インターフェース416は、車両102の1つまたは複数のカメラの360度カメラフィードを含むことがある。さらに加えて、または代わりに、360度インターフェース416は、車両102の外部の視点からの、環境内の1つまたは複数の物体を含む環境のデジタル表現を含むことがある。たとえば、車両102は、車両102の種々のロケーション(例えば、車両102の第1の側面、第2の側面、第3の側面、および第4の側面)に位置される1つまたは複数のセンサーを含み、360度インターフェース416のビューのパースペクティブは、1つまたは複数のセンサーのロケーションに対応することがある。
【0079】
図5Aおよび図5Bは、ひとまとめにして、車両102を遠くから監視するための例示的なユーザーインターフェース500を示す図である。例示的なユーザーインターフェース500は、第1のインターフェースリージョン502および第2のインターフェースリージョン504を含む、1つまたは複数の例示的なインターフェースリージョンを含む。例示的な第1のインターフェースリージョン502および第2のインターフェースリージョン504は、1名または複数名の人に関連付けられた情報を含むことがある。1名または複数名の人は、いくつかの例では、車両102の乗員160、車両102に最も近い歩行者等を含むことがある。
【0080】
示されている、例示的なユーザーインターフェース500の通信インターフェース408は、選択されている乗り手入力要素に関連付けられた例示的なチャットインターフェース410を含む。いくつかの例では、乗り手入力要素が選択されると、チャットインターフェース410は、たとえば、メッセージを入力するためのテキストフィールド508、および乗り手選択入力510など、図5Aおよび図5Bに示される1つまたは複数の入力要素を含むことがある。種々の例では、各々それぞれの乗り手選択入力510は、それぞれの人(例えば、車両の乗員、歩行者等)と関連付けられることがある。たとえば、示されている「rider 1(乗り手1)」入力要素を選択することにより、テレオペレーターは、車両に関連付けられた第1の人と(例えば、第1の人に関連付けられたモバイルデバイスを介して)通信することができることがある。さらに加えて、いくつかの例では、チャットインターフェース410は、テレオペレーターと本人との間の対話512を含むように拡張されることがある。たとえば、メッセージが人に送られる、および/または人から受信されると、対話512は、メッセージを含むように更新されることがある。いくつかの例では、それぞれの乗り手選択入力510は、車両の現在の乗員160と関連付けられることがある、または、代わりに、車両102の以前の乗員(例えば、ドロップオフされた人)および/または車両102の将来の乗員(例えば、ほぼピックアップされることになる人)と関連付けられることがある。
【0081】
いくつかの例では、第1のインターフェース502は、1名または複数名の人に関連付けられた第1の情報を表示することがある。場合によっては、第1のインターフェース502は、第1のプロファイル506A、第2のプロファイル506B、第3のプロファイル506C、および/または第4のプロファイル506N(本明細書において以後、ひとまとめにして「プロファイル506」と呼び、ただし、Nは1よりも大きいいずれかの数を表す)を含むことがある。プロファイル506の各々それぞれのプロファイルは、人に関連付けられた第1の情報を含むことがある。いくつかの例では、第1の情報は、人の写真、人の身元、人の評価(rating)、人に関連付けられたソーシャルメディア情報、人に関連付けられたピックアップロケーション、人に関連付けられたドロップオフロケーション、人をピックアップすることまたは人をドロップオフすることのうちの少なくとも1つに関連付けられたETA(estimated time of arrival)、および同類のものを含むことがある。
【0082】
場合によっては、プロファイル506は、テレオペレーターによって個々に選択可能であり得る。選択されると、プロファイルに対応する人に関連付けられている追加の情報が、第2のインターフェースリージョン504内に表示されることがある。たとえば、図5Aおよび図5Bにおいて、「rider 1(乗り手1)」に関連付けられているプロファイル506Aが選択され、乗り手1に関連付けられた追加の情報が第2インターフェースリージョン504内に表示される。
【0083】
例示的なユーザーインターフェース500の例示的な第2のインターフェース504は、たとえば、人との音声通話を促進にする「call(通話)」入力、人に関連付けられた統計を表示する「statistics(統計)」入力、人との通信履歴を表示する「message log(メッセージログ)」入力などの追加の入力要素を含むことがある。図5Aに示されている、例示的な第2のインターフェース504の統計入力が選択され、乗り手1に関連付けられた例示的な統計が示される。例示的な統計のうちのいくつかは、満足度の百分率、トリップ(trip)の総数、個人のトリップの百分率、共同利用(例えば、公共)のトリップの百分率、キャンセルの数、および以前の問題の数を含む。示される追加の例示的な統計は、お気に入りの音楽の局および/またはジャンル、お気に入りのムードの設定、温度の好み、確保平均チャート、および以前のピックアップおよびドロップオフのロケーションを含む乗車履歴を含むことがある。今述べた例示的な統計が図5Aに示されるが、他の統計が表示されることがあることは想定される。
【0084】
図5Bでは、ユーザーインターフェース500の例示的な第2インターフェース504のメッセージログ入力が選択される。いくつかの例では、メッセージログ入力が選択されると、例示的な第2のインターフェース504は、その人に関連付けられた対話履歴を表示することがある。図5Bでは、乗り手1に関連付けられているプロファイル506Aが選択されているので、テレオペレーターと乗り手1との対話履歴が示されている。
【0085】
図6A~6Jは、ユーザーインターフェースの例示的な通信インターフェース408の種々の例示的なレイアウトを示す図である。図6Aを参照して、例示的な通信インターフェース408は、チャットインターフェース410を含む。いくつかの例では、チャットインターフェース410は、たとえば、テキスト入力フィールド508、新規メッセージインジケータ418、および1つまたは複数のチャットインターフェース選択入力602など、1つまたは複数の入力および/または出力要素を含むことがある。新規メッセージインジケータ418は、1つまたは複数の新しいメッセージが、異なったチャットインターフェースにおいて、受信されたことを示すことがある。たとえば、図6Aでは、新規メッセージインジケータ418は、「RIDER」チャットインターフェースにおいて2つの新しいメッセージが受信されたことを示している。
【0086】
図6Aに示されている、「OPERATOR」チャットインターフェース選択入力602が選択される。いくつかの例では、OPERATORチャットインターフェース選択入力602が選択されたことに少なくとも部分的に基づいて、チャットインターフェース410は、たとえば、チャネル選択604、チャネルメンバー識別子606、メンバー追加入力608など、1つまたは複数の追加の入力および/または出力要素を提示することがある。チャネル選択604は、たとえば複数のテレオペレーター間のグループチャットなど、テレオペレーターが通信しているチャネルを示すことがあり、チャネルメンバー識別子606は、そのチャネルを用いてさらに通信しているそれぞれの人を示すことがある。さらに加えて、メンバー追加入力608は、たとえば別のテレオペレーターなど、別の人にチャネルに加わるよう要求するテレオペレーターにより用いられることがある。いくつかの例では、OPERATORチャットインターフェース選択入力602が選択されたことに少なくとも部分的に基づいて、および「CHANNEL 1」が選択されたことに少なくとも部分的に基づいて、テレオペレーターと種々のチャネルメンバーとの間に送られたメッセージの対話512が提示されることがある。さらに加えて、対話512の個々のメッセージは、チャネルのどのメンバーがメッセージを送ったかを示す識別子610を含むことがある。
【0087】
図6Bを参照して、例示的な通信インターフェース408は、チャットインターフェース410を含む。いくつかの例では、チャットインターフェース410は、たとえば、テキスト入力フィールド508、新規メッセージインジケータ418、および1つまたは複数のチャットインターフェース選択入力602など、1つまたは複数の入力および/または出力要素を含むことがある。新規メッセージインジケータ418は、1つまたは複数の新しいメッセージが、異なったチャットインターフェースにおいて、受信されたことを示すことがある。たとえば、図6Bでは、新規メッセージインジケータ418は、「OPERATOR」チャットインターフェースにおいて6つの新しいメッセージが受信されたことを示している。
【0088】
図6Bに示されている、「RIDER」チャットインターフェース選択入力602が選択される。いくつかの例では、RIDERチャットインターフェース選択入力602が選択されたことに少なくとも部分的に基づいて、チャットインターフェース410は、たとえば1つまたは複数の乗り手選択入力510および乗り手選択インジケータ610など、1つまたは複数の追加の入力および/または出力要素を提示することがある。乗り手選択インジケータ610は、たとえば、絵、記号、および同類のものなど、選択された乗り手に関連付けられた識別子を含むことがある。さらに加えて、いくつかの例では、選択された乗り手選択入力510は、示されている、他の、選択されていない、乗り手選択入力510とは異なった色からなることがある。いくつかの例では、RIDERチャットインターフェース選択入力602が選択されたことに少なくとも部分的に基づいて、および「RIDER 1」が選択されたことに少なくとも部分的に基づいて、RIDER 1とテレオペレーターの間に送られたメッセージの対話512が提示されることがある。
【0089】
図6Cに移ると、RIDERチャットインターフェース選択入力602は依然として選択されているが、しかしながら、「RIDER 2」が乗り手選択入力510から選択され、乗り手選択インジケータ610はRIDER 2が選択されていることを示すように更新された。いくつかの例では、RIDERチャットインターフェース選択入力602が選択されたことに少なくとも部分的に基づいて、およびRIDER 2が選択されたことに少なくとも部分的に基づいて、RIDER 2とテレオペレーターの間に送られたメッセージの対話512が提示されることがある。図6Cに示されている、メッセージがテレオペレーターによりテキストフィールド508に入力され、送信メッセージ入力612が選択された。したがって、図6Dでは、対話512は、テレオペレーターにより送られたメッセージを含むように、メッセージがテレオペレーターにより送られる前に乗り手2から受信された追加のメッセージも同様に含むように、更新される。
【0090】
図6Eは、ユーザーインターフェースの通信インターフェース408のさらに別の例示的なレイアウトを示す図である。通信インターフェース408の例示的なレイアウトは、チャットインターフェース410、および1つまたは複数のチャットインターフェース選択入力602を含む。図6Eに示されている例では、「911」チャットインターフェース選択入力602が選択され、チャットインターフェース410は、通話入力614を含むように変えられる。いくつかの例では、通話入力614は、選択されると、テレオペレーターと911オペレーターとの間の911緊急通話を促進するように構成される。図6Eにおいて、通話入力614が選択された後、チャットインターフェース410は、図6Fに示されている、たとえば、911通話を終了する「HANG UP」入力616、「PATCH」入力618、および/または911通話の継続時間など、追加の要素を示すように更新されることがある。
【0091】
図6Gは、ユーザーインターフェースの通信インターフェース408の別の例示的なレイアウトを示す図である。通信インターフェース408の例示的なレイアウトは、チャットインターフェース410を含む。図6Gに示されている例では、「VOICE」チャットインターフェース選択入力602が選択され、チャットインターフェース410は、VOICEチャットインターフェースに関連付けられた1つまたは複数の追加の入力および/または出力要素を含むように変えられる。たとえば、1つまたは複数の追加の要素は、内部および外部選択(internal and external selection)620、リッスン入力(listen input)622、放送入力(broadcast input)624、およびメッセージ入力フィールド626を含むことがある。
【0092】
いくつかの例では、内部および外部選択620は、テレオペレーターに、車両内の内部にまたは車両の外部にオーディオメッセージを出力できるようにするよう構成されることがある。図6Gでは、内部および外部選択620は、車両の外部にオーディオメッセージを出力するよう選択されているが、図6Hでは、内部および外部選択620は、車両内の内部にオーディオメッセージを出力するよう選択されている。いくつかの例では、リッスン入力622は、テレオペレーターにオーディオメッセージを聞くことができるようにするよう構成されることがある。たとえば、車両に関連付けられた人(例えば、乗員、歩行者等)は、テレオペレーターに音声メッセージを送ることがあり、テレオペレーターは、リッスン入力622を用いて音声メッセージを聞くことがある。いくつかの例では、放送入力624は、テレオペレーターにより用いられて、たとえば、音声メッセージをあらかじめ記録することなく、または聞こえるように出力される性能があるコンピューター化された話し言葉に変換されることになるメッセージをタイプすることなく、車両に関連付けられた人との二方向通信を可能にすることがある。
【0093】
上述したように、さらに、1つまたは複数の追加の要素は、メッセージ入力フィールド626を含むこともある。少なくとも1つの例では、メッセージ入力フィールド626は、テレオペレーターにより用いられて、送られることになる音声メッセージを記録することがある。さらに加えて、または代わりに、メッセージ入力フィールド626は、テレオペレーターにより用いられて、車両によって聞こえるように出力される性能があるコンピューター化された話し言葉に変換されることになるプレーンテキストメッセージをタイプする、または別のやり方により入力することがある。いくつかの例では、音声メッセージがテレオペレーターにより送られると、音声メッセージを表すオーディオ署名628が通信インターフェースによって表示されることがある。このようにして、オーディオ署名628は、テレオペレーターに、望まれるならば後に音声メッセージを再生できるようにする。
【0094】
図6Iは、ユーザーインターフェースの通信インターフェース408の別の例示的なレイアウトを示す図である。通信インターフェース408の例示的なレイアウトは、チャットインターフェース410を含む。図6Iに示されている例では、「NOTE」チャットインターフェース選択入力602が選択され、チャットインターフェース410は、たとえばクイックノート入力630など、NOTEチャットインターフェースに関連付けられた1つまたは複数の追加の入力および/または出力要素を含むように変えられる。いくつかの例では、クイックノート入力630のうちの1つが選択されて、クイックノート入力に関連付けられた1つまたは複数のメッセージ提案を生成することがある。たとえば、図6Iでは、「♯EMERGENCY」クイックノート入力630が選択され、図6Jでは、♯EMERGENCYクイックノート入力に関連付けられた1つまたは複数の提案メッセージを含むメッセージ提案ウィンドウ630が提示される。NOTEチャットインターフェースを用いるとき、ノートは、将来の参照のためにロギングされることがある。たとえば、車両が故障状態を経験するならば、故障状態に関連付けられた故障コードは、NOTEチャットインターフェースを用いて保存されることがある。
【0095】
図7は、タッチキーボードインターフェース702を含む、さらに別の例示的なユーザーインターフェース700を示す。タッチキーボードインターフェース702は、とりわけ、テレオペレーターにより用いられて、通信インターフェース408を用いてメッセージを生成することがある1つまたは複数のキー入力704を含むことがある。いくつかの例では、タッチキーボードインターフェース702は、ユーザーインターフェース700と同じディスプレイに提示されることがある、または異なったディスプレイに提示されることがある。
【0096】
いくつかの例では、テレオペレーターがメッセージ、ノート等をタイプしているとき、1つまたは複数の提案メッセージ706は、テレオペレーターによりタイプされている何かに少なくとも部分的に基づいてディスプレイに提示されることがある(例えば、予言的なテキスト)。たとえば、テレオペレーターによってタイプされる単語および/または語句は、提案メッセージを識別するために、単語または語句に関連付けられた文脈を決定するのに分析されることがある。一例として、テレオペレーターが通信インターフェース408のテキストフィールド508に単語「please」をタイプしたならば、1つまたは複数の提案メッセージ706は、「please buckle your seatbelt」と書いてある少なくとも第1の提案メッセージを含むことがある。さらに加えて、または代わりに、1つまたは複数の提案メッセージ706は、単語pleaseを含まないが、それにもかかわらず、単語「please」を含んで一般的に用いられる文脈に少なくとも部分的に基づいて、人から何かを要求することと関連付けられるとみなされる少なくとも第1の提案メッセージを含むことがある。一例として、単語pleaseと関連付けられるとみなされることがある提案メッセージは、「can you repeat that?」 と書いてあることがある。
【0097】
図8Aおよび図8Bは、例示的な車両102および例示的な車両制御インターフェース412を含む例示的なユーザーインターフェース800Aおよび800Bを示す図である。車両制御インターフェース412は、たとえば、ドア162、車両102の温度、ライト、音楽など、車両102の1つまたは複数の構成要素および/または機能を制御するための1つまたは複数の入力を含むことがある。
【0098】
いくつかの例では、車両制御インターフェース412の入力が選択されると、入力に関連付けられた構成要素および/または機能を制御するための1つまたは複数の追加の入力が表示されることがある。たとえば、図8Aを参照して、ドア制御入力802が選択され、追加のドア制御入力804が表示された。追加のドア制御入力804は、いくつかの例では、車両の第1のドアを開けることおよび閉めることための第1の入力と、車両の第2のドアを開けることおよび閉めることための第2の入力とを含むことがある。図8Aでは、車両102のドア2を閉める入力が選択され、ドア2(ドア162)が矢印により示されるように閉じていく。いくつかの例では、車両102のドア162が閉められると、車両102のデジタル表現は、図8Bに示されるように、ドアが閉められたことを示すように更新されることがある。
【0099】
図8Bでは、車両制御インターフェース412の温度制御入力806が選択され、追加の温度制御入力808が表示された。追加の温度制御入力808は、テレオペレーターに、追加の温度制御入力とインタラクションをすることによって、車両の温度を遠くから変えることができるようにすることがある。
【0100】
図9Aおよび図9Bは、ひとまとめにして、ディスプレイに示されていない車両が例示的な車両102に接近していることを示す例示的なオフスクリーンインジケータ908を含む別の例示的なユーザーインターフェース900を示す図である。いくつかの例では、ユーザーインターフェース900は、ディスプレイに提示される性能がある第1の視野902を含むことがある。しかしながら、車両102は、第2の視野904において、第1の視野の外側に位置される物体の存在を検出することができることがある。しかしながら、いくつかの例では、本明細書に説明されるたとえば1つまたは複数のディスプレイ156など、ユーザーインターフェース900を提示しているディスプレイは、第2の視野904全体の完全なグラフィック表現を含むには十分に大きくないことがある。上記のように、車両102は、たとえば検出された車両906など、テレオペレーターインターフェースを介してリモートテレオペレーターに対して見られない物体に応答すること(例えば、止まること、曲がること、または別のやり方により対応すること)がある。
【0101】
さらに加えて、または代わりに、検出された物体914は、別の状況では第1の視野902内に位置されることがあるが、検出された物体914は、ユーザーインターフェース900に提示されるインターフェースリージョン912によってテレオペレーターの視界からさえぎられることがある。したがって、オフスクリーンインジケータ908は、キャンバス916の外側に位置されるが、それにもかかわらず依然として第1の視野902内に位置される、車両102が応答することがある検出された物体914のインディケーションを提示するために用いられることがある。
【0102】
このようにして、オフスクリーンの物体に関連付けられた通知を提示することにより、さらに、ユーザーインターフェースに表示されないことがある外部の情報をユーザーに気付かせる一方、ユーザーインターフェースに表示される情報量は、ユーザーに情報を持たせすぎないように制限されることが可能である。今述べたことは、リモートユーザーが車両に物理的に存在しないとき、リモートユーザーが、セーフティクリティカルな環境において、より安全な決定をするのに役立つ。
【0103】
いくつかの例では、車両が能動的に応答すること(例えば、曲がること、止まること、減速すること、加速すること等)があり得る検出可能な物体を、オフスクリーン通知908により表す。たとえば、車両102は、別の車両910が第2の視野904内に位置されることを検出することがある。しかしながら、他の車両910の進行方向(例えば、軌道)が車両102から離れて行っているので、オフスクリーン通知908は、他の車両910の存在を示すユーザーインターフェース900に提示されないことがある。いくつかの例では、オフスクリーン通知908は、検出された物体906および/または914が車両102に接近している方向、検出された物体906および/または914に関連付けられた物体の種類(例えば、検出された物体が車両、歩行者、自転車に乗る人等であるかどうか)、検出された物体906および/または914が第1の視野902および/またはキャンバス916の範囲内になるまでの時間の推定量、および同類のものを示すことがある。いくつかの例では、オフスクリーン通知908がユーザーインターフェース900に提示されるかどうかは、検出された物体906および/または914に対して決定された速さ、検出された物体906および/または914が第1の視野902に入るまでの時間量、および/または検出された物体906および/または914の大きさに少なくとも部分的に基づくことがある。
【0104】
図10Aおよび図10Bは、本開示にて説明される例示的なユーザーインターフェースのうちの1つまたは複数に含まれることがある例示的な車両状態インターフェース414を示す図である。例示的な車両状態インターフェース414は、車両に関連付けられた情報を提供するように構成された1つまたは複数の出力要素1002~1008を含むことがある。たとえば、車両状態インターフェース414は、たとえば、交通信号、注意信号、制限速度標識、出口標識、停止標識、降車標識、進入禁止標識、踏切標識、および同類のものなど、車両が反応している交通信号および/または交通記号を示す1つまたは複数の交通記号要素1002Aおよび1002Bを含むことがある。
【0105】
いくつかの例では、車両状態インターフェース414は、車両の現在の速さを示すカレントスピードインジケータ(current speed indicator)1004を含むことがある。図10Aおよび図10Bでは、カレントスピードインジケータ1004は、車両が停止されていることを示している。いくつかの例では、車両状態インターフェース414は、車両の現在および/またはプランニングされた軌道を示す軌道要素1006を含むことがある。種々の例において、車両状態インターフェース414は、必要に応じて追加の出力要素を含むために、図10Bに示されている水平方向に拡張することがある。同様に、車両状態インターフェース414は、表示されている出力要素の量に少なくとも部分的に基づいて、図10Aに示されている水平方向に収縮することがある。
【0106】
例示的な方法
図11~13は、車両を遠くから監視することに関連付けられた種々のユーザーインターフェースをディスプレイに提示する例示的な方法を示すフローチャートである。図11~13に例示される方法は、便利なように、および理解を容易にするために、図1~10において説明された車両、遠隔操作システム、およびユーザーインターフェースのうちの1つまたは複数を参照して、説明される。しかしながら、図11~13に例示される方法は、図1~10において説明された車両、遠隔操作システム、およびユーザーインターフェースを用いて行われることに限定されず、本出願において説明されるその他の車両、遠隔操作システム、およびユーザーインターフェースのうちのいずれかを、本明細書に説明されるのとは別の車両、遠隔操作システム、およびユーザーインターフェースも同様に、用いて実装されることがある。さらにその上、本明細書に説明される車両、遠隔操作システム、およびユーザーインターフェースは、図11~13に例示される方法を行うことに限定されない。
【0107】
方法1100、1200、1300は、ハードウェア、ソフトウェア、またはそれらの組み合わせにおいて実装されることが可能である動作のシーケンスを表す、ロジカルフローグラフにおけるブロックの集まりとして例示される。ソフトウェアのコンテキストという状況では、ブロックは、1つまたは複数のコンピューター読取り可能記録媒体に格納されたコンピューター実行可能な命令を表し、1つまたは複数のプロセッサーによって実行されると、引用される動作を実行する。一般に、コンピューター実行可能命令は、特定の機能を行うまたは特定の抽象データ型を実装するルーチン、プログラム、オブジェクト、コンポーネント、データ構造、および同類のものを含む。動作が記述されている順序は、限定として解釈されることを意図せず、プロセスを実装するために、記述されているブロックをいくつでも、どんな順序でもおよび/または並列に組み合わされることが可能である。いくつかの態様では、処理の1つまたは複数のブロックは、完全に省略されることがある。さらにその上、方法1100、1200、1300は、全体的にまたは部分的に、互いとまたは他の方法と組み合わされることが可能である。
【0108】
図11は、車両の遠隔監視および/または制御のためにディスプレイにユーザーインターフェースを提示する例示的な方法1100を例示するフローチャートである。方法1100は、動作1102において始まり、環境および環境を横切って進んでいる車両の表現をディスプレイの第1の部分に提示することを含む。たとえば、遠隔操作システム148の遠隔操作インターフェース154は、1つまたは複数のディスプレイ156の第1の部分に、環境および環境を横切って進んでいる車両のデジタル表現を提示することがある。
【0109】
動作1104において、方法1100は、ディスプレイの第2の部分に、少なくとも第1の人とのユーザー通信を提供するように構成された通信インターフェースを提示することを含む。たとえば、遠隔操作システム148の遠隔操作インターフェース154は、1つまたは複数のディスプレイ156の第2の部分に通信インターフェースを提示することがある。さらに加えて、いくつかの例では、第1の人は、車両の乗員、車両のリモートオペレーター(remote operator)、車両に最も近い歩行者、またはあらゆる組み合わせを含むことがある。
【0110】
動作1106において、方法1100は、通信インターフェースの第1の入力要素を介して、第1のチャットインターフェースが開かれることになることを示す第1のデータを受信することを含む。例えば、テレオペレーター150は、1つまたは複数のディスプレイ156を用いて、通信インターフェースの第1の入力要素を選択することがある。たとえば、1つまたは複数のディスプレイ156は、タッチ画面ディスプレイを含むことがある、または、たとえば、マウス、キーボード、および同類のものなど、入力デバイスに通信接続されることがある。いくつかの例では、第1のチャットインターフェースは、第1の人または複数の人と関連付けられることがある。たとえば、第1のチャットインターフェースは、車両の第1の乗員、または車両の複数の乗員(例えば、グループチャット)と関連付けられることがある。
【0111】
動作1108において、方法1100は、第1のデータを受信することに少なくとも部分的に基づいて、第1のチャットインターフェースをディスプレイに提示することを含む。たとえば、第1のチャットインターフェースは、遠隔操作システム148の1つまたは複数のディスプレイ156に提示されることがある。動作1110において、方法1100は、通信インターフェースの第2の入力要素を介して、送られることになる第1のメッセージの少なくとも一部を表す第2のデータを受信することを含む。例えば、第2のデータは、通信インターフェース408のテキストフィールド508を用いて受信されるテキストデータであり得る。さらに加えて、第1のメッセージの一部は、たとえば単語「please」など、単一の単語またはメッセージのうちの単語の組み合わせを含むことがある。
【0112】
動作1112において、方法1100は、第2のデータに少なくとも部分的に基づいて、提案メッセージが生成されることになるかどうかを決定することを含む。たとえば、第1のメッセージの一部が、一般的に用いられる単一の単語または単語の組み合わせからなるならば、遠隔操作システム148は、単語または単語の組み合わせに関連付けられた1つまたは複数の提案メッセージを決定することがある。
【0113】
動作1114において、提案メッセージが生成されることにならないならば、方法1100は、第1のチャットインターフェース内のディスプレイに第1のメッセージを提示することを含む。たとえば、提案メッセージがなく、テレオペレーター150が第1のメッセージを送ることを決定するならば、第1のメッセージは、第1のチャットインターフェース内で提示されることがある。いくつかの例では、第1のメッセージは、第1のチャットインターフェース内の1つまたは複数のディスプレイ156に提示されることがある。
【0114】
動作1116において、提案メッセージが生成されることになるならば、方法1100は、提案メッセージをディスプレイに提示することを含む。例えば、第1のメッセージの一部が単語「please」を含み、遠隔操作システム148が単語「please」に関連付けられた1つまたは複数の提案メッセージを決定するならば、1つまたは複数の提案メッセージは、1つまたは複数のディスプレイ156に提示されることがある。一例として、および限定ではない、今述べた例における提案メッセージは、「please allow the doors to shut」または「please exit the vehicle carefully」と書いてあるメッセージを含むことがある。
【0115】
動作1118において、方法1100は、メッセージに、送られることを生じさせることを含む。たとえば、メッセージは、車両の乗員、車両に最も近い歩行者、車両のオペレーター(例えば、車内のオペレーターまたは別のリモートテレオペレーター)、および同類のものに関連付けられたデバイスに送られることがある。さらに加えて、メッセージに送られることを生じさせることは、メッセージが送られることになるというインディケーションを受信することに少なくとも部分的に基づくことがある。例えば、通信インターフェースは、選択されると、メッセージに送られることを生じさせる入力要素を含むことがある。
【0116】
図12は、車両の遠隔監視および/または制御のためにディスプレイにユーザーインターフェースを提示する別の例示的な方法1200を例示するフローチャートである。方法1200は、動作1202において始まり、(i)環境を横切って進んでいる車両のデジタル表現と、(ii)車両制御インターフェースとを含むユーザーインターフェースをディスプレイに提示することを含む。たとえば、ディスプレイは、1つまたは複数のディスプレイ156を含み、ユーザーインターフェースは、遠隔操作システム148によってディスプレイに提示されることがある。
【0117】
動作1204において、方法1200は、車両制御インターフェース内に、車両の複数の構成要素を制御することに関連付けられた複数の入力要素を提示することを含む。たとえば、複数の入力要素は、ドア制御入力802および/または温度制御入力806を含むことがある。動作1206において、方法1200は、複数の入力要素のうちの入力要素を介して、複数の構成要素またはシステムのうちの構成要素またはシステムが制御されることになることを示す第1のデータを受信することを含む。たとえば、第1のデータは、テレオペレーター150によって制御されることになる構成要素またはシステムの選択を示すことがある。
【0118】
動作1208において、方法1200は、ディスプレイに、第1のデータに少なくとも部分的に基づいて、構成要素またはシステムを制御することに関連付けられた追加の入力要素を提示することを含む。たとえば、構成要素またはシステムがドアを含むならば、追加の入力要素は、車両の種々のドアを開けることおよび閉じることのための要素を含むことがある。さらに加えて、または代わりに、構成要素またはシステムがHVAC(heating ventilation and air conditioning)システムを含むならば、追加の入力要素は、車両の温度を調節するための要素を含むことがある。
【0119】
動作1210において、方法1200は、追加の入力要素を介して、構成要素またはシステムの状態が第1の状態から第2の状態に変わることになることを示す第2のデータを受信することを含む。たとえば、追加の入力要素が車両のドアを開けることおよび閉じることに関連付けられるならば、車両ドアの状態を第1の状態から第2の状態に変えることは、ドアに、開けられた位置から閉められた位置に変えさせることを含むことがある。
【0120】
動作1212において、方法1200は、構成要素またはシステムの状態を第2の状態に変えることを含む。たとえば、データは、車両の構成要素またはシステムに状態を変えさせる車両に送られることがある。一例として、構成要素またはシステムが車両のドアを含むならば、データは、ドアに開けさせるまたは閉じさせる車両へ送られることがある。
【0121】
動作1214において、方法1200は、車両の構成要素またはシステムの状態が第1の状態から第2の状態に変わったかどうかを決定することを含む。たとえば、車両の構成要素またはシステムに関連付けられたデータ、たとえばセンサーデータなどが受信されて、車両の構成要素またはシステムが状態を変えたかどうかを示すことがある。一例として、および限定ではない、車両の構成要素またはシステムが車両のドアであるならば、センサーデータは、ドアが開いているか閉じているかどうかを示して受信されることがある。今述べたセンサーデータに少なくとも部分的に基づいて、車両の構成要素またはシステムの現在の状態が決定されることがある。
【0122】
動作1216において、方法1200は、構成要素またはシステムが第2の状態にあることを示すために、車両のデジタル表現を更新することを含む。たとえば、構成要素またはシステムが車両のドアからなり、ドアが閉められていることを示すセンサーデータが受信されるならば、車両のデジタル表現は、車両のドアが閉められた位置にあることを示すように更新されることがある。
【0123】
図13は、車両の遠隔監視および/または制御のために、車両が反応することがある物体の存在を示すユーザーインターフェースにオフスクリーン通知を提示するためにも同様に、ディスプレイにユーザーインターフェースを提示するさらに別の例示的な方法1300を例示するフローチャートである。方法1300は、動作1302において始まり、(i)環境の第1の視野、および(ii)環境を横切って進んでいる車両についてのデジタル表現を少なくとも含むユーザーインターフェースを、ディスプレイに提示することを含む。いくつかの例では、ユーザーインターフェースは、遠隔操作システム148の1つまたは複数のディスプレイ156に提示されることがある。
【0124】
動作1304において、方法1300は、第1の視野の外側にある環境の第2の視野内に配置された1つまたは複数の物体を表すデータを受信することを含む。さらに加えて、または代わりに、第1の視野内に配置されているが、別の状況では、ディスプレイ156を用いてテレオペレーター150により見られることからさえぎられている1つまたは複数の物体を表すデータが受信されることがある。たとえば、1つまたは複数の物体は、ユーザーインターフェースのインターフェースリージョンによって視界からさえぎられることがある。
【0125】
動作1306において、方法1300は、データに少なくとも部分的に基づいて、1つまたは複数の物体のうちの第1の物体に関連付けられた進行方向を決定することを含む。たとえば、軌道は、第1の物体に対して決定されることがある。動作1308において、方法1300は、データに少なくとも部分的に基づいて、および進行方向に少なくとも部分的に基づいて、第1の物体が第2の視野から第1の視野へ移動することに関連付けられた時間期間を決定することを含む。
【0126】
動作1310において、方法1300は、時間期間がしきい値時間期間未満であるかどうかを決定することを含む。いくつかの例では、しきい値時間期間は、たとえば、1秒、2秒、5秒、10秒など、予め定義された時間量を含むことがある。動作1312において、方法1300は、第1の物体が第1の視野にほぼ入ることになるというインディケーションをディスプレイに提示することを含む。いくつかの例では、インディケーションを提示することは、時間期間がしきい値時間期間未満であることに少なくとも部分的に基づくことがある。
【0127】
代わりに、動作1314において、方法1300は、第1の物体が第1の視野にほぼ入ることになるというインディケーションをディスプレイに提示することを控えることを含む。たとえば、時間期間がしきい値時間期間よりも大きいならば、方法は、インディケーションを提示することを控えることがある。
【0128】
本明細書に説明される種々の技法は、コンピューター読取り可能ストレージに格納され、たとえば、図に例示されるような1つまたは複数のコンピューターまたは他のデバイスのプロセッサー(複数可)によって実行されるコンピューター実行可能な命令またはソフトウェア、たとえば、プログラムモジュールなどの文脈において実装されることがある。一般に、プログラムモジュールは、ルーチン、プログラム、オブジェクト、構成要素、データ構造等を含み、および特定のタスクを行うための動作ロジックを定義するまたは特定の抽象データ型を実装する。
【0129】
他のアーキテクチャは、説明される機能性を実装するのに用いられることがあり、本開示の範囲内にあることが意図される。さらにその上、責任の特定の配分が、議論の目的のために上に定義されるが、種々の機能および責任は、状況に従って、異なるやり方において配分され分割されることがあるだろう。
【0130】
同様に、ソフトウェアは、種々のやり方においておよび異なる手段を用いて、格納され配分されることがあり、上に説明された特定のソフトウェアの格納および実行の構成は、多くの異なるやり方において様々であることがある。ゆえに、上に説明された技法を実装するソフトウェアは、具体的に説明されるメモリーのかたちに限定されず、種々の種類のコンピューター読取り可能媒体に配分されることがある。
【0131】
例示的な箇条
本節の例示的な箇条のいずれかは、例示的な箇条の他のいずれか、および/または、本明細書に説明された他の例または態様のいずれかと共に用いられることがある。
【0132】
A.システムは、1つまたは複数のプロセッサーと、1つまたは複数のプロセッサーによって実行されると、システムに、車両のフリートに関連付けられた情報をリモートオペレーターに提供するように構成されたユーザーインターフェースをディスプレイに提示し、ユーザーインターフェースは、環境および環境を横切って進んでいる車両のフリートの車両の表現と、車両の乗員および別のリモートオペレーターとの通信をリモートオペレーターに提供するように構成された通信インターフェースを含むこと、通信インターフェースの第1の入力要素を介して、通信インターフェースの第1のチャットインターフェースが開かれることになることを示す第1のデータを受信し、第1のチャットインターフェースは、乗員と関連付けられること、第1のデータを受信することに少なくとも部分的に基づいて、ディスプレイに第1のチャットインターフェースの提示を生じさせること、通信インターフェースの第2の入力要素を介して、第1の乗員に送られることになる第1のメッセージを表す第2のデータを受信すること、および、第1のメッセージが送られることになるというインディケーションを受信することに少なくとも部分的に基づいて、第1のメッセージに送られることを生じさせ、第1のチャットインターフェース内のディスプレイに第1のメッセージを提示することを含む動作を行わせる命令を格納する1つまたは複数のコンピューター読取り可能媒体とを含む。
【0133】
B.動作は、通信インターフェースの第3の入力要素を介して、第2のチャットインターフェースが開かれることになることを示す第3のデータを受信し、第2のチャットインターフェースが他のリモートオペレーターと関連付けられること、第3のデータを受信することに少なくとも部分的に基づいて、第1のチャットインターフェースの提示を抑制している間、ディスプレイに第2のチャットインターフェースの提示を生じさせること、通信インターフェースの第2の入力要素を介して、他のリモートオペレーターに送られることになる第2のメッセージを表す第4のデータを受信すること、および、第2のメッセージが送られることになるというインディケーションを受信することに少なくとも部分的に基づいて第2のチャットインターフェース内のディスプレイに第2のメッセージを提示することをさらに含むことを記載する項Aのシステム。
【0134】
C.ユーザーインターフェースは、車両の構成要素またはシステムの制御を提供する車両制御インターフェースをさらに含み、動作は、車両制御インターフェースの第1の入力要素を介して、車両の構成要素またはシステムが制御されることになることを示す第3のデータを受信すること、および、車両に信号を送信し、信号が車両制御インターフェースの第1の入力要素に従って車両に構成要素を制御させるよう構成されることを記載する項AまたはBのいずれか1つのシステム。
【0135】
D.動作は、ネットワークを介して、車両または車両の構成要素のうちの少なくとも1つに作動を行わせる要求を受信すること、および、ユーザーインターフェースの入力要素を介して、車両または構成要素に作動を行わせる第3データを受信することをさらに含むことを記載する項A~Cのいずれか1つのシステム。
【0136】
E.方法は、ディスプレイの第1の部分に、環境および環境を横切って進んでいる車両のデジタル表現を提示すること、ディスプレイの第2の部分に、第1の人との通信を提供するように構成されている通信インターフェースを提示すること、通信インターフェースの第1の入力要素を介して、第1のチャットインターフェースが開かれることになることを示す第1のデータを受信し、第1のチャットインターフェースが第1の人と関連付けられること、第1のデータを受信することに少なくとも部分的に基づいて、ディスプレイに第1のチャットインターフェースを提示すること、通信インターフェースの第2の入力要素を介して、送られることになる第1のメッセージを表す第2のデータを受信すること、および、第1のメッセージが送られることになるというインディケーションを受信することに少なくとも部分的に基づいて、第1のメッセージに送られることを生じさせ、第1のチャットインターフェース内のディスプレイに第1のメッセージを提示することを含む。
【0137】
F.第1の人は車両の乗員を含み、方法は、通信インターフェース内に、第1のメッセージが聞こえるように通信されることになるかどうかを示すユーザー入力を受信するように構成されている第3の入力要素を提示すること、第3の入力要素を介して、第1のメッセージが聞こえるように通信されることになることを示す第3のデータを受信することをさらに含み、および、第1のメッセージに送られることを生じさせることは、第1のメッセージに車両の内部において聞こえるように通信させることを含むことを記載する項Eの方法。
【0138】
G.第1の人は車両の外部に最も近い歩行者を含み、方法は、通信インターフェース内に、第1のメッセージが聞こえるように通信されることになるかどうかを示すユーザー入力を受信するように構成されている第3の入力要素を提示すること、第3の入力要素を介して、第1のメッセージが聞こえるように通信されることになることを示す第3のデータを受信することをさらに含み、および、第1のメッセージに送られることを生じさせることは、第1のメッセージに車両の内部において聞こえるように通信させることを含むことを記載する項EまたはFの方法。
【0139】
H.第2のデータは、第1のメッセージを表すテキストのストリングを含み、方法は、第3の入力要素を介して、第1のメッセージが聞こえるように通信されることになることを示す第3のデータを受信することをさらに含むことを記載する項E~Gのいずれか1つの方法。
【0140】
I.第2のデータは、第1のメッセージを表すオーディオデータを含み、方法は、第3の入力要素を介して、第1のメッセージが聞こえるように通信されることになることを示す第3のデータを受信することをさらに含むことを記載する項E~Hのいずれか1つの方法。
【0141】
J.第1の人は車両の第1の乗員を含み、方法は、通信インターフェースの第3の入力要素を介して、第2のチャットインターフェースが開かれることになることを示す第3のデータを受信し、第2のチャットインターフェースが第2の乗員に関連付けられること、第3のデータを受信することに少なくとも部分的に基づいて、ディスプレイに第2のチャットインターフェースを提示することと、通信インターフェースの第2の入力要素を介して、送られることになる第2のメッセージを表す第4のデータを受信すること、および、第2のメッセージが送られることになるというインディケーションを受信することに少なくとも部分的に基づいて、第2のチャットインターフェース内のディスプレイに第2のメッセージを提示することをさらに含むことを記載する項E~Iのいずれか1つの方法。
【0142】
K.人は車両のリモートオペレーターを含み、チャットインターフェースは車両のリモートオペレーターとの通信を提供するように構成されることを記載する項E~Jのいずれか1つの方法。
【0143】
L.第1のチャットインターフェースは第2の人にさらに関連付けられ、方法は、ネットワークを介しておよび第1の人に関連付けられた第1のデバイスから、第1のメッセージに対する第1の応答を表す第3のデータを受信すること、ディスプレイにおよび第1のチャットインターフェース内に、第1の人に関連付けられている第1の識別子を含む第1の応答を提示すること、ネットワークを介しておよび第2の人に関連付けられた第2のデバイスから、第1のメッセージまたは第1の応答のうちの少なくとも1つに対する第2の応答を表す第4のデータを受信すること、および、ディスプレイにおよび第1のチャットインターフェース内に、第2の人に関連付けられている第2の識別子を含む第2の応答を提示することをさらに含むことを記載する項E~Kのいずれか1つの方法。
【0144】
M.第1の人は車両の乗員を含み、方法は、乗員に関連付けられたデバイスから、車両または車両の構成要素のうちの少なくとも1つに作動を行わせる要求を受信すること、および、車両または構成要素に作動を行わせる入力を受信することをさらに含むことを記載する項E~Lのいずれか1つの方法。
【0145】
N.ディスプレイの第3の部分に、車両の現在の状態に関連付けられた情報を提供する車両状態インターフェースを提示し、情報が、車両の速さ、車両の進行方向、または車両の現在のロケーションに関連付けられた交通規則のうちの1つまたは複数を含むことをさらに含むことを記載する項E~Mのいずれか1つの方法。
【0146】
O.ディスプレイの第3の部分に、車両の構成要素の制御を提供する車両制御インターフェースを提示し、車両制御インターフェースが、車両の第1の構成要素に関連付けられている第1の入力要素を少なくとも含むことをさらに含むことを記載する項E~Nのいずれか1つの方法。
【0147】
P.車両の第1の構成要素は、車両のドア、車両のクライメイトコントロールシステム(climate control system)、または車両のステレオシステムのうちの少なくとも1つを含み、方法は、車両制御インターフェースの第1の入力要素を介して、第1の構成要素が制御されることになることを示す第3のデータを受信すること、および、車両に信号を送信し、信号が、車両制御インターフェースの第1の入力要素に従って、車両に構成要素を制御させるよう構成されることをさらに含むことを記載する項E~Oのいずれか1つの方法。
【0148】
Q.非一時的なコンピューター読取り可能記録媒体は、1つまたは複数のコンピューティングデバイスによって実行されると、1つまたは複数のコンピューティングデバイスに、ディスプレイの第1の部分に、環境を横切って進んでいる車両の表現を提示すること、ディスプレイの第2の部分に、第1の人とのユーザー通信を提供するように構成されている通信インターフェースを提示すること、通信インターフェースの第1の入力要素を介して、チャットインターフェースが開かれることになることを示す第1のデータを受信すること、第1のデータを受信することに少なくとも部分的に基づいて、ディスプレイにチャットインターフェースを提示すること、通信インターフェースの第2の入力要素を介して、送られることになるメッセージを表す第2のデータを受信すること、および、メッセージが送られることになるというインディケーションを受信することに少なくとも部分的に基づいて、メッセージに送られることを生じさせ、チャットインターフェース内のディスプレイにメッセージを提示することを含む動作を行わせる命令を格納する。
【0149】
R.第1の人は車両の外部に最も近い歩行者を含み、動作は、通信インターフェース内に、メッセージが聞こえるように通信されることになるかどうかを示すユーザー入力を受信するように構成されている第3の入力要素を提示すること、および、第3の入力要素を介して、メッセージが歩行者に聞こえるように通信されることになることを示す第3のデータを受信することをさらに含むことを記載する項Qの非一時的なコンピューター読取り可能記録媒体。
【0150】
S.チャットインターフェースは、第1の人と関連付けられる第1のチャットインターフェースを含み、動作は、通信インターフェースの第3の入力要素を介して、第2のチャットインターフェースが開かれることになることを示す第3のデータを受信し、第2のチャットインターフェースが第2の人に関連付けられ、第2の人が車両に関連付けられたリモートオペレーターを含むこと、第3のデータを受信することに少なくとも部分的に基づいて第1のチャットインターフェースを抑制する間、ディスプレイに第2のチャットインターフェースを提示すること、通信インターフェースの第2の入力要素を介して、送られることになる第2のメッセージを表す第4のデータを受信すること、および、第2のメッセージが送られることになるというインディケーションを受信することに少なくとも部分的に基づいて、第2のチャットインターフェース内のディスプレイに第2のメッセージを提示することをさらに含むことを記載する段落QまたはRのいずれか1つの非一時的なコンピューター読取り可能記録媒体。
【0151】
T.動作は、第1の人に関連付けられた第1のデバイスから、メッセージに対する第1の応答を表す第3のデータを受信すること、ディスプレイにおよびチャットインターフェース内に、第1の人に関連付けられている第1の識別子を含む第1の応答を提示すること、第2の人に関連付けられた第2のデバイスから、メッセージまたは第1の応答のうちの少なくとも1つに対する第2の応答を表す第4のデータを受信すること、および、ディスプレイにおよびチャットインターフェース内に、第2の人に関連付けられている第2の識別子を含む第2の応答を提示することをさらに含むことを記載する項Q~Sのいずれか1つの非一時的なコンピューター読取り可能記録媒体。
【0152】
U.動作は、通信インターフェースの第3の入力要素を介して、第1のメッセージが第1の乗員に聞こえるように通信されることになること、または第1のメッセージが第1の乗員に関連付けられたモバイルデバイスに送られることになることのうちの少なくとも1つを示す第3のデータを受信することをさらに含むことを記載する項A~Dのいずれか1つのシステム。
【0153】
V.車両のオペレーターは、リモートオペレーター、または車両の中のオペレーターのうちの少なくとも1名を含むことを記載する項E~Pのいずれか1つの方法。
【0154】
W.車両状態インターフェースは、車両のデジタル表現に最も近いディスプレイの第1の部分に配置され、車両状態インターフェースは、車両の現在の状態または環境のうちの少なくとも1つに少なくとも部分的に基づいて依存してサイズにおいて増加しサイズにおいて減少するように構成されることを記載する項E~PまたはVのいずれか1つの方法。
【0155】
X.システムは、1つまたは複数のプロセッサーと、1つまたは複数のプロセッサーによって実行されると、1つまたは複数のプロセッサーに、車両のフリートに関連付けられた情報をリモートオペレーターに提供するように構成されたユーザーインターフェースをディスプレイに提示し、ユーザーインターフェースは、環境および環境を横切って進んでいる車両のフリートの車両の表現と、車両の構成要素の制御をリモートオペレーターに提供するように構成された車両制御インターフェースとを含むこと、車両制御インターフェース内に、車両の構成要素を制御することに関連付けられた入力要素を提示すること、入力要素のうちの入力要素を介して、構成要素が制御されることになることを示す第1のデータを受信すること、ディスプレイにおいて、および第1のデータに少なくとも部分的に基づいて、構成要素を制御することに関連付けられた追加の入力要素の提示を生じさせること、追加の入力要素を介して、構成要素またはシステムの状態が変えられることになることを示す第2のデータを受信すること、第2のデータに少なくとも部分的に基づいて構成要素の状態に変わることを生じさせること、および、構成要素の状態の変化に少なくとも部分的に基づいて、車両のデジタル表現を更新して構成要素の現在の状態を示すことを含む動作を行わせる命令を格納する1つまたは複数のコンピューター読取り可能媒体を含む。
【0156】
Y.構成要素は車両のドアを含み、第1の状態は、ドアが閉められた位置にあることに関連付けられ、第2の状態は、ドアが開けられた位置にあることに関連付けられることを記載する項Xのシステム。
【0157】
Z.構成要素またはシステムは、車両のクライメイトコントロールシステムを含み、第1の状態は、第1の温度値と関連付けられ、第2の状態は、第2の温度値と関連付けられることを記載する項XまたはYのいずれか1つのシステム。
【0158】
AA.構成要素またはシステムは、車両のドア、車両の窓、車両のクライメイトコントロールシステム、車両のステレオシステム、車両の照明システム、車両のブラインド、または車両の乗車設定のうちの少なくとも1つを含むことを記載する項X~AAのいずれか1つのシステム。
【0159】
BB.システムは、1つまたは複数のプロセッサーと、1つまたは複数のプロセッサーによって実行されると、1つまたは複数のプロセッサーに、車両のフリートに関連付けられた情報をリモートオペレーターに提供するように構成されたユーザーインターフェースをディスプレイに提示し、ユーザーインターフェースは、(i)環境の第1の視野と(ii)環境を横切って進んでいる車両のフリートの車両とのデジタル表現を少なくとも含み、第1の視野の外にある環境の第2の視野内に配置される物体を表すデータを受信すること、データに少なくとも部分的に基づいて、物体に関連付けられた進行方向を決定すること、データに少なくとも部分的に基づいて、物体が第2の視野からそして第1の視野に移動することに関連付けられた時間期間を決定すること、時間期間がしきい値時間期間未満であることに少なくとも部分的に基づいて、物体がほぼ第1の視野に入ることになるというインディケーションの提示をディスプレイに生じさせることを含む動作を行わせる命令を格納する1つまたは複数のコンピューター読取り可能媒体とを含む。
【0160】
終結
上の議論が、説明される技法の例示的な実装を述べるが、他のアーキテクチャは、説明される機能性を実装するのに用いられ、本開示の範囲内にあることが意図される。さらにその上、主題が、構造的な特徴および/または方法論的な作動に特有の言葉において説明されたが、添付の特許請求の範囲において定義される主題が、説明される特定の特徴または作動に必ずしも制限されないということは、理解されることである。むしろ、特定の特徴および作動は、特許請求の範囲を実装する例示的なかたちとして開示される。
図1
図2
図3
図4
図5A
図5B
図6A
図6B
図6C
図6D
図6E
図6F
図6G
図6H
図6I
図6J
図7
図8A
図8B
図9A
図9B
図10A
図10B
図11
図12
図13
【国際調査報告】