IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ズークス インコーポレイテッドの特許一覧

<>
  • 特表-車両正常性モニタ 図1
  • 特表-車両正常性モニタ 図2
  • 特表-車両正常性モニタ 図3
  • 特表-車両正常性モニタ 図4
  • 特表-車両正常性モニタ 図5
  • 特表-車両正常性モニタ 図6
  • 特表-車両正常性モニタ 図7
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-06-02
(54)【発明の名称】車両正常性モニタ
(51)【国際特許分類】
   G01M 17/007 20060101AFI20230526BHJP
   B60R 16/02 20060101ALI20230526BHJP
   G07C 5/00 20060101ALI20230526BHJP
【FI】
G01M17/007 H
B60R16/02 650J
G07C5/00 Z
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2022562413
(86)(22)【出願日】2021-04-12
(85)【翻訳文提出日】2022-10-13
(86)【国際出願番号】 US2021026906
(87)【国際公開番号】W WO2021216313
(87)【国際公開日】2021-10-28
(31)【優先権主張番号】16/856,597
(32)【優先日】2020-04-23
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】16/856,733
(32)【優先日】2020-04-23
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】518156417
【氏名又は名称】ズークス インコーポレイテッド
(74)【代理人】
【識別番号】110001243
【氏名又は名称】弁理士法人谷・阿部特許事務所
(72)【発明者】
【氏名】モーリス ヘンリ アンドレ クレーセンス
(72)【発明者】
【氏名】ポール チョイン
【テーマコード(参考)】
3E138
【Fターム(参考)】
3E138AA07
3E138CA03
3E138CC01
3E138GA03
3E138MA03
3E138MB02
3E138MB03
3E138MB08
3E138MB09
3E138MB13
3E138MB20
3E138MC12
3E138MC20
3E138MD05
(57)【要約】
車両の正常性を監視し予測するための技術を開示する。いくつかの例では、センサデータ(例えば、オーディオデータ)を使用して、車両コンポーネントに関連付けられたセンサシグネチャを作成し得る。センサシグネチャを、車両コンポーネントの寿命にわたって車両コンポーネントに関連付けられた1つまたは複数の第2のセンサシグネチャと比較して、車両コンポーネントに関連付けられた動作ステータスの変化を決定し得る。いくつかの例では、機械学習モデルをトレーニングして、機械学習モデルに入力されたセンサデータに基づいて、車両コンポーネントおよび/または車両コンポーネントの動作ステータスを識別し得る。このようにして、センサデータを機械学習モデルに入力し得、機械学習モデルは、対応する車両コンポーネントおよび/またはコンポーネントに関連付けられた動作ステータスを出力し得る。
【特許請求の範囲】
【請求項1】
車両のコンポーネントに関連付けられた動作ステータスを示す第1のセンサシグネチャを受信することと、
前記車両の前記コンポーネントを起動させることと、
前記車両のセンサから、前記コンポーネントに関連付けられたデータを受信することと、
前記データに少なくとも部分的に基づいて、前記コンポーネントに関連付けられた第2のセンサシグネチャを決定することと、
前記第1のセンサシグネチャと前記第2のセンサシグネチャとの間の関連付けを決定することと、
前記関連付けに少なくとも部分的に基づいて、前記コンポーネントに関連付けられた前記動作ステータスを出力することと、
を含む方法。
【請求項2】
前記コンポーネントと同じタイプの別のコンポーネントに関連付けられた第2のデータを受信することと、
前記第2のデータに少なくとも部分的に基づいて、前記第1のセンサシグネチャを決定することと、
をさらに含む請求項1に記載の方法。
【請求項3】
前記車両の前記コンポーネントを起動させながら、動作パラメータに従って前記車両の別のコンポーネントの動作を制御することをさらに含み、前記動作パラメータが、速度、ステアリング角、制動条件、位置、温度、または時刻の少なくとも1つを含む、請求項1または2に記載の方法。
【請求項4】
前記センサがマイクロフォンを含み、前記データが前記コンポーネントおよびバックグラウンドノイズに関連付けられたオーディオデータを含み、前記第2のセンサシグネチャを決定することが、前記データを処理して、前記バックグラウンドノイズを除去することをさらに含む、請求項1乃至3のいずれか一項に記載の方法。
【請求項5】
前記第2のセンサシグネチャに少なくとも部分的に基づいて、前記動作ステータスを決定することをさらに含み、
前記動作ステータスは、前記コンポーネントに関連付けられた摩耗の表示、前記コンポーネントに関連付けられた予測される故障時間、または前記コンポーネントに関連付けられた異常の表示の少なくとも1つを含む、請求項1乃至4のいずれか一項に記載の方法。
【請求項6】
前記動作ステータスに少なくとも部分的に基づいて、前記車両または前記コンポーネントの少なくとも1つに整備を受けさせることをさらに含む、請求項1乃至5のいずれか一項に記載の方法。
【請求項7】
前記第1のセンサシグネチャまたは前記第2のセンサシグネチャの少なくとも1つが、経時的に前記センサからの測定値のデータ時系列を含み、前記車両に関連付けられた1つまたは複数の動作パラメータに関連付けられている、請求項1乃至6のいずれか一項に記載の方法。
【請求項8】
前記コンポーネントに関連付けられた前記動作ステータスを出力することは、前記動作ステータスを示すデータを前記車両に関連付けられたリモート監視システムに送信することを含む、請求項1乃至7のいずれか一項に記載の方法。
【請求項9】
前記データを前記車両のローカルメモリに格納することと、
ネットワークを介して、前記車両に関連付けられたリモートコンピューティングシステムにデータを送信することと、
さらに含む、請求項1乃至7のいずれか一項に記載の方法。
【請求項10】
センサが、マイクロフォン、慣性測定ユニット(IMU)、加速度計、または圧電センサを含む、請求項1乃至9のいずれか一項に記載の方法。
【請求項11】
前記センサが、前記車両の前記コンポーネントに関連付けられた音を位置決めするための1つまたは複数のマイクロフォンを含む、請求項1乃至9のいずれか一項に記載の方法。
【請求項12】
前記第1のセンサシグネチャは、第1の時間に前記コンポーネントに関連付けられたオーディオデータに少なくとも部分的に基づいており、
前記第2のセンサシグネチャは、前記第1の時間に続く第2の時間に前記コンポーネントに関連付けられたオーディオデータに少なくとも部分的に基づいている
請求項1乃至11のいずれか一項に記載の方法。
【請求項13】
前記第1のセンサシグネチャと前記第2のセンサシグネチャとの間の前記関連付けを決定することは、
前記第1のセンサシグネチャと前記第2のセンサシグネチャとの間の変動が閾値変動よりも大きいことを決定することと、
前記変動が前記閾値変動よりも大きいことに少なくとも部分的に基づいて、前記コンポーネントに関連付けられた前記動作ステータスを出力することと、
を含む、請求項1乃至12のいずれか一項に記載の方法。
【請求項14】
1つまたは複数のプロセッサによって実行されると、前記1つまたは複数のプロセッサに請求項1乃至請求項13のいずれか一項に記載の方法を実行させる命令を格納した1つまたは複数の非一時的コンピュータ可読記憶媒体。
【請求項15】
1つまたは複数のプロセッサと、
命令を格納する1つまたは複数のコンピュータ可読媒体と、を含むシステムであって、
前記命令は前記1つまたは複数のプロセッサによって実行されると、前記システムに、請求項1乃至13のいずれか一項に記載の方法を実行させる、システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両正常性モニタに関する。
【背景技術】
【0002】
車両は、車両の寿命にわたって摩耗する、故障する、またはそうでなければ、整備または交換を必要とする可能性のある広範囲の個々のコンポーネントまたはシステムを含む。今日の多くの車両は、コンポーネントの摩耗を診断し検出するために定期的な整備に依存している。いくつかの車両は、ユーザに定期な整備の実施を促し得る。さらに、いくつかの車両は、個々のコンポーネントが故障するまたは磨耗する場合に、ユーザに通知する。しかし、この時には、コンポーネントの修理は不便であり得る、または車両のダウンタイムを生じさせ得る。さらに、コンポーネントが修復不可能な損傷を受けた可能性があり、したがって、コンポーネントを交換するためにより多くの費用が発生する。さらに、コンポーネントの故障はまた、車両の他のコンポーネントの損傷および/または故障を引き起こし得る、さらに、修理費用および/またはコンポーネントを修理および/または交換するために必要な労働量を増大させる。
【0003】
[関連出願]
このPCT国際出願は、2020年4月23日に出願された米国特許出願第16/856,597号、および2020年4月23日に出願された米国特許出願第16/856,733号の優先権を主張し、これらは両方とも参照により本明細書に組み込まれる。
【図面の簡単な説明】
【0004】
詳細な説明は、添付図面を参照して説明される。図において、参照番号の一番左の桁は、その参照番号が最初に現れる図を識別する。異なる図における同じ参照番号の使用は、類似または同一のコンポーネントまたは特徴を示す。
【0005】
図1図1は、複数のセンサを含む例示的な車両を示す概略図である。
図2図2は、複数のセンサを含む例示的な車両の内部の概略図である。
図3図3は、複数のコンポーネントを含む車両の例示的なドライブアセンブリを示す分解図である。
図4図4は、本明細書に記載される技術を実施するための例示的なシステムのブロック図である。
図5図5は、車両の正常性および/または車両コンポーネントの正常性を監視するための例示的な方法を示すフローチャートである。
図6図6は、センサデータの処理の追加の詳細を含む例示的な方法を示すフローチャートである。
図7図7は、機械学習モデルを使用して車両の正常性および/または車両コンポーネントの正常性を監視する例示的な方法を示すフローチャートである。
【0006】
[詳細な説明]
上述したように、車両は、車両の寿命にわたって摩耗する、故障する、あるいは整備または交換を必要とする可能性のある広範囲の個々のコンポーネントまたはシステムを含み得る。ユーザに車両を整備するように思い出させる、またはコンポーネントが故障したときにユーザに通知する既存のアプローチは、ここまでに、コンポーネントの整備はユーザにとって不便であり得る、コンポーネントが回復不能な損傷を経験し得る、および/またはコンポーネントの故障が車両の他のコンポーネントに損傷を引き起こし得るため、不十分である。
【0007】
本出願は、車両の正常性を監視するためのシステムおよび方法を記載する。いくつかの例では、車両は、車両の寿命を通じて車両の1つまたは複数のコンポーネントに関連付けられたセンサデータを連続的または定期的に収集する1つまたは複数のセンサ(例えば、マイクロフォン、慣性測定ユニット(IMUs)、温度センサ、画像センサ、圧電センサ、圧力センサ、加速度計、大気質センサ、電圧センサ、電流センサなど)を含み得る。このセンサデータは、車両の1つまたは複数のコンポーネントに関連付けられたセンサシグネチャを含み得る。さらに、車両および/または車両に関連付けられたコンピュータ監視システムは、車両のコンポーネントに関連付けられたセンサシグネチャにおける変化を、経時的に決定することが可能であり得る。コンポーネントのセンサシグネチャの変化を決定することに基づいて、車両のコンポーネントに関連付けられた動作ステータスを決定し得る。限定ではなく例として、「動作ステータス」は、使用された寿命のパーセンテージおよび/またはコンポーネントの残り(例えば、使用寿命の50%、残り寿命の75%など)のような車両のコンポーネントに関連付けられた摩耗の表示、コンポーネントが故障する可能性があるまで車両が走行し得る時間および/または距離(例えば、コンポーネントの故障まで10時間、コンポーネントの故障まで100マイルなど)のようなコンポーネントに関連付けられた故障時間(time-to-failure)、または1つまたは複数の故障状態のようなコンポーネントに関連付けられた異常の表示、を含み得る。このようにして、車両の正常性および/または車両コンポーネントの正常性を車両の寿命を通じてより正確に監視し得、コンポーネントのセンサシグネチャの変化を使用して摩耗を検出し、および/または故障を予測し得、これは、コンポーネントが故障する前におよび最も都合の良いときに、整備を実行することを可能とする。さらに、いくつかの例では、本技術を、車両上に既に存在するセンサを使用して実施し得、その結果、本明細書に記載された技術の少なくとも一部を実施するために追加のハードウェアを必要としない。
【0008】
いくつかの例では、第1のセンサシグネチャ(例えば、ベースライン、初期、オリジナルなどの)が、車両のコンポーネントについて決定され得る。第1のセンサシグネチャは、1つまたは複数のマイクロフォンによってキャプチャされた音響シグネチャ、1つまたは複数のIMUによってキャプチャされた慣性測定値、1つまたは複数の温度センサによってキャプチャされた温度測定値、1つまたは複数の画像センサからの画像、および/またはこれらのセンサおよび/または他のセンサの組み合わせを含み得る。第1のセンサシグネチャは、コンポーネントのベンチテスト中に、またはコンポーネントと同じタイプ(例えば、同じまたは同等の部品番号、メーカー、モデル、カテゴリなど)のコンポーネントの故障および/または異常を過去に経験した別の車両によってキャプチャされたセンサデータに基づいて、決定し得る。追加的または代替的に、第1のセンサは、第1の時点(例えば、車両が最初に作動した(commissioned)とき、またはコンポーネントが整備に入れられたときの車両に関連付けられた「テストモード」の間)で決定され得る。最初に、車両は、コンポーネントに関連付けられたセンサデータをキャプチャし得るように、コンポーネントを1つまたは複数の条件下で起動させることに関連付けられた1つまたは複数の動作を実行し得る。例えば、暖房換気空調(HVAC)システムのファンのケースでは、車両は、その利用可能な設定(例えば、高、中、低など)の全てをファンに実行させ得る。いくつかの例では、車両は、様々な動作コンディション下でコンポーネントに関連付けられたセンサシグネチャを分離するために、複数の異なる条件下で(例えば、HVACシステムの温度設定が複数の異なる温度に設定されている間、車両が異なる速度で移動している間、1つまたは複数のドアまたは窓が開閉されているなど)、利用可能な設定の全てにわたってファンを付加的に運転し得る。次に、センサデータを使用して、コンポーネントの第1のセンサシグネチャを決定し得る。さらに、第2のセンサシグネチャ(例えば、プログレッシブ、リアルタイム、電流などの)を、第1の時間および/またはテストモードに続く第2の時間において、車両のコンポーネントについて、決定し得る。次いで、コンポーネントに関連付けられた動作ステータスを決定するために、第2のセンサシグネチャを第1のセンサシグネチャと比較し得る。車両は、本明細書に記載された技術を実行して、車両の任意のまたは全てのコンポーネントについてセンサシグネチャを決定し得る。このようにして、コンポーネントおよび/または車両の正常性を、リアルタイムで、およびコンポーネントが故障する前に決定し得る。加えて、これらの技術は、人間の干渉なしにコンポーネントの故障および/または異常を決定することを可能にする(例えば、無人および/または自律車両の場合、コンポーネントが摩耗している、故障している、またはそうでなければ、異常を経験しているときを決定するために、車両の乗員が存在しない可能性があるとき)。
【0009】
本明細書で使用されるように、「センサシグネチャ」は、経時的な1つまたは複数のセンサからの一連の測定値を表すデータを含み得る。センサデータのサンプルレートおよび特性は、使用されるセンサデータのタイプに依存して変化し得る。いくつかの例では、センサシグネチャは未処理のセンサデータを含み得、他の例では、センサデータはフィルタリングされ(例えば、ノイズを除去するために)、圧縮され、またはそうでなければ、処理されてセンサシグネチャを取得し得る。いくつかの例では、センサシグネチャを、センサデータの1つまたは複数の特徴を表すベクトルまたは行列として表し得る。いくつかの例では、オーディオデータのコンテキストなどにおいて、センサシグネチャは、MP3、アドバンストオーディオコーディング(AAC)、Opus、Vorbisなどのような既知のオーディオ符号化フォーマットで記憶されたデジタルオーディオデータを含み得る。少なくともいくつかの例では、センサシグネチャは、フーリエ変換、ラプラス変換、主成分分析、高調波分解、および/またはそれに関連付けられた特徴を決定する任意の他の方法などの未処理のセンサデータから得られた情報を含み得るが、これらに限定されない。
【0010】
複数のセンサシグネチャ(例えば、第1のセンサシグネチャおよび第2のセンサシグネチャ)は、使用されるセンサデータのタイプ、センサシグネチャのフォーマット、および/またはセンサシグネチャが比較される基準に依存する様々な異なる比較技術を使用して比較され得る。例えば、オーディオデータのコンテキストにおいて、比較される基準は、周波数(周波数のセットを含む)、大きさ、調性、波形の視覚的外観などを含み得る。限定ではなく例として、センサシグネチャは、時間領域における類似性(シフトありおよび/またはシフトなし)、周波数領域における類似性(シフトありおよび/またはシフトなし)、および/またはエネルギーまたはパワーにおける類似性に基づいて比較され得る。いくつかの例では、これらのまたは他の基準のいずれかまたはすべての加重表現に基づいて比較を実行できる。全体の一般的な相関を測定するために、および/または閾値を超える相関ベクトル内の値のみにわたって(例えば、ノイズ、エコーなどをフィルタリングするために)、相関ベクトル全体にわたって比較を行うことができる。
【0011】
いくつかの例では、機械学習モデルをトレーニングして、センサデータおよび/またはセンサシグネチャに関連付けられた車両の1つまたは複数のコンポーネントを決定し得る。例えば、特定タイプのセンサデータ(例えば、オーディオデータ、IMUデータ、画像データなど)および/またはセンサシグネチャに基づいて、機械学習モデルは、特定のセンサデータおよび/またはセンサシグネチャを生成/生成した車両のコンポーネントを決定し得る。追加的または代替的に、機械学習モデルは、個々のコンポーネントに対するセンサシグネチャの変化を検出するように、および/または車両のコンポーネントに関連付けられた動作ステータスを決定するようにトレーニングされ得る。例えば、センサデータおよび/またはセンサシグネチャを機械学習モデルに入力し得、これに応答して、機械学習モデルは、センサデータおよび/またはセンサシグネチャを生成したコンポーネントに関連付けられた対応する動作ステータスを決定および/または出力し得る。いくつかの例では、機械学習モデルをトレーニングして、車両のコンポーネントが、故障を経験する、またはそうでなければ、整備を必要としていると予測されるまでの推定された時間の量を決定し得る。このようにして、車両および/またはコンポーネントの整備を故障前の都合の良い時間に行い、それによって、コストのかかるダウンタイムを回避し、他のコンポーネントへの損傷を回避し得る。さらに、いくつかの例では、定期的な予防用の整備を回避し得、整備は必要な場合にのみ実施され得る。これは、不必要なダウンタイムを回避し、予防上の理由で車両コンポーネントを時期尚早に交換および/または修理する代わりに、車両コンポーネントがその最大寿命に到達することを可能にできる。本明細書に記載される技術は、実センサデータ(例えば、オーディオデータ、加速度計データ、電圧測定値、電流測定値、画像データ、圧電センサデータ、圧力データ、温度データなど)を使用して、コンポーネントに関連付けられたセンサシグネチャを決定し、次いで、それらのセンサシグネチャを経時的に評価して車両の正常性を正確に監視することによって、車両の実質的に任意のコンポーネントを監視するように構成可能である。
【0012】
限定ではなく一例として、本出願による車両の正常性を監視する方法は、車両のコンポーネントを第1の時点で起動し、車両のセンサから、車両のコンポーネントに関連付けられた第1のデータを第1の時点で受信することを含み得る。このようにして、第1の時点で車両のコンポーネントに関連付けられた第1のセンサシグネチャを、第1のデータに少なくとも部分的に基づいて決定し、記憶し得る。第1のデータは、オーディオデータ、慣性測定値、画像データなどの第1のセンサデータを含み得る。第1のセンサシグネチャは、いくつかの例では、ベースラインセンサシグネチャを含み得る。追加または代替の例では、車両のコンポーネントに関連付けられた動作ステータスを示す第1のセンサシグネチャを記憶し得る。このようにして、第1のセンサシグネチャは、当該コンポーネントと同様のコンポーネントに関連付けられたベンチテストセンサデータに基づき、または同様のコンポーネントの故障および/または他の異常を経験した別の車両の1つまたは複数のセンサによってキャプチャされた記憶ログデータに基づき得る。例えば、車両のブレーキシステムのケースでは、ブレーキパッドは、一般に、ブレーキパッドが摩耗の閾値量(例えば、80%、85%、90%など)を経験した後に、ブレーキパッドにきしみ音を生じさせる摩耗インジケータを含む。ベンチテスト中に、磨耗の閾値量を経験したブレーキパッドを使用して(例えば、別の車両で使用されていること、人工的に機械加工されていることなどによって)、システムが使用する第1のセンサシグネチャ(例えば、ベースライン音響シグネチャ)を確立し得る。少なくともいくつかの例では、そのような第1のセンサシグネチャを、テスト中の車両(および/またはコンポーネント、サブコンポーネントなど)の動作コンディション(またはパラメータ)に関連付け得る。非限定的な例として、第1のセンサシグネチャは、エンジン速度、他のコンポーネントの動作ステータス(例えば、HVAC温度および/またはファン速度)、ブレーキ圧力などに関連付けられ得る。
【0013】
本明細書で使用されるように、「第1の時間」、「第2の時間」、「第3の時間」などは、特定の時点を含み得る、および/またはある期間を含み得る。いくつかの例では、第1の時間は、車両が最初に作動したときに実行されるテスト状態に対応し得る。追加的または代替的に、車両のコンポーネントが整備に入れられた(例えば、交換、修理など)ときにテスト状態を実施し得る。いくつかの例では、第2の時間、第3の時間などは、車両の正常性を監視するために第1の時間の後に実行される診断状態に対応し得る。第2のおよび後続の時間は、周期的(例えば、毎日、毎週、毎月など)であり得る、および/または1つまたは複数のイベント(例えば、車両が整備外であるとき、車両が充電しているとき、車両が駐車しているとき、車両が輸送中であるときなど)によってトリガされ得る。
【0014】
いくつかの例では、本方法は、第2の時間に、車両コンポーネントに関連付けられた第2のセンサシグネチャを決定および/または記憶することを含み得る。第2のセンサシグネチャは、いくつかの例では、漸進的なセンサシグネチャを含み得、第2の時間は、上述した第1の時間の後であり得る。さらに、第2のセンサシグネチャを決定することは、第2のデータに少なくとも部分的に基づき得る。少なくとも1つの例において、第2のセンサシグネチャを決定するために、方法は、車両に第2の時間にコンポーネントを起動させることを含み得る。このようにして、車両コンポーネントに関連付けられた第2のデータを、第2の時間にセンサから受信し得る。第2のデータは、オーディオデータ、慣性測定値、画像データなどの第2のセンサデータを含み得る。
【0015】
いくつかの例では、本方法は、第1のセンサシグネチャと第2のセンサシグネチャとの間に変動および/または関連付けが存在するか否かを決定することを含み得る。変動および/または関連付けが存在する場合、本方法は、第1のセンサシグネチャと第2のセンサシグネチャとの間の変動に少なくとも部分的に基づいて、コンポーネントに関連付けられた動作ステータスを決定および/または出力することを含み得る。追加的または代替的に、本方法は、変動が閾値変動より大きいか否かを決定することを含み得、変動が閾値変動より大きいことに少なくとも部分的に基づいて、コンポーネントに関連付けられた動作ステータスを決定および/または出力し得る。いくつかの例では、本方法は、第1のセンサシグネチャ、第2のセンサシグネチャ、および/または第1のセンサシグネチャと第2のセンサシグネチャとの間の変動および/または関連付けに少なくとも部分的に基づいて、車両のコンポーネントに関連付けられた推定される故障時間(例えば、コンポーネントが故障し得るまでの推定マイル数、整備の時間など)を決定することを含み得る。この推定される故障時間は、さらに出力され、記録され、および/または車両に関連付けられたリモート監視システムに送信され得る。いくつかの例では、第1のセンサシグネチャと第2のセンサシグネチャとの間の変動および/または関連を決定することは、とりわけ、各センサシグネチャの周波数および/または大きさの比較に少なくとも部分的に基づき得る。追加的または代替的に、第1のセンサシグネチャと第2のセンサシグネチャとの間の変動および/または関連付けを決定することは、それぞれのセンサシグネチャ(例えば、どの周波数がバックグラウンドノイズに対して際立っているか)および/または車両および/またはコンポーネントに関連付けられた動作コンディション(例えば、毎分回転数(RPM)、速度、ステアリング角、温度など)の調性分析を実行することに少なくとも部分的に基づき得る。少なくともいくつかの例では、そのような比較は、例えば、車両および/または他のコンポーネントの動作パラメータに基づき得る。現在の動作パラメータが現在のパラメータと異なるような例では、補間または外挿を使用して、第1の特徴を変更し、および/または比較のための閾値差を調整し得る。
【0016】
いくつかの例では、センサシグネチャ(例えば、第1のセンサシグネチャおよび/または第2のセンサシグネチャ)の決定は、センサデータ(例えば、第1のデータおよび/または第2のデータ)の処理に少なくとも部分的に基づき得る。例えば、センサデータがオーディオデータを含む場合、オーディオデータは、車両のコンポーネントに関連付けられた音響シグネチャ、ならびにバックグラウンドノイズを含み得る。したがって、オーディオデータを処理(例えば、フィルタリング)して、オーディオデータからバックグラウンドノイズの少なくとも一部を除去し得る。このようにして、コンポーネントに起因するオーディオシグネチャの部分を分離し得、および/またはオーディオデータの音響シグネチャの品質を改善して車両の正常性をより良く監視し得る。さらに、センサデータを処理することは、センサデータの信号対雑音比に対する制限を設定すること、センサデータの目標周波数を設定すること、センサデータに高速フーリエ変換(FFT)処理を実行してセンサデータを時間領域から周波数領域に変換することなどを含むことを含み得る。
【0017】
いくつかの例では、上記のように第1のデータおよび第2のデータを受信するために第1の時間および第2の時間に車両のコンポーネントを起動する一方で、本方法は、動作パラメータに従って第1の時間および第2の時間に車両の1つまたは複数の他のコンポーネントの動作を制御することをさらに含み得る。例えば、起動しているコンポーネントがHVACシステムのファンである場合、次いで、車両は動作パラメータに従って他のコンポーネントの動作を制御しながら(例えば、車両が異なる速度で移動している間、車両が停止している間、1つまたは複数のドアまたは窓を開閉している間など)、様々な設定を通じてファンを動かし得る。このようにして、起動しているコンポーネントを様々な動作コンディション下で分離して、センサシグネチャを記録し得る。さらに、動作パラメータに従って他のコンポーネントの動作を制御することは、センサシグネチャに関連付けられたより一貫性のある測定を可能にし得る。追加の例では、動作パラメータは、車両の速度、コンポーネントの速度(例えば、並進または回転)、ステアリング角、環境空気温度、環境湿度、環境天候(例えば雨、雪、晴れなど)、コンポーネント温度、時刻、気圧(例えば、高度)などを含み得る。
【0018】
いくつかの例では、方法はさらに、車両および/またはコンポーネントを整備させることを含み得る。車両および/またはコンポーネントを整備させることは、コンポーネントの動作ステータス、コンポーネントの推定される故障時間、コンポーネントのセンサシグネチャなどに、少なくとも部分的に基づき得る。さらに、車両および/またはコンポーネントを整備させることは、車両が整備される必要があるという表示を出力すること、車両が整備される時間をスケジューリングすること、車両を整備場所まで自律的にナビゲートさせること、および/またはこれらの組み合わせを含み得る。
【0019】
いくつかの例では、第1のセンサシグネチャと第2のセンサシグネチャとの間の変動が閾値変動より大きいかどうかを決定することは、第3のセンサシグネチャに少なくとも部分的に基づき得る。第3のセンサシグネチャは、車両のコンポーネント、または別の車両の同一または類似のコンポーネントの故障した動作ステータスに関連付けられ得る。
【0020】
様々な例では、車両コンポーネントに関連付けられた実際の状態を経時的に測定して、車両コンポーネントに関連付けられた損傷モデルを生成し得る。例えば、車両コンポーネントによって経験される実際の状態(例えば、力、圧力、電流、温度など)に関連付けられた測定を経時的に行い得る。これらの測定は、コンポーネントに関連付けられた摩耗および/または損傷モデルを作成するために経時的に記録および評価され得、このモデルを、既知の動作限界(例えば、金属の疲労および/またはストレス状態、サイクル数、回転数、動作時間など)と比較して、いつコンポーネントを修理および/または交換すべきか、いつコンポーネントが故障および/または異常を経験し得るかなど、を決定し得る。少なくとも1つの例では、圧力センサを力の代用として使用して、車両の本体上の荷重入力を決定し得る。さらに、ストレス-ひずみ関係を車両のコンポーネントについて評価し得る(例えば、マイナーのルールおよび/または累積損傷モデルを使用して)。
【0021】
本明細書に記載されるように、機械学習モデルは、車両のコンポーネントに関連付けられた動作ステータスを予測するようにトレーニングされ得る。限定ではなく例として、本出願に従って機械学習モデルをトレーニングする方法は、車両の1つまたは複数のセンサによって以前にキャプチャされた記憶されたセンサデータを受信することを含み得る。センサデータは、オーディオデータ、慣性測定ユニット(IMU)データ、温度データ、画像データ、電圧測定、電流測定などを含み得る。いくつかの例では、センサデータを生成した車両のコンポーネントについて、動作ステータスを決定または知り得る。追加的または代替的に、センサデータを生成した車両のコンポーネントの識別を決定または知り得る。少なくとも1つの例では、センサデータはトレーニングデータを含み得る。トレーニングデータは、トレーニングデータがキャプチャされた時点でのコンポーネントのグランドトゥルース動作ステータスの指定(例えば、車両のコンポーネントに関連付けられた摩耗の表示、コンポーネントに関連付けられた故障時間、コンポーネントに関連付けられた異常の表示など)を含むようにラベル付けされ得る。追加的または代替的に、トレーニングデータは、トレーニングデータが表すコンポーネントの識別の指定を含むようにラベル付けされ得る。様々な例において、トレーニングデータは、別の車両の1つまたは複数の他のセンサによってキャプチャされた第2のセンサデータを含み得る。第2のセンサデータは、さらに、第2車両のコンポーネントに関連付けられ得る。グランドトゥルースの指定は、手動で生成され得る、またはコンポーネントに関連付けられた過去の整備ログデータに基づいて自動的に生成され得る。
【0022】
いくつかの例では、本方法は、センサデータを機械学習モデルに入力することと、機械学習モデルから、車両のコンポーネントに関連付けられた予測される動作ステータスを受信することとを含み得る。限定ではなく例として、機械学習モデルは、ペナルティ付き線形回帰モデル、線形回帰モデル、決定木、ロジスティック回帰モデル、サポートベクトルマシン(SVM)、ナイーブ・ベイズ・モデル、k-最近傍モデル、k-平均モデル、ニューラルネットワーク、または他の論理、モデル、またはアルゴリズムを単独でまたは組み合わせて含むおよび/または利用し得る。
【0023】
いくつかの例では、グラウンドトゥルース動作ステータス(例えば、測定されたまたは実際の動作ステータス)と、機械学習モデルによる予測される動作ステータスの出力との間の差を決定し得る。そのケースでは、整備中の車両コンポーネントの動作ステータスを正確に予測することが可能であるトレーニングされた機械学習モデルを取得するために、差に少なくとも部分的に基づいて、機械学習モデルの1つまたは複数のパラメータを変更および/または調整し得る。
【0024】
様々な例において、センサデータは、機械学習モデルに入力される前に処理および/またはフィルタリングされ得る。例えば、オーディオデータを含むセンサデータのケースでは、オーディオデータは、車両のコンポーネントに関連付けられた音響シグネチャおよびバックグラウンドノイズを、少なくとも含み得る。従って、本方法は、オーディオデータのバックグラウンドノイズを識別し、バックグラウンドノイズを含むオーディオデータの少なくとも一部を処理して、バックグラウンドノイズがより少ない処理済みのオーディオデータを生成することを含むことなど、を含み得る。さらに、センサデータを処理することは、センサデータの信号対雑音比に対する制限を設定すること、センサデータの目標周波数を設定すること、センサデータに高速フーリエ変換(FFT)処理を実行してセンサデータを時間領域から周波数領域に変換することなどを含み得る。したがって、少なくともいくつかの例では、処理済みのオーディオデータを機械学習モデルに入力し得る。
【0025】
いくつかの例では、機械学習モデルは、センサデータを生成したコンポーネントの位置を予測し得る。例えば、車両の1つまたは複数のセンサがマイクロフォンのアレイを含む例では、機械学習モデルは、オーディオセンサデータを生成したコンポーネントの位置を予測し得る。例として、コンポーネントがオーディオデータを生成する場合、アレイの第1のマイクロフォンの第1のオーディオ信号の強度は、第1のマイクロフォンが第2のマイクロフォンよりもコンポーネントに近い位置にあることに部分的に基づいて、アレイの第2のマイクロフォンの第2のオーディオ信号の強度よりも大きい場合がある(以下同様)。このようにして、それぞれの信号の強度に基づいて、オーディオデータの生成に関連付けられた車両のコンポーネントの予測された位置を予測し得る。さらに、機械学習モデルは、コンポーネントの予測された位置に少なくとも部分的に基づいて、オーディオデータの生成に関連付けられたコンポーネントのアイデンティティを予測し得る。
【0026】
様々な例では、トレーニングされた機械学習モデルを推論モードで(例えば、車両の動作中に)使用して、車両コンポーネントの動作ステータスを予測し得る。例えば、第2のセンサデータは、車両の1つまたは複数のセンサによってキャプチャされ、トレーニングされた機械学習モデルに連続的に、周期的に、および/または1つまたは複数の条件に応答して入力し得る。このようにして、トレーニングされた機械学習モデルは、車両のコンポーネントに関連付けられた動作ステータス(例えば、コンポーネントの実際および/または測定された動作ステータスと同じ予測される動作ステータス)を出力し得る。
【0027】
上述の例示的方法を含む本出願に記載される例示的な技術は、車両、車両コンピューティングデバイス、ロボット、車両に関連付けられたリモートコンピューティングシステム、機械学習モデルなどによって実行される方法として実施され得る。追加的または代替的に、本明細書に記載される例示的な技術は、1つまたは複数のプロセッサと、1つまたは複数のプロセッサによって実行されたときに、例示的な技術の様々な動作の1つまたは複数をシステムに実行させる命令を記憶する1つまたは複数のコンピュータ可読媒体とを含むシステムとして実装され得る。追加的または代替的に、本明細書に記載される例示的な技術は、コンピューティングデバイス(例えば、プロセッサ、車両コンピューティングデバイス、リモートコンピューティングシステムなど)によって実行されたときに、例示的な技術の様々な動作の1つまたは複数をコンピューティングデバイスに実行させる命令を格納する非一時的なコンピュータ可読記憶媒体として実装され得る。
【0028】
本明細書に記載される例のいくつかは、車両コンポーネントの動作状態を検出するためにオーディオデータを使用することに言及しているが、いくつかの例では、車両および/または車両のコンポーネントの動作状態を監視するために、オーディオデータに加えてまたは代わりに他のタイプのセンサデータを使用し得る。例えば、本明細書に記載された他のタイプのセンサのいずれかの出力は、機械学習モデルの入力として、センサシグネチャを生成するために、オーディオデータに加えてまたはその代わりに使用され得る。
【0029】
これらおよび他の態様は、添付の図面を参照して以下にさらに説明される。図面は単なる例示的な実施形態であり、特許請求の範囲を限定するものと解釈されるべきではない。例えば、例示的な車両は、人間の制御または介入なしに位置間をナビゲートすることが可能である自律車両として示され、説明されているが、本明細書に記載された技術は、非自律および/または半自律車両にも適用可能である。また、例示的な車両はコーチ式座席を有するものとして図示されているが、他の座席構成が企図される。本出願による車両は、任意の数の乗客(例えば、0、1、2、3、4、5、6、7、8など)を収容するように構成され得る。さらに、図示の例は客室を含むが、他の例では、車両は客室を有さない場合がある(例えば、貨物車両、配送車両、建設車両などのケースにおいて)。さらに、本明細書に記載される技術は、陸上車両、空中車両、水上車両、ロボットなどに適用可能である。
【0030】
[例示的な車両アーキテクチャ]
図1は、複数のセンサ102A乃至102N(以下、まとめて「センサ102」という)(Nは1以上の任意の数を表す)を含む例示的な車両100の概略図である。この例では、車両100は、人間の制御または介入なしに位置間をナビゲートすることが可能である双方向自律車両である。本明細書で使用されるように、双方向車両は、車両の第1の方向への走行と、車両の反対の第2の方向への走行との間を切り替えるように構成された車両である。換言すれば、車両100の固定された「前方」または「後方」は存在しない。むしろ、その時点で先頭である車両100の長手方向端部が「前方」となり、後尾の長手方向端部が「後方」となる。しかし、上述したように、本明細書に記載した技術を、自律、半自律、または手動駆動の車両、およびロボットなどを含む双方向車両以外の車両に適用してもよい。
【0031】
図1に示すように、センサ102は、車両100の外部の様々な場所に配置され得る。図示の例では、センサ102は、ドア開口部上方の車両100の第1の側面(図1に示す側)にアレイ状に配置された第1のセンサ102A、第2のセンサ102B、および第3のセンサ102Cを含む。第4のセンサ102Dおよび第5のセンサ102Eは、それぞれ、車両の先頭および後尾の端部の車両の頂部付近の第1の側面に配置されている。第6のセンサ102F、第7のセンサ102G、第8のセンサ102H、および第9のセンサ102Nは、第4のセンサ102Dおよび第5のセンサ102Eの下方の第1の側面に沿って配置されている。この例では、第4のセンサ102Dおよび第6のセンサ102Fは一般的に車両の第1の角部に配置されており、一方で、第5のセンサ102Eおよび第9のセンサ102Nは車両100の第2の角部に配置されている。この例では、第7のセンサ102Gは第1のドアパネル104Aの外側に配置され、第8のセンサ102Hは第2のドアパネル104Bの外側に配置されている。図1には示されていないが、追加のセンサを車両100の反対側の側面の同様の位置に配置し得る。限定ではなく例として、センサ102は、1つまたは複数のマイクロフォン、弾性表面波(SAW)センサ、慣性測定ユニット(IMUs)、温度センサ、画像センサ(例えば、カメラ)、lidarセンサ、radarセンサ、飛行時間(TOF)センサ、sonarセンサ、圧力センサ、ひずみゲージ、湿度センサ、地理位置センサ(例えば、GPSセンサ)、環境センサ、圧電センサ、加速度計、大気質センサ、電圧センサ、電流センサなどを含み得る。さらに、第1のセンサは第1のセンサタイプ(例えば、マイクロフォン)を含み得、第2のセンサは第2のセンサタイプ(例えば、IMU)を含み得るなどのように、センサ102は複数の異なるタイプのセンサを含み得る。いくつかの例では、センサは、1つまたは複数のセンサタイプ(例えば、マイクロフォンと画像センサの両方であるセンサ)を含み得る。車両100は、図1に示すセンサよりも多くのまたは少ないセンサを含み得る。例えば、図1には複数のセンサ102を含むように示されているが、車両100は、いくつかの例において、単一のセンサのみを含み得る。さらに、車両100上のセンサ102の位置は例示の目的のためであり、センサ102は、車両100の内部および/または外部を含む、図1に示された位置とは異なる車両100の位置に配置され得ることが企図される。
【0032】
車両のセンサ102は、様々な目的のために使用され得る。例えば、センサ102(例えば、画像センサ、lidarセンサ、radarセンサなど)の少なくとも一部は、センサデータを車両の知覚システムに提供して、車両が車両の環境内のオブジェクトを検出および分類すること、および/または環境内の車両の位置を特定することを可能にし得る。別の例として、センサ102(例えば、GPSセンサ、IMUsなど)の少なくとも一部は、車両の位置および/または運動データを、知覚システム、ナビゲーションシステム、または車両の他のシステムに提供し得る。追加的または代替的に、センサ102の少なくともいくつかは、車両を制御または相互作用するために、車両のユーザからの入力(例えば、車両の乗客によって提供される口述の、タッチ、および/またはジェスチャーコマンド)をキャプチャするために使用され得る。いくつかの例では、また、これらのセンサのいずれかまたは全てを使用して、車両のコンポーネントの動作に関連付けられたデータをキャプチャし得る。このようにして、いくつかの例では、車両の既存のセンサを活用して、車両または車両のコンポーネントの動作ステータスを監視し得る。いくつかの例では、センサ102はまた、車両のコンポーネントの動作に関連付けられたデータをキャプチャするように特別に設計され配置された追加のセンサを含み得る。
【0033】
いくつかの例では、センサ102A、102B、および102Cのようなセンサのアレイを使用し得る。そのような例では、アレイ内のセンサ102を使用して、センサデータに関連付けられた方向性を決定し得る。一例として、センサのアレイが、車両コンポーネントによって生成されたオーディオデータをキャプチャするためのマイクロフォンのアレイを含む場合、次いで、マイクロフォンのアレイによってキャプチャされたオーディオデータは、オーディオデータを生成したコンポーネントの位置を決定するため、および/またはオーディオデータが寄与できる異なるコンポーネント間を識別するために使用され得る。例えば、アレイの第1のマイクロフォンがアレイの第2のマイクロフォンよりもコンポーネントに近い場合、次いで、第1のマイクロフォンによってキャプチャされた第1のオーディオデータは、第2のマイクロフォンによってキャプチャされた第2のオーディオデータよりも強いオーディオ信号を含み得、以下同様である。したがって、第1のオーディオデータ、第2のオーディオデータ、第3のオーディオデータなどにおける異なる信号の強度に基づいて、オーディオデータを生成したコンポーネントの方向および/または位置を決定し得る。追加または代替の例では、センサを車両100の4つの象限(quadrant)のそれぞれに配置して、コンポーネントの位置を特定し得る。例えば、第1のマイクロフォンは、車両100の第1の象限(例えば、前および左象限)に配置され得、第2のマイクロフォンは、車両100の第2の象限(例えば、前および右象限)に配置され得、第3のマイクロフォンは、車両100の第3の象限(例えば、後および左象限)に配置され得、第4のマイクロフォンは、車両100の第4の象限(例えば、後および右象限)に配置され得る。この「象限」用語のコンテキストにおいて、用語「前方」は、車両の第1の端部(双方向車両の場合には、車両の先頭の端部または後尾の端部のいずれかであり得る)を指し、「後方」は、前方/第1の端部に対向する車両の第2の端部を指す。
【0034】
いくつかの例では、センサ102Gおよび102Hなどの1つまたは複数のセンサは、車両100上に、1つまたは複数のコンポーネントに近接して、配置され得る。図1の例では、センサ102Gおよび102Hは、ドアパネル104Aおよび104Bにそれぞれ配置されている。このようにして、センサ102Gおよび/またはセンサ102Hは、少なくとも1つの例において、ドアパネル104Aおよび104Bが正しく動作しているか否かを示すデータをキャプチャし得る。例えば、センサ102Gおよび/または102Hは、ドアパネル104Aおよび/または104Bの1つまたは複数が振動を経験していることを示すセンサデータをキャプチャし得る。したがって、振動を示すこのセンサデータを使用して、ドアパネル104Aおよび/または104Bの1つまたは複数が適切に閉じていない(例えば、ドアパネルの一方または両方が半開きである、軌道から外れている、オブジェクトによって妨げられているなど)ことを決定し得る。追加的または代替的に、センサデータは、ドアおよび/または窓シール106A、106B、および106Cの1つまたは複数が適切にシールされていない(例えば、シールの1つが磨耗または故障している)ことを示し得る。追加的または代替的に、センサデータは、車両のホイールのような他の近くのコンポーネントからのオーディオを含み得、これは近くのコンポーネントの状態(例えば、タイヤの摩耗状態、ブレーキの状態など)を示し得る。
【0035】
図2は、複数の内部センサ202A乃至202M(集合的に「内部センサ202」、ここでMは1以上の任意の整数)を含む、車両100などの車両の例示的な内部の概略図である。図示の例では、内部センサ202は、車両100のルーフ、ヘッドライナー、またはトリム部品に配置された第1のセンサ202A、第2のセンサ202B、および第3のセンサ202Cを含む。いくつかの例では、第1のセンサ202A、第2のセンサ202B、および第3のセンサ202Cは、車両100の中心線に沿って長手方向にアレイ状に配置され得る。第4のセンサ202Dおよび第5のセンサ202Eは、それぞれ、車両の先頭のおよび後尾の端部の車両の客室の上部付近の第1の側面に配置されている。図示していないが、同様のセンサを車両の反対側の第2の側面に配置できる。第6のセンサ202Fおよび第7のセンサ202Gは、それぞれ、客室の先頭のおよび後尾の端部内に、乗員のほぼ頭部または肩の高さに配置される。この例では、第1のドアパネル104Aの内側に第8のセンサ202Hが配置され、第2のドアパネル104Bの外側に第9のセンサ102Jが配置されている。第10のセンサ202Kおよび第11のセンサ202Mは、車両の1つまたは複数の機械システムまたはコンポーネントに近接して配置される。図2には示されていないが、追加のセンサを車両100の反対の側面の同様の位置に配置し得る。いくつかの例では、車両100の内部は、図2に示すセンサよりも多くのまたは少ないセンサを含み得る。例えば、図2には複数のセンサ202を含むように示されているが、車両100は、いくつかの例において、単一のセンサのみを含み得る。さらに、車両100の内部におけるセンサ202の位置は、例示の目的であり、センサ202は、車両100の図2に示された位置とは異なる位置に配置され得ることを理解されたい。
【0036】
この例では、車両100は取り外し可能なドライブアセンブリ204Aおよび204B(集合的に「ドライブアセンブリ204」)を含む。いくつかの例において、車両100は、車両の実質的に全ての主要なシステムおよび/またはコンポーネントがドライブアセンブリ204上に配置されるように構成され得る。例えば、各ドライブアセンブリ204は、推進システム、電力供給システム(バッテリ、燃料電池、燃焼エンジンなどを含む)および関連する電子機器、ステアリングシステム、ブレーキシステム、サスペンションシステム、HVACシステム、ホイールおよびタイヤアセンブリ、ならびに前述のシステムのための関連する制御およびアクチュエータの一部または全部を含み得る。いくつかの例では、ドライブアセンブリ204はまた、外部照明、本体パネル、フェイシャ、および/またはセンサ202Kおよび202Mなどのセンサを含み得る。取り外し可能なドライブアセンブリを含まない他の例では、センサ202およびこれらのシステムまたはコンポーネントのいずれかまたはすべてが、車両のフレームまたは本体に結合され得る。
【0037】
いくつかの例では、センサ202は、それぞれのドライブアセンブリ204の1つまたは複数のコンポーネントに関連付けられたセンサデータをキャプチャし得る。センサデータは、オーディオデータ、ビデオデータ、IMUデータ、温度データ、または本明細書に記載される他のタイプのセンサのいずれかに関連付けられたデータなどの1つまたは複数のタイプのセンサデータを含み得る。センサデータは、車両の1つまたは複数の異なるコンポーネントを表す、またはそれに関連付けられ得る。例えば、センサデータは、ブレーキシステムがきしみ音を発生させていることを示すオーディオデータ、車両の等速(CV)ジョイントが振動またはノッキングしていることを示すIMUデータ、HVACシステムのコンプレッサベアリングが故障していることを示すオーディオデータなどを含み得る。いくつかの例では、センサ202は、センサ202A、202B、および202Cなどのセンサのアレイを含み得る。このようにして、センサデータを使用して、ドライブアセンブリ204、ドライブアセンブリ204Aまたはドライブアセンブリ204Bのいずれがセンサデータの生成に関連付けられているかを決定し得る。
【0038】
この例におけるドライブアセンブリ204は取り外し可能であり、コンポーネントの摩耗または故障の場合には、容易に取り外して別のドライブアセンブリと交換できる。次に、ドライブモジュールのコンポーネントは、ドライブアセンブリのコンポーネントに関連付けられたセンサデータから決定されたセンサシグネチャに基づいて整備を受けることができる。いくつかの例では、本明細書に記載されるように、車両100のコンポーネントに関連付けられた動作ステータスを決定することに基づいて、ドライブアセンブリを、新しいブレーキシステム、新しいパワーユニット、新しいHVACシステム、新しいセンサシステムなどを含むドライブアセンブリにスワップアウトし得る。一例では、ドライブアセンブリのブレーキシステムが劣化した動作ステータスを有すると決定することに少なくとも部分的に基づいて(例えば、ブレーキのきしみ音に対応するオーディオセンサシグネチャに基づいて)、新しいブレーキシステムをドライブアセンブリに設置し得、または既存のブレーキシステムを整備し得る。別の例では、センサシグネチャ(例えば、電圧センサ、電流センサ、温度センサ、および/または他のセンサに基づく)は、バッテリが不調であり(例えば、完全に充電されていない、過充電されている、温度が過剰であるなど)、交換する必要があることを示し得る。
【0039】
図1を参照して上述したように、車両100は、ドアパネル104Aおよび104B(集合的に「ドアパネル104」と称する)と、ドアおよび/または窓シール106A、106B、および106C(集合的に「ドア/窓シール106」と称する)とを含む。ドア/窓シール106は、雨、水、雪、泥、ガス、臭気などの外部要素がドアおよび/または窓の継ぎ目を通して車両100の内部に入らないように、車両100のドアおよび/または窓の継ぎ目をシールする。さらに、ドア/窓シール106は、ノイズ、冷気、暖気などがドアおよび/または窓の継ぎ目を通って車両100の内部に入らないようにドアおよび/または窓の継ぎ目を遮断し得る。一例として、ドア/窓シール106は、ゴム、プラスチック、シリコン、織物、それらの複合物、またはドアパネル104と車体との間および/または窓とドアパネル104との間の継ぎ目をふさぐ他の材料を含み得る。
【0040】
いくつかの例では、センサ202は、ドア/窓シール106に関連付けられたセンサデータをキャプチャして、ドアシール106に関連付けられた状態および/または動作ステータスを決定し得る。例えば、センサ202は、車両100が車道を移動している間に、車両100の内部に関連付けられた周囲ノイズを表すオーディオデータをキャプチャし得る。このオーディオデータに基づいて、車両100の室内の周囲ノイズに対して漸進的な(例えば、第2の)センサシグネチャを決定し得る。この漸進的なセンサシグネチャは、ドア/窓シール106に関連付けられた動作コンディション(例えば、ドアシール106が適切にシールされているか否か)を決定するために、車両内部の周囲ノイズに関連付けられたベースライン(例えば、第1の)センサシグネチャと比較され得る。漸進的なセンサシグネチャが、閾値量(例えば、振幅、周波数、および/または他の特性の変化)だけベースラインシグネチャと異なる場合、次に、動作ステータスは、ドア/窓シール106の1つまたは複数が故障した、損傷した、またはそうでなければ、修理が必要であることを示し得る。さらに、センサ202のアレイが使用される例では、センサシグネチャはまた、故障した動作ステータスが関連付けられている特定のドアパネル104またはドア/窓シール106を示し得る。この例の変動では、この例のセンサ202は、車両の内部および/または外部に配置された圧力センサを追加的または代替的に含み得、ベースラインおよび漸進的なセンサシグネチャは、車両の内部および/または外部で行われた圧力測定値に、少なくとも部分的に基づき得る。ここでも、漸進的なセンサシグネチャが閾値量(例えば、絶対内部圧力の変化、車両の内部と外部との間の圧力差の変化など)だけベースラインシグネチャと異なる場合、次いで、動作ステータスは、ドア/窓シール106の1つまたは複数が故障した、損傷している、またはそうでなければ、修理が必要であることを示し得る。
【0041】
図3は、車両100のドライブアセンブリ204などの車両の例示的なドライブアセンブリの分解図であり、複数のコンポーネントおよび1つまたは複数のセンサを含む。図示の例では、ドライブアセンブリ204は、ドライブアセンブリ204の個々のコンポーネントまたはシステムに近接して配置された第1のセンサ300Aおよび第2のセンサ300B(集合的に「センサ300」と呼ばれる)を含む。図示の例では、ドライブアセンブリ204は、推進システム(駆動モータ302、ギアボックス304、車軸306を含む)、ブレーキシステム(ロータディスク308およびキャリパ310を含む)、電力システム(インバータ312を含む)、HVACシステム(空調コンプレッサ314を含む)、冷却システム(冷却ポンプ322を含む)、ホイールアセンブリ316、およびセンサシステム(センサ300を含む)を含む。
【0042】
例では、センサ300(および/またはセンサ102および/またはセンサ202)は、ドライブアセンブリ204の様々なコンポーネントおよび/または車両100の他のコンポーネントのいずれかに関連付けられたセンサデータをキャプチャし得る。限定ではなく例として、センサ300(および/またはセンサ102および/またはセンサ202)の少なくとも1つは、音波320を表すオーディオデータをキャプチャするオーディオセンサ(例えば、マイクロフォン)を含み得る。いくつかの例では、音波320は、車両100を減速させるためにブレーキシステムを起動させる際にブレーキシステムによって放出され得る。さらに、いくつかの例では、センサ300(および/またはセンサ102および/またはセンサ202)は、推進システムのコンポーネント(例えば、駆動モータ302、ギアボックス304、および/または車軸306)の1つが振動していることを示す慣性センサデータをキャプチャし得、これは、それぞれのコンポーネントの摩耗または故障を示し得る。いくつかの例では、センサ300(および/またはセンサ102および/またはセンサ202)は、推進システムの1つまたは複数のコンポーネントの位置が位置合わせされておらず、調整する、交換する、またはそうでなければ整備する必要があることを示す画像データをキャプチャするための画像センサを含み得る。さらに別の例として、センサ300(および/またはセンサ102および/またはセンサ202)は、空調コンプレッサ314、コンデンサ、熱交換器、および/または換気ファン(不図示)などのHVACシステムのコンポーネントに関連付けられたセンサデータ(例えば、オーディオデータ、温度データ、圧力データ、これらの組み合わせ、および/または他のデータ)をキャプチャし得る。上記は、本明細書に記載された技術に従って車両のコンポーネントの動作コンディションを監視するために使用できるセンサおよびセンサデータのほんの数例にすぎない。
【0043】
[例示的なシステムアーキテクチャ]
図4は、本明細書に記載される技術を実施するための例示的なシステム400のブロック図である。いくつかの例では、システム400は、図1、2、3などの他の図を参照して本明細書に記載される例の1つまたは複数の特徴、コンポーネント、および/または機能性を含み得る。
【0044】
システム400は、車両402を含み得る。いくつかの例では、車両402は、車両100に関して上述した特徴、コンポーネント、および/または機能性の一部または全てを含み得る。例えば、車両402は双方向車両を含み得る。図4に示すように、車両402はまた、車両コンピューティングデバイス404、1つまたは複数のセンサシステム406、1つまたは複数のエミッタ408、1つまたは複数の通信接続部410、1つまたは複数の直接接続部412、および/または1つまたは複数のドライブアセンブリ414を含み得る。
【0045】
車両コンピューティングデバイス404は、いくつかの例では、1つまたは複数のプロセッサ416と、1つまたは複数のプロセッサ416と通信可能に結合されたメモリ418とを含むことができる。図示の例では、車両402は自律車両であるが、車両402は任意の他のタイプの車両(例えば、自動車、トラック、バス、航空機、船舶、列車など)、または図4に示すようなコンポーネントを有する任意の他のシステム(例えば、ロボットシステム、自動組立/製造システムなど)とすることができる。例において、1つまたは複数のプロセッサ416は、メモリ418に格納された命令を実行して、1つまたは複数の車両コンピューティングデバイス404のために1つまたは複数の動作を実行し得る。
【0046】
1つまたは複数の車両コンピューティングデバイス404のメモリ418は、位置推定コンポーネント420、知覚システム422、計画コンポーネント424、1つまたは複数のシステムコントローラ426、マップコンポーネント428、監視コンポーネント430、フィルタリングコンポーネント432、車両402の1つまたは複数のコンポーネントに関連付けられた1つまたは複数のセンサシグネチャ434、および/またはセンサデータ436を記憶する。説明のためにメモリ418に存在するものとして図4に示されているが、位置推定コンポーネント420、知覚システム422、計画コンポーネント424、1つまたは複数のシステムコントローラ426、マップコンポーネント428、監視コンポーネント430、フィルタリングコンポーネント432、車両402の1つまたは複数のコンポーネントに関連付けられた1つまたは複数のセンサシグネチャ434、および/またはセンサデータ436は、追加的または代替的に、車両402にアクセス可能とすることができる(例えば、1つまたは複数のコンピューティングデバイス440のメモリ444のような、車両402から遠隔のメモリに記憶される、またはそうでなければアクセス可能である)ことが企図される。
【0047】
少なくとも1つの例において、位置推定コンポーネント420は、センサシステム406からデータを受信して、車両402の位置および/または方向(例えば、x、y、z位置、ロール、ピッチ、またはヨーの1つまたは複数)を決定する機能を含むことができる。例えば、位置推定コンポーネント420は、環境のマップを含む、および/または要求/受信しでき、マップ内の自律車両の位置および/または方向を連続的に決定できる。いくつかの例では、位置推定コンポーネント420は、1つまたは複数のセンサシステム406によってキャプチャされる、または1つまたは複数の他のデバイス(例えば、コンピューティングデバイス440)から受信される画像データ、lidarデータ、radarデータ、IMUデータ、GPSデータ、ホイールエンコーダデータなどに基づいて、SLAM(simultaneous localization and mapping)、CLAMS(calibration, localization and mapping, simultaneously)、相対SLAM、バンドル調整、非線形最小二乗最適化などを利用して、自律車両の位置を正確に決定できる。いくつかの例において、位置推定コンポーネント420は、軌道を生成するためにおよび/またはマップデータを検索するために、車両402の様々なコンポーネントにデータを提供して、自律車両の初期位置を決定できる。
【0048】
いくつかの例において、知覚システム422は、オブジェクトトラッキング、検出、セグメンテーション、および/または分類を実行するための機能を含むことができる。いくつかの例では、知覚システム422は、車両402に近接したエンティティの存在および/またはエンティティタイプとしてのエンティティの分類(例えば、車、歩行者、自転車、動物、建物、樹木、路面、縁石、歩道、未知など)を示す処理済みのセンサデータを提供できる。追加および/または代替の例では、知覚システム422は、検出されたエンティティ(例えば、トラッキングされたオブジェクト)および/またはエンティティが位置する環境に関連付けられた1つまたは複数の特徴を示す処理済みのセンサデータを提供できる。いくつかの例では、エンティティに関連付けられた特性は、x位置(グローバル位置および/またはローカル位置)、y位置(グローバル位置および/またはローカル位置)、z位置(グローバル位置および/またはローカル位置)、方向(例えば、ロール、ピッチ、ヨー)、エンティティタイプ(例えば、分類)、エンティティの速度、エンティティの加速度、エンティティの範囲(サイズ)などを含むことができるが、これらに限定されない。環境に関連付けられた特性は、環境内の別のエンティティの存在、環境内の別のエンティティの状態、時刻、曜日、季節、気象条件、暗闇/光の表示などを含むことができるが、これらに限定されない。
【0049】
一般に、計画コンポーネント424は、車両402が環境内を横断するために辿るべき経路を決定できる。例えば、計画コンポーネント424は、様々なルートおよび軌跡、および様々な詳細レベルを決定できる。例えば、計画コンポーネント424は、第1の場所(例えば、現在の場所)から第2の場所(例えば、目標場所)まで移動するルートを決定できる。この説明の目的のために、ルートは、2つの場所の間を移動するための一連の経由地点とすることができる。例として、経由地点は、通り、交差点、全地球測位システム(GPS)座標などを含み得る。さらに、計画コンポーネント424は、第1の場所から第2の場所へのルートの少なくとも一部に沿って自律車両をガイドするための命令を生成できる。少なくとも1つの例では、計画コンポーネント424は、一連の経由地点における第1の経由地点から一連の経由地点における第2の経由地点へ自律車両をどのようにガイドするかを決定できる。いくつかの例では、命令は、軌道または軌道の一部とすることができる。いくつかの例では、複数の軌道を、receding horizon技術に従って実質的に同時に生成でき(例えば、技術的許容範囲内で)、複数の軌道の1つが、車両402がナビゲートするために選択される。いくつかの例では、計画コンポーネント424は、車両の1つまたは複数のコンポーネントについてセンサシグネチャが生成されるテストモード中に1つまたは複数の動作を実行するように車両402を制御する命令を生成できる。例えば、計画コンポーネント424は、車両が一定速度で移動している間にコンポーネントのオーディオシグネチャをキャプチャできるように、コンポーネントが起動されている間の期間に、一定速度で移動するように車両をガイドし得る。
【0050】
少なくとも1つの例において、車両コンピューティングデバイス404は、車両402のステアリング、推進、制動、安全、エミッタ、通信、コンポーネント、および他のシステムを制御するように構成できる1つまたは複数のシステムコントローラ426を含むことができる。これらのシステムコントローラ426は、ドライブアセンブリ414の対応するシステムおよび/または車両402の他のコンポーネントと通信および/または制御できる。
【0051】
いくつかの例では、車両402は、センサシステム406の1つまたは複数のセンサ(例えば、車両100のセンサ102、202、および/または300)を使用してそれらの状態を監視し、コンポーネントに関連付けられたセンサシグネチャを生成するために、1つまたは複数のコンポーネントの動作を制御し得る。いくつかの例では、車両コンピューティングデバイス404は、最初の時点(例えば、車両が最初に作動したとき、または新しいコンポーネントが整備に入れられたとき)に「テストモード」を実施し得る。最初に、車両402は、コンポーネントに関連付けられたセンサデータが1つまたは複数のセンサシステム406によってキャプチャされ得るように、1つまたは複数の条件下でコンポーネントを起動させることに関連付けられた1つまたは複数の動作を実行し得る。例えば、暖房換気空調(HVAC)システムのファンのケースでは、システムコントローラ426は、ファンを制御して、その利用可能な設定(例えば、高、中、低など)の全てを実行し得、一方、計画コンポーネント424は、様々な動作コンディション下で当該コンポーネントに関連付けられたセンサシグネチャを分離するために、1つまたは複数の他のシステムコントローラ426に対して、1つまたは複数のドアまたは窓を開閉するなどした状態で車両を制御して環境を異なる速度で横断するように指示する。計画コンポーネント424は、再び、1つまたは複数のシステムコントローラ426に、テストモードを実施するように車両を制御させ得、一方、センサシステム406は、センサデータをキャプチャして、第1の時間に続く第2の時間において、車両のコンポーネントについての第2の(例えば、漸進的、リアルタイム、現在などの)センサシグネチャを生成する。次いで、コンポーネントに関連付けられた動作ステータスを決定するために、第2のセンサシグネチャを第1のセンサシグネチャと比較し得る。
【0052】
メモリ418は、さらに、環境内をナビゲートするために車両402によって使用できる1つまたは複数のマップ(不図示)を維持および/または更新するためのマップコンポーネント428を含むことができる。この説明の目的のために、マップは、2次元、3次元、またはN次元でモデル化された任意の数のデータ構造とすることができ、これらは、トポロジー(交差点など)、通り、山岳地帯、道路、地形(terrain)、および環境一般などの環境に関する情報を提供することが可能であるが、これらに限定されない。いくつかの例では、マップは、テクスチャ情報(例えば、色情報(例えば、RGB色情報、Lab色情報、HSV/HSL色情報)など)、強度情報(例えば、lidar情報、radar情報など)、空間情報(例えば、メッシュ上に投影された画像データ、個々の「サーフェル」(例えば、個々の色および/または強度に関連付けられたポリゴン))、反射情報(例えば、鏡面反射情報、再帰反射情報、BRDF情報、BSSRDF情報など)を含むことができるが、これらに限定されない。一例では、マップは環境の3次元メッシュを含むことができる。いくつかの例では、マップの個々のタイルが環境の個別の部分を表し、必要に応じて作業メモリ内にロードできるように、マップをタイルフォーマットで記憶できる。少なくとも1つの例において、1つまたは複数のマップは、少なくとも1つのマップ(例えば、画像および/またはメッシュ)を含むことができる。いくつかの例において、車両402は、マップに少なくとも部分的に基づいて制御できる。すなわち、マップを、位置推定コンポーネント420、知覚システム422、および/または計画コンポーネント424と関連して使用して、車両402の位置を決定すること、環境内のオブジェクトを識別すること、および/または環境内をナビゲートするルートおよび/または軌道を生成することができる。
【0053】
いくつかの例では、1つまたは複数のマップは、ネットワーク438を介してアクセス可能なリモートコンピューティングデバイス(コンピューティングデバイス440など)上に記憶できる。いくつかの例では、複数のマップは、例えば特徴(例えば、エンティティのタイプ、時刻、曜日、季節など)に基づいて記憶できる。複数のマップを記憶することは、同様のメモリ要件を有するが、マップ内のデータへのアクセスできる速度を向上できる。
【0054】
監視コンポーネント430は、車両の全体および/または個々のコンポーネントまたはシステムとしての車両の状態または動作ステータスを監視するように構成されている。監視コンポーネント430は、1つまたは複数のセンサシステム406からセンサデータを受信し、センサデータを使用して、車両402および/またはドライブアセンブリ414の1つまたは複数のコンポーネントに関連付けられた現在の動作ステータスを推定し、および/または将来の動作状態を予測する。監視コンポーネント430は、車両の実質的に任意のコンポーネントの状態を監視できる。監視コンポーネント430によって監視できるコンポーネントの範囲のいくつかの例示的な例としては、推進システム(例えば、モータ、ギアボックス、ドライブトレーンなど)、エネルギー貯蔵システム(例えば、バッテリ、燃料電池、燃焼エンジンなど)、ブレーキシステム、ステアリングシステム、ドアシール、HVACシステム、冷却システム、コンピューティングシステムなどを含む。上述したように、動作ステータスは、とりわけ、コンポーネントの使用済みおよび/または残りの寿命のパーセンテージ(例えば、使用済み寿命50%、残り寿命75%など)などの車両のコンポーネントに関連付けられた摩耗の表示、コンポーネントが故障しそうになるまでに車両が移動し得る時間および/または距離の量(例えば、コンポーネントの故障まで10時間、コンポーネントの故障まで100マイルなど)などのコンポーネントに関連付けられた故障時間、または1つまたは複数の故障状態などのコンポーネントに関連付けられた異常の表示を含み得る。例えば、監視コンポーネント430は、センサシステム406のオーディオセンサ(例えば、マイクロフォン)によってキャプチャされたセンサデータ436からオーディオデータを受信し、オーディオデータに関連付けられた車両402のコンポーネント、オーディオデータに関連付けられたコンポーネントの位置、および/またはコンポーネントに関連付けられた動作ステータスを予測し得る。予測は、単一のオーディオデータ記録または複数のオーディオデータ記録に基づいて行うことができる。
【0055】
車両コンピューティングデバイス404のメモリ418は、センサシステム406によってキャプチャされたセンサデータをフィルタリングおよび/または処理するためのフィルタリングコンポーネント432をさらに含み得る。一例として、フィルタリングコンポーネント432は、車両402のオーディオセンサによってキャプチャされたオーディオデータを処理して、オーディオデータに関連付けられたバックグラウンドノイズを除去し得る。例えば、オーディオデータが車両402のコンポーネントに関連付けられたオーディオシグネチャとバックグラウンドノイズとを含む場合、フィルタリングコンポーネント432は、コンポーネントに関連付けられたオーディオシグネチャを識別して、バックグラウンドノイズの少なくとも一部をフィルタリングし得る。追加的または代替的に、フィルタリングコンポーネント432は、コンポーネントのオーディオシグネチャに関してオーディオデータのバックグラウンドノイズを識別し、オーディオデータからバックグラウンドノイズの少なくとも一部を除去し得る。フィルタリングコンポーネント432は、オーディオ信号のフィルタリングに関して説明されているが、フィルタリングコンポーネント432は、画像センサデータ、慣性センサデータ、温度センサデータ、圧力センサデータ、環境センサデータなどの、車両402の様々なセンサから受信された任意のタイプのセンサデータをフィルタリングし得る。
【0056】
いくつかの例では、メモリ418は、車両402のコンポーネントに関連付けられた1つまたは複数のセンサシグネチャ434を記憶し得る。追加的または代替的に、センサシグネチャ434は、車両402とは異なる他の車両のコンポーネントに関連付けられ得る。センサシグネチャ434は、車両402の様々なコンポーネントに対する様々なタイプのセンサシグネチャを含み得る。例えば、センサシグネチャ434は、車両の特定のコンポーネント(例えば、ブレーキシステム)に関連付けられた1つまたは複数のオーディオセンサシグネチャと、同じ特定のコンポーネントまたは異なるコンポーネント(例えば、HVACシステム)に関連付けられた1つまたは複数の画像センサシグネチャとを含み得る。いくつかの実施例では、センサシグネチャ434は、車両402のコンポーネントに関連付けられた1つまたは複数のベースラインセンサシグネチャを含み得、追加的または代替的に、車両402のコンポーネントに関連付けられた1つまたは複数の漸進的なセンサシグネチャ(例えば、コンポーネントのそれぞれの寿命を通じて更新され続けるセンサシグネチャ)を含み得る。このようにして、センサシグネチャ434は、車両402のコンポーネントに関連付けられた動作ステータスを決定するために使用され得る。
【0057】
いくつかの例において、センサシグネチャ434は、ネットワーク438を介してコンピューティングデバイス440に送信され得る。追加的または代替的に、センサシグネチャ434は、ネットワーク438を介してコンピューティングデバイス440から受信され得る。
【0058】
メモリ418はまた、車両402のセンサシステム406の1つまたは複数のセンサによってキャプチャされたセンサデータ436を記憶し得る。センサデータ436は、未処理のセンサデータ(例えば、車両402のセンサによってキャプチャされたセンサデータ)および/または処理済みのセンサデータ(例えば、センサによってキャプチャされた後にフィルタリングコンポーネント432によって処理されたセンサデータ)を含み得る。センサデータ436は、上述のセンサシグネチャ434の1つまたは複数を決定するために使用され得る。追加的または代替的に、センサデータ436を使用して、車両402のコンポーネントに関連付けられた動作ステータスを決定し得る。いくつかの例では、センサデータ436は、ネットワーク438を介してコンピューティングデバイス440に送信され、ログデータ448および/またはトレーニングデータ452として使用され得る。
【0059】
いくつかの例では、本明細書で説明されるメモリに記憶されたコンポーネントの一部または全ての態様は、任意のモデル、アルゴリズム、および/または機械学習アルゴリズムを含むことができる。例えば、いくつかの例では、知覚システム422、計画コンポーネント424、監視コンポーネント430、およびフィルタリングコンポーネント432などのメモリ418(および以下でさらに詳細に説明する、メモリ444)内のコンポーネントは、ニューラルネットワークとして実装できる。例えば、監視コンポーネント430は、車両402の1つまたは複数のコンポーネントの動作ステータスを予測するようにトレーニングされた機械学習モデル(例えば、ニューラルネットワーク)を含み得る。
【0060】
本明細書に記載されるように、例示的なニューラルネットワークは、一連の接続された層を介して入力データを渡して出力を生成する生物学的にインスパイアされたアルゴリズムである。ニューラルネットワークにおける各層はまた、別のニューラルネットワークを含むことができ、または任意の数の層(畳み込みであるか否かにかかわらず)を含むことができる。本開示のコンテキストにおいて理解できるように、ニューラルネットワークは機械学習を利用でき、それは、学習されたパラメータに基づいて出力が生成される、そのようなアルゴリズムの広範なクラスを指すことができる。
【0061】
ニューラルネットワークのコンテキストで説明したが、任意のタイプの機械学習をこの開示と一致させて使用できる。機械学習アルゴリズムは、例えば、限定しないが、回帰アルゴリズム(例えば、通常の最小二乗回帰(OLSR)、線形回帰、ロジスティック回帰、ステップワイズ回帰、多変量適応回帰スプライン(MARS)、局所的に推定されたスカープロット平滑化(LOESS))、インスタンスベースのアルゴリズム(例えば、リッジ回帰、最小絶対収縮および選択演算子(LASSO)、弾性ネット、最小角度回帰(LARS))、決定木アルゴリズム(例えば、分類および回帰木(CART)、反復二分法3(ID3)、カイ二乗自動相互作用検出(CHAID)、決定切り株、条件付き決定木))、ベイジアンアルゴリズム(例えば、単純ベイズ、ガウス単純ベイズ、多項単純ベイズ、平均1依存推定量(AODE)、ベイジアン信念ネットワーク(BNN)、ベイジアンネットワーク)、クラスタリングアルゴリズム(例えば、k平均、k中央値、期待値最大化(EM)、階層的クラスタリング)、相関ルール学習アルゴリズム(例えば、パーセプトロン、バックプロパゲーション、ホップフィールドネットワーク、動径基底関数ネットワーク(RBFN))、ディープラーニングアルゴリズム(例えばディープボルツマンマシーン(DBM)、ディープブリーフネットワーク(DBN)、重畳型ニューラルネットワーク(CNN)、スタック・オートエンコーダ)、次元数削減アルゴリズム(例えば主成分分析(PCA)、主成分回帰(PCR)、部分最小二乗回帰(PLSR)、サモンマッピング、多次元スケーリング(MDS)、射影追跡、線形判別分析(LDA)、混合判別分析(MDA)、二次判別分析(QDA)、柔軟判別分析(FDA))、アンサンブルアルゴリズム(例えば、ブースティング、ブートストラップ集計(バギング)、アダブースト、スタック一般化(ブレンディング)、勾配ブースティングマシン(GBM)、勾配ブースティング回帰ツリー(GBRT)、ランダムフォレスト)、SVM(サポートベクターマシン)、教師あり学習、教師なし学習、半教師あり学習などを含むことができる。アーキテクチャの追加の例は、ResNet50、ResNet101、VGG、DenseNet、PointNetなどのニューラルネットワークを含む。
【0062】
少なくとも1つの例では、センサシステム406は、lidarセンサ、radarセンサ、超音波トランスデューサ、sonarセンサ、位置センサ(例えば、GPS、コンパスなど)、慣性センサ(例えば、慣性測定ユニット(IMUs)、加速度計、磁力計、ジャイロスコープなど)、画像センサ(例えば、カメラ、RGB、IR、強度、深さなど)、オーディオセンサ(例えば、マイクロフォン)、ホイールエンコーダ、環境センサ(例えば、温度センサ、湿度センサ、光センサ、圧力センサなど)、温度センサ(例えば、車両コンポーネントの温度を測定するための)などを含むことができる。センサシステム406は、これらのまたは他のタイプのセンサのそれぞれの複数のインスタンスを含むことができる。いくつかの例では、センサシステム406の個々のセンサの位置は、それぞれ、図1の外部センサ102A乃至102Nおよび/または図2の内部センサ202A乃至Mの位置に対応できる。例えば、lidarセンサは、車両402の角部、前部、後部、側部、および/または上部に配置された個々のlidarセンサを含むことができる。別の例として、画像センサは、車両402の外部および/または内部の周りの様々な位置に配置された複数の画像センサを含むことができる。さらに別の例として、オーディオセンサは、車両402の外部および/または内部の様々な位置に配置された複数のオーディオセンサを含むことができる。さらに、オーディオセンサは、オーディオデータの方向性を決定するための複数のオーディオセンサのアレイを含むことができる。センサシステム406は、車両コンピューティングデバイス404に入力を提供できる。追加的または代替的に、センサシステム406は、1つまたは複数のネットワーク438を介して、1つまたは複数のコンピューティングデバイス440に、所定の時間の経過後、ほぼリアルタイムなどで、特定の周波数でセンサデータを送信できる。
【0063】
車両402はまた、光および/または音を放出するための1つまたは複数のエミッタ408を含むことができる。この例示のエミッタ408は車両402の乗客と通信する内部オーディオおよびビジュアルエミッタを含む。一例として、内部エミッタは、スピーカー、光、記号、ディスプレイ画面、タッチ画面、触覚エミッタ(例えば、振動および/またはフォースフィードバック)、機械式アクチュエータ(例えば、シートベルトテンショナ、シートポジショナ、ヘッドレストポジショナなど)などを含むことができる。この例示のエミッタ408はまた、外部エミッタを含む。一例として、この例示の外部エミッタは、走行の方向または車両のアクションの他のインジケータ(例えば、インジケータライト、標識、ライトアレイなど)を信号で送るためのライト、および音響ビームステアリング技術を備える、1つまたは複数の歩行者または他の近くの車両と音声で通信するための1つまたは複数のオーディオエミッタ(例えば、スピーカー、スピーカーアレイ、ホーンなど)を含む。
【0064】
車両402はまた、車両402と1つまたは複数の他のローカルまたはリモートコンピューティングデバイスとの間の通信を可能にする1つまたは複数の通信接続部410を含むことができる。例えば、通信接続部410は、車両402および/またはドライブアセンブリ414上の他のローカルコンピューティングデバイスとの通信を容易にできる。また、通信接続部410は、車両402が他の近くのコンピューティングデバイス(例えば、他の近くの車両、交通信号など)と通信することを可能にできる。通信接続部410はまた、車両402がリモート操作コンピューティングデバイスまたは他のリモートサービスと通信することを可能にする。
【0065】
通信接続部410は、車両コンピューティングデバイス404を別のコンピューティングデバイス(例えば、コンピューティングデバイス440)および/またはネットワーク438などのネットワークに接続するための物理的および/または論理的インターフェースを含むことができる。例えば、通信接続部410は、IEEE802.11規格によって定義された周波数を介するようなWi-Fiベースの通信、Bluetooth(登録商標)などの短距離無線周波数、セルラ通信(例えば、2G、3G、4G、4G LTE、5Gなど)、またはそれぞれのコンピューティングデバイスが他のコンピューティングデバイスとインターフェースで接続することを可能にする任意の適切な有線または無線通信プロトコルを可能にできる。
【0066】
少なくとも1つの例において、車両402の直接接続部412は、1つまたは複数のドライブアセンブリ414を車両402の本体に結合するための物理的インターフェースを提供できる。例えば、直接接続部412は、ドライブアセンブリ414と車両402との間でエネルギー、流体、空気、データなどの伝達を可能にできる。いくつかの例では、直接接続部412はさらに、ドライブアセンブリ414を車両402の本体に取り外し可能に固定できる。
【0067】
少なくとも1つの例において、車両402は、1つまたは複数のドライブアセンブリ414を含むことができる。いくつかの例では、車両402は単一のドライブアセンブリ414を有することができる。少なくとも1つの例において、車両402が複数のドライブアセンブリ414を有する場合、個々のドライブアセンブリ414を、車両402の対向する長手方向端部(例えば、先頭および後部の端部、前方および後方など)に配置できる。少なくとも1つの例において、ドライブアセンブリ414は、ドライブアセンブリ414および/または車両402の周囲の状態を検出するための1つまたは複数のセンサシステムを含むことができる。一例として、センサシステムは、ドライブシステムのホイールの回転を感知するための1つまたは複数のホイールエンコーダ(例えば、回転エンコーダ)と、ドライブシステムの方向および加速度を測定するための慣性センサ(例えば、慣性測定ユニット、加速度計、ジャイロスコープ、磁力計など)と、画像センサ、ドライブシステムの周囲のオブジェクトを音響的に検出するための超音波センサ、lidarセンサ、radarセンサ、オーディオセンサなどを含むことができる。ホイールエンコーダなどの一部のセンサは、ドライブアセンブリ414に固有とすることができる。場合によっては、ドライブアセンブリ414上のセンサシステムは、車両402の対応するシステム(例えば、センサシステム406)と重複または補足できる。
【0068】
ドライブアセンブリ414は、高電圧バッテリ、車両を推進するモータ、バッテリからの直流を他の車両システムで使用する交流に変換するインバータ、ステアリングモータおよびステアリングラック(電動とすることができる)を含むステアリングシステム、油圧または電気アクチュエータを含むブレーキシステム、油圧および/または空気圧コンポーネントを含むサスペンションシステム、トラクションの損失を軽減し制御を維持するブレーキ力分散用の安定性制御システム、HVACシステム、照明(例えば、車両の外部周囲を照らすヘッド/テールライトなどの照明)、および1つまたは複数の他のシステム(例えば、冷却システム、安全システム、車載充電システム、DC/DCコンバータ、高電圧ジャンクション、高電圧ケーブル、充電システム、充電ポートなどの他の電装コンポーネント)を含む多くの車両システムを含むことができる。加えて、ドライブアセンブリ414は、センサシステムからデータを受信して前処理し、様々な車両システムの動作を制御できるドライブアセンブリコントローラを含むことができる。いくつかの例では、ドライブアセンブリコントローラは、1つまたは複数のプロセッサと、1つまたは複数のプロセッサと通信可能に結合されたメモリとを含むことができる。メモリは、ドライブアセンブリ414の様々な機能を実行する1つまたは複数のシステムを記憶できる。さらに、ドライブアセンブリ414はまた、それぞれのドライブアセンブリによる1つまたは複数の他のローカルまたはリモートコンピューティングデバイスとの通信を可能にする1つまたは複数の通信接続部を含み得る。
【0069】
少なくとも1つの例では、本明細書で説明するメモリに記憶されたコンポーネントは、上述のようにセンサデータを処理でき、1つまたは複数のネットワーク438を介して1つまたは複数のコンピューティングデバイス440にそれらのそれぞれの出力を送信できる。少なくとも1つの例では、本明細書で説明するメモリに記憶されたコンポーネントは、特定の周波数で、所定の時間の経過後に、ほぼリアルタイムなどで、それらのそれぞれの出力を1つまたは複数のコンピューティングデバイス440に送信できる。
【0070】
いくつかの例では、車両402は、ネットワーク438を介して1つまたは複数のコンピューティングデバイス440にセンサデータ436を送信できる。いくつかの例では、車両402は未処理のセンサデータをコンピューティングデバイス440に送信できる。他の例では、車両402は、処理済みのセンサデータおよび/またはセンサデータの表現をコンピューティングデバイス440に送信できる。いくつかの例では、車両402は、特定の周波数で、所定の時間の経過後に、ほぼリアルタイムなどで、センサデータをコンピューティングデバイス440に送信できる。いくつかの例では、車両402は、1つまたは複数のログファイルとして、センサデータ436(未処理のまたは処理済みの)をコンピューティングデバイス440に送信できる。
【0071】
コンピューティングデバイス440は、1つまたは複数のプロセッサ442と、1つまたは複数のプロセッサ442に通信可能に結合され得るメモリ444とを含むことができる。メモリ444は、トレーニングコンポーネント446、ログデータ448、機械学習コンポーネント450、トレーニングデータ452、車両402のコンポーネントなどの車両コンポーネントに関連付けられた1つまたは複数のセンサシグネチャ454、および/または故障ログ456を記憶し得る。
【0072】
ログデータ448は、運転中にセンサデータをキャプチャし記憶した車両(例えば、車両100および/または他の車両など)のコンピューティングシステムから得られた過去のおよび/または予め記録されたセンサデータを含み得る。ログデータ448は、未処理のセンサデータおよび/または処理済みのセンサデータを含み得る。ログデータ448は、いくつかの例では、画像センサ、lidarセンサ、radarセンサ、TOFセンサ、sonarセンサ、全地球測位システムセンサ、オーディオセンサ、IMUs、および/またはこれらの任意の組み合わせなど、車両上の複数のセンサシステムによってキャプチャされた融合された知覚データを含み得る。ログデータ448は、追加的または代替的に、オブジェクト(例えば、歩行者、車両、建物、道路表面など)の意味分類を含む分類データ、および/または環境を通じて動的オブジェクトとして分類されたオブジェクトの動きに対応するセンサデータおよび/または追跡データにおいて表されたコンポーネントを含み得る。追跡データは、経時的な複数の異なるオブジェクトの複数の軌跡を含み得る。
【0073】
トレーニングコンポーネント446は、ログデータ448を使用してトレーニングデータ452を生成できる。例えば、トレーニングコンポーネント446は、車両コンポーネントに関連付けられたセンサデータを、センサデータに関連付けられた車両コンポーネントの1つまたは複数の測定パラメータおよび/または特性でラベル付けできる。センサデータおよび/または測定されたパラメータまたは特性は、ログデータ448、センサシグネチャ454、および/または故障ログ456から取得され得る。ラベルは、車両コンポーネント(例えば、ブレーキシステム、HVACシステム、ドア/窓シールなど)に関連付けられた動作ステータス(例えば、正常、故障、故障時間など)および/またはセンサデータがキャプチャされた時点および/またはセンサデータがキャプチャされた時点から1回以上経過した時点における車両コンポーネントの他の任意の特性の表示を含み得る。例えば、ラベルは、センサデータにおいて表されるコンポーネントが後日(例えば、センサデータがキャプチャされてから100時間後)に故障したことを示し得る。次いで、トレーニングコンポーネント446は、トレーニングデータ452を使用して機械学習コンポーネント450をトレーニングし、センサデータを入力として受信することに少なくとも部分的に基づいて、車両コンポーネントに関連付けられた現在および/または将来の動作ステータスを予測できる。さらに、トレーニングコンポーネント446は、トレーニングデータ452を使用して、機械学習コンポーネント450をトレーニングし、センサデータの入力の受信に基づいて、車両コンポーネントの任意の他の特性(例えば、センサデータに関連付けられた車両コンポーネントの識別、車両内のコンポーネントの位置、コンポーネントの摩耗量の指標、コンポーネントの残存寿命など)を予測できる。
【0074】
コンピューティングデバイス440のメモリ444は、さらに、車両402および/または別の車両のコンポーネントなど、車両のコンポーネントに関連付けられた1つまたは複数のセンサシグネチャ454を記憶し得る。センサシグネチャ454は、車両の様々なコンポーネントに対する様々なタイプのセンサシグネチャを含み得る。例えば、センサシグネチャ454は、車両のコンポーネントに関連付けられた1つまたは複数のオーディオ/音響センサシグネチャ、同じコンポーネントおよび/または異なるコンポーネント(例えば、HVACシステム)に関連付けられた1つまたは複数の画像センサシグネチャを含み得る。センサシグネチャは、単一のセンサモダリティのセンサデータ(例えば、オーディオデータ、または画像データ、またはIMUデータなど)に基づき得る、または複数の異なるセンサモダリティのデータ(例えば、オーディオデータ、画像データ、IMUデータ、および/または他のセンサデータ)に基づき得る。いくつかの例では、センサシグネチャ454は、1つまたは複数の車両のコンポーネントに関連付けられた1つまたは複数の初期またはベースラインセンサシグネチャを含み得、追加的または代替的に、コンポーネントの寿命を通じて取得されたコンポーネントに関連付けられた1つまたは複数の後続または漸進的なセンサシグネチャを含み得る。そのケースでは、後続のセンサシグネチャを初期センサシグネチャと比較して、各コンポーネントの動作ステータスの変化を決定できる。このようにして、センサシグネチャ454は、車両402または他の車両のコンポーネントに関連付けられた動作ステータスを決定するために使用し得る。いくつかの例では、センサシグネチャ454は、ネットワーク438を介して車両コンピューティングデバイス404に送信され得る。
【0075】
いくつかの例では、メモリ444は故障ログ456を含み得、車両100および/または車両402などの1つまたは複数の車両に関連付けられた故障または異常が故障ログ456に記録され得る。故障ログ456は、検出された故障または異常な測定の表示、および関係するコンポーネント/システムの識別子(例えば、車両コンポーネントの故障した動作ステータスに関連付けられたセンサシグネチャ)を含み得る。故障ログ456はまた、故障または異常測定(例えば、車両コンポーネントの寿命の少なくとも一部にわたる一連の漸進的なセンサシグネチャ)に至る動作コンディションのスナップショットを記憶し得る。コンピューティングデバイス440のメモリに存在するものとして、図4に示されているが、少なくともいくつかの例では、故障ログ456は車両402に局所的に記憶され得る。いくつかの例では、故障ログ456は、コンポーネントの動作ステータスを予測するために、機械学習コンポーネント450および/または監視コンポーネント430の機械学習モデルをトレーニングする際に使用するログデータ448にラベル付けするために使用され得る。さらに、少なくともいくつかの例では、故障ログ456は、車両402によってコンピューティングデバイス440に報告され得る。この報告は、定期的に(例えば、毎日、毎時など)、または特定のイベント(例えば、衝突の検出、整備場所への移動、コンポーネントの動作ステータスの変化の検出、コンポーネントに関連付けられたセンサシグネチャの変化など)が発生したときに発生し得る。
【0076】
車両402のプロセッサ416およびコンピューティングデバイス440のプロセッサ442は、データを処理し、本明細書に記載された動作を実行する命令を実行することが可能である任意の適切なプロセッサとすることができる。限定ではなく例として、プロセッサ416および442は、1つまたは複数の中央処理デバイス(CPU)、グラフィックス処理デバイス(GPU)、または電子データを処理してその電子データをレジスタおよび/またはメモリに記憶できる他の電子データに変換する任意の他のデバイスまたはデバイスの一部を含むことができる。いくつかの例では、集積回路(例えば、ASICなど)、ゲートアレイ(例えば、FPGAなど)、および他のハードウェアデバイスはまた、符号化された命令を実装するように構成されている限り、プロセッサとみなすることができる。
【0077】
メモリ418および444は、非一時的コンピュータ可読媒体の例である。メモリ418および444は、本明細書に記載された方法および様々なシステムに起因する機能を実施するためのオペレーティングシステムおよび1つまたは複数のソフトウェアアプリケーション、命令、プログラム、および/またはデータを格納できる。様々な実施形態において、メモリは、スタティックランダムアクセスメモリ(SRAM)、同期ダイナミックRAM(SDRAM)、不揮発性/フラッシュ型メモリ、または情報を記憶することが可能な任意の他のタイプのメモリなどの任意の適切なメモリ技術を使用して実装できる。本明細書に記載されるアーキテクチャ、システム、および個々の要素は、多くの他の論理的、プログラム的、および物理的なコンポーネントを含むことができ、添付の図に示されるそれらは、本明細書の説明に関連する単なる例である。
【0078】
理解できるように、本明細書で説明されるコンポーネントは、説明の目的のために分割されて記載される。しかし、様々なコンポーネントによって実行される動作は、組み合わされる、または任意の他のコンポーネントにおいて実行できる。
【0079】
図4は分散システムとして図示されているが、代替の例では、車両402のコンポーネントをコンピューティングデバイス440に関連付けることができ、および/またはコンピューティングデバイス440のコンポーネントを車両402に関連付けることができることに留意されたい。すなわち、車両402は、コンピューティングデバイス440に関連付けられた1つまたは複数の機能を実行でき、逆もまた同様である。さらに、機械学習コンポーネント450の態様は、本明細書に記載されるデバイスのいずれかで実行できる。
【0080】
[例示的な方法]
図5図6、および図7は、車両コンポーネントの正常性を監視すること、センサデータを処理すること、機械学習モデルを使用することを含む例示的な方法を示すフローチャートである。図5図6、および図7に示す方法は、便宜上および理解を容易にするために、図1乃至図4に示す車両および/またはコンピューティングデバイスの1つまたは複数を参照して説明されている。しかし、図5図6、および図7に示す方法は、図1乃至図4に示す車両および/またはコンピューティングデバイスを使用して実行されることに限定されず、本願に記載される他の車両、コンピューティングデバイス、コンピューティングシステム、および/またはドライブアセンブリ、ならびに本明細書に記載されるもの以外の車両、コンピューティングデバイス、コンピューティングシステム、および/またはドライブアセンブリのいずれかを使用して実施され得る。さらに、本明細書に記載される車両、コンピューティングデバイス、コンピューティングシステム、および/またはドライブアセンブリモジュールは、図5図6、および図7に示す方法を実行することに限定されない。
【0081】
図5は、車両の正常性および/または車両コンポーネントの正常性を監視するための例示的な方法500を示すフローチャートである。動作502において、方法500は、車両のコンポーネントに関連付けられた動作ステータスを示す第1のセンサシグネチャを受信することを含む。いくつかの例において、センサシグネチャは、コンポーネントに関連付けられた故障または他の異常を経験した別の車両のセンサによってキャプチャされたログデータを含み得る。追加的または代替的に、第1のセンサシグネチャは、テストベンチ上で生成および/またはシミュレートされ得る。少なくとも1つの例において、第1のセンサシグネチャは、車両のテストモード中に、車両のコンポーネントを起動し、車両の1つまたは複数のセンサを介してコンポーネントに関連付けられたセンサデータをキャプチャすることによって決定し得る。
【0082】
動作504において、方法500は、車両のコンポーネントを起動することを含む。一例として、起動されるべき車両コンポーネントがブレーキシステムを含む場合、車両は特定の速度(例えば、10MPH、25MPHなど)まで加速し、次いで、ブレーキシステムを適用して、車両の速度を低下させ、および/または車両を停止させ得る。別の例として、起動されるべき車両コンポーネントがHVACシステムを含む場合、次いで、車両は、空調コンプレッサ、換気ファンなどの様々なHVACシステムコンポーネントをオンまたはオフにし得る。さらに別の例として、起動されるべき車両コンポーネントがドア/窓シールを含む場合、車両は、特定の速度まで加速し、および/または特定の速度(例えば、25MPH)を維持し得、その結果、車両の客室内の周囲ノイズに対応するオーディオデータをキャプチャできる。さらに、いくつかの例では、起動されるコンポーネントに起因するセンサデータの一部を分離するために、車両コンポーネントを起動する間に、車両の1つまたは複数の他のシステムまたはコンポーネントを変化させ得る。さらに、いくつかの例では、複数のコンポーネントを組み合わせて起動して、様々なコンポーネント間の相互作用または関係を識別し得る。例えば、ドア/窓シールを試験するケースにおいて、HVACシステムをオンおよびオフにして、客室圧力の変化がドア/窓シールが客室をシールする能力に影響を及ぼすかどうかを決定し得る。
【0083】
動作506において、方法500は、車両のセンサから、車両のコンポーネントに関連付けられたデータを受信することを含む。いくつかの例では、センサは、オーディオセンサ(例えば、マイクロフォン)、画像センサ(例えば、カメラ)、慣性センサ(例えば、IMU)、温度センサ、運動センサ、加速度計、または本明細書に記載される他のセンサタイプのいずれかを含み得る。さらに、データは、オーディオデータ、画像データ、慣性データ、温度データ、圧力データ、電圧測定値、電流測定値、または本明細書に記載される他のタイプのセンサデータを含み得る。データは、いくつかの例において、1つまたは複数の有線および/または無線通信チャネルを介して受信され得る。
【0084】
動作508において、方法500はデータを処理することを含む。いくつかの例では、第1のデータは未処理のセンサデータを含み得る。したがって、センサデータを処理して、処理済のセンサデータを生成し得る。いくつかの例では、図6を参照して以下にさらに詳細に説明するように、センサデータの処理は、センサデータからデータの一部(例えば、バックグラウンドノイズ)を除去および/または低減すること、および/または特定のコンポーネントに関連付けられたセンサデータの一部を分離することを含み得る。
【0085】
動作510において、方法500は、車両のコンポーネントに関連付けられた第2のセンサシグネチャを決定することを含む。第2のセンサシグネチャを、データの受信に少なくとも部分的に基づいて決定し得る。いくつかの例では、第2のセンサシグネチャは、センサデータの1回のキャプチャに基づいて決定され得る、追加または代替の例では、センサデータをキャプチャする複数のインスタンスに基づき得る。いくつかの例では、第2のセンサシグネチャは、車両コンポーネントの動作ステータスを決定するために以前のセンサデータおよび/またはセンサシグネチャ(例えば第1のセンサシグネチャ)と比較するために使用される漸進的なセンサシグネチャを含み得る。少なくとも1つの例において、第2のセンサシグネチャは、車両コンポーネントの寿命を通じて、連続的に、定期的に(例えば、毎時間、毎日、毎週、毎月など)、またはトリガイベント(例えば、オブジェクトとの衝突、充電、コンポーネントの整備、車両がオフラインであるまたは現在使用されていないことなど)の発生時に監視される漸進的なセンサシグネチャを含み得る。
【0086】
動作512において、方法500は、第1のセンサシグネチャと第2のセンサシグネチャとの間の関連付けを決定することを含む。いくつかの例において、関連付けを決定することは、第1のセンサシグネチャと第2のセンサシグネチャとの間の変動または類似性の少なくとも1つを決定することを含み得る。関連付けを決定することは、第1のセンサシグネチャと第2のセンサシグネチャを比較して、変動または類似性の少なくとも1つを決定することを含み得る。動作514において、方法500は、関連付けが存在するかどうか(例えば、変動が閾値変動より大きいかどうか、類似性が閾値範囲内にあるかどうかなど)を決定することを含む。第1のセンサシグネチャと第2のセンサシグネチャとの間の関連付けが存在しない、重要でない、またはそうでなければ閾値範囲内にない場合、次いで、方法500は動作516に進み得る。しかし、第1のセンサシグネチャと第2のセンサシグネチャとの間の関連付けが存在する場合、次いで、方法500は動作518に進み得る。
【0087】
動作516において、方法500は、第1のアクションを実行することを含み得る。いくつかの例では、第1のアクションを実行することは、車両コンポーネントの動作ステータスが変化したが、その変化は重大ではないという通知をリモートコンピューティングシステムに送信することを含み得る。追加的または代替的に、第1のアクションは、車両のメモリ(例えば、車両コンピューティングデバイス404のメモリ418)または車両から遠隔であり、車両によってアクセス可能なコンピューティングシステムおよび/またはデバイスのメモリ(例えば、コンピューティングデバイス440のメモリ444)に、第2のセンサシグネチャおよび/または第2のデータを記録または記憶することを含み得る。
【0088】
動作518において、方法500は、第2のアクションを実行することを含み得る。いくつかの例では、第2のアクションは、車両のコンポーネントに関連付けられた動作ステータスを決定および/または出力することを含み得る。上述したように、動作ステータスは、コンポーネントの使用済みおよび/または残りの寿命のパーセンテージ(例えば、使用済み寿命50%、残り寿命75%など)などの車両のコンポーネントに関連付けられた摩耗の表示、コンポーネントが故障しそうになるまでに車両が移動し得る時間および/または距離の量(例えば、コンポーネントの故障まで10時間、コンポーネントの故障まで100マイルなど)などのコンポーネントに関連付けられた故障時間、または1つまたは複数の故障状態などのコンポーネントに関連付けられた異常の表示を含み得る。いくつかの例では、動作ステータスおよび/または故障までの推定時間を決定することは、データ、第2のセンサシグネチャ、第1のセンサシグネチャと第2のセンサシグネチャとの間の関連付け、車両のコンポーネントが使用された時間の量、車両コンポーネントが取り付けられた状態で車両が走行したマイル数などに、少なくとも部分的に基づき得る。例えば、センサシグネチャのそれぞれをコンポーネントの動作ステータス平均の故障時間などのそれぞれと関連付けるルックアップテーブルを記憶し得る。このようにして、ルックアップテーブルのセンサシグネチャを第2のセンサシグネチャに少なくとも部分的に基づいて識別し得、対応する動作ステータス、故障時間などを決定し得る。少なくとも1つの例では、第2のアクションを実行することは、リモートコンピューティングシステムに動作ステータスを送信することを含み得る。いくつかの例では、リモートコンピューティングシステムは、自律車両の車群(fleet)を監視するリモート監視システムと関連付け得る。
【0089】
図6は、動作506におけるセンサデータの処理の追加の詳細を含む例示的な方法600を示すフローチャートである。上述したように、動作506において、方法500はセンサデータを処理することを含み得る。いくつかの例では、センサデータは未処理のセンサデータを含み得る。したがって、センサデータを処理して、処理済のセンサデータを生成し得る。さらに、処理済みのセンサデータを使用して、センサデータに関連付けられた1つまたは複数の特性を決定し得る。例えば、処理済みのセンサデータを使用して、センサデータのタイプ(例えば、オーディオデータ、画像データなど)を決定し得る。
【0090】
動作602において、方法600は、センサデータがオーディオデータを含むことを決定することを含み得る。図示するように、オーディオデータは、いくつかの例では、車両コンポーネントに関連付けられた少なくとも音響シグネチャおよびバックグラウンドノイズを表し得る。限定ではなく例として、オーディオデータは、ブレーキシステムのきしみ音に関連付けられた音響シグネチャと、例えば他の車両コンポーネント、環境ノイズ、車両に近接する歩行者のノイズ、他の車両のノイズなどに関連付けられたバックグラウンドノイズとを表し得る。
【0091】
動作604において、方法600は、オーディオデータによって表されるバックグラウンドノイズ、または車両コンポーネントに関連付けられた音響シグネチャの少なくとも1つを識別することを含み得る。いくつかの例では、バックグラウンドノイズおよび/または音響シグネチャを識別することは、車両に関連付けられた状態に少なくとも部分的に基づき得る。一例として、車両がブレーキシステムを起動させて車両を減速させている場合、次いで、車両コンピューティングデバイスは、オーディオデータがブレーキシステムに関連付けられた音響シグネチャを含み得ることを認識し得る。したがって、車両コンピューティングデバイスは、オーディオデータを処理できるように、この情報を使用して、オーディオデータの音響シグネチャを識別し得る。
【0092】
動作606において、方法600は、オーディオデータを処理して、未処理のセンサデータよりも少ないバックグラウンドノイズを含む処理済みのオーディオデータを生成することを含み得る。いくつかの例では、オーディオデータを処理することは、コンポーネントのバックグラウンドノイズおよび/または音響シグネチャの少なくとも1つを含むオーディオデータの少なくとも一部を処理することを含み得る。追加的または代替的に、オーディオデータを処理することは、バックグラウンドノイズまたは音響シグネチャのみを含むオーディオデータの一部を処理することを含み得る。
【0093】
動作608において、方法600は、オーディオデータの処理を継続するかどうかを決定することを含み得る。例えば、オーディオデータは、処理済みのオーディオデータを生成するために、1回以上の追加の回数、再処理され得る。いくつかの例では、オーディオデータが処理されるたびに、前に処理済みのオーディオデータよりもさらに少ないバックグラウンドノイズを有する処理済みのオーディオデータがもたらされ得る。したがって、動作608において、方法600は、動作606を繰り返すことによって、オーディオデータの処理(例えば、オーディオデータの再処理)を継続し得る。しかし、処理済みのオーディオデータが十分である場合(例えば、処理済みのオーディオデータが閾値回数処理されている場合、処理済みのオーディオデータが閾値量未満のバックグラウンドノイズを含む場合など)、次いで、方法600は動作610に進み得る。
【0094】
動作610において、方法600は、処理済みのオーディオデータを車両のコンピューティングデバイスに提供することを含み得る。追加的または代替的に、処理済みのオーディオデータは、リモートコンピューティングデバイス/システムに提供され得る。このように、車両のコンピューティングデバイスおよび/またはリモートコンピューティングデバイス/システムは、処理済みのオーディオデータを利用して、処理済みのオーディオデータに関連付けられたセンサシグネチャを決定し、および/または車両コンポーネントに関連付けられた動作ステータスを決定し得る。
【0095】
図7は、機械学習モデルを使用して車両の正常性を監視するための例示的な方法700を示すフローチャートである。動作702において、方法700は、車両のコンポーネントに関連付けられた動作ステータスを示すセンサデータを受信することを含む。いくつかの例では、センサデータは、コンポーネントに関連付けられた故障または他の異常を経験した車両のセンサによってキャプチャされたログデータを含み得る。追加的または代替的に、センサデータは、テストベンチ上で生成および/またはシミュレートされ得る。少なくとも1つの例では、センサデータは、車両のテストモード中に、車両のコンポーネントを起動し、車両の1つまたは複数のセンサを介してコンポーネントに関連付けられたセンサデータをキャプチャすることによってキャプチャし得る。様々な例において、センサデータは、オーディオデータ、IMUデータ、加速度計データ、画像データ、圧力データ、温度データ、電圧測定値、電流測定値などを含み得る。センサデータは、HVACシステム、ブレーキシステム、窓/ドアシール、車両の回転機械、または車両の任意の他のコンポーネントなどの車両のコンポーネントに関連付け得る。センサデータは、車両コンピューティングデバイス404などの車両のコンピューティングデバイスにおいて、および/またはコンピューティングデバイス440などのリモートコンピューティングデバイスにおいて受信され得る。追加的または代替的に、センサデータは、車両コンピューティングデバイス404のメモリに記憶され、後でコンピューティングデバイス440にアップロードされ得る。
【0096】
動作704において、方法700は、センサデータを生成することに関連付けられた車両のコンポーネント(例えば、ブレーキシステム、HVACシステムなど)を決定することを含み、動作706において、方法700は、コンポーネントに関連付けられた動作ステータスを決定することを含み得る。いくつかの例では、車両のコンポーネントおよび/または動作ステータスは、機械学習モデルをトレーニングするためのラベル付きトレーニングデータを生成するために人間のラベラ(human labeler)によって決定され得る。追加的または代替的に、車両のコンポーネントおよび/または動作ステータスは、動作中のコンポーネントに関連付けられたセンサデータの1つまたは複数のインスタンスおよび後の時点におけるコンポーネントの故障または故障の表示を含むログデータ448および/または故障ログ456などの以前に記憶されたデータに基づいて自動的に決定され得る。
【0097】
少なくとも1つの例では、センサデータをトレーニングデータとして使用し得る。トレーニングデータは、トレーニングデータが表すコンポーネントの動作ステータスの事前に構成された指定を含み得る。動作ステータスの事前に構成された指示は、本明細書に記載された動作ステータス指示のいずれかとし得、予め記憶されたログデータおよび/またはコンポーネントに関連付けられた故障ログに基づき得る。追加的または代替的に、トレーニングデータは、トレーニングデータが表すコンポーネントの識別の事前に構成された指定を含み得る。様々な例において、トレーニングデータは、別の車両の1つまたは複数の他のセンサによってキャプチャされた第2のセンサデータを含み得る。第2のセンサデータは、さらに、第2の車両のコンポーネントに関連付けられ得る。
【0098】
動作506において、方法700は、第1のデータを処理することを含む。いくつかの例では、第1のデータは未処理のセンサデータを含み得る。したがって、センサデータを処理して、処理済のセンサデータを生成し得る。いくつかの例では、上述の図6を参照して説明したように、センサデータを処理することは、センサデータからデータの一部(例えば、バックグラウンドノイズ)を除去および/または低減すること、および/または関心のあるコンポーネントに起因するセンサデータの一部を分離することを含み得る。
【0099】
動作708において、方法700は、センサデータを機械学習モデルに入力することを含む。いくつかの例では、センサデータは未処理のセンサデータを含み得る。追加的または代替的に、センサデータは、処理済みのセンサデータ(例えば、1つまたは複数のフィルタリングアルゴリズムに従ってフィルタリングされたセンサデータ)を含み得る。限定ではなく例として、機械学習モデルは、ペナルティ付き線形回帰モデル、線形回帰モデル、決定木、ロジスティック回帰モデル、サポートベクトルマシン(SVM)、ナイーブ・ベイズ・モデル、k-最近傍モデル、k-平均モデル、ニューラルネットワーク、または他の論理、モデル、またはアルゴリズムを単独でまたは組み合わせて含むおよび/または利用し得る。
【0100】
動作710において、方法700は、機械学習モデルから車両のコンポーネントに関連付けられた予測される動作ステータスを受信することを含む。いくつかの例では、予測される動作ステータスを、機械学習モデルへの1つまたは複数の事前の入力に少なくとも部分的に基づいて、機械学習モデルによって予測し得る。追加的または代替的に、予測される動作ステータスは、事前の不正確な予測を行う機械学習モデルに基づく機械学習モデルのパラメータに対する1つまたは複数の変更に少なくとも部分的に基づいて、機械学習モデルによって予測され得る。いくつかの例では、予測される動作ステータスは、車両のコンポーネントに関連付けられた摩耗の表示、コンポーネントに関連付けられた予測および/または推定される故障時間、および/またはコンポーネントに関連付けられた異常の表示を含み得る。
【0101】
動作712において、方法700は、動作ステータス(例えば、706で決定された実際のまたは測定された動作ステータス)と予測される動作ステータスとの間に差があるかどうかを決定することを含み得る。いくつかの例では、機械学習モデルをトレーニングしている人間のオペレータによって、差を決定し得る。追加的または代替的に、機械学習モデルをトレーニングしているコンピュータによって、差を決定し得る。
【0102】
いくつかの例では、動作ステータスと予測される動作ステータスとの間に差が存在しない場合がある(例えば、機械学習モデルは正しい予測を行った)。そのケースでは、動作714において、方法700は、動作702に戻ることを決定して、追加のセンサデータを用いて機械学習モデルをトレーニングし続け得る。例えば、機械学習モデルは、正しい予測される動作ステータス出力の閾値数よりも大きな出力を有していない場合がある。追加的または代替的に、差が存在しない場合には、次いで、機械学習モデルは適切にトレーニングされていると決定し得、トレーニングを中止し得る。
【0103】
しかし、動作ステータスと予測される動作ステータスとの間に差が存在する場合には、次いで、動作714において、方法700は、動作716に進むことを決定し得る。動作716において、方法700は、トレーニングされた機械学習モデルを取得するために、機械学習モデルの1つまたは複数のパラメータを変更して、差を最小化することを含み得る。例えば、機械学習モデルアルゴリズムのパラメータは、機械学習モデルから増加したおよび/またはより頻繁な正しい予測を取得するように調整され得る。機械学習モデルの1つまたは複数のパラメータを調整した後、方法700は、いくつかの例において、動作708に進み、センサデータを機械学習モデルに再入力し得る。しかし、方法700は、動作702、704、706などの他の動作に進み得る。このようにして、機械学習モデルは、機械学習モデルが正しい予測を行うかどうかを決定するように、同じセンサデータを用いて再度トレーニングされ得る。
【0104】
いくつかの例では、トレーニングされた機械学習モデルは、車両コンピューティングデバイスなどの車両に局所的に格納されたメモリに存在し得る、および/またはサーバコンピューティングデバイスまたは車両のリモート監視システムに関連付けられたコンピューティングデバイスなどの車両から遠隔に格納されたメモリに存在し得る。
【0105】
上述の方法500、600、および700は、ハードウェア、ソフトウェア、またはそれらの組み合わせにおいて実施できる動作のシーケンスを表す論理フローグラフにおけるブロックの集合として図示されている。ソフトウェアのコンテキストにおいて、ブロックは、1つまたは複数のプロセッサによって実行されると、列挙された動作を実行する、1つまたは複数のコンピュータ可読記憶媒体に記憶されたコンピュータ実行可能命令を表す。一般に、コンピュータ実行可能命令は、特定の機能を実行するか、または特定の抽象データ型を実施するルーチン、プログラム、オブジェクト、コンポーネント、データ構造などを含む。動作が記載される順序は、限定として解釈されるように意図されておらず、任意の数の記載されたブロックを任意の順序でおよび/または並列に組み合わせて、プロセスを実施できる。いくつかの実施形態では、プロセスの1つまたは複数のブロックを完全に省略し得る。さらに、方法500、600および700を、全体または部分的に互いにまたは他の方法と組み合わし得る。
【0106】
本明細書に記載された様々な技術は、コンピュータ可読ストレージに記憶され、1つまたは複数のコンピュータのプロセッサまたは図に示されたような他のデバイスによって実行されるプログラムモジュールなどのコンピュータ実行可能命令またはソフトウェアのコンテキストで実施され得る。一般に、プログラムモジュールは、ルーチン、プログラム、オブジェクト、コンポーネント、データ構造などを含み、特定のタスクを実行するための動作ロジックを定義する、または特定の抽象データ型を実装する。
【0107】
他のアーキテクチャを使用して、記載された機能を実施し得、本開示の範囲内にあることが意図される。さらに、説明のために責任の特定の配分が上記で定義されているが、様々な機能および責任は、状況に応じて、異なる手段で配分および分割され得る。
【0108】
同様に、ソフトウェアは、様々な方法で、異なる手段を用いて記憶され、配布され得る、上述した特定のソフトウェアストレージおよび実行構成は、多くの異なる手段で変更され得る。したがって、上述の技術を実施するソフトウェアは、具体的に記載されるメモリの形態に限定されない様々なタイプのコンピュータ可読媒体に配布され得る。
【0109】
[例示的な発明内容]
このセクションの例示的な発明内容のいずれかは、他の例示的な発明内容のいずれかまたは本明細書に記載される他の例または実施形態のいずれかと共に使用され得る。
【0110】
A.1つまたは複数のプロセッサと、命令を記憶した1つまたは複数のコンピュータ可読媒体と、を含むシステムであって、前記命令は、前記1つまたは複数のプロセッサに実行されると、前記システムに、第1の時間に、車両のコンポーネントを起動させることと、前記車両のオーディオセンサから、前記車両の前記コンポーネントに関連付けられた第1のオーディオデータを前記第1の時間に受信することと、前記第1のオーディオデータの処理に少なくとも部分的に基づいて、前記車両の前記コンポーネントに関連付けられた第1のセンサシグネチャを決定することと、前記第1のセンサシグネチャを記憶することと、第2のオーディオデータに少なくとも部分的に基づいて、前記第1の時間に続く第2の時間に前記車両の前記コンポーネントに関連付けられた第2のセンサシグネチャを決定することと、前記第1のセンサシグネチャと前記第2のセンサシグネチャとの間の変動が閾値変動よりも大きいことを決定することと、前記変動が前記閾値変動よりも大きいことに少なくとも部分的に基づいて、前記コンポーネントに関連付けられた動作ステータスを出力することと、を含む動作を実行させる、システム。
【0111】
B.前記車両の前記コンポーネントに関連付けられた前記第2のセンサシグネチャを決定することは、前記車両の前記コンポーネントを起動させることと、前記オーディオセンサから、前記車両の前記コンポーネントに関連付けられた前記第2のオーディオデータを受信することと、前記第2のオーディオデータを処理することに少なくとも部分的に基づいて、前記車両の前記コンポーネントに関連付けられた前記第2のセンサシグネチャを決定することと、を含む、段落Aに記載のシステム
【0112】
C.前記動作が、動作パラメータに従って、前記第1の時間における前記車両の別のコンポーネントの動作を制御することと、前記動作パラメータに従って前記第2の時間における前記他のコンポーネントの動作を制御することとをさらに含み、前記動作パラメータが、速度、ステアリング角度、制動条件、位置、温度、または時刻の少なくとも1つを含む、段落AまたはBのいずれか1つに記載のシステム。
【0113】
D.前記第1のオーディオデータの少なくとも一部が、前記コンポーネントおよび前記バックグラウンドノイズに起因するオーディオデータを含み、前記第1のオーディオデータを処理することが、前記第1のオーディオデータをフィルタリングして、前記バックグラウンドノイズを除去することを含む、段落A乃至Cのいずれか1つに記載のシステム。
【0114】
E.前記第1のセンサシグネチャと前記第2のセンサシグネチャとの間の前記変動が前記閾値変動よりも大きいと決定することは、前記第1のセンサシグネチャおよび前記第2のセンサシグネチャの周波数、大きさ、または調性の少なくとも1つに少なくとも部分的に基づいている、段落A乃至Dのいずれか1つに記載のシステム。
【0115】
F.車両のコンポーネントに関連付けられた動作ステータスを示す第1のセンサシグネチャを受信することと、前記車両の前記コンポーネントを起動させることと、前記車両のセンサから、前記コンポーネントに関連付けられたデータを受信することと、前記データに少なくとも部分的に基づいて、前記コンポーネントに関連付けられた第2のセンサシグネチャを決定することと、前記第1のセンサシグネチャと前記第2のセンサシグネチャとの間の関連付けを決定することと、前記関連付けに少なくとも部分的に基づいて、前記コンポーネントに関連付けられた前記動作ステータスを出力することと、を含む方法。
【0116】
G.前記コンポーネントと同じタイプの別のコンポーネントに関連付けられた第2のデータを受信することと、前記第2のデータに少なくとも部分的に基づいて、前記第1のセンサシグネチャを決定することと、をさらに含む、段落Fに記載の方法。
【0117】
H.前記車両の前記コンポーネントを起動させながら、動作パラメータに従って前記車両の別のコンポーネントの動作を制御することをさらに含み、前記動作パラメータが、速度、ステアリング角、制動条件、位置、温度、または時刻の少なくとも1つを含む、段落Fまたは段落Gのいずれか1つに記載の方法。
【0118】
I.前記センサがマイクロフォンを含み、前記データが前記コンポーネントおよびバックグラウンドノイズに関連付けられたオーディオデータを含み、前記第2のセンサシグネチャを決定することが、前記データを処理して、前記バックグラウンドノイズを除去することをさらに含む、段落F乃至Hのいずれか1つに記載の方法。
【0119】
J.前記第2のセンサシグネチャに少なくとも部分的に基づいて、前記動作ステータスを決定することをさらに含み、前記動作ステータスは、前記コンポーネントに関連付けられた摩耗の表示、前記コンポーネントに関連付けられた予測される故障時間、または前記コンポーネントに関連付けられた異常の表示の少なくとも1つを含む、段落F乃至Iのいずれか1つに記載の方法。
【0120】
K.前記動作ステータスに少なくとも部分的に基づいて、前記車両または前記コンポーネントの少なくとも1つに整備を提供させることをさらに含む、段落F乃至Jのいずれか1つに記載の方法。
【0121】
L.前記第1のセンサシグネチャまたは前記第2のセンサシグネチャの少なくとも1つが、経時的に前記センサからの測定値のデータ時系列を含み、前記車両に関連付けられた1つまたは複数の動作パラメータに関連付けられている、段落F乃至Kのいずれか1つに記載の方法。
【0122】
M.前記コンポーネントに関連付けられた前記動作ステータスを出力することは、前記動作ステータスを示すデータを前記車両に関連付けられたリモート監視システムに送信することを含む、段落F乃至Lのいずれか1つに記載の方法。
【0123】
N.前記データを前記車両のローカルメモリに格納することと、ネットワークを介して、前記車両に関連付けられたリモートコンピューティングシステムにデータを送信することと、をさらに含む、段落F乃至Mのいずれか1つに記載の方法。
【0124】
O.センサが、マイクロフォン、慣性測定ユニット(IMU)、加速度計、または圧電センサを含む、段落F乃至Nのいずれか1つに記載の方法。
【0125】
P.前記センサが、前記車両の前記コンポーネントに関連付けられた音を位置決めするための1つまたは複数のマイクロフォンを含む、段落F乃至Oのいずれか1つに記載の方法。
【0126】
Q.命令を記憶する1つまたは複数の非一時的コンピュータ可読記憶媒体であって、前記命令は1つまたは複数のプロセッサによって実行されると、前記1つまたは複数のプロセッサに車両のコンポーネントに関連付けられた動作ステータスを示す第1のセンサシグネチャを受信することと、前記車両の前記コンポーネントを起動させることと、前記車両のセンサから、前記コンポーネントに関連付けられたデータを受信することと、前記データに少なくとも部分的に基づいて、前記コンポーネントに関連付けられた第2のセンサシグネチャを決定することと前記第1のセンサシグネチャと前記第2のセンサシグネチャとの間の関連付けに少なくとも部分的に基づいて、前記コンポーネントに関連付けられた動作ステータスを出力することと、を含む動作を実行させる、1つまたは複数の非一時的コンピュータ可読記憶媒体。
【0127】
R.前記センサがマイクロフォンを含み、前記データが前記コンポーネントおよび前記バックグラウンドノイズに関連付けられたオーディオデータを含み、前記第2のセンサシグネチャを決定することが、前記データを処理して、前記バックグラウンドノイズを除去することをさらに含む、段落Qに記載の1つまたは複数の非一時的コンピュータ可読記憶媒体。
【0128】
S.前記動作が、前記第2のセンサシグネチャに少なくとも部分的に基づいて、前記動作ステータスを決定することをさらに含み、前記動作ステータスは、前記コンポーネントに関連付けられた摩耗の表示、前記コンポーネントに関連付けられた予測される故障時間、または前記コンポーネントに関連付けられた異常の表示の少なくとも1つを含む、段落QまたはRのいずれか1つに記載の1つまたは複数の非一時的コンピュータ可読記憶媒体。
【0129】
T.前記動作が前記コンポーネントと同じタイプの別のコンポーネントに関連付けられた第2のデータを受信することと、前記第2のデータに少なくとも部分的に基づいて、前記第1のセンサシグネチャを決定することと、をさらに含む、段落Q乃至Sのいずれか1つに記載の1つまたは複数の非一時的コンピュータ可読記憶媒体。
【0130】
U.1つまたは複数のプロセッサと、命令を記憶した1つまたは複数のコンピュータ可読媒体と、を含むシステムであって、前記命令は、前記1つまたは複数のプロセッサに実行されると、前記1つまたは複数のプロセッサに、車両の1つまたは複数のセンサによってキャプチャされたセンサデータを受信することであって、前記センサデータは、前記車両のコンポーネントに関連付けられた動作ステータスを示すオーディオデータを含む、ことと、前記オーディオデータを生成することに関連付けられた前記車両の前記コンポーネントを決定することと、前記車両の前記コンポーネントに関連付けられた前記動作ステータスを決定することと、機械学習モデルに前記オーディオデータを入力することと、前記機械学習モデルから、前記車両の前記コンポーネントに関連付けられた予測される動作ステータスを受信することと、前記コンポーネントに関連付けられた前記予測される動作ステータスと、前記コンポーネントに関連付けられた前記動作ステータスとの間の差を決定することと、前記車両の前記コンポーネントの前記動作ステータスを予測するようにトレーニングされたトレーニングされた機械学習モデルを取得するために、前記差に少なくとも部分的に基づいて、前記機械学習モデルの1つまたは複数のパラメータを変更して前記差を最小化することと、を含む動作を実行させる、システム。
【0131】
V.前記機械学習モデルが、ペナルティ化された線形回帰モデルまたは決定木の少なくとも1つを含む、段落Uに記載のシステム。
【0132】
W.前記オーディオデータは、前記コンポーネントおよびバックグラウンドノイズに関連付けられた少なくとも音響シグネチャを表し、前記動作は、前記オーディオデータの前記バックグラウンドノイズを識別することと、前記オーディオデータの少なくとも一部を処理して、前記バックグラウンドノイズの少なくとも一部を除去して、処理済みのオーディオデータを生成することと、機械学習モデルに処理済みのオーディオデータを入力することと、をさらに含む、段落UまたはVのいずれか1つに記載のシステム。
【0133】
X.前記動作が、前記車両の前記1つまたは複数のセンサによってキャプチャされた追加のセンサデータを受信することであって、前記追加のセンサデータは追加のオーディオデータを含む、ことと、前記トレーニングされた機械学習モデルに前記追加オーディオデータを入力することと、前記トレーニングされた機械学習モデルから、前記追加のオーディオデータに少なくとも部分的に基づいて、前記コンポーネントに関連付けられた前記動作ステータスを受信することと、をさらに含む、段落U乃至Wのいずれか1つに記載のシステム。
【0134】
Y.車両のコンポーネントに関連付けられた動作ステータスを示すセンサデータを受信することと、前記センサデータに少なくとも部分的に基づいて、前記コンポーネントに関連付けられた前記動作ステータスを決定することと、機械学習モデルに前記センサデータを入力することと、前記機械学習モデルから、前記車両の前記コンポーネントに関連付けられた予測される動作ステータスを受信することと、前記予測される動作ステータスに少なくとも部分的に基づいて、前記機械学習モデルのパラメータを変更して、トレーニングされた機械学習モデルを取得することと、を含む方法。
【0135】
Z.前記センサデータは、前記コンポーネントと同じタイプの別のコンポーネントの故障を経験した第2の車両からの記憶されたログデータを含む、段落Yに記載の方法。
【0136】
AA.前記予測される動作ステータスは、前記コンポーネントに関連付けられた摩耗の表示、前記コンポーネントに関連付けられた予測される故障時間、または前記コンポーネントに関連付けられた異常の表示の少なくとも1つを含む、段落Yまたは段落Zのいずれか1つに記載の方法。
【0137】
BB.前記コンポーネントと同じタイプを有する複数のコンポーネントのセンサデータに少なくとも部分的に基づいて、前記車両の前記コンポーネントに関連付けられた平均の故障時間を決定することと、前記機械学習モデルから、前記車両の前記コンポーネントに関連付けられた推定される故障時間を受信することと、をさらに含み、前記機械学習モデルの前記パラメータを変更することはさらに、前記平均の故障時間と前記推定される故障時間との差に少なくとも部分的に基づいている、段落Y乃至AAのいずれか1つに記載の方法。
【0138】
CC.前記センサデータが、前記コンポーネントおよびバックグラウンドノイズに関連付けられた少なくとも音響シグネチャを表すオーディオデータを含み、前記方法が、前記オーディオデータの前記バックグラウンドノイズを識別することと、前記オーディオデータを処理して、前記バックグラウンドノイズの少なくとも一部を除去して、処理済みのオーディオデータを生成することと、前記機械学習モデルに前記処理済みのオーディオデータを入力することと、をさらに含む、段落Y乃至BBのいずれか1つに記載の方法。
【0139】
DD.前記センサデータが、オーディオデータまたは慣性測定ユニット(IMU)データの少なくとも1つの一連の測定値を含む、段落Y乃至CCのいずれか1つに記載の方法。
【0140】
EE.前記センサデータが、第1の音響センサからの第1のオーディオデータおよび第2の音響センサからの第2のオーディオデータを含み、前記方法が、前記第1のオーディオデータおよび前記第2のオーディオデータに少なくとも部分的に基づいて、前記コンポーネントまたは前記コンポーネントの位置の1つまたは複数を決定することと、をさらに含む、段落Y乃至DDのいずれか1つに記載の方法。
【0141】
FF.前記車両の前記1つまたは複数のセンサによってキャプチャされた第2のセンサデータを受信することと、前記トレーニングされた機械学習モデルに前記第2のセンサデータを入力することと、前記トレーニングされた機械学習モデルから、前記車両の前記コンポーネントに関連付けられた前記動作ステータスを受信することと、をさらに含む、段落Y乃至EEのいずれか1つに記載の方法。
【0142】
GG.命令を記憶する1つまたは複数の非一時的コンピュータ可読記憶媒体であって、前記命令は1つまたは複数のプロセッサによって実行されると、前記1つまたは複数のプロセッサに、車両のコンポーネントに関連付けられた動作ステータスを示すセンサデータを受信することと、前記センサデータに少なくとも部分的に基づいて、前記コンポーネントに関連付けられた前記動作ステータスを決定することと、機械学習モデルに前記センサデータを入力することと、前記機械学習モデルから、前記車両の前記コンポーネントに関連付けられた予測される動作ステータスを受信することと、前記予測される動作ステータスに少なくとも部分的に基づいて、前記機械学習モデルのパラメータを変更して、トレーニングされた機械学習モデルを取得することと、を含む動作を実行させる、1つまたは複数の非一時的コンピュータ可読記憶媒体。
【0143】
HH.前記センサデータは、前記コンポーネントと同じタイプの別のコンポーネントの故障を経験した第2の車両からの記憶されたログデータを含む、段落GGに記載の1つまたは複数の非一時的コンピュータ可読記憶媒体。
【0144】
II.前記予測される動作ステータスは、前記コンポーネントに関連付けられた摩耗の表示、前記コンポーネントに関連付けられた予測される故障時間、または前記コンポーネントに関連付けられた異常の表示の少なくとも1つを含む、段落GGまたはHHのいずれか1つに記載の1つまたは複数の非一時的コンピュータ可読記憶媒体。
【0145】
JJ.前記動作が前記コンポーネントと同じタイプを有する複数のコンポーネントに関連付けられた平均の故障時間を決定することと、前記機械学習モデルから、前記車両の前記コンポーネントに関連付けられた推定される故障時間を受信することと、をさらに含み、前記機械学習モデルの前記パラメータを変更することはさらに、前記平均の故障時間と前記推定される故障時間との間の差に少なくとも部分的に基づいている、段落GG乃至IIのいずれか1つに記載の1つまたは複数の非一時的コンピュータ可読記憶媒体。
【0146】
KK.前記センサデータが、オーディオデータまたは慣性測定ユニット(IMU)データの少なくとも1つの経時的な一連の測定値を含む、段落GG乃至JJのいずれか1つに記載の1つまたは複数の非一時的コンピュータ可読記憶媒体。
【0147】
LL.前記センサデータが、前記コンポーネントおよびバックグラウンドノイズに関連付けられた少なくとも音響シグネチャを表すオーディオデータを含み、前記動作が、前記オーディオデータの前記バックグラウンドノイズを識別することと、前記オーディオデータを処理して、前記バックグラウンドノイズの少なくとも一部を除去して、処理済みのオーディオデータを生成することと、前記機械学習モデルに、前記処理済みのオーディオデータを入力することと、をさらに含む、段落GG乃至KKのいずれか1つに記載の1つまたは複数の非一時的コンピュータ可読記憶媒体。
【0148】
MM.前記センサデータが、第1の音響センサからの第1のオーディオデータおよび第2の音響センサからの第2のオーディオデータを含み、前記方法が、前記第1のオーディオデータおよび前記第2のオーディオデータに少なくとも部分的に基づいて、前記コンポーネントまたは前記コンポーネントの位置の1つまたは複数を決定することと、をさらに含む、段落GG乃至LLのいずれか1つに記載の1つまたは複数の非一時的コンピュータ可読記憶媒体。
【0149】
NN.前記動作が前記車両の前記1つまたは複数のセンサによってキャプチャされた第2のセンサデータを受信することと、前記トレーニングされた機械学習モデルに前記第2のセンサデータを入力することと、前記トレーニングされた機械学習モデルから、前記車両の前記コンポーネントに関連付けられた前記動作ステータスを受信することと、をさらに含む、段落GG乃至MMのいずれか1つに記載の1つまたは複数の非一時的コンピュータ可読記憶媒体。
【0150】
上述の例示の発明内容は1つの特定の実施形態に関して説明しているが、この文書のコンテキストでは、例示の発明内容はまた、方法、デバイス、システムおよび/またはコンピュータ可読媒体、および/またはその他の実施形態を介して実施できることを理解されたい。さらに、例A乃至NNのいずれかは、単独で、または他の1つもしくは複数の例A乃至NNと組み合わせて実装され得る。
【0151】
[結論]
本明細書で説明する技術の1つまたは複数の例について説明したが、様々な変更、追加、置換、およびそれらの同等物が、本明細書で説明する技術の範囲内に含まれる。
【0152】
例示の説明では、本明細書の一部を形成する添付の図面を参照するが、これは例示として請求される主題の具体的な例を示す。他の例を使用でき、構造的変更などの変更または代替を行うことできることを理解されたい。そのような例示、変更または代替は、意図して請求される主題に関する範囲から必ずしも逸脱するものではない。本明細書のステップは特定の順序で提示できるが、いくつかのケースでは、説明したシステムおよび方法の機能を変更することなく、特定の入力を異なる時間または異なる順序で提供するように、順序を変更できる。開示された手順をまた異なる順序で実行できる。さらに、本明細書にある様々な計算は開示された順序で実行される必要はなく、計算の代替順序を使用する他の例を容易に実装できる。並べ替えに加えて、計算はまた、同じ結果となるサブ計算に分解できる。
図1
図2
図3
図4
図5
図6
図7
【国際調査報告】