IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

7658958効率的なメタデータの生成およびエクスポートを伴う自動車データ処理システム
<>
  • -効率的なメタデータの生成およびエクスポートを伴う自動車データ処理システム 図1
  • -効率的なメタデータの生成およびエクスポートを伴う自動車データ処理システム 図2
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-03-31
(45)【発行日】2025-04-08
(54)【発明の名称】効率的なメタデータの生成およびエクスポートを伴う自動車データ処理システム
(51)【国際特許分類】
   G08G 1/00 20060101AFI20250401BHJP
【FI】
G08G1/00 A
【請求項の数】 27
(21)【出願番号】P 2022521079
(86)(22)【出願日】2020-12-08
(65)【公表番号】
(43)【公表日】2023-02-08
(86)【国際出願番号】 IB2020061625
(87)【国際公開番号】W WO2021116899
(87)【国際公開日】2021-06-17
【審査請求日】2023-08-01
(31)【優先権主張番号】62/948,027
(32)【優先日】2019-12-13
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】520078248
【氏名又は名称】マーベル アジア ピーティーイー、リミテッド
(74)【代理人】
【識別番号】110000877
【氏名又は名称】弁理士法人RYUKA国際特許事務所
(72)【発明者】
【氏名】ミズラヒ、ノーム
【審査官】西堀 宏之
(56)【参考文献】
【文献】特開2019-200495(JP,A)
【文献】特開2002-099903(JP,A)
【文献】特開2012-103921(JP,A)
【文献】特開2003-228788(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G08G 1/00-99/00
(57)【特許請求の範囲】
【請求項1】
車両内に配置され、少なくとも、前記車両の1つまたは複数のデータソースにより作られるデータを記憶するように構成されている記憶サブシステムと、
車両にインストールされたプロセッサであって、
前記記憶サブシステム内に記憶された、または、前記記憶サブシステム内への記憶途中の前記データに、前記データ内の1つまたは複数の指定された関心対象特徴を識別する少なくとも1つのモデルを適用して、前記記憶されたデータ内での、前記1つまたは複数の指定された関心対象特徴の発生にタグ付けするメタデータを生成し、
前記車両の外部にある外部システムに、前記メタデータの少なくとも一部分をデータリンクを介してエクスポートし、前記メタデータによりタグ付けされた前記1つまたは複数の指定された関心対象特徴を包含する前記データをエクスポートする前に、前記メタデータは、前記1つまたは複数の指定された関心対象特徴の前記発生にタグ付けし、
前記外部システムに前記メタデータをエクスポートした後、前記エクスポートされたメタデータが関連する前記1つまたは複数の指定された関心対象特徴を包含する前記データをエクスポートする前に、前記車両の外部にある前記外部システムから、前記車両にインストールされた前記プロセッサにより、前記外部システムによる前記メタデータに基づく解析によって決定された前記データの1つまたは複数の選択された部分に対する要求を受信し、前記データの選択された部分は、前記少なくとも1つのモデルを使用して前記車両で生成されて前記車両から前記外部システムにエクスポートされた前記メタデータによりタグ付けされた、特定の前記関心対象特徴に関連し、
前記要求に基づいて、前記車両にインストールされた前記プロセッサから前記外部システムに、前記1つまたは複数の指定された関心対象特徴を包含する前記データの選択された部分であって、前記データリンクを介して転送されるデータの量を低減させるために前記車両の1つまたは複数のデータソースにより作られる全ての前記データより少ない前記データの選択された部分を提供するように構成されているプロセッサと
を備える自動車データ処理システム。
【請求項2】
前記プロセッサが、複数のデータソースのうちの2つまたはそれより多くのそれぞれ異なるデータソースにより作られる前記データ内での同じ関心対象特徴の発生を識別し、前記メタデータを生成する際に、前記データにタグ付けして、前記複数のデータソースのうちの前記2つまたはそれより多くのそれぞれ異なるデータソースにより作られるデータ内に出現する前記同じ関心対象特徴の前記発生を互いにリンクさせるように構成されている、請求項1に記載の自動車データ処理システム。
【請求項3】
前記複数のデータソースのうちの前記2つまたはそれより多くのデータソースにより作られる前記データが、同じ種類のデータである、請求項2に記載の自動車データ処理システム。
【請求項4】
前記複数のデータソースのうちの前記2つまたはそれより多くのデータソースにより作られる前記データが、それぞれ異なる種類のデータである、請求項2に記載の自動車データ処理システム。
【請求項5】
前記複数のデータソースのうちの前記2つまたはそれより多くのデータソースが、前記車両内のそれぞれ異なる位置に配置される、請求項2に記載の自動車データ処理システム。
【請求項6】
前記複数のデータソースは、ビデオカメラ、速度センサ、加速度計、オーディオセンサ、赤外線センサ、レーダセンサ、ライダーセンサ、超音波センサ、または距離測定器のうちの少なくとも2つを含む、請求項4に記載の自動車データ処理システム。
【請求項7】
前記プロセッサが、前記データのうち、2つまたはそれより多くの選択された部分を前記外部システムに提供するように構成されており、前記2つまたはそれより多くの選択された部分が、複数の前記データソースのうちの2つまたはそれより多くのそれぞれ異なるデータソースにより作られたものであり、同じ関心対象特徴に関連付けられている、請求項1からのいずれか一項に記載の自動車データ処理システム。
【請求項8】
前記プロセッサが、前記メタデータのうちの前記エクスポートする部分を選択基準に従って選択するように構成されている、請求項1からのいずれか一項に記載の自動車データ処理システム。
【請求項9】
前記プロセッサが、前記メタデータを、前記メタデータに対応するデータを同時にエクスポートすることなくエクスポートするように構成されている、請求項1からのいずれか一項に記載の自動車データ処理システム。
【請求項10】
前記記憶サブシステムが、少なくとも、前記車両内の複数の独立したデータソースにより作られるデータを記憶するように構成されている、請求項1からのいずれか一項に記載の自動車データ処理システム。
【請求項11】
前記記憶サブシステムが、少なくとも、前記車両内のそれぞれ異なる位置にインストールされた複数のデータソースにより作られるデータを記憶するように構成されている、請求項1からのいずれか一項に記載の自動車データ処理システム。
【請求項12】
前記記憶サブシステムが、前記データのうちの2つまたはそれより多くのそれぞれ異なる種類を記憶するように構成されている、請求項1からのいずれか一項に記載の自動車データ処理システム。
【請求項13】
前記プロセッサが、前記外部システムから前記モデルを受信するように構成されている、請求項1からのいずれか一項に記載の自動車データ処理システム。
【請求項14】
前記プロセッサが、前記車両がドッキングステーションとのデータリンクを確立して接続されている間に、前記メタデータをエクスポートした後、前記外部システムの前記要求に応じて、前記1または複数の選択された部分をエクスポートするように構成されている、
請求項1から6のいずれか一項に記載の自動車データ処理システム。
【請求項15】
前記プロセッサが、前記車両がドッキングステーションに接続されているかどうかとは無関係に、前記メタデータをエクスポートするように構成されている、請求項1からのいずれか一項に記載の自動車データ処理システム。
【請求項16】
前記少なくとも1つのモデルが、少なくとも1つの予め訓練された人工知能(AI)推論モデルを含み、前記プロセッサが、前記少なくとも1つの予め訓練されたAI推論モデルを前記データに適用することにより前記メタデータを生成するように構成されている、請求項1からのいずれか一項に記載の自動車データ処理システム。
【請求項17】
前記車両内で前記少なくとも1つの予め訓練されたAI推論モデルの訓練をアップデートするように構成されている、請求項16に記載の自動車データ処理システム。
【請求項18】
前記記憶サブシステムが、複数の前記データソースにより作られる前記データを記憶するように構成された集中記憶デバイスを含む、請求項1からのいずれか一項に記載の自動車データ処理システム。
【請求項19】
前記集中記憶デバイスが、複数の前記データソースのうちの、それぞれ異なる種類の2つまたはそれより多くのデータソースにより作られる前記データを記憶するように構成されている、請求項18に記載の自動車データ処理システム。
【請求項20】
前記プロセッサが、
前記少なくとも1つのモデルとは異なる第2のモデルを前記データに適用することであって、前記第2のモデルが、前記データ内の1つまたは複数の第2の関心対象特徴を識別する、適用することと、
前記第2のモデルに従って、前記1つまたは複数の第2の関心対象特徴の第2の発生を前記メタデータに加えることと、
(i)前記関心対象特徴の前記発生のみに関するメタデータ、(ii)前記1つまたは複数の第2の関心対象特徴の前記第2の発生のみに関するメタデータ、および、(iii)前記発生と前記第2の発生との両方に関するメタデータのうちの1つまたは複数を前記外部システムに提供することとを行うように更に構成されている、
請求項1からのいずれか一項に記載の自動車データ処理システム。
【請求項21】
前記プロセッサが、前記記憶サブシステム内に、前記メタデータを構造化された形態で記憶するように構成されている、請求項1からのいずれか一項に記載の自動車データ処理システム。
【請求項22】
車両内に配置された記憶サブシステム内に、少なくとも、前記車両の1つまたは複数のデータソースにより作られるデータを記憶する段階と、
前記車両にインストールされたプロセッサを使用する段階であって、
前記記憶サブシステム内に記憶された、または、前記記憶サブシステム内への記憶途中の前記データに、前記データ内の1つまたは複数の指定された関心対象特徴を識別する少なくとも1つのモデルを適用して、前記記憶されたデータ内での、前記1つまたは複数の指定された関心対象特徴の発生にタグ付けするメタデータを生成する段階、
前記車両の外部にある外部システムに、前記メタデータの少なくとも一部分をデータリンクを介してエクスポートし、前記メタデータによりタグ付けされた前記1つまたは複数の指定された関心対象特徴を包含する前記データをエクスポートする前に、前記メタデータは、前記1つまたは複数の指定された関心対象特徴の前記発生にタグ付けする、段階、
前記外部システムに前記メタデータをエクポートした後、前記エクスポートされたメタデータが関連する前記1つまたは複数の指定された関心対象特徴を包含する前記データをエクスポートする前に、前記車両の外部にある前記外部システムから、前記車両にインストールされた前記プロセッサにより、前記外部システムによる前記メタデータに基づく解析によって決定された前記データの1つまたは複数の選択された部分に対する要求を受信し、前記データの選択された部分は、前記少なくとも1つのモデルを使用して前記車両で生成されて前記車両から前記外部システムにエクスポートされた前記メタデータによりタグ付けされた、特定の前記関心対象特徴に関連する、段階、および
前記要求に基づいて、前記車両にインストールされた前記プロセッサから前記外部システムに、前記1つまたは複数の指定された関心対象特徴を包含する前記データの選択された部分であって、前記データリンクを介して転送されるデータの量を低減させるために前記車両の1つまたは複数のデータソースにより作られる全ての前記データより少ない前記データの選択された部分を提供する段階、
である使用する段階と
を備える自動車データ処理方法。
【請求項23】
前記少なくとも一つのモデルを適用する段階が、複数の前記データソースのうちの2つまたはそれより多くのそれぞれ異なるデータソースにより作られる前記データ内での同じ関心対象特徴の発生を識別する段階を備え、前記メタデータを生成する段階が、前記データにタグ付けして、複数の前記データソースのうちの前記2つまたはそれより多くのそれぞれ異なるデータソースにより作られるデータ内に出現する前記同じ関心対象特徴の前記発生を互いにリンクさせる段階を備える、請求項22に記載の自動車データ処理方法。
【請求項24】
前記同じ関心対象特徴の前記発生を識別する段階が、複数の前記データソースのうち、前記車両内のそれぞれ異なる位置に配置された2つまたはそれより多くのデータソースにより供給されるデータ内での前記発生を識別する段階を備える、請求項23に記載の自動車データ処理方法。
【請求項25】
前記選択された部分を提供する段階が、前記データのうち、2つまたはそれより多くの選択された部分を前記外部システムに提供する段階を備え、前記2つまたはそれより多くの選択された部分が、複数の前記データソースのうちの2つまたはそれより多くのそれぞれ異なるデータソースにより作られたものであり、同じ関心対象特徴に関連付けられている、請求項22から24のいずれか一項に記載の自動車データ処理方法。
【請求項26】
前記メタデータをエクスポートする段階が、前記メタデータを、前記メタデータに対応するデータとは別個にエクスポートする段階と、前記メタデータに基づいて、前記データのうちの1つまたは複数の関心対象部分を選択する段階と、前記車両がドッキングステーションに接続されている際に、前記データのうちの前記選択された1つまたは複数の関心対象部分をエクスポートする段階とを備える、請求項22から24のいずれか一項に記載の自動車データ処理方法。
【請求項27】
前記少なくとも1つのモデルは、前記外部システムから受信されるAI推論モデルを備える、請求項1に記載の自動車データ処理システム。
【発明の詳細な説明】
【技術分野】
【0001】
[関連出願の相互参照]
本願は、2019年12月13日出願、米国仮特許出願第62/948,027号の利益を主張し、同仮出願の開示を参照により本明細書に組み入れる。
【0002】
本開示は、一般には、自動車データ処理に関し、詳細には、車両内でのメタデータの生成およびエクスポートのための方法およびシステムに関する。
【背景技術】
【0003】
自律走行車両および他の車両は、1日の運転の過程で、時にはテラバイトのオーダになる大量のデータを生成し処理する。自律走行車両内のデータのソースは、例えば、カメラおよび他のセンサ、先進運転支援システム(ADAS)、テレマティクスコントロールユニット(TCU)、インフォテインメントシステム、ならびに、様々な電子式制御ユニット(ECU)を含む。従来より、多量のデータが、遠隔のプロセッサに定期的にアップロードされている。
【0004】
上記の説明は、本分野内の関連技術の概要として提示され、その説明が含むいずれの情報も、本特許出願に対する先行技術を構成することを認めるものであるとみなされるべきではない。
【発明の概要】
【0005】
本明細書で説明する実施形態は、記憶サブシステムおよびプロセッサを含む自動車データ処理システムを提供する。前記記憶サブシステムは、車両内に配置され、少なくとも、前記車両の1つまたは複数のデータソースにより作られるデータを記憶するように構成される。前記プロセッサは、車両にインストールされ、前記記憶サブシステム内に記憶された、または、前記記憶サブシステム内への記憶途中の前記データに、前記データ内の1つまたは複数の指定された関心対象特徴を識別する少なくとも1つのモデルを適用して、前記記憶されたデータ内での、前記指定された関心対象特徴の発生にタグ付けするメタデータを生成し、前記車両の外部にある外部システムに、前記メタデータの少なくとも一部分をエクスポートするように構成されている。
【0006】
いくつかの実施形態では、前記プロセッサが、前記データソースのうちの2つまたはそれより多くのそれぞれ異なるデータソースにより作られる前記データ内での同じ関心対象特徴の発生を識別し、前記メタデータを生成する際に、前記データにタグ付けして、前記データソースのうちの前記2つまたはそれより多くのそれぞれ異なるデータソースにより作られるデータ内に出現する前記同じ関心対象特徴の前記発生を互いにリンクさせるように構成されている。一実施形態では、前記データソースのうちの前記2つまたはそれより多くのデータソースにより作られる前記データが、同じ種類のデータである。他の実施形態では、前記データソースのうちの前記2つまたはそれより多くのデータソースにより作られる前記データが、それぞれ異なる種類のデータである。更に他の実施形態では、前記データソースのうちの前記2つまたはそれより多くのデータソースが、前記車両内のそれぞれ異なる位置に配置される。
【0007】
いくつかの実施形態では、前記プロセッサが、前記エクスポートされたメタデータに応答して、前記データのうち、前記関心対象特徴に関する1つまたは複数の選択された部分の要求を前記外部システムから受信し、前記データの全てには満たない、少なくとも前記データの前記選択された部分を前記外部システムに提供するように更に構成されている。一例示的実施形態では、前記プロセッサが、前記データのうち、2つまたはそれより多くの選択された部分を前記外部システムに提供するように構成されており、前記2つまたはそれより多くの選択された部分が、前記データソースのうちの2つまたはそれより多くのそれぞれ異なるデータソースにより作られたものであり、同じ関心対象特徴に関連付けられている。
【0008】
開示する一実施形態では、前記プロセッサが、前記メタデータのうちの前記エクスポートする部分を選択基準に従って選択するように構成されている。一実施形態では、前記プロセッサが、前記メタデータを、前記メタデータに対応するデータを同時にエクスポートすることなくエクスポートするように構成されている。
【0009】
一例示的実施形態では、前記記憶サブシステムが、少なくとも、前記車両内の複数の独立したデータソースにより作られるデータを記憶するように構成されている。他の実施形態では、前記記憶サブシステムが、少なくとも、前記車両内のそれぞれ異なる位置にインストールされた複数のデータソースにより作られるデータを記憶するように構成されている。一実施形態では、前記記憶サブシステムが、前記データのうちの2つまたはそれより多くのそれぞれ異なる種類を記憶するように構成されている。
【0010】
いくつかの実施形態では、前記プロセッサが、前記外部システムから前記モデルを受信するように構成されている。一実施形態では、前記プロセッサが、前記車両がドッキングステーションに接続されている間に前記メタデータをエクスポートするように構成されている。他の実施形態では、前記プロセッサが、前記車両がドッキングステーションに接続されているかどうかとは無関係に、前記メタデータをエクスポートするように構成されている。
【0011】
いくつかの実施形態では、前記モデルが、人工知能(AI)推論モデルを含み、前記プロセッサが、前記AI推論モデルを前記データに適用することにより前記メタデータを生成するように構成されている。一実施形態では、前記プロセッサが、前記外部システムから、予め訓練された前記AI推論モデルを受信し、前記車両内で前記AI推論モデルの訓練をアップデートするように構成されている。
【0012】
いくつかの実施形態では、前記記憶サブシステムが、複数の前記データソースにより作られる前記データを記憶するように構成された集中記憶デバイスを含む。一実施形態では、前記集中記憶デバイスが、前記データソースのうちの、それぞれ異なる種類の2つまたはそれより多くのデータソースにより作られる前記データを記憶するように構成されている。
【0013】
一実施形態では、前記プロセッサが、前記第1のモデルとは異なる第2のモデルを前記データに適用することであって、前記第2のモデルが、前記データ内の1つまたは複数の第2の関心対象特徴を識別する、適用することと、前記第2のモデルに従って、前記第2の関心対象特徴の第2の発生を前記メタデータに加えることと、(i)前記関心対象特徴の前記発生のみに関するメタデータ、(ii)前記第2の関心対象特徴の前記第2の発生のみに関するメタデータ、および、(iii)前記発生と前記第2の発生との両方に関するメタデータのうちの1つまたは複数を前記外部システムに提供することとを行うように更に構成されている。一実施形態では、前記プロセッサが、前記記憶サブシステム内に、前記メタデータを構造化された形態で記憶するように構成されている。
【0014】
本明細書で説明する実施形態に従って、車両内に配置された記憶サブシステム内に、少なくとも、前記車両の1つまたは複数のデータソースにより作られるデータを記憶する段階を含む自動車データ処理方法が更に提供される。車両にインストールされたプロセッサを使用することで、前記データ内の1つまたは複数の指定された関心対象特徴を識別する少なくとも1つのモデルを、前記記憶サブシステム内に記憶された、または、前記記憶サブシステム内への記憶途中の前記データに適用して、前記記憶されたデータ内での、前記指定された関心対象特徴の発生にタグ付けするメタデータを生成する。前記メタデータ少なくとも一部分が、前記車両の外部にある外部システムにエクスポートされる。
【0015】
本明細書で説明する実施形態に従って、複数のデータソースおよびプロセッサを含む自動車データ処理システムを更に提供する。前記データソースは、車両にインストールされ、データを生成するように構成されている。前記プロセッサは、前記車両にインストールされ、前記データソースにより生成された前記データを収集し、前記車両の外に前記データをエクスポートすることなく、前記車両内に配置された記憶デバイス内に前記データをローカルに記憶し、前記ローカルに記憶されたデータ内の1つまたは複数の関心対象部分を識別し、ドッキングステーションであって、前記ドッキングステーションから離れて位置する外部システムに結合されたドッキングステーションに前記車両が接続されている間に、前記ローカルに記憶されたデータの全てには満たない、少なくとも前記識別された関心対象部分を、前記外部システムにアップロードするように構成されている。
【0016】
いくつかの実施形態では、前記プロセッサが、前記車両がドッキングステーションに接続されているかどうかとは無関係に、前記データを収集および記憶し、前記関心対象部分を識別するように構成されている。一実施形態では、前記プロセッサが、前記データを、前記データソースのうちの、同じ種類のデータを作る2つまたはそれより多くのそれぞれ異なるデータソースから収集するように構成されている。他の実施形態では、前記プロセッサが、前記データを、前記データソースのうちの、それぞれ異なる種類のデータを作る2つまたはそれより多くのそれぞれ異なるデータソースから収集するように構成されている。
【0017】
更なる他の実施形態では、前記プロセッサが、前記データソースのうちの、前記車両内のそれぞれ異なる位置に配置された2つまたはそれより多くのそれぞれ異なるデータソースから前記データを収集するように構成されている。開示する一実施形態では、前記プロセッサが、2つまたはそれより多くの関心対象部分を識別およびアップロードするように構成されており、前記2つまたはそれより多くの関心対象部分が、前記データソースのうちの2つまたはそれより多くのそれぞれ異なるデータソースにより作られたものであり、同じ関心対象特徴に関連付けられている。
【0018】
また、本明細書で説明する実施形態に従って、車両にインストールされた複数のデータソースによりデータを生成する段階を含む自動車データ処理方法を提供する。車両にインストールされたプロセッサを使用することで、前記データソースにより生成された前記データを収集し、前記データを前記車両の外にエクスポートすることなく、前記車両内に配置された記憶デバイス内にローカルに記憶し、前記ローカルに記憶されたデータの1つまたは複数の関心対象部分を識別し、ドッキングステーションであって、前記ドッキングステーションから離れて位置する外部システムに結合されたドッキングステーションに前記車両が接続されている間に、前記ローカルに記憶されたデータの全てには満たない、少なくとも前記識別された関心対象部分を、前記外部システムにアップロードする。
【0019】
本明細書で説明する実施形態に従って、複数のデータソース、パケットネットワーク、および、プロセッサを含む自動車データ処理システムを更に提供する。前記データソースは、車両内のそれぞれ異なる位置に分散されており、データを生成するように構成されている。前記パケットネットワークが、前記車両内に配置され、前記複数のデータソースから、前記車両内の中央記憶位置に前記データを転送するように構成されている。前記プロセッサが、前記車両にインストールされ、前記複数のデータソースから転送され、前記中央記憶位置に記憶された前記データに対応するメタデータを生成し、前記センサデータのうちの1つまたは複数の選択された部分を、前記車両の外部にある外部システムに転送するように構成されており、前記選択された部分が、前記複数のデータソースから転送され、前記中央記憶位置に記憶された前記データに対応する前記メタデータに基づいて選択される。
【0020】
一実施形態では、前記複数のデータソースが、それぞれ異なる種類のデータを作るように構成されている2つまたはそれより多くのそれぞれ異なるデータソースを含む。他の実施形態では、前記データソースのうちの前記2つまたはそれより多くのデータソースにより作られる前記データが、それぞれ異なる種類のデータである。開示する一実施形態では、前記プロセッサが、少なくとも部分的には、前記外部システムから受信される1つまたは複数の関心対象特徴の指示に応答して、前記センサデータのうちの前記1つまたは複数の部分を選択するように構成されている。
【0021】
一例示的実施形態では、前記プロセッサが、前記中央記憶位置に記憶されている前記データに人工知能(AI)推論モデルを適用することにより前記メタデータを生成するように構成されている。一実施形態では、前記メタデータを生成する際に、前記プロセッサが、前記データ内での1つまたは複数の関心対象特徴の1つまたは複数の発生にタグ付けするように構成されている。他の実施形態では、前記メタデータを生成する際に、前記プロセッサが、前記データのうちの2つもしくはそれより多くのそれぞれ異なる種類内での、または、2つもしくはそれより多くのそれぞれ異なるデータソースにより生成されたデータ内での、同じ関心対象特徴の発生にタグ付けするように構成されている。
【0022】
本明細書で説明する実施形態に従って、車両内のそれぞれ異なる位置に分散された複数のデータソースによりデータを生成する段階と、前記車両内に配置されたパケットネットワークを介して、前記複数のデータソースから前記車両内の中央記憶位置に前記データを転送する段階とを含む自動車データ処理方法を更に提供する。車両にインストールされたプロセッサを使用することで、前記複数のデータソースから転送され、前記中央記憶位置に記憶された前記データに対応するメタデータを生成し、前記センサデータのうちの1つまたは複数の選択された部分を、前記車両の外部にある外部システムに転送し、前記選択された部分が、前記複数のデータソースから転送され、前記中央記憶位置に記憶された前記データに対応する前記メタデータに基づいて選択される。
【0023】
また、本明細書で説明する実施形態に従って、車両と通信するためのインタフェースと、コンピュータとを含む自動車データ解析システムを提供する。前記コンピュータは、前記車両の1つまたは複数のデータソースにより作られるデータ内の1つまたは複数の指定された特徴を識別するモデルを規定し、前記車両にインストールされたプロセッサに前記モデルを提供し、メタデータであって、前記プロセッサが前記モデルを使用することで生成されたものであり、前記データ内での前記指定された特徴の発生にタグ付けするメタデータを、前記車両内の前記プロセッサから受信し、前記受信されたメタデータを解析するように構成されている。
【0024】
一実施形態では、前記インタフェースが、前記車両がドッキングステーションに接続されている間に前記メタデータを受信するように構成されている。他の実施形態では、前記インタフェースが、前記車両がドッキングステーションに接続されているかどうかとは無関係に、前記車両から前記メタデータを受信するように構成されている。
【0025】
いくつかの実施形態では、前記モデルが、人工知能(AI)推論モデルを含み、前記コンピュータが、前記AI推論モデルを訓練し、前記車両内の前記プロセッサに前記訓練されたAI推論モデルを提供するように構成されている。開示する一実施形態では、前記コンピュータが、前記受信されたメタデータに応答して、前記記憶されたデータのうちの1つまたは複数の選択された部分の要求を前記車両内の前記プロセッサに送り、前記要求された1つまたは複数の選択された部分を前記プロセッサから受信し、前記データのうちの前記1つまたは複数の選択された部分を解析するように構成されている。
【0026】
他の実施形態では、前記コンピュータが、前記記憶されたデータのうちの2つまたはそれより多くの選択された部分を要求するように構成されており、前記2つまたはそれより多くの選択された部分は、前記データソースのうちの2つまたはそれより多くのそれぞれ異なるデータソースにより作られたものである。更なる他の実施形態では、前記コンピュータが、前記記憶されたデータのうちの2つまたはそれより多くの選択された部分を要求するように構成されており、前記2つまたはそれより多くの選択された部分は、同じ関心対象特徴に関連付けられている。
【0027】
本明細書で説明する実施形態に従って、車両の外部にあるコンピュータにおいて、前記車両の1つまたは複数のデータソースにより作られるデータ内の1つまたは複数の指定された特徴を識別するモデルを規定する段階と、前記車両にインストールされたプロセッサに前記モデルを提供する段階とを含む自動車データ解析方法を更に提供する。前記車両内の前記プロセッサから、前記車両の外部にある前記コンピュータ内でメタデータが受信され、前記メタデータが、前記プロセッサが前記モデルを使用することにより生成されたものであり、前記データ内の前記指定された特徴の発生にタグ付けする。前記受信されたメタデータは、解析される。
【0028】
本開示は、図面とともに取り扱う本開示の実施形態の以下での詳細な説明からより完全に理解されるであろう。
【図面の簡単な説明】
【0029】
図1】本明細書で説明する実施形態による自動車データ処理システムを概略的に示すブロック図である。
【0030】
図2】本明細書で説明する実施形態による、図1の自動車システム内でメタデータを生成および処理する方法を概略的に示すフロー図である。
【発明を実施するための形態】
【0031】
現代の車両は、様々なデータソースから生じる様々な種類の膨大な量のデータを生成する。自律走行車両は、例えば、ビデオカメラからの1つまたは複数のビデオフィード、車両内の様々な位置に配置されたセンサからストリーミングされる様々な種類のセンサデータ、レーダ情報およびライダ情報、運転者挙動情報、インフォテインメントサブシステムおよびユーザアプリケーションからの情報、ならびに、GPSデータおよびGPSマップなどの位置情報およびナビゲーション情報を生成することができる。一般的な1日の運転で、自律走行車両は、4テラバイトのオーダのデータを生成し得る。
【0032】
動作中の車両内で作られるデータは、正しく解析されると、非常に価値のある情報を提供することが可能である。例えば、少しだけ例を挙げると、GPSデータおよび自動車運転データを使用して、通勤予測モデルをアップデートすることが可能であり、カメラ映像を使用して、自律走行車両の自律運転性能および安全手順を最適化することが可能であり、保険会社が運転挙動情報を使用して、運転者への保険料を決定することが可能である。
【0033】
一般に、こうした解析を実行するのに必要な計算能力は、現在最先端の、または入手可能な車載コンピューティング資源の性能を遥かに超えている。したがって、様々な実施形態で、データを効果的に解析するために、生データの少なくともいくらかが、例えば、クラウドベースのデータ処理システムなどの外部システムにエクスポートされる。他方、時間、帯域幅および電力消費の制限により、車両から外部システムに生データの全てを転送することはできない。これらの制約により、車両内で生成されるデータを解析し、それから価値があり、かつ実用的な情報を抽出することの有効性が限定される。
【0034】
上記に鑑みて、本明細書で説明する実施形態は、車両内で生成されるデータを処理、通信および解析するための改良された方法およびシステムを提供する。
【0035】
開示するいくつかの実施形態では、車両内に自動車データ処理システムが配備される。自動車データ処理システムは、プロセッサに結合される記憶サブシステムを備える。車両の動作中に、記憶サブシステムは、様々なデータソースにより作られる生データを記憶する。プロセッサは、指定された関心対象特徴を識別することにより生データを前処理し、生データ内での指定された関心対象特徴の発生にタグ付けするメタデータを生成する。メタデータ、または、少なくともそれの選択された部分が、車両から外部システムにエクスポートされる。
【0036】
外部システムは、一般にメタデータを解析して、生データのうちの関心対象となる特定の部分を識別し、解析のために、これらの特定の部分を車両から取り出す。一実施形態では、自動車データ処理システムは、車両がドッキングステーションに接続されている間に外部システムと通信するように構成される。本実施形態では、プロセッサは、継続的に記憶サブシステム内にローカルでメタデータを記憶する。車両がドッキングステーションにドッキング、すなわち、駐車および接続されると、プロセッサは、外部システムに蓄積されたメタデータを送信する。
【0037】
いくつかの実施形態では、車載プロセッサは、関心対象特徴を識別し、生データに、予め訓練された人工知能(AI)推論モデルを適用することによりメタデータを生成する。このAIモデルは、例えば、外部システムにより供給され得る。いくつかの実施形態では、プロセッサは、例えば、それぞれ異なる関心対象特徴を識別するためのもの、または、それぞれ異なる種類の生データ内の同じ関心対象特徴を識別するためのものなどのいくつかのそれぞれ異なるAIモデルを適用する。開示する技術のいくつかの実装例および説明的使用事例を下記で説明する。
【0038】
いくつかの実施形態では、同じ関心対象特徴(例えば、物体またはイベント)が、2つまたはそれより多くのデータソース(例えば、同じ種類であるが、車両内のそれぞれ異なる位置に配置されたセンサ、または、車両内の同じ位置もしくはそれぞれ異なる位置に配置されたそれぞれ異なる種類のセンサ)により作られる2つまたはそれより多くのそれぞれ異なる生データストリーム内に出現し得る。いくつかの実施形態では、車載プロセッサが、それぞれ異なる生データストリーム内の関心対象特徴(例えば、物体またはイベント)を識別し、生データの一部分であって、それらの異なるストリーム内での同じ関心対象特徴の発生に共通であり、それらの発生に共有される部分にタグ付けするメタデータを生成する。それぞれ異なるメディアオブジェクトに関するメタデータを生成し、処理する更なる態様が、名称「Metadata Generation for Multiple Object Types」の米国特許出願公開第2020/0042548号で扱われており、同米国特許出願公開の開示を、参照により本明細書に組み入れる。
【0039】
一般的に、メタデータは、生データよりも桁違いに小さく、よりシンプルであり、構造化されたフォーマットを有する。よって、適度な帯域幅を使用して、短期間にわたってメタデータを外部システムに送信することが可能である。次いでメタデータに基づいて外部システムが要求する生データのうちの特定の部分も、生データの全体量よりもはるかに小さい。したがって、開示する技術により、(i)車載システムと外部システムとの間の通信上のボトルネックを克服し、(ii)データ解析の質を損なわない最適な「分業」がもたらされる。
【0040】
図1は、本明細書で説明する実施形態による自動車データ処理システム20を概略的に示すブロック図である。システム20は、車両にインストールされ、様々なセンサ24、複数の電子式制御ユニット(ECU)32、先進運転支援システム(ADAS)28、インフォテインメントシステム30、および中央コンピュータ34を備える。
【0041】
センサ24は、例えば、ビデオカメラ、速度センサ、加速度計、音声センサ、赤外線センサ、レーダセンサ、ライダセンサ、超音波センサ、距離測定器もしくは他の近接センサ、または、他の任意の適当なセンサタイプを含み得る。本例では、各ECU32(「ゾーンECU」と称することもある)が、車両のそれぞれのゾーンにインストールされたセンサに接続される。一般に、各ECU32は、自体のそれぞれのセンサ24を制御し、これらセンサからデータを収集する。一実施形態では、例えば画像センサなどのセンサ24のうちの1つまたは複数が、ECU32を介さずに、ADAS28に直接的に接続される。
【0042】
本コンテキストでは、データを作るシステム20内の任意の要素(例えば、センサ24、ECU32、ADAS28、インフォテインメントシステム30および中央コンピュータ34を含む)を「データソース」と考える。ECU32、ADAS28、インフォテインメントシステム30および中央コンピュータ34を、車両の「電子サブシステム」の例とみなす。特定のシステムコンポーネントが、データソースと、電子サブシステムとの両方として働くことができることが分かる。
【0043】
いくつかの実施形態では、システム20の様々な電子サブシステムが、車両内のそれぞれ異なる様々な位置に配備され、車両にインストールされたパケットネットワークを介して通信する。本例では、パケットネットワークは、イーサネット(登録商標)ネットワークを備えるが、他の適当なネットワークプロトコルを使用することも可能である。このネットワークは、複数のイーサネット(登録商標)リンク36および1つまたは複数のイーサネット(登録商標)スイッチ40を備える。様々な実施形態で、ネットワーク内で使用されるビットレートは、IEEE802.3chによる10Gビット/秒(10Gbps)、IEEE802.3bpによる1000Mbps、IEEE802.3bwによる100Mbps、IEEE802.3cg(10Base-T1s)による10Mbps、または、他の任意の適当なビットレートであり得る。リンク36は、例えば、ツイストペア銅線リンク、または、イーサネット(登録商標)通信に適した他の任意の種類のリンクを備え得る。
【0044】
図1の例では、システム20は、集中記憶デバイス44(「記憶サブシステム」とも称する)およびプロセッサ48を更に備える。自動車ネットワーク内の集中記憶の態様が、例えば、2020年11月11日出願、名称「Automotive Network with Centralized Storage」の米国特許出願第17/094,844号で扱われており、同米国特許出願の開示を、参照により本明細書に組み入れる。
【0045】
記憶デバイス44は、車両内の様々なデータソース(例えば、センサおよび/または電子サブシステム)により提供される生データ45を記憶する。いくつかの実施形態では、プロセッサ48は、生データ45内の指定された関心対象特徴を識別し、生データ内での指定された関心対象特徴の発生にタグ付けするメタデータ46を生成し、メタデータ46を記憶デバイス45に記憶する。一実施形態では、プロセッサ48は、生データ45に計算人工知能(AI)エンジンを適用することにより関心対象特徴を識別する。プロセッサ48は、車両の外部にある外部システムに、例えば、クラウドベースのデータ処理システム、または、車両の外部にある他の適当なコンピュータにメタデータの少なくとも一部分をエクスポートする。
【0046】
一実施形態では、集中記憶デバイス44が、車両にインストールされたパケットネットワークに直接的に接続されたソリッドステートドライブ(SSD)を備える。図で見られるように、本例では、集中記憶デバイス44が、2つのそれぞれ異なるスイッチ40の2つのそれぞれ異なるポートに、それぞれのリンク36を介して接続された2つのインタフェースを備える。この方式では、単一のインタフェース(または対応するリンク)の障害によっては、集中記憶デバイス44はネットワークから切り離されないので、ある程度の冗長性がもたらされる。
【0047】
本例では、プロセッサ48および記憶デバイス44は、周辺機器コンポーネント相互接続エクスプレス(PCIe)バスなどの高速コンピュータバスを介して互いに通信する。あるいは、いくつかの実施形態では、プロセッサ48は、独立してパケットネットワークに接続されてもよく、このケースでは、プロセッサ48および記憶デバイス44が、このネットワークを介して互いに通信する。プロセッサ48は、車両がデータリンク52を使用して接続されるドッキングステーションまたはデータを転送するための他の任意の適当なインタフェース(図では見られない)と通信するように構成される。
【0048】
一般に、データソース(センサおよび/または電子サブシステム)は、ネットワークを介して集中記憶デバイス44に生データ45を送る。様々な実施形態で、データソースおよび集中記憶デバイス44は、不揮発性メモリエクスプレスオーバファブリック(NVMe-oF)プロトコルまたはNVMe-over-TCPなどの任意の適当なプロトコルを使用して通信することができる。システム20内で適用できる集中記憶の更なる態様が、2020年11月11日出願、名称「Automotive Network with Centralized Storage」の米国特許出願第17/094,844号で説明されており、同米国特許出願の開示を、参照により本明細書に組み入れる。
【0049】
図1に示した通信システム20およびそのコンポーネント(様々なデバイスおよび電子サブシステム、ならびに/または、集中記憶デバイス44など)の構成は、明瞭化のためのみに示す例示的構成である。代替実施形態では、他の任意の適当な構成を使用することも可能である。例えば、システム20は、他の任意の適当な方式でレイアウトおよび接続された、他の適当な種類の電子サブシステムおよび/またはデバイスを備えることができる。他の例として、パケットネットワーク(リンク36およびスイッチ40を含む)は、他の任意の適当なトポロジを有してもよい。
【0050】
システム20およびそのコンポーネントのそれぞれ異なる要素は、専用のハードウェアまたはファームウェアを使用(ハードワイヤードロジックまたはプログラマブルロジックを使用するなど)して、例えば、特定用途集積回路(ASIC)またはフィールドプログラマブルゲートアレイ(FPGA)内に実装することができる。さらに、または、こうする代わりに、システム20のコンポーネントのいくつかの機能、例えば、ECU32、記憶デバイス44および/またはプロセッサ48のいくつかの機能を、ソフトウェア内に実装すること、および/または、ハードウェア要素とソフトウェア要素との組合せを使用して実装することができる。開示する技術の理解のために必須でない要素は、明瞭化のために図から省略されている。
【0051】
いくつかの実施形態では、ECU32、記憶デバイス44および/またはプロセッサ48のいくつかの機能を、1つまたは複数のプログラマブルプロセッサ内に実装することができ、これらのプログラマブルプロセッサは、本明細書で説明する機能を実行するためにソフトウェア内にプログラムされる。このソフトウェアは、例えば、電子的形態でネットワークを介していずれかのプロセッサにダウンロードすることができ、さらに、または、こうする代わりに、磁気メモリ、光学メモリ、もしくは電子メモリなどの非一時的有形媒体に提供すること、および/もしくは、そこに記憶することができる。
【0052】
上記のように、車両内の様々なデータソース(例えば、センサおよび電子サブシステム)は、車両の動作継続中に、生データ45を作り、集中記憶デバイス44での記憶のためにそのデータを送る。生データ45は、例えば、映像データ、音声データ、センサデータ、レーダデータおよび/もしくはライダデータ、運転者挙動データ、インフォテインメントサブシステムおよび/もしくはユーザアプリケーションからのデータ、GPSデータおよびGPSマップなどの位置データおよび/もしくはナビゲーションデータ、ならびに/または、他の任意の適当な種類のデータを含み得る。
【0053】
生データ(例えば、映像)のうちの少なくともいくらかが構造化されていないこともあることが分かる。生データは、一般には、複数のそれぞれ異なる種類(モダリティ)があり、車両内の複数のそれぞれ異なる位置でインストールされた複数のそれぞれ異なる種類の複数のそれぞれ独立したデータソースから一般には生じる。いくつかの実施形態では、複数の生データストリームが、同じ種類の複数のセンサ(例えば、複数のビデオカメラまたは複数のライダ)により生成され、これらセンサはそれぞれ、車両内の異なる位置に配置されている。他の実施形態では、同じ種類のセンサの複数のインスタンスを、車両内の同じ位置に配置して、同じ種類の生データの冗長なストリームを提供する。
【0054】
プロセッサ48は、1つまたは複数の指定された関心対象特徴を識別するために生データ45をスキャンし、生データ内での指定された関心対象特徴の発生にタグ付けするメタデータ46のデータベースを生成し、メタデータ46を記憶デバイス45に記憶する。様々な実施形態で、プロセッサ48は、任意の適当な関心対象特徴を検索することができ、これらは、例えば以下などである。
-車両付近の物体または環境条件であって、映像内に見ることができるか、または、センサデータ内に検出可能な物体または環境条件(例えば、障害物、交通標識、車両に近づいている他の車両または歩行者)。
-運転者挙動に関するイベント(例えば、信号機に反応してからの車両の減速、加速、事故もしくは障害物を避けるための急ハンドル、または、交通標識への対応)。
-車両の道路での挙動に関するイベント(例えば、自動運転の効果)。
-例えば、重交通量または軽交通量のシナリオなど、近くの車両の存在または挙動に関するイベント。
-車両の自律動作への運転者の介入に関するイベント。
-外部要素(例えば、他の車両、照明、道路センサ)との通信。
-車両内の機械的徴候(例えば、タイヤ空気圧の消失による反応性またはノイズの変化、1つまたは複数のブレーキパッドの摩耗、ヘッドライトまたは他のライトの焼切れによる視認性の消失、車載ネットワークの問題による接続性の低減)。
【0055】
上記の関心対象特徴の一覧は、例としてのみ挙げたものである。さらに、または、上記の代わりに、プロセッサ48は、解析についての関心対象になり得る他の任意の適当な特徴を識別することもできる。
【0056】
上記のように、いくつかのケースでは、特定の関心対象特徴(例えば、物体またはイベント)が、複数のデータソースの生データ内で発生する。複数のデータソース(したがって、加えて、生データストリーム)は、それぞれ異なる種類(例えば、映像、音声、ライダ、レーダなど)、または、同じ種類の生データの複数のインスタンス(例えば、車両内のそれぞれ異なる位置でキャプチャされた映像)であり得る。例えば、道路事故、または、機械的な故障もしくは障害は、ビデオフィード内で見ることができ、音声データ内で聞くことができ、様々なセンサにより検知され、かつ/または、1つまたは複数の電子サブシステムにより報告され得る。それぞれ異なるデータソースの生データ内での、所与の関心対象特徴のこうした発生同士の相関関係自体は、価値のあるものである。したがって、いくつかの実施形態では、プロセッサ48は、同じタグを使用して、こうした関心対象特徴(例えば、物体またはイベント)の発生にタグ付けするか、そうでなければ、それぞれ異なるセンサのデータ内での発生を互いにリンクさせるようにする。
【0057】
様々な実施形態で、プロセッサ48は、生データ45内の指定された関心対象特徴を識別するための様々な技術を使用することができる。いくつかの実施形態では、プロセッサ48が、生データ45内の関心対象特徴を識別する予め訓練されたAI推論モデルをコンパイルして適用するように構成された計算人工知能(AI)エンジンを実行する。いくつかの実施形態では、プロセッサ48は、その生データに、例えば、それぞれ異なる関心対象特徴を識別するためのもの、または、それぞれ異なる種類の生データ内の同じ関心対象特徴を識別するためのものなどのいくつかのそれぞれ異なるAIモデルを適用する。
【0058】
一実施形態では、プロセッサ48は、外部システムから1つまたは複数の予め訓練された人工知能(AI)モデルを、例えば、車両がドッキングステーションに接続されている間に、データリンク52を介して受信する。車両の動作継続中に、プロセッサ48は、様々なデータソースにより提供される生データ45に、1つまたは複数の予め訓練されたAIモデルを適用する。
【0059】
プロセッサ48は、1つまたは複数のAIモデルを使用して、生データ45内での関心対象特徴の発生を識別し、これらの発生にタグ付けするメタデータ46を生成する。プロセッサ48は、記憶デバイス44に既に記憶されている生データ、および/または、記憶デバイス44への記憶途中の生データにAIモデルを適用することができる。メタデータ46は、記憶デバイス44に一時的に記憶される。適当な時間、例えば、車両がドッキングステーションに接続されたときに、プロセッサ48は、車両内で計算されるメタデータ46を、一般には生データの全てを転送することなく、外部システムに送信する。
【0060】
メタデータ46のデータサイズは、生データと比較すると確実に、相対的に小さいので、いくつかの実施形態では、外部システムにメタデータを送信するために、車両が、ドッキングステーションへの自体の接続を使用することは必須ではないことに留意されたい。一実施形態では、プロセッサ48は、車両がドッキングステーションに接続されているかどうかとは無関係に、車両動作中に、例えば、セルラリンク、モバイルWi-Fi(登録商標)コネクティビティカップリング、または、他の適当なワイヤレスリンクなどの適当なワイヤレスリンクを介して、メタデータ46を外部システムに送信することができる。同様に、一実施形態では、外部システムが、車両がドッキングステーションに接続されているかどうかとは無関係に、例えば、適当なワイヤレスリンクを介して、AIモデルをプロセッサ48に送ることができる。一般に、ドッキングステーションを介した通信(例えば、AIモデルの受信、ならびに、メタデータおよび/または生データのうちの要求された部分のエクスポート)は、オフライン処理とみなされる。
【0061】
いくつかの実施形態では、プロセッサ48は、メタデータ46の全てを外部システムに送信する。他の実施形態では、プロセッサ48は、選択基準を使用して、メタデータ46の一部分のみを選択し、メタデータのうちの選択された部分のみを外部システムに送る。
【0062】
開示した技術は、様々な使用事例での多種多様な特徴を解析するために使用することが可能である。例えば、外部システムが、動物が道路またはその周囲に出現した際の自律走行車両の挙動を解析する使用事例を考慮されたい。この種の解析を実行するために、一実施形態では、外部システムは、生の映像データ内の動物を認識するAIモデルを訓練する。プロセッサ48は、予め訓練されたAIモデルを受信し、それをコンパイルして、車両内の様々なカメラにより提供されるビデオカメラフィードに適用する。関心対象特徴の識別された発生(映像内での動物の出現)に基づいて、プロセッサ48は、動物が出現する映像フレームにタグ付けするメタデータを生成する。タグ付けされたフレームは、車両内のそれぞれ異なる位置に配置された2つまたはそれより多くのビデオセンサからの映像ストリーム内で特定することができる。プロセッサ48は、初期解析のためにメタデータを外部システムにアップロードする。
【0063】
一実施形態では、次いで、外部システムは、生データ45のうち、識別された発生に関する関心対象部分(例えば、動物の出現の少し前に始まる映像の抜粋)を要求することができる。生データのうちの要求される関心対象部分は、必ずしも、発生が識別された厳密な部分である必要はないことに留意されたい。例えば、外部システムは、映像内で動物が識別された時間を記録し、これらの時間に対応するセンサデータを要求することができる。一実施形態では、プロセッサ48は、外部システムに要求されることなく生データの関心対象部分を(例えば、メタデータとともに)アップロードする。
【0064】
他の例として、外部システムが、降雨条件で歩行者が存在する際の自律走行車両の挙動を解析する使用事例を考慮されたい。この種の解析を実行するために、一実施形態では、外部システムは、複数の予め訓練されたAIモデル(例えば、映像内の降雨シーンを認識するためのモデル、映像内の歩行者を認識するための他のモデル、また、場合によっては、環境条件センサなどの他の種類のセンサの出力内の降雨条件を認識するための他のモデルなど)をプロセッサ48に提供する。これらのモデルを使用することで、プロセッサ48は、シーンが降雨である映像内の時間間隔、歩行者を示す映像内の時間間隔、また、場合によっては、他のセンサの生データ内のこうした時間間隔にタグ付けするメタデータを生成する。後に外部システムは、様々な種類の間隔の間での共通部分を見つけ(すなわち、歩行者を含む降雨条件の時間間隔を識別する)、これらの時間間隔に対応するセンサデータおよび/またはサブシステムデータを要求することができる。
【0065】
上記の2つの例は、非常に簡略化されており、決して限定を行うものではなく、開示する技術の有効性を実証するためのみに挙げられている。他の例は、例えば、それぞれ異なる種類のより多くのデータソースを含み得る。
【0066】
図2は、本明細書で説明する実施形態によるメタデータを生成および処理する方法を概略的に示すフロー図である。図の左側は、外部システム(例えば、クラウドベースのデータ処理システム)により実行されるアクションを示す。図の右側は、車両内のシステム20により実行されるアクションを示す。
【0067】
モデル訓練動作60では、外部システムが、特定の種類の生データ45内の特定の関心対象特徴を識別するための(例えば、映像データ内で人を識別するため、音声データまたはセンサデータ内で機械的な故障を識別するためなどの)AI推論モデルを訓練する。訓練されたモデルは、例えば(必ずではないが)、車両がドッキングステーションに接続されている間にプロセッサ48に提供される。コンパイル動作64では、プロセッサ48は、プロセッサの計算AIエンジン上での実行のためにAIモデルをコンパイルする。一実施形態では、プロセッサ48は、ローカルな入力を考慮するためにAIモデルの訓練をアップデートすることができる(例えば、特定の車両内で得られたデータを使用して追加の訓練を実行する)。こうしたアップデートは、例えば、通常その特定の車両が運転するエリアに、より良好に適合するのに役に立つことが可能である。この種の追加の訓練は、任意のステージで、例えば、車両がドッキングステーションに接続されている間に、かつ/または、運転中に実行することができる。
【0068】
データ収集動作68では、車両内の様々なデータソースが、生データ45を生成し、記憶デバイス44での記憶のために生データを送る。識別動作72では、プロセッサ48は、AIモデルを適用することにより、生データ45内での関心対象特徴の発生を識別する。
【0069】
メタデータ生成動作76では、プロセッサ48は、識別された発生にタグ付けするメタデータ46を生成する。メタデータ46内の各タグは、一般に、識別されている関心対象特徴と、生データ内での発生の位置(例えば、映像内のフレーム番号、または、生データの種類に応じた他の位置)とを示す。プロセッサ48は、記憶デバイス44に既に記憶されている生データ、および/または、記憶デバイス44への記憶途中の生データにAIモデルを適用することができる。
【0070】
上記のように、メタデータ生成は、複数の生データセットに適用することができ、同じ種類またはそれぞれ異なる種類のそれぞれ異なるセンサにより供給されるそれぞれ異なる生データセット内に出現する同じ関心対象特徴(例えば、物体またはイベント)のタグを照合することを含み得る。
【0071】
メタデータ記憶動作80では、プロセッサ48は、メタデータ46を記憶デバイス44に記憶する。通知動作84では、プロセッサ48は、メタデータ46が利用可能であることを外部システムに通知する。メタデータ取出し動作88では、外部システムは、車両の記憶デバイス44からメタデータ46をフェッチする。様々な実施形態で、メタデータ46を、外部システムにより車両から「引き出す」こと、または、車両主導で外部システムに「送り込む」ことができる。例えば、プロセッサ48は、定期的に、または、車両がドッキングステーションに接続されたときに外部システムにメタデータを送り込むことができる。
【0072】
初期解析動作92では、外部システムは、適当な初期解析をメタデータに実行する。初期解析では、一般に、メタデータに基づいて、生データ45のうちの、関心対象特徴に関する1つまたは複数の関心対象部分が決定される。データ取出し動作96では、外部システムは、車両の記憶デバイス44から生データ45の関心対象部分をフェッチする。次いで、外部システムは、解析動作100で、生データの関心対象部分を解析する。
【0073】
一実施形態では、上記の処理を、異なるAIモデルであって、プロセッサ48が計算AIエンジンに再度対応づけて適用させることで、異なる関心対象特徴(または、異なる種類の生データ内の同じ関心対象特徴)にタグ付けするAIモデルを用いて繰り返すことができる。プロセッサ48は、新たなメタデータを既存のメタデータデータベースに加えること、または、メタデータ46の別個のデータベースを生成し、記憶デバイス44に記憶することができる。
【0074】
本明細書で説明する実施形態は、自動車システム内で得られる生データを主に扱っているが、本明細書で説明する方法およびシステムは、例えば、映像ライブラリ解析および音声読出解析など、構造化されていない他の様々な種類の生データを処理する際といった他の用途で使用することも可能である。
【0075】
上記の実施形態は例として引用されており、本発明は、先で具体的に示したものおよび説明したものに限定されないことが留意される。それどころか、本発明の範囲は、先で説明した様々な特徴の組合せおよび部分的組合せの両方、ならびに、その変形形態および修正形態を含み、それらは、当業者が先の説明を読んだ際に想到されるはずであり、先行技術では開示されていない。本特許出願に参照により組み込んだ文献は、本願の一体部分とみなされるが、例外として、これらの組み込んだ文献で定義される語が、本明細書で明示的または暗示的になされた定義に矛盾する範囲では、本明細書内での定義のみが考慮されるべきである。
[他の可能な項目]
[項目1]
車両内に配置され、少なくとも、前記車両の1つまたは複数のデータソースにより作られるデータを記憶するように構成されている記憶サブシステムと、
車両にインストールされたプロセッサであって、
前記記憶サブシステム内に記憶された、または、前記記憶サブシステム内への記憶途中の前記データに、前記データ内の1つまたは複数の指定された関心対象特徴を識別する少なくとも1つのモデルを適用して、前記記憶されたデータ内での、前記指定された関心対象特徴の発生にタグ付けするメタデータを生成し、
前記車両の外部にある外部システムに、前記メタデータの少なくとも一部分をエクスポートするように構成されているプロセッサと
を備える自動車データ処理システム。
[項目2]
前記プロセッサが、前記複数のデータソースのうちの2つまたはそれより多くのそれぞれ異なるデータソースにより作られる前記データ内での同じ関心対象特徴の発生を識別し、前記メタデータを生成する際に、前記データにタグ付けして、前記複数のデータソースのうちの前記2つまたはそれより多くのそれぞれ異なるデータソースにより作られるデータ内に出現する前記同じ関心対象特徴の前記発生を互いにリンクさせるように構成されている、項目1に記載の自動車データ処理システム。
[項目3]
前記複数のデータソースのうちの前記2つまたはそれより多くのデータソースにより作られる前記データが、同じ種類のデータである、項目2に記載の自動車データ処理システム。
[項目4]
前記複数のデータソースのうちの前記2つまたはそれより多くのデータソースにより作られる前記データが、それぞれ異なる種類のデータである、項目2に記載の自動車データ処理システム。
[項目5]
前記複数のデータソースのうちの前記2つまたはそれより多くのデータソースが、前記車両内のそれぞれ異なる位置に配置される、項目2に記載の自動車データ処理システム。
[項目6]
前記プロセッサが、
前記エクスポートされたメタデータに応答して、前記データのうち、前記関心対象特徴に関する1つまたは複数の選択された部分の要求を前記外部システムから受信し、
前記データの全てには満たない、少なくとも前記データの前記選択された部分を前記外部システムに提供するように更に構成されている、
項目1から5のいずれか一項に記載の自動車データ処理システム。
[項目7]
前記プロセッサが、前記データのうち、2つまたはそれより多くの選択された部分を前記外部システムに提供するように構成されており、前記2つまたはそれより多くの選択された部分が、前記複数のデータソースのうちの2つまたはそれより多くのそれぞれ異なるデータソースにより作られたものであり、同じ関心対象特徴に関連付けられている、項目6に記載の自動車データ処理システム。
[項目8]
前記プロセッサが、前記メタデータのうちの前記エクスポートする部分を選択基準に従って選択するように構成されている、項目1から5のいずれか一項に記載の自動車データ処理システム。
[項目9]
前記プロセッサが、前記メタデータを、前記メタデータに対応するデータを同時にエクスポートすることなくエクスポートするように構成されている、項目1から5のいずれか一項に記載の自動車データ処理システム。
[項目10]
前記記憶サブシステムが、少なくとも、前記車両内の複数の独立したデータソースにより作られるデータを記憶するように構成されている、項目1から5のいずれか一項に記載の自動車データ処理システム。
[項目11]
前記記憶サブシステムが、少なくとも、前記車両内のそれぞれ異なる位置にインストールされた複数のデータソースにより作られるデータを記憶するように構成されている、項目1から5のいずれか一項に記載の自動車データ処理システム。
[項目12]
前記記憶サブシステムが、前記データのうちの2つまたはそれより多くのそれぞれ異なる種類を記憶するように構成されている、項目1から5のいずれか一項に記載の自動車データ処理システム。
[項目13]
前記プロセッサが、前記外部システムから前記モデルを受信するように構成されている、項目1から5のいずれか一項に記載の自動車データ処理システム。
[項目14]
前記プロセッサが、前記車両がドッキングステーションに接続されている間に前記メタデータをエクスポートするように構成されている、項目1から5のいずれか一項に記載の自動車データ処理システム。
[項目15]
前記プロセッサが、前記車両がドッキングステーションに接続されているかどうかとは無関係に、前記メタデータをエクスポートするように構成されている、項目1から5のいずれか一項に記載の自動車データ処理システム。
[項目16]
前記モデルが、人工知能(AI)推論モデルを含み、前記プロセッサが、前記AI推論モデルを前記データに適用することにより前記メタデータを生成するように構成されている、項目1から5のいずれか一項に記載の自動車データ処理システム。
[項目17]
前記プロセッサが、前記外部システムから、予め訓練された前記AI推論モデルを受信し、前記車両内で前記AI推論モデルの訓練をアップデートするように構成されている、項目16に記載の自動車データ処理システム。
[項目18]
前記記憶サブシステムが、前記複数のデータソースにより作られる前記データを記憶するように構成された集中記憶デバイスを含む、項目1から5のいずれか一項に記載の自動車データ処理システム。
[項目19]
前記集中記憶デバイスが、前記複数のデータソースのうちの、それぞれ異なる種類の2つまたはそれより多くのデータソースにより作られる前記データを記憶するように構成されている、項目18に記載の自動車データ処理システム。
[項目20]
前記プロセッサが、
前記第1のモデルとは異なる第2のモデルを前記データに適用することであって、前記第2のモデルが、前記データ内の1つまたは複数の第2の関心対象特徴を識別する、適用することと、
前記第2のモデルに従って、前記第2の関心対象特徴の第2の発生を前記メタデータに加えることと、
(i)前記関心対象特徴の前記発生のみに関するメタデータ、(ii)前記第2の関心対象特徴の前記第2の発生のみに関するメタデータ、および、(iii)前記発生と前記第2の発生との両方に関するメタデータのうちの1つまたは複数を前記外部システムに提供することとを行うように更に構成されている、
項目1から5のいずれか一項に記載の自動車データ処理システム。
[項目21]
前記プロセッサが、前記記憶サブシステム内に、前記メタデータを構造化された形態で記憶するように構成されている、項目1から5のいずれか一項に記載の自動車データ処理システム。
[項目22]
車両内に配置された記憶サブシステム内に、少なくとも、前記車両の1つまたは複数のデータソースにより作られるデータを記憶する段階と、
車両にインストールされたプロセッサを使用する段階であって、
前記記憶サブシステム内に記憶された、または、前記記憶サブシステム内への記憶途中の前記データに、前記データ内の1つまたは複数の指定された関心対象特徴を識別する少なくとも1つのモデルを適用して、前記記憶されたデータ内での、前記指定された関心対象特徴の発生にタグ付けするメタデータを生成する段階、および
前記車両の外部にある外部システムに、前記メタデータの少なくとも一部分をエクスポートする段階
である使用する段階と
を備える自動車データ処理方法。
[項目23]
前記モデルを適用する段階が、前記複数のデータソースのうちの2つまたはそれより多くのそれぞれ異なるデータソースにより作られる前記データ内での同じ関心対象特徴の発生を識別する段階を備え、前記メタデータを生成する段階が、前記データにタグ付けして、前記複数のデータソースのうちの前記2つまたはそれより多くのそれぞれ異なるデータソースにより作られるデータ内に出現する前記同じ関心対象特徴の前記発生を互いにリンクさせる段階を備える、項目22に記載の自動車データ処理方法。
[項目24]
前記同じ関心対象特徴の前記発生を識別する段階が、前記複数のデータソースのうち、前記車両内のそれぞれ異なる位置に配置された2つまたはそれより多くのデータソースにより供給されるデータ内での前記発生を識別する段階を備える、項目23に記載の自動車データ処理方法。
[項目25]
前記エクスポートされたメタデータに応答して、前記データのうち、前記関心対象特徴に関する1つまたは複数の選択された部分の要求を前記外部システムから受信する段階と、
前記データの全てには満たない、少なくとも前記データの前記選択された部分を前記外部システムに提供する段階と、
を更に備える、項目22から24のいずれか一項に記載の自動車データ処理方法。
[項目26]
前記選択された部分を提供する段階が、前記データのうち、2つまたはそれより多くの選択された部分を前記外部システムに提供する段階を備え、前記2つまたはそれより多くの選択された部分が、前記複数のデータソースのうちの2つまたはそれより多くのそれぞれ異なるデータソースにより作られたものであり、同じ関心対象特徴に関連付けられている、項目25に記載の自動車データ処理方法。
[項目27]
前記メタデータをエクスポートする段階が、前記メタデータを、前記メタデータに対応するデータとは別個にエクスポートする段階と、前記メタデータに基づいて、前記データのうちの1つまたは複数の関心対象部分を選択する段階と、前記車両がドッキングステーションに接続されている際に、前記データのうちの前記選択された1つまたは複数の関心対象部分をエクスポートする段階とを備える、項目22から24のいずれか一項に記載の自動車データ処理方法。
[項目28]
車両にインストールされ、データを生成するように構成されている複数のデータソースと、
プロセッサであって、前記車両にインストールされ、
前記複数のデータソースにより生成された前記データを収集し、前記車両の外に前記データをエクスポートすることなく、前記車両内に配置された記憶デバイス内に前記データをローカルに記憶し、
前記ローカルに記憶されたデータ内の1つまたは複数の関心対象部分を識別し、
ドッキングステーションであって、前記ドッキングステーションから離れて位置する外部システムに結合されたドッキングステーションに前記車両が接続されている間に、前記ローカルに記憶されたデータの全てには満たない、少なくとも前記識別された関心対象部分を、前記外部システムにアップロードするように構成されている
プロセッサと
を備える自動車データ処理システム。
[項目29]
前記プロセッサが、前記車両がドッキングステーションに接続されているかどうかとは無関係に、前記データを収集および記憶し、前記関心対象部分を識別するように構成されている、項目28に記載の自動車データ処理システム。
[項目30]
前記プロセッサが、前記データを、前記複数のデータソースのうちの、同じ種類のデータを作る2つまたはそれより多くのそれぞれ異なるデータソースから収集するように構成されている、項目28に記載の自動車データ処理システム。
[項目31]
前記プロセッサが、前記データを、前記複数のデータソースのうちの、それぞれ異なる種類のデータを作る2つまたはそれより多くのそれぞれ異なるデータソースから収集するように構成されている、項目28に記載の自動車データ処理システム。
[項目32]
前記プロセッサが、前記複数のデータソースのうちの、前記車両内のそれぞれ異なる位置に配置された2つまたはそれより多くのそれぞれ異なるデータソースから前記データを収集するように構成されている、項目28に記載の自動車データ処理システム。
[項目33]
前記プロセッサが、2つまたはそれより多くの関心対象部分を識別およびアップロードするように構成されており、前記2つまたはそれより多くの関心対象部分が、前記複数のデータソースのうちの2つまたはそれより多くのそれぞれ異なるデータソースにより作られたものであり、同じ関心対象特徴に関連付けられている、項目28から32のいずれか一項に記載の自動車データ処理システム。
[項目34]
車両にインストールされた複数のデータソースによりデータを生成する段階と、
車両にインストールされたプロセッサを使用する段階であって、
前記データソースにより生成された前記データを収集し、前記車両の外に前記データをエクスポートすることなく、前記車両内に配置された記憶デバイス内に前記データをローカルに記憶する段階、
前記ローカルに記憶されたデータのうちの1つまたは複数の関心対象部分を識別する段階、および
ドッキングステーションであって、前記ドッキングステーションから離れて位置する外部システムに結合されたドッキングステーションに前記車両が接続されている間に、前記ローカルに記憶されたデータの全てには満たない、少なくとも前記識別された関心対象部分を、前記外部システムにアップロードする段階
である使用する段階と
を備える自動車データ処理方法。
[項目35]
前記データを収集および記憶する段階、ならびに、前記関心対象部分を識別する段階が、前記車両がドッキングステーションに接続されているかどうかとは無関係に実行される、項目34に記載の自動車データ処理方法。
[項目36]
前記データを収集する段階が、前記データを、前記複数のデータソースのうちの、同じ種類のデータを作る2つまたはそれより多くのそれぞれ異なるデータソースから収集する段階を備える、項目34に記載の自動車データ処理方法。
[項目37]
前記データを収集する段階が、前記データを、前記複数のデータソースのうちの、それぞれ異なる種類のデータを作る2つまたはそれより多くのそれぞれ異なるデータソースから収集する段階を備える、項目34に記載の自動車データ処理方法。
[項目38]
前記データを収集する段階が、前記複数のデータソースのうちの、前記車両内のそれぞれ異なる位置に配置された2つまたはそれより多くのそれぞれ異なるデータソースから前記データを収集する段階を備える、項目34に記載の自動車データ処理方法。
[項目39]
前記関心対象部分を識別する段階およびアップロードする段階が、2つまたはそれより多くの関心対象部分を識別およびアップロードする段階を備え、前記2つまたはそれより多くの関心対象部分が、前記複数のデータソースのうちの2つまたはそれより多くのそれぞれ異なるデータソースにより作られたものであり、同じ関心対象特徴に関連付けられている、項目34から38のいずれか一項に記載の自動車データ処理方法。
[項目40]
車両内のそれぞれ異なる位置に分散され、データを生成するように構成されている複数のデータソースと、
前記車両内に配置され、前記複数のデータソースから、前記車両内の中央記憶位置に前記データを転送するように構成されているパケットネットワークと、
前記車両にインストールされたプロセッサであって、
前記複数のデータソースから転送され、前記中央記憶位置に記憶された前記データに対応するメタデータを生成し、
前記センサデータのうちの1つまたは複数の選択された部分を、前記車両の外部にある外部システムに転送するように構成されており、前記選択された部分が、前記複数のデータソースから転送され、前記中央記憶位置に記憶された前記データに対応する前記メタデータに基づいて選択される、
プロセッサと
を備える自動車データ処理システム。
[項目41]
前記複数のデータソースが、それぞれ異なる種類のデータを作るように構成されている2つまたはそれより多くのそれぞれ異なるデータソースを含む、項目40に記載の自動車データ処理システム。
[項目42]
前記複数のデータソースのうちの前記2つまたはそれより多くのデータソースにより作られる前記データが、それぞれ異なる種類のデータである、項目40に記載の自動車データ処理システム。
[項目43]
前記プロセッサが、少なくとも部分的には、前記外部システムから受信される1つまたは複数の関心対象特徴の指示に応答して、前記センサデータのうちの前記1つまたは複数の部分を選択するように構成されている、項目40から42のいずれか一項に記載の自動車データ処理システム。
[項目44]
前記プロセッサが、前記中央記憶位置に記憶されている前記データに人工知能(AI)推論モデルを適用することにより前記メタデータを生成するように構成されている、項目40から42のいずれか一項に記載の自動車データ処理システム。
[項目45]
前記メタデータを生成する際に、前記プロセッサが、前記データ内での1つまたは複数の関心対象特徴の1つまたは複数の発生にタグ付けするように構成されている、項目40から42のいずれか一項に記載の自動車データ処理システム。
[項目46]
前記メタデータを生成する際に、前記プロセッサが、前記データのうちの2つもしくはそれより多くのそれぞれ異なる種類内での、または、2つもしくはそれより多くのそれぞれ異なるデータソースにより生成されたデータ内での、同じ関心対象特徴の発生にタグ付けするように構成されている、項目40から42のいずれか一項に記載の自動車データ処理システム。
[項目47]
車両内のそれぞれ異なる位置に分散された複数のデータソースによりデータを生成する段階と、
前記車両内に配置されたパケットネットワークを介して、前記複数のデータソースから前記車両内の中央記憶位置に前記データを転送する段階と、
車両にインストールされたプロセッサを使用する段階であって、
前記複数のデータソースから転送され、前記中央記憶位置に記憶された前記データに対応するメタデータを生成する段階、および
前記センサデータのうちの1つまたは複数の選択された部分を、前記車両の外部にある外部システムに転送する段階であって、前記選択された部分が、前記複数のデータソースから転送され、前記中央記憶位置に記憶された前記データに対応する前記メタデータに基づいて選択される、転送する段階
である使用する段階と
を備える自動車データ処理方法。
[項目48]
前記複数のデータソースが、それぞれ異なる種類のデータを作るように構成されている2つまたはそれより多くのそれぞれ異なるデータソースを含む、項目47に記載の自動車データ処理方法。
[項目49]
前記複数データソースのうちの前記2つまたはそれより多くのデータソースにより作られる前記データが、それぞれ異なる種類のデータである、項目47に記載の自動車データ処理方法。
[項目50]
前記センサデータのうちの前記1つまたは複数の部分を選択する段階が、前記外部システムから受信される1つまたは複数の関心対象特徴の指示に少なくとも部分的には応答して実行される、項目47から49のいずれか一項に記載の自動車データ処理方法。
[項目51]
前記メタデータを生成する段階が、前記中央記憶位置に記憶されている前記データに人工知能(AI)推論モデルを適用する段階を備える、項目47から49のいずれか一項に記載の自動車データ処理方法。
[項目52]
前記メタデータを生成する段階が、前記データ内での1つまたは複数の関心対象特徴の1つまたは複数の発生にタグ付けする段階を備える、項目47から49いずれか一項に記載の自動車データ処理方法。
[項目53]
前記メタデータを生成する段階が、前記データのうちの2つもしくはそれより多くのそれぞれ異なる種類内での、または、2つもしくはそれより多くのそれぞれ異なるデータソースにより生成されたデータ内での、同じ関心対象特徴の発生にタグ付けする段階を備える、項目47から49のいずれか一項に記載の自動車データ処理方法。
[項目54]
車両と通信するためのインタフェースと、
コンピュータと
を備え、
前記コンピュータが、
前記車両の1つまたは複数のデータソースにより作られるデータ内の1つまたは複数の指定された特徴を識別するモデルを規定し、
前記車両にインストールされたプロセッサに前記モデルを提供し、
メタデータであって、前記プロセッサが前記モデルを使用することで生成されたものであり、前記データ内での前記指定された特徴の発生にタグ付けするメタデータを、前記車両内の前記プロセッサから受信し、
前記受信されたメタデータを解析する
ように構成されている、
自動車データ解析システム。
[項目55]
前記インタフェースが、前記車両がドッキングステーションに接続されている間に前記メタデータを受信するように構成されている、項目54に記載の自動車データ解析システム。
[項目56]
前記インタフェースが、前記車両がドッキングステーションに接続されているかどうかとは無関係に、前記車両から前記メタデータを受信するように構成されている、項目54に記載の自動車データ解析システム。
[項目57]
前記モデルが、人工知能(AI)推論モデルを含み、前記コンピュータが、前記AI推論モデルを訓練し、前記車両内の前記プロセッサに前記訓練されたAI推論モデルを提供するように構成されている、項目54から56のいずれか一項に記載の自動車データ解析システム。
[項目58]
前記コンピュータが、前記受信されたメタデータに応答して、記憶された前記データのうちの1つまたは複数の選択された部分の要求を前記車両内の前記プロセッサに送り、前記要求された1つまたは複数の選択された部分を前記プロセッサから受信し、前記データのうちの前記1つまたは複数の選択された部分を解析するように構成されている、項目54から56のいずれか一項に記載の自動車データ解析システム。
[項目59]
前記コンピュータが、記憶された前記データのうちの2つまたはそれより多くの選択された部分を要求するように構成されており、前記2つまたはそれより多くの選択された部分が、前記複数のデータソースのうちの2つまたはそれより多くのそれぞれ異なるデータソースにより作られたものである、項目54から56のいずれか一項に記載の自動車データ解析システム。
[項目60]
前記コンピュータが、記憶された前記データのうちの2つまたはそれより多くの選択された部分を要求するように構成されており、前記2つまたはそれより多くの選択された部分が、同じ関心対象特徴に関連付けられている、項目54から56のいずれか一項に記載の自動車データ解析システム。
[項目61]
車両の外部にあるコンピュータにおいて、前記車両の1つまたは複数のデータソースにより作られるデータ内の1つまたは複数の指定された特徴を識別するモデルを規定する段階と、
前記車両にインストールされたプロセッサに前記モデルを提供する段階と、
前記車両内の前記プロセッサから、前記車両の外部にある前記コンピュータ内でメタデータを受信する段階であって、前記メタデータが、前記プロセッサが前記モデルを使用することにより生成されたものであり、前記データ内の前記指定された特徴の発生にタグ付けする、段階と、
前記受信されたメタデータを解析する段階と
を備える自動車データ解析方法。
図1
図2