IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ウェイモ エルエルシーの特許一覧

特許7072628車載センサを用いて気象状態を検出する方法及びシステム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-05-12
(45)【発行日】2022-05-20
(54)【発明の名称】車載センサを用いて気象状態を検出する方法及びシステム
(51)【国際特許分類】
   G01W 1/00 20060101AFI20220513BHJP
   G08G 1/16 20060101ALI20220513BHJP
【FI】
G01W1/00 J
G08G1/16 C
【請求項の数】 20
【外国語出願】
(21)【出願番号】P 2020204937
(22)【出願日】2020-12-10
(62)【分割の表示】P 2019040947の分割
【原出願日】2014-04-07
(65)【公開番号】P2021047204
(43)【公開日】2021-03-25
【審査請求日】2020-12-28
(31)【優先権主張番号】13/873,442
(32)【優先日】2013-04-30
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】13/888,634
(32)【優先日】2013-05-07
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】13/888,883
(32)【優先日】2013-05-07
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】13/860,664
(32)【優先日】2013-04-11
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】317015065
【氏名又は名称】ウェイモ エルエルシー
(74)【代理人】
【識別番号】100079108
【弁理士】
【氏名又は名称】稲葉 良幸
(74)【代理人】
【識別番号】100126480
【弁理士】
【氏名又は名称】佐藤 睦
(72)【発明者】
【氏名】チュ ジャジュン
(72)【発明者】
【氏名】ドルゴフ ディミトリー
(72)【発明者】
【氏名】ファーガソン デイヴ
【審査官】佐野 浩樹
(56)【参考文献】
【文献】特開平8-129067(JP,A)
【文献】特開2002-257934(JP,A)
【文献】特開2009-300166(JP,A)
【文献】特開2007-322231(JP,A)
【文献】特開平08-263783(JP,A)
【文献】国際公開第03/000513(WO,A1)
【文献】米国特許出願公開第2012/0083982(US,A1)
【文献】米国特許出願公開第2010/0217529(US,A1)
【文献】米国特許出願公開第2011/0060478(US,A1)
【文献】米国特許出願公開第2012/0293317(US,A1)
【文献】米国特許出願公開第2008/0042812(US,A1)
【文献】米国特許出願公開第2013/0202197(US,A1)
【文献】米国特許出願公開第2009/0259349(US,A1)
【文献】米国特許第07272474(US,B1)
【文献】特開2003-014844(JP,A)
【文献】特開2005-141517(JP,A)
【文献】特開2009-085939(JP,A)
【文献】特開2011-232155(JP,A)
【文献】特開2005-043201(JP,A)
【文献】特開2009-073476(JP,A)
【文献】米国特許出願公開第2008/0044062(US,A1)
【文献】特開2010-223685(JP,A)
【文献】特開2012-084121(JP,A)
【文献】特開2000-121730(JP,A)
【文献】欧州特許出願公開第01302784(EP,A2)
【文献】米国特許出願公開第2010/0253539(US,A1)
【文献】特開平11-115623(JP,A)
【文献】国際公開第2014/047250(WO,A1)
【文献】特表2015-535204(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
B60W10/00-10/30
30/00-60/00
G01S 7/48- 7/51
17/00-17/95
G01V 1/00-99/00
G01W 1/00- 1/18
G08G 1/00-99/00
(57)【特許請求の範囲】
【請求項1】
車両の環境について収集された、複数のレーザーデータ点を含むレーザーデータを受け取るステップと、
コンピュータ装置により、前記複数のレーザーデータ点のうちのレーザーデータ点を前記環境内の1又はそれ以上の追跡物体に関連付けるステップと、
前記複数のレーザーデータ点のうちの、前記環境内の前記1又はそれ以上の追跡物体に関連しない所与のレーザーデータ点を判定するステップと、
前記環境内の前記1又はそれ以上の追跡物体に関連しない前記所与のレーザーデータ点の数量が閾値数量を上回ることを判定するステップと、
前記複数のレーザーデータ点のうちの、前記環境内の前記1又はそれ以上の追跡物体に関連しない前記所与のレーザーデータ点に基づいて、前記コンピュータ装置によって前記環境の気象状態の指標を識別するステップと、
を含むことを特徴とする方法。
【請求項2】
前記車両の前記環境内における1又はそれ以上の追跡物体の存在を示す、前記車両の前記環境について収集されたレーダーデータを受け取るステップと、
前記複数のレーザーデータ点のうちの、前記レーダーデータによって示される前記環境内の前記1又はそれ以上の追跡物体に関連するレーザーデータ点を判定するステップと、
前記レーダーデータによって示される前記環境内の前記1又はそれ以上の追跡物体に関連しないレーザーデータ点に基づいて、前記環境の前記気象状態の前記指標を識別するステップと、
をさらに含む請求項1に記載の方法。
【請求項3】
前記車両に結合されたカメラから取り込まれた画像データを受け取るステップと、
前記画像データに基づいて、前記環境の前記気象状態の第2の指標を識別するステップと、
をさらに含む請求項1に記載の方法。
【請求項4】
前記車両の位置の気象情報をサーバからネットワークを介して受け取るステップと、
前記気象情報に基づいて、前記環境の前記気象状態の第2の指標を識別するステップと、
をさらに含む請求項1に記載の方法。
【請求項5】
前記車両の位置の現在の温度をサーバからネットワークを介して受け取るステップと、
前記現在の温度に基づいて、前記環境の前記気象状態の第2の指標を識別するステップと、
をさらに含む請求項1に記載の方法。
【請求項6】
前記車両に結合された降水センサから降水データを受け取るステップと、
前記降水データに基づいて、前記環境の前記気象状態の第2の指標を識別するステップと、
をさらに含む請求項1に記載の方法。
【請求項7】
前記車両は、自律モードで動作するように構成され、前記方法は、前記環境の前記気象状態の前記指標に基づいて、前記車両の運転判断を判定するステップをさらに含む、
請求項1に記載の方法。
【請求項8】
前記車両の速度を判定するステップをさらに含み、
前記コンピュータ装置によって前記環境の前記気象状態の前記指標を識別するステップは、前記車両の前記速度が閾値を上回ることにさらに基づいて、前記車両が走行する路面が濡れていることを識別するステップをさらに含む、
請求項1に記載の方法。
【請求項9】
前記車両の地理的位置、及び時刻を判定するステップと、
前記車両の前記地理的位置、及び前記時刻に基づいて、前記車両に対する太陽の近似位置を判定するステップと、
前記車両に対する太陽の前記近似位置にさらに基づいて、前記コンピュータ装置によって前記環境の前記気象状態の第2の指標を識別するステップと、
をさらに含む請求項1に記載の方法。
【請求項10】
命令を記憶した非一時的コンピュータ可読記憶媒体であって、前記命令は、コンピュータ装置によって実行された時に、該コンピュータ装置に、
車両の環境について収集された、複数のレーザーデータ点を含むレーザーデータを受け取るステップと、
前記複数のレーザーデータ点のうちのレーザーデータ点を前記環境内の1又はそれ以上の追跡物体に関連付けるステップと、
前記複数のレーザーデータ点のうちの、前記環境内の前記1又はそれ以上の追跡物体に関連しない所与のレーザーデータ点を判定するステップと、
前記環境内の前記1又はそれ以上の追跡物体に関連しない前記所与のレーザーデータ点の数量が閾値数量を上回ることを判定するステップと、
前記複数のレーザーデータ点のうちの、前記環境内の前記1又はそれ以上の追跡物体に関連しない前記所与のレーザーデータ点に基づいて、前記環境の気象状態の指標を識別するステップと、を含む機能を実行させる、
ことを特徴とする非一時的コンピュータ可読記憶媒体。
【請求項11】
前記車両の前記環境内における1又はそれ以上の追跡物体の存在を示す、前記車両の前記環境について収集されたレーダーデータを受け取るステップと、
前記複数のレーザーデータ点のうちの、前記レーダーデータによって示される前記環境内の前記1又はそれ以上の追跡物体に関連するレーザーデータ点を判定するステップと、
前記レーダーデータによって示される前記環境内の前記1又はそれ以上の追跡物体に関連しないレーザーデータ点に基づいて、前記環境の前記気象状態の前記指標を識別するステップと、をさらに含む、
請求項10に記載の非一時的コンピュータ可読記憶媒体。
【請求項12】
前記車両に結合されたカメラから取り込まれた画像データを受け取るステップと、
前記画像データに基づいて、前記環境の前記気象状態の第2の指標を識別するステップと、
をさらに含む請求項10に記載の非一時的コンピュータ可読記憶媒体。
【請求項13】
前記車両の位置の気象情報をサーバからネットワークを介して受け取るステップと、
前記気象情報に基づいて、前記環境の前記気象状態の第2の指標を識別するステップと、
をさらに含む請求項10に記載の非一時的コンピュータ可読記憶媒体。
【請求項14】
前記車両の位置の現在の温度をサーバからネットワークを介して受け取るステップと、
前記現在の温度に基づいて、前記環境の前記気象状態の第2の指標を識別するステップと、
をさらに含む請求項10に記載の非一時的コンピュータ可読記憶媒体。
【請求項15】
前記車両に結合された降水センサから降水データを受け取るステップと、
前記降水データに基づいて、前記環境の前記気象状態の第2の指標を識別するステップと、
をさらに含む請求項10に記載の非一時的コンピュータ可読記憶媒体。
【請求項16】
前記環境の前記気象状態の前記指標に基づいて、前記車両の運転判断を判定するステップをさらに含む、
請求項10に記載の非一時的コンピュータ可読記憶媒体。
【請求項17】
前記車両の速度を判定するステップをさらに含み、
前記コンピュータ装置によって前記環境の前記気象状態の前記指標を識別するステップは、前記車両の前記速度が閾値を上回ることにさらに基づいて、前記車両が走行する路面が濡れていることを識別するステップをさらに含む、
請求項10に記載の非一時的コンピュータ可読記憶媒体。
【請求項18】
前記車両の地理的位置、及び時刻を判定するステップと、
前記車両の前記地理的位置、及び前記時刻に基づいて、前記車両に対する太陽の近似位置を判定するステップと、
前記車両に対する太陽の前記近似位置にさらに基づいて、前記コンピュータ装置によって前記環境の前記気象状態の第2の指標を識別するステップと、
をさらに含む請求項10に記載の非一時的コンピュータ可読記憶媒体。
【請求項19】
少なくとも1つのプロセッサと、
命令を含むデータストレージと、を備えたシステムであって、前記命令は、前記少なくとも1つのプロセッサにより、前記システムに、
車両の環境について収集された、複数のレーザーデータ点を含むレーザーデータを受け取るステップと、
前記複数のレーザーデータ点のうちのレーザーデータ点を前記環境内の1又はそれ以上の追跡物体に関連付けるステップと、
前記複数のレーザーデータ点のうちの、前記環境内の前記1又はそれ以上の追跡物体に関連しない所与のレーザーデータ点を判定するステップと、
前記環境内の前記1又はそれ以上の追跡物体に関連しない前記所与のレーザーデータ点の数量が閾値数量を上回ることを判定するステップと、
前記複数のレーザーデータ点のうちの、前記環境内の前記1又はそれ以上の追跡物体に関連しない前記所与のレーザーデータ点に基づいて、前記環境の気象状態の指標を識別するステップと、
を含む機能を実行させるように実行可能である、
ことを特徴とするシステム。
【請求項20】
前記車両は、車道に沿って走行しており、前記機能は、
前記車両の前記環境内における1又はそれ以上の追跡物体の存在を示す、前記車両の前記環境について収集されたレーダーデータを受け取るステップと、
前記複数のレーザーデータ点のうちの、前記レーダーデータによって示される前記環境内の前記1又はそれ以上の追跡物体に関連するレーザーデータ点を判定するステップと、
前記レーダーデータによって示される前記環境内の前記1又はそれ以上の追跡物体に関連しないレーザーデータ点に基づいて、前記環境の前記気象状態の前記指標を識別するステップと、をさらに含む、
請求項19に記載のシステム。
【発明の詳細な説明】
【技術分野】
【0001】
本節で説明する内容は、本明細書で別途指示がない限り、本出願の特許請求の範囲に対する先行技術ではなく、また本節に含めることによって先行技術であると認めるものでもない。
【背景技術】
【0002】
自律走行車両は、様々なコンピュータシステムを用いて、乗員を1つの場所から別の場所に輸送する支援を行う。自律走行車両には、パイロット、ドライバー又は乗員などのオペレータからの初期入力又は継続入力を必要とするものもある。例えばオートパイロットシステムなどの他の自律システムは、システムが既に作動している時に使用することができ、これによってオペレータは、(オペレータが車両の動きを高度に制御する)手動モードから(基本的に車両自体が運転を行う)自律モード、これらの間のいずれかのモードへの切り替えができるようになる。
【0003】
通常、このような車両は、周囲の物体を検出するために様々なタイプのセンサを備える。例えば、自律走行車両は、レーザー、ソナー、レーダー、カメラ、並びに車両の周囲を走査してそこからのデータ記録するその他の装置を含むことができる。これらの装置のうちの1つ又はそれ以上からのセンサデータを用いて、物体及び物体のそれぞれの特性(位置、形状、向き、速度など)を検出することができる。この検出及び識別は、自律走行車両の安全な動作にとって有用である。
【発明の概要】
【課題を解決するための手段】
【0004】
いくつかの例では、車載センサを用いて濡れた路面を含む気象状態を検出する装置及び方法を提供する。
【0005】
1つの例では、車両の環境について収集されたレーザーデータを受け取るステップを含む方法を提供し、レーザーデータは複数のレーザーデータ点を含む。この方法は、コンピュータ装置により、複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連するレーザーデータ点を特定するステップも含む。この方法は、環境内の1又はそれ以上の物体に関連しないレーザーデータ点に基づいて、コンピュータ装置により、車両が走行する路面が濡れている指標を識別するステップをさらに含む。
【0006】
別の例では、コンピュータ装置によって実行された時にコンピュータ装置に機能を実行させる命令を記憶した非一時的コンピュータ可読記憶媒体を提供する。この機能は、車両の環境について収集されたレーザーデータを受け取るステップを含み、レーザーデータは複数のレーザーデータ点を含む。この機能は、複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連するレーザーデータ点を特定するステップと、環境内の1又はそれ以上の物体に関連しないレーザーデータ点に基づいて、車両が走行する路面が濡れている指標を識別するステップとをさらに含む。
【0007】
さらに別の例では、少なくとも1つのプロセッサと、命令を含むデータストレージとを備えたシステムを提供し、この命令は、少なくとも1つのプロセッサにより、システムに機能を実行させるように実行可能である。この機能は、車両の環境について収集されたレーザーデータを受け取るステップを含み、レーザーデータは複数のレーザーデータ点を含む。この機能は、複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連するレーザーデータ点を特定するステップと、環境内の1又はそれ以上の物体に関連しないレーザーデータ点に基づいて、コンピュータ装置により、車両が走行する路面が濡れている指標を識別するステップとをさらに含む。
【0008】
さらに別の例では、車両の環境について収集されたレーザーデータを受け取る手段を含む装置を提供し、レーザーデータは複数のレーザーデータ点を含む。この装置は、複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連するレーザーデータ点を特定する手段も含む。この装置は、環境内の1又はそれ以上の物体に関連しないレーザーデータ点に基づいて、車両が走行する路面が濡れている指標を識別する手段をさらに含む。
【0009】
他の例では、車載センサを用いて霧を含む気象状態を検出する装置及び方法を提供する。
【0010】
例えば、別の例では、車両の環境の走査から収集されたレーザーデータを受け取るステップを含む方法を提供し、レーザーデータは複数のレーザーデータ点を含む。この方法は、コンピュータ装置により、複数のレーザーデータ点のうちのレーザーデータ点を環境内の1又はそれ以上の物体に関連付けるステップと、環境内の1又はそれ以上の物体に関連しないレーザーデータ点を、霧に起因するパターンを表す記憶されているレーザーデータ点と比較するステップとをさらに含む。この方法は、比較に基づいて、コンピュータ装置により、車両の環境の気象状態が霧を含む指標を識別するステップをさらに含む。
【0011】
別の例では、コンピュータ装置によって実行された時にコンピュータ装置に機能を実行させる命令を記憶した非一時的コンピュータ可読記憶媒体を提供する。この機能は、車両の環境の走査から収集されたレーザーデータを受け取るステップを含み、レーザーデータは複数のレーザーデータ点を含む。この機能は、複数のレーザーデータ点のうちのレーザーデータ点を環境内の1又はそれ以上の物体に関連付けるステップと、環境内の1又はそれ以上の物体に関連しないレーザーデータ点を、霧に起因するパターンを表す記憶されているレーザーデータ点と比較するステップとをさらに含む。この機能は、比較に基づいて、コンピュータ装置により、車両の環境の気象状態が霧を含む指標を識別するステップをさらに含む。
【0012】
さらに別の例では、少なくとも1つのプロセッサと、命令を含むデータストレージとを備えたシステムを提供し、この命令は、少なくとも1つのプロセッサにより、システムに機能を実行させるように実行可能である。この機能は、車両の環境の走査から収集されたレーザーデータを受け取るステップを含み、レーザーデータは複数のレーザーデータ点を含む。この機能は、複数のレーザーデータ点のうちのレーザーデータ点を環境内の1又はそれ以上の物体に関連付けるステップと、環境内の1又はそれ以上の物体に関連しないレーザーデータ点を、霧に起因するパターンを表す記憶されているレーザーデータ点と比較するステップとをさらに含む。この機能は、比較に基づいて、コンピュータ装置により、車両の環境の気象状態が霧を含む指標を識別するステップをさらに含む。
【0013】
さらに別の例では、車両の環境について収集されたレーザーデータを受け取る手段を含む装置を提供し、レーザーデータは複数のレーザーデータ点を含む。この装置は、複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連するレーザーデータ点を特定する手段も含む。この装置は、環境内の1又はそれ以上の物体に関連しないレーザーデータ点に基づいて、コンピュータ装置により、車両の環境の気象状態が霧を含む指標を識別する手段をさらに含む。
【0014】
さらに他の例では、車載センサを用いて日光を含む気象状態を検出する装置及び方法を提供する。
【0015】
例えば、車両の環境について収集されたレーザーデータを受け取るステップを含む方法を提供し、レーザーデータは複数のレーザーデータ点を含む。この方法は、コンピュータ装置により、複数のレーザーデータ点のうちのレーザーデータ点を環境内の1又はそれ以上の物体に関連付けるステップと、複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連しない所与のレーザーデータ点が、車両に対する所与の位置の未追跡物体を表すと判断するステップとを含む。この方法は、車両が動いた時に未追跡物体が車両に対して実質的に同じ相対的位置に留まることを特定するステップと、コンピュータ装置により、車両の環境の気象状態が晴れである指標を識別するステップとをさらに含む。
【0016】
別の例では、コンピュータ装置によって実行された時にコンピュータ装置に機能を実行させる命令を記憶した非一時的コンピュータ可読記憶媒体を提供する。この機能は、車両の環境について収集された、複数のレーザーデータ点を含むレーザーデータを受け取るステップと、複数のレーザーデータ点のうちのレーザーデータ点を環境内の1又はそれ以上の物体に関連付けるステップとを含む。この機能は、複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連しない所与のレーザーデータ点が、車両に対する所与の位置の未追跡物体を表すと判断するステップと、車両が動いた時に未追跡物体が車両に対して実質的に同じ相対的位置に留まることを特定するステップとをさらに含む。この機能は、車両の環境の気象状態が晴れである指標を識別するステップをさらに含む。
【0017】
さらに別の例では、少なくとも1つのプロセッサと、命令を含むデータストレージとを備えたシステムを提供し、この命令は、少なくとも1つのプロセッサにより、システムに機能を実行させるように実行可能である。この機能は、車両の環境のための、複数のレーザーデータ点を含む収集されたレーザーデータを受け取るステップと、複数のレーザーデータ点のうちのレーザーデータ点を環境内の1又はそれ以上の物体に関連付けるステップとを含む。この機能は、複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連しない所与のレーザーデータ点が、車両に対する所与の位置の未追跡物体を表すと判断するステップと、車両が動いた時に未追跡物体が車両に対して実質的に同じ相対的位置に留まることを特定するステップとをさらに含む。この機能は、車両の環境の気象状態が晴れである指標を識別するステップも含む。
【0018】
さらに別の例では、車両の環境について収集されたレーザーデータを受け取る手段を含む装置を提供し、レーザーデータは複数のレーザーデータ点を含む。この装置は、複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連するレーザーデータ点を特定する手段も含む。この装置は、環境内の1又はそれ以上の物体に関連しないレーザーデータ点に基づいて、車両の環境の気象状態が晴れである指標を識別する手段をさらに含む。
【0019】
さらに他の例では、車載センサを用いて一般的に気象状態を検出する装置及び方法を提供する。
【0020】
例えば、1つの例では、車両の環境について収集されたレーザーデータを受け取るステップを含む方法を提供し、レーザーデータは複数のレーザーデータ点を含む。この方法は、コンピュータ装置により、複数のレーザーデータ点のうちのレーザーデータ点を環境内の1又はそれ以上の物体に関連付けるステップも含む。この方法は、複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連しない所与のレーザーデータ点が未追跡物体を表すと判断するステップと、1又はそれ以上の未追跡物体が特定されたことに基づいて、コンピュータ装置により、環境の気象状態の指標を識別するステップとをさらに含む。
【0021】
別の例では、コンピュータ装置によって実行された時にコンピュータ装置に機能を実行させる命令を記憶した非一時的コンピュータ可読記憶媒体を提供する。この機能は、車両の環境について収集されたレーザーデータを受け取るステップを含む方法を提供し、レーザーデータは複数のレーザーデータ点を含む。この機能は、複数のレーザーデータ点のうちのレーザーデータ点を環境内の1又はそれ以上の物体に関連付けるステップと、複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連しない所与のレーザーデータ点が未追跡物体を表すと判断するステップとをさらに含む。この機能は、1又はそれ以上の未追跡物体が特定されたことに基づいて、環境の気象状態の指標を識別するステップも含む。
【0022】
さらに別の例では、少なくとも1つのプロセッサと、命令を含むデータストレージとを備えたシステムを提供し、この命令は、少なくとも1つのプロセッサにより、システムに機能を実行させるように実行可能である。この機能は、車両の環境について収集された、複数のレーザーデータ点を含むレーザーデータを受け取るステップを含み、複数のレーザーデータ点のうちのレーザーデータ点を環境内の1又はそれ以上の物体に関連付けるステップをさらに含む。この機能は、複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連しない所与のレーザーデータ点が未追跡物体を表すと判断するステップと、1又はそれ以上の未追跡物体が特定されたことに基づいて、環境の気象状態の指標を識別するステップとをさらに含む。
【0023】
さらに別の例では、車両の環境について収集されたレーザーデータを受け取る手段を含む装置を提供し、レーザーデータは複数のレーザーデータ点を含む。この装置は、複数のレーザーデータ点のうちのレーザーデータ点を環境内の1又はそれ以上の物体に関連付ける手段を含む。この装置は、複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連しない所与のレーザーデータ点が未追跡物体を表すと判断する手段と、1又はそれ以上の未追跡物体が特定されたことに基づいて、コンピュータ装置により、環境の気象状態の指標を識別する手段とをさらに含む。
【0024】
当業者には、必要に応じて添付図を参照しながら以下の詳細な説明を読むことにより、これらの及びその他の態様、利点及び代替手段が明らかになるであろう。
【図面の簡単な説明】
【0025】
図1】実施形態例による車両を示す機能ブロック図である。
図2図1に示す車両に関連して説明する機能の全部又は一部を含むことができる車両の例を示す図である。
図3】本明細書で説明する少なくともいくつかの実施形態による、車載センサを用いて濡れた路面を含む気象状態を検出する方法例のブロック図である。
図4】本明細書で説明する少なくともいくつかの実施形態による、車載センサを用いて濡れた路面を含む気象状態のさらなる指標を特定する方法例のブロック図である。
図5】車両が走行する路面が濡れている指標を識別する概念的側面図例である。
図6】車両が走行する路面が濡れている指標を識別する別の概念図例である。
図7】車両が走行する路面が濡れている指標を識別する概念的上面図例である。
図8】本明細書で説明する少なくともいくつかの実施形態による、車載センサを用いて霧を含む気象状態を検出する方法例のブロック図である。
図9】本明細書で説明する少なくともいくつかの実施形態による、車載センサを用いて霧を含む気象状態のさらなる指標を特定する方法例のブロック図である。
図10図10Aは、環境の気象状態が霧を含む指標を識別する概念図例であり、図10Bは、図10Aの車両によって取り込まれた画像の概念図例である。
図11A】車両の環境が霧を含む指標を識別する概念的側面図例である。
図11B】車両の環境が霧を含む指標を識別する概念的側面図例である。
図12】本明細書で説明する少なくともいくつかの実施形態による、車載センサを用いて霧を含む気象状態を検出する方法例のブロック図である。
図13】本明細書で説明する少なくともいくつかの実施形態による、環境内の誤って識別された物体を特定する方法例のブロック図である。
図14】本明細書で説明する少なくともいくつかの実施形態による、車載センサを用いて気象状態が晴れであるさらなる指標を特定する方法例のブロック図である。
図15図15Aは、カメラ画像に基づいて環境の気象状態が晴れである指標を識別する概念図例であり、図15Bは、図15Aの車両によって取り込まれた画像の概念図例である。
図16】車両の環境が晴れである指標を識別する概念的側面図例である。
図17】本明細書で説明する少なくともいくつかの実施形態による、車載センサを用いて気象状態を検出する方法例のブロック図である。
図18】本明細書で説明する少なくともいくつかの実施形態による、車載センサを用いて気象状態のさらなる指標を特定する方法例のブロック図である。
【発明を実施するための形態】
【0026】
以下の詳細な説明では、開示するシステム及び方法の様々な特徴及び機能について添付図を参照しながら説明する。これらの図では、文脈において別途指示しない限り、同様のコンポーネントを同様の記号で識別しており、図又は図のコンポーネントは、例示を目的として必ずしも縮尺通りとは限らないこともある。本明細書で説明する例示的なシステム及び方法の実施形態は、限定を意図するものではない。開示するシステム及び方法のいくつかの態様は、様々な異なる構成で配置して組み合わせることができ、本明細書ではこれらの全てが想定されていると容易に理解されるであろう。
【0027】
いくつかの例では、車載センサを用いて気象状態を検出し、これに応じて車両の挙動を修正する方法及びシステムを提供する。いくつかの例では、大雨、濡れた道路、霧、直射日光などの特定の気象状態下では、全自動走行車又は自律走行車両が走行又は同じように走行できないことがあり、従って自律走行車両の挙動は、検出された気象状態に基づくことができる。
【0028】
1つの例では、車両の環境について収集されたレーザーデータを受け取るステップを含む方法を提供する。コンピュータ装置が、環境内のあらゆる物体に関連するレーザーデータ点を特定することができる。コンピュータ装置は、環境内の物体に関連しないレーザーデータ点に基づいて、車両が走行する路面が濡れている指標を識別することができる。他の例では、コンピュータ装置が、環境内の1又はそれ以上の物体に関連しないレーザーデータ点に基づいて、車両の環境の気象状態が霧を含む指標を識別することができる。さらに他の例では、コンピュータ装置が、環境内の1又はそれ以上の物体に関連しないレーザーデータ点に基づいて、車両の環境の気象状態が晴れである指標を識別することができる。さらなる例では、コンピュータ装置が、特定された1又はそれ以上の未追跡物体に基づいて、環境の一般的気象状態の指標を識別することができる。
【0029】
特定の例では、レーダーセンサが雨を、具体的には特定の速度で走行中の車両によって路面から跳ね上げられた水のアーチである雨/水(すなわち、水しぶき)などを検出できないことがある。しかしながら、レーザーセンサは、このような水の状態に関するレーザーデータを収集することができる。従って、あらゆる未追跡の受信レーザーデータ(例えば、受け取られたレーダーデータに一致しないレーザーデータ)について、車道が濡れている可能性がある指標を特定することができる。
【0030】
車両の速度などのさらなる情報を用いて、濡れた道路状態のさらに高い信頼レベル又は確認をもたらすこともできる。例えば、車両が動いておらず、又は低速で動いている場合には、この車両の前方の車両が、水が道路から跳ね上げられてレーザーセンサによって検出されるほど十分に速い速度で動いている可能性は低い。使用できる他の情報としては、雨検出器情報、サーバからの気象情報、又はセンサに結合されたカメラからの画像データが挙げられる。
【0031】
別の特定の例では、レーザーセンサが霧を通じて物体を検出できないことがあり、実際には霧で反射されたデータ点を受け取ることがある。あらゆる未追跡の受信レーザーデータ(例えば、環境内の追跡済みの又は既知の物体に一致しないレーザーデータ)について、霧がかかった気象状態を有する環境内に車両が存在する指標を特定することができる。
【0032】
さらなる情報を用いて、霧がかかった気象状態のさらに高い信頼レベル又は確認をもたらすこともできる。例えば、この情報は、サーバからの気象情報、車両に結合されたカメラからの画像データ、又は、レーザーによって確認されない物体を霧を通して確認して検出できるレーダーセンサからのデータを含むことができる。
【0033】
さらに別の特定の例では、日光がさらなるレーザーデータ点を引き起こし、又はレーザーデータ点の波長を変化させることによってレーザーデータを損なうことがある。従って、収集された一部のレーザーデータは、車両の環境内の物体を表さないことがある。これらの損なわれたレーザーデータ点は、(レーザー又はレーダーデータを用いて追跡した物体などの)環境内の物体のデータと比較することによって識別することができ、このような損なわれたデータを識別することに基づいて晴れた気象状態とすることができる。車両の地理的位置及び時刻、サーバからの気象情報、又は車両に結合されたカメラからの画像データなどのさらなる詳細にアクセスして、晴れた気象状態をさらに確認することもできる。
【0034】
車道が濡れている指標、気象状態が霧である指標、気象状態が晴れである指標、又は一般に何らかの気象状態が存在する指標は、自律走行車両の安全な運転動作を決定するために有用となり得る。動作例としては、手動モードに移行する要求を示す命令を与えること、或いは自律モードに留まる場合には、濡れた車道に特化したモードに切り替えること(すなわち、より低速で走行して制動のための距離を長くとることなど)を挙げることができる。
【0035】
以下、本開示の範囲内のシステム例についてさらに詳細に説明する。一般に、システム例は自動車に実装することができ、或いは自動車の形を取ることができる。しかしながら、システム例は、自動車、トラック、オートバイ、バス、ボート、飛行機、ヘリコプタ、芝刈り機、レクリエーショナルビークル、遊園地の車両、農機具、建設機器、路面電車、ゴルフカート、列車及びトロリー車などの他の車両に実装することもでき、又は他の車両の形を取ることもできる。その他の車両も考えられる。
【0036】
図1は、ある実施形態例による車両100を示す機能ブロック図である。車両100は、完全に又は部分的に自律モードで動作するように構成され、従って「自律走行車両」と呼ぶことができる。例えば、コンピュータシステム112は、車両100の制御システム106への制御命令を介して自律モード中の車両100を制御することができる。コンピュータシステム112は、センサシステム104から情報を受け取り、(検出された障害物を避けるように向きを設定することなどの)1又はそれ以上の制御プロセスが、受け取った情報に自動的に基づくようにすることができる。
【0037】
車両100は、完全自律型又は部分的自律型とすることができる。部分的自律型の車両では、任意にいくつかの機能を時々又は常に(例えば、ドライバーによって)手動で制御することができる。さらに、部分的自律型の車両は、完全手動操作モードと、部分的自律操作モード及び/又は完全自律操作モードとの間で切り替わるように構成することができる。
【0038】
車両100は、推進システム102、センサシステム104、制御システム106、1又はそれ以上の周辺機器108、並びに電源110、コンピュータシステム112及びユーザインターフェイス116などの様々なサブシステムを含むことができる。車両100は、さらに多くの又は少ないサブシステムを含むこともでき、各サブシステムは複数の要素を含むことができる。さらに、各サブシステムと車両100の要素とを相互接続することもできる。従って、説明する車両100の機能の1つ又はそれ以上は、さらなる機能的又は物理的コンポーネントに分割することも、或いはより少ない機能的又は物理的コンポーネントに組み合わせることもできる。いくつかのさらなる例では、図1に示す例にさらなる機能的及び/又は物理的コンポーネントを追加することができる。
【0039】
推進システム102は、車両100に動力的な動きを与えるコンポーネントを含むことができる。この実施形態によれば、推進システム102は、エンジン/モータ118と、エネルギー源119と、トランスミッション120と、ホイール/タイヤ121とを含むことができる。エンジン/モータ118は、内燃機関、電気モータ、蒸気機関、スターリングエンジン、又はその他のタイプのエンジン及び/又はモータのいずれかの組み合わせとすることができる。いくつかの実施形態では、推進システム102が、複数タイプのエンジン及び/又はモータを含むことができる。例えば、ガソリン電気ハイブリッド車両は、ガソリンエンジンと電気モータを含むことができる。他の例も考えられる。
【0040】
エネルギー源119は、エンジン/モータ118に完全に又は部分的に動力を与えることができるエネルギー源を表すことができる。すなわち、エンジン/モータ118は、エネルギー源119を機械エネルギーに変換してトランスミッション120を動作させるように構成することができる。エネルギー源119の例としては、ガソリン、ディーゼル、他の石油系燃料、プロパン、他の圧縮ガス系燃料、エタノール、太陽電池パネル、バッテリ、コンデンサ、フライホイール、回生ブレーキシステム及び/又はその他の電気エネルギー供給源などを挙げることができる。エネルギー源119は、自動車100の他のシステムにエネルギーを供給することもできる。
【0041】
トランスミッション120は、エンジン/モータ118からホイール/タイヤ121に機械力を伝える要素を含むことができる。このような要素としては、ギアボックス、クラッチ、ディファレンシャル、ドライブシャフト及び/又は(単複の)車軸などを挙げることができる。トランスミッション120は、他の要素を含むこともできる。ドライブシャフトは、1又はそれ以上のホイール/タイヤ121に結合できる1又はそれ以上の車軸を含むことができる。
【0042】
ホイール/タイヤ121は、車両100を安定して支持すると同時に、車両100が移動する道路などの路面との摩擦牽引力をもたらすように配置することができる。従って、車両100のホイール/タイヤ121は、一輪車、自転車/オートバイ、三輪車、又は自動車/トラックの四輪形式を含む様々な形式で構成することができる。6又はそれ以上のホイールを含むような他のホイール/タイヤ形状も可能である。車両100のホイール/タイヤ121のいずれかの組み合わせは、他のホイール/タイヤ121に対して差動的に回転することができる。ホイール/タイヤ121は、トランスミッション120に固定して取り付けられた少なくとも1つのホイールと、ホイールのリムに結合された、走行路面に接することができる少なくとも1つのタイヤとを表すことができる。ホイール/タイヤ121は、金属とゴムのいずれかの組み合わせ、又は材料の別の組み合わせを含むことができる。
【0043】
一般に、センサシステム104は、車両100を取り巻く環境に関する情報を検出するように構成された1又はそれ以上のセンサを含む。例えば、センサシステム104は、全地球測位システム(GPS)122、降水センサ123、慣性測定装置(IMU)124、RADAR(レーダー)ユニット126(電波検出及び距測)、レーザー距離計/LIDAR(ライダー)ユニット128(レーザー画像検出及び距測)、カメラ130及び/又はマイク131を含むことができる。センサシステム104は、車両100の内部システム(例えば、O2モニタ、燃料計、エンジンオイル温度、ホイール速度センサなど)をモニタするように構成されたセンサを含むこともできる。センサシステム104に含まれるセンサの1つ又はそれ以上は、1又はそれ以上のセンサの位置及び/又は配向を修正するために個別に及び/又は集合的に作動するように構成することができる。
【0044】
センサシステム104内のセンサは、コンピュータシステム112によって処理されるデータをリアルタイムで提供するように構成することができる。例えば、センサは、ある時点又は時間範囲にわたって検知された環境を反映するように出力を継続的に更新し、この検知された環境に応答してコンピュータシステム112がその時の車両の方向又は速度を変更すべきかどうかを判定できるように、更新された出力を継続的に又は要求時にコンピュータシステム112に提供することができる。
【0045】
GPS122は、車両100の地理的位置を推定するように構成されたいずれかのセンサとすることができる。この目的のために、GPS122は、地球に対する車両100の位置に関する情報を提供するトランシーバを含むことができる。
【0046】
降水センサ123は、車両100のフロントガラスの内側に取り付け、又はフロントガラスに組み込むことができる。降水センサは、前照灯の位置又はその近くなどの、他の様々な場所に取り付けることもできる。1つの例では、降水センサ123が、1又はそれ以上の赤外線発光ダイオード(LED)の組と、フォトダイオードなどの光検出器とを含むことができる。LEDから放出された光は、フロントガラスによってフォトダイオードに逆反射することができる。フォトダイオードが受光する光が少ないほど、車両100の外部の降水量が多いことを示すことができる。反射光の量又は検出された降水量の他の何らかの指標をコンピュータシステム112に伝えることができる。
【0047】
IMU124は、慣性加速に基づいて車両100の位置及び配向の変化を検知するように構成されたセンサ(例えば、加速度計及びジャイロスコープ)のいずれかの組み合わせを含むことができる。
【0048】
RADARユニット126は、無線信号を利用して車両100の局所環境内の物体を検知するシステムを表すことができる。いくつかの実施形態では、RADARユニット126を、物体を検知するだけでなく物体の速度及び/又は向きを検知するように構成することもできる。
【0049】
同様に、レーザー距離計又はLIDARユニット128は、車両100が存在する環境内の物体を、レーザーを用いて検知するように構成されたいずれかのセンサとすることができる。実施形態によっては、レーザー距離計/LIDARユニット128が、他のシステムコンポーネントの中でも特に、1又はそれ以上のレーザー光源、レーザースキャナ、及び1又はそれ以上の検出器を含むことができる。レーザー距離計/LIDARユニット128は、(例えば、ヘテロダイン検波を用いた)コヒーレント検出モード又はインコヒーレント検出モードで動作するように構成することができる。
【0050】
カメラ130は、車両100を取り巻く環境の複数の画像を取り込むように構成された1又はそれ以上の装置を含むことができる。カメラ130は、静止カメラ又はビデオカメラとすることができる。いくつかの実施形態では、カメラが取り付けられたプラットフォームを回転及び/又は傾斜させることなどにより、カメラ130を機械的に移動可能とすることができる。従って、車両100の制御プロセスは、カメラ130の動きを制御するように実装することができる。
【0051】
センサシステム104は、マイク131を含むこともできる。マイク131は、車両100を取り巻く環境からの音を取り込むように構成することができる。いくつかの例では、複数のマイクをマイクアレイとして、又は場合によっては複数のマイクアレイとして配置することができる。
【0052】
制御システム106は、車両100及びそのコンポーネントの(単複の)動作を制御するように構成することができる。従って、制御システム106は、ステアリングユニット132、スロットル134、ブレーキ装置136、センサフュージョンアルゴリズム138、コンピュータビジョンシステム140、ナビゲーション/パッシングシステム142、及び障害物回避システム144などを含む様々な要素を含むことができる。
【0053】
ステアリングユニット132は、車両100の向きを調整できる機構のいずれかの組み合わせを表すことができる。例えば、ステアリングユニット132は、1又はそれ以上ホイール/タイヤ121の(1又は複数の)軸を、車両100を旋回させるように調整することができる。スロットル134は、例えばエンジン/モータ118の動作速度を制御し、ひいては車両100の速度を制御するように構成することができる。ブレーキ装置136は、車両100を減速させるように構成された機構のいずれかの組み合わせを含むことができる。ブレーキ装置136は、例えば摩擦を用いてホイール/タイヤ121を減速させることができる。他の実施形態では、ブレーキ装置136が、ホイール/タイヤ121の運動エネルギーを電流に変換する回生制動プロセスによってホイール/タイヤ121を誘導的に減速させる。ブレーキ装置136は、他の形態を取ることもできる。
【0054】
センサフュージョンアルゴリズム138は、センサシステム104からのデータを入力として受け付けるように構成されたアルゴリズム(又はアルゴリズムを記憶するコンピュータプログラム製品)とすることができる。このデータは、例えばセンサシステム104のセンサにおいて検知された情報を表すデータを含むことができる。センサフュージョンアルゴリズム138は、カルマンフィルタ、ベイジアンネットワーク又はその他のアルゴリズムを含むことができ、又はこれらを用いて実行されるように構成することができる。センサフュージョンアルゴリズム138は、センサシステム104からのデータに基づいて様々な評価を提供することができる。実施形態にもよるが、これらの評価としては、車両100の環境内の個々の物体及び/又は特徴の評価、特定の状況の評価、及び/又は特定の状況に基づく衝突可能性の評価を挙げることができる。他の評価も可能である。
【0055】
コンピュータビジョンシステム140は、交通信号、車道境界、他の車両、歩行者及び/又は障害物などを含むことができる車両100の環境内の物体及び/又は特徴を識別するために、カメラ130によって取り込まれた画像を処理して分析するいずれかのシステムとすることができる。コンピュータビジョンシステム140は、物体認識アルゴリズム、動画像解析(SFM)アルゴリズム、ビデオ追跡及びその他のコンピュータビジョン技術を使用することができる。いくつかの実施形態では、コンピュータビジョンシステム140を、環境マップの作成、物体の追跡、物体の速度推定などを行うようにさらに構成することができる。
【0056】
ナビゲーション及びパッシングシステム142は、車両100の走行路を決定するように構成されたいずれかのシステムとすることができる。例えば、ナビゲーション/パッシングシステム142は、例えばユーザインターフェイス116を介したユーザ入力に従って設定できる最終目的地に至る車道に基づく経路に沿って車両100を大まかに前進させながら、認識された障害物を実質的に避ける経路に沿って車両100を動かすように一連の速度及び方向を決定することができる。また、ナビゲーション及びパッシングシステム142は、車両100の動作中に走行路を動的に更新するように構成することもできる。いくつかの実施形態では、ナビゲーション及びパッシングシステム142を、車両100の走行路を決定するために、センサフュージョンアルゴリズム138、GPS122及び1又はそれ以上の所定のマップからデータを取り込むように構成することができる。
【0057】
障害物回避システム144は、車両100の環境内の潜在的障害物を識別し、評価し、回避又は別様に通り抜けるように構成された制御システムを表すことができる。例えば、障害物回避システム144は、制御システム106内の1又はそれ以上のサブシステムを、急ハンドル操作、旋回操作、ブレーキ操作などを行うように動作させることにより、車両100のナビゲーションに変化をもたらすことができる。いくつかの実施形態では、障害物回避システム144が、周囲の交通パターン、道路状況などに基づいて、実行可能な(「利用可能な」)障害物回避操作を自動的に決定するように構成される。例えば、障害物回避システム144は、他のセンサシステムが、急ハンドル操作を行う予定の車両100に隣接する領域内の車両、工事用障壁、他の障害物などを検出した時には、急ハンドル操作が行われないように構成することができる。いくつかの実施形態では、障害物回避システム144が、車両の乗員の安全を最大化する利用可能な操作を自動的に選択することができる。例えば、障害物回避システム144は、車両100の客室内に生じる加速量が最も少ないと予測される回避操作を選択することができる。
【0058】
これに加えて、又はこれとは別に、制御システム106は、図示し説明する以外のコンポーネントを含むこともできる。
【0059】
車両100は、車両100と、外部センサ、他の車両、他のコンピュータシステム、及び/又は車両100の乗員などのユーザとの間の相互作用を可能にするように構成された周辺機器108も含む。例えば、乗員、外部システムなどから情報を受け取るための周辺機器108は、無線通信システム146、タッチスクリーン148、マイク150及び/又はスピーカ152を含むことができる。
【0060】
いくつかの実施形態では、周辺機器108が、車両100のユーザがユーザインターフェイス116と相互作用した入力を受け取るように機能する。この目的のために、タッチスクリーン148は、車両100のユーザに情報を提供するとともに、タッチスクリーン148を介して示されたユーザからの情報をユーザインターフェイス116に伝えることができる。タッチスクリーン148は、容量性検知、抵抗検知、光学検知、表面音響波処理などを介して、ユーザの指(又はスタイラスなど)によるタッチ位置及びタッチジェスチャーの両方を検知するように構成することができる。タッチスクリーン148は、タッチスクリーンの表面に対して平行又は平面的な方向、タッチスクリーンの表面に対して垂直な方向、又はこれらの両方向の指の動きを検知することができ、またタッチスクリーンの表面に加わる圧力レベルを検知することもできる。車両100の乗員は、音声コマンドインタフェースを利用することもできる。例えば、マイク150を、車両100の乗員からの音声(例えば、音声コマンド又はその他の音声入力)を受け取るように構成することができる。同様に、スピーカ152を、車両100の乗員に音声を出力するように構成することもできる。
【0061】
いくつかの実施形態では、周辺機器108が、車両100と、その周囲環境内の装置、センサ、他の車両など、及び/又は車両100から物理的に離れて位置する、車両の周囲環境に関する交通情報、気象情報などの有用な情報を提供するコントローラ、サーバなどの外部システムとの間の通信を可能にするように機能する。例えば、無線通信システム146は、1又はそれ以上の装置と直接又は通信ネットワークを介して無線で通信することができる。任意に、無線通信システム146は、CDMA、EVDO、GSM/GPRSなどの3Gセルラ通信、及び/又はWiMax又はLTEなどの4Gセルラ通信を使用することができる。これに加えて、又はこれとは別に、無線通信システム146は、例えばWiFiを用いて無線ローカルエリアネットワーク(WLAN)と通信することもできる。いくつかの実施形態では、無線通信システム146が、例えば赤外線リンク、短距離無線リンクなどを用いて装置と直接通信することができる。無線通信システム146は、車両間及び/又は道路沿いの局間の公共及び/又は民間データ通信を含むことができる1又はそれ以上の専用短距離通信(DSRC)装置を含むこともできる。また、本開示の文脈では、無線通信システム146により、様々な車両通信システムなどの、信号に埋め込まれた情報を送受信するための他の無線プロトコルを使用することもできる。
【0062】
電源110は、周辺機器108、コンピュータシステム112、センサシステム104の電子部品などの車両100のコンポーネントに電力を供給することができる。電源110は、電気エネルギーを蓄積して例えば様々な電動式コンポーネントに放出する充電式リチウムイオンバッテリ又は鉛酸バッテリを含むことができる。いくつかの実施形態では、1又はそれ以上の一連のバッテリを、電力を供給するように構成することができる。いくつかの実施形態では、一部の全電化自動車と同様に、電源110とエネルギー源119を共に実装することができる。
【0063】
車両100の機能の多く又は全ては、センサシステム104、周辺機器108などから入力を受け取り、推進システム102、制御システム106、周辺機器108などに、環境に基づく車両100の自動操作を行うのに適した制御信号を通信するコンピュータシステム112を介して制御することができる。コンピュータシステム112は、データストレージ114などの非一時的コンピュータ可読媒体に記憶された命令115を実行する(少なくとも1つのマイクロプロセッサを含むことができる)少なくとも1つのプロセッサ113を含むことができる。コンピュータシステム112は、車両100の個々のコンポーネント又はサブシステムを分散方式で制御する複数のコンピュータ装置を表すこともできる。
【0064】
いくつかの実施形態では、データストレージ114が、図1に関連して上述したものを含む様々な自動車機能を実行するようにプロセッサ113によって実行可能な命令115(例えば、プログラム論理)を含むことができる。データストレージ114は、推進システム102、センサシステム104、制御システム106及び周辺機器108のうちの1つ又はそれ以上との間でデータの送受信を行い、これらと相互作用し、及び/又はこれらを制御する命令を含むさらなる命令を含むこともできる。
【0065】
データストレージ114は、命令115に加え、他の情報の中でも特に、道路マップ、経路情報などのデータを記憶することができる。このような情報は、車両100の自律モード、半自律モード及び/又は手動モードでの動作中に、車両100及びコンピュータシステム112によって使用することができる。
【0066】
車両100及び関連するコンピュータシステム112は、車両100の客室内の乗員などの車両100のユーザに情報を提供し、及び/又はこれらのユーザから入力を受け取る。従って、車両100は、車両100のユーザに情報を提供し、又はこれらのユーザから入力を受け取るためのユーザインターフェイス116を含むことができる。ユーザインターフェイス116は、タッチスクリーン148上に表示できる相互作用イメージの内容及び/又はレイアウトを制御し、又はこれらの制御を可能にすることができる。さらに、ユーザインターフェイス116は、無線通信システム146、タッチスクリーン148、マイク150及びスピーカ152などの、一連の周辺機器108内の1又はそれ以上の入力/出力装置を含むこともできる。
【0067】
コンピュータシステム112は、車両状態及び/又は環境状態を示す様々なサブシステム(例えば、推進システム102、センサシステム104及び/又は制御システム106)から受け取った入力、並びにユーザ選択を示すユーザインターフェイス116からの入力に基づいて車両100の動作を制御する。例えば、コンピュータシステム112は、制御システム106からの入力を利用して、センサシステム104及び障害物回避システム144によって検出された障害物を回避するようにステアリングユニット132を制御することができる。コンピュータシステム112は、車両100及びそのサブシステムの多くの側面を制御するように構成することができる。しかしながら、一般に緊急時には、又は単にユーザが無効化を作動させたことに応答して、コントローラが作動させた自動動作を手動で無効にすることもできる。
【0068】
本明細書で説明した車両100のコンポーネントは、これらのそれぞれのシステム内又はシステム外の他のコンポーネントと相互接続された形で機能するように構成することができる。例えば、カメラ130は、自律モードで動作中の車両100の環境に関する情報を表す複数の画像を取り込むことができる。この環境は、他の車両、交通信号機、交通標識、路面表示、歩行者などを含むことができる。コンピュータビジョンシステム140は、予めデータストレージ114に記憶されている物体認識モデルに基づき、及び/又は他の技術により、センサフュージョンアルゴリズム138、コンピュータシステム112などと協働して、環境内の様々な側面を分類及び/又は認識することができる。
【0069】
図1には、車両100の様々なコンポーネント、すなわち無線通信システム146、コンピュータシステム112、データストレージ114及びユーザインターフェイス116を車両100に一体化されたものとして示しているが、これらのコンポーネントの1つ又はそれ以上を車両100から分離して取り付け又は関連付けることもできる。例えば、データストレージ114は、部分的に又は完全に車両100から離れて存在することができる。従って、車両100は、離れて存在できる装置要素の形で提供することも、或いは共に存在できる装置要素の形で提供することもできる。一般に、車両100を構成する装置要素は、共に有線及び/又は無線で通信可能に結合することができる。
【0070】
図2に、図1を参照しながら車両100に関連して説明した機能の全部又は一部を含むことができる車両例200を示す。図2では、例示を目的として車両例200を四輪セダン型の車として示しているが、本開示はこのように限定されるものではない。例えば、車両例200は、あらゆるタイプの車両を表すことができる。
【0071】
車両例200は、センサユニット202、無線通信システム204、LIDARユニット206、レーザー距離計ユニット208、及びカメラ210を含む。さらに、車両例200は、図1の車両100に関連して説明したあらゆるコンポーネントを含むことができる。
【0072】
センサユニット202は、車両例200の頂部に取り付けられ、車両例200を取り巻く環境に関する情報を検出してその指標を出力するように構成された1又はそれ以上のセンサを含む。例えば、センサユニット202は、カメラ、RADAR、LIDAR、距離計及び音響センサのいずれかの組み合わせを含むことができる。センサユニット202は、センサユニット202内の1又はそれ以上のセンサの配向を調整することができる1又はそれ以上の可動マウントを含むことができる。1つの実施形態では、可動マウントが、車両例200の周囲の各方向からの情報を取得するようにセンサを走査できる回転式プラットフォームを含むことができる。別の実施形態では、センサユニット202の可動マウントを、特定の角度範囲及び/又は方位角範囲内を走査する形で可動とすることができる。例えば、センサユニット202は、車の屋根上に取り付けることができるが、他の取り付け位置も可能である。また、センサユニット202のセンサは、異なる位置に分散させることもでき、1つの位置に共同配置する必要はない。いくつかの考えられるセンサタイプ及び取り付け位置としては、LIDARユニット206及びレーザー距離計ユニット208が挙げられる。さらに、センサユニット202の各センサは、センサユニット202の他のセンサとは無関係に移動又は走査するように構成することができる。
【0073】
無線通信システム204は、図2に示すように車両例200の屋根上に位置することができる。或いは、無線通信システム204は、完全に又は部分的に他の場所に位置することもできる。無線通信システム204は、車両例200の外部又は内部の装置と通信するように構成できる無線送信機及び受信機を含むことができる。具体的には、無線通信システム204は、他の車両、及び/又は、例えば車両通信システム又は道路の局内のコンピュータ装置と通信するように構成されたトランシーバを含むことができる。このような車両通信システムの例としては、専用短距離通信(DSRC)、無線自動識別(RFID)、及びインテリジェント移送システムのための他の提案する通信標準が挙げられる。
【0074】
カメラ210は、車両例200の環境の複数の画像を取り込むように構成された、静止カメラ、ビデオカメラなどの感光機器とすることができる。この目的のために、カメラ210は、可視光を検出するように構成することができ、これに加えて、又はこれとは別に、スペクトルの他の部分からの赤外線又は紫外線などの光を検出するように構成することもできる。カメラ210は、2次元検出器とすることができ、任意に3次元空間の感度範囲を有することもできる。いくつかの実施形態では、カメラ210が、例えばカメラ210から環境内の複数の地点までの距離を示す2次元画像を生成するように構成された範囲検出器を含むことができる。この目的のために、カメラ210は、1又はそれ以上の範囲検出技術を使用することができる。
【0075】
例えば、カメラ210は、車両例200がグリッドパターン又は格子パターンなどの所定の光パターンで環境内の物体を照明し、カメラ210を用いて環境周囲からの所定の光パターンの反射を検出する構造光技術を使用することによって範囲情報を提供することができる。車両例200は、反射された光パターンの歪みに基づいて、物体上の点までの距離を特定することができる。この所定の光パターンは、赤外光又はこのような測定に適した他の波長の放射線を含むことができる。
【0076】
カメラ210は、車両例200のフロントガラスの内側に取り付けることができる。具体的には、カメラ210は、車両例200の配向に対して前向きの視野からの画像を取り込むように位置することができる。車両例200の内部又は外部の、カメラ210の他の取り付け位置及び視野角を使用することもできる。
【0077】
カメラ210は、調整可能な視野を提供する関連する光学素子を有することができる。さらに、カメラ210は、パン/チルト機構などを通じてカメラ210の指示角を変化させるように、可動マウントを用いて車両例200に取り付けることができる。
【0078】
図3は、本明細書で説明する少なくともいくつかの実施形態による、車載センサを用いて濡れた路面を含む気象状態を検出する方法例のブロック図である。図3に示す方法300は、例えば図1及び図2を参照しながらそれぞれ図示し説明したような車両100及び/又は車両200と共に、或いは車両100又は車両200のコンポーネントと共に使用できる方法の実施形態を示す。例えば、本明細書で説明する処理は、コンピュータシステム112、センサフュージョンアルゴリズム138及び/又はコンピュータビジョンシステム140と通信する自律走行車両(例えば、車両200)に取り付けられたRADARユニット126、LIDARユニット128又はカメラ130によって実行することができる。方法300は、ブロック302~306のうちの1つ又はそれ以上によって示すような1又はそれ以上の動作、機能又は行動を含むことができる。ブロックは順番に示しているが、場合によってはこれらのブロックを並行して、及び/又は本明細書で説明する順序とは異なる順序で実行することもできる。また、様々なブロックは、所望の実装に基づいて少ないブロックに組み合わせ、さらなるブロックに分割し、及び/又は削除することもできる。
【0079】
また、方法300、並びに本明細書で開示する他のプロセス及び方法では、本実施形態の1つの考えられる実装の機能及び動作をフローチャートに示す。この点について、各ブロックは、プロセス内の特定の論理関数又はステップを実行するようにプロセッサによって実行可能な1又はそれ以上の命令(例えば、機械可読コード)を含むモジュール、セグメント又はプログラムコードの一部を表すことができる。プログラムコードは、例えばディスク又はハードドライブを含む記憶装置などのあらゆるタイプのコンピュータ可読媒体に記憶することができる。コンピュータ可読媒体は、例えばレジスタメモリ、プロセッサキャッシュ及びランダムアクセスメモリ(RAM)のような、短期間にわたってデータを記憶するコンピュータ可読媒体などの非一時的コンピュータ可読媒体を含むことができる。また、コンピュータ可読媒体は、例えばリードオンリメモリ(ROM)、光又は磁気ディスク、コンパクトディスクリードオンリーメモリ(CD-ROM)のような、2次的又は持続的長期間ストレージなどの非一時的媒体を含むこともできる。コンピュータ可読媒体は、他のいずれかの揮発性又は不揮発性ストレージシステムとすることもできる。例えば、コンピュータ可読媒体は、コンピュータ可読記憶媒体、有形記憶装置、コンピュータプログラム製品、又はその他の製造の物品と考えることができる。
【0080】
非一時的コンピュータ可読媒体は、互いに離れて存在することができる複数のデータストレージ要素間で分散させることもできる。記憶されている命令の一部又は全部を実行するコンピュータ装置は、図2に示す車両例200などの車両とすることができる。或いは、記憶されている命令の一部又は全部を実行するコンピュータ装置は、サーバなどの別のコンピュータ装置とすることもできる。
【0081】
また、方法300、並びに本明細書に開示する他のプロセス及び方法では、図3の各ブロックが、プロセス内の特定の論理関数を実行するように配線された回路を表すこともできる。
【0082】
図3の方法300などの方法例は、車両及びそのサブシステムによって全体的又は部分的に実行することができる。従って、本明細書では、一例として方法例を車両に実装されるものとして説明することができる。しかしながら、方法例は、車両の他のコンピュータ装置によって、或いは全体的に又は部分的に車両とは別個に実装することもできると理解されたい。例えば、方法例は、車両に関連する装置などの装置からデータを受け取るサーバシステムによって全体的に又は部分的に実装することができる。方法例を実装できる他のコンピュータ装置例又はコンピュータ装置の組み合わせ例も考えられる。
【0083】
ブロック302において、方法300は、車両の環境について収集されたレーザーデータを受け取るステップを含む。このレーザーデータは、反射光又は後方反射光に起因して物理的に存在するとされる環境内の物体に基づく複数のレーザーデータ点を含む。車両、或いはコンピュータ装置又はプロセッサなどの車両のコンポーネントは、収集されたレーザーデータを受け取るように構成することができる。
【0084】
一例として、車両は、車両の周囲、周辺、前方、背後、側部又は近位の、或いは車両に関する領域を照明し、その反射光を検出するLIDARユニットを有することができる。LIDARは、動作時に回転して(例えば、周期的に)レーザービームを放出する。その後、環境内の物体による放出されたレーザービームからの反射が好適なセンサによって受け取られる。反射信号の受け取りにタイムスタンプ処理を行うことにより、(受け取られた場合には)各反射信号を直近に放出されたレーザーパルスに関連付け、レーザーパルスの放出と反射光の受け取りとの間の時間遅延を測定することができる。この時間遅延を、介在する大気内における光の速度に従ってスケーリングすることにより、反射した特徴までの距離の推定値が得られる。各反射信号の距離情報を、それぞれのパルス放出のためのLIDAR装置の配向と組み合わせることにより、反射した特徴の位置を3次元で特定することができる。例示を目的として、x-y平面内に存在する一連の点に対する位置を推定するLIDAR装置の1回の掃引に関連して、環境シーンを2次元x-y平面で記述することができる。しかしながら、次のシーン掃引時にレーザービームをx-y平面から上又は下に導くようにビームステアリング素子を調整することにより、或いは点位置サンプリング専用のさらなるレーザー及び関連するビームステアリング素子をx-y平面の上方及び下方の平面内に設けることにより、或いはこれらの組み合わせにより、より完全な3次元サンプリングが実現される。
【0085】
ブロック304において、方法300は、コンピュータ装置により、複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連するレーザーデータ点を判定するステップを含む。一例として、追跡システムを用いて物体を追跡し、追跡した物体に関連するレーザーデータ点を判定することができる。
【0086】
他の例では、環境内の物体に対応する点群を生成することができる。点群内の各点は、方位角(例えば、LIDARの回転傾斜ミラーの配向によって特定された点に対応するパルスを放出しているLIDAR装置の配向)及び見通し(LOS)距離(例えば、パルス放出と反射光受光の間の時間遅延によって示される距離)によって参照することができる。反射信号として戻ってこないパルスについては、任意に点マップ内の距離をLIDAR装置の最大距離感度に設定することができる。この最大距離感度は、関連する光センサが各パルス放出後に戻ってくる反射信号を待つ最大時間遅延に従って求めることができ、この最大時間遅延自体は、周囲照明条件、放出パルスの強度、環境特徴の予測反射率などを考慮した、特定の距離における反射信号の予想信号強度に従って設定することができる。いくつかの例では、この最大距離を、約60メートル、80メートル、100メートル又は150メートルとすることができるが、LIDAR装置及び関連する光センサの特定の構成では他の例も可能である。
【0087】
いくつかの実施形態では、図1に示すセンサフュージョンアルゴリズム138、コンピュータビジョンシステム140、及び/又はコンピュータシステム112を、収集されたレーザーデータを単独で、及び/又はさらなるセンサ指示情報及び/又はメモリに基づくパターン一致点群及び/又は基本環境マップと組み合わせて解釈して、一群の点を環境内の物体に対応するものとして分類又は識別するように構成することができる。
【0088】
さらに、各空間点を一連のレーザーのうちのそれぞれのレーザー及びそれぞれのタイムスタンプに関連付けることもできる。すなわち、LIDARが複数のレーザーを含む実施形態では、各それぞれの受け取られた空間点を、それぞれの受け取られた空間点に従って検出された特定のレーザーに関連付けることができる。また、各それぞれの空間点を、それぞれのタイムスタンプ(例えば、レーザーの放出又は受光時点)に関連付けることもできる。このようにして、受け取られた空間点を、空間(レーザー識別)的に及び/又は時間(タイムスタンプ)的に体系化し、識別し、又は別様に整理することができる。このような整理は、空間点データを有意義な順序に体系化することにより、空間点データの分析を支援又は改善することができる。
【0089】
いくつかの例では、LIDAR装置の例に関連して物体検出が行われる。LIDAR装置は、1又はそれ以上のレーザーを用いてレーザー点群画像を取り込むように構成することができる。レーザー点群は、LIDAR装置から放出された各パルスを表す多くの点を含み、反射信号は、実際の反射物体の位置を示すことができ、反射信号の受け取りがないことは、レーザーの見通し線に沿った特定の距離内に十分な反射性の物体が存在しないことを示す。レーザーのパルスレート、シーンのリフレッシュレート、各LIDAR装置によってサンプリングされる全立体角(又は、1つのLIDAR装置しか使用しない場合にはシーンの全立体角のみ)を含む因子に応じて、各点群内のサンプル点の数を特定することができる。いくつかの実施形態では、点群が、50,000個ほどのレーザー指示点、80,000個ほどのレーザー指示点、100,000個ほどのレーザー指示点などを含むことができる。一般に、各点群内のレーザー指示点の数は、一方での角度分解能と、他方でのリフレッシュレートとの間のトレードオフである。LIDAR装置は、自律走行車両のリアルタイムナビゲーション判定に関連するほどの十分な高リフレッシュレートで角度分解能を提供するように駆動される。従って、LIDAR装置は、100ミリ秒(10フレーム/秒のリフレッシュレートを実現する)、33ミリ秒(30フレーム/秒のリフレッシュレートを実現する)、1ミリ秒、1秒などの所定の時間間隔で走査範囲の1又はそれ以上のレーザー点群を取り込むように構成することができる。
【0090】
図1を参照すると、車両100のコンピュータシステム112のデータストレージ114は、物体検出器ソフトウェア、コード又はその他のプログラム命令を記憶することができる。このような物体検出器ソフトウェアは、センサフュージョンアルゴリズム138、コンピュータビジョンシステム140及び/又は障害物回避システム144を含む上述した制御システム106の1つ又はそれ以上を含むことができ、又はこれらの一部とすることができる。物体検出器は、LIDAR128によって取り込まれたレーザー点群に基づいて、及び/又はセンサシステム104内のセンサのうちの1つ又はそれ以上に基づいて物体を分類及び/又は識別することによって環境シーン内の特徴を認識するように構成されたソフトウェア及び/又はハードウェアのいずれかの構成とすることができる。LIDAR128を介してレーザー点群が取り込まれると、取り込まれた点群を示すデータが物体検出器に通信され、この物体検出器がデータを分析して、レーザー点群内に物体が存在するかどうかを判定する。点群によって示される物体は、例えば、車両、歩行者、道路標識、交通信号、トラフィックコーンなどとすることができる。
【0091】
物体検出器ソフトウェア及び/又はモジュールは、レーザー点群画像内に物体が存在するかどうかを判定するために、レーザー指示点の配列を、パターン一致物、環境特徴及び/又は物体又は特徴のカテゴリに関連付けることができる。物体検出器は、車両100を取り巻く環境内の物理的物体/特徴に対応する1又はそれ以上のパラメータに従って配列を関連付けるように予め組み込んでおく(又は動的に命令する)ことができる。例えば、典型的な歩行者の身長、典型的な自動車の長さ、疑わしい物体を分類するための信頼性閾値などを示す情報を、予め物体検出器に取り込んでおくことができる。
【0092】
物体検出器は、点群内の物体を識別すると、その物体を含む境界ボックスを定めることができる。例えば、この境界ボックスは、点群が示す物体の予測される外面に対応することができる。当然ながら、境界「ボックス」は、一般に物体の予測される外部境界を定める多辺閉鎖形状の形を取ることができる。
【0093】
取り込まれた点群毎に、認識された物体の位置及びその対応する境界定義をフレーム番号又はフレーム時間に関連付ける。従って、連続シーン走査においてほぼ同様の場所に現れる同様の形状の物体を互いに関連付けて、物体を時間的に追跡することができる。複数の点群フレーム(例えば、走査範囲の完全な走査)に現れる認識された物体については、物体が現れるフレーム毎に、認識された物体の寸法範囲を定める異なる境界形状に関連付けることができる。
【0094】
認識された物体は、車両100が周囲環境を走行する時に、及び/又は物体がLIDAR装置128の走査範囲を通過するように車両に対して動いた時に追跡することができる。2又はそれ以上の連続して取り込まれた点群を組み合わせることにより、検出された物体の並進情報を求めることができる。車両100と共に車道に沿って移動する車などの物体の加速及び/又は速度を観察して、その後の走査時における物体の位置を予測することなどにより、特徴のある動きプロファイルを有する物体の将来的な位置予測を行うことができる。いくつかの実施形態では、空気中を移動する物体は、重力の影響を受ける軌道に沿って移動すると想定される。
【0095】
車両100は、物体認識の実行を支援するために、(例えば、無線通信システム146を介して)物体識別サーバと通信することもできる。物体識別サーバは、車両100が物体検出器を用いて検出した物体を確認及び/又は分類することができる。さらに、物体識別サーバは、取り込んだレーザー点群内の物体を検出するために物体検出器が使用するパラメータの1つ又はそれ以上の最適化を、他の同様のシステムからの蓄積データ、局所条件に基づいて促すことができる。1つの実施形態では、車両100が、認識された物体が正しい識別の統計的尤度評価によって示されるように正しく識別されることを確認するために、物体境界及びその対応する物体パラメータを物体識別サーバに通信することができる。
【0096】
再び図3を参照すると、ブロック306において、方法300は、環境内の1又はそれ以上の物体に関連しないレーザーデータ点に基づいて、コンピュータ装置により、車両が走行する路面が濡れている指標を識別するステップを含む。1つの例では、レーザーデータが、路面上の水の存在に関連することができ、水は、車両の追跡システムによって追跡されないアイテムである。しかしながら、収集されたレーザーデータ点は、水に起因する可能性がある。例えば、路面上の水、又は車両から跳ね上げられた水では、水滴などの粒子から光パルスが反射されるので、光学的に反射性のある特徴を検出して位置を特定するLIDAR装置にとっては、これらの水は反射雲に類似する。従って、あらゆる未追跡の受信レーザーデータ(例えば、追跡物体に一致しないレーザーデータ)について、車道が濡れている可能性がある指標を特定することができる。
【0097】
これに加えて(又はこれとは別に)、ブロック306において、方法300は、環境内の1又はそれ以上の物体に関連しないレーザーデータ点の数が所定の閾値を超えていると判定し、コンピュータ装置により、車両が走行する路面が濡れている指標を識別するステップを含むことができる。例えば、物体に関連しないレーザーデータ点がわずかである場合には、あらゆる数の要因が考えられるが、特定の閾値数のレーザーデータ点については、放出されたレーザービームが水によって反射されたものである高い可能性が存在する。
【0098】
他の例では、方法300が、複数のレーザーデータ点のうちのいくつかのレーザーデータ点が、車両が走行する路面の予想される高さよりも低い位置に関連すると判断するステップと、レーザーデータ点の数が閾値数を上回っていることに基づいて、車両が走行する路面が濡れている指標を識別するステップとをさらに含む。例えば、道路が濡れている時には、路面がレーザービームに対して鏡のように映り、反射されたレーザービームは、路面の高さよりも低い位置に関連しているように見える。この点に関し、レーザー光を反射する鏡の役割を果たす水が存在する一方で、水を通過して路面に反射されるレーザー光も存在する。受け取られた反射レーザービームの角度を特定することができ、この角度が(LIDAR装置に対して)閾値を上回る場合、このような受信レーザーデータは、地表面よりも「低い」ものとして表すことができる。このようなレーザーデータが収集された場合、コンピュータ装置は、このレーザーデータの識別を路面が濡れている指標として使用することができる。
【0099】
いくつかの例では、典型的には詳細マップ情報内の予想される路面よりもわずかに上方及び下方でデータ点が検出された場合、路面よりも15~20cm上方及び下方などの距離閾値を用いて、乾いた路面に関連するデータ点の群と、水溜まりに関連する群とを区別することができる。従って、(詳細マップから判断される)予想される路面に近いレーザーデータ点の群については、これらのレーザーデータ点を、予想される路面よりも上方に位置する第1の閾値、及び予想される路面より下方に位置する第2の閾値と比較する。この群が、第1の閾値を上回る少なくとも1つのレーザーデータ点及び第2の閾値を下回る少なくとも1つのレーザーデータ点を含む場合、車道が濡れている指標であると考えられる。
【0100】
1つの例では、車両の1又は複数のレーザーが動くにつれて、車両は、複数の方向からの及び/又は異なる時点における、同じ位置(点又は範囲)の範囲情報及び強度情報を含むデータ点を収集することができる。例えば、各データ点は、レーザーによって光が受け取られた物体の反射率を示す強度値と、位置情報とを含むことができる。車線区分線などの高反射性の路面は、アスファルト、セメント又はその他の路面などの反射性の低い路面よりも高い強度値に関連することができる。同様に、より多くの光を吸収する暗い物体(黒、濃紺色、茶色など)は、より多くの光を反射できる明るい色の物体(白色、クリーム、銀など)よりも低い強度値に関連することができる。この点に関し、物体は、濡れている時には暗くなると考えられ、従って水は物体の強度値を増加させるよりもむしろ減少させることができる。
【0101】
いくつかの例では、レーザーデータ点の強度値を、例えば暗い0~明るい250に基準化することができる。従って、高反射性の明るい路面は、250に近い強度値に関連することができ、低反射性の暗い路面は、0に近い強度値に関連することができる。レーザー走査データを受け取って処理し、地理的位置座標を生成することができる。これらの地理的位置座標は、高さ成分(z)を有するGPSの緯度及び経度座標(x、y)を含むことができ、或いは他の座標システムに関連することができる。この処理の結果、1組のデータ点が得られる。この組の各データ点は、レーザーによって光が受け取られた物体の反射率を示す強度値と、位置情報:(x、y、z)とを含むことができる。
【0102】
車道のレーザーデータ点の平均強度を閾値と比較して、車道が濡れているかどうかの指標をさらに識別することができる。例えば、上述したように、車道の濡れた又は凍った範囲を覆う水は、車道上で収集されるレーザーデータの強度を減少させることができる。従って、濡れた車道は、(セメント、アスファルト、レンガなどの)乾いた車道の平均強度値よりも若干低い平均強度値と、マップ情報に現れる車線区分線などの、他の予想される車道の特徴とを含むレーザーデータを有することができる。調べたレーザーデータ点の何パーセントかが特定の閾値よりも低い強度値を有する場合、車道が濡れていると判断することができる。例えば、上述した0~250の基準を用いて、車道内に1000個のレーザーデータ点が存在し、これらの1000個の点のうちの少なくとも850個(すなわち、これらのレーザーデータ点の少なくとも85%)が、閾値である10よりも低い強度を有する場合、この車道は暗い。上述したように、より低い強度値は、車道が濡れている高い確率を示すことができる。また、例えば予想強度又は車道の組成に基づいて、他の閾値及びパーセンテージを使用することもできる。
【0103】
さらなる例では、方法300が、車両の位置を判定し、この車両の位置に基づいて、車両が走行する乾いた状態の路面のレーザーデータの予測値の分布を求め、求めた分布を、この車両の環境の収集したレーザーデータと比較するステップを含むことができる。例えば車両の位置に基づいて、車両が走行する乾いた状態の路面のレーザーデータの予測値の分布をデータストレージから取り出し、又はサーバから受け取ることができる。乾いた状態及び濡れた状態の両方について、道路分布毎のレーザーデータの強度のマップを生成して記憶することができる。レーザーデータの予測値の分布は、路面の組成に基づくことができる。求めた分布と、車両の環境の収集したレーザーデータとの間の差分が閾値を上回ることに基づいて、車両が走行する路面が濡れている第2の指標の識別を行うことができる。例えば、差分が大きい場合、このレーザーデータは、乾いた路面で見られると予想されるデータに一致しない。従って、このような比較は、路面が濡れている別の指標を示すことができる。
【0104】
さらなる例では、方法300が、複数のレーザーデータ点のうちの、物体検出技術又はマップデータとの比較などに起因して車両の環境内の車線区分線を示すレーザーデータ点を判定し、レーザーデータ点によって示される車線区分線の数が予想量を下回ることに基づいて、コンピュータ装置により、車両が走行する路面が濡れていることを示す第2の指標を識別するステップを含むことができる。例えば、通常、路面は、車線区分線又はその他の明るいマーカを含み、路面が濡れている時には、路面が乾いている時よりも反射レーザービームの強度が低くなり得る。低い強度の反射レーザービームは、路面上の車線区分線又は明るいマーカを示すように処理されないことがある。一般的な道路上では、記憶データから車線区分線の数を判定することができ、識別された車線区分線の数が予想される数と比べて少ない場合、これを路面が濡れていることを示す第2の指標として利用することができる。記憶データの例としては、車線区分線の位置、高さ及び形状を識別する、車線区分線の詳細マップ情報を挙げることができる。車線区分線は、実線又は破線の二重又は単一の車線境界線、実線又は破線の車線境界線、反射体などの特徴を含むことができる。所与の車線は、左右の車線境界線、又は車線の境界を定める他の車線区分線に関連することができる。従って、車線は、1つの車線境界線の左側縁部と、もう1つの車線境界線の右縁側部とによって境界することができる。
【0105】
いくつかの例では、方法300を用いて、車両を自律モードで動作するように構成することができ、車両が走行する路面が濡れている指標を利用して、車両の運転判断を決定することができる。車両は、様々な気象状態又は道路条件によって異なる形で制御することが望ましいと思われ、従って道路が濡れている時には、「濡れた路面」の運転技術(例えば、ブレーキのために車間を広くとること、速度を落とすことなど)に従って車両を動作させることができる。車両は、気象状態によっては同じように動作しないことがあり、従っていくつかの例では、車両が、濡れた路面の指標に基づいて、自律モードを無効にすることによって車両の動作を開始するようにドライバーに警告することなどにより、手動モードに移行する要求を示す命令を与えることができる。
【0106】
さらなる例では、関連しないレーザーデータ点の数に基づいて、道路がどれほど濡れているかを判定することができる。道路が非常に濡れている例では、カメラデータ内で数多くの関連しないレーザーデータ点及び反射を確認することができる。車両の動作モードは、道路の濡れ具合にさらに基づくことができ、湿った道路などでは自律モードを採用することができ、道路が非常に濡れていると認められる場合、車両は手動操作モードに移行し、又はその要求を行うことができる。
【0107】
道路の気象状態及び/又は路面状態は、運転判断を行うことに加え、又はその代わりに、ドライバーに送るべき警告をトリガすることもできる。この警告は、車両の制御を行うようにドライバーに求めることも、或いは単純にドライバーに状態を知らせることもできる。警告は、聴覚信号、視覚信号、触覚又は触知信号、及び/又はドライバーの注意を引く他のいずれかの信号とすることができる。この例では、ドライバーへの警告後に、車両が、ハンドルを切ること、ブレーキを掛けること、加速すること、及び緊急遮断装置をオンにすることなどの入力をドライバーから受け取ることができる。
【0108】
いくつかの例では、濡れた路面のさらなる指標、又は路面が濡れている(例えば、関連しないレーザーデータ点が水に起因する)高い確率又は確信をもたらすために、(レーザーデータ点が追跡物体に関連しないことに加え)さらなるデータを考慮することもできる。
【0109】
図4は、本明細書で説明する少なくともいくつかの実施形態による、車載センサを用いて濡れた路面を含む気象状態のさらなる指標を判定する方法例のブロック図である。図4に示す方法400は、例えば図1及び図2を参照しながらそれぞれ図示し説明したような車両100及び/又は車両200(又は、車両100又は車両200のコンポーネント)と共に使用できる、図3に示す方法300に加えて実行できる方法の実施形態を示す。方法400は、プロセス内の特定の論理関数又はステップを実行するようにプロセッサによって実行可能な1又はそれ以上の命令(例えば、機械可読コード)を含むモジュール、セグメント又はプログラムコードの一部を表すことができる。
【0110】
ブロック402に示すように、方法400は、車両の速度が閾値を上回っているかどうか判定し、上回っている場合には、ブロック404において、車両が走行する路面が濡れている指標を識別するステップを含むことができる。例えば、受け取ったレーザーデータが、この車両の前方又は側方を走行する車両によって跳ね上げられた水に起因する場合があり、このような水は、車両が少なくとも閾値速度で走行している時に跳ね上げられることがある。車の排気に起因するレーザーデータが受け取られることもあり、通常、これは車の速度が閾値未満の時又はアイドリング中に起きる。従って、車両の速度が閾値を上回っている場合、この車は、水が跳ね上がる可能性のある速度で走行しているので、関連性のないレーザーデータを、車から跳ね上げられた水によるものと見なすことができる。
【0111】
速度を判定する車両は、レーザーデータを収集するためのLIDARユニットを有する、自律的に動作するように構成された車両とすることができる。他の例では、「水を跳ね上げる」車両の速度を判定するように、この自律走行車両の前方の(又は、自律走行車両の直前又は自律走行車両の隣の車線の前方などの、車両の実質的に前方の)車両の速度を判定することができる。車両(又は車両の前方を走行する車)の速度が閾値を上回っている時には、車両の実質的に前方の環境範囲に関する関連性のないレーザーデータ点は、車両の前方を走行する車によって水が跳ね上げられた指標とすることができる。
【0112】
車両の速度が閾値を上回っていない場合、方法400は、レーザーデータがRADARデータと一致するかどうかを判定するステップを含むブロック406に進むことができる。例えば、自律走行車両は、車両の環境についてのレーダーデータを収集することができ、RADARデータは、車両の環境内における物体の存在を示す。レーダーは、跳ね上げられた水のデータを戻さないが、レーダーデータは、自律走行車両の前方の車を識別する。上述したように、レーザーデータは、物体を追跡するためにも使用され、RADARデータによって示される物体の存在がLIDARデータによって示される物体の存在と一致しない時には、LIDARデータを誤っていると見なすことができる。RADARデータによって示されず、LIDARデータによって示されたいずれかのさらなる物体は、車によって跳ね上げられた水などが道路上に存在し得る指標とすることができる。
【0113】
いくつかの例では、RADARデータでは確認できず、LIDARデータによって追跡されたあらゆる物体を、気象状態によるものとして分類することができる。方法400に示すように、RADARデータとLIDARデータが一致しないことに基づいて、車両が走行する路面が濡れている指標とすることができる。
【0114】
方法400は、レーザーデータがカメラデータと一致するかどうかを判定するステップを含むブロック408に進むことができる。例えば、自律走行車両はカメラを含むことができ、車両の環境について収集された画像データを受け取ることができる。大雨の際には、車道上に水が溜まり、これを画像で見ることができる。また、画像で雨を識別することも可能である。画像は、物体検出技術を用いて、例えば物体検出サーバに画像を提供し、画像内の物体を示す応答を受け取ることによって処理することができる。
【0115】
いくつかの例では、画像データを処理して濡れた路面を識別することができ、カメラによって示される物体がLIDARデータによって示される物体と一致しない時には、やはり車両が走行する路面が濡れている指標とすることができる。
【0116】
さらなる例では、画像データを処理して、車両の環境内の物体の反射を含む画像データの量を特定することができる。例えば、雨が降っている時には、ブレーキ灯及び道路上の他の物体が画像内に反射をもたらす。例えば、特徴点の動作軌道を分析し、互いに移動する2つの異なる層を含む領域として反射をモデル化することなどにより、あらゆる数の技術を用いて画像内の反射を検出することができる。車両の環境内の1又はそれ以上の物体の反射を示す画像データの量が閾値を上回ることに基づいて、車両が走行する路面が濡れている第2の指標とすることができる。
【0117】
方法400は、レーザーデータが他のセンサデータと一致するかどうかを判定するステップを含むブロック410に進むことができる。例えば、自律走行車両は、降水センサ又は「雨検出器」を有することができ、LIDARデータが、降水量の存在を示す降水センサと組み合わせて濡れた路面を示す場合、車両が走行する路面が濡れている第2の指標とすることができる。路面は、雨が止んだ後しばらくの間濡れた状態を保つことがあり、或いは雨が降っていない時にも水溜まり又はその他の水の蓄積によって濡れていることがあり得るので、降水センサの出力のみに依拠して路面が濡れているかどうかを判定することは不可能な場合もある。
【0118】
さらなる例では、様々なセンサによって提供されるデータを処理することが、以前に取得され環境内で存続すると予想される環境情報を処理することを含むことができる。例えば、データベースを通じて、異なる一続きの車道の予想輝度又はレーザー強度データ値を記述するデータを含むことができる詳細マップ情報(例えば、車道の形状及び高さ、交差点、横断歩道、速度制限、交通信号、建物、標識、リアルタイム交通情報、又はその他のこのような物体及び情報を識別する非常に詳細なマップ)を提供し、又はこの情報にアクセスすることができる。レーザーデータが予想輝度又はレーザー強度データ値と一致しない時には、濡れた路面の指標を判定することができる。
【0119】
方法400は、レーザーデータが気象データと一致するかどうかを判定するステップを含むブロック412に進むことができる。例えば、ネットワークを介してサーバから車両の位置の気象情報を受け取ることができ、この気象情報が、雨が降っていること又は最近雨が降ったことを示す場合、気象情報に基づいて、車道が濡れている第2の指標とすることができる。
【0120】
方法400は、レーザーデータを再処理して、識別された物体を追跡システムによって識別された物体と比較しようと試みるステップを含むブロック414に進むことができる。方法400は、例えば、道路上の他の車によって判定された情報へのアクセスに基づいて、路面が濡れているかどうかの判定を確認するステップをさらに含むことができる。
【0121】
いくつかの例では、方法400を実行して、車両が走行する路面が濡れているさらなる指標を提供することができる。方法400は、任意に図3の方法300に加えて実行することができる。例えば、(例えば、水のしぶきを表す)関連性のないレーザー点は、レーザーで検出された車両に対して関連性がないことも、又は場合によってはレーダーで検出された車両に対して関連性がないこともあり、従って他のセンサデータ、気象情報などを相互参照することにより、路面が濡れていると識別する根拠を確認することができる。
【0122】
図5は、車両が走行する路面が濡れている指標を識別する概念的側面図の例である。図5では、車両502が路面504上を走行しており、車両502の前方を別の車両506が走行している。車両502は、(例えば、図5に矢印で示す)車両502の前方領域について収集されたレーザーデータを受け取るように構成されたLIDARユニット508を含むことができる。車両506は、路面504上の液体/水の溜まり又はその他の蓄積内を走行し、車両506の後部510及び/又は車両506の側部512において水を跳ね上げることがある。この水は、レーザー光線が水によって反射された時にLIDARユニット508によって検出することができる。しかしながら、他のセンサ(例えば、RADAR)は水を検出しないことがあり、或いはLIDARユニット508がある期間にわたって常に水を追跡しないこともあるので、この水は、車両502の追跡システムによって追跡される物体にならないこともある。追跡物体に一致しないレーザーデータが受け取られると、この関連性のないレーザーデータを、水の指標、及び路面504が濡れている指標と見なすことができる。レーザーデータは、移動中の物体の背後に跳ね上げられた水によって生じることがある予め定められた又は記憶されたしぶき形状の点群と比較することができる。この水しぶきは、レーザー反射として検出されることがあるが、例えば環境内の追跡物体ではない。
【0123】
従って、車両502は、車両506の後部から収集された関連性のない又はランダムなレーザー点の処理を通じて、車両のタイヤによって水が跳ね上げられているかどうかを検出することにより、路面504が濡れている指標を識別することができる。この点に関し、車両502は、車両506の後部タイヤの背後の1又は複数のランダムデータ点群を検出することができ、水が動く結果、群内のデータ点の位置及び数は常に変化することができる。従って、水からのデータ点群は、明確な構造を有していないことがあるのに対し、車両の後端部など固体物体の一部は、クリアな路面を定めるデータ点に関連する。他の車両の背後でも、同様のデータ点群を観察することができる。このような観察は、雨が降っていること又は地面は濡れていることを示すことができる。
【0124】
図6は、車両が走行する路面が濡れている指標を識別する別の概念図例である。図6では、車両602の周囲範囲のデータを収集するセンサを含む車両602が、路面604上を走行している。これらのセンサは、範囲606及び608などの環境内の範囲からの反射レーザービームを受け取ることができるLIDARユニットを含むことができる。範囲606を追跡して、車両602の右前方を走行中の別の車両610を示すものと見なすことができる。範囲608を追跡して、車両602の前方の車両612を示すものと見なすことができる。範囲608について収集されたレーザーデータは、車両612が水の上を走行することに起因する路面604上の水の跡614などの、範囲608内の他のアイテムに起因する場合もある。水の跡614は、車両602のセンサによって収集された画像データでもさらに確認することができる。車両602は、車両612の存在及び速度の測定結果を求めるレーダーユニットをさらに含むことができる。レーダーは、水の跡614を検出しないこともある。レーダーは、車両612の存在及び閾値を上回る速度を求め、この時レーザーデータは、何らかのアイテム(例えば、水の跡614)を示すので、車両602は、車両602の実質的に前方の路面604が濡れているとの結論に達することができる。しかしながら、車両612の速度が時速数マイルのように低かった場合、水が跳ね上げられなかったり、又は水の跡ができなかったりする場合があり、従って範囲608内の他の物体に関連しないレーザーデータを疑似データと見なすこともできる。
【0125】
図7は、車両が走行する路面が濡れている指標を識別する概念的上面図例である。図7では、車両702の前方の範囲として定めることができる関心領域708内のデータを収集するセンサユニット706を含む車両702が、路面704上を走行している。センサユニット706は、図3図4で説明した方法を用いて、車両712によって跳ね上げられた水又は車両712の水の跡に起因するウォータスポット710を識別することができる。センサユニット706は、例えば、レーザービームの反射、カメラ画像で見られる反射、又は図3図4で説明した他のセンサ融合法に起因する、最近通った車両が存在しないウォータスポット714などの他のウォータスポットをさらに識別することができる。車両702は、センサユニット706からデータを受け取って、車両702が走行する路面704が濡れているかどうか、又は車両702の前方の路面704が濡れているかどうかを判定することができる。
【0126】
他の例では、図8は、本明細書で説明する少なくともいくつかの実施形態による、車載センサを用いて霧を含む気象状態を検出する方法例のブロック図である。図8に示す方法800は、例えば図1及び図2を参照しながらそれぞれ図示し説明したような車両100及び/又は車両200と共に、或いは車両100又は車両200のコンポーネントと共に使用できる方法の実施形態を示す。例えば、本明細書で説明する処理は、コンピュータシステム112、センサフュージョンアルゴリズム138及び/又はコンピュータビジョンシステム140と通信する自律走行車両(例えば、車両200)に取り付けられたRADARユニット126、LIDARユニット128又はカメラ130によって実行することができる。方法800は、ブロック802~808のうちの1つ又はそれ以上によって示すような1又はそれ以上の動作、機能又は行動を含むことができる。ブロックは順番に示しているが、場合によってはこれらのブロックを並行して、及び/又は本明細書で説明する順序とは異なる順序で実行することもできる。また、様々なブロックは、所望の実装に基づいて少ないブロックに組み合わせ、さらなるブロックに分割し、及び/又は削除することもできる。
【0127】
図8の方法800などの方法例は、車両及びそのサブシステムによって全体的又は部分的に実行することができる。従って、本明細書では、一例として方法例を車両に実装されるものとして説明することができる。
【0128】
ブロック802において、方法800は、車両の環境の走査から収集されたレーザーデータを受け取るステップを含む。このレーザーデータは、反射光又は後方反射光に起因して物理的に存在するとされる環境内の物体に基づく複数のレーザーデータ点を含む。車両、或いはコンピュータ装置又はプロセッサなどの車両のコンポーネントは、収集されたレーザーデータを受け取るように構成することができる。例えば、レーザーデータは、図3を参照しながら上述した方法と同様の方法で受け取ることができる。
【0129】
ブロック804において、方法800は、コンピュータ装置により、複数のレーザーデータ点のうちのレーザーデータ点を環境内の1又はそれ以上の物体に関連付けるステップを含む。一例として、追跡システムを用いて物体を追跡し、追跡物体に関連するレーザーデータ点を判定することができる。環境内の反射した特徴に起因して受け取られたレーザーデータは、環境内に物理的に存在する(例えば、レーザーを反射させる)物体に起因するものであると見なすことができる。コンピュータ装置は、レーザーデータによって確認されるこのような物体の関連する位置を記憶し、レーザーデータと物体の関連性を記憶するように構成することができる。
【0130】
いくつかの例では、環境内の物体に対応する点群を生成することができる。点群内の各点は、方位角(例えば、LIDARの回転傾斜ミラーの配向によって判定された点に対応するパルスを放出しているLIDAR装置の配向)及び見通し(LOS)距離(例えば、パルス放出と反射光受光の間の時間遅延によって示される距離)によって参照することができる。反射信号として戻ってこないパルスについては、任意に点マップ内の距離をLIDAR装置の最大距離感度に設定することができる。この最大距離感度は、関連する光センサが各パルス放出後に戻ってくる反射信号を待つ最大時間遅延に従って求めることができ、この最大時間遅延自体は、周囲照明条件、放出パルスの強度、環境特徴の予測反射率などを考慮した、特定の距離における反射信号の予想信号強度に従って設定することができる。いくつかの例では、この最大距離を、約60メートル、80メートル、100メートル又は150メートルとすることができるが、LIDAR装置及び関連する光センサの特定の構成では他の例も可能である。
【0131】
いくつかの実施形態では、図1に示すセンサフュージョンアルゴリズム138、コンピュータビジョンシステム140、及び/又はコンピュータシステム112を、収集されたレーザーデータを単独で、及び/又はさらなるセンサ指示情報及び/又はメモリに基づくパターン一致点群及び/又は基本環境マップと組み合わせて解釈して、一群の点を環境内の物体に対応するものとして分類又は識別するように構成することができる。
【0132】
さらに、各空間点を一連のレーザーのうちのそれぞれのレーザー及びそれぞれのタイムスタンプに関連付けることもできる。すなわち、LIDARが複数のレーザーを含む実施形態では、各それぞれの受け取られた空間点を、それぞれの受け取られた空間点に従って検出された特定のレーザーに関連付けることができる。また、各それぞれの空間点を、それぞれのタイムスタンプ(例えば、レーザーの放出又は受光時点)に関連付けることもできる。このようにして、受け取られた空間点を、空間(レーザー識別)的に及び/又は時間(タイムスタンプ)的に体系化し、識別し、又は別様に整理することができる。このような整理は、空間点データを有意義な順序に体系化することにより、空間点データの分析を支援又は改善することができる。
【0133】
いくつかの例では、LIDAR装置の例に関連して物体検出が行われる。LIDAR装置は、1又はそれ以上のレーザーを用いてレーザー点群画像を取り込むように構成することができる。レーザー点群は、LIDAR装置から放出された各パルスを表す多くの点を含み、反射信号は、実際の反射物体の位置を示すことができ、反射信号の受け取りがないことは、レーザーの見通し線に沿った特定の距離内に十分な反射性の物体が存在しないことを示す。レーザーのパルスレート、シーンのリフレッシュレート、各LIDAR装置によってサンプリングされる全立体角(又は、1つのLIDAR装置しか使用しない場合にはシーンの全立体角のみ)を含む因子に応じて、各点群内のサンプル点の数を判定することができる。いくつかの実施形態では、点群が、50,000個ほどのレーザー指示点、80,000個ほどのレーザー指示点、100,000個ほどのレーザー指示点などを含むことができる。一般に、各点群内のレーザー指示点の数は、一方での角度分解能と、他方でのリフレッシュレートとの間のトレードオフである。LIDAR装置は、自律走行車両のリアルタイムナビゲーション決定に関連するほどの十分な高リフレッシュレートで角度分解能を提供するように駆動される。従って、LIDAR装置は、環境のいくつかの走査を取り込むように、100ミリ秒(10フレーム/秒のリフレッシュレートを実現する)、33ミリ秒(30フレーム/秒のリフレッシュレートを実現する)、1ミリ秒、1秒などの所定の時間間隔で走査範囲の1又はそれ以上のレーザー点群を取り込むように構成することができる。
【0134】
図1を参照すると、車両100のコンピュータシステム112のデータストレージ114は、物体検出器ソフトウェア、コード又はその他のプログラム命令を記憶することができる。このような物体検出器ソフトウェアは、センサフュージョンアルゴリズム138、コンピュータビジョンシステム140及び/又は障害物回避システム144を含む上述した制御システム106の1つ又はそれ以上を含むことができ、又はこれらの一部とすることができる。物体検出器は、LIDAR128によって取り込まれたレーザー点群に基づいて、及び/又はセンサシステム104内のセンサのうちの1つ又はそれ以上に基づいて物体を分類及び/又は識別することによって環境シーン内の特徴を認識するように構成されたソフトウェア及び/又はハードウェアのいずれかの構成とすることができる。LIDAR128を介してレーザー点群が取り込まれると、取り込まれた点群を示すデータが物体検出器に通信され、この物体検出器がデータを分析して、レーザー点群内に物体が存在するかどうかを判定する。点群によって示される物体は、例えば、車両、歩行者、道路標識、交通信号、トラフィックコーンなどとすることができる。
【0135】
物体検出器ソフトウェア及び/又はモジュールは、レーザー点群画像内に物体が存在するかどうかを判定するために、レーザー指示点の配列を、パターン一致物、環境特徴及び/又は物体又は特徴のカテゴリに関連付けることができる。物体検出器は、車両100を取り巻く環境内の物理的物体/特徴に対応する1又はそれ以上のパラメータに従って配列を関連付けるように予め組み込んでおく(又は動的に命令する)ことができる。例えば、典型的な歩行者の身長、典型的な自動車の長さ、疑わしい物体を分類するための信頼性閾値などを示す情報を、予め物体検出器に取り込んでおくことができる。
【0136】
物体検出器は、点群内の物体を識別すると、その物体を含む境界ボックスを定めることができる。例えば、この境界ボックスは、点群が示す物体の予測される外面に対応することができる。当然ながら、境界「ボックス」は、一般に物体の予測される外部境界を定める多辺閉鎖形状の形を取ることができる。
【0137】
取り込まれた点群毎に、認識された物体の位置及びその対応する境界定義をフレーム番号又はフレーム時間に関連付ける。従って、連続シーン走査においてほぼ同様の場所に現れる同様の形状の物体を互いに関連付けて、物体を時間的に追跡することができる。複数の点群フレーム(例えば、走査範囲の完全な走査)に現れる認識された物体については、物体が現れるフレーム毎に、認識された物体の寸法範囲を定める異なる境界形状に関連付けることができる。
【0138】
認識された物体は、車両100が周囲環境を走行する時に、及び/又は物体がLIDAR装置128の走査範囲を通過するように車両に対して動いた時に追跡することができる。2又はそれ以上の連続して取り込まれた点群を組み合わせることにより、検出された物体の並進情報を求めることができる。車両100と共に車道に沿って移動する車などの物体の加速及び/又は速度を観察して、その後の走査時における物体の位置を予測することなどにより、特徴のある動きプロファイルを有する物体の将来的な位置予測を行うことができる。いくつかの実施形態では、空気中を移動する物体は、重力の影響を受ける軌道に沿って移動すると想定される。
【0139】
車両100は、物体認識の実行を支援するために、(例えば、無線通信システム146を介して)物体識別サーバと通信することもできる。物体識別サーバは、車両100が物体検出器を用いて検出した物体を確認及び/又は分類することができる。さらに、物体識別サーバは、取り込んだレーザー点群内の物体を検出するために物体検出器が使用するパラメータの1つ又はそれ以上の最適化を、他の同様のシステムからの蓄積データ、局所条件に基づいて促すことができる。1つの実施形態では、車両100が、認識された物体が正しい識別の統計的尤度評価によって示されるように正しく識別されることを確認するために、物体境界及びその対応する物体パラメータを物体識別サーバに通信することができる。
【0140】
再び図8を参照すると、ブロック806において、方法800は、環境内の1又はそれ以上の物体に関連しないレーザーデータ点を、霧に起因するパターンを表す記憶されているレーザーデータ点と比較するステップを含む。いくつかの例では、物体を表すと見なされるレーザーデータについて、これらのレーザーデータを環境内の物体に関連付けることができ、残りの受け取られた又は収集されたレーザーデータは、環境内の物体に関連しないと考えることができる。
【0141】
いくつかの例では、方法800を実行して、存在すると予想された物体がレーザーによって検出されなかった事例、又は想定外の物体が検出された(すなわち、霧のためにレーザー計測が失われ又は変化した)事例を求めることができる。上述したように、受け取られた反射レーザーデータについて、レーザーを反射させる物体が存在すると判定することができる。しかしながら、霧のかかった状態では、霧が反射を引き起こす結果、物体の判定を誤ることがある。レーザー放出の反射を引き起こす霧と環境内に存在する実際の物体との対比にレーザーデータがいつ基づくかを判定するために、レーザーデータを、物体を表すことが分かっているレーザーデータ、及び/又は霧の反射に起因するものであることが分かっているレーザーデータと比較するようにコンピュータ装置を構成することができる。従って、受け取ったレーザーデータと、物体を表すことが分かっているレーザーデータのパターンとを比較して、物体以外の何かに起因する可能性のあるレーザーデータを識別することができる。
【0142】
あらゆる数のレーザーデータのパターンを記憶し、関連性のないレーザーデータと比較するためにこのパターンを参照して、関連性のないレーザーデータを、物体を表すもの、又は霧などの気象状態に起因するものとして分類することができる。
【0143】
物体に起因するレーザーデータと、他の条件(例えば、霧)に起因するレーザーデータとを区別する別の例として、コンピュータ装置を、レーザーデータによって表される物体の動きを追跡するように構成することができる。従って、動いている物体を表す全てのレーザーデータを追跡することができ、不自然に動いているように見える物体、又は短時間にわたって現れては消える物体を、気象状態によって引き起こされたレーザーデータの反射に起因する偽物体と見なすことができる。
【0144】
いくつかの例では、方法800が、環境内の1又はそれ以上の物体に関連しないレーザーデータ点を判定するステップを含むことができる。LIDARを、第1の環境走査を行って、複数のレーザーデータ点のうちのレーザーデータ点を環境内の1又はそれ以上の物体に関連付けるように構成することができる。その後、LIDARを、第2の環境走査を行って、レーザーデータ点によって表される物体の位置に基づき、1又はそれ以上の物体に一致するレーザーデータ点を判定するように構成することができる。その後、第1の走査における1又はそれ以上の物体との一致が存在しないことに基づいて、環境内の1又はそれ以上の物体に関連しない第2の走査のレーザーデータ点を判定することができる。さらなる例では、第2の走査データと比較するための物体追跡がしばらく行われるように、第2の走査が、第1の走査後の又は何回かの走査後の環境走査を表すことができる。
【0145】
ブロック808において、方法800は、この比較に基づいて、コンピュータ装置により、車両の環境の気象状態が霧を含む指標を識別するステップを含む。ある例では、関連性のないレーザーデータが、霧に起因するレーザーデータのパターンに一致又は実質的に一致する場合、コンピュータ装置は、レーザーデータが霧に起因するものであると識別することができる。
【0146】
1つの例では、レーザーデータが、空気中の水の存在、又は霧に典型的な曇天条件に関連する場合があり、このような水滴又は雲は、車両の追跡システムによって追跡されないアイテムである。例えば、光学的に反射した特徴を検出して位置を特定するLIDAR装置にとって、空気中の水滴又は空気中の雲の特徴は、粒子状物質から光パルスが反射されるという理由で物体群に類似する。LIDAR装置は、霧を貫通できないことがあり、従って霧の存在時には、霧のために多くのレーザー点が戻ってくることがある。従って、あらゆる未追跡の受信レーザーデータ(例えば、追跡物体に一致しないレーザーデータ)について、車両の環境の気象状態が霧を含む指標を判定することができる。
【0147】
これに加えて(又はこれとは別に)、ブロック806において、方法800は、環境内の1又はそれ以上の物体に関連しないレーザーデータ点の数が所定の閾値を超えていると判定し、コンピュータ装置により、車両の環境の気象状態が霧を含む指標を識別するステップを含むことができる。例えば、物体に関連しないレーザーデータ点がわずかである場合には、(例えば、疑似反射レーザーなどの)あらゆる数の要因が考えられるが、特定の閾値数のレーザーデータ点については、放出されたレーザービームが空気中の水滴によって反射されたものである高い可能性が存在する。
【0148】
別の例では、車両の1又は複数のレーザーが動くにつれて、車両は、複数の方向からの及び/又は異なる時点における、同じ位置(点又は範囲)の範囲情報及び強度情報を含むデータ点を収集することができる。例えば、各データ点は、レーザーによって光が受け取られた物体の反射率を示す強度値と、位置情報とを含むことができる。高反射性の路面は、低反射性の路面よりも高い強度値に関連することができる。同様に、より多くの光を吸収する暗い物体(黒、濃紺色、茶色など)は、より多くの光を反射できる明るい色の物体(白色、クリーム、銀など)よりも低い強度値に関連することができる。この点に関し、雲霧は、より暗い環境を示すことができ、従って、霧は、認識された物体の強度値を増加させるよりもむしろ減少させることができる。
【0149】
いくつかの例では、レーザーデータ点の強度値を、例えば暗い0~明るい250に基準化することができる。従って、高反射性の明るい路面は、250に近い強度値に関連することができ、低反射性の暗い路面は、0に近い強度値に関連することができる。レーザー走査データを受け取って処理し、地理的位置座標を生成することができる。これらの地理的位置座標は、高さ成分(z)を有するGPSの緯度及び経度座標(x、y)を含むことができ、或いは他の座標システムに関連することができる。この処理の結果、1組のデータ点が得られる。この組の各データ点は、レーザーによって光が受け取られた物体の反射率を示す強度値と、位置情報:(x、y、z)とを含むことができる。
【0150】
環境のレーザーデータ点の平均強度を閾値と比較して、霧の指標をさらに識別することができる。例えば、上述したように、水滴は、収集されたレーザーの強度を減少させることがある。従って、霧のかかった環境は、クリアな環境の平均強度値よりも若干低い平均強度値を含むレーザーデータを有することができる。調べたレーザーデータ点の何パーセントかが特定の閾値よりも低い強度値を有する場合、車道が濡れていると判断することができる。例えば、上述した0~250の基準を用いて、車道内に1000個のレーザーデータ点が存在し、これらの1000個の点のうちの少なくとも850個(すなわち、これらのレーザーデータ点の少なくとも85%)が、閾値である10よりも低い強度を有する場合、この環境は暗い。上述したように、より低い強度値は、霧が存在する高い確率を示すことができる。例えば、他の閾値及びパーセンテージを使用することもできる。クリアな環境を表すレーザーデータを記憶し、例えば比較を目的としてこれにアクセスすることができる。
【0151】
さらなる例では、方法800が、車両の位置を判定し、この車両の位置の環境についてレーザーデータの予測値の分布を求め、求めた分布を、この車両の環境の収集したレーザーデータと比較するステップを含むことができる。例えば車両の位置に基づいて、晴れた状態の場所についてのレーザーデータの予測値の分布をデータストレージから取り出し、又はサーバから受け取ることができる。乾いた状態及び晴れた状態の両方について、場所毎のレーザーデータの強度のマップを生成して記憶することができる。求めた分布と、車両の環境の収集したレーザーデータとの間の差分が閾値を上回ることに基づいて、気象状態が霧を含む第2の指標の識別を行うことができる。例えば、差分が大きい場合、このレーザーデータは、晴れた日に見られると予想されるデータに一致しない。従って、このような比較は、霧が存在する別の指標を示すことができる。
【0152】
さらなる例では、方法800が、環境内の1又はそれ以上の物体に関連しないレーザーデータ点の形状を判定するステップをさらに含むことができる。霧は独特な形状を有することができ、一般的な霧によって生成された点群の形状及び範囲を作成して記憶し、後で受信レーザーデータと比較することができる。レーザーデータが、記憶された霧の形状に対応する場合には、さらなる霧の指標とすることができる。
【0153】
いくつかの例では、方法800を用いて、車両を自律モードで動作するように構成することができ、車両が走行する路面が濡れている指標を利用して、車両の運転判断を決定することができる。車両は、様々な気象状態又は道路条件によって異なる形で制御することが望ましいと思われ、従って霧が存在する時には、「霧」の運転技術(例えば、ブレーキのために車間を広くとること、速度を落とすことなど)に従って車両を動作させることができる。車両は、気象状態によっては同じように動作しないことがあり、従っていくつかの例では、車両が、霧の指標に基づいて、自律モードを無効にすることによって車両の動作を開始するようにドライバーに警告することなどにより、手動モードに移行する要求を示す命令を与えることができる。
【0154】
道路の気象状態及び/又は路面状態は、運転判断を行うことに加え、又はその代わりに、ドライバーに送るべき警告をトリガすることもできる。この警告は、車両の制御を行うようにドライバーに求めることも、或いは単純にドライバーに状態を知らせることもできる。警告は、聴覚信号、視覚信号、触覚又は触知信号、及び/又はドライバーの注意を引く他のいずれかの信号とすることができる。この例では、ドライバーへの警告後に、車両が、ハンドルを切ること、ブレーキを掛けること、加速すること、及び緊急遮断装置をオンにすることなどの入力をドライバーから受け取ることができる。
【0155】
いくつかの例では、車両が存在する環境の気象状態が霧を含むと判断するために、或いは霧が存在する(例えば、関連しないレーザーデータ点が、追跡物体と空気中の水粒子との対比に起因する)高い確率又は確実性をもたらすために、(レーザーデータ点が追跡物体に関連しないことに加え)さらなるデータを考慮することもできる。
【0156】
図9は、本明細書で説明する少なくともいくつかの実施形態による、車載センサを用いて濡れた路面を含む気象状態のさらなる指標を判定する方法例のブロック図である。図9に示す方法900は、例えば図1及び図2を参照しながらそれぞれ図示し説明したような車両100及び/又は車両200(又は、車両100又は車両200のコンポーネント)と共に使用できる、図8に示す方法800に加えて実行できる方法の実施形態を示す。方法900は、プロセス内の特定の論理関数又はステップを実行するようにプロセッサによって実行可能な1又はそれ以上の命令(例えば、機械可読コード)を含むモジュール、セグメント又はプログラムコードの一部を表すことができる。
【0157】
ブロック902に示すように、方法900は、レーザーデータがRADARデータと一致するかどうかを判定するステップを含むことができる。例えば、自律走行車両は、車両の環境についてのレーダーデータを収集することができ、RADARデータは、車両の環境内における物体の存在を示す。一般に、レーダーは、空気中に存在する水粒子又は雲の組成についてのデータを戻さないが、レーダーデータは、雲を通して物体を識別することができる。上述したように、レーザーデータは、物体を追跡するためにも使用され、RADARデータによって示される物体の存在がLIDARデータによって示される物体の存在と一致しない時には、LIDARデータを誤っていると見なすことができる。RADARデータによって示されず、LIDARデータによって示されたいずれかのさらなる物体は、霧による水粒子又は他の戻ってきたレーザーデータの指標とすることができる。このような例では、LIDARデータに起因する物体が特定の距離に確認され、何らかの閾値期間にわたって検出されるが、RADARに起因する一致する物体が存在しない時には、車道に霧が出ている指標とすることができる。
【0158】
いくつかの例では、RADARデータでは確認できず、LIDARデータによって追跡されたあらゆる物体を、気象状態によるものとして分類することができる。方法900に示すように、RADARデータとLIDARデータが一致しないことに基づいて、方法900は、ブロック904において、レーザーデータの偽戻り(false return)を判定するステップを含む。ブロック906において、上述したように、偽戻りの数が閾値を上回っているかどうかを判定することができる。例えば、偽の又は誤った反射レーザーデータなどの偽戻りが少ない場合には、さらなる対策を取らなくてもよく、又は(ブロック914に示すように)レーザーデータを再処理することができる。しかしながら、偽戻りの数が閾値を上回る場合、方法900は、ブロック908に示すように、車両の環境の気象状態が霧を含む指標を識別するステップを含む。
【0159】
さらなる例では、RADARによって示される物体の周囲に円形を形成する、RADARによって示される物体に関連しないレーザーデータ点を霧に起因するものと判断することができる。いくつかの例では、霧の深さを推定することもできる。例えば、レーザーデータ点(例えば、霧)に関連しない環境内の物体と、レーダーデータによって示される(また場合によってはレーザーデータ点にも関連する)環境内の所与の物体との間の距離を判定し、この距離に基づいて霧の深さを推定することができる。2つのセンサ(LIDAR及びRADAR)を用いて、特定の範囲における物体の存在を検出することができ、霧が検出された場所と、物体が存在する場所との間の距離によって霧の視程又は濃度を測定することができる。濃度は、例えば5km未満の視程のように視程の距離と言うことができ、距離は、霧が検出された場所と物体が存在する場所との間で測定した距離とすることができる。さらなる例では、霧の濃度の特定が、いくつかの関連性のないレーザーデータ点に基づくことができる。濃霧又は深い霧が存在する事例では、関連性のないレーザーデータ点が多数存在することがある。
【0160】
方法900は、レーザーデータがカメラデータと一致するかどうかを判定するステップを含むブロック910に進むことができる。例えば、自律走行車両はカメラを含むことができ、車両の環境について収集された画像データを受け取ることができる。霧は、画像で見ることができ、従って物体検出技術を用いて、例えば物体検出サーバに画像を提供し、画像内の物体を示す応答を受け取ることによって画像を処理することができる。
【0161】
図10Aは、環境の気象状態が霧を含む指標を識別する概念図例である。図10Aでは、車両1002の周囲範囲のデータを収集するセンサを含む車両1002が、路面上を走行している。これらのセンサは、環境内の範囲からの反射レーザービームを受け取ることができるLIDARユニット、及び環境の画像を収集するように構成できるカメラを含むことができる。車両1002の前方には、別の車両1004が走行していると考えられる。カメラは、範囲1006の画像を取り込むことができる。
【0162】
図10Bは、図10Aの車両1002によって取り込まれた画像の概念図例である。この画像は、車両の後部の一部が霧に覆われており、又は隠されていることを示している。画像を処理すると、画像データ内のいくつかの画素は、色が実質的に灰色であることが分かる。画素の色が実質的に灰色であるパーセンテージに基づいて、霧のかかった気象状態の第2の指標とすることができる。図10Bでは、画像の約40~45%が霧によって隠れており、従って閾値を満たすことができる。さらに低いパーセンテージを使用することもできる。一方で、霧を含む可能性がさらに高い画像には、約40%又はそれ以上のパーセンテージを使用することもできる。
【0163】
いくつかの例では、画像データを処理して画像内の物体を識別することができ、カメラによって示される物体が、LIDARデータによって示される物体と一致しない時には、やはり霧が存在する指標とすることができる。例えば、図10Bの画像は、座標x1~xnを覆う範囲内に存在する物体を示すことができるのに対し、レーザーデータは、座標x2~xnを覆う範囲内に存在する物体しか示すことができない。従って、カメラデータはレーザーデータと一致せず、このような不一致を、霧が存在する指標として使用することができる。
【0164】
再び図9を参照すると、カメラデータとレーザーデータの不一致に基づいて、ブロック908に示すように、霧を含む車両の環境の指標とすることができる。
【0165】
方法900は、レーザーデータが気象データと一致するかどうかを判定するステップを含むブロック912に進むことができる。例えば、ネットワークを介してサーバから車両の位置の気象情報を受け取ることができ、この気象情報が霧の可能性又は霧のかかった状態を示す場合、霧が存在する第2の指標とすることができる。これとは別に、又はこれに加えて、降水センサ又は「雨検出器」などの車載センサから気象データを受け取ることもでき、LIDARデータが、降水量の存在を示す降水センサと組み合わせて偽戻りを示す場合には、霧が存在する第2の指標とすることができる。降水センサの出力のみに依拠して、大気が霧を生じるのに十分な量の湿気を含むかどうか判定することは不可能な場合もあり、従ってセンサ出力は二次的評価として使用することができる。
【0166】
さらなる例では、車載センサ又はサーバとの通信から温度又は露点などのさらなる気象データを求めることができ、これらの温度又は露点に基づいて、車両の環境の気象状態が霧を含む第2の指標とすることができる。例えば、温度と露点の差分が摂氏2.5度又は華氏4度未満の時には霧が生じることがある。通常、霧は、100%に近い相対湿度で発生するが、さらに低い湿度で生じることもあり、時には100%の相対湿度で生じないこともある。100%の相対湿度の解釈としては、空気がさらなる湿気を保持できず、さらなる湿気が加わった場合には空気が過飽和になることを意味する。霧は、温度が露点のいずれの側に存在するかによって突然生じることも、同じように急速に消失することもある。
【0167】
いくつかの例では、方法900を実行して、車両の環境が霧を含むさらなる指標を提供することができる。方法900は、任意に図8の方法800に加えて実行することができる。例えば、(例えば、水滴、空気中の湿気、又は一般に霧によって生じる)関連性のないレーザー点は、レーザーで検出された車両に対して関連性がないことも、又は場合によってはレーダーで検出された車両に対して関連性がないこともあり、従って他のセンサデータ、気象情報などを相互参照することにより、霧を識別する根拠を確認することができる。図9で説明した機能のあらゆる組み合わせを図3と組み合わせて、霧が存在するという信頼レベルを改善することもできる。
【0168】
さらに、上述したセンサデータに加えて、車両上の他のセンサからの入力を用いて気象状態のさらなる判断を行うこともできる。例えば、これらのセンサは、タイヤ空気圧センサ、エンジン温センサ、ブレーキ熱センサ、ブレーキパッド状態センサ、タイヤトレッドセンサ、燃料センサ、オイルレベル及び品質センサ、(空気中の温度、湿度又は粒子を検出する)大気質センサなどを含むことができる。
【0169】
さらに、車両上のセンサの多くは、リアルタイムで処理されるデータを提供し、すなわちセンサは、継続的に出力を更新して、ある時点又は時間範囲にわたって継続的に又は要求通りに検知された環境を反映することができる。
【0170】
図11A図11Bは、車両の環境が霧を含む指標を識別する概念的側面図例を含む。図11Aでは、車両1102が路面上を走行しており、車両1102の前方を別の車両1104が走行している。車両1102は、(例えば、図11Aに矢印で示す)車両1102の前方範囲について収集されたレーザーデータを受け取るように構成されたLIDARユニット1106を含むことができ、レーザーデータは、車両1104が車両1102から距離d1に存在することを示すことができる。図11Bに示すように、車両1104は霧の中を走行していると考えられる。レーザー光線が霧の中の水によって反射された場合、LIDARユニット1106によってこの水を検出することができ、この時点で、レーザーデータは、霧によって車両1104が車両1102から距離d2に存在する旨を示すことができる。しかしながら、他のセンサ(例えば、RADAR)は水を検出しないことがあり、或いはLIDARユニット1108がある期間にわたって常に水を追跡しないこともあるので、この水は、車両1102の追跡システムによって追跡される物体にならないこともある。追跡物体に一致しないレーザーデータが受け取られると、この関連性のないレーザーデータを、空気中の水分の指標及び霧が存在する指標と見なすことができる。
【0171】
レーザーデータは、霧によって生じることがある予め定められた又は記憶された形状点群と比較することができる。一例として、レーダーデータによって示すように追跡物体のほぼ周囲に存在し、(記憶されている点群と比較した時に)霧の半径を有する実質的に円形の物体を表すレーザーデータ点を、記憶されている点群と比較することによって処理し、霧のさらなる検証を行うことができる。追跡物体のほぼ周囲の物体を表すレーダーデータによって示される、環境内の物体とは無関係な全てのレーザーデータ点は、霧を示すことができる。この点に関し、車両1102は、車両1104の後部の1又は複数のランダムデータ点群を検出することができ、空気中の水が動く結果、群内のデータ点の位置及び数は常に変化することができる。従って、霧からのデータ点群は、明確な構造を有していないことがあるのに対し、車両の後端部など固体物体の一部は、クリアな路面を定めるデータ点に関連する。他の車両の背後でも、同様のデータ点群を観察することができる。このような観察は、霧が存在することを示すことができる。
【0172】
他の例では、図12は、本明細書で説明する少なくともいくつかの実施形態による、車載センサを用いて霧を含む気象状態を検出する方法例のブロック図である。図12に示す方法1200は、例えば図1及び図2を参照しながらそれぞれ図示し説明したような車両100及び/又は車両200と共に、或いは車両100又は車両200のコンポーネントと共に使用できる方法の実施形態を示す。例えば、本明細書で説明する処理は、コンピュータシステム112、センサフュージョンアルゴリズム138及び/又はコンピュータビジョンシステム140と通信する自律走行車両(例えば、車両200)に取り付けられたRADARユニット126、LIDARユニット128又はカメラ130によって実行することができる。方法1200は、ブロック1202~1206のうちの1つ又はそれ以上によって示すような1又はそれ以上の動作、機能又は行動を含むことができる。ブロックは順番に示しているが、場合によってはこれらのブロックを並行して、及び/又は本明細書で説明する順序とは異なる順序で実行することもできる。また、様々なブロックは、所望の実装に基づいて少ないブロックに組み合わせ、さらなるブロックに分割し、及び/又は削除することもできる。
【0173】
図12の方法1200などの方法例は、車両及びそのサブシステムによって全体的又は部分的に実行することができる。従って、本明細書では、一例として方法例を車両に実装されるものとして説明することができる。
【0174】
ブロック1202において、方法1200は、車両の環境について収集されたレーザーデータを受け取るステップを含む。このレーザーデータは、反射光又は後方反射光に起因して物理的に存在するとされる環境内の物体に基づく複数のレーザーデータ点を含む。車両、或いはコンピュータ装置又はプロセッサなどの車両のコンポーネントは、収集されたレーザーデータを受け取るように構成することができる。
【0175】
ブロック1204において、方法1200は、コンピュータ装置により、複数のレーザーデータ点のうちのレーザーデータ点を環境内の1又はそれ以上の物体に関連付けるステップを含む。一例として、追跡システムを用いて物体を追跡し、追跡物体に関連するレーザーデータ点を判定することができる。環境内の反射した特徴に起因して受け取られたレーザーデータは、環境内に物理的に存在する(例えば、レーザーを反射させる)物体に起因するものであると見なすことができる。コンピュータ装置は、レーザーデータによって確認されるこのような物体の関連する位置を記憶し、レーザーデータと物体の関連性を記憶するように構成することができる。
【0176】
他の例では、環境内の物体に対応する点群を生成することができる。点群内の各点は、方位角(例えば、LIDARの回転傾斜ミラーの配向によって判定された点に対応するパルスを放出しているLIDAR装置の配向)及び見通し(LOS)距離(例えば、パルス放出と反射光受光の間の時間遅延によって示される距離)によって参照することができる。反射信号として戻ってこないパルスについては、任意に点マップ内の距離をLIDAR装置の最大距離感度に設定することができる。この最大距離感度は、関連する光センサが各パルス放出後に戻ってくる反射信号を待つ最大時間遅延に従って求めることができ、この最大時間遅延自体は、周囲照明条件、放出パルスの強度、環境特徴の予測反射率などを考慮した、特定の距離における反射信号の予想信号強度に従って設定することができる。いくつかの例では、この最大距離を、約60メートル、80メートル、100メートル又は150メートルとすることができるが、LIDAR装置及び関連する光センサの特定の構成では他の例も可能である。
【0177】
いくつかの実施形態では、図1に示すセンサフュージョンアルゴリズム138、コンピュータビジョンシステム140、及び/又はコンピュータシステム112を、収集されたレーザーデータを単独で、及び/又はさらなるセンサ指示情報及び/又はメモリに基づくパターン一致点群及び/又は基本環境マップと組み合わせて解釈して、一群の点を環境内の物体に対応するものとして分類又は識別するように構成することができる。
【0178】
さらに、各空間点を一連のレーザーのうちのそれぞれのレーザー及びそれぞれのタイムスタンプに関連付けることもできる。すなわち、LIDARが複数のレーザーを含む実施形態では、各それぞれの受け取られた空間点を、それぞれの受け取られた空間点に従って検出された特定のレーザーに関連付けることができる。また、各それぞれの空間点を、それぞれのタイムスタンプ(例えば、レーザーの放出又は受光時点)に関連付けることもできる。このようにして、受け取られた空間点を、空間(レーザー識別)的に及び/又は時間(タイムスタンプ)的に体系化し、識別し、又は別様に整理することができる。このような整理は、空間点データを有意義な順序に体系化することにより、空間点データの分析を支援又は改善することができる。
【0179】
いくつかの例では、LIDAR装置の例に関連して物体検出が行われる。LIDAR装置は、1又はそれ以上のレーザーを用いてレーザー点群画像を取り込むように構成することができる。レーザー点群は、LIDAR装置から放出された各パルスを表す多くの点を含み、反射信号は、実際の反射物体の位置を示すことができ、反射信号の受け取りがないことは、レーザーの見通し線に沿った特定の距離内に十分な反射性の物体が存在しないことを示す。レーザーのパルスレート、シーンのリフレッシュレート、各LIDAR装置によってサンプリングされる全立体角(又は、1つのLIDAR装置しか使用しない場合にはシーンの全立体角のみ)を含む因子に応じて、各点群内のサンプル点の数を判定することができる。いくつかの実施形態では、点群が、50,000個ほどのレーザー指示点、80,000個ほどのレーザー指示点、100,000個ほどのレーザー指示点などを含むことができる。一般に、各点群内のレーザー指示点の数は、一方での角度分解能と、他方でのリフレッシュレートとの間のトレードオフである。LIDAR装置は、自律走行車両のリアルタイムナビゲーション決定に関連するほどの十分な高リフレッシュレートで角度分解能を提供するように駆動される。従って、LIDAR装置は、100ミリ秒(10フレーム/秒のリフレッシュレートを実現する)、33ミリ秒(30フレーム/秒のリフレッシュレートを実現する)、1ミリ秒、1秒などの所定の時間間隔で走査範囲の1又はそれ以上のレーザー点群を取り込むように構成することができる。
【0180】
図1を参照すると、車両100のコンピュータシステム112のデータストレージ114は、物体検出器ソフトウェア、コード又はその他のプログラム命令を記憶することができる。このような物体検出器ソフトウェアは、センサフュージョンアルゴリズム138、コンピュータビジョンシステム140及び/又は障害物回避システム144を含む上述した制御システム106の1つ又はそれ以上を含むことができ、又はこれらの一部とすることができる。物体検出器は、LIDAR128によって取り込まれたレーザー点群に基づいて、及び/又はセンサシステム104内のセンサのうちの1つ又はそれ以上に基づいて物体を分類及び/又は識別することによって環境シーン内の特徴を認識するように構成されたソフトウェア及び/又はハードウェアのいずれかの構成とすることができる。LIDAR128を介してレーザー点群が取り込まれると、取り込まれた点群を示すデータが物体検出器に通信され、この物体検出器がデータを分析して、レーザー点群内に物体が存在するかどうかを判定する。点群によって示される物体は、例えば、車両、歩行者、道路標識、交通信号、トラフィックコーンなどとすることができる。
【0181】
物体検出器ソフトウェア及び/又はモジュールは、レーザー点群画像内に物体が存在するかどうかを判定するために、レーザー指示点の配列を、パターン一致物、環境特徴及び/又は物体又は特徴のカテゴリに関連付けることができる。物体検出器は、車両100を取り巻く環境内の物理的物体/特徴に対応する1又はそれ以上のパラメータに従って配列を関連付けるように予め組み込んでおく(又は動的に命令する)ことができる。例えば、典型的な歩行者の身長、典型的な自動車の長さ、疑わしい物体を分類するための信頼性閾値などを示す情報を、予め物体検出器に取り込んでおくことができる。
【0182】
物体検出器は、点群内の物体を識別すると、その物体を含む境界ボックスを定めることができる。例えば、この境界ボックスは、点群が示す物体の予測される外面に対応することができる。当然ながら、境界「ボックス」は、一般に物体の予測される外部境界を定める多辺閉鎖形状の形を取ることができる。
【0183】
取り込まれた点群毎に、認識された物体の位置及びその対応する境界定義をフレーム番号又はフレーム時間に関連付ける。従って、連続シーン走査においてほぼ同様の場所に現れる同様の形状の物体を互いに関連付けて、物体を時間的に追跡することができる。複数の点群フレーム(例えば、走査範囲の完全な走査)に現れる認識された物体については、物体が現れるフレーム毎に、認識された物体の寸法範囲を定める異なる境界形状に関連付けることができる。
【0184】
認識された物体は、車両100が周囲環境を走行する時に、及び/又は物体がLIDAR装置128の走査範囲を通過するように車両に対して動いた時に追跡することができる。2又はそれ以上の連続して取り込まれた点群を組み合わせることにより、検出された物体の並進情報を求めることができる。車両100と共に車道に沿って移動する車などの物体の加速及び/又は速度を観察して、その後の走査時における物体の位置を予測することなどにより、特徴のある動きプロファイルを有する物体の将来的な位置予測を行うことができる。いくつかの実施形態では、空気中を移動する物体は、重力の影響を受ける軌道に沿って移動すると想定される。
【0185】
車両100は、物体認識の実行を支援するために、(例えば、無線通信システム146を介して)物体識別サーバと通信することもできる。物体識別サーバは、車両100が物体検出器を用いて検出した物体を確認及び/又は分類することができる。さらに、物体識別サーバは、取り込んだレーザー点群内の物体を検出するために物体検出器が使用するパラメータの1つ又はそれ以上の最適化を、他の同様のシステムからの蓄積データ、局所条件に基づいて促すことができる。1つの実施形態では、車両100が、認識された物体が正しい識別の統計的尤度評価によって示されるように正しく識別されることを確認するために、物体境界及びその対応する物体パラメータを物体識別サーバに通信することができる。
【0186】
再び図12を参照すると、ブロック1206において、方法1200は、複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連しない所与のレーザーデータ点が、車両に対する所与の位置の未追跡物体を表すと判定するステップを含む。
【0187】
いくつかの例では、物体を表すと見なされるレーザーデータについて、これらのレーザーデータを環境内の物体に関連付けることができ、残りの受け取られた又は収集されたレーザーデータは、環境内の物体に関連せず、従って未追跡物体を表すと考えることができる。
【0188】
いくつかの例では、方法1200を実行して、存在すると予想された物体がレーザーによって検出されなかった事例、又は想定外の物体が検出された(すなわち、太陽のためにレーザー計測が失われ又は変化した)事例を求めることができる。上述したように、受け取られた反射レーザーデータについて、レーザーを反射させる物体が存在すると判定することができる。しかしながら、晴れた状態では、太陽が反射を引き起こす結果、物体の判定を誤ることがある。偽のレーザー放出の反射を引き起こす、又はこれを生成する日光と、環境内に存在する実際の物体との対比にレーザーデータがいつ基づくかを判定するために、レーザーデータを、物体を表すことが分かっているレーザーデータ、及び/又は日光の反射に起因するものであることが分かっているレーザーデータと比較するようにコンピュータ装置を構成することができる。従って、受け取ったレーザーデータと、物体を表すことが分かっているレーザーデータのパターンとを比較して、物体以外の何かに起因する可能性のあるレーザーデータを識別することができる。
【0189】
あらゆる数のレーザーデータのパターンを記憶し、関連性のないレーザーデータと比較するためにこのパターンを参照して、関連性のないレーザーデータを、物体を表すもの、又は気象状態に起因するものとして分類することができる。
【0190】
物体に起因するレーザーデータと、他の気象状態に起因するレーザーデータとを区別する別の例として、コンピュータ装置を、レーザーデータによって表される物体の動きを追跡するように構成することができる。従って、動いている物体を表す全てのレーザーデータを追跡することができ、不自然に動いているように見える物体、又は短時間にわたって現れては消える物体を、気象状態によって引き起こされたレーザーデータの反射に起因する偽物体と見なすことができる。
【0191】
いくつかの例では、方法1200が、環境内の1又はそれ以上の物体に関連しない、従って未追跡物体を表すレーザーデータ点を判定するステップを含むことができる。LIDARを、第1の環境走査を行って、複数のレーザーデータ点のうちのレーザーデータ点を環境内の1又はそれ以上の物体に関連付けるように構成することができる。その後、LIDARを、第2の環境走査を行って、レーザーデータ点によって表される物体の位置に基づき、1又はそれ以上の物体に一致するレーザーデータ点を判定するように構成することができる。その後、第1の走査における1又はそれ以上の物体との一致が存在しないことに基づいて、環境内の1又はそれ以上の物体に関連しない第2の走査のレーザーデータ点を判定することができる。さらなる例では、第2の走査データと比較するための物体追跡がしばらく行われるように、第2の走査が、第1の走査後の又は何回かの走査後の環境走査を表すことができる。
【0192】
ブロック1208において、方法1200は、車両が動いた時に、未追跡物体が車両に対して実質的に同じ相対的位置に留まることを判定するステップを含む。1つの例では、未追跡物体の座標位置を一定期間にわたって求めることができ、車両までの距離、及び車両に対する角度を求めることができる。車両が移動すると、車両に対して同じ距離に留まっている物体も移動すると考えられる。さらに、車両が移動すると、車両に対して同じ角度に留まっている物体も移動すると考えられる。しかしながら、物体の角度が45°又はそれ以上の時には、この物体が日光の反射に起因するものであると考えることができる。他の例では、車両と実質的に同様に動くと見なされる物体は、日光に起因するものであり、晴れた気象状態中には実質的に一定のままであると判定することができる。
【0193】
ブロック1210において、方法1200は、コンピュータ装置により、車両の環境の気象状態が晴れである指標を識別するステップを含む。例えば、LIDAR装置は、レーザーを用いてターゲットを照明した後に反射を分析し、反射性ターゲットからの日光の反射がLIDAR装置を飽和させ、或いは無効の又は精度の低い測定値を生成することがある。光学的に反射性のある特徴を検出して位置を特定するLIDAR装置には、直射日光に起因するレーザーアーチファクトが生じることがある。日光は、レーザー波長と重なり合うことができ、LIDAR装置は日光を受け取り、この日光を、アーチファクトを生じる戻りレーザーとして解釈することができる。従って、あらゆる未追跡の受信レーザーデータ(例えば、追跡物体に一致しないレーザーデータ)について、車両の環境の気象状態が晴れである指標を判定することができる。
【0194】
これに加えて(又はこれとは別に)、ブロック1206において、方法1200は、環境内の1又はそれ以上の物体に関連しないレーザーデータ点の数が所定の閾値を超えていると判定し、コンピュータ装置により、車両の環境の気象状態が晴れである指標を識別するステップを含むことができる。例えば、物体に関連しないレーザーデータ点がわずかである場合には、(例えば、疑似反射レーザーなどの)あらゆる数の要因が考えられるが、特定の閾値数のレーザーデータ点については、これらが受け取られた日光に起因するものであるという高い可能性が存在し得る。
【0195】
いくつかの例では、方法1200を実行して、存在すると予想された物体がレーザーによって検出されなかった事例、又は想定外のさらなる物体がレーザーによって検出された(すなわち、太陽のためにレーザー計測が失われ又は変化した)事例を求めることができる。ある例では、車両の1又は複数のレーザーが動くにつれて、車両は、複数の方向からの及び/又は異なる時点における、同じ位置(点又は範囲)の範囲情報及び強度情報を含むデータ点を収集することができる。例えば、各データ点は、レーザーによって光が受け取られた物体の反射率を示す強度値と、位置情報とを含むことができる。高反射性の路面は、低反射性の路面よりも高い強度値に関連することができる。同様に、より多くの光を吸収する暗い物体(黒、濃紺色、茶色など)は、より多くの光を反射できる明るい色の物体(白色、クリーム、銀など)よりも低い強度値に関連することができる。この点に関し、日光は、より明るい環境を示すことができ、従って、認識された物体の強度値を増加させることができる。
【0196】
いくつかの例では、レーザーデータ点の強度値を、例えば暗い0~明るい250に基準化することができる。従って、高反射性の明るい路面は、250に近い強度値に関連することができ、低反射性の暗い路面は、0に近い強度値に関連することができる。レーザー走査データを受け取って処理し、地理的位置座標を生成することができる。これらの地理的位置座標は、高さ成分(z)を有するGPSの緯度及び経度座標(x、y)を含むことができ、或いは他の座標システムに関連することができる。この処理の結果、1組のデータ点が得られる。この組の各データ点は、レーザーによって光が受け取られた物体の反射率を示す強度値と、位置情報:(x、y、z)とを含むことができる。
【0197】
環境のレーザーデータ点の平均強度を閾値と比較して、霧の指標をさらに識別することができる。例えば、上述したように、霧のかかった環境は、晴れた環境の平均強度値よりも若干低い平均強度値を含むレーザーデータを有することができる。調べたレーザーデータ点の何パーセントかが特定の閾値よりも高い強度値を有する場合、気象状態が晴れであると判断することができる。例えば、上述した0~250の基準を用いて、車道内に1000個のレーザーデータ点が存在し、これらの1000個の点のうちの少なくとも850個(すなわち、これらのレーザーデータ点の少なくとも85%)が、閾値である200よりも高い強度を有する場合、この環境は明るいと考えることができる。上述したように、より高い強度値は、晴れている高い確率を示すことができる。例えば、他の閾値及びパーセンテージを使用することもできる。明るい又は暗い環境を表すレーザーデータを記憶し、例えば比較を目的としてこれにアクセスすることができる。
【0198】
さらなる例では、方法1200が、車両の位置を判定し、この車両の位置の環境についてレーザーデータの予測値の分布を求め、求めた分布を、この車両の環境の収集したレーザーデータと比較するステップを含むことができる。例えば車両の位置に基づいて、晴れた状態の場所についてのレーザーデータの予測値の分布をデータストレージから取り出し、又はサーバから受け取ることができる。乾いた状態及び晴れた状態の両方について、場所毎のレーザーデータの強度のマップを生成して記憶することができる。求めた分布と、車両の環境の収集したレーザーデータとの間の比較が閾値を上回ることに基づいて、気象状態が晴れである第2の指標の識別を行うことができる。例えば、差分が大きい場合、このレーザーデータは、見られると予想されるデータに一致しない。
【0199】
いくつかの例では、方法1200を用いて、車両を自律モードで動作するように構成することができ、車両の環境が晴れである指標を利用して、車両の運転判断を決定することができる。車両は、様々な気象状態又は道路条件によって異なる形で制御することが望ましいと思われ、従って晴れの時には、「太陽」の運転技術(例えば、ブレーキのために車間を広くとること、速度を落とすことなど)に従って車両を動作させることができる。車両は、気象状態によっては同じように動作しないことがあり、或いはドライバーが、異なる気象状態において異なる形で操作を行うこともあり、従っていくつかの例では、車両が、晴れている指標に基づいて、自律モードを無効にすることによって車両の動作を開始するようにドライバーに警告することなどにより、手動モードに移行する要求を示す命令を与えることができる。
【0200】
気象状態は、運転判断を行うことに加え、又はその代わりに、ドライバーに送るべき警告をトリガすることもできる。この警告は、車両の制御を行うようにドライバーに求めることも、或いは単純にドライバーに状態を知らせることもできる。警告は、聴覚信号、視覚信号、触覚又は触知信号、及び/又はドライバーの注意を引く他のいずれかの信号とすることができる。この例では、ドライバーへの警告後に、車両が、ハンドルを切ること、ブレーキを掛けること、加速すること、及び緊急遮断装置をオンにすることなどの入力をドライバーから受け取ることができる。
【0201】
気象状態は、運転判断を行うことに加え、又はその代わりに、車両のセンサの設定変更を引き起こすこともできる。例えば、車両の環境の気象状態が晴れである指標に基づいてカメラの露出設定を変更することができ、或いはLIDARユニットの設定を低露出時間に変更することができる。識別に基づいて、バイザー又は日よけを配置することなどのさらなる対策を取ることもできる。
【0202】
他の例では、方法1200を用いて、車両を自律モードで動作するように構成することができ、方法1200の機能は、車両の環境の気象状態が晴れである指標をトリガする可能性がある、環境内の誤って識別された物体を判定するのに役立つことができる。
【0203】
図13は、本明細書で説明する少なくともいくつかの実施形態による、環境内の誤って識別された物体を判定する方法例のブロック図である。図13に示す方法1300は、例えば図1及び図2を参照しながらそれぞれ図示し説明したような車両100及び/又は車両200(又は、車両100又は車両200のコンポーネント)と共に使用できる、図12に示す方法1200に加えて実行できる方法の実施形態を示す。方法1300は、プロセス内の特定の論理関数又はステップを実行するようにプロセッサによって実行可能な1又はそれ以上の命令(例えば、機械可読コード)を含むモジュール、セグメント又はプログラムコードの一部を表すことができる。
【0204】
ブロック1302において、方法1300は、図12の方法1200で説明した機能に類似することができる、車両の環境について収集されたレーザーデータを受け取るステップを含む。
【0205】
ブロック1304において、方法1300は、コンピュータ装置により、複数のレーザーデータ点のうちの、車両が動いた時に車両に対して実質的に同じ所与の位置に留まっている物体を表すレーザーデータ点を判定するステップを含む。例えば、このレーザーデータは時間と共に受け取ることができ、コンピュータ装置は、レーザーデータの座標位置を受け取り、この座標位置を比較して、レーザーデータによって表される物体が、車両が動いた時に車両に対して同じ相対的位置に留まっているかどうかなどの情報を求めることができる。一般に、この現象は、例えば、レーザーデータ点が自律走行車の前方の車又はその他の物体を表し、この車と自律走行車が各々同じ速度を保っている時に生じることがある。しかしながら、他の例では、この現象が、レーザーデータ点が太陽点(sun spot)を表し、又は太陽に基づく反射に起因する時に生じることがある。
【0206】
ブロック1306において、方法1300は、レーザーデータ点が一定期間にわたって持続していると判断するステップを含む。方法1300は、環境内の1又はそれ以上の物体に関連しないレーザーデータ点が一定期間にわたって持続しているかどうかを判断するステップを含むことができる。自律走行車の前方の車などの、車両に対する位置を時間と共に変化させる環境内の物体に関連するレーザーデータ点については、有効と考えることができる。
【0207】
いくつかの例では、一定期間にわたって持続しており、車が動いた時にこの車に対して実質的に同じ位置に留まっているレーザーデータ点について、方法1300は、ブロック1308において、コンピュータ装置により、この所与のレーザーデータ点が環境内の偽物体を表すものであると識別するステップを含むことができる。
【0208】
いくつかの例では、環境内の偽物体を表すレーザーデータ点が、LIDARユニットによって送られるリターン信号に比べて強度の強い又は高い反射信号である車両からの太陽フレアが受け取られ、LIDARユニットが、自身が放出したビームの最も強いリターン反射を処理のために探している時などの、LIDARユニットの露光過多エラーに起因することがある。赤外光は、通常の日光スペクトルの一部であり、日中が明るければ明るいほど多くの赤外光が散乱され、LIDARユニットはこれを受け取り、環境内に物理的に存在する物体として解釈することがある。
【0209】
従って、レーザーデータ点が、車両が動いた時にこの車両に対して同じ位置に留まり、一定期間にわたって持続し、追跡物体に関連しない物体を表す場合、このレーザーデータ点を、偽物体を表す不良レーザーデータとして識別することができる。
【0210】
ブロック1310において、方法1300は、環境内の偽物体を表すレーザーデータ点が閾値を上回っているかどうかを判定するステップを含む。方法1300は、環境内の偽物体を表すレーザーデータ点が閾値を下回っていることに基づいて、ブロック1312において、任意にレーザーデータを再処理するステップを含む。
【0211】
一方、方法1300は、環境内の偽物体を表すレーザーデータ点が閾値を上回っていることに基づいて、ブロック1314において、コンピュータ装置により、車両の環境の気象状態が晴れである第2の指標を識別するステップを含む。例えば、多くの偽レーザーデータが存在する場合、これらのデータを、偽レーザーデータの受け取りを引き起こす、環境が晴れている別の指標とすることができる。
【0212】
さらなる例では、方法1300が、ブロック1304で説明したような、レーザーデータによって表される物体の位置を判定するステップと、物体が所定の位置又はその位置内に存在することに基づいて、車両の環境が晴れであると識別するステップとを含むこともできる。例えば、レーザーデータが、車両の5~20フィート上方の45°の角度などの、車両に対して特定の高さ又は特定の角度に漂う物体又は障害物を表し、時間と共に収集されたレーザーデータによってこのような物体が表され続ける場合、コンピュータ装置は、このレーザーデータは実際の物体又は障害物を表していないと判断することができる。むしろ、このレーザーデータは、疑似観察、又は車両に対して固定位置に存在する太陽から受け取られた戻りレーザーに起因すると考えられる。従って、レーザーデータが予想していない範囲内の物体を表すことに基づいて、このデータを、環境が晴れていると識別する際に考慮すべき追加要素とすることができる。
【0213】
さらなる例では、自律走行車又は他の車両を用いて時刻及び(例えば、GPSを使用して)地理的位置を求め、この情報を用いて太陽の近似位置を求めることができる。車両に対する太陽の位置に基づいて、所定の範囲内の物体を表すレーザーデータを、太陽からの反射又は光線に起因するものであると識別することができる。例えば、車両に対して45°の角度を成す物体などの、実質的に太陽の近似位置の方向の物体を表すレーザーデータは、偽物体であると判断することができる。
【0214】
いくつかの例では、車両が存在する環境の気象状態が晴れであると判定するために、又は晴れである(例えば、関連しないレーザーデータ点が、太陽光線又は太陽反射と追跡物体との対比に起因する)という高い確率又は確信をもたらすために、(レーザーデータ点が、レーザーデータ内の追跡物体に関連しないことに加え)さらなるデータを考慮することもできる。
【0215】
図14は、本明細書で説明する少なくともいくつかの実施形態による、車載センサを用いて気象状態が晴れである指標を判定する方法例のブロック図である。図14に示す方法1400は、例えば図1及び図2を参照しながらそれぞれ図示し説明したような車両100及び/又は車両200(又は、車両100又は車両200のコンポーネント)と共に使用できる方法の実施形態を示す。方法1400は、プロセス内の特定の論理関数又はステップを実行するようにプロセッサによって実行可能な1又はそれ以上の命令(例えば、機械可読コード)を含むモジュール、セグメント又はプログラムコードの一部を表すことができる。
【0216】
ブロック1402に示すように、方法1400は、レーザーデータがRADARデータと一致するかどうかを判定するステップを含むことができる。例えば、自律走行車両は、車両の環境についてのレーダーデータを収集することができ、RADARデータは、車両の環境内における物体の存在を示す。レーダーは、太陽に起因する反射についてはデータを戻さないが、レーダーデータは、晴れた状態の物体を識別することができる。上述したように、レーザーデータは、物体を追跡するためにも使用され、RADARデータによって示される物体の存在がLIDARデータによって示される物体の存在と一致しない時には、LIDARデータを誤っていると見なすことができる。RADARデータによって示されず、LIDARデータによって示されたいずれかのさらなる物体は、太陽反射による太陽点又は他の戻ってきたレーザーデータの指標とすることができる。このような例では、LIDARデータに起因する物体が特定の距離に確認され、何らかの閾値期間にわたって検出されるが、RADARに起因する一致する物体が存在しない時には、環境が晴れである指標とすることができる。
【0217】
いくつかの例では、RADARデータでは確認できず、LIDARデータによって追跡されたあらゆる物体を、気象状態によるものとして分類することができる。方法1400に示すように、RADARデータとLIDARデータが一致しないことに基づいて、方法1400は、ブロック1404に示すように、車両の環境の気象状態が晴れである指標を識別するステップを含む。
【0218】
方法1400は、レーザーデータがカメラデータと一致するかどうかを判定するステップを含むブロック1410に進むことができる。例えば、自律走行車両はカメラを含むことができ、車両の環境について収集された画像データを受け取ることができる。晴れた環境、太陽光線、太陽点、太陽又はその他の要素は、画像内に存在し又は目で見ることができ、従って物体検出技術を用いて、例えば物体検出サーバに画像を提供し、画像内の物体を示す応答を受け取ることによって画像を処理することができる。
【0219】
図15Aは、カメラ画像に基づいて環境の気象状態が晴れである指標を識別する概念図例である。図15Aでは、車両1502の周囲範囲のデータを収集するセンサを含む車両1502が、路面上を走行している。これらのセンサは、環境内の範囲からの反射レーザービームを受け取ることができるLIDARユニット、及び環境の画像を収集するように構成できるカメラを含むことができる。車両1502の前方には、別の車両1504が走行していると考えられる。カメラは、範囲1506の画像を取り込むことができる。
【0220】
図15Bは、図15Aの車両1502によって取り込まれた画像の概念図例である。この画像は、車両の後部の一部が太陽光線に覆われており、又は隠されていることを示している。画像を処理して、画像データ内のいくつかの画素は、他の画素よりも実質的に色が明るいと判定し、又は太陽光線によって隠れているいくつかの画素が、閾値に比べて実質的に色が明るいと判定することができる。所定の色を実質的に上回る画素のパーセンテージに基づいて、晴れた気象状態の第2の指標とすることができる。図15Bでは、画像の約50~55%が太陽光線を含み、従って閾値を満たすことができる。さらに低いパーセンテージを使用することもできる。
【0221】
従って、再び図14を参照すると、カメラデータがLIDARデータに一致する(例えば、両データが晴れた状態の判定を有する)ことに基づいて、環境が晴れている第2の指標とすることができる。
【0222】
他の例では、画像データを処理して画像内の物体を識別することができ、カメラによって示される物体が、LIDARデータによって示される物体と一致しない時には、やはり晴れている指標とすることができる。例えば、図15Bの画像は、画像内の目に見えるアーチファクト又はかすみを引き起こす、カメラ内で散乱した光を含むカメラのレンズフレアに起因する太陽点1508を含むと考えられる。このような太陽点1508は、LIDARデータによって検出又は表現することができず、従ってカメラデータはレーザーデータと一致しない。このような不一致は、晴れた環境の指標として使用することができる。
【0223】
再び図14を参照すると、方法1400は、レーザーデータが気象データと一致するかどうかを判定するステップを含むブロック1408に進むことができる。例えば、ネットワークを介してサーバから車両の位置の気象情報を受け取ることができ、この気象情報が高温、少ない雲又は晴れた状態を示す場合、環境が晴れている第2の指標とすることができる。これとは別に、又はこれに加えて、降水センサ又は「雨検出器」、光検出器、又はその他の検知システムなどの車載センサから気象データを受け取ることもでき、LIDARデータが、日光の存在を示す気象センサからの出力と組み合わせて偽戻りを示す場合には、環境が晴れている第2の指標とすることができる。
【0224】
いくつかの例では、方法1400を実行して、車両の環境が晴れているさらなる指標を提供することができる。方法1400は、任意に図12の方法1200及び図13の方法1300に加えて実行することができる。例えば、(例えば太陽光線によって生じる)関連性のないレーザー点は、レーザーで検出された車両に対して関連性がないことも、又は場合によってはレーダーで検出された車両に対して関連性がないこともあり、従って他のセンサデータ、気象情報などを相互参照することにより、環境が晴れていることを識別する根拠を確認することができる。図14で説明した機能のあらゆる組み合わせを図12及び/又は図13の機能と組み合わせて、環境が晴れているという信頼レベルを改善することもできる。
【0225】
さらに、上述したセンサデータに加えて、車両上の他のセンサからの入力を用いて気象状態のさらなる判断を行うこともできる。例えば、これらのセンサは、タイヤ空気圧センサ、エンジン温センサ、ブレーキ熱センサ、ブレーキパッド状態センサ、タイヤトレッドセンサ、燃料センサ、オイルレベル及び品質センサ、(空気中の温度、湿度又は粒子を検出する)大気質センサなどを含むことができる。
【0226】
さらに、車両上のセンサの多くは、リアルタイムで処理されるデータを提供し、すなわちセンサは、継続的に出力を更新して、ある時点又は時間範囲にわたって継続的に又は要求通りに検知された環境を反映することができる。
【0227】
図16は、車両の環境が晴れている指標を識別する概念的側面図例を含む。図16では、車両1602が路面上を走行しており、車両1602の前方を別の車両1604が走行している。車両1602は、(例えば、図16に矢印で示す)車両1602の前方範囲について収集されたレーザーデータを受け取るように構成されたLIDARユニット1606を含むことができ、レーザーデータは、車両1604が車両1602から距離d1に存在することを示すことができる。この環境は、図16に示すように晴れとすることができ、LIDARユニット1606は、太陽に起因する反射を受け取ることができる。このような反射は、図16に示す物体1608などの、環境内の偽物体を表すことがある。しかしながら、他のセンサ(例えば、RADAR)は物体1608を検出しないことがあり、或いはLIDARユニット1608がある期間にわたって常に物体1608を追跡しないこともあるので、この物体1608は、車両1602の追跡システムによって追跡される物体にならないこともある。追跡物体に一致しないレーザーデータが受け取られると、この関連性のないレーザーデータを、車両の環境が晴れている指標をもたらす太陽反射に起因するものと見なすことができる。
【0228】
収集されたレーザーデータの位置は、太陽反射による物体を表すことができる予め定められた又は記憶された位置と比較することができる。一例として、レーダーデータによって示すように追跡物体のほぼ上方に存在し、(記憶されている点群と比較した時に)実質的に円形の物体を表すレーザーデータ点を、記憶されている点群と比較することによって処理し、太陽反射に起因する物体のさらなる検証を行うことができる。この点に関し、車両1602は、車両1604の周囲の1又は複数のランダムデータ点群を検出することができ、群内のデータ点の位置及び数は常に変化することができる。従って、太陽反射に起因するデータ点群は、明確な構造を有していないことがあるのに対し、車両の後端部など固体物体の一部は、クリアな路面を定めるデータ点に関連する。他の車両の背後でも、同様のデータ点群を観察することができる。このような観察は、環境が晴れていることを示すことができる。
【0229】
さらなる例では、図17は、本明細書で説明する少なくともいくつかの実施形態による、車載センサを用いて気象状態を検出する方法例のブロック図である。図17に示す方法1700は、例えば図1及び図2を参照しながらそれぞれ図示し説明したような車両100及び/又は車両200と共に、或いは車両100又は車両200のコンポーネントと共に使用できる方法の実施形態を示す。方法1700は、個別に、又は本明細書で説明したいずれかの方法と組み合わせて実装できる一般的方法とすることができる。
【0230】
ブロック1702において、方法1700は、車両の環境について収集されたレーザーデータを受け取るステップを含む。このレーザーデータは、反射光又は後方反射光に起因して物理的に存在するとされる環境内の物体に基づく複数のレーザーデータ点を含む。車両、或いはコンピュータ装置又はプロセッサなどの車両のコンポーネントは、収集されたレーザーデータを受け取るように構成することができる。
【0231】
ブロック1704において、方法1700は、コンピュータ装置により、複数のレーザーデータ点のうちのレーザーデータ点を環境内の1又はそれ以上の物体に関連付けるステップを含む。一例として、追跡システムを用いて物体を追跡し、追跡物体に関連するレーザーデータ点を判定することができる。
【0232】
ブロック1706において、方法1700は、複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連しない所与のレーザーデータ点が未追跡物体を表すと判定するステップを含む。いくつかの例では、物体を表すと見なされるレーザーデータについて、これらのレーザーデータを環境内の物体に関連付けることができ、残りの受け取られた又は収集されたレーザーデータは、環境内の物体に関連しないと考えることができる。
【0233】
いくつかの例では、方法1700を実行して、存在すると予想された物体がレーザーによって検出されなかった事例、又は想定外の物体が検出された(すなわち、霧のためにレーザー計測が失われ又は変化した)事例を求めることができる。上述したように、受け取られた反射レーザーデータについて、レーザーを反射させる物体が存在すると判定することができる。しかしながら、霧のかかった状態などの特定の気象状態では、霧が反射を引き起こす結果、物体の判定を誤ることがある。レーザー放出の反射を引き起こす気象に関する条件と環境内に存在する実際の物体との対比にレーザーデータがいつ基づくかを判定するために、レーザーデータを、物体を表すことが分かっているレーザーデータ、及び/又は気象に関する反射に起因するものであることが分かっているレーザーデータと比較するようにコンピュータ装置を構成することができる。従って、受け取ったレーザーデータと、物体を表すことが分かっているレーザーデータのパターンとを比較して、物体以外の何かに起因する可能性のあるレーザーデータを識別することができる。
【0234】
あらゆる数のレーザーデータのパターンを記憶し、関連性のないレーザーデータと比較するためにこのパターンを参照して、関連性のないレーザーデータを、物体を表すもの、又は霧などの気象状態に起因するものとして分類することができる。
【0235】
物体に起因するレーザーデータと、他の条件(例えば、霧)に起因するレーザーデータとを区別する別の例として、コンピュータ装置を、レーザーデータによって表される物体の動きを追跡するように構成することができる。従って、動いている物体を表す全てのレーザーデータを追跡することができ、不自然に動いているように見える物体、又は短時間にわたって現れては消える物体を、気象状態によって引き起こされたレーザーデータの反射に起因する偽物体と見なすことができる。
【0236】
いくつかの例では、車両の走行時に時間と共に環境の走査を行うことにより、車両の環境について収集されたレーザーデータを収集することができる。車両が環境内を移動する際に、受け取ったレーザーデータに起因して存在すると判定された物体に基づいて、環境内の物体を追跡することができる。その後、追跡物体に一致しないレーザーデータを受け取ることができる。
【0237】
1つの例では、レーザーデータが、空気中の水の存在、又は霧に典型的な曇天条件に関連する場合があり、このような水滴又は雲は、車両の追跡システムによって追跡されないアイテムである。例えば、光学的に反射した特徴を検出して位置を特定するLIDAR装置にとって、空気中の水滴又は空気中の雲の特徴は、粒子状物質から光パルスが反射されるという理由で物体群に類似する。LIDAR装置は、霧を貫通できないことがあり、従って霧の存在時には、霧のために多くのレーザー点が戻ってくることがある。従って、あらゆる未追跡の受信レーザーデータ(例えば、追跡物体に一致しないレーザーデータ)について、未追跡物体を判定することができる。
【0238】
いくつかの例では、方法1700が、環境内の1又はそれ以上の物体に関連しないレーザーデータ点を判定するステップを含むことができる。LIDARを、第1の環境走査を行って、複数のレーザーデータ点のうちのレーザーデータ点を環境内の1又はそれ以上の物体に関連付けるように構成することができる。その後、LIDARを、第2の環境走査を行って、レーザーデータ点によって表される物体の位置に基づき、1又はそれ以上の物体に一致するレーザーデータ点を判定するように構成することができる。その後、第1の走査における1又はそれ以上の物体との一致が存在しないことに基づいて、環境内の1又はそれ以上の物体に関連しない第2の走査のレーザーデータ点を判定することができる。さらなる例では、第2の走査データと比較するための物体追跡がしばらく行われるように、第2の走査が、第1の走査後の又は何回かの走査後の環境走査を表すことができる。
【0239】
ブロック1708において、方法1700は、1又はそれ以上の未追跡物体が判定されたことに基づいて、コンピュータ装置により、環境の気象状態の指標を識別するステップを含む。いくつかの例では、この識別が、いくつかの未追跡物体が存在するとの判定に基づくことができる。
【0240】
これに加えて(又はこれとは別に)、ブロック1706において、方法1700は、環境内の1又はそれ以上の物体に関連しないレーザーデータ点の数が所定の閾値を超えていると判定し、コンピュータ装置により、気象状態の指標を識別するステップを含むことができる。例えば、物体に関連しないレーザーデータ点がわずかである場合には、あらゆる数の要因が考えられるが、特定の閾値数のレーザーデータ点については、放出されたレーザービームが水によって反射されたもの、日光によるもの、霧によるもの、又は他の何らかの気象状態によるものであるという高い可能性が存在する。
【0241】
方法1700は、特定の気象状態を判定するステップをさらに含むことができる。一例として、この方法は、晴れた気象状態を判定するために、車両が動いた時に、未追跡物体が車両に対して実質的に同じ相対的位置に留まることを判定するステップを含む。1つの例では、未追跡物体の座標位置を一定期間にわたって求めることができ、車両までの距離、及び車両に対する角度を求めることができる。車両が移動すると、車両に対して同じ距離に留まっている物体も移動すると考えられる。さらに、車両が移動すると、車両に対して同じ角度に留まっている物体も移動すると考えられる。しかしながら、物体の角度が45°又はそれ以上の時には、この物体が日光の反射に起因するものであると考えることができる。他の例では、車両と実質的に同様に動くと見なされる物体は、日光に起因するものであり、晴れた気象状態中には実質的に一定のままであると判定することができる。
【0242】
いくつかの例では、方法1700を用いて、車両を自律モードで動作するように構成することができ、気象状態の指標を利用して、車両の運転判断を決定することができる。車両は、様々な気象状態又は道路条件によって異なる形で制御することが望ましいと思われ、従って道路が濡れている時には、「濡れた路面」の運転技術(例えば、ブレーキのために車間を広くとること、速度を落とすことなど)に従って車両を動作させることができる。車両は、気象状態によっては同じ様に動作しないことがあり、従っていくつかの例では、車両が、自律モードを無効にすることによって車両の動作を開始するようにドライバーに警告することなどにより、手動モードに移行する要求を示す命令を与えることができる。
【0243】
道路の気象状態及び/又は路面状態は、運転判断を行うことに加え、又はその代わりに、ドライバーに送るべき警告をトリガすることもできる。この警告は、車両の制御を行うようにドライバーに求めることも、或いは単純にドライバーに状態を知らせることもできる。警告は、聴覚信号、視覚信号、触覚又は触知信号、及び/又はドライバーの注意を引く他のいずれかの信号とすることができる。この例では、ドライバーへの警告後に、車両が、ハンドルを切ること、ブレーキを掛けること、加速すること、及び緊急遮断装置をオンにすることなどの入力をドライバーから受け取ることができる。
【0244】
さらなる例では、道路がどれほど濡れているか、天候がどれほど霧が出ているか、又は空がどれほど晴れているかの判断を、関連性のないレーザーデータ点がどれほど存在するかに基づいて行うことができる。道路が非常に濡れている例では、数多くの関連性のないレーザーデータ点が存在することができる。車両の動作モードは、道路の濡れ具合にさらに基づくことができ、湿った道路などでは自律モードを採用することができ、道路が非常に濡れていると認められる場合、車両は手動操作モードに移行し、又はその要求を行うことができる。
【0245】
気象状態は、運転判断を行うことに加え、又はその代わりに、車両のセンサの設定変更を引き起こすこともできる。例えば、車両の環境の気象状態が晴れである指標に基づいてカメラの露出設定を変更することができ、或いはLIDARユニットの設定を低露出時間に変更することができる。識別に基づいて、バイザー又は日よけを配置することなどのさらなる対策を取ることもできる。
【0246】
いくつかの例では、気象状態のさらなる指標、又は(例えば、関連しないレーザーデータ点が水に起因する)特定の気象状態の高い確率又は確信をもたらすために、(レーザーデータ点が追跡物体に関連しないことに加え)さらなるデータを考慮することもできる。
【0247】
図18は、本明細書で説明する少なくともいくつかの実施形態による、車載センサを用いて気象状態のさらなる指標を判定する方法例のブロック図である。
【0248】
ブロック1802に示すように、方法1800は、レーザーデータがRADARデータと一致するかどうか判定するステップを含むことができ、一致しない場合、方法1800は、ブロック1804において気象状態の指標を識別するステップを含む。例えば、自律走行車両は、車両の環境についてのレーダーデータを収集することができ、RADARデータは、車両の環境内における物体の存在を示す。レーダーは、跳ね上げられた水、又は霧、又は日光のデータを戻さないが、レーダーデータは、自律走行車両の前方の車を識別する。上述したように、レーザーデータは、物体を追跡するためにも使用され、RADARデータによって示される物体の存在がLIDARデータによって示される物体の存在と一致しない時には、LIDARデータを誤っていると見なすことができる。RADARデータによって示されず、LIDARデータによって示されたいずれかのさらなる物体は、特定の気象状態の指標とすることができ、この特定の気象状態を判定するために、方法400のさらなる処理を実行することができる。
【0249】
いくつかの例では、RADARデータでは確認できず、LIDARデータによって追跡されたあらゆる物体を、気象状態によるものとして分類することができる。方法1800に示すように、RADARデータとLIDARデータが一致しないことに基づいて、気象状態の指標とすることができる。方法1800は、偽一致の数が閾値を上回るかどうかを判定するステップをさらに含むことができる。例えば、偽の又は誤った反射レーザーデータなどの偽戻りが少ない場合には、さらなる対策を取らなくてもよく、又は(ブロック1814に示すように)レーザーデータを再処理することができる。一方、偽戻りの数が閾値を上回る場合、方法は、気象状態を識別するステップを含むことができる。
【0250】
さらなる例では、RADARによって示される物体の周囲に円形を形成する、RADARによって示される物体に関連しないレーザーデータ点を霧に起因するものと判断することができる。いくつかの例では、霧の深さを推定することもできる。例えば、レーザーデータ点(例えば、霧)に関連しない環境内の物体と、レーダーデータによって示される(また場合によってはレーザーデータ点にも関連する)環境内の所与の物体との間の距離を判定し、この距離に基づいて霧の深さを推定することができる。2つのセンサ(LIDAR及びRADAR)を用いて、特定の範囲における物体の存在を検出することができ、霧が検出された場所と、物体が存在する場所との間の距離によって霧の視程又は濃度を測定することができる。濃度は、例えば5km未満の視程のように視程の距離と言うことができ、距離は、霧が検出された場所と物体が存在する場所との間で測定した距離とすることができる。さらなる例では、霧の濃度の特定が、いくつかの関連性のないレーザーデータ点に基づくことができる。濃霧又は深い霧が存在する事例では、関連性のないレーザーデータ点が多数存在することがある。
【0251】
方法1800は、レーザーデータがカメラデータと一致するかどうかを判定するステップを含むブロック1810に進むことができる。例えば、自律走行車両はカメラを含むことができ、車両の環境について収集された画像データを受け取ることができる。大雨の際には、車道上に水が溜まり、これを画像で見ることができる。また、画像で雨を識別することも可能である。画像は、物体検出技術を用いて、例えば物体検出サーバに画像を提供し、画像内の物体を示す応答を受け取ることによって処理することができる。従って、いくつかの例では、画像データを処理して濡れた路面を識別することができ、カメラによって示される物体がLIDARデータによって示される物体と一致しない時には、車両が走行する路面が濡れている指標とすることができる。
【0252】
さらなる例では、画像データを処理して、車両の環境内の物体の反射を含む画像データの量を判定することができる。例えば、雨が降っている時には、ブレーキ灯及び道路上の他の物体が画像内に反射をもたらす。例えば、特徴点の動作軌道を分析し、互いに移動する2つの異なる層を含む領域として反射をモデル化することなどにより、あらゆる数の技術を用いて画像内の反射を検出することができる。車両の環境内の1又はそれ以上の物体の反射を示す画像データの量が閾値を上回ることに基づいて、車両が走行する路面が濡れている第2の指標とすることができる。霧などの他の気象状態については、霧は画像で見ることができ、従って物体検出技術を用いて、例えば物体検出サーバに画像を提供し、画像内の物体を示す応答を受け取ることによって画像を処理することができる。
【0253】
方法1800は、レーザーデータが他のセンサデータと一致するかどうかを判定するステップを含むブロック1808に進むことができる。例えば、自律走行車両は、降水センサ又は「雨検出器」を有することができ、LIDARデータが、降水量の存在を示す降水センサと組み合わせて濡れた路面を示す場合、車両が走行する路面が濡れている、又は天候が雨である第2の指標とすることができる。路面は、雨が止んだ後しばらくの間濡れた状態を保つことがあり、或いは雨が降っていない時にも水溜まり又はその他の水の蓄積によって濡れていることがあり得るので、降水センサの出力のみに依拠して路面が濡れているかどうかを判定することは不可能な場合もある。
【0254】
さらなる例では、様々なセンサによって提供されるデータを処理することが、以前に取得され環境内で存続すると予想される環境情報を処理することを含むことができる。例えば、データベースを通じて、異なる一続きの車道の予想輝度又はレーザー強度データ値を記述するデータを含むことができる詳細マップ情報(例えば、車道の形状及び高さ、交差点、横断歩道、速度制限、交通信号、建物、標識、リアルタイム交通情報、又はその他のこのような物体及び情報を識別する非常に詳細なマップ)を提供し、又はこの情報にアクセスすることができる。レーザーデータが予想輝度又はレーザー強度データ値と一致しない時には、濡れた路面の指標を判定することができる。
【0255】
方法1800は、レーザーデータが気象データと一致するかどうかを判定するステップを含むブロック1810に進むことができる。例えば、ネットワークを介してサーバから車両の位置の気象情報を受け取ることができ、この気象情報が、雨が降っていること又は最近雨が降ったことを示す場合、気象情報に基づいて、車道が濡れている第2の指標とすることができる。気象情報が、高温、少ない雲又は晴れた状態を示す場合には、環境が晴れている第2の指標とすることができる。気象情報が霧の可能性又は霧のかかった状態を示す場合、霧が存在する第2の指標とすることができる。さらなる例では、車載センサ又はサーバとの通信から温度又は露点などのさらなる気象データを求めることができ、これらの温度又は露点に基づいて、車両の環境の気象状態が霧を含む第2の指標とすることができる。例えば、温度と露点の差分が摂氏2.5度又は華氏4度未満の時には霧が生じることがある。通常、霧は、100%に近い相対湿度で発生するが、さらに低い湿度で生じることもあり、時には100%の相対湿度で生じないこともある。100%の相対湿度の解釈としては、空気がさらなる湿気を保持できず、さらなる湿気が加わった場合には空気が過飽和になることを意味する。霧は、温度が露点のいずれの側に存在するかによって突然生じることも、同じように急速に消失することもある。
【0256】
方法1800は、レーザーデータを再処理して、識別された物体を追跡システムによって識別された物体と比較しようと試みるステップを含むブロック1812に進むことができる。方法1800は、例えば、道路上の他の車によって特定された情報へのアクセスに基づいて、気象状態の判定を確認するステップをさらに含むことができる。
【0257】
本明細書で説明した構成は例示を目的とするものにすぎないと理解されたい。従って、当業者であれば、代わりに他の構成及び他の要素(例えば、機械、インターフェイス、順序及び機能のグループ化など)を使用することができ、所望の結果に応じていくつかの要素を完全に省くこともできると認識するであろう。さらに、説明した要素の多くは、離散又は分散コンポーネントとして、又はあらゆる好適な組み合わせ及び位置で他のコンポーネントと共に実装できる機能エンティティであり、或いは独立構造として説明した他の構造要素を組み合わせることもできる。
【0258】
本明細書では、様々な態様及び実施形態を開示したが、当業者には、他の態様及び実施形態が明らかになるであろう。本明細書で開示した様々な態様及び実施形態は、限定を意図するものではなく例示を目的とするものであり、その真の範囲は、以下の特許請求の範囲に加え、このような特許請求の範囲が権利を有する同等物の完全な範囲によっても示される。また、本明細書における用語は、特定の実施形態を説明する目的で使用したものにすぎず、限定を意図するものではないと理解されたい。
【符号の説明】
【0259】
300:方法
302:車両の環境について収集されたレーザデータを受け取り
304:複数のレーザーデータ点のうちの、環境内の1又はそれ以上の物体に関連するレーザーデータ点を特定
306:環境内の1又はそれ以上の物体に関連しないレーザーデータ点に基づいて、コンピュータ装置により、車両が走行する路面が濡れている指標を識別
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11A
図11B
図12
図13
図14
図15
図16
図17
図18