特許第6020568号(P6020568)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日産自動車株式会社の特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6020568
(24)【登録日】2016年10月14日
(45)【発行日】2016年11月2日
(54)【発明の名称】立体物検出装置および立体物検出方法
(51)【国際特許分類】
   H04N 7/18 20060101AFI20161020BHJP
   B60R 21/00 20060101ALI20161020BHJP
   G08G 1/16 20060101ALI20161020BHJP
【FI】
   H04N7/18 J
   B60R21/00 621C
   G08G1/16 C
【請求項の数】13
【全頁数】42
(21)【出願番号】特願2014-527012(P2014-527012)
(86)(22)【出願日】2013年7月25日
(86)【国際出願番号】JP2013070225
(87)【国際公開番号】WO2014017603
(87)【国際公開日】20140130
【審査請求日】2014年10月31日
(31)【優先権主張番号】特願2012-166513(P2012-166513)
(32)【優先日】2012年7月27日
(33)【優先権主張国】JP
(73)【特許権者】
【識別番号】000003997
【氏名又は名称】日産自動車株式会社
(74)【代理人】
【識別番号】110000486
【氏名又は名称】とこしえ特許業務法人
(72)【発明者】
【氏名】早川 泰久
(72)【発明者】
【氏名】深田 修
【審査官】 佐野 潤一
(56)【参考文献】
【文献】 特開平05−151495(JP,A)
【文献】 特開2012−003662(JP,A)
【文献】 特開2004−341812(JP,A)
【文献】 特開2008−282067(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
B60R 21/00
G08G 1/16
(57)【特許請求の範囲】
【請求項1】
車両に搭載され、自車両後方の映像を結像させるレンズを備えた撮像手段と、
前記撮像手段により得られた撮像画像に基づいて、自車両後方の立体物を検出し、検出した前記立体物の移動速度を第1移動速度として算出する立体物検出手段と、
前記撮像手段により得られた前記撮像画像に基づいて、自車両後方に存在する光源を検出する光源検出手段と、
前記光源検出手段に検出された前記光源の時間変化に基づいて、前記立体物の移動速度を第2移動速度として算出する第2移動速度算出手段と、
前記第1移動速度と前記第2移動速度とに基づいて、前記レンズにおける異物の付着を考慮した前記立体物の相対移動速度を推定移動速度として算出する推定移動速度算出手段と、
前記推定移動速度算出手段により算出された前記推定移動速度に基づいて、前記立体物の検出後に前記立体物が移動した相対移動距離を検知判定距離として算出する検知判定距離算出手段と、
前記立体物が検出された第1タイミングにおいて、前記立体物の検出を促進し、前記第1タイミングの後、前記検知判定距離の絶対値が所定の基準距離以上となる第2タイミングで、促進させた前記立体物の検出を抑制する制御手段と、を備えることを特徴とする立体物検出装置。
【請求項2】
請求項1に記載の立体物検出装置であって、
前記立体物検出手段は、
前記撮像手段により得られた前記撮像画像を鳥瞰視画像に視点変換する画像変換手段を有し、
前記画像変換手段により得られた異なる時刻の鳥瞰視画像の位置を鳥瞰視上で位置合わせし、当該位置合わせされた鳥瞰視画像の差分画像上で所定の差分を示す画素数をカウントして度数分布化することで差分波形情報を生成し、該差分波形情報に基づいて、前記立体物を検出するとともに、前記差分波形情報の波形の時間変化に基づいて、前記第1移動速度を算出することを特徴とする立体物検出装置。
【請求項3】
請求項2に記載の立体物検出装置であって、
前記立体物検出手段は、前記差分画像上で所定の第1閾値以上の差分を示す画素数をカウントして度数分布化することで前記差分波形情報を生成し、前記差分波形情報が所定の第2閾値以上である場合に、前記差分波形情報に基づいて前記立体物を検出し、
前記制御手段は、前記第1タイミングにおいて、前記第1閾値または前記第2閾値を低い値に変更することで、前記立体物を検出することを促進し、前記第2タイミングで、前記第1閾値または前記第2閾値を前記第1タイミングで変更された値よりも高い値に変更することで、促進させた前記立体物の検出を抑制することを特徴とする立体物検出装置。
【請求項4】
請求項2に記載の立体物検出装置であって、
前記立体物検出手段は、前記差分画像上で所定の第1閾値以上の差分を示す画素数をカウントして度数分布化することで前記差分波形情報を生成し、前記差分波形情報が所定の第2閾値以上である場合に、前記差分波形情報に基づいて前記立体物を検出し、
前記制御手段は、前記第1タイミングにおいて、前記差分画像の画素値を高くし、または、前記立体物検出手段に、前記差分画像上で前記第1閾値以上の差分を示す画素数をカウントして度数分布化した差分値を高く出力させることで、前記立体物を検出することを促進し、前記第2タイミングで、前記差分画像の画素値を低くし、または、前記立体物検出手段に、前記1タイミングで変更した前記差分値の出力を低くさせることで、促進させた前記立体物の検出を抑制することを特徴とする立体物検出装置。
【請求項5】
請求項1に記載の立体物検出装置であって、
前記立体物検出手段は、
前記撮像手段により得られた前記撮像画像を鳥瞰視画像に視点変換する画像変換手段を有し、
前記画像変換手段により得られた前記鳥瞰視画像からエッジ情報を検出し、該エッジ情報に基づいて、前記立体物を検出するとともに、前記エッジ情報の時間変化に基づいて、前記第1移動速度を算出することを特徴とする立体物検出装置。
【請求項6】
請求項5に記載の立体物検出装置であって、
前記立体物検出手段は、前記鳥瞰視画像から、隣接する画素領域の輝度差が所定の第1閾値以上であるエッジ成分を検出し、該エッジ成分に基づく前記エッジ情報が所定の第2閾値以上である場合に、前記エッジ情報に基づいて前記立体物を検出し、
前記制御手段は、前記第1タイミングにおいて、前記第1閾値または前記第2閾値を低い値に変更することで、前記立体物を検出することを促進し、前記第2タイミングで、前記第1閾値または前記第2閾値を前記第1タイミングで変更された値よりも高い値に変更することで、促進させた前記立体物の検出を抑制することを特徴とする立体物検出装置。
【請求項7】
請求項に記載の立体物検出装置であって、
前記立体物検出手段は、前記鳥瞰視画像から、隣接する画素領域の輝度差が所定の第1閾値以上であるエッジ成分を検出し、該エッジ成分に基づく前記エッジ情報が所定の第2閾値以上である場合に、前記エッジ情報に基づいて前記立体物を検出し、
前記制御手段は、前記第1タイミングにおいて、前記画素領域の輝度値を高くし、または、前記立体物検出手段に、前記エッジ情報を高い値で出力させることで、前記立体物を検出することを促進し、前記第2タイミングで、前記画素領域の輝度値を低くし、または、前記立体物検出手段に、前記1タイミングで変更した前記エッジ情報を低い値で出力させることで、促進させた前記立体物の検出を抑制することを特徴とする立体物検出装置。
【請求項8】
請求項1〜7のいずれかに記載の立体物検出装置であって、
前記撮像画像に基づいて、前記レンズに付着している異物を検出する異物検出手段をさらに備え、
前記推定移動速度算出手段は、前記レンズに付着した異物の量に基づいて、前記第1移動速度および前記第2移動速度のそれぞれに重み付けを行い、重み付けした前記第1移動速度と前記第2移動速度との加重平均値を、前記推定移動速度として算出することを特徴とする立体物検出装置。
【請求項9】
請求項8に記載の立体物検出装置であって、
前記推定移動速度算出手段は、前記レンズに付着した異物の量が多いほど、前記第1移動速度の重み付けを相対的に小さくし、前記第2移動速度の重み付けを相対的に大きくすることを特徴とする立体物検出装置。
【請求項10】
請求項8または9に記載の立体物検出装置であって、
前記第1移動速度または前記第2移動速度に基づいて、自車両が他車両に追い抜かれているか否かを判断する判断手段をさらに備え、
前記推定移動速度算出手段は、前記判断手段により自車両が他車両に追い抜かれている場合には、自車両が他車両を追い抜いている場合と比べて、前記第1移動速度の重み付けを相対的に小さくし、前記第2移動速度の重み付けを相対的に大きくすることを特徴とする立体物検出装置。
【請求項11】
請求項1〜10のいずれかに記載の立体物検出装置であって、
夜間であるか否かを判定する夜間判定手段をさらに備え、
前記制御手段は、前記夜間判定手段により夜間であると判定された場合のみに、前記第1タイミングにおいて、前記立体物を検出することを促進し、前記第2タイミングで、促進させた前記立体物の検出を抑制することを特徴とする立体物検出装置。
【請求項12】
自車両後方を撮像した撮像画像を鳥瞰視画像に視点変換し、異なる時刻の前記鳥瞰視画像の位置を鳥瞰視上で位置合わせし、当該位置合わせされた鳥瞰視画像の差分画像上で所定の差分を示す画素数をカウントして度数分布化することで差分波形情報を生成し、該差分波形情報に基づいて立体物を検出するとともに、前記差分波形情報の波形の時間変化から前記立体物の移動速度を第1移動速度として算出し、前記立体物の第1移動速度に基づいて前記立体物が他車両であるか否かを判断する立体物検出方法であって、
前記撮像画像に基づいて自車両後方に存在する光源を検出し、該光源の時間変化に基づいて前記立体物の移動速度を第2移動速度として算出し、前記第1移動速度と前記第2移動速度とに基づいて、レンズにおける異物の付着を考慮した前記立体物の相対移動速度を推定移動速度として算出し、前記推定移動速度に基づいて前記立体物の検出後に前記立体物が移動した相対移動距離を検知判定距離として算出することで、前記立体物が検出された第1タイミングにおいて、前記差分波形情報に基づいて前記立体物を検出すること、または、前記立体物を前記他車両と判断することを促進し、前記第1タイミングの後、前記検知判定距離の絶対値が所定の基準距離以上となる第2タイミングで、促進させた前記立体物の検出または前記立体物を前記他車両と判断することを抑制することを特徴とする立体物検出方法。
【請求項13】
自車両後方を撮像した撮像画像を鳥瞰視画像に視点変換し、前記鳥瞰視画像からエッジ情報を検出し、該エッジ情報に基づいて立体物を検出するとともに、前記エッジ情報に基づいて前記立体物が他車両であるか否かを判断する立体物検出方法であって、
前記エッジ情報の時間変化から前記立体物の移動速度を第1移動速度として算出し、前記撮像画像に基づいて自車両後方に存在する光源を検出し、該光源の時間変化に基づいて、前記立体物の移動速度を第2移動速度として算出し、前記第1移動速度と前記第2移動速度とに基づいて、レンズにおける異物の付着を考慮した前記立体物の相対移動速度を推定移動速度として算出し、前記推定移動速度に基づいて、前記立体物の検出後に前記立体物が移動した相対移動距離を検知判定距離として算出することで、前記立体物が検出された第1タイミングにおいて、前記エッジ情報に基づいて前記立体物を検出すること、または、前記立体物を前記他車両と判断することを促進し、前記第1タイミングの後、前記検知判定距離の絶対値が所定の基準距離以上となる第2タイミングで、促進させた前記立体物の検出または前記立体物を前記他車両と判断することを抑制することを特徴とする立体物検出方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、立体物検出装置および立体物検出方法に関するものである。
本出願は、2012年7月27日に出願された日本国特許出願の特願2012―166513に基づく優先権を主張するものであり、文献の参照による組み込みが認められる指定国については、上記の出願に記載された内容を参照により本出願に組み込み、本出願の記載の一部とする。
【背景技術】
【0002】
従来より、異なる時刻に撮像された2枚の撮像画像を鳥瞰視画像に変換し、変換した2枚の鳥瞰視画像の差分に基づいて、立体物を検出する技術が知られている(特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2008−227646号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
カメラで撮像した撮像画像に基づいて、所定の検出領域内に存在する立体物を隣接車両として検出する際に、カメラのレンズに雨滴などの異物が付着している場合には、雨滴などの異物により隣接車両の像が歪んだり、ぼやけてしまい、隣接車両を検出領域内で一度検出できた場合でも、隣接車両が検出領域内に存在している間に、隣接車両を継続して検知することが困難な場合があった。
【0005】
本発明が解決しようとする課題は、カメラのレンズに雨滴などの異物が付着している場合でも、隣接車両を適切に検出できる立体物検出装置を提供することである。
【課題を解決するための手段】
【0006】
本発明は、撮像画像に基づいて、立体物を検出し、検出した立体物の移動速度を第1移動速度として算出するとともに、自車両後方に存在する光源の時間変化から立体物の移動速度を第2移動速度として算出し、第1移動速度および第2移動速度に基づいて、レンズにおける異物の付着を考慮した立体物の相対移動速度を推定移動速度として算出し、推定移動速度に基づいて立体物の検出後に立体物が移動した相対移動距離を検知判定距離として算出する。そして、立体物が検出された第1タイミングにおいて、立体物を検出することを促進するとともに、第1タイミングの後、検知判定距離が所定の基準距離以上となる第2タイミングで、促進させた前記立体物の検出を抑制することで、上記課題を解決する。
【発明の効果】
【0007】
本発明によれば、立体物が検出された第1タイミングで、立体物または他車両の検出が促進され、検知判定距離が所定の基準距離以上となり、立体物(他車両)が検出領域に存在しないと判断できる第2タイミングで、立体物または他車両の検出が抑制されるため、レンズに雨滴などの異物が付着している場合でも、立体物(他車両)が検出領域内に存在している間、立体物を継続して検知することが可能となる。
【図面の簡単な説明】
【0008】
図1】立体物検出装置を搭載した車両の概略構成図である。
図2図1の車両の走行状態を示す平面図である。
図3】計算機の詳細を示すブロック図である。
図4】位置合わせ部の処理の概要を説明するための図であり、(a)は車両の移動状態を示す平面図、(b)は位置合わせの概要を示す画像である。
図5】立体物検出部による差分波形の生成の様子を示す概略図である。
図6】差分波形および立体物を検出するための閾値αの一例を示す図である。
図7】立体物検出部によって分割される小領域を示す図である。
図8】立体物検出部により得られるヒストグラムの一例を示す図である。
図9】立体物検出部による重み付けを示す図である。
図10】立体物検出部により得られるヒストグラムの他の例を示す図である。
図11】カメラのレンズに雨滴が付着している場合において撮像される撮像画像の一例を示す図である。
図12】(A)は、検出領域内に隣接車両が存在しているが、該検出領域に対応する位置に雨滴が付着していない場面で生成された差分波形の一例を示す図であり、(B)は、検出領域内に隣接車両が存在していないが、該検出領域に対応する位置に雨滴が付着している場面で生成された差分波形の一例を示す図であり、(C)は、検出領域内に隣接車両が存在しており、かつ、該検出領域に対応する位置に雨滴が付着している場面で生成された差分波形の一例を示す図である。
図13】(A)は、レンズに異物が付着していない場合の差分車速およびレンズに異物が付着している場合の差分車速の一例を示す図あり、(B)は、(A)に示す差分車速に基づいて算出された隣接車両の移動距離を示す図である。
図14】(A)は、レンズに異物が付着していない場合のヘッドライト車速およびレンズに異物が付着している場合のヘッドライト車速の一例を示す図であり、(B)は、(A)に示すヘッドライト車速に基づいて算出された隣接車両の移動距離を示す図である。
図15】推定車速を算出する際のヘッドライト車速の重み付けWhlおよび差分車速の重み付けWsaと、レンズにおける雨滴などの異物の付着量との関係の一例を示す図である。
図16】検知判定距離Distを説明するための図である。
図17】第1実施形態に係る隣接車両検出処理を示すフローチャートである。
図18】第1実施形態に係る閾値変更処理を示すフローチャートである。
図19】第2実施形態に係る計算機の詳細を示すブロック図である。
図20】車両の走行状態を示す図であり、(a)は検出領域等の位置関係を示す平面図、(b)は実空間における検出領域等の位置関係を示す斜視図である。
図21】第2実施形態に係る輝度差算出部の動作を説明するための図であり、(a)は鳥瞰視画像における注目線、参照線、注目点及び参照点の位置関係を示す図、(b)は実空間における注目線、参照線、注目点及び参照点の位置関係を示す図である。
図22】第2実施形態に係る輝度差算出部の詳細な動作を説明するための図であり、(a)は鳥瞰視画像における検出領域を示す図、(b)は鳥瞰視画像における注目線、参照線、注目点及び参照点の位置関係を示す図である。
図23】エッジ検出動作を説明するための画像例を示す図である。
図24】エッジ線とエッジ線上の輝度分布を示す図であり、(a)は検出領域に立体物(隣接車両)が存在している場合の輝度分布を示す図、(b)は検出領域に立体物が存在しない場合の輝度分布を示す図である。
図25】第2実施形態に係る隣接車両検出方法を示すフローチャートである。
図26】第2実施形態に係る閾値変更処理を示すフローチャートである。
図27】第3実施形態に係る計算機の詳細を示すブロック図である。
図28】第4実施形態に係る計算機の詳細を示すブロック図である。
【発明を実施するための形態】
【0009】
≪第1実施形態≫
図1は、本実施形態に係る立体物検出装置1を搭載した車両の概略構成図である。本実施形態に係る立体物検出装置1は、自車両V1が車線変更する際に接触の可能性がある隣接車線に存在する他車両(以下、隣接車両V2ともいう)を検出することを目的とする。本実施形態に係る立体物検出装置1は、図1に示すように、カメラ10と、車速センサ20と、計算機30とを備える。
【0010】
カメラ10は、図1に示すように、自車両V1の後方における高さhの箇所において、光軸が水平から下向きに角度θとなるように車両V1に取り付けられている。カメラ10は、この位置から自車両V1の周囲環境のうちの所定領域を撮像する。車速センサ20は、自車両V1の走行速度を検出するものであって、例えば車輪に回転数を検知する車輪速センサで検出した車輪速から車速度を算出する。計算機30は、自車両後方の隣接車線に存在する隣接車両の検出を行う。
【0011】
図2は、図1の自車両V1の走行状態を示す平面図である。同図に示すように、カメラ10は、所定の画角aで車両後方側を撮像する。このとき、カメラ10の画角aは、自車両V1が走行する車線に加えて、その左右の車線(隣接車線)についても撮像可能な画角に設定されている。
【0012】
図3は、図1の計算機30の詳細を示すブロック図である。なお、図3においては、接続関係を明確とするためにカメラ10、車速センサ20についても図示する。
【0013】
図3に示すように、計算機30は、視点変換部31と、位置合わせ部32と、差分波形生成部33と、立体物検出部34と、差分車速算出部35と、ヘッドライト検出部36と、ヘッドライト車速算出部37と、推定車速算出部38と、検知判定距離算出部39と、閾値変更部40とを備える。以下に、それぞれの構成について説明する。
【0014】
視点変換部31は、カメラ10による撮像にて得られた所定領域の撮像画像データを入力し、入力した撮像画像データを鳥瞰視される状態の鳥瞰画像データに視点変換する。鳥瞰視される状態とは、上空から例えば鉛直下向きに見下ろす仮想カメラの視点から見た状態である。この視点変換は、例えば特開2008−219063号公報に記載されるようにして実行することができる。撮像画像データを鳥瞰視画像データに視点変換するのは、立体物に特有の鉛直エッジは鳥瞰視画像データへの視点変換により特定の定点を通る直線群に変換されるという原理に基づき、これを利用すれば平面物と立体物とを識別できるからである。
【0015】
位置合わせ部32は、視点変換部31の視点変換により得られた鳥瞰視画像データを順次入力し、入力した異なる時刻の鳥瞰視画像データの位置を合わせる。図4は、位置合わせ部32の処理の概要を説明するための図であり、(a)は自車両V1の移動状態を示す平面図、(b)は位置合わせの概要を示す画像である。
【0016】
図4(a)に示すように、現時刻の自車両V1がPに位置し、一時刻前の自車両V1がP’に位置していたとする。また、自車両V1の後側方向に隣接車両V2が位置して自車両V1と並走状態にあり、現時刻の隣接車両V2がPに位置し、一時刻前の隣接車両V2がP’に位置していたとする。さらに、自車両V1は、一時刻で距離d移動したものとする。なお、一時刻前とは、現時刻から予め定められた時間(例えば1制御周期)だけ過去の時刻であってもよいし、任意の時間だけ過去の時刻であってもよい。
【0017】
このような状態において、現時刻における鳥瞰視画像PB図4(b)に示すようになる。この鳥瞰視画像PBでは、路面上に描かれる白線については矩形状となり、比較的正確に平面視された状態となるが、隣接車両V2(位置P)については倒れ込みが発生する。また、一時刻前における鳥瞰視画像PBt−1についても同様に、路面上に描かれる白線については矩形状となり、比較的正確に平面視された状態となるが、隣接車両V2(位置P’)については倒れ込みが発生する。既述したとおり、立体物の鉛直エッジ(厳密な意味の鉛直エッジ以外にも路面から三次元空間に立ち上がったエッジを含む)は、鳥瞰視画像データへの視点変換処理によって倒れ込み方向に沿った直線群として現れるのに対し、路面上の平面画像は鉛直エッジを含まないので、視点変換してもそのような倒れ込みが生じないからである。
【0018】
位置合わせ部32は、上記のような鳥瞰視画像PB,PBt−1の位置合わせをデータ上で実行する。この際、位置合わせ部32は、一時刻前における鳥瞰画像PBt−1をオフセットさせ、現時刻における鳥瞰視画像PBと位置を一致させる。図4(b)の左側の画像と中央の画像は、移動距離d’だけオフセットした状態を示す。このオフセット量d’は、図4(a)に示した自車両V1の実際の移動距離dに対応する鳥瞰視画像データ上の移動量であり、車速センサ20からの信号と一時刻前から現時刻までの時間に基づいて決定される。
【0019】
なお、本実施形態において、位置合わせ部32は、異なる時刻の鳥瞰視画像の位置を鳥瞰視上で位置合わせし、その位置合わせされた鳥瞰視画像を得るが、この「位置合わせ」処理は、検出対象の種別や要求される検出精度に応じた精度で行うことができる。たとえば、同一時刻及び同一位置を基準に位置を合わせるといった厳密な位置合わせ処理であってもよいし、各鳥瞰視画像の座標を把握するという程度の緩い位置合わせ処理であってもよい。
【0020】
また、位置合わせ後において位置合わせ部32は、鳥瞰視画像PB,PBt−1の差分をとり、差分画像PDのデータを生成する。ここで、本実施形態において、位置合わせ部32は、照度環境の変化に対応するために、鳥瞰視画像PB,PBt−1の画素値の差を絶対値化し、当該絶対値が所定の差分閾値th以上であるときに、差分画像PDの画素値を「1」とし、絶対値が所定の差分閾値th未満であるときに、差分画像PDの画素値を「0」とすることで、図4(b)の右側に示すような差分画像PDのデータを生成することができる。なお、差分閾値thの値は、後述するように、閾値変更部40により変更される場合があり、閾値変更部40により差分閾値thの値が変更された場合には、閾値変更部40により値が変更された差分閾値thを用いて、差分画像PDの画素値が検出されることとなる。
【0021】
そして、差分波形生成部33は、図4(b)に示す差分画像PDのデータに基づいて、差分波形を生成する。具体的には、差分波形生成部33は、自車両V1の左右後方に設定された検出領域において、差分波形を生成する。
【0022】
ここで、本例の立体物検出装置1は、自車両V1が車線変更する際に接触の可能性がある隣接車両V2について移動距離を算出することを目的とするものである。このため、本例では、図2に示すように、自車両V1の左右後方に矩形状の検出領域A1,A2が設定される。なお、このような検出領域A1,A2は、自車両V1に対する相対位置から設定してもよいし、白線の位置を基準に設定してもよい。白線の位置を基準に設定する場合に、立体物検出装置1は、例えば既存の白線認識技術等を利用するとよい。
【0023】
また、本例では、図2に示すように、設定した検出領域A1,A2の自車両V1側における辺(走行方向に沿う辺)が接地線L1,L2として認識される。一般に接地線は立体物が地面に接触する線を意味するが、本実施形態では地面に接触する線でなく上記の如くに設定される。なおこの場合であっても、経験上、本実施形態に係る接地線と、本来の隣接車両V2の位置から求められる接地線との差は大きくなり過ぎず、実用上は問題が無い。
【0024】
図5は、差分波形生成部33による差分波形の生成の様子を示す概略図である。図5に示すように、差分波形生成部33は、位置合わせ部32で算出した差分画像PD図4(b)の右図)のうち検出領域A1,A2に相当する部分から、差分波形DWを生成する。この際、差分波形生成部33は、視点変換により立体物が倒れ込む方向に沿って、差分波形DWを生成する。なお、図5に示す例では、便宜上検出領域A1のみを用いて説明するが、検出領域A2についても同様の手順で差分波形DWを生成する。
【0025】
具体的に説明すると、まず差分波形生成部33は、差分画像PDのデータ上において立体物が倒れ込む方向上の線Laを定義する。そして、差分波形生成部33は、線La上において所定の差分を示す差分画素DPの数をカウントする。本実施形態では、所定の差分を示す差分画素DPは、差分画像PDの画素値が「0」「1」で表現されており、「1」を示す画素が、差分画素DPとしてカウントされる。
【0026】
差分波形生成部33は、差分画素DPの数をカウントした後、線Laと接地線L1との交点CPを求める。そして、差分波形生成部33は、交点CPとカウント数とを対応付け、交点CPの位置に基づいて横軸位置、すなわち図5右図の上下方向軸における位置を決定するとともに、カウント数から縦軸位置、すなわち図5右図の左右方向軸における位置を決定し、交点CPにおけるカウント数としてプロットする。
【0027】
以下同様に、差分波形生成部33は、立体物が倒れ込む方向上の線Lb,Lc…を定義して、差分画素DPの数をカウントし、各交点CPの位置に基づいて横軸位置を決定し、カウント数(差分画素DPの数)から縦軸位置を決定しプロットする。差分波形生成部33は、上記を順次繰り返して度数分布化することで、図5右図に示すように差分波形DWを生成する。
【0028】
ここで、差分画像PDのデータ上における差分画素PDは、異なる時刻の画像において変化があった画素であり、言い換えれば立体物が存在した箇所であるといえる。このため、立体物が存在した箇所において、立体物が倒れ込む方向に沿って画素数をカウントして度数分布化することで差分波形DWを生成することとなる。特に、立体物が倒れ込む方向に沿って画素数をカウントすることから、立体物に対して高さ方向の情報から差分波形DWを生成することとなる。
【0029】
なお、図5左図に示すように、立体物が倒れ込む方向上の線Laと線Lbとは検出領域A1と重複する距離が異なっている。このため、検出領域A1が差分画素DPで満たされているとすると、線Lb上よりも線La上の方が差分画素DPの数が多くなる。このため、差分波形生成部33は、差分画素DPのカウント数から縦軸位置を決定する場合に、立体物が倒れ込む方向上の線La,Lbと検出領域A1とが重複する距離に基づいて正規化する。具体例を挙げると、図5左図において線La上の差分画素DPは6つあり、線Lb上の差分画素DPは5つである。このため、図5においてカウント数から縦軸位置を決定するにあたり、差分波形生成部33は、カウント数を重複距離で除算するなどして正規化する。これにより、差分波形DWに示すように、立体物が倒れ込む方向上の線La,Lbに対応する差分波形DWの値はほぼ同じとなっている。
【0030】
立体物検出部34は、差分波形生成部33により生成された差分波形DWに基づいて、検出領域A1,A2に存在している立体物の検出を行う。ここで、図6は、立体物検出部34による立体物の検出方法を説明するための図であり、差分波形DWおよび立体物を検出するための閾値αの一例を示している。立体物検出部34は、図6に示すように、生成した差分波形DWのピークが、当該差分波形DWのピーク位置に対応する所定の閾値α以上であるか否かを判断することで、検出領域A1,A2に立体物が存在するか否かを判断する。そして、立体物検出部34は、差分波形DWのピークが所定の閾値α未満である場合には、検出領域A1,A2に立体物が存在しないと判断し、一方、差分波形DWのピークが所定の閾値α以上である場合には、検出領域A1,A2に立体物が存在すると判断する。さらに、本実施形態において、立体物検出部34は、後述する差分車速算出部35により算出された立体物の移動速度に基づいて、検出した立体物が、隣接車線に存在する隣接車両V2であるか否かを判断することで、隣接車両V2を検出する。
【0031】
差分車速算出部35は、現時刻における差分波形DWと一時刻前の差分波形DWt−1との対比により、立体物検出部34により検出された立体物の相対移動速度を差分車速として算出する。すなわち、差分車速算出部35は、差分波形DW,DWt−1の時間変化から、立体物の相対移動速度を差分車速として算出する。なお、立体物検出部34により検出された立体物が隣接車両V2である場合、差分車速算出部35は、差分波形DW,DWt−1の時間変化から、隣接車両V2の相対車速を差分車速として算出することとなる。
【0032】
詳細に説明すると、差分車速算出部35は、図7に示すように差分波形DWを複数の小領域DWt1〜DWtn(nは2以上の任意の整数)に分割する。図7は、差分車速算出部35によって分割される小領域DWt1〜DWtnを示す図である。小領域DWt1〜DWtnは、例えば図7に示すように、互いに重複するようにして分割される。例えば小領域DWt1と小領域DWt2とは重複し、小領域DWt2と小領域DWt3とは重複する。
【0033】
次いで、差分車速算出部35は、小領域DWt1〜DWtn毎にオフセット量(差分波形の横軸方向(図7の上下方向)の移動量)を求める。ここで、オフセット量は、一時刻前における差分波形DWt−1と現時刻における差分波形DWとの差(横軸方向の距離)から求められる。この際、差分車速算出部35は、小領域DWt1〜DWtn毎に、一時刻前における差分波形DWt−1を横軸方向に移動させた際に、現時刻における差分波形DWとの誤差が最小となる位置(横軸方向の位置)を判定し、差分波形DWt−1の元の位置と誤差が最小となる位置との横軸方向の移動量をオフセット量として求める。そして、差分車速算出部35は、小領域DWt1〜DWtn毎に求めたオフセット量をカウントしてヒストグラム化する。
【0034】
図8は、差分車速算出部35により得られるヒストグラムの一例を示す図である。図8に示すように、各小領域DWt1〜DWtnと一時刻前における差分波形DWt−1との誤差が最小となる移動量であるオフセット量には、多少のバラつきが生じる。このため、差分車速算出部35は、バラつきを含んだオフセット量をヒストグラム化し、ヒストグラムから移動距離を算出する。この際、差分車速算出部35は、ヒストグラムの極大値から立体物(隣接車両V2)の移動距離を算出する。すなわち、図8に示す例において、差分車速算出部35は、ヒストグラムの極大値を示すオフセット量を移動距離τと算出する。このように、本実施形態では、オフセット量にバラつきがあったとしても、その極大値から、より正確性の高い移動距離を算出することが可能となる。なお、移動距離τは、自車両に対する立体物(隣接車両V2)の相対移動距離である。このため、差分車速算出部35は、絶対移動距離を算出する場合には、得られた移動距離τと車速センサ20からの信号とに基づいて、絶対移動距離を算出することとなる。
【0035】
このように、本実施形態では、異なる時刻に生成された差分波形DWの誤差が最小となるときの差分波形DWのオフセット量から立体物(隣接車両V2)の移動距離を算出することで、波形という1次元の情報のオフセット量から移動距離を算出することとなり、移動距離の算出にあたり計算コストを抑制することができる。また、異なる時刻に生成された差分波形DWを複数の小領域DWt1〜DWtnに分割することで、立体物のそれぞれの箇所を表わした波形を複数得ることができ、これにより、立体物のそれぞれの箇所毎にオフセット量を求めることができ、複数のオフセット量から移動距離を求めることができるため、移動距離の算出精度を向上させることができる。また、本実施形態では、高さ方向の情報を含む差分波形DWの時間変化から立体物の移動距離を算出することで、単に1点の移動のみに着目するような場合と比較して、時間変化前の検出箇所と時間変化後の検出箇所とが高さ方向の情報を含んで特定されるため立体物において同じ箇所となり易く、同じ箇所の時間変化から移動距離を算出することとなり、移動距離の算出精度を向上させることができる。
【0036】
なお、ヒストグラム化にあたり差分車速算出部35は、複数の小領域DWt1〜DWtn毎に重み付けをし、小領域DWt1〜DWtn毎に求めたオフセット量を重みに応じてカウントしてヒストグラム化してもよい。図9は、差分車速算出部35による重み付けを示す図である。
【0037】
図9に示すように、小領域DW(mは1以上n−1以下の整数)は平坦となっている。すなわち、小領域DWは所定の差分を示す画素数のカウントの最大値と最小値との差が小さくなっている。差分車速算出部35は、このような小領域DWについて重みを小さくする。平坦な小領域DWについては、特徴がなくオフセット量の算出にあたり誤差が大きくなる可能性が高いからである。
【0038】
一方、小領域DWm+k(kはn−m以下の整数)は起伏に富んでいる。すなわち、小領域DWは所定の差分を示す画素数のカウントの最大値と最小値との差が大きくなっている。差分車速算出部35は、このような小領域DWについて重みを大きくする。起伏に富む小領域DWm+kについては、特徴的でありオフセット量の算出を正確に行える可能性が高いからである。このように重み付けすることにより、移動距離の算出精度を向上することができる。
【0039】
なお、移動距離の算出精度を向上するために上記実施形態では差分波形DWを複数の小領域DWt1〜DWtnに分割したが、移動距離の算出精度がさほど要求されない場合は小領域DWt1〜DWtnに分割しなくてもよい。この場合に、差分車速算出部35は、差分波形DWと差分波形DWt−1との誤差が最小となるときの差分波形DWのオフセット量から移動距離を算出することとなる。すなわち、一時刻前における差分波形DWt−1と現時刻における差分波形DWとのオフセット量を求める方法は上記内容に限定されない。
【0040】
なお、本実施形態において差分車速算出部35は、自車両V1(カメラ10)の移動速度を求め、求めた移動速度から静止物についてのオフセット量を求める。静止物のオフセット量を求めた後、差分車速算出部35は、ヒストグラムの極大値のうち静止物に該当するオフセット量を無視したうえで、立体物の移動距離を算出する。
【0041】
図10は、差分車速算出部35により得られるヒストグラムの他の例を示す図である。カメラ10の画角内に立体物の他に静止物が存在する場合に、得られるヒストグラムには2つの極大値τ1,τ2が現れる。この場合、2つの極大値τ1,τ2のうち、いずれか一方は静止物のオフセット量である。このため、差分車速算出部35は、移動速度から静止物についてのオフセット量を求め、そのオフセット量に該当する極大値について無視し、残り一方の極大値を採用して立体物の移動距離を算出する。これにより、静止物により立体物の移動距離の算出精度が低下してしまう事態を防止することができる。
【0042】
なお、静止物に該当するオフセット量を無視したとしても、極大値が複数存在する場合、カメラ10の画角内に立体物が複数台存在すると想定される。しかし、検出領域A1,A2内に複数の立体物が存在することは極めて稀である。このため、差分車速算出部35は、移動距離の算出を中止する。これにより、本実施形態では、極大値が複数あるような誤った移動距離を算出してしまう事態を防止することができる。
【0043】
ヘッドライト検出部36は、カメラ10により撮像された撮像画像に基づいて、自車両V1の後方を走行する隣接車両V2のヘッドライトを検出する。具体的には、ヘッドライト検出部36は、撮像画像に基づいて、隣接車両V2のヘッドライトと判断できる光源を検出することで、該光源を、隣接車両V2のヘッドライトとして検出する。本実施形態では、ヘッドライト検出部36は、周辺との明るさの差が所定値以上であり、かつ、所定以上の大きさである画像領域を、隣接車両V2のヘッドライトの候補領域として検出する。さらに、ヘッドライト検出部36は、隣接車両V2のヘッドライトと街灯などの光源とを区別するために、自車両V1から候補領域までの車幅方向における距離や、カメラ10から候補領域までの後方距離などに基づいて、複数の隣接車両V2のヘッドライトの候補領域の中から、隣接車両V2のヘッドライトに対応する画像領域を特定することで、隣接車両V2のヘッドライトを検出する。
【0044】
ヘッドライト車速算出部37は、ヘッドライト検出部36により検出された隣接車両V2のヘッドライトに基づいて、自車両V1に対する隣接車両V2の相対車速をヘッドライト車速として算出する。具体的には、ヘッドライト車速算出部37は、異なる時刻に検出された隣接車両V2のヘッドライトの位置の変化に基づいて、所定時間におけるヘッドライトの移動距離を算出し、算出したヘッドライトの移動距離を時間微分することで、隣接車両V2のヘッドライトの相対車速をヘッドライト車速として算出する。
【0045】
推定車速算出部38は、差分車速算出部35により算出された差分車速と、ヘッドライト車速算出部37により算出されたヘッドライト車速とに基づいて、レンズへの雨滴などの異物の付着を考慮した隣接車両V2の相対速度を、推定車速として算出する。
【0046】
ここで、図11は、レンズに雨滴が付着してる場面において撮像された撮像画像の一例を示す図である。また、図12(A)は、検出領域内に隣接車両V2が存在しているが、該検出領域に対応する位置に雨滴が付着していない場面で生成された差分波形DWの一例を示す図であり、図12(B)は、検出領域内に隣接車両V2が存在していないが、該検出領域に対応する位置に雨滴が付着している場面で生成された差分波形DWの一例を示す図である。さらに、図12(C)は、図11に示す検出領域A1のように、検出領域内に隣接車両V2が存在しており、かつ、該検出領域に対応する位置に雨滴が付着している場面で生成された差分波形DWの一例を示す図である。
【0047】
たとえば、検出領域内に隣接車両V2が存在しているが、該検出領域に対応する位置に雨滴が付着していない場面では、図12(A)に示すように、隣接車両V2に起因する差分波形DWが生成される。一方、検出領域内に隣接車両V2が存在していない場合でも、該検出領域に対応する位置に雨滴が付着している場合には、図12(B)に示すように、雨滴などの異物に起因する差分波形DWが生成されてしまう。
【0048】
そのため、図11に示す検出領域A1のように、検出領域内に隣接車両V2が存在しており、かつ、該検出領域に対応する位置に雨滴が付着している場合では、図12(C)に示すように、レンズに付着した雨滴などの異物による差分が差分波形DWに含まれてしまい、隣接車両V2に起因する差分波形DWを適切に生成できない場合がある。さらに、検出領域内に隣接車両V2が存在しており、かつ、該検出領域に対応する位置に雨滴が付着している場合では、レンズに付着した雨滴などの異物により、隣接車両V2の像が歪んだり、ぼやけてしまい、隣接車両V2の像を適切に撮像することができない場合があり、このような場合に、図12(C)に示すように、隣接車両V2に起因する差分波形DWを生成することは困難となる。その結果、差分波形DWに基づいて算出した差分車速と、隣接車両V2の実際の相対車速とに誤差が生じてしまう場合がある。
【0049】
ここで、図13(A)は、レンズに異物が付着している場合に算出された差分車速と、レンズに異物が付着していない場合に算出された差分車速との一例を示す図であり、図13(B)は、図13(A)に示す差分車速に基づいて算出された隣接車両V2の移動距離を示す図である。たとえば、レンズに異物が付着していない場合には、隣接車両V2に起因する差分波形DWを適切に生成することができるため、隣接車両V2に起因する差分波形DWに基づいて隣接車両V2の相対車速を差分車速として適切に算出することができる。そのため、図13(A)に示すように、レンズに異物が付着していない場合の差分車速と、隣接車両V2の実際の相対車速との誤差は小さくなる。これに対して、レンズに雨滴などの異物が付着している場合には、上述したように、雨滴などの異物により隣接車両V2に起因する差分波形DWを適切に生成することができないため、図13(A)に示すように、隣接車両V2の相対車速を差分車速として適切に算出することができず、レンズに異物が付着している場合の差分車速と隣接車両V2の実際の相対車速との誤差が大きくなってしまう場合がある。そのため、レンズに雨滴などの異物が付着している場合では、図13(B)に示すように、差分車速に基づいて算出された隣接車両V2の移動距離と、隣接車両V2の実際の移動距離との間の誤差も大きくなってしまい、差分車速に基づいて隣接車両V2の位置を適切に検知することができない場合がある。
【0050】
これに対して、ヘッドライトの光の像は雨滴などの異物による影響が小さいため、レンズに雨滴などの異物が付着している場合でも、差分車速と比べて、ヘッドライト車速を適切に算出することができる。ここで、図14(A)は、レンズに異物が付着している場合に算出されたヘッドライト車速と、レンズに異物が付着していない場合に算出されたヘッドライト車速との一例を示す図であり、図14(B)は、図14(A)のヘッドライト車速に基づいて算出された隣接車両V2の移動距離を示す図である。図14(A)に示すように、レンズに雨滴などの異物が付着している場合でも、隣接車両V2のヘッドライトに基づいて算出されたヘッドライト車速は、隣接車両V2の差分波形DWに基づいて算出された差分車速と比べて、隣接車両V2の実際の相対車速との誤差は小さく、そのため、図14(B)に示すように、ヘッドライト車速に基づいて算出された隣接車両V2の移動距離と、隣接車両V2の実際の移動距離との誤差も小さくなる。そのため、レンズに雨滴などの異物が付着している場合でも、ヘッドライト車速に基づいて、隣接車両V2の位置を適切に検知することが可能となる。
【0051】
なお、カメラ10のレンズに雨滴などの異物が付着していない場合には、上述した問題は起きないため、差分波形DWに基づいて、隣接車両V2の相対車速(差分車速)を適切に検出することができる。一方、レンズに雨滴などの異物が付着していない場合であっても、自車両V1から隣接車両V2までの後方距離が一定距離以上短くなると、隣接車両V2のヘッドライトの位置変化を適切に検出することが困難となり、隣接車両V2のヘッドライトに基づいて、隣接車両V2の相対車速を適切に検出できない場合がある。
【0052】
そこで、推定車速算出部38は、レンズに付着した雨滴などの異物の付着量に応じて、差分車速VELsaの重み付けWsaとヘッドライト車速VELhlの重み付けWhlとを設定し、下記式1に示すように、重み付けした差分車速VELsaとヘッドライト車速VELhlとについて加重平均を行うことで、レンズにおける雨滴などの異物の付着を考慮した隣接車両V2の相対車速を、推定車速VELestとして算出する。
【数1】
【0053】
具体的には、推定車速算出部38は、レンズに付着している雨滴などの異物の量を検出し、図15に示すように、レンズに付着した異物の付着量が多いほど、差分車速VELsaの重み付けWsaに対して、ヘッドライト車速VELhlの重み付けWhlを大きくする。これにより、レンズに雨滴などの異物が付着している量が多いほど、雨滴などの異物の影響の少ないヘッドライト車速に基づいて隣接車両V2の相対車速を求めることができるため、レンズに雨滴などの異物が付着している場合でも、隣接車両V2の相対車速を適切に求めることができる。一方、推定車速算出部38は、カメラ10のレンズに付着した雨滴などの異物の付着量が少ないほど、差分車速VELsaの重み付けWsaに対して、ヘッドライト車速VELhlの重み付けWhlを小さくする。これにより、レンズに雨滴などの異物が付着している量が少ない場合には、差分車速に基づいて隣接車両V2の相対車速を求めることができるため、自車両V1から隣接車両V2までの後方距離が短い場合でも、隣接車両V2の相対車速を適切に求めることができる。なお、図15は、推定車速VELestを算出する際のヘッドライト車速VELhlの重み付けWhlおよび差分車速VELsaの重み付けWsaと、レンズの雨滴など異物の付着量との関係の一例を示す図である。
【0054】
なお、カメラ10のレンズに付着した異物の付着量を検出する方法は特に限定されない。たとえば、推定車速算出部38は、図示しない雨滴センサの検出結果やワイパーの動作状況に基づいて、カメラ10のレンズに付着した雨滴の量を検出することができる。すなわち、推定車速算出部38は、雨滴センサにより検出した雨滴の量が多いほど、または、ワイパーの動作強度が強いほど、カメラ10のレンズに付着している雨滴が多いものと判断して、カメラ10のレンズに付着した異物の付着量を検出することができる。また、カメラ10のレンズに付着した異物は、雨滴に限定されず、たとえば、雨滴が乾燥した後の水垢や泥水なども含まれる。たとえば、推定車速算出部38は、隣接車両V2のヘッドライトを検出した後に、一定時間以上、隣接車両V2に起因するエッジを一定量以上検出できない場合に、カメラ10のレンズに水垢が付着していると判断することができる。
【0055】
また、図15に示すように、推定車速算出38は、自車両V1が隣接車両V2を追い抜く場面であるか、あるいは、自車両が隣接車両V2に追い抜かれる場面であるかを判断し、該判断結果に基づいて、差分車速VELsaの重み付けWsaとヘッドライト車速VELhlの重み付けWhlとを設定する。たとえば、自車両V1が隣接車両V2に追い抜かれる場面では、差分波形DWに基づく差分車速VELsaよりも、隣接車両V2のヘッドライトに基づくヘッドライト車速VELhlの方が信頼性が高い傾向にある。そのため、自車両V1が隣接車両V2に追い抜かれる場面では、図15に示すように、差分車速VELsaの重み付けWsaに対して、ヘッドライト車速VELhlの重み付けWhlを大きくすることで、隣接車両V2の相対車速(推定車速VELest)をより高い精度で算出できる。なお、隣接車両V2の差分車速VELsaおよびヘッドライト車速VELhlは自車両V1に対する隣接車両V2の相対車速であるため、推定車速算出部38は、隣接車両V2の差分車速VELsaまたはヘッドライト車速VELhlが正の値であるか負の値であるかを判定することで、自車両V1が隣接車両V2に追い抜かれる場面であるか、自車両V1が隣接車両V2を追い抜く場面であるかを判断することができる。
【0056】
図3に戻り、検知判定距離算出部39は、下記の数式2に従って、推定車速算出部38により算出された推定車速VELestに基づいて、隣接車両V2を検出した時刻から経過時間T後の現在時刻における、隣接車両V2の相対移動距離を検知判定距離Distとして算出する。
【数2】
【0057】
ここで、図16は、検知判定距離Distを説明するための図であり、図16に示す例では、現在時刻である時刻t2よりも一時刻前の時刻t1において隣接車両V2が検出されている場面を例示している。この場合、検知判定距離算出部39は、推定車速算出部38により算出された推定車速VELestに基づいて、隣接車両V2を検出した時刻t1から現時刻t2までの時間Tの間に、自車両V1に対して隣接車両V2が移動した相対移動距離を検知判定距離Distとして算出する。また、検知判定距離算出部39は、検知判定距離Distを繰り返し算出しており、算出した検知判定距離Distを閾値変更部40に出力する。
【0058】
なお、検知判定距離Distの算出方法は、上記方法に限定されず、たとえば、隣接車両V2を検出した後に、推定車速算出部38が繰り返し算出する推定車速VELestを積分することで、検知判定距離Distを算出する構成としてもよい。
【0059】
閾値変更部40は、検出領域A1,A2において隣接車両V2が検出された場合に、隣接車両V2が検出されてから所定時間は検出領域A1,A2内に隣接車両V2が存在するものと判断して、検出領域A1,A2内に存在する隣接車両V2を継続して検知するために、立体物を検出するための差分閾値thを変更する。
【0060】
具体的には、閾値変更部40は、検出領域A1,A2内で隣接車両V2が検出された第1タイミング(時刻t1)で、差分閾値thの値を低い値に変更する。さらに、閾値変更部40は、隣接車両V2を検出した第1タイミングt1の後、検知判定距離算出部39から検知判定距離Distを繰り返し取得し、検知判定距離Distの絶対値と所定の基準距離とを比較する。ここで、基準距離Dstdとは、検出領域A1,A2内で検出した隣接車両V2が自車両V1に対して基準距離Dstdだけ移動した場合に、隣接車両V2が検出領域A1,A2から外れ、検知領域A1,A2内に隣接車両V2が存在しないと判断できる距離であり、たとえば、検出領域A1,A2の進行方向における長さと一般的な車両の全長とに基づいて設定することができる。なお、検知判定距離算出部39により算出される検知判定距離Distは、隣接車両V2が自車両V1を追い抜いている場面では正の値となり、自車両V1が隣接車両V2を追い抜いている場面では負の値となるが、基準距離Dstdは検知判定距離Distの絶対値と比較するためのものであるため、隣接車両V2が自車両V1を追い抜いているか、自車両V1が隣接車両V2を追い抜いているかに拘わらず、正の値で設定される。
【0061】
そして閾値変更部40は、検知判定距離Distと所定の基準距離Dstdとを比較した結果、検知判定距離Distの絶対値が基準距離Dstd未満である場合には、検出領域A1,A2内に隣接車両V2が存在するものと判断して、第1タイミングt1で変更された差分閾値thの値を低い値のまま設定しておく。これにより、カメラ10のレンズに雨滴などの異物が付着し、隣接車両V2を検出領域A1,A2内で継続して検知することが困難な場合でも、検出領域A1,A2内に存在する隣接車両V2を継続して検知することができる。
【0062】
一方、閾値変更部40は、検知判定距離Distの絶対値と所定の基準距離Dstdとを比較した結果、図16に示す時刻t2のように、検知判定距離Distの絶対値が基準距離Dstd以上となる場合には、検知判定距離Distが基準距離Dstd以上となる第2タイミングt2において、検知領域A1,A2内に隣接車両V2が存在しないと判断して、第1タイミングt1で変更された差分閾値thの値を元の値に戻す。これにより、隣接車両V2が検出領域A1,A2内に存在していない場合に、レンズに付着した雨滴などの異物や、隣接車線に存在する隣接車両V2以外の立体物を隣接車両V2として誤検出してしまうことを有効に防止することができる。
【0063】
次に、本実施形態に係る隣接車両検出処理について説明する。図17は、第1実施形態の隣接車両検出処理を示すフローチャートである。図17に示すように、まず、計算機30により、カメラ10から撮像画像のデータの取得が行われ(ステップS101)、視点変換部31により、取得した撮像画像のデータに基づいて、鳥瞰視画像PBのデータが生成される(ステップS102)。
【0064】
次いで、位置合わせ部32は、鳥瞰視画像PBのデータと、一時刻前の鳥瞰視画像PBt−1のデータとを位置合わせをし、差分画像PDのデータを生成する(ステップS103)。具体的には、位置合わせ部32は、鳥瞰視画像PB,PBt−1の画素値の差を絶対値化し、当該絶対値が所定の差分閾値th以上であるときに、差分画像PDの画素値を「1」とし、絶対値が所定の差分閾値th未満であるときに、差分画像PDの画素値を「0」とする。なお、差分画像PDから立体物を検出するための差分閾値thは、後述する閾値変更処理において変更される場合があり、差分閾値thが変更された場合には、変更された差分閾値thが、このステップ103で用いられる。
【0065】
そして、その後、差分波形生成部33は、差分画像PDのデータから、画素値が「1」の差分画素DPの数をカウントして、差分波形DWを生成する(ステップS104)。そして、立体物検出部34は、差分波形DWのピークが所定の閾値α以上であるか否かを判断する(ステップS105)。差分波形DWのピークが閾値α以上でない場合、すなわち差分が殆どない場合には、撮像画像内には立体物が存在しないと考えられる。このため、差分波形DWのピークが閾値α以上でないと判断した場合には(ステップS105=No)、立体物検出部34は、立体物が存在せず隣接車両V2が存在しないと判断する(ステップS114)。そして、ステップS101に戻り、図17に示す処理を繰り返す。
【0066】
一方、差分波形DWのピークが閾値α以上であると判断した場合には(ステップS105=Yes)、立体物検出部34により、隣接車線に立体物が存在すると判断され、ステップS106に進み、差分車速算出部35により、差分波形DWが、複数の小領域DWt1〜DWtnに分割される。次いで、差分車速算出部35は、小領域DWt1〜DWtn毎に重み付けを行い(ステップS107)、小領域DWt1〜DWtn毎のオフセット量を算出し(ステップS108)、重みを加味してヒストグラムを生成する(ステップS109)。
【0067】
そして、差分車速算出部35は、ヒストグラムに基づいて自車両V1に対する立体物の移動距離である相対移動距離を算出する(ステップS110)。次に、差分車速算出部35は、相対移動距離から立体物の絶対移動速度を算出する(ステップS111)。このとき、差分車速算出部35は、相対移動距離を時間微分して相対移動速度を算出するとともに、車速センサ20で検出された自車速を加算して、絶対移動速度を算出する。
【0068】
その後、立体物検出部34は、立体物の絶対移動速度が10km/h以上、且つ、自車両V1に対する立体物の相対移動速度が+60km/h以下であるか否かを判断する(ステップS112)。双方を満たす場合には(ステップS112=Yes)、立体物検出部34は、検出した立体物は隣接車線に存在する隣接車両V2であり、隣接車線に隣接車両V2が存在すると判断する(ステップS113)。そして、図17に示す処理を終了する。一方、いずれか一方でも満たさない場合には(ステップS112=No)、立体物検出部34は、隣接車線に隣接車両V2が存在しないと判断する(ステップS114)。そして、ステップS101に戻り、図17に示す処理を繰り返す。
【0069】
なお、本実施形態では自車両V1の左右後方を検出領域A1,A2とし、自車両V1が車線変更した場合に接触する可能性があるか否かに重点を置いている。このため、ステップS112の処理が実行されている。すなわち、本実施形態にけるシステムを高速道路で作動させることを前提とすると、隣接車両V2の速度が10km/h未満である場合、たとえ隣接車両V2が存在したとしても、車線変更する際には自車両V1の遠く後方に位置するため問題となることが少ない。同様に、隣接車両V2の自車両V1に対する相対移動速度が+60km/hを超える場合(すなわち、隣接車両V2が自車両V1の速度よりも60km/hより大きな速度で移動している場合)、車線変更する際には自車両V1の前方に移動しているため問題となることが少ない。このため、ステップS112では車線変更の際に問題となる隣接車両V2を判断しているともいえる。
【0070】
また、ステップS112において隣接車両V2の絶対移動速度が10km/h以上、且つ、隣接車両V2の自車両V1に対する相対移動速度が+60km/h以下であるかを判断することにより、以下の効果がある。例えば、カメラ10の取り付け誤差によっては、静止物の絶対移動速度を数km/hであると検出してしまう場合があり得る。よって、10km/h以上であるかを判断することにより、静止物を隣接車両V2であると判断してしまう可能性を低減することができる。また、ノイズによっては隣接車両V2の自車両V1に対する相対速度を+60km/hを超える速度に検出してしまうことがあり得る。よって、相対速度が+60km/h以下であるかを判断することにより、ノイズによる誤検出の可能性を低減できる。
【0071】
さらに、ステップS112の処理に代えて、隣接車両V2の絶対移動速度がマイナスでないことや、0km/hでないことを判断してもよい。また、本実施形態では自車両V1が車線変更した場合に接触する可能性がある否かに重点を置いているため、ステップS113において隣接車両V2が検出された場合に、自車両の運転者に警告音を発したり、所定の表示装置により警告相当の表示を行ったりしてもよい。
【0072】
次に、第1実施形態に係る閾値変更処理について説明する。図18は、第1実施形態に係る閾値変更処理を示すフローチャートである。なお、以下に説明する閾値変更処理は、図17に示す隣接車両検出処理と並行して行われ、この閾値変更処理により設定された差分閾値thが、図17に示す隣接車両検出処理における差分閾値thとして適用されることとなる。
【0073】
図18に示すように、まず、ステップS201において、閾値変更部40は、図17に示す隣接車両検出処理により、隣接車両V2が検出されたか否かを判断する。隣接車両V2が検出された場合にはステップS202に進み、一方、隣接車両V2が検出されていない場合には、隣接車両V2が検出されるまで、ステップS201で待機する。
【0074】
次いで、ステップS202では、ヘッドライト検出部36により、隣接車両V2のヘッドライトの検出が行われる。具体的には、ヘッドライト検出部36は、周辺との明るさの差が所定値以上であり、かつ、所定以上の大きさである画像領域を、隣接車両V2のヘッドライトに対応する候補領域として検出する。さらに、ヘッドライト検出部36は、隣接車両V2のヘッドライトと街灯などの光源とを区別するために、自車両V1から候補領域までの車幅方向における距離や、カメラ10から候補領域までの後方距離に基づいて、候補領域の中から、隣接車両V2のヘッドライトに対応する画像領域を特定することで、隣接車両V2のヘッドライトを検出する。
【0075】
そして、ステップS203では、閾値変更部40により、ステップS202において隣接車両V2のヘッドライトが検出されたか否かの判断が行われる。隣接車両V2のヘッドライトが検出された場合には、ステップS204に進み、隣接車両V2のヘッドライトが検出されなかった場合には、ステップS201に戻り、再度、隣接車両V2の検出と、隣接車両V2のヘッドライトの検出とが繰り返される。
【0076】
ステップS204では、ヘッドライト車速算出部37により、隣接車両V2のヘッドライト車速の算出が行われる。たとえば、ヘッドライト車速算出部37は、ステップS202で検出された隣接車両V2のヘッドライトの位置の変化に基づいて、所定時間におけるヘッドライトの移動距離を隣接車両V2の移動距離として算出し、算出した隣接車両ヘッ動距離を時間微分することで、自車両V1に対する隣接車両V2の相対車速をヘッドライト車速VELhlとして算出する。
【0077】
続くステップS205では、推定車速算出部38により、差分車速VELsaの取得が行われる。たとえば、推定車速算出部38は、図17に示す隣接車両検出処理において算出された差分車速VELsaを、差分車速算出部35から取得する。
【0078】
そして、ステップS206では、推定車速算出部38により、ステップS204で算出したヘッドライト車速と、ステップS205で取得した差分車速とに基づいて、レンズにおける雨滴などの異物の付着を考慮した隣接車両V2の相対車速が、推定車速VELestとして算出される。具体的には、推定車速算出部38は、上記の数式1に従って、ヘッドライト車速と差分車速との加重平均を求めることで、推定車速VELestを算出する。特に、本実施形態において、推定車速算出部38は、推定車速VELestを算出する際に、図15に示すように、レンズにおける雨滴などの異物の付着量が多いほど、差分車速VELsaの重み付けWsaに対して、ヘッドライト車速VELhlの重み付けWhlを大きくすることで、レンズに雨滴などの異物が付着している場合でも、隣接車両V2の相対車速を推定車速VELestとして適切に算出することができる。さらに、推定車速算出部38は、図15に示すように、自車両V1が隣接車両V2に追い抜かれている場面では、自車両V1が隣接車両V2を追い抜いている場面と比べて、差分車速VELsaの重み付けWsaに対して、ヘッドライト車速VELhlの重み付けWhlを大きくすることで、隣接車両V2の相対車速(推定車速VELest)をより高い精度で算出することができる。
【0079】
ステップS207では、検知判定距離算出部39により、隣接車両V2の検知後に隣接車両V2が移動した相対移動距離が、検知判定距離Distとして算出される。そして、ステップS208では、閾値変更部40により、検出領域A1,A2に存在している隣接車両V2を継続して検知するために、差分閾値thの変更が行われる。具体的には、閾値変更部40は、カメラ10のレンズに雨滴などの異物が付着している場合でも、検出領域A1,A2に存在している隣接車両V2を検出することができるように、差分閾値thを低い値に変更する。
【0080】
そして、ステップS209では、閾値変更部40により、ステップS207で算出した検知判定距離Distの絶対値が、所定の基準値Dstd以上であるか否かの判断が行われる。ここで、基準距離Dstdとは、検出領域A1,A2内で検出した隣接車両V2が自車両V1に対して基準距離Dstdだけ移動した場合に、隣接車両V2が検出領域A1,A2から外れ、検知領域A1,A2内に隣接車両V2が存在しないと判断できる距離である。そのため、閾値変更部40は、検知判定距離Distの絶対値が基準値Dstd未満である場合には、隣接車両V2は検出領域A1,A2内に存在すると判断し、差分閾値thを低い値に設定したまま、ステップS209で待機する。一方、閾値変更部40は、検知判定距離Distの絶対値が基準値Dstd以上である場合には、隣接車両V2は検出領域A1,A2内に存在しないと判断し、ステップS210に進み、差分閾値thを元の値に戻す。
【0081】
たとえば、図16に示す例では、まず、第1タイミングt1(時刻t1)において、隣接車両V2が検出され、差分閾値thが低い値に変更される(ステップS208)。そして、第1タイミングt1の後、検知判定距離Distの絶対値が基準値Dstd以上であるか否かの判断が行われる(ステップS209)。検知判定距離Distの絶対値が基準値Dstd未満である間は(ステップS209=No)、隣接車両V2が検出領域A1,A2内に存在していると判断され、差分閾値thは低い値のまま設定される。これにより、隣接車両V2を検出した第1タイミングt1の後、検知判定距離Distの絶対値が基準値Dstd未満である間は、図17に示す隣接車両検出処理において、低い値に設定された差分閾値thを用いて立体物の検出が行われることとなり、その結果、検出領域A1,A2に存在している隣接車両V2を継続して検知することが可能となる。
【0082】
そして、図16に示す例では、第1タイミングt1の後、第2タイミングt2(時刻t2)において、検知判定距離Distの絶対値が基準値Dstd以上であると判断され(ステップS209=Yes)、差分閾値thが元の値に戻される(ステップS210)。これにより、検出領域A1,A2内に隣接車両V2が存在していないと判断される第2タイミングt2以降は、図17に示す隣接車両検出処理において、元の値の差分閾値thを用いて立体物の検出が行われることとなるため、レンズに付着した水滴などの異物や、隣接車線に存在する隣接車両V2以外の立体物を隣接車両V2として誤検出してしまうことを有効に防止することができる。
【0083】
なお、本実施形態は、レンズにおける雨滴などの異物の付着により、差分波形DWに基づいて、自車両V1に対する隣接車両V2の相対車速を算出することが困難であることに鑑みて、隣接車両V2のヘッドライトを検出し、隣接車両V2のヘッドライトに基づいて、隣接車両V2の相対車速を推定するものである。そのため、図18に示す閾値変更処理を、隣接車両V2がヘッドライトを点灯する条件下、たとえば、夜間のみに行う構成とすることができる。これにより、昼間において、隣接車両V2を検出する際の算出負荷を軽減することができる。なお、閾値変更部40は、たとえば、カメラ10により撮像した撮像画像全体の輝度が所定値以下である場合に、夜間であると判断することができる。また、閾値変更部40は、照度計や時刻に基づいて、夜間であるか否かを判断することもできる。
【0084】
また、上述した閾値変更処理を、レンズに雨滴などの異物が付着する可能性の高い雨天時のみに行う構成とすることもできる。この場合、閾値変更部40は、雨滴センサの検出結果やワイパーの動作状況に基づいて、雨天時であるか否かを判断することができる。
【0085】
さらに、上述したステップS208の処理を、たとえば、図18に示すステップS204の直後に実行する構成としてもよい。なお、上述した閾値変更処理においては、差分閾値thを変更する処理を、隣接車両V2が検出されたタイミングと厳密に同じタイミングで行う必要はなく、本実施形態のように、隣接車両V2が検出されたタイミングよりも少し後のタイミングで行う構成とすることができる。
【0086】
以上のように、第1実施形態では、差分波形DWに基づいて、隣接車両V2の相対車速を差分車速VELsaとして算出するとともに、隣接車両V2のヘッドライトを検出し、隣接車両V2のヘッドライトに基づいて、隣接車両V2の相対速度をヘッドライト車速VELhlとして算出する。そして、レンズに付着する雨滴などの異物の付着量に応じて、差分車速VELsaとヘッドライト車速EVLhlとの重み付けを行うことで、レンズにおける雨滴などの異物の付着を考慮した適切な隣接車両V2の相対速度を、推定車速VELestとして算出する。すなわち、レンズに付着する雨滴などの異物の付着量が多いほど、差分車速VELsaの重み付けWsaに対して、ヘッドライト車速VELhlの重み付けWhlを大きくし、レンズに付着する雨滴などの異物の付着量が少ないほど、差分車速VELsaの重み付けWsaに対して、ヘッドライト車速VELhlの重み付けWhlを小さくする。これにより、本実施形態では、カメラ10のレンズに雨滴などの異物が付着している場合でも、カメラ10のレンズに雨滴などの異物の影響が比較的小さいヘッドライト車速VELhlに基づいて、隣接車両V2の相対車速を推定車速VELestとして適切に算出することができる。また、レンズに雨滴などの異物の付着が少ない場合では、隣接車両V2の差分波形DWに基づいて、隣接車両V2の相対車速(差分車速VELsa)を算出することで、自車両V1から隣接車両V2までの後方距離が短い場合でも、隣接車両V2の相対車速(差分車速VELsa)を適切に算出することができる。
【0087】
そして、本実施形態では、このように算出した隣接車両V2の推定車速VELestに基づいて、隣接車両V2の検出後に隣接車両V2が移動した相対移動距離を検知判定距離Distとして算出し、図16に示すように、隣接車両V2を検出した第1タイミングt1から、第1タイミングt1の後、検知判定距離Distが基準距離Dstd以上となる第2タイミングt2までの間は、隣接車両V2が検出領域A1,A2内に存在するものと判断して、隣接車両V2を検出し易いように、差分閾値thを低い値に変更する。これにより、隣接車両V2が検出領域A1,A2内に存在している間、検出領域A1,A2内に存在する隣接車両V2が検出し易くなり、レンズに雨滴などの異物が付着している場合でも、検出領域A1,A2に存在する隣接車両V2を継続して検知することができる。
【0088】
《第2実施形態》
続いて、第2実施形態に係る立体物検出装置1aについて説明する。第2実施形態に係る立体物検出装置1aは、図19に示すように、第1実施形態の計算機30に代えて、計算機30aを備えており、以下に説明するように動作すること以外は、第1実施形態と同様である。ここで、図19は、第2実施形態に係る計算機30aの詳細を示すブロック図である。
【0089】
第2実施形態に係る立体物検出装置1aは、図19に示すように、カメラ10と計算機30aとを備えており、計算機30aは、視点変換部31、輝度差算出部41、エッジ線検出部42、エッジ波形生成部43、エッジ車速算出部44、立体物検出部34a、ヘッドライト検出部36、ヘッドライト車速算出部37、推定車速算出部38a、検知判定距離算出部39a、および閾値変更部40aから構成されている。以下に、第2実施形態に係る立体物検出装置1aの各構成について説明する。なお、視点変換部31、ヘッドライト検出部36、ヘッドライト車速算出部37については、第1実施形態と同様の構成であるため、その説明は省略する。
【0090】
図20は、図19のカメラ10の撮像範囲等を示す図であり、図20(a)は平面図、図20(b)は、自車両V1から後側方における実空間上の斜視図を示す。図20(a)に示すように、カメラ10は所定の画角aとされ、この所定の画角aに含まれる自車両V1から後側方を撮像する。カメラ10の画角aは、図2に示す場合と同様に、カメラ10の撮像範囲に自車両V1が走行する車線に加えて、隣接する車線も含まれるように設定されている。
【0091】
本例の検出領域A1,A2は、平面視(鳥瞰視された状態)において台形状とされ、これら検出領域A1,A2の位置、大きさ及び形状は、距離d〜dに基づいて決定される。なお、同図に示す例の検出領域A1,A2は台形状に限らず、図2に示すように鳥瞰視された状態で矩形など他の形状であってもよい。
【0092】
ここで、距離d1は、自車両V1から接地線L1,L2までの距離である。接地線L1,L2は、自車両V1が走行する車線に隣接する車線に存在する立体物が地面に接触する線を意味する。本実施形態においては、自車両V1の後側方において自車両V1の車線に隣接する左右の車線を走行する隣接車両V2等(2輪車等を含む)を検出することが目的である。このため、自車両V1から白線Wまでの距離d11及び白線Wから隣接車両V2が走行すると予測される位置までの距離d12から、隣接車両V2の接地線L1,L2となる位置である距離d1を略固定的に決定しておくことができる。
【0093】
また、距離d1については、固定的に決定されている場合に限らず、可変としてもよい。この場合に、計算機30aは、白線認識等の技術により自車両V1に対する白線Wの位置を認識し、認識した白線Wの位置に基づいて距離d11を決定する。これにより、距離d1は、決定された距離d11を用いて可変的に設定される。以下の本実施形態においては、隣接車両V2が走行する位置(白線Wからの距離d12)及び自車両V1が走行する位置(白線Wからの距離d11)は大凡決まっていることから、距離d1は固定的に決定されているものとする。
【0094】
距離d2は、自車両V1の後端部から車両進行方向に伸びる距離である。この距離d2は、検出領域A1,A2が少なくともカメラ10の画角a内に収まるように決定されている。特に本実施形態において、距離d2は、画角aに区分される範囲に接するよう設定されている。距離d3は、検出領域A1,A2の車両進行方向における長さを示す距離である。この距離d3は、検出対象となる立体物の大きさに基づいて決定される。本実施形態においては、検出対象が隣接車両V2等であるため、距離d3は、隣接車両V2を含む長さに設定される。
【0095】
距離d4は、図20(b)に示すように、実空間において隣接車両V2等のタイヤを含むように設定された高さを示す距離である。距離d4は、鳥瞰視画像においては図20(a)に示す長さとされる。なお、距離d4は、鳥瞰視画像において左右の隣接車線よりも更に隣接する車線(すなわち2車線隣りの隣隣接車線)を含まない長さとすることもできる。自車両V1の車線から2車線隣の車線を含んでしまうと、自車両V1が走行している車線である自車線の左右の隣接車線に隣接車両V2が存在するのか、2車線隣りの隣隣接車線に隣隣接車両が存在するのかについて、区別が付かなくなってしまうためである。
【0096】
以上のように、距離d1〜距離d4が決定され、これにより検出領域A1,A2の位置、大きさ及び形状が決定される。具体的に説明すると、距離d1により、台形をなす検出領域A1,A2の上辺b1の位置が決定される。距離d2により、上辺b1の始点位置C1が決定される。距離d3により、上辺b1の終点位置C2が決定される。カメラ10から始点位置C1に向かって伸びる直線L3により、台形をなす検出領域A1,A2の側辺b2が決定される。同様に、カメラ10から終点位置C2に向かって伸びる直線L4により、台形をなす検出領域A1,A2の側辺b3が決定される。距離d4により、台形をなす検出領域A1,A2の下辺b4の位置が決定される。このように、各辺b1〜b4により囲まれる領域が検出領域A1,A2とされる。この検出領域A1,A2は、図20(b)に示すように、自車両V1から後側方における実空間上では真四角(長方形)となる。
【0097】
輝度差算出部41は、鳥瞰視画像に含まれる立体物のエッジを検出するために、視点変換部31により視点変換された鳥瞰視画像データに対して、輝度差の算出を行う。輝度差算出部41は、実空間における鉛直方向に伸びる鉛直仮想線に沿った複数の位置ごとに、当該各位置の近傍の2つの画素間の輝度差を算出する。輝度差算出部41は、実空間における鉛直方向に伸びる鉛直仮想線を1本だけ設定する手法と、鉛直仮想線を2本設定する手法との何れかによって輝度差を算出することができる。
【0098】
ここでは、鉛直仮想線を2本設定する具体的な手法について説明する。輝度差算出部41は、視点変換された鳥瞰視画像に対して、実空間で鉛直方向に伸びる線分に該当する第1鉛直仮想線と、第1鉛直仮想線と異なり実空間で鉛直方向に伸びる線分に該当する第2鉛直仮想線とを設定する。輝度差算出部41は、第1鉛直仮想線上の点と第2鉛直仮想線上の点との輝度差を、第1鉛直仮想線及び第2鉛直仮想線に沿って連続的に求める。以下、この輝度差算出部41の動作について詳細に説明する。
【0099】
輝度差算出部41は、図21(a)に示すように、実空間で鉛直方向に伸びる線分に該当し、且つ、検出領域A1を通過する第1鉛直仮想線La(以下、注目線Laという)を設定する。また輝度差算出部41は、注目線Laと異なり、実空間で鉛直方向に伸びる線分に該当し、且つ、検出領域A1を通過する第2鉛直仮想線Lr(以下、参照線Lrという)を設定する。ここで参照線Lrは、実空間における所定距離だけ注目線Laから離間する位置に設定される。なお、実空間で鉛直方向に伸びる線分に該当する線とは、鳥瞰視画像においてはカメラ10の位置Psから放射状に広がる線となる。この放射状に広がる線は、鳥瞰視に変換した際に立体物が倒れ込む方向に沿う線である。
【0100】
輝度差算出部41は、注目線La上に注目点Pa(第1鉛直仮想線上の点)を設定する。また輝度差算出部41は、参照線Lr上に参照点Pr(第2鉛直板想線上の点)を設定する。これら注目線La、注目点Pa、参照線Lr、参照点Prは、実空間上において図21(b)に示す関係となる。図21(b)から明らかなように、注目線La及び参照線Lrは、実空間上において鉛直方向に伸びた線であり、注目点Paと参照点Prとは、実空間上において略同じ高さに設定される点である。なお、注目点Paと参照点Prとは必ずしも厳密に同じ高さである必要はなく、注目点Paと参照点Prとが同じ高さとみなせる程度の誤差は許容される。
【0101】
輝度差算出部41は、注目点Paと参照点Prとの輝度差を求める。仮に、注目点Paと参照点Prとの輝度差が大きいと、注目点Paと参照点Prとの間にエッジが存在すると考えられる。特に、第2実施形態では、検出領域A1,A2に存在する立体物を検出するために、鳥瞰視画像に対して実空間において鉛直方向に伸びる線分として鉛直仮想線を設定しているため、注目線Laと参照線Lrとの輝度差が高い場合には、注目線Laの設定箇所に立体物のエッジがある可能性が高い。このため、図19に示すエッジ線検出部42は、注目点Paと参照点Prとの輝度差に基づいてエッジ線を検出する。
【0102】
この点をより詳細に説明する。図22は、輝度差算出部41の詳細動作を示す図であり、図22(a)は鳥瞰視された状態の鳥瞰視画像を示し、図22(b)は、図22(a)に示した鳥瞰視画像の一部B1を拡大した図である。なお図22についても検出領域A1のみを図示して説明するが、検出領域A2についても同様の手順で輝度差を算出する。
【0103】
カメラ10が撮像した撮像画像内に隣接車両V2が映っていた場合に、図22(a)に示すように、鳥瞰視画像内の検出領域A1に隣接車両V2が現れる。図22(b)に図22(a)中の領域B1の拡大図を示すように、鳥瞰視画像上において、隣接車両V2のタイヤのゴム部分上に注目線Laが設定されていたとする。この状態において、輝度差算出部41は、先ず参照線Lrを設定する。参照線Lrは、注目線Laから実空間上において所定の距離だけ離れた位置に、鉛直方向に沿って設定される。具体的には、本実施形態に係る立体物検出装置1aにおいて、参照線Lrは、注目線Laから実空間上において10cmだけ離れた位置に設定される。これにより、参照線Lrは、鳥瞰視画像上において、例えば隣接車両V2のタイヤのゴムから10cm相当だけ離れた隣接車両V2のタイヤのホイール上に設定される。
【0104】
次に、輝度差算出部41は、注目線La上に複数の注目点Pa1〜PaNを設定する。図22(b)においては、説明の便宜上、6つの注目点Pa1〜Pa6(以下、任意の点を示す場合には単に注目点Paiという)を設定している。なお、注目線La上に設定する注目点Paの数は任意でよい。以下の説明では、N個の注目点Paが注目線La上に設定されたものとして説明する。
【0105】
次に、輝度差算出部41は、実空間上において各注目点Pa1〜PaNと同じ高さとなるように各参照点Pr1〜PrNを設定する。そして、輝度差算出部41は、同じ高さ同士の注目点Paと参照点Prとの輝度差を算出する。これにより、輝度差算出部41は、実空間における鉛直方向に伸びる鉛直仮想線に沿った複数の位置(1〜N)ごとに、2つの画素の輝度差を算出する。輝度差算出部41は、例えば第1注目点Pa1とは、第1参照点Pr1との間で輝度差を算出し、第2注目点Pa2とは、第2参照点Pr2との間で輝度差を算出することとなる。これにより、輝度差算出部41は、注目線La及び参照線Lrに沿って、連続的に輝度差を求める。すなわち、輝度差算出部41は、第3〜第N注目点Pa3〜PaNと第3〜第N参照点Pr3〜PrNとの輝度差を順次求めていくこととなる。
【0106】
輝度差算出部41は、検出領域A1内において注目線Laをずらしながら、上記の参照線Lrの設定、注目点Pa及び参照点Prの設定、輝度差の算出といった処理を繰り返し実行する。すなわち、輝度差算出部41は、注目線La及び参照線Lrのそれぞれを、実空間上において接地線L1の延在方向に同一距離だけ位置を変えながら上記の処理を繰り返し実行する。輝度差算出部41は、例えば、前回処理において参照線Lrとなっていた線を注目線Laに設定し、この注目線Laに対して参照線Lrを設定して、順次輝度差を求めていくことになる。
【0107】
このように、第2実施形態では、実空間上で略同じ高さとなる注目線La上の注目点Paと参照線Lr上の参照点Prとから輝度差を求めることで、鉛直方向に伸びるエッジが存在する場合における輝度差を明確に検出することができる。また、実空間において鉛直方向に伸びる鉛直仮想線同士の輝度比較を行うために、鳥瞰視画像に変換することによって立体物が路面からの高さに応じて引き伸ばされてしまっても、立体物の検出処理が影響されることはなく、立体物の検出精度を向上させることができる。
【0108】
図19に戻り、エッジ線検出部42は、輝度差算出部41により算出された連続的な輝度差から、エッジ線を検出する。例えば、図22(b)に示す場合、第1注目点Pa1と第1参照点Pr1とは、同じタイヤ部分に位置するために、輝度差は、小さい。一方、第2〜第6注目点Pa2〜Pa6はタイヤのゴム部分に位置し、第2〜第6参照点Pr2〜Pr6はタイヤのホイール部分に位置する。したがって、第2〜第6注目点Pa2〜Pa6と第2〜第6参照点Pr2〜Pr6との輝度差は大きくなる。このため、エッジ線検出部42は、輝度差が大きい第2〜第6注目点Pa2〜Pa6と第2〜第6参照点Pr2〜Pr6との間にエッジ線が存在することを検出することができる。
【0109】
具体的には、エッジ線検出部42は、エッジ線を検出するにあたり、先ず下記式1に従って、i番目の注目点Pai(座標(xi,yi))とi番目の参照点Pri(座標(xi’,yi’))との輝度差から、i番目の注目点Paiに属性付けを行う。
[式1]
I(xi,yi)>I(xi’,yi’)+tのとき
s(xi,yi)=1
I(xi,yi)<I(xi’,yi’)−tのとき
s(xi,yi)=−1
上記以外のとき
s(xi,yi)=0
【0110】
上記式1において、tはエッジ閾値を示し、I(xi,yi)はi番目の注目点Paiの輝度値を示し、I(xi’,yi’)はi番目の参照点Priの輝度値を示す。上記式1によれば、注目点Paiの輝度値が、参照点Priにエッジ閾値tを加えた輝度値よりも高い場合には、当該注目点Paiの属性s(xi,yi)は‘1’となる。一方、注目点Paiの輝度値が、参照点Priからエッジ閾値tを減じた輝度値よりも低い場合には、当該注目点Paiの属性s(xi,yi)は‘−1’となる。注目点Paiの輝度値と参照点Priの輝度値とがそれ以外の関係である場合には、注目点Paiの属性s(xi,yi)は‘0’となる。なお、本実施形態において、エッジ閾値tは、立体物の検出を促進するために、後述する閾値変更部40aにより変更される場合があり、閾値変更部40aによりエッジ閾値tが変更された場合には、閾値変更部40aにより変更されたエッジ閾値tを用いて、注目点Paiの属性s(xi,yi)が検出される。
【0111】
次にエッジ線検出部42は、下記式2に基づいて、注目線Laに沿った属性sの連続性c(xi,yi)から、注目線Laがエッジ線であるか否かを判定する。
[式2]
s(xi,yi)=s(xi+1,yi+1)のとき(且つ0=0を除く)、
c(xi,yi)=1
上記以外のとき、
c(xi,yi)=0
【0112】
注目点Paiの属性s(xi,yi)と隣接する注目点Pai+1の属性s(xi+1,yi+1)とが同じである場合には、連続性c(xi,yi)は‘1’となる。注目点Paiの属性s(xi,yi)と隣接する注目点Pai+1の属性s(xi+1,yi+1)とが同じではない場合には、連続性c(xi,yi)は‘0’となる。
【0113】
次にエッジ線検出部42は、注目線La上の全ての注目点Paの連続性cについて総和を求める。エッジ線検出部42は、求めた連続性cの総和を注目点Paの数Nで割ることにより、連続性cを正規化する。そして、エッジ線検出部42は、正規化した値が閾値θを超えた場合に、注目線Laをエッジ線と判断する。なお、閾値θは、予め実験等によって設定された値である。
【0114】
すなわち、エッジ線検出部42は、下記式3に基づいて注目線Laがエッジ線であるか否かを判断する。そして、エッジ線検出部42は、検出領域A1上に描かれた注目線Laの全てについてエッジ線であるか否かを判断する。
[式3]
Σc(xi,yi)/N>θ
【0115】
このように、第2実施形態では、注目線La上の注目点Paと参照線Lr上の参照点Prとの輝度差に基づいて注目点Paに属性付けを行い、注目線Laに沿った属性の連続性cに基づいて当該注目線Laがエッジ線であるかを判断するので、輝度の高い領域と輝度の低い領域との境界をエッジ線として検出し、人間の自然な感覚に沿ったエッジ検出を行うことができる。この効果について詳細に説明する。図23は、エッジ線検出部42の処理を説明する画像例を示す図である。この画像例は、輝度の高い領域と輝度の低い領域とが繰り返される縞模様を示す第1縞模様101と、輝度の低い領域と輝度の高い領域とが繰り返される縞模様を示す第2縞模様102とが隣接した画像である。また、この画像例は、第1縞模様101の輝度が高い領域と第2縞模様102の輝度の低い領域とが隣接すると共に、第1縞模様101の輝度が低い領域と第2縞模様102の輝度が高い領域とが隣接している。この第1縞模様101と第2縞模様102との境界に位置する部位103は、人間の感覚によってはエッジとは知覚されない傾向にある。
【0116】
これに対し、輝度の低い領域と輝度が高い領域とが隣接しているために、輝度差のみでエッジを検出すると、当該部位103はエッジとして認識されてしまう。しかし、エッジ線検出部42は、部位103における輝度差に加えて、当該輝度差の属性に連続性がある場合にのみ部位103をエッジ線として判定するので、エッジ線検出部42は、人間の感覚としてエッジ線として認識しない部位103をエッジ線として認識してしまう誤判定を抑制でき、人間の感覚に沿ったエッジ検出を行うことができる。
【0117】
図19に戻り、立体物検出部34aは、エッジ線検出部42により検出されたエッジ線の量に基づいて立体物を検出する。上述したように、本実施形態に係る立体物検出装置1aは、実空間上において鉛直方向に伸びるエッジ線を検出する。鉛直方向に伸びるエッジ線が多く検出されるということは、検出領域A1,A2に立体物が存在する可能性が高いということである。このため、立体物検出部34aは、エッジ線検出部42により検出されたエッジ線の量に基づいて立体物を検出する。具体的には、立体物検出部34aは、エッジ線検出部42により検出されたエッジ線の量が、所定の閾値β以上であるか否かを判断し、エッジ線の量が所定の閾値β以上である場合には、エッジ線検出部42により検出されたエッジ線は、立体物のエッジ線であるものと判断する。
【0118】
さらに、立体物検出部34aは、立体物を検出するに先立って、エッジ線検出部42により検出されたエッジ線が正しいものであるか否かを判定する。立体物検出部34aは、エッジ線上の鳥瞰視画像のエッジ線に沿った輝度変化が所定の閾値tb以上である否かを判定する。エッジ線上の鳥瞰視画像の輝度変化が閾値tb以上である場合には、当該エッジ線が誤判定により検出されたものと判断する。一方、エッジ線上の鳥瞰視画像の輝度変化が閾値tb未満である場合には、当該エッジ線が正しいものと判定する。なお、この閾値tbは、実験等により予め設定された値である。
【0119】
図24は、エッジ線の輝度分布を示す図であり、図24(a)は検出領域A1に立体物としての隣接車両V2が存在した場合のエッジ線及び輝度分布を示し、図24(b)は検出領域A1に立体物が存在しない場合のエッジ線及び輝度分布を示す。
【0120】
図24(a)に示すように、鳥瞰視画像において隣接車両V2のタイヤゴム部分に設定された注目線Laがエッジ線であると判断されていたとする。この場合、注目線La上の鳥瞰視画像の輝度変化はなだらかなものとなる。これは、カメラ10により撮像された画像が鳥瞰視画像に視点変換されたことにより、隣接車両のタイヤが鳥瞰視画像内で引き延ばされたことによる。一方、図24(b)に示すように、鳥瞰視画像において路面に描かれた「50」という白色文字部分に設定された注目線Laがエッジ線であると誤判定されていたとする。この場合、注目線La上の鳥瞰視画像の輝度変化は起伏の大きいものとなる。これは、エッジ線上に、白色文字における輝度が高い部分と、路面等の輝度が低い部分とが混在しているからである。
【0121】
以上のような注目線La上の輝度分布の相違に基づいて、立体物検出部34aは、エッジ線が誤判定により検出されたものか否かを判定する。たとえば、カメラ10により取得された撮像画像を鳥瞰視画像に変換した場合、当該撮像画像に含まれる立体物は、引き伸ばされた状態で鳥瞰視画像に現れる傾向がある。上述したように、隣接車両V2のタイヤが引き伸ばされた場合に、タイヤという1つの部位が引き伸ばされるため、引き伸ばされた方向における鳥瞰視画像の輝度変化は小さい傾向となる。これに対し、路面に描かれた文字等をエッジ線として誤判定した場合に、鳥瞰視画像には、文字部分といった輝度が高い領域と路面部分といった輝度が低い領域とが混合されて含まれる。この場合に、鳥瞰視画像において、引き伸ばされた方向の輝度変化は大きくなる傾向がある。そのため、立体物検出部34aは、エッジ線に沿った輝度変化が所定の閾値tb以上である場合には、当該エッジ線が誤判定により検出されたものであり、当該エッジ線は、立体物に起因するものではないと判断する。これにより、路面上の「50」といった白色文字や路肩の雑草等がエッジ線として判定されてしまい、立体物の検出精度が低下することを抑制する。一方、立体物検出部34aは、エッジ線に沿った輝度変化が所定の閾値tb未満である場合には、当該エッジ線は、立体物のエッジ線であると判断し、立体物が存在するものと判断する。
【0122】
具体的には、立体物検出部34aは、下記式4,5の何れかにより、エッジ線の輝度変化を算出する。このエッジ線の輝度変化は、実空間上における鉛直方向の評価値に相当する。下記式4は、注目線La上のi番目の輝度値I(xi,yi)と、隣接するi+1番目の輝度値I(xi+1,yi+1)との差分の二乗の合計値によって輝度分布を評価する。下記式5は、注目線La上のi番目の輝度値I(xi,yi)と、隣接するi+1番目の輝度値I(xi+1,yi+1)との差分の絶対値の合計値よって輝度分布を評価する。
[式4]
鉛直相当方向の評価値=Σ[{I(xi,yi)−I(xi+1,yi+1)}
[式5]
鉛直相当方向の評価値=Σ|I(xi,yi)−I(xi+1,yi+1)|
【0123】
なお、上記式5に限らず、下記式6のように、閾値t2を用いて隣接する輝度値の属性bを二値化して、当該二値化した属性bを全ての注目点Paについて総和してもよい。
[式6]
鉛直相当方向の評価値=Σb(xi,yi)
但し、|I(xi,yi)−I(xi+1,yi+1)|>t2のとき、
b(xi,yi)=1
上記以外のとき、
b(xi,yi)=0
【0124】
注目点Paiの輝度値と参照点Priの輝度値との輝度差の絶対値が閾値t2よりも大きい場合、当該注目点Pa(xi,yi)の属性b(xi,yi)は‘1’となる。それ以外の関係である場合には、注目点Paiの属性b(xi,yi)は‘0’となる。この閾値t2は、注目線Laが同じ立体物上にないことを判定するために実験等によって予め設定されている。そして、立体物検出部34aは、注目線La上の全注目点Paについての属性bを総和して、鉛直相当方向の評価値を求めることで、エッジ線が立体物に起因するものであり、立体物が存在するか否かを判定する。
【0125】
また、図19に示すエッジ波形生成部43は、検出領域A1,A2に相当する部分から検出されたエッジ線に基づいて、一次元のエッジ波形EWを生成する。たとえば、エッジ波形生成部43は、第1実施形態における差分波形DWの生成と同様に、エッジ線に対応する画素数を、視点変換により立体物が倒れ込む方向に沿ってカウントして度数分布化することで、一次元のエッジ波形EDを生成することができる。
【0126】
図19に示すエッジ車速算出部44は、第1実施形態の差分車速算出部35と同様に、現在の時刻におけるエッジ波形EWと一時刻前のエッジ波形EWt−1とに基づいて、立体物の移動速度(自車両V1に対する隣接車両V2の相対車速)をエッジ車速として算出する。すなわち、エッジ車速算出部44は、エッジ波形EW,EWt−1の時間変化から、立体所定時間における物の移動距離を算出し、算出した立体物の移動距離を時間微分することで、自車両V1に対する立体物の相対移動速度(自車両V1に対する隣接車両V2の相対車速)をエッジ車速として算出する。
【0127】
図19に示す推定車速算出部38aは、ヘッドライト車速算出部37により算出されたヘッドライト車速と、エッジ車速算出部44により算出されたエッジ車速とに基づいて、レンズにおける雨滴などの異物の付着を考慮した隣接車両V2の相対車速を、推定車速として算出する。具体的には、推定車速算出部38aは、下記の数式3に示すように、エッジ車速算出部44により算出されたエッジ車速VELedと、ヘッドライト車速算出部37により算出されたヘッドライト車速VELhlとに対して、レンズにおける雨滴などの異物の付着量に応じた重み付けを行い、重み付けしたエッジ車速VELedとヘッドライト車速VELhlとの加重平均を行うことで、レンズにおける雨滴などの異物の付着を考慮した隣接車両V2の相対車速を、推定車速VELestとして算出する。
【数3】

なお、上記の数式3において、Wedはエッジ車速VELedに対する重み付けである。
【0128】
ここで、レンズに雨滴などの異物が付着している場合には、雨滴などの異物により隣接車両V2の像が歪んだり、ぼやけることで、隣接車両V2に起因するエッジを検出することが困難となる一方、雨滴などの異物に起因するエッジが検出されてしまう場合がある。そのため、レンズに雨滴などの異物が付着している場合には、第1実施形態の差分車速VELsaと同様に、隣接車両V2の実際の相対車速と、エッジに基づくエッジ車速VELedとに誤差が生じてしまう場合がある。そこで、第2実施形態においても、第1実施形態と同様に、推定車速VELestを算出する際に、レンズに付着した雨滴などの異物の付着量や、自車両V1が隣接車両V2に追い抜かれる場合であるか、自車両V1が隣接車両を追い抜く場合であるかの判断結果に応じて、ヘッドライト車速VELhlの重み付けWhlとエッジ車速VELedの重み付けWedとを設定する。すなわち、推定車速算出部38aは、レンズに付着した雨滴などの異物の付着量が多いほど、エッジ車速VELedの重み付けWedに対して、ヘッドライト車速VELhlの重み付けWhlを大きくし、また、自車両V1が隣接車両V2に追い抜かれる場合には、自車両V1が隣接車両を追い抜く場合と比べて、エッジ車速VELedの重み付けWedに対して、ヘッドライト車速VELhlの重み付けWhlを大きくする。
【0129】
検知判定距離算出部39aは、推定車速算出部38aにより算出された隣接車両V2の推定車速VELestに基づいて、隣接車両V2の検出後、隣接車両V2が移動した相対移動距離を検知判定距離Distとして算出する。
【0130】
閾値変更部40aは、図16に示すように、隣接車両V2が検出された第1タイミングt1(時刻t1)で、立体物(隣接車両V2)を検出するためのエッジ閾値tを低い値に変更し、隣接車両V2が検出された第1タイミングt1の後、検知判定距離Distが所定の基準距離Dstd以上となる第2タイミングt2(時刻t2)で、変更されたエッジ閾値tを元の値に戻す。これにより、隣接車両V2が検出領域A1,A2内で検出された場合に、検出領域A1,A2内に隣接車両V2が存在していると判断できる間において、隣接車両V2の検出を容易とすることができ、これにより、レンズに雨滴などの異物が付着した場合でも、検出領域A1,A2に存在する隣接車両V2を継続して検知することが可能となる。
【0131】
次に、第2実施形態に係る隣接車両検出方法について説明する。図25は、第2実施形態に係る隣接車両検出方法の詳細を示すフローチャートである。なお、図25においては、便宜上、検出領域A1を対象とする処理について説明するが、検出領域A2についても同様の処理が実行される。
【0132】
ステップS301では、カメラ10により、画角a及び取付位置によって特定された所定領域の撮像が行われ、計算機30aにより、カメラ10により撮像された撮像画像Pの画像データが取得される。次に視点変換部31は、ステップS302において、取得した画像データについて視点変換を行い、鳥瞰視画像データを生成する。
【0133】
次に輝度差算出部41は、ステップS303において、検出領域A1上に注目線Laを設定する。このとき、輝度差算出部41は、実空間上において鉛直方向に伸びる線に相当する線を注目線Laとして設定する。次に輝度差算出部41は、ステップS304において、検出領域A1上に参照線Lrを設定する。このとき、輝度差算出部41は、実空間上において鉛直方向に伸びる線分に該当し、且つ、注目線Laと実空間上において所定距離離れた線を参照線Lrとして設定する。
【0134】
次に輝度差算出部41は、ステップS305において、注目線La上に複数の注目点Paを設定する。この際に、輝度差算出部41は、エッジ線検出部42によるエッジ検出時に問題とならない程度の数の注目点Paを設定する。また、輝度差算出部41は、ステップS306において、実空間上において注目点Paと参照点Prとが略同じ高さとなるように、参照点Prを設定する。これにより、注目点Paと参照点Prとが略水平方向に並ぶこととなり、実空間上において鉛直方向に伸びるエッジ線を検出しやすくなる。
【0135】
次に輝度差算出部41は、ステップS307において、実空間上において同じ高さとなる注目点Paと参照点Prとの輝度差を算出する。そして、エッジ線検出部42は、輝度差算出部41により算出された輝度差に基づいて、上記式1に従って、各注目点Paの属性sを算出する。なお、本実施形態では、立体物のエッジを検出するためのエッジ閾値tを用いて、各注目点Paの属性sが算出される。このエッジ閾値tは、立体物の検出を促進するために、後述する閾値変更処理において変更される場合があり、エッジ閾値tが変更された場合には、変更されたエッジ閾値tが、このステップ307で用いられることとなる。
【0136】
次にエッジ線検出部42は、ステップS308において、上記式2に従って、各注目点Paの属性sの連続性cを算出する。そして、エッジ線検出部42は、ステップS309において、上記式3に従って、連続性cの総和を正規化した値が閾値θより大きいか否かを判定する。そして、正規化した値が閾値θよりも大きいと判断した場合(ステップS309=Yes)、エッジ線検出部42は、ステップS310において、当該注目線Laをエッジ線として検出する。そして、処理はステップS311に移行する。正規化した値が閾値θより大きくないと判断した場合(ステップS309=No)、エッジ線検出部42は、当該注目線Laをエッジ線として検出せず、処理はステップS311に移行する。
【0137】
ステップS311において、計算機30aは、検出領域A1上に設定可能な注目線Laの全てについて上記のステップS303〜ステップS310の処理を実行したか否かを判断する。全ての注目線Laについて上記処理をしていないと判断した場合(ステップS311=No)、ステップS303に処理を戻して、新たに注目線Laを設定して、ステップS311までの処理を繰り返す。一方、全ての注目線Laについて上記処理をしたと判断した場合(ステップS311=Yes)、処理はステップS312に移行する。
【0138】
ステップS312において、立体物検出部34aは、ステップS310において検出された各エッジ線について、当該エッジ線に沿った輝度変化を算出する。立体物検出部34aは、上記式4,5,6の何れかの式に従って、エッジ線の輝度変化を算出する。次に立体物検出部34aは、ステップS313において、エッジ線のうち、輝度変化が所定の閾値tb以上のエッジ線を除外する。すなわち、輝度変化の大きいエッジ線は正しいエッジ線ではないと判定し、エッジ線を立体物の検出には使用しない。これは、上述したように、検出領域A1に含まれる路面上の文字や路肩の雑草等がエッジ線として検出されてしまうことを抑制するためである。したがって、所定の閾値tbとは、予め実験等によって求められた、路面上の文字や路肩の雑草等によって発生する輝度変化に基づいて設定された値となる。一方、立体物検出部34aは、エッジ線のうち、輝度変化が所定の閾値tb未満であるエッジ線を、立体物のエッジ線と判断し、これにより、隣接車両に存在する立体物を検出する。
【0139】
次いで、ステップS314では、立体物検出部34aにより、エッジ線の量が、所定の閾値β以上であるか否かの判断が行われる。ここで、閾値βは、予め実験等によって求めておいて設定された値であり、たとえば、検出対象の立体物として四輪車を設定した場合に、当該閾値βは、予め実験等によって検出領域A1内において出現した四輪車のエッジ線の数に基づいて設定される。エッジ線の量が閾値β以上であると判定された場合(ステップS314=Yes)、立体物検出部34aは、検出領域A1内に立体物が存在するものと判断し、ステップS315に進み、隣接車両が存在すると判定される。一方、エッジ線の量が閾値β以上ではないと判定された場合(ステップS314=No)、立体物検出部34aは、検出領域A1内に立体物が存在しないものと判断し、ステップS316に進み、検出領域A1内に隣接車両が存在しないと判定される。
【0140】
続いて、図26を参照して、第2実施形態に係る閾値変更処理について説明する。なお、第2実施形態に係る閾値変更処理も、第1実施形態と同様に、図25に示す隣接車両検出処理と並行して行われる。また、第2実施形態に係る閾値変更処理は、カメラ10のレンズに雨滴などの異物が付着している場合でも、隣接車両V2を適切に検出することができるように、立体物(隣接車両V2)のエッジを検出するためのエッジ閾値tを変更するものである。そのため、この閾値変更処理において変更されたエッジ閾値tは、図25に示す隣接車両検出処理において、隣接車両V2のエッジを検出する際に用いられることとなる。
【0141】
ステップS401〜S404では、第1実施形態のステップS201〜S204と同様に、図25に示す隣接車両検出処理において、隣接車両V2が検出されたか否かの判断が行われ(ステップS401)、隣接車両V2が検出された場合には(ステップS401=Yes)、隣接車両V2のヘッドライトの検出が行われる(ステップS402)。そして、隣接車両V2のヘッドライトが検出された場合には(ステップS403=Yes)、隣接車両V2のヘッドライト車速の検出算出われる(ステップS404)。一方、隣接車両V2が検出されない場合(ステップS401=No)、または、隣接車両V2のヘッドライトの検出されない場合(ステップS403=No)には、ステップS401に戻り、隣接車両V2の検出と、隣接車両V2のヘッドライトの検出とが繰り返し行われる。
【0142】
そして、ステップS405では、エッジ波形生成部43により、エッジ波形EWの生成が行われ、その後、エッジ車速算出部44により、異なる時刻に生成されたエッジ波形EW,EWt−1に基づいて、自車両V1に対する隣接車両V2の相対車速が、エッジ車速VELedとして算出される。
【0143】
そして、ステップS406では、推定車速算出部38aにより、ステップS404で算出したヘッドライト車速VELhlと、ステップS405で算出したエッジ車速VELedとに基づいて、上記の数式3に従って、カメラ10のレンズに付着した雨滴などの異物を考慮した隣接車両V2の相対速度が、推定車速VELestとして算出される。なお、推定車速算出部38aは、ヘッドライト車速VELhlとエッジ車速VELedとの加重平均を求めることで推定車速VELestを算出するが、この際に、第1実施形態と同様に、レンズにおける雨滴などの異物の付着量や、自車両V1が隣接車両V2に追い抜かれる場面であるか否かの判断結果に基づいて、ヘッドライト車速VELhlの重み付けWhlとエッジ車速VELedの重み付けWedとを変更する。
【0144】
そして、ステップS407では、検知判定距離算出部39aにより、ステップS406で算出された隣接車両V2の推定車速VELestに基づいて、隣接車両V2の検知後に隣接車両V2が移動した相対移動距離が、検知判定距離Distとして算出される。
【0145】
ステップS408では、閾値変更部40aにより、検出領域A1,A2に存在している隣接車両V2を継続して検知するために、立体物(隣接車両V2)のエッジを検出するためのエッジ閾値tが変更される。具体的には、閾値変更部40は、カメラ10のレンズに雨滴などの異物が付着している場合でも、検出領域A1,A2に存在している隣接車両V2を検出することができるように、エッジ閾値tを低い値に変更する。
【0146】
そして、ステップS409では、閾値変更部40aにより、ステップS407で算出した検知判定距離Distの絶対値が、所定の基準値Dstd以上であるか否かの判断が行われる。検知判定距離Distの絶対値が基準値Dstd未満である場合には(ステップS409=No)、隣接車両V2は検出領域A1,A2内に存在すると判断し、エッジ閾値tを低い値に設定したまま、ステップS409で待機する。これにより、第2実施形態においても、検出領域A1,A2に存在する隣接車両V2を継続して検知することが可能となる。一方、検知判定距離Distの絶対値が基準値Dstd以上である場合には(ステップS409=Yes)、隣接車両V2は検出領域A1,A2内に存在しないと判断し、ステップS410に進み、閾値変更部40aにより、エッジ閾値tが元の値に戻される。
【0147】
以上のように、第2実施形態では、画像から隣接車両V2のエッジを検出し、検出したエッジに基づいて、隣接車両V2の相対車速をエッジ車速として算出する。そして、レンズに雨滴などの異物が多く付着している場合には、雨滴などの異物の影響が少ないヘッドライト車速VELhlの重み付けWhlを大きくし、レンズに雨滴などの異物の付着が少ない場合には、エッジ車速VELed車速の重み付けWedを大きくして、隣接車両V2の相対車速を、推定車速VELestとして算出する。これにより、レンズにおける雨滴などの異物が付着しているか否かにかかわらず、隣接車両V2の相対車速を推定車速VELestとして適切に算出することができる。
【0148】
そして、算出した隣接車両V2の推定車速VELestに基づいて、隣接車両V2の検出後に隣接車両V2が移動した相対移動距離を検知判定距離Distとして算出し、検知判定距離Distが基準距離Dstd未満である間は、立体物(隣接車両V2)のエッジを検出するためのエッジ閾値tを低い値に変更する。これにより、第2実施形態においても、隣接車両V2が検出領域A1,A2に存在すると判断できる間、隣接車両V2を検出し易くすることができため、たとえレンズに雨滴などの異物が付着している場合でも、検出領域A1,A2に存在する隣接車両V2を継続して検知することが可能となる。
【0149】
《第3実施形態》
続いて、第3実施形態に係る立体物検出装置1bについて説明する。第3実施形態に係る立体物検出装置1bは、図27に示すように、第1実施形態の計算機30に代えて、計算機30bを備えており、以下に説明するように動作すること以外は、第1実施形態と同様である。ここで、図27は、第3実施形態に係る計算機30bの詳細を示すブロック図である。
【0150】
第3実施形態に係る立体物検出装置1bは、図27に示すように、カメラ10と車速センサ20と計算機30bとを備えており、計算機30bは、視点変換部31と、位置合わせ部32と、差分波形生成部33と、立体物検出部34と、差分車速算出部35と、ヘッドライト検出部36と、ヘッドライト車速算出部37と、推定車速算出部38bと、検知判定距離算出部39と、閾値変更部40とから構成されている。以下において、第1実施形態と構成の異なる推定車速算出部38bについて説明し、その他の構成については、第1実施形態と同様であるため、その説明は省略する。
【0151】
第3実施形態に係る推定車速算出部38bは、ヘッドライト車速VELhlと、差分車速VELsaとを比較し、該比較結果に基づいて、推定車速VELestを算出する。具体的には、推定車速算出部38bは、ヘッドライト車速VELhlが正の値である場合(すなわち、自車両V1が隣接車両V2に追い抜かれている場合)には、ヘッドライト車速VELhlと差分車速VELsaのうち速い方の車速を、推定車速VELestとして算出する。すなわち、推定車速算出部38bは、ヘッドライト車速VELhlが正の値である場合において、ヘッドライト車速VELhlから差分車速VELsaを引いた値が0よりも大きい場合(VELhl−VELsa>0)、または、ヘッドライト車速VELhlを差分車速VELsaで除算した値が1よりも大きい場合(VELhl/VELsa>1)には、差分車速VELsaよりもヘッドライト車速VELhlの方が速いと判定し、ヘッドライト車速VELhlを推定車速VELestとして算出する。一方、ヘッドライト車速VELhlから差分車速VELsaを引いた値が0以下である場合(VELhl−VELsa≦0)、または、ヘッドライト車速VELhlを差分車速VELsaで除算した値が1以下である場合(VELhl/VELsa≦1)には、差分車速VELsaを推定車速VELestとして算出する。なお、ヘッドライト車速VELhlが正の値である場合において、ヘッドライト車速VELhlと差分車速VELsaとを比較する場合に、差分車速VELsaが負の値である場合には、差分車速VELsaを0(または0に近似する正の値)として扱う(すなわち、差分車速VELsaの下限値を0とする。)。
【0152】
また、推定車速算出部38bは、ヘッドライト車速VELhlが負の値である場合(すなわち、自車両V1が隣接車両V2を追い抜いている場合)には、ヘッドライト車速VELhlと差分車速VELsaのうち遅い方の車速を、推定車速VELestとして算出する。すなわち、推定車速算出部38bは、ヘッドライト車速VELhlが負の値である場合において、ヘッドライト車速VELhlから差分車速VELsaを引いた値が0よりも小さい場合(VELhl−VELsa<0)、または、ヘッドライト車速VELhlを差分車速VELsaで除算した値が1よりも大きい場合(VELhl/VELsa>1)に、差分車速VELsaよりもヘッドライト車速VELhlの方が遅いと判定し、ヘッドライト車速VELhlを推定車速VELestとして算出する。一方、ヘッドライト車速VELhlから差分車速VELsaを引いた値が0以上である場合(VELhl−VELsa≧0)、または、ヘッドライト車速VELhlを差分車速VELsaで除算した値が1以下である場合(VELhl/VELsa≦1)には、差分車速VELsaを推定車速VELestとして算出する。なお、ヘッドライト車速VELhlが負の値である場合において、ヘッドライト車速VELhlと差分車速VELsaとを比較する場合に、差分車速VELsaが正の値である場合には、差分車速VELsaを0(または0に近似する負の値)として扱う(すなわち、差分車速VELsaの上限値を0とする。)。
【0153】
なお、ヘッドライト車速VELhlと差分車速VELsaとで数値の正負が逆転している場合には、差分車速VELsaを優先して、差分車速VELsaを推定車速VELestとして算出する構成としてもよい。
【0154】
そして、推定車速算出部38bにより算出された推定車速VELestは、検知判定距離算出部39に出力される。これにより、検知判定距離算出部39は、推定車速算出部38bから取得した推定車速VELestを時間積分することで、隣接車両V2の相対移動距離を検知判定距離Distとして算出することができる。
【0155】
このように、第3実施形態では、推定車速VELestを算出する際に、ヘッドライト車速VELhlと差分車速VELsaとを比較し、ヘッドライト車速VELhlが正の値である場合には、ヘッドライト車速VELhlと差分車速VELsaのうち速い方の車速を、推定車速VELestとして算出し、ヘッドライト車速VELhlが負の値である場合には、ヘッドライト車速VELhlと差分車速VELsaのうち遅い方の車速を、推定車速VELestとして算出する。これにより、第3実施形態では、レンズに水滴などの異物が付着している場合に、図12(C)に示すように、レンズに付着した水滴などに起因する差分波形の影響により、差分波形に基づいて算出された差分車速VELsaが隣接車両V2の実際の移動速度と比べて、自車両V1の移動速度に近い速度となってしまう(相対移動速度が0に近づいてしまう)場合でも、隣接車両V2の推定車速VELestを適切に算出することができる。
【0156】
《第4実施形態》
続いて、第4実施形態に係る立体物検出装置1cについて説明する。第4実施形態に係る立体物検出装置1cは、図28に示すように、第1実施形態の計算機30に代えて、計算機30cを備えており、以下に説明するように動作すること以外は、第1実施形態と同様である。ここで、図28は、第4実施形態に係る計算機30cの詳細を示すブロック図である。
【0157】
第4実施形態に係る立体物検出装置1cは、図28に示すように、カメラ10と車速センサ20と計算機30cとを備えており、計算機30cは、視点変換部31と、位置合わせ部32と、差分波形生成部33と、立体物検出部34と、差分車速算出部35と、ヘッドライト検出部36と、ヘッドライト車速算出部37と、検知判定距離算出部39bと、閾値変更部40とから構成されている。以下において、第1実施形態と構成の異なる検知判定距離算出部39bについて説明し、その他の構成については、第1実施形態と同様であるため、その説明は省略する。
【0158】
検知判定距離算出部39bは、差分車速算出部35から差分車速VELsaを取得するとともに、ヘッドライト車速算出部37からヘッドライト車速VELhlを取得して、差分移動距離Dsaとヘッドライト移動距離Dhlを算出し、算出した差分移動距離Dsaとヘッドライト移動距離Dhlとの比較することで、検知判定距離Distを算出する。
【0159】
具体的には、検知判定距離算出部39bは、隣接車両V2の検出後の差分車速VELsaを時間積分することで、差分移動距離Dsaを算出するとともに、隣接車両V2の検出後のヘッドライト車速VELhlを時間積分することで、ヘッドライト移動距離Dhlを算出する。そして、検知判定距離算出部39bは、ヘッドライト車速VELhlが正の値である場合(すなわち、自車両V1が隣接車両V2に追い抜かれている場合)には、差分移動距離Dsaおよびヘッドライト移動距離Dhlのうち大きい方の距離を、検知判定距離Distとして算出する。すなわち、検知判定距離算出部39bは、ヘッドライト車速VELhlが正の値である場合に、ヘッドライト移動距離Dhlから差分移動距離Dsaを引いた値が0よりも大きい場合(Dhl−Dsa>0)には、差分移動距離Dsaよりもヘッドライト移動距離Dhlの方が大きいと判定し、ヘッドライト移動距離Dhlを検知判定距離Distとして算出する。一方、ヘッドライト移動距離Dhlから差分移動距離Dsaを引いた値が0以下である場合(Dhl−Dsa≦0)には、差分移動距離Dsaを検知判定距離Distとして算出する。
【0160】
また、検知判定距離算出部39bは、ヘッドライト車速VELhlが負の値である場合(すなわち、自車両V1が隣接車両V2を追い抜いている場合)には、差分移動距離Dsaおよびヘッドライト移動距離Dhlのうち小さい方の距離を、検知判定距離Distとして算出する。すなわち、検知判定距離算出部39bは、ヘッドライト車速VELhlが負の値である場合に、ヘッドライト移動距離Dhlから差分移動距離Dsaを引いた値が0よりも小さい場合(Dhl−Dsa<0)には、差分移動距離Dsaよりもヘッドライト移動距離Dhlの方が小さいと判定し、ヘッドライト移動距離Dhlを検知判定距離Distとして算出する。また、ヘッドライト移動距離Dhlから差分移動距離Dsaを引いた値が0以上である場合(Dhl−Dsa≧0)には、差分移動距離Dsaを検知判定距離Distとして算出する。
【0161】
なお、検知判定距離算出部39bは、ヘッドライト車速VELhlの数値の正負が入れ替わった場合には、ヘッドライト車速VELhlの数値の正負が入れ替わる前の検知判定距離Distを前回値Dpreとして保持し、検知判定距離Distをクリアした後、ヘッドライト車速VELhlの数値の正負が入れ替わった後の差分車速VELsaを時間積分することで、差分移動距離Dsaを算出するとともに、ヘッドライト車速VELhlの数値の正負が入れ替わった後のヘッドライト車速VELhlを時間積分することで、ヘッドライト移動距離Dhlを算出する。そして、検知判定距離算出部39bは、上述したように差分移動距離Dsaとヘッドライト移動距離Dhlを比較した比較結果に、前回値Dpreを加算することで、検知判定距離Distを算出する。
【0162】
このように、第4実施形態では、検知判定距離Distを算出する際に、隣接車両V2の検出後の差分車速VELsaを時間積分することで、差分移動距離Dsaを算出するとともに、隣接車両V2の検出後のヘッドライト車速VELhlを時間積分することで、ヘッドライト移動距離Dhlを算出する。そして、ヘッドライト移動距離Dhlと差分移動距離Dsaとを比較し、ヘッドライト車速VELhlが正の値である場合には、差分移動距離Dsaおよびヘッドライト移動距離Dhlのうち大きい方の距離を、検知判定距離Distとして算出し、ヘッドライト車速VELhlが負の値である場合には、差分移動距離Dsaおよびヘッドライト移動距離Dhlのうち小さい方の距離を、検知判定距離Distとして算出する。これにより、第4実施形態では、第3実施形態と同様に、レンズに水滴などの異物が付着している場合に、図12(C)に示すように、レンズに付着した水滴などに起因する差分波形の影響により、差分波形に基づいて算出された差分車速VELsaが隣接車両V2の実際の移動速度と比べて、自車両V1の移動速度に近い速度となってしまう(相対移動速度が0に近づいてしまう)場合でも、隣接車両V2が移動した相対移動距離を検知判定距離Distとして適切に算出することができる。
【0163】
なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。
【0164】
たとえば、上述した実施形態では、検出領域A1,A2において隣接車両V2を検出した場合に、差分閾値thまたはエッジ閾値tを低い値に設定する構成を例示したが、この構成に限定されず、たとえば、差分閾値th、エッジ閾値tに代えて、あるいは、差分閾値th、エッジ閾値tに加えて、立体物を検出するための閾値αや閾値βを低い値に設定する構成としてもよし、エッジ線を検出するための閾値θや閾値t2を低い値に変更してもよい。これによりレンズに雨滴などの異物が付着している場合でも、検出領域A1,A2に存在する隣接車両V2を継続して検知することができる。また、検出領域A1,A2において隣接車両V2を検出した場合に、カメラ10から出力される画素値(または輝度値)を高くする構成としてもよい。この場合、差分閾値thやエッジ閾値tを変更しなくても、差分画素DPやエッジが検出され易くなり、立体物(隣接車両V2)が検出され易くなるため、検出領域A1,A2に存在する隣接車両V2を継続して検知することができる。なお、この場合、検知判定距離Distが基準距離Dstd以上となる第2タイミングt2で、カメラ10から出力される画素値(または輝度値)が元の出力値に戻されることとなる。
【0165】
さらに、上述した実施形態では、立体物の移動速度が所定の条件を満たす場合に、該立体物を隣接車両V2として検出する構成を例示したが、たとえば、検出領域A1,A2において隣接車両V2を検出した場合において、上記の条件を緩くすることで、隣接車両V2の検出を促進する構成としてもよい。たとえば、上述した実施形態では、立体物の絶対移動速度が10km/h以上、かつ、自車両V1に対する立体物の相対移動速度が+60km/h以下である場合に、立体物を隣接車両V2と判断しているが、検出領域A1,A2において隣接車両V2を検出した場合には、たとえば、立体物の絶対移動速度が5km/h以上、かつ、自車両V1に対する立体物の相対移動速度が+70km/h以下である場合に、立体物は隣接車両V2であると判断す構成とする構成とすることができる。なお、この場合、検知判定距離Distが基準距離Dstd以上となる第2タイミングt2で、上記条件が、元の条件に戻されることとなる。
【0166】
また、上述した実施形態では、隣接車両V2の推定車速VELestを算出する際に、図15に示すように、レンズにおける雨滴などの異物の付着量に応じて、ヘッドライト車速VELhlの重みWhlと差分車速VELsaの重みWsaとを設定する構成を例示したが、この場合、レンズにおいて雨滴などの異物が検出されない場合には、差分車速VELsaを隣接車両V2の推定車速VELestとして算出し、反対に、雨滴などの異物が検出された場合には、ヘッドライト車速VELhlを隣接車両V2の推定車速VELestとして算出する構成としてもよい。すなわち、雨滴などの異物が検出されない場合には、ヘッドライト車速VELhlの重みWh付けlを0にして、隣接車両V2の推定車速VELestを算出し、雨滴などの異物が検出された場合には、差分車速VELsaの重みWs付けaを0にして、隣接車両V2の推定車速VELestを算出する構成としてもよい。
【0167】
なお、上述した実施形態のカメラ10は本発明の撮像手段に相当し、視点変換部31は本発明の画像変換手段に相当し、位置合わせ部32、差分波形生成部33、輝度差算出部41、エッジ線検出部42、立体物検出部34,34a、差分車速算出部35、エッジ波形生成部43、および、エッジ車速算出部44は本発明の立体物検出手段に相当し、ヘッドライト検出部36は本発明の光源検出手段に相当し、ヘッドライト車速算出部37は本発明の第2移動速度算出手段に相当し、推定車速算出部38,38aは本発明の推定移動速度算出手段、異物検出手段、および判断手段に相当し、検知判定距離算出部39,39aは本発明の検知距離算出手段に相当し、閾値変更部40,40aは本発明の制御手段および夜間判定手段に相当する。
【符号の説明】
【0168】
1,1a…立体物検出装置
10…カメラ
20…車速センサ
30,30a…計算機
31…視点変換部
32…位置合わせ部
33…差分波形生成部
34,34a…立体物検出部
35…差分車速算出部
36…ヘッドライト検出部
37…ヘッドライト車速算出部
38,38a…推定車速算出部
39,39a…検知判定距離算出部
40,40a…閾値変更部
41…輝度差算出部
42…エッジ線検出部
43…エッジ波形生成部
44…エッジ車速算出部
a…画角
A1,A2…検出領域
CP…交点
DP…差分画素
DW,DW’…差分波形
DWt1〜DW,DWm+k〜DWtn…小領域
L1,L2…接地線
La,Lb…立体物が倒れ込む方向上の線
P…撮像画像
PB…鳥瞰視画像
PD…差分画像
V1…自車両
V2…隣接車両
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28