特許第6200780号(P6200780)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 富士重工業株式会社の特許一覧

<>
  • 特許6200780-車線認識判定装置 図000002
  • 特許6200780-車線認識判定装置 図000003
  • 特許6200780-車線認識判定装置 図000004
  • 特許6200780-車線認識判定装置 図000005
  • 特許6200780-車線認識判定装置 図000006
  • 特許6200780-車線認識判定装置 図000007
  • 特許6200780-車線認識判定装置 図000008
  • 特許6200780-車線認識判定装置 図000009
  • 特許6200780-車線認識判定装置 図000010
  • 特許6200780-車線認識判定装置 図000011
  • 特許6200780-車線認識判定装置 図000012
  • 特許6200780-車線認識判定装置 図000013
  • 特許6200780-車線認識判定装置 図000014
  • 特許6200780-車線認識判定装置 図000015
  • 特許6200780-車線認識判定装置 図000016
  • 特許6200780-車線認識判定装置 図000017
  • 特許6200780-車線認識判定装置 図000018
  • 特許6200780-車線認識判定装置 図000019
  • 特許6200780-車線認識判定装置 図000020
  • 特許6200780-車線認識判定装置 図000021
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6200780
(24)【登録日】2017年9月1日
(45)【発行日】2017年9月20日
(54)【発明の名称】車線認識判定装置
(51)【国際特許分類】
   G06T 7/60 20170101AFI20170911BHJP
   G06T 7/00 20170101ALI20170911BHJP
   G06T 1/00 20060101ALI20170911BHJP
【FI】
   G06T7/60 200J
   G06T7/00 650A
   G06T1/00 330A
【請求項の数】8
【全頁数】17
(21)【出願番号】特願2013-230228(P2013-230228)
(22)【出願日】2013年11月6日
(65)【公開番号】特開2015-90584(P2015-90584A)
(43)【公開日】2015年5月11日
【審査請求日】2016年8月4日
(73)【特許権者】
【識別番号】000005348
【氏名又は名称】株式会社SUBARU
(74)【代理人】
【識別番号】100076233
【弁理士】
【氏名又は名称】伊藤 進
(74)【代理人】
【識別番号】100101661
【弁理士】
【氏名又は名称】長谷川 靖
(74)【代理人】
【識別番号】100135932
【弁理士】
【氏名又は名称】篠浦 治
(72)【発明者】
【氏名】田村 悠一郎
【審査官】 岡本 俊威
(56)【参考文献】
【文献】 特開2013−012044(JP,A)
【文献】 特開2012−014398(JP,A)
【文献】 特開2011−243161(JP,A)
【文献】 特開2003−168123(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 1/00
G06T 7/00−7/90
(57)【特許請求の範囲】
【請求項1】
自車走行路の前方を撮影した画像上の左右の各白線検出領域内で水平方向に延在する複数の検索ライン毎に輝度差によりエッジ点を抽出するエッジ点抽出手段と、
前記エッジ点抽出手段で抽出したエッジ点の点列に基づきハフ変換によりハフ直線を求め、該ハフ直線に基づいて、自車走行路を区画する区画線を検出する所定幅の白線候補点抽出領域を設定する白線候補点抽出領域設定手段と、
前記白線候補点抽出領域よりも画像上中央側に外れた領域のエッジ点を第0白線候補点として抽出すると共に、該第0白線候補点の数を算出する第0白線候補点数算出手段と、
前記第0白線候補点数算出手段で算出した前記第0白線候補点の数、及び分布に基づき前記区画線よりも画像上中央側に描かれている内側誘導線の認識信頼度を判定する誘導線認識信頼度判定手段と
を備えることを特徴とする車線認識判定装置。
【請求項2】
前記誘導線認識信頼度判定手段は、前記認識信頼度をカウント数に基づいて判定し、該カウント数が設定信頼度判定閾値以下の場合、前記内側誘導線の認識信頼度が低いと判定し、前記第0白線候補点による白線形状の推定は行わない
ことを特徴とする請求項1記載の車線認識判定装置。
【請求項3】
前記誘導線認識信頼度判定手段は、前記第0白線候補点の数が設定閾値以下の場合、前記カウント数をデクリメントする
ことを特徴とする請求項2記載の車線認識判定装置。
【請求項4】
前記誘導線認識信頼度判定手段は、前記第0白線候補点の水平方向の位置の平均値と該第0白線候補点よりも外側のエッジ点の水平方向の位置の平均値との差から求めた幅が所定下限幅と所定上限幅との間から外れている場合、前記カウント数をデクリメントする
ことを特徴とする請求項2或いは3記載の車線認識判定装置。
【請求項5】
前記白線候補点抽出領域設定手段で設定した前記白線候補点抽出領域内のエッジ点を第1白線候補点として抽出する共に、該第1白線候補点の数を算出する第1白線候補点数算出手段を備え、
前記誘導線認識信頼度判定手段は、第0白線候補点の水平方向の位置の平均値に予め設定されている前記内側誘導線幅を加算した値と、前記第1白線候補点数算出手段で求めた前記第1白線候補点の水平方向の位置の平均値との差から求められる隙間が、所定下限隙間と所定上限隙間との間から外れている場合、前記カウント数をデクリメントする
ことを特徴とする請求項2〜4の何れか1項に記載の車線認識判定装置。
【請求項6】
前記誘導線認識信頼度判定手段は、1フレームの画像中で検出した最初の第0白線候補点から最後の第0白線候補点までの距離が設定閾値以下の場合、前記カウント数をデクリメントする
ことを特徴とする請求項2〜5の何れか1項に記載の車線認識判定装置。
【請求項7】
前記誘導線認識信頼度判定手段は、前記第0白線候補点の水平方向の位置の平均値と該第0白線候補点よりも外側のエッジ点の水平方向の位置の平均値との差から求めた幅のヒストグラムを生成し、該幅の所定ピーク幅以上を示す数を求め、該数の第0白線候補点数に対する比率が所定ピーク判定閾値以下の場合、前記カウント数をデクリメントする
ことを特徴とする請求項2〜6の何れか1項に記載の車線認識判定装置。
【請求項8】
前記誘導線認識信頼度判定手段は、前記各第1白線候補点の平均輝度と前記各第0白線候補点の平均輝度との差分を求め、該差分が所定輝度差判定閾値以下の場合、前記カウント数をデクリメントする
ことを特徴とする請求項2〜7の何れか1項に記載の車線認識判定装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、自車走行路の前方を撮影した画像データに基づき内側誘導線が認識されているか否かの信頼度を判定する車線認識判定装置に関する。
【背景技術】
【0002】
従来、高速道路等の走行において、自車両前方の走行環境を検出し、検出した走行環境データに基づいて、自車走行レーンの左右を区画する走行車線を検出し、この走行車線に沿って自車両を自動走行させる車線維持制御や、認識した車線位置から自車両が逸脱すると予測される場合には警告を発して、運転者に注意を促す車線逸脱警報等の運転支援装置が知られている。
【0003】
自車両を走行車線に沿って正確に走行させるためには、この走行車線の位置を正確に推定する必要がある。この走行車線位置を推定する手段としては、車両に搭載されているカメラ等のイメージセンサ(以下、「車載カメラ」と称する)で検出した自車両前方の走行環境に基づき、路面と白線との輝度差から白線のエッジを検出し、この白線のエッジから走行車線位置を推定する技術が知られている。
【0004】
ところで、高速道路上の走行車線は、走行レーンを区画する左右の走行車線のみならず、カーブ路等には、走行車線とその内側の誘導線(いわゆるドットライン)とからなる二重白線が描かれている場合がある。白線のエッジを路面との輝度差により検出する技術では、道路内側の白線が外側の白線よりも輝度差が明確に現れるため、二重白線では、内側誘導線の内側エッジに基づいて車線を推定する場合が多い。
【0005】
例えば、特許文献1(特開2012−58984号公報)には車線候補点のプロット位置が、二重白線の入口(開始端)では走行車線の内側エッジから誘導線の内側エッジに切換り、切換り後の点列に基づいて車線を推定する技術が開示されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2012−58984号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
上述したように、特許文献1に開示されている技術では、二重白線の入口(開始端)では、車線候補点の検出位置が内側誘導線の内側エッジに切換ってしまうため、この切換わりタイミングが明確ではない。又、同文献では、二重白線の入口を検出した場合、今回の演算時を基準として設定時間幅前におけるパラメータ係数の点列から設定時間進み、後の予測パラメータを設定するに際し、この設定時間幅を長くし、過去のパラメータ係数の点列を多くすることで、安定して車線を推定することができるようにしている。
【0008】
しかし、当該文献に開示されている技術では、二重白線の入口(開始端)を検出した場合、過去のデータを多く取り込む必要があるため、応答遅れが生じ易い。又、二重白線の入口が検出されると、車線候補点が内側車線に自動的に切換わってしまうため、これが、例えば、走行車線に沿って形成された轍に存在する水溜まり、走行車線に沿って存在する残雪、或いは補修跡のエッジを誘導線の内側エッジと誤認識した場合、その後の車線推定が不安定となってしまう不具合がある。
【0009】
本発明は上記事情に鑑み、二重白線の入口(開始端)を検出して車線候補点が内側誘導線の内側エッジに切換わる際のタイミングを明確にし、しかも、内側誘導線とノイズ成分とを明確に区分することのできる車線認識判定装置を提供することを目的とする。
【課題を解決するための手段】
【0010】
本発明による車線認識判定装置は、自車走行路の前方を撮影した画像上の左右の各白線検出領域内で水平方向に延在する複数の検索ライン毎に輝度差によりエッジ点を抽出するエッジ点抽出手段と、前記エッジ点抽出手段で抽出したエッジ点の点列に基づきハフ変換によりハフ直線を求め、該ハフ直線に基づいて、自車走行路を区画する区画線を検出する所定幅の白線候補点抽出領域を設定する白線候補点抽出領域設定手段と、前記白線候補点抽出領域よりも画像上中央側に外れた領域のエッジ点を第0白線候補点として抽出すると共に、該第0白線候補点の数を算出する第0白線候補点数算出手段と、前記第0白線候補点数算出手段で算出した前記第0白線候補点の数、及び分布に基づき前記区画線よりも画像上中央側に描かれている内側誘導線の認識信頼度を判定する誘導線認識信頼度判定手段とを備える。
【発明の効果】
【0011】
本発明によれば、自車走行路の前方を撮影した画像から輝度差により抽出したエッジ点の点列に基づきハフ変換によりハフ直線を求め、このハフ直線に基づいて、自車走行路を区画する区画線を検出する所定幅の白線候補点抽出領域を設定し、この白線候補点抽出領域よりも画像上中央側に外れた領域のエッジ点を第0白線候補点として抽出すると共に、この第0白線候補点の数を算出し、この第0白線候補点の数、及び分布に基づき区画線よりも画像上中央側に描かれている内側誘導線の認識信頼度を判定するようにしたので、認識信頼度が低い場合は、内側誘導線による白線形状の推定が行われず、従って、内側誘導線とノイズ成分とを明確に区分することができると共に、車線候補点が内側誘導線の内側エッジに切換わるタイミングを明確化させることができ、又、過去のパラメータ係数の点列を多く取り入れていないため、二重白線の入口(開始端)を検出して車線候補点が内側誘導線の内側エッジに切換わる際に応答遅れが生じることもない。
【図面の簡単な説明】
【0012】
図1】車線認識判定装置を備える車両用運転支援装置の概略構成図
図2】二重白線移行開始判定処理ルーチンを示すフローチャート(その1)
図3】二重白線移行開始判定処理ルーチンを示すフローチャート(その2)
図4】白線形状推定処理ルーチンを示すフローチャート
図5】走行車線を撮影したフレーム画像の説明図
図6】実空間上に座標変換された走行車線の内側エッジを検出した車線候補点列の説明図
図7】走行車線の内側に帯状の水溜まりが存在するフレーム画像の説明図
図8】実空間上に座標変換された走行車線の内側エッジと水溜まりのエッジを検出した車線候補点列の説明図
図9】二重白線を撮影したフレーム画像の説明図
図10】実空間上に座標変換された走行車線の内側エッジと内側誘導線の内側エッジを検出した車線候補点列の説明図
図11】水平検索ラインにおける白線検出領域での輝度及び輝度の微分値の推移を示す説明図
図12】(a)は二重白線に対する候補点列の説明図、(b)は走行車線の内側に水溜まりが存在する場合の候補点列の説明図、(c)は走行車線の内側に帯状の残雪が存在する場合の候補点列の説明図
図13】前回の代表位置を今回の代表位置に移動させる際の座標変換の説明図
図14】自車両の移動に伴うエッジ点の推定位置を示す説明図
図15】実空間上に座標変換された候補点列と後方白線候補点を示す説明図
図16】ハフ変換の演算方法を示す説明図
図17】ハフ空間を示す説明図
図18】(a)はハフ直線及び白線候補点抽出領域を示す説明図、(b)は抽出された白線候補点を示す説明図
図19】(a)は二重白線入口と判定される直前の白線候補点抽出領域よりも内側のエッジ点を示す説明図、(b)は二重白線入口と判定されたときの白線候補点を示す説明図
図20】白線候補点及び後方白線候補点から認識された白線近似曲線及び白線検索領域を示す説明図
【発明を実施するための形態】
【0013】
以下、図面に基づいて本発明の一実施形態を説明する。図1において、符号1は自動車等の車両(自車両)であり、この車両1に、自車両前方の環境情報に基づいて車両を操向(操舵制御、ブレーキ制御等)する運転支援装置2が搭載されている。この運転支援装置2は、例えば、車載イメージセンサとしての車載カメラ3、ステレオ画像認識装置4、運転支援手段としての機能を備える制御ユニット5等で構成されている。
【0014】
又、自車両1には、自車速を検出する車速センサ11、ヨーレートを検出するヨーレートセンサ12、運転支援制御の各機能のON/OFF切換等を行うメインスイッチ13、ステアリングホイール14に連設するステアリング軸14aに対設されて舵角を検出する舵角センサ15、運転者によるアクセルペダル踏込量(アクセル開度)を検出するアクセル開度センサ16等が設けられている。更に、このステアリング軸14aに運転者のステアリング操作をアシストするパワーステアリングモータ17が連設されている。
【0015】
又、車載カメラ3は、ステレオ光学系として、CCDやCMOS等の固体撮像素子を備えるメインカメラとサブカメラとからなる左右1組のカラーカメラで構成されている。この各カメラは、それぞれフロントガラス背面の車室内の天井に一定の間隔を持って取り付けられ、車外の対象を異なる視点からステレオ撮影し、その画像データをステレオ画像認識装置4に送信する。尚、以下の説明において、ステレオ撮影された画像のうちメインカメラで撮影した画像を基準画像、サブカメラで撮影した画像を比較画像と称する。
【0016】
ステレオ画像認識装置4は、先ず、基準画像を4×4画素の小領域に分割し、それぞれの小領域の輝度或いは色のパターンを比較画像と比較して対応する領域を見つけ出し、基準画像全体に渡る距離分布を求める。更に、ステレオ画像認識装置4は、基準画像上の各画素について隣接する画素との輝度差を調べ、これらの輝度差がしきい値を超えているものをエッジ点として抽出すると共に、抽出した画素(エッジ点)に距離情報を付与することで、距離画像(距離情報を備えたエッジ点の分布画像)を生成する。そして、ステレオ画像認識装置4は、生成した距離画像に対して周知のグルーピング処理を行い、予め記憶していた3次元的な枠(ウインドウ)と比較することで、自車前方の白線、側壁、立体物等を認識する。
【0017】
ここで、本実施形態において認識対象となる白線とは、例えば、自車走行レーンを区画する左右の白線(区画線)21L,21Rや、この区画線21L,21Rと、その内側に描かれている内側誘導線22(図5図9参照)からなる、いわゆる二重白線等、道路上に延在して自車走行レーンを示すために描かれた線の総称である。各白線の形態としては、実線、破線等を問わず、更に、黄色線等を含む。又、本実施形態の白線の形状認識においては、道路上に実在する白線が二重白線であっても、左右それぞれ単一の近似線で近似して各白線の内側エッジに沿った形状を推定するものとする。
【0018】
この白線形状の推定に際し、ステレオ画像認識装置4は、例えば、図5図7図9に示すように、今回撮影した1つのフレームの基準画像データ上に白線検出領域Al,Ar(以下、Al,ArをAと総称して説明する)を設定し、この各白線検出領域A内で、1画素ピッチの水平検索ラインi上を下側(自車両の手前側)から遠方となる上方向(j方向)に1画素ピッチずつオフセットしながら画素を順次車幅方向内側(画像上中央側)から外側に向けて検索し輝度変化を調べる。そして、ステレオ画像認識装置4は、各白線検出領域A内の各水平検索ライン上において、輝度が暗から明に所定以上変化するエッジ点が存在する場合には、最初のエッジ点を第1のエッジ点P1として検出し、次のエッジ点を第2のエッジ点P2として検出する。
【0019】
又、ステレオ画像認識装置4は、検出した第1,第2のエッジ点P1,P2の各点列に基づいて自車走行路を区画する白線が走行車線のみ(以下、単白線と称する)か、二重白線であるかを判定する。
【0020】
そして、白線が単白線であると判定した場合、ステレオ画像認識装置4は、第1のエッジ点P1の点列に基づいてハフ直線Hl,Hr(以下、Hl,HrをHと総称して説明する)を演算し、このハフ直線Hに基づいて定めた白線候補点抽出領域Adl,Adr(以下、Adl,AdrをAdと総称して説明する)内に存在する第1のエッジ点P1を白線候補点Psとして抽出する。尚、詳細については後述するが、図19(a)に示すように、白線候補点抽出領域Adはハフ直線Hを挟んで内側に所定幅α1、外側に所定幅α2を有しており、内側の所定幅α1は、図9に示す区画線21L,21Rの内側エッジから内側誘導線22の内側エッジまでの距離よりも短く、且つ区画線21L,21Rの線幅よりも長い値に設定されている。
【0021】
一方、白線が二重白線であると判定した場合、ステレオ画像認識装置4は、検出された第2のエッジ点P2に基づいて演算したハフ直線Hを基準として定めた白線候補点抽出領域Adよりも内側に存在する第1のエッジ点P1を白線候補点Psとして抽出する。上述したように、白線候補点抽出領域Adの内側の所定幅α1は、区画線21L,21Rの内側エッジから内側誘導線22の内側エッジまでの距離よりも短く設定されているため、二重白線の場合、第1のエッジ点P1は白線候補点抽出領域Adから外れた内側に存在する。
【0022】
又、ステレオ画像認識装置4は、前フレーム以前に抽出した白線候補点Psの座標と自車の移動量とに基づいて自車後方の設定距離(例えば、20〜30[m])内における後方白線候補点Ps_preを推定し、抽出した白線候補点Ps及び推定した後方白線候補点Ps_preの点列に基づいて白線の形状を近似する。
【0023】
制御ユニット5には、ステレオ画像認識装置4で認識された自車両1前方の走行環境情報が入力される。更に、制御ユニット5には、自車両1の走行情報として、車速センサ11で検出した車速V、ヨーレートセンサ12で検出したヨーレートγ等が入力されると共に、運転者による操作入力情報として、メインスイッチ13からのON/OFF信号、舵角センサ15で検出した舵角θst、アクセル開度センサ15で検出したアクセル開度θacc等が入力される。
【0024】
そして、例えば、運転者によるメインスイッチ13の操作を通じて、運転支援制御の機能の1つである車線逸脱防止制御や、車線維持支援制御等の実行が指示されると、制御ユニット5は、ステレオ画像認識装置4で認識した走行車線(白線形状の近似線)に基づいて逸脱判定ラインを設定すると共に、自車走行路を推定する。そして、車線逸脱防止制御では、自車両が逸脱判定ラインから逸脱傾向にあると判断した場合に、自車両を車線中央側へ戻す操向(操舵制御やブレーキ制御)を行い、又、車線維持支援制御は、走行車線内に目標走行位置を設定し、自車両が目標走行位置に沿って走行するように操向(操舵制御やブレーキ制御)を行う。
【0025】
上述したステレオ画像認識装置4で実行される白線形状認識処理は、具体的には、図2図3に示す二重白線移行開始判定処理ルーチン、及び、図4に示す白線形状推定処理ルーチンに従って行われる。
【0026】
図2図3に示すフローチャートは、1フレーム毎に実行され、先ず、ステップS1で、車載カメラ3で撮影された画像(基準画像)からエッジ点Pを検出する。すなわち、ステレオ画像認識装置4は、図5図7図9に示すように、画像上に設定された白線検出領域A内の水平検索ライン毎に車幅方向内側(画像の幅方向中央)から外側(図のi方向)に向けて輝度の変化を調べ、外側の画素の輝度が内側の画素の輝度に対して相対的に高く、且つ、その変化量を示す輝度の微分値がプラス側の設定しきい値以上のエッジ点PH(白線開始点)を検索する。続いて、内側の画素の輝度に対して相対的に低く、且つ、その変化量を示す輝度の微分値がマイナス側の設定しきい値以下となるエッジ点PL(白線終了点)を検索する(図11参照)。
【0027】
そして、白線検出領域A内にひとつのエッジ点PH(白線開始点)が検出された場合、当該エッジ点PHを第1のエッジ点P1として設定する。或いは、白線検出領域A内に2以上のエッジ点PHが検出された場合は、例えば、最初のエッジ点PHを第1のエッジ点P1、次のエッジ点PHを第2のエッジ点P2として設定する。更に、ステレオ画像認識装置4は、検出した各エッジ点PHに距離画像上の距離情報を付与することにより、各エッジ点PHの座標を実空間上の座標に変換する(図6図8図10参照)。尚、このステップS1での処理が、本発明のエッジ点抽出手段に対応している。
【0028】
その後、ステップS2へ進むと、前フレーム以前に抽出された白線候補点Psの座標と自車両1の移動量とに基づいて後方白線候補点Ps_preを推定する。ここで、自車両1の移動量は、例えば、自車速Vとヨー角θ(ヨーレート(dθ/dt)から計算される角度)を用いて求めることが可能である。例えば、図13に示すように、フレームレートをΔtとすると、自車両1が1フレームで自車両1‘方向、すなわち、X軸方向及びZ軸方向に移動する移動量Δx,Δzは、以下の(1),(2)式から求めることができる。
【0029】
Δx=V・Δt・sinθ …(1)
Δz=V・Δt・cosθ …(2)
従って、例えば、図14に示すように、前フレームで検出された白線候補点Ps_oldの座標を(xold,zold)とし、当該白線候補点Ps_oldが現フレームの白線候補点(後方白線候補点)Ps_preに移動したと推定した場合、その座標(xpre,zpre)は、以下の(3),(4)式から求めることができる。すなわち、座標(xpre,zpre)は、座標(xold,zold)に対して車両移動量Δx,Δzを減算した後、現在のフレームにおける車両固定座標系(X’,Z’)への座標変換を行うことで求めることができる。
【0030】
xpre=(xold−Δx)・cosθ−(zold−Δz)・sinθ …(3)
zpre=(xold−Δx)・sinθ+(zold−Δz)・cosθ …(4)
これにより、例えば、図15に示すように、自車両1の後方の設定距離内における後方白線候補点Ps_preを推定することができる。
【0031】
その後、ステップS3へ進むと、第1のエッジ点P1の点列を用いてハフ変換によりハフ直線Hを求める。ここで、ハフ直線Hの求め方について例示する。先ず、図16に示すように、点列を構成する各第1のエッジ点P1のそれぞれに対し、第1のエッジ点P1を通る直線hの傾きを0°〜180°まで所定の角度Δθ毎に変化させ、以下の(5)式に基づいて各角度θにおける原点Oから直線hまでの距離(垂線の長さ)であるオフセット量ρを求める。
【0032】
ρ=x・cosθ+z・sinθ …(5)
そして、各エッジ点P1について求めた各角度θとオフセット量ρとの関係を、図17に示すハフ平面(θ,ρ)上の該当箇所に度数として投票(投影)する。その後、ハフ平面(θ,ρ)上の度数が最も大きくなる角度θとオフセット量ρとの組み合わせを抽出し、当該角度θとオフセット量ρとを用いて(5)式で規定される直線(ハフ直線H)を求める。尚、今回求めたハフ直線Hは、次回のルーチン実行時に、ハフ直線Holdとして、後のステップS4で読込まれる。
【0033】
次いで、ステップS4へ進むと、前回のフレーム画像に基づいて求めたハフ直線Holdを読込み、続く、ステップS5で、このハフ直線Holdを基準として所定幅の白線候補点抽出領域Adを設定する。図18(a)、図19(a)に示すように、白線候補点抽出領域Adは、ハフ直線Hを挟む内側と外側に、所定幅α1,α2が設定されている。内側の所定幅α1は、上述したように、図9に示す二重白線の区画線21L,21Rの内側エッジから内側誘導線22の内側エッジまでの間の距離よりも短く、且つ、区画線21L(或いは21R)の線幅よりも長い値に設定されている。尚、二重白線の区画線21L,21R、内側誘導線22の幅、及び区画線21L,21Rの内側エッジと内側誘導線22の外側エッジとの間隔は予め規定されている。
【0034】
一方、外側の所定幅α2は、区画線21L(或いは21R)の線幅よりも長い値に設定されており、本実施形態では、所定幅α1と同じ幅に設定されている。従って、二重白線の場合、図19(a)に示すように、内側誘導線22の内側エッジを検出する第1のエッジ点P1は。この白線候補点抽出領域Adから外れた内側に点在する。尚、図18図19Iは、左側区画線21Lが記載されているが、右側区画線21Rに対しても同様に白線候補点抽出領域Adが設定される。又、ステップS3〜5での処理が、本発明の白線候補点抽出領域設定手段に対応している。
【0035】
その後、ステップS6へ進むと、白線候補点抽出領域Ad内に存在する第1,第2のエッジ点P1,P2を第1白線候補点Ps1として抽出し(図18(b)参照)、続く、ステップS7で、第1白線候補点Ps1の数n1(以下、第1白線候補点数n1と称す)を算出する。
【0036】
そして、ステップS8へ進み、白線候補点抽出領域Adよりも車幅方向内側に存在するエッジ点P1を、第0白線候補点Ps0として抽出し(図18(b)参照)、続く、ステップS9で、この第0白線候補点Ps0の数n0(以下、第0白線候補点数n0と称す)を算出する。尚、このステップS8,S9での処理が、本発明の第0白線候補点数算出手段に対応している。
【0037】
その後、ステップS10へ進み、このステップS10〜ステップS33で、二重白線移行開始タイミング、すなわち、第0白線候補点Ps0に基づいて後述する車線モデル式の構築を開始するタイミングを判定する。尚、このステップS10〜S33での処理が、本発明の誘導線認識信頼度判定手段に対応している。
【0038】
上述したステップS5では、白線候補点抽出領域Adを、前回のフレームに基づいて設定したハフ直線Holdを基準として設定している。こうすることで、例えば、図7に示すように、区画線21Lの内側に、水溜まりや残雪、或いは補修跡等のノイズ成分25が、区画線21Lに沿って存在していても、白線候補点Ps1に基づいて車線モデル式が求められるため、ノイズ成分25の影響を受け難い。反面、ノイズ成分25ではない、二重白線の内側誘導線22が検出された場合であっても、車線モデル式を構築する白線候補点が内側誘導線22の内側エッジを検出する第0白線候補点Ps0へ移行しない不都合がある。
【0039】
又、遠方(フレーム上では画面上部)にカーブ入口が検出されており、そのカーブ入口に二重白線が描かれていても、遠方のカーブ入口では区画線21L,21Rと内側誘導線22とが一本の白線のように映るため、内側誘導線22が区画線21L,21Rと誤認識され易く、その場合、車線モデル式を構築する白線候補点がいつ、内側誘導線22の内側エッジを検出する第0白線候補点Ps0へ移行したかのタイミングを判別することができない不都合が生じる。
【0040】
そのため、ステップS10〜ステップS31において、第0白線候補点Ps0が検出された場合、それが内側誘導線22の内側エッジを検出したものであるか否か、換言すれば、内側誘導線22が認識されているか否かの信頼度を判別する。そして、内側誘導線22の内側エッジを検出したものであるとの信頼度が高い場合、車線モデル式を構築する白線候補点を第0白線候補点Ps0に切換える。
【0041】
すなわち、先ず、ステップS10では、前回のフレーム画像に基づく演算において、二重白線の入口(開始端)らしき成分(内側誘導線らしきもの)が検出されているか否かを調べる。二重白線の入口(開始端)らしき成分が検出されているか否かは、例えば、前回の演算時に第0白線候補点Ps0が検出されているか否かで判定する。
【0042】
そして、二重白線の入口らしき成分が検出されている場合は、ステップS11へ進み、二重白線信頼度判定カウンタのカウント値(以下、単に「カウント値」と称する)Cnをインクリメントして(Cn←Cn+1)、ステップS13へ進む。又、二重白線の入口らしき成分が検出されていない場合、ステップS12へ分岐し、カウント値Cnをデクリメントして(Cn←Cn−1)、ステップS13へ進む。二重白線信頼度判定カウンタのカウント値Cnは、内側誘導線らしき成分が、はたして内側誘導線22か否かを判定する認識信頼度を表す値である。
【0043】
ステップS13では、今回算出した第0白線候補点数n0と所定しきい値SLn0とを比較し、n0>SLn0の場合、ステップS14へ進み、カウント値Cnをインクリメントして(Cn←Cn+1)、ステップS16へ進む。又、n0≦SLn0の場合、ステップS15へ分岐し、カウント値Cnをデクリメントして(Cn←Cn−1)、ステップS16へ進む。このしきい値SLn0は、今回の演算で、内側誘導線22の内側エッジが検出されているか否か判定する値である。
【0044】
ステップS16へ進むと、1フレームの画像中で検出した最初の第0白線候補点Ps0から最後の第0白線候補点Ps0までの距離ΔPs0(図12参照)と設定閾値SLΔPs0とを比較して、第0白線候補点Ps0の分布が、内側誘導線22の内側エッジを検出したものであると判別するに充分か否かを調べる。そして、ΔPs0>SLΔPs0の場合、第0白線候補点Ps0の分布は充分であると判定し、ステップS17へ進み、カウント値Cnをインクリメントして(Cn←Cn+1)、ステップS19へ進む。又、ΔPs0≦SLΔPs0の場合、ステップS18へ分岐し、カウント値Cnをデクリメントして(Cn←Cn−1)、ステップS19へ進む。
【0045】
ステップS19へ進むと、第0白線候補点Ps0を検出した内側誘導線とみなされる成分の幅f(平均値)を検出し、この幅fが所定下限幅fSと所定上限幅fLとの間に収まっているか否かを調べる。図12(a)に示すように、白線誘導線22の幅fは、10〜15[cm]程度に予め規定されている。従って、この規定値を含む値に所定下限幅fSと所定上限幅fLとを設定することで、幅fから、第0白線候補点Ps0は内側誘導線22の内側エッジを検出したものであるか否かを判別することができる。尚、幅fは、図11に示すように、輝度の変化により検出されたエッジ点PH(白線開始点)の水平方向の平均値とエッジ点PL(白線終了点)の水平方向の平均との差である。
【0046】
そして、fS<f<fLの場合、ステップS20へ進み、カウント値Cnをインクリメントして(Cn←Cn+1)、ステップS22へ進む。又、f≦fS、或いはf≧fLの場合は、ステップS21へ分岐し、カウント値Cnをデクリメントして(Cn←Cn−1)、ステップS22へ進む。
【0047】
その結果、同12(b)に示すような幅fが所定上限幅fLよりも太い(f≧fL)、水溜まりや補修跡、及び、同図(c)に示すような区画線21Lに沿って延在する幅fが所定上限幅fLよりも細い(f≦fS)、帯状の残雪等はノイズ成分25であると判定し、カウント値Cnがデクリメントされる。尚、図12には、説明を容易にするために左側区画線21Lのみが示されているが、この左側区画線21Lを右側区画車線21Rと読み換えることで、当該右側区画車線21Rに適用することができる。
【0048】
そして、ステップS22へ進むと、区画線21Lの内側エッジを検出した第1白線候補点Ps1の水平方向の平均値と内側誘導線らしき成分の外側エッジを検出したエッジ点PLの水平方向の平均値との差から隙間m(平均値)を検出し、この隙間mが所定下限隙間mSと所定上限隙間mLとの間に収まっているか否かを調べる。図12(a)に示すように、区画線21Lの内側エッジと内側誘導線22の外側エッジとの間の隙間mは、予め10〜15[cm]程度に規定されている。従って、この規定値を含む値に所定下限隙間mSと所定上限隙間mLとを設定することで、この隙間mから、今回の第0白線候補点Ps0は内側誘導線22の内側エッジを検出したものであるか否かを判定することができる。尚、図12(a)に示すように、隙間mは、第0白線候補点Ps0の水平方向の位置座標をx0、第1白線候補点Ps1の水平方向の位置座標をx1とした場合、m=x0−(f+x1)から求められる。
【0049】
そして、mS<m<mLの場合、ステップS23へ進み、カウント値Cnをインクリメントして(Cn←Cn+1)、ステップS25へ進む。又、m≦mS、或いはmLの場合、ステップS24へ分岐して、カウント値Cnをデクリメントし(Cn←Cn−1)、ステップS25へ進む。従って、仮に、図12(b)に示す水溜まりや補修跡の幅f、及び、同図(c)に示す残雪の幅fが、所定下限値fSと所定上限値fLとの間に収まっているとしても(fS<f<fL)、その隙間mが、所定下限隙間mSと所定上限隙間mLに収まっていなければ、ノイズ成分25の可能性があると判定し、カウント値Cnがデクリメントされる。
【0050】
その後、ステップS25へ進むと、先ず、内側誘導線らしき成分の各第0白線候補点Ps0における幅fのヒストグラムを生成し、所定ピーク幅以上を示す幅fの数(ピーク数)fpekを求め、このピーク数fpekの第0白線候補点数n0に対する比率(ピーク比率)を求める(fpek/n0)、このピーク比率fpek/n0と所定ピーク判定閾値SLfpとを比較する。
【0051】
そして、fpek/n0>SLfpの場合、ステップS26へ進み、カウント値Cnをインクリメントして(Cn←Cn+1)、ステップS28へ進む。又、fpek/n0≦SLfpの場合、ステップS27へ分岐し、カウント値Cnをデクリメントして(Cn←Cn−1)、ステップS28へ進む。内側誘導線22は幅fがほぼ一定であるため、ピーク比率fpek/n0は比較的高い値が示される。これに対し、例えば、図12(c)に示す帯状の残雪は、幅fが一定ではなく、従って、たとえ、上述したステップS19において幅f(平均値)が、所定下限幅fSと所定上限幅fLとの間に収まっていたとしても、ピーク比率fpek/n0がピーク判定閾値SLfpを超えていなければ、ノイズ成分25の可能性があると判定し、カウント値Cnがデクリメントされる。
【0052】
次いで、ステップS28へ進むと、各第1白線候補点Ps1の平均輝度AVps1と各第0白線候補点Ps0の平均輝度AVps0との差分(輝度差)AVpsを求め(AVps←AVps1−AVps0)、この輝度差AVpsと所定輝度差判定閾値SLpsとを比較する。内側誘導線22の内側エッジを検出した第0白線候補点Ps0の輝度は、区画線21L(21R)の内側エッジを検出した第1白線候補点Ps1の輝度よりも明るいため、内側誘導線22が検出されている場合、輝度差AVpsは小さい値となる。又、第0白線候補点Ps0の輝度が高い場合、内側誘導線22が明確に表れていることを示しているため、輝度差AVpsが小さい値を示す場合、車線モデル式は、単白線を検出する第1白線候補点Ps1から二重白線の内側誘導線22を検出する第0白線候補点Ps0に切換えて構築した方が好ましい。
【0053】
そして、AVps<SLpsの場合、ステップS29へ進み、カウント値Cnをインクリメントして(Cn←Cn+1)、ステップS31へ進む。又、AVps≧SLpsの場合、ステップS30へ分岐し、カウント値Cnをデクリメントして(Cn←Cn−1)、ステップS31へ進む。
【0054】
ステップS31では、カウント値Cnが信頼度判定閾値Cnoを超えたか否かを調べ、Cn>Cnoの場合、検出した成分は内側誘導線22の内側エッジであるとする信頼度が高いと判定し、ステップS32へ進み、二重白線開始フラグFps0をセットして(Fps0←1)、ルーチンを抜ける。一方、Cn≦Cnoの場合、検出した成分は内側誘導線22の内側エッジであるとする信頼度は低いと判定し、ステップS33へ分岐し、二重白線開始フラグFps0をクリアして(Fps0←0)、ルーチンを抜ける。従って、この二重白線信頼度判定閾値Cnoを所定に設定することで、所望の判定精度を得ることができると共に、二重白線開始タイミングを適宜設定することができる。
【0055】
このように、本実施形態によれば、二重白線の入口(開始端)を検出して車線候補点を内側誘導線の内側エッジに切換える際に、その信頼度を、二重白線信頼度判定カウンタのカウント値Cnに基づいて判定するようにしたので、内側誘導線とノイズ成分とを明確に区別することができ、誤認識を生じることなく二重白線の内側誘導線を高い精度で認識することができる。又、カウント値Cnが信頼度を判定する閾値Cnoを超過しない限り、二重白線開始フラグFps0がセットされないため、二重白線開始タイミングを明確にすることができる。
【0056】
この二重白線開始フラグFps0は、図4に示す白線形状推定処理ルーチンで読込まれる。このルーチンでは、先ず、ステップS41で二重白線開始フラグFps0の値を読込み、ステップS42で二重白線開始フラグFps0が0か否かを調べ、Fps0=0の場合、ステップS43へ進み、区画線21L,21Rの内側エッジを検出した第1白線候補点Ps1と後方白線候補点Ps_preとに基づいて車線モデル式を設定し、ルーチンを抜ける。又、Fps0=1の場合、ステップS44へ進み、内側誘導線22の内側エッジを検出した第0白線候補点Ps0と後方白線候補点Ps_preとに基づいて車線モデル式を設定し、ルーチンを抜ける。
【0057】
この車線モデル式は、Fps0=0の場合、すなわち、二重白線が検出されていない場合は、第1白線候補点Ps1と後方白線候補点Ps_preとの点列に基づき、最小二乗法を用いて区画線21L,21Rの曲線近似式(X=aZ+bZ+c)を算出し、この曲線近似式により白線の形状を推定する。又、Fps0=1の場合、すなわち、二重白線が検出されている場合は、第0白線候補点Ps0と後方白線候補点Ps_preとの点列に基づき、図20に示すように、最小二乗法を用いて内側誘導線22の曲線近似式(X=aZ+bZ+c)を算出し、この曲線近似式により白線の形状を推定する。ここで、係数aは車線の曲率に関するパラメータ、係数bは自車両1の中央(正確には、メインカメラとサブカメラとの中間)を通る仮想線に対する自車両1の傾き(ヨー角)に関する角度パラメータ、係数cは横位置を示すパラメータであり、自車量1の中央(メインカメラとサブカメラとの中間)を原点とするX軸方向のオフセット量(原点からの横位置)であり、左側を負値(−)、右側を正値(+)とした場合、左側の車線モデル式の係数cは負値(−)となり、右側の車線モデル式の係数cは正値(+)となる。
【0058】
この車線モデル式に基づいて求めた近似曲線は、運転支援御を実行する際に読込まれ、この近似曲線に基づき左右の逸脱判定ラインを設定して自車走行路を推定する。そして、車線逸脱防止制御では、自車両1が逸脱判定ラインから逸脱傾向にあると判断した場合、自車両1を車線中央側へ戻す操向(操舵制御やブレーキ制御)を行う。又、車線維持支援制御は、近似曲線に基づき走行車線内に目標走行位置を設定し、自車両が目標走行位置に沿って走行するように操向(操舵制御やブレーキ制御)を行う。
【0059】
尚、本発明は、上述した実施形態に限るものではなく、例えば、車載カメラ3はステレオカメラである必要はなく、単眼カメラであっても良い。車載カメラ3として単眼カメラを用いた場合は、例えば周知のモーションステレオ法により三次元情報を得る。更に、車線モデル式は二次式に限らず三次式であっても良い。
【符号の説明】
【0060】
1…自車両、
2…運転支援装置、
3…車載カメラ、
4…ステレオ画像認識装置、
5…制御ユニット、
21L…左側区画線、
21R…右側区画線、
22…内側誘導線、
Adl,Adr…白線候補点抽出領域、
A,Al,Ar…車線検出領域、
AVps…輝度差、
AVps0,AVps1…平均輝度、
Cn…カウント値、
Cno…二重白線信頼度判定閾値、
f…幅、
fL…上限幅、
fpek… ピーク数、
fpek/n0…ピーク比率、
Fps0…二重白線開始フラグ、
fS…下限幅、
H,Hl,Hr,Hold…ハフ直線、
I…水平検索ライン、
m…隙間、
mL…上限隙間、
mS…下限隙間、
n0…第0白線候補点数、
n1…第1白線候補点数、
P1…第1のエッジ点、
P2…第2のエッジ点、
PH…エッジ点(白線開始点)、
PL…エッジ点(白線終了点)、
Ps…白線候補点、
Ps0…第0白線候補点、
Ps1…第1白線候補点、
SLfp…ピーク判定閾値、
SLn0,SLΔPs0…閾値、
SLps…輝度差判定閾値
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20