(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-01-08
(45)【発行日】2025-01-17
(54)【発明の名称】車両の車線区画線認識装置
(51)【国際特許分類】
G06T 7/60 20170101AFI20250109BHJP
G06T 7/00 20170101ALI20250109BHJP
G08G 1/16 20060101ALI20250109BHJP
【FI】
G06T7/60 200J
G06T7/00 650A
G08G1/16 A
(21)【出願番号】P 2020168086
(22)【出願日】2020-10-02
【審査請求日】2023-09-07
(73)【特許権者】
【識別番号】000005348
【氏名又は名称】株式会社SUBARU
(74)【代理人】
【識別番号】110004185
【氏名又は名称】インフォート弁理士法人
(74)【代理人】
【識別番号】110002907
【氏名又は名称】弁理士法人イトーシン国際特許事務所
(72)【発明者】
【氏名】塚越 始
(72)【発明者】
【氏名】羽鹿 亮
【審査官】藤原 敬利
(56)【参考文献】
【文献】特開2004-145501(JP,A)
【文献】特開2011-053809(JP,A)
【文献】特開2018-005617(JP,A)
【文献】国際公開第2015/162910(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00- 7/90
G06V 10/00-20/90
G08G 1/00-99/00
(57)【特許請求の範囲】
【請求項1】
自車走行環境を撮像した画像に設定された車線区画線の検出領域内での水平方向の輝度変化に基づいてエッジ点を検出するエッジ点検出手段と、
前記エッジ点からなる点群の近似線を演算する近似線演算手段と、
を備え、
前記画像の第1の所定範囲において、路面に対する輝度が高い標準エッジ候補点
と前記路面に対して輝度が低い逆エッジ候補点を探索する第1のモードと、
前記画像の前記第1の所定範囲よりも広範囲の第2の所定範囲において、前記標準エッジ候補点と前記逆エッジ候補点を探索する第2のモードと、
を有し、
検出された前記逆エッジ候補点の数によって、前記第1のモードと前記第2のモードを選択的に切り替えることを特徴とする車両の車線区画線認識装置。
【請求項2】
前記第1のモードの選択中、前記
第1の所
定範囲において奇数行の第1の探索ラインで前記標準エッジ候補点と偶数行の第2の探索ラインで前記逆エッジ候補点を交互に探索する第1のセグメントを設定し、検出された前記逆エッジ候補点の数をカウントして、カウンタ値が予め設定された第1の閾値以上になった場合、前記第1のモードから前記第2のモードに切り替え、
前記第2のモードの選択中、前記
第2の所定範囲において奇数行の前記第1の探索ラインで前記標準エッジ候補点と偶数行の前記第2の探索ラインで前記逆エッジ候補点を交互に探索する第2のセグメントを設定し、検出された前記逆エッジ候補点の数をカウントし、カウンタ値が予め設定された第2の閾値以下になった場合、前記第2のモードから前記第
1のモードに切り替える、
ことを特徴とする請求項1に記載の車両の車線区画線認識装置。
【請求項3】
検出された前記逆エッジ候補点の輝度値が予め設定された輝度閾値以下であるとき、当該前記逆エッジ候補点をカウントしないことを特徴とする請求項2に記載の車両の車線区画線認識装置。
【請求項4】
検出された前記逆エッジ候補点の開始点から終了点の距離が予め設定されたライン幅閾値以下であるとき、前記逆エッジ候補点をカウントしないことを特徴とする請求項2に記載の車両の車線区画線認識装置。
【請求項5】
前記標準エッジ
候補点が開始点であって、
前記逆エッジ
候補点が終了点である場合、前記開始点から前記終了点までの距離が予め設定された規定値以上であるとき、前記逆エッジ候補点をカウントしないことを特徴とする請求項2に記載の車両の車線区画線認識装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車載カメラで撮像した画像に基づいて車線区画線を認識する車両の車線区画線認識装置に関する。
【背景技術】
【0002】
近年、ドライバの運転操作を支援する種々の運転支援装置が開発されている。この運転支援装置では、一般に、車線逸脱防止機能等を実現するため、自車前方の撮像画像などに基づいて白線の認識が行われ、この車線区画線に基づいて自車走行レーンの推定などが行われる。
【0003】
このような白線の認識技術に関して、例えば、特許文献1には、路面に投射された光の像の影響を排除して適切な白線認識を行うことができる車両用白線認識装置が開示されている。この従来の車両用白線認識装置は、探索ライン上において輝度が所定に変化するエッジ点を検出して、輝度が暗から明に変化するエッジ点を白線開始点として抽出すると共に、輝度が明から暗に変化するエッジ点を白線終了点として抽出して、白線認識を行っている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、日本国以外の他国においては、種々の配色の車線区画線が採用されている。例えば、米国においては、進行方向の白色破線間に黒色線が設けられた車線区画線が存在する。
【0006】
しかしながら、従来の車線区画線の認識技術では、路面よりも淡色の車線区画線しか認識することができず、黒色などの路面よりも濃色の車線区画線の認識を行えないため、白線が擦れていたりすると、車線区画線の認識信頼度が低下し、操舵制御がキャンセルされてしまうという問題がある。さらに、路面よりも濃色の車線区画線のみの場合には、車線区画線の認識自体ができないという課題があった。
【0007】
そこで、本発明は、上記事情を鑑みて、路面に対する車線区画線の濃淡色を問わず好適に車線区画線の認識が行える車両の車線区画線認識装置を提供することを目的としている。
【課題を解決するための手段】
【0008】
本発明の一態様の車両の車線区画線認識装置は、自車走行環境を撮像した画像に設定された車線区画線の検出領域内での水平方向の輝度変化に基づいてエッジ点を検出するエッジ点検出手段と、前記エッジ点からなる点群の近似線を演算する近似線演算手段と、を備え、前記画像の第1の所定範囲において、路面に対する輝度が高い標準エッジ候補点と前記路面に対して輝度が低い逆エッジ候補点を探索する第1のモードと、前記画像の前記第1の所定範囲よりも広範囲の第2の所定範囲において、前記標準エッジ候補点と前記逆エッジ候補点を探索する第2のモードと、を有し、検出された前記逆エッジ候補点の数によって、前記第1のモードと前記第2のモードを選択的に切り替える。
【発明の効果】
【0009】
本発明によれば、路面に対する車線区画線色の濃淡を問わず認識することができる車両の車線区画線認識装置を提供することができる。
【図面の簡単な説明】
【0010】
【
図2】車外環境の撮像画像の一例を模式的に示す説明図
【
図3】モード別に設定されるセグメントを示し、画像から検出される区画線開始点による点群を示す説明図
【
図4】奇数行の探索ラインの区画線開始点および終了点での輝度及び輝度の微分値の推移の一例を示す図
【
図5】偶数行の探索ラインの区画線開始点および終了点での輝度及び輝度の微分値の推移の一例を示す図
【
図6】標準エッジ探索モードにおける
車線区画線の認識ルーチンを示すフローチャート
【
図7】標準エッジ探索モードに設定される第1のセグメントを示し、画像から検出される区画線開始点による点群を示す説明図
【
図8】逆エッジ探索モードにおける
車線区画線の認識ルーチンを示すフローチャート
【
図9】逆エッジ探索モードに設定される第2のセグメントを示し、画像から検出される区画線開始点による点群を示す説明図
【
図10】逆エッジ候補点のキャンセル判定を示すフローチャート
【
図11】車線区画線の近傍にタイヤ痕がある車外環境の撮像画像の一例を模式的に示す説明図
【
図12】
図11の奇数行の探索ラインの車線区画線の輝度及び輝度の微分値の推移の一例を示す図表
【
図13】
図11の偶数行の探索ラインの車線区画線の輝度及び輝度の微分値の推移の一例を示す図表
【
図14】路面よりも淡色の車線区画線の縁に黒縁線などの濃色線がある車外環境の撮像画像の一例を模式的に示す説明図
【
図15】
図14の車線区画線の輝度及び輝度の微分値の推移の一例を示す図表
【
図16】カープールレーンなど、路面よりも淡色の車線区画線の中央に黒線などの濃色線がある車外環境の撮像画像の一例を模式的に示す説明図
【
図17】
図16の車線区画線の輝度及び輝度の微分値の推移の一例を示す図表
【発明を実施するための形態】
【0011】
以下、図面を参照して本発明の形態を説明する。
【0012】
図1において、符号1は自動車などの車両(自車両)であり、この車両1には運転支援装置2が搭載されている。この運転支援装置2は、例えば、ステレオカメラ3、ステレオ画像認識装置4、制御ユニット5などを有して要部が構成されている。
【0013】
また、車両1には、自車速を検出する車速センサ11、ヨーレートを検出するヨーレートセンサ12、運転支援制御の各機能のON-OFF切換等を行うメインスイッチ13、ステアリングホイールに連結するステアリング軸に対設されて舵角を検出する舵角センサ14、ドライバによるアクセルペダル踏込量(アクセル開度)を検出するアクセル開度センサ15などが設けられている。
【0014】
ステレオカメラ3は、ステレオ光学系として例えば電荷結合素子(CCDまたはCMOS)などの固体撮像素子を用いた一対のカメラで構成されている。これら左右のカメラは、それぞれ車室内の天井前方に一定の間隔を持って取り付けられ、車外の対象を異なる視点からステレオ撮像し、画像データをステレオ画像認識装置4に出力する。
【0015】
なお、以下の説明において、ステレオ撮像された画像のうち一方の画像(例えば、右側の画像)を基準画像と称し、他方の画像(例えば、左側の画像)を比較画像と称する。
【0016】
ステレオ画像認識装置4は、先ず、基準画像を例えば4×4画素の小領域に分割し、それぞれの小領域の輝度或いは色のパターンを比較画像と比較して対応する領域を見つけ出し、基準画像全体に渡る距離分布を求める。
【0017】
さらに、ステレオ画像認識装置4は、基準画像上の各画素について隣接する画素との輝度差を調べ、これらの輝度差が閾値を超えているものをエッジとして抽出するとともに、抽出した画素(エッジ)に距離情報を付与することで、距離情報を備えたエッジの分布画像(距離画像)を生成する。
【0018】
そして、ステレオ画像認識装置4は、生成した距離画像に基づいて、自車前方の車線区画線LL,LR(
図2参照)、ロードエッジ、側壁、立体物などを認識し、認識した各データに、それぞれ異なるIDを割り当て、これらをID毎にフレーム間で連続して監視する。
【0019】
ここで、本実施形態において、車線区画線LL,LR(
図2参照)とは、例えば、単線や車線区画線LL,LRの内側に視線誘導線が併設された多重線(二重線など)のように、道路上に延在して自車走行レーンを区画する線を総称するものであり、各線の形態としては、実線、破線などを問わず、さらに、路面よりも淡色の白線、黄色線など、または路面よりも濃色の黒線などの他、各色カラー線をも含むものである。
【0020】
また、本実施形態の車線区画線LL,LRの認識においては、道路上に実在の線が二重線などであっても、左右それぞれ単一の直線或いは曲線などに近似して認識するものとする。
【0021】
このような車線区画線LL,LRの認識に際し、ステレオ画像認識装置4は、前回までの処理に基づいて画像上に設定された区画線探索領域AL,AR内において、水平方向(車幅方向)に設定した複数の探索ラインJn上での輝度変化に基づいて、探索ラインJn毎に1点の区画線開始点Pを検出する(
図3参照)。
【0022】
すなわち、ステレオ画像認識装置4は、例えば、基準画像上に設定された左右の各区画線探索領域AL,AR内において、各探索ラインSn上で車幅方向内側から外側に向けて各画素の輝度値の変化を調べることにより、区画線のエッジ点としての区画線開始点Pをそれぞれ検出する。
【0023】
なお、ステレオ画像認識装置4は、車線区画線LL,LRの認識時に、基準画像上にエッジ探索モード別に異なる所定領域の2つのセグメントR1,R2が設定されており、これら2つのセグメントR1,R2における探索ラインJnの所定のJ行目において、逆エッジ候補点POまたは標準エッジ候補点PSを交互に検出する。
【0024】
これら2つのセグメントは、2つのエッジ探索モードのうち、後述する標準エッジ探索モードの際には、例えば、4~5セグメント(約16~20[m])の範囲の第1のセグメントR1が設定されている。
【0025】
また、2つのエッジ探索モードのうち、後述する逆エッジ探索モードの際には、例えば、2~12セグメント(約8~48[m])の範囲の第1のセグメントR1よりも広範囲の第2のセグメントR2が設定されている。なお、ここでの第2のセグメントR2は、車線区画線LL,LRのエッジ候補点を検出する基準画像上の全領域である。
【0026】
また、ステレオ画像認識装置4は、左右の各区画線探索領域AL,ARにおいて認識した区画線開始点Pからなる各点群の近似線を演算する。さらに、ステレオ画像認識装置4は、演算した車線区画線LL,LRに基づいて、次フレームでの車線区画線LL,LRの認識に用いられる区画線探索領域AL,ARを新たに設定する。
【0027】
なお、左右の各区画線探索領域AL,ARは、ステレオカメラ3によるステレオ画像の画像データのうち、前方の2~12セグメント(約8~48[m])の範囲に設定される。すなわち、車線区画線LL,LRのエッジ候補点を検出する範囲は、車両1の前方から約8~48[m]の範囲における左右の各区画線探索領域AL,ARの領域内で実行される。
【0028】
このように、本実施形態において、ステレオ画像認識装置4は、車両(自車両1)の車線区画線認識装置としての機能を有し、エッジ点検出(探索)手段、近似線演算手段、区画線探索手段、区画線演算手段および検出領域設定手段としての各機能を実現する。
【0029】
制御ユニット5には、ステレオ画像認識装置4で認識された車両1前方の走行環境情報が入力される。さらに、制御ユニット5には、車両1の走行情報として、車速センサ11からの車速、ヨーレートセンサ12からのヨーレートなどが入力されると共に、ドライバによる操作入力情報として、メインスイッチ13からの操作信号、舵角センサ14からの舵角、アクセル開度センサ15からのアクセル開度などが入力される。
【0030】
そして、例えば、ドライバによるメインスイッチ13の操作を通じて、運転支援制御の機能の1つであるACC(Adaptive Cruise Control)機能の実行が指示されると、制御ユニット5は、ステレオ画像認識装置4で認識した先行車方向を読み込み、自車走行路上に、追従対象の先行車が走行しているか否かを識別する。
【0031】
その結果、追従対象の先行車が検出されない場合は、スロットル弁16の開閉制御(エンジンの出力制御)を通じて、ドライバが設定したセット車速に車両1の車速を維持させる定速走行制御を実行する。
【0032】
一方、追従対象車両である先行車が検出され、且つ、当該先行車の車速がセット車速以下の場合は、先行車との車間距離を目標車間距離に収束させた状態で追従する追従走行制御が実行される。
【0033】
この追従走行制御時において、制御ユニット5は、基本的にはスロットル弁16の開閉制御(エンジンの出力制御)を通じて、先行車との車間距離を目標車間距離に収束させる。さらに、先行車の急な減速等によりスロットル弁16の制御のみでは十分な減速度が得られないと判断した場合、制御ユニット5は、アクティブブースタ17からの出力液圧の制御(ブレーキの自動介入制御)を併用し、車間距離を目標車間距離に収束させる。
【0034】
また、ドライバによるメインスイッチ13の操作を通じて、運転支援制御の機能の1つである車線逸脱防止機能の実行が指示されると、制御ユニット5は、例えば、自車走行レーンを規定する左右の車線区画線に基づいて警報判定用ラインを設定するとともに、車両1の車速とヨーレートとに基づいて自車進行経路を推定する。
【0035】
そして、制御ユニット5は、例えば、自車前方の設定距離(例えば、10~16[m])内において、自車進行経路が左右何れかの警報判定用ラインを横切っていると判定した場合、車両1が現在の自車走行車線を逸脱する可能性が高いと判定し、車線逸脱警報を行う。
【0036】
さらに、ドライバによるメインスイッチ13の操作を通じて、運転支援制御の機能の1つである車線中央維持(ALKC:Active Lane Keep Centering)機能の実行が指示されると、制御ユニット5は、例えば、自車走行レーンを規定する左右の車線区画線LL,LRの中央に自車目標進行路を設定する。そして、制御ユニット5は、車両1を自車目標進行路に沿った走行制御を行う。
【0037】
ここで、車線区画線LL,LRを検出して認識する際に、ステレオ画像認識装置4が実行する内容について説明する。
【0038】
先ず、ステレオ画像認識装置4は、前フレームで設定された左右の区画線探索領域AL,ARを読み込む。そして、ステレオ画像認識装置4は、
車線区画線LL,LRが路面よりも淡色(白色、黄色など)上の例えば、探索ラインJn1(
図2参照)におけるエッジ検出の際、例えば、基準画像上における画像中心線(或いは、舵角などから推定される自車進行方向)を基準とする車幅方向内側から外側に向けて、左右の区画線探索領域AL,AR内において区画線開始点Pの検出を行う。
【0039】
具体的には、ステレオ画像認識装置4は、探索ライン
Jn1上の車幅方向内側から外側への探索において、
図4に示すように、車幅方向外側の画素の輝度が内側の画素の輝度に対して相対的に高く、且つ、その変化量を示す輝度の微分値がプラス側の予め設定された閾値(輝度閾値)以上となる最初の点を正エッジ点としての標準エッジ候補点PSとして検出し、当該エッジ
候補点PSを区画線開始点Pとして認識する。
【0040】
このような処理により、例えば、認識対象となる車線区画線LL,LRが路面よりも白色線、黄色線などの淡色のラインを認識する。すなわち、ステレオ画像認識装置4は、輝度の微分値がプラス側の設定閾値以上でない場合、車線区画線LL,LRの標準エッジ候補点PSの対象外として、区画線開始点Pの認識外とする。
【0041】
なお、ステレオ画像認識装置4は、輝度の微分値がプラス側となるエッジ始点の標準エッジ候補点PSと、輝度の微分値がマイナス側となるエッジ終点との離間距離Lbが予め設定された所定の距離(ライン幅閾値)、例えば、7[cm]以下の場合には、車線区画線LL,LRの認識を除外する。
【0042】
また、ステレオ画像認識装置4は、
車線区画線LL,LRが路面よりも濃色(黒色など)上の例えば、探索ラインJn2(
図2参照)におけるエッジ検出の際、車幅方向内側から外側への探索において、車幅方向外側の画素の輝度が内側の画素の輝度に対して相対的に低く、且つ、その変化量を示す輝度の微分値がマイナス側の予め設定された閾値(輝度閾値)以下となる最初の点を負エッジ点としての逆エッジの候補点POとして検出し、当該エッジ点POを区画線開始点Pとして認識する。
【0043】
このような処理により、例えば、認識対象となる車線区画線LL,LRが路面よりも黒線などの濃色のラインを認識する。すなわち、ステレオ画像認識装置4は、輝度の微分値がマイナス側の設定閾値以下でない場合、車線区画線LL,LRの逆エッジ候補点POの対象外として、区画線開始点Pの認識外とする。
【0044】
さらに、ステレオ画像認識装置4は、輝度の微分値がマイナス側となるエッジ始点の標準エッジ候補点POと、輝度の微分値がマイナス側となるエッジ終点との離間距離Lbが予め設定された所定の距離(ライン幅閾値)、例えば、7[cm]以下の場合には、車線区画線LL,LRの認識を除外する。
【0045】
そして、ステレオ画像認識装置4は、標準エッジ候補点PSおよび逆のエッジ候補点POの複数の区画線開始点Pの点群を統合し、選定した点群に基づいて車線区画線演算を行う。ステレオ画像認識装置4は、車線区画線演算によって、例えば、選定された点群についてのハフ変換による近似線を車線区画線LL,LRを表す近似線Ll,Lrとして認識する。
【0046】
そして、ステレオ画像認識装置4は、演算した車線区画線LL,LR(近似線Ll,Lr)に基づいて、次フレームで用いる区画線探索領域AL,ARを設定して、同様に、次のフレームについて車線区画線LL,LRを検出する。
【0047】
このように、ステレオ画像認識装置4は、白色線、黄色線などの淡色のラインの車線区画線LL,LRの検出と、黒色線などの濃色のラインの車線区画線LL,LRの検出と、をモード別に第1のセグメントR1または第2のセグメントR2の複数の探索ラインJnを交互に実行する。
【0048】
ここで、上述のステレオ画像認識装置4による車線区画線LL,LRの認識について、標準エッジ探索モード時の制御ルーチンを
図6のフローチャートに従って説明する。なお、このルーチンは、標準エッジ探索モードが選択されているとき、新たな画像が撮像される毎に繰り返し実行されるものである。
【0049】
標準エッジ探索モード時のステレオ画像認識装置4は、先ず、全ての探索ラインJnの探索を実行したか否かの判定を行う(S1)。全ての探索ラインJnの探索を実行していない場合、ステレオ画像認識装置4は、探索ラインJnを選択する(S2)。
【0050】
なお、ステレオ画像認識装置4は、標準エッジ探索モード開始時は、車両1の近傍の1行目の探索ラインJ1(
図7参照)を選択する。このステップS2において、ステレオ画像認識装置4は、J行目の探索ラインJnのエッジ候補点の探索後のルーチンでは近傍側から遠方側に順に次の探索ラインJn+1を選択するものである。
【0051】
すなわち、この探索ラインJnの選択は、例えば、各区画線探索領域AL,AR内に存在する一対の探索ラインJn(水平方向に延在する探索ライン)を画像上の下側から順次選択するものであり、ステレオ画像認識装置4は、前回候補点検出を行った各探索ラインJnよりも1つ上の探索ラインJn+1をそれぞれ選択する。
【0052】
次に、ステレオ画像認識装置4は、現在選択されている探索ラインJnが画像上に設定された第1のセグメントR1の領域に存在するか否かを判定する(S3)。第1のセグメントR1の領域にある探索ラインJnを選択している場合、ステレオ画像認識装置4は、探索ラインJnが偶数行であるか否かを判定する(S4)。
【0053】
このステップS4において、ステレオ画像認識装置4は、第1のセグメントR1の領域の探索ラインJnが偶数行目である、例えば、
図7に示す、探索ラインJ14,J16,J18であった場合には、逆エッジ候補点POを検出する(S5)。なお、ここでの第1のセグメントR1内の偶数行の探索ラインJnの数は、一例である。
【0054】
この逆エッジ候補点POの検出は、上記したように、マイナス側の輝度の微分値が閾値以下の逆エッジ候補点POを、黒色線などの路面に対する濃色ラインの車線区画線LL,LRの区画線開始点Pとして認識する。
【0055】
一方、ステレオ画像認識装置4は、ステップS3において、第1のセグメントR1の領域の探索ラインJnが偶数行目ではない奇数行目である、例えば、
図7に示す、探索ラインJ13,J15,J17であった場合には、標準エッジ候補点PSを検出し(S6)、ルーチンを抜けて、ステップS1に戻る。なお、ここでの第1のセグメントR1内の奇数行の探索ラインJnの数は、一例である。
【0056】
標準エッジ候補点PSの検出は、上記したように、プラス側の輝度の微分値が閾値以上の標準エッジ候補点PSを、白色線、黄色線などの路面に対する淡色ラインの車線区画線LL,LRの区画線開始点Pとして認識する。
【0057】
次に、ステレオ画像認識装置4は、逆エッジ候補点POが検出されたか否かを判定し(S7)、逆エッジ候補点POが検出された場合、後述のサブルーチンである逆エッジ候補点POのキャンセル判定を実行する(S8)。なお、ステレオ画像認識装置4は、逆エッジ候補点POが検出されなかった場合、ルーチンを抜けて、ステップS1に戻る。
【0058】
ステレオ画像認識装置4は、ステップS8において、逆エッジ候補点POを認識した場合、逆エッジ候補点POをカウントし、逆エッジ候補点POをキャンセルした場合、逆エッジ候補点POをカウントしない処理を実行し(S9)、ルーチンを抜けて、ステップS1に戻る。
【0059】
ステレオ画像認識装置4は、ステップS1の判定により、全ての探索ラインJnの探索を行ったあと、ステップS9でカウントされた逆エッジ候補点POの数が予め決められた第1の設定数以上であるか否かを判定する(S10)。
【0060】
ステレオ画像認識装置4は、逆エッジ候補点POの数が第1の設定数以上であると判定した場合、カウンタCをインクリメント(C←C+1)し(S11)、カウンタCが予め設定されたカウンタ閾値の第1の閾値Cth1以上であるか否かを判定する(S12)。
【0061】
ステレオ画像認識装置4は、カウンタCが第1の閾値以上であると判定した場合、車線区画線LL,LRの認識モードを逆エッジ探索モードに切り替え(S13)、検出した区画線開始点Pに基づいて、近似線Ll,Lrを算出し(S14)、算出した近似線Ll,Lrに基づいて、次フレームの区画線探索領域AL,ARを設定し(S15)、ルーチンを抜けて、ステップS1に戻る。
【0062】
なお、ステレオ画像認識装置4は、カウンタCが第1の閾値Cth1未満であると判定した場合、ステップS14の近似線Ll,Lrを算出し、ステップS15の区画線探索領域AL,ARを設定して、ルーチンを抜けて、ステップS1に戻る。
【0063】
次に、ステレオ画像認識装置4による車線区画線LL,LRの認識について、逆エッジ探索モード時の制御ルーチンを
図8のフローチャートに従って説明する。なお、このルーチンは、逆エッジ探索モードが選択されているとき、新たな画像が撮像される毎に繰り返し実行されるものである。
【0064】
逆エッジ探索モード時のステレオ画像認識装置4は、標準エッジ探索モードと同様に、全ての探索ラインJnの探索を実行したか否かの判定を行い(S21)、探索ラインJnを選択する(S22)。
【0065】
なお、ステレオ画像認識装置4は、逆エッジ探索モード開始時においても、車両1の近傍の1行目の探索ラインJ1(
図9参照)を選択し、前回候補点検出を行った各探索ラインJnよりも1つ上の探索ラインJn+1をそれぞれ選択する。
【0066】
次に、ステレオ画像認識装置4は、現在選択されている探索ラインJnが画像上に設定された第2のセグメントR2の領域に存在するか否かを判定する(S23)。第2のセグメントR2の領域にある探索ラインJnを選択している場合、ステレオ画像認識装置4は、探索ラインJnが偶数行であるか否かを判定する(S24)。
【0067】
このステップS24において、ステレオ画像認識装置4は、第2のセグメントR2の領域の探索ラインJnが偶数行目である、例えば、
図9に示す、探索ラインJ2,J4・・・J14,J16,J18・・・J28であった場合には、逆エッジ候補点POを検出する(S25)。なお、ここでの第2のセグメントR2内の偶数行の探索ラインJnの数は、一例である。
【0068】
この逆エッジ候補点POの検出は、上記したように、マイナス側の輝度の微分値が閾値以下の逆エッジ候補点POを、黒色線などの路面に対する濃色ラインの車線区画線LL,LRの区画線開始点Pとして認識する。
【0069】
一方、ステレオ画像認識装置4は、第2のセグメントR2の領域の探索ラインJnが偶数行目ではない奇数行目である、例えば、
図9に示す、探索ラインJ1,J3・・・J13,J15,J17・・・J27であった場合には、標準エッジ候補点PSを検出し(S26)、ルーチンを抜けて、ステップS21に戻る。なお、ここでの第2のセグメントR2内の奇数行の探索ラインJnの数は、一例である。
【0070】
この標準エッジ候補点PSの検出は、上記したように、プラス側の輝度の微分値が閾値以上の標準エッジ候補点PSを、白色線、黄色線などの路面に対する淡色ラインの車線区画線LL,LRの区画線開始点Pとして認識する。
【0071】
次に、ステレオ画像認識装置4は、逆エッジ候補点POが検出されたか否かを判定し(S27)、逆エッジ候補点POが検出された場合、後述のサブルーチンである逆エッジ候補点POのキャンセル判定を実行する(S28)。なお、ステレオ画像認識装置4は、逆エッジ候補点POが検出されなかった場合、ルーチンを抜けて、ステップS21に戻る。
【0072】
ステレオ画像認識装置4は、ステップS28において、逆エッジ候補点POを認識した場合、逆エッジ候補点POをカウントし、逆エッジ候補点POをキャンセルした場合、逆エッジ候補点POをカウントしない処理を実行し(S29)、ルーチンを抜けて、ステップS21に戻る。
【0073】
ステレオ画像認識装置4は、ステップS21の判定により、全ての探索ラインJnの探索を行った後、ステップS29でカウントされた逆エッジ候補点POの数が予め決められた第2の設定数以下であるか否かを判定する(S30)。
【0074】
ステレオ画像認識装置4は、逆エッジ候補点POの数が第2の設定数以下であると判定した場合、カウンタCをデクリメント(C←C-1)し(S31)、カウンタCが予め設定されたカウンタ閾値の第2の閾値Cth2以下であるか否かを判定する(S32)。
【0075】
ステレオ画像認識装置4は、カウンタCが第2の閾値Cth2以下であると判定した場合、車線区画線LL,LRの認識モードを標準エッジ探索モードに切り替え(S33)、検出した区画線開始点Pに基づいて、近似線Ll,Lrを算出し(S34)、算出した近似線Ll,Lrに基づいて、次フレームの区画線探索領域AL,ARを設定し(S35)、ルーチンを抜けて、ステップS21に戻る。
【0076】
なお、ステレオ画像認識装置4は、カウンタCが第2の閾値Cth2より大きい(多い)と判定した場合、ステップS34の近似線Ll,Lrを算出し、ステップS35の区画線探索領域AL,ARを設定して、ルーチンを抜けて、ステップS21に戻る。
【0077】
続いて、ステレオ画像認識装置4による、標準エッジ探索モードのステップS8または逆エッジ探索モードのステップS28に実行するサブルーチンの逆エッジ候補点のキャンセル判定の制御例について、
図10のフローチャートに従って説明する。なお、このサブルーチンは、上記したように、探索ラインJnが偶数行であるときのみ実行され、奇数行の標準エッジ候補点PSの探索時には実行されない制御である。
【0078】
ステレオ画像認識装置4は、逆エッジ候補点のキャンセル判定において、先ず、検出した逆エッジ候補点POがマイナス側の輝度の微分値が規定値以下であるか否かを判定する(S41)。
【0079】
ステレオ画像認識装置4は、検出した逆エッジ候補点POがマイナス側の輝度の微分値が規定値(輝度閾値)以下の場合、ステップS48に移行し、逆エッジ候補点POと認識を除外(キャンセル)する。従って、ステレオ画像認識装置4は、標準エッジ探索モードのステップS9および逆エッジ探索モードのステップS29の処理において、逆エッジ候補点POのカウントを実行しない。
【0080】
ここでの逆エッジ候補点POとカウントしない場面として、例えば、
図11に示すように、車線区画線LL,LRの近傍にタイヤ痕TMがあり、このタイヤ痕TMが区画線探索領域AL,ARに検出された状態である。ここでは、タイヤ痕TMを例示しているが、路面上の汚れ、シミなど路面よりも濃色の全ての検出物を含むものである。
【0081】
例えば、白色線、黄色線などの路面に対する淡色ラインの車線区画線LL,LR上の探索ラインJn1が偶数行である場合に、タイヤ痕TMの逆エッジ点の開始点PO1が検出される。この開始点PO1の輝度の微分値が規定値以下のプラス側の値であるため、ステレオ画像認識装置4は、逆エッジ候補点POとしての認識を除外(キャンセル)する(S48)。これにより、タイヤ痕TMなど車線区画線LL,LRではない路面よりも濃色の全ての検出物が除外される。
【0082】
さらに、ステレオ画像認識装置4は、検出した逆エッジ点の開始点PO1がマイナス側の輝度の微分値が規定値(輝度閾値)以下でない場合、逆エッジ候補点POの平均輝度と逆エッジ点の終了点の直後の輝度値の差が小さいか否かを判定する(S42)。
【0083】
ステップS42において、逆エッジ候補点POの平均輝度と逆エッジの終了点の直後の輝度値の差が小さい場合、ステレオ画像認識装置4は、ステップS48に移行し、逆エッジ点の開始点PO1を逆エッジ候補点POと認識を除外(キャンセル)する。
【0084】
ここでの逆エッジ候補点POと認識しない場面として、例えば、
図11に示すように、黒色線などの路面に対する濃色ラインの車線区画線LL,LR上の探索ラインJn2が偶数行である場合に、
図13に示すように、タイヤ痕TMと、ここでは車線区画線LLの複数、2つの逆エッジ点PO1,PO2が検出される。
【0085】
ここでも、タイヤ痕TMの逆エッジ点の開始点PO1の輝度の微分値が規定値よりもプラス側の値であるため、ステレオ画像認識装置4は、ステップS48に移行し、逆エッジ点の開始点PO1を逆エッジ候補点POの認識から除外(キャンセル)する。
【0086】
一方、
図10のステップS42において、逆エッジ候補点POの平均輝度と終了点となるプラス側のエッジ点の直後の輝度値の差が小さくない(大きい)場合、ステレオ画像認識装置4は、逆エッジ点の開始点PO1の直前の輝度(路面輝度)と、逆エッジ点の終了点PS1の直後の輝度の差が大きいか否かを判定する(S43)。 ここでは、例えば、
図14に示すように、白色線の両側に濃色ラインである黒縁線BEがある車線区画線LL,LRの場合、路面の輝度と、車線区画線LL,LRの輝度が違うため、逆エッジ点の開始点PO1の輝度値と逆エッジ点の終了点PS1での輝度値の差が大きくなる。
【0087】
そのため、ステレオ画像認識装置4は、逆エッジ点の開始点PO1と逆エッジ点の終了点PS1の輝度値の差が大きい場合、ステップS48に移行し、逆エッジ点の開始点PO1を逆エッジ候補点POの認識から除外(キャンセル)する。
【0088】
ステレオ画像認識装置4は、逆エッジ開始点の逆エッジ点の開始点PO1と、逆エッジ点の終了点PS1の輝度値の差が大きくない(小さい)場合、逆エッジ点の開始点PO1と逆エッジ点の終了点PS1の離間距離Lbが予め設定された所定の規定値(ライン幅)、例えば、7[cm]以下であるか否かを判定する(S44)。
【0089】
ステレオ画像認識装置4は、
図10のステップS44の判定において、逆エッジ点の開始点PO1と逆エッジ点の終了点PS1の離間距離が予め設定された所定の規定値以下である場合、ステップS48に移行し、逆エッジ点の開始点PO1を逆エッジ候補点POの認識から除外(キャンセル)する。これにより、車線区画線LL,LRではない細いライン
幅の黒縁線BEなどが除外される。
【0090】
すなわち、ステレオ画像認識装置4は、
図10のステップS43の判定において、逆エッジ点の開始点PO1直前の輝度と、逆エッジ点の終了点PS1直後の輝度の差が大きい場合、またはステップS44の判定において逆エッジ点の開始点PO1と逆エッジ点の終了点PS1との離間距離(ライン幅)が規定値よりも短い(細い)場合、両側に黒縁線BEがある車線区画線LL,LRと認識する。
【0091】
一方、ステレオ画像認識装置4は、
図10のステップS44の判定において、ステップS43の判定において、逆エッジ点の開始点PO1と逆エッジ点の終了点PS1の離間距離が予め設定された所定の規定値より大きい(長い)場合、逆エッジ点の開始点PO1の直前の輝度と、逆エッジ点の終了点PS2の直後の輝度の差が所定に小さいか否かを判定する(S45)。
【0092】
ステレオ画像認識装置4は、逆エッジ点の開始点PO1の直前の輝度と、逆エッジ点の終了点PS2の直後の輝度の輝度差が所定に小さくない(大きい)場合、ステップS49に移行し、逆エッジ点の開始点PO1を逆エッジ候補点POと認識する。
【0093】
一方、ステレオ画像認識装置4は、
図10のステップS45の判定において、逆エッジ点の最開始点PO1の直前の輝度と、逆エッジ点の最終了点PS2の直後の輝度の輝度差が所定に小さい場合、逆エッジ点の開始点PO1の直前の輝度および逆エッジ点の終了点PS2の直後の輝度が共に路面輝度と比較して所定の規定値(輝度差閾値)以上の輝度差で大きいか否かを判定する(S46)。
【0094】
図10のステップS46の判定において、逆エッジ点の開始点PO1の直前の輝度および逆エッジ点の終了点PS2の直後の輝度が共に路面輝度と比較して所定の規定値以上の輝度差で大きい場合、ステレオ画像認識装置4は、ステップS48に移行し、逆エッジ点の開始点PO1を逆エッジ候補点POの認識を除外(キャンセル)する。
【0095】
図10のステップS46の判定において、逆エッジ点の開始点PO1の直前の輝度および逆エッジ点の終了点PS2の直後の輝度が共に路面輝度と比較して所定の規定値以上の輝度差で大きくない(小さい)場合、ステレオ画像認識装置4は、逆エッジ点の開始点PO1と逆エッジ点の終了点PS2の離間距離が所定の規定値以上であるか否かを判定する(S47)。
【0096】
ステレオ画像認識装置4は、
図10のステップS47の判定において、逆エッジ点の開始点PO1と逆エッジ点の終了点PS2の離間距離が所定の規定値以上である場合、逆エッジ点の開始点PO1を逆エッジ候補点POの認識を除外(キャンセル)する(S48)。一方、ステレオ画像認識装置4は、
図10のステップS47の判定において、逆エッジ点の開始点PO1と逆エッジ点の終了点PS2の離間距離が所定の規定値以上でない場合、ステップS49に移行し、逆エッジ点の開始点PO1を逆エッジ候補点POと認識する。
【0097】
なお、ステップS45~47のルーチンは、例えば、
図16に示すように、カープール(Carpool)車線を区画する車線区画線LL,LRにみられるように、白線中央に黒線BLなどが設けられている場合において、この黒線BLを車線区画線LL,LRと認識しないようにするために行われる。
【0098】
このような場面において、ステレオ画像認識装置4は、逆エッジの開始点PO1直前の輝度と、逆エッジ点の終了点PS2直後の輝度の差が小さく、且つ、これらの輝度が路面輝度と比較して規定値以上差が大きい場合、逆エッジ点の開始点PO1を逆エッジ候補点POと認識しないで、カープール(Carpool)車線の中央の黒線BLとして認識する。
【0099】
または、ステレオ画像認識装置4は、白線中央に黒線BLなどが設けられている車線区画線LL,LRにおいて、
図17に示すように、エッジ点PS1が終了点となり、エッジ点PO2が終了点となっており、最初の逆エッジ点の開始点PO1と途中にある逆エッジ点の終了点PS2の離間距離(ライン
幅)Lbが所定の規定値以上あれば、逆エッジ点の開始点PO1を逆エッジ候補点POと認識しないでカープール(Carpool)車線の中央の黒線BLとして認識する。
【0100】
これにより、カープール(Carpool)車線などの白線中央の黒線BLが車線区画線LL,LRに誤認識されることが防止される。なお、ステレオ画像認識装置4は、白線中央に黒線BLなどが設けられている車線区画線LL,LRの場合、先ず、ステップS41において、途中の逆エッジ点の開始点PO1と逆エッジ点の終了点PS2の離間距離が所定の規定値未満であると、逆エッジ点の開始点PO1を逆エッジ候補点POと認識しない判定を行う。
【0101】
このように、ステレオ画像認識装置4は、特殊な種々の車線区画線LL,LRの形態に対して、逆エッジ候補点POの認識のキャンセルを判断することができる。
【0102】
以上に説明したように本実施の形態の車両の車線区画線認識装置であるステレオ画像認識装置4は、明るい路面よりも淡色の車線区画線LL,LR以外の黒色などの明るい路面よりも濃色の車線区画線LL,LRの認識も行える構成となっている、
【0103】
そのため、車両1は、車線区画線LL,LRが黒色などの濃色ラインや、白線、黄色などの淡色ラインが擦れて、黒色などの濃色ラインで補修されたような車線区画線LL,LRであっても、車線逸脱防止機能および車線中央維持機能がキャンセルされず、操舵制御が継続できるようになる。
【0104】
従って、車両の車線区画線認識装置であるステレオ画像認識装置4は、明るい路面に対して車線区画線LL,LRの濃淡色を問わず好適に車線区画線LL,LRの認識が行える。
【0105】
なお、車線区画線LL,LRは、黒色などの濃色ラインのみを含む。また、上述の実施形態においては、車線区画線エッジ点として車線区画線開始点を用いた一例について説明したが、本発明はこれに限定されるものではなく、例えば、車線区画線開始点に代えて、輝度が明から暗へと変化する車線区画線終了点を用いることも可能である。
【0106】
さらに、上述の実施形態においては、ステレオ撮像された一対の画像に基づいて車線区画線認識を行う場合の一例について説明したが、本発明はこれに限定されるものではなく、単眼のカメラなどで撮像された画像に基づいて車線区画線認識を行っても良いことは勿論である。
【0107】
また、ステレオ画像認識装置4および制御ユニット5は、中央処理装置(CPU)、ROM、RAMなどの記憶装置などを含むプロセッサを有している。また、プロセッサの複数の回路の全て若しくは一部の構成は、ソフトウェアで実行してもよい。例えば、ROMに格納された各機能に対応する各種プログラムをCPUが読み出して実行するようにしてもよい。
【0108】
さらに、プロセッサの全部若しくは一部の機能は、論理回路あるいはアナログ回路で構成してもよく、また各種プログラムの処理を、FPGAなどの電子回路により実現するようにしてもよい。
【0109】
以上の実施の形態に記載した発明は、それらの形態に限ることなく、その他、実施段階ではその要旨を逸脱しない範囲で種々の変形を実施し得ることが可能である。さらに、上記には、種々の段階の発明が含まれており、開示される複数の構成要件における適宜な組合せにより種々の発明が抽出され得るものである。
【0110】
例えば、開示される全構成要件から幾つかの構成要件が削除されても、述べられている課題が解決でき、述べられている効果が得られる場合には、この構成要件が削除された構成が発明として抽出され得るものである。
【符号の説明】
【0111】
1…車両(自車両)
2…運転支援装置
3…ステレオカメラ
4…ステレオ画像認識装置
5…制御ユニット
11…車速センサ
12…ヨーレートセンサ
13…メインスイッチ
14…舵角センサ
15…アクセル開度センサ
16…スロットル弁
17…アクティブブースタ
AL,AR…区画線探索領域
BE…黒縁線
BL…黒線
C…カウンタ
Cth1…第1の閾値
Cth2…第2の閾値
Jn…探索ライン
LL…車線区画線
LL,LR…車線区画線
Ll,Lr…近似線
P…区画線開始点
PO…逆エッジ候補点
PS…標準エッジ候補点
R1…第1のセグメント
R2…第2のセグメント
TM…タイヤ痕