(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0012】
以下、図面に基づいて本発明の一実施形態を説明する。
図1に示す運転支援システムAは、画像処理系Bと操舵制御系Cとを有し、画像処理系Bが、走行環境情報取得手段としての撮像部1及び画像処理部2と、区画線推定手段としての区画線推定部9とで構成されている。又、操舵制御系Cが操舵制御部10と操舵アクチュエータ11とで構成されている。この操舵アクチュエータ11としては、電動モータや油圧モータ等がある。
【0013】
操舵制御部10はマイクロコンピュータを主体に構成されており、CAN(Controller Area Network)通信等の車内通信回線12を通じて操舵アクチュエータ11と双方向通信可能に接続されている。この操舵制御部10は、自車両M(
図9〜
図11参照)を走行車線に沿って走行させる車線維持(レーンキープ)制御や車線逸脱防止制御等の運転支援制御を行う。
【0014】
すなわち、操舵制御部10は、画像処理系Bから送信される信号に基づき、自車両Mが、車線(走行車線)の左右を区画する区画線Ll,Lr(
図9〜
図11参照)の中央を走行するようにステアリングのハンドル角を設定する。又、自車両Mが左右の区画線から逸脱すると予測された場合は、逸脱を防止する方向のステアリングのハンドル角を設定する。そして、設定したハンドル角に対応する操舵トルクを操舵アクチュエータ11へ出力する。
【0015】
操舵アクチュエータ11は、操舵制御部10からの操舵トルクに基づきステアリングを動作させて車両の進行方向を調整する。
【0016】
又、
図2に示すように、画像処理系Bの撮像部1は、メインカメラ1aとサブカメラ1bとからなるステレオカメラで構成されており、この両カメラ1a,1bは、例えばルームミラー上方であって、フロントガラスに近接する位置の車幅方向中央から左右に、所定基線長で等間隔に設置されている。又、この各カメラ1a,1bにCCDやCMOS等の撮像素子が設けられており、この両撮像素子によって自車両Mの走行車線を含む車両前方の走行環境が撮像される。
【0017】
両カメラ1a,1bで撮像した一対のアナログ画像は画像処理部2に出力される。画像処理部2は、A/D変換部3と画像補正部4と画像データメモリ5と距離データ処理部6とを備えている。各カメラ1a,1bで撮像したアナログ画像は、A/D変換部3に設けられている各A/D変換器3a,3bで所定輝度階調のデジタル画像に変換されて画像補正部4に出力される。
【0018】
画像補正部4では、両カメラ1a,1bの取付位置の誤差に起因するずれやノイズの除去等を含む輝度値の補正等の画像補正が行われ、メインカメラ1aの出力信号から基準画像データが生成され、又、サブカメラ1bの出力信号から比較画像データが生成される。そして、この基準画像データ及び比較画像データが画像データメモリ5に格納されると共に、距離データ処理部6に出力される。
【0019】
距離データ処理部6はイメージプロセッサ7と距離データメモリ8とを備えている。イメージプロセッサ7は、基準画像データと比較画像データとの視差に基づいて両画像中の同一対象物を認識すると共に、その距離データ(自車両Mから対象物までの距離)を、三角測量の原理を利用して算出し、距離データメモリ8に格納する。従って、この画像データメモリ5と距離データ処理部6とで自車両M前方の、区画線を含む走行環境情報が取得される。
【0020】
又、区画線推定部9は、区画線認識評価部9aと、キャンセル後初期評価部9bと、特徴量記憶手段としてのデータメモリ9cとを備えている。
【0021】
区画線認識評価部9aは、画像データメモリ5に格納されている画像から、自車両Mの左右を区画する区画線の候補となる点群を抽出し、その候補点を結ぶ直線や曲線を算出することで区画線を認識する。或いは、予め記憶されている区画線モデルとパターンマッチすることで区画線を認識する。尚、区画線は、実線、破線、色(白色、黄色)の区別はしない。
【0022】
例えば、画像平面における道路の幅方向の輝度変化を評価して区画線の候補となる点群を抽出し、この区画線候補の点群の時系列データを処理することで区画線を認識する。
【0023】
すなわち、画像上に設定された区画線検出領域内において、例えば、
図7に示すように、水平方向(車幅方向)に設定した複数の探索ライン上で輝度が所定以上変化するエッジ強度に基づき、探索ライン毎に1組の区画線開始点Ps、及び区画線終了点Peを検出する。そして、この区画線開始点Psと区画線終了点Peとの間の所定領域を、区画線候補点として抽出する。尚、符号WLは区画線幅である。
【0024】
次いで、単位時間当たりの車両移動量に基づく区画線候補点の空間座標位置の時系列データを処理して左右の区画線に近似するモデルを算出し、このモデルにより、区画線を認識する。区画線の近似モデルとしては、ハフ変換によって求めた直線成分を連結した近似モデルや、1次又は2次の近似式から求めることができる。
【0025】
更に、この区画線認識評価部9aは、上述した区画線候補点から求めた線成分が、確かに、左右を区画する区画線かどうかの認識信頼度の評価を行う。そして、この評価結果に基づいて確かに区画線であるか否かを判断し、誤認識による運転支援制御の不具合発生を未然に防止する。例えば、連続する区画線が交差点で途切れた場合、或いは車線変更による区画線の水平方向の移動により一時的に認識できなくなった場合、或いは、区画線が雪で隠れてしまった場合の誤認識を未然に防止する。
【0026】
そのため、区画線認識評価部9aは、区画線候補点から求めた線成分が、区画線か否かの認識信頼度を、1フレーム画像から得られる複数の特徴量を用いて評価する。評価の対象とする特徴量としては、例えば、1フレーム画像における区画線開始点から区画線終了点までの領域の長さ(画素数)、エッジ強度、輝度、区画線開始点の点群が線成分上にある割合、区画線開始点の点群に対応する区画線終了点の点群の割合、区画線候補点の路面からの高さ等が掲げられる。区画線認識評価部9aは、これら複数種類の各特徴量を抽出し、これらの特徴量が所定以上の評価段階を示した場合に、抽出した線成分は確かに区画線であると評価する。
【0027】
この区画線認識評価部9aでの区画線の認識評価処理は、具体的には、
図3に示す区画線認識処理ルーチンに従って実行される。
【0028】
このルーチンでは、先ず、ステップS1で左区画線の認識評価処理を行い、続く、ステップS2で右区画線の認識評価処理を行う。ステップS1,或いはステップS2の認識評価処理は、
図4に示す区画線認識評価処理サブルーチン処理に従って実行される。尚、このサブルーチンはステップS1,S2のそれぞれにおいて個々に実行される。従って、以下の処理において、「x」と表示されている記号は、ステップS1での処理では「l」、ステップS2での処理では「r」と読み替える。
【0029】
このサブルーチンでは、先ず、ステップS11で区画線成分の特徴量αx(ステップS1での処理では左区画線成分の特徴量αl、ステップS2での処理では右区画線成分の特徴量αr)を抽出する。尚、このステップでの処理が、本発明の特徴量抽出手段に対応している。
【0030】
すなわち、上述したように、1フレーム画像毎に、区画線成分の評価対象となる複数類の特徴量αln(n=1,2,3,4,5…)を抽出し、これを手前側から遠方までの所定フレーム画像(例えば、10フレーム画像)ずつ時系列で行う。
【0031】
次いで、ステップS12へ進み、抽出した特徴量から、確かに区画線として認識できるか否かの信頼度を求める。先ず、各特徴量αln(n=1,2,3,4,5…)の信頼度を所定段階(例えば、1〜4段階)で評価する。そして、所定段階で評価した信頼度を時系列で評価する。この時系列の評価は、信頼度評価用カウンタを用いて行う。
【0032】
すなわち、
図8に示すように、信頼度評価用カウンタを用いて、信頼度の評価対象となる複数種類の特徴量αl1,αl2,αl3,αl4,αl5,…を、設定されている複数のフレーム画像(例えば、10フレーム画像)において、全ての特徴量が閾値を満たすまでカウントする。
【0033】
そして、全ての特徴量が閾値を満たした場合、ステップS13へ進み、全ての特徴量αln(n=1,2,3,4,5…)の段階評価が所定以上(例えば、4段階で3段階以上)か否かを調べる。そして、特徴量αln(n=1,2,3,4,5…)の中の所定割合以上が所定段階上の評価を示している場合、区画線成分は確かに区画線であると認識してステップS14へ進む。又、高い評価を示している特徴量が所定割合以下の場合は、区画線が途切れている、或いは認識できなかったと判定し、ステップS15へ分岐する。尚、この場合、全ての特徴量αlnの評価段階が所定割合以上の場合にのみ、区画線を認識していると判定し、ステップS14へ進めるようにしても良い。
【0034】
そして、ステップS14へ進むと、信頼度の高い(高い評価段階の)特徴量をデータメモリ9cに記憶させて保持し、ステップS16へ進む。
【0035】
一方、ステップS15へ分岐すると、キャンセル後区画線認識フラグFxα(ステップS1ではFlα、ステップS2ではFrα)の値を調べる。そして、Fxα=1、すなわち、キャンセル後区画線認識フラグFlα,Frαの双方がセットされている場合、ステップS16へ進む。又、Fxα=0、すなわち、キャンセル後区画線認識フラグFlα,Frαの少なくとも一方がクリアされている場合はステップS17へ進む。尚、このキャンセル後区画線認識フラグFxαは、後述する
図5に示すキャンセル後区画線認識処理ルーチンでセットされる。
【0036】
そして、ステップS14,或いはステップS15からステップS16へ進むと、制御許可フラグFx(ステップS1ではFl、ステップS2ではFr)をセットして(Fx←1)、サブルーチンを抜ける。
【0037】
又、ステップS15からステップS17へ進むと、制御許可フラグFxをクリアして(Fl←0)、サブルーチンを抜ける。
【0038】
その後、
図3のステップS3へ進むと、左区画線Llの制御許可フラグFlの値を調べ、Fl=1の場合はステップS4へ進む。又、Fl=0の場合はステップS6へジャンプする。
【0039】
ステップS4へ進むと、右区画線Lrの制御許可フラグFrの値を調べ、Fr=1の場合はステップS5へ進む。又、Fr=0の場合はステップS6へ分岐する。
【0040】
そして、左右の区画線Ll,Lrが認識されてステップS5へ進むと、制御許可指令を出力してルーチンを抜ける。一方、左右の区画線の少なくとも一方が認識されていないと判定されてステップS6へ進むと、制御キャンセル指令を出力してルーチンを抜ける。
【0041】
例えば、
図6の区間Iに示すように、区間線が明瞭な場合、水平線で示す1フレーム毎の画像を複数フレーム(例えば、10フレーム画像)、時系列で抽出した際の特徴量は全て高い段階評価示すため、高い信頼度が得られる。又、自車両Mの進行により、撮像部1のカメラ1a,1bの検出領域にて区間IIが撮像され始めると、検出すべき区画線が途切れるため、特徴量は段階評価が次第に低くなるため、信頼度は低下する。
【0042】
上述したキャンセル後区画線認識フラグFxα(左区画線Ll側はFlα、右区画線Lr側はFrα)の値は、具体的には、
図5に示すキャンセル後区画線認識処理ルーチンに従って、セット或いはクリアされる。
【0043】
このルーチンは、左区画線成分と右区画線成分とに対して個別に行われる。従って、以下の「x」は、左区画線成分を対象としている場合は「l」、右区画線成分を対象としている場合は「r」と読み替える。
【0044】
このルーチンでは、先ず、ステップS21で制御許可フラグFxの値を調べる。そして、Fx=0の場合、ステップS22へ進み、1フレーム画像、或いは、数(例えば、2〜4)フレーム画像分の特徴量αln(n=1,2,3,4,5…)を抽出し、所定制御再開判定閾値を満たすまでカウントする。
【0045】
そして、全ての特徴量αln(n=1,2,3,4,5…)のカウントが制御再開判定閾値を満たした場合、ステップS23へ進み、データメモリ9cに記憶されている、記憶情報である高い評価の特徴量を読込み、ステップS24で、今回、抽出した特徴量のうち対応する特徴量と比較し、その差分を求める。
【0046】
その後、ステップS25へ進み、全ての特徴量の差分が所定範囲内か否かを調べ、所定範囲内の場合は、制御キャンセル後に検出した区画線成分は区画線であると判定し、ステップS26へ進む。又、差分が所定範囲を超えている場合は、区画線成分が検出されていない、或いは区画線成分らしきものは区画線ではないと判定して、ステップS27へ分岐する。
【0047】
ステップS26では、キャンセル後区画線認識フラグFxαをセットして(Fxα←1)、ルーチンを抜ける。又、ステップS27へ分岐すると、キャンセル後区画線認識フラグFxαをクリアして(Fxα←0)、ルーチンを抜ける。
【0048】
このキャンセル後区画線認識フラグFxαは、
図4のステップS15で読込まれ、Fxα=1の場合、ステップS16へ進み、制御許可フラグFxがセット(Fx←1)される。又、Fxα=0の場合、ステップS17へ進み、制御許可フラグFxがクリア(Fx←00)される。
【0049】
この制御許可フラグFx(左区画線側はFl、右区画線側はFr)の値は、
図3のステップS3、ステップS4でセットされているか否かを調べる。そして、条件が満足された場合、ステップS5で制御許可となる。
【0050】
すなわち、区画線が一時的に途切れて、運転支援が一時的にキャンセルされた後、
図6の区間IIIの画像にて区画線成分が検出された際に、途切れる前の高い評価の特徴量と、これに対応する、今回抽出した特徴量とが比較される。そして、その差分が所定範囲内の場合、キャンセル後に抽出した区画線成分は確かに区画線であると認識される。
【0051】
その結果、自車両Mの走行車線を区画する区画線Ll,Lrが途切れて運転支援が一時的にキャンセルされた場合であっても、その後、区画線を早期に認識して運転支援を再開させることができる。その結果、運転者に与える違和感を軽減させることが可能となる。
【0052】
例えば、
図9に示すように、自車両Mが交差点に進入する手前において、データメモリ9cに記憶した特徴量が、交差点を通過するまで保持され、交差点通過後の左右区画線Ll,Lrの数フレーム画像分が撮像された際には、そのとき抽出した特徴量と
データメモリ9cに記憶した特徴量とが比較され、差分が所定範囲に収まっている場合は、途切れた後の区画線成分は区画線であると認識されるので、運転者とほぼ同じ認識結果を得ることができる。
【0053】
一方、
図10に示すように、例えば自車両Mが左車線から隣接する中央車線へ車線変更しようとする場合、必ず右区画線Lrを横切ることになる。右区画線Lrを横切るに際し、撮像部1で撮像した画像では、左区画線Llが左方向へ外れていき、同時に右区画線Lrが右から左方向へ入り込んでくる。そして、その後、この右区画線Lrが自車両Mの左側に移動し、右側に新たな走行車線の区画線が入り込むため、区画線が一時的に途切れた状態となる。
【0054】
自車両Mが左車線から中央車線へ移動すると、左車線の右区画線Lrが中央車線の左区画線Llとなり、右区画線Lrが新たに検出される。しかし、同一走行路では、区画線の特徴は各区画線でほぼ同じと考えられるため、自車両Mの姿勢が安定したとき、左右の区画線Ll,Lrの特徴量と左車線を走行していたときの左右区画線Ll,Lrの特徴量とが比較されるので、早期に区画線を認識することができる。
【0055】
又、同一車線を走行中であっても、
図11に示すように、例えば左区画線Llがかすれ、或いは積雪により覆われる等の原因により、失陥領域Lngにおいて区画線を判別することが困難になる場合がある。このような場合、上述した
図9での交差点と同様、区画線の途切れが回復した際に、直ちに区画線Llが認識されるため、運転者とほぼ同じ認識結果を得ることができる。
【0056】
このように、本実施形態では、自車両Mの走行車線を区画する区画線Ll,Lrが途切れて運転支援が一時的にキャンセルされた場合であっても、その後、区画線成分の特徴量が抽出され、この特徴量と運転支援制御がキャンセルされる前に記憶した信頼度の高い特徴量とを比較し、その差分が所定範囲以内の場合は、区画線と評価するようにしたので,途切れた後に検出された区画線成分を区画線Ll,Lrであると早期に認識することができる。その結果、運転者の認識とほぼ同等のタイミングで運転支援制御を再開させることができ、運転者に与える違和感を軽減させることができる。
【0057】
尚、本発明は、上述した実施形態に限るものではなく、例えば特徴量として左右区画線の間の車線幅を加えるようにしても良い。