(58)【調査した分野】(Int.Cl.,DB名)
前記線特徴判定部は、前記候補選択部により前記車両の左右で選択された前記候補線に、前記逆光の影響有りと判定された前記候補線が含まれている場合に、選択された前記候補線同士の色情報を比較して、前記逆光の影響有りと判定された前記候補線の線色を再判定するように構成されており、
前記出力部は、前記候補選択部により選択された前記候補線の前記線特徴判定部により判定された前記線色を更に出力するように構成されている、請求項1に記載の区画線認識装置。
前記特徴判定部は、前記線色を再判定する際に、前記区画線の特定の色に対応した前記候補線の色成分値、及び前記候補線のRBG各成分値の関係性を前記候補線同士で比較して、前記線色を再判定するように構成されている、請求項1又は2に記載の区画線認識装置。
前記特徴判定部は、前記候補線の前記逆光の影響の有無を、前記候補線の輝度値及び前記カメラに対する光源の位置の少なくとも一方から判定するように構成されている、請求項1〜3のいずれか1項に記載の区画線認識装置。
【発明を実施するための形態】
【0012】
以下、図面を参照しながら、発明を実施するための形態を説明する。
<1.構成>
まず、本実施形態に係る区画線認識装置30が適用される運転支援システム100の構成について、
図1及び
図2を参照して説明する。本実施形態に係る運転支援システム100は、車載カメラ10と、センサ類11と、車両制御装置50と、区画線認識装置30と、を備える。車載カメラ10、センサ類11及び車両制御装置50は、区画線認識装置30に信号線で接続されている。区画線認識装置30は、車両70に搭載されて、車線の形状をする装置である。また、区画線は、道路の車線を区画するように描かれた白線や黄線、青線である。
【0013】
車載カメラ10は、
図1に示すように、車両前方の路面の所定範囲が撮影範囲となるように、例えば、ルームミラーに設置される。車載カメラ10は、予め設定された時間間隔、例えば1/15(秒)間隔で、繰り返しカラー画像を撮影する。そして、車載カメラ10は、撮影したカラー画像をデジタル信号化して区画線認識装置30へ出力する。
【0014】
センサ類11は、車両の状態量を測定する種々のセンサであり、車両70の車速を測定する車速センサや、車両70のヨーレートを測定するヨーレートセンサを含む。センサ類11は、予め設定された時間間隔で繰り返し測定し、測定結果を区画線認識装置30へ出力する。
【0015】
車両制御装置50は、ECUであり、CPU、ROM、RAM、及びフラッシュメモリ等の半導体メモリを備えた周知のマイクロコンピュータを中心に構成されている。車両制御装置50は、区画線認識装置30の推定結果に基づいて警報出力制御や走行制御の走行支援を実行する。警報出力制御は、車両70が車線を逸脱しそうな場合に警報の出力を実行する制御である。また、走行制御は、車線内を走行するように実行する車両70の操舵の制御やブレーキの制御である。
【0016】
区画線認識装置30は、ECUであり、CPU、ROM、RAM、及びフラッシュメモリ等の半導体メモリを備えた周知のマイクロコンピュータを中心に構成されている。区画線認識装置30は、CPUが非遷移的実体的記録媒体に格納されたプログラムを実行することにより、
図2に示すような各機能を実現する。本実施形態では、半導体メモリが、プログラムを格納する非遷移的実体的記録媒体に該当する。また、このプログラムの実行により、プログラムに対応する方法が実行される。なお、区画線認識装置30を構成するマイクロコンピュータの数は1つでも複数でもよい。
【0017】
区画線認識装置30は、
図2に示すように、エッジ抽出部31、エッジ線算出部32、ペイント特徴算出部33、候補線抽出部34、線特徴判定部35、多重線判定部36、候補選択部37、車線推定部38、及び出力部39の機能を備える。これらの機能を実現する手法はソフトウェアに限るものではなく、その一部又は全部の要素を、論理回路やアナログ回路等を組み合わせたハードウェアを用いて実現してもよい。
【0018】
エッジ抽出部31は、車載カメラ10により撮影された路面画像を取得し、取得した路面画像から、輝度値の変化が大きい画素であるエッジ点を抽出する。路面画像は、各画素のデータとして赤色成分値(以下、R値)、緑色成分値(以下、G値)、及び青色成分値(以下、B値)を有するカラー画像である。詳しくは、エッジ抽出部31は、画像の左端から右端へ水平方向に、輝度値の変化量が閾値以上となる画素を探索し、アップエッジ点及びダウンエッジ点を抽出する。アップエッジ点は、低い輝度値から高い輝度値へ変化する輝度値の立ち上がり点である。ダウンエッジ点は、高い輝度値から低い輝度値へ変化する輝度値の立下り点である。
【0019】
エッジ線算出部32は、エッジ抽出部31により抽出されたエッジ点にハフ変換を適用して直線成分を抽出し、抽出した直線成分を含むエッジ線を算出する。これにより、アップエッジ点を要素とするエッジ線と、ダウンエッジ点を要素とするエッジ線とが算出される。
【0020】
ペイント特徴算出部33は、エッジ点によって形成される矩形形状の領域をペイントとして抽出する。詳しくは、ペイント特徴算出部33は、左側をアップエッジ点、右側をダウンエッジ点で囲まれ、且つ、車両70の走行方向におけるエッジ点の間隔が、予め設定された間隔閾値以内の領域をペイントとして抽出する。間隔閾値は、一般的な破線の区画線の線分同士の間隔よりも短い値であり、間隔閾値未満の間隔のエッジ点同士は同じ線分に属していると見なせる値である。さらに、ペイント特徴算出部33は、抽出したペイントの走行方向における長さ、及びアップエッジ点とダウンエッジ点との間隔である幅を算出する。
【0021】
候補線抽出部34は、算出されたエッジ線から、アップエッジ点を要素とする左側のエッジ線と、ダウンエッジ点を要素とする右側のエッジ線のペアを作る。この際、候補線抽出部34は、ペイント特徴算出部33により算出されたペイントブロックの幅を考慮して、区画線の幅らしい幅を持ったエッジ線のペアを作る。そして、候補線抽出部34は、エッジ線のペアを輪郭とする線を候補線として抽出する。
【0022】
線特徴判定部35は、抽出された候補線の線種、線色、及び、逆光の影響の有無を判定する。ここでは、車載カメラ10に対向する方向からの光を逆光とする。逆光の光源は、太陽光、対向車両のヘッドライドなどなんでもよい。多重線判定部36は、抽出された候補線が多重線を構成しているか否か判定する。候補選択部37は、抽出された候補線から、線特徴判定部35及び多重線判定部36による判定結果を用いて、区画線となる候補線を選択する。
【0023】
車線推定部38は、候補選択部37により選択された候補線を認識して、車両70が走行する車線の形状を推定する。出力部39は、車線推定部38により推定された推定結果を、車両制御装置50へ出力する。なお、線特徴判定部35、多重線判定部36、候補選択部37、車線推定部38、及び出力部39が実行する処理の詳細は後述する。
【0024】
<2.車線推定処理>
次に、区画線認識装置30が実行する車線推定処理の処理手順について、
図3のフローチャートを参照して説明する。本処理手順は、候補線が抽出された都度実行される。
【0025】
まず、ステップS10では、抽出された候補線に属するエッジ点の路面上の分布から、候補線がどのような種類の線かを判定する。線種としては、実線の区画線や破線の区画線、区画線の内側に描かれる破線の補助線等がある。通常、破線の区画線と破線の補助線とは、線分の長さや、線分同士の間隔が異なっているため、エッジ点の路面上の分布から線種が判定される。
【0026】
続いて、ステップS20では、抽出された候補線の線色を判定する。区画線の色には、走行地域のルールによって決められた意味がある。
図4〜
図6に、異なる意味を持つ黄色の区画線(以下、黄線)が描かれた例を示す。
図4〜
図6において、ハッチングされた線は黄線を示し、ハッチングのない線は白色の区画線(以下、白線)を示す。
図4は、欧州の工事区間を示す。欧州では、白線で描かれた車線に重ねて黄線で描かれた車線は、臨時の車線を意味する。この場合、白線ではなく黄線を区画線として認識しなければならない。また、
図5は、日本の暫定供用区間を示す。日本では、白線の両側を黄線で挟んだ多重線は、暫定供用区間を意味し、この多重線を超えると反対車線であること示す。この場合、自車両に最も近い黄線を区画線として認識しなければならない。また、
図6は、日本のはみ出し禁止区間を示す。この場合、黄線から車両がはみ出さないように、運転しなければならない。
【0027】
ステップS20では、具体的には、
図8に示すような候補線のRGB各成分値の大きさの関係性を見て、色を判定する。白色の場合は、R値とG値B値の互いの差が小さく、3つの成分値が略均一になる。そこで、R値、G値、B値の互いの差分が、すべて予め設定されている差分閾値未満の場合には、線色を白色と判定する。一方、白色以外の色の場合には、その色に応じて、R値、G値、B値の大きさに決まった関係性がある。例えば、黄色の場合には、R値>G値>B値の関係性、又はR値>G値且つR値>B値の関係性がある。よって、いずれかの差分が差分閾値以上の場合には、R値、G値、B値の大きさの関係性を見て、黄色か青色かを判定する。
【0028】
続いて、ステッS30では、候補線の輝度値及び車載カメラ10に対する光源の位置の少なくとも一方から、抽出された候補線が逆光の影響を受けているか否か判定する。具体的には、候補線が逆光の影響を受けている場合、候補線の輝度値は非常に高くなるので、候補線の輝度値が、予め設定された輝度閾値を超えている場合に、候補線が逆光の影響を受けていると判定する。候補線の輝度値は、例えば、候補線の平均輝度値を用いればよく、輝度閾値は、逆光の影響がない状況では取り得ないような大きな輝度値とすればよい。また、光源の位置が車載カメラ10に対向する位置にある場合に、候補線が逆光の影響を受けていると判定する。太陽や対向車両のヘッドライト等の光源の位置は、画像において輝度値が非常に強い部分を光源として算出すればよい。あるいは、太陽の位置は、画像撮影時の車両70の位置及び日時からも算出できる。
【0029】
続いて、ステップS40では、抽出された候補線が多重線を構成しているか否か判定する。具体的には、画像の水平方向において、予め設定された判定範囲内に、複数の候補線が抽出されている場合には、複数の候補線はそれぞれ多重線を構成していると判定する。また、判定範囲内に1つの候補線のみが抽出されている場合には、候補線は多重線を構成していない、すなわち1本線と判定する。判定範囲は、走行地域に存在し得る多重線に基づいて設定される。
【0030】
続いて、ステップS50では、抽出された候補線の中に、逆光の影響を受け、且つ、多重線を構成している候補線Laがあるか否か判定する。抽出された候補線の中に、候補線Laがある場合には、ステップS60へ進み、候補線Laがない場合には、ステップS80へ進む。
【0031】
ステップS60では、候補線Laが多重線LLを構成している場合に、多重線LLを構成している候補線同士の色情報を比較して、候補線Laの線色を再判定する。ここでは、
図7に示す車載カメラ10で撮影された路面画像を例にして説明する。この路面画像からは、候補線A〜Dが抽出される。候補線A,Cは白線であり、候補線B,Dは黄線である。また、
図8は、
図7の画像から抽出した候補線A〜Dの線種、線色、黄色成分値(以下、Y値)、R値、G値、B値を示す。線色は、ステップS20で判定された色であり、Y値は、R値、G値、B値から算出した値である。
【0032】
ここで、Y値は、R値−B値として算出されるが、画像全体が、赤みがかっていたり、青みがかっていたりすることを考慮して、R値、B値を補正する。具体的には、画像全体のR値の平均値を平均R値、画像全体のG値の平均値を平均G値、画像全体のB値の平均値を平均B値とすると、Y値=R値×(平均G値/平均R値)−B値×(平均G値/平均B値)となる。括弧内の乗算が補正に相当する。
【0033】
図7では、候補線C,Dが逆光を反射している。候補線Cは元々の白色が逆光の影響を受けても白色と判定されているのに対して、候補線Dは、本来黄色が逆光の影響を受けて白色と判定されている。候補線Dと逆光の影響を受けていない候補線Bとを比較すると、候補線Dは、逆光の影響を受けて、R値とG値とB値の互いの差分が小さくなっていることがわかる。つまり、候補線Dは、逆光の影響を受けたことで、黄色の特徴が小さくなり、白色の特徴が大きくなって、白色と判定されてしまっている。
【0034】
しかしながら、本発明者は、本来黄色の候補線が逆光の影響を受けたことで、色情報において、黄色の特徴が小さくなったとしても、黄色以外の候補線の色情報と比較すれば、黄色の特徴が大きいことに気付いた。そこで、候補線Dと候補線Cとの色情報を比較して、候補線Dと候補線Cの線色を再判定する。
【0035】
具体的には、候補線Dと候補線Cの黄色の色成分値と、RGB各成分値の大きさの関係性を比較する。候補線CのRGB各成分値の大きさの関係性は、G値>R値>B値となっており、黄色の関係性を示していない。また、候補線CのY値は、候補線BのY値に示すように、逆光の影響を受けていない黄線が取り得るY値と比べて非常に小さい。よって、候補線Cの線色は黄色ではないと判定する。
【0036】
一方、候補線DのRGB各成分値は、互いの差分は小さいものの、R値>G値>B値となっており、黄色の関係性を示している。また、候補線DのY値は、逆光の影響を受けていない黄線が取り得るY値と比べると小さいものの、黄色以外の色の候補線CのY値と比較すると十分に大きい。よって、候補線DのY値が、候補線CのY値よりも、予め設定されている黄色閾値を超えて大きい場合、もしくは、候補線DのY値と候補線CのY値の比が閾値以上大きい場合に、候補線Dの線色を黄色と判定する。そして、線色として、黄色と白色を考慮すればよい場合は、候補線Cの線色は白色と判定する。また、線色として、更に青色を考慮する場合は、候補線CのRGB各成分値の大きさの関係性が青色の特徴を示しているか見るとともに、候補線CのB値と候補線DのB値とを比較して、候補線Cが白色か青色かを判定すればよい。
【0037】
続いて、ステップS70では、各候補線について判定した線種、線色、及び多重線か否かを用いて、走行地域のルールに従って、車両70が走行する車線の区画線となる候補線を選択し、ステップS110へ進む。
【0038】
また、ステップS80では、ステップS70と同様の処理を実行して、車両70が走行する車線の区画線となる候補線を選択し、ステップS90へ進む。
ステップS90では、ステップS80で選択した候補線が、ステップS30で逆光の影響を受けていると判定されているか否か判定する。ステップS80で選択した候補線が、逆光の影響を受けていると判定されている場合は、ステップS100へ進み、逆光の影響を受けていると判定されていない場合は、ステップS110へ進む。
【0039】
ステップS100では、ステップS80で選択され逆光の影響を受けている候補線Lbの線色を再判定する。具体的には、ステップS60と同様に、S80で選択された2つの候補線同士の色情報とを比較して、候補線Lbの線色を再判定する。すなわち、候補線Lbは多重線を構成していないので、車両70の左右の候補線の色情報を比較して、候補線Lbの線色を再判定する。この場合、候補線Lbは多重線を構成していないので、ステップS20での候補線Lbの色判定が誤っていたとしても、ステップS80での候補線の選択に問題はない。しかしながら、区画線の色によって、車両70の制御が変わることがあるので、車両70の制御に用いるために候補線Lbの線色を再判定している。
【0040】
続いて、ステップS110では、ステップS70又はS80で選択した候補線を認識して、車線の形状を推定する。具体的には、選択した候補線から、オフセット、ヨー角、曲率、車線幅、ピッチ角等の区画線パラメータを推定する。
【0041】
続いて、ステップS120では、ステップS110で推定した推定結果、及び、ステップS70又はS80で選択した候補線の線色を、車両制御装置50へ出力する。車両制御装置50は、車線の推定結果及び選択した候補線の線色を用いて走行支援を実行する。以上で、本処理を終了する。
【0042】
なお、本実施形態では、ステップS10〜S30,S60,S100の処理が、線特徴判定部35が実行する処理に相当し、ステップS40の処理が、多重線判定部36が実行する処理に相当する。また、ステップS70及びS80の処理が、候補選択部37が実行する処理に相当する。また、ステップS110の処理が、車線推定部38が実行する処理に相当し、ステップS120の処理が、出力部39が実行する処理に相当する。
【0043】
<3.効果>
以上説明した第1実施形態によれば、以下の効果が得られる。
(1)逆光の影響を受けている候補線が多重線を構成している場合は、その多重線を構成している候補線同士の色情報が比較され、線色が再判定される。これにより、逆光シーンでも、候補線の色を精度良く判定して、車線を精度良く推定することができる。
【0044】
(2)逆光の影響を受けている候補線が、車両70の左右で区画線として選択された候補線に含まれている場合には、選択された候補線同士の色情報が比較され、線色が再判定される。これにより、逆光シーンでも、車線の区画線として認識した候補線の色を精度良く判定することができる。
【0045】
(3)車線の形状の推定結果とともに、区画線の線色も出力されるため、区画線の線色を走行支援に用いることができる。
(4)区画線の特定色に応じて、RGB各成分値の関係性が決まっている。そして、特定色の候補線が逆光の影響を受けて、特定色の色情報に白色の特徴が出たとしても、特定色以外の候補線の色情報と比較すると、特定色の色情報では、特定色の色成分値が大きくなっているとともに、RGB各成分値の関係性に特定色の特徴が見られる。よって、特定色に対応した候補線の色成分値、及びRGB各成分値の大きさの関係性を、候補線同士で比較することで、逆光の影響を受けた候補線の線色を精度良く判定することができる。
【0046】
(5)逆光の影響を受けた部分は輝度値が他の部分よりも非常に大きくなるので、候補線の輝度値から逆光の影響の有無を判定することができる。また、車載カメラ10に対する光源の位置からも逆光の影響の有無を判定することができる。
【0047】
(他の実施形態)
以上、本発明を実施するための形態について説明したが、本発明は上述の実施形態に限定されることなく、種々変形して実施することができる。
【0048】
(a)上記実施形態では、ステップS20では、RGB各成分値の大きさの関係性を見て、白以外の黄色や青色を判定していたが、黄色や青色の色成分値が予め設定されている閾値よりも大きい場合に、線色を黄色や青色と判定するようにしてもよい。
【0049】
(b)区画線の線色は、白色、黄色、青色に限らず、赤色等の他の特定色でもよい。その場合、黄色と同様に、候補線が各特定色であるか否か判定すればよい。
(c)上記実施形態における1つの構成要素が有する複数の機能を、複数の構成要素によって実現したり、1つの構成要素が有する1つの機能を、複数の構成要素によって実現したりしてもよい。また、複数の構成要素が有する複数の機能を、1つの構成要素によって実現したり、複数の構成要素によって実現される1つの機能を、1つの構成要素によって実現したりしてもよい。また、上記実施形態の構成の一部を省略してもよい。また、上記実施形態の構成の少なくとも一部を、他の上記実施形態の構成に対して付加又は置換してもよい。なお、特許請求の範囲に記載した文言のみによって特定される技術思想に含まれるあらゆる態様が本発明の実施形態である。
【0050】
(d)上述した区画線認識装置の他、当該区画線認識装置を構成要素とするシステム、当該区画線認識装置としてコンピュータを機能させるためのプログラム、このプログラムを記録した半導体メモリ等の非遷移的実態的記録媒体、車線推定方法など、種々の形態で本発明を実現することもできる。