(58)【調査した分野】(Int.Cl.,DB名)
前記エッジ強度導出部は、前記分割領域内に設定された所定の複数の判定部位内の各画素の輝度値に基づいてエッジ平均を導出するものであって、前記所定の複数の判定部位は、水平方向に所定数連続した状態で、前記対象物の水平方向端部側に偏り、かつ、垂直方向に均等に離隔していることを特徴とする請求項1に記載の車外環境認識装置。
前記エッジ強度導出部は、フレーム単位で前記エッジ平均を導出し、時間的に連続する3フレーム分のエッジ平均のうちメディアンフィルタを用いた中央値を該エッジ平均とみなすことを特徴とする請求項1から3のいずれか1項に記載の車外環境認識装置。
【発明を実施するための形態】
【0015】
以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書および図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
【0016】
近年では、車両に搭載した車載カメラによって自車両の前方の道路環境を撮像し、画像内における色情報や位置情報に基づいて先行車両等の対象物を特定し、特定された対象物との衝突を回避したり、先行車両との車間距離を安全な距離に保つ(ACC:Adaptive Cruise Control)、所謂衝突防止機能を搭載した車両が普及しつつある。しかし、画像を用いて単純に特定物を特定したとすると、道路上に滞留する水蒸気や排気ガス等の浮遊物を、車両や歩行者といった特定物と誤認識する場合も生じ得る。
【0017】
ここで、浮遊物特有の距離のばらつきや白さに基づいて浮遊物を特定することも考えられるが、無風状態で距離のばらつきが小さかったり、浮遊物に信号機の発光色や街灯が反射して白色ではなくなっている場合には、その特定精度が高まらない場合がある。そこで、本実施形態では、浮遊物において、その色合いが単調にしか変化せず、すなわち模様が少なく、エッジの強度(輝度差分値)が通常の特定物に対して比較的低くなることに着目し、エッジ強度に応じて浮遊物を検出することを目的としている。以下、このような目的を達成するための環境認識システムを説明し、その具体的な構成要素である車外環境認識装置を詳述する。
【0018】
(環境認識システム100)
図1は、環境認識システム100の接続関係を示したブロック図である。環境認識システム100は、自車両1内に設けられた、撮像装置110と、車外環境認識装置120と、車両制御装置(ECU:Engine Control Unit)130とを含んで構成される。
【0019】
撮像装置110は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)等の撮像素子を含んで構成され、自車両1の前方に相当する環境を撮像し、3つの色相(R(赤)、G(緑)、B(青))からなるカラー画像やモノクロ画像を生成することができる。ここでは、撮像装置110で撮像されたカラー画像を輝度画像として採用し、後述する距離画像と区別する。
【0020】
また、撮像装置110は、自車両1の進行方向側において2つの撮像装置110それぞれの光軸が略平行になるように、略水平方向に離隔して配置される。撮像装置110は、自車両1の前方の検出領域に存在する対象物を撮像した画像データを、例えば1/60秒のフレーム毎(60fps)に連続して生成する。ここで、認識する対象物は、車両、歩行者、信号機、道路(進行路)、ガードレール、建物といった独立して存在する立体物のみならず、テールランプやウィンカー、信号機の各点灯部分等、立体物の一部として特定できる物も含む。以下の実施形態における各機能部は、このような画像データの更新を契機としてフレーム毎に各処理を遂行する。
【0021】
車外環境認識装置120は、2つの撮像装置110それぞれから画像データを取得し、所謂パターンマッチングを用いて視差を導き出し、導出された視差情報(後述する奥行距離に相当)を画像データに対応付けて距離画像を生成する。輝度画像および距離画像については後ほど詳述する。また、車外環境認識装置120は、輝度画像に基づく輝度、および、距離画像に基づく自車両1との奥行距離を用いて自車両1前方の検出領域における対象物がいずれの特定物に対応するかを特定する。
【0022】
車外環境認識装置120は、特定物を特定すると、その特定物(例えば、先行車両)を追跡しつつ、特定物と自車両1とが衝突する可能性が高いか否かの判定を行う。ここで、衝突の可能性が高いと判定した場合、車外環境認識装置120は、その旨、運転者の前方に設置されたディスプレイ122を通じて運転者に警告表示(報知)を行うとともに、車両制御装置130に対して、その旨を示す情報を出力する。
【0023】
車両制御装置130は、ステアリングホイール132、アクセルペダル134、ブレーキペダル136を通じて運転者の操作入力を受け付け、操舵機構142、駆動機構144、制動機構146に伝達することで自車両1を制御する。また、車両制御装置130は、車外環境認識装置120の指示に従い、駆動機構、制動機構を制御する。
【0024】
以下、車外環境認識装置120に構成について詳述する。ここでは、本実施形態に特徴的な、対象物を浮遊物と特定する手順について詳細に説明し、本実施形態の特徴と無関係の構成については説明を省略する。
【0025】
(車外環境認識装置120)
図2は、車外環境認識装置120の概略的な機能を示した機能ブロック図である。
図2に示すように、車外環境認識装置120は、I/F部150と、データ保持部152と、中央制御部154とを含んで構成される。
【0026】
I/F部150は、撮像装置110や車両制御装置130との双方向の情報交換を行うためのインターフェースである。データ保持部152は、RAM、フラッシュメモリ、HDD等で構成され、以下に示す各機能部の処理に必要な様々な情報を保持し、また、撮像装置110から受信した画像データを一時的に保持する。
【0027】
中央制御部154は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路で構成され、システムバス156を通じて、I/F部150、データ保持部152等を制御する。また、本実施形態において、中央制御部154は、画像処理部160、3次元位置導出部162、対象物特定部164、判定部位決定部166、エッジ強度導出部168、浮遊物特定部170としても機能する。以下、このような機能部について大凡の目的を踏まえ、画像処理、対象物特定処理、浮遊物特定処理といった順に詳細な動作を説明する。
【0028】
(画像処理)
画像処理部160は、2つの撮像装置110それぞれから画像データを取得し、一方の画像データから任意に抽出したブロック(例えば水平4画素×垂直4画素の配列)に対応するブロックを他方の画像データから検索する、所謂パターンマッチングを用いて視差を導き出す。ここで、「水平」は画面横方向を示し、「垂直」は画面縦方向を示す。
【0029】
このパターンマッチングとしては、2つの画像データ間において、任意の画像位置を示すブロック単位で輝度(Y色差信号)を比較することが考えられる。例えば、輝度の差分をとるSAD(Sum of Absolute Difference)、差分を2乗して用いるSSD(Sum of Squared intensity Difference)や、各画素の輝度から平均値を引いた分散値の類似度をとるNCC(Normalized Cross Correlation)等の手法がある。画像処理部160は、このようなブロック単位の視差導出処理を検出領域(例えば水平600画素×垂直180画素)に映し出されている全てのブロックについて行う。ここでは、ブロックを水平4画素×垂直4画素としているが、ブロック内の画素数は任意に設定することができる。
【0030】
ただし、画像処理部160では、検出分解能単位であるブロック毎に視差を導出することはできるが、そのブロックがどのような対象物の一部であるかを認識できない。したがって、視差情報は、対象物単位ではなく、検出領域における検出分解能単位(例えばブロック単位)で独立して導出されることとなる。ここでは、このようにして導出された視差情報(後述する奥行距離に相当)を画像データに対応付けた画像を距離画像という。
【0031】
図3は、輝度画像210と距離画像212を説明するための説明図である。例えば、2つの撮像装置110を通じ、検出領域214について
図3(a)のような輝度画像(画像データ)210が生成されたとする。ただし、ここでは、理解を容易にするため、撮像装置110それぞれが生成した2つの輝度画像210の一方のみを模式的に示している。本実施形態において、画像処理部160は、このような輝度画像210からブロック毎の視差を求め、
図3(b)のような距離画像212を形成する。距離画像212における各ブロックには、そのブロックの視差が関連付けられている。ここでは、説明の便宜上、視差が導出されたブロックを黒のドットで表している。
【0032】
図2に戻って説明すると、3次元位置導出部162は、画像処理部160で生成された距離画像212に基づいて検出領域214内のブロック毎の視差情報を、所謂ステレオ法を用いて、水平距離、高さおよび奥行距離を含む実空間における3次元の位置情報に変換する。ここで、ステレオ法は、三角測量法を用いることで、対象部位の距離画像212における視差からその対象部位の撮像装置110に対する奥行距離を導出する方法である。このとき、3次元位置導出部162は、対象部位の奥行距離と、対象部位と同奥行距離にある道路表面上の点と対象部位との距離画像212上の検出距離とに基づいて、対象部位の道路表面からの高さを導出する。そして、導出された3次元位置情報を改めて距離画像212に対応付ける。かかる奥行距離の導出処理や3次元位置の特定処理は、様々な公知技術を適用できるので、ここでは、その説明を省略する。
【0033】
(対象物特定処理)
対象物特定部164は、距離画像212に基づく3次元の位置情報を用いて検出領域214における対象部位(画素やブロック)同士をグループ化して対象物を特定する。具体的に、対象物特定部164は、任意の対象部位を基点として、その対象部位と、水平距離の差分、高さの差分、および、奥行距離の差分が予め定められた所定範囲内にある他の対象部位をグループ化し、その対象部位も一体的な対象物とする。ここで、所定範囲は実空間上の距離で表され、任意の値(例えば、1.0m等)に設定することができる。また、対象物特定部164は、グループ化により新たに追加された対象部位に関しても、その対象部位を基点として、水平距離の差分、高さの差分、および、奥行距離の差分が所定範囲内にある他の対象部位をグループ化する。結果的に、距離が所定範囲内であれば、それら全ての対象部位が対象物としてグループ化されることとなる。
【0034】
(浮遊物特定処理)
続いて、対象物におけるエッジ強度が導出され、その結果に基づいて対象物が浮遊物であるか否か判定される。
【0035】
判定部位決定部166は、浮遊物であるか否かを判定する対象物に対して、さらに、エッジ強度の判定対象となる部位(以下、判定部位という。)を決定する。
【0036】
図4は、判定部位を説明するための説明図である。判定部位決定部166は、まず、
図4(a)のように、対象物の水平方向および垂直方向の端点を含む長方形220で対象物を囲い、水平方向に均等に3分割した領域(画面左から順に分割領域222a、222b、222cとする。)を設定する。以後の処理は、このような分割領域222a、222b、222c毎に行われる。
【0037】
判定部位決定部166は、
図4(b)に示すように、分割領域222a、222b、222c毎に複数(ここでは25個)の短冊224を設定する。短冊224は、水平方向に延長され、垂直方向に略均等に離隔して配される。かかる短冊224の水平方向の長さは例えば25画素であり、垂直方向の長さは例えば1画素である。ここで、垂直方向に略均等としたのは、対象物の垂直方向の画素数によっては、短冊224を均等に離隔させることで画素に端数がでるからである。例えば、分割領域222a、222b、222cの垂直方向の長さが25+24×n(nは整数)であれば、短冊224同士を垂直方向にn画素空けることで均等に配することができるが、それ以外であれば、短冊224同士の間隔が等しくないものが生じる。この場合、1画素異なる範囲で短冊224同士の間隔を設定する。例えば、対象物の垂直方向の画素が100であれば、間隔は、3と4とが存在することとなる。ただし、短冊224の水平方向や垂直方向の画素数、および分割領域222a、222b、222c毎の短冊224の数は上述した値に限らず、任意の値を設定することができる。
【0038】
また、短冊224の分割領域222a、222b、222c内における水平方向の位置は分割領域222a、222b、222c毎に異ならせ、例えば、対象物の水平方向端部側に偏らせることができる。例えば、
図4(b)に示すように、画面左に位置する分割領域222aでは、分割領域222aの左端から短冊224が形成され、画面右に位置する分割領域222cでは、分割領域222cの右端から短冊224が形成され、画面中央に位置する分割領域222bでは、分割領域222bのうち水平方向の中央を中心に、左右に均等な幅となるように短冊224が形成される。本実施形態においては、このように形成された短冊224中の各画素が判定部位となる。こうすることで、エッジが生じやすい水平方向の端部を含んだ状態で、対象物の輝度値の分布を全体に亘って判定することができる。
【0039】
エッジ強度導出部168は、まず、判定部位決定部166が決定した判定部位に対し、ラプラシアンフィルタを用いて隣接する画素同士の輝度差分値を導出し、それをエッジ強度とする。
【0040】
図5は、エッジ強度導出部168の動作を説明するための説明図である。ここでは、
図5(a)に示すように、
図4(b)のいずれか1の短冊224を例に挙げてエッジ強度の導出処理を説明する。本実施形態におけるラプラシアンフィルタでは、対象となる判定部位に対応する画素230のエッジ強度を、
図5(b)の如く、判定部位に対応する画素230と、その画素から水平方向に連なる左右2画素232とから求める。したがって、
図5(b)に示すように、1の短冊224において連続する25画素の判定部位に対するエッジ強度を求めるため、短冊224の左右2画素232を合わせた29画素が必要となる。
【0041】
そして、エッジ強度導出部168は、判定部位に対応する画素230の輝度値を4倍し、その左右2画素(合わせて4画素)232それぞれの輝度値を減じる(−1倍)。このような計算により、対象となる判定部位に対応する画素230と、その左右2画素232とで輝度値が異なる場合、エッジ強度は大きくなり、輝度値がほぼ等しい場合、エッジ強度は0に近い値になる。このようなエッジ強度計算を25画素×25短冊×3分割領域=1875回行う。本実施形態では、対象物の大きさに拘わらず、判定部位の数を固定することで、処理負荷および処理時間の変動を抑制している。
【0042】
続いて、エッジ強度導出部168は、分割領域222a、222b、222c毎のエッジ強度の平均値を導出する。すなわち、左中右の3つの分割領域222a、222b、222cそれぞれに含まれる25画素/短冊×25短冊=625画素の判定部位のエッジ強度をすべて積算し、その数(625)で除算する。すると、3つの分割領域222a、222b、222c毎にエッジ強度の平均値(以下、エッジ平均という。)が1つ導出される。こうして導出されたエッジ平均が浮遊物の判定に用いられる。
【0043】
ただし、毎フレーム、単純にエッジ平均を採用すると、本来採用すべきではない突発的なエッジ平均もそのまま判定に反映されてしまう。そこで、本実施形態のエッジ強度導出部168は、メディアンフィルタを用い、時間的に連続する現在フレームと前後1フレームとの3フレームにおいて導出されたエッジ平均の中央値(2番目に小さい値または2番目に大きい値)を、そのフレームにおけるエッジ平均とみなすこととする。したがって、1のフレームのエッジ平均は、その前フレームや後フレームでも利用されるので、計3回利用されることとなる。また、エッジ平均の導出開始フレームでは、その前フレームがないので、メディアンフィルタを用いることなく、そのフレームのみのエッジ平均を最終的なエッジ平均とする。
【0044】
こうすることで、突発的な値が生じた場合であっても、そのフレームのエッジ平均が前後のいずれかのフレームのエッジ平均と置き換えられるので、時間方向に均したエッジ平均を得ることができる。
【0045】
浮遊物特定部170は、フレーム毎に、エッジ強度導出部168によって導出されたエッジ平均を予め定められた所定の閾値と比較し、エッジ平均が閾値未満であるか、閾値以上であるかに応じて点数を付け、その点数を積算する。例えば、エッジ平均が閾値未満であれば+1を積算(1を加算)し、閾値以上であれば−1を積算(1を減算)する。
【0046】
図6は、閾値を説明するための説明図である。ここで、閾値は、浮遊物と、一般的な特定物(例えば、車両や歩行者)とのエッジ強度の差分の中心値をとるとよい。例えば、
図6には、車両、歩行者、および、浮遊物の奥行距離に応じたエッジ強度の実験値が示されている。
図6を参照して理解できるように、車両や歩行者のエッジ強度と比べ、浮遊物のエッジ強度は比較的小さくなっている。ここでは、例えば、閾値を8とすることで、車両や歩行者と、浮遊物とを大凡区別することが可能となる。また、閾値は、特性に応じて分割領域222a、222b、222c毎に独立して設けることとする。
【0047】
そして、浮遊物特定部170は、積算した点数が11点以上であるか否か判定し、11点以上であれば、対象物は浮遊物らしいと判定する。ただし、積算後の点数には、例えば、上限20、下限−10といったように上下限が設けられている。このように、上下限を設けることで、浮遊物を検出していない期間や浮遊物を検出している期間が長時間に亘ったとしても点数の絶対値が大きくなることがなく、浮遊物の検出の有無が切り替わった場合に、迅速に、その有無を判定することが可能となる。
【0048】
(車外環境認識方法)
図7〜
図9は、本実施形態による車外環境認識方法の全体的な処理の流れを示したフローチャートである。かかる車外環境認識方法は、フレーム単位で実行される。まず、
図7に示すように、画像処理部160は、2つの撮像装置110それぞれから画像データを取得し、パターンマッチングを用いて視差情報を導出し、画像データに対応付けた距離画像212を生成する(S300)。3次元位置導出部162は、検出領域214を撮像した画像における複数の対象部位の実空間における3次元位置を導出する(S302)。続いて、対象物特定部164は、3次元位置の差分が所定範囲内にある対象部位同士をグループ化して対象物を特定する(S304)。
【0049】
判定部位決定部166は、対象物特定部164に特定された対象物に対して、さらに、エッジ強度の判定対象となる判定部位を決定する(S306)。続いて、エッジ強度導出部168は、対象物における所定の複数の判定部位のエッジ強度の平均値であるエッジ平均を導出する。具体的に、エッジ強度導出部168は、各分割領域222a、222b、222cから1の短冊224を選択するとともに、その短冊224の1の画素230を選択する(S308)。
【0050】
図8を参照すると、エッジ強度導出部168は、左端の分割領域222aにおける選択した画素230がエッジであるか否か判定し(S310)、エッジであれば(S310におけるYES)、ラプラシアンフィルタを用いて、当該画素230のエッジ強度を導出する(S312)。そして、エッジ強度導出部168は、分割領域222aにおけるエッジ強度を積算する(S314)。また、選択した画素230がエッジでなければ(S310におけるNO)、次の分割領域222bに処理を移行する。
【0051】
続いて、エッジ強度導出部168は、中央の分割領域222bにおける選択した画素230がエッジであるか否か判定し(S316)、エッジであれば(S316におけるYES)、ラプラシアンフィルタを用いて、当該画素230のエッジ強度を導出する(S318)。そして、エッジ強度導出部168は、分割領域222bにおけるエッジ強度を積算する(S320)。また、選択した画素230がエッジでなければ(S316におけるNO)、次の分割領域222cに処理を移行する。
【0052】
次に、エッジ強度導出部168は、右端の分割領域222cにおける選択した画素230がエッジであるか否か判定し(S322)、エッジであれば(S322におけるYES)、ラプラシアンフィルタを用いて、当該画素230のエッジ強度を導出する(S324)。そして、エッジ強度導出部168は、分割領域222cにおけるエッジ強度を積算する(S326)。また、選択した画素230がエッジでなければ(S322におけるNO)、画素終了判定ステップ(S328)に処理を移行する。
【0053】
エッジ強度導出部168は、選択された短冊224における画素230すべてに対して上記の処理が終了しているか否か判定し(S328)、終了していなければ(S328におけるNO)、短冊224内の次の画素230を選択して(S330)、エッジ判定処理(S310)からの処理を繰り返す。終了していれば(S328におけるYES)、分割領域終了判定ステップ(S332)に処理を移行する。
【0054】
エッジ強度導出部168は、各分割領域222a、222b、222cにおける短冊224すべてに対して上記の処理が終了しているか否か判定し(S332)、終了していなければ(S332におけるNO)、各分割領域222a、222b、222c内の次の短冊224を選択して(S334)、エッジ判定処理(S310)からの処理を繰り返す。終了していれば(S332におけるYES)、エッジ強度導出部168は、各分割領域222a、222b、222cにおいて積算されたエッジ強度を画素230の数(ここでは、625)で除算し、エッジ平均を導出する(S336)。
【0055】
続いて、エッジ強度導出部168は、上記エッジ平均が3フレーム分導出されているか否か判定する(S338)。その結果、3フレーム分のエッジ平均が導出されていれば(S338におけるYES)、エッジ強度導出部168は、メディアンフィルタを用い、前後3フレームにおいて導出されたエッジ平均の中央値を、そのフレームにおけるエッジ平均とみなし、次回のメディアンフィルタのために当該フレームにおけるエッジ平均を記憶する(S340)。一方、3フレーム分のエッジ平均が導出されていなければ(S338におけるNO)、そのフレームで導出されたエッジ平均をそのまま利用する(S342)。
【0056】
図9を参照すると、浮遊物特定部170は、エッジ平均と予め定められた閾値とを比較する(S344)。その結果、エッジ平均が閾値未満であれば(S344におけるYES)、さらに積算された点数が20以上であるか否か判定する(S346)。その結果、点数が20未満であれば(S346におけるNO)、浮遊物特定部170は、点数に1を加算する(S348)。また、点数が20以上であれば(S346におけるYES)、浮遊物判定処理(S354)に処理を移行する。
【0057】
また、エッジ平均が閾値以上であれば(S344におけるNO)、さらに積算された点数が−10以下であるか否か判定する(S350)。その結果、点数が−10より大きければ(S350におけるNO)、浮遊物特定部170は、点数から1を減算する(S352)。また、点数が−10以下であれば(S350におけるYES)、浮遊物判定処理(S354)に処理を移行する。
【0058】
続いて、浮遊物特定部170は、積算された点数が11点以上であるか否か判定し(S354)、11点以上であれば(S354におけるYES)、対象物は浮遊物らしいものとして特定し(S356)、11点未満であれば(S354におけるNO)、対象物は浮遊物ではないと特定する(S358)。
【0059】
以上、説明したように、本実施形態では、浮遊物の各対象部位の距離のばらつきが小さかったり、浮遊物が色合いを帯びている場合であっても、対象物のエッジ強度に応じて、水蒸気や排気ガス等の浮遊物を精度よく検出することが可能となる。
【0060】
また、コンピュータを、車外環境認識装置120として機能させるプログラムや当該プログラムを記録した、コンピュータで読み取り可能なフレキシブルディスク、光磁気ディスク、ROM、CD、DVD、BD等の記憶媒体も提供される。ここで、プログラムは、任意の言語や記述方法にて記述されたデータ処理手段をいう。
【0061】
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
【0062】
例えば、上述した実施形態においては、対象物のエッジ強度に応じて浮遊物を特定する例を挙げているが、特開2009−110168号公報に示すような、物体の各対象部位の距離の平均値に対するばらつき(分散)に応じて浮遊物を特定する技術や、特開2012−243049号公報に示すような、対象物の輝度のヒストグラムに対する輝度の平均値、分散値、歪度、または尖度のいずれか1または複数の特徴量に基づいて浮遊物を特定する技術と、本実施形態の技術を併用して、その総合評価により、浮遊物を特定するとしてもよい。こうして、浮遊物の特定精度を高めることが可能となる。
【0063】
なお、本明細書の車外環境認識方法の各工程は、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいはサブルーチンによる処理を含んでもよい。