(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-10-02
(45)【発行日】2023-10-11
(54)【発明の名称】画像処理装置および画像処理方法
(51)【国際特許分類】
G06T 7/60 20170101AFI20231003BHJP
G06T 7/00 20170101ALI20231003BHJP
B60R 99/00 20090101ALI20231003BHJP
【FI】
G06T7/60 200J
G06T7/00 650A
B60R99/00 321
(21)【出願番号】P 2018234803
(22)【出願日】2018-12-14
【審査請求日】2021-09-30
(73)【特許権者】
【識別番号】000237592
【氏名又は名称】株式会社デンソーテン
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】岡田 康貴
(72)【発明者】
【氏名】金武 純
(72)【発明者】
【氏名】佐野 裕明
(72)【発明者】
【氏名】倭文 知騎
(72)【発明者】
【氏名】吉村 亮
(72)【発明者】
【氏名】吉原 篤
(72)【発明者】
【氏名】山本 徹夫
【審査官】大塚 俊範
(56)【参考文献】
【文献】特開2016-053905(JP,A)
【文献】特開2015-197829(JP,A)
【文献】特開2012-080497(JP,A)
【文献】特開2011-030140(JP,A)
【文献】特開2018-185589(JP,A)
【文献】特開2012-176641(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00-7/90
B60R 99/00
(57)【特許請求の範囲】
【請求項1】
駐車枠の区画線を特定する画像処理装置であって、
車両の周囲の撮像データから、一対の平行エッジ線で画定された所定幅以下の線を区画線候補として検出し、
前記区画線候補のうち、前記撮像データの所定範囲内で互いに平行に配置された複数の前記区画線候補のエッジ強度の中央値を算出し、前記エッジ強度が前記中央値より弱い区画線候補を前記区画線として特定しない
画像処理装置。
【請求項2】
駐車枠の区画線を特定する画像処理装置が実行する画像処理方法であって、
車両の周囲の撮像データから、一対の平行エッジ線で画定された所定幅以下の線を区画線候補として検出し、
前記区画線候補のうち、前記撮像データの所定範囲内で互いに平行に配置された複数の前記区画線候補のエッジ強度の中央値を算出し、前記エッジ強度が前記中央値より弱い区画線候補を前記区画線として特定しない
画像処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置および画像処理方法に関する。
【背景技術】
【0002】
近年、自動運転技術の発展に伴い、車両の周囲を撮像した画像データから車両を駐車させる駐車枠を検出する画像処理装置が普及しつつある。この種の画像処理装置では、撮像データから駐車枠を区画する区画線を検出し、検出した区画線に基づいて駐車枠を検出する(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来技術では、例えば、不要となった区画線が路面から十分に消されていない場合、この消し忘れられた不要な区画線が誤って区画線として検出される場合がある。これにより、駐車枠を正常に検出できないおそれがある。
【0005】
本発明は、上記に鑑みてなされたものであって、区画線の検出精度を向上させることができる画像処理装置および画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
上述した課題を解決し、目的を達成するために、本発明に係る画像処理装置は、区画線検出部と、除外判定部とを備える。区画線検出部は、車両の周囲が撮像された画像データに基づいて、駐車枠を区画する区画線の候補となる区画線候補を検出する。除外判定部は、前記区画線検出部によって検出された前記区画線候補を前記区画線の候補から除外するか否かを判定する。また、前記除外判定部は、前記画像データの所定の範囲内に複数の前記区画線候補が検出される場合に、複数の前記区画線候補のエッジ強度を比較することにより、前記区画線候補を前記区画線の候補から除外するか否かを判定する。
【発明の効果】
【0007】
本発明によれば、区画線の検出精度を向上させることができる。
【図面の簡単な説明】
【0008】
【
図1A】
図1Aは、実施形態に係る画像処理装置の搭載例を示す図である。
【
図1B】
図1Bは、実施形態に係る画像処理方法の概要を示す図である。
【
図2】
図2は、実施形態に係る駐車支援システムの構成を示すブロック図である。
【
図3】
図3は、実施形態に係る区画線検出処理の一例を示す図である。
【
図4】
図4は、実施形態に係る判定テーブルの一例を示す説明図である。
【
図5】
図5は、実施形態に係る画像処理方法の詳細を説明するための図である。
【
図6】
図6は、実施形態に係る画像処理方法の詳細を説明するための図である。
【
図7】
図7は、実施形態に係る画像処理方法の詳細を説明するための図である。
【
図8】
図8は、実施形態に係る画像処理方法の詳細を説明するための図である。
【
図9】
図9は、実施形態に係る画像処理方法の詳細を説明するための図である。
【
図10】
図10は、実施形態に係る画像処理方法の詳細を説明するための図である。
【
図11】
図11は、実施形態に係る画像処理方法の手順を示すフローチャートである。
【発明を実施するための形態】
【0009】
以下、添付図面を参照して、本願の開示する画像処理装置および画像処理方法の実施形態を詳細に説明する。なお、この実施形態により本発明が限定されるものではない。
【0010】
<画像処理装置の概要>
まず、
図1Aおよび
図1Bを用いて実施形態に係る画像処理装置の概要について説明する。
図1Aは、画像処理装置1の搭載例を示す図である。また、
図1Bは、実施形態に係る画像処理方法の概要を示す図である。なお、かかる画像処理方法は、
図2に示す画像処理装置1によって実行される。
【0011】
図1Aに示すように、実施形態に係る画像処理装置1は、車両Cに搭載され、車載カメラ10によって撮像された撮像データから区画線Lを検出し、かかる区画線Lから駐車枠PSを検出する。
【0012】
車載カメラ10は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を備え、車両Cの周囲を撮像する。また、車載カメラ10のレンズには、例えば、魚眼レンズなどの広角レンズが採用され、
図1Aに示すような撮像領域Rを有する。
【0013】
なお、
図1Aの例では、車載カメラ10が、車両Cの左側方を撮像する左サイドカメラである場合について示すが、車載カメラ10には、車両Cの前方を撮像する前方カメラ、車両Cの後方を撮像するバックカメラ、車両Cの右側方を撮像する右サイドカメラなどが含まれる。
【0014】
ところで、画像処理装置1は、駐車枠PSの検出を行うに当たり、各駐車枠PSを区画する区画線Lの候補となる区画線候補Lc(
図1B参照)を検出し、検出した区画線候補Lcに基づいて駐車枠PSを検出する。
【0015】
しかしながら、例えば、不要となった区画線Lが路面から十分に消されていない場合、この消し忘れられた不要な区画線Lが誤って区画線候補Lcとして検出される場合がある。これにより、駐車枠PSを正常に検出できないおそれがある。
【0016】
そこで、実施形態に係る画像処理装置1は、所定の処理により、誤って区画線Lとして検出された区画線候補Lcを区画線Lの候補から除外することとした。これにより、実施形態に係る画像処理装置1では、区画線Lの検出精度を向上させることができる。
【0017】
具体的には、
図1Bに示すように、画像処理装置1は、まず、撮像データから区画線候補Lcを検出する(ステップS1)。例えば、画像処理装置1は、撮像データに対してエッジ処理を行うことで得られるエッジ点を繋いだエッジ線に基づいて区画線候補Lcを検出する。
【0018】
なお、以降の図面では、理解の容易のため、撮像データを上方から俯瞰した俯瞰図に変換した図面に基づいて説明を行う。また、以降の図面では、実際の区画線Lに基づいた区画線候補Lcを区画線候補Lc1として実線で記載し、消し忘れられた不要な区画線Lに基づいた区画線候補Lcを区画線候補Lc2として破線で記載する。
【0019】
そして、かかるステップS1では、区画線候補Lc1および区画線候補Lc2がいずれも区画線候補Lcとして検出される。なお、
図1Bでは、区画線Lが一本線である場合について示す。
【0020】
そして、
図1Bに示すように、画像処理装置1は、画像データにおける所定の範囲R1内(すなわち、駐車場における所定の範囲内)に複数の区画線候補Lcが検出される場合、検出された複数の区画線候補Lcのエッジ強度を比較する(ステップS2)。
【0021】
例えば、消し忘れられた不要な区画線Lに基づいた区画線候補Lc2は、状態が古くかすれている傾向にあることから、路面との輝度差が小さく、エッジ線が弱いエッジ強度で検出される。
【0022】
また、新たに引き直した区画線Lに基づいた区画線候補Lc1は、状態が新しい傾向にあることから、路面との輝度差が大きく、エッジ線が強いエッジ強度で検出される。
【0023】
なお、本開示では、エッジ処理を行うことで得られるエッジ線のエッジ強度を、かかるエッジ線に基づいて検出される区画線候補Lcのエッジ強度とみなす。また、エッジ強度が弱い(または強い)エッジ線で検出される区画線候補Lcを、「弱い(または強い)エッジ強度の区画線候補Lc」とも呼称する。
【0024】
また、上述の所定の範囲R1は、例えば、1つの区画線Lが検出される範囲より広く、かつ1つの駐車枠PSが含まれる範囲より狭い。例えば、所定の範囲R1は、隣接する複数本(例えば、2~3本)の区画線Lが検出される範囲に設定される。
【0025】
そして、画像処理装置1は、所定の範囲R1内に検出される複数の区画線候補Lcのエッジ強度を比較することにより、かかる複数の区画線候補Lcを区画線Lの候補から除外するか否かを判定する(ステップS3)。たとえば、画像処理装置1は、複数の区画線候補Lcのエッジ強度の差が所定の値以上である場合に、エッジ強度が弱い区画線候補Lcを消し忘れられた不要な区画線であると判断し区画線Lの候補から除外する。
【0026】
図1Bの例では、強いエッジ強度の区画線候補Lc1と、弱いエッジ強度の区画線候補Lc2とのエッジ強度の差が所定の値以上である場合に、画像処理装置1は、弱いエッジ強度の区画線候補Lc2を区画線Lの候補から除外することができる。
【0027】
これにより、画像処理装置1は、消し忘れられた不要な区画線Lに基づいた区画線候補Lc2を区画線候補Lcから除外することができる。したがって、実施形態によれば、区画線Lの検出精度を向上させることができる。
【0028】
<画像処理装置の構成例>
次に、
図2を用いて実施形態に係る画像処理装置1の構成例について説明する。
図2は、画像処理装置1のブロック図である。なお、
図2には、画像処理装置1を含む駐車支援システム100を示す。
【0029】
図2に示すように、駐車支援システム100は、画像処理装置1と、車載カメラ10と、センサ群Scと、上位ECU(Electronic Control Unit)50とを備える。また、
図2に示すように、画像処理装置1と、センサ群Scと、上位ECU50とは、それぞれCAN(Control Area Network)通信の通信規格の通信バスBによって相互に通信することができる。
【0030】
センサ群Scは、車両C(
図1A参照)の走行状態を検出する各種センサであり、検出したセンサ値を画像処理装置1へ通知する。センサ群Scは、車両Cの車輪の回転数を検出する車速センサや、車両Cの舵角を検出する舵角センサなどを含む。
【0031】
上位ECU50は、例えば、車両Cの自動駐車を支援するECUであり、例えば、画像処理装置1によって検出された駐車枠PSに基づいて車両Cを駐車枠PSへ駐車させる。
【0032】
例えば、上位ECU50は、車両Cの操舵角を制御するEPS(Electric Power Steering)-ECUであり、画像処理装置1によって検出された駐車枠PSへの操舵角を制御することができる。なお、上位ECU50は、アクセル制御やブレーキ制御を行うECUを含むようにしてもよい。
【0033】
図2に示すように、画像処理装置1は、制御部2と、記憶部3とを備える。制御部2は、線分抽出部21と、不適領域判定部22と、区画線検出部23と、除外判定部24と、駐車枠検出部25と、駐車枠管理部26と、停車位置決定部27とを備える。記憶部3は、区画線情報31と、判定テーブル32とを備える。
【0034】
制御部2は、例えば、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD(Hard Disk Drive)、入出力ポートなどを有するコンピュータや各種の回路を含む。
【0035】
かかるコンピュータのCPUは、例えば、ROMに記憶されたプログラムを読み出して実行することによって、制御部2の線分抽出部21、不適領域判定部22、区画線検出部23、除外判定部24、駐車枠検出部25、駐車枠管理部26および停車位置決定部27として機能する。
【0036】
また、制御部2の線分抽出部21、不適領域判定部22、区画線検出部23、除外判定部24、駐車枠検出部25、駐車枠管理部26および停車位置決定部27の少なくとも一部または全部をASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)などのハードウェアで構成することもできる。
【0037】
制御部2は、例えば、車両Cが駐車場を走行していると想定される場合(例えば、車速30km/h以内)に、後述する駐車枠PSの検出処理を行うことにしてもよいし、あるいは、車両Cが走行している全ての期間でかかる検出処理を行うことにしてもよい。
【0038】
線分抽出部21は、車載カメラ10から入力される画像データから各画素の輝度に基づくエッジ点を繋いだエッジ線を検出する。具体的には、線分抽出部21は、車載カメラ10から入力される画像データをグレースケール化することでグレースケール画像へ変換する。グレースケール画像とは、画像データにおける各画素を輝度に応じて白から黒までの各階調(例えば256階調)で表現するように変換する処理である。
【0039】
続いて、線分抽出部21は、グレースケール画像に対して例えば、ソベルフィルタを適用することで、各画素のエッジ強度および輝度勾配を求めることができる。続いて、線分抽出部21は、エッジ強度が所定値を超える画素を抽出することで、上記のエッジ点を抽出し、隣接するエッジ点を繋ぐことで、エッジ線を抽出することができる。線分抽出部21は、抽出したエッジ点およびエッジ線に関するエッジ情報を不適領域判定部22へ通知する。
【0040】
不適領域判定部22は、線分抽出部21によって抽出されたエッジ点およびエッジ線に基づき、駐車枠PSを構築する区画線Lの検出が困難となる不適領域の有無を判定する。例えば、不適領域判定部22は、舗装された路面に比べて、エッジ点が多く抽出される舗装されていない路面領域(例えば、砂利)や、グレーチング領域を不適領域として判定することができる。
【0041】
具体的には、不適領域判定部22は、各エッジ点の密度が所定値以上であり、各エッジ点の輝度勾配が不均一である領域について、不適領域として判定することができる。不適領域判定部22は、判定した不適領域に基づいて上記のエッジ情報から不適領域に関するエッジ情報を除去して後段の処理へ回す。
【0042】
区画線検出部23は、線分抽出部21によって抽出されたエッジ線に基づいて、駐車枠PSを区画する区画線Lの候補となる区画線候補Lcを検出する。具体的には、区画線検出部23は、互いに略平行であり、その間隔が区画線Lの幅に応じた所定範囲に収まるエッジ線同士を2辺とする矩形状の領域を区画線候補Lcとして検出する。換言すると、区画線検出部23は、実際の区画線と路面との境界に対応するエッジ線のペアを2辺とする矩形状の領域を区画線候補Lcとして検出する。
【0043】
すなわち、区画線検出部23は、各区画線Lの幅方向の左右両端に対応する1対のエッジ線を区画線候補Lcとして検出する。
図3は、実施形態に係る区画線検出処理の一例を示す図である。
図3に示すように、区画線検出部23は、エッジ線Le1およびエッジ線Le2が略平行であり、かつ、エッジ線Le1およびエッジ線Le2の距離dが所定範囲に収まる場合に、エッジ線Le1およびエッジ線Le2から区画線候補Lcを検出する。
【0044】
例えば、区画線が白線である場合を想定する。この場合、白線と路面との境界では、輝度差が大きくなるため、略平行な2本のエッジ線が抽出されやすくなる。このため、区画線検出部23は、互いに略平行であり、かつ、所定間隔を隔てて配置されたエッジ線Le1およびエッジ線Le2のペアを区画線候補Lcとして検出する。
【0045】
ここで、所定範囲とは、区画線のライン幅に応じた範囲であり、例えば、5cm~10cmまでの範囲である。また、区画線検出部23は、
図3に示すように、エッジ線Le1およびエッジ線Le2が重複する領域を区画線候補Lcとして検出し、距離dが区画線候補Lcの幅となる。
【0046】
換言すると、区画線検出部23は、エッジ線Le1およびエッジ線Le2が重複しない領域については、区画線候補Lcとして検出しないことになる。これは、上述のように、区画線であれば、区画線の幅方向の左右両端にそれぞれ対応する1対のエッジ線で構成されるためである。
【0047】
すなわち、エッジ線Le1およびエッジ線Le2が重複しない領域については、ノイズであることも想定される。このため、区画線検出部23は、エッジ線Le1およびエッジ線Le2が重複しない領域について区画線候補Lcとして検出しないことで、確度の高い区画線候補Lcのみを検出することができる。これにより、駐車枠PSの誤検知を抑制することができる。
【0048】
図2の説明に戻る。区画線検出部23は、上述のように検出した区画線候補Lcに関する情報を、記憶部3の区画線情報31に登録する。例えば、区画線検出部23は、区画線候補Lcを検出すると、検出した区画線候補Lcの4隅の頂点座標を区画線情報31に登録する。
【0049】
なお、区画線検出部23は、不適領域判定部22によって検出された不適領域を除いて、区画線候補Lcの検出処理を行うことができる。換言すると、区画線検出部23は、不適領域について区画線候補Lcの検出処理を行わない。これにより、制御部2の処理負荷を抑制することができる。
【0050】
除外判定部24は、区画線検出部23によって検出され、区画線情報31に登録された区画線候補Lcに基づいて、車両Cの駐車が認められていない駐車不可領域の有無を判定する。例えば、除外判定部24は、駐車不可領域として、ゼブラゾーン(導流帯)などの駐車不可領域の有無を判定する。
【0051】
具体的には、互いに略平行な区画線候補Lcを支持区画線と仮定し、かかる支持区画線に対して傾斜した平行線が所定の間隔をあけて複数存在する場合に、除外判定部24は支持区画線に挟まれた領域をゼブラゾーンとみなす。そして、除外判定部24は、かかるゼブラゾーンを駐車不可領域と判定する。
【0052】
また、除外判定部24は、区画線検出部23によって検出された区画線候補Lcと、各路面標識のテンプレートモデルとのマッチング処理を行うことで、画像データに含まれる各路面標識を検出することができる。
【0053】
また、除外判定部24は、路面標識などの駐車枠PSの検出に不要な区画線候補Lcの有無を判定することもできる。例えば、除外判定部24は、画像データの所定の範囲R1内に複数の区画線候補Lcが検出される場合に、複数の区画線候補Lcのエッジ強度を比較することにより、かかる複数の区画線候補Lcを区画線Lの候補から除外するか否かを判定する。かかる除外判定処理の詳細については後述する。
【0054】
除外判定部24は、不要な区画線候補Lcと判定された場合、当該区画線候補Lcを区画線情報31から除外する。また、除外判定部24は、区画線情報31に駐車不可領域に関する情報を付与して、駐車枠検出部25へ通知する。
【0055】
駐車枠検出部25は、区画線検出部23によって検出された区画線候補Lcに基づき、駐車枠PSを検出する。具体的には、駐車枠検出部25は、所定間隔をあけて平行配置される1対の区画線候補Lcに挟まれた領域を駐車枠PSとして検出する。
【0056】
ここで、所定間隔とは、駐車場に関する法令などで規定される一般公共用の標準的な駐車領域の幅である。また、この際、駐車枠検出部25は、除外判定部24によって駐車不可領域として判定された領域を避けて、駐車枠PSを検出することができる。
【0057】
すなわち、駐車枠検出部25は、駐車不可領域と判定されたゼブラゾーンなどを避けて駐車枠PSを検出することができる。駐車枠検出部25は、駐車枠PSを検出すると、駐車枠PSに関する駐車枠情報を駐車枠管理部26へ通知する。
【0058】
なお、以下では、駐車枠検出部25によって駐車枠PSとして検出するために用いられた区画線候補Lcについて、区画線Lと記載する。また、上述の駐車枠情報には、車両Cを基準とする各駐車枠PSの頂点座標(すなわち、区画線Lにおいて駐車枠PSと接する側の頂点座標)が含まれる。
【0059】
駐車枠管理部26は、駐車枠検出部25によって検出された駐車枠PSを時系列で管理する。駐車枠管理部26は、センサ群Scから入力されるセンサ値に基づいて車両Cの移動量を推定し、かかる移動量に基づいて過去の駐車枠情報に基づく実際の各駐車枠PSの頂点座標を推定することができる。
【0060】
また、駐車枠管理部26は、新たに入力される駐車枠情報に基づいて、過去の駐車枠情報における駐車枠PSの座標情報を更新することも可能である。すなわち、駐車枠管理部26は、車両Cとの駐車枠PSとの相対的な位置関係を車両Cの移動に伴って随時更新する。
【0061】
また、駐車枠管理部26は、複数の駐車枠PSがそれぞれ連続して配置されると仮定して、駐車枠PSの検出範囲を設定することも可能である。例えば、駐車枠管理部26は、駐車枠検出部25によって検出された1つの駐車枠PSを基準とし、かかる駐車枠PSと連続して複数の駐車枠PSが存在すると仮定する。
【0062】
そして、駐車枠管理部26は、仮定された駐車枠PSの位置を検出範囲として設定する。これにより、上記の線分抽出部21は、駐車枠管理部26によって設定された検出範囲においてのみ、エッジ線の検出処理を行えばよいので、制御部2の処理負荷を抑制することができる。
【0063】
停車位置決定部27は、線分抽出部21によって検出されたエッジ線に基づき、車両Cが駐車枠PSへ駐車する際の停車位置を決定する。例えば、停車位置決定部27は、線分抽出部21によって検出されたエッジ線に基づき、輪留めや縁石、壁、車幅方向に延びる白線などを検出することで、車両Cの停車位置を決定する。
【0064】
停車位置決定部27は、輪留めを検出した場合、車両Cの後輪が輪留めの手前に来るように停車位置を決定し、輪留めに代えて、白線や壁などを検出した場合、白線の手前に車両Cの後端(例えば、リアバンパの先端)がくるように停車位置を決定する。
【0065】
記憶部3は、例えば、RAMやHDDに対応する。RAMやHDDは、各種情報や各種プログラムの情報を記憶することができる。なお、画像処理装置1は、有線や無線のネットワークで接続された他のコンピュータや可搬型記録媒体を介して上記したプログラムや各種情報を取得することとしてもよい。
【0066】
区画線情報31には、区画線検出部23により検出された区画線候補Lcに関する情報が登録される。例えば、区画線情報31には、検出された区画線候補Lcの4隅の頂点座標が登録される。
【0067】
判定テーブル32は、除外判定部24による区画線候補Lcの除外処理の際に用いられるテーブルである。
図4は、実施形態に係る判定テーブル32の一例を示す説明図である。上述のように、所定の範囲R1(
図1B参照)内で複数の区画線候補Lcが検出される場合に、かかる複数の区画線候補Lcが「注目区画線候補」と「隣接区画線候補」とに分けられる。
【0068】
ここで、注目区画線候補とは、除外判定部24が注目する1つの区画線候補Lcであり、隣接区画線候補とは、かかる注目区画線候補以外の区画線候補Lcのことである。なお、隣接区画線候補とは、注目区画線候補に隣り合う区画線候補Lcに限られず、所定の範囲R1内で検出される注目区画線候補以外の区画線候補Lcであればどの区画線候補Lcであってもよい。
【0069】
そして、
図4に示すように、除外判定部24は、注目区画線候補および隣接区画線候補のそれぞれのエッジ強度に基づいて、かかる注目区画線候補および隣接区画線候補を区画線候補Lcから除外するか否かを判定する。
【0070】
具体的には、除外判定部24は、注目区画線候補が「強いエッジ強度」であり、隣接区画線候補が「強いエッジ強度」である場合には、注目区画線候補および隣接区画線候補を区画線候補Lcとして維持する。
【0071】
また、除外判定部24は、注目区画線候補が「弱いエッジ強度」であり、隣接区画線候補が「強いエッジ強度」である場合には、注目区画線候補を区画線候補Lcから除外する。
【0072】
また、除外判定部24は、注目区画線候補が「強いエッジ強度」であり、隣接区画線候補が「弱いエッジ強度」である場合には、隣接区画線候補を区画線候補Lcから除外する。
【0073】
また、除外判定部24は、注目区画線候補が「弱いエッジ強度」であり、隣接区画線候補が「弱いエッジ強度」である場合には、注目区画線候補および隣接区画線候補を区画線候補Lcとして維持する。
【0074】
なお、一方の区画線候補Lcが強いエッジ強度であり、他方の区画線候補Lcが弱いエッジ強度である場合とは、かかる一方の区画線候補Lcと他方の区画線候補Lcとのエッジ強度の差が所定の値以上である場合のことを示している。
【0075】
<画像処理の詳細>
続いては、実施形態に係る画像処理の詳細について、
図5~
図10を参照しながら説明する。
図5~
図10は、実施形態に係る画像処理方法の詳細を説明するための図である。なお、
図5~
図10では、区画線L(
図1B参照)が略U字線である場合について示す。
【0076】
図5に示すように、まず、区画線検出部23は、撮像データから区画線候補Lcを検出する(ステップS11)。
図5の例では、実際の区画線Lに基づいた区画線候補Lc1として、車両C(
図1A参照)の進行方向から順に区画線候補Lc1a~Lc1dが検出される。なお、区画線候補Lc1aは区画線候補Lc1bに隣り合っており、区画線候補Lc1cは区画線候補Lc1dに隣り合っている。
【0077】
また、区画線候補Lc1bと区画線候補Lc1cとの間には、消し忘れられた不要な区画線Lに基づいた区画線候補Lc2として、車両Cの進行方向から順に区画線候補Lc2a、Lc2bが検出される。なお、区画線候補Lc2bは、区画線候補Lc2a、Lc1cに隣り合っている。
【0078】
次に、
図6に示すように、除外判定部24は、所定の範囲R1を進行方向に撮像データ内で走査することにより、区画線候補Lcの除外処理を実施する。
図6の例では、進行方向の一番手前側にある区画線候補Lc1aのみが所定の範囲R1内に含まれる。
【0079】
ここで、除外判定部24は、所定の範囲R1内に複数の区画線候補Lcが含まれないことから、所定の範囲R1内の区画線候補Lc1aを区画線Lの候補から除外するか否かを判定しない(ステップS12)。
【0080】
このように、実施形態では、所定の範囲R1内に複数の区画線候補Lcが含まれない場合に、所定の範囲R1内の区画線候補Lcを区画線Lの候補から除外するか否かを判定しない。これにより、実際の区画線Lに基づいた区画線候補Lcが誤って区画線Lの候補から除外されることを抑制することができる。
【0081】
続いて、
図7に示すように、所定の範囲R1が進行方向に走査されて、2つの区画線候補Lc1a、Lc1bが所定の範囲R1内に含まれる。この場合、除外判定部24は、例えば、新しく所定の範囲R1内に入った区画線候補Lc1bを注目区画線候補とみなし、別の区画線候補Lc1aを隣接区画線候補とみなす。
【0082】
そして、除外判定部24は、所定の範囲R1内に含まれる2つの区画線候補Lc1a、Lc1bの相対位置関係を比較する(ステップS13)。具体的には、除外判定部24は、2つの区画線候補Lc1a、Lc1bがそれぞれ略平行に配置されているかを判定する。
【0083】
そして、
図7の例では、2つの区画線候補Lc1a、Lc1bがそれぞれ略平行に配置されていることから、除外判定部24は、2つの区画線候補Lc1a、Lc1bのエッジ強度を比較する(ステップS14)。
【0084】
ここで、2つの区画線候補Lc1a、Lc1bはいずれも強いエッジ強度であり、エッジ強度の差が所定の値より小さいことから、除外判定部24は、両方の区画線候補Lc1a、Lc1bを区画線Lの候補から除外しない(ステップS15)。
【0085】
換言すると、注目区画線候補である区画線候補Lc1bと、隣接区画線候補である区画線候補Lc1aとはいずれも強いエッジ強度であることから、除外判定部24は、判定テーブル32に基づいて、区画線候補Lc1a、Lc1bを両方とも維持する。
【0086】
なお、上述のステップS13において、もし仮に、区画線候補Lc1a、Lc1bがそれぞれ略平行に配置されていない場合、除外判定部24は、隣接区画線候補である区画線候補Lc1bを区画線Lの候補から除外するか否かを判定しない。
【0087】
さらにこの場合には、所定の範囲R1内で判定対象となる区画線候補Lcは区画線候補Lc1aのみとなることから、かかる区画線候補Lc1aも区画線Lの候補から除外するか否かを判定しない。
【0088】
このように、実施形態では、所定の範囲R1内に含まれる複数の区画線候補Lcの相対位置関係を比較し、それぞれ略平行に配置されている複数の区画線候補Lcのみを除外処理の判定対象とする。なぜなら、不要な区画線Lを消去して新たな区画線Lを引き直す場合、不要な区画線Lと略平行に新たな区画線Lを引き直す場合が多いからである。
【0089】
このように、実施形態では、所定の範囲R1内に含まれる複数の区画線候補Lcの相対位置関係に基づいて、区画線候補Lcを区画線Lの候補から除外するか否かを判定する。これにより、かかる除外判定の対象を絞ることができることから、除外判定部24の処理負荷を抑制することができる。
【0090】
また、実施形態では、それぞれ略平行に配置されている複数の区画線候補Lcのみを除外処理の判定対象とすることにより、引き直された新たな区画線Lと略平行に配置された不要な区画線Lのみを判定対象とすることができる。
【0091】
続いて、
図8に示すように、所定の範囲R1が進行方向に走査されて、1つの区画線候補Lc2aが所定の範囲R1内に含まれる。この場合、除外判定部24は、所定の範囲R1内に複数の区画線候補Lcが含まれないことから、上述のステップS12と同様に、所定の範囲R1内の区画線候補Lc2aを区画線Lの候補から除外するか否かを判定しない(ステップS16)。
【0092】
続いて、
図9に示すように、所定の範囲R1が進行方向に走査されて、2つの区画線候補Lc2a、Lc2bが所定の範囲R1内に含まれる。この場合、除外判定部24は、例えば、新しく所定の範囲R1内に入った区画線候補Lc2bを注目区画線候補とみなし、別の区画線候補Lc2aを隣接区画線候補とみなす。
【0093】
そして、除外判定部24は、所定の範囲R1内に含まれる2つの区画線候補Lc2a、Lc2bの相対位置関係を比較する(ステップS17)。具体的には、除外判定部24は、2つの区画線候補Lc2a、Lc2bがそれぞれ略平行に配置されているかを判定する。
【0094】
そして、
図9の例では、2つの区画線候補Lc2a、Lc2bがそれぞれ略平行に配置されていることから、除外判定部24は、2つの区画線候補Lc2a、Lc2bのエッジ強度を比較する(ステップS18)。
【0095】
ここで、2つの区画線候補Lc2a、Lc2bはいずれも弱いエッジ強度であり、エッジ強度の差が所定の値より小さいことから、除外判定部24は、両方の区画線候補Lc2a、Lc2bを区画線Lの候補から除外しない(ステップS19)。
【0096】
換言すると、注目区画線候補である区画線候補Lc2bと、隣接区画線候補である区画線候補Lc2aとはいずれも弱いエッジ強度であることから、除外判定部24は、判定テーブル32に基づいて、区画線候補Lc2a、Lc2bを両方とも維持する。
【0097】
このように、いずれも弱いエッジ強度である複数の区画線候補Lcを区画線Lの候補から除外しないことにより、経年劣化などでエッジ強度が弱くなった実際の区画線Lに基づいた区画線候補Lcを、誤って区画線Lの候補から除外することを抑制することができる。
【0098】
続いて、
図10に示すように、所定の範囲R1が進行方向に走査されて、3つの区画線候補Lc2a、Lc2b、Lc1cが所定の範囲R1内に含まれる。この場合、除外判定部24は、例えば、新しく所定の範囲R1内に入った区画線候補Lc1cを注目区画線候補とみなし、別の区画線候補Lc2a、Lc2bを隣接区画線候補とみなす。
【0099】
そして、除外判定部24は、所定の範囲R1内に含まれる3つの区画線候補Lc2a、Lc2b、Lc1cの相対位置関係を比較する(ステップS20)。具体的には、除外判定部24は、3つの区画線候補Lc2a、Lc2b、Lc1cがそれぞれ略平行に配置されているかを判定する。
【0100】
そして、
図10の例では、3つの区画線候補Lc2a、Lc2b、Lc1cがそれぞれ略平行に配置されていることから、除外判定部24は、3つの区画線候補Lc2a、Lc2b、Lc1cのエッジ強度を比較する(ステップS21)。
【0101】
ここで、区画線候補Lc1cに対して区画線候補Lc2a、Lc2bはエッジ強度が弱く、エッジ強度の差が所定の値より大きいことから、除外判定部24は、エッジ強度が弱い区画線候補Lc2a、Lc2bを消し忘れられた不要な区画線と判断し、区画線Lの候補から除外する(ステップS22)。
【0102】
すなわち、注目区画線候補である区画線候補Lc1cは強いエッジ強度であり、隣接区画線候補である区画線候補Lc2a、Lc2bはいずれも弱いエッジ強度である。そのため、除外判定部24は、判定テーブル32に基づいて、隣接区画線候補である区画線候補Lc2a、Lc2bを区画線Lの候補から除外する。
【0103】
これにより、除外判定部24は、消し忘れられた不要な区画線Lに基づいた区画線候補Lc2a、Lc2bを区画線Lの候補から除外することができる。したがって、実施形態によれば、区画線Lの検出精度を向上させることができる。
【0104】
また、実施形態では、複数の区画線候補Lcにおけるエッジ強度の差が所定の値より小さい場合には、かかる複数の区画線候補Lcをすべて維持し、複数の区画線候補Lcにおけるエッジ強度の差が所定の値より大きい場合にのみ複数の区画線候補Lcの除外判定を行う。これにより、経年劣化などでエッジ強度が弱くなった実際の区画線Lに基づいた区画線候補Lcを、誤って区画線Lの候補から除外することを抑制することができる。
【0105】
なお、実施形態では、新しく所定の範囲R1内に入った区画線候補Lcを注目区画線候補とみなし、別の区画線候補Lcを隣接区画線候補とみなした例について示したが、実施形態はかかる例に限られない。例えば、もっとも先に検出された区画線候補Lcを注目区画線候補とみなし、別の区画線候補Lcを隣接区画線候補とみなしてもよい。
【0106】
また、実施形態では、それぞれ略平行に配置されている複数の区画線候補Lcのみを除外処理の判定対象とした例について示したが、それぞれ略平行に配置されていない複数の区画線候補Lcを除外処理の判定対象としてもよい。
【0107】
また、実施形態では、判定テーブル32に基づいて、区画線候補Lcを区画線Lの候補から除外するか否かについて判定した例について示したが、実施形態はかかる例に限られない。
【0108】
例えば、除外判定部24は、1つの駐車場内で検出された複数の区画線候補Lcのエッジ強度を弱い順に並べて、順番が真ん中(例えば、区画線候補Lcが100個検出された場合、エッジ強度が弱い方から50番目)の区画線候補Lcのエッジ強度を判定のしきい値に設定する。
【0109】
そして、除外判定部24は、かかる判定のしきい値より弱いエッジ強度の区画線候補Lcを区画線Lの候補から除外し、かかる判定のしきい値以上のエッジ強度である区画線候補Lcを区画線Lの候補として維持してもよい。
【0110】
このように、順番が真ん中の区画線候補Lcのエッジ強度を判定のしきい値に設定することにより、弱いエッジ強度と強いエッジ強度との中間のエッジ強度を有する消し忘れられた区画線候補Lcが検出された場合にも、かかる中間のエッジ強度の区画線候補Lcを区画線Lの候補から除外することができる。
【0111】
<画像処理の手順>
続いては、実施形態に係る画像処理の手順について、
図11を参照しながら説明する。
図11は、実施形態に係る画像処理方法の手順を示すフローチャートである。
【0112】
最初に、区画線検出部23は、撮像データから区画線候補Lcを検出する(ステップS101)。次に、除外判定部24は、画像データにおける所定の範囲R1内に複数の区画線候補Lcが検出されるか否かを判定する(ステップS102)。
【0113】
そして、所定の範囲R1内に複数の区画線候補Lcが検出される場合(ステップS102,Yes)、除外判定部24は、かかる複数の区画線候補Lcが略平行に配置されるか否かを判定する(ステップS103)。
【0114】
そして、かかる複数の区画線候補Lcが略平行に配置される場合(ステップS103,Yes)、除外判定部24は、かかる複数の区画線候補Lcのエッジ強度を比較する(ステップS104)。
【0115】
一方で、所定の範囲R1内に複数の区画線候補Lcが検出されない場合(ステップS102,No)、処理を終了する。また、所定の範囲R1内の複数の区画線候補Lcが略平行に配置されない場合(ステップS103,No)、処理を終了する。
【0116】
次に、除外判定部24は、ステップS104の処理によって検出された複数の区画線候補Lcのエッジ強度の差が所定の値以上であるか否かを判定する(ステップS105)。
【0117】
そして、複数の区画線候補Lcのエッジ強度の差が所定の値以上である場合(ステップS105,Yes)、除外判定部24は、注目区画線候補のエッジ強度が隣接区画線候補のエッジ強度より強いか否かを判定する(ステップS106)。
【0118】
そして、注目区画線候補のエッジ強度が隣接区画線候補のエッジ強度より強い場合(ステップS106,Yes)、弱いエッジ強度である隣接区画線候補を区画線Lの候補から除外して(ステップS107)、処理を終了する。
【0119】
一方で、注目区画線候補のエッジ強度が隣接区画線候補のエッジ強度より弱い場合(ステップS106,No)、弱いエッジ強度である注目区画線候補を区画線Lの候補から除外して(ステップS108)、処理を終了する。
【0120】
なお、ステップS105において、複数の区画線候補Lcのエッジ強度の差が所定の値以上ではない場合(ステップS105,No)、処理を終了する。
【0121】
以上、本発明の実施形態について説明したが、本発明は上記実施形態に限定されるものではなく、その趣旨を逸脱しない限りにおいて種々の変更が可能である。例えば、上記実施形態では、区画線Lが一本線や略U字線の場合について示したが、区画線Lの形状はかかる例に限られない。
【0122】
実施形態に係る画像処理装置1は、区画線検出部23と、除外判定部24とを備える。区画線検出部23は、車両Cの周囲が撮像された画像データに基づいて、駐車枠PSを区画する区画線Lの候補となる区画線候補Lcを検出する。除外判定部24は、区画線検出部23によって検出された区画線候補Lcを区画線Lの候補から除外するか否かを判定する。また、除外判定部24は、画像データの所定の範囲R1内に複数の区画線候補Lcが検出される場合に、複数の区画線候補Lcのエッジ強度を比較することにより、区画線候補Lcを区画線Lの候補から除外するか否かを判定する。これにより、区画線Lの検出精度を向上させることができる。
【0123】
また、実施形態に係る画像処理装置1において、除外判定部24は、複数の区画線候補Lcのエッジ強度の差が所定の値以上である場合に、エッジ強度が弱い区画線候補Lc2を区画線Lの候補から除外する。これにより、消し忘れられた不要な区画線Lに基づいた区画線候補Lc2を区画線候補Lcから除外することができる。
【0124】
また、実施形態に係る画像処理装置1において、除外判定部24は、複数の区画線候補Lcの相対位置関係に基づいて、区画線候補Lcを区画線Lの候補から除外するか否かを判定する。これにより、それぞれ略平行に配置されている複数の区画線候補Lcのみを除外処理の判定対象とすることができる。
【0125】
また、実施形態に係る画像処理装置1において、除外判定部24は、複数の区画線候補Lcがそれぞれ略平行に配置されている場合に、区画線候補Lcを区画線Lの候補から除外するか否かを判定する。これにより、除外判定部24の処理負荷を抑制することができる。
【0126】
また、実施形態に係る画像処理方法は、区画線検出工程(ステップS101)と、除外判定工程(ステップS102~S108)とを含む。区画線検出工程(ステップS101)は、車両Cの周囲が撮像された画像データに基づいて駐車枠PSを区画する区画線Lの候補となる区画線候補Lcを検出する。除外判定工程(ステップS102~S108)は、区画線検出工程(ステップS101)によって検出された区画線候補Lcを区画線Lの候補から除外するか否かを判定する。また、除外判定工程(ステップS102~S108)は、画像データの所定の範囲R1内に複数の区画線候補Lcが検出される場合に、複数の区画線候補Lcのエッジ強度を比較すること(ステップS104)により、区画線候補Lcを区画線Lの候補から除外するか否かを判定する。これにより、区画線Lの検出精度を向上させることができる。
【0127】
さらなる効果や変形例は、当業者によって容易に導き出すことができる。このため、本発明のより広範な態様は、以上のように表しかつ記述した特定の詳細及び代表的な実施形態に限定されるものではない。したがって、添付の特許請求の範囲及びその均等物によって定義される総括的な発明の概念の精神または範囲から逸脱することなく、様々な変更が可能である。
【符号の説明】
【0128】
1 画像処理装置
2 制御部
3 記憶部
21 線分抽出部
22 不適領域判定部
23 区画線検出部
24 除外判定部
25 駐車枠検出部
26 駐車枠管理部
27 停車位置決定部
31 区画線情報
32 判定テーブル
100 駐車支援システム
PS 駐車枠
L 区画線
Lc、Lc1、Lc1a~Lc1d、Lc2、Lc2a、Lc2b 区画線候補