特許第5981322号(P5981322)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ クラリオン株式会社の特許一覧 ▶ 日産自動車株式会社の特許一覧

<>
  • 特許5981322-車載画像処理装置 図000002
  • 特許5981322-車載画像処理装置 図000003
  • 特許5981322-車載画像処理装置 図000004
  • 特許5981322-車載画像処理装置 図000005
  • 特許5981322-車載画像処理装置 図000006
  • 特許5981322-車載画像処理装置 図000007
  • 特許5981322-車載画像処理装置 図000008
  • 特許5981322-車載画像処理装置 図000009
  • 特許5981322-車載画像処理装置 図000010
  • 特許5981322-車載画像処理装置 図000011
  • 特許5981322-車載画像処理装置 図000012
  • 特許5981322-車載画像処理装置 図000013
  • 特許5981322-車載画像処理装置 図000014
  • 特許5981322-車載画像処理装置 図000015
  • 特許5981322-車載画像処理装置 図000016
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】5981322
(24)【登録日】2016年8月5日
(45)【発行日】2016年8月31日
(54)【発明の名称】車載画像処理装置
(51)【国際特許分類】
   G06T 1/00 20060101AFI20160818BHJP
   B60R 1/00 20060101ALI20160818BHJP
   B60R 21/00 20060101ALI20160818BHJP
   H04N 5/225 20060101ALI20160818BHJP
【FI】
   G06T1/00 330Z
   B60R1/00 A
   B60R21/00 628D
   H04N5/225 C
【請求項の数】12
【全頁数】28
(21)【出願番号】特願2012-258696(P2012-258696)
(22)【出願日】2012年11月27日
(65)【公開番号】特開2014-106703(P2014-106703A)
(43)【公開日】2014年6月9日
【審査請求日】2015年9月11日
(73)【特許権者】
【識別番号】000001487
【氏名又は名称】クラリオン株式会社
(73)【特許権者】
【識別番号】000003997
【氏名又は名称】日産自動車株式会社
(74)【代理人】
【識別番号】240000327
【弁護士】
【氏名又は名称】弁護士法人クレオ国際法律特許事務所
(74)【代理人】
【識別番号】100082670
【弁理士】
【氏名又は名称】西脇 民雄
(74)【代理人】
【識別番号】100180068
【弁理士】
【氏名又は名称】西脇 怜史
(72)【発明者】
【氏名】宇田川 玲
(72)【発明者】
【氏名】清原 將裕
(72)【発明者】
【氏名】緒方 健人
(72)【発明者】
【氏名】鈴木 智史
(72)【発明者】
【氏名】村松 彰二
(72)【発明者】
【氏名】早川 泰久
(72)【発明者】
【氏名】深田 修
(72)【発明者】
【氏名】森本 明
【審査官】 佐藤 実
(56)【参考文献】
【文献】 特開2002−94978(JP,A)
【文献】 特開2012−175483(JP,A)
【文献】 特開2012−80497(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 1/00 − 7/60
B60R 1/00
B60R 21/00
H04N 5/225
(57)【特許請求の範囲】
【請求項1】
車両に設置されて、前記車両の周囲を観測して、少なくとも路面を含む画像を撮像する撮像部と、
前記撮像部によって撮像された画像の中から、駐車枠を構成すると考えられる白線候補領域を検出する白線候補領域検出部と、
検出された前記白線候補領域の中から、その白線候補領域の中で所定の方向に近接する画素の輝度が所定値よりも大きく明るく変化する正のエッジと、前記正のエッジから所定距離以内にある、前記所定の方向に近接する画素の輝度が所定値よりも大きく暗く変化する負のエッジと、の中点同士を連結した中心線の二つの端点の位置を検出する端点位置検出部と、
前記車両の挙動を計測する車両挙動計測部と、
前記車両挙動計測部で計測された車両の挙動に基づいて、前記端点位置検出部で検出された前記二つの端点の位置が、所定時間差の間に移動すると考えられる前記画像内の位置を予測する端点移動位置予測部と、
前記端点移動位置予測部で予測された端点の位置と、前記端点位置検出部で検出された端点の位置との差を求めて、前記端点の位置の差が所定の値よりも大きいか否かを判断する端点移動量判断部と、
前記端点移動量判断部において、前記端点の位置の差が所定の値よりも大きいと判断されたときに、当該端点の移動前の位置を記憶する端点位置記憶部と、
前記白線候補領域の位置に基づいて駐車枠を検出する駐車枠検出部と、
前記端点位置検出部で検出された端点、または前記端点を有する線素と前記端点位置記憶部に記憶された端点の位置との距離を算出する距離算出部と、を有し、前記距離算出部で算出された距離が所定値よりも小さいときには、前記駐車枠検出部が、駐車枠の検出を行う際に、前記端点位置検出部で検出された端点を含む白線候補領域の寄与度を低くすることを特徴とする車載画像処理装置。
【請求項2】
前記車両挙動計測部で計測された前記車両の車速が高いほど、前記所定時間差をより短く設定することを特徴とする請求項1に記載の車載画像処理装置。
【請求項3】
前記所定時間差の間に前記車両が所定距離移動したときは、前記端点移動位置予測部において、前記車両が前記所定距離移動した時点の前記端点の位置を予測することを特徴とする請求項1または請求項2に記載の車載画像処理装置。
【請求項4】
記距離算出部にて算出された距離が、所定時間に亘って所定値以内であると判断したときに、前記端点位置記憶部に記憶された前記端点の位置をクリアする端点位置忘却判断部を有することを特徴とする請求項1から請求項3のいずれか1項に記載の車載画像処理装置。
【請求項5】
前記端点位置忘却判断部は、前記車両の車速が所定の車速範囲の中にあって、なおかつ、前記車速が高い状態にあるときほど、前記端点位置記憶部に記憶された前記端点の位置を短時間でクリアするものであることを特徴とする請求項4に記載の車載画像処理装置。
【請求項6】
前記端点位置忘却判断部は、前記端点位置記憶部に記憶された前記端点が、前記画像の中央に近い位置にあるときほど、前記端点位置記憶部に記憶された前記端点の位置を短時間でクリアするものであることを特徴とする請求項4に記載の車載画像処理装置。
【請求項7】
前記端点位置忘却判断部は、前記距離算出部にて算出された距離が近いときほど、前記端点位置記憶部に記憶された前記端点の位置を短時間でクリアするものであることを特徴とする請求項4に記載の車載画像処理装置。
【請求項8】
前記端点位置忘却判断部は、前記白線候補領域の延びる方向が前記画像の水平方向に近いときほど、前記端点位置記憶部に記憶された前記端点の位置を短時間でクリアするものであることを特徴とする請求項4に記載の車載画像処理装置。
【請求項9】
前記画像の中で、前記撮像部からの距離が所定距離以上の領域においては、前記撮像部からの距離が所定距離未満の領域に対して、前記所定時間差をより長く設定することを特徴とする請求項1から8のいずれか1項に記載の車載画像処理装置。
【請求項10】
前記撮像部に付着物が付着する可能性を判定する付着物判定部を有し、前記付着物が付着する可能性が高いと判断されたときには、前記所定時間差を変更することを特徴とする請求項1から請求項9のいずれか1項に記載の車載画像処理装置。
【請求項11】
前記撮像部で撮像した画像を、前記車両を真上から見下ろした俯瞰画像に変換する画像変換部を有し、前記撮像部からの距離が所定距離以内である領域は、前記画像変換部で変換された画像を用いて駐車枠の検出を行い、前記撮像部からの距離が所定距離以上である領域は、前記撮像部で撮像した画像を、前記画像変換部で変換せずに駐車枠の検出を行うことを特徴とする請求項1から請求項10のいずれか1項に記載の車載画像処理装置。
【請求項12】
前記距離算出部で算出された距離が所定値よりも小さいときには、前記駐車枠検出部において駐車枠の検出を行う際に、前記端点位置検出部で検出された端点を有する白線候補領域を含む駐車枠を検出する際に、前記駐車枠を検出するしきい値を厳しくすることを特徴とする請求項1から請求項11のいずれか1項に記載の車載画像処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車載カメラによって、路面に描かれた駐車枠の位置を検出する車載画像処理装置に関するものである。
【背景技術】
【0002】
近年、車両にカメラを搭載して、そのカメラで車両の周辺を観測し、観測された画像の中から、路面に引かれた白線や黄線によって区分された駐車枠の位置を検出して、こうして検出された駐車枠の位置に基づいて車両の位置と車線の位置との関係を算出して、駐車動作を支援する装置が研究開発されている。
【0003】
このようなシステムは、屋外にて風雨に晒された状態で使用されるため、カメラのレンズに汚れが付着する可能性が高い。そして汚れが付着すると、肝心な対象物が見えにくくなってしまうため、レンズが汚れたことを検知して報知するようにしている(例えば特許文献1)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2012−166705号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1に記載された車載カメラ用異物付着判定装置では、長尺状の所定の対象部を検出して、その検出状態に基づいて、レンズへの異物の付着を判定していた。
【0006】
しかしながら、特許文献1に開示された発明によると、長尺状の所定の対称物の一定性の有無に基づいて、レンズへの異物の付着を判定しているため、撮像された画像の中に、長い白線や多くの駐車枠、あるいは横断歩道の路面パターン等、できるだけ多くの特徴点が含まれていないとレンズが汚れたことを確実に認識できないという問題があった。
【0007】
本発明は、上記課題に鑑みてなされたもので、カメラのレンズに汚れが付着した場合であっても、その汚れに影響されずに、路面に描かれた駐車枠の位置を安定して確実に検出することができる車載画像処理装置を提供することを目的とする。
【課題を解決するための手段】
【0008】
本発明に係る車載画像処理装置は、車両に設置されて、前記車両の周囲を観測して、少なくとも路面を含む画像を撮像する撮像部と、前記撮像部によって撮像された画像を第1方向にスキャンしながら、輝度が暗から明に変化する第1の点の位置と前記第1の点から前記第1方向に所定距離以内にある、輝度が明から暗に変化する第2の点の位置を検出し、前記第1方向に直交する第2方向に亘って検出された複数の第1の点からなる線素の両端点と複数の第2の点からなる線素の両端点に囲まれた領域を、駐車枠を構成する白線の候補領域として検出する白線候補領域検出部と、前記白線候補領域の中から、所定の方向に近接する前記第1の点と前記第2の点の中点同士を連結した中心線の両端点の位置、前記複数の第1の点からなる線素の両端点の位置、または複数の第2の点からなる線素の両端点の位置、を白線候補領域の端点として検出する端点位置検出部と、前記車両の挙動を計測する車両挙動計測部と、ある時間において前記端点検出部で検出された端点が、前記時間を起点として、所定の時間間隔の間に移動する位置を、前記車両の挙動に基づいて予測する端点移動位置予測部と、前記端点移動位置予測部で予測した時刻において前記端点位置検出部で検出された端点の位置と、前記端点移動位置予測部において予測された端点の位置と、の差が所定の値よりも大きいか否かを判断する端点移動量判断部と、前記端点移動量判断部において、前記差が所定の値よりも大きいと判断されたときに、前記端点の移動前の位置を記憶する端点位置記憶部と、前記白線候補領域の位置と前記画像の中で観測されると予想される駐車枠のサイズに基づいて駐車枠を検出する駐車枠検出部と、前記端点位置検出部で検出された端点、または前記端点を有する線素と前記端点位置記憶部に記憶された端点の位置との距離を算出する距離算出部と、を有し、前記距離算出部で算出された距離が所定値よりも小さいときに、前記駐車枠検出部で駐車枠の検出を行う際に、前記端点位置検出部で検出された端点を含む白線候補領域の寄与度を低くすることを特徴とする。
【0009】
このように構成された本発明に係る車載画像処理装置によれば、車両に設置された撮像部が、車両の周囲の、少なくとも路面を含む画像を撮像して、白線候補領域検出部が、撮像された画像の中から駐車枠を構成する可能性がある白線候補領域を検出して、端点位置検出部が、こうして検出された白線候補領域の中から、所定の方向に近接する第1の点と第2の点の中点同士を連結した中心線の両端点の位置、複数の第1の点からなる線素の両端点の位置、または複数の第2の点からなる線素の両端点の位置、を白線候補領域の端点として検出して、端点移動位置予測部が、車両挙動計測部で計測された車両の挙動に基づいて、画像の中で、端点位置検出部で検出された端点の位置が移動すると予測される位置を算出して、端点移動量判断部が、端点移動位置予測部で予測された端点の位置と、端点移動位置予測部で予測した時刻において、実際に端点位置検出部で検出された端点の位置の差を求めて、この差が所定の値よりも大きいときに、その端点の移動前の位置を端点位置記憶部に記憶して、駐車枠検出部が、白線候補領域のうち、距離算出部において、その白線候補領域の端点、またはその端点を有する線素が、端点位置記憶部に記憶された端点の位置から所定距離以内にあると判断された白線候補領域の寄与度を下げて、画像の中で観測されると予想される駐車枠のサイズに基づいて駐車枠を検出するため、撮像部に汚れが付着して白線候補領域に途切れが生じた場合であっても、路面に描かれた駐車枠の位置を安定して確実に検出することができる。
【発明の効果】
【0010】
本発明に係る車載画像処理装置によれば、カメラのレンズに汚れが付着した場合であっても、その汚れに影響されずに、路面に描かれた駐車枠の位置を安定して確実に検出することができる。
【図面の簡単な説明】
【0011】
図1】本発明に係る車載画像処理装置の実施例1が実装された車両について説明する図である。
図2】本発明の実施例1の全体構成を示すブロック図である。
図3】本発明の実施例1における端点位置忘却判断部の詳細な構成を示すブロック図である。
図4】(a)は本発明の実施例1において撮像された画像の一例を示す図である。(b)は(a)の画像の中のラインAB上の輝度分布を示す図である。
図5】検出された白線候補領域の構造について説明する図である。
図6】車両の移動に伴って発生する白線候補領域の端点の位置の移動について説明する図であり、(a)は、車両が点線状に引かれた白線の横を走行している様子を示す図である。(b)は、(a)に示した車両から観測された白線が、時間間隔Δtの間に移動するパターンを説明する図である。(c)は、(b)において撮像部に汚れが付着しているときの、白線の移動パターンを説明する図である。
図7】固着点の忘却判断を行う方法について説明する図であり、(a)は車速に応じた中心線観測回数カウンタの設定例である。(b)は固着点の忘却判断カウンタの設定例である。(c)は車速条件に基づいて固着点の忘却を行う手順について説明する図である。
図8】固着点の忘却判断を行うために利用する中心線観測回数カウンタの設定例であり、(a)は画像の中の端点の位置に基づく中心線観測回数カウンタの設定例である。(b)は中心線方向に基づく中心線観測回数カウンタの設定例である。(c)は固着点と端点の距離に基づく中心線観測回数カウンタの設定例である。
図9】端点リストの内容について説明する図である。
図10】固着点リストの内容について説明する図である。
図11】本発明の実施例1の処理の流れを説明するフローチャートである。
図12図11のフローチャートの中で、固着点の忘却判断を行う処理の流れを説明するフローチャートである。
図13】本発明の実施例2の全体構成を示すブロック図である。
図14】本発明の実施例2において、処理対象となる画像の範囲について説明する図である。
図15】本発明の実施例2の処理の流れを説明するフローチャートである。
【発明を実施するための形態】
【0012】
以下、本発明に係る車載画像処理装置の実施形態について、図面を参照して説明する。なお、以下の説明において、画像に格納された濃淡値のことを輝度値と呼ぶ。また、画像Iの画素(x,y)の輝度値をI(x,y)で表すものとする。
【実施例1】
【0013】
本実施例は、本発明の車載画像処理装置を、運転者が、路面に駐車枠が描かれた駐車場で駐車動作を行っているときに、ブレーキペダルを踏むべきタイミングで、誤ってアクセルペダルを踏んでしまうことにより、車両が予期せぬタイミングで突然発進する、所謂ペダル踏み間違いによる急発進を防止するシステムに適用した例である。
【0014】
まず、図1から図3を用いて、本車載画像処理装置の動作を説明する。本車載画像処理装置は、車両1に実装されて、図1に示すように、車両1の前方を撮像する前方カメラ10Aと、車両1の左ドアミラーに装着されて、車両の左方向を撮像する左方カメラ10Bと、車両1の右ドアミラーに装着されて、車両の右方向を撮像する右方カメラ10Cと、車両1の後方を撮像する後方カメラ10Dを有している。そして、これら4台のカメラによって構成された撮像部10によって、車両1の周囲の路面を観測できるようになっている。なお、各カメラは、レンズ等の集光機能を有する光学系とC−MOS等の光電変換素子とから構成されている。
【0015】
図2は、実施例1の全体構成を示すブロック図である。車載画像処理装置5は、車両1(図1参照)に実装されて、車両1の周囲の路面を含む領域を撮像する撮像部10と、撮像部10を構成する前方カメラ10A,左方カメラ10B,右方カメラ10C,後方カメラ10Dで撮像された画像を、それぞれ、車両1の上空から見下ろした俯瞰画像に座標変換して、1枚の画像に合成する画像変換、合成部20と、画像変換、合成部20で合成された画像の中から、駐車枠を構成すると考えられる白線候補領域を検出する白線候補領域検出部30と、検出された白線候補領域の中から、その白線候補領域の中で所定の方向に近接する+エッジと−エッジの中点同士を連結した中心線の両端点の位置を検出する端点位置検出部40と、車両1の車速と操舵角に基づいて、車両1の移動量を計測する車両挙動計測部50と、車両挙動計測部50で計測された車両1の挙動に基づいて、端点位置検出部40で検出された端点位置が移動すると考えられる画像内の位置を予測する端点移動位置予測部60と、端点移動位置予測部60で予測された端点の位置(以後、予測端点位置と呼ぶ。)と、端点位置検出部40で検出された端点の位置(以後、実端点位置と呼ぶ。)との差異を求めて、その差異の大きさを判断する端点移動量判断部70と、差異が大きいと判断された端点位置やそのときの車両挙動等を記憶する端点位置記憶部80と、端点位置記憶部80に記憶された端点位置と端点位置検出部40で検出された端点位置との距離を算出して、両端点の近接度合を判断する距離算出部75と、車両1の運転者に対して、駐車枠が検出されていることやエンジン出力を抑制する制御を行っていることを表示する、ディスプレイ装置や音声出力装置からなる情報出力部85と、記憶された端点位置が所定の条件を満足したときに、この端点位置を削除する端点位置忘却判断部90と、画像の中から駐車枠を検出する駐車枠検出部100と、車両1のアクセル開度を検出するアクセル開度検出部110と、駐車枠検出部100で駐車枠が検出されたときに、所定値以上のアクセル開度が検出されたときには、車両1のエンジン出力を抑制して、車両1の急発進を防止する車両挙動制御部120と、からなる。
【0016】
前記白線候補領域検出部30は、さらに、所定の方向に隣接する+エッジと−エッジのペアを検出するエッジペア検出部32と、各白線候補領域の中から、エッジペア同士を結ぶ線分の中点同士が連結されて構成される中心線を検出する中心線検出部34とからなる。
【0017】
前記端点位置記憶部80は、さらに、端点位置検出部40で検出された端点位置が記憶されて、車載画像処理装置5の動作に伴って更新される端点リスト82と、端点位置検出部40で検出された端点位置のうち、車両1が移動してもその位置の移動量が小さい端点位置(以下、固着点と呼ぶ)が記憶されて、車載画像処理装置5の動作に伴って更新される固着点リスト84と、からなる。
【0018】
前記端点位置忘却判断部90は、さらに、車両1の車速に応じて、固着点の忘却判断を行う車速条件による忘却判断部92と、白線候補領域を構成する端点の画像内での位置に応じて、固着点の忘却判断を行う端点位置による忘却判断部94と、白線候補領域を構成する中心線の延びる方向に応じて、固着点の忘却判断を行う中心線方向による忘却判断部96と、固着点から白線候補領域を構成する中心線に下ろした垂線の長さに応じて、固着点の忘却判断を行う垂線長による忘却判断部98と、からなる。
【0019】
以下、本実施例1の動作概要について、順を追って説明する。本実施例1では、まず、撮像部10で撮像された画像の中から、駐車枠を表すと考えられる白線候補領域を検出する。そして、検出された白線候補領域の端点位置を求めて、白線候補領域を代表する点とする。車両1は駐車場において、運転者の操作によって駐車動作を行うため、運転者の操作に応じた量だけ随時移動し、その移動に伴って、検出された端点位置は画像の中で随時移動する。そして、その移動量は、車両1の挙動に基づいて予測することができる。
【0020】
このとき、撮像部に泥汚れや水滴等による汚れが付着していると、汚れが付着した領域の中には白線候補領域が映らないため、白線候補領域は汚れの境界線において分断される。そして、この分断された位置(固着点)が、前述した端点位置として検出される。
【0021】
この汚れの位置は時間とともに移動しないと考えられるため、汚れによって分断された端点位置は、車両が移動したときに、路面上で検出された端点とは異なる動き方をする。したがって、予測と反した動きをする端点位置は、白線候補領域が汚れによって分断されて発生した端点であると推定される。
【0022】
本実施例1では、この固着点を検出して、検出された固着点を端点とする白線候補領域は、駐車枠の検出に利用しないことによって、駐車枠の検出を確実に行う。
【0023】
さらに、本実施例1は、出現した固着点の位置を継続的に観測して、所定の条件を満足したときにその固着点を忘却する機能を有している。これによって、時間の経過とともに固着点が増加して、駐車枠の構成要素として本来必要な白線候補領域までもが削除されて、これによって駐車枠が検出できなくなることを防止できる。
【0024】
次に、前述した本実施例1の動作概要の中で、重要な部分について、その内容を説明する。
【0025】
<白線候補領域検出方法の説明>
まず、図4を用いて、白線候補領域検出部30で行われる、白線候補領域の検出方法について説明する。
【0026】
図4(a)は、前方カメラ10Aで撮像した画像Iと、左方カメラ10Bで撮像した画像Iと、右方カメラ10Cで撮像した画像Iと、後方カメラ10Dで撮像した画像Iとを、画像変換、合成部20において、車両1の真上から見下ろした俯瞰画像に座標変換して、さらに、1枚の画像Iとして合成した様子を示す。
【0027】
図4(a)に示すように、画像Iは、車両1の位置を模した領域Vの回りに、俯瞰画像に座標変換された画像Iと、画像Iと、画像Iと、画像Iとが合成されることによって構成されている。この画像Iは、車両1すなわち路面を真上から見下ろしたものであるため、駐車枠に駐車した車両の左右に描画された、車両の前後方向に向かって延びる白線F1,F2,F3は、画像Iの中に互いに平行に映る。また、車両の幅方向に向かって延びる白線F4は、白線F1,F2,F3と直交するように映る。
【0028】
なお、撮像部10で撮像された画像を俯瞰画像に座標変換して、さらに1枚の画像に合成する処理は、昨今、車両周囲のモニタリングシステムとして実用化されている公知の技術であるため、詳細な処理方法の説明は省略する。
【0029】
画像Iの左上を原点(0,0)として、左右方向をx、上下方向をyとする。そして、白線候補領域検出部30(図2参照)において、画像Iの中を、左から右に向かって(第1方向)、画像Iに格納された輝度値I(x,y)を参照しながら、隣接する2つの画素の輝度値の差分値を計算する。参照した画素(x,y)に対して、輝度差I(x−1,y)−I(x,y)と、輝度差I(x,y)−I(x+1,y)を、画像Iの全ての画素に対して順次計算する。
【0030】
そして、輝度値が所定値よりも大きく明るく変化する画素、すなわち、予め設定した輝度差しきい値Ithに対して、I(x,y)−I(x−1,y)>Ithを満たす画素を第1の点として検出する。この画素を+エッジと呼ぶ。
【0031】
さらに、輝度値が所定値よりも大きく暗く変化する画素、すなわち、I(x,y)−I(x+1,y)>Ithである画素を第2の点として検出する。この画素を−エッジと呼ぶ。
【0032】
駐車枠を構成する白線であれば、+エッジを構成する画素(白線と路面の境界点)と−エッジを構成する画素(白線と路面の境界点)の間隔は、駐車枠を構成する白線の幅とほぼ等しくなるため、画像Iの中から検出された+エッジを構成する画素と、その+エッジに隣接して検出された−エッジを構成する画素の間隔wが、第1方向に沿って所定距離以内であるとき、この+エッジを構成する画素と−エッジを構成する画素は、駐車枠を構成する白線である可能性が高いと判断して、これらの画素を検出する。
【0033】
例えば、画像Iに格納された輝度値を、図4(a)の点Aから点Bに向かって参照したときには、図4(b)に示すように、画素S1が+エッジとして検出されて、画素S2が−エッジとして検出される。
【0034】
このようにして検出された+エッジを構成する画素S1と、−エッジを構成する画素S2のペアをエッジペアと呼ぶことにする。
【0035】
こうして検出されたエッジペアに挟まれた画素は、画像の上下方向に連続した領域を形成する。すなわち、エッジペアは、第1方向に直交する第2方向に亘って連続して検出される。こうして形成された領域を白線候補領域と呼ぶ。そして、検出された白線候補領域にはラベリング処理を行い、各々の白線候補領域に通し番号を付与しておく。
【0036】
<白線候補領域の端点検出方法の説明>
次に、検出された白線候補領域の中から、その端点を検出する方法について説明する。
【0037】
中心線検出部34(図2参照)において、+エッジの集合である白線候補領域境界線Lと、−エッジの集合である白線候補領域境界線Lの中心線を検出する。これによって、図5に示すように、+エッジを構成する画素P11と、画素P11とエッジペアをなす画素P21の中点として点mが検出される。また、同様にして、+エッジを構成する画素P1nと、−エッジを構成する画素P2nの中点として点mが検出される。このようにして検出された点mと点mを結ぶ線分を、白線候補領域の中心線Mとする。そして、中心線Mの端点を白線候補領域の端点とする。この場合、点mと点mが、それぞれ中心線Mの端点となる。
【0038】
なお、実際は、1つの白線候補領域の中から、端点m,mだけではなく、より多くの中点を検出して、それらの中点を連結して中心線Mとする。
【0039】
<端点の移動量予測方法と移動量判断方法の説明>
次に、こうして検出した端点が時間とともに移動する方向と移動する量を予測する方法と、予測した移動量と実際の移動量の比較判断方法について説明する。
【0040】
図6(a)は、車両1が、点線状に引かれた白線Pの横を走行している様子を示す図である。図6(a)は、車両1が時刻t=tから、時間間隔Δtの間に、前方に向かって移動量Kだけ移動したことを示している。
【0041】
このとき、時刻t=tにおいて、図6(b)の左側のような画像が撮像される。そして、時刻t=t+Δtにおいては、図6(b)の右側のような画像が撮像される。このとき、画像に映った白線Pの端点m,mのうち下側の端点mは、画像の中で下方向に移動量Δk画素だけ移動する。
【0042】
なお、この移動量Δkは、車両挙動計測部50で計測された車速や操舵角を用いて予測することができる。すなわち、時間間隔Δtの間の車両1の速度から、その時間間隔Δtの間に車両1が進行した距離がわかる。そして、こうして算出した距離が、前方カメラ10Aで撮像して、車両1の真上から見下ろした画像の中で何画素分に相当するかを計算して、車両1の操舵角に基づいて計測した車両1の移動方向を加味して、端点の位置が、画像Iの中でどの方向に何画素移動するかを予測することができる。
【0043】
そして、このとき、前方カメラ10Aのレンズ表面に汚れが付着しているときには、端点位置は、図6(c)に示すように、図6(b)で説明した移動パターンとは異なる移動パターンをなす。
【0044】
すなわち、前方カメラ10Aのレンズに汚れが付着していたときには、時刻t=tにおいて、図6(c)の左側に示す画像が撮像される。撮像された画像の中には、レンズに付着した汚れによって、汚れ領域Eが生成される。そして、白線Pの手前側(画像では下側)の端点mは、白線Pが汚れ領域Eと交わった位置に観測される。
【0045】
そして、時刻t=t+Δtにおいては、図6(c)の右側のような画像が撮像される。このとき、画像に映った白線Pの端点m,mのうち、上側の端点mは、画像の中で下方向に移動量Δk画素だけ移動するが、下側の端点mは、画像の中で下方向に移動量Δk画素だけ移動することはなく、白線Pが汚れ領域Eによって分断された位置に観測される。すなわち、端点mの位置は、時刻t=tにおける位置とほぼ等しくなる。このように、車両1が移動したとき、端点の移動量が予測した移動量よりも小さいときには、その端点は前述した固着点であると判断する。
【0046】
このように、車両の挙動に基づいて予測される端点の移動量と、実際に端点が移動した位置とを比較することによって、端点が汚れ領域Eによって分断されているか否か、すなわち、端点が固着点であるか否かを判断することができる。
【0047】
なお、車両1の車速が高いときは、端点の移動量が大きくなるため、車両挙動計測部50において、車両1の車速が所定値よりも大きいことが検出されたときは、時間間隔Δtの経過を待たずに、予測端点位置の算出と実端点位置の算出を行って、端点の移動量を評価する。これによって、車速が高いときであっても、白線候補領域の端点の位置を正確に検出することができるため、固着点Qが発生したか否かの判定をより確実に行うことができる。
【0048】
また、車両1の車速が低くても、操舵を行うことによって車両1が方向を変えたときには、端点の位置が大きく移動する。したがって、時間間隔Δtの間に、実端点位置が画像Iの中で所定画素以上移動したときにも、その時点で予測端点位置の算出と実端点位置の算出を行う。これによって、車両1が短時間で大きく向きを変えたときであっても、白線候補領域の端点の位置を正確に検出することができるため、固着点が発生したか否かの判定をより確実に行うことができる。
【0049】
<固着点の忘却判断方法の説明>
こうして検出された固着点の位置を記憶しておき、検出した中心線Mがこの固着点から近い位置にあるときは、その中心線Mは汚れ領域Eによって分断されていると推定される。したがって、その中心線Mを含む白線候補領域を駐車枠の検出に利用する際には、その白線候補領域は完全に検出されたものではないため、駐車枠検出時の寄与度を下げて取り扱うようにする。その詳細な内容は後述する。
【0050】
ところが、前述した画像処理を連続して行うと、撮像部10のレンズに汚れが付着しているときには、検出される固着点が時間とともに増加する可能性がある。そして、固着点が増加すると、本来必要な白線候補領域までもが削除されてしまう恐れがあるため、過去に記憶した固着点は、適宜忘却する必要がある。
【0051】
また、汚れの中には、レンズに付着した水滴のように、時間とともに消失するものもあるため、過去に記憶した固着点は、適宜忘却する必要がある。
【0052】
以下、固着点の忘却の判断方法について説明する。図7は、車両1の速度に基づいて、固着点を忘却する方法を説明する図である。図7(c)は、その概要を示している。
【0053】
図7(c)の時刻t=tの欄は、過去に検出されて記憶された固着点Qの近傍に、端点mと端点mを有する白線候補領域の中心線Mが検出されたことを表している。ここで、中心線Mの端点mの周りには半径Δdの領域Rが設定されている。
【0054】
図7(c)の時刻t=t+Δtの欄は、Δt秒後に、中心線Mが下方向に移動したことを表している。このとき、固着点Qは、中心線Mの端点mを中心とする領域Rの内部にあるため、固着点Qの近傍に白線候補領域が観測されたものとして、固着点Qを忘却するか否かの判断を開始する。なお、固着点Qが、中心線Mの端点mを中心とする領域Rの内部にあることは、距離算出部75において判断される。
【0055】
固着点Qを忘却するか否かの判断は、2種類のカウンタを用いて行う。1つは固着点Qの近傍に中心線が観測された回数をカウントする、中心線観測回数カウンタCvである。そして、もう1つは、中心線観測回数カウンタCvのカウント数を累積して、固着点Qの忘却を判断する忘却判断カウンタCnである。
【0056】
図7(c)は、固着点の近傍に中心線Mの端点が検出されたときに、車両挙動計測部50において車両1の車速が時速10kmであることが検出されて、図7(a)の中心線観測回数カウンタCvの設定例に基づいて、中心線観測回数カウンタCvが3にセットされた場合の動作例を示している。
【0057】
そして、固着点Qの近傍に中心線Mの端点が検出される状態(これを忘却条件と呼ぶ)が継続する度に、中心線観測回数カウンタCvがデクリメントされる(図7(c)の時刻t=t+2Δtの欄、t=t+3Δtの欄、t=t+4Δtの欄参照)。
【0058】
そして、中心線観測回数カウンタCvが0になると、忘却判断カウンタCnがインクリメントされる(図7(c)の時刻t=t+4Δtの欄参照)。
【0059】
その後、同様の動きを繰り返して、中心線観測回数カウンタCvがnサイクル回ったとき、すなわち、忘却判断カウンタCnの値が3nになったときに、固着点Qが忘却される。すなわち、忘却判断カウンタCnは、忘却条件が発生した累積時間をカウントするカウンタである。
【0060】
なお、突発的なノイズの混入によって、固着点Qの近傍に中心線Mの端点が検出されない場合があるため、中心線観測回数カウンタCvのデクリメントは、途中、固着点Qの近傍に中心線Mの端点が検出されない場合には保留して、再度、固着点Qの近傍に中心線Mの端点が検出されたときにデクリメントを再開するようにする。
【0061】
図7(a)は、前述した中心線観測回数カウンタCvの設定例を示すものである。この設定例では、車両1の車速vが高くなるにつれて、中心線観測回数カウンタCvの設定値を小さくしている。これは、端点が固着点Qの近傍を通過したときは、既に汚れが消失している可能性が高いため、車速が高いときは、端点が固着点Qの近傍を通過したことを確認したときに、固着点Qを忘却しやすくするためである。
【0062】
特に、破線状の白線候補領域が固着点Qの近傍を通過する場合に、車速に応じた中心線観測回数カウンタCvの設定が有効となる。車速が高いと中心線観測回数カウンタCvのデクリメントは最悪で一度きりとなるため、車速に応じて中心線観測回数カウンタCvを設定しなかった場合は、長時間に亘って破線のある路面を走行しても固着点Qを忘却しない恐れがある。
【0063】
また、破線状の白線候補領域で中心線観測回数カウンタCvを設定する際に、所定の長さの破線についてその間隔に応じて中心線観測回数カウンタCvのカウンタ値を引き継ぐか否かを設定してもよい。例えば、破線の長さに対して広い間隔で次の破線が観測された場合に、以前のカウンタ値はクリアして、現在の車速に基づいてカウンタ値を設定し直すことができる。
【0064】
さらに、車速が所定値vを超えたときには、中心線観測回数カウンタCvの設定値を所定の高い一定値に設定している。これは、車速がある程度高いときには、水滴にように流動性のある汚れであれば風圧で吹き飛ばされて消失するが、粘着性の高い汚れがある場合、車速が高くても消失しないため、そのような汚れが発生したことは忘却しにくくするためである。
【0065】
図7(b)は固着点Qの忘却判断カウンタCnの設定例を示すものである。この設定例では、忘却条件を満たす状態がnCv回を超えて発生し、忘却条件が発生した累積時間がt1になったときに、固着点Qを忘却するように設定されている。
【0066】
<その他の忘却判断方法の説明>
固着点Qの忘却条件は、前述した車両1の速度条件のみではなく、他の忘却条件を設定することもできる。以下、忘却条件の他の例について説明する。
【0067】
図8は、その他の忘却判断方法を行う際に設定される中心線観測回数カウンタの例である。図8(a)は、画像Iの中で、画像の中央部に生じた固着点Qほど早く忘却して、画像の隅部に生じた固着点Qは忘却しにくくするものである。
【0068】
このような忘却判断を行うのは、画像の中央部は頻繁に中心線Mが出現するため、固着点Qを忘却しやすくしても、汚れが付着すれば、すぐに別の固着点が出現して、新たな固着点を検出できるためである。
【0069】
この忘却判断を行うときには、中心線観測回数カウンタCpを、図8(a)に示すように、固着点Qが画像Iの中央部にあるときほど小さい値に設定して、画像Iの中で、固着点Qの近傍に中心線の端点が検出されたときに、忘却条件が成立したと判断して、中心線観測回数カウンタCpのデクリメントを行う。以後の処理は、前述した通りである。
【0070】
図8(b)は、画像Iの中で、水平や垂直な中心線Mが固着点Qの近傍で検出されたときほど、固着点Qを早く忘却して、画像Iの中で45°方向、または−45°方向に延びる中心線が固着点Qの近傍で検出されたときは、固着点Qを忘却しにくくするものである。
【0071】
このような忘却判断を行うのは、車両1が旋回するように移動したときには、中心線Mが画像の内部を横切るように移動して、斜め(45°方向)の中心線Mが固着点Qの上を通過する確率が高くなるため、そのような状況において、固着点Qを忘却しやすくするためである。
【0072】
この忘却判断を行うときには、中心線観測回数カウンタCsを、図8(b)に示すように、中心線Mの方向が、画像Iの中で45°または−45°に近いときほど、その中心線Mの端点の中心線観測回数カウンタCsに小さい値に設定して、画像Iの中で、固着点Qの近傍に中心線Mが検出されたときに、忘却条件が成立したと判断して、中心線観測回数カウンタCsのデクリメントを行う。以後の処理は、前述した通りである。なお、固着点Qの近傍に中心線Mが検出されたことは、固着点Qから中心線Mに下ろした垂線の長さSが所定値よりも小さいことを確認して判断する。
【0073】
図8(c)は、画像Iの中で、中心線Mが固着点Qの近傍で検出されたときほど、固着点Qを早く忘却して、中心線Mが固着点Qから遠方で検出されたときは、固着点Qを忘却しにくくするものである。
【0074】
固着点Qの近傍に中心線Mが検出されたときには、既に汚れが消失している可能性が高いため、このような忘却判断を行うことよって、固着点Qを忘却しやすくすることができる。
【0075】
この忘却判断を行うときには、中心線観測回数カウンタCdを、図8(c)に示すように、固着点Qから中心線Mに下ろした垂線の長さが短いときほど小さい値に設定して、画像Iの中で、固着点Qの近傍に中心線Mが検出されたときに、忘却条件が成立したと判断して、中心線観測回数カウンタCdのデクリメントを行う。以後の処理は、前述した通りである。なお、固着点Qの近傍に中心線Mが検出されたことは、固着点Qから中心線Mに下ろした垂線の長さSが所定値よりも小さいことを確認して判断する。
【0076】
以上説明したように、中心線Mの端点が固着点Qの近傍にあるとき、もしくは、中心線Mが固着点Qの近傍にあるときに忘却判断が行われるが、固着点Qが画像Iの中で車両1から遠方を隠蔽する位置にあるときと、車両1の直近を隠蔽する位置にあるときとで、忘却判断の方法を変更することも可能である。
【0077】
すなわち、固着点Qが画像Iの中で車両1から遠方を隠蔽する位置にあるときには、端点の動きが小さいため、中心線Mの端点が汚れに隠れたままになってしまう可能性が高く、このような場合は、中心線Mが固着点Qの近傍にあることを判断して忘却判断を行うのが望ましい。
【0078】
また、固着点Qが画像Iの中で車両1の直近を隠蔽する位置にあるときには、端点の動きが大きく、その位置も精度よく検出できるため、中心線Mの端点が固着点Qの近傍にあることを判断して忘却判断を行うのが望ましい。
【0079】
さらに、固着点Qが画像Iの中のどこにあるかに応じて、忘却判断を行う際の設定値を変更するようにしてもよい。例えば、端点が車両1に近い位置に検出されたときには、前記半径Δd、もしくは前記累積時間t1のいずれか一方をより大きい値に設定して、固着点Qを忘却しやすくすることもできる。そして、以上のような設定値の変更を実施するためには、忘却判断を行う際に利用する設定値をテーブル化しておき、処理対象となる画像の条件に応じて、そのテーブルを参照して設定値を設定するようにすればよい。
【0080】
<忘却判断方法の具体的実行方法の説明>
【0081】
前述した複数の忘却判断方法は、並行して実行するのが望ましい。その場合、いずれかの中心線観測回数カウンタCv,Cp,Cs,Cdが0になったときに忘却判断カウンタCnをインクリメントする構成にしておけばよい。
【0082】
以下、この忘却判断を効率的に行う具体的な方法について説明する。画像Iの中から検出された中心線Mの端点位置、および固着点Qの位置は、リスト形式で記憶管理される。
【0083】
図9は、画像Iの中から検出された端点位置を表す端点リスト82の例である。端点リスト82の中には、検出された白線候補領域の中心線M毎に、その中心線Mの両側の端点の情報が記載されている。
【0084】
端点リスト82には、具体的には、その端点が、駐車枠を検出する際に有効に利用できるか否かを表す有効フラグ(図9の第1列)と、その端点が観測された時刻(図9の第2列)と、画像の中の実際の端点位置である実端点位置(図9の第3列)と、車両の移動距離(図9の第5列)と、車両の移動距離に基づいて予測される予測端点位置(図9の第4列)と、忘却判断方法毎に設定された中心線観測回数カウンタCv,Cp,Cs,Cd(図9の第6列から第9列)が記載されている。
【0085】
ここで、予測端点位置(図9の第4列)は、過去に検出された実端点位置(例えば(x11,y11)と車両1の移動距離(例えばK)とから、予め決めておいた関数fに基づいて算出される。図9の第4列には、こうして算出された予測端点位置(f(x11,K),f(y11,K))が格納される。
【0086】
そして、同じ中心線Mの端点に関する情報は、時系列で一つのリストに格納されて管理されている(図9の第a行以降)。
【0087】
図10は、実際に検出された固着点Qの一覧を表す固着点リスト84の例である。固着点リスト84の中には、固着点Q毎に、その固着点Qが有効であるか否かを表す有効フラグと、その固着点Qの位置、周辺の中心線Mとの位置関係、および、忘却判断を行う際に利用する各カウンタの情報が格納されている。
【0088】
そして、同じ固着点Qに関する情報は、一つのリストに時系列的に格納されて管理されている。
【0089】
そして、忘却判断は、こうして生成された端点リスト82と固着点リスト84に格納された情報を用いて行われる。そして、固着点Qを忘却すべきと判断されたときには、その固着点に付与された有効フラグを0にすることによって、以降、その固着点Qは固着点リスト84の中で参照されなくなる。
【0090】
<駐車枠の検出方法の説明>
次に、駐車枠の検出方法について説明する。駐車枠を検出する方法には様々なものが考えられ、そのいずれの方法を適用してもよい。ここでは、駐車枠の形状特徴を利用した検出方法について説明する。
【0091】
駐車枠の形状特徴とは、例えば、以下の(1)〜(3)のようなものである。
(1)駐車枠は、所定の間隔と所定の長さを有する平行な白線で形成された2本の線分に挟まれた領域である。
【0092】
(2)平行な白線で形成された2本の線分のうちの1本は、図4(a)に示すように、隣り合った2つの駐車枠で共有される場合もあれば、隣接した駐車枠の間に、2本の白線が引かれている場合もある。
【0093】
(3)平行な白線の端点同士は、白線によって連結されている場合もあれば、図4(a)のように、駐車枠の奥側のみが連結されている場合もある。また、平行な白線の端点同士が連結されていない場合もある。
【0094】
本実施例では、まず、画像Iの中に観測される駐車枠のサイズを記憶しておく。駐車枠のサイズとは、駐車枠に車両を駐車したときに、車両の前後方向に向かって延びる平行な白線で形成された2本の線分の長さ(前述した中心線Mの長さと考えてもよい)と、その2本の線分の間隔である。
【0095】
画像Iは、車両1を真上から見下ろした俯瞰図であるため、画像Iが観測している範囲は、撮像した画像を俯瞰図に変換するパラメータを用いて容易に推定できる。したがって、想定したサイズの駐車枠が、画像Iの中でどの位の大きさで観測されるかを推定することができる。ここでは、車両の前後方向に向かって延びる平行な白線で形成された2本の線分の長さが第1の所定の画素数Oで観測されて、2本の線分の間隔が第2の所定の画素数Oで観測されるものと推定される。
【0096】
そして、まず、画像Iの中から検出された白線候補領域の中から、その方向がほぼ等しくなっている複数の白線候補領域のペアを検出する。白線候補領域の方向は、先に検出した中心線Mの方向(2つの端点を結ぶ線分の方向)と考えてよい。
【0097】
こうして検出された平行な白線候補領域の間隔が、第2の所定の画素数Oに近いときに、駐車枠を構成する平行な白線候補領域のペアが見つかったものと判断する、そして、次に、こうして検出された白線候補領域の長さを求める。これは、その白線候補領域の中心線Mの長さとして算出される。算出された中心線Mの長さが、先に想定した駐車枠の長さ、すなわち第1の所定の画素数Oに近い値であるとき、その白線候補領域は駐車枠を構成しているものと判断する。実際は、予想される画素数OとOに、所定の幅を設定しておき、その幅の範囲内の値が観測されたときに、条件を満足したものと判断する。
【0098】
なお、このとき、駐車枠を確実に検出するために、固着点Qの近傍に検出された中心線Mを含む白線候補領域は、駐車枠の検出に利用する際に、その寄与度を引き下げて取り扱うものとする。寄与度を引き下げる際には、その白線候補領域が過去複数回に亘って固着点Qの近傍で検出されたことを条件としてもよい。そして、寄与度が低い白線候補領域を含む駐車枠を検出するときには、例えば、画素数O,画素数O、または画素数OとOの所定の幅をさらに小さく設定して、駐車枠を検出しにくくすればよい。
【0099】
寄与度を引き下げる条件に該当する白線候補領域であることは、前述した端点リスト82の有効フラグが0になっていることを確認して判断される。
【0100】
<実施例1の作用の説明>
次に、実施例1に係る車載画像処理装置5の一連の動作の流れについて、図11のフローチャートを用いて説明する。
【0101】
(ステップS10) 図2に図示しない車速センサの出力に基づいて、車両1の車速を検出する。そして、検出した車速が0でなく、かつ、予め設定された所定の車速以下であるか否かを判断する。検出した車速が0でなく、かつ、予め設定された所定の車速以下であると判断されたときはステップS20に進み、それ以外のときは図11の処理を終了する。
【0102】
(ステップS20) 撮像部10によって、車両1の周囲を撮像する。
【0103】
(ステップS30) 画像変換、合成部20において、撮像部10で撮像された画像が俯瞰図に変換され、さらに、図4(a)に示すような1枚の画像Iに合成される。
【0104】
(ステップS40) エッジペア検出部32において、画像Iの中から、+エッジと−エッジを構成するエッジ構成点を検出する。
【0105】
(ステップS50) 中心線検出部34において、+エッジと−エッジの中点で構成される中心線Mを検出して、さらに、端点位置検出部40において、中心線Mの端点として端点位置を検出する。このとき、端点位置が所定範囲内に存在することを条件として端点位置を検出してもよい。例えば、撮像された画像Iの撮像領域の境界から所定距離以上離れていることを検出条件とすることによって、画像Iの撮像領域の境界付近の端点を除外することができる。
【0106】
(ステップS60) 車両挙動計測部50で計測された車両1の挙動に基づいて、端点移動位置予測部60において、画像Iの中において予測される予測端点位置を求める。そのときの時間間隔Δtは、予め決めておいた所定の値を用いるが、前述したように、車両1の車速が所定値よりも大きいことが検出されたときは、時間間隔Δtの経過を待たずに、予測端点位置の算出を行う。また、車速が小さくても、端点の位置が大きく移動したときにも、前述したように、その時点で予測端点位置の算出を行う。
【0107】
(ステップS70) 端点位置検出部40において、ステップS60で予測した時刻における実端点位置を検出する。
【0108】
(ステップS90) 端点移動量判断部70において、予測端点位置と実端点位置との位置の差異を算出する。そして、算出された位置の差異が所定値以上のときはステップS95に進み、それ以外のときはステップS120に進む。
【0109】
(ステップS95) ステップS50,ステップS70で検出された端点位置に基づいて端点リスト82を更新する。
【0110】
(ステップS100) ステップS90で評価した端点の移動前の位置を、新たに固着点リスト84に登録して、固着点リスト84を更新する。
【0111】
(ステップS110) 端点位置忘却判断部90において、固着点Qの忘却判断を行う。なお、この処理の内容は後述する。
【0112】
(ステップS120) 全ての固着点に対して固着点Qの忘却判断を行ったか否かを判断する。条件を満足したときはステップS130に進み、それ以外のときはステップS90に戻る。
【0113】
(ステップS130) 駐車枠検出部100において、画像Iの中から駐車枠を検出する。詳しい処理内容は、前述したため省略する。
【0114】
(ステップS140) ステップS130を行った結果、駐車枠が見つかったか否かを判断する。駐車枠が見つかったときはステップS145に進み、駐車枠が見つからなかったときは、ステップS10に戻る。
【0115】
(ステップS145) 情報出力部85によって、駐車場ではアクセル操作とブレーキ操作を間違えないように注意する旨の情報を、画面表示もしくは音声ガイドによって出力し、運転者の注意喚起を行う。
【0116】
(ステップS150) アクセル開度検出部110において、アクセル開度が所定値以上であるか否かを判断する。アクセル開度が所定値以上のときはステップS160に進み、アクセル開度が所定値に満たないときは、ステップS10に戻る。
【0117】
(ステップS160) 車両挙動制御部120においてエンジン出力を絞る制御を行って、実際に踏み込まれたアクセル開度に対応するエンジン出力を出さないようにする。その後、ステップS10に戻る。
【0118】
次に、固着点忘却判断処理の内容について、図12を用いて説明する。
【0119】
(ステップS112) 車速条件による忘却判断部92において、端点検出部40で検出された端点mまたは端点mが、距離算出部75において、固着点Qの近傍にあると判断されたときに、車両1の車速に基づいて中心線観測回数カウンタCvを設定して、中心線観測回数カウンタCvと忘却判断カウンタCnを計数する。そして、忘却判断カウンタCnが所定値に達したら、固着点Qを忘却する。
【0120】
(ステップS113) 端点位置による忘却判断部94において、端点検出部40で検出された端点mまたは端点mが、距離算出部75において、固着点Qの近傍にあると判断されたときに、固着点Qの位置に基づいて中心線観測回数カウンタCpを設定して、中心線観測回数カウンタCpと忘却判断カウンタCnを計数する。そして、忘却判断カウンタCnが所定値に達したら、固着点Qを忘却する。
【0121】
(ステップS114) 中心線方向による忘却判断部96において、端点検出部40で検出された端点m,端点m、または中心線Mが、距離算出部75において、固着点Qの近傍にあると判断されたときに、中心線Mの方向に基づいて中心線観測回数カウンタCsを設定して、中心線観測回数カウンタCsと忘却判断カウンタCnを計数する。そして、忘却判断カウンタCnが所定値に達したら、固着点Qを忘却する。
【0122】
(ステップS115) 垂線長による忘却判断部98において、端点検出部40で検出された端点m,端点m、または中心線Mが、距離算出部75において、固着点Qの近傍にあると判断されたときに、中心線Mと固着点Qの距離に基づいて中心線観測回数カウンタCdを設定して、中心線観測回数カウンタCdと忘却判断カウンタCnを計数する。そして、忘却判断カウンタCnが所定値に達したら、固着点Qを忘却する。
【0123】
(ステップS116) ステップS112からステップS115において、端点検出部40で検出された端点m,端点m、または中心線Mが、距離算出部75において、固着点Qの近傍にあると判断されたときには、駐車枠検出部100で駐車枠の検出を行う際に、端点m,端点m、または中心線Mを有する白線候補領域の寄与度を引き下げる。
【0124】
このとき、距離算出部75は、固着点Qが画像Iの中で車両1の直近を隠蔽する位置にあるときには、端点検出部40で検出された端点m,または端点mが固着点Qまで、所定時間に亘って所定範囲内にあることを検出して、固着点Qが画像Iの中で車両1から遠方を隠蔽する位置にあるときには、端点検出部40で検出された端点m,端点m、または中心線Mが固着点Qまで、所定時間に亘って所定範囲内にあることを検出して白線候補領域の寄与度を引き下げてもよい。なお、前記所定時間または所定範囲は、前記所定距離によって値を切り替えるか、または前記所定距離に応じて連続的に値を変化させるようにしてもよい。そして、寄与度が引き下げられたことは、端点リスト82の有効フラグ(図9第1列)を0にすることによって記憶しておく。
【0125】
(ステップS117) 端点リスト82の内容、すなわち、端点の有効性、中心線観測回数カウンタCv,Cp,Cs,Cdの値、検出または予測された端点の位置、車両1の移動量は随時更新される。
【0126】
(ステップS118) 固着点リスト84の内容、すなわち、固着点Qの有効性、最も近接している中心線Mまでの距離、固着点Qの位置、中心線観測回数カウンタCv,Cp,Cs,Cdの値、忘却判断カウンタCnの値は随時更新される。その後、ステップS120(図11参照)に進む。
【0127】
以上説明したように、このように構成された本発明の車載画像処理装置5によれば、車両1に設置された撮像部10が、車両1の周囲の、少なくとも路面を含む画像Iを撮像して、白線候補領域検出部30が、撮像された画像Iの中から駐車枠を構成する可能性がある白線候補領域を検出して、端点位置検出部40が、こうして検出された白線候補領域の中から、所定の方向に近接する第1の点と第2の点の中点同士を連結した中心線Mの両端点の位置、複数の第1の点からなる線素の両端点の位置、または複数の第2の点からなる線素の両端点の位置を、白線候補領域の端点として検出して、端点移動位置予測部60が、車両挙動計測部50で計測された車両1の挙動に基づいて、画像Iの中で、端点位置検出部40で検出された端点の位置が移動すると予測される位置を算出して、端点移動量判断部70が、端点移動位置予測部60で予測された端点の位置と、端点移動位置予測部60で予測した時刻において、実際に端点位置検出部40で検出された端点の位置の差を求めて、この差が所定の値よりも大きいときに、その端点の移動前の位置を端点位置記憶部80に記憶して、駐車枠検出部100が、距離算出部75によって、白線候補領域のうち、その白線候補領域、もしはその端点が、端点位置記憶部80に記憶された端点の位置から所定距離以内にあると判断されたときには、その白線候補領域の寄与度を引き下げて駐車枠を検出するため、撮像部10に汚れが付着して白線候補領域に途切れが生じた場合であっても、路面に描かれた駐車枠の位置を安定して確実に検出することができる。
【0128】
また、本発明の車載画像処理装置5によれば、車両挙動計測部50で計測された車両1の車速が高いときほど、端点移動位置予測部60において、白線候補領域の中心線Mの端点位置が移動する位置を予測する際の時間間隔Δtをより短く設定するため、車速が高いときであっても、白線候補領域の端点の位置を正確に検出することができるため、固着点Qが発生したか否かの判定をより確実に行うことができる。
【0129】
また、本発明の車載画像処理装置5によれば、所定の時間間隔Δtの間に車両1が所定距離移動したときは、端点移動位置予測部60において、車両1が所定距離移動した時点の端点の位置を予測するため、車両1が短時間で大きく向きを変えたときであっても、白線候補領域の端点の位置を正確に検出することができるため、固着点Qが発生したか否かの判定をより確実に行うことができる。
【0130】
また、本発明の車載画像処理装置5によれば、距離算出部75によって、端点位置記憶部80に記憶された端点(固着点Q)の位置と、端点位置検出部40で検出された端点mまたはmの位置との距離、または中心線Mとの距離が所定値以内であると判断されたときに、端点位置忘却判断部90が、その状態が所定時間時間に亘って連続するか否かを判断して、所定時間時間に亘って連続したときに、端点位置記憶部80に記憶された固着点Qをクリアするため、時間の経過とともに固着点Qが増加して、駐車枠の構成要素として本来必要な白線候補領域までもが削除されてしまい、これによって駐車枠が検出できなくなることを防止できる。
【0131】
また、本発明の車載画像処理装置5によれば、端点位置忘却判断部90が、車両1の車速が所定の車速範囲の中にあって、なおかつ、車速が高い状態にあるときほど、固着点Qの位置を短時間でクリアするため、車速が高いときは、白線候補領域が固着点Qの近傍を通過したことを確認したときに、固着点Qを忘却しやすくなる。
【0132】
また、本発明の車載画像処理装置5によれば、端点位置忘却判断部90が、固着点Qが画像Iの中央に近い位置にあるときほど、その端点の位置を短時間でクリアするため、頻繁に中心線Mが出現する画像Iの中央付近では、固着点Qを忘却しやすくすることができる。
【0133】
また、本発明の車載画像処理装置5によれば、端点位置忘却判断部90が、固着点Qと端点位置検出部40で検出された端点との距離が近いときほど、固着点Qの位置を短時間でクリアするため、既に汚れが消失している可能性が高いときに、固着点Qを忘却しやすくすることができる。
【0134】
また、本発明の車載画像処理装置5によれば、端点位置忘却判断部90が、白線候補領域の延びる方向が画像Iの水平方向に近いときほど、固着点Qの位置を短時間でクリアするため、中心線Mが固着点Qの上を通過する確率が高くなるときに、固着点Qを忘却しやすくすることができる。
【0135】
また、本発明の車載画像処理装置5によれば、距離算出部75で算出された、端点位置記憶部80に記憶された端点(固着点Q)と端点位置検出部40で検出された端点との距離が所定値よりも小さいときには、駐車枠検出部100において駐車枠の検出を行う際に、端点位置検出部40で検出された端点を有する白線候補領域を含む駐車枠を検出する際に、駐車枠を検出する枠の長さの許容範囲を狭くするため、不確実な白線候補領域に影響されることなく、駐車枠を安定して検出することができる。
【0136】
なお、実施例1では、白線候補領域の中心線Mを検出して駐車枠の検出を行ったが、この方法に限定されるものではなく、白線候補領域を検出する際に見つけた+エッジで構成される線素、または−エッジで構成される線素を用いて処理を行っても、同様の効果を得ることができる。
【0137】
その場合は、端点検出部40で、+エッジで構成される線素の端点、または−エッジで構成される線素の端点が検出される構成となる。そして、駐車枠の検出は、所定の間隔だけ離隔した+エッジで構成される線素と−エッジで構成される線素のペアを探すことによって行われる。
【0138】
また、実施例1では、白線候補領域の端点、または中心線Mが固着点Qの近傍にあったときには、駐車枠を検出する際に、その白線候補領域も寄与度を引き下げたが、これは、駐車枠を検出する際に、その白線候補領域を利用しないようにしても同様の効果が得られる。
【実施例2】
【0139】
次に、本発明の第2の実施例である実施例2について説明する。実施例2は、撮像部10で撮像した画像の中で、車両から所定の距離よりも近い領域の内部は、撮像された画像を、車両を真上から見た俯瞰画像に座標変換して、この俯瞰画像を処理して駐車枠を検出し、所定の距離よりも遠い領域の内部は、撮像部10で撮像した画像を俯瞰画像に変換せずに、そのまま画像処理を行って駐車枠を検出するものである。
【0140】
また、車両1がワイパを使用しているときには、予測端点位置を算出する際の時間間隔Δtを、ワイパ非使用時に対して、より短い時間間隔に設定するものである。
【0141】
まず、図1図13を用いて、実施例2の構成を説明する。実施例2に示す車載画像処理装置6は、車両1に実装されて、図1に示すように、車両1から異なる4方向の画像を撮像するために設けられた前方カメラ10A,左方カメラ10B,右方カメラ10C,後方カメラ10Dを有している。
【0142】
図13は、車載画像処理装置6の全体構成を示すブロック図である。本車載画像処理装置6は、実施例1の構成に加えて、撮像部10で撮像した画像を、撮像部10から路面までの距離に基づいて、近接領域と遠方領域とに弁別する領域弁別部25と、車両1がワイパを使用していることを示すワイパ信号を検出するワイパ信号検出部130と、を有する。
【0143】
以下、実施例2の作用について、実施例1と差異がある点を中心に説明する。なお、実施例1の作用と重複する部分については説明を省略する。
【0144】
<処理対象画像の使い分けの説明>
図14を用いて、駐車枠を検出する画像の使い分けについて説明する。
【0145】
実施例2では、図14に示すように、撮像部10で撮像した画像Iのうち、撮像部10から路面までの距離が所定距離dth未満である近距離領域Rに対しては、実施例1と同様に、車両1を真上から見下ろしたように座標変換した俯瞰画像を処理することによって駐車枠の検出を行い、撮像部10から路面までの距離が所定距離dth以上である遠距離領域Rに対しては、撮像部10で撮像した画像を座標変換せずに処理することによって駐車枠の検出を行う。
【0146】
この近距離領域Rは、図14に示すように、撮像部10を構成する前方カメラ10Aで撮像された画像Iの中で、前方カメラ10Aから路面までの距離が所定距離dth未満である近距離領域I1Nと、左方カメラ10Bで撮像された画像Iの中で、左方カメラ10Bから路面までの距離が所定距離dth未満である近距離領域I2Nと、右方カメラ10Cで撮像された画像Iの中で、右方カメラ10Cから路面までの距離が所定距離dth未満である近距離領域I3Nと、後方カメラ10Dで撮像された画像Iの中で、後方カメラ10Dから路面までの距離が所定距離dth未満である近距離領域I4Nと、から構成される。
【0147】
画像Iの中の、近距離領域Rと遠距離領域Rの境界線の位置は、画像Iの撮像範囲に関する情報と、所定距離dthの値を用いて、予め計算で求めておくことができるため、実施例1と同様に4台のカメラで撮像された画像を、それぞれ画像変換、合成部20で俯瞰画像に座標変換、合成して画像Iを生成した後、近距離領域Rの内部のみに対して、実施例1で説明した白線候補領域の検出、端点位置の検出、予測端点位置の算出、端点移動量判断、端点位置記憶のそれぞれの処理を順次実行する。そして、固着点Qを検出して、固着点Qの近傍に端点を有する白線候補領域は駐車枠の検出に利用しないとともに、固着点Qの忘却判断を行う。この部分の処理の流れと処理の内容は実施例1で説明した通りである。
【0148】
一方、撮像部10からの距離が所定距離dth以上の遠距離領域Rに対しては、撮像部10で撮像した画像を座標変換して俯瞰画像に変換せずに、そのまま画像処理を行って駐車枠を検出する。
【0149】
この画像処理は、俯瞰画像に対して行ったのと同じ手順で行えばよいが、駐車枠は遠方ほど小さく映るため、白線候補領域の検出を行うときには、+エッジと−エッジの間隔wのしきい値を、遠方、すなわち、画像の上部ほど小さく設定する。
【0150】
なお、路面以外の領域に対して白線候補領域を探す必要はないため、撮像された画像の中から、予め、路面が映っていると考えられる領域を抽出しておくのが望ましい。
【0151】
さらに、撮像部で撮像されたままの画像では、俯瞰画像に変換したときに比べて、車両1が移動したときの端点の移動量が非常に小さくなるため、予測端点位置を算出するタイミングを、俯瞰画像を処理する際に設定した時間間隔Δtよりも長い時間に設定する。これによって、白線候補領域の端点の位置を正確に検出することができるため、固着点Qが発生したか否かの判定をより確実に行うことができる。
【0152】
固着点Qが検出された後は、俯瞰画像を処理したときと同様に、その固着点Qの近傍に白線候補領域の端点が検出されたときには、その白線候補領域は、駐車枠の検出時に、寄与度を下げて利用する。
【0153】
さらに、実施例1と同様に、固着点Qの忘却判断を行う。
【0154】
<ワイパ動作に基づいた予測時間間隔の設定法の説明>
車両1がワイパを使用しているときは、降雨状態であると考えられる。そして、降雨状態であるときには、撮像部を構成するカメラのレンズに水滴が付着する可能性が高い。水滴は泥汚れと同様に、レンズの表面に付着すると、その付着した領域において駐車枠の像に乱れが生じたり、駐車枠が見えなくなったりして、画像処理によってその位置を認識できなくなる。
【0155】
しかし、水滴は、泥汚れとは異なって流動性が高いため、短時間でレンズを伝わって落下したり、車両1が走行することによって生じる風圧によって吹き飛ばされたりする可能性が高い。すなわち、水滴によって一時的に駐車枠が認識できなくなっても、短時間で、認識できる状態に復帰する可能性がある。
【0156】
そのため、車両1がワイパを動かしているときは、予測端点位置の算出を、ワイパを動かしていないときよりも短い時間間隔で行うようにする。
【0157】
これによって、固着点Qの忘却判断を短時間で行うことができるため、水滴の付着がなくなったときに、水滴の位置に観測された白線候補領域を、迅速に駐車枠の検出に利用することができる。
【0158】
<実施例2の作用の説明>
次に、実施例2に係る車載画像処理装置6の一連の動作の流れについて、図15のフローチャートを用いて説明する。
【0159】
(ステップS200) 図13に図示しない車速センサの出力に基づいて、車両1の車速を検出する。そして、検出した車速が0でなく、かつ、予め設定された所定の車速以下であるか否かを判断する。検出した車速が0でなく、かつ、予め設定された所定の車速以下であると判断されたときはステップS210に進み、それ以外のときは図15の処理を終了する。
【0160】
(ステップS210) 撮像部10によって、車両1の周囲を撮像する。
【0161】
(ステップS220) 画像変換、合成部20(画像変換部)において、撮像部10で撮像された画像が俯瞰図に変換され、さらに、図4(a)に示すような1枚の画像Iに合成される。そして、領域弁別部25において、こうして生成された画像Iの中から、近距離領域I1N,I2N,I3N,I4N図14参照)のみで構成された画像を生成する。
【0162】
(ステップS230) 領域弁別部25において、撮像部10で撮像された画像の中から、遠距離領域I1F,I2F,I3F,I4F図14参照)のみで構成された画像を生成する。なお、遠距離領域I1F,I2F,I3F,I4Fの画像は、撮像部10で撮像された画像を俯瞰図に変換せずに、なおかつ、近距離領域I1N,I2N,I3N,I4Nに相当する領域を除いた画像である。
【0163】
(ステップS240) 白線候補領域検出部30,端点位置検出部40において、近距離領域I1N,I2N,I3N,I4Nの画像と、遠距離領域I1F,I2F,I3F,I4Fの画像の中から、駐車枠を構成すると考えられる白線候補領域を検出して、さらに、検出された白線候補領域の中から、その中心線を検出して、その中心線の両端の端点位置を検出する。この一連の処理の流れは、実施例1で説明した通りである。なお、遠距離領域I1F,I2F,I3F,I4Fの画像については、遠方ほど+エッジと−エッジの間隔wのしきい値を小さく設定して白線候補領域の検出を行う。
【0164】
(ステップS250) ワイパ信号検出部130において、車両1のワイパが動作しているか否かを判断する。ワイパが動作しているときはステップS260に進み、ワイパが動作していないときは、ステップS270に進む。
【0165】
(ステップS260) 予測端点位置を算出する時間間隔をΔt=Δtに設定する。
【0166】
(ステップS270) 予測端点位置を算出する時間間隔をΔt=Δtに設定する。なお、ΔtはΔtよりも短い時間間隔である。
【0167】
(ステップS280) 端点移動位置予測部60において、近距離領域I1N,I2N,I3N,I4Nの画像は、時間間隔Δtで予測端点位置を算出して、遠距離領域I1F,I2F,I3F,I4Fの画像は、時間間隔Δt+Δtで予測端点位置を算出する。
【0168】
(ステップS290) 端点位置検出部40において、ステップS280で予測した時刻における実端点位置を検出する。
【0169】
(ステップS300) 端点移動量判断部70において、予測端点位置と実端点位置との位置の差異を算出する。そして、算出された位置の差異が所定値以上のときはステップS310に進み、それ以外のときはステップS330に進む。
【0170】
(ステップS310) ステップS300で評価した端点の移動前の位置を、新たに固着点リスト84に登録して、固着点リスト84を更新する。また、ステップS240,ステップS290で検出された端点位置に基づいて端点リスト82を更新する。
【0171】
(ステップS320) 端点位置忘却判断部90において、固着点Qの忘却判断を行う。この処理は、図12で説明した通りである。
【0172】
(ステップS330) 全ての固着点に対して固着点Qの忘却判断を行ったか否かを判断する。条件を満足したときはステップS340に進み、それ以外のときはステップS300に戻る。
【0173】
(ステップS340) 近距離領域I1N,I2N,I3N,I4Nの画像から検出した端点リストと、遠距離領域I1F,I2F,I3F,I4Fの画像から検出した端点リストをマージして、同じ中心線を表す情報は1つにまとめる。なお、近距離領域I1N,I2N,I3N,I4Nと遠距離領域I1F,I2F,I3F,I4Fの境界位置は予めわかっているため、この境界位置において近接している端点同士は、同じ中心線を表すものと判断する。
【0174】
(ステップS350) 駐車枠検出部100において、画像Iの中から駐車枠を検出する。詳しい処理内容は、前述したため省略する。
【0175】
(ステップS360) ステップS350を行った結果、駐車枠が見つかったか否かを判断する。駐車枠が見つかったときはステップS370に進み、駐車枠が見つからなかったときは、ステップS200に戻る。
【0176】
(ステップS370) 情報出力部85によって、駐車場ではアクセル操作とブレーキ操作を間違えないように注意する旨の情報を、画面表示もしくは音声ガイドによって出力し、運転者の注意喚起を行う。
【0177】
(ステップS380) アクセル開度検出部110において、アクセル開度が所定値以上であるか否かを判断する。アクセル開度が所定値以上のときはステップS390に進み、アクセル開度が所定値に満たないときは、ステップS200に戻る。
【0178】
(ステップS390) 車両挙動制御部120においてエンジン出力を絞る制御を行って、実際に踏み込まれたアクセル開度に対応するエンジン出力を出さないようにする。その後、ステップS200に戻る。
【0179】
なお、実施例2は、車両1がワイパを使用していることを検出して所定時間Δtを短く変更する構成としたが、この実施例に限るものではない。すなわち、粘着性のある汚れの付着を予測する付着物判定部を用いて、粘着性のある汚れの付着が予測されるときには、所定時間Δtを長く設定することによって、汚れの付着を確実に認識することもできる。
【0180】
そして、付着物判定部の構成方法には、ワイパ信号検出部130のみならず、様々な方法が考えられ、そのいずれを使用してもよい。
【0181】
すなわち、雨滴に代表される水分の付着を予測するには、フロントウインドウに付着した雨滴を検出する雨滴センサを用いてもよいし、ミューセンサを用いて路面の摩擦を測定し、ミューが低いことを検出してもよい。また、路面を観測するカメラや光センサを用いて、路面反射を検出し、路面反射が高いことを検出してもよい。
【0182】
一方、泥汚れに代表される粘着性のある汚れの付着を予測するには、カメラで路面を観測してオフロードであることを検出してもよいし、また、ABS(アンチロックブレーキシステム),VDC(横滑り防止装置),TCS(トラクションコントロールシステム)等の車両走行制御装置の出力を用いて判断することもできる。
【0183】
以上説明したように、このように構成された本発明の車載画像処理装置6によれば、画像の中で、撮像部10からの距離が所定距離以上の領域においては、撮像部10からの距離が所定距離未満の領域に対して、所定の時間間隔Δtをより長くするため、白線候補領域の端点の位置を正確に検出することができるため、固着点Qが発生したか否かの判定をより確実に行うことができる。
【0184】
また、本発明の車載画像処理装置6によれば、撮像部100に付着物が付着する可能性を判定するワイパ信号検出部130(付着物判定部)を有し、車両1がワイパを使用していると判断されたとき、すなわち、付着物が付着する可能性が高いと判断されたときには、所定の時間間隔Δtをより短く設定するため、固着点Qの忘却判断を短時間で行うことができるため、水滴の付着がなくなったときに、水滴の位置に観測された白線候補領域を、迅速に駐車枠の検出に利用することができる。
【0185】
また、本発明の車載画像処理装置6によれば、撮像部で撮像した画像を、車両1の真上から見下ろした俯瞰画像に変換する画像変換、合成部20(画像変換部)を有し、撮像部10からの距離が所定距離以内である領域は、画像変換、合成部20で変換された俯瞰画像を用いて駐車枠の検出を行い、撮像部10からの距離が所定距離以上である領域は、撮像部10で撮像した画像を画像変換、合成部20で変換せずに駐車枠の検出を行うため、撮像部10からの距離によらずに白線候補領域の端点の位置を正確に検出することができるため、固着点Qが発生したか否かの判定をより確実に行うことができる。
【0186】
以上、本発明の実施例を図面により詳述したが、実施例は本発明の例示にしか過ぎないものであるため、本発明は実施例の構成にのみ限定されるものではなく、本発明の要旨を逸脱しない範囲の設計の変更等があっても、本発明に含まれることは勿論である。
【符号の説明】
【0187】
5 車載画像処理装置
10 撮像部
10A 前方カメラ
10B 左方カメラ
10C 右方カメラ
10D 後方カメラ
20 画像変換、合成部
30 白線候補領域検出部
32 エッジペア検出部
34 中心線検出部
40 端点位置検出部
50 車両挙動計測部
60 端点移動位置予測部
70 端点移動量判断部
75 距離算出部
80 端点位置記憶部
82 端点リスト
84 固着点リスト
85 情報出力部
90 端点位置忘却判断部
100 駐車枠検出部
110 アクセル開度検出部
120 車両挙動制御部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15