特許第6194245号(P6194245)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 富士重工業株式会社の特許一覧

<>
  • 特許6194245-信号機認識装置 図000002
  • 特許6194245-信号機認識装置 図000003
  • 特許6194245-信号機認識装置 図000004
  • 特許6194245-信号機認識装置 図000005
  • 特許6194245-信号機認識装置 図000006
  • 特許6194245-信号機認識装置 図000007
  • 特許6194245-信号機認識装置 図000008
  • 特許6194245-信号機認識装置 図000009
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6194245
(24)【登録日】2017年8月18日
(45)【発行日】2017年9月6日
(54)【発明の名称】信号機認識装置
(51)【国際特許分類】
   G08G 1/16 20060101AFI20170828BHJP
   G08G 1/09 20060101ALI20170828BHJP
【FI】
   G08G1/16 C
   G08G1/16 D
   G08G1/09
【請求項の数】4
【全頁数】10
(21)【出願番号】特願2013-271586(P2013-271586)
(22)【出願日】2013年12月27日
(65)【公開番号】特開2015-125708(P2015-125708A)
(43)【公開日】2015年7月6日
【審査請求日】2016年9月26日
(73)【特許権者】
【識別番号】000005348
【氏名又は名称】株式会社SUBARU
(74)【代理人】
【識別番号】100076233
【弁理士】
【氏名又は名称】伊藤 進
(74)【代理人】
【識別番号】100101661
【弁理士】
【氏名又は名称】長谷川 靖
(74)【代理人】
【識別番号】100135932
【弁理士】
【氏名又は名称】篠浦 治
(72)【発明者】
【氏名】中川 亮
【審査官】 白石 剛史
(56)【参考文献】
【文献】 国際公開第2008/038370(WO,A1)
【文献】 特開2010−009235(JP,A)
【文献】 特開2013−177098(JP,A)
【文献】 特開2008−293277(JP,A)
【文献】 特開2007−257299(JP,A)
【文献】 米国特許出願公開第2015/0105989(US,A1)
【文献】 米国特許出願公開第2012/0166083(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G08G 1/16
G08G 1/09
(57)【特許請求の範囲】
【請求項1】
自車両前方の走行環境を撮影する車載カメラと、
前記車載カメラで撮影した画像から主信号機、及び該主信号機よりも手前にあり該主信号機と同じ動作をする補助信号機を認識する信号機認識手段と、
認識した前記補助信号機の情報を格納する記憶手段と
を備え、
前記信号機認識手段は、
前記車載カメラで撮影した画像から撮像面上の前記補助信号機の設置位置を求め、該設置位置から画角外れとなる距離を算出する画角外れ距離算出手段と、
前記自車両と前記補助信号機との間の距離が前記画角外れとなる距離に達したか否かを判定する画角外れ判定手段と、
前記画角外れ判定手段で前記自車両と前記補助信号機との間の距離が前記画角外れとなる距離に達した後に画角外れと判定した場合、前記画角外れとなる距離を基準に前記自車両の移動距離に基づいて自車両と前記補助信号機との間の距離を推定すると共に、前記主信号機の動作を該補助信号機の動作として設定する画角外れ信号機推定手段と
を備えることを特徴とする信号機認識装置。
【請求項2】
前記画角外れ判定手段は、前記自車両と前記補助信号機との間の距離が前記画角外れとなる距離に達したと判定した後、所定時間経過後に前記画角外れと判定する
ことを特徴とする請求項1記載の信号機認識装置。
【請求項3】
前記信号機認識手段は、前記画角外れ信号機推定手段で設定した前記自車両と前記補助信号機との間の距離情報、及び前記補助信号機の動作情報を、前記記憶手段に設定されている追跡対象信号機記憶部から画角外れ信号機記憶部へ移動させる記憶情報移動手段
を更に備えることを特徴とする請求項1或いは2記載の信号機認識装置。
【請求項4】
前記信号機認識手段は、前記画角外れ信号機記憶部に格納されている前記距離情報が0以下となったか否かを判定し、0以下となったとき前記距離情報及び前記動作情報をクリアする補助信号機情報クリア手段
を更に備えることを特徴とする請求項記載の信号機認識装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車載カメラで撮影した画像に基づき主信号機、及びこの主信号機の手前に設置されている補助信号機を認識し、この補助信号機が車載カメラの画角から外れた場合であっても補助信号機の情報を推定するようにした信号機認識装置に関する。
【背景技術】
【0002】
近年、自動車等の車両では、車載カメラ等により自車両前方の走行環境を撮影し、撮影した画像から先行車や信号機等の物体を認識すると共に、信号機であれば、その点灯している信号の灯火色を認識し、必要な注意警報・自動ブレーキの作動等の運転支援制御を行う技術が知られている。
【0003】
交差点に設置されている信号機を認識する技術として、例えば特許文献1(特許第4852905号公報)には、車載カメラから信号機までの直線距離と仰角とに応じて、信号機に対応するテンプレートを1画素ずつずらしながらテンプレートマッチングを行って、テンプレートとの相関を計算し、この相関が最も高い値となった画像上の位置に信号機があると認識する技術が開示されている。
【0004】
この文献に開示されている技術によれば、車載カメラから信号機までの距離が近くなるほど、撮像面に撮像される信号機の画素数が多くなるため、対応するテンプレートも大きくなるので、遠方よりも高い精度で信号機を認識することができる。
【0005】
ところで、最近では、交差点において、走行車線前方の信号機(以下、「主信号機」と称する)に加え、対向車線側に設置されている対向車線用信号機の背面に、主信号機を補助するための信号機(以下、「補助信号機」と称する)を設置しているものも増えている。
【0006】
この補助信号機は、自車両前方を走行する大型車両によって主信号機に対する視界が遮られても、補助信号機を認識することで安全に交差点を通過できるように配慮したものであり、当然、各信号灯は主信号機と同じタイミングで各信号灯が点灯或いは点滅する。この補助信号機は主信号機よりも自車両に対して近い位置にあり、従って、差点手前では、主信号機よりも高い精度で補助信号機を認識することができる。従って、この補助信号機を追跡対象とすることで高精度な運転支援を行うことが可能となる。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特許第4852905号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかし、補助信号灯は、対向車線用信号機の背面に取付けられているため、自車両が交差点に近づくと、主信号機よりも早期に画角から外れてしまう。通常走行において、前方の固定物が一時的なロストではなく、画角から外れた場合、再度認識されることはないので、車載カメラで撮影した画像に基づいて認識した固定物の情報はクリアされる。従って、補助信号機も画角から外れた場合、その情報はクリアされる。
【0009】
補助信号機が画角から外れた場合、運転支援制御では自車進行路上の次に最も近い位置にある信号機、すなわち主信号機を追跡対象信号機として認識し、この主信号機に基づいて制御を継続させる。しかし、主信号機は交差点を挟んで遠方にあり、例えば、信号機を基準に交差点を判定する運転支援制御では、交差点手前において、補助信号機を基準に交差点を判定し、自動ブレーキ制御等の運転支援を行っている際に、補助信号機が画角から外れたため、追跡対象が遠方の主信号機に切り替わると、交差点の位置判定に若干のずれが生じて制御ハンチングが発生し易くなり、制御性が悪化する不具合がある。
【0010】
この対策として、当初から補助信号機を追跡対象から排除し、主信号機を追跡対象とすることも考えられるが、制御精度が低下してしまう不都合がある。
【0011】
本発明は、上記事情に鑑み、補助信号機が画角から外れとなった後の追跡対象が主信号機に切り替わる迄の間の過度状態において、運転支援制御等における制御ハンチングを防止し、良好な制御性を得ることのできる信号機認識装置を提供することを目的とする。
【課題を解決するための手段】
【0012】
本発明による信号機認識装置は、自車両前方の走行環境を撮影する車載カメラと、前記車載カメラで撮影した画像から主信号機、及び該主信号機よりも手前にあり該主信号機と同じ動作をする補助信号機を認識する信号機認識手段と、認識した前記補助信号機の情報を格納する記憶手段とを備え、前記信号機認識手段は、前記車載カメラで撮影した画像から撮像面上の前記補助信号機の設置位置を求め、該設置位置から画角外れとなる距離を算出する画角外れ距離算出手段と、前記自車両と前記補助信号機との間の距離が前記画角外れとなる距離に達したか否かを判定する画角外れ判定手段と、前記画角外れ判定手段で前記自車両と前記補助信号機との間の距離が前記画角外れとなる距離に達した後に画角外れと判定した場合、前記画角外れとなる距離を基準に前記自車両の移動距離に基づいて自車両と前記補助信号機との間の距離を推定すると共に、前記主信号機の動作を該補助信号機の動作として設定する画角外れ信号機推定手段とを備える。
【発明の効果】
【0013】
本発明によれば、車載カメラで撮影した補助信号機が撮像面から画角外れとなったときでも、この補助信号機の情報をクリアせず、継続的に推定させるようにしたので、補助信号機が画角から外れとなった後の追跡対象が主信号機に切り替わる迄の間の過度状態において、運転支援制御等における制御ハンチングが防止され、良好な制御性を得ることができる。
【図面の簡単な説明】
【0014】
図1】信号機認識装置の概略構成図
図2】信号機認識処理ルーチンを示すフローチャート
図3】画角外れ信号機推定処理ルーチンを示すフローチャート
図4】画角外れ距離の算出方法を示す説明図
図5】追跡対象信号機を補助信号機から主信号機へ切換えるタイミングを示すタイムチャート
図6】自車両が補助信号機と主信号機とを設置している交差点の手前を走行している状態の説明図
図7】画角外れ距離と補助信号機間距離との関係、及び画角外れとなった状態の説明図
図8】(a)は上画角外れの状態を示す画像の説明図、(b)は横画角外れの状態を示す画像の説明図
【発明を実施するための形態】
【0015】
以下、図面に基づいて本発明の一実施形態を説明する。図1の符号1は自動車等の車両(自車両)であり、この車両の車室内の前部であってフロントガラスの上部に車載カメラ2が臨まされている。この車載カメラ2は、メインカメラ2aとサブカメラ2bとからなるステレオカメラである。この各カメラ2a,2bには、CCD,CMOS等の撮像素子(イメージセンサ)が内蔵されており、例えば、車幅方向中央に配設されているルームミラを挟んで左右の対称な位置に配設されている。尚、以下においては、特に断りのない限り、車載カメラ2と記載した場合は、便宜的にメインカメラ2aとサブカメラ2bとの双方を示すものとする。
【0016】
又、この車載カメラ2は自車進行路の走行環境をカラー画像で撮影するカラーカメラであり、各撮像素子の画素データは、R,G,B毎に8ビット(0〜255階調)の輝度値に設定されている。尚、輝度値は8ビットに限定されるものではない。
【0017】
メインカメラ2aは、ステレオ処理を行う際に必要な基準画像(右画像)を撮影し、サブカメラ2bは、この処理における比較画像(左画像)を撮影する。互いに同期している状態において、両カメラ2a,2bから出力される、R,G,Bの各アナログ画像が、A/Dコンバータ3により所定階調のデジタル画像に変換される。そして、デジタル変換された画像は、画像認識ユニット11に出力される。
【0018】
画像認識ユニット11は、マイクロコンピュータを主体に構成され、周知のCPU、ROM、RAM等を有しており、CPUで処理される信号機認識機能として、画像認識処理手段としての画像認識処理部12、カメラ制御部13、信号機認識手段としての信号機認識部14を有し、更に、この画像認識ユニット11は記憶手段としての記憶部15を備えている。この記憶部15には、追跡対象信号機情報を記憶する記憶領域(追跡対象信号機記憶部)と画角外れ信号機情報を記憶する領域(画角外れ信号機記憶部)とが設定されている。
【0019】
画像認識処理部12は、車載カメラ2で撮影した画像データに基づき、自車両前方の立体物を認識すると共に平均輝度値を算出する。すなわち、車載カメラ2で撮影した画像データには、立体物として、信号機、先行車、道路標識、白線、及び、対向車、歩行者等があり、これら各立体物を認識すると共に、これらと自車両1との距離を、メインカメラ2aとサブカメラ2bとの視差から求める。この場合、信号機は所定高さ(約5〜6m)の位置にあるため、路上の立体物として比較的早期に認識される。尚、各立体物の識別は、周知のパターンマッチング法等を用いて行われる。又、立体物と自車両1との距離の求め方については周知であるため説明を省略する。
【0020】
信号機認識部14は、画像認識処理部12で処理した画像データに基づき、自車両1に最も近い主信号機22、及びこの主信号機22よりも手前にあり、且つ主信号機22と同じ動作をする補助信号機23を認識し、自車両1から両信号機22,23までの距離Lm,Ls、及び両信号機22,23の点灯している信号(赤、黄、青)を調べ、これら両信号機22,23の情報を記憶部15に設定されている追跡対象信号機記憶部に逐次格納する。
【0021】
ところで、主信号機22に対し、これに対をなす補助信号機23が付設されているか否かは、例えば、図6に示すように、自車両1から最も近い位置にある信号機(図においては補助信号機23)と自車両1との間の距離Lsと、その前方にある信号機(図においては主信号機22)と自車両1との距離Lmとをそれぞれ求め、両距離Lm,Lsの差分Lm−Lsが所定範囲に収まっている場合、手前の信号機は補助信号機23であると判定する。
【0022】
又、補助信号機23は、幹線道路等、比較的車線幅の広い道路の交差点21に設置されている場合が多い。この補助信号機23は対向車線側に設置されている対向車線用信号機の背面に固定されており、各信号灯は主信号機22と同じタイミングで点灯する。更に、この各信号機22,23は横断歩道24a,24bの手前に設置されている場合が多く、従って、横方向では、おおよそ対向車線側の停止線25付近に位置している。
【0023】
又、主信号機22と補助信号機23とは、少なくとも交差点21、及び両横断歩道24a,24bを挟んだ分だけ離れており、従って、車載カメラ2の撮像面に結像する信号機22,23の画素数は、主信号機22よりも補助信号機23のほうが多く、そのため、補助信号機23は主信号機22よりもより正確に認識することができる。しかし、補助信号機23は主信号機22よりも自車両1に対して必ず手前側で認識されるため、画角外れ(撮像面の撮像領域領から外れる現象)は主信号機22よりも早期に発生する。
【0024】
ここで、図4を参照して、上画角外れとなる距離(上画角外れ距離)Lzの算出方法について説明する。尚、図中のsは撮像面の上下方向の1/2サイズ、fは撮像面からの焦点距離、hは補助信号機23の撮像面の上下方向中央からの高さであり、上方の画角外れ(上画角外れ)の生じる距離Lzは、
Lz=(f・h/s)+f…(1)
から求めることができる。この場合、焦点距離fは短いため無視すれば、
Lz=f・h/s…(2)
となる。尚、図中のθは画角である。
【0025】
同様に、横方向の画角外れ(横画角外れ)の生じる距離Lyは、上式(1),(2)の高さhを撮像面の幅方向中央からの横距離(補助信号機23の外側端部までの距離)wと読み替え、画像面の上下方向の1/2サイズsを画像面の幅方向の1/2サイズsと読み替えることで、(1’),(2')式のように求めることができる。
【0026】
Ly=(f・w/s)+f…(1’)
Ly=f・w/s…(2’)
従って、メインカメラ2aの撮像面に結像された補助信号機23の画像に基づき撮像面の上下方向中央からの高さhを求めることで、上画角外れ距離Lzが求められ、撮像面の幅方向中央からの横距離wを求めることで、横画角外れ距離Lyを求めることができる。
【0027】
そして、上画角外れ距離Lzと横画角外れ距離Lyとを比較して、何れか長い方の距離、すなわち、早期に画角外れが生じる側の距離を真の画角外れ距離Lgとして設定する。
【0028】
上述した補助信号機23の高さは、画像認識処理部12で求めた自車両1から補助信号機23までの距離(補助信号機間距離)Ls(図6参照)に基づき、撮像面の1画素ピッチ当たりの実高さを求め、撮像面の上下方向中央から補助信号機23の上端までの画素数に1ピッチ当たりの実高さを掛けることで求めることができる。同様に、横距離wは、補助信号機間距離Ls(図6参照)に基づいて求めた撮像面の1画素ピッチ当たりの実横長さに、撮像面の幅方向中央から補助信号機23の外側端部までの画素数を掛けることで求めることができる。
【0029】
そして、信号機認識部14は、上述した画角外れ距離Lgに基づき、自車両1が画角外れ距離Lgに達したか否かを調べ、画角外れ距離Lgに達した後、補助信号機23に関する情報はクリアせず、継続的に推定させる。
【0030】
上述した信号機認識部14での信号機認識処理は、具体的には、図2に示す信号機認識処理ルーチンに従って実行される。このルーチンは、車載カメラ2のフレームレートに対応して起動され、先ず、ステップS1で、追跡対象信号機記憶部に記憶されている補助信号機23の情報に基づき、前回のフレーム画像で認識した補助信号機23が、今回のフレーム画像でも認識されているか否かの信号機追跡処理を行い、ステップS2へ進み、今回のフレーム画像においても補助信号機23が認識されている場合、信号機追跡が継続していると判定し、ステップS11へジャンプする。又、今回のフレーム画像からは補助信号機23が認識されていない場合、ステップS3へ進み、ステップS3,S4で一時的なロストか、画角外れかを調べる。
【0031】
先ず、ステップS3では、追跡対象信号機である補助信号機23の設置位置を特定する高さhと横距離wとに基づき、上画角外れ距離Lzと横画角外れ距離Lyとを上述した(2),(2’)式から各々求め、何れか長い方の距離を真の画角外れ距離Lgとして設定する(Lg←max(Lz,Ly))。因みに、図7は自車両1の補助信号機間距離Lsが上画角外れ距離Lzに達した状態を示し、この状態から更に進むと、図8(a)に示すように、補助信号機23が上画角外れを生じる。この状態は、Lz>Lyであるため、真の画角外れ距離Lgは上画角外れ距離Lzで設定される(Lg←Lz)。尚、このステップS3での処理が、本発明の画角外れ距離算出手段に対応している。
【0032】
そして、ステップS4へ進み、画像認識処理部12で求めた補助信号機間距離Lsと、真の画角外れ距離Lgとを比較する。そして、Ls≧Lgの場合、未だ、自車両1が画角外れ距離Lgに到達しておらず、一時的なロストと判定し、ステップS11へジャンプする。ステップS2或いはステップS4からステップS11へ進むと、画角外れポイントPiをクリアして(Pi←0)、ルーチンを抜ける。
【0033】
一方、ステップS4で、Ls<Lgと判定された場合、自車両1が画角外れ距離Lgに到達し、上画角外れ(図8(a)参照)、或いは横画角外れ(図8(b)参照)が生じているため、ステップS5へ進み、画角外れポイントPiをインクリメントし(Pi←Pi+1)、ステップS6へ進む。ステップS6では、画角外れポイントPiと予め設定されている画角外れ継続判定しきい値Poとを比較する。このる画角外れ継続判定しきい値Poは、自車両1が画角外れ距離Lgに到達した直後の過度状態における誤判定を防止するためのものであり、画角外れ継続判定しきい値Poは予め実験等から求めて設定されている。尚、本実施形態では、この画角外れ継続判定しきい値Poを所定フレーム数(例えば、フレームレート30[fps]場合、10程度)に対応する値に設定している。
【0034】
そして、Pi<Poの場合、画角外れ継続判定しきい値Poに達していないため、ルーチンを抜ける。一方、Pi≧Poの場合、補助信号機23は画角外れ状態にあると判定し、ステップS7へ進む。尚、このステップS4〜S6での処理が、本発明の画角外れ判定手段に対応している。
【0035】
又、ステップS7へ進むと、追跡対象信号機記憶部に格納されている主信号機22の情報に基づき主信号機22が認識されているか否かを調べ、主信号機22が認識されていない場合、主信号機22の点灯している信号に基づいて補助信号機23の点灯している信号を設定することができないため、そのままルーチンを抜ける。
【0036】
一方、主信号機22が認識されている場合、ステップS8へ進み、追跡対象信号機記憶部に格納されている、画角外れとなった補助信号機23の情報を、画角外れ信号機記憶部へ移動させて、ステップS9へ進む。追跡対象信号機記憶部に格納されている両信号機22,23の情報は、他の制御処理においても読込まれるため、画角外れとなった補助信号機23の情報は、追跡対象信号機記憶部ではクリアして画角外れ信号機記憶部に記憶させるようにしている。尚、このステップS8での処理が、本発明の記憶情報移動手段に対応している。
【0037】
そして、ステップS9へ進むと、後述する画角外れ信号機推定処理ルーチンで求めた補助信号機間距離Lsの推定値(推定補助信号機間距離)Ls’に基づき、自車両1が画角外れとなった補助信号機23を通過したか否かを調べ、通過していない場合(0<Ls’)、そのままルーチンを抜ける。又、通過した場合(Ls’≦0)、ステップS10へ進み、画角外れ信号機記憶部に記憶されている画角外れとなっている補助信号機23の情報をクリアして、ルーチンを抜ける。このステップS9,S10での処理が、本発明の補助信号機情報クリア手段に対応している。
【0038】
この画角外れ信号機記憶部に記憶されている画角外れとなっている補助信号機23の情報は、図3に示す画角外れ信号機推定処理ルーチンにおいて逐次更新される。尚、このフローチャートでの処理が本発明の画角外れ信号機推定手段に対応している。
【0039】
このルーチンでは、先ず、ステップS21で自車両1の移動距離に基づき推定補助信号機間距離Ls’を設定する。すなわち、自車両1の移動距離はGPSを利用した測位情報に基づいて算出し、或いは車速センサで検出した車速に基づいて算出する。そして、補助信号機23が画角外れ距離Lgに到達したときから、この画角外れ距離Lgを基準に、この画角外れ距離Lgから移動距離を減算して推定補助信号機間距離Ls’を設定し、記憶させる。
【0040】
次いで、ステップS22へ進み、主信号機22の点灯している信号の灯火色を調べ、この灯火色を補助信号機23の灯火色として記憶させ、ルーチンを抜ける。この場合、信号の灯火色は、点灯している信号灯の色を検出することで行っても良いが、信号灯の配列は予め決められているため、各信号灯の輝度を検出し、高い輝度を示す信号灯の配列位置から点灯している信号の灯火色を認識するようにしても良い。
【0041】
この画角外れ信号機記憶部に格納されている補助信号機23の推定補助信号機間距離Ls’及び点灯している信号灯色は、例えば運転支援制御システムにて読込まれ、推定補助信号機間距離Ls’に基づいて交差点までの距離を推定すると共に、点灯している信号灯色が黄色、或いは赤色の場合、必要な注意警報・自動ブレーキの作動等の運転支援制御が行われる。
【0042】
以上の結果、図5に示すように、補助信号機23が画角外れとなった後であっても(時間t1)、推定補助信号機間距離Ls’は自車両1が補助信号機23を通過するまで、すなわち、自車両1が交差点に差し掛かるまで継続的に推定され、自車両1が補助信号機23を通過すると(時間t2)、その情報がクリアされ、主信号機22が最も近い追跡対象信号機として設定される。
【0043】
このように、本実施形態によれば、追跡対象信号機である補助信号機23の画像が車載カメラ2の画角から外れた後、追跡対象が主信号機22に切り替わる間の過度状態においては、補助信号機23の情報をクリアせず、追跡対象として継続的に推定させるようにしたので、例えば、運転支援制御システムでは、交差点手前における必要な注意警報・自動ブレーキの作動等の運転支援制御が、画角外れとなった補助信号機23の情報に基づいて行うことで、制御途中で追跡対象信号機が補助信号機から主信号機に切り替わることがなく、制御ハンチングが防止され、良好な制御性を得ることができる。
【0044】
尚、本発明は、上述した実施形態に限るものではなく、主信号機と補助信号機とが交差点のない道路に設置されている場合であっても適用することができる。又、車載カメラ2はモノクロカメラであっても良い。
【符号の説明】
【0045】
1…自車両、
2…車載カメラ、
11…画像認識ユニット、
14…信号機認識部、
15…記憶部、
22…主信号機、
23…補助信号機、
Lg…画角外れ距離、
Ls…補助信号機間距離、
Ls’…推定補助信号機間距離、
Ly…横画角外れ距離、
Lz…上画角外れ距離、
Pi…ポイント、
Po…画角外れ継続判定しきい値
図1
図2
図3
図4
図5
図6
図7
図8