(58)【調査した分野】(Int.Cl.,DB名)
【図面の簡単な説明】
【0007】
【
図1】
図1は、本発明の実施形態に係わる信号機検出装置の全体構成を示すブロック図である。
【
図2】
図2は、
図1に示した同期画像生成部15の詳細な構成を示すブロック図である。
【
図3】
図3は、基準信号の位相の同期或いは非同期による相関値の違いを示し、
図3(a)は基準信号の位相が電力の位相に同期している状態を示し、
図3(b)は基準信号の位相が電力の位相と反転している状態を示す。
【
図4】
図4は、同期画素51を含む所定範囲に設定される画素群50を示す模式図であり、
図4(a)は、同期画素51に対して水平方向及び垂直方向に隣接する周辺画素52を含む画素群50を示し、
図4(b)は、垂直方向に隣接する周辺画素52の幅が水平方向に隣接する周辺画素52の幅よりも広い画素群50を示し、
図4(c)は、同期画素51の大きさに応じて周辺画素52の幅を大きくする例を示す。
【
図5】
図5は、
図1に示した信号機検出装置を用いた信号機検出方法の一例を示すフローチャートである。
【
図6】
図6(a)は、円形度から信号灯の候補を検出する場合に必要となる画素群53aの大きさを示す図であり、
図6(b)は、実施形態で検出可能な同期画素53bの数を示す図である。
【
図7】
図7(a)〜
図7(d)は、走行中の車両振動などにより同期画素の位置(51a、51b)が変化する様子を示す図である。
【
図8】
図8は、3つの画素(pix1、pix2、pix3)の間で、周期的な輝度変化が移動していく様子を示すグラフである。
【
図9】
図9は、LEDランプと白熱灯の輝度変動幅を比較するグラフであり、
図9(a)は輝度の時間変化を示し、
図9(b)はFFT解析による周波数解析結果を示す。
【発明を実施するための形態】
【0008】
図面を参照して、実施形態を説明する。図面の記載において同一部分には同一符号を付して説明を省略する。
【0009】
図1を参照して、実施形態に係わる信号機検出装置の全体構成を説明する。信号機検出装置は、車両に搭載され、車両の周囲を撮像して画像を取得する撮像部11と、撮像部11により取得された画像の中から信号機を検出する信号機検出部12とを備える。
【0010】
撮像部11は、固体撮像素子、例えばCCD又はCMOSを用いたデジタルカメラであって、画像処理が可能なデジタル画像を取得する。デジタルカメラは、画角の広い広角レンズを備える。撮像部11の撮像範囲(画角)には、車両の進行方向から左右方向に車両近傍の路肩までが含まれる。撮像部11は、所定の時間間隔で繰り返し撮像して、連続する複数の画像(フレーム)を取得する。
【0011】
信号機検出部12は、撮像部11により取得された画像(以後、「カメラ画像」という)を受信し、カメラ画像における信号機の位置を検出する。検出された信号機の位置情報は、例えば車両の自動運転を実現するためのコントローラを含む、車両に搭載された他の処理演算装置(車両CPU13)に転送される。信号機検出部12は、例えば、CPU、メモリ、及び入出力部を備えるマイクロコントローラからなり、予めインストールされたコンピュータプログラムを実行することにより、信号機検出装置が備える複数の情報処理部を構成する。信号機検出部12は、カメラ画像から信号機の位置を検出する一連の情報処理を、連続する複数のカメラ画像(フレーム)毎に繰り返し実行する。信号機検出部12は、車両にかかわる他の制御に用いるECUと兼用してもよい。
【0012】
信号機検出部12により構成される複数の情報処理部には、同期画像生成部15と、画素群設定部38と、信号機判断部18とが含まれる。信号機判断部18には、安定性判断部39と、色相判断部40とが含まれる。
【0013】
同期画像生成部15は、カメラ画像の中から、信号機に供給される電力の交流周期と同期して輝度が変化する同期画素を抽出して、抽出された同期画素からなる同期画像を生成する。例えば、同期画像生成部15は、信号機に供給される電力の位相に同期した基準信号を生成し、基準信号とカメラ画像の各画素の輝度信号とを乗算する同期検波処理を行う。これにより、電力の交流周期に同期して輝度が変化する同期画素が抽出される。
【0014】
信号機に供給される電力は、商用電源の電力を全波整流した交流電力である。商用電源から電力の供給を受けて点灯する信号灯の輝度は、全波整流した交流電力の周期(例えば、100Hz)と同じ周期で変化する。そこで、信号機に供給される電力の交流周期に同期して輝度が変化する同期画素をカメラ画像の中から抽出することにより、商用電源から電力の供給を受けて点灯する信号灯を検出することができる。具体的な処理内容は、
図2及び
図3を参照して後述する。
【0015】
画素群設定部38は、同期画素を含む所定範囲を画素群として設定する。画素群は、同期画素及び同期画素の周囲に隣接する1又は2以上の周辺画素から構成される。詳細は、
図4を参照して後述する。
【0016】
信号機判断部18は、同期画素の検出安定性及び色相に基づいて、画素群設定部38により設定された同期画素を含む画素群の位置に信号機が存在するか否かを判断する。遠方の信号機を撮像する場合、走行中の車両振動などにより計測対象(信号機)の観測位置が変動してしまう。そこで、安定性判断部39は、所定の判定期間、連続して画素群の中から同期画素が抽出されるか否かを判断する。安定性判断部39は、抽出される同期画素の位置が画素群の範囲内で変動している場合、安定して同期画素が検出されていると判断する。
【0017】
色相判断部40は、同期画素の色相が信号色の色相に類似するか否かを判断する。車両振動などにより計測対象(信号機)の観測位置が変動するため、色相判断部40は、画素群の中の各同期画素の色相を合成した色相が信号色の色相に類似するか否かを判断しても構わない。信号機判断部18は、少なくとも、所定の判定期間、連続して画素群の中から同期画素が抽出される場合、画素群の位置に信号機が存在すると判断する。なお、信号機判断部18は、所定の判定期間、連続して画素群の中から同期画素が抽出され、且つ画素群の中の各同期画素の色相を合成した色相が信号色の色相に類似する場合に、画素群の位置に信号機が存在すると判断しても構わない。
【0018】
商用電源から電力の供給を受けて点灯する電灯には、信号機が有する信号灯の他に、街灯、自動販売機、看板など、路上で点灯している他の電灯が含まれる。同期画像生成部15により抽出された同期画素には、これらの他の電灯も含まれる可能性がある。色相判断部40が同期画素と信号色との間で色相の類似性を判断することにより、安定性判断部39の判断結果から、これらの他の電灯を排除することができる。
【0019】
なお、信号機判断部18は、色相判断部40を用いず、安定性判断部39の判断結果より、同期画素の画像上の位置と輝度を用いて、信号機が存在するか否か判断する構成としても良い。車両の周囲の地図情報より画像上の信号機の位置を求め、同期画素の位置と照合することで、上記他の電灯を排除することができる。さらに、車両から信号機までの距離から画像上の輝度を想定し、想定輝度内の同期画素に信号機が存在すると判断することができる。
【0020】
信号機検出部12は、信号機が存在すると信号機判断部18が判断した画素群の位置情報を、車両CPU13に出力する。
【0021】
次に、
図2及び
図3を参照して、同期画像生成部15の詳細を説明する。
図2を参照して、同期画像生成部15の詳細な構成を説明する。同期画像生成部15は、メモリ25と、乗算部26と、ローパスフィルタ(LPF)20と、位相判断部41と、基準信号生成部17とを備える。
【0022】
メモリ25は、連続する複数のカメラ画像(フレーム)28を同時に記憶する。例えば、信号機に供給される電力の1交流周期の間に撮像される複数のカメラ画像28を同時に記憶する。乗算部26は、メモリ25から読み出したカメラ画像の各画素の輝度信号と基準信号とを乗算する。乗算部26は、メモリ25に同時に記憶されている複数のカメラ画像の各々について、上記した乗算処理を実施する。
【0023】
LPF20は、乗算部26による乗算結果のうち、所定の遮断周波数よりも高い周波数成分を低減させて低周波数成分のみを取り出して、同期画素からなる同期画像を出力する。位相判断部41は、LPF20から出力された同期画素の輝度が所定基準値以上であるか否かを判断する。輝度が所定基準値以上でなければ、位相判断部41は、基準信号生成部17に対して、基準信号の位相を調整することを指示する。輝度が所定基準値以上であれば、基準信号の位相は、信号機に供給される電力の位相に整合していると判断することができる。よって、位相調整の必要はなく、同期画像生成部15は、LPF20から出力された同期画像を
図1の画素群設定部38へ出力する。
【0024】
基準信号生成部17は、位相判断部41の判断結果に基づいて基準信号の位相を調整する。乗算部26は、位相を調整した後の基準信号と輝度信号とを乗算する。このように、同期画像生成部15は、輝度が所定基準値以上になるまで、繰り返し位相を調整するPLL処理を実施する。
【0025】
図3(a)及び
図3(b)を参照して、基準信号の位相の整合性について説明する。
図3(a)は、基準信号の位相が、信号機に供給される電力の位相に整合している状態を示す。この状態において、各画素の1)輝度信号と2)基準信号とを乗算することにより、3)乗算後の信号、すなわち同期画素の輝度、及び同期画素の輝度の平均値(相関値G1)は、最も大きな値となる。
【0026】
一方、
図3(b)は、基準信号の位相が、信号機に供給される電力の位相と反転している状態を示す。この状態において、各画素の1)輝度信号と2)基準信号とを乗算することにより、3)乗算後の信号、すなわち同期画素の輝度、及び同期画素の輝度の平均値(相関値G2)は、最も小さな値となる。
【0027】
車両から信号機までの距離が遠くなるほど、撮像部11により検出される信号灯の輝度は小さくなり、輝度の変化幅も小さくなる。よって、基準信号の位相を、信号灯の輝度変化の位相、すなわち信号機に供給される電力の位相に近づけることにより、高い相関値(G1)を得ることができ、ひいては遠方の信号機を精度良く検出することができる。
【0028】
次に、
図4を参照して、画素群の設定について説明する。
図4(a)、(b)、(c)の各々は、同期画素51を含む所定範囲に設定される画素群50の例を示す。行列状に配列された各枠は画素を示す。
図4(a)は、1つの同期画素51に対して、水平方向及び垂直方向に隣接する1つの周辺画素52を含む画素群50を示す。
図4(b)は、同期画素51から水平方向に隣接する周辺画素52の幅に比べて、同期画素51から垂直方向に隣接する周辺画素52の幅が広い画素群50の例を示す。水平方向に1つの周辺画素52が隣接している一方、垂直方向に2つの周辺画素52が隣接している。
図4(b)の画素群50は、車両の垂直方向の振動に対応する例である。
図4(c)は、同期画素51の大きさに応じて周辺画素52の幅を大きくする例を示す。2×2の計4つの同期画素51に対して、画素群設定部38は、水平方向及び垂直方向の各々に、隣接する2つの周辺画素52を設定している。
【0029】
画素群設定部38は、輝度変動の連続性を確保するため、同期画素51の輝度値を周辺画素52に重畳してもよい。同期画素51の位置が周辺画素52へ移動しても、移動前後における輝度変動の連続性を維持することができる。詳細は、
図8を参照して後述する。
【0030】
次に、
図5を参照して、
図1に示した信号機検出装置を用いた信号機検出方法を説明する。
図5のフローチャートに示す信号機検出装置の動作は、車両のイグニションスイッチがオン状態となり、信号機検出装置が起動すると同時に開始され、信号機検出装置が停止するまで、繰り返し実行される。
【0031】
ステップS01において、撮像部11は、繰り返し車両の前方を撮像して、連続する複数のカメラ画像を取得する。信号機に供給される電力の1交流周期の間に、複数回の撮像を行う。取得された画像データは、同期画像生成部15に転送され、メモリ25に一時的に記憶される。
【0032】
ステップS03に進み、乗算部26は、基準信号とカメラ画像の各画素の輝度信号とを乗算する同期検波処理を行う。ステップS05に進み、位相判断部41は、
図3に示した相関値(G1、G2)が、極大値であるか否かを判断する。極大値である場合(S05でYES)ステップS09へ進み、極大値でない場合(S05でNO)ステップS07へ進む。なお、極大値の代わりに、ステップS05において、位相判断部41は、相関値(G1、G2)が所定基準値以上であるか否かを判断しても構わない。ステップS07では、基準信号生成部17は、基準信号の位相を調整し、ステップS03へ戻る。このように、相関値(G1、G2)が極大値となるまで、信号機検出装置は、同期検波処理及び位相調整処理を繰り返し実施する。
【0033】
ステップS09において、画素群設定部38は、
図4に示したように、同期画素51を含む所定範囲を画素群50として設定する。ステップS11に進み、安定性判断部39は、信号機に供給される電力の1交流周期以上、連続して画素群50の中から同期画素51が抽出されるか否かを判断する。連続して同期画素51が抽出される場合(S11でYES)、同期画素51が信号灯である可能性があるため、ステップS13へ進む。一方、連続して同期画素51が抽出されない場合(S11でNO)、同期画素51が信号灯でないと判断できるので、ステップS19へ進む。ステップS19において、信号機判断部18は、同期画素51を信号機の候補から削除する。
【0034】
ステップS13において、色相判断部40は、画素群50の中の各同期画素51の色相を合成した色相が信号色の色相に類似するか否かを判断する。信号色の色相に類似する場合(S13でYES)、画素群50の中の各同期画素51が信号灯であると判断できる。よって、ステップS15に進み、信号機判断部18は、同期画素51を信号機としてラベリングする。信号色の色相に類似しない場合(S13でNO)、画素群50の中の各同期画素51は、信号灯でなく、その他の電灯であると判断できる。よって、ステップ
S17に進み、信号機判断部18は、同期画素51を他の電灯としてラベリングする。
【0035】
ステップS21に進み、信号機判断部18は、ステップS09で設定された総ての画素群50について、信号機であるか否かを判断したか否かを判断する。判断が終わっていない場合(S21でNO)、ステップS11に戻り、残りの画素群50についてステップS11〜S17の処理を実施する。判断が終わっている場合(S21でYES)、
図5のフローチャートは終了する。
【0036】
以上説明したように、実施形態によれば以下の作用効果が得られる。
【0037】
特許文献1では、カメラ画像の中から信号灯の色相と類似する領域(画素群53a)を抽出し、領域(画素群53a)の円形度から信号灯の候補を検出する。円形度から信号灯を判断する場合、領域(画素群53a)に含まれる画素の数は、
図6(a)に示す程度の数が必要となる。これに対して、実施形態に係わる信号機検出装置では、信号機に供給される電力の交流周期と同期して輝度が変化する同期画素を信号灯の候補として抽出する。これにより、
図6(b)に示すように、同期画素53bの数が、円形度を判断できない程度の数であっても、信号灯であるか否かを判断することができる。すなわち、実施形態に係わる信号機検出装置は、遠方の信号機を精度良く検出することができる。
【0038】
カメラ画像の中から、信号機に供給される電力の交流周期と同期して輝度が変化する同期画素を抽出することにより、信号灯の大きさ及びその形状を考慮することなく、信号機を検出することができる。よって、円形度を判定できないほど画像サイズが小さくなる遠方の信号機であっても精度良く検出することができる。
【0039】
また、遠方の信号機を撮像する場合、走行中の車両振動などにより計測対象の観測位置が変動する。
図7(a)及び
図7(b)は、
図5に示す処理サイクル毎に、同期画素(51a、51b)の位置が変化している様子を示す。走行中の車両振動などにより、所定の判定期間(例えば、1交流周期)以上、同じ位置(画素)で同期画素を連続して検出することは難しい。そこで、
図4に示すように、同期画素を含む所定範囲を画素群として設定し、所定の判定期間、連続して画素群の中から同期画素が抽出される場合に信号機が存在すると判断する。これにより、電力の交流周期に同期した信号灯の検出を継続することができ、安定して信号機の位置を検出することができる。例えば、
図7(c)及び
図7(d)に示すように、画素群50の範囲で同期画素(51a、51b)の位置が変化しても、安定性判断部39は、同期画素を連続して検出することができる。
【0040】
図8は、3つの画素(pix1、pix2、pix3)の間で、周期的な輝度変動が時間の経過と共に移動している様子を示すグラフである。先ず、電力の交流周期に同期した輝度変動が、画素(pix1)で観測され、その後、画素(pix2)に移動し、最後に、画素(pix3)に移動している。これに従い、同期画素の位置も同様に変化してしまう。
【0041】
そこで、画素群設定部38は、輝度変動の連続性を確保するため、同期画素51の輝度値を周辺画素52に重畳してもよい。これにより、
図8の例では、3つの画素(pix1、pix2、pix3)の間で輝度変動が重畳される。よって、
図8に示すような輝度変動の移動は起こらず、3つの画素(pix1、pix2、pix3)を連続して同期画素として検出することができる。
【0042】
図9(a)及び
図9(b)は、LEDランプと白熱灯の輝度変動幅を比較するグラフである。信号機の信号灯には、LEDランプを用いたものと白熱灯を用いたものがある。LEDランプと白熱灯とは、同じ周期で輝度が変動している。しかし、両者は、輝度の変動幅が大きく異なる。つまり、LEDランプに比べて、白熱灯のほうが、信号機の輝度に対する画像ノイズ(S/N比)が悪いため、輝度変化を捉え難い。
【0043】
そこで、信号機判断部は、同期画素の輝度変化の幅に応じて、所定の判定期間を変化させても構わない。具体的には、ステップS11において、安定性判断部39は、同期画素の輝度変化の幅が大きいほど、所定の判定期間を短く設定する。例えば、LEDランプの場合、輝度変化の幅が大きいため、所定の判定期間を、信号機に供給される電力の1交流周期に設定する。白熱灯の場合、輝度変化の幅が小さいため、所定の判定期間を、信号機に供給される電力の10周期に設定する。或いは、信号機までの距離が遠くなるほど、同期画素の輝度変化の幅が小さくなるので、所定の判定期間を長く設定してもよい。よって、輝度変化の幅が小さい場合、所定の判定期間を長く設定されるので、所定の判定期間が長いほど、画素群が重畳される回数が増え、S/N比を改善することができる。このように、信号灯の種類或いは信号機までの距離に応じて、適切な判定期間を設定することができる。換言すると、適切な判定期間を設定し、判定時間内に存在する複数の輝度変化波形を積算した合成波形を用いて、電力の交流周期との同期判定を行うことで、検出感度を向上することができる。
【0044】
図4(a)〜(c)に示したように、画素群50は、同期画素51及び同期画素51の周囲に隣接する1又は2以上の周辺画素52から構成される。これにより、走行中の車両振動などにより同期画素51の観測位置が変動しても、画素群50の範囲内で安定して同期画素51を検出することができる。
【0045】
図4(b)に示したように、同期画素51から水平方向に隣接する周辺画素52の幅に比べて、同期画素51から垂直方向に隣接する周辺画素52の幅が広くてもよい。これにより、走行中の車両の振動により、観測位置が垂直方向に変動しても、画素群50の範囲内で安定して同期画素51を検出することができる。
【0046】
図4(c)に示したように、画素群設定部38は、1つの画素群50における同期画素51の数が多いほど、当該1つの画素群50における周辺画素52の幅を広くしてもよい。これにより、同期画素51の大きさに応じて適切な範囲に画素群50を設定することができる。
【0047】
図5に示したように、信号機判断部18は、所定の判定期間、連続して画素群50の中から同期画素51が抽出され(S11でYES)、且つ同期画素51の色相が信号色の色相に類似する場合(S13でYES)、同期画素51の位置に信号機が存在すると判断してもよい。同期画素51の色相を判断することにより、信号機の検出精度が更に向上する。
【0048】
色相判断部40は、画素群50の中の各同期画素51の色相を合成した色相が信号色の色相に類似するか否かを判断してもよい。車両振動などにより撮像対象の位置が変動しても、正確な色相判断を行うことができる。
【0049】
上記のように、本発明の実施形態を記載したが、この開示の一部をなす論述及び図面はこの発明を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施の形態、実施例及び運用技術が明らかとなろう。
【0050】
図5のフローチャートにおいて、信号機判断部18は、同期画素の抽出安定性及び色相の両方を判断した(S11、S13)が、同期画素の抽出安定性のみ(S11)を判断してもよい。この場合、同期画素が交流電力の1周期以上検出された場合(S11でYES)、S15に進み、信号灯としてラベリングすればよい。