(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0008】
図面を参照して、実施形態を説明する。図面の記載において同一部分には同一符号を付して説明を省略する。
【0009】
図1を参照して、実施形態に係わる信号機検出装置の全体構成を説明する。信号機検出装置は、車両に搭載され、車両の進行方向を撮像して画像を取得する撮像部11と、撮像部11により取得された画像の中から信号機を検出する信号機検出部12とを備える。
【0010】
撮像部11は、固体撮像素子、例えばCCD又はCMOSを用いたデジタルカメラであって、画像処理が可能なデジタル画像を取得する。デジタルカメラは、画角の広い広角レンズを備える。撮像部11の撮像範囲(画角)には、車両の進行方向から左右方向に車両近傍の路肩までが含まれる。撮像部11は、所定の時間間隔で繰り返し撮像して、連続する複数の画像(フレーム)を取得する。
【0011】
信号機検出部12は、撮像部11により取得された画像(以後、「カメラ画像」という)を受信し、カメラ画像における信号機の位置を検出する。検出された信号機の位置情報は、例えば車両の自動運転を実現するためのコントローラを含む、車両に搭載された他の処理演算装置(車両CPU13)に転送される。信号機検出部12は、例えば、CPU、メモリ、及び入出力部を備えるマイクロコントローラからなり、予めインストールされたコンピュータプログラムを実行することにより、信号機検出装置が備える複数の情報処理部を構成する。信号機検出部12は、カメラ画像から信号機の位置を検出する一連の情報処理を、連続する複数のカメラ画像(フレーム)毎に繰り返し実行する。信号機検出部12は、車両にかかわる他の制御に用いるECUと兼用してもよい。
【0012】
信号機検出部12により構成される複数の情報処理部には、同期画像生成部15と、位相調整部16と、基準信号生成部17と、信号機判断部18とが含まれる。基準信号生成部17は、信号機に供給される交流電力の周期を3の倍数で割った時間だけ位相がずれた、3の倍数の基準信号を設定する。位相調整部16は、3の倍数の基準信号のうち交流電力の位相に最も近い基準信号の位相を交流電力の位相に合わせる。基準信号生成部17及び位相調整部16の詳細は、
図2〜
図4を参照して後述する。
【0013】
同期画像生成部15は、カメラ画像の中から、交流電力の位相に合わされた基準信号と同期して輝度が変化する同期画素を抽出して、抽出された同期画素からなる同期画像を生成する。例えば、同期画像生成部15は、交流電力の位相に合わされた基準信号とカメラ画像の各画素の輝度信号とを乗算する同期検波処理を行う。これにより、信号機に供給される交流電力の周期に同期して輝度が変化する同期画素が抽出される。
【0014】
信号機に供給される交流電力は、商用電源の電力を全波整流した交流電力である。商用電源から電力の供給を受けて点灯する信号灯の輝度は、全波整流した交流電力の周期(例えば、100Hz)と同じ周期で変化する。そこで、信号機に供給される交流電力の周期に同期して輝度が変化する同期画素をカメラ画像の中から抽出することにより、商用電源から電力の供給を受けて点灯する信号灯を検出することができる。同期画像生成部15の詳細は
図2を参照して後述する。
【0015】
信号機判断部18は、同期画素の色相に基づいて、同期画像生成部15により抽出された同期画素の位置に信号機が存在するか否かを判断する。具体的には、信号機判断部18は、同期画素の色相が信号色の色相に類似するか否かを判断する。信号機判断部18は、同期画素の色相が信号色の色相に類似する場合、同期画素の位置に信号機が存在すると判断する。
【0016】
商用電源から電力の供給を受けて点灯する電灯には、信号機が有する信号灯の他に、街灯31a、自動販売機31b、看板31cなど、路上で点灯している他の電灯が含まれる。同期画像生成部15により抽出された同期画素には、これらの他の電灯も含まれる可能性がある。信号機判断部18が同期画素と信号色との間で色相の類似性を判断することにより、同期画像生成部15の抽出結果から、これらの他の電灯を排除することができる。
【0017】
なお、信号機判断部18は、同期画素の色相が信号色の色相に類似するか否かを判断する色相判断部を用いずに、同期画素の画像上の位置と輝度を用いて、信号機が存在するか否か判断する構成としても良い。車両の周囲の地図情報より画像上の信号機の位置を求め、同期画素の位置と照合することで、上記他の電灯を排除することができる。さらに、車両から信号機までの距離から画像上の輝度を想定し、想定輝度内の同期画素に信号機が存在すると判断することができる。
【0018】
信号機検出部12は、信号機が存在すると信号機判断部18が判断した同期画素の位置情報を、車両CPU13に出力する。
【0019】
図2を参照して、基準信号生成部17、同期画像生成部15及び位相調整部16の詳細な構成を説明する。基準信号生成部17は、例えば、信号機に供給される交流電力の周期を3で割った時間だけずれた3つの基準信号(L01、L02、L03)を設定する。基準信号(L01、L02、L03)の周期は、信号機に供給される交流電力の周期に等しく、位相が異なる。基準信号L01に対して、基準信号L02の位相は120°ずれており、基準信号L03の位相は240°ずれている。基準信号(L01、L02、L03)の一例を
図3に示す。
【0020】
同期画像生成部15は、メモリ25と、乗算部(26a、26b、26c)とを備える。メモリ25は、連続する複数のカメラ画像(フレーム)28を同時に記憶する。例えば、信号機に供給される電力の1交流周期の間に撮像される複数のカメラ画像28を同時に記憶する。乗算部(26a、26b、26c)は、メモリ25から読み出したカメラ画像の各画素の輝度信号と、基準信号(L01、L02、L03)の各々とを乗算して、3つの同期画像(G01、G02,G03)を生成する。乗算部26は、メモリ25に同時に記憶されている複数のカメラ画像の各々について、上記した乗算処理を実施する。
【0021】
位相調整部16は、基準信号(L01、L02、L03)の各々との乗算により生成された3つの同期画像(G01、G02,G03)のうち、その検波出力値が最も大きい同期画像を判定する同期画像判定部27を備える。検波出力値は、例えば、同期画素の輝度の平均値である。
【0022】
基準信号の位相が、信号機に供給される交流電力の位相に整合している場合、同期画素の輝度値、及び同期画素の輝度の平均値(検波出力値)は、最も大きな値となる。これに対して、基準信号の位相が、信号機に供給される電力の位相からずれるほど、同期画素の輝度値、及び同期画素の輝度の平均値(検波出力値)は、小さくなる。よって、3つの同期画像(G01、G02,G03)のうち検波出力値が最も大きい同期画像は、信号機に供給される電力の位相に最も近い位相を有する基準信号を用いて生成されている、と判断できる。
【0023】
したがって、同期画像判定部27が3つの同期画像(G01、G02,G03)のうち、検波出力値が最も大きい同期画像を判定することにより、位相調整部16は、3つの基準信号(L01、L02、L03)の中から、交流電力の位相に最も近い基準信号L01を選択することができる。例えば、
図4(a)は、同期画像(G01、G02、G03)の輝度変化の一例を示す。3つの同期画像(G01、G02、G03)のうち、同期画像G01の検波出力値が、他の同期画像(G02、G03)よりも大きい。この場合、同期画像判定部27は、検波出力値が最も大きい同期画像として、同期画像G01を選択する。信号機に供給される交流電力の位相は、
図3の領域R1に位置すると判断できる。
【0024】
位相調整部16は、選択した基準信号から正及び負の方向に等しい位相だけずれた他の基準信号の各々を用いた同期画像の検波出力値が等しくなるように、3つの基準信号の位相を合わせる。これにより、選択した基準信号の位相を交流電力の位相に合わせることができる。
【0025】
実施形態では、3の倍数の基準信号の一例として、3つの基準信号(L01、L02、L03)を設定し、基準信号L01を選択している。基準信号L01から正及び負の方向に等しい位相だけずれた他の基準信号は、基準信号(L02、L03)となる。基準信号(L02、L03)を用いてカメラ画像を検波して得られる同期画像は、2つの同期画像(G02、G03)である。
【0026】
よって、位相調整部16は、選択されていない2つの同期画像(G02、G03)の検波出力値が等しくなるように、3つの基準信号(L01、L02、L03)の各位相を同じ時間だけずらす。これにより、位相調整部16は、選択した基準信号L01の位相を信号機に供給される交流電力の位相に合わせることができる。これにより、基準信号L01を用いて検波された同期画像G01の検波出力値は最も大きな値となり、同期画像G01の輝度の変化幅も最大値となる。
【0027】
例えば、
図4(a)に示した例では、選択されていない2つの同期画像(G02、G03)の検波出力値は異なる。位相調整部16は、基準信号(L01、L02、L03)の位相を40°進める。その後、再び、乗算部(26a、26b、26c)は、位相調整後の基準信号(L01、L02、L03)を用いて同期検波処理を実施する。その結果を
図4(b)に示す。
図4(b)に示した例では、選択されていない2つの同期画像(G02、G03)の検波出力値が等しい。この時、選択した基準信号L01の位相は信号機に供給される交流電力の位相に一致し、基準信号L01を用いて検波された同期画像G01の検波出力値、及び同期画像G01の輝度の変化幅が最大値となる。
【0028】
車両から信号機までの距離が遠くなるほど、撮像部11により検出される信号灯の輝度は小さくなり、輝度の変化幅も小さくなる。よって、基準信号の位相を、信号灯の輝度変化の位相、すなわち信号機に供給される電力の位相に近づけることにより、高い検波出力値を得ることができ、ひいては遠方の信号機を精度良く検出することができる。
【0029】
次に、
図8及び
図9を参照して、位相調整部16の変形例を説明する。位相調整の際に用いる同期画像(G02、G03)の検波出力値として、カメラ画像のうち輝度変化の幅が最も大きな領域を検波して得られた検波出力値を用いてもよい。
【0030】
図8(a)は、車両からの距離に応じた輝度変化の幅の違いを示すグラフであり、
図8(b)は車両近傍にある電灯の例として、街灯31a、自動販売機31b、看板31cを示し、車両から遠方にある信号機32、33を示す図である。
図8(a)は、
図8(b)の街灯31a、及び信号機32、33の輝度変化を示す。車両近傍にある電灯(街灯31a、自動販売機31b、看板31c)の輝度変化の幅は、遠方の信号機(32、33)のそれに比べて大きい。また、輝度変化の幅が大きいほど、位相シフトによる検波出力値の変化幅が大きくなるため、位相調整の精度は向上する。そこで、位相調整部16は、カメラ画像のうち輝度変化の幅が最も大きな領域を検波して得られた検波出力値を用いてもよい。
【0031】
例えば、位相調整部16は、GPSや地図データベースから得られる車両の現在位置及び車両周辺の地図情報から、走行路の状況を判断する。例えば、位相調整部16は、車両の進行方向の道路形状が
図8(b)に示すような直線であるか、或いは右又は左へのカーブであるかを判断する。或いは、
図9に示すように車両がトンネルを走行しているか否かを判断する。
【0032】
位相調整部16
は、判断された走行路の状況に基づいて、カメラ画像内に画像領域を設定する。例えば、道路形状が直線である場合、
図8(b)に示すように、カメラ画像のうち、道路の路肩が撮像される領域(R2、R3)を、画像領域として設定する。これにより、画像領域には、道路の路肩に配置された電灯(31a、31b、31c)が含まれる。また、トンネルを走行している場合、
図9に示すように、カメラ画像のうち、トンネル内壁に設けられた照明ランプ34が撮像される領域R4を、画像領域として設定する。
【0033】
そして、位相調整部16は、カメラ画像のうち画像領域(R2〜R4)を検波して得られた検波出力値を用いて、上記した位相調整を行ってもよい。基準信号の位相を高精度に調整することができる。このように、予め同期検波処理を行う画像領域(R2〜R4)を特定することにより、同期検波処理の演算負荷が軽減され、処理速度が向上する。
【0034】
或いは、位相調整部16は、カメラ画像の各画素の中から、輝度変化の幅が最も大きい画素を選択し、選択した画素を検波して得られた検波出力値を用いてもよい。画像領域を特定することなく、基準信号の位相を高精度に調整することができる。
【0035】
このように、位相調整部16は、画像のうち輝度変化の幅が最も大きな領域を検波して得られた検波出力値を用いてもよい。ここで、「画像のうち輝度変化の幅が最も大きな領域」には、上記した画像領域(R2〜R4)及び位相調整部16により選択した画素が含まれる。
【0036】
次に、
図5を参照して、
図1に示した信号機検出装置を用いた信号機検出方法の一例を説明する。
図5のフローチャートに示す信号機検出装置の動作は、車両のイグニションスイッチがオン状態となり、信号機検出装置が起動すると同時に開始され、信号機検出装置が停止するまで、繰り返し実行される。
【0037】
ステップS01において、撮像部11は、繰り返し車両の周囲を撮像して、連続する複数のカメラ画像を取得する。信号機に供給される交流電力の1周期の間に、複数回の撮像を行う。取得された画像データは、同期画像生成部15に転送され、メモリ25に一時的に記憶される。
【0038】
ステップS03において、基準信号生成部17は、
図3に示すように、信号機に供給される交流電力の周期を3で割った時間だけ位相がずれた、3つの基準信号(L01、L02、L03)を設定する。
【0039】
ステップS05において、同期画像生成部15は、ステップS03で設定された3つの基準信号(L01、L02、L03)の各々とカメラ画像の各画素の輝度信号とを乗算する同期検波処理を行う。これにより、基準信号(L01、L02、L03)の各々に同期する同期画像(G01、G02、G03)が生成される。
【0040】
ステップS07において、同期画像判定部27は、3つの同期画像(G01、G02,G03)のうち、検波出力値が最も大きい同期画像(G01)を選択する。そして、残りの2つの同期画像(G02,G03)の検波出力値の差(ΔD)が所定のしきい値(Th)よりも小さいか否かを判断する。検波出力値の差(ΔD)が所定のしきい値(Th)よりも小さい場合(S07でYES)、基準信号L01の位相が交流電力の位相に一致しているため位相の調整は不要であると判断して、ステップS15へ進む。
【0041】
一方、検波出力値の差(ΔD)が所定のしきい値(Th)以上である場合(S07でNO)、基準信号L01の位相が交流電力の位相からずれているため位相の調整が必要であると判断して、ステップS09へ進む。位相調整部16は、選択されていない2つの同期画像(G02、G03)の検波出力値を比較して、位相調整方向を決定する。ステップS11へ進み、位相調整部16は、基準信号(L01、L02、L03)の各々の位相を、予め定めたシフト量(Δθ)だけ位相調整方向へシフトする。ステップS13に進み、ステップS07と同様にして、検波出力値の差(ΔD)が所定のしきい値(Th)よりも小さいか否かを判断する。検波出力値の差(ΔD)が所定のしきい値(Th)よりも小さくなるまで、位相をずらす処理を繰り返し行う(S11、S13)。
【0042】
具体的には、選択された基準信号L01から、選択されていない2つの基準信号(L02、L03)のうち検波出力値が大きくなる基準信号に向かって位相をシフトすることで、選択されていない同期画像の検波出力値を等しくすることができる。
図4(a)の例では、同期画像G03の検波出力値が、同期画像G02の検波出力値よりも大きい。よって、基準信号L01から基準信号L03に向かって位相をシフトすることで、
図4(b)に示すように、検波出力値の差(ΔD)を、所定のしきい値(Th)よりも小さくすることができる。
【0043】
このように、実施形態では、選択されていない2つの同期画像(G02、G03)の検波出力値を用いて、選択されている基準信号L01の位相を、信号灯の輝度変化の位相に一致させる。
【0044】
位相調整が終了した後、ステップS15に進み、同期画像生成部15は、位相調整後の基準信号L01とカメラ画像とを乗算する同期検波処理を実施する。これにより、カメラ画像の中から、交流電力の位相に合わされた基準信号と同期して輝度が変化する同期画素を高感度に抽出することができる。
【0045】
ステップS17に進み、信号機判断部18は、同期画像生成部15により抽出された同期画素の色相が信号色の色相に類似するか否かを判断する。信号色の色相に類似する場合、同期画素の位置に信号機が存在すると判断できる。よって、ステップS21に進み、信号機判断部18は、同期画素を信号機としてラベリングする。一方、信号色の色相に類似しない場合(S17でNO)、同期画素の位置に、信号灯でなく、その他の電灯が存在すると判断できる。よって、ステップS19に進み、信号機判断部18は、同期画素を他の電灯としてラベリングする。
【0046】
ステップS23に進み、信号機判断部18は、ステップS15で抽出された総ての同期画素について、信号機であるか否かを判断したか否かを判断する。判断が終わっていない場合(S23でNO)、ステップS17に戻り、残りの同期画素について色相の判断処理(S17〜S21)を実施する。判断が終わっている場合(S23でYES)、
図5のフローチャートは終了する。
【0047】
以上説明したように、実施形態によれば以下の作用効果が得られる。
【0048】
特許文献1では、カメラ画像の中から信号灯の色相と類似する領域を抽出し、抽出した領域の円形度から信号灯の候補を検出する。円形度から信号灯を判断する場合、領域(画素群53a)に含まれる画素の数は、
図6(a)に示す程度の数が必要となる。これに対して、実施形態に係わる信号機検出装置では、上述したように、信号機の輝度変化の幅が小さく、
輝度変化の位相及び周期を検出し難いような遠方に位置する信号機に対して、3の倍数の基準信号を設定し、交流電力の位相に最も近い基準信号の位相を選択して、電力の交流周期に合わせられるので、素早く、信号機に供給される電力の交流周期と同期して輝度が変化する同期画素を信号灯の候補として抽出できる。これにより、
図6(b)に示すように、同期画素53bの数が、円形度を判断できない程度の数であっても、信号灯であるか否かを判断することができる。すなわち、実施形態に係わる信号機検出装置は、遠方の信号機を精度良く検出することができる。
【0049】
カメラ画像の中から、信号機に供給される交流電力の周期と同期して輝度が変化する同期画素を抽出することにより、信号灯の大きさ及びその形状を考慮することなく、信号機を検出することができる。よって、円形度を判定できないほど画像サイズが小さくなる遠方の信号機であっても精度良く検出することができる。
【0050】
また、信号機に供給される交流電力は3相の交流電力であるため、変電設備に応じて交流電力の位相が変化する。そこで、交流電力の周期を3の倍数で割った時間だけ位相がずれた、3の倍数の基準信号を設定し、交流電力の位相に最も近い基準信号の位相を選択して、交流電力の位相に合わせる。これにより、信号機に供給される交流電力の位相に整合した基準信号を用いて、輝度変化が小さい同期画素を高感度に抽出することできる。よって、輝度変化が小さい遠方の信号機であっても精度良く検出することができる。
【0051】
3相の交流電力の位相は、変電設備等の環境に応じて、交流電力の周期を3で割った時間だけシフトする可能性がある。実施形態では、基準信号生成部17が、交流電力の周期を3の倍数で割った時間だけずれた、3の倍数の基準信号を
設定する。車両の走行により車両周辺の信号機に供給される交流電力の位相が変化した場合、基準信号生成部17が設定した3の倍数の基準信号の中で基準信号を切り替える。これにより、変化後の交流電力の位相に一致した基準信号を、位相調整部16による位相調整無しに、選択することができる。
【0052】
位相調整部16は、選択した基準信号L01から正及び負の方向に等しい位相だけずれた他の基準信号(L02、L03)の各々を用いてカメラ画像を検波して得られる検波出力値が等しくなるように、3つの基準信号(L01、L02、L03)の各位相を同じ時間だけずらす。これにより、選択した基準信号L01の位相を交流電力の位相に合わせることができる。これにより、基準信号L01を用いて検波された同期画像G01の検波出力値は最も大きな値となり、同期画像G01の輝度の変化幅も最大値となる。
【0053】
位相調整部16は、カメラ画像のうち輝度変化の幅が最も大きな領域を検波して得られた検波出力値を用いて、位相調整を行ってもよい。輝度変化の幅が大きいほど、位相シフトによる検波出力値の変化幅が大きくなるため、位相調整の精度が向上する。
【0054】
位相調整部16は、カメラ画像のうち道路の路肩が撮像される領域を検波して得られた検波出力値を用いてもよい。道路の路肩にある、看板、自動販売機、街灯を含む電灯は、遠方の信号機に比べて輝度変化の幅が大きい。そこで、
位相調整部16は、カメラ画像のうち、道路の路肩が撮像される領域(R2、R3)を検波して得られる検波出力値を用いる。これにより、選択した基準信号の位相を精度良く交流電力の位相に合わせることができる。
【0055】
車両がトンネル内を走行している場合、一般的に、道路の路肩に、看板、自動販売機、街灯を含む電灯は存在しないわかりに、トンネル内壁に設けられた照明ランプが存在する。そこで、位相調整部16は、カメラ画像のうち、トンネル内壁に設けられた照明ランプ34が撮像される領域R4を検波して得られる検波出力値を用いてもよい。これにより、選択した基準信号の位相を精度良く交流電力の位相に合わせることができる。
【0056】
上記のように、本発明の実施形態を記載したが、この開示の一部をなす論述及び図面はこの発明を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施の形態、実施例及び運用技術が明らかとなろう。
【0057】
「信号機に供給される交流電力の周期を3の倍数で割った時間だけ位相がずれた、3の倍数の基準信号」として、交流電力の周期を3で割った時間だけ位相がずれた3つの基準信号(L01、L02、L03)を例示した。もちろん、基準信号の数は、3に限らず、6、9、12、・・・であってもよい。
【0058】
図7は、6つの基準信号の各々から得られる6つの同期画像(G01〜G06)の検波出力値の一例を示す。6つの同期画像のうち同期画像G03の検波出力値が最も大きい。そして、同期画像G03に対応する基準信号から正及び負の方向に等しい位相だけずれた他の基準信号の各々に対応する検波出力値がほぼ一致している。具体的には、G02とG04の検波出力値がほぼ一致し、G01とG05の検波出力値がほぼ一致している。よって、
図7の例では、同期画像G03に対応する基準信号が、交流電力の位相に整合していると判断できる。