(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0010】
以下、本発明のいくつかの実施形態を図面を用いて説明する。
【実施例1】
【0011】
図1は、本発明による車載撮像装置の第1の実施例を示すブロック構成図である。
撮像部1は、被写体からの入射光を集めるためのレンズと、レンズが集めた光を光電変換し映像信号として出力する撮像素子と、電子シャッタ制御部及び利得制御部を有する。輝度信号処理部2は、撮像部1が撮影した映像の輝度信号に関する処理を実施し、色信号処理部3は、撮像部1が撮影した映像の色信号に関する処理を実施する。
【0012】
第1ホワイトバランス制御部4aは、色信号処理後の画面全体の映像信号(色信号)を用いてホワイトバランスの制御を行う。一方第2ホワイトバランス制御部4b(破線で囲まれた部分)は、以下に説明するように画面内の一部領域(検出領域)の映像信号(色信号)を用いてホワイトバランスの制御を行う。なお、色信号処理部3と第1ホワイトバランス制御部4aとは統合させても良い。
【0013】
第2ホワイトバランス制御部4bは次の構成となっている。
検出領域設定部5は、第1ホワイトバランス制御部4aからの映像信号に対して、検出対象となる道路標示物の位置と形状に応じた「検出領域」を設定する。ここでは検出対象の道路標示物として、道路内の「車線」を例に取り上げて説明する。
【0014】
色信号判定部6は、検出領域設定部5で設定された検出領域内の各画素の色信号が、検出対象物である「車線」の本来の色(以下、「特定色」と呼ぶ)の近傍にあるか否かを判定する。具体的に言えば、各画素の色データ(以下、色度ともいう)と「車線」の特定色である「白色」の色データとの差が所定の範囲内か否かの判定を行う。判定の結果、特定色の近傍にあると判定された画素を「近似色画素」と呼ぶことにする。そして、近似色画素と判定された画素についてはその色データ(色度)を記憶保存する。
【0015】
ゲイン制御部7は、色信号判定部7で保存した前記検出領域内に存在する全ての近似色画素の色度の平均値を算出する。そして、平均色度と前記特定色の色度との差分値を算出し、差分値をゼロとするための色ゲインの補正量を求める。
【0016】
ゲイン乗算部8は、第1ホワイトバランス制御部4aからの映像信号に対し、ゲイン制御部7で求めたゲイン補正量を掛ける。すなわち、画面全体の画素に対して前記色ゲイン補正量により調整する。ゲイン乗算部8によるゲイン調整は、映像信号のR,G,B信号に対するゲイン調整、あるいはR,G,B信号を色差信号に変換したR−Y、B−Y信号に対するゲイン調整のいずれでもよい。ゲイン調整の結果、映像信号のうちで特定色の近傍(近似色画素)と判定された色信号は、ほぼ「車線」の特定色(白色)の色信号となるように補正される。
【0017】
輝度信号処理部2からの輝度信号と、ゲイン乗算部8によりゲイン調整された色信号は、出力部9で合成され、RGB信号やYUV信号といった信号形式に適宜変換されて認識部10やモニタ11へ出力される。認識部10では、入力した画像から検出対象物である道路標示物(ここでは車線)を認識し、モニタ11では、入力した画像を表示する。
【0018】
図2は、検出領域設定部5の設定する検出領域の例を示す図である。モニタ11には車両の前方、あるいは後方の撮影画像が表示される。ここでは道路標示物である車線30を検出対象とし、車線30を検出するための検出領域20(破線で示す)を設定した場合を示す。すなわち検出領域20は、画面内の車線30の位置と傾きに沿って設定する。
【0019】
図3は、第2ホワイトバランス処理部4bにおけるフローチャートを示す図である。
S101では、検出領域設定部5と色信号判定部6において、検出領域と特定色の設定を行う。例えば、
図2の車線30を検出するための検出領域20を設定し、車線30の特定色である白色を設定する。
S102では、撮影画面(1フレーム)内の画素を順次選択し、その色信号を調べる。
【0020】
S103では、検出領域設定部5は選択した画素が検出領域内か否かを判定する。Yesの場合はS104へ進む。Noの場合はS102に戻り次の画素を選択する。
S104では、色信号判定部6は選択した画素の色データが特定色(白色)に近いか否か(色度値の差が所定の範囲内か否か)を判定する。Yesの場合はS105へ進む。Noの場合はS102に戻り次の画素を選択する。
【0021】
S105では、当該画素を近似色画素としてその色度値を記憶保存する。
S106では、画面内の全画素について判定が終了したかどうかを判定する。Yesの場合はS107へ進む。Noの場合はS102に戻り次の画素を選択する。
【0022】
S107では、ゲイン制御部7は近似色画素として保存した検出領域内の全ての色度値の平均値を算出する。
S108では、算出した色度値の平均値と前記特定色の色度値との差分値を算出する。
【0023】
S109では、差分値をゼロとするための色ゲインの補正量を求め、ゲイン乗算部8により画面全体の画素に対してゲイン調整を施す。なお、ゲイン調整を画面全体の画素に対して施すことにより、検出対象物(車線)の一部が設定した検出領域の外に存在する場合でもその色ゲインを調整することができる。
【0024】
このように第2ホワイトバランス処理のフローによれば、色信号判定処理は全画素のうち検出領域の範囲内の画素に対してのみが実施され(S103〜S104)、色信号判定処理で特定色に近い近似色画素と判定された色信号のみのデータをもとに色ゲイン調整を行う(S107〜S109)。その結果、検出領域内で特定色の近傍と判定された映像信号は、確実に特定色(白色)に収束するように補正されるので、特定の検出対象物(車線)の色を正しく再現することができる。すなわち、検出対象物に合わせて検出領域を設定することで、領域内には検出対象物以外のノイズ源(例えば他車両、ブレーキランプ、信号器、街頭照明など)が存在することが少なくなり、それらの影響を軽減することができる。
【0025】
以下、実施例1の変形例を説明する。
図4は、検出領域設定部5の設定する検出領域の変形例を示す図である。ここでは道路の両側に存在する道路標示物である車線31,32を検出するために、2つの検出領域21,22を設定した場合である。このように検出領域を複数個設定しても良い。
【0026】
図5は、検出領域制御部5の設定する検出領域の変形例を示す図である。ここでは検出対象として道路標示物である横断歩道33aもしくは停止線33bを取り上げ、これらに沿った検出領域23を設定した場合である。この場合の検出領域23の形状は、横断歩道や停止線に沿うように画面水平方向に伸びた矩形状としている。
【実施例2】
【0027】
図6は、本発明による車載撮像装置の第2の実施例を示すブロック構成図である。
実施例1(
図1)との相違点は車速判定部12を追加し、これにより検出領域設定部5と色信号判定部6を制御する構成としたことである。本実施例は検出対象物として複数種類(ここでは2種類)を対象とすることが可能で、車速判定部12の車速情報に基づき、1つの検出対象物を選択する機能を有する。
【0028】
すなわち検出領域設定部5は、検出対象物に応じて2つの検出領域A,Bから一方を選択して設定可能で、色信号判定部6は検出対象物に応じて2つの特定色a,bから一方を選択して設定可能である。例えば検出領域A、特定色aとして、
図2、
図4の車線30,31,32に対応する検出領域20,21,22とその特定色(白色)を設定する。また検出領域B、特定色bとして、
図5の横断歩道33a又は停止線33bに対応する検出領域23とその特定色(白色)を設定する。
【0029】
車速判定部12からの車速情報に基づき、車速Vが所定の速度V0以上の場合には、検出対象物として「車線」を選択し、これに対応する検出領域A、特定色aに切り替える。その理由は、走行方向に平行な「車線」の画像は、走行速度に依らず画面内でほぼ静止しているのに対し、走行方向に直交する「横断歩道又は停止線」の画像は、高速走行時には画面内を高速に移動するため、精度良く検出することが困難となるからである。車速Vが所定の速度V0未満の場合には、「車線」と「横断歩道又は停止線」はいずれも検出可能であるが、ここでは検出領域B、特定色bに切り替え、「横断歩道又は停止線」を選択することにする。
【0030】
図7は、実施例2におけるフローチャートを示す図である。実施例1(
図3)との相違点は、S101の工程をS201〜S203に変更した点であり、他は同様である。
S201では、車速判定部12から車速情報を取得し、車速Vが所定の速度V0以上か否かを判定する。
【0031】
車速Vが所定の速度V0以上の場合は、S202において検出領域設定部5と色信号判定部6は「車線」を検出対象とするために検出領域A、特定色aに設定する。
車速Vが所定の速度V0未満の場合は、S203において検出領域設定部5と色信号判定部6は「横断歩道又は停止線」を検出対象とするために検出領域B、特定色bに設定する。以後の工程は、
図3と同様である。
【0032】
本実施例によれば、車速情報に応じて検出対象物を切り替えることができるので、実用的で使い勝手の良い車載撮像装置となる。なお、車速判定部12の代わりに、ギア位置の情報によっても同様の機能を実現できる。更には、操舵角の情報を取得し、検出領域の位置を画面内で移動させて設定することも可能である。
【実施例3】
【0033】
図8は、本発明による車載撮像装置の第3の実施例を示すブロック構成図である。
実施例1(
図1)との相違点は、検出領域設定部と色信号判定部をそれぞれ複数個(ここでは5個)設け、検出領域選択部13を追加したことである。これら複数個の検出領域設定部A〜E(5a〜5e)と複数個の色信号判定部A〜E(6a〜6e)により、複数の検出領域A〜Eと、これに対応する複数の特定色a〜eを同時に設定し、複数の検出対象物を並行して検出する機能を有する。個々の検出領域設定部と色信号判定部の動作は実施例1(
図1)と同様であり、検出領域A〜Eごとにそれぞれ特定色a〜eを用いた判定を行う。
【0034】
ただしゲイン制御では、検出領域A〜Eごとに近似色画素と判定された画素数を考慮した制御を行う。検出領域選択部13は、各検出領域について近似色画素と判定された画素数が所定値以上含まれるか否かを判定し、所定値以上含まれる検出領域を選択してゲイン制御部7に伝える。ゲイン制御部7は、選択された検出領域における色ゲインの補正量を求め、これによりゲイン乗算部8に対しゲイン調整を行わせる。
【0035】
図9は、複数の検出領域設定部A〜E(5a〜5e)の設定する複数の検出領域の例を示す図である。ここでは、検出対象物を車線とする検出領域20a〜20dと、検出対象物を横断歩道もしくは停止線とする検出領域20eを設定した場合を示す。このうち、検出領域20aと20bはいずれも道路左側の車線に対応するものであるが、その位置と傾きをずらして設定している。検出領域20cと20dについても同様である。このように同一の検出対象物(車線)に対して複数の検出領域を設定することで、検出対象物の画面内位置や傾きがずれた場合でも、いずれかの検出領域で確実に検出することができる。なお、検出対象物が検出されなかった(あるいは所定数より少なかった)領域については検出領域選択部13により非選択とされるので、誤検出による影響を回避することができる。
【0036】
図10は、実施例3におけるフローチャートを示す図である。実施例1(
図3)との相違点は、複数の検出領域・特定色を設定し、それぞれの検出領域・特定色による判定を並行して行うことである。以下、変更点を中心に説明する。
【0037】
S301では、検出領域設定部5a〜5eと色信号判定部6a〜6eにおいて、それぞれ複数の検出領域A〜Eと特定色a〜eの設定を行う。例えば、
図9の検出領域20a〜20eとそれに対応する特定色a〜eとして白色を設定する。
S303では、各検出領域設定部5a〜5eは選択した画素が検出領域A〜E内か否かを判定する。選択した画素が少なくとも1つの検出領域に含まれればYesとする。
【0038】
S304では、S303でYesとされた検出領域に対応する色信号判定部6a〜6eは、選択した画素の色度が対応する特定色の色度に近いか否かを判定する。選択した画素が少なくとも1つの特定色の色度に近ければYesとする。
S305では、当該画素を上記検出領域の近似色画素としてその色度値を記憶保存する。
【0039】
S307では、検出領域選択部13は、複数の検出領域のうちで近似色画素と判定された画素数が所定値以上含まれる検出領域を選択する。
S308では、ゲイン制御部7は、選択した検出領域において近似色画素として保存した全ての色度値の平均値を算出する。
【0040】
S309では、選択領域毎に算出した色度値の平均値と前記特定色の色度値との差分値を算出する。
S310では、領域毎の差分値をゼロとするための色ゲインの補正量の平均を求め、画面全体の画素に対してゲイン調整を施す。
【0041】
本実施例によれば、同一の検出対象物に対して複数の検出領域を設定することができ、検出対象物の画面内位置がずれた場合でも、検出対象物をいずれかの検出領域で確実に検出することができる。
【実施例4】
【0042】
図11は、本発明による車載撮像装置の第4の実施例を示すブロック構成図である。
実施例1(
図1)との相違点は、認識部10が認識した検出対象物の認識結果を検出領域設定部5、色信号判定部6、ゲイン制御部7へフィードバックする点である。すなわち、検出領域設定部5は認識部10が認識した検出対象物の位置と形状に合わせて検出領域を設定する。色信号判定部6とゲイン制御部7は、認識部10が認識した検出対象物の色を特定色として設定する。ここで認識部10が認識する検出対象物は、例えば前記した道路標示物である車線、横断歩道、停止線であり、あるいは道路標識であっても良い。このように本実施例では、設定する検出領域と特定色は、実際に得られた被写体の認識結果に基づいて決定する。これより、道路状況や撮影環境(照明光)が変化して被写体の位置や色が本来の位置や色からずれた場合でも、判定精度を維持することができる。
【0043】
図12は、実施例4におけるフローチャートを示す図である。実施例1(
図3)との相違点は、S101の工程をS401〜S402に変更した点であり、他は同様である。
【0044】
S401では、認識部10は出力部9からの映像信号を受けて特定の被写体(検出対象物)を認識する。
S402では、認識部10から特定の被写体の認識結果を取得し、検出領域設定部5と色信号判定部6は認識結果に従い検出領域と特定色を設定する。以後の工程は、
図3と同様である。
【0045】
本実施例によれば、実際に得られた被写体の認識結果に基づいて領域判定と色信号判定を行うので、道路状況や撮影環境が変化した状態でも判定精度を維持し、特定の被写体の色を実際に撮影された色に近いもので表示できる効果がある。
【実施例5】
【0046】
図13は、本発明による車載撮像装置の第5の実施例を示すブロック構成図である。
本実施例でも認識部10の認識結果を利用しているが、実施例4(
図11)との相違点は、認識部10が認識した検出対象物の認識結果を検出領域設定部5のみにフィードバックする点である。色信号判定部6とゲイン制御部7では、認識結果によらずに検出対象物の特定色を設定する。ここに検出対象物は、例えば前記した車線、横断歩道、停止線、道路標識などであり、これに対応する特定色として例えば白色、黄色などを設定する。このように本実施例では、設定する検出領域は実際に得られた被写体の認識結果に基づいているが、設定する特定色は、被写体の本来の色を設定する点に特徴がある。
【0047】
図14は、実施例5におけるフローチャートを示す図である。実施例4(
図12)との相違点は、S401〜S402の工程をS501〜S503に変更した点であり、他は同様である。
【0048】
S501では、色信号判定部6において特定色の設定を行う。例えば検出対象物が車線であれば特定色として白色を設定する。
S502では、認識部10は出力部9からの映像信号を受けて特定の被写体(車線)を認識する。
【0049】
S503では、認識部10から特定の被写体(車線)の認識結果を取得し、検出領域設定部5は認識結果に従い検出領域を設定する。以後の工程は、
図12と同様である。
【0050】
本実施例によれば、実際に得られた被写体の認識結果に基づいて領域判定するので被写体の検出精度が向上し、一方色ゲイン調整では特定の被写体の色を本来の色に正しく再現することができる。
【0051】
以下、実施例5の変形例を説明する。
図15は、
図13の車載撮像装置の変形例を示すブロック構成図である。
図13との相違点は、複数(ここでは2個)の色信号判定部A,B(6a,6b)と、特定色選択部14を設けた点である。検出領域設定部5は1つの検出対象物(例えば車線)に対する検出領域を設定する。これに対し色信号判定部A,B(6a,6b)は、互いに異なる特定色を設定する。例えば、車線に対する特定色a,bとして、白色と黄色とを設定する。そして、それぞれの特定色に対する近似色画素の判定を並行して行う。特定色選択部14は、各色信号判定部A,Bにおいて近似色画素と判定された画素数を比較し、画素数の多い方の特定色(aまたはb)を選択してゲイン制御部7に伝える。ゲイン制御部7は、選択された特定色に対する色ゲインの補正量を求め、これによりゲイン乗算部8に対しゲイン調整を行わせる。これにより、例えば車線の色が白色の場合と黄色の場合が混在した道路においても、検出される色に連動してゲイン調整を行うことができる。
【0052】
図16は、
図15(変形例)におけるフローチャートを示す図である。
図14との相違点は、S601,S606,S607,S609,S610の工程である。
【0053】
S601では、色信号判定部A,B(6a,6b)において、互いに異なる特定色a,bの設定を行う。例えば特定色aを白色、特定色bを黄色に設定する。
【0054】
S606では、色信号判定部A,Bは選択した画素の色度がそれぞれの特定色(aまたはb)の色度に近いか否かを判定する。いずれかの特定色に近ければYesとする。
S607では、特定色に近いとされた近似色画素については、特定色ごとに当該画素の色度値を記憶保存する。
【0055】
S609では、特定色選択部14は、各特定色について近似色画素と判定された画素数を比較し、画素数の多い方の特定色(aまたはb)を選択する。
S610では、ゲイン制御部7は、選択した特定色に対応する保存した全ての色度値の平均値を算出する。以後の工程は、
図14と同様である。
【0056】
本変形例では2つの特定色を設定したが、2個以上の複数の特定色を設定しても良い。本変形例によれば、複数の特定色のうち近似色画素数が多い方(最大)の特定色を選択して色ゲイン調整を行うので、検出する被写体が複数の色を含む場合や道路状況によって被写体の色が切り替わるような場合でも、これに良く適応して被写体の色を再現することができる。