(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0009】
[実施形態1]
本発明の実施形態1に係る車載用画像処理装置1について、
図1〜
図6を参照して説明する。
【0010】
図1は、本発明の実施形態1に係る車載用画像処理装置1の要部構成を示すブロック図である。車載用画像処理装置1は、車両に設置され、当該車両の周辺を撮像した画像を認識することができる装置である。車載用画像処理装置1は、例えば、道路の白線、道路上の障害物、及び歩行者といったオブジェクトの認識、及び当該オブジェクトまでの距離の算出をすることができる。そのため、車載用画像処理装置1は、道路からはみ出ないように車両を動かしたり、前方の障害物や歩行者を検知すると止まったりする自動走行車両に搭載され得る。
【0011】
車載用画像処理装置1は、
図1に示すように、画像処理装置10、第1のカメラ20、及び第2のカメラ30を備えている。
【0012】
第1のカメラ20は、偏光板が取り付けられていないカメラである。以下では、第1のカメラ20によって撮像された画像(換言すると、偏光板なしのカメラで撮像された画像)を「第1の画像」と称する。
【0013】
第2のカメラ30は、偏光板が取り付けられているカメラである。以下では、第2のカメラ30によって撮像された画像(換言すると、偏光板付きのカメラで撮像された画像)を「第2の画像」と称する。
【0014】
画像処理装置10は、第1の画像及び第2の画像を参照し、画像認識を行う。なお、画像処理装置10が実行する処理の詳細については、参照する図面を替えて後述する。画像処理装置10は、
図1に示すように、画像取得部12、及び制御部18を備えており、制御部18は、画像生成部14、及び画像認識部16を備えている。
【0015】
画像取得部12は、第1の画像及び第2の画像を取得するための構成であり、例えば、第1のカメラ20及び第2のカメラ30と画像処理装置10との接続のための入出力インターフェースとして実現される。
【0016】
画像生成部14は、画像取得部12が取得した画像のうち、第1の画像と第2の画像との双方を参照するか、又は、第1の画像と第2の画像とを選択的に参照することによって1又は複数の認識用画像を生成する。
【0017】
画像認識部16は、画像生成部14が生成した1又は複数の認識用画像を参照して画像認識を行う。
【0018】
(第1のカメラ及び第2のカメラの配置)
図2は、本発明の実施形態1における第1のカメラ20及び第2のカメラ30を車両に取り付けた状態の車両内部を模式的に示す模式図である。
【0019】
車載用画像処理装置1を上述したような自動走行車両に搭載する場合、
図2に示すように、第1のカメラ20及び第2のカメラ30は、フロントガラスのより高い位置に取り付けられることが好ましい。また、車載用画像処理装置1では、第1の画像及び第2の画像の視差に基づいて、認識したオブジェクトまでの距離も算出可能である。そのため、第1のカメラ20及び第2のカメラ30は、
図2に示すように、それぞれが撮像した第1の画像及び第2の画像が、オブジェクトまでの距離を適切に算出できる視差となるような間隔を空けて取り付けられることが好ましい。
【0020】
(画像処理装置が実行する処理)
図3は、本発明の実施形態1における画像処理装置10が実行する処理の流れの一例を示すフローチャートである。画像処理装置10が実行する処理について、
図3を用いて説明する。
【0021】
(ステップS2)
まず、画像取得部12は、第1のカメラ20及び第2のカメラ30から、それぞれ第1の画像及び第2の画像を取得する。画像取得部12は、取得した第1の画像及び第2の画像を、画像生成部14に出力する。
【0022】
(ステップS4)
画像生成部14は、画像取得部12から出力された第1の画像及び第2の画像のうち、参照する画像を選択する。より具体的には、画像生成部14は、第1の画像と第2の画像との双方を参照する画像として選択するか、又は、第1の画像と第2の画像との何れかを参照する画像として選択する。画像生成部14が画像を選択する方法の詳細については後述する。
【0023】
(ステップS6)
画像生成部14は、ステップS4において選択した画像を参照することによって、1又は複数の認識用画像を生成する。そして、画像生成部14は、生成した1又は複数の認識用画像を、画像認識部16に出力する。
【0024】
(ステップS8)
画像認識部16は、画像生成部14から出力された1又は複数の認識用画像を参照して、道路の白線、道路上の障害物、及び歩行者といったオブジェクトの認識処理、及び、当該オブジェクトまでの距離の算出処理などを行う。なお、画像認識部16はその他の画像処理を行う構成としてもよい。
【0025】
(画像生成部14の処理の具体例1)
ステップS4及びステップS6における画像生成部14の処理の具体例について、
図4を用いて説明する。
図4は、本発明の実施形態1における第1の画像及び第2の画像の一例である。
図4の(a)は、第1の画像の一例であり、(b)は、第2の画像の一例である。
【0026】
図4の(a)及び(b)はそれぞれ、昼間の濡れた路面をそれぞれ第1のカメラ20及び第2のカメラ30が撮像した画像である。
図4の(a)に示すように、第1の画像では濡れた路面に太陽光などの光が反射しているため、ステップS4において画像生成部14が第1の画像を選択したとしても、画像認識部16は領域A1に含まれる白線を認識することが難しい。一方、
図4の(b)に示すように、第2の画像では偏光板によって光の照り返しが抑えられているため、ステップS4において画像生成部14が第2の画像を選択すれば、画像認識部16は、領域A1に対応する領域A2に含まれる白線を認識することができる。
【0027】
画像生成部14が、
図4の(a)及び(b)にそれぞれ示す第1の画像及び第2の画像を取得した場合に第2の画像を選択する方法の具体例は以下の通りである。
【0028】
まず、第1の方法として、画像生成部14が照度計によって測定された周囲の明るさを取得し、取得した明るさに応じて画像を選択する方法が挙げられる。例えば、画像生成部14は、照度計によって測定された周囲の明るさが所定の明るさよりも明るい場合、第2の画像を選択する。一方、画像生成部14は、照度計によって測定された周囲の明るさが所定の明るさよりも暗い場合、第1の画像及び第2の画像を選択する。また、照度計は、車載用画像処理装置1が備える構成としてもよいし、車載用画像処理装置1の外部に設けられる構成としてもよい。
【0029】
また、第2の方法として、画像生成部14が、第1の画像及び第2の画像の明るさに応じて画像を選択する方法も挙げられる。例えば、画像生成部14は、第1の画像の平均輝度及び第2の画像の平均輝度がそれぞれ所定の輝度よりも高い場合、第2の画像を選択する。一方、画像生成部14は、第1の画像の平均輝度が所定の輝度よりも高く、第2の画像の平均輝度が所定の輝度より低い場合、第1の画像を選択する。一方、画像生成部14は、第1の画像の平均輝度及び第2の画像の平均輝度がそれぞれ所定の輝度よりも低い場合、第1の画像及び第2の画像を選択する。
【0030】
画像生成部14は、第1の画像と第2の画像との何れかを参照する画像として選択した場合、ステップS6において、選択した画像に基づき認識用画像を生成する。ここで、認識用画像を生成する際には、選択した画像をそのまま認識用画像としてもよいが、選択した画像に対してノイズ除去等の画像処理を行うことによって、後段の画像認識部16による画像認識により好適な画質となるように認識用画像を生成することが好ましい。
【0031】
なお、上述の第1の方法及び第2の方法では、画像生成部14が第1の画像及び第2の画像を選択する場合として、照度計によって測定された周囲の明るさが所定の明るさよりも暗い場合、又は第1の画像の平均輝度が所定の輝度よりも低い場合を挙げたが、これに限定されない。換言すると、照度計によって測定された周囲の明るさが所定の明るさよりも明るい場合、又は第1の画像の平均輝度が所定の輝度よりも高い場合であっても、画像生成部14は第1の画像及び第2の画像を選択する構成であってもよい。画像生成部14が第1の画像及び第2の画像を選択した場合の詳細な処理については、後述する。
【0032】
このように、画像処理装置10における画像生成部14は、周囲の明るさ、又は、第1の画像及び第2の画像の明るさに応じて、第1の画像と第2の画像とを選択的に参照することによって認識用画像を生成する。そのため、画像処理装置10は、画像に含まれるオブジェクトの認識に適した認識用画像を生成することができる。
【0033】
(画像生成部14の処理の具体例2)
ステップS4及びステップS6における画像生成部14の処理の他の具体例について説明する。
【0034】
本例では、画像生成部14は、上述したステップS4において第1の画像及び第2の画像を選択し、第1の画像と第2の画像との差分画像を生成することによって、認識用画像を生成する。画像生成部14が第1の画像と第2の画像との差分画像を生成することによって認識用画像を生成する処理について、
図5を用いて説明する。
図5は、本発明の実施形態1における画像生成部14が実行する処理の流れの一例を示すフローチャートである。
【0035】
(ステップS22)
まず、画像生成部14は、第1の画像において設定されたブロック内の画像を抽出し、第2の画像におけるブロックであって、第1の画像におけるブロック内の画像と類似する画像を含むブロックを検出する。ここで、ブロックのサイズは、差分画像を適切に算出できる程度に小さいことが好ましい。ステップS22のより具体的な処理の内容を、
図6及び
図7を用いて説明する。
【0036】
図6は、本発明の実施形態1における第1の画像及び第2の画像の他の例である。
図6の(a)は、第1の画像の他の例であり、(b)は、第2の画像の他の例である。
図7は、本発明の実施形態1における画像生成部14が参照または生成する画像の一例である。
図7の(a)は、画像生成部14が参照する第1の画像において設定されたブロック内の画像T
Aの一例であり、(b)は、画像生成部14が参照する第2の画像において設定されたブロック内の画像T
Bの一例であり、(c)は、画像生成部14が生成する差分画像の一例であり、(d)は、画像生成部14が生成する差分画像の他の例であり、(e)は、画像生成部14が生成する認識用画像の一例である。
【0037】
画像生成部14は、
図6の(a)に示す第1の画像において、ブロックA3内の画像T
Aを抽出する。ここで、
図7の(a)に示す例では、画像T
Aには光の照り返しが含まれている。また、画像生成部14は、
図6の(b)に示す第2の画像における、ブロックA3に対応するブロックであるブロックA4内の画像T
Bを抽出する。そして、画像生成部14は、画像T
Aと画像T
Bとを参照して、画像T
Aにおける各画素値と平均画素値との差と、画像T
Bにおける各画素値と平均画素値との差との積を正規化したR
ZNCCを、以下の数式(1)を用いて算出する。
【0043】
は、次式(2)に示す領域内の平均画素値である。
【0045】
ここで、M並びにNは、画像T
A及び画像T
Bの水平方向の画素数並びに垂直方向の画素数をそれぞれ表している。
【0046】
画像生成部14は、画像T
Aに対する画像T
Bの相対位置(すなわち、ブロックA3に対するブロックA4の相対位置)を変化させつつ、数式(1)を用いたR
ZNCCの算出を繰り返し行い、算出したR
ZNCCのうち、最も1に近いR
ZNCCが算出された画像T
Bを、画像T
Aに類似する画像T
Bとして検出する。この方法により、画像生成部14は、
図7の(a)に示す画像T
Aと、
図7の(b)に示す画像T
Bとを取得する。
【0047】
なお、第1の画像における画像T
Aに類似する第2の画像における画像T
Bの検出方法は、上述した方法に限定されない。例えば、画像生成部14は、第1の画像のブロックA3内の画像に含まれるエッジ又はコーナーを検出し、当該エッジ又はコーナーと類似するエッジ又はコーナーを、第2の画像のブロックA4内の画像において検索することによって、第1の画像における画像T
Aに類似する第2の画像における画像T
Bを検出する構成としてもよい。
【0048】
(ステップS24)
画像生成部14は、以下の数式(3)を用いて、ステップS22において取得した画像T
A及び画像T
Bのそれぞれの対応する画素の差分値であるP(i,j)を算出する。
【0050】
画像生成部14は、数式(3)を用いて算出した差分値P(i,j)を各画素値として含む差分画像Pを生成する(
図7の(c)参照)。
【0051】
(ステップS26)
画像生成部14は、上述したステップS6の処理として、ステップS22において取得した画像T
Aから、ステップS24において生成した差分画像Pを減算することによって、認識用画像P
2を生成する。なお、画像生成部14は、差分画像Pにノイズが含まれると判断した場合、
図7の(d)に示す、差分画像Pから平滑化等の処理によってノイズを除去した差分画像P
1を生成してもよい。この場合、画像生成部14は、画像T
Aと差分画像P
1との差分を取ることにより、
図7の(e)に示す認識用画像P
2を生成する。このように、画像生成部14は、認識用画像P
2として、画像T
Aから光の照り返しが除去された画像を生成することができる。
【0052】
画像生成部14は、第1の画像全体に対して差分画像を生成するまで、ステップS22〜ステップS26の処理を実行することにより、第1の画像全体に対応する認識用画像(以下、「第1の認識用画像」と称する)を生成することができる。ただし、本発明はこの構成に限定されず、例えば、第1の画像又は第2の画像の一部のみに対して認識用画像を生成する構成としてもよい。
【0053】
このように、画像処理装置10における画像生成部14は、第1の画像と第2の画像との差分画像を生成し、差分画像を第1の画像から減算することによって、第1の認識用画像を生成する。
【0054】
(奥行情報の算出)
画像生成部14は、上述した処理により、第1の画像と第2の画像との差分画像を生成し、当該差分画像を前記第1の画像から減算することによって第1の認識用画像を生成する。また、画像生成部14は、第1の画像を参照せずに第2の画像を参照することによって第2の認識用画像を生成する。ここで、画像生成部14は、第2の画像をそのまま第2の認識用画像としてもよいが、より好ましくは、第2の画像に対してノイズ除去等の画像処理を行うことによって第2の認識用画像を生成する。そして、画像生成部14は、第1の認識用画像及び第2の認識用画像を画像認識部16に出力する。
【0055】
画像認識部16は、取得した第1の認識用画像及び第2の認識用画像から、第1の認識用画像及び第2の認識用画像に含まれるオブジェクトまでの距離を示す奥行情報を算出する。より具体的には、画像生成部14は、第1の認識用画像及び第2の認識用画像を参照し、第1の認識用画像に含まれるオブジェクトの位置と、第2の認識用画像におけるオブジェクトの位置とのずれ(視差)に基づいて、オブジェクトまでの距離を示す奥行情報を算出する。
【0056】
このように、画像処理装置10では、画像生成部14が、第1の認識用画像及び第2の認識用画像を参照することによって、第1の認識用画像及び第2の認識用画像に含まれるオブジェクトの奥行情報を算出する。そのため、画像処理装置10は、光の照り返し等が重畳されたオブジェクトであっても、当該オブジェクトまでの距離を算出することができる。
【0057】
なお、車載用画像処理装置1は、上述したように奥行情報を算出できる構成を備えているため、例えば、第1の画像に含まれる白線の傾きと、第2の画像に含まれる白線の傾きとが異なる場合がある。車載用画像処理装置1は、抽出した第1の画像のブロック内の画像に対応する第2の画像のブロック内の画像を適切に抽出できるように、ステップS22において画像生成部14が設定するブロックの大きさを適宜変更可能な構成であることが好ましい。この構成を備えることにより、画像生成部14は、第1の画像に含まれる白線の傾きと、第2の画像に含まれる白線の傾きとが異なる場合であっても、設定するブロックを小さくすることにより、抽出した第1の画像のブロック内の画像に対応する第2の画像のブロック内の画像を適切に抽出することができる。
【0058】
また、本実施形態では、画像処理装置10を車載用画像処理装置1が備える構成について説明したが、これに限定されない。画像処理装置10は、光の照り返しなどによって認識できないオブジェクトを認識することを目的とした装置に適宜利用可能である。
【0059】
また、上記の説明では、光の照り返しの例として路面における太陽光の照り返しを例に挙げたが、画像処理装置10の適用は勿論上述の例に限られるものではなく、例えば、対向車のライトや建築物の照明等が路面又は自車両のボンネット等に反射した光を除去するために用いることもできる。
【0060】
[実施形態2]
本発明の実施形態2に係る車載用画像処理装置1aについて、
図8を用いて説明する。なお、本明細書では、既に説明した部材には同じ参照符号を付し、以下ではその説明を省略する。
図8は、本発明の実施形態2に係る車載用画像処理装置1aの要部構成を示すブロック図である。
【0061】
図8に示すように、車載用画像処理装置1aは、上述した実施形態1における第1のカメラ20及び第2のカメラ30に替えて、偏光板付きで撮像するか又は偏光板なしで撮像するかを切替可能なカメラであって、第1の画像及び第2の画像を撮像するカメラである第3のカメラ(カメラ)40を備える。この場合、第1の画像及び第2の画像に視差が発生しないため、上述したステップS22の処理を省略することができる。
【0062】
なお、本実施形態に係る車載用画像処理装置は、距離測定用のレーダを備え、当該レーダからの出力情報を参照して奥行情報を算出する構成としてもよい。
【0063】
〔ソフトウェアによる実現例〕
画像処理装置10の制御部18は、集積回路(ICチップ)等に形成された論理回路(ハードウェア)によって実現してもよいし、CPU(Central Processing Unit)を用いてソフトウェアによって実現してもよい。
【0064】
後者の場合、画像処理装置10は、各機能を実現するソフトウェアであるプログラムの命令を実行するCPU、上記プログラム及び各種データがコンピュータ(またはCPU)で読み取り可能に記録されたROM(Read Only Memory)または記憶装置(これらを「記録媒体」と称する)、上記プログラムを展開するRAM(Random Access Memory)などを備えている。そして、コンピュータ(またはCPU)が上記プログラムを上記記録媒体から読み取って実行することにより、本発明の目的が達成される。上記記録媒体としては、「一時的でない有形の媒体」、例えば、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、上記プログラムは、該プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記コンピュータに供給されてもよい。なお、本発明は、上記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。
【0065】
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。