(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0011】
以下、本発明の一実施形態に係る周辺監視装置を、図面を参照して説明する。
【0012】
<周辺監視装置の概略構成>
図1は、本発明の一実施形態に係る周辺監視装置の概略構成を示す。周辺監視装置100は、路面上を走行する車両10に搭載されている。周辺監視装置100は、主に、撮像部12と、画像入力部20と、俯瞰画像生成部30と、立体物検出部40と、投影座標点取得部50と、投影座標点出力部60とを備えている。
【0013】
撮像部12は、車両10の左方に取り付けられている。撮像部12は、車両10の直近の路面を含む左方観測範囲を180°の視野範囲(画角)に亘って撮像する。
【0014】
画像入力部20は、撮像部12により左方観測範囲が異なる2つの時刻(t−Δt),(t)に撮像されることで得られた2つの画像を、計算機で取り扱えるデジタル画像形式の原画像70(t−Δt)及び原画像70(t)に変換する。画像入力部20は、原画像70(t−Δt)及び原画像70(t)を俯瞰画像生成部30に入力する。
【0015】
俯瞰画像生成部30は、原画像70(t−Δt)及び原画像70(t)を視点変換して、所定の視点位置から見た第1俯瞰画像72(t−Δt)及び第2俯瞰画像72(t)を生成する。
【0016】
なお、立体物検出部40、投影座標点取得部50及び投影座標点出力部60の詳細は後述する。
【0017】
<ハードウェア構成>
図2は、本発明の一実施形態に係る周辺監視装置のハードウェア構成を示すハードウェアブロック図である。以下、
図2を用いてハードウェア構成を説明する。
【0018】
周辺監視装置100は、車両10に搭載された、ECU(Electronic Control Unit)110と、左方カメラ12aと、車両状態センサ140と、モニタ150(表示部)とを備えている。
【0019】
左方カメラ12aは、撮像部12(
図1)を構成する。
【0020】
車両状態センサ140は、操舵角センサや距離センサで構成される。車両状態センサ140は、車両10の挙動を検出することによって、車両10の移動量と移動方向を算出する。
【0021】
モニタ150は、投影座標点出力部60(
図1)の出力結果を表示する。
【0022】
ECU110は、CPU(Central Processing Unit)112と、カメラインタフェース114と、センサ入力インタフェース116と、画像処理モジュール118と、メモリ120と、表示制御部122とを備えている。
【0023】
CPU112は、必要なデータの送受信やプログラムの実行を行う。
【0024】
カメラインタフェース114は、バス124を介してCPU112に接続される。カメラインタフェース114は、左方カメラ12aの制御を行う。
【0025】
センサ入力インタフェース116は、バス124を介してCPU112に接続される。センサ入力インタフェース116は、車両状態センサ140の測定結果を取得する。
【0026】
画像処理モジュール118は、バス124を介してCPU112に接続される。画像処理モジュール118は、内部に内蔵された所定のプログラムによって画像処理を実行する。
【0027】
メモリ120は、バス124を介してCPU112に接続される。メモリ120は、画像処理の中間結果や、必要な定数、プログラム等を記憶する。
【0028】
表示制御部122は、投影座標点出力部60(
図1)を構成する。表示制御部122は、バス124を介してCPU112に接続される。表示制御部122は、モニタ150の制御を行う。
【0029】
なお、
図1で説明した画像入力部20、俯瞰画像生成部30、立体物検出部40、投影座標点取得部50及び投影座標点出力部60は、後述する作用を実現するソフトウェアによって制御されている。このソフトウェアは、上記メモリ120(
図2)の内部に記憶されて、必要に応じて適宜実行される。
【0030】
<投影座標点取得部の概略構成>
図3は、本発明の一実施形態に係る投影座標点取得部の概略構成を示す。以下、
図3を用いて投影座標点取得部の概略構成を説明する。
【0031】
投影座標点取得部50は、第1立体物領域抽出部51と、第2立体物領域抽出部52と、投影座標点特定部53とを備えている。
【0032】
第1立体物領域抽出部51は、領域分割部51Aと、鉛直性評価部51Bとを備えている。
【0033】
領域分割部51Aは、
図4に示す第1俯瞰画像72(t−Δt)を左方カメラ12a(
図4)から放射方向に延びる第1放射線で左方カメラ12aの位置を中心として所定の角度おきに分割する。
【0034】
鉛直性評価部51Bは、領域分割部51Aが分割した複数の立体物領域のうち、特定の立体物領域に含まれるバー85,86(
図4)の路面80(
図4)に対する鉛直性を評価する。勿論、沿直性の評価は、バー85,86に限らず、支柱81,82,83,84(
図4)に対して行われてもよい。
【0035】
第2立体物領域抽出部52は、領域分割部52Aと、鉛直性評価部52Bとを備えている。
【0036】
領域分割部52Aは、
図6に示す第2俯瞰画像72(t)を左方カメラ12a(
図6)から放射方向に延びる第2放射線で左方カメラ12aの位置を中心として所定の角度おきに分割する。
【0037】
鉛直性評価部52Bは、領域分割部52Aが分割した複数の立体物領域のうち、特定の立体物領域に含まれるバー85,86(
図6)の路面80(
図6)に対する鉛直性を評価する。
【0038】
なお、投影座標点特定部53の詳細は後述する。
【0039】
<周辺監視装置で行われる各処理の説明>
以下、周辺監視装置100で行われる各処理の内容について順を追って説明する。
【0040】
<立体物検出部40で行われる処理の説明>
まず、
図4及び
図6を用いて、立体物検出部40で行われる処理について説明する。
【0041】
図4に示す第1俯瞰画像72(t−Δt)は、左方カメラ12aにより時刻(t−Δt)において車両10の直近の路面80を含む左方観測範囲が撮像されて視点変換された俯瞰画像である。第1俯瞰画像72(t−Δt)の下部に映り込んだ車両10は、例えばCG(Computer Graphics)で作成された車両である。
【0042】
図6に示す第2俯瞰画像72(t)は、左方カメラ12aにより時刻(t)において車両10の直近の路面80を含む左方観測範囲が撮像されて視点変換された俯瞰画像である。第2俯瞰画像72(t)の下部に映り込んだ車両10は、例えばCGで作成された車両である。
【0043】
路面80には、
図4及び
図6に示すように、4本の支柱81,82,83,84が立設されている。支柱81,82の各先端部の間には、線状体(浮遊物)としてのバー85が架設されている。支柱83,84の各先端部の間には、線状体(浮遊物)としてのバー86が架設されている。
【0044】
支柱83,84の各足元部分83a,84aには、
図4及び
図6に示すように、路面80に溜まった水によって水溜りPが連なっている。路面80に形成された水溜りPには、
図4及び
図6に示すように、支柱83,84からの光が水溜りPの表面で鏡面反射している。
【0045】
そのため、支柱83,84が撮像されて視点変換された俯瞰画像と、水溜りPの表面に映りこんだ支柱87,88が撮像されて視点変換された俯瞰画像とが一体化している。これにより、路面80に立設された2本の支柱83,84は、
図4及び
図6に示すように、実際の位置よりも車両10の近くにあるように映り込んでいる。
【0046】
立体物検出部40は、
図4に示す第1俯瞰画像72(t−Δt)を、短い時間間隔Δtの間における車両10の移動量と移動方向に対応するように平行移動又は回転移動して、時刻(t)における仮想的な第2予測俯瞰画像72’(t)を生成する。
図12に、第2予測俯瞰画像72’(t)の一例を示す。
【0047】
具体的に、立体物検出部40は、
図6に示す第2俯瞰画像72(t)に映り込んだ路面80に描かれている支柱81〜84やバー85,86と、
図12に示す第2予測俯瞰画像72’(t)に映り込んだ路面80に描かれている支柱81〜84やバー85,86とに基づいて、支柱81〜84やバー85,86が車両10の動きに応じて移動した移動量や回転した回転量を算出する。この移動量や回転量に基づいて、立体物検出部40は、第2俯瞰画像72(t)に映り込んだ支柱81〜84やバー85,86と、第2予測俯瞰画像72’(t)に映り込んだ支柱81〜84やバー85,86との位置合わせを行う。
【0048】
その位置合わせの後、立体物検出部40は、
図12に示す第2予測俯瞰画像72’(t)から、
図6に示す第2俯瞰画像72(t)を減算する減算処理を施して差分画像を求める。
【0049】
車両10が移動しても、支柱83の足元部分83aや、支柱84の足元部分84aは、第2予測俯瞰画像72’(t)と第2俯瞰画像72(t)の略同じ位置に発生する。そのため、第2予測俯瞰画像72’(t)と第2俯瞰画像72(t)との差分画像において除去された部分は、支柱83の足元部分83aや、支柱84の足元部分84aであると推測することができる。従って、俯瞰画像上で水溜りPの表面に映りこんだ支柱87と一体化した支柱83の足元部分83aや、俯瞰画像上で水溜りPの表面に映りこんだ支柱88と一体化した支柱84の足元部分84aの位置を抽出することができる。
【0050】
なお、支柱83の足元部分83aや、支柱84の足元部分84aの位置を抽出するにあたり、立体物検出部40は、時刻(t−Δt)における仮想的な第1予測俯瞰画像72’(t−Δt)を生成しても構わない。
図10に、第1予測俯瞰画像72’(t−Δt)の一例を示す。
【0051】
具体的に、立体物検出部40は、
図4に示す第1俯瞰画像72(t−Δt)に映り込んだ路面80に描かれている支柱81〜84やバー85,86と、
図10に示す第1予測俯瞰画像72’(t−Δt)に映り込んだ路面80に描かれている支柱81〜84やバー85,86とに基づいて、支柱81〜84やバー85,86が車両10の動きに応じて移動した移動量や回転した回転量を算出する。この移動量や回転量に基づいて、立体物検出部40は、第1俯瞰画像72(t−Δt)に映り込んだ支柱81〜84やバー85,86と、第1予測俯瞰画像72’(t−Δt)に映り込んだ支柱81〜84やバー85,86との位置合わせを行う。
【0052】
その位置合わせの後、立体物検出部40は、
図10に示す第1予測俯瞰画像72’(t−Δt)から、
図4に示す第1俯瞰画像72(t−Δt)を減算する減算処理を施して差分画像を求める。その差分画像において除去された部分も、
図10に示す第2予測俯瞰画像72’(t)と、
図6に示す第2俯瞰画像72(t)との差分画像において除去された部分と同様に、支柱83の足元部分83aや、支柱84の足元部分84aであると推測することができる。
【0053】
上述したような、予測俯瞰画像と、実際に得られた俯瞰画像との間で行われる減算処理の結果として得られる差分画像の輝度は、路面80が存在する領域において閾値よりも小さくなり、支柱81〜84やバー85,86等の立体物が存在する領域において閾値よりも大きくなる傾向にある。この傾向を利用して、立体物検出部40は、差分画像の輝度が閾値よりも大きくなる領域を立体物存在領域として検出する。
【0054】
<第1立体物領域抽出部51で行われる処理の説明>
次に、
図4及び
図5を用いて、第1立体物領域抽出部51で行われる処理について説明する。
【0055】
(領域分割部51Aで行われる処理の説明)
まず、領域分割部51Aは、
図4に示すように、第1俯瞰画像72(t−Δt)を左方カメラ12aから放射方向に延びる7本の第1放射線RL10,RL11,RL12,RL13,RL14,RL15,RL16,RL17で左方カメラ12aの位置を中心として等角度(=30°)おきに分割する。
【0056】
第1放射線RL10〜RL17によって、第1俯瞰画像72(t−Δt)は、
図4に示すように、6つの立体物領域72(t−Δt)_1,72(t−Δt)_2,72(t−Δt)_3,72(t−Δt)_4,72(t−Δt)_5,72(t−Δt)_6に分割される。
【0057】
第1放射線RL10〜RL17は、支柱81〜84やバー85,86の路面80に対する鉛直性を示す指標となる。支柱は路面80に対して鉛直に立設されているので、支柱の長手方向と、第1放射線の延存方向とは一致する。
【0058】
(鉛直性評価部51Bで行われる処理の説明)
鉛直性評価部51Bは、
図5に示すように、支柱81〜84やバー85,86の路面80に対する鉛直性を評価する。鉛直性評価部51Bは、支柱81,82及びバー85からなる一塊の領域から、支柱81,82と、バー85とを区別する。同様に、鉛直性評価部51Bは、支柱83,84,バー86及び水溜りPの表面に映りこんだ支柱87,88からなる一塊の領域から、支柱83及び支柱87の塊と、支柱84及び支柱88の塊と、バー86とを区別する。
【0059】
支柱やバーを区別する手法には、例えば、一塊の領域を複数のブロックに分割して、ブロック毎に上下方向又は左右方向にエッジ検出を行い、エッジ検出の結果として得られたエッジ方向の類似性等を用いた手法がある。なお以下では、バー85,86の路面80に対する鉛直性評価と、支柱81〜84の路面80に対する鉛直性評価に分けて説明する。
【0060】
(バー85,86の路面80に対する鉛直性評価)
鉛直性評価部51Bは、
図5に示すように、バー85の長手方向のベクトルV1と、左方カメラ12aの放射方向のベクトルとのなす角度が、予め定められた基準角度を超えるか否かを判断する。鉛直性評価部51Bは、両ベクトルのなす角度が基準角度を超える場合、バー85は路面80に対して鉛直に立設されていないと判断する。この判断のもとで、第1立体物領域抽出部51(
図3)は、バー85を含む立体物領域72(t−Δt)_1,72(t−Δt)_2を抽出する。バー85は、後述する投影座標点特定部53(
図3)において重心G1(
図8)を求める際の対象となる。
【0061】
鉛直性評価部51Bは、
図5に示すように、バー86の長手方向のベクトルV2と、左方カメラ12aの放射方向のベクトルとのなす角度が、予め定められた基準角度を超えるか否かを判断する。鉛直性評価部51Bは、両ベクトルのなす角度が基準角度を超える場合、バー86は路面80に対して鉛直に立設されていないと判断する。この判断のもとで、第1立体物領域抽出部51(
図3)は、バー86を含む立体物領域72(t−Δt)_5,72(t−Δt)_6を抽出する。バー86は、後述する投影座標点特定部53(
図3)において重心G21(
図8)を求める際の対象となる。
【0062】
(支柱81〜84の路面80に対する鉛直性評価)
鉛直性評価部51Bは、
図5に示すように、バー85,86と同様に、支柱81〜84についても路面80に対する鉛直性を評価する。本実施形態の支柱81〜84は、路面80に対して鉛直に立設されている。そのため、支柱81の長手方向のベクトルV3の向きと、左方カメラ12aの放射方向とは一致している。
【0063】
支柱82の長手方向のベクトルV4の向きと、左方カメラ12aの放射方向も同様に一致している。支柱83及び水溜りPの表面に映りこんだ支柱87の長手方向のベクトルV5の向きと、左方カメラ12aの放射方向も同様に一致している。支柱84及び水溜りPの表面に映りこんだ支柱88の長手方向のベクトルV6の向きと、左方カメラ12aの放射方向も同様に一致している。
【0064】
図5では、支柱の長手方向のベクトルと、第1放射線の延存方向のベクトルのなす鋭角は基準角度以内にあるものと判断される。そのため、支柱81〜84は、後述する投影座標点特定部53(
図3)において重心を求める対象からは除外される。
【0065】
<第2立体物領域抽出部52で行われる処理の説明>
次に、
図6及び
図7を用いて、第2立体物領域抽出部52で行われる処理について説明する。なお、第1立体物領域抽出部51の領域分割部51A及び鉛直性評価部51Bと、第2立体物領域抽出部52の領域分割部52A及び鉛直性評価部52Bとは、順に同様のものであるので、説明を省略することがある。
【0066】
(領域分割部52Aで行われる処理の説明)
まず、領域分割部52Aは、
図6に示すように、第2俯瞰画像72(t)を左方カメラ12aから放射方向に延びる7本の第2放射線RL20,RL21,RL22,RL23,RL24,RL25,RL26,RL27で左方カメラ12aの位置を中心として等角度θ2(=30°)おきに分割する。これにより、第2俯瞰画像72(t)は、6つの立体物領域72(t)_1,72(t)_2,72(t)_3,72(t)_4,72(t)_5,72(t)_6に分割される。
【0067】
(鉛直性評価部52Bで行われる処理の説明)
次に、鉛直性評価部52Bは、支柱81〜84やバー85,86の路面80に対する鉛直性を評価する。なお以下では、バー85,86の路面80に対する鉛直性評価と、支柱81〜84の路面80に対する鉛直性評価に分けて説明する。
【0068】
(バー85、86の路面80に対する鉛直性評価)
鉛直性評価部52Bは、
図7に示すように、バー85の長手方向のベクトルV21と、左方カメラ12aの放射方向のベクトルとのなす角度が、予め定められた基準角度を超えるか否かを判断する。
図7では、両ベクトルのなす角度が基準角度を超えるものとして、第2立体物領域抽出部52は、バー85を含む立体物領域72(t)_1、72(t)_2を抽出する。バー85は、後述する投影座標点特定部53(
図3)において重心G2(
図8)を求める対象となる。
【0069】
鉛直性評価部52Bは、
図7に示すように、バー86の長手方向のベクトルV22と、左方カメラ12aの放射方向のベクトルとのなす角度が、予め定められた基準角度を超えるか否かを判断する。
図7では、両ベクトルのなす角度が基準角度を超えるものとして、第2立体物領域抽出部52(
図3)は、バー86を含む立体物領域72(t)_4〜72(t)_6を抽出する。バー86は、後述する投影座標点特定部53(
図3)において重心G22(
図8)を求める際の対象となる。
【0070】
(支柱81〜84の路面80に対する鉛直性評価)
鉛直性評価部52Bは、
図7に示すように、バー85,86と同様に、支柱81〜84についても路面80に対する鉛直性を評価する。上述したように、支柱81〜84は、路面80に対して鉛直に立設されている。そのため、支柱81の長手方向のベクトルV23の向きと、左方カメラ12aの放射方向とは一致している。
【0071】
支柱82の長手方向のベクトルV24の向きと、左方カメラ12aの放射方向も同様に一致している。支柱83及び水溜りPの表面に映りこんだ支柱87の長手方向のベクトルV25の向きと、左方カメラ12aの放射方向も同様に一致している。支柱84及び水溜りPの表面に映りこんだ支柱88の長手方向のベクトルV26の向きと、左方カメラ12aの放射方向も同様に一致している。
【0072】
図7では、支柱の長手方向のベクトルと、第1放射線の延存方向のベクトルのなす鋭角は基準角度以内にあるものと判断される。そのため、支柱81〜84は、後述する投影座標点特定部53(
図3)において重心を求める対象からは除外される。
【0073】
<投影座標点特定部53で行われる処理の説明>
続いて、
図8を用いて、投影座標点特定部53で行われる処理について説明する。
【0074】
図8に示す重畳俯瞰画像SVIは、
図4に示す第1俯瞰画像72(t−Δt)と、
図6に示す第2俯瞰画像72(t)とを移動及び回転させて、両俯瞰画像の位置を合わせた後に重畳した重畳俯瞰画像である。重畳俯瞰画像SVIの下部に鎖線で示す車両10は、
図4に示した第1俯瞰画像72(t−Δt)の下部と同じ位置に映り込んでいる。重畳俯瞰画像SVIの下部に実線で示す車両10は、
図6に示した第2俯瞰画像72(t)の下部と同じ位置に映り込んでいる。
【0075】
図8では、図をわかりやすくするために、第1俯瞰画像72(t−Δt)に含まれる支柱81〜84,バー85,86を斜線で示し、第2俯瞰画像72(t)に含まれる支柱81〜84,バー85,86を網掛けで示している。また、
図8では、図をわかりやすくするために、第1俯瞰画像72(t−Δt)に含まれる水溜りPの表面に映りこんだ支柱87,88と、第2俯瞰画像72(t)に含まれる水溜りPの表面に映りこんだ支柱87,88とでハッチングの種類を変えてある。
【0076】
投影座標点特定部53は、
図8に示すように、重畳俯瞰画像SVI上で、第1直線L1と第1直線L21とが交差する点を、バー85の真下にある路面80にバー85を投影した投影座標点SP1として特定する。第1直線L1は、斜線で示すバー85の重心G1から、鎖線で示す車両10に設置した左方カメラ12aの放射方向に延びる直線である。第1直線L21は、網掛けで示すバー85の重心G2から、実線で示す車両10に設置した左方カメラ12aの放射方向に延びる直線である。
【0077】
投影座標点特定部53は、
図8に示すように、重畳俯瞰画像SVI上で、第2直線L2と第2直線L22とが交差する点を、バー86の真下にある路面80にバー86を投影した投影座標点SP2として特定する。第2直線L2は、斜線で示すバー86の重心G21から、鎖線で示す車両10に設置した左方カメラ12aの放射方向に延びる直線である。第2直線L22は、網掛けで示すバー86の重心G22から、実線で示す車両10に設置した左方カメラ12aの放射方向に延びる直線である。
【0078】
<投影座標点出力部60で行われる処理の説明>
続いて、
図9〜
図16を用いて、投影座標点出力部60で行われる処理について説明する。
【0079】
(俯瞰画像と第1予測俯瞰画像とを用いた鉛直性判定処理)
まず、投影座標点出力部60は、
図9及び
図10に示すように、第2俯瞰画像72(t)と、この第2俯瞰画像72(t)を平行移動又は回転移動して生成した第1予測俯瞰画像72’(t−Δt)とを用いて、投影座標点を含む立体物領域に含まれる立体物の路面80に対する鉛直性を判定する。
【0080】
なお以下では、投影座標点SP1を含む立体物領域に対する鉛直性判定処理と、投影座標点SP2を含む立体物領域に対する鉛直性判定処理とに分けて説明する。
【0081】
(投影座標点SP1を含む立体物領域に対する鉛直性判定処理)
まず、
図9及び
図10を参照しつつ、投影座標点SP1を含む立体物領域に対する鉛直性判定処理について説明する。
【0082】
投影座標点出力部60は、
図9に示すように、第2俯瞰画像72(t)から、投影座標点特定部53で特定された投影座標点SP1を含む立体物領域72(t)_1を抽出する。投影座標点出力部60は、
図9に示すように、その立体物領域72(t)_1に含まれる、バー85の長手方向のベクトルV31と、支柱81の長手方向のベクトルV32との合成ベクトルSV1を演算する。
【0083】
投影座標点出力部60は、
図10に示すように、第1予測俯瞰画像72’(t−Δt)から、投影座標点特定部53で特定された投影座標点SP1に対応する投影座標点SP1’を含む立体物領域72’(t−Δt)_2を抽出する。
図10に示すように、その立体物領域72’(t−Δt)_2には、バー85の長手方向のベクトルV31’のみが含まれる。そのため、投影座標点出力部60は、合成ベクトルの演算を行わない。
【0084】
(第1判定処理)
次に、投影座標点出力部60は、
図9に示すように、合成ベクトルSV1と、左方カメラ12aの放射方向のベクトルとのなす角度が、予め定められた基準角度以内である否かを判定する第1判定処理を実施する。
【0085】
(第2判定処理)
続いて、投影座標点出力部60は、
図9及び
図10に示すように、合成ベクトルSV1と、ベクトルV31’とのなす角度が、予め定められた基準角度以内である否かを判定する第2判定処理を実施する。
【0086】
投影座標点出力部60は、第1判定処理及び第2判定処理の双方の判定条件を満たす場合のみ、モニタ150に表示する対象として第2俯瞰画像72(t)から投影座標点SP1を抽出する。
【0087】
(投影座標点SP2を含む立体物領域に対する鉛直性判定処理)
次に、
図9及び
図10を参照しつつ、投影座標点SP2を含む立体物領域に対する鉛直性判定処理について説明する。
【0088】
投影座標点出力部60は、
図9に示すように、第2俯瞰画像72(t)から、投影座標点特定部53で特定された投影座標点SP2を含む立体物領域72(t)_5を抽出する。
図9に示すように、その立体物領域72(t)_5には、バー86の長手方向のベクトルV33のみが含まれる。そのため、投影座標点出力部60は、合成ベクトルの演算を行わない。
【0089】
投影座標点出力部60は、
図10に示すように、第1予測俯瞰画像72’(t−Δt)から、投影座標点特定部53で特定された投影座標点SP2に対応する投影座標点SP2’を含む立体物領域72’(t−Δt)_6を抽出する。投影座標点出力部60は、その立体物領域72’(t−Δt)_6に含まれる、バー86の長手方向のベクトルV33’と、その立体物領域72’(t−Δt)_6に含まれる、支柱84及び水溜りPの表面に映りこんだ支柱88の塊の長手方向のベクトルV34’との合成ベクトルSV2’を演算する。
【0090】
(第3判定処理)
次に、投影座標点出力部60は、
図9に示すように、ベクトルV33と、左方カメラ12aの放射方向のベクトルとのなす角度が、予め定められた基準角度以内である否かを判定する第3判定処理を実施する。
【0091】
(第4判定処理)
続いて、投影座標点出力部60は、
図9及び
図10に示すように、ベクトルV33と、合成ベクトルSV2’とのなす角度が、予め定められた基準角度以内である否かを判定する第4判定処理を実施する。
【0092】
投影座標点出力部60は、第3判定処理及び第4判定処理の双方の判定条件を満たす場合のみ、モニタ150に表示する対象として第2俯瞰画像72(t)から投影座標点SP2を抽出する。
【0093】
(俯瞰画像と予測俯瞰画像とを用いた鉛直性判定処理)
次に、投影座標点出力部60は、
図11及び
図12に示すように、第1俯瞰画像72(t−Δt)と、この第1俯瞰画像72(t−Δt)を平行移動又は回転移動して生成した第2予測俯瞰画像72’(t)とを用いて、投影座標点を含む立体物領域に含まれる立体物の路面80に対する鉛直性を判定する。なお以下では、投影座標点SP1を含む立体物領域に対する鉛直性判定処理と、投影座標点SP2を含む立体物領域に対する鉛直性判定処理とに分けて説明する。
【0094】
(投影座標点SP1を含む立体物領域に対する鉛直性判定処理)
まず、
図11及び
図12を参照しつつ、投影座標点SP1を含む立体物領域に対する鉛直性判定処理について説明する。
【0095】
投影座標点出力部60は、
図11に示すように、第1俯瞰画像72(t−Δt)から、投影座標点特定部53で特定された投影座標点SP1を含む立体物領域72(t−Δt)_2を抽出する。
図11に示すように、立体物領域72(t−Δt)_2には、バー85の長手方向のベクトルV35のみが含まれる。そのため、投影座標点出力部60は、合成ベクトルの演算を行わない。
【0096】
投影座標点出力部60は、
図12に示すように、第2予測俯瞰画像72’(t)から、投影座標点特定部53で特定された投影座標点SP1に対応する投影座標点SP1’を含む立体物領域72’(t)_1を抽出する。投影座標点出力部60は、
図12に示すように、その立体物領域72’(t)_1に含まれる、バー85の長手方向のベクトルV35’と、その立体物領域72’(t)_1に含まれる、支柱81の長手方向のベクトルV36’との合成ベクトルSV3’を演算する。
【0097】
(第5判定処理)
次に、投影座標点出力部60は、
図11に示すように、ベクトルV35と、左方カメラ12aの放射方向のベクトルとのなす角度が、予め定められた基準角度以内である否かを判定する第5判定処理を実施する。
【0098】
(第6判定処理)
続いて、投影座標点出力部60は、
図11及び
図12に示すように、ベクトルV35と、合成ベクトルSV3’とのなす角度が、予め定められた基準角度以内である否かを判定する第6判定処理を実施する。
【0099】
投影座標点出力部60は、第5判定処理及び第6判定処理の双方の判定条件を満たす場合のみ、モニタ150に表示する対象として第1俯瞰画像72(t−Δt)から投影座標点SP1を抽出する。
【0100】
(投影座標点SP2を含む立体物領域に対する鉛直性判定処理)
次に、
図11及び
図12を参照しつつ、投影座標点SP2を含む立体物領域に対する鉛直性判定処理について説明する。
【0101】
投影座標点出力部60は、
図11に示すように、第2俯瞰画像72(t)から、投影座標点特定部53で特定された投影座標点SP2を含む立体物領域72(t)_6を抽出する。投影座標点出力部60は、
図11に示すように、その立体物領域72(t)_6に含まれる、バー86の長手方向のベクトルV37と、その立体物領域72(t)_4に含まれる、支柱83と水溜りPの表面に映りこんだ支柱87の塊の長手方向のベクトルV38との合成ベクトルSV4を演算する。
【0102】
投影座標点出力部60は、
図12に示すように、第1予測俯瞰画像72’(t−Δt)から、投影座標点特定部53で特定された投影座標点SP2に対応する投影座標点SP2’を含む立体物領域72’(t−Δt)_5を抽出する。その立体物領域72’(t−Δt)_5には、バー86の長手方向のベクトルV37’のみが含まれる。そのため、投影座標点出力部60は、合成ベクトルの演算を行わない。
【0103】
(第7判定処理)
次に、投影座標点出力部60は、
図11に示すように、合成ベクトルSV4と、左方カメラ12aの放射方向のベクトルとのなす角度が、予め定められた基準角度以内である否かを判定する第7判定処理を実施する。
【0104】
(第8判定処理)
続いて、投影座標点出力部60は、
図11及び
図12に示すように、合成ベクトルSV4と、ベクトルV37’とのなす角度が、予め定められた基準角度以内である否かを判定する第8判定処理を実施する。
【0105】
投影座標点出力部60は、第7判定処理及び第8判定処理の双方の判定条件を満たす場合のみ、モニタ150に表示する対象として第1俯瞰画像72(t−Δt)から投影座標点SP2を抽出する。
【0106】
(俯瞰画像と予測俯瞰画像とを用いた表示制御処理)
続いて、
図13〜
図16を参照しつつ、投影座標点出力部60で行われる表示制御処理について説明する。
【0107】
まず、投影座標点出力部60は、
図13及び
図14に示すように、第1俯瞰画像72(t−Δt)と、この第1俯瞰画像72(t−Δt)を平行移動又は回転移動して生成した第2予測俯瞰画像72’(t)とを用いて、モニタ150への表示制御処理を行う。
【0108】
図13に示す第1俯瞰画像72(t−Δt)は、モニタ150に表示されている。第1俯瞰画像72(t−Δt)中の座標点SP1,SP2は、上記第1〜第7判定処理の結果、モニタ150に表示する対象とされた、バー85,86の真下にある路面80にバー85,86を投影した投影座標点である。座標点SP3は、支柱81の足元部分の位置を示す座標点である。座標点SP4は、支柱82の足元部分の位置を示す座標点である。
【0109】
座標点SP5は、バー85の重心の位置を示す座標点である。座標点SP6は、支柱83の足元部分の位置を示す座標点である。座標点SP7は、支柱84の足元部分の位置を示す座標点である。座標点SP8は、バー86の重心の位置を示す座標点である。座標点SP9は、水溜りPの表面に映りこんだ支柱87の先端の位置を示す座標点である。座標点SP10は、水溜りPの表面に映りこんだ支柱88の先端の位置を示す座標点である。例えば、座標点SP6や座標点SP7は、上述した第2予測俯瞰画像72’(t)と第2俯瞰画像72(t)との差分画像において除去された部分の位置における座標点として得られる。なお、
図13では、座標点SP1〜座標点SP10を白抜きの星で示している。
【0110】
図14に示す第2予測俯瞰画像72’(t)に映り込んだ座標点SP1’,SP2’は、第1俯瞰画像72(t−Δt)に映り込んだ座標点SP1,SP2に対応する座標点である。同様に、座標点SP3’,SP4’,SP5’,SP6’,SP7’,SP8’,SP9’,SP10’も、それぞれが、座標点SP3,SP4,SP5,SP6,SP7,SP8,SP9,SP10に対応している。なお、
図14では、座標点SP1’〜座標点SP10’を黒塗りの星で示している。
【0111】
次に、投影座標点出力部60は、
図15に示すように、座標点同士の間隔と閾値との比較判定を行う。
図15は、第1俯瞰画像72(t−Δt)と第2予測俯瞰画像72’(t)とを移動及び回転させて、両俯瞰画像の位置を合わせた後に重畳した重畳俯瞰画像上に、座標点SP1〜SP10と、座標点SP1’〜SP10’のみを映し出した状態を示す。投影座標点出力部60は、
図15に示すように、間隔D1,間隔D2,間隔D3,間隔D4,間隔D5,間隔D6,間隔D7,間隔D8,間隔D9,間隔D10の夫々と、予め定められた閾値とを比較する。
【0112】
間隔D1は、座標点SP1,SP1’同士の車両10の進行方向の間隔である。間隔D2は、座標点SP2,SP2’同士の車両10の進行方向の間隔である。間隔D3は、座標点SP3,SP3’同士の車両10の進行方向の間隔である。間隔D4は、座標点SP4,SP4’同士の車両10の進行方向の間隔である。間隔D5は、座標点SP5,SP5’同士の車両10の進行方向の間隔である。間隔D6は、座標点SP6,SP6’同士の車両10の進行方向の間隔である。間隔D7は、座標点SP7,SP7’同士の車両10の進行方向の間隔である。間隔D8は、座標点SP8,SP8’同士の車両10の進行方向の間隔である。間隔D9は、座標点SP9,SP9’同士の車両10の進行方向の間隔である。間隔D10は、座標点SP10,SP10’同士の車両10の進行方向の間隔である。
【0113】
図15では、間隔D1が略ゼロであるため、座標点SP1及びこれに対応する座標点SP1’を同じ星印で示し、間隔D1の図示を省略している。間隔D2も略ゼロであるため、座標点SP2及びこれに対応する座標点SP2’を同じ星印で示し、間隔D2の図示を省略している。同様に、間隔D3,間隔D4,間隔D6,間隔D7のそれぞれも略ゼロであるため、これら間隔の図示を省略している。投影座標点出力部60は、
図15に示すように、間隔D1,D2,D3,D4,D6,D7の夫々を閾値以下と判定する。この判定のもと、重畳俯瞰画像上には、
図16に示すように、座標点SP1’,SP2’,SP3’,SP4’,SP6’,SP7’が表示された状態で残される。
【0114】
投影座標点出力部60は、間隔D5,D8,D9,D10の夫々については閾値を超えるものと判定する。この判定のもと、重畳俯瞰画像上からは、
図16に示すように、座標点SP5’,SP8’,SP9’,SP10’が消去される。
【0115】
以上説明したように、本実施形態の周辺監視装置100では、投影座標点特定部53は、重畳俯瞰画像SVI上で、第1直線L1と第1直線L21とが交差する点を、バー85の真下にある路面80にバー85を投影した投影座標点SP1として特定する。投影座標点特定部53は、重畳俯瞰画像SVI上で、第2直線L2と第2直線L22とが交差する点を、バー86の真下にある路面80にバー86を投影した投影座標点SP2として特定する。特定された投影座標点SP1,SP2は、投影座標点出力部60において重畳俯瞰画像上でモニタ150に表示される。従って、車両10の運転手は、モニタ150に映し出された重畳俯瞰画像を通じて、バー85,86の位置を明確に把握できる。そのため、車両10の周辺に存在するバー85,86に車両10が接触してしまうことを抑制することができる。
【0116】
また、本実施形態の周辺監視装置100によれば、投影座標点出力部60は、間隔D5,D8の夫々については閾値を超えるものと判定し、重畳俯瞰画像上から座標点SP5’,SP8’を消去する。座標点SP5’は、バー85の重心の位置を示す座標点SP5に対応している。座標点SP8’は、バー86の重心の位置を示す座標点SP8に対応している。バー85,86の重心の位置を示す座標点SP5,SP8は、俯瞰画像の特性上、実際の重心の位置よりも遠くにあるように見えてしまう。従って、このような実際の位置と異なる座標点を重畳俯瞰画像上から消去することで、使い勝手が向上する。
【0117】
なお、上記実施形態では、撮像部12の視野範囲(画角)を180°に設定する例を示した。しかし、これに限られない。撮像部12の視野範囲(画角)を180°以外の角度に設定してもよい。例えば、撮像部12の視野範囲(画角)を120°に設定し、
図4に示す立体物領域72(t−Δt)_1,72(t−Δt)_6を撮像部12の視野外となる不可視領域としてもよい。
【0118】
なお、上記実施形態では、投影座標点出力部60は、バーの真下にある路面80にバーを投影した投影座標点をモニタ150に表示する例を示した。しかし、これに限られない。投影座標点出力部60は、投影座標点を音声出力してもよい。
【0119】
なお、上記実施形態では、車両10の左方に取り付けた左方カメラ12aで撮像部12を構成する例を示した。しかし、これに限られない。例えば、車両10の前方に取り付けた前方カメラや、車両10の後方に取り付けた後方カメラや、車両10の右方に取り付けた右方カメラで撮像部12を構成してもよい。
【0120】
なお、上記実施形態では、立体物検出部40は、俯瞰画像同士の輝度の差を利用して、立体物領域を検出する例を示した。しかし、これに限られない。例えば、立体物検出部40は、俯瞰画像同士で、エッジ検出を行った結果の類似性(エッジ強度、エッジ方向の類似性)や、俯瞰画像を複数の小ブロックに分割して、各小ブロックから得た、濃淡ヒストグラムやエッジ検出結果のヒストグラムの類似性等を用いて、立体物領域を検出してもよい。
【0121】
なお、上記実施形態では、立体物領域抽出部を、第1立体物領域抽出部51と第2立体物領域抽出部52とで構成する例を示した。しかし、これに限られない。例えば、立体物領域抽出部は、単一の立体物領域抽出部で構成されてもよい。
【0122】
以上、本発明の実施形態を図面により詳述したが、実施形態は本発明の例示にしか過ぎないものであるため、本発明は実施形態の構成にのみ限定されるものではなく、本発明の要旨を逸脱しない範囲の設計の変更等があっても、本発明に含まれることは勿論である。