(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-05
(45)【発行日】2024-11-13
(54)【発明の名称】画像制御システム
(51)【国際特許分類】
H04N 7/18 20060101AFI20241106BHJP
H04N 23/698 20230101ALI20241106BHJP
H04N 23/60 20230101ALI20241106BHJP
H04N 23/63 20230101ALI20241106BHJP
H04N 23/695 20230101ALI20241106BHJP
B60R 1/28 20220101ALI20241106BHJP
B60R 1/20 20220101ALI20241106BHJP
【FI】
H04N7/18 V
H04N7/18 J
H04N23/698
H04N23/60
H04N23/63
H04N23/695
B60R1/28 100
B60R1/20 100
(21)【出願番号】P 2021177843
(22)【出願日】2021-10-29
【審査請求日】2023-11-08
(73)【特許権者】
【識別番号】000003207
【氏名又は名称】トヨタ自動車株式会社
(74)【代理人】
【識別番号】110000213
【氏名又は名称】弁理士法人プロスペック特許事務所
(72)【発明者】
【氏名】日隈 友仁
(72)【発明者】
【氏名】稲垣 純平
(72)【発明者】
【氏名】窪田 陽介
【審査官】塚本 丈二
(56)【参考文献】
【文献】特開2016-189576(JP,A)
【文献】特開2018-74503(JP,A)
【文献】特開2019-118016(JP,A)
【文献】特開平10-257482(JP,A)
【文献】米国特許出願公開第2014/0277940(US,A1)
【文献】国際公開第2019/058504(WO,A1)
【文献】国際公開第2010/122747(WO,A1)
【文献】国際公開第2004/035352(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
H04N 23/698
H04N 23/60
H04N 23/63
H04N 23/695
B60R 1/28
B60R 1/20
(57)【特許請求の範囲】
【請求項1】
車両の後方に拡がる後方撮像範囲に存在する物標及び区画線を撮像する後方撮像装置と、
前記車両の左後方に拡がり前記後方撮像範囲と部分的に重複している左後方撮像範囲に存在する物標及び区画線を撮像する左後方撮像装置と、
前記車両の右後方に拡がり前記後方撮像範囲と部分的に重複している右後方撮像範囲に存在する物標及び区画線を撮像する右後方撮像装置と、
表示画面を有する表示装置と、
前記後方撮像装置により撮像して得られた後方画像データ、前記左後方撮像装置により撮像して得られた左後方画像データ、及び、前記右後方撮像装置により撮像して得られた右後方画像データを取得し、
これらの画像データに基づいてパノラマ形式の合成画像を生成し、
前記表示装置の前記表示画面に前記合成画像を表示する、
ように構成された画像制御装置と、
を備える画像制御システムにおいて、
前記後方撮像範囲、前記左後方撮像範囲及び前記右後方撮像範囲のうち、前記合成画像の生成に使用される撮像範囲をそれぞれ後方実効範囲、左後方実効範囲及び右後方実効範囲と規定し、
前記後方撮像装置の光軸の方位を後方基準方位とした場合における、前記後方実効範囲の水平方向の画角を規定する境界線のうち、前記車両の左側の境界線である後方左側境界線及び前記車両の右側の境界線である後方右側境界線の前記後方基準方位からの角度をそれぞれ後方左側方位角及び後方右側方位角と規定し、
前記左後方撮像装置の光軸の方位を左後方基準方位とした場合における、前記左後方実効範囲の水平方向の画角を規定する境界線のうち、前記車両の車幅方向内側の境界線である左後方内側境界線の前記左後方基準方位からの角度を左後方内側方位角と規定し、
前記右後方撮像装置の光軸の方位を右後方基準方位とした場合における、前記右後方実効範囲の水平方向の画角を規定する境界線のうち、前記車両の車幅方向内側の境界線である右後方内側境界線の前記右後方基準方位からの角度を右後方内側方位角と規定すると、
前記画像制御装置は、
前記後方左側方位角及び前記後方右側方位角の大きさを、前記後方撮像装置の水平画角の範囲内でそれぞれ互いに独立して変更することにより前記後方実効範囲を変更可能であり、
前記左後方内側方位角の大きさを前記左後方撮像装置の水平画角の範囲内で変更することにより前記左後方実効範囲を変更可能であり、
前記右後方内側方位角の大きさを前記右後方撮像装置の水平画角の範囲内で変更することにより前記右後方実効範囲を変更可能であり、
前記これらの画像データから検出された前記区画線に基づいて、前記車両が位置している自車線と、前記自車線にその左側で隣接している左車線と、前記自車線にその右側で隣接している右車線と、の位置及び形状を演算し、
前記合成画像を生成する際は、
前記これらの画像データから検出された、前記車両の後端部より後方に位置する前記物標のうち、前記自車線、前記左車線及び前記右車線のそれぞれにおいて前記車両から最も近い物標である後方対象物標、左後方対象物標及び右後方対象物標を特定し、
前記後方対象物標の有無及び前記後方対象物標までの遠近の程度と、前記左後方対象物標の有無及び前記左後方対象物標までの遠近の程度と、の組み合わせに基づいて前記後方左側方位角の大きさを変更し、
前記後方対象物標の有無及び前記後方対象物標までの遠近の程度と、前記右後方対象物標の有無及び前記右後方対象物標までの遠近の程度と、の組み合わせに基づいて前記後方右側方位角の大きさを変更し、
前記後方左側方位角又は前記後方右側方位角の大きさが比較的に小さい値に変更された場合、前記左後方内側方位角又は前記右後方内側方位角の大きさをそれぞれ比較的に大きい値に変更することにより前記合成画像を生成し、
前記後方左側方位角又は前記後方右側方位角の大きさが比較的に大きい値に変更された場合、前記左後方内側方位角又は前記右後方内側方位角の大きさをそれぞれ比較的に小さい値に変更することにより前記合成画像を生成する、
ように構成された、
画像制御システム。
【請求項2】
請求項1に記載の画像制御システムにおいて、
前記画像制御装置は、
前記後方左側方位角を、第1後方左側角度と、前記第1後方左側角度よりも大きさが大きい第2後方左側角度と、の間で変更可能であり、
前記後方右側方位角を、第1後方右側角度と、前記第1後方右側角度よりも大きさが大きい第2後方右側角度と、の間で変更可能であり、
前記左後方内側方位角を、第1左後方内側角度と、前記第1左後方内側角度よりも大きさが大きい第2左後方内側角度と、の間で変更可能であり、
前記右後方内側方位角を、第1右後方内側角度と、前記第1右後方内側角度よりも大きさが大きい第2右後方内側角度と、の間で変更可能である、
ように構成された、
画像制御システム。
【請求項3】
請求項1又は請求項2に記載の画像制御システムにおいて、
前記画像制御装置は、
前記車両の後端部から固定値として定められた所定の投影距離だけ後方に離間した位置に前記車両の接地面と直交する仮想的な投影面を設定し、
前記車両上又はその近傍に仮想的に設定される視点を基準として前記後方実効範囲、前記左後方実効範囲及び前記右後方実効範囲に存在する前記物標及び前記区画線を前記投影面に投影することにより得られる画像を前記合成画像として生成し、
前記合成画像を生成する際は、
前記後方左側境界線と前記左後方内側境界線との交点である左側交点、及び、前記後方右側境界線と前記右後方内側境界線との交点である右側交点が、前記車両の平面視において前記投影面上に位置するように、前記後方左側方位角、前記左後方内側方位角、前記後方右側方位角及び前記右後方内側方位角のそれぞれを変更する、
ように構成された、
画像制御システム。
【請求項4】
請求項3に記載の画像制御システムにおいて、
前記車両の後端部を通過し前記車両の車幅方向に延びる第1直線と、前記第1直線から所定の第1距離だけ後方に離間しており前記第1直線と平行な第2直線と、の間の領域を第1ゾーンと規定し、前記第2直線と、前記第1直線から所定の第2距離だけ後方に離間しており前記第1直線と平行な第3直線と、の間の領域を第2ゾーンと規定し、前記第3直線より後方の領域を第3ゾーンと規定すると、
前記投影距離は、前記第1距離より長く且つ前記第2距離より短く、
前記車両の左後方角部及び右後方角部から後方に前記車両の前後軸と平行に延びる左仮想線及び右仮想線と、前記投影面と、の交点をそれぞれ第1交点及び第2交点と規定すると、
前記後方左側方位角又は前記後方右側方位角の大きさを前記比較的に小さい値に変更する際は、前記車両の平面視において、前記左側交点又は前記右側交点が、前記第1交点上若しくはその近傍、又は、前記第2交点上若しくはその近傍にそれぞれ位置しており、
前記後方左側方位角又は前記後方右側方位角の大きさを前記比較的に大きい値に変更する際は、前記左側交点又は前記右側交点が、前記第1交点又は前記第2交点から前記車両の車幅方向外側に、一般的な車線幅以上の所定の距離だけ離間した位置にそれぞれ位置している、
画像制御システム。
【請求項5】
請求項4に記載の画像制御システムにおいて、
前記投影距離は、前記第1距離と前記第2距離との和の2分の1よりも小さい、
画像制御システム。
【請求項6】
請求項4又は請求項5に記載の画像制御システムにおいて、
前記画像制御装置は、
前記後方対象物標が前記第1ゾーンに位置しており、且つ、前記左後方対象物標が前記第1ゾーンよりも後方に位置している場合、前記後方左側方位角の大きさを前記比較的に大きい値に変更し、
前記後方対象物標が前記第1ゾーンに位置しており、且つ、前記右後方対象物標が前記第1ゾーンよりも後方に位置している場合、前記後方右側方位角の大きさを前記比較的に大きい値に変更する、
ように構成された、
画像制御システム。
【請求項7】
請求項4乃至請求項6の何れか一項に記載の画像制御システムにおいて、
前記画像制御装置は、
前記後方対象物標が前記第1ゾーンに位置しており、且つ、前記左後方対象物標が存在していない場合、前記後方左側方位角の大きさを前記比較的に大きい値に変更し、
前記後方対象物標が前記第1ゾーンに位置しており、且つ、前記右後方対象物標が存在していない場合、前記後方右側方位角の大きさを前記比較的に大きい値に変更する、
ように構成された、
画像制御システム。
【請求項8】
請求項4乃至請求項7の何れか一項に記載の画像制御システムにおいて、
前記画像制御装置は、
前記後方対象物標及び前記左後方対象物標が何れも前記第1ゾーンに位置している場合、前記後方左側方位角の大きさを前記比較的に小さい値に変更し、
前記後方対象物標及び前記右後方対象物標が何れも前記第1ゾーンに位置している場合、前記後方右側方位角の大きさを前記比較的に小さい値に変更する、
ように構成された、
画像制御システム。
【請求項9】
請求項4乃至請求項8の何れか一項に記載の画像制御システムにおいて、
前記画像制御装置は、
前記後方対象物標及び前記左後方対象物標が何れも前記第3ゾーンに位置している場合、前記後方左側方位角の大きさを前記比較的に大きい値に変更し、
前記後方対象物標及び前記右後方対象物標が何れも前記第3ゾーンに位置している場合、前記後方右側方位角の大きさを前記比較的に大きい値に変更し、
前記後方対象物標が存在しておらず、且つ、前記左後方対象物標が前記第3ゾーンに位置している場合、前記後方左側方位角の大きさを前記比較的に大きい値に変更し、
前記後方対象物標が存在しておらず、且つ、前記右後方対象物標が前記第3ゾーンに位置している場合、前記後方右側方位角の大きさを前記比較的に大きい値に変更する、
ように構成された、
画像制御システム。
【請求項10】
請求項1乃至請求項9の何れか一項に記載の画像制御システムにおいて、
前記画像制御装置は、
前記合成画像を生成する場合において、
前記後方左側方位角及び前記左後方内側方位角を変更するときはこれらの方位角をそれぞれ連続的に変更し、
前記後方右側方位角及び前記右後方内側方位角を変更するときはこれらの方位角をそれぞれ連続的に変更する、
ように構成された、
画像制御システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数の撮像装置により取得された画像データからパノラマ形式の合成画像を生成して表示装置に表示する画像制御システムに関する。
【背景技術】
【0002】
従来から、複数の撮像装置(典型的には、車載カメラ)により取得された画像データからパノラマ形式の合成画像を生成して表示装置に表示する技術が知られている。例えば、特許文献1に記載の画像表示制御装置(以下、「従来装置」とも称する。)は、車体の後部から後方を撮像した第一の後方画像と、車体の右後方を撮像した第二の後方画像と、車体の左後方を撮像した第三の後方画像と、を取得する。従来装置は、これらの後方画像に基づいて物標が検出されたと判定した場合、車体の後部から物標までの距離に基づいて算出されたホモグラフィを用いて当該距離が短くなるほど第一の後方画像の画角が広くなるように第一乃至第三の後方画像をそれぞれ変換する。そして、変換された後方画像を合成して車体の後端部を視点とするパノラマ形式の合成画像を生成して表示装置に表示する。なお、特許文献1では、物標は「障害物」と記載されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【0004】
特許文献1には、従来装置によれば、合成画像の繋ぎ目を滑らかにして、物標の全体を合成画像に表示することができると記載されている。しかしながら、従来装置の構成では、複数の物標が検出された場合にはこれらの物標を合成画像に適切に表示できない可能性がある。即ち、従来装置は、検出された1つの物標について、車体の後部から当該物標までの距離が短くなるほど第一の後方画像の画角が広くなるように第一乃至第三の後方画像を変換するように構成されている。このため、当該物標については上述した変換処理を行うことにより物標の全体を表示させることが可能になると考えられる。しかしながら、特許文献1では、他に物標が検出されている場合には各後方画像をどのように変換するかについては何らの検討もされていないため、これら他の物標は合成画像に適切に表示されない可能性があり、結果として車両の走行安全性の低下を引き起こす可能性がある。
【0005】
とはいえ、検出された全ての物標を合成画像に適切に表示させようとすると、変換処理が煩雑になり従来装置の処理負荷が増大する可能性がある。
【0006】
本発明は、上述した問題に対処するためになされたものである。即ち、本発明の目的の一つは、車両の走行に影響を与える可能性が比較的に高い物標を合成画像に適切に表示することと、合成画像の生成にかかる処理負荷の増大を抑制することと、を両立することが可能な画像制御システムを提供することにある。
【0007】
本発明による画像制御システム(以下、「本発明システム」とも称する。)は、
車両(V)の後方に拡がる後方撮像範囲(Rre)に存在する物標及び区画線を撮像する後方撮像装置(11Re)と、
前記車両の左後方に拡がり前記後方撮像範囲と部分的に重複している左後方撮像範囲(Rl)に存在する物標及び区画線を撮像する左後方撮像装置(11L)と、
前記車両の右後方に拡がり前記後方撮像範囲と部分的に重複している右後方撮像範囲(Rr)に存在する物標及び区画線を撮像する右後方撮像装置(11R)と、
表示画面(12a)を有する表示装置(12)と、
前記後方撮像装置により撮像して得られた後方画像データ、前記左後方撮像装置により撮像して得られた左後方画像データ、及び、前記右後方撮像装置により撮像して得られた右後方画像データを取得し、
これらの画像データに基づいてパノラマ形式の合成画像を生成し、
前記表示装置の前記表示画面に前記合成画像を表示する、
ように構成された画像制御装置(10)と、
を備える。
前記後方撮像範囲、前記左後方撮像範囲及び前記右後方撮像範囲のうち、前記合成画像の生成に使用される撮像範囲をそれぞれ後方実効範囲(Rrea)、左後方実効範囲(Rla)及び右後方実効範囲(Rra)と規定し、
前記後方撮像装置の光軸(Are)の方位を後方基準方位とした場合における、前記後方実効範囲の水平方向の画角を規定する境界線(30la、30ra)のうち、前記車両の左側の境界線である後方左側境界線(30la)及び前記車両の右側の境界線である後方右側境界線(30ra)の前記後方基準方位からの角度をそれぞれ後方左側方位角(θl)及び後方右側方位角(θr)と規定し、
前記左後方撮像装置の光軸(Al)の方位を左後方基準方位とした場合における、前記左後方実効範囲の水平方向の画角を規定する境界線(40ia、40oa)のうち、前記車両の車幅方向内側の境界線である左後方内側境界線(40ia)の前記左後方基準方位からの角度を左後方内側方位角(θli)と規定し、
前記右後方撮像装置の光軸(Ar)の方位を右後方基準方位とした場合における、前記右後方実効範囲の水平方向の画角を規定する境界線(50ia、50oa)のうち、前記車両の車幅方向内側の境界線である右後方内側境界線(50ia)の前記右後方基準方位からの角度を右後方内側方位角(θri)と規定すると、
前記画像制御装置(10)は、
前記後方左側方位角(θl)及び前記後方右側方位角(θr)の大きさを、前記後方撮像装置の水平画角の範囲内でそれぞれ互いに独立して変更することにより前記後方実効範囲(Rrea)を変更可能であり、
前記左後方内側方位角(θli)の大きさを前記左後方撮像装置の水平画角の範囲内で変更することにより前記左後方実効範囲(Rla)を変更可能であり、
前記右後方内側方位角(θri)の大きさを前記右後方撮像装置の水平画角の範囲内で変更することにより前記右後方実効範囲(Rra)を変更可能であり、
前記これらの画像データから検出された前記区画線(d1、d2、d3、d4)に基づいて、前記車両が位置している自車線(L)と、前記自車線にその左側で隣接している左車線(Ll)と、前記自車線にその右側で隣接している右車線(Lr)と、の位置及び形状を演算し、
前記合成画像を生成する際は、
前記これらの画像データから検出された、前記車両の後端部より後方に位置する前記物標のうち、前記自車線、前記左車線及び前記右車線のそれぞれにおいて前記車両から最も近い物標である後方対象物標、左後方対象物標及び右後方対象物標を特定し、
前記後方対象物標の有無及び前記後方対象物標までの遠近の程度と、前記左後方対象物標の有無及び前記左後方対象物標までの遠近の程度と、の組み合わせに基づいて前記後方左側方位角(θl)の大きさを変更し、
前記後方対象物標の有無及び前記後方対象物標までの遠近の程度と、前記右後方対象物標の有無及び前記右後方対象物標までの遠近の程度と、の組み合わせに基づいて前記後方右側方位角(θr)の大きさを変更し、
前記後方左側方位角(θl)又は前記後方右側方位角(θr)の大きさが比較的に小さい値に変更された場合、前記左後方内側方位角(θli)又は前記右後方内側方位角(θri)の大きさをそれぞれ比較的に大きい値に変更することにより前記合成画像を生成し、
前記後方左側方位角又は前記後方右側方位角の大きさが比較的に大きい値に変更された場合、前記左後方内側方位角又は前記右後方内側方位角の大きさをそれぞれ比較的に小さい値に変更することにより前記合成画像を生成する、
ように構成されている。
【0008】
本発明システムでは、合成画像を生成する際は、後方対象物標(自車線において車両から最も近い物標)の有無及び後方対象物標までの遠近の程度(例えば、「近い」、「中間」又は「遠い」の何れか)と、左後方対象物標(左車線において車両から最も近い物標)の有無及び左後方対象物標までの遠近の程度と、の組み合わせに基づいて、後方左側方位角(後方実効範囲の水平方向の画角を規定する境界線のうち車両の左側の境界線(後方左側境界線)の、後方基準方位からの角度)の大きさが変更される。そして、後方左側方位角の大きさが変更されると、当該変更に伴って左後方内側方位角(左後方実効範囲の水平方向の画角を規定する境界線のうち車幅方向内側の境界線(左後方内側境界線)の、左後方基準方位からの角度)の大きさが変更される。上記組み合わせに基づいて後方左側方位角の大きさ及び左後方内側方位角の大きさをそれぞれ適切に変更することにより、後方対象物標及び左後方対象物標(何れか一方しか検出されていない場合は、当該検出された物標)を合成画像に適切に表示できる。
【0009】
同様に、本発明システムでは、合成画像を生成する際は、後方対象物標の有無及び後方対象物標までの遠近の程度と、右後方対象物標(右車線において車両から最も近い物標)の有無及び右後方対象物標までの遠近の程度と、の組み合わせに基づいて、後方右側方位角(後方実効範囲の水平方向の画角を規定する境界線のうち車両の右側の境界線(後方右側境界線)の、後方基準方位からの角度)の大きさが変更される。そして、後方右側方位角の大きさが変更されると、当該変更に伴って右後方内側方位角(右後方実効範囲の水平方向の画角を規定する境界線のうち車幅方向内側の境界線(右後方内側境界線)の、右後方基準方位からの角度)の大きさが変更される。上記組み合わせに基づいて後方右側方位角の大きさ及び右後方内側方位角の大きさをそれぞれ適切に変更することにより、後方対象物標及び右後方対象物標(何れか一方しか検出されていない場合は、当該検出された物標)を合成画像に適切に表示できる。
【0010】
ここで、車両の後方に位置する物標のうち、車両の走行に影響を与える可能性が比較的に高い物標は、自車線、左車線及び右車線のそれぞれにおいて車両から最も近い物標(即ち、後方対象物標、左後方対象物標及び右後方対象物標)である。このため、本発明システムの構成によれば、車両の走行に影響を与える可能性が比較的に高い物標を合成画像に適切に表示することができる。
加えて、後方左側方位角及び左後方内側方位角の変更、並びに、後方右側方位角及び右後方内側方位角の変更は、後方対象物標、左後方対象物標及び右後方対象物標に関する情報(即ち、これら対象物標の有無及びこれら対象物標までの遠近の程度)のみに基づいて行われ、その他の物標に関する情報は考慮されない。従って、合成画像の生成にかかる処理負荷が増大することを抑制することができる。
【0011】
本発明の一側面では、
前記画像制御装置(10)は、
前記後方左側方位角(θl)を、第1後方左側角度(θn)と、前記第1後方左側角度よりも大きさが大きい第2後方左側角度(θw)と、の間で変更可能であり、
前記後方右側方位角(θr)を、第1後方右側角度(-θn)と、前記第1後方右側角度よりも大きさが大きい第2後方右側角度(-θw)と、の間で変更可能であり、
前記左後方内側方位角(θli)を、第1左後方内側角度(-θ1)と、前記第1左後方内側角度よりも大きさが大きい第2左後方内側角度(-θ2)と、の間で変更可能であり、
前記右後方内側方位角(θri)を、第1右後方内側角度(θ1)と、前記第1右後方内側角度よりも大きさが大きい第2右後方内側角度(θ2)と、の間で変更可能である、
ように構成されている。
【0012】
この構成によれば、比較的に簡易な構成で、後方対象物標、左後方対象物標及び右後方対象物標を合成画像に適切に表示できる。
【0013】
本発明の一側面では、
前記画像制御装置(10)は、
前記車両(V)の後端部から固定値として定められた所定の投影距離(D3)だけ後方に離間した位置に前記車両の接地面と直交する仮想的な投影面(Sp)を設定し、
前記車両上又はその近傍に仮想的に設定される視点(Pv)を基準として前記後方実効範囲(Rrea)、前記左後方実効範囲(Rla)及び前記右後方実効範囲(Rra)に存在する前記物標及び前記区画線を前記投影面に投影することにより得られる画像を合成画像として生成し、
前記合成画像を生成する際は、
前記後方左側境界線(30la)と前記左後方内側境界線(40ia)との交点である左側交点(Pl)、及び、前記後方右側境界線(30ra)と前記右後方内側境界線(50ia)との交点である右側交点(Pr)が、前記車両の平面視において前記投影面上に位置するように、前記後方左側方位角(θl)、前記左後方内側方位角(θli)、前記後方右側方位角(θr)及び前記右後方内側方位角(θri)のそれぞれを変更する、
ように構成されている。
【0014】
本発明の一側面では、左側交点(後方左側境界線と左後方内側境界線との交点)が車両の平面視において投影面上に位置する。このため、後方実効範囲と左後方実効範囲との重複部分(重複領域)を最小限に抑えることができ、合成画像において物標及び/又は区画線が二重に表示される範囲を最小限に留めることができる。同様に、本発明システムでは、右側交点(後方右側境界線と右後方内側境界線との交点)が車両の平面視において投影面上に位置する。このため、後方実効範囲と右後方実効範囲との重複部分(重複領域)を最小限に抑えることができ、合成画像において物標及び/又は区画線が二重に表示される範囲を最小限に留めることができる。以下では、合成画像において物標及び/又は区画線が二重に表示されることを「二重化現象」とも称する。
【0015】
なお、左側交点は、合成画像における後方画像データと左後方画像データ(厳密には、後方画像データのうち後方実効範囲に対応する画像データと、左後方画像データのうち左後方実効範囲に対応する画像データ)との繋ぎ目に位置している。また、右側交点は、合成画像における後方画像データと右後方画像データ(厳密には、後方画像データのうち後方実効範囲に対応する画像データと、右後方画像データのうち右後方実効範囲に対応する画像データ)との繋ぎ目に位置している。
【0016】
この場合、
前記車両(V)の後端部を通過し前記車両の車幅方向に延びる第1直線(21)と、前記第1直線から所定の第1距離(D1)だけ後方に離間しており前記第1直線と平行な第2直線(22)と、の間の領域を第1ゾーン(Z1)と規定し、前記第2直線と、前記第1直線から所定の第2距離(D2)だけ後方に離間しており前記第1直線と平行な第3直線(23)と、の間の領域を第2ゾーン(Z2)と規定し、前記第3直線(23)より後方の領域を第3ゾーン(Z3)と規定すると、
前記投影距離(D3)は、前記第1距離より長く且つ前記第2距離より短く、
前記車両の左後方角部(Cl)及び右後方角部(Cr)から後方に前記車両の前後軸(A)と平行に延びる左仮想線及び右仮想線と、前記投影面(Sp)と、の交点をそれぞれ第1交点(P11)及び第2交点(P12)と規定すると、
前記後方左側方位角(θl)又は前記後方右側方位角(θr)の大きさを前記比較的に小さい値に変更する際は、前記車両の平面視において、前記左側交点(Pl)又は前記右側交点(Pr)が、前記第1交点上若しくはその近傍、又は、前記第2交点上若しくはその近傍にそれぞれ位置しており、
前記後方左側方位角又は前記後方右側方位角の大きさを前記比較的に大きい値に変更する際は、前記左側交点又は前記右側交点が、前記第1交点又は前記第2交点から前記車両の車幅方向外側に、一般的な車線幅以上の所定の距離だけ離間した位置にそれぞれ位置している。
【0017】
この構成によれば、後方対象物標と左後方対象物標(又は右後方対象物標)との上記組み合わせがいかなる組み合わせであっても、後方対象物標、左後方対象物標及び右後方対象物標を合成画像に適切に表示できる。
【0018】
この場合、
前記投影距離(D3)は、前記第1距離(D1)と前記第2距離(D2)との和の2分の1よりも小さい。
【0019】
この構成によれば、後方対象物標と左後方対象物標(又は右後方対象物標)との上記組み合わせがいかなる組み合わせであっても、後方対象物標、左後方対象物標及び右後方対象物標を合成画像に更に適切に表示できる。
【0020】
本発明の一側面では、
前記画像制御装置(10)は、
前記後方対象物標が前記第1ゾーン(Z1)に位置しており、且つ、前記左後方対象物標が前記第1ゾーンよりも後方に位置している場合、前記後方左側方位角(θl)の大きさを前記比較的に大きい値に変更し、
前記後方対象物標が前記第1ゾーンに位置しており、且つ、前記右後方対象物標が前記第1ゾーンよりも後方に位置している場合、前記後方右側方位角(θr)の大きさを前記比較的に大きい値に変更する、
ように構成されている。
【0021】
この構成では、後方対象物標と左後方対象物標(又は右後方対象物標)との位置関係によっては、左後方対象物標(又は右後方対象物標)が後方対象物標の奥に隠れてしまい、合成画像に左後方対象物標(又は右後方対象物標)が表示されない可能性がある(以下、この現象を「隠れ現象」とも称する。)。一方で、後方左側方位角(又は後方右側方位角)の大きさを比較的に小さい値に変更すると、後方対象物標の一部(典型的には、前方角部)が合成画像から見切れてしまう可能性がある(以下、この現象を「見切れ現象」とも称する。)。即ち、後方対象物標のウインカーランプが合成画像に表示されず、結果として、車両の運転者が、後方対象物標に車線変更の意図があるか否かを合成画像から判断することができない可能性がある。後方対象物標に車線変更の意図があるにも関わらず、当該意図に気付かないまま車両が車線変更すると、後方対象物標が車両に過度に接近したり接触したりする可能性があり、車両の走行安全性が低下する。
【0022】
そこで、本発明の一側面では、後方対象物標が第1ゾーンに位置しており、且つ、左後方対象物標(又は右後方対象物標)が第1ゾーンよりも後方に位置している場合、後方左側方位角(又は後方右側方位角)の大きさが比較的に大きい値に変更される。即ち、後方対象物標の見切れ現象の改善を、左後方対象物標(又は右後方対象物標)の隠れ現象の改善よりも優先している。この構成によれば、少なくとも後方対象物標を合成画像に適切に表示できるため、車両の走行安全性の低下を抑制できる。
【0023】
本発明の一側面では、
前記画像制御装置(10)は、
前記後方対象物標が前記第1ゾーン(Z1)に位置しており、且つ、前記左後方対象物標が存在していない場合、前記後方左側方位角(θl)の大きさを前記比較的に大きい値に変更し、
前記後方対象物標が前記第1ゾーンに位置しており、且つ、前記右後方対象物標が存在していない場合、前記後方右側方位角(θr)の大きさを前記比較的に大きい値に変更する、
ように構成されている。
【0024】
後方左側方位角(又は後方右側方位角)の大きさを比較的に小さい値に変更すると、後方対象物標に見切れ現象が発生し、車両の運転者が後方対象物標に車線変更の意図があることに気付かないまま車両が車線変更する場合がある。この場合、後方対象物標が車両に過度に接近したり接触したりする可能性があり、車両の走行安全性が低下する。そこで、本発明の一側面では、後方対象物標が第1ゾーンに位置しており、且つ、左後方対象物標(又は右後方対象物標)が存在していない場合、後方左側方位角(又は後方右側方位角)の大きさが比較的に大きい値に変更される。この構成によれば、後方対象物標を合成画像に適切に表示できるため、車両の走行安全性の低下を抑制できる。
【0025】
本発明の一側面では、
前記画像制御装置(10)は、
前記後方対象物標及び前記左後方対象物標が何れも前記第1ゾーン(Z1)に位置している場合、前記後方左側方位角(θl)の大きさを前記比較的に小さい値に変更し、
前記後方対象物標及び前記右後方対象物標が何れも前記第1ゾーンに位置している場合、前記後方右側方位角(θr)の大きさを前記比較的に小さい値に変更する、
ように構成されている。
【0026】
後方左側方位角(又は後方右側方位角)の大きさを比較的に小さい値に変更すると、左後方対象物標(又は右後方対象物標)は合成画像に適切に表示され得るものの、後方対象物標に見切れ現象が発生し、車両の運転者が後方対象物標に車線変更の意図があることに気付かないまま車両が車線変更する場合がある。この場合、後方対象物標が車両に過度に接近したり接触したりする可能性があり、車両の走行安全性が低下する。一方、後方左側方位角(又は後方右側方位角)の大きさを比較的に大きい値に変更すると、後方対象物標の見切れ現象は解決されるものの、左後方対象物標(又は右後方対象物標)が、後方実効範囲と左後方実効範囲(又は右後方実効範囲)との間の死角領域に位置することに起因して合成画像に表示されない(合成画像において消失する)可能性がある(以下、この現象を「消失現象」とも称する。)。消失現象により運転者が左後方対象物標(又は右後方対象物標)の存在に気付かないまま車両が車線変更すると、直進中の左後方対象物標(又は右後方対象物標)が車両に接触する可能性があり、車両の走行安全性が低下する。
【0027】
ここで、後方対象物標に見切れ現象が発生したとしても、合成画像にはその一部が表示されるため、運転者は後方対象物標の存在自体は認識できる。これに対し、左後方対象物標(又は右後方対象物標)に消失現象が発生すると、合成画像には当該対象物標が全く表示されないため、運転者は当該対象物標の存在を認識できない。そこで、本発明の一側面では、後方対象物標及び左後方対象物標(又は右後方対象物標)が何れも第1ゾーンに位置している場合、後方左側方位角(又は後方右側方位角)の大きさが比較的に小さい値に変更される。即ち、左後方対象物標(又は右後方対象物標)の消失現象の改善を、後方対象物標の見切れ現象の改善よりも優先している。この構成によれば、左後方対象物標(又は右後方対象物標)を合成画像に適切に表示できるため、車両の走行安全性の低下を抑制できる。
【0028】
本発明の一側面では、
前記画像制御装置(10)は、
前記後方対象物標及び前記左後方対象物標が何れも前記第3ゾーン(Z3)に位置している場合、前記後方左側方位角(θl)の大きさを前記比較的に大きい値に変更し、
前記後方対象物標及び前記右後方対象物標が何れも前記第3ゾーンに位置している場合、前記後方右側方位角(θr)の大きさを前記比較的に大きい値に変更し、
前記後方対象物標が存在しておらず、且つ、前記左後方対象物標が前記第3ゾーンに位置している場合、前記後方左側方位角(θl)の大きさを前記比較的に大きい値に変更し、
前記後方対象物標が存在しておらず、且つ、前記右後方対象物標が前記第3ゾーンに位置している場合、前記後方右側方位角(θr)の大きさを前記比較的に大きい値に変更する、
ように構成されている。
【0029】
この構成によれば、左後方対象物標(又は右後方対象物標)に二重化現象が発生しなくなるため、合成画像の見映えが向上する。
【0030】
本発明の一側面では、
前記画像制御装置(10)は、
前記合成画像を生成する場合において、
前記後方左側方位角(θl)及び前記左後方内側方位角(θli)を変更するときはこれらの方位角をそれぞれ連続的に変更し、
前記後方右側方位角(θr)及び前記右後方内側方位角(θri)を変更するときはこれらの方位角をそれぞれ連続的に変更する、
ように構成されている。
【0031】
この構成によれば、合成画像の繋ぎ目の移動が滑らかになるため、合成画像の切り替えを滑らかに行うことができる。
【0032】
上記説明においては、発明の理解を助けるために、実施形態に対応する発明の構成要件に対して、実施形態で用いた符号を括弧書きで添えているが、発明の各構成要件は、前記符号によって規定される実施形態に限定されるものではない。
【図面の簡単な説明】
【0033】
【
図1】本発明の実施形態に係る画像制御システムの概略構成図である。
【
図2】画像制御システムが備える各カメラの設置位置及び撮像範囲を示す平面図である。
【
図3】画像制御システムが備える画像制御ECU10のCPUが実行するルーチンを示すフローチャートである。
【
図4】自車両に対する他車両の相対位置を示す平面図である。
【
図5A】方位角θl及びθrがそれぞれ角度θn及び-θnに変更された場合における実効範囲Rrea、Rla及びRraと投影面とを示す平面図である。
【
図5B】方位角θl及びθrがそれぞれ角度θw及び-θwに変更された場合における実効範囲Rrea、Rla及びRraと投影面とを示す平面図である。
【
図6A】方位角θlの決定に用いられるマトリクスM1である。
【
図6B】方位角θrの決定に用いられるマトリクスM2である。
【
図7A】θl=θnの場合において自車線に対象物標が存在しておらず且つ左車線の対象物標が各ゾーンに位置している様子を示す平面図である。
【
図7B】θl=θwの場合において自車線に対象物標が存在しておらず且つ左車線の対象物標が各ゾーンに位置している様子を示す平面図である。
【
図8A】θl=θnの場合において自車線の対象物標がゾーンZ3に位置しており且つ左車線の対象物標が各ゾーンに位置している様子を示す平面図である。
【
図8B】θl=θwの場合において自車線の対象物標がゾーンZ3に位置しており且つ左車線の対象物標が各ゾーンに位置している様子を示す平面図である。
【
図9A】θl=θnの場合において自車線の対象物標がゾーンZ2に位置しており且つ左車線の対象物標が各ゾーンに位置している様子を示す平面図である。
【
図9B】θl=θwの場合において自車線の対象物標がゾーンZ2に位置しており且つ左車線の対象物標が各ゾーンに位置している様子を示す平面図である。
【
図10A】θl=θnの場合において自車線の対象物標がゾーンZ1に位置しており且つ左車線の対象物標が各ゾーンに位置している様子を示す平面図である。
【
図10B】θl=θwの場合において自車線の対象物標がゾーンZ1に位置しており且つ左車線の対象物標が各ゾーンに位置している様子を示す平面図である。
【
図11】1つ目の比較例としての画像制御システムの撮像範囲を示す平面図であり、合成画像における物標の見切れ現象を説明するために用いられる図である。
【
図12】1つ目の比較例としての画像制御システムの撮像範囲を示す平面図であり、合成画像における物標の二重化現象を説明するために用いられる図である。
【
図13】2つ目の比較例としての画像制御システムの撮像範囲を示す平面図であり、合成画像における物標の消失現象及び隠れ現象を説明するために用いられる図である。
【
図14A】方位角θlの決定に用いられる変形例としてのマトリクスM3である。
【
図14B】方位角θrの決定に用いられる変形例としてのマトリクスM4である。
【発明を実施するための形態】
【0034】
(構成)
図1は、本発明の実施形態に係る画像制御システム1の概略構成図を示す。
図1に示すように、画像制御システム1は、画像制御装置としての画像制御ECU10と、カメラ11と、表示装置12と、を備える。カメラ11及び表示装置12は、画像制御ECU10に接続されている。画像制御ECU10は、マイクロコンピュータを主要部として備える。ECUは、Electronic Control Unitの略である。マイクロコンピュータは、CPU、ROM、RAM及びインターフェース(I/F)等を含み、CPUはROMに格納されたインストラクション(プログラム、ルーチン)を実行することにより各種機能を実現するようになっている。以下では、画像制御システム1が搭載された車両を「自車両」と称する。また、画像制御ECU10を、単に「ECU10」とも称する。
【0035】
カメラ11は、後方撮像装置としての後方カメラ11Reと、左後方撮像装置としての左サイドカメラ11Lと、右後方撮像装置としての右サイドカメラ11Rと、を備える。
図2に示すように、後方カメラ11Reは自車両Vの後端中央部に、その光軸Areが自車両Vの接地面と略平行となるように設置されている。即ち、光軸Areは、自車両Vの前後軸Aと平行となっている。但し、光軸Areの延在方向はこれに限られず、例えば、後方カメラ11Reは、光軸Areがやや下方に傾斜するように設置されてもよい。
【0036】
左サイドカメラ11L及び右サイドカメラ11Rは、自車両Vの左右のサイドミラーの下部に、その光軸Al及び光軸Arが自車両Vの接地面と略平行となるようにそれぞれ設置されている。但し、光軸Al及びArの延在方向はこれに限られず、例えば、左サイドカメラ11L及び右サイドカメラ11Rは、光軸Al及びArがそれぞれやや下方に傾斜するように設置されてもよい。
以下では、後方カメラ11Re、左サイドカメラ11L及び右サイドカメラ11Rを、それぞれ「カメラ11Re、カメラ11L及びカメラ11R」とも称する。なお、カメラ11L及び11Rの設置位置はこれに限られず、例えば、左右のサイドミラーにそれぞれ内蔵されていてもよい。
【0037】
カメラ11Reは、自車両Vの後方(厳密には、真後ろ及び左右斜め後方)の風景を撮像する。範囲Rreは、カメラ11Reの撮像範囲(自車両Vの後方に拡がる後方撮像範囲)の平面図である。撮像範囲Rreは、カメラ11Reの位置を中心とした扇形形状を呈しており、前後軸Aに関して線対称となっている。カメラ11Reの水平画角及び垂直画角は、自車両Vの後方に位置する物標(典型的には、他車両及び自動二輪車)及び区画線が撮像範囲Rreに含まれ得るような値に予め設定されている。本実施形態では、カメラ11Reの水平画角は44度とされているが、特に限定されない。境界線30l及び境界線30rは、それぞれ、カメラ11Reの水平画角を規定する境界線のうち自車両Vの左側の境界線及び右側の境界線である。以下、境界線30l及び30rを、単に「撮像範囲Rreの境界線30l及び30r」とも称する。カメラ11Reは、撮像範囲Rreに存在する被写体(典型的には、物標及び区画線)を撮像し、得られた画像データを後方画像データとしてECU10に出力する。
【0038】
カメラ11Lは、自車両Vの左後方(厳密には、左後側方)の風景を撮像する。範囲Rlは、カメラ11Lの撮像範囲(自車両Vの左後方に拡がる左後方撮像範囲)の平面図である。撮像範囲Rlは、カメラ11Lの位置を中心とした扇形形状を呈する。カメラ11Lの水平画角及び垂直画角は、自車両Vの左後方に位置する物標及び区画線が撮像範囲Rlに含まれ得るような値に予め設定されている。本実施形態では、カメラ11Lの水平画角は45度とされているが、特に限定されない。境界線40i及び境界線40oは、それぞれ、カメラ11Lの水平画角を規定する境界線のうち自車両Vの車幅方向内側の境界線及び車幅方向外側の境界線である。以下、境界線40i及び40oを、単に「撮像範囲Rlの境界線40i及び40o」とも称する。境界線40iは前後軸Aと平行となっているが、境界線40iの延在方向はこれに限られない。撮像範囲Rlは、撮像範囲Rreと部分的に重複している(斜線部分参照)。カメラ11Lは、撮像範囲Rlに位置する被写体を撮像し、得られた画像データを左後方画像データとしてECU10に出力する。
【0039】
カメラ11Rは、自車両Vの右後方(厳密には、右後側方)の風景を撮像する。範囲Rrは、カメラ11Rの撮像範囲(自車両Vの右後方に拡がる右後方撮像範囲)の平面図である。撮像範囲Rrは、カメラ11Rの位置を中心とした扇形形状を呈する。カメラ11Rの水平画角及び垂直画角は、自車両Vの右後方に位置する物標及び区画線が撮像範囲Rrに含まれ得るような値に予め設定されている。本実施形態では、カメラ11Rの水平画角は45度とされているが、特に限定されない。境界線50i及び境界線50oは、それぞれ、カメラ11Rの水平画角を規定する境界線のうち自車両Vの車幅方向内側の境界線及び車幅方向外側の境界線である。以下、境界線50i及び50oを、単に「撮像範囲Rrの境界線50i及び50o」とも称する。境界線50iは前後軸Aと平行となっているが、境界線50iの延在方向はこれに限られない。撮像範囲Rrは、撮像範囲Rreと部分的に重複している(斜線部分参照)。カメラ11Rは、撮像範囲Rrに位置する被写体を撮像し、得られた画像データを右後方画像データとしてECU10に出力する。
なお、
図2では、図を見易くするために、自車両Vの縮尺と、撮像範囲Rre、Rl及びRrの縮尺と、を互いに異ならせて図示している。
【0040】
図1に戻って説明を続ける。表示装置12は、運転者が視認可能な位置に設けられたディスプレイ12a(表示画面)を有する。表示装置12は、例えば、インナーミラー(ルームミラー)であってもよいし、ナビゲーションシステムが備える表示装置であってもよい。前者の場合、ディスプレイ12aにはインナーミラーの鏡面部分が用いられ、後者の場合、ディスプレイ12aにはタッチパネルが用いられる。
【0041】
ECU10は、カメラ11Re、11L及び11Rから出力された後方画像データ、左後方画像データ及び右後方画像データを所定時間Tが経過する毎にそれぞれ取得する。そして、取得したこれらの画像データに基づいてパノラマ形式の合成画像を生成し(詳細は後述)、表示装置12のディスプレイ12aに表示する。
【0042】
(作動の詳細)
続いて、ECU10の作動の詳細について説明する。ECU10のCPUは、イグニッションスイッチがオンされている期間中、
図3にフローチャートにより示したルーチンを所定時間Tが経過する毎に繰り返し実行するように構成されている。
【0043】
所定のタイミングになると、CPUは、
図3のステップ300から処理を開始して、ステップ310乃至ステップ370の処理を順に実行する。
【0044】
ステップ310では、CPUは、カメラ11Re、11L及び11Rから出力された後方画像データ、左後方画像データ及び右後方画像データをそれぞれ取得する。
【0045】
ステップ320では、CPUは、ステップ310にて取得された各画像データを解析して物標を検出し、自車両Vと物標との相対関係を演算する。ここで、「自車両Vと物標との相対関係」は、自車両Vから物標までの距離、自車両Vに対する物標の方位及び相対速度等を含む。
【0046】
なお、「自車両Vから物標までの距離」とは、厳密には、自車両Vの後端部の任意の基準位置(典型的には、後端中央部)から物標までの距離(最短距離)を意味する。即ち、CPUは、各画像データから検出された物標までの距離(別言すれば、各カメラ11Re、11L及び11Rの位置を基準としたときの物標までの距離)を演算し、当該距離を、自車両Vの基準位置からの距離に変換し、変換後の距離を「自車両Vから物標までの距離」として演算する。また、「自車両Vに対する物標の方位」とは、厳密には、自車両Vの基準位置に対する物標の方位を意味する。即ち、CPUは、各画像データから検出された物標の方位(別言すれば、各カメラ11Re、11L及び11Rの位置を基準としたときの物標の方位)を演算し、当該方位を、自車両Vの基準位置に対する方位に変換し、変換後の方位を「自車両Vに対する物標の方位」として演算する。これにより、自車両V(の基準位置)に対する物標の位置(距離及び方位)が精度良く演算され得る。
【0047】
加えて、CPUは、各画像データを解析して区画線を検出する。区画線は、車両の通行を方向毎に区分するために道路に標示された線である。CPUは、検出された区画線に基づいて車線の位置及び形状を演算する。なお、車線は、車道に延在する隣接する2つの区画線の間の領域として規定される。カメラ11Reは、少なくとも自車線L、左車線Ll及び右車線Lrを構成する区画線を検出可能となっている。ここで、自車線Lは、自車両Vが位置している車線であり、左車線Llは、自車線Lにその左側で隣接している車線であり、右車線Lrは、自車線Lにその右側で隣接している車線である。カメラ11Lは、少なくとも左車線Llを構成する区画線を検出可能となっている。カメラ11Rは、少なくとも右車線Lrを構成する区画線を検出可能となっている。
【0048】
図4の例では、撮像範囲Rreには、物標として他車両Vre、Vl及びVr2が含まれているとともに、4つの区画線d1乃至d4が含まれている。このため、CPUは、後方画像データを解析して他車両Vre、Vl及びVr2を検出し、自車両Vと、他車両Vre、Vl及びVr2と、の相対関係をそれぞれ演算する。加えて、CPUは、後方画像データを解析して区画線d1乃至d4を検出し、自車線L、左車線Ll及び右車線Lrの位置及び形状をそれぞれ演算する。
撮像範囲Rlには、物標として他車両Vlが含まれているとともに、2つの区画線d1及びd2が含まれている。このため、CPUは、左後方画像データを解析して他車両Vlを検出し、自車両Vと他車両Vlとの相対関係を演算する。加えて、CPUは、左後方画像データを解析して区画線d1及びd2を検出し、左車線Llの位置及び形状を演算する。なお、撮像範囲Rreと撮像範囲Rlとの重複部分に位置している物標(本例では、他車両Vl)及び区画線(本例では、区画線d1及びd2)は、後方画像データ及び左後方画像データからそれぞれ別々に検出される。
撮像範囲Rrには、物標として他車両Vr1及びVr2が含まれているとともに、2つの区画線d3及びd4が含まれている。このため、CPUは、右後方画像データを解析して他車両Vr1及びVr2を検出し、自車両Vと、他車両Vr1及びVr2と、の相対関係をそれぞれ演算する。加えて、CPUは、右後方画像データを解析して区画線d3及びd4を検出し、右車線Lrの位置及び形状を演算する。なお、撮像範囲Rreと撮像範囲Rrとの重複部分に位置している物標(本例では、他車両Vr2)及び区画線(本例では、区画線d3及びd4)は、後方画像データ及び右後方画像データからそれぞれ別々に検出される。
【0049】
ステップ330では、CPUは、ステップ320における演算結果に基づいて、検出された物標がそれぞれどの車線上に位置しているかを判定する。そして、各車線(自車線L、左車線Ll及び右車線Lr)の対象物標を特定する。ここで、「車線の対象物標」とは、当該車線において自車両Vの後端部より後方に位置する物標のうち自車両Vからの距離が最も短い物標を意味する。なお、「自車両Vの後端部より後方に位置する物標」には「少なくともその一部が自車両Vの後端部より後方に位置する物標」が含まれる。以下では、「自車両Vからの距離が最も短い」ことを単に「自車両Vから最も近い」とも称する。
一方、CPUは、或る車線上において自車両Vの後端部より後方に位置する物標が検出されなかった場合、当該車線の対象物標は存在していないと判定する。
【0050】
図4の例では、CPUは、後方画像データを解析して得られた演算結果に基づいて、他車両Vreは自車線L上に位置しており、他車両Vlは左車線Ll上に位置しており、他車両Vr2は右車線Lr上に位置していると判定する。また、CPUは、左後方画像データを解析して得られた演算結果に基づいて、他車両Vlは左車線Ll上に位置していると判定する。更に、CPUは、右後方画像データを解析して得られた演算結果に基づいて、他車両Vr1及びVr2は何れも右車線Lr上に位置していると判定する。
【0051】
自車線L上の物標は、後方画像データにしか含まれていない。このため、CPUは、自車線L上に位置していると判定された物標のうち自車両Vから最も近い物標(
図4の例では、他車両Vre)を自車線Lの対象物標(後方対象物標)として特定する。
【0052】
左車線Ll上の物標は、後方画像データ及び左後方画像データの双方に含まれ得る。このため、CPUは、「後方画像データに基づいて左車線Ll上に位置していると判定された物標Ol(re)(
図4の例では、他車両Vl)」及び「左後方画像データに基づいて左車線Ll上に位置していると判定された物標Ol(l)(
図4の例では、他車両Vl)」のうち自車両Vから最も近い物標を左車線Llの対象物標として特定する。自車両Vから物標Ol(re)及び物標Ol(l)までの距離が互いに等しい場合、CPUは、何れか一方の物標(
図4の例では、例えば、後方画像データから検出された他車両Vl)を左車線Llの対象物標(左後方対象物標)として特定する。これは、右車線Lrの対象物標を特定する場合についても同様である。
【0053】
右車線Lr上の物標は、後方画像データ及び右後方画像データの双方に含まれ得る。このため、CPUは、「後方画像データに基づいて右車線Lr上に位置していると判定された物標Or(re)(
図4の例では、他車両Vr2)」及び「右後方画像データに基づいて右車線Lr上に位置していると判定された物標Or(r)(
図4の例では、他車両Vr1及びVr2)」のうち自車両Vから最も近い物標(
図4の例では、他車両Vr1)を右車線Lrの対象物標(右後方対象物標)として特定する。
【0054】
ステップ340では、CPUは、ステップ330にて特定された各車線の対象物標の位置に基づいて、各対象物標が位置するゾーンを判定する。具体的には、
図4に示すように、CPUは、自車両Vの後方にゾーンZ1と、ゾーンZ2と、ゾーンZ3と、を設定する。ゾーンZ1は、自車両Vの後端部を通過し車幅方向(前後軸Aと直交する方向)に延びる直線21(第1直線)と、直線21から所定の距離D1だけ後方に離間しており直線21と平行である直線22(第2直線)と、の間の領域である。ゾーンZ2は、直線22と、直線21から所定の距離D2だけ後方に離間しており直線21と平行である直線23(第3直線)と、の間の領域である。ゾーンZ3は、直線23より後方の領域である。ゾーンZ1は、自車両Vから比較的に近い領域であり、ゾーンZ3は、自車両Vから比較的に遠い領域であり、ゾーンZ2は、ゾーンZ1とゾーンZ3との中間の領域である。
【0055】
距離D1は、自車両Vが比較的に中程度の車速又は高速で走行している場合にはゾーンZ1に位置する物標数が比較的に少なく、且つ、自車両Vが停止状態にある場合又は比較的に低速で走行している場合にはゾーンZ1に位置する物標数が比較的に多くなるように、実験又はシミュレーションにより予め設定され得る。本実施形態では、D1=15[m]である。距離D2は、自車両Vが比較的に高速で走行している場合にはゾーンZ2に位置する物標数が比較的に少なく、且つ、自車両Vが比較的に中程度の車速で走行している場合にはゾーンZ2に位置する物標数が比較的に多くなるように、実験又はシミュレーションにより予め設定され得る。本実施形態では、D2=30[m]である。ゾーンZ3は、自車両Vが比較的に高速で走行している場合に物標数が比較的に多くなり易い領域である。
【0056】
図4の例では、CPUは、自車線Lの対象物標である他車両VreはゾーンZ3に位置していると判定し、左車線Llの対象物標である他車両VlはゾーンZ2に位置していると判定し、右車線Lrの対象物標である他車両Vr1はゾーンZ1に位置していると判定する。
【0057】
ステップ350では、CPUは、後述するマトリクスM1及びM2を参照して方位角θl及び方位角θrをそれぞれ決定する。以下では、まず、方位角θl及びθrについて説明し、その後、ステップ350の処理について具体的に説明する。
【0058】
後方画像データ、左後方画像データ及び右後方画像データの水平方向におけるデータ範囲は、カメラ11Re、11L及び11Rの水平画角(別言すれば、撮像範囲Rre、Rl及びRr)にそれぞれ対応している。
図2に示すように、撮像範囲RreとRlは(水平方向に)部分的に重複しており、且つ、撮像範囲RreとRrは(水平方向に)部分的に重複している。このため、これらの画像データをそのまま使用して合成画像を生成すると、合成画像において物標及び/区画線が二重に表示される範囲が大きくなり、繋ぎ目が滑らかになり難い。そこで、ECU10は、必要に応じてこれらの画像データの水平方向における端部をトリミングすることにより、合成画像の繋ぎ目が滑らかになるようにしている。以下では、トリミング後の後方画像データに対応する撮像範囲Rreを「実効範囲Rrea(後方実効範囲)」と称し、トリミング後の左後方画像データに対応する撮像範囲Rlを「実効範囲Rla(左後方実効範囲)」と称し、トリミング後の右後方画像データに対応する撮像範囲Rrを「実効範囲Rra(右後方実効範囲)」と称する。実効範囲Rrea、Rla及びRraは、撮像範囲Rre、Rl及びRrのうち合成画像の生成に使用される撮像範囲である。
【0059】
図5A及び
図5Bは、それぞれ、実効範囲Rrea、Rla及びRraの一例を示す図である。境界線30la及び境界線30raは、それぞれ、実効範囲Rreaの水平方向の画角を規定する境界線のうち自車両Vの左側の境界線(後方左側境界線)及び右側の境界線(後方右側境界線)である。以下、境界線30la及び30raを、単に「実効範囲Rreaの境界線30la及び30ra」とも称する。カメラ11Reの光軸Areの方位を後方基準方位(0°)とした場合における、境界線30laの後方基準方位からの角度を「方位角θl(後方左側方位角)」と規定し、境界線30raの後方基準方位からの角度を「方位角θr(後方右側方位角)」と規定する。なお、後方基準方位に対して自車両Vの左側(紙面右側)の方位角の値を正とし、自車両Vの右側(紙面左側)の方位角の値を負とする。ECU10は、方位角θl及びθrの大きさを、カメラ11Reの水平画角の範囲内でそれぞれ互いに独立して変更することにより実効範囲Rreaを変更可能に構成されている。
【0060】
具体的には、ECU10は、方位角θlを、角度θn(>0)(第1後方左側角度)と角度θw(>0)(第2後方左側角度)との間で変更可能であり、方位角θrを、角度-θn(<0)(第1後方右側角度)と角度-θw(<0)(第2後方右側角度)との間で変更可能となっている。角度θwは、角度θnよりも大きく、角度-θwの大きさは、角度-θnの大きさよりも大きい。
図5Aは、方位角θl及びθrがそれぞれ角度θn及び-θnに変更されたときの例であり、
図5Bは、方位角θl及びθrがそれぞれ角度θw及び-θwに変更されたときの例である。
図5Bに示すように、方位角θlが角度θwである場合、実効範囲Rreaの境界線30laは、撮像範囲Rreの境界線30lと一致しており、方位角θrが角度-θwである場合、実効範囲Rreaの境界線30raは、撮像範囲Rreの境界線30rと一致している。即ち、角度θwは、撮像範囲Rreの境界線30lの方位角(後方基準方位からの角度)でもあり、角度-θwは、撮像範囲Rreの境界線30rの方位角(後方基準方位からの角度)でもある。これは、「方位角θlが角度θwに変更される場合は後方画像データの左側端部のトリミングが行われず、また、方位角θrが角度-θwに変更される場合は後方画像データの右側端部のトリミングが行われない」ことを意味する。上記の説明から明らかなように、角度θn、-θn、θw及び-θwは、何れもカメラ11Reの水平画角の範囲内の角度である。
【0061】
なお、角度θw及び角度-θwの大きさは、撮像範囲Rreの境界線30l及び30rの方位角の大きさにそれぞれ一致する構成に限られず、境界線30l及び30rの方位角の大きさより小さくなるように構成されてもよい。即ち、θl=θw又はθr=-θwの場合において、実効範囲Rreaの境界線30la又は30raは、それぞれ、撮像範囲Rreの境界線30l又は30rと一致していなくてもよい。
【0062】
境界線40ia及び境界線40oaは、それぞれ、実効範囲Rlaの水平方向の画角を規定する境界線のうち自車両Vの車幅方向内側の境界線(左後方内側境界線)及び車幅方向外側の境界線である。以下、境界線40ia及び40oaを、単に「実効範囲Rlaの境界線40ia及び40oa」とも称する。カメラ11Lの光軸Alの方位を左後方基準方位(0°)とした場合における、境界線40iaの左後方基準方位からの角度を「方位角θli(左後方内側方位角)」と規定する。なお、左後方基準方位に対して車幅方向外側(紙面右側)の方位角の値を正とし、車幅方向内側(紙面左側)の方位角の値を負とする。ECU10は、方位角θliの大きさを、カメラ11Lの水平画角の範囲内で変更することにより実効範囲Rlaを変更可能に構成されている。なお、実効範囲Rlaの境界線40oaは、撮像範囲Rlの境界線40oと一致している(
図5A及び
図5B参照)。これは、「左後方画像データの左側端部のトリミングは行われない」ことを意味する。即ち、ECU10は、合成画像を生成する際は、必要に応じて右側端部のトリミングのみを行うように構成されている。
【0063】
具体的には、ECU10は、方位角θliを、角度-θ1(<0)(第1左後方内側角度)と角度-θ2(<0)(第2左後方内側角度)との間で変更可能となっている。角度-θ2の大きさは、角度-θ1の大きさよりも大きい。
図5Aは、方位角θliが角度-θ2に変更されたときの例であり、
図5Bは、方位角θliが角度-θ1に変更されたときの例である。
図5Aに示すように、方位角θliが角度-θ2である場合、実効範囲Rlaの境界線40iaは、撮像範囲Rlの境界線40iと一致している。即ち、角度-θ2は、撮像範囲Rlの境界線40iの方位角(左後方基準方位からの角度)でもある。これは、「方位角θliが角度-θ2に変更される場合は、左後方画像データの右側端部のトリミングが行われない(即ち、実効範囲Rlaは撮像範囲Rlと一致する。)」ことを意味する。上記の説明から明らかなように、角度-θ1及び-θ2は、何れもカメラ11Lの水平画角の範囲内の角度である。
【0064】
なお、角度-θ2の大きさは、撮像範囲Rlの境界線40iの方位角の大きさに一致する構成に限られず、境界線40iの方位角の大きさより小さくなるように構成されてもよい。即ち、θli=-θ2の場合において、実効範囲Rlaの境界線40iaは、撮像範囲Rlの境界線40iと一致していなくてもよい。
【0065】
境界線50ia及び境界線50oaは、それぞれ、実効範囲Rraの水平方向の画角を規定する境界線のうち自車両Vの車幅方向内側の境界線(右後方内側境界線)及び車幅方向外側の境界線である。以下、境界線50ia及び50oaを、単に「実効範囲Rraの境界線50ia及び50oa」とも称する。カメラ11Rの光軸Arの方位を右後方基準方位(0°)とした場合における、境界線50iaの右後方基準方位からの角度を「方位角θri(右後方内側方位角)」と規定する。なお、右後方基準方位に対して車幅方向内側(紙面右側)の方位角の値を正とし、車幅方向外側(紙面左側)の方位角の値を負とする。ECU10は、方位角θriの大きさを、カメラ11Rの水平画角の範囲内で変更することにより実効範囲Rraを変更可能に構成されている。なお、実効範囲Rraの境界線50oaは、撮像範囲Rrの境界線50oと一致している(
図5A及び
図5B参照)。これは、「右後方画像データの右側端部のトリミングは行われない」ことを意味する。即ち、ECU10は、合成画像を生成する際は、必要に応じて左側端部のトリミングのみを行うように構成されている。
【0066】
具体的には、ECU10は、方位角θriを、角度θ1(>0)(第1右後方内側角度)と角度θ2(>0)(第2右後方内側角度)との間で変更可能となっている。角度θ2は、角度θ1よりも大きい。
図5Aは、方位角θriが角度θ2に変更されたときの例であり、
図5Bは、方位角θriが角度θ1に変更されたときの例である。
図5Aに示すように、方位角θriが角度θ2である場合、実効範囲Rraの境界線50iaは、撮像範囲Rrの境界線50iと一致している。即ち、角度θ2は、撮像範囲Rrの境界線50iの方位角(右後方基準方位からの角度)でもある。これは、「方位角θriが角度θ2に変更される場合は、右後方画像データの左側端部のトリミングが行われない」ことを意味する。上記の説明から明らかなように、角度θ1及びθ2は、何れもカメラ11Rの水平画角の範囲内の角度である。
【0067】
なお、角度θ2は、撮像範囲Rrの境界線50iの方位角に一致する構成に限られず、境界線50iの方位角より小さくなるように構成されてもよい。即ち、θri=θ2の場合において、実効範囲Rraの境界線50iaは、撮像範囲Rrの境界線50iと一致していなくてもよい。
【0068】
ECU10は、自車両Vの後方に投影面Spを設定するとともに自車両V上に視点Pvを設定し、実効範囲Rrea、Rla及びRraに存在する被写体(物標及び区画線)を視点Pvを基準として投影面Spに投影することにより得られる画像を合成画像として生成するように構成されている。ここで、投影面Spは、直線21から(別言すれば、自車両Vの後端部から)所定の距離D3(投影距離)だけ後方に離間した位置に、路面(自車両Vの接地面)と直交するように設定された仮想的な面である。投影面Spは、ゾーンZ2内に設定されることが望ましい。即ち、D1<D3<D2が成立していることが望ましい。より詳細には、投影面Spは、ゾーンZ2のうち前後軸A方向における中央位置よりも前方の領域に設定されることが望ましい。即ち、D1<D3<(D1+D2)/2が成立していることが望ましい。本実施形態では、D3=20[m](即ち、固定値)であり、D1<D3<(D1+D2)/2が成立している。但し、D1及びD2の値によっては、投影面Spは他のゾーン(ゾーンZ1又はゾーンZ3)に設定されてもよい。
【0069】
視点Pvは、境界線40oaの延長線と境界線50oaの延長線との交点に設定される。視点Pvの位置は、左後方画像データ及び/又は右後方画像データのトリミングにより変化することはない。なお、視点Pvの位置は自車両V上に限られない。境界線40oa及び境界線50oaの延在方向によっては、視点Pvは自車両V上ではなく自車両Vの前方に位置する場合がある。
【0070】
このように、距離D3が固定値であり、且つ、境界線40oa及び50oaの延在方向がトリミングの有無に関わらず不変であるため、自車両Vに対する点P21(自車両Vの平面視における境界線40oaと投影面Spとの交点)及び点P22(自車両Vの平面視における境界線50oaと投影面Spとの交点)の相対位置はそれぞれ不変である。以下では、「自車両Vの平面視」を単に「平面視」とも称する。
【0071】
図5Aに示すように、ECU10は、方位角θlを角度θnに変更する場合、方位角θliを角度-θ2に変更するように構成されている。角度θn及び角度-θ2の値は、実効範囲Rreaの境界線30laと実効範囲Rlaの境界線40iaとの交点である点Pl(左側交点)が、平面視において投影面Sp上に位置するように予め設定されている。本実施形態では、角度-θ2は、撮像範囲Rlの境界線40iの方位角でもある。このため、平面視における境界線40ia(40i)と投影面Spとの交点の位置は、カメラ11Lの取付位置及び性能(典型的には、水平画角)に基づいて一義的に決定され得る。角度θnは、境界線30laが、このようにして決定された境界線40iaと投影面Spとの交点の位置を通過するような値に予め設定されている。この構成によれば、方位角θl=θnの場合、点Plは平面視において投影面Sp上に位置する。以下では、方位角θl=θnの場合における点Plを、特に「点Pln」とも称する。
【0072】
同様に、ECU10は、方位角θrを角度-θnに変更する場合、方位角θriを角度θ2に変更するように構成されている。角度-θn及び角度θ2の値は、実効範囲Rreaの境界線30raと実効範囲Rraの境界線50iaとの交点である点Pr(右側交点)が、平面視において投影面Sp上に位置するように予め設定されている。本実施形態では、角度θ2は、撮像範囲Rrの境界線50iの方位角でもある。このため、平面視における境界線50ia(50i)と投影面Spとの交点の位置は、カメラ11Rの取付位置および性能(典型的には、水平画角)に基づいて一義的に決定され得る。角度-θnは、境界線30raが、このようにして決定された境界線50iaと投影面Spとの交点の位置を通過するような値に予め設定されている。この構成によれば、方位角θr=-θnの場合、点Prは平面視において投影面Sp上に位置する。以下では、方位角θr=-θnの場合における点Prを、特に「点Prn」とも称する。
【0073】
図5Bに示すように、ECU10は、方位角θlを角度θwに変更する場合、方位角θliを角度-θ1に変更するように構成されている。角度θw及び角度-θ1の値は、点Plが、平面視において投影面Sp上に位置するように予め設定されている。本実施形態では、角度θwは、撮像範囲Rreの境界線30lの方位角でもある。このため、平面視における境界線30la(30l)と投影面Spとの交点の位置は、カメラ11Reの取付位置及び性能(典型的には、水平画角)に基づいて一義的に決定され得る。角度-θ1は、境界線40iaが、このようにして決定された境界線30laと投影面Spとの交点の位置を通過するような値に予め設定されている。この構成によれば、方位角θl=θwの場合、点Plは平面視において投影面Sp上に位置する。以下では、方位角θl=θwの場合における点Plを、特に「点Plw」とも称する。
【0074】
同様に、ECU10は、方位角θrを角度-θwに変更する場合、方位角θriを角度θ1に変更するように構成されている。角度-θw及び角度θ1の値は、点Prが、平面視において投影面Sp上に位置するように予め設定されている。本実施形態では、角度-θwは、撮像範囲Rreの境界線30rの方位角でもある。このため、平面視における境界線30ra(30r)と投影面Spとの交点の位置は、カメラ11Reの取付位置及び性能(典型的には、水平画角)に基づいて一義的に決定され得る。角度θ1は、境界線50iaが、このようにして決定された境界線30raと投影面Spとの交点の位置を通過するような値に予め設定されている。この構成によれば、方位角θr=-θwの場合、点Prは平面視において投影面Sp上に位置する。以下では、方位角θr=-θwの場合における点Prを、特に「点Prw」とも称する。
【0075】
点Plは、合成画像における、トリミング後の後方画像データと左後方画像データ(別言すれば、後方画像データのうち実効範囲Rreaに対応する画像データと、左後方画像データのうち実効範囲Rlaに対応する画像データ)との繋ぎ目(左側の繋ぎ目)に位置している。また、点Prは、合成画像における、トリミング後の後方画像データと右後方画像データ(別言すれば、後方画像データのうち実効範囲Rreaに対応する画像データと、右後方画像データのうち実効範囲Rraに対応する画像データ)との繋ぎ目(右側の繋ぎ目)に位置している。ECU10は、方位角θlを角度θnと角度θwとの間で変更することにより、合成画像における左側の繋ぎ目の位置(点Pl)を、点Plnと点Plwとの間で変更可能に構成されている。また、ECU10は、方位角θrを角度-θnと角度-θwとの間で変更することにより、合成画像における右側の繋ぎ目の位置(点Pr)を、点Prnと点Prwとの間で変更可能に構成されている。
【0076】
なお、投影面Spにおける点Plと点Prとの間の領域には、実効範囲Rreaに存在する被写体が投影される。投影面Spにおける点Plと点P21との間の領域には、実効範囲Rlaに存在する被写体が投影される。投影面Spにおける点Prと点P22との間の領域には、実効範囲Rraに存在する被写体が投影される。
【0077】
点Pln及び点Prnの位置についてより詳細に説明する。
図5Aに示すように、点P11(第1交点)及び点P12(第2交点)は、前記自車両Vの左後方角部Cl及び右後方角部Crから後方に前後軸A(
図2参照)と平行にそれぞれ延びる左仮想線及び右仮想線と、投影面Spと、の交点である。本実施形態では、点Pln及び点Prnは、平面視において、点P11上及び点P12上にそれぞれ位置している。なお、点Plnは点P11上に位置する構成に限られず、角度θn及び角度-θ2の値に基づいて、点P11の近傍に位置するように構成されてもよい。同様に、点Prnは点P12上に位置する構成に限られず、角度-θn及び角度θ2の値に基づいて、点P12の近傍に位置するように構成されてもよい。
【0078】
点Plw及び点Prwの位置についてより詳細に説明する。
図5Bに示すように、点Plwは、点P11から車幅方向外側に離間した位置に位置しており、その離間距離は、左車線Llの車線幅よりも十分に大きい。また、点Prwは、点P12から車幅方向外側に離間した位置に位置しており、その離間距離は、右車線Lrの車線幅よりも十分に大きい。なお、点Plwの点P11からの離間距離は、左車線Llの車線幅と同一でもよく、また、点Prwの点P12からの離間距離は、右車線Lrの車線幅と同一でもよい。即ち、点Plw及び点Prwは、点P11及び点P12から車幅方向外側に、一般的な車線幅以上の所定の距離だけ離間した位置にそれぞれ位置するように構成され得る。
【0079】
ここで、各車線L、Ll及びLrが直線状である場合において自車両Vが自車線Lの延在方向に沿って走行している(前後軸Aが延在方向と平行である)と想定する。この場合、点Plnは、区画線d2(自車線Lを構成する左側の区画線)より僅かに車幅方向内側に位置しており、点Prnは、区画線d3(自車線Lを構成する右側の区画線)より僅かに車幅方向内側に位置している(
図5A参照)。また、点Plwは、区画線d1(左車線Llを構成する左側の区画線)よりも車幅方向外側に位置しており、点Prwは区画線d4(右車線Lrを構成する右側の区画線)よりも車幅方向外側に位置している(
図5B参照)。更に、点Pl(Pln、Plw)及び点Pr(Prn、Prw)が位置している投影面Spは、ゾーンZ2に位置しており、D1<D3<(D1+D2)/2が成立している。
【0080】
このとき、各ゾーンZ1乃至Z3の死角領域Rb及び/又は重複領域Rov(何れも後述)が発生する位置には、θl(又は|θr|)の値(即ち、θn又はθw)に応じた特徴がある。以下、具体的に説明する。なお、死角領域Rbは、実効範囲RreaとRlaとの間の領域、及び、実効範囲RreaとRraとの間の領域である。死角領域Rbに存在する被写体は合成画像には表示されない。重複領域Rovは、実効範囲RreaとRlaとが部分的に重複している領域、及び、実効範囲RreaとRraとが部分的に重複している領域である。重複領域Rovに存在する被写体は合成画像に二重に表示される。本実施形態では、点Pl及び点Prは投影面Sp上に位置している。このため、死角領域Rbは、投影面Spの前方(別言すれば、点Pl及び点Prの前方)に発生し、重複領域Rovは、投影面Spの後方(別言すれば、点Pl及び点Prの後方)に発生する(
図5A及び
図5B参照)。
【0081】
まず、θl=θn又はθr=-θnの場合について
図5Aを参照して説明する。なお、括弧内は、θr=-θnの場合の特徴である。ゾーンZ1では、以下の特徴が得られる。
(特徴1n)死角領域Rbは、自車線Lのうち中央部と左端部(右端部)を除いた部分に発生する。
(特徴2n)死角領域Rbは、左車線Ll(右車線Lr)には発生しない。
(特徴3n)重複領域Rovは、自車線L及び左車線Ll(右車線Lr)には発生しない。
【0082】
ゾーンZ2では、以下の特徴が得られる。
(特徴4n)死角領域Rbは、自車線Lのうち点Pln(点Prn)の前方における中央部と左端部(右端部)を除いた部分に僅かに発生する。
(特徴5n)死角領域Rbは、左車線Ll(右車線Lr)には発生しない。
(特徴6n)重複領域Rovは、自車線Lのうち点Pln(点Prn)の後方における左端部(右端部)に僅かに発生する。
(特徴7n)重複領域Rovは、左車線Ll(右車線Lr)には殆ど発生しない。
【0083】
ゾーンZ3では、以下の特徴が得られる。
(特徴8n)死角領域Rbは、自車線L及び左車線Ll(右車線Lr)には発生しない。
(特徴9n)重複領域Rovは、自車線Lの左端部(右端部)に僅かに発生する。
(特徴10n)重複領域Rovは、左車線Ll(右車線Lr)の右端部(左端部)に発生し、その範囲は後方に向かうにつれて大きくなる。
【0084】
次に、θl=θw又はθr=-θwの場合について
図5Bを参照して説明する。ゾーンZ1では、以下の特徴が得られる。
(特徴1w)死角領域Rbは、自車線Lの前方部分の左側(右側)に僅かに発生する。
(特徴2w)死角領域Rbは、左車線Ll(右車線Lr)を左斜め後方に横切るように発生する。
(特徴3w)重複領域Rovは、自車線L及び左車線Ll(右車線Lr)には発生しない。
【0085】
ゾーンZ2では、以下の特徴が得られる。
(特徴4w)死角領域Rbは、自車線Lには発生しない。
(特徴5w)死角領域Rbは、左車線Ll(右車線Lr)には発生しない。
(特徴6w)重複領域Rovは、自車線Lには発生しない。
(特徴7w)重複領域Rovは、左車線Ll(右車線Lr)には発生しない。
【0086】
ゾーンZ3では、以下の特徴が得られる。
(特徴8w)死角領域Rbは、自車線L及び左車線Ll(右車線Lr)には発生しない。
(特徴9w)重複領域Rovは、自車線Lには発生しない。
(特徴10w)重複領域Rovは、左車線Ll(右車線Lr)には発生しない。
【0087】
続いて、ステップ350の処理について具体的に説明する。CPUは、ステップ340の判定結果を用いて、「自車線Lの対象物標の有無及び当該対象物標が位置するゾーン」と、「左車線Llの対象物標の有無及び当該対象物標が位置するゾーン」と、の組み合わせに基づいて方位角θlを決定(変更又は維持)する。
図6Aは、当該組み合わせを表すマトリクスM1を示す。自車線Lの対象物標に関して、マトリクスM1中の「Z1(近い)」、「Z2(中間)」、「Z3(遠い)」及び「無し」は、それぞれ、当該対象物標が「ゾーンZ1に位置している」、「ゾーンZ2に位置している」、「ゾーンZ3に位置している」及び「対象物標が存在していない」ことを表す。これは、左車線Llの対象物標に関しても同様である。また、後述するマトリクスM2中の自車線L及び右車線Lrの対象物標に関しても同様である。加えて、マトリクスM1中の「狭い」及び「広い」は、それぞれ、方位角θlを「角度θnに変更する」及び「角度θwに変更する」ことを意味する。「変更無し」は、方位角θlを変更せず、直前の周期の値に維持することを意味する。なお、CPUは、方位角θlの変更に応じて方位角θliを上述した角度(-θ2又は-θ1)に変更する。
【0088】
図4の例では、自車線Lの対象物標(他車両Vre)はゾーンZ3に位置しており、左車線Llの対象物標(他車両Vl)はゾーンZ2に位置している。この場合、マトリクスM1によれば、方位角θlは「変更無し」であるため、CPUは、方位角θlを変更しない。即ち、例えば、直前の周期においてθl=θwである場合、CPUは、現在の周期においても方位角θlを角度θwに維持する(
図5B参照)。
【0089】
同様に、CPUは、ステップ340の判定結果を用いて、「自車線Lの対象物標の有無及び当該対象物標が位置するゾーン」と、「右車線Lrの対象物標の有無及び当該対象物標が位置するゾーン」と、の組み合わせに基づいて方位角θrを決定(変更又は維持)する。
図6Bは、当該組み合わせを表すマトリクスM2を示す。マトリクスM2中の「狭い」及び「広い」は、それぞれ、方位角θrを「角度-θnに変更する」及び「角度-θwに変更する」ことを意味する。「変更無し」は、方位角θrを変更せず、直前の周期の値に維持することを意味する。なお、CPUは、方位角θrの変更に応じて方位角θriを上述した角度(θ2又はθ1)に変更する。
【0090】
図4の例では、自車線Lの対象物標(他車両Vre)はゾーンZ3に位置しており、右車線Lrの対象物標(他車両Vr1)はゾーンZ1に位置している。この場合、マトリクスM2によれば、方位角θrは「狭い」であるため、CPUは、方位角θrを角度-θnに変更する(
図5A参照)。
【0091】
ステップ360では、CPUは、ステップ350にて決定された方位角θl及びθrに基づいて、ステップ310にて取得した画像データをトリミングし、トリミング後の画像データを用いてパノラマ形式の合成画像を周知の方法で生成する。これにより、合成画像における左側の繋ぎ目の位置は、θl=θnのときは点Plnとなり(
図5A参照)、θl=θwのときは点Plwとなる(
図5B参照)。また、合成画像における右側の繋ぎ目の位置は、θr=-θnのときは点Prnとなり(
図5A参照)、θr=-θwのときは点Prwとなる(
図5B参照)。
【0092】
ステップ370では、CPUは、ステップ360にて生成された合成画像を表示装置12のディスプレイ12aに表示する。その後、CPUは、ステップ395に進んで本ルーチンを一旦終了する。
【0093】
次に、
図11乃至
図13を参照して、比較例としての画像制御システムの問題点について説明する。
図11乃至
図13の画像制御システムでは、合成画像の繋ぎ目の位置は変更不可能となっている。なお、画像制御システム1と同一の構成については同一の符号を付し、詳細な説明を省略する。
【0094】
図11及び
図12の例では、1つ目の比較例としての画像制御システムが車両V1に搭載されている。この画像制御システムは、カメラ11Ren、11L及び11Rを備える。カメラ11Renの水平画角は比較的に狭く、カメラ11L及び11Rの水平画角は比較的に広い。このため、撮像範囲Rrenは細長い扇形形状を呈しており、撮像範囲Rl及びRrは幅広の扇形形状を呈している。点P2及び点P3は、それぞれ、合成画像における繋ぎ目の位置を表す。点P2及び点P3の位置は変更不可能である。車両V1は、自車線Lを走行している。
【0095】
図11に示すように、撮像範囲RrenとRlとの間には、点P2の前方において死角領域Rbが生じている。同様に、撮像範囲RrenとRrとの間には、点P3の前方において死角領域Rbが生じている。車両V1の後方では、自動二輪車Mre及び他車両Vreが自車線Lを走行している。自動二輪車Mreは、その中央部分を含む殆どが死角領域Rbに位置しており、左右の端部のみが撮像範囲Rl及びRreにそれぞれ含まれている。このため、自動二輪車Mreの中央部分は合成画像から見切れてしまい、左右の端部のみが表示されることになる。一方、他車両Vreは、その中央部分が撮像範囲Rrenに位置しており、左右の端部は死角領域Rbに位置している。このため、他車両Vreの左右の端部は合成画像から見切れてしまい、中央部分のみが表示されることになる。
【0096】
また、
図12に示すように、撮像範囲RrenとRlとは、点P2の後方において部分的に重複しており、重複領域Rovが生じている。同様に、撮像範囲RrenとRrとは、点P3の後方において部分的に重複しており、重複領域Rovが生じている。車両V1の後方では、他車両Vlが左車線Llを走行している。他車両Vlの一部は、重複領域Rovに位置している。このため、合成画像には他車両Vlの一部が二重に表示されることになる。
【0097】
このように、後方カメラの水平画角が比較的に狭い場合、物標の一部が合成画像から見切れたり、物標の少なくとも一部が合成画像に二重に表示されたりする問題が生じる。以下、前者を「見切れ現象」とも称し、後者を「二重化現象」とも称する。
【0098】
図13の例では、2つ目の比較例としての画像制御システムが車両V2に搭載されている。この画像制御システムは、カメラ11Re、11Ln及び11Rnを備える。カメラ11Reの水平画角は比較的に広く、カメラ11Ln及び11Rnの水平画角は比較的に狭い。このため、撮像範囲Rreは幅広の扇形形状を呈しており、撮像範囲Rln及びRrnはやや細長い扇形形状を呈している。点P5及び点P6は、それぞれ、合成画像における繋ぎ目の位置を表す。点P5及び点P6の位置は変更不可能である。車両V2は、自車線Lを走行している。
【0099】
図13に示すように、撮像範囲RreとRlnとの間、及び、撮像範囲RreとRrnとの間には、点P5及び点P6の前方においてそれぞれ死角領域Rbが生じている。車両V2の後方では、他車両Vreが自車線Lを走行しており、自動二輪車Mre及び他車両Vlが左車線Llを走行している。自動二輪車Mreは、その全体が死角領域Rbに位置している。このため、自動二輪車Mreは合成画像には表示されない(合成画像において消失する)。また、他車両Vre及び他車両Vlは何れも撮像範囲Rreに存在しているが、他車両Vlからの光が他車両Vreに遮られることによりカメラ11Reに到達しないため、カメラ11Reは他車両Vlを撮像できず、結果として、他車両Vlは合成画像には表示されない(合成画像において他の物標の奥に隠れる)。
【0100】
このように、後方カメラの水平画角が比較的に広い場合、合成画像において物標が消失したり、一方の車線上の物標が他方の車線上の物標の奥に隠れたりする問題が生じる。以下、前者を「消失現象」とも称し、後者を「隠れ現象」とも称する。
【0101】
なお、
図11及び
図12の例においても、消失現象は発生し得る。また、
図13の例においても、見切れ現象は発生し得る(なお、二重化現象も発生し得るが、少なくとも自車線L、左車線Ll及び右車線Lr上では発生しないため、本明細書では考慮しない。)。但し、隠れ現象は、後方カメラの水平画角が比較的に広い場合において、左車線Ll又は右車線Lr上の物標が、自車線L上の物標に対して斜め後方に位置しているときに発生する傾向がある。このため、後方カメラの水平画角が比較的に狭い場合、隠れ現象は発生し得ない。
以上より、後方カメラの水平画角が比較的に狭い場合は、合成画像における物標の見切れ、消失及び二重化現象が問題となる。一方、後方カメラの水平画角が比較的に広い場合は、合成画像における物標の見切れ、消失及び隠れ現象が問題となる。
【0102】
これに対し、画像制御システム1は、方位角θl及びθrの大きさを角度θnと角度θwとの間で変更することにより、合成画像における繋ぎ目の位置を変更可能に構成されている。このため、上述した各現象(見切れ、消失、二重化及び隠れ現象)のうち、少なくとも自車両Vの走行に最も影響を与える可能性がある現象の発生を抑制することができる。以下、マトリクスM1を参照しながら
図7A乃至
図10Bを用いて具体的に説明する(マトリクスM2はマトリクスM1と同様の構成であるため、その詳細な説明は省略する。)。なお、
図7A乃至
図10Bでは、右車線Lrには対象物標が存在していない。この場合、マトリクスM2によれば、自車線Lに対象物標が存在していない場合(
図7A及び
図7B参照)、当該対象物標がゾーンZ3に位置している場合(
図8A及び
図8B参照)、及び、当該対象物標がゾーンZ2に位置している場合(
図9A及び
図9B参照)、CPUは、方位角θrを直前の周期の値に維持する(「変更無し」)。従って、
図7A乃至
図9Bのそれぞれでは、直前の周期の値を維持したときの方位角θrの値が、各図における方位角θlの値に等しいと想定して方位角θrを図示している。一方、マトリクスM2によれば、自車線Lの対象物標がゾーン1に位置している場合(
図10A及び
図10B参照)、CPUは、方位角θrを角度-θw(「広い」)に変更する。このため、
図10A及び
図10Bでは、方位角θrが角度-θwとなるように方位角θrを図示している。
【0103】
1.自車線Lに対象物標が存在していない場合(
図7A及び
図7B)
1-1.左車線Llの対象物標が他車両Vl1である場合
他車両Vl1はゾーンZ1に位置している。このため、CPUは、マトリクスM1を参照して、方位角θlを角度θn(「狭い」)に変更する。
図7Aに示すように、この場合、特徴2n及び特徴3nが成立するため、他車両Vl1は合成画像に適切に表示され得る。これに対し、方位角θlを角度θwに変更する場合、特徴2w及び特徴3wが成立するため(
図7B参照)、見切れ現象により他車両Vl1を合成画像に適切に表示することができない。従って、1-1の場合、方位角θlを角度θnに変更することにより、左車線Llの対象物標を合成画像に適切に表示できる。
【0104】
1-2.左車線Llの対象物標が他車両Vl2である場合
他車両Vl2はゾーンZ2に位置している。このため、CPUは、マトリクスM1を参照して、方位角θlを直前の周期の値に維持する(「変更無し」)。直前の周期の方位角θlが角度θnであった場合、CPUは、現在の周期においてθl=θnに維持する。この場合、
図7Aに示すように、特徴5n及び特徴7nが成立するため、他車両Vl2は合成画像に適切に表示され得る。一方、直前の周期の方位角θlが角度θwであった場合、CPUは、現在の周期においてθl=θwに維持する。この場合、
図7Bに示すように、特徴5w及び特徴7wが成立するため、他車両Vl2は合成画像に適切に表示され得る。即ち、1-2の場合、方位角θlが何れの角度(θn又はθw)に変更されても、左車線Llの対象物標を合成画像に適切に表示できる。
【0105】
1-3.左車線Llの対象物標が他車両Vl3である場合
他車両Vl3はゾーンZ3に位置している。このため、CPUは、マトリクスM1を参照して、方位角θlを角度θw(「広い」)に変更する。
図7Bに示すように、この場合、特徴8w及び特徴10wが成立するため、他車両Vl3は合成画像に適切に表示され得る。これに対し、方位角θlを角度θnに変更する場合、特徴8n及び特徴10nが成立するため(
図7A参照)、二重化現象により他車両Vl3を合成画像に適切に表示することができない。従って、1-3の場合、方位角θlを角度θwに変更することにより、左車線Llの対象物標を合成画像に適切に表示できる。
【0106】
1-4.左車線Llに対象物標が存在していない場合
この場合、自車線L及び左車線Llの何れにも対象物標が存在していないため、方位角θlが何れの角度に変更されても、上述した各現象(見切れ、消失、二重化及び隠れ現象)は発生し得ない。
【0107】
2.自車線Lの対象物標(他車両Vre)がゾーンZ3に位置している場合(
図8A及び
図8B)
2-1.左車線Llの対象物標が他車両Vl1である場合
他車両Vl1はゾーンZ1に位置している。このため、CPUは、マトリクスM1を参照して、方位角θlを角度θn(「狭い」)に変更する。
図8Aに示すように、この場合、他車両Vreについて特徴8n及び特徴9nが成立するため、他車両Vreは合成画像に適切に表示され得る。また、他車両Vl1について特徴2n及び特徴3nが成立するため、他車両Vl1は合成画像に適切に表示され得る。
これに対し、方位角θlを角度θwに変更する場合(
図8B参照)、他車両Vreについて特徴8w及び特徴9wが成立するため、他車両Vreは合成画像に適切に表示され得る。一方、他車両Vl1については特徴2w及び特徴3wが成立するため、見切れ現象により他車両Vl1を合成画像に適切に表示することができない。
従って、2-1の場合、方位角θlを角度θnに変更することにより、自車線L及び左車線Llの対象物標を合成画像に適切に表示できる。
【0108】
2-2.左車線Llの対象物標が他車両Vl2である場合
他車両Vl2はゾーンZ2に位置している。このため、CPUは、マトリクスM1を参照して、方位角θlを直前の周期の値に維持する(「変更無し」)。直前の周期の方位角θlが角度θnであった場合、CPUは、現在の周期においてθl=θnに維持する。この場合、
図8Aに示すように、他車両Reについて特徴8n及び特徴9nが成立するため、他車両Vreは合成画像に適切に表示され得る。また、他車両Vl2について特徴5n及び特徴7nが成立するため、他車両Vl2は合成画像に適切に表示され得る。
一方、直前の周期の方位角θlが角度θwであった場合、CPUは、現在の周期においてθl=θwに維持する。この場合、
図8Bに示すように、他車両Vreについて特徴8w及び特徴9wが成立するため、他車両Vreは合成画像に適切に表示され得る。また、他車両Vl2について特徴5w及び特徴7wが成立するため、他車両Vl2は合成画像に適切に表示され得る。
従って、2-2の場合、方位角θlが何れの角度(θn又はθw)に変更されても、自車線L及び左車線Llの対象物標を合成画像に適切に表示できる。
【0109】
2-3.左車線Llの対象物標が他車両Vl3である場合
他車両Vl3はゾーンZ3に位置している。このため、CPUは、マトリクスM1を参照して、方位角θlを角度θw(「広い」)に変更する。
図8Bに示すように、この場合、他車両Vreについて特徴8w及び特徴9wが成立するため、他車両Vreは合成画像に適切に表示され得る。また、他車両Vl3について特徴8w及び特徴10wが成立するため、他車両Vl3は合成画像に適切に表示され得る。
これに対し、方位角θlを角度θnに変更する場合(
図8A参照)、他車両Vreについて特徴8n及び特徴9nが成立するため、他車両Vreは合成画像に適切に表示され得る。一方、他車両Vl3については特徴8n及び特徴10nが成立するため、二重化現象により他車両Vl3を合成画像に適切に表示することができない。
従って、2-3の場合、方位角θlを角度θwに変更することにより、自車線L及び左車線Llの対象物標を合成画像に適切に表示できる。
【0110】
2-4.左車線Llに対象物標が存在していない場合
この場合、CPUは、マトリクスM1を参照して、方位角θlを直前の周期の値に維持する(「変更無し」)。直前の周期の方位角θlが角度θnであった場合、CPUは、現在の周期においてθl=θnに維持する。この場合、
図8Aに示すように、他車両Reについて特徴8n及び特徴9nが成立するため、他車両Vreは合成画像に適切に表示され得る。
一方、直前の周期の方位角θlが角度θwであった場合、CPUは、現在の周期においてθl=θwに維持する。この場合、
図8Bに示すように、他車両Vreについて特徴8w及び特徴9wが成立するため、他車両Vreは合成画像に適切に表示され得る。
従って、2-4の場合、方位角θlが何れの角度(θn又はθw)に変更されても、自車線Lの対象物標を合成画像に適切に表示できる。
【0111】
3.自車線Lの対象物標(他車両Vre)がゾーンZ2に位置している場合(
図9A及び
図9B)
3-1.左車線Llの対象物標が他車両Vl1である場合
他車両Vl1はゾーンZ1に位置している。このため、CPUは、マトリクスM1を参照して、方位角θlを角度θn(「狭い」)に変更する。
図9Aに示すように、この場合、他車両Vreについて特徴4n及び特徴6nが成立するため、他車両Vreは合成画像に適切に表示され得る。また、他車両Vl1について特徴2n及び特徴3nが成立するため、他車両Vl1は合成画像に適切に表示され得る。
これに対し、方位角θlを角度θwに変更する場合(
図9B参照)、他車両Vreについて特徴4w及び特徴6wが成立するため、他車両Vreは合成画像に適切に表示され得る。一方、他車両Vl1については特徴2w及び特徴3wが成立するため、見切れ現象により他車両Vl1を合成画像に適切に表示することができない。
従って、3-1の場合、方位角θlを角度θnに変更することにより、自車線L及び左車線Llの対象物標を合成画像に適切に表示できる。
【0112】
3-2.左車線Llの対象物標が他車両Vl2である場合
他車両Vl2はゾーンZ2に位置している。このため、CPUは、マトリクスM1を参照して、方位角θlを直前の周期の値に維持する(「変更無し」)。直前の周期の方位角θlが角度θnであった場合、CPUは、現在の周期においてθl=θnに維持する。この場合、
図9Aに示すように、他車両Reについて特徴4n及び特徴6nが成立するため、他車両Vreは合成画像に適切に表示され得る。また、他車両Vl2について特徴5n及び特徴7nが成立するため、他車両Vl2は合成画像に適切に表示され得る。
一方、直前の周期の方位角θlが角度θwであった場合、CPUは、現在の周期においてθl=θwに維持する。この場合、
図9Bに示すように、他車両Vreについて特徴4w及び特徴6wが成立するため、他車両Vreは合成画像に適切に表示され得る。また、他車両Vl2について特徴5w及び特徴7wが成立するため、他車両Vl2は合成画像に適切に表示され得る。
従って、3-2の場合、方位角θlが何れの角度(θn又はθw)に変更されても、自車線L及び左車線Llの対象物標を合成画像に適切に表示できる。
【0113】
3-3.左車線Llの対象物標が他車両Vl3である場合
他車両Vl3はゾーンZ3に位置している。このため、CPUは、マトリクスM1を参照して、方位角θlを角度θn(「狭い」)に変更する。
図9Aに示すように、この場合、他車両Vreについて特徴4n及び特徴6nが成立するため、他車両Vreは合成画像に適切に表示され得る。一方、他車両Vl3については特徴8n及び特徴10nが成立するため、二重化現象により他車両Vl3を合成画像に適切に表示することができない。
これに対し、方位角θlを角度θwに変更する場合(
図9B参照)、他車両Vreについて特徴4w及び特徴6wが成立するため、他車両Vreは合成画像に適切に表示され得る。一方、他車両Vl3については特徴8w及び特徴10wが成立するものの、他車両Vl3は他車両Vreの左斜め後方に位置しているため、両者の位置関係によっては、隠れ現象が発生する可能性がある。
一般に、二重化現象は合成画像の見映えを低下させる問題であるのに対し、隠れ現象は車両の走行安全性の低下を引き起こす可能性がある問題である。このため、3-3では、隠れ現象の改善を二重化現象の改善よりも優先している。この構成によれば、3-3の場合、方位角θlを角度θnに変更することにより、自車線L及び左車線Llの対象物標を合成画像に適切に表示できる。
【0114】
3-4.左車線Llに対象物標が存在していない場合
この場合、CPUは、マトリクスM1を参照して、方位角θlを直前の周期の値に維持する(「変更無し」)。直前の周期の方位角θlが角度θnであった場合、CPUは、現在の周期においてθl=θnに維持する。この場合、
図9Aに示すように、他車両Reについて特徴4n及び特徴6nが成立するため、他車両Vreは合成画像に適切に表示され得る。
一方、直前の周期の方位角θlが角度θwであった場合、CPUは、現在の周期においてθl=θwに維持する。この場合、
図9Bに示すように、他車両Vreについて特徴4w及び特徴6wが成立するため、他車両Vreは合成画像に適切に表示され得る。
従って、3-4の場合、方位角θlが何れの角度(θn又はθw)に変更されても、自車線Lの対象物標を合成画像に適切に表示できる。
【0115】
なお、マトリクスM1の16個の成分のうち、「変更無し」の成分は、予め「狭い」又は「広い」の何れかに設定されていてもよい。これは、マトリクスM2についても同様である。この構成によれば、合成画像の切り替え頻度が増加するものの、制御内容を単純化できる。
【0116】
4.自車線Lの対象物標(他車両Vre)がゾーンZ1に位置している場合(
図10A及び
図10B)
4-1.左車線Llの対象物標が他車両Vl1である場合
他車両Vl1はゾーンZ1に位置している。このため、CPUは、マトリクスM1を参照して、方位角θlを角度θn(「狭い」)に変更する。
図10Aに示すように、この場合、他車両Vreについては特徴1n及び特徴3nが成立するため、見切れ現象により他車両Vreを合成画像に適切に表示することができない。一方、他車両Vl1については特徴2n及び特徴3nが成立するため、他車両Vl1は合成画像に適切に表示され得る。
これに対し、方位角θlを角度θwに変更する場合(
図10B参照)、他車両Vreについては特徴1w及び特徴3wが成立するため、他車両Vreが自車両Vに過度に接近していない限り、他車両Vreは合成画像に適切に表示され得る。一方、他車両Vl1については特徴2w及び特徴3wが成立するため、見切れ現象により他車両Vl1を合成画像に適切に表示することができない。なお、死角領域Rbの大きさによっては、消失現象が発生する場合もある。また、左車線Llの対象物標が自動二輪車である場合、消失現象が発生する可能性が高くなる。
【0117】
特徴1nによれば、他車両Vre(即ち、自車線Lの対象物標)に見切れ現象が発生する場合、他車両Vreの左前方角部(即ち、左ウインカーランプが設置されている部分)が死角領域Rb内に位置する可能性が高い。このため、合成画像には他車両Vreの左ウインカーランプが表示されず、自車両Vの運転者は、他車両Vreが車線変更しようとしているか否かを合成画像から判断することができない。従って、自車両Vが左車線Llに車線変更するタイミングで他車両Vreが左車線Llに車線変更すると、両車両の軌道によっては他車両Vreが自車両Vに過度に接近したり接触したりする場合があり、自車両Vの走行安全性が低下する可能性がある。
【0118】
他方、他車両Vl1に見切れ現象又は消失現象が発生する場合、運転者は合成画像から他車両Vl1の存在を適切に認識できない可能性がある。他車両Vl1の存在に気付かないまま自車両Vが左車線Llに車線変更すると、左車線Llを直進している他車両Vl1と接触する場合があり、自車両Vの走行安全性が低下する可能性がある。
【0119】
ここで、特徴1nによれば、死角領域Rbはそれほど大きくないため、他車両Vreに消失現象が発生する可能性は極めて低い。即ち、他車両Vreには見切れ現象が発生するものの、運転者は合成画像から他車両Vreの存在自体は認識できる。これに対し、他車両Vl1に消失現象が発生している場合、運転者は合成画像からは他車両Vl1の存在を認識することができない。このため、自車線Lの対象物標(他車両Vre)の見切れ現象よりも、左車線Llの対象物標(他車両Vl1)の見切れ又は消失現象のほうが自車両Vの走行に影響を与える可能性が高い。従って、4-1では、左車線Llの対象物標の見切れ又は消失現象の改善を、自車線Lの対象物標の見切れ現象の改善よりも優先している。この構成によれば、4-1の場合、方位角θlを角度θnに変更することにより、自車線L及び左車線Llの対象物標を合成画像に適切に表示できる。
【0120】
4-2.左車線Llの対象物標が他車両Vl2である場合
他車両Vl2はゾーンZ2に位置している。このため、CPUは、マトリクスM1を参照して、方位角θlを角度θw(「広い」)に変更する。
図10Bに示すように、この場合、他車両Vreについて特徴1w及び特徴3wが成立するため、他車両Vreが自車両Vに過度に接近していない限り、他車両Vreは合成画像に適切に表示され得る。一方、他車両Vl2については特徴5w及び特徴7wが成立するものの、他車両Vl2は他車両Vreの左斜め後方に位置しているため、両者の位置関係によっては、隠れ現象が発生する可能性がある。
これに対し、方位角θlを角度θnに変更する場合(
図10A参照)、他車両Vreについては特徴1n及び特徴3nが成立するため、見切れ現象により他車両Vreを合成画像に適切に表示することができない。一方、他車両Vl2については特徴5n及び特徴7nが成立するため、他車両Vl2は合成画像に適切に表示され得る。
【0121】
上記4-1の場合と同様、他車両Vreに見切れ現象が発生する場合、運転者は、他車両Vreが車線変更しようとしているか否かを合成画像から判断することができない。このため、自車両Vの走行安全性が低下する可能性がある。
一般に、隠れ現象よりも見切れ現象のほうが自車両Vの走行に影響を与える可能性が高い。このため、4-2では、見切れ現象の改善を隠れ現象の改善よりも優先している。この構成によれば、4-2の場合、方位角θlを角度θwに変更することにより、自車線L及び左車線Llの対象物標を合成画像に適切に表示できる。
【0122】
4-3.左車線Llの対象物標が他車両Vl3である場合
他車両Vl3はゾーンZ3に位置している。このため、CPUは、マトリクスM1を参照して、方位角θlを角度θw(「広い」)に変更する。
図10Bに示すように、この場合、他車両Vreについて特徴1w及び特徴3wが成立するため、他車両Vreが自車両Vに過度に接近していない限り、他車両Vreは合成画像に適切に表示され得る。一方、他車両Vl3については特徴8w及び特徴10wが成立するものの、他車両Vl3は他車両Vreの左斜め後方に位置しているため、両者の位置関係によっては、隠れ現象が発生する可能性がある。
これに対し、方位角θlを角度θnに変更する場合(
図10A参照)、他車両Vreについては特徴1n及び特徴3nが成立するため、見切れ現象により他車両Vreを合成画像に適切に表示することができない。また、他車両Vl3については特徴8n及び特徴10nが成立するため、二重化現象により他車両Vl3を合成画像に適切に表示することができない。
【0123】
上記4-1の場合と同様、他車両Vreに見切れ現象が発生する場合、運転者は、他車両Vreが車線変更しようとしているか否かを合成画像から判断することができない。このため、自車両Vの走行安全性が低下する可能性がある。
上述したように、隠れ現象よりも見切れ現象のほうが自車両Vの走行に影響を与える可能性が高い。このため、4-3では、見切れ現象の改善を隠れ現象の改善よりも優先している。この構成によれば、4-3の場合、方位角θlを角度θwに変更することにより、自車線L及び左車線Llの対象物標を合成画像に適切に表示できる。
【0124】
4-4.左車線Llに対象物標が存在していない場合
この場合、CPUは、マトリクスM1を参照して、方位角θlを角度θw(「広い」)に変更する。
図10Bに示すように、この場合、他車両Vreについて特徴1w及び特徴3wが成立するため、他車両Vreが自車両Vに過度に接近していない限り、他車両Vreは合成画像に適切に表示され得る。
これに対し、方位角θlを角度θnに変更する場合(
図10A参照)、他車両Vreについては特徴1n及び特徴3nが成立するため、見切れ現象により他車両Vreを合成画像に適切に表示することができない。
従って、4-4の場合、方位角θlを角度θwに変更することにより、自車線Lの対象物標を合成画像に適切に表示できる。
【0125】
以上説明したように、画像制御システム1では、合成画像を生成する際は、「自車線Lの対象物標の有無及び当該対象物標までの遠近の程度」と、「左車線Llの対象物標(又は右車線Lrの対象物標)の有無及び当該対象物標までの遠近の程度」と、の組み合わせに基づいて、方位角θl(又は方位角θr)の大きさが変更される。そして、方位角θl(又は方位角θr)の大きさが変更されると、当該変更に伴って方位角θli(又は方位角θri)の大きさが変更される。この組み合わせに基づいて方位角θl(又は方位角θr)の大きさ及び方位角θli(又は方位角θri)の大きさをそれぞれ独立して適切に変更することにより、車両の走行に影響を与える可能性が比較的に高い物標(即ち、自車線Lの対象物標及び左車線Llの対象物標(又は右車線Lrの対象物標))を合成画像に適切に表示できる。
【0126】
また、方位角θl(又は方位角θr)及び方位角θli(又は方位角θri)の変更は、自車線Lの対象物標及び左車線Llの対象物標(又は右車線Lrの対象物標)に関する情報のみに基づいて行われ、その他の物標に関する情報は考慮されない。従って、合成画像の生成にかかる処理負荷が増大することを抑制することができる。
【0127】
特に、本実施形態では、方位角θl(又は方位角θr)は、2種類の角度、即ち、角度θn(又は-θn)と角度θw(又は-θw)との間で変更可能となっている。このため、比較的に簡易な構成で、各車線L、Ll及びLrの対象物標を合成画像に適切に表示できる。
【0128】
以上、本実施形態に係る画像制御システムについて説明したが、本発明は上記実施形態に限定されるものではなく本発明の目的を逸脱しない限りにおいて種々の変更が可能である。
【0129】
例えば、
図14Aに示すように、方位角θlは、マトリクスM1に代えて、変形例としてのマトリクスM3を参照することにより決定されてもよい。同様に、
図14Bに示すように、方位角θrは、マトリクスM2に代えて、変形例としてのマトリクスM4を参照することにより決定されてもよい。マトリクスM3(又はM4)は、以下の点でマトリクスM1(又はM2)と相違している。
・マトリクスM3(又はM4)の成分のうち、マトリクスM1(又はM2)の「変更無し」の成分に対応する成分が「狭い」に設定されている。
・マトリクスM3(又はM4)の成分のうち、自車線Lに対象物標が存在しておらず、且つ、左車線Ll(又は右車線Lr)の対象物標がゾーンZ3に位置している場合の成分(以下、「成分C1」と称する。)が「狭い」に設定されている。
・マトリクスM3(又はM4)の成分のうち、自車線Lの対象物標及び左車線Ll(又は右車線Lr)の対象物標が何れもゾーンZ3に位置している場合の成分(以下、「成分C2」と称する。)が「狭い」に設定されている。
【0130】
この構成によれば、マトリクスM3(又はM4)の16個の成分のうち13個の成分が「狭い」に設定されているため、方位角θl(又はθr)を変更する頻度(即ち、合成画像の繋ぎ目の位置が移動する頻度)が大幅に減少する。これにより、合成画像の切り替え頻度が減少するため、切り替えが頻繁に生じることに起因して運転者が煩わしさを感じる可能性を低減できる。加えて、切り替えに気付いて運転者がディスプレイ12aに目を向ける頻度を低減できる。その一方で、成分C1及び成分C2が「狭い」に設定されている場合、左車線Llの対象物標に二重化現象が発生する(
図7A及び
図8A参照)。しかしながら、上述したように、二重化現象は合成画像の見映えを低下させるに過ぎないので、自車両Vの走行にはそれほど影響が生じない。即ち、この構成では、「合成画像の切り替え頻度を減少させること」を「二重化現象の発生」よりも優先している(二重化現象の発生を許容している。)。
【0131】
なお、この構成によれば、ECU10が比較的に近辺の物標(典型的には、ゾーンZ1に位置する物標)までの距離しか演算できない(別言すれば、ECU10の演算限界距離がゾーンZ1しか含んでいない)場合であっても、マトリクスM3(又はM4)に従って方位角θl(又はθr)を決定できる。即ち、ECU10は、自車線Lの対象物標が演算限界距離内に位置しており、且つ、左車線Ll(又は右車線Lr)の対象物標が演算限界距離内に位置していない(当該対象物標が存在しない場合を含む)場合のみ、方位角θl(又はθr)を角度θw(-θw)(「広い」)に変更し、それ以外の場合には、方位角θl(又はθr)を角度θn(-θn)(「狭い」)に変更するように構成されている。これにより、ECU10の演算限界距離がゾーンZ3にまで対応していない画像制御システムにおいても本発明を適用できる。
【0132】
また、ECU10は、方位角θl(又はθr)及び方位角θli(又はθri)を変更する際は、これらを連続的に変更するように構成されてもよい。この構成によれば、合成画像の繋ぎ目の移動が滑らかになるため、合成画像の切り替えを滑らかに(自然に)行うことができ、運転者が合成画像の切り替わり方に煩わしさを覚える可能性を低減できる。
【0133】
更に、対象物標がゾーンZ1とZ2との境界付近、又は、ゾーンZ2とZ3との境界付近を走行している場合において対象物標の位置がゾーンZ1とZ2との間、又は、ゾーンZ2とZ3との間で頻繁に変化すると、方位角θl(又はθr)が角度θnとθwとの間(又は-θnと-θwとの間)で頻繁に変更される場合がある。この場合、合成画像の切り替えが頻繁に行われ(チャタリングが発生し)、運転者が合成画像の切り替わり方に煩わしさを覚える可能性がある。そこで、対象物標がゾーンZ2からゾーンZ1に進入する際の距離D1の値をD1in(例えば、15[m])と設定し、対象物標がゾーンZ1からゾーンZ2に進入する際の距離D1の値を、D1inよりも大きいD1out(例えば、17[m])と設定してもよい。同様に、対象物標がゾーンZ3からゾーンZ2に進入する際の距離D2の値をD2in(例えば、30[m])と設定し、対象物標がゾーンZ2からゾーンZ3に進入する際の距離D2の値を、D2inよりも大きいD2out(例えば、34[m])と設定してもよい。即ち、距離D1及びD2にヒステリシスを導入してもよい。これにより、チャタリングの発生を抑制できる。
或いは、方位角θl(又はθr)の変更に伴い合成画像が切り替えられた場合、ECU10は、所定の期間(>T)が経過するまでは、たとえ当該期間中に方位角θl(又はθr)を変更する条件が成立したとしても方位角θl(又はθr)を変更しない(即ち、合成画像を切り替えない)ように構成されてもよい。この構成によっても、チャタリングの発生を抑制できる。
【0134】
更に、画像制御システム1は、レーダー、超音波センサ、又は、レーザーレーダ―等の測距センサを備えていてもよい。これにより、物標までの距離の演算精度が向上する。
【0135】
更に、ECU10は、ディスプレイ12aの一部に、現在の実効範囲Rrea、Rla及びRraを示す俯瞰図(
図5A又は
図5Bに示す図)を表示するように構成されてもよい。これは、イグニッションスイッチがオンされている期間中、常に行われてもよいし、合成画像を切り替える場合にのみ行われてもよい。
【0136】
更に、ECU10は、自車両Vが停止状態又は低速走行中の場合には合成画像をディスプレイ12aに表示せず、自車両Vが比較的に中程度の車速又は高速で走行している場合にのみ合成画像をディスプレイ12aに表示するように構成されてもよい。自車両Vが停止状態又は低速走行中の場合とは、典型的には、自車両Vが信号待ちをしていたり、渋滞に巻き込まれたりしている場合であり、このような場合に各車線L、Ll及びLrの対象物標が自車両Vの走行に影響を及ぼす可能性は比較的に低い(即ち、合成画像を表示する必要性はそれほど高くない)ためである。
この場合、ECU10は、マトリクスM1(又はM2)の最も左側の縦列(即ち、自車線Lの対象物標がゾーンZ1に位置している場合の成分を示す列)が削除されたマトリクス(図示省略)を参照して方位角θl(又はθr)を決定してもよい。
この構成によれば、画像制御システムの構成を簡素化でき、コストを削減できる。
【符号の説明】
【0137】
10:画像制御ECU、11Re:後方カメラ、11L:左後方カメラ、11R:右後方カメラ、12:表示装置、12a:表示センサ、21,22,23:直線、30la:境界線(後方左側境界線)、30ra:境界線(後方右側境界線)、40ia:境界線(左後方内側境界線、40oa:境界線、50ia:境界線(右後方内側境界線)、50oa:境界線