(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2021-12-28
(45)【発行日】2022-01-19
(54)【発明の名称】周辺監視装置
(51)【国際特許分類】
H04N 7/18 20060101AFI20220112BHJP
B60R 1/20 20220101ALI20220112BHJP
B60R 1/26 20220101ALI20220112BHJP
【FI】
H04N7/18 J
B60R1/20 100
B60R1/26 100
(21)【出願番号】P 2017234029
(22)【出願日】2017-12-06
【審査請求日】2020-11-18
(73)【特許権者】
【識別番号】000000011
【氏名又は名称】株式会社アイシン
(74)【代理人】
【識別番号】110002147
【氏名又は名称】特許業務法人酒井国際特許事務所
(72)【発明者】
【氏名】丸岡 哲也
(72)【発明者】
【氏名】渡邊 一矢
(72)【発明者】
【氏名】山本 欣司
(72)【発明者】
【氏名】門脇 淳
【審査官】益戸 宏
(56)【参考文献】
【文献】米国特許出願公開第2016/0375831(US,A1)
【文献】特開2012-001041(JP,A)
【文献】特開2004-056219(JP,A)
【文献】特開2015-069656(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
B60R 1/00
G08G 1/16
(57)【特許請求の範囲】
【請求項1】
車両に設けられて当該車両の周辺を撮像する撮像部によって撮像される周辺画像と、前記周辺画像に重畳可能で、運転者による運転操作の際に、前記運転者の操作指標となる指標画像と、を取得する取得部と、
前記指標画像を、第一の所定高さから第二の所定高さに変化させるとともに、その変化の推移を表示させる画像処理部と、
を備える周辺監視装置。
【請求項2】
前記第一の所定高さは、前記第二の所定高さより低い請求項1に記載の周辺監視装置。
【請求項3】
前記第一の所定高さは、前記第二の所定高さより高い請求項1に記載の周辺監視装置。
【請求項4】
前記第一の所定高さは、前記車両が存在する路面に接する高さである請求項2に記載の周辺監視装置。
【請求項5】
前記第二の所定高さは、前記車両が存在する路面に接する高さである請求項3に記載の周辺監視装置。
【請求項6】
前記第一の所定高さまたは前記第二の所定高さは、前記車両に設定された基準位置の高さである請求項1から請求項3のいずれか1項に記載の周辺監視装置。
【請求項7】
前記画像処理部は、前記指標画像が示す方向を前記車両の現在の舵角に応じて変化させる請求項1から請求項6のいずれか1項に記載の周辺監視装置。
【請求項8】
前記画像処理部は、前記第一の所定高さの第一の指標画像と、前記第二の所定高さの第二の指標画像と、を高さ方向に並べて表示させる請求項1から請求項7のいずれか1項に記載の周辺監視装置。
【請求項9】
前記画像処理部は、前記指標画像の変位状態に応じて当該指標画像を表示する際の透過率を変化させる請求項1から請求項8のいずれか1項に記載の周辺監視装置。
【請求項10】
前記周辺画像上で前記車両の移動目標位置を決定する目標決定部をさらに備え、
前記画像処理部は、前記車両が前記移動目標位置に到達するように前記指標画像が示す方向を決定する請求項1から請求項9のいずれか1項に記載の周辺監視装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、周辺監視装置に関する。
【背景技術】
【0002】
従来、車両に搭載された撮像部(カメラ)により車両周囲の状況を撮像し、撮像した画像を運転席周辺に配置された表示装置に表示することで、運転者に車両周囲の状況を認識させやすくする周辺監視装置が知られている。このような周辺監視装置の中には、表示装置の画面上で、自車と周囲の物体との位置関係や空きスペース等を認識させやすくするために軌跡予想線を表示するものがある。また、牽引装置を備える牽引車両では、被牽引車両との連結作業を行う際に被牽引車両への接近作業を支援するために、被牽引車両へ向かう軌跡予想線を表示するものがある。さらに、このような軌跡予想線を表示するタイプのものには、実際に被牽引車両に接近させる部分である牽引装置(ヒッチ)の高さに対応した位置に軌跡予想線を表示するものもある。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら従来技術の場合、奥行きのある二次元のカメラ画像に、このカメラ画像とは異なるグラフィック画像である軌跡予想線に高さ情報を持たせて重畳させている。そのため、表示された軌跡予想線を見ただけでは、その軌跡予想線が実際に高さ情報を持った線であるか否かの判定が難しい場合がある。また、高さ情報を含んだ線であることが認識されない場合、重畳される線が不自然な位置に存在するように見える場合があり、運転者の正しい認識や判断を損ねてしまう場合があった。
【0005】
そこで、本発明の課題の一つは、周辺画像に高さ情報を持った指標画像(運転者が運転操作の際に操作指標とする画像)を重畳する場合に、その指標画像が高さ情報を持った線であることを容易に認識させることができる周辺監視装置を提供することである。
【課題を解決するための手段】
【0006】
本発明の実施形態にかかる周辺監視装置は、例えば、車両に設けられて当該車両の周辺を撮像する撮像部によって撮像される周辺画像と、上記周辺画像に重畳可能で、運転者による運転操作の際に、上記運転者の操作指標となる指標画像と、を取得する取得部と、上記指標画像を、第一の所定高さから第二の所定高さに変化させるとともに、その変化の推移を表示させる画像処理部と、を備える。この構成によれば、例えば、指標画像が表示される過程で、変化の推移が表示されるため、指標画像が高さ情報を持ち、かつ当該指標画像が第一の所定高さから第二の所定高さに変化(移動)した状態で表示されていることを運転者に認識させやすい。
【0007】
本発明の実施形態にかかる周辺監視装置の上記第一の所定高さは、例えば、上記第二の所定高さより低くてもよい。この構成によれば、例えば、指標画像が浮上するように表示されるため、指標画像の挙動を把握させやすく、当該指標画像が高さ情報を持ち、かつ第一の所定高さから第二の所定高さに浮上した(移動)した状態で表示されていることをより、認識させやすくすることができる。
【0008】
本発明の実施形態にかかる周辺監視装置の上記第一の所定高さは、例えば、上記第二の所定高さより高くしてもよい。この構成によれば、例えば、指標画像が下降するように表示されるため、指標画像の挙動を把握させやすく、当該指標画像が高さ情報を持ち、かつ第一の所定高さから第二の所定高さに下降した(移動)した状態で表示されていることをより、認識させやすい。
【0009】
本発明の実施形態にかかる周辺監視装置の上記第一の所定高さは、例えば、上記車両が存在する路面に接する高さであってもよい。この構成によれば、例えば、指標画像が、路面から浮上するように表示される。その結果、路面を基準として指標画像の浮上(移動)の程度(指標画像の持つ高さ情報の大きさの程度)を認識させやすい。
【0010】
本発明の実施形態にかかる周辺監視装置の上記第二の所定高さは、例えば、上記車両が存在する路面に接する高さであってもよい。この構成によれば、例えば、指標画像が、路面に向かって下降するように表示される。その結果、路面に対して指標画像の下降(移動)の程度(指標画像の持つ高さ情報の大きさの程度)を認識させやすい。
【0011】
本発明の実施形態にかかる周辺監視装置の上記第一の所定高さまたは上記第二の所定高さは、例えば、上記車両に設定された基準位置の高さであってもよい。この構成によれば、例えば、車両の一部を基準として、指標画像の移動の推移が表示される。その結果、指標画像の移動の程度(指標画像の持つ高さ情報の大きさの程度)を認識させやすい。
【0012】
本発明の実施形態にかかる周辺監視装置の上記画像処理部は、例えば、上記指標画像が示す方向を上記車両の現在の舵角に応じて変化させるようにしてもよい。この構成によれば、例えば、車両が向かおうとする方向に、指標画像が表示されるため、車両を移動させる場合に、高さ情報を備える指標画像を有効に利用させることができる。
【0013】
本発明の実施形態にかかる周辺監視装置の上記画像処理部は、例えば、上記第一の所定高さの第一の指標画像と、上記第二の所定高さの第二の指標画像と、を高さ方向に並べて表示させるようにしてもよい。この構成によれば、第一の指標画像と第二の指標画像とのいずれかを基準に移動していく様子を認識させやすく、指標画像が高さ情報を備えることをより認識させやすくすることができる。
【0014】
本発明の実施形態にかかる周辺監視装置の上記画像処理部は、例えば、上記指標画像の変位状態に応じて当該指標画像を表示する際の透過率を変化させるようにしてもよい。この構成によれば、例えば、指標画像が周辺画像に重畳表示されるときに、元々周辺画像上に表示されている表示体(例えば、他車両の一部等)に重なっても、その表示体を認識させ続けることができる。その結果、指標画像が周辺画像に重畳される場合でも周辺状況の視認性を低下させにくくすることができる。
【0015】
本発明の実施形態にかかる周辺監視装置は、例えば、上記周辺画像上で上記車両の移動目標位置を決定する目標決定部をさらに備え、上記画像処理部は、上記車両が上記移動目標位置に到達するように上記指標画像が示す方向を決定するようにしてもよい。この構成によれば、例えば、指標画像を車両の移動目標位置と一致するように表示することができるので、車両を移動目標位置にスムーズに移動させることができる。
【図面の簡単な説明】
【0016】
【
図1】
図1は、実施形態にかかる周辺監視装置による指標画像の表示が適用可能な例を説明するための例示的な模式図であり、周辺監視装置を搭載可能な車両として牽引車両と、当該牽引車両に連結可能な被牽引車両とを説明する側面図である。
【
図2】
図2は、実施形態にかかる周辺監視装置による指標画像の表示が適用可能な例を説明するための例示的な模式図であり、周辺監視装置を搭載可能な車両として牽引車両と、当該牽引車両に連結可能な被牽引車両との連結作業を説明する上面図である。
【
図3】
図3は、実施形態にかかる周辺監視装置を含む周辺監視システムの構成の例示的なブロック図である。
【
図4】
図4は、実施形態にかかる周辺監視装置のCPUの構成の例示的なブロック図である。
【
図5】
図5は、実施形態にかかる周辺監視装置による指標画像としてのヒッチガイド線画像の表示例を説明する図であり、ヒッチガイド線画像の表示開始時を示す模式図である。
【
図6】
図6は、実施形態にかかる周辺監視装置による指標画像としてのヒッチガイド線画像の表示例を説明する図であり、ヒッチガイド線画像が後方に延びていく推移状態を示す模式図である。
【
図7】
図7は、実施形態にかかる周辺監視装置による指標画像としてのヒッチガイド線画像の表示例を説明する図であり、ヒッチガイド線画像が浮上する推移状態を示す模式図である。
【
図8】
図8は、実施形態にかかる周辺監視装置による指標画像としてのヒッチガイド線画像の表示例を説明する図であり、浮上したヒッチガイド線画像が車両の舵角にしたがって移動する推移状態を示す模式図である。
【
図9】
図9は、実施形態にかかる周辺監視装置による指標画像の表示処理の一例を説明するフローチャートである。
【
図10】
図10は、実施形態にかかる周辺監視装置による指標画像の他の表示例を説明する模式図である。
【発明を実施するための形態】
【0017】
以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によっても実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも一つを得ることが可能である。
【0018】
本実施形態の周辺監視装置は、撮像部で撮像した周辺画像に高さ情報を持った指標画像を重畳する場合に、その指標画像が高さ情報を持った画像であることを容易に認識させるような形態で表示する。この周辺監視装置を搭載可能な車両として、例えば、
図1に示すような牽引車両10を示す。
図1は、牽引車両10と、当該牽引車両10に連結可能な被牽引車両12とを説明する側面図であり、
図2は、
図1の上面図である。
図1では、紙面左方向を牽引車両10を基準とする前方、紙面右方向を牽引車両10を基準とする後方としている。
図3は、牽引車両10に搭載可能な周辺監視装置を含む周辺監視システム100の構成の例示的なブロック図である。したがって、本実施形態では、指標画像の一例として、牽引車両10を被牽引車両12に連結させる運転操作を行う際に、牽引車両10を運転する運転者の操作指標となるヒッチガイド線画像を表示する場合を説明する。
【0019】
まず、牽引車両10および被牽引車両12の構成について説明する。牽引車両10は、例えば、内燃機関(エンジン、図示されず)を駆動源とする自動車(内燃機関自動車)であってもよいし、電動機(モータ、図示されず)を駆動源とする自動車(電気自動車、燃料電池自動車等)であってもよいし、それらの双方を駆動源とする自動車(ハイブリッド自動車)であってもよい。牽引車両10は
図1に示されるようなスポーツ用多目的車両(Sport Utility Vehicle:SUV)であってもよいし、車両の後ろ側に荷台が設けられている、いわゆる「ピックアップトラック」であってもよい。また、一般的な乗用車であってもよい。牽引車両10は、種々の変速装置を搭載することができるし、内燃機関や電動機を駆動するのに必要な種々の装置(システム、部品等)を搭載することができる。また、牽引車両10における車輪14(前輪14F、後輪14R)の駆動に関わる装置の方式や、数、レイアウト等は、種々に設定することができる。
【0020】
牽引車両10のリヤバンパ16の例えば車幅方向の中央部の下部からは、被牽引車両12を牽引するための牽引装置18(ヒッチ)が突出している。牽引装置18は牽引車両10の例えばフレームに固定されている。牽引装置18は、一例として、垂直方向(車両上下方向)に立設された先端部が球状のヒッチボール18aを備え、このヒッチボール18aに、被牽引車両12に固定された連結部材20の先端部に設けられたカプラ20aが覆い被さる。その結果、牽引車両10と被牽引車両12とが連結されるとともに、牽引車両10に対して被牽引車両12が車幅方向に揺動(旋回)可能となっている。つまり、ヒッチボール18aは、被牽引車両12(連結部材20)に前後左右の動きを伝え、また加速や減速のパワーを受け止めることになる。
【0021】
被牽引車両12は、例えば、
図1に示すように、搭乗空間、居住区間、収納空間等のうち少なくとも一つを含む箱形タイプであってもよいし、荷物(例えば、コンテナやボート等)を搭載する荷台タイプであってもよい。
図1に示す被牽引車両12は、駆動輪や操舵輪を含まない従動輪として一対のトレーラ車輪22を備える従動車両である。なお、
図1に示す被牽引車両12は、牽引車両10に連結されていない場合は、例えば、連結部材20に着脱可能なスタンド20bが装着され、被牽引車両12が前傾姿勢になることなく、バランスが取れるように構成されている。
【0022】
また、
図1、
図2に例示されるように、牽引車両10には、複数の撮像部24として、例えば四つの撮像部24a~24dが設けられている。撮像部24は、例えば、CCD(Charge Coupled Device)やCIS(CMOS image sensor)等の撮像素子を内蔵するデジタルカメラである。撮像部24は、所定のフレームレートで動画データ(撮像画像データ)を出力することができる。撮像部24は、それぞれ、広角レンズまたは魚眼レンズを有し、水平方向には例えば140°~220°の範囲を撮影することができる。また、撮像部24の光軸は斜め下方に向けて設定されている場合もある。よって、撮像部24は、牽引車両10が移動可能な路面や路面に付されたマーク(矢印や区画線、駐車スペースを示す線、車線分離線等を含む)や物体(障害物として、例えば、歩行者、車両等)を含む牽引車両10の外部の周辺環境を逐次撮影し、撮像画像データとして出力する。
【0023】
撮像部24aは、例えば、牽引車両10の後側のリヤハッチ10aの下方の壁部に位置される。撮像部24aは、牽引車両10の後端部(リヤバンパ16)、牽引装置18等を含む後方領域を撮影可能である。また、牽引車両10に被牽引車両12が連結されている場合には、連結部材20および被牽引車両12の少なくとも前端部を含む領域(例えば、
図1で二点鎖線で示す範囲)、被牽引車両12の側方から臨む被牽引車両12の後方領域等も撮影可能である。撮像部24aによって撮像された撮像画像データは、牽引車両10の後方領域に存在する物体、例えば、駐車車両等)の検出に用いることができる。また、
図1、
図2に示されるように、被牽引車両12の認識および、牽引車両10と被牽引車両12の連結状態(例えば、連結角度、連結の有無等)の検出に用いることもできる。この場合、撮像部24aの撮像した撮像画像データに基づき牽引車両10と被牽引車両12との連結状態や連結角度が取得できるので、システム構成が簡略化できるとともに、演算処理や画像処理の負荷が軽減できる。
【0024】
また、撮像部24bは、例えば、牽引車両10の左側の端部、例えば左側のドアミラー10bに設けられて、牽引車両10の左側方を中心とする領域(例えば左前方から左後方の領域)を含む左側方画像を撮像する。撮像部24cは、例えば、牽引車両10の前側、すなわち車両前後方向の前方側の端部、例えばフロントグリル10cやフロントバンパ等に設けられて、牽引車両10の前方を含む前方画像を撮像する。撮像部24dは、例えば、牽引車両10の右側の端部、例えば右側のドアミラー10dに設けられて、牽引車両10の右側方を中心とする領域(例えば右前方から右後方の領域)を含む右側方画像を撮像する。複数の撮像部24で得られた撮像画像データに基づいて演算処理や画像処理を実行し、より広い視野角の画像を生成したり、牽引車両10を上方から見た仮想的な俯瞰画像(平面画像)を生成したりすることができる。
【0025】
牽引車両10の車室内には、
図3に示されるように、表示装置26や、音声出力装置28が設けられている。表示装置26は、例えば、LCD(liquid crystal display)や、OELD(organic electroluminescent display)等である。音声出力装置28は、例えば、スピーカである。また、表示装置26は、例えば、タッチパネル等、透明な操作入力部30で覆われている。乗員(例えば、運転者)は、操作入力部30を介して表示装置26の表示画面に表示される画像を視認することができる。また、乗員は、表示装置26の表示画面に表示される画像に対応した位置で手指等で操作入力部30を触れたり押したり動かしたりして操作することで、操作入力を実行することができる。これら表示装置26や、音声出力装置28、操作入力部30等は、例えば、牽引車両10のダッシュボードの車幅方向すなわち左右方向の中央部に位置されたモニタ装置32に設けられている。モニタ装置32は、スイッチや、ダイヤル、ジョイスティック、押しボタン等の不図示の操作入力部を有することができる。モニタ装置32は、例えば、ナビゲーションシステムやオーディオシステムと兼用されうる。
【0026】
また、
図1、
図2に例示されるように、牽引車両10は、例えば、四輪自動車であり、左右二つの前輪14Fと、左右二つの後輪14Rとを有する。これら四つの車輪14は、いずれも転舵可能に構成されうる。
図3に示されるように、牽引車両10は、少なくとも二つの車輪14を操舵する操舵システム34を有している。操舵システム34は、アクチュエータ34aと、トルクセンサ34bとを有する。操舵システム34は、ECU36(electronic control unit)等によって電気的に制御されて、アクチュエータ34aを動作させる。操舵システム34は、例えば、電動パワーステアリングシステムや、SBW(steer by wire)システム等である。操舵システム34は、アクチュエータ34aによってステアリングホイールにトルク、すなわちアシストトルクを付加して操舵力を補ったり、アクチュエータ34aによって車輪14を転舵したりする。この場合、アクチュエータ34aは、一対の車輪14を転舵してもよいし、複数の車輪14を転舵してもよい。また、トルクセンサ34bは、例えば、運転者がステアリングホイールに与えるトルクを検出する。
【0027】
また、
図3に例示されるように、周辺監視システム100(周辺監視装置)では、ECU36や、モニタ装置32、操舵システム34等の他に、ブレーキシステム38、舵角センサ40、シフトセンサ42、車輪速センサ44等が、電気通信回線としての車内ネットワーク46を介して電気的に接続されている。車内ネットワーク46は、例えば、CAN(controller area network)として構成されている。ECU36は、車内ネットワーク46を通じて制御信号を送ることで、操舵システム34、ブレーキシステム38等を制御することができる。また、ECU36は、車内ネットワーク46を介して、トルクセンサ34b、ブレーキセンサ38b、舵角センサ40、シフトセンサ42、車輪速センサ44等の検出結果や、操作入力部30の操作信号等を、受け取ることができる。
【0028】
ECU36は、例えば、CPU36a(central processing unit)や、ROM36b(read only memory)、RAM36c(random access memory)、表示制御部36d、音声制御部36e、SSD36f(solid state drive、フラッシュメモリ)等を有している。CPU36aは、ROM36b等の不揮発性の記憶装置に記憶された(インストールされた)プログラムを読み出し、当該プログラムに従って演算処理を実行する。CPU36aは、例えば、表示装置26で表示される画像に関連した画像処理を実行する。例えば、CPU36aは、撮像部24が撮像した撮像画像データに演算処理や画像処理を実行して、周辺画像(例えば、俯瞰画像)を生成する。
【0029】
RAM36cは、CPU36aでの演算で用いられる各種のデータを一時的に記憶する。また、表示制御部36dは、ECU36での演算処理のうち、主として、表示装置26で表示される画像データの合成等を実行する。また、音声制御部36eは、ECU36での演算処理のうち、主として、音声出力装置28で出力される音声データの処理を実行する。SSD36fは、書き換え可能な不揮発性の記憶部であって、ECU36の電源がオフされた場合にあってもデータを記憶することができる。なお、CPU36aや、ROM36b、RAM36c等は、同一パッケージ内に集積されうる。また、ECU36は、CPU36aに替えて、DSP(digital signal processor)等の他の論理演算プロセッサや論理回路等が用いられる構成であってもよい。また、SSD36fに替えてHDD(hard disk drive)が設けられてもよいし、SSD36fやHDDは、ECU36とは別に設けられてもよい。
【0030】
ブレーキシステム38は、例えば、ブレーキのロックを抑制するABS(anti-lock brake system)や、コーナリング時の牽引車両10の横滑りを抑制する横滑り防止装置(ESC:electronic stability control)、ブレーキ力を増強させる(ブレーキアシストを実行する)電動ブレーキシステム、BBW(brake by wire)等である。ブレーキシステム38は、アクチュエータ38aを介して、車輪14ひいては牽引車両10に制動力を与える。また、ブレーキシステム38は、左右の車輪14の回転差などからブレーキのロックや、車輪14の空回り、横滑りの兆候等を検出して、各種制御を実行することができる。ブレーキセンサ38bは、例えば、ブレーキペダルの可動部の位置を検出するセンサである。
【0031】
舵角センサ40は、例えば、ステアリングホイールの操舵量を検出するセンサである。ECU36は、運転者によるステアリングホイールの操舵量や、自動操舵時の各車輪14の転舵量等を、舵角センサ40から取得して各種制御を実行する。シフトセンサ42は、例えば、シフト操作部の可動部の位置を検出するセンサである。車輪速センサ44は、車輪14の回転量や単位時間当たりの回転数を検出するセンサである。車輪速センサ44は、検出した回転数を示す車輪速パルス数をセンサ値として出力する。ECU36は、車輪速センサ44から取得したセンサ値に基づいて牽引車両10の移動量などを演算し、各種制御を実行することができる。
【0032】
なお、上述した各種センサやアクチュエータの構成や、配置、電気的な接続形態等は、一例であって、種々に設定(変更)することができる。
【0033】
表示装置26は、撮像部24で撮像した周辺画像に、運転者による運転操作の際に、運転者の操作指標となる指標画像の一例としてのヒッチガイド線画像や車幅ガイド線画像等を重畳して表示可能である。そして、本実施形態の場合、指標画像を表示する場合、当該指標画像を第一の所定高さから第二の所定高さに変化させるとともに、その変化の推移を表示させることができる。なお、所定高さ(第一の所定高さ、第二の所定高さ等)は、撮像部24で撮像した実空間における三次元の高さに対応するものである。一例として、ヒッチガイド線画像を牽引車両10に設定された基準位置の高さに対応する高さまで浮上させるとともに、その浮上推移を表示させることができる。ヒッチガイド線画像は、例えば、牽引車両10と被牽引車両12とを連結する場合に牽引車両10のヒッチボール18aを被牽引車両12のカプラ20aに接近させやすくするために、ヒッチボール18aからカプラ20aへ向かって延びるように表示される誘導ガイド線画像とすることができる。この場合、
図1に示すように、ヒッチボール18aは、牽引車両10が存在する路面(第一の所定高さ)から例えば、高さLの位置(第二の所定高さ)に存在する。したがって、ヒッチガイド線画像を表示装置26に表示された周辺画像に重畳する場合には、ヒッチガイド線画像も高さLに相当する位置に表示される。しかしながら、奥行きのある二次元のカメラ画像(周辺画像)に、このカメラ画像とは異なるグラフィック画像であるヒッチガイド線画像に高さ情報を持たせて重畳させた場合、単に表示位置が高さ情報にしたがってオフセットされるだけとなる。その結果、一見、高さ情報が反映されたヒッチガイド線画像であるとは認識されにくい。そこで、本実施形態の周辺監視装置の場合、ヒッチガイド線画像を一例とする指標画像が高さ情報を持って表示されていることを認識しやすくするために、指標画像を表示するときに、移動の推移を併せて表示する。これにより、指標画像(例えば、ヒッチガイド線画像)が高さ情報を持ち、路面から浮き上がった状態で表示されていることを運転者に認識させやすくすることができる。
【0034】
ECU36に含まれるCPU36aは、上述したような移動(例えば、浮上)の推移を併せて表示できるような指標画像(例えば、ヒッチガイド線画像)の表示処理を実行するための各種モジュールを備える。各種モジュールは、CPU36aがROM36b等の記憶装置にインストールされ記憶されたプログラムを読み出し、それを実行することで実現される。例えば、CPU36aは、
図4に示されるように、取得部48、画像処理部50、目標決定部52等のモジュールを備える。
【0035】
取得部48は、浮上推移を伴う指標画像(例えばヒッチガイド線画像)の表示を実現するための各種情報を取得するために、モード取得部48a、周辺画像取得部48b、指標画像取得部48c、舵角取得部48d、高さ情報取得部48e等を含む。
【0036】
モード取得部48aは、例えば、運転者が表示装置26に表示する画像内容(表示モード)の切り替えを行う際に、例えば操作入力部30の操作に基づく操作信号を受け付ける。表示モードとしては、例えば、「通常表示モード」、「指標画像表示モード」、「標準ガイド線画像表示モード」、「誘導ガイド線画像表示モード」、「路面モード」、「推移表示モード」等がある。
【0037】
「通常表示モード」は、牽引車両10の走行中に通常表示される、ナビゲーション画面やオーディオ画面等を表示させる表示モードである。「指標画像表示モード」は、運転者による運転操作の際に、撮像部24が撮像した周辺画像に運転者の操作指標となる指標画像(例えば、ヒッチガイド線画像)を重畳表示させる表示モードである。指標画像表示モードが選択された場合、さらに、例えば、「標準ガイド線画像表示モード」と「誘導ガイド線画像表示モード」の選択が可能である。「標準ガイド線画像表示モード」は、牽引車両10を走行させる場合に、牽引車両10が通過可能か否か等の判断に利用できる車幅ガイド線画像や牽引車両10の後方または前方の離間距離を把握させやすくするための距離ガイド線画像(距離目安線画像ともいう)等を表示させる表示モードである。また、「誘導ガイド線画像表示モード」は、牽引車両10を特定の目標位置に誘導するためのガイド線画像で、例えばヒッチボール18aの移動方向を示すヒッチガイド線画像や牽引車両10全体の走行予測方向を示す走行予測線画像等を表示させる表示モードである。「誘導ガイド線画像表示モード」は、この他、例えば、牽引車両10を駐車させる場合に駐車スペースを示す駐車枠ガイド線画像を表示させてもよい。
【0038】
「路面モード」は、指標画像を牽引車両10が存在する路面に接するように描画させる表示モードである。「推移表示モード」は、指標画像の表示位置を第一の所定高さから第二の所定高さに変化させるとともに、その変化の推移を表示させる表示モードである。指標画像を例えばヒッチガイド線画像とする場合、ヒッチガイド線画像の表示位置を、路面に接した状態(第一の所定の高さ)から牽引車両10に設定された基準位置(第二の所定の高さ)まで浮上させるとともに、その浮上推移を表示させる。牽引車両10に設定された「基準位置の高さ」とは、表示する指標画像に応じて定められた高さであり、ヒッチガイド線画像の場合は、牽引車両10に固定されたヒッチボール18aの路面からの高さLとすることができる。また、指標画像が、例えば車幅ガイド線画像の場合、例えば、牽引車両10のリヤバンパ16の高さとすることができる。
【0039】
周辺画像取得部48bは、例えば、モード取得部48aが「指標画像表示モード」を取得した場合に、牽引車両10の周囲状況を表示するために必要な画像情報を取得する。例えば、周辺画像取得部48bは、牽引車両10の周辺を撮像する撮像部24a~24dから、複数の撮像画像データ(例えば、前方画像、左側方画像、右側方画像、後方画像等のデータ)を取得する。取得した画像は、実画像としてそのままの態様で表示装置26に逐次表示される場合と、視点変換等が施されて俯瞰画像の態様で表示装置26に逐次表示される場合とがある。
【0040】
指標画像取得部48cは、モード取得部48aが「指標画像表示モード」を示す操作信号を取得した場合に、運転者によって指定された、「ヒッチガイド線画像」や「走行予測線画像」、「車幅ガイド線画像」、「距離ガイド線画像」、「駐車枠ガイド線画像」等の基本形状を例えばROM36bから読み出して取得する。各ガイド線画像の基本形状は、例えば、牽引車両10が存在する路面に接するように表示され、牽引車両10の前後方向に延びる車両中心線と平行な直線または、車両中心線と直交する直線と平行な直線である。例えば、「ヒッチガイド線画像」は、ヒッチボール18aの直下の路面の位置から牽引車両10の後方に向けて、所定長さ、例えば、2.5mに相当する長さだけ延びる線状の画像である。同様に、「走行予測線画像」は、牽引車両10の車幅方向の中央位置から牽引車両10の進行方向に例えば、2.5mに相当する長さだけ延びる線状の画像である。牽引車両10の進行方向は、シフトセンサ42の操作位置で判定可能である。例えば、シフトセンサ42がDレンジ位置にある場合は前進方向、Rレンジ位置にある場合は後退方向である。「車幅ガイド線画像」は、牽引車両10の車幅に左右の余裕距離、例えば、20cmに相当する長さを付加した牽引車両10の側面と平行な車両前後方向に、例えば、車両端部から2.5mに相当する長さだけ延びる線状の画像である。「距離ガイド線画像」は、牽引車両10のリヤバンパ16の直下の路面の位置から後方、例えば、0.5m、1.0m、2.5mに相当する位置にリヤバンパ16と平行に延びる線状の画像である。「距離ガイド線画像」は、牽引車両10のフロントバンパの直下の路面の位置から同様に0.5m、1.0m、2.5mに相当する位置に表示されてもよい。「駐車枠ガイド線画像」は、牽引車両10が駐車する際に駐車目標位置が設定された場合、牽引車両10が収まる駐車スペースに対応するスペースを規定する線状の画像である。
【0041】
舵角取得部48dは、舵角センサ40から出力される牽引車両10の舵角情報(ステアリングホイールの操作状態に関する情報)を取得する。つまり、運転者がこれから牽引車両10を走行させようとしている方向の舵角を取得する。なお、舵角取得部48dは、シフトセンサ42から取得される可動部の位置に基づき、牽引車両10が前進可能状態か後退可能状態かを取得して、舵角が前進状態の舵角か後退状態の舵角かを識別できるようにしてもよい。
【0042】
高さ情報取得部48eは、指標画像を第一の所定高さから第二の所定高さに移動(例えば浮上)させる場合の高さ情報を例えばROM36bから取得する。高さ情報は、前述したように、表示する指標画像に応じて定められている。例えば、指標画像としてヒッチガイド線画像を表示する場合は、牽引車両10に固定されたヒッチボール18aの路面からの高さLであり、車幅ガイド線画像の場合、例えば、牽引車両10のリヤバンパ16の高さである。高さ情報は、牽引車両10の仕様に基づき予め定められた固定値であってもよいし、運転者が操作入力部30等を介して、適宜設定した値であってもよい。
【0043】
図5~
図8は、周辺監視システム100(周辺監視装置)の画像処理部50による指標画像の表示例を説明する図であり、牽引車両10が後退可能なとき(シフトセンサ42がRレンジ位置を検出したとき)、牽引車両10に被牽引車両12を連結させる連結作業を支援する指標画像の一例としてヒッチガイド線画像を表示する例を示す。表示装置26は、指標画像を表示する「指標画像表示モード」の場合、
図5~
図8に示すように、例えば、実画像P1を示す第1表示領域26aと俯瞰画像P2を示す第2表示領域26bから構成される二分割画面とすることができる。実画像P1は、一例として撮像部24aによって撮像された牽引車両10の後方の周辺画像を示す。また、俯瞰画像P2は、撮像部24a~24dが撮像した牽引車両10の後方画像、左側方画像、前方画像、右側方画像のそれぞれに対して、牽引車両10の直上位置を仮想視点とするような視点変換等の画像処理を施すことにより得られる牽引車両10の位置を基準とする全周囲画像である。なお、牽引車両10が前進可能な場合は、実画像P1には、撮像部24cによって撮像された牽引車両10の前方の周辺画像が表示され、適宜指標画像が重畳表示される。
【0044】
第1表示領域26aに表示される実画像P1において、画面下方側(手前側)に牽引車両10のリヤバンパ16と牽引装置18(ヒッチボール18a)が表示され、それより上方に牽引車両10の後方の状況が表示されている。なお、
図5等に示す実画像P1において、画面上側(遠方側)には、複数の駐車車両に混じって連結部材20(カプラ20a)を備える被牽引車両12が表示されている。また、第1表示領域26aの一部(例えば、画面右下側)には、表示装置26の表示モードの切替スイッチとして動作する切替アイコン54が表示されている。
図5の場合、切替アイコン54は、「指標画像表示モード」が選択された後、さらに表示される切替スイッチであり、「標準ガイド線画像表示モード」に切り替える標準モードアイコン54aと「誘導ガイド線画像表示モード」に切り替える誘導モードアイコン54bとが表示されている。
【0045】
また、第2表示領域26bに表示される俯瞰画像P2において、中央領域には、牽引車両10を俯瞰視で示す自車アイコン56が表示されている。自車アイコン56は、例えば、ROM36bから読み出して表示することができる。また、自車アイコン56の後方には、車幅ガイド線画像58として、右側ガイド線画像58aと左側ガイド線画像58bとが表示されている。また、右側ガイド線画像58aと左側ガイド線画像58bを跨ぐように、複数の距離ガイド線画像60が表示されている。距離ガイド線画像60は、牽引車両10のリヤバンパ16の後方、例えば、0.5mの位置を示す第1距離ガイド線画像60a、1.0mの位置を示す第2距離ガイド線画像60b、2.5mの位置を示す第3距離ガイド線画像60c等を含む。なお、距離ガイド線画像60は三本に限らず、例えば、運転者の設定により増減してもよいし、各距離ガイド線画像60の間隔も適宜設定できるようにしてもよい。
【0046】
また、
図5~
図8には、指標画像の一例としてヒッチガイド線画像62が表示されている。
図5は、ヒッチガイド線画像62の表示開始時を示す模式図であり、
図6は、ヒッチガイド線画像62が牽引車両10の後方に延びていく推移状態を示す模式図である。また、
図7は、ヒッチガイド線画像62が浮上する推移状態を示す模式図であり、
図8は、浮上したヒッチガイド線画像62が牽引車両10の舵角にしたがって移動する推移状態を示す模式図である。
【0047】
画像処理部50は、主として、指標画像(例えば、ヒッチガイド線画像62)の移動(例えば浮上)および移動後の表示態様を変化させるために、推移表示処理部50a、影画像処理部50b、指標画像移動処理部50c、透過率処理部50d等のモジュールを含む。
【0048】
推移表示処理部50aは、指標画像取得部48cが取得した例えば路面に接した基本形状の指標画像としてのヒッチガイド線画像62(
図6参照)の描画データに、高さ情報取得部48eが取得した移動(浮上)高さ情報を加えることにより、
図7に示すように、ヒッチガイド線画像62を浮上させる画像処理(アニメーション処理)を実行する。このときの移動(浮上)速度は、移動の有無が認識できる程度の予め定められた固定値であってもよいし、運転者が操作入力部30を操作して適宜設定した設定値であってもよい。指標画像として例えば、ヒッチガイド線画像62の浮上推移を表示することにより、ヒッチガイド線画像62(指標画像)が高さ情報を持って描画された画像であることを運転者に認識させやすくすることができる。また、推移表示処理部50aは、例えば、路面に接した基本形状のヒッチガイド線画像62を最初に表示する際に、
図5、
図6に示すように、牽引車両10の後方2.5mに相当する位置まで徐々に延びていくような伸長推移(アニメーション)を表示するようにしてもよい。このような伸長推移を表示することにより、運転者の注意を引き、ヒッチガイド線画像62(指標画像)が表示されることを認識させやすくなる。
【0049】
影画像処理部50bは、
図7に示すように、指標画像(例えばヒッチガイド線画像62)を移動(例えば浮上)させる際に、路面に接したままの状態を示す影画像64(第一の指標画像)と移動した状態のヒッチガイド線画像62(第二の指標画像)とを分離して高さ方向に並べて表示させる。なお、この場合の高さ方向は、必ずしも鉛直方向である必要はない。影画像64は、浮上するヒッチガイド線画像62に対して、路面にとどまるように表示されるため、路面に投影されたヒッチガイド線画像62の「影」のように見せることができる。言い換えれば、影画像64が表示されることにより、ヒッチガイド線画像62が浮上状態であることをより認識させやすくすることができる。なお、影画像64を表示する場合は、例えば「黒色」で表示し、浮上するヒッチガイド線画像62等は、例えば「緑色」や「青色」、「黄色」等路面に描かれた文字やマークと識別し易い色で表示することが望ましい。なお、影画像64は、浮上前のヒッチガイド線画像62(指標画像)の下側で重なるように表示されていてもよい。また、このときヒッチガイド線画像62に対して影画像64を僅かに車幅方向にずらすことで、影画像64の存在をヒッチガイド線画像62の浮上前から運転者に認識させやすくすることができる。
【0050】
指標画像移動処理部50cは、高さ方向に移動(例えば浮上)させた指標画像(例えば、ヒッチガイド線画像62)および路面に残した影画像64を、
図8に示すように、舵角取得部48dが取得した舵角情報にしたがって、操舵方向に移動(変形)させる。つまり、ヒッチガイド線画像62、影画像64は、牽引車両10を走行させた場合に牽引車両10が向かう方向に向くことになる。例えば、
図8に示すように、牽引車両10の後方に、これから連結させようとする被牽引車両12が停車している場合、ヒッチガイド線画像62が被牽引車両12に向かうように牽引車両10のステアリングホイールを操作することにより、牽引車両10を被牽引車両12に向けて移動させることができる。つまり、ヒッチボール18aをカプラ20aに容易に接近させることができる。
【0051】
透過率処理部50dは、指標画像(例えば、ヒッチガイド線画像62)を表示する場合の透過率を指標画像の変位(例えば浮上)状態に応じて変化させる。例えば、
図5、
図6に示すように、ヒッチガイド線画像62を伸長させる場合(路面に接している場合)は、透過率を「0%」として、ヒッチガイド線画像62の表示が行われ、その存在が明確に認識できるようにする。そして、
図6に示すように浮上する場合、ヒッチガイド線画像62の透過率を徐々に高め、高さ情報取得部48eが取得した高さ情報に対応する位置に浮上したときに、透過率を例えば「50%」とする。その結果、撮像部24aが撮像した周辺画像に元々映り込んでいたもの、例えば、カプラ20aや路面の表示物(区画線等)の上にヒッチガイド線画像62が重畳された場合でも、カプラ20aや路面の表示物等を透過率が高まったヒッチガイド線画像62を通して認識させることができる。したがって、例えば、舵角を変化させてヒッチガイド線画像62の先端等をカプラ20aの位置に合わせやすくなる。なお、透過率処理部50dは、影画像64の透過度も同様に変化させてもよく、同様の効果を得ることができる。透過率の設定は、上述のような固定値であってもよいし、例えば操作入力部30を用いて運転者が適宜設定できるようにしてもよい。
【0052】
なお、
図5~
図8の例では、ヒッチガイド線画像62や影画像64を破線で表示している。破線で表示することにより、ヒッチガイド線画像62や影画像64等の指標画像を実画像P1に重畳するときに、カプラ20aや路面の表示物等と重なる部分を低減し、カプラ20aや表示物の認識性を向上させている。逆にヒッチガイド線画像62や影画像64等の指標画像の認識性を重視する場合は、実線で表示するようにしてもよい。
【0053】
目標決定部52は、付加機能として追加可能なモジュールである。目標決定部52は、ヒッチガイド線画像62等の指標画像を表示する場合に、周辺画像上で移動目標位置に決定する処理を行うことができる。例えば、ヒッチガイド線画像62を表示させる場合、移動目標位置は被牽引車両12の存在する位置となる。この場合、上述したように、ヒッチガイド線画像62を浮上表示させた後、運転者がステアリングホイールを操作して被牽引車両12の位置にヒッチガイド線画像62を合わせる。別の実施形態として、目標決定部52を用いる場合、当該目標決定部52により被牽引車両12が移動目標位置であると決定し、その位置に到達するように、ヒッチガイド線画像62を自動的に描画してもよい。移動目標位置の決定は、例えば、撮像部24aが取得した周辺画像に対し、ROM36b等に予め保持しておいた参照パターン(被牽引車両12等の形状パターン)と比較するパターンマッチング等の画像処理を施して、被牽引車両12を検出して決定することができる。また別の実施形態では、運転者が操作入力部30等を操作して、実画像P1に映り込んでいる被牽引車両12を画面上でクリックして決定してもよい。目標決定部52を用いる場合、当該目標決定部52によって決定された移動目標位置に延びていくヒッチガイド線画像62の方向に対応して、操舵システム34のアクチュエータ34aを動作させて、自動的に舵角を調整するようにしてもよい。その結果、ヒッチボール18aとカプラ20aとの位置合わせがよりスムーズかつ容易にできるとともに、運転者が舵角調整を行うことなく、直ちに被牽引車両12(カプラ20a)に向けて牽引車両10の移動を開始することができる。また、別の実施形態では、目標決定部52によって決定された移動目標位置に自動的に延びるヒッチガイド線画像62(影画像64)を表示させるとともに、これとは別に、牽引車両10のステアリングホイールの角度(舵角)に対応するヒッチガイド線画像62と同様な態様の舵角ガイド線画像を表示し、この舵角ガイド線画像を、自動的に移動目標位置に向かったヒッチガイド線画像62に重なるように、運転者がステアリングホイールを操作するようにしてもよい。この場合、表示された線同士の重ね合わせになるので、遠方に存在する被牽引車両12とヒッチガイド線画像62との位置合わせをする場合に比べ、重ね合わせのため操舵調整が容易であり、より正確に合わせることができる。
【0054】
上述のように構成される周辺監視装置(周辺監視システム100)による表示処理の詳細を
図9のフローチャートに基づいて説明する。なお、
図9に示す例では、指標画像の移動推移の表示として、誘導ガイド線画像のうちヒッチガイド線画像62を浮上表示する場合を示し、それ以外の指標画像、例えば、車幅ガイド線画像や距離ガイド線画像等は、浮上させない場合を示す。周辺監視システム100は、複数種類の指標画像を浮上させるようにしてもよいが、表示装置26の表示内容が煩雑になり表示内容が把握しにくくなる場合があるため、浮上表示させる指標画像は、運転者等により適宜選択された数、例えば一種類とすることが望ましい。
【0055】
まず、CPU36aは、モード取得部48aを介して表示装置26に要求されている表示モードを取得する。例えば、表示装置26に表示された操作入力部30の表示モードの切替スイッチ等が何ら操作されず、指標画像表示モードが選択されていない場合(S100のNo)、牽引車両10の運転者は通常表示画面、例えば、ナビゲーション画面やオーディオ画面等の表示を行う「通常表示モード」を望んでいると判定する。この場合、CPU36aは、表示装置26の表示モードを変更することなく、一旦このフローを終了させる。
【0056】
一方、S100において、表示装置26に表示された操作入力部30の表示モードの切替スイッチが操作され、「指標画像表示モード」が選択された場合(S100のYes)、周辺画像取得部48bは、撮像部24から出力される牽引車両10の周囲画像を取得する(S102)。CPU36aは、例えば、
図5に示すように撮像部24aが撮像した画像を用いた実画像P1を第1表示領域26aに表示するとともに、撮像部24a~24dが撮像した画像を用いて俯瞰画像P2を生成し第2表示領域26bに表示する。この場合、例えば、実画像P1の右下側に切替アイコン54を表示させる。このとき表示される切替アイコン54は、車幅ガイド線画像58や距離ガイド線画像60を表示させる「標準ガイド線画像表示モード」に切り替える標準モードアイコン54aとヒッチガイド線画像62を表示させる「誘導ガイド線画像表示モード」に切り替える誘導モードアイコン54bである。また、透過率処理部50dは、表示する指標画像の透過率の設定を行う(S104)。透過率の設定は、上述したように、指標画像の表示態様に応じて変化させてもよい。例えば、指標画像を浮上させる場合は、指標画像が路面に接しているときには透過率0%で濃く表示し、浮上途中で徐々に増加させ浮上完了時で例えば透過率50%として、指標画像が重畳される路面が指標画像を通して見えるようにする。また、指標画像を浮上させない場合、つまり、路面に接した状態で表示する場合は、表示当初から例えば透過率50%で薄く表示する。なお、透過率は、操作入力部30等を用いて運転者が適宜可能であるが、上述のような既定値を用いる場合には、S104のステップを省略可能である。
【0057】
そして、モード取得部48aが誘導モードアイコン54bの操作信号を取得した場合、つまり「誘導ガイド線画像表示モード」が選択された場合(S106のYes)、指標画像取得部48cは、誘導ガイド線画像としてヒッチガイド線画像62をROM36bから取得する(S108)。この場合、取得されるヒッチガイド線画像62は、例えば、牽引車両10が存在する路面に接するように表示され、牽引車両10の前後方向に延びる車両中心線と平行な直線である。
【0058】
そして、推移表示処理部50aは、
図5、
図6に示すように、ヒッチガイド線画像62が、牽引装置18の近傍位置を始点として牽引車両10の後方に向けて徐々に延びるように描画する(S110)。このように、ヒッチガイド線画像62が徐々に延びるようなアニメーション態様で表示されることにより、種々の物体や線(区画線等)が表示されている実画像P1において、ヒッチガイド線画像62を際立たせることが可能で、運転者に注目させやすくなる。推移表示処理部50aは、ヒッチガイド線画像62を予め設定された長さ(例えば、牽引車両10の後方2.5mに相当する長さ)まで描画する。また、推移表示処理部50aは、ヒッチガイド線画像62の描画とともに、実画像P1に表示したヒッチガイド線画像62を推移表示(浮上表示)させるか否かを選択させる推移切替アイコンを実画像P1の例えば左下隅等に表示させる。推移切替アイコンの操作により「推移表示モード」の選択を示す操作信号がモード取得部48aによって取得された場合(S112のYes)、高さ情報取得部48eは、ヒッチガイド線画像62の高さ情報をROM36b等から取得する(S114)。この高さ情報は、牽引車両10の仕様書等に基づき予め入力された牽引装置18のヒッチボール18aの高さとすることができる。
【0059】
そして、推移表示処理部50aは、
図7に示すように、ヒッチガイド線画像62の推移表示処理を開始する(S116)。また、推移表示処理部50aによるヒッチガイド線画像62の推移表示処理に伴い、影画像処理部50bは、
図7に示すように、影画像64の描画処理を行う。すなわち、路面に接するように延びたヒッチガイド線画像62が浮上を開始する際に影画像64がヒッチガイド線画像62から分離し、路面に残されるような表示を行う。このように影画像64を表示することにより、ヒッチガイド線画像62が浮上していることをより明確に表示することができる。なお、ヒッチガイド線画像62の描画が完了した時点で、自動的にヒッチガイド線画像62が浮上を開始するようにしてもよい。この場合、S112の処理を省略することができる。
【0060】
続いて、CPU36aは、舵角取得部48dを介して牽引車両10の舵角が変更されたか否かを判定する(S118)。例えば、
図8に示されるように、後方に駐車中の被牽引車両12にヒッチガイド線画像62が向かうように運転者がステアリングホイールを操舵して舵角を変更した場合(S118のYes)、指標画像移動処理部50cは、
図8に示すように、指標画像(ヒッチガイド線画像62)を舵角取得部48dが取得した舵角(舵角情報)に対応して移動させる(S120)。また、CPU36aは、舵角取得部48dが取得した舵角情報に変化がない場合(S118のNo)、S120の処理をスキップする。この場合、指標画像移動処理部50cは、現在、実画像P1に表示している指標画像(例えば、ヒッチガイド線画像62)の表示状態を維持する。したがって、運転者が実画像P1の指標画像の表示状態(
図8の場合、湾曲したヒッチガイド線画像62の状態)を確認しながらステアリングホイールを操作する場合、その操作にしたがい指標画像(例えば、ヒッチガイド線画像62)が移動したり、その状態を保ったりする表示が行われる。
【0061】
CPU36aは、指標画像の表示中、繰り返し指標画像の表示を終了するか否かの確認を行っている(S122)。例えば、CPU36aは、モード取得部48aを介して、表示モードを変更する操作信号が取得されず、指標画像の表示終了要求が確認されない場合(S122のNo)、S118の処理に戻る。つまり、CPU36aは、舵角取得部48dを介して舵角情報の変更の有無を確認して指標画像の表示を継続する。一方、CPU36aは、モード取得部48aを介して、表示モードを変更する操作信号が取得されて、指標画像の表示終了要求が確認された場合(S122のYes)、例えば、「通常表示モード」に変更された場合、表示装置26の表示を例えばナビゲーション画面等に復帰させて、このフローを一旦終了する。
【0062】
なお、S112の処理で、推移切替アイコンの操作により「推移表示モード」の選択を示す操作信号がモード取得部48aによって取得されない場合(S112のNo)、S114、S116の処理をスキップし、S118の処理に移行する。つまり、運転者が路面に接した状態の指標画像(例えば、ヒッチガイド線画像62)の表示を希望した場合、CPU36aは、舵角取得部48dが取得する舵角情報に基づき、路面に接したままの指標画像(誘導ガイド線画像)を移動させる。
【0063】
また、S106の処理で「誘導ガイド線画像表示モード」が選択されない場合(S106のNo)、CPU36aは、「標準ガイド線画像表示モード」が選択されたと見なす。そして、指標画像取得部48cは、ROM36bから基本形状の車幅ガイド線画像58(右側ガイド線画像58a、左側ガイド線画像58b)および距離ガイド線画像60(第1距離ガイド線画像60a、第2距離ガイド線画像60b、第3距離ガイド線画像60c)を取得する(S124)。そして、推移表示処理部50aは、
図10に示すように、実画像P1に描画する(S126)。なお、実画像P1に車幅ガイド線画像58、距離ガイド線画像60を表示する場合、実画像P1の表示内容が煩雑になる場合があるため、牽引車両10の車幅方向の中央位置を示すセンターマークCを併せて表示して、車両中心の把握を容易にできるようにしてもよい。
【0064】
車幅ガイド線画像58や距離ガイド線画像60が描画される場合も、CPU36aは、S118の処理に移行し、S118以降の処理を実行する。つまり、舵角取得部48dが取得する牽引車両10の舵角情報に基づき、車幅ガイド線画像58や距離ガイド線画像60の表示をヒッチガイド線画像62が表示された場合と同様に、ステアリングホイールの転舵方向に対応させて移動させる。
【0065】
車幅ガイド線画像58(右側ガイド線画像58a、左側ガイド線画像58b)および距離ガイド線画像60(第1距離ガイド線画像60a、第2距離ガイド線画像60b、第3距離ガイド線画像60c)は、「標準ガイド線画像表示モード」の選択の有無に拘わらず、
図5~
図8および
図10に示すように、俯瞰画像P2に表示してもよい。また、
図8に示すように、俯瞰画像P2に表示されている車幅ガイド線画像58や距離ガイド線画像60の向きを牽引車両10の舵角に応じて変更してもよい。また、牽引車両10の舵角が中立角度(直進状態の角度=0°)以外の場合、
図8に示すように、牽引車両10の進行方向に対して後側でかつ旋回外側のコーナー部分の移動予測軌跡を示すコーナー軌跡線画像66を表示してもよい。このように、俯瞰画像P2に車幅ガイド線画像58、距離ガイド線画像60、コーナー軌跡線画像66等を表示することにより、牽引車両10の舵角の状態およびその舵角のまま走行した場合の牽引車両10の将来の位置等の把握が容易になり、牽引車両10の運転の負担が軽減できる。
【0066】
このように、実画像P1(周辺画像)に表示する高さ情報を持った指標画像を表示する場合に、移動(例えば浮上)推移を併せて表示することにより、指標画像が高さ情報を持ち、路面から移動した(浮き上がった)状態で表示されていることを運転者に認識させやすくすることができる。また、高さ情報を含んだ指標画像(例えば、ヒッチガイド線画像62)が適切な位置に表示され、例えばヒッチボール18aをカプラ20aによりスムーズにより正確に接近させることができる。
【0067】
なお、
図9のフローチャートでは、運転者のステアリングホイールの転舵によりヒッチガイド線画像62の指す方向を変化させる例を示したが、上述したように、目標決定部52により移動目標位置を設定して、ヒッチガイド線画像62が示す方向を自動的に決定してもよい。この場合、S108の処理で指標画像(例えば、ヒッチガイド線画像62)を取得した後で、実画像P1に対してパターンマッチング処理等を施し、被牽引車両12を抽出する。そして、実画像P1上で被牽引車両12に向かうようなヒッチガイド線画像62を指標画像移動処理部50cで生成して、推移表示処理部50aが描画する。その状態でヒッチガイド線画像62の推移表示処理を実行してもよい。この場合、ECU36は、操舵システム34に対し、描画されたヒッチガイド線画像62に対応するように舵角が変化するようにアクチュエータ34aを制御することができる。その結果、運転者は、アクセルとブレーキの操作をするのみで、容易かつ正確にヒッチボール18aをカプラ20aに接近させる運転操作を実行することができる。なお、実画像P1上での被牽引車両12の移動目標位置(被牽引車両12の位置)の設定は、運転者が操作入力部30を用いて、実画像P1上で希望する移動目標位置(例えば被牽引車両12の位置)を指定(例えば、クリック)することで決定してもよい。この場合、パターン認識処理等の画像処理を行う必要がなく、システムの簡略化や演算処理の軽減に寄与できる。なお、目標決定部52を用いる場合には、
図9のS118、S120の処理は省略され、処理の簡略化が図れる。逆に、目標決定部52を用いない場合には、CPU36aのモジュールから目標決定部52を省略し、システムのシンプル化に寄与できる。
【0068】
また、上述した実施形態では、路面に接した状態のヒッチガイド線画像62を表示する場合、牽引装置18の近傍位置から後方に向かい徐々に延びるようなアニメーション表示を行う例を示した。別の実施形態では、アニメーション表示を実行することなく、牽引車両10の後方、例えば2.5mに相当する長さの長尺のヒッチガイド線画像62を表示してもよい。この場合、ヒッチガイド線画像62の表示制御が簡略化され、CPU36aの処理負荷の軽減に寄与できる。なお、この場合、ヒッチガイド線画像62を表示させた後所定期間だけ、ヒッチガイド線画像62を点滅表示させたり、輝度を高めて表示させたりすることで、ヒッチガイド線画像62が延びるようなアニメーション表示をした場合と同様に、認識性を向上させることができる。
【0069】
また、
図9に示すフローチャートでは、ヒッチガイド線画像62について浮上表示処理を行う例を示したが、他の指標画像を推移表示処理するようにしてもよい。例えば、牽引車両10の走行予測方向を示す走行予測線画像(牽引車両10の車幅方向の中央位置から車長方向に延びる指標画像)を浮上表示してもよく、牽引車両10の進行方向をより認識させやすくすることができる。また、別の実施形態では、例えば、指標画像の一例である車幅ガイド線画像58や距離ガイド線画像60を例えばリヤバンパ16の高さまで浮上させて表示してもよい。この場合、牽引車両10を後退させる場合に、高さのある物体に対する牽引車両10の接触の有無を判断しやすくなる。また、実画像P1上の遠方の位置で駐車目標位置を示す駐車枠ガイド線画像を指標画像の一例として、浮上表示処理してもよい。遠方に表示される駐車枠ガイド線画像を浮上表示することにより、駐車枠ガイド線画像や駐車スペースの位置の認識性を向上させることができる。また、走行予測線画像、車幅ガイド線画像58、距離ガイド線画像60、駐車枠ガイド線画像等を浮上表示する場合に浮上推移を併せて表示することにより、表示する指標画像が高さ情報を持ち、その高さ情報を反映させた状態で表示されていることを運転者に認識させやすくすることができる。その結果、表示装置26に表示される実画像P1の表示内容の誤認識を軽減させることができる。また、表示内容に違和感を抱かせにくくすることができる。
【0070】
また、上述した実施形態では、ヒッチガイド線画像62を浮上させる場合、影画像64を併せて表示する例を示したが、別の実施形態では、影画像64の表示を省略したり、ガイド線画像の浮上後に非表示としたりしてもよい。この場合、実画像P1の表示内容が煩雑になることを抑制することができる。影画像64を省略するか否かは、運転者が選択するようにしてもよいし、実画像P1の表示内容に応じて自動的に省略するようにしてもよい。
【0071】
図9に示すフローチャートでは、指標画像としてのヒッチガイド線画像62を表示する場合、運転者が適宜、表示モードの切替スイッチを操作して表示させる例を示した。別の実施形態では、例えば、牽引車両10に被牽引車両12の連結する支援モードの場合には、シフト操作部が後退位置に操作されたことを契機に、ヒッチガイド線画像62の表示および浮上が開始されるようにしてもよく、同様の効果を得ることができる。
【0072】
また、上述した実施形態では、牽引車両10が後退可能な場合に、後方を示す実画像P1に浮上推移を伴う指標画像(例えば、ヒッチガイド線画像62)を表示する例を示したが、別の実施形態では、前方を示す実画像P1に浮上推移を伴う指標画像を表示してもよい。この場合、指標画像は、車幅ガイド線画像58や距離ガイド線画像60、走行予測線画像等とすることができる。
【0073】
図5~
図8、
図10は、指標画像を表示する場合、表示装置26の表示を実画像P1と俯瞰画像P2との二画面構成とする場合を示した。この場合、俯瞰画像P2により自車周囲の状況を把握させつつ、浮上推移を伴う指標画像を用いた走行方向等の判断を運転者にさせやすくなる。その結果、運転操作、特に後退時の運転操作時により安心感を与えることができる。また、別の実施形態では、俯瞰画像P2を省略してもよい。この場合、実画像P1の表示領域が拡大可能となり、指標画像を用いた表示内容を運転者により認識させやすくすることができる。
【0074】
上述した実施形態では、第一の所定高さを例えば路面とし、第二の所定高さを例えばヒッチボール18aの高さとして、指標画像としてのヒッチガイド線画像62の表示位置を第一の所定高さから第二所定高さに移動(浮上)させるとともに、その移動(浮上)推移を表示する例を説明した。つまり、第一の所定高さが第二の所定高さより低い場合を説明した。別の実施形態では、第一の所定高さが第二の所定高さより高くなるようにしてもよい。つまり、指標画像が第一の所定高さから第二の所定高さに向かい下降するように移動させてもよい。例えば、指標画像が走行予測線画像の場合、まず、リヤバンパ16の高さに相当する高さ(第一の所定高さ)に走行予測線画像が描画され、例えば路面(第二の所定高さ)に向かい下降することになる。この場合、走行予測線画像が最初に高い位置に表示されることにより、運転者の認識性を向上させることができる。また、その位置から走行予測線画像が路面に下降する下降推移を表示することにより運転者の意識を路面に注目させやすくなり、路面状態の把握をさせやすくすることができる。なお、この場合も第一の所定高さに表示された指標画像(例えば、走行予測線画像、第一の指標画像)と、第二の所定高さに第二の指標画像として影画像を表示するようにしてもよい。つまり、走行予測線画像から影画像が下降してきて、最終的に路面に影画像が投影されるような表示が行われる。この場合、走行予測線画像による走行予測方向の明確化と影画像による路面への着目性の向上の両方に寄与することができる。
【0075】
なお、指標画像を浮上するように表示するか、下降するように表示するかは、車両(牽引車両10)の走行方向(前進走行か後退走行)と指標画像の種類によって決定してもよい。例えば、ヒッチガイド線画像62を表示する場合、牽引車両10が被牽引車両12に接近していく場合には、ヒッチガイド線画像62の浮上推移を表示し、牽引車両10が被牽引車両12から遠ざかる場合には、ヒッチガイド線画像62の下降推移を表示するようにしてもよい。この場合、牽引車両10との相対位置が変化する被牽引車両12に対して、ヒッチガイド線画像62が不自然な位置に表示されることがより軽減される。また、例えば、指標画像として駐車枠ガイド線画像を表示する場合、車両(牽引車両10)が駐車スペースに接近していく場合には、駐車枠ガイド線画像を車両に設定された基準位置の高さ(例えば、リヤバンパ16の高さに相当する高さ)からの下降推移を表示し、車両が駐車スペースから遠ざかる場合には、駐車枠ガイド線画像を路面に接する高さからの浮上推移を表示するようにしてもよい。この場合、車両が駐車スペースから遠い場合には、駐車枠ガイド線画像が路面から浮上した状態で表示され、駐車スペースの位置認識性を向上させることができる。一方、車両が駐車スペースに近づくにつれて、駐車枠ガイド線画像が路面に近づき、駐車スペースの大きさ等の認識性を向上させることができる。
【0076】
このように、指標画像の種類と表示するときの状況に応じて、指標画像の移動推移の方向を浮上と下降で切り替えることにより、つまり第一の所定高さと第二の所定高さの位置を選択することにより、より違和感が軽減され、かつ指標画像が高さ情報を持つ画像であることを運転者に認識させやすくなる。さらに、指標画像としてのヒッチガイド線画像、走行予測線画像、車幅ガイド線画像、距離ガイド線画像、駐車枠ガイド線画像等の浮上推移または下降推移を表示することで、運転者に表示されている指標画像をより認識させやすくすることができる。
【0077】
また、本実施形態において、指標画像が線状の画像である場合を示したが、これに限定されず、指標画像は、例えば円形や矩形等のマーク、文字や数字で構成されてもよく、同様の効果を得ることができる。
【0078】
本実施形態のCPU36aで実行される周辺監視のためのプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD-ROM、フレキシブルディスク(FD)、CD-R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。
【0079】
さらに、周辺監視プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、本実施形態で実行される周辺監視プログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。
【0080】
本発明の実施形態及び変形例を説明したが、これらの実施形態及び変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0081】
10…牽引車両、12…被牽引車両、18…牽引装置、18a…ヒッチボール、20…連結部材、20a…カプラ、24,24a,24b,24c,24d…撮像部、26…表示装置、26a…第1表示領域、26b…第2表示領域、30…操作入力部、36…ECU、36a…CPU、40…舵角センサ、48…取得部、48a…モード取得部、48b…周辺画像取得部、48c…指標画像取得部、48d…舵角取得部、48e…高さ情報取得部、50…画像処理部、50a…推移表示処理部、50b…影画像処理部、50c…指標画像移動処理部、50d…透過率処理部、52…目標決定部、58…車幅ガイド線画像、60…距離ガイド線画像、62…ヒッチガイド線画像、64…影画像、100…周辺監視システム。