【実施例1】
【0015】
本実施例は、本発明を、車両1周辺の画像をよりわかりやすい形態に変換して、車内に設置されたモニタに提示することができる、車両用周辺監視装置2に適用したものである。特に、本実施例は、車両1周辺に障害物検出手段を備え、この障害物検出手段の出力に基づいて、車両1周辺の画像をよりわかりやすい形態に変換して、車内のモニタに表示するものである。
【0016】
図1は、本発明の実施形態に係る車両用周辺監視装置2の構成を示すブロック図である。本実施例に係る車両用周辺監視装置2は、
図1に示す通り、車両1(
図2に示す)に設置され、車両用周辺監視装置2の起動操作、終了操作を検出する起動・終了検出手段20と、車両1の進行方向を検出する進行方向検出手段10と、車両周辺の画像を撮影する複数のカメラで構成された撮影手段30と、車両1の周辺の障害物の有無を検出し、その障害物までの距離に対応する値を出力する障害物検出手段40と、撮影された車両周辺のうち、障害物検出手段40で検出された障害物までの距離よりも車両1に近い領域を、車両1の上空から見下ろした仮想画像に変換する第1仮想画像生成手段50と、撮影手段30で撮影した画像の中の、障害物検出手段40で検出した障害物までの距離よりも遠方にある領域に対して、障害物までの距離に対応する位置において、前記第1仮想画像と連続するように座標変換を行う第2仮想画像生成手段60と、車両1から所定距離の位置に、車両1からの距離が互いに異なる、複数の距離マーカを設定する第1距離マーカ設定手段70と、車両1から所定距離の位置に、車両1からの距離が互いに異なる、複数の距離マーカを設定する第2距離マーカ設定手段80と、第1仮想画像と第2仮想画像とを、1枚の画像に合成する第1画像合成手段90と、第1画像合成手段90によって合成された画像を表示する画像表示手段100とからなる。
【0017】
ここで、進行方向検出手段10は、詳しくは、車両1のシフトポジションを検出するシフトポジション検出部12と、車両1の操舵角を検出する操舵角検出部14とからなる。
【0018】
起動・終了検出手段20は、詳しくは、車両1のイグニッションスイッチの状態を判断するイグニッションスイッチ状態判断部22と、車両用周辺監視装置2の起動を指示する起動スイッチ24と、車両用周辺監視装置2の動作終了を指示する終了スイッチ26と、車両1の車速を検出する車速検出部28とからなる。
【0019】
撮影手段30は、詳しくは、
図2(a)、(b)のように車両の周辺に設置され、車両1周辺の画像情報を得る、隣り合う撮影領域が互いに重複するように配置された第1カメラ31と、第2カメラ32と、第3カメラ33と、第4カメラ34とからなる。
図2(a)に示すように、第1カメラ31は車両1のフロントバンパに、第2カメラ32は車両1の左ドアミラーに、第3カメラ33は車両1のリアバンパにそれぞれ設置されており、
図2(a)には図示しないが、第4カメラ34は車両1の右ドアミラーに設置される。
【0020】
また、各カメラは、
図2(b)に示すように配置される。すなわち、第1カメラ31の撮影範囲と路面とは、交線150によって交わるように設置される。同様に、第2カメラ32は路面と交線152で交わるように、第3カメラ33は路面と交線154で交わるように、第4カメラ34は路面と交線156で交わるように、各々が設置される。
【0021】
なお、隣り合うカメラは、
図2(b)に示す通り、各々の撮影範囲が互いに重複し、第1カメラ31と第2カメラ32とは第1重複領域E1をなし、第2カメラ32と第3カメラ33とは第2重複領域E2をなし、第3カメラ33と第4カメラ34とは第3重複領域E3をなし、第4カメラ34と第1カメラ31とは第4重複領域E4をなすように設置される。
【0022】
障害物検出手段40は、詳しくは、
図2(a)、(b)のように車両の周辺に設置され、車両周辺の障害物までの距離を測定して出力する、第1測距部41と、第2測距部42と、第3測距部43と、第4測距部44と、進行方向検出手段10の出力に基づいて、これらの測距部41−44の中から、1つまたは複数の測距部を選択する測距範囲選択部45と、測距範囲選択部45で選択した測距部からの出力の最小値(最小距離値)を特定する最小距離値検出部46と、最小距離値検出部46で検出された最小値が、予め設定された所定値よりも小さい(近い)か否かを判定するしきい値処理部47とからなる。
【0023】
ここで、各測距部41−44は、
図2(b)に示すように、第1測距部41は車両1のフロントバンパに、第3測距部43は車両1のリアバンパに、第2測距部42および第4測距部44は車両1のサイドシルにそれぞれ取り付けられている。
また、測距範囲R1を有する第1測距部41は、第1カメラ31の撮影範囲に向けて、測距範囲R2を有する第2測距部42は、第2カメラ32の撮影範囲に向けて、測距範囲R3を有する第3測距部43は、第3カメラ33の撮影範囲に向けて、測距範囲R4を有する第4測距部44は、第4カメラ34の撮影範囲に向けて、それぞれ設置されている。
図2(b)は、各カメラ31−34の撮影範囲と、各測距部41−44の測距範囲との関係を示す。
【0024】
また、各測距部41−44は、1つ、もしくは複数の距離センサによって構成される。距離センサとしては、一般に超音波センサが用いられるが、その他、光学式センサや他の種類のセンサを用いても構わない。
【0025】
第1仮想画像生成手段50は、第1仮想画像の描画範囲を決定する第1仮想画像描画範囲決定部51と、第1仮想画像を生成するための座標変換用テーブルが格納された第1座標変換データ格納部52と、第1座標変換データ格納部52に格納されたテーブルに基づいて、第1仮想画像を生成する第1仮想画像生成部53とからなる。
【0026】
第2仮想画像生成手段60は、第2仮想画像を生成するための座標変換用テーブルが格納された第2座標変換データ格納部62と、第2座標変換データ格納部62に格納されたテーブルに基づいて、第2仮想画像を生成する第2仮想画像生成部64とからなる。
【0027】
次に、本実施例に係る車両用周辺監視装置2の作用について、
図10のフローチャートに基づいて説明する。本実施例に係る車両用周辺監視装置2は、車両1の駐車時や狭い場所での切り返し時に利用され、車両1周辺の画像をわかりやすい形態に変換して運転者に呈示し、運転動作を補助するものである。
【0028】
ここで、車両1が駐車のために前方に向かって前進している場面について、本実施例の車両用周辺監視装置2の動作を説明する。
【0029】
車両1は、
図3に示すように、2本のレーンマーカ200a、200bの間にあり、かつ、車両1の左前方に、アルファベットのAの形状を模した障害物200cが置かれているものする。そして、車両1の運転者は、矢印200e(車両1の進行方向を示す)で示すように、障害物200cを回避して、車両1を前方の駐車スペース200dまで誘導しているものとする。
イグニッションスイッチ状態判断部22によって、車両1のイグニッションがONになっていることが確認されると(
図10のS1がYesのとき)、以下の一連の処理が開始される。
運転者は、車両1周辺の画像を監視したいとき、車内に設置された起動スイッチ24を操作する。起動スイッチ24が操作されると(
図10のS2がYesのとき)、第1カメラ31から第4カメラ34で撮影された画像は、それぞれ、
図1に図示しない、各カメラ31−34の後段に接続されたデコーダによって、コンポジット信号からコンポーネント信号に変換され、さらに、コンポーネント信号のうち輝度信号は、
図1に図示しないA/D変換器を通して、ディジタル化されたディジタル画像に変換される(
図10のS3)。第1カメラ31から第4カメラ34で撮影されたディジタル画像を、それぞれI
1(x、y)、I
2(x、y)、I
3(x、y)、I
4(x、y)とする。
【0030】
なお、起動スイッチ24が操作されると、障害物検出手段40によって、車両1周辺の測距が開始される。
【0031】
この時、進行方向検出手段10によって、車両の進行方向の検出が行われる。車両の進行方向は、シフトポジション検出部12で検出されたシフトポジションと、操舵角検出部14で検出された操舵角とによって決定される(
図10のS4)。
【0032】
例えば、シフトポジションが前進位置であり、操舵角が所定値以上左に向いていることが確認されると、車両の進行方向は左前方であると判断されるし、また、シフトポジションが後退位置であり、操舵角が所定値以上右に向いていることが確認されると、車両の進行方向は右後方であると判断される。
【0033】
このようにして検出された進行方向の情報は、障害物検出手段40に送られ、測距範囲選択部45において、測距部41−44の中から、検出された進行方向の範囲を測距している、1つもしくは複数の測距部が選択される(
図10のS5)。ここで選択された測距部を測距部Kと呼ぶことにする。
【0034】
続いて、測距範囲選択部45において選択された測距部Kから、その測距部Kを構成する測距部に備えられた、全ての距離センサの出力Dが読み出され(
図10のS6)、最小距離値検出部46にて、距離センサの出力の最小値Dmin(以下、単に最小値Dminと呼ぶ)が算出される(
図10のS7)。
【0035】
次に、しきい値処理部47において、最小値Dminが、距離の所定値D
0(以下、単に所定値D
0と呼ぶ)より小さい(近い)か否かが判断される(
図10のS8)。ここで、距離の所定値D
0は、運転者に対して、障害物の存在を注意喚起する必要がある最小距離を示す値であり、装置の設計パラメータとして、予め設定されたものである。最小値Dminが所定値D
0より小さいとき(
図10のS8がYesのとき)は、最小値Dminの値が、第1仮想画像生成手段50に対して出力され、処理は
図10のS9に進む。一方、最小値Dminが所定値D
0以上であるとき(
図10のS8がNoのとき)は、
図10のS10に進む。
【0036】
例えば、
図3の状態にあるときは、車両1の進行方向は前方であると判定され、測距範囲選択部45において、測距部Kとして第1測距部41が選択される。そして、第1測距部41を構成する、1つもしくは複数の距離センサの出力の最小値Dminが、所定値D
0より小さいとき、最小値Dminが、第1仮想画像生成手段50に送られる。
【0037】
次に、
図10のS9では、第1仮想画像描画範囲決定部51において、第1距離マーカ設定手段70で設定された、車両1からの距離が互いに異なる複数の第1距離マーカLiのうち、最小値Dminを超えない、最大の距離を表す第1距離マーカLjが選択される。
【0038】
第1距離マーカLjを選択する手順を
図4にて説明する。
【0039】
例えば、第1測距部41から、最小値Dminとして、1.3mという値が出力されたとする。最小値Dmin=1.3mが表す位置を、車両1の周辺に描画すると、
図4の破線のようになる。
【0040】
一方、第1距離マーカ設定手段70においては、例えば、車両1からの距離が0.5m、1m、1.5m、2m、2.5m、3mであることを示す複数の第1距離マーカL1、L2、L3、L4、L5、L6が設定される。これらの第1距離マーカLiを、車両1の全周囲に描画すると、
図4に示す6本の閉曲線のようになる。
【0041】
このとき、第1仮想画像描画範囲決定部51において、最小値Dmin=1.3mを超えない、最大距離を表す第1距離マーカLiが選択される。
図4の場合、車両1から1m離れた位置に設定された第1距離マーカL2が選択される。
【0042】
次に、第1仮想画像生成部53において、画像I
1(x、y)、画像I
2(x、y)、画像I
3(x、y)、画像I
4(x、y)の各々の中で、車両1から、第1距離マーカL2が表す1mまでの範囲が、車両1の真上に設置した仮想視点から見下ろした(俯瞰した)第1仮想画像に変換される(
図10のS11)。
【0043】
この変換は、車両の周辺を画像化する手法として、昨今、一般的に行われているため、その詳細な説明は割愛するが、予め、座標変換テーブルを準備しておき、この座標変換テーブルを参照して、入力された画像の座標値を置き換えることによって行われる。
【0044】
すなわち、第1座標変換データ格納部52に、予め作成した、仮想視点の位置と、画像を観測する方向と、観測する範囲とによって決定する第1座標変換テーブルを格納しておき、第1仮想画像生成部53において、撮影手段30で撮影された各々の画像の座標値を、第1座標変換テーブルによって示された座標値に置き換えることによって第1仮想画像
が生成される。
この座標変換は、予め用意されたた第1座標変換テーブルに対して、車両1から第1距離マーカL2の範囲にマスクCをかけ、このマスクCがかかっている範囲に対応する第1座標変換テーブルを使って行われる。座標変換の結果、
図5に示すM1の領域に画像I
1(x、y)を座標変換した結果が格納され、M2の領域に画像I
2(x、y)を座標変換した結果が格納され、M3の領域に画像I
3(x、y)を座標変換した結果が格納され、M4の領域に画像I
4(x、y)を座標変換した結果が格納される。
ここで、隣り合った撮影手段は、お互いの撮影範囲が重複するように配置されているため、隣り合った撮影手段で撮影した画像には、特定の領域が一部重複して含まれる。
【0045】
そのため、本実施例の場合は、
図5の斜めに引いた4本の線分のように、隣り合った撮影手段で撮影した画像同士の繋ぎ目を設定し、それぞれの繋ぎ目によって区切られた各領域には、その領域の方向を撮影した撮影手段30によって得られた画像が描画されるものとし、各領域からはみ出した画像は切り捨てるという規則に則って、隣り合った撮影手段30によって撮影された画像の繋ぎ目が処理されるものとする。もちろん、繋ぎ目の処理は、これに留まらず、他の規則を用いて行ってもよい。
また、車両1の直近は、撮影手段30の死角になるため、画像情報を得ることができない。したがって、黒く塗りつぶす処理を行うとともに、車両1の存在位置には、車両1を俯瞰したアイコンを表示することによって、車両1と周辺との位置関係を、より明確に表現する。
【0046】
次に、第2仮想画像生成手段60において、撮影手段30で撮影された画像I
1(x、y)、I
2(x、y)、I
3(x、y)、I
4(x、y)を、
図4の第1距離マーカL2の位置で第1仮想画像と連続するように、それぞれ座標変換することによって、第2仮想画像が生成される(
図10のS12)。
【0047】
第2仮想画像は、具体的には、以下のようにして生成される。
【0048】
まず、本車両用周辺監視装置2を動作させる前に、撮影手段30に使用する光学系のパラメータと、撮影手段30の取り付け位置のパラメータと、
図4に記載した第1距離マーカの位置情報とを用いて、座標変換前後の座標値の関係を計算によって算出し、その結果を格納した第2座標変換テーブルを作成し、作成した第2座標変換テーブルを第2座標変換データ格納部62に格納しておく。
【0049】
次に、第2座標変換テーブルに対して、車両1から第1距離マーカL2の範囲にマスクCをかけ、このマスクCがかかっていない範囲に対応する第2座標変換テーブルを使って、第2仮想画像生成部64において、座標変換を行う。
座標変換の結果、
図6に示すN1の領域に画像I
1(x、y)を座標変換した結果が格納され、N2の領域に画像I
2(x、y)を座標変換した結果が格納され、N3の領域に画像I
3(x、y)を座標変換した結果が格納され、N4の領域に画像I
4(x、y)を座標変換した結果が格納される。
【0050】
なお、隣り合った撮影手段で撮影した画像の繋ぎ目は、第1仮想画像と同様に処理される。
【0051】
次に、第1画像合成手段90において、先に生成された第1仮想画像と、第2仮想画像とが、1枚の画像に合成される(
図10のS13)。
【0052】
一方、
図10のS8において、最小値Dminが所定値D
0以上であると判断されたとき(
図10のS8がNoのとき)は、第1仮想画像生成手段50において、画像I
1(x、y)、画像I
2(x、y)、画像I
3(x、y)、画像I
4(x、y)が、それぞれ第1仮想画像に変換される(
図10のS10)。ここでは、
図10のS11のように、車両1から第1距離マーカL2の範囲に限定することなく、第1仮想画像が生成される。
【0053】
次に、
図10のS13で生成された、第1仮想画像と第2仮想画像の合成画像、もしくは、
図10のS10で生成された第1仮想画像に対して、第2距離マーカ設定手段80によって予め作成された、車両1から互いに異なる複数の所定距離の位置に設けた第2距離マーカPiのうち、第1仮想画像の中に位置する第2距離マーカPjが、第1画像合成手段90によって合成される(
図10のS14)。
第2距離マーカPiは、
図8に示すように、車両1からの距離が、P1=0.5m、P2=1m、P3=1.5m、P4=2m、P5=2.5m、P6=3mの位置に設置されているものとし、各マーカが表す距離に応じて、その表示色や表示形態(線の太さや線の種類)が異なるものとする。
本実施例の場合、第1仮想画像と第2仮想画像の合成画像に対して、車両1からの距離が0.5mの位置に設置された第2距離マーカP1と、車両1からの距離が1mの位置に設置された第2距離マーカP2とが合成される。このように、第2距離マーカを合成することによって、画像を見た運転者は、障害物までの距離を直感的に把握できる。
一方、
図10のS10で生成された第1仮想画像に対しては、その全体に第2距離マーカPiが合成される。
なお、本実施例では、車両1から同じ距離を表す位置に第1距離マーカLiと第2距離マーカPiとを設定したが、これは、異なる距離の位置に設定しても構わない。
このようにして、
図7に示す合成画像が得られる。この合成画像は、
図1に図示しないD/A変換器にてコンポーネント信号に再構成され、さらに、図示しないエンコーダによってコンポジット信号に変換されて、車両1に設置された、液晶モニタから構成された画像表示手段100に表示される(
図10のS15)。運転者は、画像表示手段100に表示された画像を確認しながら、障害物200cを回避して駐車操作を継続する。
【0054】
なお、上記の処理を行っている間も、車速検出部28により、車両1の車速は常に検出されており、車速が所定値を上回ったとき(
図10のS16がYesのとき)は、運転者が表示用モニタに気をとられないよう、画像を非表示にして(
図10のS18)、イグニッションスイッチ状態判断部22によってイグニッションスイッチがONであることを確認して(
図10のS19がNoのとき)、
図10のS2に戻る。
【0055】
さらに、終了スイッチ26が操作されたとき(
図10のS17がYesのとき)も、画像を非表示にして(
図10のS18)、イグニッションスイッチ状態判断部22によってイグニッションスイッチがONであることを確認して(
図10のS19がNoのとき)、
図10のS2に戻る。
【0056】
また、イグニッションスイッチ状態判断部22によってイグニッションスイッチがOFFであることが確認されたとき(
図10のS19がYesのとき)は、処理を終了する。
【0057】
なお、本実施例において、距離センサの出力であるD=1.3mの位置ではなく、D=1.3mを超えない最大距離を示す第1距離マーカL2の位置で、第1仮想画像と第2仮想画像を合成したが、これは、時間とともに障害物までの距離が変化したとき、それに伴って、第1仮想画像と第2仮想画像との繋ぎ目の位置が頻繁に変化してしまうと、運転者に提示される合成画像がちらついて、運転者が目障りに感じるためである。
【0058】
本実施例のような構成をとることによって、隣り合う2つの第1距離マーカに挟まれたゾーンが形成され、障害物までの距離が、あるゾーンに属しているときは、そのゾーンと1対1に対応する第1距離マーカの位置で、第1仮想画像と第2仮想画像とが繋ぎ合わされるため、車両1や障害物が多少移動しても、第1仮想画像と第2仮想画像の繋ぎ目の位置は即座には変更されない。したがって、表示画像の安定性が向上し、見やすい画像を提供することができる。
【0059】
以上説明したように、このように構成された第1実施形態に係る車両用周辺監視装置2によれば、車両1周辺に障害物が検出されたとき、車両1から、検出された障害物までの距離に応じた位置で、車両1を俯瞰した画像と、撮影手段によって撮影された画像とが連続するように合成して表示する構成としたため、障害物を歪みなく表示することができるようになる。
【0060】
ちなみに、車両1の全周囲に亘って、第1仮想画像のみで1枚の画像を生成すると、
図9のような画像が得られる。
図9に示すように、路面から高さがある障害物200cは、車両1から遠方に倒れ込んだ、歪みを有する変換像O2として画像化される。
【0061】
これ対し、本発明によって生成した車両周囲の画像は、
図7のように、障害物200cが、歪みのない変換像O1として画像化される。
【0062】
なお、本実施例では、車両周囲に4台のカメラ31−34と、4つの測距部41−44を有する構成にて説明を行ったが、カメラと測距部は、車両の一部にのみ設置されていても構わない。即ち、車両1の前部に第1カメラ31と第1測距部41を有し、車両1の後部に第3カメラ33と第3測距部43を有する構成でも、車両1の前方と後方について、本実施例と同様の効果を得ることが可能である。
【0063】
また、本実施例では、測距範囲選択部45において、障害物までの距離を用いて、使用する測距部が選択される構成で説明したが、これは、測距範囲選択部45において、各測距部から出力される障害物までの距離の時間変化を用いて判断してもよい。すなわち、障害物までの距離が、時間とともに近づいていることが検出されたときには、その方向を観測している測距部を選択するようにしてもよい。
【0064】
これにより、例えば、縦列駐車を行うために後退しているとき、進行方向である後方のみならず、車両の後退とともに障害物が接近してくる、車両の左前方、もしくは右前方も測距範囲とすることができるため、車両周辺の必要な領域を、漏れなく画像化することができる。
【実施例2】
【0065】
本実施例は、本発明を、車両1に設置された複数のカメラで撮影した車両1周辺の状況を、運転者に見やすい形態で表示することができる、車両用周辺監視装置3に適用したものである。特に、本実施例は、車両1周辺に障害物検出手段を備え、この障害物検出手段の出力に基づいて、車両1周辺の画像を、よりわかりやすい形態に変換して、車内のモニタに表示するものである。
【0066】
図11は、本発明の実施形態に係る車両用周辺監視装置3の構成を示すブロック図である。本実施例に係る車両用周辺監視装置3は、
図11に示す通り、車両1(
図2に示す)に設置され、車両用周辺監視装置2の起動操作、終了操作を検出する起動・終了検出手段20と、車両1の進行方向を検出する進行方向検出手段10と、車両周辺の画像を撮影する複数のカメラで構成された撮影手段30と、車両1の周辺の障害物の有無を検出し、その障害物までの距離に対応する値を出力する障害物検出手段40と、撮影手段30で撮影された画像を、車両1の上空から見下ろした仮想画像に変換する第3仮想画像生成手段55と、撮影手段30で撮影した画像の中の、障害物検出手段40で検出した障害物までの距離よりも遠方にある領域について、障害物までの距離に対応する位置において、前記第1仮想画像と連続するように座標変換を行う第4仮想画像生成手段65と、車両1から所定距離の位置に、車両1からの距離が互いに異なる、複数の距離マーカを設定する第1距離マーカ設定手段70と、車両1から所定距離の位置に、車両1からの距離が互いに異なる、複数の距離マーカを設定する第2距離マーカ設定手段80と、第3仮想画像と第4仮想画像とを1枚の画像に合成する第2画像合成手段95と、前記第2画像合成手段95によって合成された画像を表示する画像表示手段100とからなる。ここで、進行方向検出手段10は、詳しくは、車両1のシフトポジションを検出するシフトポジション検出部12と、車両1の操舵角を検出する操舵角検出部14とからなる。
【0067】
起動・終了検出手段20は、詳しくは、車両1のイグニッションスイッチの状態を判断するイグニッションスイッチ状態判断部22と、車両用周辺監視装置3の起動を指示する起動スイッチ24と、車両用周辺監視装置3の動作終了を指示する終了スイッチ26と、車両1の車速を検出する車速検出部28とからなる。
【0068】
撮影手段30は、詳しくは、
図2(a)、(b)のように車両の周辺に設置され、車両周辺の画像情報を得る、隣り合う撮影領域が互いに重複するように配置された第1カメラ31と、第2カメラ32と、第3カメラ33と、第4カメラ34とからなる。
【0069】
障害物検出手段40は、詳しくは、
図2(a)、(b)のように車両の周辺に設置され、車両周辺の障害物までの距離を測定して出力する、第1測距部41と、第2測距部42と、第3測距部43と、第4測距部44と、進行方向検出手段10の出力に基づいて使用する測距部を選択する測距範囲選択部45と、測距範囲選択部45で決定した測距部からの出力の最小値(最短距離値)を特定する最小距離値検出部46と、最小距離値検出部46で検出された最小値が、予め設定された所定値よりも小さい(近い)か否かを判定するしきい値処理部47とからなる。
【0070】
なお、撮影手段30を構成するカメラ31−34、および、障害物検出手段40を構成する測距部41−44は、
図2(a)、(b)に示すように、車両1に取り付けられている。その具体的なレイアウトは、第1実施例の通りである。
【0071】
第3仮想画像生成手段55は、第3仮想画像を生成するための座標変換用テーブルが格納された第1座標変換データ格納部52と、第1座標変換データ格納部52に格納されたテーブルに基づいて、第3仮想画像を生成する第3仮想画像生成部54とからなる。
【0072】
第4仮想画像生成手段65は、第4仮想画像を生成するための座標変換用テーブルが格納された第2座標変換データ格納部62と、第2座標変換データ格納部62に格納されたテーブルに基づいて、第4仮想画像を生成する第4仮想画像生成部66と、第4仮想画像の描画範囲を決定する第4仮想画像描画範囲決定部68とからなる。
【0073】
次に、本実施例に係る車両用周辺監視装置3の作用について、
図12のフローチャートに基づいて説明する。本実施例に係る車両用周辺監視装置3は、車両の駐車時や狭い場所での切り返し時に利用され、車両周辺の画像をわかりやすい形態に変換して運転者に呈示し、運転動作を補助するものである。
【0074】
ここで、車両1が駐車のために前方に向かって前進している場面について、本実施例の車両用周辺監視装置3の動作を説明する。
【0075】
車両1は、
図3に示すように、2本のレーンマーカ200a、200bの間にあり、かつ、車両1の左前方に、アルファベットのAの形状を模した障害物200cが置かれているものとする。そして、車両1の運転者は、矢印200eで示すように、障害物200cを回避して、車両1を前方の駐車スペース200dまで誘導しているものとする。
イグニッションスイッチ状態判断部22によって、車両1のイグニッションがONになっていることが確認されると(
図12のS1がYesのとき)、以下の一連の処理が開始される。
運転者は、車両1周辺の画像を監視したいとき、車内に設置された起動スイッチ24を操作する。起動スイッチ24が操作されると(
図12のS2がYesのとき)、第1カメラ31から第4カメラ34で撮影された画像は、それぞれ、
図11に図示しない、各カメラ31−34の後段に接続されたデコーダによって、コンポジット信号からコンポーネント信号に変換され、さらに、コンポーネント信号のうち輝度信号は、
図11に図示しないA/D変換器を通して、ディジタル化されたディジタル画像に変換される(
図12のS3)。第1カメラ31から第4カメラ34で撮影されたディジタル画像を、各々I
1(x、y)、I
2(x、y)、I
3(x、y)、I
4(x、y)とする。
【0076】
なお、起動スイッチ24が操作されると、障害物検出手段40によって、車両周辺の測距が開始される。
【0077】
この時、まず、第3仮想画像生成手段55によって、画像I
1(x、y)、I
2(x、y)、I
3(x、y)、I
4(x、y)の各々が、車両1の真上に設置した仮想視点から、車両1を見下ろした第3仮想画像に変換される(
図12のS4)。
【0078】
この変換は、予め、座標変換テーブルを準備しておき、この座標変換テーブルを参照して、入力された画像の座標値を置き換えることによって行われる。
【0079】
すなわち、第1座標変換データ格納部52に、予め作成した、仮想視点の位置と、画像を観測する方向と、観測する範囲とによって決定する第1座標変換テーブルを格納しておき、第3仮想画像生成部54において、撮影手段30で撮影された各々の画像の座標値を、第1座標変換テーブルによって示された座標値に置き換えることによって、第3仮想画像が生成される。
【0080】
なお、この時、進行方向検出手段10によって、車両の進行方向の検出が開始される。車両の進行方向は、シフトポジション検出部12で検出されたシフトポジションと、操舵角検出部14で検出された操舵角とによって決定される(
図12のS5)。
【0081】
このようにして検出された進行方向の情報は、障害物検出手段40に送られ、測距範囲選択部45において、測距部41−44の中から、検出された進行方向の範囲を測距している、1つもしくは複数の測距部が選択される(
図12のS6)。ここで選択された測距部を測距部Kと呼ぶことにする。
【0082】
続いて、測距範囲選択部45において選択された測距部Kから、その測距部Kを構成する測距部に備えられた、全ての距離センサの出力Dが読み出され(
図12のS7)、最小距離値検出部46にて、距離センサの出力の最小値Dmin(以下、単に最小値Dminと呼ぶ)が算出される(
図12のS8)。
【0083】
次に、しきい値処理部47において、最小値Dminが、距離の所定値D
0(以下、単に所定値D
0と呼ぶ)より小さい(近い)か否かが判断される(
図12のS9)。ここで、所定値D
0は、運転者に対して、障害物の存在を注意喚起する必要がある最小距離を示す値であり、装置の設計パラメータとして、予め設定されたものである。
最小値Dminが所定値D
0より小さいとき(
図12のS9がYesのとき)は、最小値Dminの値が、第4仮想画像生成手段65に対して出力され、処理は
図12のS10に進む。一方、最小値Dminが所定値D
0以上であるとき(
図12のS9がNoのとき)は、
図12のS13に進む。
例えば、
図3の状態にあるときは、車両1の進行方向は前方であると判定され、測距範囲選択部45において、測距部Kとして第1測距部41が選択される。そして、
図12のS10において、第1測距部41を構成する1つもしくは複数の距離センサの出力の最小値Dminが、所定値D
0より小さいとき、最小値Dminが、第4仮想画像生成手段65に送られる。さらに、第4仮想画像描画範囲決定部68において、第1距離マーカ設定手段70で設定された、車両1からの距離が互いに異なる複数の第1距離マーカLiのうち、最小値Dminを超えない、最大の距離を表す第1距離マーカLjが選択される。
【0084】
第1距離マーカLjを選択する手続きは、第1実施例と同様であるため、ここでは説明を割愛する。
【0085】
本実施例の場合、第1測距部41から、最小値Dminとして、1.3mという値が出力されたとすると、車両1から1m離れた位置に設定された第1距離マーカL2が選択される。
【0086】
次に、第4仮想画像生成手段65において、撮影手段30で撮影された画像I
1(x、y)、I
2(x、y)、I
3(x、y)、I
4(x、y)の中で、
図4の第1距離マーカL2よりも車両1に対して遠方にある領域を、
図4の第1距離マーカL2の位置で第3仮想画像と連続するように、それぞれ座標変換して、第4仮想画像が生成される(
図12のS11)。
【0087】
第4仮想画像の生成は、具体的には、以下のようにして行われる。
【0088】
まず、本実施例を動作させる前に、撮影手段30に使用する光学系のパラメータと、撮影手段30の取り付け位置のパラメータと、
図4に記載した第1距離マーカの位置情報とを用いて、座標変換前後の座標値の関係を計算によって算出し、その結果を格納した第2座標変換テーブルを作成し、作成した第2座標変換テーブルを第2座標変換データ格納部62に格納しておく。
【0089】
次に、第2座標変換テーブルに対して、車両1から第1距離マーカL2の範囲にマスクCをかけ、このマスクCがかかっていない範囲に対応する第2座標変換テーブルを使って、第4仮想画像生成部66において、座標変換を行う。
座標変換の結果、
図6に示すN1の領域に画像I
1(x、y)を座標変換した結果が格納され、N2の領域に画像I
2(x、y)を座標変換した結果が格納され、N3の領域に画像I
3(x、y)を座標変換した結果が格納され、N4の領域に画像I
4(x、y)を座標変換した結果が格納される。
【0090】
なお、隣り合ったカメラで、互いに重複して撮影された領域は、第1実施例で説明した通り、予め設定された所定の繋ぎ目の位置で合成され、そこからはみ出した画像は切り捨てられる。
【0091】
次に、第2画像合成手段95において、先に生成された第3仮想画像の中の対応する位置に、第4仮想画像が上書きされて、1枚の画像に合成される(
図12のS12)。
【0092】
さらに、
図10のS12で生成された、第3仮想画像と第4仮想画像の合成画像に、第2距離マーカ設定手段80によって予め作成された、車両1から互いに異なる複数の所定距離の位置に設けた第2距離マーカPiのうち、第3仮想画像の中に位置する第2距離マーカPjが、第2画像合成手段95によって合成される(
図12のS13)。
【0093】
第2距離マーカ設定手段80によって、第1実施例で説明した第2距離マーカPiと同じもの(
図8参照)が設定されているとすると、車両1からの距離が0.5mを表す第2距離マーカP1と、車両1からの距離が1mを表す第2距離マーカP2とが合成される。なお、
図12のS9において、最小値Dminが所定値D
0以上であると判断されたとき(
図12のS9がNoのとき)は、
図12のS13において、第3仮想画像の全体に第2距離マーカPiが合成される。
このようにして得られた
図7に示す合成画像は、
図11に図示しないD/A変換器にてコンポーネント信号に再構成され、さらに、図示しないエンコーダによってコンポジット信号に変換されて、車両1に設置された、液晶モニタから構成された画像表示手段100に表示される(
図12のS14)。運転者は、画像表示手段100に表示された画像を確認しながら、障害物200cを回避して駐車操作を継続する。
【0094】
以後、車速の高さや終了スイッチ26の操作、また、イグニッションスイッチの状態をモニタして、処理の流れが制御されるが、これは、第1実施例で説明した通りであるため、説明は割愛する。
【0095】
このように構成された第2実施形態に係る車両用周辺監視装置3によれば、車両1周辺に障害物が検出されたとき、車両1から、検出された障害物までの距離に応じた位置で、車両1を俯瞰した画像と、撮影手段によって撮影された画像とが連続するように合成して表示する構成としたため、障害物を歪みなく表示することができるようになる。
【0096】
特に、第2実施例によると、第3仮想画像と第4仮想画像の繋ぎ目の位置の計算が、第4仮想画像を生成する際に行う1回だけで済むため、画像の合成をより一層短時間で行うことができる。