(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0023】
以下、本発明に係る運搬車両を用いた土煙までの走行可能距離を算出するシステムを実施するための形態を図に基づいて説明する。
【0024】
[第1実施形態]
本第1実施形態は、ステレオカメラ装置20を用いた実施形態である。
図1は、本発明の第1実施形態に係るオフロードダンプトラックとして、建設機械向けの車両1である鉱山用ダンプトラックを示している。
図2は、車両1が用いられる鉱山システムを示す概略図である。
【0025】
車両1は、
図2に示すように、鉱山に予め設けられた走行路である路面2を自律運転で走行可能な無人走行式とされている。鉱山には、車両1との間で所定の情報を送受信するための情報センタ3が設置されているとともに、車両1に土砂等の積載物を積載させるための油圧ショベル4等が用いられている。
【0026】
車両1は、
図1に示すように、車両本体1aと、車両本体1aの前側上方に設けられたキャビンとしての運転席1bと、車両本体1a上に起伏可能に設けられた作業部としての荷台であるベッセル1cと、車両本体1aを走行可能に支持する左右の前輪1dおよび後輪1eとを備えた構成とされている。
【0027】
車両本体1aの前側には、車両本体1aの周囲、特に走行方向前方を認識するための外界認識装置10が取り付けられ、外界認識装置10にて認識した路面2上の障害物、特に先行車両6を回避しながら走行可能とされている。外界認識装置10は、局所的に前方視界を遮る土煙5が発生して先行車両6を認識できなくなった場合に、路面3と土煙5との境界部分を検知し、自車両である車両1から境界部分までの、いわゆる安全性が確保された走行可能距離を計測する。すなわち、外界認識装置10にて算出した走行可能距離は、路面2上の距離を算出しているため、路面2上の安全性が確保された認識済みの走行可能な距離である。
【0028】
外界認識装置10は、基準画像を撮影するための基準画像取得カメラとしての左撮影部である左カメラ21aと、この左カメラ21aにて撮影し基準画像と比較するための比較画像を撮影するための比較画像取得カメラとしての右撮影部である右カメラ21bとを有するステレオカメラ装置20を備え、これらカメラ21a,21bを、第1および第2のカメラとして用いて車両1の進行方向前方の画像を取得する。ステレオカメラ装置20は、車両本体1aの前側の左右方向の中央部である中心位置に、左右のカメラ21a,21b間の中心が位置するように取り付けられている。
【0029】
外界認識装置10は、距離情報算出部22を備えている。距離情報算出部22は、各カメラ21a,21bにて取得した左右の画像中の各画素の差分である視差情報、すなわち距離データを算出する。そして、この距離データに基づいて、車両1からの距離情報を示す視差画像メモリ26が構成されている。
【0030】
外界認識装置10は、路面検出部23、土煙境界検出部24、距離測定部25、車両制御部27、外部通信装置28および障害物検出部29を備えている。路面検出部23は、視差画像メモリ26中の距離データに基づいて路面2を推定して検出する。障害物検出部29は、視差画像メモリ26から路面2上の障害物として先行車両6等を検知する。土煙境界検出部24は、ステレオカメラ装置20の左カメラ21aにて撮影した左画像31aに基づいて、先行車両6の走行時に発生する土煙5の有無を判定する土煙判定部である。土煙境界検出部24へ入力される画像は、後述する種々のメモリとの座標の対応を容易にするため、距離算出時の基準とする基準画像が望ましく、本実施例では左カメラ21aにて撮影した左画像31aを基準画像としている。
【0031】
距離測定部25は、路面検出部23にて検出した路面情報と、土煙境界検出部24にて検出した土煙情報と、障害物検出部29にて検出した障害物情報とに基づいて、車両1が走行可能な区間である走行可能距離を算出する土煙境界距離算出部である。特に、距離測定部25は、土煙5にて先行車両6が認識できなくなった場合に、路面2と土煙5との境界部分までの距離を走行可能距離とする。車両制御部27は、距離測定部25にて算出した走行可能距離情報に基づいて車両1の走行速度を制御する。外部通信装置28は、例えば土煙境界検出部24にて判定した土煙によって障害物検出部29にて検出した先行車両6が距離測定部25にて認識できない場合に、この距離測定部25から出力される土煙発生情報を、車両1外部の情報センタ3等に通知する通知部である。情報センタ3は、外部通信装置28からの土煙発生情報の通知を受けることにより、路面2上の土煙5を抑制するための散水車(図示せず)を走行させる時期を知ることができる。
【0032】
次いで、外部認識装置10の距離情報算出部22の機能の詳細について、
図3を参照して説明する。
図3は、車両1の距離情報算出部22の動作を示すフローチャートである。
図4は、車両1のステレオカメラ装置20で撮影した左画像31aと右画像31bの相違を示す説明図である。
【0033】
図3に示すように、ステレオカメラ装置20の各カメラ21a,21bで同時に撮像した画像データを受信する(ステップS11)。このステップS11にて取得した左右2枚の同時刻の画像データ、すなわち左画像31aと右画像31bとを比較し、対称点算出処理として、同一物体を撮影している部分を特定する(ステップS12)。
【0034】
図4に示すように、路面2上の任意点Aをステレオカメラ装置20の各カメラ21a,21bで撮影した場合には、左カメラ21aと右カメラ21bとで撮影された画像が左画像31aおよび右画像31bとなる。
図4においては、路面2を走行する先行車両6を車両1側から撮影した状況であり、先行車両6が発生した土煙5によって先行車両6が認識しにくい状況を示している。同一の地点である任意点Aは、左画像31aには位置A1に撮像され、右画像31bには位置A2に撮像されている。このため、これら画像31a,31b間には、横方向にd1のずれが発生し、左画像31aの位置A1に撮像されている物体が、右画像31b中のどの位置に撮像されているかを特定する必要がある。
【0035】
ここで、左画像31aに撮像されている特定の物体が、右画像31bのどの位置に撮像されているかを特定する方法について、
図5を参照して説明する。
図5は、ステレオカメラ装置20の左カメラ21aで撮影した左画像31a中の特定の物体が、右カメラ21bで撮影した右画像31bのどの位置に撮像されるかの特定方法を示す説明図である。
【0036】
図5は、左画像31aおよび右画像31bの座標系に関し、横方向をu軸とし、縦方向をv軸としている。左画像31aにおいて、uv座標で、位置(u1,v1)、(u1,v2)、(u2,v1)および(u2,v2)で囲まれた矩形領域Bを設定する。
【0037】
次いで、右画像31bにおいて、位置(U,v1)、(U,v2)、(U+(u2−u1),v1)および(U+(u2−u1),v2)で囲まれた領域を、Uの値をu=0からu=u3まで増加させ、この右画像31bの右方向へ矩形領域B1の位置まで走査させる。この走査の際に、矩形領域B2内の画像と、矩形領域B1内の画像との相関値を比較し、左画像31aの矩形領域Bと相関性が最も高い右画像34bの矩形領域B2の位置(u4,v1)、(u4,v2)、(u4+(u2−u1),v1)および(u4+(u2−u1),v2)に、矩形領域Bに撮像されている物体と同一の物体が撮像されているとする。また、これら矩形領域B内の各画素と、矩形領域B2内の各画素が対応しているとする。
【0038】
右画像31bの矩形領域B1を走査した際において、相関値がある一定以上の値になる矩形領域が存在しない場合は、左画像31aの矩形領域Bに対応する右画像31b内の対応点をなしとする。対応点がない場合は、距離情報を算出できず、視差画像メモリ26中の画素にゼロ(0)を設定する。特に、土煙5による視界不良の領域は、画像としての検出情報(テクスチャ)が少なくなるため、左画像31aの矩形領域Bとの右画像31bの対応点を特定できず、視差画像メモリ26が算出できない。この状態においては、土煙5が発生した時の先行車両6までの距離が計測できず、走行可能距離を特定できない。そこで、本第1実施形態においては、土煙5と路面2との境界部分を検出し、この境界部分までの距離(区間)を、走行可能距離とする。
【0039】
次いで、左画像31aの矩形領域Bを位置B3へずらし、上記矩形領域Bでの処理と同様の処理を行う。すなわち、左画像31aの矩形領域Bを、左画像31a内全体に亘って走査して、左画像31aの全画素に対し、右画像31b内の対応点Cを求め、対応点Cが見つからない場合は、対応点無しとする。
【0040】
この後、
図3に示すように、上述したステップS12での対応点算出処理にて求めた、同一物体を撮像している左画像31aと右画像31bとの対応点Cに関し、各対応点Cがステレオカメラ装置20の基準となる左カメラ21aからどの程度の距離の位置にあるかについて、距離算出処理をして算出する(ステップS13)。
【0041】
ここで、ステップS13での距離算出処理として、左画像31aと右画像31bの対応点Cの左カメラ21aからの距離の算出方法について、
図6を参照して説明する。
図6は、左画像31aおよび右画像31bにおける対応点Cの左カメラ21aからの距離の算出方法を示す説明図である。
【0042】
左カメラ21aは、
図6に示すように、レンズ41aと撮像面42aとからなる焦点距離fおよび光軸43aを有している。右カメラ21bは、レンズ41bと撮像面42bとからなる焦点距離fおよび光軸43bを有している。これらカメラ21a,21bの前方に位置する対応点Cは、左カメラ21aの撮像面42aの点D1(光軸43aから距離d2までの距離)に撮像され、左画像31aにおいて点D1(光軸43aから画素d4ほど離れた位置)となる。対象点Cは、右カメラ21bの撮像面42bの点D2(光軸43bから距離d3までの距離)に撮像され、右画像31bにおいて点D2(光軸43bから画素d5ほど離れた位置)となる。
【0043】
すなわち、同一の物体である対応点Cが、左画像31aでは光軸43aから左方向へ画素d4ほど離れた位置に撮像され、右画像31bでは光軸43bから右方向へ画素d5ほど離れた位置に撮像されるため、d4+d5画素の視差が発生する。左カメラ21aの光軸43aと対応点Cとの距離をxとすると、次の式にて、ステレオカメラ装置20から対応点Cまでの距離Dを求めることができる。
【0044】
対応点Cと左カメラ21aとの関係から、d2:f=x:D
対応点Cと右カメラ21bとの関係から、d3:f=(d−x):D
この結果、D=f・d/(d2+d3)=f・d/{(d4+d5)・a}となる。ここで、aは、各カメラ21a,21bの撮像面42a,42bの撮像素子サイズである。
【0045】
図6に示す距離算出を、上述のステップS12での対応点算出処理で算出した対応点Cの全てにおいて行うことにより、ステレオカメラ装置20の左カメラ21aから対象物までの距離を示す距離画像を算出することができる。
【0046】
次いで、上記ステップS120の距離算出処理にて算出された距離画像を、距離情報出力処理として出力し距離データとして記憶させる(ステップS14)。
図7は、左カメラ211から対象物までの距離データに基づく視差画像メモリ26を示す概略図である。すなわち、
図7は、視差画像メモリ26の記録内容の例を示したものであり、二次元上の画素ごとに、距離データが記録されている。
【0047】
上記ステップS14の後、左カメラ21aおよび右カメラ21bから画像入力信号があるかが判断され(ステップS15)、このステップS15において、左カメラ21aおよび右カメラ21bからの画像入力信号の入力がある(Yesの)場合は、上記ステップS11へ進む。これに対し、ステップS15において、左カメラ21aおよび右カメラ21bからの画像入力信号の入力がない(Noの)場合は、これら画像入力信号が距離情報算出部22に入力されるまで待機する。
【0048】
<走行路面検出部>
次に、外部認識装置10の路面検出部23での処理について、
図8を参照してより詳細に説明する。
図8は、車両1の路面検出部23の処理を示すフローチャートである。
図9は、左画像31bと撮影対象Eとの関係を示す説明図で、(a)は左画像31bを示し、(b)は撮影対象Eまでの距離を示す。
図10は、撮影対象Eのx座標値の算出方法を示す説明図である。
【0049】
路面検出部23は、
図8に示すように、まず距離情報算出結果読込処理として、距離情報算出部22での上述したステップS14の距離情報出力処理にて処理された距離画像情報を読み込む(ステップS21)。
【0050】
この後、ステップS21で読み込んだ距離画像情報に基づいて、三次元情報算出処理として、画面中の各画素の三次元位置を算出する(ステップS22)。ステップS21で読み込んだ距離画像は、
図9(a)および
図9(b)に示すように、基準とする左カメラ21aで撮像した左画像31a中の各画素Pk(k=1〜N、N=左画像31aの画素数)を撮影している撮影対象Eのステレオカメラ装置20からの距離dkを、左画像31a中の全画素について算出したものである。
【0051】
この距離dkを用いて、撮影対象Eの三次元座標値(xk,yk,zk)を算出する。この三次元座標は、
図10に示すように、車両1を上方から見た場合に、この車両1の進行方向をz軸とし、このz軸に垂直かつ車両1の左右方向をx軸とし、z軸に垂直かつ車両1の上下方向をy軸としている。
【0052】
<x座標値の算出方法>
ここで、撮影対象Eのx座標値であるxkの算出方法について、
図11を参照して説明する。
図11は、ステレオカメラ装置20においての撮影対象Eのx座標値の算出方法を示す説明図で、(a)は左カメラ21aでの撮影状態を示し、(b)はその左画像31aを示す。
【0053】
図11に示すように、左カメラ21aは、z´軸を光軸43aとし、
図10中のz軸および
図10中のz´軸は、
図9中のxy平面に対して垂直な平面に等しい平面上にあり、z軸とz´軸との成す角度は、
図12に示すステレオカメラ装置20の設置俯角αと一致する。
【0054】
図11中の撮像面42aを含み、かつz´軸に垂直な軸をx´軸とすると、x´軸は、
図10中のx軸と一致する。
図10中の撮影対象Eを
図11中の対象点Fとすると、対象点Fは、撮像面42aの光軸43aからx´軸の負の方向へ距離X2ほどずれた位置F1に撮像される。撮像面42aにおいて、撮像素子サイズのx´軸の正の方向のサイズをaとすると、対象点Fは、左画像31aの光軸43aから負の方向にX3(=X2/a)画素ほど移動した位置F2に撮像される。
【0055】
対象点Fの左カメラ21aからの距離をdkとすると、X2:f=X1:D1となり、D1=dk・cosθとなる。θは、tanθ=X2/fから算出される値である。したがって、X1=D1・X2/f=D1・X3・a/fとなる。X3は、
図9(b)中の撮影対象Eに相当する画素数である。
図9(a)において、光軸位置に相当する画面中心線Gとすると、撮影対象Eとしている画素Pkの画面中心線Gからの画素数がX3に相当する。X2は、
図10中のxkに等しい値である。
【0056】
<y座標値の算出方法>
次に、撮影対象Eのy座標値であるykの算出方法について、
図12を参照して説明する。
図12は、ステレオカメラ装置20においての撮影対象Eのy座標値の算出方法を示す説明図で、(a)は左カメラ21aでの撮影状態を示し、(b)はその左画像31aを示す。
【0057】
図12中のz´軸は、
図10中のz軸に等しく、z軸とz´軸との成す角度は、
図12に示すステレオカメラ装置20の設置俯角αと一致する。
図12中の撮像面42aを含み、かつz´軸に垂直な軸をy´軸とし、
図10中の撮影対象Eを
図11中の対象点Fとすると、対象点Fは、撮像面42aの光軸43aからy´軸の正の方向へ距離Y2ほどずれた位置に撮像される。すなわち、撮像面42aにおいて、撮像素子サイズのy´軸の正の方向のサイズをbとすると、対象点Fは、
図12(b)に示す左画像31aの画面中央線HからY3(=Y2/b)画素ほど移動した位置F2に撮像される。対象点Fの左カメラ21aからの距離をdkとすると、yk=dk・sin(θ+α)となる。θは、tanθ=Y2/fから算出される値である。
【0058】
<z座標値の算出方法>
次に、撮影対象Eのz座標値であるzkの算出方法について、
図12を参照して説明する。
【0059】
zkは、
図12に示すように、zk=dk・cos(θ+α)であり、θは、tanθ=Y2/fから算出される値である。したがって、上述したxyz座標値の算出方法を用いることにより、
図9(a)に示す左画像31aの全画素について、画素Pkの三次元座標(xk、yk、zk)を算出することができる。
【0060】
さらに、
図8に示すように、上述したステップS22の三次元情報算出処理にて算出した左画像31aの各画素のうち、路面2である可能性が高い画素を抽出する、路面当てはめ処理を行う(ステップS23)。
図13は、ステレオカメラ装置20にて路面2を求める方法を示す説明図である。
【0061】
図13において、左カメラ21aで撮影した左画像31a中に、道路である路面2が撮像されている。この左画像31a中の車両1に近い部分である点線で示した点線部分の領域Iに属する各画素を、路面当てはめに使用する画素として抽出する。
【0062】
図10に示す座標系において、走行路面式をax+by+cz+d=0とし、抽出した画素の三次元座標をPi(xi、yi、zi)、(ただし、i=0〜J、Jは、抽出した画素数)とすると、Piを満たすパラメータa,b,cを算出することにより、路面2を求めることができる。
【0063】
次いで、外界認識装置10の土煙境界検出部24について、
図14および
図15を参照して、より詳細に説明する。
図14は、車両1の土煙境界検出部24の構成を示す概略図である。
図15は、土煙境界検出部24での処理を示す説明図である。ここで、
図14においては、土煙境界検出部24の構成に加え、土煙境界検出部24でのデータ処理過程に基づく動作フローについても示されている。
【0064】
土煙境界検出部24は、処理タイミング調整のためのカメラ画像メモリ24aと、左画像31a中のエッジ画素メモリ24cを生成するためのエッジ抽出処理部24bと、エッジ画素メモリ24c中にノイズがあった場合の影響を少なくするための処置を行うエッジブロック化処理部24dとを備えている。また、土煙境界検出部24は、エッジブロック化処理部24dにて生成したエッジブロックメモリ24eに基づいて土煙領域を特定するエッジ領域判定部24fと、エッジ領域判定部24fにてグループ化されたエッジ判定メモリ24g中の下辺座標データを抽出するエッジ領域下辺座標抽出部24hとを備えている。
【0065】
土煙境界検出部24においては、ステレオカメラ装置20の左カメラ21aから入力された左画像データが、一時的にカメラ画像メモリ24aとして格納される。カメラ画像メモリ24aは、エッジ抽出処理部24bへ出力され、このエッジ抽出処理部24bにて左画像31a中のエッジ画素メモリ23cが生成される。エッジ画素メモリ23cは、左右の隣接する画素同士の差分の絶対値を計算し、この計算した絶対値が任意の閾値以上の画素に1を設定し、この閾値より小さい画素に0を設定したデータであり、
図15に示すように、1画素1ビットで、エッジが検出された画素に1が設定されている。
【0066】
そして、エッジ抽出処理部24bにて生成されたエッジ画素メモリ23cがエッジブロック化処理部24dへ出力され、このエッジブロック化処理部24dにより、エッジ画素メモリ23c中の幾つかの画素を1つのブロックとして集約したデータが作成される。例えば、4画素×4画素の16画素を1つのブロックとし、この1つのブロック中の1の数が所定値以上の場合に1を設定したエッジブロックメモリ24eが生成される。このエッジブロックメモリ24eは、例えば1の数を8個とする。
【0067】
エッジブロックメモリ24eは、エッジ領域判定部24fへ出力され、エッジ領域判定部24fにて土煙領域が特定される。エッジ領域判定部24fにおいては、画像31a中の土煙5が発生している領域はエッジが無くなるため、所定以上の広さでエッジが無い部分を検出し、土煙5の発生部分を特定する。エッジ領域判定部24fは、エッジブロックメモリ24eにおいて、Y方向が所定の長さでゼロ(0)が連続する部分、およびX方向が所定の長さでゼロ(0)が連続する部分をグループ化する。
【0068】
例えば、
図15においては、Y方向に4以上およびX方向に4以上の領域の太線で囲った部分がグループ化されてエッジ判定メモリ24gとされている。エッジ判定メモリ24gは、囲まれた領域(部分)がゼロ(0)とされ、それ以外の部分が1とされたデータである。この後、エッジ判定メモリ24gがエッジ領域下辺座標抽出部24hへ出力され、エッジ判定メモリ24g中の下辺座標データが抽出される。さらに、下辺座標データが距離測定部25へ出力され、この下辺座標データに基づいて、エッジが出ていない領域が路面2に接しているかが距離測定部25にて判定される。
【0069】
<距離測定部>
次に、外界認識装置10の距離測定部25での処理について、
図16を参照してより詳細に説明する。
図16は、車両1の距離測定部25の動作を示すフローチャートである。
図17は、距離測定部25にて検出される先行車両6までの距離に関する距離データ26aを示す概略図である。
【0070】
図16に示すように、例えば先行車両6等の障害物が路面2上に検出されたかが障害物検出部29にて判定される(ステップS51)。先行車両6に該当する部分の視差画像メモリ26中の距離データは、X方向およびY方向のそれぞれにおいて所定の距離範囲を有する情報であるため、これら距離範囲を検出することによって、路面2上の障害物を検出することができる。すなわち、先行車両6のシルエット形状に相当する部分については、路面2に対し垂直な壁として検出される。
【0071】
先行車両6までの距離情報は、
図17に示す視差画像メモリ26中に距離データ26aとして検出される。先行車両6は、
図17に示すように、X方向およびY方向それぞれの距離に応じた大きさの領域で距離情報が略同一となる。視差画像メモリ26中での距離データ26aの検出は、土煙5が発生していないことを示しているため、上記ステップS51でのYesの場合に該当し、先行車両6までの距離を走行可能距離として出力する(ステップS61)。
【0072】
これに対し、視差画像メモリ26中に先行車両6を検知できない場合は、上記ステップS51のNoの場合に該当し、エッジ判定メモリ34gを、Y方向の値が大きい側(画面下側)から1行ずつ読み出していく(ステップS52)。次いで、ステップS52にて読み出した1行のエッジ判定メモリ34gをX方向にサーチし、0が所定の長さ以上に連続するエリアを土煙エリア候補として検出する(ステップS53)。この後、ステップS530にて検出したエリアの一部または全部が路面範囲に含まれているかを判定する(ステップS54)。
【0073】
ステップS54にて、検出したエリアの一部または全部が路面範囲に含まれていなかった(Noの)場合は、車両1の走行に影響を与えないため、土煙5でないと判断して、エッジ判定メモリ24g中のY方向位置(Yポインタ)を更新し(ステップS58)、このエッジ判定メモリ24gを1画面全体に亘って読み終えたかを判定する(ステップS59)。ステップS59にてエッジ判定メモリ24gを1画面分読み終えている(Yesの)場合は、路面2上に土煙5の発生がなく、かつ先行車両6が存在しないため、視差画像メモリ26上の路面2の最遠距離値を走行可能距離とする(ステップS60)。
【0074】
これに対し、上記ステップS54にて、検出したエリアの一部または全部が路面範囲に含まれていた(Yesの)場合は、路面範囲に含まれていたエリアの画像上の底辺座標(Xb,Yb)を特定する(ステップS55)。底辺座標は、土煙5と路面2との境界部分を示す。次いで、ステップS55にて特定した底辺座標(Xb,Yb)に基づき、視差画像メモリ26を読み出す(ステップS56)。そして、ステップS56にて読みだした視差画像メモリ26中の距離データを走行可能距離として出力する(ステップS57)。
【0075】
ステップS57にて走行可能距離が出力された場合には、土煙5により先行車両6が確認できない状況にある等を示す土煙発生通知情報を、外部通信装置28にて車両1以外の情報センタ3に通知する(ステップS62)。この土煙発生通知情報を受信した情報センタ3は、土煙5が確認できた位置の路面2への散水計画を立てたり、後続車両(図示せず)に対し走行速度を低下させる等の情報を送信して指示したりする。
【0076】
以上により、上記第1実施形態に係る車両1においては、車両本体1aの前側に取り付けられたステレオカメラ装置20の各カメラ21a,21bにて撮影した画像31a,31bに基づいて、路面検出部23にて路面2を検出するとともに、土煙境界判定部24にて土煙5の境界を判定する。そして、路面検出部23にて検出した路面情報と、土煙境界判定部24にて判定した土煙境界情報とに基づいて、距離測定部25にて車両1が走行可能な走行可能距離を算出することにより、土煙発生時等における路面2上の走行可能な距離を把握でき、土煙発生時における走行安全性の確保を容易に行うことができる。
【0077】
特に、土煙境界検出部24において、左カメラ21aから入力された左画像データからエッジ抽出処理部24bにてエッジ画素メモリ24cを生成し、このエッジ画素メモリ24cをエッジブロック化処理部24dにてブロック化してエッジブロックメモリ24eを生成し、このエッジブロックメモリ24eに基づいてエッジ領域判定部24fにて土煙領域を特定する。この結果、エッジブロックメモリ24eにおいて、Y方向が所定の長さでゼロ(0)が連続する部分、およびX方向が所定の長さでゼロ(0)が連続する部分をグループ化してエッジ判定メモリ24gとし、このエッジ判定メモリ24g中の下辺座標データを抽出することにより、路面2と土煙5との境界を検出できる。したがって、左カメラ21aにて撮影した左画像31aに基づく土煙5の判定処理を容易に行うことができ、土煙発生時における土煙5の判定処理が容易にできるから、土煙発生時における走行安全性をより適切に確保することができる。
【0078】
さらに、ステレオカメラ装置20の各カメラ21a,21bにて同時刻に撮影して左画像31aおよび右画像31bに基づき、左画像31aを基準画像とし、右画像31bを比較画像とし、これら左画像31aと右画像31bとの差分から路面検出部23にて路面を検出する。そして、ステレオカメラ装置20の左カメラ21aにて撮影した左画像31aに基づいて土煙境界判定部24にて土煙5の境界を判定する。この結果、路面2を検出する際の基準とする画像と、土煙5を判定する際の基準とする画像とを左画像31aとして等しくできるから、距離測定部23での走行可能距離の算出をより精度良くでき、土煙発生時における走行安全性をより適切に確保することができる。
【0079】
また、土煙境界検出部24にて判定した土煙5により障害物検出部29にて検出した先行車両6が距離測定部25にて認識できない場合に、この距離測定部25から出力される土煙発生情報を、外部通信装置28にて車両1外部の情報センタ3等に向けて通知する。このため、外部通信装置28からの土煙発生情報の通知を受けた情報センタ3にて、路面2上の土煙5を抑制するための散水車(図示せず)を走行させる時期を知ることができるとともに、情報センタ3から先行車両6へ所定の情報を送信することにより、この先行車両6に車両1の存在を認識させることができ、これら先行車両6と車両1との接触をより確実に防止することができる。
【0080】
[第2実施形態]
図18は、本発明の第2実施形態に係る車両1を示す概略構成図である。また、
図19は、車両1での距離の測定原理を示す説明図である。本第2実施形態が前述した第1実施形態と異なるのは、第1実施形態は、ステレオカメラ装置20にて土煙発生時の走行可能距離を算出したのに対し、第2実施形態は、単眼カメラ装置61を用いた遠近法で土煙発生時の走行可能距離を算出する。なお、本第2実施形態において、第1実施形態と同一又は対応する部分には同一符号を付している。
【0081】
<構成>
本第2実施形態においては、車両本体1aの前側の左右方向の中心位置に単眼カメラ装置61が取り付けられ、この車両本体1aに外界認識装置10Aが取り付けられている。外部認識装置10Aは、
図18に示すように、単眼カメラ装置61で撮影した画像71が入力される土煙境界検出部24、路面検出部62および先行車両検出部63を備えている。先行車両検出部63は、先行車両6の特徴を示す特徴画像が予めテンプレート画像として記憶されており、先行車両6のテンプレート画像を画像71中から探し出すパターンマッチング法で検出する。
【0082】
外界認識装置10Aは、単眼カメラ装置61にて異なる時間に撮影された画像を用いて、先行車両6との相対速度を推定するためのフレーム結果記憶部65および相対速度推定部66を備えている。相対速度推定部66は、単眼カメラ装置61にて時刻t1に撮影した基準画像としての第1の画像71と、この第1の画像71を撮影した後である時刻t2に単眼カメラ装置61にて撮影した比較画像としての第2の画像71との差分に基づいて、先行車両6と車両1との相対速度を算出する相対速度検出部としての先行車両距離変化検出部である。
【0083】
相対速度推定部66は、単眼カメラ装置61にて時刻t1に撮影した画像71中の土煙の下端側の位置Y1と、時刻t1から所定時間が経過した時刻t2に撮影した画像71中の土煙の下端側の位置Y2とにより、これら時刻t1,t2の時間差における車両1と先行車両6との距離の差分Rdを算出する。差分Rdは、F・HO/{(Y2−Y1)−Yd}にて算出される。フレーム結果記憶部65においては、位置Y1,Y2が記憶され、単眼カメラ装置61にて撮影される画像71が新規に入力される度に、記憶させた位置Y1,Y2が書き換えられる。先行車両6との距離Rは、=F・HO/(Yd−Yf)となる。Fは単眼カメラ装置61の焦点距離で、HOは単眼カメラ装置61の地面からの高さ距離で、Ydは道路消失点JのY座標値で、Yfは先行車両6(障害物)の最低位置である。
【0084】
<路面検出部>
路面検出部62は、
図19に示す画像71中から左右の路肩7を検出し、これら左右の路肩7で挟まれた領域を画像71中の路面2として特定する。路肩7は、路面2の幅を特定する目的から、路面2の左右の両脇に設置されている。路面検出部62は、
図19に示すように、単眼カメラ装置61にて撮影した画像71において、遠近法では路面2の幅は無限遠の地平線で一点、すなわち道路消失点Jに収束することを活用している。路面2上の物体が路面2と接する位置は、画像71上の道路消失点Jの位置よりも下に位置するため、車両1に近づくに連れて先行車両6が下にずれることから、このずれ量を計測して距離を測定する。
【0085】
<距離測定部>
土煙境界検出部24にて検出された土煙境界情報、路面検出部62にて検出された路面情報、および先行車両検出部63にて検出された先行車両情報が距離測定部64に入力され、距離測定部64は、入力される土煙境界情報、路面情報および先行車両情報に基づいて走行可能距離を算出する。
図20は、車両1の距離測定部64の動作を示すフローチャートである。
【0086】
図20に示すように、単眼カメラ装置61にて撮影した画像71の入力が行われ(ステップS71)、先行車両検出部63にて先行車両6の有無が検出される(ステップS72)。ステップS72にて先行車両6が検出された(Yesの)場合は、土煙3の発生がないと判断され、距離測定部64により、先行車両6の位置までが走行可能距離とされる(ステップS77)。
【0087】
これに対し、ステップS72にて、先行車両6が検出できない(Noの)場合は、上記第1実施形態と同様に、土煙境界検出部63にて土煙領域が検出される(ステップS73)。このステップ73での土煙領域の検出、すなわち土煙5の有無が判断され(ステップS74)、ステップS74にて、土煙5なしと判断された(Noの)場合は、予め設定した最大距離が走行可能距離として出力される(ステップS78)。一方、ステップS74にて、土煙5ありと判断された(Yesの)場合は、検出された土煙領域の最下部が、左右の路肩7で挟まれた位置に路面2が存在するかが判定される(ステップS75)。
【0088】
このステップS75にて、土煙領域の最下部に対して少なくともいずれか一方の路肩7が検出されない(Noの)場合は、画像71中の路肩7が検出できる位置までが走行可能距離とされる(ステップS79)。これに対し、土煙領域の最下部が路肩7に挟まれている(Yesの)場合は、この土煙領域の最下部のY方向の位置を検出し、このY方向の位置が距離に変換されて走行可能距離として出力される(ステップS76)。
【0089】
<相対速度推定部>
次いで、外界認識装置10Aの相対速度推定部66の処理について、
図21および
図22を参照してより詳細に説明する。
図21は、車両1の単眼カメラ装置61に撮影した時間差を有する2つ画像71を示す概略図で、(a)は時刻t1の画像で、(b)は時刻t2の画像である。
図22は、車両1の相対速度推定部66での処理を示すフローチャートである。
【0090】
図22に示すように、フレーム結果記憶部65に時刻t1に記憶された
図21(a)に示す先行車両6の位置Y1が読み出される(ステップS81)。次いで、フレーム結果記憶部65に時刻t2に記憶された
図21(b)に示す先行車両6の位置Y2が読み出され、これら位置Y1と位置Y2との距離の差分Rdが算出される(ステップS82)。ステップS82にて算出された差分Rdがマイナス(負の値)かが判断され(ステップS83)、ステップS83での判断により差分Rdがマイナスと判断された(Yesの)場合は、前方車両6との車間距離が小さくなっていくため、車両制御部27を介して減速指示される(ステップS84)。
【0091】
これに対し、ステップS83での判断により差分Rdがマイナスでないと判断された(Noの)場合は、この差分Rdがプラス(正の値)かが判断される(ステップS85)。ステップS85での判断により差分Rdがプラスと判断された(Yesの)場合は、前方車両6との車間距離が大きくなっていくため、車両制御部27を介し、予め設定された制限速度を越えない範囲での加速指示される(ステップS86)。差分Rdがゼロ(0)の場合には、車速制御が行われない。
【0092】
以上の結果、本第2実施形態においても、先行車両6が土煙5にて確認できない場合に、土煙5と路面2との境界部分までの走行可能距離を算出できるため、上述した第1実施形態と同様に、土煙発生時における車両1の走行可能な範囲を特定でき、土煙発生時における走行安全性の確保を容易に行うことができる。
【0093】
また、単眼カメラ装置61にて撮影した画像71に基づき遠近法を用いて土煙発生時の走行可能距離を算出するため、上述したステレオカメラ装置20を用いた第1実施形態の場合と同様に、1台のカメラでも土煙発生時における走行可能距離の算出が可能となる。
【0094】
さらに、単眼カメラ装置61にて時刻t1に撮影した画像71中の土煙5の位置Y1と、この単眼カメラ装置61にて時刻t2に撮影した画像71中の土煙5の位置Y2とに基づき、相対速度推定部66にて車両1と先行車両6との距離の差分Rdを算出する。そして、差分Rdに基づき、車両1と先行車両6との車間距離が一定に保たれるように制御することにより、土煙発生時における走行安全性の確保が可能となる。すなわち、相対速度推定部66にて算出された差分Rdの変化に基づいて、先行車両6の速度が車両1よりも遅くなったことを検知可能となり、この場合に車両制御部27にて車両1を減速させることにより、先行車両6との車間距離を適切に保持でき、先行車両6との衝突をより確実に防止することができる。
【0095】
[その他]
なお、本発明は前述した実施形態に限定されるものではなく、様々な変形態様が含まれる。例えば、前述した実施形態は、本発明を分りやすく説明するために説明したものであり、本発明は、必ずしも説明した全ての構成を備えるものに限定されるものではない。
【0096】
さらに、上記各実施形態においては、鉱山用のダンプトラックを例として車両1を説明したが、その他の車両1においても、本発明に係る外界認識装置10,10Aを搭載させ走行可能距離を算出させることもできる。
【0097】
また、上記各実施形態においては、
図1および
図18に示すように、ステレオカメラ装置20や単眼カメラ装置61を、車両本体1a前側の左右方向の中心位置に取り付けた例としたが、これらステレオカメラ装置20および単眼カメラ装置61の取り付け位置としては、進行方向前側の土煙5や先行車両6等を検出することができる位置であれば、どのような位置であってもよい。