(58)【調査した分野】(Int.Cl.,DB名)
【発明の概要】
【発明が解決しようとする課題】
【0008】
鉱山の走行路を走行するダンプトラックが走行時に巻上げる砂埃は、自然発生する砂埃に比べ濃度が高く、上記特許文献1に係る画像処理装置を用いた場合には、カメラにて取得した画像情報中の砂埃領域を検出できるものの、この砂埃領域内の輝度差が減少している部分を特定できず、砂埃の先に障害物が存在する可能性の高い領域を精度良く特定することが容易ではない。
【0009】
本発明は、上述した従来技術における実状からなされたもので、その目的は、オフロード環境下において、砂埃の先に障害物が存在する可能性の高い領域を検出することができる鉱山用作業車両を提供することにある。
【課題を解決するための手段】
【0010】
この目的を達成するために、本発明に係る鉱山用作業車両は、走行方向前方の画像情報が取得可能な第1および第2のカメラを備えたステレオカメラ装置と、前記第1のカメラにて取得
された二次元の画像情報
の中の局所領域が前記第2のカメラにて取得された二次元の画像情報内のいずれの位置に対応するかを、注目画素ごとに走査する処理を行い、対応する局所領域が、前記第2のカメラで取得される画像情報内で検出されない場合に、当該注目画素に対し対応点が無いことを示す規定値を設定し、前記規定値が設定された画素によって占められる領域を、差分無領域として特定する差分無領域特定部と、前記画像情報中の差分無領域の画素数が所定値より大きい場合に、前記差分無領域を障害物が存在する可能性の高い障害物領域と特定する障害物領域特定部と、を備えたことを特徴とする。
【0011】
一般に、砂埃は、ステレオカメラ装置の第1および第2のカメラの画像情報間に差分のない領域となる。そこで本発明は、例えば鉱山用作業車両の走行時に後方に撒き上げた砂埃によって、当該鉱山用作業車両が隠れてしまい、この鉱山用作業車両の後方を走行する鉱山用作業車両から視覚的に確認できない場合であっても、この砂埃が発生している領域を、ステレオカメラ装置の第1および第2カメラにて取得した二次元の各画像情報を比較し、これら画像情報間の差分の無い領域にて特定できる。また、鉱山用作業車両が走行時に撒き上げる砂埃は、自然発生した砂埃に比べ、濃度が高くかつ鉱山用作業車両の大きさよりも発生範囲が広い。よって、第1および第2のカメラにて取得した画像情報間の差分無領域の画素数が所定値より大きい場合においては、その差分無領域を障害物、特に鉱山用作業車両が存在する可能性の高い障害物領域と特定できる。よって、砂埃の先に障害物が存在する可能性の高い領域を検出できる。
【0012】
また本発明は、上記発明において、前記第1および第2のカメラにて取得した画像情報に基づき、前記画像情報中の路面領域を特定する路面領域特定部と、前記画像情報中の前記差分無領域が前記路面領域に接している場合に、前記差分無領域を砂埃領域と特定する砂埃領域特定部とを備え、前記障害物領域特定部は、前記画像情報中の砂埃領域の画素数が所定値より大きい場合に、前記砂埃領域を障害物領域と特定することを特徴としている。
【0013】
一般に、画像情報中の路面領域に差分無領域が接している場合は、前方を走行する障害物、例えば鉱山用作業車両が走行時に撒き上げた砂埃の可能性が高い。そこで本発明は、差分無領域が路面領域に接している場合に砂埃領域と特定することにより、前方に位置する障害物を隠す砂埃領域を特定でき、この砂埃領域の先に障害物が存在する可能性の高い領域をより精度良く検出できる。
【0014】
また本発明は、上記発明において、前記画像情報中の前記路面領域上に存在する障害物を検出する障害物検出部と、前記障害物検出部にて検出した障害物情報と、前記障害物領域特定部にて特定した前記画像情報中の前記障害物領域の位置および画素数とに基づき、前記障害物の種類、大きさ、および位置を識別する障害物識別部と、を備えたことを特徴としている。
【0015】
このように構成した本発明は、障害物検出部にて路面領域上の障害物情報を検出し、障害物領域特定部にて特定した画像情報中の障害物領域の位置および画素数に、障害物検出部にて検出した路面領域上の障害物情報を加えることにより、障害物の種類、大きさ、及び位置を識別することができる。
【0016】
また本発明は、上記発明において、前記障害物検出部は、レーダと、前記レーダにて計測した計測情報に基づき、前記画像情報中の路面領域上に存在する障害物を検出するレーダ障害物検出部とを有することを特徴としている。
【0017】
このように構成した本発明は、レーダを用いることにより、砂埃によって隠れた障害物の位置を砂埃越しに検出できる。よって、レーダにて計測した計測情報に基づき、画像情報中の路面領域上に存在する障害物を検出して障害物検出部による障害物情報とすることにより、この障害物検出部による路面領域上の障害物情報の検出をより精度良くできる。
【0018】
また本発明は、上記発明において、前記画像情報中の前記路面領域上に存在する障害物を検出する障害物検出部と、前記障害物検出部にて検出した障害物情報と、前記障害物領域特定部にて特定した画像情報中の前記障害物領域の位置および画素数とに基づき、前記差分無領域が車両の走行にて発生した砂埃か否かを判別する砂埃判別部と、を備えたことを特徴としている。
【0019】
車両による走行にて発生した砂埃か否かは、画像情報中の路面領域と障害物領域との位置関係やその大きさ、すなわち画素数によって判別できる。そこで本発明は、障害物検出部にて検出した障害物情報と、障害物領域特定部にて特定した画像情報中の障害物領域の位置および画素数とに基づき、差分無領域が車両による走行にて発生した砂埃か否かを判別することにより、差分無領域に相当する砂埃の原因を精度良く特定できる。よって、車両を覆い隠す砂埃をより精度良く特定できるため、車両が存在する可能性の高い領域をより精度良く検出できる。
【0020】
また本発明は、上記発明において、画像情報を表示するための表示装置と、前記第1および第2のカメラのいずれか一方にて取得した画像情報を前記表示装置に表示させ、かつ前記障害物領域特定部にて特定した前記障害物領域を、前記表示装置に表示させた画像中に表示する画像制御部と、を備えたことを特徴としている。
【0021】
このように構成した本発明は、第1および第2のカメラのいずれか一方にて取得した画像情報を表示装置に表示させるとともに、障害物領域特定部にて特定した障害物領域を、表示装置に表示させた画像中に表示することにより、砂埃が発生している位置および画素数に加え、その砂埃によって隠れている障害物が存在する可能性の高い領域を確認できる。
【0022】
また本発明は、上記発明において、荷台と、前記荷台に積まれた積荷の質量を検出する積荷質量検出部と、走行速度を検出する速度検出部と、前記第1および第2のカメラにて取得した画像情報に基づき、前記画像情報中の前記差分無領域までの距離を算出する距離算出部と、を備え、前記障害物領域特定部は、前記積荷質量検出部にて検出した積荷の質量、前記速度検出部にて検出した走行速度、および前記距離算出部にて算出した前記差分無領域までの距離に応じて、前記所定値を変化させることを特徴としている。
【0023】
鉱山においては、複数台の鉱山用作業車両が所定の車間をあけて走行しており、前方を走行する他車両の状態は、自車両の状態から判断できる場合が多い。そして、鉱山用作業車両の荷台に積まれた積荷の質量、走行速度、および障害物までの距離の変化に伴い、第1および第2のカメラにて取得される画像情報中の砂埃の画素数が相対的に変化してしまう。そこで、積荷質量検出部にて検出した積荷の質量、速度検出部にて検出した走行速度、および距離算出部にて算出した差分無領域までの距離に応じて、障害物領域特定部が障害物領域と特定する際の所定値を変化させることにより、この障害物領域特定部による障害物領域の特定をより精度良くできる。
【0024】
また本発明は、上記発明において、前記障害物領域特定部は、前記画像情報中の差分無領域の画素数が前記所定値より小さい場合に、前記第1および第2のカメラにて取得した画像情報から前記障害物領域を特定することを特徴としている。
【0025】
このように構成した本発明は、画像情報中の差分無領域の画素数が所定値より小さい場合は、障害物を隠すような砂埃でなく、前方の障害物は第1および第2のカメラにて取得した画像情報から特定できる。そこで本発明は、画像情報中の差分無領域の画素数が所定値より小さい場合においては、第1および第2のカメラにて取得した画像情報から障害物領域を特定する。この結果、画像情報中の差分無領域の画素数の大きさに関わらず障害物領域を特定できる。
【発明の効果】
【0026】
本発明は、ステレオカメラ装置の第1および第2カメラにて取得した二次元の各画像情報を比較し、これら画像情報間の差分無領域により、砂埃が発生している領域を特定できる。また、鉱山用作業車両の走行時に生じる砂埃は、鉱山用作業車両の大きさよりも発生範囲が広いため、差分無領域の画素数が所定値より大きければ、その差分無領域を障害物が存在する可能性の高い障害物領域と特定でき、砂埃の先に障害物が存在する可能性の高い領域を検出できる。そして、前述した以外の課題、構成および効果は、以下の実施形態の説明より明らかにされる。
【発明を実施するための形態】
【0028】
以下、本発明に係る鉱山用作業車両に用いた障害物検出システムを実施するための形態を図に基づいて説明する。
【0029】
[第1実施形態]
本第1実施形態は、ステレオカメラ装置11を用いた実施形態である。
図1は、本発明の第1実施形態に係る鉱山用作業車両の一例であるオフロードダンプトラックとして、建設機械向けの車両1である鉱山用ダンプトラックにて、砂埃D越しに前方を走行する他車両1Aを検出している状況を示す概略図である。
図2は、車両1が用いられる鉱山システムを示す概略図である。
図3は、車両1の駆動構成を示す概略図である。
図4は、車両1に搭載した障害物検出システム10を示す概略図である。
【0030】
図5は、車両1のステレオカメラ装置11の各カメラ11a,11bにて取得したカメラ取得画像a,bを示す図で、(a)はカメラ11aのカメラ取得画像a、(b)はカメラ11bのカメラ取得画像bである。
図6は、
図5(a)および
図5(b)に示す二次元のカメラ画像情報a,bから画像情報取得部12にて算出した視差画像DIを示す図である。そして、視差画像DI中の物体の色情報を有し肉眼で見たままのような画像をアピアランス・イメージと呼ぶ。アピアランス・イメージには視差画像中の各画素に対応した色情報が含まれる。
図7は、障害物検出システム10のディスプレイ19の表示画像を示す概略図である。
【0031】
車両1は、
図2に示すように、鉱山に予め設けられたオフロード環境下の走行路(搬送路)である路面Rを走行する。この車両1は、オペレータにて走行制御される有人走行式である。鉱山には、同一機種の複数の車両1が走行しており、
図1に示すように、車両1の前方を、この車両1と同一構成の他車両1Aが所定の走行間隔(車間)をあけて走行している。また、鉱山には、車両1,1Aとの間で所定の情報を送受信するための情報センタ3が設置され、車両1に土砂等の積載物を積載させるための油圧ショベル4等が用いられている。路面Rは、障害物検出システム10による障害物の検出エリアであって、
図5(a)、
図5(b)および
図6に示すように、その幅方向の両側に路肩Sが設けられている。各路肩Sは、盛土や、油圧ショベル4等にて鉱山を切土して形成された崖である切削面等にて設けられている。これら盛土および切削面は、予め定めた所定の高さ以上、例えば1.5m以上の高さに形成されている。
【0032】
車両1は、
図1に示すように、車両本体1aと、車両本体1aの前側上方に設けられた運転席1bと、車両本体1a上に起伏可能に設けられた作業部としての荷台1cと、車両本体1aを走行可能に支持する左右の前輪1dおよび後輪1eとを備えている。車両本体1aの前側のデッキ1f上には、車両本体1aの周囲、特に走行方向前方である外界環境を検出するためのステレオカメラ装置11が取り付けられている。車両1は、ステレオカメラ装置11にて認識した路面R上の障害物、特に先行して前方を走行する他車両1Aを検出する。デッキ1f上の前側角部には、GPS装置1gが取り付けられている。GPS装置1gは、車両本体1aの走行位置を検出するための位置検出部である。
【0033】
ステレオカメラ装置11は、車両1の走行方向前方の画像情報が所得可能な一対のカメラ11a,11bを備え、これら2台の第1および第2のカメラ11a,11bを用いて外界の立体的な三次元の画像情報を取得する。この三次元画像情報には、2台のカメラ11a,11bにて検出した
図5(a)および
図5(b)に示す二次元のカメラ取得画像a,bの差分から算出される撮像対象までの距離情報を有した視差画像DIと、アピアランス・イメージが含まれる。アピアランス・イメージは、視差画像DI中の各画素に対応した色情報を有する。
【0034】
ステレオカメラ装置11は、車両本体1aの前側の左右方向の中央部である中心位置に、左右のカメラ11a,11b間の中心が位置するように取り付けられている。各カメラ11a,11bの焦点距離やレンズの歪みなどの内部パラメータ、および互いの位置関係および車体への設置位置を示す外部パラメータは、互いに同期されている。各カメラ11a,11bは、各光軸が平行となるように車両1前方に向けられ、
図5(a)および
図5(b)に示すように、これら各カメラ11a,11bの撮像領域11c,11dの一部が重なり合うように設置されている。
【0035】
車両1は、
図3に示すように、走行駆動装置5を備えている。走行駆動装置5は、動力源であるエンジン5aと、エンジン5aにて駆動される発電機5bと、発電機5bにて発電された電力が供給される電力制御装置5cと、後輪1eを駆動させるための走行モータ5dとを有している。走行モータ5dへの供給電力は、電力制御装置5cから制御される。電力制御装置5cは、車両1に搭載されたコントローラ6にて制御される。
【0036】
コントローラ6は、電力制御装置5cを介して、車両本体1aを操舵するためのステアリングモータ5eや、車両本体1aを制動させるための、例えばリターダブレーキ等のブレーキ装置5f等の駆動を制御する車載コントローラである。車両本体1aには、情報センタ3との間で所定の信号を無線送信するための通信可能な車載無線装置5gが搭載されている。コントローラ6は、少なくとも車両1が走行する走行エリアに関する地図情報が予め記憶された記憶部6aを備えている。記憶部6aに記憶されている地図情報には、車両1が走行する路面Rおよび路肩Sに関する情報も含まれる。
【0037】
さらに、車両本体1aには、例えば前輪1d等の所定の車輪の回転速度を検出するための車速センサ5hや、荷台1cに積まれた積荷の質量、すなわち荷重を検出するための荷重センサ5iが取り付けられている。車速センサ5hは、前輪1dの回転速度情報を取得してコントローラ6へ出力し、このコントローラ6にて車両1の走行速度が算出される。荷重センサ5iは、例えば前輪1dおよび後輪1eを支えるサスペンション(図示せず)に取り付けられ、荷台1cに積まれた積荷の質量変化に基づくサスペンションの変位量を検出する。荷重センサ5iは、検出した変位量をコントローラ6へ出力し、この変位量に基づいて荷台1cに積まれた積荷の質量がコントローラ6にて検出される。
【0038】
<障害物検出システム>
障害物検出システム10は、コントローラ6による処理にて実行され、路面R上に発生した砂埃Dによって隠れた障害物、例えば前方を走行する他車両1Aを認識するための障害物認識装置である。コントローラ6は、障害物検出システム10として、路面R上の、例えば他車両1A以外の、作業車、岩石、鉱物、土砂等の障害物を検出するための画像解析装置としてのステレオカメラシステムでもある。
【0039】
具体的に、障害物検出システム10は、ステレオカメラ装置11を備えた画像情報取得部12と、距離算出部13と、走行路認識部14と、砂埃検出部15と、砂埃位置検出部16と、車両存在領域検出部17と、画像制御部18と、表示装置としてのディスプレイ19とを備えている。これら画像情報取得部12、距離算出部13、走行路認識部14、砂埃検出部15、砂埃位置検出部16、車両存在領域検出部17および画像制御部18よる各処理は、コントローラ6にて行われる。
【0040】
画像情報取得部12は、各カメラ11a,11bにて検出される画像情報として、
図5(a)および
図5(b)に示すカメラ取得画像a,bと、これら
図5(a)および
図5(b)に示す各カメラ取得画像a,bの見え方の違いに基づき算出した視差画像DIとを得る。視差画像DIは、各カメラ取得画像a,bのどちらかを基準として作成し、例えば
図5(a)のカメラ取得画像aを基準に視差画像DIを作成する場合は、
図5(a)で撮像された物体の位置が
図5(b)のカメラ取得画像bでどこに位置するかを探索する。このとき、これらカメラ取得画像a,b間における位置の差異は、近い物体ほど大きく、遠い物体ほど小さくなる。この差異に基づき、各カメラ11a,11bで撮影した物体の立体的な位置を取得する。この技術は、一般的にステレオマッチングと呼ばれている。
【0041】
視差画像DIは、カメラ11aにて取得したカメラ取得画像a中の各領域と、カメラ11bにて取得したカメラ取得画像b中の各領域との対応付けを行い、これらカメラ取得画像a,b中の対象物がステレオカメラ装置11から見てどの位置にあるかで求められる。よって、視差画像DIは、カメラ11a,11bにて取得した二次元画像上の各画素の距離を求めたものである。
【0042】
さらに、画像情報取得部12は、カメラ11aにて取得した二次元のカメラ取得画像aと、カメラ11bにて取得した二次元のカメラ取得画像bとを比較し、これらカメラ取得画像a,b間の差分、すなわち視差の無い領域を差分無領域(視差無領域)として特定する差分無領域特定部である。画像情報取得部12は、ステレオカメラ装置11の各カメラ11a,11bにて三次元距離情報である三次元画像情報(三次元点群)を取得する。なお、三次元点群は、検出した画像中の各点(画素)が、(x,y,z,r,g,b)の情報を有する点列情報である。画像情報取得部12は、障害物検出システム10の電源をオンオフさせるためのスイッチ(図示せず)がオンされた場合に、初期化処理として、各カメラ11a,11bにてアピアランス・イメージを取得可能としつつ、各カメラ11a,11bのキャリブレーション(較正)データ等を読み込む。
【0043】
距離算出部13は、画像情報取得部12にて検出した三次元画像情報、特に視差画像DI情報に基づいて、アピアランス・イメージ中の各点、すなわち視差画像DI中の各画素における撮像対象までの距離情報を取得する。よって、距離算出部13は、視差画像DI中の各画素の距離情報に基づいて、自車両1から砂埃発生位置Pまでの距離を算出する。
【0044】
走行路認識部14は、画像情報取得部12にて求めた視差画像DIに対し、路面Rが平面で構成されている過程に基づき、視差画像DI中の平面領域を算出し、自車両1の位置と、ステレオカメラ装置11の各カメラ11a,11bの取付位置および取付角度との相対的な位置関係に基づいて、その平面領域を、路面Rを構成する主平面とする。さらに、走行路認識部14は、路面領域特定部であって、カメラ11a,11bにて取得したカメラ取得画像a,bに基づき、視差画像DI中の主平面を特定し、この主平面を路面領域と特定する。
【0045】
砂埃検出部15は、画像情報取得部12にて求めた視差画像DIから、カメラ11a,11bの前方、すなわち車両1の先方に存在する砂埃Dの有無を検出する。砂埃位置検出部16は、砂埃Dがどの地点に生じているかを探索して検出する。具体的に、砂埃位置検出部16は、視差画像DI中の、砂埃検出部15にて検出した砂埃領域が、走行路認識部14にて特定した路面領域に隣接する画素を検索し、この砂埃領域が隣接する路面領域のうちの、最も自車両1に近い位置の画素を砂埃発生位置Pとして検出する。すなわち、砂埃位置検出部16は、砂埃領域特定部であって、砂埃領域が路面領域に隣接している場合に、その砂埃領域を砂埃発生位置Pと特定する。
【0046】
車両存在領域検出部17は、砂埃位置検出部16にて検出した砂埃発生位置Pを、先行する他車両1Aが存在する可能性のある領域として検出する。すなわち、車両存在領域検出部17は、障害物領域特定部であって、視差画像DI中の視差無領域の位置および画素数に基づき、この視差無領域中の障害物、特に他車両1Aが存在する可能性の高い障害物領域である車両可能性領域Jを特定する。
【0047】
画像制御部18は、
図7に示すように、ステレオカメラ装置11のいずれか一方、例えばカメラ11aにて取得したカメラ取得画像a、すなわちアピアランス・イメージをディスプレイ19に出力して表示させるとともに、このディスプレイ19に表示させた画像中に、車両存在領域検出部17にて検出した車両可能性領域Jの範囲、すなわち位置および大きさを、例えば矩形状の枠等として重畳させて表示させる。ディスプレイ19は、例えば液晶表示装置等の視覚提示装置であり、車両1の運転席1bに設置されている。具体的に、ディスプレイ19は、運転席1bに座って車両1の走行等を操作するオペレータが見やすい位置に取り付けられている。
【0048】
<動作>
次に、上記第1実施形態に係る障害物検出システム10の処理について、
図8を参照して説明する。
図8は、車両1に搭載された障害物検出システム10による処理を示すフローチャートである。
図9は、ステレオカメラ装置11の左側に位置するカメラ11aで撮影したカメラ取得画像a中の特定の物体が、右側に位置するカメラ11bで撮影したカメラ取得画像bのどの位置に撮像されるかの特定方法を示す説明図である。
図10は、障害物検出システム10にて作成した砂埃検出用画像SIを示す図である。
図11は、障害物検出システム10による砂埃幅Eの検出方法を示す説明図である。
図12は、障害物検出システム10の砂埃位置検出部16にて検出した砂埃幅Eの閾値の変換テーブルを示す表である。
【0049】
障害物検出システム10の電源がスイッチにてオンされると、画像情報取得部12の初期化処理が行われる(ステップS01、以下単に「S01」等と示す。)。S01の初期化処理では、ステレオカメラ装置11の各カメラ11a,11bにて、
図5(a)および
図5(b)に示すカメラ取得画像a,bを取得可能とし、これら各カメラ11a,11bのキャリブレーションデータ等の調整用データを読み込み、これら各カメラ11a,11bにて検出するカメラ取得画像a,bから、
図6に示す視差画像DIを算出可能とする。
【0050】
ここで、カメラ取得画像aに撮像されている特定の物体が、カメラ取得画像bのどの位置に撮像されているかを特定する方法について、
図9を参照して説明する。
図9は、カメラ取得画像a,bの座標系に関し、横方向をu軸とし、縦方向をv軸としている。カメラ取得画像aにおいて、uv座標で、位置(u1,v1)、(u1,v2)、(u2,v1)および(u2,v2)で囲まれた矩形領域Bを設定する。
【0051】
次いで、カメラ取得画像bにおいて、位置(U,v1)、(U,v2)、(U+(u2−u1),v1)および(U+(u2−u1),v2)で囲まれた領域を、Uの値をu=0からu=u3まで増加させ、このカメラ取得画像bの右方向へ矩形領域B1の位置まで走査する。この走査の際に、矩形領域B2内の画像と、矩形領域B1内の画像との相関値を比較し、カメラ取得画像aの矩形領域Bと相関性が最も高いカメラ取得画像bの矩形領域B2の位置(u4,v1)、(u4,v2)、(u4+(u2−u1),v1)および(u4+(u2−u1),v2)に、矩形領域Bに撮像されている物体と同一の物体が撮像されているとする。また、これら矩形領域B内の各画素と、矩形領域B2内の各画素が対応しているとする。
【0052】
カメラ取得画像bの矩形領域B1を走査した際において、相関値がある一定以上の値になる矩形領域が存在しない場合は、カメラ取得画像aの矩形領域Bに対応するカメラ取得画像b内の対応点をなしとする。対応点がない場合は、距離情報を算出できず、視差画像DI中の対応画素にゼロ(0)を設定する。例えば、視覚的な特徴が疎な物体までの視差の算出を試みた場合に、視差値がゼロ(0)の画素が生じやすい。
【0053】
鉱山において、車両1の走行に伴い濃度の高い砂埃が生じた場合、各カメラ11a,11bにて取得したカメラ取得画像a,b中の砂埃Dを撮影した領域の画素値は、略一定となる。このため、カメラ取得画像aの矩形領域Bに対応するカメラ取得画像b内の対応点を取得できない場合が多い。そして、砂埃Dが発生した領域は、視差画像DI中の画素値がゼロ(0)の領域に内包される。
【0054】
この後、画像情報取得部12により、各カメラ11a,11bにて、
図5(a)および
図5(b)に示すカメラ取得画像a,bが取得され(S02)、これらカメラ取得画像a,bに基づき、
図6に示す視差画像DIが算出される(S03)。この視差画像DIにおいては、この視差画像DI中の各画素に対し、これらカメラ11a,11bにて取得した二次元のカメラ取得画像a,bを比較し、これらカメラ取得画像a上の各画素の画素値と、カメラ取得画像b上の各画素の画素値との差分、すなわち視差値が付与され、これら視差値を踏まえた画像情報が、視差画像DIの各画素に加えられている。
【0055】
次いで、S03にて算出した視差画像DIから、走行路認識部14において、視差画像DI中の路面領域を算出する処理が実行される。走行路認識部14は、S03にて算出した視差画像D1に対し、路面Rが平面で構成されている過程に基づき、例えばRANSAC(RANdom Sampling Consensus)や、ハフ変換(Hough Transform)等を用いて、視差画像DI中の平面領域を算出する。そして、この平面領域のうち、車両1とステレオカメラ装置11の各カメラ11a,11bとの相対的な位置関係に基づいて、車両1が走行している平面領域を、路面Rに相当する主平面とする。さらに、この主平面と、この主平面に隣接している領域のうちの、予め設定した所定の閾値よりも小さな差分を有する領域とを算出して、路面Rに相当する路面領域と推定する(S04)。
【0056】
さらに、主平面と、この主平面に隣接している領域との各画素における画素値の差分を算出し、これら各画素における画素値の差分が予め定めた閾値以下の場合に、路面Rに相当する路面領域と推定する処理を繰り返す。この閾値は、車両1の走行特性等に基づいて設定され、例えば車両1の走行時に前輪1dまたは後輪1eのいずれかが、路面R上の走行に影響のない凹凸を乗り越えた場合でも車両1の走行に影響のない程度の値に設定している。
【0057】
次いで、S03にて算出した視差画像DIから、車両1の前方の路面R上に砂埃Dが発生しているか否かを砂埃検出部15にて検出する(S05)。S05においては、まず、S03にて算出した視差画像DIに、S04にて推定した路面領域を重畳させ、
図10に示す砂埃検出用画像SIを作成する。このとき、この砂埃検出用画像SI上の路面領域を構成する各画素の画素値は、砂埃検出用画像SI中から砂埃Dを発生しているか否かの検出対象とならない、すなわち使用しない値とする。なお、この路面領域を構成する各画素を、路面領域画素G1と呼ぶ。
【0058】
この後、砂埃検出用画像SI上の路面領域画素G1の探索を実行し、路面領域画素G1を発見した場合に、その発見した路面領域画素G1に隣接する各画素の視差値を探索する。このとき、視差値がゼロ(0)の画素、すなわち視差無領域に含まれる画素を発見した場合に、その画素を砂埃領域画素G2とする。砂埃領域画素G2を発見した場合は、この発見した砂埃領域画素G2に隣接する砂埃検出用画像SI中の画素の視差値を探索する。
【0059】
ただし、砂埃検出部15による砂埃領域画素G2の検出においては、砂埃Dが発生している可能性の高い領域に加え、例えば空等の視差値がゼロ(0)の領域の画素を検索するおそれがある。このため、視差画像DIにおける路面領域画素G1上の、予め定めた所定の閾値(砂埃領域画素検索範囲)以上の高さについては検索しない。S05での砂埃領域画素G2の探索の結果、このS05において砂埃領域画素G2の個数が、予め定めた所定の閾値以上になった場合に、砂埃有りと判定する(S06/YES)。
【0060】
S06にて砂埃有りと判定した(YESの)場合、砂埃位置検出部16にて、視差画像DI中のどの地点、すなわちどの位置に砂埃Dが生じているか否かを探索する(S07)。このとき、視差画像DI中の各砂埃領域画素G2は、視差値がそれぞれゼロ(0)であるため、これら砂埃領域画素G2に基づいて車両1からの距離を算出できず、車両1から砂埃Dまでの距離を視差画像DIから直接算出できない。そこで、S07においては、砂埃領域画素G2に隣接している路面領域画素G1の位置を砂埃発生位置Pとして検出する。具体的には、S05にて検出した砂埃領域画素G2のうちの、下方向に路面領域画素G1が隣接する砂埃領域画素G2を探索する。そして、下方向に路面領域画素G1が隣接する砂埃領域画素G2のうち、最も車両1の近く、すなわち最も下方向に位置する砂埃領域画素G2を砂埃発生位置Pとする。
【0061】
この後、砂埃位置検出部16にて、視差画像DI中の砂埃領域の幅、すなわち砂埃幅Eを検出する(S08)。S08においては、視差画像DI中の互いに隣接している砂埃領域画素G2を探索していき、これら互いに隣接する砂埃領域画素G2のうちの、視差画像DI中の最も左端に位置する砂埃領域画素G2と、最も右端に位置する砂埃領域画素G2とを探索し、これら左端に位置する砂埃領域画素G2と、右端に位置する砂埃領域画素G2との水平方向(u軸方向)の差、すなわち、これら左右端の砂埃領域画素G2間の距離を砂埃幅Eとして検出する。
【0062】
この検出した砂埃幅Eと、予め設定した所定の閾値とを比較し、砂埃幅Eが閾値より大きい場合(S09/YES)、砂埃Dにて隠れた範囲、すなわち砂埃隠蔽範囲である砂埃隠蔽領域を、先行する他車両1Aが存在する可能性が高い領域と判定する(S10)。
【0063】
この閾値は、検出対象である他車両1Aの横幅寸法と同程度に設定しておく。なお、砂埃位置検出部16にて検出される砂埃幅Eは、車両1から砂埃Dまでの距離に応じて変化する。そこで、この閾値は、
図11に示すように、検出対象とした視差画像DI中における自車両1の位置(車両想定位置F)から、S07にて検出した砂埃発生位置Pまでの車間距離Lに応じて変化させる。ここで、車両想定位置Fは、視差画像DI中に含まれない死角領域H内となる場合、カメラ11a,11bの取付位置および取付角度に基づき、視差画像DIより下方の所定位置と設定される。
【0064】
さらに、鉱山の路面Rにおいては、
図1に示すように、同一車種の複数台の車両1,1Aが所定の車間をあけ、同一の走行速度および積荷状態、すなわち走行状態で走行している場合が多い。このため、閾値は、路面Rから砂埃Dの立ち上がり位置を判断基準とし、予め定めた変換テーブルに基づいて、
図12に示すように、荷重センサ5iによる検出によって自車両1の荷台1cに積荷を積んだ状態、すなわち積荷状態と検出した場合は、自車両1の荷台1cに積荷を積んでいない場合、すなわち空荷状態の場合に比べ、走行時に発生する砂埃Dがより濃くなり、砂埃発生位置Pから車両1までの距離が長くなることから、視差画像DI中の砂埃領域の大きさも小さくなるため、閾値を小さく設定する。
【0065】
また、車速センサ5hによる検出によって自車両1の車速が高くなるに連れて、先方を走行する他車両1Aの車速も同様に高くなることから、この他車両1Aが走行時に撒き上げる砂埃Dが濃くなり、かつその範囲が大きくなるため、閾値を大きく設定する。さらに、距離算出部13にて算出した自車両1から砂埃発生位置Pまでの車間距離Lが長くなるに連れて、砂埃発生位置Pが車両1からより遠くなり、視差画像DI中の砂埃領域の大きさが小さくなるため、閾値を小さく設定する。
【0066】
この後、S10にて判定した砂埃隠蔽領域に基づき、S07にて検出した砂埃発生位置Pを、先行する他車両1Aが存在する可能性が高い領域(車両可能性領域J)と、車両存在領域検出部17にて認定して出力し、画像制御部18にて、ディスプレイ19に表示されているカメラ取得画像a中に、車両可能性領域Jを重畳させて表示する(S11)。
【0067】
一方、S05において砂埃領域画素G2の個数が、予め定めた所定の閾値より小さく砂埃Dなしと判定した場合(S06/NO)は、そもそも砂埃Dが発生しておらず砂埃Dの先に他車両1Aが存在する可能性はない。また、砂埃位置検出部16にて検出した砂埃幅Eが、閾値以下の場合(S09/NO)は、砂埃Dの発生の原因が、先行して走行する他車両1Aである可能性が極めて低い。このため、S06にて砂埃Dなしと判定した(NOの)場合、およびS09にて砂埃幅Eが閾値以下(NO)の場合は、車両存在領域検出部17にて、S03にて算出した視差画像DIから、先行して走行する他車両1Aの検出を行う(S12)。
【0068】
S12による他車両1Aの検出の後、S11へ進み、S12にて検出した他車両1Aに関する車両情報を、車両存在領域検出部17にて車両可能性領域Jとして出力し、画像制御部18にて、ディスプレイ19に表示されている画像中に、車両可能性領域Jを重畳させて表示する。なお、上記S01〜S12の処理は、例えば、1秒当たり30フレーム程度の、予め定めた所定フレームで繰り返して行われる。
【0069】
<作用効果>
鉱山においては、前方を走行する他車両1Aが走行時に後方に砂埃Dを撒き上げると、この撒き上げられた砂埃Dによって他車両1Aが隠れてしまい、この他車両1Aを追従して走行する自車両1から他車両1Aを視覚的に確認できない場合がある。さらに、砂埃Dが発生している領域は、略真っ白な領域となり、ステレオカメラ装置11の各カメラ11a,11bにて取得した二次元のカメラ取得画像a,bを比較して視差画像DIを取得する場合に、視差値のない視差無領域となる。
【0070】
そこで、上記第1実施形態に係る障害物検出システム10においては、路面R上の砂埃Dが発生している領域を、ステレオカメラ装置11の各カメラ11a,11bにて取得した二次元のカメラ取得画像a,bを比較し、これらカメラ取得画像a,b間の視差無領域にて特定する。
【0071】
また、車両1Aが走行時に撒き上げる砂埃Dは、自然発生した砂埃に比べ、濃度が高くかつ車両1Aの大きさよりも発生範囲が広い。そこで、各カメラ11a,11bにて取得したカメラ取得画像a,b間の視差無領域が所定の閾値より大きい場合に、その視差無領域を、他車両1Aが存在する可能性の高い車両可能性領域Jと特定する。
【0072】
以上により、砂埃Dが発生し、前方を走行する他車両1Aが砂埃Dによって隠れている場合であっても、他車両1Aが存在する可能性のある領域を検出できる。よって、前方を走行する他車両1Aや、路面R上の車両1Aを早期に検知できるため、前方を走行する他車両1Aの追従走行や回避走行を行わせることが可能となり、信頼性の高い車両1にできる。
【0073】
さらに、車両1Aが走行時に発生する砂埃Dは、路面R上に発生する。このため、視差画像DI中の路面領域に視差無領域が接している場合は、前方を走行する他車両1Aが走行時に撒き上げた砂埃Dの可能性が高い。そこで、視差無領域が路面領域に接している場合に、その視差無領域を砂埃領域と特定することにより、前方を走行する他車両1Aを覆い隠す砂埃領域を適切に特定でき、この砂埃領域によって隠れた他車両1Aを適切に検出できる。
【0074】
また、
図7に示すように、カメラ11aにて取得したカメラ取得画像a、すなわちアピアランス・イメージをディスプレイ19に表示させるとともに、このディスプレイ19に表示させた画像中に、前方を走行する他車両1Aが存在する可能性の高い車両可能性領域Jを重畳させて表示させるようにしている。この結果、このディスプレイ19を、車両1を運転するオペレータが確認することによって、走行方向前方の砂埃Dが発生している位置および範囲に加え、その砂埃Dによって隠れている他車両1Aが存在する可能性の高い領域を容易に確認できるため、有人走行式の車両1においても、前方を走行する他車両1Aとの車間距離をより適切に維持することが可能となり、この他車両1Aへの接触をより適切に防止できる。
【0075】
さらに、鉱山は、
図1に示すように、同一車種の複数台の車両1,1Aが所定の走行間隔をあけ、同一の走行状態で走行している場合が多いため、S09において、砂埃幅Eを対比する閾値を、自車両1が積荷状態の場合は空荷状態の場合に比べて小さく設定し、自車両1の車速が高くなるに連れて大きく設定する。さらに、自車両1から砂埃発生位置Pまでの車間距離Lが長くなるに連れて、閾値を小さく設定する。この結果、前方を走行する他車両1Aの走行状態や、他車両1Aまでの走行間隔に応じた砂埃Dの検出が可能となるため、砂埃Dによって隠れている他車両1が存在する可能性の高い領域をより精度良く検出でき、この他車両1Aとの走行間隔をより適切に維持することが可能となる。
【0076】
さらに、S06で砂埃Dなしと判定した(NOの)場合は、そもそも砂埃Dが発生しておらず砂埃Dの先に他車両1Aが存在する可能性はない。また、S09で砂埃幅Eが閾値以下(NO)の場合は、先行する他車両1Aの走行時に発生した砂埃の可能性が極めて低い。さらに、これら場合においては、前方を走行する他車両1Aは、カメラ取得画像a,b中に撮影されており、視差画像DIから特定できる。よって、S06で砂埃Dなしと判定した場合、およびS09で砂埃幅Eが閾値以下の場合は、S03にて算出した視差画像DIから、先行して走行する他車両1Aの検出を行うこととする。この結果、視差画像DI中の視差無領域の大きさに関わらず、前方を走行する他車両1Aが存在する可能性の高い領域を特定できる。
【0077】
[第2実施形態]
図13は、本発明の第2実施形態に係る車両1を示す概略図である。
図14は、車両1に搭載した障害物検出システム10Aを示す概略図である。本第2実施形態が前述した第1実施形態と異なるのは、第1実施形態に対し、第2実施形態は、レーダ計測システム21、砂埃判定部22および車両認識部23を備えた点である。なお、本第2実施形態において、第1実施形態と同一又は対応する部分には同一符号を付している。
【0078】
<構成>
本第2実施形態において、レーダ計測システム21は、障害物検出システム10Aに備えられ、砂埃D越しに障害物の有無を検出する障害物検出部である。レーダ計測システム21は、走行路認識部14にて認識した路面領域上にある障害物を検出するもので、レーダ計測情報取得部21aと、レーダ障害物検出部21bとを有している。レーダ計測情報取得部21aは、例えばミリ波レーダ等の砂埃を透過し、この砂埃の先の障害物を検出可能なレーザであり、このレーザにて走査する領域であるセンシング領域内に存在する障害物の位置情報をレーダ計測情報としてレーダ障害物検出部21bに出力する。
【0079】
レーダ障害物検出部21bは、レーダ計測情報取得部21aにて取得したレーダ計測情報と、走行路認識部14にて推定した視差画像DI中の路面領域情報に基づいて、車両1の走行を阻害するおそれのある障害物、例えば他車両1Aの位置を検出し、この検出した障害物の位置情報を、車両認識部23に出力する。砂埃判定部22は、レーダ障害物検出部21bが検出した障害物の位置情報と砂埃位置検出部16が検出した砂埃発生位置Pおよび砂埃Dの画素数に基づいて、砂埃検出部15が検出した砂埃領域が、前方を走行する他車両1Aによる走行で発生した砂埃か否かを判別する。
【0080】
車両認識部23は、障害物識別部であって、車両存在領域検出部17にて検出した視差画像DI中の車両可能性領域Jと、レーダ障害物検出部21bにて検出した障害物の位置とを比較し、前方を走行する他車両1Aの種類、大きさ、および位置を識別する。すなわち、車両認識部23は、車両可能性領域Jの位置および画素数と、レーダ計測情報中の障害物の位置とに基づき他車両1Aを識別する。さらに、車両認識部23は、識別した他車両1Aの種類、大きさおよび位置に関する車両情報を、例えば画像制御部18へ出力する。
【0081】
<動作>
次に、上記第2実施形態に係る障害物検出システム10Aの処理について、
図15を参照して説明する。
図15は、障害物検出システム10Aによる処理を示すフローチャートである。ここで、障害物検出システム10Aの処理は、上記第1実施形態に係る障害物検出システム10の処理のうち、番号が等しいステップは同一である。
【0082】
S04の後、レーダ計測情報取得部21aにて、レーダ計測情報を取得する(S21)。次いで、レーダ障害物検出部21bは、取得したレーダ計測情報中のセンシング領域内にある障害物の位置情報と、S04にて推定した視差画像DI中の路面領域情報とに基づき、車両1の走行を阻害するおそれのある障害物、すなわち他車両1Aの位置を検出し、この検出した障害物の位置情報を車両認識部23へ出力する(S22)。
【0083】
さらに、S10の後、レーダ障害物検出部21bにて検出した障害物の位置情報を参照し(S23)、S10にて判定した砂埃隠蔽領域付近に障害物が存在する否かを砂埃判定部22にて判定する(S24)。S24にて砂埃隠蔽領域付近に障害物が存在すると判定した(YESの)場合は、前方を走行する他車両1Aが存在する判定となり、レーダ障害物検出部21bにて検出した障害物の位置情報と、S07にて検出した砂埃発生位置P情報とを、車両情報として車両認識部23へ出力する(S11)。
【0084】
一方、S24にて砂埃隠蔽領域付近に障害物が存在しないと判定した(NOの)場合は、検出した砂埃隠蔽領域が自然発生よる砂埃と判定し(S25)、障害物検出システム10Aによる処理を終了する。この結果、自然発生による砂埃を、車両1Aの走行時に発生する砂埃Dと区別でき、砂埃Dによって隠れた車両1Aを誤認識する可能性を低減できる。
【0085】
さらに、S12の後においては、S12にて検出した視差画像DI中の他車両1Aの車両認識位置について、レーダ障害物検出部21bにて検出したレーダ計測情報中の障害物の位置情報を参照して他車両1Aを検出し(S26)、この検出した他車両1Aの車両情報を、例えば画像制御部18へ出力する(S11)。
【0086】
<作用効果>
以上により、本第2実施形態に係る障害物検出システム10Aにおいては、上記第1実施形態にて奏し得る作用効果に加え、車両存在領域認識部17にて他車両1Aの位置や大きさを特定できない場合であっても、レーダ計測情報取得部21aにて路面領域上の障害物の位置を検出し、車両存在領域検出部17にて検出した視差画像DI中の車両可能性領域Jの位置および画素数に、レーダ障害物検出部21bにて検出した障害物の位置情報を加えることにより、車両認識部23にて、前方を走行する他車両1Aの種類、大きさ、及び位置を識別できる。
【0087】
特に、レーダ計測情報取得部21aとしてレーダを用いることにより、レーザにて走査するセンシング領域内に存在する障害物の位置情報を正確に検出できるから、砂埃Dによって隠れた他車両1Aを適切に検出できる。よって、レーダ計測情報取得部21aにて計測したレーダ計測情報に基づき、レーダ障害物検出部21bにて、視差画像DI中の路面領域上に存在する障害物を検出し、この検出した障害物の位置情報を用いることにより、車両認識部23による路面領域上の障害物情報の検出をより精度良くできる。
【0088】
さらに、車両1Aによる走行にて発生した砂埃か否かは、視差画像DI中の路面領域と砂埃領域との位置関係やその大きさ、すなわち画素数によって判別できる。このため、車両存在領域検出部17にて検出した視差画像DI中の車両可能性領域Jの位置および画素数と、レーダ障害物検出部21bにて検出した障害物の位置情報とに基づき、砂埃検出部15にて検出した砂埃領域が、前方を走行する他車両1Aの走行にて発生した砂埃Dか否かを砂埃判定部22にて判別できる。よって、砂埃領域に相当する砂埃Dの発生原因を精度良く特定できる。よって、車両1Aを覆い隠す砂埃Dをより精度良く特定できるため、車両1Aが存在する可能性の高い領域をより精度良く検出できる。
【0089】
[その他]
なお、本発明は前述した実施形態に限定されるものではなく、様々な変形態様が含まれる。例えば、前述した実施形態は、本発明を分りやすく説明するために説明したものであり、本発明は、必ずしも説明した全ての構成を備えるものに限定されるものではない。
【0090】
さらに、上記各実施形態においては、鉱山用のダンプトラックを例として車両1を説明したが、例えば、油圧ショベル4、散水車、グレーダ、ブルドーザ、ロードローダ、パトロールカー等の作業車の他、鉱山に設けられた路面Rを走行する鉱山用作業車両についても、本発明に係る障害物検出システム10,10Aを搭載することもできる。
【0091】
また、有人走行式の車両1のみならず、情報センタ3からの操作信号に応じて、自律走行可能な無人走行式の車両1であってもよい。この場合には、障害物検出システム10,10Aにて検出した車両情報を車両1から情報センタ3へ送信し、情報センタ3にて認識する車両情報と比較等し、この情報センタ3にて管制する複数台の車両1,1Aの運行をより精度良く管理できる。
【0092】
また、上記各実施形態に係る障害物検出システム10,10Aとしては、例えば、前方を走行する他車両1Aのほか、鉱山の路面Rを走行する散水車、グレーダ、パトロールカー等の他車両を検出する車両検出システム等としてもよく、さらには、例えば落下した積載物や、崩れた土砂、落石等の車両1,1A以外の障害物を検出するシステムとしてもよい。
【0093】
またさらに、上記各実施形態においては、障害物検出システム10,10Aによるすべての処理を車両1に搭載したコントローラ6で行う構成としたが、車載無線装置5g等を用いて所定の情報の送受信を行うようにし、コントローラ6のうちの少なくともいずれかの処理を、情報センタ3等の車両1以外の場所で行う構成とすることもできる。