(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0008】
≪第1の実施の形態≫
以下、図面に基づいて本発明の第1の実施の形態による周囲監視装置について詳細に説明する。なお、第1の実施の形態では、作業機械として、鉱山作業等に用いられる自走式の超大型ダンプトラックに周囲監視装置を搭載した場合を例として説明する。
図1は、本発明の第1の実施の形態による周囲監視装置を搭載したダンプトラック1の上面図である。
【0009】
ダンプトラック1は、ダンプトラック1の本体を形成する車体フレーム2と、車体フレーム2の前方に設けられた前輪3R,3Lと、車体フレーム2の後方に設けられた後輪4R,4Lと、車体フレーム2に対して起伏可能に構成され、土砂や鉱物等を積載する荷台であるベッセル5と、運転室7とを備える。なお、
図1において、ベッセル5は、ダンプトラック1の構成を見やすくするために破線で示している。
【0010】
運転室7には、運転席(不図示)と、ダンプトラック1を動作させるために運転者によって操作される種々の操作部材と、運転席の前方右側に設けられた表示装置50と、コントローラ105と、が設けられている。操作部材は、後述するシフトレバー30およびブレーキ操作部材40を含む(
図2参照)。
【0011】
図2は、第1の実施の形態による周囲監視装置100の構成を示すブロック図である。周囲監視装置100は、ダンプトラック1の周囲における障害物の有無を監視し、必要に応じて障害物の存在を運転者に報知するものである。そこで、周囲監視装置100は、撮像装置20と、シフトレバー30と、ブレーキ操作部材40と、コントローラ105と、表示装置50とから構成される。撮像装置20は、ダンプトラック1の全周囲の画像を取得するための装置であり、ダンプトラック1の外周部に設置された前方カメラ21と、右側方カメラ22と、左側方カメラ23と、後方カメラ24とを備えている。
【0012】
前方カメラ21は、ダンプトラック1の前端部に設置された斜めラダー2Kの上端部に設置されており、ダンプトラック1の前方領域を撮像可能に構成されている。右側方カメラ22は、ダンプトラック1の右前部に位置する右アッパデッキ2Rの右側面部に設置されており、ダンプトラック1の右側方の領域、すなわち右斜め前方から右斜め後方までの領域を撮像可能に構成されている。左側方カメラ23は、右側方カメラ22と略左右対称の位置、すなわちダンプトラック1の左前部に位置する左アッパデッキ2Lの左側面部に配置されており、ダンプトラック1の左側方の領域、すなわち左斜め前方から左斜め後方までの領域を撮像可能に構成されている。
【0013】
後方カメラ24は、右後輪4Rと左後輪4Lとを連結するアクスル上方で、ベッセル5の回動軸付近に設置されており、ダンプトラック1の後方領域を撮像可能に構成されている。各カメラ21〜24で撮像された画像は、後述するように合成されるので、各カメラ21〜24はダンプトラック1において略同じ高さの位置に配置されている。
図3に、撮像装置20の設置位置と撮像範囲を模式的に示すダンプトラック1およびその周囲の上面図を示す。前方カメラ21、右側方カメラ22、左側方カメラ23、および後方カメラ24をダンプトラック1の外周部に配置することにより、
図3に示すようにダンプトラック1のほぼ全周囲の画像を取得することができる。なお、
図3は各カメラ21〜24で撮像された画像を後述するように合成した場合の仮想視点画像20Rに対応する撮像範囲を示しており、仮想視点画像20Rは、各カメラ21〜24の撮像範囲21R,22R,23R,24Rから構成されている。各カメラ21〜24で撮像されたダンプトラック1の周囲画像の画像データはコントローラ105に入力される。
【0014】
シフトレバー30は、ダンプトラック1の進行方向および速度段を切換えるために運転者によって操作される操作部材であり、運転室7内の運転席周辺に配置されている。シフトレバー30は、前進位置、中立位置、後進位置のいずれに切り換えられているかを示すシフトレバー位置信号をコントローラ105に入力する。ブレーキ操作部材40は、走行しているダンプトラック1を減速または停止させるために運転者によって操作される操作部材であり、運転室7内の運転席周辺に配置されている。ブレーキ操作部材40は、ブレーキが作動中であるか否かを示す信号、すなわち運転者によるブレーキ操作の有無を示す信号をコントローラ105に入力する。なお、ブレーキ操作部材40が操作されていないとシフトレバー30を操作することはできない。
【0015】
コントローラ105は、CPUと、ROMおよびRAM等のCPU周辺部品とから構成される電子制御ユニットであり、周囲監視装置100全体の制御を行う。コントローラ105は、例えばCPUのソフトウェア形態により、機体状態判断部110、報知対象設定部120、俯瞰画像生成部130、障害物検出部150、移動方向検出部160、判定部170、および出力制御部180を構成する。コントローラ105は、撮像装置20から入力された画像データに対し、上方視点となるように視点変換して合成し、仮想視点画像20Rとして表示装置50に表示させるとともに、運転者に報知する必要がある障害物が存在すると判定すると、その情報を運転者に報知する。コントローラ105における制御については、後述する。
【0016】
表示装置50は、例えば液晶パネル等から構成される画像表示部である表示モニタを有する。表示モニタには、コントローラ105からの信号に応じて文字や画像が表示される。
【0017】
次に、周囲監視装置100の動作について詳細に説明する。まず、周囲監視装置100のコントローラ105における、報知する必要のある障害物(報知対象障害物)の判定制御について説明する。
【0018】
機体状態判断部110は、シフトレバー30のシフトレバー位置信号と、ブレーキ操作部材40のブレーキ操作信号を入力し、シフトレバー位置信号とブレーキ操作信号に基づいてダンプトラック1の機体状態を判断する。ここで、ダンプトラック1の機体状態とは、ダンプトラック1がどのような稼働状態(走行状態)にあるかを示す。
【0019】
機体状態判断部110は、シフトレバー位置信号が前進位置で、ブレーキ操作信号がブレーキ操作無しの場合、ダンプトラック1が「前進中」と判断する。シフトレバー位置信号が前進位置で、ブレーキ操作信号がブレーキ操作有りの場合、「前進準備中」と判断する。シフトレバー位置信号が後進位置で、ブレーキ操作信号がブレーキ操作無しの場合、ダンプトラック1が「後進中」と判断する。シフトレバー位置信号が後進位置で、ブレーキ操作信号がブレーキ操作有りの場合、ダンプトラック1が「後進準備中」と判断する。シフトレバー位置信号が中立位置の場合、ブレーキ操作信号に拘わらずダンプトラック1が「停車中」と判断する。機体状態判断部110は、ダンプトラック1の機体状態を示す機体状態信号を報知対象設定部120に出力する。
【0020】
報知対象設定部120は、機体状態判断部110から入力される機体状態信号に基づいて、障害物の存在を運転者に報知する必要のある報知対象領域と、各報知対象領域において運転者に報知する必要のある障害物の相対的な移動方向とを設定する。報知対象領域は、
図3に示したダンプトラック1の全周囲の仮想視点画像20Rの中から選択される。そこで、ダンプトラック1の全周囲の仮想視点画像20Rは、報知領域とも呼ばれる。
図4に、移動方向の角度範囲を説明する図、
図5〜
図7に、ダンプトラック1の機体状態に応じた報知対象領域および障害物の移動方向を示すダンプトラック1およびその周囲の上面図を示す。
図5は、ダンプトラック1が「前進中」または「前進準備中」の報知対象領域および障害物の相対的な移動方向、
図6は、ダンプトラック1が「後進中」または「後進準備中」の報知対象領域および障害物の相対的な移動方向、
図7は、ダンプトラック1が「停車中」の報知対象領域および障害物の相対的な移動方向を示す。
【0021】
まず、
図5〜
図7に示すように、ダンプトラック1の全周囲の報知領域20Rは、ダンプトラック1の前方、右側方、左側方、後方、右前方、左前方、右後方、左後方、の8つの領域に分割され、さらにダンプトラック1の近傍領域と通常領域の2つに分割されている。すなわち、ダンプトラック1の全周囲の報知領域20Rは、
図7に示すように16個の報知候補領域から構成されている。
図5〜
図7の表示態様とは一致していないが、近傍領域はダンプトラック1の外周から4メートル程度の範囲、通常領域はダンプトラック1の外周から8メートル程度の範囲として設定することができる。なお、近傍領域、通常領域の範囲はこれらの値には限定されない。
【0022】
図5に示すように、ダンプトラック1が「前進中」または「前進準備中」の場合は、16個の報知候補領域のうち、
図5にハッチングで示すようにダンプトラック1の前方、右前方および左前方に存在する前方近傍領域CF,前方通常領域WF,右前方近傍領域CFR,右前方通常領域WFR,左前方近傍領域CFL,左前方通常領域WFL,およびダンプトラック1の側方近傍に存在する右側方近傍領域CRと左側方近傍領域CLの8個の報知候補領域を報知対象領域として設定する。
【0023】
図5〜7に示す報知対象領域の中にある円について説明する。
図4に示すように,この円は、円の中心からの放射方向が障害物の相対的移動方向を示し、ダンプトラック1の前後方向に沿って前方を0度、後方を180度とし、時計回りに角度が増大している。この円内の網掛け部が、報知する必要のある障害物の相対的な移動方向として設定される角度範囲である。
図4の場合は、一例として報知する必要のある障害物の相対的な移動方向の角度範囲を180度〜270度で示している。矢印A1、A2は障害物の相対的移動方向を想定しており、障害物の相対的移動方向が矢印A1の場合は、上述の角度範囲内に有り、矢印A2の場合は、上述の角度範囲外となる。
図5で示した前方近傍領域CFおよび前方通常領域WFの円においては、障害物がダンプトラック1の前方に存在した場合、比較的接触等を起こす可能性が高いことから、報知する必要のある障害物の相対的な移動方向の角度範囲を0度〜360度と設定している。なお、
図5〜7に示す報知対象領域の内、円中心部に小円が記載されている報知対象領域、例えば
図5の前方近傍領域CF等は、角度範囲に関係なく静止した障害物も報知対象に含むように設定可能な領域であることを示し、これら領域にある静止した障害物は後述する判定部170で報知対象として判定される。特に運転手から見えにくい右側方や後方で設定可能であるため、運転手が障害物を確認する上で有効である。
【0024】
右前方近傍領域CFRにおいては、相対的な移動方向が180度〜315度の角度範囲を、報知する必要のある障害物の相対的な移動方向として設定し、さらに静止した障害物も報知対象に含むように設定する。右前方通常領域WFRにおいては、相対的な移動方向が135度〜315度の角度範囲を、報知する必要のある障害物の相対的な移動方向として設定する。左前方近傍領域CFLにおいては、相対的な移動方向が45度〜180度の角度範囲を、報知する必要のある障害物の相対的な移動方向として設定し、さらに静止した障害物も報知対象に含むように設定する。左前方通常領域WFLにおいては、相対的な移動方向が45度〜225度の角度範囲を、報知する必要のある障害物の相対的な移動方向として設定する。右側方近傍領域CRにおいては、相対的な移動方向が225度〜360度(0度)の角度範囲を、左側方近傍領域CLにおいては、相対的な移動方向が0度〜135度の角度範囲を、それぞれ報知する必要のある障害物の相対的な移動方向として設定する。なお、これら設定された角度範囲は一例であり、報知する必要のある障害物を適切に報知できれば別の角度範囲を用いてもよい。また、角度範囲としたがベクトル座標範囲等、別方式を用いてもよい。これらは後述する後進等他の場合においても同様である。
【0025】
図6に示すように、ダンプトラック1が「後進中」また「後進準備中」の場合は、16個の報知候補領域のうち、
図6にハッチングで示すようにダンプトラック1の後方、右後方および左後方に存在する後方近傍領域CB,後方通常領域WB,右後方近傍領域CBR,右後方通常領域WBR,左後方近傍領域CBL,左後方通常領域WBL,およびダンプトラック1の側方近傍に存在する右側方近傍領域CRと左側方近傍領域CLの8個の報知候補領域を報知対象領域として設定する。
【0026】
後方近傍領域CBおよび後方通常領域WBにおいては、
図6に示すように,0度〜360度の角度範囲を、報知する必要のある障害物の相対的な移動方向として設定し、さらに静止した障害物も報知対象に含むように設定する。
【0027】
右後方近傍領域CBRにおいては、相対的な移動方向が225度〜360度(0度)の角度範囲を、報知する必要のある障害物の相対的な移動方向として設定し、さらに静止した障害物も報知対象に含むように設定する。右後方通常領域WBRにおいては、相対的な移動方向が270度〜360度(0度)の角度範囲を、報知する必要のある障害物の相対的な移動方向として設定する。左後方近傍領域CBLにおいては、相対的な移動方向が0度〜135度の角度範囲を、報知する必要のある障害物の相対的な移動方向として設定し、さらに静止した障害物も報知対象に含むように設定する。左後方通常領域WBLにおいては、相対的な移動方向が0度〜90度の角度範囲を、報知する必要のある障害物の相対的な移動方向として設定する。右側方近傍領域CRにおいては、相対的な移動方向が180度〜315度の角度範囲を、また、左側方近傍領域CLにおいては、相対的な移動方向が45度〜180度の角度範囲を、それぞれ報知する必要のある障害物の相対的な移動方向として設定する。
【0028】
ダンプトラック1が停車中の場合は、16個の報知候補領域のうち、
図7にハッチングで示すようにダンプトラック1の近傍に存在する前方近傍領域CF,右前方近傍領域CFR,左前方近傍領域CFL,右側方近傍領域CR,左側方近傍領域CL,後方近傍領域CB,右後方近傍領域CBR,左後方近傍領域CBLの8個の報知候補領域を報知対象領域として設定する。また、これらの報知対象領域においては、
図7に示すように、0度〜360度の角度範囲を、報知する必要のある障害物の相対的な移動方向として設定し、さらに静止した障害物も報知対象に含むように設定する。
【0029】
図5から
図7に示すように、報知対象領域には、ダンプトラック1からの距離に応じて角度等の範囲を変える、すなわち、報知対象障害物を判定する際の重み付け設定が可能である。例えば、
図6の右後方近傍領域CBRと右後方通常領域WBRの各角度範囲が示すように、ダンプトラック1に近い領域を、報知する必要のある障害物の相対的な移動方向の角度範囲は広く設定することで、ダンプトラック1に近い領域に存在する障害物を、報知対象として判定しやすくなるように設定できる。報知対象設定部120は、機体状態信号に基づいて設定した報知対象領域と、各報知対象領域において運転者に報知する必要のある障害物の相対的な移動方向とを示す報知対象信号を判定部170に出力する。
【0030】
障害物検出部150は、前方カメラ21、右側方カメラ22、左側方カメラ23、および後方カメラ24から入力された複数の画像データに基づいて画像処理を行い、ダンプトラック1の周囲に存在する障害物を検出するとともに、検出した障害物のダンプトラック1に対する相対位置を検出する。ダンプトラック1の周囲に存在する障害物には、例えば作業員やサービスカーが含まれる。
【0031】
障害物検出部150は、各カメラ21〜24から入力された複数の画像データに基づいて、周知の画像認識技術により障害物を検出することができる。例えば障害物が移動体である場合は、画像データ中に形成された障害物に相当する一定の領域を検出し、時間的に異なる複数の画像データを比較して当該領域が異なる位置に移動する場合に、当該領域を移動体として検出する。例えば障害物が静止体である場合は、画像データ中に形成された障害物に相当する一定の領域を検出し、当該領域のエッジ、輝度、色等を総合的に判断して当該領域を静止体として検出する。
【0032】
次に相対位置は、俯瞰画像生成部130を用いて求める。
図8に、俯瞰画像処理を説明する図を示す。すなわち、俯瞰画像生成部130では、
図8に示すように、カメラ21〜24からの入力画像データ21S〜24Sの内、入力画像領域21T〜24Tを図示しない幾何変換マップにより出力画像21R〜24Rに変換する。幾何変換マップは、画素単位、もしくは複数の画素で構成した領域単位で入力画像データ21S〜24Sに対し、ダンプトラック1の接地面を仮想平面とした仮想視点の光軸が垂直となるように幾何変換し、入力画像領域を出力画像に割り当てる。幾何変換マップにより、
図8に示すように入力画像領域21Tの斜線部の領域は出力画像の斜線部に割り当てられる。次に相対位置の求め方であるが、各カメラ21〜24からの入力画像データに基づいて障害物と検出された画素の位置から、幾何変換マップを用いて、逆算することにより得られる。
【0033】
障害物検出部150によって検出された障害物の有無および障害物の相対位置の情報は、移動方向検出部160および判定部170に出力される。
【0034】
移動方向検出部160は、障害物検出部150によって検出された過去の所定期間の障害物の相対位置を保存している。移動方向検出部160は、障害物の過去の相対位置と最新の相対位置とを比較することにより、ダンプトラック1に対する障害物の相対的な移動方向を検出する。移動方向検出部160は、検出した障害物の相対的な移動方向の情報を判定部170に出力する。
【0035】
判定部170は、障害物検出部150によって検出された障害物の相対位置および移動方向検出部160によって検出された障害物の相対的な移動方向に基づいて、当該障害物が、運転者に報知する必要のある報知対象障害物であるか否かを判断する。具体的には、判定部170は、障害物の相対位置および相対的な移動方向を、報知対象設定部120で設定された報知対象領域と報知する必要のある障害物の相対的な移動方向の角度範囲と比較し、検出された障害物の相対位置が報知対象領域内に存在し、検出された障害物の相対的な移動方向が、報知する必要のある障害物の相対的な移動方向の角度範囲内に有る場合は、当該障害物を、報知対象障害物として判定する。なお、前述したように、一部の報知対象領域では静止した障害物も報知対象として判定する。判定部170の判定結果は出力制御部180に出力される。
【0036】
次に、周囲監視装置100のコントローラ105における俯瞰画像(仮想視点画像)の生成制御について説明する。
【0037】
俯瞰画像生成部130には、前述したように、前方カメラ21、右側方カメラ22、左側方カメラ23、および後方カメラ24から入力された複数の画像データが入力され、入力された画像データに基づいて仮想視点画像を生成する。
【0038】
俯瞰画像生成部130はさらに、前方カメラ21の画像データに基づく仮想視点前方画像21R、右側方カメラ22の画像データに基づく仮想視点右側方画像22R、左側方カメラ23の画像データに基づく仮想視点左側方画像23R、および後方カメラ24の画像データに基づく仮想視点後方画像24Rを合成し、
図3に示すように、ダンプトラック1の全周囲の俯瞰画像に相当する仮想視点画像20Rを生成する。俯瞰画像生成部130によって生成された仮想視点画像20Rは、出力制御部180に出力される。
【0039】
出力制御部180は、表示装置50の表示モニタに表示する画像を制御する表示制御部181を備えている。表示制御部181は、俯瞰画像生成部130から入力されたダンプトラック1の全周囲の仮想視点画像20Rおよび判定部170から入力された判定結果に応じて、表示モニタに表示させる画像を制御する。具体的には、表示制御部181は、ダンプトラック1の全周囲の仮想視点画像20Rを表示モニタに表示させる。さらに、判定部170によって報知対象障害物があると判断された場合は、報知対象障害物の存在を運転者に報知するために、報知対象障害物を強調するための識別マークを仮想視点画像20Rに重ね合わせて表示させる。具体的な表示例については
図10を用いて後述する。
【0040】
表示装置50の表示モニタには、コントローラ105からの信号に応じてダンプトラック1の全周囲の仮想視点画像が表示されるとともに、報知対象障害物が存在する場合は、当該報知対象障害物を強調するための識別マークが表示される。表示モニタに表示される仮想視点画像および識別マークは、撮像装置20から入力される画像データに基づいて逐次、更新される。
【0041】
以下に、第1の実施の形態における周囲監視装置100の動作を、
図9を用いて詳細に説明する。
図9は、第1の実施の形態のコントローラ105における周囲監視制御処理の処理手順のフローチャートを示す。本処理内容は、一定間隔毎に連続的に行われる。
【0042】
まず、ステップS10において、機体状態判定部110は、シフトレバー30とブレーキ操作部材40から入力される信号に基づいて、ダンプトラック1の機体状態を判定する。ここでは、ダンプトラック1の機体状態が「前進準備中」であると判定された場合を例として説明する。
【0043】
ステップS20において、報知対象設定部120は、ステップS10で判定したダンプトラック1の機体状態に応じて、障害物の存在を運転者に報知する必要のある報知対象領域と、運転者に報知する必要のある障害物の相対的な移動方向の角度範囲を設定する。ここでは、ダンプトラック1の機体状態が「前進準備中」であるので、
図5に示す8個の報知候補領域CF,WF,CFR,WFR,CFL,WFL,CRおよびCLを報知対象領域として設定するとともに、報知する必要のある障害物の相対的な移動方向の角度範囲を設定する。
【0044】
ステップS30において、俯瞰画像生成部130は、前方カメラ21、右側方カメラ22、左側方カメラ23、および後方カメラ24から入力された複数の画像データに基づいて、ダンプトラック1の全周囲の仮想視点画像(俯瞰画像)20Rを生成する。
【0045】
ステップS40において、表示制御部181は、ステップS30で生成した仮想視点画像20Rを表示装置50の表示モニタに表示させる。
図10(a)〜(d)に、ダンプトラック1の周囲状況と表示モニタに表示される仮想視点画像の一例を示す。
図10(a)に示すような周囲状況の場合、仮想視点画像20Rに対応する報知領域内には、サービスカー20Sが存在しているが、サービスカー20Sの相対位置は「前進準備中」の報知対象領域に該当しないので、報知対象障害物ではないと判断されている。したがって、表示モニタには
図10(b)に示すような仮想視点画像20Rのみが表示される。
【0046】
なお、
図10(b)において仮想視点画像20Rの中央部には、ダンプトラック1に相当するイラスト1Aが表示されている。また、表示モニタには、仮想視点画像20Rにおいて各カメラ21〜24で撮像された画像データの境界を示す境界ラインL1,L2,L3,L4も表示される。仮想視点画像20Rを表示することにより、表示モニタには、各カメラ21〜24が撮像している被写体が、ダンプトラック1を中心として上方から見下ろしたときに実際に存在する方向および位置(距離)に表示される。
図10(b)の表示例においては、ダンプトラック1の右後側方に存在するサービスカー20Sが、ダンプトラック1を中心として実際に存在する方向および位置に対応する位置に表示されている。
【0047】
つづくステップS50において、判定部170は、障害物検出部150で少なくとも1つの障害物が検出されたか否かを判断する。ステップS50が肯定判定され、障害物が検出された場合は、ステップS60へ進み、否定判定されて障害物が検出されていない場合は、リターンする。
【0048】
ステップS60において、判定部170は、障害物検出部150で検出された障害物の相対位置が仮想視点画像20Rにおける報知対象領域内に存在するか否かを判定する。障害物の相対位置が報知対象領域内に存在する場合は、ステップS70に進み、報知対象領域内に存在しない場合は、リターンする。
【0049】
ステップS70において、判定部170は、ステップS60で報知対象領域内に存在すると判定された障害物について、その相対的な移動方向が、仮想視点画像20Rにおける当該報知対象領域において報知する必要のある相対的な移動方向の角度範囲内に有るか否かを判定する。障害物の相対的な移動方向が、報知する必要のある相対的な移動方向の角度範囲内に有る場合は、当該障害物を報知対象障害物と判断してステップS80に進み、角度範囲内にない場合は、リターンする。
【0050】
ステップS80において、表示制御部181は、ステップS70で報知対象障害物と判定された障害物の存在を運転者に報知するために、報知対象障害物を強調して表示するよう表示装置50を制御する。具体的には、
図10(c)に示すような周囲状況の場合、仮想視点画像20Rに対応する報知領域内には、サービスカー20Sが存在している。サービスカー20Sの相対位置および相対的な移動方向は「前進準備中」の報知対象領域および報知する必要のある相対的な移動方向に該当するので、サービスカー20Sは報知対象障害物であると判断されている。
【0051】
したがって、表示モニタには
図10(d)に示すように、仮想視点画像20Rに加えて、報知対象障害物(ここではサービスカー20S)の存在を運転者に報知するために、仮想視点画像20Rに識別マークMを重ね合わせて表示させる。具体的には、仮想視点画像20Rにおける報知対象障害物に対応する位置に、識別マークMを重ね合わせて表示し、仮想視点画像20Rにおいて報知対象障害物を視覚的に強調する。これにより、表示モニタには、ダンプトラック1の前方に存在するサービスカー20Sが、ダンプトラック1を中心として実際に存在する方向および位置に対応する位置に、視覚的に強調して表示されている。これにより、今回の処理を終了してリターンする。
【0052】
なお、
図10(d)に示す表示例においては、仮想視点画像20Rにおいて、サービスカー20Sを撮像したカメラ(ここでは前方カメラ21)から最も近いサービスカー20Sの線分を検出し、これを強調表示することにより識別マークMとしている。ただし、これには限定されず、報知対象障害物を視覚的に強調して表示することができれば、丸、四角、三角等や、報知対象障害物の移動方向を示す矢印など、種々の形態の識別マークを用いることができる。また、表示だけでなく図示しないブザー等により、聴覚的に報知してもよい。
【0053】
このように、以上説明した第1の実施の形態においては、以下のような作用効果を奏することができる。
(1)周囲監視装置100は、ダンプトラック1の周囲の画像を撮像する撮像装置20と、撮像装置20によって取得された画像を上方視点となるように視点変換して仮想視点画像を生成する俯瞰画像生成部130と、俯瞰画像生成部130によって生成された仮想視点画像を表示装置50に表示させる表示制御部181とを備える。周囲監視装置100は、さらに、ダンプトラック1の周囲に存在する障害物を検出する障害物検出部150と、障害物検出部150で検出された障害物のダンプトラック1に対する相対的な移動方向を検出する移動方向検出部160と、障害物の相対的な移動方向に基づいて、障害物の相対的な移動方向が、予め設定した移動方向の角度等の範囲内に有る場合に、障害物がダンプトラック1の運転者に報知する必要のある報知対象障害物であると判定する判定部170とを備える。ダンプトラック1の周囲に存在する障害物の相対的な移動方向に基づいて、当該障害物が運転者に報知する必要のある報知対象障害物であるか否かを判定するので、運転者に報知する必要のある報知対象障害物を的確に判定することができる。障害物が検出されたとしても、当該障害物がダンプトラック1から離れていくような場合、その障害物の存在を常に運転者に報知していたのでは、運転者に煩わしさを与えてしまう。そこで、検出された障害物の相対的な移動方向が予め設定した移動方向の角度等の範囲内に有る場合に、障害物が報知対象障害物であると判定することにより、例えばダンプトラック1に接近している障害物等、運転者に報知する必要のある障害物を的確に判断することができる。また、大型のダンプトラック1は、機体幅が非常に大きいうえ、運転室7は機体の左前方に設置されているため、運転者にとってはとくに機体の右側方や後方の目視確認が困難であるが、ダンプトラック1の周囲の仮想視点画像を表示モニタに表示することにより、運転者はダンプトラック1の周囲に存在する障害物とダンプトラック1との位置関係を瞬時に把握することができる。
(2)周囲監視装置100は、障害物検出部150において障害物のダンプトラック1に対する位置を検出する。周囲監視装置100は、ダンプトラック1の機体状態を検出する機体状態判断部110と、機体状態に応じて報知対象領域を設定する報知対象設定部120とをさらに備える。ダンプトラック1の機体状態、具体的には、ダンプトラック1が「前進中」「前進準備中」「後進中」「後進準備中」「停車中」のいずれの状態であるかを判断し、判断した機体状態(稼働状態)に応じて、
図5〜
図7に示すように、報知対象障害物を判断するための報知対象領域を設定する。判定部170は、さらに、障害物がダンプトラック1の周囲に設定された報知対象領域内に存在する場合に、報知対象障害物であると判定する。例えば、ダンプトラック1が前進中の場合、ダンプトラック1の後方に存在する障害物はダンプトラック1から遠ざかっていくと考えられるので、後方領域および後側方領域は報知対象領域から除外する(
図5参照)。これにより、ダンプトラック1の機体状態に応じて適切な報知対象領域を設定し、運転者に報知する必要のある障害物のみを報知対象障害物として的確に判断することが可能となる。
(3)報知対象設定部120は、ダンプトラック1からの距離に応じて、報知対象領域の角度等の範囲を変える、すなわち報知対象障害物であると判定する際の重み付け設定が変更可能である。すなわち、ダンプトラック1に近い領域に存在する障害物を、報知対象障害物として判定されやすくなるように報知対象領域に大きな重みを設定している。具体的には、ダンプトラック1に近い領域を、報知する必要のある障害物の相対的な移動方向の角度範囲を広く設定している。例えば
図6に示す後進中の場合、右後方近傍領域CBRの方が、右後方通常領域WBRよりも、報知する必要のある相対的な移動方向の角度範囲が広く設定されている。これにより、ダンプトラック1に近い領域CBRに存在する障害物の方が、ダンプトラック1から遠い領域WBRに存在する障害物よりも報知対象障害物として判断されやすくなり、運転者に報知する必要性の高い障害物を的確に判断することが可能となる。
(4)周囲監視装置100は、判定部170によって障害物が報知対象障害物であると判定された場合に、障害物の存在を運転者に報知する表示制御部181を備える。表示制御部181は、報知対象障害物を表示モニタにおいて強調表示することにより、障害物の存在を運転者に報知する報知部として機能する。これにより、報知する必要があると的確に判断された報知対象障害物の存在を、運転者に視覚情報として確実に報知することができる。
【0054】
≪第2の実施の形態≫
図11は、本発明の第2の実施の形態による周囲監視装置100Aの構成を示すブロック図である。
図11において、第1の実施の形態と同様の機能を有する箇所には同一の符号を付している。以下では、上述した第1の実施の形態との相違点を主に説明する。
【0055】
上述した第1の実施の形態では、障害物の相対位置および相対的な移動方向に基づいて、当該障害物が報知対象障害物であるか否かを判断した。第2の実施の形態では、障害物の相対位置および相対的な移動方向に加えて、障害物の移動速度に基づいて、当該障害物が報知対象障害物であるか否かを判断する。具体的には、障害物がダンプトラック1に接近してくる場合、障害物の接近速度が高いほど、当該障害物の存在を運転者に報知する重要性が高まる。そこで、第2の実施の形態においては、障害物の移動速度も加味して、運転者に報知する必要のある障害物を早い段階から的確に判断するようにする。
【0056】
そこで、周囲監視装置100Aを構成するコントローラ105Aは、移動速度検出部165をさらに備えている。移動速度検出部165は、障害物検出部150によって検出された過去の所定期間の障害物の相対位置を保存し、障害物の過去の相対位置と最新の相対位置との間の距離および前記所定時間に基づいて、障害物の移動速度を検出する。移動速度検出部165は、検出した障害物の移動速度を判定部170に出力する。
【0057】
障害物の移動速度も加味して運転者に報知する必要のある障害物を早い段階から的確に判断できるように、周囲監視装置100Aは、撮像装置20における撮像範囲を第1の実施の形態よりも広げ、より遠方の領域の障害物も検出できるように構成されている。
図12に、第2の実施の形態における撮像範囲(報知領域とも呼ぶ)を説明する図を示す。
図12は、ダンプトラック1およびその周囲の上面図であり、各カメラ21〜24で撮像された画像データを合成した仮想視点画像に対応している。
【0058】
図12に示すように、第2の実施の形態における報知領域200Rは、第1の実施の形態で設定した報知領域20Rをさらに遠方に拡大して設定されている。報知領域200Rは、ダンプトラック1の前方、右側方、左側方、後方、右前方、左前方、右後方、左後方、の8つの領域について、それぞれダンプトラック1の近傍領域および通常領域に加えて、遠方領域が設定されている。これにより、ダンプトラック1の全周囲の報知領域200Rは、24個の報知候補領域から構成されている。
図12の表示態様とは一致していないが、近傍領域はダンプトラック1の外周から4メートル程度の範囲、通常領域はダンプトラック1の外周から8メートル程度の範囲、遠方領域はダンプトラック1の外周から12メートル程度の範囲として設定することができる。なお、近傍領域、通常領域および遠方領域の範囲はこれらの値には限定されない。
【0059】
報知対象設定部120は、ハッチングで示す報知領域20R、すなわちダンプトラック1の近傍領域および通常領域、については、障害物の移動速度に拘わらず、上述した第1の実施の形態と同様に、機体状態判断部110から入力されるダンプトラック1の機体状態に基づいて、障害物の存在を運転者に報知する必要のある報知対象領域と、各報知対象領域において運転者に報知する必要のある障害物の相対的な移動方向の角度等の範囲(ここでは角度範囲)を設定する。
【0060】
報知対象設定部120は、報知領域20Rの遠方に存在する遠方領域FF,FFR,FFL,FR,FL,FB,FBR,FBLについては、ダンプトラック1の機体状態に拘わらず、全ての遠方領域を報知対象領域として設定する。また、これらの遠方領域においては、ダンプトラック1の機体状態に拘わらず、各遠方領域においてダンプトラック1に接近する方向を、運転者に報知する必要のある障害物の相対的な移動方向の角度等の範囲(ここでは角度範囲)として設定する。
【0061】
判定部170は、障害物検出部150によって検出された障害物の相対位置、移動方向検出部160によって検出された障害物の相対的な移動方向、および移動速度検出部165から入力される障害物の移動速度に基づいて、遠方領域FF,FFR,FFL,FR,FL,FB,FBR,FBLに存在する障害物については、ダンプトラック1に接近する障害物の接近速度が所定値(例えば20km/h)以上の場合に、当該障害物を報知対象障害物として判定する。
【0062】
以下に、第2の実施の形態における周囲監視装置100Aの動作を、
図13のフローチャートを用いて説明する。
図13に示す制御処理は、コントローラ105Aによって一定間隔毎に実行される。
【0063】
ステップS10において、機体状態判定部110は上記第1の実施の形態と同様にダンプトラック1の機体状態を判定する。
【0064】
ステップS20Aにおいて、報知対象判定部120は、上述したように、ダンプトラック1の機体状態に基づいて障害物の存在を運転者に報知する必要のある報知対象領域と、運転者に報知する必要のある障害物の相対的な移動方向を設定する(
図12参照)。
【0065】
ステップS30〜S60までの処理は、
図97を用いて説明した第1の実施の形態と同様である。ステップS65では、判定部170において、障害物の位置が
図12に示す遠方領域FF,FFR,FFL,FR,FL,FB,FBR,FBL内に存在するか否かを判定する。ステップS65が否定判定されると、ステップS70に進む。ステップS70、S80の処理は、上述した第1の実施の形態と同様である。
【0066】
ステップS65が肯定判定され、障害物の位置が遠方領域FF,FFR,FFL,FR,FL,FB,FBR,FBLのいずれかに存在する場合は、判定部170においては、ステップS75に進み、遠方領域内に存在する障害物の相対的な移動方向が、各遠方領域において、報知する必要のある相対的な移動方向の角度範囲内に有るか否かを判定する。障害物の相対的な移動方向が報知する必要のある相対的な移動方向の角度範囲内に有り、障害物がダンプトラック1に接近している場合は、ステップS78に進む。
【0067】
判定部170において、ステップS78では、障害物の移動速度が所定値(例えば20km/h)以上であるか否かを判定する。ステップS78が肯定判定され、障害物が所定値以上の速度でダンプトラック1に接近している場合は、当該障害物を報知対象障害物として判定し、ステップS80に進む。ステップS75,S78が否定判定されると、リターンする。
【0068】
このように、以上説明した第2の実施の形態においては、上述した第1の実施の形態による効果に加えて、以下のような作用効果を奏することができる。
【0069】
周囲監視装置100Aは、障害物の相対位置と障害物の相対的な移動方向に加えて、障害物の移動速度に基づいて障害物が報知対象障害物であるか否かを判断するので、例えば障害物が速い速度でダンプトラック1に接近している場合等に、運転者に報知することが可能となる。また、障害物の移動速度が速い場合は、障害物が遠方領域FF,FFR,FFL,FR,FL,FB,FBR,FBLに存在する場合であっても報知対象障害物として判定するので、速い速度で接近してくる障害物の存在を早い段階から運転者に把握させることができる。
【0070】
なお、報知対象障害物の移動速度に応じて、識別マークやブザー音を設定してもよい。例えば、識別マークであれば、マークの色を速度に応じて変化させたり、もしくはマークの点滅周期を速度に応じて変化させたり、さらにブザー音であれば速度に応じて音の大きさや音色を変化させてもよい。
【0071】
≪第2の実施の形態の変形例≫
図14は、本発明の第2の実施の形態の変形例による周囲監視装置100Dの構成を示すブロック図である。
図14において、第2の実施の形態と同様の機能を有する箇所には同一の符号を付している。以下では、上述した第2の実施の形態との相違点を主に説明する。
【0072】
上述した第2の実施の形態においては、自車と障害物との相対位置および相対的な移動方向に加えて、障害物の移動速度に基づいて、当該障害物が報知対象障害物であるか否かを判断した。第2の実施の形態の変形例においては、予想される自車と障害物との接触までの時間(以降、接触時間とも呼ばれることもある)に基づいて、当該障害物が報知対象障害物であるか否かを判断する。具体的には、接触時間が短いほど、当該障害物の存在を運転者に報知する重要性が高まる。そこで、第2の実施の形態の変形例においては、接触時間も加味して、運転者に報知する必要のある障害物を早い段階から的確に判断するようにする。
【0073】
そこで、周囲監視装置100Dは、自車速度検出装置45と接触時間演算部167とを備えている。自車速度検出装置45は、前輪3R、3Lや後輪4R,4Lに備えられ、車輪の回転速度を検出する速度センサであり、検出した回転速度を移動速度検出部165に出力する。また、接触時間演算部167は、移動速度検出部165が出力した自車と障害物との相対位置、相対的な移動方向、および自車と障害物の移動速度から、接触時間を演算する。接触時間演算の一例として、自車と障害物との相対位置から得られる相対距離を、自車および障害物の速度と自車と障害物の相対的な移動方向から求めた自車と障害物の相対的な移動速度で除算することで求められる。接触時間演算部167は、演算した接触時間を判定部170に出力する。
【0074】
判定部170は、接触時間演算部167から出力された接触時間と予め設定した所定の時間閾値とを比較し、接触時間が所定の時間閾値、例えば所定の時間閾値を5秒に設定した場合、5秒以下のときに報知対象障害物が存在すると判定する。
【0075】
このように、以上説明した第2の実施の形態の変形例においては、上述した第1の実施の形態による効果に加えて、周囲監視装置100Dは、予想される自車と障害物との接触時間に基づいて障害物が報知対象障害物であるか否かを判定するので、障害物との接触時間が短い場合に、運転者に報知することが可能となる。
【0076】
≪第3の実施の形態≫
図15は、本発明の第3の実施の形態による周囲監視装置100Bの構成を示すブロック図である。
図15において、第1の実施の形態と同様の機能を有する箇所には同一の符号を付している。以下では、上述した第1の実施の形態との相違点を主に説明する。
【0077】
上述した第1の実施の形態においては、報知対象障害物を視覚的に強調することにより、報知対象障害物の存在を運転者に報知した。第3の実施の形態においては、報知対象障害物が存在する場合に、視覚的な報知に加えて、ダンプトラック1の走行動作を制限する。具体的には、報知対象障害物が存在する場合、移動中のダンプトラック1は減速または停止させ、静止中のダンプトラック1は移動開始できないようにする。
【0078】
そこで、第3の実施の形態による周囲監視装置100Bのコントローラ105Bにおいては、出力制御部180Bがさらに動作制限部182を備えている。判定部170によって報知対象障害物が存在すると判定されると、動作制限部182は、ダンプトラック1の機体状態に応じてダンプトラック1の走行動作を制限するようにダンプトラック1の機体制御装置60に信号を送信する。
【0079】
機体制御装置60は、ダンプトラック1の制動装置を制御することにより、ダンプトラック1が移動している場合(前進中、後進中)にダンプトラック1を減速や停止させるとともに、ダンプトラック1が静止している場合(前進準備中、後進準備中、停車中)にダンプトラック1を発車させないように構成されている。機体制御装置60は、ダンプトラック1の駆動系を制御することによりダンプトラック1の発車を禁止するようにしてもよい。
【0080】
このように、以上説明した第3の実施の形態においては、上述した第1、第2の実施の形態による効果に加えて、以下のような作用効果を奏することができる。
【0081】
周囲監視装置100Bは、判定部170によって障害物が報知対象障害物であると判定された場合に、ダンプトラック1の走行動作を制限する動作制限部182を備える。報知対象障害物が存在する場合に、ダンプトラックを減速、停止、または発車禁止することにより、障害物との接触等のリスクを予め回避することが可能となる。また、上述したように、障害物が報知対象障害物であるか否かを的確に判断するので、必要のある場合のみ、ダンプトラック1の走行動作を制限することが可能となり、運転者に煩わしさを与えることがない。
【0082】
≪第4の実施の形態≫
図16(a)(b)は、本発明の第4の実施の形態によるミリ波レーダ70の搭載位置を示すダンプトラック1の前面図及び後面図、
図17(a)(b)は、本発明の第4の実施の形態によるミリ波レーダ70の搭載位置を示すダンプトラック1の左側面図及び右側面図である。
図18は、本発明の第4の実施の形態による周囲監視装置100Cの構成を示すブロック図である。
図18において、第1の実施の形態と同様の機能を有する箇所には同一の符号を付している。以下では、上述した第1の実施の形態との相違点を主に説明する。
【0083】
第1の実施の形態では、撮像装置20の撮像画像に基づいてダンプトラック1の周囲に存在する障害物を検出したが、第4の実施の形態では、障害物までの相対距離を検出する相対距離検出手段を用いて障害物を検出する。
【0084】
そこで、第4の実施の形態による周囲監視装置100Cは、相対距離検出手段であるミリ波レーダ70をさらに備えている。
図16(a)(b)、
図17(a)(b)はミリ波レーダ70をダンプトラック1の前後左右面に搭載した例である。なお、斜線部は検知範囲を示す。ミリ波レーダ70が検出した相対距離信号は、コントローラ105Cの移動方向検出部160および判定部170に入力される。なお、第4の実施の形態においては、ミリ波レーダ70により障害物を検出するので、コントローラ105Cは障害物検出部150を備えていない。判定部170は、ミリ波レーダ70によって検出した相対距離信号および移動方向検出部160で検出した障害物の移動方向に基づいて、上述した第1の実施の形態と同様に、当該障害物が報知対象障害物であるか否かを判定する。
【0085】
このように、以上説明した第4の実施の形態においては、上述した第1〜第3の実施の形態による効果に加えて、以下のような作用効果を奏することができる。
【0086】
ミリ波レーダ70は雨や霧の場合でも確実に障害物を検出することができるという利点を有するので、撮像装置20による画像データで正確に障害物を検出できないような状況であっても、障害物を確実に検出することが可能となる。
【0087】
−変形例−
(1)以上説明した第1から第4の実施の形態においては、判定部170で報知対象障害物が存在すると判定されると、その情報を運転者に報知したり、その情報に基づいてダンプトラック1の動作を制限するようにした。しかし、これには限定されず、例えば、表示装置50や機体制御装置60を省略し、周囲監視装置を、ダンプトラック1の周囲を監視し、報知対象障害物が存在するか否かを判定するための装置として構成することも可能である。
【0088】
(2)以上説明した第1から第4の実施の形態においては、判定部170で報知対象障害物が存在すると判定されると、報知対象障害物の存在を表示モニタにおいて強調して表示することにより、視覚的な情報として運転者に報知するように構成したが、これには限定されない。例えば、表示モニタにおける強調表示の代わりに、運転室7内に設けた発光器を点灯することにより、運転者に報知するようにしてもよい。あるいは、運転室7内に設けたスピーカにより報知音を発することによって聴覚情報として運転者に報知するようにしてもよい。または、聴覚情報のみ、あるいは視覚情報と聴覚情報を組み合わせて運転者に報知するようにしてもよい。
【0089】
(3)上述した第3の実施の形態においては、出力制御部180Bは表示制御部181と動作制限部182とを有していたが、表示制御部181を省略し、動作制限部182のみを有するようにしてもよい。この場合、判定部170で報知対象障害物が存在すると判定されると、ダンプトラック1の機体状態に応じたダンプトラック1の走行動作の制限のみが行われる。また、動作制限部182については外部にONOFF機構を設け、ONの際のみ動作制限部182を動作させるようにしてもよい。
【0090】
(4)以上説明した第1から第4の実施の形態においては、シフトレバー30とブレーキ操作部材40からの信号に基づいて、ダンプトラック1の機体状態を判断した。ただし、これには限定されず、ダンプトラック1が「前進中」「前進準備中」「後進中」「後進準備中」「停車中」のいずれであるかを判断することができれば、パーキングブレーキスイッチなどの別の操作部材や、自車速度検出装置45などの別のセンサからの信号に基づいてダンプトラック1の機体状態を判断するようにしてもよい。
【0091】
(5)以上説明した第1から第4の実施の形態においては、各カメラ21〜24を用いてダンプトラック1の全周囲を撮像し、全周囲の仮想視点画像を表示モニタに表示するように構成したが、これには限定されない。例えば、前方カメラ21の画像データに基づく前方領域の仮想視点画像のみを表示モニタに表示するように構成してもよい。また、後方カメラ24の画像データによる後方領域の仮想視点画像のみを表示モニタに表示するように構成してもよい。前方領域のみの仮想視点画像、後方領域のみの仮想視点画像、および全周囲の仮想視点画像を切換えて表示するように構成してもよい。
【0092】
(6)以上説明した第1から第4の実施の形態においては、作業機械の一例として大型のダンプトラック1に周囲監視装置100,100A,100B,100Cを搭載する例を説明した。ただし、これには限定されず、自走式の作業機械であれば、小型や中型の油圧ショベル、または油圧ショベル以外のクレーン等、他の作業機械にも同様に搭載することができる。なお、作業機械が下部走行体と、下部走行体に対して旋回可能な上部旋回体とを備える場合、上部旋回体の旋回方向を加味して報知対象領域を設定してもよい。これにより、運転者に報知する必要のある報知対象障害物を的確に判断することが可能となる。
【0093】
また、以上の説明はあくまで一例であり、本発明の特徴を損なわない限り、本発明は上述した実施の形態および変形例に限定されるものではない。第1から第4の実施の形態、および変形例を適宜、組み合わせることも可能である。さらに、本発明の技術的思想の範囲内で考えられる他の形態についても、本発明の範囲内に含まれる。