(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0008】
≪第1の実施の形態≫
以下、図面に基づいて本発明の第1の実施の形態による周囲監視装置について詳細に説明する。なお、第1の実施の形態では、作業機械として大型の油圧ショベルに周囲監視装置を搭載した場合を例として説明する。
図1は、本発明の第1の実施の形態による周囲監視装置を搭載した油圧ショベル10の側面図、
図2は、
図1に示す油圧ショベル10の正面図、
図3は、
図1に示す油圧ショベル10の上面図である。なお、
図1においては、油圧ショベル10のフロント作業機(フロントアタッチメント)の図示を省略している。
【0009】
油圧ショベル10は、一対のクローラ11,12を有する下部走行体13と、下部走行体13上に旋回可能に設けられた上部旋回体14とを備える。上部旋回体14は、上段部14aと下段部14bから構成されている。
図3において斜線のハッチングを施した部分が下段部14bに相当する。上部旋回体14の前方左側には運転室15が設けられ、上部旋回体14の前方中央にはブーム16、アーム17およびバケット18からなるフロント作業機19が設けられている。油圧ショベル10のフロント作業機19を除く部分が油圧ショベル10の機械本体である。
【0010】
下部走行体13のクローラ11,12は、それぞれ不図示の走行モータにより駆動される。上部旋回体14は、その中心部に設けられた旋回モータ(不図示)により下部走行体13に対して旋回する。ブーム16、アーム17およびバケット18は、それぞれ不図示のブームシリンダ、アームシリンダおよびバケットシリンダの伸縮により俯仰動(回動)される。これらの各モータおよび各シリンダは上部旋回体14のエンジン室に設けられた油圧ポンプからの圧油によって駆動される。
【0011】
図4は、運転室15内を模式的に示した上面図である。
図4に示すように、運転室15には、運転席20と、運転席20の左右に設けられたコンソールボックス21a,21bと、運転席20の前方のフロアに設けられた走行ペダル23a,23bと、運転席20の後方に設けられたコントローラ110と、運転席20の前方左側に設けられた表示装置120とが設けられている。コンソールボックス21a,21bには、フロント作業機19の駆動操作、上部旋回体14の旋回操作を行うためにオペレータによって操作される操作レバー22a,22bが設置されている。操作レバー22a,22bは、前後左右方向に揺動可能に構成されている。走行ペダル23a,23bは、クローラ11,12を駆動制御するためにオペレータによって前後方向に踏込操作される。走行ペダル23a,23bには、走行用の操作レバー24a,24bが設置されている。
【0012】
図5は、第1の実施の形態による周囲監視装置100の構成を示すブロック図である。周囲監視装置100は、コントローラ110と、表示装置120と、撮像装置130とから構成される。撮像装置130は、油圧ショベル10の全周囲の画像を取得するための装置であり、左前側方カメラ131と、右前方カメラ132と、右側方カメラ133と、後方カメラ134とを備えている。
【0013】
左前側方カメラ131は、運転室15の左前方の下部に設置されており、
図1、
図2に破線で示すように、油圧ショベル10の前方左側から左側方までの領域を撮像可能に構成されている。左前側方カメラ131の撮像領域は、油圧ショベル10の一部も含むように設定されている。すなわち、左前側方カメラ131によって、オペレータにとって死角となる運転室15の直下も撮像できるように構成されている。右前方カメラ132は、上部旋回体14の右前方部分に設置されており、
図2に破線で示すように、油圧ショベル10の前方右側の領域を撮像可能に構成されている。右前方カメラ132の撮像領域は、油圧ショベル10の一部も含むように設定されている。これにより、油圧ショベル10が
図3に示すように前方を向いている場合は、左前側方カメラ131および右前方カメラ132によって撮像される画像に下部走行体13のクローラ11,12の一部も含まれることになる(
図7参照)。
【0014】
右側方カメラ133は、上部旋回体14の右側方部分に設置され、油圧ショベル10の右側方の領域を撮像可能に構成されている。後方カメラ134は、上部旋回体14の後部に設置され、油圧ショベル10の後方の領域を撮像可能に構成されている。なお、各カメラ131〜134は、例えば
図1および
図2に破線で示すように撮像領域の一部がオーバーラップするように画角および光軸方向が設定されており、これにより、4つのカメラ131〜134によって油圧ショベル10の全周囲の画像を取得できるように構成されている。
【0015】
図2に示すように、左前側方カメラ131と右前方カメラ132は、フロント作業機19の左側の前方領域と右側の前方領域をそれぞれ撮像するように、フロント作業機19の左側の位置、および右側の位置にそれぞれ設置されている。これにより、フロント作業機19の稼働状況や動作姿勢に拘わらず、フロント作業機19に遮られることなく、左前側方カメラ131と右前方カメラ132によって油圧ショベル10の前方領域を撮像することができる。なお、右前方カメラ132は油圧ショベル10の前方右側の領域を撮像するために、油圧ショベル10の右前方部分のうちフロント作業機19寄りに配置されている。一方、左前側方カメラ131は油圧ショベルの前方左側の領域に加えて左側方の領域を撮像するために、油圧ショベル10の左前方部分の左側端部、すなわちフロント作業機19から最も遠い位置に配置されている。
【0016】
図3に示すように、左前側方カメラ131、右前方カメラ132、右側方カメラ133、および後方カメラ134は、運転室15のオペレータから死角となる油圧ショベル10の直近の領域を含めて撮像するために、上部旋回体14の最外縁となる位置に配置されている。また、各カメラ131〜134で撮像された画像は、後述するように合成されるので、各カメラ131〜134は上部旋回体14の上段部14aにおいて略同じ高さの位置に配置されている。ただし、上部旋回体14の下段部14bは上段部14aよりも外側に張り出している部分があるので、左前側方カメラ131、右前方カメラ132および後方カメラ134は、下段部14bの最外縁、すなわち上部旋回体14の最外縁相当の位置に配置されるように、エクステンションバー131a,132a,134aによって支持されている。
【0017】
各カメラ131〜134で撮像された油圧ショベル10の周囲画像の画像データはコントローラ110に入力される。
【0018】
コントローラ110は、CPUと、ROMおよびRAM等のCPU周辺部品とから構成される電子制御ユニットであり、周囲監視装置100全体の制御を行う。コントローラ110は、例えばCPUのソフトウェア形態により、画像補正処理部111、画像変換部112、画像合成処理部113、および表示画面設定部114を構成する。コントローラ110は、撮像装置130から入力された画像データに対し、上方視点となるように視点変換して合成し、仮想視点画像として表示装置120に表示させる。画像補正処理部111、画像変換部112、および画像合成処理部113が画像生成装置を構成する。コントローラ110における制御については、後述する。
【0019】
表示装置120は、例えば液晶パネル等から構成される画像表示部である表示モニタ121と、画面切替操作部材122とを有する。表示モニタ121には、コントローラ110からの信号に応じて文字や画像が表示される。画面切替操作部材122は、表示モニタ121に表示される表示画面を切り替えるためにオペレータによって操作される操作部材であり、例えばスイッチ等から構成される。
次に、周囲監視装置100における仮想視点画像の生成表示制御について説明する。ここでは、後方カメラ134の画像データを例として説明する。まず、後方カメラ134から入力された画像データは、画像補正処理部111に入力される。画像補正処理部111は、画像データに対して、カメラ光学系パラメータに基づく収差補正、コントラスト補正、色調補正等の画像補正を行い、入力された画像の画質を向上させる。
【0020】
画像変換部112は、画像補正処理部111から入力された画像データに基づいて仮想視点画像を生成する。
図1に一点鎖線で示すように、後方カメラ134の光軸が油圧ショベル10の接地面Lに対してなす角度はθである。すなわち、後方カメラ134からは、接地面Lに対して角度θを持った画像が得られる。画像変換部112は、後方カメラ134から得た画像データに対し、接地面Lを仮想平面とした仮想視点VFの光軸が垂直となるように座標変換し、仮想視点画像を作成する。これにより、接地面Lに対して角度θを持った斜め上方からのカメラ画像が、上方視点からの仮想視点画像、すなわち俯瞰画像に変換される。
【0021】
画像変換部112は、左前側方カメラ131、右前方カメラ132、および右側方カメラ133から得た画像データに対しても、同様に座標変換を施し、仮想視点画像を作成する。
【0022】
画像合成処理部113は、左前側方カメラ131の画像データに基づく仮想視点左前側方画像、右前方カメラ132の画像データに基づく仮想視点右前方画像、右側方カメラ133の画像データに基づく仮想視点右側方画像、および後方カメラ134の画像データに基づく仮想視点後方画像を合成し、油圧ショベル10の全周囲の俯瞰画像に相当する仮想視点画像を生成する。なお、画像合成処理部113は、右側方カメラ133から得た画像データを右方向に90度回転するとともに、後方カメラ134から得た画像データを180度回転したうえで、合成している。
【0023】
表示画面設定部114は、画像切替操作部材122からの信号に応じて、画像合成処理部113で生成された仮想視点画像を表示する際の表示範囲を設定する。表示装置120の表示モニタ121には、コントローラ110からの信号に応じて油圧ショベル10の全周囲の仮想視点画像が表示される。表示モニタ121に表示される仮想視点画像は、撮像装置130から入力される画像データに基づいて逐次、更新される。
【0024】
以下に、表示装置120に表示される画像について説明する。
図6には、油圧ショベル10とその周囲の様子を概略的に示している。
図7に、
図6に示すような状況における表示装置120の表示例を示す。
図6に示すように、油圧ショベル10の前方にはダンプトラック50aが停車しており、油圧ショベル10の左側方にはダンプトラック50bが停車している。
【0025】
表示モニタ121には、その中央位置に油圧ショベル10の平面図を図形化した作業機械画像60が表示されている。作業機械画像60は、油圧ショベル10の上部旋回体14に相当するイラストである。作業機械画像60において、運転室15に相当する位置には運転室枠画像61が表示され、フロント作業機19に相当する位置にはフロント枠画像62が表示されている。運転室枠画像61は運転室15の外形を表す矩形の枠状のイラストである。同様に、フロント枠画像62は、フロント作業機19の外形を表す矩形の枠状のイラストである。枠画像61,62は、油圧ショベル10の一部分を表す部分画像である。
【0026】
作業機械画像60の周囲には、各カメラ131〜134の画像データに基づいて視点変換し合成した仮想視点画像70が表示される。仮想視点画像70は、上述したように、左前側方カメラ131の画像データに基づく仮想視点左前側方画像71、右前方カメラ132の画像データに基づく仮想視点右前方画像72、右側方カメラ133の画像データに基づく仮想視点右側方画像73、および後方カメラ134の画像データに基づく仮想視点後方画像74から構成される。
図7に示すように、仮想視点画像70は、左前側方カメラ131によって撮像されたクローラ11の一部、および右前方カメラ132によって撮像されたクローラ12の一部も含んでいる。
【0027】
仮想視点左前側方画像71と仮想視点右前方画像72との間、仮想視点右前方画像72と仮想視点右側方画像73との間、および仮想視点右側方画像73と仮想視点後方画像74との間、仮想視点後方画像74と仮想視点左前方画像71との間には、それぞれ、表示領域の境界としての境界ライン75,76,77,78が表示されている。
【0028】
このように仮想視点画像70を表示することにより、表示モニタ121には、各カメラ131〜134が撮像している被写体が、油圧ショベル10を中心として上方から見下ろしたときに実際に存在する方向および位置(距離)に表示される。
図7の表示例においては、油圧ショベル10の前方に存在するダンプトラック50aと左側方に存在するダンプトラック50bが、油圧ショベル10を中心として実際に存在する方向および位置に対応する位置に表示されている。また、油圧ショベル10のクローラ11,12の一部も油圧ショベル10、より具体的には上部旋回体14を中心として実際に存在する方向および位置に対応する位置に表示されている。
【0029】
図7に示すように、仮想視点画像70には、運転室枠画像61およびフロント枠画像62が重ね合わせて表示されているが、運転室枠画像61とフロント枠画像62は枠形のイラストであるので、枠画像61,62が重畳された部分の仮想視点画像70、すなわち枠の内部の仮想視点画像も視認可能である。したがって、例えば運転室15の直下に存在するクローラ11の一部およびその近辺も、運転室画像61によって視認性が妨げられることはない。
【0030】
図8に、表示モニタ121の別の表示例を示す。
図8の表示例においては、画像合成処理部113で生成された仮想視点画像のうち、特定の範囲を表示画像として切り出して表示している。上述したように、表示画像、すなわち表示範囲の切換えは、オペレータが表示装置120の画面切替操作部材122を操作することによって行うことができる。画面切替操作部材122を操作することによって、画像合成処理部113で生成された最大範囲の仮想視点画像と、例えば油圧ショベル10の作業半径に対応する範囲の表示画像とを切換えて表示することができる。
【0031】
以下に、油圧ショベル10の動作維持における周囲監視装置100の作用について説明する。
【0032】
図9(a)(b)に、油圧ショベル10の旋回時の周囲の様子を概略的に示す上面図と、表示モニタ121の表示例を示す。
図9(a)は
図6に示す状態から油圧ショベル10が右方向に旋回する様子を示している。作業機械画像60は表示モニタ121の中央位置に固定して表示されているので、油圧ショベル10の旋回動作に伴い、
図9(b)に示す表示モニタ121の表示画像上は、油圧ショベル10の周囲画像、すなわち仮想視点画像70が旋回方向とは反対方向に回転するように見える。前方を向いていた油圧ショベル10が矢印で示すように右方向に旋回する場合、フロント作業機19が前方のダンプトラック50aと接触する可能性がある。また、油圧ショベル10の後端部がダンプトラック50bと衝突する可能性がある。周囲監視装置100においては、
図9(b)に示すように、表示モニタ121に油圧ショベル10の旋回動作に対応して更新される仮想視点画像70が表示されるので、オペレータは表示モニタ121の表示画像から油圧ショベル10の周囲に存在するダンプトラック50a,50bの存在方向および位置を確認しながら、安全に旋回動作を行うことができる。
【0033】
図10(a)(b)に、油圧ショベル10の前進時の周囲の様子を概略的に示す上面図と、表示モニタ121の表示例を示す。
図10(a)に示すように、油圧ショベル10の右前方にはサービスカー50cが停車している。油圧ショベル10の左前方の運転室15にいるオペレータからは、フロント作業機19によってサービスカー50cが隠れて目視できない可能性がある。周囲監視装置100においては、
図10(b)に示すように、表示モニタ121に油圧ショベル10の前進動作に対応して更新される仮想視点画像70が表示されるので、オペレータは表示モニタ121の表示画像からサービスカー50cが実際に存在する方向および位置を確認しながら、安全に前進動作を行うことができる。
【0034】
このように、以上説明した第1の実施の形態においては、以下のような作用効果を奏することができる。
(1)周囲監視装置100は、フロント作業機19の一方側の機械本体に設けられた左前側方カメラ(第1の撮像部)131と、フロント作業機19の他方側の機械本体に設けられた右前方カメラ(第2の撮像部)132とを有し、機械本体の一部分であるクローラ11,12の一部を含む油圧ショベル10の前方領域を撮像する撮像装置100と、撮像装置100によって取得された画像を上方視点となるように視点変換して仮想視点画像を生成するコントローラ110と、コントローラ110によって生成された仮想視点画像70を表示する表示装置120とを備えている。表示装置120の表示モニタ121には、油圧ショベル10の一部分である運転室15およびフロント作業機19を表す枠画像61,62を、枠画像61,62を通して仮想視点画像70が視認可能となるように仮想視点画像70に重ね合わせて表示する。フロント作業機19の両側に一つずつカメラを設けることにより、フロント作業機19の稼働状況に拘わらず、オペレータはフロント作業機19に遮られることなく油圧ショベル10の前方領域を監視することができる。また、撮像装置130によって取得された画像に基づく仮想視点画像を表示モニタ121に表示することにより、オペレータは、油圧ショベル10の前方領域に存在するダンプトラック50a等の障害物との位置関係を瞬時に把握することができる。さらに、撮像装置130はクローラ11,12の一部も含むように前方領域を撮像するので、オペレータから死角となる油圧ショベル10の直近の領域、とくに運転室15の直下の領域の状況も表示モニタ121に表示される。このように、表示モニタ121に表示される画像によって、オペレータの周囲確認を補助することができる。オペレータは、油圧ショベル10の直近の領域を含む前方領域の状況を把握しながら快適な操作を行うことが可能となる。
【0035】
(2)左前側方カメラ131の撮像領域は、
図1に示すように油圧ショベル10の前方領域に加えて、油圧ショベル10の一方側の側方領域、具体的には左側方領域を含むように構成されている。これにより、油圧ショベル10の一方側の側方領域のみを撮像するためのカメラの設置が不要となり、部品点数の増加を抑制できる。
【0036】
(3)周囲監視装置100の撮像装置130は、右側方カメラ133と後方カメラ134も備えており、油圧ショベル10の前方領域に加えて側方領域および後方領域も撮像することができる。表示装置120の表示モニタ121には、
図7,8に示すように油圧ショベル10の全周囲の仮想視点画像70が表示される。これにより、オペレータは、表示モニタ121に表示された画像から、油圧ショベル10の前方領域を含む全周囲を監視することができ、油圧ショベル10の周囲状況を把握しながら、快適な操作を行うことができる。
【0037】
≪第2の実施の形態≫
図11は、本発明の第2の実施の形態の変形例による周囲監視装置を搭載した油圧ショベル10Aの側面図、
図12は、
図11に示す油圧ショベル10Aの正面図、
図13は、
図11に示す油圧ショベル10Aの上面図である。なお、
図11においては、油圧ショベル10Aのフロント作業機19の図示を省略している。
図14は、第2の実施の形態による周囲監視装置100Aの構成を示すブロック図である。
図11〜14において、第1の実施の形態と同様の機能を有する箇所には同一の符号を付している。第2の実施の形態は、油圧ショベル10Aの周囲を撮像するカメラの数およびカメラの設置位置が、上述した第1の実施の形態と異なっている。以下では、上述した第1の実施の形態との相違点を主に説明する。
【0038】
周囲監視装置100Aを構成する撮像装置130Aは、5つのカメラ132,133,134,135,136を有している。具体的には、上述した第1の実施の形態における左前側方カメラ131の代わりに、左前方カメラ135と左側方カメラ136が設けられている。左前方カメラ135は、運転室15の左前方の下部に設定されており、
図11,12に破線で示すように、油圧ショベル10Aの前方左側の領域を撮像可能に構成されている。左前方カメラ135の撮像領域は、油圧ショベル10Aの一部も含むように設定されている。
【0039】
左側方カメラ136は、上部旋回体14の左側方部分に設置され、油圧ショベル10Aの左側方の領域を撮像可能に構成されている。左側方カメラ136は、下段部14bの最外縁、すなわち上部旋回体14の最外縁相当の位置に配置されるように、エクステンションバー136aによって支持されている。
【0040】
右前方カメラ132は、第1の実施の形態とは異なり、上部旋回体14の右前方部分のうち最も外側、すなわちフロント作業機19から最も遠い位置に配置されている。
図12に示すように、右前方カメラ132と左前方カメラ135は、フロント作業機19を基準として左右対称に配置されている。また、各カメラ132〜136は上部旋回体14の上段部14aにおいて略同じ高さの位置に配置されている。
【0041】
各カメラ132〜136で撮像された油圧ショベル10Aの周囲画像の画像データはコントローラ110Aに入力される。コントローラ110Aは、撮像装置130Aから入力された画像データを、上述した第1の実施の形態と同様に視点変換して合成し、仮想視点画像として表示装置120に表示させる。なお、画像合成処理部113は、仮想視点画像生成の際に、左側方カメラ136から得た画像データを左方向に90度回転したうえで合成する。
【0042】
図15に、油圧ショベル10Aとその周囲の様子を概略的に示す。
図16(a)(b)は、左前方カメラ135によって撮像される画像、右前方カメラ132によって撮像される画像の一例を示す。
図16(a)(b)に示すように、左前方カメラ135および右前方カメラ132によって撮像される画像には、油圧ショベル10Aの前方に存在するダンプトラック50aとともに、油圧ショベル10Aの一部、具体的には、クローラ11,12の一部が含まれている。
【0043】
画像合成処理部113は、
図16(a)(b)に示す左前方カメラ135の画像データFLと右前方カメラ132の画像データFRについて、それぞれ画像データの下側、すなわち合成後の画像における内側を圧縮するとともに、画像データの上側、すなわち合成後の画像における外側を伸長したうえで合成処理を行っている。また、右側方カメラ133の画像データ、後方カメラ134の画像データ、左側方カメラ136の画像データについても同様に圧縮または伸長処理を行ったうえで合成する。
【0044】
図17に、
図16に示す状況における表示装置120の表示例を示す。第2の実施の形態においては、5つのカメラ132〜136で得られた画像に基づいて仮想視点画像70Aが生成される。具体的には、仮想視点画像70Aは、左前方カメラ135の画像データに基づく仮想視点左前方画像71a、左側方カメラ136の画像データに基づく仮想視点左側方画像71b、右前方カメラ132の画像データに基づく仮想視点右前方画像72、右側方カメラ133の画像データに基づく仮想視点右側方画像73、および後方カメラ134の画像データに基づく仮想視点後方画像74から構成される。仮想視点左前方画像71aと仮想視点左側方画像71bとの間には、表示領域の境界としての境界ライン79が表示されている。
【0045】
このように、以上説明した第2の実施の形態においては、上述した第1の実施の形態による効果に加えて、以下のような作用効果を奏することができる。
【0046】
左前方カメラ135と右前方カメラ132を、フロント作業機19を基準として略左右対称に配置することにより、油圧ショベル10の左前方領域と右前方領域の対称的な画像を取得することができる。
【0047】
以上説明した第2の実施の形態においては、各カメラ132〜136の画像データに対して圧縮または伸長処理を施したうえで合成したが、第1の実施の形態においても、同様に、各カメラ131〜134の画像データに対して圧縮または伸長処理を施したうえで合成してもよい。ただし、各カメラ131〜136の画像データから油圧ショベル10,10Aの全周囲の画像を合成できれば、画像データを圧縮または伸長する補正処理は必須ではない。例えば、各カメラ131〜136の撮像領域が部分的に重なる場合は、重なる範囲については一方のカメラの画像データを利用し、他方のカメラの画像データを利用しないようにすることができる。または、重なる範囲については他方のカメラの画像データに一方のカメラの画像データを上書きしてもよい。画像補正処理部111における補正処理も必須ではない。
【0048】
以上説明した第1および第2の実施の形態においては、各カメラ131〜136を用いて油圧ショベル10,10Aの全周囲を撮像し、全周囲の上方視点画像を表示モニタ121に表示するように構成したが、これには限定されない。例えば、左前側方カメラ131もしくは左前方カメラ135の画像データと、右前方カメラ132の画像データとに基づく前方領域の上方視点画像のみを表示モニタ121に表示するように構成してもよい。この場合は、例えば、
図17の仮想視点左前方画像71aと仮想視点右前方画像72とからなる画像が表示モニタ121に表示される。また、後方カメラ134の画像データによる後方領域の上方視点画像のみを表示モニタ121に表示するように構成してもよい。前方領域のみの上方視点画像、後方領域のみの上方視点画像、および全周囲の上方視点画像を切換えて表示するように構成してもよい。
【0049】
上述した第1および第2の実施の形態においては、仮想視点画像70に運転室枠画像61とフロント枠画像62とを重ね合わせて表示したが、これには限定されない。例えば、運転室枠画像61とフロント枠画像62のいずれか一方のみを表示するようにしてもよい。また、枠画像61,62の形状は上述したものには限定されない。枠画像61,62の代わりに、仮想視点画像70において運転室15とフロント作業機19に相当する位置に、仮想視点画像70が透過して視認可能となるような画像を重ね合わせて表示するようにしてもよい。また、作業機械画像60のデザインも、上述した実施の形態には限定されない。
【0050】
上述した第1および第2の実施の形態では、作業機械として大型の油圧ショベルに周囲監視装置を適用する例を説明したが、これには限定されず、本発明による周囲監視装置100,100Aを、小型や中型の油圧ショベル、または油圧ショベル以外のクレーン等、他の作業機械にも同様に適用することができる。
【0051】
また、以上の説明はあくまで一例であり、本発明の特徴を損なわない限り、本発明は上述した実施の形態および変形例に限定されるものではない。第1の実施の形態と第2の実施の形態を組み合わせることも可能である。さらに、本発明の技術的思想の範囲内で考えられる他の形態についても、本発明の範囲内に含まれる。