IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社小松製作所の特許一覧

特開2023-174148作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法
<>
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図1
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図2
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図3
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図4
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図5
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図6
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図7
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図8
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図9
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図10
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図11
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図12
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図13
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図14
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図15
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図16
  • 特開-作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法 図17
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023174148
(43)【公開日】2023-12-07
(54)【発明の名称】作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法
(51)【国際特許分類】
   E02F 9/26 20060101AFI20231130BHJP
   E02F 3/84 20060101ALI20231130BHJP
   E02F 9/20 20060101ALI20231130BHJP
   H04N 7/18 20060101ALI20231130BHJP
【FI】
E02F9/26 B
E02F3/84 A
E02F9/20 N
H04N7/18 J
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2022086846
(22)【出願日】2022-05-27
(71)【出願人】
【識別番号】000001236
【氏名又は名称】株式会社小松製作所
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】高濱 和久
(72)【発明者】
【氏名】津村 総一
【テーマコード(参考)】
2D003
2D015
5C054
【Fターム(参考)】
2D003AA02
2D003AA05
2D003AB04
2D003AC05
2D003BA02
2D003BA04
2D003BA06
2D003BB04
2D003CA02
2D003DA02
2D003DA04
2D003DB04
2D003DB05
2D003FA02
2D015HA03
2D015HB04
2D015HB05
5C054AA02
5C054CA04
5C054CC02
5C054DA07
5C054FD01
5C054FE14
5C054FE17
5C054HA29
(57)【要約】
【課題】作業効率の低下を抑制すること。
【解決手段】作業機械の表示システムは、作業機械の車体に連結されたリッパ作業機の作業対象の3次元データを取得する3次元データ取得部と、作業対象の画像を示す作業対象画像を取得する画像データ取得部と、3次元データとリッパ作業機のシャンクに設けられたリッパ刃先の初期位置とリッパポイントの移動経路とに基づいて、作業対象においてリッパポイントが接触する接触位置を算出する接触位置算出部と、接触位置を示す接触位置画像を生成する接触位置画像生成部と、作業対象画像と接触位置画像とを合成して、表示装置に表示させる表示制御部と、を備える。
【選択図】図5
【特許請求の範囲】
【請求項1】
作業機械の車体に連結されたリッパ作業機の作業対象の3次元データを取得する3次元データ取得部と、
前記作業対象の画像を示す作業対象画像を取得する画像データ取得部と、
前記3次元データと前記リッパ作業機のシャンクに設けられたリッパポイントの初期位置と前記リッパポイントの移動経路とに基づいて、前記作業対象において前記リッパポイントが接触する接触位置を算出する接触位置算出部と、
前記接触位置を示す接触位置画像を生成する接触位置画像生成部と、
前記作業対象画像と前記接触位置画像とを合成して、表示装置に表示させる表示制御部と、を備える、
作業機械の表示システム。
【請求項2】
前記表示制御部は、前記リッパポイントが前記作業対象に接触する前に、前記作業対象画像と前記接触位置画像とを合成して、前記表示装置に表示させる、
請求項1に記載の作業機械の表示システム。
【請求項3】
前記作業対象画像と前記接触位置画像とを合成することは、前記作業対象画像に前記接触位置画像を重畳させることを含む、
請求項2に記載の作業機械の表示システム。
【請求項4】
前記初期位置を決定する初期位置決定部を備え、
前記初期位置決定部は、予め定められた前記リッパ作業機の初期姿勢に基づいて、前記初期位置を決定する、
請求項1に記載の作業機械の表示システム。
【請求項5】
前記初期位置を決定する初期位置決定部を備え、
前記初期位置決定部は、前記リッパ作業機の初期姿勢を検出する姿勢センサの検出データに基づいて、前記初期位置を決定する、
請求項1に記載の作業機械の表示システム。
【請求項6】
前記姿勢センサの検出データに基づいて、前記シャンクの少なくとも一部と前記作業対象との間に表示される案内画像を生成する案内画像生成部を備え、
前記表示制御部は、前記作業対象画像と前記案内画像とを合成して、前記表示装置に表示させる、
請求項5に記載の作業機械の表示システム。
【請求項7】
前記接触位置算出部は、予め導出された前記移動経路に基づいて、前記接触位置を算出する、
請求項1に記載の作業機械の表示システム。
【請求項8】
前記リッパ作業機は、前記車体に連結され前記リッパポイントを含むシャンクを上下方向に移動させるリフトシリンダと、前記車体に連結され前記リッパポイントを前後方向に移動させるチルトシリンダと、前記車体と前記シャンクとを連結するリッパアームと、を有し、
前記移動経路は、前記リッパ作業機の構造に基づいて予め導出される、
請求項7に記載の作業機械の表示システム。
【請求項9】
前記3次元データ取得部により取得された前記作業機械が作業する作業現場の3次元データに基づいて、前記作業現場の3次元マップデータを生成するマップデータ生成部と、
前記マップデータ生成部により生成された前記3次元マップデータを記憶するマップデータ記憶部と、を備え、
前記3次元マップデータは、前記作業対象の3次元データを含み、
前記接触位置算出部は、前記マップデータ記憶部に記憶されている前記3次元マップデータに基づいて、前記接触位置を算出する、
請求項1に記載の作業機械の表示システム。
【請求項10】
請求項1から請求項9のいずれか一項に記載の作業機械の表示システムを備え、
前記表示装置は、前記作業機械が作業する作業現場から離れた遠隔地に配置される、
作業機械の遠隔操作システム。
【請求項11】
請求項1から請求項9のいずれか一項に記載の作業機械の表示システムを備える、
作業機械。
【請求項12】
作業機械の車体に連結されたリッパ作業機の作業対象の3次元データを取得することと、
前記作業対象の画像を示す作業対象画像を取得することと、
前記3次元データと前記リッパ作業機のシャンクに設けられたリッパポイントの初期位置と前記リッパポイントの移動経路とに基づいて、前記作業対象において前記リッパポイントが接触する接触位置を算出することと、
前記接触位置を示す接触位置画像を生成することと、
前記作業対象画像と前記接触位置画像とを合成して、表示装置に表示させることと、を含む、
作業機械の表示方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、作業機械の表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の表示方法に関する。
【背景技術】
【0002】
作業機械の表示システムに係る技術分野において、特許文献1に開示されているような表示システムが知られている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2020-197045号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
作業機械の遠隔操作において、操作者が作業機械と作業対象との相対位置を認識することが困難になると、作業効率が低下する可能性がある。また、作業機械に搭乗したオペレータが作業機を操作する場合も、オペレータの熟練度によっては作業機と作業対象との距離を把握することが難しい場合があり、作業効率が低下する可能性もある。
【0005】
本開示は、作業効率の低下を抑制することを目的とする。
【課題を解決するための手段】
【0006】
本開示に従えば、作業機械の車体に連結されたリッパ作業機の作業対象の3次元データを取得する3次元データ取得部と、作業対象の画像を示す作業対象画像を取得する画像データ取得部と、3次元データとリッパ作業機のシャンクに設けられたリッパポイントの初期位置とリッパポイントの移動経路とに基づいて、作業対象においてリッパポイントが接触する接触位置を算出する接触位置算出部と、接触位置を示す接触位置画像を生成する接触位置画像生成部と、作業対象画像と接触位置画像とを合成して、表示装置に表示させる表示制御部と、を備える、作業機械の表示システムが提供される。
【発明の効果】
【0007】
本開示によれば、作業効率の低下が抑制される。
【図面の簡単な説明】
【0008】
図1図1は、第1実施形態に係る作業機械の遠隔操作システムを示す模式図である。
図2図2は、第1実施形態に係る作業機械を示す側面図である。
図3図3は、第1実施形態に係る作業機械を示す背面図である。
図4図4は、第1実施形態に係る表示システムを含む遠隔操作システムを示すブロック図である。
図5図5は、第1実施形態に係る接触位置の算出方法を説明するための図である。
図6図6は、第1実施形態に係る接触位置の算出方法を説明するための図である。
図7図7は、第1実施形態に係る表示装置に表示される表示データの一例を示す図である。
図8図8は、第1実施形態に係る3次元マップデータの生成方法を示すフローチャートである。
図9図9は、第1実施形態に係るリッパ作業機の作業における表示方法を示すフローチャートである。
図10図10は、第1実施形態に係る表示装置に表示される作業対象画像及び接触位置画像を示す図である。
図11図11は、第1実施形態の変形例に係る接触位置画像を示す図である。
図12図12は、第1実施形態の変形例に係る接触位置画像を示す図である。
図13図13は、第1実施形態の変形例に係る接触位置画像を示す図である。
図14図14は、第2実施形態に係る表示システムを含む遠隔操作システムを示すブロック図である。
図15図15は、第2実施形態に係る表示装置に表示される作業対象画像及び接触位置画像を示す図である。
図16図16は、第2実施形態の変形例に係る接触位置画像を示す図である。
図17図17は、実施形態に係るコンピュータシステムを示すブロック図である。
【発明を実施するための形態】
【0009】
以下、本開示に係る実施形態について図面を参照しながら説明するが、本開示は実施形態に限定されない。以下で説明する実施形態の構成要素は、適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。
【0010】
実施形態においては、「左」、「右」、「前」、「後」、「上」、及び「下」の用語を用いて各部の位置関係について説明する。これらの用語は、作業機械10の中心を基準とした相対位置又は方向を示す。
【0011】
[第1実施形態]
第1実施形態について説明する。
【0012】
<遠隔操作システム>
図1は、本実施形態に係る作業機械10の遠隔操作システム100を示す模式図である。遠隔操作システム100は、作業現場で作業する作業機械10を遠隔操作する。
【0013】
遠隔操作システム100の少なくとも一部は、遠隔操作室200に配置される。遠隔操作室200は、作業現場から離れた遠隔地に設置される。遠隔操作システム100は、遠隔操作装置140と、表示装置120と、コントローラ110とを備える。
【0014】
遠隔操作装置140は、遠隔操作室200に配置される。遠隔操作装置140は、遠隔操作室200において操作者に操作される。操作者は、リッパ作業機11を上下前後に動作させる操作信号を生成するための操作をする。操作者は、走行体3を前進方向、後進方向に走行させる操作信号を生成するための操作をする。操作者は、掘削ブレード2を上下方向に動作させるためにリフトシリンダ6を動作させる操作信号を生成するための操作をする。操作者は、掘削ブレードの傾きを変えるためにチルトシリンダ5を動作させる操作信号を生成するための操作をする。操作者は、操縦シート150に着座した状態で、遠隔操作装置140を操作することができる。
【0015】
表示装置120は、遠隔操作室200に配置される。表示装置120は、作業現場の画像を表示する。遠隔操作室200の操作者は、表示装置120を介して作業現場の状況を視認することができる。
【0016】
操作者は、表示装置120に表示される作業現場の画像を見ながら、遠隔操作装置140を操作する。作業機械10は、遠隔操作装置140によって遠隔操作される。
【0017】
コントローラ110は、遠隔操作室200に配置される。コントローラ110は、コンピュータシステムを含む。
【0018】
作業機械10は、コントローラ80を備える。コントローラ80は、コンピュータシステムを含む。
【0019】
コントローラ110とコントローラ80とは、通信システム400を介して通信する。通信システム400として、インターネット(internet)、ローカルエリアネットワーク(LAN:Local Area Network)、携帯電話通信網、又は衛星通信網が例示される。通信システム400は、通信されるデータを中継する中継局を含んでもよい。
【0020】
<作業機械>
図2は、本実施形態に係る作業機械10を示す側面図である。図3は、本実施形態に係る作業機械10を示す背面図である。本実施形態においては、作業機械10がブルドーザであることとする。以下の説明において、作業機械10を適宜、ブルドーザ10、と称する。
【0021】
図2及び図3に示すように、ブルドーザ10は、車体1と、掘削作業機20と、走行体3と、リッパ作業機11と、位置センサ30と、3次元センサ40と、カメラ50と、コントローラ80とを備える。
【0022】
車体1は、キャブ9とエンジン室8とを有する。キャブ9は、車体1の上部且つ後部に配置される。エンジン室8は、キャブ9の前方に配置される。エンジン室8にエンジン21が収容される。エンジン21は、ブルドーザ10の駆動源である。エンジン21の上方にエンジンフード22が配置される。車体1の後部に燃料タンク26が配置される。燃料タンク26は、キャブ9の後方に配置される。燃料タンク26の内部に燃料が貯留される。燃料タンク26からエンジン21に燃料が供給される。
【0023】
燃料タンク26の上方に作業台23が配置される。作業台23は、キャブ9の後方に配置される。作業台23にガードレール24が取り付けられる。作業者は、作業台23において作業を実施することができる。作業者が実施する作業として、キャブ9の窓の清掃、又は燃料タンク26のフィルタ交換が例示される。
【0024】
掘削作業機20は、作業対象の掘削作業又は整地作業を実施する。掘削作業機20は、車体1に連結される。掘削作業機20の少なくとも一部は、車体1の前方に配置される。掘削作業機20は、掘削ブレード2と、フレーム4と、チルトシリンダ5と、リフトシリンダ6とを有する。
【0025】
掘削ブレード2は、車体1の前方に配置される。掘削ブレード2は、切刃2Cを有する。フレーム4は、掘削ブレード2を支持する。フレーム4の一端部は、回動機構を介して掘削ブレード2の背面に連結される。フレーム4の他端部は、回動機構を介して走行体3の側部に接続される。フレーム4は、掘削ブレード2の背面の左部に連結される第1のフレーム4と、掘削ブレード2の背面の右部に連結される第2のフレーム4とを含む。
【0026】
チルトシリンダ5及びリフトシリンダ6のそれぞれは、掘削ブレード2を動作させる。チルトシリンダ5は、掘削ブレード2をチルト動作させるために駆動する。リフトシリンダ6は、掘削ブレード2を上下動作させるために駆動する。チルトシリンダ5の一端部は、回動機構を介して掘削ブレード2の背面に連結される。チルトシリンダ5の他端部は、フレーム4の上面に接続される。チルトシリンダ5が伸縮することにより、掘削ブレード2のチルト角が変化する。リフトシリンダ6の一端部は、回動機構を介して掘削ブレード2の背面に連結される。リフトシリンダ6の中間部は、車体1の側部に接続される。リフトシリンダ6が伸縮することにより、掘削ブレード2が上下方向に移動する。
【0027】
走行体3は、車体1を支持して走行する。走行体3は、一対の履帯3Cを有する。履帯3Cが回転することにより、ブルドーザ10が走行する。
【0028】
リッパ作業機11は、作業対象の切削又は破砕のリッピング作業を実施する。例えば、岩石等の砕石作業がある。リッパ作業機11は、車体1に連結される。リッパ作業機11の少なくとも一部は、車体1の後方に配置される。リッパ作業機11は、シャンク12と、リッパポイント13と、リッパアーム14と、チルトシリンダ15と、リフトシリンダ16と、ビーム17とを有する。
【0029】
シャンク12は、車体1の後方に配置される。シャンク12は、リッパポイント13を有する。リッパポイント13は、リッパの刃先位置を含むシャンク12の先端部(下端部)に設けられる。リッパアーム14は、シャンク12を支持する。リッパアーム14は、車体1とシャンク12とを連結する。リッパアーム14の一端部は、回動機構を介して車体1の後部に連結される。リッパアーム14の他端部は、ビーム17に連結される。ビーム17は、リッパアーム14に回動可能に連結される。シャンク12は、ビーム17を介してリッパアーム14に連結される。
【0030】
チルトシリンダ15及びリフトシリンダ16のそれぞれは、シャンク12を動作させる。チルトシリンダ15及びリフトシリンダ16のそれぞれは、車体1に連結される。チルトシリンダ15は、シャンク12をチルト動作させるために駆動する。リフトシリンダ6は、シャンク12を上下動作させるために駆動する。チルトシリンダ15の一端部は、回動機構を介してビーム17に連結される。チルトシリンダ5の他端部は、車体1の後部に連結される。チルトシリンダ15が伸縮することにより、シャンク12のチルト角が変化する。チルトシリンダ15は、リッパポイント13を前後方向に移動させる。リフトシリンダ16の一端部は、回動機構を介してビーム17に連結される。リフトシリンダ16の他端部は、車体1の後部に連結される。リフトシリンダ16が伸縮することにより、シャンク12が上下方向に移動する。リフトシリンダ16は、リッパポイント13を含むシャンク12を上下方向に移動させる。
【0031】
リッパ作業機11は、リッパポイント13を作業対象に突き刺す。走行体3が停止中にリッパポイント13を作業対象に接触させ、リッパポイント13が作業対象に突き刺された状態で走行体3が走行することにより、作業対象が切削又は破砕される。走行体3が走行中に、リッパ作業機11を上下前後方向に移動させながら、作業対象に接触させ、作業対象を突き刺した状態で走行し切削又は破砕させる。
【0032】
位置センサ30は、ブルドーザ10の位置を検出する。位置センサ30は、全地球的衛星測位システム(Global Navigation Satellite System:GNSS)を利用して、グローバル座標系におけるブルドーザ10の位置を検出する。位置センサ30は、車体1に設けられたGNSS受信機を含む。
【0033】
3次元センサ40は、検出対象の表面までの距離を検出する。3次元センサ40は、検出対象の表面の複数の検出点のそれぞれとの相対距離を検出することにより、検出対象の表面の3次元データを検出する。3次元データは、複数の検出点からなる点群データを含む。3次元データは、3次元センサ40と検出対象に規定される複数の検出点のそれぞれとの相対距離及び相対位置を含む。3次元センサ40は、検出対象の3次元形状を示す3次元データを検出する。3次元センサ40として、レーザ光を射出することにより検出対象を検出するレーザセンサ(LIDAR:Light Detection and Ranging)が例示される。なお、3次元センサ40は、赤外光を射出することにより検出対象を検出する赤外線センサ又は電波を射出することにより検出対象を検出するレーダセンサ(RADAR:Radio Detection and Ranging)でもよい。なお、3次元センサ40は、ステレオカメラのような3次元カメラでもよい。
【0034】
3次元センサ40は、ブルドーザ10の作業現場の3次元データを検出する。作業現場の3次元データは、作業現場の地形(地表の形状)の3次元データを含む。作業現場の3次元データは、リッパ作業機11の作業対象の3次元データを含む。
【0035】
カメラ50は、撮像対象を撮像する。カメラ50は、単眼カメラのような2次元カメラである。カメラ50は、可視光カメラでもよいし、赤外線カメラでもよい。カメラ50により取得される画像は、動画でもよいし静止画でもよい。3次元センサ40がステレオカメラである場合、ステレオカメラをカメラ50としてもよい。
【0036】
カメラ50は、ブルドーザ10の作業現場を撮像して、作業現場の画像を取得する。作業現場の画像は、作業現場の地形(地表の形状)の画像を含む。作業現場の画像は、リッパ作業機11の作業対象の画像を含む。作業現場の画像は、リッパ作業機11の少なくとも一部の画像を含む。
【0037】
3次元センサ40は、ブルドーザ10に複数配置される。本実施形態において、3次元センサ40は、ブルドーザ10に4つ配置される。3次元センサ40は、第1の3次元センサ41と、第2の3次元センサ42と、第3の3次元センサ43と、第4の3次元センサ44とを含む。
【0038】
カメラ50は、ブルドーザ10に複数配置される。本実施形態において、カメラ50は、ブルドーザ10に4つ配置される。カメラ50は、第1のカメラ51と、第2のカメラ52と、第3のカメラ53と、第4のカメラ54とを含む。
【0039】
3次元センサ41は、車体1の前方の検出対象を検出する。カメラ51は、車体1の前方の撮像対象を撮像する。3次元センサ41の検出範囲とカメラ51の撮像範囲の少なくとも一部とは、重複する。3次元センサ41とカメラ51とは、相互に隣接するように配置されてもよいし、離れた位置に配置されてもよい。本実施形態において、3次元センサ41は、エンジンフード22から上方に突出する支持部材7に支持される。カメラ51は、車体1の車幅中央に位置し、キャブ9の上方に設置される。
【0040】
3次元センサ42は、車体1の後方の検出対象を検出する。カメラ52は、車体1の後方の撮像対象を撮像する。3次元センサ42の検出範囲とカメラ52の撮像範囲の少なくとも一部とは、重複する。3次元センサ42とカメラ52とは、相互に隣接するように配置される。本実施形態において、3次元センサ42及びカメラ52は、キャブ9の後部に配置される。
【0041】
3次元センサ43は、リッパ作業機11の少なくとも一部及びリッパ作業機11の作業対象を検出する。3次元センサ43は、少なくともリッパポイント13及びリッパポイント13が突き刺さる作業対象を検出する。カメラ53は、リッパ作業機11の少なくとも一部及びリッパ作業機11の作業対象を撮像する。カメラ53は、少なくともリッパポイント13及びリッパポイント13が突き刺さる作業対象を撮像する。3次元センサ43とカメラ53とは、相互に隣接するように配置される。本実施形態において、3次元センサ43及びカメラ53は、車体1の後部に配置される。3次元センサ43及びカメラ53は、左右方向において車体1の中央部に配置される。
【0042】
3次元センサ44は、リッパ作業機11の少なくとも一部及びリッパ作業機11の作業対象を検出する。3次元センサ44は、少なくともリッパポイント13及びリッパポイント13が突き刺さる作業対象を検出する。カメラ54は、リッパ作業機11の少なくとも一部及びリッパ作業機11の作業対象を撮像する。カメラ54は、少なくともリッパポイント13及びリッパポイント13が突き刺さる作業対象を撮像する。3次元センサ44の検出範囲とカメラ54の撮像範囲の少なくとも一部とは、重複する。3次元センサ44とカメラ54とは、相互に隣接するように配置される。3次元センサ44は、3次元センサ43とは異なる方向からリッパ作業機11の少なくとも一部及びリッパ作業機11の作業対象を検出する。カメラ54は、カメラ53とは異なる方向からリッパ作業機11の少なくとも一部及びリッパ作業機11の作業対象を検出する。本実施形態において、3次元センサ44及びカメラ54は、車体1の左部の後部に配置される。
【0043】
<表示システム>
図4は、本実施形態に係る表示システム300を含む遠隔操作システム100を示すブロック図である。図4に示すように、遠隔操作システム100は、遠隔操作室200に配置される通信装置401と、通信装置401に接続されるコントローラ110と、コントローラ110に接続される遠隔操作装置140と、コントローラ110に接続される表示装置120とを備える。また、遠隔操作システム100は、ブルドーザ10に配置される通信装置402と、通信装置402に接続されるコントローラ80と、コントローラ80に接続される位置センサ30と、コントローラ80に接続される3次元センサ40と、コントローラ80に接続されるカメラ50と、コントローラ80により制御される走行体3と、コントローラ80により制御される掘削作業機20と、コントローラ80により制御されるリッパ作業機11とを有する。
【0044】
なお、図4に示す例では、遠隔操作装置140の接続先と表示装置120の接続先が共通のコントローラ110になっているが、別々のコントローラでもよい。同様に車載側のコントローラ80についても、位置センサ30、3次元センサ40、及びカメラ50に接続されるコントローラと、走行体3、掘削作業機20、及びリッパ作業機11を制御するコントローラとが、別々のコントローラでもよい。
【0045】
コントローラ80は、走行体制御部81と、掘削作業機制御部82と、リッパ作業機制御部83と、位置データ送信部84と、3次元データ送信部85と、画像データ送信部86とを有する。
【0046】
走行体制御部81は、コントローラ110から送信された遠隔操作装置140の操作信号を受信する。走行体制御部81は、遠隔操作装置140の操作信号に基づいて、走行体3を制御する制御信号を出力する。
【0047】
掘削作業機制御部82は、コントローラ110から送信された遠隔操作装置140の操作信号を受信する。掘削作業機制御部82は、遠隔操作装置140の操作信号に基づいて、掘削作業機20を制御する制御信号を出力する。掘削作業機20を制御する制御信号は、チルトシリンダ5及びリフトシリンダ6を制御する制御信号を含む。
【0048】
リッパ作業機制御部83は、コントローラ110から送信された遠隔操作装置140の操作信号を受信する。リッパ作業機制御部83は、遠隔操作装置140の操作信号に基づいて、リッパ作業機11を制御する制御信号を出力する。リッパ作業機11を制御する制御信号は、チルトシリンダ15及びリフトシリンダ16を制御する制御信号を含む。
【0049】
位置データ送信部84は、1つ又は複数の位置センサ30により検出されたブルドーザ10の位置をコントローラ110に送信する。
【0050】
3次元データ送信部85は、3次元センサ40により検出された3次元データをコントローラ110に送信する。
【0051】
画像データ送信部86は、カメラ50により撮像された画像をコントローラ110に送信する。
【0052】
通信装置402は、通信システム400を介して通信装置401と通信する。通信装置402は、通信装置401を介してコントローラ110から送信された遠隔操作装置140の操作信号を受信して、コントローラ80に出力する。通信装置402は、位置データ送信部84から受信した位置、3次元データ送信部85から受信した3次元データ、及び画像データ送信部86から受信した画像を遠隔地の通信装置401に送信する。
【0053】
通信装置401は、通信システム400を介して通信装置402と通信する。通信装置401は、遠隔操作装置140が操作されることにより生成された操作信号を通信装置402に送信する。通信装置401は、通信装置402を介してコントローラ80から送信された位置データ、3次元データ、及び画像を受信して、コントローラ110に出力する。
【0054】
コントローラ110は、操作信号送信部101と、位置データ取得部102と、3次元データ取得部103と、画像データ取得部104と、初期位置決定部105と、接触位置算出部106と、接触位置画像生成部107と、マップデータ生成部108と、表示制御部109と、マップデータ記憶部111とを有する。
【0055】
なお、マップデータ生成部108は、車載側のコントローラ80に搭載されてもよい。
【0056】
操作信号送信部101は、ブルドーザ10を遠隔操作する操作信号を送信する。遠隔操作装置140が操作者に操作されることにより、ブルドーザ10を遠隔操作する操作信号が生成される。操作信号送信部101は、遠隔操作装置140の操作信号をコントローラ80に送信する。
【0057】
位置データ取得部102は、位置センサ30により検出されたブルドーザ10の位置をコントローラ80から取得する。
【0058】
3次元データ取得部103は、3次元センサ40により検出されたリッパ作業機11の作業対象の3次元データをコントローラ80から取得する。3次元データは、作業開始前に過去に取得したデータでもよいし、ドローン等で事前に取得した3次元データでもよい。
【0059】
画像データ取得部104は、カメラ50により撮像されたリッパ作業機11の作業対象の画像を示す作業対象画像をコントローラ80から取得する。
【0060】
初期位置決定部105は、リッパ作業機11のシャンク12に設けられたリッパポイント13の初期位置を決定する。リッパポイント13の初期位置は、リッパポイント13の先端部13Tの初期位置を含む。本実施形態において、初期位置決定部105は、予め定められたリッパ作業機11の初期姿勢に基づいて、リッパポイント13の初期位置を決定する。本実施形態において、リッパ作業機11の初期姿勢は、リフトシリンダ16の可動範囲においてリフトシリンダ16が最も伸び、チルトシリンダ15の可動範囲においてチルトシリンダ15が最も縮んだときの姿勢に定められる。すなわち、本実施形態において、リッパ作業機11の初期姿勢は、リッパポイント13の可動範囲においてリッパポイント13の先端部13Tが最も上方且つ最も後方に配置されたときの姿勢に定められる。以下の説明において、リッパ作業機11の初期姿勢を適宜、最大チルトバック姿勢、と称する。
【0061】
接触位置算出部106は、作業対象の3次元データと、初期位置決定部105により決定されたリッパポイント13の初期位置と、リッパポイント13の先端部13Tの移動経路とに基づいて、作業対象においてリッパポイント13の先端部13Tが接触する接触位置を算出する。
【0062】
図5及び図6のそれぞれは、本実施形態に係る接触位置Rpの算出方法を説明するための図である。図5は、走行体3の接地面が接触する地表と作業対象OBとが実質的に同一平面内に配置されている例を示す。図6は、走行体3の接地面が接触する地表に対して作業対象OBが傾斜している例を示す。図5及び図6のそれぞれにおいて、3次元センサ40は、ブルドーザ10に規定されるローカル座標系における作業対象OBの3次元データを検出することができる。
【0063】
リッパポイント13を作業対象OBに突き刺すリッパ作業を実施する場合、操作者は、リッパ作業機11を最大チルトバック姿勢にした後、チルトシリンダ15が伸縮せずリフトシリンダ16が縮むように遠隔操作装置140を操作する場合が多い。すなわち、リッパ作業におけるリッパ作業機11の動作は、概ね定型化されている。
【0064】
リッパ作業機制御部83は、遠隔操作装置140の操作信号に基づいて、リッパ作業機11が最大チルトバック姿勢の状態から、チルトシリンダ15を駆動させることなくリフトシリンダ16を縮める。リッパ作業機11が最大チルトバック姿勢の状態からリフトシリンダ16が縮まることにより、リッパポイント13が下方に移動して、作業対象OBに接近する。
【0065】
リッパ作業機11が最大チルトバック姿勢の状態からリッパポイント13が作業対象OBに突き刺さるまでのリッパポイント13の先端部13Tの移動経路Trは、リッパ作業機11の構造に基づいて予め導出することができる。半円弧の軌跡や楕円形の軌跡である移動経路Trを通って、リッパポイント13が作業対象に接触する。上述のように、リッパ作業におけるリッパ作業機11の動作が概ね定型化されている。リッパポイント13を作業対象OBに突き刺すリッパ作業においては、リッパ作業機11が最大チルトバック姿勢の状態からリフトシリンダ16が駆動されるので、接触位置算出部106は、リッパ作業機11の構造に基づいて、移動経路Trを予め導出することができる。接触位置算出部106は、作業対象OBの表面の3次元データと、先端部13Tの初期位置と、予め導出された先端部13Tの移動経路Trとに基づいて、作業対象OBの表面におけるリッパポイント13の先端部13Tの接触位置Rpを算出することができる。
【0066】
接触位置画像生成部107は、接触位置算出部106により算出された接触位置Rpを示す接触位置画像を生成する。
【0067】
マップデータ生成部108は、ブルドーザ10が作業する作業現場の3次元マップデータを生成する。3次元マップデータは、作業対象OBの3次元データを含む。マップデータ生成部108は、位置データ取得部102により取得されたブルドーザ10の位置と、3次元データ取得部103により取得された作業現場の3次元データとに基づいて、作業現場の3次元マップデータを生成することができる。マップデータ生成部108において生成された3次元マップデータは、マップデータ記憶部111に記憶される。
【0068】
本実施形態において、接触位置算出部106は、マップデータ記憶部111に記憶されている3次元マップデータに基づいて、接触位置Rpを算出する。なお、接触位置算出部106は、3次元データ取得部103により取得された作業対象OBの3次元データに基づいて、接触位置Rpを算出してもよい。
【0069】
表示制御部109は、作業対象画像と接触位置画像とを合成して、表示装置120に表示させる。
【0070】
<表示装置の表示例>
図7は、本実施形態に係る表示装置120に表示される表示データの一例を示す図である。
【0071】
表示制御部109は、表示装置120に複数の分割表示画面を設定する。図7に示すように、表示装置120には、複数の分割表示画面として、前方表示画面121と、後方表示画面122と、第1リッパ表示画面123と、第2リッパ表示画面124とが設定される。前方表示画面121には、カメラ51により撮像された画像が表示される。後方表示画面122には、カメラ52により撮像された画像が表示される。第1リッパ表示画面123には、カメラ53により撮像された画像が表示される。第2リッパ表示画面124には、カメラ54により撮像された画像が表示される。
【0072】
また、表示制御部109は、表示装置120の一部に、アイコン131、傾斜計132、及び傾斜インジケータ133を表示させる。傾斜計132及び傾斜インジケータ133は、水平面に対するブルドーザ10のピッチ角及びロール角を表示する。
【0073】
<3次元マップデータ>
図8は、本実施形態に係る3次元マップデータの生成方法を示すフローチャートである。本実施形態においては、リッパ作業機11のリッパ作業が実施される前に、作業現場の3次元マップデータが生成される。
【0074】
ブルドーザ10は、作業現場を走行する。ブルドーザ10が作業現場を走行するときのブルドーザ10の位置は、位置センサ30により検出される。3次元センサ40は、ブルドーザ10が作業現場を走行するときに、ブルドーザ10の周辺の作業現場の3次元データを検出する。3次元データ取得部103は、作業現場の3次元データを3次元センサ40から取得する。位置データ取得部102は、3次元データが検出されたときのブルドーザ10の位置を位置センサ30から取得する(ステップSA1)。
【0075】
マップデータ生成部108は、位置データ取得部102により取得されたブルドーザ10の位置と、3次元データ取得部103により取得された作業現場の3次元データとに基づいて、作業現場の3次元マップデータを生成する(ステップSA2)。
【0076】
3次元センサ40により検出される3次元データは、3次元センサ40と検出対象に規定される複数の検出点のそれぞれとの相対距離及び相対位置を含む。3次元データは、ブルドーザ10のローカル座標系において規定される。ブルドーザ10の位置は、グローバル座標系において規定される。そのため、マップデータ生成部108は、ブルドーザ10の位置と3次元データ取得部103により取得された作業現場の3次元データとに基づいて、グローバル座標系において規定される3次元マップデータを生成することができる。また、マップデータ生成部108は、座標変換することにより、ローカル座標系において規定される3次元マップデータを生成することもできる。
【0077】
マップデータ記憶部111は、ステップSA2において生成された3次元マップデータを記憶する(ステップSA3)。
【0078】
マップデータ記憶部111に記憶される3次元マップデータは、作業現場の全部の3次元マップデータでもよいし、作業現場の一部の3次元マップデータでもよい。
【0079】
<表示方法>
図9は、本実施形態に係るリッパ作業機11の作業における表示方法を示すフローチャートである。
【0080】
リッパ作業機11のリッパ作業を開始する場合、3次元データ取得部103は、マップデータ記憶部111に記憶されている3次元マップデータから、リッパ作業機11の作業対象OBの3次元データを取得する。3次元データ取得部103は、リッパ作業が開始されるときの位置センサ30の検出データに基づいて、マップデータ記憶部111に記憶されている作業現場の3次元マップデータから、リッパ作業機11の作業対象OBの3次元データを抽出することができる。また、リッパ作業を開始する場合、画像データ取得部104は、少なくともカメラ53から画像データを取得する。カメラ53により撮像される画像は、少なくともリッパポイント13の画像及びリッパ作業機11の作業対象OBの画像を含む(ステップSB1)。
【0081】
初期位置決定部105は、予め定められた最大チルトバック姿勢に基づいて、リッパポイント13の先端部13Tの初期位置を決定する(ステップSB2)。
【0082】
接触位置算出部106は、ステップSB1において取得された作業対象OBの3次元データと、ステップSB2において決定されたリッパポイント13の先端部13Tの初期位置と、リッパ作業機11の構造に基づいて予め導出されるリッパポイント13の先端部13Tの移動経路Trとに基づいて、作業対象OBにおいてリッパポイント13の先端部13Tが接触する接触位置Rpを算出する(ステップSB4)。
【0083】
接触位置画像生成部107は、接触位置Rpを示す接触位置画像を生成する(ステップSB4)。
【0084】
表示制御部109は、作業対象画像と接触位置画像とを合成して、表示装置120に表示させる(ステップSB5)。
【0085】
図10は、本実施形態に係る表示装置120に表示される作業対象画像及び接触位置画像61を示す図である。図10に示すように、表示制御部109は、リッパ作業機11を示す作業機画像と、作業対象OBを示す作業対象画像と、接触位置Rpを示す接触位置画像61とを合成して、表示装置120に表示させる。
【0086】
表示制御部109は、リッパポイント13が作業対象OBに接触する前に、作業機画像と作業対象画像と接触位置画像61とを合成して、表示装置120に表示させる。作業対象画像と接触位置画像61とを合成することは、作業対象画像に接触位置画像61を重畳させることを含む。接触位置画像61は、作業対象OBの表面に沿うように表示される。
【0087】
本実施形態において、接触位置画像61は、左右方向に延びるように線状に表示される。左右方向における接触位置画像61の寸法は、例えばリッパポイント13の寸法と等しくてもよい。
【0088】
なお、本実施形態において、表示制御部109は、作業対象OBの表面に沿った格子画像65を表示装置120に表示させる。格子画像65は、複数の第1線画像66と、複数の第2線画像67とを含む。複数の第1線画像66は、左右方向に間隔をあけて表示される。複数の第2線画像67は、前後方向に間隔をあけて表示される。第1線画像66と第2線画像67とは、交差する。
【0089】
<効果>
以上説明したように、本実施形態において、ブルドーザ10の表示システム300は、ブルドーザ10の車体1に連結されたリッパ作業機11の作業対象OBの3次元データを取得する3次元データ取得部103と、作業対象OBの画像を示す作業対象画像を取得する画像データ取得部104と、3次元データとリッパ作業機11のシャンク12に設けられたリッパポイント13の初期位置とリッパポイント13の移動経路Trとに基づいて、作業対象OBにおいてリッパポイント13が接触する接触位置Rpを算出する接触位置算出部106と、接触位置Rpを示す接触位置画像61を生成する接触位置画像生成部107と、作業対象画像と接触位置画像61とを合成して、表示装置120に表示させる表示制御部109と、を備える。
【0090】
本実施形態によれば、リッパポイント13が作業対象OBに接触する前に、作業対象OBにおいてリッパポイント13が接触する接触位置Rpが算出され、接触位置Rpを示す接触位置画像61が作業対象画像に重畳された状態で表示装置120に表示されるので、ブルドーザ10を遠隔操作する操作者は、リッパポイント13が作業対象OBに接触する前に、作業対象OBに対する接触位置画像61の接触位置を見ることで、リッパポイント13が接触する位置を認識できる。またリッパポイント13と接触位置画像61の接触する位置の間隔を見ることで、リッパポイント13と作業対象OBとの相対位置を認識することができる。これにより、作業効率の低下が抑制される。
【0091】
本実施形態において、表示システム300は、リッパポイント13の初期位置を決定する初期位置決定部105を備える。初期位置決定部105は、予め定められたリッパ作業機11の初期姿勢に基づいて、リッパポイント13の初期位置を決定する。
【0092】
リッパポイント13を作業対象OBに突き刺すリッパ作業においては、リッパ作業機11が初期姿勢として最大チルトバック姿勢になるように操作される場合が多い。初期位置決定部105は、予め定められたリッパ作業機11の最大チルトバック姿勢に基づいて、リッパポイント13の初期位置を決定することができる。例えばリッパ作業機11の初期姿勢を検出するための姿勢センサをブルドーザ10に設けることなく、リッパポイント13の初期位置が決定される。
【0093】
本実施形態において、接触位置算出部106は、予め導出された移動経路Trに基づいて、接触位置Rpを算出する。
【0094】
リッパ作業においては、リッパ作業機11が最大チルトバック姿勢になるように操作された後、チルトシリンダ15が駆動されず、リフトシリンダ16が駆動される場合が多い。そのため、移動経路Trは、リッパ作業機11の構造に基づいて、予め導出可能である。接触位置算出部106は、予め導出された移動経路Trに基づいて、接触位置Rpを算出することができる。
【0095】
本実施形態において、マップデータ生成部108により作業現場の3次元マップデータが生成される。接触位置算出部106は、マップデータ記憶部111に記憶されている3次元マップデータから作業対象OBの3次元データを抽出して、接触位置Rpを算出する。これにより、接触位置算出部106は、接触位置Rpを適正に算出することができる。リッパ作業において、3次元センサ40からリアルタイムに送信された3次元データに基づいて接触位置Rpを算出する場合、通信システム400の遅延が生じると、接触位置算出部106は、接触位置Rpを適正に算出することが困難になる可能性がある。作業現場の3次元マップデータがリッパ作業の開始前に予め生成され、リッパ作業においては、マップデータ記憶部111に記憶されている3次元マップデータから作業対象OBの3次元データが抽出されることにより、接触位置算出部106は、接触位置Rpを適正に算出することができる。
【0096】
なお、通信システム400の遅延の原因として、車体の急な方向転換、車体直下の地形情報をセンサで取得できないこと、車体が前進時、車体の前側カメラや前側センサで取得したデータをリッパ側のデータとして用いること等が例示される。
【0097】
<変形例>
図11は、本実施形態の変形例に係る接触位置画像61Bを示す図である。図11に示すように、接触位置画像61Bは、先端部13Tの接触位置Rpを示すように点状に表示されてもよい。表示形態は点状によらず、丸印、十字印、楕円形状など任意の形状でよい。
【0098】
図12は、本実施形態の変形例に係る接触位置画像61Cを示す図である。図12に示す例において、リッパ作業機11Bは、左右方向に配置された複数のリッパポイント13を有する。図12に示す例において、リッパポイント13は、左右方向に間隔をあけて3つ配置される。接触位置画像61Cは、複数の先端部13Tの接触位置Rpのそれぞれを繋ぐように線状に表示されてもよい。
【0099】
図13は、本実施形態の変形例に係る接触位置画像61Dを示す図である。図13に示す例において、リッパ作業機11Bは、左右方向に配置された複数のリッパポイント13を有する。図13に示す例において、リッパポイント13は、左右方向に間隔をあけて3つ配置される。接触位置画像61Dは、複数の先端部13Tの接触位置Rpのそれぞれを示すように点状に表示されてもよい。表示形態は点状によらず、丸印、十字印、楕円形状など任意の形状でよい。
【0100】
[第2実施形態]
第2実施形態について説明する。以下の説明において、上述の実施形態と同一又は同等の構成要素については同一の符号を付し、その構成要素の説明を簡略又は省略する。
【0101】
図14は、本実施形態に係る表示システム300を含む遠隔操作システム100を示すブロック図である。本実施形態において、ブルドーザ10に姿勢センサ31が設けられる。姿勢センサ31は、リッパ作業機11の姿勢を検出する。姿勢センサ31は、リッパ作業機11の初期姿勢を検出することができる。姿勢センサ31として、チルトシリンダ15及びリフトシリンダ16のそれぞれに設けられたストロークセンサが例示される。チルトシリンダ15に設けられたストロークセンサは、チルトシリンダ15の伸縮量を示す第1ストローク長を検出する。リフトシリンダ16に設けられたストロークセンサは、リフトシリンダ16の伸縮量を示す第2ストローク長を検出する。なお、姿勢センサ31は、例えばシャンク12に設けられた慣性計測装置(IMU:Inertial Measurement Unit)でもよい。
【0102】
コントローラ80は、姿勢センサ31の検出データをコントローラ110に送信する姿勢データ送信部87を有する。姿勢データ送信部87は、姿勢センサ31により検出されたリッパ作業機11の初期姿勢を示す初期姿勢データをコントローラ110に送信する。初期姿勢は最大チルトバック姿勢であってもよいし、リッピング作業時のリッパポイント13でもあってもよい。
【0103】
本実施形態において、リッパ姿勢を計測できるセンサが搭載されており、センサからリッパポイント13の位置が確認できる。よって、初期姿勢は段落0058の最大チルトバック姿勢に関わらずリッピング作業中のリッパポイント13でもよい。
【0104】
本実施形態において、初期位置決定部105は、リッパ作業機11の初期姿勢を検出する姿勢センサ31の検出データに基づいて、リッパポイント13の初期位置を決定する。接触位置算出部106は、作業対象OBの3次元データと、姿勢センサ31の検出データに基づいて決定されたリッパポイント13の初期位置と、リッパ作業機11の構造及びリフトシリンダ16の伸縮動作から導出されるリッパポイント13の移動経路Trとに基づいて、作業対象OBにおいてリッパポイント13が接触する接触位置Rpを算出する。
【0105】
本実施形態において、コントローラ110は、姿勢センサ31の検出データに基づいて、シャンク12の少なくとも一部と作業対象OBとの間に表示される案内画像62を生成する案内画像生成部112を有する。案内画像62は、作業対象とリッパポイント13を結ぶ線画像である。案内画像62の線分は、リッパポイントから作業対象に対し鉛直方向に延びた線でも良いし、リッパポイントの接線方向でありリッパポイント13と作業対象面に向けた線でも良い。表示制御部109は、作業対象画像と案内画像と接触位置画像を合成して、表示装置120に表示させる。
【0106】
図15は、本実施形態に係る表示装置120に表示される作業対象画像及び接触位置画像61を示す図である。図15に示すように、案内画像生成部112は、第1の案内画像62と、第2の案内画像63とを生成する。案内画像62及び案内画像63のそれぞれは、線状である。案内画像62の少なくとも一部は、リッパポイント13の右端部と作業対象OBの表面にあるリッパ刃先が接触する位置との間に表示される。案内画像63の少なくとも一部は、リッパポイント13の左端部と作業対象OBの表面にあるリッパ刃先が接触する位置との間に表示される。
【0107】
本実施形態において、接触位置画像61は、左右方向に延びるように線状に表示される。左右方向における接触位置画像61の寸法は、リッパポイント13の寸法と等しい。案内画像62は、リッパポイント13の右端部と接触位置画像61の右端部とを繋ぐように表示される。案内画像63は、リッパポイント13の左端部と接触位置画像61の左端部とを繋ぐように表示される。
【0108】
リッパポイント13の位置に基づいて、表示装置120において、案内画像62及び案内画像63のそれぞれが変化する。リッパポイント13が作業対象OBに接近すると、案内画像62及び案内画像63のそれぞれが短くなる。リッパポイント13が作業対象OBから離隔すると、案内画像62及び案内画像63のそれぞれが長くなる。本実施形態において、リッパ作業機11の姿勢が姿勢センサ31により検出される。案内画像生成部112は、姿勢センサ31の検出データと作業対象OBの3次元データとに基づいて、リッパポイント13と作業対象OBとの相対位置を算出することができる。案内画像生成部112は、作業対象OBに対するリッパポイント13の位置に基づいて、案内画像62がリッパポイント13の右端部と接触位置画像61の右端部とを繋ぎ続けるように、案内画像62の長さを変化させることができる。同様に、案内画像生成部112は、作業対象OBに対するリッパポイント13の位置に基づいて、案内画像63がリッパポイント13の左端部と接触位置画像61の右端部とを繋ぎ続けるように、案内画像63の長さを変化させることができる。
【0109】
<効果>
以上説明したように、本実施形態において、リッパ作業機11の初期姿勢を検出する姿勢センサ31が設けられる。初期位置決定部105は、姿勢センサ31の検出データに基づいて、リッパポイント13の初期位置を決定する。これにより、リッパ作業機11が最大チルトバック姿勢に操作されなくても、初期位置決定部105は、姿勢センサ31により検出されたリッパ作業機11の初期姿勢に基づいて、リッパポイント13の初期位置を決定することができる。
【0110】
本実施形態において、案内画像生成部112は、姿勢センサ31の検出データに基づいて、案内画像62及び案内画像63を生成する。案内画像生成部112は、姿勢センサ31の検出データと作業対象OBの3次元データとに基づいて、リッパポイント13と作業対象OBとの相対位置を算出することができる。案内画像生成部112は、作業対象OBに対するリッパポイント13の位置に基づいて、案内画像62及び案内画像63を変化させることができる。
【0111】
<変形例>
図16は、本実施形態の変形例に係る接触位置画像61Cを示す図である。図12に示した例と同様、リッパ作業機11Bは、左右方向に配置された複数のリッパポイント13を有する。接触位置画像61Cは、複数の先端部13Tの接触位置Rpのそれぞれを繋ぐように線状に表示される。案内画像62Cは、複数のリッパポイント13のうち最も右側に配置されるリッパポイント13の右端部と接触位置画像61Cの右端部とを繋ぐように表示される。案内画像63Cは、複数のリッパポイント13のうち最も左側に配置されるリッパポイント13の左端部と接触位置画像61Cの左端部とを繋ぐように表示される。
【0112】
[コンピュータシステム]
図17は、実施形態に係るコンピュータシステム1000を示すブロック図である。上述のコントローラ110及びコントローラ80のそれぞれは、コンピュータシステム1000を含む。コンピュータシステム1000は、CPU(Central Processing Unit)のようなプロセッサ1001と、ROM(Read Only Memory)のような不揮発性メモリ及びRAM(Random Access Memory)のような揮発性メモリを含むメインメモリ1002と、ストレージ1003と、入出力回路を含むインタフェース1004とを有する。上述のコントローラ110及びコントローラ80のそれぞれの機能は、コンピュータプログラムとしてストレージ1003に記憶されている。プロセッサ1001は、コンピュータプログラムをストレージ1003から読み出してメインメモリ1002に展開し、プログラムに従って上述の処理を実行する。なお、コンピュータプログラムは、ネットワークを介してコンピュータシステム1000に配信されてもよい。
【0113】
コンピュータプログラム又はコンピュータシステム1000は、上述の実施形態に従って、ブルドーザ10の車体1に連結されたリッパ作業機11の作業対象OBの3次元データを取得することと、作業対象OBの画像を示す作業対象画像を取得することと、3次元データとリッパ作業機11のシャンク12に設けられたリッパポイント13の初期位置とリッパポイント13の移動経路Trとに基づいて、作業対象OBにおいてリッパポイント13が接触する接触位置Rpを算出することと、接触位置Rpを示す接触位置画像61を生成することと、作業対象画像と接触位置画像61とを合成して、表示装置120に表示させることと、を実行することができる。
【0114】
[その他の実施形態]
上述の実施形態においては、作業現場の3次元マップデータがリッパ作業の開始前に予め生成され、リッパ作業において3次元マップデータから作業対象OBの3次元データが抽出され、抽出された作業対象OBの3次元データに基づいて、接触位置Rpが算出されることとした。接触位置Rpの算出において、3次元マップデータが使用されなくてもよい。接触位置算出部106は、リッパ作業において3次元センサ40によりリアルタイムに検出された作業対象OBの3次元データに基づいて、接触位置Rpを算出してもよい。
【0115】
上述の実施形態においては、表示システム300が遠隔操作システム100に適用されることとした。表示システム300は、遠隔操作システム100に適用されなくてもよく、ブルドーザ10に搭載されてもよい。例えば、表示装置120がブルドーザ10のキャブ9に配置され、上述の実施形態において説明したコントローラ110の機能がブルドーザ10のコントローラ80に設けられてもよい。ブルドーザ10は、キャブ9に搭乗した操作者によって操作されてもよい。
【符号の説明】
【0116】
1…車体、2…掘削ブレード、2C…切刃、3…走行体、3C…履帯、4…フレーム、5…チルトシリンダ、6…リフトシリンダ、7…支持部材、8…エンジン室、9…キャブ、10…ブルドーザ(作業機械)、11…リッパ作業機、11B…リッパ作業機、12…シャンク、13…リッパポイント、13T…先端部、14…リッパアーム、15…チルトシリンダ、16…リフトシリンダ、17…ビーム、20…掘削作業機、21…エンジン、22…エンジンフード、23…作業台、24…ガードレール、26…燃料タンク、30…位置センサ、31…姿勢センサ、40…3次元センサ、41…3次元センサ、42…3次元センサ、43…3次元センサ、44…3次元センサ、50…カメラ、51…カメラ、52…カメラ、53…カメラ、54…カメラ、61…接触位置画像、61B…接触位置画像、61C…接触位置画像、62…案内画像、62C…案内画像、63…案内画像、63C…案内画像、65…格子画像、66…第1線画像、67…第2線画像、80…コントローラ、81…走行体制御部、82…掘削作業機制御部、83…リッパ作業機制御部、84…位置データ送信部、85…3次元データ送信部、86…画像データ送信部、87…姿勢データ送信部、100…遠隔操作システム、101…操作信号送信部、102…位置データ取得部、103…3次元データ取得部、104…画像データ取得部、105…初期位置決定部、106…接触位置算出部、107…接触位置画像生成部、108…マップデータ生成部、109…表示制御部、110…コントローラ、111…マップデータ記憶部、112…案内画像生成部、120…表示装置、121…前方表示画面、122…後方表示画面、123…第1リッパ表示画面、124…第2リッパ表示画面、131…アイコン、132…傾斜計、133…傾斜インジケータ、140…遠隔操作装置、150…操縦シート、200…遠隔操作室、300…表示システム、400…通信システム、401…通信装置、402…通信装置、1000…コンピュータシステム、1001…プロセッサ、1002…メインメモリ、1003…ストレージ、1004…インタフェース、OB…作業対象、Rp…接触位置、Tr…移動経路。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17