(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024065875
(43)【公開日】2024-05-15
(54)【発明の名称】ショベルの遠隔制御システム
(51)【国際特許分類】
E02F 9/26 20060101AFI20240508BHJP
【FI】
E02F9/26 B
【審査請求】未請求
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2022174948
(22)【出願日】2022-10-31
(71)【出願人】
【識別番号】000002107
【氏名又は名称】住友重機械工業株式会社
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】呉 春男
【テーマコード(参考)】
2D015
【Fターム(参考)】
2D015HA03
(57)【要約】
【課題】作業効率の向上を実現する。
【解決手段】ショベルの遠隔制御システムは、ショベルが作業している周囲に存在する被写体の3次元形状を示した3次元情報に基づいて、被写体を立体視表示する表示装置と、操作者から受け付けた操作に基づいて、ショベルを制御するための制御情報をショベルに送信する通信装置と、を備える。
【選択図】
図6
【特許請求の範囲】
【請求項1】
ショベルが作業している周囲に存在する被写体の3次元形状を示した3次元情報に基づいて、前記被写体を立体視表示する表示装置と、
操作者から受け付けた操作に基づいて、前記ショベルを制御するための制御情報を前記ショベルに送信する通信装置と、
を備えるショベルの遠隔制御システム。
【請求項2】
前記3次元情報に基づいて、前記操作者の右目と左目との視差が表された第1画像と第2画像とを生成するように構成されている制御装置を、さらに備え、
前記表示装置は、前記第1画像と前記第2画像とを用いて前記表示装置に前記被写体を立体視表示する、
請求項1に記載のショベルの遠隔制御システム。
【請求項3】
前記操作者を撮像範囲に含む撮像装置をさらに備え、
前記制御装置は、前記撮像装置によって撮像された画像に基づいて前記操作者の視線を認識し、認識結果に基づいて前記第1画像と前記第2画像とを生成するように構成されている、
請求項2に記載のショベルの遠隔制御システム。
【請求項4】
前記表示装置は、前記操作者の目に対応する複数の観察位置の各々に対して出力される画像を分離させるための構造体を有する光学素子が、画像出力側の表面に設けられている、
請求項1乃至3のいずれか一つに記載のショベルの遠隔制御システム。
【請求項5】
前記通信装置は、前記ショベル又は前記周囲に存在する装置から、前記被写体の3次元形状の検出結果を示した測定情報を受信し、
前記表示装置は、前記測定情報で示されている前記被写体の前記3次元情報に基づいて、前記被写体を立体視表示する、
請求項1乃至3のいずれか一つに記載のショベルの遠隔制御システム。
【請求項6】
前記ショベルによって施工された後の前記被写体の前記3次元形状を示した施工情報を記憶する施工情報記憶部を、さらに備え、
前記表示装置は、前記施工情報で示されている前記被写体の前記3次元情報に基づいて、施工された後の前記被写体を立体視表示する、
請求項5に記載のショベルの遠隔制御システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ショベルの遠隔制御システムに関する。
【背景技術】
【0002】
従来、油圧ショベルなどの作業機械の遠隔操作を支援する遠隔操作システムが知られている。この遠隔操作システムは、例えば、作業現場にある作業機械等に取り付けられたカメラ等で撮像された画像が、遠隔操作室に設置された表示装置に表示されるように構成されている。これにより、操作者は、ショベルの周囲の状況を把握できる。
【0003】
例えば、特許文献1には、HMD(Head Mounted Display)を用いて周囲の状況を確認する技術が提案されている。特許文献1には、ユーザが頭部にHMDを装着して、当該HMDに表示される周囲画像を参照することで、ショベルの周囲の状況を確認し、ショベルの遠隔操作を可能にしている。HMDに表示される周囲画像が、HMDの向きに応じて変化することで、操作者はショベルの周囲の状況を把握できる。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1に記載された技術のように、操作者が作業機械の遠隔操作を行う際に、HMDを用いてショベルの周囲の状況を認識する場合に、HMDの向きに応じて表示される周囲画像を変えたとしても、奥行方向における物体までの距離及び物体の大きさを操作者が把握するのが難しい場合がある。また、操作者がHMDを装着した場合、当該HMDの重さ等のために操作者の作業負担が大きくなるという問題がある。
【0006】
上述に鑑み、遠隔操作で作業機械を操作している操作者に対して、作業負担を大きくせずに、作業現場の状況を3次元的に認識できる技術を提供する。
【課題を解決するための手段】
【0007】
本発明の一態様に係るショベルの遠隔制御システムは、ショベルが作業している周囲に存在する被写体の3次元形状を示した3次元情報に基づいて、被写体を立体視表示する表示装置と、操作者から受け付けた操作に基づいて、ショベルを制御するための制御情報をショベルに送信する通信装置と、を備える。
【発明の効果】
【0008】
本発明の一態様によれば、作業現場の状況を3次元的に認識できるので作業効率の向上を実現する。
【図面の簡単な説明】
【0009】
【
図1】
図1は、第1の実施形態に係る遠隔操作システムの一例を示す概要図である。
【
図2】
図2は、第1の実施形態に係るショベル(掘削機)を示す側面図である。
【
図3】
図3は、第1の実施形態に係るショベルの駆動制御系の構成例を示す図である。
【
図4】
図4は、第1の実施形態に係るショベルの油圧システムの構成の一例を概略的に示す図である。
【
図5】
図5は、第1の実施形態に係るショベルの油圧システムの一部を抜き出した図である。
【
図6】
図6は、第1の実施形態に係る遠隔操作システムの構成例を示す機能ブロック図である。
【
図7】
図7は、第1の実施形態に係る遠隔操作室の配置例を示す図である。
【
図8】
図8は、第1の実施形態に係る表示装置の構成と、操作者の視線と、を示した説明図である。
【
図9】
図9は、第1の実施形態に係る作業現場空間生成部により生成された3次元形状マップを説明するための概念図である。
【
図10】
図10は、第1の実施形態に係る表示制御部が表示する画面例を示した図である。
【発明を実施するための形態】
【0010】
以下、本発明の実施形態について図面を参照して説明する。また、以下で説明する実施形態は、発明を限定するものではなく例示であって、実施形態に記述される全ての特徴やその組み合わせは、必ずしも発明の本質的なものであるとは限らない。なお、各図面において同一の又は対応する構成には同一の又は対応する符号を付し、説明を省略することがある。
【0011】
(第1の実施形態)
まず、
図1を参照して、第1の実施形態に係る遠隔操作システム(遠隔制御システムの一例)SYSの概要を説明する。
図1は、第1の実施形態に係る遠隔操作システムSYSの一例を示す概要図である。
【0012】
<遠隔操作システムを構成する機器>
図1に示すように、第1の実施形態に係る遠隔操作システムSYSは、ショベル100と、定点計測装置400と、遠隔操作室RCと、を含んでいる。
【0013】
定点計測装置400は、ショベル100が作業を行う作業現場に設けられている。遠隔操作室RCは、ショベル100を遠隔操作するために設けられている。
【0014】
ショベル100、定点計測装置400、及び遠隔操作室RCは、通信回線NWを介してデータの送受信を可能に接続されている。
【0015】
ショベル100及び定点計測装置400は、作業現場に関する情報を、遠隔操作室RCに送信する。これにより、遠隔操作室RCは、ショベル100及び定点計測装置400からの検出結果に応じて、作業現場を多角的に確認できる。なお、本実施形態は、作業現場の測定を行う装置を、ショベル100及び定点計測装置400に制限するものではなく、作業現場上を飛行するドローン、又はユーザが所持可能な空間認識装置など、他の態様の装置であってもよい。
【0016】
ショベル100及び定点計測装置400は、作業現場に存在する物体の位置及び形状を3次元的に認識可能なセンサが設けられている。例えば、ショベル100には(後述する)空間認識装置S7が設けられ、定点計測装置400には(後述する)空間認識装置S11が設けられている。したがって、ショベル100、及び定点計測装置400は、作業現場の3次元的に測定した結果を、遠隔操作室RCに送信できる。
【0017】
空間認識装置S7、S11は、作業現場を撮像するためにLIDARを用いてもよい。LIDARは、例えば、監視範囲内にある100万点以上の点とLIDARとの間の距離を測定する。なお、本実施形態は、LIDARを用いる手法に制限するものではなく、物体との間の距離を計測可能な空間認識装置であればよい。例えば、ステレオカメラを用いてもよいし、撮像装置と、ミリ波レーダなどの測距装置と、を組み合わせてもよい。
【0018】
遠隔操作システムSYSに含まれる定点計測装置400は、一台であってもよいし、複数台であってもよい。これにより、遠隔操作システムSYSは、複数台の定点計測装置400を通じて、遠隔操作室RCに作業現場に関する情報提供を行うことができる。
【0019】
遠隔操作システムSYSに含まれるショベル100は、一台であってもよいし、複数台であってもよい。これにより、遠隔操作システムSYSは、複数台のショベル100を通じて、遠隔操作室RCに作業現場に関する情報提供を行うことができる。
【0020】
<遠隔操作室の構成例>
遠隔操作室RCには、通信装置T2、遠隔コントローラ40、操作装置42、操作センサ43、撮像装置C1、及び表示装置D1を備えている。また、遠隔操作室RCには、ショベル100を遠隔操作する操作者OPが座る操作席DSが設置されている。
【0021】
通信装置T2は、ショベル100に取り付けられた通信装置T1、及び定点計測装置400に取り付けられた通信装置T3との間で通信を制御するように構成されている。
【0022】
撮像装置C1は、操作席DSに座っている操作者OPを撮影するために設けられている。撮像装置C1によって撮像された画像情報は、操作者OPの目の位置を検出するために用いられる。
【0023】
遠隔コントローラ40は、各種演算を実行する演算装置である。本実施形態では、遠隔コントローラ40は、CPU及びメモリを含むマイクロコンピュータで構成されている。そして、遠隔コントローラ40の各種機能は、CPUがメモリに格納されたプログラムを実行することで実現される。
【0024】
表示装置D1は、立体視表示が可能なディスプレイとする。表示装置D1は、遠隔操作室RCにいる操作者OPがショベル100の周囲を視認するために、ショベル100、及び定点計測装置400の各々から送信された情報に基づいた画面を立体視表示する。なお、具体的な表示装置D1の構成については後述する。
【0025】
操作装置42(操作部の一例)には、操作装置42の操作内容を検出するための操作センサ43が設置されている。操作センサ43は、例えば、操作レバーの傾斜角度を検出する傾斜センサ、又は、操作レバーの揺動軸回りの揺動角度を検出する角度センサ等である。操作センサ43は、圧力センサ、電流センサ、電圧センサ、又は距離センサ等の他のセンサで構成されていてもよい。操作センサ43は、検出した操作装置42の操作内容に関する情報を遠隔コントローラ40に対して出力する。遠隔コントローラ40は、受信した情報に基づいて操作信号を生成し、生成した操作信号をショベル100に向けて送信する。操作センサ43は、操作信号を生成するように構成されていてもよい。この場合、操作センサ43は、遠隔コントローラ40を経由せずに、操作信号を通信装置T2に出力してもよい。これにより、遠隔操作室RCから、ショベル100の遠隔操作を実現できる。
【0026】
<ショベルの構成>
次に、
図2を参照して、本実施形態に係るショベル100の概要について説明する。
図2は、第1の実施形態に係る掘削機としてのショベル100の側面図である。ショベル100の下部走行体1には旋回機構2を介して上部旋回体3が旋回可能に搭載される。上部旋回体3にはブーム4が取り付けられる。ブーム4の先端にはアーム5が取り付けられ、アーム5の先端にはエンドアタッチメントとしてのバケット6が取り付けられる。エンドアタッチメントは、法面用バケット又は浚渫用バケット等であってもよい。
【0027】
ブーム4、アーム5、及びバケット6は、アタッチメントの一例である掘削アタッチメントを構成し、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9によりそれぞれ油圧駆動される。ブーム4にはブーム角度センサS1が取り付けられ、アーム5にはアーム角度センサS2が取り付けられ、バケット6にはバケット角度センサS3が取り付けられる。掘削アタッチメントには、バケットチルト機構が設けられていてもよい。
【0028】
ブーム角度センサS1はブーム4の回動角度を検出する。本実施形態では、ブーム角度センサS1は加速度センサであり、上部旋回体3に対するブーム4の回動角度であるブーム角度を検出できる。ブーム角度は、例えば、ブーム4を最も下げたときに最小角度となり、ブーム4を上げるにつれて大きくなる。
【0029】
アーム角度センサS2はアーム5の回動角度を検出する。本実施形態では、アーム角度センサS2は加速度センサであり、ブーム4に対するアーム5の回動角度であるアーム角度を検出できる。アーム角度は、例えば、アーム5を最も閉じたときに最小角度となり、アーム5を開くにつれて大きくなる。
【0030】
バケット角度センサS3はバケット6の回動角度を検出する。本実施形態では、バケット角度センサS3は加速度センサであり、アーム5に対するバケット6の回動角度であるバケット角度を検出できる。バケット角度は、例えば、バケット6を最も閉じたときに最小角度となり、バケット6を開くにつれて大きくなる。
【0031】
ブーム角度センサS1、アーム角度センサS2、及びバケット角度センサS3は、可変抵抗器を利用したポテンショメータ、対応する油圧シリンダのストローク量を検出するストロークセンサ、又は、連結ピン回りの回動角度を検出するロータリエンコーダ等であってもよい。ブーム角度センサS1、アーム角度センサS2、及びバケット角度センサS3は、掘削アタッチメントの姿勢を検出する姿勢センサを構成する。
【0032】
上部旋回体3には、運転室としてのキャビン10、エンジン11、機体傾斜センサS4、旋回角速度センサS5、撮像装置S6、空間認識装置S7、測位装置S8、及び通信装置T1等が搭載されている。
【0033】
キャビン10内には、ショベルコントローラ30が設置される。また、キャビン10内には、運転席及び操作装置等が設置されている。
【0034】
ショベルコントローラ30は、各種演算を実行する演算装置である。ショベルコントローラ30は、例えば、キャビン10内に設けられ、ショベル100の駆動制御を行う。ショベルコントローラ30は、その機能が任意のハードウェア、ソフトウェア、或いは、その組み合わせにより実現されてよい。例えば、ショベルコントローラ30は、CPU(Central Processing Unit)、RAM(Random Access Memory)等のメモリ装置、ROM(Read Only Memory)等の不揮発性の補助記憶装置、及び各種入出力用のインターフェース装置等を含むマイクロコンピュータを中心に構成される。ショベルコントローラ30は、例えば、不揮発性の補助記憶装置にインストールされる各種プログラムをCPU上で実行することにより各種機能を実現する。
【0035】
エンジン11は、ショベル100の駆動源である。本実施形態では、エンジン11は、ディーゼルエンジンである。エンジン11の出力軸は、メインポンプ14及びパイロットポンプ15のそれぞれの入力軸に連結されている。
【0036】
機体傾斜センサS4は、所定の平面に対する上部旋回体3の傾斜を検出するように構成されている。本実施形態では、機体傾斜センサS4は、水平面に関する上部旋回体3の前後軸回りの傾斜角及び左右軸回りの傾斜角を検出する加速度センサである。上部旋回体3の前後軸及び左右軸は、例えば、互いに直交してショベル100の旋回軸上の一点であるショベル中心点を通る。
【0037】
旋回角速度センサS5は、上部旋回体3の旋回角速度を検出するように構成されている。本実施形態では、旋回角速度センサS5は、ジャイロセンサである。旋回角速度センサS5は、レゾルバ又はロータリエンコーダ等であってもよい。旋回角速度センサS5は、旋回速度を検出してもよい。旋回速度は、旋回角速度から算出されてもよい。
【0038】
撮像装置S6はショベル100の周辺の画像を取得するように構成されている。本実施形態では、撮像装置S6は、ショベル100の前方の空間を撮像する前カメラS6F、ショベル100の左方の空間を撮像する左カメラS6L、ショベル100の右方の空間を撮像する右カメラS6R、及びショベル100の後方の空間を撮像する後カメラS6Bを含む。
【0039】
撮像装置S6は、例えば、CCDやCMOS等の撮像素子を有する単眼カメラであり、撮像した画像を表示装置DIに出力してもよい。
【0040】
前カメラS6Fは、例えば、キャビン10の屋根に取り付けられている。左カメラS6Lは、上部旋回体3の上面左端に取り付けられている。右カメラS6Rは、上部旋回体3の上面右端に取り付けられている。後カメラS6Bは、上部旋回体3の上面後端に取り付けられている。
【0041】
本実施形態は、撮像装置S6を上述した配置に設けることで、ショベル100の周辺に存在する物体を撮像できる。
【0042】
空間認識装置S7は、ショベル100の周囲の空間の状態を認識するように構成されている。空間認識装置S7は、ショベル100の後方の空間の検知を行う後方空間認識装置S7B、ショベル100の左方の空間の検知を行う左方空間認識装置S7L、ショベル100の右方の空間の検知を行う右方空間認識装置S7R、及び、ショベル100の前方の空間の検知を行う前方空間認識装置S7Fを含む。
【0043】
空間認識装置S7は、ショベル100の周辺に存在する物体を検出するためにLIDARを用いてもよい。LIDARは、例えば、監視範囲内にある100万点以上の点とLIDARとの間の距離を測定する。なお、本実施形態は、LIDARを用いる手法に制限するものではなく、物体との間の距離を計測可能な空間認識装置であればよい。例えば、ステレオカメラを用いてもよいし、距離画像カメラ、又はミリ波レーダなどの測距装置を用いてもよい。空間認識装置S7としてミリ波レーダ等が利用される場合には、空間認識装置S7から多数の信号(レーザ光等)を物体に向けて発信し、その反射信号を受信することで、反射信号から物体の距離及び方向を導き出してもよい。
【0044】
後方空間認識装置S7Bは、上部旋回体3の上面の後端に取り付けられる。左方空間認識装置S7Lは、上部旋回体3の上面の左端に取り付けられる。右方空間認識装置S7Rは、上部旋回体3の上面の右端に取り付けられる。前方空間認識装置S7Fは、キャビン10の上面の前端に取り付けられる。
【0045】
空間認識装置S7は、ショベル100の周囲に設定された所定領域内の所定物体を検知するように構成されていてもよい。例えば、空間認識装置S7は、人と人以外の物体とを区別しながら人を検知できるように構成された人検知機能を有していてもよい。
【0046】
測位装置S8は、ショベル100の位置に関する情報を取得するように構成されている。本実施形態では、測位装置S8は、基準座標系におけるショベル100の位置及び向きを測定するように構成されている。具体的には、測位装置S8は、電子コンパスを組み込んだGNSS受信機であり、ショベル100の現在位置の緯度、経度、及び高度を測定し、且つ、ショベル100の向きを測定する。本実施形態に係る基準座標系とは、例えば、世界測地系である。世界測地系は、地球の重心に原点をおき、X軸をグリニッジ子午線と赤道との交点の方向に、Y軸を東経90度の方向に、そして、Z軸を北極の方向にとる三次元直交XYZ座標系である。
【0047】
通信装置T1は、ショベル100の外部にある機器との通信を制御するように構成されている。本実施形態では、通信装置T1は、無線通信網を介し、通信装置T1とショベル100の外部にある機器との間の通信を制御するように構成されている。通信装置T1は、例えば、LTE(Long Term Evolution)、4G(4th Generation)、5G(5th Generation)等の移動体通信規格に対応する移動体通信モジュールや衛星通信網に接続するための衛星通信モジュール等を含む。
【0048】
また、通信装置T1は、例えば、外部のGNSS(Global Navigation Satellite System)測量システムとショベル100との間の無線通信を制御する。
【0049】
図3は、
図2のショベル100の駆動制御系の構成例を示す図である。
図3において、機械的動力伝達系は二重線、作動油ラインは太実線、パイロットラインは破線、電気駆動・制御系は点線でそれぞれ示される。
【0050】
本実施形態に係るショベル100の駆動系は、エンジン11と、レギュレータ13と、メインポンプ14と、コントロールバルブユニット17を含む。また、本実施形態に係るショベル100の油圧駆動系は、上述の如く、下部走行体1、上部旋回体3、ブーム4、アーム5、及びバケット6のそれぞれを油圧駆動する走行油圧モータ1L,1R、旋回油圧モータ2A、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9等の油圧アクチュエータを含む。
【0051】
エンジン11は、油圧駆動系におけるメイン動力源であり、例えば、上部旋回体3の後部に搭載される。具体的には、エンジン11は、後述するショベルコントローラ30による直接或いは間接的な制御下で、予め設定される目標回転数で一定回転し、メインポンプ14及びパイロットポンプ15を駆動する。エンジン11は、例えば、軽油を燃料とするディーゼルエンジンである。
【0052】
レギュレータ13は、メインポンプ14の吐出量を制御する。例えば、レギュレータ13は、ショベルコントローラ30からの制御指令に応じて、メインポンプ14の斜板の角度(傾転角)を調節する。レギュレータ13は、例えば、後述の如く、レギュレータ13L,13Rを含む。
【0053】
メインポンプ14は、例えば、エンジン11と同様、上部旋回体3の後部に搭載され、高圧油圧ラインを通じてコントロールバルブユニット17に作動油を供給する。メインポンプ14は、上述の如く、エンジン11により駆動される。メインポンプ14は、例えば、可変容量式油圧ポンプであり、上述の如く、ショベルコントローラ30による制御下で、レギュレータ13により斜板の傾転角が調節されることでピストンのストローク長が調整され、吐出流量(吐出圧)が制御される。メインポンプ14は、例えば、後述の如く、メインポンプ14L,14Rを含む。
【0054】
コントロールバルブユニット17は、ショベル100における油圧システムを制御する油圧制御装置である。本実施形態では、コントロールバルブユニット17は、制御弁171~176を含む。制御弁175は制御弁175L及び制御弁175Rを含み、制御弁176は制御弁176L及び制御弁176Rを含む。コントロールバルブユニット17は、制御弁171~176を通じ、メインポンプ14が吐出する作動油を1又は複数の油圧アクチュエータに選択的に供給できるように構成されている。制御弁171~176は、例えば、メインポンプ14から油圧アクチュエータに流れる作動油の流量、及び、油圧アクチュエータから作動油タンクに流れる作動油の流量を制御する。油圧アクチュエータは、ブームシリンダ7、アームシリンダ8、バケットシリンダ9、走行油圧モータ1L、1R、及び旋回油圧モータ2Aを含む。より具体的には、制御弁171は、左走行油圧モータ1Lに対応し、制御弁172は、右走行油圧モータ1Rに対応し、制御弁173は、旋回油圧モータ2Aに対応する。また、制御弁174は、バケットシリンダ9に対応し、制御弁175は、ブームシリンダ7に対応し、制御弁176は、アームシリンダ8に対応する。また、制御弁175は、例えば、後述の如く、制御弁175L,175Rを含み、制御弁176は、例えば、後述の如く、制御弁176L,176Rを含む。制御弁171~176の詳細は、後述する。
【0055】
パイロットポンプ15は、パイロット圧生成装置の一例であり、パイロットラインを介して油圧制御機器に作動油を供給できるように構成されている。本実施形態では、パイロットポンプ15は、固定容量型油圧ポンプである。但し、パイロット圧生成装置は、メインポンプ14によって実現されてもよい。すなわち、メインポンプ14は、作動油ラインを介して作動油をコントロールバルブユニット17に供給する機能に加え、パイロットラインを介して各種油圧制御機器に作動油を供給する機能を備えていてもよい。この場合、パイロットポンプ15は、省略されてもよい。
【0056】
操作装置26は、操作者がアクチュエータの操作のために用いる装置である。アクチュエータは、油圧アクチュエータ及び電動アクチュエータの少なくとも一方を含む。
【0057】
吐出圧センサ28は、メインポンプ14の吐出圧を検出するように構成されている。本実施形態では、吐出圧センサ28は、検出した値をショベルコントローラ30に対して出力する。吐出圧センサ28は、例えば、後述の如く、吐出圧センサ28L,28Rを含む。
【0058】
操作センサ29は、操作装置26を用いた操作者の操作内容を検出するように構成されている。本実施形態では、操作センサ29は、アクチュエータのそれぞれに対応する操作装置26の操作方向及び操作量を検出し、検出した値をショベルコントローラ30に対して出力する。本実施形態では、ショベルコントローラ30は、操作センサ29の出力に応じて比例弁31の開口面積を制御する。そして、ショベルコントローラ30は、パイロットポンプ15が吐出する作動油を、コントロールバルブユニット17内の対応する制御弁のパイロットポートに供給する。パイロットポートのそれぞれに供給される作動油の圧力(パイロット圧)は、原則として、油圧アクチュエータのそれぞれに対応する操作装置26の操作方向及び操作量に応じた圧力である。このように、操作装置26は、パイロットポンプ15が吐出する作動油を、コントロールバルブユニット17内の対応する制御弁のパイロットポートに供給できるように構成されている。
【0059】
マシンコントロール用制御弁として機能する比例弁31は、パイロットポンプ15とコントロールバルブユニット17内の制御弁のパイロットポートとを接続する管路に配置され、その管路の流路面積を変更できるように構成されている。本実施形態では、比例弁31は、ショベルコントローラ30が出力する制御指令に応じて動作する。そのため、ショベルコントローラ30は、操作者による操作装置26の操作とは無関係に、パイロットポンプ15が吐出する作動油を、比例弁31を介し、コントロールバルブユニット17内の制御弁のパイロットポートに供給できる。比例弁31は、例えば、後述の如く、比例弁31AL,31AR,31BL,31BR,31CL,31CRを含む。
【0060】
この構成により、ショベルコントローラ30は、特定の操作装置26に対する操作が行われていない場合であっても、その特定の操作装置26に対応する油圧アクチュエータを動作させることができる。
【0061】
例えば、ショベルコントローラ30は、操作者等の所定操作により予め設定される作業モード等に基づき、目標回転数を設定し、エンジン11を一定回転させる駆動制御を行う。
【0062】
また、例えば、ショベルコントローラ30は、必要に応じてレギュレータ13に対して制御指令を出力し、メインポンプ14の吐出量を変化させる。
【0063】
また、例えば、ショベルコントローラ30は、例えば、操作者による操作装置26を通じたショベル100の手動操作をガイド(案内)するマシンガイダンス機能に関する制御を行う。また、ショベルコントローラ30は、例えば、操作者による操作装置26を通じたショベル100の手動操作を自動的に支援するマシンコントロール機能に関する制御を行う。
【0064】
なお、ショベルコントローラ30の機能の一部は、他のコントローラ(制御装置)により実現されてもよい。即ち、ショベルコントローラ30の機能は、複数のコントローラにより分散される態様で実現されてもよい。例えば、マシンガイダンス機能及びマシンコントロール機能は、専用のコントローラ(制御装置)により実現されてもよい。
【0065】
[ショベルの油圧システム]
次に、
図4を参照して、本実施形態に係るショベル100の油圧システムについて説明する。
【0066】
図4は、本実施形態に係るショベル100の油圧システムの構成の一例を概略的に示す図である。
【0067】
なお、
図4において、機械的動力系、作動油ライン、パイロットライン、及び電気制御系は、
図3等の場合と同様、それぞれ、二重線、実線、破線、及び点線で示されている。
【0068】
当該油圧回路により実現される油圧システムは、エンジン11により駆動されるメインポンプ14L,14Rのそれぞれから、センタバイパス油路C1L,C1R、パラレル油路C2L,C2Rを経て作動油タンクまで作動油を循環させる。
【0069】
センタバイパス油路C1Lは、メインポンプ14Lを起点として、コントロールバルブユニット17内に配置される制御弁171,173,175L,176Lを順に通過し、作動油タンクに至る。
【0070】
センタバイパス油路C1Rは、メインポンプ14Rを起点として、コントロールバルブユニット17内に配置される制御弁172,174,175R,176Rを順に通過し、作動油タンクに至る。
【0071】
制御弁171は、メインポンプ14Lから吐出される作動油を走行油圧モータ1Lへ供給し、且つ、走行油圧モータ1Lが吐出する作動油を作動油タンクに排出させるスプール弁である。
【0072】
制御弁172は、メインポンプ14Rから吐出される作動油を走行油圧モータ1Rへ供給し、且つ、走行油圧モータ1Rが吐出する作動油を作動油タンクへ排出させるスプール弁である。
【0073】
制御弁173は、メインポンプ14Lから吐出される作動油を旋回油圧モータ2Aへ供給し、且つ、旋回油圧モータ2Aが吐出する作動油を作動油タンクへ排出させるスプール弁である。
【0074】
制御弁174は、メインポンプ14Rから吐出される作動油をバケットシリンダ9へ供給し、且つ、バケットシリンダ9内の作動油を作動油タンクへ排出させるスプール弁である。
【0075】
制御弁175L,175Rは、それぞれ、メインポンプ14L,14Rが吐出する作動油をブームシリンダ7へ供給し、且つ、ブームシリンダ7内の作動油を作動油タンクへ排出させるスプール弁である。
【0076】
制御弁176L,176Rは、メインポンプ14L,14Rが吐出する作動油をアームシリンダ8へ供給し、且つ、アームシリンダ8内の作動油を作動油タンクへ排出させる。
【0077】
制御弁171,172,173,174,175L,175R,176L,176Rは、それぞれ、パイロットポートに作用するパイロット圧に応じて、油圧アクチュエータに給排される作動油の流量を調整したり、流れる方向を切り換えたりする。
【0078】
パラレル油路C2Lは、センタバイパス油路C1Lと並列的に、制御弁171,173,175L,176Lにメインポンプ14Lの作動油を供給する。具体的には、パラレル油路C2Lは、制御弁171の上流側でセンタバイパス油路C1Lから分岐し、制御弁171,173,175L,176Rのそれぞれに並列してメインポンプ14Lの作動油を供給可能に構成される。これにより、パラレル油路C2Lは、制御弁171,173,175Lの何れかによってセンタバイパス油路C1Lを通る作動油の流れが制限或いは遮断された場合に、より下流の制御弁に作動油を供給できる。
【0079】
パラレル油路C2Rは、センタバイパス油路C1Rと並列的に、制御弁172,174,175R,176Rにメインポンプ14Rの作動油を供給する。具体的には、パラレル油路C2Rは、制御弁172の上流側でセンタバイパス油路C1Rから分岐し、制御弁172,174,175R,176Rのそれぞれに並列してメインポンプ14Rの作動油を供給可能に構成される。パラレル油路C2Rは、制御弁172,174,175Rの何れかによってセンタバイパス油路C1Rを通る作動油の流れが制限或いは遮断された場合に、より下流の制御弁に作動油を供給できる。
【0080】
レギュレータ13L,13Rは、それぞれ、ショベルコントローラ30による制御下で、メインポンプ14L,14Rの斜板の傾転角を調節することによって、メインポンプ14L,14Rの吐出量を調節する。
【0081】
吐出圧センサ28Lは、メインポンプ14Lの吐出圧を検出し、検出された吐出圧に対応する検出信号は、ショベルコントローラ30に取り込まれる。吐出圧センサ28Rについても同様である。これにより、ショベルコントローラ30は、メインポンプ14L,14Rの吐出圧に応じて、レギュレータ13L,13Rを制御することができる。
【0082】
センタバイパス油路C1L,C1Rには、最も下流にある制御弁176L,176Rのそれぞれと作動油タンクとの間には、ネガティブコントロール絞り(以下、「ネガコン絞り」)18L,18Rが設けられる。これにより、メインポンプ14L,14Rにより吐出された作動油の流れは、ネガコン絞り18L,18Rで制限される。そして、ネガコン絞り18L,18Rは、レギュレータ13L,13Rを制御するための制御圧(以下、「ネガコン圧」)を発生させる。
【0083】
ネガコン圧センサ19L,19Rは、ネガコン圧を検出し、検出されたネガコン圧に対応する検出信号は、ショベルコントローラ30に取り込まれる。
【0084】
ショベルコントローラ30は、吐出圧センサ28L,28Rにより検出されるメインポンプ14L,14Rの吐出圧に応じて、レギュレータ13L,13Rを制御し、メインポンプ14L,14Rの吐出量を調節してよい。例えば、ショベルコントローラ30は、メインポンプ14Lの吐出圧の増大に応じて、レギュレータ13Lを制御し、メインポンプ14Lの斜板傾転角を調節することにより、吐出量を減少させてよい。レギュレータ13Rについても同様である。これにより、ショベルコントローラ30は、吐出圧と吐出量との積で表されるメインポンプ14L,14Rの吸収馬力がエンジン11の出力馬力を超えないように、メインポンプ14L,14Rの全馬力制御を行うことができる。
【0085】
また、ショベルコントローラ30は、ネガコン圧センサ19L,19Rにより検出されるネガコン圧に応じて、レギュレータ13L,13Rを制御することにより、メインポンプ14L,14Rの吐出量を調節してよい。例えば、ショベルコントローラ30は、ネガコン圧が大きいほどメインポンプ14L,14Rの吐出量を減少させ、ネガコン圧が小さいほどメインポンプ14L,14Rの吐出量を増大させる。
【0086】
具体的には、ショベル100における油圧アクチュエータが何れも操作されていない待機状態(
図3に示す状態)の場合、メインポンプ14L,14Rから吐出される作動油は、センタバイパス油路C1L,C1Rを通ってネガコン絞り18L,18Rに至る。そして、メインポンプ14L,14Rから吐出される作動油の流れは、ネガコン絞り18L,18Rの上流で発生するネガコン圧を増大させる。その結果、ショベルコントローラ30は、メインポンプ14L,14Rの吐出量を許容最小吐出量まで減少させ、吐出した作動油がセンタバイパス油路C1L,C1Rを通過する際の圧力損失(ポンピングロス)を抑制する。
【0087】
一方、何れかの油圧アクチュエータが操作装置26を通じて操作された場合、メインポンプ14L,14Rから吐出される作動油は、操作対象の油圧アクチュエータに対応する制御弁を介して、操作対象の油圧アクチュエータに流れ込む。そして、メインポンプ14L,14Rから吐出される作動油の流れは、ネガコン絞り18L,18Rに至る量を減少或いは消失させ、ネガコン絞り18L,18Rの上流で発生するネガコン圧を低下させる。その結果、ショベルコントローラ30は、メインポンプ14L,14Rの吐出量を増大させ、操作対象の油圧アクチュエータに十分な作動油を循環させ、操作対象の油圧アクチュエータを確実に駆動させることができる。
【0088】
操作装置26は、左操作レバー26L、右操作レバー26R及び走行レバー26Dを含む。走行レバー26Dは、左走行レバー26DL及び右走行レバー26DRを含む。
【0089】
左操作レバー26Lは、旋回操作とアーム5の操作に用いられる。左操作レバー26Lが、前後方向に操作された場合、パイロットポンプ15が吐出する作動油を利用し、レバー操作量に応じた制御圧を制御弁176のパイロットポートに導入させる。また、左操作レバー26Lが、左右方向に操作された場合、パイロットポンプ15が吐出する作動油を利用し、レバー操作量に応じた制御圧を制御弁173のパイロットポートに導入させる。
【0090】
具体的には、左操作レバー26Lは、アーム閉じ方向に操作された場合に、制御弁176Lの右側パイロットポートに作動油を導入させ、且つ、制御弁176Rの左側パイロットポートに作動油を導入させる。また、左操作レバー26Lは、アーム開き方向に操作された場合には、制御弁176Lの左側パイロットポートに作動油を導入させ、且つ、制御弁176Rの右側パイロットポートに作動油を導入させる。また、左操作レバー26Lは、左旋回方向に操作された場合に、制御弁173の左側パイロットポートに作動油を導入させ、右旋回方向に操作された場合に、制御弁173の右側パイロットポートに作動油を導入させる。
【0091】
右操作レバー26Rは、ブーム4の操作とバケット6の操作に用いられる。右操作レバー26Rは、前後方向に操作された場合、パイロットポンプ15が吐出する作動油を利用し、レバー操作量に応じた制御圧を制御弁175のパイロットポートに導入させる。また、左右方向に操作された場合、パイロットポンプ15が吐出する作動油を利用し、レバー操作量に応じた制御圧を制御弁174のパイロットポートに導入させる。
【0092】
具体的には、右操作レバー26Rは、ブーム下げ方向に操作された場合に、制御弁175Rの左側パイロットポートに作動油を導入させる。また、右操作レバー26Rは、ブーム上げ方向に操作された場合には、制御弁175Lの右側パイロットポートに作動油を導入させ、且つ、制御弁175Rの左側パイロットポートに作動油を導入させる。また、右操作レバー26Rは、バケット閉じ方向に操作された場合に、制御弁174の右側パイロットポートに作動油を導入させ、バケット開き方向に操作された場合に、制御弁174の左側パイロットポートに作動油を導入させる。
【0093】
以下では、左右方向に操作される左操作レバー26Lは、「旋回操作レバー」と称され、前後方向に操作される左操作レバー26Lは、「アーム操作レバー」と称される場合がある。また、左右方向に操作される右操作レバー26Rは、「バケット操作レバー」と称され、前後方向に操作される右操作レバー26Rは、「ブーム操作レバー」と称される場合がある。
【0094】
左走行レバー26DLは、左クローラ1CLの操作に用いられる。左走行ペダルと連動するように構成されていてもよい。左走行レバー26DLは、前後方向に操作されると、パイロットポンプ15が吐出する作動油を利用し、レバー操作量に応じた制御圧を制御弁171のパイロットポートに導入させる。右走行レバー26DRは、右クローラ1CRの操作に用いられる。右走行ペダルと連動するように構成されていてもよい。右走行レバー26DRは、前後方向に操作されると、パイロットポンプ15が吐出する作動油を利用し、レバー操作量に応じた制御圧を制御弁172のパイロットポートに導入させる。
【0095】
操作センサ29は、操作者による操作装置26の操作の内容を検出できるように構成されている。本実施形態では、操作センサ29は、アクチュエータのそれぞれに対応する操作装置26の操作方向及び操作量を検出し、検出した値をショベルコントローラ30に対して出力する。
【0096】
操作センサ29は、操作センサ29LA、29LB、29RA、29RB、29DL、29DRを含む。操作センサ29LAは、操作者による左操作レバー26Lに対する前後方向への操作の内容を検出し、検出した値をショベルコントローラ30に対して出力する。操作の内容は、例えば、レバー操作方向、レバー操作量(レバー操作角度)等である。
【0097】
同様に、操作センサ29LBは、操作者による左操作レバー26Lに対する左右方向への操作の内容を検出し、検出した値をショベルコントローラ30に対して出力する。操作センサ29RAは、操作者による右操作レバー26Rに対する前後方向への操作の内容を検出し、検出した値をショベルコントローラ30に対して出力する。操作センサ29RBは、操作者による右操作レバー26Rに対する左右方向への操作の内容を検出し、検出した値をショベルコントローラ30に対して出力する。操作センサ29DLは、操作者による左走行レバー26DLに対する前後方向への操作の内容を検出し、検出した値をショベルコントローラ30に対して出力する。操作センサ29DRは、操作者による右走行レバー26DRに対する前後方向への操作の内容を検出し、検出した値をショベルコントローラ30に対して出力する。
【0098】
ショベルコントローラ30は、操作センサ29の出力を受信し、必要に応じてレギュレータ13に対して制御指令を出力し、メインポンプ14の吐出量を変化させる。また、ショベルコントローラ30は、絞り18の上流に設けられた制御圧センサ19の出力を受信し、必要に応じてレギュレータ13に対して制御指令を出力し、メインポンプ14の吐出量を変化させる。絞り18は左絞り18L及び右絞り18Rを含み、制御圧センサ19はネガコン圧センサ19L、19Rを含む。
【0099】
[ショベルのマシンコントロール機能に関する構成の詳細]
次に、
図5を参照して、ショベル100のマシンコントロール機能に関する構成の詳細について説明する。
【0100】
図5は、油圧システムの一部を抜き出した図である。具体的には、
図5(A)は、アームシリンダ8の操作に関する油圧システム部分を抜き出した図であり、
図5(B)は、ブームシリンダ7の操作に関する油圧システム部分を抜き出した図である。
図5(C)は、バケットシリンダ9の操作に関する油圧システム部分を抜き出した図であり、
図5(D)は、旋回油圧モータ2Aの操作に関する油圧システム部分を抜き出した図である。
【0101】
図5に示すように、油圧システムは、比例弁31を含む。比例弁31は、比例弁31AL~31DL及び31AR~31DRを含む。
【0102】
比例弁31は、マシンコントロール用制御弁として機能する。比例弁31は、パイロットポンプ15とコントロールバルブユニット17内の対応する制御弁のパイロットポートとを接続する管路に配置され、その管路の流路面積を変更できるように構成されている。本実施形態では、比例弁31は、ショベルコントローラ30が出力する制御指令に応じて動作する。そのため、ショベルコントローラ30は、操作者による操作装置26の操作とは無関係に、パイロットポンプ15が吐出する作動油を、比例弁31を介し、コントロールバルブユニット17内の対応する制御弁のパイロットポートに供給できる。そして、ショベルコントローラ30は、比例弁31が生成するパイロット圧を、対応する制御弁のパイロットポートに作用させることができる。
【0103】
この構成により、ショベルコントローラ30は、特定の操作装置26に対する操作が行われていない場合であっても、その特定の操作装置26に対応する油圧アクチュエータを動作させることができる。また、ショベルコントローラ30は、特定の操作装置26に対する操作が行われている場合であっても、その特定の操作装置26に対応する油圧アクチュエータの動作を強制的に停止させることができる。
【0104】
例えば、
図5(A)に示すように、左操作レバー26Lは、アーム5を操作するために用いられる。具体的には、左操作レバー26Lは、パイロットポンプ15が吐出する作動油を利用し、前後方向への操作に応じたパイロット圧を制御弁176のパイロットポートに作用させる。より具体的には、左操作レバー26Lは、アーム閉じ方向(後方向)に操作された場合に、操作量に応じたパイロット圧を制御弁176Lの右側パイロットポートと制御弁176Rの左側パイロットポートに作用させる。また、左操作レバー26Lは、アーム開き方向(前方向)に操作された場合には、操作量に応じたパイロット圧を制御弁176Lの左側パイロットポートと制御弁176Rの右側パイロットポートに作用させる。
【0105】
操作装置26にはスイッチSWが設けられている。本実施形態では、スイッチSWは、スイッチSW1及びスイッチSW2を含む。スイッチSW1は、左操作レバー26Lの先端に設けられた押しボタンスイッチである。操作者は、スイッチSW1を押しながら左操作レバー26Lを操作できる。スイッチSW1は、右操作レバー26Rに設けられていてもよく、キャビン10内の他の位置に設けられていてもよい。スイッチSW2は、左走行レバー26DLの先端に設けられた押しボタンスイッチである。操作者は、スイッチSW2を押しながら左走行レバー26DLを操作できる。スイッチSW2は、右走行レバー26DRに設けられていてもよく、キャビン10内の他の位置に設けられていてもよい。
【0106】
操作センサ29LAは、操作者による左操作レバー26Lに対する前後方向への操作の内容を検出し、検出した値をショベルコントローラ30に対して出力する。
【0107】
比例弁31ALは、ショベルコントローラ30が出力する制御指令(電流指令)に応じて動作する。そして、パイロットポンプ15から比例弁31ALを介して制御弁176Lの右側パイロットポート及び制御弁176Rの左側パイロットポートに導入される作動油によるパイロット圧を調整する。比例弁31ARは、ショベルコントローラ30が出力する制御指令(電流指令)に応じて動作する。そして、パイロットポンプ15から比例弁31ARを介して制御弁176Lの左側パイロットポート及び制御弁176Rの右側パイロットポートに導入される作動油によるパイロット圧を調整する。比例弁31ALは、制御弁176L及び制御弁176Rを任意の弁位置で停止できるようにパイロット圧を調整可能である。同様に、比例弁31ARは、制御弁176L及び制御弁176Rを任意の弁位置で停止できるようにパイロット圧を調整可能である。
【0108】
この構成により、ショベルコントローラ30は、操作者によるアーム閉じ操作に応じ、パイロットポンプ15が吐出する作動油を、比例弁31ALを介し、制御弁176Lの右側パイロットポート及び制御弁176Rの左側パイロットポートに供給できる。また、ショベルコントローラ30は、操作者によるアーム閉じ操作とは無関係に、パイロットポンプ15が吐出する作動油を、比例弁31ALを介し、制御弁176Lの右側パイロットポート及び制御弁176Rの左側パイロットポートに供給できる。すなわち、ショベルコントローラ30は、操作者によるアーム閉じ操作に応じ、或いは、操作者によるアーム閉じ操作とは無関係に、アーム5を閉じることができる。
【0109】
また、ショベルコントローラ30は、操作者によるアーム開き操作に応じ、パイロットポンプ15が吐出する作動油を、比例弁31ARを介し、制御弁176Lの左側パイロットポート及び制御弁176Rの右側パイロットポートに供給できる。また、ショベルコントローラ30は、操作者によるアーム開き操作とは無関係に、パイロットポンプ15が吐出する作動油を、比例弁31ARを介し、制御弁176Lの左側パイロットポート及び制御弁176Rの右側パイロットポートに供給できる。すなわち、ショベルコントローラ30は、操作者によるアーム開き操作に応じ、或いは、操作者によるアーム開き操作とは無関係に、アーム5を開くことができる。
【0110】
また、この構成により、ショベルコントローラ30は、操作者によるアーム閉じ操作が行われている場合であっても、必要に応じて、制御弁176の閉じ側のパイロットポート(制御弁176Lの左側パイロットポート及び制御弁176Rの右側パイロットポート)に作用するパイロット圧を減圧し、アーム5の閉じ動作を強制的に停止させることができる。操作者によるアーム開き操作が行われているときにアーム5の開き動作を強制的に停止させる場合についても同様である。
【0111】
ショベルコントローラ30は、操作者によるアーム閉じ操作が行われている場合であっても、必要に応じて、比例弁31ARを制御し、制御弁176の閉じ側のパイロットポートの反対側にある、制御弁176の開き側のパイロットポート(制御弁176Lの右側パイロットポート及び制御弁176Rの左側パイロットポート)に作用するパイロット圧を増大させ、制御弁176を強制的に中立位置に戻すことで、アーム5の閉じ動作を強制的に停止させてもよい。操作者によるアーム開き操作が行われている場合にアーム5の開き動作を強制的に停止させる場合についても同様である。
【0112】
また、以下の
図5(B)~
図5(D)を参照しながらの説明を省略するが、操作者によるブーム上げ操作又はブーム下げ操作が行われている場合にブーム4の動作を強制的に停止させる場合、操作者によるバケット閉じ操作又はバケット開き操作が行われている場合にバケット6の動作を強制的に停止させる場合、及び、操作者による旋回操作が行われている場合に上部旋回体3の旋回動作を強制的に停止させる場合についても同様である。
【0113】
また、操作者による走行操作が行われている場合に下部走行体1の走行動作を強制的に停止させる場合についても同様である。
【0114】
また、
図5(B)に示すように、右操作レバー26Rは、ブーム4を操作するために用いられる。具体的には、右操作レバー26Rは、パイロットポンプ15が吐出する作動油を利用し、前後方向への操作に応じたパイロット圧を制御弁175のパイロットポートに作用させる。より具体的には、右操作レバー26Rは、ブーム上げ方向(後方向)に操作された場合に、操作量に応じたパイロット圧を制御弁175Lの右側パイロットポートと制御弁175Rの左側パイロットポートに作用させる。また、右操作レバー26Rは、ブーム下げ方向(前方向)に操作された場合には、操作量に応じたパイロット圧を制御弁175Rの右側パイロットポートに作用させる。
【0115】
操作センサ29RAは、操作者による右操作レバー26Rに対する前後方向への操作の内容を検出し、検出した値をショベルコントローラ30に対して出力する。
【0116】
比例弁31BLは、ショベルコントローラ30が出力する制御指令(電流指令)に応じて動作する。そして、パイロットポンプ15から比例弁31BLを介して制御弁175Lの右側パイロットポート及び制御弁175Rの左側パイロットポートに導入される作動油によるパイロット圧を調整する。比例弁31BRは、ショベルコントローラ30が出力する制御指令(電流指令)に応じて動作する。そして、パイロットポンプ15から比例弁31BRを介して制御弁175Rの右側パイロットポートに導入される作動油によるパイロット圧を調整する。比例弁31BLは、制御弁175L及び制御弁175Rを任意の弁位置で停止できるようにパイロット圧を調整可能である。また、比例弁31BRは、制御弁175Rを任意の弁位置で停止できるようにパイロット圧を調整可能である。
【0117】
この構成により、ショベルコントローラ30は、操作者によるブーム上げ操作に応じ、パイロットポンプ15が吐出する作動油を、比例弁31BLを介し、制御弁175Lの右側パイロットポート及び制御弁175Rの左側パイロットポートに供給できる。また、ショベルコントローラ30は、操作者によるブーム上げ操作とは無関係に、パイロットポンプ15が吐出する作動油を、比例弁31BLを介し、制御弁175Lの右側パイロットポート及び制御弁175Rの左側パイロットポートに供給できる。すなわち、ショベルコントローラ30は、操作者によるブーム上げ操作に応じ、或いは、操作者によるブーム上げ操作とは無関係に、ブーム4を上げることができる。
【0118】
また、ショベルコントローラ30は、操作者によるブーム下げ操作に応じ、パイロットポンプ15が吐出する作動油を、比例弁31BRを介し、制御弁175Rの右側パイロットポートに供給できる。また、ショベルコントローラ30は、操作者によるブーム下げ操作とは無関係に、パイロットポンプ15が吐出する作動油を、比例弁31BRを介し、制御弁175Rの右側パイロットポートに供給できる。すなわち、ショベルコントローラ30は、操作者によるブーム下げ操作に応じ、或いは、操作者によるブーム下げ操作とは無関係に、ブーム4を下げることができる。
【0119】
また、
図5(C)に示すように、右操作レバー26Rは、バケット6を操作するためにも用いられる。具体的には、右操作レバー26Rは、パイロットポンプ15が吐出する作動油を利用し、左右方向への操作に応じたパイロット圧を制御弁174のパイロットポートに作用させる。より具体的には、右操作レバー26Rは、バケット閉じ方向(左方向)に操作された場合に、操作量に応じたパイロット圧を制御弁174の左側パイロットポートに作用させる。また、右操作レバー26Rは、バケット開き方向(右方向)に操作された場合には、操作量に応じたパイロット圧を制御弁174の右側パイロットポートに作用させる。
【0120】
操作センサ29RBは、操作者による右操作レバー26Rに対する左右方向への操作の内容を検出し、検出した値をショベルコントローラ30に対して出力する。
【0121】
比例弁31CLは、ショベルコントローラ30が出力する制御指令(電流指令)に応じて動作する。そして、パイロットポンプ15から比例弁31CLを介して制御弁174の左側パイロットポートに導入される作動油によるパイロット圧を調整する。比例弁31CRは、ショベルコントローラ30が出力する制御指令(電流指令)に応じて動作する。そして、パイロットポンプ15から比例弁31CRを介して制御弁174の右側パイロットポートに導入される作動油によるパイロット圧を調整する。比例弁31CLは、制御弁174を任意の弁位置で停止できるようにパイロット圧を調整可能である。同様に、比例弁31CRは、制御弁174を任意の弁位置で停止できるようにパイロット圧を調整可能である。
【0122】
この構成により、ショベルコントローラ30は、操作者によるバケット閉じ操作に応じ、パイロットポンプ15が吐出する作動油を、比例弁31CLを介し、制御弁174の左側パイロットポートに供給できる。また、ショベルコントローラ30は、操作者によるバケット閉じ操作とは無関係に、パイロットポンプ15が吐出する作動油を、比例弁31CLを介し、制御弁174の左側パイロットポートに供給できる。すなわち、ショベルコントローラ30は、操作者によるバケット閉じ操作に応じ、或いは、操作者によるバケット閉じ操作とは無関係に、バケット6を閉じることができる。
【0123】
また、ショベルコントローラ30は、操作者によるバケット開き操作に応じ、パイロットポンプ15が吐出する作動油を、比例弁31CRを介し、制御弁174の右側パイロットポートに供給できる。また、ショベルコントローラ30は、操作者によるバケット開き操作とは無関係に、パイロットポンプ15が吐出する作動油を、比例弁31CRを介し、制御弁174の右側パイロットポートに供給できる。すなわち、ショベルコントローラ30は、操作者によるバケット開き操作に応じ、或いは、操作者によるバケット開き操作とは無関係に、バケット6を開くことができる。
【0124】
また、
図5(D)に示すように、左操作レバー26Lは、旋回機構2を操作するためにも用いられる。具体的には、左操作レバー26Lは、パイロットポンプ15が吐出する作動油を利用し、左右方向への操作に応じたパイロット圧を制御弁173のパイロットポートに作用させる。より具体的には、左操作レバー26Lは、左旋回方向(左方向)に操作された場合に、操作量に応じたパイロット圧を制御弁173の左側パイロットポートに作用させる。また、左操作レバー26Lは、右旋回方向(右方向)に操作された場合には、操作量に応じたパイロット圧を制御弁173の右側パイロットポートに作用させる。
【0125】
操作センサ29LBは、操作者による左操作レバー26Lに対する左右方向への操作の内容を検出し、検出した値をショベルコントローラ30に対して出力する。
【0126】
比例弁31DLは、ショベルコントローラ30が出力する制御指令(電流指令)に応じて動作する。そして、パイロットポンプ15から比例弁31DLを介して制御弁173の左側パイロットポートに導入される作動油によるパイロット圧を調整する。比例弁31DRは、ショベルコントローラ30が出力する制御指令(電流指令)に応じて動作する。そして、パイロットポンプ15から比例弁31DRを介して制御弁173の右側パイロットポートに導入される作動油によるパイロット圧を調整する。比例弁31DLは、制御弁173を任意の弁位置で停止できるようにパイロット圧を調整可能である。同様に、比例弁31DRは、制御弁173を任意の弁位置で停止できるようにパイロット圧を調整可能である。
【0127】
この構成により、ショベルコントローラ30は、操作者による左旋回操作に応じ、パイロットポンプ15が吐出する作動油を、比例弁31DLを介し、制御弁173の左側パイロットポートに供給できる。また、ショベルコントローラ30は、操作者による左旋回操作とは無関係に、パイロットポンプ15が吐出する作動油を、比例弁31DLを介し、制御弁173の左側パイロットポートに供給できる。すなわち、ショベルコントローラ30は、操作者による左旋回操作に応じ、或いは、操作者による左旋回操作とは無関係に、旋回機構2を左旋回させることができる。
【0128】
また、ショベルコントローラ30は、操作者による右旋回操作に応じ、パイロットポンプ15が吐出する作動油を、比例弁31DRを介し、制御弁173の右側パイロットポートに供給できる。また、ショベルコントローラ30は、操作者による右旋回操作とは無関係に、パイロットポンプ15が吐出する作動油を、比例弁31DRを介し、制御弁173の右側パイロットポートに供給できる。すなわち、ショベルコントローラ30は、操作者による右旋回操作に応じ、或いは、操作者による右旋回操作とは無関係に、旋回機構2を右旋回させることができる。
【0129】
また、左走行レバー26DLは、左クローラ1CLを操作するために用いられる。具体的には、左走行レバー26DLは、パイロットポンプ15が吐出する作動油を利用し、前後方向への操作に応じたパイロット圧を制御弁171のパイロットポートに作用させる。操作センサ29DLは、操作者による左走行レバー26DLに対する前後方向への操作の内容を電気的に検出し、検出した値を示す電流指令をショベルコントローラ30に出力する。これにより、ショベルコントローラ30が電流指令に応じて動作する。
【0130】
そして、ショベルコントローラ30は、上述した構成と同様に、パイロットポンプ15が吐出する作動油を、(図示しない)比例弁を介し、制御弁171の左側パイロットポートに供給できる。すなわち、左クローラ1CLを前進させることができる。また、ショベルコントローラ30は、パイロットポンプ15が吐出する作動油を、(図示しない)比例弁を介し、制御弁171の右側パイロットポートに供給できる。すなわち、左クローラ1CLを後進させることができる。
【0131】
また、右走行レバー26DRは、右クローラ1CRを操作するために用いられる。具体的には、右走行レバー26DRは、パイロットポンプ15が吐出する作動油を利用し、前後方向への操作に応じたパイロット圧を制御弁172のパイロットポートに作用させる。操作センサ29DRは、操作者による右走行レバー26DRに対する前後方向への操作の内容を電気的に検出し、検出した値を示す電流指令をショベルコントローラ30に対して出力する。これにより、ショベルコントローラ30が電流指令に応じて動作する。
【0132】
そして、ショベルコントローラ30は、上述した構成と同様に、パイロットポンプ15が吐出する作動油を、比例弁31を介し、制御弁172の右側パイロットポートに供給できる。すなわち、右クローラ1CRを前進させることができる。また、ショベルコントローラ30は、パイロットポンプ15が吐出する作動油を、比例弁31を介し、制御弁172の左側パイロットポートに供給できる。すなわち、右クローラ1CRを後進させることができる。
【0133】
また、ショベル100は、バケットチルト機構を自動的に動作させる構成を備えていてもよい。この場合、バケットチルト機構を構成するバケットチルトシリンダに関する油圧システム部分は、ブームシリンダ7の操作に関する油圧システム部分等と同じように構成されてもよい。
【0134】
また、操作装置26の形態として電気式操作レバーに関する説明を記載したが、電気式操作レバーではなく油圧式操作レバーが採用されてもよい。この場合、油圧式操作レバーのレバー操作量は、圧力センサによって圧力の形で検出されてショベルコントローラ30へ入力されてもよい。また、油圧式操作レバーとしての操作装置26と各制御弁のパイロットポートとの間には電磁弁が配置されてもよい。電磁弁は、ショベルコントローラ30からの電気信号に応じて動作するように構成される。この構成により、油圧式操作レバーとしての操作装置26を用いた手動操作が行われると、操作装置26は、レバー操作量に応じてパイロット圧を増減させることで各制御弁を移動させることができる。また、各制御弁は電磁スプール弁で構成されていてもよい。この場合、電磁スプール弁は、電気式操作レバーのレバー操作量に対応するショベルコントローラ30からの電気信号に応じて動作する。
【0135】
<遠隔操作システムのブロック構成>
図6は、本実施形態に係る遠隔操作システムSYSの構成例を示す機能ブロック図である。
図6に示される例では、遠隔操作システムSYSに含まれる、遠隔操作室RC、定点計測装置400、及び、ショベル100の各々のブロック構成を示している。なお、ショベル100のハードウェア構成については上述した通りなので、説明を省略する。
【0136】
<定点計測装置の構成>
定点計測装置400は、通信装置T3と、位置情報記憶部450と、撮像装置C3と、空間認識装置S11と、コントローラ440とを含む。
【0137】
通信装置T3は、通信回線NWを通じて、遠隔操作室RC等の外部と通信を行うためのインターフェースである。通信装置T3は、通信回線NWと接続可能な装置であればよく、例えば、LTE、4G、5G等の移動体通信規格に対応する移動体通信モジュールであってよい。
【0138】
位置情報記憶部450は、定点計測装置400の位置情報を記憶している。位置情報は、例えば、GNSSで取得する位置情報と同様の基準座標系で表現されている。基準座標系は、例えば、上述した世界測地系である。
【0139】
撮像装置C3は、ショベル100が作業している作業現場の画像を取得するように構成されている。撮像装置C3は、例えば、CCDやCMOS等の撮像素子を有する単眼カメラである。
【0140】
空間認識装置S11は、ショベル100が作業している作業現場に存在する物体を検出するためにLIDARを用いる。LIDARは、例えば、監視範囲内にある100万点以上の点とLIDARとの間の距離を測定する。なお、本実施形態は、LIDARを用いる手法に制限するものではなく、物体との間の距離を計測可能な空間認識装置であればよい。例えば、ステレオカメラを用いてもよいし、距離画像カメラ、又はミリ波レーダなどの測距装置を用いてもよい。空間認識装置S11としてミリ波レーダ等が利用される場合には、空間認識装置S11から多数の信号(レーザ光等)を物体に向けて発信し、その反射信号を受信することで、反射信号から物体の距離及び方向を導き出してもよい。
【0141】
コントローラ440は、定点計測装置400に関する制御を行う。コントローラ440は、例えば、任意のハードウェア、又は、任意のハードウェア及びソフトウェアの組み合わせ等によりその機能が実現されてよい。コントローラ440は、例えば、CPU等のプロセッサ装置、RAM等のメモリ装置(主記憶装置)、及びROM等の補助記憶装置等を含むコンピュータを中心に構成されてよい。例えば、コントローラ440は、補助記憶装置にインストールされるプログラムをメモリ装置にロードし、CPU上で実行することにより各種機能を実現する。
【0142】
<遠隔操作室RCの構成>
遠隔操作室RCは、遠隔コントローラ40と、通信装置T2と、撮像装置C1と、記憶装置41と、操作センサ43と、表示装置D1と、を含む。通信装置T2、及び操作センサ43は、上述したので説明を省略する。本実施形態に係る遠隔操作室RCにおいては、操作者OPに対して、作業現場の現在の状況の立体視表示を行う。そこで、立体視表示を行うための手法について説明する。
【0143】
次に、遠隔操作室RCについて説明する。
図7は、遠隔操作室RCの配置例を示す図である。遠隔操作室RCには、操作席DSを基準に、複数の操作装置42が設けられている。
【0144】
本実施形態では、表示装置D1は、
図7に示すように、縦3段、横3列の9つのモニタで構成されるマルチディスプレイである。具体的には、表示装置D1は、中央モニタD1a、上モニタD1b、下モニタD1c、左モニタD1d、右モニタD1e、左上モニタD1f、右上モニタD1g、左下モニタD1h、及び右下モニタD1iを含む。
【0145】
本実施形態では、表示装置D1の上方に撮像装置C1が設けられている。撮像装置C1は、操作席DSに座っている操作者OPの顔が撮像範囲に含まれるように設けられている。
【0146】
本実施形態に係る遠隔コントローラ40は、撮像装置C1により撮像された画像情報に基づいて、操作者OPの右目及び左目の位置を含めた顔認証を行うとともに、操作者OPの視線認識を行う。遠隔コントローラ40は、水平方向や垂直方向のみならず、奥行方向に関しても右目及び左目の位置をリアルタイムに算出してもよい。
【0147】
そして、遠隔コントローラ40は、右目及び左目の位置に基づいて、右目及び左目の各々にそれぞれ異なる画面が見えるように画像の出力制御を行う。次に、右目及び左目の各々にそれぞれ異なる画面を出力可能な表示装置D1について説明する。
【0148】
図8は、本実施形態に係る表示装置D1の構成と、操作者OPの視線と、を示した説明図である。
【0149】
図8に示されるように、表示装置D1は、Y軸正方向に、照明部D13、表示部D12、光学素子D11の順に設けられている。これにより、表示装置D1は、3次元で表された情報(例えば、後述する3次元形状マップ)に基づいて、当該情報に表されている被写体の立体視表示を実現する。
【0150】
照明部D13は、表示部D12側(Y軸正方向)に、光源と、光源から照射された光を拡散させるための部材と、を含むように構成されている。これにより、照明部D13は、表示部D12のY軸負方向側に面に向かって拡散光を照射する。
【0151】
表示部D12は、二次元画像を表示するための表示領域を有する。表示領域には、水平方向と垂直方向との各々について等間隔に画素が配置されている。表示部D12は、液晶表示パネル、例えば、IPS方式のカラー液晶表示パネルを用いる。
【0152】
光学素子D11は、レンチキュラーレンズから成る構造体が複数配置されている。光学素子D11の構造体は、表示部D12の画像出力側の表面に構成されている。構造体は、表示部D12に表示された画像が、水平方向に間隔を空けて並ぶ複数の観察位置(例えば、操作者の右目及び左目に対応する観察位置)の各々に対して出力される画像が分離されるように設けられている。
【0153】
具体的には、表示部D12の表示領域におけるX軸方向の画素の間隔と、光学素子D11の構造とは、運転席に座っている操作者OPの右目と左目において好ましい立体視表示が可能な条件を満たすように設定されている。
【0154】
なお、本実施形態においては、立体視表示の一例として、視差を考慮して右目及び左目に別々の光線を入射させるためにレンチキュラーレンズを用いた手法について説明する。しかしながら、本実施形態は、裸眼の立体視表示の一例を示したものであって、他の手法を用いてもよい。右目及び左目の視差を用いて2次元の画像を立体視表示させる手法であればよく、レンチキュラーレンズを用いた手法以外としては、例えば、遮蔽板を設けることで、両目の視差を生成するパララックスバリア方式を用いてもよい。
【0155】
さらには、右目及び左目の視差を用いて2次元の画像を立体視表示させる手法に制限するものではなく、画像を3次元的に描画するディスプレイを用いてもよい。
【0156】
そして、
図8に示される例では、遠隔コントローラ40は、右目用表示画像及び左目用表示画像を生成した後、右目用表示画像及び左目用表示画像に基づいた立体視表示を行う。つまり、本実施形態では、右目用表示画像(第1画像の一例)は、操作者OPの右目にのみ表示される画像であり、左目用表示画像(第2画像の一例)は、操作者OPの左目にのみ表示される画像とする。本実施形態では、右目用表示画像及び左目用表示画像を用意することで、右目と左目の視差に基づいた立体視表示を実現する。
【0157】
視線認識結果によって、
図8の操作者OP1の右目及び左目を検出した場合、遠隔コントローラ40は、光学素子D11を介することで、操作者OP1の左目に左目用表示画像を出力し、操作者OP1の右目に右目用表示画像を出力するように制御を行う。例えば、遠隔コントローラ40は、光学素子D11を介して左目の視線EYL_1の方向に出力される画素に、左目用表示画像の画素を割り当て、光学素子D11を介して右目の視線EYR_1の方向に出力される画素に、右目用表示画像の画素を割り当てる。表示部D12の表示領域に存在する他の画素も同様に、光学素子D11を介して出力される方向に応じて、左目用表示画像又は右目用表示画像が割り当てられる。これにより、視差に基づいた立体視表示を実現できる。
【0158】
本実施形態では、操作者OPの視線認識結果に応じて表示の切り替えを行う。さらには、操作者OPの頭の位置等が変化した場合も同様に表示の切り替えを行う。
【0159】
視線認識結果によって、
図8の操作者OP2の右目及び左目を検出した場合、遠隔コントローラ40は、光学素子D11を介することで、操作者OP2の左目に左目用表示画像が出力され、操作者OP2の右目に右目用表示画像が出力されるように表示を切り替える。具体的には、遠隔コントローラ40は、光学素子D11を介して左目の視線EYL_2の方向に出力される画素に、左目用表示画像の画素を割り当て、光学素子D11を介して右目の視線EYR_2の方向に出力される画素に、右目用表示画像の画素を割り当てる。表示部D12の表示領域に存在する他の画素も同様に、光学素子D11を介して出力される方向に応じて、左目用表示画像又は右目用表示画像が割り当てられる。これにより、操作者の視線をリアルタイムに検出し、検出結果に応じて表示を切り替えることで、操作者は立体視表示による作業現場を違和感なく認識できる。
【0160】
図6に戻り、遠隔操作室RCの記憶装置41は、読み書き可能な不揮発性の記憶媒体とする。記憶装置41は、施工情報記憶部411と、作業現場情報記憶部412と、を備える。
【0161】
施工情報記憶部411は、ショベル100が作業現場で作業を行うための施工情報を記憶する。施工情報とは、作業現場に存在する土砂等の施工後の形状を表した3次元データとする。施工情報は、施工後の物体(被写体の一例)の3次元形状及び位置を、上述した基準座標系で表現されている。
【0162】
作業現場情報記憶部412は、ショベル100及び定点計測装置400による測定情報に基づいて生成された仮想的な作業現場空間の3次元形状を表現した作業現場情報を記憶する。当該作業現場情報は、作業現場の現在の物体の3次元的形状及び位置を、上述した基準座標系で保持している。
【0163】
次に、定点計測装置400のコントローラ440、ショベル100のショベルコントローラ30、及び遠隔操作室RCの遠隔コントローラ40の各々の機能ブロックについて説明する。
【0164】
<<定点計測装置の機能ブロック>>
定点計測装置400のコントローラ440内の各機能ブロックについて説明する。コントローラ440内の各機能ブロックは概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。各機能ブロックの全部または一部を、任意の単位で機能的または物理的に分散・統合して構成することが可能である。各機能ブロックにて行われる各処理機能は、その全部または任意の一部が、CPUにて実行されるプログラムにより実現される。または各機能ブロックをワイヤードロジックによるハードウェアとして実現してもよい。
【0165】
送信制御部441は、撮像装置C3による画像情報と、空間認識装置S11による測定情報と、位置情報記憶部450に記憶されている位置情報と、を対応付けて遠隔操作室RCに送信する。送信制御部441による画像情報及び測定情報の送信は、所定時間毎に行われる。所定時間は、任意の時間でよいが、操作者OPが周囲の環境の変化を認識できる時間間隔とする。例えば、送信制御部441は、撮像装置C3が撮像を行う毎(例えば1秒未満)、又は、空間認識装置S11が測定を行う毎(例えば1秒未満)に送信してもよい。
【0166】
<<ショベルの機能ブロック>>
ショベル100のショベルコントローラ30内の各機能ブロックについて説明する。ショベルコントローラ30内の各機能ブロックは概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。各機能ブロックの全部または一部を、任意の単位で機能的または物理的に分散・統合して構成することが可能である。各機能ブロックにて行われる各処理機能は、その全部または任意の一部が、CPUにて実行されるプログラムにより実現される。または各機能ブロックをワイヤードロジックによるハードウェアとして実現してもよい。ショベルコントローラ30は、プログラムを実現することで、ショベル状態特定部301と、送信制御部302と、受信制御部303と、アクチュエータ駆動部304と、を備える。
【0167】
ショベル状態特定部301は、ショベル100の状態を特定するように構成されている。本実施形態では、ショベル100の状態は、ショベル100の位置と向き、及びショベル100のアタッチメントの状態(例えば、ブーム4、アーム5、及びバケット6の位置)を含む。ショベル100の位置は、例えば、ショベル100の基準座標系における位置(ショベル100基準点の緯度、経度、及び高度)である。ショベル状態特定部301は、測位装置S8の出力に基づいてショベル100の位置及び向きを特定する。
【0168】
アタッチメントの状態(例えば、ブーム4、アーム5、及びバケット6の位置)は、角度センサ(ブーム角度センサS1、アーム角度センサS2、及びバケット角度センサS3)の検出結果、及びブーム4アーム5及びバケット6の各々のサイズから特定できる。
【0169】
送信制御部302は、通信装置T1を介して、様々な情報を、遠隔操作室RCに送信するための制御を行う。例えば、送信制御部302は、撮像装置S6が撮像した画像情報、空間認識装置S7に検出された測定情報、ショベル100の位置及び向きを示した位置情報、並びに、アタッチメントの状態を示す状態情報を、遠隔操作室RCに送信する制御を行う。送信制御部302による送信は、所定時間毎に行われる。所定時間は、任意の時間でよいが、ショベル100の作業によって変化した状況を認識できる時間間隔とする。例えば、送信制御部302は、上記の情報を、1秒間隔で送信してもよい。
【0170】
受信制御部303は、通信装置T1を介して、様々な情報を、遠隔操作室RCから受信するための制御を行う。例えば、受信制御部303は、遠隔操作室RCから、ショベル100の動作を制御するための制御信号を受信する。
【0171】
アクチュエータ駆動部304は、ショベル100に搭載されているアクチュエータを駆動するように構成されている。本実施形態では、アクチュエータ駆動部304は、遠隔操作室RCから送信されてくる制御信号に基づき、比例弁31に含まれる複数の電磁弁のそれぞれに対する作動信号を生成して出力する。
【0172】
作動信号を受けた各電磁弁は、コントロールバルブユニット17における対応する制御弁のパイロットポートに作用するパイロット圧を増減させる。その結果、各制御弁に対応する油圧アクチュエータは、制御弁のストローク量に応じた速度で動作する。
【0173】
<<遠隔操作室の機能ブロック>>
遠隔操作室RCの遠隔コントローラ40内の各機能ブロックについて説明する。遠隔コントローラ40内の各機能ブロックは概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。各機能ブロックの全部または一部を、任意の単位で機能的または物理的に分散・統合して構成することが可能である。各機能ブロックにて行われる各処理機能は、その全部または任意の一部が、CPUにて実行されるプログラムにより実現される。または各機能ブロックをワイヤードロジックによるハードウェアとして実現してもよい。遠隔コントローラ40は、プログラムを実現することで、受信制御部401と、操作者状態特定部402と、作業現場空間生成部403と、表示画面生成部404と、表示制御部405と、信号生成部406と、送信制御部407と、を備える。
【0174】
受信制御部401は、通信装置T2を介して、様々な情報を、定点計測装置400及びショベル100の各々から受信するための制御を行う。
【0175】
例えば、受信制御部401は、定点計測装置400(ショベル100の周辺に存在する装置の一例)から、画像情報、測定情報及び位置情報を受信する。
【0176】
他の例としては、受信制御部401は、ショベル100から、画像情報、測定情報、位置情報、及び状態情報を受信する。画像情報は、撮像装置S6により撮像された情報とする。測定情報は、空間認識装置S7により測定された情報とする。位置情報は、測位装置S8により測定された基準座標系におけるショベル100の位置及び向きを示した情報とする。状態情報は、アタッチメントの状態(例えば、ブーム4、アーム5、及びバケット6の位置)を示した情報とする。
【0177】
操作者状態特定部402は、撮像装置C1により撮像された画像情報に基づいて、操作者OPの状態を特定する。例えば、操作者状態特定部402は、操作者OPの頭の位置を特定すると共に、目、顔の輪郭などの顔特徴点を抽出する。そして、操作者状態特定部402は、当該特徴点の上方から頭の3次元形状モデルを推定することで、撮像装置C1から頭までの距離、及び頭の回転方向を算出する。
【0178】
さらには、操作者状態特定部402は、頭の3次元形状モデルにおける目の位置、黒目の位置から、操作者OPの視線(方向)を認識する。
【0179】
作業現場空間生成部403は、定点計測装置400から受信した撮像情報、測定情報及び位置情報、並びに、ショベル100から受信した撮像情報、測定情報、位置情報、及び状態情報に基づいて、作業現場の3次元形状を表した仮想的な作業現場空間を生成する。
【0180】
測定情報は、撮影地点(例えば、定点計測装置400又はショベル)を基準とした作業現場の物体までの距離を示した測定結果である。つまり、測定情報及び位置情報から、位置情報で示された位置からの物体までの距離を認識できる。したがって、作業現場空間生成部403は、作業現場に配置されている複数の定点計測装置400及びショベル100の各々からの位置情報及び測定情報から、作業現場に存在する物体の位置及び物体の形状が表された3次元形状マップを生成できる。
【0181】
さらに、本実施形態に係る受信制御部401は、画像情報も受信している。撮像情報は、撮影地点(例えば、定点計測装置400又はショベル)を基準とした作業現場の物体の色又は形状が表されている。そこで、作業現場空間生成部403は、3次元形状マップに、撮像情報で示された色又は形状を張り合わせることで、作業現場の色が表された3次元形状マップを生成できる。
【0182】
さらに、受信制御部401は、ショベル100の位置を示した位置情報及び状態情報も受信している。そこで、作業現場空間生成部403は、3次元形状マップに、位置情報で示される位置に、状態情報で示される状態で、ショベル100の3次元モデルを配置する。当該配置を行うために、作業現場空間生成部403は、ショベル100の3次元モデルを予め保持している。
【0183】
さらに、作業現場空間生成部403は、施工情報記憶部411に記憶された施工情報を、3次元形状マップの生成に用いてもよい。
【0184】
表示画面生成部404は、作業現場空間生成部403により生成された3次元形状マップに基づいて、右目用表示画像と左目用表示画像とを生成する。
【0185】
右目用表示画像(第1画像の一例)は、3次元形状マップに配置される右目の位置を視点として、当該右目の視線方向に基づいて生成される。同様に、左目用表示画像(第2画像の一例)は、3次元形状マップに配置される左目の位置を視点して、当該左目の視線方向に基づいて生成される。換言すれば、右目用表示画像及び左目用表示画像は、操作者IPの右目と左目との視差が表された画像となる。
【0186】
右目用表示画像及び左目用表示画像は、3次元形状マップにおいて、右目及び左目に対応する視点を設定することで生成される。例えば、3次元形状マップに配置されたショベル100の3次元モデルの運転席が存在する空間に、右目及び左目に対応する視点を設定してもよい。
【0187】
右目用表示画像及び左目用表示画像を生成するための視点は、運転席を基準とした位置に制限するものではなく、操作者OPの操作に応じて切り替えられてもよい。これにより、操作者OPは、運転席からでは確認できない作業現場の状況を確認できる。
【0188】
表示制御部405は、右目用表示画像と左目用表示画像とを用いることで、表示装置D1に、作業現場に存在する物体(被写体の一例)を立体視表示する。このように、表示制御部405は、ショベル100が作業している周囲に存在する物体の3次元形状を示した3次元形状マップ(3次元情報の一例)に基づいて、表示装置D1に当該物体の立体視表示を行うことができる。なお、本実施形態は、立体視表示を行うために用いる情報を、3次元形状マップに制限するものではなく、作業現場に存在する物体の3次元形状が表された情報であればよい。例えば、ショベル100の撮像装置S6が撮像した画像情報を、当該ショベル100の空間認識装置S7で検出された測定情報に基づいて、物体の位置関係を立体的に加工した情報を用いてもよい。
【0189】
本実施形態に係る表示制御部405は、操作者状態特定部402により特定された右目の位置に、光学素子D11を介して右目用表示画像が出力されるように制御を行い、操作者状態特定部402により特定された左目の位置に、光学素子D11を介して左目用表示画像が出力されるように制御を行う。なお、制御手法は、従来と同様の手法を用いればよいものとして説明を省略する。
【0190】
信号生成部406は、操作センサ43が受け付けた操作内容に基づいて、ショベル100の各構成(例えば、ブーム4、アーム5、バケット6、上部旋回体3及び下部走行体1のうちいずれか一つ以上)を動作させるための制御信号(制御情報の一例)を生成する。なお、本実施形態においては、操作内容に基づいて生成される制御信号は、ショベル100の半自動制御を行うための制御信号であってもよい。
【0191】
送信制御部407は、信号生成部406により生成された制御信号を、ショベル100に送信するための制御を行う。これにより、通信装置T2は、操作者から受け付けた操作に基づいて、ショベル100を制御するための制御信号をショベル100に送信する。したがって、ショベル100は、遠隔操作室RCからの操作に基づいた制御を行うことができる。
【0192】
<作業現場の3次元形状マップの説明>
次に、立体視表示を行うための3次元形状マップについて説明する。
図9は、作業現場空間生成部403により生成された3次元形状マップを説明するための概念図である。
【0193】
図9で示される仮想的な作業現場空間1901の3次元形状マップは、作業現場情報記憶部412に記憶された情報、換言すれば、ショベル及び定点計測装置400から受信した情報に基づいて生成されたものである。受信した情報としては、例えば、測定情報、画像情報、及び位置情報が含まれている。
【0194】
さらには、仮想的な作業現場空間1901の3次元形状マップは、施工情報記憶部411に記憶された施工情報に基づいた3次元形状を追加してもよい。
【0195】
図9に示される例では、作業現場空間1901には、傾斜面1903が存在している。そして、施工情報では法面1904を施工するように示されている。このように、本実施形態に係る3次元形状マップは、現在の作業現場の3次元形状と、施工情報の3次元形状と、が重畳して表されている。現在の作業現場の3次元形状と、施工情報の3次元形状と、が存在する場合、現在の作業現場の3次元形状に対して所定の透過率で透過処理を行ってもよい。これにより、当該3次元マップが表示された場合に、操作者OPは、作業現場の3次元形状の奥に、施工情報で示される3次元形状を確認できる。
【0196】
さらに、本実施形態に係る作業現場空間生成部403は、作業現場空間1901の3次元形状マップ上に、ショベル100の3次元形状を示した(図示しない)3次元モデルを配置する。ショベル100の3次元モデルは、受信した状態情報に基づいたショベル100の現在の状況(例えば、ブーム4、アーム5、バケット6の位置)が表されている。
【0197】
作業現場空間生成部403は、ショベル100の各構成のサイズ、並びに、状態情報に含まれている、ブーム4の回動角度、アーム5の回動角度、及びバケット6の回動角度に基づいて、ショベル100の機体座標系1912における、バケット6の位置1902を示した位置座標P(xL,yL,zL)を特定できる。
【0198】
作業現場空間生成部403は、ショベル100から、測位装置S8により取得されたショベル100の位置情報(向きを含む)を受信している。位置情報(向きを含む)は、ショベル100の基準座標系1911における位置及び向き、換言すれば、基準座標系1911と機体座標系1912との間の相対的な位置関係が示されている。そこで、作業現場空間生成部403は、基準座標系1911と機体座標系1912との間の相対的な位置に基づいて、基準座標系1911におけるバケット6の位置1902を示した位置座標P(xG,yG,zG)を特定できる。
【0199】
そして、作業現場空間生成部403は、特定された位置1902にバケットが配置されたショベル100の3次元モデルを、3次元形状マップに配置する。そして、当該3次元形状マップが、遠隔操作室RCの表示装置D1に立体視表示される。
【0200】
<遠隔操作室の表示画面の説明>
図10は、本実施形態に係る表示制御部405が表示する画面例を示した図である。右目用表示画像及び左目用表示画像が、撮像装置C1によって検出された、操作席DSに座っている(図示しない)操作者OPの右目及び左目の位置に基づいて出力される。
【0201】
図10に表示される画面は、3次元形状マップ上に配置された、ショベル100の3次元モデルの運転席として定められた右目及び左目の各々に対応する視点から、3次元形状マップを参照した状況を立体視表示した画面とする。
【0202】
また、
図10に示す例は、ショベル100の3次元モデルのアームを示す画像2001が表示される。当該ショベル100の3次元モデルのアーム及びバケットは、受信した状態情報で示されるアタッチメントの状態に応じて動作する。
【0203】
画像2002には、3次元形状マップの傾斜面と、施工情報の法面と、を含まれている。3次元形状マップの傾斜面は所定の透過率で透過する。これにより、操作者OPは、立体視表示によって、画像2002の奥行き方向において傾斜面、施工された後の法面(被写体の一例)の位置関係を認識できる。
【0204】
このように、表示制御部405は、3次元形状マップに基づいて、表示装置D1に、測定情報に含まれている物体(被写体の一例)の立体視表示を実現している。さらに、表示制御部405は、施工情報で示されている物体(被写体の一例)の3次元形状に基づいて、施工された後の物体の立体視表示を実現している。施工後の物体の3次元形状が、現在の作業現場に重ねて表示されているので、操作者OPは、どの程度掘削すればよいのか認識できる。
【0205】
表示装置D1には、画像G10が表示されている。
図10は、明瞭化のため、画像G10の拡大図を左上に示している。画像G10は、ショベル100の周辺を表した俯瞰画像である。画像G11は、ショベル100の3次元モデルを俯瞰で示している。画像G12は、作業対象となる地面の範囲を示す図形である。より具体的には、画像G12は、画像G12a~画像G12cを含む。画像G12aは、掘削が完了した範囲を表し、画像G12bは、掘削が行われている範囲を表し、画像G12cは、掘削が行われていない範囲を表す。これにより、操作者OPは、掘削すべき範囲を認識できる。
【0206】
上述の構成により、遠隔操作システムSYSは、遠隔操作室RCにいる操作者OPが、遠隔地にあるショベル100を遠隔操作できるようにする。その際に、遠隔操作システムSYSは、ショベル100に取り付けられた撮像装置C1により検出された操作者OPの右目及び左目の位置に基づいて生成される右目用表示画像及び左目用表示画像を出力することで、操作者OPに対する立体視表示を実現できる。これにより、操作者OPは、遠隔操作室RCからの操作であっても作業現場の状況を立体的に認識できる。つまり、操作者OPは、作業現場の奥行き方向における位置関係を認識できるので、操作負担を軽減できる。
【0207】
本実施形態では、操作者OPの目の位置及び顔の向きに基づいて、表示装置D1に表示される画像の内容を変化させるように構成されていてもよい。画像の内容を変化させる手法は、現在周知の手法を用いてもよい。
【0208】
<作用>
上述した実施形態においては、遠隔操作室RCで、作業現場の状況を確認できるので、作業機械(例えば、ショベル100)の遠隔操作が可能となる。
【0209】
上述した実施形態においては、3次元形状マップに基づいて、表示装置D1に物体を立体視表示するよう構成されているので、遠隔操作室RCでは、操作者OPは、作業現場の周囲の状況を水平方向、垂直方向、及び奥行き方向において物体の位置関係を認識できるので、物体の位置関係を考慮した作業が容易になる。したがって、作業効率の向上を実現できる。
【0210】
上述した実施形態においては、右目用表示画像と左目用表示画像とを生成し、右目用表示画像が操作者OPの右目に出力されるように制御され、左目用表示画像が操作者OPの左目に出力されるように制御されている。これにより、操作者OPが裸眼の場合でも立体視表示を行うことができる。したがって、操作者OPの負担の軽減を実現できる。
【0211】
上述した実施形態においては、撮像装置C1によって撮像された画像情報に基づいて操作者OPの視線を認識し、認識結果に基づいて右目用表示画像と左目用表示画像とを生成する。このため、操作者OPが動いた場合に、動きに対応した右目用表示画像と左目用表示画像とが生成される。したがって、操作者OPに対して違和感の少ない立体視表示を提供できるので、操作時の快適性を向上させることができる。
【0212】
以上、作業機械の一例としてショベルを用いた場合の実施形態について説明したが、本発明は上記実施形態等に限定されない。特許請求の範囲に記載された範疇内において、各種の変更、修正、置換、付加、削除、および組み合わせが可能である。それらについても当然に本発明の技術的範囲に属する。
【0213】
つまり、上述した遠隔操作システムは、遠隔制御システムの一例として、作業機械の操作を行うシステムに適用した場合について説明したが、他の態様のシステムに適用してもよい。このように、遠隔地において、作業機械を制御するシステムであれば適用できる。
【符号の説明】
【0214】
SYS 遠隔操作システム
100 ショベル
1 下部走行体
2 旋回機構
3 上部旋回体
4 ブーム
5 アーム
6 バケット
7 ブームシリンダ
8 アームシリンダ
9 バケットシリンダ
11 エンジン
S1 ブーム角度センサ
S2 アーム角度センサ
S3 バケット角度センサ
S4 機体傾斜センサ
S5 旋回角速度センサ
S6 撮像装置
S7 空間認識装置
S8 測位装置
T1 通信装置
30 ショベルコントローラ
301 ショベル状態特定部
302 送信制御部
303 受信制御部
304 アクチュエータ駆動部
400 定点計測装置
T3 通信装置
450 位置情報記憶部
C3 撮像装置
S11 空間認識装置
440 コントローラ
441 送信制御部
RC 遠隔操作室
D1 表示装置
C1 撮像装置
T2 通信装置
41 記憶装置
42 操作装置
43 操作センサ
401 受信制御部
402 操作者状態特定部
403 作業現場空間生成部
404 表示画面生成部
405 表示制御部
406 信号生成部
407 送信制御部