(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-05
(45)【発行日】2024-07-16
(54)【発明の名称】作業機械の遠隔操作システム
(51)【国際特許分類】
E02F 9/26 20060101AFI20240708BHJP
H04Q 9/00 20060101ALI20240708BHJP
H04N 7/18 20060101ALI20240708BHJP
G06F 3/0481 20220101ALI20240708BHJP
【FI】
E02F9/26 B
H04Q9/00 301B
H04N7/18 J
G06F3/0481
(21)【出願番号】P 2020028618
(22)【出願日】2020-02-21
【審査請求日】2023-01-13
(73)【特許権者】
【識別番号】000001236
【氏名又は名称】株式会社小松製作所
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】森永 淳
(72)【発明者】
【氏名】指宿 康洋
(72)【発明者】
【氏名】河原 淳人
(72)【発明者】
【氏名】皆川 真範
【審査官】彦田 克文
(56)【参考文献】
【文献】特開2019-068236(JP,A)
【文献】国際公開第2017/056269(WO,A1)
【文献】特開2006-219894(JP,A)
【文献】特開2016-194237(JP,A)
【文献】特開2013-036243(JP,A)
【文献】米国特許出願公開第2014/0118533(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
E02F 9/26
H04Q 9/00
H04N 7/18
G06F 3/0481
(57)【特許請求の範囲】
【請求項1】
アッパデッキ及び前記アッパデッキよりも上方に配置される運転室を有する車体と、
前記運転室の内側に配置され第1撮像範囲を撮像する第1撮像装置と、
前記アッパデッキの下面に配置され第2撮像範囲を撮像する第2撮像装置と、
前記第1撮像範囲の第1画像及び前記第2撮像範囲の第2画像を遠隔地に送信する通信装置と、を備え
る、
作業機械の遠隔操作システムであって、
前記遠隔地に配置され前記第1画像及び前記第2画像を表示する表示装置を備え、
前記第2撮像範囲の少なくとも一部は、前記第1撮像範囲よりも下方に設定され
、
前記第1撮像範囲と前記第2撮像範囲とは、少なくとも前記車体に取り付けられる作業機が映るように重複し、
前記表示装置は、前記第2画像を前記第1画像の一部に重複するように表示する、
作業機械
の遠隔操作システム。
【請求項2】
前記車体は、旋回体を含
み、
前記作業機械は、前記旋回体の下方に配置され前記旋回体を旋回可能に支持する走行体
を備え、
前記第1撮像範囲は、前記作業機の少なくとも一部を含むように設定され、
前記第2撮像範囲は、前記走行体の回転軸と前記作業機の回転軸とが平行になるように前記旋回体が旋回した場合において、前記走行体の前部を含むように設定される、
請求項1に記載の作業機械
の遠隔操作システム。
【請求項3】
前記第1撮像範囲は、前記車体の前方に設定され、
前記第2撮像範囲は、前記車体の前方の下側に設定される、
請求項1又は請求項2に記載の作業機械
の遠隔操作システム。
【請求項4】
前記第2撮像装置は前記第1撮像装置よりも下方に配置される、
請求項1から請求項3のいずれか一項に記載の作業機械
の遠隔操作システム。
【請求項5】
前記車体の車幅方向において、前記第1撮像装置は前記第2撮像装置と等しい位置に配置される、
請求項1から請求項4のいずれか一項に記載の作業機械
の遠隔操作システム。
【請求項6】
前記第1撮像装置は前記第2撮像装置よりも後方に配置される、
請求項1から請求項5のいずれか一項に記載の作業機械
の遠隔操作システム。
【請求項7】
前記第2撮像範囲は、下方に移動した前記作業機のバケットを含むように設定される、
請求項2に記載の作業機械
の遠隔操作システム。
【請求項8】
前記第2撮像範囲は、作業対象の少なくとも一部又は前記走行体が走行する地面を含むように設定される、
請求項2に記載の作業機械
の遠隔操作システム。
【請求項9】
前記表示装置は、前記第2画像を前記第1画像の下部に重複するように表示する、
請求項
1から請求項8のいずれか一項に記載の作業機械の遠隔操作システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、作業機械の遠隔操作システムに関する。
【背景技術】
【0002】
作業機械に係る技術分野において、作業機械を遠隔操作する技術が知られている。作業機械の遠隔操作において、作業機械が稼働する作業現場の画像が撮像装置により撮像される。撮像装置により撮像された画像は、遠隔地に配置されている表示装置に表示される。遠隔地の操作者は、表示装置に表示された画像を見ながら、作業機械を遠隔操作する。特許文献1には、撮像装置が旋回体の運転室に配置され、運転室の前方の画像を撮像する技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
遠隔地の操作者は、運転室の前方の状況のみならず、運転室の前側下方の状況を視認したい場合がある。撮像装置が運転室の前方の画像のみを撮像する場合、遠隔地の操作者は、運転室の前側下方の状況を視認することが困難となる可能性がある。
【0005】
本開示は、遠隔地の操作者が運転室の前側下方の状況を視認できることを目的とする。
【課題を解決するための手段】
【0006】
本開示に従えば、車体と、前記車体に配置され第1撮像範囲を撮像する第1撮像装置と、前記車体に配置され第2撮像範囲を撮像する第2撮像装置と、前記第1撮像範囲の第1画像及び前記第2撮像範囲の第2画像を遠隔地に送信する通信装置と、を備え、前記第2撮像範囲の少なくとも一部は、前記第1撮像範囲よりも下方に設定される、作業機械が提供される。
【発明の効果】
【0007】
本開示によれば、遠隔地の操作者が運転室の前側下方の状況を視認できる。
【図面の簡単な説明】
【0008】
【
図1】
図1は、実施形態に係る作業機械の遠隔操作システムを示す模式図である。
【
図2】
図2は、実施形態に係る作業機械を示す斜視図である。
【
図3】
図3は、実施形態に係る作業機械を示す側面図である。
【
図4】
図4は、実施形態に係る作業機械を示す平面図である。
【
図5】
図5は、実施形態に係る遠隔操作室を示す図である。
【
図6】
図6は、実施形態に係る作業機械の遠隔操作システムを示す機能ブロック図である。
【
図7】
図7は、実施形態に係る第1画像処理部の処理を説明するための図である。
【
図8】
図8は、実施形態に係る第2画像処理部の処理を説明するための図である。
【
図9】
図9は、実施形態に係る表示制御部の処理を説明するための図である。
【
図10】
図10は、実施形態に係る作業機械の遠隔操作方法を示すフローチャートである。
【
図11】
図11は、実施形態に係るコンピュータシステムを示すブロック図である。
【発明を実施するための形態】
【0009】
以下、本開示に係る実施形態について図面を参照しながら説明するが、本開示はこれに限定されない。以下で説明する実施形態の構成要素は適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。
【0010】
実施形態においては、「左」、「右」、「前」、「後」、「上」、及び「下」の用語を用いて各部の位置関係について説明する。これらの用語は、作業機械1の旋回体3の中心を基準とした相対位置又は方向を示す。
【0011】
[遠隔操作システム]
図1は、実施形態に係る作業機械1の遠隔操作システム100を示す模式図である。遠隔操作システム100は、作業現場で稼動する作業機械1を遠隔操作する。作業現場として、鉱山又は採石場が例示される。
【0012】
遠隔操作システム100の少なくとも一部は、遠隔操作室200に配置される。遠隔操作室200は、作業現場から離れた遠隔地に設置される。遠隔操作システム100は、遠隔操作装置40と、表示装置50と、制御装置60とを備える。
【0013】
遠隔操作装置40は、遠隔操作室200に配置される。遠隔操作装置40は、遠隔操作室200において操作者に操作される。操作者は、操縦シート45に着座した状態で、遠隔操作装置40を操作することができる。
【0014】
表示装置50は、遠隔操作室200に配置される。表示装置50は、作業現場の画像を表示する。遠隔操作室200の操作者は、作業現場の状況を直接視認することができない。遠隔操作室200の操作者は、表示装置50を介して作業現場の状況を視認することができる。
【0015】
操作者は、表示装置50に表示される作業現場の画像を見ながら、遠隔操作装置40を操作する。作業機械1は、遠隔操作装置40によって遠隔操作される。
【0016】
制御装置60は、遠隔操作室200に配置される。制御装置60は、コンピュータシステムを含む。
【0017】
作業機械1は、制御装置300を備える。制御装置300は、コンピュータシステムを含む。
【0018】
制御装置60と制御装置300とは、通信システム400を介して通信する。通信システム400として、インターネット(internet)、ローカルエリアネットワーク(LAN:Local Area Network)、携帯電話通信網、及び衛星通信網が例示される。通信システム400は、通信されるデータを中継する中継局を含んでもよい。
【0019】
[作業機械]
図2は、実施形態に係る作業機械1を示す斜視図である。
図3は、実施形態に係る作業機械1を示す側面図である。
図4は、実施形態に係る作業機械1を示す平面図である。実施形態においては、作業機械1が積込機械の一種である油圧ショベルであることとする。作業機械1は、作業現場において稼働する。作業機械1は、作業対象の掘削作業を実施する。作業対象として、土砂又は鉱石が例示される。また、作業現場において、運搬車両の一種であるダンプトラックが稼働する。作業機械1は、ダンプトラックに積荷を積み込む積込作業を実施する。積荷として、掘削作業により掘削された掘削物が例示される。
【0020】
図2、
図3、及び
図4に示すように、作業機械1は、走行体2と、走行体2に支持される旋回体3と、旋回体3に取り付けられる作業機4と、作業機4を駆動する油圧シリンダ5と、撮像装置30とを備える。
【0021】
走行体2は、旋回体3を支持した状態で走行する。旋回体3は、作業機械1の車体である。走行体2は、旋回体3の下方に配置される。走行体2は、旋回体3を旋回可能に支持する。走行体2は、駆動輪2Aと、従動輪2Bと、駆動輪2A及び従動輪2Bに支持される履帯2Cとを有する。駆動輪2A及び従動輪2Bのそれぞれは、回転軸DXを中心に回転する。駆動輪2A、従動輪2B、及び履帯2Cのそれぞれは、一対設けられる。駆動輪2Aの回転により、履帯2Cが回転する。履帯2Cが回転することにより、走行体2が走行する。
【0022】
旋回体3は、走行体2に支持された状態で旋回軸RXを中心に旋回可能である。旋回軸RXは、上下方向に延伸する。旋回体3は、運転室3Aと、ロアデッキ3Bと、ステップ3Cと、アッパデッキ3Dとを有する。運転室3Aは、作業者が搭乗可能な旋回体3の内部空間である。運転室3Aは、旋回体3の前部且つ上部に配置される。ロアデッキ3Bは、旋回体3の後部且つ下部に配置される。アッパデッキ3Dは、旋回体3の前部且つ上部に配置される。ステップ3Cは、ロアデッキ3Bとアッパデッキ3Dとを繋ぐ。アッパデッキ3Dは、運転室3Aを囲むように配置される。アッパデッキ3Dの少なくとも一部は、運転室3Aの前方に配置される。ロアデッキ3B、ステップ3C、及びアッパデッキ3Dのそれぞれに、柵状の手すり3Eが配置される。
【0023】
ロアデッキ3B、ステップ3C、及びアッパデッキ3Dのそれぞれは、作業者が通行可能な通路を含む。作業者は、ロアデッキ3B、ステップ3C、及びアッパデッキ3Dを通行して、運転室3Aに搭乗することができる。
【0024】
また、旋回体3は、ラダー3Fを有する。ラダー3Fは、アッパデッキ3Dに繋がる。
【0025】
作業機4は、旋回体3の前部に取り付けられる。作業機4は、旋回軸RXよりも前方に配置される。作業機4は、前方に延伸するように動作することができる。作業機4は、旋回体3に連結されるブーム4Aと、ブーム4Aに連結されるアーム4Bと、アーム4Bに連結されるバケット4Cとを含む。ブーム4Aの基端部は、ピンを介して旋回体3の前部に連結される。アーム4Bの基端部は、ピンを介してブーム4Aの先端部に連結される。バケット4Cの基端部は、ピンを介してアーム4Bの先端部に連結される。バケット4Cは、先端刃4Dを有する。バケット4Cにより作業対象が掘削される。
【0026】
ブーム4Aは、ブーム回転軸AXを中心に回転可能に旋回体3の前部に連結される。アーム4Bは、アーム回転軸BXを中心に回転可能にブーム4Aに連結される。バケット4Cは、バケット回転軸CXを中心に回転可能にアーム4Bに連結される。
【0027】
ブーム回転軸AXとアーム回転軸BXとバケット回転軸CXとは、平行である。ブーム回転軸AX、アーム回転軸BX、及びバケット回転軸CXのそれぞれは、旋回体3の車幅方向に延伸する。
【0028】
実施形態において、作業機械1は、ローディングショベルである。ローディングショベルとは、バケット4Cの先端刃4Dが前方を向くようにバケット4Cがアーム4Bに取り付けられている油圧ショベルをいう。
【0029】
油圧シリンダ5は、ブーム4Aを駆動するブームシリンダ5Aと、アーム4Bを駆動するアームシリンダ5Bと、バケット4Cを駆動するバケットシリンダ5Cとを含む。ブームシリンダ5Aの基端部は、旋回体3に連結される。ブームシリンダ5Aの先端部は、ブーム4Aに連結される。アームシリンダ5Bの基端部は、ブーム4Aに連結される。アームシリンダ5Bの先端部は、アーム4Bに連結される。バケットシリンダ5Cの基端部は、ブーム4Aに連結される。バケットシリンダ5Cの先端部は、バケット4Cに連結される。
【0030】
[撮像装置]
撮像装置30は、作業現場を撮像して作業現場の画像を取得する。撮像装置30は、旋回体3に配置される。
【0031】
撮像装置30により取得される作業現場の画像として、作業機械1の作業対象の画像、作業機械1の少なくとも一部の画像、作業現場に存在する構造物の画像、作業機械1とは別の作業機械の画像、及び作業現場で働く作業者の画像が例示される。実施形態において、作業機械1の作業対象の画像は、作業機4の掘削対象の画像を含む。
【0032】
撮像装置30は、光学系と、光学系を通過した光を受光するイメージセンサとを有する。イメージセンサは、CCD(Couple Charged Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを含む。
【0033】
実施形態において、撮像装置30は、旋回体3に配置され第1撮像範囲M1を撮像する第1撮像装置31と、旋回体3に配置され第2撮像範囲M2を撮像する第2撮像装置32とを含む。第1撮像装置31及び第2撮像装置32のそれぞれは、旋回体3に固定される。第1撮像装置31と第2撮像装置32との相対位置は固定される。第2撮像装置32は、第1撮像装置31による第1撮像範囲M1の撮像と並行して、第2撮像範囲M2を撮像する。
【0034】
旋回体3の上下方向において、第2撮像装置32は第1撮像装置31よりも下方に配置される。すなわち、旋回体3の上下方向において、第2撮像装置32の光学系の入射面は、第1撮像装置31の光学系の入射面よりも下方に配置される。
【0035】
旋回体3の左右方向において、第1撮像装置31は第2撮像装置32と等しい位置に配置される。旋回体3の左右方向は、旋回体3の車幅方向に相当する。すなわち、旋回体3の左右方向において、第1撮像装置31の光学系の入射面は、第2撮像装置32の光学系の入射面と等しい位置に配置される。
【0036】
旋回体3の前後方向において、第1撮像装置31は第2撮像装置32よりも後方に配置される。すなわち、旋回体3の前後方向において、第1撮像装置31の光学系の入射面は、第2撮像装置32の光学系の入射面よりも後方に配置される。
【0037】
実施形態において、上下方向は、旋回軸RXと平行な方向である。左右方向は、ブーム回転軸AXと平行な方向である。前後方向は、ブーム回転軸AX及び旋回軸RXの両方と直交する方向である。走行体2の接地面を基準として旋回体3が存在する方向が上方であり、上方の逆方向が下方である。旋回軸RXを基準として左右方向の一方が右方であり、右方の逆方向が左方である。旋回軸RXを基準として作業機4が存在する方向が前方であり、前方の逆方向が後方である。
【0038】
第1撮像装置31は、旋回体3の前方を撮像する。第1撮像範囲M1は、旋回体3の前方に設定される。第2撮像装置32は、旋回体3の前方を撮像する。第2撮像範囲M2は、旋回体3の前方に設定される。
図3に示すように、第2撮像範囲M2の少なくとも一部は、第1撮像範囲M1よりも下方に設定される。実施形態において、第2撮像範囲M2は、旋回体3の前方の下側に設定される。
図4に示すように、第2撮像範囲M2の少なくとも一部は、第1撮像範囲M1よりも右方に設定される。
【0039】
第1撮像範囲M1は、旋回体3の前方空間SP1を含む。前方空間SP1は、運転室3Aの前方の空間、運転室3Aの前側斜め上方の空間、前側斜め下方の空間、前側斜め左方の空間、及び前側斜め右方の空間を含む。
【0040】
第2撮像範囲M2は、前方空間SP1よりも下方の前側下方空間SP2を含む。前側下方空間SP2は、運転室3Aよりも前側下方の空間である。前側下方空間SP2は、走行体2の前方の空間を含む。また、前側下方空間SP2は、前方空間SP1よりも右方の空間を含む。
【0041】
第2撮像範囲M2は、作業機械1による掘削作業において好適な画像が得られるように設定される。第2撮像範囲M2は、例えば旋回体3の前方の下側(足元)から地山又は崖のような掘削対象を含むように設定される。また、第2撮像範囲M2は、例えば掘削作業を実施するバケット4Cを含むように設定される。なお、第2撮像範囲M2は、上下方向において運転室3Aよりも前方且つ運転室3Aと実質的に同じ高さの空間を含むように設定されてもよい。なお、第2撮像範囲M2は、上下方向において運転室3Aよりも前方且つ運転室3Aよりも上方の空間を含むように設定されてもよい。
【0042】
第1撮像装置31は、運転室3Aの内側に配置される。実施形態において、第1撮像装置31は、運転室3Aの前部且つ上部に配置される。第1撮像装置31は、運転室3Aのフロントガラスを介して、旋回体3の前方空間SP1を撮像する。なお、第1撮像装置31は、運転室3Aの後部に配置されてもよいし、運転室3Aの下部に配置されてもよい。
【0043】
第2撮像装置32は、旋回体3のアッパデッキ3Dに配置される。アッパデッキ3Dの少なくとも一部は、運転室3Aの前方に配置される。第2撮像装置32は、旋回体3の前方のアッパデッキ3Dの下面に配置される。
【0044】
第1撮像装置31は、第1撮像装置31の光学系の光軸OA1が前後方向に延伸するように、運転室3Aに配置される。第2撮像装置32は、第2撮像装置32の光学系の光軸OA2が前方に向かって下方に傾斜するように、アッパデッキ3Dの下面に配置される。また、
図4に示すように、第2撮像装置32は、第2撮像装置32の光学系の光軸OA2が前方に向かって右方に傾斜するように、アッパデッキ3Dの下面に配置される。
【0045】
作業機4の少なくとも一部が第1撮像範囲M1に含まれる。すなわち、第1撮像範囲M1は、作業機4の少なくとも一部を含むように設定される。作業機4のバケット4Cは、所定の可動範囲において上下方向に移動する。第1撮像範囲M1は、上下方向に移動するバケット4Cを含むように設定される。
【0046】
また、作業機械1の作業対象の少なくとも一部が第1撮像範囲M1に含まれる。第1撮像範囲M1は、作業機械1の作業対象の少なくとも一部を含むように設定される。
【0047】
走行体2の少なくとも一部が第2撮像範囲M2に移動可能である。すなわち、第2撮像範囲M2は、走行体2の少なくとも一部を含むことができるように設定される。走行体2の回転軸DXとブーム回転軸AXとが平行になるように旋回体3が旋回した場合、第2撮像範囲M2は、走行体2の履帯2Cの前部を含むように設定される。なお、例えば旋回体3の旋回角度により、走行体2が第2撮像範囲M2に含まれない場合がある。
【0048】
また、第2撮像範囲M2は、下方に移動した作業機4のバケット4Cを含むように設定される。上述のように、バケット4Cは、所定の可動範囲において上下方向に移動する。第2撮像範囲M2は、可動範囲の下部に移動されたバケット4Cを含むように設定される。
【0049】
また、第2撮像範囲M2は、作業機械1の作業対象の少なくとも一部を含むように設定される。
【0050】
また、第2撮像範囲M2は、走行体2が走行する地面GRを含むように設定される。
【0051】
実施形態において、第1撮像範囲M1と第2撮像範囲M2の少なくとも一部とは重複する。
図3に示すように、第1撮像範囲M1の下部と第2撮像範囲M2の上部とが重複する。
図4に示すように、第1撮像範囲M1の右部と第2撮像範囲M2の左部とが重複する。
【0052】
以下の説明において、第1撮像装置31により撮像された第1撮像範囲M1の画像を適宜、第1画像P1、と称し、第2撮像装置32により撮像された第2撮像範囲M2の画像を適宜、第2画像P2、と称する。
【0053】
[遠隔操作室]
図5は、実施形態に係る遠隔操作室200を示す図である。
図5に示すように、遠隔操作室200に遠隔操作装置40及び表示装置50が配置される。
【0054】
遠隔操作装置40は、操縦シート45に着座した操作者に操作される。操作者は、表示装置50の表示画面と正対するように操縦シート45に着座する。操作者は、表示装置50の表示画面を見ながら、遠隔操作装置40を操作する。
【0055】
遠隔操作装置40が操作されることにより生成された操作信号は、制御装置60及び通信システム400を介して作業機械1の制御装置300に送信される。制御装置300は、通信システム400を介して取得した操作信号に基づいて、作業機械1を動作させる。作業機械1の動作は、走行体2の動作、旋回体3の動作、及び作業機4の動作の少なくとも一つを含む。
【0056】
走行体2の動作は、走行体2の前進動作及び後進動作を含む。旋回体3の動作は、旋回体3の左旋回動作及び右旋回動作を含む。作業機4の動作は、ブーム4Aの上げ動作、ブーム4Aの下げ動作、アーム4Bのダンプ動作、アーム4Bの掘削動作、バケット4Cの掘削動作、及びバケット4Cのダンプ動作を含む。
【0057】
遠隔操作装置40は、旋回体3及び作業機4の動作のために操作される左作業レバー41及び右作業レバー42と、走行体2の動作のために操作される左走行ペダル43及び右走行ペダル44とを含む。左作業レバー41は、操作者の左手により操作される。右作業レバー42は、操作者の右手により操作される。左走行ペダル43は、操作者の左足により操作される。右走行ペダル44は、操作者の右足により操作される。
【0058】
左作業レバー41は、操縦シート45の左方に配置される。右作業レバー42は、操縦シート45の右方に配置される。一例として、左作業レバー41が前後方向に操作されることにより、アーム4Bがダンプ動作又は掘削動作する。左作業レバー41が左右方向に操作されることにより、旋回体3が左旋回動作又は右旋回動作する。右作業レバー42が左右方向に操作されることにより、バケット4Cが掘削動作又はダンプ動作する。右作業レバー42が前後方向に操作されることにより、ブーム4Aが下げ動作又は上げ動作する。なお、左作業レバー41が前後方向に操作されたときに旋回体3が右旋回動作又は左旋回動作し、左作業レバー41が左右方向に操作されたときにアーム4Bがダンプ動作又は掘削動作してもよい。左作業レバー41の操作方向及び右作業レバー42の操作方向と作業機4の動作との関係は任意である。
【0059】
左走行ペダル43及び右走行ペダル44は、操縦シート45の前側下方に配置される。左走行ペダル43は、右走行ペダル44の左方に配置される。左走行ペダル43が操作されることにより、走行体2の左側の履帯2Cが前進動作又は後進動作する。右走行ペダル44が操作されることにより、走行体2の右側の履帯2Cが前進動作又は後進動作する。
【0060】
また、遠隔操作室200には、作業機械1の稼働状況を示す作業機械稼働データを表示する第1モニタ装置501と、作業機械1に搭載されている電気機器を作動させるために操作される操作スイッチ502とが配置される。第1モニタ装置501は、作業機械稼働データとして、例えば作業機械1に搭載されているエンジンの燃料の残量、エンジンの冷却液の温度、油圧シリンダ5を駆動するための作動油の温度、及び走行体2の走行速度を表示する。操作スイッチ502は、作業機械1に搭載されている電気機器として、例えば作業機械1に設けられている前照灯を作動させる。
【0061】
表示装置50は、作業機械1から送信された第1画像P1及び第2画像P2を表示する。第1画像P1及び第2画像P2は、制御装置300及び通信システム400を介して、遠隔操作システム100の制御装置60に送信される。制御装置60は、通信システム400を介して取得した第1画像P1及び第2画像P2を表示装置50に表示させる。表示装置50は、第1画像P1とともに第2画像P2を表示する。実施形態において、表示装置50は、第2画像P2を第1画像P1の一部に重複するように表示する。
【0062】
表示装置50は、液晶ディスプレイ(LCD:Liquid Crystal Display)又は有機ELディスプレイ(OELD:Organic Electroluminescence Display)のようなフラットパネルディスプレイを含む。実施形態において、表示装置50は、隣接するように配置された複数のフラットパネルディスプレイを含む。実施形態において、表示装置50は、中央ディスプレイ51と、中央ディスプレイ51の左側に配置される左ディスプレイ52と、中央ディスプレイ51の右側に配置される右ディスプレイ53と、中央ディスプレイ51の上側に配置される上ディスプレイ54と、中央ディスプレイ51の下側に配置される下ディスプレイ55とを含む。
【0063】
表示装置50に表示される第1画像P1は、操作者が作業機械1の運転室3Aに設けられている運転シートに着座したと仮定したときの操作者の前方空間の視界に相当する画像である。遠隔操作室200の操作者は、作業機械1の運転シートに実際に着座している感覚を得ることができる。
【0064】
遠隔操作室200の操作者は、遠隔操作装置40を操作して作業機4を動作させて、作業対象を掘削する。作業機4のバケット4Cにより掘削された掘削物は、積荷としてダンプトラックに積み込まれる。
【0065】
実施形態において、ダンプトラックは、作業現場の管制施設から送信される制御指令に基づいて走行する無人ダンプトラックである。遠隔操作室200には、作業現場における無人ダンプトラックの稼働状況を示すダンプトラック稼働データを表示する第2モニタ装置503が配置される。無人ダンプトラックには、無人ダンプトラックの位置データを検出する位置センサが配置される。位置センサは、全地球航法衛星システム(Global Navigation Satellite System:GNSS)を利用して無人ダンプトラックの絶対位置を検出する。第2モニタ装置503は、ダンプトラック稼働データとして、作業現場で稼動する複数の無人ダンプトラックのそれぞれの位置を表示する。また、操作者は、第2モニタ装置503に設けられている入力装置を操作して、無人ダンプトラックを停車させたり発車させたりすることができる。
【0066】
また、遠隔操作室200には、作業機4のガイダンスデータを表示する第3モニタ装置504が配置される。ガイダンスデータとして、作業対象の目標設計面と作業機4との相対距離、作業対象の形状、及び作業対象の鉱石分布が例示される。
【0067】
[制御装置]
図6は、実施形態に係る作業機械1の遠隔操作システム100を示す機能ブロック図である。
図6に示すように、遠隔操作システム100は、遠隔地に配置される通信装置6と、通信装置6に接続される制御装置60と、制御装置60に接続される遠隔操作装置40と、制御装置60に接続される表示装置50とを備える。また、遠隔操作システム100は、作業機械1に配置される通信装置7と、通信装置7に接続される制御装置300と、制御装置300に接続される撮像装置30と、制御装置300に接続されるセンサ70と、制御装置300により制御される走行体2と、制御装置300により制御される旋回体3と、制御装置300により制御される油圧シリンダ5とを備える。撮像装置30は、第1撮像装置31と、第2撮像装置32とを含む。センサ70は、位置センサ71と、姿勢センサ72と、角度センサ73とを含む。
【0068】
制御装置300は、走行体制御部301と、旋回体制御部302と、作業機制御部303と、画像データ送信部304と、センサデータ送信部305とを有する。
【0069】
走行体制御部301は、制御装置60から送信された遠隔操作装置40の操作信号を受信する。走行体制御部301は、遠隔操作装置40の操作信号に基づいて、走行体2の動作を制御する制御信号を出力する。
【0070】
旋回体制御部302は、制御装置60から送信された遠隔操作装置40の操作信号を受信する。旋回体制御部302は、遠隔操作装置40の操作信号に基づいて、旋回体3の動作を制御する制御信号を出力する。
【0071】
作業機制御部303は、制御装置60から送信された遠隔操作装置40の操作信号を受信する。作業機制御部303は、遠隔操作装置40の操作信号に基づいて、作業機4の動作を制御する制御信号を出力する。作業機4を制御する制御信号は、油圧シリンダ5を制御する制御信号を含む。
【0072】
画像データ送信部304は、撮像装置30により取得された作業現場の画像を制御装置60に送信する。画像データ送信部304は、第1撮像範囲M1の第1画像P1を第1撮像装置31から取得し、第2撮像範囲M2の第2画像P2を第2撮像装置32から取得する。画像データ送信部304は、第1画像P1及び第2画像P2を制御装置60に送信する。
【0073】
センサデータ送信部305は、作業機械1に搭載されているセンサ70の検出データを制御装置60に送信する。実施形態において、センサ70は、旋回体3の位置を検出する位置センサ71、旋回体3の姿勢を検出する姿勢センサ72、及び作業機4の角度を検出する角度センサ73を含む。位置センサ71は、全地球航法衛星システム(Global Navigation Satellite System:GNSS)を利用して旋回体3の絶対位置を検出する。位置センサ71は、旋回体3に設けられたGNSS受信機を含む。姿勢センサ72は、水平面に対する旋回体3の傾斜角度を検出する。姿勢センサ72は、旋回体3に設けられた慣性計測装置(IMU:Inertial Measurement Unit)を含む。角度センサ73は、作業機4の角度を検出する。角度センサ73は、旋回体3に対するブーム4Aの角度を検出するブーム角度センサ、ブーム4Aに対するアーム4Bの角度を検出するアーム角度センサ、及びアーム4Bに対するバケット4Cの角度を検出するバケット角度センサを含む。
【0074】
通信装置7は、通信システム400を介して通信装置6と通信する。通信装置7は、通信装置6を介して制御装置60から送信された遠隔操作装置40の操作信号を受信して、制御装置300に出力する。通信装置7は、画像データ送信部304から受信した第1撮像範囲M1の第1画像P1及び第2撮像範囲M2の第2画像P2を遠隔地の通信装置6に送信する。通信装置7は、第1画像P1の画像データ及び第2画像P2の画像データを圧縮するエンコーダを含む。第1画像P1及び第2画像P2のそれぞれは、圧縮された状態で、通信装置7から通信装置6に送信される。
【0075】
通信装置6は、通信システム400を介して通信装置7と通信する。通信装置6は、遠隔操作装置40が操作されることにより生成された操作信号を通信装置7に送信する。通信装置6は、通信装置7を介して制御装置300から送信された第1画像P1及び第2画像P2を受信して、制御装置60に出力する。通信装置6は、圧縮された第1画像P1の画像データ及び第2画像P2の画像データを復元するデコーダを含む。第1画像P1及び第2画像P2は、復元された状態で、通信装置6から制御装置60に出力される。
【0076】
制御装置60は、操作信号送信部61と、画像データ受信部62と、第1画像処理部63と、第2画像処理部64と、表示制御部65とを有する。
【0077】
操作信号送信部61は、作業機械1を遠隔操作する操作信号を送信する。遠隔操作装置40が操作者に操作されることにより、作業機械1を遠隔操作する操作信号が生成される。操作信号送信部61は、遠隔操作装置40の操作信号を制御装置300に送信する。
【0078】
画像データ受信部62は、第1画像P1及び第2画像P2を受信する。画像データ受信部62は、通信装置6のデコーダにより復元された第1画像P1及び第2画像P2を取得する。
【0079】
第1画像処理部63は、画像データ受信部62により受信された第1画像P1を分割する。
【0080】
図7は、実施形態に係る第1画像処理部63の処理を説明するための図である。
図7に示すように、画像データ受信部62により第1画像P1が取得される。第1画像P1は、旋回体3の前方空間SP1の画像である。第1画像P1には、バケット4Cを含む作業機4の一部が映っている。また、第1画像P1には、旋回体3の前方の作業対象が映っている。また、第1画像P1には、アッパデッキ3Dの手すり3Eが映っている。
【0081】
第1画像処理部63は、第1画像P1を複数の画像に分割する。第1画像処理部63は、第1画像P1を、中央ディスプレイ51に表示させるための画像P11と、左ディスプレイ52に表示させるための画像P12と、右ディスプレイ53に表示させるための画像P13と、上ディスプレイ54に表示させるための画像P14と、下ディスプレイ55に表示させるための画像P15とに分割する。
【0082】
第2画像処理部64は、画像データ受信部62により受信された第2画像P2からインポーズ画像P2Sを生成する。
【0083】
図8は、実施形態に係る第2画像処理部64の処理を説明するための図である。
図8に示すように、画像データ受信部62により第2画像P2が取得される。第2画像P2は、運転室3Aの前側下方空間SP2の画像である。第2画像P2には、走行体2の履帯2Cの前部が映っている。また、第2画像P2には、バケット4Cを含む作業機4の一部が映っている。また、第2画像P2には、走行体2が走行する地面GRの一部が映っている。第2撮像装置32の第2撮像範囲M2に旋回体3は配置されない。第2画像P2には、アッパデッキ3D及び手すり3Eを含む旋回体3は映らない。
【0084】
第2画像処理部64は、第2画像P2を縮小してインポーズ画像P2Sを生成する。
【0085】
表示制御部65は、第1画像P1及び第2画像P2を表示装置50に表示させる。表示制御部65は、第1画像P1とともに第2画像P2を表示装置50に表示させる。実施形態において、表示制御部65は、第2画像P2が第1画像P1の一部に重複するように、第1画像P1とともに第2画像P2を表示装置50に表示させる。
【0086】
図9は、実施形態に係る表示制御部65の処理を説明するための図である。
図9に示すように、表示制御部65は、第1画像P1の一部である画像P11を中央ディスプレイ51に表示させる。表示制御部65は、第1画像P1の一部である画像P12を左ディスプレイ52に表示させる。表示制御部65は、第1画像P1の一部である画像P13を右ディスプレイ53に表示させる。表示制御部65は、第1画像P1の一部である画像P14を上ディスプレイ54に表示させる。表示制御部65は、第1画像P1の一部である画像P15を下ディスプレイ55に表示させる。
【0087】
表示制御部65は、第2画像P2から生成されたインポーズ画像P2Sを第1画像P1の下部に重畳させて表示装置50に表示させる。実施形態において、表示制御部65は、インポーズ画像P2Sを画像P15に重畳させて下ディスプレイ55に表示させる。
【0088】
なお、実施形態において、表示制御部65は、旋回体3の姿勢を示す車体データ画像P3、作業機4の姿勢を示す作業機データ画像P4、ダンプトラックに積み込まれる積荷の重量を示す積荷データ画像P5、及びバケット4Cの先端刃4Dの位置を示すバケットデータ画像P6を表示装置50に表示させる。
【0089】
表示制御部65は、姿勢センサ72の検出データに基づいて、水平面に対する旋回体3の傾斜角度を算出する。表示制御部65は、車体データ画像P3として、旋回体3の傾斜角度を示すシンボル画像を表示装置50に表示させる。実施形態において、車体データ画像P3は、上ディスプレイ54に表示される。
【0090】
また、表示制御部65は、角度センサ73の検出データに基づいて、作業機4の姿勢を算出する。表示制御部65は、作業機データ画像P4として、作業機4の姿勢を示すアニメーション画像を表示装置50に表示させる。実施形態において、作業機データ画像P4は、右ディスプレイ53に表示される。
【0091】
また、表示制御部65は、バケット4Cに保持された積荷の重量を検出する重量センサ(不図示)の検出データに基づいて、ダンプトラックに積み込まれる積荷の重量を算出する。表示制御部65は、積荷データ画像P5として、積荷の重量を示すインジケータ画像を表示装置50に表示させる。実施形態において、積荷データ画像P5は、右ディスプレイ53に表示される。
【0092】
また、表示制御部65は、角度センサ73の検出データに基づいて、バケット4Cの先端刃4Dの上下方向の位置を算出する。表示制御部65は、バケットデータ画像P6として、バケット4Cの先端刃4Dの上下方向の位置を示すインジケータ画像を表示装置50に表示させる。実施形態において、バケットデータ画像P6は、右ディスプレイ53に表示される。
【0093】
[遠隔操作方法]
図10は、実施形態に係る作業機械1の遠隔操作方法を示すフローチャートである。以下、第1画像P1及び第2画像P2の処理方法について主に説明する。なお、上述のように、遠隔操作装置40が操作されることにより、制御装置60の操作信号送信部61から制御装置300に作業機械1を遠隔操作する操作信号が送信される。
【0094】
第1撮像装置31は、旋回体3の前方空間SP1を含む第1撮像範囲M1を撮像する。第2撮像装置32は、旋回体3の前側下方空間SP2を含む第2撮像範囲M2を撮像する。画像データ送信部304は、通信装置7及び通信システム400を介して、第1画像P1及び第2画像P2を制御装置60に送信する。第1画像P1及び第2画像P2のそれぞれは、圧縮された状態で、作業機械1から制御装置60に送信される(ステップSA1)。
【0095】
画像データ受信部62は、作業機械1から送信された第1画像P1及び第2画像P2を、通信装置6を介して受信する。画像データ受信部62は、復元された第1画像P1及び第2画像P2を受信する。
【0096】
第1画像処理部63は、第1画像P1を画像P11と画像P12と画像P13と画像P14と画像P15とに分割する(ステップSB1)。
【0097】
第2画像処理部64は、第2画像P2からインポーズ画像P2Sを生成する(ステップSB2)。
【0098】
なお、ステップSB1の処理の前にステップSB2の処理が実施されてもよいし、ステップSB1の処理とステップSB2の処理とが並行して実施されてもよい。
【0099】
表示制御部65は、表示装置50に第1画像P1を表示させる。表示制御部65は、中央ディスプレイ51に画像P11を表示させ、左ディスプレイ52に画像P12を表示させ、右ディスプレイ53に画像P13を表示させ、上ディスプレイ54に画像P14を表示させ、下ディスプレイ55に画像P15を表示させる。
【0100】
また、表示制御部65は、表示装置50に表示された第1画像P1の一部に、第2画像P2をインポーズさせる。すなわち、表示装置50は、第2画像P2を第1画像P1の一部に重複するように表示する。第2画像P2は、第1画像P1の下部にインポーズされる。第2画像P2のインポーズ画像P2Sが、下ディスプレイ55において画像P15に重畳するように表示される(ステップSB3)。
【0101】
[コンピュータシステム]
図11は、実施形態に係るコンピュータシステム1000を示すブロック図である。上述の制御装置60及び制御装置300のそれぞれは、コンピュータシステム1000を含む。コンピュータシステム1000は、CPU(Central Processing Unit)のようなプロセッサ1001と、ROM(Read Only Memory)のような不揮発性メモリ及びRAM(Random Access Memory)のような揮発性メモリを含むメインメモリ1002と、ストレージ1003と、入出力回路を含むインターフェース1004とを有する。上述の制御装置60の機能及び制御装置300の機能は、コンピュータプログラムとしてストレージ1003に記憶されている。プロセッサ1001は、コンピュータプログラムをストレージ1003から読み出してメインメモリ1002に展開し、プログラムに従って上述の処理を実行する。なお、コンピュータプログラムは、ネットワークを介してコンピュータシステム1000に配信されてもよい。
【0102】
コンピュータプログラム又はコンピュータシステム1000は、上述の実施形態に従って、旋回体3に配置された第1撮像装置31に第1撮像範囲M1を撮像させて第1撮像範囲M1の第1画像P1を取得することと、旋回体3に配置された第2撮像装置32に第2撮像範囲M2を撮像させて第2撮像範囲M2の第2画像P2を取得することと、第1画像P1及び第2画像P2を遠隔地に送信させることと、を実行することができる。
【0103】
[効果]
以上説明したように、実施形態によれば、作業機械1の旋回体3に第1撮像装置31と第2撮像装置32とが配置される。第1撮像装置31は、第1撮像範囲M1を撮像する。第1撮像範囲M1は、旋回体3の前方に設定される。作業機4の少なくとも一部が第1撮像範囲M1に配置される。また、作業機械1の作業対象の少なくとも一部が第1撮像範囲M1に配置される。したがって、遠隔操作室200の操作者は、表示装置50に表示された第1撮像範囲M1の第1画像P1を見ながら、作業機4を使って作業対象の掘削作業を実施することができる。第2撮像装置32は、第2撮像範囲M2を撮像する。第2撮像範囲M2は、旋回体3の前側下方に設定される。第2撮像装置32の第2撮像範囲M2の少なくとも一部は、第1撮像装置31の第1撮像範囲M1よりも下方に配置される。したがって、第1画像P1が前側下方空間SP2の画像を含んでいなくても、遠隔操作室200の操作者は、表示装置50に表示された第2撮像範囲M2の第2画像P2を見ることにより、前側下方空間SP2の状況を確認することができる。
【0104】
走行体2の少なくとも一部が第2撮像範囲M2に配置可能である。これにより、遠隔操作室200の操作者は、表示装置50に表示された第2画像P2を見て、走行体2の状況を確認することができる。
【0105】
下方に移動したバケット4Cが第2撮像範囲M2に配置される。これにより、遠隔操作室200の操作者は、表示装置50に表示された第2画像P2を見て、可動範囲の下部に移動したバケット4Cの状況を確認することができる。また、第2撮像範囲M2に作業機械1の作業対象が配置されることにより、遠隔操作室200の操作者は、表示装置50に表示された第2画像P2を見て、作業対象の状況を確認することができる。
【0106】
第1撮像範囲M1は第1撮像装置31により撮像され、第2撮像範囲M2は第2撮像装置32により撮像される。作業現場が第1撮像装置31と第2撮像装置32とにより撮像されることにより、作業現場の画像が第1画像P1と第2画像P2とに分割された状態で作業機械1から制御装置60に送信される。したがって、作業機械1から制御装置60に送信される第1画像P1のデータ量及び第2画像P2のデータ量のそれぞれは小さい。第1画像P1のデータ量及び第2画像P2のデータ量のそれぞれが小さいので、画像データの圧縮に要する時間、送信に要する時間、及び復元に要する時間のそれぞれが短縮される。例えば1つの撮像範囲に前方空間SP1及び前側下方空間SP2の両方が含まれるような画角が広い光学系を有する撮像装置を採用した場合、画像のデータ量が大きくなってしまう可能性がある。その結果、画像データの圧縮、送信、及び復元に要する時間が長くなってしまう可能性がある。実施形態によれば、画像データの圧縮、送信、及び復元に要する時間が短縮される。したがって、作業機械1の実際の動きに対して表示装置50に表示される作業機械1の動きが遅延することが抑制される。そのため、遠隔操作室200の操作者は、表示装置50に表示された第1画像P1及び第2画像P2を見ながら、作業機械1を円滑に精度良く遠隔操作することができる。
【0107】
また、作業現場の画像が第1画像P1と第2画像P2とに分割された状態で作業機械1から制御装置60に送信されることにより、第1画像P1及び第2画像P2を伝送する無線通信帯域を確保することができる。
【0108】
第2撮像装置32は、アッパデッキ3Dの下面に配置される。これにより、第2撮像範囲M2にアッパデッキ3D及び手すり3Eを含む旋回体3は映り込まない。第2画像P2は、旋回体3を含まずに、走行体2、作業機4、及び地面GRを含む画像になる。したがって、遠隔操作室200の操作者は、表示装置50に表示された第2画像P2を見て、旋回体3の前側下方空間SP2の状況を適正に認識することができる。
【0109】
表示装置50は、第2画像P2のインポーズ画像P2Sを第1画像P1の下部に重複するように表示する。これにより、遠隔操作室200の操作者は、第1画像P1及び第2画像P2のそれぞれを見て、前方空間SP1の状況と前側下方空間SP2の状況とを適正に認識することができる。
【0110】
[その他の実施形態]
上述の実施形態において、旋回体3の上下方向において、第2撮像装置32は第1撮像装置31よりも下方に配置されることとした。旋回体3の上下方向において、第2撮像装置32は第1撮像装置31よりも上方に配置されてもよいし、第1撮像装置31と等しい位置に配置されてもよい。
【0111】
上述の実施形態において、旋回体3の左右方向において、第1撮像装置31は第2撮像装置32と等しい位置に配置されることとした。旋回体3の左右方向において、第1撮像装置31は第2撮像装置32よりも左方に配置されてもよいし、右方に配置されてもよい。
【0112】
上述の実施形態において、旋回体3の前後方向において、第1撮像装置31は第2撮像装置32よりも後方に配置されることとした。旋回体3の前後方向において、第1撮像装置31は第2撮像装置32よりも前方に配置されてもよいし、第2撮像装置32と等しい位置に配置されてもよい。
【0113】
上述の実施形態において、第1撮像装置31と第2撮像装置32とが上下方向又は左右方向に隣接して配置され、第1撮像装置31の光軸OA1の角度と第2撮像装置32の光軸OA2の角度とが上下方向において異なるように配置されてもよい。また、第1撮像装置31と第2撮像装置32とが上下方向又は左右方向に隣接して配置され、第1撮像装置31の光軸OA1の角度と第2撮像装置32の光軸OA2の角度とが左右方向において異なるように配置されてもよい。
【0114】
上述の実施形態において、第2画像P2のインポーズ画像P2Sは、第1画像P1の下部に重複するように表示されることとした。インポーズ画像P2Sは、第1画像P1の上部に重複するように表示されてもよいし、第1画像P1の左部に重複するように表示されてもよいし、第1画像P1の右部に重複するように表示されてもよい。
【0115】
上述の実施形態において、第1画像P1と第2画像P2とは重複しなくてもよい。第1画像P1と第2画像P2とが表示装置50に並んで表示されてもよい。
【0116】
上述の実施形態において、第1撮像装置31は、運転室3Aの外側に配置されてもよい。第1撮像装置31は、旋回体3に配置されていればよい。
【0117】
上述のように、作業現場において無人ダンプトラックが稼働する場合がある。無人ダンプトラックは、作業現場の管制施設から送信される制御指令に基づいて走行する。上述の実施形態において、撮像装置30により撮像された画像が、作業現場の管制施設に送信され、管制施設に設置されている表示装置に表示されてもよい。管制施設は、作業機械1の遠隔地に配置される。管制施設に存在する作業現場の管理者は、撮像装置30により撮像された画像を見ることができる。
【0118】
上述の実施形態において、旋回体3(車体)は運転室3Aを有することとした。旋回体3に運転室3Aは無くてもよい。旋回体3に運転室3Aが存在しない場合、第1撮像装置31は、旋回体3の前部に配置される。
【0119】
上述の実施形態において、表示装置50は、複数のディスプレイ(51,52,53,54,55)を有することとした。表示装置50は、1つのディスプレイにより構成されてもよい。また、ディスプレイは、フラットパネルディスプレイでもよいし、曲面パネルディスプレイでもよい。
【0120】
なお、上述の実施形態においては、作業機械1がローディングショベルであることとした。作業機械1はバックホウでもよい。また、上述の実施形態においては、作業機械1が車体として旋回体3を備えることとしたが、作業機械1の車体は旋回体でなくてもよい。作業機械1は、作業機を有する作業機械であればよく、ブルドーザでもよいし、ホイールローダでもよい。
【符号の説明】
【0121】
1…作業機械、2…走行体、2A…駆動輪、2B…従動輪、2C…履帯、3…旋回体(車体)、3A…運転室、3B…ロアデッキ、3C…ステップ、3D…アッパデッキ、3E…手すり、3F…ラダー、4…作業機、4A…ブーム、4B…アーム、4C…バケット、4D…先端刃、5…油圧シリンダ、5A…ブームシリンダ、5B…アームシリンダ、5C…バケットシリンダ、6…通信装置、7…通信装置、30…撮像装置、31…第1撮像装置、32…第2撮像装置、40…遠隔操作装置、41…左作業レバー、42…右作業レバー、43…左走行ペダル、44…右走行ペダル、45…操縦シート、50…表示装置、51…中央ディスプレイ、52…左ディスプレイ、53…右ディスプレイ、54…上ディスプレイ、55…下ディスプレイ、60…制御装置、61…操作信号送信部、62…画像データ受信部、63…第1画像処理部、64…第2画像処理部、65…表示制御部、70…センサ、71…位置センサ、72…姿勢センサ、73…角度センサ、100…遠隔操作システム、200…遠隔操作室、300…制御装置、301…走行体制御部、302…旋回体制御部、303…作業機制御部、304…画像データ送信部、305…センサデータ送信部、400…通信システム、501…第1モニタ装置、502…操作スイッチ、503…第2モニタ装置、504…第3モニタ装置、1000…コンピュータシステム、1001…プロセッサ、1002…メインメモリ、1003…ストレージ、1004…インターフェース、AX…ブーム回転軸、BX…アーム回転軸、CX…バケット回転軸、GR…地面、RX…旋回軸、M1…第1撮像範囲、M2…第2撮像範囲、OA1…光軸、OA2…光軸、P1…第1画像、P11…画像、P12…画像、P13…画像、P14…画像、P15…画像、P2…第2画像、P2S…インポーズ画像、P3…車体データ画像、P4…作業機データ画像、P5…積荷データ画像、P6…バケットデータ画像、SP1…前方空間、SP2…前側下方空間。