(58)【調査した分野】(Int.Cl.,DB名)
前記3次元データ算出部は、前記作業機位置データに基づいて前記計測データから前記作業機を含む部分データを除去し、前記部分データが除去された前記計測データに基づいて、前記対象データを算出する、
請求項1に記載の作業機械の検出処理装置。
前記3次元データ算出部は、前記計測データに基づいて算出された3次元データから前記作業機位置データに基づいて前記作業機を含む部分データを除去して、前記対象データを算出する、
請求項1に記載の作業機械の検出処理装置。
【発明を実施するための形態】
【0012】
以下、本発明に係る実施形態について図面を参照しながら説明するが、本発明はこれに限定されない。以下で説明する実施形態の構成要素は適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。
【0013】
以下の説明においては、3次元のグローバル座標系(Xg,Yg,Zg)、3次元の車体座標系(Xm,Ym,Zm)、及び3次元のカメラ座標系(Xs,Ys,Zs)を規定して、各部の位置関係について説明する。
【0014】
グローバル座標系は、水平面内のXg軸と、水平面内においてXg軸と直交するYg軸と、Xg軸及びYg軸と直交するZg軸とによって規定される。Xg軸を中心とする回転又は傾斜方向をθXg方向とし、Yg軸を中心とする回転又は傾斜方向をθYg方向とし、Zg軸を中心とする回転又は傾斜方向をθZg方向とする。Zg軸方向は鉛直方向である。
【0015】
車体座標系は、作業機械の車体に規定された原点を基準として一方向に延在するXm軸と、Xm軸と直交するYm軸と、Xm軸及びYm軸と直交するZm軸とによって規定される。Xm軸方向は作業機械の前後方向であり、Ym軸方向は作業機械の車幅方向であり、Zm軸方向は作業機械の上下方向である。
【0016】
カメラ座標系は、撮像装置に規定された原点を基準として一方向に延在するXs軸と、Xs軸と直交するYs軸と、Xs軸及びYs軸と直交するZs軸とによって規定される。Xs軸方向は撮像装置の上下方向であり、Ys軸方向は撮像装置の幅方向であり、Zs軸方向は撮像装置の前後方向である。Zs軸方向は撮像装置の光学系の光軸と平行である。
【0017】
第1実施形態.
[作業機械]
図1は、本実施形態に係る作業機械1の一例を示す斜視図である。本実施形態においては、作業機械1が油圧ショベルである例について説明する。以下の説明においては、作業機械1を適宜、油圧ショベル1、と称する。
【0018】
図1に示すように、油圧ショベル1は、車体1Bと、作業機2とを有する。車体1Bは、旋回体3と、旋回体3を旋回可能に支持する走行体5とを有する。
【0019】
旋回体3は、旋回軸Zrを中心に旋回可能である。旋回軸ZrとZm軸とは平行である。旋回体3は、運転室4を有する。油圧ポンプ及び内燃機関が旋回体3に配置される。走行体5は、履帯5a,5bを有する。履帯5a,5bが回転することにより、油圧ショベル1が走行する。
【0020】
作業機2は、旋回体3に連結される。作業機2は、旋回体3に連結されるブーム6と、ブーム6に連結されるアーム7と、アーム7に連結されるバケット8と、ブーム6を駆動するブームシリンダ10と、アーム7を駆動するアームシリンダ11と、バケット8を駆動するバケットシリンダ12とを有する。ブームシリンダ10、アームシリンダ11、及びバケットシリンダ12はそれぞれ、油圧によって駆動される油圧シリンダである。
【0021】
ブーム6は、ブームピン13を介して旋回体3に回転可能に連結される。アーム7は、アームピン14を介してブーム6の先端部に回転可能に連結される。バケット8は、バケットピン15を介してアーム7の先端部に回転可能に連結される。ブームピン13は、旋回体3に対するブーム6の回転軸AX1を含む。アームピン14は、ブーム6に対するアーム7の回転軸AX2を含む。バケットピン15は、アーム7に対するバケット8の回転軸AX3を含む。ブーム6の回転軸AX1、アーム7の回転軸AX2、及びバケット8の回転軸AX3は、車体座標系のYm軸と平行である。
【0022】
バケット8は、作業具の一種である。なお、アーム7に連結される作業具は、バケット8に限定されない。作業具は、アーム7に連結される作業具は、例えばチルトバケットでもよいし、法面バケット又は削岩用のチップを備えた削岩用のアタッチメントでもよい。
【0023】
本実施形態において、グローバル座標系(Xg,Yg,Zg)で規定される旋回体3の位置が検出される。グローバル座標系は、地球に固定された原点を基準とする座標系である。グローバル座標系は、GNSS(Global Navigation Satellite System)によって規定される座標系である。GNSSとは、全地球航法衛星システムをいう。全地球航法衛星システムの一例として、GPS(Global Positioning System)が挙げられる。GNSSは、複数の測位衛星を有する。GNSSは、緯度、経度、及び高度の座標データで規定される位置を検出する。
【0024】
車体座標系(Xm,Ym,Zm)は、旋回体3に固定された原点を基準とする座標系である。車体座標系の原点は、例えば旋回体3のスイングサークルの中心である。スイングサークルの中心は、旋回体3の旋回軸Zrに存在する。
【0025】
油圧ショベル1は、作業機2の角度を検出する作業機角度検出器22と、旋回体3の位置を検出する位置検出器23と、旋回体3の姿勢を検出する姿勢検出器24と、旋回体3の方位を検出する方位検出器25とを有する。
【0026】
[撮像装置]
図2は、本実施形態に係る撮像装置30の一例を示す斜視図である。
図2は、油圧ショベル1の運転室4の近傍を示す斜視図である。
【0027】
図2に示すように、油圧ショベル1は、撮像装置30を有する。撮像装置30は、油圧ショベル1に設けられ、油圧ショベル1の前方の対象を計測する計装装置として機能する。撮像装置30は、油圧ショベル1の前方の対象を撮影する。なお、油圧ショベル1の前方とは、車体座標系における+Xm方向をいい、旋回体3に対して作業機2が存在する方向をいう。
【0028】
撮像装置30は、運転室4の内側に設けられる。撮像装置30は、運転室4の前方(+Xm方向)かつ上方(+Zm方向)に配置される。
【0029】
上方(+Zm方向)とは、履帯5a,5bの接地面と直交する方向であって接地面から離れる方向である。履帯5a,5bの接地面とは、履帯5a,5b少なくとも一方が接地する部分の同一直線上には存在しない少なくとも3点で規定される平面をいう。下方(−Zm方向)とは、上方の反対方向であり、履帯5a,5bの接地面と直交する方向であって接地面に向かう方向である。
【0030】
運転席4S及び操作装置35が運転室4に配置される。運転席4Sは、背もたれ4SSを有する。前方(+Xm方向)とは、運転席4Sの背もたれ4SSから操作装置35に向かう方向である。後方(−Xm方向)とは、前方の反対方向であり、操作装置35から運転席4Sの背もたれ4SSに向かう方向である。旋回体3の前部は、旋回体3の前方の部分であり、旋回体3のカウンタウエイトWTとは反対側の部分である。操作装置35は、作業機2及び旋回体3の操作のために運転者に操作される。操作装置35は、右操作レバー35R及び左操作レバー35Lを含む。運転室4に搭乗した運転者は、操作装置35を操作して、作業機2の駆動及び旋回体3の旋回を実施する。
【0031】
撮像装置30は、旋回体3の前方に存在する撮影対象を撮影する。本実施形態において、撮影対象は、施工現場において施工される施工対象を含む。施工対象は、油圧ショベル1の作業機2で掘削される掘削対象を含む。なお、施工対象は、他の油圧ショベル1otの作業機2で掘削される掘削対象でもよいし、撮像装置30を有する油圧ショベル1とは別の作業機械によって施工される施工対象でもよい。なお、施工対象は、作業者によって施工される施工対象でもよい。
【0032】
また、施工対象は、施工前の施工対象、施工中の施工対象、及び施工後の施工対象を含む概念である。
【0033】
撮像装置30は、光学系と、イメージセンサとを有する。イメージセンサは、CCD(Couple Charged Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを含む。
【0034】
本実施形態において、撮像装置30は、複数の撮像装置30a,30b,30c,30dを含む。撮像装置30a,30cは、撮像装置30b,30dよりも+Ym側(作業機2側)に配置される。撮像装置30aと撮像装置30bとはYm軸方向に間隔をあけて配置される。撮像装置30cと撮像装置30dとはYm軸方向に間隔をあけて配置される。撮像装置30a,30bは、撮像装置30c,30dよりも+Zm側に配置される。Zm軸方向において、撮像装置30aと撮像装置30bとは実質的に同一の位置に配置される。Zm軸方向において、撮像装置30cと撮像装置30dとは実質的に同一の位置に配置される。
【0035】
4つの撮像装置30(30a,30b,30c,30d)のうち2つの撮像装置30の組合せによりステレオカメラが構成される。ステレオカメラとは、撮影対象を複数の異なる方向から同時に撮影することにより、撮影対象の奥行き方向についてのデータも取得できるカメラをいう。本実施形態においては、撮像装置30a,30bの組合せにより第1のステレオカメラが構成され、撮像装置30c,30dの組合せにより第2のステレオカメラが構成される。
【0036】
本実施形態において、撮像装置30a,30bは上方(+Zm方向)を向く。撮像装置30c,30dは下方(−Zm方向)を向く。また、撮像装置30a,30cは、前方(+Xm方向)を向く。撮像装置30b,30dは、前方よりも僅かに+Ym側(作業機2側)を向く。すなわち、撮像装置30a,30cは、旋回体3の正面を向き、撮像装置30b,30dは、撮像装置30a,30c側を向く。なお、撮像装置30b,30dが旋回体3の正面を向き、撮像装置30a,30cが撮像装置30b,30d側を向いてもよい。
【0037】
撮像装置30は、旋回体3の前方に存在する撮影対象をステレオ撮影する。本実施形態においては、少なくとも一対の撮像装置30によるステレオ画像データを用いて施工対象が3次元計測され、施工対象の3次元データが算出される。施工対象の3次元データは、施工対象の表面(地表)の3次元データである。施工対象の3次元データは、グローバル座標系における施工対象の3次元形状データを含む。
【0038】
複数の撮像装置30(30a,30b,30c,30d)のそれぞれについてカメラ座標系(Xs,Ys,Zs)が規定される。カメラ座標系は、撮像装置30に固定された原点を基準とする座標系である。カメラ座標系のZs軸は撮像装置30の光学系の光軸と一致する。また、本実施形態においては、複数の撮像装置30a,30b,30c,30dのうち、撮像装置30cが基準撮像装置に設定される。
【0039】
[検出システム]
次に、本実施形態に係る油圧ショベル1の検出システムについて説明する。
図3は、本実施形態に係る油圧ショベル1を模式的に示す側面図である。
【0040】
図3に示すように、油圧ショベル1は、作業機2の角度を検出する作業機角度検出器22と、旋回体3の位置を検出する位置検出器23と、旋回体3の姿勢を検出する姿勢検出器24と、旋回体3の方位を検出する方位検出器25とを有する。
【0041】
位置検出器23は、GPS受信機を含む。位置検出器23は、旋回体3に設けられる。位置検出器23は、グローバル座標系で規定される旋回体3の位置である絶対位置を検出する。旋回体3の絶対位置は、Xg軸方向の座標データ、Yg軸方向の座標データ、及びZg軸方向の座標データを含む。
【0042】
旋回体3に一対のGPSアンテナ21が設けられる。本実施形態において、一対のGPSアンテナ21は、旋回体3の上部に設けられた手すり9に設けられる。一対のGPSアンテナ21は、車体座標系のYm軸方向に配置される。一対のGPSアンテナ21は、一定距離だけ離れている。一対のGPSアンテナ21は、GPS衛星から電波を受信して、受信した電波に基づいて生成した信号を位置検出器23に出力する。位置検出器23は、一対のGPSアンテナ21から供給された信号に基づいて、グローバル座標系で規定される一対のGPSアンテナ21の位置である絶対位置をそれぞれ検出する。
【0043】
位置検出器23は、一対のGPSアンテナ21の絶対位置の少なくとも一方に基づいて演算処理を実施して、旋回体3の絶対位置を算出する。本実施形態において、旋回体3の絶対位置は、一方のGPSアンテナ21の絶対位置としてもよい。なお、旋回体3の絶対位置は、一方のGPSアンテナ21の絶対位置と他方のGPSアンテナ21の絶対位置との間の位置でもよい。
【0044】
姿勢検出器24は、慣性計測装置(IMU:Inertial Measurement Unit)を含む。姿勢検出器24は、旋回体3に設けられる。姿勢検出器24は、グローバル座標系で規定される水平面(XgYg平面)に対する旋回体3の傾斜角度を算出する。水平面に対する旋回体3の傾斜角度は、Ym軸方向(車幅方向)における旋回体3の傾斜角度を示すロール角θ1と、Xm軸方向(前後方向)における旋回体3の傾斜角度を示すピッチ角θ2とを含む。
【0045】
姿勢検出器24は、姿勢検出器24に作用する加速度及び角速度を検出する。姿勢検出器24に作用する加速度及び角速度が検出されることにより、旋回体3に作用する加速度及び角速度が検出される。旋回体3に作用する加速度及び角速度に基づいて、旋回体3の姿勢が導出される。
【0046】
方位検出器25は、一方のGPSアンテナ21の絶対位置と他方のGPSアンテナ21の絶対位置とに基づいて、グローバル座標系で規定される基準方位に対する旋回体3の方位を算出する。基準方位は、例えば北である。方位検出器25は、一方のGPSアンテナ21の絶対位置と他方のGPSアンテナ21の絶対位置とを結ぶ直線を算出し、算出した直線と基準方位とがなす角度に基づいて、基準方位に対する旋回体3の方位を算出する。基準方位に対する旋回体3の方位は、基準方位と旋回体3の方位とがなす角度を示すヨー角(方位角)θ3を含む。
【0047】
作業機2は、ブームシリンダ10に配置されブームシリンダ10の駆動量を示すブームストロークを検出するブームストロークセンサ16と、アームシリンダ11に配置されアームシリンダ11の駆動量を示すアームストロークを検出するアームストロークセンサ17と、バケットシリンダ12に配置されバケットシリンダ12の駆動量を示すバケットストロークを検出するバケットストロークセンサ18とを有する。
【0048】
作業機角度検出器22は、ブーム6の角度、アーム7の角度、及びバケット8の角度を検出する。作業機角度検出器22は、ブームストロークセンサ16で検出されたブームストロークに基づいて、車体座標系のZm軸に対するブーム6の傾斜角度を示すブーム角度αを算出する。作業機角度検出器22は、アームストロークセンサ17で検出されたアームストロークに基づいて、ブーム6に対するアーム7の傾斜角度を示すアーム角度βを算出する。作業機角度検出器22は、バケットストロークセンサ18で検出されたバケットストロークに基づいて、アーム7に対するバケット8の刃先8BTの傾斜角度を示すバケット角度γを算出する。
【0049】
なお、ブーム角度α、アーム角度β、及びバケット角度γは、ストロークセンサを用いずに、例えば、作業機2に設けられた角度センサにより検出されてもよい。
【0050】
[形状計測システム]
図4は、本実施形態に係る油圧ショベル1の制御システム50及びサーバ61を含む形状計測システム100の一例を模式的に示す図である。
【0051】
制御システム50は、油圧ショベル1に配置される。サーバ61は、油圧ショベル1の遠隔地に設けられる。制御システム50とサーバ61とは、通信回線NTWを介してデータ通信可能である。また、通信回線NTWには、制御システム50及びサーバ61のみならず、携帯端末装置64及び他の油圧ショベル1otの制御システム50otが接続される。油圧ショベル1の制御システム50と、サーバ61と、携帯端末装置64と、他の油圧ショベル1otの制御システム50otとは、通信回線NTWを介してデータ通信可能である。通信回線NTWは、携帯電話網及びインターネットの少なくとも一方を含む。なお、通信回線NTWが無線LAN(Local Area Network)を含んでもよい。
【0052】
制御システム50は、複数の撮像装置30(30a,30b,30c,30d)と、検出処理装置51と、施工管理装置57と、表示装置58と、通信装置26とを有する。
【0053】
また、制御システム50は、作業機角度検出器22と、位置検出器23と、姿勢検出器24と、方位検出器25とを有する。
【0054】
検出処理装置51、施工管理装置57、表示装置58、通信装置26、位置検出器23、姿勢検出器24、及び方位検出器25は、信号線59に接続され相互にデータ通信可能である。信号線59に適用される通信規格は、例えばCAN(Controller Area Network)である。
【0055】
制御システム50は、コンピュータシステムを含む。制御システム50は、CPU(Central Processing Unit)のようなプロセッサを含む演算処理装置と、RAM(Random Access Memory)のような不揮発性メモリ及びROM(Read Only Memory)のような揮発性メモリを含む記憶装置とを有する。通信用アンテナ26Aが通信装置26と接続される。通信装置26は、サーバ61、携帯端末装置64、及び他の油圧ショベル1otの制御システム50otの少なくとも1つと通信回線NTWを介してデータ通信可能である。
【0056】
検出処理装置51は、少なくとも一対の撮像装置30によって撮像された施工対象の一対の画像データに基づいて、施工対象の3次元データを算出する。検出処理装置51は、施工対象の一対の画像データをステレオ方式で画像処理することにより、3次元座標系における施工対象の複数の部位の座標を示す3次元データを算出する。ステレオ方式の画像処理とは、同一の撮影対象を2つの異なる撮像装置30から観測して得られる2つの画像から、その撮影対象までの距離を得る手法をいう。撮影対象までの距離は、例えば撮影対象までの距離データを濃淡により可視化した距離画像として表現される。
【0057】
ハブ31及び撮像スイッチ32が検出処理装置51に接続される。ハブ31は、複数の撮像装置30a,30b,30c,30dと接続される。撮像装置30a,30b,30c,30dで取得された画像データは、ハブ31を介して検出処理装置51に供給される。なお、ハブ31は省略されてもよい。
【0058】
撮像スイッチ32は、運転室4に設置される。本実施形態においては、運転室4の運転者によって撮像スイッチ32が操作されたとき、撮像装置30による施工対象の撮像が実施される。なお、油圧ショベル1が稼働している状態において、所定期間毎に自動的に撮像装置30による施工対象の撮像が実施されてもよい。
【0059】
施工管理装置57は、油圧ショベル1の状態及び油圧ショベル1による施工の状況を管理する。施工管理装置57は、例えば1日の作業の終了段階における施工の結果を示す完了施工データを取得して、サーバ61及び携帯端末装置64の少なくとも一方に送信する。また、施工管理装置57は、1日の作業の途中段階における施工の結果を示す中間施工データを取得して、サーバ61及び携帯端末装置64の少なくとも一方に送信する。
【0060】
完了施工データ及び中間施工データは、撮像装置30で取得された画像データに基づいて検出処理装置51で算出された施工対象の3次元データを含む。すなわち、1日の作業の途中段階及び終了段階における施工対象の現況地形データがサーバ61及び携帯端末装置64の少なくとも一方に送信される。なお、施工管理装置57は、完了施工データ及び中間施工データに加えて、例えば撮像装置30で取得された画像データの取得日時データ、取得位置データ、及び画像データを取得した油圧ショベル1の識別データの少なくとも一つを含めてサーバ61及び携帯端末装置64の少なくとも一方に送信してもよい。なお、油圧ショベル1の識別データは、例えば油圧ショベル1の型番を含む。
【0061】
表示装置58は、液晶ディスプレイ(LCD:Liquid Crystal Display)又は有機ELディスプレイ(OELD:Organic Electroluminescence Display)のようなフラットパネルディスプレイを含む。
【0062】
携帯端末装置64は、例えば油圧ショベル1の作業を管理する管理者に所持される。
【0063】
サーバ61は、コンピュータシステムを含む。サーバ61は、CPUのようなプロセッサを含む演算処理装置と、RAMのような揮発性メモリ及びROMのような不揮発性メモリを含む記憶装置とを含む。通信装置62及び表示装置65がサーバ61と接続される。通信装置62は、通信用アンテナ63と接続される。通信装置62は、油圧ショベル1の制御システム50、携帯端末装置64、及び他の油圧ショベル1otの制御システム50otの少なくとも1つと通信回線NTWを介してデータ通信可能である。
【0064】
図5は、本実施形態に係る検出処理装置51の一例を示す機能ブロック図である。検出処理装置51は、プロセッサを含む演算処理装置と、不揮発性メモリ及び揮発性メモリを含む記憶装置と、入出力インターフェースとを有するコンピュータシステムを含む。
【0065】
検出処理装置51は、画像データ取得部101と、3次元データ算出部102と、位置データ取得部103と、姿勢データ取得部104と、方位データ取得部105と、作業機角度データ取得部106と、作業機位置データ算出部107と、表示制御部108と、記憶部109と、入出力部110と、を有する。
【0066】
画像データ取得部101、3次元データ算出部102、位置データ取得部103、姿勢データ取得部104、方位データ取得部105、作業機角度データ取得部106、作業機位置データ算出部107、及び表示制御部108の機能は、演算処理装置によって発揮される。記憶部109の機能は、記憶装置によって発揮される。入出力部110の機能は、入出力インターフェースによって発揮される。
【0067】
撮像装置30、作業機角度検出器22、位置検出器23、姿勢検出器24、方位検出器25、撮像スイッチ32、及び表示装置58は、入出力部110と接続される。画像データ取得部101と、3次元データ算出部102と、位置データ取得部103と、姿勢データ取得部104と、方位データ取得部105と、作業機角度データ取得部106と、作業機位置データ算出部107と、表示制御部108と、記憶部109と、撮像装置30と、作業機角度検出器22と、位置検出器23と、姿勢検出器24と、方位検出器25と、撮像スイッチ32と、表示装置58とは、入出力部110を介してデータ通信可能である。
【0068】
画像データ取得部101は、油圧ショベル1に設けられた少なくとも一対の撮像装置30で撮影された施工対象の画像データを一対の撮像装置30から取得する。すなわち、画像データ取得部101は、少なくとも一対の撮像装置30によるステレオ画像データを取得する。画像データ取得部101は、油圧ショベル1に設けられた撮像装置30(計測装置)によって撮影(計測)された油圧ショベル1の前方の施工対象の画像データ(計測データ)を取得する計測データ取得部として機能する。
【0069】
3次元データ算出部102は、画像データ取得部101で取得された画像データに基づいて、施工対象の3次元データを算出する。3次元データ算出部102は、画像データ取得部101で取得された画像データに基づいて、カメラ座標系における施工対象の3次元形状データを算出する。
【0070】
位置データ取得部103は、油圧ショベル1の位置データを位置検出器23から取得する。油圧ショベル1の位置データは、位置検出器23で検出されたグローバル座標系における旋回体3の位置を示す位置データを含む。
【0071】
姿勢データ取得部104は、油圧ショベル1の姿勢データを姿勢検出器24から取得する。油圧ショベル1の姿勢データは、姿勢検出器24で検出されたグローバル座標系における旋回体3の姿勢を示す姿勢データを含む。
【0072】
方位データ取得部105は、油圧ショベル1の方位データを方位検出器25から取得する。油圧ショベル1の方位データは、方位検出器25で検出されたグローバル座標系における旋回体3の方位を示す方位データを含む。
【0073】
作業機角度データ取得部106は、作業機2の角度を示す作業機角度データを作業機角度検出器22から取得する。作業機角度データは、ブーム角度α、アーム角度β、及びバケット角度γを含む。
【0074】
作業機位置データ算出部107は、作業機2の位置を示す作業機位置データを算出する。作業機位置データは、ブーム6の位置データ、アーム7の位置データ、及びバケット8の位置データを含む。
【0075】
作業機位置データ算出部107は、作業機角度データ取得部106で取得された作業機角度データと、記憶部109に記憶されている作業機データとに基づいて、車体座標系におけるブーム6の位置データ、アーム7の位置データ、及びバケット8の位置データを算出する。ブーム6、アーム7、及びバケット8の位置データは、ブーム6、アーム7、及びバケット8の複数の部位それぞれの座標データを含む。
【0076】
また、作業機位置データ算出部107は、位置データ取得部103で取得された旋回体3の位置データと、姿勢データ取得部104で取得された旋回体3の姿勢データと、方位データ取得部105で取得された旋回体3の方位データと、作業機角度データ取得部106で取得された作業機角度データと、記憶部109に記憶されている作業機データとに基づいて、グローバル座標系におけるブーム6、アーム7、及びバケット8の位置データを算出する。
【0077】
作業機データは、作業機2の設計データ又は諸元データを含む。作業機2の設計データは、作業機2の3次元CADデータを含む。作業機データは、作業機2の外形データ及び作業機2の寸法データの少なくとも一方を含む。本実施形態においては、
図3に示すように、作業機データは、ブーム長さL1、アーム長さL2、及びバケット長さL3を含む。ブーム長さL1は、回転軸AX1と回転軸AX2との距離である。アーム長さL2は、回転軸AX2と回転軸AX3との距離である。バケット長さL3は、回転軸AX3とバケット8の刃先9との距離である。
【0078】
3次元データ算出部102は、画像データ取得部101で取得された施工対象の画像データに基づいて、車体座標系における施工対象の3次元データを算出する。車体座標系における施工対象の3次元データは、車体座標系における施工対象の3次元形状データを含む。3次元データ算出部102は、カメラ座標系における施工対象の3次元データを座標変換して、車体座標系における施工対象の3次元データを算出する。
【0079】
また、3次元データ算出部102は、位置データ取得部103で取得された旋回体3の位置データ、姿勢データ取得部104で取得された旋回体3の姿勢データ、方位データ取得部105で取得された旋回体3の方位データ、及び画像データ取得部101で取得された施工対象の画像データに基づいて、グローバル座標系における施工対象の3次元データを算出する。グローバル座標系における施工対象の3次元データは、グローバル座標系における施工対象の3次元形状データを含む。3次元データ算出部102は、車体座標系における施工対象の3次元データを座標変換して、グローバル座標系における施工対象の3次元データを算出する。
【0080】
表示制御部108は、3次元データ算出部102で算出された施工対象の3次元データを表示装置58に表示させる。表示制御部108は、3次元データ算出部102で算出された施工対象の3次元データを表示装置58が表示可能な表示形式の表示データに変換して、その表示データを表示装置58に表示させる。
【0081】
[3次元処理]
図6は、本実施形態に係る一対の撮像装置30によって3次元データを算出する方法を説明するための模式図である。以下の説明においては、一対の撮像装置30a,30bによって3次元データが算出される方法について説明する。3次元データを算出する3次元処理は、所謂ステレオ計測処理を含む。なお、一対の撮像装置30a,30bによって3次元データが算出される方法と、一対の撮像装置30c,30dによって3次元データが算出される方法とは、同様である。
【0082】
一対の撮像装置30a,30bを示す計測装置位置データである撮像装置位置データが記憶部109に記憶されている。撮像装置位置データは、撮像装置30a及び撮像装置30bそれぞれの位置及び姿勢を含む。また、撮像装置位置データは、一対の撮像装置30aと撮像装置30bとの相対位置を含む。撮像装置位置データは、撮像装置30a,30bの設計データ又は諸元データから分かる既知データである。撮像装置30a,30bの位置を示す撮像装置位置データは、撮像装置30aの光学中心Oaの位置及び光軸の向き、撮像装置30bの光学中心Obの位置及び光軸の向き、撮像装置30aの光学中心Oaと撮像装置30bの光学中心Obとを結ぶベースラインの寸法、の少なくとも一つを含む。
【0083】
図6において、3次元空間に存在する計測点Pが、一対の撮像装置30a,30bの投影面に投影される。また、撮像装置30aの投影面に計測点Pの像及び撮像装置30bの投影面の点Ebの像が投影され、エピポーラ線が規定される。同様に、撮像装置30bの投影面に計測点Pの像及び撮像装置30aの投影面の点Eaの像が投影され、エピポーラ線が規定される。また、計測点Pと点Eaと点Ebとによりエピポーラ平面が規定される。
【0084】
本実施形態において、画像データ取得部101は、撮像装置30aで撮像された画像データと、撮像装置30bで撮像された画像データとを取得する。撮像装置30aで撮像された画像データ及び撮像装置30bで撮像された画像データはそれぞれ、投影面に投影された2次元の画像データである。以下の説明においては、撮像装置30aで撮像された2次元の画像データを適宜、右画像データ、と称し、撮像装置30bで撮像された2次元の画像データを適宜、左画像データ、と称する。
【0085】
画像データ取得部101で取得された右画像データ及び左画像データは、3次元データ算出部103に出力される。3次元データ算出部102は、カメラ座標系において規定される右画像データにおける計測点Pの像の座標データと、左画像データにおける計測点Pの像の座標データと、エピポーラ平面とに基づいて、カメラ座標系における計測点Pの3次元座標データを算出する。
【0086】
3次元画像データは、右画像データ及び左画像データに基づいて、施工対象の複数の計測点Pそれぞれの3次元座標データを算出する。これにより、施工対象の3次元データが算出される。
【0087】
本実施形態において、3次元データ算出部102は、ステレオ画像処理において、カメラ座標系における複数の計測点Pの3次元座標データを含む3次元データを算出した後、座標変換することによって、車体座標系における複数の計測点Pの3次元座標データを含む3次元データを算出する。
【0088】
[形状計測方法]
次に、本実施形態に係る形状計測方法について説明する。撮像装置30を用いて施工対象を撮像するとき、油圧ショベル1の作業機2の少なくとも一部が撮像装置30によって撮像される画像データに映り込んでしまう可能性がある。撮像装置30によって撮像された画像データにおいて、映り込んだ作業機2はノイズ成分であるため、施工対象の良好な3次元データを取得することが困難となる。
【0089】
本実施形態において、3次元データ算出部102は、画像データ取得部101で取得された画像データ及び作業機位置データ算出部107で算出された作業機位置データに基づいて、作業機1の少なくとも一部が除去された3次元データである対象データを算出する。
【0090】
本実施形態において、3次元データ算出部102は、作業機位置データ算出部107で算出された車体座標系における作業機位置データを座標変換して、カメラ座標系における作業機位置データを算出する。3次元データ算出部102は、カメラ座標系における作業機位置データに基づいて、画像データ取得部101で取得された画像データにおける作業機2の位置を特定して、作業機2の少なくとも一部が除去された3次元データである対象データを算出する。3次元データ算出部102は、カメラ座標系において算出された3次元データである対象データを座標変換して、車体座標系における3次元データである対象データを算出する。
【0091】
図7は、本実施形態に係る形状計測方法の一例を示すフローチャートである。画像データ取得部101は、撮像装置30から右画像データ及び左画像データを取得する(ステップSA10)。上述のように、右画像データ及び左画像データは、2次元の画像データである。
【0092】
3次元データ算出部102は、作業機位置データ算出部107で算出された車体座標系における作業機位置データを座標変換してカメラ座標系における作業機位置データを算出する。3次元データ算出部102は、カメラ座標系における作業機位置データに基づいて、右画像データ及び左画像データのそれぞれにおける作業機2の位置を特定する(ステップSA20)。
【0093】
上述のように、記憶部109には、撮像装置30a,30bの位置を示す撮像装置位置データが記憶されている。3次元データ算出部は102、撮像装置位置データ及び作業機位置データに基づいて、右画像データにおける作業機2の位置、及び左画像データにおける作業機2の位置を特定することができる。
【0094】
例えば車体座標系における作業機2の位置と、車体座標系における撮像装置30の位置及び姿勢(向き)とが分かれば、撮像装置30の撮像範囲(撮像装置30の光学系の視野領域)において作業機2が映る範囲が特定される。3次元データ算出部102は、作業機2と撮像装置30との相対位置に基づいて、右画像データにおける作業機2の位置、及び左画像データにおける作業機2の位置を算出することができる。
【0095】
図8は、本実施形態に係る右画像データの一例を示す図である。なお、
図8を用いる説明においては、右画像データについて説明するが、左画像データについても同様である。
【0096】
図8に示すように、右画像データに作業機2が映り込む可能性がある。3次元データ算出部は102、撮像装置位置データ及び作業機位置データに基づいて、カメラ座標系で規定される右画像データにおける作業機2の位置を特定する。上述のように、作業機位置データは、作業機データを含み、作業機データは、3次元CADデータのような作業機2の設計データを含む。また、作業機データは、作業機2の外形データ及び作業機2の寸法データを含む。したがって、3次元データ算出部102は、右画像データを構成する複数のピクセルのうち、作業機2を示すピクセルを特定することができる。
【0097】
3次元データ算出部102は、作業機位置データに基づいて、右画像データから、作業機2を含む部分データを除去する。同様に、3次元データ算出部102は、作業機位置データに基づいて、左画像データから、作業機2を含む部分データを除去する(ステップSA30)。
【0098】
すなわち、3次元データ算出部102は、右画像データの複数のピクセルのうち、ステレオ計測処理に使用される作業機2を示すピクセルを無効化する。同様に、3次元データ算出部102は、左画像データの複数のピクセルのうち、ステレオ計測処理に使用される作業機2を示すピクセルを無効化する。換言すれば、3次元データ算出部102は、撮像装置30a,30bの投影面に投影された作業機2を示す計測点Pの像を除去又は無効化する。
【0099】
3次元データ算出部102は、作業機2を含む部分データが除去された画像データである周辺データに基づいて、作業機2が除去された3次元データである対象データを算出する(ステップSA40)。
【0100】
すなわち、3次元データ算出部102は、右画像データから作業機2を含む部分データが除去された2次元の周辺データと、左画像データから作業機2を含む部分データが除去された2次元の周辺データとに基づいて、3次元処理を実施して、作業機2が除去された3次元データである対象データを算出する。3次元データ算出部102は、カメラ座標系において規定される対象データを座標変換して、車体座標系又はグローバル座標系において規定される対象データを算出する。
【0101】
[作用及び効果]
以上説明したように、本実施形態によれば、作業機2が映り込んでも、画像データ取得部101で取得された画像データ及び作業機位置データ算出部107で算出された作業機位置データに基づいて、作業機2の少なくとも一部が除去された3次元データである対象データが算出される。
【0102】
撮像装置30によって取得された画像データにおいて、映り込んだ作業機2はノイズ成分である。本実施形態においては、ノイズ成分である作業機2を含む部分データが除去されるため、3次元データ算出部102は、周辺データに基づいて、施工対象の良好な3次元データを算出することができる。また、作業機2を上昇させずに撮像装置30によって施工対象を撮像しても、施工対象の良好な3次元データが算出されるので、作業効率の低下が抑制される。
【0103】
なお、本実施形態においては、部分データは、
図8を参照して説明したように、作業機2の外形に沿って規定されている。部分データが作業機2の一部を含み、周辺データが作業機の一部を含んでもよい。また、部分データが施工対象の一部を含んでもよい。
【0104】
第2実施形態.
第2実施形態について説明する。以下の説明において、上述の実施形態と同一又は同等の構成要素については同一の符号を付し、その説明を簡略又は省略する。
【0105】
上述の実施形態においては、2次元の右画像データ及び左画像データから部分データを除去することとした。本実施形態においては、右画像データ及び左画像データに基づいて作業機2を含む3次元データが算出された後、その3次元データから作業機2を含む部分データが除去される例について説明する。
【0106】
図9は、本実施形態に係る形状計測方法の一例を示すフローチャートである。画像データ取得部101は、撮像装置30から右画像データ及び左画像データを取得する(ステップSB10)。
【0107】
3次元データ算出部102は、画像データ取得部101で取得された右画像データ及び左画像データに基づいて3次元処理を実施して、施工対象の3次元データを算出する(ステップSB20)。3次元データ算出部102は、カメラ座標系における施工対象の3次元データを算出した後、座標変換して、車体座標系における施工対象の3次元データを算出する。
【0108】
3次元データ算出部102は、作業機位置データ算出部107で算出された車体座標系における作業機位置データに基づいて、車体座標系における作業機2の位置を特定する(ステップSB30)。3次元データ算出部102は、車体座標系における作業機2の位置を座標変換して、カメラ座標系における作業機2の位置を特定する。
【0109】
3次元データ算出部102は、ステップSB20で算出した3次元データから、ステップSB30で特定した作業機2を含む部分データ(3次元データ)を除去して、作業機2が除去された3次元データである対象データを算出する(ステップSB40)。
【0110】
すなわち、3次元データ算出部102は、3次元処理によって取得された複数の計測点Pからなる3次元点群データから、作業機位置データに基づいて作業機2を示す複数の計測点Pを推定し、推定した作業機2を示す複数の計測点Pからなる3次元の部分データを、3次元点群データから除去する。
【0111】
3次元データ算出部102は、カメラ座標系において規定される対象データを座標変換して、車体座標系又はグローバル座標系において規定される対象データを算出する。
【0112】
以上説明したように、本実施形態においては、撮像装置30で撮像された画像データに作業機2が映り込んだ場合、右画像データ及び左画像データに基づいて作業機2を含む3次元データが算出された後、その3次元データから作業機2を含む部分データが除去される。本実施形態においても、作業効率の低下を抑制しつつ油圧ショベル1の前方の施工対象の良好な3次元データを取得することができる。
【0113】
第3実施形態.
第3実施形態について説明する。以下の説明において、上述の実施形態と同一又は同等の構成要素については同一の符号を付し、その説明を簡略又は省略する。
【0114】
上述の実施形態においては、作業機2を含む部分データが除去される例について説明した。本実施形態にいては、他の油圧ショベル1otを含む部分データが除去される例について説明する。
【0115】
図10は、本実施形態に係る形状計測方法の一例を模式的に示す図である。
図10に示すように、油圧ショベル1に設けられている撮像装置30を用いて施工対象OBPを撮像するとき、他の油圧ショベル1otの少なくとも一部が撮像装置30によって撮像される画像データに映り込んでしまう可能性がある。撮像装置30によって撮像された画像データにおいて、映り込んだ他の油圧ショベル1otはノイズ成分であるため、施工対象の良好な3次元データを取得することが困難となる。
【0116】
本実施形態において、位置データ取得部103は、他の油圧ショベル1otの位置データを取得する。3次元データ算出部102は、画像データ取得部101で取得された画像データ及び位置データ取得部103で取得された他の油圧ショベル1otの位置データに基づいて、他の油圧ショベル1otの少なくとも一部が除去された3次元データである対象データを算出する。
【0117】
油圧ショベル1と同様、他の油圧ショベル1otは、GPSアンテナ21と、車両の位置を検出する位置検出器23とを有する。他の油圧ショベル1otは、位置検出器23で検出された他の油圧ショベル1otの位置データを、通信回線NTWを介してサーバ61に逐次送信する。
【0118】
サーバ61は、他の油圧ショベル1otの位置データを、油圧ショベル1の検出処理装置51の位置データ取得部103に送信する。油圧ショベル1の検出処理装置51の3次元データ算出部102は、他の油圧ショベル1otの位置データに基づいて、画像データ取得部101で取得された画像データにおける他の油圧ショベル1ot2の位置を特定して、他の油圧ショベル1otの少なくとも一部が除去された3次元データである対象データを算出する。
【0119】
本実施形態において、3次元データ算出部102は、他の油圧ショベル1otの位置データに基づいて、画像データ取得部101で取得された画像データにおける他の油圧ショベル1otの範囲を特定する。3次元データ算出部102は、例えば他の油圧ショベル1otの位置データを中心とする所定距離(例えばXg軸方向、Yg軸方向、及びZg軸方向にそれぞれ±5m、又は半径5[m]の球体)の範囲を、画像データにおける他の油圧ショベル1otの範囲としてもよい。3次元データ算出部102は、画像データ取得部10で取得された画像データと、他の油圧ショベル1otの位置データと、既知データである他の油圧ショベル1otの外形データ及び寸法データの少なくとも一方とに基づいて、画像データにおける他の油圧ショベル1otの範囲を特定してもよい。他の油圧ショベル1otの外形データ及び寸法データは、サーバ61に保有され、サーバ61から油圧ショベル1に送信されてもよいし、記憶部109に記憶されていてもよい。
【0120】
なお、本実施形態においても、2次元の右画像データ及び左画像データから他の油圧ショベル1otを含む部分データが除去されてもよいし、右画像データ及び左画像データに基づいて他の油圧ショベル1otを含む3次元データが算出された後、その3次元データから他の油圧ショベル1otを含む部分データが除去されてもよい。
【0121】
以上説明したように、本実施形態によれば、他の油圧ショベル1otが映り込んでも、ノイズ成分である他の油圧ショベル1otを含む部分データが除去されるため、3次元データ算出部102は、周辺データに基づいて、施工対象の良好な3次元データを算出することができる。
【0122】
なお、上述の実施形態において、車体座標系における作業機位置データが算出され、3次元処理においては作業機位置データをカメラ座標系に座標変換し、カメラ座標系において部分データを除去することとした。部分データの除去は、車体座標系において実施されてもよいし、グローバル座標系において実施されてもよい。任意の座標系において部分データを除去して座標変換を適宜実施してもよい。
【0123】
なお、上述の本実施形態においては、油圧ショベル1に撮像装置30が4つ設けられる例について説明した。撮像装置30は、油圧ショベル1に少なくとも2つ設けられていればよい。
【0124】
なお、上述の実施形態において、サーバ61が検出処理装置51の一部又は全部の機能を有してもよい。すなわち、サーバ61が、画像データ取得部101、3次元データ算出部102、位置データ取得部103、姿勢データ取得部104、方位データ取得部105、作業機角度データ取得部106、作業機位置データ算出部107、表示制御部108、記憶部109、及び入出力部110の少なくとも一つを有してもよい。例えば、油圧ショベル1の撮像装置30で撮像された画像データ、作業機角度検出器22で検出された作業機2の角度データ、位置検出器23で検出された旋回体3の位置データ、姿勢検出器24で検出された旋回体3の姿勢データ、及び方位検出器25で検出された旋回体3の方位データが、通信装置26及び通信回線NTWを介して、サーバ61に供給されてもよい。サーバ61の3次元データ算出部102は、画像データ及び作業機位置データに基づいて、作業機1の少なくとも一部が除去された3次元データである対象データを算出することができる。
【0125】
サーバ61には、油圧ショベル1及び複数の他の油圧ショベル1otから、画像データ及び作業機位置データの両方が供給される。サーバ61は、油圧ショベル1及び複数の他の油圧ショベル1otから供給された画像データ及び作業機位置データに基づいて、広範囲に亘って施工対象OBPの3次元データを収集することができる。
【0126】
なお、上述の実施形態においては、右画像データ及び左画像データのそれぞれから作業機2を含む部分データが除去されることとした。右画像データ及び左画像データのいずれか一方から作業機2を含む部分データが除去されてもよい。右画像データ及び左画像データのいずれか一方から作業機2を含む部分データが除去された場合、3次元データを算出する際に作業機2の部分データは算出されない。
【0127】
なお、上述の実施形態においては、油圧ショベル1の前方の施工対象を計測する計測装置が撮像装置30であることとした。油圧ショベル1の前方の施工対象を計測する計測装置が3次元レーザスキャナでもよい。その場合、3次元レーザスキャナにより計測された3次元形状データが計測データに該当する。
【0128】
なお、上述の実施形態においては、作業機械1が油圧ショベルであることとした。作業機械1は、施工対象を施工可能な作業機械であればよく、施工対象を掘削可能な掘削機械及び土砂を運搬可能な運搬機械でもよい。作業機械1は、例えばホイールローダでもよいし、ブルドーザでもよいし、ダンプトラックでもよい。