(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0012】
以下,本発明の実施の形態について図面を用いて説明する。なお,以下では本発明が適用される作業機械として,作業機(フロント作業機)の先端のアタッチメントとしてバケット4を備える油圧ショベルを例示するが,バケット以外のアタッチメントを備える油圧ショベルで本発明を適用しても構わない。また,油圧ショベル以外の作業機械であっても,例えばホイールローダのように作業機を有する作業機械であれば本発明は適用可能である。さらに,以下の説明では,作業機1Aに含まれる複数のフロント部材(具体的には,ブーム2,アーム3及びバケット4)のうち,測定コントローラ20による形状(作業機1A上の任意の点の作業機座標系Co3(後述)における位置)の計測を希望する1以上のフロント部材を作業機と呼ぶことがある。
【0013】
<第1実施形態>
第1実施形態では,油圧ショベル(作業機械)1に搭載された作業機1Aを撮影する撮影装置(例えばカメラ)19と,撮像装置19により作業機1Aの側面を撮影した画像(以下では「作業機側面画像」と称することがある)を利用して,作業機1Aの形状に関する情報を計測する測定コントローラ20と,油圧ショベル1に搭載され,測定コントローラ20で演算された作業機1Aの形状に関する情報を入力して油圧ショベル1で実行される例えばMGやMCに利用する作業機械コントローラ50とを備えるシステムについて説明する。
【0014】
図1は本発明の実施形態に係る油圧ショベル1と撮影装置19及び測定コントローラ20の構成図である。また
図2は本実施形態のシステムの構成図である。本実施形態のシステムは,
図2に示すように,作業機械コントローラ50を搭載した油圧ショベル1と,油圧ショベル1から離れた位置に設置されている撮影装置19及び測定コントローラ20とからなる。撮影装置19は作業機1Aの側面の写真(画像)を撮影するカメラである。測定コントローラ20は,作業機1Aの側面を表す平面の位置を算出し,その平面の位置と撮像装置19が撮影した画像とに基づいて作業機1Aの側面上の任意の点の作業機座標系Co3における座標値と作業機1Aの描画画像を生成する。油圧ショベル1に搭載された作業機械コントローラ50はマシンガイダンス(MG)機能やマシンコントロール(MC)機能を提供するが,そのMG・MCのための作業機1Aの形状情報や描画情報として,測定コントローラ20が出力する作業機1Aの側面上の任意の点の作業機座標系Co3における座標値と作業機1Aの描画画像を利用する。
【0015】
測定コントローラ20及び作業機械コントローラ50は,それぞれ,処理装置(例えばCPU)と,その処理装置が実行するプログラムが格納された記憶装置(例えばROM,RAM等の半導体メモリ)を有する制御装置である。本実施形態のコントローラ20,50は,それぞれ,外部装置(例えば,撮影装置19,目標面データ入力装置37(
図9参照),各種センサ12,13,14,16,17,操作レバー10,11)からの情報や信号を受信して,作業機1Aの座標値と描画画像の生成に必要な各種演算や,油圧ショベル1の運転室内に設置された表示モニタ(表示装置)18への表示や油圧ショベル1の動作に関する各種演算を行っている。この測定コントローラ20及び作業機械コントローラ50が実行する演算の具体的内容については
図4,
図9の機能ブロック図を利用して後述する。
【0016】
図1に示すように,油圧ショベル1は,垂直方向にそれぞれ回動する複数のフロント部材(ブーム2,アーム3及びバケット4)を連結して構成された多関節型の作業機(フロント作業機)1Aと,上部旋回体1BA及び下部走行体1BBからなる車体1Bとで構成され,作業機1Aの基端側に位置するブーム2の基端は上部旋回体1BAの前部に上下方向に回動可能に支持されている。上部旋回体1BAは下部走行体1BBの上部に旋回可能に取り付けられている。また作業機1Aの側方には,作業機1A側面の写真を撮影するための内部パラメータ(例えば,焦点距離(f),イメージセンサーサイズ(縦h,横w),画素数(縦H,横W),ユニットセルサイズ,画像中心座標等)が明らかな撮影装置19と,測定コントローラ20とが設置されている。
【0017】
撮影装置19は,CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子(イメージセンサ)を備えた単眼カメラである。撮影装置19は撮影した画像データを測定コントローラ20に出力する。また撮影装置19は画像情報の他に,ステレオカメラのような視差を利用した深度情報(被写体までの距離情報)や,レーザー光等を発射してその反射光を到達時間を計測する等して深度情報が取得可能なカメラに代替してもよい。なお,測定コントローラ20は撮影装置19に内蔵されていてもよい。
【0018】
ブーム2,アーム3,バケット4,上部旋回体1BA及び下部走行体1BBは,それぞれ,ブームシリンダ5,アームシリンダ6,バケットシリンダ7,旋回油圧モータ8及び左右の走行油圧モータ9a,9b(油圧アクチュエータ)により駆動される被駆動部材を構成する。それら複数の被駆動部材の動作は,上部旋回体1BA上の運転室内に設置された走行右レバー10a,走行左レバー10b,操作右レバー11a及び操作左レバー11b(これらを操作レバー10,11と総称することがある)がオペレータにより操作されることにより発生するパイロット圧によって制御される。上記の複数の被駆動部材を駆動するパイロット圧には,操作レバー10,11の操作によって出力されるものだけでなく,油圧ショベル1に搭載された複数の比例電磁弁39(
図9参照)の一部(増圧弁)が操作レバー10,11の操作とは無関係に動作して出力するものや,複数の比例電磁弁39の一部(減圧弁)が動作して操作レバー10,11の操作によって出力されたパイロット圧を減圧したものが含まれる。このように複数の比例電磁弁39(増圧弁及び減圧弁)から出力されたパイロット圧は,予め定められた条件に従ってブームシリンダ5,アームシリンダ6及びバケットシリンダ7を動作させるMCを発動させる。
【0019】
作業機1Aには,ブーム2,アーム3,バケット4の回動角度α,β,γ(
図3参照)を測定可能なように,ブームピンにブーム角度センサ12が,アームピンにアーム角度センサ13が,バケットリンク15にバケット角度センサ14が取付けられている。上部旋回体1BAには,基準面(例えば水平面)に対する上部旋回体1BA(車体1B)の前後方向の傾斜角θ(
図3参照)を検出する車体前後傾斜角センサ16aと,上部旋回体1BA(車体1B)の左右方向の傾斜角φ(図示せず)を検出する車体左右傾斜角センサ16bとが取付けられている。なお,
図3中に記されているX軸及びZ軸は,ブームピンの軸心上の点(例えば中央点)を原点とし,車体上方方向をZ軸,車体前方方向をX軸,車体右方向をY軸とする車体座標系Co4を表したものである。
【0020】
上部旋回体1BAには第1GNSSアンテナ17aと第2GNSSアンテナ17bが配置されている。第1GNSSアンテナ17a及び第2GNSSアンテナ17bはRTK−GNSS(Real Time Kinematic − Global Navigation Satellite Systems)用のアンテナであり,複数のGNSS衛星から発信された電波(航法信号)を受信する。作業機械コントローラ50は,複数のGNSS衛星から発信された電波が第1及び第2GNSSアンテナ17a,17bに到達するまでに要した時間に基づいてそれぞれのアンテナ位置の緯度,経度及び高さ(楕円体高)を測定可能である。これにより3次元座標系である地理座標系(世界座標系)Co5における油圧ショベル1(上部旋回体1BA)の位置と向きを演算することができる。なお,第1及び第2GNSSアンテナ17a,17bの位置及び高さを専用の受信機で演算し,演算結果を作業機械コントローラ50に出力する構成を採用しても良い。
【0021】
油圧ショベル1の運転室内の表示モニタ18の画面上には,各種姿勢センサ12,13,14,16の出力から演算された作業機1Aの姿勢情報や,GNSSアンテナ17a,17bの受信信号から演算された上部旋回体1BAの位置情報等を基に作業機1Aを側面視した画像及び目標面の断面形状が表示される。作業機1Aを側面視した画像は撮影装置19が撮影した作業機側面画像に基づいて測定コントローラ20で生成される。次に測定コントローラ20が撮像装置19の作業機側面画像をもとに作業機1Aの作業機座標系Co3上の座標値と描画画像を生成する処理について図面を用いて説明する。
【0022】
(測定コントローラの構成)
図4は本発明の実施形態に係る測定コントローラ20の機能ブロック図である。この図に示すように,測定コントローラ20は,作業機座標系Co3での作業機1Aの座標値を演算する作業機座標系座標演算部21と,作業機座標系Co3での作業機1Aの描画画像を生成する作業機座標系描画画像生成部22とを備えており,撮影装置19で撮影された作業機1Aの側面写真の入力を受けている。
【0023】
作業機座標系座標演算部21は,撮影装置19に設定された3次元座標系である撮影装置座標系Co1において作業機1Aの側面を表す平面の位置を算出する撮影位置演算部23と,撮影装置19が撮影した作業機側面画像上で作業機1Aを構成する画素(以下では「作業機構成画素」と称することがある)に含まれる任意の画素に対応する作業機1A上の点(以下では「作業機対応点」と称することがある)の撮影装置座標系Co1における座標値を算出する撮影装置座標系座標変換部24と,撮影装置座標系Co1における作業機対応点の座標値を作業機座標系Co3における座標値に変換する作業機座標系座標変換部25とを備えている。作業機座標系座標演算部21は,撮影装置19により撮影された作業機1Aの側面画像(作業機側面画像)を入力とし,その作業機側面画像上で指定された作業機構成画素の作業機対応点の作業機座標系Co3における座標値を出力する。
【0024】
なお,撮影装置19で撮影した作業機側面画像の入力に際して,その作業機側面画像に対して撮影装置19の内部パラメータをもとに歪み補正を施す処理を測定コントローラ20で実行してもよい。また,本実施形態では,作業機側面画像において,作業機側面部とその他の部分(背景)の境界線である輪郭線上のすべての画素の作業機対応点について作業機座標系Co3における座標値(作業機座標系座標値)を出力する場合について記述するが,作業機側面画像上の作業機側面部の全ての画素(すなわち作業機側面部の輪郭線内の全ての画素)の作業機対応点の作業機座標系座標値を出力したり,ユーザーが何らかの入力インターフェースを介して指定した作業機側面部上の画素の作業機対応点の作業機座標系座標値を出力したりする等,任意の方法を採用しても良い。
【0025】
撮影位置演算部23は,撮影装置19により作業機1Aの側面を撮影した画像(作業機側面画像)と撮影装置19の内部パラメータとに基づいて,撮影装置19に設定された3次元座標系である撮影装置座標系Co1における作業機1Aの側面を表す平面S1(後述
図8参照)の位置を算出する。本実施形態では撮影装置座標系Co1における平面S1の位置を撮影装置座標系Co1における平面S1の方程式で特定している。
【0026】
本実施形態では,撮影位置演算部23による作業機1Aを表す平面S1の方程式の算出に際して,撮影装置19で撮影される作業機1Aの側面上に互いの距離が既知なマーカー(既知点マーカー)40を,
図5に示すように三角形をなすような位置に3つ設置する方法を採用している。本実施形態では,この3つのマーカー40の作業機側面画像における画素位置から当該3つの既知点マーカー40の撮影装置座標系Co1における位置(座標)を演算し,その3点の位置から平面S1の方程式を演算している。なお,油圧ショベルを含む作業機械の分野では,表示モニタ18に表示される作業機1Aの画像は側面画像となることが一般的であるため,平面S1が作業機1Aの動作平面(例えばブームピンに直交する面)と平行になるように,当該動作平面と平行な面上に3つのマーカーを配置することが好ましいが,動作平面と交差する面(即ち動作平面と平行でない面)の上に3つのマーカーを配置しても構わない。既知点マーカー40で平面が定義できれば良いので,既知点マーカー40を4つ以上作業機1Aの側面に取り付けて全てのマーカー40が位置する平面S1の方程式を求めても良い。
【0027】
マーカー40は,所定の大きさ,色,模様,形状,性質などの特徴を有する物体であり,例えば特定の波長の光を反射するマーカーや特定の方向に光を反射するマーカー,AR(Augmented Reality)技術で用いられるARマーカーや,QRコード(登録商標)のような二次元コードを含むマーカーを利用してもよい。
【0028】
図5に本実施形態における既知点マーカー40の具体的な例を示す。本実施形態においてはバケット4の側面上に3つの既知点マーカー40が同一直線上に位置しないように設置されおり,3つの既知点マーカー40の座標値を求めて平面を算出している。なお,3つのマーカー40の配置位置に関して,作業機側面上に3本の直線を描き,その3本の直線が交差する3つの交点に3つのマーカー40を配置するようにしても良い。
【0029】
図6は,撮影装置座標系Co1において撮影装置19の撮影装置と作業機側面上の既知点マーカー40(P1,P2,P3)の位置関係を表した図である。撮影装置座標系Co1は,撮影装置19のレンズ中心を原点Oとし,光軸の方向をZ軸,撮影装置19の上方をY軸,右方をX軸とする座標系である。また,撮影装置座標系Co1における座標値の単位は,例えばミリメートルのような,長さの単位である。点P1〜P3は既知点マーカー40の位置であり,点P1〜P3と同様の作業機側面上の任意の点をQとする。Lij(i,j=1〜3,i≠j)は点Piと点Pj間の距離(2つの既知点マーカー40の距離)である。ここで,Lijは既知な値である。また,撮影装置19のイメージセンサ35は,撮影装置19の焦点距離がfのとき,Z=−fの平面上に存在する。
【0030】
図7は撮影装置19のイメージセンサ35上に映った点P1〜3および点Qの像を表しており,点P1’〜P3’,Q’はそれぞれ点P1〜P3,Qの像の位置である。ここで,光軸中心を原点O’,センサの右方向をU軸,上方向をV軸とする2次元座標系をイメージセンサ座標系Co2とする。点P1’〜P3’が画素(Uk,Vk)(k=1〜3,Uk,Vkの単位はピクセル)に映っていたとき,イメージセンサのサイズが縦h,横wで画素数が縦Hピクセル,横Wピクセルならば,点P1’〜P3’の撮影装置座標系Co1における座標は下記式(1)のように表せる。
【0032】
このとき,撮影装置19のレンズ中心である点Oと点Pk,Pk’(k=1〜3)は
図6に示すように同一直線状に位置していることから下記式(2)のように表せる。
【0034】
なお,r
k(k=1〜3)は比例定数であり,この段階では未知数である。このr
kを用いて点Pk(k=1〜3)の撮影装置座標系Co1における座標を表すと下記式(3)となる。
【0036】
このとき既知点マーカー40間の距離L
ij(i,j=1〜3,i≠j)は下記式(4)のように表せる。
【0038】
3つの既知点マーカー40間の距離Lij(i,j=1〜3,i≠j)は既知であるから,L
12,L
23,L
31の値から3つの連立方程式が導出できる。この連立方程式を解くことでr
k(k=1〜3)を求めることができ,上記式(3)から撮影装置座標系Co1における点Pk(k=1〜3)の座標(すなわち3つの既知点マーカー40の座標)が求まる。
【0039】
i,j,kを1〜3のそれぞれ異なる数とし,cを0以外の定数とすると,作業機1Aの側面を表す平面S1(
図8参照)の法線ベクトルn(
図8参照)は下記式(5)のように表せる。
【0041】
そして,点Pk(k=1〜3)の撮影装置座標系Co1における座標から,下記のように作業機1Aの側面を表す平面S1上の任意の点Qに関する方程式が求まる。
【0043】
次に,撮影装置座標系座標変換部24は,作業機側面画像上での任意の作業機構成画素の位置情報と,撮影位置演算部23で算出した方程式とに基づいて,当該任意の作業機構成画素の作業機対応点の撮影装置座標系Co1における座標値を算出する。具体的には,撮影装置座標系座標変換部24は,撮影装置19により撮影された作業機側面画像から作業機1Aの輪郭線を画像処理により抽出し,その抽出した輪郭線上に位置する任意の画素(作業機構成画素)について,画素位置情報と点Qに関する方程式(平面S1の方程式)とに基づいて作業機対応点の撮影装置座標系Co1における座標値を求める。
【0044】
ここで,作業機側面上の点が画素位置(U,V)に結像した点(すなわち作業機構成画素)に対応する作業機1A上の点(作業機対応点)の撮影装置座標系Co1における座標を求める方法は以下のとおりである。ここで,作業機側面の平面S1上の任意の点Q(作業機対応点)がイメージセンサ上に結像した点(作業機構成画素)を点Q’とする。点Q’の画素位置が(U,V)のとき上記式(1)と同様にして,点Q’は以下の式(7)のように表せる。
【0046】
点Q’,原点O及び点Qは同一直線上にあるため,直線OQは上記式(7)を用いて下記式(8)のように表せる。
【0048】
よって,撮影装置座標系Co1における点Q(作業機対応点)の位置(座標)は,作業機1Aの側面を表す平面S1の方程式(上記式(6))と,イメージセンサ上の点Q’と原点Oを通る直線の方程式(上記式(8))との交点より求まる。
【0049】
作業機座標系座標変換部25は,撮影装置座標系Co1における作業機対応点の座標値(点Qの位置)を作業機座標系Co3における座標値に変換し,変換後の座標値(以下において「作業機座標系座標値」と称することがある)を作業機械コントローラ50と作業機座標系描画画像生成部22に出力する。ここで,作業機座標系Co3は,撮影位置演算部23で方程式を求めた作業機1Aの側面を表す平面S1上に定められた2次元の座標系であり,作業機座標系Co3における座標値の単位は,例えばミリメートルのような,長さの単位である。作業機座標系Co3は,作業機1Aの回動中心を原点とし,作業機先端方向をx軸,x軸と直交する方向にy軸とする。
【0050】
図8に本実施形態における作業機1Aの側面を表す平面S1と,作業機座標系Co3と,撮影装置座標系Co1の関係図を示す。
図8では,多関節型の作業機1Aを構成する複数のフロント部材2,3,4のうちバケット4を対象としており,バケット4の回動中心を作業機座標系Co3の原点とし,その原点からバケット爪先に向かう直線を作業機座標系Co3のx軸とし,そのx軸に直交する方向に作業機座標系Co3のy軸を設定している。なお,ブーム2やアーム3上の点に作業機座標系Co3を設定する場合には,それぞれの基端側の回動中心を原点とし,アーム3やバケット4の回動中心(各フロント部材の先端部)に向かってx軸を設定すれば良い。
【0051】
なお,作業機座標系Co3の設定(原点の位置やx軸,y軸の方向)が作業機械コントローラ50側で未登録の場合には,座標値だけでなく作業機座標系Co3の設定も作業機械コントローラ50に出力するものとする。
【0052】
次に,作業機座標系描画画像生成部22で行われる処理について説明する。本実施形態においては,作業機座標系座標演算部21が作業機1Aの輪郭線上のすべての画素の作業機対応点について作業機座標系座標を演算して,作業機座標系描画画像生成部22に出力する場合を例示して記述するが,輪郭線上の一部の画素の作業機対応点について作業機座標系Co3の座標を演算・出力しても良い。また,輪郭線上の画素と当該輪郭線内に含まれる1以上の画素や,輪郭線上の画素と当該輪郭線内に含まれる全ての画素や,ユーザーが何らかの入力インターフェースを使用して全ての作業機構成画素の中から任意に指定した1以上の画素の作業機対応点の座標値を演算・出力する場合も同様である。ただし,MCでの作業機1Aの制御の正確性やMGでの作業機1Aと目標面との距離の正確性は,作業機座標系座標演算部21で演算された座標値のみで担保できるため,例えば表示モニタ18に表示される作業機1Aの形状に正確性を求めない場合には作業機座標系描画画像生成部22の省略は可能である。
【0053】
作業機座標系描画画像生成部22は,作業機座標系座標変換部24で変換された作業機座標系Co3における作業機対応点の座標値をもとに作業機座標系Co3における作業機1Aの描画画像(以下において「作業機座標系描画画像」と称することがある。これには例えばバケット4を側面視した画像が含まれる)を生成し,その描画画像を作業機械コントローラ50に出力する。作業機1Aの描画画像の具体的な生成方法としては,例えば,作業機座標系座標演算部21で出力された作業機座標系Co3における作業機1Aの輪郭線上の点によって囲まれた領域を,作業機1Aの色として予め定められた色で塗りつぶす処理を実行する方法がある。また,作業機1Aの描画画像の生成に関し,作業機1Aの輪郭線の内部領域を特定の色で塗りつぶす方法の他に,作業機側面画像上で対応する画素をコピー・ペーストする方法を利用しても良い。このように描画画像を作成すると作業機側面画像上に写った画像(すなわち実物の画像)と同じ画像を表示モニタ18上に表示させることができるので,オペレータによる違和感の発生を至極容易に抑制できる。また,あらかじめ用意した画像等を輪郭に合わせて変形させる方法などを利用してもよい。
【0054】
(作業機の外形形状測定システムの作用と効果)
(1)以上のような撮影装置19及び測定コントローラ20で構成された測定システムによれば,作業機1A(例えばバケット4)の外形情報を取得するに際して,ユーザーは作業機1Aの側面に3つ以上の既知点マーカー40を取り付け,その画像(作業機側面画像)を撮影装置19で撮影する操作のみを行えば良い。作業機側面画像の撮影後は,測定コントローラ20が,複数の既知点マーカー40によって定義される平面S1の方程式を作業機側面画像と撮像装置18の内部パラメータに基づいて演算し(撮影位置演算部23による処理),作業機側面画像上で作業機1Aの輪郭線上に位置する全ての画素(作業機構成画素)の位置情報と平面S1の方程式とに基づいて当該全ての画素の作業機対応点の撮影装置座標系Co1における座標値を算出し(撮影装置座標系座標変換部24による処理),その座標値を作業機座標系Co3の座標値に変換して作業機械コントローラ50に出力する(作業機座標系座標変換部25による処理)。これにより作業機側面画像における作業機1Aの輪郭線上に位置する全ての画素の作業機対応点の位置情報を容易に取得することができるので,作業機械1Aの正確な外形情報を従来に比して簡単に測定できる。その結果,作業機1Aの実際の形状に即したMCやMGが実行されることになり,その正確度が向上するので作業効率の向上が見込める。
【0055】
(2)また,本実施形態の測定コントローラ20(撮影装置座標系座標変換部24)は,作業機側面画像における作業機1Aの輪郭線を画像処理により抽出し,その作業機側面画像における当該輪郭線上の任意の画素(例えば輪郭線上の全ての画素)の位置情報と平面S1の方程式とに基づいて当該任意の画素の作業機対応点の撮影装置座標系Co1における座標値を算出している。これにより作業機1Aを側面視したときの外形(輪郭)の位置情報を測定コントローラ20にて自動的に取得できる。
【0056】
(3)また,本実施形態の測定コントローラ20(作業機座標系描画画像生成部22)は,作業機座標系座標変換部25で変換された作業機座標系Co3における作業機対応点の座標値をもとに作業機座標系Co3における作業機1Aの描画画像を生成することができる。これにより表示モニタ18に表示される作業機1Aの描画画像の外形が実物に近づくため,作業機1Aの画像が実物と異なってオペレータに違和感を与えることを防止できる。
【0057】
(4)また,測定コントローラ20にて,作業機側面画像上で作業機1Aを構成するすべての画素の作業機対応点について撮影装置座標系Co1における座標値を算出し(撮影装置座標系座標変換部24),その各座標値に対応する画素と同じ画素を配置する(マッピングする)ことで作業機1Aの描画画像を生成すれば(作業機座標系描画画像生成部22),表示モニタ18に表示される作業機1Aの描画画像の見た目をさらに実物に近づけることができる。
【0058】
なお,上記の実施形態では,3つの既知点マーカー40が取り付けられた作業機1Aの側面画像を基に撮影装置座標系Co1における平面S1の位置を特定したが,平面S1の位置特定の手法はこれに限られない。例えば,(1)撮影装置19との位置関係が既知のプロジェクターなどの投影装置から作業機1Aの側面に3つ以上のマーカー40を投影してそのマーカー40を撮影装置19で作業機側面画像を撮影し,その作業機側面画像上におけるマーカー40の画素位置から平面S1の方程式を算出する方法や,(2)互いの位置関係が既知の複数の撮影装置(例えばステレオカメラ)で作業機1Aの側面をそれぞれ撮影し,その複数の撮影装置間の距離をもとに2枚の作業機側面画像上の任意の3点の距離(位置)を算出することで平面S1の方程式を算出する方法や,(3)撮影装置19との位置関係が既知であって,作業機1Aの側面上の任意の点と撮影装置19との距離を計測可能な測距装置(例えば,レーザー式,LED式,超音波式の距離センサ)によって,作業機1Aの側面上の任意の3点以上の距離情報を取得することで平面S1の方程式を算出する方法などを用いてもよい。なお,平面S1の特定は,上記のように平面S1上の3点以上の位置から特定する方法に限らない。例えば,平面S1の傾き(例えば法線ベクトル)が分かれば平面S1上の1点の位置だけで平面S1を特定できる。
【0059】
(油圧ショベルのシステム構成)
次に測定コントローラ20から出力された作業機1Aの座標値と描画画像の作業機械コントローラ50での利用について説明する。
【0060】
図9は
図1の油圧ショベル1のシステム構成図である。本実施形態の油圧ショベル1は,エンジン47と,エンジン47の出力軸に機械的に連結されエンジン47によって駆動される油圧ポンプ46及びパイロットポンプ(図示せず)と,パイロットポンプから吐出される圧油を操作量に応じて減圧したものを,各油圧アクチュエータ5−9の制御信号として比例電磁弁39を介してコントロールバルブ45に出力する操作レバー10,11と,油圧ポンプ46から各油圧アクチュエータ5−9に導入される作動油の流量及び方向を,操作レバー10,11又は比例電磁弁39から出力される制御信号(パイロット圧)に基づいて制御する複数のコントロールバルブ45と,各コントロールバルブ45に作用するパイロット圧の圧力値を検出する複数の圧力センサ48と,作業機1Aの位置・姿勢及びその他の車体情報に基づいて補正目標パイロット圧を算出し,その補正目標パイロット圧が発生可能な指令電圧を比例電磁弁27に出力する作業機械コントローラ50と,作業機1Aで形成する目標面の情報を作業機械コントローラ50に入力するための目標面データ入力装置37を備えている。
【0061】
油圧ポンプ46は,各油圧アクチュエータ5−8の目標出力の通りに車体が動作するよう,機械的にトルク・流量が制御されている。
【0062】
コントロールバルブ45は,制御対象の油圧アクチュエータ5−8と同数存在するが,
図9ではそれらをまとめて1つで示している。各コントロールバルブには,その内部のスプールを軸方向の一方又は他方に移動させる2つのパイロット圧が作用している。例えば,ブームシリンダ5用のコントロールバルブ45には,ブーム上げのパイロット圧と,ブーム下げのパイロット圧が作用する。
【0063】
圧力センサ48は,各コントロールバルブ45に作用するパイロット圧を検出するもので,コントロールバルブの2倍の数が存在し得る。圧力センサ48は,コントロールバルブ45の直下に設けられており,実際にコントロールバルブ45に作用するパイロット圧を検出している。
【0064】
比例電磁弁39は複数存在するが,
図9中ではまとめて1つのブロックで示している。比例電磁弁39は2種類ある。1つは,操作レバー10,11から入力されるパイロット圧をそのまま出力又は指令電圧で指定される所望の補正目標パイロット圧まで減圧して出力する減圧弁で,もう1つは,操作レバー10,11の出力するパイロット圧より大きなパイロット圧が必要な場合にパイロットポンプから入力されるパイロット圧を指令電圧で指定される所望の補正目標パイロット圧まで減圧して出力する増圧弁である。或るコントロールバルブ45に対するパイロット圧に関して,操作レバー10,11から出力されているパイロット圧より大きなパイロット圧が必要な場合には増圧弁を介してパイロット圧を生成し,操作レバー10,11から出力されているパイロット圧より小さなパイロット圧が必要な場合には減圧弁を介してパイロット圧を生成し,操作レバー10,11からパイロット圧が出力されていない場合には増圧弁を介してパイロット圧を生成する。つまり,減圧弁と増圧弁により,操作レバー10,11から入力されるパイロット圧(オペレータ操作に基づくパイロット圧)と異なる圧力値のパイロット圧をコントロールバルブ45に作用させることができ,そのコントロールバルブ45の制御対象の油圧アクチュエータに所望の動作をさせることができる。
【0065】
1つのコントロールバルブ45につき,減圧弁と増圧弁はそれぞれ最大で2つ存在し得る。例えば本実施形態では,ブームシリンダ5のコントロールバルブ45用に2つの減圧弁と2つの増圧弁が設けられている。具体的には,ブーム上げのパイロット圧を操作レバー11からコントロールバルブ45に導く第1管路に設けられた第1減圧弁と,ブーム上げのパイロット圧をパイロットポンプから操作レバー11を迂回してコントロールバルブ45に導く第2管路に設けられた第1増圧弁と,ブーム下げのパイロット圧を操作レバー11からコントロールバルブ45に導く第3管路に設けられた第2減圧弁と,ブーム下げのパイロット圧をパイロットポンプから操作レバー11を迂回してコントロールバルブ45に導く第4管路に設けられた第2増圧弁を油圧ショベル1は備えている。
【0066】
本実施形態では,走行油圧モータ9a,9bと旋回油圧モータ8のコントロールバルブ45用の比例電磁39は存在しない。したがって,走行油圧モータ9a,9bと旋回油圧モータ8は,操作レバー10,11から出力されるパイロット圧に基づいて駆動される。
【0067】
(作業機械コントローラの構成)
作業機械コントローラ50は,位置姿勢検出部26と,情報処理部30と,表示制御部33と,作業機制御部35を備えている。
【0068】
位置姿勢検出部26は,作業機姿勢検出部27と,車体位置検出部28と,車体角度検出部29とを備え,各種センサ情報を入力とし,作業機1Aの姿勢情報,車体位置情報,車体角度情報を出力する。
【0069】
作業機姿勢検出部27は,作業機1Aに取り付けられた姿勢センサ12,13,14の出力に基づいて車体座標系Co4における作業機1Aの姿勢を検出する。より具体的には,ブーム角度センサ12,アーム角度センサ13,バケット角度センサ14による情報をもとにブーム2,アーム3,バケット4の回動角度α,β,γ(
図3参照)といった作業機1Aの姿勢情報を検出する。
【0070】
車体位置検出部28は,第1GNSSアンテナ17aにより得られる情報をもとに車体位置情報を検出する。
【0071】
車体角度検出部29は,車体前後傾斜角センサ16aにより傾斜角θ(
図3参照)を,車体左右傾斜角センサ16bにより左右方向の傾斜角φ(図示せず)を,第1GNSSアンテナ17aと第2GNSSアンテナ17bの位置情報から車体の方位角を検出し車体角度情報を得る。なお,本実施形態においては第1GNSSアンテナ17aの情報をもとに車体位置情報を得ることとしたが,第2GNSSアンテナ17bの位置情報を用いてもよいし,トータルステーション等の3次元測量機を使用してもよい。また,本実施形態においては第1GNSSアンテナ17aと第2GNSSアンテナ17bの位置情報から車体の方位角情報を検出することとしたが,電子コンパスを用いる方法や旋回角度センサを用いる方法でもよい。
【0072】
情報処理部30は,車体座標変換部31と,目標面演算部32とを備える。情報処理部30の入力データとしては,測定コントローラ20より出力される作業機座標系座標値及び作業機座標系描画画像と,目標面データ入力装置37により入力される目標面データと,位置姿勢検出部26により出力される作業機の姿勢情報,車体位置情報,及び車体角度情報とがある。また,情報処理部30の出力データとしては,位置姿勢検出部26から入力される作業機1Aの姿勢情報,車体位置情報および車体角度情報に加え,車体座標変換部31により求められる作業機1Aの車体座標系座標値情報及び車体座標系描画画像情報と,目標面演算部32により求められる車体座標系Co4での目標面情報とがある。
【0073】
車体座標変換部31は,測定コントローラ20(作業機座標系座標変換部25および作業機座標系描画画像生成部22)から出力される作業機座標系Co3における作業機対応点の座標値(車体座標系座標値情報)と作業機1Aの描画画像(車体座標系描画画像情報)を油圧ショベル1に設定された2次元座標系である車体座標系Co4における座標値に変換する。具体的には,測定コントローラ20より出力される作業機座標系座標値と作業機座標系描画画像を,
図10に示すように,位置姿勢検出部26の作業機姿勢検出部27より検出された作業機1Aの姿勢情報に基づいて実際の作業機1Aの位置や姿勢と一致するよう平行移動や回転を施し,車体座標系Co4のXZ平面に投影することで車体座標系Co4の座標値に変換する。なお,作業機座標系座標値と作業機座標系描画画像を車体座標系Co4の座標値に変換するための平行移動や回転の量は,ブーム2,アーム3,バケット4の回動角度α,β,γが既知な時に,任意の異なる2点について作業機座標系Co3の座標値と,例えばトータルステーション等の計測装置により測定された車体座標系Co4の座標値とを比較することで求めてもよい。
【0074】
目標面演算部32は,
図11に示すように,目標面データ入力装置37により入力される目標面データ(3次元データ)51と車体座標系Co4のXZ平面の交わる線分を演算し,その線分を目標面55として設定する。車体座標系Co4のXZ平面は,位置姿勢検出部26により出力される車体位置情報と,車体角度検出部29により出力される車体角度情報とをもとに求められる。本実施形態においては,目標面データ入力装置37で入力される目標面データ51は3次元データを想定しているが2次元データ,すなわち目標面を示す線分データでもよい。また,目標面データが2次元データの場合は,車体位置検出部28の車体位置情報や,車体角度検出部29の車体方位角情報を使用する必要はない。
【0075】
表示制御部33は,車体座標変換部31で座標変換された作業機座標系Co4における作業機1Aの描画画像と,車体座標変換部31で座標変換された作業機対応点の車体座標系Co4における座標値と,姿勢センサ12,13,14によって得られた車体座標系Co4における作業機1Aの姿勢とに基づいて,車体座標系Co4における作業機1Aの姿勢に合わせて作業機1Aの描画画像を表示モニタ18に表示する。表示制御部33は目標面情報演算部34を備え,表示制御部33の入力データとしては,情報処理部30より出力される作業機1Aの姿勢情報,車体位置情報および車体角度情報と,作業機1Aの車体座標系座標値情報及び車体座標系描画画像情報と,車体座標系XZ平面上の目標面情報とがある。また出力データとしては,これらの入力される情報に加え,作業機−目標面ベクトル情報を含む。出力情報は表示モニタ18に入力され,ユーザーに提示される。
【0076】
目標面情報演算部34について,作業機1Aと目標面55の位置関係の例を示した
図12を用いて説明する。まず,目標面情報演算部34は,作業機1Aの輪郭線上の任意の点(
図12中の点P)について,目標面55を構成する複数の平面(以下では「目標平面:と称することがある)のうち作業機1Aから一定距離内に存在する平面(
図12中の目標平面1及び目標平面2)における最近傍点(点P1及び点P2)を求める。次に,作業機輪郭線上の任意の点(点P)から目標平面上の最近傍点(点P1及び点P2)への作業機−目標面ベクトル(ベクトルPP1及びベクトルPP2)を求める。これらの演算を測定コントローラ20から入力された作業機輪郭線上のすべての点(即ちすべての作業機座標系座標値)について行って表示モニタ18への出力情報とする。本実施形態においては,出力情報を作業機1A上の点から目標面55の平面における最近傍点までのベクトル情報としたが,距離情報を出力してもよいし,作業機1A上の点から目標面55までの鉛直方向の距離などを出力してもよい。また,本実施形態では作業機1Aの輪郭線上のすべての点について演算を行うこととしたが,作業機1Aの先端の点や作業機1Aの背面の点,といった特定の点についてのみ演算を行ってもよい。
【0077】
表示モニタ18に表示される画面の例を
図13に示す。ガイダンス画面IMには,車体座標系描画画像情報をもとに描画される車体画像IM1と,車体座標系Co4のXZ平面上の目標面データをもとに描画される目標面画像IM2と,作業機−目標面ベクトル情報をもとに描画される作業機−目標面ベクトル画像IM3とが表示されている。ここで,作業機−目標面ベクトル画像IM3は,目標面情報演算部34で出力される作業機−目標面ベクトル情報のうち,各目標平面に対するベクトルの大きさが最小のものを描画したものである。なお,目標面55に対して作業機輪郭線上の点が潜り込んでいる場合のベクトルの大きさは負の値をとるものとする。なお,ガイダンス画面IMには本実施形態において例を挙げたもののほかに,目標面情報演算部34から出力される情報及びそれを加工した情報を表示してもよい。また,本実施形態ではマシンガイダンス機能として表示モニタ18に表示されるガイダンス画面IMについてのみ説明したが,このような視覚情報の他に音や振動等によって情報を提示してもよい。
【0078】
作業機制御部35は,情報処理部30から入力される予め定められた目標面55の位置情報と,車体座標変換部31で座標変換された作業機対応点の車体座標系Co4における座標値と,姿勢センサ12,13,14によって得られた車体座標系Co4における作業機1Aの姿勢とに基づいて,作業機対応点に対応する作業機1Aのコントロールポイントが目標面55の上方に保持されるように作業機1A(油圧シリンダ5,6,7)を制御する。作業機制御部35は目標動作演算部36を備え,作業機制御部35の入力データとしては,表示制御部33の出力,位置姿勢検出部26の作業機1Aの姿勢情報,操作レバー10,11からなる操作入力装置への操作入力があり,出力データとしては,比例電磁弁39の制御信号がある。
【0079】
目標動作演算部36は,上記の入力情報(作業機1Aの姿勢情報,操作レバー10,11の操作入力情報)をもとに作業機1Aの動く方向や速度を予測する。その際,例えば作業機1Aが目標面55に対して潜り込むことが予測された場合,作業機1Aが目標面55に潜り込まない動きとなるようパイロット圧を減圧または増圧する制御信号を電磁比例弁39に出力する。電磁比例弁39によって補正されたパイロット圧はコントロールバルブ45を駆動し,その動作に基づいて油圧シリンダ5,6,7が適宜駆動することで作業機1Aの目標面55への潜りこみが防止される。なお,本実施形態では,電磁比例弁39はパイロット圧を制御するが,電磁比例弁が直接アクチュエータの作動油圧を制御してもよい。
【0080】
本実施形態における作業機械コントローラ50(主に表示制御部33と作業機制御部35)では,測定コントローラ20において作業機1Aの側面画像をもとに演算された,実際の作業機1Aの形状によく一致する座標情報及び描画画像を用いてMGとMCが行われる。これにより,表示制御部33によって表示モニタ18に表示されるガイダンス情報(例えば,作業機−目標面ベクトル画像IM3や,作業機1Aから目標面55までの距離情報等)の正確度が向上し,また,表示モニタ18に表示される作業機1Aの描画画像にオペレータが違和感を持つことが抑制できる。さらに,作業機制御部35は,作業機1Aが曲線部や突起部等の多くのコントロールポイントを必要とする形状であっても正確なMCを行うことができる。
【0081】
<第2実施形態>
第2実施形態では,撮影装置19と測定コントローラ20を油圧ショベル1に搭載しており,作業機1Aの外形情報(作業機1Aの車体座標系座標値情報及び車体座標系描画画像情報)の計測をリアルタイムに行いながらマシンガイダンスやマシンコントロール機能を提供している点に特徴がある。なお,先の実施形態と同じ部分には同じ符号を付して説明を適宜省略することがある。
【0082】
図14に示すように本実施形態の撮影装置19は,支持装置(多関節アーム)60を介して上部旋回体1BAの前方に取り付けられている。
図14の支持装置60は,複数の水平アームを連結してなる水平多関節アームであり,各関節に埋め込まれたアクチュエータ(例えばモータ)19bを駆動することで車体座標系Co4における撮影装置19の向きや位置が変更可能になっている。また,支持装置60の各関節には各水平アームの回転角を検知する角度センサ(撮影装置センサ)19aが設けられており,角度センサ19aの検出値は
図15に示すように測定コントローラ20に出力されている。なお,本実施形態では支持装置60を水平多関節アームとしたが,垂直方向の移動が可能なアームの利用も可能であり,他の支持装置の利用も可能である。
【0083】
図15は本実施形態に係る油圧ショベル1のシステム構成図である。この図に示すように本実施形態の油圧ショベル1は,撮影装置19と,測定コントローラ20と,作業機械コントローラ50を備えている。
【0084】
本実施形態では,撮影装置19は所定の間隔で作業機側面画像を撮影しており,測定コントローラ20はその作業機側面画像に基づいてリアルタイムに作業機1Aの車体座標系座標値及び車体座標系描画画像を演算して作業機械コントローラ50に出力している。ただし,第1実施形態の測定コントローラ20は作業機座標系Co3における座標値と描画画像を出力していたが,本実施形態では撮影装置19が油圧ショベル1の車体(上部旋回体1BA)に取り付けられているため車体座標系Co4における座標値と描画画像を直接的に算出できる。また,本実施形態の作業機械コントローラ50は,測定コントローラ20からリアルタイムに出力される情報をもとにマシンガイダンス及びマシンコントロール機能をユーザーに提供する。
【0085】
測定コントローラ20は,車体座標系座標演算部21bと,車体座標系描画画像生成部22bとを備えている。測定コントローラ20には,撮影装置19により撮影された作業機1Aの側面画像及び角度センサ19aから撮影装置19の車体座標系における位置情報及び向き情報が入力される。
【0086】
車体座標系座標演算部21bは,撮影位置演算部23と,撮影装置座標系座標変換部24と,車体座標系座標変換部25bとを備えており,撮影装置19により撮影された作業機1Aの側面画像を入力とし,作業機1Aの側面画像上の指定された点について車体座標系座標値を出力するとともに,車体座標系Co4における作業機1Aの形状及び寸法と一致するような車体座標系描画画像を出力する。また,本実施形態でも作業機側面画像における作業機の輪郭線上における全ての画素の作業機対応点の車体座標系座標値を出力することとするが,第1実施形態と同様に他の方法(例えば輪郭線上の一部の画素の作業機対応点の座標値のみを出力する)を採用しても良いことはいうまでもない。
【0087】
測定コントローラ20は,車体座標系座標演算部21bにおいて,撮影位置演算部23と撮影装置座標系座標変換部24は第1実施形態と同様の演算を行う。車体座標系座標変換部25bでは,撮影装置座標系Co1における座標値を,角度センサ19aから入力される撮影装置19の車体座標系Co4における位置情報及び向き情報に基づいて平行移動や回転を行い,車体座標系Co4における座標値に座標変換する。また,車体座標系描画画像生成部22bにおいても同様に車体座標系Co4への座標変換後の描画画像を生成する。
【0088】
本実施形態では,測定コントローラ20から作業機械コントローラ50に入力される情報(作業機1Aの車体座標系座標値及び車体座標系描画画像)はすでに車体座標系Co4における情報になっている。そのため本実施形態の作業機械コントローラ50の情報処理部30には第1実施形態の車体座標変換部31が存在しないが,その他の部分の構成及び処理内容は同じである。また,位置姿勢検出部26における作業機姿勢検出部27は,測定コントローラ20でも作業機1Aの姿勢が検出できるため不要である。表示制御部33及び作業機制御部35における処理内容は第1実施形態と同様である。
【0089】
以上のように構成した本実施形態の油圧ショベル1では,測定コントローラ20はリアルタイムに作業機1Aの位置や形状情報を計測する。そのためユーザーは第1実施形態のように事前に作業機1Aの形状等を測定する必要がなく,簡単に作業機形状情報を取得することができる。また,リアルタイムに作業機1Aの位置や形状を取得しているため,作業機1Aの摩耗や変形などが生じた場合においても正確な作業機形状を計測でき,表示制御部33によるマシンガイダンス機能においてはユーザーにとってわかりやすく提示することができる。また作業機制御部35においては実際の作業機の状態に応じて正確な制御を行うことができる。
【0090】
なお,本発明は,上記の実施の形態に限定されるものではなく,その要旨を逸脱しない範囲内の様々な変形例が含まれる。例えば,本発明は,上記の実施の形態で説明した全ての構成を備えるものに限定されず,その構成の一部を削除したものも含まれる。また,ある実施の形態に係る構成の一部を,他の実施の形態に係る構成に追加又は置換することが可能である。
【0091】
また,上記のコントローラ20,50に係る各構成や当該各構成の機能及び実行処理等は,それらの一部又は全部をハードウェア(例えば各機能を実行するロジックを集積回路で設計する等)で実現しても良い。また,上記のコントローラ20,50に係る構成は,演算処理装置(例えばCPU)によって読み出し・実行されることで当該コントローラ20,50の構成に係る各機能が実現されるプログラム(ソフトウェア)としてもよい。当該プログラムに係る情報は,例えば,半導体メモリ(フラッシュメモリ,SSD等),磁気記憶装置(ハードディスクドライブ等)及び記録媒体(磁気ディスク,光ディスク等)等に記憶することができる。