(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-12-02
(45)【発行日】2024-12-10
(54)【発明の名称】作業車両
(51)【国際特許分類】
B66C 13/46 20060101AFI20241203BHJP
B66C 13/00 20060101ALI20241203BHJP
【FI】
B66C13/46 C
B66C13/00 D
B66C13/46 F
(21)【出願番号】P 2020192376
(22)【出願日】2020-11-19
【審査請求日】2023-07-28
(73)【特許権者】
【識別番号】000148759
【氏名又は名称】株式会社タダノ
(74)【代理人】
【識別番号】100196623
【氏名又は名称】松下 計介
(72)【発明者】
【氏名】元木 浩平
【審査官】須山 直紀
(56)【参考文献】
【文献】特開2020-132311(JP,A)
【文献】特開平10-250979(JP,A)
【文献】特開2018-162631(JP,A)
【文献】特開2019-159727(JP,A)
【文献】実開平05-095979(JP,U)
【文献】特開2020-007081(JP,A)
【文献】特開2020-152473(JP,A)
【文献】米国特許出願公開第2017/0031339(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
B66C 13/46
B66C 13/00
(57)【特許請求の範囲】
【請求項1】
走行体に旋回台を介して起伏可能なブームが設けられた作業車両と、
前記作業車両の周囲を上方から撮影する撮影装置と、
前記撮影装置が撮影した画像を表示し、且つ外部から指定された表示画面上の任意の位置の座標を出力可能な表示装置と、
前記作業車両のアクチュエータを制御する制御装置と、を備え、
前記制御装置は、
前記撮影装置に対する前記ブームの先端の位置または前記ブームの旋回中心の位置と、前記ブームの姿勢情報と、前記画像の画角情報と、前記撮影装置が撮影した前記作業車両の周囲を上方から撮影した画像とを取得し、前記表示装置に前記画像を表示させ、前記表示画面の座標系における前記ブームの先端の座標および前記表示画面の座標系における前記ブームの旋回中心の座標を算出し、前記画像上で設定された前記ブームの先端の目標位置の前記表示画面の座標系における座標を算出し、前記ブームの先端が前記目標位置に所定の移動経路で到達するように前記アクチュエータの各操作具の現在操作位置および目標操作位置を表示する、作業車両。
【請求項2】
前記制御装置は、前記アクチュエータの各操作具の操作順を表示する、請求項1に記載の作業車両。
【請求項3】
前記撮影装置は、
前記ブームの先端に設けられ、
前記制御装置は、
前記画像の中心位置を前記ブームの先端位置とし、前記ブームの姿勢情報から前記表示画面の座標系における前記ブームの先端の座標および前記表示画面の座標系における前記ブームの旋回中心の座標を算出する請求項1または請求項2に記載の作業車両。
【請求項4】
前記制御装置は、
前記撮影装置が撮影した画像から前記ブームの先端部の画像を検出し、前記ブームの先端部の画像の向きおよび大きさと、前記ブームの姿勢情報とから前記表示画面の座標系における前記ブームの旋回中心の座標および前記表示画面の座標系における前記ブームの先端の座標を算出する、請求項1または請求項2に記載の作業車両。
【請求項5】
前記ブームの旋回中心の絶対座標または前記ブームの先端の絶対座標を検出する第1GNSS受信機と、
前記ブームの延伸方向の方位を検出する方位センサと、
前記撮影装置の絶対座標を検出する第2GNSS受信機と、を備え、
前記制御装置は、
前記第1GNSS受信機の検出値と、前記第2GNSS受信機の検出値と、前記方位センサの検出値と、前記ブームの姿勢情報とを取得し、前記ブームの旋回中心の絶対座標と、前記ブームの先端の絶対座標とを算出する請求項1または請求項2に記載の作業車両。
【請求項6】
前記各アクチュエータの操作具の操作位置は、図形によって表示される請求項1から請求項5のいずれか一項に記載の作業車両。
【請求項7】
前記表示装置は、
前記アクチュエータの操作具を操作可能に構成される請求項1から請求項6のいずれか一項に記載の作業車両。
【請求項8】
前記制御装置は、
他の作業車両の座標を取得すると、前記他の作業車両の位置を前記目標位置とする請求項1から請求項7のいずれか一項に記載の作業車両。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、作業車両に関する。
【背景技術】
【0002】
従来、作業車両である移動式クレーンを用いて荷物を搬送する場合、前記移動式クレーンの操縦者は、前記クレーンのブームを操作するための旋回用操作具、起伏用操作具、伸縮用操作具、荷物を吊り上げ、吊り下げるためのウインチ用操作具等の複数の操作具を操作する必要がある。また、前記移動式クレーンの操縦者は、複数の操作具を同時に操作して、作業現場の構造物等に荷物が接触しないように移動式クレーンを操作しなくてはならない。このように構成される移動式クレーンは、操縦者の技量と作業現場の状況によっては目標位置までの荷物の搬送が難しい場合があった。そこで、作業現場の3Dマップ上で表示された荷物の移動経路に基づいてクレーンの操作に関する情報を表示するクレーンが知られている。例えば、特許文献1の如くである。
【0003】
特許文献1に記載のクレーンは、ブーム先端のステレオカメラ等で取得した作業現場の三次元情報に基づいて吊荷(荷物)の三次元情報を抽出する。更に、前記クレーンは、前記作業現場の三次元情報に基づいて平面図を作成する。次に、前記クレーンは、前記平面図上で移動経路を算出する。前記クレーンは、算出した前記移動経路に沿って吊荷を移動させるために必要な操作に関する情報を表示させる。
【0004】
特許文献1に記載のクレーンは、前記吊荷を移動させるために必要な操作に関する情報を旋回台の旋回角度の変化量、ブームの伸縮長さの変化量および起伏角度の変化量としてそれぞれ数値で表示する。前記クレーンの操縦者は、前記旋回台および前記ブームが表示された数値に基づいた姿勢になるように移動速度の異なるアクチュエータが割り当てられた各操作具をそれぞれ操作する。しかし、熟練度が低い操縦者は、割り当てられているアクチュエータの移動速度に応じた各操作具の操作量を直感的に判断することが難しい。従って、特許文献1に記載の前記クレーンは、前記吊荷を移動させるために必要な操作に関する情報を表示しても、操縦者の熟練度によって操作が難しい場合があった。
【先行技術文献】
【特許文献】
【0005】
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明の目的は、操縦者の熟練度に関係なく、ブームの先端を所定の移動経路に沿って移動させることができる作業車両の提供を目的とする。
【課題を解決するための手段】
【0007】
本発明の解決しようとする課題は以上の如くであり、次にこの課題を解決するための手段を説明する。
【0008】
本発明の一実施形態に係る作業車両は、走行体に旋回台を介して起伏可能なブームが設けられた作業車両と、前記作業車両の周囲を上方から撮影する撮影装置と、前記撮影装置が撮影した画像を表示し、且つ外部から指定された表示画面上の任意の位置の座標を出力可能な表示装置と、前記作業車両のアクチュエータを制御する制御装置と、を備える。
【0009】
前記制御装置は、前記撮影装置に対する前記ブームの先端の位置または前記ブームの旋回中心の位置と、前記ブームの姿勢情報と、前記画像の画角情報と、前記撮影装置が撮影した前記作業車両の周囲を上方から撮影した画像とを取得し、前記表示装置に前記画像を表示させ、前記表示画面の座標系における前記ブームの先端の座標および前記表示画面の座標系における前記ブームの旋回中心の座標を算出し、前記画像上で設定された前記ブームの先端の目標位置の前記表示画面の座標系における座標を算出し、前記ブームの先端が前記目標位置に直線経路で到達するように前記アクチュエータの各操作具の現在操作位置および目標操作位置を表示する。
【0010】
上述の構成では、前記作業車両の制御装置は、前記撮影装置が撮影した前記作業車両の周囲を含む画像において、前記作業車両の旋回中心の座標と前記ブームの先端の座標とを算出する。前記制御装置は、前記作業車両の旋回中心の座標と前記ブームの先端の座標とを算出することにより、前記表示装置の表示画面における所定の位置を原点とする直交座標系である前記表示画面の座標系を前記移動式クレーンの旋回中心を基準とするクレーン座標系に変換することができる。
【0011】
従って、前記作業車両の操縦者は、前記画像上で前記作業車両の周囲の状況をリアルタイムで確認しながら前記ブームの先端の前記目標位置を前記画像上で設定することができる。また、前記制御装置は、前記ブームの先端が前記目標位置に所定の移動経路で到達するように前記アクチュエータを操作する前記各操作具の操作に関する情報である各操作具の現在操作位置および目標操作位置を表示する。前記操縦者は、前記作業車両によって作業現場の状況をリアルタイムで把握しつつ、前記各操作具の操作に関する情報に基づく容易な操作で前記ブームの先端を前記目標位置まで移動させることができる。従って、前記作業車両は、習熟度の低い操縦者であっても移動速度の異なる前記アクチュエータが割り当てられた各操作具の操作量を視覚的に把握することができる。これにより、前記作業車両は、前記操縦者の熟練度に関係なく、前記ブームの先端を前記所定の移動経路に沿って移動させることができる。
【0012】
他の観点によれば、本発明の作業車両は、以下の構成を含むことが好ましい。前記制御装置は、前記アクチュエータの各操作具の操作順を表示する。
【0013】
上述の構成では、前記制御装置は、前記ブームの先端が前記目標位置に所定の移動経路で到達するように前記アクチュエータを操作する前記各操作具の操作順を更に表示する。前記操縦者は、前記作業車両によって作業現場の状況をリアルタイムで把握しつつ、前記各操作具の操作量に加えて操作順に従う容易な操作で前記ブームの先端を前記目標位置まで移動させることができる。これにより、前記作業車両は、前記操縦者の熟練度に関係なく、前記ブームの先端を前記所定の移動経路に沿って移動させることができる。
【0014】
他の観点によれば、本発明の作業車両は、以下の構成を含むことが好ましい。前記撮影装置は、前記ブームの先端に設けられる。前記制御装置は、前記画像の中心位置を前記ブームの先端位置とし、前記ブームの起伏角度、前記ブームの伸縮長さ、前記ブームの旋回角度および前記ブームの形状寸法等を含む前記ブームの姿勢情報から前記表示画面の座標系における前記ブームの先端の座標および前記表示画面の座標系における前記ブームの旋回中心の座標を算出する。
【0015】
上述の構成では、前記画像が前記ブームの先端位置から撮影されているので、前記制御装置は、前記画像における単位長さと撮影距離毎の対応する部分の実際の長さとの比率等の情報を含む画角情報と前記ブームの姿勢情報とから、前記表示画面の座標系における前記ブームの先端の座標および前記表示画面の座標系における前記ブームの旋回中心の座標を算出することができる。従って、前記操縦者は、前記作業車両によって作業現場の状況をリアルタイムで把握しつつ、前記各操作具の操作に関する情報に基づく容易な操作で前記ブームの先端を前記目標位置まで移動させることができる。これにより、前記作業車両は、前記操縦者の熟練度に関係なく、前記ブームの先端を前記所定の移動経路に沿って移動させることができる。
【0016】
他の観点によれば、本発明の作業車両は、以下の構成を含むことが好ましい。前記制御装置は、前記撮影装置が撮影した画像から前記ブームの先端部の画像を検出し、前記ブームの先端部の画像の向きおよび大きさと、前記ブームの姿勢情報とから前記表示画面の座標系における前記ブームの旋回中心の座標および前記表示画面の座標系における前記ブームの先端の座標を算出する。
【0017】
上述の構成では、前記制御装置は、予め取得している前記ブームの先端部の画像との比較等により、撮影装置が撮影した前記作業車両を含む画像から前記表示画面の座標系における前記ブームの旋回中心の座標と前記ブームの先端部の座標とを自動的に検出する。前記制御装置は、前記ブームの旋回中心の座標を基準として前記画像上で指定された前記ブームの先端の前記目標位置の座標を容易に算出することができる。また、前記操縦者は、前記作業車両によって作業現場の状況をリアルタイムで把握しつつ、前記各操作具の操作に関する情報に基づく容易な操作で前記ブームの先端を前記目標位置まで移動させることができる。これにより、前記作業車両は、前記操縦者の熟練度に関係なく、前記ブームの先端を前記所定の移動経路に沿って移動させることができる。
【0018】
他の観点によれば、本発明の作業車両は、以下の構成を含むことが好ましい。前記作業車両は、前記ブームの旋回中心の絶対座標または前記ブームの先端の絶対座標を検出する第1GNSS受信機と、前記ブームの延伸方向の方位を検出する方位センサと、前記撮影装置の絶対座標を検出する第2GNSS受信機と、を備える。前記制御装置は、前記第1GNSS受信機の検出値と、前記第2GNSS受信機の検出値と、前記方位センサの検出値と、前記ブームの姿勢情報とを取得し、前記ブームの旋回中心の絶対座標と、前記ブームの先端の絶対座標とを算出する。
【0019】
上述の構成では、前記制御装置は、前記ブームの旋回中心の絶対座標または前記ブームの先端の絶対座標と前記ブームの延伸方向の方位と前記撮影装置の絶対座標と、前記撮影装置の画角情報と、前記ブームの姿勢情報とから、前記ブームの先端の絶対座標を算出する。また、前記制御装置は、前記撮影装置の絶対座標と前記撮影装置の画角情報とに基づいて前記表示画面の座標系における旋回中心の座標と前記ブームの先端の座標とを算出する。前記操縦者は、前記作業車両によって作業現場の状況をリアルタイムで把握しつつ、前記各操作具の操作に関する情報に基づく容易な操作で前記ブームの先端を前記目標位置まで移動させることができる。これにより、前記作業車両は、前記操縦者の熟練度に関係なく、前記ブームの先端を前記所定の移動経路に沿って移動させることができる。
【0020】
他の観点によれば、本発明の作業車両は、以下の構成を含むことが好ましい。前記各アクチュエータの操作具の目標操作位置は、図形によって表示される。
【0021】
上述の構成では、前記制御装置は、前記各操作具の操作に関する情報を図形によって前記操縦者に伝達する。具体的には、前記制御装置は、前記図形の位置によって前記アクチュエータの前記各操作具の現在操作位置、操作順および目標操作位置を表示する。前記操縦者は、前記作業車両によって作業現場の状況をリアルタイムで把握しつつ、表示されている前記各操作具の前記現在操作位置に対する前記目標操作位置および前記操作順に従って前記各操作具を操作することで前記ブームの先端を前記目標位置まで移動させることができる。これにより、前記作業車両は、前記操縦者の熟練度に関係なく、前記ブームの先端を前記所定の移動経路に沿って移動させることができる。
【0022】
他の観点によれば、本発明の作業車両は、以下の構成を含むことが好ましい。前記表示装置は、前記アクチュエータの操作具を操作可能に構成される。
【0023】
上述の構成では、前記表示装置は、前記各操作具の操作に関する情報を視認しながら前記各操作具を操作することができる。前記操縦者は、前記作業車両によって作業現場の状況をリアルタイムで把握しつつ、前記各操作具の前記現在操作位置を表示装置に表示されている前記各操作具の前記目標操作位置に容易且つ正確に変更することができる。これにより、前記作業車両は、前記操縦者の熟練度に関係なく、前記ブームの先端を前記所定の移動経路に沿って移動させることができる。
【0024】
他の観点によれば、本発明の作業車両は、以下の構成を含むことが好ましい。前記制御装置は、他の作業車両の座標を取得すると、前記他の作業車両の位置を前記目標位置とする。
【0025】
上述の構成では、前記制御装置は、前記他の作業車両の位置を目標位置として前記ブームの先端を前記所定の移動経路で移動させるために必要な前記各操作具の操作に関する情報を前記表示装置に表示する。前記操縦者は、前記作業車両によって作業現場の状況をリアルタイムで把握しつつ、表示されている前記各操作具の前記現在操作位置に対する前記目標操作位置および前記操作順に従って前記各操作具を操作することで前記ブームの先端を前記他の作業車両まで移動させることができる。これにより、前記作業車両は、前記操縦者の熟練度に関係なく、前記ブームの先端を前記所定の移動経路に沿って移動させることができる。
【0026】
本明細書で使用される専門用語は、特定の実施形態のみを定義する目的で使用されるのであって、前記専門用語によって発明を制限する意図はない。他に定義されない限り、本明細書で使用される全ての用語(技術用語及び科学用語を含む)は、本発明が属する技術分野の当業者によって一般的に理解される意味と同じ意味を有する。一般的に使用される辞書に定義された用語は、関連する技術及び本開示の文脈における意味と一致する意味を有すると解釈されるべきであり、本明細書で明示的に定義されていない限り、理想的または過度に形式的な意味で解釈されることはない。
【0027】
本発明の説明においては、いくつもの技術および工程が開示されていると理解される。これらの各々は、個別の利益を有し、他に開示された技術の1つ以上、または、場合によっては全てと共に使用することもできる。したがって、明確にするために、本発明の説明では、不要に個々のステップの可能な組み合わせをすべて繰り返すことを控える。しかしながら、本明細書及び特許請求の範囲は、そのような組み合わせがすべて本発明の範囲内であることを理解して読まれるべきである。
【0028】
以下の説明では、本発明の完全な理解を提供するために多数の具体的な例を述べる。しかしながら、当業者は、これらの具体的な例がなくても本発明を実施できることが明らかである。よって、以下の開示は、本発明の例示として考慮されるべきであり、本発明を以下の図面または説明によって示される特定の実施形態に限定することを意図するものではない。
【発明の効果】
【0029】
本発明の一実施形態によれば、作業車両は、操縦者の熟練度に関係なく、ブームの先端を所定の移動経路に沿って移動させることができる。
【図面の簡単な説明】
【0030】
【
図1】本発明に係るクレーンの全体構成を示す全体図。
【
図2】本発明の第1実施形態に係るクレーンの制御構成を示すブロック図。
【
図3】本発明の第1実施形態に係る画像処理装置による制御構成を示す模式図。
【
図4】本発明の第1実施形態に係るクレーンにおけるブーム先端の移動方向とクレーン装置用操作具の目標操作位置が表示されている画面を示すブロック図。
【
図5】本発明の第1実施形態に係るクレーンにおけるブーム先端がクレーン装置用操作具の操作によって移動している状態とクレーン装置用操作具の操作状態が表示されている画面を示すブロック図。
【
図6】本発明の第2実施形態に係るクレーンとクレーンの撮影装置を示す図。
【
図7】本発明の第2実施形態に係るクレーンの制御構成を示すブロック図。
【
図8】本発明の第2実施形態に係る画像処理装置の制御構成を示すブロック図。
【
図9】本発明の第3実施形態に係るクレーンの制御構成を示すブロック図。
【
図10】本発明の第3実施形態に係る画像処理装置の制御構成を示すブロック図。
【発明を実施するための形態】
【0031】
以下に、
図1から
図4とを用いて、本発明の第1実施形態に係る作業車両であるクレーン1について説明する。なお、本実施形態においては、ラフテレーンクレーンついて説明を行うが、オールテレーンクレーン、トラッククレーン、高所作業車等の旋回台を介して起伏可能なブームが設けられた作業車両であればよい。
【0032】
図1と
図2とに示すように、クレーン1は、任意の場所に移動可能な移動式クレーンである。クレーン1は、車両2、クレーン装置6、撮影装置であるブームカメラ9b、表示装置21(
図2参照)、入力装置22、画像処理装置23、制御装置24(
図2参照)を有する。
【0033】
車両2は、クレーン装置6を搬送する走行体である。車両2は、複数の車輪3を有し、エンジン4を動力源として走行する。車両2には、アウトリガ5が設けられている。アウトリガ5は、車両2の幅方向両側に油圧によって延伸可能な張り出しビームと地面に垂直な方向に延伸可能な油圧式のジャッキシリンダとから構成されている。
【0034】
クレーン装置6は、荷物Wをワイヤロープによって吊り上げる作業装置である。クレーン装置6は、旋回台7、ブーム9、メインフックブロック10、サブフックブロック11、起伏用油圧シリンダ12、メインウインチ13、メインワイヤロープ14、サブウインチ15、サブワイヤロープ16、キャビン20およびクレーン装置用センサ17等を具備する。
【0035】
旋回台7は、クレーン装置6を旋回可能に構成する回転装置である。旋回台7は、円環状の軸受を介して車両2のフレーム上に設けられる。旋回台7は、円環状の軸受の中心を回転中心として回転自在に構成されている。旋回台7には、アクチュエータである油圧式の旋回用油圧モータ8が設けられている。旋回台7は、旋回用油圧モータ8によって一方向と他方向とに旋回可能に構成されている。
【0036】
ブーム9は、荷物Wを吊り上げ可能な状態にメインワイヤロープ14およびサブワイヤロープ16を支持する可動支柱である。ブーム9は、複数のブーム部材から構成されている。ブーム9は、ベースブーム部材の基端が旋回台7の略中央に揺動可能に設けられている。ブーム9は、各ブーム部材をアクチュエータである伸縮用油圧シリンダ9a(
図2参照)で移動させることで軸方向に伸縮自在に構成されている。また、ブーム9には、撮影装置であるブームカメラ9b、およびジブ9cが設けられている。ブームカメラ9bが撮影した画像は、表示装置21に表示される。
【0037】
メインフックブロック10とサブフックブロック11とは、荷物Wを吊るものである。メインフックブロック10には、メインワイヤロープ14が巻き掛けられる複数のフックシーブと、荷物Wを吊るメインフック10aとが設けられている。サブフックブロック11には、荷物Wを吊るサブフック11aが設けられている。
【0038】
起伏用油圧シリンダ12は、ブーム9を起立および倒伏させ、ブーム9の姿勢を保持するアクチュエータである。起伏用油圧シリンダ12は、シリンダ部の端部が旋回台7に起伏自在に連結され、ロッド部の端部がブーム9のベースブーム部材に揺動自在に連結されている。
【0039】
メインウインチ13とサブウインチ15とは、メインワイヤロープ14とサブワイヤロープ16との繰り入れ(巻き上げ)および繰り出し(巻き下げ)を行うものである。メインウインチ13は、メインワイヤロープ14が巻きつけられるメインドラムがアクチュエータである図示しないメイン用油圧モータによって回転されるように構成されている。サブウインチ15は、サブワイヤロープ16が巻きつけられるサブドラムがアクチュエータである図示しないサブ用油圧モータによって回転されるように構成されている。
【0040】
クレーン装置6には、旋回用油圧モータ8、伸縮用油圧シリンダ9a、起伏用油圧シリンダ12、メインウインチ13およびサブウインチ15をそれぞれ制御するために必要な複数のクレーン装置用センサ17を有している。複数のクレーン装置用センサ17は、対応するアクチュエータまたは対応するアクチュエータの制御弁に設けられている。複数のクレーン装置用センサ17は、各アクチュエータの作動量等を検出する。また、クレーン装置用センサ17の検出値は、ブーム9の姿勢情報Ipに含まれる。
【0041】
キャビン20は、操縦席を覆う筐体である。キャビン20は、旋回台7に搭載されている。図示しない操縦席が設けられている。操縦席には、車両2を走行操作するための走行用操作具18、クレーン装置6の旋回用油圧モータ8を操作する旋回用操作具、伸縮用油圧シリンダを操作する伸縮用操作具、起伏用油圧シリンダ12を操作する起伏用操作具、メインウインチ13を操作するメイン用操作具およびサブウインチ15を操作するサブ用操作具を含むクレーン装置用操作具19、表示装置21、入力装置22等が設けられている(
図2参照)。
【0042】
表示装置21は、ブームカメラ9bが撮影した画像Pを表示する。表示装置21は、画面上から入力可能なタッチパネル機能を有する液晶モニタ等から構成されている。表示装置21は、クレーン1の操縦者が視認可能な位置に配置されている。表示装置21は、画像Pをブームカメラ9bから取得可能に構成されている。表示装置21には、ブームカメラ9bが撮影した画像P、ブームカメラ9bが撮影した画像Pに基づいて算出されたクレーン1に関する情報、およびクレーン装置用操作具19の操作に関する情報が表示される(
図4参照)。クレーン装置用操作具19の操作に関する情報は、ブーム9の現在の姿勢におけるクレーン装置用操作具19の操作位置である現在操作位置、ブーム9の先端を目標位置に移動させるためのクレーン装置用操作具19の操作位置である目標操作位置に関する情報である。なお、クレーン装置用操作具19の操作に関する情報は、クレーン装置用操作具19の操作順に関する情報を含んでいてもよい。
【0043】
入力装置22は、ブーム9の先端の目標位置およびクレーン装置用操作具19の操作信号を入力する。また、入力装置22は、ブームカメラ9bの操作信号を入力する。本実施形態において、入力装置22は、画面上から入力可能なタッチパネルで構成されている表示装置21が入力装置22を構成している。入力装置22は、表示装置21の画面上において画像Pが表示されている範囲の任意の位置をブーム9の先端の目標位置として入力することができる。つまり、入力装置22である表示装置21は、画面上において画像Pが表示されている範囲の任意の位置の座標を画像処理装置23等に出力可能に構成されている。また、入力装置22は、表示装置21の画面上のクレーン装置用操作具19の操作に関する情報が表示されている範囲の任意の位置をクレーン装置用操作具19の目標操作位置として入力することができる。つまり、入力装置22である表示装置21は、クレーン装置用操作具19を操作可能に構成されている。
【0044】
画像処理装置23は、ブームカメラ9bが撮影した画像P(
図4参照)を処理する。画像処理装置23は、実体的には、CPU、ROM、RAM、HDD等がバスで接続される構成であってもよく、あるいはワンチップのLSI等からなる構成であってもよい。本実施形態において、画像処理装置23は、表示装置21に設けられている。画像処理装置23は、表示装置21、入力装置22等の動作を制御したり画像データを処理したりするために種々のプログラムおよびデータが格納されている。画像処理装置23は、制御装置24に接続されている。つまり、画像処理装置23は、電気的に制御装置24に含まれるものとする。なお、画像処理装置23は、制御装置24と一体に構成されていてもよい。
【0045】
図3に示すように、画像処理装置23は、表示装置21に接続されている。画像処理装置23は、入力装置22である表示装置21において表示画面から入力された目標位置の位置を、前記表示画面における所定の位置を原点とする直交座標系である前記表示画面の座標系(以下、単に「表示画面の座標系」と記す)における目標座標Tとして取得することができる。更に、画像処理装置23は、表示画面に表示されているクレーン装置用操作具19(
図2参照)の現在の操作位置を表示画面の座標系における現在操作位置座標Paとして取得することができる。画像処理装置23は、制御装置24からクレーン装置用操作具19の現在の操作位置に対応する現在操作信号Saを取得することができる。更に、画像処理装置23は、ブーム9(
図1参照)の先端を目標位置に所定の移動経路R(
図4参照)で移動させるために必要なクレーン装置用操作具19の目標の操作位置に対応する目標操作信号Sbを取得することができる。画像処理装置23は、制御装置24からブーム9の起伏角度、ブーム9の伸縮長さ、ブーム9の旋回角度およびブーム9の形状寸法等を含むブーム9の姿勢情報Ipを取得することができる。画像処理装置23は、表示装置21からブームカメラ9bの操作信号を取得することができる。
【0046】
画像処理装置23は、取得した表示画面の座標系におけるクレーン装置用操作具19(
図2参照)の現在操作位置座標Paに基づいてクレーン装置用操作具19の現在操作信号Saを生成することができる。画像処理装置23は、取得したクレーン装置用操作具19の現在操作信号Saに基づいて表示画面の座標系におけるクレーン装置用操作具19の現在操作位置座標Paを算出することができる。同様に、画像処理装置23は、取得したクレーン装置用操作具19の目標操作信号Sbに基づいて表示画面の座標系におけるクレーン装置用操作具19の目標操作位置座標Pbを算出することができる。画像処理装置23は、取得したブームカメラ9bの操作信号に基づいてブームカメラ9bの制御信号を生成することができる。
【0047】
画像処理装置23は、生成したクレーン装置用操作具19(
図2参照)の現在操作信号Saを制御装置24に送信することができる。画像処理装置23は、算出した表示画面の座標系におけるクレーン装置用操作具19の現在操作位置座標Pa、目標操作位置座標Pbにクレーン装置用操作具19を示す図形またはクレーン装置用操作具19の操作位置を示す図形を表示することができる。つまり、画像処理装置23は、表示装置21にクレーン装置用操作具19の操作に関する情報であるクレーン装置用操作具19の現在の操作位置、クレーン装置用操作具19の目標の操作位置を表示することができる。画像処理装置23は、生成したブームカメラ9bの操作信号をブームカメラ9bに送信することができる。なお、画像処理装置23は、表示装置21にクレーン装置用操作具19の操作順を表示するように構成されていてもよい。
【0048】
図3に示すように、画像処理装置23は、ブームカメラ9bが撮影した画像Pにおける単位長さと撮影距離毎の対応する部分の実際の長さとの比率等の情報を含む画角情報Iiを有している。画像処理装置23は、ブームカメラ9bの画角情報Iiとブーム9の姿勢情報Ipとからクレーン1の旋回中心を基準とするクレーン座標系におけるブーム9の変換先端座標Bc、ブーム9の変換旋回中心座標Ccおよびブーム9の先端の変換目標座標Tcを算出することができる。
【0049】
画像処理装置23は、ブームカメラ9bがブーム9(
図1参照)の先端に設けられていることから、画像Pの中心位置をブーム9の先端位置として表示画面の座標系におけるブーム9の先端座標Bを算出する。次に、画像処理装置23は、ブーム9の姿勢情報Ipに基づいて、クレーン1の設置面を基準とするブームカメラ9bの高さを算出する。画像処理装置23は、ブームカメラ9bの画角情報Iiとブームカメラ9bの高さとブーム9の姿勢情報Ipとから、表示画面の座標系におけるブーム9の旋回中心座標Cを算出する。画像処理装置23は、算出した先端座標Bおよび旋回中心座標Cの位置を表示装置21(
図2参照)に表示されている画像Pに重畳表示させる。なお、旋回中心座標Cは、画像Pの範囲に含まれていない場合、画像Pに表示されない。
【0050】
画像処理装置23は、ブームカメラ9bの高さおよびブームカメラ9bの画角情報Iiから表示画面の座標系におけるブーム9の先端座標Bおよびブーム9の旋回中心座標Cをブーム9の旋回中心を原点とするクレーン座標系における変換先端座標Bcおよび変換旋回中心座標Ccに変換する。
【0051】
また、画像処理装置23は、表示装置21から入力された目標位置の表示画面の座標系における目標座標Tを取得する。更に、画像処理装置23は、画像Pに重畳表示した先端座標Bから目標座標Tまでの所定の移動経路R(
図4参照)を画像Pに重畳表示する。画像処理装置23は、ブームカメラ9bの高さおよびブームカメラ9bの画角情報Iiから目標座標Tをクレーン座標系の座標である変換目標座標Tcに変換する。画像処理装置23は、変換先端座標Bc、変換旋回中心座標Ccおよび変換目標座標Tcを制御装置24に送信する。
【0052】
画像処理装置23は、制御装置24から取得したクレーン装置用操作具19の現在操作信号Sa、目標操作信号Sbに基づいて、表示画面の座標系におけるクレーン装置用操作具19の現在操作位置座標Pa、目標操作位置座標Pbを算出する。画像処理装置23は、算出した表示画面の座標系におけるクレーン装置用操作具19の現在操作位置座標Paにクレーン装置用操作具19を示す図形を表示する。同様に、画像処理装置23は、算出した表示画面の座標系におけるクレーン装置用操作具19の目標操作位置座標Pbにクレーン装置用操作具19を示す図形を表示する。つまり、画像処理装置23は、ブーム9の先端を現在位置から所定の移動経路Rで目標位置に移動させるためのクレーン装置用操作具19の操作量、操作方向および移動順を表示する。
【0053】
図2と
図3とに示すように、制御装置24は、クレーン1の各アクチュエータを制御する。制御装置24は、キャビン20内に設けられている。制御装置24は、実体的には、CPU、ROM、RAM、HDD等がバスで接続される構成であってもよく、あるいはワンチップのLSI等からなる構成であってもよい。制御装置24は、アクチュエータ、切換え弁、クレーン装置用センサ17等の動作を制御したり画像データを処理したりするために種々のプログラムおよびデータが格納されている。制御装置24には、画像処理装置23が含まれている。
【0054】
制御装置24は、走行用操作具18およびクレーン装置用操作具19に接続されている。制御装置24は、走行用操作具18、クレーン装置用操作具19のそれぞれの操作信号を取得することができる。制御装置24は、走行用操作具18の操作により生成される操作信号に基づいて、車両2の制御信号を生成する。同様に、制御装置24は、クレーン装置用操作具19の操作により生成される操作信号に基づいて、クレーン装置6の制御信号を生成する。制御装置24は、生成した制御信号をクレーン装置6の各アクチュエータに送信することができる。制御装置24は、クレーン装置用センサ17に接続されている。制御装置24は、クレーン装置用センサ17の検出値に基づいて各アクチュエータを制御することができる。また、制御装置24は、クレーン装置用センサ17によってブーム9の姿勢情報Ipを取得することができる。
【0055】
制御装置24は、画像処理装置23に有線または無線で接続されている。制御装置24は、画像処理装置23にブーム9の姿勢情報Ipを送信することができる。制御装置24は、画像処理装置23からクレーン座標系におけるブーム9の先端の座標である変換先端座標Bc、ブーム9の旋回中心の座標である変換旋回中心座標Ccおよびブーム9の先端の変換目標座標Tcを取得することができる。
【0056】
制御装置24は、取得した変換先端座標Bcと変換目標座標Tcから、現在のブーム9の姿勢におけるクレーン装置用操作具19の現在操作信号Saおよびブーム9の先端が所定の速度で所定の移動経路Rに沿って変換目標座標Tcに到達するためのクレーン装置用操作具19の目標操作信号Sbを生成することができる。制御装置24は、生成したクレーン装置用操作具19の現在操作信号Sa、目標操作信号Sbを画像処理装置23に送信することができる。つまり、制御装置24は、荷物Wを所定の速度で所定の移動経路Rに沿って移動させるためのクレーン装置用操作具19の操作量および操作方向を算出することができる。なお、本実施形態において、所定の移動経路Rは、変換先端座標Bcから変換目標座標Tcまでを直線で結んだ経路とする(
図4参照)。また、制御装置24は、クレーン装置用操作具19の各操作具の操作順を算出するように構成されていてもよい。
【0057】
このように構成されるクレーン1は、走行用操作具18の操作によって車両2を任意の位置に移動させることができる。また、クレーン1は、クレーン装置用操作具19の操作によって、ブーム9を旋回、起伏、伸縮させることで荷物Wを任意の位置に搬送することができる。また、クレーン1は、クレーン装置用操作具19の操作によって、メインウインチ13等で荷物Wを吊り上げたり吊り下げたりすることができる。一方、クレーン1は、ブーム9の先端が画像Pに基づいて設定された目標位置に所定の移動経路Rに沿って移動するためのクレーン装置用操作具19の操作信号を生成することができる。
【0058】
なお、入力装置22、表示装置21および画像処理装置23は、キャビン20から着脱可能な遠隔操作端末として構成されていてもよい。遠隔操作端末は、通信装置等をさらに備え、画像処理装置23と制御装置24との間で通信可能に構成されている。これにより、クレーン1は、キャビン20から離隔した位置からブーム9を操作することができる。
【0059】
以下に、
図3から
図5を用いて、画像処理装置23および制御装置24による画像処理について説明する。なお、ブームカメラ9bが撮影する画像Pには、クレーン1の周囲の作業現場が含まれている。クレーン1は、荷物Wをサブウインチ15によって所定の高さまで吊り上げた状態であるものとする。
【0060】
図4と
図5とに示すように、表示装置21(
図3参照)には、ブームカメラ9bが撮影した画像Pが表示される画像表示エリアと、旋回用油圧モータ8を操作する旋回用操作具、伸縮用油圧シリンダを操作する伸縮用操作具、起伏用油圧シリンダ12を操作する起伏用操作具、メインウインチ13を操作するメイン用操作具およびサブウインチ15を操作するサブ用操作具の各操作位置を表示する操作具表示エリアと、を有する。
【0061】
操作具表示エリアには、クレーン装置用操作具19毎の可動範囲と、クレーン装置用操作具19を構成する旋回用操作具の現在操作位置P1a、伸縮用操作具の現在操作位置P2a、起伏用操作具の現在操作位置P3a、メイン用操作具の現在操作位置P4aおよびサブ用操作具の現在操作位置P5aを示す図形(黒塗丸印参照)が表示されている。また、操作具表示エリアには、ブーム9の先端を目標位置まで移動させるための旋回用操作具の目標操作位置P1b、伸縮用操作具の目標操作位置P2b、起伏用操作具の目標操作位置P3b、メイン用操作具の目標操作位置P4bおよびサブ用操作具の目標操作位置P5bを図形(二点鎖線丸印参照)で表示することができる。
【0062】
図3に示すように、画像処理装置23は、ブームカメラ9bが撮影したクレーン1のブーム9の先端からの画像Pを単位時間毎に取得する。合わせて、画像処理装置23は、制御装置24からブーム9の姿勢情報Ipを単位時間毎に取得する。画像処理装置23は、取得した画像P(
図4、
図5参照)を表示装置21の画像表示エリアに表示させる。操縦者は、ブーム9の先端の目標位置を画像P上から入力する。画像処理装置23は、入力された目標位置の表示画面の座標系における目標座標Tを算出する。
【0063】
画像処理装置23は、画像Pの中心位置をブーム9の先端位置として表示画面の座標系におけるブーム9の先端座標Bを算出する。次に、画像処理装置23は、表示画面の座標系におけるブーム9の旋回中心座標Cを算出する。
図4と
図5に示すように画像処理装置23は、算出した先端座標B、旋回中心座標Cおよび目標座標Tの位置を画像Pに重畳表示させる。さらに、画像処理装置23は、画像Pに重畳表示した先端座標Bから目標座標Tまでの所定の移動経路Rを画像Pに重畳表示する。なお、本実施形態に置いて、画像Pには、旋回中心座標Cが含まれていない。従って、旋回中心座標Cは、画像Pに表示されていない。
【0064】
図3に示すように、画像処理装置23は、ブームカメラ9bの高さおよびブームカメラ9bの画角情報Iiからクレーン座標系における変換先端座標Bc、変換旋回中心座標Ccおよび変換目標座標Tcを算出する。画像処理装置23は、変換旋回中心座標Cc、変換目標座標Tcおよび変換目標座標Tcを制御装置24に送信する。なお、本実施形態においてクレーン座標系は、直交座標としているが極座標でもよい。
【0065】
制御装置24は、変換旋回中心座標Ccと変換先端座標Bcとに基づいて、ブーム9の先端を所定の移動経路Rで変換目標座標Tcに移動させるためのクレーン装置用操作具19の目標操作信号Sbを生成する。制御装置24は、生成したクレーン装置用操作具19の目標操作信号Sbを画像処理装置23に送信する。画像処理装置23は、制御装置24から取得したクレーン装置用操作具19の目標操作信号Sbに基づいて、表示画面の座標系におけるクレーン装置用操作具19の目標操作位置座標Pbを算出する。
【0066】
画像処理装置23は、操作具表示エリアにおける旋回用操作具の目標操作位置P1b、伸縮用操作具の目標操作位置P2b、起伏用操作具の目標操作位置P3b、メイン用操作具の目標操作位置P4bおよびサブ用操作具の目標操作位置P5bを示す図形を表示する。
【0067】
なお、画像処理装置23は、旋回用操作具、伸縮用操作具、起伏用操作具、メイン用操作具およびサブ用操作具の操作順を表示してもよい。例えば、画像処理装置23は、各操作具の操作具表示エリアに各操作具の操作順を(1)(2)、(3)・・の様に数字で表示している。画像処理装置23は、複数の操作具を同時に操作する場合、同時に操作する操作具に同一の操作順を示すように表示する。本実施形態において、画像処理装置23は、同時に操作する伸縮用操作具とメイン用操作具とに同じ操作順「(2)」を表示している。
【0068】
このように構成することで、クレーン1は、画像Pで周囲の状況を確認しながらブーム9の目標位置を設定することができる。またクレーン1は、ブーム9の先端を目標位置に移動させるために必要なクレーン装置用操作具19の操作量、操作方向を視覚的に認識することができる。また、クレーン1は、クレーン装置用操作具19の操作順を表示することで、各操作具の操作量、操作方向に加えて操作順を視覚的に認識することができる。
【0069】
図5に示すように、制御装置24は、クレーン装置用操作具19に含まれるクレーン装置用操作具19が操作されると操作具毎に現在操作信号Saを取得する。制御装置24は、取得した現在操作信号Saを画像処理装置23に送信する。画像処理装置23は、制御装置24から取得したクレーン装置用操作具19の現在操作信号Saに基づいて、表示画面の座標系におけるクレーン装置用操作具19の現在操作位置座標Paを算出する。画像処理装置23は、算出したクレーン装置用操作具19の現在操作位置座標Paを操作後のクレーン装置用操作具19の新たな現在操作位置座標Paとして、現在操作位置座標Paにクレーン装置用操作具19を示す図形を表示する。
【0070】
このように構成することで、クレーン1は、クレーン装置用操作具19の操作に伴って、表示装置21に表示されているクレーン装置用操作具19を示す図形が移動する。これにより、クレーン1の操縦者は、クレーン1の周辺の状況およびクレーン装置用操作具19の目標操作位置に対する現在操作位置の差異を確認しながらクレーン装置用操作具19を操作することができる。
【0071】
画像処理装置23は、操作具表示エリアに表示されている旋回用操作具の現在操作位置P1a、伸縮用操作具の現在操作位置P2a、起伏用操作具の現在操作位置P3a、メイン用操作具の現在操作位置P4aおよびサブ用操作具の現在操作位置P5aを示す図形のうち少なくとも一つが移動されると、移動された図形の表示画面の座標系における座標を対応する操作具の現在操作位置座標Paとして現在操作信号Saを生成する。画像処理装置23は、生成した現在操作信号Saを制御装置24に送信する。制御装置24は、取得した現在操作信号Saに基づいて対応するアクチュエータに制御信号を送信する。
【0072】
このように構成することで、クレーン1は、表示装置21の画面上の図形の移動に伴ってブーム9の先端が移動する。クレーン1は、表示装置21の画面上で伸縮用操作具の現在操作位置P1aを示す図形、伸縮用操作具の現在操作位置P2aを示す図形、起伏用操作具の現在操作位置P3aを示す図形、メイン用操作具の現在操作位置P4aを示す図形およびサブ用操作具の現在操作位置P5aを示す図形を目標操作位置座標Pbまで移動させることで、クレーン1の周辺の状況を確認しながらブーム9の先端を所定の移動経路Rで目標位置まで移動させることができる。
【0073】
従って、クレーン1の操縦者は、表示装置21に表示されている画像P上でクレーン1の周囲の状況をリアルタイムで確認しながらブーム9の先端の目標位置を画像P上で設定することができる。また、画像処理装置23は、ブーム9の先端に設けられたブームカメラ9bによって撮影された画像Pの中心位置をブーム9の先端位置として、クレーン座標系における変換先端座標Bc、変換旋回中心座標Ccおよび変換目標座標Tcを算出する。さらに、画像処理装置23は、ブーム9の先端が目標位置に直線の移動経路Rで到達するように各アクチュエータを操作するクレーン装置用操作具19の現在操作位置および目標操作位置を表示する。前記操縦者は、クレーン1によって作業現場の状況をリアルタイムで把握しつつ、クレーン装置用操作具19の操作に関する情報に基づく容易な操作でブーム9の先端を目標位置まで移動させることができる。従って、前記クレーン1は、習熟度の低い操縦者であっても移動速度の異なる前記アクチュエータが割り当てられた各操作具の操作量を視覚的に把握することができる。なお、画像処理装置23は、クレーン装置用操作具19の操作順を表示するように構成されていてもよい。これにより、クレーン1は、操縦者の熟練度に関係なく、ブーム9の先端を直線の移動経路Rに沿って移動させることができる。
【0074】
次に、
図6から
図8を用いて、本発明の第2実施形態に係るクレーン1Aについて説明する。なお、以下の実施形態に係るクレーン1Aは、
図1から
図5に示すクレーン1が適用されるものとして、その説明で用いた名称、図番、符号を用いることで、同じものを指す。よって、以下の実施形態において、既に説明した実施形態と同様の点に関してはその具体的説明を省略し、相違する部分を中心に説明する。
【0075】
図6に示すように、クレーン1Aは、撮影装置25、遠隔操作端末28(
図7参照)、画像処理装置30(
図7参照)を有する。撮影装置25は、クレーン1Aおよび作業現場におけるクレーン1Aの周囲を撮影する。撮影装置25は、無人飛行体26、カメラ27を備える。
【0076】
無人飛行体26は、制御信号によって遠隔操作および自立飛行可能な自立型無人飛行体(ドローン)である。無人飛行体26は、例えば、複数のプロペラを有するマルチコプターである。無人飛行体26は、遠隔操作端末28の制御信号等を送受信可能に構成されている。これにより、無人飛行体26は、遠隔操作端末28によって任意の位置に移動可能に構成されている。なお、無人飛行体26は、クレーン1Aのブーム9等に取り付けられたビーコン、画像処理装置30が検出したブーム9の画像、ブーム9に設けられたARタグ等を追従するように構成されていてもよい。
【0077】
カメラ27は、無人飛行体26に設けられている。カメラ27は、無人飛行体26の鉛直下方を撮影するように構成されている。カメラ27は、遠隔操作端末28からの制御信号等を取得可能に構成されている。また、カメラ27は、撮影した画像データを画像処理装置30に送信可能に構成されている。これにより、カメラ27は、遠隔操作端末28によって、撮影の開始、停止、撮影方向の決定、ズーム等の操作を行うことができる。
【0078】
遠隔操作端末28は、無人飛行体26およびカメラ27の操作を行う操作端末である。遠隔操作端末28は、キャビン20に配置されている。遠隔操作端末28は、携帯可能な筐体に無人飛行体26の操作具およびカメラ27の操作具が設けられている。つまり、遠隔操作端末28は、キャビン20の外部に持ち運び可能な携帯操作端末として構成されている。遠隔操作端末28は、操作具の操作によって無人飛行体26をクレーン1Aの上方に配置し、任意の位置でホバリングさせることができる。遠隔操作端末28は、無人飛行体26およびカメラ27に制御信号を送受信可能に構成されている。また、遠隔操作端末28は、クレーン1Aの制御装置24に入力信号、操作信号等を送受信可能に構成されている。遠隔操作端末28には、表示装置21が設けられている。表示装置21は、遠隔操作端末28と別に独立してキャビン20に配置されていてもよい。
【0079】
図7に示すように、通信機29は、画像データ、制御信号を送受信するものである。通信機29は、遠隔操作端末28に設けられている。通信機29は、画像処理装置30との間で撮影装置25の無人飛行体26およびカメラ27の制御信号を送受信することができる。また、通信機29は、カメラ27が撮影した画像Pを画像処理装置30に送信することができる。通信機29は、無人飛行体26およびカメラ27のとの間で制御信号を送受信することができる。通信機29は、カメラ27が撮影した画像Pを受信することができる。
【0080】
画像処理装置30は、遠隔操作端末28に設けられている。画像処理装置30は、表示装置21に接続されている。画像処理装置30は、表示装置21から無人飛行体26およびカメラ27の操作信号を取得することができる。画像処理装置30は、表示装置21から入力された無人飛行体26の操作信号に基づいて無人飛行体26の制御信号を生成する。同様に、画像処理装置30は、表示装置21から入力されたカメラ27の操作信号に基づいてカメラ27の制御信号を生成する。画像処理装置30は、通信機29に接続されている。画像処理装置30は、生成した制御信号を、通信機29を介して無人飛行体26またはカメラ27に送信する。
【0081】
画像処理装置30は、予め保持している学習モデルに基づいて、カメラ27が撮影した画像Pからブーム9の先端部を検出する。画像処理装置30は、本実施形態において、画像Pのカラーヒストグラムによるベクトル化、オートエンコーダによるベクトル化および局所特徴量によるベクトル化等を併用してそれぞれのベクトル化による特徴量の算出を行う。カラーヒストグラムによるベクトル化は、色の強度と出現頻度を特徴量としてベクトル化する手法である。オートエンコーダによるベクトル化は、オートエンコーダの中間層を、画像Pを代表する特徴量とする手法である。オートエンコーダは、3層ニューラルネットにおいて、入力層と出力層に同じデータを用いて教師あり学習をさせたものである。局所特徴量によるベクトル化は、KAZE局所特徴量を用いて画像Pをベクトル化する手法である。
【0082】
画像処理装置30は、画像Pのカラーヒストグラムによるベクトル化、オートエンコーダによるベクトル化および局所特徴量によるベクトル化により、3つの特徴量を算出する。なお、特徴量としては、画像Pに含まれる輝度値、エッジのヒストグラム、色とエッジの相関関数等でもよい。また、画像処理装置30は、HOG(Histogram of Oriented Gradients)、SIFT(Scale Invariant Feature Transform)等の画像Pの局所特徴量を算出するようにしてもよい。
【0083】
次に、
図8を用いて、クレーン1Aの画像処理装置30におけるブーム9の先端部分とブーム9の延伸方向との検出について説明する。画像処理装置30は、基準画像保持部30a、判定画像検出部30b、姿勢判定部30cを有している。画像処理装置30は、ブーム9の先端の所定範囲を教師あり学習させた学習モデルを有している。画像処理装置30は、カメラ27が撮影した画像Pの3つの特徴量からブーム9の先端部分とブーム9の延伸方向とを検出することができる。
【0084】
図8に示すように、基準画像保持部30aは、画像処理装置30の一部であり、ブーム9の先端部分の基準画像Isを予め保持している。基準画像Isは、ブーム9の先端部分を判定するための基準となる画像である。基準画像Isは、任意に定めた基準姿勢でのブーム9の先端部分の画像の少なくとも一部の画像から構成される。つまり、基準画像Isは、ブーム9の先端部分の基準姿勢を示す画像である。本実施形態において、基準姿勢は、所定の姿勢におけるブーム9とする。つまり、基準画像Isは、所定の起伏角度、伸縮長さおよび所定の旋回角度におけるブーム9の先端部分を所定距離だけ離隔した上方から所定の姿勢の撮影装置25で撮影した画像の少なくとも一部から構成されている。
【0085】
判定画像検出部30bは、画像処理装置30の一部であり、現在の画像Pから基準画像Isに該当する部分の画像を判定画像Ijとして検出する。判定画像Ijは、ブーム9の先端部分の基準姿勢に対する現在の画像Pにおけるブーム9の先端部分の画像である。つまり、判定画像Ijは、現在の画像Pにおけるブーム9の先端部分の基準画像Isに対する相対的な姿勢を算出するための画像である。判定画像Ijは、現在の画像Pにおけるブーム9の先端部分の少なくとも一部の画像から構成される。
【0086】
判定画像検出部30bは、選択した基準画像Isの特徴点を算出することができる。さらに、判定画像検出部30bは、現在の画像Pから特徴点を算出することができる。判定画像検出部30bは、基準画像Isの特徴点と現在の画像Pの特徴点とを比較し、現在の画像Pから基準画像Isに該当する部分を判定画像Ijとして検出することができる。
【0087】
姿勢判定部30cは、画像処理装置30の一部であり、現在のブーム9の延伸方向の方位Dを判定する。姿勢判定部30cは、基準画像Isと判定画像Ijとの比較から基準画像Isに対する判定画像Ijの形状、向きおよび傾きを算出可能に構成されている。姿勢判定部30cは、表示画面の座標系における基準画像Isの各部の座標と、表示画面の座標系における判定画像Ijの各部の座標とから、ブーム9の先端部分の基準姿勢に対する現在の表示画面の座標系におけるブーム9の先端座標Bとブーム9の延伸方向の方位Dを算出することができる。
【0088】
画像処理装置30は、検出したブーム9の先端部分の画像Pにおける大きさ、ブーム9の延伸方向、ブーム9の起伏角度、ブーム9の伸縮長さ、ブーム9の旋回角度およびブーム9の形状寸法等のブーム9の姿勢情報Ipとから、表示画面の座標系におけるブーム9の旋回中心の座標である旋回中心座標Cとを算出することができる。画像処理装置30は、算出した先端座標B、旋回中心座標C、ブーム9の方位Dを表示装置21に表示されている画像Pに重畳表示させる。
【0089】
画像処理装置30は、表示画面の座標系におけるブーム9の先端座標B、ブーム9の旋回中心座標Cおよびブーム9の姿勢情報Ipから、表示画面の座標系をブーム9の旋回中心を原点とするクレーン座標系に変換することができる。画像処理装置30は、表示画面の座標系における先端座標Bおよび旋回中心座標Cをクレーン座標系における変換先端座標Bcおよび変換旋回中心座標Ccに変換する。画像処理装置30は、変換先端座標Bc、変換旋回中心座標Ccおよび変換目標座標Tcを制御装置24に送信する。
【0090】
クレーン1Aは、画像処理装置30によって画像処理を行う場合、撮影装置25の無人飛行体26を搬送開始前のブーム9の先端の上方でホバリングさせる(
図6参照)。無人飛行体26は、ブーム9が移動してもブーム9が移動する前のホバリング位置を維持する。この際、画像処理装置30は、自動的に検出、または操縦者によって指定された建造物等の目標物の画面上の位置が変動しないように揺れ補正を行っているものとする。
【0091】
画像処理装置30は、通信機29を介してカメラ27が撮影したクレーン1Aの上方からの画像Pと撮影装置25の位置、姿勢等に関する情報とを単位時間毎に取得する(
図4参照)。合わせて、画像処理装置30は、制御装置24からブーム9の姿勢情報Ipを単位時間毎に取得する。画像処理装置30は、取得した画像Pを表示装置21に表示させる。
【0092】
画像処理装置30は、カメラ27が撮影した最新の画像Pからブーム9の先端部の画像である判定画像Ijを検出する。画像処理装置30には、様々なクレーン1Aのブーム9先端部分の画像からCNN(Convolutional Neural Network)を用いて検出されたブーム9の先端部分の画像である基準画像Isが予め格納されている(
図4参照)。
【0093】
画像処理装置30は、基準画像Isに基づいてCNNを用いた画像分類により、最新の画像Pからブーム9の先端部の画像である判定画像Ijを検出する。画像処理装置30は、検出した判定画像Ijとブーム9の姿勢情報Ipとから判定画像Ijにおけるブーム9の軸線の方位Dと、前記軸線上のブーム9の先端の位置を表示画面の座標系で示した先端座標Bと、ブーム9の旋回中心を表示画面の座標系で示した旋回中心座標Cを算出する。
【0094】
具体的には、画像処理装置30は、ブーム9の姿勢情報Ipであるブーム9先端の幅、ブーム9の起伏角度およびブーム9の伸縮長さから、ブーム9を上方から撮影した表示画面の座標系におけるブーム9の先端から基端までの長さを算出する。画像処理装置30は、算出した先端座標Bと軸線の方位Dとブーム9の先端から基端までの長さから旋回中心座標Cを算出する。これにより、画像処理装置30は、先端座標B、旋回中心座標C、軸線の方位Dおよびブーム9の姿勢情報Ipとから、表示画面の座標系を、ブーム9の旋回中心を原点とするクレーン座標系に変換することができる。画像処理装置30は、表示画面の座標系における先端座標Bおよび旋回中心座標Cをクレーン座標系における変換先端座標Bcおよび変換旋回中心座標Ccに変換する。なお、本実施形態においてクレーン座標系は、直交座標としているが、極座標でもよい。
【0095】
操縦者は、ブーム9の先端の目標位置を画像P上に入力する。操縦者は、画像Pに表示されているクレーン1Aのブーム9と、荷物Wの吊り上げ位置および荷物Wの設置位置との状況をクレーン1Aの上方から確認しながら目標位置を設定する。これにより、操縦者は、作業現場内の建造物の配置を踏まえて障害物を避けた搬送経路を直感的に設定することができる。
【0096】
このように構成することで、画像処理装置30は、カメラ27が撮影したクレーン1Aおよびクレーン1Aの周囲を含む画像Pにおいて、予め取得しているブーム9の先端部の画像Pとの比較等により、クレーン1Aの旋回中心座標Cとブーム9の先端座標Bとを自動的に算出する。制御装置24は、画像処理装置30によってブーム9の旋回中心座標Cと先端座標Bとを算出することにより、表示画面の座標系をクレーン1Aの旋回中心を基準とするクレーン座標系に変換することができる。
【0097】
なお、上述の実施形態において、画像Pには、ARマーカが含まれていてもよい。画像処理装置30は、画像Pに含まれるブーム9の形状からブーム9の先端座標B、旋回中心座標C等を算出している。しかしながら、ブーム9の一部に設けられているARマーカの画像が画像Pに含まれている場合、画像処理装置30は、画像P内のARマーカの位置からブーム9の先端座標Bおよび旋回中心座標Cを算出することができる。また、画像処理装置30は、ARマーカのヨー角から旋回中心座標Cを算出することができる。また、画像処理装置30は、ARマーカのロール角およびピッチ角から起伏角度を算出することができる。
【0098】
次に、
図9と
図10とを用いて、本発明の第3実施形態に係るクレーン1Bについて説明する。なお、以下の実施形態に係るクレーン1Bは、
図1から
図8に示すクレーン1、A1が適用されるものとして、その説明で用いた名称、図番、符号を用いることで、同じものを指す。
【0099】
図9に示すように、クレーン1Bは、任意の場所に移動可能な移動式クレーンである。クレーン1Bは、車両2、クレーン装置6、撮影装置25、表示装置21、第1GNSS受信機31、方位センサ32、第2GNSS受信機33、通信機34、画像処理装置30、制御装置24を有する。
【0100】
第1GNSS受信機31は、全球測位衛星システム(Global Navigation Satellite System)を構成する受信機である。第1GNSS受信機31は、衛星から測距電波を受信し、受信機の絶対座標である緯度、経度、標高を算出するものである。第1GNSS受信機31は、ブーム9の旋回中心に設けられている。クレーン1Bは、第1GNSS受信機31によって、ブーム9の旋回中心の絶対座標を取得することができる。なお、本実施形態において、第1GNSS受信機31は、ブーム9の旋回中心の絶対座標を検出しているが、ブーム9の姿勢を特定することができる位置であればよい。例えば、第1GNSS受信機31は、ブーム9の先端の絶対座標を検出する構成でもよい。
【0101】
方位センサ32は、方位を検出するものである。方位センサ32は、MRセンサ、MIセンサ等の地磁気センサ、2つのアンテナを有するGNSS受信機等から構成される。方位センサ32は、ブーム9の延伸方向の方位を検出する。方位センサ32は、ブーム9の旋回中心またはブーム9の先端に設けられている。方位センサ32は、第1GNSS受信機31が兼用する構成でもよい。
【0102】
第2GNSS受信機33は、全球測位衛星システムを構成する受信機である。第2GNSS受信機33は、衛星から測距電波を受信し、受信機の絶対座標である緯度、経度、標高を算出するものである。第2GNSS受信機33は、撮影装置25の無人飛行体26に設けられている。クレーン1Bは、第2GNSS受信機33によって、無人飛行体26に設けられているカメラ27の絶対座標を取得することができる。
【0103】
通信機34は、第1GNSS受信機31が算出した絶対座標を受信することができる。通信機34は、第2GNSS受信機33が算出した絶対座標を受信することができる。
【0104】
図10に示すように、画像処理装置30は、カメラ27が撮影した画像Pを処理する。画像処理装置30は、第1GNSS受信機31が受信した旋回中心の絶対座標である絶対旋回中心座標Caと、方位センサ32が算出したブーム9の延伸方向の方位Dと、第2GNSS受信機33が受信したカメラ27の絶対座標である絶対カメラ座標Iaと、ブーム9の姿勢情報Ipとから表示画面の座標系を絶対座標系に変換することができる。画像処理装置30は、ブーム9の先端の絶対座標である絶対先端座標Baを算出することができる。また、画像処理装置30は、変換式を用いて表示装置21に入力されたブーム9の先端の目標座標Tから絶対目標座標Taを算出することができる。画像処理装置30は、算出した絶対目標座標Taを、制御装置24に送信する。
【0105】
クレーン1Bは、画像処理装置30によって画像処理を行う場合、撮影装置25の無人飛行体26を搬送開始前のブーム9の先端の上方でホバリングさせる(
図6参照)。無人飛行体26は、ブーム9が移動してもブーム9が移動する前のホバリング位置を維持する。この際、画像処理装置30は、自動的に検出、または操縦者によって指定された建造物等の目標物の画面上の位置が変動しないように揺れ補正を行っているものとする。
【0106】
クレーン1Bの画像処理装置30は、通信機34を介してカメラ27が撮影したクレーン1Bの上方からの画像Pを単位時間毎に取得する。合わせて、画像処理装置30は、制御装置24からブーム9の姿勢情報Ipを単位時間毎に取得する。画像処理装置30は、取得した画像Pを表示装置21に表示させる。
【0107】
画像処理装置30は、第1GNSS受信機31から絶対旋回中心座標Caを取得し、方位センサ32からブーム9の延伸方向の方位Dを取得し、第2GNSS受信機33から絶対カメラ座標Iaを取得する。画像処理装置30は、絶対カメラ座標Iaと絶対旋回中心座標Caとの位置関係に基づいて、絶対旋回中心座標Caとブーム9の延伸方向の方位Dとブーム9の姿勢情報Ipとから絶対先端座標Baを算出する。
【0108】
画像処理装置30は、操縦者が表示装置21の画面上から入力した目標座標Tを算出する。画像処理装置30は、絶対カメラ座標Iaと、カメラ27の画角情報Iiとに基づいて、算出した目標座標Tから絶対目標座標Taを算出する。画像処理装置30は、算出した絶対目標座標Taを制御装置24に送信する。
【0109】
このように構成することで、制御装置24は、ブーム9の絶対旋回中心座標Caとブーム9の延伸方向の方位Dと絶対カメラ座標Iaと、カメラ27の画角情報Iiと、ブーム9の姿勢情報Ipとから、絶対先端座標Baを算出する。また、制御装置24は、絶対カメラ座標Iaとカメラ27の画角情報Iiとに基づいて表示画面の座標系における座標を絶対座標に変換する変換式を算出する。これにより、表示画面の座標系を絶対座標系に変換することができる。
【0110】
なお、上述の各実施形態において、クレーン1、1A、1Bは、表示装置21に表示された画像P上で目標位置を設定するように構成されているが、他の作業車両の座標を含む位置情報を取得すると、前記他の作業車両の座標を目標座標Tとする構成でもよい。
【0111】
本発明の他の実施形態として、他の作業車両(例えば、クレーン、高所作業車、トラック等)がGNSS受信機を備えている場合、クレーン1、1A、1Bの制御装置24は、通信機等を介して他の作業車両が有しているGNSS受信機から位置情報を取得できるように構成してもよい。また、他の作業車両がARマーカを有している場合、クレーン1、1A、1Bの制御装置24は、撮影装置25によってARマーカを撮影することで他の作業車両の位置情報を取得できるように構成してもよい。制御装置24は、取得した他の作業車両の位置情報からクレーン1、1A、1Bのクレーン座標系における他の作業車両の座標である変換目標座標Tcを算出する。また、制御装置24は、ブーム9の先端が所定の速度で所定の移動経路Rに沿って変換目標座標Tcに到達するためのクレーン装置用操作具19の操作信号を生成する。
【0112】
制御装置24は、前記他の作業車両を目標位置としてブーム9の先端を所定の移動経路Rで移動させるために必要なクレーン装置用操作具19の操作に関する情報を表示装置21に表示する。前記操縦者は、撮影装置25によって作業現場の状況をリアルタイムで把握しつつクレーン1、1A、1Bを操作することができる。また、操縦者は、クレーン装置用操作具19の現在操作位置に対する目標操作位置および操作順に従ってクレーン装置用操作具19を操作することでブーム9の先端を前記他の作業車両まで移動させることができる。これにより、作業車両は、操縦者の熟練度に関係なく、ブーム9の先端を所定の移動経路Rに沿って移動させることができる。
【0113】
なお、上述の各実施形態において、クレーン1、1A、1Bの制御装置24は、クレーン装置用操作具19の操作または表示装置21におけるクレーン装置用操作具19の位置を表す図形の移動が行われている間、クレーン装置6の各アクチュエータに制御信号を送信する。しかしながら、制御装置24は、ブーム9の先端が所定の移動経路Rから所定距離以上離隔するとブーム9の移動を停止させたり、その旨を報知したりする構成でもよい。
【0114】
また、上述の各実施形態において、クレーン1、1A、1Bの画像処理装置は、表示装置21に各操作具の現在操作位置、目標操作位置を図形で表示しているがこれに限定するものではない。画像処理装置は、各操作具の現在操作位置および目標操作位置をレベルインジケータによる表示、矢印による表示、図形の形状および色の変更等、現在操作位置と目標操作位置とを区別して視認できる形態で表示する構成であればよい。
【0115】
また、上述の各実施形態において、クレーン1、1A、1Bの制御装置24は、各操作具の現在操作位置が目標操作位置に一致したことを図形、色、文字またはアイコン等の表示、音による報知、操作具の振動、操作具の固定、操作具の操作抵抗の増加等によって操縦者に伝えるように構成されていてもよい。
【0116】
また、上述の各実施形態において、制御装置24は、前記他の作業車両を目標位置としてブーム9の先端を所定の移動経路Rで移動させるために必要なクレーン装置用操作具19の操作に関する情報を表示装置21に表示する。しかしながら、制御装置24は、ARマーカ等を用いてクレーン1、1A、1Bとの位置関係を認識することができれば、人、地物を目標位置として設定してもよい。
【0117】
上述の実施形態は、代表的な形態を示したに過ぎず、一実施形態の骨子を逸脱しない範囲で種々変形して実施することができる。さらに種々なる形態で実施し得ることは勿論のことであり、本発明の範囲は、特許請求の範囲の記載によって示され、さらに特許請求の範囲に記載の均等の意味、および範囲内のすべての変更を含む。
【符号の説明】
【0118】
1 クレーン
6 クレーン装置
9 ブーム
9b ブームカメラ
17 クレーン装置用センサ
18 走行用操作具
19 クレーン装置用操作具
21 表示装置
22 入力装置
23 画像処理装置
24 制御装置
P 画像
C 旋回中心座標
B 先端座標
T 目標座標
Sa 現在操作信号
Sb 現在操作信号
Pa 現在操作位置座標
Pb 目標操作位置座標