(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-12-13
(45)【発行日】2023-12-21
(54)【発明の名称】ガイド表示システムおよびこれを備えたクレーン
(51)【国際特許分類】
B66C 13/00 20060101AFI20231214BHJP
B66C 13/22 20060101ALI20231214BHJP
H04N 7/18 20060101ALI20231214BHJP
【FI】
B66C13/00 D
B66C13/22 Y
H04N7/18 J
(21)【出願番号】P 2020056814
(22)【出願日】2020-03-26
【審査請求日】2023-01-06
(73)【特許権者】
【識別番号】000148759
【氏名又は名称】株式会社タダノ
(73)【特許権者】
【識別番号】399030060
【氏名又は名称】学校法人 関西大学
(74)【代理人】
【識別番号】110002217
【氏名又は名称】弁理士法人矢野内外国特許事務所
(72)【発明者】
【氏名】石川 巖
(72)【発明者】
【氏名】小阪 孝幸
(72)【発明者】
【氏名】間嶋 勁太
(72)【発明者】
【氏名】窪田 諭
(72)【発明者】
【氏名】田中 成典
(72)【発明者】
【氏名】中原 匡哉
(72)【発明者】
【氏名】中畑 光貴
【審査官】加藤 三慶
(56)【参考文献】
【文献】特開2019-023774(JP,A)
【文献】特開2012-073856(JP,A)
【文献】特開2019-024150(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
B66C 13/00
B66C 13/22
B66C 13/46
H04N 7/18
(57)【特許請求の範囲】
【請求項1】
吊荷の上方から当該吊荷を含む点群データを取得するレーザスキャナと、
前記レーザスキャナが取得した点群データを用いて複数の面を作成するとともに当該複数の面によって三次元地図を作成するデータ処理部と、を備え、
所定時間ごとに前記三次元地図を作成するクレーンのガイド表示システムであって、
前記レーザスキャナは、地表面の上方から当該地表面を含む点群データを取得し、
前記データ処理部は、
前記三次元地図における前記吊荷に基準位置を設定し、
過去の前記基準位置から所定距離内に存在する現在の前記面を前記吊荷の面として設定することによって前記三次元地図における前記吊荷を追跡
し、
前記基準位置を前記吊荷の重心位置に設定し、
前記吊荷が前記地表面に置かれているときの前記三次元地図における当該吊荷と当該地表面との標高値の差を当該吊荷の高さ寸法として設定し、前記吊荷の高さ寸法を用いて当該吊荷の重心位置を算出する、ことを特徴とするガイド表示システム。
【請求項2】
吊荷の上方から当該吊荷を含む点群データを取得するレーザスキャナと、
前記レーザスキャナが取得した点群データを用いて複数の面を作成するとともに当該複数の面によって三次元地図を作成するデータ処理部と、を備え、
所定時間ごとに前記三次元地図を作成するクレーンのガイド表示システムであって、
前記レーザスキャナは、地物の上方から当該地物を含む点群データを取得し、
前記データ処理部は、
前記三次元地図における前記吊荷に基準位置を設定し、
過去の前記基準位置から所定距離内に存在する現在の前記面を前記吊荷の面として設定することによって前記三次元地図における前記吊荷を追跡
し、
前記基準位置を前記吊荷の重心位置に設定し、
前記吊荷が前記地物上に置かれているときの前記三次元地図における当該吊荷と当該地物との標高値の差を当該吊荷の高さ寸法として設定し、前記吊荷の高さ寸法を用いて当該吊荷の重心位置を算出する、ことを特徴とするガイド表示システム。
【請求項3】
吊荷の上方から当該吊荷を含む点群データを取得するレーザスキャナと、
前記レーザスキャナが取得した点群データを用いて複数の面を作成するとともに当該複数の面によって三次元地図を作成するデータ処理部と、を備え、
所定時間ごとに前記三次元地図を作成するクレーンのガイド表示システムであって、
前記レーザスキャナは、地表面の上方から当該地表面を含む点群データを取得するとともに、地物の上方から当該地物を含む点群データを取得し、
前記データ処理部は、
前記三次元地図における前記吊荷に基準位置を設定し、
過去の前記基準位置から所定距離内に存在する現在の前記面を前記吊荷の面として設定することによって前記三次元地図における前記吊荷を追跡
し、
前記基準位置を前記吊荷の重心位置に設定し、
前記吊荷が前記地表面に置かれているときの前記三次元地図における当該吊荷と当該地表面との標高値の差を当該吊荷の高さ寸法として設定し、前記吊荷の高さ寸法を用いて当該吊荷の重心位置を算出し、
前記吊荷が前記地物上に置かれているときの前記三次元地図における当該吊荷と当該地物との標高値の差を当該吊荷の高さ寸法として設定し、前記吊荷の高さ寸法を用いて当該吊荷の重心位置を算出する、ことを特徴とするガイド表示システム。
【請求項4】
前記吊荷の上方から当該吊荷を含む映像を撮影するカメラを備え、
前記データ処理部は、前記三次元地図における前記吊荷を追跡できなかった場合に前記映像における前記吊荷を画像解析により追跡する、ことを特徴とする請求項1から
請求項3のいずれか一項に記載のガイド表示システム。
【請求項5】
吊荷の上方から当該吊荷を含む映像を撮影するカメラと、
前記吊荷の上方から当該吊荷を含む点群データを取得するレーザスキャナと、
前記レーザスキャナが取得した点群データを用いて複数の面を作成するとともに当該複数の面によって三次元地図を作成するデータ処理部と、を備え、
所定時間ごとに前記三次元地図を作成するクレーンのガイド表示システムであって、
前記データ処理部は、
前記三次元地図における前記吊荷に基準位置を設定し、
過去の前記基準位置から所定距離内に存在する現在の前記面を前記吊荷の面として設定することによって前記三次元地図における前記吊荷を追跡
し、
前記三次元地図における前記吊荷を追跡できなかった場合に前記映像における前記吊荷を画像解析により追跡する、ことを特徴とするガイド表示システム。
【請求項6】
吊荷の上方から当該吊荷を含む映像を撮影するカメラと、
前記吊荷の上方から当該吊荷を含む点群データを取得するレーザスキャナと、
前記レーザスキャナが取得した点群データを用いて複数の面を作成するとともに当該複数の面によって三次元地図を作成するデータ処理部と、を備え、
所定時間ごとに前記三次元地図を作成するクレーンのガイド表示システムであって、
前記データ処理部は、
前記三次元地図における前記吊荷に基準位置を設定し、
前記基準位置を前記吊荷の重心位置に設定し、
過去の前記基準位置から所定距離内に存在する現在の前記面を前記吊荷の面として設定することによって前記三次元地図における前記吊荷を追跡
し、
前記三次元地図における前記吊荷を追跡できなかった場合に前記映像における前記吊荷を画像解析により追跡する、ことを特徴とするガイド表示システム。
【請求項7】
請求項1から請求項
6のいずれか一項に記載のガイド表示システムを備えたクレーン。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ガイド表示システムおよびこれを備えたクレーンに関する。
【背景技術】
【0002】
従来より、吊荷と吊荷周辺の地物について、位置および標高に関する情報をオペレータに提示できるガイド表示システムが公知となっている。かかるガイド表示システムは、特許文献1に開示されている。
【0003】
特許文献1に開示されたガイド表示システムは、レーザスキャナが取得した点群データを用いて複数の面を作成するとともに複数の面によって三次元地図を作成するデータ処理部を備えている。データ処理部は、吊荷や地物を取り囲むガイド枠図形などのガイド情報を生成し、カメラが撮影した映像に対してガイド情報を重ね合わせてデータ表示部に表示する。このようなガイド表示システムによれば、吊荷と吊荷周辺の地物について、位置および標高に関する情報をオペレータに提示できる。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1に開示されたガイド表示システムでは、オペレータが映像上で吊荷を指定することで、その指定位置に存在する平面が吊荷の上面を表すものとして設定される。そのため、吊荷が大きく揺れた場合などに吊荷が指定位置から外れてしまうことがあった。吊荷が指定位置から外れてしまうと吊荷のガイド情報が適切に表示されないため、オペレータがクレーンを操作する上で負担となる可能性があった。そこで、吊荷を追跡してガイド情報を表示できるガイド表示システムおよびこれを備えたクレーンが求められていた。
【0006】
本発明は、このような課題を鑑みてなされたものであり、吊荷を追跡してガイド情報を表示できるガイド表示システムを提供することを目的としている。また、かかるガイド情報システムを備えたクレーンを提供することを目的としている。
【課題を解決するための手段】
【0007】
本発明の解決しようとする課題は以上の如くであり、次にこの課題を解決するための手段を説明する。
【0008】
即ち、第一の発明は、
吊荷の上方から当該吊荷を含む点群データを取得するレーザスキャナと、
前記レーザスキャナが取得した点群データを用いて複数の面を作成するとともに当該複数の面によって三次元地図を作成するデータ処理部と、を備え、
所定時間ごとに前記三次元地図を作成するクレーンのガイド表示システムであって、
前記レーザスキャナは、地表面の上方から当該地表面を含む点群データを取得し、
前記データ処理部は、
前記三次元地図における前記吊荷に基準位置を設定し、
過去の前記基準位置から所定距離内に存在する現在の前記面を前記吊荷の面として設定することによって前記三次元地図における前記吊荷を追跡し、
前記基準位置を前記吊荷の重心位置に設定し、
前記吊荷が前記地表面に置かれているときの前記三次元地図における当該吊荷と当該地表面との標高値の差を当該吊荷の高さ寸法として設定し、前記吊荷の高さ寸法を用いて当該吊荷の重心位置を算出する、としたものである。
第二の発明は、
吊荷の上方から当該吊荷を含む点群データを取得するレーザスキャナと、
前記レーザスキャナが取得した点群データを用いて複数の面を作成するとともに当該複数の面によって三次元地図を作成するデータ処理部と、を備え、
所定時間ごとに前記三次元地図を作成するクレーンのガイド表示システムであって、
前記レーザスキャナは、地物の上方から当該地物を含む点群データを取得し、
前記データ処理部は、
前記三次元地図における前記吊荷に基準位置を設定し、
過去の前記基準位置から所定距離内に存在する現在の前記面を前記吊荷の面として設定することによって前記三次元地図における前記吊荷を追跡し、
前記基準位置を前記吊荷の重心位置に設定し、
前記吊荷が前記地物上に置かれているときの前記三次元地図における当該吊荷と当該地物との標高値の差を当該吊荷の高さ寸法として設定し、前記吊荷の高さ寸法を用いて当該吊荷の重心位置を算出する、としたものである。
【0009】
第三の発明は、
吊荷の上方から当該吊荷を含む点群データを取得するレーザスキャナと、
前記レーザスキャナが取得した点群データを用いて複数の面を作成するとともに当該複数の面によって三次元地図を作成するデータ処理部と、を備え、
所定時間ごとに前記三次元地図を作成するクレーンのガイド表示システムであって、
前記レーザスキャナは、地表面の上方から当該地表面を含む点群データを取得するとともに、地物の上方から当該地物を含む点群データを取得し、
前記データ処理部は、
前記三次元地図における前記吊荷に基準位置を設定し、
過去の前記基準位置から所定距離内に存在する現在の前記面を前記吊荷の面として設定することによって前記三次元地図における前記吊荷を追跡し、
前記基準位置を前記吊荷の重心位置に設定し、
前記吊荷が前記地表面に置かれているときの前記三次元地図における当該吊荷と当該地表面との標高値の差を当該吊荷の高さ寸法として設定し、前記吊荷の高さ寸法を用いて当該吊荷の重心位置を算出し、
前記吊荷が前記地物上に置かれているときの前記三次元地図における当該吊荷と当該地物との標高値の差を当該吊荷の高さ寸法として設定し、前記吊荷の高さ寸法を用いて当該吊荷の重心位置を算出する、としたものである。
【0010】
第四の発明は、
前記吊荷の上方から当該吊荷を含む映像を撮影するカメラを備え、
前記データ処理部は、前記三次元地図における前記吊荷を追跡できなかった場合に前記映像における前記吊荷を画像解析により追跡する、としたものである。
【0011】
第五の発明は、
吊荷の上方から当該吊荷を含む映像を撮影するカメラと、
前記吊荷の上方から当該吊荷を含む点群データを取得するレーザスキャナと、
前記レーザスキャナが取得した点群データを用いて複数の面を作成するとともに当該複数の面によって三次元地図を作成するデータ処理部と、を備え、
所定時間ごとに前記三次元地図を作成するクレーンのガイド表示システムであって、
前記データ処理部は、
前記三次元地図における前記吊荷に基準位置を設定し、
過去の前記基準位置から所定距離内に存在する現在の前記面を前記吊荷の面として設定することによって前記三次元地図における前記吊荷を追跡し、
前記三次元地図における前記吊荷を追跡できなかった場合に前記映像における前記吊荷を画像解析により追跡する、としたものである。
【0012】
第六の発明は、
吊荷の上方から当該吊荷を含む映像を撮影するカメラと、
前記吊荷の上方から当該吊荷を含む点群データを取得するレーザスキャナと、
前記レーザスキャナが取得した点群データを用いて複数の面を作成するとともに当該複数の面によって三次元地図を作成するデータ処理部と、を備え、
所定時間ごとに前記三次元地図を作成するクレーンのガイド表示システムであって、
前記データ処理部は、
前記三次元地図における前記吊荷に基準位置を設定し、
前記基準位置を前記吊荷の重心位置に設定し、
過去の前記基準位置から所定距離内に存在する現在の前記面を前記吊荷の面として設定することによって前記三次元地図における前記吊荷を追跡し、
前記三次元地図における前記吊荷を追跡できなかった場合に前記映像における前記吊荷を画像解析により追跡する、としたものである。
【0013】
第七の発明は、第一から第六の発明に係るガイド表示システムを備えたクレーンである、としたものである。
【発明の効果】
【0014】
本発明の効果として、以下に示すような効果を奏する。
【0015】
第一の発明に係るガイド表示システムは、三次元地図における吊荷に基準位置を設定し、過去の基準位置から所定距離内に存在する現在の面を吊荷の面として設定することによって三次元地図における吊荷を追跡し、基準位置を吊荷の重心位置に設定し、吊荷が地表面に置かれているときの三次元地図における吊荷と地表面との標高値の差を吊荷の高さ寸法として設定し、吊荷の高さ寸法を用いて吊荷の重心位置を算出する、としたものである。かかるガイド表示システムによれば、吊荷を追跡してガイド情報を表示できる。また、吊荷の重心位置から所定距離内にある面を吊荷の面として設定するため、より正確に吊荷の面の設定ができる。さらに、吊荷が地表面に置かれているときに吊荷の高さ寸法を自動的に設定できる。
第二の発明に係るガイド表示システムは、三次元地図における吊荷に基準位置を設定し、過去の基準位置から所定距離内に存在する現在の面を吊荷の面として設定することによって三次元地図における吊荷を追跡し、基準位置を吊荷の重心位置に設定し、吊荷が地物上に置かれているときの三次元地図における吊荷と地物との標高値の差を吊荷の高さ寸法として設定し、吊荷の高さ寸法を用いて当該吊荷の重心位置を算出する、としたものである。かかるガイド表示システムによれば、吊荷を追跡してガイド情報を表示できる。また、吊荷の重心位置から所定距離内にある面を吊荷の面として設定するため、より正確に吊荷の面の設定ができる。さらに、トラックの荷台などの地物上に吊荷が置かれているときでも吊荷の高さ寸法を自動的に設定できる。
【0016】
第三の発明に係るガイド表示システムは、地表面の上方から地表面を含む点群データを取得するとともに、地物の上方から地物を含む点群データを取得し、三次元地図における吊荷に基準位置を設定し、過去の基準位置から所定距離内に存在する現在の面を吊荷の面として設定することによって三次元地図における吊荷を追跡し、基準位置を吊荷の重心位置に設定し、吊荷が地表面に置かれているときの三次元地図における吊荷と地表面との標高値の差を吊荷の高さ寸法として設定し、吊荷の高さ寸法を用いて吊荷の重心位置を算出し、吊荷が地物上に置かれているときの三次元地図における吊荷と地物との標高値の差を吊荷の高さ寸法として設定し、吊荷の高さ寸法を用いて吊荷の重心位置を算出する、としたものである。かかるガイド表示システムによれば、吊荷を追跡してガイド情報を表示できる。また、吊荷の重心位置から所定距離内にある面を吊荷の面として設定するため、より正確に吊荷の面の設定ができる。さらに、吊荷が地表面に置かれているときに吊荷の高さ寸法を自動的に設定できる。また、トラックの荷台などの地物上に吊荷が置かれているときでも吊荷の高さ寸法を自動的に設定できる。
【0017】
第四の発明に係るガイド表示システムは、吊荷の上方から吊荷を含む映像を撮影するカメラを備え、三次元地図における吊荷を追跡できなかった場合に映像における吊荷を画像解析により追跡する、としたものである。かかるガイド表示システムによれば、前述の効果に加え、吊荷の点群データを取得できなかった場合でも、吊荷を追跡してガイド情報を表示できる。
【0018】
第五の発明に係るガイド表示システムは、吊荷の上方から吊荷を含む映像を撮影するカメラを備え、三次元地図における吊荷に基準位置を設定し、過去の基準位置から所定距離内に存在する現在の面を吊荷の面として設定することによって三次元地図における吊荷を追跡し、三次元地図における吊荷を追跡できなかった場合に映像における吊荷を画像解析により追跡する、としたものである。かかるガイド表示システムによれば、吊荷を追跡してガイド情報を表示できる。また、吊荷の点群データを取得できなかった場合でも、吊荷を追跡してガイド情報を表示できる。
【0019】
第六の発明に係るガイド表示システムは、吊荷の上方から吊荷を含む映像を撮影するカメラを備え、三次元地図における吊荷に基準位置を設定し、基準位置を吊荷の重心位置に設定し、過去の基準位置から所定距離内に存在する現在の面を吊荷の面として設定することによって三次元地図における吊荷を追跡し、三次元地図における吊荷を追跡できなかった場合に映像における吊荷を画像解析により追跡する、としたものである。かかるガイド表示システムによれば、吊荷を追跡してガイド情報を表示できる。また、吊荷の重心位置から所定距離内にある面を吊荷の面として設定するため、より正確に吊荷の面の設定ができる。さらに、吊荷の点群データを取得できなかった場合でも、吊荷を追跡してガイド情報を表示できる。
【0020】
第七の発明に係るクレーンは、第一から第六の発明に係るガイド表示システムを備えた、としたものである。かかるクレーンによれば、前述の効果と同様の効果を奏する。
【図面の簡単な説明】
【0021】
【
図1】本発明の一実施形態に係るクレーンを示す図。
【
図2】本発明の一実施形態に係るガイド表示システムを示す図。
【
図14】同一領域推定処理を経て生成されたガイド情報を示す図。
【発明を実施するための形態】
【0022】
まず、本発明の第一実施形態に係るクレーン1について説明する。
【0023】
図1に示すように、クレーン1は、不特定の場所に移動可能な移動式クレーンである。クレーン1は、走行車両2とクレーン装置6を備えている。
【0024】
走行車両2は、クレーン装置6を搬送するものである。走行車両2は、複数の車輪3を有し、エンジン4を動力源として走行する。走行車両2には、アウトリガ5が設けられている。アウトリガ5は、走行車両2の幅方向に延伸するビームと地表面Fに接地して走行車両2を支持するジャッキシリンダで構成されている。
【0025】
クレーン装置6は、吊荷Wを吊り上げた状態で搬送するものである。クレーン装置6は、ブーム7を備えている。ブーム7には、ワイヤロープ8が架け渡されている。ブーム7の先端部分から垂下するワイヤロープ8には、フック9が取り付けられている。また、ブーム7の基端側近傍には、ウインチ10が配置されている。尚、クレーン装置6は、ブーム7の側方にキャビン11を備えている。キャビン11の内部には、旋回操作具19や伸縮操作具20、起伏操作具21、巻回操作具22などが設けられている(
図2参照)。
【0026】
ブーム7は、アクチュエータによって旋回自在となっている。本願においては、かかるアクチュエータを旋回用モータ12と定義する。旋回用モータ12は、電磁比例切換弁である旋回用バルブ23によって適宜に稼動する(
図2参照)。つまり、旋回用モータ12は、旋回用バルブ23が作動油の流量や流動方向を切り替えることで適宜に稼動する。尚、旋回用バルブ23は、制御装置18の指示に基づいて稼動する。ブーム7の旋回角度は、旋回用センサ27によって検出される(
図2参照)。
【0027】
また、ブーム7は、アクチュエータによって伸縮自在となっている。本願においては、かかるアクチュエータを伸縮用シリンダ13と定義する。伸縮用シリンダ13は、電磁比例切換弁である伸縮用バルブ24によって適宜に稼動する(
図2参照)。つまり、伸縮用シリンダ13は、伸縮用バルブ24が作動油の流量や流動方向を切り替えることで適宜に稼動する。尚、伸縮用バルブ24は、制御装置18の指示に基づいて稼動する。ブーム7の伸縮長さは、伸縮用センサ28によって検出される(
図2参照)。
【0028】
更に、ブーム7は、アクチュエータによって起伏自在となっている。本願においては、かかるアクチュエータを起伏用シリンダ14と定義する。起伏用シリンダ14は、電磁比例切換弁である起伏用バルブ25によって適宜に稼動する(
図2参照)。つまり、起伏用シリンダ14は、起伏用バルブ25が作動油の流量や流動方向を切り替えることで適宜に稼動する。尚、起伏用バルブ25は、制御装置18の指示に基づいて稼動する。ブーム7の起伏角度は、起伏用センサ29によって検出される(
図2参照)。
【0029】
加えて、フック9は、アクチュエータによって昇降自在となっている。本願においては、かかるアクチュエータを巻回用モータ15と定義する。巻回用モータ15は、電磁比例切換弁である巻回用バルブ26によって適宜に稼動する(
図2参照)。つまり、巻回用モータ15は、巻回用バルブ26が作動油の流量や流動方向を切り替えることで適宜に稼動する。尚、巻回用バルブ26は、制御装置18の指示に基づいて稼動する。フック9の吊下長さは、巻回用センサ30によって検出される(
図2参照)。
【0030】
ところで、本願においては、クレーン1に対してXYZ座標系を規定している。XYZ座標系におけるX軸方向(奥行方向とも呼ぶ)は、ブーム7の起伏支点の軸方向に対して垂直、かつ重力方向に対して垂直な方向となっている。また、XYZ座標系におけるY軸方向(水平方向とも呼ぶ)は、ブーム7の起伏支点の軸方向に対して平行、かつ重力方向に対して垂直な方向となっている。更に、XYZ座標系におけるZ軸方向(鉛直方向とも呼ぶ)は、ブーム7の起伏支点の軸方向に対して垂直、かつ重力方向に対して平行な方向となっている。
【0031】
次に、本発明の一実施形態に係るガイド表示システム50について説明する。
【0032】
図2に示すように、ガイド表示システム50は、クレーン1の制御装置18と連携している。ガイド表示システム50は、データ取得部60とデータ処理部70とデータ表示部80とデータ入力部90を備えている。
【0033】
データ取得部60は、後述するガイド情報を生成するために必要な情報を取得するものである。データ取得部60は、カメラ61とレーザスキャナ62と慣性計測装置63と第一測位装置64が一体に構成されたセンサユニット66を有している。センサユニット66は、ブーム7の先端部分にジンバルを介して取り付けられている(
図1参照)。
【0034】
カメラ61は、作業領域の一部を撮影するものである。カメラ61は、適宜なスペックを有しており、撮影した映像i(
図8(A)参照)をデータ処理部70へ出力する。尚、カメラ61は、吊荷Wの上方から吊荷Wならびに吊荷W周辺の地表面F(地物Eを含む)を含む映像iを撮影する。そのため、データ処理部70は、吊荷Wならびに吊荷W周辺の地表面F(地物Eを含む)についての映像iを取得することができる。
【0035】
レーザスキャナ62は、作業領域の一部について点群データPを取得するものである(
図3参照)。レーザスキャナ62は、適宜なスペックを有しており、取得した点群データPをデータ処理部70へ出力する。尚、レーザスキャナ62は、吊荷Wの上方から吊荷Wならびに吊荷W周辺の地表面F(地物Eを含む)を走査する。つまり、レーザスキャナ62は、作業領域の一部にある吊荷W、地表面F(地物Eを含む)を含む点群データPを取得する。そのため、データ処理部70は、吊荷Wならびに吊荷W周辺の地表面F(地物Eを含む)についての点群データPを取得することができる。
【0036】
慣性計測装置(Inertial Measurement Unit:以下「IMU」とする)63は、センサユニット66の姿勢に関する情報(具体的にはカメラ61とレーザスキャナ62の姿勢に関する情報)を取得するものである。IMU63は、適宜なスペックを有しており、取得したカメラ61とレーザスキャナ62の姿勢に関する情報をデータ処理部70へ出力する。そのため、データ処理部70は、カメラ61とレーザスキャナ62の姿勢に関する情報を取得することができる。
【0037】
第一測位装置(Global Navigation Satellite System:以下「GNSS受信機」とする)64は、GNSS衛星から発せられた電波を受信することでセンサユニット66の緯度、経度、標高値(具体的にはレーザスキャナ62の座標値)を取得するものである。GNSS受信機64は、適宜なスペックを有しており、取得したレーザスキャナ62の座標値をデータ処理部70へ出力する。そのため、データ処理部70は、レーザスキャナ62の座標値を取得することができる。
【0038】
加えて、データ取得部60においては、第二測位装置65がクレーン装置6の旋回中心位置に配置されている。第二測位装置(Global Navigation Satellite System:以下「GNSS受信機」とする)65は、GNSS衛星から発せられた電波を受信することでクレーン装置6の旋回中心の緯度、経度、標高値(具体的にはクレーン装置6の旋回中心の座標値)を取得するものである。GNSS受信機65は、適宜なスペックを有しており、取得した旋回中心の座標値をデータ処理部70へ出力する。そのため、データ処理部70は、クレーン装置6の旋回中心の座標値を取得することができる。
【0039】
このように、ガイド表示システム50は、レーザスキャナ62の座標値とクレーン装置6の旋回中心の座標値によってブーム7を基線としたGNSSコンパスを構成している。このため、データ処理部70は、レーザスキャナ62の向きを算出することができる。また、ガイド表示システム50では、点群データPおよびIMU63の計測時刻がGNSS衛星の原子時計の時刻(以下「GNSS時刻」とする)で同期していることを要件としている。尚、GNSS受信機64とGNSS受信機65には、測位精度の高いRTK(Real Time Kinematic)測位方式を採用している。但し、RTK測位方式に限定せず、他の測位方式を採用していてもよい。
【0040】
データ処理部70は、データ取得部60と接続されており、様々な処理を行うものである。データ処理部70は、例えば汎用のコンピュータによって構成されている。尚、データ処理部70は、センサユニット66の近傍に配置されている。但し、データ処理部70は、キャビン11の内部など他の場所に配置されていてもよい。もちろん持ち運び可能なものであってもよい。
【0041】
データ表示部80は、データ処理部70と接続されており、様々な情報を映し出すものである。データ表示部80は、例えば汎用のモニタによって構成されている。尚、データ表示部80は、キャビン11の内部に配置されている。そのため、クレーン1のオペレータに対して情報を提示できる。もちろんデータ処理部70が持ち運び可能なものである場合などでは、一体となったモニタであってもよい。
【0042】
データ入力部90は、データ処理部70と接続されており、様々な数値を入力或いは設定を変更するものである。データ入力部90は、例えば汎用のキーボードやマウス、タッチパネルによって構成されている。尚、データ入力部90も、キャビン11の内部に配置されている。そのため、クレーン1のオペレータが自在に数値を入力或いは設定を変更できる。もちろんデータ処理部70が持ち運び可能なものである場合などでは、一体となったキーボードやマウス、タッチパネルであってもよい。
【0043】
次に、レーザスキャナ62による走査態様について説明する。
【0044】
図3に示すように、レーザスキャナ62は、地表面Fに対して上方からレーザ光を照射する。レーザスキャナ62は、複数のレーザ発信機ならびにレーザ受信機を備えており、同時に複数本のレーザ光を照射して同時に複数個の点データp(点データpの集合が点群データPである)を取得できる。
【0045】
具体的に説明すると、レーザスキャナ62は、合計16個のレーザ発信機を備えており、同時に16本のレーザ光を照射できる。それぞれのレーザ発信機は、Y軸方向を中心に2°ずつ照射角度を異にしている。また、それぞれのレーザ発信機は、X軸を中心に連続的に位相角を変えて照射可能に構成されている。そのため、レーザスキャナ62は、地表面Fの所定範囲に対してレーザ光を照射できる。
【0046】
更に、レーザスキャナ62は、合計16個のレーザ受信機を備えており、同時に16本のレーザ光の反射光を検出できる。それぞれのレーザ受信機は、Y軸方向を中心に2°ずつ検出角度を異にしている。また、それぞれのレーザ受信機は、レーザ発信機から発信されたレーザ光と同じ光路で反射光を検出可能に構成されている。こうして、レーザスキャナ62は、地表面Fを覆う点群データPを取得できるのである。尚、点群データPを取得できる範囲は、カメラ61によって撮影される範囲である計測領域Rを含んでいる。
【0047】
このように構成することで、データ処理部70は、計測領域Rを含む範囲について点群データPを取得できる。レーザスキャナ62は、吊荷Wの上方から吊荷Wならびに吊荷W周辺の地表面F(地物Eを含む)を走査するため、点群データPには、吊荷W、地表面F、地物Eが表れることとなる(
図8(B)参照)。点群データPを構成する各点データpには、IMU63やGNSS受信機64・65によって取得された様々な情報が付加される。例えば姿勢情報や位置情報などである。
【0048】
次に、データ処理部70による処理の流れについて説明する。
【0049】
図4に示すように、データ処理部70は、点群データ補正工程STEP-1と三次元地図作成工程STEP-2とクラスタリング工程STEP-3と作業領域可視化工程STEP-4を行う。これらの工程は、所定時間(1フレーム時間)ごとに繰り返し行われる。尚、フレームとは、ある時刻の点群データPに基づいて作成される三次元地
図Mを指している(
図8(B)参照)。
【0050】
点群データ補正工程STEP-1は、レーザスキャナ62、IMU63、GNSS64・65による情報を基に現在時刻から最も近い時刻の点群データP、姿勢情報および位置情報を取得し、レーザスキャナ62の向きを算出する。そして、姿勢情報、位置情報および向きを用いて点群データPの位置と傾きを補正し、これを補正済みの点群データPとして出力する(
図5参照)。
【0051】
具体的に説明すると、点群データ補正工程STEP-1は、時刻同期処理STEP-11と剛体変換処理STEP-12で構成されている。
【0052】
時刻同期処理STEP-11は、現在時刻から最も近い時刻で、かつ計測領域Rの端から端までを一巡したレーザスキャナ62、IMU63、GNSS64・65による情報同士をGNSS時刻にて同期する。そして、同期済みの点データp、姿勢情報、位置情報の組み合わせを出力する。
【0053】
剛体変換処理STEP-12は、同期済みの点データp、姿勢情報、位置情報の組み合わせを一つ取得する。そして、取得した姿勢情報を用いて点データpの座標値を剛体変換し、点データpの座標系を平面直角座標系に変換して傾き、位置および向きを補正した点群データPを出力する。
【0054】
三次元地図作成工程STEP-2は、異なる時期や位置から取得した補正済みの点群データP同士を重ね合わせ、格子状のグリッド(複数の点データpを含む格子状に分割された領域である)Gに分割し、グリッドGごとに代表点Prを算出する(
図6(A)参照)。そして、代表点Prに基づいて面を作成することで、これを作業領域の三次元地
図Mとして出力する(
図6(B)参照)。つまり、点群データPを用いて複数の面を作成するとともに複数の面によって三次元地
図Mを作成する。
【0055】
具体的に説明すると、三次元地図作成工程STEP-2は、グリッド生成処理STEP-21と三次元地図更新処理STEP-22で構成されている。
【0056】
グリッド生成処理STEP-21は、補正済みの点群データP同士を重ね合わせて格子状のグリッドGに分割する。そして、グリッドGに含まれる点データpの標高値(座標値の高さ成分)について平均値を算出し、グリッドGの重心位置に高さ成分を平均値とした代表点Prを設定する。
【0057】
三次元地図更新処理STEP-22は、グリッドGごとに新たに設定された代表点Prを取得する。また、前回に設定された既存の代表点Prも取得する。そして、新たに設定された代表点Prと既存の代表点Prが異なる場合に新たに設定された代表点Prに基づく面を作成して三次元地
図Mを出力する。
【0058】
クラスタリング工程STEP-3は、上下左右に隣り合うグリッドGの代表点Prについて互いの代表点Prの高さ成分の関係性から特定領域に対してラベルLを付与する(
図7(A)参照)。なお、
図7(A)等に示す丸囲み数字がラベルLを表している。そして、同じラベルLが付された特定領域について吊荷Wに相当する特定領域を吊荷Wとし、地表面Fに相当する特定領域を地表面Fとして出力する(
図7(B)参照)。更に、それ以外の特定領域を地物Eとして出力する(
図7(C)参照)。
【0059】
具体的に説明すると、クラスタリング工程STEP-3は、ラベリング処理STEP-31と同一領域推定処理STEP-32と地物領域推定処理STEP-33で構成されている。
【0060】
ラベリング処理STEP-31は、格子状に並ぶグリッドGを画素に見立てる。また、各グリッドGに存在する代表点Prの高さ成分を輝度値に見立てる。そして、上下左右に隣り合うグリッドGの輝度値を所定の定めに基づいて比較し、特定領域に対してラベルLを付与する。
【0061】
同一領域推定処理STEP-32は、同じラベルLが付された特定領域を一つの平面に見立てる。そして、後述する処理により追跡される特定領域を吊荷Wとして出力する。また、最も点データpが多い特定領域を地表面Fとして出力する。
【0062】
地物領域推定処理STEP-33は、吊荷Wや地表面Fとされた特定領域以外について代表点Prの集合を特定領域として取得する。そして、この特定領域に最も近い地表面Fとされた特定領域を取得した上で高さ成分の平均値を算出し、平均値の差が同じ特定領域の高さ成分の差以下の場合に地物Eとして出力する。
【0063】
作業領域可視化工程STEP-4は、吊荷Wや地物Eを取り囲むガイド枠図形GD1などのガイド情報(標高を表す数値GD2・GD3を含む)を生成し、カメラ61が撮影した映像iに対してガイド情報を重ね合わせてデータ表示部80に出力する(
図8(A)参照)。また、吊荷W、地表面F、地物Eの三次元的な位置関係を表す三次元地
図Mについて可視化して出力する(
図8(B)参照)。
【0064】
具体的に説明すると、作業領域可視化工程STEP-4は、領域可視化処理STEP-41と三次元地図可視化処理STEP-42で構成されている。
【0065】
領域可視化処理STEP-41は、レーザスキャナ62の位置と向きに基づいて吊荷Wや地物Eの映像iにおける位置を算出する。そして、吊荷Wや地物Eを取り囲むガイド枠図形GD1を生成し、映像iにおける吊荷Wや地物Eに対してガイド枠図形GD1を重ね合わせて出力する。また、吊荷Wの標高を表す数値GD2や地物Eの標高を表す数値GD3についても出力する。
【0066】
三次元地図可視化処理STEP-42は、ラベルLが付された吊荷W、地表面F、地物EについてグリッドGごとに代表点Prの座標値を取得する。そして、グリッドGごとに代表点Prを重心とする面を作成する。このとき、面の一辺の幅は、グリッドGの幅と同じとする。その後、吊荷W、地表面F、地物Eごとに着色を行って、これを三次元地
図Mとして可視化するのである。
【0067】
次に、同一領域推定処理STEP-32の流れについて説明する。尚、本実施形態において、吊荷Wの高さ寸法hは、その値(例えば実測値)が設定されているものとして説明する。
【0068】
前述したように、データ処理部70は、クラスタリング工程STEP-3にて同一領域推定処理STEP-32を行う。
【0069】
図9に示すように、同一領域推定処理STEP-32は、複数の処理によって構成されている。以下に説明する処理の流れは、本ガイド表示システム50に採用された一例である。但し、本願に掲げる発明を実現できればよく、処理の流れについて限定するものではない。
【0070】
第一処理STEP-321において、データ処理部70は、オペレータの手動操作によって指定される映像i上の指定位置Spを取得する(
図10(A)参照)。そして、指定位置Spに存在する特定領域を吊荷Wとして出力する。このようにすることで、三次元地
図Mにおける吊荷Wの位置が取得される。吊荷Wの位置を取得した後には、第二処理STEP-322へ移行する。
【0071】
第二処理STEP-322において、データ処理部70は、過去の基準位置Rpから所定距離D内に存在する現在の面Sを吊荷Wの面Sとして設定する(
図10(B)参照)。そして、吊荷Wの面Sで構成される特定領域にラベルL(例えば新たに採番されるラベルL)を再度付与し、この特定領域を吊荷Wとして出力する。基準位置Rpとは、吊荷Wの面Sであるか否かを判断するための基準となる位置であり、後述の第四処理STEP-324が行われるごと(1フレームごと)に設定される。過去の基準位置Rpとは、例えば所定時間前(1フレーム前)に設定された基準位置Rpである。現在の面Sとは、最新(現在フレーム)の三次元地
図Mに含まれる面Sである。所定距離Dとは、吊荷Wの面Sであるか否かを判断するための基準となる距離であり、所定時間内の吊荷Wの移動距離として想定される最大距離よりも大きく設定されることが好ましい。これは、想定される最大速度で吊荷Wが移動したとしても、適切に吊荷Wの面Sを設定できるようにするためである。過去の基準位置Rpから所定距離D内に存在する現在の面Sを吊荷Wの面Sとして設定した後には、第三処理STEP-323へ移行する。
【0072】
尚、第二処理STEP-322において、過去の基準位置Rpが設定されていない場合(第一処理STEP-321において、吊荷Wの位置を取得した直後の場合)は、第一処理STEP-321において出力した吊荷Wの特定領域の面Sを吊荷Wの面Sとして設定する。
【0073】
第三処理STEP-323において、データ処理部70は、吊荷Wの面Sを結合する(
図10(C)参照)。このとき、吊荷Wの高さ寸法hを用いることで、三次元地
図Mにおける吊荷Wの形状が定められる。吊荷Wの面Sを結合した後には、第四処理STEP-324へ移行する。
【0074】
第四処理STEP-324において、データ処理部70は、三次元地
図Mにおける吊荷Wに基準位置Rpを設定する(
図10(D)参照)。例えば基準位置Rpは、三次元地
図Mにおける吊荷Wの表面又は内部に設定される。
【0075】
基準位置Rpが設定された後の同一領域推定処理STEP-32において、データ処理部70は、第一処理STEP-321を行わず、第二処理STEP-322から第四処理STEP-324までを行う。つまり、1フレームごとに第二処理STEP-322から第四処理STEP-324までを繰り返す。
【0076】
図14に示すように、データ処理部70は、吊荷Wが大きく揺れた場合などに吊荷Wが指定位置Spから外れてしまったとしても、吊荷Wに対してガイド情報(ガイド枠図形GD1、吊荷Wの標高を表す数値GD2)を表示できる。具体的には、データ処理部70は、吊荷W上に指定位置Spが位置するとき(
図10(A)参照)に、第一処理STEP-321において、指定位置Spに基づいて三次元地
図Mにおける吊荷Wの位置を取得している。その後、データ処理部70は、第二処理STEP-322から第四処理STEP-324までを繰り返して、1フレームごとに吊荷Wの面Sの設定、吊荷Wの面Sの結合、基準位置Rpの設定を行っている。このようにすることで、データ処理部70は、吊荷Wが大きく揺れた場合などに移動する吊荷Wを追跡して、吊荷Wに対してガイド情報(ガイド枠図形GD1、吊荷Wの標高を表す数値GD2)を表示している。
【0077】
このように、ガイド表示システム50は、三次元地
図Mにおける吊荷Wに基準位置Rpを設定し、過去の基準位置Rpから所定距離D内に存在する現在の面Sを吊荷Wの面Sとして設定することによって三次元地
図Mにおける吊荷Wを追跡する、としたものである。かかるガイド表示システム50によれば、吊荷Wを追跡してガイド情報(ガイド枠図形GD1、吊荷Wの標高を表す数値GD2)を表示できる。
【0078】
次に、第二実施形態に係るガイド表示システム50について説明する。本実施形態においては、吊荷Wを吊り上げる前にオペレータが指定位置Spを指定しているものとして説明する。尚、以下においては、第一実施形態に係るガイド表示システム50の説明で用いた名称と符号を用いることで、同じものを指すこととする。また、第一実施形態に係るガイド表示システム50に対して相違する部分を中心に説明する。
【0079】
図11に示すように、第五処理STEP-325において、データ処理部70は、吊荷Wが地表面Fに置かれているか否かを判断する。例えば前述の格子状に並ぶグリッドGにおいて、吊荷Wの外縁に隣接するグリッドGが地表面Fのみの場合に吊荷Wが地表面Fに置かれていると判断することができる(
図7(C)参照)。或いは、吊荷Wが地表面Fに置かれていることをオペレータがデータ入力部90に入力し、入力された情報に基づいて吊荷Wが地表面Fに置かれていると判断してもよい。吊荷Wが地表面Fに置かれている場合には、第六処理STEP-326へ移行し、吊荷Wが地表面Fに置かれていない場合には、第七処理STEP-327へ移行する。
【0080】
第六処理STEP-326において、データ処理部70は、三次元地
図Mにおける吊荷Wと地表面Fとの標高値の差を吊荷Wの高さ寸法hとして設定する(
図12(A)参照)。例えば地表面Fの標高値は、吊荷Wの下面の外縁に隣接する地表面Fの標高値が用いられる。吊荷Wの高さ寸法hを設定した後には、第二処理STEP-322へ移行する。
【0081】
第七処理STEP-327において、データ処理部70は、三次元地
図Mにおける吊荷Wと地物Eとの標高値の差を吊荷Wの高さ寸法hとして設定する(
図12(B)参照)。例えば地物Eの標高値は、吊荷Wの下面の外縁に隣接する地物Eの標高値が用いられる。吊荷Wの高さ寸法hを設定した後には、第二処理STEP-322へ移行する。
【0082】
第八処理STEP-328において、データ処理部70は、基準位置Rpを吊荷Wの重心位置Gpに設定する(
図12(C)参照)。吊荷Wの重心位置Gpは、吊荷Wの高さ寸法hを用いて算出される。
【0083】
このように、ガイド表示システム50は、基準位置Rpを吊荷Wの重心位置Gpに設定する、としたものである。かかるガイド表示システム50によれば、前述の効果に加え、吊荷Wの重心位置Gpから所定距離D内にある面Sを吊荷Wの面Sと設定するため、より正確に吊荷Wの面Sの設定ができる。
【0084】
加えて、ガイド表示システム50は、地表面Fの上方から地表面Fを含む点群データPを取得し、吊荷Wが地表面Fに置かれているときの三次元地
図Mにおける吊荷Wと地表面Fとの標高値の差を吊荷Wの高さ寸法hとして設定し、吊荷Wの高さ寸法hを用いて吊荷Wの重心位置Gpを算出する、としたものである。かかるガイド表示システム50によれば、前述の効果に加え、吊荷Wが地表面Fに置かれているときに吊荷Wの高さ寸法hを自動的に設定できる。
【0085】
加えて、ガイド表示システム50は、地物Eの上方から地物Eを含む点群データPを取得し、吊荷Wが地物E上に置かれているときの三次元地
図Mにおける吊荷Wと地物Eとの標高値の差を吊荷Wの高さ寸法hとして設定し、吊荷Wの高さ寸法hを用いて吊荷Wの重心位置Gpを算出する、としたものである。かかるガイド表示システム50によれば、前述の効果に加え、トラックの荷台などの地物E上に吊荷Wが置かれているときでも吊荷Wの高さ寸法hを自動的に設定できる。
【0086】
次に、第三実施形態に係るガイド表示システム50について説明する。
【0087】
図13に示すように、第九処理STEP-329において、データ処理部70は、三次元地
図Mにおける吊荷Wを追跡できた否かを判断する。三次元地
図Mにおける吊荷Wを追跡できなかった場合は、例えば吊荷Wにレーザ光が照射されず、基準位置Rpから所定距離D内に存在する面Sが存在しないなどの状況で生じる。つまり、基準位置Rpから所定距離D内に存在する面Sが存在しない場合などに三次元地
図Mにおける吊荷Wを追跡できなかったと判断する。三次元地
図Mにおける吊荷Wを追跡できた場合には、第三処理STEP-323へ移行し、三次元地
図Mにおける吊荷Wを追跡できなかった場合には、第十処理STEP-3210へ移行する。
【0088】
第十処理STEP-3210において、データ処理部70は、映像iにおける吊荷Wを画像解析により追跡する。そして、映像iと三次元地
図Mを対応付けることで、三次元地
図Mにおける吊荷Wの面Sの設定を行う。例えば画像解析による追跡手法として、機械学習アルゴリズムを用いたCSRT(Channel and Spatial Reliability Tracking)法などを採用できる。吊荷Wを追跡した後には、第三処理STEP-323へ移行する。
【0089】
このように、ガイド表示システム50は、吊荷Wの上方から吊荷Wを含む映像iを撮影するカメラ61を備え、三次元地
図Mにおける吊荷Wを追跡できなかった場合に映像iにおける吊荷Wを画像解析により追跡する、としたものである。かかるガイド表示システム50によれば、前述の効果に加え、吊荷Wの点群データPを取得できなかった場合でも、吊荷Wを追跡してガイド情報(ガイド枠図形GD1、吊荷Wの標高を表す数値GD2)を表示できる。
【0090】
最後に、発明の対象をガイド表示システム50からガイド表示システム50を備えたクレーン1とすることも考えられる。
【0091】
即ち、クレーン1は、ガイド表示システム50を備えている、としたものである。かかるクレーン1によれば、前述の効果と同様の効果を奏する。
【符号の説明】
【0092】
1 クレーン
50 ガイド表示システム
60 データ取得部
61 カメラ
62 レーザスキャナ
63 慣性計測装置(IMU)
64 第一測位装置(GNSS受信機)
65 第二測位装置(GNSS受信機)
66 センサユニット
70 データ処理部
80 データ表示部
90 データ入力部
D 所定距離
E 地物
F 地表面
G グリッド
GD1 ガイド情報(ガイド枠図形)
GD2 ガイド情報(吊荷の標高を表す数値)
Gp 重心位置
h 吊荷の高さ寸法
i 映像
M 三次元地図
P 点群データ
p 点データ
Pr 代表点
Rp 基準位置
S 面
W 吊荷