(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023163561
(43)【公開日】2023-11-10
(54)【発明の名称】積荷配置支援装置、積載型トラッククレーンおよびプログラム
(51)【国際特許分類】
B65G 67/04 20060101AFI20231102BHJP
【FI】
B65G67/04
【審査請求】未請求
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2022074536
(22)【出願日】2022-04-28
(71)【出願人】
【識別番号】000148759
【氏名又は名称】株式会社タダノ
(74)【代理人】
【識別番号】100095407
【弁理士】
【氏名又は名称】木村 満
(74)【代理人】
【識別番号】100131152
【弁理士】
【氏名又は名称】八島 耕司
(74)【代理人】
【識別番号】100145229
【弁理士】
【氏名又は名称】秋山 雅則
(74)【代理人】
【識別番号】100201352
【弁理士】
【氏名又は名称】豊田 朝子
(72)【発明者】
【氏名】オソシニスキ マレク
【テーマコード(参考)】
3F076
【Fターム(参考)】
3F076AA01
3F076CA03
3F076CA07
3F076FA01
(57)【要約】
【課題】積載型トラッククレーンの荷積み作業において、積荷を配置する作業を支援する。
【解決手段】積荷配置支援装置1は、キャブおよび荷台を有する積載型トラッククレーンのブーム先端部から撮影された俯瞰画像を取得する画像取得部10と、俯瞰画像の中の積載対象の吊荷を指定する入力を受け付ける入力部13と、ブーム先端部から吊荷までの距離を取得する深度取得部11と、俯瞰画像および距離から吊荷の形状を認識する対象認識部14と、荷台の空き領域を認識する領域認識部12と、荷台の空き領域の中で、吊荷の重心がキャブに最も近い配置のうち、吊荷を配置した後の一つの図形で最大の残り領域の面積を該残り領域の外周長で除した値が最大である配置を、推奨積荷配置として決定する積荷配置生成部15と、推奨積荷配置を表示する表示部16と、を備える。
【選択図】
図1
【特許請求の範囲】
【請求項1】
キャブおよび荷台を有する積載型トラッククレーンのブーム先端部から撮影された俯瞰画像を取得する画像取得部と、
前記俯瞰画像の中の積載対象の吊荷を指定する入力を受け付ける入力部と、
前記ブーム先端部から前記吊荷までの距離を取得する深度取得部と、
前記俯瞰画像および前記距離から前記吊荷の形状を認識する対象認識部と、
前記荷台の空き領域を認識する領域認識部と、
前記荷台の空き領域の中で、前記吊荷の重心が前記キャブに最も近い配置のうち、前記吊荷を配置した後の一つの図形で最大の残り領域の面積を該残り領域の外周長で除した値が最大である配置を、推奨積荷配置として決定する積荷配置生成部と、
前記推奨積荷配置を表示する表示部と、
を備える積荷配置支援装置。
【請求項2】
前記積荷配置生成部は、前記荷台に積載されている既積載荷がある場合に、前記吊荷の取り得る積荷配置のうち、前記既積載荷の重心と前記吊荷の重心の前記荷台の横方向の距離が遠い方を、前記推奨積荷配置として決定する請求項1に記載の積荷配置支援装置。
【請求項3】
前記積荷配置生成部は、前記積載対象の吊荷が複数の場合に、前記吊荷の集合の重心がキャブに最も近い配置のうち、前記吊荷の重心どうしの距離が最大の配置を前記推奨積荷配置として決定する、請求項1または2に記載の積荷配置支援装置。
【請求項4】
キャブおよび荷台を有する車両と、
前記車両に架装されたクレーンと、
請求項1または2に記載の積荷配置支援装置と、
を備える積載型トラッククレーン。
【請求項5】
キャブおよび荷台を有する車両と、
前記車両に架装されたクレーンと、
請求項3に記載の積荷配置支援装置と、
を備える積載型トラッククレーン。
【請求項6】
コンピュータを、
キャブおよび荷台を有する積載型トラッククレーンのブーム先端部から撮影された俯瞰画像を取得する画像取得部、
前記俯瞰画像の中の積載対象の吊荷を指定する入力を受け付ける入力部、
前記ブーム先端部から前記吊荷までの距離を取得する深度取得部、
前記俯瞰画像および前記距離から前記吊荷の形状を認識する対象認識部、
前記荷台の空き領域を認識する領域認識部、
前記荷台の空き領域の中で、前記吊荷の重心が前記キャブに最も近い配置のうち、前記吊荷を配置した後の一つの図形で最大の残り領域の面積を該残り領域の外周長で除した値が最大である配置を、推奨積荷配置として決定する積荷配置生成部、および、
前記推奨積荷配置を表示する表示部、
として機能させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、積載型トラッククレーンの荷台に積み込む荷の配置を生成する技術に関する。
【背景技術】
【0002】
積載型トラッククレーンにおいて、荷台への荷の積載には、良好な積載率と重量配分を確保するために多くの思考を必要とする。荷の積み込み作業の負荷を軽減するために、作業者を支援する技術が提案されている。
【0003】
例えば特許文献1には、積載対象とされる製品群の中から複数の製品を選択して、複数の製品が積載される所定の被積載設備上に配列する計画を立案する製品積載計画装置が記載されている。特許文献1の製品積載計画装置では、被積載設備上に積載される製品の総重量の目標重量からの偏差、長手方向についての、被積載設備上に製品が積載された状態における被積載設備の重心位置の目標重心位置からの偏差、および、幅方向についての、被積載設備上に製品が積載された状態における被積載設備の重心位置の目標重心位置からの偏差に基づく評価値を求め、遺伝的アルゴリズムを適用する。
【0004】
特許文献2の製品積込計画装置は、車種仕様、製品仕様および車両への製品積載状況を記憶するための記憶手段を備え、所定のプログラムに従って入力情報を処理するコンピュータと、コンピュータに車両への製品積込指示情報を入力するための入力端末装置と、コンピュータから出力される操作メッセージおよび車両への製品積込状況を表示するための端末装置と、コンピュータから出力される最終的な製品積込仕様を書類化するための端末装置とからなり、入力情報に応じた車両への製品積込状況が表示端末装置に累積的に表示される。
【0005】
特許文献3の出荷指示装置は、部品の出荷計画を入力し部品の出荷実績を出力する入力装置と、各部品の属性データおよび部品を積載するパレットの属性データを記憶する記憶手段と、出荷計画に基づきこの記憶手段に記憶された各部品およびパレットの属性データを使用して運送に使用するパレットとそれに積載される部品の種類と数量とを決定する出荷指示演算処理手段と、これにより決定されたパレットおよび部品種類と数量を指示する出荷指示手段と、出荷場所の属性データおよび運送手段の属性データを記憶する記憶手段と、各輸送毎に出荷指示を最適化する出荷指示最適化手段とから構成される。
【0006】
特許文献4の積付け装置は、荷姿の仕様として、パレット上の積載個数、ワークの充填密度、全体の安定性、ワーク間の滑りなどの各評価要素のどれをどの程度重視するかを入力する積付け仕様入力装置と、その仕様に適合する順序で荷姿候補を記憶する荷姿の仕様適合度ソーティングリストと、それを表示する適合順表示装置を備え、また作業を担当する機械での作業性から、その順列のなかで作業不能な荷姿を識別する。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開平9-190483号公報
【特許文献2】特開昭58-6841号公報
【特許文献3】特開平4-233003号公報
【特許文献4】特開平6-305567号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
荷の積み込み操作が提示された場合、クレーン作業者は積み込む必要のある荷ごとに、よく似た複雑なモーション操作を繰り返し実行する必要がある。ほとんどの場合、これらの荷は接近して地面に置かれ、トラックの荷台に配置するためにほぼ同じ動作を必要とする。しかし、吊荷の形状と荷台の空き領域の形状は千差万別であり、クレーン作業者は吊荷ごとに適切な積荷配置を思い描かなければならない。
【0009】
特許文献の技術では、荷の積み込みを行う作業者を支援するが、クレーン作業者の認知負荷と疲労を低減する余地があった。
【0010】
本発明は、積載型トラッククレーンの荷積み作業において、荷台に積荷を配置する作業を支援することを目的とする。
【課題を解決するための手段】
【0011】
本発明の第1の観点に係る積荷配置支援装置は、
キャブおよび荷台を有する積載型トラッククレーンのブーム先端部から撮影された俯瞰画像を取得する画像取得部と、
前記俯瞰画像の中の積載対象の吊荷を指定する入力を受け付ける入力部と、
前記ブーム先端部から前記吊荷までの距離を取得する深度取得部と、
前記俯瞰画像および前記距離から前記吊荷の形状を認識する対象認識部と、
前記荷台の空き領域を認識する領域認識部と、
前記荷台の空き領域の中で、前記吊荷の重心が前記キャブに最も近い配置のうち、前記吊荷を配置した後の一つの図形で最大の残り領域の面積を該残り領域の外周長で除した値が最大である配置を、推奨積荷配置として決定する積荷配置生成部と、
前記推奨積荷配置を表示する表示部と、
を備える。
【0012】
好ましくは、
前記積荷配置生成部は、前記荷台に積載されている既積載荷がある場合に、前記吊荷の取り得る積荷配置のうち、前記既積載荷の重心と前記吊荷の重心の前記荷台の横方向の距離が遠い方を、前記推奨積荷配置として決定する。
【0013】
好ましくは、
前記積荷配置生成部は、前記積載対象の吊荷が複数の場合に、前記吊荷の集合の重心がキャブに最も近い配置のうち、前記吊荷の重心どうしの距離が最大の配置を前記推奨積荷配置として決定する。
【0014】
本発明の第2の観点に係る積載型トラッククレーンは、
キャブおよび荷台を有する車両と、
前記車両に架装されたクレーンと、
第1の観点に係る積荷配置支援装置と、
を備える。
【0015】
本発明の第3の観点に係るプログラムは、コンピュータを、
キャブおよび荷台を有する積載型トラッククレーンのブーム先端部から撮影された俯瞰画像を取得する画像取得部、
前記俯瞰画像の中の積載対象の吊荷を指定する入力を受け付ける入力部、
前記ブーム先端部から前記吊荷までの距離を取得する深度取得部、
前記俯瞰画像および前記距離から前記吊荷の形状を認識する対象認識部、
前記荷台の空き領域を認識する領域認識部、
前記荷台の空き領域の中で、前記吊荷の重心が前記キャブに最も近い配置のうち、前記吊荷を配置した後の一つの図形で最大の残り領域の面積を該残り領域の外周長で除した値が最大である配置を、推奨積荷配置として決定する積荷配置生成部、および、
前記推奨積荷配置を表示する表示部、
として機能させる。
【発明の効果】
【0016】
本発明によれば、積載型トラッククレーンに積載する吊荷を指定するだけで、荷台の積荷配置を生成するので、積載型トラッククレーンの荷積み作業において、荷台に積荷を配置する作業を支援できる。
【図面の簡単な説明】
【0017】
【
図1】本発明の実施の形態に係る積荷配置支援装置の機能構成を示すブロック図
【
図2】実施の形態に係る積載型トラッククレーンの外観斜視図
【
図3】積荷配置例1の荷台と積載対象の吊荷の平面図
【
図4】積荷配置例1の推奨積荷配置生成過程を示す平面図。(A)は吊荷の初期配置を、(B)は吊荷を既積載荷から遠ざけた配置を、(C)は調整された後の配置を示す。
【
図7】積荷配置例2の吊荷の有向境界矩形を示す平面図
【
図8】積荷配置例2の二体の吊荷の初期配列例を示す平面図
【
図9】積荷配置例2の二体の吊荷の局所最適化配列例を示す平面図
【
図11】実施の形態に係る推奨積荷配置生成の動作の一例を示すフローチャート
【
図12】実施の形態に係る積荷配置支援装置のハードウェア構成の一例を示すブロック図
【発明を実施するための形態】
【0018】
本開示は吊荷を積載型トラッククレーンの荷台に配置する推奨積荷配置を生成する積荷配置支援装置に関する。以下、本発明の実施の形態について図面を参照して詳細に説明する。なお図中、同一または同等の部分には同一の符号を付す。
【0019】
実施の形態.
図1は、本発明の実施の形態に係る積荷配置支援装置の機能構成を示すブロック図である。積荷配置支援装置1は、クレーンのブーム先端部に設置された撮像装置2から画像データを取得し、画像データから地物と積載対象の荷を認識し、荷台の空き領域に荷を配置する推奨積荷配置を生成する。以下、積荷配置支援装置1を、配置支援装置1と略称することがある。クレーン作業者またはクレーンの制御装置は、配置支援装置1が生成した推奨積荷配置に従って、吊荷を配置することができる。
【0020】
図2は、実施の形態に係る積載型トラッククレーンの外観斜視図である。配置支援装置1は、積載型トラッククレーンに備えられる。積載型トラッククレーンは、荷台32を備える車両30のキャブ31の近くに、クレーン40が架装されている。クレーン40は、アウトリガ41、伸縮可能なブーム42、ブーム42を起伏させる起伏シリンダ43、および、先端部45に備えられる滑車に掛けられたワイヤロープで吊り下げられるフック44を備える。
【0021】
アウトリガ41は、クレーン40で荷を吊り上げる場合に左右に張り出され、下に伸ばされ接地されてクレーンを支える。車両30の走行時には、アウトリガ41は縮められて車体近くに収納される。ブーム42と起伏シリンダ43は相互の位置を保持したまま、垂直な軸の周りに旋回可能に支持されている。図示しない巻き上げ装置で、フック44を吊り下げているワイヤーロープを巻き取りおよび繰り出しすることによって、フック44を巻き上げおよび巻き下げすることができる。
【0022】
ブーム42の先端部45に、鉛直下方の画像を撮影する撮像装置2が設置されている。撮像装置2は、例えばジンバルで支持され、常に鉛直下方を向くようになっている。クレーン40のブーム42を起こして伸ばし、先端部45の撮像装置2で下方を撮像することによって俯瞰画像を得る。配置支援装置1は、撮像装置2で撮像された俯瞰画像から、地物と積載対象の荷を認識する。地物と積載対象の荷を認識するための俯瞰画像は1つとは限らない。荷を積載する作業を行う領域全体をカバーするために、撮像装置2の位置を変えて複数の俯瞰画像を撮像する場合がある。
【0023】
図1に示されるように、配置支援装置1は、画像取得部10、深度取得部11、領域認識部12、入力部13、対象認識部14、積荷配置生成部15、および表示部16を備える。配置支援装置1には、作業者が吊荷の指定を入力するための操作部3と、撮像装置2で撮影した俯瞰画像および推奨積荷配置などを表示する表示装置4が接続されている。
【0024】
画像取得部10は、撮像装置2で撮像された画像を取得する。撮像装置2は、例えばステレオカメラである。撮像装置2は、クレーン40においてブーム42の先端部45に設置されているので、画像取得部10は、ブーム42の旋回角、傾斜角および長さ、ならびにアウトリガ41の伸張長さから、アウトリガ41の接地位置を基準にした撮像位置を算出できる。画像取得部10は、取得した画像データと撮像位置を深度取得部11に送る。
【0025】
深度取得部11では、例えばステレオ画像である画像データから、各点の視差によって地物の各点の撮像位置からの深度を計測する。撮像装置2は、ステレオカメラに限らない。例えば、ライダー、レーザスキャナ、または、単眼カメラでもよい。単眼カメラの場合、画像の中の各点にピントを合わせたときのレンズの位置によって、その点までの実際の距離を計測できる。単眼カメラでは、カメラの被写界深度とピント合わせの誤差の精度で被写体までの距離を計測することができる。あるいは、ブーム42を旋回させて、異なる位置の2つの視点から撮像した画像を用いて、対応する点の視差から深度を計測することもできる。
【0026】
領域認識部12は、俯瞰画像と画像中の各点の深度から、地物を認識する。領域認識部12は、撮像した位置および画像中の各点の方向と深度から、積載型トラッククレーンに対する各点の座標を算出し、作業現場の3Dマップを生成する。領域認識部12は、カメラ座標系で表される三次元情報を、撮像位置を用いて積載型トラッククレーンの基準座標系で表される三次元情報に変換する。
【0027】
領域認識部12は、例えば以下のようにして地物を認識する。領域認識部12は、まず、1フレーム分の点群データを取得する。点群データは、測定対象物たる吊荷Lおよび地物Cの上方から、吊荷Lおよび地物Cおよび地表面Fを含む領域の各点の座標である。
【0028】
領域認識部12は、俯瞰画像の領域を、格子状に複数の小領域Sに分割する。領域認識部12は、各小領域Sにおいて、深度(撮像位置からの距離)hが最も大きい点データpを抽出する。最大深度hmaxである点データpは、その小領域Sで最も低い位置であると推測される。そして、領域認識部12は、最大深度hmaxである点データpに対する他の点データの深度hの離れ量Dを算出する。領域認識部12は、最大深度hmaxを基準として、深度hの離れ量Dが所定の閾値r1以内、例えば離れ量Dが7cm以内、にある点データpを、地表面Fを構成する点データとして抽出する。
【0029】
次に、領域認識部12は、各小領域Sにおいて、抽出した点データpの深度hに基づいて各小領域Sの地表面Fの基準高HSを推定する。本実施の形態では、領域認識部12は、抽出した点データpの深度hの平均値を、小領域Sにおける地表面Fの基準高HSとする。領域認識部12では、このような構成によって、任意の小領域Sにおいて、地表面Fの基準高HSを推定することができる。
【0030】
領域認識部12は、各小領域Sにおける地表面Fの基準高HSに基づいて領域全体の地表面Fの基準高H0を推定する。本実施の形態では、領域認識部12は、各小領域Sにおける地表面Fの基準高HS(深度hの平均値)をさらに全ての小領域Sで平均した値を、領域全体の地表面Fの基準高H0としている。
【0031】
領域認識部12では、このような構成によって、俯瞰画像の領域全体の地表面Fの基準高H0を推定することができる。そして、領域認識部12は、深度hと基準高H0から、点データpの高度Hを算出する。高度Hは、点データpの基準高H0からの高さである。
【0032】
領域認識部12は、領域全体における地表面Fの基準高H0に対する一の小領域Sにおける地表面Fの基準高HSの差異が所定の閾値よりも大きい場合に、地表面Fを構成しない点データpを抽出したものと判断し、一の小領域Sにおける地表面Fの基準高HSの代わりに、一の小領域Sに隣接する小領域Sのうち、差異が所定の閾値未満となる小領域Sの地表面Fの基準高HSを用いて、領域全体における地表面Fの基準高H0を補正してもよい。
【0033】
領域認識部12では、このような構成によって、地表面Fを構成しない点データpを抽出したものと推定される場合に、一の小領域Sの代わりに、一の小領域Sに隣接する小領域Sのうち、差異が所定の閾値未満となる小領域Sの地表面Fの基準高H0を用いることで、領域全体の地表面Fの基準高H0をより正確に推定することができる。
【0034】
領域全体における地表面Fの基準高H0を推定する際に、全ての小領域Sのうち、地表面Fを構成しない点データpを抽出したものと推定される小領域Sを除外してもよい。例えば、各小領域Sにおいて算出される地表面Fの基準高H0のうち、最も低い一の小領域Sにおける地表面Fの基準高H0を基準として、所定の閾値以内にある小領域Sの地表面Fの基準高H0のみを用いて平均値を算出してもよい。以上のように、領域全体における地表面Fの基準高H0を推定する際に、全ての小領域Sの基準高H0を用いる必要はなく、特定の小領域Sの基準高H0のみを用いてもよい。
【0035】
領域認識部12では、このような構成によって、地表面Fを構成する点データを抽出できていないと推定される小領域Sを除外することができる。そのため、正確に領域全体における基準高H0の推定を行うことができる。
【0036】
領域認識部12は、俯瞰画像の特定の位置を基準として、地表面Fを推定してもよい。配置支援装置1では、表示装置4に表示した俯瞰画像の中で、操作部3において地表面の位置を指定することで、基準となる地表面Fを決定することができる。領域認識部12が、俯瞰画像中の特定の位置、例えばアウトリガ41の周囲または荷台32の周囲の位置、を自動的に決定し指定する構成としてもよい。
【0037】
手動による場合、作業者が表示装置4に表示される俯瞰画像の中で、地表面であることが明らかな位置を操作部3で指定する。すると、領域認識部12は、その指定された位置(点)を中心とする所定半径の基準円を生成する。そして、領域認識部12は、基準円に含まれる複数の点データpを選択する。
【0038】
領域認識部12は、選択された複数の点データpからまず、深度hが最も大きい(最大深度hmaxである)点データpを抽出する。そして、領域認識部12は、最大深度hmaxである点データpに対する他の点データの深度hの離れ量Dを算出する。領域認識部12は、最大深度hmaxを基準として、深度hの離れ量Dが所定の閾値r1以内、例えば離れ量Dが7cm以内、にある点データpを地表面Fを構成する点データとして抽出する。領域認識部12は、抽出した点データpの深度hに基づいて地表面Fの基準高H0を推定する。領域認識部12は、抽出した点データpの深度hの平均値を地表面Fの基準高H0として採用する。
【0039】
領域認識部12によるデータ処理では、次に平面の推定処理を行う。領域認識部12は、以下に示す上面推定方法によって、領域全体に存在する測定対象物たる吊荷Lと地物Cの上面を推定する。
【0040】
領域認識部12は、俯瞰画像から取得した点群データPを、高さ方向に所定の厚みdで層状に分割し、点群データPを複数の層に振り分ける。このとき領域認識部12は、分割した各層に個別の層IDを付与し、各点データpを層IDに関連付ける。
【0041】
領域認識部12は、各層において、その層に含まれる複数の点データpを用いて、平面を推定する。ここで言う「平面」は、吊荷Lおよび地物Cにおいて上向きに存在する平面であり、すなわち吊荷Lおよび地物Cの上面である。
【0042】
領域認識部12はまず、同一層に含まれる複数の点データp1、p2、...から2つの点データpi、pjを選択する。領域認識部12は、選択した2つの点データpi、pjの距離L1を算出する。
【0043】
次に、領域認識部12は、距離L1が所定の閾値r2以下であれば、その2点pi、pjは同一平面上にあるものとみなす。閾値r2は、点群データPの俯瞰画像における分解能の2倍以下である。すなわち、2点pi、pjが分解能で隣り合っていると見なせる距離にある場合に、同一平面上にあると判断する。距離L1が閾値r2より大きければ、新たな2点を選択して距離L1を算出する。
【0044】
領域認識部12は、同一層に含まれる点の中で、同一平面にあると判断した点pi、pjのいずれかからの距離が閾値r2以下である点を探索する。領域認識部12は、近傍点たる点データpkが見つかれば、その近傍点たる点データpkを、先に選択した2つの点データpi、pjと同一平面上にあるものとみなす。領域認識部12は、同一層に含まれる点の中で、同一平面にあると判断した点の集合{pi}に含まれるいずれかの点からの距離が閾値r2以下である点を探索し、次々に近傍点を同一平面にある点として追加する。
【0045】
同一層に含まれる点の中で、同一平面にあると判断した点の集合に含まれるいずれの点からも距離が閾値r2以下である点がなくなったら、領域認識部12は、同一平面にあると判断した点の集合に含まれなかった2点で距離が閾値r2以下のものを探索し、その2点を元に異なる同一平面に含まれる点の集合を抽出する。この操作を繰り返し、同一層に含まれる点から、互いに異なる同一の平面と見なせる点の集合であるクラスタの群を抽出する。領域認識部12は、1つのクラスタを1つの平面とする。
【0046】
領域認識部12は、点群データPを、同一平面上にあるとみなされた点データpに切り分けて、平面クラスタを設定する。平面クラスタに属する各点データpによって、吊荷Lおよび地物Cの上面を規定することができる。同一の層IDが付与された層には、複数の平面クラスタが存在する場合もある。領域認識部12は、クラスタごとに、クラスタに含まれる点の集合の重心Gを算出する。
【0047】
1つのクラスタは、地物の上面として推定できるが、1つの地物の上面は1つのクラスタであるとは限らない。例えば、上面が球の物体は、それぞれが異なる層に属する円環状の複数のクラスタから上面が構成される。異なる層に属するクラスタの重心を平面に投影した位置がほぼ一致するクラスタ群を、1つの地物の上面であると判断してもよい。また、中心軸を水平にして置かれた円柱形の物体は、各層に互いに平行な帯状のクラスタから上面が構成される。その場合は、1つの層に属する平行な2つの帯の中心を平面に投影した位置がほぼ一致する、互いに異なる層に属するクラスタ群を、1つの地物の上面であると判断してもよい。
【0048】
次に、領域認識部12は、推定した各平面クラスタ(上面)を結合する。領域認識部12は、推定された平面クラスタのうち、異なる層IDが付与された2つの平面クラスタを選択し、各平面クラスタの高度Hの差dHを算出する。平面クラスタの高度Hとは、平面クラスタに属する各点データpの基準高H0からの高さの平均値である。
【0049】
領域認識部12は、差異dHが閾値r3以内である平面クラスタの組み合わせを探索する。領域認識部12は、高度Hの差異dHが閾値r3以内である平面クラスタの組み合わせが検出されたときには、それらの平面クラスタについて水平方向における重なりdWを検出する。ここでいう「重なり」とは、平面クラスタによって規定される平面の水平方向における重複度合および離間度合であり、水平面の直交する2方向のいずれかの重複量dW1が検出された場合(dW1>0)か、もしくは、離間量dW2が所定の閾値r4以下である場合(0≦dW2≦r4)に、「重なり」を検出するものとする。
【0050】
領域認識部12は、「重なり」が検出された場合には、それらの平面クラスタに属する点データpが同一平面上に存在するものとみなし、二つの平面クラスタを結合し、新たな平面クラスタとして更新する。また、このとき、新たな平面クラスタに属する各点データpから、新たな高度Hを算出する。
【0051】
領域認識部12は、以上の処理を、条件を満たす平面クラスタの組み合わせが無くなるまで繰り返して行い、複数の層に跨って存在する平面を推定する。領域認識部12は、以上の結合処理によって結合した平面(すなわち平面クラスタ)を出力する。平面クラスタによって規定される平面は、吊荷Lおよび地物Cにおいて上向きに存在する平面であり、すなわち吊荷Lおよび地物Cの上面である。
【0052】
以上のような平面の推定方法では、点群データPの法線ベクトルを用いずに平面を推定することができる。このため、点群データPの法線ベクトルを用いて平面を推定する場合に比べて、計算量が少なくて済むという特徴がある。このような平面の推定方法では、吊荷Lや地物Cの上面を推定することによって、吊荷Lや地物Cの側面の点データpを取得せずに、吊荷Lや地物Cの立体的形状を把握することができる。
【0053】
領域認識部12は次に、点群データPを同一領域のクラスタに分類する。同一領域のクラスタリング処理は、生成した平面クラスタを、同一領域に存在するか否かという異なる観点でクラスタリングする処理である。
【0054】
領域認識部12は、高度Hが極大値Hhである点データpを含む平面クラスタと、この平面クラスタに未結合である平面クラスタを抽出する。領域認識部12は、抽出した2つの平面クラスタの高度Hの差分ΔHが所定の閾値以下であれば、二つの平面クラスタについて、高さ方向に視た重なりを確認する。
【0055】
二つの平面クラスタが、高さ方向に視て重なっている場合には、領域認識部12は、これらの平面クラスタを「同一領域」にあるものとみなし、これらの平面クラスタによって、同一領域クラスタを形成する。
【0056】
領域認識部12は、高度Hの極大値Hhを有する点データpを含む平面クラスタと、この平面クラスタに未結合である平面クラスタをさらに探索し、未結合の平面クラスタが抽出されれば、差分ΔHによる判定と、高さ方向に視た重なりの確認を行い、上記条件に合致する平面クラスタがあれば、上記同一領域クラスタにさらに追加する。
【0057】
領域認識部12は、このような処理を、高度Hの極大値Hhを有する点データpを含む平面クラスタに対して未結合の平面クラスタが見つからなくなるまで繰り返して行う。領域認識部12は、以上のような処理によって、同一領域クラスタを形成する。
【0058】
領域認識部12は、このようにして形成された同一領域クラスタに属する点データpを、形状的に一つのまとまりがあるものとして扱い、同一領域クラスタを囲むようにガイド枠を設定する。
【0059】
このような同一領域のクラスタリング処理は、高度に基づく木構造を用いた階層的クラスタリングとすることが好ましい。領域認識部12は、同一領域のクラスタリング処理によって、高度Hを用いて地物Cごとに木構造を作成する。
【0060】
高度に基づく木構造を用いた階層的クラスタリングでは、領域認識部12は、高度Hの平均値が最も小さい平面クラスタを根(ルート)として設定する。領域認識部12は、根を構成する平面クラスタに対して、高さ方向に視た重なりを持つ平面クラスタがあれば、根から枝(ブランチ)を伸ばし、枝の先に、その重なりを持つ平面クラスタを追加する。領域認識部12は、高度Hの平均値が最も大きい平面クラスタを子として設定する。
【0061】
領域認識部12はまた、荷台32の領域に積載されている荷を認識する。基準座標系における荷台32の領域は予め記憶されている。荷台32の範囲は分かっているから、俯瞰画像の中の荷台32の領域を画定することができる。荷台32の床の位置は分かっているから、俯瞰画像における荷台32の領域の中で、荷台の床を抽出することができる。領域認識部12は、生成した木構造のうち、荷台の領域にある木構造を積載されている荷として認識することができる。積載されている荷の部分を除いた領域が空き領域である。
【0062】
領域認識部12は、1つの木構造の階層的クラスタに含まれるすべての平面クラスタを外包する外形線を、ガイド枠として生成する。領域認識部12は、領域全体のすべての平面クラスタをいずれかの木構造に分類したら、それらの木構造を対象認識部14および積荷配置生成部15に送る。
【0063】
入力部13は、俯瞰画像の中の積載対象である吊荷を指定する入力を受け付ける。入力部13は、俯瞰画像を表示装置4に表示し、操作部3から入力される画像の位置を対象認識部14に送る。入力部13は、俯瞰画像の中で作業者が吊荷を指示するジェスチャを認識して、作業者が指し示す俯瞰画像の中の位置を対象認識部14に送ってもよい。あるいは、作業者がクレーン40を操作し、ある地物Cの直上にフック44を停止させて、操作部3に吊荷指定の入力をしたときに、対象認識部14は、フック44の直下にある地物Cを積載対象の吊荷と認識してもよい。
【0064】
対象認識部14は、指定された位置に対応する木構造から、積載対象の吊荷を識別する。すなわち、俯瞰画像で指定された位置に対応する平面クラスタで表される地物Cを、積載対象の吊荷Lとする。対象認識部14は、三次元情報(点群データ)から、物体認識により吊荷の三次元情報(点群データ)を識別してもよい。吊荷の物体認識方法は、アピアランスベースによる物体認識でもよいし、モデルベースによる物体認識でもよい。
【0065】
積荷配置生成部15は、吊荷Lのフットプリント、すなわち吊荷を構成する平面クラスタの最外形を水平面に投影した形状を用いて、俯瞰画像の荷台32の空き領域の範囲で、吊荷Lを積載する推奨積荷配置を生成する。積荷配置生成部15は、吊荷を空き領域に配置したときに、吊荷の重心がキャブ31に最も近い配置のうち、吊荷を配置した後の一つの図形で最大の残り領域の面積を該残り領域の外周長で除した値が最大である配置を、推奨積荷配置として決定する。積荷配置生成部15は、吊荷のフットプリントの幾何学重心を、便宜的に吊荷の重心とする。吊荷の重心の位置が与えられれば、積荷配置生成部15は、その位置を重心とする。
【0066】
積荷配置例1.
図3は、積荷配置例1の荷台と積載対象の吊荷の平面図である。積荷配置例1では、既積載荷ELが積まれている状態の荷台32に、吊荷Lを配置する。既積載荷ELと吊荷Lの重心の位置が小さい丸で示されている。積荷配置生成部15は、俯瞰画像の荷台32の空き領域に吊荷Lのフットプリントを重ね、フットプリントを回転および平行移動して、吊荷Lの重心がキャブ31に最も近い配置のうち、吊荷Lを配置した後の一つの図形で最大の残り領域の面積を該残り領域の外周長で除した値が最大である配置を探索する。
【0067】
図4は、積荷配置例1の推奨積荷配置生成過程を示す平面図である。
図4(A)は吊荷の初期配置を示す。積荷配置生成部15は、まず、吊荷Lの重心がキャブ31に近く、既積載荷ELに近い配置に吊荷Lを配置する。
【0068】
図4(B)は吊荷を既積載荷から遠ざけた配置である。積荷配置生成部15は、既積載荷ELと吊荷Lの間に、荷台32の横方向にそれぞれの質量に比例し距離の2乗に反比例する仮想的な反発力が働くものとみなして、吊荷Lを既積載荷ELから遠ざける。
【0069】
次に、積荷配置生成部15は、吊荷Lを回転および平行移動して、吊荷Lの重心がキャブ31に最も近い配置のうち、吊荷Lを配置した後の一つの図形で最大の残り領域の面積を該残り領域の外周長で除した値が最大である配置を、推奨積荷配置として決定する。
図4(C)は調整された後の配置を示す。
【0070】
図5は、積荷配置例1の推奨積荷配置を示す平面図である。推奨積荷配置では、一つの図形で最大の残り領域RAの面積を残り領域RAの周長で除した値が最大になっている。例えば、吊荷Lを時計回りに回転させて、吊荷Lの狭い部分を荷台の横側辺に近づけ、広い部分を既積載荷ELに近づけた配置より推奨積荷配置の方が、吊荷Lの重心と既積載荷ELの重心の距離が大きい。積荷配置生成部15は、既積載荷ELの重心と吊荷Lの重心の荷台32の横方向の距離が遠い方を、推奨積荷配置として決定する。
【0071】
積荷配置例2.
図6は、積荷配置例2の荷台と吊荷の平面図である。積荷配置例2では、既積載荷ELが積まれている状態の荷台32に、二体の吊荷L1、L2を配置する。
図6の例では、吊荷L1と吊荷L2のフットプリントは同じである。積荷配置生成部15は、二体の吊荷L1、L2を組み合わせた配列を想定し、二体の吊荷L1、L2の配列を荷台32の空き領域に当てはめて、推奨積荷配置を探索する。二体の吊荷L1、L2の配列を生成するために、吊荷L1、L2それぞれの有向境界矩形(OBB)を導入する。
【0072】
図7は、積荷配置例2の吊荷の有向境界矩形を示す平面図である。吊荷L1、L2のフットプリントに外接する最小の長方形を想定する。長方形の、吊荷L1、L2の重心COGから最も遠い辺に下ろした垂線を尾TLとし、最も遠い辺を末端TEとする。重心COG、尾TLおよび末端TEを含む長方形を、有向境界矩形OBBとする。吊荷L1、L2それぞれの有向境界矩形OBBを用いて、二体の吊荷L1、L2の配列を生成することができる。
【0073】
図8は、積荷配置例2の二体の吊荷の初期配列例を示す平面図である。
図8では、吊荷L1を実線で、吊荷L2を点線で表し、それぞれの有向境界矩形OBBが点線で示されている。積荷配置生成部15は、吊荷L1、L2それぞれの有向境界矩形OBBのいずれかの辺が平行な配列を生成する。
図8では、24の初期配列例が示されている。積荷配置生成部15は、初期配列から吊荷L1に対して吊荷L2を平行移動および回転させ、二体の配列に外接する境界矩形を最小化して、初期配列それぞれの局所最適化配列を生成する。
【0074】
図9は、積荷配置例2の二体の吊荷の局所最適化配列例を示す平面図である。
図9では、二体の吊荷L1、L2の配列に外接する境界矩形が最小化された疑似最小境界矩形が実線で示されている。
図9の局所最適化配列はそれぞれ
図8の初期配列に対応し、配列に付けられたアルファベットで対応関係が示されている。
【0075】
積荷配置生成部15は、局所最適化配列を荷台32の空き領域に当てはめて、空き領域に適合する局所最適化配列を選択する。選択される局所最適化配列は2つ以上の場合がある。積荷配置生成部15は、吊荷L1、L2の集合の重心がキャブ31に最も近い配置のうち、吊荷L1、L2を配置した後の一つの図形で最大の残り領域の面積を該残り領域の外周長で除した値が最大である局所最適化配列を選択する。
図9の例では、局所最適化配列Gが選択される。積荷配置生成部15は、空き領域に当てはめた局所最適化配列Gの吊荷L1、L2の位置を調整し、重心COGどうしの距離が最大の配置を推奨積荷配置として決定する。
【0076】
図10は、積荷配置例2の推奨積荷配置を示す平面図である。積荷配置生成部15が吊荷L1、L2の位置を調整した後の推奨積荷配置は、吊荷L1、L2の集合の重心がキャブに最も近い配置のうち、吊荷L1、L2を配置した後の一つの図形で最大の残り領域RAの面積を該残り領域RAの外周長で除した値が最大である。さらに、吊荷L1、L2の重心COGどうしの距離が最大になっている。積荷配置生成部15は、生成した推奨積荷配置を表示部16に送る。表示部16は、推奨積荷配置を荷台の画像に重畳して表示装置4に表示する。
【0077】
上述の積荷配置例では吊荷が1つまたは2つの場合を示した。積載対象の吊荷は2つ以下に限らない。積載対象の吊荷が3つ以上であっても積荷配置例2と同じように、積荷配置生成部15は、吊荷の初期配列例から、それぞれを最小化して局所最適化配列を生成し、空き領域に当てはめて、吊荷の集合の重心がキャブ31に最も近い配置のうち、吊荷を配置した後の一つの図形で最大の残り領域の面積を該残り領域の外周長で除した値が最大である局所最適化配列を選択する。そして、当てはめた局所最適化配列の吊荷の位置を調整し、重心COGどうしの距離が最大の配置を推奨積荷配置として決定する。
【0078】
図11は、実施の形態に係る推奨積荷配置生成の動作の一例を示すフローチャートである。推奨積荷配置生成の処理は、クレーン作業者の操作によって起動される。積荷配置支援装置1が起動されると、画像取得部10はブーム42の先端部45から撮像された俯瞰画像を取得する(ステップS10)。深度取得部11は、地物の各点の撮像位置からの深度を取得する(ステップS11)。領域認識部12は、俯瞰画像と画像中の各点の深度から、吊荷を含む地物を認識し(ステップS12)、荷台32の領域に積載されている荷から空き領域を認識する(ステップS13)。
【0079】
入力部13は、俯瞰画像の中の積載対象である吊荷L(またはL1、L2)を指定する入力を受け付ける(ステップS14)。吊荷L(またはL1、L2)が指定されると、対象認識部14は、吊荷L(またはL1、L2)の位置と形状を認識する(ステップS15)。積荷配置生成部15は、複数の吊荷L1、L2が指定された場合に、複数の吊荷L1、L2の初期配列を生成し(ステップS16)、初期配列を最小化して局所最適化配列を生成する(ステップS17)。
【0080】
積荷配置生成部15は、空き領域に適合する局所最適化配列を選択し(ステップS18)、そのうち吊荷L1、L2を配置した後の一つの図形で残り領域RAの面積/周長が最大の局所最適化配列を選択する(ステップS19)。さらに、積荷配置生成部15は、吊荷L1、L2の位置を調整して、吊荷L1、L2の集合の重心がキャブに最も近い配置のうち、吊荷L1、L2の重心どうしの距離が最大の配置を推奨積荷配置として決定する(ステップS20)。
【0081】
吊荷Lが1つの場合は、ステップS16からステップS20では、吊荷Lを配置した後の一つの図形で最大の残り領域RAの面積/周長が最大の配置を推奨積荷配置として決定する。積荷配置支援装置1は、生成した推奨積荷配置を表示装置4に表示し(ステップS21)、配置支援装置1は推奨積荷配置生成の処理を終了する。
【0082】
以上説明したように、実施の形態に係る積荷配置支援装置1によれば、クレーン作業者が吊荷Lまたは複数の吊荷L1、L2を指定すれば、吊荷L(またはL1、L2)を荷台32の空き領域に配置する推奨積荷配置が生成されるので、積載型トラッククレーンの荷積み作業において、積荷を配置する作業を支援する。
【0083】
図12は、実施の形態に係る積荷配置支援装置のハードウェア構成の一例を示すブロック図である。配置支援装置1は、
図12に示すように、制御部51、主記憶部52、外部記憶部53、操作部54、表示部55、入出力部56および送受信部57を備える。主記憶部52、外部記憶部53、操作部54、表示部55、入出力部56および送受信部57はいずれも内部バス50を介して制御部51に接続されている。
【0084】
制御部51はCPU(Central Processing Unit)等から構成され、外部記憶部53に記憶されている制御プログラム58に従って、配置支援装置1の画像取得部10、深度取得部11、領域認識部12、入力部13、対象認識部14、積荷配置生成部15、および表示部16の各処理を実行する。
【0085】
主記憶部52はRAM(Random-Access Memory)等から構成され、外部記憶部53に記憶されている制御プログラム58をロードし、制御部51の作業領域として用いられる。
【0086】
外部記憶部53は、フラッシュメモリ、ハードディスク、DVD-RAM(Digital Versatile Disc Random-Access Memory)、DVD-RW(Digital Versatile Disc ReWritable)等の不揮発性メモリから構成され、配置支援装置1の処理を制御部51に行わせるためのプログラムならびにブーム42の旋回中心に対する荷台32の位置などの各データを記憶し、また、制御部51の指示に従って、このプログラムが記憶するデータを制御部51に供給し、制御部51から供給された吊荷Lの形状、吊荷L1、L2の局所最適化配列、推奨積荷配置などのデータを記憶する。
【0087】
操作部54はキーボードおよびマウスなどのポインティングデバイス等と、キーボードおよびポインティングデバイス等を内部バス50に接続するインタフェース装置から構成されている。操作部54を介して、吊荷Lの指定などが入力され、制御部51に供給される。操作部54は、
図1の操作部3を含む。
【0088】
表示部55は、LCD(Liquid Crystal Display)または有機ELディスプレイなどの表示デバイスと表示デバイスを内部バス50に接続するインタフェース装置から構成され、俯瞰画像、指定された吊荷L、および推奨積荷配置などを表示する。表示部55は、
図1の表示装置4を含む。
【0089】
入出力部56は、シリアルインタフェースまたはパラレルインタフェースから構成されている。入出力部56に撮像装置2およびクレーン制御装置が接続され、制御部51は入出力部56を介して俯瞰画像を取得する。
【0090】
送受信部57は、無線通信装置、およびシリアルインタフェースまたはLAN(Local Area Network)インタフェースから構成されている。送受信部57は、無線通信を介して、例えば吊荷Lの選択が入力される携帯端末との通信を行う。また、各種データの更新、または、制御プログラムのダウンロードを行う。
【0091】
図1に示す配置支援装置1の画像取得部10、深度取得部11、領域認識部12、入力部13、対象認識部14、積荷配置生成部15、および表示部16の処理は、制御プログラム58が、制御部51、主記憶部52、外部記憶部53、操作部54、表示部55、入出力部56および送受信部57などを資源として用いて処理することによって実行する。
【0092】
なお、各実施の形態で説明した配置支援装置1の構成は一例であり、任意に変更および修正が可能である。配置支援装置1の構成は、実施の形態で示したものがすべてではなく、これらに限定されるものではない。例えば、タブレット端末を配置支援装置1として用いてもよい。また、ネットワーク上に配置支援装置1を設置して、ネットワークを介して配置支援装置1の機能を提供してもよい。
【0093】
その他、前記のハードウェア構成やフローチャートは一例であり、任意に変更および修正が可能である。
【0094】
画像取得部10、深度取得部11、領域認識部12、入力部13、対象認識部14、積荷配置生成部15、および表示部16等から構成される配置支援装置1の推奨積荷配置生成の処理を行う中心となる部分は、専用のシステムによらず、通常のコンピュータシステムを用いて実現可能である。たとえば、前記の動作を実行するためのコンピュータプログラムを、コンピュータが読みとり可能な記録媒体(USBメモリ、CD-ROM、DVD-ROM等)に格納して配布し、当該コンピュータプログラムをコンピュータにインストールすることにより、前記の処理を実行する配置支援装置1を構成してもよい。また、インターネット等の通信ネットワーク上のサーバ装置が有する記憶装置に当該コンピュータプログラムを格納しておき、通常のコンピュータシステムがダウンロード等することで配置支援装置1を構成してもよい。
【0095】
また、配置支援装置1を、OS(オペレーティングシステム)とアプリケーションプログラムの分担、またはOSとアプリケーションプログラムとの協働により実現する場合等には、アプリケーションプログラム部分のみを記録媒体や記憶装置に格納してもよい。
【0096】
また、搬送波にコンピュータプログラムを重畳し、通信ネットワークを介して配信することも可能である。たとえば、通信ネットワーク上の掲示板(BBS, Bulletin Board System)に前記コンピュータプログラムを掲示し、ネットワークを介して前記コンピュータプログラムを配信してもよい。そして、このコンピュータプログラムを起動し、OSの制御下で、他のアプリケーションプログラムと同様に実行することにより、前記の処理を実行できるように構成してもよい。
【符号の説明】
【0097】
1 積荷配置支援装置
2 撮像装置
3 操作部
4 表示装置
10 画像取得部
11 深度取得部
12 領域認識部
13 入力部
14 対象認識部
15 積荷配置生成部
16 表示部
30 車両
31 キャブ
32 荷台
40 クレーン
41 アウトリガ
42 ブーム
43 起伏シリンダ
44 フック
45 先端部
COG 重心
EL 既積載荷
L、L1、L2 吊荷
OBB 有向境界矩形
RA 残り領域
TE 末端
TL 尾