IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ビジョンナビ ロボティクス(シェンチェン)カンパニー,リミテッドの特許一覧

特許7478363フォークリフトの荷取り方法、コンピュータ装置及び記憶媒体
<>
  • 特許-フォークリフトの荷取り方法、コンピュータ装置及び記憶媒体 図1
  • 特許-フォークリフトの荷取り方法、コンピュータ装置及び記憶媒体 図2
  • 特許-フォークリフトの荷取り方法、コンピュータ装置及び記憶媒体 図3
  • 特許-フォークリフトの荷取り方法、コンピュータ装置及び記憶媒体 図4
  • 特許-フォークリフトの荷取り方法、コンピュータ装置及び記憶媒体 図5
  • 特許-フォークリフトの荷取り方法、コンピュータ装置及び記憶媒体 図6
  • 特許-フォークリフトの荷取り方法、コンピュータ装置及び記憶媒体 図7
  • 特許-フォークリフトの荷取り方法、コンピュータ装置及び記憶媒体 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-04-24
(45)【発行日】2024-05-07
(54)【発明の名称】フォークリフトの荷取り方法、コンピュータ装置及び記憶媒体
(51)【国際特許分類】
   B65G 67/24 20060101AFI20240425BHJP
   G06T 7/70 20170101ALI20240425BHJP
   B66F 9/24 20060101ALI20240425BHJP
【FI】
B65G67/24
G06T7/70 B
B66F9/24 A
【請求項の数】 11
(21)【出願番号】P 2022142720
(22)【出願日】2022-09-08
(65)【公開番号】P2023092447
(43)【公開日】2023-07-03
【審査請求日】2022-09-08
(31)【優先権主張番号】202111573223.3
(32)【優先日】2021-12-21
(33)【優先権主張国・地域又は機関】CN
(73)【特許権者】
【識別番号】522194898
【氏名又は名称】ビジョンナビ ロボティクス(シェンチェン)カンパニー,リミテッド
(74)【代理人】
【識別番号】110000729
【氏名又は名称】弁理士法人ユニアス国際特許事務所
(72)【発明者】
【氏名】リ,ルーヤン
(72)【発明者】
【氏名】ファン,ム
(72)【発明者】
【氏名】ル,ユジエ
(72)【発明者】
【氏名】ヤン,ビンチュアン
(72)【発明者】
【氏名】ファン,リシャ
【審査官】内田 茉李
(56)【参考文献】
【文献】特開2021-160860(JP,A)
【文献】特開2020-064335(JP,A)
【文献】特開2021-066576(JP,A)
【文献】米国特許出願公開第2017/0096301(US,A1)
【文献】米国特許出願公開第2021/0309460(US,A1)
【文献】米国特許第09898833(US,B1)
【文献】中国特許出願公開第110889828(CN,A)
【文献】米国特許出願公開第2020/0174473(US,A1)
【文献】特開2021-160931(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
B65G 67/24
G06T 7/70
B66F 9/24
(57)【特許請求の範囲】
【請求項1】
コンピュータによって実行されるフォークリフトの荷取り方法であって、
トラック駐車領域には少なくとも1台のトラックが駐車し、前記少なくとも1台のトラックごとに少なくとも1つのキャリアが配置されており、監視装置で前記トラック駐車領域を観測することによって前記トラック駐車領域の観測データを取得する(S202)ことであって、前記監視装置は3次元(3D)レーザーセンサー及びカメラを含み、前記3Dレーザーセンサーは、前記トラック駐車領域内にある前記少なくとも1台のトラックの候補点群データを収集するために用いられ、前記カメラは、前記トラック駐車領域内にある前記少なくとも1台のトラックの候補画像データを収集するために用いられる、取得する(S202)ことと、
前記観測データから前記少なくとも1台のトラックの点群データを取得し、前記少なくとも1台のトラックの前記点群データから各キャリアの点群データを取得する(S204)ことと、
前記各キャリアの前記点群データに基づいて前記各キャリアの相対ポーズを確定する(S206)ことと、
前記各キャリアの前記点群データに基づいて荷取りの優先順位を確定する(S208)ことと、
前記各キャリアの前記相対ポーズ及び前記荷取りの優先順位に基づいて、フォークリフトが荷取りするよう制御する(S210)ことと、を含む、
ことを特徴とするフォークリフトの荷取り方法。
【請求項2】
前記トラック駐車領域を観測することによって前記トラック駐車領域の前記観測データを取得することは、
複数の前記監視装置の各々によって収集された、前記トラック駐車領域内にある前記少なくとも1台のトラックの候補データを取得することと、
数の前記監視装置の各々によって収集された前記候補データを融合することによって、前記観測データを取得することと、を含む、
ことを特徴とする請求項1に記載のフォークリフトの荷取り方法。
【請求項3】
前記トラック駐車領域は矩形領域であり、前記矩形領域の長辺の両側に監視点が配置されており、前記監視点には前記監視装置が配置されており、
前記監視点の数は、前記矩形領域の長辺の長さ及び前記監視点の有効な観測距離に基づいて取得され、
前記有効な観測距離は、目標監視装置の観測距離に基づいて確定され、
前記目標監視装置の前記観測距離は、前記目標監視装置と前記矩形領域の前記長辺との間の垂直距離及び前記目標監視装置の画角に基づいて確定され、前記目標監視装置は、すべての前記監視装置のうち画角が最も狭い監視装置である、
ことを特徴とする請求項1に記載のフォークリフトの荷取り方法。
【請求項4】
数の前記監視装置の各々によって収集された、前記トラック駐車領域内にある前記少なくとも1台のトラックの前記候補データを取得することは、
前記3Dレーザーセンサーの各々によって収集された、前記トラック駐車領域内にある前記少なくとも1台のトラックの前記候補点群データを取得することと、
前記カメラの各々によって収集された、前記トラック駐車領域内にある前記少なくとも1台のトラックの前記候補画像データを取得することと、
前記候補点群データ及び前記候補画像データを融合することによって前記候補データを取得することと、を含み、
前記候補データが色特性を有する点群データである、
ことを特徴とする請求項2に記載のフォークリフトの荷取り方法。
【請求項5】
前記各キャリアの前記点群データに基づいて前記各キャリアの前記相対ポーズを確定することは、
前記少なくとも1つのキャリアごとに、前記キャリアの前記点群データを処理することによって前記キャリアのフロントエンド断面点群クラスターを取得することと、
前記キャリアの前記フロントエンド断面点群クラスターを、z軸に対して垂直な方向に沿ってスライス層にスライスし、各スライス層の点群に対してクラスタリングを行うことと、
クラスタリング結果と予め設定されたテンプレートにおけるキャリアの支持脚情報とを照合し、マッチング要求を満たさないスライス層を除去して、前記キャリアのポーズを取得することと、を含み、
前記トラック駐車領域は矩形領域であり、前記トラック駐車領域の長辺方向がx軸方向とされ、前記トラック駐車領域の短辺方向がy軸方向とされ、xy平面に対して垂直な方向がz軸方向とされる、
ことを特徴とする請求項1に記載のフォークリフトの荷取り方法。
【請求項6】
前記キャリアの前記点群データを処理することによって前記キャリアの前記フロントエンド断面点群クラスターを取得することは、
前記キャリアの前記点群データに対して密度フィルタリング及び法線ベクトルフィルタリングを行うことによって、前記キャリアの前記フロントエンド断面点群クラスターを取得すること、を含み、
前記密度フィルタリングとは、同側にある点群と監視点との距離に応じて前記点群の数をy軸方向にランク付けした後、ピーク区間内の点群を残すことであり、前記ピーク区間とは前記監視点から目標距離離れる距離範囲であり、前記監視点から前記目標距離離れる位置における点群の数が最も多く、
前記法線ベクトルフィルタリングとは、前記キャリアの前記点群データに対して平面フィッティングを行うことによって、予め設定された要求を満たす点群データを取得することである、
ことを特徴とする請求項5に記載のフォークリフトの荷取り方法。
【請求項7】
前記各キャリアの前記点群データに基づいて前記荷取りの優先順位を確定することは、
各種類の貨物に対して、前記各キャリアの中点と隣接するキャリアの中点との距離を計算し、予め設定されたテンプレートにおけるキャリアの長さを減算することによって、2つの隣接するキャリアの間のギャップを取得する(S502)ことと、
前記2つの隣接するキャリアの間の前記ギャップに基づいて、前記各キャリアに対応する目標ギャップを計算する(S504)ことと、
目標ギャップが最も大きいキャリアの荷取りの優先順位を最高の荷取りの優先順位として確定する(S506)ことと、を含む、
ことを特徴とする請求項1に記載のフォークリフトの荷取り方法。
【請求項8】
前記2つの隣接するキャリアの間の前記ギャップに基づいて、前記各キャリアに対応する前記目標ギャップを計算することは、
前記各キャリアの左右のギャップの合計を、前記各キャリアに対応する前記目標ギャップとして確定すること、を含む、
ことを特徴とする請求項7に記載のフォークリフトの荷取り方法。
【請求項9】
前記各キャリアの前記相対ポーズ及び前記荷取りの優先順位に基づいて、前記フォークリフトが荷取りするよう制御することは、
前記各キャリアの前記相対ポーズに基づいて、前記フォークリフトのフォーク挿入方向を制御することと、
前記荷取りの優先順位に基づいて、前記フォークリフトが対応するキャリアによって載せられた貨物を荷取りするよう制御することと、を含む、
ことを特徴とする請求項1に記載のフォークリフトの荷取り方法。
【請求項10】
プロセッサ(810)及びメモリ(820)を含むコンピュータ装置であって、
前記メモリはコンピュータプログラムを記憶しており、前記プロセッサは前記コンピュータプログラムを実行する場合に、請求項1~9のいずれか一項に記載のフォークリフトの荷取り方法を実行する、
ことを特徴とするコンピュータ装置。
【請求項11】
コンピュータプログラムを記憶している不揮発性コンピュータ可読記憶媒体であって、
前記コンピュータプログラムは、プロセッサによって実行される場合に、前記プロセッサが請求項1~9のいずれか一項に記載のフォークリフトの荷取り方法を実行すること、を可能にする、
ことを特徴とする不揮発性コンピュータ可読記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本出願は、貨物運搬の技術分野に関し、特に、フォークリフトの荷取り方法、コンピュータ装置及び記憶媒体に関する。
【背景技術】
【0002】
貨物運搬技術の発展に伴い、従来の人手によるフォークリフトの運搬は人件費がかかりすぎ、無人フォークリフトの登場によって、企業の人件費が低減し、貨物運搬の効率が向上するようになった。しかし現在、無人フォークリフトを利用して貨物を降ろす場合に、無人フォークリフトの降ろし作業の要求を低くするために、トラックの駐車位置の制約、及び貨物の載置ポーズと載置順序の固定をする必要があり、そのため、荷取りの効率が悪い。
【発明の概要】
【0003】
第一様態において、本出願では、フォークリフトの荷取り方法が提供される。当該方法は以下を含む。
トラック駐車領域を観測することによってトラック駐車領域の観測データを取得することであって、トラック駐車領域には少なくとも1台のトラックが駐車し、少なくとも1台のトラックごとに少なくとも1つのキャリアが配置されている、取得することと、
観測データから少なくとも1台のトラックの点群データを取得し、少なくとも1台のトラックの点群データから各キャリアの点群データを取得することと、
各キャリアの点群データに基づいて各キャリアの相対ポーズを確定することと、
各キャリアの点群データに基づいて荷取りの優先順位を確定することと、
各キャリアの相対ポーズ及び荷取りの優先順位に基づいて、フォークリフトが荷取りするよう制御することと、を含む。
【0004】
第二様態において、本出願では、コンピュータ装置がさらに提供される。当該コンピュータ装置は、プロセッサ及びメモリを含む。メモリはコンピュータプログラムを記憶しており、プロセッサはコンピュータプログラムを実行する場合に、以下の操作を実行するように構成されている。
トラック駐車領域を観測することによってトラック駐車領域の観測データを取得することであって、トラック駐車領域には少なくとも1台のトラックが駐車し、少なくとも1台のトラックごとに少なくとも1つのキャリアが配置されている、取得することと、
観測データから少なくとも1台のトラックの点群データを取得し、少なくとも1台のトラックの点群データから各キャリアの点群データを取得することと、
各キャリアの点群データに基づいて各キャリアの相対ポーズを確定することと、
各キャリアの点群データに基づいて荷取りの優先順位を確定することと、
各キャリアの相対ポーズ及び荷取りの優先順位に基づいて、フォークリフトが荷取りするよう制御すること。
【0005】
第三様態において、本出願では、不揮発性コンピュータ可読記憶媒体がさらに提供される。当該不揮発性コンピュータ可読記憶媒体は、コンピュータプログラムを記憶している。コンピュータプログラムは、プロセッサによって実行される場合に、プロセッサが以下の操作を実行すること、を可能にする。
トラック駐車領域を観測することによってトラック駐車領域の観測データを取得することであって、トラック駐車領域には少なくとも1台のトラックが駐車し、少なくとも1台のトラックごとに少なくとも1つのキャリアが配置されている、取得することと、
観測データから少なくとも1台のトラックの点群データを取得し、少なくとも1台のトラックの点群データから各キャリアの点群データを取得することと、
各キャリアの点群データに基づいて各キャリアの相対ポーズを確定することと、
各キャリアの点群データに基づいて荷取りの優先順位を確定することと、
各キャリアの相対ポーズ及び荷取りの優先順位に基づいて、フォークリフトが荷取りするよう制御すること。
【0006】
上記フォークリフトの荷取り方法、コンピュータ装置及び記憶媒体において、トラック駐車領域を観測することによってトラック駐車領域の観測データを取得する。観測データから少なくとも1台のトラックの点群データを取得し、少なくとも1台のトラックの点群データから各キャリアの点群データを取得する。各キャリアの点群データに基づいて各キャリアの相対ポーズを確定する。各キャリアの点群データに基づいて荷取りの優先順位を確定する。各キャリアの相対ポーズ及び荷取りの優先順位に基づいて、フォークリフトが荷取りするよう制御する。観測データを取得し、次に観測データからトラックの点群データを取得し、その後、トラックの点群データから各キャリアの点群データを取得し、各キャリアの点群データに基づいて各キャリアの相対ポーズ及び荷取りの優先順位を確定する。それによって、フォークリフトが荷取りするよう制御する。このように、フォークリフトが荷取りするよう自動的に制御し、荷取りの効率を向上させることができる。
【図面の簡単な説明】
【0007】
図1図1は、1つの実施形態に係るフォークリフトの荷取り方法のアプリケーションシナリオを示す図である。
図2図2は、1つの実施形態に係るフォークリフトの荷取り方法のフローチャートである。
図3図3は、1つの実施形態に係る監視点の配置位置を示す概略図である。
図4図4は、1つの実施形態に係るトラック駐車領域による座標系作成を示す概略図である。
図5図5は、1つの実施形態に係るフォークリフトの荷取り方法のフローチャートである。
図6図6は、1つの実施形態に係るフォークリフトの荷取り方法のフローチャートである。
図7図7は、1つの実施形態に係るフォークリフトの荷取り装置の構造を示すブロック図である。
図8図8は、1つの実施形態に係るコンピュータ装置の内部構造を示す概略図である。
【発明を実施するための形態】
【0008】
本出願の目的、技術的解決策及び利点をより明確にするために、以下、図面及び実施形態を参照しながら、本出願についてさらに詳しく説明する。以下に記載される具体的な実施形態は、本出願を説明するためのみに用いられるが、本出願を限定するために用いられない。
【0009】
本出願の実施形態に係るフォークリフトの荷取り方法は、図1に示されるアプリケーションシナリオに適用されることができる。端末102は、ネットワークを介してサーバ104と通信可能に接続されている。データ記憶システム106は、サーバ104が処理する必要のあるデータを記憶することができる。データ記憶システム106は、サーバ104に集積されてもよく、クラウド上又は他のネットワークサーバに配置されてもよい。データ記憶システム106がサーバ104に集積されている場合に、データ記憶システム106は、サーバ104内のバスを介してサーバ104と通信することができる。データ記憶システム106がクラウド上又は他のネットワークサーバに配置されている場合に、データ記憶システム106は、ネットワークを介してサーバ104と通信する。サーバ104は、端末102によって収集された、トラック駐車領域の観測データを取得する。トラック駐車領域には少なくとも1台のトラックが駐車し、少なくとも1台のトラックごとに少なくとも1つのキャリアが配置されている。サーバ104は、観測データから少なくとも1台のトラックの点群データを取得し、少なくとも1台のトラックの点群データから各キャリアの点群データを取得する。サーバ104は、各キャリアの点群データに基づいて各キャリアの相対ポーズを確定する。サーバ104は、各キャリアの点群データに基づいて荷取りの優先順位を確定する。サーバ104は、各キャリアの相対ポーズ及び荷取りの優先順位に基づいて、フォークリフトが荷取りするよう制御する。端末102は、様々なパソコン、ノートブックコンピュータ、スマートフォン、タブレットコンピュータ、IoT(internet of things)装置、及び携帯型ウェアラブルデバイスであってもよいが、それらに限定されない。IoT装置は、スマートスピーカー、スマートテレビ、スマートエアコン、スマート車載機器などであってもよい。携帯型ウェアラブルデバイスは、スマートウォッチ、スマートブレスレット、頭部装着型デバイスなどであってもよい。サーバ104は、独立したサーバによって実装されてもよく、複数のサーバからなるサーバクラスターによって実装されてもよい。本出願の実施形態において、サーバ104は中央制御システムであることができる。データ記憶システム106は、不揮発性メモリ及び発揮性メモリのうちの少なくとも1つを含む。
【0010】
1つの実施形態において、図2に示されるように、フォークリフトの荷取り方法が提供される。当該方法が図1におけるサーバ104に適用されることを例として説明する。当該方法は以下のステップを含む。
【0011】
ステップ202:トラック駐車領域の観測データを取得する。
【0012】
トラック駐車領域には少なくとも1台のトラックが駐車し、少なくとも1台のトラックごとに少なくとも1つのキャリアが配置されている。観測データとは、貨物が積載されているトラック駐車領域内のトラックを観測することによって取得されるデータである。
【0013】
具体的に、まずは、トラック駐車領域が予めに設定され、トラック駐車領域の周囲に監視装置が配置される。次に、少なくとも1台のトラックがトラック駐車領域に駐車した後、中央制御システム(具体的に、中央制御システムのプロセッサであることができる)は、監視装置がトラック駐車領域を観測するよう制御し、トラック駐車領域の観測データを取得する。
【0014】
ステップ204:観測データから少なくとも1台のトラックの点群データを取得し、少なくとも1台のトラックの点群データから各キャリアの点群データを取得する。
【0015】
観測データから、貨物が積載されたトラックの空間領域を確定して、少なくとも1台のトラックの点群データを取得する。点群データとは、3次元(three-dimensional、3D)座標系におけるベクトルの集合であり、点の形で記録されたものである。各点は3D座標を含み、一部の点は、色情報や反射強度情報などを含むことも可能である。ここで、色情報とは、空間的な色情報を指し、反射強度情報とは、収集中にレーザーが異なる平面をスキャンした際に反射することによって得られる強度の異なる情報を指す。プロセッサは、観測データを処理することによって、少なくとも1台のトラックの点群データを取得する。キャリアとは、積載空間及び開口部を備えた支持体を指し、トラックの貨物を載せるために用いられる。キャリアは具体的にメッシュパレットなどを含んでもよい。キャリアは支持脚を備える。
【0016】
具体的に、トラック駐車領域に基づいて、プロセッサは、観測データからトラック駐車領域の両側にある監視点によって収集された点群データを取得する。次に、プロセッサは、トラック駐車領域の両側にある監視点によって収集された点群データを、x-z平面に平行する平面にy軸方向に沿って投影し、二次元(two-dimensional、2D)平面を形成する。プロセッサはさらに、目標検出アルゴリズムを利用して2D平面に対してキャリア識別を行うことによって、各キャリアの点群データを取得する。目標検出アルゴリズムは、画像又は映像中の目標物体を見つけ出し、且つ目標物体の位置及びサイズを検出することができるアルゴリズムであり、主にキャリアの点群データを検出するために用いられる。なお、キャリアの点群データを検出するアルゴリズムは、目標検出アルゴリズムに限定されなく、キャリアの点群データを検出することができる他のアルゴリズムを含むことができる。トラック駐車領域は矩形領域であり、トラック駐車領域の長辺方向がx軸方向とされ、トラック駐車領域の短辺方向がy軸方向とされ、xy平面に対して垂直な方向がz軸方向とされる。
【0017】
ステップ206:各キャリアの点群データに基づいて、各キャリアの相対ポーズを確定する。
【0018】
ポーズとは、ワールド座標系及びオイラー角(euler angle)座標系で形成される共通座標系に相対する概念である。ワールド座標系は、トラック駐車領域Pの長辺方向をx軸方向とし、トラック駐車領域Pの短辺方向をy軸方向とし、xy平面に対して垂直な方向をz軸方向とすることによって作成される。オイラー角は、固定点に対する剛体の回転姿勢を唯一に確定するために用いられる3つの独立な角の組のことであり、ピッチ角θ、ヨー角ψ及びロール角φからなる。
【0019】
具体的に、プロセッサは、各キャリアの点群データに基づいて、各キャリアの相対ポーズを確定する。
【0020】
ステップ208:各キャリアの点群データに基づいて、荷取りの優先順位を確定する。
【0021】
荷取りの優先順位とは、貨物が取られる順序のことである。各キャリアの点群データの優先順位を判断することによって、荷取りの優先順位を確定する。
【0022】
具体的に、プロセッサは、各キャリアの点群データに基づいて、2つの隣接するキャリアの間のギャップを取得し、2つの隣接するキャリアの間のギャップに基づいて、荷取りの優先順位を確定する。
【0023】
ステップ210:各キャリアの相対ポーズ及び荷取りの優先順位に基づいて、フォークリフトが荷取りするよう制御する。
【0024】
具体的に、プロセッサは、各キャリアの相対ポーズ及び荷取りの優先順位を取得した後、各キャリアの相対ポーズに基づいて、フォークリフトのフォーク挿入方向を制御し、荷取りの優先順位に基づいて、フォークリフトが対応するキャリアによって載せられた貨物を荷取りするよう制御する。
【0025】
上記フォークリフトの荷取り方法において、トラック駐車領域を観測することによってトラック駐車領域の観測データを取得する。観測データから少なくとも1台のトラックの点群データを取得し、少なくとも1台のトラックの点群データから各キャリアの点群データを取得する。各キャリアの点群データに基づいて、各キャリアの相対ポーズを確定する。各キャリアの点群データに基づいて、荷取りの優先順位を確定する。各キャリアの相対ポーズ及び荷取りの優先順位に基づいて、フォークリフトが荷取りするよう制御する。このように、フォークリフトが荷取りするよう自動的に制御することができ、荷取りの効率を向上させるとともに、複雑な環境においてフォークリフトが荷取りしにくいという課題を解決することができる。
【0026】
1つの実施形態において、トラック駐車領域の観測データを取得することは、
複数の監視装置の各々によって収集された、トラック駐車領域内にある少なくとも1台のトラックの候補データを取得することと、
複数の監視装置の各々によって収集された候補データを融合することによって、観測データを取得することと、を含む。
【0027】
監視点に配置された複数の監視装置の各々は3次元(3D)レーザーセンサー及びカメラを含むことができるが、それらに限定されない。3Dレーザーセンサーは、三角測量を介して3Dシナリオを再構築する。レーザー光源とカメラとのマッチングにより、トラック駐車領域内にあるトラックの候補データを取得する。候補データは、トラック駐車領域内にあるトラックの候補点群データと候補画像データ、及びトラック駐車領域内にあるトラックにおける貨物の候補点群データと候補画像データを含む。各監視点にある3Dレーザーセンサー及びカメラによって取得されたデータを融合することによって、実世界における色特性を有する完全な3D点群データを取得する。さらに、複数の監視点にある3Dレーザーセンサー及びカメラに対応する完全な3D点群データを融合することによって、トラック駐車領域の観測データを取得する。具体的に、図像データの融合とは、複数の画像をつなぎ合わせて一つの大きな画像にすることである。点群データの融合には、時空間ベンチマーク(space-time benchmark)と精度、スケール(scale)、セマンティクス(semantic)という3つの一貫性処理(consistency processing)が含まれる。時空間ベンチマークと精度の一貫性処理は、異なるデータソース間の複雑な関係及び相互変換規則に基づいて、時空間ベンチマークと精度の一貫性を実現し、シナリオが統一的である点群モデルを構築することである。スケールの一貫性処理の方法は、点群密度とディティール解像度が異なる複数の点群データのうち、重複する部分の点群データを削除することである。セマンティクスの一貫性処理の方法は、統一されたセマンティック識別子を介して、複数の点群データの理解レベルにおける一貫性を実現することである。
【0028】
具体的に、予め設定された監視点にある3Dレーザーセンサー及びカメラが観測データを収集することを例とする。プロセッサは、各監視点にある3Dレーザーセンサー及びカメラによって収集された、トラック駐車領域内にあるトラックの候補点群データ及び候補画像データを取得する。各監視点にある3Dレーザーセンサー及びカメラによって収集されたデータを融合することによって、実世界における色特性を有する完全な3D点群データを取得する。具体的に、各監視点にある3Dレーザーセンサーの、ワールド座標系における座標(xi,yi,zi)及び対応するオイラー角(pitchi,rolli,yawi)に基づいて、データを融合することによって観測データを取得する。ワールド座標系は、トラック駐車領域Pの長辺方向をx軸方向とし、トラック駐車領域Pの短辺方向をy軸方向とし、xy平面に対して垂直な方向をz軸方向とすることによって作成される。オイラー角は、固定点に対する剛体の回転姿勢を唯一に確定するために用いられる3つの独立な角の組のことであり、ピッチ角θ、ヨー角ψ及びロール角φからなる。
【0029】
本実施形態において、複数の監視装置によって収集された点群データを融合することによって、トラック駐車領域の完全な点群データを取得することができる。
【0030】
1つの実施形態において、トラック駐車領域は矩形領域であり、矩形領域の長辺の両側に監視点が配置されており、監視点には監視装置が配置されており、隣接する監視点に対応する観測区間に重なりがある。監視点の数は、矩形領域の長辺の長さ及び監視点の有効な観測距離に基づいて取得される。有効な観測距離は、目標監視装置の観測距離に基づいて確定される。目標監視装置の観測距離は、目標監視装置と矩形領域の長辺との間の垂直距離及び目標監視装置の画角に基づいて確定される。目標監視装置は、すべての監視装置のうち画角が最も狭い監視装置である。監視装置は3Dレーザーセンサー及びカメラを含むことができる。
【0031】
具体的に、図3に示されるように、トラック駐車領域はPであり、Pは矩形であり、長辺の長さはSメートルであり、Pの長辺の両側に監視点が配置されている。同側にある監視点によって形成される直線はPの長辺に平行であり、同側にある各監視点からPまでの距離はいずれもwメートルである。プロセッサは、監視点にある監視装置のセンサーの画角θを取得する。監視装置が多種類のセンサーを有する場合に、最も狭い画角を選択して計算を行う。1つのセンサーの観測距離の計算公式は、x=w・tan(θ/2)・1/2である。xは1つのセンサーの観測距離を表し、θは監視点にあるセンサーの画角を表し、wは監視点とトラック駐車領域の長辺との距離を表す。取得されるデータの正確性を確保するために、2つの隣接する監視点の観測視野に一定の重なりがあると確保することができる。この場合、監視点の有効な観測距離の計算公式は:x’=x・非重なりの比率であり、x’は監視点の有効な観測距離を表し、xは1つのセンサーの観測距離を表す。監視点の数の計算公式は、n=2・S/x’であり、nは監視点の数を表し、Sはトラック駐車領域の長辺の長さを表し、x’は監視点の有効な観測距離を表す。
【0032】
本実施形態において、トラック駐車領域の長辺の長さ及び各監視点の視野範囲に基づいて監視点の数を計算し、対応する数の監視点を配置し、対応する監視装置を配置することによって、より完全な観測データを取得することができる。
【0033】
1つの実施形態において、各キャリアの点群データに基づいて各キャリアの相対ポーズを確定することは、
少なくとも1つのキャリアごとに、キャリアの点群データを処理することによってキャリアのフロントエンド断面点群クラスター(front-end cross-sectional point cloud cluster)を取得することと、
キャリアのフロントエンド断面点群クラスターを、z軸に対して垂直な方向に沿ってスライス層にスライスし、各スライス層の点群に対してクラスタリング(clustering)を行うことと、
クラスタリング結果と予め設定されたテンプレートにおけるキャリアの支持脚情報とを照合し、マッチング要求を満たさないスライス層を除去して、キャリアのポーズを取得することと、を含む。
上記トラック駐車領域は矩形領域であり、トラック駐車領域の長辺方向がx軸方向とされ、トラック駐車領域の短辺方向がy軸方向とされ、xy平面に対して垂直な方向がz軸方向とされる。
【0034】
トラック駐車領域を利用することによって座標系が作成される。図4に示されるように、トラック駐車領域Pの長辺方向がx軸方向とされ、トラック駐車領域Pの短辺方向がy軸方向とされ、xy平面に対して垂直な方向がz軸方向とされる。キャリアのフロントエンド断面点群クラスターとは、x軸とz軸によって形成される平面に平行する方向において同側にある監視点に最も近い、キャリアの点群クラスターによって形成される断面である。同側にある監視点は、トラック駐車領域の同側にある監視点である。例えば、図3に示されたように、監視点1~4は、同側にある監視点に属し、監視点5~8は、同側にある監視点に属する。クラスタリングとは、ある特定の基準(例えば、距離)に従ってデータセットを異なるカテゴリ又はクラスターに分割することであり、それによって、同一のクラスター内のデータ対象間の類似性ができるだけ大きくなり、異なるクラスター内のデータ対象間の差異ができるだけ大きくなる。クラスタリングの後、同じカテゴリに属するデータはできるだけクラスタリングされ、異なるカテゴリに属するデータはできるだけ分離される。スライスされたキャリアのフロントエンド断面点群クラスターの点群データに対してクラスタリング分析を行う。支持脚とは、キャリアの支柱である。支柱のサイズと数、及び支柱間の異なる距離に応じて、各種類のキャリア(例えば、メッシュパレット)の支柱の幅情報及び支柱間の距離情報を取得し且つテンプレートに入力して支持脚情報とする。具体的に、トラック駐車領域は矩形領域であり、トラック駐車領域の長辺方向がx軸方向とされ、トラック駐車領域の短辺方向がy軸方向とされ、xy平面に対して垂直な方向がz軸方向とされる。プロセッサは、予め設定されたテンプレートにおけるキャリアの支持脚情報を取得する。プロセッサは、キャリアの点群データをフィルタリングすることによって、キャリアのフロントエンド断面点群クラスターを取得する。プロセッサは、キャリアのフロントエンド断面点群クラスターを、z軸に対して垂直な方向に沿ってスライス層にスライスし、各スライス層の点群に対してクラスタリングを行う。プロセッサは、クラスタリングの後、各種類のメッシュパレットの支柱の幅及び支柱間の距離を計算し、それをテンプレートにおける各種類のメッシュパレットの支柱の幅及び支柱間の距離と照合して、同じサイズ及び距離を有するスライス層を残し、異なるサイズ及び距離を有するスライス層を除去する。
【0035】
本実施形態において、キャリアのポーズを取得することによって、フォークリフトのフォーク挿入方向にデータサポートを提供する。
【0036】
1つの実施形態において、キャリアの点群データを処理することによってキャリアのフロントエンド断面点群クラスターを取得することは、
キャリアの点群データに対して密度フィルタリング(density filtering)及び法線ベクトルフィルタリング(normal vector filtering)を行うことによって、キャリアのフロントエンド断面点群クラスターを取得すること、を含む。
密度フィルタリングとは、同側にある点群と監視点との距離に応じて点群の数をy軸方向にランク付けした後、ピーク区間内の点群を残すことであり、ピーク区間とは監視点から目標距離離れる距離範囲であり、監視点から目標距離離れる位置における点群の数が最も多い。法線ベクトルフィルタリングとは、キャリアの点群データに対して平面フィッティングを行うことによって、予め設定された要求を満たす点群データを取得することである。
【0037】
点群の密度フィルタリング方法は、同側にある点群と監視点との距離に応じて点群の数をy軸方向に降順でランク付けした後、ピーク区間内の点群を残すことである。監視点からy’メートル離れる位置における点群の数が最も多いと仮定し、領域値aが設定され、区間[y’-a,y’+a]内の点群を残し、[y’-a,y’+a]はピーク区間である。トラック駐車領域Pの長辺方向がx軸方向とされ、トラック駐車領域Pの短辺方向がy軸方向とされ、xy平面に対して垂直な方向がz軸方向とされる。法線ベクトルフィルタリングとは、キャリアのピーク区間内の点群データに対して平面フィッティングを行い、法線ベクトルとy軸との間の夾角を計算し、夾角閾値を設定し、夾角閾値より大きい法線ベクトルに対応する点群データをフィルタリングすることによって、要求を満たす点群データを取得することである。
【0038】
具体的に、トラック駐車領域Pの長辺方向がx軸方向とされ、トラック駐車領域Pの短辺方向がy軸方向とされ、xy平面に対して垂直な方向がz軸方向とされる。法線ベクトルとy軸との間の夾角閾値が予めに設定される。プロセッサは、ピーク区間内の点群データを残し、法線ベクトルとy軸との間の夾角を計算し、夾角閾値より大きい法線ベクトルに基づいて、要求を満たす点群データを取得する。
【0039】
本実施形態において、点群データに対して密度フィルタリング及び法線ベクトルフィルタリングを行うことによって、精確な点群データを取得することができる。
【0040】
1つの実施形態において、各キャリアの点群データに基づいて荷取りの優先順位を確定することは、以下を含む。
【0041】
ステップ502:各種類の貨物に対して、各キャリアの中点と隣接するキャリアの中点との距離を計算し、予め設定されたテンプレートにおけるキャリアの長さを減算することによって、2つの隣接するキャリアの間のギャップを取得する。
【0042】
具体的に、特徴点に基づいて貨物を分類する。各種類の貨物に対して、プロセッサは、各キャリアの中点と隣接するキャリアの中点との距離を計算し、予め設定されたテンプレートにおけるキャリアの長さを減算することによって、2つの隣接するキャリアの間のギャップを取得する。なお、特徴点はトラックの階段、支柱などの一つを指し、それらに限定されないが、貨物を区別する任意の特徴点であることができる。
【0043】
ステップ504:2つの隣接するキャリアの間のギャップに基づいて、各キャリアに対応する目標ギャップを計算する。
【0044】
具体的に、各種類の貨物に対して、プロセッサは、2つの隣接するキャリアの間のギャップに基づいて、各キャリアに対応する目標ギャップを計算する。1つの実施形態において、各キャリアに対応する目標ギャップは、各キャリアの左右のギャップの合計である。
【0045】
ステップ506:目標ギャップが最も大きいキャリアの荷取りの優先順位を最高の荷取りの優先順位として確定する。
【0046】
具体的に、プロセッサは、計算された各キャリアに対応する目標ギャップに基づいて、各キャリアに対応する目標ギャップを降順でランク付けし、目標ギャップが最も大きいキャリアの荷取りの優先順位を最高の荷取りの優先順位として確定する。
【0047】
本実施形態において、キャリア間のギャップに応じて荷取りの優先順位を確定し、それによって、荷取りの優先順位の確定がより合理的となる。
【0048】
本出願の実施形態において、詳しいフォークリフトの荷取り方法が提供される。トラック駐車領域Pが予めに設定され、トラック駐車領域Pをモニターするように、トラック駐車領域Pに8つの監視点が配置され、各監視点には3Dレーザーセンサー及びカメラが配置される。トラック駐車領域Pの長辺方向がx軸方向であると予めに設定され、トラック駐車領域Pの短辺方向がy軸方向であると予めに設定され、xy平面に対して垂直な方向がz軸方向であると予めに設定される。図6に示されるように、フォークリフトの荷取りの具体的な操作は以下を含む。
【0049】
(1)中央制御システムは、各監視点にある3Dレーザーセンサー及びカメラがトラック駐車領域Pの観測情報を収集する(即ち、トラック情報を収集する)よう制御する。
【0050】
(2)中央制御システムは、3Dレーザーセンサーとカメラとを照合し、即ち、複数のセンサーによって収集されたデータを融合することによって色特性を有する点群データを取得する。さらに、中央制御システムは、少なくとも1つの監視点に対応の色特性を有する点群データを融合することによって、トラック駐車領域の完全な点群データ、即ち、本実施形態に記載の観測データを取得する。
【0051】
(3)中央制御システムは、完全な点群データからトラック駐車領域の両側の点群データを取得し、目標検出アルゴリズムを利用してトラック駐車領域の両側の点群データに対してキャリア識別を行うことによって、1つのキャリアの輪郭の点群データを取得する。
【0052】
(4)中央制御システムは、キャリアの輪郭の点群データに対して密度フィルタリング及び法線ベクトルフィルタリングを行った後、x軸とz軸によって形成される平面に平行する方向において同側にある監視点に最も近い、キャリアの点群クラスターによって形成される断面に基づいて、キャリアのフロントエンド断面点群クラスターを取得する。
【0053】
(5)中央制御システムは、キャリアのフロントエンド断面点群クラスターを、z軸に対して垂直な方向に沿ってスライス層にスライスし、各スライス層の点群に対してクラスタリングを行い、クラスタリング結果と予め設定されたテンプレートにおけるキャリアの支持脚情報とを照合し、マッチング要求を満たさないスライス層を除去して、キャリアの相対ポーズを取得する。
【0054】
(6)中央制御システムは、トラックにおける貨物を分類し、各種類の貨物に対して、各キャリアの中点と隣接するキャリアの中点との距離を計算し、予め設定されたテンプレートにおけるキャリアの長さを減算することによって、2つの隣接するキャリアの間のギャップを取得する。中央制御システムは、キャリアごとにキャリアの左右のギャップを加算し、降順でランク付けする。ギャップが最も大きいキャリアは、最高の荷取りの優先順位を有する。
【0055】
(7)中央制御システムは、キャリアの相対ポーズ及び荷取りの優先順位に基づいて、フォークリフトがトラックにおける貨物を荷取りするよう制御する。
【0056】
上記各実施形態に係るフローチャートにおける各ステップは、矢印に従って順次に記述されているが、それらのステップは必ずしも矢印に従って順次に実行されるというわけではないことを理解されたい。本明細書で明示しない限り、それらのステップの実行は厳密にその順序に限定されなく、それらのステップは他の順序で実行されてもよい。さらに、上記各実施形態に係るフローチャートにおけるステップの少なくとも一部は、複数のステップ又は複数の段階を含んでいてもよく、それらのステップ又は段階は、必ずしも同時に実行されて完了するというわけではなく、異なるタイミングで実行されてもよい。また、それらのステップ又は段階の実行は必ずしも連続的であるというわけではなく、他のステップや他のステップにおけるステップ又は段階の少なくとも一部と順番に、又は交代で実行されてもよい。
【0057】
同じ発明概念に基づいて、本出願の実施形態において、上記フォークリフトの荷取り方法を実現するためのフォークリフトの荷取り装置がさらに提供される。当該装置に係る解決策は上記方法に係る解決策と類似であるため、以下に提供されるフォークリフトの荷取り装置の1つ又は複数の実施形態については、上記フォークリフトの荷取り方法の実施形態を参照することができ、本明細書で繰り返さない。
【0058】
1つの実施形態において、図7に示されるように、フォークリフトの荷取り装置が提供される。当該フォークリフトの荷取り装置は、観測データ取得モジュール710、点群データ取得モジュール720、ポーズ確定モジュール730、優先順位確定モジュール740及び荷取り制御モジュール750を含む。
【0059】
観測データ取得モジュール710は、トラック駐車領域を観測することによってトラック駐車領域の観測データを取得するように構成されており、トラック駐車領域には少なくとも1台のトラックが駐車し、少なくとも1台のトラックごとに少なくとも1つのキャリアが配置されている。
【0060】
点群データ取得モジュール720は、観測データから少なくとも1台のトラックの点群データを取得し、少なくとも1台のトラックの点群データから各キャリアの点群データを取得するように構成されている。
【0061】
ポーズ確定モジュール730は、各キャリアの点群データに基づいて各キャリアの相対ポーズを確定するように構成されている。
【0062】
優先順位確定モジュール740は、各キャリアの点群データに基づいて荷取りの優先順位を確定するように構成されている。
【0063】
荷取り制御モジュール750は、各キャリアの相対ポーズ及び荷取りの優先順位に基づいて、フォークリフトが荷取りするよう制御するように構成されている。
【0064】
1つの実施形態において、観測データ取得モジュール710は、複数の監視装置の各々によって収集された、トラック駐車領域内にある少なくとも1台のトラックの候補データを取得し、複数の監視装置の各々によって収集された候補データを融合することによって、観測データを取得するように構成されている。
【0065】
1つの実施形態において、上記フォークリフトの荷取り装置は、配置モジュールをさらに含む。トラック駐車領域は矩形領域である。配置モジュールは、矩形領域の長辺の両側に監視点を配置するように構成されている。監視点には監視装置が配置されており、隣接する監視点に対応する観測区間に重なりがある。監視点の数は、矩形領域の長辺の長さ及び監視点の有効な観測距離に基づいて取得される。有効な観測距離は、目標監視装置の観測距離に基づいて確定される。目標監視装置の観測距離は、目標監視装置と矩形領域の長辺との間の垂直距離及び目標監視装置の画角に基づいて確定される。上記目標監視装置は、すべての監視装置のうち画角が最も狭い監視装置である。
【0066】
1つの実施形態において、複数の監視装置の各々は3Dレーザーセンサー及びカメラを含む。
【0067】
1つの実施形態において、3Dレーザーセンサーは、トラック駐車領域内にある少なくとも1台のトラックの候補点群データを収集するために用いられ、カメラは、トラック駐車領域内にある少なくとも1台のトラックの候補画像データを収集するために用いられる。
観測データ取得モジュール710は、3Dレーザーセンサーの各々によって収集された、トラック駐車領域内にある少なくとも1台のトラックの候補点群データを取得し、カメラの各々によって収集された、トラック駐車領域内にある少なくとも1台のトラックの候補画像データを取得し、候補点群データ及び候補画像データを融合することによって候補データを取得するように構成されている。候補データは、色特性を有する点群データである。
【0068】
1つの実施形態において、上記フォークリフトの荷取り装置は、照合モジュールをさらに含む。点群データ取得モジュール720は、少なくとも1つのキャリアごとに、キャリアの点群データを処理することによってキャリアのフロントエンド断面点群クラスターを取得するように構成されている。照合モジュールは、キャリアのフロントエンド断面点群クラスターを、z軸に対して垂直な方向に沿ってスライス層にスライスし、各スライス層の点群に対してクラスタリングを行い、クラスタリング結果と予め設定されたテンプレートにおけるキャリアの支持脚情報とを照合し、マッチング要求を満たさないスライス層を除去して、キャリアのポーズを取得するように構成されている。
トラック駐車領域は矩形領域であり、トラック駐車領域の長辺方向がx軸方向とされ、トラック駐車領域の短辺方向がy軸方向とされ、xy平面に対して垂直な方向がz軸方向とされる。
【0069】
1つの実施形態において、上記フォークリフトの荷取り装置は、フィルタリングモジュールをさらに含む。フィルタリングモジュールは、キャリアの点群データに対して密度フィルタリング及び法線ベクトルフィルタリングを行うことによって、キャリアのフロントエンド断面点群クラスターを取得するように構成されている。
密度フィルタリングとは、同側にある点群と監視点との距離に応じて点群の数をy軸方向にランク付けした後、ピーク区間内の点群を残すことである。ピーク区間とは監視点から目標距離離れる距離範囲であり、監視点から目標距離離れる位置における点群の数が最も多い。
法線ベクトルフィルタリングとは、キャリアの点群データに対して平面フィッティングを行うことによって、予め設定された要求を満たす点群データを取得することである。
【0070】
1つの実施形態において、優先順位確定モジュール740は、各種類の貨物に対して、各キャリアの中点と隣接するキャリアの中点との距離を計算し、予め設定されたテンプレートにおけるキャリアの長さを減算することによって、2つの隣接するキャリアの間のギャップを取得し、
2つの隣接するキャリアの間のギャップに基づいて、各キャリアに対応する目標ギャップを計算し、
目標ギャップが最も大きいキャリアの荷取りの優先順位を最高の荷取りの優先順位として確定するように構成されている。
【0071】
1つの実施形態において、優先順位確定モジュール740は、各キャリアの左右のギャップの合計を、各キャリアに対応する目標ギャップとして確定するように構成されている。
【0072】
1つの実施形態において、荷取り制御モジュール750は、各キャリアの相対ポーズに基づいて、フォークリフトのフォーク挿入方向を制御し、荷取りの優先順位に基づいて、フォークリフトが対応するキャリアによって載せられた貨物を荷取りするよう制御するように構成されている。
【0073】
上記フォークリフトの荷取り装置における各モジュールは、その全部又は一部が、ソフトウェア、ハードウェア及びそれらの組み合わせによって実装されてもよい。上記各モジュールは、ハードウェアの形態でコンピュータ装置内のプロセッサに埋め込まれてもよく、コンピュータ装置内のプロセッサから独立してもよく、ソフトウェアの形態でコンピュータ装置内のメモリに記憶されてもよく、それによって、プロセッサは上記各モジュールに対応する操作を呼び出して実行することができる。
【0074】
1つの実施形態において、コンピュータ装置が提供される。当該コンピュータ装置は、サーバであってもよく、その内部構造図は図8に示されている。当該コンピュータ装置は、システムバス830を介して互いに接続されたプロセッサ810、メモリ820、ネットワークインターフェース840を含む。当該コンピュータ装置のプロセッサは、計算及び制御機能を提供するように構成されている。当該コンピュータ装置のメモリは、不揮発性記憶媒体及び内部メモリを含む。当該不揮発性記憶媒体は、オペレーティングシステム、コンピュータプログラム及びデータベースを記憶している。当該内部メモリは、不揮発性記憶媒体におけるオペレーティングシステム及びコンピュータプログラムの実行環境を提供する。当該コンピュータ装置のデータベースは、貨物の点群データを記憶するために用いられる。当該コンピュータ装置のネットワークインターフェースは、ネットワーク接続を介して外部端末と通信するために用いられる。当該コンピュータプログラムは、上記フォークリフトの荷取り方法を実行するように、プロセッサによって実行される。
【0075】
図8に示された構造は、本出願の解決策に関連する一部の構造のブロック図に過ぎず、本出願の解決策が適用されるコンピュータ装置を制限するものではないことを当業者は理解することができる。コンピュータ装置は、図面より多い又はより少ないコンポーネントを含んでもよく、特定のコンポーネントを組み合わせてもよく、異なるコンポーネントの配置を有してもよい。
【0076】
1つの実施形態において、コンピュータ装置が提供される。当該コンピュータ装置は、メモリ及びプロセッサを含む。メモリはコンピュータプログラムを記憶している。プロセッサは、コンピュータプログラムを実行する場合に、以下の操作を実行する。
トラック駐車領域を観測することによってトラック駐車領域の観測データを取得することと、
観測データから少なくとも1台のトラックの点群データを取得し、少なくとも1台のトラックの点群データから各キャリアの点群データを取得することと、
各キャリアの点群データに基づいて各キャリアの相対ポーズを確定することと、
各キャリアの点群データに基づいて荷取りの優先順位を確定することと、
各キャリアの相対ポーズ及び荷取りの優先順位に基づいて、フォークリフトが荷取りするよう制御すること。
【0077】
1つの実施形態において、プロセッサは、コンピュータプログラムを実行する場合に、以下の操作をさらに実行する。
複数の監視装置の各々によって収集された、トラック駐車領域内にある少なくとも1台のトラックの候補データを取得することと、
複数の監視装置の各々によって収集された候補データを融合することによって、観測データを取得すること。
【0078】
1つの実施形態において、トラック駐車領域は矩形領域であり、矩形領域の長辺の両側に監視点が配置されており、監視点には監視装置が配置されており、隣接する監視点に対応する観測区間に重なりがある。監視点の数は、矩形領域の長辺の長さ及び監視点の有効な観測距離に基づいて取得される。有効な観測距離は、目標監視装置の観測距離に基づいて確定される。目標監視装置の観測距離は、目標監視装置と矩形領域の長辺との間の垂直距離及び目標監視装置の画角に基づいて確定される。
【0079】
1つの実施形態において、複数の監視装置の各々は3Dレーザーセンサー及びカメラを含む。
【0080】
1つの実施形態において、3Dレーザーセンサーは、トラック駐車領域内にある少なくとも1台のトラックの候補点群データを収集するために用いられ、カメラは、トラック駐車領域内にある少なくとも1台のトラックの候補画像データを収集するために用いられる。プロセッサは、コンピュータプログラムを実行する場合に、以下の操作をさらに実行する。
3Dレーザーセンサーの各々によって収集された、トラック駐車領域内にある少なくとも1台のトラックの候補点群データを取得することと、
カメラの各々によって収集された、トラック駐車領域内にある少なくとも1台のトラックの候補画像データを取得することと、
候補点群データ及び候補画像データを融合することによって候補データを取得することであって、候補データが色特性を有する点群データである、取得すること。
【0081】
1つの実施形態において、プロセッサは、コンピュータプログラムを実行する場合に、以下の操作をさらに実行する。
少なくとも1つのキャリアごとに、キャリアの点群データを処理することによってキャリアのフロントエンド断面点群クラスターを取得することと、
キャリアのフロントエンド断面点群クラスターを、z軸に対して垂直な方向に沿ってスライス層にスライスし、各スライス層の点群に対してクラスタリングを行うことと、
クラスタリング結果と予め設定されたテンプレートにおけるキャリアの支持脚情報とを照合し、マッチング要求を満たさないスライス層を除去して、キャリアのポーズを取得すること。
トラック駐車領域は矩形領域であり、トラック駐車領域の長辺方向がx軸方向とされ、トラック駐車領域の短辺方向がy軸方向とされ、xy平面に対して垂直な方向がz軸方向とされる。
【0082】
1つの実施形態において、プロセッサは、コンピュータプログラムを実行する場合に、キャリアの点群データに対して密度フィルタリング及び法線ベクトルフィルタリングを行うことによって、キャリアのフロントエンド断面点群クラスターを取得する。
密度フィルタリングとは、同側にある点群と監視点との距離に応じて点群の数をy軸方向にランク付けした後、ピーク区間内の点群を残すことである。ピーク区間とは監視点から目標距離離れる距離範囲であり、監視点から目標距離離れる位置における点群の数が最も多い。
法線ベクトルフィルタリングとは、キャリアの点群データに対して平面フィッティングを行うことによって、予め設定された要求を満たす点群データを取得することである。
【0083】
1つの実施形態において、プロセッサは、コンピュータプログラムを実行する場合に、以下の操作をさらに実行する。
各種類の貨物に対して、各キャリアの中点と隣接するキャリアの中点との距離を計算し、予め設定されたテンプレートにおけるキャリアの長さを減算することによって、2つの隣接するキャリアの間のギャップを取得することと、
2つの隣接するキャリアの間のギャップに基づいて、各キャリアに対応する目標ギャップを計算することと、
目標ギャップが最も大きいキャリアの荷取りの優先順位を最高の荷取りの優先順位として確定すること。
【0084】
1つの実施形態において、プロセッサは、コンピュータプログラムを実行する場合に、各キャリアの左右のギャップの合計を、各キャリアに対応する目標ギャップとして確定する。
【0085】
1つの実施形態において、プロセッサは、コンピュータプログラムを実行する場合に、各キャリアの相対ポーズに基づいて、フォークリフトのフォーク挿入方向を制御し、荷取りの優先順位に基づいて、フォークリフトが対応するキャリアによって載せられた貨物を荷取りするよう制御する。
【0086】
1つの実施形態において、コンピュータ可読記憶媒体がさらに提供される。当該コンピュータ可読記憶媒体は、コンピュータプログラムを記憶している。当該コンピュータプログラムは、プロセッサによって実行される場合に、プロセッサが以下の操作を実行すること、を可能にする。
トラック駐車領域を観測することによってトラック駐車領域の観測データを取得することであって、トラック駐車領域には少なくとも1台のトラックが駐車し、少なくとも1台のトラックごとに少なくとも1つのキャリアが配置されている、取得することと、
観測データから少なくとも1台のトラックの点群データを取得し、少なくとも1台のトラックの点群データから各キャリアの点群データを取得することと、
各キャリアの点群データに基づいて各キャリアの相対ポーズを確定することと、
各キャリアの点群データに基づいて荷取りの優先順位を確定することと、
各キャリアの相対ポーズ及び荷取りの優先順位に基づいて、フォークリフトが荷取りするよう制御すること。
【0087】
1つの実施形態において、トラック駐車領域を観測することによってトラック駐車領域の観測データを取得することについて、当該コンピュータプログラムがプロセッサによって実行される場合に、以下の操作が実行される。
複数の監視装置の各々によって収集された、トラック駐車領域内にある少なくとも1台のトラックの候補データを取得することと、
複数の監視装置の各々によって収集された候補データを融合することによって、観測データを取得すること。
【0088】
1つの実施形態において、トラック駐車領域は矩形領域であり、矩形領域の長辺の両側に監視点が配置されており、監視点には監視装置が配置されており、隣接する監視点に対応する観測区間に重なりがある。監視点の数は、矩形領域の長辺の長さ及び監視点の有効な観測距離に基づいて取得される。有効な観測距離は、目標監視装置の観測距離に基づいて確定される。目標監視装置の観測距離は、目標監視装置と矩形領域の長辺との間の垂直距離及び目標監視装置の画角に基づいて確定される。目標監視装置は、すべての監視装置のうち画角が最も狭い監視装置である。
【0089】
1つの実施形態において、複数の監視装置の各々は3Dレーザーセンサー及びカメラを含む。
【0090】
1つの実施形態において、3Dレーザーセンサーは、トラック駐車領域内にある少なくとも1台のトラックの候補点群データを収集するために用いられ、カメラは、トラック駐車領域内にある少なくとも1台のトラックの候補画像データを収集するために用いられる。複数の監視装置の各々によって収集された、トラック駐車領域内にある少なくとも1台のトラックの候補データを取得することについて、当該コンピュータプログラムがプロセッサによって実行される場合に、以下の操作が実行される。
3Dレーザーセンサーの各々によって収集された、トラック駐車領域内にある少なくとも1台のトラックの候補点群データを取得することと、
カメラの各々によって収集された、トラック駐車領域内にある少なくとも1台のトラックの候補画像データを取得することと、
候補点群データ及び候補画像データを融合することによって候補データを取得することであって、候補データが色特性を有する点群データである、取得すること。
【0091】
1つの実施形態において、各キャリアの点群データに基づいて各キャリアの相対ポーズを確定することについて、当該コンピュータプログラムがプロセッサによって実行される場合に、以下の操作が実行される。
少なくとも1つのキャリアごとに、キャリアの点群データを処理することによってキャリアのフロントエンド断面点群クラスターを取得することと、
キャリアのフロントエンド断面点群クラスターを、z軸に対して垂直な方向に沿ってスライス層にスライスし、各スライス層の点群に対してクラスタリングを行うことと、
クラスタリング結果と予め設定されたテンプレートにおけるキャリアの支持脚情報とを照合し、マッチング要求を満たさないスライス層を除去して、キャリアのポーズを取得すること。
トラック駐車領域は矩形領域であり、トラック駐車領域の長辺方向がx軸方向とされ、トラック駐車領域の短辺方向がy軸方向とされ、xy平面に対して垂直な方向がz軸方向とされる。
【0092】
1つの実施形態において、キャリアの点群データを処理することによってキャリアのフロントエンド断面点群クラスターを取得することについて、当該コンピュータプログラムがプロセッサによって実行される場合に、以下の操作がさらに実行される。
キャリアの点群データに対して密度フィルタリング及び法線ベクトルフィルタリングを行うことによって、キャリアのフロントエンド断面点群クラスターを取得すること。
密度フィルタリングとは、同側にある点群と監視点との距離に応じて点群の数をy軸方向にランク付けした後、ピーク区間内の点群を残すことである。ピーク区間とは監視点から目標距離離れる距離範囲であり、監視点から目標距離離れる位置における点群の数が最も多い。
法線ベクトルフィルタリングとは、キャリアの点群データに対して平面フィッティングを行うことによって、予め設定された要求を満たす点群データを取得することである。
【0093】
1つの実施形態において、各キャリアの点群データに基づいて荷取りの優先順位を確定することについて、当該コンピュータプログラムがプロセッサによって実行される場合に、以下の操作が実行される。
各種類の貨物に対して、各キャリアの中点と隣接するキャリアの中点との距離を計算し、予め設定されたテンプレートにおけるキャリアの長さを減算することによって、2つの隣接するキャリアの間のギャップを取得することと、
2つの隣接するキャリアの間のギャップに基づいて、各キャリアに対応する目標ギャップを計算することと、
目標ギャップが最も大きいキャリアの荷取りの優先順位を最高の荷取りの優先順位として確定すること。
【0094】
1つの実施形態において、2つの隣接するキャリアの間のギャップに基づいて、各キャリアに対応する目標ギャップを計算することについて、当該コンピュータプログラムがプロセッサによって実行される場合に、各キャリアの左右のギャップの合計を各キャリアに対応する目標ギャップとして確定すること、が実行される。
【0095】
1つの実施形態において、各キャリアの相対ポーズ及び荷取りの優先順位に基づいて、フォークリフトが荷取りするよう制御することについて、当該コンピュータプログラムがプロセッサによって実行される場合に、以下の操作が実行される。
各キャリアの相対ポーズに基づいて、フォークリフトのフォーク挿入方向を制御することと、
荷取りの優先順位に基づいて、フォークリフトが対応するキャリアによって載せられた貨物を荷取りするよう制御すること。
【0096】
1つの実施形態において、コンピュータプログラム製品がさらに提供される。当該コンピュータプログラム製品は、コンピュータプログラムを含む。当該コンピュータプログラムは、プロセッサによって実行される場合に、プロセッサが以下の操作を実行すること、を可能にする。
トラック駐車領域を観測することによってトラック駐車領域の観測データを取得することであって、トラック駐車領域には少なくとも1台のトラックが駐車し、少なくとも1台のトラックごとに少なくとも1つのキャリアが配置されている、取得することと、
観測データから少なくとも1台のトラックの点群データを取得し、少なくとも1台のトラックの点群データから各キャリアの点群データを取得することと、
各キャリアの点群データに基づいて各キャリアの相対ポーズを確定することと、
各キャリアの点群データに基づいて荷取りの優先順位を確定することと、
各キャリアの相対ポーズ及び荷取りの優先順位に基づいて、フォークリフトが荷取りするよう制御すること。
【0097】
1つの実施形態において、トラック駐車領域を観測することによってトラック駐車領域の観測データを取得することについて、当該コンピュータプログラムがプロセッサによって実行される場合に、以下の操作がさらに実行される。
複数の監視装置の各々によって収集された、トラック駐車領域内にある少なくとも1台のトラックの候補データを取得することと、
複数の監視装置の各々によって収集された候補データを融合することによって、観測データを取得すること。
【0098】
1つの実施形態において、トラック駐車領域は矩形領域であり、矩形領域の長辺の両側に監視点が配置されており、監視点には監視装置が配置されており、隣接する監視点に対応する観測区間に重なりがある。監視点の数は、矩形領域の長辺の長さ及び監視点の有効な観測距離に基づいて取得される。有効な観測距離は、目標監視装置の観測距離に基づいて確定される。目標監視装置の観測距離は、目標監視装置と矩形領域の長辺との間の垂直距離及び目標監視装置の画角に基づいて確定される。
【0099】
1つの実施形態において、複数の監視装置の各々は3Dレーザーセンサー及びカメラを含む。
【0100】
1つの実施形態において、3Dレーザーセンサーは、トラック駐車領域内にある少なくとも1台のトラックの候補点群データを収集するために用いられ、カメラは、トラック駐車領域内にある少なくとも1台のトラックの候補画像データを収集するために用いられる。複数の監視装置の各々によって収集された、トラック駐車領域内にある少なくとも1台のトラックの候補データを取得することについて、当該コンピュータプログラムがプロセッサによって実行される場合に、以下の操作がさらに実行される。
3Dレーザーセンサーの各々によって収集された、トラック駐車領域内にある少なくとも1台のトラックの候補点群データを取得することと、
カメラの各々によって収集された、トラック駐車領域内にある少なくとも1台のトラックの候補画像データを取得することと、
候補点群データ及び候補画像データを融合することによって候補データを取得することであって、候補データが色特性を有する点群データである、取得すること。
【0101】
1つの実施形態において、各キャリアの点群データに基づいて各キャリアの相対ポーズを確定することについて、当該コンピュータプログラムがプロセッサによって実行される場合に、以下の操作がさらに実行される。
少なくとも1つのキャリアごとに、キャリアの点群データを処理することによってキャリアのフロントエンド断面点群クラスターを取得することと、
キャリアのフロントエンド断面点群クラスターを、z軸に対して垂直な方向に沿ってスライス層にスライスし、各スライス層の点群に対してクラスタリングを行うことと、
クラスタリング結果と予め設定されたテンプレートにおけるキャリアの支持脚情報とを照合し、マッチング要求を満たさないスライス層を除去して、キャリアのポーズを取得すること。
トラック駐車領域は矩形領域であり、トラック駐車領域の長辺方向がx軸方向とされ、トラック駐車領域の短辺方向がy軸方向とされ、xy平面に対して垂直な方向がz軸方向とされる。
【0102】
1つの実施形態において、キャリアの点群データを処理することによってキャリアのフロントエンド断面点群クラスターを取得することについて、当該コンピュータプログラムがプロセッサによって実行される場合に、以下の操作がさらに実行される。
キャリアの点群データに対して密度フィルタリング及び法線ベクトルフィルタリングを行うことによって、キャリアのフロントエンド断面点群クラスターを取得すること。
密度フィルタリングとは、同側にある点群と監視点との距離に応じて点群の数をy軸方向にランク付けした後、ピーク区間内の点群を残すことである。ピーク区間とは監視点から目標距離離れる距離範囲であり、監視点から目標距離離れる位置における点群の数が最も多い。
法線ベクトルフィルタリングとは、キャリアの点群データに対して平面フィッティングを行うことによって、予め設定された要求を満たす点群データを取得することである。
【0103】
1つの実施形態において、各キャリアの点群データに基づいて荷取りの優先順位を確定することについて、当該コンピュータプログラムがプロセッサによって実行される場合に、以下の操作がさらに実行される。
各種類の貨物に対して、各キャリアの中点と隣接するキャリアの中点との距離を計算し、予め設定されたテンプレートにおけるキャリアの長さを減算することによって、2つの隣接するキャリアの間のギャップを取得することと、
2つの隣接するキャリアの間のギャップに基づいて、各キャリアに対応する目標ギャップを計算することと、
目標ギャップが最も大きいキャリアの荷取りの優先順位を最高の荷取りの優先順位として確定すること。
【0104】
1つの実施形態において、2つの隣接するキャリアの間のギャップに基づいて、各キャリアに対応する目標ギャップを計算することについて、当該コンピュータプログラムがプロセッサによって実行される場合に、各キャリアの左右のギャップの合計を各キャリアに対応する目標ギャップとして確定すること、がさらに実行される。
【0105】
1つの実施形態において、各キャリアの相対ポーズ及び荷取りの優先順位に基づいて、フォークリフトが荷取りするよう制御することについて、当該コンピュータプログラムがプロセッサによって実行される場合に、以下の操作が実行される。
各キャリアの相対ポーズに基づいて、フォークリフトのフォーク挿入方向を制御することと、
荷取りの優先順位に基づいて、フォークリフトが対応するキャリアによって載せられた貨物を荷取りするよう制御すること。
【0106】
なお、本出願に係るユーザ情報(ユーザ機器情報、ユーザ個人情報を含むがそれらに限定されない)及びデータ(分析用データ、記憶されたデータ、示されたデータを含むがそれに限定されない)はいずれも、ユーザによって許可され又は関係者によって完全に許可された情報及びデータであることに留意する必要がある。
【0107】
上記実施形態の方法におけるプロセスの全部又は一部は、コンピュータプログラムが関連ハードウェアを指示することによって完成され得るということを、当業者は理解することができる。当該コンピュータプログラムは、不揮発性コンピュータ可読記憶媒体に記憶されることができる。当該コンピュータプログラムは、実行される場合に、上記方法実施形態のプロセスを実行するように動作可能である。本出願に係る各実施形態に使用されるメモリ、データベース、又は他の媒体への任意の引用は、不揮発性メモリ及び発揮性メモリのうちの少なくとも1つを含むことができる。不揮発性メモリは、読み取り専用メモリ(read only memory、ROM)、磁気テープ、フロッピーディスク、フラッシュメモリ、光メモリ、高密度・組み込み型不発揮性メモリ(high-density embedded non-transitory memory)、抵抗変化型メモリ(resistive memory、ReRAM)、磁気抵抗メモリ(magnetoresistive random access memory、MRAM)、強誘電体メモリ(ferroelectric RAM、FRAM)、相変化メモリ(phase change memory、PCM)、グラフェンメモリ(graphene memory)などを含むことができる。揮発性メモリは、ランダムアクセスメモリ(random access memory、RAM)、外部キャッシュメモリなどを含むことができる。限定的ではなく例示的な例として、RAMは、様々な形態を有することができ、例えば、スタティック・ランダム・アクセス・メモリ(static RAM、SRAM)、ダイナミック・ランダム・アクセス・メモリ(dynamic RAM、DRAM)などが挙げられる。本出願の各実施形態に係るデータベースは、リレーショナルデータベース及び非リレーショナルデータベースのうちの少なくとも1つを含むことができる。非リレーショナルデータベースは、ブロックチェーンベースの分散型データベース(blockchain-based distributed database)などを含むことができ、それに限定されない。本出願の各実施形態に係るプロセッサは、汎用プロセッサ、中央処理装置、グラフィックプロセッサ、デジタル信号プロセッサ、プログラマブル・ロジック・デバイス、量子計算ベースのデータ処理ロジックデバイス(data processing logic device based on quantum computing)などであることができるが、それらに限定されない。
【0108】
上記実施形態の各技術的特徴は、任意に組み合わせられることができる。簡潔さのために、上記実施形態における各技術的特徴のすべての可能な組み合わせが記載されているわけではない。しかし、それらの技術的特徴の組み合わせに矛盾がない限り、それらの組み合わせはすべて本明細書の記載の範囲にあると考えるべきである。
【0109】
上記実施形態は本出願のいくつかの実施形態のみを示し、上記実施形態の説明は具体的且つ詳細であるが、それを本出願の特許範囲への制限と理解されるべきではない。本出願の概念から逸脱しない限り、当業者はいくつかの変更及び改良を行うことができ、それらの変更及び改良はすべて本出願の保護範囲に属すべきである、従って、本出願の保護範囲は、添付の特許請求の範囲に基づくべきである。
図1
図2
図3
図4
図5
図6
図7
図8