IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ トプコン ポジショニング システムズ, インク.の特許一覧

特許7463530機械視点を用いた工作機械上の装置の制御システムおよび方法
<>
  • 特許-機械視点を用いた工作機械上の装置の制御システムおよび方法 図1
  • 特許-機械視点を用いた工作機械上の装置の制御システムおよび方法 図2
  • 特許-機械視点を用いた工作機械上の装置の制御システムおよび方法 図3
  • 特許-機械視点を用いた工作機械上の装置の制御システムおよび方法 図4
  • 特許-機械視点を用いた工作機械上の装置の制御システムおよび方法 図5
  • 特許-機械視点を用いた工作機械上の装置の制御システムおよび方法 図6
  • 特許-機械視点を用いた工作機械上の装置の制御システムおよび方法 図7
  • 特許-機械視点を用いた工作機械上の装置の制御システムおよび方法 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-03-29
(45)【発行日】2024-04-08
(54)【発明の名称】機械視点を用いた工作機械上の装置の制御システムおよび方法
(51)【国際特許分類】
   G05D 1/248 20240101AFI20240401BHJP
   G01C 15/00 20060101ALI20240401BHJP
   E02F 3/90 20060101ALI20240401BHJP
【FI】
G05D1/248
G01C15/00 102C
G01C15/00 103Z
G01C15/00 104C
E02F3/90 E
【請求項の数】 22
(21)【出願番号】P 2022546467
(86)(22)【出願日】2020-01-28
(65)【公表番号】
(43)【公表日】2023-04-28
(86)【国際出願番号】 RU2020000039
(87)【国際公開番号】W WO2021154111
(87)【国際公開日】2021-08-05
【審査請求日】2023-01-06
(73)【特許権者】
【識別番号】505315742
【氏名又は名称】トプコン ポジショニング システムズ, インク.
(74)【代理人】
【識別番号】100096884
【弁理士】
【氏名又は名称】末成 幹生
(72)【発明者】
【氏名】ヴォロビエフ,ミハイル ユーリエヴィチ
(72)【発明者】
【氏名】ズダーノフ,アレクセイ ウラジスラホヴィチ
(72)【発明者】
【氏名】ボグダニュク,イワン アレクサンドロヴィチ
(72)【発明者】
【氏名】ヴァシリユク,ニコライ ニコラエヴィチ
【審査官】今井 貞雄
(56)【参考文献】
【文献】特開2010-117230(JP,A)
【文献】特表2019-521403(JP,A)
【文献】特開2005-256232(JP,A)
【文献】米国特許出願公開第2014/270380(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G05D 1/248
(57)【特許請求の範囲】
【請求項1】
車両上の装置の位置および配向を決定するためのシステムであって、
前記システムは、
三次元(3D)カメラが前記装置の複数の構成要素を含む視野を持つように前記車両上の構造に搭載された前記3Dカメラと、
前記構造に搭載された全地球的測位システムおよび慣性測定装置と、および
前記3Dカメラ、前記慣性測定装置および前記全地球的測位システムと通信可能に接続されたコンピュータシステムとを備え、
前記3Dカメラは、前記複数の構成要素のそれぞれの局所座標系における局所三次元位置を決定するよう構成され、
前記全地球的測位システムおよび慣性測定装置は、全地球的座標系における前記3Dカメラの全地球的三次元位置および配向を決定するよう構成され、
前記コンピュータシステムは、前記複数の構成要素のそれぞれの前記局所三次元位置、前記3Dカメラの前記全地球的三次元位置、および前記3Dカメラの前記全地球的三次元配向を用いて前記複数の構成要素のそれぞれのための前記全地球的座標系における全地球的三次元位置を計算し、前記複数の構成要素のそれぞれのための前記計算された全地球的三次元位置に基づいて前記装置の位置および配向を計算するよう構成され
たことを特徴とするシステム。
【請求項2】
前記3Dカメラは、ステレオカメラであることを特徴とする請求項1に記載のシステム。
【請求項3】
前記複数の構成要素は、前記装置上に位置する複数のマーカーを備え、前記複数のマーカーは、特定の色彩に基づいた特徴、および特定の形状に基づいた特徴の少なくとも一方を含むことを特徴とする請求項1に記載のシステム。
【請求項4】
前記局所座標系は、前記3Dカメラに関連することを特徴とする請求項1に記載のシステム。
【請求項5】
さらに、前記3Dカメラによる画像キャプチャを強化するために前記複数の構成要素を発光させるよう構成された近赤外発光体を備えることを特徴とする請求項1に記載のシステム。
【請求項6】
前記コンピュータシステムはさらに、前記装置の前記計算された位置および配向に基づいて前記装置の高さおよび傾斜を計算するよう構成されたことを特徴とする請求項1に記載のシステム。
【請求項7】
前記全地球的測位システムおよび前記慣性測定装置は、少なくとも一つのアンテナと統合されることを特徴とする請求項1に記載のシステム。
【請求項8】
前記構造は、前記車両の運転席の屋根表面に搭載され、前記3Dカメラ、前記全地球的測位システムおよび慣性測定装置は、前記構造上に共同設置配置されて位置することを特徴とする請求項1に記載のシステム。
【請求項9】
前記車両は、工作機械であり、前記装置は、土木装置であることを特徴とする請求項8に記載のシステム。
【請求項10】
前記土木装置は、ブレードであり、前記3Dカメラは、前記3Dカメラの前記視野内の前記ブレードのキャプチャ画像に基づいて前記ブレードの高さを超えるブレード負荷の許容量を検知するように構成されたことを特徴とする請求項9に記載のシステム。
【請求項11】
前記工作機械は、左トラックおよび右トラックを有するトラック型工作機械であり、
前記3Dカメラは、前記3Dカメラの前記視野内の前記左トラックおよび前記右トラックの動きの画像をキャプチャするよう構成され、
前記コンピュータシステムは、前記キャプチャされた画像に基づいて計測された前記左トラックの速度および計測された前記右トラックの速度の機能としてトラック速度を計算するよう構成され、
前記全地球的測位システムは、工作機械速度を計算するよう構成され、および、
前記コンピュータシステムは、前記計算されたトラック速度と前記計算された工作機械速度との比較に基づいて滑り率を計算するよう構成されたことを特徴とする請求項9に記載のシステム。
【請求項12】
車両上の装置の位置および配向を決定するための方法であって、
前記方法は、
三次元(3D)カメラによって、前記3Dカメラの視野内の前記装置の複数の構成要素のそれぞれの局所座標系における局所三次元位置を決定し、
全地球的測位システムおよび慣性測定装置によって、全地球的座標系における前記3Dカメラの全地球的三次元位置および配向を決定し、
前記複数の構成要素のそれぞれの前記局所三次元位置、前記3Dカメラの前記全地球的三次元位置、および前記3Dカメラの前記全地球的三次元配向を用いて前記複数の構成要素のそれぞれのための前記全地球的座標系における全地球的三次元位置を計算し、および
前記複数の構成要素のそれぞれのための前記計算された全地球的三次元位置に基づいて前記装置の位置および配向を計算する
ステップを備えたことを特徴とする方法。
【請求項13】
前記3Dカメラは、ステレオカメラであることを特徴とする請求項12に記載の方法。
【請求項14】
前記複数の構成要素は、前記装置上に位置する複数のマーカーを備え、前記複数のマーカーは、特定の色彩に基づいた特徴、および特定の形状に基づいた特徴の少なくとも一方を含むことを特徴とする請求項12に記載の方法。
【請求項15】
前記局所座標系は、前記3Dカメラに関連することを特徴とする請求項12に記載の方法。
【請求項16】
前記方法はさらに、前記3Dカメラによる画像キャプチャを強化するために近赤外発光によって前記複数の構成要素を発光させることを特徴とする請求項12に記載の方法。
【請求項17】
前記方法はさらに、前記装置の前記計算された位置および配向に基づいて前記装置の高さおよび傾斜を計算することを特徴とする請求項12に記載の方法。
【請求項18】
前記車両は、左トラックおよび右トラックを有するトラック型工作機械であり、前記装置は、土木装置であり、前記方法はさらに、
前記3Dカメラの視野内の前記左トラックおよび前記右トラックの動きの画像をキャプチャし、
前記キャプチャされた画像に基づいて計測された前記左トラックの速度および計測された前記右トラックの速度の機能としてトラック速度を計算し、
前記全地球的測位システムを用いて車両速度を計算し、および、
前記計算されたトラック速度と前記計算された車両速度との比較に基づいて滑り率を計算することを特徴とする請求項12に記載の方法。
【請求項19】
前記車両は、土木工作機械であり、前記装置は、ブレードであり、前記方法はさらに、
前記3Dカメラの視野内の前記ブレードのキャプチャ画像に基づいて前記ブレードの高さを超えるブレード負荷の許容量を検知することを特徴とする請求項12に記載の方法。
【請求項20】
車両上の装置の位置および配向を決定するための、持続性コンピュータ可読媒体に実現されたコンピュータプログラムであって、前記コンピュータプログラムは、少なくとも一つのプロセッサに次の操作を実行させるよう構成され、
前記操作は、
三次元(3D)カメラによって、前記3Dカメラの視野内の前記装置の複数の構成要素のそれぞれの局所座標系における局所三次元位置を決定し、
全地球的測位システムおよび慣性測定装置によって、全地球的座標系における前記3Dカメラの全地球的三次元位置および配向を決定し、
前記複数の構成要素のそれぞれの前記局所三次元位置、前記3Dカメラの前記全地球的三次元位置、および前記3Dカメラの前記全地球的三次元配向を用いて前記複数の構成要素のそれぞれのための前記全地球的座標系における全地球的三次元位置を計算し、および
前記複数の構成要素のそれぞれのための前記計算された全地球的三次元位置に基づいて前記装置の位置および配向を計算する
ステップを備えたことを特徴とするコンピュータプログラム。
【請求項21】
前記車両は、左トラックおよび右トラックを有するトラック型工作機械であり、前記装置は、土木装置であり、前記操作はさらに、
前記3Dカメラの視野内の前記左トラックおよび前記右トラックの動きの画像をキャプチャし、
前記キャプチャされた画像に基づいて計測された前記左トラックの速度および計測された前記右トラックの速度の機能としてトラック速度を計算し、
前記全地球的測位システムを用いて前記車両速度を計算し、および、
前記計算されたトラック速度と前記計算された車両速度との比較に基づいて滑り率を計算することを特徴とする請求項20に記載のコンピュータブログラム。

【請求項22】
前記車両は、土木工作機械であり、前記装置は、ブレードであり、前記操作はさらに、
前記3Dカメラの視野内の前記ブレードのキャプチャ画像に基づいて前記ブレードの高さを超えるブレード負荷の許容量を検知することを特徴とする請求項20に記載のコンピュータブログラム。

【発明の詳細な説明】
【技術分野】
【0001】
本開示は、概して、工作機械上の装置制御に関し、特に、非接触システムを用いた工作機械上の装置の効果的な制御および当該装置の位置を決定する方法に関する。
【背景技術】
【0002】
建設および農業の作業で用いられる様々な型の土木工作機械は、現場での通常の様々な機能を実行するために、装置を活用している。一例として、ブルドーザー、モーターグレーダー、掘削機、トラクター等の工作機械は、通常、現場での機能を実行するためにブレードを有している。例えば、ブルドーザーのブレードを使用して、現場の一区域を所望の水準まで均すなどである。生産性および効率を向上させるため、費用を削減するため、および/または最終製品の品質を向上させるために、次第に、多くの建設および農業の作業においてより高い精度への要求が生じている。
【0003】
これら要求を満たすため、現在工作機械の多くの操作は効率と精度を向上させるため自動化され、操作における人的な因子の影響も減少している。自動化のための通常の候補としては、ブルドーザー、モーターグレーダーまたは他の同様の工作機械のブレードの制御のための制御システムがある。例えば、高い正確性の表面整地を実施する場合、特にそのような作業を完遂するために最小限の時間しか許容されていない場合、非常に高い程度の正確性(例えば、cmの範囲)によってブルドーザーまたはグレーダーのブレード位置を制御することが重要である。
【0004】
ブレード位置制御のためのいくつかの配置においては、ブレード本体それ自体に搭載された全地球的航法衛星システム(GNSS)アンテナが利用されている。GNSS受信器はそこで、空間中でのブレードの位置および配向を決定するために使用されている。他の配置においては、線形往復動作センサが油圧ブレード制御システム上に搭載され、工作機械本体それ自体に対するブレードの位置および配向がそこで計算される。さらに他の配置においては、これもまた工作機械本体それ自体に対してのブレードの位置と配向を決定するために慣性測定装置(IMU)がブレードの本体に搭載されている。
【発明の概要】
【発明が解決しようとする課題】
【0005】
これらおよび他の配置では、装置の本体上に要素(例えば、アンテナ、センサ、測定素子、等)の搭載が必要となり、それにより、工作機械の操作における正確性、信頼性、効率および品質に対して悪影響となり得る様々な問題を生じさせる。例えば、作業表面に接触するブルドーザーのブレードは、相当量の衝撃および振動に起因する効果にさらされる。結論として、搭載されたセンサや他の敏感な構成要素の操作には悪影響が及び、それにより装備や構成要素の欠陥発生や破損の他、作業成果の品質の低下等をもたらす。他の不利な点は、ブレード上に装着しなければならない数多くのセンサ(または他の構成要素)に関連し、それは既存の標準的制御システムと統合させるには困難で複雑な、断片化された配置となってしまう。
【課題を解決するための手段】
【0006】
様々な実施形態に従って、機械視点を使用した非接触方式での工作機械上の装置の位置と配向を決定するための解決法によって、これらおよび他の問題は対処される。一または他の実施形態においては、解決法は、工作機械の標準的な構成に明らかな変化を要求せず、既存の制御システムとの複雑な統合を要求せず、組み込むことができる、統合された設計である。
【0007】
一実施形態によれば、車両上の装置の位置および配向を決定するためのシステムが提供され、そのシステムは、三次元(3D)カメラ、全地球的測位システム、慣性測定装置(IMU)およびコンピュータシステムを有する。3Dカメラの視野が装置の複数の構成要素(例えば、特徴)を含むように、3Dカメラは車両上の構造に搭載される。3Dカメラは、複数の構成要素(特徴)のそれぞれの局所座標系における局所的三次元位置を決定するよう構成される。同じく3Dカメラとしての同じ構造上に搭載される全地球的測位システムおよびIMUは、全地球的座標系における3Dカメラの全地球的三次元位置および配向を決定するよう構成される。コンピュータシステムは、3Dカメラ、IMUおよび全地球的測位システムと通信可能に結合され、複数のマーカーのそれぞれの局所三次元位置および3Dカメラの全地球的三次元位置および配向を使用して(装置の)複数の構成要素のそれぞれの全地球的座標系における全地球的三次元位置を計算するよう構成される。コンピュータシステムはまた、複数の構成要素のそれぞれの計算された全地球的三次元位置に基づいて装置の位置および配向を計算するよう構成される。
【0008】
他の実施形態は、上述したシステムに従った車両上の装置の位置および配向を決定するための方法および持続性コンピュータ可読媒体上に実現されたコンピュータプログラムを含む。
【0009】
一または他の実施形態によれば、3Dカメラは、3Dステレオカメラである。様々な実施形態においては、複数の構成要素は、装置上に位置する複数のマーカーを有し、複数のマーカーは、特定の色彩に基づく、または特定の形状に基づく特徴の少なくとも一方を含む。一実施形態によれば、システムはさらに、ステレオカメラによる画像キャプチャを強化するため、複数の構成要素(例えば、マーカー)を発光させるよう構成された近赤外発光体を有する。一または他の実施形態においては、全地球的測位システム、IMUおよびステレオカメラは、車両の運転席上の屋根表面に搭載可能な構造上の共同設置に位置している。他の実施形態によれば、コンピュータシステムはさらに、装置の計算された位置および配向に基づいて、装置の高さおよび傾斜を計算するように構成されている。他の実施形態においては、車両は、左トラックおよび右トラックを含むトラック型工作機械であり、3Dカメラは、3Dカメラの視野内の左トラックおよび右トラックの動作の画像をキャプチャするように構成される。これらの実施形態においては、コンピュータシステムは、キャプチャされた画像に基づく左トラックの測定された速度および右トラックの測定された速度の機能として、トラック速度を計算するよう構成される。この例では、コンピュータシステムは、計算されたトラック速度と全地球的測位システムによって測定された工作機械速度との比較に基づいて滑り率を計算するよう構成することが可能である。他の実施形態においては、装置は土木ブレードであり、ステレオカメラは、ステレオカメラの視野内のブレードのキャプチャ画像に基づいて、ブレードの高さを超えるブレード負荷の許容量を検知するように構成される。
【0010】
これらおよび他の利点は、以下の詳細な説明および付随する図面を参照することによって、当業者にとって明らかになるであろう。
【図面の簡単な説明】
【0011】
図1図1は、一または他の実施形態に従った車両上の装置の位置の決定のためのシステムを示すブロック図である。
【0012】
図2図2は、一または他の実施形態に従った土木工作機械の側面図である。
【0013】
図3】一または他の実施形態に従った、図3Aは、搭載可能システムの側面図であり、図3Bは、平面図である。
【0014】
図4図4は、一または他の実施形態に従った土木工作機械の平面図である。
【0015】
図5】一または他の実施形態に従ったNIR発光の、図5Aは、スペクトル関連の特徴のグラフプロットを示し、図5Bは、時間関連の特徴のグラフプロットを示す。
【0016】
図6図6は、一または他の実施形態に従った車両上の装置の位置を決定するための方法を示すフローチャート図である。
【0017】
図7図7は、一または他の実施形態に従ったトラックの速度を測定し、ブレード負荷を検知するためのシステムの特徴を示すトラック型の土木機械の透視図である。
【0018】
図8図8は、一または他の実施形態に従ったコンピュータシステムの高レベルブロック図を示す。
【発明を実施するための形態】
【0019】
以下、いくつかの実例となる実施形態が図示された添付図面を参照しながら、様々な実例となる実施形態について、より全体的に説明する。しかしながら、実例となる実施形態を特定の開示された形式に限定する意図はなく、むしろ、実例となる実施形態は、請求の範囲内におけるすべての改変物、等価物および代替物を包含すると意図される。適切であれば、複数の図の説明を通じて同種の数字は同種の要素を参照する。ここで第1、第2、等といった用語が様々な要素を説明するのに使用されていても、これら要素はこれら用語によって限定されないと解されるべきである。これら用語は、一つの要素を他の要素から区別されるためだけに使用されている。例えば、実例となる実施形態の範囲から外れることなく、第1要素は第2要素と称することができ、同様に、第2要素は第1要素と称することができる。ここで使用される用語「および/または」は、一または複数の関連する挙げられた物のあらゆる、全ての組み合わせを含む。
【0020】
ここで説明する様々な実施形態によれば、工作機械の装置(ブレード)の操作を制御するために、非接触測定解決法は有用である。詳細は後述するように、様々な実施形態によるシステムおよび方法では、装置の位置および配向を決定するために(例えば、さらに高さおよび傾斜を推定するために)機械の視野が利用され、それにより現場での作業の間、装置の制御をより正確に行うことを可能にする。また、動作中の工作機械のトラックの画像をキャプチャするために機械視野を用いることによって、工作機械のトラックの速度を推定することができる。機械視野はまた、キャプチャした画像に基づいて、ブレード負荷(例えば、移動中の土壌)の許容量がブレードの高さを超えていないか検知するためにも有利に利用することができ、さらに、衝突回避のため機械経路上の物体検知/認識にも有用である。あらゆる数のこれらの作業/機能はまた、並行に、および/または同時に行うことができる。
【0021】
図1は、様々な実施形態に従ったシステム100を示す。システム100は、三次元(3D)カメラ105、全地球的測位システム110、慣性測定装置(IMU)150およびコンピュータシステム130を備える。一実施形態においては、全地球的測位システム110は、全地球的航法衛星システム(GNSS)受信器115および図1でアンテナ120とアンテナ121として示される複数のアンテナを備える。GNSS受信器115は、3Dカメラ105およびIMU150と通信可能に接続される。コンピュータシステム130は、3Dカメラ105、GNSS受信器115およびIMU150と通信可能に接続される。
【0022】
いくつかの実施形態によれば、システム100はまた、周囲の明るさ条件に関わらず正確性を確保するために、近赤外(NIR)発光体140を含むが、これの詳細は後述する。なお、あらゆる数のNIR発光体(例えば、1または複数)をこの目的で使用することができ、ここで記載され示される実施形態は例示の意味に過ぎない。
【0023】
示されるように、GNSS受信器115は、アンテナ120および121からGNSS信号を受信する二重アンテナGNSS受信器である。いくつかの実施形態においては、二重アンテナGNSS受信器では典型的な構成の、アンテナ120が主アンテナであり、アンテナ121が従属アンテナである。一または他の実施形態によれば、IMU150は、主アンテナ、例えばアンテナ120に統合される。例えば、これらの構成要素を統合するための方法および機能のいくつかの例の一つとして、米国特許第10,088,576号、N.Vasilyukらによる、発明の名称「統合アンテナ要素および付加的情報源を有するGNSSアンテナ」に開示がある。他の実施形態によれば、IMU150は、全地球的測位システム110の外部に位置し、3Dカメラ105およびGNSSアンテナ120および121と共通(例えば、硬い)架台(図示せず)上に位置する。二重アンテナGNSS受信器115は、共通架台の二つの姿勢角を測定するのに使用される。特に、これら角度は、両アンテナ120および121の位相中心を通るベースラインの角座標に等しい。ベースライン周囲の回転角度である第3角度は、IMU150を使用して測定することができる。したがって、GNSS受信器115とIMU150との組み合わせは、共通架台の3D位置および配向を測定することを可能にする。
【0024】
3Dカメラ105は、機械視野の機能を提供するために、3D画像をキャプチャすることが可能である。一実施形態においては、3Dカメラ105は、ステレオ視野を採用し、キャプチャしたデジタル画像から3D情報を抽出する、3Dステレオカメラである。例えば、見通しの良い二つの点からの情報を比較することによって、二つの見通しの良い点における物体の相対位置を検討することで3D情報を抽出することができる。
【0025】
一または他の実施形態によれば、3Dカメラ105(例えば、この例では3Dステレオカメラ105として参照される)は、より高い精度の機械視野に有用であるグローバルシャッター付きの画像センサを有する。特に、グローバルシャッターは、土木工作機械を含む用途において共通して遭遇する、衝撃および振動により起こるいわゆる「ゼリー効果」を防ぐ、あるいは軽減する助けになる。ある実施形態によれば、3Dステレオカメラ105は、これらのみに限定されないが、黒および白画像性能、秒速約50フレーム(FPS)以上の速度、約2.5μm以上のピクセルサイズ、および/または、高精細(HD)解像度性能(例えば、3メガピクセルの解像度)を含む様々な特徴および機能を備える。さらにまた、3Dステレオカメラ105は、コンピュータシステム130とGNSS受信器115との間に情報を通信および送信する能力を有する。ある実施形態においては、NIR発光体140(詳細は後述する)によってNIR発光がもたらされる場合、3Dステレオカメラ105は、能動的なNIR発光の助けのため、赤外の長経路または帯域フィルタを組み合わせられる。たとえば、いくつかの例においては、NIR域で動作する場合、そのようなフィルタは、シナリオの特定のスペクトル(可視光および赤外スペクトル)をカットするためにNIR通過域800~900nmを有する。ここで説明する実施形態においては、様々な3Dステレオカメラを好適に使用することができる。このように、上記例は例示の意味に過ぎず、いかなる方法によっても限定するものではない。
【0026】
また、機械視野アルゴリズムのための3D画像獲得は、ステレオカメラの代替手段として、他の3Dカメラの変形例からも得られる。例えば、3Dカメラ105は、飛行時間(TOF)カメラと実行してもよく、それは、カメラと画像中の各点の対象との距離を解像するための飛行時間技術を採用したレンジ撮像カメラシステムである。さらに他の実施形態においては、あらゆる他のLIDAR(光検知および測距)システムもまた好適に本実施形態において記載される3Dカメラ105として使用することができる。
【0027】
図2は、土木工作機械270の側面図であり、一または他の実施形態に従って、装置(例えばブレード)275の位置を決定するためのシステム200を備える。様々な実施形態において、記述の簡潔化のため、同様の要素は同様の参照符号によって参照される。図2に示すように、システム200は3Dカメラ205、IMU250、GNSS受信器215、第1アンテナ220、および第2アンテナ221を有し、システム100(図1)の構成に相当する。この例では、搭載構造225(例えば、共通架台)は、システム200の要素(例えば、3Dカメラ205、IMU250,GNSS受信器215、アンテナ220および221)が搭載されるか、さもなければ配置される単一の構造である。一実施形態においては、搭載構造225は、土木機械270の運転席271の屋根上に搭載される。この方法で、システム200は、統合された、共通架台/容器構造上のオールインワン構成(例えば、構成要素の共同設置配置)で配置され、土木工作機械270の標準的な構成に顕著な変化を要求することなく、搭載することができる。図2に示す実施形態は、システム200を配備する構成の単なる一例である。様々な他の構成および搭載配置がここでの開示により期待される。
【0028】
図3Aおよび3Bは、一または他の実施形態に従ったシステム300の配備および構成をさらに図示する側面図および平面図である。システム100(図1)およびシステム200(図2)と同様、システム300は3Dカメラ305、GNSS受信器315、第1アンテナ320、第2アンテナ321、およびIMU350を備え、それらは搭載構造325に搭載され、さらに工作機械(図示せず)上に取り付けおよび/または搭載される。既に述べた通り、一または他の実施形態においては、IMU350は第1(主)アンテナ320に統合される。このように、図3Aおよび3B(および他の図)に示される搭載構造325への様々な要素の位置決めおよび統合は、例示であり、いかなる方法によっても限定されない。
【0029】
図4は、一または他の実施形態によった様々な特徴を示す土木工作機械470の平面図である。図1~3に示す構成と同様、土木工作機械470は、装置(例えば、ブレード)475を含むように示されており、システム400は、3Dカメラ405、GNSS受信器415、第1アンテナ420、第2アンテナ421、およびIMU450を備え、それらは構造425に搭載され、さらに、土木機械470の屋根上に搭載/取り付けされる。本実施形態に示すように、第1マーカー451および第2マーカー452は、ブレード475の頂部表面に配置(例えば、搭載、取り付け、頑強に固定、等)されている。3Dカメラ405は、マーカー451および452が見えるような視野460を有する。図4に示す構成は例示であり、いかなる方法によっても限定をするものではない。例えば、あらゆる数のマーカーがブレード475上に位置し、本開示の原則に従って利用される。視野460はまた、ブレード475に接触する材料、例えば、土壌、砂、砂利、粘土、等の土木工作機械470によって動かされる物の視野465を含む。
【0030】
図示するように、3Dカメラ405は、図4に示すようにマーカー451および452等の複数のマーカーが視野に含まれるように、構造425に搭載される。装置(例えば、ブレード475)の様々な他の特徴も、装置の位置および配向を決定するのを簡略化するのに好適に用いられることが期待される。そのような特徴は、工作機械それ自体の構成要素、要素、部品、等であり(例えば、警告シール、ブレードの覆い、楔、ねじ式アンカー、等)、または、そのような特徴は、マーカー等のように装置に付加された(例えば、装着された、等)構成要素、要素、部品、等である。ある実施形態においては、そのような特徴は特定の色彩、陰影、形状、または様々なそれらの組み合わせであり、3Dカメラを使用した機械視野にて位置決めおよび特定する過程で助けになるであろう(例えば、そのような特徴は、それらを発見および特定することを容易にする色彩、形状、等)。したがって、マーカーまたは装置(例えば、ブレード475)の他の構成要素は、様々な実施形態において好適に使用される。説明の簡素化のため、用語「構成要素」は、これらの目的のために使用されるあらゆるそのような特徴を広く包含することを意図している。さらに、ここで説明される様々な実施形態は、マーカーの例を使用するが、例示であり、いかなる方法によっても限定をするものではない。
【0031】
既に述べたとおり、いくつかの実施形態によれば、システム100はまた、周囲の明るさ条件によらず正確性を確立するために、一または複数の近赤外(NIR)発光体441および442を含む。例えば、周囲の光は、ある環境および/または条件において、システム性能に影響を及ぼす(例えば、周囲の光は、3Dカメラ405による画像キャプチャを阻害、さもなければ誤らせる)。特定の周囲の光の条件においてマーカー451および452の画像を獲得する潜在的な問題に対処するため、マーカー451および452を照射する一または複数の近赤外(NIR)発光体を使用することができ、それにより、NIR域の光を受容するよう構成された3Dカメラ405による画像キャプチャのためにマーカーの発光を強化することができる。一または他の実施形態において、NIR発光領域461および462は、可能性のあるマーカー451および452の位置をカバーする。一または他の実施形態において、領域461および462はまた、3Dカメラ405の補助によるトラック速度推定のため、左トラック471および右トラック472の領域もカバーするが、詳細は後述する。NIR域でのマーカー451および452(および左および右トラック471および472)の活発なパルス発光は、100Hzまで、マーカー位置およびトラック速度の計算の周波数を有利に増加させ、それにより、システム性能(例えば、周囲の光の強度に不変で計算を行うことによって)の頑健性を向上させる。
【0032】
図5Aおよび5Bは、ここで説明される様々な実施形態、例えば、システム400において、NIR発光がどのように有利に適用されるかを示す。記載されているとおり、機械視野システムの品質および信頼性は、日光に顕著に影響される。例えば、届く日光の強度、方向、および角度は、システム400の操作の間に顕著に変化し得るものであり、そこで、性能の所定のレベルを維持するために、システム400にそのような変化を受容するような要求が生じる(例えば、ある場合においては、連続的に)。ある場合においては、周囲の光は、機械視野システムの正確性の顕著な低下の原因となる。例えば、あるシナリオでは、ブレード475の反対の両端部にあるマーカー451およびマーカー452は、異なる光条件の元に置かれる(例えば、ある場合においては、顕著に)。マーカー451および452(一方または両方)は、過剰に露光し、(画像中で)その形状の崩壊をもたらすか、または過少に露光し、その位置決めの正確性の低下をもたらす。
【0033】
日光の影響を軽減するか無くすため、一または他の実施形態においては、充分に狭い波長(図5Aを参照して説明される)の動作領域での近赤外(NIR)光域を使用すること、3Dカメラ405のカメラシャッターが開いている(図5Bを参照して説明される)ときのみ光を放射するよう構成されたパルス発光体を用いた活発な発光を使用することが期待される。
【0034】
図5Aに示すプロット500を参照すると、線510は、太陽のスペクトル(例えば、日光)の放射強度と波長のプロットを表している。線520は、一または他の実施形態に従って例えばNIR発光体として使用されるLED発光体のスペクトル(例えば、システム400(図4)で使用されるNIR発光体140(図1))の放射強度と波長のプロットを表している。本実施形態においては、3Dカメラ405は、線515で示す帯域を有する帯域フィルタを備えている。この方法では、システムは、他のスペクトル要素を除去して、NIR域光を受光することができる。図5Aに示す例では、帯域フィルタは約800~900nmの帯域を有しており、特定のスペクトル(例えば、可視およびIRスペクトル)を除去するようにふるまい、それにより、NIR域での動作を容易にする。この方法では、太陽スペクトルの部分(例えば、日光の顕著な能力)が、3Dカメラ405のレンズを通過することを防ぐことができる。
【0035】
NIR発光体の設計および操作パラメータを選択するために様々な設計の考えを考慮に入れる。例えば、一例では、NIR発光体のためのパルス光の出力レベルは、快晴日の日光の強度に対して優勢(または等価)を確保するように選択される。例えば、図5Aに示す例においては、明るい日光より優勢となるためには、一実施形態においてはNIR発光体(光源)の出力は、1mの表面積を発光させるためにおよそ100Wの範囲となる。仮にNIR発光体がストロボモードで動作するとなると、ある実施形態において電力消費はおよそ5~7Wの範囲という受容可能なレベルまで減少させることができる。一例においては、マーカー451および452の存在可能な位置の全領域を照らすように、NIR発光領域461および462(NIR発光光線461および462としても参照される)が形成される。
【0036】
他の特徴によれば、システム400で使用されるNIR発光体441および442は、3Dカメラ405のシャッター動作と同期され、例えば、マーカー451および452の発光は、画像露光のために3Dカメラ405のシャッターが開いたときだけに起こる。図5Bに示すように、3Dカメラのシャッターと関連するタイミングは線560で表され、NIR発光体の動作(例えば、ストロボモードで)と関連するタイミングは線570で表される。この実例となる実施形態に示されるように、一例として、NIR発光体パルスの持続はおよそ0.08ミリ秒で、周期はおよそ20ミリ秒であり、3Dカメラは更新速度毎秒50フレーム(毎20ミリ秒)で、シャッター(露光)時間はおよそ0.1ミリ秒で動作する。さらに、この例では、ストロボ(パルス)モードは、NIR発光体の電力消費を顕著に減少させることを可能にする。なお、図5Aおよび5Bに示された例(関連する値、範囲、等)は例示であり、いかなる方法によっても限定されない。
【0037】
図6は、一または他の実施形態に従って車両上の装置の位置を決定する方法600を示すが、これは図1~4に示されるシステム配置の背景事情で説明される。説明の簡略化のため、全ての例は、特に示さない限り、図4に示すシステム構成400を参照する。
【0038】
ステップ605で示すように、3Dカメラ405は、装置の複数の構成要素のそれぞれ(例えば、様々な実施形態で装置に設けられる複数のマーカー)の局所座標系での局所3D位置を決定するのに用いられる。複数の構成要素は3Dカメラ405の視野内にある。より具体的には、3Dカメラ405は、視野460内でマーカー451および452を有する装置(例えば、ブルドーザーブレード475)に焦点を絞る。そこで、3Dカメラ405でキャプチャされたマーカー451および452の画像によって、カメラの局所座標系でのマーカーの3D位置が決定する。3Dカメラ405が3Dステレオカメラである一実施形態では、(3Dステレオカメラ405の)ベースが15cmであり、3MPビデオマトリックスが使用され、センチメートル未満の正確性でのマーカー451および452の位置決めが得られる。これは、例えば、3Dカメラ405から3mまでの距離である。3Dカメラ405の水平視野角は、およそ90度である。
【0039】
ステップ610では、3Dカメラ405の全地球的3D位置および全地球的3D配向のそれぞれを決定するために、全地球的測位システム(例えば、GNSS受信器415および二重アンテナ420および421)およびIMU450が使用され、ここで、全地球的3D位置および全地球的3D配向は、全地球的座標系内にある。したがって、共通架台425に搭載された3Dカメラ405と、工作機械470の全地球的3D位置および配向が結果として得られる。
【0040】
ここで説明する実施形態によれば、GNSS受信器415の位置を決定する精度は、およそ1cm(動的干渉測位(RTK))であり、傾斜角を決定する精度(例えば、ピッチ傾斜およびロール傾斜)は、およそ0.1度であり、機首角度を決定する精度は、アンテナ420とアンテナ421との距離に依存する(例えば、アンテナベースが約50cmであれば、精度はおよそ0.5度)。
【0041】
ステップ620では、全地球的座標系での3Dカメラ405の全地球的3D位置および配向を知ることにより、マーカー451および452の全地球的3D位置が計算することができる(例えば、カメラの局所座標系から全地球的座標系までを再計算)。全地球的座標系でのマーカーの局所座標の再計算(計算)は、3Dカメラ405の3D位置および3D配向の両方が分かるときに可能である。
【0042】
ステップ630では、複数のマーカーのそれぞれの計算された全地球的三次元位置に基づいて装置の位置および配向が(コンピュータシステム130によって)計算される。
【0043】
装置の位置および配向を決定するのに加えて、様々な実施形態に従って、左トラック(例えば、第1トラック)および右トラック(例えば、第2トラック)を有するトラック型工作機械の操作に関する他の機能のため(例えば、トラック速度、ブレード負荷、等)に機械視点を使用することができる。図7は、一または他の実施形態に従った、土木機械のキャタピラ(トラックに基づく動作機構)の速度を計算するため、および、ブレード負荷を検知するための、システムの特徴を図示する土木機械の透視図である。より具体的には、構成700は、(オペレーターの視点からの)ディスプレイの見え方を示しており、(1)ブレードの位置、(2)工作機械のトラック速度、(3)工作機械の速度、(4)滑り率および(5)ブレード負荷を反映する断片に関する、システムからの情報が同時に表示される。
【0044】
より具体的には、機械視点は、キャタピラ(トラック)速度を推定するために用いられ、トラック速度は、車両動作の際の滑り効果が存在するときには車両(工作機械)速度とは同じではない。車両(工作機械)速度は、工作機械700に搭載されたGNSSシステム(例えば、全地球的測位システム110)から推定することができ、トラック速度は、3Dカメラ(405)によって推定することができる。両速度の差異(工作機械とキャタピラトラック速度)は、(ブルドーザーの)負荷に起因する滑り効果を反映する。工作機械とキャタピラトラック速度の差異が大きいほど、滑りも大きくなる。
【0045】
操作では、車両オペレーターは、(例えば、手動で、または自動的に)ブレード負荷を減少させることにより(例えば、ブレードを上昇させることにより)、大きな程度の滑りを軽減あるいは防止することができる。例として、滑り率が次の関数で計算されると仮定する。
滑り率=100×(Vt-Vm)/Vt
ここで、Vtはトラック速度、Vmは工作機械速度であり、そうすると、工作機械上のブレード位置を制御することによって、例えば、ブレードを上昇させブレード負荷を減少させることにより、滑り率は、減少(例えば、5%あるいはそれ未満のレベルに維持)させることができる。このように、機械速度、トラック速度、および滑り率の情報を有することは、工作機械の操作に際して有用である。
【0046】
図7を参照すると、工作機械770は、ブレード775およびマーカー751および752を有し、図4に示す構成と一致している。また、工作機械770は、左トラック771および右トラック772を備えたキャタピラ機構を有するように示されている。区域780(複数の断片からなるように視覚的に示されている)は、工作機械770の動作中に、前述の実施形態での説明に従ってなされた測定および計算に基づいて、オペレーターから見たブレード位置を表している。図示されるように、区域780の断片781は、負荷(例えば、土壌)がブレードの高さを超えたところのブレード775の一部分に相当している。したがって、ここで説明される実施形態によれば、ブレードの位置の表示に対してこの情報が表すことは、ブレード775および/または工作機械の動きを制御するために、オペレーターにとって有用であるか、または、自動化されたドーザーシステムを簡潔化するために有用である。
【0047】
開示された実施形態の他の特徴によれば、工作機械(ドーザー)770の速度、キャタピラトラック速度(左トラック771および右トラック772)、および滑り率は、区域790に示されている。
【0048】
例えば、ブルドーザーといった工作機械のトラックは、目立った垂直の模様(例えば、グローサ)を有する。一または他の実施形態によれば、コンピュータシステムは、キャタピラ位置に関連する領域のみを(カメラ画像から)選択するように構成される。そしてコンピュータシステムは、画像を正規化する(例えば、ピクセルあたり4ビットで明るさ16段階以下のグラデーション)。次に、トラックグローサの位置をパーセンタイル法によって推定する。例えば、一連のカメラフレームに対して推定を行い、フレーム時間に分割されたそれらの位置シフトに基づいてトラックグローサの速度を計算する。3Dカメラを使用することで、動作中のキャタピラ高さの逸脱/変動は相殺させられる(例えば、時間的にキャタピラ張力は一定ではないので、および、可変の垂れが存在するのでキャタピラ表面は平滑表面で近似できない)。
【0049】
実施形態の他の特徴によれば、ブレード負荷制御が考えられる。例えば、ドーザーブレード775の上端部は、すでに検知済みの、および局在のマーカーの助けによって、推定することができる。そして、ドーザーブレード775の上部の領域の深さマップを計算することができる。そして、この領域のあらゆる物体は検知することができ、ある物体が(カメラに対して)ブレード距離と同様の距離を有している場合、そのような物体は、障害物としてマークすることができ、ブレード過負荷であると示される。
【0050】
詳細に上述したように、ここで様々な実施形態は、方法およびこれら方法を実践する装置の形で、実現することができる。開示された方法は、ユーザの装置に組み込まれるか、および/または通信可能に接続された、ハードウェア、ソフトウェア、ファームウェア、ミドルウェア、およびコンピュータ可読の媒体(集合的に「コンピュータシステム」)の組み合わせによって実行することができる。図8は、ここで様々な実施形態に従った車両上の装置の位置を決定する方法を実行するよう構成された、例としてのコンピュータシステム800の高レベルブロック図である。
【0051】
コンピュータシステム800は、データ記憶装置820およびメモリ830と動作可能に接続されたプロセッサ810(または複数のプロセッサ)を備える。プロセッサ810は、そのような動作を定義するコンピュータプログラム命令を実行することによって、コンピュータシステム800の全体の動作を制御する。通信バス860は、コンピュータシステム800の様々な構成要素間の接続および通信を容易にする。コンピュータプログラム命令は、データ記憶装置820、または、持続性コンピュータ可読媒体に格納され、コンピュータプログラム命令の実行が要求されるときに、メモリ830に読み出される。このように、開示された方法のステップ(例えば、図5および上記の関連する記述を参照)は、メモリ830および/またはデータ記憶装置820に格納されたコンピュータプログラム命令によって定義することができ、コンピュータプログラム命令を実行するプロセッサ810によって制御することができる。例えば、コンピュータプログラム命令は、開示された方法によって定義される実例となる操作を実行するために当業者によってプログラムされたコンピュータ実行可能なコードとして実装することができる。したがって、コンピュータプログラム命令を実行することにより、プロセッサ810は、開示された方法によって定義されたアルゴリズムを実行する。コンピュータシステム800はまた、ネットワーク(例えば、無線通信ネットワーク)またはよく知られた通信プロトコルを介して他の装置と通信するための一または複数の通信インタフェース850を備える。例えば、そのような通信インタフェースは、いくつものよく知られた方法によって有線または無線通信を交換するための受信器、トランシーバ、またはモデムである。コンピュータシステム800はまた、ユーザとコンピュータシステム800を相互作用可能とする一または複数の入力/出力装置840を備える(例えば、カメラ、ディスプレイ、キーボード、マウス、スピーカー、マイク、ボタン、等)。
【0052】
プロセッサ810は、汎用的および特別の両方の目的のマイクロプロセッサを備え、コンピュータシステム800の単一のプロセッサまたは複数のプロセッサのうちの一つである。プロセッサ810は、例えば、一または複数の中央演算処理装置(CPU)を備える。プロセッサ810、データ記憶装置820、および/またはメモリ830は、一または複数の特定用途向け集積回路(ASICs)および/または一または複数のフィールドプログラマブルゲートアレイ(FPGAs)を備えるか、これらで補完されるか、これらと組み合わされる。
【0053】
データ記憶装置820およびメモリ830のそれぞれは、有形の持続性コンピュータ可読記憶媒体を備える。データ記憶装置820およびメモリ830のそれぞれは、動的ランダムアクセスメモリ(DRAM)、静的ランダムアクセスメモリ(SRAM)、二重データ速度同期動的ランダムアクセスメモリ(DDR RAM)、または他のランダムアクセス固相メモリ装置等の高速ランダムアクセスメモリを備え、および、内部ハードディスクおよびリムーバブルディスク等の一または複数の磁気ディスク記憶装置等の不揮発メモリ、光磁気ディスク記憶装置、光学ディスク記憶装置、フラッシュメモリ装置、消去可能プログラム可能読み取り専用メモリ(EPROM)、電子的消去可能プログラム可能読み取り専用メモリ(EEPROM)等の半導体メモリ装置、コンパクトディスク読み取り専用メモリ(CD-ROM)、デジタル多目的ディスク読み取り専用メモリ(DVD-ROM)ディスク、または他の不揮発固相記憶装置を備える。
【0054】
入力/出力装置840は、カメラ、プリンタ、スキャナ、ディスプレイスクリーン等の周辺機器を備える。例えば、入力/出力装置840は、陰極線管(CRT)、プラズマまたは液晶ディスプレイ(LCD)モニタ等のユーザに情報を表示するためのディスプレイ装置、キーボード、およびマウスやトラックボール等のコンピュータシステム800にユーザが入力を行うための指示デバイスを備える。
【0055】
なお、説明の明確性のため、ここで説明された実例となる実施形態は、個々の機能ブロックまたは機能ブロックの組み合わせを有するとして表されている。これらブロックが表す機能は、これのみに限定されないが、ソフトウェアを実行可能なハードウェアを含む、専用または共有のハードウェアの使用を通じて提供されるであろう。実例となる実施形態は、デジタル信号プロセッサ(DSP)ハードウェアおよび/またはここで記述される操作を実行するソフトウェアを有するであろう。このように、例えば、本願でのブロック図は、本明細書での様々な実施形態によって記述された原則の実例となる機能、操作および/または回路の概念図を表すことは、当業者であれば自明であろう。同様に、あらゆるフローチャート、フロー図、状態遷移図、疑似コード、プログラムコード等は、本質的にコンピュータ可読媒体内に表され、そしてコンピュータ、機械またはプロセッサによって実行される様々なプロセスを表していることは、たとえそのようなコンピュータ、機械またはプロセッサが明確に示されていないとしても自明であろう。実際のコンピュータまたはコンピュータシステムの実行は、他の構成を有し、他の構成要素を含むであろうことや、そのようなコンピュータのいくつかの構成要素の高レベル表現は例示の目的であることは、当業者であれば認識するであろう。
【0056】
前述の説明は、本開示の原則を例示しているに過ぎず、いかなる点からも限定をするものではなく、実例および例示として理解されるべきである。よって、本開示で明確に記述または表示されていなくても、当業者であれば、本願の本質および範囲に含まれかつ本開示の原則を実現する様々な変更を考案することができるのは自明であろう。例えば、本開示の実施形態が建設用途(例えば、土木、掘削、等)としての文脈で表現されているが、実施形態は他の様々な文脈(例えば、農業、鉱業、等)にも同様に適用できると解される。例えばトラクター装置の位置および配向を推定するために機械視点を使用することなど、例えばトラクターまたは他の耕作車両の装置は、土木工作機械と同様の方法で制御することができる。機械視点はまた、トラクターの前で下部の表面の画像をキャプチャし、表面の起伏や植物の条(苗床)を推定することによって、植え付けのため(例えば、作条をたどること、操舵すること)にも有利に使用することができる。
【0057】
さらに、本開示で参照する全ての例および状態を表す言葉は、主に、本分野の拡大促進のため発明者によって提供された本開示の原則および概念を読者が理解するのを助ける教育上の目的のためにだけに意図されており、そのような特定の参照される例や条件に限定することなく解釈されるべきである。さらに、特定の例のみならず、本開示の原則、特徴、および実施形態を列挙したここでの全ての記述は、構造的および機能的なその均等物を包含すると意図されている。また、そのような均等物は、現在知られている均等物および将来的に開発されるであろう均等物の両方を含むと意図されている。



図1
図2
図3
図4
図5
図6
図7
図8