(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-01-05
(54)【発明の名称】作業領域内の対象物を検出するための手段を有する機械および対応する方法
(51)【国際特許分類】
E02F 9/24 20060101AFI20231225BHJP
G06T 7/70 20170101ALI20231225BHJP
E02F 9/26 20060101ALI20231225BHJP
【FI】
E02F9/24 B
G06T7/70 A
E02F9/26 B
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2023533213
(86)(22)【出願日】2021-11-26
(85)【翻訳文提出日】2023-05-31
(86)【国際出願番号】 EP2021025465
(87)【国際公開番号】W WO2022117226
(87)【国際公開日】2022-06-09
(32)【優先日】2020-12-02
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】505236469
【氏名又は名称】キャタピラー エス エー アール エル
(74)【代理人】
【識別番号】110001243
【氏名又は名称】弁理士法人谷・阿部特許事務所
(72)【発明者】
【氏名】マリー、ジェイコブ シー.
【テーマコード(参考)】
2D015
5L096
【Fターム(参考)】
2D015GA03
2D015GB07
2D015HA03
5L096BA02
5L096DA03
5L096FA69
(57)【要約】
機械(102)は、一つまたは複数のセンサー(132)から、環境(100)内の作業器具(122)の第一の位置(200)を示す第一のデータ、および環境(100)内の作業器具(122)の第二の位置(204)を示す第二のデータを受信し得る。第一の位置(200)および第二の位置(204)に基づき、機械(102)は、作業器具(122)の作業領域(108)を画定し得る。機械(102)は、一つまたは複数のカメラ(146)から、環境(100)の少なくとも一部分および一つまたは複数のカメラ(146)の視野(148)内に配置される対象物(106(2))の少なくとも一部分を示す画像データ(150)を受信し得る。機械(102)は、画像データ(150)に基づき、対象物(106(2))が作業領域(108)の外側に位置することを決定し得る。対象物(106(2))が作業領域(108)の外側に位置することを決定することに基づき、機械(102)は、作業領域(108)の外側の対象物(106(2))の存在を示す警報(114)の出力を引き起こすことを控えてもよい。
【選択図】
図1
【特許請求の範囲】
【請求項1】
機械(102)であって、
作業器具(122)と、
一つまたは複数のセンサー(132)と、
一つまたは複数のカメラ(146)と、
一つまたは複数のプロセッサーと、
前記一つまたは複数のプロセッサーによって実行されるとき、前記一つまたは複数のプロセッサーに、
前記一つまたは複数のセンサー(132)から、環境(100)内の前記作業器具(122)の第一の位置(200)を示す第一のデータ(134)を受信すること、
前記一つまたは複数のセンサー(132)から、前記第一の位置(200)とは異なる前記環境(100)内の前記作業器具(122)の第二の位置(204)を示す第二のデータ(134)を受信すること、
前記第一の位置(200)および前記第二の位置(204)に少なくとも部分的に基づき、前記環境(100)内の前記作業器具(122)の作業領域(108)を画定すること、
前記一つまたは複数のカメラ(146)から、前記環境(100)の少なくとも一部分と、前記一つまたは複数のカメラ(146)の視野(148)内に配置される、対象物(106)の少なくとも一部分とを示す画像データ(150)を受信すること、
前記画像データ(150)に少なくとも部分的に基づき、前記対象物(106(2))が前記作業領域(108)の外側の位置に配置されることを決定すること、および
前記対象物(106(2))が前記作業領域(108)の外側の前記位置に配置されることを決定することに少なくとも部分的に基づき、前記作業領域(108)内の前記対象物(106(2))の存在を示す警報(114)の出力を引き起こすことを控えることを含む、動作を実行させる命令を格納する一つまたは複数の非一時的コンピューター可読媒体とを含む、機械(102)。
【請求項2】
前記一つまたは複数のカメラ(146)の前記視野(148)が、前記作業領域(108)よりも大きい、請求項1に記載の機械(102)。
【請求項3】
前記動作が、
前記一つまたは複数のカメラ(146)から、前記環境(100)の少なくとも追加部分、および前記一つまたは複数のカメラ(146)の前記視野(148)内に配置される前記対象物(106)を示す追加画像データ(150)を受信することと、
前記追加画像データ(150)に少なくとも部分的に基づき、前記対象物(106(1))が前記作業領域(108)内の追加の位置に配置されることを決定することと、
前記対象物(106(1))が前記作業領域(108)内の前記追加の位置に配置されることを決定することに少なくとも部分的に基づき、前記作業領域(108)内の前記対象物(106(1))の存在を示す前記警告(114)を出力させることとをさらに含む、請求項1に記載の機械(102)。
【請求項4】
前記動作は、前記対象物(106(1))が前記作業領域(108)内の前記位置に配置されることを決定することに少なくとも部分的に基づき、前記作業器具(122)の動きを制限することをさらに含む、請求項3に記載の機械(102)。
【請求項5】
前記作業領域(108)が、
前記作業器具(122)の一つまたは複数の寸法(140)のうちの一つ、
前記機械(102)のブーム(118)の一つまたは複数の寸法(140)、または
前記機械(102)のスティック(120)の一つまたは複数の寸法(140)の少なくとも一つに少なくとも部分的に基づき、画定される、請求項1に記載の機械(102)。
【請求項6】
方法(400)であって、
機械(102)の作業器具(122)の第一の位置(200)に関連付けられる第一の入力(402)を受信することであって、前記第一の入力(402)が、環境(100)内に作業領域(108)を画定するために使用されるように、受信することと、
前記作業器具(122)の第二の位置(204)に関連付けられる第二の入力(404)を受信することであって、前記第二の入力(404)が、前記作業領域(108)を画定するために使用されるように、受信することと、
前記第一の入力(402)および前記第二の入力(404)に少なくとも部分的に基づき、前記作業領域(108)を画定することと、
前記機械(102)のカメラ(146)の視野(148)内に対象物(106)の少なくとも一部分、および前記環境(100)の少なくとも一部分を示す画像データ(408)を受信することと、
前記画像データ(412)に少なくとも部分的に基づき、前記対象物(106(2))が前記作業領域(108)の外側に位置することを決定することと、
前記対象物(106(2))が前記作業領域(108)の外側に位置することを決定することに少なくとも部分的に基づき、少なくとも一つの警報(114)の出力を引き起こすことを控えること(416)とを含む、方法(400)。
【請求項7】
前記カメラ(146)の前記視野(148)内に前記対象物(106)の少なくとも追加部分、および前記環境(100)の少なくとも追加部分を示す追加画像データ(408)を受信することと、
前記追加画像データに少なくとも部分的に基づき、前記対象物(106(1))が前記作業領域(108)内に位置することを決定すること(414)と、
前記対象物(106(1))が前記作業領域(108)内に位置することを決定することに少なくとも部分的に基づき、前記少なくとも一つの警報(114)であって、可聴警報または視覚的警報のうちの少なくとも一つを含む前記少なくとも一つの警報(114)を発生させること(422)とをさらに含む、請求項6に記載の方法(400)。
【請求項8】
前記対象物(106(1))が前記作業領域(108)内に位置することを決定すること(414)に少なくとも部分的に基づき、前記作業器具(122)の移動(424)を制限することをさらに含む、請求項7に記載の方法(400)。
【請求項9】
前記カメラ(146)の前記視野(148)内の追加の対象物(106(1))の少なくとも一部分、および前記環境(100)の少なくとも追加部分を示す追加画像データを受信すること(408)と、
前記追加画像データ(408)に少なくとも部分的に基づき、前記追加の対象物(106(1))が前記作業領域(108)内に位置することを決定すること(414)と、
前記追加の対象物(106(1))が前記作業領域(108)内に位置することを決定すること(414)に少なくとも部分的に基づき、少なくとも一つの追加の警報(114)の出力を生じさせること(422)とをさらに含む、請求項6に記載の方法(400)。
【請求項10】
前記第一の位置(200)が、前記作業領域(108)の第一の境界(128)と関連付けられ、
前記第二の位置(204)が、前記作業領域(108)の第二の境界(130)と関連付けられる、請求項6に記載の方法(400)。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、対象物を検出するためのシステムおよび方法に関し、より具体的には、作業領域内の対象物を検出するためのシステムおよび方法に関する。
【背景技術】
【0002】
掘削機などの機械は、作業現場でさまざまな作業を実行するために使用される。例えば、掘削機は、砂利、コンクリート、アスファルト、土壌、および/または他の材料などの作業現場の材料を掘削、移動、成形、輪郭形成、および/または除去するために使用され得る。
【0003】
一部の掘削機は、掘削機が動作するように構成される、作業現場の領域を画定するシステムを含む。こうした例では、オペレーターは、この領域の外側で掘削機を操作することを制限され得る。さらに、一部の掘削機は、人員などの関心対象物を識別し、こうした対象物の存在を示す警報をオペレーターに提示するシステムを含む。しかしながら、これらのシステムは、多くの場合、領域内だけでなく、作業現場における対象物の過剰量を検出し、こうしたシステムは、機械と対象物との間の接触の実際のリスクがあるかどうかにかかわらず、検出された対象物のそれぞれに対して警報を提供し得る。こうしたシステムによって提供される大量の警報は、オペレーターの気を散らし、および/または悪化させ、オペレーターの疲労をもたらし得る。一部の実例では、オペレーターは、こうしたシステムおよび/またはシステムによって提供される警報を無効にし得る。これにより、作業現場に望まれない衝突が発生する場合がある。
【0004】
中国特許出願第111501865A号(以下、‘865出願)には、掘削機に電子フェンスを提供する方法が記載される。具体的には、‘865出願に記載されるように、掘削機が第一レベルの安全動作領域を超えて動く場合、第一の警報が有効であり、掘削機が第二レベルの安全動作領域を超えて動く場合、第二の警報が有効であり、掘削機が動作を行うことが制限される。
【0005】
‘865出願は、掘削機に関連付けられる作業領域を確立するためのシステムを記述するが、‘865出願に記載されるシステムは、所定の作業領域の外側の対象物に関連する警報を除外しながら、機械に特有の所定の作業領域内の対象物を検出するようには、構成されていない。結果として、‘865出願に記載されるシステムは、過度な警報によるオペレーターの疲労を依然として引き起こし得る。
【0006】
本明細書に記載されるシステムおよび方法は、上述の欠陥の一つまたは複数に対処することを目的としている。
【発明の概要】
【0007】
第一の態様によれば、機械は、作業器具と、一つまたは複数のセンサーと、一つまたは複数のカメラと、一つまたは複数のプロセッサーと、一つまたは複数の非一時的コンピューター可読媒体であって、一つまたは複数のプロセッサーによって実行されるとき、一つまたは複数のプロセッサーに動作を行わせる命令を格納する、一つまたは複数の非一時的コンピューター可読媒体とを含み得る。動作は、一つまたは複数のセンサーから、環境内の作業器具の第一の位置を示す第一のデータを受信することを含み得る。動作は、一つまたは複数のセンサーから、第一の位置とは異なる環境内の作業器具の第二の位置を示す第二のデータを受信することを含み得る。動作は、第一の位置および第二の位置に少なくとも部分的に基づき、環境内の作業器具の作業領域を画定することを含み得る。動作は、一つまたは複数のカメラから、環境の少なくとも一部分、および一つまたは複数のカメラの視野内に配置される対象物の少なくとも一部分を示す画像データを受信することを含み得る。動作は、画像データに少なくとも部分的に基づき、対象物が作業領域の外側の位置に配置されることを決定することを含み得る。動作は、対象物が作業領域の外側の位置に配置されることを決定することに少なくとも部分的に基づき作業領域内の対象物の存在を示す警報の出力を引き起こすことを控えることを含んでもよい。
【0008】
さらなる態様によれば、方法は、第一の入力が環境内の作業領域を画定するために使用される機械の作業器具の第一の位置に関連付けられる第一の入力、および第二の入力が作業領域を画定するために使用される作業器具の第二の位置を受信することを含み得る。方法は、第一の入力および第二の入力に少なくとも部分的に基づき、機械のカメラの視野内の対象物の少なくとも一部分、および環境の少なくとも一部分を表す画像データを受信する作業領域を画定することを含む。方法はまた、少なくとも一部は画像データに基づき、対象物が作業領域の外に位置することを決定すること、および対象物が作業領域の外に位置することを決定することに少なくとも部分的に基づき、少なくとも一つの警報の出力を引き起こすことを控えることを含んでもよい。
【0009】
さらなる態様によれば、機械は、ブーム、ブームに可動式に接続される第一の端部および第一の端部の反対側の第二の端部を有するスティック、ならびにスティックの第二の端部に可動式に接続される作業器具を含み得る、およびブーム、スティック、および作業器具は、機械のフレームに対して、動きの範囲を通して一緒に移動可能である。機械は、機械に結合されたカメラをさらに含み、カメラは、ブーム、スティック、および作業器具が、動きの範囲全体にわたってカメラの視野内に、少なくとも部分的に留まり、センサーが、ブーム、スティック、および作業器具のうちの少なくとも一つが、動きの範囲を通って移動するとき、ブーム、スティック、および作業器具のうちの少なくとも一つの位置を決定するように構成されるように、位置付けられる。機械は、カメラおよびセンサーに動作可能に接続される一つまたは複数のプロセッサーと、一つまたは複数のプロセッサーによって実行されるとき、一つまたは複数のプロセッサーに動作を行わせる命令を格納する一つまたは複数の非一時的コンピューター可読媒体とをさらに含み得る。動作は、センサーから、環境内の作業器具の第一の位置を示す第一のデータ、および環境内の作業器具の第二の位置を示す第二のデータを受信することを含み得る。動作は、第一の位置および第二の位置に少なくとも部分的に基づき、環境内の作業器具の作業領域を画定することと、環境の少なくとも一部分およびカメラの視野内に配置される対象物の少なくとも一部分を示す画像データをカメラから受信することとをさらに含み得る。動作は、画像データに少なくとも部分的に基づき、対象物が作業領域の外側の位置に配置されることを決定することと、対象物が作業領域の外側の位置に配置されることを決定することに少なくとも部分的に基づき、作業領域の外側にある対象物の存在を示す警報の出力を引き起こすことを控えることとをさらに含み得る。
【図面の簡単な説明】
【0010】
詳細な説明は、添付図面を参照して記載される。図中、参照番号の左端の桁は、参照番号が最初に現れる図を識別する。異なる図中の同じ参照番号は、類似または同一の項目を示す。
【0011】
【
図1】
図1は、作業領域内の対象物を検出するための例示的な構成要素を有する例示的な機械を含む例示的な環境の概略上面図を示す。
【
図2】
図2は、作業領域を確立し、および作業領域内の例示的な対象物を検出するための例示的な機械を含む、例示的な環境の概略上面図を示すフロー図を示す。
【
図3】
図3は、作業領域を確立し、警告を発するかどうかを決定するための、作業領域内および作業領域の外側の対象物を検出するための例示的な環境を示す。
【
図4】
図4は、対象物を検出し、警告を発するかどうかを決定するための例示的なプロセスを示す。
【発明を実施するための形態】
【0012】
本開示は、一般に、センサーを使用して、作業現場などの環境中の対象物を検出するためのシステムおよび方法を対象とする。一部の実施例では、機械は、環境内の作業領域を画定し得る。システムおよび方法の一部の実施例では、センサーの一つは、環境中の対象物を検出してもよく、対象物が作業領域内にあるかを決定し得る。作業領域内にある対象物は、警報を発することを引き起こし、および/または機械、または機械に接続される作業器具の動きを制御し得る。本明細書に記載のシステムおよび方法のいくつかの例は、対象物が作業領域内にない場合、検出された対象物に関連する警告を抑制し得る。すなわち、対象物は、センサーの視野内の作業領域の外側で検出され得るが、作業領域内で検出されたそれらの対象物に対して警報が発せられる。
【0013】
図1は、例示的な機械102を含む、作業現場などの例示的な環境100の概略上面図である。本明細書に詳細に記載されるように、機械102は、環境100内の、特に、作業領域108内の対象物106の存在または不在を検出するための衝突回避システム104を含む。以下でより詳細に説明するように、作業領域108は、機械102のオペレーターによって画定され、作業領域システム110を使用して確立され得る。オペレーターが機械102を操作する際に、対象物106が作業領域108内で検出されると、警報システム112が警報114を出力する。
【0014】
図1の例では、機械102は、掘削機として図示される。しかしながら、機械102は、自動車、トラック、農業車両、および/またはホイールローダー、トラックローダー、スキッドステアローダー、採掘ショベル、グレーダー、高速道路トラック、オフハイウェイトラック、および/または当業者に知られている任意の他の機械などの作業車両などの、地形を横断するように構成される任意のタイプの機械であり得る。
【0015】
機械102は、例えば、作業器具、電子機器、およびステアリングを動作すること、および/または機械102を地形を横切って推進するために駆動部材にトルクを供給することを含む、機械102の動作のために電力を供給するように構成される電源(例えば、エンジン)が結合されたシャーシまたはフレーム116を含む。例えば、
図1に示す機械102は、環境100の道路、砂利、埃、または他の作業面にわたって機械102を推進するように構成される一対の軌道を含む。機械102は、軌道を含むが、機械102は、軌道の代わりに、または軌道に加えて、一つまたは複数の車輪を含み得ることが企図される。機械102はまた、機械102のオペレーターを保護し、および/または快適さを提供するため、および/または機械102の制御関連装置を保護するために、フレーム116に結合されたキャブを含む。いくつかの実施例では、機械102は、半自律的または完全に自律的であってもよく、オンボードまたはリモートオペレーターなしで動作することができる。
【0016】
図1に示す例では、機械102は、フレーム116に結合され、フレーム116に対して旋回するように構成される近位端を有するブーム118を有する。機械102はまた、ブーム118の遠位端に結合され、ブーム118に対して旋回するように構成されるスティック120を含む。機械102は、フレーム116の一方の端で、かつブーム118の反対側の端で結合されたブームアクチュエーターをさらに含む。ブームアクチュエーターは、伸張および収縮し、それによってそれぞれブーム118の遠位端を上昇および下降させるように構成される。
【0017】
機械102はまた、材料を掘る、運ぶ、持ち上げる、および/または堆積するなど、機械102に関連する動作を実施するための作業器具122を含む。機械102は、一端でフレーム116および/またはブーム118の近位端に連結される作業器具アクチュエーターを含む。作業器具アクチュエーターは、伸張および収縮するように構成され、それによって、例えば、直立方向と少なくとも部分的に逆方向との間で作業器具122を旋回させる。直立した配向では、作業器具122は材料を保持してもよく、少なくとも部分的に反転した配向では、作業器具122は材料を堆積またはダンプし得る。他の形態の作業器具が企図される。例えば、
図1の作業器具122はバケツとして図示されるが、作業器具122は、オーガー、ブラシカッター、ほうき、グラッパ、ハンマー、粉砕機、リッパー、ローターなどを含み得る。
【0018】
図1に示すように、また上述したように、機械102は、衝突回避システム104、作業領域システム110、および/または警報システム112を含む。
図1は、衝突回避システム104、作業領域システム110、および警報システム112が分離しているのを概略的に描写するが、一部の例では、衝突回避システム104、作業領域システム110、および/または警報システム112は、単一のシステム内に具現化され得る。
【0019】
衝突回避システム104、作業領域システム110、および/または警報システム112のうちの一つまたは複数は、本明細書でさらに詳細に説明するように、衝突回避システム104、作業領域システム110、および/または警報システム112に関連付けられる任意のモジュールを実行し得る、一つまたは複数のプロセッサーを含み得る。一部の実施例では、プロセッサーは、中央処理装置(CPU)、グラフィック処理ユニット(GPU)、CPUおよびGPUの両方、または当技術分野で公知の他の処理ユニットもしくは構成要素を含み得る。さらに、プロセッサーの各々は、プログラムモジュール、プログラムデータ、および/または一つまたは複数のオペレーティングシステムを記憶し得る、独自のローカルメモリーを有し得る。
【0020】
衝突回避システム104、作業領域システム110、および/または警報システム112に関連付けられるコンピューター可読媒体は、揮発性メモリー(例えば、RAM)、不揮発性メモリー(例えば、ROM、フラッシュメモリー、小型ハードドライブ、メモリーカードなど)、またはそれらのいくつかの組み合わせを含み得る。コンピューター可読媒体は、非一時的コンピューター可読媒体であり得る。コンピューター可読媒体は、衝突回避システム104、作業領域システム110、および/または警報システム112に関連するさまざまな動作を実行する、上述のモジュールの一つまたは複数を含んでもよく、またはそれらと関連付けられてもよい。一部の実施例では、一つまたは複数のモジュールは、コンピューター可読媒体によって記憶され、一つまたは複数のプロセッサーによって実行可能である、こうした動作を実施するコンピューター実行可能命令を含んでもよく、またはそれらと関連付けられてもよい。衝突回避システム104、作業領域システム110、および/または警報システム112はまた、それぞれ、衝突回避システム104、作業領域システム110、および/または警報システム112に関連する任意の機能を実行し得る、上記に列挙されていない追加の構成要素を含んでもよい。衝突回避システム104、作業領域システム110、および/または警報システム112は、任意の既知の有線および/または無線通信プロトコルおよび/またはネットワークを使用して、互いに通信し得る。
【0021】
作業領域システム110は、機械102の周りの作業領域108を確立するように構成され得る。作業領域108は、機械102の周りの仮想境界、電子フェンス、または地理的ベースのフェンスに対応し、機械102が動作するように構成される仮想空間を表し得る。例えば、機械102、フレーム116、ブーム118、スティック120、および/または作業器具122は、作業領域108内で動作し得る。作業領域108が確立されると、オペレーターは、作業領域108の外側で機械102を操作することを禁止され得る。例えば、オペレーターは、作業領域108の外部に機械102、フレーム116、ブーム118、スティック120、および/または作業器具122の部分を動作させることを禁止され得る。
【0022】
図1に示すように、機械102は、作業現場または他の環境でさまざまな異なるタスクを行うように構成されてもよく、こうした作業は、破片124を輸送車両126に積み込むことを含む。しかしながら、機械102は、破片124、または他の機器、材料、廃棄物などを、環境100内の、および/または作業領域108内の一つの場所から別の場所へ移動させ得る。破片124は、機械102の右側にあり、輸送車両126は、機械102の左側にあって示されるが、他の実施例では、破片124および/または輸送車両126は、互いに対して、および/または機械102に対して他の位置に配置され得ることが理解される。機械102のオペレーターは、破片124を作業器具122に積み込み、次に作業器具122を左に振って、破片124を輸送車両126に堆積させてもよい。破片124が、作業器具122から捨てられた、および/または別の方法で取り除かれると、機械102のオペレーターは、作業器具122を右に移動させて、破片124をさらに作業器具122に積み込んでもよい。破片124が作業器具122に積み込まれ、輸送車両126に降ろされる位置の間で、オペレーターは、作業器具122を水平および鉛直に移動させるか、または別の方法で機械102を操作することができる。
【0023】
一部の実施例では、作業領域108は、第一の境界128、第二の境界130、および第一の境界128から第二の境界130まで延在する周辺境界142によって少なくとも部分的に画定され得る。一部の実施例では、作業領域108は、環境100内の作業を開始する前に、確立、設定、または決定され得る。例えば、オペレーターは、作業器具122を第一の境界128と関連付けられる第一の位置に、次いで第二の境界130と関連付けられる第二の位置に移動させることによって、作業領域108を画定し得る。すなわち、
図1の例では、オペレーターは、作業器具122を第一の境界128に対応する位置に移動させ、次に作業器具122を第二の境界130に対応する位置に水平に移動させてもよい。作業器具122が第一の境界128(またはオペレーターが境界を確立したい他の位置)に位置する間、オペレーターは第一の境界128の表示を提供し得る。例えば、オペレーターは、機械102の表示装置と相互作用し、機械102のジョイスティック上のボタンを押して、などし得る。同様に、作業器具122は第二の境界130に位置付けられるが、オペレーターは第二の境界130の表示を提供し得る。
【0024】
機械102は、作業器具122および機械102の他の部分(例えば、ブーム118、スティック120など)の相対的な位置を決定するためのさまざまなセンサー132を含む。これらのセンサー132は、機械102のさまざまな部分上に配置され得る。例えば、慣性測定ユニット(IMU)は、ブーム118およびスティック120上に配置されてもよく、位置センサーは、スティック120と作業器具122との間の関節に配置されてもよく、および/または回転センサーは、機械102に近接したブーム118の基部に配置され得る。
【0025】
センサー132は、機械102、ブーム118、スティック120、作業器具122、および/または機械102の一部の相対的な拡張、位置、場所、回転などを示すセンサーデータ134を生成する。オペレーターが作業領域108を確立している間、センサーデータ134は、機械102、ブーム118、スティック120、作業器具122、および/または機械102の一部の相対的な位置を示すために使用され得る。例えば、第一の境界128にある間、オペレーターは、第一の境界128が作業領域108と関連付けられているという表示(例えば、ボタン押す)を提供し得る(例えば、オペレーターは、第一の境界128を作業領域108の境界として確立することを望む)。この時点で、センサー132は、機械102、ブーム118、スティック120、作業器具122、および/または機械102の一部の位置を知る目的で、センサーデータ134を生成し得る。同様に、オペレーターが第二の境界130などの他の境界を確立したい場合、センサー132は、機械102、ブーム118、スティック120、作業器具122、および/または第二の境界130における機械102の一部の位置を知るためのセンサーデータ134を生成し得る。
【0026】
機械102の位置コントローラー136は、有線および/または無線通信リンクを介してセンサー132と通信し得る。位置コントローラー136は、センサーデータ134を処理して、機械102、ブーム118、スティック120、作業器具122、および/または機械102の一部の位置138を決定するように構成され得る。位置コントローラー136がこれらの位置138を決定する際に、位置コントローラー136は、作業領域108を確立する目的で、この情報を作業領域システム110にリレーし得る。例えば、作業領域コントローラー144は、第一の境界128および第二の境界130の位置138を作業領域108と関連付け得る。さらに、本明細書で論じるように、位置コントローラー136は、作業器具122、またはより広くは、機械102が作業領域108内で動作しているかどうかを決定するためにも使用され得る。
【0027】
追加的または代替的に、運動データ140は、作業領域108を確立するために使用され得る。運動データ140は、例えば、ブーム118とスティック120とを連結するリンケージ、アームなどの、ブーム118、スティック120、作業器具122、または機械102の他の構成要素の寸法、体積、および/または他の構成を示し得る。運動データ140は、ブーム118、スティック120、作業器具122、ブーム118の最大延長または範囲、スティック120、作業器具122などの移動特性を示し得る。運動データ140はまた、例えば、スティック120と作業器具122との間の接続またはカップリングを示し得る。運動データ140は、作業器具122および/または機械102の一部の位置138を決定するためのセンサーデータ134とともに使用され得る。こうした実例では、位置138コントローラー136は、センサーデータ134および/または運動データ140に少なくとも部分的に基づき、作業領域108内の作業器具122の位置を決定し得る。位置コントローラー136はまた、機械102(またはその一部分)に対する作業器具122の場所、位置、および/またはベアリングを決定するように構成され得る。
【0028】
作業領域108は、一部の実施例では、作業領域コントローラー144によって、機械102の周りの二次元(2D)または三次元(3D)空間にマッピングまたは記録され得る。例えば、作業領域コントローラー144は、機械102の周りのローカル座標系で作業領域108を生成し得る。しかしながら、一部の実施例では、作業領域コントローラー144は、作業領域108を、グローバル位置システム(GPS)座標として生成し得る。機械102が作業領域108内で動作するとき、位置コントローラー136は、機械102、ブーム118、スティック120、および/または作業器具122の位置138を連続的に決定し得る。位置138は、作業領域108内で比較または転写されて、機械102、ブーム118、スティック120、および/または作業領域108内の作業器具122の相対的な位置を決定することができる。
【0029】
図1は特定の作業領域108を示すが、一部の実施例では、オペレーターはまた、作業器具122を環境100の周りに移動させ、作業領域108の周辺に対応する他の位置を示し得る。こうした例では、作業領域108は、オペレーターによって、および環境100の詳細に基づき画定され得る。
【0030】
一部の実施例では、オペレーターが機械102を別の環境、または環境100内の位置に移動する場合、オペレーターは作業領域108をリセットまたは再確立し得る。一部の実施例では、オペレーターは、機械102または機械102に給電する際に、ある場所から別の場所への物理的移動を検出する作業領域108を確立するように求められ得る。
【0031】
さらに、作業領域108は、追加の境界を使用して画定され得る。例えば、オペレーターは、作業器具122を昇降させて(すなわち、鉛直に)、機械102に対して上部境界および下部境界を確立し得る。これにより、オペレーターは、木々、高架橋、ガントリー、マンホール、下水道/通信線などを避けるために、作業領域108を確立することができる。一部の実施例では、作業領域108はまた、機械102の詳細によって少なくとも部分的に画定され得る。例えば、機械102および/または作業器具122は、限定された動作の範囲(例えば、回転)、限定された延長の範囲(例えば、水平方向の到達)、および/または限定されたリフトの範囲(例えば、鉛直方向の到達)を有し得る。こうした情報は、運動データ140に格納され得る。こうした実施例では、作業領域コントローラー144は、作業領域108を生成するためのこれらの追加の境界を受けいれてもよい。
【0032】
さらに、機械102、ブーム118、スティック120、作業器具122、および/または機械102の他の部分は、障害物(例えば、壁、バリア、木、建物、車両など)を認識するセンサーを有し得る。これらの障害物は、作業領域108の境界として提案されてもよく、オペレーターは、提案を作業領域108の境界、エッジ、または周辺装置として受けいれることを選択し得る。
【0033】
上述のように、作業領域108が画定されると、オペレーターは、作業領域108の外側で作業器具122を回転、持ち上げ、または延ばすことを防止され得る。さらに、フレーム116、ブーム118、および/またはスティック120は、作業領域108の外側に延在するのを防止され得る。上で論じたように、作業領域108は、オペレーターに警告し、および/または機械102を制御するために画定され得る。
【0034】
衝突回避システム104は、機械102と環境100内の対象物106との間の衝突を防止するように構成され得る。対象物106を検出するために、衝突回避システム104は、機械102の本体(例えば、フレーム116)上に取り付けられる一つまたは複数のカメラ146を含み得る。一部の実例では、機械102は、一つ、二つ、または三つのカメラなど、任意の数のカメラ146を含み得る。二台のカメラ実施形態では、第一のカメラは、機械102の右側160上に配置されてもよく、第二のカメラは、機械102の裏面162上に配置され得る。三つのカメラ実施形態では、第三のカメラは、機械102の左側164上に配置され得る。しかしながら、カメラ146は、追加的または代替的に、ブーム118、スティック120、および/または機械102の他の部分に取り付けられてもよい。
【0035】
カメラ146の配置および配向に応じて、カメラ146は、機械102の前方、側面、後方、下方、および/または上方に視野(FOV)を有し得る。例えば、上の実施例を続けると、第一のカメラは、機械102の右側、正面、および/または後方にFOVを有してもよく、第二のカメラは、機械102の右側、後方、および/または左側にFOVを有してもよく、第三のカメラは、機械102の左側、正面、および/または後方にFOVを有し得る。一部の実施例では、カメラ146は、水平および鉛直平面で対象物106を見るための3D FOVを有し得る。
【0036】
図1に示す例では、機械102は、機械102の右側に取り付けられ、横向きに面しているカメラ146を含む。カメラ146は、機械102の背面から機械102の前面まで延在するFOV148を有し得る。上述のように、カメラ146のFOV148は、実質的に、環境100の画像部分に対して180度であってもよく、作業領域108、機械102の後ろ、機械102の右、および機械102の正面であり得る。さらに、FOV148は、鉛直のFOVを有するように、水平面の上下の環境100の部分を撮像し得る。しかしながら、カメラ146は、機械102の他の部分に取り付けられてもよく、および/または機械102に対して異なる方向に面し得ることが企図される。一部の実施例において、ブーム118、スティック120、および作業器具122の少なくとも一部分は、ブーム118、スティック120、および作業器具122の動きの範囲全体を通して、少なくとも部分的にFOV148内に留まり得る。一部の実施例では、カメラ146のFOVの少なくとも一部分は、それぞれ、マップがオーバーラップする。
【0037】
カメラ146は、環境100を示す画像データ150を生成し得る。カメラ146は、任意の既知のタイプのアナログまたはデジタル画像センサー、デジタルカメラ、および/またはデジタルビデオカメラであり得る。例えば、カメラ146は、高ダイナミックレンジ(HDR)カメラ、感光性カメラ、および/または超音速カメラであり得る。しかしながら、他の適切なタイプの撮像装置および/またはセンサーが企図される。一部の実施例では、カメラ146は、二次元画像データ、三次元画像データ、画像シーケンス、グレー画像データ、および/またはカラー画像データを提供し得る。いくつかの実施例では、カメラ146は、奥行きデータ、吸収データ、および/または反射率データを提供し得る。一部の実施例では、機械102は、一つまたは複数の光検出および範囲(LIDAR)センサー、一つまたは複数の音声ナビゲーション範囲(SONAR)センサー、一つまたは複数の無線検出および範囲(RADAR)センサー、または任意の他の適切なセンサータイプなどの任意の既知のタイプのセンサーをさらに含み得る。
【0038】
衝突回避システム104は、画像データ150に少なくとも部分的に基づき、対象物106の存在を決定するように構成される対象物検出コントローラー152を含み得る。例えば、対象物検出コントローラー152は、有線および/または無線通信リンクを介してカメラ146と通信し得る。一部の実施例では、対象物検出コントローラー152は、例えば、画像データ150内の勾配を分析することによってなど、既知の画像分析技術(例えば、デジタル分析)を使用して、画像データ150に関連付けられる対象物106を識別するように構成され得る。対象物検出コントローラー152はまた、カメラ146および/または機械102の位置に対する対象物106の場所、位置、および/またはベアリングを決定するように構成され得る。一部の実施例では、対象物検出コントローラー152は、特定の対象物を識別する、および/または特定の対象物の存在を認識するように構成され得る。例えば、対象物検出コントローラー152は、人を識別するために一つまたは複数のアルゴリズムを利用し得る。画像データ150の受信に応答して、対象物検出コントローラー152は、画像データ150内の人の存在、または不在を決定し得る。しかしながら、画像データ150は、他の対象物(例えば、動物、車両など)を識別するために使用され得るか、または対象物検出コントローラー152は、識別するように訓練され得る。
【0039】
警報システム112は、作業器具122(および/または機械102の他の部分)と対象物106との間の衝突を防止するために、警報114を出力し得る。例えば、対象物106が作業領域108内にある場合、警報システム112は、オペレーターに警告するための警報114を生成し得る。衝突回避システム104が対象物106の位置138を決定した後、衝突回避システム104は、位置138を作業領域108の境界と比較し得る。例えば、作業領域108および対象物106の位置138は、座標空間で表されるため、衝突回避システム104は、座標位置を比較して、警報システム112が警報をトリガーするべきかどうかを決定することができる。対象物106の座標位置が、作業領域108の座標空間内にある場合、警報システム112は、警報114をトリガーし得る。ここで、警報システム112は、警報114の起動を決定するための信号または他のデータを位置コントローラー136から受信し得る。例えば、対象物106が作業領域108内、または作業器具122の経路内にあると決定すると、警報システム112は、警報114を出力するように指示またはトリガーされ得る。
【0040】
警報システム112は、作業領域108内の対象物106を示す一つまたは複数の対象物信号を受信すると、装置を起動するように構成され得る。一部の実施例では、警報114は、可聴(例えば、一連のビープ)、視覚(例えば、光)、ハプティック(例えば、振動)などであり得る。警報114は、機械102のディスプレイ上に視覚的に出力されてもよく、これは、オペレーターが機械102の一つまたは複数の動作を制御するためにインターフェイスし得るユーザーインターフェイス(UI)を含み得る。オペレーターに警報を発するように構成される装置は、キャブおよび/またはオペレーターが見るおよび/または聞こえることのできる位置に設置され得る。さらに、衝突回避システム104は、カメラ146のFOV148内であるが、作業領域108の外側にある対象物106に関連する警報114を抑制し得る。こうした実施例では、衝突回避システム104は、対象物106を検出することができるが、作業領域108の外側の対象物106の位置を考えて警報システム112に警報114を発行するよう指示することを回避することができる。
【0041】
一部の実施例では、作業領域108内の対象物106の検出に基づき、機械102および/または作業器具122の移動は、制限または別様に制御され得る。例えば、対象物106を検出した後、作業器具122が対象物106の特定の閾値距離内に入る場合、オペレーターは、作業器具122を対象物106の近くに前進させることを禁止され得る。例えば、衝突回避システム104は、対象物106の位置138を使用して、オペレーターが対象物106の特定の閾値距離内で作業器具122を動かすことを可能にし得る。一部の実施例では、衝突回避システム104は、画像データ150を介して対象物106の位置、およびセンサーデータ134を介して作業器具122の位置を連続的に決定し得る。作業器具122の位置が対象物106に向かって前進し、特定の閾値距離内に入る場合、衝突回避システム104は、作業器具122の移動を停止してもよく、および/または警報システム112に警報114を出力させてもよい。しかしながら、一部の実施例では、オペレーターは、対象物106から作業器具122を離れて前進させることができる。
【0042】
衝突回避システム104は、対象物106に向かう方向への作業器具122の移動を拘束、ブレーキ、または防止するように構成される移動コントローラー154を含み得る。例えば、移動コントローラー154は、機械102に結合された一つまたは複数のブレーキ装置の起動を制御して、作業器具122の走行速度を遅くし、作業器具122を停止し、および/または作業器具122を作業領域108内の固定位置に保持し得る。こうした制御はまた、機械102、ブーム118、および/またはスティック120の移動を防止し得る。
【0043】
移動コントローラー154は、機械102の移動を停止または制御するかどうかを決定するために、位置コントローラー136から信号または他のデータを受信し得る。例えば、対象物106が作業領域108内、または作業器具122の経路内にあると決定すると、移動コントローラー154は、対象物106に向かう方向への作業器具122の移動を防止するように構成され得る。
【0044】
図1を引き続き参照すると、環境100は、第一の対象物106(1)および第二の対象物106(2)を含む。第一の対象物106(1)および第二の対象物106(2)は、機械102が人などの衝突を回避することが望ましい任意のタイプの対象物であり得る。上述のように、第一の対象物106(1)および第二の対象物106(2)は、カメラ146によって捕捉された画像データ150を介して識別され得る。
図1に示す例では、第一の対象物106(1)は作業領域108内に位置し、第二の対象物106(2)は作業領域108の外側に位置する。
【0045】
示されるように、カメラ146のFOV148は、一つまたは複数の座標方向で作業領域108を超えて延在し得る。第一の対象物106(1)が作業領域108内にあるとき、警報114は、第一の対象物106(1)の存在を示す出力であり得る。さらに、移動コントローラー154は、作業器具122を、第一の対象物106(1)の方向166および/または特定の閾値距離または近接168内に前進させることを、オペレーターが防止し得る。比較すると、第二の対象物106(2)については、第二の対象物106(2)が作業領域108の外側に位置することを考えると、警報114は発行され得ない。言い換えれば、第二の対象物106(2)は第一の境界128を越えて、従って作業領域108の外側に位置するため、作業器具122は第二の対象物106(2)に接触しえない。このように、第二の対象物106(2)は、第二の対象物106(2)が作業領域108の外側にあるため、対象物検出コントローラー152によって検出され得るが、警報114は発行され得ない。この警報114のフィルターリングは、警報システム112によって生成される警報114の量を制限する役割を果たし得る。例えば、警報システム112は、対象物検出コントローラー152によって検出され、かつ作業領域108内に配置されるものとして識別された対象物106に対応する警報114を生成し得るが、対象物検出コントローラー152によって検出され、作業領域108の外部に配置されるものとして識別された対象物106に対応する警報114を、抑制(または一部の例では、生成しない)し得る。
【0046】
さらに、上述のように、衝突回避システム104は、人などの特定の対象物106を識別するように訓練され得る。例えば、
図1の例では、輸送車両126は作業領域108内に示されるが、機械102は依然として破片124を輸送車両126に降ろすことが許可され得る。衝突回避システム104として、輸送車両126は作業領域108内の対象物であっても、人を識別するように訓練されてもよく、輸送車両126の検出は、機械102の移動を停止または抑制してもよく、および/または警報114は出力され得ない。この意味で、衝突回避システム104は、警報114をトリガーする、および/または動きを抑制する、それらの対象物をフィルターリングまたは細分し得る。
【0047】
一部の実施例において、対象物106が作業領域108に近接している場合、一つまたは複数の防止警報が警報システム112によって出力され得る。警報114は出力されず、機械102および/または作業器具122の制御は防止されないが、代わりに、オペレーターはこうした対象物106の近接に関連する表示を受信し得る。例えば、
図1の第二の対象物106(2)が第一の境界128の特定の閾値距離内(例えば、一フィート)にある場合、事前警告が警報システム112によって出力され得る。
【0048】
一部の実施例では、機械102は、機械102の正面に配向されるカメラ146を有しえない。代わりに、オペレーターは、懸念される対象物106を位置付け、機械102および作業器具122をそれぞれ制御するために、自らの視界に依拠し得る。しかしながら、オペレーターが機械102を操作する(例えば、回転させる)と、それらの対象物106がカメラ146のFOV内に来てもよい。その中で、対象物106が作業領域108内に入る場合、警報114が生成され得る。
【0049】
一部の実施例では、制御システム156は、ネットワーク158を介して機械102と通信し得る。制御システム156は、環境100内に位置してもよく、および/または環境100から遠隔に位置し得る。本明細書に記載される例のいずれにおいても、衝突回避システム104、作業領域システム110、および警報システム112の機能は、特定の動作が機械102によって実行され、他の動作が遠隔で実行されるように分散され得る。例えば、作業領域108を確立するための動作は、制御システム156によって行われてもよい。こうした例では、機械102(または別の中間装置)は、例えば、センサーデータ134を制御システム156に送信して、作業領域108を確立するように構成され得る。しかしながら、制御システム156は、衝突回避システム104、作業領域システム110、および警報システム112のその他の動作を追加的にまたは代替的に実行し得る。
【0050】
制御システム156の構成要素は、ネットワーク158を介して、機械102の構成要素のいずれかと通信してもよく、および/またはその他の方法で動作可能に接続され得る。ネットワーク158は、ローカルエリアネットワーク(「LAN」)、ワイドエリアネットワーク(「WAN」)などのより大規模なネットワーク、またはインターネットなどのネットワークの集合であり得る。TCP/IPなどのネットワーク通信(例えば、無線機間通信プロトコル)用のプロトコルを使用して、ネットワーク158を実装し得る。
【0051】
図2は、作業領域108を確立し、対象物106が作業領域108内にあるかどうかを検出することに関連する例示的なフロー図を示す。「1」で、作業器具122は、作業領域108の第一の境界128の設定に関連する第一の位置200に位置付けられ得る。例えば、オペレーターは、作業器具122を(ブーム118、スティック120などを使用して)オペレーターが作業領域108を確立したい第一の位置200に移動させてもよい。第一の境界128を設定する際に、オペレーターは、ブーム118、スティック120、および/または作業器具122をさまざまな位置に延ばし得る。作業器具122を第一の位置200に位置付けた後、オペレーターは、第一の位置200を作業領域108の境界(例えば、UI、ボタン押下など)として設定するための表示を提供し得る。一部の実例では、機械102および/または作業器具122は、第一の位置200で静止したままでもよく、一方、センサー132は、第一の境界128に対するセンサーデータ134を生成する。
【0052】
一部の実施例では、第一の位置200は、機械102の周りのローカル座標空間に画定され得る。例えば、第一の位置200の間、位置コントローラー136は、機械102、ブーム118、スティック120、作業器具122、および/または機械102の他の部分の位置座標を記録し得る。例えば、センサーデータ134および/または運動データ140を使用して、位置コントローラー136は、ブーム118の端部および/または側面、スティック120の端部および/または側面、ならびに/または作業器具122の端部および/または側面に対応する位置を決定し得る。
図2に示すように、第一の位置200は、機械102に対する作業器具122の右縁または作業器具122の一番外側の右隅に対応し得る。
【0053】
第一の位置200を使用して、作業領域コントローラー144は、第一の境界128を確立し得る。一部の実施例では、第一の境界128は、第一の位置200および機械102の中央位置202を使用して確立され得る。一部の実施例では、オペレーターは、第一の位置200および第二の位置204を通って配置される鉛直平面を超えて、作業器具122(または機械102の他の部分)を前進させることを拘束され得る。しかしながら、他の実施例では、第一の境界128はまた、作業器具122の中心軸または平面、または作業器具122の他の表面に対して確立され得る。追加的に、または代替的に、一部の実施例では、第一の位置200を通って配置される第一の境界128は、作業器具122の右縁と平行であり得る。さらに、一部の実例では、第一の境界128は、作業器具122からの特定のオフセットで確立され得る。例えば、安全度を考慮に入れるために、作業器具122と第一の境界128との間にバッファーが確立され得る。すなわち、第一の境界128を確立するとき、第一の境界128は、作業器具122の右縁からある一定の距離だけオフセットされ得る。
【0054】
「2」で、作業器具122は、作業領域108の第二の境界130の設定に関連する第二の位置204に位置付けられてもよい。例えば、オペレーターは、作業器具122を、オペレーターが作業領域108を確立したい第二の位置204に移動させてもよい。作業器具122を第二の位置204に位置付けた後、オペレーターは、第二の境界130を作業領域108の境界として設定するための表示を提供し得る。一部の実例では、機械102および/または作業器具122は、第二の位置204で静止したままでもよく、一方、センサー132は、第二の境界130に対するセンサーデータ134を生成する。
【0055】
第二の境界130を画定するために、第一の境界128に関して上述したように、位置コントローラー136は、機械102、ブーム118、スティック120、作業器具122、および/または機械102の他の部分の位置座標を記録し得る。例えば、センサーデータ134および/または運動データ140を使用して、位置コントローラー136は、ブーム118の端部および/または側面、スティック120の端部および/または側面、ならびに/または作業器具122の端部および/または側面に対応する位置を決定し得る。
図2に示すように、第二の境界130は、機械102に対して、作業器具122の左縁または作業器具122の一番外側の左隅に対応し得る。
【0056】
第二の位置204を使用して、作業領域コントローラー144は、第二の境界130を確立し得る。一部の実施例では、第二の境界130は、機械102の第二の位置204および中央位置202を使用して確立され得る。一部の実施例では、オペレーターは、中央位置202および第二の位置204を通って配置される鉛直平面を超えて作業器具122を前進させることを拘束され得る。追加的に、または代替的に、一部の実施例では、鉛直平面は、第二の位置204を通って、作業器具122の左縁に平行に配置されてもよく、および/または機械102の他の部分に対してであり得る。一部の実施例では、第二の位置204は、作業器具122の左縁に位置し得る。
【0057】
「3」では、作業領域108は、第一の境界128および第二の境界130を使用して確立され得る。例えば、作業領域コントローラー144は、作業領域108を画定し得る。一部の実例では、作業領域108は、第一の境界128から第二の境界130まで延在する周辺境界142に基づき、追加で画定され得る。
図2に示すように、周辺境界142は、第一の境界128と第二の境界130との間の湾曲した経路を表し得る。機械102上の周辺境界部142から中央位置202までの距離は、第一の境界128と第二の境界130との間の作業器具122の軌道に基づいてもよい。別の方法として、作業器具122が第一の境界128と第二の境界130との間でスイング(例えば、回転)すると、作業器具122の外周辺縁部208は、周辺境界142を画定し得る。周辺境界142は、センサーデータ134および/または運動データ140を使用して、位置コントローラー136を介して決定され得る。あるいは、周辺境界142の位置、形状、および/またはその他の構成は、機械102、フレーム116、ブーム118、スティック120、および/または作業器具122の既知の寸法に基づき決定され得る。
【0058】
さらに、
図2は、第一の境界128および第二の境界130によって少なくとも部分的に画定される作業領域108を示すが、作業領域108は、追加的または代替的に、追加の境界を使用して画定され得る。例えば、作業器具122は、上部境界を確立するために上昇されてもよく、および/または下部境界を確立するために低下され得る。ここで、上部境界(例えば、電力線)および/または下部境界(例えば、下水道線)に関連付けられる位置において、センサー132は、作業領域108を生成する際に使用するためのセンサーデータ134を収集し得る。しかしながら、境界の数にかかわらず、作業領域コントローラー144は、機械102のローカル座標系に対して、作業領域108を確立または画定し得る。作業領域108内で、オペレーターは作業器具122を移動し得る。さらに、作業領域108は、オペレーターに警告および/または作業器具122の移動を抑制する領域を確立するために使用され得る。
【0059】
「4」で、オペレーターは作業器具122を右方向に(例えば、時計回りに)振ることを試みることができる。しかしながら、示されるように、対象物106は、第一の境界128に近接した、作業領域108内にあり得る。機械102のカメラ146は、カメラ146のFOV148内の対象物106を捕捉し得る。対象物106は、完全にまたは部分的に、作業領域108および/またはFOV148内であり得る。
【0060】
一部の実施例では、カメラ146は、人などの対象物のタイプを識別するように構成され得る。上述のように、衝突回避システム104は、対象物106の位置座標を作業領域108の位置座標(すなわち、作業領域108に関連付けられる位置座標)と比較することに少なくとも部分的に基づき、対象物106が作業領域108内にあると決定し得る。この比較に基づき、衝突回避システム104は、対象物106が作業領域108内であるか、または外にあると決定し得る。
【0061】
図2の例では、対象物106が作業領域108内に配置されるとき、警報システム112は、警報114をトリガーして、対象物106の存在および/または位置としてオペレーターに通知し得る。警報114は、可聴警報および/または視覚的警報であり得る。追加的に、または代替的に、対象物106の検出に基づき、移動コントローラー154は、オペレーターが作業器具122および/または機械102の他の部分を、対象物106に比較的近接する一つまたは複数の二次的位置に移動させるのを妨ぎ得る。例えば、
図2に示すように、オペレーターは、対象物106に向かって作業器具122を方向206に移動させようとし得る。しかしながら、作業領域108内の対象物106の検出に基づき、一部の実施例では、移動コントローラー154は、作業器具122が方向204に移動することを禁止し得る。一部の実施例では、移動コントローラー154は、作業領域108内の対象物106を検出すると、作業器具122の方向206への移動を依然として許可し得るが、特定の(例えば、最小の)閾値距離によって対象物106から間隔を置いた二次的位置への作業器具122の移動を禁止し得る。例えば、こうした実施例では、移動コントローラー154は、作業器具122の方向206への移動を許容し得るが、作業器具122が、方向206で、最小閾値距離(例えば、六インチ、一フィートなど)だけ対象物106から間隔を置いた二次的位置210に前進することを禁じ得る。対象物106からの二次的位置210の間隔は、対象物106と衝突する作業器具を避けるために、安全性の程度を考慮に入れ得る。
【0062】
上述のように、かつ
図2に示すように、カメラ146のFOV148は、作業領域108を超えて延在し得る。対象物106が作業領域108の外側で検出されるが、カメラ146によってまだ検出される例では、警報システム112は、対象物106の存在を示す事前警告を出力し得る。一部の実施例では、事前警告は、警報114よりも低い音量を有する可聴警報を含んでもよく、および/または警報114とは異なる色である視覚的警報を含んでもよい。しかしながら、例において、事前警告が発せられた場合、オペレーターは作業領域108内で作業器具122を依然として動作させてもよい。
【0063】
図3は、機械102を使用して確立された例示的な作業領域300を示す。作業領域300は、座標空間(X、Y、Z)内の複数の点302(1)~(8)によって画定され得る。一部の実施例では、オペレーターは、作業器具122を、一つまたは複数の点302(1)~(8)に移動させ得る。点302(1)~(8)で、オペレーターは、点302(1)~(8)が、作業領域300のさまざまな境界に沿って対応する点に対応するか、または対応する点を画定するために使用されると示し得る。一部の実施例において、作業領域300を画定する点302(1)~(8)を示した後、作業領域コントローラー144は、座標空間で点302(1)~(8)を接続することによって、作業領域108を画定し得る。
【0064】
一部の実施例では、作業領域300は、機械102に対して画定され得る。例えば、点302(1)~(8)の各々に関連付けられるローカル座標を使用して、作業領域コントローラー144は、作業領域300を座標空間でマッピングし得る。機械102は、点302(1)~(8)の各々が機械102に対して画定される、座標空間の原点を表し得る。さらに、点302(1)~(8)を接続する輪郭または線は、作業領域300をさらに画定し得る。この意味で、作業領域108は、機械102が動作するように構成される電子フェンスまたは仮想フェンスを表し得る。例えば、作業領域108は、点302(1)~302(4)を介した頂面境界、点302(1)、302(2)、302(5)、および302(6)を介した後面境界、点302(3)、302(4)、302(7)、および302(8)を介した正面境界、点302(1)、302(4)、302(5)、および302(8)を介した第一の側面境界、点302(2)、302(3)、302(6)、302(7)を介した第二の側面境界、および点302(5)~302(8)を介した底部境界によって画定され得る。境界の各々は、機械102がその外部で動作することが禁止される座標空間の平面を表し得る。
【0065】
作業領域300内で、オペレーターは機械102および作業器具122を操作し得る。しかしながら、センサーデータ134および/または運動データ140を使用して、機械102、作業器具122、およびブーム118などの機械102の一部が、作業領域108の外側に進むことが制限され得る。
【0066】
作業領域300は、作業領域300の外側で検出された対象物に対する警報を抑制するために使用され得る。例えば、
図3に示すように、一部の実施例では、第一の対象物304(人)および第二の対象物306(ツリー)は、作業領域300の外側に位置してもよく、一方で第三の対象物308(人)は、作業領域300の内側に位置し得る。
【0067】
機械102のカメラ146(または、作業領域300および/または環境100の周りに置かれた)は、第一の対象物304、第二の対象物306、および/または第三の対象物308を検出し得る。例えば、カメラ146は、機械102の側面、上部、後部、および/または前部に位置し得る。対象物検出コントローラー152が、カメラ146からの画像データ150を介して、作業領域108内および/または作業器具122の経路内の対象物を検出すると、警報114が発せられ得る。例えば、
図3に示すシナリオでは、対象物検出コントローラー152は、第一の対象物304および第二の対象物306を検出し得る。しかしながら、衝突回避システム104および/または作業領域システム110を介して、機械102は、第一の対象物304および第二の対象物306が作業領域300の外側に位置し、第一の対象物304および第二の対象物306が作業器具122との可能な接触の外側に位置することを決定し得る。こうした例では、第一の対象物304および第二の対象物306が検出されたにもかかわらず、第一の対象物304および第二の対象物306の作業領域300の外側の位置を考慮し、警報114は抑制され得る。
【0068】
比較すると、第三の対象物308は、作業領域300内に位置する。ここで、機械102は、衝突回避システム104および/または作業領域システム110を介して、作業器具122が第三の対象物308と衝突して、警報システム112に警報114を発行させ得ると決定し得る。追加的に、または代替的に、移動コントローラー154は、第三の対象物308が作業領域300内で検出されたときに、機械102および/または作業器具122の移動を防止または変更し得る。例えば、移動コントローラー154は、作業器具122が、第三の対象物308の特定の閾値へ/その中に移動することを防止し得る。一部の実例では、移動コントローラー154は、第三の対象物308の水平および/または鉛直距離内で移動している作業器具122を防止し得る。例えば、作業器具122が、第三の対象物308と衝突するであろう鉛直の高さにある場合、移動コントローラー154は、移動を制限し得る。しかしながら、作業器具122が第三の対象物308よりも高い鉛直高さである場合、移動コントローラー154は、作業器具122が第三の対象物308の頭上にスイングするのを妨げえない。
【0069】
さらに、
図3は、第一の対象物304、第二の対象物306、および第三の対象物308が、接地面から延在するのを示すが、カメラ146および/または対象物検出コントローラー152は、頭上の対象物(例えば、電力線、高架橋など)を検出し得る。ここで、警報114は、対象物が頂面境界(例えば、点302(1)~302(4))および/または底部境界(例えば、点302(5)~302(8))内に延在する場合、作業器具122の発行および/または移動を制限し得る。
【0070】
図4は、作業現場などの例示的な環境の中の対象物を検出し、一つまたは複数の警告を出力するかどうかを決定するための、例示的なプロセス400を示す。このプロセス400は、論理フローグラフとして図示され、その動作は、ハードウェア、ソフトウェア、またはそれらの組み合わせに実装され得る動作のシーケンスを表現する。ソフトウェアに関連して、動作は、一つまたは複数のコンピューター可読記憶媒体上に格納されるコンピューター実行可能命令を表現し、一つまたは複数のプロセッサーによって実行されるとき、列挙された動作を行う。一般に、コンピューター実行可能命令は、特定の関数を実行するか、または特定のデータ型を実装する、ルーチン、プログラム、オブジェクト、構成要素、データ構造などを含む。動作が記述される順序は、制限するものとして解釈されることを意図しておらず、記述された動作の任意の数を任意の順序で、および/または並列に組み合わせてプロセスを実施することができる。
【0071】
402で、作業領域コントローラー144は、機械の周りの第一の境界に対応する第一の入力を受信し得る。例えば、機械102のオペレーターは、機械102または作業器具122を第一の境界128に関連付けられる第一の位置に移動させるためのジョイスティックへの入力を提供し得る。上で論じたように、第一の境界128は、作業領域108の縁部、周辺部、または境界部に対応し得る。作業器具122が第一の境界128に位置付けられる間、および/または作業器具122が静止している間、オペレーターは、作業領域108の境界部の一部として第一の境界128を確立することに関連する表示を提供し得る。いくつかの実施例では、オペレーターは、ボタンを押して表示(例えば、第一の入力)、表示装置(またはUI)への入力などを提供し得る。第一の入力を受信すると、センサー132は、機械102、フレーム116、ブーム118、スティック120、および/または作業器具122の位置を決定してもよく、機械102、フレーム116、ブーム118、スティック120、および/または作業器具122の位置138に対応するセンサーデータ134を生成し得る。本明細書で論じるように、作業領域コントローラー144は、作業領域108を生成するために位置138を使用し得る。
【0072】
404で、作業領域コントローラー144は、機械の周りの第二の境界に対応する第二の入力を受信し得る。例えば、機械102のオペレーターは、機械102または作業器具122を第二の境界130に関連付けられる第二の位置に移動させるためのジョイスティックへの入力を提供し得る。上述のように、第二の境界130は、作業領域108の縁、周辺、または境界に対応し得る。上述のように、第二の境界130は、作業領域108の縁、周辺、または境界に対応し得る。作業器具122が第二の境界130に位置付けられる間、および/または作業器具122が静止している間、オペレーターは、作業領域108の境界の一部として第二の境界130を確立することに関連する表示を提供し得る。いくつかの実施例では、オペレーターは、ボタンを押して表示(例えば、第二の入力)、表示装置(またはUI)への入力などを提供し得る。第二の入力を受信すると、センサー132は、機械102、フレーム116、ブーム118、スティック120、および/または作業器具122の位置を決定してもよく、機械102、フレーム116、ブーム118、スティック120、および/または作業器具122の位置138に対応するセンサーデータ134を生成し得る。本明細書で論じるように、作業領域コントローラー144は、作業領域108を生成するために位置138を使用し得る。
【0073】
一部の実施例では、オペレーターは、作業領域108の確立に関連する追加の入力を提供し得る。例えば、オペレーターは、作業器具122を、作業領域108の上部境界に関連付けられる第三の境界に上昇させてもよい。追加的に、または代替的に、オペレーターは、作業器具122を、作業領域108の下部境界に関連付けられる第四の境界に下げてもよい。これらの境界で、オペレーターは、センサー132によって生成されるセンサーデータ134を介して、作業領域108を確立するための表示を提供し得る。さらに、オペレーターは、第一の境界128と第二の境界130との間に、中間境界など、一つまたは複数の追加の境界をさらに画定し得る。
【0074】
いくつかの実施例では、プロセス400は、境界に対応する入力を受信することを含むが、作業器具122または機械102は、境界(例えば、壁、丘、高架橋など)を確立するための環境100内のバリア対象物を識別する一つまたは複数のセンサーを含み得る。これらの識別されたバリアは、作業領域108を確立するためにオペレーターに推奨され得る。言い換えれば、オペレーターは、作業領域108を確立するための表示を明示的に画定または提供しなくてもよいが、機械102のセンサーは、境界を認識し、これらの境界を作業領域108に対して推奨し得る。
【0075】
406で、作業領域コントローラー144は、作業領域を生成し得る。例えば、第一の境界128および第二の境界130と関連付けられる位置138を受信することに基づき、作業領域コントローラー144は、作業領域108を確立し得る。作業領域108は、機械102の周りのローカル座標系内に表され得る。ローカル座標系は、第一の境界、第二の境界、および/または追加の境界の位置を示し得る。第一の境界128と第二の境界130との間で、機械102は、オペレーターが作業器具122を動かすことを可能にし得る。しかしながら、機械102は、オペレーターが作業器具122を作業領域108の外部に延ばすことを禁止し得る。例えば、オペレーターは、機械102のジョイスティックと係合して、作業器具122を移動し得る。ジョイスティック、またはジョイスティックのコンピューティングハードウェアは、これらのオペレーターコマンドを機械102のコントローラーに提供し得る。コントローラーはこれらのコマンドを実行し、機械102のモーターに作業器具122を移動させ得る。さらに、カメラ146は、対象物106を検出するための画像データ150を生成してもよく、センサー132は、作業器具122の位置138を決定するためのセンサーデータ134を生成し得る。オペレーターが作業器具122を作業領域108の外に移動しようとした場合、移動コントローラー154はコマンドを禁止し得る。
【0076】
さらに、一部の実例では、作業領域コントローラー144は、周辺境界142を確立するために運動データ140を使用し得る。例えば、作業器具122は、機械102から遠く到達または延在するように構成され得る。この到達は、座標空間で、第一の境界128および第二の境界130を接続するために使用され得る。さらに、作業器具122は、これまで機械102の上方に上昇するように構成され得る。同様に、作業領域コントローラー144は、第一の境界128および第二の境界130を接続し、作業領域108を生成するために、機械102のこの高さまたは鉛直の到達を使用し得る。しかしながら、上述のように、オペレーターは、作業器具122を位置付けることによって、上部境界および/または下部境界を確立するために、ジョイスティックを利用し得る。
【0077】
408で、対象物検出コントローラー152は、カメラから画像データを受信し得る。例えば、対象物検出コントローラー152は、機械102のカメラ146に、それぞれ、カメラ146のFOV148内の画像データ150を撮像させ得る。その中で、カメラ146は、画像データを対象物検出コントローラー152に送信し得る。一部の実施例では、機械102は、画像データ150を取り込むための任意の数のカメラ146(例えば、一つ、二つ、三つなど)を含み得る。画像データ150は、機械102の側面から、機械102の後ろから、および/または機械102の前方に捕捉され得る。
【0078】
410で、対象物検出コントローラー152は、任意の対象物が検出されるかどうかを決定し得る。例えば、対象物検出コントローラー152は、画像データ150を受信し、画像データ150を分析して、対象物106が存在するかを決定し得る。一部の実例では、対象物106は、作業領域108の外側および/または作業領域108内に位置し得る。さらに、一部の実施例では、対象物検出コントローラー152は、一つまたは複数の訓練された対象物識別アルゴリズムを使用して、人などの特定の対象物を識別するように構成され得る。
【0079】
410で、対象物検出コントローラー152が、対象物106が検出されなかったと決定する場合(ステップ410-いいえ)、プロセス400は408に進み得る。408で、対象物検出コントローラー152は、対象物106の存在を検出するために使用する画像データ150を受信し続けることができる。例えば、対象物検出コントローラー152は、追加画像データ150を受信し、追加画像データ150を分析して、対象物106が存在するかを決定し得る。
【0080】
あるいは、410で、対象物検出コントローラー152が、対象物106が検出されたと決定する場合(ステップ410-はい)、プロセス400は412に進み得る。412で、対象物検出コントローラー152は、対象物の位置および/またはベアリングを決定し得る。例えば、対象物検出コントローラー152は、画像データ150を分析することに基づき、対象物106の位置138を決定し得る。一部の実施例では、対象物106の位置138は、機械102の周りの座標空間内に表され得る。
【0081】
414で、位置コントローラー136は、対象物が作業領域内にあるかを決定し得る。例えば、位置コントローラー136は、対象物106の座標を、作業領域108の座標と比較して、対象物106が作業領域108内にあるかを決定し得る。414で、位置コントローラー136は、対象物106が作業領域108内にないと決定する場合(ステップ414-いいえ)、プロセス400は416に進み得る。
【0082】
416で、衝突回避システム104は、対象物に関連付けられる警報を出力することを控えてもよい。例えば、カメラ146のFOV148が作業領域108より大きくてもよいことを考えると、全ての対象物106が作業領域108内にあるわけではない。こうした例では、対象物106は、機械102および/または作業器具122との衝突のリスクがない場合がある。このように、対象物106は、作業領域108の外側にあるため、衝突回避システム104は、警報114を出力する警報システム112の指示を控えてもよい。414から、プロセス400はループして408することができ、それによって、プロセス400は、対象物106を検出するために、および/または対象物106が作業領域108内にあるかどうかを決定するために、さらなる画像データ150を受信し得る。
【0083】
別の方法として、414で、衝突回避システム104が、対象物が作業領域108内にあると決定する場合(ステップ414-はい)、プロセス400は418に進んでもよい。418で、プロセス400は、対象物および/または機械の特性を決定し得る。例えば、一部の実例では、特性は、カメラ146および/または機械102のセンサーによって決定され得る。カメラ146および/またはセンサーは、対象物106およびセンサーに対する対象物106のレポート範囲およびベアリングを分類し得る。対象物検出コントローラー152は、カメラ146および/またはセンサーの位置からのオフセットを、機械102の構造に適用し得る。いくつかの実施例では、対象物検出コントローラー152は、カメラ146および/またはセンサーが地面に対してどのように位置付けられるかに関して、ロール/ピッチ/ヨー/高さを送信し得る。一部の実施例において、対象物106の特性は、412で決定される、検出された対象物(例えば、人、車両、構造など)のタイプ、対象物106の位置、および/または対象物106のベアリングを含み得る。さらに、特性は、機械102および/または作業器具122の動きに関連するベアリングおよび/または方向、対象物サイズ、対象物速度、および/または材料構成(反射率に基づく)を含み得る。特性は、追加的に、または代替的に、対象物106への作業器具122の近接を含み得る。より一般的には、特徴は、警報を出力するか、および/または機械102および/または作業器具122の移動を制限するかを決定する際に、衝突回避システム104によって使用され得る。
【0084】
420で、衝突回避システム104は、418で決定された特性(2)に少なくとも部分的に基づき、および/または414で、対象物が作業領域108内にあることを決定することに少なくとも部分的に基づき、実行する一つまたは複数の動作を決定し得る。図示したように、一つまたは複数のアクションは、422で、対象物106が作業領域108内にあることに関連付けられる警報を出力すること、および/または424で、機械102の動きを修正することを含みえる。例えば、対象物106が作業領域108内にあることに少なくとも部分的に基づき、警報システム112は、一つまたは複数の警報114を出力してもよく、および/または移動コントローラー154が、作業器具122の移動を制限し得る。警報114は、音声および/または視覚であるかに関わらず、オペレーターに作業領域108内の対象物106の検出を通知する働きをし得る。さらに、一部の実例では、移動コントローラー154は、オペレーターに、対象物106との接触を避けるために、作業器具122および/または機械102を前進させる(例えば、旋回、回転など)ことを禁止する。いくつかの実施例では、移動コントローラー154は、オペレーターが機械102および/または作業器具122を操作することを可能にし得るが、対象物106に向かう方向ではない。さらに、一部の実施例では、移動コントローラー154は、オペレーターが機械102および/または作業器具122を、対象物106内の特定の閾値まで操作することを可能にし得る。例えば、作業器具122の位置138を知っている場合、移動コントローラー154は、対象物106の特定の閾値内で作業器具122が移動することを防止し得る。
【0085】
420から、プロセス400は、408に戻り、それによって、プロセス400は、対象物検出のために画像データ150を受信し続けることができる。
【産業上の利用可能性】
【0086】
本開示の例示的なシステムおよび方法は、例えば、自動車、海洋車両、トラック、農業車両、建設機械、鉱山機械、および/または建設車両などのさまざまな機械に適用可能である。こうした機械は、衝突回避システム、作業領域システム、および/または機械オペレーター(例えば、機械上または機械から遠隔)、または自律機械を補助するように構成される警報システムを含んでもよく、他の機械、人員、および/または対象物との衝突を回避し得る。衝突回避システムは、対象物が機械の作業領域内に入ったときに機械オペレーターに警告するように構成される警報システムを含んでもよく、または通信可能に結合され得る。作業領域システムは、一つまたは複数のタスク(例えば、破片の積み込みおよび荷下ろし)を実施するために、オペレーターが機械を操作することを意図している領域を表す作業領域を画定し得る。一部の実施例では、オペレーターは、作業領域に対応する位置座標を記録するために、環境内のさまざまな位置に作業器具を配置し得る。オペレーターが作業領域の境界を確立した後、作業領域コントローラーは、位置座標を、座標空間内の作業領域と相関させ得る。オペレーターは、作業領域の境界外で、機械または機械に接続される作業器具を操作することを制限され得る。
【0087】
本開示の例示的な衝突回避システムは、作業領域の内外の対象物を識別して、オペレーターに対する迷惑を低減または排除し得る。作業領域を画定することによって、警報を、オペレーターに警報を発するために選択的に出力することができる。例えば、対象物が作業領域の外側で検出される場合、衝突回避システムは、機械が対象物に接触しないため、警報を出力することを控え得る。別の方法として、作業領域内で対象物が検出された場合、衝突回避システムは、警報を出力させ得る。一部の実施例では、移動コントローラーは、作業領域内の対象物を検出する衝突回避システムに基づき、作業器具の動作を抑制し得る。例えば、移動コントローラーは、作業器具の走行速度を遅くし、作業器具を停止し、および/または作業器具を固定位置に保持し得る。衝突回避システムによって、機械と周囲の対象物との間の接触または衝突のリスクが最小化される。さらに、衝突回避システムは、オペレーター疲労を低減するためにオペレーターへ出力される警報を低減してもよく、また衝突回避システムによる対象物の検出においてオペレーターを信頼させることもできる。
【0088】
本開示の態様は、上記の実施形態を参照して特に示され、記述されてきたが、開示された内容の趣旨および範囲から逸脱することなく、さまざまな追加的な実施形態が、開示された機械、システムおよび方法の改変によって意図されていることが理解されるであろう。こうした実施形態は、特許請求の範囲およびその任意の均等物に基づき決定される本開示の範囲内に収まることが理解されるべきである。
【国際調査報告】