特許第6235716号(P6235716)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ エスゼット ディージェイアイ テクノロジー カンパニー リミテッドの特許一覧

特許6235716ある環境内で無人航空機を制御する方法、及び、ある環境内で無人航空機を制御するシステム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6235716
(24)【登録日】2017年11月2日
(45)【発行日】2017年11月22日
(54)【発明の名称】ある環境内で無人航空機を制御する方法、及び、ある環境内で無人航空機を制御するシステム
(51)【国際特許分類】
   G05D 1/10 20060101AFI20171113BHJP
   B64C 13/18 20060101ALI20171113BHJP
   B64D 47/08 20060101ALI20171113BHJP
【FI】
   G05D1/10
   B64C13/18 Z
   B64D47/08
【請求項の数】36
【全頁数】59
(21)【出願番号】特願2016-533706(P2016-533706)
(86)(22)【出願日】2014年9月5日
(65)【公表番号】特表2017-501484(P2017-501484A)
(43)【公表日】2017年1月12日
(86)【国際出願番号】CN2014086007
(87)【国際公開番号】WO2016033797
(87)【国際公開日】20160310
【審査請求日】2016年6月2日
【早期審査対象出願】
(73)【特許権者】
【識別番号】513068816
【氏名又は名称】エスゼット ディージェイアイ テクノロジー カンパニー リミテッド
【氏名又は名称原語表記】SZ DJI TECHNOLOGY CO.,LTD
(74)【代理人】
【識別番号】110000877
【氏名又は名称】龍華国際特許業務法人
(72)【発明者】
【氏名】リウ、アン
(72)【発明者】
【氏名】モ、ウェイユ
(72)【発明者】
【氏名】リン、ヨンゲン
【審査官】 牧 初
(56)【参考文献】
【文献】 特開2012−140101(JP,A)
【文献】 特開2003−127994(JP,A)
【文献】 特開2014−041601(JP,A)
【文献】 国際公開第2003/004352(WO,A1)
【文献】 特開平02−241421(JP,A)
【文献】 特開平11−282530(JP,A)
【文献】 特開平08−241123(JP,A)
【文献】 特開2014−002603(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G05D 1/00−1/12
(57)【特許請求の範囲】
【請求項1】
ある環境内で無人航空機を制御する方法であって、
前記無人航空機に搭載される複数のセンサのうち少なくとも1つを使用して、前記無人航空機の初期の場所を決定するステップと、
前記無人航空機に前記環境内で航行させる第1信号を生成するステップと、
前記複数のセンサのうち少なくとも1つを使用して、前記環境に関連するセンシングデータを受信するステップと、
前記初期の場所へと戻る指示を受信するステップと、
前記センシングデータに基づいて、前記無人航空機に前記初期の場所へと戻らせる第2信号を生成するステップと
を含む、方法。
【請求項2】
前記センシングデータに基づいて、前記環境の少なくとも一部を表わす環境マップを生成するステップを更に含み、
前記第2信号を生成するステップは、前記環境マップに基づいて、前記無人航空機に前記初期の場所へと戻らせる前記第2信号を生成するステップを含む、
請求項1に記載の方法。
【請求項3】
前記環境マップはトポロジカルマップまたはメトリックマップを含む、請求項2に記載の方法。
【請求項4】
前記メトリックマップは、以下の、ポイントクラウド、3Dグリッドマップ、2Dグリッドマップ又は2.5Dグリッドマップのうち少なくとも1つを含む、請求項3に記載の方法。
【請求項5】
前記メトリックマップは占有グリッドマップを含む、請求項3または4に記載の方法。
【請求項6】
前記無人航空機は、飛行制限領域の存在を検出して、前記飛行制限領域の予め定められた距離内を飛行しないように構成される、請求項1から5の何れか一項に記載の方法。
【請求項7】
前記複数のセンサは全地球測位システム(GPS)センサ、ビジョンセンサ及び近接センサのうち少なくとも1つを含む、請求項1から6の何れか一項に記載の方法。
【請求項8】
前記近接センサは、以下の、ライダセンサ、超音波センサ又は飛行時カメラセンサのうち少なくとも1つを含む、請求項7に記載の方法。
【請求項9】
前記第2信号を生成するステップは、
前記複数のセンサのうち少なくとも1つを使用して、前記無人航空機の現在の場所を決定するステップと、
前記センシングデータに基づいて前記現在の場所から前記初期の場所までの経路を決定するステップと、
前記無人航空機に前記初期の場所へと戻る経路に沿って移動させる信号を生成するステップと
を含む、請求項1から8の何れか一項に記載の方法。
【請求項10】
前記経路を決定するステップは、前記現在の場所から前記初期の場所までの最短経路を決定するステップを含む、請求項9に記載の方法。
【請求項11】
前記経路を決定するステップは、前記環境内における1または複数の障害物を回避する、前記現在の場所から前記初期の場所までの経路を決定するステップを含む、請求項9または10に記載の方法。
【請求項12】
前記経路は、前記無人航空機が以前に通過した1または複数の部分を含む、請求項9から11の何れか一項に記載の方法。
【請求項13】
前記経路は、前記無人航空機が以前に通過した経路と異なる、請求項9から11の何れか一項に記載の方法。
【請求項14】
前記経路は、前記無人航空機の飛行経路である、請求項9から13の何れか一項に記載の方法。
【請求項15】
前記経路は、前記無人航空機の空間的位置および方向を含む、請求項14に記載の方法。
【請求項16】
前記経路は、前記無人航空機が以前に通過した複数の位置に対応する複数の通過点を含み、前記複数の通過点は、前記無人航空機が前記環境内を航行すると記録される、請求項9から11の何れか一項に記載の方法。
【請求項17】
前記複数の通過点は、前記無人航空機が前記環境内を航行すると、リアルタイムで記録される、請求項16に記載の方法。
【請求項18】
前記複数の通過点は、前記無人航空機が前記環境内を航行すると、予め定められた時間間隔で記録される、請求項16に記載の方法。
【請求項19】
前記複数の通過点は、リストデータ構造内に格納される、請求項16から18の何れか一項に記載の方法。
【請求項20】
前記無人航空機に前記経路に沿って移動させる前記信号を生成するステップは、
前記環境内で前記経路に沿って位置された障害物を検出するステップと、
前記障害物を回避すべく前記経路を変更するステップと、
前記無人航空機に前記変更された経路に沿って移動させる信号を生成するステップと
を含む、請求項9から19の何れか一項に記載の方法。
【請求項21】
ある環境内で無人航空機を制御するシステムであって、
前記無人航空機に搭載される複数のセンサと、
1または複数のプロセッサと
を備え、
前記1または複数のプロセッサは、
前記複数のセンサのうち少なくとも1つを使用して、前記無人航空機の初期の場所を決定し、
前記無人航空機に前記環境内で航行させる第1信号を生成し、
前記複数のセンサのうち少なくとも1つを使用して、前記環境に関連するセンシングデータを受信し、
前記初期の場所へと戻る指示を受信し、
前記センシングデータに基づいて、前記無人航空機に前記初期の場所へと戻るべく航行させる第2信号を生成するように構成される、
システム。
【請求項22】
前記1または複数のプロセッサは更に、
前記センシングデータに基づいて、前記環境の少なくとも一部を表わす環境マップを生成し、
前記環境マップに基づいて、前記無人航空機に前記初期の場所へと戻るべく航行させる第2信号を生成するように構成される、
請求項21に記載のシステム。
【請求項23】
ある環境内で無人航空機を制御する方法であって、
前記無人航空機に前記環境内で航行させる第1信号を生成するステップと、
前記無人航空機に搭載される複数のセンサを使用して、前記環境の少なくとも一部に関連するセンシングデータを受信するステップと、
前記センシングデータに基づいて、前記環境の少なくとも一部を表わす環境マップを生成するステップと、
前記環境マップを使用して、前記環境の一部に位置する1または複数の障害物を検出するステップと、
前記環境マップを使用して、前記無人航空機に前記1または複数の障害物を回避すべく航行させる第2信号を生成するステップと
を含む、方法。
【請求項24】
前記環境マップはトポロジカルマップまたはメトリックマップを含む、請求項23に記載の方法。
【請求項25】
前記メトリックマップは、以下の、ポイントクラウド、3Dグリッドマップ、2Dグリッドマップ又は2.5Dグリッドマップのうち少なくとも1つを含む、請求項24に記載の方法。
【請求項26】
前記メトリックマップは占有グリッドマップを含む、請求項24または25に記載の方法。
【請求項27】
前記センシングデータは、複数の異なる座標系に対するデータを含み、前記環境マップを生成するステップは、前記データを単一座標系へとマッピングするステップを含む、請求項23から26の何れか一項に記載の方法。
【請求項28】
ある環境内で無人航空機を制御する方法であって、
前記無人航空機に前記環境内で航行させる第1信号を生成するステップと、
前記無人航空機に搭載される複数のセンサを使用して、前記環境の少なくとも一部に関連するセンシングデータを受信するステップと、
前記センシングデータを使用して、前記環境の一部に位置する1または複数の障害物を検出するステップと、
前記センシングデータを使用して、前記無人航空機に前記1または複数の障害物を回避すべく航行させる第2信号を生成するステップと
を含み、
前記第1信号を生成するステップは、前記無人航空機用の飛行経路を生成するステップを含み、前記第2信号を生成するステップは、前記1または複数の障害物を回避すべく、前記センシングデータに基づいて前記飛行経路を変更するステップを含み、
前記飛行経路は、前記無人航空機を現在位置から前の位置へと向けるように構成される、
方法。
【請求項29】
前記無人航空機は、飛行制限領域の存在を検出して、前記飛行制限領域の予め定められた距離内を飛行しないように構成される、請求項23から28の何れか一項に記載の方法。
【請求項30】
前記複数のセンサは全地球測位システム(GPS)センサ、ジョンセンサ及び近接センサのうち少なくとも1つを含む、請求項23から29の何れか一項に記載の方法。
【請求項31】
前記近接センサは、以下の、ライダセンサ、超音波センサ又は飛行時カメラセンサのうち少なくとも1つを含む、請求項30に記載の方法。
【請求項32】
前記第1信号は、前記無人航空機と通信する遠隔端末から受信する複数の指示に基づいて生成される、請求項23から31の何れか一項に記載の方法。
【請求項33】
前記複数の指示は、ユーザによって前記遠隔端末に入力される、請求項32に記載の方法。
【請求項34】
前記第1信号は、前記無人航空機によって自律的に生成される、請求項23から31の何れか一項に記載の方法。
【請求項35】
ある環境内で無人航空機を制御するシステムであって、
前記無人航空機に搭載される複数のセンサと、
1または複数のプロセッサと
を備え、
前記1または複数のプロセッサは、
前記無人航空機に前記環境内で航行させる第1信号を生成し、
前記無人航空機に搭載される複数のセンサを使用して、前記環境の少なくとも一部に関連するセンシングデータを受信し、
前記センシングデータに基づいて、前記環境の少なくとも一部を表わす環境マップを生成し、
前記環境マップを使用して、前記環境の前記一部に位置する1または複数の障害物を検出し、
前記環境マップを使用して、前記無人航空機に前記1または複数の障害物を回避すべく航行させる第2信号を生成するように構成される、
システム。
【請求項36】
ある環境内で無人航空機を制御するシステムであって、
前記無人航空機に搭載される複数のセンサと、
1または複数のプロセッサと
を備え、
前記1または複数のプロセッサは、
前記無人航空機に前記環境内で航行させる第1信号を生成し、
前記無人航空機に搭載される複数のセンサを使用して、前記環境の少なくとも一部に関連するセンシングデータを受信し、
前記センシングデータを使用して、前記環境の前記一部に位置する1または複数の障害物を検出し、
前記センシングデータを使用して、前記無人航空機に前記1または複数の障害物を回避すべく航行させる第2信号を生成するように構成され、
前記第1信号を生成することは、前記無人航空機用の飛行経路を生成することを含み、前記第2信号を生成することは、前記1または複数の障害物を回避すべく、前記センシングデータに基づいて前記飛行経路を変更することを含み、
前記飛行経路は、前記無人航空機を現在位置から前の位置へと向けるように構成される、
システム。
【発明の詳細な説明】
【背景技術】
【0001】
無人航空機(UAV)のような無人機は、軍事用途および民間用途の多種多様な環境において、監視任務、偵察任務、探索任務を実行すべく使用され得る。UAVは、リモートユーザによって手動で制御され得、又は、半自律的態様で、或いは、完全自律的態様で動作し得る。そのようなUAVは、周囲環境からのデータを収集するように構成されたセンサを含み得る。
【0002】
環境データを取得する既存のアプローチは、場合によっては最善ではないかもしれない。例えば、環境データの精度は、データを収集すべく使用される特定のセンサタイプの性能に基づいて制限され得る。不精確な環境データは、UAV機能に悪影響を与え得る。
【発明の概要】
【0003】
本明細書で開示される複数の実施形態は、ある環境内で、複数のUAVのような複数の可動物体を制御するために改善された複数のアプローチを提供する。多くの実施形態において、UAVは、周囲環境に関する情報を収集すべく使用される複数の異なるセンサタイプを含む。複数の異なるセンサタイプの各々から取得されるデータは、2次元(2D)又は3次元(3D)の環境マップ等の複数の周囲環境を表現したものを生成する目的で組み合わせることができ、また、航行、物体認識および障害物回避を容易化すべく使用できる。有利にも、本明細書で説明される複数のアプローチは、種々の環境タイプ及び動作状況におけるUAV機能性を改善すべく使用できる。
【0004】
以下のように、1つの態様では、ある環境内で可動物体を制御する方法が提供される。当該方法は、可動物体によって運ばれる複数のセンサのうち少なくとも1つを使用して可動物体の初期の場所を決定する段階と、可動物体に当該環境内で航行させる第1信号を生成する段階と、複数のセンサのうち少なくとも1つを使用して当該環境に関連するセンシングデータを受信する段階と、センシングデータに基づいて当該環境の少なくとも一部を表わす環境マップを生成する段階と、初期の場所へと戻る指示を受信する段階と、環境マップに基づいて可動物体に初期の場所へと戻らせる第2信号を生成する段階とを含む。
【0005】
幾つかの実施形態において、可動物体は無人航空機である。無人航空機は、10kg又はそれより軽い重さを有していてもよい。無人航空機の最大寸法は、1.5m又はそれより小さくてもよい。無人航空機は、400m又はそれより低い高さで飛行するように構成できる。任意に、無人航空機は、飛行制限領域の存在を検出して、当該飛行制限領域の予め定められた距離内を飛行しないように構成できる。当該飛行制限領域は、空港であってもよい。当該無人航空機は、マルチロータ航空機であり得る。
【0006】
幾つかの実施形態において、当該環境は、屋内環境または低高度環境であってもよい。
【0007】
幾つかの実施形態において、複数のセンサは、全地球測位システム(GPS)センサ、ビジョンセンサ又は近接センサを含み得る。近接センサは、以下の、ライダセンサ、超音波センサ又は飛行時カメラセンサのうち少なくとも1つを含み得る。複数のセンサは、複数の異なるセンサタイプを含み得る。
【0008】
幾つかの実施形態において、環境マップは、トポロジカルマップ又はメトリックマップを含み得る。メトリックマップは、以下の、ポイントクラウド、3Dグリッドマップ、2Dグリッドマップ又は2.5Dグリッドマップのうち少なくとも1つを含み得る。任意に、メトリックマップは、占有グリッドマップを含み得る。
【0009】
幾つかの実施形態において、第2信号を生成する段階は、複数のセンサのうち少なくとも1つを使用して可動物体の現在の場所を決定する段階と、環境マップに基づいて現在の場所から初期の場所までの経路を決定する段階と、可動物体に初期の場所へと戻る経路に沿って移動させる信号を生成する段階とを含む。経路を決定する段階は、現在の場所から初期の場所までの最短経路を決定する段階を含むことができる。代替的に又は組み合わせて、経路を決定する段階は、当該環境内における1または複数の障害物を回避する、現在の場所から初期の場所までの経路を決定する段階を含むことができる。当該経路は、可動物体が以前に通過した1または複数の部分を含むことができる。当該経路は、可動物体が以前に通過した経路と異なり得る。任意に、当該経路は、可動物体の飛行経路であってもよい。当該経路は、可動物体の空間的位置及び方向を含むことができる。
【0010】
幾つかの実施形態において、当該経路は、可動物体が以前に通過した複数の位置に対応する複数の通過点を含み、複数の通過点は、可動物体が当該環境内を航行すると記録される。複数の通過点は、可動物体が当該環境内を航行すると、リアルタイムで記録できる。代替的に、複数の通過点は、可動物体が当該環境内を航行すると、予め定められた時間間隔で記録できる。複数の通過点は、リストデータ構造内に格納できる。
【0011】
幾つかの実施形態において、可動物体に当該経路に沿って移動させる信号を生成する段階は、当該環境内で当該経路に沿って位置された障害物を検出する段階と、当該障害物を回避すべく当該経路を変更する段階と、可動物体に変更された経路に沿って移動させる信号を生成する段階とを含むことができる。
【0012】
他の態様では、当該環境内で可動物体を制御するシステムが提供される。システムは、可動物体によって運ばれる複数のセンサと、1または複数のプロセッサとを含むことができる。1または複数のプロセッサは、個々に又は集合的に、複数のセンサのうち少なくとも1つを使用して可動物体の初期の場所を決定し、可動物体に当該環境内で航行させる第1信号を生成し、複数のセンサのうち少なくとも1つを使用して当該環境に関連するセンシングデータを受信し、センシングデータに基づいて当該環境の少なくとも一部を表わす環境マップを生成し、初期の場所へと戻る指示を受信し、環境マップに基づいて可動物体に初期の場所へと戻るべく航行させる第2信号を生成するように構成できる。
【0013】
他の態様では、ある環境内で無人航空機を制御する方法が提供される。当該方法は、無人航空機に当該環境内で航行させる第1信号を生成する段階と、無人航空機によって運ばれる複数のセンサを使用して当該環境の少なくとも一部に関連するセンシングデータを受信する段階と、センシングデータに基づいて当該環境の少なくとも一部を表わす環境マップを生成する段階と、環境マップを使用して当該環境の一部に位置する1または複数の障害物を検出する段階と、環境マップを使用して無人航空機に1または複数の障害物を回避すべく航行させる第2信号を生成する段階とを含む。
【0014】
幾つかの実施形態において、無人航空機は回転翼機である。無人航空機は、10kg又はそれより軽い重さを有してもよい。無人航空機の最大寸法は、1.5m又はそれより小さくてもよい。無人航空機は、400m又はそれより低い高さで飛行するように構成できる。任意に、無人航空機は、飛行制限領域の存在を検出して、当該飛行制限領域の予め定められた距離内を飛行しないように構成できる。当該飛行制限領域は、空港であってもよい。
【0015】
幾つかの実施形態において、当該環境は、屋内環境または低高度環境であってもよい。
【0016】
幾つかの実施形態において、複数のセンサは、全地球測位システム(GPS)センサ、ビジョンセンサ又は近接センサを含み得る。近接センサは、以下の、ライダセンサ、超音波センサ又は飛行時カメラセンサのうち少なくとも1つを含み得る。複数のセンサは、複数の異なるセンサタイプを含み得る。センシングデータは、複数の異なる座標系に対するデータを含むことができ、環境マップを生成する段階は、当該データを単一座標系へとマッピングする段階を含む。
【0017】
幾つかの実施形態において、環境マップは、トポロジカルマップ又はメトリックマップを含み得る。メトリックマップは、以下の、ポイントクラウド、3Dグリッドマップ、2Dグリッドマップ又は2.5Dグリッドマップのうち少なくとも1つを含み得る。任意に、メトリックマップは、占有グリッドマップを含み得る。
【0018】
幾つかの実施形態において、第1信号は、無人航空機と通信する遠隔端末から受信する複数の指示に基づいて生成される。複数の指示は、ユーザによって遠隔端末に入力され得る。代替的に、第1信号は、無人航空機によって自律的に生成され得る。
【0019】
幾つかの実施形態において、センシングデータは、複数の異なる座標系に対するデータを含み、環境マップを生成する段階は、データを単一座標系へとマッピングする段階を含む。第1信号を生成する段階は、無人航空機用の飛行経路を生成する段階を含むことができ、第2信号を生成する段階は、1または複数の障害物を回避すべく、環境マップに基づいて飛行経路を変更する段階を含むことができる。当該飛行経路は、無人航空機を現在位置から前の位置へと向けるように構成できる。
【0020】
他の態様では、ある環境内で無人航空機を制御するシステムが提供される。当該システムは、無人航空機によって運ばれる複数のセンサと、1または複数のプロセッサとを含む。1または複数のプロセッサは、個々に又は集合的に、無人航空機に当該環境内で航行させる第1信号を生成し、無人航空機によって運ばれる複数のセンサを使用して当該環境の少なくとも一部に関連するセンシングデータを受信し、センシングデータに基づいて当該環境の少なくとも一部を表わす環境マップを生成し、環境マップを使用して当該環境の一部に位置する1または複数の障害物を検出し、環境マップを使用して無人航空機に1または複数の障害物を回避すべく航行させる第2信号を生成するように構成できる。
【0021】
他の態様では、ある環境内で無人航空機を制御する方法が提供される。当該方法は、当該環境に関連する第1センシング信号を第1センサから受信して、当該環境に関連する第2センシング信号を第2センサから受信する段階と、第1センシング信号を使用する第1環境マップと第2センシング信号を使用する第2環境マップとを生成する段階と、第1環境マップ及び第2環境マップを組み合わせる段階とを含み、第1センサ及び第2センサは、複数の異なるセンサタイプであり、無人航空機によって運ばれ、第1環境マップ及び第2環境マップの各々は当該環境に対する障害物占有情報を含み、これにより、当該環境に対する障害物占有情報を含む最終環境マップを生成する。
【0022】
幾つかの実施形態において、当該方法は更に、少なくとも部分的に最終環境マップにおける障害物占有情報に基づいて、無人航空機に当該環境内で航行させる信号を生成する段階を含む。
【0023】
幾つかの実施形態において、無人航空機は回転翼機である。無人航空機は、10kg又はそれより軽い重さを有していてもよい。無人航空機の最大寸法は、1.5m又はそれより小さくてもよい。無人航空機は、400m又はそれより低い高さで飛行するように構成できる。任意に、無人航空機は、飛行制限領域の存在を検出して、当該飛行制限領域の予め定められた距離内を飛行しないように構成できる。当該飛行制限領域は、空港であってもよい。
【0024】
幾つかの実施形態において、当該環境は、屋内環境または低高度環境であってもよい。
【0025】
幾つかの実施形態において、複数のセンサは、全地球測位システム(GPS)センサ、ビジョンセンサ又は近接センサを含み得る。近接センサは、以下の、ライダセンサ、超音波センサ又は飛行時カメラセンサのうち少なくとも1つを含み得る。複数のセンサは、複数の異なるセンサタイプを含み得る。
【0026】
幾つかの実施形態において、環境マップは、トポロジカルマップ又はメトリックマップを含み得る。メトリックマップは、以下の、ポイントクラウド、3Dグリッドマップ、2Dグリッドマップ又は2.5Dグリッドマップのうち少なくとも1つを含み得る。任意に、メトリックマップは、占有グリッドマップを含み得る。
【0027】
幾つかの実施形態において、第1環境マップは、第1座標系に対して提供され、第2環境マップは、第1座標系と異なる第2座標系に対して提供される。第1座標系は全体座標系であり得、第2座標系は局所座標系であり得る。第1及び第2環境マップを組み合わせる段階は、第1及び第2環境マップを単一座標系に変換する段階を含むことができる。
【0028】
幾つかの実施形態において、第1センサのセンシング範囲は、第2センサのセンシング範囲と異なる。
【0029】
他の態様では、ある環境内で無人航空機を制御するシステムが提供される。当該システムは、無人航空機によって運ばれ、当該環境に関連する第1センシング信号を生成するように構成された第1センサと、無人航空機によって運ばれ、当該環境に関連する第2センシング信号を生成するように構成された第2センサと、1または複数のプロセッサとを含み、第2センサ及び第1センサは複数の異なるセンサタイプである。1または複数のプロセッサは、個々に又は集合的に、第1及び第2センシング信号を受信し、第1センシング信号を使用する第1環境マップと第2センシング信号を使用する第2環境マップとを生成し、第1及び第2環境マップを組み合わせるように構成され、第1及び第2環境マップの各々は当該環境に対する障害物占有情報を含み、これにより、当該環境に対する障害物占有情報を含む最終環境マップを生成する。
【0030】
他の態様では、ある環境内で無人航空機を制御する方法が提供される。当該方法は、無人航空機によって運ばれる複数のセンサのうち少なくとも1つを使用して無人航空機の初期の場所を決定する段階と、無人航空機に当該環境内で航行させる第1信号を生成する段階と、複数のセンサのうち少なくとも1つを使用して当該環境に関連するセンシングデータを受信する段階と、初期の場所へと戻る指示を受信する段階と、無人航空機に経路に沿って初期の場所へと戻らせる第2信号を生成する段階とを含み、複数のセンサのうち少なくとも1つが当該環境内で当該経路に沿って位置された障害物を検出した場合、当該経路は、当該障害物を回避すべく変更される。
【0031】
幾つかの実施形態において、無人航空機は回転翼機である。無人航空機は、10kg又はそれより軽い重さを有していてもよい。無人航空機の最大寸法は、1.5m又はそれより小さくてもよい。無人航空機は、400m又はそれより低い高さで飛行するように構成できる。任意に、無人航空機は、飛行制限領域の存在を検出して、当該飛行制限領域の予め定められた距離内を飛行しないように構成できる。当該飛行制限領域は、空港であってもよい。
【0032】
幾つかの実施形態において、当該環境は、屋内環境または低高度環境であってもよい。
【0033】
幾つかの実施形態において、複数のセンサは、全地球測位システム(GPS)センサ、ビジョンセンサ又は近接センサを含み得る。近接センサは、以下の、ライダセンサ、超音波センサ又は飛行時カメラセンサのうち少なくとも1つを含み得る。複数のセンサは、複数の異なるセンサタイプを含み得る。
【0034】
幾つかの実施形態において、環境マップは、トポロジカルマップ又はメトリックマップを含み得る。メトリックマップは、以下の、ポイントクラウド、3Dグリッドマップ、2Dグリッドマップ又は2.5Dグリッドマップのうち少なくとも1つを含み得る。任意に、メトリックマップは、占有グリッドマップを含み得る。
【0035】
幾つかの実施形態において、当該経路は、可動物体が以前に通過した1または複数の部分を含む。当該経路は、可動物体が以前に通過した経路と異なり得る。任意に、当該経路は、可動物体の飛行経路であってもよい。当該経路は、可動物体の空間的位置及び方向を含むことができる。
【0036】
他の態様では、ある環境内で無人航空機を制御するシステムが提供される。システムは、可動物体によって運ばれる複数のセンサと、1または複数のプロセッサとを含むことができる。1または複数のプロセッサは、個々に又は集合的に、無人航空機によって運ばれる複数のセンサのうち少なくとも1つを使用して可動物体の初期の場所を決定し、無人航空機に当該環境内で航行させる第1信号を生成し、複数のセンサのうち少なくとも1つを使用して当該環境に関連するセンシングデータを受信し、初期の場所へと戻る指示を受信し、無人航空機に経路に沿って初期の場所へと戻らせる第2信号を生成するように構成され、複数のセンサのうち少なくとも1つが当該環境内で当該経路に沿って位置された障害物を検出した場合、当該経路は、当該障害物を回避すべく変更される。
【0037】
他の態様では、ある環境のマップを生成する方法が提供される。当該方法は、無人航空機によって運ばれる1または複数のビジョンセンサから、当該環境に対する深度情報を含む第1センシングデータを受信する段階と、無人航空機によって運ばれる1または複数の近接センサから、当該環境に対する深度情報を含む第2センシングデータを受信する段階と、第1センシングデータ及び第2センシングデータを使用して、当該環境に対する深度情報を含む環境マップを生成する段階とを含む。
【0038】
幾つかの実施形態において、第1センシングデータ及び第2センシングデータの各々は、複数のピクセルを有する少なくとも1つの画像を含み、複数のピクセルの各ピクセルは、2次元画像座標及び深度値に関連付けられている。複数のピクセルの各ピクセルは、色値と関連付けられ得る。第1センシングデータ及び第2センシングデータの各々は、当該環境内の1または複数の物体に対するシルエット情報を含む。
【0039】
幾つかの実施形態において、当該方法は更に、少なくとも部分的に環境マップにおける深度情報に基づいて、無人航空機に当該環境内を航行させる信号を生成する段階を含む。
【0040】
幾つかの実施形態において、無人航空機は回転翼機である。無人航空機は、10kg又はそれより軽い重さを有していてもよい。無人航空機の最大寸法は、1.5m又はそれより小さくてもよい。無人航空機は、400m又はそれより低い高さで飛行するように構成できる。任意に、無人航空機は、飛行制限領域の存在を検出して、当該飛行制限領域の予め定められた距離内を飛行しないように構成できる。当該飛行制限領域は、空港であってもよい。
【0041】
幾つかの実施形態において、当該環境は、屋内環境または低高度環境であってもよい。
【0042】
幾つかの実施形態において、1または複数のビジョンセンサは、カメラを1つだけ含む。代替的に、1または複数のビジョンセンサは、2又は3以上のカメラを含むことができる。1または複数の近接センサは、少なくとも1つの超音波、又は、少なくとも1つのライダセンサを含むことができる。第1センシングデータは、第1セットの深度画像を含むことができ、第2センシングデータは、第2セットの深度画像を含むことができる。環境マップを生成する段階は、第1セットの深度画像に存在する第1の複数の特徴点を識別する段階と、第2セットの深度画像に存在する第2の複数の特徴点を識別する段階と、第1の複数の特徴点と第2の複数の特徴点との間の対応を決定する段階と、当該対応に基づいて第1セットの深度画像と第2セットの深度画像とを組み合わせることによって環境マップを生成する段階とを含むことができ、第2の複数の特徴点の各々は、第1の複数の特徴点の1つに対応する。
【0043】
幾つかの実施形態において、第1センシングデータは、第1座標系に対して提供され、第2センシングデータは、第1座標系と異なる第2座標系に対して提供される。環境マップを生成する段階は、第3座標系に対して第1及び第2センシングデータを表現する段階を含むことができる。第3座標系は、第1座標系または第2座標系のいずれか一方であり得る。代替的に、第3座標系は、第1座標系および第2座標系と異なり得る。
【0044】
幾つかの実施形態において、環境マップは、トポロジカルマップ又はメトリックマップを含み得る。メトリックマップは、以下の、ポイントクラウド、3Dグリッドマップ、2Dグリッドマップ又は2.5Dグリッドマップのうち少なくとも1つを含み得る。任意に、メトリックマップは、占有グリッドマップを含み得る。
【0045】
他の態様では、ある環境のマップを生成するシステムが提供される。当該システムは、無人航空機によって運ばれ、当該環境に対する深度情報を含む第1センシングデータを生成するように構成された1または複数のビジョンセンサと、無人航空機によって運ばれ、当該環境に対する深度情報を含む第2センシングデータを生成するように構成された1または複数の近接センサと、1または複数のプロセッサとを含むことができる。1または複数のプロセッサは、個々に又は集合的に、第1及び第2センシングデータを受信し、第1及び第2センシングデータを使用して、当該環境に対する深度情報を含む環境マップを生成するように構成できる。
【0046】
本発明の複数の異なる態様は、個々に、集合的に、又は、互いに組み合わせて評価できるということが、理解されるべきである。本明細書で説明される本発明の様々な態様は、以下で明らかにされる任意の複数の特定用途に対して適用してもよく、又は、複数の可動物体の任意の他の複数のタイプに対して適用してもよい。航空機についての本明細書中のいずれの説明も、任意の機体のような任意の可動物体に適用されて使用され得る。加えて、空中の動き(例えば飛行)に関連して本明細書で開示される複数のシステム、複数の装置および複数の方法はまた、地上若しくは水上での動き、水中での動き、又は、宇宙空間での動き等の、他の複数のタイプの動きに関連して適用してもよい。更に、回転翼または回転翼組立体についての本明細書中のいずれの説明も、回転によって推進力を生成するように構成された任意の推進システム、装置または機構(例えばプロペラ、車輪、車軸)に適用されて使用され得る。
【0047】
本願発明の他の複数のオブジェクト及び特徴は、明細書、特許請求の範囲および添付の図面をレビューすることによって明らかになるだろう。
【0048】
[参照による組み込み]
本明細書で述べられる全ての刊行物、特許および特許出願は、あたかも、個々の刊行物、特許および特許出願の各々が参照により組み込まれるべく個別具体的に示されているのと同じ程度に、参照により本明細書に組み込まれる。
【図面の簡単な説明】
【0049】
本発明の複数の新規な特徴は、特に添付の特許請求の範囲で明らかにされる。本発明の複数の原理が利用される複数の例示的実施形態を明らかにしている以下の詳細な説明と、添付の図面とを参照することによって、本願発明の複数の特徴および利点のより良い理解が得られるだろう。
図1A】複数の実施形態による、屋外環境で動作するUAVを図示している。
図1B】複数の実施形態による、屋内環境で動作するUAVを図示している。
図2A】複数の実施形態による、センサフュージョンを使用してUAV姿勢を推定するスキームを図示している。
図2B】複数の実施形態による、センサフュージョンを使用してUAV位置および速度を推定するスキームを図示している。
図3A】複数の実施形態による、センサフュージョンを使用して環境マッピングするスキームを図示している。
図3B】複数の実施形態による、センサフュージョンを使用してある環境のマップを生成する方法を図示している。
図4】複数の実施形態による、複数の異なるセンサタイプを使用して環境マッピングする方法を図示している。
図5】複数の実施形態による、複数の障害物を回避するようにUAVを制御する方法を図示している。
図6】複数の実施形態による、初期の場所へと戻るようにUAVを制御する方法を図示している。
図7】複数の実施形態による、複数の障害物を回避する一方で、初期の場所へと戻るようにUAVを制御する方法を図示している。
図8A】複数の実施形態による、複数の通過点を使用して初期の場所へと戻るようにUAVを制御するアルゴリズムを図示している。
図8B】複数の実施形態による、複数の通過点を使用して初期の場所へと戻るようにUAVを制御するアルゴリズムを図示している。
図9A】複数の実施形態による、トポロジマップを使用して目標の場所へと戻るようにUAVを制御するアルゴリズムを図示している。
図9B】複数の実施形態による、トポロジマップを使用して目標の場所へと戻るようにUAVを制御するアルゴリズムを図示している。
図10】複数の実施形態による、UAVを図示している。
図11】複数の実施形態による、支持機構および積載物を含む可動物体を図示している。
図12】複数の実施形態による、可動物体を制御するシステムを図示している。
【発明を実施するための形態】
【0050】
本開示によって、無人航空機(UAV)のような複数の可動物体を制御する複数のシステム及び方法が提供される。幾つかの実施形態において、UAVは、環境データを収集する複数のセンサを運ぶように適合され得る。複数のセンサの幾つかは、異なるタイプであってもよい(例えば、近接センサと組み合わせて使用されるビジョンセンサ)。複数のセンサによって取得されるデータは、周囲環境を表わす環境マップを生成すべく、組み合わされ得る。幾つかの実施形態において、環境マップは、複数の物体または複数の障害物などの、当該環境内の複数の物体の場所に関する情報を含むことができる。UAVは、様々な動作を実行すべく生成されたマップを使用でき、それらの幾つかは、半自動化または完全自動化されていてもよい。例えば、幾つかの実施形態において、環境マップは、自身の現在の場所から目標の場所へと航行するUAV用の飛行経路を自動的に決定すべく使用できる。別の例として、環境マップは、1または複数の障害物の空間的配置を決定すべく使用でき、これにより、UAVが複数の障害物回避操作を実行することを可能にできる。有利にも、本明細書で開示される環境データを収集する複数のセンサタイプを使用することによって、様々な環境及び動作状況においてでさえも、環境マッピングの精度を改善できる。これにより、航行および障害物回避等の複数のUAV機能性のロバスト性および柔軟性を高めることができる。
【0051】
本明細書で提供される複数の実施形態は、様々なタイプのUAVに適用できる。例えば、UAVは、10kg又はそれより軽い重さを有する、及び/又は、1.5m又はそれより小さい最大寸法を有する、小型のUAVであってもよい。幾つかの実施形態において、UAVは、複数のプロペラ(例えばクアッドコプター)によって空中で動くべく推進するマルチロータ航空機のような回転翼機であってもよい。複数のUAVの複数の他の例、及び、本明細書で提示される複数の実施形態と共に使用するのに適した他の複数の可動物体が、以下で更に詳細に説明される。
【0052】
本明細書で説明される複数のUAVは、完全に自律的に(例えば、搭載制御装置のような適切なコンピューティングシステムによって)、半自律的に、又は、手動で(例えばヒューマンユーザによって)、操作され得る。UAVは、適切なエンティティ(例えばヒューマンユーザまたは自律制御システム)から複数のコマンドを受信して、1または複数の動作を実行することによって、そのような複数のコマンドに応答することができる。例えば、UAVは、地上から離陸し、空中で動き(例えば並進の最大3自由度まで、および、回転の最大3自由度まで)、目標の場所へと又は一連の目標の場所へと移動し、空中でホバリングし、地上に着陸する等を行うべく、制御され得る。別の例として、UAVは、特定の速度並びに/若しくは加速度で(例えば並進の最大3自由度まで、および、回転の最大3自由度まで)、又は、特定の移動経路に沿って移動すべく、制御され得る。更に、複数のコマンドは、本明細書で説明される複数のコンポーネント(例えば、複数のセンサ、複数のアクチュエータ、複数の推進ユニット、積載物等)のような1または複数のUAVコンポーネントを制御すべく使用され得る。例えば、幾つかのコマンドは、カメラのようなUAV積載物の位置、方向及び/又は動作を制御すべく使用され得る。任意に、UAVは、1または複数の予め定められた動作規則に従って動作するように構成できる。複数の動作規則は、UAVの位置(例えば、緯度、経度、高度)、方向(例えば、ロール、ピッチ、ヨー)、速度(例えば、並進速度及び/又は角速度)、及び/又は、加速度(例えば、並進加速度及び/又は角加速度)等の、UAVの任意の適切な態様を制御すべく使用されてもよい。例えば、UAVが閾値高さを超えて飛行することを許可されないように、複数の動作規則は設計され得、例えば、UAVは地上から400m又はそれより低い高さで飛行するように構成できる。幾つかの実施形態において、複数の動作規則は、UAV安全性を改善して安全性に関する事故を防止するための、自動化された複数の機構を提供すべく適合され得る。例えば、UAVは、飛行制限領域(例えば空港)を検出し、飛行制限領域の予め定められた距離内を飛行しないように構成でき、これにより、航空機および他の複数の障害物との複数の潜在的衝突を避けることができる。
【0053】
さて、図面に目を向けると、図1Aは、複数の実施形態による、屋外環境100内で動作するUAV102を図示している。屋外環境100は、都市の環境、郊外の環境、或いは、田園の環境、又は、少なくとも部分的に建物内にない任意の他の環境であってもよい。UAV102は、相対的に地上104の近くで(例えば低高度で)、又は、相対的に地上104から離れて(例えば高高度で)、操作されてもよい。例えば、地上からおよそ10mと等しい又はそれ未満の高さで動作するUAV102は、低高度であると考えられてもよく、その一方で、地上からおよそ10mと等しい又はそれより高い高さで動作するUAV102は、高高度であると考えられてもよい。
【0054】
幾つかの実施形態において、屋外環境100は、1または複数の障害物108a―dを含む。障害物は、UAV102の動きを妨げ得る、任意の物体またはエンティティを含んでもよい。幾つかの障害物は、例えば、複数の建物、複数の地上輸送体(例えば複数の車、複数の自動二輪車、複数のトラック、複数の自転車)、複数の人間、複数の動物、複数の植物(例えば複数の木、複数の茂み)、及び、他の複数の人工の構造若しくは自然の構造のように、地上104上に位置してもよい(例えば障害物108a、108d)。幾つかの障害物は、地上104、水、複数の人工建造物、又は、複数の自然の構造と接触し、及び/又は、それらによって支持されてもよい。代替的に、複数の航空機(例えば、複数の飛行機、複数のヘリコプタ、複数の熱気球、他の複数のUAV)、又は、複数の鳥を含めた幾つかの障害物は、空中106に完全に配置されてもよい(例えば障害物108b、108c)。空中の複数の障害物は、地上104若しくは水によって支持されなくてもよく、又は、任意の複数の自然の構造若しくは複数の人工建造物によって支持されなくてもよい。地上104上に配置される障害物は、空中106の中に実質的に延在する複数の部分を含んでもよい(例えば、複数のタワー、複数の超高層ビル、複数の外灯柱、複数の無線塔、複数の送電線、複数の木などの複数の高層構造物)。
【0055】
図1Bは、複数の実施形態による、屋内環境150内で動作するUAV152を図示している。屋内環境150は、床156、1または複数の壁部158、及び/又は、天井若しくは屋根160を有する建物154の内部にある。例示的な複数の建物は、例えば、複数の家、複数のアパート、複数のオフィス、複数の製造施設、複数の貯蔵施設等の、居住用、商業用、又は、工業用の複数の建物を含む。建物154の内部は、UAV152が内部空間に制限されるように、床156、複数の壁部158、及び、天井160によって完全に包囲されてもよい。逆に、床156、複数の壁部158、又は、天井160のうち少なくとも1つは無くてもよく、これにより、UAV152が内側から外側へと飛行すること、又は、その逆にすることを可能にできる。代替的に又は組み合わせて、1または複数の開口部164が、床156、複数の壁部158、又は、天井160において形成されてもよい(例えばドア、窓、天窓)。
【0056】
屋外環境100と同様に、屋内環境150は、1または複数の障害物162a―dを含むことができる。幾つかの障害物は、例えば、家具、複数の電気製品、複数の人間、複数の動物、複数の植物、又は、他の複数の人工物体若しくは自然物体のように、床156上に位置してもよい(例えば障害物162a)。逆に、幾つかの障害物は、複数の鳥又は他の複数のUAVのように、空中に配置されてもよい(例えば障害物162b)。屋内環境150にある幾つかの障害物は、他の複数の構造又は物体によって支持され得る。複数の障害物はまた、複数の照明器具、複数の天井扇風機、複数の梁、又は、他の複数の天井取り付け型の電気製品若しくは構造のように、天井160に取り付けられてもよい(例えば障害物162c)。幾つかの実施形態において、複数の障害物は、複数の照明器具、複数の棚、複数のキャビネット、及び、他の複数の壁部取り付け型の電気製品若しくは構造のように、壁部158に取り付けられてもよい(例えば障害物162d)。明白であるが、建物154の複数の構造的コンポーネントはまた、床156、複数の壁部158および天井160を含めて、複数の障害物であるとも考えられ得る。
【0057】
本明細書で説明される複数の障害物は、実質的に固定型であってもよく(例えば、複数の建物、複数の植物、複数の構造)、又は、実質的に可動型であってもよい(例えば、複数の人間、複数の動物、複数の機体、又は、移動可能な他の複数の物体)。幾つかの障害物は、固定型および可動型の複数のコンポーネントの組み合わせを含んでもよい(例えば風車)。複数の移動障害物または複数の障害物コンポーネントは、予め定められた若しくは予測可能な経路若しくはパターンに従って移動してもよい。例えば、車の動きは、(例えば道路形状に従って)相対的に予測可能であってもよい。代替的に、幾つかの移動障害物または障害物コンポーネントは、ランダムな軌跡に沿って移動してもよく、そうでなければ、予測不可能な軌跡に沿って移動してもよい。例えば、動物のような生物は、相対的に予測不可能な態様で移動してもよい。
【0058】
安全で効率的な動作を保証する目的で、複数の障害物のような複数の環境物を検出して識別する複数の機構をUAVに提供することが有益であってもよい。加えて、複数の陸標および複数の特徴などの複数の環境物を認識することによって、特にUAVが半自律的または完全自律的な態様で動作している場合における航行を容易化することができる。更に、周囲の複数の環境物に対する自身の空間的関係と同様に、当該環境内におけるUAVの正確な場所を熟知することは、多種多様な複数のUAV機能性にとって有益であり得る。
【0059】
従って、本明細書で説明される複数のUAVは、UAV状態、周囲環境または当該環境内の複数の物体に関する情報などの、相対的なデータを収集するように構成された1または複数のセンサを含むことができる。本明細書で開示される複数の実施形態で使用するのに適した例示的な複数のセンサは、複数の位置センサ(例えば、複数の全地球測位システム(GPS)センサ、場所の三角測量が可能な複数のモバイル装置送信機)、複数のビジョンセンサ(例えば、複数のカメラのような、可視赤外線若しくは紫外線を検出可能な複数の撮像装置)、複数の近接度若しくは範囲センサ(例えば、複数の超音波センサ、複数のライダ飛行時若しくは深度カメラ)、複数の慣性センサ(例えば、複数の加速度計、複数のジャイロスコープ、複数の慣性測定装置(IMU))、複数の高度センサ、複数の姿勢センサ(例えばコンパス)、複数の圧力センサ(例えば複数の気圧計)、複数の音声センサ(例えば複数のマイク)、又は、複数のフィールドセンサ(例えば複数の磁力計、複数の電磁場センサ)を含む。例えば1つ、2つ、3つ、4つ、5つ、又は、それより多くのセンサのように、複数のセンサの任意の適切な数および組み合わせを使用することができる。任意に、データは、複数の異なるタイプ(例えば2つ、3つ、4つ、5つ、又は、それより多くのタイプ)のセンサから受信できる。複数の異なるタイプのセンサは、複数の異なるタイプの信号若しくは情報(例えば、位置、方向、速度、加速度、近接度、圧力等)を測定してもよく、及び/又は、データを取得する複数の異なるタイプの複数の測定技術を利用してもよい。例えば、複数のセンサは、複数の能動センサ(例えば、自身のエネルギー源からのエネルギーを生成および測定する複数のセンサ)と、複数の受動センサ(例えば入手可能なエネルギーを検出する複数のセンサ)との任意の適切な組み合わせを含んでもよい。別の例として、幾つかのセンサは、全体座標系の点から提供される絶対測定データ(例えば、GPSセンサによって提供される位置データ、コンパス又は磁力計によって提供される姿勢データ)を生成してもよく、その一方で、他の複数のセンサは、局所座標系の点から提供される相対測定データ(例えば、ジャイロスコープによって提供される相対角速度、加速度計によって提供される相対並進加速度、ビジョンセンサによって提供される相対姿勢情報、超音波センサ、ライダまたは飛行時カメラによって提供される相対距離情報)を生成してもよい。場合によっては、局所座標系は、UAVに対して画定されるボディー座標系であってもよい。
【0060】
本明細書で説明される複数のセンサは、UAVによって運ばれ得る。センサは、UAVの輸送本体の上方、下方、(複数の)側面上、又は、その内側など、UAVの任意の適切な部分に位置することができる。UAVの空間的配置及び/又は動きが複数のセンサの空間的配置及び/又は動きに対応するように、幾つかのセンサはUAVに機械的に連結され得る。センサが取り付けられるUAVの部分に対してセンサが動かないように、センサは、強固な連結によってUAVに連結され得る。代替的に、センサとUAVとの間の連結は、UAVに対するセンサの動きを可能にし得る。当該連結は、永久的連結または非永久的(例えば解放自在な)連結であり得る。適切な複数の連結方法は、複数の接着、ボンディング、溶接、及び/又は、複数の締結(例えば、複数のねじ、くぎ、ピン等)を含むことができる。任意に、センサは、UAVの一部と一体的に形成され得る。更に、センサは、本明細書で議論される複数の実施形態のように、センサによって収集されるデータが、UAVの様々な機能(例えば、航行、制御、推進、ユーザ又は他の装置との通信など)に使用されることを可能にすべく、UAVの一部(例えば、処理ユニット、制御システム、データストレージ)と電気的に連結され得る。
【0061】
複数のセンサは、UAV、周囲環境、又は、当該環境内の複数の物体に関するデータのような、様々なタイプのデータを収集するように構成できる。例えば、複数のセンサの少なくとも幾つかは、UAVの状態に関するデータを提供するように構成してもよい。センサによって提供される状態情報は、UAVの空間的配置に関する情報(例えば、経度、緯度及び/又は高度などの場所又は位置情報、ロール、ピッチ及び/又はヨーなどの方向又は姿勢情報)を含むことができる。状態情報はまた、UAVの動きに関する情報(例えば、並進速度、並進加速度、角速度、角加速度など)を含むことができる。センサは、例えば、最大6自由度まで(例えば、位置及び/又は並進の3自由度、方向及び/又は回転の3自由度)に関するUAVの空間的配置及び/又は動きを決定するように構成できる。全体座標系に対する、又は、局所座標系に対する(例えばUAV又は他のエンティティに対する)、状態情報が提供されてもよい。例えば、センサは、UAVとUAVを制御するユーザとの間の距離、又は、UAVとUAV用の飛行開始地点との間の距離を決定するように構成できる。
【0062】
複数のセンサによって取得されるデータは、様々なタイプの環境情報を提供してもよい。例えば、センサデータは、屋内環境、屋外環境、低高度環境、又は、高高度環境などの環境タイプを示すものであってもよい。センサデータはまた、天気(例えば、晴れ、雨、雪)、複数の視界状況、風速、時刻等を含む、現在の複数の環境状況に関する情報を提供してもよい。更に、センサによって収集される環境情報は、本明細書で説明される複数の障害物のような、当該環境内の複数の物体に関する情報を含んでもよい。障害物情報は、当該環境内の複数の障害物の数、密集度、ジオメトリ及び/又は空間的配置に関する情報を含んでもよい。
【0063】
幾つかの実施形態において、複数のセンシング結果は、複数のセンサによって取得されるセンサデータを組み合わせることによって生成され、これはまた、「センサフュージョン」として知られている。例えば、センサフュージョンは、複数のGPSセンサ、慣性センサ、ビジョンセンサ、ライダ、複数の超音波センサ等を含む、複数の異なるセンサタイプによって取得されるセンシングデータを組み合わせるべく、使用できる。別の例として、センサフュージョンは、絶対測定データ(例えば、GPSデータのような全体座標系に対して提供されるデータ)、及び、相対測定データ(例えば、ビジョンセンシングデータ、ライダデータ、又は、超音波センシングデータなどの、局所座標系に対して提供されるデータ)などの、異なるタイプのセンシングデータを組み合わせるべく使用できる。センサフュージョンは、個別のセンサタイプに関連付けられる複数の限定または複数の誤差を補償すべく使用でき、これにより、最終センシング結果の精度および信頼性を改善できる。
【0064】
図2Aは、多数の実施形態による、センサフュージョンを使用してUAV姿勢を推定するスキーム200を図示している。図2Aの実施形態は、UAVのヨー角を推定することに向けられているけれども、スキーム200で説明されるアプローチは、UAVのロール角又はピッチ角を推定することにも適用できるということが理解されるべきである。スキーム200は、IMU202と、少なくとも1つの相対方向センサ204と、磁力計206とを利用する。IMU202および磁力計206は、UAVのヨー角の各絶対推定値208、210を提供すべく使用できる。相対方向センサ204は、全体座標系よりもむしろ局所座標系(例えば、UAVボディー座標系)に関する姿勢情報を提供する、任意のセンサであり得る。例示的な複数の相対方向センサは、複数のビジョンセンサ、ライダ、複数の超音波センサ、及び、複数の飛行時若しくは深度カメラを含む。相対方向センサデータは、ヨーレート212および相対ヨー角214の推定値を提供する目的で、分析できる。
【0065】
相対方向センサ204が一連の画像(「複数のフレーム」)をキャプチャするように構成されたビジョンセンサである複数の実施形態において、ヨーレート212およびヨー角214は、シーケンスから選択される1または複数の画像(「複数のキーフレーム」)を使用して決定できる。複数のキーフレームは、任意の適切な方法を使用して選択できる。例えば、複数のキーフレームは、複数のキーフレーム間における、予め定められた複数の時間間隔、予め定められた複数の距離間隔、予め定められた複数の配置間隔、予め定められた複数の姿勢間隔、又は、予め定められた複数の平均視差間隔などの、予め定められた複数の間隔で選択できる。別の例として、複数のキーフレームは、複数の連続キーフレーム間の複数の関係、例えば、複数のキーフレーム間で重複している領域の量に基づいて選択できる。任意に、複数のキーフレームは、本明細書で提供される複数のパラメータの複数の組み合わせに基づいて選択できる。幾つかの実施形態において、複数のキーフレームの少なくとも幾つかは、複数の連続画像フレームを含んでもよい。代替的に、複数のキーフレームは、任意の複数の連続画像フレームを含まなくてもよい。後者のアプローチは、複数の連続キーフレームに存在する複数の推定誤差の広がり(プロパゲーション)を減少する点で有利であってもよい。
【0066】
与えられた時間でのヨーレート212およびヨー角214は、1つ、2つ、3つ、4つ、又は、それより多くのキーフレームなど、任意の適切な数のキーフレームを使用して推定できる。ヨーレート212およびヨー角214は、画像解析のような任意の適切なアプローチを使用して決定できる。幾つかの実施形態において、異なるヨー角で同じシーンをキャプチャする2つのキーフレームは、相違すると仮定してもよい。異なる複数のキーフレーム間におけるヨー角は、複数の数学モデル化技術によって決定できる。例えば、複数のキーフレーム間の差は、複数のキーフレームの両方に存在する複数の特徴点を識別してマッチングすることによって決定できる。複数のキーフレームの両方における複数の特徴点の複数の座標に基づいて、2つのキーフレームに対する相似変換行列を決定でき、ヨー角212は相似変換行列から取得できる。ヨー角214、及び、2つのキーフレーム間の時間間隔を使用して、次にヨーレート212を算出できる。
【0067】
センサ202、204、206によって提供される絶対推定値及び相対推定値は、最終ヨー角結果218を提供する目的で、(例えば拡張カルマンフィルタ216、又は、他のタイプのカルマンフィルタを使用して)結合できる。複数の推定値を結合する目的で、任意の適切な方法を実施できる。例えば、ヨーレート推定値212の積分は、相対ヨー角推定値214を更新する目的で、相対ヨー角推定値214と結合できる。相対ヨー角推定値214は、UAVのヨー角を決定すべく、IMU202および磁力計206からの絶対ヨー角推定値208、210と各々結合できる。最終ヨー角結果218は、(例えばUAVのボディー座標系に対する)相対ヨー角として、又は、絶対ヨー角として、提供できる。以前に説明したように、複数の異なるタイプの測定データを組み合わせることによって、最終結果218の精度が改善されてもよい。例えば、磁力計206によって提供されるデータが、(例えば複数の外部磁場に起因して)不十分である複数の状況において、IMU202及び/又は相対方向センサ204からのデータを使用することによって、磁力計の誤差が最終結果に影響を与える範囲を減少できる。
【0068】
図2Bは、複数の実施形態による、センサフュージョンを使用してUAV位置及び速度を推定するスキーム250を図示している。スキーム250は、IMU252と、少なくとも1つの相対位置及び/又は速度センサ254と、GPSセンサ256とを利用する。IMU252は、UAV加速度258の推定値を提供できる。GPSセンサ256は、UAV260の絶対位置の推定値を提供できる。相対位置及び/又は速度センサ254(例えばビジョンセンサ、ライダ、超音波センサ、飛行時若しくは深度カメラ、又は、相対位置及び/又は速度情報を提供する任意の他のセンサ)は、UAV速度262および相対UAV位置264の推定値を取得すべく使用できる。図2Aの相対方向センサ204と同様に、相対位置及び/又は速度センサ254がビジョンセンサである複数の実施形態において、速度及び相対位置推定値262、264は、ビジョンセンサによって取得される1または複数のキーフレームに基づいて決定できる。例えば、複数の連続キーフレーム間の複数の差を算定すべく、画像解析および数学モデル化が使用でき、これにより、これらの差を生成するであろうUAVの複数の並進移動を決定できる。次に、複数のキーフレーム間で経過した時間に基づいて、UAV速度を推定できる。
【0069】
センサ252、254および256によって提供される複数の推定値は、拡張カルマンフィルタ266、又は、他の適切なカルマンフィルタタイプを使用して結合でき、これにより、UAV用の最終位置及び速度結果268を取得できる。例えば、加速度推定値258の積分は、UAV速度を決定する目的で、UAV速度推定値262と結合できる。決定されたUAV速度の積分は、UAV位置を決定する目的で、相対位置推定値264および絶対位置推定値260と結合できる。位置及び速度結果268は、局所又は全体座標系に対して表現できる。
【0070】
任意に、カルマンフィルタ266とのセンサフュージョンはまた、相対速度及び/又は位置センサ254の局所座標系と、IMU252及びGPS256の全体座標系との間における変換のためのキャリブレーションデータを決定すべく使用できる。キャリブレーションデータは、IMU252及び/又はGPS256によって取得される絶対センシングデータを、センサ254によって取得される相対センシングデータ上へとマッピングすべく使用でき、又は、その逆もできる。例えば、IMU252及び/又はGPS256は、複数の絶対座標においてUAVが移動する経路を決定すべく使用でき、相対センサ254は、複数の相対座標においてUAVが移動する経路を示すセンシングデータを取得すべく使用できる。絶対経路データを相対経路データに投影するのに必要とされる複数のキャリブレーションパラメータ(例えば、スケーリングファクタ、回転、並進)を決定すべく、本明細書で提供される複数のセンサフュージョン方法を適用でき、その逆も可能である。例えば、複数のキャリブレーションパラメータと、絶対経路データと、相対経路データとの間の関係は、数学モデル化によって表わすことができる。次に、複数のキャリブレーションパラメータを求めることを目的として、複数のセンサによって取得される絶対経路データ及び相対経路データをモデルの中に入力できる。本明細書で説明される絶対経路データ及び相対経路データの組み合わせは、経路決定の精度を高めるべく使用でき、これにより、UAV航行を改善できる。
【0071】
環境情報だけでなく、UAV状態の複数のより精確な推定値を提供すべく、本明細書で説明される複数のセンサフュージョンアプローチを適用できる。幾つかの実施形態において、環境情報を推定すべくUAV状態情報が使用され、その逆にも使用されるように、UAV状態情報および環境情報の推定値は互いに依存していてもよい。例えば、幾つかのセンサは、絶対環境情報
【数1】
を取得すべく使用でき、その一方で、他の複数のセンサは、相対環境情報
【数2】
を取得すべく使用できる。絶対環境情報は、関係
【数3】
に基づいて、相対環境情報に投影できる(又は、その逆も可能である)。ここで、
【数4】
は、全体座標系と局所座標系との間での回転行列を表わし、
【数5】
は、全体座標系の原点から局所座標系の原点への並進ベクトルを表わしている。幾つかの実施形態において、
【数5】
及び
【数4】
をUAV位置及び方向に基づいて各々決定できるように、
【数2】
がUAVのボディー座標系に関して提供される。従って、UAV位置及び方向情報は、絶対環境データ及び相対環境データを組み合わるべく使用でき、これにより、環境情報の推定値を生成できる。逆に、絶対環境データ及び相対環境データは、上記で説明された関係を使用して、UAV位置及び方向を推定すべく使用できる。UAV状態及び環境情報の更新された複数の推定値を提供する目的で、このアプローチを繰り返すことができる。
【0072】
幾つかの実施形態において、センサデータは、環境の表現、又は、その少なくとも一部を生成すべく使用できる。そのような複数の表現は、本明細書中で「複数の環境マップ」と呼ばれるかもしれない。環境マップは、UAVのごく近くの環境の複数の部分を表わしてもよく(局所マップ)、又は、UAVから相対的に遠い複数の部分を表わしてもよい(全体マップ)。例えば、局所マップは、UAVから半径約2m、5m、10m、15m、20m、25m、又は、50m内における環境の複数の部分を表わしてもよい。全体マップは、UAVから半径約25m、50m、75m、100m、125m、150m、200m、225m、250m、300m、400m、500m、1000m、2000m、又は、5000m内における複数の部分を表わしてもよい。環境マップのサイズは、マップを生成すべく使用される複数のセンサの有効範囲に基づいて決定してもよい。センサの有効範囲は、センサタイプに基づいて異なってもよい。例えば、ビジョンセンサは、UAVから半径約10m、15m、20m、又は、25m内の複数の物体を検出すべく使用できる。ライダセンサは、UAVから半径約2m、5m、8m、10m、又は、15m内の複数の物体を検出すべく使用できる。超音波センサは、UAVから半径約2m、5m、8m、10m、又は、15m内の複数の物体を検出すべく使用できる。幾つかの実施形態において、環境マップは、UAVが以前に通過した複数の部分を表わすだけであってもよい。代替的に、複数の他の実施形態において、環境マップはまた、UAVが移動していない環境の複数の部分を表わすだけであってもよい。
【0073】
環境マップは、様々なタイプの環境情報を表わすべく使用できる。例えば、マップによって、複数の障害物、複数の構造、複数の陸標、又は、複数の特徴などの複数の環境物の、ジオメトリ(例えば長さ、幅、高さ、厚さ、形状、表面積、体積)、空間的配置(例えば位置、方向)、及び、タイプを示す情報を提供できる。別の例として、マップによって、環境の複数の部分が妨げられる(例えばUAVが通過できない)こと、及び、複数の部分が妨げられない(例えばUAVが通過できる)ことを示す情報を提供できる。更に、マップによって、UAVの現在の場所、及び/又は、様々な環境物に対するUAVの空間的配置に関する情報を提供できる。
【0074】
メトリックマップ、又は、トポロジカルマップなど、任意の適切なタイプの環境マップを使用できる。トポロジカルマップは、当該環境内の複数の場所間の接続性を描写してもよく、その一方で、メトリックマップは、当該環境内の複数の物体のジオメトリを描写してもよい。任意に、環境マップは、メトリック情報及びトポロジカル情報の組み合わせを含んでもよい。例えば、環境マップによって、複数の環境物及び/又は場所の間における複数の絶対空間的関係(例えば複数の距離)だけでなく接続性も描写できる。代替的に又は組み合わせて、マップの幾つかの部分は、トポロジカルに描写されてもよく、その一方で、他の部分はメトリックに描写されてもよい。
【0075】
環境マップは、任意の適切なフォーマットで提供できる。例えば、トポロジカル環境マップは、複数の場所を表わす複数の頂点と、複数の場所間の複数の経路を表わす複数のエッジとを有するグラフとして提供できる。トポロジカル環境マップの複数のエッジは、対応する経路に対する距離情報と関連付けられてもよい。メトリック環境マップは、複数の環境的な場所及び物体の空間座標を、ポイントクラウド、地形マップ、2Dグリッドマップ、2.5Dグリッドマップ、又は、3Dグリッドマップとして描写する、任意の表現であり得る。複数の空間座標は、複数の環境物の複数の表面上における複数の地点の空間的位置を表わす、複数の3次元座標(例えば、x座標、y座標及びz座標)であってもよい。幾つかの実施形態において、メトリック環境マップは、占有グリッドマップであり得る。占有グリッドマップは、環境を複数の体積として表わすことができる。複数の体積は、複数の等しいサイズであってもよく、又は、複数の異なるサイズであってもよい。占有グリッドマップは、各体積に対して、その体積が障害物によって実質的に占有されるかどうかを示してもよく、これにより、当該環境内の妨げられた空間および妨げられてない空間の正確な表現を提供できる。
【0076】
本明細書で説明される複数の環境マップは、任意の適切な方法を使用して生成できる。例えば、環境マップの1または複数の部分は、例えば、同時位置決め地図作成(SLAM)、又は、他の複数のロボットマッピング技術を使用することによって、UAV動作の間(例えば飛行中)に生成できる。代替的に、マップの1または複数の部分は、UAV動作に先立って生成することができ、飛行に先立って又は飛行中に、UAVに提供することができる(例えばリモートコンピューティングシステムから送信できる)。そのような複数のマップは、UAVが飛行中に取得したデータに基づいて変更されてもよく、これにより、マップデータを更に洗練することを提供できる。
【0077】
幾つかの実施形態において、環境マッピングは、複数のセンサタイプによって収集される環境情報を組み合わせるセンサフュージョンを使用して実行できる。個別のセンサタイプの複数の限定を補償する目的で、このアプローチは有利であってもよい。例えば、UAVが屋内環境にある場合、GPSセンシングデータは不精確または利用不可能であってもよい。複数のビジョンセンサは、複数の透明な物体(例えばメガネ)を検出することに対して、又は、複数の相対的に暗い環境(例えば夜間)に対して、最適化されなくてもよい。幾つかの実施形態において、複数のライダセンサは、他の複数のセンサタイプと比較して、相対的に短い検出範囲を有してもよい。本明細書で説明されるマルチセンサフュージョンを使用することによって、多様な環境タイプ及び動作状況下での精確なマッピングを提供でき、従って、UAV動作のロバスト性および柔軟性を改善できる。
【0078】
図3Aは、複数の実施形態による、センサフュージョンを使用して環境マッピングするスキーム300を図示している。スキーム300は、本明細書で説明される複数の環境マップの任意の実施形態を生成すべく使用できる。スキーム300において、センシングデータは、複数のセンサ302から受信される。複数のセンサ302は、1または複数の異なるセンサタイプを含んでもよい。複数のセンサ302は、UAVによって運ばれ得、例えばUAVの輸送本体に連結され得る。任意に、複数のセンサ302の各々からのセンシングデータは、フィルタリング、ノイズ低減、画像の歪みの修正等によってデータ品質を改善すべく、予め処理できる。幾つかの実施形態において、複数のセンサ302の各々によって提供されるセンシングデータは、各座標系に対して(例えば、UAVの輸送本体に対するセンサの位置及び方向に基づいて)表わされてもよい。従って、各センサからのセンシングデータは、全てのセンシングデータを単一座標系へと変換304することによって組み合わせることができる。例えば、局所座標系に対して提供されるセンシングデータは、全体座標系へと変換されてもよく、その逆であってもよい。座標系変換304は、センサキャリブレーションデータ306に基づいて達成できる。センサキャリブレーションは、任意の適切な技術を使用して実行でき、UAVの動作に先立って(オフラインキャリブレーション)、又は、UAVの動作中に(オンラインキャリブレーション)実行できる。幾つかの実施形態において、センサキャリブレーションは、複数のセンサ302間の複数の空間的関係(例えば相対位置及び方向)のような、複数のセンサ302に対する複数の付帯的パラメータを決定することを含む。次に、センシングデータを単一座標系へと変換する複数の変換計算を、決定された複数のセンサパラメータに基づいて決定できる。
【0079】
座標系変換304に続いて、次に、単一のセンシング結果を取得するセンサフュージョン308を使用して、変換されたセンシングデータを組み合わせることができる。カルマンフィルタリング(例えば、カルマンフィルタ、拡張カルマンフィルタ、アンセンテッドカルマンフィルタ)、パーティクルフィルタリング、又は、当業者にとって既知である他の複数のフィルタリング技術のように、センサフュージョンを実行すべく様々な技術を使用できる。使用される方法は、使用される複数のセンサの特定の組み合わせ及び複数のタイプ次第で異なってもよい。幾つかの実施形態において、センサフュージョン308は、全てのセンサ302からのセンシングデータを利用してもよい。逆に、センサフュージョン308は、複数のセンサ302のサブセットだけからのデータを利用してもよい。不十分または信頼性のないセンサデータ(例えば、UAVが屋内にいる場合のGPSセンシングデータ)を取り除くことを目的として、後者のアプローチは有利であってもよい。結合されたセンシングデータは次に、環境マップ生成310用に使用できる。
【0080】
環境マッピングは、複数のセンサの任意の適切な組み合わせからのセンシングデータに基づいて実行できる。例えば、幾つかの実施形態において、本明細書で説明される複数のマッピング方法は、ライダセンサ及びビジョンセンサ(例えば、単一カメラのような単眼視センサ)を運ぶUAVによって実施できる。ライダセンサは、UAVに対する複数の環境物の距離データを取得すべく使用でき、その一方で、ビジョンセンサは、周囲の複数の環境物の画像データをキャプチャすべく使用できる。ライダ及びビジョンセンサ用のセンサキャリブレーションデータは、ライダとビジョンセンサとの間の空間的関係を示すセンサパラメータを含むことができる。例えば、ライダセンサによってUAVからの距離
【数6】
を決定され、また、ビジョンセンサによってキャプチャされた画像データにおける座標
【数7】
で物体に対応する環境物に対し、
【数7】

【数6】
との間の関係は、
【数8】
によって表わすことができる。ここで、
【数9】
は回転行列であり、
【数10】
は変換行列であり、
【数11】
は未知のスカラー量であり、
【数12】
はビジョンセンサに対する内部行列(事前較正によって決定される固有のパラメータ)である。上記の方程式において、
【数6】
と、
【数7】
と、
【数12】
とは既知であるが、その一方で、
【数9】

【数10】
とは未知である。もし複数の測定の数
【数13】
が用いられるならば、
【数9】
及び
【数10】
は一定なので(ライダセンサ及びビジョンセンサの相対位置及び方向は固定される)、問題となるのは、以下のように遠近法(パースペクティブ)n地点(PNP)問題であり、当該問題は、複数のセンサパラメータである、
【数9】
及び
【数10】
を取得することを目的として、当業者に既知である複数の技術を使用することで解決できる。
【0081】
一度、センサキャリブレーションデータが得られたら、ライダセンシングデータ及びビジョンセンシングデータは、以下の数14による同じ座標系(「世界」座標系)へと変換できる。
【数14】
ここで、
【数15】
は(本実施形態におけるビジョンセンサ座標系に対応する)世界座標系に対するデータであり、
【数16】
は世界座標系に対するビジョンセンシングデータであり、
【数17】
はビジョンセンサ座標系に対するビジョンセンシングデータであり、
【数18】
は世界座標系に対するライダセンシングデータであり、
【数19】
はライダセンサ座標系に対するライダセンシングデータである。そして、
【数20】
及び
【数21】
は、ビジョンセンサ座標系とライダセンサ座標系との間で変換するための回転行列及び変換行列である(上記で説明した、
【数9】
及び
【数10】
に対応する)。
【数22】
は、対角行列
【数23】
である。ここで、
【数24】
は、未知のスケールファクタである。次に、複数のセンサフュージョン技術を使用して、変換されたセンシングデータを組み合わせることができる。例えば、ビジョン座標系
【数17】
に対するビジョンセンシングデータと、世界座標系
【数16】
に対するビジョンセンシングデータとの間の関係は、
【数25】
によって表わすことができる。ライダセンシングデータを使用して、ライダセンサのセンシング方向に沿ってUAVに最も近い地点(ポイント
【数26】
として示される)
【数27】
を取得できる。従って、
【数28】
と、
【数29】
及び
【数30】
とが既知なので(なぜならば、
【数31】
なので)、
【数24】
の値を決定できる。従って、局所センサデータである、
【数19】
及び
【数17】
は、各世界座標
【数18】
及び
【数16】
に変換して、単一結果
【数15】
を生成すべく結合することができる。次に、UAVを囲う環境のマップを生成すべく、結合されたデータを使用できる。
【0082】
図3Bは、複数の実施形態による、センサフュージョンを使用して、ある環境のマップを生成する方法350を図示している。方法350は、本明細書で提供される複数のシステム及び複数の装置のいずれによっても実行でき、例えばUAVの1または複数のプロセッサによって実行できる。
【0083】
ステップ360において、1または複数のビジョンセンサから、当該環境に対する深度情報を含む第1センシングデータを受信する。例えば、ビジョンセンサは、1つのカメラだけを含むことができる(単眼視センサ)。代替的に、ビジョンセンサは、2つ(両眼視センサ)又はそれより多くのカメラを含むことができる。複数のビジョンセンサは、UAVによって運ばれ得、例えばUAV輸送本体によって運ばれ得る。複数のビジョンセンサが使用される複数の実施形態において、各センサは、UAVの異なる部分に配置でき、各センサによって収集される画像データ間の視差は、当該環境に対する深度情報を提供すべく使用できる。深度情報は、本明細書において、1または複数のオブジェクトの、UAV及び/又はセンサからの距離に関する情報を参照すべく使用できる。単一のビジョンセンサが使用される複数の実施形態において、深度情報は、ビジョンセンサの複数の異なる位置及び方向に対する画像データをキャプチャし、それから、深度情報を復元する適切な複数の画像解析技術(例えば、動きからの構造(structure from motion))を使用することによって取得できる。
【0084】
ステップ370において、1または複数の近接センサから、当該環境に対する深度情報を含む第2センシングデータを受信する。複数の近接センサは、少なくとも1つの超音波センサ(例えば、広角センサ、アレイセンサ)、及び/又は、少なくとも1つのライダセンサを含むことができる。幾つかの実施形態において、超音波アレイセンサが、他の複数のタイプの超音波センサと比較して、改善された検出精度を提供してもよい。複数の近接センサはまた、UAVによって運ばれ得る。複数の近接センサは、複数のビジョンセンサの近くに配置できる。代替的に、複数の近接センサは、複数のビジョンセンサを運ぶべく使用される、UAVの複数の部分と異なる部分上に位置することができる。
【0085】
ステップ380において、第1及び第2センシングデータを使用して、当該環境に対する深度情報を含む環境マップを生成する。本明細書で説明されるように、第1及び第2センシングデータは各々、当該環境に対する深度情報を含むことができる。任意に、第1及び第2センシングデータは、当該環境内の1または複数のオブジェクトに対するシルエット情報も含むことができる。シルエット情報は、本明細書において、環境物の複数の輪郭、複数のアウトライン、又は、複数のエッジに関する情報を参照すべく使用してもよい。1または複数の近接センサによって生成されるセンシングデータは、ピクセル深度マップとして提供でき、その一方で、深度情報は、1または複数のビジョンセンサによって収集される画像データから、動きからの構造(structure from motion)、立体照明(structured light)、光のシート(sheet of light)、飛行時(time-of-flight)、又は、立体視視差マッピング(stereovision disparity mapping)などの複数の技術を使用して抽出できる。幾つかの実施形態において、第1及び第2センシングデータの各々は、複数のピクセルを有する少なくとも1つの画像を含み、各ピクセルは、2次元画像座標(例えば、x座標およびy座標)、深度値(例えば、ピクセルに対応する環境物と、UAV並びに/若しくはセンサとの間の距離)、及び/又は、色値(例えば、RGB色値)と関連付けられる。そのような複数の画像は、本明細書において、複数の深度画像と呼ばれるかもしれない。
【0086】
結合プロセス中の各タイプのセンシングデータの相対的な信頼性及び精度を考慮して、深度情報を含むマップ(例えば、占有グリッドマップのような3次元環境的表現)を生成する目的で、センシングデータの各セットと関連付けられる深度情報を、(例えば、カルマンフィルタリングのような適切な複数のセンサフュージョン方法を使用して)空間的に配列し、組み合わせることができる。幾つかの実施形態において、環境マップを生成することは、複数のビジョンセンサによって提供される一組の深度画像に存在する複数の特徴点を識別すること、複数の近接センサによって提供される一組の深度画像に存在する、対応する複数の特徴点を識別すること、及び、両方の複数の特徴点間における対応を決定すること、を含むことができる。当該対応は、複数の近接度深度画像を複数のビジョン深度画像上にマッピングすべく、又は、その逆にすべく適用できる、1または複数の変換(例えば、並進、回転、スケーリング)に関する情報を含んでもよい。環境マップを生成する目的で、次に、複数の深度画像を、当該対応に基づいて組み合わせることができる。代替的に又は組み合わせて、第1及び第2センシングデータは、複数の異なる座標系に対して提供してもよく、環境マップは、同じ座標系で第1及び第2センシングデータを表現することによって生成できる。この座標系は、第1センシングデータと関連付けられる座標系、第2センシングデータと関連付けられる座標系、又は、全体的な異なる座標系であってもよい。一度、環境マップが生成されると、UAVは、環境マップ内に含まれる深度情報に基づいて、当該環境内で航行できる。
【0087】
本明細書で説明される近接度センシング及びビジョンセンシングの組み合わせによって、複数の個別のセンサタイプの複数の限定を補償することができ、これにより、マップ生成の精度を改善できる。例えば、複数のビジョンセンサは、相対的に高い分解能の複数のカラー画像を生成できるが、単眼カメラが使用される場合、又は、両眼カメラ距離が相対的に小さい場合(複数のカメラが小型UAVに据え付けられる場合に生じ得る)に、画像データから精確な経路データを取得することは相対的に困難であるかもしれない。加えて、複数のビジョンセンサは、照明が明るい、若しくは、照明が高コントラストを有する場合、又は、雨、霧、スモッグなどの複数の不利な環境状況である場合は、十分な画像データを提供できないかもしれない。逆に、複数の超音波センサのような複数の近接センサは、精確な経路データを提供するかもしれないが、複数のビジョンセンサと比較すると、より低い分解能を有するかもしれない。また、場合によっては、複数の超音波センサ及び他の複数の近接センサタイプは、複数の小さな反射面(例えば、複数の枝状のもの、複数の角、複数の柵)を備える複数のオブジェクト、若しくは、複数の吸収性オブジェクト(例えば敷物)を検出できないかもしれない、又は、多数のオブジェクトを有する複数の複雑な環境(例えば複数の屋内環境)内で複数の距離を分析できないかもしれない。しかしながら、近接センサが最善ではないデータを生成する複数の状況において、ビジョンセンサは信頼できるデータを生成でき、その逆も可能であるという点で、ビジョンセンシングデータは概して、近接度センシングデータと相補的であってもよい。従って、多種多様な動作状況において、及び、様々なタイプの環境に対して、複数の精確な環境マップを生成すべく、ビジョンセンサと近接センサとを組み合わせて使用することができる。
【0088】
図4は、複数の実施形態による、複数の異なるセンサタイプを使用して環境マッピングする方法400を図示している。本明細書で開示される全ての方法と同様に、方法400は、本明細書で提示される複数のシステム及び複数の装置のいずれの実施形態を使用しても実行でき、例えば、UAVに搭載されて運ばれる1または複数のプロセッサによって実行できる。加えて、本明細書で開示される全ての方法と同様に、方法400の複数のステップのいずれも、本明細書における他の複数の方法の任意の複数のステップと組み合わせることができ、又は、これらに取り換えることができる。
【0089】
ステップ410において、UAVによって運ばれる第1センサから、第1センシング信号を受信する。第1センシング信号は、複数の環境物(例えば複数の障害物)の場所及びジオメトリを示す環境データのように、UAVが動作している環境に関連する情報を含むことができる。同様に、ステップ420において、UAVによって運ばれる第2センサから、第2センシング信号を受信する。幾つかの実施形態において、第1及び第2センサは、本明細書で以前に説明した任意の複数のセンサタイプを含む、複数の異なるセンサタイプであり得る(例えば、ライダ及びビジョンセンサ、超音波センサ及びビジョンセンサ、等)。
【0090】
ステップ430において、第1センシング信号を使用して、当該環境に対する占有情報を含む第1環境マップを生成する。ステップ440において、第2センシング信号を使用して、当該環境に対する占有情報を含む第2環境マップを生成する。UAVに対する複数の障害物の複数の場所を決定すべく環境マップを使用できるように、第1及び第2環境マップは各々、当該環境に対する障害物占有情報を含むことができる。例えば、第1及び第2環境マップは、当該環境内で妨げられている空間及び妨げられてない空間に関する情報を含む、複数の占有グリッドマップ、又は、任意の他の複数のマッピングタイプであってもよい。
【0091】
任意に、第1環境マップは、当該環境の、第2環境マップと異なる部分を表わしてもよい。例えば、第1環境マップは、UAVに相対的に近い環境の一部を表わしてもよく、その一方で、第2環境マップは、UAVから相対的に離れた環境の一部を表わしてもよい。幾つかの実施形態において、異なる複数のセンシング信号は、当該環境の複数の異なる部分に広がる複数のマップを生成すべく使用できる。異なる複数のマップを生成すべく使用する信号の選択は、当該環境の特定の部分に対する第1及び第2センシング信号の相対的な信号品質及び/又は精度のような、任意の適切な基準に基づき得る。センシングデータの品質及び精度は、各センサの特定の複数の特性に依存してもよく、感知される複数の環境物の複数の特質(例えば、透明性、反射性、吸収性、形状、サイズ、材質、可動性、等)だけでなく、環境タイプ(例えば屋内、屋外、低高度、高高度)、複数の天気状況(例えば、晴れ、雨、霧がかっている)、感知される複数の環境物の相対位置(例えば、短距離、長距離)に基づいて異なってもよい。例えば、第1センサは、複数の短距離では、第2センサよりも精確であってもよく、その一方で、第2センサは、複数の長距離では、第1センサよりも精確であってもよい。従って、第1センサは、相対的にUAVの近くの複数の環境部分に対するマップを生成すべく使用でき、その一方で、第2センサは、相対的にUAVから離れた複数の環境部分に対するマップを生成すべく使用できる。代替的に又は組み合わせて、信号の選択は、環境的部分が対応するセンサのセンシング範囲内にあるか否かに基づき得る。第1及び第2センサが異なるセンシング範囲を有する実施形態において、このアプローチは有利であってもよい。例えば、短距離センサは、UAVに相対的に近い複数の環境的部分のマップを生成すべく使用でき、その一方で、長距離センサは、短距離センサの範囲の外側である、UAVから相対的に離れた複数の環境的部分のマップを生成すべく使用できる。
【0092】
ステップ450において、第1及び第2環境マップを組み合わせ、これにより、当該環境に対する占有情報を含む最終環境マップを生成できる。複数の環境マップは、本明細書で説明される複数のセンサフュージョン技術を使用して組み合わせることができる。複数のセンシング信号が複数の異なる座標系(例えば、局所座標系と全体座標系)に対して提供される複数の実施形態において、複数のマップ部分を生成することは、各環境データを整列することを目的として両方のセンシング信号を単一座標系へと変換することを含むことができ、これにより、最終環境マップを生成することができる。その後に続いて、UAVは、最終環境マップに基づいて当該環境内を航行できる。例えば、UAVは、複数の衝突を回避することを目的として、少なくとも部分的に、最終環境マップ内で表わされる障害物占有情報に基づいて航行できる。UAVは、ユーザによって、自動制御システムによって、又は、複数の適切なそれらの組み合わせによって航行できる。環境マップデータに基づくUAV航行の複数の他の例が、以下でより詳細に説明される。
【0093】
上記の複数のステップは、複数の実施形態による、環境マッピングの方法400を示しているが、当業者であれば、本明細書で説明される教示に基づいて多数の変形を認識するだろう。幾つかのステップは、複数のサブステップを含んでもよい。幾つかの実施形態において、UAVが当該環境内を航行するに連れて、結果として生じる環境マップが更新され、洗練されるように、所望により、方法400の複数のステップを(例えば、継続的に、又は、予め定められた複数の時間間隔で)繰り返すことができる。このリアルタイムマッピングアプローチによって、UAVが複数の環境物を素早く検出し、変化する複数の動作状況に順応することを可能にすることができる。
【0094】
本明細書で説明される複数のセンサフュージョンアプローチは、航行、物体認識および障害物回避を含む、様々なタイプの複数のUAV機能性に適用できる。幾つかの実施形態において、複数のセンサフュージョン結果を使用して得られる環境データは、複数の潜在的障害物に関する情報だけでなく精確な場所情報も提供することによって、UAV動作のロバスト性、安全性及び柔軟性を改善すべく、使用できる。UAVのユーザ手動制御を知らせることを目的として、(例えば、リモートコントローラ、リモート端末、モバイル装置、又は、他のユーザデバイスを介して)環境データをユーザに提供できる。代替的に又は組み合わせて、UAVの自動化された飛行を指示する半自律的制御システム又は完全自律制御システムに対して、環境データを使用できる。
【0095】
例えば、UAVが複数の環境物と衝突するのを防ぐことを目的として、複数の障害物回避操作を実行すべく、本明細書で開示される複数の実施形態を使用できる。幾つかの実施形態において、障害物検出及び回避を自動化でき、これにより、UAV安全性を改善して、複数の衝突を回避するためのユーザ責任を減少することができる。このアプローチは、ユーザがUAVの近くで複数の障害物の存在を容易に認知することができない複数の状況においてだけでなく、経験が浅い複数のUAV操作者に対しても、有利であってもよい。加えて、自動化された障害物回避を実施することによって、半自律的又は完全自律的UAV航行と関連付けられる複数の安全上の危険を減少させることができる。更に、より精確な複数の環境的表現を生成すべく、本明細書で説明される複数のマルチセンサフュージョン技術を使用でき、従って、そのような複数の自動化された衝突防止機構の信頼性を改善することができる。
【0096】
図5は、複数の実施形態による、複数の障害物を回避するようにUAVを制御する方法500を図示している。方法500は、UAVによって運ばれる1または複数のプロセッサによって実施できる。本明細書で以前に説明したように、方法500は、完全に又は少なくとも部分的に自動化することができ、これにより、自動障害物検出性能および自動障害物回避性能を提供することができる。
【0097】
ステップ510において、UAVに当該環境内で航行させる第1信号を生成する。第1信号は、UAVの推進システム(例えば複数の回転翼)用の複数の制御信号を含むことができる。第1信号は、遠隔端末又は他のユーザデバイスに入力され、その後に続いてUAVへと送信される複数のユーザ命令に基づいて生成できる。代替的に、第1信号は、UAV(例えば自動化された搭載制御装置)によって自律的に生成できる。場合によっては、第1信号は、複数の自動化された経路決定機構からだけでなくユーザ入力からの複数の寄与と共に半自律的に生成できる。例えば、ユーザは、UAV用の一連の通過点を示すことができ、UAVは、複数の通過点を行き来すべく、自動的に飛行経路を計算できる。
【0098】
幾つかの実施形態において、飛行経路は、(例えば最大6自由度までについて)、UAV用の一連の所望の複数の位置及び/又は複数の方向を示すことができる。例えば、飛行経路は、少なくとも、UAV用の初期の場所と目標の場所とを含むことができる。任意に、飛行経路は、UAVを現在位置から前の位置へと向けるように構成できる。別の例として、飛行経路は、UAV用の目標飛行方向を含むことができる。幾つかの実施形態において、複数の指示は、UAVに飛行経路に沿って移動させるべく、UAV用の速度及び/又は加速度を特定できる(例えば、最大6自由度までについて)。
【0099】
ステップ520において、複数のセンサを使用して、当該環境の少なくとも一部に関連するセンシングデータを受信する。複数のセンサは、複数の異なるタイプ(例えば、ビジョン、ライダ、超音波、GPS、等)の複数のセンサを含むことができる。センシングデータは、複数の障害物及び/又は他の複数の環境物の、場所及び複数の特性に関する情報を含むことができる。例えば、センシングデータは、UAVの、直ぐ近くの複数の障害物に対する近接度を示す距離情報を含むことができる。任意に、センシングデータは、UAVの飛行経路と重複する部分、又は、UAVの飛行経路の近くの部分など、UAVの飛行経路に沿う環境の一部に関する情報を含むことができる。
【0100】
ステップ530において、センシングデータに基づいて、当該環境の少なくとも一部を表わす環境マップを生成する。環境マップは、UAVを直接囲む環境の一部を表わす局所マップであってもよい(例えば、UAVから半径約2m、5m、10m、15m、20m、25m、又は、50m内)。代替的に、環境マップは、UAVから相対的に遠い環境の一部も表わす全体マップであってもよい(例えば、UAVから半径約25m、50m、75m、100m、125m、150m、200m、225m、250m、300m、400m、500m、1000m、2000m、又は、5000m内)。環境マップのサイズは、以前に説明したように、ステップ510において使用される複数のセンサの有効範囲に基づいて決定してもよい。幾つかの実施形態において、環境マップは、本明細書で以前に説明したセンサフュージョンベースの複数の方法(例えば、スキーム300及び/又は方法400)を使用して生成できる。例えば、センシングデータは、複数の異なる座標系に対するデータを含むことができ、環境マップ生成は、センシングデータの結合を容易化すべく、データを単一座標系上にマッピングすることを含むことができる。
【0101】
ステップ540において、環境マップを使用して、当該環境の一部に位置する1または複数の障害物を検出する。マップ情報からの障害物検出は、様々なストラテジを使用して実行でき、例えば、特徴抽出技術又はパターン認識技術によって実行できる。任意に、障害物検出を実行すべく、適切な複数の機械学習アルゴリズムを実施できる。幾つかの実施形態において、もし環境マップが占有グリッドマップであるならば、継続的に占有される占有グリッドマップ内で複数の体積を検出することによって、複数の障害物を識別できる。複数の障害物検出結果によって、結果に対する対応する信用度情報だけでなく、各障害物の位置、方向、サイズ、近接度及び/又はタイプに関する情報が提供されてもよい。衝突リスクをUAVに引き起こす(例えば飛行経路に沿って又はその近くに位置する)複数の障害物を識別すべく、マップを分析できる。
【0102】
ステップ550において、環境マップを使用して、1または複数の障害物を回避すべくUAVに航行させる第2信号を生成する。UAVが障害物との衝突を回避すべく移動できる任意の複数の妨げられてない空間の場所だけでなく、UAVに対する1または複数の障害物の場所を決定することを目的として、環境マップを分析できる。従って、第2信号によって、UAVに複数の妨げられてない空間を通るように航行させる、(例えばUAVの推進システムに対する)適切な複数の制御信号を提供できる。UAVがある飛行経路に従って航行する複数の実施形態において、当該飛行経路は、1または複数の障害物を回避すべく、環境マップに基づいて変更でき、UAVは、変更された飛行経路に従って航行できる。複数の飛行経路変更によって、UAVに、複数の妨げられてない空間だけを通って行き来するように指示できる。例えば、UAVに、障害物周りを飛行させる(例えば、上方、下方、又は、側面)、障害物から離れて飛行させる、障害物から特定の距離を維持させるべく、飛行経路を変更できる。複数の変更された飛行経路が考えられる複数の状況において、例えば、移動する距離を最小化すること、移動時間を最小化すること、経路を移動するのに必要とされるエネルギー量を最小化すること、元の飛行経路からの変移量を最小化すること等、任意の適切な基準に基づいて、好ましい複数の飛行経路を選択できる。任意に、もし適切な飛行経路が決定できないならば、UAVは単に定位置でホバリングして、障害物がその経路外に移動するのを待機してもよく、又は、ユーザが手動制御をとるのを待機してもよい。
【0103】
UAV動作に対するマルチセンサフュージョンの他の例示的用途において、本明細書で提示される複数の実施形態は、「オートリターン」機能の一環として実施でき、当該実施形態において、UAVは、特定の複数の状況下で、現在の場所から「ホーム」の場所へと自動的に航行することになる。ホームの場所は、例えばUAVが最初に離陸して飛行を開始した場所のように、UAVが以前に通過した初期の場所であってもよい。代替的に、ホームの場所は、UAVが以前に通過した場所でなくてもよい。ホームの場所は、自動的に決定でき、又は、ユーザが指定できる。オートリターン機能がトリガーされ得る複数の状況の複数の例は、戻る指示をユーザから受信すること、ユーザのリモートコントローラとの通信、若しくは、ユーザがもはやUAVを制御できないという他の指標を損失すること、低いUAVバッテリーレベル、又は、UAV故障、若しくは、他の複数の緊急事態を検出すること、を含んでもよい。
【0104】
図6は、複数の実施形態による、初期の場所へと戻るようにUAVを制御する方法600を図示している。幾つかの実施形態において、方法600を実行するためのユーザ入力を殆ど必要としないように、自動制御システムと関連付けられる1または複数のプロセッサが方法600を実施する。
【0105】
ステップ610において、複数のセンサのうち少なくとも1つを使用して、UAVの初期の場所を決定する。幾つかの実施形態において、複数の異なるセンサタイプを有する複数のセンサを使用して、当該場所を決定できる。全体座標系(例えば複数のGPS座標)に対して、又は、局所座標系に対して(例えば、複数の局所環境的陸標又は特徴に対して)、当該場所を決定できる。
【0106】
ステップ620において、UAVに当該環境内で航行させる第1信号を生成する。第1信号は、手動で、半自律的に、又は、完全自律的に生成できる。例えば、ユーザは、UAVの動きを制御する目的でUAVに送信される複数の指示を、リモートコントローラへと入力できる。別の例として、UAVは、予め定められた飛行経路に従って移動でき、又は、予め定められた場所に向かって移動できる。UAVは、(例えば、経度、緯度または高度について)初期の場所と異なる当該環境内の場所に向かって航行できる。
【0107】
ステップ630において、複数のセンサのうち少なくとも1つから、当該環境に関連するセンシングデータを受信する。ステップ610で使用されるのと同じ複数のセンサから、又は、異なる複数のセンサから、センシングデータを受信できる。同様に、複数の異なるセンサタイプからセンシングデータを取得できる。そのようなセンシングデータは、本明細書で以前に説明したように、複数の環境物の場所及び複数の特性に関する情報を含むことができる。
【0108】
ステップ640において、センシングデータに基づいて、当該環境の少なくとも一部を表わす環境マップを生成する。センシングデータが複数のセンサタイプからのデータを含む複数の実施形態において、本明細書で以前に説明したセンサフュージョンベースの複数の方法(例えば、スキーム300及び/又は方法400)を使用して、環境マップを生成できる。結果として生じるマップは、任意の適切なフォーマットで提供でき、障害物占有に関連する情報を含んでもよい(例えば障害物グリッドマップ)。
【0109】
ステップ650において、環境マップに基づいて、UAVに初期の場所へと戻らせる第2信号を生成する。第2信号は、オートリターン命令に応じて生成できる。オートリターン命令は、ユーザが入力でき、又は、例えばUAVを制御するリモートコントローラとの通信が損失するなどの緊急事態に応じて、自動的に生成できる。幾つかの実施形態において、一度、UAVがオートリターンするよう指示を受信したら、UAVは、自身の現在の場所、現在の場所と初期の場所との間の空間的関係、及び/又は、任意の複数の環境障害物の複数の場所を決定すべく、環境マップを使用できる。環境マップ内の障害物占有情報に基づいて、UAVは次に、現在の場所から初期の場所へと航行するための適切な経路(例えば飛行経路)を決定できる。UAV用の適切な経路を決定すべく、様々なアプローチを使用できる。例えば、図9A及び9Bに関して本明細書中で更に詳細に説明されるように、トポロジマップのような環境マップを使用して、経路を決定できる。幾つかの実施形態において、経路は、UAVの飛行を妨げるかもしれない1または複数の環境障害物を回避するように構成できる。代替的に又は組み合わせて、経路は、現在の場所と初期の場所との間における最短経路であってもよい。経路は、UAVが以前に通過した1または複数の部分も、UAVが以前に通過した経路と異なる1または複数の部分も、含んでもよい。例えば、経路の全体が、UAVが以前に通過したものであってもよい。別の例として、経路は、図8A及び8Bに関して本明細書中で更に詳細に説明されるように、UAVが以前に通過した複数の位置に対応する複数の通過点を含むことができる。逆に、経路の全体が、UAVが以前に通過したものでなくてもよい。幾つかの実施形態において、複数の潜在的経路を生成することができ、適切な基準に基づいて(例えば、合計飛行時間を最小化すること、合計飛行距離を最小化すること、エネルギー消費を最小化すること、遭遇する複数の障害物の数を最小化すること、複数の障害物からの予め定められた距離を維持すること、予め定められた高度範囲を維持すること、等)、複数の潜在的経路から1つの経路を選択できる。環境マップには、UAVに対する飛行経路情報(例えば、以前に通過した複数の経路、複数の潜在的経路、選択された複数の経路)を含めてもよい。
【0110】
一度、経路を決定したら、UAVに初期の場所への経路に沿って移動させることを目的として、UAVの推進システムを制御するための複数の指示を生成すべく、経路情報を処理できる。例えば、経路は、UAVの飛行を現在の場所から初期の場所へと向ける複数の制御信号へと変換できる、UAVに対する一連の空間的位置情報及び空間的方向情報を含んでもよい。幾つかの実施形態において、UAVは、経路に沿って航行していると、自身の飛行を妨げる、経路に沿う1または複数の障害物を検出するかもしれない。そのような複数の状況において、UAVが初期の場所へと航行し続けるのを可能にすることを目的として、例えば、方法500について本明細書中で以前に説明した複数の技術を使用して、障害物を回避すべく経路を変更できる。
【0111】
図7は、多数の実施形態による、複数の障害物を回避しつつ初期の場所へと戻るようにUAVを制御する方法700を図示している。方法500と同様に、方法700は、UAVオートリターン機能の一環として、半自動化又は完全自動化された態様で実行できる。方法700の複数のステップの少なくとも幾つかは、UAVと関連付けられる1または複数のプロセッサによって実行できる。
【0112】
ステップ710において、複数のセンサのうち少なくとも1つを使用して、UAVの初期の場所を決定する。任意に、複数の異なるセンサタイプを使用して、初期の場所を決定できる。場所情報は、UAVの位置(例えば、高度、緯度、経度)及び/又は方向(例えば、ロール、ピッチ、ヨー)に関する情報を含むことができる。場所情報は、全体座標系(例えば地理座標系)、又は、(例えばUAVに対する)局所座標系に対して、提供できる。
【0113】
ステップ720において、UAVに当該環境内で、例えば初期の場所と異なる場所へと航行させる第1信号を生成する。本明細書で以前に説明したように、ユーザ入力、自律制御システムによって提供される複数の指示、又は、適切なそれらの組み合わせに基づいて、第1信号を生成できる。
【0114】
ステップ730において、複数のセンサのうち少なくとも1つを使用して、当該環境に関連するセンシングデータを受信する。任意に、センシングデータは、ステップ710で使用された複数のセンサと異なる複数のセンサから受信できる。センシングデータは、上記で説明したように、適切なセンサフュージョンベースの複数のアプローチを使用して、複数の異なるセンサタイプからの複数のセンシング信号を組み合わせることによって生成できる。幾つかの実施形態において、結合されたセンサデータは、本明細書で以前に議論した複数の実施形態のように、代表的な環境マップを生成すべく使用できる。
【0115】
ステップ740において、初期の場所へと戻る指示を受信する。戻る指示は、ユーザがリモートコントローラへと入力でき、その後に続いて、UAVへと送信できる。代替的に、当該指示は、UAVによって自動的に生成でき、例えば、搭載プロセッサ及び/又はコントローラによって自動的に生成できる。幾つかの実施形態において、当該指示は、例えば、故障又は緊急事態が生じた際にユーザデバイスとUAVとの間の通信が不能となったことをUAVが検出するといった状況等で、いずれのユーザ入力からも独立して生成できる。
【0116】
ステップ750において、UAVに経路に沿って初期の場所へと戻させる第2信号を生成し、複数のセンサのうち少なくとも1つが当該経路に沿う障害物を検出した場合は当該障害物を回避すべく経路を変更する。任意に、障害物を検出すべく使用する複数のセンサは、ステップ710及び/又はステップ730で使用する複数のセンサと異なってもよい。障害物は、複数の異なるセンサタイプによって生成されるセンシングデータに基づいて検出できる。幾つかの実施形態において、障害物は、センサデータに基づいて生成される環境マップ(例えば占有グリッドマップ)を使用して検出できる。環境マップは、(例えばステップ730で収集されたセンシングデータに基づいて)以前に生成したものであってもよく、又は、UAVが経路に沿って航行するに連れてリアルタイムで生成してもよい。方法500に関して本明細書中で以前に説明されたもののように、UAVが検出された複数の障害物と衝突するのを防ぐことを目的として、経路を変更すべく様々なアプローチを使用できる。修正された経路の決定は、得られたセンシングデータ、及び/又は、環境マップ内で表わされる障害物情報に基づいて実行できる。
【0117】
図8A及び8Bは、複数の実施形態による、複数の通過点を使用して初期の場所へと戻るようにUAVを制御するアルゴリズム800を図示している。アルゴリズム800は、UAVの動作を制御すべく使用される、適切なプロセッサ及び/又はコントローラによって実施できる。アルゴリズム800の1または複数のステップは、自動的に実行でき、これにより、オートリターン機能性をUAVに提供できる。
【0118】
ステップ802におけるUAV飛行の開始(例えば離陸)に続いて、ステップ804において、UAV飛行が終了したかどうかの決定を行う。当該決定は、UAVが(例えば地上のような表面に)着陸したかどうか、UAVの推進システムの電源が切れたかどうか、飛行を終了するという指示をユーザが提供したかどうか、等に基づき得る。もし飛行が終了したならば、アルゴリズム800はステップ806で完結する。そうでなければ、アルゴリズム800は、UAVの現在位置(例えば、緯度、経度、高度)を決定することを目的として、ステップ808に進む。現在位置は、本明細書で以前に説明したように、それらの少なくとも幾つかが複数の異なるタイプを有する1または複数のセンサを使用して決定できる。例えば、UAVは、GPSセンサと、ビジョンセンサのような他のセンサタイプとを含むことができる。GPSセンサが信頼できるセンシングデータを提供できない複数の状況(例えば、複数のGPS衛星との通信が最適以下かもしれない、屋内環境内及び/又は低高度環境内、GPSセンサが複数のGPS衛星との通信をまだ確立していない飛行開始時)を補償すべく、ビジョンセンシングデータを、GPSセンシングデータと組み合わせて、又は、GPSセンシングデータに代えて、使用できる。従って、GPSセンシングデータとビジョンセンシングデータとを組み合わせて使用することによって、位置決め精度を改善できる。任意に、現在位置は、UAVを全体座標系又は局所座標系に対して配置するのを可能にする環境マップを使用して決定できる。環境マップは、上記で説明したように、複数のセンサフュージョン技術を使用して生成してもよい。
【0119】
ステップ810において、位置情報のリストのような適切なデータ構造内に現在位置情報を格納する。位置リストは、UAVが以前に通過した一組の位置を格納すべく使用でき、それらは本明細書中で「複数の通過点」と呼ばれるかもしれない。複数の通過点は、順次格納することができ、これにより、UAVが移動した飛行経路の表現を提供できる。そのような複数の実施形態において、位置リストに格納された第1通過点は、UAVの初期位置に対応する一方で、位置リストにおける最後の通過点は、UAVのもっとも最近の位置に対応する。従って、以下で説明するように、UAVに初期の場所へと戻させることを目的として、格納された複数の通過点を逆順で(最後から第1へ)移動できる。
【0120】
ステップ812において、位置リスト内に格納された第1通過点に対応する初期の場所へと戻ることを目的として、UAVがオートリターン機能を開始すべきかどうかの決定を行う。本明細書で以前に説明したように、オートリターンの決定は、自動的に行うことができ、又は、ユーザ入力に基づいて行うことができる。もしオートリターン機能を開始しないならば、アルゴリズム800は、通過点決定及び格納の次のイテレーションを開始すべく、ステップ804へと戻る。幾つかの実施形態において、UAV飛行中に以前に通過した一連の通過点を生成して格納することを目的として、ステップ804、808、810および812を所望の頻度で(例えば、継続的に、0.5秒、1秒、2秒、5秒、10秒、20秒、又は、30秒毎に一度のように、予め定められた複数の時間間隔で)連続的に繰り返すことができる。一度、ステップ812においてUAVがオートリターンすべきであると決定したら、図8Bに関して以下で更に詳細に説明するように、ステップ814においてオートリターン機能を実行する。オートリターン機能が完了した後、ステップ806において、アルゴリズム800は完結する。
【0121】
図8Bは、複数の実施形態による、アルゴリズム800のステップ814の複数のサブステップを図示している。ステップ816でのオートリターン機能の開始に続いて、ステップ818において、位置リスト(複数の通過点のリスト)が空であるかどうかの決定を行う。もしリストが空であるならば、これは、UAVが初期の場所に到達したことを示しており、ステップ820において、オートリターン機能は完了する。もしリストが空でないならば、これは、UAVがまだ初期の場所に到達していないことを示している。そのような複数の例では、それからステップ822において、次の目標位置(通過点)を位置リストから検索する。
【0122】
次にステップ824において、UAVの現在位置を決定する。現在位置は、例えばマルチセンサフュージョン及び/又は環境マッピングを使用するなど、本明細書で説明される複数のアプローチのいずれかを使用して決定できる。幾つかの実施形態において、現在位置と目標位置との間における飛行経路を生成することを目的として、現在位置と検索された目標位置との間の空間的関係を決定する。以前に説明したように、飛行経路は、複数の潜在的飛行障害物を回避すべく、環境マッピングデータに基づいて生成できる。
【0123】
ステップ826において、UAVは、例えばステップ824で生成した飛行経路を使用して、現在位置から目標位置へと航行する。UAVが目標位置に向かって移動するに連れて、UAVは、自身の飛行を妨げる何らかの障害物が存在するかどうかを決定すべく、センサデータを取得して処理することができる。例えば、センサデータは、上記で議論したように、障害物占有情報を含む局所環境マップを提供すべく使用できる。障害物情報を提供すべく使用できる例示的な複数のセンサは、ビジョンセンサ、ライダセンサ、超音波センサ等を含む。センサデータに基づき、ステップ828において、障害物が検出されたかどうかの決定を行う。もし障害物が1つも検出されないならば、UAVは、目標位置に向かう自身の航行を完了し、オートリターン機能は、次のイテレーションを開始すべく、ステップ818に進む。もし障害物が検出されたならば、ステップ830において示されるように、適切な障害物回避操作を決定して実行する。例えば、UAVが検出された障害物と衝突することなく目標の場所へと航行するように、(例えば環境マップデータに基づいて)飛行経路を変更できる。
【0124】
図9A及び9Bは、複数の実施形態による、トポロジマップを使用して目標の場所へと戻るようにUAVを制御するアルゴリズム900を図示している。アルゴリズム800と同様に、アルゴリズム900は、UAVの動作を制御すべく使用される、適切なプロセッサ及び/又はコントローラによって実施できる。アルゴリズム900の1または複数のステップは、自動的に実行でき、これにより、オートリターン機能性をUAVに提供できる。
【0125】
ステップ902におけるUAV飛行の開始(例えば離陸)に続いて、アルゴリズム800のステップ802と同様に、ステップ904において、UAV飛行が終了したかどうかの決定を行う。もし飛行が終了したならば、アルゴリズム900はステップ906で完結する。そうでなければ、UAVを囲う環境に関連する環境情報だけでなく、UAVの現在位置も決定することを目的として、アルゴリズム900はステップ908に進む。幾つかの実施形態において、本明細書で以前に説明したように、環境情報は、1または複数の環境物の空間的配置、ジオメトリ及び/又は複数の特性に関する情報を含む。現在位置及び/又は環境情報は、1または複数のセンサから得られるセンシングデータを使用して決定できる。任意に、センシング結果の信頼性及び精度を改善すべく、複数のセンサフュージョン技術を使用して、複数の異なるセンサタイプからのセンシングデータを処理して組み合わせることができる。例えば、センシングデータは、GPSセンサ、及び、少なくとも1つの他のセンサタイプ(例えば、ビジョンセンサ、ライダセンサ及び/又は超音波センサ)から取得できる。
【0126】
ステップ910において、動作環境を表わすトポロジマップに現在位置及び環境情報を加える。代替的な複数の実施形態において、他の複数のタイプのマップも使用できる(例えばグリッドマップのような複数のメトリックマップ)。トポロジマップは、UAVが以前に通過した複数の場所に対応する位置情報を格納すべく使用でき、これにより、UAVの飛行経路の記録を提供できる。加えて、トポロジマップは、本明細書で以前に説明された複数の実施形態による、様々な環境的場所間における接続性を描写すべく使用できる。任意に、トポロジマップは、複数の環境物の空間的位置及びジオメトリを示す情報だけでなく、表わされる複数の場所間の複数の距離を示す情報のようなメトリック情報も含むことができる。トポロジマップの少なくとも幾つかの部分は、例えばマルチセンサマッピングを使用して、UAV飛行中に生成できる。代替的に又は組み合わせて、トポロジマップの1または複数の部分は、UAVの動作に先立って生成でき、UAVに提供できる(例えば、リモートコントローラから送信でき、及び/又は、搭載メモリに格納できる)。後者の実施形態において、現在の環境情報を反映すべく、収集されたセンサデータに基づいて、UAV動作中にトポロジマップを洗練又は変更できる。
【0127】
ステップ912において、アルゴリズム800のステップ812と同様に、目標位置に戻ることを目的として、UAVがオートリターン機能を開始すべきかどうかの決定を行う。もしオートリターン機能を開始しないならば、アルゴリズム900はステップ904に戻る。UAVが当該環境内で航行するに連れて、トポロジマップをもっとも最近の位置及び環境情報で更新することを目的として、ステップ904、908、910および912を所望の頻度で(例えば、継続的に、0.5秒、1秒、2秒、5秒、10秒、20秒、又は、30秒毎に一度のように、予め定められた複数の時間間隔で)連続的に繰り返すことができる。一度、ステップ912においてUAVがオートリターンすべきであると決定したら、図9Bに関して以下で更に詳細に説明するように、ステップ914においてオートリターン機能を実行する。オートリターン機能が完了した後、ステップ906において、アルゴリズム900は完結する。
【0128】
図9Bは、複数の実施形態による、アルゴリズム900のステップ914の複数のサブステップを図示している。ステップ916でのオートリターン機能の開始に続いて、ステップ918において、UAVが目標位置に到達したかどうかの決定を行う。目標位置は、ユーザが指定した位置、又は、UAVが自動的に決定した位置であり得る。目標位置は、飛行開始の際のUAVの初期位置(例えば離陸の場所)のように、UAVが以前に通過した位置であり得る。代替的に、目標位置は、UAVが以前に通過していない位置であり得る。もしUAVが目標位置に到達したと決定するならば、ステップ920において、オートリターン機能は完了する。そうでなければ、オートリターンはステップ922に進む。
【0129】
ステップ922において、UAVの現在位置を、例えばマルチセンサフュージョン及び/又は環境マッピングを使用するなど、本明細書で説明される複数のアプローチのいずれかを使用して決定する。ステップ924において、現在のUAV位置に対応するトポロジマップ位置を決定し、これにより、トポロジマップ内に表わされる環境情報に対してUAVを配置できる。ステップ926において、トポロジマップに基づいて、現在位置から目標位置までの飛行経路を決定する。幾つかの実施形態において、戻る飛行経路の1または複数の部分は、UAVが以前に通過した飛行経路に対応してもよい。代替的に、飛行経路の1または複数の部分は、UAVの以前の飛行経路と異なっていてもよい。飛行経路は、任意の適切な基準に基づいて決定できる。例えば、飛行経路は、複数の環境障害物を回避するように構成できる。別の例として、飛行経路は、UAVが目標位置に到達すべく移動した合計の距離を最小化するように構成できる。その後に続いて、ステップ928において、UAVに飛行経路に沿って移動させるべく、決定された飛行経路に基づいて複数のUAV飛行制御を調整する。例えば、飛行経路によって、UAV用の一連の位置及び/又は方向を特定でき、UAVに特定の位置及び/又は方向をとらせるべく、適切な複数の制御信号を生成して複数のUAV推進システムへと送信できる。
【0130】
UAVが目標位置に向かって移動するに連れて、UAVは、ステップ930および932において描写されているように、複数の障害物を検出して、適切な方法で複数の障害物回避操作を実行できる。障害物検出及び回避を実行する複数の技術は、各々、アルゴリズム800のステップ828および830について説明したものと同様であってもよい。任意に、障害物検出及び/又は回避は、生成したトポロジマップに基づき得る。例えば、一度、障害物が識別されたら、トポロジマップ内で表わされる環境情報は、複数の潜在的衝突を避ける飛行経路への適切な複数の変更を決定すべく使用できる。
【0131】
本明細書で説明される複数のシステム、装置および方法は、多種多様な可動物体に適用できる。以前に述べたように、航空機についての本明細書中のいずれの説明も、任意の可動物体に適用されて使用されてもよい。本願発明の可動物体は、例えば、空中(例えば固定翼航空機、回転翼航空機、又は、複数の固定翼も複数の回転翼も有さない航空機)、水中、(例えば船又は潜水艦)、地上(例えば、車、トラック、バス、バン、自動二輪車などの自動車、棒若しくは釣竿などの可動構造若しくはフレーム、又は、電車)、地下(例えば地下鉄)、宇宙空間(例えば、宇宙船、衛星、又は、宇宙探測機)、又は、これらの環境の任意の組み合わせなどの、任意の適切な環境内で動くように構成できる。可動物体は、本明細書中の他の箇所で説明される機体のような機体であり得る。幾つかの実施形態において、可動物体は、人間または動物等の生体に取り付けることができる。適切な動物には、トリ、イヌ、ネコ、ウマ、ウシ、ヒツジ、ブタ、ドルフィン(delphine)、齧歯動物または昆虫が含まれ得る。
【0132】
可動物体は、当該環境内で6自由度(例えば並進の3自由度および回転の3自由度)について自由に移動可能であってもよい。代替的に、可動物体の動きは、予め定められた経路、通路又は方向等によって、1または複数の自由度について制限できる。当該動きは、エンジンまたはモータなどの任意の適切な駆動機構によって作動できる。可動物体の駆動機構は、電気エネルギー、磁気エネルギー、太陽エネルギー、風カエネルギー、重力エネルギー、化学エネルギー、核エネルギー、又は、それらの任意の適切な組み合わせ等の、任意の適切なエネルギー源によって電力を供給され得る。可動物体は、本明細書中の他の箇所で説明するように、推進システムを介して自己推進されてよい。推進システムは、任意に、電気エネルギー、磁気エネルギー、太陽エネルギー、風カエネルギー、重力エネルギー、化学エネルギー、核エネルギー、または、それらの任意の適切な組み合わせ等のエネルギー源で動いてもよい。代替的に、可動物体は、生物によって運ばれてもよい。
【0133】
場合によっては、可動物体は機体であり得る。適切な複数の機体は、複数のウォータービークル、複数の航空機、複数の宇宙航空機、又は、複数の地上輸送体を含んでもよい。例えば、航空機は、固定翼航空機(例えば飛行機、グライダー)、回転翼航空機(例えばヘリコプタ、回転翼機)、固定翼と回転翼との両方を有する航空機、又は、どちらも有さない航空機(例えば飛行船、熱気球)であってもよい。機体は、例えば、空中、水上、水中、宇宙空間、地上、又は、地下で自己推進型であるように、自己推進型であり得る。自己推進機体は、1または複数のエンジン、モータ、車輪、車軸、磁石、回転翼、プロペラ、翼、ノズル、又は、それらの任意の適切な組み合わせを含む推進システムのような、推進システムを利用できる。場合によっては、可動物体が、ある表面から離陸する、ある表面に着陸する、自身の現在位置並びに/若しくは方向を維持する(例えばホバリング)、方向を変更する、及び/又は、位置を変更することを可能にすべく、推進システムを使用できる。
【0134】
可動物体は、ユーザが遠隔から制御でき、又は、可動物体内或いは可動物体上の搭乗者がその場で制御できる。幾つかの実施形態において、可動物体は、UAVのような無人可動物体である。UAVのような無人可動物体は、可動物体に乗る搭乗者を有さなくてもよい。可動物体は、人間若しくは自律制御システム(例えばコンピュータ制御システム)、又は、それらの任意の適切な組み合わせによって制御され得る。可動物体は、人工知能と共に構成されたロボットのような、自律的または半自律的ロボットであり得る。
【0135】
可動物体は、任意の適切なサイズ及び/又は寸法を有することができる。幾つかの実施形態において、可動物体は、機体内或いは機体上に人間の搭乗者を乗せられるサイズ及び/又は寸法であってもよい。代替的に、可動物体は、機体内或いは機体上に人間の搭乗者を乗せることが可能なサイズ及び/又は寸法より小さくてもよい。可動物体は、人間によって持ち上げられ又は運ばれるのに適したサイズ及び/又は寸法であってもよい。代替的に、可動物体は、人間によって持ち上げられ又は運ばれるのに適したサイズ及び/又は寸法より大きくてもよい。場合によっては、可動物体は、およそ、2cm、5cm、10cm、50cm、1m、2m、5m、又は、10mと等しいか、それ未満である最大寸法(例えば長さ、幅、高さ、直径、対角線)を有してもよい。最大寸法は、およそ、2cm、5cm、10cm、50cm、1m、2m、5m、又は、10mと等しいか、それより大きくてもよい。例えば、可動物体の対向する回転翼の複数のシャフト間の距離は、およそ、2cm、5cm、10cm、50cm、1m、2m、5m、又は、10mと等しいか、それ未満であってもよい。代替的に、対向する回転翼の複数のシャフト間の距離は、およそ、2cm、5cm、10cm、50cm、1m、2m、5m、又は、10mと等しいか、それより大きくてもよい。
【0136】
幾つかの実施形態において、可動物体は、100cm×100cm×100cm未満の体積、50cm×50cm×30cm未満の体積、又は、5cm×5cm×3cm未満の体積を有してもよい。可動物体の総体積は、およそ、1cm、2cm、5cm、10cm、20cm、30cm、40cm、50cm、60cm、70cm、80cm、90cm、100cm、150cm、200cm、300cm、500cm、750cm、1000cm、5000cm、10,000cm、100,000cm、1m、又は、10mと等しいか、それ未満であってもよい。逆に、可動物体の総体積は、およそ、1cm、2cm、5cm、10cm、20cm、30cm、40cm、50cm、60cm、70cm、80cm、90cm、100cm、150cm、200cm、300cm、500cm、750cm、1000cm、5000cm、10,000cm、100,000cm、1m、又は、10mと等しいか、それより大きくてもよい。
【0137】
幾つかの実施形態において、可動物体は、およそ、32,000cm、20,000cm、10,000cm、1,000cm、500cm、100cm、50cm、10cm、又は、5cmと等しいか、それ未満の設置面積(可動物体によって覆われる横方向の断面積のことを指してよい)を有してもよい。逆に、設置面積は、およそ、32,000cm、20,000cm、10,000cm、1,000cm、500cm、100cm、50cm、10cm、又は、5cmと等しいか、それより大きくてもよい。
【0138】
場合によっては、可動物体は、1000kg又はそれより軽い重さを有してもよい。可動物体の重量は、およそ、1000kg、750kg、500kg、200kg、150kg、100kg、80kg、70kg、60kg、50kg、45kg、40kg、35kg、30kg、25kg、20kg、15kg、12kg、10kg、9kg、8kg、7kg、6kg、5kg、4kg、3kg、2kg、1kg、0.5kg、0.1kg、0.05kg、又は、0.01kgと等しいか、それ未満であってもよい。逆に、重量は、およそ、1000kg、750kg、500kg、200kg、150kg、100kg、80kg、70kg、60kg、50kg、45kg、40kg、35kg、30kg、25kg、20kg、15kg、12kg、10kg、9kg、8kg、7kg、6kg、5kg、4kg、3kg、2kg、1kg、0.5kg、0.1kg、0.05kg、又は、0.01kgと等しいか、それより重くてもよい。
【0139】
幾つかの実施形態において、可動物体は、可動物体によって運ばれる荷物に対して小さくてもよい。荷物は、以下で更に詳細に説明されるように、積載物及び/又は支持機構を含んでもよい。幾つかの例においては、荷物の重量に対する可動物体の重量の比は、およそ1:1と等しいか、それより大きいか、それ未満であってもよい。場合によっては、荷物の重量に対する可動物体の重量の比は、およそ1:1と等しいか、それより大きいか、それ未満であってもよい。任意に、荷物の重量に対する支持機構重量の比は、およそ1:1と等しいか、それより大きいか、それ未満であってもよい。所望される場合は、荷物の重量に対する可動物体の重量の比は、1:2、1:3、1:4、1:5、1:10、又は、更に小さい比と等しいか、それ未満であってもよい。逆に、荷物の重量に対する可動物体の重量の比は、1:2、1:3、1:4、1:5、1:10、又は、更に小さい比と等しいか、それより大きいものでもあり得る。
【0140】
幾つかの実施形態において、可動物体は低いエネルギー消費量を有してもよい。例えば、可動物体は、およそ、5W/h、4W/h、3W/h、2W/h、1W/h、又は、更に小さい数値と等しいか、それ未満の使用量であってもよい。場合によっては、可動物体の支持機構は、低いエネルギー消費量を有してもよい。例えば、支持機構は、およそ、5W/h、4W/h、3W/h、2W/h、1W/h、又は、更に小さい数値未満の使用量であってもよい。任意に、可動物体の積載物は、およそ、5W/h、4W/h、3W/h、2W/h、1W/h、又は、更に小さい数値未満などの、低いエネルギー消費量を有してもよい。
【0141】
図10は、本願発明の複数の実施形態による、無人航空機(UAV)1000を図示している。UAVは、本明細書で説明される可動物体の一例であってもよい。UAV1000は、4つの回転翼1002、1004、1006および1008を有する推進システムを含むことができる。任意の数の回転翼が提供されてもよい(例えば、1つ、2つ、3つ、4つ、5つ、6つ、又は、それより多くの数)。複数の回転翼は、本明細書の他の箇所で説明される複数の自動引締め回転翼の複数の実施形態であり得る。無人航空機の、複数の回転翼、複数の回転翼組立体、又は、他の複数の推進システムは、無人航空機がホバリングすること/位置を維持すること、方向を変更すること、及び/又は、場所を変更することを可能にしてもよい。対向する回転翼の複数のシャフト間の距離は、任意の適切な長さ1010であり得る。例えば、長さ1010は、2mと等しいか、或いは、それ未満であり得、又は、5mと等しいか、或いは、それ未満であり得る。幾つかの実施形態において、長さ1010は、40cmから1m、10cmから2m、または、5cmから5mの範囲内であり得る。UAVについての本明細書中のいずれの説明も、異なるタイプの可動物体のような可動物体に適用されてもよく、その逆であってもよい。
【0142】
幾つかの実施形態において、可動物体は、荷物を運ぶように構成できる。荷物は、複数の乗客、貨物、設備、機器等のうち1または複数を含むことができる。荷物は、筐体内に設けられ得る。筐体は、可動物体の筐体と別個にされてもよく、又は、可動物体用の筐体の一部であってもよい。代替的に、荷物は筐体を提供され得、その一方で、可動物体は筐体を有さない。代替的に、荷物の複数の部分、又は、荷物全体が、筐体内に設けられ得る。荷物は、可動物体に対して強固に固定され得る。任意に、荷物は、可動物体に対して移動可能であり得る(例えば可動物体に対して並進でき、又は、回転できる)。
【0143】
幾つかの実施形態において、荷物は積載物を含む。積載物は、如何なる動作又は機能も実行しないように構成できる。代替的に、積載物は、機能的な積載物として既知でもある、動作又は機能を実行するように構成された積載物であり得る。例えば、積載物は、1または複数の目標を調査する1または複数のセンサを含むことができる。任意の適切なセンサは、画像キャプチャ装置(例えばカメラ)、音声キャプチャ装置(例えば放射面マイクロフォン)、赤外線撮像装置、又は、紫外線撮像装置のように、積載物へと組み込むことができる。センサによって、静的センシングデータ(例えば写真)又は動的センシングデータ(例えばビデオ)を提供できる。幾つかの実施形態において、センサは、積載物の目標に対するセンシングデータを提供する。代替的に又は組み合わせて、積載物は、複数の信号を1または複数の目標に提供する、1または複数のエミッタを含むことができる。照明源又は音源などの、任意の適切なエミッタを使用できる。幾つかの実施形態において、積載物は、例えば可動物体から離れているモジュールとの通信用のような、1または複数の送受信機を含む。任意に、積載物は、環境または目標と相互作用するように構成できる。例えば、積載物は、ツール、機器、又は、ロボットアームのような複数のオブジェクトを操作することが可能な機構を含むことができる。
【0144】
任意に、荷物は、支持機構を含んでもよい。積載物に対して支持機構を提供でき、積載物は、直接的(例えば可動物体に直接接触する)または間接的(例えば可動物体に接触しない)のいずれか一方で、支持機構を介して可動物体に連結できる。逆に、積載物は、支持機構を必要とすることなく、可動物体上に取り付けできる。積載物は、支持機構と一体的に形成できる。代替的に、積載物は、支持機構に着脱可能に連結できる。幾つかの実施形態において、積載物は、1または複数の積載物要素を含むことができ、複数の積載物要素のうち1または複数は、可動物体、及び/又は、上記で説明した支持機構に対して移動可能であり得る。
【0145】
支持機構は、可動物体と一体的に形成できる。代替的に、支持機構は、可動物体に着脱可能に連結できる。支持機構は、直接的又は間接的に可動物体に連結できる。支持機構は、積載物にサポートを提供できる(例えば、積載物の重量の少なくとも一部を運ぶことができる)。支持機構は、積載物の動きを安定化及び/又は方向づけることが可能な、適切な取り付け構造(例えばジンバルプラットフォーム)を含むことができる。幾つかの実施形態において、支持機構は、可動物体に対する積載物の状態(例えば、位置及び/又は方向)を制御するように適合できる。例えば、積載物が可動物体の動きによらず適切な基準フレームに対して自身の位置及び/又は方向を維持するように、支持機構を可動物体に対して(例えば並進の1、2若しくは3度、及び/又は、回転の1、2若しくは3度について)動くように構成できる。基準フレームは、固定された基準フレーム(例えば周囲環境)であり得る。代替的に、基準フレームは、移動基準フレーム(例えば可動物体、積載物目標)であり得る。
【0146】
幾つかの実施形態において、支持機構は、支持機構及び/又は可動物体に対する積載物の移動を可能にするように構成できる。当該移動は、最大3自由度までについての(例えば、1つ、2つ若しくは3つの軸に沿う)並進移動、若しくは、最大3自由度までについての(例えば、1つ、2つ若しくは3つの軸周りの)回転移動、又は、それらの任意の適切な組み合わせであり得る。
【0147】
場合によっては、支持機構は、支持機構フレーム組立体および支持機構作動組立体を含むことができる。支持機構フレーム組立体は、構造的サポートを積載物に提供できる。支持機構フレーム組立体は、幾つかが相互に移動可能であり得る個別の支持機構フレームコンポーネントを含むことができる。支持機構作動組立体は、個別の支持機構フレームコンポーネントの動きを作動させる1または複数のアクチュエータ(例えば複数のモータ)を含むことができる。複数のアクチュエータは、複数の支持機構フレームコンポーネントが同時に動くことを可能にすることができ、又は、一度に1つの支持機構フレームコンポーネントが動くことを可能にするように構成してもよい。支持機構フレームコンポーネントの動きによって、積載物の対応する動きを生成できる。例えば、支持機構作動組立体は、1または複数の回転軸(例えば、ロール軸、ピッチ軸若しくはヨー軸)周りでの、1または複数の支持機構フレームコンポーネントの回転を作動させることができる。1または複数の支持機構フレームコンポーネントの回転によって、積載物に、可動物体に対して1または複数の回転軸周りで回転させることができる。代替的に又は組み合わせて、支持機構作動組立体は、1または複数の並進軸に沿う1または複数の支持機構フレームコンポーネントの並進移動を作動させることができ、これにより、可動物体に対する、1または複数の対応する軸に沿う積載物の並進移動を生成することができる。
【0148】
幾つかの実施形態において、固定された基準フレーム(例えば周囲環境)に対する、及び/又は、互いに対する、可動物体、支持機構および積載物の動きは、端末が制御できる。端末は、可動物体、支持機構及び/又は積載物から離れた場所にある遠隔制御装置であり得る。端末は、支持プラットフォーム上に配置することができ、又は、支持プラットフォームに取り付けることができる。代替的に、端末は、ハンドヘルドデバイス又はウェアラブルデバイスであり得る。例えば、端末は、スマートフォン、タブレット、ラップトップ、コンピュータ、メガネ、グローブ、ヘルメット、マイク、又は、適切なそれらの組み合わせを含むことができる。端末は、キーボード、マウス、ジョイスティック、タッチスクリーン、又は、ディスプレイ等のユーザインタフェースを含むことができる。手動で入力された複数のコマンド、音声制御、ジェスチャ制御、又は、(例えば、端末の動き、場所、或いは、傾きを介した)位置制御等の任意の適切なユーザ入力を、端末と相互作用すべく使用できる。
【0149】
端末は、可動物体、支持機構、及び/又は、積載物の任意の適切な状態を制御すべく使用され得る。例えば、端末は、固定された基準に対して、互いから及び/又は互いに、可動物体、支持機構及び/又は積載物の、位置及び/又は方向を制御すべく使用され得る。幾つかの実施形態において、端末は、支持機構の作動組立体、積載物のセンサ、又は、積載物のエミッタ等の、可動物体、支持機構及び/又は積載物の個々の要素を制御すべく使用され得る。端末は、可動物体、支持機構、又は、積載物のうち1または複数と通信するように適合された無線通信装置を含むことができる。
【0150】
端末は、可動物体、支持機構及び/又は積載物の情報を見るのに適切な表示ユニットを含むことができる。例えば、端末は、位置、並進速度、並進加速度、方向、角速度、角加速度、又は、任意の適切なそれらの組み合わせに関する、可動物体、支持機構及び/又は積載物の情報を表示するように構成できる。幾つかの実施形態において、端末は、機能的な積載物によって提供されるデータ(例えば、カメラまたは他の画像撮像装置によって記録された複数の画像)のような、積載物によって提供される情報を表示できる。
【0151】
任意に、同じ端末が、可動物体、支持機構及び/又は積載物からの情報を受信及び/又は表示する事と、可動物体、支持機構並びに/若しくは積載物、又は、可動物体、支持機構並びに/若しくは積載物の状態を制御する事との両方を行ってもよい。例えば、端末は、積載物によってキャプチャされた画像データ、又は、積載物の位置についての情報を表示する一方で、ある環境に対する積載物の位置決めを制御してもよい。代替的に、異なる複数の機能用に、異なる複数の端末が使用されてもよい。例えば、第1端末が、可動物体、支持機構及び/又は積載物の動き又は状態を制御してもよく、その一方で、第2端末が、可動物体、支持機構及び/又は積載物からの情報を受信及び/又は表示してもよい。例えば、第1端末が、ある環境に対する積載物の位置決めを制御すべく使用され得る一方で、第2端末が、積載物によってキャプチャされる画像データを表示する。可動物体と、可動物体の制御並びにデータの受信の両方を行う統合された端末との間で、又は、可動物体と、可動物体の制御並びにデータ受信の両方を行う複数の端末との間で、様々な通信モードが利用されてもよい。例えば、可動物体と、可動物体の制御および可動物体からのデータ受信の両方を行う端末との間に、少なくとも2つの異なる通信モードが形成されてもよい。
【0152】
図11は、複数の実施形態による、支持機構1102及び積載物1104を含む可動物体1100を図示している。可動物体1100は航空機として描写されているが、この描写は、限定することを意図されておらず、本明細書で以前に説明したように、任意の適切なタイプの可動物体が使用され得る。当業者であれば、複数の航空機システムに関連して本明細書で説明される複数の実施形態のいずれもが、任意の適切な可動物体(例えばUAV)に適用され得る、ということを理解するだろう。場合によっては、積載物1104は、支持機構1102を必要とせずに、可動物体1100上に提供されてもよい。可動物体1100は、推進機構1106、センシングシステム1108、及び、通信システム1110を含んでもよい。
【0153】
推進機構1106は、以前に説明したように、複数の回転翼、複数のプロペラ、複数の翼、複数のエンジン、複数のモータ、複数の車輪、複数の車軸、複数の磁石、又は、複数のノズルのうち1または複数を含むことができる。例えば、推進機構1106は、本明細書の他の箇所で開示されるように、複数の自動引締め回転翼、複数の回転翼組立体、又は、他の複数の回転式推進ユニットであってもよい。可動物体は、1または複数、2又は3以上、3又は4以上、4又は5以上の推進機構を有してもよい。複数の推進機構は、全て同じタイプであってもよい。代替的に、1または複数の推進機構が、異なるタイプの複数の推進機構であり得る。複数の推進機構1106は、本明細書の他の箇所で説明されるように、支持要素(例えば駆動シャフト)のような任意の適切な手段を使用して、可動物体1100上に取り付けることができる。推進機構1106は、上部、底部、前部、後部、複数の側面、又は、適切なそれらの組み合わせ等、可動物体1100の任意の適切な部分上に取り付けることができる。
【0154】
幾つかの実施形態において、複数の推進機構1106は、可動物体1100の如何なる水平方向の動きも必要とせずに(例えば滑走路を進むことなく)、可動物体1100が、ある表面から鉛直に離陸すること、又は、ある表面に鉛直に着陸することを可能にすることができる。任意に、複数の推進機構1106は、可動物体1100が空中を特定の位置及び/又は方向にホバリングすることを可能にするよう動作できる。複数の推進機構1100のうち1または複数は、他の複数の推進機構と独立して制御されてもよい。代替的に、複数の推進機構1100は、同時に制御されるように構成できる。例えば、可動物体1100は、可動物体に揚力及び/又は推進力を提供することができる、複数の水平に方向付けられた回転翼を有することができる。複数の水平に方向付けられた回転翼は、可動物体1100に、鉛直離陸性能、鉛直着陸性能およびホバリング性能を提供すべく作動され得る。幾つかの実施形態において、水平に方向付けられた複数の回転翼のうち1または複数は、時計回り方向でスピンしてもよく、その一方で、水平に複数の回転翼のうち1または複数は反時計回り方向でスピンしてもよい。例えば、時計回りの複数の回転翼の数は、反時計回りの複数の回転翼の数と等しくてもよい。水平に方向付けられた複数の回転翼の各々の回転速さは、各々の回転翼によって生成される揚力及び/又は推進力を制御すべく独立して変更でき、これにより、(例えば、最大3度までの並進移動、及び、最大3度までの回転移動に関して)可動物体1100の空間的配置、速度及び/又は加速度を調整する。
【0155】
センシングシステム1108は、(例えば、最大3度までの並進移動、及び、最大3度までの回転移動に関して)可動物体1100の空間的配置、速度及び/又は加速度を感知し得る1または複数のセンサを含むことができる。1または複数のセンサは、複数の全地球測位システム(GPS)センサ、運動センサ、慣性センサ、近接センサ、又は、イメージセンサを含むことができる。センシングシステム1108によって提供されるセンシングデータは、(例えば、以下で説明されるような適切な処理ユニット及び/又は制御モジュールを使用して)可動物体1100の空間的配置、速度及び/又は方向を制御すべく使用できる。代替的に、センシングシステム1108は、複数の天気状況、複数の潜在的障害物への近接度、複数の地理的特徴の場所、複数の人工建造物の場所等の、可動物体を取り囲む環境に関するデータを提供すべく使用できる。
【0156】
通信システム1110は、無線信号1116を介して、通信システム1114を有する端末1112と通信することを可能にする。通信システム1110、1114は、無線通信に適した、任意の数の送信機、受信機及び/又は送受信機を含んでもよい。データを一方向だけで送信できるように、通信は単方向通信であってもよい。例えば、単方向通信は、データを端末1112に、又は、その逆に送信する可動物体1100だけを含んでもよい。データは、通信システム1110の1または複数の送信機から、通信システム1112の1または複数の受信機へと、又は、その逆に、送信されてもよい。代替的に、データを可動物体1100と端末1112との間で両方向に送信できるように、通信は双方向通信であってもよい。双方向通信は、データを通信システム1110の1または複数の送信機から通信システム1114の1または複数の受信機へと、又は、その逆に、送信することを含むことができる。
【0157】
幾つかの実施形態において、端末1112は、可動物体1100、支持機構1102および積載物1104のうち1または複数に対して制御データを提供すること、及び、可動物体1100、支持機構1102および積載物1104のうち1または複数からの情報(例えば、可動物体、支持機構または積載物の位置情報及び/又は動き情報、積載物カメラによってキャプチャされた画像データのような積載物によって感知されたデータ)を受信することができる。場合によっては、端末からの制御データは、可動物体、支持機構及び/又は積載物の、複数の相対位置、複数の移動、複数の作動、又は、複数の制御に対する複数の指示を含んでもよい。例えば、制御データによって、(例えば複数の推進機構1106の制御による)可動物体の場所及び/又は方向の変更、又は、(例えば支持機構1102の制御による)可動物体に対する積載物の動き、という結果がもたらされてもよい。端末からの制御データによって、カメラ又は他の画像撮像装置の動作の制御(例えば、複数の静止画又は動画を撮る、ズームイン又はズームアウトする、オン又はオフにする、複数の撮像モードを切り換える、画像解像度を変更する、フォーカスを変更する、被写界深度を変更する、露光時間を変更する、視野角または視野を変更する)のような、積載物の制御という結果がもたらされてもよい。場合によっては、可動物体、支持機構及び/又は積載物からの複数の通信は、1または複数のセンサからの(例えばセンシングシステム1108又は積載物1104の)情報を含んでもよい。複数の通信は、1または複数の異なるタイプのセンサ(例えば、複数のGPSセンサ、複数の運動センサ、複数の慣性センサ、複数の近接センサ又は複数のイメージセンサ)からの感知された情報を含んでもよい。そのような情報は、可動物体、支持機構及び/又は積載物の位置(例えば場所、方向、動き、又は、加速度)に関するものであってもよい。積載物からのそのような情報は、積載物によってキャプチャされたデータ、又は、積載物についての感知された状態を含んでもよい。端末1112によって送信されて提供された制御データは、可動物体1100、支持機構1102又は積載物1104のうち1または複数の状態を制御するように構成できる。代替的に又は組み合わせて、支持機構1102及び積載物1104はまた、端末1112と通信するように構成された通信モジュールを各々含み得、これによって、端末は、独立して、可動物体1100、支持機構1102および積載物1104の各々との通信と、これらの制御とを行うことができる。
【0158】
幾つかの実施形態において、可動物体1100は、端末1112に加えて、又は、端末1112に代えて、他の遠隔装置と通信するように構成できる。端末1112はまた、可動物体1100だけでなく他の遠隔装置と通信するように構成してもよい。例えば、可動物体1100及び/又は端末1112は、他の可動物体、又は、他の可動物体の支持機構或いは積載物と通信してもよい。所望される場合、遠隔装置は、第2端末または他のコンピューティング装置(例えばコンピュータ、ラップトップ、タブレット、スマートフォン、又は、他のモバイル装置)であってもよい。遠隔装置は、データを可動物体1100に送信し、可動物体1100からデータを受信し、データを端末1112に送信し、及び/又は、端末1112からデータを受信するように構成できる。任意に、可動物体1100及び/又は端末1112から受信されたデータがウェブサイトまたはサーバへとアップロードされ得るように、遠隔装置は、インターネットまたは他の通信ネットワークに接続できる。
【0159】
図12は、複数の実施形態による、可動物体を制御するシステム1200のブロック図としての模式図である。システム1200は、本明細書で開示される複数のシステム、複数の装置、及び、複数の方法のうち、任意の適切な実施形態と組み合わせて使用できる。システム1200は、センシングモジュール1202、処理ユニット1204、非一時的コンピュータ可読媒体1206、制御モジュール1208、及び、通信モジュール1210を含むことができる。
【0160】
センシングモジュール1202は、複数の異なる方法で、複数の可動物体に関する情報を収集する、複数の異なるタイプのセンサを利用できる。複数の異なるタイプのセンサは、複数の異なるタイプの信号、又は、複数の異なるソースからの複数の信号を感知してもよい。例えば、複数のセンサは、複数の慣性センサ、複数のGPSセンサ、複数の近接センサ(例えばライダ)、又は、複数のビジョン/イメージセンサ(例えばカメラ)を含むことができる。センシングモジュール1202は、複数のプロセッサを有する処理ユニット1204に、動作可能に連結できる。幾つかの実施形態において、センシングモジュールは、センシングデータを適切な外部装置またはシステムへと直接送信するように構成された送信モジュール1212(例えばWi−Fi画像送信モジュール)に、動作可能に連結できる。例えば、送信モジュール1212は、センシングモジュール1202のカメラによってキャプチャされた複数の画像を遠隔端末へと送信すべく、使用できる。
【0161】
処理ユニット1204は、プログラム可能なプロセッサ(例えば中央演算処理装置(CPU))のような、1または複数のプロセッサを有することができる。処理ユニット1204は、非一時的コンピュータ可読媒体1206に、動作可能に連結できる。非一時的コンピュータ可読媒体1206は、1または複数のステップを実行する目的で、処理ユニット1204が実行可能な、ロジック、コード及び/又は複数のプログラム命令を格納できる。非一時的コンピュータ可読媒体は、1または複数のメモリユニット(例えば、SDカード又はランダムアクセスメモリ(RAM)等のリムーバブルメディア又は外部格納装置)を含むことができる。幾つかの実施形態において、センシングモジュール1202からのデータは、非一時的コンピュータ可読媒体1206の複数のメモリユニットに直接伝達して、その中に格納することができる。非一時的コンピュータ可読媒体1206の複数のメモリユニットは、本明細書で説明される複数の方法の、任意の適切な実施形態を実行すべく、処理ユニット1204が実行可能な、ロジック、コード及び/又は複数のプログラム命令を格納できる。例えば、処理ユニット1204は、処理ユニット1204の1または複数のプロセッサに、センシングモジュールによって生成されるセンシングデータを分析させる複数の指示を実行するように構成できる。複数のメモリユニットは、処理ユニット1204によって処理される予定の、センシングモジュールからのセンシングデータを格納できる。幾つかの実施形態において、非一時的コンピュータ可読媒体1206の複数のメモリユニットは、処理ユニット1204によって生成される複数の処理結果を格納すべく使用できる。
【0162】
幾つかの実施形態において、処理ユニット1204は、可動物体の状態を制御する制御モジュール1208に、動作可能に連結できる。例えば、制御モジュール1208は、可動物体の空間的配置、速度及び/又は加速度を6自由度に関して調整すべく、可動物体の複数の推進機構を制御するように構成できる。代替的に又は組み合わせて、制御モジュール1208は、支持機構の状態、積載物の状態又はセンシングモジュールの状態のうち1または複数を制御できる。
【0163】
処理ユニット1204は、1または複数の外部装置(例えば端末、ディスプレイ装置又はリモートコントローラ)からのデータを送信及び/又は受信するように構成された通信モジュール1210に、動作可能に連結できる。有線通信又は無線通信などの任意の適切な通信手段を使用できる。例えば、通信モジュール1210は、ローカルエリアネットワーク(LAN)、ワイドエリアネットワーク(WAN)、赤外線、無線機、WiFi、ポイントツーポイント(P2P)ネットワーク、電気通信網、クラウド通信等のうち1または複数を利用できる。任意に、複数のタワー、複数の衛星、又は、複数の移動局などの複数の中継局を使用できる。複数の無線通信は、近接度依存型または近接度独立型であり得る。幾つかの実施形態において、通信用に見通し線が必要であってもよく、必要でなくてもよい。通信モジュール1210は、センシングモジュール1202からのセンシングデータ、処理ユニット1204によって生成された複数の処理結果、予め定められた制御データ、端末またはリモートコントローラからの複数のユーザ命令等のうち1または複数を、送信及び/又は受信できる。
【0164】
システム1200の複数のコンポーネントは、任意の適切な構成で配置できる。例えば、システム1200の複数のコンポーネントのうち1または複数は、可動物体、支持機構、積載物、端末、センシングシステム、又は、上記のうち1または複数と通信する追加の外部デバイス上に配置できる。加えて、図12は、単一の処理ユニット1204と、単一の非一時的コンピュータ可読媒体1206とを描写しているが、当業者であれば、これは限定することを意図されておらず、システム1200は複数の処理ユニット及び/又は非一時的コンピュータ可読媒体を含むことができる、ということを理解するだろう。幾つかの実施形態において、複数の処理ユニット及び/又は非一時的コンピュータ可読媒体のうち1または複数は、可動物体上、支持機構上、積載物上、端末上、センシングモジュール上、又は、上記のうち1または複数と通信する追加の外部デバイス上、又は、適切なそれらの組み合わせ等の、複数の異なる場所に位置できる。これにより、システム1200によって実行される処理機能および/またはメモリ機能の任意の適切な態様を、前述の複数の場所のうち1または複数の場所で行うことができる。
【0165】
本明細書で使用されるように、A及び/又はBとは、AまたはBと、AおよびBのような複数のそれらの組み合わせとのうち1または複数を包含する。
【0166】
本願発明の複数の好ましい実施形態が本明細書で示されて説明されたが、その一方で、そのような複数の実施形態は単に例示を目的として提供されるものである、ということは当業者にとって明らかだろう。今や、多数の変形、変更、及び、置換が、本発明から逸脱することなく、当業者に思い浮かばれるだろう。本発明を実施する場合に、本明細書で説明された本発明の複数の実施形態に対する様々な代替案が採用されてもよい、ということが理解されるべきである。以下の複数の請求項が本発明の範囲を画定し、これら複数の請求項の範囲内の複数の方法並びに複数の構造、及び、それらの複数の等価物が、これにより包含されることが意図されている。
[項目1]
ある環境内で可動物体を制御する方法であって、
前記可動物体によって運ばれる複数のセンサのうち少なくとも1つを使用して、前記可動物体の初期の場所を決定するステップと、
前記可動物体に前記環境内で航行させる第1信号を生成するステップと、
前記複数のセンサのうち少なくとも1つを使用して、前記環境に関連するセンシングデータを受信するステップと、
前記センシングデータに基づいて、前記環境の少なくとも一部を表わす環境マップを生成するステップと、
前記初期の場所へと戻る指示を受信するステップと、
前記環境マップに基づいて、前記可動物体に前記初期の場所へと戻らせる第2信号を生成するステップと
を含む、方法。
[項目2]
前記可動物体は、飛行制限領域の存在を検出して、前記飛行制限領域の予め定められた距離内を飛行しないように構成される、請求項1に記載の方法。
[項目3]
前記複数のセンサは全地球測位システム(GPS)センサを含む、請求項1に記載の方法。
[項目4]
前記複数のセンサはビジョンセンサを含む、請求項1に記載の方法。
[項目5]
前記複数のセンサは近接センサを含む、請求項1に記載の方法。
[項目6]
前記近接センサは、以下の、ライダセンサ、超音波センサ又は飛行時カメラセンサのうち少なくとも1つを含む、請求項5に記載の方法。
[項目7]
前記環境マップはトポロジカルマップを含む、請求項1に記載の方法。
[項目8]
前記環境マップはメトリックマップを含む、請求項1に記載の方法。
[項目9]
前記メトリックマップは、以下の、ポイントクラウド、3Dグリッドマップ、2Dグリッドマップ又は2.5Dグリッドマップのうち少なくとも1つを含む、請求項8に記載の方法。
[項目10]
前記メトリックマップは占有グリッドマップを含む、請求項8に記載の方法。
[項目11]
前記第2信号を生成するステップは、
前記複数のセンサのうち少なくとも1つを使用して、前記可動物体の現在の場所を決定するステップと、
前記環境マップに基づいて前記現在の場所から前記初期の場所までの経路を決定するステップと、
前記可動物体に前記初期の場所へと戻る経路に沿って移動させる信号を生成するステップと
を含む、請求項1に記載の方法。
[項目12]
前記経路を決定するステップは、前記現在の場所から前記初期の場所までの最短経路を決定するステップを含む、請求項11に記載の方法。
[項目13]
前記経路を決定するステップは、前記環境内における1または複数の障害物を回避する、前記現在の場所から前記初期の場所までの経路を決定するステップを含む、請求項11に記載の方法。
[項目14]
前記経路は、前記可動物体が以前に通過した1または複数の部分を含む、請求項11に記載の方法。
[項目15]
前記経路は、前記可動物体が以前に通過した経路と異なる、請求項11に記載の方法。
[項目16]
前記経路は、前記可動物体の飛行経路である、請求項11に記載の方法。
[項目17]
前記経路は、前記可動物体の空間的位置および方向を含む、請求項16に記載の方法。
[項目18]
前記経路は、前記可動物体が以前に通過した複数の位置に対応する複数の通過点を含み、前記複数の通過点は、前記可動物体が前記環境内を航行すると記録される、請求項11に記載の方法。
[項目19]
前記複数の通過点は、前記可動物体が前記環境内を航行すると、リアルタイムで記録される、請求項18に記載の方法。
[項目20]
前記複数の通過点は、前記可動物体が前記環境内を航行すると、予め定められた時間間隔で記録される、請求項18に記載の方法。
[項目21]
前記複数の通過点は、リストデータ構造内に格納される、請求項18に記載の方法。
[項目22]
前記可動物体に前記経路に沿って移動させる前記信号を生成するステップは、
前記環境内で前記経路に沿って位置された障害物を検出するステップと、
前記障害物を回避すべく前記経路を変更するステップと、
前記可動物体に前記変更された経路に沿って移動させる信号を生成するステップと
を含む、請求項11に記載の方法。
[項目23]
ある環境内で可動物体を制御するシステムであって、
前記可動物体によって運ばれる複数のセンサと、
1または複数のプロセッサと
を備え、
前記1または複数のプロセッサは、個々に又は集合的に、
前記複数のセンサのうち少なくとも1つを使用して、前記可動物体の初期の場所を決定し、
前記可動物体に前記環境内で航行させる第1信号を生成し、
前記複数のセンサのうち少なくとも1つを使用して、前記環境に関連するセンシングデータを受信し、
前記センシングデータに基づいて、前記環境の少なくとも一部を表わす環境マップを生成し、
前記初期の場所へと戻る指示を受信し、
前記環境マップに基づいて、前記可動物体に前記初期の場所へと戻るべく航行させる第2信号を生成するように構成される、
システム。
[項目24]
ある環境内で無人航空機を制御する方法であって、
前記無人航空機に前記環境内で航行させる第1信号を生成するステップと、
前記無人航空機によって運ばれる複数のセンサを使用して、前記環境の少なくとも一部に関連するセンシングデータを受信するステップと、
前記センシングデータに基づいて、前記環境の少なくとも一部を表わす環境マップを生成するステップと、
前記環境マップを使用して、前記環境の一部に位置する1または複数の障害物を検出するステップと、
前記環境マップを使用して、前記無人航空機に前記1または複数の障害物を回避すべく航行させる第2信号を生成するステップと
を含む、方法。
[項目25]
前記無人航空機は、飛行制限領域の存在を検出して、前記飛行制限領域の予め定められた距離内を飛行しないように構成される、請求項24に記載の方法。
[項目26]
前記複数のセンサは全地球測位システム(GPS)センサを含む、請求項24に記載の方法。
[項目27]
前記複数のセンサはビジョンセンサを含む、請求項24に記載の方法。
[項目28]
前記複数のセンサは近接センサを含む、請求項24に記載の方法。
[項目29]
前記近接センサは、以下の、ライダセンサ、超音波センサ又は飛行時カメラセンサのうち少なくとも1つを含む、請求項28に記載の方法。
[項目30]
前記環境マップはトポロジカルマップを含む、請求項24に記載の方法。
[項目31]
前記環境マップはメトリックマップを含む、請求項24に記載の方法。
[項目32]
前記メトリックマップは、以下の、ポイントクラウド、3Dグリッドマップ、2Dグリッドマップ又は2.5Dグリッドマップのうち少なくとも1つを含む、請求項31に記載の方法。
[項目33]
前記メトリックマップは占有グリッドマップを含む、請求項31に記載の方法。
[項目34]
前記第1信号は、前記無人航空機と通信する遠隔端末から受信する複数の指示に基づいて生成される、請求項24に記載の方法。
[項目35]
前記複数の指示は、ユーザによって前記遠隔端末に入力される、請求項34に記載の方法。
[項目36]
前記第1信号は、前記無人航空機によって自律的に生成される、請求項24に記載の方法。
[項目37]
前記センシングデータは、複数の異なる座標系に対するデータを含み、前記環境マップを生成するステップは、前記データを単一座標系へとマッピングするステップを含む、請求項24に記載の方法。
[項目38]
前記第1信号を生成するステップは、前記無人航空機用の飛行経路を生成するステップを含み、前記第2信号を生成するステップは、前記1または複数の障害物を回避すべく、前記環境マップに基づいて前記飛行経路を変更するステップを含む、請求項24に記載の方法。
[項目39]
前記飛行経路は、前記無人航空機を現在位置から前の位置へと向けるように構成される、請求項38に記載の方法。
[項目40]
ある環境内で無人航空機を制御するシステムであって、
前記無人航空機によって運ばれる複数のセンサと、
1または複数のプロセッサと
を備え、
前記1または複数のプロセッサは、個々に又は集合的に、
前記無人航空機に前記環境内で航行させる第1信号を生成し、
前記無人航空機によって運ばれる複数のセンサを使用して、前記環境の少なくとも一部に関連するセンシングデータを受信し、
前記センシングデータに基づいて、前記環境の少なくとも一部を表わす環境マップを生成し、
前記環境マップを使用して、前記環境の前記一部に位置する1または複数の障害物を検出し、
前記環境マップを使用して、前記無人航空機に前記1または複数の障害物を回避すべく航行させる第2信号を生成するように構成される、
システム。
[項目41]
ある環境内で無人航空機を制御する方法であって、
前記環境に関連する第1センシング信号を第1センサから受信して、前記環境に関連する第2センシング信号を第2センサから受信するステップと、
前記第1センシング信号を使用する第1環境マップと、前記第2センシング信号を使用する第2環境マップとを生成するステップと、
前記第1環境マップ及び前記第2環境マップを組み合わせるステップと
を含み、
前記第1センサ及び前記第2センサは、複数の異なるセンサタイプであり、前記無人航空機によって運ばれ、
前記第1環境マップ及び前記第2環境マップの各々は、前記環境に対する障害物占有情報を含み、
これにより、前記環境に対する障害物占有情報を含む最終環境マップを生成する、
方法。
[項目42]
少なくとも部分的に前記最終環境マップにおける前記障害物占有情報に基づいて、前記無人航空機に前記環境内で航行させる信号を生成するステップを更に含む、請求項41に記載の方法。
[項目43]
前記無人航空機は、飛行制限領域の存在を検出して、前記飛行制限領域の予め定められた距離内を飛行しないように構成される、請求項41に記載の方法。
[項目44]
前記第1センサまたは前記第2センサのうち少なくとも1つは全地球測位システム(GPS)センサを含む、請求項41に記載の方法。
[項目45]
前記第1センサまたは前記第2センサのうち少なくとも1つはビジョンセンサを含む、請求項41に記載の方法。
[項目46]
前記第1センサまたは前記第2センサのうち少なくとも1つは近接センサを含む、請求項41に記載の方法。
[項目47]
前記近接センサは、以下の、ライダセンサ、超音波センサ又は飛行時カメラセンサのうち少なくとも1つを含む、請求項46に記載の方法。
[項目48]
前記最終環境マップはトポロジカルマップを含む、請求項41に記載の方法。
[項目49]
前記最終環境マップはメトリックマップを含む、請求項41に記載の方法。
[項目50]
前記メトリックマップは、以下の、ポイントクラウド、3Dグリッドマップ、2Dグリッドマップ又は2.5Dグリッドマップのうち少なくとも1つを含む、請求項49に記載の方法。
[項目51]
前記メトリックマップは占有グリッドマップを含む、請求項49に記載の方法。
[項目52]
前記第1環境マップは、第1座標系に対して提供され、前記第2環境マップは、前記第1座標系と異なる第2座標系に対して提供される、請求項41に記載の方法。
[項目53]
前記第1座標系は全体座標系であり、前記第2座標系は局所座標系である、請求項52に記載の方法。
[項目54]
前記第1環境マップ及び前記第2環境マップを組み合わせるステップは、前記第1環境マップ及び前記第2環境マップを単一座標系に変換するステップを含む、請求項52に記載の方法。
[項目55]
前記第1センサのセンシング範囲は、前記第2センサのセンシング範囲と異なる、請求項41に記載の方法。
[項目56]
ある環境内で無人航空機を制御するシステムであって、
前記無人航空機によって運ばれ、前記環境に関連する第1センシング信号を生成するように構成される第1センサと、
前記無人航空機によって運ばれ、前記環境に関連する第2センシング信号を生成するように構成される第2センサと、
1または複数のプロセッサと
を備え、
前記第2センサ及び前記第1センサは複数の異なるセンサタイプであり、
前記1または複数のプロセッサは、個々に又は集合的に、
前記第1センシング信号及び前記第2センシング信号を受信し、
前記第1センシング信号を使用して第1環境マップを生成して、前記第2センシング信号を使用して第2環境マップを生成し、
前記第1環境マップ及び前記第2環境マップを組み合わせるように構成され、
前記第1環境マップ及び前記第2環境マップの各々は、前記環境に対する障害物占有情報を含み、
これにより、前記環境に対する障害物占有情報を含む最終環境マップを生成する、
システム。
[項目57]
ある環境内で無人航空機を制御する方法であって、
前記無人航空機によって運ばれる複数のセンサのうち少なくとも1つを使用して、前記無人航空機の初期の場所を決定するステップと、
前記無人航空機に前記環境内で航行させる第1信号を生成するステップと、
前記複数のセンサのうち少なくとも1つを使用して、前記環境に関連するセンシングデータを受信するステップと、
前記初期の場所へと戻る指示を受信するステップと、
前記無人航空機に経路に沿って前記初期の場所へと戻らせる第2信号を生成するステップと
を含み、
前記複数のセンサのうち少なくとも1つが前記環境内で前記経路に沿って位置された障害物を検出した場合、前記経路は、前記障害物を回避すべく変更される、
方法。
[項目58]
前記無人航空機は、飛行制限領域の存在を検出して、前記飛行制限領域の予め定められた距離内を飛行しないように構成される、請求項57に記載の方法。
[項目59]
前記複数のセンサは全地球測位システム(GPS)センサを含む、請求項57に記載の方法。
[項目60]
前記複数のセンサはビジョンセンサを含む、請求項57に記載の方法。
[項目61]
前記複数のセンサは近接センサを含む、請求項57に記載の方法。
[項目62]
前記近接センサは、以下の、ライダセンサ、超音波センサ又は飛行時カメラセンサのうち少なくとも1つを含む、請求項61に記載の方法。
[項目63]
前記環境マップはトポロジカルマップを含む、請求項57に記載の方法。
[項目64]
前記環境マップはメトリックマップを含む、請求項57に記載の方法。
[項目65]
前記メトリックマップは、以下の、ポイントクラウド、3Dグリッドマップ、2Dグリッドマップ又は2.5Dグリッドマップのうち少なくとも1つを含む、請求項64に記載の方法。
[項目66]
前記メトリックマップは占有グリッドマップを含む、請求項64に記載の方法。
[項目67]
前記経路は、前記無人航空機が以前に通過した1または複数の部分を含む、請求項57に記載の方法。
[項目68]
前記経路は、前記無人航空機が以前に通過した経路と異なる、請求項57に記載の方法。
[項目69]
前記経路は、前記無人航空機の飛行経路である、請求項57に記載の方法。
[項目70]
前記経路は、前記無人航空機の空間的位置および方向を含む、請求項69に記載の方法。
[項目71]
ある環境内で無人航空機を制御するシステムであって、
前記無人航空機によって運ばれる複数のセンサと、
1または複数のプロセッサと
を備え、
前記1または複数のプロセッサは、個々に又は集合的に、
前記無人航空機によって運ばれる複数のセンサのうち少なくとも1つを使用して、前記無人航空機の初期の場所を決定し、
前記無人航空機に前記環境内で航行させる第1信号を生成し、
前記複数のセンサのうち少なくとも1つを使用して、前記環境に関連するセンシングデータを受信し、
前記初期の場所へと戻る指示を受信し、
前記無人航空機に経路に沿って前記初期の場所へと戻らせる第2信号を生成するように構成され、
前記複数のセンサのうち少なくとも1つが前記環境内で前記経路に沿って位置された障害物を検出した場合、前記経路は、前記障害物を回避すべく変更される、
システム。
[項目72]
ある環境のマップを生成する方法であって、
無人航空機によって運ばれる1または複数のビジョンセンサから、前記環境に対する深度情報を含む第1センシングデータを受信するステップと、
前記無人航空機によって運ばれる1または複数の近接センサから、前記環境に対する深度情報を含む第2センシングデータを受信するステップと、
前記第1センシングデータ及び前記第2センシングデータを使用して、前記環境に対する深度情報を含む環境マップを生成するステップと
を含む、方法。
[項目73]
前記第1センシングデータ及び前記第2センシングデータの各々は、複数のピクセルを有する少なくとも1つの画像を含み、前記複数のピクセルの各ピクセルは、2次元画像座標及び深度値に関連付けられている、請求項72に記載の方法。
[項目74]
前記複数のピクセルの各ピクセルは、色値と関連付けられる、請求項73に記載の方法。
[項目75]
前記第1センシングデータ及び前記第2センシングデータの各々は、前記環境内の1または複数の物体に対するシルエット情報を含む、請求項72に記載の方法。
[項目76]
少なくとも部分的に前記環境マップにおける前記深度情報に基づいて、前記無人航空機に前記環境内を航行させる信号を生成するステップを更に含む、請求項72に記載の方法。
[項目77]
前記無人航空機は、飛行制限領域の存在を検出して、前記飛行制限領域の予め定められた距離内を飛行しないように構成される、請求項72に記載の方法。
[項目78]
前記1または複数のビジョンセンサは単一のカメラを含む、請求項72に記載の方法。
[項目79]
前記1または複数のビジョンセンサは2又は3以上のカメラを含む、請求項72に記載の方法。
[項目80]
前記1または複数の近接センサは、少なくとも1つの超音波センサを含む、請求項72に記載の方法。
[項目81]
前記1または複数の近接センサは、少なくとも1つのライダセンサを含む、請求項72に記載の方法。
[項目82]
前記第1センシングデータは第1セットの深度画像を含み、前記第2センシングデータは第2セットの深度画像を含む、請求項72に記載の方法。
[項目83]
前記環境マップを生成するステップは、
前記第1セットの深度画像に存在する第1の複数の特徴点を識別するステップと、
前記第2セットの深度画像に存在する第2の複数の特徴点を識別するステップと、
前記第1の複数の特徴点と前記第2の複数の特徴点との間の対応を決定するステップと、
前記対応に基づいて、前記第1セットの深度画像と前記第2セットの深度画像とを組み合わせることによって前記環境マップを生成するステップと
を含み、
前記第2の複数の特徴点の各々は、前記第1の複数の特徴点の1つに対応する、請求項82に記載の方法。
[項目84]
前記第1センシングデータは、第1座標系に対して提供され、前記第2センシングデータは、前記第1座標系と異なる第2座標系に対して提供される、請求項72に記載の方法。
[項目85]
前記環境マップを生成するステップは、第3座標系に対して前記第1センシングデータ及び前記第2センシングデータを表現するステップを含む、請求項84に記載の方法。
[項目86]
前記第3座標系は、前記第1座標系または前記第2座標系のいずれか一方である、請求項85に記載の方法。
[項目87]
前記第3座標系は、前記第1座標系および前記第2座標系と異なる、請求項85に記載の方法。
[項目88]
前記環境マップはトポロジカルマップを含む、請求項72に記載の方法。
[項目89]
前記環境マップはメトリックマップを含む、請求項72に記載の方法。
[項目90]
前記メトリックマップは、以下の、ポイントクラウド、3Dグリッドマップ、2Dグリッドマップ又は2.5Dグリッドマップのうち少なくとも1つを含む、請求項89に記載の方法。
[項目91]
前記メトリックマップは占有グリッドマップを含む、請求項89に記載の方法。
[項目92]
ある環境のマップを生成するシステムであって、
無人航空機によって運ばれ、前記環境に対する深度情報を含む第1センシングデータを生成するように構成される、1または複数のビジョンセンサと、
前記無人航空機によって運ばれ、前記環境に対する深度情報を含む第2センシングデータを生成するように構成される、1または複数の近接センサと、
1または複数のプロセッサと
を備え、
前記1または複数のプロセッサは、個々に又は集合的に、
前記第1センシングデータ及び前記第2センシングデータを受信し、
前記第1センシングデータ及び前記第2センシングデータを使用して、前記環境に対する深度情報を含む環境マップを生成するように構成される、
システム。
図1A
図1B
図2A
図2B
図3A
図3B
図4
図5
図6
図7
図8A
図8B
図9A
図9B
図10
図11
図12