IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ベリティ ストゥディオス アーゲーの特許一覧

特表2024-501191反射性目印および他の特徴を使用して位置特定装置の姿勢を推定するためのシステムおよび方法
<>
  • 特表-反射性目印および他の特徴を使用して位置特定装置の姿勢を推定するためのシステムおよび方法 図1
  • 特表-反射性目印および他の特徴を使用して位置特定装置の姿勢を推定するためのシステムおよび方法 図2
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-01-11
(54)【発明の名称】反射性目印および他の特徴を使用して位置特定装置の姿勢を推定するためのシステムおよび方法
(51)【国際特許分類】
   G06T 7/70 20170101AFI20231228BHJP
   G01C 21/30 20060101ALI20231228BHJP
   G05D 1/43 20240101ALI20231228BHJP
【FI】
G06T7/70 Z
G01C21/30
G05D1/02 K
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2023535398
(86)(22)【出願日】2021-12-13
(85)【翻訳文提出日】2023-07-11
(86)【国際出願番号】 IB2021061640
(87)【国際公開番号】W WO2022144655
(87)【国際公開日】2022-07-07
(31)【優先権主張番号】63/132,209
(32)【優先日】2020-12-30
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】517311080
【氏名又は名称】ベリティ アーゲー
(74)【代理人】
【識別番号】100078282
【弁理士】
【氏名又は名称】山本 秀策
(74)【代理人】
【識別番号】100113413
【弁理士】
【氏名又は名称】森下 夏樹
(74)【代理人】
【識別番号】100181674
【弁理士】
【氏名又は名称】飯田 貴敏
(74)【代理人】
【識別番号】100181641
【弁理士】
【氏名又は名称】石川 大輔
(74)【代理人】
【識別番号】230113332
【弁護士】
【氏名又は名称】山本 健策
(72)【発明者】
【氏名】ヘーン, マルクス
(72)【発明者】
【氏名】ヴィトマー, リノ
【テーマコード(参考)】
2F129
5H301
5L096
【Fターム(参考)】
2F129AA11
2F129BB03
2F129BB49
2F129GG17
5H301AA01
5H301AA06
5H301BB14
5H301BB20
5H301CC03
5H301CC04
5H301CC06
5H301CC07
5H301CC08
5H301CC10
5H301DD01
5H301DD06
5H301DD07
5H301DD15
5H301FF07
5H301FF11
5H301GG09
5L096AA06
5L096BA05
5L096CA04
5L096CA05
5L096DA02
5L096FA09
5L096FA62
5L096FA66
5L096FA67
5L096FA69
5L096GA55
5L096HA05
(57)【要約】
本発明は、時間tにおける位置特定装置の状態xを決定する方法に関し、方法は、a)屋内環境における着目場面の第1の画像を受信することと、b)屋内環境における着目場面の第2の画像を受信することと、c)時間tにおける位置特定装置の状態推定を受信することと、d)着目場面におけるn個の現在マッピングされている同時位置特定およびマッピング(SLAM)目印の位置を受信することと、e)第1の画像におけるM個の特徴の位置を決定することと、f)第2の画像におけるL個のSLAM特徴の位置を決定することと、L個のSLAM特徴のうちのm個のSLAM特徴を決定することと、g)連結観察モデルを設定することと、h)時間tにおける位置特定装置の状態xを決定し、n個の現在マッピングされているSLAM目印の位置を更新することとを含む。
【特許請求の範囲】
【請求項1】
時間tにおける位置特定装置の状態x(9)を決定する方法であって、前記状態xは、状態ランダム変数Xの実現値であり、前記方法は、
a)屋内環境(15)における着目場面(15)の第1の画像(1)を受信することであって、前記屋内環境(15)は、世界座標系(12)において既知の位置を有するN個の事前配置された目印(16)を備え、Nは、自然数である、ことと、
b)前記屋内環境(15)における着目場面(15)の第2の画像(2)を受信することと、
c)前記時間tにおける前記位置特定装置の状態推定
【数20】
(3)を受信することと、
d)前記着目場面(15)におけるn個の現在マッピングされている同時位置特定およびマッピング(SLAM)目印(4)の位置を受信することであって、マップ状態sが、少なくとも、(i)位置特定装置の前記状態xと、(ii)前記n個の現在マッピングされているSLAM目印(4)の前記位置と、(iii)前記N個の事前配置された目印(16)の前記位置とを備えている、ことと、
e)前記第1の画像(1)におけるM個の特徴の位置を決定すること(5)であって、Mは、N以下の自然数である、ことと、前記M個の特徴から、前記N個の事前配置された目印(16)の組への単射マッピング推定を決定すること(5)と、
f)前記第2の画像(2)におけるL個のSLAM特徴の位置を決定すること(6)と、前記L個のSLAM特徴のうちのm個のSLAM特徴を決定することであって、前記m個のSLAM特徴は、前記n個の現在マッピングされているSLAM目印(4)に関係付けられている、ことと、前記m個のSLAM特徴から、前記n個の現在マッピングされているSLAM目印(4)の組へのSLAM単射マッピング推定を決定すること(6)と、
g)前記決定された単射マッピング推定と、前記決定されたSLAM単射マッピング推定とを使用して、状態-空間モデルの一部として、連結観察モデルを設定すること(7)であって、前記連結観察モデルは、連結観察ランダム変数Zの上にマップ状態ランダム変数Sをマップするように構成され、前記マップ状態sは、前記マップ状態ランダム変数Sの実現値であり、前記時間tにおいて、観察zは、前記連結観察ランダム変数Zの実現値であり、前記観察は、前記第1の画像(1)における前記M個の特徴のうちの少なくとも1つの前記位置と、前記第2の画像(2)における前記m個のSLAM特徴のうちの少なくとも1つの前記位置とを備えている、ことと、
h)(i)前記状態推定
【数21】
(3)と、(ii)前記連結観察モデルと、(iii)前記観察zとを使用して、前記時間tにおける前記位置特定装置の前記状態x(9)を決定することと、前記n個の現在マッピングされているSLAM目印の前記位置を更新すること(8)とを行うことと
を含む、方法。
【請求項2】
前記第1の画像(1)および前記第2の画像(2)は、前記時間tにおいて捕捉される、請求項1に記載の方法。
【請求項3】
前記連結観察モデルは、前記M個の特徴のうちの少なくとも1つの前記位置の上への前記単射マッピング推定を用いた前記M個の特徴のうちの少なくとも1つに対応する前記N個の事前配置された目印(16)のうちの少なくとも1つのマッピングを説明する第1の観察モデルを備え、前記連結観察モデルは、前記m個のSLAM特徴のうちの少なくとも1つの前記位置の上への前記SLAM単射マッピング推定を用いた前記m個のSLAM特徴のうちの少なくとも1つに対応する前記n個の現在マッピングされているSLAM目印(4)のうちの少なくとも1つの前記マッピングを説明するSLAM観察モデルを備えている、請求項1または2に記載の方法。
【請求項4】
以降、IMEと称される前記単射マッピング推定は、前記M個の特徴を前記M個の事前割り当てされた目印とリンクし、以降、SLAM-IMEと称される前記SLAM単射マッピング推定は、前記m個のSLAM特徴を前記m個のSLAM目印とリンクし、前記M個の特徴のうちの特徴iに関して、前記対応する目印は、目印IME(i)であり、前記m個のSLAM特徴のうちの特徴jに関して、前記対応するSLAM目印は、SLAM目印SLAM-IME(j)であり、
特徴-目印対(i,IME(i))に関して、およびSLAM特徴/SLAM目印対(j,SLAM-IME(j))に関して、
前記連結観察モデルは、前記状態ランダム変数Xおよび目印の位置POS(IME(i))、XおよびSLAM目印POS(SLAM-IME(j),k))に、それぞれ、前記観察ランダム変数Zk,i、Zk,jをリンクし、前記連結観察ランダム変数Zは、前記観察ランダム変数Zk,i、Zk,jを備え、
k,i=h(X,POS(IME(i)),i=1,・・・,M、および
k,j=hSLAM(X,POS(SLAM-IME(i),k),j=1,・・・,m
であり、式中、h(・)は、前記第1の観察モデルであり、hSLAM(・)は、前記SLAM観察モデルである、請求項1-3のいずれか1項に記載の方法。
【請求項5】
前記N個の事前配置された目印(16)に関係付けられた前記M個の特徴は、実質的に互いに区別できず、前記屋内環境(15)は、前記世界座標系(12)において先験的な未知の位置を伴うK個の追加の目印を備え、K個の追加の目印のうちのH(≦K)個の追加の目印は、前記着目場面(15)内にあり、前記K個の追加の目印のうちのP個の現在推定されている位置は、前記マップ状態sの一部であり、前記H個の追加の目印は、前記第1の画像(1)において実質的に前記M個の特徴と区別できない追加の特徴として捕捉され、
前記方法は、
1)前記M個の特徴の前記位置の前記決定(5)と一緒に、前記H個の追加の特徴の位置を決定すること(5)であって、前記決定(5)は、それによって、前記第1の画像(1)における前記特徴および前記追加の特徴のM+H個の位置を提供する、ことと、
2)前記M+H個の特徴および追加の特徴の前記位置をM+R個の位置を備えている第1の組とQ個の位置を備えている第2の組とに分離すること(5)であって、R≦Pであり、H=R+Qである、ことと、
3)前記第1の組から、前記N個の事前配置された目印の前記位置と前記P個の現在推定されている位置とを備えている区別できない目印の組への前記単射マッピング推定を決定する(5)ことと、
4)前記第2の組に基づいて、前記マップ状態sを更新することと
をさらに含む、請求項1-4のいずれかに記載の方法。
【請求項6】
前記第1の画像(1)は、第1のカメラ中心および第1の画像センサを伴う第1のカメラ(11)によって捕捉され、前記世界座標系(12)における第1のカメラ中心の位置は、前記状態推定
【数22】
(3)に基づいて決定され(5)、前記分離すること(5)は、M+H個の位置の組における各要素に関して、
(i)初期点として前記第1のカメラ中心を有し、さらなる点として前記それぞれの要素の前記2D位置に対応する3D位置を有する光線を決定するステップであって、前記3D位置は、前記状態推定
【数23】
(3)と、前記位置特定装置と前記第1の画像センサとの間の既知の空間的関係とに基づいて決定される、ステップと、
(ii)前記区別できない目印の組内の任意の目印が、前記それぞれの光線の上への直交投影によって測定されたとき、事前設定された距離閾値より前記それぞれの光線に近い場合、前記それぞれの要素を前記第1の組に割り当て、そうでなければ、前記それぞれの要素を前記第2の組に割り当てるステップと
を遂行することによって進行し、前記M+H個の位置は、前記第1の画像センサの座標系において測定される2D位置である、請求項5に記載の方法。
【請求項7】
前記観察は、前記第1の画像(1)におけるR個の追加の特徴のうちの少なくとも1つの前記位置をさらに備え、前記n個の現在マッピングされているSLAM目印の前記位置の前記更新と一緒に、追加の目印の前記P個の現在推定されている位置が、更新される、請求項5または6に記載の方法。
【請求項8】
前記第1の観察モデルは、前記R個の追加の特徴のうちの少なくとも1つの前記位置の上への前記単射マッピング推定を用いた前記R個の追加の特徴のうちの少なくとも1つに対応する前記R個の追加の目印のうちの少なくとも1つの前記マッピングをさらに説明する請求項7に記載の方法。
【請求項9】
前記状態xの前記決定(8)は、(i)前記状態推定
【数24】
(3)と、(ii)前記連結観察モデルと、(iii)前記観察zとを使用して、拡張カルマンフィルタを前記状態-空間モデルに適用することによって提供される更新式を使用することによって行われ、前記更新式は、前記連結観察モデルのヤコビ行列を含み、前記第1の観察モデルの前記ヤコビ行列は、前記状態推定
【数25】
(3)において評価され、前記SLAM観察モデルの前記ヤコビ行列は、少なくとも前記状態推定
【数26】
(3)において、かつ前記n個の現在マッピングされているSLAM目印(4)において評価される、請求項1-8のいずれかに記載の方法。
【請求項10】
全てのM個の特徴および全てのm個のSLAM特徴に対応する前記更新式は、連続してかつ独立して呼び出される、請求項9に記載の方法。
【請求項11】
前記第1の画像(1)は、光源(10)が着目場面(15)を照明する光を放出するように動作させられると、前記第1のカメラ(11)によって捕捉される、請求項1-10のいずれか1項に記載の方法。
【請求項12】
命令を備えているコンピュータプログラム製品であって、前記命令は、コンピュータによって実行されると、請求項1-11のいずれか1項に記載の方法を前記コンピュータに遂行させる、コンピュータプログラム製品。
【請求項13】
アセンブリであって、前記アセンブリは、(a)位置特定装置と、(b)前記位置特定装置上に配置された第1のカメラ(11)と、(c)屋内環境(15)における複数の事前配置された目印(16)と、(d)コントローラとを備え、前記コントローラは、請求項1-11のうちの1項に記載の方法を遂行するように構成されている、アセンブリ。
【請求項14】
前記位置特定装置上に配置された第2のカメラをさらに備え、前記第1のカメラ(11)は、前記屋内環境の天井が前記第1のカメラの視野内にあるような方法で前記位置特定装置上に配置され、前記第1のカメラのカメラ軸は、前記第1のカメラの視野内にあり、前記第2のカメラは、前記第2のカメラのカメラ軸が前記第1のカメラの前記カメラ軸に実質的に直交するような方法で前記位置特定装置上に配置されている、請求項13に記載のアセンブリ。
【請求項15】
光源(10)をさらに備え、前記光源(10)は、前記位置特定装置上に、および/または、少なくとも1つの追加の目印に配置される、請求項13または14のいずれか1項に記載のアセンブリ。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ある時間tにおける位置特定装置の状態xを決定する方法に関し、コンピュータプログラム製品およびアセンブリに関する。
【背景技術】
【0002】
ロボット(例えば、ドローン)の屋内ナビゲーションは、例えば、自動式倉庫の分野において重要な問題である。そのようなロボットは、位置特定エージェントである。屋内ナビゲーションを促進するために、ロボット(例えば、ドローン)は、その環境に対するその現在の位置を把握する必要がある。高い位置特定の正確さを提供するGNSS(全地球航法衛星システム)が採用され得る屋外環境とは対照的に、屋内環境におけるGNSSは、多くの場合、信号減衰およびマルチパス効果に起因して信頼性がない。屋内および屋外空間のための既存のRF位置特定技術も、複雑な環境において(例えば、有意な量の金属の存在下)、有用性を限定する信号減衰およびマルチパス効果に悩まされる。
【0003】
従来技術では、屋内での位置特定のための光学的位置特定システムが、公知である。そのような光学的位置特定システムは、カメラによって捕捉される画像から、情報を抽出する。そして、その姿勢が決定されるべき物体の場所は、2次元カメラ画像における特徴の座標をその特徴に対応する3次元光線に関連付けた後、三角測量技法を使用して計算されることができる。画像座標と3次元光線との間の関連性は、典型的に、第一原理カメラモデル(ピンホールまたは魚眼カメラモデル等)と、較正歪みモデル(典型的に、レンズ特性、搭載許容誤差、および第一原理モデルからの他の偏差を捕捉する)とを組み合わせて捕捉される。
【0004】
従来技術において公知である位置特定装置の場所を決定するための光学的位置特定システムでは、カメラは、位置特定装置の外側にしっかりと搭載され、位置特定装置の運動を観察することができるか(「アウトサイドイン追跡」)、または、カメラは、位置特定装置自体上に搭載され、環境の見掛け運動を観察することができる(「インサイドアウト追跡」)。アウトサイドイン追跡位置特定システムが、典型的に、カメラの既知の場所に対する位置特定装置の場所を決定する一方、SLAM(同時位置特定およびマッピング)と同様のインサイドアウト追跡システムは、典型的に、位置特定装置が移動する環境のマップを生成する。マップは、環境の少なくとも一部の場所が外部の座標系に対してすでに既知である場合、または、カメラの初期姿勢が外部の座標系に対して既知である場合、外部の座標系に関係付けられることが可能なある座標系において表される。両方の場合において、マップが、カメラの初期視野から、または、既知の場所を伴う環境の一部から離れて拡大されるにつれて、ある誤差が、累積されるであろう。誤差を伝搬する潜在性は、場所情報が外部情報を参照しなければならない用途に関して問題である(例えば、所定のマップに位置特定装置の場所を表示するために;それを別のそのような位置特定装置の場所に関連付けるために;または、位置特定装置を外部座標系において既知である場所に誘導するためにその場所が使用されるとき)。
【0005】
アウトサイドイン光学的位置特定システムは、位置特定装置の3D位置を三角測量するために、全ての点において、位置特定装置が、いくつかのカメラによって見られなければならないので、典型的に、より大きな位置特定システムに対して、非常に不十分にスケーリングされる。特に、少数の位置特定装置しか追跡されないより大きな空間に関して、これは、経済的に実行可能ではない。
【0006】
位置特定装置の例として、例えば、ドローン上に搭載されるカメラの位置および向きは、位置特定装置の状態を決定するために使用され得、その状態は、経時的に追跡され得る。しかしながら、位置特定装置の状態を決定するための既存の方法は、適正なレベルの正確さを提供せず、したがって、多くの用途における使用に関して、それらを不十分なものにする。
【0007】
本発明の目的は、最新技術から公知である位置特定装置の状態xを決定する方法に関連付けられた不利点のうちの少なくともいくつかを軽減することである。
【発明の概要】
【課題を解決するための手段】
【0008】
本発明の第1の側面によると、位置特定装置の状態xを決定する方法が、提供され、請求項1に規定されるステップを伴う。本発明の方法のさらなる随意の特徴および実施形態が、従属特許請求項において説明される。
【0009】
本発明は、ある時間tにおける位置特定装置の状態xを決定する方法に関し、状態xは、状態ランダム変数Xの実現値である。方法は、以下のステップを含む:a)屋内環境における着目場面の第1の画像を受信するステップであって、屋内環境は、世界座標系において既知の位置を有するN個の事前配置された目印を備え、Nは、自然数である、ステップ;b)屋内環境における着目場面の第2の画像を受信するステップと、c)時間tにおける位置特定装置の状態推定
【数1】
を受信するステップ;d)着目場面におけるn個の現在マッピングされている同時位置特定およびマッピング(SLAM)目印の位置を受信するステップであって、マップ状態sは、少なくとも、(i)位置特定装置の状態xと、(ii)n個の現在マッピングされているSLAM目印の位置と、(iii)N個の事前配置された目印の位置とを備えている、ステップと、e)第1の画像におけるM個の特徴の位置を決定するステップであって、Mは、N以下の自然数である、ステップ、および、M個の特徴から、N個の事前配置された目印の組への単射マッピング推定を決定するステップ;f)第2の画像におけるL個のSLAM特徴の位置を決定するステップ、および、L個のSLAM特徴のうちのm個のSLAM特徴を決定するステップであって、m個のSLAM特徴は、n個の現在マッピングされているSLAM目印に関係付けられている、ステップ、および、m個のSLAM特徴から、n個の現在マッピングされているSLAM目印の組へのSLAM単射マッピング推定を決定するステップ;g)決定された単射マッピング推定と、決定されたSLAM単射マッピング推定とを使用して、状態-空間モデルの一部として、連結観察モデルを設定するステップであって、連結観察モデルは、連結観察ランダム変数Zの上にマップ状態ランダム変数Sをマッピングするように構成され、マップ状態sは、Sの実現値であり、時間tにおいて、観察zは、連結観察ランダム変数Zの実現値であり、観察は、第1の画像におけるM個の特徴のうちの少なくとも1つの位置と、第2の画像におけるm個のSLAM特徴のうちの少なくとも1つの位置とを備えている、ステップ;および、h)(i)状態推定
【数2】
と、(ii)連結観察モデルと、(iii)観察zとを使用して、時間tにおける位置特定装置の状態xを決定することと、n個の現在マッピングされているSLAM目印の位置を更新することとを行うステップ。
【0010】
同時位置特定およびマッピング(SLAM)は、3つの基本的な動作を含む。これらの3つの基本的な動作の好適な組み合わせは、以下において議論されるようなSLAM解を提供し得る。
【0011】
SLAMの第1の基本的な動作は、屋内環境を通した位置特定装置の移動をモデル化することである。屋内環境を通したそのような移動の数学的モデルは、運動モデルと称され得る。そのような運動モデルの代わりに、またはそれに加えて、慣性測定ユニットも、使用され得る。屋内環境を通した位置特定装置の移動は、ノイズが多く、誤差を引き起こす傾向があるので、運動モデルは、ノイズおよび誤差に起因するそのような不確実性を考慮し得る。屋内環境を通した位置特定装置の各移動は、したがって、屋内環境における位置特定装置の位置の不確実性を増加させ得る。運動モデルは、入力として、位置特定装置の現在の状態、制御信号、および摂動を採用し、出力として、位置特定装置の新しい状態を提供する関数として具現化され得る。位置特定装置の新しい状態は、例えば、位置特定装置が移動する新しい位置の推定であり得る。
【0012】
SLAMの第2の基本的な動作は、屋内環境における着目場面の画像から、屋内環境におけるSLAM目印の位置を決定することを含む。例えば、エッジ検出器、コーナー検出器、またはSIFT特徴検出器として具現化されるSLAM特徴検出器は、屋内環境の画像に適用され得、このように、SLAM特徴は、屋内環境の画像において検出される。そのようなSLAM特徴は、屋内環境の画像の中へのSLAM目印の投影を検出する。屋内環境の画像からSLAM目印の位置を決定するために、逆観察モデルが、必要とされ得る。そのような逆観察モデルは、後に解説されるように、初期化目的のために使用され得、初期化は、SLAMアルゴリズムの以前の反復において検出されなかった新しいSLAM目印を検出する場合を指す。逆観察モデルは、入力として、位置特定装置の現在の状態と、測定されたSLAM特徴(の位置)を採用し、出力として、測定されたSLAM特徴に対応するSLAM目印の位置の推定を提供する関数として具現化され得る。屋内環境における3D位置を有するSLAM目印の2D画像は、典型的に、SLAM目印の3D位置を決定するための十分な情報を提供しない(しかしながら、例えば、飛行時間カメラとして具現化される深度カメラは、SLAM目印の3D位置を決定するための十分な情報を提供し得る)ので、追加の知識(例えば、逆観察モデルへの追加の入力として提供される先行値の形態で)が、必要とされるか、またはSLAM目印の少なくとも2つの異なる画像において採用される必要があり、後者の場合、SLAM目印の3D位置は、三角測量を使用して取得され、逆観察モデルは、入力として、位置特定装置の2つの状態および2つの測定されるSLAM特徴を採用し得る。三角測量を可能にするために、SLAM特徴は、少なくとも異なる2つの画像にわたって追跡される必要があり得る。新たに発見されたSLAM目印を初期化する方法は、従来技術において周知である。
【0013】
SLAMの3番目の基本的な動作は、SLAMアルゴリズムの以前の反復においてすでに検出されている、SLAM目印に対応する決定されたSLAM特徴に対処することを含む。第3の基本的な動作は、主に、着目場面の新たに入手された画像に基づいて、位置特定装置の状態を更新するステップと、SLAMアルゴリズムの以前の反復において検出された、それらのSLAM目印の位置を更新するステップとに関係している。SLAMの第3の基本動作を遂行するために、(観察モデルとも称される)直接観察モデルが、使用され得、該観察モデルは、位置特定装置の現在の状態と、以前に検出されたSLAM目印の位置の現在の推定とに基づいて、画像におけるSLAM特徴の位置を予測する。観察モデルは、入力として、位置特定装置の現在の状態およびSLAM目印の位置の現在の推定を採用し、出力として、SLAM特徴の位置を提供する関数として具現化され得る。直接観察モデルと間接観察モデルとは、互いに逆であり得る。
【0014】
推定アルゴリズム、例えば、拡張カルマンフィルタ(EKF)とともに、3つの基本的な動作は、SLAMアルゴリズムを構築するために使用され得る。EKFに基づいたSLAMアルゴリズムは、位置特定装置の状態と、すでに検出されているSLAM目印の位置とを備えているマップ状態において動作し得、これらのすでに検出されたSLAM目印は、現在マッピングされているSLAM目印と称され得、SLAMアルゴリズムの反復において、以前の反復において決定されているn個のそのような現在マッピングされているSLAM目印が、与えられ得る。SLAMアルゴリズムによって使用されるマップ状態は、したがって、新しいSLAM目印が検出されると、経時的に成長し得る。マップ状態は、縮小もし得、SLAMアルゴリズムは、SLAM目印が事前設定された(または動的に適合された)時間量内に再観察されなかった場合、または限定されたメモリのみがSLAM目印を記憶するために利用可能である場合、SLAM目印がマップ状態から削除され得るような方法で実装され得る。SLAMアルゴリズムの第1の反復では、マップ状態は、位置特定エージェントの状態への初期値の割り当てのみを備え得、以前に検出されたSLAM目印の位置は、マップ状態の一部ではないこともある。
【0015】
EKF-SLAMアルゴリズムの各反復では、以下の動作が、したがって、実施され得る:予測ステップ、補正ステップ、および初期化ステップ。予測ステップでは、マップ状態の平均および共分散行列が、運動モデルに基づいて変更され得る。補正ステップでは、以前に決定されたSLAM目印に対応するSLAM特徴(各検出されたSLAM特徴は、固有のシグネチャを有し得、検出されたSLAM特徴のシグネチャが、したがって、以前に検出されたSLAM特徴のシグネチャと比較され、検出されたSLAM特徴が、すでに観察されているSLAM目印に対応するかどうかを決定し得る)が、位置特定エージェントの状態を更新するために、かつn個の現在マッピングされているSLAM目印の位置を更新するために、EKFによって提供される更新式において使用される(EKF-SLAMの検討される反復では、n個のSLAM目印は、以前に観察されたと仮定される)。EKF-SLAMにおける更新式は、補正式とも称され、(直接)観察モデルに基づく。補正ステップの一部としての更新式は、予測ステップの出力に適用され得る。初期化ステップでは、以前に観察されていないSLAM目印に対応するSLAM特徴が、マップ状態を成長させるために使用され得る。検出されたSLAM特徴からSLAM目印の位置を決定するために、間接観察モデルが、使用され得、該間接観察モデルはまた、入力として、位置特定エージェント(マップ状態を成長させるためのSLAM特徴が検出される画像を入手するカメラに対して固定された幾何学的関係を有すると仮定され得る)の現在の状態(例えば、予測ステップの後に取得され得る)を採用する。
【0016】
本発明による方法では、マップ状態sはまた、屋内環境における、N個の事前配置された目印の位置を備えている。屋内環境におけるN個の事前配置された目印の位置は、既知である。マップ状態は、したがって、位置特定エージェントの状態および現在マッピングされているSLAM目印の位置等のSLAMにとって必要とされる状態情報と、経時的に推定および追跡される必要がない事前配置された目印の位置との両方を備えている。屋内環境における着目場面を撮像する第1のカメラは、N個の事前配置された目印のうちの少なくともある一部(一部は、空ではない)が可視である第1の画像を捕捉し得、屋内環境における着目場面を撮像する第2のカメラは、第2の画像を捕捉し得る。第1の画像および第2の画像は、位置特定装置の状態を決定/更新するための更新情報を備え得る。第1の画像を捕捉する第1のカメラおよび第2の画像を捕捉する第2のカメラは、深度カメラ、事象カメラ、または従来のカメラとして具現化され得る。SLAM特徴検出器、例えば、スケール不変特徴変換(SIFT)検出器、または高速化された堅牢な特徴(SURF)検出器、またはSLAMにとって好適であり、従来技術から公知である任意の他の既知の特徴検出器を、第2の画像に適用することは、第2の画像におけるSLAM特徴を提供し得る。代替として、第1の画像および第2の画像の両方は、同一のカメラ、例えば、第1のカメラによって捕捉され得る。第1の画像および第2の画像は、一致していることもあり、すなわち、1つの画像が、第1の画像および第2の画像の両方であり得る。
【0017】
決定された単射マッピング推定を通して、第1の画像におけるM個の決定された特徴は、N個の事前配置された目印の組の中にマッピングされ得る。アナログSLAM単射マッピング推定は、m個のSLAM特徴をn個の現在マッピングされているSLAM目印の組の中にマッピングする(これらのm個のSLAMの特徴は、以前にすでに観察されているSLAM目印に対応する)。連結観察モデルは、観察の組の中へ/その上へのマップ状態のマッピングを説明し、観察は、第1の画像におけるM個の決定された特徴の位置と、第2の画像におけるm個の決定されたSLAM特徴の位置とを備えている。連結観察モデルは、第1の観察モデルとSLAM観察モデルとを備え得、それらは、それぞれのマッピングを実施する。第1の画像および第2の画像が、異なるカメラによって捕捉される場合、第1の観察モデルおよびSLAM観察モデルは、それぞれ、異なるカメラの異なる画像平面の上へのそれぞれの着目場面のマッピングをモデル化し得る。連結観察モデルは、位置特定エージェントの状態を更新/補正するために、かつ例えば、予測ステップの後、n個の現在マッピングされているSLAM目印の位置を更新/補正するために、本発明による方法において使用される。位置特定装置の状態xおよびn個の現在マッピングされているSLAM目印の位置は、M個の特徴の決定された位置のうちの少なくとも1つと、決定されたm個のSLAMの特徴のうちの少なくとも1つとに基づいて、更新される(例えば、EKFによって提供される更新式(補正式)を使用して)。
【0018】
L-m個のSLAM特徴は、以前の反復において決定されなかったSLAM目印に対応し得る。逆観察モデルを使用して取得される、そのような新たに発見されたSLAM目印の位置は、マップ状態を成長させるために使用され得る。
【0019】
本発明による方法では、屋内環境におけるN個の事前配置された目印(の画像)は、したがって、着目場面におけるn個の現在マッピングされているSLAM目印の位置を更新するためにも使用される。N個の事前配置された目印の位置は、優れた正確さを伴って既知であり得るので、N個の事前配置された目印から、n個の現在マッピングされているSLAM目印までのそのような情報の流れは、位置特定装置の状態およびn個の現在マッピングされているSLAM目印の(推定される)位置の両方における誤差の蓄積を低減させることに役立ち得る。
【0020】
本発明による方法は、したがって、既知の位置を用いて、事前配置された目印を伴う環境において動作するSLAMアルゴリズムの一部と見なされ得る。SLAMアルゴリズムの一部として、本発明による方法を使用して、該事前配置された目印は、その実行時間中、SLAMアルゴリズムによって蓄積される可能な誤差を補正するために使用される。反復的SLAMアルゴリズムの実行時間中、事前配置された目印の測定値をSLAM測定値と融合することに加えて、事前配置された目印の測定値は、SLAMアルゴリズムが動作を開始する前、SLAMアルゴリズムを初期化するためにも使用され得、この場合、第1のマップ状態は、位置特定装置の第1の状態(該第1の状態は、事前配置された目印の画像を使用して決定される)を用いて、かつ事前配置された目印の位置を用いて初期化され得る。第1の状態が、事前配置された目印の画像を使用して決定されない場合、第1の状態は、任意値を用いて初期化され得、例えば、ゼロに設定される。事前配置された目印から取得される情報を用いて、第1の状態を初期化することは、SLAMアルゴリズムが、世界座標系を間接的に参照させられる環境のマップを構築し得るように、続いて動作するSLAMアルゴリズムに、(事前配置された目印の位置が既知である世界座標系に対する)絶対位置情報を提供し得る。SLAMアルゴリズムのドリフトは、続いて、本発明による方法を使用して補正される。事前配置された目印が可視ではない場合、例えば、位置特定装置が事前配置された目印が配置される着目場面における天井に近接しすぎる場合、本発明による方法は、従来技術から公知である従来のSLAMを拠り所とし得る。
【0021】
代替として、位置特定装置の状態の推定は、独立して進行し得、すなわち、位置特定装置の状態の2つの推定が、並行して決定され得、位置特定装置の状態の第1の推定は、事前配置された目印の画像のみを使用して取得され得、位置特定装置の状態の第2の推定(および屋内環境におけるSLAM目印の成長している組は、従来のSLAMアルゴリズムを通して取得され得る。位置特定装置の状態の2つの推定が、互いのある閾値内にない場合、現在マッピングされているSLAM目印を備えている、現在構築されているSLAM目印マップは、破棄され、再初期化され得る。位置特定装置の状態の第1の推定は、従来のSLAMアルゴリズムに関するループ終結を提供するために使用され得、すなわち、位置特定装置が、以前の反復において以前にあった状態に到達すると、この情報は、それが、以前の反復においてすでに見た同時SLAM目印を見ることを予期すべきことをSLAMアルゴリズムに通知するために使用され得る。SLAMアルゴリズムのそのような通知は、例えば、それらが、合致する(すなわち、同一の特徴である)と見なされるように、2つの特徴のシグネチャ比較に関する閾値を低くすることによって達成され得る。
【0022】
本発明による方法のある実施形態では、第1の画像および第2の画像は、時間tにおいて捕捉される。
【0023】
第1の画像および第2の画像は、同一の時間tにおいて捕捉され得る。これは、この場合、第1の画像および第2の画像の処理が、並行して生じ得るので、有益であり得る。2つの画像が、異なる時間において捕捉されるであろう場合、マップ状態の更新は、2つのステップにおいて進行し得、第1の更新ステップでは、例えば、最初に捕捉された画像に基づいて、マップ状態の中間更新が、最初に捕捉された画像における情報に基づいて決定され得;そして、この中間マップのステップは、運動モデルと次いで捕捉される画像から決定される情報とに基づいて更新され得る(運動モデルは、次いで捕捉される画像が捕捉される時間までの時間内、マップ状態の中間更新を伝搬するために使用され得る)。第1の画像および第2の画像が、同一の時間において捕捉されない場合、一方または両方の画像は、2つの画像が時間的に整合するように、時間内でアルゴリズム的にシフトされ得、そのようなアルゴリズム的時間シフトは、例えば、(第1のカメラによって経時的に捕捉される)第1の画像のシーケンスおよび/または(第2のカメラによって経時的に捕捉される)第2の画像のシーケンスに適用される内挿または外挿技法に基づき得る。
【0024】
本発明による方法のさらなる実施形態では、連結観察モデルは、第1の観察モデルを備え、第1の観察モデルは、M個の特徴のうちの少なくとも1つの位置の上への単射マッピング推定を介したM個の特徴のうちの少なくとも1つに対応するN個の事前配置された目印のうちの少なくとも1つのマッピングを説明し、連結観察モデルは、SLAM観察モデルを備え、SLAM観察モデルは、m個のSLAM特徴のうちの少なくとも1つの位置の上へのSLAM単射マッピング推定を用いたm個のSLAM特徴のうちの少なくとも1つに対応するn個の現在マッピングされているSLAM目印のうちの少なくとも1つのマッピングを説明する。
【0025】
本発明による方法のさらなる実施形態では、単射マッピング推定(以降、IMEと称される)は、M個の特徴をM個の事前割り当てされた目印とリンクし、SLAM単射マッピング推定(以降、SLAM-IMEと称される)は、m個のSLAM特徴をm個のSLAM目印とリンクし、M個の特徴のうちの特徴iに関して、対応する目印は、目印IME(i)であり、m個のSLAM特徴のうちの特徴jに関して、対応するSLAM目印は、SLAM目印SLAM-IME(j)であり、特徴-目印対(i,IME(i))に関して、およびSLAM特徴/SLAM目印対(j,SLAM-IME(j))に関して、連結観察モデルは、それぞれ、観察ランダム変数Zk,i、Zk,j(連結観察ランダム変数Zは、それぞれ、観察ランダム変数Zk,i、Zk,jを備えている)を状態ランダム変数Xおよび目印POS(IME(i))、SLAM目印POS(SLAM-IME(j),k))にリンクする:
k,i=h(X,POS(IME(i)),i=1,・・・、M、および、
k,j=hSLAM(X,POS(SLAM-IME(i),k)),j=1,・・・、m
であり、式中、h(・)は、第1の観察モデルであり、hSLAM(・)は、SLAM観察モデルである。
【0026】
SLAM目印POS(SLAM-IME(j),k)の位置は、一般に、経時的に変化する。SLAM目印POS(SLAM-IME(j),k)の位置は、したがって、同様に、指数kに依存する。
【0027】
本発明による方法のさらなる実施形態では、S個のSLAM目印の世界座標系における先験的な既知の位置が、提供され、該S個のSLAM目印は、その第2の画像への適用が、L個のSLAMの特徴を提供する事前設定されたSLAM特徴検出器に関連付けられ、S個のSLAM目印とそれぞれの特徴シグネチャとの間の関連付け、および特徴シグネチャ自体間の関連付けが提供され、該特徴シグネチャは、該S個のSLAM目印の画像への事前設定されたSLAM特徴検出器の適用によって提供される出力に関係付けられ、方法は、加えて、以下を含む:1)L個のSLAM特徴の特徴シグネチャを関連付けにおける特徴シグネチャと比較することによって、先験的な既知の位置を伴うS個のSLAMの目印に関連するL個のSLAM特徴のtを決定すること;2)SLAM単射マッピング推定の決定の一部として、関連付けにおける特徴シグネチャに対するL個のSLAM特徴の特徴シグネチャの比較に基づいて、t個のSLAM特徴から対応するSLAM目印までの単射マッピングを設定すること。原則として、tは、「0」(対応するSLAM目印を用いて決定される、SLAM特徴は、世界座標系における先験的な既知の位置を有しない)とLとの間の任意の自然数に等しくあり得、後者の場合、全ての決定されたL個のSLAM特徴が、世界座標系における先験的な既知の位置を伴う対応するSLAM目印を有する状況に対応する。
【0028】
本発明による方法のさらなる実施形態では、n個の現在マッピングされているSLAM目印は、世界座標系における先験的な未知の位置を伴うSLAM目印のみを備えている。世界座標系における先験的な既知の位置を伴う対応するSLAM目印を伴う決定されたSLAM特徴は、位置特定装置の状態xを決定するために、および世界座標系における先験的な未知の位置を伴うSLAM目印の位置を決定するために使用され得る。
【0029】
本発明による方法のさらなる実施形態では、N個の事前配置された目印に関連するM個の特徴は、実質的に互いに区別できず、屋内環境は、世界座標系における先験的な未知の位置を伴うK個の追加の目印を備え、K個の追加の目印のうちのH(≦K)個の追加の目印は、着目場面内にあり、K個の追加の目印のうちのP個の現在推定されている位置は、マップ状態sの一部であり、H個の追加の目印は、第1の画像において、実質的にM個の特徴と区別できない追加の特徴として捕捉され、方法は、加えて、以下を含む:1)M個の特徴の位置の決定と一緒に、H個の追加の特徴の位置を決定することであって、決定は、それによって、第1の画像における特徴および追加の特徴のM+H個の位置を提供する、こと;2)M+H個の特徴および追加の特徴の位置をM+R個(ここで、R≦P)の位置を備えている第1の組とQ個(ここで、H=R+Q)の位置を備えている第2の組とに分離すること;3)第1の組から、N個の事前配置された目印の位置とP個の現在推定されている位置とを備えている区別できない目印の組への単射マッピング推定を決定すること;4)および、第2の組に基づいて、マップ状態sを更新(拡張)すること。本発明による方法の本実施形態はまた、世界座標系における先験的な既知の位置を伴うS個のSLAM目印を備えている、本発明による方法の実施形態と組み合わせられ得る。
【0030】
N個の事前配置された目印は、互いに区別できないこともある。例えば、N個の事前配置された目印は、同一のタイプの再帰反射体として具現化され、構築され得る。その投影が特徴である第1の画像の中への事前配置された目印の投影は、したがって、互いに実質的に区別できないこともあり、すなわち、検査された特徴が対応する事前配置された目印は、第1の画像において一度に1つの特徴のみを検査し、第1の画像における他の特徴を無視することによって、一義的に決定されないこともある。N個の事前配置された目印に加えて、K個の追加の目印が、屋内環境において、同様に、存在し得、K個の追加の目印は、N個の事前配置された目印と区別できないこともある。代替として、追加の目印に対応する追加の特徴のみが、事前配置された目印に対応する特徴と区別できないこともある。変数Kに割り当てられる数は、既知または未知であり得る。したがって、追加の目印が、屋内環境において存在する数は、既知ではないこともある。最初に、K個の追加の目印の位置は、世界座標系におけるN個の事前配置された目印の先験的な既知の位置に反して、世界座標系において既知ではないこともある。第1の画像によって捕捉される屋内環境の着目場面では、H(≦K)個の追加の目印が、該H個の追加の特徴として捕捉され得、一般性を喪失することなく、H個の追加の特徴が、堅牢かつ安定的な様式で、第1の画像から識別可能であり得ることが仮定され得る。合計で、したがって、第1の画像内にM+H個の特徴および追加の特徴が存在し、それらは、N+K個の事前配置された目印(の一部)と追加の目印とに対応し得る。
【0031】
マップ状態sは、加えて、K個の追加の目印のうちのP個の現在推定されている位置を備え得る。P個の追加の目印の現在推定されている位置は、その中に本発明による方法が、以前に説明されるように埋め込まれ得るアルゴリズムの以前の反復において決定されていることもある。したがって、追加の目印の先験的な位置が、未知であり得るにもかかわらず、これらの位置は、経時的に推定され得、それによって、全体的なアルゴリズムの具体的な反復、例えば、反復kにおいて、P個の追加の目印の位置の位置が以前に推定されていることもあり、Kが既知であることを前提として、N+K個の目印および追加の目印から、世界座標系におけるN+P個の目印および追加の目印の位置が、既知であり得ること、およびK-P個の追加の目印の位置が、依然として、未知であり得ることを含意する。
【0032】
特徴および追加の特徴の観察されたM+H個の位置は、世界座標系における既知の(または現在推定されている)位置を伴う目印および追加の目印に対応するそれらの特徴および追加の特徴を備えている第1の組と、世界座標系における現在未知の位置を伴う追加の目印に対応するそれらの追加の特徴を備えている第2の組とに分離され得る。次いで、第1の組から、N個の事前配置された目印の(先験的な既知の)位置と、P個の追加の目印のP個の現在推定されている位置とを備えている区別できない目印の組の中への単射マッピング推定が、決定され得る。
【0033】
第2の組は、その位置が、以前に推定されていない、追加の目印に対応する追加の特徴を備え得る。第2の組は、したがって、初期化のためのすなわち、第2の組に対応する追加の特徴の推定される位置をマップ状態sに追加するための基盤を形成し得る。第2の組に基づいて、マップ状態sは、したがって、拡張され得る。世界座標系における追加の特徴の位置を推定するために要求される情報は、追加のセンサ、例えば、深度カメラを使用することによって、または、第1のカメラによって入手される複数の画像にわたって追加の特徴を好適にリンクし、そのような確立された関係に基づいて三角測量することによって取得され得る。
【0034】
事前配置された目印に対応する特徴および以前に初期化された追加の目印に対応する追加の特徴は、先験的な未知の位置であるが、事後的な推定される位置を用いて、したがって、同一の方法で処理され得、すなわち、単射マッピング推定の推定のための同一のアルゴリズムが、第1の組の要素に適用され得、以前に初期化されなかった追加の目印に対応する追加の特徴は、初期化され得、すなわち、マップ状態sが、成長させられ得る。
【0035】
第1の組は、M+R個の要素を備え得、これらの要素のうちのMは、事前配置された目印に対応する特徴と関連し得、これらの要素のうちのR≦Pは、以前に初期化されている追加の目印に対応する特徴と関連し得る。第2の組は、Q個の要素を有し、H=R+Qであり得る。
【0036】
本発明による方法のさらなる実施形態では、第1の画像は、第1のカメラ中心および第1の画像センサを伴う第1のカメラによって捕捉され、世界座標系における第1のカメラ中心の位置は、状態推定
【数3】
に基づいて決定され、分離するステップは、M+H個の位置の組における各要素に関して、以下のステップを遂行することによって進行する:M+H個の位置は、第1の画像センサの座標系において測定される2D位置であり、(i)初期点として第1のカメラ中心を有し、さらなる点として、それぞれの要素の2D位置に対応する3D位置を有する光線を決定するステップであって、3D位置は、状態推定
【数4】
と、位置特定装置と第1の画像センサとの間の既知の空間的関係とに基づいて決定される、ステップ;および、(ii)区別できない目印の組内の任意の目印が事前設定された距離閾値よりそれぞれの光線に近い(それぞれの光線の上への直交投影によって測定される)場合、それぞれの要素を第1の組に割り当て、そうでない場合、それぞれの要素を第2の組に割り当てる、ステップ。事前設定された距離閾値を使用して、それぞれの光線に対する近さを測定する代わりに、状態の推定される不確実性に依存する閾値が、選定され得、および/または、閾値は、カメラから離れた距離の関数でもあり得、例えば、閾値は、カメラからの距離の増加とともに増加し得る。
【0037】
M+H個の特徴および追加の特徴を第1の組および第2の組に分離することは、幾何学的手段によって進行し得る。世界座標系における第1の画像を捕捉する第1のカメラの姿勢の現在の推定を前提として(そのような第1のカメラの姿勢の現在の推定は、例えば、位置特定装置の状態推定
【数5】
と、位置特定装置上の第1のカメラの既知の配置とに基づいて取得され得る)、第1のカメラ中心の世界座標系における位置が、決定され(第1のカメラは、例えば、投影マッピングデバイスとして数学的に説明され得る)、第1のカメラの画像センサ内の特徴/追加の特徴の2D位置(この2D位置は、画像センサのある座標系において説明され得る)が、第1のカメラの決定された現在の姿勢と、該第1のカメラの既知の(内部)構造とによって、世界座標系における3D位置に変換され得る。状態推定
【数6】
は、位置特定装置上に配置される慣性計測ユニットによって提供される、移動情報に基づいて決定され得る。次いで、光線が、第1のカメラ中心に対応する初期点と光線が通過するさらなる点(特徴/追加の特徴の推定される3D位置である)とを用いて決定される。検討される特徴/追加の特徴は、区別できない目印の組の要素のいずれかが光線に十分に近い場合、第1の組の中に設置され得、「十分な近さ」は、例えば、閾値および光線の上への直交投影によって測定される。閾値は、光線に沿った距離のパラメータ化された関数であり得るか、または、閾値は、定数であり得る。閾値が、定数として具現化される場合、特徴/追加の特徴が、第1の組に属するかどうかを決定する選択基準は、したがって、空間内の点(事前配置された目印または現在推定されている追加の目印の位置)が、一定の閾値に対応する半径を伴う光線の周囲の円筒の内側に存在するどうかの決定に帰着し得る。カメラからの距離とともに増加する不確実性を捕捉するために、特徴/追加の特徴が、第1の組に属するかどうかを決定する選択基準は、代替として、空間内の点(事前配置された目印または現在推定されている追加の目印の位置)が、光線の周囲の円錐形錐台の内側に存在するかどうかを決定することとして具現化され得る。
【0038】
本発明による方法のさらなる実施形態では、観察は、加えて、第1の画像におけるR個の追加の特徴のうちの少なくとも1つの位置を備え、n個の現在マッピングされているSLAM目印の位置の更新とともに、追加の目印のP個の現在推定されている位置が、更新される。しかしながら、追加の目印のP個の現在推定されている位置は、先験的な既知の位置を伴う事前配置された目印に対応する観察された特徴にも基づいて、および/または、観察されたSLAM特徴にも基づいて更新され得る。
【0039】
追加の目印のP個の現在推定されている位置が推定にすぎないので、これらの位置も、n個の現在マッピングされているSLAM目印の位置とともに更新され得る。
【0040】
本発明による方法のさらなる実施形態では、第1の観察モデルは、加えて、R個の追加の特徴のうちの少なくとも1つの位置の上への単射マッピング推定を用いたR個の追加の特徴のうちの少なくとも1つに対応するR個の追加の目印のうちの少なくとも1つのマッピングを説明する。
【0041】
本発明による方法のさらなる実施形態では、(i)状態推定
【数7】
と、(ii)連結観察モデルと、(iii)観察zとを使用して、状態xを決定するステップは、状態-空間モデルに拡張カルマンフィルタを適用することによって提供される更新式を使用することによって行われ、更新式は、連結観察モデルのヤコビ行列を含み、第1の観察モデルのヤコビ行列は、状態推定
【数8】
において評価され、SLAM観察モデルのヤコビ行列は、少なくとも状態推定
【数9】
において、かつn個の現在マッピングされているSLAM目印の位置において評価される。
【0042】
本発明による方法のさらなる実施形態では、全てのM個の特徴および全てのm個のSLAM特徴に対応する更新式は、連続してかつ独立して呼び出される。
【0043】
本発明による方法のさらなる実施形態では、第1の画像は、光源が着目場面を照明する光を放出するように動作させられると、第1のカメラによって捕捉される。第2の画像はまた、光源が着目場面を照明する光を放出するように動作させられると、第2のカメラによって捕捉され得る。第1の画像の捕捉中に使用される光源および第2の画像の捕捉中に使用される光源は、同一の光源であり得る。
【0044】
本発明のさらなる側面によると、命令を備えているコンピュータプログラム製品が、提供され、命令は、コンピュータによって実行されると、本発明による方法をコンピュータに遂行させる。
【0045】
本発明のさらなる側面によると、アセンブリが、提供され、アセンブリは、(a)位置特定装置と、(b)位置特定装置上に搭載された第1のカメラと、(c)屋内環境における複数の事前配置された目印と、(d)コントローラとを備え、コントローラは、本発明による方法を遂行するように構成される。
【0046】
第1のカメラは、第1の画像を提供するように構成され得る。第1のカメラは、第2の画像も提供し得、第1の画像と第2の画像とは、一致していることもある。第1のカメラは、RGB-IR(赤色-緑色-青色赤外線)カメラとして具現化され得、RGBチャネルは、第1の画像または第2の画像を提供し得、IRチャネルは、他の画像を提供し得る。第1のカメラは、高ダイナミックレンジ(HDR)画像を提供するものとしても具現化され得る。本発明による方法は、位置特定エージェントのローカル座標系と第1のカメラの第1のカメラ座標系との間の既知の幾何学的関係を通して、位置特定装置の状態を決定し得、ローカル座標系と第1のカメラ座標系との間の既知の座標変換が、第1のカメラの状態を位置特定装置の状態の上にマップするために使用され得る。
【0047】
本発明によるアセンブリの実施形態では、第2のカメラが、位置特定装置上に配置され、第1のカメラは、屋内環境の天井が第1のカメラの視野内にあるような方法で位置特定装置上に配置され、第1のカメラのカメラ軸は、第1のカメラの視野内にあり、第2のカメラは、第2のカメラのカメラ軸が第1のカメラのカメラ軸に実質的に直交するような方法で位置特定装置上に配置される。例えば、第1のカメラのカメラ軸は、第1のカメラの投影中心と第1のカメラの画像センサの中心とによって画定され得、第2のカメラのカメラ軸は、第2のカメラの投影中心と第2のカメラの画像センサの中心とによって画定され得る。好ましくは、第1のカメラは、したがって、屋内環境の天井が第1のカメラの視野内にあるように、位置特定装置上に配置され、第2のカメラは、第2のカメラのカメラ軸が第1のカメラのカメラ軸と実質的に直交するような方法で位置特定装置上に配置される。より好ましくは、第1のカメラは、第1の画像が、第1のカメラによって捕捉されているとき、天井が第1のカメラの視野内にあるような方法で位置特定装置上に配置され、第2のカメラは、第2のカメラのカメラ軸が第1のカメラのカメラ軸に実質的に直交するような方法で位置特定装置上に配置される。第1のカメラおよび第2のカメラは、したがって、それらのそれぞれの視野が、互いに実質的に異なるような方法で位置特定装置上に配置され得る。
【0048】
ドローンまたは可動式陸地ベースのロボットは、位置特定装置の例示的実施形態である。そのような位置特定装置の通常の移動条件は、空中(ドローンの場合等)または地面表面自体上(陸地ベースのロボットの場合等)のいずれかで、着目場面の地面表面に対する水平移動である。N個の事前配置された目印は、着目場面における天井上に配置され得る。そのような通常の移動条件では、カメラは、第1のカメラのカメラ軸が、屋内環境の天井に向いているような方法で位置特定装置上に配置され得る。第1のカメラは、第1のカメラによる第1の画像の捕捉中、第1のカメラのカメラ軸と重力のベクトルとの間のドット(内)積が、負の結果を提供するような方法で位置特定装置上に位置付けられ得、第1のカメラのカメラ軸は、第1のカメラによる第1の画像の捕捉のとき、重力のベクトルの周囲に45度の円錐内にあり得る(円錐の軸は、重力のベクトルと整列させられ得、重力のベクトルと比較すると、反対方向に向けられ得(円錐の軸は、円錐の頂点からその底辺に向く)、すなわち、円錐の軸は、屋内環境の地面から離れる方に向き得る)。他方、SLAM目印は、典型的に、例えば、典型的なSLAM特徴が強いローカル対比に基づいて決定され得るので、着目場面自体内に見出され得る。他方、部屋の天井(例えば、部屋の天井は、着目場面である)は、典型的に、かなり均質であり、少数のSLAM特徴しか、したがって、典型的に、屋内の部屋の天井上で検出されないであろう。第1のカメラは、したがって、通常の移動条件中、第1のカメラが天井の方に上方向に向き、すなわち、それが、大抵の場合、天井の画像を捕捉するような方法で位置特定エージェント上に位置付けられ得る。第2のカメラは、それが屋内環境の内部の画像を主に捕捉するような方法で位置特定エージェント上に位置付けられ得る。第2のカメラのカメラ軸は、したがって、第1のカメラのカメラ軸に対して実質的に直交する方法で向けられ得る。
【0049】
本発明によるアセンブリのさらなる実施形態では、アセンブリは、光源を備え、光源は、位置特定装置に、および/または、少なくとも1つの追加の目印に配置される。少なくとも1つの追加の目印も、先験的な未知の位置を伴って屋内環境において配置され得、例えば、屋内環境における少なくとも1つの追加の目印の配置中、該少なくとも1つの追加の目印の位置は、記録されていないこともある。しかしながら、追加の目印も、屋内環境において、当然、存在し得る。
【図面の簡単な説明】
【0050】
本発明の例示的実施形態は、本説明において開示され、以下の図面によって図示される。
【0051】
図1図1は、ある時間tにおける位置特定装置の状態xを決定するための本発明による方法の実施形態の概略描写を示す。
図2図2は、光源とカメラとを備えているドローンの概略描写を示し、ドローンは、屋内環境において飛行するように構成され、目印は、該屋内環境における複数の位置に配置されている。
【発明を実施するための形態】
【0052】
図1は、ある時間tにおける位置特定装置の状態xを決定するための本発明による方法の実施形態の概略描写を示す。状態xは、時間tにおける、位置特定装置の3D位置および3D向きを備え得る。3D位置および3D向きは、世界座標系に対して表され得る。状態xは、加えて、時間tにおける位置特性装置の3D速度情報を備え得、該3D速度情報も、例えば、世界座標系に対して表され得る。位置特定装置が、経時的に屋内環境を通して移動し得るので、その状態は、位置特定装置の現在の位置および向きを決定するために、追跡される必要があり得る。
【0053】
時間tにおいて、屋内環境におけるそれぞれの着目場面の第1の画像1および第2の画像2が、受信され、屋内環境における位置特定装置の状態推定3
【数10】
およびn個の現在マッピングされているSLAM目印4の位置も、受信される。図1に示される概略描写は、より大きな修正されたSLAMアルゴリズムの反復におけるステップを示すものと見なされ得る。図1に概略的に示される本発明による方法は、経時的な位置特定装置の状態を追跡することと、位置特定装置が経時的に移動する環境の表現を構築することとの両方を行うより大きな追跡アルゴリズムの中に組み込まれ得る。より大きな修正されたSLAMアルゴリズムは、従来のSLAMアルゴリズムと異なり得、より大きな修正されたSLAMアルゴリズムにおいて、補正ステップは、屋内環境における既知の位置を伴う事前配置された目印の画像を使用して、より大きな修正されたSLAMアルゴリズムの少なくとも1回の反復において、位置特定装置の状態と以前に決定されたSLAM目印の位置との両方を更新することを含む。
【0054】
第1の画像1は、N個の事前配置された目印を備えている屋内環境における着目場面のある画像である。屋内環境におけるN個の事前配置された目印の位置(および可能性として、向き)は、所定の世界座標系において既知である。時間tにおいて、第1の画像1を捕捉する第1のカメラは、特定の位置および向きを有するので、N個の事前配置された目印の全てが、第1のカメラに対して視野内に存在しない(すなわち、可視ではない)こともある。例えば、J(≦N)個の事前配置された目印が、時間tにおいて、第1のカメラに対して可視であり得、このJ個の事前配置された目印が、屋内環境における着目場面の第1の画像1の上に、第1のカメラによって投影される。事前配置された目印の画像の中への投影は、「特徴」と称され得る。第1の画像1の上に投影されるJ個の事前配置された目印から、M(≦J)個の特徴が、識別され得、画像におけるそれらの特徴の2D位置が、決定される(5)。特徴の2D位置は、例えば、該特徴の重心の2D位置であり得る。J個の事前配置された目印のうちのいくつかは、画像の中へのそれらの投影が、あまりにも小さい/不鮮明である/粗悪に検出可能であるような方法で時間tにおいて、第1のカメラに位置付けられ、向けられ得る。この場合、Mは、厳密に、Jより小さく、すなわち、M<Jであり得、第1のカメラによって第1の画像1の上に投影される残りのJ-M個の事前配置された目印は、無視され得る。M個の特徴が、事前配置された目印に対応する特徴であること、すなわち、外れ値が除去されていることも仮定され得る。一般に、N個を上回る特徴が、例えば、外れ値に起因して決定されること、および、これらの決定された特徴の中で、事前配置された目印に実際に対応するM個の特徴が存在することが可能である。これらM個の特徴は、単射マッピング推定の決定に先立って決定され得るか、または、これらのM個の特徴は、単射マッピング推定の決定中に決定され得る。決定された特徴の中で、事前配置された目印に実際に対応するM個を上回る特徴が、存在し得、M個の特徴は、したがって、事前配置された目印に実際に対応する決定された特徴のうちのそれらの特徴の適切な一部に対応し得る。
【0055】
第2の画像2におけるSLAM特徴が、決定され、より具体的に、第2の画像2におけるSLAM特徴の位置が、決定される。第2の画像2におけるSLAM特徴の位置を決定する(6)ために、従来技術から公知である任意のSLAM特徴検出器が、使用され得る。SLAM特徴検出器を第2の画像2に適用することは、決定されたSLAM特徴の位置を伴うL個の決定されたSLAM特徴のリストを提供する。各決定されたSLAM特徴は、第2の画像において描写される屋内環境における着目場面におけるSLAM目印に対応する。異なるSLAM特徴検出器が、典型的に、第2の画像2における異なるSLAM特徴を検出するので、SLAM目印は、SLAM特徴検出器の選定に依存する。一般的に、L個の決定されたSLAM特徴のうちのm個のみが、以前の反復において観察されたn個のSLAM目印のうちのいくつかに対応する。
【0056】
M個の特徴からN個の事前配置された目印への単射マッピング推定も、決定される(5)。典型的に、それは、M<Nを維持するので、単射マッピング推定は、典型的に、単射的にすぎず、全射的ではない。単射マッピング推定は、N個の事前配置された目印のうちのどの事前配置された目印が第1の画像1におけるM個の特徴のうちのどの特徴を誘発したかを説明する。そのような単射マッピング推定を決定する(5)ために、時間tにおける第1のカメラの現在の状態が既知である必要があり得、第1のカメラの現在の状態は、第1のカメラが取り付けられ得る位置特定装置の現在の状態から導出され得る。単射マッピング推定も、全ての決定された特徴(すなわち、外れ値も含む)から開始して決定され得る。単射マッピング推定の決定中、外れ値が、識別され、それによって、事前配置された目印に対応するM個の特徴のみが、N個の事前配置された目印の組の中にマップされる。m個のSLAM特徴から、n個の現在マッピングされているSLAM目印へのSLAM単射マッピング推定は、例えば、個々のSLAM特徴を識別する特徴シグネチャを使用して、決定され得る(6)。
【0057】
決定された単射マッピング推定と決定されたSLAM単射マッピング推定とを使用して、次のステップでは、連結観察モデルが、設定される(7)。結合観察モデルは、拡張カルマンフィルタの予測ステップの出力を更新/補正するタスクを実施するために、拡張カルマンフィルタによって使用され得る(8)。連結観察モデルは、マップ状態ランダム変数Sを連結観察ランダム変数の上にマップするように構成され、マップ状態ランダム変数Sは、(i)位置特定装置の現在の状態と、(ii)n個の現在マッピングされているSLAM目印の位置と、(iii)N個の事前配置された目印の既知の位置とを備え、連結観察ランダム変数は、第1の画像1における特徴の位置および第2の画像2におけるSLAM特徴の位置を統計的に説明する。連結観察ランダム変数に対応する観察は、実際の測定プロセスを通して、または実際の測定プロセスによって提供されるデータ上で遂行される計算を通して取得される。
【0058】
連結観察モデルは、着目場面を通した位置特定装置の移動を追跡するために、かつ着目場面のSLAM目印マップを構築するために使用される状態-空間モデルの一部である。連結観察モデルに加えて、状態-空間モデルは、典型的に、予測ステップにおいて使用される状態-遷移モデル(運動モデル)を備えている。運動モデルの代替として、または加えて、慣性測定ユニットが使用され得る。この場合、位置特定装置のみが、着目場面を通して移動することが仮定され得るが、SLAM目印および事前配置された目印の両方が、経時的に静的であることが仮定され得る(しかしながら、SLAM目印の推定される位置は、典型的に、静的ではない)。状態-遷移モデルは、状態自体が経時的に進化する方法を説明する。位置特定装置が、航空機として具現化される場合、例えば、状態-遷移モデルは、航空機の飛行をモデル化する式を含み得、式は、可能性として、航空機の飛行を制御するために使用される制御入力と、摂動入力とを備えている。連結観察モデルおよび/または状態-遷移モデルは、それらの入力において、線形または非線形であり得る。
【0059】
連結観察モデルおよび状態-遷移モデルの両方が線形である場合、カルマンフィルタが、少なくとも状態推定
【数11】
3と、連結観察モデルと、観察5、6とを使用して、時間tにおける状態x(9)を決定する(8)ために使用され得、観察5、6は、連結観察ランダム変数Zの実現値である。観察5、6は、(i)第1の画像1におけるM個の特徴の2D位置と、(ii)第2の画像2におけるm個のSLAM特徴の2D位置とを備えている。連結観察モデルおよび/または状態-遷移モデルが、非線形である場合、拡張カルマンフィルタが、使用され得、拡張カルマンフィルタは、非線形式を線形化する。カルマンフィルタおよび拡張カルマンフィルタの両方は、連結観察モデルと、測定された観察とを使用して、状態推定
【数12】
(具体的に、その平均ベクトルおよびその共分散行列)を更新するための更新式/補正ステップを提供する。状態x(9)が、決定される(8)と、これは、時間内で、例えば、時間tから時間tk+1まで、状態-遷移モデルを使用して伝搬され、時間内の伝搬は、時間tk+1における位置特定装置の状態に関する、状態推定
【数13】
を提供し得る。カルマンフィルタの代わりに、粒子フィルタが、使用され得るか、または、ルンベルガオブザーバ等の状態オブザーバが、使用され得るか、または、最新技術から公知である任意の他の公知のフィルタリング技法が、使用され得る。状態推定
【数14】
は、時間tk+1における状態xk+1を決定するための新しい状態推定として受け止められ得る。
【0060】
カルマンフィルタまたは拡張カルマンフィルタの更新式は、全てのM個の特徴およびm個のSLAM特徴に関して同時に、または、M個の特徴のうちの各特徴およびm個のSLAM特徴のうちの各SLAM特徴に関して別個に、または、全てのM個の特徴に関して同時かつm個のSLAM特徴に関して別個に同時に呼び出され得る。本発明による方法のいくつかの実施形態では、更新式は、M個の特徴のうちのそれらの特徴に関してのみ呼び出され得、該それらの特徴の予測される特徴位置までのマハラノビス距離は、ある閾値より小さく、該予測される特徴位置は、例えば、状態推定
【数15】
(または、単射マッピング推定の決定中に決定される位置特定装置の状態推定に基づいて)およびN個の事前配置された目印の既知の位置に基づいて決定される。拡張カルマンフィルタが使用される場合、連結観察モデルのヤコビ行列が、計算される必要がある。連続画像の捕捉中の時間tk+1-tが、全てのM個の特徴および全てのm個のSLAM特徴を処理するために十分に長くない場合、全ての(SLAM)特徴が、状態の更新の間に検討されないこともある。
【0061】
図2は、光源10と、第1のカメラ11とを備えているドローンの形態における航空機の概略描写を示し、ドローンは、屋内環境15において飛行しており、着目場面が、屋内環境内に存在する。事前配置された目印16の各々は、好ましくは、再帰反射体として具現化され、屋内環境15内の複数の位置に配置される。事前配置された目印16は、着目場面15における天井に搭載され得る。事前配置された目印は、実質的に同一の方法で具現化され得、すなわち、事前配置された目印は、互いに対して完全に代替可能であり得る。(位置および向きを備えている)ドローンの任意の所与の姿勢において、いくつかの目印16は、図2では、事前配置された目印16と第1のカメラ11との間の線によって示され、第1のカメラ11に対して可視であり得るが、他の事前配置された目印16は、第1のカメラ11に対して可視ではないこともある。図2では、第1のカメラ11は、ドローンの下方に搭載される。第1のカメラ11は、代替として、カメラが、好ましくは、天井上に位置する目印16が、第1のカメラに対して可視であるように、天井に向いているように配置されるような方法でドローンの上部に搭載され得、第1のカメラは、光源10に隣接して位置し得る。好ましくは、ドローンは、第2のカメラ(図2では図示せず)をさらに備えている。好ましくは、第2のカメラは、第1のカメラに対して直交方向に向けられる。第2のカメラによって捕捉される画像は、SLAMアルゴリズムへの入力として使用され得る。
【0062】
事前配置された目印16の位置は、世界座標系12において既知であり得、ドローンの現在の場所は、ドローン座標系13として表され得、座標変換14が、世界座標系12とドローン座標系13との間で既知であり得る。第1のカメラ11および光源10が、ドローンに固定され、ドローンに対するそれらの姿勢が既知である場合、第1のカメラ11および光源10の姿勢は、ドローン座標系13を使用して、世界座標系12に関係付けられ得る。ドローンの現在の位置は、屋内環境15における着目場面15、具体的に、既知の位置を有する事前配置された目印16の第1の画像を使用して、かつ室内環境15における着目場面15の第2の画像を使用して決定されることができ、その第2の画像は、SLAMアルゴリズムによって使用され得る。代替として、または加えて、ドローンは、慣性測定ユニットを装備し得、その慣性測定ユニットも、ドローンの姿勢決定のために使用され得る。光源10は、等方的に放出する光源であり得るか、または、それは、非等方的様式で放出する指向性光源であり得る。光源10および第1のカメラ11は、特に、事前配置された目印16が再帰反射体として具現化される場合、互いに理想的に近接している。
図1
図2
【国際調査報告】