(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-07-29
(45)【発行日】2022-08-08
(54)【発明の名称】拡張現実装置及び位置決め方法
(51)【国際特許分類】
G01S 5/02 20100101AFI20220801BHJP
【FI】
G01S5/02 Z
【外国語出願】
(21)【出願番号】P 2020215384
(22)【出願日】2020-12-24
【審査請求日】2021-02-05
(32)【優先日】2019-12-25
(33)【優先権主張国・地域又は機関】TW
(73)【特許権者】
【識別番号】520510933
【氏名又は名称】エーディーエーティー テクノロジー カンパニー リミテッド
(74)【代理人】
【識別番号】100120891
【氏名又は名称】林 一好
(74)【代理人】
【識別番号】100165157
【氏名又は名称】芝 哲央
(74)【代理人】
【識別番号】100205659
【氏名又は名称】齋藤 拓也
(74)【代理人】
【識別番号】100126000
【氏名又は名称】岩池 満
(74)【代理人】
【識別番号】100185269
【氏名又は名称】小菅 一弘
(72)【発明者】
【氏名】スー カイ-フン
(72)【発明者】
【氏名】リン ムー-ヘン
【審査官】佐藤 宙子
(56)【参考文献】
【文献】特開2019-101694(JP,A)
【文献】特許第2961264(JP,B1)
【文献】国際公開第2019/155719(WO,A1)
【文献】特開2017-191351(JP,A)
【文献】特開2018-126862(JP,A)
【文献】特開2019-168976(JP,A)
【文献】特開2015-184056(JP,A)
【文献】米国特許出願公開第2019/0323844(US,A1)
【文献】米国特許第09918204(US,B1)
(58)【調査した分野】(Int.Cl.,DB名)
G01S 5/00-5/14
G06T 7/00-7/90
(57)【特許請求の範囲】
【請求項1】
デプスセンサ及び慣性測定ユニットを含む電気装置用の位置決め方法であって、
前記慣性測定ユニットから取得した信号に基づいて、前記電気装置の初期位置や初期方向を計算する工程と、
データベースから環境点群を取得し、且つ前記初期位置及び前記初期方向に基づいて、前記環境点群から局所環境点群を取得する工程と、
前記デプスセンサによって読込点群を取得する工程と、
前記読込点群と前記局所環境点群とをマッチングして、前記電気装置の更新位置や更新方向を計算する工程と、
を備え
、
前記読込点群と前記局所環境点群とをマッチングすることは、下記の方程(1)を解くことを含み、
【数1】
p
i
は前記読込点群のi個目の点であり、q
i
は前記局所環境点群のi個目の点であり、前記点q
i
と前記点p
i
とがマッチングし、w
i
は前記点p
i
及び前記点q
i
に対応する重みであり、Rは平行移動行列であり、tは変位ベクトルであり、且つNは前記読込点群の点数であり、
前記重みw
i
は前記点q
i
と(Rp
i
+t)との間の距離と逆相関であり、
前記点p
i
及び前記点q
i
の各々は、X座標、Y座標、Z座標、法線ベクトル及び曲率因子を含み、
前記読込点群から前記点p
i
及びその複数の近傍点を取得する工程と、
前記点p
i
及び前記近傍点に対して主成分分析を実行して、複数の特徴値及び複数の主成分を取得し、且つ前記特徴値のうちの最小となる方に対応する前記主成分を前記点p
i
の前記法線ベクトルとして設置する工程と、
前記特徴値のうちの前記最小となる方を前記特徴値の合計で割って、前記曲率因子を計算する工程を更に備える位置決め方法。
【請求項2】
拡張現実装置であって、
慣性測定ユニットと、
デプスセンサと、
複数の工程を実行するように配置されるプロセッサと、
を含み、
前記複数の工程は、
前記慣性測定ユニットから取得した信号に基づいて、前記拡張現実装置の初期位置や初期方向を計算する工程と、
データベースから環境点群を取得し、且つ前記初期位置及び前記初期方向に基づいて、前記環境点群から局所環境点群を取得する工程と、
前記デプスセンサによって読込点群を取得する工程と、
前記読込点群と前記局所環境点群とをマッチングして、電気装置の更新位置や更新
方向を計算する工程と、
を備
え、
前記読込点群と前記局所環境点群とをマッチングすることは、下記の方程(1)を解くことを含み、
【数2】
p
i
は前記読込点群のi個目の点であり、q
i
は前記局所環境点群のi個目の点であり、前記点q
i
と前記点p
i
とがマッチングし、w
i
は前記点p
i
及び前記点q
i
に対応する重みであり、Rは平行移動行列であり、tは変位ベクトルであり、Nは前記読込点群の点数であり、且つ前記重みw
i
は前記点q
i
と(Rp
i
+t)との間の距離と逆相関であり、
前記点p
i
及び前記点q
i
の各々は、X座標、Y座標、Z座標、法線ベクトル及び曲率因子を含み、且つ前記複数の工程は、
前記読込点群から前記点p
i
及びその複数の近傍点を取得する工程と、
前記点p
i
及び前記近傍点に対して主成分分析を実行して、複数の特徴値及び複数の主成分を取得し、且つ前記特徴値のうちの最小となる方に対応する前記主成分を前記点p
i
の前記法線ベクトルとして設置する工程と、
前記特徴値のうちの前記最小となる方を前記特徴値の合計で割って、前記曲率因子を計算する工程を更に含む、拡張現実装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、拡張現実装置又は汎用電気装置に適用可能な位置決め方法に関する。
【背景技術】
【0002】
計算要素と実空間との合わせたシーンに、空間的位置及び姿勢の認識が使用されている。一般的には、空間的位置及び姿勢の取得は、主に、慣性測定ユニットによって実施される。しかしながら、慣性測定ユニットは、長時期に使用されると、全体がドリフトして、位置情報が不足になる恐れがある。全地球測位システム(Global positioning information system;GPS)は、屋外現場で位置情報を取得するように用いられるが、屋内現場で信頼的ではない。GPSがない場合、自己位置推定とマッピングの同時実行(SLAM)によって、屋内現場における空間的位置及び姿勢を取得する。しかしながら、工業に適用される固定空間現場に対して、現場モデルの連続した更新は、余計であり計算資源が大量に消費されるが、人員が領域の間で絶えずに移動すれば、SLAMが更に地図データのエラーを引き起こしてしまう。
【発明の概要】
【0003】
本公開内容の実施形態は、デプスセンサ及び慣性測定ユニットを含む電気装置用の位置決め方法であって、前記慣性測定ユニットから取得した信号に基づいて、前記電気装置の初期位置や初期方向を計算する工程と、データベースから環境点群を取得し、且つ前記初期位置及び前記初期方向に基づいて、前記環境点群から局所環境点群を取得する工程と、前記デプスセンサによって読込点群を取得する工程と、前記読込点群と前記局所環境点群とをマッチングして、前記電気装置の更新位置や更新方向を計算する工程と、を備える位置決め方法を提供する。
【0004】
ある実施形態において、前記読込点群と前記局所環境点群とをマッチングすることは、下記の方程(1)を解くことを含み、
【数1】
【0005】
方程(1)において、piは前記読込点群のi個目の点であり、qiは前記局所環境点群のi個目の点であり、前記点qiと前記点piとがマッチングし、wiは前記点pi及び前記点qiに対応する重みであり、Rは平行移動行列であり、tは変位ベクトルであり、且つNは前記読込点群の点数である。
【0006】
ある実施形態において、前記重みwiは前記点qiと(Rpi+t)との間の距離と逆相関である。
【0007】
ある実施形態において、前記点pi及び前記点qiの各々は、X座標、Y座標、Z座標及び法線ベクトルを含む。
【0008】
ある実施形態において、前記位置決め方法は、前記読込点群から前記点pi及びその複数の近傍点を取得する工程と、前記点pi及び前記近傍点に対して主成分分析を実行して、複数の特徴値及び複数の主成分を取得し、且つ前記特徴値のうちの最小となる方に対応する前記主成分を前記点piの前記法線ベクトルとして設置する工程と、を更に備える。
【0009】
ある実施形態において、前記点pi及び前記点qiの各々は、曲率因子を更に含み、且つ前記位置決め方法は、前記特徴値のうちの前記最小となる方を前記特徴値の合計で割って、前記曲率因子を計算する工程を更に備える。
【0010】
一方、本公開内容の実施形態は、拡張現実装置であって、慣性測定ユニットと、デプスセンサと、複数の工程を実行するように配置されるプロセッサと、を含み、前記複数の工程は、前記慣性測定ユニットから取得した信号に基づいて、前記拡張現実装置の初期位置や初期方向を計算する工程と、データベースから環境点群を取得し、且つ前記初期位置及び前記初期方向に基づいて、前記環境点群から局所環境点群を取得する工程と、前記デプスセンサによって読込点群を取得する工程と、前記読込点群と前記局所環境点群とをマッチングして、前記電気装置の更新位置や更新方向を計算する工程と、を備える拡張現実装置を提供する。
【発明の効果】
【0011】
上記装置及び方法において、慣性測定ユニットによって粗位置を確定した後で、点群レジストレーションによってこの位置を更新する。そのため、精確な位置を提供し、点群レジストレーションの計算を低減する。
【図面の簡単な説明】
【0012】
下記添付図面を参照すると、下記実施形態についての詳細な記述を読むことで、本発明をより全面的に理解することができる。
【0013】
【
図1】一実施形態による拡張現実装置の適用シーンである。
【
図2】一実施形態による拡張現実の模式的ブロック図である。
【
図3】一実施形態による拡張現実装置の適用シーンの上面図である。
【
図4】一実施形態による位置決め方法の流れ図である。
【
図5】一実施形態による反復最近接点アルゴリズムの模式的流れ図である。
【
図6】一実施形態による法線ベクトルの計算の模式図である。
【
図7】一実施形態による位置決め方法の模式的流れ図である。
【発明を実施するための形態】
【0014】
以下、添付図面を参照して、本発明の具体的な実施形態をより詳しく説明するが、説明される実施形態は本発明を制限するためのものではなく、且つ操作についての記述は達成手順を制限するためのものではない。なお、素子を再構築した構造による同一の機能を持つ如何なる装置も、本発明の範囲内に含まれる。また、添付図面は単に説明するためのものであり、且つ実際の寸法として描かれていない。
【0015】
明細書において「第1の」、「第2の」、「第3の」等が使用される場合、同じ用語で記述するユニット又はデータを表すためのものであるが、特定の手順や順序に関わっていないことは、理解すべきである。
【0016】
本公開内容の位置決め方法は、点群、慣性測定ユニット(inertial measurement unit;IMU)及び点群レジストレーション(point cloud registration;PCR)の技術を採用する。デプスセンサによって空間の点群を抽出して、且つ空間での位置や方向を確定するように、点群とIMU及びPCRとを合わせる。工業的適用において、位置決め技術は、コンピュータプログラムと現実環境との間の仮想及び真の関係との繋がりに用いられることができる。一方、拡張現実(AR)装置の対象設計は、人員が特定な場所でのタスクを完成するようにガイドする。一般的には、単一のIMUを有する空間位置決めの欠点は、位置を精確に測定できず、且つ長時期に使用されると誤差を累積することである。提出される方法点群を走査することで、IMUを介して既知の環境における点群の粗位置を提供し、またPCRアルゴリズムを介して走査された点群と環境の3Dモデルの点群をマッチングさせて精確な位置や方向を計算する。そのため、精確な空間的位置情報を得、ARの複合現実の設計の信頼性を向上させることができる。
【0017】
図1は、一実施形態による拡張現実装置の適用シーンである。
図1の実施形態において、AR装置100は、スマートグラスであるが、マスク、スマートフォン、タブレット等であってもよい。AR装置100の外観は、本公開内容に制限されない。ユーザーは、AR装置100を装着して、屋内(例えば、1つ又は複数の工作機械110の設けられた工業環境)で移動することができる。工作機械110の点群が既知されるため、AR装置100は、AR装置100の位置を取得するように、工作機械110の点群を識別することができる。
【0018】
図2は、一実施形態による拡張現実装置の模式的ブロック図である。
図2を参照すると、AR装置100は、プロセッサ210と、慣性測定ユニット220と、デプスセンサ230と、通信モジュール240と、ディスプレイ250と、を備える。プロセッサ210は、中央処理ユニット、マイクロプロセッサ、マイクロコントローラ、デジタルシグナルプロセッサ、画像処理チップ、特定用途向け集積回路等であってよい。慣性測定ユニット220は、加速度センサ、角速度センサ、磁力計等を含んでよい。デプスセンサ230は、赤外線放射体、赤外線センサ、デュアルカメラ、構造化光感知装置又は被写界深度を検出可能な如何なる装置を含んでよい。通信モジュール240は、インターネット、ローカルエリアネットワーク(LAN)、広域ネットワーク(WAN)、セルラネットワーク、近場通信(NFC)、赤外線(IR)、ブルートゥース(登録商標)、WiFi(登録商標)のような通信手段を提供可能な回路であってよい。ディスプレイ250は、有機ダイオード(OLED)ディスプレイ、液晶ディスプレイ又は如何なる好適なディスプレイを含んでもよい。便宜上、
図2にAR装置100の全ての部材を示していない。
【0019】
図3は、一実施形態による拡張現実装置の適用シーンの上面図である。
図4は、一実施形態による位置決め方法の流れ図である。
図3及び
図4の実施形態において、AR装置100は、屋内環境300を移動する。下記方法の工程の各々は、AR装置100のプロセッサ210、又はAR装置100から所望のデータを受信した後で計算結果をAR装置100に送信するクラウドサーバ(未図示)によって実行される。
【0020】
工程420において、慣性測定ユニット220から取得した信号に基づいて、初期位置や初期方向301を計算する。例えば、慣性測定ユニット220により測定された加速度値を積分して速度値を取得し、この速度値を積分して初期位置を取得し、且つ角加速度及び磁力の方向に基づいて初期方向301を取得する。
【0021】
工程430において、行列
【数2】
として表される点群(点集と呼ばれてもよい)を取得するように、デプスセンサ230によって点の走査を実行し、この行列は、複数の点を含み、i個目の点がベクトルp
iとして表され、M、N及びiは正整数である。Nは行列Pにおける点の数である。Mは各々のベクトルp
iの長さである。詳しくは、デプスセンサ230は、環境対象の各々の点とAR装置100との間の距離を取得するように、環境対象(例えば、工作機械110)を走査する。距離及びAR装置100の位置や方向に基づいて点の座標を計算する。そのため、各々のベクトルp
iは、少なくともX座標、Y座標及びZ座標を含む。ある実施形態において、各々のベクトルp
iは、法線ベクトル及び曲率因子(下記で説明する)を更に含む。ベクトルp
iを例として概して説明する。デプスセンサ230により生成される点群は読込点群と呼ばれる。
【0022】
工程440において、データベース450から環境点群を取得する。環境点群は、屋内環境300における1つ又は複数の工作機械110の点群を含む。環境点群は、行列
【数3】
として表される。同様に、環境点群は、複数の点を含み、i個目の点はベクトルq
iとして表される。環境点群を予め作成してよい。例えば、3Dファイルを点群に変換してよい。3Dファイルは、様々なソフトウェア(例えばAutocad、Solidwork又はCatia)により生成されてよい。実施形態において、デプスセンサ230は、ステッチング、ノイズフィルタリング、シャープニング、グリッド化等の処理によって、3Dファイル無しの環境点群を生成してよい。ある実施形態において、環境点群は、別のコンピュータシステムによって提供される。
【0023】
工程440において、初期推測を更に実行する。環境点群は、屋内環境における全ての対象の点を含み、且つ対象の何れも読込点群にマッチングすると、冗長性計算が存在する。ある実施形態において、デプスセンサ230は、初期位置や初期方向を有する視野310を計算するための視角を有する。環境点群のみから視野310における点を局所環境点群として抽出し、便宜上、この局所環境点群は相変わらずQとして表される。計算を低減するように、局所環境点群と読込点群とをマッチングさせる。ある実施形態において、読込点群と局所環境点群との間に平行移動や変位の変換が存在する。この変換は、下記の方程(1)として書かれる。
【数4】
【0024】
Rは、寸法M×Mの平行移動行列であり、tは長さMの変位ベクトルである。ある実施形態において、工程420において計算された初期方向及び初期位置によって平行移動行列R及び変位ベクトルtを初期化する。実施形態において、平行移動行列R及び変位ベクトルtはランダムに初期化される。
【0025】
工程460において、点群レジストレーション(PCR)アルゴリズムを実行する。実施形態において、反復最近接点(ICP)アルゴリズムを採用するが、他の実施形態において、他のレジストレーションアルゴリズムを採用してもよい。
図5は、一実施形態によるICPアルゴリズムの模式的流れ図である。
図5を参照すると、工程510において、点p
iは(Rp
i+t)に変換される。
【0026】
工程520において、点qiを快速に検索するように、局所環境点群Qに基づいてKD木を生成する。他の実施形態において、BSP木、KDB木、R木、R+木、CELL木、四分木及び八分木のような他のデータ構造を採用してよい。
【0027】
工程530において、読込点群Pと局所環境点群Qとをマッチングし、つまり、各々の点piの最近接点qiを検索して一対の(pi,qi)を形成する。注意すべきなのは、最近接点を検索する場合、点qiと変換された点(Rpi+t)との間の距離を計算する。点qiと(Rpi+t)との間の距離は、ユークリッド距離(つまり、差分ベクトルのL2-ノルム)又は他の好適な距離であってよい。
【0028】
工程540において、各対の(pi,qi)に対して重みwiを計算する。重みwiは点qiと(Rpi+t)との間の距離と逆相関し、且つこの距離が本明細書で実数dとして表される。例えば、実数dが閾値よりも大きくなると、重みwiを0として設置する。実数dが閾値以下になると、重みwiを実数dの逆関数又は減少関数として設置する。減少関数は、e-dのようなものであってよい。重みwiは、点群の外れ値(例えば、背景)を除去することに用いられる。このように、背景がマッチング結果に影響を与えることはない。
【0029】
工程550において、行列R及びベクトルtを計算するように、最適化アルゴリズムを実行し、これは下記の方程(2)として書かれる。
【数5】
【0030】
上記最適化アルゴリズムは、公式又は本公開内容で制限されない検索方法(例えば、遺伝的アルゴリズム)によって解かれることができる。例えば、公式は、下記の方程(3)~(5)を含んでよい。
【数6】
【数7】
【数8】
【0031】
次に、下記の方程(6)に基づいて行列Sを生成する。行列Sに対して、方程(7)で書かれるように、特異値分解(SVD)を実行する。行列U及びVに基づいて下記の方程(8)のように平行移動行列Rを計算する。
【数9】
【数10】
【数11】
【0032】
工程560において、更新が収束したかを確定する。例えば、平行移動行列R及び変位ベクトルtの変化量が所定値よりも小さくなると、更新が収束したと確定する。ある実施形態において、特定回数の反復が実行されると、更新が収束したと確定する。収束されていないと、工程510に戻って、新しい平行移動行列R及び新しい変位ベクトルtに基づいて点piを変換する。
【0033】
図3及び
図4を参照すると、工程470において、更新位置や更新方向を計算する。具体的に、読込点群と局所環境点群とがマッチングした後で、あるマッチングされた点q
iが工作機械110に属すると、工作機械110がAR装置100の視野310内にあることを意味する。また、この対の(p
i,q
i)に基づいてAR装置100の工作機械110に対する距離や方向を取得することができるため、既知の工作機械110の位置により、更新位置及びAR装置100の方向の更新方向を計算することができる。工程420において計算された初期方向及び初期位置は、更新位置や更新方向により置換される。ある実施形態において、更に、更新位置や更新方向を拡張現実モジュール410に送信し、ディスプレイ250に何れの情報を表示するかを確定するように、この拡張現実モジュールはプロセッサ210により実行される。
【0034】
ある実施形態において、点群の各々の点について、付加法線ベクトル及び曲率因子を計算する。そのため、点p
i及び点q
iの各々も長さ7のベクトル(x,y,z,u,v,w,c)として表されることができる。(x,y,z)の要素はX座標、Y座標及びZ座標である。(u,v,w)の要素は法線ベクトルを構成し、且つcは曲率因子である。
図6は、一実施形態による法線ベクトルの計算の模式図である。
図6を参照すると、点p
i(x,y,z)を例として、小さい領域における点p
iの近傍点610(又は予定数の近傍点)を取得する。点p
i及び近傍点610に対して主成分分析(PCA)アルゴリズムを実行して、特徴値λ
1、λ
2及びλ
3及び主成分を取得する。特徴値λ
1、λ
2及びλ
3は降順で配列される。当業者であればPCAアルゴリズムを知るべきであるため、それについて詳しく説明しない。各々の特徴値は、主成分の1つに対応する。各々の主成分は長さ3のベクトルである。最大特徴値λ
1に対応する主成分は、点p
i及び近傍点610を最大に表す基礎である。点p
i及び近傍点610がほぼ2つのベースラインにより跨がれる二次元表面にあるため、第3のベースラインはこの表面の法線ベクトルを表すべきである。言い換えれば、最小特徴値λ
3に対応する主成分は、点p
iの法線ベクトル(u,v,w)として設置される。なお、表面が平坦であれば、特徴値λ
3は比較的小さいべきであるが、表面が湾曲すると、特徴値λ
3は比較的大きいべきである。そのため、特徴値λ
3は、曲率因子cの計算に用いられることができる。ある実施形態において、下記の方程(9)で書かれるように、最小特徴値を3つの特徴値の合計で割って、曲率因子cを計算する。
【数12】
【0035】
読込点群及び局所環境点群の各々の点に対して上記操作を実行してよく、且つ最初のベクトル(x,y,z)はベクトル(x,y,z,u,v,w,c)に置換される。実施形態において、法線ベクトル及び曲率因子がマッチングの改善される対(pi,qi)のICPアルゴリズムのマッチングに加えられるため、各々の点についてより詳しく説明する。
【0036】
図7は、一実施形態による位置決め方法の模式的流れ図である。
図7を参照すると、工程710において、慣性測定ユニットから取得した信号に基づいて、電気装置の初期位置や初期方向を計算する。工程720において、データベースから環境点群を取得し、且つ初期位置や初期方向に基づいて環境点群から局所環境点群を取得する。工程730において、デプスセンサによって読込点群を取得する。工程740において、読込点群と局所環境点群とをマッチングして、電気装置の更新位置や更新方向を計算する。しかしながら、
図7における全ての工程については、上記で詳しく説明されるため、繰り返して説明しない。注意すべきなのは、
図7における工程は、プログラムコード又は回路として達成されることができるが、且つ本公開内容はこれに限定されない。また、
図7における方法は、AR装置100又は例えばスマートフォン、タブレット又は如何なる好適なウェアラブル装置のような汎用電気装置に適用されることができる。電気装置は、少なくともプロセッサ、デプスセンサ及び慣性測定ユニットを含む。
【0037】
上記位置決め方法及びAR装置において、点群情報、IMU及びPCR技術を組み合わせることで、SLAM及びIMUが屋内で位置及び配向情報を精確に提供できないという課題が解決される。更に、IMUの経時的なエラーの累積という課題も解決される。この位置決め方法は、例えば工場エリア又は屋内空間のような、3Dモデルを有する如何なる屋内環境又はCADソフトウェアにより設計される工作機械を有する屋内場所に適用されることができる。
【0038】
本発明のある実施形態を参照して本発明を相当詳しく記述したが、他の実施形態も可能である。そのため、添付の特許請求の範囲の精神や範囲は、本明細書に含まれる実施形態についての記述に限定されない。当業者であれは、本発明の範囲や精神から逸脱しない限り、本発明の構造に様々な修正や変化を加えてもよいことは明らかである。前記内容に鑑みて、本発明は、添付の特許請求の範囲の範囲内に含まれるものであれば、本発明の修正や変化を包含することを意図する。
【符号の説明】
【0039】
100 AR装置
110 工作機械
210 プロセッサ
220 慣性測定ユニット
230 デプスセンサ
240 通信モジュール
250 ディスプレイ
300 屋内環境
310 視野
301 初期方向
410 拡張現実モジュール
420、430、440、450、460、470、510、520、530、540、550、560、710、720、730、740 工程
610 近傍点