IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 三菱電機ビルテクノサービス株式会社の特許一覧 ▶ 三菱電機株式会社の特許一覧

<>
  • 特許-位置推定装置 図1
  • 特許-位置推定装置 図2
  • 特許-位置推定装置 図3
  • 特許-位置推定装置 図4
  • 特許-位置推定装置 図5
  • 特許-位置推定装置 図6
  • 特許-位置推定装置 図7
  • 特許-位置推定装置 図8
  • 特許-位置推定装置 図9
  • 特許-位置推定装置 図10
  • 特許-位置推定装置 図11
  • 特許-位置推定装置 図12
  • 特許-位置推定装置 図13
  • 特許-位置推定装置 図14
  • 特許-位置推定装置 図15
  • 特許-位置推定装置 図16
  • 特許-位置推定装置 図17
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-04-04
(45)【発行日】2024-04-12
(54)【発明の名称】位置推定装置
(51)【国際特許分類】
   G01C 21/30 20060101AFI20240405BHJP
   G01S 5/02 20100101ALI20240405BHJP
   G06T 7/70 20170101ALI20240405BHJP
   G01C 21/26 20060101ALI20240405BHJP
   G08G 1/005 20060101ALI20240405BHJP
【FI】
G01C21/30
G01S5/02 A
G06T7/70 A
G01C21/26 P
G08G1/005
【請求項の数】 8
(21)【出願番号】P 2020036564
(22)【出願日】2020-03-04
(65)【公開番号】P2021139701
(43)【公開日】2021-09-16
【審査請求日】2022-09-28
(73)【特許権者】
【識別番号】000236056
【氏名又は名称】三菱電機ビルソリューションズ株式会社
(73)【特許権者】
【識別番号】000006013
【氏名又は名称】三菱電機株式会社
(74)【代理人】
【識別番号】110001210
【氏名又は名称】弁理士法人YKI国際特許事務所
(72)【発明者】
【氏名】妻鹿 利宏
(72)【発明者】
【氏名】成井 智祐
(72)【発明者】
【氏名】川浦 健央
(72)【発明者】
【氏名】中野 智晴
【審査官】佐々木 佳祐
(56)【参考文献】
【文献】特開2015-055534(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01C 21/00-25/00
G08G 1/00-99/00
G01S 5/02
G06T 7/70
(57)【特許請求の範囲】
【請求項1】
建物内に携行される、位置推定装置であって、
歩行者自律航法により前記建物内の位置座標推定を行うPDR位置推定部と、
前記建物内を撮像する撮像器と、
前記建物の構造データに基づいて前記建物内の設備から選択された測位オブジェクトの位置座標と、前記PDR位置推定部により推定された現在位置座標との距離が所定の近接距離以下になった時に、前記撮像器による前記測位オブジェクトの撮像を携行者に促す動作を実行する判定部と、
前記撮像器により撮像された前記建物内の撮像画像に含まれる前記測位オブジェクトと、前記建物の構造データに含まれる前記測位オブジェクトとの画像マッチングを行って撮像位置座標を推定する画像マッチング位置推定部と、
前記測位オブジェクトを選択するオブジェクト選択部と、
を備え
前記オブジェクト選択部は、所定の補正間隔で離間する、前記建物内に固定配置された複数種類の属性に亘る設備の中から、前記測位オブジェクトを選択する、
位置推定装置。
【請求項2】
請求項1に記載の位置推定装置であって、
前記オブジェクト選択部は、前記建物内に固定配置された複数種類の属性に亘る設備のうち、相対的に小型の設備を、前記測位オブジェクトとして選択する、位置推定装置。
【請求項3】
請求項2に記載の位置推定装置であって、
前記測位オブジェクトの位置座標と、前記PDR位置推定部により推定された現在位置座標との距離が前記近接距離以下になった時に、前記測位オブジェクトの属性を表示する表示部を備える、位置推定装置。
【請求項4】
請求項3に記載の位置推定装置であって、
メッセージが入力される入力部と、
前記メッセージが入力された入力位置座標と現在位置座標とが一致するときに、前記表示部に対して、当該入力位置座標にて撮像された前記建物内の撮像画像に前記メッセージを重畳表示させる表示制御部と、
を備える、位置推定装置。
【請求項5】
請求項1~4の何れか一つに記載の位置推定装置であって、
前記建物の構造データとして、3D-CADデータまたはBIMデータが記憶される構造データ記憶部を備える、
位置推定装置。
【請求項6】
請求項1~4の何れか一つに記載の位置推定装置であって、
前記建物の構造データとして、2D-CADデータが記憶される構造データ記憶部と、
前記測位オブジェクトの高度が入力される高度入力部を備える、
位置推定装置。
【請求項7】
請求項1~6の何れか一つに記載の位置推定装置であって、
前記判定部は、前記測位オブジェクトの位置座標と、前記PDR位置推定部により推定された現在位置座標との距離が前記近接距離以下になった時に、前記PDR位置推定部による位置推定を休止させるとともに、前記画像マッチング位置推定部による位置推定を実行させる、
位置推定装置。
【請求項8】
請求項1~7の何れか一つに記載の位置推定装置であって、
GPS信号を受信する受信機と、
現在位置座標の高度が所定の閾値高度を超過するときに、前記GPS信号による位置推定を休止するGPS信号判定部と、
を備える、位置推定装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、位置推定装置に関する。
【0002】
例えば建物内の保守作業を行う際に、当該建物内の作業員の位置座標を求めることで、保守作業の効率化が図られる。例えば、建物内の作業員の位置座標をもとに、遠隔から作業員に対して保守対象の設備までの経路を指示できる。
【0003】
作業員の位置座標を求めるデバイスとして、例えばスマートフォン等の携帯通信端末が用いられる。作業員に通信端末を携行させ、当該通信端末に搭載されたセンサ等により、作業員の位置座標が求められる。
【0004】
例えば通信端末を用いた位置座標の測位システムとして、GPS(Global Positioning System)システムが知られている。しかしながら、作業員が建物内にいる場合、GPS衛星からの信号(GPS信号)を通信端末が受信し難くなる。
【0005】
GPSに代わる位置座標の測位手法として、例えば特許文献1~6に例示されるような、画像マッチングによる測位が知られている。例えば作業員が通信端末のカメラ機能を用いて周囲を撮像する。この撮像画像と、建物の3D-CADデータやBIMデータ等の建物構造データとを対比することで、撮像位置座標が求められる。
【0006】
また、他の位置座標の測位手法として、例えば特許文献7、8に例示されるような、歩行者自律航法(PDR)が知られている。通信端末には加速度センサ、磁器センサ、ジャイロセンサが搭載され、これらのセンサによって、直前の位置から現在位置までの変位が求められる。
【先行技術文献】
【特許文献】
【0007】
【文献】特開2018-132528号公報
【文献】特開2016-164518号公報
【文献】特開2011-094992号公報
【文献】特開2009-109415号公報
【文献】国際公開第2017/168472号
【文献】特開2017-167077号公報
【文献】特開2017-106787号公報
【文献】特許第6415796号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
ところで、画像マッチングによる位置推定を行う場合、ニューラルネットワーク等の、人工知能(AI)を用いた演算が実行される。この演算は比較的負荷が大きく、画像マッチングによる位置推定を常時行う場合、通信端末の演算負荷が過大となる。一方、PDRによる位置推定は、画像マッチングよりも演算負荷が軽いというメリットがあるが、センサの誤差が積算されるため、PDRによる位置推定が行われる距離が長くなるほど、推定精度が低下するという特徴がある。
【0009】
そこで本発明は、位置推定の精度低下を抑制しつつ、通信端末の演算負荷の軽減を可能とする、位置推定装置を提供することを目的とする。
【課題を解決するための手段】
【0010】
本発明は、建物内に携行される、位置推定装置に関する。当該装置は、PDR位置推定部、撮像器、判定部、及び画像マッチング位置推定部を備える。PDR位置推定部は、歩行者自律航法により建物内の位置座標推定を行う。撮像器は、建物内を撮像する。判定部は、建物の構造データに基づいて建物内の設備から選択された測位オブジェクトの位置座標と、PDR位置推定部により推定された現在位置座標との距離が所定の近接距離以下になった時に、撮像器による測位オブジェクトの撮像を携行者に促す動作を実行する。画像マッチング位置推定部は、撮像器により撮像された建物内の撮像画像に含まれる測位オブジェクトと、建物の構造データに含まれる測位オブジェクトとの画像マッチングを行って撮像位置座標を推定する。
【0011】
上記構成によれば、歩行者自律航法による位置座標推定と、測位オブジェクトとの画像マッチングによる位置座標推定とが併用して行われる。歩行者自律航法による位置座標推定による誤差は、画像マッチングによる位置座標推定により補正される。さらに、画像マッチングによる位置座標推定が間欠的に実行されるため、当該推定が常時実行される場合と比較して、位置推定装置の演算負荷は軽減される。
【0012】
また上記構成において、測位オブジェクトを選択するオブジェクト選択部が設けられてよい。この場合、オブジェクト選択部は、所定の補正間隔に応じて、複数の測位オブジェクトを選択する。
【0013】
補正間隔に応じて、均等に測位オブジェクトが選択されることで、歩行者自律航法による誤差の蓄積が均等化される。
【0014】
また上記構成において、測位オブジェクトの位置座標と、PDR位置推定部により推定された現在位置座標との距離が近接距離以下になった時に、測位オブジェクトの属性を表示する表示部を備えてもよい。
【0015】
測位オブジェクトの属性が示されることで、撮像対象が携行者に知らされることになり、測位オブジェクトを確実に撮像可能となる。
【0016】
また上記構成において、入力部及び表示制御部が設けられてもよい。入力部にはメッセージが入力される。表示制御部は、メッセージが入力された入力位置座標と現在位置座標とが一致するときに、表示部に対して、当該入力位置座標にて撮像された建物内の撮像画像にメッセージを重畳表示させる。
【0017】
建物の保守点検を行う複数の作業員にそれぞれ位置推定装置を携行させたときに、上記のような重畳表示機能が各位置推定装置に設けられることで、入力位置座標における作業内容等のメッセージを作業員間で共有できる。
【0018】
また上記構成において、建物の構造データとして、3D-CADデータまたはBIMデータが記憶される構造データ記憶部が設けられてもよい。
【0019】
また上記構成において、建物の構造データとして、2D-CADデータが記憶される構造データ記憶部と、測位オブジェクトの高度が入力される高度入力部が設けられてもよい。
【0020】
また上記構成において、判定部は、測位オブジェクトの位置座標と、PDR位置推定部により推定された現在位置座標との距離が所定の近接距離以下になった時に、PDR位置推定部による位置推定を休止させるとともに、画像マッチング位置推定部による位置推定を実行させてもよい。
【0021】
また上記構成において、GPS信号を受信する受信機と、現在位置座標の高度が所定の閾値高度を超過するときに、GPS信号による位置推定を休止するGPS信号判定部とが設けられてもよい。
【0022】
GPSによる測位では、GPS信号の受信が不安定なとき、高度の精度が低くなることが知られている。このような、GPS信号を受信したときの位置座標の高度に応じて、GPS信号による位置推定の可否を判定することで、高度成分の推定精度の低下が抑制される。
【発明の効果】
【0023】
本発明によれば、位置推定の精度低下を抑制しつつ、通信端末の演算負荷が軽減可能となる。
【図面の簡単な説明】
【0024】
図1】本実施形態に係る位置推定装置のハードウェア構成を例示する図である。
図2】本実施形態に係る位置推定装置の測位の基準となる基準座標軸を例示する図である。
図3】本実施形態に係る位置推定装置の機能ブロックを例示する図である。
図4】建物の構造データとして、3次元データを例示する図である。
図5】建物の構造データとして、2次元データを例示する図である。
図6】本実施形態に係る位置測定プロセスを例示する図である。
図7】測位オブジェクト選択フローを例示する図である。
図8】本実施形態に係る位置推定フローを例示する図である。
図9】携行者に撮像を促すための、撮像機能通知を例示する図である。
図10】画像マッチングによる位置推定フローを例示する図である。
図11】建物内の撮像画像を例示する図である。
図12】PnP問題に基づく位置推定プロセスを説明する図である。
図13】2次元データを用いた画像マッチングによる位置推定フローを例示する図である。
図14】歩行者自律航法に基づく位置推定フローを例示する図である。
図15】撮像画像にメッセージが重畳表示されたときの例を示す図である。
図16】本実施形態に係る位置測定プロセスの別例を示す図である。
図17】GPS信号に基づく位置推定の可否を判定するフローを例示する図である。
【発明を実施するための形態】
【0025】
図1には、本実施形態に係る位置推定装置10のハードウェア構成が例示される。位置推定装置10は、建物の保守点検を行う作業員が携行可能な通信端末であってよく、例えばスマートフォンやタブレット端末等の、携帯用の通信端末であってよい。例えば位置推定装置10は、作業員に携行され、保守点検対象の建物内にて使用される。
【0026】
位置推定装置10は、CPU12、加速度センサ14、ジャイロセンサ16、地磁気センサ18、撮像器20、GPS受信機22、振動器24、入力部26、システムメモリ28、ストレージ30、GPU32、フレームメモリ34、RAMDAC36、及び表示部38を備える。
【0027】
CPU12(中央演算装置)は、本実施形態に係る位置推定プロセスを実行する中心的な演算素子である。システムメモリ28は、CPU12によって実行されるオペレーションシステム(OS)が使用する記憶装置である。ストレージ30は、外部記憶装置であって、例えば後述する、位置推定プロセスを実行するためのプログラムが記憶される。
【0028】
GPU32(Graphics Processing Unit)は、画像処理用の演算装置であって、後述する画像マッチングによる位置推定を行う際に主に稼働される。フレームメモリ34は、撮像器20により撮像されさらにGPU32により演算処理された画像を記憶する記憶装置である。RAMDAC36(Random Access Memory Digital-to-Analog Converter)は、フレームメモリ34に記憶された画像データを、アナログディスプレイである表示部38向けのアナログ信号に変換する。
【0029】
加速度センサ14は、位置推定装置10の加速度を測定する。加速度センサ14は、図2に例示されるように、直交する3軸方向の加速度をそれぞれ計測可能となっている。すなわち、表示部38の表示面に平行であって、軸同士が直交するX軸及びY軸、並びに、表示部38の表示面に直交するZ軸のそれぞれの軸方向の加速度が、加速度センサ14によって測定される。加速度センサ14、ジャイロセンサ16、及び地磁気センサ18は、例えばMEMS(Micro Electro Mechanical Systems)等のいわゆるマイクロマシンから構成される。
【0030】
ジャイロセンサ16は、位置推定装置10の角速度を測定する。ジャイロセンサ16は、図2に例示されるように、直交する3軸周りの回転を測定する。つまり、X軸周りの回転であるピッチ角、Y軸周りの回転であるロール角、及び、Z軸周りの回転であるアジマス角(ヨー角とも呼ばれる)が、ジャイロセンサ16により測定される。また、地磁気センサ18は、位置推定装置10の磁北からの傾きを検出する。
【0031】
GPS受信機22は、GPS衛星から測位信号であるGPS信号を受信する。GPS信号には、緯度、経度、高度の位置座標情報が含まれる。後述するように、GPS信号は屋内ではGPS衛星からのGPS信号の受信が困難となる。したがって、主に位置推定装置10が屋外に携行されているときに、GPS信号に基づく位置座標推定が行われる。
【0032】
撮像器20は、例えばスマートフォンに搭載されたカメラデバイスであり、建物内の様子を静止画及び動画にて撮像可能となっている。撮像器20は、例えばCMOSやCCD等の撮像デバイスを含んで構成される。
【0033】
入力部26は文字入力や後述する測位オブジェクトの高度を入力可能となっている。例えば入力部26は、表示部38と一体化されたタッチパネルであってよい。表示部38は、撮像器20の撮像画像、入力部26により入力された文字メッセージ、及び後述する測位オブジェクトの属性等を表示可能となっている。
【0034】
振動器24は例えばバイブレータであり、後述するように、測位オブジェクトの撮像地点において、測位演算切替判定部44(図3参照)により振動駆動される。振動器24は、例えば、リニア共振アクチュエータ、偏心回転質量型のモータ、またはピエゾアクチュエータから構成される。
【0035】
図3には、位置推定装置10の機能ブロック図が例示される。この機能ブロック図は、例えばシステムメモリ28やストレージ30に記憶されるか、または、DVDやコンピュータのハードディスク等の、非一過性の記憶媒体に記憶された、位置推定プログラムをCPU12やGPU32が実行することで構成される。
【0036】
図3には、図1にも例示されたハードウェア構成の一部と機能ブロックとが混在した状態で示される。具体的に図3に例示されるように、位置推定装置10は、ハードウェア構成として、加速度センサ14、ジャイロセンサ16、地磁気センサ18、撮像器20、GPS受信機22、入力部26、振動器24、表示部38を備える。さらに位置推定装置10は、機能ブロックとして、PDR位置推定部40、画像マッチング位置推定部42、測位演算切替判定部44、建物構造データ記憶部46、測位オブジェクト選択部48、位置座標記憶部50、メッセージ表示制御部52、及び、GPS信号判定部54を備える。これらの機能ブロックは、CPU12、システムメモリ28、ストレージ30、GPU32、及びフレームメモリ34等から構成される。
【0037】
PDR位置推定部40は、歩行者自律航法(PDR、Pedestrian Dead Reckoning)により、建物内の位置座標推定を行う。歩行者自律航法に基づく位置座標推定の詳細は後述される。
【0038】
画像マッチング位置推定部42は、撮像器20による建物内の撮像画像に含まれる測位オブジェクトと、建物構造データ記憶部46に記憶された、建物の構造データ内の測位オブジェクトとの画像マッチングを行うことで、撮像位置座標を推定する。
【0039】
画像マッチング位置推定部42には、例えば、外部のサーバ等によって学習済みの画像認識用のニューラルネットワークが記憶される。例えば建物内の画像データであって、画像内の各設備のセグメント済み及びアノテーション済みのデータが、訓練用データとして準備される。この訓練用データを用いて、教師有り学習により機械学習された多階層のニューラルネットワークが形成される。この学習済みの当該ニューラルネットワークが、画像マッチング位置推定部42に記憶される。なお、画像マッチングによる位置座標推定の詳細は後述される。
【0040】
測位演算切替判定部44は、位置推定装置10の位置座標推定に当たり、PDR位置推定部40を用いるか、または画像マッチング位置推定部42を用いるかを、後述する図8のフローチャートに則って判定する。
【0041】
建物構造データ記憶部46には、作業員(位置推定装置10の携行者)が保守点検作業を行う建物の構造データが記憶される。建物の構造データとして、例えば、建物構造データ記憶部46には、図4に例示されるような3次元構造データが記憶される。
【0042】
この3次元記憶データは、例えば3D-CADデータであってよい。3D-CADデータには、壁設置型の誘導灯60、ドア62、柱64等の、固定配置された設備に加えて、机66や椅子68等の、可動設備の3次元構造及び配置情報も含まれる。具体的には、これらの設備の、建物内に設置された3次元座標が世界座標系で記憶される。例えば誘導灯60であれば、誘導灯60の実寸法の3次元座標点群が世界座標系で記憶される。例えば世界座標系では、建物の任意の点が原点となり、この原点からの各設備の距離が3次元の直交座標系で表現される。
【0043】
また、建物構造データ記憶部46には、3次元座標点群に加えて、各設備の属性が記憶される。例えば誘導灯やドアといった設備名等の属性が、3次元座標点群とともに建物構造データ記憶部46に記憶される。なお、同一名称の設備が建物内に複数設置されている場合には、設備ごとにユニークな(重複のない)設備IDが属性情報に含まれる。
【0044】
また、建物構造データ記憶部46には、3D-CADデータに代えて、BIMデータが記憶されてよい。BIM(Building Information Modeling)データは、上記のような各設備の3次元座標点群及び属性に加えて、コスト、設置年月日、保守点検日等の管理情報も含まれる。
【0045】
また、建物構造データ記憶部46には、図4のような3次元構造データに代えて、図5に例示されるような2D-CADデータ等の2次元構造データが記憶されていてもよい。このような2次元構造データでは、フロア別に平面図データが構築される。また、各階で共通する2次元座標の原点からの、各設備の距離が、2次元座標点群にて表現される。例えば2次元構造データには、ドア62、柱64、床埋め込み式の誘導灯70等の、固定配置される設備に加えて、机66や椅子68等の、可動設備の2次元構造及び配置情報も含まれる。
【0046】
測位オブジェクト選択部48は、画像マッチング位置推定に必要な測位オブジェクトObj_kを選択する。後述されるように、測位オブジェクト選択部48は、建物構造データ記憶部46に記憶された建物の構造データに基づいて、当該建物内の設備から、複数の測位オブジェクトObj_kを選択する。
【0047】
<位置推定フロー>
図6には、本実施形態に係る位置推定装置10を使用した、位置推定プロセスが例示される。位置推定装置10は作業員80に携行され、屋外から建物100内に入る。屋外ではGPS衛星82からGPS信号を受信することで、位置推定装置10の位置座標が推定される。位置推定装置10が建物100内に入り、GPS信号の受信が困難になると、図8に例示される位置推定フローが実行される。
【0048】
図6に例示されるように、本実施形態に係る位置推定プロセスでは、画像マッチングによる位置推定と歩行者自律航法(PDR)に基づく位置推定とが交互に実行される。歩行者自律航法に基づく位置推定が途中で画像マッチングによる位置推定に置き換えられることで、歩行者自律航法に基づく誤差の蓄積が抑制される。また、画像マッチングによる位置推定が間欠的に実行されることで、常時画像マッチングによる位置推定を行う場合と比較して、演算負荷を軽減できる。演算負荷の軽減にともない、携帯型の位置推定装置10の電力消費を抑制可能となる。
【0049】
本実施形態に係る位置推定フローの実行に際して、測位オブジェクトが選択される。測位オブジェクトとは、建物内の設備のうち、画像マッチングの対象(または基準)となる設備を指す。測位オブジェクトは建物内に固定配置された設備であればよく、例えば誘導灯60,70、ドア62、柱64等が測位オブジェクトの候補に選ばれる。
【0050】
なお、撮像器20による撮像画像中に測位オブジェクトの全体像が含まれることが好適であることから、大型の設備よりも小型の設備の方が測位オブジェクトとしては好適である。例えば図6の例では、測位オブジェクトとして、壁設置型の誘導灯60と空調設備の室内機72が測位オブジェクトとして選択される。
【0051】
測位オブジェクトの選択は測位オブジェクト選択部48(図3参照)により実行される。測位オブジェクト選択部48には、画像マッチングによる位置推定を行う間隔である、補正間隔Lが記憶される。例えば補正間隔Lとして10mが設定される。この場合、10mごとに画像マッチングによる位置推定が実行され、その間は歩行者自律航法に基づく位置推定が実行される。
【0052】
図7には、測位オブジェクトの選択フローが例示される。測位オブジェクト選択部48は、建物構造データ記憶部46に記憶された、建物構造データを参照して、位置推定装置10が建物に入った時に最初に画像マッチングを行う測位オブジェクトObj_1を選択する(S10)。図6に例示されるように、GPSによる位置推定が困難となる建物100の入口付近の設備が測位オブジェクトObj_1に選択される。図6の例では、建物100の入口上方に設けられた誘導灯60が測位オブジェクトObj_1に選択される。
【0053】
さらに測位オブジェクト選択部48は、フロア面積及び補正間隔Lに基づいて、建物内の測位オブジェクトの最終値nを求める(S12)。例えばフロア面積が100mであって、補正間隔L=10mであるときに、当該フロアにおける最終値nは10となる。
【0054】
さらに測位オブジェクト選択部48は、測位オブジェクトObj_kのカウントkをインクリメントして(S14)、選択済みの測位オブジェクトObj_k-1から補正間隔L離れた測位オブジェクトObj_kを、建物構造データ内の設備から選択する(S16)。例えばこの選択ステップでは、選択された設備(つまり測位オブジェクトObj_k)の3次元座標点群と、当該設備の属性(誘導灯、ドア、柱等)とが関連付けられた状態で測位オブジェクト選択部48に記憶される。
【0055】
なお、上述したように、建物構造データ内の各設備は3次元点群として管理される。補正間隔L離れているか否かを判定する際には、例えばこれらの設備の代表点が用いられる。例えばそれぞれの設備を示す3次元点群の重心点が代表点として抽出され、各設備の代表点同士の距離に基づいて、補正間隔Lとの対比が行われる。
【0056】
さらに測位オブジェクト選択部48は、カウントkが最終値nに到達したか否かを判定し(S18)、未達である場合にはカウントkをインクリメントして(S17)、ステップS16まで戻る。ステップS18にてカウントkが最終値nに到達している場合には、測位オブジェクトObj_kの選択は終了される。
【0057】
なお、上述の例では、位置推定装置10の測位オブジェクト選択部48が、測位オブジェクトObj_kを選択していたが、本発明はこの形態に限られない。例えば、位置推定装置10とは異なるサーバ等により測位オブジェクトObj_kの選択が行われ、選択済みの測位オブジェクトObj_kが測位オブジェクト選択部48に記憶されてもよい。
【0058】
図8には、本実施形態に係る位置推定フローが例示される。測位演算切替判定部44(図3)には、位置推定装置10の現在位置座標が、PDR位置推定部40、画像マッチング位置推定部42、及び屋外に居る時にはGPS信号判定部54から送信される。
【0059】
測位演算切替判定部44は、位置推定装置10の現在位置(X,Y,Z)と、進行方向直近の測位オブジェクトObj_kの3次元座標(X0,Y0,Z0)との離間距離Dを求める(S20,S22)。なお、進行方向は現在位置とその直前の位置との差分から求めることが出来る。
【0060】
なお、位置推定装置10の現在位置座標は、例えば位置推定装置10の撮像器20内の焦点座標であってよい。また上述したように、3次元点群であるところの測位オブジェクトObj_kの3次元座標(X0,Y0,Z0)は、測位オブジェクトObj_kの代表点(例えば重心点)であってよい。
【0061】
位置推定装置10の現在位置(X,Y,Z)と、進行方向直近の測位オブジェクトObj_kの3次元座標(X0,Y0,Z0)との離間距離Dが所定の近接距離Dthを超過する場合、測位演算切替判定部44は、歩行者自律航法に基づく位置座標推定をPDR位置推定部に実行させる(S30)。
【0062】
一方、離間距離Dが所定の近接距離Dth以下である場合、測位演算切替判定部44は、撮像器20による測位オブジェクトの撮像を作業員(携行者)に促す動作を実行する(S24)。この動作は、図8において撮像機能通知と示される。撮像機能通知は、例えば図9に例示されるように、表示部38(入力部26も兼ねる)に撮像を促すメッセージ(撮像メッセージ)を表示する通知であってよい。また、撮像メッセージには、撮像すべき測位オブジェクトの属性(誘導灯等)が表示されてよい。
【0063】
加えて、撮像メッセージを作業員(携行者)に気付かせるために、アラーム機能が実行されてもよい。例えば、測位演算切替判定部44は、振動器24に対して振動指令を出力する。またこれに加えて、位置推定装置10であるところのスマートフォンの内蔵スピーカ(図示せず)からアラーム音が出力されてもよい。さらに、測位演算切替判定部44は、撮像メッセージの表示及びアラーム機能の実行と併せて、撮像器20の撮像機能を起動させてもよい。このようにして、測位オブジェクトの撮像を作業員に確実に実行させることが出来る。
【0064】
図8に戻り、測位演算切替判定部44は、撮像器20による撮像が完了したか否かを判定する(S26)。まだ撮像が行われていない場合には、撮像機能通知(撮像メッセージ表示及びアラーム出力)が継続される。
【0065】
一方、ステップS26にて撮像が行われた場合には、その撮像画像に基づいて、画像マッチング位置推定が実行される(S28)。測位演算切替判定部44は、画像マッチング位置推定部42に対して、位置推定の演算指令を出力する。
【0066】
なお、測位演算切替判定部44は、PDR位置推定部40と画像マッチング位置推定部42の一方に演算指令(位置推定指令)を出力するとともに、PDR位置推定部40と画像マッチング位置推定部42の他方に、演算(位置推定)の休止指令を送ってもよい。
【0067】
このようにして、図8に例示される位置推定フローでは、位置推定装置10と測位オブジェクトObj_kとの離間距離Dに応じて、PDR位置推定部40と画像マッチング位置推定部42との位置推定が切り替えられる。したがって例えば、位置推定装置10と測位オブジェクトObj_kとの離間距離Dが閾値である近接距離Dthを超過するときには、上述のようにPDR位置推定部40によって現在位置座標が求められる。さらに求められた現在位置座標と測位オブジェクトObj_kの位置座標との離間距離Dが近接距離Dth以下になると、測位演算切替判定部44により、撮像機能通知が出力され、さらに画像マッチング位置推定部42による現在位置座標(撮像位置座標)の推定が行われる。
【0068】
<画像マッチングを用いた位置推定>
図10には、画像マッチングを利用した位置座標推定のフローが例示される。このフローでは位置や形状が既知の物体の画像と、それを撮影した撮像器20の位置及び姿勢を求める、いわゆるPnP問題(Perspective n-Point)を解くことで、撮像器20及びこれを含む位置推定装置10の位置座標(撮像位置座標)が推定可能となる。
【0069】
画像マッチング位置推定部42は、撮像器20が撮像した、例えば図11のような、建物内の撮像画像を取得する。さらに画像マッチング位置推定部42は、撮像画像中の測位オブジェクトObj_kを抽出する。例えば画像マッチング位置推定部42は、撮像画像に対して、学習済みニューラルネットワークを用いてセグメンテーション及びアノテーションを行い、当該撮像画像から、測位オブジェクトObj_kである誘導灯60を特定する。つまり画像マッチング位置推定部42は、撮像画像から誘導灯60の画像領域を特定し、さらに特定された画像領域の物体が測位オブジェクトObj_kの誘導灯60であると認識する。
【0070】
さらに画像マッチング位置推定部42は、図12に例示されるように、認識された撮像画像中の測位オブジェクトObj_kである誘導灯60′の、投影面P1上の特定点における2次元座標(u,v)を求める(S40)。特定点とは、測位オブジェクトObj_k中の任意の点であってよく、例えば直方体の誘導灯60の場合、図が描画された正面の矩形の4隅をそれぞれ特定点としてよい。
【0071】
次に、画像マッチング位置推定部42は、建物構造データ記憶部46から、建物構造データを呼び出し、当該建物構造データ空間における、撮像されたものと同一の、測位オブジェクトObj_kに選択された設備を抽出する(S42)。例えば画像マッチング位置推定部42は、測位オブジェクト選択部48から、現在選択されている測位オブジェクトObj_kの属性情報を取得し、測位オブジェクトObj_kに選択された設備と同一の(例えば同一の設備IDを持つ)設備を、建物構造データ内の測位オブジェクトObj_kとして抽出する。
【0072】
さらに画像マッチング位置推定部42は、建物構造データから抽出された測位オブジェクトObj_kの特定点の3次元座標(X,Y,Z)を求める(S44)。例えば測位オブジェクトObj_kの正面の矩形の4隅が特定点として選択される。
【0073】
画像マッチング位置推定部42は、撮像器20の撮像位置座標(絶対座標)を仮入力する(S46)。撮像位置座標は、撮像器20の世界座標系における3次元位置座標及び姿勢を指す。当該撮像位置座標を含んだ数式が下記数式(1)のように記載される。なお、ここで、撮像器20の撮像位置座標とは、撮像器20内の焦点座標であってよい。
【0074】
【数1】
【0075】
仮入力された撮像位置座標と測位オブジェクトObj_kの3次元座標(X,Y,Z)を数式(1)に代入することで、投影面上の座標(u′,v′)が得られる(S48)。画像マッチング位置推定部42は、求められた座標(u′,v′)と、測位オブジェクトObj_kの投影面における特定点座標(u,v)との差を求め、この差が所定の閾値以下になったか否かを判定する(S50)。
【0076】
当該差分が閾値を超過する場合に、ステップS46までフローが戻り、撮像位置座標の仮入力が再度行われる。一方、座標(u′,v′)と座標(u,v)との差が閾値以下になった場合、画像マッチング位置推定部42は、座標(u′,v′)を求める際に用いられた撮像位置座標を撮像器20及びこれを含む位置推定装置10の撮像位置座標とする(S52)。
【0077】
この画像マッチングによる絶対座標の推定は、一つの測位オブジェクトObj_kの複数の特定点に対して実行されてもよい。例えば一つの測位オブジェクトObj_kから4点の特定点を抽出して、それぞれについて位置座標を求める、P4P問題を解くことで、撮像器20の撮像位置座標が求められてもよい。
【0078】
<2次元データを用いた位置推定>
図10の例では、建物構造データとして3次元構造データが用いられたが、2D-CAD等の2次元構造データが用いられてもよい。この場合、位置推定装置10には、測位オブジェクトObj_kの高度を入力する高度入力部が設けられる。例えば入力部26(図3参照)が当該高度入力部の機能を備えていてよい。
【0079】
例えば、図5のような平面図が建物構造データとして用いられる場合であって、測位オブジェクトObj_kとして床埋め込み型の誘導灯70が選択された場合に、当該平面図に対応するフロアの床高さが入力部26から入力される。
【0080】
図13には、建物構造データとして2次元構造データが用いられるときの、画像マッチング位置推定フローが例示される。このフローでは、図10の画像マッチング位置推定フローと比較して、3次元座標入力ステップ(S44)が2次元座標入力ステップ(S43)に置き換えられ、また、測位オブジェクトObj_kの特定点の高度(Z)を入力するステップ(S45)が追加されている。なお、図10と同一番号のステップは処理内容が同一であるため、以下では適宜説明が省略される。
【0081】
図13のフローにおいて、2次元構造データから測位オブジェクトObj_kの特定点の2次元座標(X,Y)が求められた(S43)後に、当該特定点の高度(Z)が位置推定装置10の携行者(作業員)により入力される(S45)。これにより特定点の3次元座標が得られ、さらに撮像位置座標の仮入力(S46)にフローが進められる。
【0082】
<歩行者自律航法を用いた位置推定>
図14には、PDR位置推定部40(図3参照)による、歩行者自律航法を用いた位置推定フローが例示される。PDR位置推定部40は、加速度センサ14の測定値から、重力加速度を測定する(S60)。例えば重力加速度は、図2に例示されたX軸、Y軸、Z軸方向の加速度と、位置推定装置10の初期姿勢に基づいて求められる。初期姿勢は、X軸周りのピッチ角、Y軸周りのロール角、及びZ軸周りのアジマス角を合成した向きを指しており、例えば地磁気センサ18による磁北からの傾きを求めることで、初期姿勢が得られる。
【0083】
さらにPDR位置推定部40は、下記数式(2)に示される回転行列Rを求める(S62)。なお、下記数式(2)において、Rx(θ)はX軸中心の回転行列を示し、Ry(θ)はY軸中心の回転行列を示し、Rz(θ)はZ軸中心の回転行列を示す。
【0084】
【数2】
【0085】
さらにPDR位置推定部40は、下記数式(3)を用いて、加速度センサ14が測定した加速度(rawAx, rawAy, rawAz)を世界座標系の加速度(Ax, Ay, Az)に変換する(S64)。
【0086】
【数3】
【0087】
次にPDR位置推定部40は、下記数式(4)を用いて、加速度(Ax, Ay, Az)から各軸方向の重力加速度(G0x, G0y, G0z)を除いた加速度(ax, ay, az)を求める(S66)。
【0088】
【数4】
【0089】
さらにPDR位置推定部40は、下記数式(5)を用いて、加速度(ax, ay, az)を2重積分する(S68)。これにより、位置推定装置10の相対位置(dx, dy, dz)が求められる(S70)。
【0090】
【数5】
【0091】
相対位置(dx, dy, dz)は、加速度センサ14による測定前の位置推定装置10の位置座標からの変位を表す。そこでPDR位置推定部40は、当該位置座標に求められた相対位置(dx, dy, dz)を加えることで現在位置座標B(X,Y,Z)を求める(S72)。
【0092】
このように、歩行者自律航法を用いた位置推定は、加速度センサ14及びジャイロセンサ16から得た6点の測定値(Rx(-pitch), Ry(-roll), Rz(-azimuth), rawAx, rawAy, rawAz)を演算するのみで足りることから、撮像画像のセグメンテーションやアノテーションを要する画像マッチング位置推定よりも、演算負荷が軽いことが理解される。
【0093】
<位置座標を利用した作業支援機能>
上述のような位置推定を行うことで、種々の作業支援が実行可能となる。例えば、位置推定装置10の位置座標が求められることで、建物内の作業員の所在が遠隔から把握可能となる。例えば位置推定装置10であるところのスマートフォンに、遠隔の管理センターから通信し、当該スマートフォンの携行者である作業員に、保守点検対象の設備までの経路を指示することが出来る。
【0094】
また、図3に例示されるように、位置推定装置10の入力部26から保守点検メッセージを入力することで、複数の作業員に亘って保守作業の共有が可能となる。例えば作業員が位置推定装置10の入力部から、保守点検対象の設備に関するメッセージを入力する。例えば図15に例示されるように、室外機74の画像が表示部38に映るように位置推定装置10の撮像器20のアングルを定めた状態で、当該室外機74に関する保守点検メッセージ「圧縮機不良のため配線取り外し中」が入力部26より入力される。
【0095】
入力された保守点検メッセージは、入力位置座標及びその姿勢(アングル)と関連付けられてメッセージ表示制御部52(図3参照)に記憶される。この保守点検メッセージ、入力位置座標及び姿勢が、他の位置推定装置10にも共有される。当該他の位置推定装置10の現在位置座標と入力位置座標とが一致し、図15と同一の姿勢(アングル)にて撮像器20により撮像が行われると、メッセージ表示制御部52は、表示部38に表示される撮像画像に保守点検メッセージを重畳表示させる。これにより、室外機74に対する保守点検作業内容の共有化が図られる。
【0096】
<GPSと本実施形態に係る位置推定を組み合わせた手法>
上述の実施形態では、主に建物内における位置推定が行われた。一方、建物の保守点検では、図16に例示されるように、建物100の屋上に設置された室外機74等の保守点検が行われる場合がある。このような場合を考慮して、歩行者自律航法及び画像マッチングに基づく位置推定に加えて、GPS信号に基づく位置推定が行われてもよい。
【0097】
図17には、歩行者自律航法及び画像マッチングに基づく位置推定に加えて、GPS信号に基づく位置推定を行うときの、フローチャートが例示される。このフローチャートは、図8のフローチャートに、ステップS80~S86を加えたものである。図8と重複するステップについては、処理内容が同一であることから、適宜、説明が省略される。
【0098】
GPS受信機22(図3参照)がGPS衛星82(図16参照)からGPS信号を受信すると、GPS信号判定部54は、GPS信号の強度が所定の強度閾値未満であるか否かを判定する(S80)。
【0099】
GPS信号の強度が所定の強度閾値未満である場合、歩行者自律航法による位置推定及び画像マッチングによる位置推定のどちらを実行するかを判定するために、フローはステップS20に進む。
【0100】
一方、ステップS80にて、GPS信号の強度が所定の強度閾値以上である場合、GPS信号判定部54は、位置推定装置10の現在の高度Zが、所定の閾値高度Zth以下であるか否かを判定する(S82)。
【0101】
一般的に、GPSを用いた測位システムでは、GPS信号の受信が不安定なとき、高度の精度が低くなることが知られている。そこで、受信したGPS信号に含まれる高度値が使用に耐え得る精度を有するか否かが、位置推定装置10の高度Zに応じて定められる。
【0102】
位置推定装置10の現在の高度Zが、所定の閾値高度Zthを超過する場合、GPS信号判定部54は受信したGPS信号を破棄して、フローをステップS20に進める(S84)。つまり、当該GPS信号による位置推定が休止される。
【0103】
一方、位置推定装置10の現在の高度Zが、閾値高度Zth未満である場合に、GPS信号判定部54は、受信したGPS信号から得られた緯度、経度、高度情報を、位置座標記憶部50に送る。これにより位置推定装置10の現在位置座標が更新される(S86)。
【0104】
またGPS信号判定部54は、GPS信号の受入可否を測位演算切替判定部44に送る。ステップS80,S82にてGPS信号の受け入れが不可と判定された場合には、GPS信号判定部54から測位演算切替判定部44に受入負荷通知が送信される。これを受けて測位演算切替判定部44は、歩行者自律航法による位置推定及び画像マッチングによる位置推定のどちらを実行するかを判定する。
【0105】
一方、ステップS80,S82にてGPS信号の受け入れ可と判定された場合には、GPS信号判定部54から測位演算切替判定部44に受入通知が送信される。これを受けて測位演算切替判定部44は、位置推定の切替判定(歩行者自律航法/画像マッチング)を休止する。
【0106】
<別の実施形態>
上述の実施形態では、測位オブジェクトObj_kが複数選択されていたが、小規模の建物等においては、一つの測位オブジェクトObjのみが選択されてもよい。例えば建物入口に設けられた誘導灯60が測位オブジェクトObjとして選択される。この誘導灯60による画像マッチング位置推定により現在位置座標が推定された後は、歩行者自律航法による位置推定のみにて、位置推定装置10の位置推定が行われてもよい。
【符号の説明】
【0107】
10 位置推定装置、12 CPU、14 加速度センサ、16 ジャイロセンサ、18 地磁気センサ、20 撮像器、22 GPS受信機、24 振動器、26 入力部、28 システムメモリ、30 ストレージ、34 フレームメモリ、38 表示部、40 PDR位置推定部、42 画像マッチング位置推定部、44 測位演算切替判定部、46 建物構造データ記憶部、48 測位オブジェクト選択部、50 位置座標記憶部、52 メッセージ表示制御部、54 GPS信号判定部、60 誘導灯、100 建物。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17