【文献】
星 尚志 ほか,動的遮蔽物を考慮したBLEによる屋内位置推定手法の提案,マルチメディア,分散,協調とモバイル(DICOMO2017)シンポジウム論文集 情報処理学会シンポジウムシリーズ,日本,一般社団法人情報処理学会,2017年06月28日,Vol.2017/No.1,pp.1540-1546
(58)【調査した分野】(Int.Cl.,DB名)
前記端末位置決定手段は、当該位置推定時点での当該物体位置情報のうちで、当該物体位置情報に係る位置と、当該モデルから導出された決定候補である当該端末位置情報に係る位置との距離が最も小さい又は所定閾値以下である物体位置情報を、当該位置推定対象の端末に係る端末位置情報に決定する
ことを特徴とする請求項2に記載の端末位置推定装置。
前記端末位置決定手段は、当該モデルから導出された決定候補である当該端末位置情報のうちで、当該端末位置情報に係る位置と、当該位置推定時点での当該物体位置情報に係る位置との距離が最も小さい又は所定閾値以下である端末位置情報を、当該位置推定対象の端末に係る端末位置情報に決定する
ことを特徴とする請求項2に記載の端末位置推定装置。
前記端末位置決定手段は、当該モデルから導出された決定候補である当該端末位置情報毎に決定の信頼度を算出し、当該信頼度が所定閾値以上である当該端末位置情報のみを、当該位置推定時点での当該物体位置情報と比較して、当該位置推定対象の端末に係る端末位置情報を決定することを特徴とする請求項2から4のいずれか1項に記載の端末位置推定装置。
前記端末位置決定手段は、当該モデルから導出された決定候補である当該端末位置情報毎に決定の信頼度を算出し、所定閾値以上の当該信頼度を有する当該端末位置情報が複数存在する場合に、当該位置推定時点の前の時点で決定した端末位置情報に対し、又は当該位置推定時点の過去の時点で決定した端末位置情報群から予測される端末位置情報に対し、所定条件を満たす位置の近さを有する当該端末位置情報を選択して、当該位置推定対象の端末に係る端末位置情報に決定することを特徴とする請求項1から8のいずれか1項に記載の端末位置推定装置。
前記モデル生成手段は、当該モデルとして、複数の当該学習データによって生成される端末位置データベースを生成することを特徴とする請求項1から9のいずれか1項に記載の端末位置推定装置。
当該物体認識情報は、カメラ、全天球カメラ、デプスカメラ、赤外線カメラ、赤外線測位手段、レーザ測位手段及びサーモグラフィ手段のうちの少なくとも1つからの撮影又は計測情報に基づいて生成されることを特徴とする請求項1から11のいずれか1項に記載の端末位置推定装置。
【発明の概要】
【発明が解決しようとする課題】
【0007】
以上に説明した非特許文献1の技術のような従来技術では、電磁波の伝播に影響を与える物体を考慮してはいるものの、考慮される物体は、あくまで位置の固定された静的な遮蔽物・障害物である。しかしながら、実際の端末位置推定の現場では、電磁波(無線信号)伝播の障害となる物体として、人物を無視できない場合も少なくない。
【0008】
例えば、現在、様々な分野の店舗において、端末を所持した店員や来店客の動線を正確に把握するニーズが高まっている。この場合、店内に複数のビーコン発信源(以下、ビーコンと略称)を配置して端末位置を推定することが一般的である。ここで、店内を移動する人物は当然に、これらのビーコンによる端末位置推定に非常に大きな影響を与える。
【0009】
しかしながら、例えば非特許文献1に記載された技術においては、予め作成されるデータベースはあくまで、事前に設置された静的な障害物が存在する環境に適用されるものであり、明らかに、人物のような動的な遮蔽物が存在する環境に対して適用可能とはなっていない。このように、人物を含めた移動可能な物体による電磁波伝搬への影響は多大であるにもかかわらず、従来考慮されてこなかったのである。
【0010】
そこで、本発明は、電磁波源からの電磁波に影響を与える移動可能な物体が存在し得る状況においても、当該電磁波を受信した端末の位置をより精度良く推定することができる装置、プログラム及び方法を提供することを目的とする。
【課題を解決するための手段】
【0011】
本発明によれば、電磁波源からの電磁波を受信した端末における
受信された電磁波の強度に係る情報である受信電磁波
強度情報を取得して当該端末の位置を推定する端末位置推定装置であって、
当該端末の付されている可能性がある移動し得る物体を認識可能な物体認識手段からの物体認識情報を取得可能であり、当該端末のある時点での当該受信電磁波
強度情報、及び当該時点での当該物体認識情報を含む特徴データと、当該端末の当該時点での位置に係る端末位置情報とを含む学習データを生成する学習データ生成手段と、
複数の当該学習データを用いて、端末位置推定用のモデルを生成するモデル生成手段と、
当該モデルを用いて、位置推定対象の端末から取得した位置推定時点での当該受信電磁波
強度情報と、当該位置推定時点での当該物体認識情報とを含む特徴データに基づき、当該位置推定対象の端末に係る端末位置情報を決定する端末位置決定手段と
を有する端末位置推定装置が提供される。
【0012】
この本発明による端末位置推定装置の一実施形態として、当該物体
認識情報は、認識した物体の位置に係る物体位置情報であり、
端末位置決定手段は、当該位置推定時点での当該物体位置情報と、当該モデルから導出された決定候補である当該端末位置情報とを比較し、互いの位置の近さに基づいて、当該位置推定対象の端末に係る端末位置情報を決定することも好ましい。
【0013】
また、この実施形態において、端末位置決定手段は、当該位置推定時点での当該物体位置情報のうちで、当該物体位置情報に係る位置と、当該モデルから導出された決定候補である当該端末位置情報に係る位置との距離が最も小さい又は所定閾値以下である物体位置情報を、当該位置推定対象の端末に係る端末位置情報に決定することも好ましい。
【0014】
さらに、上記の実施形態において、端末位置決定手段は、当該モデルから導出された決定候補である当該端末位置情報のうちで、当該端末位置情報に係る位置と、当該位置推定時点での当該物体位置情報に係る位置との距離が最も小さい又は所定閾値以下である端末位置情報を、当該位置推定対象の端末に係る端末位置情報に決定することも好ましい。
【0015】
またさらに、上記の実施形態において、端末位置決定手段は、当該モデルから導出された決定候補である当該端末位置情報毎に決定の信頼度を算出し、当該信頼度が所定閾値以上である当該端末位置情報のみを、当該位置推定時点での当該物体位置情報と比較して、当該位置推定対象の端末に係る端末位置情報を決定することも好ましい。
【0016】
また、本発明による端末位置推定装置の他の実施形態として、
端末位置決定手段は、当該モデルから導出された決定候補である当該端末位置情報毎に決定の信頼度を算出し、
学習データ生成手段は、決定した当該端末位置情報が所定閾値以上の当該信頼度を有する場合、当該端末位置情報を正解の端末位置情報として含む当該学習データを生成し、
モデル生成手段は、当該学習データを用いて当該モデルを生成又は更新する
ことも好ましい。
【0017】
さらに、本発明による端末位置推定装置の更なる他の実施形態として、
学習データ生成手段は、当該端末における当該時点の前の時点での位置に係る端末位置情報、及び/又は当該端末における当該時点の前の時点での当該受信電磁波
強度情報を更に含む当該学習データを生成し、
端末位置決定手段は、当該位置推定対象の端末における当該位置推定時点の前の時点での位置に係る端末位置情報、及び/又は当該位置推定対象の端末における当該位置推定時点の前の時点での当該受信電磁波
強度情報を更に含む特徴データに基づいて、当該位置推定対象の端末に係る端末位置情報を決定することも好ましい。
【0018】
さらにまた、本発明による端末位置推定装置の更なる他の実施形態として、
端末位置決定手段は、当該モデルから導出された決定候補である当該端末位置情報毎に決定の信頼度を算出し、
学習データ生成手段は、生成する学習データに含まれる当該端末位置情報に係る時点の前の時点に係る端末位置情報に対して算出された当該信頼度を更に含む当該学習データを生成し、
端末位置決定手段は、当該位置推定対象の端末における当該位置推定時点の前の時点での位置に係る端末位置情報に対して算出された当該信頼度にも基づいて、当該位置推定対象の端末に係る端末位置情報を決定することも好ましい。
【0019】
また、本発明による端末位置推定装置の更なる他の実施形態として、端末位置決定手段は、当該モデルから導出された決定候補である当該端末位置情報毎に決定の信頼度を算出し、所定閾値以上の当該信頼度を有する当該端末位置情報が複数存在する場合に、
(a)当該位置推定時点の前の時点で決定した端末位置情報に対し、又は
(b)当該位置推定時点の過去の時点で決定した端末位置情報群から予測される端末位置情報に対し、
所定条件を満たす位置の近さを有する当該端末位置情報を選択して、当該位置推定対象の端末に係る端末位置情報に決定することも好ましい。
【0020】
さらに、本発明による端末位置推定装置のモデル生成手段は、当該モデルとして、機械学習による端末位置推定モデルを生成することも好ましい。また、複数の当該学習データによって生成される端末位置データベースを生成することも好ましい。
【0021】
また、本発明による端末位置推定装置において、当該物体認識情報は、カメラ、全天球カメラ、デプスカメラ、赤外線カメラ、赤外線測位手段、レーザ測位手段及びサーモグラフィ手段のうちの少なくとも1つからの撮影又は計測情報に基づいて生成されることも好ましい。
【0022】
本発明によれば、また、移動し得る電磁波源からの電磁波を受信可能な受信デバイスにおける
受信された電磁波の強度に係る情報である受信電磁波
強度情報を取得して当該電磁波源の位置又は位置分布を推定する電磁波源位置推定装置であって、
当該電磁波源を保持して移動し得る保持体を、又は当該電磁波源を認識可能な物体認識手段からの物体認識情報を取得可能であり、当該受信デバイスのある時点での当該受信電磁波
強度情報、及び当該時点での当該物体認識情報を含む特徴データと、当該電磁波源の当該時点での位置又は位置分布に係る電磁波源位置又は位置分布情報とを含む学習データを生成する学習データ生成手段と、
複数の当該学習データを用いて、電磁波源位置又は位置分布推定用のモデルを生成するモデル生成手段と、
当該モデルを用いて、位置又は位置分布推定時点での当該受信電磁波
強度情報と、当該位置又は位置分布推定時点での当該物体認識情報とを含む特徴データに基づき、当該位置又は位置分布推定時点での当該電磁波源に係る位置又は位置分布情報を決定する電磁波源位置決定手段と
を有する電磁波源位置推定装置が提供される。
【0023】
本発明によれば、さらに、電磁波源からの電磁波を受信した端末における
受信された電磁波の強度に係る情報である受信電磁波
強度情報を取得して当該端末の位置を推定する装置に搭載されたコンピュータを機能させるプログラムであって、
当該端末の付されている可能性がある移動し得る物体を認識可能な物体認識手段からの物体認識情報を取得可能であり、当該端末のある時点での当該受信電磁波
強度情報、及び当該時点での当該物体認識情報を含む特徴データと、当該端末の当該時点での位置に係る端末位置情報とを含む学習データを生成する学習データ生成手段と、
複数の当該学習データを用いて、端末位置推定用のモデルを生成するモデル生成手段と、
当該モデルを用いて、位置推定対象の端末から取得した位置推定時点での当該受信電磁波
強度情報と、当該位置推定時点での当該物体認識情報とを含む特徴データに基づき、当該位置推定対象の端末に係る端末位置情報を決定する端末位置決定手段と
としてコンピュータを機能させる端末位置推定プログラムが提供される。
【0024】
本発明によれば、さらにまた、電磁波源からの電磁波を受信した端末における
受信された電磁波の強度に係る情報である受信電磁波
強度情報を取得して当該端末の位置を推定する装置に搭載されたコンピュータによる端末位置推定方法であって、
当該端末の付されている可能性がある移動し得る物体を認識可能な物体認識手段からの物体認識情報を取得可能であり、当該端末のある時点での当該受信電磁波
強度情報、及び当該時点での当該物体認識情報を含む特徴データと、当該端末の当該時点での位置に係る端末位置情報とを含む学習データを生成するステップと、
複数の当該学習データを用いて、端末位置推定用のモデルを生成するステップと、
当該モデルを用いて、位置推定対象の端末から取得した位置推定時点での当該受信電磁波
強度情報と、当該位置推定時点での当該物体認識情報とを含む特徴データに基づき、当該位置推定対象の端末に係る端末位置情報を決定するステップと
を有する端末位置推定方法が提供される。
【発明の効果】
【0025】
本発明の端末位置推定装置、プログラム及び方法によれば、電磁波源からの電磁波に影響を与える移動可能な物体が存在し得る状況においても、当該電磁波を受信した端末の位置をより精度良く推定することが可能となる。
【発明を実施するための形態】
【0027】
以下、本発明の実施形態について、図面を用いて詳細に説明する。
【0028】
[端末位置推定システム]
図1は、本発明による端末位置推定装置を含む端末位置推定システムの一実施形態を示す模式図である。
【0029】
図1に示した、本実施形態の端末位置推定システムは、店員や来店客等によって所持された少なくとも1つの端末3における1つの店舗内での刻々の位置を推定し、当該端末3を所持する店員や来店客等の店内での動線を把握することを可能にする。なお本実施形態において、位置推定領域である店舗内には、机、椅子、パーティション、展示台や、カウンタといった電磁波伝搬に影響を及ぼす物体が配置されている。
【0030】
具体的に、この端末位置推定システムは、
(a)店内の複数位置に設置されており、全方位に所定の時間間隔で電磁波を発信するビーコン2と、
(b)人物等の移動可能な物体を撮影可能であり、撮影した画像の情報を、無線又は有線の通信ネットワークを介して時系列で送信可能な1つ又は複数のカメラ4と、
(c)カメラ4から通信ネットワークを介して取得される時系列の画像群から「物体認識情報」を生成し、さらに端末3から無線通信ネットワークを介して直接(又はアクセスポイント等の中継装置を経て)「受信電磁波情報」を取得し、生成・取得したこれらの情報に基づき、機械学習によって端末3の刻々の位置を推定し、店内での動線を決定する端末位置推定装置1と
を備えている。
【0031】
ここで、ビーコン2は、例えば、全方位にアドバタイズパケット(advertisement packet)を100〜1000msecの間隔で発信するBLE(Bluetooth(登録商標) Low Energy)仕様のビーコンとすることができる。当然、ビーコン2はこれに限定されるものではない。例えば、Wi−Fi(登録商標)等の無線LANのアクセスポイントとすることも可能であり、その他、端末3がそこからの電磁波(電波,赤外線等)を受信し「受信電磁波情報」を生成することができるものであるならば、種々の電磁波源(電波源,赤外線源等)がビーコン2として採用可能である。
【0032】
さらに、端末3は、本実施形態において、店員や来店客等によって携帯可能なスマートフォン、携帯電話、タブレット型コンピュータ、ウェアラブル端末等であるが、その他、持ち運び可能な通信端末であれば種々のものが該当する。
【0033】
同じく
図1において、端末位置推定装置1は、電磁波源であるビーコン2からの電磁波を受信した端末3における「受信電磁波情報」を取得し、端末3の位置を推定する装置であって、具体的にその特徴として、
(A)移動し得る物体を認識可能な物体認識手段からの「物体認識情報」を取得可能であり、端末3のある時点での「受信電磁波情報」、及び当該時点での「物体認識情報」を含む特徴データと、当該端末3の当該時点での位置に係る「端末位置情報」とを含む学習データを生成する学習データ生成部114と、
(B)複数の学習データを用いて、端末位置推定用の「モデル」を生成するモデル生成部115と、
(C)生成した「モデル」を用いて、位置推定対象の端末3から取得した位置推定時点での「受信電磁波情報」と、当該位置推定時点での「物体認識情報」とを含む特徴データに基づき、当該位置推定対象の端末3に係る端末位置情報を決定する端末位置決定部116と
を有している。
【0034】
すなわち、端末位置推定装置1は、
<学習フェーズ>:「受信電磁波情報」及び「物体認識情報」を含む特徴データと、正解となる「端末位置情報」とを含む学習データから、端末位置推定用の「モデル」を生成し、
<位置推定フェーズ>:生成した「モデル」を用いて、位置推定時点での特徴データに基づき、位置推定対象の端末3の位置を推定する。
【0035】
このように端末位置推定装置1は、移動可能な物体の情報を含む「物体認識情報」にも基づいて生成した「モデル」を用いるので、電磁波源(ビーコン2)からの電磁波に影響を与える移動可能な物体が存在し得る状況においても、当該電磁波を受信した端末3の位置をより精度良く推定することができるのである。
【0036】
ここで本実施形態において、位置推定領域である店舗内には、机、椅子、パーティション、展示台や、カウンタといった電磁波伝搬に影響を及ぼす物体が配置されている。端末位置推定装置1は、このような予め店内に設置された物体の配置情報や、ビーコン2の配置情報を取得せずとも、端末位置を推定することができるのである。
【0037】
またそれ故に、電磁波源(ビーコン2)が例えば端末3等に搭載されていて移動し得る場合でも(「物体認識情報」によって当該移動し得る電磁波源を識別可能であるか、又は「物体認識情報」で識別された物体が全て電磁波源となっていることが前提とはなるが)、端末3の位置を推定することも可能となる。さらに、端末位置推定装置1では、電磁波源と端末との距離の算出や、受信電磁波の減衰度の算出といった計算量が膨大となり得る演算処理を行うこと無しに、端末位置を推定することができる。
【0038】
また従来、電磁波源と端末との距離や受信電磁波の減衰度の算出を行う場合、通常は物体の2次元配置のみを用いるので、例えば電磁波遮蔽物の高さの影響は考慮できなかった。これに対し、端末位置推定装置1は、物体の3次元的な配置の影響も含めて「モデル」を生成することが可能であり、結果的に、より高い位置推定精度が実現するのである。
【0039】
なお、上記構成(A)の物体認識手段は、後に
図2において物体認識部111として示すように本装置1内の機能構成部であってもよく、または、外部の装置に設けられたものとすることもできる(この場合、この装置から「物体認識情報」を取得する)。いずれにしてもこの物体認識手段は、当該画像内において認識した移動し得る物体に、映像動線ID(識別子)を付与して追跡可能となっていてもよい。
【0040】
ただし、この場合においても、端末位置推定装置1は、位置推定対象の端末がいずれの映像動線IDのものと紐づけられるかを勘案することなく、「物体
認識情報」をも取り込んだ「モデル」を用いて、この端末の位置を決定することができる。すなわち、端末IDと映像動線IDとのマッチング技術を必要とせず、より簡便に端末位置推定処理を実施することが可能となるのである。
【0041】
さらに、端末位置推定装置1においては、生成した「モデル」に基づけば、例えば位置推定期間の各時刻における特徴データを用い、刻々の端末3の位置を概ねリアルタイムで推定することもできる。これにより、例えば多数の人物が店舗内を動き回ってビーコン2からの電磁波に影響を与えている状況下においても、各端末3の動線をより高い精度で決定することが可能となるのである。
【0042】
ちなみに、上記の「受信電磁波情報」は、例えば、端末3がビーコン2から受信した電磁波における受信信号強度(Received Signal Strength Indicator, RSSI)を当該ビーコン2のID(及び受信時刻)に対応付けた情報とすることができる。また、「物体認識情報」は、例えば、時刻毎における認識した人物の足元位置座標とすることができる。
【0043】
さらに、他の実施形態として、「物体認識情報」は、全天球(全方位)カメラ、デプスカメラ、赤外線カメラ、赤外線測位手段、レーザ測位手段及びサーモグラフィ手段のうちの少なくとも1つからの撮影又は計測情報に基づいて生成されるものであってもよい。例えば、デプスカメラによって生成される(対象の各画素の)デプス値情報を画像データ化し、カメラ4による撮影画像と同様にして利用してもよい。いずれにしても、端末位置推定装置1は、何らかの手段をもって生成された「物体認識情報」を取得して、端末3の位置推定に利用することができるのである。
【0044】
またここで、「物体認識情報」に係る認識対象としての移動し得る物体には、人物、動物、乗り物や、その他移動可能な物理対象等、物体認識手段によって認識可能であれば(例えばカメラ4によって撮影可能であれば)様々なものが該当する。さらに、撮影される場所も、特に限定されるものではなく、例えば、店舗内の他にも、会社、学校、ホールや、家屋の内部といった屋内であってもよく、さらには、観客、通勤者、買い物客、労働者、歩行者や、ランナー等が映り得る屋外であってもよい。
【0045】
また、更なる他の実施形態として、端末3が上記構成(A)〜(C)を備えていて、自らの位置、さらには周囲の他の端末3の位置を推定する端末位置推定装置として機能してもよい。この場合、例えばこの端末3に内蔵された(刻々の位置の決定した)カメラを用いて「物体認識情報」を生成することも可能となる。
【0046】
さらにここで、以上に説明した端末位置推定装置1の発明と密接に関連する発明(電磁波源位置推定装置1’)を説明する。この電磁波源位置推定装置1’は、移動し得る電磁波源3’からの電磁波(電波,赤外線等)を受信可能な受信デバイスにおける「受信電磁波情報」を取得して当該電磁波源の位置又は位置分布を推定する装置であって、
(A’)電磁波源3’を保持して移動し得る保持体(例えば人物)を、又は電磁波源3’自体を認識可能な物体認識手段からの「物体認識情報」を取得可能であり、受信デバイスのある時点での「受信電磁波情報」、及び当該時点での「物体認識情報」を含む特徴データと、電磁波源3’の当該時点での位置又は位置分布に係る「電磁波源位置又は位置分布情報」とを含む学習データを生成する学習データ生成部114’と、
(B’)複数の学習データを用いて、電磁波源位置又は位置分布推定用の「モデル」を生成するモデル生成部115’と、
(C’)生成した「モデル」を用いて、位置又は位置分布推定時点での「受信電磁波情報」と、当該位置又は位置分布推定時点での「物体認識情報」とを含む特徴データに基づき、当該位置又は位置分布推定時点での電磁波源3’に係る位置又は位置分布情報を決定する電磁波源位置決定部116’と
を有することを特徴としている。
【0047】
このような電磁波源位置推定装置1’によれば、移動し得る電磁波源3’(を携帯した人物)が存在する状況において、電磁波源3’と受信デバイスとの距離等の計算を行うことなく、電磁波源3’の位置又は位置分布をより精度良く推定することができるのである。
【0048】
例えば、工場におけるカメラ4’の設置された作業場において、作業者全員がビーコン(電磁波源3’)を所持して作業を行い、一方、作業場の複数個所に受信デバイスとしての受信機が設置されている場合、電磁波源位置推定装置1’は、これらの設置された受信機における受信電磁波情報と、カメラ4’による物体
認識情報とから、各作業者の作業場での分布状況を刻々と把握することも可能となるのである。
【0049】
ちなみに、電磁波源位置推定装置1’における物体認識手段、学習データ生成部114’、モデル生成部115’、「モデル」、及び端末位置決定部116’はそれぞれ、端末位置推定装置1における(この後も詳細に説明を行う)同名の又は対応する名称の機能構成部や構成要素と対応するものとなっている。また、更なる変更態様として、このような電磁波源位置推定装置1’及び上述した端末位置推定装置1において、電磁波の代わりに超音波(不可聴音)を用いて同様の位置推定を実施することも可能となっている。
【0050】
[端末位置推定装置の構成・機能]
図2は、本発明による端末位置推定装置の一実施形態における機能構成を示す機能ブロック図である。
【0051】
図2によれば、端末位置推定装置1は、カメラ4や端末3等と通信接続可能な通信インタフェース101と、受信電磁波情報蓄積部102と、物体認識情報蓄積部103と、端末動線情報蓄積部104と、ディスプレイ・キーボード(DP・KB)105と、プロセッサ・メモリとを有する。ここで、プロセッサ・メモリは、本発明による端末位置推定プログラムの一実施形態を保存しており、また、コンピュータ機能を有していて、この端末位置推定プログラムを実行することによって、端末位置推定処理を実施する。
【0052】
さらに、プロセッサ・メモリは、機能構成部として、物体認識部111と、物体認識情報管理部112と、受信電磁波情報管理部113と、学習データ生成部114と、モデル生成部115と、物体位置比較部116aを含む端末位置決定部116と、端末動線情報管理部117と、入出力制御部118と、通信制御部121とを有する。なお、これらの機能構成部は、プロセッサ・メモリに保存された端末位置推定プログラムの機能と捉えることができ、また、
図2における端末位置推定装置1の機能構成部間を矢印で接続して示した処理の流れは、本発明による端末位置推定方法の一実施形態としても理解される。
【0053】
同じく
図2において、カメラ4は、例えば、CCDイメージセンサ、CMOSイメージセンサ等の固体撮像素子を備えた可視光、近赤外線又は赤外線対応の撮影デバイスである。また、カメラ4又は(図示していない)カメラ制御装置は、カメラ4で撮影された物体の画像を含む撮影画像データを生成し、当該情報を時系列に又はバッチで端末位置推定装置1に送信する機能を有する。
【0054】
通信インタフェース101は、カメラ4又はカメラ制御装置から時系列の画像群である撮影画像データを、有線又は無線の通信ネットワークを介して受信する。取得された撮影画像データ(画像ファイル)は、物体認識部111に出力される。また、通信インタフェース101は、端末3から、無線通信ネットワークを介して直接(又はアクセスポイント等の中継装置を経て)受信電磁波情報を受信する。または、端末3とUSB(Universal Serial Bus)等を介して有線接続された上で、受信電磁波情報を受け取ってもよい。
【0055】
通信インタフェース101は、さらに、端末位置推定の結果として生成された動線情報を外部の情報処理装置に送信してもよい。なお、通信インタフェース101におけるこれらの情報の送受信は、通信制御部121によって制御され、適切なタイミングで情報の授受が行われる。
【0056】
物体認識部111は本実施形態において、カメラ4で撮影された画像に係る撮影画像データに基づき、位置推定領域である店舗内に滞在又は移動する人物を認識し、「物体(人物)認識情報」を生成する。ここで、生成された「物体(人物)認識情報」は、認識処理の各時刻における、認識された1人又は複数の人物における足元位置の2次元(又は3次元)座標値を含むものとすることができる。なお、物体認識部111における物体(人物)認識処理は、公知である種々の手法を採用して実施可能である。
【0057】
例えば、カメラ4として全方位カメラを用いる場合、非特許文献である、小林達也,加藤晴久,菅野勝,「単眼全方位カメラを用いた遮蔽に頑健な人物動線追跡手法の提案」,信学技報,vol.116,no.411,PRMU2016-146,2017年,321〜326頁に記載された手法を用いて、物体(人物)認識情報を生成することが可能である。
【0058】
具体的に、この手法では、人物検出処理及び人物追跡処理を画像フレーム毎に実行し、個々の人物の各時刻での位置を推定し当該人物の追跡を行う。このうち人物検出処理では、背景差分技術を用いて抽出された領域と事前に用意された3D人物モデルとのマッチングを行い、画像中における人物領域を検出する。ここで、人物が存在可能な様々な足元位置に予め人物モデルを配置しておき、前景領域と類似度の最も高い輪郭を検索することにより、対応する足元位置を人物位置として検出する。
【0059】
さらに、人物追跡処理では、追跡中の人物と上記の検出結果との対応付けによって、検出された人物領域に追跡中の人物IDを割り当て、一対一の人物マッチングによってマッチングスコアが最大となる要素を選択する。次いで、この人物マッチングの結果に基づき、パーティクルフィルタを用いて個々の人物の追跡位置を推定する。
【0060】
ちなみに、本装置1において物体認識部111は設けられず、物体認識情報管理部112が、外部の物体認識手段から物体認識情報を取得し管理する実施形態をとることも可能である。いずれにしても、物体認識情報管理部112は、取得した刻々の「物体認識情報」を、物体
認識情報蓄積部103に保存しつつ管理し、学習フェーズでは学習データ生成部114へ、さらに位置推定フェーズでは端末位置決定部116へ適宜出力する。
【0061】
受信電磁波情報管理部113は、端末3から取得された刻々の「受信電磁波情報」を、受信電磁波情報蓄積部102に保存しつつ管理し、学習フェーズでは学習データ生成部114へ、さらに位置推定フェーズでは端末位置決定部116へ適宜出力する。ここで、「受信電磁波情報」は、端末3が受信した電磁波の発信元であるビーコン2毎に、受信時刻、RSSI及びビーコン2のIDが対応付けられた情報、又はその一部の情報とすることができる。
【0062】
学習データ生成部114は、取得した「物体認識情報」及び「受信電磁波情報」を用い、
(a)端末3のある時点での「受信電磁波情報」、及び当該時点での「物体認識情報」(物体位置情報)を含む特徴データと、
(b)端末3の当該時点での位置に係る(正解データとしての)「端末位置情報」と
を含む「学習データ」を生成する。
【0063】
図3は、学習フェーズ、位置推定フェーズ及びモデル更新フェーズを含む、本発明による端末位置推定処理を概略的に示す模式図である。学習データ生成部114は、一実施形態として、この
図3の<学習フェーズ>に示されたような特徴データと、正解端末位置データ(端末位置情報)とを学習データとして生成する。
【0064】
具体的に
図3に示した特徴データは、多数の位置(位置座標(x
p, y
p))の各々における、ある時点での
(a)RSSI_i(i=1, 2,・・・, I):ビーコンiから受信された電磁波のRSSI実測値、及び
(b)obstacle_j(j=1, 2,・・・, J):カメラ4の撮影画像から導出された移動可能物体(例えば人物)の位置座標値
を含む。
図3では、特徴データテーブルにおける各行が1つの特徴データとなっている。
【0065】
ここで、上記の多数の位置(位置座標(x
p, y
p))としては、例えば、店舗内フロア等の端末位置推定領域をメッシュで区分した上で、当該メッシュの代表位置(例えばメッシュの中心)を採用することも好ましい。この場合、上記(a)のRSSI_iも、当該メッシュ代表位置に端末3を実際に置いて計測された値となる。また、このRSSI_iについて、当該位置で複数のRSSI実測値が存在する場合、それらの平均値又は中央値を採用することも好ましい。
【0066】
さらに、1つの特徴データにおける上記(b)のobstacle_jの数(J)は、カメラ4の撮影画像に含まれ得る移動可能物体(人物)の数の上限、又は当該上限を超えた値に予め設定することができる。また、カメラ4の撮影画像から識別された物体(人物)の数がJ'(J'<J)とすると、例えば、obstacle_1からobstacle_J'までの各値は導出された位置座標値とし、obstacle_J'+1からobstacle_Jまではいずれもゼロとしてもよい(但しこの場合、位置座標は、座標値がゼロ値をとることのないように設定される)。または、obstacle_J'+1からobstacle_Jまでの各値として、位置座標値がとり得ない、かけ離れた所定値を設定してもよい。
【0067】
さらに変更態様として、カメラ4の撮影画像から例えば人手によって写っている移動可能物体(人物)にID(例えばid=1, 2,・・・, J')を付与し、obstacle_1からobstacle_J'までの各々を、IDで特定される移動可能物体(人物)の位置座標値としてもよい。
【0068】
図2に戻って、モデル生成部115は、学習データ生成部114で生成された「学習データ」を用いて、端末位置推定用の位置推定モデルを生成する。この位置推定モデルとしては、
(a)「学習データ」の機械学習によって構築される位置推定識別器、及び
(b)「学習データ」によって構成される端末位置データベース
のいずれかとすることができる。
【0069】
ここで、上記(a)の機械学習に係る位置推定モデルは、例えば、Xgboost(eXtreme gradient boosting)、ランダムフォレスト(Random Forest)、又はニューラルネットワーク(Neural Network)等によって生成してもよい。このうち、Xgboostは、ランダムフォレストと同様ランダムに抽出したサンプルを用いる一方で、連続変数の特徴量でも対応が容易であって、重み調整を繰り返して導出した複数の学習結果を統合して推定精度を向上させ(ブースティング)、外れ値や欠損値にも強いモデルを生成することが可能な機械学習手法である。
【0070】
一方、上記(b)の端末位置データベースは、例えば、端末位置情報(
図3では正解端末位置データ)毎に、対応する(その端末位置での)特徴データを対応付けて記録したテーブル情報とすることができる。例えば、データベース生成期間の各時刻において、端末位置推定領域を区分したメッシュの代表位置毎に、当該代表位置における{RSSI_i}データ及び{obstacle_j}データを対応付けて記録したテーブルデータであってもよい。
【0071】
いずれにしても、モデル生成部115は、上記(a)や(b)のような位置推定モデルを生成する際、例えば店舗であれば店舗内に設置された机や棚等の電磁波遮蔽物の具体的なレイアウト情報を必要とせず、また、設置されたビーコン2の具体的な配置情報を取り入れる必要もない。さらに、RSSIの実測値に基づいて学習フェーズを進めるので、例えば電磁波源と端末との3次元的な距離や電磁波遮蔽物の3次元的な大きさを算定することなしに、机や棚等の設置された電磁波遮蔽物や移動可能物体(例えば人物)の3次元的な影響(例えば高さによる遮蔽の度合い)を包含した位置推定モデルを生成することが可能となる。その結果、より高い位置推定精度が実現するのである。
【0072】
同じく
図2において、端末位置決定部116は、上述したように生成された位置推定モデルを用いて、位置推定対象の端末3から取得した位置推定時点での「受信電磁波情報」と、当該位置推定時点での「物体認識情報」(物体位置情報)とを含む特徴データに基づき、当該位置推定対象の端末3に係る端末位置情報を決定する。
【0073】
具体的に位置推定モデルが上記(a)の位置推定識別器である場合、端末位置決定部116は、一実施形態として、
図3の<位置推定フェーズ>に示されたような、時刻T(t=T)における位置推定対象の端末3での位置推定時取得データ(特徴データ)を、位置推定モデルに入力させ、この位置推定モデルからの出力を、時刻Tにおける端末3の推定位置として取得する。
【0074】
ここで、
図3に示した位置推定時取得データ(特徴データ)は、位置推定期間の各時刻(t=T, T-1, T-2,・・・(簡略化のためデータ生成時間単位を1としている))における、
(a)位置推定対象の端末3でのRSSI_i(i=1, 2,・・・, I):ビーコンiから受信された電磁波のRSSI実測値、及び
(b)obstacle_j(j=1, 2,・・・, J):カメラ4の撮影画像から導出された移動可能物体(例えば人物)の位置座標値
を含み、
図3では、位置推定時取得データテーブルにおける各行が1つの位置推定時取得データ(特徴データ)となっている。
【0075】
位置推定モデルは、このような位置推定時取得データを入力して、位置推定期間の各時刻(t=T, T-1, T-2,・・・)における端末位置推定値としての「推定位置座標」、及び当該位置座標値における「信頼度」(確率)を出力するのである。ここで、「推定位置座標」の「信頼度」は、出力された位置推定値の中で最も高い値となっている。
【0076】
一方、位置推定モデルが上記(b)の端末位置データベースである場合、端末位置決定部116は、上述したような位置推定時取得データ(特徴データ)と、この端末位置データベースの各レコードとを比較し(両者の類似度を算出し)、最も類似するレコードを決定して当該レコードの位置座標を端末位置推定値に決定する。
【0077】
具体的に、端末位置データベースのレコード(行)pにおける、
(a)位置座標を、x
p, y
pとし、
(b){RSSI_i}を、f
p,1, f
p,2,・・・, f
p,Iとし、
(c){obstacle_j}を、f
p,I+1, f
p,I+2,・・・, f
p,I+Jとし、
一方で、位置推定時取得データの時刻Tにおける、
(d){RSSI_i}を、g
T,1, g
T,2,・・・, g
T,Iとし、
(e){obstacle_j}を、g
T,I+1, g
T,I+2,・・・, g
T,I+Jとする。
【0078】
この場合に、時刻Tの位置推定時取得データとレコードpとの距離、すなわち類似度dT_pは、次式
(1) dT_p=((g
T,1−f
p,1)
2+(g
T,2−f
p,2)
2+・・・+(g
T,I+J−f
p,I+J)
2)
0.5
を用いて算出される。端末位置データベースのレコードの中で、この類似度dT_pが最も小さいレコードにおける上記(a)の位置座標(x
p, y
p)を、時刻Tにおける端末位置推定値に決定するのである。この「推定位置座標」(est_x, est_y)をプログラミング言語で記述すると、例えば、
(2) est_x=database[argmin{dT_p}][x
p]
est_y=database[argmin{dT_p}][y
p]
となる。
【0079】
ここで、「推定位置座標」の類似度(距離)dT_pは、当該推定位置座標における反信頼度となっており、例えばこの距離の逆数1/dT_p等、この距離dT_pの単調減少関数を「信頼度」とすることができる。
【0080】
図2に戻り、次に、端末位置推定処理の他の実施形態を説明する。本実施形態では、位置推定モデルから、推定位置候補である「端末位置情報」が複数出力(決定)される状況を考える。例えば、位置推定モデルから推定位置として出力(決定)される「端末位置情報」のうち、所定閾値以上の信頼度を有するものを推定位置候補として選択することができる。
【0081】
この場合に、端末位置決定部116の物体位置比較部116aは、位置推定時点での「物体位置情報」と、位置推定モデルから導出された推定位置候補である「端末位置情報」とを比較し、互いの位置の近さ(すなわち距離)を算出する。端末位置決定部116は、この互いの位置の近さ(距離の小ささ)に基づいて、位置推定対象の端末3の端末位置を推定するのである。
【0082】
位置推定対象の端末3は、カメラ4による撮影画像に写っており、当該撮影画像から導出される「物体位置情報」のいずれかに係る位置、又はその近傍の位置に存在している可能性が非常に高い。したがって、推定位置候補である「端末位置情報」と「物体位置情報」との位置の近さ(距離の小ささ)に基づいて位置推定対象の推定位置を求めることによって、より精度の高い位置推定が可能となるのである。
【0083】
より具体的に、端末位置決定部116は、位置推定時点での「物体位置情報」のうちで、当該「物体位置情報」に係る位置と、位置推定モデルから導出された決定候補である「端末位置情報」に係る位置との距離が最も小さい又は所定閾値以下である「物体位置情報」を、位置推定対象の端末3に係る推定位置に決定してもよい。
【0084】
さらに変更態様として、端末位置決定部116は、位置推定モデルから導出された決定候補である「端末位置情報」のうちで、当該「端末位置情報」に係る位置と、位置推定時点での「物体位置情報」に係る位置との距離が最も小さい又は所定閾値以下である「端末位置情報」を、位置推定対象の端末3に係る推定位置に決定することも好ましい。
【0085】
また、更なる変更態様として、端末位置決定部116は、位置推定モデルから導出された推定位置候補の「端末位置情報」のうちで、信頼度が所定閾値以上である「端末位置情報」のみを、位置推定時点での「物体位置情報」と比較して、位置推定対象の端末3に係る推定位置を決定してもよいのである。
【0086】
同じく
図2において、端末動線情報管理部117は、端末位置決定部116において決定された、位置推定期間中の時刻毎の端末3の推定位置座標を収集し、端末3(を所持するユーザ)の識別子ID毎に、収集した推定位置座標の時系列情報を対応付けた動線情報を生成する。
【0087】
また、端末動線情報管理部117は、生成した動線情報を、端末動線情報蓄積部104に保存してもよく、入出力制御部118を介してディスプレイ105に表示することも好ましく、通信制御部121及び通信インタフェース101を介して、外部の情報処理装置に送信してもよい。なお、これらの動線情報の処理は、予めの設定通りに適宜実行されてもよく、または、例えばキーボード105を介したユーザによる処理命令を受け取って実行されてもよい。
【0088】
次に、
図3を用いて、端末位置推定装置1における<モデル更新フェーズ>について説明する。
【0089】
図3の<モデル更新フェーズ>に示すように、端末位置決定部116は、位置推定モデルから、位置推定期間の時刻毎に、「端末位置情報」と、その信頼度(確率,距離1/dT_pの単調減少関数)とを対応付けたものを取得し、当該「端末位置情報」を推定位置に決定する。
【0090】
ここで、学習データ生成部114は、決定された推定位置である「端末位置情報」が所定閾値ThR以上の信頼度Rを有する場合(R≧ThR)に、この「端末位置情報」を正解の端末位置情報として含む学習データを生成する。
【0091】
次いで、モデル生成部115(
図2)は、この学習データを用いて位置推定モデル(位置推定識別器,端末位置データベース)を更新するのである。これにより、例えば刻々の端末3の位置をオンラインで学習し、当該位置を概ねリアルタイムで且つより高い精度で推定することも可能となる。なお、このような学習データを用いて新たに位置推定モデルを構築してもよい。
【0092】
[端末位置推定処理の他の実施形態]
次に、端末3における位置推定時点の前の時点での位置や、さらには信頼度も考慮した端末位置推定処理の実施形態を説明する。
【0093】
学習データ生成部114は、一実施形態として、
(a)端末3におけるある時点(t1)の前の時点(例えばt1−1)での位置に係る「端末位置情報」、及び
(b)当該端末3における当該前の時点(例えばt1−1)での「受信電磁波情報」
の両方又はいずれか一方を更に含む学習データを生成し、モデル生成部115は、この学習データを用いて位置推定モデルを生成する。
【0094】
次いで、端末位置決定部116は、上記の学習データに合わせ、
(a)位置推定対象の端末3における位置推定時点(T)の前の時点(例えばT−1)での位置に係る端末位置情報、及び
(b)当該位置推定対象の端末3における当該前の時点(例えばT−1)での「受信電磁波情報」
の両方又はいずれか一方を更に含む特徴データに基づいて、位置推定対象の端末3の端末位置情報を決定するのである。
【0095】
通常、端末3(を所持した人物)の位置は、前の時点での位置との間で相関を示し、特に店舗内のように、人物の移動可能な経路が、机や棚等の設置物によって実質的に限定されている場合、両者は強い相関関係を有することが認められる。したがって、本実施形態のように、前の時点での位置も学習又はデータベース化することによって、位置推定精度を更に向上させることが可能となる。
【0096】
また、前の時点での位置を利用する他の実施形態として、端末位置決定部116は、位置推定時点(T)において所定閾値ThR以上の信頼度R(≧ThR)を有する「端末位置情報」が複数取得された場合、
(a)前の時点(例えばT−1)での推定位置から最も近い「端末位置情報」、
(b)前の時点(例えばT−1)での推定位置との距離が所定閾値未満の「端末位置情報」、又は
(c)位置推定対象の端末3についての前の時点(例えばT−1)までの軌跡情報から、(例えば過去の時点間の位置変化ベクトルの平均分だけ変位したと仮定して)位置推定時点(T)での位置を予測し、この予測位置に最も近い、又は当該予測位置からの距離が所定閾値未満の「端末位置情報」
を、推定位置に決定することも好ましい。
【0097】
さらに、前の時点での信頼度を利用する実施形態として、学習データ生成部114は、生成する学習データに含まれる「端末位置情報」に係る時点(t1)の前の時点(例えばt1−1)に係る「端末位置情報」に対して算出された信頼度を更に含む学習データを生成してもよい。
【0098】
この場合、端末位置決定部116は、位置推定対象の端末3における位置推定時点(T)の前の時点(例えばT−1)での位置に係る「端末位置情報」に対して算出された信頼度にも基づいて、位置推定対象の端末3に係る「端末位置情報」を決定することができる。このように信頼度も考慮した位置推定モデルを用いることによって、位置推定精度を更に向上させることも可能となる。
【0099】
また、更なる他の実施形態として、端末位置決定部116は、所定閾値ThR以上の信頼度R(≧ThR)を有する(推定位置候補としての)「端末位置情報」が複数存在する場合に、
(a)位置推定時点(T)の前の時点(例えばT−1)で決定した「端末位置情報」に対し、又は
(b)位置推定時点(T)の過去の時点(例えばT−1, T−2,・・・)で決定した「端末位置情報」群(軌跡情報)から予測される「端末位置情報」に対し、
所定条件を満たす位置の近さを有する「端末位置情報」を選択して、位置推定対象の端末3に係る「端末位置情報」に決定することも好ましい。
【0100】
[端末位置推定方法]
図4は、本発明による端末位置推定方法における位置推定フェーズの一実施形態を概略的に示すフローチャートである。本フローチャートによれば、最初に、位置推定期間の各時刻(t=1, 2,・・・, T−2, T−1, T)においてステップS11〜S14が実行される。
【0101】
(S11)位置推定対象の端末3からRSSIを取得し、さらにカメラ映像を取得して動的物体(例えば人物)の位置座標を決定する。
(S12)同期させたRSSIと動的物体の位置座標とから、位置推定時刻における特徴データを生成する。
【0102】
(S13)予め生成しておいた位置推定モデルを用いて、生成した特徴データに基づき、位置推定対象の端末3の推定位置座標を決定する。
(S14)位置推定対象の端末の動線情報(推定位置座標の時系列情報)を生成・更新する。
【0103】
次いで、位置推定期間の終了後、以下のステップS15が実行されて、位置推定期間での位置推定処理が終了する。
(S15)生成した端末3の動線情報を出力する。
【0104】
以上に説明したステップS11〜S15の処理を、位置推定領域内の各端末3について実行することにより、全ての端末3の動線を把握することも可能となる。なお、本実施形態では、ステップS11におけるRSSIと動的物体の位置座標とが同期しており、各時刻において当該時刻での状況に適合した特徴データが生成され、その結果、より精度の高い位置推定が実施可能となっているのである。
【0105】
以上詳細に説明したように、本発明によれば、移動可能な物体の情報を含む物体認識情報にも基づいてモデルを生成し、このようなモデルを利用して位置推定を行うので、電磁波源からの電磁波に影響を与える移動可能な物体が存在し得る状況においても、当該電磁波を受信した端末の位置をより精度良く推定することができる。
【0106】
ちなみに、本発明の構成及び方法は、例えば、多数の人物が移動・滞留したり出入りしたりする場を監視する監視システム、さらには、1つの店舗内や、商業・サービス施設内、さらには商店街の街路上における人物の入出店、休憩、観戦、イベント参加や、移動の状況を調査するためのマーケティング調査システム等、様々な系に適用可能である。
【0107】
以上に述べた本発明の種々の実施形態において、本発明の技術思想及び見地の範囲の種々の変更、修正及び省略は、当業者によれば容易に行うことができる。前述の説明はあくまで例であって、何ら制約しようとするものではない。本発明は、特許請求の範囲及びその均等物として限定するものにのみ制約される。