(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-10-06
(45)【発行日】2023-10-17
(54)【発明の名称】情報処理装置及び情報処理プログラム
(51)【国際特許分類】
G06Q 50/10 20120101AFI20231010BHJP
G06T 7/00 20170101ALI20231010BHJP
G06T 1/00 20060101ALI20231010BHJP
G06T 7/20 20170101ALI20231010BHJP
G06T 7/292 20170101ALI20231010BHJP
G08B 25/00 20060101ALI20231010BHJP
【FI】
G06Q50/10
G06T7/00 660Z
G06T1/00 340Z
G06T7/20 300Z
G06T7/292
G08B25/00 510M
(21)【出願番号】P 2019088296
(22)【出願日】2019-05-08
【審査請求日】2022-04-21
(73)【特許権者】
【識別番号】317016246
【氏名又は名称】株式会社オレンジテクラボ
(74)【代理人】
【識別番号】100115129
【氏名又は名称】清水 昇
(72)【発明者】
【氏名】吉田 尚史
(72)【発明者】
【氏名】宮▲崎▼ 淳
【審査官】毛利 太郎
(56)【参考文献】
【文献】特開2012-010121(JP,A)
【文献】特開2015-176227(JP,A)
【文献】特開2019-053381(JP,A)
【文献】特開2009-265922(JP,A)
【文献】特開2008-003753(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06Q 10/00-99/00
G06T 7/00
G06T 1/00
G06T 7/20
G06T 7/292
G08B 25/00
(57)【特許請求の範囲】
【請求項1】
人を撮影した画像から、該人の部位をベクトル表現したワイヤーフレームデータに変換するワイヤーフレーム変換手段と、
人を撮影した画像から、該人の移動を表現した人移動軌跡データを生成する生成手段と、
前記人移動軌跡データと予め定められた行動のパターンデータを用いて、前記人の行動が警戒すべき行動であるか否かを分析する分析手段と、
前記分析手段によって、警戒すべき行動であると分析された人の特徴を内容に含むブラックリストを生成するブラックリスト生成手段
を有
し、
前記生成手段は、前記ワイヤーフレームデータを用いて、前記人の部位の移動、及び、該移動に要した時間を含む人移動軌跡データを生成し、
前記分析手段は、人の部位の移動、及び、該移動に要した時間を用いて、前記人の行動が警戒すべき行動であるか否かを分析する、
ことを特徴とする情報処理装置。
【請求項2】
前記画像は、店舗内の人を撮影した画像であり、
前記警戒すべき行動として、少なくとも盗難の行動が含まれており、
前記分析手段による分析結果を通知する通知手段
をさらに有する請求項1に記載の情報処理装置。
【請求項3】
人を撮影した画像から、該人の顔を認識する認識手段
をさらに有し、
前記生成手段は、前記認識手段による認識結果を用いて、同一人物の人移動軌跡データを生成し、
前記分析手段は、前記認識手段によって認識された顔の人物が、前記ブラックリストにあるか否かを分析
し、
前記ブラックリストにないと判断した場合は、前記認識手段による認識結果を、該判断した対象である人が施設を退出した場合に削除する、
請求項1に記載の情報処理装置。
【請求項4】
コンピュータを、
人を撮影した画像から、該人の部位をベクトル表現したワイヤーフレームデータに変換するワイヤーフレーム変換手段と、
人を撮影した画像から、該人の移動を表現した人移動軌跡データを生成する生成手段と、
前記人移動軌跡データと予め定められた行動のパターンデータを用いて、前記人の行動が警戒すべき行動であるか否かを分析する分析手段と、
前記分析手段によって、警戒すべき行動であると分析された人の特徴を内容に含むブラックリストを生成するブラックリスト生成手段
として機能させ
、
前記生成手段は、前記ワイヤーフレームデータを用いて、前記人の部位の移動、及び、該移動に要した時間を含む人移動軌跡データを生成し、
前記分析手段は、人の部位の移動、及び、該移動に要した時間を用いて、前記人の行動が警戒すべき行動であるか否かを分析する、
ことを特徴とする情報処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置及び情報処理プログラムに関する。
【背景技術】
【0002】
非特許文献1には、悪性サイト情報サービスでは、国内の企業や官公庁に導入されているセキュリティ機器などで検知したサイバー攻撃情報をセキュリティオペレーションセンターの分析基盤に収集、独自の手法で悪性サイト情報を精査し、ブラックリスト化することが記載されている。
非特許文献2には、スーパーやコンビニ等の小売店で商品棚をスマートフォン等で撮影することでリアルタイムに商品の陳列状況を分析できる商品棚画像認識エンジンが記載されている。
非特許文献3には、顔画像等の認識技術が記載されている。
【先行技術文献】
【非特許文献】
【0003】
【文献】日経新聞社,NTTコム、高精度な悪性サイト情報サービス「アクティブ ブラックリスト スレットインテリジェンス」の提供を開始,2017/9/25,https://www.nikkei.com/article/DGXLRSP458112_V20C17A9000000/
【文献】NTTドコモ,商品棚画像認識エンジンを開発-ドコモのAI技術により、商品棚の配置状況が一目でわかる-, https://www.nttdocomo.co.jp/info/news_release/2018/03/01_01.html
【文献】MathWorks, 画像認識, https://jp.mathworks.com/discovery/image-recognition.html
【発明の概要】
【発明が解決しようとする課題】
【0004】
人の画像が撮影された画像、例えば、店舗内の顧客を撮影した画像を、担当者が監視して、警戒すべき人物であるか否かを判断することが行われている。
しかし、複数の担当者がいる場合は、担当者間で警戒すべき人物に関する情報を共有する必要がある。また、担当者の疲労又は担当すべき領域が広いこと等によって、警戒すべき人物を見逃してしまうこと、逆に、一般人(警戒すべきでない人)を過度に警戒してしまうこと等が発生し得る。
本発明は、人を撮影して、その人の行動を監視するにあたって、その人の移動軌跡データを用いて、警戒すべき人物を記憶したブラックリストを生成することができる情報処理装置、及び情報処理プログラムを提供することを目的としている。
【課題を解決するための手段】
【0005】
かかる目的を達成するための本発明の要旨とするところは、次の各項の発明に存する。なお、以下の「請求項」とあるのは、出願当初の請求項である。
請求項1の発明は、人を撮影した画像から、該人の移動を表現した人移動軌跡データを生成する生成手段と、前記人移動軌跡データと予め定められた行動のパターンデータを用いて、前記人の行動が警戒すべき行動であるか否かを分析する分析手段と、前記分析手段によって、警戒すべき行動であると分析された人の特徴を内容に含むブラックリストを生成するブラックリスト生成手段を有することを特徴とする情報処理装置である。
【0006】
請求項2の発明は、人を撮影した画像から、該人の部位をベクトル表現したワイヤーフレームデータに変換するワイヤーフレーム変換手段をさらに有し、前記生成手段は、前記ワイヤーフレームデータを用いて、前記人の部位の移動を表現した人移動軌跡データを生成する、請求項1に記載の情報処理装置である。
【0007】
請求項3の発明は、前記画像は、店舗内の人を撮影した画像であり、前記警戒すべき行動として、少なくとも盗難の行動が含まれており、前記分析手段による分析結果を通知する通知手段をさらに有する請求項1に記載の情報処理装置である。
【0008】
請求項4の発明は、人を撮影した画像から、該人の顔を認識する認識手段をさらに有し、前記生成手段は、前記認識手段による認識結果を用いて、同一人物の人移動軌跡データを生成し、前記分析手段は、前記認識手段によって認識された顔の人物が、前記ブラックリストにあるか否かを分析する、請求項1に記載の情報処理装置である。
【0009】
請求項5の発明は、コンピュータを、人を撮影した画像から、該人の移動を表現した人移動軌跡データを生成する生成手段と、前記人移動軌跡データと予め定められた行動のパターンデータを用いて、前記人の行動が警戒すべき行動であるか否かを分析する分析手段と、前記分析手段によって、警戒すべき行動であると分析された人の特徴を内容に含むブラックリストを生成するブラックリスト生成手段として機能させることを特徴とする情報処理プログラムである。
【発明の効果】
【0010】
請求項1の情報処理装置によれば、人を撮影して、その人の行動を監視するにあたって、その人の移動軌跡データを用いて、警戒すべき人物を記憶したブラックリストを生成することができる。
【0011】
請求項2の情報処理装置によれば、ワイヤーフレームデータを用いることによって、画像そのものを用いる場合に比べて、警戒すべき行動であるとの分析処理を高速化することができる。
【0012】
請求項3の情報処理装置によれば、店舗内の少なくとも盗難(万引き等)の行動を検出することができる。
【0013】
請求項4の情報処理装置によれば、顔画像を用いて、より正確な人移動軌跡データを生成することができる。
【0014】
請求項5の情報処理プログラムによれば、人を撮影して、その人の行動を監視するにあたって、その人の移動軌跡データを用いて、警戒すべき人物を記憶したブラックリストを生成することができる。
【図面の簡単な説明】
【0015】
【
図1】本実施の形態の構成例(1)についての概念的なモジュール構成図である。
【
図2】本実施の形態の構成例(2)についての概念的なモジュール構成図である。
【
図3】本実施の形態の構成例(3)についての概念的なモジュール構成図である。
【
図4】本実施の形態の構成を店舗内に設置した場合の例を示す説明図である。
【
図5】本実施の形態のモデルの構成例を示す説明図である。
【
図6】本実施の形態による処理例を示すフローチャートである。
【
図7】特徴テーブルのデータ構造例を示す説明図である。
【
図8】動線テーブルのデータ構造例を示す説明図である。
【
図9】人部位移動軌跡テーブルのデータ構造例を示す説明図である。
【
図10】本実施の形態による処理例を示すフローチャートである。
【
図11】顔移動軌跡テーブルのデータ構造例を示す説明図である。
【
図12】本実施の形態による処理例を示すフローチャートである。
【
図13】本実施の形態による処理例を示すフローチャートである。
【
図14】ブラックリストテーブルのデータ構造例を示す説明図である。
【
図15】行動テーブルのデータ構造例を示す説明図である。
【
図16】本実施の形態による処理例を示すフローチャートである。
【
図17】通知のユーザーインタフェース例を示す説明図である。
【
図18】本実施の形態による処理例を示すフローチャートである。
【
図19】本実施の形態を実現するコンピュータのハードウェア構成例を示すブロック図である。
【発明を実施するための形態】
【0016】
以下、図面に基づき本発明を実現するにあたっての好適な一実施の形態の例を説明する。
図1は、本実施の形態の構成例(1)についての概念的なモジュール構成図を示している。
なお、モジュールとは、一般的に論理的に分離可能なソフトウェア(コンピュータ・プログラム)、ハードウェア等の部品を指す。したがって、本実施の形態におけるモジュールはコンピュータ・プログラムにおけるモジュールのことだけでなく、ハードウェア構成におけるモジュールも指す。それゆえ、本実施の形態は、それらのモジュールとして機能させるためのコンピュータ・プログラム(コンピュータにそれぞれの手順を実行させるためのプログラム、コンピュータをそれぞれの手段として機能させるためのプログラム、コンピュータにそれぞれの機能を実現させるためのプログラム)、システム及び方法の説明をも兼ねている。ただし、説明の都合上、「記憶する」、「記憶させる」、これらと同等の文言を用いるが、これらの文言は、実施の形態がコンピュータ・プログラムの場合は、記憶装置に記憶させる、又は記憶装置に記憶させるように制御するという意味である。また、モジュールは機能に一対一に対応していてもよいが、実装においては、1モジュールを1プログラムで構成してもよいし、複数モジュールを1プログラムで構成してもよく、逆に1モジュールを複数プログラムで構成してもよい。また、複数モジュールは1コンピュータによって実行されてもよいし、分散又は並列環境におけるコンピュータによって1モジュールが複数コンピュータで実行されてもよい。なお、1つのモジュールに他のモジュールが含まれていてもよい。また、以下、「接続」とは物理的な接続の他、論理的な接続(データの授受、指示、データ間の参照関係、ログイン等)の場合にも用いる。「予め定められた」とは、対象としている処理の前に定まっていることをいい、本実施の形態による処理が始まる前はもちろんのこと、本実施の形態による処理が始まった後であっても、対象としている処理の前であれば、そのときの状況・状態にしたがって、又はそれまでの状況・状態にしたがって定まることの意を含めて用いる。「予め定められた値」が複数ある場合は、それぞれ異なった値であってもよいし、2以上の値(もちろんのことながら、全ての値も含む)が同じであってもよい。また、「Aである場合、Bをする」という記載は、「Aであるか否かを判断し、Aであると判断した場合はBをする」の意味で用いる。ただし、Aであるか否かの判断が不要である場合を除く。また、「A、B、C」等のように事物を列挙した場合は、断りがない限り例示列挙であり、その1つのみを選んでいる場合(例えば、Aのみ)を含む。
また、システム又は装置とは、複数のコンピュータ、ハードウェア、装置等がネットワーク(一対一対応の通信接続を含む)等の通信手段で接続されて構成されるほか、1つのコンピュータ、ハードウェア、装置等によって実現される場合も含まれる。「装置」と「システム」とは、互いに同義の用語として用いる。もちろんのことながら、「システム」には、人為的な取り決めである社会的な「仕組み」(社会システム)にすぎないものは含まない。
また、各モジュールによる処理毎に又はモジュール内で複数の処理を行う場合はその処理毎に、対象となる情報を記憶装置から読み込み、その処理を行った後に、処理結果を記憶装置に書き出すものである。したがって、処理前の記憶装置からの読み込み、処理後の記憶装置への書き出しについては、説明を省略する場合がある。なお、ここでの記憶装置としては、ハードディスクドライブ、RAM(Random Access Memoryの略)、外部記憶媒体、通信回線を介した記憶装置、CPU(Central Processing Unitの略)内のレジスター等を含んでいてもよい。
【0017】
本実施の形態(1)である情報処理装置100、撮影装置150は、人の動作の人移動軌跡データを対象とした動線検出によるブラックリストの生成、警告装置を提供する。具体的には、人の動線を検出及び記録し、例えば、小売店(スーパーマーケット、コンビニエンスストア等)の店舗における盗難(いわゆる万引き)、異物混入などの特定動作を検出し、次回以降の来店時の警戒に活用する。つまり、撮影装置150によって人の動作を取得し、その人の動線に基づいて、ブラックリストを生成する。そして、そのブラックリストを用いて、警告を行う。
なお、小売店の店舗に限らず、カメラに撮影された人の匿名化を行った上で、行動の分析を行う場合に適用できる。例えば、病院、介護施設、スポーツ用施設(例えば、体育館、サッカー場、野球場等)等に、同様の方法で複数カメラを設置し、人の行動を分析することができるようにしてもよい。以下、主な例示として、小売店の店舗に適用する場合を用いて説明する。
【0018】
また、人移動軌跡データを生成するのに、画像内の人画像そのものを用いるようにしてもよいし、ワイヤーフレームモデル(例えば、人体の3次元ワイヤーフレームモデル)を用いるようにしてもよい。なお、以下の説明では、ワイヤーフレームモデルを例示して説明する。
ブラックリストを用いた異常検知は、セキュリティの分野では広く使われる手段であるが(例えば、非特許文献1)、本実施の形態では、撮影装置150により人の動線を取得し、その動線によってブラックリストを作成し、ブラックリストと対象となっている人の動線とを照合して警告を発するようにしている。
【0019】
情報処理装置100と撮影装置150は、通信回線を介して接続されている。通信回線は、無線、有線、これらの組み合わせであってもよく、例えば、通信インフラとしてのインターネット、イントラネット等であってもよい。また、情報処理装置100による機能は、クラウドサービスとして実現してもよい。
図2で説明するカメラ群155と情報処理装置200との通信回線、
図3で説明するカメラ群355と情報処理装置100との通信回線、情報処理装置200の解釈については同様である。
撮影装置150は、情報処理装置100に対して、ワイヤーフレームモジュール165による処理結果であるワイヤーフレームデータ又は人体の部位の移動軌跡データ(以下、人体移動軌跡データともいう)、顔認識モジュール170による処理結果である人体の顔の移動軌跡データ(以下、顔移動軌跡データともいう)を送信する。
【0020】
撮影装置150は、
図1の例に示すように、カメラ群155、ワイヤーフレームモジュール165、顔認識モジュール170を有しており、情報処理装置100と接続されている。
カメラ群155は、カメラ160A、カメラ160B等を有している。カメラ群155は、複数のカメラ160を有している。
カメラ160(カメラ160A、カメラ160B等)は、人を撮影する。一般的には、動画であるが、予め定められた間隔で撮影した静止画(複数の静止画)であってもよい。カメラ160は施設に設置されている。例えば、小売店の店舗に設置されている場合は、店舗内の人を撮影することになる。カメラ160の具体例として、市販されている単眼カメラ、全天球カメラ(360°カメラ、VRカメラ、全方位カメラともいわれる)等があり、また、既に設置されている既存の防犯カメラ、監視カメラ等をそのまま流用してもよい。
【0021】
ワイヤーフレームモジュール165は、人を撮影した画像(カメラ群155が撮影した画像)から、その人の移動を表現した人移動軌跡データを生成する。具体的には、ワイヤーフレームモジュール165は、人を撮影した画像から、その人の部位をベクトル表現したワイヤーフレームデータに変換する。そして、ワイヤーフレームモジュール165は、そのワイヤーフレームデータを用いて、人の部位の移動を表現した人移動軌跡データを生成する。
なお、ワイヤーフレームデータに変換することによって、対象となっている人の匿名化を行うことができる。
人の部位としては、関節間の部分が該当し、例えば、頭部、首、肩、胴体、腕(肩から肘までの部分、肘から手までの部分)、手、足(胴体から膝までの部分、膝からくるぶしまでの部分、くるぶしから先の部分)等がある。ワイヤーフレームデータの生成方法として、既に知られている技術を用いればよい。例えば、人体の関節(足、足首、膝、股関節、肘、手首、首等)を検出し、その関節間を結ぶ線をワイヤーフレームとして抽出すればよい。したがって、画像そのものを用いている場合と比べて、ワイヤーフレームデータを用いる場合は、特定の個人を識別することができない。つまり、従来のマスク処理等を一切することなく、画像でなく画像に含まれる人体の動きのみを取得することにより、匿名化の度合いを高度にしている。ただし、少なくともブラックリストに含める人物については、特定する必要があるので、顔認識モジュール170を用いる。
具体的には、ワイヤーフレームモジュール165は、既存の方法を用いて、画像内の人の各部位の店舗内における3次元の位置(座標)を取得する。
【0022】
なお、ワイヤーフレームモジュール165だけでは、人が早く移動した場合、複数人が近くにいた場合等では、同一人物と判断することが困難になる。そこで、顔認識モジュール170で顔認識を行って、同一人物であることの判断に用いる。つまり、ワイヤーフレームモジュール165は、顔認識モジュール170による認識結果を用いて、同一人物の人移動軌跡データを生成する。
顔認識モジュール170は、人を撮影した画像(カメラ群155が撮影した画像)から、その人の顔を認識する。ただし、ここでの顔認識は、警戒すべき行動を行った人物については、個人を特定するための処理を行うが、それ以外の人物(一般的な顧客)については、個人を特定するための処理ではなく、店舗内で同一人物であることを認識できる程度としてもよい。一般的な顧客に対しては、それ以上の認識(例えば、個人の氏名の認識等)は行わないようにしてもよい。つまり、別時刻における人物の顔画像を比べて同一人物であるか否かを判断できる程度でよい。例えば、顔画像に対して特徴抽出(髪の色、長さ、目鼻等の相対的位置関係等)を行い、特徴空間上での距離計算(いわゆる類似判断)を行ってもよいし、機械学習で得たアルゴリズムによって判断するようにしてもよい。そして、顔認識モジュール170による出力データは、ある時刻における人IDと他の時刻における人IDは同じであることを保証できればよい。例えば、顔認識モジュール170は、後述する顔移動軌跡テーブル1100を生成する。そして、顔認識モジュール170による認識結果(認識対象の顔画像、認識処理にともなう中間結果等のデータ等を含めてもよい)を、その認識結果を送信した時点、又は、その人が店舗を退出した場合に削除する。
具体的には、顔認識モジュール170は、既存の方法を用いて(例えば、非特許文献3に記載された技術等)、画像内の顔を識別し、その顔の店舗内における3次元の位置(座標)を取得する。
また、顔認識モジュール170は、顔認識だけでなく、画像内の人物の特徴(年齢、性別、服装等)を抽出してもよい。
【0023】
情報処理装置100は、受付モジュール105、動線軌跡記憶モジュール110、動線軌跡DB(DataBaseの略)115、動作検出モジュール120、ブラックリストDB125、顔軌跡DB130、行動分析モジュール135、警告モジュール140を有しており、撮影装置150と接続されている。
受付モジュール105は、動線軌跡記憶モジュール110、顔軌跡DB130、行動分析モジュール135と接続されている。受付モジュール105は、撮影装置150から人移動軌跡データ(ワイヤーフレームモジュール165による処理結果)、顔移動軌跡データ(顔認識モジュール170による処理結果)を受信する。そして、人移動軌跡データを動線軌跡記憶モジュール110に渡し、顔移動軌跡データを顔軌跡DB130に記憶させる。
【0024】
動線軌跡記憶モジュール110は、受付モジュール105、動線軌跡DB115と接続されている。動線軌跡記憶モジュール110は、受付モジュール105が受け付けた人移動軌跡データを動線軌跡DB115に記憶させる。
動線軌跡DB115は、動線軌跡記憶モジュール110、動作検出モジュール120と接続されている。動線軌跡DB115は、人移動軌跡データを記憶している。
【0025】
動作検出モジュール120は、動線軌跡DB115、ブラックリストDB125、顔軌跡DB130と接続されている。動作検出モジュール120は、動線軌跡DB115に記憶されている人移動軌跡データ又は/及び顔軌跡DB130に記憶されている顔移動軌跡データを用いて、ブラックリストを生成し、ブラックリストDB125に記憶させる。例えば、ブラックリストDB125内のブラックリストに含まれている人物が店内にいる場合は、その人物の人移動軌跡データをブラックリストDB125内のブラックリストに登録する。また、ブラックリストDB125内のブラックリストに含まれている移動軌跡データと類似している行動を行っている人物が店内にいる場合は、その人物の顔画像等の特徴をブラックリストDB125内のブラックリストに登録する。
【0026】
ブラックリストDB125は、動作検出モジュール120、行動分析モジュール135と接続されている。ブラックリストDB125は、ブラックリストを記憶している。過去に店舗内で窃盗等を行った人物の顔画像、指名手配されている人物の特徴(顔画像等)を、予め記憶していてもよい。なお、顔画像そのものではなく、その顔画像から抽出した特徴を記憶していてもよい。また、過去に店舗内で窃盗等を行った人物の動線データ、部位軌跡データ(例えば、手の動き等)を、予め記憶していてもよい。また、典型的な窃盗等の行為を予め撮影しておき、それらの動線データ、部位軌跡データを生成させ、予め記憶していてもよい。
顔軌跡DB130は、受付モジュール105、動作検出モジュール120、行動分析モジュール135と接続されている。顔軌跡DB130は、受付モジュール105が受け付けた顔移動軌跡データを記憶している。
【0027】
行動分析モジュール135は、受付モジュール105、ブラックリストDB125、顔軌跡DB130、警告モジュール140と接続されている。行動分析モジュール135は、人移動軌跡データと予め定められた行動のパターンデータを用いて、人の行動が警戒すべき行動であるか否かを分析する。ここで「警戒すべき行動」として、少なくとも盗難の行動が含まれており、盗難の他に、例えば、異物混入等を含めてもよい。「警戒すべき行動」に該当する場合は、警告モジュール140によって警告を発生させる。
そして、行動分析モジュール135は、警戒すべき行動であると分析された人の特徴を内容に含むブラックリストを生成する。
また、行動分析モジュール135は、顔認識モジュール170によって認識された顔の人物が、ブラックリストにあるか否かを分析する。ブラックリストにある場合は、警告モジュール140によって警告を発生させる。
なお、ブラックリストに含める「人の特徴」として、その人物の顔画像、顔画像の特徴抽出結果、その人の移動軌跡データ等のいずれか1つ以上を含む。
【0028】
警告モジュール140は、行動分析モジュール135と接続されている。警告モジュール140は、行動分析モジュール135による分析結果を管理者等に通知する。ブラックリストに含まれる「警戒すべき行動」を行っている人物が店内にいること、又は、ブラックリストに含まれる顔の人物が店内にいること、が行動分析モジュール135によって判明した場合は、警告を発生する。
【0029】
図2は、本実施の形態の構成例(2)についての概念的なモジュール構成図である。
なお、
図1の例に示した部位と同種の部位には同一符号を付し重複した説明を省略する(以下、同様)。
カメラ群155と情報処理装置200とは通信回線を介して接続されている。なお、個別のカメラ160と情報処理装置200がそれぞれ通信回線を介して接続されていてもよい。
カメラ群155は、従来のカメラ(カメラ160)を複数有していればよい。
情報処理装置200は、受付モジュール105、ワイヤーフレームモジュール265、顔認識モジュール270、動線軌跡記憶モジュール110、動線軌跡DB115、動作検出モジュール120、ブラックリストDB125、顔軌跡DB130、行動分析モジュール135、警告モジュール140を有しており、カメラ群155と接続されている。
つまり、情報処理装置200は、
図1に例示した情報処理装置100に、ワイヤーフレームモジュール165に相当するワイヤーフレームモジュール265と顔認識モジュール170に相当する顔認識モジュール270を付加したものである。
【0030】
受付モジュール105は、ワイヤーフレームモジュール265、顔認識モジュール270と接続されている。受付モジュール105は、カメラ群155から、カメラ160が撮影した画像を受信する。
ワイヤーフレームモジュール265は、受付モジュール105、動線軌跡記憶モジュール110、行動分析モジュール135と接続されている。ワイヤーフレームモジュール265は、受付モジュール105が受信した画像に対して、ワイヤーフレームモジュール165と同等の処理を行い、その結果(人移動軌跡データ)を動線軌跡記憶モジュール110、行動分析モジュール135に渡す。
動線軌跡記憶モジュール110は、ワイヤーフレームモジュール265、動線軌跡DB115と接続されている。
顔認識モジュール270は、受付モジュール105、顔軌跡DB130と接続されている。顔認識モジュール270は、受付モジュール105が受信した画像に対して、顔認識モジュール170と同等の処理を行い、その結果(顔移動軌跡データ)を顔軌跡DB130に渡す。
顔軌跡DB130は、顔認識モジュール270、動作検出モジュール120、行動分析モジュール135と接続されている。
行動分析モジュール135は、ワイヤーフレームモジュール265、ブラックリストDB125、顔軌跡DB130、警告モジュール140と接続されている。
カメラ群155は、カメラ160A、カメラ160B等を有しており、情報処理装置200と接続されている。
【0031】
図3は、本実施の形態の構成例(3)についての概念的なモジュール構成図である。
カメラ群355と情報処理装置100とは通信回線を介して接続されている。なお、個別のカメラ360と情報処理装置100がそれぞれ通信回線を介して接続されていてもよい。
情報処理装置100は、受付モジュール105、動線軌跡記憶モジュール110、動線軌跡DB115、動作検出モジュール120、ブラックリストDB125、顔軌跡DB130、行動分析モジュール135、警告モジュール140を有しており、カメラ群355と接続されている。
【0032】
カメラ群355は、カメラ360A、カメラ360B等を有しており、情報処理装置100と接続されている。
各カメラ360は、撮像モジュール350、ワイヤーフレームモジュール165、顔認識モジュール170を有している。
撮像モジュール350は、画像を撮影する撮影手段としての一例であるカメラである。
ワイヤーフレームモジュール165は、撮像モジュール350によって撮影された画像から、人の部位をベクトル表現したワイヤーフレームデータに変換する。そして、撮像モジュール350によって撮影された画像の代わりに、そのワイヤーフレームデータを受付モジュール105に送信する。
顔認識モジュール170は、撮像モジュール350によって撮影された画像から人物の顔画像を抽出し、その顔画像の移動軌跡を表現した顔移動軌跡データを生成し、その顔移動軌跡データを受付モジュール105に送信する。
【0033】
図4は、本実施の形態の構成を店舗内に設置した場合の例を示す説明図である。
店舗400内には、商品棚410(商品棚410-1等)、レジスタ420(レジスタ420-1等)、撮影装置450(撮影装置450-1等)が設置されている。例えば、撮影装置450は、店舗400の天井、壁等に設置される。撮影装置450は、前述の撮影装置150、カメラ群155、カメラ群355に該当する。
顧客は、店舗400に入った後、店内を移動し、商品棚410(商品棚410-1等)から商品を取り出し、手に持ち(ショッピングカー、買い物かご等に入れる、であってもよい)、レジスタ420(レジスタ420-1等)で支払いを済ませ、店舗400から出る。
これらの行動は、撮影装置450によって撮影され、情報処理装置100(又は情報処理装置200)に人移動軌跡データ、顔移動軌跡データが送信される。情報処理装置100(又は情報処理装置200)は、受信した人移動軌跡データ、顔移動軌跡データを分析し、その結果(ブラックリストに登録された行動を行った者、ブラックリストに登録された人物)を管理者等が使用するユーザー端末(携帯端末等であってもよい)に出力する。そして、その管理者等は、盗難、異物混入等を防止することができる。
【0034】
図5は、本実施の形態のモデルの構成例を示す説明図である。
本実施の形態を、概念的なモデルを用いて説明する。本実施の形態は、複数のカメラ505、個体認識(顔認識)510、特徴追跡520、動線分析530、意図理解(文法、動作基本単位)540を階層的に有したモデルで説明できる。
まず、個体認識(顔認識)510は、複数のカメラ505を通して、個体(同一人物)を認識する。
次に、個体認識(顔認識)510は、顔認識技術を用いて、特定人物を認識する。
そして、特徴追跡520は、人物の特徴(性別、年齢など)を抽出する。
動線分析530は、抽出した個体ごとに、位置、時間からなる動線を分析する。
意図理解(文法、動作基本単位)540は、個体の振る舞い(行動)から、盗難、異物混入、迷いなどの動作意図を分析する。そして、この分析結果を管理者等に知らせる。
【0035】
図6は、本実施の形態(撮影装置150、カメラ360)による処理例を示すフローチャートである。特に、ワイヤーフレームモジュール165、ワイヤーフレームモジュール265による処理例を示す。
ステップS602では、店舗内を撮影する。人(顧客)が撮影されることになる。
ステップS604では、撮影した人の特徴を抽出する。既存の技術を用いて、人の特徴を抽出すればよい。例えば、特徴テーブル700を生成する。
図7は、特徴テーブル700のデータ構造例を示す説明図である。特徴テーブル700は、人ID欄705、特徴1欄710、特徴2欄715、特徴3欄720を有している。人ID欄705は、本実施の形態において、人を一意に識別するための情報(人ID:IDentificationの略)を記憶している。なお、ここでの「一意に識別する」とは、店舗内で同一人物であることを示す程度であればよく、人物名までを認識する必要はない。なお、同一人物であるか否かは、次の時刻(例えば、1秒後等)で予め定められた距離内(例えば、30cm以内等)にいる人を同一人物としてもよいし、さらに、同一人物であることの正確性を高めるために、顔認識モジュール170による顔認識結果(後述する顔移動軌跡テーブル1100)を用いて同一人物を抽出してもよい。特徴1欄710は、その人物の特徴1(例えば、年齢等)を記憶している。特徴2欄715は、その人物の特徴2(例えば、性別)を記憶している。特徴3欄720は、その人物の特徴3(例えば、服装)を記憶している。もちろんのことながら、特徴としてこれら以外のものを採用してもよい。例えば、顔認識の結果(顔画像の特徴等を含む)を、特徴テーブル700に記憶させてもよい。
【0036】
ステップS606では、撮影した画像から人体のワイヤーフレームを生成する。既存の技術を用いて、ワイヤーフレームを生成すればよい。
ステップS608では、動線データ(体の各部位の移動軌跡)を生成する。ワイヤーフレームデータを用いて、同一人物の各部位の移動を抽出する。例えば、動線テーブル800、人部位移動軌跡テーブル900を生成する。
図8は、動線テーブル800のデータ構造例を示す説明図である。動線テーブル800は、人ID欄805、始点欄810、終点欄815、始点時刻欄820、終点時刻欄825を有している。人ID欄805は、人IDを記憶している。始点欄810は、その人の移動における始点の座標を記憶している。終点欄815は、その人の移動における終点の座標を記憶している。始点時刻欄820は、始点時刻(年、月、日、時、分、秒、秒以下、又はこれらの組み合わせであってもよい)を記憶している。終点時刻欄825は、終点時刻を記憶している。つまり、動線テーブル800は、人毎にその人の動線を始点と終点からなるベクトルで表現しており、その移動に始点の時刻から終点の時刻までの時間を要していることを示している。
図9は、人部位移動軌跡テーブル900のデータ構造例を示す説明図である。人部位移動軌跡テーブル900は、人ID欄905、部位ID欄910、店内座標x欄915、店内座標y欄920、店内座標z欄925、時刻欄930を有している。人ID欄905は、人IDを記憶している。部位ID欄910は、本実施の形態において、その人の部位を一意に識別するための情報(部位ID)を記憶している。店内座標x欄915は、その部位の店内座標xを記憶している。店内座標y欄920は、その部位の店内座標yを記憶している。店内座標z欄925は、その部位の店内座標zを記憶している。時刻欄930は、その部位が撮影された時刻を記憶している。同一人物の同一部位の座標を時系列にたどることによって、移動軌跡(ベクトルデータ)を生成できる。人部位移動軌跡テーブル900内の各行は、予め定められた間隔で撮影された画像の処理結果である。なお、店内座標は、複数のカメラ160の撮影の向きと位置を予め記録しておき、複数のカメラ160からその店内の座標に変換した上で記録されたものである。
ステップS610では、データを送信する。特徴テーブル700、動線テーブル800、人部位移動軌跡テーブル900は、動線軌跡DB115に記憶される。
【0037】
図10は、本実施の形態(撮影装置150、カメラ360)による処理例を示すフローチャートである。特に、顔認識モジュール170、顔認識モジュール270による処理例を示す。
ステップS1002では、撮影する。人(顧客)が撮影されることになる。
ステップS1004では、撮影した画像から顔を認識する。
ステップS1006では、顔の移動軌跡を生成する。例えば、顔移動軌跡テーブル1100を生成する。
図11は、顔移動軌跡テーブル1100のデータ構造例を示す説明図である。顔移動軌跡テーブル1100は、人ID欄1105、店内座標x欄1110、店内座標y欄1115、店内座標z欄1120、時刻欄1125を有している。人ID欄1105は、人IDを記憶している。店内座標x欄1110は、その人の店内座標xを記憶している。店内座標y欄1115は、その人の店内座標yを記憶している。店内座標z欄1120は、その人の店内座標zを記憶している。時刻欄1125は、その人が撮影された時刻を記憶している。なお、店内座標は、複数のカメラ160の撮影の向きと位置を予め記録しておき、複数のカメラ160からその店内の座標に変換した上で記録されたものである。
ステップS1008では、データを送信する。顔移動軌跡テーブル1100は、顔軌跡DB130に記憶される。
【0038】
図12は、本実施の形態による処理例を示すフローチャートである。
ステップS1202では、店舗内の特徴テーブル700、動線テーブル800、人部位移動軌跡テーブル900、顔移動軌跡テーブル1100を抽出する。
ステップS1204では、対象としている人物(又は行動)とブラックリスト内との類似判定を行う。ステップS1204の詳細な処理については、
図13又は
図16の例に示すフローチャートを用いて後述する。
ステップS1206では、類似しているか否かを判断し、類似している場合はステップS1208へ進み、それ以外の場合はステップS1212へ進む。
ステップS1208では、警告表示を行う。
ステップS1210では、ブラックリストにその人物(又は警戒すべき行動)を追加する。
ステップS1212では、一般客であるので、一般表示(警告表示ではない表示)を行う。
【0039】
図13は、本実施の形態による処理例を示すフローチャートである。
ステップS1302では、ブラックリスト内と同一人物であるか否かを判断し、同一人物の場合はステップS1304へ進み、それ以外の場合はステップS1308へ進む。例えば、ブラックリストとして、ブラックリストテーブル1400、行動テーブル1500を用いる。
図14は、ブラックリストテーブル1400のデータ構造例を示す説明図である。ブラックリストテーブル1400は、人ID欄1405、行動ID欄1410、時刻欄1415を有している。人ID欄1405は、人IDを記憶している。具体的には、特徴テーブル700内の特徴を指し示すことになる。行動ID欄1410は、本実施の形態において、その人の行動を一意に識別するための情報(行動ID)を記憶している。具体的には、後述する行動テーブル1500内の行動を指し示すことになる。時刻欄1415は、その行動が発生した時刻(その行動を撮影した時刻)を記憶している。具体的には、ステップS1302では、ブラックリストテーブル1400の人ID欄1405の人IDから、特徴テーブル700を参照することによって、警告対象となる人の特徴(顔を含めてもよい)を抽出することができる。
【0040】
ステップS1304では、ブラックリスト内の行動(動線、部位軌跡)に類似するか否かを判断し、類似する場合はステップS1306へ進み、それ以外の場合はステップS1308へ進む。具体的には、ステップS1304では、ブラックリストテーブル1400の行動ID欄1410の行動IDから、行動テーブル1500を参照することによって、警告すべき行動(動線)を抽出することができる。
図15は、行動テーブル1500のデータ構造例を示す説明図である。行動テーブル1500は、行動ID欄1505、ラベル欄1510、詳細欄1515、動線データ欄1520、部位軌跡データ欄1525を有している。行動ID欄1505は、行動IDを記憶している。ラベル欄1510は、その行動のラベル(その行動を示す内容)を記憶している。例えば、ラベルとして「万引き」、「挙動不審」等がある。詳細欄1515は、その行動の詳細内容を記憶している。例えば、「(商品を)かばんに入れる」、「(商品を)コートに隠す」、「多数の商品に触れる」等がある。動線データ欄1520は、動線データを記憶している。例えば、人の動線を示す始点と終点からなるベクトルデータが該当する。具体的には、動線テーブル800の始点欄810、終点欄815が該当する。部位軌跡データ欄1525は、部位軌跡データを記憶している。例えば、人の部位(例えば、手)の動きを示す始点と終点からなるベクトルデータが該当する。具体的には、人部位移動軌跡テーブル900の部位ID欄910、店内座標x欄915、店内座標y欄920、店内座標z欄925が該当する。動線データ欄1520、部位軌跡データ欄1525には、ベクトルデータの他に、時間情報(それらの行動を行うのに要した時間であり、その行動の速度を示すことになる)を記憶していてもよい。
【0041】
ステップS1306では、類似と判断する。
ステップS1308では、非類似と判断する。
ステップS1306、ステップS1308の判断結果が、
図12の例に示したフローチャートのステップS1206での判断に用いられる。
【0042】
図16は、本実施の形態による処理例を示すフローチャートである。
図13の例に示したフローチャートでは、人の特徴を用いたが、行動(動線、部位の軌跡)だけでブラックリスト内の行動に該当するか否かを判断するようにした処理例を示すものである。
ステップS1602では、ブラックリスト内の行動(動線、部位軌跡)に類似するか否かを判断し、類似する場合はステップS1604へ進み、それ以外の場合はステップS1606へ進む。
ステップS1604では、類似と判断する。
ステップS1606では、非類似と判断する。
ステップS1604、ステップS1606の判断結果が、
図12の例に示したフローチャートのステップS1206での判断に用いられる。
【0043】
図17は、通知のユーザーインタフェース例を示す説明図である。
警告モジュール140は、管理者等のユーザー端末に画面1700の内容を表示する。画面1700には、店舗400のレイアウトを表示し、そのレイアウト上に、顧客の動線を表示する。
図17の例では、3人の顧客1702、顧客1704、顧客1706がおり、その顧客の動線1712、動線1714、動線1716を示している。動線1712、動線1714は、一般的な行動(動線)であることを示しており、動線1716は、ブラックリストに登録されている行動と類似の行動を行っていることから警戒すべき行動であると分析される。そして、画面1700上の顧客1706、動線1716を、他の顧客、動線とは異なる形態(色、形状、文字等の付加、点滅等)で表示する。例えば、顧客1706、動線1716を赤色で表示する。また、店員等の確認によって盗難であると判明した場合は、顧客1706の画像から抽出した特徴(顔画像そのものであってもよい)、動線1716をブラックリストに登録する。
【0044】
図18は、本実施の形態による処理例(ブラックリストへの登録処理例)を示すフローチャートである。
ステップS1802では、特定動作の確認がとれたか否かを判断し、確認がとれた場合はステップS1804へ進み、それ以外の場合は処理を終了する(ステップS1899)。具体的には、警告モジュール140によって警告が表示され、店員等によって盗難であると判明した場合に、ステップS1804へ進むことになる。
ステップS1804では、その人の特徴データ、動線データ、人部位移動軌跡データ、顔移動軌跡データを抽出する。
ステップS1806では、ステップS1804で抽出したデータを、ブラックリストテーブル1400、行動テーブル1500に登録する。
以後、このブラックリストテーブル1400、行動テーブル1500を用いて、警戒すべき人物、行動を抽出して、警告を発することができるようになる。
【0045】
なお、本実施の形態(情報処理装置100、撮影装置150、カメラ360)としてのプログラムが実行されるコンピュータのハードウェア構成は、
図19に例示するように、一般的なコンピュータであり、具体的にはパーソナルコンピュータ、サーバーとなり得るコンピュータ等である。つまり、具体例として、処理部(演算部)としてCPU1901を用い、記憶装置としてRAM1902、ROM1903、HDD1904を用いている。HDD1904として、例えば、HDD(Hard Disk Driveの略)、フラッシュ・メモリであるSSD(Solid State Driveの略)等を用いてもよい。受付モジュール105、動線軌跡記憶モジュール110、動作検出モジュール120、行動分析モジュール135、警告モジュール140、ワイヤーフレームモジュール165、顔認識モジュール170、ワイヤーフレームモジュール265、顔認識モジュール270等のプログラムを実行するCPU1901と、そのプログラムやデータを記憶するRAM1902と、本コンピュータを起動するためのプログラム等が格納されているROM1903と、動線軌跡DB115、ブラックリストDB125、顔軌跡DB130等としての機能を有する補助記憶装置であるHDD1904と、キーボード、マウス、タッチスクリーン、マイク、カメラ(視線検知カメラ等を含む)等に対する利用者の操作(動作、音声、視線等を含む)に基づいてデータを受け付ける受付装置1906と、CRT、液晶ディスプレイ、スピーカー等の出力装置1905と、ネットワークインタフェースカード等の通信ネットワークと接続するための通信回線インタフェース1907、そして、それらをつないでデータのやりとりをするためのバス1908により構成されている。これらのコンピュータが複数台互いにネットワークによって接続されていてもよい。
【0046】
前述の実施の形態のうち、コンピュータ・プログラムによるものについては、本ハードウェア構成のシステムにソフトウェアであるコンピュータ・プログラムを読み込ませ、ソフトウェアとハードウェア資源とが協働して、前述の実施の形態が実現される。
なお、
図19に示すハードウェア構成は、1つの構成例を示すものであり、本実施の形態は、
図19に示す構成に限らず、本実施の形態において説明したモジュールを実行可能な構成であればよい。例えば、一部のモジュールを専用のハードウェア(例えば特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)や再構成可能な集積回路(field-programmable gate array:FPGA)等)で構成してもよく、一部のモジュールは外部のシステム内にあり通信回線で接続している形態でもよく、さらに
図19に示すシステムが複数互いに通信回線によって接続されていて互いに協調動作するようにしてもよい。また、特に、パーソナルコンピュータの他、携帯情報通信機器(携帯電話、スマートフォン、モバイル機器、ウェアラブルコンピュータ等を含む)、情報家電、ロボットなどに組み込まれていてもよい。
【0047】
前述の実施の形態においては、小売店の店舗に適用する場合を例示したが、他の施設における人の行動を分析するようにしてもよい。前述したように、例えば、病院、介護施設、スポーツ用施設等に、同様の方法で複数カメラを設置し、通院又は入院している患者、入所している利用者、観客等のブラックリストを生成し、他の患者、他の利用者、他の観客等への影響を防ぐようにしてもよい。
【0048】
なお、説明したプログラムについては、記録媒体に格納して提供してもよく、また、そのプログラムを通信手段によって提供してもよい。その場合、例えば、前記説明したプログラムについて、「プログラムを記録したコンピュータ読み取り可能な記録媒体」の発明として捉えてもよい。
「プログラムを記録したコンピュータ読み取り可能な記録媒体」とは、プログラムのインストール、実行、プログラムの流通等のために用いられる、プログラムが記録されたコンピュータで読み取り可能な記録媒体をいう。
なお、記録媒体としては、例えば、デジタル・バーサタイル・ディスク(DVD)であって、DVDフォーラムで策定された規格である「DVD-R、DVD-RW、DVD-RAM等」、DVD+RWで策定された規格である「DVD+R、DVD+RW等」、コンパクトディスク(CD)であって、読出し専用メモリ(CD-ROM)、CDレコーダブル(CD-R)、CDリライタブル(CD-RW)等、ブルーレイ・ディスク(Blu-ray(登録商標) Disc)、光磁気ディスク(MO)、フレキシブルディスク(FD)、磁気テープ、ハードディスク、読出し専用メモリ(ROM)、電気的消去及び書換可能な読出し専用メモリ(EEPROM(登録商標))、フラッシュ・メモリ、ランダム・アクセス・メモリ(RAM)、SD(Secure Digitalの略)メモリーカード等が含まれる。
そして、前記のプログラムの全体又はその一部は、前記記録媒体に記録して保存や流通等させてもよい。また、通信によって、例えば、ローカル・エリア・ネットワーク(LAN)、メトロポリタン・エリア・ネットワーク(MAN)、ワイド・エリア・ネットワーク(WAN)、インターネット、イントラネット、エクストラネット等に用いられる有線ネットワーク、又は無線通信ネットワーク、さらにこれらの組み合わせ等の伝送媒体を用いて伝送させてもよく、また、搬送波に乗せて搬送させてもよい。
さらに、前記のプログラムは、他のプログラムの一部分若しくは全部であってもよく、又は別個のプログラムと共に記録媒体に記録されていてもよい。また、複数の記録媒体に分割して記録されていてもよい。また、圧縮や暗号化等、復元可能であればどのような態様で記録されていてもよい。
【符号の説明】
【0049】
100…情報処理装置
105…受付モジュール
110…動線軌跡記憶モジュール
115…動線軌跡DB
120…動作検出モジュール
125…ブラックリストDB
130…顔軌跡DB
135…行動分析モジュール
140…警告モジュール
150…撮影装置
155…カメラ群
160…カメラ
165…ワイヤーフレームモジュール
170…顔認識モジュール
200…情報処理装置
265…ワイヤーフレームモジュール
270…顔認識モジュール
350…撮像モジュール
355…カメラ群
360…カメラ