IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ イオンディライト株式会社の特許一覧

特許7546035人物追跡システム、人物追跡サーバ装置、人物追跡方法
<>
  • 特許-人物追跡システム、人物追跡サーバ装置、人物追跡方法 図1
  • 特許-人物追跡システム、人物追跡サーバ装置、人物追跡方法 図2
  • 特許-人物追跡システム、人物追跡サーバ装置、人物追跡方法 図3
  • 特許-人物追跡システム、人物追跡サーバ装置、人物追跡方法 図4
  • 特許-人物追跡システム、人物追跡サーバ装置、人物追跡方法 図5
  • 特許-人物追跡システム、人物追跡サーバ装置、人物追跡方法 図6
  • 特許-人物追跡システム、人物追跡サーバ装置、人物追跡方法 図7
  • 特許-人物追跡システム、人物追跡サーバ装置、人物追跡方法 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-08-28
(45)【発行日】2024-09-05
(54)【発明の名称】人物追跡システム、人物追跡サーバ装置、人物追跡方法
(51)【国際特許分類】
   H04N 7/18 20060101AFI20240829BHJP
   G06T 7/292 20170101ALI20240829BHJP
   H04N 23/60 20230101ALI20240829BHJP
   H04N 23/63 20230101ALI20240829BHJP
【FI】
H04N7/18 D
G06T7/292
H04N7/18 F
H04N23/60 500
H04N23/63
【請求項の数】 4
(21)【出願番号】P 2022212198
(22)【出願日】2022-12-28
(65)【公開番号】P2024095137
(43)【公開日】2024-07-10
【審査請求日】2023-03-01
(73)【特許権者】
【識別番号】504303458
【氏名又は名称】イオンディライト株式会社
(74)【代理人】
【識別番号】100154014
【弁理士】
【氏名又は名称】正木 裕士
(74)【代理人】
【識別番号】100154520
【弁理士】
【氏名又は名称】三上 祐子
(72)【発明者】
【氏名】矢野 公嗣
【審査官】長谷川 素直
(56)【参考文献】
【文献】特開2005-012415(JP,A)
【文献】特開2016-063468(JP,A)
【文献】特開2015-019248(JP,A)
【文献】特開2020-102676(JP,A)
【文献】特開2007-142742(JP,A)
【文献】特開2015-019249(JP,A)
【文献】特開2008-141386(JP,A)
【文献】特開2004-187116(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
G08B 25/00
G06T 7/00
H04N 23/60
(57)【特許請求の範囲】
【請求項1】
サーバ装置と、端末装置と、施設内を撮像する複数の監視カメラと、が通信可能に接続された人物追跡システムであって、
前記サーバ装置は、
前記複数の監視カメラにて撮像された画像中の人物を検出する人物検出手段と、
前記人物検出手段により検出された人物ごとに、前記複数の監視カメラのうち当該人物を撮像した1の監視カメラと、当該人物が当該1の監視カメラに撮像された時間帯とを記憶する撮像内容記憶手段と、
前記端末装置から、前記複数の監視カメラのうち任意の監視カメラにて撮像された画像を用いて、追跡したい人物を指定することを受け付ける指定受付手段と、
前記指定受付手段にて前記追跡したい人物の指定を受け付けると、前記追跡したい人物が、前記任意の監視カメラにて撮像された画像中で移動した方向を取得する移動方向取得手段と、
前記追跡したい人物が移動した方向にある監視カメラを、表示すべき監視カメラと決定する表示監視カメラ決定手段と、
前記撮像内容記憶手段にて記憶する前記1の監視カメラが前記表示すべき監視カメラの場合、対応する前記時間帯に撮像される前記1の監視カメラの画像を取得し、取得できた前記表示すべき監視カメラの複数の画像を、前記時間帯に基づき、前記追跡したい人物が撮像されている可能性が高い画像ほど見やすい位置に配置して、前記端末装置に一覧表示する一覧表示手段と
を備える、人物追跡システム。
【請求項2】
さらに、前記サーバ装置は、
前記一覧表示手段は、前記撮像内容記憶手段にて記憶する前記1の監視カメラが前記表示すべき監視カメラの場合であっても、前記指定受付手段で用いた任意の監視カメラから所定距離内にない監視カメラの画像は表示させない
請求項1に記載の人物追跡システム。
【請求項3】
複数の監視カメラにて撮像された画像中の人物を検出する人物検出手段と、
前記人物検出手段により検出された人物ごとに、前記複数の監視カメラのうち当該人物を撮像した1の監視カメラと、当該人物が当該1の監視カメラに撮像された時間帯とを記憶する撮像内容記憶手段と、
末装置から、前記複数の監視カメラのうち任意の監視カメラにて撮像された画像を用いて、追跡したい人物を指定することを受け付ける指定受付手段と、
前記指定受付手段にて前記追跡したい人物の指定を受け付けると、前記追跡したい人物が、前記任意の監視カメラにて撮像された画像中で移動した方向を取得する移動方向取得手段と、
前記追跡したい人物が移動した方向にある監視カメラを、表示すべき監視カメラと決定する表示監視カメラ決定手段と、
前記撮像内容記憶手段にて記憶する前記1の監視カメラが前記表示すべき監視カメラの場合、対応する前記時間帯に撮像される前記1の監視カメラの画像を取得し、取得できた前記表示すべき監視カメラの複数の画像を、前記時間帯に基づき、前記追跡したい人物が撮像されている可能性が高い画像ほど見やすい位置に配置して、前記端末装置に一覧表示する一覧表示手段と、
を備える、人物追跡サーバ装置。
【請求項4】
所定の装置によって処理される人物追跡方法であって、
複数の監視カメラにて撮像された画像中の人物を検出するステップと、
前記検出された人物ごとに、前記複数の監視カメラのうち当該人物を撮像した1の監視カメラと、当該人物が当該1の監視カメラに撮像された時間帯とを記憶するステップと、
末装置から、前記複数の監視カメラのうち任意の監視カメラにて撮像された画像を用いて、追跡したい人物を指定することを受け付けるステップと、
記追跡したい人物が、前記任意の監視カメラにて撮像された画像中で移動した方向を取得するステップと、
前記追跡したい人物が移動した方向にある監視カメラを、表示すべき監視カメラと決定するステップと、
前記記憶する前記1の監視カメラが前記表示すべき監視カメラの場合、対応する前記時間帯に撮像される前記1の監視カメラの画像を取得し、取得できた前記表示すべき監視カメラの複数の画像を、前記時間帯に基づき、前記追跡したい人物が撮像されている可能性が高い画像ほど見やすい位置に配置して、前記端末装置に一覧表示するステップと、
を備える、人物追跡方法
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、人物追跡システム、人物追跡サーバ装置、人物追跡方法に関する。
【背景技術】
【0002】
ショッピングセンター、娯楽施設、オフィス等の商業施設や、学校、空港、道路等の公共施設などの、様々な施設内に設置された複数の監視カメラの画像から、特定の人物の画像を検索し、検索できた画像を時系列につなぎ合わせ、その人物の行動を追跡する人物追跡システムへのニーズが高まっている。
【0003】
このような人物追跡システムでは、まず、予め、監視カメラが撮像した人物の特徴量(例えば、顔の画像から得られる顔画像特徴量、人体の画像から得られる人体画像特徴量)が、撮像した日時やカメラと対応付けて記憶され、データベース化されている。
【0004】
そして、例えば不審者などの行動を追跡するにあたり、その不審者の顔や全身の画像を入力すると、その画像から特徴量を算出し、近似する特徴量を備えるレコードを、上記のデータベースから検索する。そして、検索できたレコードに記憶されたカメラが、記憶された撮像日時に撮像した画像を画像記録装置から読み出す、というものである(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0005】
【文献】特開2022-093550号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
特許文献1のような画像検索システムでは、不審者の画像から得られる特徴量と近似するものを、データベース化された特徴量から検索すれば、その不審者が撮像されたカメラや撮像日時を知ることができる。これにより、人物の追跡が容易となる。
【0007】
しかし、その一方で、同じ人物を撮像した画像であっても、撮像した場所が違うと、照明の違い等により特徴量が異なってしまうため、特徴量が近似する画像だけを確認しても、追跡したい不審者が見つからないことが多い。このために、結局は、特徴量の一致度が低い多くの画像を目で見て、不審者が撮像されているかどうかを確認しなければならず、特にカメラの台数が多い場合には、追跡が困難であるという問題があった。
【0008】
そこで、本発明は、上記問題に鑑み、特徴量の一致度が低い場合でも、人物追跡をより容易に行える人物追跡システムを提供することを目的としている。
【課題を解決するための手段】
【0009】
上記本発明の目的は、以下の手段によって達成される。なお、括弧内は、後述する実施形態の参照符号を付したものであるが、本発明はこれに限定されるものではない。
【0010】
請求項1に記載の、人物追跡システムは、
サーバ装置(例えば図1に示すサーバ装置4)と、端末装置(例えば図1に示す端末装置5)と、施設(例えば図1に示す施設F)内を撮像する複数の監視カメラ(例えば図1に示す監視カメラ2a~2e)と、が通信可能に接続された人物追跡システム(例えば図1に示す人物追跡システム1)であって、
前記サーバ装置(例えば図1に示すサーバ装置4)は、
前記複数の監視カメラ(例えば図1に示す監視カメラ2a~2e)にて撮像された画像(例えば図5(a)に示すフレーム画像2a1)中の人物(例えば図5(a)に示す人物P)を検出する人物検出手段(例えば図4に示すステップS2、ステップS3)と、
前記人物検出手段(例えば図4に示すステップS2、ステップS3)により検出された人物(例えば図5(a)に示す人物P)ごとに、前記複数の監視カメラ(例えば図1に示す監視カメラ2a~2e)のうち当該人物を撮像した1の監視カメラ(例えば図3に示す監視カメラtbl_RECd)と、当該人物が当該1の監視カメラに撮像された時間帯(例えば図3に示す検出日時tbl_RECc)とを記憶する撮像内容記憶手段(例えば図1に示す撮像内容記憶部42c)と、
前記端末装置(例えば図1に示す端末装置5)から、前記複数の監視カメラ(例えば図1に示す監視カメラ2a~2e)のうち任意の監視カメラにて撮像された画像(例えば図7(a)に示す監視カメラ2aにて撮像された画像61b)を用いて、追跡したい人物(例えば図7(a)に示す人物P)を指定することを受け付ける指定受付手段(例えば図6に示すステップS113)と、
前記指定受付手段(例えば図6に示すステップS113)にて前記追跡したい人物(例えば図7(a)に示す人物P)の指定を受け付けると、前記追跡したい人物(例えば図7(a)に示す人物P)が、前記任意の監視カメラにて撮像された画像中で移動した方向(例えば図3に示す撮像内容記憶テーブルtbl_RECのレコードRec2の移動情報フィールドtbl_RECgに記憶される「左」)を取得する移動方向取得手段(例えば図6に示すステップS115-1)と、
前記追跡したい人物(例えば図7(a)に示す人物P)が移動した方向(例えば図3に示す撮像内容記憶テーブルtbl_RECのレコードRec2の移動情報フィールドtbl_RECgに記憶される「左」)にある監視カメラ(例えば図1に示す監視カメラ2b)を、表示すべき監視カメラと決定する表示監視カメラ決定手段(例えば図6に示すステップS115-2)と、
前記撮像内容記憶手段(例えば図1に示す撮像内容記憶部42c)にて記憶する前記1の監視カメラ(例えば図3に示す監視カメラtbl_RECd)が前記表示すべき監視カメラ(例えば図1に示す監視カメラ2b)の場合、対応する前記時間帯(例えば図3に示す検出日時tbl_RECc)に撮像される前記1の監視カメラ(例えば図1に示す監視カメラ2b)の画像を取得し、取得できた前記表示すべき監視カメラの複数の画像(例えば図7に示す画像62a3、62b3、62b4)を、前記時間帯に基づき、前記追跡したい人物(例えば図7(a)に示す人物P)が撮像されている可能性が高い画像ほど見やすい位置に配置して、前記端末装置(例えば図1に示す端末装置5)に一覧表示する一覧表示手段(例えば図6に示すステップS115-3、S117)と
を備えることを特徴とする。
【0011】
請求項2に記載の人物追跡システムは、上記請求項1に記載の人物追跡システムにおいて
前記一覧表示手段(例えば図6に示すステップS115-3、S117)は、前記撮像内容記憶手段(例えば図1に示す撮像内容記憶部42c)にて記憶する前記1の監視カメラ(例えば図3に示す監視カメラtbl_RECd)が前記表示すべき監視カメラ(例えば図1に示す監視カメラ2b)の場合であっても、前記指定受付手段で用いた任意の監視カメラ(例えば図1に示す監視カメラ2a)から所定距離内にない監視カメラの画像は表示させないことを特徴とする。
【0012】
請求項3に記載の、人物追跡サーバ装置は、
複数の監視カメラ(例えば図1に示す監視カメラ2a~2e)にて撮像された画像(例えば図5(a)に示すフレーム画像2a1)中の人物(例えば図5(a)に示す人物P)を検出する人物検出手段(例えば図4に示すステップS2、ステップS3)と、
前記人物検出手段(例えば図4に示すステップS2、ステップS3)により検出された人物(例えば図5(a)に示す人物P)ごとに、前記複数の監視カメラ(例えば図1に示す監視カメラ2a~2e)のうち当該人物を撮像した1の監視カメラ(例えば図3に示す監視カメラtbl_RECd)と、当該人物が当該1の監視カメラに撮像された時間帯(例えば図3に示す検出日時tbl_RECc)とを記憶する撮像内容記憶手段(例えば図1に示す撮像内容記憶部42c)と、
末装置(例えば図1に示す端末装置5)から、前記複数の監視カメラ(例えば図1に示す監視カメラ2a~2e)のうち任意の監視カメラにて撮像された画像(例えば図7(a)に示す監視カメラ2aにて撮像された画像61b)を用いて、追跡したい人物(例えば図7(a)に示す人物P)を指定することを受け付ける指定受付手段(例えば図6に示すステップS113)と、
前記指定受付手段(例えば図6に示すステップS113)にて前記追跡したい人物(例えば図7(a)に示す人物P)の指定を受け付けると、前記追跡したい人物(例えば図7(a)に示す人物P)が、前記任意の監視カメラにて撮像された画像中で移動した方向(例えば図3に示す撮像内容記憶テーブルtbl_RECのレコードRec2の移動情報フィールドtbl_RECgに記憶される「左」)を取得する移動方向取得手段(例えば図6に示すステップS115-1)と、
前記追跡したい人物(例えば図7(a)に示す人物P)が移動した方向(例えば図3に示す撮像内容記憶テーブルtbl_RECのレコードRec2の移動情報フィールドtbl_RECgに記憶される「左」)にある監視カメラ(例えば図1に示す監視カメラ2b)を、表示すべき監視カメラと決定する表示監視カメラ決定手段(例えば図6に示すステップS115-2)と、
前記撮像内容記憶手段(例えば図1に示す撮像内容記憶部42c)にて記憶する前記1の監視カメラ(例えば図3に示す監視カメラtbl_RECd)が前記表示すべき監視カメラ(例えば図1に示す監視カメラ2b)の場合、対応する前記時間帯(例えば図3に示す検出日時tbl_RECc)に撮像される前記1の監視カメラ(例えば図1に示す監視カメラ2b)の画像を取得し、取得できた前記表示すべき監視カメラの複数の画像(例えば図7に示す画像62a3、62b3、62b4)を、前記時間帯に基づき、前記追跡したい人物(例えば図7(a)に示す人物P)が撮像されている可能性が高い画像ほど見やすい位置に配置して、前記端末装置(例えば図1に示す端末装置5)に一覧表示する一覧表示手段(例えば図6に示すステップS115-3、S117)と
を備えることを特徴とする。
【0013】
請求項4に記載の、人物追跡方法は、
所定の装置によって処理される人物追跡方法であって、
複数の監視カメラ(例えば図1に示す監視カメラ2a~2e)にて撮像された画像(例えば図5(a)に示すフレーム画像2a1)中の人物(例えば図5(a)に示す人物P)を検出するステップ(例えば図4に示すステップS2、ステップS3)と、
前記人物検出手段(例えば図4に示すステップS2、ステップS3)により検出された人物(例えば図5(a)に示す人物P)ごとに、前記複数の監視カメラ(例えば図1に示す監視カメラ2a~2e)のうち当該人物を撮像した1の監視カメラ(例えば図3に示す監視カメラtbl_RECd)と、当該人物が当該1の監視カメラに撮像された時間帯(例えば図3に示す検出日時tbl_RECc)とを記憶するステップ(例えば図1に示す撮像内容記憶部42c参照)と、
末装置(例えば図1に示す端末装置5)から、前記複数の監視カメラ(例えば図1に示す監視カメラ2a~2e)のうち任意の監視カメラにて撮像された画像(例えば図7(a)に示す監視カメラ2aにて撮像された画像61b)を用いて、追跡したい人物(例えば図7(a)に示す人物P)を指定することを受け付けるステップ(例えば図6に示すステップS113)と、
前記追跡したい人物(例えば図7(a)に示す人物P)が、前記任意の監視カメラにて撮像された画像中で移動した方向(例えば図3に示す撮像内容記憶テーブルtbl_RECのレコードRec2の移動情報フィールドtbl_RECgに記憶される「左」)を取得するステップ(例えば図6に示すステップS115-1)と、
前記追跡したい人物(例えば図7(a)に示す人物P)が移動した方向(例えば図3に示す撮像内容記憶テーブルtbl_RECのレコードRec2の移動情報フィールドtbl_RECgに記憶される「左」)にある監視カメラ(例えば図1に示す監視カメラ2b)を、表示すべき監視カメラと決定するステップ
(例えば図6に示すステップS115-2)と、
前記記憶する前記1の監視カメラ(例えば図3に示す監視カメラtbl_RECd)が前記表示すべき監視カメラ(例えば図1に示す監視カメラ2b)の場合、対応する前記時間帯(例えば図3に示す検出日時tbl_RECc)に撮像される前記1の監視カメラ(例えば図1に示す監視カメラ2b)の画像を取得し、取得できた前記表示すべき監視カメラの複数の画像(例えば図7に示す画像62a3、62b3、62b4)を、前記時間帯に基づき、前記追跡したい人物(例えば図7(a)に示す人物P)が撮像されている可能性が高い画像ほど見やすい位置に配置して、前記端末装置(例えば図1に示す端末装置5)に一覧表示するステップ(例えば図6に示すステップS115-3、S117)と
を備えることを特徴とする。
【発明の効果】
【0014】
次に、本発明の効果について、図面の参照符号を付して説明する。なお、括弧内は、後述する実施形態の参照符号を付したものであるが、本発明はこれに限定されるものではない。
【0015】
請求項1、3に係る発明によれば、サーバ装置(例えば図1に示すサーバ装置4)は、監視カメラ(例えば図1に示す監視カメラ2a~2e)にて撮像された画像(例えば図5(a)に示すフレーム画像2a1)にて検出された人物(例えば図5(a)に示す人物P)ごとに、その人物を撮像した監視カメラと、撮像した時間帯を記憶しておく。一方、使用者は、人物の検出がされた画像(例えば図5(a)に示すフレーム画像2a1)を用いて、追跡したい人物(例えば図5(a)に示す人物P)を指定する。追跡したい人物の指定を端末装置(例えば図1に示す端末装置5)から受け付けると、サーバ装置(例えば図1に示すサーバ装置4)は、その人物が画像中を移動した方向を取得し(例えば図3に示す撮像内容記憶テーブルtbl_RECのレコードRec2の移動情報フィールドtbl_RECgに記憶される「左」を読み出す)、さらに、その移動した方向に設置されている監視カメラ(例えば図1に示す監視カメラ2b)を決定する。その人物の移動した方向に設置されている監視カメラには、その人物が映っている可能性が高いため、この監視カメラ(例えば図1に示す監視カメラ2b)を、表示すべき監視カメラと決定する。
【0016】
そして、端末装置(例えば図1に示す端末装置5)に、追跡したい人物(例えば図5(a)に示す人物P)が撮像されている可能性のある画像の一覧(例えば図7に示す過去時間候補一覧62a、未来時間候補一覧62b)を表示させるにあたっては、検出された人物ごとに記憶されている、その人物を撮像した監視カメラと、撮像した時間帯に基づき、表示すべき監視カメラの複数の画像(例えば図7に示す画像62a3、62b3、62b4)の一覧を表示させる。
【0017】
これにより、使用者は、特徴量の一致度が低い画像であっても、追跡したい人物(例えば図5(a)に示す人物P)が映っている可能性が高い画像を確認することができる。もって、特徴量の一致度が低い場合でも、人物追跡をより容易に行うことができる。
【0018】
請求項2に係る発明によれば、使用者が追跡したい人物(例えば図5(a)に示す人物P)を指定するのに用いた画像(例えば図5(a)に示すフレーム画像2a1)から所定距離内にある監視カメラの画像(例えば図8(a)に示す画像65a6、画像65a7)のみを表示させる。
【0019】
人物Pを撮像した監視カメラから所定距離内にある監視カメラの画像のみを表示させると、表示される画像の数が限定されるから、追跡したい人物(例えば図5(a)に示す人物P)を見つけることがより容易になる。このため、追跡したい人物(例えば図5(a)に示す人物P)が映っている可能性が高い画像を見つけやすくなる。
【0020】
請求項4に係る発明によれば、監視カメラ(例えば図1に示す監視カメラ2a~2e)にて撮像された画像(例えば図5(a)に示すフレーム画像2a1)にて検出された人物(例えば図5(a)に示す人物P)ごとに、その人物を撮像した監視カメラと、撮像した時間帯が記憶される。一方、使用者は、人物の検出がされた画像(例えば図5(a)に示すフレーム画像2a1)を用いて、追跡したい人物(例えば図5(a)に示す人物P)を指定すると、その人物が画像中を移動した方向が取得され(例えば図3に示す撮像内容記憶テーブルtbl_RECのレコードRec2の移動情報フィールドtbl_RECgに記憶される「左」を読み出す)、さらに、その移動した方向に設置されている監視カメラ(例えば図1に示す監視カメラ2b)が決定される。その人物の移動した方向に設置されている監視カメラには、その人物が映っている可能性が高いため、この監視カメラ(例えば図1に示す監視カメラ2b)が、表示すべき監視カメラと決定される。
【0021】
そして、使用者は、追跡したい人物(例えば図5(a)に示す人物P)が撮像されている可能性のある画像の一覧(例えば図7に示す過去時間候補一覧62a、未来時間候補一覧62b)として、検出された人物ごとに記憶されている、その人物を撮像した監視カメラと、撮像した時間帯に基づき、表示すべき監視カメラ(例えば図1に示す監視カメラ2b)の複数の画像(例えば図7に示す画像62a3、62b3、62b4)の一覧を閲覧することができる。
【0022】
これにより、使用者は、特徴量の一致度が低い画像であっても、追跡したい人物(例えば図5(a)に示す人物P)が映っている可能性が高い画像を確認することができる。もって、特徴量の一致度が低い場合でも、人物追跡をより容易に行うことができる。
【図面の簡単な説明】
【0023】
図1】本発明の一実施形態に係る人物追跡システムの全体構成を示す図である。
図2】同実施形態にかかる人物追跡システムで使用される設定テーブルの一例であって、(a)は1つの監視カメラに対する他の監視カメラがどの方向に設置されているかを記憶する監視カメラ方向記憶テーブルtbl_HOKO、(b)は1つの監視カメラ間の距離を記憶するカメラ間距離記憶テーブルtbl_KYORIを示す図である。
図3】サーバ装置で蓄積される撮像内容記憶テーブルtbl_RECを示す図である。
図4】監視カメラが撮像した画像に基づき、図3に示す撮像内容記憶テーブルtbl_RECを生成する処理の一例を示すフローチャートである。
図5図4に示す処理において、監視カメラが撮像した画像中の人物が移動する方向を説明するための説明図である。
図6】端末装置を用いて、使用者が、所定の人物の追跡を行うための処理の一例を示すフローチャートである。
図7】端末装置の表示部に表示される画面の一例であって、(a)は追跡したい人物を指定するための画面、(b)は、追跡したい人物が撮像される他の画像を指定するための画面である。
図8】端末装置の表示部に表示される画面の一例であって、(a)は図7(b)において、検索条件を変更した時の状態を示す図、(b)は、使用者によって、追跡したい人物が撮像されていると判断された画像が、時系列に表示される画面である。
【発明を実施するための形態】
【0024】
以下、本発明に係る人物追跡システムの一実施形態を、図面を参照して具体的に説明する。なお、以下の説明において、上下左右の方向を示す場合は、図示正面から見た場合の上下左右をいうものとする。
【0025】
<人物追跡システムの概要説明>
人物追跡システムは、本実施形態においては、図1に示すように、施設Fに設置される監視カメラ2a~2eと、画像記憶装置3と、サーバ装置4と、端末装置5と、から構成される。
【0026】
ここで、本実施形態に係る人物追跡システムの使用方法について、図1を用いて簡単に説明する。
【0027】
まず、サーバ装置4は、監視カメラ2a~2eの撮像した画像を、画像記憶装置3から取得し、人物を検出する。そして、その人物の特徴量と、その画像の撮像日時および監視カメラ2a~2eのどの監視カメラが撮像したものか、さらに、その人物が画像中でどの方向に移動したかを図3に示す撮像内容記憶テーブルtbl_RECにデータベース化しておく。
【0028】
次に、施設Fの警備員などが、特定の人物の過去の行動を追跡するために、端末装置5を用いて、監視カメラ2a~2eの撮像した画像を端末装置5に表示させる(図7(a)参照)。そして、撮像されている人物P(図7(a)参照)をクリック等し、追跡したい人物を指定する。
【0029】
サーバ装置4は、上記の指定を受け、追跡したい人物として指定された人物(図7(a)参照)が、画像(図7(a)参照)中をどの方向に移動したかを、図3に示す撮像内容記憶テーブルtbl_RECから読み出す。そして、その方向に設置される監視カメラを、図2(a)に示す監視カメラ方向記憶テーブルtbl_HOKOから特定する。その方向に設置されている監視カメラには、その追跡したい人物が映っている可能性が高いため、この監視カメラを、表示すべき監視カメラと決定する。そして、その表示すべき監視カメラの画像を表示させた一覧を、人物Pが撮像されている可能性がある画像の一覧として、端末装置5に表示させる。
【0030】
これにより、使用者は、人物Pが撮像されている画像が容易に確認できることとなる。
【0031】
本実施形態に係る人物追跡システムは、簡単に説明すると以上のように使用される。以下、人物追跡システムを構成する各機器について説明する。
【0032】
<監視カメラの説明>
監視カメラ2a~2eは、画像を撮像し、有線又は無線の通信回路を介し、撮像した画像を画像記憶装置3に送信するものである。なお、このような撮像や画像記憶装置3への送信は、監視カメラ2a~2eの設定等に従い、常時、あるいは定期的に行う。
【0033】
<画像記憶装置の説明>
画像記憶装置3は、通信部30、演算部31、画像記憶部32を備える。画像記憶装置3の演算部31は、監視カメラ2a~2eから通信部30を介して撮像画像を受信し、画像記憶部32に記憶する。
【0034】
<サーバ装置の説明>
サーバ装置4は、図1に示すように、CPU40と、無線LAN,有線LAN,ダイヤルアップ等の通信手段でネットワークNに接続が可能な通信部41と、大容量のハードディスク装置等からなり、種々のデータを記憶する記憶部42と、作業領域やバッファメモリ等として機能するRAM43と、を備える。
【0035】
ここで、サーバ装置4の記憶部42の監視カメラ方向記憶部42aが保持する監視カメラ方向記憶テーブルtbl_HOKO(図2(a)参照)、監視カメラ間距離記憶部42bが保持するカメラ間距離記憶テーブルtbl_KYORI(図2(b)参照)、撮像内容記憶部42cが保持する撮像内容記憶テーブルtbl_REC(図3参照)について説明する。
【0036】
まず、図1に示す監視カメラ方向記憶部42aが保持する監視カメラ方向記憶テーブルtbl_HOKOについて、図2(a)を用いて説明する。監視カメラ方向記憶テーブルtbl_HOKOは、図2(a)に示すように、監視カメラ2a~2eの各監視カメラについて、自己を基準としたときの他の監視カメラの方向を記憶する。より具体的には、監視カメラ方向記憶テーブルtbl_HOKOは、監視カメラ2a~2e(図1参照)を一意的に識別する監視カメラ名フィールドtbl_HOKOaと、その監視カメラを基準としたときの上下左右方向にある他の監視カメラ名を記憶する上フィールドtbl_HOKOb、下フィールドtbl_HOKOc、左フィールドtbl_HOKOd、および右フィールドtbl_HOKOeで構成される。
【0037】
ここで、「上下左右方向」について、図5(a)を用いて説明する。図5(a)のフレーム画像2a1は、監視カメラ2aが撮像した画像を構成するフレーム画像の1つである。そして、監視カメラ2aを基準としたときの「上方向」とは、監視カメラ2aが撮像するフレーム画像2a1内を人物がフレーム画像2a1の上側辺Uに向かって移動する方向をいう。同様に、監視カメラ2aを基準としたときの「下方向」「左方向」「右方向」とは、監視カメラ2aが撮像するフレーム画像2a1内を人物がフレーム画像2a1の下側辺D、左側辺L、右側辺Rに向かって移動する方向をいう。
【0038】
このような監視カメラ方向記憶テーブルtbl_HOKOにおいて、次のようにして情報を記憶する。すなわち、監視カメラ名フィールドtbl_HOKOaが「監視カメラ2a」のレコードを例に説明すると、監視カメラ2aを基準としたときの上方向にある監視カメラは監視カメラ2cであるため、上フィールドtbl_HOKObには「監視カメラ2c」が記憶される。同様にして、監視カメラ2aを基準としたときの下方向、左方向、右方向にある監視カメラは各々、監視カメラ2e、監視カメラ2b、監視カメラ2dであることが、下フィールドtbl_HOKOc、左フィールドtbl_HOKOd、右フィールドtbl_HOKOeに記憶される。
【0039】
なお、監視カメラ方向記憶テーブルtbl_HOKOは、監視カメラ2a~2e(図1参照)を設置・移動させる際に、手動で記憶すればよい。
【0040】
次に、図1に示す監視カメラ間距離記憶部42bが保持するカメラ間距離記憶テーブルtbl_KYORIについて、図2(b)を用いて説明する。カメラ間距離記憶テーブルtbl_KYORIは、図2(b)に示すように、監視カメラ2a~2e(図1参照)の各監視カメラと他の監視カメラとの距離を記憶する。より具体的には、カメラ間距離記憶テーブルtbl_KYORIは、監視カメラ2a~2e(図1参照)を一意的に識別する監視カメラ名tbl_KYORIaと、その監視カメラと他の監視カメラとの距離を記憶する監視カメラ2a~2eとの距離tbl_KYORIb~tbl_KYORIfで構成される。
【0041】
このようなカメラ間距離管理テーブルtbl_KYORIにおいて、次のようにして情報を記憶する。すなわち、監視カメラ名tbl_KYORIaが「監視カメラ2a」のレコードを例に説明すると、監視カメラ2aから監視カメラ2bまでの距離が3メートルであるため、監視カメラ2bとの距離フィールドtbl_KYORIcには「3メートル」が記憶される。同様にして、監視カメラ2aからその他の監視カメラ2c~2eまでの距離が監視カメラ2c~2eとの距離フィールドtbl_KYORId~tbl_KYORIfに記憶される。なお、監視カメラ名tbl_KYORIaが「監視カメラ2a」のレコードにおいては、監視カメラ2aとの距離tbl_KYORIbは自分自身との距離となってしまうため、値は記憶しない。
【0042】
なお、カメラ間距離記憶テーブルtbl_KYORIも、監視カメラ2a~2e(図1参照)を設置・移動させる際に、手動で記憶すればよい。
【0043】
最後に、撮像内容記憶部42cが保持する撮像内容記憶テーブルtbl_RECについて、図3を用いて説明する。撮像内容記憶テーブルtbl_RECは、図3に示すように、画像記憶装置3に記憶されている監視カメラ2a~2e(図1参照)にて撮像された画像中にて検出された人物についての情報と、その人物が当該画像中で移動した方向等の移動に関する情報などが記憶されている。より具体的には、撮像内容記憶テーブルtbl_RECは、各レコードを一意的に識別する記憶IDフィールドtbl_RECaと、検出された人物が、すでに検出された人物と同じと思われる場合に共通して付される人物IDフィールドtbl_RECbと、その人物が検出されたときの撮像日時を記憶する検出日時フィールドtbl_RECcと、その映像を撮像したカメラを一意的に識別する監視カメラ名フィールドtbl_RECdと、その人物を識別する特徴量を記憶する複数のフィールドである人物識別特徴情報フィールド群tbl_RECeと、その人物の着衣に関する情報を記憶する複数のフィールドである着衣特徴情報フィールド群tbl_RECfと、、検出された人物がその画像内で移動した方向を記憶する移動情報フィールドtbl_RECgと、検出された人物がその画像内(その監視カメラの撮像範囲内)にとどまっていた時間を記憶する滞留時間フィールドtbl_REChで構成される。
【0044】
なお、人物識別特徴情報フィールド群tbl_RECeには、図示しないが、顔特徴、年齢、性別、歩行姿勢、生体情報、身長、体形、髪型、髪色等を記憶する複数のフィールドが含まれる。また、着衣特徴情報フィールド群tbl_RECfには、図示しないが、マスクの有無、マスクの色、靴の種類、靴の色、手荷物の有無、手荷物の種類等を記憶する複数のフィールドが含まれる。
【0045】
なお、撮像内容記憶テーブルtbl_RECは、監視カメラが撮像した画像に基づき、サーバ装置4が生成する。この処理については、後述する。
【0046】
<端末装置の説明>
端末装置5は、PC(Personal Computer)、又はiphone(登録商標)等のスマートフォンや携帯電話等で構成されてなるもので、図1に示すように、CPU5aと、マウスやキーボード、タッチパネル、或いは、USBコネクタ、Lightningコネクタ等を用いて外部から所定データを端末装置5に入力することができる入力部5bと、所定のアプリケーションプログラム等を格納した書込み可能なフラッシュROM等からなるROM5cと、作業領域やバッファメモリ等として機能するRAM5dと、種々の情報を表示可能な表示部5eと、無線LAN,有線LAN,ダイヤルアップ等の通信手段でネットワークNに接続が可能な通信部5fと、で構成されている。
【0047】
なお、端末装置5は、施設Fの警備員などが、画像記憶装置3に記憶された画像から不審者などの人物を追跡するにあたり、サーバ装置4に追跡したい人物の指定を送信したり、サーバ装置4の処理結果を表示させたりするのに用いられる。
【0048】
<人物追跡システムの使用例の説明>
ここで、上記のように構成される、人物追跡システムの使用例について、具体的に説明する。まずは、サーバ装置4が、監視カメラが撮像した画像に基づき、図3に示す撮像内容記憶テーブルtbl_RECを生成する処理について、図4を用いて説明する。そして、次に、使用者が端末装置5を用いて人物追跡を行う方法を、図6を参照して説明する。なお、以下の内容はあくまで一例であり、これに限定されるものではない。
【0049】
<撮像内容記憶テーブルへの情報の蓄積の説明>
まず、図4を参照し、撮像内容記憶テーブルtbl_REC(図3参照)を生成する処理について説明する。
【0050】
最初に、サーバ装置4のCPU40(以下、サーバ装置4と省略することがある)は、監視カメラ2a~2e(図1参照)の画像を受信する(ステップS1)。具体的には、サーバ装置4は、通信部41(図1参照)を介して、画像記憶装置3の画像記憶部32に記憶されている監視カメラ2a~2eのうち1つの監視カメラ、例えば監視カメラ2aの画像を、所定時間(例えば1分)分受信する。そして、受信した画像から、フレームを間引いて所定のフレームレート(例えば5fps)に落として、複数のフレーム画像を生成し、一時的にRAM43に記憶する。
【0051】
なお、図5(a)、(b)に示すフレーム画像2a1、2a2は、上記のようにしてRAM432一次保存されるフレーム画像の一例である。なお、サーバ装置4は、フレーム画像ごとにステップS2~S9の処理を行う(図4に示すステップS10参照)。そのため、以下、サーバ装置4が、最初にフレーム画像2a1についてステップS2~S9の処理を行う場合について説明する。
【0052】
次に、サーバ装置4は、ステップS1にて得られたフレーム画像2a1(図5参照)から、人物を検出し(ステップS2)、検出した人物に検出枠(バウンディングボックス)を設定する。この動作は、例えば、Openposeなどの深層ネットワークモデルを用いてフレーム画像2a1に写っている人物P(図5(a)参照)の骨格を推定し、その骨格を内包する矩形を検出枠(図5(a)参照)とするなど、公知の技術を適宜に用いて構成することができるため、詳細な説明は省略する。
【0053】
次に、サーバ装置4は、人物Pの特徴量を決定する(ステップS3)。具体的には、フレーム画像2a1(図5(a)参照)から検出された人物P(図5(a)参照)の、顔特徴、年齢、性別、歩行姿勢、生体情報、身長、体形、髪型、髪色等といった、人物Pを識別する特徴量、および、マスクの有無、マスクの色、靴の種類、靴の色、手荷物の有無、手荷物の種類といった人物Pの着衣等に関する特徴量を決定する。このような特徴量の決定は、事前に学習したモデルを用いるなど、公知の技術を適宜に用いて構成することができるため、詳細な説明は省略する。
【0054】
次に、サーバ装置4は、人物Pの移動情報を決定する(ステップS5)。このステップにおいては、サーバ装置4は、フレーム画像2a1(図5(a)参照)のみならず、それ以降のフレーム画像(例えばフレーム画像2a2(図5(b)参照))も参照し、フレーム画像2a1にて検出された人物Pがどの方向に移動したかを抽出する。
【0055】
ここで、移動した方向を抽出する方法を、以下、図5を用いて説明する。図5(a)に示すとおり、フレーム画像2a1には、人物Pに検出枠Paが設定されている。そこで、サーバ装置4は、人物Pの移動の方向を抽出するために、一時的に記憶されているフレーム画像2a1の後のフレーム画像2a2(図5(b)参照)を参照する。そして、同じ人物Pと判断できる人物が、左側L方向に移動していることから、サーバ装置4は、人物Pは左側L方向へ移動した、と決定する。
【0056】
なお、人物Pが撮像されているフレーム画像が3枚以上連続する場合、すなわちフレーム画像2a2の後にも人物Pが撮像されているフレーム画像がある場合、連続するフレーム画像の最後のフレーム画像における人物Pの移動方向に、人物Pは移動した、と決定する。
【0057】
また、この時、移動した方向の決定に使用したフレーム画像の枚数から、滞留時間フィールドtbl_REChに記憶する滞留時間(監視カメラ2aの撮像範囲内にとどまった時間)も決定することができる。例えば、フレームレートが5fpsで、移動した方向の決定に使用したフレーム画像が5枚であれば1秒と決定することができる。
【0058】
次に、サーバ装置4は、人物Pの特徴量から、人物Pが新たに撮像内容記憶テーブルtbl_REC(図3参照)に登録したことのある人物かどうかを判断する(ステップS6)。具体的には、さきほど取得した人物Pの特徴量と一致あるいは近似する特徴量を備えるレコードを、図3に示す撮像内容記憶テーブルtbl_RECで検索する。
【0059】
そのようなレコードが見つかれば、人物Pはすでに撮像内容記憶テーブルtbl_REC(図3参照)に登録したことがある人物と判断し(ステップS6:Yes)、そのレコードと同じ人物IDを付与して、撮像内容記憶テーブルtbl_REC(図3参照)に人物Pの特徴量、移動情報等を記憶する(ステップS7)。
【0060】
一方、そのようなレコードがなかったら、人物Pは新規に登録する人物であると判断し(ステップS6:No)、新規の人物IDを付与して、撮像内容記憶テーブルtbl_REC(図3参照)に人物Pの特徴量、移動情報、等を記憶する(ステップS8)。
【0061】
ここで、人物Pは今回新規に記憶する人物であると判断されたため(ステップS6:No)、人物ID「2」を新規に付与され、レコードRec2として記憶されている。また、さきほど人物Pは左側L方向へ移動した、と決定したため、レコードRec2の移動情報フィールドtbl_RECg(図3参照)には、「左」が記憶されている。
【0062】
上記のようにして、サーバ装置4は、フレーム画像2a1(図5(a)参照)に映る人物Pの特徴量、移動情報を撮像内容記憶テーブルtbl_REC(図3参照)に記憶する。
【0063】
次に、サーバ装置4は、フレーム画像2a1(図5(a)参照)に人物P以外に検出できた人物がまだある場合(ステップS9:Yes)、その人物についてステップS3からステップS8の作業を繰り返す。今回は人物Pしかいなかったため、作業は繰り返さない(ステップS9:No)。
【0064】
次に、サーバ装置4は、次のフレームがまだある場合、(ステップS10:Yes)、そのフレームについてステップS2からステップS9の作業を繰り返す。今回はフレーム画像2a2(図5(b)参照)がまだあるため、フレーム画像2a2について作業を繰り返す(ステップS10:Yes)。
【0065】
そして、フレーム画像2a2についても作業が終了したら(ステップS10:Yes)、ステップS1に戻り、次の監視カメラ、例えば監視カメラ2bから画像を所定時間分(例えば1分)受信する。
【0066】
以上のようにして、サーバ装置4は、監視カメラが撮像した画像に基づき、図3に示す撮像内容記憶テーブルtbl_RECを生成する。なお、上記の処理は、常時行っても良いし、定期的に、あるいは不定期に、一括して行っても良い。
【0067】
<人物を追跡する方法の説明>
次に、図6を参照し、警備員などの使用者が、端末装置5を用いて、人物追跡を行う方法について説明する。なお、使用者は、端末装置5(図1参照)にて所定のアプリケーションを起動させ、表示部5e(図1参照)で監視カメラ2aの12月20日10時頃の画像を視聴していたところ、不審な人物Pを発見したため、人物Pを追跡したいと希望しているものとする。
【0068】
まず、使用者は、追跡したい人物を指定するための画面を要求する(ステップS11)。具体的には、使用者は、まず、表示部5e(図1参照)にて視聴中の監視カメラ2aの12月20日10時頃の画像の付近に設けられている「追跡開始」ボタン(図示せず)をクリックする。これにより、端末装置5のCPU5a(以下、端末装置5と省略することがある)は、サーバ装置4(図1参照)に対し、監視カメラ2aの12月20日10時の画像を用いて追跡者を特定したい旨の要求を送信する。
【0069】
次に、サーバ装置4は、追跡したい人物を指定するための画面を端末装置5に送信する(ステップS112)。具体的には、図7(a)に示す画面61を送信する。
【0070】
ここで、画面61(図7(a)参照)について説明すると、画面61の左上には監視カメラ名の欄61aがあり、「監視カメラ2a」と表示さる。この監視カメラ名の欄61aは、その下に表示される画像61b(図5(a)および(b)に示すフレーム画像2a1、2a2を含む映像)が、監視カメラ2aの撮像に係るものであることを示している。画像61b内には、人物ID61dとして「ID:2」の表示が、検出枠61cに囲まれた人物Pの上側に表示されている。また、画像61bの右上には撮像時刻61gとして「12/20 10:00:00」が表示されている。
【0071】
上記のような画面61を端末装置5に送信するにあたり、サーバ装置4は、次のようにして画面61を生成する。まず、サーバ装置4は、撮像内容記憶テーブルtbl_REC(図3参照)を参照し、監視カメラ名フィールドtbl_RECdが「監視カメラ2a」であって、検出日時フィールドtbl_RECcが「12/20 10:00:00」であるレコードであるレコードRec2を特定する。そして、これらレコードRec2から人物IDフィールドtbl_RECbである「2」を取得する。そして、画像記憶装置3から監視カメラ2aの12/20 10:00:00からの画像を読み出し、レコードRec2の人物識別特徴情報フィールド群tbl_RECe、着衣特徴情報フィールド群tbl_RECfに記憶されている特徴量と一致する人物を検出する。検出できたら、さきほど取得した人物ID「2」をその人物の上側に表示させる。このようにして、監視カメラ2aの12/20 10:00:00の画像に人物IDを付したものを生成し、端末装置5の表示部5eに表示させる。
【0072】
次に、端末装置5は、追跡したい人物Pと、追跡したい人物Pの指定に用いた画像61bを撮像した監視カメラと、画像61bの撮像時刻61gとをサーバ装置4に送信する(ステップS12)。具体的には、使用者は、サーバ装置4により端末装置5の表示部5eに表示された画面61(図7(a)参照)を見て、人物Pを追跡したい人物であることを確認し、端末装置5の入力部5bを用いて、画像61b上の人物Pをクリック等して指定する。端末装置5は、使用者からの上記のようなクリック等の操作を受け、指定された人物Pの人物ID「2」と、監視カメラ名の欄61aに表示される「監視カメラ2a」と、撮像時刻61gに表示される「12/20 10:00:00」と、をサーバ装置4に送信する。
【0073】
なお、使用者が、画像61b上の人物Pをクリックしたときの撮像時刻61gが「12/20 10:01」であった場合、端末装置5は「12/20 10:00:01」をサーバ装置4に送信する。
【0074】
次に、サーバ装置4は、端末装置5からこれら情報を受信し(ステップS113)、撮像内容記憶テーブルtbl_REC(図3参照)の対応するレコードRec2を特定する(ステップS114)。具体的には、サーバ装置4は、撮像内容記憶テーブルtbl_REC(図3参照)を参照し、監視カメラ名フィールドtbl_RECdが「監視カメラ2a」であって、検出日時フィールドtbl_RECcが「12/20 10:00:00」であるレコードであって、人物IDフィールドtbl_RECbが「2」であるレコードRec2を特定する。
【0075】
なお、サーバ装置4は、端末装置5から「12/20 10:00:01」を受信した場合も、端末装置5から受信した情報に対応するレコードとしてレコードRec2を特定する。「12/20 10:00:01」は、人物Pが最初に検出された日時である「12/20 10:00:00」(検出日時フィールドtbl_RECc参照)から、人物Pが監視カメラ2aの撮像範囲にとどまっていた時間である「1秒」(滞留時間フィールドtbl_RECh参照)以内であるためである。
【0076】
次に、サーバ装置4は、追跡したい人物Pが映っている可能性のある画像の一覧を生成する(ステップS115-1~S115-3、ステップS116-1~S116-3)。具体的には、画面62(図7(b)参照)の過去時間候補一覧62a、未来時間候補一覧62bに表示する画像の一覧を生成する。なお、「過去時間」とは、端末装置5から受信した「12/20 10:00:00」より前の時間を、「未来時間」とは端末装置5から受信した「12/20 10:00:00」より後の時間を意味する。
【0077】
まず、未来時間候補一覧62bに表示する画像の一覧の生成について説明する(ステップS115-1~S115-3)。
【0078】
最初に、サーバ装置4は、特定したレコードRec2から、追跡したい人物Pが移動した方向を取得する(ステップS115―1)。具体的には、撮像内容記憶テーブルtbl_REC(図3参照)のレコードRec2の、移動情報フィールドtbl_RECgに記憶されている「左」を読み出す。
【0079】
次に、サーバ装置4は、追跡したい人物Pが移動した方向にある監視カメラを決定する(ステップS115-2)。具体的には、監視カメラ方向記憶テーブルtbl_HOKO(図2(a)参照)から、先程読み出した「左」の方向に設置されている監視カメラ2a~2eを読み出す。より具体的には、図2(a)に示す監視カメラ方向記憶テーブルtbl_HOKOを参照し、監視カメラ名フィールドtbl_HOKOaが「監視カメラ2a」であるレコードの、左フィールドtbl_HOKOdに記憶されている「監視カメラ2b」を読み出す。そして、この「監視カメラ2b」を、「表示すべき監視カメラ」と決定する。
【0080】
そして、サーバ装置4は、「表示すべき監視カメラ」である「監視カメラ2b」の画像を表示する未来時間候補一覧62bを生成する(ステップS115-3)。具体的には、まず、サーバ装置4は、図3に示す撮像内容記憶テーブルtbl_RECを参照し、監視カメラ名フィールドtbl_RECdが「監視カメラ2b」のレコードRec3を特定する。そして、レコードRec3に対応する画像を画像記憶部32より取得する。なお、図示しないが、撮像内容記憶テーブルtbl_RECには、Rec3の他にも、「監視カメラ2b」により撮像された画像が複数登録されている。そして、REC3およびそれら図示しない複数の画像を、検出日時が「12/20 10:00:00」に近いものほど上位に表示されるよう並べ、図7(b)に示す未来時間候補一覧62bに表示する画像の一覧を生成する。
【0081】
上記のようにして、未来時間候補一覧62bに表示する画像の一覧は生成される。
【0082】
一方、過去時間候補一覧62aに表示する画像の一覧は、以下のように生成される(ステップS116-1~S116-3)。
【0083】
最初に、サーバ装置4は、図3に示す撮像内容記憶テーブルtbl_RECを参照し、所定時間内のレコードから、そのレコードで検出された人物が移動した方向を取得する(ステップS116―1)。具体的には、撮像内容記憶テーブルtbl_REC(図3参照)の検出日時フィールドtbl_RECcが「12/20 10:00:00」以前の所定時間内(例えば「12/20 09:55:00」~「12/20 10:00:00」)であるレコードRec1から、移動情報フィールドtbl_RECgに記憶されている「下」を読み出す。
【0084】
次に、サーバ装置4は、読み出した方向に監視カメラ2aが設置されているかを確認する(ステップS116-2)。具体的には、監視カメラ方向記憶テーブルtbl_HOKO(図2(a)参照)から、先程読み出した「下」の方向に設置されている監視カメラ2a~2eを読み出す。より具体的には、図2(a)に示す監視カメラ方向記憶テーブルtbl_HOKOを参照し、監視カメラ名フィールドtbl_HOKOaが「監視カメラ2c」であるレコードの、下フィールドtbl_HOKOcに記憶されている「監視カメラ2a」を読み出す。
【0085】
ここで、この「監視カメラ2c」の「下」方向に「監視カメラ2a」が設置されていることから、Rec1にて検出された人物は、人物Pで、09:59:00に監視カメラ2cで撮像されてから、Rec2に示すように、下の方向に移動し10:00:00に監視カメラ2aで撮像された可能性が高い。このため、「監視カメラ2c」を「表示すべき監視カメラ」と決定する。
【0086】
そして、サーバ装置4は、「表示すべき監視カメラ」である「監視カメラ2c」の画像を表示する未来時間候補一覧62bを生成する(ステップS116-3)。具体的には、まず、サーバ装置4は、図3に示す撮像内容記憶テーブルtbl_RECを参照し、監視カメラ名フィールドtbl_RECdが「監視カメラ2c」のレコードRec1を特定する。そして、レコードRec1に対応する画像を画像記憶部32より取得する。なお、図示しないが、撮像内容記憶テーブルtbl_RECには、Rec1の他にも、「監視カメラ2c」により撮像された画像が複数登録されている。そして、REC1およびそれら図示しない複数の画像を、検出日時が「12/20 10:00:00」に近いものほど上位に表示されるよう並べ、図7(b)に示す過去時間候補一覧62aに表示する画像の一覧を生成する。
【0087】
上記のようにして、過去時間候補一覧62aに表示する画像の一覧は生成される。
【0088】
上記のように、過去時間候補一覧62a、未来時間候補一覧62bは、特徴量の一致度が高いか低いかに関わらず、人物P、あるいは画像において検出された人物の移動する方向に設置されている監視カメラの画像を、人物Pが撮像されている可能性が高い画像として、一覧を生成する。これにより、使用者は、特徴量の一致度が低い場合でも、人物追跡をより容易に行える。
【0089】
次に、サーバ装置4は、追跡したい人物Pが映っている可能性のある画像の一覧を端末装置5に送信する(ステップS117)。具体的には、図7(b)に示す画面62を端末装置5に送信する。
【0090】
ここで、画面62(図7(b)参照)について説明すると、画面62は、人物Pが映っている可能性のある画像の一覧を表示し、使用者が、各画像を目で確認して、人物Pが映っている画像を指定するための画面である。この画面62は、大きくわけると、過去時間候補一覧62a、未来時間候補一覧62b、検索条件指定部62cに分かれる。
【0091】
過去時間候補一覧62a、未来時間候補一覧62bは、各々画面62の左右に表示され、「過去時間候補」との表示62a1、「未来時間候補」との表示62b1の下に、先程生成した一覧が表示される。
【0092】
一方、検索条件指定部62cは画面62の中央に設けられている。一番上側には現在画像62c1として、追跡したい人物の指定にて使用された画像61b(図7(a)参照)に含まれているフレーム画像2a1(図5(a)参照)が表示されている。
【0093】
また、現在画像62c1には、検索条件指定部62cの下側に、カメラ間距離指定62c2、時間範囲指定62c3、本人らしさ指定62c4が設けられている。これらは、過去時間候補一覧62aおよび未来時間候補一覧62bに表示させる画像の条件を指定するためのものである。
【0094】
カメラ間距離指定62c2は、過去時間候補一覧62a、未来時間候補一覧62bに表示させる画像を、現在画像62c1を撮像した監視カメラ2aから所定距離内に設置される監視カメラが撮像したものに絞るためのものである。
【0095】
また、時間範囲指定62c3は、過去時間候補一覧62a、未来時間候補一覧62bに表示させる画像を、現在画像62c1の撮像時刻から、所定の時間範囲の撮像時刻のものに絞るためのものである。
【0096】
さらに、本人らしさ指定62c4は、過去時間候補一覧62a、未来時間候補一覧62bに表示させる画像を、追跡したい人物である人物Pの特徴量(撮像内容記憶テーブルtbl_RECのレコードRec2の人物識別特徴情報フィールド群tbl_RECeや着衣特徴情報フィールド群tbl_RECf(図3参照))と所定程度一致する人物が撮像された画像に絞るためのものである。なお、本発明の特徴は、特徴量の一致度が低い場合でも、人物追跡をより容易に行えることにあるため、本実施形態においては、本人らしさ指定62c4は使用しない。
【0097】
上記のように構成される画面62(図7(b)参照)を、端末装置5に表示させる。
【0098】
次に、使用者は、追跡したい人物が映っている画像の指定を送信する(ステップS13)。具体的には、使用者は目視で、図7(b)に示す画像62b3に人物Pが映っていることを見つけ、画像62b3を、人物Pが映る画像として指定するために、端末装置5の入力部5bを用いて表示部5eに表示される画像62b3をクリック等する。これにより、端末装置5は、追跡したい人物Pが写っている画像の指定を送信する。具体的には、クリックされた人物の人物ID(例えば「4」)と、指定された画像62b3を撮像した監視カメラ名として「監視カメラ2b」と、画像62b3の撮像時刻「12/20 10:05」と、を送信する。(これら情報は、過去時間候補一覧62a、未来時間候補一覧62bに表示される各画像62a3、62b3、62b4と紐づけて、端末装置5あるいはサーバ装置4にて記憶しておけば良い。)
【0099】
なお、これら各画像62a3、62b3、62b4は、上述の通り、追跡したい人物Pの移動方向、監視カメラの配置関係などから、人物Pが映っている可能性が高いと判断された画像であって、人物Pと特徴量が近似する人物が検出された画像ではない。このため、画面62を見た使用者が、人物Pが映っている画像としてクリックした画像にて検出されている人物は、使用者が目視で人物Pと判断したものであって、必ずしも人物IDとして「2」が付与されているものではない。
【0100】
サーバ装置4は、端末装置5からこれら情報を受信すると、ステップS114~S117を繰り返し、追跡したい人物Pが映っている可能性のある画像の一覧を端末装置5に送信する。そして、使用者は、ステップS13を繰り返し、目視で人物Pと判断できる画像をクリックする。この一連のステップの繰り返しにより、人物Pの追跡を行う。
【0101】
なお、図7(b)においては、未来時間候補一覧62bには画像62b3、62b4が表示されていたが、使用者が目視で、人物Pが映っていると決定して画像62b3をクリックすると、その他の画像62b4は表示されなくなる(図8(a)参照)。そして、もう一度画像62b3をクリックすると、図示しないが、今度は画像62b3が現在画像62c1として中央に表示され、画像62b3を現在画像62c1とした場合の過去時間候補一覧62aと未来時間候補一覧62bが作成されることとなる。
【0102】
また、図7(b)において、画像62a3が多くて人物Pが目視で見つけられない場合、カメラ間距離指定64c2と時間範囲指定64c3を利用し、表示する画像62a3を限定することができる。
【0103】
カメラ間距離指定64c2と時間範囲指定64c3を利用するには、図8(a)に示すカメラ間距離指定65c2のスライドバー65c21および時間範囲指定65c3のスライドバー65c31を、所定の操作により適宜調整する。これを受けて、サーバ装置4は、過去時間候補一覧65aに表示する画像62a3を、指定された範囲内の画像(図7(b)に示す現在画像62c1を撮像した監視カメラ2aから所定距離内の監視カメラにより撮像され、現在画像62c1の撮像日時から所定時間内に撮像された画像)である画像に絞って一覧を作成し、端末装置5に表示させる(図8(a)参照)。
【0104】
これにより、図7(b)に示す過去時間候補一覧65aに表示される画像62a3の枚数を、図8(a)のように絞ることができ、画像65a7が容易に発見できることとなる。
【0105】
次に、端末装置5は、出力指示をサーバ装置4に送信する(ステップS14)。具体的には、使用者が、図8(a)に示す出力ボタン65c5を端末装置5の入力部5bを用いてクリック等することにより、端末装置5は、これまで人物Pが映っているものとして指定した画像の一覧を出力するよう、サーバ装置4に送信する。
【0106】
次に、サーバ装置4は、人物Pが映っているものとして指定されてきた画像を並べた画面を端末装置5の表示部5eに表示させる(ステップS118)。具体的には、図8(b)に示す出力結果66のように、これまで人物Pが映っているものとして指定してきた画像が、時系列に沿って表示される。なお、使用者が人物Pが映っていると決定してクリックした画像は、使用者がそのような操作をするたびに、端末装置5またはサーバ装置4において、撮像内容記憶テーブルtbl_RECの対応する記憶IDフィールドtbl_RECa(図3参照)を記憶しておけば良い。
【0107】
使用者は、端末装置5の表示部5eに表示された出力結果66を確認し、印刷するなどして、アプリケーション6を終了させる。
【0108】
本実施形態に係る人物追跡システム1は、上記のように使用される。
【0109】
以上のことより、従来は、同一人物の画像であっても、撮像した場所が違うと、照明の違い等により特徴量が異なってしまうため、特徴量が近似する画像だけを確認しても、追跡したい不審者が見つからないことが多いため、特徴量の一致度が低い多くの画像を目で見て、不審者が撮像されているかどうかを確認しなければならなかったが、本発明によれば、特徴量の一致度が低い場合でも、人物追跡をより容易に行うことができる。
【0110】
<変形例の説明>
なお、本実施形態において示した監視カメラ画像視聴管理システムはあくまで一例であり、特許請求の範囲に記載された本発明の要旨の範囲内において種々の変形・変更が可能である。
【0111】
例えば、上記で説明した各機器の動作の一部又は全部が、別の機器にて行われることとしても良い。例えば、本実施形態においては画像記憶装置3はサーバ装置4とは別の装置としたが、サーバ装置4内に画像記憶部32を設けても良い。また、図4に示す、撮像内容記憶テーブルtbl_REC(図3参照)のデータベースの生成は、監視カメラ2a~2eが行っても良い。すなわち、監視カメラ2a~2eはステップS2~S5までを自己で行い、サーバ装置4に撮像内容記憶テーブルtbl_REC(図3参照)に記憶すべきデータを送信することとしても良い。そして、サーバ装置4は、受信したデータに基づき残りのステップを行うこととしても良い。
【0112】
また、画像記憶装置3、サーバ装置4、端末装置5は全て施設F内に設置していることとしたが、一部が施設F外であって、インターネット回線を介して通信可能に接続されることとしてもよい。
【0113】
また、本実施形態においては、図3に示す撮像内容記憶テーブルtbl_RECに登録されている画像のみを、追跡したい人物Pとして指定することができる。すなわち、サーバ装置4が撮像内容記憶テーブルtbl_RECの生成に当たり検出できた人物(図4のステップS2、S3参照)のみを、人物Pとして指定することができる。しかしながら、使用者が画像を目視して、検出できていない人物が人物Pであることが分かる場合がある。そのようなケースを考慮し、変形例として、画面上に「画像を登録」というボタンを設け、使用者は、そのボタンを押下することで、その画像に人物Pが映っているとサーバ装置4に通知しても良い。その場合、サーバ装置4は、対応する移動情報フィールドtbl_RECgが特定できないため、過去時間候補一覧62aあるいは未来時間候補一覧62bを本実施形態に係る方法で生成できない。そこで、代わりに、過去時間候補一覧62aあるいは未来時間候補一覧62bに、各監視カメラ2a~2eの、所定時刻の画像を表示させることとしても良い。
【0114】
また、ステップS5において、人物Pの画像中の所定位置から別の位置への移動を以て、移動する方向を決定したが、人物Pがフレームアウトしたことを以て、人物Pの移動した方向を決定してもよい。また、人物Pの顔の向きを考慮して、移動した方向を決定しても良い。例えば、人物Pが、フレーム画像2a1(図6(a)参照)、フレーム画像2a2(図6(b)参照)において、左側L方向を向いていることを以て、人物Pは左側L方向へ移動したと決定しても良い。
【0115】
また、本実施形態においては、図2(a)に示す監視カメラ方向記憶テーブルtbl_HOKOには、1つの監視カメラにつき、各方向に設置されている監視カメラが1台ずつ記憶されている。しかしながら、2台以上を記憶してもよい。
【0116】
また、本実施形態における人物追跡は、不審者の追跡を例に説明したが、追跡対象者は不審者に限られない。迷子の追跡、客の購入行動の追跡など、種々のケースに適応が可能である。
【符号の説明】
【0117】
1 人物追跡システム
2a~2e 監視カメラ
2a1 フレーム画像
4 サーバ装置
42c 撮像内容記憶部(撮像内容記憶手段)
5 端末装置
65a6 所定距離内にある監視カメラの画像
65a7 所定距離内にある監視カメラの画像
F 施設
P 人物
図1
図2
図3
図4
図5
図6
図7
図8