(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-10-22
(45)【発行日】2024-10-30
(54)【発明の名称】顔検知方法、顔検知プログラムおよびサーバ
(51)【国際特許分類】
G06T 7/00 20170101AFI20241023BHJP
H04N 7/18 20060101ALI20241023BHJP
G08B 25/00 20060101ALI20241023BHJP
【FI】
G06T7/00 660A
H04N7/18 D
G08B25/00 510M
(21)【出願番号】P 2020043111
(22)【出願日】2020-03-12
【審査請求日】2023-03-02
(73)【特許権者】
【識別番号】320008672
【氏名又は名称】i-PRO株式会社
(74)【代理人】
【識別番号】110002000
【氏名又は名称】弁理士法人栄光事務所
(72)【発明者】
【氏名】神尾 崇
(72)【発明者】
【氏名】宮田 英作
【審査官】▲柳▼谷 侑
(56)【参考文献】
【文献】特開2006-011728(JP,A)
【文献】特開2019-215899(JP,A)
【文献】特開2013-005336(JP,A)
【文献】国際公開第2014/132841(WO,A1)
【文献】特開2004-355377(JP,A)
【文献】特開2011-060058(JP,A)
【文献】LI Yingjie et al.,Towards suspicious behavior discovery in video surveillance system,[online],2009年02月02日,https://ieeexplore.ieee.org/document/4771993/
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00
H04N 7/18
G08B 25/00
(57)【特許請求の範囲】
【請求項1】
カメラとサーバとが互いに通信可能に接続されて実行される顔検知方法であって、
前記カメラにより撮像された撮像映像を取得し、
1以上の人物の顔を検知するための第1の検知条件を取得し、
前記撮像映像に基づいて、1以上の人物の顔を検知し、
検知された前記顔の領域を切り出した1以上の顔切出し画像を生成し、
前記顔切出し画像の人物
と同一または類似する人物が前記第1の検知条件を満たす検知対象でないと判定した場合、
所定の検知期間内に前記顔切出し画像の人物が検知された検知回数をカウントし、
前記検知回数が所定回数以上であると判定した場合、前記人物のカテゴリをお得意様と判定し、
前記人物に対応する前記顔切出し画像と前記検知回数と前記カテゴリとを対応付けて出力する、
顔検知方法。
【請求項2】
前記1以上の人物の顔を検知するための第
1の検知条件を取得し、
前記顔切出し画像の人物が前記第
1の検知条件を満たす検知対象であると判定した場合、
前記所定の検知期間内に前記顔切出し画像の人物の前記検知回数をカウントし、
前記検知回数が所定回数以上であると判定した場合、前記人物の前記カテゴリを不審者と判定する、
請求項1に記載の顔検知方法。
【請求項3】
前記第
1の検知条件は、前記不審者のカテゴリを有する人物を検知するための検知条件である、
請求項2に記載の顔検知方法。
【請求項4】
ユーザにより予め登録された複数のブラックリスト顔画像のそれぞれに、前記不審者のカテゴリを有する人物の前記顔切出し画像を前記ブラックリスト顔画像として登録する、
請求項2に記載の顔検知方法。
【請求項5】
前記複数のブラックリスト顔画像のそれぞれと前記顔切出し画像とを照合して、前記顔切出し画像の人物と同一または類似するブラックリスト顔画像が登録されているか否かを判定し、
前記ブラックリスト顔画像と同一または類似する前記顔切出し画像があると判定した場合、アラート通知画面を生成して出力する、
請求項4に記載の顔検知方法。
【請求項6】
カメラとサーバとが互いに通信可能に接続されて実行される顔検知方法であって、
前記カメラにより撮像された撮像映像を取得し、
1以上の人物の顔を検知するための第1の検知条件を取得し、
前記撮像映像に基づいて、1以上の人物の顔を検知し、
検知された前記顔の領域を切り出した1以上の顔切出し画像を生成し、
前記顔切出し画像の人物
と同一または類似する人物が前記第1の検知条件を満たす検知対象であると判定した場合、
所定の検知期間内に前記顔切出し画像の人物が検知された検知回数をカウントし、
前記検知回数が所定回数以上であると判定した場合、前記人物のカテゴリをお得意様と判定し、
前記人物に対応する前記顔切出し画像と前記検知回数と前記カテゴリとを対応付けて出力する、
顔検知方法。
【請求項7】
前記第1の検知条件は、前記お得意様のカテゴリを有する人物を検知するための検知条件である、
請求項6に記載の顔検知方法。
【請求項8】
ユーザにより予め登録された複数の重要人物顔画像のそれぞれに、前記お得意様のカテゴリを有する人物の前記顔切出し画像を前記重要人物顔画像として登録する、
請求項1または6に記載の顔検知方法。
【請求項9】
前記複数の重要人物顔画像のそれぞれと前記顔切出し画像とを照合して、前記顔切出し画像と同一または類似する重要人物顔画像が登録されているか否かを判定し、
前記重要人物顔画像と同一または類似する前記顔切出し画像があると判定した場合、アラート通知画面を生成して出力する、
請求項8に記載の顔検知方法。
【請求項10】
ユーザにより予め登録された複数の非検知顔画像のそれぞれと前記顔切出し画像とを照合して、前記顔切出し画像と同一または類似する非検知顔画像が登録されているか否かを判定し、
前記非検知顔画像と同一または類似する前記顔切出し画像があると判定した場合、アラート通知画面の生成を省略する、
請求項1または6に記載の顔検知方法。
【請求項11】
カメラとサーバとが互いに通信可能に接続されて実行される顔検知方法であって、
前記カメラにより撮像された撮像映像を取得し、
前記撮像映像に基づいて、1以上の人物の顔を検知し、
検知された前記顔の領域を切り出した1以上の顔切出し画像を生成し、
所定の検知期間内に前記顔切出し画像の人物と同一または類似する人物が検知された検知回数をカウントし、
前記検知回数に基づいて、前記人物のカテゴリを判定し、
前記人物に対応する前記顔切出し画像と前記検知回数と前記カテゴリとを対応付けて出力し、
前記顔切出し画像の人物が前記検知期間内に再検知された場合、前記顔切出し画像の人物の検知期間を、前記再検知されたタイミングから前記検知期間だけ延長する、
顔検知方法。
【請求項12】
カメラとの間で通信可能に接続されたサーバにより実行される顔検知プログラムであって、
前記カメラにより撮像された撮像映像を取得するステップと、
1以上の人物の顔を検知するための第1の検知条件を取得するステップと、
前記撮像映像に基づいて、1以上の人物の顔を検知するステップと、
検知された前記顔の領域を切り出した1以上の顔切出し画像を生成するステップと、
前記顔切出し画像の人物
と同一または類似する人物が前記第1の検知条件を満たす検知対象でないと判定した場合、
所定の検知期間内に前記顔切出し画像の人物が検知された検知回数をカウントするステップと、
前記検知回数が所定回数以上であると判定した場合、前記人物のカテゴリをお得意様と判定するステップと、
前記人物に対応する前記顔切出し画像と前記検知回数と前記カテゴリとを対応付けて出力するステップと、
を実行するための、
顔検知プログラム。
【請求項13】
カメラとの間で通信可能に接続されたサーバであって、
前記カメラにより撮像された撮像映像と、1以上の人物の顔を検知するための第1の検知条件とを取得する取得部と、
前記取得部により取得された前記撮像映像に基づいて、1以上の人物の顔を検知し、検知された前記顔の領域を切り出した1以上の顔切出し画像を生成して、前記顔切出し画像の人物
と同一または類似する人物が前記第1の検知条件を満たす検知対象でないと判定した場合、
所定の検知期間内に前記顔切出し画像の人物が検知された検知回数をカウントし、前記検知回数が所定回数以上であると判定した場合、前記人物のカテゴリをお得意様と判定するプロセッサと、
前記人物に対応する前記顔切出し画像と前記検知回数と前記カテゴリとを対応付けて出力する出力部と、を備える、
サーバ。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、顔検知方法、顔検知プログラムおよびサーバに関する。
【背景技術】
【0002】
特許文献1には、建物の複数のゾーンの各々を撮像するカメラから顔画像データを受信し、顔画像データの人物の立ち入りの許可/不許可を判定する情報処理装置が開示されている。この情報処理装置では、複数のカメラの各々のカメラ識別情報と複数のゾーンとを紐付けた第1のテーブルと、登録顔画像データと登録顔画像データの人物の立ち入りが許可されたゾーンとを紐付けた第2のテーブルと、顔画像データの人物を撮像したカメラのカメラ識別情報に基づいて、第1のテーブルを参照し、顔画像データの人物が撮像された撮影ゾーンを判定し、判定された撮影ゾーンに基づいて、第2のテーブルを参照し、顔画像データの人物の立ち入りの許可/不許可を判定する。特許文献1によれば、カメラにより撮像された顔画像データの人物の立ち入りの許可/不許可を判定し、不許可の人物によるゾーンへの立ち入りをユーザに報知できる。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、特許文献1では、立ち入りが許可された人物を予め登録しなければならないため、例えば店舗、病院、警察署、学校等の不特定多数の人物が立ち入りするような建物に入る人物の種別(カテゴリ)の判定に適用することは困難であった。
【0005】
本開示は、上述した従来の事情に鑑みて案出され、撮像映像中で注目するべき人物の顔画像を提示し、人物を対象とした監視業務を効率的に支援する顔検知方法、顔検知プログラムおよびサーバを提供することを目的とする。
【課題を解決するための手段】
【0006】
本開示は、カメラとサーバとが互いに通信可能に接続されて実行される顔検知方法であって、前記カメラにより撮像された撮像映像を取得し、1以上の人物の顔を検知するための第1の検知条件を取得し、前記撮像映像に基づいて、1以上の人物の顔を検知し、検知された前記顔の領域を切り出した1以上の顔切出し画像を生成し、前記顔切出し画像の人物と同一または類似する人物が前記第1の検知条件を満たす検知対象でないと判定した場合、所定の検知期間内に前記顔切出し画像の人物が検知された検知回数をカウントし、前記検知回数が所定回数以上であると判定した場合、前記人物のカテゴリをお得意様と判定し、前記人物に対応する前記顔切出し画像と前記検知回数と前記カテゴリとを対応付けて出力する、顔検知方法を提供する。
また、本開示は、カメラとサーバとが互いに通信可能に接続されて実行される顔検知方法であって、前記カメラにより撮像された撮像映像を取得し、1以上の人物の顔を検知するための第1の検知条件を取得し、前記撮像映像に基づいて、1以上の人物の顔を検知し、検知された前記顔の領域を切り出した1以上の顔切出し画像を生成し、前記顔切出し画像の人物と同一または類似する人物が前記第1の検知条件を満たす検知対象であると判定した場合、所定の検知期間内に前記顔切出し画像の人物が検知された検知回数をカウントし、前記検知回数が所定回数以上であると判定した場合、前記人物のカテゴリをお得意様と判定し、前記人物に対応する前記顔切出し画像と前記検知回数と前記カテゴリとを対応付けて出力する、顔検知方法を提供する。
また、本開示は、カメラとサーバとが互いに通信可能に接続されて実行される顔検知方法であって、前記カメラにより撮像された撮像映像を取得し、前記撮像映像に基づいて、1以上の人物の顔を検知し、検知された前記顔の領域を切り出した1以上の顔切出し画像を生成し、所定の検知期間内に前記顔切出し画像の人物と同一または類似する人物が検知された検知回数をカウントし、前記検知回数に基づいて、前記人物のカテゴリを判定し、前記人物に対応する前記顔切出し画像と前記検知回数と前記カテゴリとを対応付けて出力し、前記顔切出し画像の人物が前記検知期間内に再検知された場合、前記顔切出し画像の人物の検知期間を、前記再検知されたタイミングから前記検知期間だけ延長する、顔検知方法を提供する。
【0007】
また、本開示は、カメラとの間で通信可能に接続されたサーバにより実行される顔検知プログラムであって、前記カメラにより撮像された撮像映像を取得するステップと、1以上の人物の顔を検知するための第1の検知条件を取得するステップと、前記撮像映像に基づいて、1以上の人物の顔を検知するステップと、検知された前記顔の領域を切り出した1以上の顔切出し画像を生成するステップと、前記顔切出し画像の人物と同一または類似する人物が前記第1の検知条件を満たす検知対象でないと判定した場合、所定の検知期間内に前記顔切出し画像の人物が検知された検知回数をカウントするステップと、前記検知回数が所定回数以上であると判定した場合、前記人物のカテゴリをお得意様と判定するステップと、前記人物に対応する前記顔切出し画像と前記検知回数と前記カテゴリとを対応付けて出力するステップと、を実行するための、顔検知プログラムを提供する。
【0008】
また、本開示は、カメラとの間で通信可能に接続されたサーバであって、前記カメラにより撮像された撮像映像と、1以上の人物の顔を検知するための第1の検知条件とを取得する取得部と、前記取得部により取得された前記撮像映像に基づいて、1以上の人物の顔を検知し、検知された前記顔の領域を切り出した1以上の顔切出し画像を生成して、前記顔切出し画像の人物と同一または類似する人物が前記第1の検知条件を満たす検知対象でないと判定した場合、所定の検知期間内に前記顔切出し画像の人物が検知された検知回数をカウントし、前記検知回数が所定回数以上であると判定した場合、前記人物のカテゴリをお得意様と判定するプロセッサと、前記人物に対応する前記顔切出し画像と前記検知回数と前記カテゴリとを対応付けて出力する出力部と、を備える、サーバを提供する。
【発明の効果】
【0009】
本開示によれば、撮像映像中で注目するべき人物の顔画像を提示し、人物を対象とした監視業務を効率的に支援できる。
【図面の簡単な説明】
【0010】
【
図1】実施の形態に係る顔検知システムのユースケース(屋内)を示す図
【
図2】実施の形態に係る顔検知システムのユースケース(屋外)を示す図
【
図3】実施の形態に係る顔検知システムの内部構成例を示す図
【
図5】実施の形態に係る顔検知システムの動作手順例を示すシーケンス図
【発明を実施するための形態】
【0011】
以下、適宜図面を参照しながら、本開示に係る顔検知方法、顔検知プログラムおよびサーバの構成および作用を具体的に開示した実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になることを避け、当業者の理解を容易にするためである。なお、添付図面および以下の説明は、当業者が本開示を十分に理解するために提供されるものであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
【0012】
図1および
図2を参照して、実施の形態に係る顔検知システム100のユースケース例について説明する。
図1は、実施の形態に係る顔検知システム100のユースケース(屋内)を示す図である。
図2は、実施の形態に係る顔検知システム100のユースケース(屋外)を示す図である。なお、
図1および
図2では示していないが、実施の形態に係る顔検知システム100は、屋内または屋外のいずれかにカメラを設置する例に限定されず、屋内および屋外の両方にカメラを設置してもよい。
【0013】
実施の形態に係る顔検知システム100は、ユーザ(例えば、病院、警察署、学校等の施設の職員、警備会社の職員、あるいは管理者等)により予め設定された検知条件に基づいて、1以上のカメラにより撮像された録画映像あるいはライブ映像に映る人物を検知する。顔検知システム100は、検知された人物の少なくとも顔を含む領域で切り出して生成された顔切出し画像を生成し、この顔切出し画像に対応する人物が所定の検知期間で検知された回数をカウントし、検知された人物の顔切出し画像と検知回数とをユーザに提示するシステムである。
【0014】
実施の形態に係る顔検知システム100は、カメラC1と、端末装置P1と、サーバS1と、登録データベースDBと、を含んで構成される。なお、カメラC1は、少なくとも1台以上であればよい。また、登録データベースDBは、必須の構成でなく、サーバS1の構成に含まれてもよいし、端末装置P1の構成に含まれてもよい。
【0015】
複数のカメラC1,C2,C3,C4,C5,…のそれぞれは、屋内あるいは屋外に画角固定に設置され、サーバS1との間でデータ通信可能に接続される。複数のカメラC1,…のそれぞれは、撮像された複数の撮像画像のそれぞれに画像処理を実行し、複数の撮像画像のそれぞれに映る1以上の人物のそれぞれが同一人物であるか否かを判定する。複数のカメラC1,…のそれぞれは、同一人物が撮像されていると判定した複数の撮像画像のそれぞれから、人物ごとのベストショット画像を選定する。複数のカメラC1,…のそれぞれは、選定された人物ごとのベストショット画像と、ベストショット画像のメタデータと、自カメラの識別情報(例えば、製造番号、管理番号、識別番号、名称等)とを対応付けてサーバS1に送信する。なお、ベストショット画像と対応付けられるカメラの識別情報は、複数のカメラC1,…のそれぞれから予めサーバS1に送信され、サーバS1内のメモリに記憶される。
【0016】
ここでいうベストショット画像は、視認性または認識認証処理精度の観点から、例えば人物が正面を向いている画像、ピンボケしていない画像、人物の目が開いている画像等が選定されることが望ましい。また、ここでいうメタデータは、少なくともベストショット画像が撮像された撮像日時の情報を含むデータである。
【0017】
なお、実施の形態に係る複数のカメラC1,…のそれぞれは、ベストショット画像を選定可能なカメラの例を示すが、これに限定されない。複数のカメラC1,…のそれぞれは、ベストショット画像を選定可能でなくてよい。さらに、複数のカメラC1,…のそれぞれは、撮像された複数の撮像画像のそれぞれをそのままサーバS1に送信してもよい。
【0018】
ここで、複数のカメラC1,…のユースケースについて説明する。例えば、
図1に示すユースケースにおけるカメラC1は、店舗内(つまり屋内)に設置され、撮像エリアAr1を撮像する。ここで、撮像エリアAr1は、店舗の入り口から入ってくる人物H1を撮像可能に設定されている。カメラC1は、撮像エリアAr1内を撮像した複数の撮像画像のそれぞれから人物H1のベストショット画像Bs1を選定し、サーバS1に送信する。
【0019】
また、例えば、
図2に示すユースケースにおける複数のカメラC2,C3,C4,C5のそれぞれは、施設の周囲(つまり屋外)に設置され、施設の周囲に位置する人物H2を撮像する。カメラC2は、撮像エリアAr2を撮像する。カメラC3は、撮像エリアAr3を撮像する。カメラC4は、撮像エリアAr4を撮像する。カメラC5は、撮像エリアAr5を撮像する。カメラC5は、撮像エリアAr5内を撮像した複数の撮像画像のそれぞれから人物H2のベストショット画像Bs2を選定し、サーバS1に送信する。
【0020】
なお、
図1および
図2には示していないが、複数のカメラC1,…のそれぞれは、屋内および屋外の両方に設置されてよいことは言うまでもない。
【0021】
サーバS1は、ネットワークNW1を介して端末装置P1、登録データベースDB、および複数のカメラC1,…との間でデータ通信可能に接続される。なお、カメラの台数は、1台以上であればよい。また、サーバS1は、登録データベースDBと一体に構成されてもよい。サーバS1は、事前に複数のカメラC1,…のそれぞれのカメラの識別情報を記録する。
【0022】
サーバS1は、複数のカメラC1,…のそれぞれから送信されたベストショット画像に対応付けられたカメラの識別情報に基づいて、このベストショット画像に用いる検知条件を取得する。サーバS1は、ベストショット画像から人物の顔を検知し、検知された人物の顔の領域を切り出した顔切出し画像を生成する。なお、サーバS1は、複数のカメラC1,…のそれぞれから複数の撮像画像のそれぞれが送信される場合、複数の撮像画像のそれぞれから人物ごとのベストショット画像を選定し、選定されたベストショット画像から人物の顔を検知し、検知された人物の顔の領域を切り出した顔切出し画像を生成する。
【0023】
サーバS1は、生成された顔切出し画像が検知条件を満たすか否か、または顔切出し画像が登録データベースDBに登録(格納)された複数の顔画像のそれぞれと同一または類似するか否かを判定する。サーバS1は、判定結果に基づいて、顔切出し画像と、この回切出し画像の人物が検知された検知回数とを含む検索結果、または登録データベースDBに登録された顔画像と、顔切出し画像とを含むアラート通知画面を生成して、端末装置P1に送信する。
【0024】
端末装置P1は、例えばPC(Personal Computer)、ノートPC、タブレット端末、スマートフォン等であって、ネットワークNW1を介して登録データベースDBおよびサーバS1との間で有線あるいは無線通信可能に接続される。なお、ここでいう無線通信は、線ネットワークは、例えば無線LAN(Local Area Network)、無線WAN(Wide Area Network)、4G(第4世代移動通信システム)、LTE(Long Term Evolution)、LTE-Advanced、5G(第5世代移動通信システム)、Wi-Fi(登録商標)、またはWiGig(Wireless Gigabit)等である。
【0025】
端末装置P1は、ユーザ操作を受け付けるユーザインターフェース(UI:User Interface)を備え、ユーザにより選択された複数の顔画像のそれぞれを登録データベースDBに送信して、登録する。また、端末装置P1は、ユーザにより入力された検知条件を、ネットワークNW1を介してサーバS1に送信する。
【0026】
端末装置P1は、サーバS1から送信された検索結果を取得して、モニタに表示する。なお、検知結果は、1以上の顔切出し画像のサムネイル画像または登録データベースDBに登録された顔画像と、サムネイル画像または顔画像の人物のカテゴリの情報とを含む。また、端末装置P1は、サーバS1から登録データベースDBに事前に登録された顔画像と類似または同一の人物が検知された旨を示すアラート通知画面を受信すると、このアラート通知画面をモニタに表示する。
【0027】
ネットワークNW1は、無線ネットワークまたは有線ネットワークである。無線ネットワークは、例えば無線LAN(Local Area Network)、無線WAN(Wide Area Network)、4G(第4世代移動通信システム)、LTE(Long Term Evolution)、LTE-Advanced、5G(第5世代移動通信システム)、Wi-fi(登録商標)、またはWiGig(Wireless Gigabit)である。有線ネットワークは、例えばイントラネットまたはインターネットである。
【0028】
登録データベースDBは、事前にユーザにより入力された複数の顔画像のそれぞれと、複数の顔画像のそれぞれの人物のカテゴリの情報と、検知回数の情報とを対応付けて登録(格納)する。また、登録データベースDBは、サーバS1から送信された検知条件を満たす人物の顔切出し画像を登録(格納)する、登録データベースDBは、サーバS1から登録された顔切出し画像(つまり顔画像)の人物のカテゴリについて変更指令が送信されると、この変更指令に基づく人物のカテゴリ変更処理を実行する。なお、登録データベースDBは、サーバS1と一体に構成されてもよいし、端末装置P1と一体に構成されてもよい。
【0029】
図3は、実施の形態に係る顔検知システム100における端末装置P1およびサーバS1の内部構成例を示す図である。
【0030】
端末装置P1は、通信部10と、プロセッサ11と、メモリ12と、モニタ13と、操作部14と、を含んで構成される。
【0031】
通信部10は、ネットワークNW1を介して、登録データベースDBとサーバS1における通信部20との間でデータ通信可能に接続される。通信部10は、操作部14により受け付けられたユーザにより指定された顔画像、または入力された検知条件を含む検索要求(制御信号)をサーバS1に送信する。また、通信部10は、サーバS1から検索結果またはアラート通知画面を受信し、プロセッサ11に入力する。
【0032】
プロセッサ11は、例えばCPU(Central Processing unit)またはFPGA(Field Programmable Gate Array)を用いて構成され、メモリ12と協働して、各種の処理および制御を行う。具体的には、プロセッサ11はメモリ12に保持されたプログラムおよびデータを参照し、そのプログラムを実行することにより、各部の機能を実現する。
【0033】
プロセッサ11は、操作部14により受け付けられたユーザ操作に基づいて、検知条件を含む検索要求(制御信号)を生成する。また、プロセッサ11は、サーバS1から送信された検索結果に含まれる顔切出し画像をサムネイル画像(例えば、
図6の検知顔画像PC11)に変換し、変換されたサムネイル画像と、サムネイル画像の人物のカテゴリの情報と、サムネイル画像の人物の検知回数とをモニタ13に出力して表示させる。
【0034】
メモリ12は、例えばプロセッサ11の各処理を実行する際に用いられるワークメモリとしてのRAM(Random Access Memory)と、プロセッサ11の動作を規定したプログラムおよびデータを格納するROM(Read Only Memory)とを有する。RAMには、プロセッサ11により生成あるいは取得されたデータもしくは情報が一時的に保存される。ROMには、プロセッサ11の動作を規定するプログラムが書き込まれている。
【0035】
モニタ13は、例えばLCD(Liquid Crystal Display)または有機EL(Electroluminescence)等のディスプレイを用いて構成される。モニタ13は、サーバS1から送信された検索結果あるいはアラート通知画面を表示する。
【0036】
操作部14は、ユーザ操作を受け付けるユーザインターフェースであって、例えばマウス、キーボード、タッチパネル、タッチパッド、ポインティングデバイス等を用いて構成される。操作部14は、ユーザ操作に基づく信号をプロセッサ11に出力する。操作部14は、例えばユーザによる登録データベースDBに登録される顔画像に関する入力操作、ユーザによる検知条件に関する入力操作等を受け付ける。
【0037】
次に、サーバS1の内部構成について説明する。サーバS1は、通信部20と、プロセッサ21と、メモリ22と、を含んで構成される。
【0038】
取得部および出力部の一例としての通信部20は、端末装置P1における通信部10、登録データベースDBおよび複数のカメラC1,…のそれぞれとの間でデータ通信可能に接続される。通信部20は、端末装置P1から送信された検索要求(制御信号)をプロセッサ21に出力する。通信部20は、複数のカメラC1,…のそれぞれから送信されたベストショット画像をプロセッサ21に出力する。また、通信部20は、プロセッサ21により生成された検索結果あるいはアラート通知画面を端末装置P1における通信部10に送信する。
【0039】
プロセッサ21は、例えばCPUまたはFPGAを用いて構成され、メモリ22と協働して、各種の処理および制御を行う。具体的には、プロセッサ21はメモリ22に保持されたプログラムおよびデータを参照し、そのプログラムを実行することにより、各部の機能を実現する。
【0040】
プロセッサ21は、複数のカメラC1,…のそれぞれから送信されたベストショット画像を受け取ると、ベストショット画像から人物の顔を検知する。プロセッサ21は、検知された人物の顔の領域を切り出した顔切出し画像を生成するとともに、顔切出し画像の人物の属性(年齢、性別、身長等)を画像解析する。また、プロセッサ21は、ベストショット画像と対応付けられたカメラの識別情報に基づいて、ベストショット画像を撮像したカメラを特定し、特定されたカメラに設定された検知条件を取得、または複数の検知条件のそれぞれのうち特定されたカメラの識別情報を含む検知条件を検索して取得する。プロセッサ21は、顔切出し画像の人物が取得された検知条件を満たすか否かを判定する。なお、ここでいう検知条件は、検知条件に含まれる複数の検知項目のそれぞれのうち検知項目「検知期間」および検知項目「回数」以外の検知項目のそれぞれ(
図4参照)である。検知項目「検知期間」および検知項目「回数」は、顔切出し画像の人物のカテゴリの判定等に用いられる。
【0041】
プロセッサ21は、顔切出し画像の人物が検知条件を満たすと判定した場合、登録データベースDBに登録された複数の顔画像のそれぞれを参照し、顔切出し画像と登録データベースDBに登録された複数の顔画像のそれぞれとを照合する。
【0042】
プロセッサ21は、登録データベースDBに同一または類似する顔画像が登録されていると判定した場合、顔切出し画像の人物の検知回数を取得する。プロセッサ21は、取得された顔切出し画像の人物の検知回数と、この顔切出し画像の人物が満たす検知条件のカテゴリとに基づいて、この人物のカテゴリを判定する。プロセッサ21は、登録データベースDBに登録されたこの人物の検知回数をインクリメントさせる。プロセッサ21は、登録データベースDBに登録された顔画像と、生成された顔切出し画像と、インクリメント後の検知回数とを含む検索結果を生成して、端末装置P1に送信し、モニタ13に出力(表示)させる。
【0043】
なお、プロセッサ21は、判定されたカテゴリが登録データベースDBに登録されたカテゴリと異なる場合、登録データベースDBに登録されたこの人物の検知回数をインクリメントさせるとともに、この人物のカテゴリの情報を判定されたカテゴリの情報に変更して登録(記録)させる。
【0044】
なお、プロセッサ21は、顔切出し画像の人物が所定のカテゴリを満たす場合には、検知条件のカテゴリに基づいて、登録データベースDBに顔切出し画像を送信するとともに、検知条件のカテゴリに対応するデータベース(つまり、登録データベースDB、VIP(very important person)リストデータベースDB1(
図3参照)またはブラックリストデータベースDB2(
図3参照)のいずれか)に顔切出し画像を登録(格納)させる。
【0045】
例えば、プロセッサ21は、顔切出し画像の人物がお得意様・上顧客を検索するための検知条件であって、かつ検知条件に含まれる検知項目「検知期間」および検知項目「回数」の両方を満たすと判定した場合、登録データベースDBにおけるVIPリストデータベースDB1に顔切出し画像を送信して登録(格納)する。また、プロセッサ21は、顔切出し画像の人物が不審者を検索するための検知条件であって、かつ検知条件に含まれる検知項目「検知期間」および検知項目「回数」の両方を満たすと判定した場合、登録データベースDBにおけるブラックリストデータベースDB2に顔切出し画像を送信して登録(格納)する。
【0046】
一方、プロセッサ21は、登録データベースDBに同一または類似する顔画像が登録されていないと判定した場合、この顔切出し画像の人物が満たす検知条件のカテゴリに基づいて、顔切出し画像の人物のカテゴリを判定する。プロセッサ21は、顔切出し画像と、顔切出し画像の人物のカテゴリとを対応付けて登録データベースDBに送信し、登録(格納)させる。また、プロセッサ21は、登録データベースDBに登録された顔画像と、生成された顔切出し画像と、インクリメント後の検知回数とを含む検索結果を生成して、端末装置P1に送信し、モニタ13に出力(表示)させる。
【0047】
なお、プロセッサ21は、顔画像がVIPリストデータベースDB1(
図3参照)またはブラックリストデータベースDB2(
図3参照)に登録(格納)されている場合には、VIPリストデータベースDB1またはブラックリストデータベースDB2に登録されている顔画像と、顔切出し画像とを含むアラート通知画面(
図8参照)を生成、またはこの人物の検知欄を検知枠(
図6、
図7参照)で囲った検索結果を生成して、ネットワークNW1を介して端末装置P1に送信する。
【0048】
メモリ22は、例えばプロセッサ21の各処理を実行する際に用いられるワークメモリとしてのRAMと、プロセッサ21の動作を規定したプログラムおよびデータを格納するROMとを有する。RAMには、プロセッサ21により生成あるいは取得されたデータもしくは情報が一時的に保存される。ROMには、プロセッサ21の動作を規定するプログラムが書き込まれている。メモリ22は、複数のカメラC1,…のそれぞれが設置されている設置位置の情報と複数のカメラC1,…のそれぞれの識別情報とを対応付けて記憶する。
【0049】
メモリ22は、例えばプロセッサ21の各処理を実行する際に用いられるワークメモリとしてのRAMと、プロセッサ21の動作を規定したプログラムおよびデータを格納するROMとを有する。RAMには、プロセッサ21により生成あるいは取得されたデータもしくは情報が一時的に保存される。ROMには、プロセッサ21の動作を規定するプログラムが書き込まれている。
【0050】
登録データベースDBは、サーバS1および端末装置P1との間で有線通信または無線通信可能に接続され、ユーザ操作により事前に登録された複数の顔画像のそれぞれと、サーバS1から送信された検知条件を満たす人物の顔切出し画像とを登録(格納)する。登録データベースDBは、VIPリストデータベースDB1と、ブラックリストデータベースDB2と、ホワイトリストデータベースDB3と、を含んで構成される。なお、VIPリストデータベースDB1、ブラックリストデータベースDB2、およびホワイトリストデータベースDB3のそれぞれは、一体に構成されず、別体として構成されてよい。また、実施の形態に係る顔検知システム100は、VIPリストデータベースDB1またはブラックリストデータベースDB2のうちいずれか1つと、ホワイトリストデータベースDB3とを含んで構成されていればよい。
【0051】
VIPリストデータベースDB1は、ユーザ操作により事前に登録された複数の顔画像のそれぞれを登録(格納)する。また、VIPリストデータベースDB1は、サーバS1から送信された顔切出し画像の人物のうち、例えばお得意様・上顧客等のカテゴリを有する人物の顔切出し画像と検知回数とを対応付けて登録(格納)する。なお、VIPリストデータベースDB1は、ユーザ操作に基づく顧客(人物)情報と、顔画像(顔切出し画像)とを対応付けて登録してもよい。
【0052】
サーバS1は、VIPリストデータベースDB1に登録された人物を検知すると、VIPリストデータベースDB1に登録された人物が検知された旨のアラート通知画面またはこの人物の検知欄を検知枠で囲った検索結果を生成して、端末装置P1に送信し、モニタに出力させる。
【0053】
ブラックリストデータベースDB2は、ユーザ操作により事前に登録された複数の顔画像のそれぞれを登録(格納)する。また、ブラックリストデータベースDB2は、サーバS1から送信された顔切出し画像の人物のうち、例えばターゲット・不審者等のカテゴリを有する人物の顔切出し画像と検知回数とを対応付けて登録(格納)する。ここでいうターゲットは、例えば事件・事故等に関係し、警察官、管理者または警備者による捜査・捜索対象となる人物である。なお、ブラックリストデータベースDB2は、ユーザ操作に基づく顧客(人物)情報と、顔画像(顔切出し画像)とを対応付けて登録してもよい。
【0054】
サーバS1は、ブラックリストデータベースDB2に登録された人物を検知すると、ブラックリストデータベースDB2に登録された人物が検知された旨のアラート通知画面またはこの人物の検知欄を検知枠で囲った検索結果を生成して、端末装置P1に送信し、モニタに出力させる。
【0055】
ホワイトリストデータベースDB3は、複数のカメラC1,…のそれぞれが設置された商業施設、店舗、警察署、病院、学校等の不特定多数の人物が出入り可能な建物に出入りする人物(例えば、店舗の店員、建物の従業員、学校の教員、建物の清掃業者、警備会社の社員、警察署の警察官、病院の病院関係者等の人物)の顔画像のそれぞれを、ユーザ操作により事前に登録(格納)する。なお、ホワイトリストデータベースDB3に登録される顔画像は、例えば、免許証、社員証等に印刷された顔画像であってよい。
【0056】
サーバS1は、ホワイトリストデータベースDB3に登録された人物を検知した場合、この人物についてのアラート通知画面の生成を省略したり、この人物が検知条件を満たすか否かの判定を省略したり、検索結果に含まれるこの人物に関する情報を削除したりする。
【0057】
ここで、
図4を参照して、ユーザにより設定される検知条件について説明する。
図4は、検知条件LTの一例を示す図である。検知条件LTは、ユーザによる入力操作に基づく検知項目「検知期間」および検知項目「回数」を少なくとも含み、端末装置P1により生成される。なお、
図4に示す各検知項目および各条件は、一例であり、これに限定されないことは言うまでもない。
【0058】
なお、検知項目「検知期間」は、無期限という条件が設定されてもよい。また、
図4には示していないが、検知項目「回数」は、例えば5回以上で注意、10回以上で要注意、12回以上で不審者等のように検知回数に対応する複数のカテゴリが設定されてもよい。
【0059】
さらに、
図4には示していないが検知条件LTは、検知条件LTを満たす顔切出し画像の人物のカテゴリと、検知条件LTを満たさない顔切出し画像の人物のカテゴリとを設定可能であってよい。例えば、ユーザは、検知条件LTを満たさない顔切出し画像の人物への検知項目「検知期間」およびこの検知項目「回数」の条件が設定され、この検知項目「検知期間」およびこの検知項目「回数」の条件を満たす人物を他のカテゴリ「お得意様候補」、「常連客」等と判定するように設定されてもよい。これにより、ユーザは、例えば、店舗に出入する複数の人物のそれぞれからお得意様候補となる人物、または常連客を検索することができる。
【0060】
検知条件LTは、複数の検知項目のそれぞれと、複数の検知項目のそれぞれに対応する条件とを含んで生成される。例えば、
図4に示す検知条件LTは、6つの検知項目のそれぞれと、6つの検知項目のそれぞれに対応する条件とを含んで生成される。なお、
図4に示す検知条件LTは、例えば、宝石店の店内に設置されたカメラに設定され、不審者を検知するための条件である。このような検知条件LTのカテゴリは、不審者検知と設定され、所定の条件を満たす顔切出し画像をブラックリストデータベースDB2に登録する。
【0061】
検知項目「時間帯」は、カメラにより撮像されたベストショット画像(つまり顔切出し画像)の撮像日時に関する条件である。
図4に示す検知項目「時間帯」は、条件「10:00~20:00」が設定された例を示す。プロセッサ21は、カメラにより撮像されたベストショット画像(つまり顔切出し画像)の撮像日時が条件「10:00~20:00」に該当する撮像日時に撮像された撮像画像であると判定した場合、検知項目「時間帯」の条件「10:00~20:00」を満たすと判定する。
【0062】
なお、検知項目「時間帯」の条件として「24時間」、「0:00~23:59」等が設定された場合、プロセッサ21は、検知条件に基づく人物の検索処理、登録データベースDBに登録された人物の検索処理、登録データベースDBへの登録処理等を24時間、つまり常時実行してよい。
【0063】
検知項目「性別」は、カメラにより撮像されたベストショット画像(つまり顔切出し画像)の人物の性別に関する条件である。
図4に示す検知項目「時間帯」には、条件「男性」が設定された例が示されている。
図4に示す例においてサーバS1は、顔切出し画像に対応する人物の性別が条件「男性」であると判定した場合、検知項目「性別」の条件「男性」を満たすと判定する。
【0064】
検知項目「年齢」は、カメラにより撮像されたベストショット画像(つまり顔切出し画像)の人物の年齢に関する条件である。
図4に示す検知項目「年齢」には、条件「40代~60代」が設定された例が示されている。
図4に示す例においてサーバS1は、顔切出し画像の人物の年齢が条件「40代~60代」であると判定した場合、検知項目「年齢」の条件「40代~60代」を満たすと判定する。
【0065】
検知項目「カメラ」は、ベストショット画像(つまり顔切出し画像)を撮像したカメラに関する条件である。つまり、
図4に示す検知条件を設定するカメラの情報である。
図4に検知項目「カメラ」には、条件「XXXX」が設定された例が示されている。なお、条件には、1以上のカメラの識別情報が設定されてもよいし、カメラが設置された1以上の場所(例えば、建物、部屋、フロアの情報等)が設定されてもよい。サーバS1は、条件「XXXX」が示すカメラにより撮像されたベストショット画像について、各検知項目に対応する条件を満たすか否かを判定する。
【0066】
検知項目「検知期間」は、カメラにより撮像されたベストショット画像(つまり顔切出し画像)の人物の検知期間に関する条件である。
図4に示す検知項目「検知期間」には、条件「1ヶ月」が設定された例が示されている。
図4に示す例においてサーバS1は、検知項目「時間帯」、「性別」、「年齢」に対応するすべての条件を満たすと判定した顔切出し画像の人物が登録データベースDBに登録されているか否か(つまり、登録データベースDBに登録された複数の顔画像のそれぞれと同一または類似する顔切出し画像であるか否か)を判定する。なお、検知期間は、上述の例に限定されず、1週間、10日、1ヶ月、6ヶ月、1年等が設定可能であってよい。
【0067】
サーバS1は、顔切出し画像の人物が登録データベースDBに登録されていないと判定した場合には、検知項目「時間帯」、「性別」、「年齢」に対応するすべての条件を満たすと判定(つまり検知)されたタイミング(撮像日時)から1ヶ月後の撮像日時を検知期間として設定し、顔切出し画像を登録データベースDBに送信して登録(格納)させる。なお、検知期間の管理は、サーバS1により実行されてもよいし、登録データベースDBにより実行されてもよい。検知期間の管理を登録データベースDBが行う場合、登録データベースDBは、検知期間を超えた顔切出し画像を削除してもよい。
【0068】
一方、サーバS1は、顔切出し画像の人物が登録データベースDBに登録されていると判定した場合には、顔切出し画像の人物の検知期間を検知されたタイミング(撮像日時)から1ヶ月後までに設定して、顔切出し画像を登録データベースDBに送信して登録(格納)させる。
【0069】
また、サーバS1は、検知項目「検知期間」が示す検知期間を過ぎるまで(
図4の例では1ヶ月)の間に登録データベースDBに登録された人物が再度検知された場合には、検知項目「時間帯」、「性別」、「年齢」に対応するすべての条件を満たすと判定(つまり検知)されたタイミング(撮像日時)から1ヶ月後の撮像日時を、新たな検知期間として設定する。
【0070】
なお、
図4には示されていないが、検知項目「検知期間」とは別の検知項目として「有効期間」が設定されてもよい。検索項目「有効期間(有効期限)」が設定されている場合、サーバS1は、検知項目「検知期間」の条件が示す検知期間内に検知された検知項目「回数」の条件を満たすか否かを判定するとともに、検知項目「有効期間(有効期限)」の条件が示す期間だけ登録データベースDBに登録された顔切出し画像を登録(格納)してもよい。このような場合、サーバS1は、検知項目「有効期間(有効期限)」を過ぎるまで(
図4の例では1ヶ月)の間に登録データベースDBに登録された人物が再度検知された場合には、検知項目「時間帯」、「性別」、「年齢」に対応するすべての条件を満たすと判定(つまり検知)されたタイミング(撮像日時)から1ヶ月後の撮像日時を、新たな有効期間(有効期限)として設定する。
【0071】
検知項目「回数」は、カメラにより撮像されたベストショット画像(つまり顔切出し画像)の人物の検知回数に関する条件である。なお、ここでいう検知回数は、検知項目「検知期間」の条件に設定された検知期間に検知された検知回数である。
図4に示す検知項目「年齢」には、条件「6回」が設定された例が示されている。
【0072】
サーバS1は、検知項目「回数」および検知項目「検知期間」の両方を満たすと判定した場合、この人物のカテゴリの情報を変更(例えば、
図4の検知条件例では、「重要」から「最重要」・「不審者」に変更)するとともに、登録データベースDBに登録された顔画像と顔切出し画像とを含むアラート通知画面、この人物の検知欄を検知枠で囲った検索結果を生成して、ネットワークNW1を介して端末装置P1に送信し、モニタに表示させる。
【0073】
一方、サーバS1は、検知項目「回数」および検知項目「検知期間」の両方を満たさないと判定した場合、顔切出し画像と登録データベースDBに登録された複数の顔画像のそれぞれとを照合する。サーバS1は、登録データベースDBに登録された複数の顔画像のそれぞれと同一または類似する顔切出し画像であると判定した場合、顔画像の人物の検知回数を取得してインクリメントし、顔画像と、インクリメント後の顔画像と、インクリメント後の検知回数とを対応付けた検索結果を生成する。また、サーバS1は、登録データベースDBに登録された複数の顔画像のそれぞれと同一または類似する顔切出し画像でないと判定した場合、インクリメント後の顔画像と、インクリメント後の検知回数とを対応付けた検索結果を生成する。
【0074】
以上により、実施の形態に係る顔検知システム100は、検知条件に基づく人物を検知(検索)した検索結果を生成するとともに、検知条件として設定された検知期間内に検知された検知回数に基づいて、検知された人物のカテゴリを設定した検索結果をユーザに提示できる。これにより、ユーザは、検索結果に含まれる検知(検索)された人物が有するカテゴリまたはアラート通知画面に基づいて、検知(検索)された人物の重要度、優先度等を直感的に把握でき、監視・管理業務を効率的に行うことができる。
【0075】
図5を参照して、実施の形態に係る顔検知システム100の動作手順について説明する。
図5は、実施の形態に係る顔検知システム100の動作手順例を示すシーケンス図である。
【0076】
まず、実施の形態に係る顔検知システム100の検索処理について説明する。
【0077】
1以上のカメラC1,…のそれぞれは、撮像された複数の撮像画像のそれぞれからベストショット画像を選定し、選定されたベストショット画像をサーバS1に送信する(St1)。なお、1以上のカメラC1,…のそれぞれがベストショット画像の設定機能を有していない場合、撮像された複数の撮像画像のそれぞれをサーバS1に送信してもよい。
【0078】
端末装置P1は、ユーザ操作による検知条件の入力を受け付け可能であって、ユーザ操作に基づいて、検知条件を生成する(St2)。端末装置P1は、生成された検知条件をサーバS1に送信する(St3)。
【0079】
サーバS1は、端末装置P1から送信された検知条件を記憶する(St4)。サーバS1は、複数のカメラC1,…のそれぞれから送信されたベストショット画像から1以上の人物の顔を検知し、検知された人物の顔領域を切り出した顔切出し画像を生成する。サーバS1は、生成された顔切出し画像に基づいて、顔切出し画像の人物の属性(例えば、年齢、性別、身長等)を画像解析する。サーバS1は、記憶された検知結果が示すカメラに関する情報に基づいて、ベストショット画像が撮像されたカメラに対応する検知条件に基づく人物の検索を実行する(St5)。
【0080】
ここで、サーバS1により実行される検索処理は、検知条件に含まれる複数の検知項目のそれぞれのうち検知項目「検知期間」および検知項目「回数」以外の検知項目のそれぞれをすべて満たす人物の検索、検知条件に含まれる複数の検知項目のそれぞれをすべて満たす人物の検索、およびVIPリストデータベースDB1またはブラックリストデータベースDB2に事前に登録された複数の顔画像のそれぞれと同一または類似する顔切出し画像の人物の検索である。
【0081】
サーバS1は、ステップSt5の処理で実行された検知条件に基づく検索結果を生成する(St6)。ここで、生成される検索結果は、顔切出し画像と、検知回数とを少なくとも含んで生成される。
【0082】
サーバS1は、登録データベースDBに登録された複数の顔画像のそれぞれと同一または類似する顔切出し画像であるか否かを判定し、登録データベースDBに登録されていないと判定した場合には、顔切出し画像を登録データベースDBに登録する(St7)。なお、サーバS1は、顔切出し画像と同一または類似する顔画像が登録データベースDBに登録されていると判定した場合には、登録データベースDBに登録された顔画像を取得し、この顔画像と、顔切出し画像と、検知回数とを含む検索結果を生成する。サーバS1は、生成された検索結果を端末装置P1に送信する(St8)。
【0083】
なお、検索結果に基づく登録処理として、サーバS1は、ステップSt7において、登録データベースDBに登録されていると顔画像と同一または類似すると判定された顔切出し画像について、さらに顔切出し画像の人物が検知項目「検知期間」および検知項目「回数」に対応付けられた条件を満たすか否かを判定する。サーバS1は、顔切出し画像の人物が検知項目「検知期間」および検知項目「回数」に対応付けられた条件を満たすと判定した場合、顔切出し画像の人物に検知項目「回数」に対応付けられたカテゴリを設定する。サーバS1は、人物が有するカテゴリに対応するいずれかの登録(格納)先(つまり、VIPリストデータベースDB1、ブラックリストデータベースDB2、およびホワイトリストデータベースDB3のいずれか)に顔切出し画像と検知回数とを登録(格納)する。
【0084】
なお、サーバS1は、登録(格納)先として、単に登録データベースDBが設定されている場合、カテゴリ、顔画像(顔切出し画像)、検知回数、検知期間のそれぞれを対応付けて登録データベースDBに登録してもよい。
【0085】
端末装置P1は、サーバS1から送信された検索結果をモニタ13に表示する(St9)。
【0086】
次に、実施の形態に係る顔検知システム100の登録処理について説明する。
【0087】
また、端末装置P1は、VIPリストデータベースDB1、ブラックリストデータベースDB2、およびホワイトリストデータベースDB3のいずれかに登録(格納)する顔画像(つまり、登録用顔画像)についてユーザによる入力操作を受け付ける(St10)。端末装置P1は、ユーザにより入力された顔画像(登録用顔画像)と、この顔画像を登録(格納する)ユーザにより指定されたVIPリストデータベースDB1、ブラックリストデータベースDB2、およびホワイトリストデータベースDB3のいずれかの登録(格納)先の情報とを対応付けてサーバS1に送信する(St11)。
【0088】
サーバS1は、端末装置P1から送信された顔画像と、顔画像に対応付けられた登録(格納)先の情報とに基づいて、顔画像を登録(格納)する(St12)。なお、
図5に示す動作手順例において、VIPリストデータベースDB1、ブラックリストデータベースDB2、およびホワイトリストデータベースDB3への顔画像の登録(格納)処理は、サーバS1により実行される例を示すが、端末装置P1により実行されてもよい。
【0089】
端末装置P1およびサーバS1は、ステップSt2~ステップSt12までを含む処理RPを定期的、またはユーザの必要に応じて繰り返し実行する。
【0090】
次に、実施の形態に係る顔検知システム100によるアラート通知画面の生成処理について説明する。
【0091】
1以上のカメラC1,…のそれぞれは、人物の撮像を継続し、撮像領域内で人物を撮像すると、撮像された複数の撮像画像のそれぞれからこの人物のベストショット画像を選定し、選定されたベストショット画像をサーバS1に送信する(St13)。なお、1以上のカメラC1,…のそれぞれがベストショット画像の設定機能を有していない場合、撮像された複数の撮像画像のそれぞれをサーバS1に送信してもよい。
【0092】
サーバS1は、登録データベースDBにおけるVIPリストデータベースDB1またはブラックリストデータベースDB2に登録(格納)された複数の顔画像のそれぞれと、ベストショット画像から切り出されて生成された顔切出し画像との照合処理を実行する(St14)。
【0093】
サーバS1は、登録データベースDBにおけるVIPリストデータベースDB1またはブラックリストデータベースDB2に登録(格納)された複数の顔画像のそれぞれと同一または類似する顔切出し画像であると判定した場合、登録された顔画像と、顔切出し画像とを含むアラート通知画面の生成する(St15)。サーバS1は、生成されたアラート通知画面を端末装置P1に送信する(St16)。
【0094】
端末装置P1は、サーバS1から送信されたアラート通知画面をモニタ13に出力して表示する(St17)。
【0095】
以上により、実施の形態に係る顔検知システム100は、検知条件を満たす人物の検知(検索)処理と、VIPリストデータベースDB1およびブラックリストデータベースDB2に登録(格納)された複数の顔画像のそれぞれと同一または類似する顔切出し画像の人物の検索処理と、ホワイトリストデータベースDB3に登録(格納)された複数の顔画像のそれぞれと同一または類似する顔切出し画像の人物の検知(検索)結果の省略処理とを実行できるとともに、ユーザにより設定された少なくとも2つの処理を同時に実行した検索結果をユーザに提示できる。
【0096】
図6を参照して、サーバS1により生成されたお得意様・上顧客に関する検索結果について説明する。
図6は、お得意様・上顧客に関する検索結果MN1の一例を示す図である。なお、
図6に示すカテゴリは、一例であってこれに限定されないことは言うまでもない。また、
図6に示す検索結果MN1の例では、検知条件のうち検知項目「回数」の条件が4回であり、検知項目「回数」が3回まで人物のカテゴリを「重要」と設定し、検知項目「回数」が4回以上の人物を「最重要」と設定する例を示す。なお、カテゴリは、
図6の例に限定されず、例えば「最重要」と設定されず、「常連客」、「お得意様」、「上顧客」等が設定されてもよい。
【0097】
図6に示す検索結果MN1は、検索結果として人物が有するカテゴリと、ベストショット画像(顔切出し画像)が撮像された撮像日時と、カメラの識別情報としてのカメラID(Identification)と、検知期間内における検知回数としての発報回数と、顔切出し画像としての検出顔画像と、登録データベースDBに登録された顔画像としての登場人物と、顔切出し画像の人物の氏名と、を含んで生成される。なお、
図6に示す検索結果MN1は一例であって、これに限定されないことは言うまでもない。検索結果MN1は、カテゴリと、顔切出し画像(検出顔画像)と、を少なくとも含んで生成されればよい。
図6に示す検索結果MN1は、3人の人物のそれぞれの検索欄を含む。
【0098】
検知顔画像PC11の人物は、登録データベースDBに顔画像PC12が登録されている。検知顔画像PC11の人物は、検知期間内における検知回数が検知回数欄CT1に示す「4回」であって検知項目「回数」の条件を満たすため、サーバS1によりカテゴリ欄CTG1が「重要」から「最重要」に変更されて、表示される。また、検知顔画像PC11の人物の検索欄は、検知項目「回数」の条件を満たすため、検知枠MK1で囲われ、強調表示される。
【0099】
検知顔画像PC21の人物は、登録データベースDBに顔画像PC22が登録されている。検知顔画像PC21の人物は、検知期間内における検知回数が検知回数欄CT2に示す「3回」であって検知項目「回数」の条件を満たさないため、カテゴリ欄CTG2に「重要」と表示される。
【0100】
検知顔画像PC31の人物は、登録データベースDBに顔画像PC32が登録されている。検知顔画像PC31の人物は、検知期間内における検知回数が検知回数欄CT3に示す「2回」であって検知項目「回数」の条件を満たさないため、カテゴリ欄CTG3に「重要」と表示される。
【0101】
図7を参照して、サーバS1により生成された不審者に関する検索結果について説明する。
図7は、不審者に関する検索結果MN2の一例を示す図である。なお、
図7に示すカテゴリは、一例であってこれに限定されないことは言うまでもない。また、
図7に示す検索結果MN1の例では、検知条件のうち検知項目「回数」の条件が6回であり、検知項目「回数」が5回まで人物のカテゴリを「重要」と設定し、検知項目「回数」が6回以上の人物を「不審者」と設定する例を示す。
【0102】
図7に示す検索結果MN2は、検索結果として人物が有するカテゴリと、ベストショット画像(顔切出し画像)が撮像された撮像日時と、カメラの識別情報としてのカメラIDと、検知期間内における検知回数としての発報回数と、顔切出し画像としての検知顔画像と、登録データベースDBに登録された顔画像としての登場人物と、顔切出し画像の人物の氏名と、を含んで生成される。なお、
図7に示す検索結果MN2は一例であって、これに限定されないことは言うまでもない。検索結果MN2は、カテゴリと、顔切出し画像(検出顔画像)と、を少なくとも含んで生成されればよい。
図7に示す検索結果MN2は、3人の人物のそれぞれの検索欄を含む。
【0103】
検知顔画像PC41の人物は、登録データベースDBまたはブラックリストデータベースDB2に顔画像PC42が登録されている。検知顔画像PC41の人物は、検知期間内における検知回数が検知回数欄CT4に示す「8回」であって検知項目「回数」の条件を満たすため、カテゴリ欄CTG4に「不審者」と表示される。また、検知顔画像PC41の人物の検索欄は、検知項目「回数」の条件を満たすため、検知枠MK2で囲われ、強調表示される。
【0104】
検知顔画像PC51の人物は、登録データベースDBに顔画像PC52が登録されている。検知顔画像PC51の人物は、検知期間内における検知回数が検知回数欄CT5に示す「3回」であって検知項目「回数」の条件を満たさないため、カテゴリ欄CTG5に「重要」と表示される。
【0105】
検知顔画像PC61の人物は、登録データベースDBに顔画像PC62が登録されている。検知顔画像PC61の人物は、検知期間内における検知回数が検知回数欄CT6に示す「2回」であって検知項目「回数」の条件を満たさないため、カテゴリ欄CTG6に「重要」と表示される。
【0106】
次に、
図8を参照して、サーバS1がブラックリストデータベースDB2に登録された顔画像のそれぞれと同一または類似する顔切出し画像であると判定した場合に生成されるアラート通知画面AMNについて説明する。
図8は、アラート通知画面AMNの一例である。なお、
図8では、ブラックリストデータベースDB2に登録された顔画像のそれぞれと同一または類似する顔切出し画像であると判定した場合の例を示すが、VIPリストデータベースDB1に登録された顔画像のそれぞれと同一または類似する顔切出し画像であると判定した場合にも同様のアラート通知画面が生成されてよいことは言うまでもない。
【0107】
アラート通知画面AMNは、ベストショット画像BS0と、顔切出し画像としての検知顔画像BS1と、ブラックリストデータベースDB2に登録された顔画像としての登録顔画像R1と、ベストショット画像(顔切出し画像)が撮像された撮像日時の情報Dt1と、ブラックリストデータベースDB2に登録された顔画像の人物に関する人物情報Dt2と、ライブボタンBt1と、再生ボタンBt2と、を含んで生成される。
【0108】
なお、
図8に示すアラート通知画面AMNは一例であって、これに限定されないことは言うまでもない。アラート通知画面AMNは、顔切出し画像としての検知顔画像BS1と、ブラックリストデータベースDB2に登録された顔画像としての登録顔画像R1と、を少なくとも含んで生成されればよい。
【0109】
ライブボタンBt1は、端末装置P1のモニタ13に表示された後、ユーザ操作により選択(押下)されると、顔切出し画像としての検知顔画像BS1が撮像されたカメラのライブ映像を再生する。端末装置P1は、ユーザ操作によりライブボタンBt1が選択(押下)されると、ライブ映像を要求する制御指令を生成して、サーバS1に送信する。サーバS1は、顔切出し画像としての検知顔画像BS1を撮像したカメラにより撮像されたライブ映像を読み込んで端末装置P1に送信することにより、ライブ映像をストリーム再生させる。
【0110】
再生ボタンBt2は、端末装置P1のモニタ13に表示された後、ユーザ操作により選択(押下)されると、顔切出し画像としての検知顔画像BS1が撮像された前後の複数の撮像画像のそれぞれを含む録画映像を再生する。端末装置P1は、ユーザ操作により再生ボタンBt2が選択(押下)されると、顔切出し画像としての検知顔画像BS1が撮像された前後の録画映像を要求する制御指令を生成して、サーバS1に送信する。サーバS1は、顔切出し画像としての検知顔画像BS1を撮像したカメラにより撮像された録画映像を読み込んで端末装置P1に送信する。なお、サーバS1は、複数のカメラC1,…のそれぞれから録画映像を取得してもよいし、複数のカメラC1,…のそれぞれまたはサーバS1とデータ通信可能に接続され、複数のカメラC1,…のそれぞれにより撮像された録画映像を記録可能な外部レコーダ(不図示)等から録画映像を取得してもよい。
【0111】
以上により、実施の形態に係る顔検知システム100は、1以上のカメラC1,…とサーバS1とが互いに通信可能に接続され、カメラC1,…により撮像された撮像映像を取得し、撮像映像に基づいて、1以上の人物の顔を検知し、検知された顔の領域を切り出した1以上の顔切出し画像を生成し、顔切出し画像の人物と所定の検知期間内に同一または類似する人物が検知された検知回数をカウントし、検知回数に基づいて、人物のカテゴリを判定し、人物に対応する顔切出し画像と検知回数とカテゴリとを対応付けて出力する。
【0112】
これにより、実施の形態に係る顔検知システム100は、検知条件に基づく人物を検知(検索)した検索結果を生成するとともに、検知条件として設定された検知期間内に検知された検知回数に基づいて、検知された人物のカテゴリを設定した検索結果をユーザに提示できる。これにより、ユーザは、検索結果に含まれる検知(検索)された人物が有するカテゴリまたはアラート通知画面に基づいて、検知(検索)された人物の重要度、優先度等を直感的に把握でき、監視・管理業務を効率的に行うことができる。
【0113】
実施の形態に係る顔検知システム100は、1以上の人物の顔を検知するための条件として、例えば「不審者」を検知(検索)するための検知条件(第1の検知条件の一例)を取得し、顔切出し画像の人物が不審者を検知するための検知条件を満たす検知対象であると判定した場合、顔切出し画像の人物の検知回数をカウントし、検知回数が所定回数以上である(つまり、検知条件の検知項目「回数」の条件を満たす)と判定した場合、人物のカテゴリを「不審者」と判定する。これにより、顔検知システム100は、「不審者」を検索した検索結果をユーザに提示できる。ユーザは、検索結果に含まれる人物のカテゴリに基づいて、注目すべき人物として不審者が現れたことを知ることができる。
【0114】
また、実施の形態に係る顔検知システム100は、不審者の顔を検知するための検知条件(第1の検知条件の一例)を取得し、不審者を検知(検索)するための検知条件を満たす検知対象でないと判定した場合、顔切出し画像の人物の検知回数をカウントし、検知回数が所定回数以上である場合、顔切出し画像の人物のカテゴリを「お得意様」と判定する。これにより、顔検知システム100は、例えば店舗内で撮像された顔切出し画像の人物が不審者でないと判定するとともに、検知回数が多い(つまり、店舗に頻繁に訪れる)人物のカテゴリを「お得意様」と判定して、ユーザに提示できる。よって、ユーザは、人物のカテゴリに基づいて、注目すべき人物としてお得意様が現れたことを知ることができる。なお、カテゴリは「お得意様」に限定されず、例えば「お得意様候補」、「常連客」であってもよい。これにより、ユーザは、例えば店舗に出入する複数の人物のそれぞれからお得意様候補となる人物、または常連客を検索することができる。
【0115】
また、実施の形態に係る顔検知システム100は、1以上の人物の顔を検知するための条件として、例えば「お得意様」を検知(検索)するための検知条件(第2の検知条件の一例)を取得し、顔切出し画像の人物が「お得意様」を検知(検索)するための検知条件を満たす検知対象であると判定した場合、顔切出し画像の人物の検知回数をカウントし、検知回数が所定回数以上である(つまり、検知条件の検知項目「回数」の条件を満たす)と判定した場合、人物のカテゴリを「お得意様」と判定する。これにより、顔検知システム100は、「お得意様」を検索した検索結果をユーザに提示できる。なお、カテゴリは「お得意様」に限定されず、例えば「お得意様候補」、「常連客」であってもよい。よって、ユーザは、人物のカテゴリに基づいて、注目すべき人物として「お得意様」が現れたことを知ることができる。
【0116】
また、実施の形態に係る顔検知システム100は、ユーザによりブラックリストデータベースDB2に予め登録された複数の顔画像のそれぞれ(ブラックリスト顔画像の一例)に、「不審者」のカテゴリを有する人物の顔切出し画像を登録する。これにより、実施の形態に係る顔検知システム100は、ユーザによる監視業務において監視対象となるターゲット「不審者」をブラックリストデータベースDB2に自動登録することで、撮像映像中で特に注目するべき人物として「不審者」のカテゴリを有する人物を検索可能に設定できる。
【0117】
また、実施の形態に係る顔検知システム100は、ブラックリストデータベースDB2に登録された複数の顔画像のそれぞれと顔切出し画像とを照合して、顔切出し画像の人物と同一または類似する顔画像が登録されているか否かを判定する。顔検知システム100は、ブラックリスト顔画像と同一または類似する顔切出し画像があると判定した場合、アラート通知画面AMNを生成して出力する。これにより、実施の形態に係る顔検知システム100は、ユーザによる監視業務において監視対象となるターゲットについて、撮像映像中で特に注目するべき人物の顔画像としてアラート通知画面により提示し、人物を対象とした監視業務を効率的に支援できる。
【0118】
また、実施の形態に係る顔検知システム100は、ユーザによりVIPリストデータベースDB1に予め登録された複数の顔画像のそれぞれ(重要人物顔画像の一例)に、「お得意様」のカテゴリを有する人物の顔切出し画像を顔画像として登録する。これにより、実施の形態に係る顔検知システム100は、ユーザによる監視業務において注目すべき「お得意様」をVIPリストデータベースDB1に自動登録することで、撮像映像中で特に注目するべき人物として「お得意様」のカテゴリを有する人物を検索可能に設定できる。
【0119】
また、実施の形態に係る顔検知システム100は、VIPリストデータベースDB1に登録された複数の顔画像のそれぞれと顔切出し画像とを照合して、顔切出し画像と同一または類似する重要人物顔画像が登録されているか否かを判定する。顔検知システム100は、VIPリストデータベースDB1に登録された複数の顔画像と同一または類似する顔切出し画像があると判定した場合、アラート通知画面を生成して出力する。これにより、実施の形態に係る顔検知システム100は、ユーザによる監視業務において監視対象となる「お得意様」、「上顧客」等の重要人物について、撮像映像中で特に注目するべき人物の顔画像としてアラート通知画面により提示し、人物を対象とした監視業務を効率的に支援できる。
【0120】
また、実施の形態に係る顔検知システム100は、ユーザによりホワイトリストデータベースDB3に予め登録された複数の顔画像のそれぞれ(非検知顔画像の一例)と顔切出し画像とを照合して、顔切出し画像と同一または類似する顔画像が登録されているか否かを判定する。顔検知システム100は、ホワイトリストデータベースDB3に登録された複数の顔画像と同一または類似する顔切出し画像があると判定した場合、アラート画面の生成を省略する。これにより、実施の形態に係る顔検知システム100は、カメラC1,…が設置された建物、施設等に出入りする従業員、店員、管理者、警察官、あるいは教員等の関係者が撮像映像中で特に注目するべき人物の顔画像として検知(検索)され、ユーザに提示されることを防止できる。
【0121】
また、実施の形態に係る顔検知システム100は、顔切出し画像の人物が検知期間(検知条件に含まれる検知項目「検知期間」または検知項目「有効期限」の条件)内に再検知された場合、顔切出し画像の人物の検知期間を、再検知されたタイミングから検知期間(つまり、検知項目「検知期間」または検知項目「有効期限」の条件)だけ延長する。これにより、実施の形態に係る顔検知システム100は、検知期間の観点から撮像映像中で特に注目するべきでない、または注目度が低い人物の顔画像についてアラート通知画面を生成し、ユーザに提示することを防止できる。
【0122】
以上、添付図面を参照しながら各種の実施の形態について説明したが、本開示はかかる例に限定されない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例、修正例、置換例、付加例、削除例、均等例に想到し得ることは明らかであり、それらについても本開示の技術的範囲に属すると了解される。また、発明の趣旨を逸脱しない範囲において、上述した各種の実施の形態における各構成要素を任意に組み合わせてもよい。
【産業上の利用可能性】
【0123】
本開示は、撮像映像中で注目するべき人物の顔画像を提示し、人物を対象とした監視業務を効率的に支援する顔検知方法、顔検知プログラムおよびサーバの提示として有用である。
【符号の説明】
【0124】
10,20 通信部
11,21 プロセッサ
12,22 メモリ
13 モニタ
14 操作部
100 顔検知システム
C1 カメラ
DB1 VIPリストデータベース
DB2 ブラックリストデータベース
DB3 ホワイトリストデータベース
LT 検知条件
NW1 ネットワーク
P1 端末装置
S1 サーバ