(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-06-11
(45)【発行日】2025-06-19
(54)【発明の名称】パラメータ閲覧システム、パラメータ調整システム、サーバ、及びサーバ制御プログラム
(51)【国際特許分類】
G06T 7/00 20170101AFI20250612BHJP
H04N 7/18 20060101ALI20250612BHJP
G06V 20/52 20220101ALI20250612BHJP
【FI】
G06T7/00 U
G06T7/00 660B
H04N7/18 D
G06V20/52
(21)【出願番号】P 2021146640
(22)【出願日】2021-09-09
【審査請求日】2024-07-05
(73)【特許権者】
【識別番号】516249414
【氏名又は名称】AWL株式会社
(74)【代理人】
【識別番号】100084375
【氏名又は名称】板谷 康夫
(74)【代理人】
【識別番号】100125221
【氏名又は名称】水田 愼一
(74)【代理人】
【識別番号】100142077
【氏名又は名称】板谷 真之
(72)【発明者】
【氏名】千葉 祐貴
(72)【発明者】
【氏名】土田 安紘
(72)【発明者】
【氏名】半澤 寛典
【審査官】岡本 俊威
(56)【参考文献】
【文献】特開2016-076893(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00
G06V 20/50-20/52
H04N 7/18
(57)【特許請求の範囲】
【請求項1】
表示手段と、
エッジ側のカメラの撮影画像と、エッジ側の画像分析装置が前記撮影画像に含まれるフレーム画像に対する認識処理をした結果とを重畳した重畳映像を統計処理して、可視化統計情報を生成する可視化統計情報生成手段と、
前記可視化統計情報生成手段により生成した可視化統計情報を蓄積する統計情報蓄積手段と、
前記統計情報蓄積手段に蓄積された過去の可視化統計情報の中から、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した、過去の可視化統計情報を検出する検出手段と、
前記検出手段により検出した過去の可視化統計情報の元になった過去の撮影画像に適用された、撮影画像分析用の条件設定パラメータを含む画面を、前記表示手段に出力するパラメータ出力手段と
を備えるパラメータ閲覧システム。
【請求項2】
前記検出手段は、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報から求めた、人の移動方向に対応するベクトルと、前記統計情報蓄積手段に蓄積された過去の可視化統計情報から求めた、人の移動方向に対応するベクトルとを比較して、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した過去の可視化統計情報を検出することを特徴とする請求項1に記載のパラメータ閲覧システム。
【請求項3】
前記検出手段は、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報と、前記統計情報蓄積手段に蓄積された過去の複数の可視化統計情報とを、前記表示手段上に表示するように制御する表示制御手段を含み、
前記パラメータ閲覧システムは、前記表示手段上に表示された過去の複数の可視化統計情報の中から、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に最も類似した過去の可視化統計情報を選択するための選択入力手段をさらに備えることを特徴とする請求項1に記載のパラメータ閲覧システム。
【請求項4】
エッジ側のカメラの撮影画像と、エッジ側の画像分析装置が前記撮影画像に含まれるフレーム画像に対する認識処理をした結果とを重畳した重畳映像を統計処理して、可視化統計情報を生成する可視化統計情報生成手段と、
前記可視化統計情報生成手段により生成した可視化統計情報を蓄積する統計情報蓄積手段と、
前記統計情報蓄積手段に蓄積された過去の可視化統計情報の中から、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した、過去の可視化統計情報を検出する検出手段と、
前記検出手段により検出した過去の可視化統計情報の元になった過去の撮影画像に適用された、撮影画像分析用の条件設定パラメータを含む画面を、表示手段に出力するパラメータ出力手段と
を備えるサーバ。
【請求項5】
前記検出手段は、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報から求めた、人の移動方向に対応するベクトルと、前記統計情報蓄積手段に蓄積された過去の可視化統計情報から求めた、人の移動方向に対応するベクトルとを比較して、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した過去の可視化統計情報を検出することを特徴とする
請求項4に記載のサーバ。
【請求項6】
今回の設定対象となるカメラの撮影画像に適した撮影画像分析用の条件設定パラメータを見つけるための処理を行うように、サーバを制御するサーバ制御プログラムであって、
前記サーバを、
エッジ側のカメラの撮影画像と、エッジ側の画像分析装置が前記撮影画像に含まれるフレーム画像に対する認識処理をした結果とを重畳した重畳映像を統計処理して、可視化統計情報を生成する可視化統計情報生成手段と、
前記可視化統計情報生成手段により生成した可視化統計情報を蓄積する統計情報蓄積手段と、
前記統計情報蓄積手段に蓄積された過去の可視化統計情報の中から、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した、過去の可視化統計情報を検出する検出手段と、
前記検出手段により検出した過去の可視化統計情報の元になった過去の撮影画像に適用された、撮影画像分析用の条件設定パラメータを含む画面を、表示手段に出力するパラメータ出力手段として機能させるためのサーバ制御プログラム。
【請求項7】
前記検出手段は、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報から求めた、人の移動方向に対応するベクトルと、前記統計情報蓄積手段に蓄積された過去の可視化統計情報から求めた、人の移動方向に対応するベクトルとを比較して、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した過去の可視化統計情報を検出することを特徴とする
請求項6に記載のサーバ制御プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、パラメータ閲覧システム、パラメータ調整システム、サーバ、及びサーバ制御プログラムに関する。
【背景技術】
【0002】
従来から、AIカメラ等のカメラで撮影したフレーム画像に対して、学習済ニューラルネットワークモデルを用いて物体検出等の分析処理を行うようにした装置やシステムが知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
上記のような従来のカメラで撮影したフレーム画像に対する物体検出等の分析処理を行う装置やシステムでは、設定対象のカメラについての物体検出枠等の条件設定が難しい。例えば、設定対象のカメラの画角内に入店者等の検知枠を設定する場合には、コンピュータに理解できるような形で入力しようとすると、設定対象のカメラの画角内に、検知枠の4つの頂点の数値座標情報を入力する必要があるが、各カメラにおける、画角、(画角内への)人の入り方、人や物の映り方は様々であるということもあり、システムの運営管理者等の人(ユーザ)が、上記の検知枠の数値座標情報のような条件設定パラメータを適切に入力することは難しい。
【0005】
また、仮に、上記の検知枠の数値座標情報のような条件設定パラメータを適切に入力することができたとしても、上記のパラメータの入力による条件設定がどの程度正しい(適切なものである)のかを確認するためには、上記の条件設定パラメータを用いた撮影画像(フレーム画像)の分析結果と、実際の映像とを、システムの運営管理者等のユーザが見比べて検査する必要があるため、条件設定の正確さの確認作業に非常に工数がかかるという問題があった。
【0006】
本発明は、上記課題を解決するものであり、システムの運営管理者等のユーザが、容易に、適切な条件設定パラメータを入力することが可能なパラメータ閲覧システム、パラメータ調整システム、サーバ、及びサーバ制御プログラムを提供することを目的とする。また、条件設定パラメータの入力による条件設定の正確さを、ユーザが容易に確認することが可能なパラメータ調整システムを提供することを目的とする。
【課題を解決するための手段】
【0007】
上記課題を解決するために、本発明の第1の態様によるパラメータ閲覧システムは、表示手段と、エッジ側のカメラの撮影画像と、エッジ側の画像分析装置が前記撮影画像に含まれるフレーム画像に対する認識処理をした結果とを重畳した重畳映像を統計処理して、可視化統計情報を生成する可視化統計情報生成手段と、前記可視化統計情報生成手段により生成した可視化統計情報を蓄積する統計情報蓄積手段と、前記統計情報蓄積手段に蓄積された過去の可視化統計情報の中から、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した、過去の可視化統計情報を検出する検出手段と、前記検出手段により検出した過去の可視化統計情報の元になった過去の撮影画像に適用された、撮影画像分析用の条件設定パラメータを含む画面を、前記表示手段に出力するパラメータ出力手段とを備える。
【0008】
このパラメータ閲覧システムにおいて、前記検出手段は、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報から求めた、人の移動方向に対応するベクトルと、前記統計情報蓄積手段に蓄積された過去の可視化統計情報から求めた、人の移動方向に対応するベクトルとを比較して、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した過去の可視化統計情報を検出するようにしてもよい。
【0009】
このパラメータ閲覧システムにおいて、前記検出手段は、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報と、前記統計情報蓄積手段に蓄積された過去の複数の可視化統計情報とを、前記表示手段上に表示するように制御する表示制御手段を含み、前記パラメータ閲覧システムは、前記表示手段上に表示された過去の複数の可視化統計情報の中から、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に最も類似した過去の可視化統計情報を選択するための選択入力手段をさらに備えるようにしてもよい。
【0012】
本発明の第2の態様によるサーバは、エッジ側のカメラの撮影画像と、エッジ側の画像分析装置が前記撮影画像に含まれるフレーム画像に対する認識処理をした結果とを重畳した重畳映像を統計処理して、可視化統計情報を生成する可視化統計情報生成手段と、前記可視化統計情報生成手段により生成した可視化統計情報を蓄積する統計情報蓄積手段と、前記統計情報蓄積手段に蓄積された過去の可視化統計情報の中から、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した、過去の可視化統計情報を検出する検出手段と、前記検出手段により検出した過去の可視化統計情報の元になった過去の撮影画像に適用された、撮影画像分析用の条件設定パラメータを含む画面を、表示手段に出力するパラメータ出力手段とを備える。
【0013】
このサーバにおいて、前記検出手段は、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報から求めた、人の移動方向に対応するベクトルと、前記統計情報蓄積手段に蓄積された過去の可視化統計情報から求めた、人の移動方向に対応するベクトルとを比較して、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した過去の可視化統計情報を検出するようにしてもよい。
【0014】
本発明の第3の態様によるサーバ制御プログラムは、今回の設定対象となるカメラの撮影画像に適した撮影画像分析用の条件設定パラメータを見つけるための処理を行うように、サーバを制御するサーバ制御プログラムであって、前記サーバを、エッジ側のカメラの撮影画像と、エッジ側の画像分析装置が前記撮影画像に含まれるフレーム画像に対する認識処理をした結果とを重畳した重畳映像を統計処理して、可視化統計情報を生成する可視化統計情報生成手段と、前記可視化統計情報生成手段により生成した可視化統計情報を蓄積する統計情報蓄積手段と、前記統計情報蓄積手段に蓄積された過去の可視化統計情報の中から、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した、過去の可視化統計情報を検出する検出手段と、前記検出手段により検出した過去の可視化統計情報の元になった過去の撮影画像に適用された、撮影画像分析用の条件設定パラメータを含む画面を、表示手段に出力するパラメータ出力手段として機能させる。
【0015】
このサーバ制御プログラムにおいて、前記検出手段は、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報から求めた、人の移動方向に対応するベクトルと、前記統計情報蓄積手段に蓄積された過去の可視化統計情報から求めた、人の移動方向に対応するベクトルとを比較して、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した過去の可視化統計情報を検出するようにしてもよい。
【発明の効果】
【0016】
本発明の第1の態様によるパラメータ閲覧システム、第2の態様によるサーバ、及び第3の態様によるサーバ制御プログラムによれば、今回の設定対象となるカメラ(以下、「今回のカメラ」と略す)の撮影画像に基づく可視化統計情報に類似した、過去の可視化統計情報を検出し、検出した過去の可視化統計情報の元になった過去の撮影画像に適用された、撮影画像分析用の条件設定パラメータを含む画面を、表示手段に出力して、システムの運営管理者等のユーザが閲覧することができるようにした。ここで、今回のカメラの撮影画像に基づく可視化統計情報に類似した、過去の可視化統計情報は、今回のカメラの撮影画像と同様な人の移動範囲の撮影画像(におけるフレーム画像)に対して、今回のカメラの撮影画像に対して行った認識処理と同様な認識処理をした結果を用いた可視化統計情報である可能性が高い。このため、ユーザが、上記の閲覧した(今回のカメラの撮影画像に基づく可視化統計情報に類似した、)過去の可視化統計情報の元になった撮影画像に適用された条件設定パラメータを参照して、今回のカメラの撮影画像分析用の条件設定パラメータを入力することにより、システムの運営管理者等のユーザが、容易に、適切な条件設定パラメータ(例えば、人の検知枠)を入力することができる。
【図面の簡単な説明】
【0018】
【
図1】本発明の一実施形態の画像分析システムの概略の構成を示すブロック構成図。
【
図2】
図1中のサイネージの概略のハードウェア構成を示すブロック図。
【
図3】
図1中の分析ボックスの概略のハードウェア構成を示すブロック図。
【
図4】
図1中の管理サーバの概略のハードウェア構成を示すブロック図。
【
図5】同管理サーバとパソコンの機能ブロック構成図。
【
図6】上記画像分析システムにおける分析結果重畳映像の生成と表示の流れを示すブロック図。
【
図7】上記画像分析システムにおける画像分析結果の統計処理と、映像と重畳された検知条件の閲覧・編集の流れを示すブロック図。
【
図8】上記画像分析システムにおける現状カウント状況確認画面を示す図。
【
図9】上記画像分析システムにおける検知領域(検知枠)設定のシミュレーション処理のフローチャート。
【
図10】上記シミュレーション処理に用いられる来店者カウント領域設定シミュレーション画面を示す図。
【
図11】上記画像分析システムにおける来店者カウント精度ランキング表示画面を示す図。
【
図12】過去の可視化統計情報の中から、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した可視化統計情報を検索する処理のフローチャート。
【
図13】上記画像分析システムにおける類似可視化統計情報検索画面を示す図。
【
図14】上記画像分析システムにおける類似可視化統計情報検索結果表示画面を示す図。
【
図15】上記画像分析システムにおける類似パターン画像設定表示画面を示す図。
【
図16】上記画像分析システムにおける類似可視化統計情報選択画面を示す図。
【発明を実施するための形態】
【0019】
以下、本発明を具体化した実施形態によるパラメータ閲覧システム、パラメータ調整システム、サーバ、及びサーバ制御プログラムについて、図面を参照して説明する。
図1は、本実施形態による画像分析システム10(請求項における「パラメータ閲覧システム」、及び「パラメータ調整システム」に相当)の概略の構成を示すブロック構成図である。本実施形態では、所定の撮影エリアを撮影する監視用のネットワークカメラである複数の固定カメラ(監視カメラ)2と、固定カメラ2からの映像の分析を行う分析ボックス3と、内蔵カメラ4(又はWebカメラ)を備えた、ディジタルサイネージ用のタブレット端末である複数のサイネージ5が、チェーン店等の店舗S内に配される場合の例について説明する。
図1に示すように、画像分析システム10は、店舗S内に配された、上記の複数の固定カメラ2と、分析ボックス3と、複数のサイネージ5と、WiFi AP(WiFi Access Point)6と、ハブ7と、ルータ8とに加えて、クラウドC上に配された管理サーバ1(請求項における「サーバ」に相当)と、システムの運営管理者等のユーザが使用するパソコン(パーソナル・コンピューター)9とを備えている。なお、サイネージ5側のカメラは、サイネージ5の筐体内に配設された内蔵カメラ4である場合と、サイネージ5に取り付けられたWebカメラの場合があるが、以下の説明では、サイネージ5側のカメラが、内蔵カメラ4である場合の例を中心に説明する。
【0020】
上記の固定カメラ2は、IPアドレスを持ち、ネットワークに直接接続することが可能である。
図1に示すように、分析ボックス3は、LAN(Local Area Network)とハブ7とを介して、複数の固定カメラ2と接続され、これらの固定カメラ2の各々から入力された画像を分析する。具体的には、分析ボックス3は、固定カメラ2の各々から入力された画像に対する物体検出処理(顧客や、顧客の顔の検出処理)や、この物体検出処理で検出された物体の画像に対する物体認識処理(顧客の属性(性別及び年齢(年代))推定等の認識処理)等を行う。
【0021】
サイネージ5は、主に店舗S内の商品棚に設置されて、そのタッチパネルディスプレイ14(
図2参照)上に、店舗Sに来店した顧客に対する広告等のコンテンツを表示すると共に、その内蔵カメラ4からのフレーム画像に対する物体検出処理(顧客や、顧客の顔の検出処理)や、この物体検出処理で検出された物体の画像に対する物体認識処理等を行う。
【0022】
上記の管理サーバ1は、店舗Sを含む店舗の管理部門(本社等)に設置されて、各店舗に配された多数の固定カメラ2、分析ボックス3、及びサイネージ5の管理を行う。具体的には、管理サーバ1は、各店舗の分析ボックス3やサイネージ5へのアプリパッケージのインストールや、分析ボックス3に接続された固定カメラ2の起動及び停止等の制御を行う。また、管理サーバ1は、エッジ側の画像分析装置(分析ボックス3又はサイネージ5)から、固定カメラ2又は内蔵カメラ4の撮影画像と、この撮影画像に対する認識処理の結果を含む分析結果とを受信して、受信した撮影画像と上記の分析結果とを用いて、今回の設定対象となるカメラ(固定カメラ2又は内蔵カメラ4)の撮影画像に適した撮影画像分析用の条件設定パラメータを見つけるための処理を行う。
図1に示すように、管理サーバ1には、画像分析システム10の運営管理者等のユーザが使用するパソコン9が接続されており、ユーザは、パソコン9を用いて、管理サーバ1(のポータル)にアクセスして、今回の設定対象となるカメラ(固定カメラ2又は内蔵カメラ4)に適した撮影画像分析用の条件設定パラメータを見つけるための処理(過去の条件設定パラメータの閲覧等)を行うことができる。
【0023】
次に、
図2を参照して、上記のタブレットタイプのサイネージ5のハードウェア構成について説明する。サイネージ5は、上記の内蔵カメラ4に加えて、SoC(System-on-a-Chip)11と、タッチパネルディスプレイ14と、スピーカ15と、アプリパッケージを含む各種のプログラムや、条件設定パラメータを含む各種のデータを記憶するメモリ16と、通信部17と、二次電池18と、充電端子19と、内蔵カメラ4の撮影画像や、後述する分析(結果)重畳映像(
図6等参照)を格納するSDメモリカード等のストレージ20とを備えている。SoC11は、装置全体の制御及び各種演算を行うCPU12と、各種の学習済DNN(Deep Neural Networks)モデルの推論処理等に用いられるGPU13とを備えている。GPU13は、
図6及び
図7に示すDNN計算チップ69に相当する。
【0024】
上記のメモリ16に格納されるプログラムには、
図6及び
図7に示す学習済のDNNモデル70(各種の学習済推論モデル)が含まれている。通信部17は、通信ICとアンテナを備えている。サイネージ5は、通信部17とネットワークとを介して、クラウドC上の管理サーバ1と接続されている。また、二次電池18は、リチウムイオン電池等の、充電により繰り返し使用することが可能な電池であり、AC/DCコンバータにより直流電力に変換した後の商用電源からの電力を、蓄電して、サイネージ5の各部に供給する。
【0025】
次に、
図3を参照して、分析ボックス3のハードウェア構成について説明する。分析ボックス3は、装置全体の制御及び各種演算を行うCPU21と、各種のデータやプログラムを格納するハードディスク22と、RAM(Random Access Memory)23と、DNN(Deep Neural Networks)推論用プロセッサである推論チップ(以下、「チップ」と略す)24a~24hと、通信制御IC25とを備えている。CPU21は、一般的な汎用CPU、又は多数の映像ストリームを同時処理するため並列処理性能を高めるように設計されたCPUである。また、ハードディスク22に格納されるデータには、固定カメラ2の各々から入力された映像ストリーム(のデータ)をデコードした後の映像データと、
図6等で後述する分析結果重畳映像のデータ、及び分析データ58(
図7の映像メタデータ74と同じ)とが含まれる。また、ハードディスク22に格納されるプログラムには、人検出処理、顔検出処理、属性認識処理等の推論処理用の学習済DNNモデル(各種推論処理用学習済DNNモデル:
図6及び
図7のDNNモデル57に相当)と、分析ボックスOSプログラムと、VMS(Video Management System)プログラムと、映像分析プログラムと、分析重畳映像生成プログラムが含まれている。
【0026】
次に、
図4を参照して、管理サーバ1のハードウェア構成について説明する。管理サーバ1は、装置全体の制御及び各種演算を行うCPU31と、各種のデータやプログラムを格納するハードディスク32(請求項における「統計情報蓄積手段」に相当)と、RAM(Random Access Memory)33と、ディスプレイ34と、操作部35と、通信部36(請求項における「受信手段」に相当)とを備えている。
【0027】
上記のハードディスク32に格納されるプログラムには、サーバ制御プログラム37と、ポータル(用のプログラム)38と、ダッシュボード39とが含まれ、ハードディスク32に格納されるデータには、統計データ40が含まれる。サーバ制御プログラム37は、管理サーバ1の制御用のプログラムである。このサーバ制御プログラム37は、今回の設定対象となるカメラ(以下、「今回のカメラ」と略す場合がある)の撮影画像に適した撮影画像分析用の条件設定パラメータを見つけるための処理(蓄積された過去の条件設定パラメータの閲覧等)や、今回のカメラの条件設定パラメータの調整(編集)を行うための処理を行う。ポータル38は、いわゆる企業ポータル(企業内に散らばっている様々な情報やアプリケーション等を効率的に探したり、利用するために、コンピュータの画面上にこれらの情報やアプリケーション等を集約表示するためのソフトウェア)の一種である。このポータル38を用いて行うことができる処理については、
図6及び
図7の説明で述べる。ダッシュボード39は、顧客の属性と滞在時間、顧客行動の追跡結果等の統計情報を集計して可視化するためのソフトウェアである。ダッシュボード39は、パソコン9を用いたユーザからの要求に基づき、来店者、通行者、立ち止まり者等のカウント数を、統計データ40から抽出して、パソコン9のディスプレイ50b(
図5参照)に表示する処理に用いられる。
【0028】
図5は、上記の管理サーバ1とパソコン9の機能ブロックを示す。管理サーバ1のCPU31は、機能ブロックとして、可視化統計情報生成部41と、検出部42と、パラメータ出力部43と、パラメータ表示制御部45と、再分析部46と、再分析結果表示制御部47とを備えている。また、上記の検出部42は、表示制御部44を含んでいる。上記の可視化統計情報生成部41と、検出部42と、パラメータ出力部43と、表示制御部44と、パラメータ表示制御部45と、再分析部46と、再分析結果表示制御部47とは、それぞれ、請求項における可視化統計情報生成手段と、検出手段と、パラメータ出力手段と、表示制御手段と、パラメータ表示制御手段と、再分析手段と、再分析結果表示制御手段とに相当する。また、パソコン9は、操作部50a(請求項における「調整入力手段」及び「選択入力手段」に相当)と、ディスプレイ50b(請求項における「表示手段」に相当)とを備えている。
【0029】
上記の可視化統計情報生成部41は、エッジ側のカメラ(固定カメラ2又は内蔵カメラ4)の撮影画像と、エッジ側の画像分析装置(分析ボックス3又はサイネージ5)が上記の撮影画像に含まれるフレーム画像に対する認識処理をした結果とを重畳した重畳映像を統計処理して、可視化統計情報を生成する。この可視化統計情報とは、所定の時間分の撮影画像に含まれる各フレーム画像と、これらの各フレーム画像に対する認識処理の結果とを重畳した各重畳画像から構成される重畳映像に対して、何らかの統計処理をした結果の画像である。例えば、
図13に示す顔検出集計画像89(可視化統計情報の一種)は、あるカメラの1時間分の撮影画像に含まれる各フレーム画像と、これらの各フレーム画像に対する顔検出結果とを重畳した各重畳画像に基づいて作成したヒートマップである。この例では、該当のカメラの1時間分の撮影画像における顔検出頻度の高い部分が、濃い色(実際の画像では、濃い赤等)で示されている。
【0030】
上記の可視化統計情報生成部41により生成された可視化統計情報48を含む統計データ40は、ハードディスク32に蓄積される。上記の統計データ40には、エッジ側の各カメラ(固定カメラ2又は内蔵カメラ4)の条件設定パラメータ49(検知枠等)が含まれている。
【0031】
図5中の検出部42は、ハードディスク32に蓄積された過去の可視化統計情報の中から、今回の設定対象となるカメラ(固定カメラ2又は内蔵カメラ4)の撮影画像に基づく可視化統計情報に類似した、過去の可視化統計情報を検出する。また、パラメータ出力部43は、検出部42により検出した過去の可視化統計情報の元になった過去の撮影画像に適用された、撮影画像分析用の条件設定パラメータ(検知枠等)を含む画面を、パソコン9のディスプレイ50bに出力する。表示制御部44は、パソコン9のユーザの指示操作に基づいて、
図16に示すように、今回の(設定対象となる)カメラの撮影画像に基づく可視化統計情報(
図16の例の場合は、顔検出集計画像)と、ハードディスク32に蓄積された過去の複数の可視化統計情報とを、パソコン9のディスプレイ50bに表示するように制御する。
【0032】
上記のパラメータ表示制御部45は、今回の設定対象となるカメラの現在の撮影画像分析用の条件設定パラメータ49(検知枠等)を、ハードディスク32から読み込んで、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に重畳させて、パソコン9のディスプレイ50bに表示するように制御する。
図10に示す例では、パラメータ表示制御部45は、今回の設定対象となるカメラの現在の撮影画像分析用の条件設定パラメータ(検知枠)を、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報(移動軌跡)に重畳させて、パソコン9のディスプレイ50bに表示している。
【0033】
上記の再分析部46は、ユーザがパソコン9の操作部50aを用いて、上記のディスプレイ50bに表示された条件設定パラメータの調整入力を行うと、調整(入力)後の条件設定パラメータを用いて、上記の(通信部36により受信した、)今回の設定対象となるカメラの撮影画像に対する分析をし直す。また、再分析結果表示制御部47は、再分析部46による分析結果を、ユーザが使用するパソコン9のディスプレイ50bに表示するように制御する。
【0034】
次に、
図6を参照して、この画像分析システム10において行われる分析結果重畳映像の生成と表示の流れについて、説明する。まず、分析ボックス3側の分析結果重畳映像生成処理について、説明する。分析ボックス3のCPU21は、
図6のVMS51を用いて、固定カメラ2から入力される映像ストリームをデコードして、デコード後の映像(データ)を、(個人情報を含む)収集データ52としてハードディスク22に格納する。次に、分析ボックス3のCPU21は、映像分析プログラム53を用いて、(個人情報を含む)収集データ52を、(個人情報を含む)フレーム画像55に分割して、メインメモリ54(
図3中のRAM23に相当)に出力する。そして、分析ボックス3のCPU21は、映像分析プログラム53を用いて、上記のフレーム画像55の各々を各種画像認識用の(学習済の)DNNモデル57に入力し、DNNモデル57により、各フレーム画像55に対する画像認識処理(人検出、属性分析等の処理)を行って、上記の認識処理の結果を含む分析データ58を出力する。上記のDNNモデル57による画像認識処理には、DNN計算チップ56(
図3の(推論)チップ24a~24hに相当)が、用いられる。また、上記のフレーム画像55は、DNNモデル57に入力された後、直ぐに、メインメモリ54から消去される。なお、
図6中に破線で示すように、映像分析プログラム53は、上記のDNNモデル57を含んでいる。
【0035】
上記の分析データ58は、どのカメラの、どの時間のフレーム画像における、どの位置に、どのような属性の人がいるかを示した示したテキストデータであり、個人情報を含まないデータである。この分析データ58には、上記の映像分析プログラム53が、上記のDNNモデル57による人検出結果と条件設定パラメータ59とを用いて行った、来店者や通行者のカウント結果が含まれる。
【0036】
分析ボックス3のCPU21は、上記の映像分析プログラム53を用いた分析データ58の出力処理が終了すると、分析重畳映像生成プログラム60を用いて、分析結果重畳映像を生成する。具体的には、分析ボックス3のCPU21は、分析重畳映像生成プログラム60に従って、VMS51を用いて、ハードディスク22から、上記の(個人情報を含む)収集データ52を読み込んで、この収集データ52に、DNNモデル57による認識結果(人検出結果や、属性分析結果)を重ね合わせた映像である分析結果重畳映像を生成する。そして、分析ボックス3のCPU21は、分析重畳映像生成プログラム60に従い、VMS51を用いて、上記の分析結果重畳映像を、(個人情報を含む)収集データ52の一部として、ハードディスク22に格納する。従って、上記の収集データ52には、固定カメラ2から入力された映像ストリームをデコードした後の映像(データ)と、上記の分析結果重畳映像とが含まれる。上記の分析結果重畳映像の例としては、
図8に示す分析結果重畳映像63が挙げられる。この分析結果重畳映像63は、収集データ52(入り口カメラの映像データ)に、DNNモデル57による人検出結果を重ね合わせた映像である。
【0037】
サイネージ5側の分析結果重畳映像生成処理は、基本的に、上記の分析ボックス3側の分析結果重畳映像生成処理と同様である。サイネージ5側の収集データ65、映像分析プログラム66、メインメモリ67、フレーム画像68、DNN計算チップ69、DNNモデル70、分析データ71、条件設定パラメータ73、及び分析重畳映像生成プログラム72は、それぞれ、分析ボックス3側の収集データ52、映像分析プログラム53、メインメモリ54、フレーム画像55、DNN計算チップ56、DNNモデル57、分析データ58、条件設定パラメータ59、及び分析重畳映像生成プログラム60に相当する。また、サイネージ5側のストレージ20は、分析ボックス3側のハードディスク22と同様な役割を果たす。なお、
図6及び
図7には記載していないが、サイネージ5も、分析ボックス3側のVMS51と同様な機能を有するプログラムを有している。
【0038】
次に、
図6における管理サーバ1側とパソコン9側の処理について、説明する。管理サーバ1は、分析結果重畳映像表示プログラム61と、パラメータ調整プログラム62とを有している。これらのプログラムは、
図4におけるサーバ制御プログラム37に含まれる。パソコン9側の運営管理者等のユーザ(
図4に示すポータル38の利用者)が、パソコン9の操作部50aを用いて、管理サーバ1に対して、上記の分析結果重畳映像の表示を指示すると、管理サーバ1のCPU31は、上記の分析結果重畳映像表示プログラム61を用いて、分析ボックス3とアクセスして、VMS51を用いて、分析ボックス3のハードディスク22から、収集データ52に含まれる分析結果重畳映像を読み込か、又はサイネージ5とアクセスして、サイネージ5のストレージ20から、収集データ65に含まれる分析結果重畳映像を読み込む。そして、この分析結果重畳映像を含む画面(例えば、
図8に示す現状カウント状況確認画面81)を、パソコン9のディスプレイ50bに出力(表示)する。これにより、運営管理者等のユーザは、カメラ(固定カメラ2又は内蔵カメラ4)から入力された映像データ(収集データ)に分析結果を重畳した映像(分析結果重畳映像)を見て、現在の分析状況を確認することができる。また、詳細については後述するが、運営管理者等のユーザが、パソコン9の操作部50aを用いて、管理サーバ1に対して、パラメータの調整入力操作を行うことにより、管理サーバ1のCPU31は、上記のパラメータ調整プログラム62を用いて、分析ボックス3側の条件設定パラメータ59、又はサイネージ5側の条件設定パラメータ73を書き換える。これにより、運営管理者等のユーザ(システム開発委託事業者及びシステム運営委託事業者の作業員を含む)が、分析改善のために、今回の設定対象となるカメラの条件設定パラメータ(条件設定パラメータ59、又は条件設定パラメータ73)の調整を、容易に行うことができる。
【0039】
次に、
図7を参照して、この画像分析システム10において行われる画像分析結果(分析データ)の統計処理と、映像(可視化統計情報又は分析結果重畳映像)と重畳された検知条件(条件設定パラメータ)の閲覧・編集の流れについて、説明する。
図7中の加工プログラム76、映像の検索・表示プログラム78、検知条件データ抽出プログラム79、及び映像と重畳された検知条件の閲覧・編集用のプログラム80(以下、「検知条件閲覧・編集プログラム」と略す)は、いずれも、
図4に示すポータル38に含まれるプログラムである。
【0040】
まず、上記の画像分析結果の統計処理について、説明する。管理サーバ1のCPU31は、上記の加工プログラム76を用いて、上記
図6の説明で述べた、DNNモデル57又はDNNモデル70による認識処理の結果を含む分析データ58又は分析データ71(
図7では、「映像メタデータ74」又は「映像メタデータ75」)の加工処理(集計・統計処理)を行って、その処理結果を、ハードディスク32(
図4参照)内のデータベース77に、統計データ40として格納する。なお、分析ボックス3側の映像メタデータ74、及びサイネージ5側の映像メタデータ75については、いずれも、フレーム画像単位の分析(認識)結果自体ではなく、人毎に加工・集計した(まとめた)後のデータが、管理サーバ1に送られて、加工プログラム76による処理の対象となる。上記の統計データ40は、例えば、ある店の9時台の来店人数と性年齢分布等のデータであり、収集データ52、65と組み合わせたとしても、個人の特定が不可能な非個人情報である。この統計データ40には、
図5に示すように、可視化統計情報48と、エッジ側の各カメラ(固定カメラ2又は内蔵カメラ4)の条件設定パラメータ49(検知枠等)とが含まれている。
【0041】
この画像分析システム10では、上記のように、エッジ側(分析ボックス3及びサイネージ5)にだけ、個人情報(収集データ52及び収集データ65)を格納して、クラウド側(管理サーバ1)には、非個人情報である統計データ40(条件設定パラメータ49を含む)だけを格納するようにした。これにより、クラウド側(管理サーバ1)の運営を、店舗の運営会社以外の事業者(システム開発委託事業者、システム運営委託事業者等)に委託することができる。
【0042】
次に、この画像分析システム10における、映像と重畳された検知条件(条件設定パラメータ)の閲覧・編集処理の流れについて、説明する。運営管理者等のユーザが、パソコン9の操作部50aを用いて、管理サーバ1に対して、検知条件(検知枠等の条件設定パラメータ)の閲覧・編集の指示操作をすると、管理サーバ1のCPU31は、まず、映像の検索・表示プログラム78を用いて、分析ボックス3やサイネージ5に格納された過去の収集データ52、65の映像(分析結果重畳映像を含む)や、データベース77に格納された統計データ40に含まれる可視化統計情報の検索を行って、その検索結果の映像(可視化統計情報を含む)を抽出する。次に、管理サーバ1のCPU31は、検知条件データ抽出プログラム79を用いて、上記の抽出した検索結果の映像に適用されている現在の検知条件(検知枠等の条件設定パラメータ49)を、統計データ40から抽出する。そして、管理サーバ1のCPU31は、検知条件閲覧・編集プログラム80を用いて、上記の検索結果の映像(可視化統計情報を含む)に、上記の抽出した現在の検知条件を重畳した映像又は画像を、パソコン9のディスプレイ50bに表示して、ユーザによるパソコン9の操作部50aを用いた検知条件(検知枠等)の編集操作を受け付ける。
【0043】
次に、この画像分析システム10に採用されているユーザ・インタフェースについて、
図8乃至
図16を参照して、説明する。
図8は、現状カウント状況確認画面81を示す。この画面は、
図6の説明で述べた分析結果重畳映像の一種である分析結果重畳映像63を含む画面である。この分析結果重畳映像63は、ある店舗の入り口カメラで撮影した9時~10時の映像データ(
図6の収集データ52に相当)に、
図6のDNNモデル57による人検出結果を重ね合わせた映像である。分析結果重畳映像63には、DNNモデル57により検出した人の各々に対応するバウンディングボックス82が表示される。また、この現状カウント状況確認画面81におけるカウント結果表示欄81aには、上記の入り口カメラの現在の来店者カウント条件に基づく来店者カウント結果が、表示される。上記のような現状カウント状況確認画面81を用いることにより、現在のカウント条件に基づく来店者等の検知状況とカウント結果を、分かり易く可視化することができる。
【0044】
また、この画像分析システム10に採用されているユーザ・インタフェースには、条件設定パラメータ(検知枠等)の設定のシミュレーション用画面がある。
図9は、このシミュレーション用画面を用いた、条件設定パラメータ(検知枠等)設定のシミュレーション処理のフローチャートである。
図10は、上記のシミュレーション用画面の一例である来店者カウント領域設定シミュレーション画面83を示す。この来店者カウント領域設定シミュレーション画面83では、来店者カウント領域の検知枠(設定検知枠85)が、
図9における条件設定パラメータに相当する。この来店者カウント領域設定シミュレーション画面83には、今回の設定対象となるカメラの所定の時間帯の可視化統計情報(
図10に示す移動軌跡集計画像84、顔検出集計画像89(
図13参照)、又は性年齢認識集計画像)に、今回の設定対象となるカメラの現在の来店者カウント領域の設定検知枠85(条件設定パラメータの一種)が重畳表示される。ここで、上記の移動軌跡集計画像84は、
図10の例では、入り口カメラの、9時から10時までの撮影画像に対する人検出結果に基づいて作成された移動軌跡を示す画像である。また、上記の顔検出集計画像89は、
図13の例では、〇〇店の入り口カメラの、9時から10時までの撮影画像に対する顔検出結果(正確に言うと、撮影画像内の各エリアにおける顔検出頻度)に基づいて作成されたヒートマップであり、上記の性年齢認識集計画像は、今回の設定対象となるカメラの所定の時間帯の撮影画像に対する性年齢認識結果(正確に言うと、撮影画像内の各エリアにおける性年齢認識頻度)に基づいて作成されたヒートマップである。なお、上記の顔検出集計画像89(
図13参照)及び性年齢認識集計画像では、ヒートマップの背面側に、元の撮影画像における背景画像(撮影画像から動体(人)を除いた画像)が表示される。
【0045】
図10の来店者カウント領域設定シミュレーション画面83の場合を例にして、
図9のフローチャートに沿って、上記のシミュレーション用画面を用いた、条件設定パラメータ(検知枠等)設定のシミュレーション処理について説明する。ユーザが、パソコン9の操作部50aを用いて、管理サーバ1に対して、来店者カウント領域設定シミュレーション画面83を表示するように指示すると、管理サーバ1のCPU31は、来店者カウント領域設定シミュレーション画面83を表示する。そして、ユーザが、パソコン9の操作部50a(マウス等)により、
図10中のカメラ選択ボタン83aと時間帯選択ボタン83bと統計情報選択ボタン83cを操作して、今回の設定対象(解析対象)となるカメラと、推論結果(分析結果)の取得時間帯と、表示する可視化統計情報の種類を選択すると(S1)、管理サーバ1のCPU31は、選択したカメラと取得時間帯と可視化統計情報の種類に対応した可視化統計情報(
図10の例では、移動軌跡集計画像84)に、選択したカメラの現在の条件設定パラメータ(設定検知枠85)を重畳して、パソコン9のディスプレイ50bに表示すると共に、現在の設定検知枠85による分析結果(来店者カウント結果)を、ディスプレイ50b(カウント結果表示欄83h)に表示する(S2)。なお、管理サーバ1のCPU31は、上記S2の処理において、選択したカメラと取得時間帯と可視化統計情報の種類に対応した可視化統計情報と、選択したカメラの現在の条件設定パラメータ(設定検知枠85)を、上記の統計データ40(
図7等参照)から抽出する。
【0046】
上記S2の処理が完了すると、運営管理者等のユーザは、ディスプレイ50bに表示された、現在の条件設定パラメータ(設定検知枠85)と、この条件設定パラメータを用いた分析結果(現在の設定検知枠85を用いた来店者カウント結果)とを、確認する(S3)。この確認の結果、ユーザが、パソコン9の操作部50a(マウス等)により、条件設定パラメータ(設定検知枠85)の調整入力を行うと(S4でYES)、管理サーバ1のCPU31は、分析ボックス3やサイネージ5に格納された、今回の設定対象のカメラの過去の撮影画像(上記S1で選択したカメラと取得時間帯に対応した撮影画像)を取得して(S5)、上記S4の調整入力後の条件設定パラメータ(設定検知枠85)を用いて、上記S5で取得した今回の設定対象のカメラの撮影画像に対する分析をし直す(再分析を行う)(S6)。そして、再分析した結果の来店者カウント結果を、パソコン9のディスプレイ50b(カウント結果表示欄83h)に表示する(S7)。
【0047】
上記S4の条件設定パラメータ(設定検知枠85)の調整入力の方法について、より具体的に説明する。まず、ユーザが、パソコン9のマウス等を用いて、来店者カウント領域設定シミュレーション画面83における設定検知枠85の頂点85aをドラッグすることにより、設定検知枠85(設定検知領域(来店者カウント領域)の枠)を調整することができる。また、ユーザが、パソコン9のキーボード等を用いて、来店者カウント領域設定シミュレーション画面83における検知領域調整入力欄83fに、直接座標を入力する方法によっても、検知領域の調整、すなわち、設定検知枠85の調整を行うことができる。また、来店者カウント領域設定シミュレーション画面83の移動軌跡集計画像84上には。上記の今回の設定対象となるカメラの現在の設定検知枠85に加えて、推奨検知枠86が、表示される。ユーザが、パソコン9のマウス等を用いて、来店者カウント領域設定シミュレーション画面83における推奨検知領域設定ボタン83gをクリックすることにより、上記の検知領域調整入力欄83fの各頂点の入力欄に、推奨検知枠86の各頂点86aのx座標とy座標の値が入力される。上記のような種々の方法による設定検知枠85の調整入力後に、ユーザが、パソコン9のマウス等を用いて、計算ボタン83iをクリックすると、カウント結果表示欄81hに、今回の設定対象となるカメラについての、調整入力後の来店者カウント条件(設定検知枠85を含む)に基づく来店者カウント結果が、表示される。
【0048】
上記の来店者カウント領域設定シミュレーション画面83では、ユーザが、パソコン9のマウス等を用いて、カウント種別選択ボタン83dと移動方向選択ボタン83eを操作することにより、来店者カウント条件のうち、カウント種別と移動方向を調整入力することも可能である。ユーザが、パソコン9のマウス等を用いて、今回の設定対象となるカメラについての来店者カウント条件(設定検知枠85(設定検知領域)、カウント種別、及び移動方向)の調整入力を行った後、計算ボタン83iをクリックして、カウント結果表示欄81hに表示されたカウント結果(で表される精度)に満足した場合には、適用ボタン83jをクリックすることにより、上記の調整入力後の来店者カウント条件を適用することができる。上記の適用ボタン83jをクリックすることにより、
図7中のデータベース77における統計データ40に含まれる、今回の設定対象となるカメラについての来店者カウント条件(設定検知枠(設定検知領域)、カウント種別、及び移動方向)が、書き換えられる。
【0049】
また、この画像分析システム10に採用されているユーザ・インタフェースには、各種のカウント(例えば、来店者、通行者、立ち止まり者のカウント)の精度のランキング表示用の画面がある。
図11は、上記のカウント精度のランキング表示用画面の一例である来店者カウント精度ランキング表示画面87を示す。この来店者カウント精度ランキング表示画面87は、過去に設定した来店者カウント用の設定条件(特に、設定検知枠)のうち、その設定条件におけるカウント精度が高かったもののランキングを表示した画面である。この来店者カウント精度ランキング表示画面87には、各条件における精度、検知条件、(検知の)用途に加えて、設定検知枠87a、87bが表示される。本画像分析システム10では、来店者カウント精度ランキング表示画面87のような、カウント精度のランキング表示用画面を用いることにより、過去に設定した(人の)カウント用の設定条件のうち、同じ検知条件や用途で、カウント精度が高かった設定条件を参照(閲覧)することができる。
【0050】
次に、
図12のフローチャートを参照して、過去の設定対象となったカメラの撮影画像に基づく可視化統計情報を利用して、今回の設定対象となるカメラの撮影画像に適用する設定検知枠等の条件設定パラメータを設定する方法について、説明する。管理サーバ1のCPU31は、通信部36を用いて、エッジ側(分析ボックス3又はサイネージ5)から、カメラの撮影画像と、この撮影画像に含まれるフレーム画像に対する認識処理の結果とを重畳した重畳映像を受信すると(S11)、可視化統計情報生成部41(
図5参照)を用いて、所定の時間分の上記重畳映像を統計処理して、可視化統計情報を生成する(S12)。そして、管理サーバ1のCPU31は、
図5に示すように、生成した可視化統計情報48を、ハードディスク32に、統計データ40の一部として蓄積する(S13)。
【0051】
ユーザが、管理サーバ1のハードディスク32に蓄積された過去の可視化統計情報の中から、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した、過去の可視化統計情報を検索する場合には、例えば、
図13に示す類似可視化統計情報検索画面88を用いる。ユーザが、パソコン9のディスプレイ50bに、上記の類似可視化統計情報検索画面88を表示した状態で、パソコン9の操作部50aを用いて、店舗選択ボタン88a、カメラ選択ボタン88b、時刻選択ボタン88c、及び可視化統計情報選択ボタン88dを選択して、今回の設定対象となるカメラの所望の時間帯の撮影画像に基づく、所望の可視化統計情報の種類を選択すると、管理サーバ1のCPU31は、パソコン9のディスプレイ50bに、選択した店舗とカメラと時間帯と可視化統計情報の種類に対応した可視化統計情報(
図13の例では、顔検出集計画像89)を表示する。この顔検出集計画像89は、
図13の例では、○○店の入り口カメラの、9時から10時までの撮影画像に含まれるフレーム画像に対する顔検出結果(正確に言うと、上記撮影画像内の各エリアにおける顔検出頻度)に基づいて作成されたヒートマップである。
【0052】
上記の類似可視化統計情報検索画面88に、顔検出集計画像89等の可視化統計情報が表示された状態において、ユーザが、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した、過去の可視化統計情報を検索する場合には、パソコン9の操作部50a(マウス等)を用いて、類似可視化統計情報検索画面88上の類似可視化統計情報検索ボタン88eをクリックする。このクリック操作により、ユーザが、類似した過去の可視化統計情報の検索を指示すると(S14でYES)、管理サーバ1のCPU31(の検出部42(
図5参照))は、ハードディスク32に蓄積された過去の可視化統計情報の中から、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した、過去の可視化統計情報を検出(検索)する(S15)。
【0053】
上記の類似した可視化統計情報を検索する方法には、大きく分けて、2通りの方法がある。一つ目の方法は、管理サーバ1のCPU31(の検出部42)が、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に最も類似した、過去の可視化統計情報を、自動的に選択して、ユーザに提示する方法である。二つ目の方法は、管理サーバ1のCPU31が、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報と、ハードディスク32に蓄積された過去の複数の可視化統計情報とを、パソコン9のディスプレイ50bに並べて表示して、ユーザが、パソコン9の操作部50a(マウス等)を用いて、ディスプレイ50bに表示された過去の複数の可視化統計情報の中から、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に最も類似した、過去の可視化統計情報を選択する方法である。
【0054】
上記の一つ目の方法(今回の設定対象となるカメラの可視化統計情報に類似した可視化統計情報を、管理サーバ1のCPU31が自動的に検出する方法)の例としては、
図13の顔検出集計画像89の場合には、管理サーバ1のCPU31が、ハードディスク32に蓄積された過去の顔検出集計画像の中から、今、類似可視化統計情報検索画面88に表示されている顔検出集計画像89におけるヒートマップのパターンと類似したパターンのヒートマップの顔検出集計画像を自動的に検出して、ユーザに提示するという方法が挙げられる。具体的には、例えば、ユーザが、パソコン9の操作部50a(マウス等)を用いて、
図13に示す類似可視化統計情報検索画面88上の類似可視化統計情報検索ボタン88eをクリックすると、管理サーバ1のCPU31(の検出部42)が、
図14に示すように、今回の設定対象となるカメラの(撮影画像に基づく)顔検出集計画像89(
図13の顔検出集計画像89と同じ)から求めた、人の移動方向(左上から右下)に対応するベクトル92と、ハードディスク32に蓄積された過去の顔検出集計画像から求めた、人の移動方向に対応するベクトルとを比較して、今回の設定対象のカメラの顔検出集計画像89から求めたベクトル92に類似したベクトル93を有する、過去の顔検出集計画像91を検出する。そして、管理サーバ1のCPU31は、類似可視化統計情報検索結果表示画面90に、上記の今回の設定対象となるカメラの顔検出集計画像89と並べて、上記の検出した(類似した)過去の顔検出集計画像91を表示する。
【0055】
上記の今回の設定対象となるカメラの顔検出集計画像89のベクトル92に類似したベクトル93を有する、過去の顔検出集計画像91を検出する方法としては、今回の設定対象となるカメラの顔検出集計画像89のベクトル92と、過去の顔検出集計画像91のベクトル93との内積を求めて、この内積の値(スカラー量)が大きい時のベクトル93に対応する過去の顔検出集計画像91を選択するという方法が考えられる。
【0056】
上記の類似可視化統計情報検索結果表示画面90において、ユーザが、パソコン9の操作部50a(マウス等)を用いて、上記の(今回の設定対象となるカメラの顔検出集計画像89と類似したベクトル93を有する、)過去の顔検出集計画像91をクリック(選択)すると、管理サーバ1のCPU31は、上記の選択された過去の顔検出集計画像91の元になった過去の撮影画像に適用された、撮影画像分析用の条件設定パラメータ(主に、検知枠の各頂点の座標)を、ハードディスク32の統計データ40から読み取る。そして、管理サーバ1のCPU31(のパラメータ出力部43)は、
図15に示すように、上記の過去の顔検出集計画像91(
図14の顔検出集計画像91と同じ)と、この過去の顔検出集計画像91の元になった過去の撮影画像に適用された条件設定パラメータ(検知領域表示欄94fに表示された、検知枠の各頂点の座標)とを含む画面(類似パターン画像設定表示画面94)を、パソコン9のディスプレイ50bに出力する(表示させる)(
図12のS16)。
【0057】
ユーザは、上記のようにして、パソコン9のディスプレイ50bに表示された、(今回の設定対象となるカメラの顔検出集計画像89と類似したベクトル93を有する、)過去の顔検出集計画像91の元になった撮影画像に適用された条件設定パラメータ(検知枠の各頂点の座標)を参照(閲覧)することにより、今回の設定対象となるカメラの撮影画像に適した条件設定パラメータの値を知り、入力をすることができる。
【0058】
なお、
図15に示す類似パターン画像設定表示画面94には、上記の検知領域表示欄94fに加えて、店舗表示欄94a、カメラ表示欄94b、時間帯表示欄94c、カウント種別表示欄94d、移動方向表示欄94e、及びカウント結果表示欄94gが設けられている。店舗表示欄94aとカメラ表示欄94bには、上記の過去の顔検出集計画像91の元になった撮影画像を撮影したカメラが、どの店の、どのカメラであるかという情報が表示され、時間帯表示欄94cには、上記の過去の顔検出集計画像91の元になった撮影画像を撮影した時間帯が表示される。また、カウント種別表示欄94dと、移動方向表示欄94eとには、上記の過去の顔検出集計画像91の元になった撮影画像に適用された、カウント種別(どのような状態の人をカウントするのかという種別)と、移動方向(どの移動方向の人をカウントするのかという情報)とが、表示される。さらに、カウント結果表示欄94gには、カウント種別表示欄94d、移動方向表示欄94e、及び検知領域表示欄94fに表示された来店者カウント条件を用いて、上記の過去の顔検出集計画像91の元になった撮影画像に対する、来店者カウント処理を行った結果の人数が、表示される。
【0059】
次に、上記の二つ目の方法(今回の設定対象となるカメラの可視化統計情報と、過去の複数の可視化統計情報とを、パソコン9のディスプレイ50bに並べて表示して、ユーザが、今回の設定対象となるカメラの可視化統計情報に最も類似した、過去の可視化統計情報を選択する方法)の具体例について、説明する。この方法を採用する場合にも、ユーザが、パソコン9の操作部50a(マウス等)を用いて、
図13に示す類似可視化統計情報検索画面88上の店舗選択ボタン88a、カメラ選択ボタン88b、時刻選択ボタン88c、及び可視化統計情報選択ボタン88dを選択して、今回の設定対象となるカメラの所定の時間帯の撮影画像に基づく、所望の可視化統計情報の種類を選択すると、管理サーバ1のCPU31は、パソコン9のディスプレイ50bに、選択した店舗とカメラと時間帯と可視化統計情報の種類に対応した可視化統計情報(
図13の例では、顔検出集計画像89)を表示する。この状態において、ユーザが、パソコン9のマウス等を用いて、類似可視化統計情報検索画面88上の類似可視化統計情報検索ボタン88eをクリックすると、管理サーバ1のCPU31(の表示制御部44)が、
図16の類似可視化統計情報選択画面97に示すように、今回の設定対象となるカメラの撮影画像に基づく顔検出集計画像89と、ハードディスク32に蓄積された過去の複数の顔検出集計画像96a~96iとを、パソコン9のディスプレイ50b(候補画像表示エリア95)に並べて表示する。なお、
図16の候補画像表示エリア95に表示される顔検出集計画像96a~96iでは、これらの画像における背景画像の部分を省略して、ヒートマップの部分のみを示している。
【0060】
上記の候補画像表示エリア95に表示される過去の複数の顔検出集計画像96a~96iは、ハードディスク32に蓄積された過去の複数の顔検出集計画像のうち、今回の設定対象となるカメラと用途や検知条件が同じものであることが好ましい。また、上記の候補画像表示エリア95に表示される過去の複数の顔検出集計画像96a~96iは、ハードディスク32に蓄積された過去の複数の顔検出集計画像のうち、今回の設定対象となるカメラの撮影画像に基づく顔検出集計画像89と近いパターンのヒートマップの顔検出集計画像であることが望ましい。
【0061】
ユーザが、パソコン9の操作部50a(マウス等)を用いて、上記の候補画像表示エリア95に表示された、過去の複数の顔検出集計画像96a~96iの中から、今回の設定対象となるカメラの撮影画像に基づく顔検出集計画像89に最も類似した、過去の顔検出集計画像をクリック(選択)すると、管理サーバ1のCPU31は、上記
図14の類似可視化統計情報検索結果表示画面90において、過去の顔検出集計画像91をクリックした場合と同様な処理を行う。すなわち、管理サーバ1のCPU31は、上記の選択された過去の顔検出集計画像(96a~96iのいずれか)の元になった過去の撮影画像に適用された、撮影画像分析用の条件設定パラメータ(検知枠の各頂点の座標)を、ハードディスク32の統計データ40から読み取って、
図15に示すように、
図16で選択された過去の顔検出集計画像91と、この過去の顔検出集計画像91の元になった過去の撮影画像に適用された条件設定パラメータ(検知領域表示欄94fに表示された、検知枠の各頂点の座標)とを含む画面(類似パターン画像設定表示画面94)を、パソコン9のディスプレイ50bに出力する(表示させる)。
【0062】
上記のように、本実施形態の画像分析システム10、管理サーバ1、及びサーバ制御プログラム37によれば、今回の設定対象となるカメラ(以下、「今回のカメラ」と略す)(固定カメラ2又は内蔵カメラ4)の撮影画像に基づく可視化統計情報(顔検出集計画像89等)に類似した、過去の可視化統計情報(顔検出集計画像91等)を検出し、検出した過去の可視化統計情報の元になった過去の撮影画像に適用された、撮影画像分析用の条件設定パラメータ(
図15に示す検知枠(検知領域)の各頂点の座標等)を含む画面(
図15の類似パターン画像設定表示画面94)を、パソコン9のディスプレイ50bに出力(表示)して、システムの運営管理者等のユーザが閲覧することができるようにした。ここで、今回のカメラの撮影画像に基づく可視化統計情報に類似した、過去の可視化統計情報は、今回のカメラの撮影画像と同様な人の移動範囲の撮影画像(におけるフレーム画像)に対して、今回のカメラの撮影画像に対して行った認識処理と同様な認識処理をした結果を用いた可視化統計情報である可能性が高い。このため、ユーザが、上記の閲覧した(今回のカメラの撮影画像に基づく可視化統計情報に類似した、)過去の可視化統計情報(例えば、過去の顔検出集計画像91)の元になった撮影画像に適用された条件設定パラメータ(例えば、
図15に示す検知枠(検知領域)の各頂点の座標等)を参照して、今回のカメラの撮影画像分析用の条件設定パラメータを入力することにより、システムの運営管理者等のユーザが、容易に、適切な条件設定パラメータ(例えば、人の検知枠(検知領域)の各頂点の座標等)を入力することができる。
【0063】
また、本実施形態の画像分析システム10によれば、今回の(設定対象となる)カメラの現在の撮影画像分析用の条件設定パラメータ(例えば、
図10の(人の)設定検知枠85)を、今回のカメラの撮影画像に基づく可視化統計情報(例えば、
図10の移動軌跡集計画像84)に重畳させて、パソコン9のディスプレイ50bに表示し、システムの運営管理者等のユーザが、表示された条件設定パラメータの調整入力を行うことができるようにした。これにより、ユーザが、今回のカメラの撮影画像に基づく可視化統計情報(移動軌跡集計画像84等)に重畳された、現在の条件設定パラメータ(設定検知枠85等)を見ながら、条件設定パラメータの調整入力を行うことができるので、今回のカメラについて、適切な条件設定パラメータを、容易に入力することができる。
【0064】
また、本実施形態の画像分析システム10、管理サーバ1、及びサーバ制御プログラム37によれば、
図14に示すように、管理サーバ1のCPU31(の検出部42)が、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報(例えば、顔検出集計画像89)から求めた、人の移動方向に対応するベクトル92と、ハードディスク32に蓄積された過去の可視化統計情報(例えば、過去の顔検出集計画像91)から求めた、人の移動方向に対応するベクトル93とを比較して、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に類似した過去の可視化統計情報を検出するようにした。これにより、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報(顔検出集計画像89等)に類似した、過去の可視化統計情報(顔検出集計画像91等)を容易に検出することができる。
【0065】
また、本実施形態の画像分析システム10によれば、管理サーバ1のCPU31(の表示制御部44)が、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報(例えば、
図16の顔検出集計画像89)と、ハードディスク32に蓄積された過去の複数の可視化統計情報(例えば、
図16の顔検出集計画像96a~96i)とを、パソコン9のディスプレイ50b上に表示して、ユーザが、パソコン9のマウス等を用いて、ディスプレイ50b上に表示された過去の複数の可視化統計情報(例えば、顔検出集計画像96a~96i)の中から、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報(例えば、顔検出集計画像89)に最も類似した過去の可視化統計情報を選択することができるようにした。これにより、簡易な構成で、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報に最も類似した過去の可視化統計情報を検索することが可能になる。
【0066】
また、本実施形態の画像分析システム10によれば、ユーザが、パソコン9の操作部50aを用いて調整した後の条件設定パラメータ(例えば、
図10の(人の)設定検知枠85)を用いて、今回の設定対象となるカメラの撮影画像に対する分析をし直して(再分析をして)、再分析後の分析結果(例えば、
図10のカウント結果表示欄83hの来店者カウント結果)をパソコン9のディスプレイ50bに表示するようにした。これにより、今回の設定対象となるカメラについて、条件設定パラメータの調整内容に応じた、(このカメラの撮影画像に対する)分析結果の相違をシミュレーションすることができる。従って、条件設定パラメータの調整入力により設定した条件設定(例えば、
図10の設定検知枠85)の正確さを、ユーザが容易に確認することができる。
【0067】
変形例:
なお、本発明は、上記の各実施形態の構成に限られず、発明の趣旨を変更しない範囲で種々の変形が可能である。次に、本発明の変形例について説明する。
【0068】
変形例1:
上記の実施形態では、条件設定パラメータのシミュレーション画面(例えば、
図10の来店者カウント領域設定シミュレーション画面83)において、今回の設定対象となるカメラの現在の条件設定パラメータ(例えば、
図10の設定検知枠85)を、今回の設定対象となるカメラの撮影画像に基づく可視化統計情報(例えば、
図10の移動軌跡集計画像84)に重畳させて、パソコン9のディスプレイ50bに表示するようにした。けれども、条件設定パラメータのシミュレーション画面において、(1)今回の設定対象となるカメラの現在の条件設定パラメータ(設定検知枠等)を、今回の設定対象となるカメラの所定の時間分の撮影画像(映像)に重畳させて、パソコンのディスプレイに表示するようにしてもよいし、(2)今回の設定対象となるカメラの現在の条件設定パラメータ(設定検知枠等)を、今回の設定対象となるカメラの所定の時間分の分析結果重畳映像(例えば、
図8の分析結果重畳映像63)に重畳させて、パソコンのディスプレイに表示するようにしてもよい。
【0069】
また、上記の実施形態では、条件設定パラメータのシミュレーション画面(例えば、
図10の来店者カウント領域設定シミュレーション画面83)において、今回の設定対象となるカメラの現在の条件設定パラメータ(例えば、
図10の設定検知枠85)を、今回の設定対象となるカメラの撮影画像に基づく移動軌跡集計画像84に重畳させて、パソコン9のディスプレイ50bに表示するようにした。しかしながら、条件設定パラメータのシミュレーション画面において、今回の設定対象となるカメラの現在の条件設定パラメータが重畳される可視化統計情報は、上記の移動軌跡集計画像に限らず、
図13に示すような顔検出集計画像89であっても良いし、上記の性年齢認識集計画像(今回の設定対象となるカメラの所定の時間帯の撮影画像に含まれる各フレーム画像と、これらの各フレーム画像に対する性年齢認識結果とを重畳した各重畳画像を統計処理することにより生成したヒートマップ)であっても良い。
【0070】
変形例2:
上記の実施形態では、
図13乃至
図16に示すように、ハードディスク32に蓄積された過去の顔検出集計画像の中から、今回の設定対象となるカメラの撮影画像に基づく顔検出集計画像89に類似した、過去の可視化統計情報を検出(検索)する場合の例を示した。けれども、ハードディスク32に蓄積された過去の移動軌跡集計画像の中から、今回の設定対象となるカメラの撮影画像に基づく移動軌跡集計画像(における移動軌跡のパターン)に類似したパターンの、過去の移動軌跡集計画像を検出(検索)するようにしても良いし、ハードディスク32に蓄積された過去の性年齢認識集計画像(におけるヒートマップのパターン)に類似したパターンの、過去の性年齢認識集計画像を検出(検索)するようにしても良い。
【0071】
変形例3:
上記の実施形態では、請求項における「撮影画像分析用の条件設定パラメータ」が、(人の)検知枠(又は、検知枠の各頂点の座標)である場合の例を示したが、本発明における(撮影画像分析用の)条件設定パラメータは、これに限られず、例えば、撮影画像に対する物体検出又は物体認識(例えば、人検出や、人の顔検出)の信頼度であっても良い。例えば、条件設定パラメータを人検出の信頼度とすることにより、この信頼度を調整することで、クラウドC側の管理サーバ1に送る分析データ(
図7中の映像メタデータ74に相当)の量(分析データの範囲)を調整することができる。
【0072】
変形例4:
上記の実施形態では、画像分析システム10が、クラウドC上に、管理サーバ1のみを備える場合の例を示したが、画像分析システムの構成はこれに限られず、例えば、画像分析システムが、クラウド上に、管理サーバに加えて、AI分析サーバを備えるようにしても良い。AI分析サーバは、例えば、分析ボックスやサイネージからの物体認識結果に基づいて、各店舗内における人物の行動を分析し、分析結果の情報を、マーケティングや防犯等の種々の用途のアプリケーションが使い易いデータに変換して出力する役割を果たす。また、画像分析システムが、クラウド上に、固定カメラと分析ボックスの管理用の管理サーバと、サイネージの管理用のサイネージ管理サーバとを備えるようにしても良い。
【0073】
変形例5:
上記の実施形態では、画像分析システム10が、店舗S内に、固定カメラ2及び分析ボックス3と、サイネージ5とを備える場合の例を示したが、画像分析システムは、店舗内に、固定カメラ及び分析ボックスのみを備え、サイネージを備えていなくても良いし、店舗内に、サイネージのみを備え、固定カメラ及び分析ボックスを備えていなくても良い。
【0074】
変形例6:
上記の実施形態では、管理サーバ1のCPU31が、可視化統計情報生成部41を備える場合の例を示したが、分析ボックス及びサイネージが、可視化統計情報生成部を備えて、可視化統計情報を生成するようにしても良い。
【0075】
また、上記の実施形態では、請求項における表示手段が、パソコン9のディスプレイ50bであり、請求項における選択入力手段及び調整入力手段が、主に、パソコン9の操作部50aである場合の例を示したが、請求項における表示手段が、管理サーバのディスプレイであり、請求項における選択入力手段及び調整入力手段が、管理サーバの操作部35であっても良い。
【符号の説明】
【0076】
1 管理サーバ(サーバ)
2 固定カメラ(エッジ側のカメラの一部)
3 分析ボックス(エッジ側の画像分析装置の一部)
4 内蔵カメラ(エッジ側のカメラの一部)
5 サイネージ(エッジ側の画像分析装置の一部)
10 画像分析システム(パラメータ閲覧システム、パラメータ調整システム)
32 ハードディスク(統計情報蓄積手段)
36 通信部(受信手段)
37 サーバ制御プログラム
41 可視化統計情報生成部(可視化統計情報生成手段)
42 検出部(検出手段)
43 パラメータ出力部(パラメータ出力手段)
44 表示制御部(表示制御手段)
45 パラメータ表示制御部(パラメータ表示制御手段)
46 再分析部(再分析手段)
47 再分析結果表示制御部(再分析結果表示制御手段)
48 可視化統計情報
49 条件設定パラメータ
50a 操作部(調整入力手段、選択入力手段)
50b ディスプレイ(表示手段)
92 ベクトル(今回の設定対象となるカメラの撮影画像に基づく可視化統計情報から求めた、人の移動方向に対応するベクトル)
93 ベクトル(過去の可視化統計情報から求めた、人の移動方向に対応するベクトル)