(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2025004173
(43)【公開日】2025-01-14
(54)【発明の名称】誤検出判定装置、方法、およびプログラム
(51)【国際特許分類】
G06T 7/00 20170101AFI20250106BHJP
H04N 7/18 20060101ALI20250106BHJP
【FI】
G06T7/00 300Z
H04N7/18 K
【審査請求】有
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2024176880
(22)【出願日】2024-10-09
(62)【分割の表示】P 2021030873の分割
【原出願日】2021-02-26
(71)【出願人】
【識別番号】000202361
【氏名又は名称】綜合警備保障株式会社
(74)【代理人】
【識別番号】110004381
【氏名又は名称】弁理士法人ITOH
(72)【発明者】
【氏名】牛島 央智
(57)【要約】 (修正有)
【課題】人以外の物体の誤検出であるか否かを判定する誤検出判定装置、方法およびプログラムを提供する。
【解決手段】誤検出判定装置および赤外線カメラである撮像装置を含む誤検出判定システムにおいて、誤検出判定装置10は、撮像装置が撮影した複数の画像を取得する画像取得部と、画像内において人らしい物体を検出する物体検出部と、物体が検出された画像内の、物体が検出された領域における白飛びの有無を判定する白飛び判定部と、白飛びがある場合において、物体の動きが人の動きであるか否かを判定する動き判定部と、物体の動きが人の動きではないと判定した場合には物体の検出は誤検出であると判定する誤検出判定部と、を備える。
【選択図】
図3
【特許請求の範囲】
【請求項1】
複数の画像を取得し該複数の画像から物体を検出する物体検出装置において、
前記複数の画像のうち、物体が検出された画像である物体検出画像の明るさと、前記複数の画像のうち、前記物体検出画像と、該物体検出画像以外の画像との相関または類似度と、に基づいて、前記物体の検出は誤検出であると判定することを特徴とする、誤検出判定装置。
【請求項2】
前記物体検出画像において明るさが所定の明るさを超える白飛びの有無を判定する白飛び判定部をさらに備え、
前記白飛びがあると判定された場合においては、前記複数の画像のうち、前記物体検出画像と、該物体検出画像の直前および直後のそれぞれの画像と、の相関に基づいて、前記物体の検出は誤検出であると判定し、
前記白飛びがないと判定された場合においては、前記物体検出画像を除く前記複数の画像と、前記物体検出画像と、の相関に基づいて、前記物体の検出は誤検出であると判定する
ことを特徴とする、請求項1に記載の誤検出判定装置。
【請求項3】
前記白飛びがあると判定された場合においては、前記複数の画像のうち、前記物体検出画像と、該物体検出画像の直前および直後のいずれか一方の画像と、が相関しなければ、前記物体の検出は誤検出であると判定し、
前記白飛びがないと判定された場合においては、前記物体検出画像を除く前記複数の画像のうち、前記物体検出画像と相関しない画像が所定数未満であれば、前記物体の検出は誤検出であると判定する
ことを特徴とする、請求項2に記載の誤検出判定装置。
【請求項4】
前記白飛びがあると判定された場合においては、前記物体検出画像の前記物体が検出された領域である物体検出領域と、前記物体検出画像の直前および直後の画像における前記物体検出領域と同一の座標位置の領域のそれぞれと、の相関に基づいて、前記物体の検出は誤検出であると判定し、
前記白飛びがないと判定された場合においては、前記物体検出領域と、前記複数の画像のうち前記物体検出画像以外の画像の前記物体検出領域と同一の座標位置の領域との相関に基づいて、前記物体の検出は誤検出であると判定する
ことを特徴とする、請求項2に記載の誤検出判定装置。
【請求項5】
前記物体検出画像において明るさが所定の明るさを超える白飛びの有無を判定する白飛び判定部をさらに備え、
前記白飛びがあると判定された場合においては、前記複数の画像のうち、前記物体検出画像と、該物体検出画像の直前および直後のそれぞれの画像と、の類似度に基づいて、前記物体の検出は誤検出であると判定し、
前記白飛びがないと判定された場合においては、前記物体検出画像を除く前記複数の画像と、前記物体検出画像と、の類似度に基づいて、前記物体の検出は誤検出であると判定する
ことを特徴とする、請求項1に記載の誤検出判定装置。
【請求項6】
前記白飛びがあると判定された場合においては、前記複数の画像のうち、前記物体検出画像と、該物体検出画像の直前および直後のいずれか一方の画像と、が類似しなければ、前記物体の検出は誤検出であると判定し、
前記白飛びがないと判定された場合においては、前記物体検出画像を除く前記複数の画像のうち、前記物体検出画像と類似しない画像が所定数未満であれば、前記物体の検出は誤検出であると判定する
ことを特徴とする、請求項5に記載の誤検出判定装置。
【請求項7】
前記白飛びがあると判定された場合においては、前記物体検出画像の前記物体が検出された領域である物体検出領域と、前記物体検出画像の直前および直後の画像における前記物体検出領域と同一の座標位置の領域のそれぞれと、の類似度に基づいて、前記物体の検出は誤検出であると判定し、
前記白飛びがないと判定された場合においては、前記物体検出領域と、前記複数の画像のうち前記物体検出画像以外の画像の前記物体検出領域と同一の座標位置の領域との類似度に基づいて、前記物体の検出は誤検出であると判定する
ことを特徴とする、請求項5に記載の誤検出判定装置。
【請求項8】
複数の画像を取得し該複数の画像から物体を検出する物体検出装置に備わる誤検出判定装置が実行する方法であって、
前記複数の画像のうち、物体が検出された画像である物体検出画像の明るさと、前記複数の画像のうち、前記物体検出画像と、該物体検出画像以外の画像との相関または類似度と、に基づいて、前記物体の検出は誤検出であると判定する方法。
【請求項9】
複数の画像を取得し該複数の画像から物体を検出する物体検出装置に備わる誤検出判定装置を、
前記複数の画像のうち、物体が検出された画像である物体検出画像の明るさと、前記複数の画像のうち、前記物体検出画像と、該物体検出画像以外の画像との相関または類似度と、に基づいて、前記物体の検出は誤検出であると判定する誤検出判定装置
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、誤検出判定装置、方法、およびプログラムに関する。
【背景技術】
【0002】
従来、侵入者を検知するために、防犯、監視カメラを用いて、オフィス、住居、車内等に侵入した人を検出する技術が知られている。
【0003】
特許文献1では、人の検出の技術として、魚眼カメラにより得られた魚眼画像から検出された人体候補のバウンディングボックスの形状やサイズを、予め定められた形状やサイズの基準と比較することが開示されている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、防犯、監視カメラが撮影した画像内の侵入者は、身体の一部が隠蔽されていたり(つまり、身体の一部しか判別できない)、さまざまな体勢(例えば、立っているだけではなく、しゃがんでいたり、ほふく前進をしていたりする)であったりする。そのため、防犯、監視カメラの画像内の侵入者の検出においては、バウンディングボックスの形状やサイズによる対処では、画像内の人以外の物体を誤って検出してしまう可能性がある。
【0006】
さらに、特許文献1にある技術に暗視カメラを組み合わせて夜間の監視に使用した場合、夜間に撮影された人の画像は、カメラのレンズに虫等が接近することにより生じる白飛びに似ているため、虫等により生じた白飛びを人として誤検出してしまうことがあった。
【0007】
そこで、本発明では、夜間に撮影した画像から侵入者を検知するシステムにおいて、人以外の物体の誤検出であるか否かを判定することを目的とする。
【課題を解決するための手段】
【0008】
本発明の一実施形態に係る誤検出判定装置は、複数の画像を取得する画像取得部と、前記画像内において人らしい物体を検出する物体検出部と、前記物体が検出された画像内の前記物体が検出された領域における白飛びの有無を判定する白飛び判定部と、前記白飛びがある場合において、前記物体の動きが人の動きであるか否かを判定する動き判定部と、前記物体の動きが人の動きではないと判定した場合には前記物体の検出は誤検出であると判定する誤検出判定部と、を備える。
【発明の効果】
【0009】
本発明によれば、人以外の物体の誤検出であるか否かを判定することができる。
【図面の簡単な説明】
【0010】
【
図1】本発明の一実施形態に係る概要を説明するための図である。
【
図2】本発明の一実施形態に係る全体のシステム構成図である。
【
図3】本発明の一実施形態に係る誤検出判定装置の機能ブロック図である。
【
図4】本発明の一実施形態に係る誤検出判定処理のフローチャートである。
【
図5】本発明の一実施形態に係る虫動き判定処理のフローチャートである。
【
図6】本発明の一実施形態に係る人動き判定処理のフローチャートである。
【
図7】本発明の一実施形態に係る虫の動きの判定について説明するための図である。
【
図8】本発明の一実施形態に係る人の動きの判定について説明するための図である。
【
図9】本発明の一実施形態に係る誤検出判定装置のハードウェア構成の一例を示すブロック図である。
【発明を実施するための形態】
【0011】
以下、図面に基づいて本発明の実施の形態を説明する。
【0012】
本明細書では、夜間に赤外線照明を備えた赤外線カメラ(以下、単に「赤外線カメラ」と称する)で侵入者を検知するシステムにおいて、虫により生じた白飛びが人として誤検出される実施形態を説明するが、本発明は、虫以外の小動物等(人以外の任意の物体であればよい)により生じた白飛びについても適用することができる。
【0013】
図1は、本発明の一実施形態に係る概要を説明するための図である。本発明の一実施形態では、監視エリア内に設置された赤外線カメラが撮影した画像内で人らしい物体(具体的には、人であると想定される大きさや形状の物体)が検出された場合に、その物体が検出された領域に白飛びがあるか否かによって、その物体が誤検出されたものではない(つまり、人である)か、あるいは、誤検出されたものである(つまり、人ではない)かを判定することができる。
【0014】
ステップ1(S1)において、赤外線カメラが撮影した画像が取得される。
【0015】
ステップ2(S2)において、S1の画像内で人らしい物体(具体的には、人であると想定される大きさや形状の物体)が検出されたとする。
【0016】
ステップ3(S3)において、S2の検出のスコア(具体的には、検出の信頼度)が閾値よりも大きいか、あるいは、小さいかが判定される。閾値よりも大きい場合には、ステップ8へ進み、S2で検出された物体は人である(つまり、誤検出ではない)と判定される。閾値よりも小さい場合には、ステップ4へ進む。
【0017】
ステップ4(S4)において、S2で物体が検出された画像の当該物体が検出された領域に白飛びがあるか否かが判定される。白飛びが無い場合には、ステップ6へ進む。白飛びが有る場合には、ステップ5へ進む。
【0018】
ステップ5(S5)において、S2で検出された物体の虫等らしい動きの有無(虫等の動きであるか否か)が判定される。虫等らしい動きが有る場合には、S9へ進み、S2における人らしい物体の検出は誤検出であると判定される。虫等らしい動きが無い場合には、ステップ6へ進む。
【0019】
ステップ6(S6)において、S2で検出された人らしい物体の、動きの有無が判定される。動きが有る場合には、S8へ進み、S2で検出された物体は人であると判定される。動きが無い場合には、S7へ進み、S2に検出された物体は人ではないと判定される。
【0020】
図2は、本発明の一実施形態に係る全体のシステム構成図である。
図2に示されるように、誤検出判定システム1は、誤検出判定装置10および赤外線カメラの撮像装置20を含む。誤検出判定装置10は、任意のネットワークあるいは記憶媒体を介して、撮像装置20が撮影した画像を取得することができる。以下、それぞれについて説明する。
【0021】
誤検出判定装置10は、撮像装置20が撮影した画像内で物体(具体的には、人であると想定される大きさや形状の物体)が検出された場合に、その物体が誤検出ではない(つまり、人である)か、あるいは、誤検出である(つまり、人ではない)かを判定する。誤検出判定装置10は、サーバ等のコンピュータである。後段で、
図3を参照しながら、誤検出判定装置10について詳細に説明する。
【0022】
撮像装置20は、オフィス、住居、車内等に侵入した人を撮影する防犯、監視カメラ等の赤外線カメラである。例えば、撮像装置20は、赤外線センサ等の侵入者検知部(図示せず)が何らかの対象物を検知すると、検知時の前後数秒間に撮影した画像を内部メモリ(図示せず)に記録し、誤検出判定装置10へ送信する。赤外線センサ等を撮像装置20と分けて設置し、赤外線センサ等が対象物を検知すると、撮像装置20が対象エリアを撮影するよう連動させてもよい。また、赤外線センサ等が検知信号を誤検出判定装置10へ送信すると、誤検出判定装置10が、検知信号の内容に応じて、撮影した画像を自らに送信するよう撮像装置20に要求するようにしてもよい。
【0023】
図3は、本発明の一実施形態に係る誤検出判定装置10の機能ブロック図である。
図3に示されるように、誤検出判定装置10は、画像取得部101と、物体検出部102と、検出スコア判定部103と、白飛び判定部104と、虫動き判定部105(類似度算出部151および判定部152を有する)と、人動き判定部106(類似度算出部161および判定部162を有する)と、誤検出判定部107と、を備えることができる。なお、虫動き判定部105と、人動き判定部106を総称して、動き判定部ともいう。また、誤検出判定装置10は、プログラムを実行することで、画像取得部101、物体検出部102、検出スコア判定部103、白飛び判定部104、虫動き判定部105(類似度算出部151および判定部152を有する)、人動き判定部106(類似度算出部161および判定部162を有する)、誤検出判定部107として機能することができる。
【0024】
画像取得部101は、撮像装置20が撮影した複数の画像(つまり、複数のフレーム(静止画像)からなる動画)を取得する。または、画像取得部101は、前述の赤外線センサ等から検知信号を受信し、その検知信号の内容に応じて、撮像装置20に対して撮影した画像を自らに送信するよう要求し、その要求に応じて撮像装置20が送信した複数の画像を取得してもよい。
【0025】
物体検出部102は、画像取得部101が取得した複数の画像の各々(つまり、各フレーム)内で物体(具体的には、人であると想定される身体のパーツあるいは全身)を検出する。物体検出部102は、画像内で物体が検出された領域(例えば、矩形)の座標情報、および、検出のスコア(検出の信頼度)、を誤検出判定装置10内の図示しないメモリ等に記憶させる。以下、物体検出部102が物体を検出した画像(フレーム)を物体検出画像、また、物体検出画像内で物体が検出された領域を物体検出領域ともいう。
【0026】
例えば、物体検出部102は、ディープラーニング等の機械学習により、画像内で物体を検出することができる。具体的には、物体検出部102は、予め人体の全体および部分的な画像をニューラルネットワーク等により学習させた学習済みモデルに画像を入力させ、画像内に人であると想定される物体があれば検出し、画像内の物体検出領域、および、検出のスコア(検出の信頼度)を出力させる。ここでは、「アンカー ボックスによる人・物体の検出」を例として示す。例えば、「SSD(Single Shot Multibox Detector)」、「M2Det」、「Faster R-CNN」のような物体検出手法では、画像を入力することで得られる特徴マップの各セルに対して、複数の縦横比のアンカーボックスを適用し、「人の矩形」と「人検出のスコア」の候補を得る。その後、NMS(Non-Maximum Suppression)を適用して、「人の矩形」の重なりが一定以上の場合は、「人検出のスコア」が高い矩形だけを残して出力とする。人・物体検出の手法は様々あるが、「人の矩形(物体検出領域)」と「人検出のスコア」を出力する手法であれば、手法は問わない。
【0027】
なお、1つまたは複数の画像(フレーム)内で物体が検出されうる。
【0028】
検出スコア判定部103は、物体検出部102による検出のスコア(検出の信頼度(機械学習による予測・出力の確かさを示す))が閾値よりも小さいか否かを判定する。
【0029】
白飛び判定部104は、物体が検出された画像に白飛びがあるか否かを判定する。具体的には、白飛び判定部104は、物体が含まれる領域(例えば、矩形)の全画素中、明るさの画素値が所定の値(例えば、250)以上である画素の割合を算出する。白飛び判定部104は、全画素数(幅の画素数×高さの画素数)に対する、明るさの画素値が所定の値(例えば、250)以上である画素の数の割合が、所定の数値(例えば、20パーセント)以上であれば、白飛びであると判定する。
【0030】
虫動き判定部105は、物体検出部102が検出した物体の動きの有無(虫等の、人以外の動きであるか否か)を判定する。具体的には、虫動き判定部105は、物体検出画像(人らしい物体が検出された時刻tにおけるフレーム)と、その前後の画像(時刻t-1におけるフレームと時刻t+1におけるフレーム)と、がそれぞれ類似するか否かに基づいて、物体の動きの有無を判定する。以下、虫動き判定部105の類似度算出部151と判定部152に分けて説明する。
【0031】
類似度算出部151は、物体検出画像(人らしい物体が検出された時刻tにおけるフレーム)と、その前後の画像(時刻t-1におけるフレームと時刻t+1におけるフレーム)と、のそれぞれの類似度を算出する。具体的には、類似度算出部151は、物体検出画像内で物体が含まれる領域(例えば、矩形)と、物体検出画像内の領域と同一の座標位置の前後の画像内での領域(例えば、矩形)と、を比較する。
【0032】
なお、複数の画像(フレーム)内で人らしい物体が検出された場合には、類似度算出部151は、各物体検出画像と、そのそれぞれの前後の画像(つまり、動画に含まれる前後のフレーム)と、の類似度を算出する。
【0033】
<<類似度の算出>>
ここで、類似度の算出について詳細に説明する。例えば、類似度算出部151は、ZNCC(Zero-mean Normalized Cross Correlation、零平均正規化相互相関)の手法を用いることができる。例えば、物体が含まれるM画素×N画素の矩形と、前後の画像内でのM画素×N画素の矩形と、の類似度を算出するとする。2つの矩形の同一の座標の各画素(T(i,j)とI(i,j)とする)を用いる。類似度算出部151は、類似度として、
【0034】
【0035】
【0036】
【0037】
【数4】
である。類似度が1であると画像に変化がない、つまり画像内の物体の動きがないと判定することができ、類似度が-1に近づくほど画像が類似していない、つまり画像内の物体の動きが有ると判定することができる。
【0038】
なお、類似度は、ZNCCの手法に限られず、NCC(Normalized Cross-Correlation、正規化相互相関)、SSD(Sum of Squared Difference)、SAD(Sum of Absolute Difference)等の任意のテンプレートマッチングの手法により算出されうる。
【0039】
判定部152は、物体検出部102が物体を検出した物体検出画像における物体検出領域ごとに、その前後の画像における該物体検出領域と同一の座標位置の領域についてそれぞれ類似度を算出し、少なくともそのいずれか1つの類似度が閾値以下であるか否かを判定する。具体的には、判定部152は、少なくとも1つの物体検出画像に対し、その前後の画像の少なくともいずれか1つが、類似度が閾値以下である場合には、物体の動きが有ると判定する。判定部152は、全ての物体検出画像において、前後の画像のいずれも、類似度が閾値以下ではない場合には、物体の動きが無いと判定する。これは、カメラに接近した位置で虫が撮影されたという状況の特徴を利用したものである。前後数秒間に撮影された約15枚の各画像間における撮影間隔は、約0.2秒程度である。画像データ内で人であると想定される物体が真に人であった場合、前後で隣り合う画像を比較すると高い類似度となるが、カメラレンズの直前で撮影された虫等の小さな生物の場合は動きが大きく映り、結果として画像の類似度が低くなる。これを利用し、直前の画像および直後の画像とそれぞれ比較し、いずれかひとつの類似度が低い場合は、虫等の、人以外の動きによるものと判定することができる。
【0040】
人動き判定部106は、物体検出部102が検出した人らしい物体の、動きの有無(人の動きであるか否か)を判定する。なお、下記では、物体検出画像(つまり、物体が検出されたフレーム)と、他の画像(つまり、動画に含まれる他のフレーム)と、が類似するか否かに基づいて、物体の動きの有無を判定する実施形態を説明するが、これに限定されず、人らしい物体の動きは任意の手法によって判定されてよい。以下、人動き判定部106の類似度算出部161と判定部162に分けて説明する。
【0041】
類似度算出部161は、物体検出画像(人らしい物体が検出されたフレーム)と、他の画像(つまり、動画に含まれる他のフレーム)と、の類似度を算出する。具体的には、類似度算出部161は、物体検出画像内で物体が含まれる領域(物体検出領域)と、他の画像内にある、物体検出画像内の物体検出領域と同一の座標位置の領域と、を比較する。なお、他のフレームは、動画に含まれる全ての他のフレームであってもよいし、動画に含まれる一部の他のフレームであってもよい。
【0042】
なお、複数の画像(フレーム)内で人らしい物体が検出された場合には、類似度算出部161は、各物体検出画像(各フレーム)について、それぞれの他の画像(つまり、動画に含まれる他のフレーム)と、の類似度を算出する。
【0043】
<<類似度の算出>>
ここで、類似度の算出について詳細に説明する。例えば、類似度算出部161は、ZNCC(Zero-mean Normalized Cross Correlation、零平均正規化相互相関)の手法を用いることができる。例えば、物体が含まれるM画素×N画素の矩形と、他の画像内でのM画素×N画素の矩形と、の類似度を算出するとする。2つの矩形の同一の座標の各画素(T(i,j)とI(i,j)とする)を用いる。類似度算出部161は、類似度として、
【0044】
【0045】
【0046】
【0047】
【数8】
である。類似度が1であると画像に変化がない、つまり画像内の物体の動きがないと判定することができ、類似度が-1に近づくほど画像が類似していない、つまり画像内の物体の動きが有ると判定することができる。
【0048】
なお、類似度は、ZNCCの手法に限られず、NCC(Normalized Cross-Correlation、正規化相互相関)、SSD(Sum of Squared Difference)、SAD(Sum of Absolute Difference)等の任意のテンプレートマッチングの手法により算出されうる。
【0049】
判定部162は、物体検出部102が物体を検出した物体検出画像における物体検出領域ごとに、類似度が閾値以下である他の画像が所定の個数以上あるか否かを判定する。具体的には、判定部162は、少なくとも1つの物体検出領域において、類似度が閾値以下である他の画像の個数が所定の個数以上である場合には、物体の動きが有ると判定する。判定部162は、全ての物体検出領域において、類似度が閾値以下である他の画像の個数が所定の個数未満である場合には、物体の動きが無いと判定する。なお、所定の個数は、1つでもよいし、2つ以上でもよい。また、同一の物体検出画像内に複数の物体検出領域がある場合は、それぞれの物体検出領域に対しこれらの判定処理を行い、少なくとも1つの物体検出領域について類似度が閾値以下である他の画像の個数が所定の個数以上であれば、物体の動きが有ると判定することができる。
【0050】
誤検出判定部107は、物体検出部102が検出した物体に動きが有るので人であると判定、あるいは、物体検出部102が検出した物体に動きが無いので人以外であると判定する。
【0051】
<方法>
以下、
図4を参照しながら誤検出判定処理について説明し、
図5を参照しながら虫の動き判定処理について説明し、
図6を参照しながら人らしい物体の動き判定処理について説明する。
【0052】
図4は、本発明の一実施形態に係る誤検出判定処理のフローチャートである。
【0053】
ステップ11(S11)において、画像取得部101は、撮像装置20が撮影した複数の画像(つまり、複数のフレーム(静止画像)からなる動画)を取得する。
【0054】
ステップ12(S12)において、物体検出部102は、S11で取得された複数の画像の各々(つまり、各フレーム)内で人と想定される(人らしい)物体を検出する。なお、1つまたは複数の画像(フレーム)内で物体が検出されうる。人らしい物体が検出された場合にはステップ13へ進み、人らしい物体が検出されなかった場合には処理を終了する。
【0055】
ステップ13(S13)において、検出スコア判定部103は、S12の検出のスコア(検出の信頼度)が閾値よりも小さいか否かを判定する。閾値未満であると判定された場合にはステップ14へ進み、閾値以上であると判定された場合には人であると判定する。
【0056】
ステップ14(S14)において、白飛び判定部104は、S12で物体が検出された領域に白飛びがあるか否かを判定する。白飛びがある場合にはステップ15へ進み、白飛びが無い場合にはステップ16へ進む。
【0057】
ステップ15(S15)において、虫動き判定部105は、S12で検出された物体の動きの有無(虫等らしい動きであるか否か)を判定する。虫等らしい動きが無いと判定された場合にはステップ16へ進み、虫等らしい動きが有ると判定された場合にはステップ17へ進む。
【0058】
ステップ16(S16)において、人動き判定部106は、S12で検出された人らしい物体の、動きの有無(人らしい物体に動きがあるか否か)を判定する。動きが無いと判定された場合にはステップ17へ進み、動きが有ると判定された場合にはステップ18へ進む。
【0059】
ステップ17(S17)において、誤検出判定部107は、S12で検出した物体が誤検出である(つまり、S12で検出された物体は人以外である)と判定する。
【0060】
ステップ18(S18)において、誤検出判定部107は、S12で検出した物体が誤検出ではない(つまり、S12で検出された物体は人である)と判定する。
【0061】
図5は、本発明の一実施形態に係る虫動き判定処理(
図4のS15)のフローチャートである。
【0062】
ステップ21(S21)において、類似度算出部151は、物体検出部102が物体を検出した物体検出画像における物体検出領域のうちの1つを選択する。
【0063】
ステップ22(S22)において、類似度算出部151は、S21で選択された物体検出画像(つまり、物体が検出されたフレーム)における物体検出領域と、前後の画像(つまり、動画に含まれる前後のフレーム)における該物体検出領域と同じ座標位置の領域と、のそれぞれの類似度を算出する。
【0064】
ステップ23(S23)において、類似度算出部151は、物体検出部102が物体を検出した全ての画像(物体検出画像)における物体検出領域についての類似度の算出が終了したか否かを判断する。終了した場合にはステップ24へ進み、終了していない場合にはステップ21へ戻る。
【0065】
ステップ24(S24)において、判定部152は、物体検出部102が物体を検出した画像(物体検出画像)における物体検出領域ごとに、その前後の画像における該物体検出領域と同一の座標位置の領域についてそれぞれ類似度を算出し、少なくともそのいずれか1つの類似度が閾値以下であるか否かを判定する。少なくとも1つの物体検出画像に対し、その前後の画像の少なくともいずれか1つが、類似度が閾値以下である場合にはステップ25へ進み、全ての物体検出画像において、前後の画像のいずれも、類似度が閾値以下ではない場合にはステップ26へ進む。
【0066】
ステップ25(S25)において、判定部152は、虫の動きが有ると判定する。
【0067】
ステップ26(S26)において、判定部152は、虫の動きが無いと判定する。
【0068】
図6は、本発明の一実施形態に係る人動き判定処理(
図4のS16)のフローチャートである。
【0069】
ステップ31(S31)において、類似度算出部161は、物体検出部102が物体を検出した物体検出画像における物体検出領域のうちの1つを選択する。
【0070】
ステップ32(S32)において、類似度算出部161は、S31で選択された物体検出画像(つまり、物体が検出されたフレーム)における物体検出領域と、他の画像(つまり、動画に含まれる他のフレーム)における該物体検出領域と同じ座標位置の領域と、の類似度を算出する。
【0071】
ステップ33(S33)において、類似度算出部161は、物体検出部102が物体を検出した全ての画像(物体検出画像)における物体検出領域についての類似度の算出が終了したか否かを判断する。終了した場合にはステップ34へ進み、終了していない場合にはステップ31へ戻る。
【0072】
ステップ34(S34)において、判定部162は、物体検出部102が物体を検出した物体検出領域ごとに、類似度が閾値以下である他の画像が所定の個数以上あるか否かを判定する。少なくとも1つの物体検出領域において、類似度が閾値以下である他の画像の個数が所定の個数以上である場合にはステップ35へ進み、全ての物体検出領域において、類似度が閾値以下である他の画像の個数が所定の個数未満である場合にはステップ36へ進む。
【0073】
ステップ35(S35)において、判定部162は、人らしい物体の動きが有ると判定する。
【0074】
ステップ36(S36)において、判定部162は、人らしい物体の動きが無いと判定する。
【0075】
<虫の動きの判定>
虫の動きの判定について詳細に説明する。
【0076】
図7は、本発明の一実施形態に係る虫の動きの判定について説明するための図である。防犯、監視カメラが撮影した動画(つまり、画像取得部101が取得した動画)が、1フレーム目から15フレーム目までの時系列の15フレームで構成されるとする。そして、10フレーム目内で物体が検出された(つまり、物体検出部102が、10フレーム目内で物体を検出した)とする。検出のスコア(検出の信頼度)は、0.5であり、閾値未満であるとする。
【0077】
まず、虫動き判定部105の類似度算出部151は、物体が検出されたフレーム(
図7では、10フレーム目)と、動画に含まれる前後のフレーム(
図7では、9フレーム目と11フレーム目)と、の類似度を算出する。
【0078】
次に、虫動き判定部105の判定部152は、物体検出画像における物体検出領域ごとに、その前後の画像における該物体領域と同一の座標位置の領域についてそれぞれ類似度を算出し、少なくともそのいずれか1つの類似度が閾値以下であるか否かを判定する。
図7の例では、11フレーム目の物体検出領域の類似度が閾値以下であったとする。この場合、虫動き判定部105は、少なくとも前後の画像のうちいずれかひとつの類似度が閾値以下であったことになるので、虫の動きが有ると判定する。
【0079】
なお、複数の画像(フレーム)内で物体が検出された場合(つまり、10フレーム目以外でも物体が検出された場合)には、類似度算出部151は、各物体検出画像(各フレーム)における物体検出領域と、各々の前後の画像(つまり、動画に含まれる前後のフレーム)における該物体検出領域と同じ座標位置の領域と、の類似度をそれぞれ算出する。そして、判定部152は、物体が検出された画像(物体検出画像)ごとに、少なくとも前後の画像いずれかが閾値以下の類似度であるか否かを判定する(つまり、上記の10フレームでの判定と同様の判定が行われる)。少なくとも1つの物体検出画像において、少なくとも前後のいずれかが閾値以下の類似度である場合には動きが有ると判定され、全ての物体検出画像において、前後のいずれも閾値以下の類似度ではない場合には動きが無いと判定される。
【0080】
<人の動きの判定>
人の動きの判定について詳細に説明する。
【0081】
図8は、本発明の一実施形態に係る人の動きの判定について説明するための図である。防犯、監視カメラ等の撮像装置20が撮影し、画像取得部101が取得した動画が、1フレーム目から15フレーム目までの時系列の15フレームで構成されるとする。そして、物体検出部102が、10フレーム目内で人らしい物体を検出したとする。検出のスコア(検出の信頼度)は、0.5であり、閾値未満であるとする。
【0082】
まず、人動き判定部106の類似度算出部161は、物体が検出された画像(
図8では、10フレーム目)における、物体を検出した物体検出領域と、動画に含まれる他のフレーム(
図8では、1、2、3、4、5、6、7、8、9、11、12、13、14、15フレーム目)における、先述の物体を検出した物体検出領域と同一の座標位置の領域と、の類似度をそれぞれ算出する。
【0083】
次に、人動き判定部106の判定部162は、類似度算出部161が算出したそれぞれの類似度について、閾値以下となった個数を数え、それが所定の個数(例えば、8)以上あるか否かを判定する。
図8の例では、類似度の閾値を0.7とし、類似度が閾値以下であるもの(
図8で丸印のもの)が11フレームあったとする。この場合、人動き判定部106は、類似度が閾値以下である他の画像の個数が所定の個数以上であるので、人らしい物体に動きが有ると判定する。
【0084】
なお、複数の画像(フレーム)内で物体が検出された場合(つまり、10フレーム目以外でも物体が検出された場合)には、類似度算出部161は、物体が検出された画像(物体検出画像)の物体検出領域ごとに、他の画像(つまり、動画に含まれる他のフレーム)における該物体検出領域と同じ座標位置の領域と、の類似度を算出する。そして、判定部162は、物体が検出された物体検出領域ごとに、類似度が閾値未満である他の画像の該物体検出領域と同一の座標位置の領域が所定の個数あるか否かを判定する(つまり、上記の10フレーム目での判定と同様の判定が行われる)。少なくとも1つの物体検出領域において、類似度が閾値以下である他の画像の該物体検出領域と同一の座標位置の領域の個数が所定の個数以上である場合には動きが有ると判定され、全ての物体検出画像において、閾値以下の類似度の個数が所定の個数未満である場合には動きが無いと判定される。また、同一の画像内に複数の物体検出領域がある場合も同様に、各物体検出領域について、他の画像との類似度を算出し、類似度が閾値以下となった他の画像(領域)の数を数え、動きを判定する。
【0085】
ここで、類似度が閾値未満である画像が複数あることを条件に判定することについて説明する。人らしい物体を検出した画像の物体検出領域を他の画像と比較するとき、たまたま虫や車の光等の外乱光等の映り込みがあると、類似度が低く算出される場合がある。このとき、その前後の画像における同じ位置範囲の領域のみと類似度を算出して比較する方法では、虫や外乱光等を人であると誤検出してしまうことがある。前後の画像だけでなく他の複数の画像とも比較し、類似度が閾値以下である画像(領域)の数を含めた判定条件とすることで、虫や外乱光等のノイズによる誤検出の発生を抑制し、動きのある人体であることを精度よく判定することができる。
【0086】
<他の実施形態>
以下、他の実施形態について説明する。
【0087】
<<虫等の人以外の動き判定>>
上記では、物体検出画像と、前後の画像と、が類似するか否かに基づいて、物体の動きの有無(虫等の、人以外の動きであるか否か)を判定する実施形態を説明したが、本発明は、物体の移動の特徴に基づいて物体の動きの有無を判定する実施形態にも適用することができる。例えば、虫動き判定部105は、物体検出画像の物体検出領域と、前後の画像における該物体検出領域と同一の位置の領域との間で、白画素の割合の変化が閾値以上である場合に、高速で移動する虫等の動きであると判定することができる。また例えば、虫動き判定部105は、物体検出画像の物体検出領域と、前後の画像の各物体検出領域との間で、物体が含まれる領域(例えば、矩形)の大きさの変化が閾値以上である場合に、高速で移動する虫等の動きであると判定することができる。このとき、前または後の画像に物体検出領域がない場合は、物体追跡技術を用いて、前または後の画像における物体位置を特定する矩形領域を指定して判定する。また例えば、虫動き判定部105は、物体検出画像の物体検出領域と、前後の画像の各物体検出領域との間で、物体が含まれる領域(例えば、矩形)の移動方向の変化が閾値以上である場合に、高速で移動する虫等の動きであると判定することができる。このとき、前または後の画像に物体検出領域がない場合は、物体追跡技術を用いて、前または後の画像における物体位置を特定する矩形領域を指定して判定する。
【0088】
<<身体のパーツごとの動き判定>>
本発明の一実施形態では、誤検出判定装置10は、人の身体のパーツ(例えば、全身に限らず、頭、腕、上半身、下半身、左右半身等の一部分)を検出して、検出された人の身体のパーツの動きを判定することができる。
【0089】
具体的には、物体検出部102は、人の身体のパーツを機械学習等により検出する。検出スコア判定部103は、検出のスコア(検出の信頼度)が閾値よりも小さいか否かを判定する。人動き判定部106は、人の身体のパーツの動きの有無を判定する。この際、人の身体のパーツごとに、検出のスコア(検出の信頼度)の閾値および人らしい物体の動きの判定の閾値を設定できるようにしてもよい。
【0090】
例えば、頭や腕の形状を学習している場合、室内に置かれた帽子やヘルメットを「頭部」として、また、椅子、机のフレーム、柱といった細長い物体を「腕部」として誤検出してしまうことがある。これらの誤検出を防ぐため、一律に、より多い枚数において類似度が閾値未満である場合に人(動体)であると判定させるように条件を設定すると、人の検知を取り逃がしてしまうおそれがある。そこで、一般的な人の動作において、動きが大きくなりやすい部位である腕部や脚部等として検出された物体検出領域については、頭部等、動きが比較的少ない部位として検出された物体検出領域よりも多くの画像枚数において類似度が閾値未満となった場合に人であると判定するようにすることで、精度よく人である物体を検出することができる。
【0091】
<<輝度による動き判定>>
上記では、ZNCC等のテンプレートマッチングにより2つの画像(フレーム)の物体検出領域が類似しているか否かを判定する実施形態を説明したが、本発明は、2つの画像(フレーム)の物体検出領域の輝度による評価値(例えば、輝度の差の平均)により2つの画像(フレーム)が類似しているか否かを判定する実施形態にも適用することができる。
【0092】
また、物体検出領域を比較したときの、各画素における輝度の差を画像にして得た複数枚の画像を、3DCNN(複数枚の一連の画像(動画像)を入力するとその内容を出力するAI)のような、動画像を分類するAIのモデルに学習させ、どの動きのパターンに該当するかを出力させることもできる。なお、学習済みモデルは、物体検出部102が物体を検出した画像(
図7、8の例であれば、10フレーム目)以外の画像(例えば、1フレーム目)と他の画像との類似度をもとに学習されたモデルであってもよい。また、複数フレームの隣り合うフレームの画像の類似度(例えば、1フレーム目と2フレーム目の画像の類似度、2フレーム目と3フレーム目の画像の類似度等)をもとに学習されたモデルであってもよい。
【0093】
<<周期的な動きの除外>>
本発明の一実施形態では、人動き判定部106は、物体の動きが周期的な動きであるか否かをさらに判定することができる。そして、誤検出判定部107は、物体の動きが周期的な動きである場合には物体の検出は誤検出である(例えば、風によって揺れる照明・旗・カーテン、車のライトの点滅等の人以外の検出である)と判定する。
【0094】
具体的には、人動き判定部106は、物体検出部102が物体を検出した物体検出領域と他の画像における該物体検出領域と同一の座標位置の領域との類似度(
図8の例であれば、10フレーム目と1~9、11~15フレーム目との類似度)をサポートベクタ―マシンやランダムフォレスト等の手法を用いた学習済みモデルに入力させて、周期的な動きであるか否かを出力させることができる。なお、学習済みモデルは、物体検出部102が物体を検出した画像(
図8の例であれば、10フレーム目)以外の画像(例えば、1フレーム目)と他の画像との類似度をもとに学習されたモデルであってもよい。また、複数フレームの隣り合うフレームの画像の類似度(例えば、1フレーム目と2フレーム目の画像の類似度、2フレーム目と3フレーム目の画像の類似度等)をもとに学習されたモデルであってもよい。
【0095】
<<人らしい動きの学習>>
学習済みモデルは、人らしい動き(人が移動している、人が静止している等)のパターンを予め学習していてもよい。人動き判定部106は、複数のフレームから、多クラスでどの動きのパターンに該当するかを出力するようにしてもよい。
【0096】
<効果>
このように、本発明の一実施形態では、防犯、監視カメラ等が撮影した画像内で検出された物体が誤検出ではない(つまり、人である)か、あるいは、誤検出である(つまり、人ではない)かを判定することができる。さらに、本発明の一実施形態では、白飛びがある場合に虫の動き(つまり、高速に移動する動き)であると判定されると検出の対象から除外することによって、侵入者の誤検出を減らすことができる。
【0097】
<ハードウェア構成>
図9は、本発明の一実施形態に係る誤検出判定装置10のハードウェア構成の一例を示すブロック図である。誤検出判定装置10は、CPU(Central Processing Unit)1001、ROM(Read Only Memory)1002、RAM(Random Access Memory)1003を有する。CPU1001、ROM1002、RAM1003は、いわゆるコンピュータを形成する。
【0098】
また、誤検出判定装置10は、補助記憶装置1004、表示装置1005、操作装置1006、I/F(Interface)装置1007、ドライブ装置1008を有することができる。なお、誤検出判定装置10の各ハードウェアは、バスBを介して相互に接続されている。
【0099】
CPU1001は、補助記憶装置1004にインストールされている各種プログラムを実行する演算デバイスである。
【0100】
ROM1002は、不揮発性メモリである。ROM1002は、補助記憶装置1004にインストールされている各種プログラムをCPU1001が実行するために必要な各種プログラム、データ等を格納する主記憶デバイスとして機能する。具体的には、ROM1002はBIOS(Basic Input/Output System)やEFI(Extensible Firmware Interface)等のブートプログラム等を格納する、主記憶デバイスとして機能する。
【0101】
RAM1003は、DRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)等の揮発性メモリである。RAM1003は、補助記憶装置1004にインストールされている各種プログラムがCPU1001によって実行される際に展開される作業領域を提供する、主記憶デバイスとして機能する。
【0102】
補助記憶装置1004は、各種プログラムや、各種プログラムが実行される際に用いられる情報を格納する補助記憶デバイスである。
【0103】
表示装置1005は、誤検出判定装置10の内部状態等を表示する表示デバイスである。
【0104】
操作装置1006は、誤検出判定装置10の管理者が誤検出判定装置10に対して各種指示を入力する入力デバイスである。
【0105】
I/F装置1007は、ネットワークに接続し、他の装置と通信を行うための通信デバイスである。
【0106】
ドライブ装置1008は記憶媒体1009をセットするためのデバイスである。ここでいう記憶媒体1009には、CD-ROM、フレキシブルディスク、光磁気ディスク等のように情報を光学的、電気的あるいは磁気的に記録する媒体が含まれる。また、記憶媒体1009には、EPROM (Erasable Programmable Read Only Memory)、フラッシュメモリ等のように情報を電気的に記録する半導体メモリ等が含まれていてもよい。
【0107】
なお、補助記憶装置1004にインストールされる各種プログラムは、例えば、配布された記憶媒体1009がドライブ装置1008にセットされ、該記憶媒体1009に記録された各種プログラムがドライブ装置1008により読み出されることでインストールされる。あるいは、補助記憶装置1004にインストールされる各種プログラムは、I/F装置1007を介して、ネットワークよりダウンロードされることでインストールされてもよい。
【0108】
以上、本発明の実施例について詳述したが、本発明は上述した特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
【符号の説明】
【0109】
1 誤検出判定システム
10 誤検出判定装置
20 撮像装置
101 画像取得部
102 物体検出部
103 検出スコア判定部
104 白飛び判定部
105 虫動き判定部
106 人動き判定部
107 誤検出判定部
151 類似度算出部
152 判定部
161 類似度算出部
162 判定部
1001 CPU
1002 ROM
1003 RAM
1004 補助記憶装置
1005 表示装置
1006 操作装置
1007 I/F装置
1008 ドライブ装置
1009 記憶媒体