(58)【調査した分野】(Int.Cl.,DB名)
監視空間を撮像した熱画像を順次取得する撮像部と、前記熱画像から変化した変化領域を抽出するとともに、目標移動物体と想定される大きさ内に含まれる1又は複数の変化領域からなる統合変化領域を抽出する抽出部と、前記統合変化領域を時間的に追跡する追跡部と、前記統合変化領域を包含する大きさの判定領域を求め当該判定領域の特徴量を算出する特徴量算出部と、前記特徴量に基づいて前記判定領域における前記目標移動物体の有無を判定する判定部を有する画像監視装置であって、
前記特徴量算出部は、近接する第一時刻と第二時刻に取得した2枚の前記熱画像ごとに、前記判定領域の面積に対する前記統合変化領域の面積の割合を面積占有率として求め、当該2つの面積占有率の変化割合を面積占有変化率として算出する面積占有変化率算出手段を有し、
前記判定部は、前記面積占有変化率が第一の閾値以上であれば当該判定領域を目標移動物体ではなく外乱とすることを特徴とした画像監視装置。
前記特徴量算出部は、前記第一時刻における第一統合変化領域と前記第二時刻における第二統合変化領域の前記熱画像上の位置が重複している度合いである重複度を算出する重複度算出手段を更に有し、
前記判定部は、前記重複度が予め定めた第二の閾値以上であるときのみ外乱とする請求項1に記載の画像監視装置。
前記判定部は、前記第一統合変化領域の重心位置と前記第二統合変化領域の重心位置までの距離が小さくなるほど前記第一の閾値が小さくなるように該第一の閾値を変更する第1閾値変更手段を更に有する請求項2に記載の画像監視装置。
前記判定部は、前記重複度の大きさが小さくなるほど前記第一の閾値が大きくなるように該第一の閾値を変更する第2閾値変更手段を更に有する請求項2又は請求項3に記載の画像監視装置。
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、この種の熱画像を用いた従来の画像監視装置では、侵入者以外に、様々な要因で監視領域内の温度変化が起きるため、それらの温度変化と侵入者による温度変化とを区別する必要がある。侵入者以外で熱画像に変化を引き起こす要因の一例としては、監視領域内に存在し、温度変化をする物(発熱源、冷却源など)がある。
【0007】
そして、従来の熱画像を用いた画像監視装置では、上記のような温度変化をする物として、例えばエアコンなどの発熱源が監視領域内に外乱要因として存在すると、発熱源自体や発熱源付近の物体の温度変化領域の形状変化を物体の移動と誤認識し、その結果、侵入者として誤検知する恐れがあった。さらに説明すると、発熱源自体や発熱源付近の物体の温度は、それらの物体の表面全体において常に均一に変化するとは限らず、むしろ通常は不均一に変化する。そのため、熱画像から抽出される発熱源やその付近の温度変化領域の形状は、それらの物体の形状が安定的に抽出されるのではなく、不安定な形状となって抽出されやすい。その結果、従来の熱画像を用いた画像監視装置では、熱画像から抽出される発熱源自体や発熱源付近の物体の温度変化領域が不規則に変化することにより、変化領域の重心位置が変化して物体が移動したと誤認識し、侵入者として誤検出するという問題があった。
【0008】
このような誤検出する場合の一例として、不安定な形状となる抽出として過去の変化領域の近傍に複数の変化領域が新たに現れ、それらがラベル統合処理されることによって誤検出につながる例について説明する。一般的に、熱画像を用いた画像監視装置では、あるフレームの熱画像で抽出された温度変化領域(すなわちラベル領域)が、人物サイズを想定した所定の画像領域内に複数個所存在するとき、侵入者による温度変化領域が分離して抽出されている状況を考慮して、同一の侵入者による温度変化領域であるとみなし、同一のラベルとして統合するラベル統合処理を行う。
図9(b)は、エアコンが、監視領域内に含まれていた場合におけるラベル統合処理によって生じた誤検出を説明する図である。
図9(b)では、現在フレーム(n+1フレーム)の熱画像ではエアコンの吹出口と近くの壁とに2個のラベル20が抽出されている。この抽出された2個のラベル20は同一の移動物体によるラベルとみなされてラベル統合処理された結果、当該ラベルの重心位置が前フレーム(nフレーム)のラベル20の重心位置から移動したと認識されている。
【0009】
このように、温度変化する静止物体及びその付近の物体の温度変化は不均一であるため、それらの物体の形状が不安定な形状(この例では、複数個のラベル)となって抽出されやすい。そのため、これらの複数個のラベルについてラベル統合処理を行った場合には、誤って重心位置の移動が検出されることがある。また、前フレームでは同一ラベルだった複数の温度変化領域が別々のラベルに分かれることによっても、誤って重心位置の移動として検出されることもある。さらに、上記のような複数ラベルの統合や分離の例の他にも、単一ラベルの形状が不安定に変化することによっても、誤って重心位置の移動として検出されることもある。したがって、実際には物体が移動しているわけではないにも関わらず、人が移動したように誤認識され、侵入者として誤検出される場合があった。
【0010】
そこで、本発明は上記問題点に鑑みてなされたものであり、温度変化する物体特有の温度変動の性質を効果的に捉えることにより、人体等の比較的温度変化が少ない移動物体と区別し、誤検出を低減することができる画像監視装置を提供することを目的とするものである。
【課題を解決するための手段】
【0011】
上記した目的を達成するために、本願請求項1に係る画像監視装置は、監視空間を撮像した熱画像を順次取得する撮像部と、前記熱画像から変化した変化領域を抽出するとともに、目標移動物体と想定される大きさ内に含まれる1又は複数の変化領域からなる統合変化領域を抽出する抽出部と、前記統合変化領域を時間的に追跡する追跡部と、前記統合変化領域を
包含する大きさの判定領域を求め当該判定領域の特徴量を算出する特徴量算出部と、前記特徴量に基づいて前記判定領域における前記目標移動物体の有無を判定する判定部を有する画像監視装置であって、
前記特徴量算出部は、近接する第一時刻と第二時刻に取得した2枚の前記熱画像ごとに、前記判定領域の面積に対する前記統合変化領域の面積の割合を面積占有率として求め、当該2つの面積占有率の変化割合を面積占有変化率として算出する面積占有変化率算出手段を有し、
前記判定部は、前記面積占有変化率が第一の閾値以上であれば当該判定領域を目標移動物体ではなく外乱とすることを特徴としている。
【0012】
かかる構成により、本発明の抽出部は、背景差分等により変化領域を抽出し、ラベル統合処理等によって統合された一又は複数の変化領域である統合変化領域を抽出する。そして、面積占有変化率算出手段は、例えば、現在のフレームの統合変化領域の面積が、判定領域(例えば、この統合変化領域を包含して外接する外接矩形)の面積に占める割合である面積占有率を算出する。また、面積占有変化率算出手段は、前フレームにおける面積占有率も算出する。そして、これら前後フレーム間の面積占有率の変化率を示す面積占有変化率を算出する。すなわち、面積占有変化率は、温度変化する物による温度変化領域の形状が不安定に変化するといった性質を有することに着目したパラメータであり、温度変化する物による温度変化領域らしさを表す値となる。そして、本発明の判定部は、抽出部が抽出する熱画像上の判定領域の特徴量(例えば、大きさと移動量)に基づいて当該変化領域が目標移動物体であると判定したとしても、面積占有変化率算出手段にて算出した面積占有変化率が予め定めた第一の閾値以上であるときは、当該判定領域に含まれる統合変化領域は、目標移動物体ではなく、物体の温度変化に起因する外乱であると判定する。このように、たとえ判定領域の特徴量から当該判定領域に含まれる統合変化領域が目標移動物体であると判定できる場合であったとしても、温度変化する物に起因する外乱らしさを表す面積占有変化率を利用することで、物体の温度変化に起因する外乱であることを精度良く判定できるため、当該外乱による誤検出を低減できる。
【0013】
本願請求項2に係る画像監視装置は、請求項1の画像監視装置において、
前記特徴量算出部は、前記第一時刻における第一統合変化領域と前記第二時刻における第二統合変化領域の前記熱画像上の位置が重複している度合いである重複度を算出する重複度算出手段を更に有し、
前記判定部は、前記重複度が予め定めた第二の閾値以上であるときのみ外乱とすることを特徴としている。
【0014】
かかる構成により、本発明の重複度算出手段は、例えば、熱画像上の注目する変化領域において、追跡部にて同一物体とみなされた現在フレームの統合変化領域と前フレームの統合変化領域との熱画像上における重複度合いを示す重複度を算出する。重複度は、温度変化する静止物体による温度変化領域が、前後フレーム間において移動せずに略重なって抽出され易いといった性質を有することに着目したパラメータであり、温度変化する静止物体による温度変化領域らしさを表す値である。そして、本発明の判定部は、抽出部が抽出する熱画像上の判定領域の特徴量に基づいて当該判定領域に含まれる統合変化領域が目標移動物体であると判定したとしても、面積占有変化率算出手段にて算出した面積占有変化率が予め定めた第一の閾値以上であり、且つ、重複度算出手段にて算出した重複度が予め定めた第二の閾値以上であるときは、当該判定領域に含まれる統合変化領域は、目標移動物体ではなく、静止物体の温度変化に起因する外乱であると判定する。このように、たとえ判定領域の特徴量から当該判定領域に含まれる統合変化領域が目標移動物体であると判定できる場合であったとしても、静止物体の温度変化に起因する外乱らしさを表す重複度と面積占有変化率とを利用することで、静止物体の温度変化に起因する外乱であることを精度良く判定できるため、当該外乱による誤検出を低減できる。
【0015】
本願請求項3に係る画像監視装置は、請求
項2の画像監視装置において、
前記判定部は、前記第一統合変化領域の重心位置と前記第二統合変化領域の重心位置までの距離が小さくなるほど前記第一の閾値が小さくなるように該第一の閾値を変更する第1閾値変更手段を更に有することを特徴としている。
【0016】
かかる構成により、本発明の判定部は、第一統合変化領域の重心位置から第二統合変化領域の重心位置までに至る距離である重心移動量の大きさが小さくなるほど第一の閾値が小さくなるように第一の閾値を変更している。例えば、現在フレームにおいて前フレームの統合変化領域近傍に面積の小さな変化領域が新たに生じ、これらがラベル統合された場合、前後フレーム間における統合変化領域の重心移動量は小さな値となる。この場合、現在フレームにおける面積占有率と前フレームにおける面積占有率との差異が一般的に小さくなり、結果として面積占有変化率は小さな値となり、外乱として判定せずに、誤検出となりやすくなってしまう。そこで、このような重心移動量が小さい場合は、第一の閾値を小さめに調整することにより、外乱の判定精度を高めることができる。
【0017】
本願請求項4に係る画像監視装置は、請求項2又は3の画像監視装置において、
前記判定部は、前記重複度の大きさが小さくなるほど前記第一の閾値が大きくなるように該第一の閾値を変更する第2閾値変更手段を更に有することを特徴としている。
【0018】
かかる構成により、本発明の判定部は、例えば、前フレームの統合変化領域と現在フレームの統合変化領域との重複度の大きさが小さくなるほど、第一の閾値が大きくなるよう調整し、当該調整した第一の閾値を用いて外乱の判定をしている。例えば、重複度が第二の閾値以上であって静止物体の温度変化による外乱とみなすための条件を満たしていた場合であっても、その重複度が比較的小さめであったような場合、判定領域に含まれる統合変化領域は外乱ではなく、ゆっくりと移動している目標移動物体であるといった疑い(可能性)も一方で残っていることを意味している。そこで、重複度が第二の閾値以上でありながらもその値が比較的小さめであった場合は、第一の閾値を大きめに調節することにより、このような判定領域に対してより厳格に外乱であるか否かを判定して、外乱の判定精度を高めることができる。
【0019】
本願請求項5に係る画像監視装置は、請求項1〜請求項4の何れかの画像監視装置において、
前記特徴量算出部は、前記統合変化領域に外接する領域を前記判定領域とすることを特徴としている。
【0020】
一般的に、判定領域の大きさが大きくなる程、面積占有変化率に明確な差異が現れづらくなる。したがって、上記の構成のように、判定領域の大きさを、統合変化領域を含む最小の領域である「外接する大きさの領域(例えば、統合変化領域の外接矩形)」とすることにより、面積占有変化率算出手段は、面積占有変化率を最も明確な差異が現れるよう算出することができ、温度変化する物による温度変化領域(外乱)らしさを、最も精度よく判定することができる。
【発明の効果】
【0021】
本発明に係る画像監視装置によれば、目標移動物体と温度変化する物とを区別し、外乱による誤検出を低減することができる。
【発明を実施するための形態】
【0023】
以下、本発明を監視空間における侵入者を検出する画像監視装置に適用した実施形態について、添付した図面を参照しながら詳細に説明する。
【0024】
(画像監視装置の全体構成について)
本発明に係る画像監視装置は、監視空間を撮像した熱画像を順次取得し、この順次取得した熱画像を画像処理して監視空間における目標移動物体である人物の有無を判定するものである。
【0025】
特に、本実施形態は、エアコンやストーブ等の温度変化する物に起因する温度変化領域の形状は、温度変化の少ない人体などの温度変化領域の形状と比較して不安定に変化するという性質を利用した条件(条件1)を用いて、監視空間を撮像した熱画像から抽出される変化領域が温度変化をする外乱か否かを判定する機能を含む画像監視装置を提供するものである。さらに、前記条件1に加えて、エアコン等の静止物体自体の温度変化領域は移動せずに略重なって抽出され易いという性質を利用した条件(条件2)を用いることによって、監視空間を撮像した熱画像から抽出される変化領域が当該静止物体の温度変化に起因する外乱か否かをより精度良く判定する機能を含む画像監視装置を提供するものである。なお、条件2については、エアコン等の温度変化する静止物体自体の特徴を表した性質であるため、必須の条件としなくても良い。
【0026】
図1に示すように、本例の画像監視装置1は、上述した機能を実現するべく、撮像部2、記憶部3、画像処理部4、出力部5を含んで概略構成される。
【0027】
撮像部2は、例えば所定画素(例えば320×320画素)の赤外線検出素子を有し、監視領域から放射される赤外線をレンズやミラーなどの光学系により集光して検出し、検出した赤外線量に応じた監視領域の温度分布を監視画像(以下、熱画像、画像とも言う)として画像処理部4に出力している。撮像部2は、天井や壁に設置され上から斜め下方の空間を撮像している。その際、1フレームの監視画像を所定の時間間隔で取得して画像処理部4に出力する。
【0028】
また、撮像部2は、その設置位置や撮像方向を示す外部パラメータと、焦点距離、画角、レンズ歪み、その他のレンズ特性や撮像素子の画素数を示す内部パラメータとを撮像パラメータとして含む。この撮像パラメータは、実際に計測を行うなどして得ることができ、予め記憶部3に記憶される。
【0029】
そして、この撮像パラメータを用いれば、監視画像中の画素位置を撮像部2の撮像面における座標(撮像面座標)と実空間における座標(実座標)との間で座標変換することが可能となる。本実施例では、この撮像パラメータを用いた(1)撮像面座標から実座標への変換及び(2)実座標から撮像面座標への変換の両変換を透視変換と総称している。
【0030】
記憶部3は、画像監視装置1に関する設定情報(例えば装置の設置高、俯角など)、画像処理部4の各種処理に使用される情報を記憶している。画像監視装置1に関する設定情報としては、上述した撮像部2の設置環境を含む撮像パラメータが含まれる。また、画像処理部4の各種処理に使用される情報としては、例えばフレーム毎の画像データ、画像データから変化領域を抽出するための基準画像の他、本実施例の処理に用いられる計算式や閾値、基準値等の各種パラメータが含まれる。
【0031】
画像処理部4は、CPU等を備えたコンピュータで構成され、撮像部2からデジタル化された画像の入力を受け、後述する
図6〜
図8に示す一連の処理として、抽出処理、ラベリング処理、ラベル統合処理、ノイズ除去処理、トラッキング(物体候補の追跡)処理、特徴量算出処理、侵入者判定処理を実行するべく、抽出部4a、追跡部4b、特徴量算出部4c、判定部4dを含んでいる。
【0032】
抽出部4aは、撮像部2で取得された熱画像の中から変化のある領域を変化領域として抽出する抽出処理を行っている。本実施例では、例えば予め過去の熱画像を基準画像として記憶部3に保存しておき、今回取得した熱画像と基準画像との差分が所定の閾値以上の領域を温度変化があると判定し、この温度変化がある領域を変化領域として抽出する。この際、基準画像として監視空間の背景の熱画像や、過去に取得した熱画像を適宜選択して採用することができる。また、抽出部4aは、抽出した変化領域に対し、ラベリング処理によってラベル付けを行っている。さらに、抽出部4aにおけるラベリング処理では、画像上の位置に基づく人物の想定サイズを求め、当該想定サイズの範囲内にある複数の変化領域を一体の物体からなる変化領域とみなし、単一ラベルに統合するラベル統合処理を行っている。以下では、ラベリング処理によってラベルが付与された変化領域(ラベル統合処理によって統合された一又は複数の変化領域を含む)を「ラベル領域」という。なお、本発明における統合変化領域は、本実施例におけるラベル領域(統合されたラベル領域も含む)に対応する。また、抽出部4aは、個々のラベル領域に対し、ノイズ抽出であるか否かを判定し、ノイズ抽出と判定された場合に除去するノイズ除去処理を行っている。なお、本実施例では現在取得した熱画像における予め記憶した基準画像からの差分から変化領域を抽出しているが、これに限らず、画素値の時間変化をディジタルフィルタなどの周波数解析を行うことによって変化領域を抽出する方法を用いても良い。また、上記のラベル統合処理やノイズ除去処理を省略することもできる。
【0033】
追跡部4bは、抽出部4aが抽出した変化領域を時間的に追跡するもので、抽出部4aによるラベリング処理で求まったラベル領域(変化領域)に対し、前回取得した画像の追跡ラベル領域との対応付けをするトラッキング処理を行っている。
【0034】
なお、追跡ラベル領域とは、これまでに取得した画像において、同一の追跡物体によるラベル領域が常に同じラベルになるように、抽出部4aによるラベリング処理でのラベルと異なるユニークなラベル(以下、追跡ラベルという)を付与し直したラベル領域のことを指す。
【0035】
特徴量算出部4cは、後述する特徴量算出処理(
図7)として、新規の追跡ラベルか否かの判定処理を含め、追跡ラベル領域の外接矩形座標計算処理、透視変換処理、追跡ラベル領域の移動量計算処理、人らしさ算出処理、重複度算出処理、面積占有変化率算出処理を実行し、追跡部4bにて求めた追跡ラベル領域を包含する判定領域についての、侵入者や外乱を判定するための特徴量を算出している。
【0036】
なお、特徴量算出処理の詳細については追って説明するが、この処理によって算出される特徴量には、画像上における変化領域の大きさから透視変換によって推定される追跡ラベル領域の実空間での大きさ(推定幅・推定高さ)、フレーム間の追跡ラベル領域の重心の移動量、面積占有率、重複度、前後フレームにおける追跡ラベルの面積占有変化率などが含まれる。
【0037】
また、特徴量算出部4cは、
図1に示すように、移動量算出手段11、重複度算出手段12、面積占有変化率算出手段13を含む構成である。
【0038】
移動量算出手段11は、注目する追跡ラベル領域について前後フレーム間の重心移動量を算出している。具体的には、
図7の追跡ラベル領域の移動量計算処理として、例えば、前フレームの追跡ラベル領域の重心座標と現在フレームの追跡ラベル領域の重心座標からフレーム間の重心の移動距離を求め、この重心の移動距離の値を変化領域の移動量として計算している。
【0039】
重複度算出手段12は、現在フレームの追跡ラベル領域と前フレームの追跡ラベル領域との重複度合いを示す重複度を算出している。その算出方法について
図2を用いて説明する。
図2の符号21は、現在フレーム(n+1フレーム)と前フレーム(nフレーム)の熱画像から抽出部4aにて抽出処理された後の抽出画像であり、また、符号20は各フレームにおいて抽出領域の追跡ラベルである。なお、点線で表した領域内の一又は複数のラベル20は、抽出部4aにて同一の物体からなる変化領域としてラベル統合されていることを意味していることとする。また、符号22は、現在フレームと前フレームの抽出画像21を重ね合わせたものであり、図中の塗り潰し箇所は、各フレーム間の追跡ラベル領域の重複部分である。
【0040】
まず、
図2に示すように、重複度算出手段12は、追跡処理で求めた前フレームの追跡ラベル領域の面積をS1、現在フレームの追跡ラベル領域の面積をS2、前フレームの追跡ラベル領域と現在フレームの追跡ラベル領域の重複部分の面積をS3としたとき、これら面積S1,S2,S3を計算する。そして、重複度算出手段12は、算出した面積S1,S2,S3から重複度Ro=MAX(S3/S1,S3/S2)を算出する。
【0041】
面積占有変化率算出手段13は、現在フレームと前フレームのフレーム間による追跡ラベル領域の面積占有変化率を算出している。その算出方法について
図3を用いて説明する。
図3においても、
図2と同様に、前フレームと現在フレームに係る熱画像から抽出部4aにて抽出処理された後の抽出画像21をそれぞれ表している。ここで、符号23は、各フレームにおける追跡ラベル領域の外接矩形である。
【0042】
まず、面積占有変化率算出手段13は、前フレームの外接矩形面積S1’と、現在フレームの外接矩形面積S2’とを計算する。次に、面積占有変化率算出手段13は、これまでの計算によって求めた前フレームの追跡ラベル領域面積S1、現在フレームの追跡ラベル領域面積S2、前フレームの追跡ラベル領域の外接矩形面積S1’、現在フレームの追跡ラベル領域の外接矩形面積S2’を用いて、前フレームの追跡ラベル領域の面積占有率X1=S1/S1’と、現在フレームの追跡ラベル領域の面積占有率X2=S2/S2’とを算出する。そして、面積占有変化率算出手段13は、上記計算によって求めた前フレームの面積占有率X1と現在フレームの面積占有率X2とを用い、面積占有変化率Rs=MAX(X1/X2,X2/X1)を算出する。
【0043】
なお、本実施例では、本発明における判定領域を、ラベル領域を包含して外接している矩形(外接矩形)として計算している。しかし、これに限らず、判定領域の面積を算出するための判定領域の形状は、矩形状に限定されるものではなく、例えば円形、三角形など、ラベル領域を包含する形状であればよい。また、判定領域の大きさは、ラベル領域を包含する大きさであればよく、必ずしもラベル領域に外接している大きさである必要は無い。例えば、画像上の位置における人物の想定サイズを算出し、当該想定サイズを判定領域の大きさとしてもよい。
【0044】
判定部4dは、後述する侵入者判定処理(
図8)を実行し、予め定められた判定条件に従い、移動量算出処理、重複度算出処理、面積占有変化率算出処理、人らしさ算出処理によって算出された特徴量を元に、対象となる追跡ラベル領域(変化領域)が侵入者か否かを判定している。そして、判定部4dは、侵入者ありと判定したときに、その旨の判定信号を出力部5に出力している。
【0045】
また、判定部4dは、
図1に示すように、温度変化する静止物体(外乱)による誤検出を低減するための手段として、第1閾値変更手段14、第2閾値変更手段15を含む構成である。
【0046】
第1閾値変更手段14は、特徴量算出部4cの移動量算出手段11にて算出される追跡ラベル領域の前後フレーム間の重心移動量の大きさに応じて第一の閾値を変更している。本例では、追跡ラベル領域の前後フレーム間の重心移動量と予め設定される基準移動量(本実施例では3ピクセル)との大小関係に応じて第一の閾値を変更する処理を行う。
【0047】
本処理を具体的に説明するため、
図4を用いて説明する。
図4において符号G1、G2は、それぞれ前フレーム(nフレーム)及び現在フレーム(n+1フレーム)における追跡ラベル20の重心位置を表しており、G1からG2に向かう矢印24の画像上における長さが重心移動量の大きさを表している。
図4では、現在フレームと前フレームにおける追跡ラベル領域20の変化を2つのケースに分けて表現しており、ケース1はフレーム間における重心移動量が小さい場合について、ケース2はフレーム間における重心移動量が大きい場合について例示している。
【0048】
図4のケース1のように、現在フレームにおいて前フレームの追跡ラベル領域の近辺に小ラベルが生じている場合、重心移動量は小さな値をとる。このようなケースでは、現在フレームにおける追跡ラベル領域の面積占有率が比較的大きめに算出され、結果として画像占有変化率が小さめに算出される。例えば、前フレームにおける面積占有率が0.8であり、現在フレームの面積占有率が0.5であった場合、面積占有変化率は0.8/0.5≒1.6と計算される。一方、
図4のケース2のように、現在フレームにおいて前フレームの追跡ラベル領域から比較的離れた位置に新たな変化領域が生じている場合、重心移動量は大きめの値をとる。このようなケースでは、現在フレームにおける追跡ラベル領域の面積占有率が比較的小さめに算出され、結果として画像占有変化率が大きめに算出される。例えば、前フレームにおける面積占有率が0.8であり、現在フレームの面積占有率が0.4であった場合、面積占有変化率は0.8/0.4=2と計算される。
【0049】
このように、温度変化する静止物体による温度変化領域が不安定な形状となって抽出されたとしても、その形状が不安定さは、重心移動量の大きさと相関を有する。そのため、全てのケースにおいて同じ値の第一の閾値を用いて判定した場合、例えば
図4のケース1については第一の閾値以下であるとして、温度変化する静止物体ではないと誤判断される恐れがある。そこで、第1閾値変更手段14は、重心移動量の大きさに基づいて第一の閾値(本実施例では1.7を第一の閾値の基準値とする)を調整することにより、外乱の判定精度を高めている。具体的には、重心移動量が基準移動量(3ピクセル)以上であった場合、第1閾値変更手段14は、第一の閾値を基準値の1.7から1.8へ0.1だけ増加させる。逆に重心移動量が基準移動量以下であった場合、第1閾値変更手段14は、第一の閾値を基準値の1.7から1.6へ0.1だけ減少させる。このように、第1閾値変更手段14は、重心移動量の大きさに応じて第一の閾値を変更することにより、外乱の判定精度を高めることができる。
【0050】
第2閾値変更手段15は、特徴量算出部4cの重複度算出手段12にて算出される追跡ラベル領域の前後フレームの変化領域の重複度の大きさに応じて第一の閾値を変更している。本例では、追跡ラベル領域の前後フレームの変化領域の重複度と予め設定される基準重複度(本実施例では0.9)との大小関係に応じて第一の閾値を変更している。
【0051】
本処理の具体例について
図5を用いて説明する。
図5において、現在フレーム(n+1フレーム)に記されている斜線領域25は、前フレームにおける追跡ラベル領域20の大きさに相当する領域を表したものである。
図5では、現在フレームと前フレームにおける追跡ラベル領域20の変化を2つのケースに分けて表現しており、ケース1はフレーム間における重複度が比較的大きい場合について、ケース2はフレーム間における重複度がケース1と比較して小さめの場合について例示している。
【0052】
図5のケース1のように、フレーム間における重複度が比較的大きい場合(例えば、0.98)、静止物体による温度変動の特徴が顕著に現れているといえるため、移動物体らしさが小さいと想定できる。そのため、この場合のように重複度が基準重複度(0.9)よりも大きい場合は、第一の閾値を小さめに変更する(例えば、第一の閾値を基準値の1.7から0.1だけ減少させる)ことにより、面積占有変化率が第一の閾値にわずかに届かなくて、静止物体による温度変化を人物移動と誤判定しないようにしている。一方、
図5のケース2のように、フレーム間における重複度が第二の閾値(例えば、0.8)以上であったとしても、その値が比較的小さいような場合(例えば、0.82)、静止物体による温度変動の特徴が表れているとはいえ、ゆっくりと移動している人物である可能性も比較的高いといえる。そのため、このような人物移動の疑いの残っている変化領域に対しては、第一の閾値を大きめに変更する(例えば、第一の閾値を基準値の1.7から0.1だけ増加させる)ことにより、面積占有変化率の判定にてより厳格に外乱であるか否かを判定する。このように、第2閾値変更手段15は、重複度の大きさに応じて第一の閾値を変更することにより、外乱の判定精度を高めることができる。
【0053】
なお、上述した第1閾値変更手段14、第2閾値変更手段15の基準値として用いられる基準移動量、基準重複度は、固定値又は所定範囲を持つ値として記憶部3に予め記憶されている。
【0054】
出力部5は、画像処理部4の判定部4dにて侵入者ありと判定された旨の判定信号を外部に出力するもので、例えば表示器やブザーなどで構成される。出力部5は、画像処理部4の判定部4dから侵入者ありの判定信号が入力されると、表示器やブザーを駆動して侵入者ありの旨を報知する。
【0055】
なお、出力部5は、不図示の警備装置や遠隔の監視センタなどと通信線を介して接続され、画像処理部4の判定部4dから入力された侵入者ありの判定信号を通信線に出力する通信I/Fとして構成することもできる。
【0056】
(画像監視装置1による人物有無の判定処理について)
次に、上記構成による画像監視装置1を用いて監視空間における人物の有無を判定する場合の画像処理部4の処理動作について
図6を参照しながら説明する。
【0057】
画像処理部4は、画像監視装置1の電源がオンされると、設定情報取得処理を実行する(ST1)。設定情報取得処理では、予め設定される画像監視装置1に関する設定情報や画像処理部4の各種処理に使用される情報を取得し、取得した情報を記憶部3に格納する。ここで言う情報とは、撮像部2の設置高や俯角、撮像部2より得られる画像の垂直方向及び水平方向の画素数、垂直画角や水平画角、基準画像、各種閾値などである。
【0058】
次に、画像処理部4は、入力画像取得処理を実行する(ST2)。入力画像取得処理では、撮像部2が監視空間の監視範囲を撮像した赤外線などの熱画像の取得を行う。
【0059】
次に、画像処理部4の抽出部4aにより抽出処理を実行する(ST3)。抽出処理では、入力画像取得処理で取得された熱画像から変化領域を抽出する。
【0060】
次に、画像処理部4の抽出部4aによりラベリング処理を実行する(ST4)。ラベリング処理では、ST3の抽出処理で求めた変化領域についてラベル付けを行う。例えば注目抽出画素の周囲で隣接する抽出画素をひとまとまりとしてラベル領域とする手法などが利用できる。また、ラベリング処理では、所定範囲にある複数のラベルを一つのラベルに統合するラベル統合処理を行う。例えばそれぞれのラベルの抽出領域について、設定情報取得処理で得た設置情報(例えば撮像部2の設置高や俯角などの情報)を活用し、画面上での人想定サイズに基づいた領域の位置と大きさを算出する。そして、算出した領域に別のラベルが付与された抽出領域が含まれる場合は、同一のラベルとなるようにラベルを付与し直す。これに対し、画面内にラベルが1つしか存在しない場合は、何も処理を行わない。
【0061】
次に、画像処理部4の抽出部4aによりノイズ除去処理を実行する(ST5)。ノイズ除去処理では、ST4のラベリング処理で得られた個々のラベルがノイズ抽出であるか否かを判定し、ノイズ抽出と判定された場合は除去する。例えばラベルの画素数が設定値以下である場合は、そのラベルをノイズ抽出として除去する。なお、その際の設定値は、予め記憶部3に記憶されている。
【0062】
次に、画像処理部4の追跡部4bにより追跡処理を実行する(ST6)。追跡処理では、ST4のラベリング処理及びST5のノイズ除去処理が施されたラベル領域に対し、前回取得した熱画像の追跡ラベル領域との対応付けを行う。具体的には、前回取得した熱画像の追跡ラベル領域と現在処理中の熱画像のラベル領域について、熱画像内での位置関係などをもとに、同一の追跡物体によるものか否かを判別する。そして、同一の追跡物体によるものと判定された場合には、前回取得した熱画像の追跡ラベル領域と同じ追跡ラベルを付与し直す処理を行う。また、現在処理中の熱画像に出現しているラベル領域であって、前回の追跡ラベル領域のいずれとも対応付けられないラベル領域については、新規に出現した追跡ラベル領域として追跡を開始し、新たな追跡ラベルを付与する。さらに、前回存在した追跡ラベル領域で、現在処理中の熱画像に出現したラベル領域のいずれとも対応付けられない追跡ラベル領域については、追跡を終了し、当該ラベルを破棄する。
【0063】
次に、画像処理部4の特徴量算出部4cにより特徴量算出処理を実行する(ST7)。特徴量算出処理では、ST6の追跡処理で求めた追跡ラベル領域について、侵入者か否かを判定するための特徴量を算出するとともに、静止物体の温度変化による外乱であるか否かを判定するための特徴量を算出する。具体的には、透視変換によって推定される実空間での幅・高さや移動量などを用いて、後述する追跡ラベル領域の人らしさを求める。また、予め記憶部3に記憶される計算式を用いて、後述する重複度と面積占有変化率を求める。
【0064】
次に、画像処理部4の判定部4dにより侵入者判定処理を実行する(ST8)。侵入者判定処理では、ST7の特徴量算出処理で求めた侵入者を判定するための特徴量を用い、予め定められた判定条件に従って追跡ラベル領域が侵入者か否かの判定を行う。例えば後述する特徴量算出処理により追跡ラベル領域の人らしさを1フレーム毎に算出し、判定条件として、変化領域の出現時刻からの人らしさの累積値が閾値以上で、かつ移動量も閾値以上のときに、追跡ラベル領域が侵入者であると判定する。その際の閾値は、予め記憶部3に記憶されている。
【0065】
なお、
図6のフローチャートにおいて、ループ1はST2〜ST8の各処理を1フレームの画像取得毎に実行することを意味し、ループ2はST7〜ST8の各処理をラベル領域の数だけ実行することを意味している。
【0066】
(特徴量算出処理の詳細について)
次に、
図6のフローチャートのST7における、画像処理部4の特徴量算出部4cが実行する特徴量算出処理について
図7を参照しながら説明する。
【0067】
画像処理部4の特徴量算出部4cは、まず、ST6の追跡処理で求めた追跡ラベル領域が新規の追跡ラベル、すなわち初めて出現した追跡ラベルであるか否かを判別する(ST11)。追跡処理で求めた追跡ラベル領域が新規の追跡ラベルではないと判定すると、ST12の追跡ラベル領域の外接矩形座標計算処理に移行する。これに対し、追跡処理で求めた追跡ラベル領域が新規の追跡ラベルであると判定すると、特徴量算出処理を終了し、前述したST8の侵入者判定処理に移行する。この場合、当該追跡ラベルについての全ての特徴量を0に設定することとする。
【0068】
ST12の追跡ラベル領域の外接矩形座標計算処理では、ST6の追跡処理で求めた追跡ラベル領域について、この追跡ラベル領域の外接矩形の頂点の座標値、外接矩形の幅や高さを算出する。
【0069】
次に、透視変換処理を実行する(ST13)。透視変換処理では、ST12の追跡ラベル領域の外接矩形座標計算処理で求めた外接矩形の頂点の座標値、幅や高さ、記憶部に記憶されている設定情報である画像監視装置の設置高・俯角を利用し、追跡ラベル領域の実空間上での推定幅と推定高さを透視変換によって計算する。
【0070】
次に、追跡ラベル領域の移動量計算処理を実行する(ST14)。追跡ラベル領域の移動量計算処理では、ST6の追跡処理で求めた追跡ラベル領域の移動量を計算する。例えば、前フレームの追跡ラベル領域の重心座標と現在フレームの追跡ラベル領域の重心座標からフレーム間の重心移動量距離を求め、この重心移動距離を移動量として計算する。
【0071】
次に、人らしさ算出処理を実行する(ST15)。人らしさ算出処理では、ST13の透視変換処理にて求めた追跡ラベル領域の外接矩形の実空間上での推定幅と推定高さを元に、人らしさを計算する。具体的には、対象の追跡ラベル領域について、(1)実空間上での推定幅が60cm以上100cm以下、(2)実空間上での推定高さが70cm以上200cm以下といった条件を定め、(1),(2)の両方の条件を満たす場合のみ、人らしさを1とし、(1),(2)の条件の何れか一つでも満たさない場合は、人らしさを0とする。そして、記憶部3にこの追跡ラベル領域に対応するよう記憶されている人らしさの累積値に、ここで算出した人らしさを加算する処理を行う。
【0072】
次に、特徴量算出部4cの重複度算出手段12にて重複度算出処理を実行する(ST16)。重複度算出処理では、前フレームと現在フレームの追跡ラベル領域の重複度合いを示す重複度を算出する。具体的には、追跡処理で求めた前フレームと現在フレームの追跡ラベル領域について、
図2に示すように、前フレームの追跡ラベル領域面積S1、現在フレームの追跡ラベル領域面積S2とし、前フレームと現在フレームの追跡ラベル領域の重なった部分の面積S3を算出し、これら面積S1,S2,S3から重複度Ro=MAX(S3/S1,S3/S2)を求める。
【0073】
次に、特徴量算出部4cの面積占有変化率算出手段13にて面積占有変化率算出処理を実行する(ST17)。面積占有変化率算出処理では、前後フレームの追跡ラベル領域の面積占有変化率を算出する。まず、面積占有率を計算するために、
図3に示すように、前フレームの追跡ラベル領域面積S1、現在フレームの追跡ラベル領域面積S2、前フレームの追跡ラベル外接矩形面積S1’、現在フレームの追跡ラベル外接矩形面積S2’を算出する。
【0074】
次に、算出した前フレームの追跡ラベル領域面積S1、現在フレームの追跡ラベル領域面積S2、前フレームの追跡ラベル領域の外接矩形面積S1’、現在フレームの追跡ラベル領域の外接矩形面積S2’を用いて、前フレームの追跡ラベル領域の面積占有率X1=S1/S1’と、現在フレームの追跡ラベル領域の面積占有率X2=S2/S2’とを算出する。
【0075】
そして、上記計算によって求めた前フレームの追跡ラベル領域の面積占有率X1と現在フレームの追跡ラベル領域の面積占有率X2とを用い、面積占有変化率Rs=MAX(X1/X2,X2/X1)を算出する。
【0076】
(侵入者判定処理の詳細について)
次に、
図6のフローチャートにおいて、画像処理部4の判定部4dが実行する侵入者判定処理と第一の閾値変更処理について
図8を参照しながら説明する。
【0077】
画像処理部4の判定部4dは、まず、追跡ラベル領域の移動量計算処理で求めた追跡ラベル領域の移動量が人らしい移動量として予め定めた基準移動量(例えば3ピクセル)以上であるか否かを判別する(ST21)。追跡ラベル領域の移動量が基準移動量以上であると判定すると、記憶部3にこの追跡ラベル領域に対応して記憶された人らしさの累積値を読み出し、当該累積値が予め定めた所定の基準値(例えば、5)以上であるか否かを判定する(ST22)。
【0078】
追跡ラベル領域の人らしさの累積値が所定の基準値以上であると判定すると(ST22−Yes)、ST23、ST24の第一の閾値の変更処理に進む。
【0079】
なお、追跡ラベル領域の移動量が設定値以上ではないと判定したとき(ST21−No)、追跡ラベル領域の人らしさの累積値が基準値である「5」以上ではないと判定したとき(ST22−No)は、侵入者なしの旨の結果信号を出力部に出力する(ST25)。
【0080】
(第一の閾値変更処理の詳細について)
第一の閾値の変更処理では、まず、判定部4dの第1閾値変更手段14が特徴量算出部4cの移動量算出手段11にて算出された前後フレームの変化領域の重心移動量と基準移動量(3ピクセル)との比較により第一の閾値を変更する(ST23)。具体的には、重心移動量が基準移動量(3ピクセル)以上であった場合、第1閾値変更手段14は、第一の閾値を基準値の1.7から1.8へ0.1だけ増加させる。逆に重心移動量が基準移動量以下であった場合、第1閾値変更手段14は、第一の閾値を基準値の1.7から1.6へ0.1だけ減少させる。このように、第1閾値変更手段14は、重心移動量の大きさに応じて第一の閾値を変更することにより、外乱の判定精度を高めることができる。
【0081】
次に、判定部4dの第2閾値変更手段15は、特徴量算出部4cの重複度算出手段12にて算出された前後フレームの変化領域の重複度と基準重複度(0.9)との比較により第一の閾値を変更する(ST24)。すなわち、重複度が基準重複度よりも大きい場合は、第一の閾値を基準値の1.7から0.1だけ減少させる。一方、重複度が基準重複度以下の場合は、第一の閾値を基準値の1.7から0.1だけ増加させる。このように、第2閾値変更手段15は、重複度の大きさに応じて第一の閾値を変更することにより、外乱の判定精度を高めることができる。
【0082】
そして、上述したST23、ST24の第一の閾値の変更処理が適宜実行されると、重複度が第二の閾値以上であるか否かを判別する(ST26)。重複度が第二の閾値以上であると判定すると、面積占有変化率が第一の閾値以上であるか否かを判別する(ST27)。これに対し、重複度が第二の閾値以上ではないと判定すると、侵入者ありの旨の結果信号を出力部5に出力する(ST28)。
【0083】
そして、面積占有変化率が第一の閾値以上であると判定すると、侵入者なしの旨の結果信号を出力部5に出力する(ST25)。これに対し、面積占有変化率が第一の閾値以上ではないと判定すると、侵入者ありの旨の結果信号を出力部5に出力する(ST28)。
【0084】
なお、
図8のフローチャートの第一の閾値の変更処理は、前後フレームの変化領域の移動量に応じた第一の閾値の変更処理(ST23)、前後フレームの変化領域の重複度に応じた第一の閾値の変更処理(ST24)の順序で行っているが、これら2つの変更処理は必要に応じて適宜行うことができる。また、これら2つの変更処理は、その順序及び組み合わせを問わないものであり、何れかの変更処理を省略することもできる。
【0085】
以上のように、本発明に係る画像監視装置は、エアコン等の温度変化する物に起因する温度変化領域の形状は、温度変化の少ない人体などの温度変化領域の形状と比較して不安定に変化するという性質を利用した条件(条件1)を用いて、監視空間を撮像した熱画像から抽出される変化領域が温度変化をする物によるものか否かを判定する機能を有している。また、付加的に、静止物体自体の温度変化領域は移動せずに略重なって抽出され易いという性質を利用した条件(条件2)を用いて、監視空間を撮像した熱画像から抽出される変化領域が温度変化をする静止物体によるものか否かを判定する機能も有している。すなわち、条件1に関しては、前後フレームで変化領域として抽出されるラベル領域(統合変化領域)の面積が判定領域(外接矩形)の面積に占める割合の変化率を示す面積占有変化率を算出する。条件2に関しては、前後フレームで変化領域として抽出されるラベル領域(統合変化領域)の熱画像上の重複度合いを示す重複度を算出する。そして、これら算出された面積占有変化率と重複度とを利用することにより、抽出された変化領域が温度変化をする物に起因する外乱であるか否かを精度良く判定し、外乱による誤検出を低減することができる。
【0086】
ここで、条件1に関して、温度変化をする物に起因する温度変化領域の形状が不安定に変化する場合は、前後フレームにおいて、判定領域の面積に占める追跡ラベル面積の割合(面積占有率)が急激に変化する。これに対し、人体等の温度変化の少ない移動物体の場合、追跡ラベル領域の形状は比較的安定しているため、面積占有率も安定に推移する。そこで、前後フレームでの面積占有率の変化率を示す面積占有変化率を算出し、この算出した面積占有変化率が予め定めた第一の閾値以上のときに、移動物体ではなく、温度変化をする物に起因する不安定な温度変化領域の候補としている。
【0087】
また、条件2に関して、静止物体に起因する温度変化領域は移動していないため、現在フレームでは前フレームとほぼ同じ位置に追跡ラベル領域が存在する。そこで、現在フレームと前フレームの追跡ラベル領域の重複面積が現在フレーム又は前フレームの追跡ラベル領域面積に占める割合を示す重複度を算出し、この算出した重複度が予め定めた第二の閾値以上のときに、静止物体候補としている。
【0088】
そして、注目している追跡ラベル領域について、上述した条件1と条件2の両方が成立するとき、すなわち、面積占有変化率が第一の閾値以上であり、且つ、重複度が第二の閾値以上であるときに、静止物体に起因する不安定な温度変化領域であると判定し、発報を抑制している。これにより、静止物体の温度変化で誤報せず、侵入者のときだけ発報させることができる。なお、エアコン等の静止物体自体の温度変化に限らなければ、条件1のみを用いることによっても、温度変化をする物に起因する誤報を抑制することができる。
【0089】
また、前記実施例では、前後フレームの変化領域の重心位置間の移動量、前後フレームの変化領域の重複度に応じて侵入者であるか否かを判定するための第一の閾値の変更処理を行っている。これにより、例えば発熱源や冷却源などの温度変化する静止物体が監視領域内に存在する場合に、熱画像上の変化領域を静止物体として誤判定することなく、静止物体の温度変化に起因する外乱の判定精度を高めることができる。
【0090】
ところで、本発明は、上記実施例に限定されるものではなく、特許請求の範囲に記載した技術的思想の範囲内で、更に種々の異なる実施例で実施されてもよいものである。また、実施例に記載した効果は、これに限定されるものではない。
【0091】
前記実施例では、目標移動物体として人物の有無を判定している。しかし、これに限らず、目標移動物体として車などの人物以外の移動物体の有無を判定する画像監視装置として用いても良い。すなわち、前記実施例では、ST15の人らしさ算出処理において、追跡ラベルの実空間での大きさ(推定幅、推定高さ)が人物らしい大きさのときに人らしいとして、特徴量である「人らしさ」を算出しているが、これを車らしい大きさのときに車らしいとして特徴量である「車らしさ」を算出するよう処理を行う。また、前記実施例では、ST21にて、追跡ラベル領域の移動量が人らしい移動量以上であるか否かを判定しているが、これを車らしい移動量(例えば、10ピクセル)以上であるか否かを判定する処理を行う。
【0092】
また、前記実施例では、温度変化をする物に起因する外乱であると判定したとき、「侵入者なし」の出力をしている。しかし、これに限らず、温度変化をする物に起因する外乱であると判定したときに特徴量である「目標移動物体らしさ(例えば、人らしさ)」を減じるよう処理し、最終的にこの「人らしさ」が所定の閾値以上であるときにのみ「侵入者あり」の出力をするよう、処理を行ってもよい。