(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0012】
以下、本発明の炎検出
装置の好適な実施の形態につき図面を用いて説明する。
本発明は、炎特有の揺らぎを捉えて炎検出を行う方式では、照明のちらつき等の、炎と同じような画素変化を示す誤報源との判別が困難であった問題を解消すべく、炎の抽出に特化した領域抽出方法と、炎が作り出す特有の形状に着目した特徴量の抽出方法とを組合せ、炎検出の精度向上を実現することを技術的特徴とするものである。
【0013】
実施の形態1.
図1は、本発明の実施の形態1における炎検出装置の構成図である。本実施の形態1における炎検出装置は、画像メモリ10、前処理部20、および炎検出部30を備えている。画像メモリ10は、カメラ1により撮像された画像を、過去一定期間分、時系列データとして記憶できるように、複数フレーム分の画像メモリとして構成されている。
【0014】
前処理部20は、移動体抽出部21、および候補領域生成部22で構成される。そして、この前処理部20は、画像メモリ10に記憶された、カメラ1により撮像された過去一定期間(1サイクル)に含まれる各フレームの画像に基づいて、移動体と思われる部分の画素を抽出し、炎検出を行うための候補領域として特定する機能を有している。
【0015】
また、炎検出部30は、特徴量算出部31、および炎判定部32で構成される。そして、この炎検出部30は、前処理部20でサイクルごとに特定された候補領域について、炎の発生の有無を検出するための特徴量を算出し、算出結果に基づいて炎が発生しているか否かを判断する機能を有している。
【0016】
ここで、本願発明の検出原理について、概略を説明する。
まず始めに、カメラ1から取得された画像に対して、移動体に対応する画素の抽出を行う(ステップ1)。次に、抽出された画素を元に、炎候補領域を作成する(ステップ2)。次に、作成した炎候補領域内で抽出された移動体の特徴量を計算する(ステップ3)。そして、最後に、その特徴量から炎らしさを判別し、火災の判定を行うこととなる(ステップ4)。
【0017】
ここで、本実施の形態1では、毎フレーム処理と毎サイクル処理に分けて行い、1サイクルを64フレームとして処理する場合を例に説明する。本実施の形態1では、具体的には、炎候補領域を作成するまでのステップ1、2の処理を、毎フレーム処理として1サイクル分繰り返し行い、1サイクル処理した結果として抽出された炎候補領域について、次のサイクルでステップ3の特徴量の計算、およびステップ4の火災判定を行うこととなる。
【0018】
そして、ステップ1の移動体抽出処理が、前処理部20内の移動体抽出部21で毎フレーム実行され、ステップ2の炎候補領域作成処理が、前処理部20内の候補領域生成部22で毎フレーム実行され、各サイクルの終了時点で、後段の炎検出部30で使用する候補領域(最終候補領域)が特定される。また、ステップ3の特徴量計算処理が、炎検出部30内の特徴量算出部31で毎サイクル実行され、ステップ4の火災判定処理が、炎検出部30内の炎判定部32で毎サイクル実行される。そこで、前処理部20により毎フレーム実行される処理と、炎検出部30により毎サイクル実行される処理に分けて、以下に説明する。
【0019】
(1)前処理部20により毎フレーム実行される処理について
前処理部20は、カメラ1により取得されたカメラ映像から、移動している物体の抽出を行なう。
図2は、本発明の実施の形態1における炎検出装置の前処理部20による移動体画素の抽出処理に関する説明図である。なお、
図2では、説明をわかりやすくするために、本来の検出対象である炎を移動体として抽出する場合をイラスト的に示している。さらに、この移動体が、背景よりも明るいと仮定して説明する。
【0020】
図2(a)には、カメラ1により取り込まれる画像として、次の3つの画像が示されている。
(画像a1)移動体が存在しない状態の基準画像(炎が存在しない背景画像に相当)であり、例えば、プログラム起動時などにあらかじめ取得される画像に相当する。
(画像a2)時系列で取得される1サイクル分の画像のうち、ある時刻t−1に取得された画像であり、左側に移動体が撮像された画像を例示している。
(画像a3)時系列で取得される1サイクル分の画像のうち、ある時刻tに取得された画像であり、時刻t−1において左側に存在した移動体が、中央寄りに移動した状態の画像を例示している。
【0021】
次に、
図2(b)には、
図2(a)の3つの画像に基づいて得られる、次の2種類の差分画像が示されている。
(画像b1)画像a2と画像a3の差分画像であり、時系列差分画像を示している。具体的には、時系列である時刻t−1の画像a2と時刻tの画像a3に基づいて、両画像の対応する画素ごとに、両画素の輝度値(濃淡値)の差分の絶対値を求めることで生成される画像を、時系列差分画像と称している。
(画像b2)画像a1と画像a3の差分画像であり、背景差分画像を示している。具体的には、基準画像a1と時刻tの画像a3に基づいて、両画像の対応する画素ごとに、両画素の輝度値の差分の絶対値を求めることで生成される画像を、背景差分画像と称している。
【0022】
次に、
図2(c)には、
図2(b)の2種類の差分画像のそれぞれに対して、所定の閾値で2値化することで得られる、次の2つの2値画像が示されている。
(画像c1)画像b1に関して所定の閾値により2値化して得られる2値画像であり、時系列差分画像として、所定の閾値以上の差分を有する画素が抽出されることとなる。従って、炎のように揺れている場合には、時刻t−1と時刻tの画像で、一方の時刻のみ炎と検出された画素を抽出できることとなる。
(画像c2)画像b2に関して所定の閾値により2値化して得られる2値画像であり、背景差分画像として、所定の閾値以上の差分を有する画素が抽出されることとなる。従って、時刻tの画像で、炎と検出された画素を抽出できることとなる。
【0023】
次に、
図2(d)には、画像c1と画像c2の論理和をとって得られる、次の2値画像が示されている。
(画像d1)時系列差分に基づく2値画像c1と、背景差分に基づく2値画像c2に基づいて、少なくとも一方の画像で黒の画素を黒とし、両方の画像とも白の画素を白とすることで、炎検出領域を抽出することができる。
【0024】
なお、炎として検出される画素は、所定の高輝度値以上を有することが前提となる。そこで、2つの画像に基づいて、時系列差分画像b1あるいは背景差分画像b2を算出する際には、少なくとも一方の画像において所定の高輝度値以上を有する画素のみを抽出して差分画像を生成することで、余分な領域を最終的に炎検出領域として抽出しないようにすることができる。
【0025】
そして、前処理部20内の移動体抽出部21は、
図2(a)〜
図2(c)に示した一連処理をフレームごとに繰り返し実行する。また、前処理部20内の候補領域生成部22は、
図2(d)としてフレームごとに抽出される炎検出領域について、1サイクル分(64フレーム分)の論理和をとることで、最終的に1サイクル処理後の炎候補領域を特定することとなる。すなわち、候補領域生成部22は、64フレームの中で1回でも炎候補領域として抽出された画素を集計し、炎候補領域を特定する。
【0026】
さらに、候補領域生成部22は、画素ごとに、1サイクル内において、炎候補領域として抽出された回数(以下、この回数のことを抽出回数と称す)をカウントすることで、画素ごとの抽出回数を算出しておくことができる。すなわち、この抽出回数は、64フレーム中何フレームで炎候補領域として特定された画素に相当するかを示す指標となる。
【0027】
そして、候補領域生成部22は、抽出回数が所定回数未満の画素を候補領域から除外することもできる。
【0028】
また、候補領域生成部22は、64フレームの中で1回でも炎候補領域として抽出された画素のうち、隣接して1つの島を形成している画素の集合に対して、外接長方形を設定することで、矩形状の領域として炎候補領域を特定することもできる。
【0029】
(2)炎検出部30により毎サイクル実行される処理について
前処理部20により1サイクル処理ごとに特定される炎候補領域に対して、本実施の形態1における炎検出部30内の特徴量算出部31は、以下の5つの特徴量に基づく炎判別処理を行うこととなる。
[炎判別処理1]楕円一致率を特徴量1として抽出し、炎判別を行う。
[炎判別処理2]弱エッジの割合を特徴量2として抽出し、炎判別を行う。
[炎判別処理3]重心位置の遷移の周期性を特徴量3として抽出し、炎判別を行う。
[炎判別処理4]重心位置の遷移の増加/減少状態を特徴量4として抽出し、炎判別を行う。
[炎判別処理5]平均輝度の変化量を特徴量5として抽出し、炎判別を行う。
【0030】
そして、本実施の形態1における炎検出部30内の炎判定部32は、特徴量算出部31による炎判別処理1〜5の結果を統合処理して、最終的に炎判定を実行する。そこで、次に、炎判別処理1〜5のそれぞれについて、詳細を説明する。
【0031】
[炎判別処理1]楕円一致率を特徴量1として抽出し、炎判別を行う方法について
検出対象である炎は、例えば人の移動など、他の移動体とは異なり、楕円形状に近い形として画像認識される傾向にある。そこで、炎判別処理1では、特定された候補領域内に存在する移動体の画素データに対応する楕円形を抽出し、抽出した楕円形の領域に対して、炎候補領域として特定された画素が含まれている割合を楕円一致率として算出し、この楕円一致率の大きさが所定一致率以上である場合に、移動体として検出したものが炎であると判別している。そこで、以下に、具体的な判別方法を説明する。
【0032】
楕円とは、「2定点からの距離の和が一定となるような点の集合から作られる曲線」と定義される。そこで、炎検出部30内の特徴量算出部31は、候補領域生成部22によって特定された炎候補領域に基づいて、以下の手順で楕円形の計測領域を抽出する。
【0033】
(手順1)特徴量算出部31は、前回のサイクルで特定された炎候補領域において、今回のサイクルにおける各フレームで移動体の抽出を行う。移動体の抽出は、前処理部20による候補領域の特定と同様に、時系列差分画像および背景差分画像に基づいて行う。さらに、炎候補領域内の各画素について、1サイクル内でいくつのフレームで移動体として抽出されたかを、抽出回数としてカウントする。そして、特徴量算出部31は、抽出回数に応じて階調分けする。例えば、最低が0回、最大が64回としてカウントされる抽出回数について、例えば、以下のような8階調に分けることが考えられる。
1階調目:抽出回数0〜8
2階調目:抽出回数9〜16
:
8階調目:抽出回数57〜64
【0034】
図3は、本発明の実施の形態1における炎検出処理で抽出される特徴量1に関する説明図である。
図3(a)では、階調分けした結果を色分け表示した具体例を示している。
なお、上述した階調分けは一例に過ぎず、任意の階調数に分割でき、各階調に含まれる抽出回数も任意の範囲を設定可能である。
【0035】
(手順2)特徴量算出部31は、抽出回数が最大である領域(
図3(a)で最も内側の色として特定された領域に相当)と、抽出回数が最小である領域(
図3(a)で最も外側の色として特定された領域に相当)に対して、下式(1)を用いて重心を求める。具体的には、それぞれの領域ごとに、領域内の画素について、X座標、Y座標それぞれの平均を計算することで求まった重心位置を、焦点の座標としている。
【0037】
(手順3)特徴量算出部31は、抽出回数が最大である領域について算出された焦点を焦点Aとし、抽出回数が最小である領域について算出された焦点を焦点Bとする。
図3(b)に、算出された焦点A、焦点Bの位置を例示している。そして、特徴量算出部31は、抽出回数が最小である領域に含まれる画素について、下式(2)を用いることで、焦点Aと焦点Bからの距離の和の平均を求め、楕円の半径とする。
【0039】
なお、上式(1)、(2)における変数は、それぞれ以下の内容である。
F_x:重心位置のX座標
F_y:重心位置のY座標
Px:領域に含まれる画素のX座標
Py:領域に含まれる画素のy座標
Pn:領域内に含まれる画素総数
FAx:焦点AのX座標
FAy:焦点AのY座標
FBx:焦点BのX座標
FBy:焦点BのY座標
i:X座標の変数
j:Y座標の変数
【0040】
炎は、楕円のような形をしながら激しく燃えるが、人が移動した場合などでは、炎による楕円形状とは異なる複雑な形をしている傾向にある。そこで、特徴量算出部31は、炎候補領域内の抽出回数が1以上の画素について、上式(1)(2)で規定される楕円の中に存在するか、外に存在するかを判別する。そして、下式(3)を用いて、楕円の一致度を算出する。
【0042】
そして、特徴量算出部31は、上式(3)で求めた一致度が、所定の許容一致度以上である場合には、炎検出領域内で検出された移動体は、炎であると判断することができる。
図4は、本発明の実施の形態1における特徴量1に関連した楕円一致度の説明図である。
図4(a)における黒塗りの領域は、炎候補領域のうち、上式(1)(2)で規定される楕円の内側領域を示している。また、
図4(b)における黒塗りの領域は、炎候補領域のうち、上式(1)(2)で規定される楕円の外側領域を示している。
【0043】
また、
図4(c)は、炎が発生している状態での、各サイクルで算出された一致度の遷移と、人が移動している状態での、各サイクルで算出された一致度の遷移との比較を示している。
図4(c)からもわかるように、特徴量1として楕円の一致度に着目することで、炎と、例えば人の移動のような炎以外の移動体とを識別することが可能となる。
【0044】
なお、上述した
図4に基づく焦点算出では、変化画素の抽出回数が最小および最大の領域に対して重心を求め、それらの2点を焦点として楕円領域を作成することで,楕円領域と移動体としての抽出領域との一致度を特徴量1として求めていた。しかしながら、炎の形によっては、この手法では、適切に楕円領域を作成することができない場合もあった。
【0045】
そこで、このような場合には、焦点の補正を行うことで、楕円領域の作成を改善することが考えられる。
図5は、本発明の実施の形態1における特徴量算出部31による、焦点位置の補正手順に関する説明図である。この
図5を用いて、焦点位置の補正手順を説明する。
【0046】
(補正手順1)まず始めに、特徴量算出部31は、楕円の長軸を楕円の中点に関して時計回りと反時計回りに所定角度(例えば、10度)ずつ回転させる(
図5(a)参照)。
(補正手順2)次に、特徴量算出部31は、回転させた2本の直線で囲まれる領域(2本の直線で挟まれた領域)に含まれる画素に限定して、上式(1)を用いて新しい重心を求める。その際には、楕円の中心から距離が大きくなるほど重みを大きく付加する(
図5(b)参照)。
(補正手順3)最後に、特徴量算出部31は、新たに求まった2つの重心に関して、抽出回数が最小である領域に含まれる画素について、上式(2)を用いることで、新たに求まった焦点Aと焦点Bからの距離の和の平均を求め、楕円の半径とする(
図5(c)参照)。
【0047】
このような補正手順1〜3を実行することにより、焦点A、焦点Bがより外側に設定されることとなり、炎のより多くの部分を、新たに規定した楕円内に納めることができる。この結果、上式(3)による一致度を高めることができ、特徴量1に基づく判別精度を向上させることができる。
【0048】
[炎判別処理2]弱エッジの割合を特徴量2として抽出し、炎判別を行う方法について
図6は、本発明の実施の形態1における炎検出処理で抽出される特徴量2に関する説明図である。上段の
図6(a)(b)は、炎を撮像した際の元画像とエッジ検出結果を示している。また、下段の
図6(c)(d)は、誤検出要因である人の移動を撮像した際の元画像とエッジ検出結果を示している。
【0049】
図6(a)(b)に示すように、炎は、激しい光を発しながら燃えるので、高輝度の領域が密集し、その結果、炎の内部では、弱いエッジが密集する傾向にある。一方、
図6(c)(d)に示すように、人の移動では、このような傾向は見られない。
【0050】
そこで、炎判別処理2では、特定された候補領域内に存在する移動体のエッジの密集度を算出し、所定値以下の弱いエッジで構成されている場合に、移動体として検出したものが炎であると判別している。そこで、以下に、具体的な判別方法を説明する。
【0051】
(手順1)特徴量算出部31は、弱エッジの密集度を求めるために、まず、弱いエッジの抽出を行う。本実施の形態1では、一例として、エッジ強度が15以下のエッジを弱エッジとする。
図7は、本発明の実施の形態1における特徴量算出部31で抽出される弱エッジに関する説明図である。具体的には、
図7(a)のエッジ検出結果に対して、炎候補領域内の弱エッジを抽出した結果が、
図7(b)に示されている。
【0052】
(手順2)続いて、特徴量算出部31は、弱エッジとして抽出された画素の密集度を求める。まず、特徴量算出部31は、画像全体に対してラスタ走査を行い、抽出された弱エッジの画素があれば、その画素を中心として5×5の小領域を設定し、小領域内部に存在する弱エッジとして抽出された画素数を求める。なお、小領域のサイズは、5×5に限定されず、弱エッジ画素を中心に(2m+1)×(2m+1)の小領域(mは、1以上の整数)を設定することが可能である。
【0053】
図8は、本発明の実施の形態1における特徴量算出部31で算出される弱エッジの密集度に関する説明図である。
図8(a)は、先の
図7(b)と同様の、弱エッジ検出結果を示している。また、
図8(b)は、
図8(a)中の弱エッジとして検出された領域のうち、左上の5×5の小領域を含む拡大図を示している。
図8(b)では、5×5の小領域に、弱エッジとして抽出された画素が12個含まれている場合を例示している。
【0054】
(手順3)最後に、特徴量算出部31は、全ての弱エッジ画素に対して、小領域内部に存在する弱エッジとして抽出された画素数を求め、その平均値を、弱エッジの密集度とする。そして、特徴量算出部31は、この密集度が所定の閾値(例えば15画素)以上である場合には、炎検出領域内で検出された移動体は、炎であると判断することができる。
【0055】
[炎判別処理3]重心位置の遷移の周期性を特徴量3として抽出し、炎判別を行う方法について
この炎判別処理3では、誤検出要因である回転灯を移動体として抽出した場合に、炎と区別する方法について説明する。抽出された移動体が回転灯の場合、フレームごとに算出される移動体の重心位置は、炎に比べて、強い周期性を持った推移が得られる。
図9は、本発明の実施の形態1における炎検出処理で抽出される特徴量3に関する説明図である。
【0056】
具体的には、
図9(a)は、3個の回転灯が点滅するシーンを撮像することで抽出された移動体に関して、フレームごとに算出した重心位置の遷移を、X座標とY座標に分けて示したものである。また、
図9(b)は、一般的な炎が燃えるシーンを撮像することで抽出された移動体に関して、フレームごとに算出した重心位置の遷移を、X座標とY座標に分けて示したものである。
【0057】
また、
図9(c)は、回転灯を移動体として抽出した際の
図9(a)の重心位置の遷移に対して、離散フーリエ変換を施した結果を、X座標とY座標に分けて示したものである。さらに、
図9(d)は、炎を移動体として抽出した際の
図9(b)の重心位置の遷移に対して、離散フーリエ変換を施した結果を、X座標とY座標に分けて示したものである。
【0058】
炎判別処理3では、重心推移の周期性を定量的に評価するために、離散フーリエ変換を用いている。離散フーリエ変換とは、ある波形を綺麗な正弦波の集まりに分解することである。入力された波形が綺麗な波形をしていれば、ある周波数帯でのみ強いスペクトルが得られることとなる。そこで、以下に、具体的な判別方法を説明する。
【0059】
(手順1)特徴量算出部31は、前回のサイクルで特定された炎候補領域のそれぞれについて、今回のサイクルのフレームごとに抽出される移動体に関し、上式(1)を用いて、重心位置を算出する。その結果に基づく重心の遷移状態を示したものが、
図9(a)(b)に相当する。
(手順2)次に、特徴量算出部31は、手順1で求めた重心位置の遷移データに対して、離散フーリエ変換を行う。周波数と振幅スペクトルの関係をグラフに示した結果が、
図9(c)(d)に相当する。なお、
図9(c)(d)では、一例として、64フレーム分(1サイクル分)のデータに対して、離散フーリエ変換を行っている。
【0060】
(手順3)最後に、特徴量算出部31は、手順2の離散フーリエ変換の結果に基づいて、平均振幅スペクトルと最大振幅スペクトルを求める。さらに、特徴量算出部31は、下式(4)を用いることで、最大のスペクトルが他のスペクトルに対してどれくらい大きいかを、特徴量3として算出する。
【0062】
この特徴量3の値が大きくなると、周期性が強くなると考えられる。そこで、特徴量算出部31は、特徴量3が一定以上の値になると周期性が強いと判定し、炎検出領域内で検出された移動体は、炎ではなく、誤検出要因の回転灯であると判断でき、誤報を抑制することができる。
【0063】
[炎判別処理4]重心位置の遷移の増加/減少状態を特徴量4として抽出し、炎判別を行う方法について
この炎判別処理4では、誤検出要因である人や車を移動体として抽出した場合に、炎と区別する方法について説明する。抽出された移動体が人や車などといった場合には、これらの移動体は直進移動する場合が多く、重心位置の推移が単調増加または単調減少する傾向にある。一方、抽出された移動体が炎の場合には、炎の揺らぎに伴って、重心位置の推移が増加したり減少したりする傾向にある。
図10は、本発明の実施の形態1における炎検出処理で抽出される特徴量4に関する説明図である。
【0064】
具体的には、
図10(a)は、一般的な炎が燃えるシーンを撮像することで抽出された移動体に関して、フレームごとに算出した重心位置の遷移を、X座標とY座標に分けて示したものである。また、
図10(b)は、人が移動するシーンを撮像することで抽出された移動体に関して、フレームごとに算出した重心位置の遷移を、X座標とY座標に分けて示したものである。特徴量算出部31による具体的な判別方法を、以下に説明する。
【0065】
(手順1)特徴量算出部31は、前回のサイクルで特定された炎候補領域のそれぞれについて、今回のサイクルのフレームごとに抽出される移動体に関し、上式(1)を用いて、重心位置を算出する。その結果に基づく重心の遷移状態を示したものが、
図10(a)(b)に相当する。
(手順2)次に、特徴量算出部31は、手順1で求めた重心位置の遷移データに基づいて、下式(5)に従って、特徴量4を算出する。
【0067】
この特徴量4の値が大きくなると、単調増加、あるいは単調減少の傾向が強いと考えられる。そこで、特徴量算出部31は、特徴量4が一定以上の値になると、重心位置が単調増加あるいは単調減少していると判定し、炎検出領域内で検出された移動体は、炎ではなく、誤検出要因の人または車などの直進移動体であると判断でき、誤報を抑制することができる。
【0068】
[炎判別処理5]平均輝度の変化量を特徴量5として抽出し、炎判別を行う方法について
この炎判別処理5では、誤検出要因である人や車を移動体として抽出した場合に、炎と区別する方法について、先の炎判別処理4とは異なる方法を説明する。抽出された移動体が人や車などであり、かつその場で留まっている場合には、画素に変化があまりないため、輝度値の変化が緩やかになる。一方、抽出された移動体が炎の場合には、激しく燃える状態の画像により、輝度変化が大きくなる傾向にある。
図11は、本発明の実施の形態1における炎検出処理で抽出される特徴量5に関する説明図である。
【0069】
具体的には、
図11(a)は、一般的な炎が燃えるシーンを撮像することで抽出された移動体に関して、フレームごとに算出した輝度平均値の遷移を示したものである。また、
図10(b)は、人が移動するシーンを撮像することで抽出された移動体に関して、フレームごとに算出した輝度平均値の遷移を示したものである。特徴量算出部31による具体的な判別方法を、以下に説明する。
【0070】
(手順1)特徴量算出部31は、前回のサイクルで特定された炎候補領域のそれぞれについて、今回のサイクルのフレームごとに抽出される移動体に関し、下式(6)を用いて、1サイクルにおける輝度値変化量の総和を、特徴量5として求める。
【0072】
(手順2)次に、特徴量算出部31は、手順1で求めた特徴量5が、所定量以下である場合には、1サイクル内で算出された各フレームの平均輝度値の変化が少ないと判定し、炎検出領域内で検出された移動体は、炎ではなく、誤検出要因の人または車などが留まっている状態であると判断でき、誤報を抑制することができる。
【0073】
以上のように、実施の形態1によれば、前処理部の働きにより、直近の時系列画像データに基づいて、1サイクルごとに炎検出のための適切な候補領域を特定できる。さらに、前のサイクルで特定された候補領域について、次のサイクルで特徴量1〜特徴量5に基づく判断処理を行うことで、誤検出を抑制し、かつ、炎自体の検出精度を向上させることができる。この結果、種々の誤検出要因を含む様々な設置環境において炎を高精度に検出することのできる炎検出
装置を実現できる。
【0074】
なお、本願発明の炎検出部30内の炎判定部32は、特徴量算出部31による炎判別処理1〜5の結果を統合処理して、最終的に炎判定を実行しているが、たとえば各特徴量に重み付けを行うことで感度を変更してもよく、さらに言えば、各特徴量の少なくとも一つで所定の閾値を超えたときに炎であると判定してもよい。