【実施例】
【0020】
実施例に係る顔照合技術(顔照合システム)を用いた監視システムについて
図4を用いて説明する。
図4は実施例に係る監視システムの構成を示すブロック図である。
【0021】
実施例に係る監視システム100は、監視フロアに設置される監視カメラ22と、監視センタ内の映像記録装置24および映像表示装置28と、それらを接続するネットワークSW23と、を備える。監視カメラ22は監視エリア内に複数設置され、それぞれの監視場所の周囲を撮影する。監視カメラ22にて撮影される映像または映像記録装置24に記録される映像を、ネットワークSW23を介して、映像表示装置28にて閲覧してシステム運用を行なう。監視システム100は、さらに顔特徴量を抽出し照合し通報し登録する特徴量処理装置25、特徴量DB25−1への登録操作を行う登録操作装置26、および通報結果を表示する表示装置27を追加する形で構成される。特徴量処理装置25は、例えば、コンピュータシステムなどから構成され、顔特徴量の抽出/照合等を行うプログラムを格納する記憶部やそのプログラムを実行するCPU等を含む構成とされる。登録操作装置26も特徴量処理装置25と同様な構成であり、特徴量DB25−1への登録操作を行うプログラムを格納する記憶部やそのプログラムを実行するCPU等を含む構成とされる。特徴量処理装置25と登録操作装置26とは一つのコンピュータシステムで構成してもよい。特徴量DB25−1は、例えば、ハードディスクドライブ等の記憶装置を含み構成される。表示装置27および映像表示装置28はそれぞれ液晶表示装置等で構成される。表示装置27と映像表示装置28とは一つの液晶表示装置で構成してもよい。特徴量処理装置25は、監視カメラ22にて撮影される映像または映像記録装置24にて記録される映像を取得し、映像の中から人物の顔検出および顔特徴量の抽出/照合を行ない、特徴量DB25−1に登録した人物に類似した人物を発見したと判断する場合は、表示装置27に通報を行なう。管理者は、表示装置27にて通報される情報を元に施設安全維持を図るべく対処を行なう。
【0022】
ここで、監視システム100における映像を用いて特徴量DB25−1へ登録する方法について
図5Aおよび
図5Bを用いて説明する。
図5Aは実施例に係る監視システムにおける監視カメラ22で撮影された映像を用いて顔特徴量を特徴量DB25−1へ登録する方法のイメージを示す図である。
図5Bは実施例に係る監視システムにおける映像を用いて顔特徴量を特徴量DB25−1へ登録する方法を示すフロー図である。
【0023】
監視カメラ22で撮影される映像5を取得し(ステップS31)、映像デコードした(ステップS32)後、顔検出を行なう(ステップS33)。特徴量DB25−1に登録する管理者は、監視カメラ22で撮影される映像5にて対象人物の顔Bを選択すると(ステップS34)、特徴量照合処理装置25は顔Bの目、鼻、口などの顔器官を検出し(ステップS35)、顔特徴量を抽出する(ステップS36)。表示装置27は管理者が顔Bの特徴量を特徴量DB25−1へ登録するための登録画面6を表示する。一例として登録画面6には、人物属性の入力欄、顔Bのサムネイル等が表示される。管理者は顔Bのサムネイルが表示された登録画面6を見ながら、登録操作装置26を操作して、入力欄に「不審者B(登録名)」、「男性(性別)」等の人物属性を入力する(ステップS37)。入力された人物属性は、顔特徴量、サムネイルと共に特徴量DB25−1に登録する(ステップS38)。なお、顔Bの顔特徴量の抽出(ステップS36)は人物属性の入力前に終了していても良いし、特徴量DB25−1への登録(ステップS38)の時点で行われても良い。管理者が、属性情報等の必要な情報を入力し、登録画面6の「登録」ボタンをマウスでクリックしたり指でタッチしたりして特徴量DB25−1への登録を行なう(ステップS38)と特徴量DB25−1への書き込みがなされ特徴量DB25−1に登録される(ステップS39)。
【0024】
次に、不特定多数の人物が撮影される映像から任意の人物を照合対象とする目的で特徴量DB25−1に登録する際、既に同一の人物を登録済みであるか否かを事前確認した後登録する方法(第1の方法)について
図6Aおよび
図6Bを用いて説明する。
図6Aは第1の方法による重複登録を確認するフロー図である。
図6Bは第1の方法による特徴量DB25−1の重複登録を確認する画面を示す図である。
【0025】
監視カメラ22で撮影される映像5を取得し(ステップS41)、映像デコードした(ステップS42)後、顔検出を行なう(ステップS43)。特徴量DB25−1に登録する管理者は、対象人物の顔を選択し(ステップS44)、特徴量照合処理装置25は管理者が選択した顔の目、鼻、口などの顔器官を検出し(ステップS45)、顔特徴量を抽出する(ステップS46)。表示装置27は管理者が選択した顔の特徴量を特徴量DB25−1へ登録するための登録画面を表示する。一例として登録画面には、人物属性の入力欄、管理者が選択した顔のサムネイル等が表示される。(ステップS47)。管理者は、人物属性の入力欄に属性情報等の必要な情報を入力し、特徴量DB25−1への登録を行なう(ステップS48)と、特徴量処理装置25は本入力情報における顔特徴量を用いて、既に特徴量DB25−1に登録されている顔特徴量に対して照合処理を行なう(ステップ49)。照合判定は、事前設定する“似ている度合(類似度)”を示す閾値を用いて判定を行なう(ステップS50)。なお、本閾値は、管理者によって設定変更が可能である。照合結果の判定において、類似度が閾値を超えるものが存在する場合(ステップS50でYesの場合)は、一例として、
図6Bに示すように、表示装置27に表示される特徴量DB25−1への重複登録を確認する確認画面7Aを介して、登録対象と既登録データを比較して管理者が判断を行なう(ステップS51)。例えば、確認画面7Aには登録対象の顔映像、既登録データの顔映像および人物属性、登録可否を確認するメッセージ等、が表示される。管理者が登録すると判断する場合(ステップS51でYesの場合)は、例えば、確認画面7Aの「Yes」ボタンをマウスでクリックしたり指でタッチしたりして登録する。これにより、登録対象は特徴量DB25−1への書き込みがなされ特徴量DB25−1に登録される(ステップS52)。管理者が登録しないと判断する場合(ステップS51でNoの場合)は、確認画面7Aの「No」ボタンをマウスでクリックしたり指でタッチしたりして、特徴量DB25−1に登録せずに処理を終了する。また、照合結果判定にて、類似度が閾値を超えるものが無い場合(ステップS50でNoの場合)は、特徴量DB25−1への書き込みがなされ特徴量DB25−1に登録される(ステップS52)。
【0026】
次に、システム運用中に特徴量DB25−1に登録されている顔特徴量を用いて巡回照合を行なうことにより重複登録を確認する方法(第2の方法)について
図7Aおよび
図7Bを用いて説明する。なお、特徴量DB25−1への登録は
図5Bに示すフローによって行われる。
図7Aは第2の方法による重複登録を確認するフロー図である。
図7Bは第2の方法による特徴量DB25−1の重複登録を確認する画面を示す図である。
【0027】
システム運用中に、事前設定する定期確認時間になっているかの判定(ステップS71)を介して、巡回照合による重複登録を確認する処理を動作させる。定期確認時間は閾値を用いて判定を行い、本閾値は管理者によって設定変更が可能である。また、巡回照合による確認作業を処理する負荷が照合処理に影響を及ぼさない運用時に処理がされるよう設定されるのが望ましいものである。定期確認時間と判断する場合(ステップS71でYesの場合)は、特徴量DB25−1より登録済みのデータ数(登録数)を取得する(ステップS72)。次に特徴量DB25−1に登録済みのデータとインデックスの番号とを対応させて巡回照合を行う。つまり、インデックスの番号に対応する特徴量DB25−1に登録済みのデータに対して他の登録済みのデータと照合を行い、それをステップS72で取得した特徴量DB25−1の登録数分繰り返すことになる(ステップS74〜ステップS80)。そのため、最初のループに入る前にインデックスの番号の初期化を行う(ステップS73)。そして、今のインデックスの番号がステップS72で取得した特徴量DB25−1の登録数を下回っているかどうかを判断する(ステップS74)。下回っている場合(ステップS74でNoの場合)、ステップS75〜ステップS80の照合を行う。つまり、本登録数分、順次的に特徴量DB25−1から読出しを行ない(ステップS75)、各人物情報毎に登録されている顔特徴量を抽出して取得し(ステップS76)、本顔特徴量を用いて、自インデックスを除く特徴量DB25−1に登録されている他の顔特徴量に対して照合処理を行なう(ステップS77)。照合結果の判定は、事前設定する類似度を示す閾値を用いて判定を行なう(ステップS78)。なお、本閾値は、管理者によって設定変更が可能である。照合結果の判定において、類似度が閾値を超えるものが存在する場合(ステップS78でYesの場合)は、重複確認の対象情報として保存を行なう(ステップS79)。重複確認の対象情報としては、後述する
図7Bのような後から管理者が重複確認をするための画面を表示するために保存する情報である。例えば、ステップS78で類似度が閾値を超えた際の照合元と照合対象の顔特徴量やサムネイル画像を対応付けて保存しておいてもよいし、特徴量DB25−1に保存された照合元と照合対象に対応したインデックスの番号を対応付けて保存するようにしてもよい。そして、ステップS79において、重複確認対象情報を画面に表示するために特徴量DB25−1あるいは別の記憶領域に保存することで重複確認対象情報の登録を行う。
【0028】
また、ステップS74において、インデックスの番号がステップS72で取得した特徴量DB25−1の登録数を下回っていない場合(ステップS74でYesの場合)、つまり特徴量DB25−1に登録済みの情報に対して全て重複確認を終えると、一例として、
図7Bに示すように、重複確認の対象情報を読み出して表示装置27に特徴量DB25−1への重複登録を確認する確認画面7Bを表示する(ステップS81)。管理者は、確認画面7Bを介して、既登録データにて重複登録がされているかを判断し、必要な場合は既登録データの削除を行なう。例えば、
図7Bに示すように、確認画面7Bには既登録データの顔映像および人物属性、削除を確認するメッセージ等、が表示される。管理者は重複登録されているデータを確認画面7Bの「削除」ボタンをマウスでクリックしたり指でタッチしたりして削除する。
【0029】
なお、重複登録を確認する第2の方法は、事前設定する定期確認時間になっているかの判定(ステップS71)を介した動作となっているが、管理者が指定した任意のタイミングで処理を動作させてもよい。例えば、表示装置27に重複確認ボタンを設け、管理者が重複確認ボタンを押下した際に特徴量DB25−1より登録済みの登録数を取得する(ステップS72)ようにしてもよい。
【0030】
実施例によれば、有限である特徴量DBの重複登録を避けることができるため、または重複登録を検出し管理者に注意喚起して重複登録を削除することができるため、効率的に特徴量DBへの登録情報管理が行え、照合対象の最大登録数の無駄がなくなり、特徴量DBの全ての登録情報に照合を行ない完了するまでの処理時間を短縮することができる。
【0031】
また、既登録データにおいて、巡回照合を行い、類似度が閾値を超えるものを重複確認の対象情報として保存することによって、既登録データ内で重複登録の可能性がある対象をまとめて確認することができる。このような処理にすることで、管理者が顔特徴量を登録する際の重複確認処理や登録画面の表示を行わなくても重複確認が可能となる。
【0032】
以上、本発明者によってなされた発明を実施形態及び実施例に基づき具体的に説明したが、本発明は、上記実施の形態及び実施例に限定されるものではなく、種々変更可能であることはいうまでもない。
【0033】
例えば、表示装置27に表示された重複登録を確認する確認画面7Bに、「確認」ボタンを設け、管理者が重複していないと判断した場合に「確認」ボタンを押すような実装にしてもよい。このとき、管理者が「確認」ボタンを押すと、「確認」ボタンを押された重複確認の対象情報に対応する既登録データに対して重複確認済みである情報を付与する。例えば、
図7Bの重複確認画面において、管理番号9001(不審者A)、管理番号9567(不審者G)、管理番号9789(不審者M)が表示されており、管理者が不審者A、不審者G、不審者Mは重複していないと判断する。ここで管理者が「確認」ボタンを押すと、重複確認の対象情報として紐づけられている不審者A、不審者G、不審者Mに対応する顧客DB25−1に保存された各既登録データに重複確認済みである情報を付与する。例えば、不審者Aの既登録データに対して、不審者Gと不審者Mの既登録データは重複確認済みである情報を付与し、不審者Gの既登録データに対して、不審者Aと不審者Mの既登録データは重複確認済みである情報を付与し、不審者Mの既登録データに対して、不審者Aと不審者Gの既登録データは重複確認済みである情報を付与する。そして、例えば
図7AのステップS78において、照合元の重複確認済みである情報を確認し、照合対象が重複確認済みであるかどうかを判定する処理を加え、重複確認済みであれば、ステップS78のNoへ進むようにする。このような構成にすることで、管理者が一度重複確認を判断した既登録データの組み合わせを再度重複確認の対象情報として登録することを防ぐことができ、管理者は最低限の確認で重複登録の確認を行うことができるようになる。好ましくは、ステップS78において、照合を行う前に重複確認済みであるかどうかを判定するようにし、重複確認済みであれば照合を実行しない構成にすることで無駄な照合処理を行わないようにして巡回照合の時間を短縮するようにするとよい。
【0034】
本発明に係るシステムや装置などにおいて行われる各種の処理としては、例えばプロセッサやメモリ等を備えたハードウエア資源においてプロセッサがROM(Read Only Memory)等のメモリに格納された制御プログラムを実行することにより制御される構成が用いられてもよく、また、例えば当該処理を実行するための各機能手段が独立したハードウエア回路として構成されてもよい。
【0035】
また、本発明は上記の制御プログラムを格納したフロッピー(登録商標)ディスクやCD(Compact Disc)−ROM等のコンピュータにより読み取り可能な記録媒体や当該プログラム(自体)として把握することもでき、当該制御プログラムを当該記録媒体からコンピュータに入力してプロセッサに実行させることにより、本発明に係る処理を遂行させることができる。