(58)【調査した分野】(Int.Cl.,DB名)
前記顔照合手段は、1つの前記第2の顔特徴量に対して、複数の前記第1の顔特徴量が照合に成功した場合に、前記照合に成功した複数の第1の顔特徴量のうちの1つを選択し、選択された前記第1の顔特徴量に対応する撮影時間を前記第1の時刻とする、
請求項2に記載の情報処理装置。
前記顔照合ステップは、1つの前記第2の顔特徴量に対して、複数の前記第1の顔特徴量が照合に成功した場合に、前記照合に成功した複数の第1の顔特徴量のうちの1つを選択し、選択された前記第1の顔特徴量に対応する撮影時間を前記第1の時刻とする、
請求項9に記載の情報処理方法。
【発明を実施するための形態】
【0018】
まず、本発明の一実施形態の概要について説明する。なお、一実施形態の概要の説明において付記した図面参照符号は専ら理解を助けるための例示であり、図示の態様に限定することを意図するものではない。
【0019】
一実施形態における時間差測定システム100は、
図1に示すように、第1のカメラ101と第2のカメラ106で同一人物が撮影された時間差Δtの測定を行うものである。該時間差測定システム100は、第1のカメラ101と、第1のカメラ101で撮影された複数フレームの画像から顔領域を検出し、顔領域を顔画像K11として切り出す第1の顔検出手段(部)102と、顔画像から第1の顔特徴量T1を抽出する第1の顔特徴抽出手段(部)104と、第1の顔特徴量T1を撮影時刻と対応付けて保存する記憶部105とを含む。また、該時間差測定システム100は、第2のカメラ106と、第2のカメラ106で撮影された複数フレームの画像から顔領域を検出し、顔領域を顔画像K21として切り出す第2の顔検出手段(部)107と、顔画像から第2の顔特徴量T2を抽出する第2の顔特徴抽出手段(部)109と、第2の顔特徴量T2を記憶部105に保存された第1の顔特徴量T1と照合し、照合に成功した第1の顔特徴量に対応付けられて記憶部105に保存された撮影時刻を第1の時刻t1とし、第2の顔特徴量T2の撮影時刻を第2の時刻t2とする顔照合手段(部)110と、第1及び第2の時刻(t1、t2)の時間差を算出する時間差算出手段(部)112と、を含む。さらに、該時間差測定システム100は、第1の顔検出手段(部)102により切り出された複数の顔画像K11のうち、互いに異なるフレームから切り出された複数の顔画像を比較して同一人物の顔画像であるか否かを判定し、同一人物の顔画像であると判定された複数の顔画像のうちの一部を削除し、削除せずに残された顔画像K12を第1の顔特徴抽出手段(部)104に供給する第1の重複削除手段(部)103と、第2の顔検出手段(部)107により切り出された複数の顔画像K21のうち、互いに異なるフレームから切り出された複数の顔画像を比較して同一人物の顔画像であるか否かを判定し、同一人物の顔画像であると判定された複数の顔画像のうちの一部を削除し、削除せずに残された顔画像K22を第2の顔特徴抽出手段(部)109に供給する第2の重複削除手段(部)108と、の少なくとも一方を含む。
【0020】
上記の構成により、第1の重複削除手段(部)103及び第2の重複削除手段(部)108の少なくとも一方を備えることで、顔特徴量の抽出を行う対象となる画像データ量を大幅に削減することができる。これにより、比較的計算量の多い処理である顔特徴抽出の処理に掛かる時間が削減され、顔の検出と照合を用いた時間差の測定を、低コストな装置で高速に行う時間差測定システムを提供することができる。
【0021】
上記の時間差測定システムにおいて、第1及び第2の重複削除手段(部)(103、108)は、顔画像(K11、K21)の切り出し位置(例えば、
図7の縦位置、横位置)及び顔画像の撮影時刻(例えば、
図7の撮影時刻)を用いて同一人物の判定を行うことが好ましい。
【0022】
上記の時間差測定システムにおいて、第1及び第2の重複削除手段(部)(103、108)は、同一人物と判定された複数の顔画像の各々の撮影時刻に基づいて、削除する顔画像を選択するようにしてもよい。例えば、
図7の顔画像検出情報20に示すように、同一人物と判定された顔画像(人物ID(Identifier)が同じもの)から、撮影時間が最も早いものを残し、2番目以降の撮影時間のものを削除している(状態フラグが1になっている)。
【0023】
上記の時間差測定システムにおいて、第1及び第2の重複削除手段(部)(103、108)は、同一人物と判定された複数の顔画像の各々の画像品質に基づいて、削除する顔画像を選択するようにしてもよい。
【0024】
上記の時間差測定システムにおいて、
図9〜
図11に示すように、第1及び第2の重複削除手段(部)(
図9の23、28)は、顔画像を削除する削除条件を1つ以上登録した削除条件テーブル303と、削除条件テーブルに登録された削除条件の中から、使用する削除条件を選択する基準を設定した削除条件選択基準テーブル304と、を備えるようにしてもよい。
【0025】
上記の時間差測定システムにおいて、上記顔照合手段(部)(
図1の110、
図3の11)は、1つの第2の顔特徴量T2に対して、複数の第1の顔特徴量T1が照合に成功した場合に、照合に成功した複数の第1の顔特徴量T1のうちの1つを選択し、選択された第1の顔特徴量に対応する撮影時間を第1の時刻t1とすることが好ましい。
【0026】
一実施形態における画像処理装置200は、
図2に示すように、第1及び第2カメラ(101、106)で撮影された複数フレームの画像を処理する画像処理装置であって、以下の構成要素を含む。即ち、該画像処理装置200は、第1のカメラ101で撮影された複数フレームの画像から顔領域を検出し、顔領域を顔画像K11として切り出す第1の顔検出手段(部)102と、顔画像から、第1の顔特徴量T1を抽出する第1の顔特徴抽出手段(部)104と、第1の顔特徴量T1を保存する記憶部205と、を含む。また、該画像処理装置200は、第2のカメラ106で撮影された複数フレームの画像から顔領域を検出し、顔領域を顔画像K21として切り出す第2の顔検出手段(部)107と、顔画像から、第2の顔特徴量T2を抽出する第2の顔特徴抽出手段(部)109と、第2の顔特徴量T2を記憶部205に保存された第1の顔特徴量T1と照合する顔照合手段(部)210と、を含む。さらに、該画像処理装置200は、第1の顔検出手段(部)102により切り出された複数の顔画像K11のうち、互いに異なるフレームから切り出された複数の顔画像を比較して同一人物の顔画像であるか否かを判定し、同一人物の顔画像であると判定された複数の顔画像のうちの一部を削除し、削除せずに残された顔画像K12を第1の顔特徴抽出手段(部)104に供給する第1の重複削除手段(部)103と、第2の顔検出手段(部)107により切り出された複数の顔画像K21のうち、互いに異なるフレームから切り出された複数の顔画像を比較して同一人物の顔画像であるか否かを判定し、同一人物の顔画像であると判定された複数の顔画像のうちの一部を削除し、削除せずに残された顔画像K22を第2の顔特徴抽出手段(部)109に供給する第2の重複削除手段(部)108と、の少なくとも一方を含む。
【0027】
即ち、
図2の画像処理装置200は、
図1の時間差測定システムのうち、第1カメラ101、第2カメラ106、時間差算出手段(部)112を含まない構成を有している。また、画像処理装置200において、記憶部205は第1の特徴量T1のみを保存し(撮影時刻は保存しない)、顔照合手段(部)210は第2の特徴量T2と第1の特徴量T1との照合を行うことによって、同一人物の判定を行う。
【0028】
一実施形態における時間差測定方法は、2つのカメラ(例えば、第1のカメラ101と第2のカメラ106)で同一人物が撮影された時間差Δtの測定を行う方法である。該時間差測定方法は、
図1、
図4のいずれかに示すように、以下のステップを含む。即ち、該時間差測定方法は、第1のカメラ101で撮影された(S301)複数フレームの画像から顔領域を検出し、顔領域を顔画像K11として切り出す第1の顔検出ステップ(S302)と、顔画像から第1の顔特徴量T1を抽出する第1の顔特徴量抽出ステップ(S304)と、を含む。また、該時間差測定方法は、第2のカメラ106で撮影された(S306)複数フレームの画像から顔領域を検出し、顔領域を顔画像K21として切り出す第2の顔検出ステップ(S307)と、顔画像から第2の顔特徴量T2を抽出する第2の顔特徴量抽出ステップ(S309)と、を含む。また、該時間差測定方法は、第2の顔特徴量T2を第1の顔特徴量と照合し、照合に成功した第1の顔特徴量T1の撮影時刻を第1の時刻t1とし、第2の顔特徴量T2の撮影時刻を第2の時刻t2とする顔照合ステップ(S310)と、第1及び第2の時刻(t1、t2)の時間差Δtを算出する時間差算出ステップ(S311)と、を含む。また、該時間差測定方法は、第1の顔検出ステップ(S302)で切り出された複数の顔画像K11のうち、互いに異なるフレームから切り出された複数の顔画像を比較して同一人物の顔画像であるか否かを判定し、同一人物の顔画像であると判定された複数の顔画像のうちの一部を削除し、削除せずに残された顔画像K12を第1の顔特徴量抽出ステップ(S304)に供給する第1の重複削除ステップ(S303)と、第2の顔検出ステップ(S307)で切り出された複数の顔画像のうち、互いに異なるフレームから切り出された複数の顔画像K21を比較して同一人物の顔画像であるか否かを判定し、同一人物の顔画像であると判定された複数の顔画像のうちの一部を削除し、削除せずに残された顔画像K22を第2の顔特徴量抽出ステップ(S309)に供給する第2の重複削除ステップ(S308)と、の少なくとも一方をさらに含む。
【0029】
一実施形態における画像処理方法は、上記の時間差測定方法に含まれるステップのうち、時間差算出ステップ(S311)を含まず、また、顔照合ステップは、第2の特徴量T2と第1の特徴量T1の照合動作のみを行う。即ち、該画像処理方法は、
図2、
図4のいずれかに示すように、第1のカメラ101で撮影された(S301)複数フレームの画像から顔領域を検出し、顔領域を顔画像K11として切り出す第1の顔検出ステップ(S302)と、顔画像から第1の顔特徴量T1を抽出する第1の顔特徴量抽出ステップ(S304)と、を含む。また、該画像処理方法は、第2のカメラ106で撮影された(S306)複数フレームの画像から顔領域を検出し、顔領域を顔画像として切り出す第2の顔検出ステップ(S307)と、顔画像から第2の顔特徴量T2を抽出する第2の顔特徴量抽出ステップ(S309)と、を含む。また、該画像処理方法は、第2の顔特徴量T2を第1の顔特徴量T1と照合する顔照合ステップ(S310の照合動作のみ)を含む。また、該画像処理方法は、第1の顔検出ステップ(S302)で切り出された複数の顔画像K11のうち、互いに異なるフレームから切り出された複数の顔画像を比較して同一人物の顔画像であるか否かを判定し、同一人物の顔画像であると判定された複数の顔画像のうちの一部を削除し、削除せずに残された顔画像K12を第1の顔特徴量抽出ステップ(S304)に供給する第1の重複削除ステップ(S303)と、第2の顔検出ステップ(S307)で切り出された複数の顔画像K21のうち、互いに異なるフレームから切り出された複数の顔画像を比較して同一人物の顔画像であるか否かを判定し、同一人物の顔画像であると判定された複数の顔画像のうちの一部を削除し、削除せずに残された顔画像K22を第2の顔特徴量抽出ステップ(S309)に供給する第2の重複削除ステップ(S308)と、の少なくとも一方をさらに含む。
【0030】
以下、本発明の各実施形態について、図面を参照して詳しく説明する。
【0031】
[第1の実施形態]
(第1の実施形態の構成)
第1の実施形態の構成について、
図3を参照しながら詳細に説明する。
図3は、第1の実施形態に係る時間差測定システム10の構成を示すブロック図である。
図3において、時間差測定システム10は、監視カメラ(開始側)1、監視カメラ(終了側)6、及び画像処理装置30により構成される。時間差測定システム10は、監視カメラ(開始側)1、監視カメラ(終了側)6で取得された画像データから同一人物の画像データを抽出することによって、監視カメラ(開始側)1及び監視カメラ(終了側)6で同一人物が撮影された時間差を測定する機能を有している。
【0032】
時間差測定システム10は、例えば、待ち時間の測定に好適に使用することができる。その場合、監視カメラ(開始側)1を待ち時間の開始地点(地点A)に設置する。例えば、開始地点(地点A)は、行列の末尾、待合室の入口、受付、整理券発行機の周囲等である。一方、監視カメラ(終了側)6を待ち時間の終了地点(地点B)に設置する。例えば、終了地点(地点B)は、サービス窓口、ATM等の機器、待合室の出口、サービスを受ける場所の入口の周囲等である。
【0033】
監視カメラ1、6は、CCD(Charge Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)によるイメージセンサーを備え、所定のフレームレートで撮像された複数のフレーム画像を画像処理装置30に出力する。
【0034】
図3は、画像処理装置30を機能単位で示したブロック図となっている。画像処理装置30は、監視カメラ1から取得した画像データを処理する顔検出手段2、重複削除手段3、及び顔特徴抽出手段4を備えている。画像処理装置30は、同様に、監視カメラ6から取得した画像データを処理する顔検出手段7、重複削除手段8、及び顔特徴抽出手段9を備えている。これらの詳細については後述する。
【0035】
顔特徴データベース(顔特徴DB(Database))5は、顔特徴抽出手段4が算出した顔特徴量T1を顔特徴量T1の撮影時刻と対応付けて保存したものである。ここで、保存するためのデバイスには、ハードディスク、SSD(Solid State Drive)、メモリ等が使用可能である。尚、以降、顔画像の撮影時刻、又は顔特徴量の撮影時刻と言った場合には、その顔画像又は顔特徴量の元となる画像の撮影時刻を意味するものとする。
【0036】
また、画像処理装置30は、顔特徴抽出手段9が出力する顔特徴量T2を受け取り、顔特徴量T2を顔特徴DB5に保存された顔特徴量T1と照合する顔照合手段11を備えている。ここで、照合には、公知の顔認証処理の技術を適用することができる。
【0037】
照合結果データベース(照合結果DB)12は、照合に成功した場合に、顔照合手段11に入力した顔特徴量(T1、T2)の撮影時刻を登録するものである。ここで、保存するためのデバイスには、顔特徴DB5と同様に、ハードディスク、SSD(Solid State Drive)、メモリ等が使用可能である。
【0038】
また、画像処理装置30は、照合結果DB12に登録されている照合に成功した顔特徴量(T1、T2)の撮影時刻(t1、t2)の時間差Δtを算出する時間差算出手段13を備えている。ここで、時間差測定システム10を待ち時間の測定に使用する場合には、時間差Δtは、待ち時間に相当する。
【0039】
さらに、画像処理装置30は、算出された時間差Δtを、画像処理装置30が備えるモニタ、記憶装置、或いは他のシステムに出力する結果出力手段14を備えている。
【0040】
以上に説明した画像処理装置30に含まれる各処理機能は、画像処理装置30が備えた図示しないCPU(Central Processing Unit)によって実行されるプログラムとして、図示しないメモリ等に格納され、CPUに呼び出されて実行される。尚、各処理機能の一部又は全部は、ハードウェアで実装するように構成してもよい。
【0041】
(第1の実施形態の動作)
次に、
図4を参照しながら、第1の実施形態の動作について説明する。
図4は、第1の実施形態に係る時間差測定システム10の動作を示すフローチャートである。
図4(A)は、開始側地点(地点A)の映像処理のフローチャートである。
【0042】
監視カメラ1が所定のフレームレートで映像を撮影することにより、カメラ画像を取得する(S301)。次に、顔検出手段2により、各フレームから顔画像を検出する(S302)。顔画像の検出は、各フレーム内で顔領域の部分を検出して顔画像として切り出す機能を有するものであり、公知の顔検出処理の技術を適用することができる。フレーム内に顔領域が全く検出されない場合もあれば、1つ以上の顔が検出される場合もある。顔領域が検出された場合には、例えば、
図6のように、矩形枠の領域を顔画像として切り出して出力する(複数の顔が検出された場合には、1フレームから複数の顔画像を出力する)。ここで、顔検出処理は、後述する顔照合の処理に比べて演算負荷がかからない処理であり、撮影のフレームレートに対してリアルタイム処理することができる。
【0043】
次に、重複削除手段3は、各フレームから切り出された複数の顔画像(
図3のK11)に対し、互いに異なるフレームから切り出された複数の顔画像を比較して同一人物の顔画像であるか否かを判定する。そして、同一人物の顔画像であると判定された複数の顔画像のうちの一部を削除する(S303)。そして、顔特徴抽出手段4は、削除せずに残った顔画像(
図3のK12)に対して顔特徴量(
図3のT1)を抽出する(S304)。そして、顔特徴量(
図3のT1)を、顔の位置及び撮影時刻と共に、顔特徴DB5に登録する(S305)。ここで、顔の位置には、例えば、
図6の顔領域矩形枠の左上角の位置を使用する。但し、それに限定されず、フレーム画像内での顔の位置を示すものであればよく、例えば、顔領域矩形枠の重心位置を使用してもよい。
【0044】
次に、
図4(B)は、終了側地点(地点B)の映像処理のフローチャートである。監視カメラ6は、監視カメラ1と同様に、所定のフレームレートで映像を撮影することにより、カメラ画像を取得する(S306)。続いて行われるS307〜S309の処理は、それぞれ、
図4(A)のS302〜S304の処理と同様であるため、重複する説明を省略する。S307〜S309の処理により、監視カメラ6のカメラ画像から切り出した顔画像(
図3のK21)から、重複削除を行った後、残された顔画像(
図3のK22)から抽出された顔特徴量(
図3のT2)が算出される。
【0045】
次に、顔照合手段11は、S309で抽出した顔特徴量(
図3のT2)を、顔特徴DB5に保存された顔特徴量(
図3のT1)と照合する。そして、照合に成功した場合、顔特徴DB5に顔特徴量(
図3のT1)と共に登録された撮影時刻t1と、顔特徴量(
図3のT2)の撮影時刻t2とを、照合結果DB12に登録する(S310)。
【0046】
次に、時間差算出手段13は、照合結果DB12に登録された撮影時刻(t1、t2)を読み出して、時間差Δt(=t2−t1)を算出する(S311)。次に、結果出力手段14は、算出された時間差Δtを画像処理装置30が備えるモニタ等に表示する。
【0047】
次に、
図5を参照しながら、重複削除手段3の動作(
図4のS303)について、さらに詳しく説明する。
【0048】
まず、重複削除手段3は、顔検出手段2から、顔画像(
図3のK11)、顔画像の位置、及び撮影時刻を受け取る(S401)。次に受け取った顔画像(
図3のK11)を過去フレームの顔画像の位置及び撮影時刻と比較して、顔画像の位置及び時刻の差が指定条件を満たすか否かを判定する。指定条件としては、例えば、以下のようなものが考えられる。
顔画像の左上の位置の差が指定ピクセル以内 (条件1)
、且つ、
撮影時刻の差が指定時間以内 (条件2)
ここで、条件1の「顔画像の左上の位置」とは、フレーム画像から顔画像を切り出す矩形枠の左上角の位置を意味する。
【0049】
図6は、重複削除手段3に入力される顔画像の位置の変化を示している。
図6において、時刻が0.2秒進むと顔の位置が左に移動している。
図6に示す移動量50(顔画像の左上の位置の差に相当)と時間差が指定値以内であれば、同一人物の顔であると判断する。尚、
図6において、2つの顔は別フレームに出現するものであるが、説明のため重ねて示している。
【0050】
図4に戻って、移動量50と時間差が指定値以内(条件1、且つ条件2を満たす場合)となる顔画像が見つかった場合は、同一人物の顔と判定し(S403でYesの場合)、顔画像の位置と撮影時刻を人物IDと紐付けて、顔画像検出情報20として、重複削除手段3の内部の一時保存領域に登録する(S404)。ここで、人物IDは、複数の顔画像が同一人物と判定された場合に、顔画像に同じ人物IDを付与し、一方、同一人物でないと判定された場合に、顔画像に異なる人物IDを付与するものである。S404では、同一人物と判定されているため、同一人物と判定された過去データの人物IDが付与される。
【0051】
そして、S404の後、どの顔画像を削除するかを判定する(S405)。ここで、S405の削除条件は、用途や撮影場所の状況に応じて変えることが望ましい。例えば、以下のような判定条件が考えられる。
(1)最初に撮影された顔画像1枚(或いは最初のほうから指定枚数)以外を削除する。
(2)最後に撮影された顔画像1枚(或いは最後のほうから指定枚数)以外を削除する。
(3)画像品質が最も良い画像(或いは画像品質の良いほうから指定枚数)以外を削除する。
(4)画像品質が指定値以上の画像を指定枚数だけ残し、それ以外を削除する。
【0052】
ここで、画像品質は、顔特徴抽出に有利な画像であるか否かという基準であることが望ましく、例えば、顔画像の大きさ、顔らしさの度合いなどの基準が用いられる。画像品質の値は、最大値(最高画像品質)が1.0になるように正規化される。画像品質は、重複削除手段3内で測定するようにしてもよいし、重複削除手段3の外部で測定した測定結果を重複削除手段3に供給するようにしてもよい。
【0053】
一方、同一人物の顔が見つからなかった場合(S403でNoの場合)は、取得した顔画像に新たに人物IDを与えて(S406)、データ(顔画像の位置、撮影時刻、及び新人物ID)を顔画像検出情報20として、一時保存領域に登録する(S407)。
【0054】
次に、削除しないことが確定した顔画像(S405で決定された削除する顔画像以外;
図3のK12)を、顔特徴抽出手段4に出力する(S408)。
【0055】
尚、
図3では、重複削除手段3の後に、顔特徴抽出手段4による処理を行うようにしているが、他の形態として、重複削除手段3の処理の開始と同時に、顔特徴抽出手段4の処理を開始させるようにしてもよい。その場合、条件によっては、顔特徴抽出が処理済みの顔画像に対し遡って削除するか否かの判定が行われる場合もある。
【0056】
図7は、一時保存領域に登録した顔画像検出情報20の一例である。
図7は、顔検出手段2で検出された各顔画像に対して、データ番号、人物ID、顔画像の位置(矩形枠の左上角の縦位置、横位置)及び大きさ(高さ、幅)、撮影時刻、データの状態を示す状態フラグが登録された状態を示している。
図7の例では、同一人物と判定された複数の顔画像がある場合、最初に出現した顔画像を残し、2番目以降の顔画像を削除するという削除条件を設定している。例えば、人物IDが00001の3つの顔画像に対し、顔特徴抽出の対象として12:00:01.5に撮影された顔画像を残し、12:00:01.7と12:00:01.9に撮影された顔画像を削除している。
【0057】
重複削除手段3により、削除されるデータの状態フラグは1に設定され、特徴抽出処理の対象となるデータの状態フラグは0に設定される。或いは、状態フラグを0に初期化した後、重複削除手段3により、削除すると判定されたデータの状態フラグを1に設定するようにしてもよい。また、設定条件によっては、処理が決まらない状態を示す状態フラグを付けてもよい。また、状態フラグを使わずにデータを削除するようにしてもよい。
【0058】
尚、上述した
図5、
図7の説明は、重複削除手段3に関して行ったが、重複削除手段8も重複削除手段3と同様であるため、説明は省略する。但し、重複削除手段8の条件設定(例えば、削除条件の設定等)は、重複削除手段3と異なる設定にしてもよい。例えば、重複削除手段3及び重複削除手段8の条件設定は、それぞれ、監視カメラ1、6を設置する地点Aと地点Bの状況に応じて設定することが好ましい。
【0059】
次に、
図8は、照合結果DB12に登録された照合結果の一例である。
図8に示すように、照合結果DB12には、照合に成功した場合の情報が登録される。ここでは、照合時の類似度が、例えば、0.75以上の場合を照合が成功したと判定している。
図8において、1行目のデータは、監視カメラ1側の顔画像(人物IDが00001、撮影時刻が12:00:01.5)と監視カメラ6側の顔画像(人物IDが01001、撮影時刻が12:50:13.6)が類似度0.80で照合に成功したことを示している。また、2行目のデータは、監視カメラ1側の顔画像(人物IDが00003、撮影時刻が12:00:01.5)と監視カメラ6側の顔画像(人物IDが01005、撮影時刻が12:55:40.1)が類似度0.92で照合に成功したことを示している。
【0060】
尚、顔照合手段11で複数の顔特徴量が照合に成功した場合には、以下のような処理を行い、複数の顔特徴量のうちのいずれか1つを選択する。以下の処理のうち、どれを採用するかは、用途や撮影場所(地点A、B)の状況によって判断することが望ましい。
(A)人物IDが異なる複数の顔画像が検索された場合、
(A−1)顔特徴量の類似度が最も高い人物IDの顔特徴量を選択する。
(A−2)検索された中で撮影時刻が最も早い顔特徴量を選択する。
(A−3)検索された中で撮影時刻が最も遅い顔特徴量を選択する。
(B)人物IDが等しい複数の顔画像が検索された場合、
(B−1)顔特徴量の類似度が最も高い顔特徴量を選択する。
(B−2)検索された中で撮影時刻が最も早い顔特徴量を選択する。
(B−3)検索された中で撮影時刻が最も遅い顔特徴量を選択する。
(C)複数の顔特徴量が検索された場合、複数の組み合わせを照合結果DB12に登録しておき、時間差算出手段13においていずれか1つを選択する(尚、選択する際には、上記の(A−1)〜(A−3)、(B−1)〜(B−3)を適用する)。
【0061】
以上説明したように、第1の実施形態の時間差測定システム10によれば、以下に示す効果が得られる。
【0062】
第1に、異なる地点で同一人物が撮影された時間差の測定を、低コストな装置で高速に行うことができるという効果が得られる。特に、同一人物が撮影された時間差を、待ち時間とした場合、待ち時間の測定を低コストな装置で高速に行うことができる。その理由は、比較的に演算時間の掛からない重複削除処理を用いて、演算時間の掛かる顔特徴抽出処理を実行する顔画像の数を減らすことができるためである。
【0063】
第2に、顔特徴量のデータ(
図3のT1、T2等)を一時保存する記憶デバイスの容量を減らすことができるという効果が得られる。その理由は、顔特徴抽出手段4、9が処理する顔画像の数が減ることで、顔特徴量のデータ(
図3のT1、T2等)の量も減るためである。
【0064】
尚、第1の実施形態の時間差測定システム10を変形し、異なる地点A、Bを同一人物が通過したことを認識する画像処理装置として提供することもできる。その場合、
図3の画像処理装置30を、撮影時間に係わる処理を行わない構成に簡易化すればよいだけである。即ち、時間差算出手段13、及び照合結果DBをなくし、顔特徴DB5は顔特徴量のみを保存する(撮影時間は保存しなくてよい)。また、顔照合手段11は、顔特徴量の照合のみを行い、結果出力手段14は照合に成功した場合にその結果を通知するだけでよい。
図2の画像処理装置200は、上記の画像処理装置に相当する。
【0065】
(第2の実施形態)
次に、
図9〜
図11を参照しながら、第2の実施形態について説明する。第2の実施形態の第1の実施形態に対する違いは、第1の実施形態の重複削除手段3、8を、重複削除手段23、28にそれぞれ置き換えている点である。
【0066】
図9は、第2の実施形態における重複削除手段23の構成を示すブロック図である。重複削除手段23は、
図9に示すように、同一人物判定部301、削除条件選択部302、削除処理部305、削除条件テーブル303、及び削除条件選択基準テーブル304を含んで構成される。尚、重複削除手段28は、重複削除手段23と同様であるため、以下の説明は重複削除手段23について行い、重複削除手段28の説明は省略する。
【0067】
削除条件テーブル303には、1以上の顔画像の削除条件を記述することができる。
図10は、削除条件テーブル303の一例である。
図10において、削除条件番号1は、同一人物と判定された顔画像の画像品質が0.7以上の顔画像を出現順に4枚まで残し、他の顔画像を削除する。削除条件番号2は、同一人物と判定された顔画像の画像品質0.8以上の顔画像を出現順に1枚だけ残し、他の顔画像を削除する。
図10の例では、削除条件番号1よりも削除条件番号2のほうが削除される顔画像の枚数が多くなる。削除条件の要素としては、画像品質の他に、顔の出現位置、直前の顔画像との時間差等を使用することもできる。
【0068】
削除条件選択基準テーブル304には、削除条件テーブル303に記載された複数の削除条件の中からいずれか1つを選択するための基準を記述する。
図11は、削除条件選択基準テーブル304の一例である。
図11において、選択基準番号1は、顔検出手段2から重複削除手段3に送られる顔画像の数がフレーム当たり10枚以下の場合は削除条件テーブル303の削除条件番号1を選択することを示している。また、顔検出手段2から重複削除手段3に送られる顔画像の数がフレーム当たり10枚を超える場合は削除条件テーブル303の削除条件番号2を選択することを示している。これにより、顔画像の枚数が増えた場合には削除する顔画像を増やすことで後段の処理負荷を減らすことができる。選択基準の要素としては、顔画像の数以外に、撮影時刻、リソース(CPUやメモリ)の使用状況等を使用することができる。
【0069】
図9に戻って、同一人物判定部301は、
図5のS402、S403に相当する処理を行う部分であり、過去データを検索して、取得した顔画像が同一人物の顔画像であるか否かを判定する。削除条件選択部302は、前述した削除条件テーブル303及び削除条件選択基準テーブル304を参照して、使用する削除条件を選択する。また、削除処理部305は、選択された削除条件に基づいて、重複削除手段23に送られる複数の顔画像のうち、同一人物の顔画像と判定された複数の顔画像の一部を削除する。
【0070】
以上説明したように、第2の実施形態に係る時間差測定システムによれば、以下に示す効果が得られる。第2の実施形態では、削除条件テーブル303及び削除条件選択基準テーブル304を用いて、重複削除手段23、28の削除条件を変えることができるように構成している。これにより、例えば、顔画像の処理負荷及びデータ量を、監視する場所(地点A、B)やシステムの状態に応じて変えることが可能になる。
【0071】
尚、第1及び第2の実施形態は、以下に示すような変形が可能である。第1に、2つの重複削除手段のうち、いずれか一方だけを備えるようにしてもよい。即ち、第1の実施形態の場合、重複削除手段3、8のうちの一方だけ、第2の実施形態の場合、重複削除手段23、28のうちの一方だけ、を備えるようにしてもよい。重複削除手段が一方だけの場合においても、演算時間の掛かる顔照合手段11の負荷をある程度低減することが可能である。
【0072】
第2に、顔特徴抽出手段9が出力する顔特徴量を一旦記憶デバイスに保存してから、照合処理や時間差算出処理を実行する構成にすることもできる。リアルタイム処理することが不要な場合、例えば、空き時間処理や夜間バッチ処理等により、処理を実行させるようにしてもよい。
【0073】
第3に、顔検出手段2、7が、顔画像の画像品質(顔画像の大きさ、顔らしさの度合いなど)を算出し、顔画像と共に出力するようにしてもよい。この場合、重複削除手段(3、8、又は23、28)は、削除する顔画像を決定するのに、顔検出手段2、7が算出した画像品質を使用する。
【0074】
第4に、
図3の画像処理装置30を、2つの装置に分割して構成するようにしてもよい。例えば、第1の装置に、監視カメラ1の画像を処理する機能(顔検出手段2、重複削除手段3、顔特徴抽出手段4、顔特徴DB5)を搭載する。一方、第2の装置に、監視カメラ6の画像を処理する機能(顔検出手段7、重複削除手段8、顔特徴抽出手段9)を搭載する。そして、上記以外の顔照合手段11、照合結果DB12、時間差算出手段13、及び結果出力手段14は、第1及び第2の装置のいずれか一方に搭載し、搭載した側の装置で、照合処理、時間差算出処理などを行うようにしてもよい。ここで、第1及び第2の装置は、互いに通信可能に接続され(無線又は有線)、照合処理、時間差算出処理等に必要な情報(抽出した顔特徴量、撮影時刻の情報など)は、それらの処理を実行する側の装置へ送信するように構成する。
【0075】
第5に、
図3の画像処理装置30を、3つの装置に分割して構成するようにしてもよい。例えば、第1の装置に、監視カメラ1の画像を処理する機能(顔検出手段2、重複削除手段3、顔特徴抽出手段4、顔特徴DB5)を搭載する。また、第2の装置に、監視カメラ6の画像を処理する機能(顔検出手段7、重複削除手段8、顔特徴抽出手段9)を搭載する。そして、第3の装置に、上記以外の顔照合手段11、照合結果DB12、時間差算出手段13、及び結果出力手段14を搭載し、照合処理、時間差算出処理などを行うようにしてもよい。ここで、第1及び第2の装置は、それぞれ第3の装置と通信可能に接続され(無線又は有線)、抽出した顔特徴量、撮影時刻の情報などを第3の装置に送信するように構成する。
【0076】
尚、第1の実施形態と同様に、第2の実施形態の時間差測定システムを変形し、異なる地点A、Bに同一人物が通過したことを認識する画像処理装置として提供することもできる。
【0077】
(第3の実施形態)
次に、第3の実施形態について、
図12を参照しながら説明する。
図12は第3の実施形態に係る待ち時間測定システムを模式的に示した図であり、サービスカウンター31の待ち行列における待ち時間を測定するシステムの一例を示している。
図12において、順番待ちをする領域への入口32を撮影する監視カメラ1と、サービスカウンター31の近くを撮影するカメラ6とが設置されている。監視カメラ1、6のカメラ画像を処理する画像処理装置としては、第1の実施形態の画像処理装置(
図3の30)を使用する。
【0078】
重複削除手段3に設定する削除条件は、同一人物と判定された複数の顔画像のうち、最初の顔画像を顔特徴抽出の対象として残し、それ以外を削除するように設定している。また、重複削除手段8に設定する削除条件は、同一人物と判定された複数の顔画像のうち、最後の顔画像を顔特徴抽出の対象として残し、それ以外を削除するように設定している。
【0079】
上記のように顔特徴抽出の対象画像を選択することにより、待ち時間を過小に計測することを防ぐことができる。
【0080】
(第4の実施形態)
次に、第4の実施形態について、
図13を参照しながら説明する。
図13は第4の実施形態に係る待ち時間測定システムを模式的に示した図であり、病院内で受付43と待合室42のある場所で、受付43からサービス開始(例えば、診療室41での診察開始)までの待ち時間を測定するシステムの一例を示している。
図13において、受付43を撮影する監視カメラ1と、診療室41の入口を撮影するカメラ6が設置されている。監視カメラ1、6のカメラ画像を処理する画像処理装置としては、第1の実施形態の画像処理装置(
図3の30)を使用する。
【0081】
重複削除手段3に設定する削除条件では、受付待ち時間を除くため同一人物と判定された複数の顔画像のうち、最後の顔画像を顔特徴抽出の対象として残し、それ以外を削除するように設定している。また、重複削除手段8に設定する削除条件は、診療室41の入口では停滞が少ないと見込まれるため、同一人物と判定された複数の顔画像のうちの最初の顔画像を顔特徴抽出の対象として残しそれ以外を削除する、処理の単純な設定にしている。
【0082】
以上、第3及び第4の実施形態で示したように、待ち時間計測システムは、用途や撮影場所の状況に応じて、重複削除手段の設定を変えて、所望の待ち時間が精度良く測定できるようにすることができる。尚、第3及び第4の実施形態において、第2の実施形態の削除条件テーブル303及び削除条件選択基準テーブル304を用いるようにしてもよい。
【0083】
尚、第3及び第4の実施形態では、待ち時間測定を行う場合について例示したが、本発明の時間差測定システムは待ち時間測定に限定されず、2つの異なる地点に設置されたカメラで同一人物の時間差を測定する様々な用途に適用することができる。
【0084】
尚、各実施形態において、画像処理装置30によって実行される各々の処理(例えば、
図4のS302〜S305、S307〜S311等)は、画像処理装置30が備えた図示しない記憶デバイスにプログラムとして格納され、画像処理装置30が備えた図示しないCPUによって呼び出されて実行される。また、そのプログラムは、ネットワークを介してダウンロードするか、或いは、プログラムを記憶した記憶媒体を用いて、更新することができる。
【0085】
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
【0086】
(付記1)前述した第1の視点に係る時間差測定システムの通りである。
【0087】
(付記2)前記第1及び第2の重複削除手段は、前記顔画像の切り出し位置及び前記顔画像の撮影時刻を用いて同一人物の判定を行う、ことを特徴とする付記1に記載の時間差測定システム。
【0088】
(付記3)前記第1及び第2の重複削除手段は、同一人物と判定された複数の顔画像の各々の撮影時刻に基づいて、削除する顔画像を選択する、ことを特徴とする付記1または2に記載の時間差測定システム。
【0089】
(付記4)前記第1及び第2の重複削除手段は、同一人物と判定された複数の顔画像の各々の画像品質に基づいて、削除する顔画像を選択する、ことを特徴とする付記1または2に記載の時間差測定システム。
【0090】
(付記5)前記第1及び第2の重複削除手段は、
前記顔画像を削除する削除条件を1つ以上登録した削除条件テーブルと、
前記削除条件テーブルに登録された削除条件の中から、使用する削除条件を選択する基準を設定した削除条件選択基準テーブルと、
を備えた、ことを特徴とする付記1乃至4のいずれか一に記載の時間差測定システム。
【0091】
(付記6)前記顔照合手段は、1つの前記第2の顔特徴量に対して、複数の前記第1の顔特徴量が照合に成功した場合に、前記照合に成功した複数の第1の顔特徴量のうちの1つを選択し、選択された前記第1の顔特徴量に対応する撮影時間を前記第1の時刻とする、ことを特徴とする付記1乃至5のいずれか一に記載の時間差測定システム。
【0092】
(付記7)前記第1のカメラは、待ち時間の開始の場面を撮影するカメラであり、
前記第2のカメラは、待ち時間の終了の場面を撮影するカメラであり、
前記時間差算出手段が算出する時間差は、待ち時間である、ことを特徴とする付記1乃至6のいずれか一に記載の時間差測定システム。
【0093】
(付記8)前述した第2の視点に係る画像処理装置の通りである。
【0094】
(付記9)前記第1及び第2の重複削除手段は、前記顔画像の切り出し位置及び前記顔画像の撮影時刻を用いて同一人物の判定を行う、ことを特徴とする付記8に記載の画像処理装置。
【0095】
(付記10)前記第1及び第2の重複削除手段は、同一人物と判定された複数の顔画像の各々の撮影時刻に基づいて、削除する顔画像を選択する、ことを特徴とする付記8または9に記載の画像処理装置。
【0096】
(付記11)前記第1及び第2の重複削除手段は、同一人物と判定された複数の顔画像の各々の画像品質に基づいて、削除する顔画像を選択する、ことを特徴とする付記8または9に記載の画像処理装置。
【0097】
(付記12)前記第1及び第2の重複削除手段は、
前記顔画像を削除する削除条件を1つ以上登録した削除条件テーブルと、
前記削除条件テーブルに登録された削除条件の中から、使用する削除条件を選択する基準を設定した削除条件選択基準テーブルと、
を備えた、ことを特徴とする付記8乃至11のいずれか一に記載の画像処理装置。
【0098】
(付記13)前記記憶部は、前記第1の顔特徴量と、撮影時刻とを対応付けて保存し、
前記顔照合手段は、前記第2の顔特徴量を前記記憶部に保存された前記第1の顔特徴量と照合し、照合に成功した前記第1の顔特徴量に対応付けられて前記記憶部に保存された撮影時刻を第1の時刻とし、前記第2の顔特徴量の撮影時刻を第2の時刻とし、
前記第1及び第2の時刻の時間差を算出する時間差算出手段をさらに備えた、ことを特徴とする付記8乃至12のいずれか一に記載の画像処理装置。
【0099】
(付記14)前述した第3の視点に係る時間差測定方法の通りである。
【0100】
(付記15)前記第1及び第2の重複削除ステップは、前記顔画像の切り出し位置及び前記顔画像の撮影時刻を用いて同一人物の判定を行う、ことを特徴とする付記14に記載の時間差測定方法。
【0101】
(付記16)前記第1及び第2の重複削除ステップは、同一人物と判定された複数の顔画像の各々の撮影時刻に基づいて、削除する顔画像を選択する、ことを特徴とする付記14または15に記載の時間差測定方法。
【0102】
(付記17)前記第1及び第2の重複削除ステップは、同一人物と判定された複数の顔画像の各々の画像品質に基づいて、削除する顔画像を選択する、ことを特徴とする付記14または15に記載の時間差測定方法。
【0103】
(付記18)前記顔照合ステップは、1つの前記第2の顔特徴量に対して、複数の前記第1の顔特徴量が照合に成功した場合に、前記照合に成功した複数の第1の顔特徴量のうちの1つを選択し、選択された前記第1の顔特徴量に対応する撮影時間を前記第1の時刻とする、ことを特徴とする付記14乃至17のいずれか一に記載の時間差測定方法。
【0104】
(付記19)前述した第4の視点に係る画像処理方法の通りである。
【0105】
(付記20)前記第1及び第2の重複削除ステップは、前記顔画像の切り出し位置及び前記顔画像の撮影時刻を用いて同一人物の判定を行う、ことを特徴とする付記19に記載の画像処理方法。
【0106】
(付記21)前記第1及び第2の重複削除ステップは、同一人物と判定された複数の顔画像の各々の撮影時刻に基づいて、削除する顔画像を選択する、ことを特徴とする付記19または20に記載の画像処理方法。
【0107】
(付記22)前記第1及び第2の重複削除ステップは、同一人物と判定された複数の顔画像の各々の画像品質に基づいて、削除する顔画像を選択する、ことを特徴とする付記19または20に記載の画像処理方法。
【0108】
(付記23)前述した第5の視点に係るプログラムの通りである。
【0109】
本発明の時間差測定システムは、待ち時間を測定するのに適用することができる。具体的には、顧客にサービスを提供するまでの待ち時間を測定することにより、顧客の満足度を推定したり、顧客の満足度を向上させるためにサービスカウンター数の増減判断を行ったりするのに活用することができる。また、本発明は、2つの異なる地点を撮影する画像データから、同一人物である顔を効率良く照合する画像処理装置に適用することも可能である。
【0110】
なお、本発明の全開示(請求の範囲及び図面を含む)の枠内において、さらにその基本的技術思想に基づいて、実施形態の変更・調整が可能である。また、本発明の請求の範囲の枠内において種々の開示要素(各請求項の各要素、各実施形態の各要素、各図面の各要素等を含む)の多様な組み合わせないし選択が可能である。すなわち、本発明は、請求の範囲及び図面を含む全開示、技術的思想にしたがって当業者であればなし得るであろう各種変形、修正を含むことは勿論である。特に、本書に記載した数値範囲については、当該範囲内に含まれる任意の数値ないし小範囲が、別段の記載のない場合でも具体的に記載されているものと解釈されるべきである。