IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 三菱電機インフォメーションシステムズ株式会社の特許一覧

特許7411752置去人特定装置、置去人特定方法及び置去人特定プログラム
<>
  • 特許-置去人特定装置、置去人特定方法及び置去人特定プログラム 図1
  • 特許-置去人特定装置、置去人特定方法及び置去人特定プログラム 図2
  • 特許-置去人特定装置、置去人特定方法及び置去人特定プログラム 図3
  • 特許-置去人特定装置、置去人特定方法及び置去人特定プログラム 図4
  • 特許-置去人特定装置、置去人特定方法及び置去人特定プログラム 図5
  • 特許-置去人特定装置、置去人特定方法及び置去人特定プログラム 図6
  • 特許-置去人特定装置、置去人特定方法及び置去人特定プログラム 図7
  • 特許-置去人特定装置、置去人特定方法及び置去人特定プログラム 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2023-12-27
(45)【発行日】2024-01-11
(54)【発明の名称】置去人特定装置、置去人特定方法及び置去人特定プログラム
(51)【国際特許分類】
   G06V 10/74 20220101AFI20231228BHJP
   G06T 7/00 20170101ALI20231228BHJP
【FI】
G06V10/74
G06T7/00 300D
G06T7/00 300F
【請求項の数】 12
(21)【出願番号】P 2022154552
(22)【出願日】2022-09-28
【審査請求日】2022-09-28
(73)【特許権者】
【識別番号】394013002
【氏名又は名称】三菱電機インフォメーションシステムズ株式会社
(74)【代理人】
【識別番号】110002491
【氏名又は名称】弁理士法人クロスボーダー特許事務所
(72)【発明者】
【氏名】檜垣 宏策
(72)【発明者】
【氏名】中尾 尭理
(72)【発明者】
【氏名】山足 光義
(72)【発明者】
【氏名】阿部 紘和
【審査官】新井 則和
(56)【参考文献】
【文献】特開2012-235300(JP,A)
【文献】特開2011-049646(JP,A)
【文献】特開2012-059224(JP,A)
【文献】国際公開第2019/021628(WO,A1)
【文献】国際公開第2017/110028(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06V 10/74
G06T 7/00
(57)【特許請求の範囲】
【請求項1】
動画を構成するフレームのうち、置去物が置き去られた時刻である置去時刻以前の基準期間のフレームそれぞれを前記置去時刻のフレームから時刻の逆順に対象フレームとして、前記対象フレームの次の時刻のフレームにおける前記置去物の位置の周囲基準範囲を前記対象フレームについての検索範囲に設定し、前記置去物の画像をテンプレート画像として前記検索範囲についてテンプレートマッチングを行うことにより、前記対象フレームにおける前記置去物の位置を特定する置去位置特定部と、
前記対象フレームに映った1人以上の人それぞれについて、前記置去位置特定部によって特定された前記対象フレームにおける前記置去物の位置からの距離を計算する距離計算部と、
前記基準期間のフレームそれぞれについて前記距離計算部によって計算された距離に基づき、前記基準期間のフレームに映った人から、前記置去物を置き去った置去人を特定する置去人特定部と
を備える置去人特定装置。
【請求項2】
前記対象フレームに映った人のうち、前記置去物の位置からの距離が近い人を隣接人として特定する隣接人特定部
を備え、
前記置去人特定部は、前記基準期間のフレームに映った1人以上の人それぞれを対象人として、前記隣接人特定部によって前記対象人が前記隣接人として特定されたフレームの数を前記対象人のスコアとして計算して、前記スコアが高い人を、前記置去人として特定する
請求項1に記載の置去人特定装置。
【請求項3】
前記対象フレームに映った人のうち、前記置去物の位置からの距離が近い人を隣接人として特定する隣接人特定部
を備え、
前記置去人特定部は、前記基準期間のフレームに映った1人以上の人それぞれを対象人として、前記隣接人特定部によって前記対象人が前記隣接人として特定されたフレームの数と、前記対象人が前記隣接人として特定されたフレームにおける前記置去物の位置から前記対象人までの距離とからスコアを計算して、前記スコアが高い人を、前記置去物を置き去った置去人として特定する
請求項1に記載の置去人特定装置。
【請求項4】
前記置去人特定部は、前記対象人が前記隣接人として特定されたフレームにおける前記置去物の位置から前記対象人以外の人までの距離を考慮して前記スコアを計算する
請求項3に記載の置去人特定装置。
【請求項5】
前記対象フレームに映った人のうち、前記置去物の位置からの距離が所定の距離内の人を隣接人として特定する隣接人特定部
を備え、
前記置去人特定部は、前記基準期間のフレームに映った1人以上の人それぞれを対象人として、前記隣接人特定部によって前記対象人が前記隣接人として特定されたフレーム毎に、前記対象人が前記隣接人として特定されたフレームにおける前記隣接人と前記置去物の位置との比較によ算出されるスコアを計算し、前記スコアを前記対象人のスコアとして加算し、前記スコアが高い人を、前記置去物を置き去った置去人として特定する
請求項1に記載の置去人特定装置。
【請求項6】
前記置去位置特定部は、前記対象フレームの処理までに検知された前記置去物の画像のうち類似度が基準以下の1つ以上の画像それぞれを、前記対象フレームについてのテンプレート画像としてテンプレートマッチングを行う
請求項に記載の置去人特定装置。
【請求項7】
前記置去位置特定部は、前記置去物の画像に対して拡大した画像と縮小した画像との少なくともいずれかを前記テンプレート画像に加えて、テンプレートマッチングを行う
請求項に記載の置去人特定装置。
【請求項8】
前記置去位置特定部は、前記テンプレート画像とマッチする部分画像が特定されないフレームの次の時刻のフレームを前記置去物が出現した出現時刻のフレームとして特定し、
前記距離計算部は、前記基準期間のフレームのうち、前記出現時刻以降のフレームだけを前記対象フレームとして、前記対象フレームにおける前記距離を計算する
請求項に記載の置去人特定装置。
【請求項9】
前記置去人特定装置は、さらに、
フレーム間で同一の人を特定する同一人特定部
を備え、
前記置去人特定部は、前記同一人特定部によって同一の人と特定された結果を参照して、前記隣接人として特定されたフレームの数を特定する
請求項2に記載の置去人特定装置。
【請求項10】
前記置去位置特定部は、前記次の時刻のフレームにおける前記置去物が検知された範囲を、前記次の時刻のフレームと前記次の時刻のフレームのさらに次の時刻のフレームとの間における前記置去物の移動量に応じた割合だけ周囲に拡大した範囲を前記検索範囲として決定する
請求項1に記載の置去人特定装置。
【請求項11】
コンピュータが、動画を構成するフレームのうち、置去物が置き去られた時刻である置去時刻以前の基準期間のフレームそれぞれを前記置去時刻のフレームから時刻の逆順に対象フレームとして、前記対象フレームの次の時刻のフレームにおける前記置去物の位置の周囲基準範囲を前記対象フレームについての検索範囲に設定し、前記置去物の画像をテンプレート画像として前記検索範囲についてテンプレートマッチングを行うことにより、前記対象フレームにおける前記置去物の位置を特定し、
コンピュータが、前記対象フレームに映った1人以上の人それぞれについて、前記対象フレームにおける前記置去物の位置からの距離を計算し、
コンピュータが、前記基準期間のフレームそれぞれについて計算された距離に基づき、前記基準期間のフレームに映った人から、前記置去物を置き去った置去人を特定する置去人特定方法。
【請求項12】
動画を構成するフレームのうち、置去物が置き去られた時刻である置去時刻以前の基準期間のフレームそれぞれを前記置去時刻のフレームから時刻の逆順に対象フレームとして、前記対象フレームの次の時刻のフレームにおける前記置去物の位置の周囲基準範囲を前記対象フレームについての検索範囲に設定し、前記置去物の画像をテンプレート画像として前記検索範囲についてテンプレートマッチングを行うことにより、前記対象フレームにおける前記置去物の位置を特定する置去位置特定処理と、
前記対象フレームに映った1人以上の人それぞれについて、前記置去位置特定処理によって特定された前記対象フレームにおける前記置去物の位置からの距離を計算する距離計算処理と、
前記基準期間のフレームそれぞれについて前記距離計算処理によって計算された距離に基づき、前記基準期間のフレームに映った人から、前記置去物を置き去った置去人を特定する置去人特定処理と
を行う置去人特定装置としてコンピュータを機能させる置去人特定プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、置去物を置き去った人である置去人を映像から特定する技術に関する。
【背景技術】
【0002】
公共施設等に設置された監視カメラで得られた映像を用いて、不審物等の置き去りを検知することが行われている。この検知では、事前に用意された背景画像とリアルタイムの画像とが比較され、置き去りされた置去物の候補が見つけられる。そして、この候補が一定時間同じ場所にあった場合に、置去物であると判定される。
【0003】
特許文献1には、映像から、置去物を置き去った人である置去人を特定する技術が記載されている。特許文献1では、置き去られた際の置去物の位置からの距離が近い人を置去人として特定している。
【先行技術文献】
【特許文献】
【0004】
【文献】国際公開第2019/021628号
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1に記載されたように、置き去られた際の置去物の位置からの距離だけで置去人を特定すると、置去物が置き去られた時に置去物の近くにいた他の人を誤って置去人として特定してしまう恐れがある。また、置去物が置き去られた時に置き去った人が映像上で物体等に隠れてしまう状況では、適切に置去人を特定することが困難である。
本開示は、適切に置去人を特定可能にすることを目的とする。
【課題を解決するための手段】
【0006】
本開示に係る置去人特定装置は、
動画を構成するフレームのうち、置去物が置き去られた時刻である置去時刻以前の基準期間のフレームそれぞれを対象フレームとして、対象フレームにおける前記置去物の位置を特定する置去位置特定部と、
前記対象フレームに映った1人以上の人それぞれについて、前記置去位置特定部によって特定された前記対象フレームにおける前記置去物の位置からの距離を計算する距離計算部と、
前記基準期間のフレームそれぞれについて前記距離計算部によって計算された距離に基づき、前記基準期間のフレームに映った人から、前記置去物を置き去った置去人を特定する置去人特定部と
を備える。
【発明の効果】
【0007】
本開示では、置去時刻以前の基準期間のフレームそれぞれについての置去物の位置からの距離により置去人を特定する。これにより、置去物が置き去られた時に置去物の近くにいた他の人を誤って置去人として特定してしまうことを防止できる。また、置去物が置き去られた時に置き去った人が映像上で物体等に隠れてしまう状況でも、適切に置去人を特定することが可能になる。
【図面の簡単な説明】
【0008】
図1】実施の形態1に係る置去人特定装置10の構成図。
図2】実施の形態1に係る置去人特定装置10の全体的な動作を示すフローチャート。
図3】実施の形態1に係る置去人特定装置10の動作の説明図。
図4】実施の形態1に係る距離計算処理の説明図。
図5】変形例1に係る置去人特定装置10の構成図。
図6】テンプレートマッチングの説明図。
図7】実施の形態3に係る検索範囲の説明図。
図8】実施の形態4に係るテンプレート画像の説明図。
【発明を実施するための形態】
【0009】
実施の形態1.
***構成の説明***
図1を参照して、実施の形態1に係る置去人特定装置10の構成を説明する。
置去人特定装置10は、コンピュータである。
置去人特定装置10は、プロセッサ11と、メモリ12と、ストレージ13と、通信インタフェース14とのハードウェアを備える。プロセッサ11は、信号線を介して他のハードウェアと接続され、これら他のハードウェアを制御する。
【0010】
プロセッサ11は、プロセッシングを行うICである。ICはIntegrated Circuitの略である。プロセッサ11は、具体例としては、CPU、DSP、GPUである。CPUは、Central Processing Unitの略である。DSPは、Digital Signal Processorの略である。GPUは、Graphics Processing Unitの略である。
【0011】
メモリ12は、データを一時的に記憶する記憶装置である。メモリ12は、具体例としては、SRAM、DRAMである。SRAMは、Static Random Access Memoryの略である。DRAMは、Dynamic Random Access Memoryの略である。
【0012】
ストレージ13は、データを保管する記憶装置である。ストレージ13は、具体例としては、HDDである。HDDは、Hard Disk Driveの略である。また、ストレージ13は、SD(登録商標)メモリカード、CompactFlash(登録商標)、NANDフラッシュ、フレキシブルディスク、光ディスク、コンパクトディスク、Blu-ray(登録商標)ディスク、DVDといった可搬記録媒体であってもよい。SDは、Secure Digitalの略である。DVDは、Digital Versatile Diskの略である。
【0013】
通信インタフェース14は、外部の装置と通信するためのインタフェースである。通信インタフェース14は、具体例としては、Ethernet(登録商標)、USB、HDMI(登録商標)のポートである。USBは、Universal Serial Busの略である。HDMIは、High-Definition Multimedia Interfaceの略である。
【0014】
置去人特定装置10は、機能構成要素として、置去物特定部21と、置去位置特定部22と、同一人特定部23と、距離計算部24と、隣接人特定部25と、置去人特定部26とを備える。置去人特定装置10の各機能構成要素の機能はソフトウェアにより実現される。
ストレージ13には、置去人特定装置10の各機能構成要素の機能を実現するプログラムが格納されている。このプログラムは、プロセッサ11によりメモリ12に読み込まれ、プロセッサ11によって実行される。これにより、置去人特定装置10の各機能構成要素の機能が実現される。
【0015】
図1では、プロセッサ11は、1つだけ示されていた。しかし、プロセッサ11は、複数であってもよく、複数のプロセッサ11が、各機能を実現するプログラムを連携して実行してもよい。
【0016】
***動作の説明***
図2から図4を参照して、実施の形態1に係る置去人特定装置10の動作を説明する。
実施の形態1に係る置去人特定装置10の動作手順は、実施の形態1に係る置去人特定方法に相当する。また、実施の形態1に係る置去人特定装置10の動作を実現するプログラムは、実施の形態1に係る置去人特定プログラムに相当する。
【0017】
図2を参照して、実施の形態1に係る置去人特定装置10の全体的な動作を説明する。
(ステップS1:置去物特定処理)
置去物特定部21は、置去物31を特定する。置去物31は、不審物、鞄といった物体である。
具体的には、置去物特定部21は、通信インタフェース14を介して映像を取得する。映像は、監視カメラ等によって対象領域を撮影して得られる。置去物特定部21は、既存技術を用いて映像から置去物31を特定する。実施の形態1では、置去物特定部21は、事前に用意された背景画像と映像を構成する各フレームの画像とを比較し、置き去りされた置去物31の候補を見つける。そして、置去物特定部21は、この候補が指定時間同じ場所にあった場合に、置去物31として特定する。
【0018】
(ステップS2:置去時刻処理)
置去物特定部21は、置去物が置き去られた時刻である置去時刻32を特定する。
具体的には、置去物特定部21は、ステップS1で置去物31として特定された時刻の指定時間前の時刻を置去時刻32として特定する。
例えば、図3に示すように、時刻tnに置去物31が特定されたとする。ステップS1では、置去物31の候補が指定時間同じ場所にあった場合に、置去物31として特定される。そのため、置去物31は、時刻tnの指定時間前に置き去られ、同じ場所に置かれていたことになる。そこで、置去物特定部21は、時刻tnの指定時間前の時刻tmを置去時刻32として特定する。
【0019】
置去位置特定部22は、第1ループの処理を、置去時刻32以前の基準期間のフレームを置去時刻のフレームから時刻の逆順に対象フレームとして実行する。第1ループには、ステップS3及びステップS4の処理が含まれる。基準期間は、人が撮影領域の端から端まで移動できる程度の期間のような、ある程度の長さを持った期間である。したがって、基準期間には、複数のフレームが含まれる。
【0020】
(ステップS3:置去位置特定処理)
置去位置特定部22は、対象フレームにおける置去物31の位置を特定する。
具体的には、置去位置特定部22は、置去物31の画像をテンプレート画像としてテンプレートマッチングを行うことにより、対象フレームにおける置去物31を検知する。置去位置特定部22は、検知された置去物31の位置を特定する。ここでは、検知された置去物31の位置は、置去物検知枠33の下辺の中点である。実施の形態1では、置去位置特定部22は、ステップS1で置去物31として特定された際の置去物31の画像をテンプレート画像とする。つまり、図3では、時刻tnのフレームにおいて置去物31が検知された矩形の検知枠である置去物検知枠33内の画像がテンプレート画像である。
【0021】
(ステップS4:出現判定処理)
置去位置特定部22は、ステップS3で置去物31の位置が特定されたか否かを判定する。
置去位置特定部22は、置去物31の位置が特定された場合には、対象フレームについての処理を終了する。一方、置去位置特定部22は、置去物31の位置が特定されなかった場合には、対象フレームの次の時刻のフレームを置去物31が出現した出現時刻34のフレームとして特定する。置去位置特定部22は、出現時刻34のフレームを特定した場合には、第1ループの処理を終了して、処理をステップS5に進める。図3では、時刻t0には置去物31が存在せず、置去物31の位置が特定されない。そのため、時刻t0の次の時刻t1のフレームが出現時刻34のフレームになる。
なお、基準期間のフレームの最初のフレームでも置去物31の位置が特定された場合には、置去位置特定部22は、基準期間のフレームの最初のフレームを出現時刻34のフレームとして処理を進める。
【0022】
ここでは、置去位置特定部22は、1度でも置去物31の位置が特定されなかった場合には、次の時刻のフレームを置去物31が出現した出現時刻34のフレームとして特定した。しかし、オクルージョン等により一時的に置去物31が検出されなくなる可能性がある。そこで、置去位置特定部22は、指定数のフレームで連続して置去物31の位置が特定されなかった場合には、置去物31の位置が特定された最後のフレームを置去物31が出現した出現時刻34のフレームとして特定してもよい。
【0023】
同一人物特定部23と距離計算部24と隣接人特定部25と置去人特定部26とは、第2ループの処理を、出現時刻34のフレームから置去時刻32のフレームまでを対象フレームとして実行する。第2ループには、ステップS5からステップS11の処理が含まれる。
【0024】
(ステップS5:人検知処理)
同一人特定部23は、対象フレームに映っている人を検知する。
具体的には、同一人特定部23は、対象フレームを入力として既存の人検知処理により人を検知する。ここでは、図3に示すように、人が検知された領域を囲った矩形の人検知枠35が得られるものとする。
【0025】
同一人特定部23と距離計算部24とは、第3ループの処理を、ステップS5で検知された各人を順に対象人として実行する。第3ループには、ステップS6からステップS9の処理が含まれる。
【0026】
(ステップS6:同一人判定処理)
同一人特定部23は、対象人と同一の人が人物リストに登録済か否かを判定する。
具体的には、同一人特定部23は、対象人の特徴量を計算する。同一人特定部23は、対象人の特徴量と、人物リストに登録された各人の特徴量とを比較する。同一人特定部23は、対象人の特徴量との一致率が閾値以上の特徴量を有する人を、対象人と同一の人として特定する。同一人特定部23は、対象人と同一の人が特定された場合には、対象人と同一の人が人物リストに登録済と判定する。同一人特定部23は、対象人の特徴量との一致率が閾値以上の特徴量を有する人が人物リストにいない場合には、対象人と同一の人が人物リストに未登録と判定する。
同一人特定部23は、対象人と同一の人が人物リストに登録済の場合には、同一と判定された人の人物IDを対象人に付与し、処理をステップS7に進める。一方、同一人特定部23は、対象人と同一の人が人物リストに未登録の場合には、処理をステップS8に進める。
【0027】
(ステップS7:特徴量更新処理)
同一人特定部23は、人物リストにおける対象人と同一の人と判定された人の特徴量を、対象人の特徴量を用いて更新する。更新方法は、任意であるが、例えば重み付け平均を取るといった方法である。
【0028】
(ステップS8:人追加処理)
同一人特定部23は、対象人を人物リストに追加する。
具体的には、同一人特定部23は、対象人に対して新しい人物IDを付与する。同一人特定部23は、付与された人物IDと、対象人の特徴量とを対応付けて人物リストに登録する。
【0029】
(ステップS9:距離計算処理)
距離計算部24は、対象フレームにおける置去物31の位置と対象人の位置の距離36を計算する。
具体的には、図4に示すように、距離計算部24は、1人以上の人それぞれについて、その人についての人検知枠35の下辺の中点と、置去物検知枠33の下辺の中点との間のユークリッド距離を距離36として計算する。
【0030】
(ステップS10:隣接人特定処理)
隣接人特定部25は、対象フレームに映った人のうち、ステップS9で計算された、対象フレームにおける置去物31の位置からの距離36が最も近い人を隣接人として特定する。
【0031】
(ステップS11:スコア計算処理)
置去人特定部26は、ステップS10で隣接人として特定された人の人物IDのスコアに1加算する。なお、各人物IDについてのスコアの初期値は0である。
【0032】
(ステップS12:置去人特定処理)
置去人特定部26は、距離36に基づき、出現時刻34のフレームから置去時刻32のフレームに映った人から、置去物31を置き去った置去人37を特定する。
実施の形態1では、置去人特定部26は、ステップS11で計算されたスコアが最も高い人を置去人37として特定する。
【0033】
***実施の形態1の効果***
以上のように、実施の形態1に係る置去人特定装置10は、置去時刻32以前の基準期間のフレームそれぞれについての置去物31の位置からの距離36により置去人37を特定する。これにより、置去物31が置き去られた時に置去物31の近くに偶然いた他の人を誤って置去人37として特定してしまうことを防止できる。また、置去物31が置き去られた時に置き去った人が映像上で物体等に隠れてしまう状況でも、適切に置去人37を特定することが可能になる。そのため、適切に置去人37を特定可能になる。
【0034】
なお、置去時刻32以前の時間は、置去物31が置去人37によって運ばれていると想定される。そのため、置去時刻32以前の時間のフレームでは、そのフレームにおける置去物31の位置からの距離36が最も近い人が置去人37である可能性が高い。したがって、実施の形態1のように、距離36が最も近い人である隣接人として特定されたフレームの数が多い人を置去人37として特定することで、適切に置去人37を特定可能である。
【0035】
***他の構成***
<変形例1>
実施の形態1では、各機能構成要素がソフトウェアで実現された。しかし、変形例1として、各機能構成要素はハードウェアで実現されてもよい。この変形例1について、実施の形態1と異なる点を説明する。
【0036】
図5を参照して、変形例1に係る置去人特定装置10の構成を説明する。
各機能構成要素がハードウェアで実現される場合には、置去人特定装置10は、プロセッサ11とメモリ12とストレージ13とに代えて、電子回路15を備える。電子回路15は、各機能構成要素と、メモリ12と、ストレージ13との機能とを実現する専用の回路である。
【0037】
電子回路15としては、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ロジックIC、GA、ASIC、FPGAが想定される。GAは、Gate Arrayの略である。ASICは、Application Specific Integrated Circuitの略である。FPGAは、Field-Programmable Gate Arrayの略である。
各機能構成要素を1つの電子回路15で実現してもよいし、各機能構成要素を複数の電子回路15に分散させて実現してもよい。
【0038】
<変形例2>
変形例2として、一部の各機能構成要素がハードウェアで実現され、他の各機能構成要素がソフトウェアで実現されてもよい。
【0039】
プロセッサ11とメモリ12とストレージ13と電子回路15とを処理回路という。つまり、各機能構成要素の機能は、処理回路により実現される。
【0040】
実施の形態2.
実施の形態2は、スコアの計算方法が実施の形態1と異なる。実施の形態2では、この異なる点を説明して、同一の点については説明を省略する。
【0041】
スコア計算処理(図2のステップS11)が実施の形態1と異なる。
スコア計算処理では、置去人特定部26は、置去物31の位置からの距離を考慮してスコアを計算する。具体的には、置去人特定部26は、ステップS10で隣接人として特定された人について、置去物31の位置からの距離に応じた値をスコアに加算する。ここで、置去人特定部26は、置去物31の位置からの距離が近いほど、大きい値をスコアに加算する。置去物31を運んでいる人は置去物31に近い位置にいると予想されるためである。
【0042】
***実施の形態2の効果***
以上のように、実施の形態2に係る置去人特定装置10は、置去物31の位置からの距離を考慮してスコアを計算する。これにより、より適切にスコアを計算することが可能になる。その結果、より適切に置去人37を特定可能になる。
【0043】
***他の構成***
<変形例3>
実施の形態2では、隣接人として特定された人についての置去物31の位置からの距離だけを考慮してスコアを計算した。変形例3として、対象フレームに映った他の人についての置去物31の位置からの距離も考慮してスコアを計算してもよい。
具体的には、置去人特定部26は、隣接人として特定された人についての置去物31の位置からの距離が近く、かつ、隣接人として特定された人以外の人についての置去物31の位置からの距離が遠いほど、大きい値をスコアに加算する。隣接人として特定された人以外の人が置去物31の近くにいる場合には、置去人37以外の人が隣接人として特定されている可能性があるためである。
<変形例4>
実施の形態2及び変形例3では、スコア計算処理のスコアの値に重みを持たせているが、対象フレームでの隣接人は一人に特定されている。変形例4として、対象フレームの隣接人を複数であってもよくそれぞれの隣接人との距離36により、スコアの値に重みづけを持たせるように構成してもよい。
具体的には、隣接人特定処理(図2のステップS10)では隣接人特定部25は、距離36が所定の距離内である人を隣接人として特定する。次にスコア計算処理(図2のステップS11)では置去人特定部26は、特定された人の人物IDのスコアの値にそれぞれの距離36の比較により算出される数値を加算する。距離36から算出される数値について、具体例で説明する。例えば隣接人として人物A、人物B、人物Cが特定され、その順番に距離36が短く、距離36は相対的に1、1.5、3の関係性であるとする。スコアの値は、距離36の短さだけを考慮して、例えば人物Aが0.8、人物Bが0.5、人物Cが0.2と所定の数値とするように構成してもよい。あるいは複数人の隣接人の距離36の相対的な比較により、人物Aが1/1=1、人物Bが1/1.5=0.67、人物Cが1/3=0.34と算出した数値でもよい。
このように構成することにより、隣接人から置去人37の特定の精度が向上できる可能性がある。所定の距離とは、無限の距離でもよい。この場合、実質的には距離の指定はなく、全ての人が対象となる。
更なる変形例として、ステップS10の処理を省略し、ステップS11の処理を行うことで、対象フレームにおける全ての人を対象として、本変形例で上述したようなスコア計算するように構成してもよい。
【0044】
実施の形態3.
実施の形態3は、置去物31の位置を効率的に特定する点が実施の形態1,2と異なる。実施の形態3では、この異なる点を説明し、同一の点については説明を省略する。
【0045】
置去位置特定処理(図2のステップS3)が実施の形態1,2と異なる。
置去位置特定処理では、置去物31の画像をテンプレート画像としてテンプレートマッチングを行う。図6に示すように、テンプレートマッチングは、対象フレーム上でテンプレート画像を移動させて、類似度が基準以上となる部分を検出する処理である。そのため、対象フレームのピクセル数が多いと処理時間が長くなってしまう。
【0046】
そこで、置去位置特定部22は、テンプレートマッチングを行う対象フレームにおける範囲を絞る。
具体的には、図7に示すように、置去位置特定部22は、対象フレームの次の時刻のフレームにおける置去物31の位置の周囲基準範囲を対象フレームについての検索範囲に設定する。つまり、第1ループにおいて、前回の対象フレームで特定された置去物31の位置の周囲基準範囲を今回の対象フレームについての検索範囲に設定する。そして、置去位置特定部22は、置去物31の画像をテンプレート画像として検索範囲についてのみテンプレートマッチングを行う。
ここでは、置去位置特定部22は、対象フレームの次の時刻のフレームにおける置去物検知枠33を周囲に一定割合拡大させた範囲を、置去物31の位置の周囲基準範囲とする。なお、拡大させる割合は、次の時刻のフレームとその次の時刻のフレームとの間の置去物31の移動量に応じて決定されてもよい。
【0047】
***実施の形態3の効果***
以上のように、実施の形態3に係る置去人特定装置10は、対象フレームの次の時刻のフレームにおける置去物31の位置の周囲基準範囲を対象フレームについての検索範囲に設定する。これにより、テンプレートマッチングに係る処理時間を短縮可能である。
【0048】
フレーム間での置去物31の移動量はある程度限定される。そのため、次の時刻のフレームにおける置去物31の位置の付近に置去物31は存在するものと推定される。したがって、次の時刻のフレームにおける置去物31の位置の周囲基準範囲に検索範囲を限定しても、置去物31の位置を適切に特定可能である。
【0049】
実施の形態4.
実施の形態4は、置去物31の位置の特定精度を高くする点が実施の形態1~3と異なる。実施の形態4では、この異なる点を説明して、同一の点については説明を省略する。
【0050】
置去位置特定処理(図2のステップS3)が実施の形態1~3と異なる。
置去位置特定処理では、置去物31の画像をテンプレート画像としてテンプレートマッチングを行う。実施の形態1では、ステップS1で置去物31として特定された際の置去物31の画像をテンプレート画像とした。テンプレートマッチングでは、置去物31の移動等によりサイズの変化又は変形が起こると、テンプレート画像とマッチングしなくなり、検知精度が低下してしまう。
【0051】
そこで、図8に示すように、置去位置特定部22は、対象フレームの処理までに検知された置去物31の画像をテンプレート画像に追加する。つまり、置去位置特定部22は、置去位置特定処理を実行する度に、検知された置去物31の画像をテンプレート画像に追加する。これにより、置去物31の移動等によりサイズの変化又は変形が起こった画像がテンプレート画像に追加される。
ただ、テンプレート画像が追加されるほど、テンプレートマッチングに係る処理時間が長くなってしまう。そこで、置去位置特定部22は、既存のテンプレート画像と類似度が基準以下の場合にのみ、検知された置去物31の画像をテンプレート画像に追加してもよい。
【0052】
***実施の形態4の効果***
以上のように、実施の形態4に係る置去人特定装置10は、対象フレームの処理までに検知された置去物31の画像をテンプレート画像に追加する。これにより、置去物31の移動等によりサイズの変化又は変形が起こった場合にも、置去物31を適切に検知できる可能性が高くなる。
【0053】
***他の構成***
<変形例5>
置去位置特定部22は、置去物31の画像に対して拡大した画像と縮小した画像との少なくともいずれかをテンプレート画像に加えてもよい。これにより、置去物31を適切に検知できる可能性がより高くなる。
【0054】
なお、以上の説明における「部」を、「回路」、「工程」、「手順」、「処理」又は「処理回路」に読み替えてもよい。
【0055】
以下、本開示の諸態様を付記としてまとめて記載する。
(付記1)
動画を構成するフレームのうち、置去物が置き去られた時刻である置去時刻以前の基準期間のフレームそれぞれを対象フレームとして、対象フレームにおける前記置去物の位置を特定する置去位置特定部と、
前記対象フレームに映った1人以上の人それぞれについて、前記置去位置特定部によって特定された前記対象フレームにおける前記置去物の位置からの距離を計算する距離計算部と、
前記基準期間のフレームそれぞれについて前記距離計算部によって計算された距離に基づき、前記基準期間のフレームに映った人から、前記置去物を置き去った置去人を特定する置去人特定部と
を備える置去人特定装置。
(付記2)
前記対象フレームに映った人のうち、前記置去物の位置からの距離が近い人を隣接人として特定する隣接人特定部
を備え、
前記置去人特定部は、前記基準期間のフレームに映った1人以上の人それぞれを対象人として、前記隣接人特定部によって前記対象人が前記隣接人として特定されたフレームの数を前記対象人のスコアとして計算して、前記スコアが高い人を、前記置去人として特定する
付記1に記載の置去人特定装置。
(付記3)
前記対象フレームに映った人のうち、前記置去物の位置からの距離が近い人を隣接人として特定する隣接人特定部
を備え、
前記置去人特定部は、前記基準期間のフレームに映った1人以上の人それぞれを対象人として、前記隣接人特定部によって前記対象人が前記隣接人として特定されたフレームの数と、前記対象人が前記隣接人として特定されたフレームにおける前記置去物の位置から前記対象人までの距離とからスコアを計算して、前記スコアが高い人を、前記置去物を置き去った置去人として特定する
付記1に記載の置去人特定装置。
(付記4)
前記置去人特定部は、前記対象人が前記隣接人として特定されたフレームにおける前記置去物の位置から前記対象人以外の人までの距離を考慮して前記スコアを計算する
付記3に記載の置去人特定装置。
(付記5)
前記対象フレームに映った人のうち、前記置去物の位置からの距離が所定の距離内の人を隣接人として特定する隣接人特定部
を備え、
前記置去人特定部は、前記基準期間のフレームに映った1人以上の人それぞれを対象人として、前記隣接人特定部によって前記対象人が前記隣接人として特定されたフレーム毎に、前記対象人が前記隣接人として特定されたフレームにおける前記隣接人と前記置去物の位置との比較による算出されるスコアを計算し、前記スコアを前記対象人のスコアとして加算し、前記スコアが高い人を、前記置去物を置き去った置去人として特定する
付記1に記載の置去人特定装置。
(付記6)
前記置去位置特定部は、基準期間のフレームそれぞれを前記置去時刻のフレームから時刻の逆順に前記対象フレームとして、前記対象フレームの次の時刻のフレームにおける前記置去物の位置の周囲基準範囲を前記対象フレームについての検索範囲に設定し、前記置去物の画像をテンプレート画像として前記検索範囲についてテンプレートマッチングを行うことにより、前記対象フレームにおける前記置去物の位置を特定する
付記1から5までのいずれか1項に記載の置去人特定装置。
(付記7)
前記置去位置特定部は、前記対象フレームの処理までに検知された前記置去物の画像のうち類似度が基準以下の1つ以上の画像それぞれを、前記対象フレームについてのテンプレート画像としてテンプレートマッチングを行う
付記6に記載の置去人特定装置。
(付記8)
前記置去位置特定部は、前記置去物の画像に対して拡大した画像と縮小した画像との少なくともいずれかを前記テンプレート画像に加えて、テンプレートマッチングを行う
付記7に記載の置去人特定装置。
(付記9)
前記置去位置特定部は、前記テンプレート画像とマッチする部分画像が特定されないフレームの次の時刻のフレームを前記置去物が出現した出現時刻のフレームとして特定し、
前記距離計算部は、前記基準期間のフレームのうち、前記出現時刻以降のフレームだけを前記対象フレームとして、前記対象フレームにおける前記距離を計算する
付記6から8までのいずれか1項に記載の置去人特定装置。
(付記10)
前記置去人特定装置は、さらに、
フレーム間で同一の人を特定する同一人特定部
を備え、
前記置去人特定部は、前記同一人特定部によって同一の人と特定された結果を参照して、前記隣接人として特定されたフレームの数を特定する
付記2又は3に記載の置去人特定装置。
(付記11)
コンピュータが、動画を構成するフレームのうち、置去物が置き去られた時刻である置去時刻以前の基準期間のフレームそれぞれを対象フレームとして、対象フレームにおける前記置去物の位置を特定し、
コンピュータが、前記対象フレームに映った1人以上の人それぞれについて、前記対象フレームにおける前記置去物の位置からの距離を計算し、
コンピュータが、前記基準期間のフレームそれぞれについて計算された距離に基づき、前記基準期間のフレームに映った人から、前記置去物を置き去った置去人を特定する置去人特定方法。
(付記12)
動画を構成するフレームのうち、置去物が置き去られた時刻である置去時刻以前の基準期間のフレームそれぞれを対象フレームとして、対象フレームにおける前記置去物の位置を特定する置去位置特定処理と、
前記対象フレームに映った1人以上の人それぞれについて、前記置去位置特定処理によって特定された前記対象フレームにおける前記置去物の位置からの距離を計算する距離計算処理と、
前記基準期間のフレームそれぞれについて前記距離計算処理によって計算された距離に基づき、前記基準期間のフレームに映った人から、前記置去物を置き去った置去人を特定する置去人特定処理と
を行う置去人特定装置としてコンピュータを機能させる置去人特定プログラム。
【0056】
以上、本開示の実施の形態及び変形例について説明した。これらの実施の形態及び変形例のうち、いくつかを組み合わせて実施してもよい。また、いずれか1つ又はいくつかを部分的に実施してもよい。なお、本開示は、以上の実施の形態及び変形例に限定されるものではなく、必要に応じて種々の変更が可能である。
【符号の説明】
【0057】
10 置去人特定装置、11 プロセッサ、12 メモリ、13 ストレージ、14 通信インタフェース、15 電子回路、21 置去物特定部、22 置去位置特定部、23 同一人特定部、24 距離計算部、25 隣接人特定部、26 置去人特定部、31 置去物、32 置去時刻、33 置去物検知枠、34 出現時刻、35 人検知枠、36 距離、37 置去人。
【要約】      (修正有)
【課題】置去物を置き去った人である置去人を映像から特定する置去人特定装置、置去人特定方法及び置去人特定プログラムを提供する。
【解決手段】置去人特定装置10において、置去位置特定部22は、動画を構成するフレームのうち、置去物が置き去られた時刻である置去時刻以前の基準期間のフレームそれぞれを対象フレームとして、対象フレームにおける置去物の位置を特定する。距離計算部24は、対象フレームに映った1人以上の人それぞれについて、対象フレームにおける置去物の位置からの距離を計算する。置去人特定部26は、基準期間のフレームそれぞれについて距離計算部によって計算された距離に基づき、基準期間のフレームに映った人から置去人を特定する。
【選択図】図1
図1
図2
図3
図4
図5
図6
図7
図8