IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日本電気株式会社の特許一覧

特許7540500グループ特定装置、グループ特定方法、及びプログラム
<>
  • 特許-グループ特定装置、グループ特定方法、及びプログラム 図1
  • 特許-グループ特定装置、グループ特定方法、及びプログラム 図2
  • 特許-グループ特定装置、グループ特定方法、及びプログラム 図3
  • 特許-グループ特定装置、グループ特定方法、及びプログラム 図4
  • 特許-グループ特定装置、グループ特定方法、及びプログラム 図5
  • 特許-グループ特定装置、グループ特定方法、及びプログラム 図6
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-08-19
(45)【発行日】2024-08-27
(54)【発明の名称】グループ特定装置、グループ特定方法、及びプログラム
(51)【国際特許分類】
   G06T 7/00 20170101AFI20240820BHJP
【FI】
G06T7/00 660B
【請求項の数】 9
(21)【出願番号】P 2022556761
(86)(22)【出願日】2020-10-14
(86)【国際出願番号】 JP2020038817
(87)【国際公開番号】W WO2022079841
(87)【国際公開日】2022-04-21
【審査請求日】2023-04-06
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】110002044
【氏名又は名称】弁理士法人ブライタス
(72)【発明者】
【氏名】池田 浩雄
【審査官】▲広▼島 明芳
(56)【参考文献】
【文献】特開2017-130061(JP,A)
【文献】特開2014-142810(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00 - 7/90
G06V 10/00 - 20/90
(57)【特許請求の範囲】
【請求項1】
撮影画像からグループを特定するための装置であって、
第1の撮影画像において、その中の複数の人物の中から人物を選択し、選択した人物を基準にして、他の人物の位置を規定する空間的条件及び前記他の人物の状態を規定する状態条件に基づいて、第1のグループ候補を設定する、第1のグループ候補設定部と、
前記第1の撮影画像とは撮影時刻が異なる第2の撮影画像において、その中の複数の人物の中から、前記第1のグループ候補設定部によって選択された前記人物の属性を用いて、人物を選択し、選択した人物を基準にして、前記空間的条件及び前記状態条件に基づいて、第2のグループ候補を設定する、第2のグループ候補設定部と、
前記第1のグループ候補を構成する人物それぞれの属性を含む第1の属性構成情報と、前記第2のグループ候補を構成する人物それぞれの属性を含む第2の属性構成情報とを対比し、前記第1のグループ候補と前記第2のグループ候補との類似度を算出する、類似度算出部と、
算出された前記類似度が設定条件を満たす場合に、前記第1のグループ候補を構成する人物を1つのグループとして特定する、グループ特定部と、
を備え
前記第1の属性構成情報は、前記第1のグループ候補を構成する人物それぞれの属性を表すラベルデータで構成され、
前記第2の属性構成情報は、前記第2のグループ候補を構成する人物それぞれの属性を表すラベルデータで構成され、
前記類似度算出部が、前記類似度として、前記第1のグループ候補及び前記第2のグループ候補を合わせた全人物の数に対する、同じ属性を持つ人物の割合を算出する、
ことを特徴とするグループ特定装置。
【請求項2】
請求項1に記載のグループ特定装置であって、
前記第2のグループ候補設定部が、撮影時刻が互いに異なる複数の前記第2の撮影画像それぞれ毎に、前記第2のグループ候補を設定し、
前記類似度算出部が、複数の前記第2の撮影画像それぞれ毎に、前記第1の属性構成情報に含まれる、前記第1のグループ候補を構成する人物それぞれの属性と、前記第2の属性構成情報に含まれる、当該第2のグループ候補を構成する人物それぞれの属性とを対比し、前記類似度を算出し、
前記グループ特定部が、複数の前記第2の撮影画像それぞれ毎に算出された前記類似度それぞれを用いて、前記設定条件を満たすかどうかを判定し、前記設定条件を満たす場合に、前記第1のグループ候補を構成する人物を1つのグループとして特定する、
ことを特徴とするグループ特定装置。
【請求項3】
請求項1または2に記載のグループ特定装置であって、
前記空間的条件は、前記他の人物が選択された人物を中心とした設定範囲内に存在していることを含み、
前記状態条件は、前記他の人物が、選択された人物と向き合っていること、又は選択された人物と同一の方向を向いていることを含む、
ことを特徴とするグループ特定装置。
【請求項4】
請求項3に記載のグループ特定装置であって、
前記状態条件は、更に、前記他の人物の大きさが、選択された人物の大きさを基準とした設定範囲内にあることを含む、
ことを特徴とするグループ特定装置。
【請求項5】
請求項1に記載のグループ特定装置であって、
前記グループ特定部は、前記第1のグループ候補を構成する人物を1つのグループとして特定する場合に、前記第1のグループ候補を構成する人物それぞれにおける、位置、大きさ、向き、属性、及び前記第1の属性構成情報のうち、少なくとも1つを出力する、
ことを特徴とするグループ特定装置。
【請求項6】
請求項1に記載のグループ特定装置であって、
前記第2の撮影画像の撮影時刻が、前記第1の撮影画像の撮影時刻よりも過去であり、
前記第1の撮影画像及び前記第2の撮影画像は、同一の撮像装置によって撮影されている、
ことを特徴とするグループ特定装置。
【請求項7】
撮影画像からグループを特定するための装置であって、
第1の撮影画像において、その中の複数の人物の中から人物を選択し、選択した人物を基準にして、他の人物の位置を規定する空間的条件及び前記他の人物の状態を規定する状態条件に基づいて、第1のグループ候補を設定する、第1のグループ候補設定部と、
前記第1の撮影画像とは撮影時刻が異なる第2の撮影画像において、その中の複数の人物の中から、前記第1のグループ候補設定部によって選択された前記人物の属性を用いて、人物を選択し、選択した人物を基準にして、前記空間的条件及び前記状態条件に基づいて、第2のグループ候補を設定する、第2のグループ候補設定部と、
前記第1のグループ候補を構成する人物それぞれの属性を含む第1の属性構成情報と、前記第2のグループ候補を構成する人物それぞれの属性を含む第2の属性構成情報とを対比し、前記第1のグループ候補と前記第2のグループ候補との類似度を算出する、類似度算出部と、
算出された前記類似度が設定条件を満たす場合に、前記第1のグループ候補を構成する人物を1つのグループとして特定する、グループ特定部と、
を備え
前記第1の属性構成情報が、前記第1のグループ候補を構成する人物それぞれの属性を、属性に対する人物の数で整理した形で構成され、
前記第2の属性構成情報が、前記第2のグループ候補を構成する人物それぞれの属性を、属性に対する人物の数で整理した形で構成され、
前記類似度算出部が、前記類似度として、前記第1の属性構成情報と前記第2の属性構成情報との内積、又は両者間のユークリッド距離を算出する、
ている、ことを特徴とするグループ特定装置。
【請求項8】
撮影画像からグループを特定するための方法であって、
第1の撮影画像において、その中の複数の人物の中から人物を選択し、選択した人物を基準にして、他の人物の位置を規定する空間的条件及び前記他の人物の状態を規定する状態条件に基づいて、第1のグループ候補を設定し、
前記第1の撮影画像とは撮影時刻が異なる第2の撮影画像において、その中の複数の人物の中から、前記第1のグループ候補の設定の際に選択された前記人物の属性を用いて、人物を選択し、選択した人物を基準にして、前記空間的条件及び前記状態条件に基づいて、第2のグループ候補を設定し、
前記第1のグループ候補を構成する人物それぞれの属性を含む第1の属性構成情報と、前記第2のグループ候補を構成する人物それぞれの属性を含む第2の属性構成情報とを対比し、前記第1のグループ候補と前記第2のグループ候補との類似度を算出し、
算出された前記類似度が設定条件を満たす場合に、前記第1のグループ候補を構成する人物を1つのグループとして特定し、
前記第1の属性構成情報は、前記第1のグループ候補を構成する人物それぞれの属性を表すラベルデータで構成され、
前記第2の属性構成情報は、前記第2のグループ候補を構成する人物それぞれの属性を表すラベルデータで構成され、
前記類似度として、前記第1のグループ候補及び前記第2のグループ候補を合わせた全人物の数に対する、同じ属性を持つ人物の割合を算出する、
ことを特徴とするグループ特定方法。
【請求項9】
コンピュータによって撮影画像からグループを特定するためのプログラムであって、
前記コンピュータに、
第1の撮影画像において、その中の複数の人物の中から人物を選択し、選択した人物を基準にして、他の人物の位置を規定する空間的条件及び前記他の人物の状態を規定する状態条件に基づいて、第1のグループ候補を設定させ、
前記第1の撮影画像とは撮影時刻が異なる第2の撮影画像において、その中の複数の人物の中から、前記第1のグループ候補の設定の際に選択された前記人物の属性を用いて、人物を選択し、選択した人物を基準にして、前記空間的条件及び前記状態条件に基づいて、第2のグループ候補を設定させ、
前記第1のグループ候補を構成する人物それぞれの属性を含む第1の属性構成情報と、前記第2のグループ候補を構成する人物それぞれの属性を含む第2の属性構成情報とを対比し、前記第1のグループ候補と前記第2のグループ候補との類似度を算出させ、
算出された前記類似度が設定条件を満たす場合に、前記第1のグループ候補を構成する人物を1つのグループとして特定させ、
前記第1の属性構成情報は、前記第1のグループ候補を構成する人物それぞれの属性を表すラベルデータで構成され、
前記第2の属性構成情報は、前記第2のグループ候補を構成する人物それぞれの属性を表すラベルデータで構成され、
前記類似度として、前記第1のグループ候補及び前記第2のグループ候補を合わせた全人物の数に対する、同じ属性を持つ人物の割合を算出させる、
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮影された画像から人物のグループを特定するための、グループ特定装置、及びグループ特定方法に関し、更には、これらを実現するためのプログラムに関する。
【背景技術】
【0002】
公共施設等で撮影された画像の中からグループ(行動を共にする複数の人物)を特定し、そのグループの属性を認識することは、サービスの向上、及びマーケティングにおいて有用である。このため、従来から、撮影画像に基づいてグループを特定する装置が提案されている(例えば、特許文献1及び2参照)。
【0003】
具体的には、特許文献1に開示された装置は、撮影画像から人物の領域を抽出し、抽出された人物の領域間の距離及び領域間の重なりの状態に基づいて、領域が抽出された各人物が同一のグループに属しているかどうかを判定して、人物のグループを特定する。
【0004】
更に、特許文献1に開示された装置は、撮影画像から抽出された人物の領域それぞれを、フレーム単位で追跡し、人物の領域間の距離の近さが継続されている場合に、該当する各領域の人物を同一のグループとして特定することもできる。つまり、特許文献1に開示された装置は、人物間の距離の時間変化に基づいて、グループを特定することもできる。
【0005】
また、特許文献2に開示された装置は、まず、撮影画像から人物を検出し、検出した人物をフレーム単位で追跡し、各人物の位置情報を時系列に沿って取得する。そして、特許文献2に開示された装置は、取得された各人物の時系列の位置情報に基づいて、人物同士の相対距離及び相対速度を算出し、算出した相対距離及び相対速度が設定範囲内にある状態が一定時間以上継続している場合に、各人物は同一のグループに属していると判定する。
【先行技術文献】
【特許文献】
【0006】
【文献】特開2004-54376号公報
【文献】特開2006-92396号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
ところで、上述の特許文献1に開示された装置には、人物同士が近い混雑した環境下で撮影が行われた場合、又はカメラの俯角が浅い状態(即ち、撮影方向が水平方向に近い状態)で撮影が行われた場合において、グループの特定が難しいという問題がある。これは、このような撮影が行われた場合、撮影画像にはグループの手前又は奥にグループに関係ない人物が重なって映り込みやすく、人物の領域間の距離及び領域間の重なりの状態による判定では、グループに関係のない人物を切り分けることが困難だからである。
【0008】
これに対して、上述の特許文献1に開示された装置であっても、追跡処理を行う場合であれば、上記の問題を解消することは可能であると考えられる。同様に、上述の特許文献2に開示された装置でも、追跡処理が行われるので、上記の問題を解消することは可能であると考えられる。
【0009】
しかしながら、追跡処理には、追跡精度を高く維持することが難しいという問題、撮影画像に現れる人物の存在時間が短いと追跡ができなくなるという問題がある。上述の特許文献1に開示された装置及び上述の特許文献2に開示された装置では、追跡処理によって得られた時系列の情報に基づいてグループを特定するため、このような問題が生じると、いずれにおいても、グループの特定は困難となる。このため、人物の追跡に依存しないで、グループを特定することが求められている。
【0010】
本発明の目的の一例は、上記問題を解消し、人物の追跡処理を必要とすることなく、グループを特定し得る、グループ特定装置、グループ特定方法、及びプログラムを提供することにある。
【課題を解決するための手段】
【0011】
上記目的を達成するため、本発明の一側面におけるグループ特定装置は、撮影画像からグループを特定するための装置であって、
第1の撮影画像において、その中の複数の人物の中から人物を選択し、選択した人物を基準にして、他の人物の位置を規定する空間的条件及び前記他の人物の状態を規定する状態条件に基づいて、第1のグループ候補を設定する、第1のグループ候補設定部と、
前記第1の撮影画像とは撮影時刻が異なる第2の撮影画像において、その中の複数の人物の中から、前記第1のグループ候補設定部によって選択された前記人物の属性を用いて、人物を選択し、選択した人物を基準にして、前記空間的条件及び前記状態条件に基づいて、第2のグループ候補を設定する、第2のグループ候補設定部と、
前記第1のグループ候補を構成する人物それぞれの属性を含む第1の属性構成情報と、前記第2のグループ候補を構成する人物それぞれの属性を含む第2の属性構成情報とを対比し、前記第1のグループ候補と前記第2のグループ候補との類似度を算出する、類似度算出部と、
算出された前記類似度が設定条件を満たす場合に、前記第1のグループ候補を構成する人物を1つのグループとして特定する、グループ特定部と、
を備えている、ことを特徴とする。
【0012】
また、上記目的を達成するため、本発明の一側面におけるグループ特定方法は、撮影画像からグループを特定するための方法であって、
第1の撮影画像において、その中の複数の人物の中から人物を選択し、選択した人物を基準にして、他の人物の位置を規定する空間的条件及び前記他の人物の状態を規定する状態条件に基づいて、第1のグループ候補を設定する、第1のグループ候補設定ステップと、
前記第1の撮影画像とは撮影時刻が異なる第2の撮影画像において、その中の複数の人物の中から、前記第1のグループ候補設定ステップによって選択された前記人物の属性を用いて、人物を選択し、選択した人物を基準にして、前記空間的条件及び前記状態条件に基づいて、第2のグループ候補を設定する、第2のグループ候補設定ステップと、
前記第1のグループ候補を構成する人物それぞれの属性を含む第1の属性構成情報と、前記第2のグループ候補を構成する人物それぞれの属性を含む第2の属性構成情報とを対比し、前記第1のグループ候補と前記第2のグループ候補との類似度を算出する、類似度算出ステップと、
算出された前記類似度が設定条件を満たす場合に、前記第1のグループ候補を構成する人物を1つのグループとして特定する、グループ特定ステップと、
を備えている、ことを特徴とする。
【0013】
更に、上記目的を達成するため、本発明の一側面におけるプログラムは、コンピュータによって撮影画像からグループを特定するためのプログラムであって、
前記コンピュータに、
第1の撮影画像において、その中の複数の人物の中から人物を選択し、選択した人物を基準にして、他の人物の位置を規定する空間的条件及び前記他の人物の状態を規定する状態条件に基づいて、第1のグループ候補を設定する、第1のグループ候補設定ステップと、
前記第1の撮影画像とは撮影時刻が異なる第2の撮影画像において、その中の複数の人物の中から、前記第1のグループ候補設定ステップによって選択された前記人物の属性を用いて、人物を選択し、選択した人物を基準にして、前記空間的条件及び前記状態条件に基づいて、第2のグループ候補を設定する、第2のグループ候補設定ステップと、
前記第1のグループ候補を構成する人物それぞれの属性を含む第1の属性構成情報と、前記第2のグループ候補を構成する人物それぞれの属性を含む第2の属性構成情報とを対比し、前記第1のグループ候補と前記第2のグループ候補との類似度を算出する、類似度算出ステップと、
算出された前記類似度が設定条件を満たす場合に、前記第1のグループ候補を構成する人物を1つのグループとして特定する、グループ特定ステップと、
を実行させる、
ことを特徴とする。
【発明の効果】
【0014】
以上のように本発明によれば、人物の追跡処理を必要とすることなく、グループを特定することができる。
【図面の簡単な説明】
【0015】
図1図1は、実施の形態におけるグループ特定装置の概略構成を示す構成図である。
図2図2は、実施の形態におけるグループ特定の構成を具体的に示す構成図である。
図3図3は、実施の形態における類似度の算出処理の第1例を示す図である。
図4図4は、実施の形態における類似度の算出処理の第2例を示す図である。
図5図5は、実施の形態におけるグループ特定装置の動作を示すフロー図である。
図6図6は、実施の形態におけるグループ特定装置を実現するコンピュータの一例を示すブロック図である。
【発明を実施するための形態】
【0016】
(実施の形態)
以下、実施の形態における、グループ特定装置、グループ特定方法、及びプログラムについて、図1図5を参照しながら説明する。
【0017】
[装置構成]
最初に、実施の形態におけるグループ特定装置の概略構成について図1を用いて説明する。図1は、実施の形態におけるグループ特定装置の概略構成を示す構成図である。
【0018】
図1に示す実施の形態におけるグループ特定装置10は、撮影画像からグループを特定する装置である。図1に示すように、グループ特定装置10は、第1のグループ候補設定部11と、第2のグループ候補設定部12と、類似度算出部13と、グループ特定部14とを備えている。
【0019】
第1のグループ候補設定部11は、第1の撮影画像において、その中の複数の人物の中から人物を選択し、選択した人物を基準にして、他の人物の位置を規定する空間的条件及び他の人物の状態を規定する状態条件に基づいて、第1のグループ候補を設定する。
【0020】
第2のグループ候補設定部12は、第1の撮影画像とは撮影時刻が異なる第2の撮影画像において、その中の複数の人物の中から、第1のグループ候補設定部11によって選択された人物の属性を用いて、人物を選択する。また、第2のグループ候補設定部12は、選択した人物を基準にして、空間的条件及び状態条件に基づいて、第2のグループ候補を設定する。
【0021】
類似度算出部13は、第1のグループ候補を構成する人物それぞれの属性を含む第1の属性構成情報と、第2のグループ候補を構成する人物それぞれの属性を含む第2の属性構成情報とを対比し、第1のグループ候補と第2のグループ候補との類似度を算出する。
【0022】
グループ特定部14は、類似度算出部13によって算出された類似度が設定条件を満たす場合に、第1のグループ候補を構成する人物を1つのグループとして特定する。
【0023】
このように、実施の形態では、撮影日時の異なる2つの撮影画像それぞれから、グループ候補が設定され、更に、設定された2つのグループ候補間の類似度が算出される。そして、この類似度を用いることで、グループ候補を構成する人物が1つのグループであるかどうかが判定される。つまり、実施の形態によれば、人物の追跡処理を必要とすることなく、グループを特定することができる。
【0024】
続いて、図2図4を用いて、実施の形態におけるグループ特定装置の構成及び機能について具体的に説明する。図2は、実施の形態におけるグループ特定の構成を具体的に示す構成図である。
【0025】
図2に示すように、実施の形態では、グループ特定装置10は、撮像装置20と、管理装置30とに接続されている。撮像装置20は、例えば、公共の施設等に設置されており、設定された間隔で、撮影対象となっている領域を撮影し、撮影画像の画像データを出力する。図2において、21は、撮影対象となっている領域に存在している人を示している。管理装置30は、グループ特定装置10によって特定される
【0026】
また、図2に示すように、実施の形態では、グループ特定装置10は、第1のグループ候補設定部11、第2のグループ候補設定部12、類似度算出部13、及びグループ特定部14に加えて、画像データ取得部15と、画像データ格納部16とを備えている。画像データ取得部15は、撮像装置(カメラ)20から出力されてきた撮影画像の画像データを取得し、取得した画像データを、時系列に沿って、画像データ格納部16に格納する。
【0027】
第1のグループ候補設定部11は、実施の形態では、まず、画像データ格納部16から、任意の画像データを第1の撮影画像の画像データ(以下「第1の画像データ」)として取得し、取得した第1の画像データから複数の人物を検出し、更に、検出した複数の人物それぞれの属性を推定する。なお、取得した第1の画像データから複数の人物を検出できなかった場合は、第1のグループ候補設定部11は、別の画像データを第1の画像データとして取得して、再度、人物検出及び属性推定を行う。
【0028】
具体的には、第1のグループ候補設定部11は、人(人の顔)を表す特徴量を用いて、第1の画像データから、人が存在する領域を特定し、特定した領域を人物として抽出する。また、第1のグループ候補設定部11は、人物の抽出において、人の顔の向き、又は人の向き(上半身又は下半身の向き)を検出することもできる。続いて、第1のグループ候補設定部11は、特定した領域における特徴量を求め、求めた特徴量を、分類器に入力して、特定した領域の人物の属性(性別、年齢、服飾(色、柄)、身長、体積、体重等)を推定する。分類器は、各種属性と特徴量との関係を機械学習することによって、予め作成されている。
【0029】
続いて、第1のグループ候補設定部11は、検出された複数の人物のうち任意の1人を基準人物として選択する。そして、第1のグループ候補設定部11は、基準人物を基準にして、基準人物以外の他の人物についての空間的条件及び状態条件に基づいて、第1の画像データから検出された人物で構成された第1のグループ候補を設定する。
【0030】
ここで、実施の形態では、空間的条件としては、他の人物が基準人物を中心とした設定範囲内に存在していることが挙げられる。状態条件としては、他の人物が基準人物と向き合っていること、他の人物が基準人物と同一の方向を向いていること、他の人物の大きさが基準人物の大きさを基準とした設定範囲内にあること、及びこれらの組合せ等が挙げられる。
【0031】
第2のグループ候補設定部12は、実施の形態では、画像データ格納部16から、第1の撮影画像とは撮影時刻が異なる第2の撮影画像の画像データ(以下、「第2の画像データ」を複数取得する。第2の撮影画像としては、例えば、撮影時刻が第1の撮影画像の撮影時刻よりも過去となっている撮影画像が挙げられる。
【0032】
第2のグループ候補設定部12は、取得した複数の第2の画像データそれぞれ毎に、複数の人物を検出し、更に、検出した複数の人物それぞれの属性を推定する。具体的には、第2のグループ候補設定部12は、第1のグループ候補設定部11と同様に、人(人の顔)を表す特徴量を用いて、各第2の画像データから、人が存在する領域を特定し、特定した領域を人物として抽出する。また、第2のグループ候補設定部12は、第1のグループ候補設定部11と同様に、人物の抽出において、人の顔の向き、又は人の向き(上半身又は下半身の向き)を検出することもできる。続いて、第2のグループ候補設定部12は、第1のグループ候補設定部11と同様に、特定した領域における特徴量を求め、求めた特徴量を、分類器に入力して、特定した領域の人物の属性(性別、年齢、服飾(色、柄)、身長、体積、体重等)を推定する。
【0033】
続いて、第2のグループ候補設定部12は、複数の第2の画像データそれぞれ毎に、第1のグループ候補設定部11によって選択された基準人物の属性に基づいて、抽出した人物の中から、基準人物に対応する人物(以下「対応人物」と表記する。)を選択する。なお、対応人物に該当するかどうかの判断基準としては、一致する属性の数が所定数以上であること、特定の幾つかの属性が一致していること、等が挙げられる。
【0034】
そして、第2のグループ候補設定部12は、対応人物を基準にして、対応人物以外の他の人物についての空間的条件及び状態条件に基づいて、第2の画像データから検出された人物で構成された第2のグループ候補を設定する。なお、ここでの空間的条件及び状態条件としても、第1のグループ候補設定部11の説明で例示したものが挙げられる。
【0035】
また、実施の形態では、第2のグループ候補設定部12は、複数の第2の撮影画像、即ち、第2の画像データを取得することができる。この場合は、第2のグループ候補設定部12は、第2の画像データ毎に、人物の検出、属性の推定、対応人物の選択、及び第2のグループ候補の設定を行う。
【0036】
更に、実施の形態では、第2のグループ候補設定部12は、第1の撮影画像の撮影時刻、第2の撮影画像の撮影時刻、及び第1のグループ候補設定部11によって選択された基準人物の位置に基づいて、第2の撮影画像の一部の領域を探索範囲に設定することもできる。この場合、第2のグループ候補設定部12は、設定した探索範囲の中から、対応人物を選択することができる。
【0037】
また、図2の例では、第1の撮影画像及び第2の撮影画像は、同一の撮像装置20から出力されているが、実施の形態では、第1の撮影画像を撮影した撮像装置と、第2の撮影画像を撮影した撮像装置とは、異なっていても良い。但し、両者が異なる場合、各撮像装置は、所定の時間範囲内で同一の被写体を撮影できるように配置されている必要がある。
【0038】
類似度算出部13は、実施の形態では、まず、第1のグループ候補設定部11によって推定された人物の属性を用いて、第1のグループ候補を構成する各人物の属性を含む第1の属性構成情報を作成する。また、類似度算出部13は、第2のグループ候補設定部12によって推定された人物の属性を用いて、第2のグループ候補を構成する各人物の属性を含む第2の属性構成情報を作成する。
【0039】
続いて、類似度算出部13は、複数の第2の撮影画像(第2の画像データ)それぞれ毎に、第1の属性構成情報に含まれる各人物の属性と、第2の属性構成情報に含まれる各人物の属性とを対比し、対比の結果に基づいて、類似度を算出する。図3及び図4を用いて、類似度の算出処理について詳細に説明する。図3は、実施の形態における類似度の算出処理の第1例を示す図である。図4は、実施の形態における類似度の算出処理の第2例を示す図である。
【0040】
図3に示す例では、第1の属性構成情報及び第2の属性構成情報は、グループ候補を構成する人物それぞれの属性を表すラベルデータで構成されている。そして、図3に示す例では、類似度算出部13は、類似度として、第1のグループ候補及び第2のグループ候補を合わせた全人物の数に対する、同じ属性を持つ人物の割合を算出する。
【0041】
図4に示す例では、第1の属性構成情報及び第2の属性構成情報は、グループ候補を構成する人物それぞれの属性をその属性に対する人物の数で整理した形で構成されている。そして、図4に示す例では、類似度算出部13は、まず、第1の属性構成情報及び第2の属性構成情報を、それぞれベクトル化する。続いて、類似度算出部13は、類似度として、ベクトル化した第1の属性構成情報とベクトル化した第2の属性構成情報との内積を算出する。また、類似度算出部13は、ベクトル化した第1の属性構成情報とベクトル化した第2の属性構成情報との間のユークリッド距離dを算出し、ユークリッド距離dから類似度(=1/(1+d))を算出することもできる。
【0042】
グループ特定部14が、実施の形態では、複数の第2の撮影画像(第2の画像データ)それぞれ毎に算出された各類似度を用いて、設定条件を満たすかどうかを判定し、設定条件を満たす場合に、第1のグループ候補を構成する人物を1つのグループとして特定する。設定条件としては、例えば、類似度が閾値以上となった第2の画像データの数が設定数以上であることが挙げられる。
【0043】
また、グループ特定部14は、第1のグループ候補を構成する人物を1つのグループとして特定する場合に、1つのグループとして特定した第1のグループ候補に関する情報を、管理装置30に出力する。グループ特定部14は、例えば、第1のグループ候補に関する情報として、第1のグループ候補を構成する人物それぞれにおける、位置、大きさ、向き、属性、及び第1の属性構成情報のうち、少なくとも1つを出力することができる。
【0044】
また、複数のサンプルとなるグループ(以下「サンプルグループ」と表記する。)とその属性構成情報とが予め登録されているデータベース(以下「サンプルデータベース」と表記する。)が用意されているとする。サンプルグループの例としては、カップル、家族連れ、旅行団体、会社同僚、学生グループ、等が挙げられる。
【0045】
このような態様では、グループ特定部14は、第1のグループ候補を構成する人物を1つのグループとして特定する場合に、第1のグループ候補の第1の属性構成情報をデータベースに照合して、第1のグループ候補に適合するサンプルグループも特定する。グループ特定部14は、サンプルグループの情報も、管理装置30に出力することができる。
【0046】
更に、グループ特定部14は、1つのグループとして特定した第1のグループ候補が複数存在する場合は、1つのグループとして特定された複数の第1のグループ候補それぞれに共通の人物が存在しているかどうかを判定する。そして、グループ特定部14は、共通の人物が存在していると判定した第1のグループ候補については、これらを統合して1つのグループとすることができる。この態様によれば、グループの特定がより正確なものとなる。
【0047】
[装置動作]
次に、実施の形態におけるグループ特定装置の動作について図5を用いて説明する。図5は、実施の形態におけるグループ特定装置の動作を示すフロー図である。以下の説明においては、適宜図1図4を参照する。また、実施の形態では、グループ特定装置10を動作させることによって、グループ特定方法が実施される。よって、実施の形態におけるグループ特定方法の説明は、以下のグループ特定装置10の動作説明に代える。
【0048】
まず、前提として、画像データ取得部15が、撮像装置(カメラ)20から出力されてきた一定期間分の画像データを取得し、取得した画像データを、時系列に沿って、画像データ格納部16に格納しているとする。
【0049】
図5に示すように、最初に、第1のグループ候補設定部11は、画像データ格納部16から、任意の画像データを第1の画像データとして取得する(ステップA1)。
【0050】
次に、第1のグループ候補設定部11は、ステップA1で取得した第1の画像データから複数の人物を検出し、更に、検出した複数の人物それぞれの属性を推定する(ステップA2)。なお、ステップA2において、第1の画像データから複数の人物を検出できなかった場合は、第1のグループ候補設定部11は、別の画像データを第1の画像データとして取得して、再度、人物検出及び属性推定を行う。
【0051】
次に、第1のグループ候補設定部11は、ステップA2で検出された複数の人物のうち任意の1人を基準人物として選択する(ステップA3)。基準人物の選択基準は特に限定されず、ランダムに選択される態様であっても良いし、画像の所定の位置にいる人物が選択される態様であっても良い。
【0052】
次に、第1のグループ候補設定部11は、ステップA3で選択した基準人物を基準にして、基準人物以外の他の人物についての空間的条件及び状態条件に基づいて、第1の画像データから検出された人物で構成された第1のグループ候補を設定する(ステップA4)。
【0053】
次に、第2のグループ候補設定部12は、画像データ格納部16から、第1の画像データの撮影画像の撮影時刻よりも過去に撮影された撮影画像の画像データ(第2の画像データ)を取得する(ステップA5)。
【0054】
次に、第2のグループ候補設定部12は、ステップA5で取得した第2の画像データから、複数の人物を検出し、更に、検出した複数の人物それぞれの属性を推定する(ステップA6)。また、ステップA6でも、ステップA2と同様に、第2の画像データから複数の人物を検出できなかった場合は、第2のグループ候補設定部12は、別の画像データを第2の画像データとして取得して、再度、人物検出及び属性推定を行う。
【0055】
次に、第2のグループ候補設定部12は、ステップA3で第1のグループ候補設定部11によって選択された基準人物の属性に基づいて、ステップA6で抽出した人物の中から、基準人物に対応する対応人物を選択する(ステップA7)。
【0056】
次に、第2のグループ候補設定部12は、対応人物を基準にして、対応人物以外の他の人物についての空間的条件及び状態条件に基づいて、第2の画像データから検出された人物で構成された第2のグループ候補を設定する(ステップA8)。なお、ここでの空間的条件及び状態条件は、ステップA4で用いられる空間的条件及び状態条件と同じものである。
【0057】
次に、類似度算出部13は、ステップA2推定された人物の属性を用いて、第1のグループ候補を構成する各人物の属性を含む第1の属性構成情報を作成し、ステップA6で推定された人物の属性を用いて、第2のグループ候補を構成する各人物の属性を含む第2の属性構成情報を作成する(ステップA9)。
【0058】
次に、類似度算出部13は、ステップA9で作成した第1の属性構成情報に含まれる各人物の属性と、同じくステップA9で作成した第2の属性構成情報に含まれる各人物の属性とを対比し、対比の結果に基づいて、類似度を算出する(ステップA10)。類似度の算出は、図3又は図4に示された通りである。
【0059】
次に、類似度算出部13は、第2の画像データとして未だ処理されていない画像データが、画像データ格納部16に存在しているかどうかを判定する(ステップA11)。ステップA11の判定の結果、未だ処理されていない画像データが画像データ格納部16に存在している場合(ステップA11:Yes)は、再度ステップA5が実行される。一方、ステップA11の判定の結果、未だ処理されていない画像データが画像データ格納部16に存在していない場合(ステップA11:No)は、ステップA12が実行される。
【0060】
ステップA12では、グループ特定部14は、第2の画像データ毎に算出された各類似度を用いて、設定条件を満たすかどうかを判定し、設定条件を満たす場合に、第1のグループ候補を構成する人物を1つのグループとして特定する(ステップA12)。
【0061】
ステップA12では、グループ特定部14は、更に、1つのグループとして特定した第1のグループ候補に関する情報(人物それぞれにおける、位置、大きさ、向き、属性、及び第1の属性構成情報)を、管理装置30に出力する。
【0062】
更に、ステップA12では、グループ特定部14は、第1のグループ候補の第1の属性構成情報をデータベースに照合して、第1のグループ候補に適合するサンプルグループを特定し、サンプルグループの情報も、管理装置30に出力することができる。
【0063】
また、グループ特定部14は、過去に実行したステップA12によって、1つのグループとして特定した第1のグループ候補が複数存在する場合は、1つのグループとして特定された複数の第1のグループ候補それぞれに共通の人物が存在しているかどうかを判定する。そして、グループ特定部14は、共通の人物が存在していると判定した第1のグループ候補については、これらを統合して1つのグループとすることができる。
【0064】
また、ステップA12において、グループ特定部14が、第1のグループ候補を構成する人物を1つのグループとして特定しなかった場合は、第1のグループ候補設定部11は、第1の撮影画像中の複数の人物の中から、未だ選択されていない人物を基準人物として選択する。そして、第1のグループ候補設定部11は、再度ステップA4を実行して、新たに第1のグループ候補を設定する。
【0065】
第1のグループ候補が新たに設定されると、第2のグループ候補設定部12は、再度ステップA7及びA8を実行して、第2のグループ候補を新たに設定する。また、類似度算出部13は、第1のグループ候補及び第2のグループ候補が新たに設定されると、再度ステップA9及びA10を実行して、類似度を新たに算出する。その後、グループ特定部14は、再度ステップA12を実行して、新たに算出された類似度を用いて、グループを特定する。
【0066】
[実施の形態における効果]
以上のように、実施の形態では、撮影日時が異なる第1の撮影画像及び第2の撮影画像を用いて、画像毎にグループ候補が設定され、設定されたグループ候補間の類似度が求められる。また、類似度は、1つの第1の撮影画像と複数の第2の撮影画像との間で求められ、求められた幾つかの類似度から最終的なグループが特定される。このため、実施の形態では、人物同士が近い混雑した環境下であったり、カメラの俯角が浅い状態(即ち、撮影方向が水平方向に近い状態)であったりしても、人物の追跡処理を必要とすることなく、精度良くグループを特定できる。
【0067】
[プログラム]
実施の形態におけるプログラムとしては、コンピュータに、図5に示すステップA1~A12を実行させるプログラムが挙げられる。このプログラムをコンピュータにインストールし、実行することによって、実施の形態におけるグループ特定装置10とグループ特定方法とを実現することができる。この場合、コンピュータのプロセッサは、第1のグループ候補設定部11、第2のグループ候補設定部12、類似度算出部13、グループ特定部14、及び画像データ取得部15として機能し、処理を行なう。
【0068】
また、実施の形態では、画像データ格納部16は、コンピュータに備えられたハードディスク等の記憶装置に、これらを構成するデータファイルを格納することによって実現されていても良いし、別のコンピュータの記憶装置によって実現されていても良い。
【0069】
また、コンピュータとしては、汎用のPCの他に、スマートフォン、タブレット型端末装置が挙げられる。更に、コンピュータは、管理装置30を構成するコンピュータであっても良く、この場合は、実施の形態におけるグループ特定装置10は、管理装置30のオペレーティングシステム上に構築されることになる。
【0070】
また、実施の形態におけるプログラムは、複数のコンピュータによって構築されたコンピュータシステムによって実行されても良い。この場合は、例えば、各コンピュータが、それぞれ、第1のグループ候補設定部11、第2のグループ候補設定部12、類似度算出部13、グループ特定部14、及び画像データ取得部15のいずれかとして機能しても良い。
【0071】
[物理構成]
ここで、実施の形態におけるプログラムを実行することによって、グループ特定装置10を実現するコンピュータについて図6を用いて説明する。図6は、実施の形態におけるグループ特定装置を実現するコンピュータの一例を示すブロック図である。
【0072】
図6に示すように、コンピュータ110は、CPU(Central Processing Unit)111と、メインメモリ112と、記憶装置113と、入力インターフェイス114と、表示コントローラ115と、データリーダ/ライタ116と、通信インターフェイス117とを備える。これらの各部は、バス121を介して、互いにデータ通信可能に接続される。
【0073】
また、コンピュータ110は、CPU111に加えて、又はCPU111に代えて、GPU(Graphics Processing Unit)、又はFPGA(Field-Programmable Gate Array)を備えていても良い。この態様では、GPU又はFPGAが、実施の形態におけるプログラムを実行することができる。
【0074】
CPU111は、記憶装置113に格納された、コード群で構成された実施の形態におけるプログラムをメインメモリ112に展開し、各コードを所定順序で実行することにより、各種の演算を実施する。メインメモリ112は、典型的には、DRAM(Dynamic Random Access Memory)等の揮発性の記憶装置である。
【0075】
また、実施の形態におけるプログラムは、コンピュータ読み取り可能な記録媒体120に格納された状態で提供される。なお、本実施の形態におけるプログラムは、通信インターフェイス117を介して接続されたインターネット上で流通するものであっても良い。
【0076】
また、記憶装置113の具体例としては、ハードディスクドライブの他、フラッシュメモリ等の半導体記憶装置が挙げられる。入力インターフェイス114は、CPU111と、キーボード及びマウスといった入力機器118との間のデータ伝送を仲介する。表示コントローラ115は、ディスプレイ装置119と接続され、ディスプレイ装置119での表示を制御する。
【0077】
データリーダ/ライタ116は、CPU111と記録媒体120との間のデータ伝送を仲介し、記録媒体120からのプログラムの読み出し、及びコンピュータ110における処理結果の記録媒体120への書き込みを実行する。通信インターフェイス117は、CPU111と、他のコンピュータとの間のデータ伝送を仲介する。
【0078】
また、記録媒体120の具体例としては、CF(Compact Flash(登録商標))及びSD(Secure Digital)等の汎用的な半導体記憶デバイス、フレキシブルディスク(Flexible Disk)等の磁気記録媒体、又はCD-ROM(Compact Disk Read Only Memory)などの光学記録媒体が挙げられる。
【0079】
実施の形態におけるグループ特定装置10は、プログラムがインストールされたコンピュータではなく、各部に対応したハードウェア、例えば、回路を用いることによっても実現可能である。更に、グループ特定装置10は、一部がプログラムで実現され、残りの部分がハードウェアで実現されていてもよい。
【0080】
上述した実施の形態の一部又は全部は、以下に記載する(付記1)~(付記39)によって表現することができるが、以下の記載に限定されるものではない。
【0081】
(付記1)
撮影画像からグループを特定するための装置であって、
第1の撮影画像において、その中の複数の人物の中から人物を選択し、選択した人物を基準にして、他の人物の位置を規定する空間的条件及び前記他の人物の状態を規定する状態条件に基づいて、第1のグループ候補を設定する、第1のグループ候補設定部と、
前記第1の撮影画像とは撮影時刻が異なる第2の撮影画像において、その中の複数の人物の中から、前記第1のグループ候補設定部によって選択された前記人物の属性を用いて、人物を選択し、選択した人物を基準にして、前記空間的条件及び前記状態条件に基づいて、第2のグループ候補を設定する、第2のグループ候補設定部と、
前記第1のグループ候補を構成する人物それぞれの属性を含む第1の属性構成情報と、前記第2のグループ候補を構成する人物それぞれの属性を含む第2の属性構成情報とを対比し、前記第1のグループ候補と前記第2のグループ候補との類似度を算出する、類似度算出部と、
算出された前記類似度が設定条件を満たす場合に、前記第1のグループ候補を構成する人物を1つのグループとして特定する、グループ特定部と、
を備えている、ことを特徴とするグループ特定装置。
【0082】
(付記2)
付記1に記載のグループ特定装置であって、
前記第2のグループ候補設定部が、撮影時刻が互いに異なる複数の前記第2の撮影画像それぞれ毎に、前記第2のグループ候補を設定し、
前記類似度算出部が、複数の前記第2の撮影画像それぞれ毎に、前記第1の属性構成情報に含まれる、前記第1のグループ候補を構成する人物それぞれの属性と、前記第2の属性構成情報に含まれる、当該第2のグループ候補を構成する人物それぞれの属性とを対比し、前記類似度を算出し、
前記グループ特定部が、複数の前記第2の撮影画像それぞれ毎に算出された前記類似度それぞれを用いて、前記設定条件を満たすかどうかを判定し、前記設定条件を満たす場合に、前記第1のグループ候補を構成する人物を1つのグループとして特定する、
ことを特徴とするグループ特定装置。
【0083】
(付記3)
付記1または2に記載のグループ特定装置であって、
前記空間的条件は、前記他の人物が選択された人物を中心とした設定範囲内に存在していることを含み、
前記状態条件は、前記他の人物が、選択された人物と向き合っていること、又は選択された人物と同一の方向を向いていることを含む、
ことを特徴とするグループ特定装置。
【0084】
(付記4)
付記3に記載のグループ特定装置であって、
前記状態条件は、更に、前記他の人物の大きさが、選択された人物の大きさを基準とした設定範囲内にあることを含む、
ことを特徴とするグループ特定装置。
【0085】
(付記5)
付記1~4のいずれかに記載のグループ特定装置であって、
前記第1の属性構成情報が、前記第1のグループ候補を構成する人物それぞれの属性を表すラベルデータで構成され、
前記第2の属性構成情報が、前記第2のグループ候補を構成する人物それぞれの属性を表すラベルデータで構成され、
前記類似度算出部が、前記類似度として、前記第1のグループ候補及び前記第2のグループ候補を合わせた全人物の数に対する、同じ属性を持つ人物の割合を算出する、
ことを特徴とするグループ特定装置。
【0086】
(付記6)
付記1~4のいずれかに記載のグループ特定装置であって、
前記第1の属性構成情報が、前記第1のグループ候補を構成する人物それぞれの属性を、属性に対する人物の数で整理した形で構成され、
前記第2の属性構成情報が、前記第2のグループ候補を構成する人物それぞれの属性を、属性に対する人物の数で整理した形で構成され、
前記類似度算出部が、前記類似度として、前記第1の属性構成情報と前記第2の属性構成情報との内積、又は両者間のユークリッド距離を算出する、
ことを特徴とするグループ特定装置。
【0087】
(付記7)
付記1~6のいずれかに記載のグループ特定装置であって、
前記グループ特定部は、前記第1のグループ候補を構成する人物を1つのグループとして特定する場合に、前記第1のグループ候補を構成する人物それぞれにおける、位置、大きさ、向き、属性、及び前記第1の属性構成情報のうち、少なくとも1つを出力する、
ことを特徴とするグループ特定装置。
【0088】
(付記8)
付記1~7のいずれかに記載のグループ特定装置であって、
前記第2の撮影画像の撮影時刻が、前記第1の撮影画像の撮影時刻よりも過去であり、
前記第1の撮影画像及び前記第2の撮影画像は、同一の撮像装置によって撮影されている、
ことを特徴とするグループ特定装置。
【0089】
(付記9)
付記1~7のいずれかに記載のグループ特定装置であって、
前記第1の撮影画像及び前記第2の撮影画像は、異なる撮像装置によって撮影されており、
前記第1の撮影画像を撮影した撮像装置と、前記第2の撮影画像を撮影した撮像装置とは、所定の時間範囲内で同一の被写体を撮影できるように配置されている、
ことを特徴とするグループ特定装置。
【0090】
(付記10)
付記1~9のいずれかに記載のグループ特定装置であって、
前記第2のグループ候補設定部が、前記第1の撮影画像の撮影時刻、前記第2の撮影画像の撮影時刻、及び前記第1のグループ候補設定部によって選択された前記人物の位置に基づいて、前記第2の撮影画像の一部の領域を探索範囲に設定し、設定した前記探索範囲の中から、人物を選択する、
ことを特徴とするグループ特定装置。
【0091】
(付記11)
付記1~10のいずれかに記載のグループ特定装置であって、
前記グループ特定部は、前記第1のグループ候補を構成する人物を1つのグループとして特定する場合に、複数のサンプルとなるグループとその属性構成情報とが予め登録されているデータベースに、前記第1のグループ候補の前記第1の属性構成情報を照合して、前記第1のグループ候補に適合する、前記サンプルとなるグループを特定する、
ことを特徴とするグループ特定装置。
【0092】
(付記12)
付記1~11のいずれかに記載のグループ特定装置であって、
前記グループ特定部は、1つのグループとして特定した第1のグループ候補が複数存在する場合に、1つのグループとして特定された複数の第1のグループ候補それぞれに共通の人物が存在しているかどうかを判定し、共通の人物が存在していると判定した第1のグループ候補を統合して1つのグループとする、
ことを特徴とするグループ特定装置。
【0093】
(付記13)
付記1~12のいずれかに記載のグループ特定装置であって、
前記グループ特定部が、前記第1のグループ候補を構成する人物を1つのグループとして特定しなかった場合に、前記第1のグループ候補設定部は、第1の撮影画像中の複数の人物の中から、未だ選択されていない人物を新たに選択して、新たに、前記第1のグループ候補を設定し、
前記第2のグループ候補設定部は、前記第1のグループ候補が新たに設定されると、前記第2のグループ候補を新たに設定し、
前記類似度算出部は、前記第1のグループ候補及び前記第2のグループ候補が新たに設定されると、前記類似度を新たに算出し、
前記グループ特定部は、新たに算出された前記類似度を用いて、グループを特定する、
ことを特徴とするグループ特定装置。
【0094】
(付記14)
撮影画像からグループを特定するための方法であって、
第1の撮影画像において、その中の複数の人物の中から人物を選択し、選択した人物を基準にして、他の人物の位置を規定する空間的条件及び前記他の人物の状態を規定する状態条件に基づいて、第1のグループ候補を設定する、第1のグループ候補設定ステップと、
前記第1の撮影画像とは撮影時刻が異なる第2の撮影画像において、その中の複数の人物の中から、前記第1のグループ候補設定ステップによって選択された前記人物の属性を用いて、人物を選択し、選択した人物を基準にして、前記空間的条件及び前記状態条件に基づいて、第2のグループ候補を設定する、第2のグループ候補設定ステップと、
前記第1のグループ候補を構成する人物それぞれの属性を含む第1の属性構成情報と、前記第2のグループ候補を構成する人物それぞれの属性を含む第2の属性構成情報とを対比し、前記第1のグループ候補と前記第2のグループ候補との類似度を算出する、類似度算出ステップと、
算出された前記類似度が設定条件を満たす場合に、前記第1のグループ候補を構成する人物を1つのグループとして特定する、グループ特定ステップと、
を備えている、ことを特徴とするグループ特定方法。
【0095】
(付記15)
付記14に記載のグループ特定方法であって、
前記第2のグループ候補設定ステップにおいて、撮影時刻が互いに異なる複数の前記第2の撮影画像それぞれ毎に、前記第2のグループ候補を設定し、
前記類似度算出ステップにおいて、複数の前記第2の撮影画像それぞれ毎に、前記第1の属性構成情報に含まれる、前記第1のグループ候補を構成する人物それぞれの属性と、前記第2の属性構成情報に含まれる、当該第2のグループ候補を構成する人物それぞれの属性とを対比し、前記類似度を算出し、
前記グループ特定ステップにおいて、複数の前記第2の撮影画像それぞれ毎に算出された前記類似度それぞれを用いて、前記設定条件を満たすかどうかを判定し、前記設定条件を満たす場合に、前記第1のグループ候補を構成する人物を1つのグループとして特定する、
ことを特徴とするグループ特定方法。
【0096】
(付記16)
付記14または15に記載のグループ特定方法であって、
前記空間的条件は、前記他の人物が選択された人物を中心とした設定範囲内に存在していることを含み、
前記状態条件は、前記他の人物が、選択された人物と向き合っていること、又は選択された人物と同一の方向を向いていることを含む、
ことを特徴とするグループ特定方法。
【0097】
(付記17)
付記16に記載のグループ特定方法であって、
前記状態条件は、更に、前記他の人物の大きさが、選択された人物の大きさを基準とした設定範囲内にあることを含む、
ことを特徴とするグループ特定方法。
【0098】
(付記18)
付記14~17のいずれかに記載のグループ特定方法であって、
前記第1の属性構成情報が、前記第1のグループ候補を構成する人物それぞれの属性を表すラベルデータで構成され、
前記第2の属性構成情報が、前記第2のグループ候補を構成する人物それぞれの属性を表すラベルデータで構成され、
前記類似度算出ステップにおいて、前記類似度として、前記第1のグループ候補及び前記第2のグループ候補を合わせた全人物の数に対する、同じ属性を持つ人物の割合を算出する、
ことを特徴とするグループ特定方法。
【0099】
(付記19)
付記14~17のいずれかに記載のグループ特定方法であって、
前記第1の属性構成情報が、前記第1のグループ候補を構成する人物それぞれの属性を、属性に対する人物の数で整理した形で構成され、
前記第2の属性構成情報が、前記第2のグループ候補を構成する人物それぞれの属性を、属性に対する人物の数で整理した形で構成され、
前記類似度算出ステップにおいて、前記類似度として、前記第1の属性構成情報と前記第2の属性構成情報との内積、又は両者間のユークリッド距離を算出する、
ことを特徴とするグループ特定方法。
【0100】
(付記20)
付記14~19のいずれかに記載のグループ特定方法であって、
前記グループ特定ステップにおいて、前記第1のグループ候補を構成する人物を1つのグループとして特定する場合に、前記第1のグループ候補を構成する人物それぞれにおける、位置、大きさ、向き、属性、及び前記第1の属性構成情報のうち、少なくとも1つを出力する、
ことを特徴とするグループ特定方法。
【0101】
(付記21)
付記14~20のいずれかに記載のグループ特定方法であって、
前記第2の撮影画像の撮影時刻が、前記第1の撮影画像の撮影時刻よりも過去であり、
前記第1の撮影画像及び前記第2の撮影画像は、同一の撮像装置によって撮影されている、
ことを特徴とするグループ特定方法。
【0102】
(付記22)
付記14~20のいずれかに記載のグループ特定方法であって、
前記第1の撮影画像及び前記第2の撮影画像は、異なる撮像装置によって撮影されており、
前記第1の撮影画像を撮影した撮像装置と、前記第2の撮影画像を撮影した撮像装置とは、所定の時間範囲内で同一の被写体を撮影できるように配置されている、
ことを特徴とするグループ特定方法。
【0103】
(付記23)
付記14~22のいずれかに記載のグループ特定方法であって、
前記第2のグループ候補設定ステップにおいて、前記第1の撮影画像の撮影時刻、前記第2の撮影画像の撮影時刻、及び前記第1のグループ候補設定ステップによって選択された前記人物の位置に基づいて、前記第2の撮影画像の一部の領域を探索範囲に設定し、設定した前記探索範囲の中から、人物を選択する、
ことを特徴とするグループ特定方法。
【0104】
(付記24)
付記14~23のいずれかに記載のグループ特定方法であって、
前記グループ特定ステップにおいて、前記第1のグループ候補を構成する人物を1つのグループとして特定する場合に、複数のサンプルとなるグループとその属性構成情報とが予め登録されているデータベースに、前記第1のグループ候補の前記第1の属性構成情報を照合して、前記第1のグループ候補に適合する、前記サンプルとなるグループを特定する、
ことを特徴とするグループ特定方法。
【0105】
(付記25)
付記14~24のいずれかに記載のグループ特定方法であって、
前記グループ特定ステップにおいて、1つのグループとして特定した第1のグループ候補が複数存在する場合に、1つのグループとして特定された複数の第1のグループ候補それぞれに共通の人物が存在しているかどうかを判定し、共通の人物が存在していると判定した第1のグループ候補を統合して1つのグループとする、
ことを特徴とするグループ特定方法。
【0106】
(付記26)
付記14~25のいずれかに記載のグループ特定方法であって、
前記グループ特定ステップにおいて、前記第1のグループ候補を構成する人物を1つのグループとして特定しなかった場合に、前記第1のグループ候補設定ステップは、第1の撮影画像中の複数の人物の中から、未だ選択されていない人物を新たに選択して、新たに、前記第1のグループ候補を設定し、
前記第2のグループ候補設定ステップにおいて、前記第1のグループ候補が新たに設定されると、前記第2のグループ候補を新たに設定し、
前記類似度算出ステップにおいて、前記第1のグループ候補及び前記第2のグループ候補が新たに設定されると、前記類似度を新たに算出し、
前記グループ特定ステップにおいて、新たに算出された前記類似度を用いて、グループを特定する、
ことを特徴とするグループ特定方法。
【0107】
(付記27)
コンピュータによって撮影画像からグループを特定するためのプログラムであって、
前記コンピュータに、
第1の撮影画像において、その中の複数の人物の中から人物を選択し、選択した人物を基準にして、他の人物の位置を規定する空間的条件及び前記他の人物の状態を規定する状態条件に基づいて、第1のグループ候補を設定する、第1のグループ候補設定ステップと、
前記第1の撮影画像とは撮影時刻が異なる第2の撮影画像において、その中の複数の人物の中から、前記第1のグループ候補設定ステップによって選択された前記人物の属性を用いて、人物を選択し、選択した人物を基準にして、前記空間的条件及び前記状態条件に基づいて、第2のグループ候補を設定する、第2のグループ候補設定ステップと、
前記第1のグループ候補を構成する人物それぞれの属性を含む第1の属性構成情報と、前記第2のグループ候補を構成する人物それぞれの属性を含む第2の属性構成情報とを対比し、前記第1のグループ候補と前記第2のグループ候補との類似度を算出する、類似度算出ステップと、
算出された前記類似度が設定条件を満たす場合に、前記第1のグループ候補を構成する人物を1つのグループとして特定する、グループ特定ステップと、
を実行させる、プログラム。
【0108】
(付記28)
付記27に記載のプログラムであって、
前記第2のグループ候補設定ステップにおいて、撮影時刻が互いに異なる複数の前記第2の撮影画像それぞれ毎に、前記第2のグループ候補を設定し、
前記類似度算出ステップにおいて、複数の前記第2の撮影画像それぞれ毎に、前記第1の属性構成情報に含まれる、前記第1のグループ候補を構成する人物それぞれの属性と、前記第2の属性構成情報に含まれる、当該第2のグループ候補を構成する人物それぞれの属性とを対比し、前記類似度を算出し、
前記グループ特定ステップにおいて、複数の前記第2の撮影画像それぞれ毎に算出された前記類似度それぞれを用いて、前記設定条件を満たすかどうかを判定し、前記設定条件を満たす場合に、前記第1のグループ候補を構成する人物を1つのグループとして特定する、
ことを特徴とするプログラム
【0109】
(付記29)
付記27または28に記載のプログラムであって、
前記空間的条件は、前記他の人物が選択された人物を中心とした設定範囲内に存在していることを含み、
前記状態条件は、前記他の人物が、選択された人物と向き合っていること、又は選択された人物と同一の方向を向いていることを含む、
ことを特徴とするプログラム
【0110】
(付記30)
付記29に記載のプログラムであって、
前記状態条件は、更に、前記他の人物の大きさが、選択された人物の大きさを基準とした設定範囲内にあることを含む、
ことを特徴とするプログラム
【0111】
(付記31)
付記27~30のいずれかに記載のプログラムであって、
前記第1の属性構成情報が、前記第1のグループ候補を構成する人物それぞれの属性を表すラベルデータで構成され、
前記第2の属性構成情報が、前記第2のグループ候補を構成する人物それぞれの属性を表すラベルデータで構成され、
前記類似度算出ステップにおいて、前記類似度として、前記第1のグループ候補及び前記第2のグループ候補を合わせた全人物の数に対する、同じ属性を持つ人物の割合を算出する、
ことを特徴とするプログラム
【0112】
(付記32)
付記27~30のいずれかに記載のプログラムであって、
前記第1の属性構成情報が、前記第1のグループ候補を構成する人物それぞれの属性を、属性に対する人物の数で整理した形で構成され、
前記第2の属性構成情報が、前記第2のグループ候補を構成する人物それぞれの属性を、属性に対する人物の数で整理した形で構成され、
前記類似度算出ステップにおいて、前記類似度として、前記第1の属性構成情報と前記第2の属性構成情報との内積、又は両者間のユークリッド距離を算出する、
ことを特徴とするプログラム
【0113】
(付記33)
付記27~32のいずれかに記載のプログラムであって、
前記グループ特定ステップにおいて、前記第1のグループ候補を構成する人物を1つのグループとして特定する場合に、前記第1のグループ候補を構成する人物それぞれにおける、位置、大きさ、向き、属性、及び前記第1の属性構成情報のうち、少なくとも1つを出力する、
ことを特徴とするプログラム
【0114】
(付記34)
付記27~33のいずれかに記載のプログラムであって、
前記第2の撮影画像の撮影時刻が、前記第1の撮影画像の撮影時刻よりも過去であり、
前記第1の撮影画像及び前記第2の撮影画像は、同一の撮像装置によって撮影されている、
ことを特徴とするプログラム
【0115】
(付記35)
付記27~33のいずれかに記載のプログラムであって、
前記第1の撮影画像及び前記第2の撮影画像は、異なる撮像装置によって撮影されており、
前記第1の撮影画像を撮影した撮像装置と、前記第2の撮影画像を撮影した撮像装置とは、所定の時間範囲内で同一の被写体を撮影できるように配置されている、
ことを特徴とするプログラム
【0116】
(付記36)
付記27~35のいずれかに記載のプログラムであって、
前記第2のグループ候補設定ステップにおいて、前記第1の撮影画像の撮影時刻、前記第2の撮影画像の撮影時刻、及び前記第1のグループ候補設定ステップによって選択された前記人物の位置に基づいて、前記第2の撮影画像の一部の領域を探索範囲に設定し、設定した前記探索範囲の中から、人物を選択する、
ことを特徴とするプログラム
【0117】
(付記37)
付記27~36のいずれかに記載のプログラムであって、
前記グループ特定ステップにおいて、前記第1のグループ候補を構成する人物を1つのグループとして特定する場合に、複数のサンプルとなるグループとその属性構成情報とが予め登録されているデータベースに、前記第1のグループ候補の前記第1の属性構成情報を照合して、前記第1のグループ候補に適合する、前記サンプルとなるグループを特定する、
ことを特徴とするプログラム
【0118】
(付記38)
付記27~37のいずれかに記載のプログラムであって、
前記グループ特定ステップにおいて、1つのグループとして特定した第1のグループ候補が複数存在する場合に、1つのグループとして特定された複数の第1のグループ候補それぞれに共通の人物が存在しているかどうかを判定し、共通の人物が存在していると判定した第1のグループ候補を統合して1つのグループとする、
ことを特徴とするプログラム
【0119】
(付記39)
付記27~38のいずれかに記載のプログラムであって、
前記グループ特定ステップにおいて、前記第1のグループ候補を構成する人物を1つのグループとして特定しなかった場合に、前記第1のグループ候補設定ステップは、第1の撮影画像中の複数の人物の中から、未だ選択されていない人物を新たに選択して、新たに、前記第1のグループ候補を設定し、
前記第2のグループ候補設定ステップにおいて、前記第1のグループ候補が新たに設定されると、前記第2のグループ候補を新たに設定し、
前記類似度算出ステップにおいて、前記第1のグループ候補及び前記第2のグループ候補が新たに設定されると、前記類似度を新たに算出し、
前記グループ特定ステップにおいて、新たに算出された前記類似度を用いて、グループを特定する、
ことを特徴とするプログラム
【0120】
以上、実施の形態を参照して本願発明を説明したが、本願発明は上記実施の形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
【産業上の利用可能性】
【0121】
以上のように本発明によれば、人物の追跡処理を必要とすることなく、グループを特定することができる。本発明は、画像からグループを特定することが求められる各種分野において有効である。
【符号の説明】
【0122】
10 グループ特定装置
11 第1のグループ候補設定部
12 第2のグループ候補設定部
13 類似度算出部
14 グループ特定部
15 画像データ取得部
16 画像データ格納部
20 撮像装置
30 管理装置
110 コンピュータ
111 CPU
112 メインメモリ
113 記憶装置
114 入力インターフェイス
115 表示コントローラ
116 データリーダ/ライタ
117 通信インターフェイス
118 入力機器
119 ディスプレイ装置
120 記録媒体
121 バス
図1
図2
図3
図4
図5
図6