IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニー株式会社の特許一覧

特許7548293情報処理装置、情報処理方法及びプログラム
<>
  • 特許-情報処理装置、情報処理方法及びプログラム 図1
  • 特許-情報処理装置、情報処理方法及びプログラム 図2
  • 特許-情報処理装置、情報処理方法及びプログラム 図3
  • 特許-情報処理装置、情報処理方法及びプログラム 図4
  • 特許-情報処理装置、情報処理方法及びプログラム 図5
  • 特許-情報処理装置、情報処理方法及びプログラム 図6
  • 特許-情報処理装置、情報処理方法及びプログラム 図7
  • 特許-情報処理装置、情報処理方法及びプログラム 図8
  • 特許-情報処理装置、情報処理方法及びプログラム 図9
  • 特許-情報処理装置、情報処理方法及びプログラム 図10
  • 特許-情報処理装置、情報処理方法及びプログラム 図11
  • 特許-情報処理装置、情報処理方法及びプログラム 図12
  • 特許-情報処理装置、情報処理方法及びプログラム 図13
  • 特許-情報処理装置、情報処理方法及びプログラム 図14
  • 特許-情報処理装置、情報処理方法及びプログラム 図15
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-09-02
(45)【発行日】2024-09-10
(54)【発明の名称】情報処理装置、情報処理方法及びプログラム
(51)【国際特許分類】
   G06T 7/00 20170101AFI20240903BHJP
【FI】
G06T7/00 660A
G06T7/00 510F
【請求項の数】 7
(21)【出願番号】P 2022505740
(86)(22)【出願日】2020-07-15
(86)【国際出願番号】 JP2020027518
(87)【国際公開番号】W WO2021181715
(87)【国際公開日】2021-09-16
【審査請求日】2023-06-07
(31)【優先権主張番号】62/987,057
(32)【優先日】2020-03-09
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】000002185
【氏名又は名称】ソニーグループ株式会社
(74)【代理人】
【識別番号】110003339
【氏名又は名称】弁理士法人南青山国際特許事務所
(72)【発明者】
【氏名】佐藤 達人
【審査官】宮島 潤
(56)【参考文献】
【文献】特開2016-81212(JP,A)
【文献】米国特許出願公開第2012/0230545(US,A1)
【文献】特開2009-217609(JP,A)
【文献】特開2013-196034(JP,A)
【文献】国際公開第2017/061106(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00 - 7/90
G06V 10/00 - 20/90
G06V 30/418
G06V 40/16
G06V 40/20
(57)【特許請求の範囲】
【請求項1】
認証対象の人物の入力顔画像から複数の顔パーツ点を検出するとともに、上記顔パーツ点に対応する信頼度を算出し、対応する上記信頼度が閾値未満の上記顔パーツ点を遮蔽パーツ点と決定し、上記認証対象の人物の入力顔画像から切り出す顔範囲として上記遮蔽パーツ点と重複しない顔範囲と解像度を決定する決定部と、
上記決定部により決定された上記切り出す顔範囲と上記解像度で、上記認証対象の人物の入力顔画像から認証用顔画像を生成する生成部と
上記生成部において生成された上記認証用顔画像の特徴量を抽出し、抽出された特徴量と、予め用意された、登録用の人物の入力顔画像を用いて上記認証用顔画像の生成時に用いる組み合わせと同じ切り出す顔範囲と解像度で生成される登録用顔画像の特徴量とから、上記認証用顔画像と上記登録用顔画像との類似度を計算し、上記類似度が予め定められた所定の値以上の場合に、上記認証用顔画像に映し出されている認証対象の人物が、予め顔画像を登録している人物であると判定する判定部と、を有し、
上記決定部は、予め定められた複数の切り出す顔範囲と解像度との組み合わせであって、上記組合せ毎に予め算出された、対応する組み合わせにより生成される認証用顔画像による顔認証の精度の高さを示す評価値が対応づけられている組み合わせの中から、切り出す顔範囲が上記遮蔽パーツ点と重複せず、上記評価値が最も高い組み合わせを選出し、上記認証用顔画像の生成に用いる組み合わせとして決定することを特徴とする
情報処理装置。
【請求項2】
請求項1に記載の情報処理装置であって、
上記認証対象の人物の入力顔画像は、マスク、帽子又はサングラスの遮蔽物によって顔の一部が隠れる領域を含む
情報処理装置。
【請求項3】
請求項1に記載の情報処理装置であって、
上記認証対象の人物の入力顔画像は、影又は手によって顔の一部が隠れる領域を含む
情報処理装置。
【請求項4】
認証対象の人物の入力顔画像から複数の顔パーツ点を検出するとともに、上記顔パーツ点に対応する信頼度を算出し、対応する上記信頼度が閾値未満の上記顔パーツ点を遮蔽パーツ点と決定し、上記認証対象の人物の入力顔画像から切り出す顔範囲として上記遮蔽パーツ点と重複しない顔範囲と解像度を決定し、
決定された上記切り出す顔範囲と上記解像度で、上記認証対象の人物の入力顔画像から認証用顔画像を生成し、
生成された上記認証用顔画像の特徴量を抽出し、抽出された特徴量と、予め用意された、登録用の人物の入力顔画像を用いて上記認証用顔画像の生成時に用いる組み合わせと同じ切り出す顔範囲と解像度で生成される登録用顔画像の特徴量とから、上記認証用顔画像と上記登録用顔画像との類似度を計算し、上記類似度が予め定められた所定の値以上の場合に、上記認証用顔画像に映し出されている認証対象の人物が、予め顔画像を登録している人物であると判定する
情報処理装置により実行される情報処理方法であって、
上記決定では、予め定められた複数の切り出す顔範囲と解像度との組み合わせであって、上記組合せ毎に予め算出された、対応する組み合わせにより生成される認証用顔画像による顔認証の精度の高さを示す評価値が対応づけられている組み合わせの中から、切り出す顔範囲が上記遮蔽パーツ点と重複せず、上記評価値が最も高い組み合わせを選出し、上記認証用顔画像の生成に用いる組み合わせとして決定することを特徴とする
情報処理方法。
【請求項5】
請求項4に記載の情報処理装置であって、
上記認証対象の人物の入力顔画像は、マスク、帽子又はサングラスの遮蔽物によって顔の一部が隠れる領域を含む
情報処理方法。
【請求項6】
請求項4に記載の情報処理装置であって、
上記認証対象の人物の入力顔画像は、影又は手によって顔の一部が隠れる領域を含む
情報処理方法。
【請求項7】
認証対象の人物の入力顔画像から複数の顔パーツ点を検出するとともに、上記顔パーツ点に対応する信頼度を算出し、対応する上記信頼度が閾値未満の上記顔パーツ点を遮蔽パーツ点と決定し、上記認証対象の人物の入力顔画像から切り出す顔範囲として上記遮蔽パーツ点と重複しない顔範囲と解像度を決定するステップと、
決定された上記切り出す顔範囲と上記解像度で、上記認証対象の人物の入力顔画像から認証用顔画像を生成するステップと、
生成された上記認証用顔画像の特徴量を抽出し、抽出された特徴量と、予め用意された、登録用の人物の入力顔画像を用いて上記認証用顔画像の生成時に用いる組み合わせと同じ切り出す顔範囲と解像度で生成される登録用顔画像の特徴量とから、上記認証用顔画像と上記登録用顔画像との類似度を計算し、上記類似度が予め定められた所定の値以上の場合に、上記認証用顔画像に映し出されている認証対象の人物が、予め顔画像を登録している人物であると判定するステップ
を情報処理装置に実行させるプログラムであって、
上記決定するステップでは、予め定められた複数の切り出す顔範囲と解像度との組み合わせであって、上記組合せ毎に予め算出された、対応する組み合わせにより生成される認証用顔画像による顔認証の精度の高さを示す評価値が対応づけられている組み合わせの中から、切り出す顔範囲が上記遮蔽パーツ点と重複せず、上記評価値が最も高い組み合わせを選出し、上記認証用顔画像の生成に用いる組み合わせとして決定することを特徴とする
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は、情報処理装置、情報処理方法及びプログラムに関する。
【背景技術】
【0002】
特許文献1では、標準顔画像と入力顔画像を比較することで入力顔画像の遮蔽領域を推定し、遮蔽を除いた領域で顔の識別を行うことで、遮蔽領域がある場合にも識別を行うことが提案されている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2016-81212号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1では、遮蔽領域の大きさに係らず単純に遮蔽領域を除外する処理しか行わないため、遮蔽領域が大きくなっていくと、顔画像から取得できる情報が減り、顔識別の精度が下がってしまうという課題がある。
【0005】
以上のような事情に鑑み、本技術の目的は、遮蔽領域があっても顔認証の精度を向上させることができる情報処理方法、情報処理装置及びプログラムを提供することにある。
【課題を解決するための手段】
【0006】
上記目的を達成するため、本技術の一形態に係る情報処理装置は、決定部と、生成部とを具備する。
上記決定部は、認証用の入力顔画像における顔の遮蔽領域に基づいて、上記認証用の入力顔画像から切り出す顔範囲と解像度を決定する。
上記生成部は、上記決定部により決定された上記切り出す顔範囲と上記解像度で認証用顔画像を生成する。
【0007】
上記決定部は、予め定められた複数の、切り出す顔範囲と解像度との組み合わせの中から、上記認証用顔画像を生成するのに用いる上記切り出す顔範囲と上記解像度を決定してもよい。
【0008】
上記認証用の入力顔画像から複数の顔パーツ点を検出し、上記顔パーツ点毎の信頼度を算出する顔パーツ検出部と、
複数の上記顔パーツ点から、上記信頼度を基に、上記遮蔽領域に係る遮蔽パーツ点を検出する遮蔽領域検出部
を更に具備し、
複数の上記組み合わせ毎に評価値が対応づけられ、
上記決定部は、複数の上記組み合わせの中から、切り出す顔範囲が上記遮蔽パーツ点と重複せず、上記評価値が最も高い組み合わせを選出し、上記認証用顔画像の生成に用いる組み合わせとして決定してもよい。
【0009】
顔識別における有効性の度合いを示すスコア付き顔画像を生成するスコア付き顔画像生成部と、
上記スコア付き顔画像を構成する画素情報を基に、上記遮蔽領域に係る遮蔽画素を検出する遮蔽領域検出部
を更に具備し、
複数の上記組み合わせ毎に評価値が対応づけられ、
上記決定部は、複数の上記組み合わせの中から、切り出す顔範囲が上記遮蔽画素と重複せず、上記評価値が最も高い組み合わせを選出し、上記認証用顔画像の生成に用いる組み合わせとして決定してもよい。
【0010】
上記解像度は、上記組み合わせ毎に、上記切り出す顔範囲で切り出される認証用顔画像が一定の計算量で生成されるように設定されてもよい。
【0011】
上記認証用顔画像の特徴量を抽出する特徴量抽出部を更に具備し、
上記計算量は、切り出される顔範囲の総画素数又は上記特徴量抽出部による特徴量抽出時の積和演算回数を用いて算出されてもよい。
【0012】
上記認証用顔画像の特徴量を抽出する特徴量抽出部と、
上記特徴量抽出部により抽出された上記認証用顔画像の特徴量と、予め用意された登録用顔画像の特徴量とから、上記認証用顔画像と上記登録用顔画像との類似度を計算する類似度計算部を更に具備してもよい。
【0013】
上記登録用顔画像の特徴量は、予め用意された登録用の入力顔画像を用いて複数の上記組み合わせに従って生成した複数の登録用顔画像それぞれにおいて、上記特徴量抽出部によって抽出した特徴量であってもよい。
【0014】
上記目的を達成するため、本技術の一形態に係る情報処理方法は、認証用の入力顔画像における顔の遮蔽領域に基づいて、上記認証用の入力顔画像から切り出す顔範囲と解像度を決定し、決定された上記切り出す顔範囲と上記解像度で認証用顔画像を生成する。
【0015】
上記目的を達成するため、本技術の一形態に係るプログラムは、認証用の入力顔画像における顔の遮蔽領域に基づいて、上記認証用の入力顔画像から切り出す顔範囲と解像度を決定するステップと、決定された上記切り出す顔範囲と上記解像度で認証用顔画像を生成するステップを情報処理装置に実行させる。
【図面の簡単な説明】
【0016】
図1】実施形態に係る顔情報登録に用いる情報処理装置の機能ブロック図である。
図2】顔情報登録の流れを説明する模式図である。
図3図1の情報処理装置を用いた顔情報登録の処理フロー図である。
図4】第1の実施形態に係る顔認証に用いる情報処理装置の機能ブロック図である。
図5】顔パーツ点を説明する図である。
図6】顔認証の流れを説明する模式図である。
図7図4の情報処理装置における顔認証の処理フロー図である。
図8図7の処理フロー中の、採用する切り出す顔範囲、解像度の決定処理の詳細なフロー図である。
図9】顔範囲・解像度リストに挙げられている、切り出す顔範囲と解像度の組み合わせの例を説明する図である。
図10】第2の実施形態に係る顔認証に用いる情報処理装置の機能ブロック図である。
図11図10の情報処理装置を用いた顔認証の処理フロー図である。
図12図11の処理フロー中の、採用する切り出す顔範囲、解像度の決定処理の詳細なフロー図である。
図13】第2の実施形態におけるスコア付き顔画像を説明する図である。
図14】顔認証を説明する模式図である。
図15】顔認証を説明する模式図である。
【発明を実施するための形態】
【0017】
以下、本技術に係る情報処理装置について、図面を参照して説明する。
<概略説明>
本実施形態では、顔認証時に用いられる認証用顔画像の比較対象となる登録用顔画像の情報が予め用意される。そして、当該登録用顔画像の情報と認証対象である認証用顔画像の情報とが比較されて、認証対象の人物が予め登録されている人物であるか否かが判定される。
【0018】
図14及び15は、本技術に係る実施形態の顔認証方法の概略を説明するための模式図である。
図14及び15において、両矢印の左側は、登録用の入力顔画像21と、登録用顔画像24を示す。両矢印の右側は、認証用の入力顔画像31と、認証用顔画像34を示す。登録用顔画像24は、登録用の入力顔画像21から切り出された画像である。認証用顔画像34は、認証用の入力顔画像31から切り出された画像である。
図14における登録用の入力顔画像21はマスクや帽子等の顔を遮蔽する遮蔽物を着用していない人物40の画像である。図14における認証用の入力顔画像31は、マスク17を着用している人物40Aの画像であり、ここでは符号31Aを付す。
図15における登録用の入力顔画像21はマスクや帽子等の顔を遮蔽する遮蔽物を着用していない人物40の画像である。図15における認証用の入力顔画像31は、マスク17に加えて帽子18を着用している人物40Bの画像であり、ここでは符号31Bを付す。
【0019】
本実施形態では、認証用の入力顔画像31A、31Bにおけるマスク17や帽子18といった遮蔽物による遮蔽領域の情報に基づいて、より適切な切り出す顔範囲及び解像度で認証用顔画像34が生成される。このように生成された認証用顔画像34の情報と予め登録されている登録用顔画像24の情報が比較されることによって、認証対象の人物が予め登録されている人物であるか否かが判定される。
以下、第1及び第2の実施形態をあげて説明する。
【0020】
<第1の実施形態>
上述したように、顔認証時の比較対象となる登録用顔画像の情報は予め用意されており、登録用顔画像の情報と認証用顔画像の情報とが比較されて、顔認証が行われる。
第1の実施形態では、認証用顔画像の生成に用いる、切り出す顔範囲及び解像度の決定を、顔パーツ点及び当該顔パーツ点の信頼度を用いて、行っている。以下、詳細に説明する。
第1の実施形態に係る説明では、顔情報登録、顔認証の順に説明する。
【0021】
[顔情報登録について]
(情報処理装置の構成)
図1を用いて顔情報の登録時に用いる情報処理装置10について説明する。
図1に示すように、情報処理装置10は、画像取得部2と、顔検出部3と、顔パーツ検出部4と、生成部5と、顔特徴量抽出部6と、顔範囲・解像度リスト7と、顔特徴量抽出器8と、登録顔特徴量データベース(DB)9を有する。
【0022】
画像取得部2は、図示しないカメラ等で撮像された登録対象の人物の顔画像(登録用の入力顔画像という。)を取得する。
顔検出部3は、画像取得部2で取得された登録用の入力顔画像から顔部分を検出する。
顔パーツ検出部4は、顔検出部3で検出された顔部分から顔パーツ点を検出する。顔パーツ点は、顔の構成要素である眉、眼、鼻、口、耳、髪の生え際といったパーツそれぞれの形状を規定する複数の点である。顔のパーツ点検出アルゴリズムとしては既存の方法を用いることができる。例えば、図5に示すマスク17を着用している人物40Aの登録用の入力顔画像31において、顔パーツ点を、符号36を付した小円で表している。
生成部5は、複数の登録用顔画像を生成する。生成部5は、予め用意された顔範囲・解像度リスト7に挙げられている、互いに異なる複数の、切り出す顔範囲(以下、顔範囲というときがある。)と解像度との組み合わせに基づいて、それぞれの組み合わせ毎に複数の登録用顔画像を生成する。顔範囲・解像度リスト7は、互いに対応づけられた、切り出す顔範囲と、解像度と、評価値の情報を有する。顔範囲・解像度リスト7の詳細については後述する。
【0023】
顔特徴量抽出部6は、生成部5で生成された複数の登録用顔画像それぞれにおける顔特徴量を、顔特徴量抽出器8を用いて抽出する。
登録顔特徴量DB9には、複数の登録用顔画像それぞれの情報が格納される。例えば、登録用顔画像の情報として、登録用顔画像と、当該登録用顔画像を生成する際に用いられた顔範囲と解像度の情報と、顔特徴量抽出部6で抽出された顔特徴量と、用いた登録用の入力顔画像とが、互いに紐づけられている。
【0024】
図2は、顔情報登録処理の流れを説明する模式図である。
図2に示すように、画像取得部2により登録対象の人物40の登録用の入力顔画像21が取得される。登録用の入力顔画像21において、顔検出及び顔のパーツ点検出が行われる。登録用の入力顔画像21は、顔パーツ点検出結果に基づき、左右の目それぞれを結んだ仮想線が水平となるように正規化される。図2において、正規化された顔画像に符号22を付す。その後、顔範囲・解像度リスト7に挙げられている各組み合わせの顔範囲と解像度に基づいて、生成部5により、リサイズ、切り出しが行われ、複数の登録用顔画像24が生成される。次に、特徴量抽出部6により、顔特徴量抽出器8を用いて、複数の登録用顔画像24それぞれから特徴量が抽出される。抽出された特徴量は、登録顔特徴量DB9に格納される。このように、人物の顔情報が登録される。
尚、ここでは、正規化、リサイズ、切り出しの順で処理が行われる例をあげたが、これに限定されない。例えば、リサイズ、正規化、切り出しの順で処理が行われてもよいし、正規化、切り出し、リサイズの順で処理が行われてもよい。
【0025】
顔範囲・解像度リスト7について説明する。
図2に示すように、顔範囲・解像度リスト7には、複数の、切り出す顔範囲71と、当該顔範囲71の解像度72との組み合わせの情報が含まれる。更に、顔範囲・解像度リスト7には、複数の、顔範囲71と解像度72の組み合わせ毎に、評価値73が対応づけられて設定されている。評価値73は、固定値であり、組み合わせ毎に予め計算されて求められている。評価値73は、組み合わせに対する評価を示すものである。顔範囲・解像度リスト7にある評価値73は、後述する顔認証の際に用いられる。評価値73が高いほど、対応する組み合わせにより生成される認証用顔画像における顔認証精度が高いことを示す。
【0026】
図2及び9を用いて、顔範囲・解像度リスト7の詳細について説明する。図9は、顔範囲・解像度リスト7に含まれる組み合わせ例を説明する図である。図9に示すように、例えば顔範囲・解像度リスト7は、11個の、顔範囲と解像度の組み合わせC1~C11を有する。尚、組み合わせの数、顔範囲、解像度の数値はここに挙げるものに限定されない。
【0027】
顔範囲・解像度リスト7に挙げられる各組み合わせにおいて、認証用顔画像が一定の計算量で生成されるように、顔範囲と解像度の組み合わせが設定される。換言すると、解像度は、組み合わせ毎に、切り出される顔範囲で認証用顔画像が一定の計算量で生成されるように設定される。当該計算量は、切り出される顔範囲の総画素数、又は、顔特徴量抽出部6による特徴量抽出時の積和演算回数を用いて算出することができる。
これにより、認証用顔画像の生成処理を常に一定の時間で終えることができる。
【0028】
図9に示すように、顔範囲・解像度リスト7にある組み合わせC1に基づいて生成される画像は、顔検出部3で検出された顔範囲の顔画像であり、元画像である。この元画像の解像度(画素数)72は例えば96×96である。すなわち、顔範囲・解像度リスト7にある組み合わせC1において、切り出す顔範囲71は顔全範囲であり、解像度は96×96である。
顔情報登録処理の際、組み合わせC1に基づいて、生成部5により、切り出す顔範囲が顔全範囲の、96×96のサイズの元画像が生成される。
【0029】
顔範囲・解像度リスト7にある組み合わせC2において、切り出す顔範囲71は、元画像を144×144にリサイズした画像から切り出した両目と髪の生え際の一部を含む領域である。切り出す顔範囲71の解像度(画素数)72は144×60である。
顔情報登録処理の際、組み合わせC2に基づいて、生成部5により、元画像が144×144にリサイズされた後、顔範囲71として両目と髪の生え際の一部を含む領域が144×60の解像度72で切り出されて、登録用顔画像が生成される。
【0030】
顔範囲・解像度リスト7にある組み合わせC3において、切り出す顔範囲71は、元画像を144×144にリサイズした画像から切り出した両目と髪の生え際の一部を含む領域である。切り出す顔範囲71の解像度(画素数)72は144×72である。
顔情報登録処理の際、組み合わせC3に基づいて、生成部5により、元画像が144×144にリサイズされた後、顔範囲71として両目と髪の生え際の一部を含む領域が144×72の解像度72で切り出されて、登録用顔画像が生成される。組み合わせC3で生成された登録用顔画像は、組み合わせC2で生成された登録用顔画像よりも、髪の生え際の範囲がより広い。
【0031】
顔範囲・解像度リスト7にある組み合わせC4において、切り出す顔範囲71は、元画像を168×168にリサイズした画像から切り出した両目と髪の生え際の一部を含む領域である。切り出す顔範囲71の解像度(画素数)72は144×60である。
顔情報登録処理の際、組み合わせC4に基づいて、生成部5により、元画像が168×168にリサイズされた後、顔範囲71として両目と髪の生え際の一部を含む領域が144×60の解像度72で切り出されて、登録用顔画像が生成される。
【0032】
顔範囲・解像度リスト7にある組み合わせC5において、切り出す顔範囲71は、元画像を168×168にリサイズした画像から切り出した両目と髪の生え際の一部を含む領域であり、切り出す顔範囲71の解像度(画素数)72は144×72である。
顔情報登録処理の際、組み合わせC5に基づいて、生成部5により、元画像が168×168にリサイズされた後、顔範囲71として両目と髪の生え際の一部を含む領域が144×72の解像度72で切り出されて、登録用顔画像が生成される。組み合わせC5で生成された登録用顔画像は、組み合わせC4で生成された登録用顔画像よりも、髪の生え際の領域がより広い。また、組み合わせC5で生成された登録用顔画像は、組み合わせC4で生成された登録用顔画像と顔の幅方向の範囲が同じである。
【0033】
顔範囲・解像度リスト7にある組み合わせC6において、切り出す顔範囲71は、元画像を168×168にリサイズした画像から切り出した両目を含む領域であり、切り出す顔範囲71の解像度(画素数)72は168×48である。
顔情報登録処理の際、組み合わせC6に基づいて、生成部5により、元画像が168×168にリサイズされた後、顔範囲71として両目を含む領域が168×48の解像度72で切り出されて、登録用顔画像が生成される。組み合わせC6で生成された登録用顔画像は、髪の生え際の領域が含まれていない。また、組み合わせC6で生成された登録用顔画像は、組み合わせC4やC5で生成された登録用顔画像と比べて、顔の幅方向の範囲が大きい。
【0034】
顔範囲・解像度リスト7にある組み合わせC7において、切り出す顔範囲71は、元画像を168×168にリサイズした画像から切り出した両目と髪の生え際の一部を含む領域であり、切り出す顔範囲71の解像度(画素数)72は144×60である。
顔情報登録処理の際、組み合わせC7に基づいて、生成部5により、元画像が168×168にリサイズされた後、顔範囲71として両目と髪の生え際の一部を含む領域が144×60の解像度72で切り出されて、登録用顔画像が生成される。
【0035】
顔範囲・解像度リスト7にある組み合わせC8において、切り出す顔範囲71は、元画像を168×168にリサイズした画像から切り出した両目と髪の生え際の一部を含む領域であり、切り出す顔範囲71の解像度(画素数)72は168×72である。
顔情報登録処理の際、組み合わせC8に基づいて、生成部5により、元画像が168×168にリサイズされた後、顔範囲71として両目と髪の生え際の一部を含む領域が168×72の解像度72で切り出されて、登録用顔画像が生成される。組み合わせC8で生成された登録用顔画像は、組み合わせC7で生成された登録用顔画像よりも、髪の生え際の領域がより広い。また、組み合わせC8で生成された登録用顔画像は、組み合わせC6及びC7で生成された登録用顔画像と顔の幅方向の範囲が同じである。
【0036】
顔範囲・解像度リスト7にある組み合わせC9において、切り出す顔範囲71は、元画像を192×192にリサイズした画像から切り出した両目を含む領域であり、切り出す顔範囲71の解像度(画素数)72は168×48である。
顔情報登録処理の際、組み合わせC9に基づいて、生成部5により、元画像が192×192にリサイズされた後、顔範囲71として両目を含む領域が168×48の解像度72で切り出されて、登録用顔画像が生成される。組み合わせC9で生成された登録用顔画像には、髪の生え際の領域が含まれていない。
【0037】
顔範囲・解像度リスト7にある組み合わせC10において、切り出す顔範囲71は、元画像を192×192にリサイズした画像から切り出した両目と髪の生え際のごく一部を含む領域であり、切り出す顔範囲71の解像度(画素数)72は168×60である。
顔情報登録処理の際、組み合わせC10に基づいて、生成部5により、元画像が192×192にリサイズされた後、顔範囲71として両目と髪の生え際のごく一部を含む領域が168×60の解像度72で切り出されて、登録用顔画像が生成される。組み合わせC10で生成された登録用顔画像は、組み合わせC9で生成された登録用顔画像と比較して、顔の幅方向の範囲は同じであり、幅方向と直交する高さ方向の範囲が広い。
【0038】
顔範囲・解像度リスト7にある組み合わせC11において、切り出す顔範囲71は、元画像を192×192にリサイズした画像から切り出した両目を含む領域であり、切り出す顔範囲71の解像度(画素数)72は192×48である。
顔情報登録処理の際、組み合わせC11に基づいて、生成部5により、元画像が192×192にリサイズされた後、顔範囲71として両目を含む領域が192×48の解像度72で切り出されて、登録用顔画像が生成される。組み合わせC11で生成された登録用顔画像は、組み合わせC9で生成された登録用顔画像と比較して、顔の幅方向の範囲が広く、高さ方向の範囲は同じである。
【0039】
(顔情報の登録に係る情報処理方法)
図3を用いて情報処理装置10を用いた顔情報の登録に係る情報処理方法について説明する。
図3に示すように、画像取得部2により登録用の入力顔画像が取得される(ステップ1(以下、ステップをSと略す))。
次に、顔検出部3により、登録用の入力顔画像から顔領域が検出される(S2)。
次に、顔パーツ検出部4により、検出された顔領域における複数の顔パーツ点が検出される(S3)。
次に、上述で図2を用いて説明したように、生成部5により、予め用意された顔範囲・解像度リスト7に挙げられている、互いに異なる複数の、顔範囲と解像度との組み合わせに基づいて、それぞれの組み合わせ毎に複数の登録用顔画像が生成される(S4)。
次に、顔特徴量抽出部6により、生成された登録用顔画像それぞれから特徴量が抽出される(S5)。
次に、登録用顔画像毎に抽出された特徴量は、対応する登録用顔画像と、当該登録用顔画像を生成する際に用いられた顔範囲、解像度の情報と、登録用の入力顔画像に紐づけられて、登録顔特徴量DB9に格納される。このように人物の顔情報の登録が行われる。
【0040】
[顔認証について]
(情報処理装置の構成)
図4を用いて顔認証で用いる情報処理装置1について説明する。上述の情報処理装置1と同様の機能を有する構成については同様の符号を付し、説明を省略する場合がある。
図4に示すように、情報処理装置1は、画像取得部2と、顔検出部3と、顔パーツ検出部44と、生成部5と、顔特徴量抽出部6と、顔範囲・解像度リスト7と、顔特徴量抽出器8と、登録顔特徴量DB9と、遮蔽領域検出部11と、決定部12と、顔類似度計算部13と、判定部14と、遮蔽領域検出器15と、記憶部16を有する。
【0041】
画像取得部2は、図示しないカメラ等で撮像された認証対象の人物の顔画像(認証用の入力顔画像という。)を取得する。
顔検出部3は、画像取得部2で取得された認証用の入力顔画像から顔部分を検出する。
顔パーツ検出部44は、顔検出部3で検出された顔部分から複数の顔パーツ点を検出するとともに当該顔パーツ点毎の信頼度を算出する。
生成部5は、後述する決定部12で決定された、顔範囲と解像度との組み合わせに基づいて、認証用顔画像を生成する。詳細については後述する。
顔特徴量抽出部6は、生成部5で生成された認証用顔画像における顔特徴量を、顔特徴量抽出器8を用いて抽出する。
顔範囲・解像度リスト7は、上述で説明した通りである。
登録顔特徴量DB9は、上述した顔情報の登録に係る情報処理によって生成された、登録用顔画像の特徴量といった登録人物の顔情報を、予め格納している。
【0042】
遮蔽領域検出部11は、顔パーツ検出部44で検出された複数の顔パーツ点及び算出された顔パーツ点毎の信頼度に基づいて、遮蔽領域検出器15を用いて遮蔽領域を検出する。
遮蔽領域とは、マスク、帽子、サングラス等の遮蔽物や、影や手等によって、顔の一部が隠れる領域をいう。
遮蔽領域検出部11は、検出された複数の顔パーツ点及び当該顔パーツ点毎の信頼度に基づいて、遮蔽領域検出器15を用いて、閾値処理を行い、遮蔽領域に係る遮蔽パーツ点を検出する。信頼度が閾値以上の顔パーツ点を非遮蔽パーツ点とする。閾値未満の顔パーツ点を遮蔽パーツ点とする。非遮蔽パーツ点は、遮蔽物が重畳されていない顔パーツ点とみなされた点である。例えば、遮蔽物としてマスク17を着用した認証対象の人物40Aの画像を示す図5において、実線又は破線で示す複数の小円は顔パーツ検出部44で検出された顔パーツ点36である。複数の顔パーツ点36において、実線の小円は算出された信頼度が閾値以上の顔パーツ点である非遮蔽パーツ点36Aを示し、破線の小円は算出された信頼度が閾値未満の顔パーツ点である遮蔽パーツ点36Bを示す。非遮蔽パーツ点36A、遮蔽パーツ点36Bというように特に区別しない場合、顔パーツ点36という。
【0043】
決定部12は、遮蔽領域検出部11で検出された遮蔽パーツ点の情報に基づいて、顔範囲・解像度リスト7に挙げられている、複数の顔範囲と解像度の組み合わせの中から、認証用顔画像を生成するために用いる組み合わせを決定する。
決定部12は、検出された遮蔽パーツ点と重複しない最も評価値の高い組み合わせを、認証用顔画像を生成するための組み合わせとして、決定する。
より具体的には、決定部12は、顔範囲・解像度リスト7から、最も高い評価値に対応づけられている組み合わせの顔範囲を1つ選択する。決定部12は、選択した顔範囲と、検出された遮蔽パーツ点が重複するか否かを判定する。
重複しない場合、決定部12は、当該顔範囲を含む組み合わせを、認証用顔画像を生成するための組み合わせとして採用することを決定する。
重複する場合、決定部12は、顔範囲・解像度リスト7から、次に高い評価値に対応づけられている組み合わせの顔範囲を1つ選択する。決定部12は、選択した顔範囲と、遮蔽パーツ点が重複するか否かを判定する。
このように、選択した顔範囲と遮蔽パーツ点が重複しないという結果となるまで、顔範囲・解像度リスト7に挙げられている顔範囲を、評価値の高い順から順に検証していく。このようにして、決定部12は、検出された遮蔽パーツ点と重複しない最も評価値の高い組み合わせを選出する。
上述したように、決定部12で決定された組み合わせで、生成部5により認証用顔画像が生成される。
【0044】
類似度計算部としての顔類似度計算部13は、顔特徴量抽出部6により抽出された認証用顔画像の特徴量と、登録顔特徴量DB9に格納されている登録用顔画像の特徴量とを用いて、認証用顔画像と登録用顔画像との類似度を計算する。
【0045】
判定部14は、顔類似度計算部13で計算された類似度に基づいて、認証用顔画像に映し出されている認証対象の人物が、予め顔情報を登録している人物であるか否かを判定する。具体例として、類似度が、予め決められた所定の値以上の場合、認証対象の人物が予め登録されている人物であると判定する。一方、類似度が、所定の値未満の場合、認証対象の人物は登録されていない人物であると判定する。
【0046】
記憶部16は、RAM等のメモリデバイスやディスクデバイス等であり、顔認証の実行に係るプログラムを格納する。
当該プログラムは、認証用の入力顔画像における顔の遮蔽領域に基づいて、認証用の入力顔画像から切り出す顔範囲と解像度を決定するステップと、決定された切り出す顔範囲と解像度で認証用顔画像を生成するステップを情報処理装置1に実行させる。
【0047】
(顔認証に係る情報処理方法)
情報処理装置1を用いた顔認証に係る情報処理方法について説明する。図6は顔認証の流れを説明する模式図である。図7は情報処理装置1における顔認証の処理フロー図である。図8は、図7の処理フロー中のステップ13における詳細なフローであり、認証用顔画像の生成に用いる顔範囲と解像度の組み合わせの決定処理のフロー図である。以下、図7及び8のフロー図に従って、必要に応じて図6を用いて説明する。
【0048】
画像取得部2により認証用の入力顔画像が取得される(S11)。ここでは、図6に示すように、マスク17を着用した認証対象の人物40Aの画像が、認証用の入力顔画像31Aとして取得されたとする。
次に、顔検出部3により、認証用の入力顔画像から顔領域が検出される(S12)。
【0049】
次に、決定部12により、認証用顔画像を生成するために採用する顔範囲と解像度の組み合わせが決定される(S13)。ステップ13での処理の詳細について説明する。
図8に示すように、顔パーツ検出部44により、検出された顔領域における複数の顔パーツ点が検出され、更に、複数の顔パーツ点毎の信頼度が算出される(S131)。
次に、遮蔽領域検出部11により、検出された複数の顔パーツ点及び当該顔パーツ点毎に算出された信頼度に基づいて、閾値処理が行われ、遮蔽パーツ点が検出される(S132)。例えば、図6に示すように、破線の小円で示される遮蔽パーツ点36Bが検出される。
次に、決定部12により、顔範囲・解像度リスト7から、最も高い評価値に対応づけられている組み合わせの顔範囲が1つ選択される(S133)。
次に、決定部12により、選択された顔範囲と検出された遮蔽パーツ点が重複するか否かが判定される(S134)。
ステップ134で重複しないと判定された場合(NO)、決定部12により、選択した顔範囲を含む組み合わせが、認証用顔画像を生成するために用いる組み合わせとして、決定される(S135)。
ステップ134で重複すると判定された場合(YES)、ステップ133に戻り処理が繰り返される。ステップ133では、決定部12により、顔範囲・解像度リスト7から、次に高い評価値に対応づけられている組み合わせの顔範囲が1つ選択される。ステップ134では、決定部12により、選択された顔範囲と、遮蔽パーツ点が重複するか否かが決定される。
このように、選択した顔範囲と遮蔽パーツ点が重複しないという結果となるまで、決定部12により、顔範囲・解像度リスト7に挙げられている顔範囲が、評価値の高い順から順に検証されていく。これにより、複数の組み合わせの中から、検出された遮蔽パーツ点と重複しない、最も評価値の高い組み合わせが、選出される。
【0050】
図7に戻る。次に、生成部5により、決定部12で決定された顔範囲と解像度との組み合わせに基づいて認証用顔画像が生成される(S14)。
次に、顔特徴量抽出部6により、生成された認証用顔画像それぞれから特徴量が抽出される(S15)。
次に、顔類似度計算部13により、抽出された認証用顔画像の特徴量と、登録顔特徴量DB9に予め格納されている登録用顔画像の特徴量とを用いて、認証用顔画像と登録用顔画像との類似度が計算される(S16)。比較される登録用顔画像は、認証用顔画像を生成する際に用いた顔範囲と解像度の組み合わせと同じ組み合わせで生成された画像である。
次に、判定部14により、計算された類似度に基づいて、顔認証が行われ、認証対象の人物が登録されている人物であるか否かが判定される(S17)。
【0051】
本実施形態では、実用上、使用できる計算リソースが決まっているため、顔に遮蔽領域がない場合、顔認証的に最も有効な目、鼻、口の顔パーツ点がなるべく高解像度になるように切り出した認証用顔画像を生成することができる。
一方、図14に示す例のようにマスク17による遮蔽領域がある場合では、目や眉毛の顔パーツ点に加えて、通常の顔認証時ではあまり用いられない髪の生え際の顔パーツ点が認証用顔画像に含まれるように切り出す顔範囲を拡張することができる。そして、この顔範囲の中で計算リソースが許す限り大きな解像度で認証用顔画像を生成することができる。
また、図15に示す例のようにマスク17及び帽子18による遮蔽領域がある場合では、目や眉毛といった目領域周辺を切り出す顔範囲とし、この顔範囲の中で計算リソースが許す限り大きな解像度で認証用顔画像を生成することができる。
このように、本実施形態では、遮蔽領域の情報に基づいて、より適した顔範囲と解像度で認証用顔画像が生成される。すなわち、認証対象の顔画像に遮蔽領域があっても、非遮蔽領域における顔情報と限られた計算リソースの中で、顔認証に最も適した顔範囲と解像度で認証用顔画像が生成される。これにより、遮蔽領域がない場合の顔画像での顔認証はもちろんのこと、遮蔽領域がある顔画像での顔認証においても、認証精度を向上させることができる。
【0052】
ここで、遮蔽領域の大きさに係らず、顔画像に単純に遮蔽領域を除外する処理をして顔認証を行う場合では、遮蔽領域が大きくなっていくと顔から取得できる情報が減り、認証精度が下がってしまう。
これに対し、本実施形態では、上述の通り、遮蔽領域の情報に基づいて、より適した顔範囲及び解像度で生成された認証用顔画像を用いて顔認証が行なわれるので、認証精度を向上させることができる。
【0053】
<第2の実施形態>
上述の第1の実施形態においては、認証用顔画像生成に採用する切り出す顔範囲と解像度を、検出された顔パーツ点及び当該顔パーツ点の信頼度を用いて決定したが、これに限定されない。例えば、顔識別においての有効性の度合いを示すスコア付き顔画像を用いて決定してもよい。以下、第2の実施形態として説明する。
第2の実施形態においても、第1の実施形態と同様に、登録用顔画像に係る情報が予め用意されている。そして、登録用顔画像に係る情報と認証用顔画像に係る情報とを比較して、顔認証が行われる。顔情報の登録は、第1の実施形態と同様のため説明を省略する。本実施形態では、スコア付き顔画像を用いた顔認証について主に説明する。第1の実施形態と同様の構成については同様の符号を付し、説明を省略する場合がある。
【0054】
(情報処理装置の構成)
図10を用いて顔認証に用いる情報処理装置100について説明する。
図10に示すように、情報処理装置100は、画像取得部2と、顔検出部3と、スコア付き顔画像生成部104と、生成部5と、顔特徴量抽出部6と、顔範囲・解像度リスト7と、顔特徴量抽出器8と、登録顔特徴量DB9と、遮蔽領域検出部111と、決定部112と、顔類似度計算部13と、判定部14と、遮蔽領域検出器115と、記憶部116を有する。
【0055】
画像取得部2は、図示しないカメラ等で撮像された認証対象の人物の顔画像(以下、認証用の入力顔画像という。)を取得する。
顔検出部3は、画像取得部2で取得された認証用の入力顔画像から顔部分を検出する。
【0056】
スコア付き顔画像生成部104は、検出された顔部分におけるスコア付き顔画像を生成する。スコア付き顔画像は、顔識別においての有効性の度合いが例えば色分けされた画像である。スコア付き顔画像の生成には、例えばABN(Attention Branch Network)を用いることができる。ABNは、画像認識においてCNN(Convolutional Neural Network)が着目している領域を示す特徴マップを可視化しつつ、識別に利用する手法である。スコア付き顔画像生成部104で生成されるスコア付き顔画像は、他人と見分けやすい特徴的な部位のマップといえる。
【0057】
図13(A)~(F)にスコア付き顔画像例を示す。図13(A)~(F)の各図において、左側は顔部分の画像131であり、右側は当該顔部分の画像131を用いてスコア付き顔画像生成部104により生成されたスコア付き顔画像132を示す。図13では、スコア付き顔画像において、顔識別における有効性の度合いを示す色の違いをドットの密度の違いで表現している。ドットが密な領域ほど顔識別に有効な領域であることを示す。
図13(A)及び(B)はいずれも顔を遮蔽する遮蔽物のない人物の顔画像例である。両図におけるスコア付き顔画像132は、髪の生え際が、顔識別に有効な領域であることを示している。更に、図13(B)におけるスコア付き顔画像132では、眉毛も顔識別に有効な領域であることを示している。
図13(C)は眼鏡をかけた人物の顔画像である。この図は、例えば、髪の生え際が、顔識別に有効な領域であることを示している。
図13(D)は、遮蔽物である帽子を着用している人物の顔画像例である。この図におけるスコア付き顔画像132は、帽子により遮蔽されていない髪の生え際が、顔識別に有効な領域であることを示している。
図13(E)は、遮蔽物であるサングラスを着用している人物の顔画像例である。この図におけるスコア付き顔画像132は、髪の生え際や眉毛が、顔識別に有効な領域であることを示している。
図13(F)は、遮蔽物であるマスクを着用している人物の顔画像例である。この図におけるスコア付き顔画像132は、髪の生え際や眉毛が、顔識別に有効な領域であることを示している。
このように、スコア付き顔画像生成部104では、顔識別に有効な特徴的な部位が強調されるマップが生成される。遮蔽物がある場合は、この遮蔽物が存在する領域を避け、残りの領域から、顔識別に有効なより特徴的な部位が強調されるマップが生成される。尚、マップとはスコア付き顔画像を指す。
【0058】
生成部5は、後述する決定部112で決定された、顔範囲と解像度との組み合わせに基づいて、認証用顔画像を生成する。詳細については後述する。
顔特徴量抽出部6は、生成部5で生成された認証用顔画像における顔特徴量を、顔特徴量抽出器8を用いて抽出する。
顔範囲・解像度リスト7は、上述で説明した通りである。
登録顔特徴量DB9は、上述の第1の実施形態で説明した登録時に係る情報処理によって生成された、登録用顔画像の特徴量といった登録人物に係る顔情報を、予め格納している。
【0059】
遮蔽領域検出部111は、スコア付き顔画像生成部104で生成されたスコア付き顔画像に基づいて、遮蔽領域検出器115を用いて遮蔽領域を検出する。具体的には、スコア付き顔画像を構成する画素情報を基に、画素単位で閾値処理を行い、遮蔽領域に係る遮蔽画素を検出する。スコアが閾値以上の画素を遮蔽画素とする。例えば近接した複数の遮蔽画素の集まりが遮蔽領域を構成する。閾値未満の画素を非遮蔽画素とする。近接した複数の非遮蔽画素の集まりからなる領域は、遮蔽物が重畳されていない非遮蔽領域である。図13(F)を例にあげると、遮蔽物としてマスク17を着用した認証対象の人物のスコア付き顔画像132において、ドットが粗な領域が遮蔽領域である。尚、ドットが粗な領域は、ドットが存在しない領域を含むものとする。
【0060】
決定部112は、遮蔽領域検出部111で検出された遮蔽領域に係る遮蔽画素に基づいて、顔範囲・解像度リスト7に挙げられている、複数の顔範囲と解像度の組み合わせの中から、認証用顔画像を生成するために用いる組み合わせを決定する。
決定部112は、検出された遮蔽画素と重複しない最も評価値の高い組み合わせを、認証用顔画像を生成するための組み合わせとして、決定する。
より具体的には、決定部112は、顔範囲・解像度リスト7から、最も高い評価値に対応づけられている組み合わせの顔範囲を1つ選択する。決定部112は、選択した顔範囲と、検出された遮蔽画素が重複するか否かを判定する。
重複しない場合、決定部112は、当該顔範囲を含む組み合わせを、認証用顔画像を生成するために用いる組み合わせとして採用することを決定する。
重複する場合、決定部112は、顔範囲・解像度リスト7から、次に高い評価値に対応づけられている組み合わせの顔範囲を1つ選択する。決定部112は、選択した顔範囲と、遮蔽画素が重複するか否かを判定する。
このように、選択した顔範囲と遮蔽画素が重複しないという結果となるまで、顔範囲・解像度リスト7に挙げられている組み合わせの顔範囲を、評価値の高い順から順に検証していく。このようにして、決定部112は、検出された遮蔽画素と重複しない最も評価値の高い組み合わせを選出する。
上述したように、決定部112で決定された組み合わせで、生成部5により認証用顔画像が生成される。
【0061】
顔類似度計算部13は、生成部5で生成された認証用顔画像から顔特徴量抽出部6により抽出された顔特徴量と、登録顔特徴量DB9に格納されている登録顔特徴量情報とを用いて、認証用顔画像と登録用顔画像との類似度を計算する。
【0062】
判定部14は、顔類似度計算部13で計算された類似度に基づいて、認証用顔画像に映し出されている認証対象の人物が、予め顔画像を登録している人物であるか否かを判定する。具体例として、類似度が、予め決められた所定の値以上の場合、認証対象の人物が予め登録されている人物であると判定する。一方、類似度が、所定の値未満の場合、認証対象の人物は登録されていない人物であると判定する。
【0063】
記憶部116は、RAM等のメモリデバイスやディスクデバイス等であり、顔認証の実行に係るプログラムを格納する。当該プログラムは、認証用の入力顔画像における顔の遮蔽領域に基づいて、認証用の入力顔画像から切り出す顔範囲と解像度を決定するステップと、決定された切り出す顔範囲と解像度で認証用顔画像を生成するステップを情報処理装置100に実行させる。
【0064】
(顔認証に係る情報処理方法)
情報処理装置100を用いた顔認証に係る情報処理方法について説明する。図11は情報処理装置100における顔認証の処理フロー図である。図12は、図11の処理フロー中のステップ23の詳細なフローであり、顔範囲と解像度の組み合わせの決定処理のフロー図である。以下、図11及び12のフロー図に従って説明する。
【0065】
画像取得部2により認証用の入力顔画像が取得される(S21)。
次に、顔検出部3により、認証用の入力顔画像から顔領域が検出される(S22)。
【0066】
次に、決定部112により、認証用顔画像を生成するために採用する顔範囲と解像度の組み合わせが決定される(S23)。ステップ23での処理の詳細について説明する。
図12に示すように、スコア付き顔画像生成部104により、スコア付き顔画像が生成される(S231)。
次に、遮蔽領域検出部111により、スコア付き顔画像に基づいて、閾値処理が行われ、遮蔽画素が検出される(S232)。
次に、決定部112により、顔範囲・解像度リスト7から、最も高い評価値に対応づけられている組み合わせの顔範囲が1つ選択される(S233)。
次に、決定部112により、選択された顔範囲と検出された遮蔽画素が重複するか否かが判定される(S234)。
ステップ234で重複しないと判定された場合(NO)、決定部112により、選択した顔範囲を含む組み合わせが、認証用顔画像を生成するために用いる組み合わせとして、決定される(S235)。
ステップ234で重複すると判定された場合(YES)、ステップ233に戻り処理が繰り返される。ステップ233では、決定部112により、顔範囲・解像度リスト7から、次に高い評価値に対応づけられている組み合わせの顔範囲が1つ選択される。ステップ234では、決定部112により、選択された顔範囲と遮蔽画素が重複するか否かが決定される。
このように、選択した顔範囲と遮蔽画素が重複しないという結果となるまで、決定部112により、顔範囲・解像度リスト7に挙げられている顔範囲が、評価値の高い順から順に検証されていく。これにより、複数の組み合わせの中から、検出された遮蔽画素と重複しない、最も評価値の高い組み合わせが、選出される。
【0067】
図11に戻る。次に、生成部5により、決定部112で決定された顔範囲と解像度との組み合わせに基づいて認証用顔画像が生成される(S24)。
次に、顔特徴量抽出部6により、生成された認証用顔画像それぞれから特徴量が抽出される(S25)。
次に、顔類似度計算部13により、抽出された認証用顔画像の特徴量と、登録顔特徴量DB9に予め格納されている登録用顔画像の特徴量とを用いて、認証用顔画像と登録用顔画像との類似度が計算される(S26)。比較される登録用顔画像は、認証用顔画像を生成する際に用いた顔範囲と解像度の組み合わせと同じ組み合わせで生成された画像である。
次に、判定部14により、計算された類似度に基づいて、顔認証が行われ、認証対象の人物が登録されている人物であるか否かが判定される(S27)。
【0068】
以上のように、本実施形態においても、第1の実施形態と同様に、遮蔽領域の情報に基づいて、より適した顔範囲と解像度で認証用顔画像が生成される。これにより、遮蔽領域がない場合の顔画像での顔認証はもちろんのこと、遮蔽領域がある顔画像での顔認証においても、認証精度を向上させることができる。
【0069】
本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
【0070】
なお、本技術は以下のような構成もとることができる。
(1)
認証用の入力顔画像における顔の遮蔽領域に基づいて、上記認証用の入力顔画像から切り出す顔範囲と解像度を決定する決定部と、
上記決定部により決定された上記切り出す顔範囲と上記解像度で認証用顔画像を生成する生成部と
を具備する情報処理装置。
【0071】
(2)
上記(1)に記載の情報処理装置であって、
上記決定部は、予め定められた複数の、切り出す顔範囲と解像度との組み合わせの中から、上記認証用顔画像を生成するのに用いる上記切り出す顔範囲と上記解像度を決定する
情報処理装置。
【0072】
(3)
上記(2)に記載の情報処理装置であって、
上記認証用の入力顔画像から複数の顔パーツ点を検出し、上記顔パーツ点毎の信頼度を算出する顔パーツ検出部と、
複数の上記顔パーツ点から、上記信頼度を基に、上記遮蔽領域に係る遮蔽パーツ点を検出する遮蔽領域検出部
を更に具備し、
複数の上記組み合わせ毎に評価値が対応づけられ、
上記決定部は、複数の上記組み合わせの中から、切り出す顔範囲が上記遮蔽パーツ点と重複せず、上記評価値が最も高い組み合わせを選出し、上記認証用顔画像の生成に用いる組み合わせとして決定する
情報処理装置。
【0073】
(4)
上記(2)に記載の情報処理装置であって、
顔識別における有効性の度合いを示すスコア付き顔画像を生成するスコア付き顔画像生成部と、
上記スコア付き顔画像を構成する画素情報を基に、上記遮蔽領域に係る遮蔽画素を検出する遮蔽領域検出部
を更に具備し、
複数の上記組み合わせ毎に評価値が対応づけられ、
上記決定部は、複数の上記組み合わせの中から、切り出す顔範囲が上記遮蔽画素と重複せず、上記評価値が最も高い組み合わせを選出し、上記認証用顔画像の生成に用いる組み合わせとして決定する
情報処理装置。
【0074】
(5)
上記(2)~(4)のいずれか1つに記載の情報処理装置であって、
上記解像度は、上記組み合わせ毎に、上記切り出す顔範囲で切り出される認証用顔画像が一定の計算量で生成されるように設定される
情報処理装置。
【0075】
(6)
上記(5)に記載の情報処理装置であって、
上記認証用顔画像の特徴量を抽出する特徴量抽出部を更に具備し、
上記計算量は、切り出される顔範囲の総画素数又は上記特徴量抽出部による特徴量抽出時の積和演算回数を用いて算出される
情報処理装置。
【0076】
(7)
上記(1)~(6)のいずれか1つに記載の情報処理装置であって、
上記認証用顔画像の特徴量を抽出する特徴量抽出部と、
上記特徴量抽出部により抽出された上記認証用顔画像の特徴量と、予め用意された登録用顔画像の特徴量とから、上記認証用顔画像と上記登録用顔画像との類似度を計算する類似度計算部を更に具備する
情報処理装置。
【0077】
(8)
上記(7)に記載の情報処理装置であって、
上記登録用顔画像の特徴量は、予め用意された登録用の入力顔画像を用いて複数の上記組み合わせに従って生成した複数の登録用顔画像それぞれにおいて、上記特徴量抽出部によって抽出した特徴量である
情報処理装置。
【0078】
(9)
認証用の入力顔画像における顔の遮蔽領域に基づいて、上記認証用の入力顔画像から切り出す顔範囲と解像度を決定し、
決定された上記切り出す顔範囲と上記解像度で認証用顔画像を生成する
情報処理方法。
【0079】
(10)
認証用の入力顔画像における顔の遮蔽領域に基づいて、上記認証用の入力顔画像から切り出す顔範囲と解像度を決定するステップと、
決定された上記切り出す顔範囲と上記解像度で認証用顔画像を生成するステップ
を情報処理装置に実行させるプログラム。
【符号の説明】
【0080】
1、100…情報処理装置
5…生成部
6…顔特徴量抽出部(特徴量抽出部)
11、111…遮蔽領域検出部
12、112…決定部
13…顔類似度計算部(類似度計算部)
21…登録用の入力顔画像
24…登録用顔画像
31…認証用の入力顔画像
34…認証用顔画像
36…顔パーツ点
36B…遮蔽パーツ点
44…顔パーツ検出部
71…切り出す顔範囲
72…解像度
73…評価値
104…スコア付き顔画像生成部
132…スコア付き顔画像
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15