(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-16
(45)【発行日】2024-07-24
(54)【発明の名称】情報処理装置、情報処理方法及び記録媒体
(51)【国際特許分類】
G06T 7/00 20170101AFI20240717BHJP
H04N 23/56 20230101ALI20240717BHJP
H04N 23/611 20230101ALI20240717BHJP
【FI】
G06T7/00 350B
G06T7/00 660A
H04N23/56
H04N23/611
(21)【出願番号】P 2023503250
(86)(22)【出願日】2021-03-03
(86)【国際出願番号】 JP2021008105
(87)【国際公開番号】W WO2022185436
(87)【国際公開日】2022-09-09
【審査請求日】2023-08-04
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100104765
【氏名又は名称】江上 達夫
(74)【代理人】
【識別番号】100107331
【氏名又は名称】中村 聡延
(74)【代理人】
【識別番号】100131015
【氏名又は名称】三輪 浩誉
(72)【発明者】
【氏名】赤司 竜一
(72)【発明者】
【氏名】戸泉 貴裕
【審査官】千葉 久博
(56)【参考文献】
【文献】特開2016-100899(JP,A)
【文献】特開2012-212325(JP,A)
【文献】国際公開第2019/102619(WO,A1)
【文献】国際公開第2019/003973(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00
H04N 23/56
H04N 23/611
(57)【特許請求の範囲】
【請求項1】
入力画像を変換する画像変換処理を行うことで、変換画像を生成する画像変換手段と、
前記入力画像から、対象物のキーポイントを対象キーポイントとして抽出
し、前記変換画像から、前記対象物のキーポイントを変換キーポイントとして抽出する抽出手段と、
前記対象キーポイント
と前記変換キーポイントとの比較結果に基づいて、前記対象キーポイントの信頼度に関する指標値を、前記対象キーポイントが抽出された前記入力画像のスコアとして算出する算出手段と
を備える情報処理装置。
【請求項2】
前記入力画像は、照明装置によって照明された撮像対象範囲を撮像装置が撮像することで生成され、
前記スコアに基づいて、前記スコアが改善されるように前記照明装置を制御する照明制御装置を更に備える
請求項
1に記載の情報処理装置。
【請求項3】
前記抽出手段は、複数の前記入力画像の夫々から、前記対象キーポイントを抽出し、
前記算出手段は、前記入力画像毎に前記スコアを算出し、
前記複数の入力画像から、前記スコアが所定の選択条件を満たす少なくとも一つの入力画像を選択する選択手段を更に備える
請求項1
又は2に記載の情報処理装置。
【請求項4】
前記選択条件は、前記スコアが所定の選択閾値よりも悪いという条件を含む
請求項
3に記載の情報処理装置。
【請求項5】
前記抽出手段は、前記スコアが既知である複数の学習画像を用いて学習済みである学習モデルを用いて、前記対象キーポイントを抽出し、
前記選択条件は、前記スコアが、前記複数の学習画像を前記スコアに応じて分類した場合に分類される前記学習画像のサンプル数が所定数よりも少ないスコアの範囲に含まれるという条件を含む
請求項
3又は
4に記載の情報処理装置。
【請求項6】
前記抽出手段は、学習可能な学習モデルを用いて、前記対象キーポイントを抽出し、
抽出されるべきキーポイントである正解キーポイントが関連付けられた第1の学習画像と、前記正解キーポイントが関連付けられていない第2の学習画像とを含む学習用データを用いて、前記学習モデルの学習を行う学習手段を更に備え、
前記抽出手段は、前記第2の学習画像から、前記対象物のキーポイントを学習用キーポイントとして抽出し、
前記算出手段は、前記学習用キーポイントに基づいて、前記学習用キーポイントの信頼度に関する指標値を、前記学習用キーポイントが抽出された前記第2の学習画像のスコアとして算出し、
前記学習手段は、前記第2の学習画像のスコアに基づいて、前記学習モデルの学習に対する前記第2の学習画像の寄与度を示す重みを算出し、前記学習用データと前記重みとを用いた半教師あり学習を行うことで、前記学習モデルの学習を行う
請求項1から
5のいずれか一項に記載の情報処理装置。
【請求項7】
前記対象物は、生体の虹彩を含み、
前記スコアが所定の第1判定閾値よりも悪い場合に、前記入力画像に前記虹彩を含む目が写り込んでいないと判定する判定手段を更に備える
請求項1から
6のいずれか一項に記載の情報処理装置。
【請求項8】
入力画像を変換する画像変換処理を行うことで、変換画像を生成し、
前記入力画像から、対象物のキーポイントを対象キーポイントとして抽出し、
前記変換画像から、前記対象物のキーポイントを変換キーポイントとして抽出し、
前記対象キーポイント
と前記変換キーポイントとの比較結果に基づいて、前記対象キーポイントの信頼度に関する指標値を、前記対象キーポイントが抽出された前記入力画像のスコアとして算出する
情報処理方法。
【請求項9】
コンピュータに、
入力画像を変換する画像変換処理を行うことで、変換画像を生成し、
前記入力画像から、対象物のキーポイントを対象キーポイントとして抽出し、
前記変換画像から、前記対象物のキーポイントを変換キーポイントとして抽出し、
前記対象キーポイント
と前記変換キーポイントとの比較結果に基づいて、前記対象キーポイントの信頼度に関する指標値を、前記対象キーポイントが抽出された前記入力画像のスコアとして算出する
情報処理方法を実行させるコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
この開示は、例えば、画像から対象物のキーポイント(つまり、特徴点)を抽出することが可能な情報処理装置、情報処理方法及び記録媒体の技術分野に関する。
【背景技術】
【0002】
画像から対象物のキーポイント(つまり、特徴点)を抽出することが可能な情報処理装置の一例が、特許文献1に記載されている。具体的には、特許文献1には、対象者が写り込んだ画像から、対象者の顔の特徴点の位置を示す顔情報を取得する顔三次元形状推定装置が記載されている。
【0003】
その他、この開示に関連する先行技術文献として、特許文献2から特許文献6があげられる。
【先行技術文献】
【特許文献】
【0004】
【文献】国際公開第2020/149001号パンフレット
【文献】国際公開第2019/078310号パンフレット
【文献】特表2017-503276号公報
【文献】特開2017-151556号公報
【文献】特表2009-529200号公報
【文献】特開2005-004781号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
この開示は、先行技術文献に記載された技術の改良を目的とする情報処理装置、情報処理方法及び記録媒体を提供することを課題とする。
【課題を解決するための手段】
【0006】
情報処理装置の一の態様は、入力画像から、対象物のキーポイントを対象キーポイントとして抽出する抽出手段と、前記対象キーポイントに基づいて、前記対象キーポイントの信頼度に関する指標値を、前記対象キーポイントが抽出された前記入力画像のスコアとして算出する算出手段とを備える。
【0007】
情報処理方法の一の態様は、入力画像から、対象物のキーポイントを対象キーポイントとして抽出し、前記対象キーポイントに基づいて、前記対象キーポイントの信頼度に関する指標値を、前記対象キーポイントが抽出された前記入力画像のスコアとして算出する。
【0008】
記録媒体の一の態様は、コンピュータに、入力画像から、対象物のキーポイントを対象キーポイントとして抽出し、前記対象キーポイントに基づいて、前記対象キーポイントの信頼度に関する指標値を、前記対象キーポイントが抽出された前記入力画像のスコアとして算出する情報処理方法を実行させるコンピュータプログラムが記録された記録媒体である。
【図面の簡単な説明】
【0009】
【
図1】
図1は、第1実施形態のキーポイント抽出システムの全体構成を示すブロック図である。
【
図2】
図2は、第1実施形態のキーポイント抽出装置の構成を示すブロック図である。
【
図3】
図3は、第1実施形態のキーポイント抽出装置が行うキーポイント抽出動作の流れを示すフローチャートである。
【
図4】
図4は、人物画像から抽出された虹彩のキーポイントの一例を示す平面図である。
【
図5】
図5は、第2実施形態のキーポイント抽出装置の構成を示すブロック図である。
【
図6】
図6は、第3実施形態のキーポイント抽出装置の構成を示すブロック図である。
【
図7】
図7は、学習画像のサンプル数と、学習画像の画像スコアSCとの関係を示すグラフである。
【
図8】
図8は、第4実施形態のキーポイント抽出装置の構成を示すブロック図である。
【
図10】
図10は、第5実施形態のキーポイント抽出装置の構成を示すブロック図である。
【
図11】
図11は、第6実施形態のキーポイント抽出装置の構成を示すブロック図である。
【発明を実施するための形態】
【0010】
以下、情報処理装置、情報処理方法及び記録媒体の実施形態について説明する。以下では、キーポイント抽出システムSYSを用いて、情報処理装置、情報処理方法及び記録媒体の実施形態について説明する。
【0011】
キーポイント抽出システムSYSは、画像から対象物のキーポイントKPを抽出することが可能である。以下の説明では、キーポイント抽出システムSYSが、対象物の一例である人物(つまり、生体)を撮像することで生成される人物画像IMG1から、人物画像IMG1に写り込んだ人物のキーポイントKPを抽出することが可能である例について説明する。但し、キーポイント抽出システムSYSは、人物とは異なる任意の対象物が写り込んだ画像から、画像に写り込んだ任意の対象物のキーポイントKPを抽出することが可能であってもよい。対象物の一例として、人間以外の生体(例えば、犬及び猫等の哺乳類、スズメ等の鳥類、ヘビ等の爬虫類、カエル等の両生類及び金魚等の魚類の少なくとも一つ)があげられる。対象物の他の一例として、無生物たる物体があげられる。無生物たる物体の一例として、人物又は動物を模したロボットがあげられる。
【0012】
また、以下の説明では、キーポイント抽出システムSYSが、人物画像IMG1から、人物画像IMG1に写り込んだ人物の虹彩のキーポイントKPを抽出することが可能である例について説明する。このようなキーポイント抽出システムSYSは、虹彩認証システムとして用いられてもよい。虹彩認証システムは、虹彩を用いて人物を認証することが可能なシステムである。例えば、虹彩認証システムは、虹彩のキーポイントKPに基づいて、人物画像IMG1に写り込んだ人物の虹彩の特徴量を抽出する。例えば、虹彩認証システムは、虹彩のキーポイントKPに基づいて、人物画像IMG1中において虹彩が写り込んだドーナツ状の虹彩領域を特定してもよい。具体的には、虹彩認証システムは、虹彩の内側の輪郭を特定可能なキーポイントKPと虹彩の外側の輪郭を特定可能なキーポイントKPとに基づいて、虹彩領域を特定してもよい。更に、虹彩認証システムは、まぶたの縁を特定可能なキーポイントKPに基づいて、ドーナツ状の虹彩領域から、まぶたに重なっている領域部分を削除してもよい。その後、虹彩認証システムは、虹彩領域を複数のリング状のブロックに分割し、各ブロックを複数のセクタに分割し、各セクタの特徴量(例えば、複数のセクタに含まれる虹彩のパターンに関する特徴量であり、例えば、輝度値)を抽出してもよい。その後、虹彩認証システムは、抽出された虹彩の特徴量に基づいて、人物画像IMG1に写り込んだ人物を認証してもよい。尚、虹彩認証システムの説明から分かるように、この開示では、虹彩の特徴点(つまり、キーポイントKP)と虹彩の特徴量とは明確に区別される。
【0013】
但し、キーポイント抽出システムSYSは、人物画像IMG1から、人物画像IMG1に写り込んだ人物の任意の部位のキーポイントKPを抽出することが可能であってもよい。人物の任意の部位の一例として、人物を認証するために利用可能な部位があげられる。人物を認証するために利用可能な部位の他の一例として、顔認証に利用可能な顔があげられる。人物を認証するために利用可能な部位の他の一例として、指紋認証に利用可能な指紋が刻まれた指があげられる。人物を認証するために利用可能な部位の他の一例として、掌紋認証に利用可能な掌紋が刻まれた手があげられる。人物を認証するために利用可能な部位の他の一例として、静脈認証に利用可能な静脈パターンが浮き出た指があげられる。
【0014】
以下、このようなキーポイント抽出システムSYSについて、図面を参照しながら更に詳細に説明する
(1)第1実施形態のキーポイント抽出システムSYS
初めに、第1実施形態のキーポイント抽出システムSYSについて説明する。尚、以下の説明では、第1実施形態のキーポイント抽出システムSYSを、“キーポイント抽出システムSYSa”と称する。
【0015】
(1-1)キーポイント抽出システムSYSaの全体構成
初めに、
図1を参照しながら、第1実施形態のキーポイント抽出システムSYSaの全体構成について説明する。
図1は、第1実施形態のキーポイント抽出システムSYSaの全体構成を示すブロック図である。
【0016】
図1に示すように、キーポイント抽出システムSYSaは、カメラ1と、「情報処理装置」の一具体例であるキーポイント抽出装置2とを備えている。キーポイント抽出システムSYSaは、単一のカメラ1を備えていてもよいし、複数のカメラ1を備えていてもよい。カメラ1とキーポイント抽出装置2とは、通信ネットワーク3を介して互いに通信可能である。通信ネットワーク3は、有線の通信ネットワークを含んでいてもよい。通信ネットワーク3は、無線の通信ネットワークを含んでいてもよい。
【0017】
カメラ1は、撮像対象範囲を撮像可能な撮像装置である。カメラ1は、撮像対象範囲を撮像することで撮像対象範囲が写り込んだ画像を生成する処理を含む。上述したようにキーポイント抽出システムSYSaが人物の虹彩のキーポイントKPを抽出するがゆえに、撮像対象範囲には、通常、人物が存在する。この場合、カメラ1は、人物を撮像することで、人物が写り込んだ人物画像IMG1を生成する。特に、カメラ1は、人物の顔(特に、虹彩及び虹彩の周辺の部位を含む顔の少なくとも一部)を撮像することで、人物の顔(特に、虹彩及び虹彩の周辺の部位を含む顔の少なくとも一部)が写り込んだ人物画像IMG1を生成する。カメラ1は、生成した人物画像IMG1を、キーポイント抽出装置2に出力する。具体的には、カメラ1は、生成した人物画像IMG1を、通信ネットワーク3を介して、キーポイント抽出装置2に送信する。
【0018】
キーポイント抽出装置2は、通信ネットワーク3を介してカメラ1から送信された人物画像IMG1を受信する。キーポイント抽出装置2は、受信した人物画像IMG1から、人物画像IMG1に写り込んだ人物の虹彩のキーポイントKPを抽出するためのキーポイント抽出動作を行う。
【0019】
キーポイント抽出システムSYSaは更に、照明装置4を備えていてもよい。照明装置4は、カメラ1が撮像可能な撮像対象範囲を照明光で照明可能である。撮像対象範囲に人物が存在する場合には、照明装置4は、撮像対象範囲に存在する人物を照明光で照明可能であってもよい。この場合、カメラ1は、照明装置4によって照明された人物を撮像してもよい。但し、キーポイント抽出システムSYSaは、照明装置4を備えていなくてもよい。
【0020】
(1-2)キーポイント抽出装置2の構成
続いて、
図2を参照しながら、第1実施形態のキーポイント抽出装置2の構成について説明する。
図2は、第1実施形態のキーポイント抽出装置2の構成を示すブロック図である。
【0021】
図2に示すように、キーポイント抽出装置2は、演算装置21と、記憶装置22と、通信装置23とを備えている。更に、キーポイント抽出装置2は、入力装置24と、出力装置25とを備えていてもよい。但し、キーポイント抽出装置2は、入力装置24及び出力装置25のうちの少なくとも一つを備えていなくてもよい。演算装置21と、記憶装置22と、通信装置23と、入力装置24と、出力装置25とは、データバス26を介して接続されていてもよい。
【0022】
演算装置21は、例えば、CPU(Central Processing Unit)、GPU(Graphics Proecssing Unit)及びFPGA(Field Programmable Gate Array)のうちの少なくとも一つを含む。演算装置21は、コンピュータプログラムを読み込む。例えば、演算装置21は、記憶装置22が記憶しているコンピュータプログラムを読み込んでもよい。例えば、演算装置21は、コンピュータで読み取り可能であって且つ一時的でない記録媒体が記憶しているコンピュータプログラムを、キーポイント抽出装置2が備える図示しない記録媒体読み取り装置を用いて読み込んでもよい。演算装置21は、通信装置23(或いは、その他の通信装置)を介して、キーポイント抽出装置2の外部に配置される不図示の装置からコンピュータプログラムを取得してもよい(つまり、ダウンロードしてもよい又は読み込んでもよい)。演算装置21は、読み込んだコンピュータプログラムを実行する。その結果、演算装置21内には、キーポイント抽出装置2が行うべき動作(例えば、上述したキーポイント抽出動作)を実行するための論理的な機能ブロックが実現される。つまり、演算装置21は、キーポイント抽出装置2が行うべき動作(言い換えれば、処理)を実行するための論理的な機能ブロックを実現するためのコントローラとして機能可能である。
【0023】
図2には、キーポイント抽出動作を実行するために演算装置21内に実現される論理的な機能ブロックの一例が示されている。
図2に示すように、演算装置21内には、「画像変換手段」の一具体例である画像変換部211と、「抽出手段」の一具体例であるキーポイント抽出部212と、「算出手段」の一具体例であるスコア算出部213とが実現される。尚、画像変換部211、キーポイント抽出部212及びスコア算出部213の夫々の動作については後に詳述するが、ここでその概要を簡単に説明する。画像変換部211は、人物画像IMG1を変換する画像変換処理を行うことで、変換画像IMG2を生成可能である。キーポイント抽出部212は、人物画像IMG1から、人物画像IMG1に写り込んでいる対象物(第1実施形態では、虹彩)のキーポイントKPを抽出可能である。更に、キーポイント抽出部212は、変換画像IMG2から、変換画像IMG2に写り込んでいる対象物(第1実施形態では、虹彩)のキーポイントKPを抽出可能である。尚、以下の説明では、人物画像IMG1から抽出されたキーポイントKPを、“キーポイントKP1”と称し、且つ、変換画像IMG2から抽出されたキーポイントKPを、“キーポイントKP2”と称することで、両者を区別する。キーポイントKP1は、「対象キーポイント」の一具体例であり、キーポイントKP2は、「変換キーポイント」の一具体例である。スコア算出部213は、キーポイントKP1とキーポイントKP2とに基づいて、人物画像IMG1から抽出されたキーポイントKP1の信頼度に関する指標値を、人物画像IMG1のスコア(以降、“画像スコアSC”と称する)として算出可能である。尚、本実施形態における「信頼度」は、キーポイント抽出部212が人物画像IMG1から実際に抽出したキーポイントKP1と、キーポイント抽出部212が人物画像IMG1から抽出するべきキーポイントKP1(つまり、キーポイントKP1の正解値)との誤差を評価するための指標値である。典型的には、誤差が小さくなるほど、キーポイント抽出部212が人物画像IMG1から実際に抽出したキーポイントKP1が、信頼できる(つまり、キーポイント抽出部212が人物画像IMG1から抽出するべきキーポイントKP1として支障なく利用可能である)と想定される。このため、典型的には、誤差が小さくなるほど、信頼度は高くなる。
【0024】
記憶装置22は、所望のデータを記憶可能である。例えば、記憶装置22は、演算装置21が実行するコンピュータプログラムを一時的に記憶していてもよい。記憶装置22は、演算装置21がコンピュータプログラムを実行している際に演算装置21が一時的に使用するデータを一時的に記憶してもよい。記憶装置22は、キーポイント抽出装置2が長期的に保存するデータを記憶してもよい。尚、記憶装置22は、RAM(Random Access Memory)、ROM(Read Only Memory)、ハードディスク装置、光磁気ディスク装置、SSD(Solid State Drive)及びディスクアレイ装置のうちの少なくとも一つを含んでいてもよい。つまり、記憶装置22は、一時的でない記録媒体を含んでいてもよい。
【0025】
通信装置23は、通信ネットワーク3を介して、カメラ1と通信可能である。第1実施形態では、通信装置23は、通信ネットワーク3を介して、カメラ1から人物画像IMG1を受信(つまり、取得)する。
【0026】
入力装置24は、キーポイント抽出装置2の外部からのキーポイント抽出装置2に対する情報の入力を受け付ける装置である。例えば、入力装置24は、キーポイント抽出装置2のオペレータが操作可能な操作装置(例えば、キーボード、マウス及びタッチパネルのうちの少なくとも一つ)を含んでいてもよい。例えば、入力装置24は、キーポイント抽出装置2に対して外付け可能な記録媒体にデータとして記録されている情報を読み取り可能な読取装置を含んでいてもよい。
【0027】
出力装置25は、キーポイント抽出装置2の外部に対して情報を出力する装置である。例えば、出力装置25は、情報を画像として出力してもよい。つまり、出力装置25は、出力したい情報を示す画像を表示可能な表示装置(いわゆる、ディスプレイ)を含んでいてもよい。例えば、出力装置25は、情報を音声として出力してもよい。つまり、出力装置25は、音声を出力可能な音声装置(いわゆる、スピーカ)を含んでいてもよい。例えば、出力装置25は、紙面に情報を出力してもよい。つまり、出力装置25は、紙面に所望の情報を印刷可能な印刷装置(いわゆる、プリンタ)を含んでいてもよい。
【0028】
(1-3)キーポイント抽出装置2が行うキーポイント抽出動作の流れ
続いて、
図3を参照しながら、第1実施形態のキーポイント抽出装置2が行うキーポイント抽出動作の流れについて説明する。
図3は、第1実施形態のキーポイント抽出装置2が行うキーポイント抽出動作の流れを示すフローチャートである。
【0029】
図3に示すように、キーポイント抽出装置2は、カメラ1から人物画像IMG1を取得する(ステップS11)。具体的には、キーポイント抽出装置2は、通信装置23を用いて、カメラ1がキーポイント抽出装置2に対して送信した人物画像IMG1を、通信ネットワーク3を介して受信する。
【0030】
その後、キーポイント抽出部212は、ステップS11において取得された人物画像IMG1から、人物画像IMG1に写り込んでいる虹彩のキーポイントKP(つまり、キーポイントKP1)を抽出する(ステップS11)。
【0031】
キーポイントKPは、対象物の特徴的な部分を特定可能な点に相当するキーポイントKPを含んでいてもよい。このため、キーポイント抽出部212は、虹彩のキーポイントKPとして、虹彩の特徴的な部分を特定可能な点に相当するキーポイントKPを抽出してもよい。例えば、人物画像IMG1から抽出された虹彩のキーポイントKPの一例を示す
図4に示すように、キーポイント抽出部212は、虹彩のキーポイントKPとして、虹彩の内側の輪郭(つまり、実質的には、瞳孔の輪郭)を特定可能な点に相当するキーポイントKP#1を抽出してもよい。キーポイントKP#1は、虹彩の内側の輪郭上に位置する点であってもよい。例えば、
図4に示すように、キーポイント抽出部212は、虹彩のキーポイントKPとして、虹彩の外側の輪郭を特定可能な点に相当するキーポイントKP#2を抽出してもよい。キーポイントKP#2は、虹彩の外側の輪郭上に位置する点であってもよい。例えば、
図4に示すように、キーポイント抽出部212は、虹彩のキーポイントKPとして、虹彩の中心を特定可能な点に相当するキーポイントKP#3を抽出してもよい。キーポイントKP#3は、虹彩の中心に位置する点であってもよい。尚、キーポイント抽出部212は、虹彩のキーポイントKPとして、虹彩の中心を特定可能な点に相当するキーポイントKP#3に加えて又は代えて、虹彩の中心に位置する瞳孔の中心を特定可能な点に相当するキーポイントKPを抽出してもよい。例えば、
図4に示すように、キーポイント抽出部212は、虹彩のキーポイントKPとして、虹彩を部分的に隠す可能性があるまぶたの縁を特定可能な点に相当するキーポイントKP#4を抽出してもよい。キーポイントKP#4は、瞼の縁上に位置する点であってもよい。例えば、
図4に示すように、キーポイント抽出部212は、虹彩のキーポイントKPとして、虹彩が含まれる目を特定可能な点に相当するキーポイントKP#5を抽出してもよい。一例として、キーポイント抽出部212は、キーポイントKP#5として、目頭を特定可能な点に相当するキーポイントKP#5-1及び目尻を特定可能な点に相当するキーポイントKP#5-2の少なくとも一方を抽出してもよい。
【0032】
キーポイントKPは、対象物の特徴的な部分を特定可能な点に相当するキーポイントKPに加えて又は代えて、対象物の特徴的な部分を特定可能な線に相当するキーポイントKPを含んでいてもよい。このため、キーポイント抽出部212は、虹彩のキーポイントKPとして、虹彩の特徴的な部分を特定可能な線に相当するキーポイントKPを抽出してもよい。例えば、キーポイント抽出部212は、虹彩のキーポイントKPとして、虹彩の内側の輪郭を特定可能な線(例えば、虹彩の内側の輪郭に沿って延びる線)に相当するキーポイントKPを抽出してもよい。例えば、キーポイント抽出部212は、虹彩のキーポイントKPとして、虹彩の外側の輪郭を特定可能な線(例えば、虹彩の外側の輪郭に沿って延びる線)に相当するキーポイントKPを抽出してもよい。例えば、キーポイント抽出部212は、虹彩のキーポイントKPとして、まぶたの縁を特定可能な線(例えば、瞼の縁に沿って延びる線)に相当するキーポイントKPを抽出してもよい。例えば、キーポイント抽出部212は、虹彩のキーポイントKPとして、目尻と目頭とを結ぶ線に相当するキーポイントKPを抽出してもよい。
【0033】
キーポイントKPとして抽出される点及び線の少なくとも一つは、対象物を定量的に特定するために利用可能であってもよい。このため、キーポイント抽出部212は、虹彩のキーポイントKPとして、虹彩を定量的に特定するために利用可能な点及び線の少なくとも一つに相当するキーポイントKPを抽出してもよい。例えば、キーポイント抽出部212は、虹彩のキーポイントKPとして、虹彩のサイズを特定するために利用可能な線に相当するキーポイントKPを抽出してもよい。一例として、虹彩の形状が円形である場合には、キーポイント抽出部212は、虹彩のキーポイントKPとして、虹彩のサイズの一例である虹彩の径(例えば、直径)を特定するために利用可能な線(例えば、虹彩の中心を通過し、且つ、虹彩の外側の輪郭上に両端が存在する線)に相当するキーポイントKPを抽出してもよい。他の一例として、虹彩の形状が楕円形である場合には、キーポイント抽出部212は、虹彩のキーポイントKPとして、虹彩のサイズの一例である虹彩の長径及び短径の少なくとも一つを特定するために利用可能な線に相当するキーポイントKPを抽出してもよい。虹彩の長径を特定するために利用可能な線は、例えば、虹彩の長軸を示す線を含んでいてもよい。虹彩の短径を特定するために利用可能な線は、例えば、虹彩の短軸を示す線を含んでいてもよい。例えば、キーポイント抽出部212は、虹彩のキーポイントKPとして、虹彩の中心に位置する瞳孔のサイズ(例えば、径)を特定するために利用可能な線に相当するキーポイントKPを抽出してもよい。
【0034】
キーポイント抽出部212は、ニューラルネットワークを用いて、キーポイントKPを抽出してもよい。具体的には、キーポイント抽出部212は、人物画像IMG1(或いは、変換画像IMG2を含む任意の画像)が入力された場合に人物画像IMG1(或いは、変換画像IMG2を含む任意の画像)に写り込んでいる虹彩のキーポイントKPを出力可能なニューラルネットワークを用いて、キーポイントKPを抽出してもよい。ニューラルネットワークのパラメータは、ニューラルネットワークのパラメータを学習するための学習画像と、当該学習画像に写り込んでいる虹彩のキーポイントKPの正解ラベル(つまり、学習画像から抽出されるべきキーポイントKPである正解キーポイント)とを含む学習用データを用いて学習されることが好ましい。尚、ニューラルネットワークは、学習可能な学習モデルの一例である。このため、キーポイント抽出部212は、ニューラルネットワークとは異なる任意の学習モデルを用いて、キーポイントKPを抽出してもよい。
【0035】
キーポイントKPを抽出する動作は、人物画像IMG1内でのキーポイントKPの位置(例えば、人物画像IMG1内での高さ方向及び幅方向の夫々におけるキーポイントKPの位置)を特定する動作を意味していてもよい。この場合、キーポイント抽出部212は、人物画像IMG1内でのキーポイントKPの位置を特定してもよい。上述したようにニューラルネットワークを用いてキーポイントKPが抽出される場合には、ニューラルネットワークは、人物画像IMG1内でのキーポイントKPの位置を出力してもよい。
【0036】
尚、カメラ1が生成した人物画像IMG1に必ずしも人物(特に、その虹彩)が適切に写り込んでいるとは限らない。この場合、キーポイント抽出部212は、
図4を用いてそれらの一例を説明した複数種類のキーポイントKPのうちの少なくとも一つを抽出しなくてもよい。つまり、キーポイント抽出部212は、複数種類のキーポイントKPのうちの全てを抽出する必要はない。キーポイント抽出部212は、人物画像IMG1から抽出可能な少なくとも一つのキーポイントKPを抽出すればよい。キーポイント抽出部212は、人物画像IMG1から抽出できない少なくとも一つのキーポイントKPを必ずしも抽出しなくてもよい。このため、キーポイント抽出部212がキーポイントKPを一つも抽出しない可能性もある。更には、人物画像IMG1に人物(特に、その虹彩)が写り込んでいない場合には、キーポイント抽出部212は、キーポイントKPを一つも抽出しなくてもよい。つまり、キーポイント抽出部212に入力される人物画像IMG1には、必ずしも人物(特に、その虹彩)が写り込んでいなくてもよい。
【0037】
再び
図3において、ステップS12の動作と並行して又は相前後して、画像変換部211は、ステップS11において取得された人物画像IMG1を変換する画像変換処理を行う(ステップS13)。その結果、画像変換部211は、画像変換処理が行われた人物画像IMG1である変換画像IMG2を生成する(ステップS13)。
【0038】
ステップS13における画像変換処理は、人物画像IMG1に対して幾何学的変換(言い換えれば、線形変換)を行う処理を含んでいてもよい。つまり、画像変換部211は、人物画像IMG1に対して幾何学的変換を行ってもよい。
【0039】
幾何学的変換の一例として、アフィン変換があげられる。つまり、ステップS13における画像変換処理は、人物画像IMG1に対してアフィン変換を行う処理を含んでいてもよい。アフィン変換は、平行移動を含んでいてもよい。つまり、ステップS13における画像変換処理は、人物画像IMG1を高さ方向及び幅方向の少なくとも一方に平行移動させる平行移動処理を含んでいてもよい。アフィン変換は、回転を含んでいてもよい。つまり、ステップS13における画像変換処理は、人物画像IMG1を回転させる回転処理を含んでいてもよい。アフィン変換は、拡大及び縮小を含んでいてもよい。つまり、ステップS13における画像変換処理は、人物画像IMG1を拡大又は縮小させるスケーリング処理を含んでいてもよい。アフィン変換は、せん断を含んでいてもよい。つまり、ステップS13における画像変換処理は、人物画像IMG1をせん断変換するせん断処理を含んでいてもよい。
【0040】
幾何学的変換の他の一例として、反転変換があげられる。つまり、ステップS13における画像変換処理は、人物画像IMG1に対して反転変換を行う処理を含んでいてもよい。例えば、ステップS13における画像変換処理は、人物画像IMG1を左右に反転する(言い換えれば、幅方向(水平方向)に反転する)処理を含んでいてもよい。つまり、ステップS13における画像変換処理は、高さ方向(垂直方向)に沿った対称軸に対して人物画像IMG1と線対称な画像を変換画像IMG2として生成する処理を含んでいてもよい。例えば、ステップS13における画像変換処理は、人物画像IMG1を上下に反転する(言い換えれば、高さ方向(垂直方向)に反転する)処理を含んでいてもよい。つまり、ステップS13における画像変換処理は、幅方向(水平方向)に沿った対称軸に対して人物画像IMG1と線対称な画像を変換画像IMG2として生成する処理を含んでいてもよい。
【0041】
ステップS13における画像変換処理は、人物画像IMG1の少なくとも一部の特性を変更する処理を含んでいてもよい。人物画像IMG1の特性は、人物画像IMG1の輝度(つまり、ブライトネス)を含んでいてもよい。この場合、ステップS13における画像変換処理は、人物画像IMG1の少なくとも一部の輝度を変更する処理を含んでいてもよい。特に、ステップS13における画像変換処理は、人物画像IMG1のうちの虹彩に相当する画像部分及び人物画像IMG1のうちの虹彩の周辺の部位に相当する画像部分の少なくとも一つの輝度を変更する処理を含んでいてもよい。人物画像IMG1の特性は、人物画像IMG1の輝度に加えて又は代えて、人物画像IMG1のコントラスト(つまり、輝度の比率)を含んでいてもよい。この場合、ステップS13における画像変換処理は、人物画像IMG1の少なくとも一部のコントラストを変更する処理を含んでいてもよい。特に、ステップS13における画像変換処理は、人物画像IMG1のうちの虹彩に相当する画像部分及び人物画像IMG1のうちの虹彩の周辺の部位に相当する画像部分の少なくとも一つのコントラストを変更する処理を含んでいてもよい。
【0042】
ステップS13において、画像変換部211は、単一の変換画像IMG2を生成してもよい。或いは、ステップS13において、キーポイント抽出部212は、複数の変換画像IMG2を生成してもよい。複数の変換画像IMG2は、異なる複数の画像変換処理によって生成されてもよい。例えば、画像変換部211は、人物画像IMG1を平行移動することで第1の変換画像IMG2を生成し、人物画像IMG1を回転することで第2の変換画像IMG2を生成し、人物画像IMG1を拡大又は縮小することで第3の変換画像IMG2を生成し、人物画像IMG1を反転することで第4の変換画像IMG2を生成し、人物画像IMG1の輝度を変更することで第5の変換画像IMG2を生成し、人物画像IMG1のコントラストを変更することで第6の変換画像IMG2を生成してもよい。
【0043】
その後、キーポイント抽出部212は、ステップS13において生成された変換画像IMG2から、変換画像IMG2に写り込んでいる虹彩のキーポイントKP(つまり、キーポイントKP2)を抽出する(ステップS14)。尚、ステップS14においてキーポイントKP2を抽出する動作は、ステップS12においてキーポイントKP1を抽出する動作と同一であってもよい。このため、ステップS14においてキーポイントKP2を抽出する動作の詳細な説明は省略する。
【0044】
ステップS13において複数の変換画像IMG2が生成される場合には、キーポイント抽出部212は、複数の変換画像IMG2の夫々からキーポイントKP2を抽出してもよい。例えば、上述したように画像変換部211が第1の変換画像IMG2から第6の変換画像IMG2を生成した場合には、キーポイント抽出部212は、第1の変換画像IMG2から第1のキーポイントKP2を抽出し、第2の変換画像IMG2から第2のキーポイントKP2を抽出し、第3の変換画像IMG2から第3のキーポイントKP2を抽出し、第4の変換画像IMG2から第4のキーポイントKP2を抽出し、第5の変換画像IMG2から第5のキーポイントKP2を抽出し、第6の変換画像IMG2から第6のキーポイントKP2を抽出してもよい。
【0045】
その後、スコア算出部213は、人物画像IMG1の画像スコアSCを算出する(ステップS15)。尚、人物画像IMG1の画像スコアSCは、上述したように、人物画像IMG1から抽出されたキーポイントKP1の信頼度に関する指標値である。以下、このような画像スコアSCについて説明する。
【0046】
キーポイント抽出部212がキーポイントKP1を抽出する人物画像IMG1の品質が常に一定であるとは限らない。例えば、一のタイミングでキーポイント抽出部212に入力された人物画像IMG1の品質が相対的に高い一方で、一のタイミングとは異なる他のタイミングでキーポイント抽出部212に入力された人物画像IMG1の品質が相対的に低い可能性がある。人物画像IMG1の品質が高くなるほど、キーポイント抽出部212は、抽出すべきキーポイントKP1を確実に抽出することができる可能性が高くなる。また、人物画像IMG1の品質が高くなるほど、キーポイント抽出部212は、キーポイントKP1を高精度に抽出することができる可能性が高くなる。尚、ここで言うキーポイントKP1の精度は、キーポイント抽出部212が抽出したキーポイントKP1の位置と、実際のキーポイントKP1の位置とのずれ量を定量的に評価するための指標値である。キーポイント抽出部212が抽出したキーポイントKP1の位置と実際のキーポイントKP1の位置とのずれ量が少なければ少ないほど、キーポイント抽出部212が抽出したキーポイントKP1は高い。このため、キーポイント抽出部212に入力された人物画像IMG1の品質が低くなればなるほど、キーポイント抽出部212が抽出したキーポイントKP1の精度が低くなる可能性が高い。つまり、キーポイント抽出部212に入力された人物画像IMG1の品質が低くなればなるほど、キーポイント抽出部212が抽出したキーポイントKP1の位置は、キーポイントKP1の本来の位置から大きくずれている可能性が高い。更には、場合によっては、キーポイント抽出部212に入力された人物画像IMG1の品質が低くなればなるほど、キーポイント抽出部212は、そもそも、抽出すべきキーポイントKP1を抽出できなくなる可能性が高くなる。このため、キーポイント抽出部212に入力された人物画像IMG1の品質が低くなればなるほど、キーポイント抽出部212が抽出したキーポイントKP1の信頼性は低いと想定される。このような観点から、スコア算出部213は、人物画像IMG1から抽出されたキーポイントKP1の信頼度に関する指標値を、人物画像IMG1の品質を定量的に評価可能な画像スコアSCとして算出する。
【0047】
キーポイント抽出部212がキーポイントKP1を抽出しにくい人物画像IMG1は、キーポイント抽出部212にとって相性の悪い人物画像IMG1であるとも言える。同様に、キーポイント抽出部212がキーポイントKP1を高精度に抽出することができない人物画像IMG1もまた、キーポイント抽出部212にとって相性の悪い人物画像IMG1であるとも言える。このため、画像スコアSCは、キーポイント抽出部212に対する人物画像IMG1の相性を定量的に評価するための指標値であるとみなしてもよい。尚、キーポイント抽出部212に対する人物画像IMG1の相性は、人物画像IMG1からのキーポイント抽出部212によるキーポイントKP1の抽出しやすさ(特に、高精度なキーポイントKP1の抽出しやすさ)を意味していてもよい。
【0048】
上述したように、学習可能なニューラルネットワーク(或いは、学習可能な任意の学習モデル)を用いてキーポイント抽出部212がキーポイントKP1を抽出する場合には、キーポイント抽出部212がキーポイントKP1を抽出しにくい人物画像IMG1は、学習モデルによる学習が不足している人物画像IMG1であるとも言える。同様に、キーポイント抽出部212がキーポイントKP1を高精度に抽出することができない人物画像IMG1もまた、学習モデルによる学習が不足している人物画像IMG1であるとも言える。このため、画像スコアSCは、学習モデルによる人物画像IMG1の学習の不足度(つまり、キーポイント抽出部212による人物画像IMG1の学習の不足度)を定量的に評価するための指標値であるとみなしてもよい。
【0049】
人物画像IMG1の品質は、人物画像IMG1に写り込んでいる物体(ここでは、人物)の状態に影響を受ける可能性がある。このため、画像スコアSCは、人物画像IMG1に写り込んでいる物体(ここでは、人物)の状態を定量的に評価するための指標値であるとみなしてもよい。例えば、人物画像IMG1に写り込んでいる人物の状態の一例として、メガネの有無があげられる。具体的には、人物画像IMG1に写り込んでいる人物がメガネをかけてない場合には、照明装置4からの照明光がメガネによって反射されることはない。このため、カメラ1は、メガネによる照明光の反射光の影響を受けることなく、人物の目(特に、虹彩)を撮像することが可能である。つまり、人物画像IMG1には、人物の目(特に、虹彩)が適切に写り込んでいる。この場合、キーポイント抽出部212は、人物画像IMG1から、虹彩のキーポイントKP1を相対的に高精度に抽出できる可能性が相対的に高くなる。一方で、人物画像IMG1に写り込んでいる人物がメガネをかけている場合には、照明装置4からの照明光がメガネによって反射される可能性がある。このため、カメラ1は、メガネによる照明光の反射光の影響を受ける可能性がある。つまり、人物画像IMG1には、人物の目(特に、虹彩)が適切に写り込んでいない可能性がある。例えば、人物画像IMG1には、メガネのレンズの奥にあるはずの人物の目(特に、虹彩)の一部が、メガネのレンズにおける反射光の写り込みによって隠される可能性がある。この場合、キーポイント抽出部212は、人物画像IMG1から、虹彩のキーポイントKP1を高精度に抽出できない可能性がある。このため、スコア算出部213は、メガネをかけている人物が写り込んでいる人物画像IMG1の画像スコアSCが、メガネをかけていない人物が写り込んでいる人物画像IMG1の画像スコアSCよりも悪くなるように、画像スコアSCを算出してもよい。但し、第1実施形態では、スコア算出部213は、後述するように、人物画像IMG1にメガネをかけている人物が写り込んでいるか否かを直接的に判定することなく、キーポイント抽出部212が抽出したキーポイントKPに基づいて画像スコアSCを算出する。しかしながら、スコア算出部213は、人物画像IMG1にメガネをかけている人物が写り込んでいるか否かを直接的に判定することで、画像スコアSCを算出してもよい。
【0050】
他方で、人物画像IMG1に写り込んでいる人物がメガネをかけている場合であっても、照明装置4からの照明光の照明条件によっては、キーポイント抽出部212は、人物画像IMG1から、虹彩のキーポイントKP1を高精度に抽出できる可能性がある。具体的には、キーポイント抽出部212は、照明条件が第1の条件となる状況下で人物を撮像することで生成された人物画像IMG1から、キーポイントKP1を高精度に抽出することができる一方で、照明条件が第1の条件とは異なる第2の条件となる状況下で人物を撮像することで生成された人物画像IMG1から、キーポイントKP1を高精度に抽出することができない可能性がある。つまり、人物画像IMG1の品質は、人物画像IMG1に写り込んでいる物体(ここでは、人物)の状態に影響を与える照明条件に影響を受ける可能性がある。このため、画像スコアSCは、照明条件を定量的に評価するための指標値であるとみなしてもよい。逆に言えば、スコア算出部213は、照明条件に応じて変動し得る画像スコアSCを算出してもよい。但し、第1実施形態では、スコア算出部213は、後述するように、照明条件を直接的に参照することなく、キーポイント抽出部212が抽出したキーポイントKPに基づいて画像スコアSCを算出する。しかしながら、スコア算出部213は、照明条件に基づいて、画像スコアSCを算出してもよい。
【0051】
ステップS15では、スコア算出部213は、ステップS12において抽出されたキーポイントKP1と、ステップS14において抽出されたキーポイントKP2とに基づいて、人物画像IMG1の画像スコアSCを算出する。ここで、人物画像IMG1の品質が相対的に高い場合には、キーポイント抽出部212がキーポイントKP1を高精度に抽出可能であることは、上述したとおりである。このため、人物画像IMG1からキーポイント抽出部212が抽出したキーポイントKP1と実際のキーポイントKP1とのずれ量は、相対的に小さくなる。更に、人物画像IMG1に対して画像変換処理を行うことで生成される変換画像IMG2からキーポイント抽出部212が抽出したキーポイントKP2と実際のキーポイントKP2とのずれ量もまた、相対的に小さくなる。従って、人物画像IMG1の品質が相対的に高い場合には、キーポイントKP1とキーポイントKP2とのずれ量(つまり、キーポイントKP1の位置とキーポイントKP2の位置とのずれ量)が相対的に小さくなると想定される。一方で、人物画像IMG1の品質が相対的に低い場合には、キーポイント抽出部212がキーポイントKP1を高精度に抽出できない可能性がある。このため、キーポイントKP1とキーポイントKP2とのずれ量が相対的に大きくなると想定される。なぜならば、キーポイント抽出部212がキーポイントKP1(更には、キーポイントKP2)を高精度に抽出できない可能性があるがゆえに、キーポイント抽出部212が抽出したキーポイントKP1と実際のキーポイントKP1とのずれ量が、キーポイント抽出部212が抽出したキーポイントKP2と実際のキーポイントKP2とのずれ量とは異なる可能性があるからである。
【0052】
このため、キーポイントKP1とキーポイントKP2とのずれ量(つまり、違い)は、人物画像IMG1の品質に関する情報を含んでいると想定される。従って、スコア算出部213は、キーポイントKP1とキーポイントKP2とを比較し、キーポイントKP1とキーポイントKP2との比較結果に基づいて、画像スコアSCを算出してもよい。
【0053】
図4に示すようにキーポイント抽出部212が複数種類のキーポイントKPを抽出する場合には、スコア算出部213は、キーポイントKP1とキーポイントKP2とを、キーポイントKPの種類ごとに比較してもよい。例えば、スコア算出部213は、第1の種類のキーポイントKP1と同じ第1の種類のキーポイントKP2とを比較し、第2の種類のキーポイントKP1と同じ第2の種類のキーポイントKP2とを比較し、・・・、第n(nは、2以上の整数を示す変数)の種類のキーポイントKP1と同じ第nの種類のキーポイントKP2とのずれ量とを比較してもよい。一具体例として、例えば、スコア算出部213は、虹彩の内側の輪郭を特定可能なキーポイントKP1と同じ虹彩の内側の輪郭を特定可能なキーポイントKP2とを比較し、虹彩の外側の輪郭を特定可能なキーポイントKP1と同じ虹彩の内側の輪郭を特定可能なキーポイントKP2とを比較し、虹彩の中心を特定可能なキーポイントKP1と同じ虹彩の中心を特定可能なキーポイントKP2とのずれ量とを比較してもよい。この場合、キーポイント抽出部212がn種類のキーポイントKPを抽出する場合において、スコア算出部213は、キーポイントKP1とキーポイントKP2とを、n種類のキーポイントKPの全てにおいて比較してもよい。或いは、スコア算出部213は、キーポイントKP1とキーポイントKP2とを、n種類のキーポイントKPのうちの一部において比較し、キーポイントKP1とキーポイントKP2とを、n種類のキーポイントKPのうちの他の一部において比較しなくてもよい。その後、スコア算出部213は、複数種類のキーポイントKPに夫々対応する複数の比較結果に基づいて、画像スコアSCを算出してもよい。例えば、スコア算出部213は、複数の比較結果の平均値(例えば、単純平均値又は二乗平均値)に基づいて、画像スコアSCを算出してもよい。スコア算出部213は、複数の比較結果の総和(例えば、単純総和又は二乗総和)に基づいて、画像スコアSCを算出してもよい。
【0054】
上述したようにステップS13において複数の変換画像IMG2が生成され且つステップS14において複数の変換画像IMG2から夫々複数のキーポイントKP2が抽出される場合には、スコア算出部213は、キーポイントKP1と複数のキーポイントKP2とを比較してもよい。例えば、上述したようにキーポイント抽出部212が第1の変換画像IMG2から第6の変換画像IMG2から夫々第1のキーポイントKP2から第6のキーポイントKP2を抽出した場合には、スコア算出部213は、キーポイントKP1と第1のキーポイントKP2とを比較し、キーポイントKP1と第2のキーポイントKP2とを比較し、キーポイントKP1と第3のキーポイントKP2とを比較し、キーポイントKP1と第4のキーポイントKP2とを比較し、キーポイントKP1と第5のキーポイントKP2とを比較し、キーポイントKP1と第6のキーポイントKP2とを比較してもよい。その後、スコア算出部213は、複数のキーポイントKP2に夫々対応する複数の比較結果に基づいて、画像スコアSCを算出してもよい。例えば、スコア算出部213は、複数の比較結果の平均値(例えば、単純平均値又は二乗平均値)に基づいて、画像スコアSCを算出してもよい。スコア算出部213は、複数の比較結果の総和(例えば、単純総和又は二乗総和)に基づいて、画像スコアSCを算出してもよい。
【0055】
スコア算出部213は、キーポイントKP1とキーポイントKP2とを比較することで、キーポイントKP1とキーポイントKP2とのずれ量を算出してもよい。この場合、スコア算出部213は、比較結果に相当するずれ量に基づいて、画像スコアSCを算出してもよい。例えば、スコア算出部213は、ずれ量が大きくなるほど、画像スコアSCが悪くなるように、画像スコアSCを算出してもよい。言い換えれば、スコア算出部213は、ずれ量が小さくなるほど、画像スコアSCが良くなるように、画像スコアSCを算出してもよい。一例として、スコア算出部213は、ずれ量が大きくなるほど大きくなる画像スコアSCを算出してもよい。この場合、画像スコアSCが大きくなるほど、人物画像IMG1の品質が悪い(言い換えれば、抽出されたキーポイントKP1の信頼性が低い)と言える。他の一例として、スコア算出部213は、ずれ量が大きくなるほど小さくなる画像スコアSCを算出してもよい。この場合、画像スコアSCが大きくなるほど、人物画像IMG1の品質が良い(言い換えれば、抽出されたキーポイントKP1の信頼性が高い)と言える。
【0056】
上述したように、キーポイント抽出部212は、キーポイントKPを抽出する際に、キーポイントKPの位置を特定する。このようにキーポイントKP1の位置が特定されるがゆえに、スコア算出部213は、キーポイントKP1とキーポイントKP2とのずれ量として、キーポイントKP1とキーポイントKP2との間の距離を算出してもよい。
【0057】
但し、キーポイントKP1の位置が人物画像IMG1内での位置として特定される一方で、キーポイントKP2の位置が変換画像IMG2内での位置として特定される。このため、
キーポイントKP1の位置を特定するための第1座標系(つまり、人物画像IMG1内での座標系)と、キーポイントKP2の位置を特定するための第2座標系(つまり、変換画像IMG2内での座標系)とが一致しているとは限らない。一方で、キーポイント抽出装置2自身が人物画像IMG1に対して画像変換処理を行うことで変換画像IMG2を生成しているがゆえに、キーポイント抽出装置2は、第1座標系及び第2座標系のいずれか一方の位置を、第1座標系及び第2座標系のいずれか一方の位置へと変換可能である。このため、画像スコアSCを算出する前に、スコア算出部213は、ステップS14において抽出された第2座標系内でのキーポイントKP2を、第1座標系内でのキーポイントKP2に変換してもよい。つまり、スコア算出部213は、ステップS14において抽出された第2座標系内でのキーポイントKP2の位置を、第1座標系内でのキーポイントKP2の位置に変換してもよい。その後、スコア算出部213は、第1座標系内でのキーポイントKP1及び第1座標系内でのキーポイントKP2に基づいて、画像スコアSCを算出してもよい。例えば、スコア算出部213は、第1座標系内でのキーポイントKP1とキーポイントKP2とのずれ量を算出し、算出したずれ量に基づいて、画像スコアSCを算出してもよい。
【0058】
キーポイント抽出部212がキーポイントKPを高精度に抽出できない可能性がある場合には、キーポイントKPが抽出される状況次第で、抽出されるキーポイントKPのばらつきが大きくなる可能性があることは上述したとおりである。このため、スコア算出部213は、キーポイントKP1とキーポイントKP2とを比較することで、キーポイントKPの標準偏差(つまり、キーポイントKP1とキーポイントKP2とのばらつき(言い換えれば、散らばり度合い))を算出し、比較結果に相当する標準偏差に基づいて、画像スコアSCを算出してもよい。この場合、スコア算出部213は、標準偏差が大きくなるほど、画像スコアSCが悪くなるように、画像スコアSCを算出してもよい。言い換えれば、スコア算出部213は、標準偏差が小さくなるほど、画像スコアSCが良くなるように、画像スコアSCを算出してもよい。一例として、スコア算出部213は、標準偏差が大きくなるほど大きくなる画像スコアSCを算出してもよい。この場合、画像スコアSCが大きくなるほど、人物画像IMG1の品質が悪い(言い換えれば、抽出されたキーポイントKP1の信頼性が低い)と言える。他の一例として、スコア算出部213は、標準偏差が大きくなるほど小さくなる画像スコアSCを算出してもよい。この場合、画像スコアSCが大きくなるほど、人物画像IMG1の品質が良い(言い換えれば、抽出されたキーポイントKP1の信頼性が高い)と言える。
【0059】
スコア算出部213は、キーポイント抽出部212が複数の変換画像IMG2から夫々複数のキーポイントKP2を抽出する場合に、キーポイントKPの標準偏差を算出してもよい。なぜならば、標準偏差は、母集団のサンプル数(つまり、標準偏差を算出するために用いられるキーポイントKP1及びキーポイントKP2の総数)が過度に少ない場合には、その信頼性が低くなるからである。
【0060】
(1-4)キーポイント抽出装置2の技術的効果
以上説明したように、第1実施形態のキーポイント抽出装置2は、画像スコアSCを算出可能である。画像スコアSCは、人物画像IMG1から抽出されたキーポイントKP1の信頼度に関する指標値であり、且つ、人物画像IMG1の品質を定量的に評価可能な指標値である。このため、キーポイント抽出装置2は、この画像スコアSCを用いて、キーポイント抽出装置2が人物画像IMG1からキーポイントKP1を高精度に抽出できるように、様々な対策を行うことができる。
【0061】
例えば、相対的に悪い画像スコアSCが算出された人物画像IMG1は、キーポイント抽出部212がキーポイントKP1を高精度に抽出できない(つまり、抽出されたキーポイントKP1の信頼性が相対的に低いと評価される)ほどに品質が悪い画像である可能性がある。このため、相対的に悪い画像スコアSCが算出された場合には、人物画像IMG1の品質を向上させる必要性が相対的に高いと想定される。従って、この場合には、キーポイント抽出装置2は、人物画像IMG1の品質を向上させるための対策を行ってもよい。尚、人物画像IMG1の品質を向上させるための対策の一例として、照明装置4による照明光の照明条件の変更があげられるが、この対策については、後述の第2実施形態で説明する。
【0062】
例えば、相対的に悪い画像スコアSCが算出された人物画像IMG1は、キーポイント抽出部212がキーポイントKP1を高精度に抽出できない(つまり、抽出されたキーポイントKP1の信頼性が相対的に低いと評価される)ほどにキーポイント抽出部212による学習が不足している画像である可能性がある。このため、相対的に悪い画像スコアSCが算出された場合には、当該相対的に悪い画像スコアSCを有する人物画像IMG1を用いてキーポイント抽出部212の学習(具体的には、上述した学習モデルの学習)を行う必要性が相対的に高いと想定される。従って、キーポイント抽出装置2は、画像スコアSCが相対的に悪い人物画像IMG1を用いてキーポイント抽出部212の学習を行うことができる。
【0063】
また、第1実施形態では、キーポイント抽出装置2は、人物画像IMG1から抽出されるキーポイントKP1と、人物画像IMG1に対して画像変換処理を行うことで生成される変換画像IMG2から抽出されるキーポイントKP2とを比較することで、画像スコアSCを算出可能である。上述したように人物画像IMG1の品質が相対的に高い場合には、キーポイントKP1とキーポイントKP2とのずれ量が相対的に小さくなる一方で、人物画像IMG1の品質が相対的に低い場合には、キーポイントKP1とキーポイントKP2とのずれ量が相対的に大きくなる。このため、キーポイント抽出装置2は、キーポイントKP1とキーポイントKP2とを比較することで、適切に画像スコアSCを算出することができる。
【0064】
(1-5)キーポイント抽出装置2の変形例
上述した説明では、キーポイント抽出装置2は、人物画像IMG1からキーポイントKPを抽出可能であって且つ変換画像IMG2からキーポイントKPを抽出可能な単一のキーポイント抽出部212を備えている。しかしながら、キーポイント抽出装置2は、人物画像IMG1からキーポイントKPを抽出可能なキーポイント抽出部と、変換画像IMG2からキーポイントKPを抽出可能なキーポイント抽出部とを別々に備えていてもよい。
【0065】
(2)第2実施形態のキーポイント抽出システムSYS
続いて、第2実施形態のキーポイント抽出システムSYSについて説明する。尚、以下の説明では、第2実施形態のキーポイント抽出システムSYSを、“キーポイント抽出システムSYSb”と称する。
【0066】
第2実施形態のキーポイント抽出システムSYSbは、上述した第1実施形態のキーポイント抽出システムSYSaと比較して、キーポイント抽出装置2に代えて、キーポイント抽出装置2bを備えるという点で異なる。キーポイント抽出システムSYSbのその他の特徴は、キーポイント抽出システムSYSaのその他の特徴と同一であってもよい。このため、以下では、
図5を参照しながら、第2実施形態のキーポイント抽出装置2bについて説明する。
図5は、第2実施形態のキーポイント抽出装置2bの構成を示すブロック図である。尚、既に説明済みの構成要件については、同一の参照符号を付することで、その詳細な説明を省略する。また、既に説明済みの処理については、同一のステップ番号を付することで、その詳細な説明を省略する。
【0067】
図5に示すように、第2実施形態のキーポイント抽出装置2bは、第1実施形態のキーポイント抽出装置2と比較して、演算装置21内に、「照明制御手段」の一具体例である照明制御部214bが実現されるという点で異なる。キーポイント抽出装置2bのその他の特徴は、キーポイント抽出装置2のその他の特徴と同一であってもよい。
【0068】
照明制御部214bは、照明装置4を制御可能である。具体的には、照明制御部214bは、照明装置4を制御することで、照明装置4による照明光の照明条件を制御可能(具体的には、変更可能)である。照明条件は、例えば、照明光そのものの条件(以降、“光条件”と称する)を含んでいてもよい。光条件は、例えば、照明光の強度及び照明光の波長のうちの少なくとも一つを含んでいてもよい。照明条件は、例えば、照明装置4そのものの条件(以降、“装置条件”と称する)を含んでいてもよい。装置条件は、例えば、照明装置4の位置(つまり、照明装置4から照明光が射出される射出位置)及び照明装置4の向き(つまり、照明装置4の姿勢であり、照明装置4が照明光を射出する射出方向)のうちの少なくとも一つを含んでいてもよい。
【0069】
照明制御部214bは特に、スコア算出部213が算出した画像スコアSCに基づいて、照明装置4を制御してもよい。具体的には、照明制御部214bは、画像スコアSCが改善される(つまり、良くなる)ように、照明装置4を制御してもよい。上述したように、上述したように人物画像IMG1の品質が良くなればなるほど(言い換えれば、抽出されたキーポイントKP1の信頼性が高くなれば高くなるほど)画像スコアSCが大きくなる場合には、照明制御部214bは、画像スコアSCが大きくなる(或いは、最大になる)ように、照明装置4を制御してもよい。上述したように人物画像IMG1の品質が良くなればなるほど(言い換えれば、抽出されたキーポイントKP1の信頼性が高くなれば高くなるほど)画像スコアSCが小さくなる場合には、照明制御部214bは、画像スコアSCが小さくなる(或いは、最小になる)ように、照明装置4を制御してもよい。
【0070】
画像スコアSCが改善されるように照明装置4を制御するために、カメラ1は、照明条件が異なる複数の状況の夫々において人物を撮像してもよい。具体的には、照明制御部214bは、照明条件が第1の条件に設定されるように照明装置4を制御し、カメラ1は、照明条件が第1の条件に設定されている状況下において人物を撮像することで、人物画像IMG1#21を生成してもよい。その後、照明制御部214bは、照明条件が第1の条件とは異なる第2の条件に設定されるように照明装置4を制御し、カメラ1は、照明条件が第2の条件に設定されている状況下において人物を撮像することで、人物画像IMG1#22を生成してもよい。その後、スコア算出部213は、人物画像IMG1#21の画像スコアSC#21と、人物画像IMG1#22の画像スコアSC#22とを算出してもよい。その後、照明制御部214bは、画像スコアSC#21と画像スコアSC#22とを比較することで、画像スコアSCが改善されるように照明条件を設定してもよい。例えば、画像スコアSC#21が画像スコアSC#22よりもよい場合には、照明制御部214bは、以降の動作で用いられる照明条件が第2の条件に設定されるように照明装置4を制御してもよい。以降は、カメラ1は、照明条件が第2の条件に設定されている状況下において人物を撮像することになる。尚、必要に応じて、照明制御部214bは、照明条件を変更し、照明条件の変更前後における画像スコアSCの比較結果に基づいて照明条件を設定する動作を繰り返してもよい。その結果、画像スコアSCがより一層改善されるように、照明条件が変更される。
【0071】
このような照明制御部214bの動作によって画像スコアSCが改善される場面の一例として、メガネをかけた人物がカメラ1によって撮像される場面があげられる。上述したように、メガネをかけた人物がカメラ1によって撮像される場合には、人物画像IMG1には、メガネをかけた人物が写り込む。この場合には、照明装置4からの照明光がメガネによって反射される可能性がある。このため、人物画像IMG1には、人物の目(特に、虹彩)が適切に写り込んでいない可能性がある。例えば、人物画像IMG1には、メガネのレンズの奥にあるはずの人物の目(特に、虹彩)の一部が、メガネのレンズにおける反射光の写り込みによって隠される可能性がある。一方で、照明条件が変更された場合には、メガネのレンズによる照明光の反射態様が変わる可能性がある。その結果、メガネのレンズにおける反射光の写り込みによって隠されていた人物の目(特に、虹彩)の一部が、人物画像IMG1内に写り込む可能性がある。この場合、人物の目(特に、虹彩)が人物画像IMG1に適切に写り込んでいるか否かは、画像スコアSCから評価可能である。なぜならば、人物の目(特に、虹彩)の一部がメガネのレンズにおける反射光の写り込みによって隠される場合には、画像スコアSCが相対的に悪くなる一方で、人物の目(特に、虹彩)の一部がメガネのレンズにおける反射光の写り込みによって隠されていない場合には、画像スコアSCが相対的に良くなるからである。このため、この場合には、照明制御部214b、人物の目(特に、虹彩)の一部がメガネのレンズにおける反射光の写り込みによって隠されなくなる(その結果、画像スコアSCが改善する)ように、照明装置4を制御可能である。
【0072】
このように、第2実施形態では、キーポイント抽出装置2bは、キーポイント抽出部212がキーポイントKP1を高精度に抽出できる(つまり、抽出されたキーポイントKP1の信頼性が相対的に高いと評価される)ように、照明装置4を制御することができる。このため、キーポイント抽出装置2bは、第1実施形態のキーポイント抽出装置2が享受可能な効果と同様の効果を享受しつつ、人物画像IMG1の品質を向上させるための対策を行うことができる。
【0073】
尚、照明制御部214bは、キーポイント抽出部212が抽出したキーポイントKPを用いた動作(例えば、上述した虹彩を用いて人物を認証する動作)が行われている期間中に、画像スコアSCが改善されるように照明装置4を制御してもよい。照明制御部214bは、キーポイント抽出部212が抽出したキーポイントKPを用いた動作(例えば、上述した虹彩を用いて人物を認証する動作)が開始される前に、画像スコアSCが改善されるように照明装置4を制御してもよい。
【0074】
(3)第3実施形態のキーポイント抽出システムSYS
続いて、第3実施形態のキーポイント抽出システムSYSについて説明する。尚、以下の説明では、第3実施形態のキーポイント抽出システムSYSを、“キーポイント抽出システムSYSc”と称する。
【0075】
第3実施形態のキーポイント抽出システムSYScは、上述した第1実施形態のキーポイント抽出システムSYSaと比較して、キーポイント抽出装置2に代えて、キーポイント抽出装置2cを備えるという点で異なる。キーポイント抽出システムSYScのその他の特徴は、キーポイント抽出システムSYSaのその他の特徴と同一であってもよい。このため、以下では、
図6を参照しながら、第3実施形態のキーポイント抽出装置2cについて説明する。
図6は、第2実施形態のキーポイント抽出装置2cの構成を示すブロック図である。
【0076】
図6に示すように、第3実施形態のキーポイント抽出装置2cは、第1実施形態のキーポイント抽出装置2と比較して、演算装置21内に、「選択手段」の一具体例である画像選択部215cが実現されるという点で異なる。キーポイント抽出装置2cのその他の特徴は、キーポイント抽出装置2のその他の特徴と同一であってもよい。
【0077】
画像選択部215cは、スコア算出部213が算出した画像スコアSCが所定の選択基準を満たしている人物画像IMG1を選択する。具体的には、スコア算出部213は、典型的には、カメラ1が人物を新たに撮像する都度(つまり、人物画像IMG1を新たに生成する都度)、新たに生成された人物画像IMG1の画像スコアSCを算出する。このため、典型的には、スコア算出部213は、複数の人物画像IMG1の夫々の画像スコアSCを算出する。画像選択部215cは、この複数の人物画像IMG1の中から、画像スコアSCが所定の選択基準を満たしている少なくとも一つの人物画像IMG1を選択する。
【0078】
選択された人物画像IMG1は、所望の用途で用いられてもよい。例えば、選択された人物画像IMG1は、キーポイント抽出部212の学習(具体的には、上述したキーポイント抽出部212が用いる学習モデルの学習)という用途で用いられてもよい。選択された人物画像IMG1が所望の用途のために用いられる場合には、人物画像IMG1を選択するために用いられる選択基準は、所望の用途に応じて設定されてもよい。例えば、選択基準は、学習モデルの学習という用途に応じて設定されてもよい。
【0079】
学習モデルの学習という用途に応じて設定される選択基準の一例として、画像スコアSCが所定の選択閾値よりも悪いという第1の基準があげられる。この場合、画像選択部215cは、画像スコアSCが選択閾値よりも悪い人物画像IMG1を選択する。例えば、上述したように人物画像IMG1の品質が良くなればなるほど(言い換えれば、抽出されたキーポイントKP1の信頼性が高くなれば高くなるほど)画像スコアSCが大きくなる場合には、画像選択部215cは、画像スコアSCが選択閾値よりも小さい人物画像IMG1を選択してもよい。例えば、上述したように人物画像IMG1の品質が良くなればなるほど(言い換えれば、抽出されたキーポイントKP1の信頼性が高くなれば高くなるほど)画像スコアSCが小さくなる場合には、画像選択部215cは、画像スコアSCが選択閾値よりも大きい人物画像IMG1を選択してもよい。
【0080】
このような第1の基準が選択基準として用いられる場合には、画像選択部215cは、画像スコアSCが相対的に悪い人物画像IMG1を選択する。第1実施形態で説明したように、画像スコアSCが相対的に悪い人物画像IMG1は、学習モデルによる学習が不足している画像である可能性が相対的に高い。このため、第1の基準が選択基準として用いられる場合には、画像選択部215cは、学習モデルによる学習が不足している人物画像IMG1を選択することができる。その結果、学習モデルによる学習が不足している人物画像IMG1を用いて、学習モデルの学習が行われる。このため、学習モデルによる学習が十分である人物画像IMG1を用いて学習モデルの学習が行われる場合と比較して、学習モデルの学習が効率的に行われる。つまり、学習モデルの学習効率があがる。
【0081】
尚、第1の基準で用いられる選択閾値は、学習モデルによる学習が不足している(言い換えれば、学習モデルにとって相性が悪い)人物画像IMG1と、学習モデルによる学習が不足していない(言い換えれば、学習モデルにとって相性が良い)人物画像IMG1とを、画像スコアSCから区別可能な所望の値に設定されてもよい。
【0082】
学習モデルの学習という用途に応じて設定される選択基準の他の一例として、画像スコアSCが既知である複数の学習画像を用いて学習モデルが学習済みである状況下において、画像スコアSCが、学習モデルが学習済みの複数の学習画像を画像スコアSCに応じて分類した場合に分類される学習画像のサンプル数が所定数よりも少ない画像スコアSCの範囲に含まれるという第2の基準があげられる。例えば、
図7は、学習画像のサンプル数と、学習画像の画像スコアSCとの関係を示している。つまり、
図7は、ある画像スコアSCの学習画像のサンプル数を、画像スコアSC毎に示している。ここで、
図7に示す例では、所定数が閾値THに設定されている。この場合、
図7に示すように、学習画像のサンプル数が所定数(=閾値TH)よりも少ない画像スコアSCの範囲は、「所定スコアSC1<画像スコアSC<所定スコアSC2」という範囲となる。従って、
図7に示す例では、画像選択部215cは、画像スコアSCが所定スコアSC1よりも大きく且つ所定スコアSC2よりも小さい人物画像IMG1を選択する。
【0083】
このような第2の基準が選択基準として用いられる場合には、画像選択部215cは、学習モデルが学習済みの学習画像とは画像スコアSCが異なる人物画像IMG1を優先的に選択する。学習モデルが学習済みの学習画像とは画像スコアSCが異なる人物画像IMG1は、学習モデルによる学習が不足している画像である可能性が相対的に高い。このため、第2の基準が選択基準として用いられる場合には、画像選択部215cは、学習モデルによる学習が不足している人物画像IMG1を選択することができる。その結果、学習モデルによる学習が不足している人物画像IMG1を用いて、学習モデルの学習が行われる。このため、学習モデルによる学習が十分である人物画像IMG1を用いて学習モデルの学習が行われる場合と比較して、学習モデルの学習が効率的に行われる。つまり、学習モデルの学習効率があがる。
【0084】
尚、第2の基準で用いられる所定数(例えば、
図7における閾値TH)は、学習モデルによる学習が不足している(言い換えれば、学習モデルにとって相性が悪い)人物画像IMG1と、学習モデルによる学習が不足していない(言い換えれば、学習モデルにとって相性が良い)人物画像IMG1とを、それらのサンプル数から区別可能な所望の値に設定されてもよい。
【0085】
人物画像IMG1を用いて学習モデルの学習を行うために教師あり学習を行う場合には、人物画像IMG1に対して、当該人物画像IMG1から抽出されるべきキーポイントKPの正解ラベルを付与する(つまり、アノテーションを行う)ことで、人物画像IMG1と正解ラベルとを含む学習用データを生成することが望まれる。しかしながら、一般的に、正解ラベルの付与には手間がかかる。しかるに、第1の基準又は第2の基準が選択基準として用いられる場合には、複数の人物画像IMG1の中から第1の基準又は第2の基準に基づいて選択された人物画像IMG1に対して正解ラベルが付与されれば十分である。つまり、複数の人物画像IMG1の全てに正解ラベルが付与されなくてもよくなる。このため、第2実施形態では、正解ラベルの付与に要する手間が軽減される。つまり、学習用データの生成に要する手間が軽減される。
【0086】
尚、画像選択部215cは、画像スコアSCが第1の基準及び第2の基準の双方を満たす人物画像IMG1を選択してもよい。例えば、画像選択部215cは、複数の人物画像IMG1の中から、画像スコアSCが第1の基準を満たす複数の人物画像IMG1を選択し、その後、画像スコアSCが第1の基準を満たす複数の人物画像IMG1の中から、画像スコアSCが第2の基準を満たす複数の人物画像IMG1を選択してもよい。
【0087】
このように、第3実施形態では、キーポイント抽出装置2cは、画像スコアSCが選択基準を満たす人物画像IMG1を選択する(例えば、収集する)ことができる。このため、キーポイント抽出装置2cは、第1実施形態のキーポイント抽出装置2が享受可能な効果と同様の効果を享受しつつ、選択された人物画像IMG1を用いて、所望の動作(例えば、キーポイント抽出部212が用いる学習モデルの学習)を行うことができる。
【0088】
尚、上述した第2実施形態のキーポイント抽出装置2bが、第3実施形態のキーポイント抽出装置2cに特有の構成要件を備えていてもよい。第3実施形態のキーポイント抽出装置2cに特有の構成要件は、画像選択部215cを含んでいてもよい。第3実施形態のキーポイント抽出装置2cに特有の構成要件は、画像スコアSCに基づく人物画像IMG1の選択に関する構成要件を含んでいてもよい。
【0089】
(4)第4実施形態のキーポイント抽出システムSYS
続いて、第4実施形態のキーポイント抽出システムSYSについて説明する。尚、以下の説明では、第4実施形態のキーポイント抽出システムSYSを、“キーポイント抽出システムSYSd”と称する。
【0090】
第4実施形態のキーポイント抽出システムSYSdは、上述した第1実施形態のキーポイント抽出システムSYSaと比較して、キーポイント抽出装置2に代えて、キーポイント抽出装置2dを備えるという点で異なる。キーポイント抽出システムSYSdのその他の特徴は、キーポイント抽出システムSYSaのその他の特徴と同一であってもよい。このため、以下では、
図8を参照しながら、第4実施形態のキーポイント抽出装置2dについて説明する。
図8は、第4実施形態のキーポイント抽出装置2dの構成を示すブロック図である。
【0091】
図8に示すように、第4実施形態のキーポイント抽出装置2dは、第1実施形態のキーポイント抽出装置2と比較して、演算装置21内に、「学習手段」の一具体例である学習部216dと、「学習手段」の一具体例である重み算出部217dとが実現されるという点で異なる。更には、キーポイント抽出装置2dは、キーポイント抽出装置2と比較して、記憶装置22が、キーポイント抽出部212が用いる学習モデルの学習のために用いられる学習用データ221dを記憶しているという点で異なる。キーポイント抽出装置2dのその他の特徴は、キーポイント抽出装置2のその他の特徴と同一であってもよい。
【0092】
学習部216dは、学習用データ221dを用いて、キーポイント抽出部212が用いる学習モデルの学習を行う。第4実施形態では、学習部216dは、学習用データ221dを用いて半教師あり学習を行うことで、学習モデルの学習を行う。このため、学習部216dは、半教師あり学習を行うための学習用データ221dを用いて、学習モデルの学習を行う。
【0093】
半教師あり学習を行うための学習用データ221dの一例が
図9に示されている。
図9に示すように、学習用データ221dは、ラベル付き学習用データ2211dと、ラベルなし学習用データ2212dとを含む。ラベル付き学習用データ2211dは、学習画像IMG3と当該学習画像IMG3から抽出されるべきキーポイントKPを示す正解ラベルとを含むラベル付き単位データ2213dを複数含むデータセットである。一方で、ラベルなし学習用データ2212dは、学習画像IMG3を含む一方で正解ラベルを含まないラベルなし単位データ2214dを複数含むデータセットである。尚、以下の説明では、ラベル付き学習用データ2211dに含まれる学習画像IMG3を、“学習画像IMG3-1”と称し、ラベルなし学習用データ2212dに含まれる学習画像IMG3を、“学習画像IMG3-2”と称する。ラベル付き学習用データ2211dに含まれる学習画像IMG3-1の数(つまり、ラベル付き単位データ2213dの数)は、ラベルなし学習用データ2212dに含まれる学習画像IMG3-2の数(つまり、ラベルなし単位データ2214dの数)よりも少なくてもよい。
【0094】
学習部216dは、半教師あり学習を行うための既存のアルゴリズムを用いて、学習モデルの学習を行ってもよい。例えば、学習部216dは、ブートストラップ法に基づくアルゴリズムを用いて、学習モデルの学習を行ってもよい。この場合、学習部216dは、まずは、ラベル付き学習用データ2211dを用いて、学習モデルの学習を行ってもよい。ラベル付き学習用データ2211dを用いた学習モデルの学習は、教師あり学習であってもよい。その後、学習部216dは、ラベル付き学習用データ2211dを用いた学習結果に基づいて、ラベルなし学習用データ2212dに含まれる複数の学習画像IMG3-2のうちの少なくとも一部に、各学習画像IMG3-2から抽出されると推定されるキーポイントKPを示す疑似ラベルを付与してもよい。例えば、学習部216dは、ラベルなし学習用データ2212dに含まれる複数の学習画像IMG3-2のうちの信頼度の相対的に高い少なくとも一つの学習画像IMG3-2に、疑似ラベルを付与する。尚、ここで言う「信頼度の高い学習画像IMG3-2」は、抽出されると推定されるキーポイントKPの確からしさが相対的に高い学習画像IMG3-2を意味していてもよい。その後、学習部216dは、ラベル付き学習用データ2211dとラベルなし学習用データ2212dのうちの疑似ラベルが付与されたラベルなし単位データ2214dとを用いて、学習モデルの学習を行ってもよい。ラベル付き学習用データ2211dとラベルなし学習用データ2212dのうちの疑似ラベルが付与されたラベルなし単位データ2214dとを用いた学習モデルの学習もまた、教師あり学習であってもよい。学習部216dは、疑似ラベルの付与と、教師あり学習(つまり、ラベル付き学習用データ2211dとラベルなし学習用データ2212dのうちの疑似ラベルが付与されたラベルなし単位データ2214dとを用いた学習モデルの学習)とを含む動作を必要回数だけ繰り返してもよい。このため、第3実施形態では、エポック数は、疑似ラベルの付与と教師あり学習とを含む動作を繰り返す回数となる。例えば、学習部216dは、教師あり学習と疑似ラベルの付与とを交互に、損失関数が所定の学習終了条件を満たすまで繰り返してもよい。その結果、半教師あり学習が完了する。
【0095】
重み算出部217dは、疑似ラベルの重みwを算出する。疑似ラベルの重みwを算出するために、重み算出部217dは、ラベルなし学習用データ2212dに含まれる複数の学習画像IMG3-2の画像スコアSCを用いてもよい。
【0096】
このため、キーポイント抽出装置2dは、ラベルなし学習用データ2212dに含まれる複数の学習画像IMG3-2を対象に、
図3に示すキーポイント抽出動作を行ってもよい。つまり、キーポイント抽出装置2dは、学習画像IMG3-2を取得し(
図3のステップS11)、キーポイント抽出部212は、学習画像IMG3-2からキーポイントKPを抽出し(
図3のステップS12)、画像変換部211は、学習画像IMG3-2を変換する画像変換処理を行うことで変換画像IMG2を算出し(
図13のステップS13)、キーポイント抽出部212は、変換画像IMG2からキーポイントKPを抽出し(
図3のステップS14)、スコア算出部213は、学習画像IMG3-2から抽出されたキーポイントKPと変換画像IMG2から抽出されたキーポイントKPとに基づいて、学習画像IMG3-2の画像スコアSCを算出してもよい(
図3のステップS15)。
【0097】
その後、重み算出部217dは、各学習画像IMG3-2の画像スコアSCに基づいて、各学習画像IMG3-2に付与される疑似ラベルの重みwを算出する。例えば、重み算出部217dは、一の学習画像IMG3-2の画像スコアSCが良くなるほど、一の学習画像IMG3-2に付与される疑似ラベルの重みwが大きくなるように、重みwを算出してもよい。例えば、重み算出部217dは、一の学習画像IMG3-2の画像スコアSCが悪くなるほど、一の学習画像IMG3-2に付与される疑似ラベルの重みwが小さくなるように、重みwを算出してもよい。一例として、重み算出部217dは、画像スコアSCの逆数を、重みwとして算出してもよい。尚、重みwは、例えば、0以上且つ1以下の値であってもよい。
【0098】
算出された重みwは、半教師あり学習を行う学習部216dによって用いられてもよい。例えば、学習部216dは、学習モデルの学習を行うために、重みwが相対的に大きい疑似ラベルが付与されたラベルなし単位データ2214dを用いてもよい。例えば、学習部216dは、学習モデルの学習を行うために、重みwが所定の重み閾値よりも大きい疑似ラベルが付与されたラベルなし単位データ2214dを用いてもよい。一方で、例えば、学習部216dは、学習モデルの学習を行うために、重みwが相対的に小さい疑似ラベルが付与されたラベルなし単位データ2214dを用いなくてもよい。例えば、学習部216dは、学習モデルの学習を行うために、重みwが所定の重み閾値よりも小さい疑似ラベルが付与されたラベルなし単位データ2214dを用いなくてもよい。つまり、学習部216dは、学習モデルの学習を行うために、重みwが相対的に高い疑似ラベルが付与された学習画像IMG3-2を優先的に用いてもよい。その結果、学習部216dは、学習モデルの学習を行うために、品質が相対的に良い学習画像IMG3-2(つまり、学習モデルがキーポイントKP1を正しく抽出できる可能性が相対的に高い学習画像IMG3-2)を優先的に用いることになる。この場合、半教師あり学習が行われるに従って、学習モデルがキーポイントKP1を正しく抽出できる可能性が相対的に高い学習画像IMG3-2の数が徐々に増えていく。つまり、半教師あり学習が十分に行われていない学習初期において、学習モデルがキーポイントKP1を正しく抽出できる可能性が相対的に低い学習画像IMG3-2(つまり、品質が相対的に悪い学習画像IMG3-2)を用いた学習の機会が抑制される。従って、学習モデルの学習が効率的に行われる。つまり、学習モデルの学習効率があがる。
【0099】
尚、重み閾値は、学習モデルによる学習が不足している(言い換えれば、学習モデルにとって相性が悪い)学習画像IMG3-2と、学習モデルによる学習が不足していない(言い換えれば、学習モデルにとって相性が良い)学習画像IMG3-2とを、画像スコアSCから区別可能な所望の値に設定されてもよい。
【0100】
重み算出部217dは、学習部216dによる学習モデルの学習が1回行われる(つまり、上述した疑似ラベルの付与と教師あり学習とを含む動作が1回行われる)たびに、新たに重みwを算出してもよい。つまり、重み算出部217dは、エポック毎に重みwを算出してもよい。なぜならば、学習部216dによる学習モデルの学習が1回行われるたびに、キーポイント抽出部212の挙動が変わるがゆえに、キーポイント抽出部212が抽出したキーポイントKPに基づいて算出される画像スコアSCもまた変わり且つ画像スコアSCに基づいて算出される重みwもまた変わる可能性があるからである。
【0101】
このように、第4実施形態では、キーポイント抽出装置2dは、画像スコアSCに基づいて算出される重みwと、学習用データ221dとを用いて、学習モデルの学習を行うことができる。このため、このため、キーポイント抽出装置2dは、第1実施形態のキーポイント抽出装置2が享受可能な効果と同様の効果を享受しつつ、学習モデルの学習を効率的に行うことができる。更に、キーポイント抽出装置2dは、半教師あり学習を用いて学習モデルの学習を行うがゆえに、アノテーションの手間をかけることなく学習モデルの学習を効率的に行うことができる。
【0102】
尚、上述した第2実施形態のキーポイント抽出装置2bから第3実施形態のキーポイント抽出装置2cのうちの少なくとも一つが、第4実施形態のキーポイント抽出装置2dに特有の構成要件を備えていてもよい。第4実施形態のキーポイント抽出装置2dに特有の構成要件は、学習部216d及び重み算出部217dを含んでいてもよい。第4実施形態のキーポイント抽出装置2dに特有の構成要件は、重みwを用いた半教師あり学習に関する構成要件を含んでいてもよい。
【0103】
(5)第5実施形態のキーポイント抽出システムSYS
続いて、第5実施形態のキーポイント抽出システムSYSについて説明する。尚、以下の説明では、第5実施形態のキーポイント抽出システムSYSを、“キーポイント抽出システムSYSe”と称する。
【0104】
第5実施形態のキーポイント抽出システムSYSeは、上述した第1実施形態のキーポイント抽出システムSYSと比較して、キーポイント抽出装置2に代えて、キーポイント抽出装置2eを備えるという点で異なる。キーポイント抽出システムSYSeのその他の特徴は、キーポイント抽出システムSYSaのその他の特徴と同一であってもよい。このため、以下では、
図10を参照しながら、第5実施形態のキーポイント抽出装置2eについて説明する。
図10は、第5実施形態のキーポイント抽出装置2eの構成を示すブロック図である。
【0105】
図10に示すように、第5実施形態のキーポイント抽出装置2eは、第1実施形態のキーポイント抽出装置2と比較して、演算装置21内に、「判定手段」の一具体例である画像判定部218eが実現されるという点で異なる。キーポイント抽出装置2eのその他の特徴は、キーポイント抽出装置2のその他の特徴と同一であってもよい。
【0106】
画像判定部218eは、画像スコアSCに基づいて、人物画像IMG1に、虹彩を含む人物の目が写り込んでいるか否かを判定してもよい。人物画像IMG1に目が写り込んでいるか否かを判定するために、画像判定部218eは、算出された画像スコアSCが所定の第1判定閾値TH1よりも悪いか否かを判定してもよい。例えば、人物画像IMG1の品質が良くなればなるほど画像スコアSCが大きくなる場合には、画像判定部218eは、算出された画像スコアSCが所定の第1判定閾値TH1よりも小さいか否かを判定してもよい。例えば、人物画像IMG1の品質が悪くなればなるほど画像スコアSCが大きくなる場合には、画像判定部218eは、算出された画像スコアSCが所定の第1判定閾値TH1よりも大きいか否かを判定してもよい。この判定の結果、画像判定部218eは、画像スコアSCが所定の第1判定閾値TH1よりも悪いと判定された場合には、人物画像IMG1に目が写り込んでいないと判定してもよい。なぜならば、人物画像IMG1に目が写り込んでいない場合には、虹彩のキーポイントKPが抽出されなくなるがゆえに、画像スコアSCが悪くなるからである。一方で、画像判定部218eは、画像スコアSCが所定の第1判定閾値TH1よりも良いと判定された場合には、人物画像IMG1に目が写り込んでいると判定してもよい。
【0107】
人物画像IMG1に目が写り込んでいない場合には、画像スコアSCが第1判定閾値TH1よりも悪い状態が一定以上継続する可能性が高い。このため、画像判定部218eは、画像スコアSCが第1判定閾値TH1よりも悪い状態が第2判定閾値TH2よりも長く継続する場合に、人物画像IMG1に目が写り込んでいないと判定してもよい。一方で、画像判定部218eは、画像スコアSCが第1判定閾値TH1よりも悪い状態が第2判定閾値TH2よりも短い時間しか継続しなかった場合には、人物画像IMG1に目が写り込んでいると判定してもよい。つまり、画像判定部218eは、画像スコアSCが第1判定閾値TH1よりも悪いと判定された場合であっても、画像スコアSCが第1判定閾値TH1よりも悪い状態が第2判定閾値TH2よりも短い時間しか継続しなかった場合には、人物画像IMG1に目が写り込んでいると判定してもよい。なぜならば、人物画像IMG1に写り込んでいる人物が瞬きをした場合には、人物画像IMG1に目が写り込んでいるにも関わらず、画像スコアSCが第1判定閾値TH1よりも悪いと判定される可能性があるからである。
【0108】
逆に言えば、画像スコアSCが第1判定閾値TH1よりも悪い状態が第2判定閾値TH2よりも短い時間しか継続しなかった場合には、画像判定部218eは、人物画像IMG1に目が写り込んでいるが、人物画像IMG1に写り込んだ目が瞬きをしていると判定してもよい。つまり、人物画像IMG1に目が写り込んでいると判定された状況下において、画像スコアSCが第1判定閾値TH1よりも悪い状態が第2判定閾値TH2よりも短い時間しか継続しなかった場合には、画像判定部218eは、その時間において人物画像IMG1に写り込んだ目が瞬きをしていると判定してもよい。
【0109】
画像スコアSCが第1判定閾値TH1よりも悪い状態が第2判定閾値TH2よりも長く継続したか否かを判定するために、カメラ1は、同じ人物を連続的に撮像することで、時系列データに相当する複数の人物画像IMG1を生成してもよい。更に、キーポイント抽出装置2は、複数の人物画像IMG1に夫々対応する複数の画像スコアSCを算出してもよい。算出された複数の画像スコアSCは、画像スコアSCの時系列変化を示している。このため、画像判定部218eは、画像スコアSCの時系列変化に基づいて、画像スコアSCが第1判定閾値TH1よりも悪い状態が第2判定閾値TH2よりも長く継続したか否かを判定することができる。
【0110】
尚、第1判定閾値TH1は、目が写り込んでいる人物画像IMG1と、目が写り込んでいない人物画像IMG1とを、画像スコアSCから区別可能な所望の値に設定されてもよい。また、第2判定閾値TH2は、瞬きしている(つまり、閉じている)目が写り込んでいる人物画像IMG1と、そもそも目が写り込んでいない人物画像IMG1とを、画像スコアSCから区別可能な所望の値に設定されてもよい。
【0111】
このように、第5実施形態では、キーポイント抽出装置2eは、人物画像IMG1に目が写り込んでいるか否かを判定可能である。この場合、キーポイント抽出装置2eは、目が写り込んでいない人物画像IMG1を、キーポイントKPを用いて行われる動作(例えば、上述した虹彩を用いて人物を認証する動作)の対象から除外してもよい。その結果、キーポイントKPを用いて行われる動作に要する時間の短縮が可能となる。
【0112】
また、第5実施形態では、キーポイント抽出装置2eは、人物画像IMG1に写り込んでいる目が瞬きをしているか否かを判定可能である。この場合、キーポイント抽出装置2eは、瞬きをしている(つまり、閉じている)目が写り込んでいる人物画像IMG1を、キーポイントKPを用いて行われる動作の対象から除外してもよい。その結果、キーポイントKPを用いて行われる動作に要する時間の短縮が可能となる。
【0113】
従って、キーポイント抽出装置2eは、第1実施形態のキーポイント抽出装置2が享受可能な効果と同様の効果を享受しつつ、キーポイントKPを用いて行われる動作に要する時間の短縮が可能となる。
【0114】
尚、上述した第2実施形態のキーポイント抽出装置2bから第4実施形態のキーポイント抽出装置2dのうちの少なくとも一つが、第5実施形態のキーポイント抽出装置2eに特有の構成要件を備えていてもよい。第5実施形態のキーポイント抽出装置2eに特有の構成要件は、画像判定部218eを含んでいてもよい。第5実施形態のキーポイント抽出装置2eに特有の構成要件は、人物画像IMG1に目が写り込んでいるか否かの判定及び人物画像IMG1に写り込んでいる目が瞬きをしているか否かの判定の少なくとも一つに関する構成要件を含んでいてもよい。
【0115】
(6)第6実施形態のキーポイント抽出システムSYS
続いて、第6実施形態のキーポイント抽出システムSYSについて説明する。尚、以下の説明では、第6実施形態のキーポイント抽出システムSYSを、“キーポイント抽出システムSYSf”と称する。
【0116】
第6実施形態のキーポイント抽出システムSYSfは、上述した第1実施形態のキーポイント抽出システムSYSと比較して、キーポイント抽出装置2に代えて、キーポイント抽出装置2fを備えるという点で異なる。キーポイント抽出システムSYSfのその他の特徴は、キーポイント抽出システムSYSaのその他の特徴と同一であってもよい。このため、以下では、
図11を参照しながら、第6実施形態のキーポイント抽出装置2fについて説明する。
図11は、第6実施形態のキーポイント抽出装置2fの構成を示すブロック図である。
【0117】
図11に示すように、第6実施形態のキーポイント抽出装置2fは、第1実施形態のキーポイント抽出装置2と比較して、演算装置21が画像変換部211を備えていなくてもよいという点で異なる。キーポイント抽出装置2fのその他の特徴は、キーポイント抽出装置2のその他の特徴と同一であってもよい。尚、
図11に示すように、キーポイント抽出装置2fは、記憶装置22、通信装置23、入力装置24及び出力装置25を備えていなくてもよい。但し、キーポイント抽出装置2fは、記憶装置22、通信装置23、入力装置24及び出力装置25の少なくとも一つを備えていてもよい。
【0118】
上述した第1実施形態から第5実施形態の説明では、キーポイント抽出装置2は、人物画像IMG1から抽出されるキーポイントKP1と、人物画像IMG1に対して画像変換処理を行うことで生成される変換画像IMG2から抽出されるキーポイントKP2とを比較することで、画像スコアSCを算出している。しかしながら、第6実施形態のキーポイント抽出装置2fは、変換画像IMG2を生成することなく、画像スコアSCを算出してもよい。キーポイント抽出装置2fは、キーポイントKP1を用いる一方で、キーポイントKP2を用いることなく、画像スコアSCを算出してもよい。
【0119】
尚、上述した第2実施形態のキーポイント抽出装置2bから第5実施形態のキーポイント抽出装置2eのうちの少なくとも一つもまた、画像変換部211を備えていなくてもよい。
【0120】
(7)付記
以上説明した実施形態に関して、更に以下の付記を開示する。
[付記1]
入力画像から、対象物のキーポイントを対象キーポイントとして抽出する抽出手段と、
前記対象キーポイントに基づいて、前記対象キーポイントの信頼度に関する指標値を、前記対象キーポイントが抽出された前記入力画像のスコアとして算出する算出手段と
を備える情報処理装置。
[付記2]
前記入力画像を変換する画像変換処理を行うことで、変換画像を生成する画像変換手段を更に備え、
前記抽出手段は、前記変換画像から、前記対象物のキーポイントを変換キーポイントとして抽出し、
前記算出手段は、前記対象キーポイントと前記変換キーポイントとの比較結果に基づいて、前記スコアを算出する
付記1に記載の情報処理装置。
[付記3]
前記入力画像は、照明装置によって照明された撮像対象範囲を撮像装置が撮像することで生成され、
前記スコアに基づいて、前記スコアが改善されるように前記照明装置を制御する照明制御装置を更に備える
付記1又は2に記載の情報処理装置。
[付記4]
前記抽出手段は、複数の前記入力画像の夫々から、前記対象キーポイントを抽出し、
前記算出手段は、前記入力画像毎に前記スコアを算出し、
前記複数の入力画像から、前記スコアが所定の選択条件を満たす少なくとも一つの入力画像を選択する選択手段を更に備える
付記1から3のいずれか一項に記載の情報処理装置。
[付記5]
前記選択条件は、前記スコアが所定の選択閾値よりも悪いという条件を含む
付記4に記載の情報処理装置。
[付記6]
前記抽出手段は、前記スコアが既知である複数の学習画像を用いて学習済みである学習モデルを用いて、前記対象キーポイントを抽出し、
前記選択条件は、前記スコアが、前記学習画像のサンプル数が所定数よりも少ないスコアの範囲に含まれるという条件を含む
付記4又は5に記載の情報処理装置。
[付記7]
前記抽出手段は、学習可能な学習モデルを用いて、前記対象キーポイントを抽出し、
抽出されるべきキーポイントである正解キーポイントが関連付けられた第1の学習画像と、前記正解キーポイントが関連付けられていない第2の学習画像とを含む学習用データを用いて、前記学習モデルの学習を行う学習手段を更に備え、
前記抽出手段は、前記第2の学習画像から、前記対象物のキーポイントを学習用キーポイントとして抽出し、
前記算出手段は、前記学習用キーポイントに基づいて、前記学習用キーポイントの信頼度に関する指標値を、前記学習用キーポイントが抽出された前記第2の学習画像のスコアとして算出し、
前記学習手段は、前記第2の学習画像のスコアに基づいて、前記学習モデルの学習に対する前記第2の学習画像の寄与度を示す重みを算出し、前記学習用データと前記重みとを用いた半教師あり学習を行うことで、前記学習モデルの学習を行う
付記1から6のいずれか一項に記載の情報処理装置。
[付記8]
前記対象物は、生体の虹彩を含み、
前記スコアが所定の第1判定閾値よりも悪い場合に、前記入力画像に前記虹彩を含む目が写り込んでいないと判定する判定手段を更に備える
付記1から7のいずれか一項に記載の情報処理装置。
[付記9]
前記判定手段は、前記入力画像に前記目が写り込んでいると判定され且つ前記スコアが所定の第2判定閾値よりも悪い状態の継続時間が所定時間よりも短い場合に、前記入力画像に瞬きしている前記目が写り込んでいると判定する
付記8に記載の情報処理装置。
[付記10]
入力画像から、対象物のキーポイントを対象キーポイントとして抽出し、
前記対象キーポイントに基づいて、前記対象キーポイントの信頼度に関する指標値を、前記対象キーポイントが抽出された前記入力画像のスコアとして算出する
情報処理方法。
[付記11]
コンピュータに、
入力画像から、対象物のキーポイントを対象キーポイントとして抽出し、
前記対象キーポイントに基づいて、前記対象キーポイントの信頼度に関する指標値を、前記対象キーポイントが抽出された前記入力画像のスコアとして算出する
情報処理方法を実行させるコンピュータプログラムが記録された記録媒体。
【0121】
上述の各実施形態の構成要件の少なくとも一部は、上述の各実施形態の構成要件の少なくとも他の一部と適宜組み合わせることができる。上述の各実施形態の構成要件のうちの一部が用いられなくてもよい。また、法令で許容される限りにおいて、上述のこの開示で引用した全ての文献(例えば、公開公報)の開示を援用してこの開示の記載の一部とする。
【0122】
この開示は、請求の範囲及び明細書全体から読み取るこのできる技術的思想に反しない範囲で適宜変更可能である。そのような変更を伴う情報処理装置、情報処理方法、コンピュータプログラム及び記録媒体もまた、この開示の技術的思想に含まれる。
【符号の説明】
【0123】
1 カメラ
2 キーポイント抽出装置
21 演算装置
211 画像変換部
212 キーポイント抽出部
213 スコア算出部
214b 照明制御部
215c 画像選択部
216d 重み算出部
217d 学習部
218e 画像判定部
3 通信ネットワーク
4 照明装置
SYS キーポイント抽出システム
IMG1 人物画像
IMG2 変換画像
KP キーポイント