(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-04-04
(45)【発行日】2023-04-12
(54)【発明の名称】個人識別システム、個人識別方法及びプログラム
(51)【国際特許分類】
G06T 7/00 20170101AFI20230405BHJP
G06F 21/32 20130101ALI20230405BHJP
【FI】
G06T7/00 510B
G06F21/32
(21)【出願番号】P 2018093836
(22)【出願日】2018-05-15
【審査請求日】2021-04-30
(73)【特許権者】
【識別番号】504258527
【氏名又は名称】国立大学法人 鹿児島大学
(74)【代理人】
【識別番号】100095407
【氏名又は名称】木村 満
(74)【代理人】
【識別番号】100162259
【氏名又は名称】末富 孝典
(74)【代理人】
【識別番号】100133592
【氏名又は名称】山口 浩一
(74)【代理人】
【識別番号】100168114
【氏名又は名称】山中 生太
(72)【発明者】
【氏名】佐藤 公則
(72)【発明者】
【氏名】渡邊 睦
(72)【発明者】
【氏名】鹿嶋 雅之
(72)【発明者】
【氏名】福元 伸也
(72)【発明者】
【氏名】西田 貴幸
【審査官】宮島 潤
(56)【参考文献】
【文献】特開2010-128822(JP,A)
【文献】特開2012-208887(JP,A)
【文献】特開2019-40405(JP,A)
【文献】江尻 正員,ディジタル画像処理 [改訂新版] 第一版 DIGITAL IMAGE PROCESSING,第1版,日本,公益財団法人画像情報教育振興協会(CG-ARTS協会) 松阪 喜幸,2015年03月09日,p.218-220
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00
G06T 1/00
A61B 5/06 - 5/22
G06T 7/00 - 7/90
G06F 3/01
G06F 3/048 - 3/04895
(57)【特許請求の範囲】
【請求項1】
電子機器に対して操作入力を行う手全体を被写体とする画像を、前記手により複数の操作入力が行われる一定時間連続して画像センサにより撮像させる撮像部と、
前記画像センサで撮像された複数の画像同士を合成するか、当該複数の画像の加工により得られた複数の画像同士を合成して、前記一定時間における手の動きの広がり具合を示す合成画像を生成する画像合成部と、
前記画像合成部で合成された前記合成画像を前記合成画像における画素の最大値を基準として正規化して正規化画像を生成する正規化部と、
前記正規化部で生成された前記正規化画像に基づいて、本人認証を行う認証部と、
を備え、
前記画像センサは、前記手全体を被写体とする画像として、各画素の値が前記画像センサと前記被写体との距離を示す距離画像を撮像し、
前記画像合成部は、各画素の値をその画素が取り得る最大値で除算する加工を前記画像センサで撮像された複数の画像に対して行い、
前記認証部は、
前記正規化画像と、予め記憶されたテンプレート画像とを比較するテンプレートマッチングを行うことにより、前記正規化画像と前記テンプレート画像との類似度を算出し、
算出された類似度が閾値を上回る場合、本人であると認証する、
個人識別システム。
【請求項2】
電子機器に対して操作入力を行う手全体を被写体とする画像を、前記手により複数の操作入力が行われる一定時間連続して画像センサにより撮像させる撮像部と、
前記画像センサで撮像された複数の画像の加工により得られた複数の画像同士を合成して、前記一定時間における手の動きの広がり具合を示す合成画像を生成する画像合成部と、
前記画像合成部で合成された前記合成画像を前記合成画像における画素の最大値を基準として正規化して正規化画像を生成する正規化部と、
前記正規化部で生成された前記正規化画像に基づいて、本人認証を行う認証部と、
を備え、
前記画像センサは、
前記手全体を被写体とする画像として、可視光による画像を撮像し、
前記画像合成部は、
前記画像センサで撮像された複数の画像を、手の領域とそれ以外の領域とを区別する二値画像に変換し、前記二値画像の各画素の値をその画素が取り得る最大値で除算する加工を行い、
前記認証部は、
前記正規化画像と、予め記憶されたテンプレート画像とを比較するテンプレートマッチングを行うことにより、前記正規化画像と前記テンプレート画像との類似度を算出し、
算出された類似度が閾値を上回る場合、本人であると認証する、
個人識別システム。
【請求項3】
前記認証部は、
前記正規化画像の各画素と、前記テンプレート画像の各画素との値の差の二乗和か、前記正規化画像の各画素と、前記テンプレート画像の各画素との値の差の絶対値和か、前記正規化画像の各画素と、前記テンプレート画像の各画素との値の正規化相互相関か、前記正規化画像の各画素と、前記テンプレート画像の各画素との値の零平均正規化相互相関か、のいずれかを、前記類似度として算出する、
請求項1又は2に記載の個人識別システム。
【請求項4】
電子機器に対して操作入力を行う手全体を被写体とする画像を、前記手により複数の操作入力が行われる一定時間連続して画像センサにより撮像させる撮像ステップと、
前記撮像ステップで撮像された複数の画像同士を合成するか、当該複数の画像の加工により得られた複数の画像同士を合成して、前記一定時間における手の動きの広がり具合を示す合成画像を生成する画像合成ステップと、
前記画像合成ステップで合成された前記合成画像を前記合成画像における画素の最大値を基準として正規化して正規化画像を生成する正規化ステップと、
前記正規化ステップで生成された前記正規化画像に基づいて、本人認証を行う認証ステップと、
を含み、
前記画像センサは、前記手全体を被写体とする画像として、各画素の値が前記画像センサと前記被写体との距離を示す距離画像を撮像し、
前記画像合成ステップでは、各画素の値をその画素が取り得る最大値で除算する加工を前記画像センサで撮像された複数の画像に対して行い、
前記認証ステップでは、
前記正規化画像と、予め記憶されたテンプレート画像とを比較するテンプレートマッチングを行うことにより、前記正規化画像と前記テンプレート画像との類似度を算出し、
算出された類似度が閾値を上回る場合、本人であると認証する、
個人識別方法。
【請求項5】
電子機器に対して操作入力を行う手全体を被写体とする画像を、前記手により複数の操作入力が行われる一定時間連続して画像センサにより撮像させる撮像ステップと、
前記撮像ステップで撮像された複数の画像の加工により得られた複数の画像同士を合成して、前記一定時間における手の動きの広がり具合を示す合成画像を生成する画像合成ステップと、
前記画像合成ステップで合成された前記合成画像を前記合成画像における画素の最大値を基準として正規化して正規化画像を生成する正規化ステップと、
前記正規化ステップで生成された前記正規化画像に基づいて、本人認証を行う認証ステップと、
を含み、
前記画像センサは、
前記手全体を被写体とする画像として、可視光による画像を撮像し、
前記画像合成ステップでは、
前記画像センサで撮像された複数の画像を、手の領域とそれ以外の領域とを区別する二値画像へ変換し、前記二値画像の各画素の値をその画素が取り得る最大値で除算する加工を行い、
前記認証ステップでは、
前記正規化画像と、予め記憶されたテンプレート画像とを比較するテンプレートマッチングを行うことにより、前記正規化画像と前記テンプレート画像との類似度を算出し、
算出された類似度が閾値を上回る場合、本人であると認証する、
個人識別方法。
【請求項6】
コンピュータを、
電子機器に対して操作入力を行う手全体を被写体とする画像を、前記手により複数の操作入力が行われる一定時間連続して画像センサにより撮像させる撮像部、
前記画像センサで撮像された複数の画像同士を合成するか、当該複数の画像の加工により得られた複数の画像同士を合成して、前記一定時間における手の動きの広がり具合を示す合成画像を生成する画像合成部、
前記画像合成部で合成された前記合成画像を前記合成画像における画素の最大値を基準として正規化して正規化画像を生成する正規化部、
前記正規化部で生成された前記正規化画像に基づいて、本人認証を行う認証部、
として機能させ、
前記画像センサは、前記手全体を被写体とする画像として、各画素の値が前記画像センサと前記被写体との距離を示す距離画像を撮像し、
前記画像合成部は、各画素の値をその画素が取り得る最大値で除算する加工を前記画像センサで撮像された複数の画像に対して行い、
前記認証部は、
前記正規化画像と、予め記憶されたテンプレート画像とを比較するテンプレートマッチングを行うことにより、前記正規化画像と前記テンプレート画像との類似度を算出し、
算出された類似度が閾値を上回る場合、本人であると認証する、
プログラム。
【請求項7】
コンピュータを、
電子機器に対して操作入力を行う手全体を被写体とする画像を、前記手により複数の操作入力が行われる一定時間連続して画像センサにより撮像させる撮像部、
前記画像センサで撮像された複数の画像の加工により得られた複数の画像同士を合成して、前記一定時間における手の動きの広がり具合を示す合成画像を生成する画像合成部、
前記画像合成部で合成された前記合成画像を前記合成画像における画素の最大値を基準として正規化して正規化画像を生成する正規化部、
前記正規化部で生成された前記正規化画像に基づいて、本人認証を行う認証部、
として機能させ、
前記画像センサは、
前記手全体を被写体とする画像として、可視光による画像を撮像し、
前記画像合成部は、
前記画像センサで撮像された複数の画像を、手の領域とそれ以外の領域とを区別する二値画像に変換し、前記二値画像の各画素の値
をその画素が取り得る最大値で除算する加工を行い、
前記認証部は、
前記正規化画像と、予め記憶されたテンプレート画像とを比較するテンプレートマッチングを行うことにより、前記正規化画像と前記テンプレート画像との類似度を算出し、
算出された類似度が閾値を上回る場合、本人であると認証する、
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、個人識別システム、個人識別方法及びプログラムに関する。
【背景技術】
【0002】
入室管理又は電子機器の使用制限には、PIN(Personal Identification Number)コードの暗証番号による認証システム、IC(Integrated Circuit)カードによる認証システムが用いられるのが一般的である。これらの認証システムでは、一度、ログインに成功した後では、なりすましや入れ替わり(例えば、コンピュータ端末のキーボードを操作する人が途中で入れ替わること)を検出するのは困難である。そのため、正規にログインした後でも、継続的な本人認証(継続認証)を行うことが求められている(例えば、特許文献1参照)。
【0003】
継続認証の方法は、新たなパスワード入力などの特別な操作を、認証対象者に要求することのない方法、すなわち認証対象者が意識することなく認証を行うことができる方法であることが望ましい。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上記特許文献1に開示された情報処理装置では、上述のような自然な継続認証のために、キーボードに加速度センサや圧力センサなどの特別な設備を設ける必要があった。
【0006】
本発明は、特別な設備を設けることなく、自然に継続認証を行うことができる個人識別システム、個人識別方法及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
上記目的を達成するために、本発明の第1の観点に係る個人識別システムは、
電子機器に対して操作入力を行う手全体を被写体とする画像を、前記手により複数の操作入力が行われる一定時間連続して画像センサにより撮像させる撮像部と、
前記画像センサで撮像された複数の画像同士を合成するか、当該複数の画像の加工により得られた複数の画像同士を合成して、前記一定時間における手の動きの広がり具合を示す合成画像を生成する画像合成部と、
前記画像合成部で合成された前記合成画像を前記合成画像における画素の最大値を基準として正規化して正規化画像を生成する正規化部と、
前記正規化部で生成された前記正規化画像に基づいて、本人認証を行う認証部と、
を備え、
前記画像センサは、前記手全体を被写体とする画像として、各画素の値が前記画像センサと前記被写体との距離を示す距離画像を撮像し、
前記画像合成部は、各画素の値をその画素が取り得る最大値で除算する加工を前記画像センサで撮像された複数の画像に対して行い、
前記認証部は、
前記正規化画像と、予め記憶されたテンプレート画像とを比較するテンプレートマッチングを行うことにより、前記正規化画像と前記テンプレート画像との類似度を算出し、
算出された類似度が閾値を上回る場合、本人であると認証する。
【0009】
本発明の第2の観点に係る個人識別システムは、
電子機器に対して操作入力を行う手全体を被写体とする画像を、前記手により複数の操作入力が行われる一定時間連続して画像センサにより撮像させる撮像部と、
前記画像センサで撮像された複数の画像の加工により得られた複数の画像同士を合成して、前記一定時間における手の動きの広がり具合を示す合成画像を生成する画像合成部と、
前記画像合成部で合成された前記合成画像を前記合成画像における画素の最大値を基準として正規化して正規化画像を生成する正規化部と、
前記正規化部で生成された前記正規化画像に基づいて、本人認証を行う認証部と、
を備え、
前記画像センサは、
前記手全体を被写体とする画像として、可視光による画像を撮像し、
前記画像合成部は、
前記画像センサで撮像された複数の画像を、手の領域とそれ以外の領域とを区別する二値画像に変換し、前記二値画像の各画素の値をその画素が取り得る最大値で除算する加工を行い、
前記認証部は、
前記正規化画像と、予め記憶されたテンプレート画像とを比較するテンプレートマッチングを行うことにより、前記正規化画像と前記テンプレート画像との類似度を算出し、
算出された類似度が閾値を上回る場合、本人であると認証する。
【0011】
前記認証部は、
前記正規化画像の各画素と、前記テンプレート画像の各画素との値の差の二乗和か、前記正規化画像の各画素と、前記テンプレート画像の各画素との値の差の絶対値和か、前記正規化画像の各画素と、前記テンプレート画像の各画素との値の正規化相互相関か、前記正規化画像の各画素と、前記テンプレート画像の各画素との値の零平均正規化相互相関か、のいずれかを、前記類似度として算出する、
こととしてもよい。
【0015】
本発明の第3の観点に係る個人識別方法は、
電子機器に対して操作入力を行う手全体を被写体とする画像を、前記手により複数の操作入力が行われる一定時間連続して画像センサにより撮像させる撮像ステップと、
前記撮像ステップで撮像された複数の画像同士を合成するか、当該複数の画像の加工により得られた複数の画像同士を合成して、前記一定時間における手の動きの広がり具合を示す合成画像を生成する画像合成ステップと、
前記画像合成ステップで合成された前記合成画像を前記合成画像における画素の最大値を基準として正規化して正規化画像を生成する正規化ステップと、
前記正規化ステップで生成された前記正規化画像に基づいて、本人認証を行う認証ステップと、
を含み、
前記画像センサは、前記手全体を被写体とする画像として、各画素の値が前記画像センサと前記被写体との距離を示す距離画像を撮像し、
前記画像合成ステップでは、各画素の値をその画素が取り得る最大値で除算する加工を前記画像センサで撮像された複数の画像に対して行い、
前記認証ステップでは、
前記正規化画像と、予め記憶されたテンプレート画像とを比較するテンプレートマッチングを行うことにより、前記正規化画像と前記テンプレート画像との類似度を算出し、
算出された類似度が閾値を上回る場合、本人であると認証する。
本発明の第4の観点に係る個人識別方法は、
電子機器に対して操作入力を行う手全体を被写体とする画像を、前記手により複数の操作入力が行われる一定時間連続して画像センサにより撮像させる撮像ステップと、
前記撮像ステップで撮像された複数の画像の加工により得られた複数の画像同士を合成して、前記一定時間における手の動きの広がり具合を示す合成画像を生成する画像合成ステップと、
前記画像合成ステップで合成された前記合成画像を前記合成画像における画素の最大値を基準として正規化して正規化画像を生成する正規化ステップと、
前記正規化ステップで生成された前記正規化画像に基づいて、本人認証を行う認証ステップと、
を含み、
前記画像センサは、
前記手全体を被写体とする画像として、可視光による画像を撮像し、
前記画像合成ステップでは、
前記画像センサで撮像された複数の画像を、手の領域とそれ以外の領域とを区別する二値画像へ変換し、前記二値画像の各画素の値をその画素が取り得る最大値で除算する加工を行い、
前記認証ステップでは、
前記正規化画像と、予め記憶されたテンプレート画像とを比較するテンプレートマッチングを行うことにより、前記正規化画像と前記テンプレート画像との類似度を算出し、
算出された類似度が閾値を上回る場合、本人であると認証する。
【0016】
本発明の第5の観点に係るプログラムは、
コンピュータを、
電子機器に対して操作入力を行う手全体を被写体とする画像を、前記手により複数の操作入力が行われる一定時間連続して画像センサにより撮像させる撮像部、
前記画像センサで撮像された複数の画像同士を合成するか、当該複数の画像の加工により得られた複数の画像同士を合成して、前記一定時間における手の動きの広がり具合を示す合成画像を生成する画像合成部、
前記画像合成部で合成された前記合成画像を前記合成画像における画素の最大値を基準として正規化して正規化画像を生成する正規化部、
前記正規化部で生成された前記正規化画像に基づいて、本人認証を行う認証部、
として機能させ、
前記画像センサは、前記手全体を被写体とする画像として、各画素の値が前記画像センサと前記被写体との距離を示す距離画像を撮像し、
前記画像合成部は、各画素の値をその画素が取り得る最大値で除算する加工を前記画像センサで撮像された複数の画像に対して行い、
前記認証部は、
前記正規化画像と、予め記憶されたテンプレート画像とを比較するテンプレートマッチングを行うことにより、前記正規化画像と前記テンプレート画像との類似度を算出し、
算出された類似度が閾値を上回る場合、本人であると認証する。
本発明の第6の観点に係るプログラムは、
コンピュータを、
電子機器に対して操作入力を行う手全体を被写体とする画像を、前記手により複数の操作入力が行われる一定時間連続して画像センサにより撮像させる撮像部、
前記画像センサで撮像された複数の画像の加工により得られた複数の画像同士を合成して、前記一定時間における手の動きの広がり具合を示す合成画像を生成する画像合成部、
前記画像合成部で合成された前記合成画像を前記合成画像における画素の最大値を基準として正規化して正規化画像を生成する正規化部、
前記正規化部で生成された前記正規化画像に基づいて、本人認証を行う認証部、
として機能させ、
前記画像センサは、
前記手全体を被写体とする画像として、可視光による画像を撮像し、
前記画像合成部は、
前記画像センサで撮像された複数の画像を、手の領域とそれ以外の領域とを区別する二値画像に変換し、前記二値画像の各画素の値をその画素が取り得る最大値で除算する加工を行い、
前記認証部は、
前記正規化画像と、予め記憶されたテンプレート画像とを比較するテンプレートマッチングを行うことにより、前記正規化画像と前記テンプレート画像との類似度を算出し、
算出された類似度が閾値を上回る場合、本人であると認証する。
【発明の効果】
【0017】
本発明によれば、電子装置に対して操作入力を行う手の動きを、複数の操作入力を行う一定時間連続撮像して、その間の手の動きの広がり具合を示す正規化画像を生成する。複数の操作入力を行う時の手の動きの広がり具合は、人によって異なり模倣できないものであるため、正規化画像から個人を特定することができる。このようにすれば、カメラで手の動きを撮像するだけで、特別な設備を設けることなく、自然に継続認証を行うことができる。
【図面の簡単な説明】
【0018】
【
図1】本発明の実施の形態1に係る個人識別システムの構成を示すブロック図である。
【
図2】画像センサの取り付け位置の一例を示す図である。
【
図3】
図1の個人識別システムのデータフローを示す図である。
【
図4】(A)~(D)は、正規化画像の一例を示す図である。
【
図5】情報処理装置のハードウエア構成を示す図である。
【
図6】情報処理装置におけるテンプレート画像作成処理の流れを示すフローチャートである。
【
図7】情報処理装置の継続認証処理の流れを示すフローチャートである。
【
図9】(A)は、画像に片手だけ写っている画像の一例を示す図である。(B)は、画像に両手が写っている画像の一例を示す図である。
【
図12】上下反転された正規化画像の一例を示す図である。
【
図13】類似度として画素値の差の二乗和を用いたときの判定の評価結果を示すグラフである。
【
図14】類似度として画素値の差の絶対値和を用いたときの判定の評価結果を示すグラフである。
【
図15】類似度として画素値の正規化相互相関を用いたときの判定の評価結果を示すグラフである。
【
図16】類似度として画素値の零平均正規化相互相関を用いたときの判定の評価結果を示すグラフである。
【
図17】本発明の実施の形態2に係る個人識別システムの継続認証処理の流れを示すフローチャートである。
【
図18】(A)及び(B)は、電子機器がスマートフォンである場合の正規化画像の一例を示す図である。
【発明を実施するための形態】
【0019】
以下、本発明の実施の形態について図面を参照して詳細に説明する。全図において、同一又は相当する構成要素には、同一の符号が付されている。本実施の形態に係る個人識別システム1は、継続して個人認証を行うシステムである。
【0020】
実施の形態1.
まず、本発明の実施の形態1について説明する。
図1に示すように、本実施の形態に係る個人識別システム1は、画像センサ2と、情報処理装置3と、を備える。
【0021】
画像センサ2は、例えば
図2に示すように、セキュリティ保護対象であるコンピュータ端末4のディスプレイ5の中央上部に取り付けられている。画像センサ2の撮像視野は、コンピュータ端末4のキーボード6全体を捉えており、その位置は固定されている。
【0022】
本実施の形態では、画像センサ2は、電子機器としてのコンピュータ端末4のキーボード6を操作する手(両手)を被写体とする画像を撮像する。画像センサ2は、距離画像を撮像するカメラである。距離画像は、各画素の値が、画像センサ2から被写体までの距離を示す画像である。距離画像では、通常、距離が近い方が、輝度値が高くなる。
【0023】
このような距離画像を撮像する撮像原理としては、2台のカメラの視差を利用する方式、1台のプロジェクタと1台のカメラとの視差を利用する方式、1台のプロジェクタと2台のカメラとの視差を利用する方式がある。プロジェクタからは、被写体に様々なパターンが投影され、そのパターンをカメラで計測することにより、距離が計測される。また、光源から赤外線等の光を照射し、物体で反射して戻るまでの時間差や受光位置等に基づいて距離を計測する方式も採用することができる。
【0024】
情報処理装置3は、画像センサ2で撮像された画像に基づいて、個人認証を行うコンピュータである。情報処理装置3は、撮像部10と、画像合成部11と、正規化部12と、認証部13と、記憶部20,21と、を備える。
【0025】
撮像部10は、画像センサ2を制御する。具体的には、撮像部10は、画像センサ2に対して、撮像開始指示を出力し、一定時間T(
図3参照)経過後、撮像終了指示を出力する。一定時間Tは、コンピュータ端末4のキーボード6に対して手により複数の文字入力が行われる時間であり、例えば5分間とする。画像センサ2は、撮像開始指示を入力すると、連続撮像を開始し、撮像終了指示を入力すると、連続撮像を終了する。画像センサ2は、一定のサンプリング間隔で連続撮像を行い、撮像された画像をそれぞれ撮像部10に送る。
【0026】
すなわち、撮像部10は、画像センサ2を制御して、コンピュータ端末4のキーボード6に対して操作入力を行う手全体を被写体とする画像を、その手により複数の操作入力が行われる一定時間T(
図3参照)連続して撮像する。例えば、
図3に示すように、一定時間Tにおけるサンプリング時間t
1、t
2、t
3、t
4、t
5、t
6、…、t
N-1、t
Nで、画像センサ2が撮像を行い、画像G
1、G
2、G
3、G
4、G
5、G
6、…、G
N-1、G
Nが生成される。生成された画像G
n(n=1~N)は、情報処理装置3の撮像部10に送られた後、記憶部20に記憶される。
【0027】
なお、一定時間Tは5分には限られず、5分より短くてもよいし、5分を超える時間であってもよい。一定時間Tとしては、生成される画像に手の動きの広がり具合に個人個人の特徴が表れている時間とするのが望ましい。また、撮像のサンプリング間隔も任意に決定することができる。
【0028】
画像合成部11は、撮像部10により撮像された複数の画像G
n(n=1~N)の加工により得られた画像G
n’(n=1~N)を合成し、一定時間Tにおける手の動きの広がり具合を示す合成画像SGを生成する。具体的には、
図3に示すように、画像合成部11は、まず、画像G
n(n=1~N)の各画素を、輝度の最大値である255で除算することにより、画像G
n’(n=1~N)を生成する。そして、画像合成部11は、画像G
n’(n=1~N)を足し合わせて合成画像SGを生成する。これにより、合成画像SGは、キーボード6に対して複数の操作入力を行った手の動きを合成した画像となる。生成された合成画像SGは、記憶部20に記憶される。
【0029】
正規化部12は、画像合成部11で合成された合成画像SGを正規化して正規化画像SG’を生成する。具体的には、正規化部12は、記憶部20から合成画像SGを読み出す。そして、正規化部12は、合成画像SGにおいて輝度が最大となっている画素の輝度値を探索する。そして、正規化部12は、探索された輝度値に基づいて、輝度の最大値が255となるように合成画像SGを正規化して、正規化画像SG’を得る。
【0030】
認証部13は、正規化部12で生成された正規化画像SG’に基づいて、本人認証を行う。
図4(A)~
図4(D)には、それぞれ異なる人の手の動きの広がり具合を示す正規化画像SG’が示されている。それぞれの正規化画像SG’は、模倣が困難なタイピング時の癖を表す画像であり、人によって異なる。このため、この正規化画像SG’に基づいて、本人認証を行うことができる。記憶部21には、予め、個人と対応付けられた手の動きの広がり具合を示すテンプレート画像TGが記憶されている。認証部13は、正規化画像SG’と、テンプレート画像TGとを比較するテンプレートマッチングを行い、正規化画像SG’とテンプレート画像TGとの類似度Rを算出する。認証部13は、算出された類似度Rに基づいて、本人認証を行う。
【0031】
図5は、
図1の情報処理装置3のハードウエア構成を示す。
図5に示すように、個人識別システム1の情報処理装置3は、制御部31、主記憶部32、外部記憶部33、操作部34、表示部35及び入出力部36を備える。主記憶部32、外部記憶部33、操作部34、表示部35、入出力部36は、いずれも内部バス30を介して制御部31に接続されている。なお、情報処理装置3は、コンピュータ端末4に組み込まれていてもよい。
【0032】
制御部31は、CPU(Central Processing Unit)等から構成されている。このCPUが、外部記憶部33に記憶されているプログラム39を実行することにより、
図1に示す個人識別システム1の各構成要素が実現される。本実施の形態では、制御部31により、画像合成部11、正規化部12及び認証部13が構成される。
【0033】
主記憶部32は、RAM(Random-Access Memory)等から構成されている。主記憶部32には、外部記憶部33に記憶されているプログラム39がロードされる。この他、主記憶部32は、制御部31の作業領域(データの一時記憶領域)として用いられる。
【0034】
外部記憶部33は、フラッシュメモリ、ハードディスク、DVD
(登録商標)-RAM(Digital Versatile Disc Random-Access Memory)、DVD
(登録商標)-RW(Digital Versatile Disc ReWritable)等の不揮発性メモリから構成される。外部記憶部33には、制御部31に実行させるためのプログラム39があらかじめ記憶されている。また、外部記憶部33は、制御部31の指示に従って、このプログラム39の実行の際に用いられるデータを制御部31に供給し、制御部31から供給されたデータを記憶する。
図1の記憶部20,21は、外部記憶部33に対応する。
【0035】
操作部34は、キーボード及びマウスなどのポインティングデバイス等と、キーボード及びポインティングデバイス等を内部バス30に接続するインターフェイス装置から構成されている。操作部34を介して、操作者が操作した内容に関する情報が制御部31に入力される。なお、操作部34は、キーボード6であってもよい。
【0036】
表示部35は、CRT(Cathode Ray Tube)、LCD(Liquid Crystal Display)又は有機EL(ElectroLuminescence)などから構成される。操作者が操作情報を入力する場合は、表示部35には、操作用の画面が表示される。なお、表示部35は、ディスプレイ5であってもよい。
【0037】
入出力部36は、各種デバイスとのデータ入出力を行うインターフェイスである。入出力部36は、画像センサ2と接続され、制御部31から出力された指令データを画像センサ2に出力するとともに、画像センサ2から撮像画像データを入力する。本実施の形態では、制御部31及び入出力部36で、撮像部10が構成される。
【0038】
情報処理装置3の各種構成要素は、プログラム39が、制御部31、主記憶部32、外部記憶部33、操作部34、表示部35及び入出力部36などをハードウエア資源として用いて実行されることによってその機能を発揮する。
【0039】
次に、本実施の形態に係る個人識別システム1の動作について説明する。個人識別システム1では、まず、テンプレート画像の生成処理が行われた後、継続認証処理が行われる。
【0040】
まず、テンプレート画像の生成処理について説明する。
図6に示すように、まず、撮像部10は、画像センサ2を用いてコンピュータ端末4のキーボード6に対して文字入力を行う手全体を被写体とする画像を、手により複数の文字が入力される一定時間T連続して撮像し、複数の距離画像G
n(n=1~N)を取得する(ステップS1)。
【0041】
続いて、画像合成部11は、取得した複数の距離画像Gn(n=1~N)の各画素の輝度値を、255で除算して距離画像Gn’(n=1~N)を生成する(ステップS2)。
【0042】
続いて、画像合成部11は、ステップS2で距離画像Gn(n=1~N)を255で除算することにより得られた複数の距離画像Gn’(n=1~N)を足し合わせて合成画像SGを生成する(ステップS3)。
【0043】
続いて、正規化部12は、合成画像SGの手領域の輝度の最大値を探索する(ステップS4)。正規化部12は、合成画像SGにおける手の領域の中で輝度値が最大となる部分を探索し、その輝度値を求める。このときの輝度値を255で割った数値をXとする。
【0044】
続いて、正規化部12は、探索された最大値で、合成画像SGを正規化して最大の輝度値が255となるような正規化画像SG’を生成する(ステップS5)。正規化部12は、合成画像SGの各画素値をXで除算する。正規化画像SG’は、手の動きの広がり具合を示す画像であるため、手の領域の輝度の最大値で正規化を行うのが適切である。
【0045】
続いて、正規化部12は、この正規化画像SG’を上下反転する(ステップS6)。この正規化画像SG’は、
図4(A)~
図4(D)に例示されるような画像となる。正規化部12は、この正規化画像SG’を、テンプレート画像TGとして、記憶部21に記憶する(ステップS7)。これにより、テンプレート画像TGの生成処理が終了する。
【0046】
続いて、継続認証の処理について説明する。
図7に示すように、まず、撮像部10は、画像センサ2を用いてコンピュータ端末4のキーボード6に対して操作入力を行う手全体を被写体とする画像を、その手により複数の操作入力が行われる一定時間T連続して撮像し、複数の距離画像G
n(n=1~N)を取得する(ステップS10;撮像ステップ)。
図8には、このときに取得された距離画像G
n(n=1~N)の一例が示されている。
図8に示すように、距離画像G
n(n=1~N)では、キーボード6を操作する手が他の部分と識別可能に表示されている。
【0047】
続いて、画像合成部11は、取得した複数の距離画像Gn(n=1~N)の各画素の輝度値を255で除算して、距離画像Gn’(n=1~N)を生成する(ステップS11)。距離画像Gn’(n=1~N)の各画素の輝度値は、距離画像Gn(n=1~N)の各画素の255分の1となる。
【0048】
続いて、画像合成部11は、距離画像G
n(n=1~N)に被写体として含まれている手の本数を取得する(ステップS12)。画像合成部11は、手の本数が2本であるか否かを判定する(ステップS13)。手の本数が2本でなければ(ステップS13;No)、情報処理装置3は、ステップS10に戻る。
図9(A)には、手が1本である距離画像が示されている。この場合には、ステップS13における判定が否定され、情報処理装置3は、ステップS10に戻る。
【0049】
一方、
図9(B)に示すように、手の本数が2本であれば(ステップS13;Yes)、画像合成部11は、ステップS11で255が除算された複数の距離画像G
n’(n=1~N)を足し合わせて合成画像SGを生成する(ステップS14;画像合成ステップ)。
図10には、合成画像SGの一例が示されている。
【0050】
続いて、正規化部12は、合成画像SGにおける手領域の輝度の最大値を探索する(ステップS15)。このときの輝度値を255で割った数値をXとする。続いて、正規化部12は、探索された最大値で、合成画像SGを正規化して正規化画像SG’を生成する(ステップS16;正規化ステップ)。具体的には、正規化部12は、合成画像SGの各画素値をXで除算する。
図11には、正規化画像SG’の一例が示されている。正規化部12は、この正規化画像SG’を上下反転する(ステップS17)。
図12には、このように上下反転された画像が示されている。
【0051】
続いて、認証部13は、テンプレートマッチングを行う(ステップS18)。ここでは、ステップS17で生成された正規化画像SG’と、記憶部20に記憶されたテンプレート画像TGとのテンプレートマッチングを行って、両者の類似度Rを算出する。
【0052】
類似度Rは、以下の式で示されるR
ssd、R
sad、R
ncc、R
znccのいずれかを採用することができる。ここで、I(i,j)は、正規化画像SG’の各画素(i,j)の輝度値を示し、T(i,j)は、テンプレート画像TGの各画素(i,j)の輝度値を示す。i,jは、各画素の横軸の位置及び縦軸の位置を示す。
【数1】
上記式(1)のR
ssdは、正規化画像SG’とテンプレート画像TGとの各画素の輝度値の差の二乗和(SSD:Sum of Squares Difference)を示す。R
ssdは、0に近づけば近づくほど(低ければ低いほど)、類似度Rが高いということになる。認証部13が、類似度Rとして二乗和R
ssdを算出する場合には、計算量を少なくすることができるという特徴がある。
【数2】
上記式(2)のR
sadは、正規化画像SG’とテンプレート画像TGとの各画素の輝度値の差の絶対値和を示す。R
sadは、0に近づけば近づくほど(低ければ低いほど)、類似度Rが高いということになる。認証部13が、類似度Rとして絶対値R
sad(SAD:Sum of Absolute Difference)を算出する場合には、外れ値(ノイズ等の原因より統計的に見て誤差成分の大きい画素の輝度値)の影響を受けにくいという利点がある。
【数3】
上記式(3)のR
nccは、正規化画像SG’とテンプレート画像TGとの各画素の輝度値の正規化相互相関を示す。認証部13が、類似度Rとして正規化相互相関R
nccを算出する場合には、正規化画像SG’が撮像された時の周囲の明るさと、テンプレート画像TGが撮像された時の周囲の明るさとの違いによる影響を受けにくいという利点がある。
【数4】
上記式(4)のR
znccは、正規化画像SG’とテンプレート画像TGとの各画素の輝度値の零平均正規化相互相関を示す。認証部13が、類似度Rとして、零平均正規化相互相関R
znccを算出する場合には、正規化相互相関R
nccよりも、正規化画像SG’が撮像された時の周囲の明るさと、テンプレート画像TGが撮像された時の周囲の明るさとの違いによる影響を受けにくいという利点がある。
【0053】
続いて、認証部13は、算出された類似度Rが閾値を上回るか否かにより、本人認証を行う(ステップS19;認証ステップ)。具体的には、上述のようにして求められた類似度Rが閾値より高ければ、本人であると認証し、コンピュータ端末4の使用を続行可能とする。一方、類似度Rが閾値より低ければ、別人であるとして、例えばコンピュータ端末4の使用を不可とする。
【0054】
図13には、正規化画像SG’とテンプレート画像TGとの画素値の差の二乗和R
ssdを類似度Rとした場合のグラフが示されている。
図13に示すように、正規化画像SG’とテンプレート画像TGとが同一人物のものである場合には、二乗和R
ssdの値は、0近傍となり、異なる人物である場合には、0より大きくなっている。したがって、このグラフにおける同一人物の領域(点線)と、異なる人物の領域(実線)との間を閾値とすれば、本人認証を高精度に行うことができる。
【0055】
図14には、正規化画像SG’とテンプレート画像TGとの画素値の差の絶対値和R
sadを類似度Rとした場合のグラフが示されている。
図14に示すように、正規化画像SG’とテンプレート画像TGとが同一人物のものである場合には、絶対値和R
sadの値は、0近傍となり、異なる人物である場合には、0より大きくなっている。したがって、このグラフにおける同一人物の領域(点線)と、異なる人物の領域(実線)との間を閾値とすれば、本人認証を高精度に行うことができる。
【0056】
図15には、正規化画像SG’とテンプレート画像TGとの各画素の輝度値の正規化相互相関R
nccを類似度Rとした場合のグラフが示されている。縦軸がR
nccである。
図15に示すように、正規化画像SG’とテンプレート画像TGとが同一人物のものである場合には、正規化相互相関R
nccの値は、1近傍となり、異なる人物である場合には、1より小さくなっている。したがって、このグラフにおける同一人物の領域(点線)と、異なる人物の領域(実線)との間を閾値とすれば、本人認証を高精度に行うことができる。
【0057】
図16には、正規化画像SG’とテンプレート画像TGとの各画素の輝度値の差の零平均正規化相互相関R
znccを類似度Rとした場合のグラフが示されている。縦軸がR
znccである。
図16に示すように、正規化画像SG’とテンプレート画像TGとが同一人物のものである場合には、零平均正規化相互相関R
znccの値は、1近傍となり、異なる人物である場合には、1より小さくなっている。したがって、このグラフにおける同一人物の領域(点線)と、異なる人物の領域(実線)との間を閾値とすれば、本人認証を高精度に行うことができる。
【0058】
このように、類似度Rにより、同一人物の類似度Rと、異なる人物の類似度Rとを明確に分離可能であることが明らかとなった。したがって、類似度Rを閾値と比較することにより、本人認証が可能となる。
【0059】
実施の形態2.
次に、本発明の実施の形態2について説明する。本実施の形態に係る個人識別システム1は、画像センサ2と、情報処理装置3と、を備える点は、上記実施の形態1に係る個人識別システム1と異なる。
【0060】
本実施の形態に係る個人識別システム1の構成は、
図1に示す上記実施の形態1に係る個人識別システム1と同じである。ただし、本実施の形態では、画像センサ2は、距離画像ではなく、可視光による画像を撮像するセンサ(可視光域に感度のある2次元画像センサ)である。
【0061】
図17に示すように、本実施の形態では、画像の取得(ステップS10)と、画像の除算(ステップS11)との間に、画像合成部11は、画像の二値化を行う(ステップS30)。具体的には、画像合成部11は、撮像部10で撮像された画像を、手の領域とそれ以外の領域とを区別する二値画像に変換する。この二値画像は、手の領域の輝度が高く、その他の領域の輝度が低い画像となる。
【0062】
図17における他の処理は、上記実施の形態1と同様である。その後、撮像部10は、二値画像
の各画素の値を255で除算
し(ステップS11)、画像合成部11は、除算された二値画像を足し合わせて合成画像SGを生成する(ステップS14)。そして、認証部13は、生成された合成画像SGに基づいて、正規化画像SG’を生成する(ステップS17)。テンプレートマッチングは、この正規化画像SG’を用いて行われる。
【0063】
以上詳細に説明したように、上記各実施の形態によれば、コンピュータ端末4のキーボード6に対して操作入力を行う手の動きを、複数の操作入力を行う間連続撮像して、その間の手の動きの広がり具合を示す正規化画像SG’を生成する。複数の操作入力を行う時の手の動きの広がり具合は、人によって全く異なるため、手の動きの広がり具合を示す正規化画像SG’から個人を特定することができる。このようにすれば、画像センサ2で手の動きを撮像するだけで、特別な設備を設けることなく、自然に継続認証を行うことができる。
【0064】
上記各実施の形態では、キーボード6を操作する手(注目領域)の複数の画像を加算し、輝度の最大値が255となるように正規化された正規化画像SG’(FEI(Fingering Energy Image)画像という)に基づいて、継続認証を行う。正規化画像SG’では、手がほとんど動かない場所では像が白くなり、手が頻繁に動く場所では像がぼやける。この結果、正規化画像SG’は、キーボード6を操作する手の動きの広がり具合を示す画像となり、個人の特徴を示す画像となる。
【0065】
上記各実施の形態によれば、キーボード6のタイピング時の手の動き(運指)の違いを示す手の動きの広がり具合に基づいて、個人認証が行われる。したがって、タイピングの正確性、早さ、キーを押す強さを検出する必要はない。
【0066】
また、認証を行うのに、特定のキーワードやフレーズを文字入力する必要もないので、途中で作業を中断せずに、認証を行うことができる。このため、コンピュータ端末4の利便性を損なわないようにすることができる。また、指紋や虹彩などの個人の身体的特徴を用いて認証を行う必要もない。
【0067】
なお、上記各実施の形態では、コンピュータ端末4のキーボード6を操作する手の動きの広がり具合に基づいて本人認証を行ったが、本発明はこれには限られない。例えば、
図18(A)及び
図18(B)に示すように、スマートフォンを操作する手の動きの広がり具合を示す正規化画像SG’を生成し、生成された正規化画像SG’に基づいて、本人認証を行うようにしてもよい。なお、この場合には、画像センサ2の位置と、スマートフォンの位置とが撮像の度にずれるため、複数の画像を合成する場合には、例えばスマートフォンの位置を画像間で合わせてから画像を合成する必要がある。
【0068】
なお、上記各実施の形態では、撮像された画像を255で除算したが、本発明はこれには限られない。撮像された画像をそのまま合成するようにしてもよい。また、上記各実施の形態では、正規化画像SG’を上下反転させたが、本発明はこれには限られない。正規化画像SG’を反転させずに、テンプレートマッチングを行うようにしてもよい。
【0069】
その他、個人識別システム1のハードウエア構成やソフトウエア構成は一例であり、任意に変更および修正が可能である。
【0070】
制御部31、主記憶部32、外部記憶部33、操作部34、表示部35、入出力部36及び内部バス30などから構成される個人識別システム1の処理を行う中心となる部分は、専用のシステムによらず、通常のコンピュータシステムを用いて実現可能である。例えば、前記の動作を実行するためのコンピュータプログラムを、コンピュータが読み取り可能な記録媒体(フレキシブルディスク、CD-ROM、DVD(登録商標)-ROM等)に格納して配布し、当該コンピュータプログラムをコンピュータにインストールすることにより、前記の処理を実行する個人識別システム1を構成してもよい。また、インターネット等の通信ネットワーク上のサーバ装置が有する記憶装置に当該コンピュータプログラムを格納しておき、通常のコンピュータシステムがダウンロード等することで個人識別システム1を構成してもよい。
【0071】
個人識別システム1の機能を、OS(オペレーティングシステム)とアプリケーションプログラムの分担、またはOSとアプリケーションプログラムとの協働により実現する場合などには、アプリケーションプログラム部分のみを記録媒体や記憶装置に格納してもよい。
【0072】
搬送波にコンピュータプログラムを重畳し、通信ネットワークを介して配信することも可能である。たとえば、通信ネットワーク上の掲示板(BBS, Bulletin Board System)にコンピュータプログラムを掲示し、ネットワークを介してコンピュータプログラムを配信してもよい。そして、このコンピュータプログラムを起動し、OSの制御下で、他のアプリケーションプログラムと同様に実行することにより、前記の処理を実行できるように構成してもよい。
【0073】
この発明は、この発明の広義の精神と範囲を逸脱することなく、様々な実施の形態及び変形が可能とされるものである。また、上述した実施の形態は、この発明を説明するためのものであり、この発明の範囲を限定するものではない。すなわち、この発明の範囲は、実施の形態ではなく、特許請求の範囲によって示される。そして、特許請求の範囲内及びそれと同等の発明の意義の範囲内で施される様々な変形が、この発明の範囲内とみなされる。
【産業上の利用可能性】
【0074】
本発明は、継続的な個人認証に適用することができる。
【符号の説明】
【0075】
1 個人識別システム、2 画像センサ、3 情報処理装置、4 コンピュータ端末、5 ディスプレイ、6 キーボード、10 撮像部、11 画像合成部、12 正規化部、13 認証部、20,21 記憶部、30 内部バス、31 制御部、32 主記憶部、33 外部記憶部、34 操作部、35 表示部、36 入出力部、39 プログラム