(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0010】
以下、本発明の一実施形態に係るログイン支援システムについて図面を参照して説明する。
【0011】
図1は、本発明の一実施形態に係るログイン支援システムの概略構成図である。本発明の一実施形態に係るログイン支援システム10は、複数のカメラ11、12と、サーバー13と、人物データ記憶部14と、画像形成装置(電子機器の一例)15とを備える。
【0012】
複数のカメラ11は、部屋200内を隈なく撮影できる部屋200内の位置にそれぞれ設置されて、部屋200内の全ての人物を撮像する。カメラ12は、画像形成装置15の前に来た人物を撮像可能な位置に配設され、画像形成装置15を利用するために該画像形成装置15の前に来た人物を撮像する。これらカメラ11、12は、サーバー13と接続され、それぞれの撮像画像をサーバー13に送信する。
【0013】
人物データ記憶部14は、例えば、各人物の身元情報を記憶したデータベースからなる。例えば、人物データ記憶部14は、
図2に示すような部屋200への出入りが許可されている複数の人物のID、氏名、顔の特徴点、及びハンドジェスチャーを対応付けて記憶したデータテーブルDTを記憶している。顔の特徴点は、例えば目、鼻、口端の位置などを示す顔情報である。人物のハンドジェスチャーは、複数種類あり、各人物についてそれぞれ設定されている。
【0014】
次に、サーバー13を説明する。
図3は、サーバー13の主要部を示すブロック図である。サーバー13は、制御ユニット100、操作部220、記憶部230、および通信部240を備えている。操作部220は、マウス、キーボードなどの入力装置である。記憶部230は、SSD(Solid State Drive)やフラッシュメモリなどの記憶装置である。
【0015】
通信部240は、LANチップなどの通信モジュールを備える通信インターフェイスである。通信部240は、LAN又はインターネットのネットワークを介して、各カメラ11、12、人物データ記憶部14、及び画像形成装置15との間でデータ送受信可能に接続されている。例えば、各カメラ11、12から送信されたそれぞれの撮像画像は、通信部240で受信されて記憶部230に一時的に記憶され、制御ユニット100による処理の対象となる。
【0016】
制御ユニット100は、プロセッサー、RAM、ROM、および専用のハードウェア回路を含んで構成される。プロセッサーは、例えばCPU(Central Processing Unit)、ASIC(Application Specific Integrated Circuit)、又はMPU(Micro Processing Unit)等である。制御ユニット100は、記憶部230に記憶されているプログラムに従った上記プロセッサーによる動作により、制御部130、顔認証部131、及びジェスチャー判定部132として機能する。但し、上記の制御部130、顔認証部131、及びジェスチャー判定部132は、制御ユニット100によるプログラムに従った動作によらず、それぞれハードウェア回路により構成してもよい。
【0017】
制御部130は、サーバー13の全体的な動作制御を司る。
【0018】
顔認証部131は、各カメラ11、12により撮像されて記憶部230に記憶されたそれぞれの撮影画像毎に、撮像画像に対して既知の顔認識処理を施して、撮像画像における単数又は複数の人物の顔画像を検出し、該検出した顔画像の特徴点を抽出する。更に、顔認証部131は、この抽出した顔画像の特徴点を人物データ記憶部14に記憶されている各人物の顔の特徴点(顔情報)と照合し、該検出した顔画像の特徴点が該各人物の顔の特徴点のいずれかに一致すると、該検出した顔画像を、画像形成装置15へのログインを認める候補者の顔画像として認証する。
【0019】
ジェスチャー判定部132は、各カメラ11、12により撮像されて記憶部230に記憶されたそれぞれの撮影画像毎に、顔認証部131により認証された顔画像の位置及び向きに基づき、当該顔画像を有する人物(顔認証部131が検出した顔画像の特徴点に一致する特徴点が対応付けられて記憶部230に記憶されている人物)の手の位置を判定して、この人物の手による各種のハンドジェスチャーを既知のジェスチャー検出技術により検出する。また、ジェスチャー判定部132は、顔認証部131により認証された当該顔画像を有する人物に対応付けられたハンドジェスチャーを人物データ記憶部14から読み出し、上記検出したハンドジェスチャーが当該読み出したハンドジェスチャーに一致するか否かを判定する。
【0020】
次に、画像形成装置15を説明する。
図4は、画像形成装置15の主要部を示すブロック図である。画像形成装置15は、表示部21と、操作部22と、通信部23と、タッチパネル24と、画像読取部25と、画像形成部26と、記憶部28と、制御ユニット29とを備えている。これらの構成要素は、互いにバスを通じてデータ又は信号の送受信が可能とされている。
【0021】
表示部21は、液晶ディスプレイ(LCD:Liquid Crystal Display)や有機EL(OLED:Organic Light-Emitting Diode)ディスプレイなどから構成される。操作部22は、テンキー、決定キー、スタートキーなどのハードキーを備えている。
【0022】
表示部21の画面には、タッチパネル24が配置されている。タッチパネル24は、所謂抵抗膜方式や静電容量方式などのタッチパネルであって、タッチパネル24に対するユーザーの指などの接触(タッチ)をその接触位置とともに検知して、その接触位置の座標を示す検知信号を制御ユニット29の後述する制御部31などに出力する。
【0023】
通信部23は、LANチップなどの通信モジュールを備える通信インターフェイスである。この通信部23は、ネットワークNを通じてサーバー13に接続されて、サーバー13との間でデータを送受信する。
【0024】
画像読取部25は、コンタクトガラスに載置された原稿を光学的に読み取るスキャナーを備え、この原稿の画像を示す画像データを生成する。
【0025】
画像形成部26は、感光体ドラム、感光体ドラムの表面を均一帯電させる帯電装置、感光体ドラムの表面を露光して、感光体ドラムの表面に静電潜像を形成する露光装置、感光体ドラムの表面の静電潜像をトナー像に現像する現像装置、及び感光体ドラムの表面のトナー像(画像)を記録紙に転写する転写装置等を備え、画像データによって示される画像を記録紙に形成する。
【0026】
記憶部28は、SSD(Solid State Drive)、又はHDD(Hard Disk Drive)などの大容量の記憶装置であって、各種のアプリケーションプログラムや種々の情報等を記憶している。
【0027】
制御ユニット29は、プロセッサー、RAM(Random Access Memory)、及びROM(Read Only Memory)などから構成される。プロセッサーは、CPU、MPU、又はASIC等である。制御ユニット29は、上記のROM又は記憶部28に記憶された制御プログラムが上記のプロセッサーで実行されることにより、制御部31、表示制御部33、及び通信制御部34として機能する。
【0028】
制御ユニット29は、画像形成装置15を統括的に制御する。制御ユニット29は、表示部21、操作部22、通信部23、タッチパネル24、画像読取部25、画像形成部26、及び記憶部28などと接続されており、これらの構成要素の動作制御や、該各構成要素との間での信号またはデータの送受信を行う。
【0029】
制御部31は、画像形成装置15による画像形成に必要な各種の処理などを実行する処理部としての役割を果たす。また、表示制御部33は、表示部21の表示動作を制御する機能を有する。通信制御部34は、通信部23の通信動作を制御する機能を有する。
【0030】
一般に、画像形成装置15の利用に際し、例えばIDカードによる利用者の認証が行われてから画像形成装置15の利用が許可されるものがあるが、画像形成装置15の利用認証のためにIDカードが必要であるため、操作が煩わしい。
【0031】
本実施形態では、サーバー13において、上記のように顔認証部131は、各カメラ11、12により撮像された撮像画像から人物の顔画像を検出して、この検出した顔画像の特徴点が人物データ記憶部14に記憶されている各人物の顔の特徴点のいずれかに一致すると、該検出した顔画像を、画像形成装置15へのログインを認める候補者の顔画像として認証する。そして、ジェスチャー判定部132は、撮像画像における人物のハンドジェスチャーを検出して、当該人物の顔画像の特徴点に対応付けられたハンドジェスチャーを人物データ記憶部14から読み出し、その検出した当該人物のハンドジェスチャーがその読み出したハンドジェスチャーに一致するか否かを判定する。そして、制御部130は、顔認証部131により人物の顔画像が認証されかつジェスチャー判定部132により当該人物のハンドジェスチャーがその読み出したハンドジェスチャーに一致すると判定された場合に、該人物による画像形成装置15のログインを許可する。このため、その人物(利用者)は、IDカードを用いて上記認証のための操作を行う必要がない。
【0032】
また、顔認証部131による顔画像の認証だけではなく、ジェスチャー判定部132によるハンドジェスチャーの判定に基づき、画像形成装置15のログインを許可しているので、複数の人物の顔画像が認証されている状況であっても、ハンドジェスチャーの判定に基づき、後述するようにして、一人の人物のみに対して画像形成装置15のログインを許可することが可能である。
【0033】
次に、ログイン支援システム10の動作について説明する。
図5は、サーバー13による画像形成装置15のログインを許可するまでの処理手順を示すフローチャートである。
【0034】
各カメラ11は、部屋200内の全ての人物を撮像して、それぞれの撮像画像をサーバー13に送信する。また、カメラ12は、画像形成装置15の前に来た人物を撮像して、撮像画像をサーバー13に送信する。サーバー13では、それらの撮像画像を通信部240で受信して記憶部230に一時的に記憶させる。顔認証部131は、各カメラ11、12により撮像されたそれぞれの撮像画像毎に、撮像画像における単数又は複数の人物の顔画像を検出し、該検出した顔画像の特徴点を抽出する。更に、顔認証部131は、この抽出した顔画像の特徴点を人物データ記憶部14に記憶されている各人物の顔の特徴点と照合し、該検出した顔画像の特徴点が該各人物の顔の特徴点のいずれかに一致した場合に、当該検出した顔画像を、画像形成装置15へのログインを認める候補者の顔画像として認証する(S101)。
【0035】
この後、上記顔画像が検出された各人物(上記候補者)がハンドジェスチャーを行った場合に、各カメラ11,12の少なくともいずれかは、当該人物のハンドジェスチャーを撮像するものとし、その撮像画像をサーバー13に送信する。サーバー13では、それらの撮像画像を通信部240で受信して記憶部230に一時的に記憶させる。サーバー13のジェスチャー判定部132は、記憶部230に記憶されている各撮像画像における上記各人物(上記候補者)のハンドジェスチャーを上述したようにして検出し、当該各人物の顔画像の特徴点に対応付けられたハンドジェスチャーをそれぞれ人物データ記憶部14から読み出し、上記検出した当該各人物のハンドジェスチャーが、各人物に対応する、当該読み出したハンドジェスチャーに一致するか否かを判定する(S102)。
【0036】
そして、ジェスチャー判定部132が、上記両方のハンドジェスチャーが一致すると判定した場合(S102「Yes」)、制御部130は、ジェスチャー判定部132により最初に当該ハンドジェスチャーが判定された人物を、ログインを許可する人物A(優先ユーザー)として記憶し(人物Aに対して画像形成装置15にログインする地位を付与)、この人物Aの氏名と、当該人物Aの氏名の表示指示とを、通信部240から画像形成装置15に送信させる(S103)。
【0037】
画像形成装置15では、人物Aの氏名と、ログインが許可される当該人物Aの氏名の表示指示とを通信部23で受信すると、制御部31は、表示制御部33により人物Aの氏名を表示部21に表示させる。但し、この時点では、画像形成装置15の制御部31は、当該人物Aについてのログイン処理を行わない。
【0038】
すなわち、人物の顔画像が認証され、この人物のハンドジェスチャーが、人物データ記憶部14に記憶されている該顔画像の特徴点に対応するハンドジェスチャーに一致した場合に、該人物の顔画像がログインを許可される人物Aの顔画像として特定される。また、上記人物Aの氏名が画像形成装置15の表示部21に表示されて、ログインの許可を受けた人物Aの氏名が、画像形成装置15の周囲に存在する各人物に報知される。
【0039】
また、制御部130は、ログインを許可される人物Aを顔画像の認証により特定すると、この特定時点からの経過時間Tの計時を内蔵するタイマーにより開始して(S104)、経過時間Tが予め設定された規定時間TA(例えば、20秒)に達したか否かを判定する(S105)。
【0040】
ここで、ログインを許可される人物Aは、画像形成装置15を使用するために該画像形成装置15の前まで移動するか又は画像形成装置15の前に既に居ると考えられる。このため、顔認証部131は、カメラ12が撮像した撮像画像において当該ログインを許可される人物Aの顔画像を検出する可能性が高い。また、ログインを許可される人物Aがハンドジェスチャーを行った後に、更に他の人物がハンドジャスチャーを行うこともあるため、ジェスチャー判定部132は、他の人物のハンドジェスチャーを判定する場合がある。
【0041】
そこで、制御部130は、経過時間Tが規定時間TAに達するまでは(S105「No」)、カメラ12により撮像された撮像画像に人物の顔画像があると顔認証部131により検出されるか(S106,S106「No」)、及び、ジェスチャー判定部132による他の人物のハンドジェスチャーの判定を待機する(S110,S110「No」)。
【0042】
ここで、顔認証部131は、カメラ12により撮像された撮像画像に人物の顔画像があることを検出した場合(S106「YES」)、その検出した人物の顔画像の特徴点とS104で特定されたログインを許可される人物Aの顔画像の特徴点が一致するか否かを判定する(S107)。すなわち、画像形成装置15の前に移動するか又は画像形成装置15の前に居る人物が、ログインを許可される人物と同一であるか否かが顔認証部131により判定される。なお、S101においてカメラ12により撮像された撮像画像に人物の顔画像が顔認証部131により認証されている場合は、S106において再度カメラ12により撮像された撮像画像に人物の顔画像があることが検出されることになる。
【0043】
そして、顔認証部131が上記両方の顔画像の特徴点が一致すると判定すると(S107「Yes」)、すなわち、画像形成装置15の前に移動するか又は画像形成装置15の前に居る人物がログインを許可される人物Aと同一である場合には、制御部130は、当該人物Aに画像形成装置15のログインを許可し、人物Aに画像形成装置15のログインを許可する旨のログイン許可情報を、通信部240から画像形成装置15に送信する(S108)。
【0044】
画像形成装置15では、ログイン許可情報が通信部23で受信されると、制御部31は、画像形成装置15の使用を許可してログイン処理を行い、画像形成装置15を、操作部22又はタッチパネル24の操作に応じて、画像読取部25、画像形成部26などを駆動制御して画像を記録紙に形成すること等が可能な状態とする。
【0045】
そして、サーバー13の制御部130は、後述するログイン待ちが有るか否かを判定し(S109)、ログイン待ちが無ければ(S109「No」)、
図5の処理を終了する。
【0046】
また、画像形成装置15の前に移動するか又は画像形成装置15の前に居る人物が、ログインを許可される人物Aと同一でなく、顔認証部131により両者の人物の顔画像の特徴点が一致しないと判定された場合は(S107「No」)、処理はS105に戻る。
【0047】
また、ログインを許可される人物Aがハンドジェスチャーを行った後、経過時間Tが規定時間TAに達するまでに(S105「No」)、カメラ12により撮像された撮像画像に人物の顔画像があると顔認証部131により検出されることなく(S106「No」)、他の人物がハンドジャスチャーを行った場合は、ジェスチャー判定部132は、当該他の人物のハンドジェスチャーを検出して、当該他の人物の顔画像の特徴点に対応付けられたハンドジェスチャーを人物データ記憶部14から読み出し、当該検出した当該他の人物のハンドジェスチャーが当該読み出したハンドジェスチャーに一致するか否かを判定する(S110)。
【0048】
そして、ジェスチャー判定部132により上記両方のハンドジェスチャーが一致すると判定されると(S110「Yes」)、制御部130は、ログイン待ちとする新たな優先ユーザーとして当該他の人物の氏名を記憶しておくと共に、当該他の人物の氏名及びその表示指示を通信部240から画像形成装置15に送信する(S111)。
【0049】
画像形成装置15では、ログイン待ちの上記他の人物の氏名及びその表示指示を通信部23で受信すると、制御部31は、表示制御部33によりログイン待ちの当該他の人物の氏名を、ログインが許可された人物Aの氏名等と共に表示部21に表示させる。
【0050】
すなわち、ジェスチャー判定部132により、上記他の人物について対応付けられているハンドジェスチャーがあったと判定されると、制御部130により、当該他の人物がログイン待ちの人物として記憶される。また、ログイン待ちとなっている上記他の人物の氏名が画像形成装置15の表示部21に表示されるため、ログイン待ちの人物の氏名が画像形成装置15の周囲にいる各人物に報知される。
【0051】
なお、経過時間Tが規定時間TAに達する前に(S105「No」)、ジェスチャー判定部132により、更に2人目の他の人物のハンドジェスチャーが検出されて、2人目の他の人物のハンドジェスチャーが人物データ記憶部14から読み出された規定のハンドジェスチャーに一致すると判定された場合は(S110「Yes」)、制御部31は、ログイン待ちとして2人目の他の人物の氏名を記憶すると共に、当該ログイン待ちの2人目の他の人物の氏名及びその表示指示を通信部240により画像形成装置15に向けて送信させる(S111)。画像形成装置15では、ログイン待ちの当該2人目の他の人物の氏名も画像形成装置15の表示部21に更に表示される。従って、ログイン待ちの人物が2人に増えて、ログイン待ちの1人目及び2人目の人物の氏名、更に、ログインが許可された人物Aの氏名が画像形成装置15の表示部21に表示される。
【0052】
以降同様に、更に別の人物のハンドジェスチャーがジェスチャー判定部132により検出される度に、制御部31により同様の処理が行われる。この処理が繰り返されると、画像形成装置15では、ログイン待ちの人物が増える。
【0053】
また、制御部130は、S110で「No」又はS107で「No」のまま、経過時間Tが規定時間TAに達したと判定した場合は(S105「Yes」)、ログイン待ちとなっている人物を記憶しているか否かを判定する(S112)。ここで、制御部130は、ログイン待ちの人物を記憶していると判定したときは(S112「Yes」)、S103で人物Aに付与されたログインを許可する地位を取り消して(S113)、ログイン待ちの人物であって順番が1番目の人物を、新たなログインを許可される人物Aとして記憶し(人物Aに対して画像形成装置15にログインする地位を付与)、当該新たな人物Aの氏名を通信部240から画像形成装置15に送信させる(S114)。この後、S104からの処理が繰り返される。
【0054】
なお、制御部130が、ログイン待ちの人物を記憶していないと判定した場合は(S112「No」)、
図5の処理は終了する。つまり、規定時間TAの経過後、ログインの許可を待機している他の人物がいない場合には、
図5の処理は終了する。
【0055】
画像形成装置15では、上記のようにして新たにログインが許可される人物(新たな優先ユーザー)の氏名を通信部23で受信すると、制御部31は、表示制御部33により当該新たな人物Aの氏名を表示部21に表示させる。
【0056】
尚、S108で画像形成装置15のログインが許可された後、ログイン待ちが有ると判定された場合も(S109「Yes」)、画像形成装置15において当該ログイン状態で人物Aによる指示で実行されたジョブが終了したことを示す情報を当該画像形成装置15から通信部240で受信したとき、又は、当該情報を予め定められた期間(例えば、5分)内に通信部240で受信しないときは、制御部130が、S104で特定されたログインを許可される人物Aの画像形成装置15にログインする地位を取り消して(S113)、ログイン待ちの人物であって順番が1番目の人物を、新たなログインを許可される人物(新たな優先ユーザー)として記憶し(当該人物に対して画像形成装置15にログインする地位を付与)、当該新たな人物(新たな優先ユーザー)の氏名を通信部240から画像形成装置15に送信させる(S114)。この場合、S105における経過時間Tは、制御部130が、上記ログイン待ちの人物であって順番が1番目の人物を、新たなログインを許可される人物(新たな優先ユーザー)として記憶した時点からとする。
【0057】
このように本実施形態では、人物の顔画像が認証され、かつ当該人物のハンドジェスチャーが規定のハンドジェスチャーに一致すると判定された場合に、該人物による画像形成装置15のログインが許可されるので、格別なログイン操作を行う必要がなく、一人の人物のみに対して画像形成装置15のログインを許可することができる。
【0058】
また、本実施形態では、複数の人物の顔画像が認証された場合には、最初にハンドジェスチャーを行って当該ハンドジェスチャーが規定のハンドジェスチャーに一致すると判定された人物に画像形成装置15のログインが許可されるので、最初に画像形成装置15を使用したいという意思表示をした者のみに対して、最先に画像形成装置15のログインを許可することができる。
【0059】
更に、本実施形態では、顔画像が認証されて最初にハンドジェスチャーを行った人物よりも後に、他の人物のハンドジェスチャーが規定のハンドジェスチャーに一致すると判定された場合は、他の人物がログイン待ちとされ、順番待ちの順に各人物について順次ログインが許可されるので、画像形成装置15を効率的に利用することができる。
【0060】
更に、本実施形態によれば、ログインを許可される人物A(顔画像が認証されて最初にハンドジェスチャーを行った人物)の氏名及びログイン待ちの他の人物の氏名が画像形成装置15の表示部21に表示されるので、画像形成装置15にログインすることになる人物や、この次にログインすることになる人物を周囲に知らせることができる。
【0061】
なお、上記実施形態では、ログインを許可される人物の氏名及びログイン待ちの他の人物の氏名を画像形成装置15の表示部21に表示させているが、これと共に又はこれに代えて、制御部31が、これらの人物の顔画像を表示部21に表示させても構わない。この場合は、サーバー13の制御部130が、顔認証部131により認証された当該人物の顔画像を撮像画像から抽出し、その抽出した顔画像の表示指示をサーバー13から通信部240を介して画像形成装置15へと送信する。
【0062】
また、本実施形態では、サーバー13の記憶部230に、各人物にそれぞれ1種類のハンドジェスチャーを記憶しているが、各人物にそれぞれ複数種のハンドジェスチャーを記憶するようにしても構わない。この場合、ジェスチャー判定部132は、人物のハンドジェスチャーを検出すると、当該人物の顔画像の特徴点に対応付けられた複数種のハンドジェスチャーを人物データ記憶部14から読み出し、上記検出したハンドジェスチャーがその読み出した各ハンドジェスチャーのいずれかに一致するか否かを判定する。
【0063】
また、記憶部230に、各人物に共通のハンドジェスチャーが記憶されているようにしてもよい。
【0064】
また、各人物のハンドジェスチャーにそれぞれ異なる優先度(画像形成装置15へのログインを許可する優先度)を付与し、当該優先度を各人物に対応付けて記憶部230に記憶しておくようにしてもよい。この場合、制御部130は、上記規定時間TAの経過前に、複数の人物の顔画像が認証され、当該複数の人物がそれぞれハンドジェスチャーを行って当該ハンドジェスチャーが規定のハンドジェスチャーに一致すると判定された場合に、当該ハンドジェスチャーが規定のハンドジェスチャーに一致すると判定された人に拘わらず、優先度の高い順に各人物に対して順次ログインを許可する。
【0065】
なお、制御部130は、このように優先度を設定した場合、ログイン待ちの人物を記憶している状態で、更に、優先度が最も高く設定されている人物について、顔画像が認証されかつハンドジェスチャーが規定のハンドジェスチャーに一致すると判定されたとき、当該優先度が最も高く設定されている人物のログイン待ちの順番を常に最先とするようにしてもよい。
【0066】
また、上記実施形態では、部屋200に複数のカメラ11が設置されているが、カメラ11は1台であってもよい。この場合は、1台のカメラ11として、ズームイン及びズームアウトの機能、パン及びチルトの機能、撮像中の人物を追尾する追尾機能などを有するものを適用して、1台のカメラ11により部屋200内の全ての人物を撮像することができるようにするのが好ましい。
【0067】
なお、上記実施形態では、顔認証部131が、カメラ12により撮像された撮像画像において認証した顔画像の特徴点と、S103で特定されたログインを許可される人物Aの顔画像の特徴点が一致すること(S107「YES」)を条件に、当該人物Aに画像形成装置15の使用を許可する処理を行っているが、これに限られず、制御部130は、ログインが許可される人物Aに対して、当該処理を行わず、上記ログイン許可情報を画像形成装置15に送信するようにしてもよい。
【0068】
また、
図1乃至
図5を用いて上記実施形態により示した構成及び処理は、本発明の一実施形態に過ぎず、本発明を当該構成及び処理に限定する趣旨ではない。例えば、上記実施形態では、特許請求の範囲における電子機器の一例を画像形成装置15として説明しているが、電子機器は画像形成装置に限られず、情報処理装置、医療機器、工作機器等の他の電子機器であっても構わない。