(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023156539
(43)【公開日】2023-10-25
(54)【発明の名称】電子機器
(51)【国際特許分類】
G06T 1/00 20060101AFI20231018BHJP
G06F 21/31 20130101ALI20231018BHJP
【FI】
G06T1/00 400H
G06F21/31
【審査請求】未請求
【請求項の数】20
【出願形態】OL
(21)【出願番号】P 2020147050
(22)【出願日】2020-09-01
(71)【出願人】
【識別番号】316005926
【氏名又は名称】ソニーセミコンダクタソリューションズ株式会社
(71)【出願人】
【識別番号】000002185
【氏名又は名称】ソニーグループ株式会社
(74)【代理人】
【識別番号】100091487
【弁理士】
【氏名又は名称】中村 行孝
(74)【代理人】
【識別番号】100105153
【弁理士】
【氏名又は名称】朝倉 悟
(72)【発明者】
【氏名】中田 征志
(72)【発明者】
【氏名】馬場 友彦
(72)【発明者】
【氏名】宮谷 佳孝
(72)【発明者】
【氏名】納土 晋一郎
(72)【発明者】
【氏名】谷亀 貴央
【テーマコード(参考)】
5B047
【Fターム(参考)】
5B047AA23
5B047AB04
5B047BB04
5B047BC11
5B047BC23
5B047CA01
5B047CA14
5B047CA23
5B047CB17
5B047CB30
(57)【要約】
【課題】受光センサを用いた認証等におけるユーザビリティを向上する。
【解決手段】電子機器は、第1センサと、第2センサと、を備える。前記第1センサは、常時動作の光学センサを備える。前記第2センサは、前記第1センサが所定の環境変化を検出すると、認証モードとして駆動し、認証対象の情報を取得するモードに移行する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
常時動作の光学センサを備える、第1センサと、
前記第1センサが所定の環境変化を検出すると、認証モードとして駆動し、認証対象の認証情報を取得するモードに移行する、第2センサと、
を備える電子機器。
【請求項2】
情報を表示する、ディスプレイ、
をさらに備え、
前記第1センサ及び前記第2センサは、ディスプレイの下に備えられる、
請求項1に記載の電子機器。
【請求項3】
前記第2センサは、前記環境変化の状態に基づいて、解像度を変化する、
請求項2に記載の電子機器。
【請求項4】
前記第1センサと前記第2センサは同一のセンサであり、それぞれのセンサとして用いる場合に異なる特性を有するセンサとして動作する、
請求項2に記載の電子機器。
【請求項5】
前記第1センサは、照度情報、物体情報、距離情報のうち少なくとも1つを前記環境変化として検出する、
請求項2に記載の電子機器。
【請求項6】
前記第1センサは、撮像素子から取得される視差情報に基づいて、前記距離情報を検出する、
請求項5に記載の電子機器。
【請求項7】
前記第1センサは、分割画素又は像面位相差画素を用いて前記視差情報を取得する、
請求項6に記載の電子機器。
【請求項8】
前記第1センサは、ToF(Time of Flight)センサにより、前記距離情報を検出する、
請求項5に記載の電子機器。
【請求項9】
前記第1センサにより所定状態を検出すると、前記ディスプレイを発光させる、
請求項2に記載の電子機器。
【請求項10】
前記第1センサにより所定状態を検出すると、第2センサによる認証領域を示す表示を前記ディスプレイに表示する、
請求項2に記載の電子機器。
【請求項11】
前記第1センサは、前記ディスプレイに対象が接触する前に前記環境変化を検知し、
前記第2センサは、前記ディスプレイに前記対象が接触する前に前記認証対象の情報を取得する、
請求項2に記載の電子機器。
【請求項12】
前記第2センサは、画素ごとにメモリを備え、グローバルシャッタとして動作する、
請求項11に記載の電子機器。
【請求項13】
前記第2センサは、イベント駆動画素を備える、
請求項11に記載の電子機器。
【請求項14】
前記第2センサは、前記ディスプレイから前記対象までの距離が0mmよりも長く、50mm以下の距離である場合に、前記認証情報を取得する、
請求項11に記載の電子機器。
【請求項15】
前記第2センサにより取得された情報について、前記認証情報の大きさを補正して認証する、
請求項14に記載の電子機器。
【請求項16】
前記第2センサは、20度以上の画角を有するセンサである、
請求項2に記載の電子機器。
【請求項17】
前記ディスプレイ側に配置される、カメラ、
をさらに備え、
前記カメラが起動した場合に、前記第1センサ又は前記第2センサを色別の情報を出力する照度センサとして動作するモードに切り替える、
請求項2に記載の電子機器。
【請求項18】
前記照度センサは、前記色別の情報を統計情報として出力する、
請求項17に記載の電子機器。
【請求項19】
前記カメラを前記色別の情報に基づいて制御する、
請求項17に記載の電子機器。
【請求項20】
ディスプレイと、
前記ディスプレイと同じ面に配置される、カメラと、
前記ディスプレイ下に配置される、常時駆動のセンサと、
を備え、
前記カメラが起動したタイミングに基づいて、前記センサが色別の情報を出力する照度センサとして動作する、
電子機器。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、電子機器に関する。
【背景技術】
【0002】
指紋情報、静脈情報を用いて認証をすることが広く実現されている。ディスプレイ下に備えられた指紋センサを用いて認証情報を取得する技術も開発されている。現在のディスプレイ下に備えられる指紋センサは、ユーザがタッチパネルに接触したことを検出して指紋認証を開始する。このため、認証終了までには、約500msec前後の時間を必要とし、ユーザ体験を悪化させる原因となっている蓋然性が高い。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】米国特許出願公開第2018/0306640号明細書
【特許文献2】国際公開第2018/176200号
【発明の概要】
【発明が解決しようとする課題】
【0004】
本開示の実施形態では、受光センサを用いてユーザビリティを向上させた電子機器を提供する。
【課題を解決するための手段】
【0005】
電子機器は、第1センサと、第2センサと、を備える。第1センサは、常時動作の光学センサを備える。第2センサは、前記第1センサが所定の環境変化を検出すると、認証モードとして駆動し、認証対象の情報を取得するモードに移行する。
【0006】
情報を表示する、ディスプレイ、をさらに備えてもよく、前記第1センサ及び前記第2センサは、ディスプレイの下に備えられてもよい。
【0007】
前記第2センサは、前記環境変化の状態に基づいて、解像度を変化させてもよい。
【0008】
前記第1センサと前記第2センサは同一のセンサであり、それぞれのセンサとして用いる場合に異なる特性を有するセンサとして動作させてもよい。
【0009】
前記第1センサは、少なくとも照度情報を前記環境変化として検出してもよい。
【0010】
前記第1センサは、少なくとも物体情報(例えば、顔、手、指の情報)を前記環境変化として検出してもよい。
【0011】
前記第1センサは、少なくとも距離情報を前記環境変化として検出してもよい。
【0012】
前記第1センサは、撮像素子から取得される視差情報に基づいて、前記距離情報を検出してもよい。
【0013】
前記第1センサは、分割画素を用いて前記視差情報を取得してもよい。
【0014】
前記第1センサは、像面位相差画素を用いて前記視差情報を取得してもよい。
【0015】
前記第1センサは、ToF(Time of Flight)センサにより、前記距離情報を検出してもよい。
【0016】
前記第1センサにより所定状態を検出すると、前記ディスプレイを発光させてもよい。
【0017】
前記第1センサにより所定状態を検出すると、第2センサによる認証領域を示す表示を前記ディスプレイに表示してもよい。
【0018】
前記第1センサは、前記ディスプレイに対象が接触する前に前記環境変化を検知してもよく、前記第2センサは、前記ディスプレイに前記対象が接触する前に前記認証対象の情報を取得してもよい。
【0019】
前記第2センサは、画素ごとにメモリを備えてもよく、グローバルシャッタを備えた画素を有する電子機器として動作してもよい。
【0020】
前記第2センサは、イベント駆動画素を備えてもよい。
【0021】
前記第2センサは、前記ディスプレイから前記対象までの距離が0mmよりも長く、50mm以下の距離である場合に、前記認証情報を取得してもよい。
【0022】
前記第2センサにより取得された情報について、前記認証情報の大きさを補正して認証してもよい。
【0023】
前記第2センサは、20度以上の画角を有するセンサであってもよい。
【0024】
前記ディスプレイ側に配置される、カメラ、をさらに備えてもよく、前記カメラが起動した場合に、前記第1センサを色別の情報を出力する照度センサとして動作するモードに切り替えてもよい。
【0025】
前記カメラが起動した場合に、前記第2センサを色別の情報を出力する照度センサとして動作するモードに切り替えてもよい。
【0026】
前記照度センサは、前記色別の情報を統計情報として出力してもよい。
【0027】
前記カメラを前記色別の情報に基づいて制御してもよい。
【0028】
一実施形態によれば、電子機器は、ディスプレイと、カメラと、常時駆動のセンサと、を備える。カメラは、前記ディスプレイと同じ面に配置される。センサは、前記ディスプレイ下に配置される。電子機器は、前記カメラが起動したタイミングに基づいて、前記センサが色別の情報を出力する照度センサとして動作する。
【0029】
一実施形態によれば、電子機器は、ディスプレイと、認証センサと、制御部と、を備える。認証センサは、前記ディスプレイ下に配置され、認証情報を取得する。制御部は、前記認証センサが取得したユーザの複数の異なる認証対象により、動作を切り替える。
【0030】
前記複数の認証対象は、異なる指の指紋情報であってもよい。
【0031】
前記制御部は、前記ユーザの認証対象が、右手の指であるか、左手の指であるか、により、動作を切り替えてもよい。
【0032】
前記制御部は、前記ユーザの認証対象が、同一の手の異なる指であること、により、動作を切り替えてもよい。
【0033】
前記制御部は、前記ユーザの認証対象が、複数の指であること、により、動作を切り替えてもよい。
【0034】
前記制御部は、前記ユーザの認証対象が、指の異なる動きであること、により、動作を切り替えてもよい。
【0035】
前記認証対象は、少なくとも1つがスワイプ動作であってもよい。
【0036】
前記認証対象は、前記スワイプ動作の方向であってもよい。
【0037】
前記認証対象は、少なくとも1つがピンチイン動作であってもよい。
【0038】
前記認証対象は、少なくとも1つがピンチアウト動作であってもよい。
【0039】
前記認証対象は、少なくとも1つが指の回転動作であってもよい。
【0040】
前記認証センサは、画素ごとにメモリを備えてもよく、グローバルシャッタを用いて動作する電子機器であってもよい。
【0041】
前記認証センサは、光学式のセンサであってもよい。
【0042】
前記認証センサは、超音波式のセンサであってもよい。
【0043】
前記認証センサは、静電容量式のセンサであってもよい。
【0044】
前記認証センサは、ログインのタイミングにおいて前記認証情報を取得してもよく、前記制御部は、前記認証情報に基づいて、ログインを許可/拒否してもよい。
【0045】
前記認証センサは、所定アプリケーションへのログインのタイミングにおいて前記認証情報を取得してもよく、前記制御部は、前記認証情報に基づいて、前記所定アプリケーションへのログインを許可/拒否してもよい。
【0046】
前記制御部は、前記認証情報に基づいて、利用できるアプリケーションを切り替えてもよい。
【0047】
前記制御部は、前記認証情報に基づいて、ネットワークの接続先を切り替えてもよい。
【0048】
前記制御部は、前記認証情報に基づいて、クラウドの接続先を切り替えてもよい。
【0049】
前記制御部は、前記認証情報に基づいて、MEC(Mobile Edge computing)の接続先を切り替えてもよい。
【0050】
前記制御部は、前記認証情報に基づいて、アプリケーションにおいて用いるID又はアカウントを切り替えてもよい。
【0051】
前記制御部は、前記認証情報に基づいて、複数の動作設定を切り替えてもよい。
【0052】
前記動作設定は、少なくとも1つがテザリングのオン・オフであってもよい。
【0053】
前記動作設定は、少なくとも1つがマナーモードのオン・オフであってもよい。
【0054】
前記動作設定は、少なくとも1つが壁紙の表示であってもよい。
【0055】
前記制御部は、前記認証情報に基づいて、決済の請求先を切り替えてもよい。
【0056】
前記制御部は、前記認証情報に基づいて、起動するOS(Operating System)を切り替えて起動してもよい。
【0057】
前記ユーザは、複数であってもよく、前記制御部は、それぞれの前記ユーザに対するそれぞれの前記認証情報に基づいて、動作を切り替えてもよい。
【0058】
前記認証情報は、指の大きさの情報であってもよい。
【0059】
前記認証情報は、顔の情報であってもよい。
【0060】
前記制御部は、前記認証情報により、異なる権限を与えてもよい。
【0061】
前記権限は、少なくとも1つがデータの削除又はデータの改変に関する権限であってもよい。
【0062】
前記権限は、少なくとも1つがデータのダウンロード又はデータのアップロードに関する権限であってもよい。
【0063】
前記権限は、少なくとも1つがプログラムの実行に関する権限であってもよい。
【0064】
前記権限は、少なくとも1つが決済に関する権限であってもよい。
【図面の簡単な説明】
【0065】
【
図1】一実施形態に係る電子機器の一例を模式的に示す図。
【
図2】一実施形態に係る電子機器の一例を模式的に示す図。
【
図3】一実施形態に係る電子機器の構成を模式的に示すブロック図。
【
図4】一実施形態に係る電子機器の動作を示すフローチャート。
【
図5】一実施形態に係る電子機器の動作の一例を模式的に示す図。
【
図6】一実施形態に係る電子機器の動作の一例を模式的に示す図。
【
図7】一実施形態に係る電子機器の動作の一例を模式的に示す図。
【
図8】一実施形態に係る電子機器の動作の一例を模式的に示す図。
【
図9】一実施形態に係る電子機器の動作を示すフローチャート。
【
図10】一実施形態に係るセンサの解像度を模式的に示す図。
【
図11】一実施形態に係るセンサの解像度を模式的に示す図。
【
図12】一実施形態に係る電子機器の動作の一例を模式的に示す図。
【
図13】一実施形態に係るセンサの解像度を模式的に示す図。
【
図14】一実施形態に係るセンサの解像度を模式的に示す図。
【
図15】一実施形態に係る電子機器の動作の一例を模式的に示す図。
【
図16】一実施形態に係る電子機器の動作の一例を模式的に示す図。
【
図17】一実施形態に係る電子機器の構成を模式的に示すブロック図。
【
図18】一実施形態に係る電子機器の動作を示すフローチャート。
【
図19】一実施形態に係る電子機器の動作の一例を模式的に示す図。
【
図20】一実施形態に係る電子機器の動作の一例を模式的に示す図。
【
図21】一実施形態に係る電子機器の動作の一例を模式的に示す図。
【
図22】一実施形態に係る電子機器の動作の一例を模式的に示す図。
【
図23】一実施形態に係る電子機器の動作の一例を模式的に示す図。
【発明を実施するための形態】
【0066】
以下、図面を参照して本開示における実施形態の説明をする。図面は、説明のために用いるものであり、実際の装置における各部の構成の形状、サイズ、又は、他の構成とのサイズの比等が図に示されている通りである必要はない。また、図面は、簡略化して書かれているため、図に示されている以外にも実装上必要な構成は、適切に備えるものとする。
【0067】
なお、以下の説明において、処理の対象となる信号は、画像情報又は撮像情報として記載するが、この画像情報等は、広義の概念であり、静止画、動画、又は、映像における1フレームの画像等を含む概念である。また、「より大きい」、「より小さい」の表現は、「以上」、「以下」と適切に相互に読み替えることができる。
【0068】
また、同じタイミングと記載した場合には、厳密に同じ瞬間である必要はなく、ある程度の時間の範囲において同時とみなされるタイミング又は微小時間ずれたタイミングと理解するものとする。この表現は、使用される箇所により、適宜このある程度の時間の範囲が異なるものであってもよい。例えば、ある程度の時間の範囲とは、~10msecであってもよいし、~33msecであってもよい。これらに限定されるものではなく、さらに短い時間であっても、さらに長い時間であってもよい。
【0069】
(第1実施形態)
図1は、一実施形態に係る電子機器を模式的に示す図である。電子機器1は、例えば、スマートフォン、携帯電話、タブレット型端末、コンピュータ等の表示機能と撮影機能とを備える任意のデバイスである。
【0070】
電子機器1は、表示部2と、カメラモジュール3aと、受光センサ3bと、を備える。
図1の左図に見られるように、電子機器1の外形サイズの近くまで表示画面1aが広がっており、表示画面1aの周囲にあるベゼル1bの幅を、例えば、数mm以下にすることも可能である。
【0071】
電子機器1においては、ベゼル1b内において指紋認証等のセンサを備えるものが多いが、本実施形態では、点線で示されるように、電子機器1は、表示画面1a内にカメラモジュール3を備える。右図に示すように、認証を実行するための撮影をするカメラモジュール3aを表示画面1aの裏面側に備えることによりベゼル1bの幅を狭めることができる。
【0072】
以下、本開示においては、この状況を、カメラモジュール3a(認証センサ)がディスプレイ下に備えられる、と表現する。すなわち、本開示において認証装置等がディスプレイ下に備えられる、と記載した場合には、
図1にあるように、表示部2のディスプレイ表面側とは逆側にセンサ、認証装置等のデバイスが配置されることを示す。
【0073】
また、カメラモジュール3aとは別に受光センサ3bがディスプレイ下に備えられる。この受光センサ3bは、常時起動しているセンサであり、電子機器1のディスプレイ側の周辺環境の光量の変化を取得することができる。この受光センサ3bは、例えば、電子機器1からユーザの指が離れた状態、電子機器1のディスプレイ部にユーザの顔が映り込んでいる状態等を、受光する光の強度に基づいて検知する。また、受光センサ3bは、測距センサを備えていてもよい。このように、受光センサ3bは、照度変化、顔検出、距離検出等により、ユーザを検知する。
【0074】
なお、カメラモジュール3a及び受光センサ3bの配置は、
図1の例に限られるものではなく、ディスプレイ下に備えられるものであればよい。例えば、表示画面1aの周縁部の近くにカメラモジュール3a及び受光センサ3bのいずれか一方が配置されていてもよい。また、
図1においては、双方のセンサは、1つずつ備えられているがこれには限られず、少なくともいずれか一方は、複数配置されていてもよい。
【0075】
また、
図1においては、電子機器1の一方の面に表示部2及びカメラモジュール3a、受光センサ3bが備えられるものとしたが、これに限定されるものではない。例えば、電子機器1の両面に表示部2及びカメラモジュール3a、受光センサ3bを備えていてもよい。
【0076】
表示部2は、表示光学系として適切な構造を有する。表示部2は、例えば
図1に示すように、表示パネル4、円偏光板5、タッチパネル6及びカバーガラス7等の適切な構成を積層した構造体である。これらの並び方は限定されるものではなく、適切に入れ替えたり、また、同じ構成が2以上備えられたり、さらに別の構成要素が含まれるものであったりしてもよい。
【0077】
表示パネル4は、例えば、OLED(Organic Light Emitting Diode)、液晶、MicroLED、その他の表示原理に基づく発光素子をアレイ状に配置した発光画素アレイを備えていてもよい。例えば、発光素子は、第1方向及び第2方向を含む平面内にアレイ状に備えられる。OLED等の表示パネル4は、複数の層で構成される。表示パネル4には、カラーフィルタ層等の透過率が低い部材が配置されていることが多い。後述するように、表示パネル4における透過率が低い部材は、カメラモジュール3aの配置場所に合わせて貫通孔等及び当該貫通孔等に透過率の高い適切な材料による光学系を形成してもよい。貫通孔を通った被写体光がカメラモジュール3aに入射されるようにすれば、カメラモジュール3aで撮像される画像の画質を向上することが可能である。また、上記の形態は、受光センサ3bに対しても同様である。
【0078】
円偏光板5は、ギラツキを低減し、又は、明るい環境下においても表示画面1aの視認性を高める等のためにもうけられている。タッチパネル6には、タッチセンサが組み込まれている。タッチセンサは、静電容量型、抵抗膜型、感圧型等種々の方式があるが、いずれの方式を用いてもよい。また、タッチパネル6と表示パネル4を一体化したタッチディスプレイの形態としてもよい。カバーガラス7は、表示パネル4等を保護するために備えられている。これらの各要素は、光学系に影響の少ないOptical Adhesive Film等の接着剤、接着層により接着されていてもよい。
【0079】
図2は、
図1の電子機器1のカメラモジュール3aを含む断面図である。カメラモジュール3aは、撮像部8と、光学系9と、を備える。
【0080】
光学系9は、撮像部8の光の入射面側、すなわち、表示部2に近い側に配置され、表示部2を通過した光を撮像部8に集光させる。光学系9は、1又は複数のレンズを備えていてもよい。例えば、撮像部8は、光学指紋センサ又は光学静脈センサとして動作し、ユーザの指紋情報又は静脈情報を取得する。
【0081】
以下、指紋情報又は静脈情報、その他汗腺の情報等、認証に利用でき、かつ、カメラモジュール3aで取得可能な情報を、指紋情報等と記載する。すなわち、指紋情報等と記載する場合には、指紋情報に限られず、適切に静脈情報である場合、汗腺情報である場合、その他の適切な認証に利用可能な情報の取得又は利用のことを表す。
【0082】
光学センサとして動作する撮像部8は、複数の光電変換部を備える。それぞれの光電変換部には、レンズが配置されてもよい。このレンズは、光学系9により適切に撮像部8へと射出された光をそれぞれの受光画素を構成する光電変換部において受光させる。
【0083】
光電変換部は、表示部2を介して入射された光を光電変換する。光電変換部は、例えば、CMOS(Complementary Metal-Oxide-Semiconductor Field-Effect Transistor)センサであってもよいし、CCD(Charge Coupled Device)センサであってもよい。光電変換部は、例えば、第1方向及び第2方向に疎ってアレイ状に備えられてもよい。例えば、光電変換部の受光素子は、表示部の発光画素と同じ向きに沿ったアレイ状の受光画素として備えられる。
【0084】
また、光電変換部は、フォトダイオードを備えていてもよいし、有機光電変換膜を備えていてもよい。複数の光電変換部は、任意の方式で配列することが可能である。複数の光電変換部の配列方法は、例えば、ベイヤ配列であってもよいし、インタライン配列であってもよいし、市松配列であってもよいし、ストライプ配列であってもよい。また、これらの他の受光素子の配列として適切な配列であってもよい。
【0085】
本開示においては、光電変換部の出力値、又は、この出力値に基づいて所定の変換がなされた値を受光画素値と記載する。
【0086】
本実施形態では、ディスプレイのカメラモジュール3aが存在する領域を指が通過するタイミングにおいて、ユーザの指紋情報等を取得し、この指紋情報を用いて個人認証を実行する。この指紋情報等の取得のトリガーとなるのが、受光センサ3bによる周辺校の変化の検知である。
【0087】
受光センサ3bは、基本的には、カメラモジュール3aと同様の構成を有していてもよい。例えば、受光センサ3bもカメラモジュール3aと同様に、受光画素アレイを備える撮像部と、受光画素に適切に光を集光等する光学系と、を備える。受光センサ3bは、受光する解像度を制御可能な構成であってもよい。
【0088】
ただし、カメラモジュール3aのように指紋情報等を精度よく撮影する必要がない場合においては、受光感度の精度を確保することにカスタマイズされていてもよい。例えば、受光センサ3bは、受光画素値から画像情報への再構成を行う信号ではなく、照度の変化等をより精度よく検知できる構成であってもよい。
【0089】
なお、このように、カメラモジュール3aと受光センサ3bとが独立している形態に限定されるものではなく、カメラモジュール3aが受光センサ3bの動作を備える構成であってもよい。この場合、後述のようにカメラモジュール3aの消費電力を抑制するべく、カメラモジュール3aの受光能力を周囲環境に合わせて変化させるものであってもよい。
【0090】
電子機器1は、上述したように受光センサ3b(第1センサ)により周辺の環境を読み取り、この読み取った結果に基づいてユーザの状態を判断する。そして、電子機器1は、ユーザの指が近づいた、等の判断に基づいて、カメラモジュール3a(第2センサ)を認証モードに移行して、認証センサとして駆動することにより、認証対象(例えば、ユーザの指)の情報である認証情報を取得する。そして、これら第1センサ及び第2センサは、
図1及び
図2に示すように、電子機器1の表示部であるディスプレイの下に配置される。
【0091】
図3は、一実施形態に係る電子機器1の構成を示すブロック図である。電子機器1は、上記に説明した構成に加えて、情報処理部10と、記憶部11と、をさらに備える。
【0092】
情報処理部10は、カメラモジュール3aが出力した信号を、適切に処理する。情報処理部10は、例えば、カメラモジュール3aが出力した信号を、画像情報に適切に変換する信号処理部と、信号処理部が出力する画像情報を適切に認証に適した画像へと変換する画像処理部と、を備える。なお、信号処理部と、画像処理部は、明確に分離されている必要はなく、例えば、信号処理と同時又は並行して、画像処理に関する処理を実行してもよい。
【0093】
情報処理部10は、例えば、少なくとも一部がASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)等により形成されてもよく、また、別の例としては、CPU(Central Processing Unit)等の汎用の処理回路を備えてもよい。これらの回路は、アナログ回路又はデジタル回路により形成されていてもよい。
【0094】
記憶部11は、情報処理部10が適切に動作し、カメラモジュール3a等が適切に駆動し、また、表示部2において適切に表示がされるためのデータを格納する。電子機器1の少なくとも一部がソフトウェアによる情報処理がハードウェア資源を用いて具体的に実現される場合には、当該ソフトウェアによる情報処理のためのプログラム等を格納してもよい。記憶部11は、例えば、DRAM(Dynamic Random Access Memory)、MRAM(Magnetoresistive Random Access Memory)を備えてもよく、少なくとも一部として各種ROM(Read Only Memory)を備えてもよい。
【0095】
情報処理部10は、一例として、A/D変換部100と、クランプ部101と、色別出力部102と、欠陥補正部103と、リニアマトリックス部104と、フレームメモリ105と、認証部106と、出力部107と、駆動制御部108と、を備える。
【0096】
まず、第2センサであるカメラモジュール3aに関する情報処理部10の構成について説明する。
【0097】
A/D変換部100は、光電変換部8aが受光して蓄えられた電荷に基づいたアナログ信号を、受光画素ごとにデジタル信号へと変換する。A/D変換部100は、この変換したデジタル信号を画像データとして出力する。なお、このA/D変換部100の動作に必要となるクロック信号を出力するためのD/A変換部がさらに備えられていてもよい。
【0098】
クランプ部101は、例えば、黒レベルを規定し、A/D変換部100から出力された画像データについて、この黒レベルの値を減算して出力する。クランプ部101は、画素に備えられる光電変換素子ごとにグラウンドレベルを設定してもよい。この場合、取得された光電変換素子ごとに設定されたグラウンドレベルに基づいて、画像データのグラウンド補正を実行してもよい。
【0099】
色別出力部102は、例えば、光電変換部8aにおいて色別にアナログ信号を取得する場合に、画像データを色ごとに出力する。光電変換部8aには、一例として、R(赤)、G(緑)、B(青)の色フィルタ等が備えられている。これらのフィルタ等により、それぞれの光電変換部8aは、色ごとの感知情報の出力を実行する。光電変換部8aにおいて色フィルタが備えられるのではなく、光電変換部8aが有機光電変換膜により色ごとにアナログ信号が取得できる形態であってもよい。尤も、認証に用いる情報が輝度情報で示されるグレースケールで十分である場合には、この色別出力部102は、備えられなくてもよい。
【0100】
フィルタ等が備えられる場合には、クランプ部101により、それぞれのフィルタに基づいてグラウンドレベルを調節してもよい。この場合、色別出力部102は、クランプ部101が出力した信号を色別に異なるグラウンド補正を実行して出力してもよい。光電変換部8aにおいて取得されたアナログ信号には、色情報が付加されていないため、色別出力部102は、受光素子ごとに配置されている色に関する情報を記憶しておき、このデータに基づいて色ごとに出力を行ってもよい。
【0101】
なお、光電変換部8aは、例えば、近赤外光を受光する素子、プラズモンフィルタ等の複雑なスペクトルを取得する等のフィルタが備えられてもよい。これらの場合、単なる色の情報として表現することは難しいが、色別出力部102は、光の波長で区分し、それぞれの画素からのデータを波長情報と紐付けて処理をしてもよい。この場合、色別出力部102は、所定の範囲の周波数(波長)を有する情報として、色別の処理を実行してもよい。
【0102】
欠陥補正部103は、画像データにおける欠陥の補正を実行する。画像データの欠陥は、例えば、画素内に備えられる光電変換素子の欠陥による画素欠け又は情報欠け、あるいは、光学系9における光の飽和による情報落ち等により発生する。欠陥補正部103は、例えば、周囲の画素の情報、又は、同一の色情報を有する周辺の画素等の情報に基づいて信号値の補間をすることにより、欠陥補正処理を実行してもよい。なお、この欠陥補正部103は、必須の構成ではない。
【0103】
リニアマトリックス部104は、色情報に対する行列演算を実行することにより、色再現を行う。リニアマトリックス部104は、例えば、複数の波長に関する演算を実行することにより、望ましい分光を取得する。本実施形態においては、リニアマトリックス部104は、例えば、指紋情報を取得する場合に肌色の検出に適した出力をしてもよい。別の例として、リニアマトリックス部104は、静脈情報等の生体認証情報を取得するべく、黄色から赤色の波長領域の検出に適した出力となるように演算を実行してもよい。
【0104】
フレームメモリ105は、記憶部11の一部として備えられてもよい。このフレームメモリ105は、光電変換部8aから取得した情報を、上記の処理をした後に一時的に格納する。例えば、情報処理部10は、フレームメモリ105に同じタイミングで取得された指紋情報を、各種上記の処理をして、最終的にリニアマトリックス部104により色再現された一枚の画像データとして保存する。
【0105】
認証部106は、フレームメモリ105に格納された指紋等の情報を用いて個人認証を実行する。個人認証が指紋情報により実行される場合、認証部106は、例えば、指紋データにおける特徴点を抽出し、抽出した特徴点と記憶部11に保存されている認証情報とを比較することにより認証を実行する。
【0106】
また、認証部106は、RGB情報だけではなく、例えば、近赤外光の受光情報、プラズモンフィルタを介して取得された情報に基づいて、なりすまし防止の生体認証を実行してもよい。認証部106は、例えば、フレームメモリ105に格納されているデータにおけるヘモグロビンに対応する波長の情報が正常に取得されているか否かにより、生体認証を実行する。
【0107】
認証部106は、特徴点等を抽出した後に統計処理により判断して認証してもよいし、別の例として、機械学習により訓練済のニューラルネットワークモデルを用いて認証をしてもよい。
【0108】
認証部106は、例えば、予め取得しておいた特定ユーザの指紋情報を記憶部11に格納する。この格納されたユーザの情報に基づいて、個人認証を実行する。複数のユーザの認証をする場合には、複数ユーザの指紋情報を適切に格納しておく。又、格納された指紋情報は、それぞれの指紋情報の画像、又はそれぞれの指紋情報から取得された特徴点の情報を暗号化しておいてもよい。
【0109】
出力部107は、認証部106による認証結果を出力する。出力部107は、例えば、認証結果に基づいて、電子機器1の表示部2等及び各種処理を開始するために、各種処理回路を起動してもよい。この他の例については、後述にて詳しく説明する。
【0110】
上記は、カメラモジュール3aから取得した信号を処理する動作について説明するものであったが、次に、第1センサである受光センサ3bの動作の処理について説明する。
【0111】
受光センサ3bは、ディスプレイ側の光の変化を検知し、この環境変化の状態に基づいて各種処理を実行する。
【0112】
駆動制御部108は、例えば、受光センサ3bから環境変化を検知した旨の信号を受信すると、カメラモジュール3aを駆動する制御信号を出力する。一例として、駆動制御部108は、電子機器1の表示部2にユーザの指が近づいたことを、受光センサ3bが周辺環境の変化を検知したことに基づいて検出し、カメラモジュール3aを認証待機状態へと遷移させる。この遷移により、カメラモジュール3aは、認証待機状態、例えば、指紋情報を取得するためのスタンバイ状態へと移行する。
【0113】
この状態において、カメラモジュール3aは、所定の動作により、ユーザの指紋情報等を取得する。例えば、カメラモジュール3aは、撮像部8上に位置するユーザの指紋情報等を取得する。
【0114】
図4は、一実施形態に係る電子機器1の指紋情報等の取得に関する処理の流れの一例を示すフローチャートである。
【0115】
まず、電子機器1は、第1センサである受光センサ3bを受光可能状態とするべく駆動する(S100)。例えば、電子機器1の電源が入っている状態においては、受光センサ3bが駆動し続ける形態としてもよい。別の例として、ユーザ又は制御部等により、所定の状況下では駆動しない設定であってもよい。原則としては、受光センサ3bは、電子機器1の電源が入っている状態においては駆動を継続する形態であることが望ましい。
【0116】
常時駆動しているため、受光センサ3bの消費電力を抑制するべく、受光センサ3bに備えられる受光領域に属する受光素子からの信号の加算値が出力されるモードで駆動していてもよい。すなわち、受光センサ3bにおいては、解像度が1 × 1の1画素であるように駆動してもよい。全ての画素からの信号を加算するため、駆動の閾値をある程度高い値にしておいても、低い照度の変化に対する信号を精度よく出力することができる。
【0117】
次に、駆動制御部108は、受光センサ3bにおいて受光状態に変化があるか否かを判定する(S102)。駆動制御部108は、このように受光センサ3bからの出力を待機する状態に遷移する。上述したように、この状態は、例えば、電子機器1が起動している状態において、継続してもよい。輝度の変化を検知しない場合(S102:NO)、受光センサ3b及び駆動制御部108は、待機状態を継続する。
【0118】
受光センサ3bが輝度の変化を検知し、駆動制御部108に信号が出力されると(S102:YES)、駆動制御部108は、第2センサであるカメラモジュール3aを駆動する(S104)。このカメラモジュール3aは、ユーザの指紋情報等を取得するために起動される。例えば、カメラモジュール3aは、カバーガラス7上に接触する指紋情報等の取得の待機状態へと移行する。
【0119】
次に、情報処理部10は、カメラモジュール3aの取得した信号情報に基づいて、ユーザの指紋情報等を取得する(S106)。例えば、ユーザが表示部2に指を近づけたタイミングで受光センサ3bから駆動制御部108へと信号が送信され、この信号により駆動制御部108がカメラモジュール3aを駆動して指紋情報等を取得する状態へと遷移する。そして、この状態において、カメラモジュール3aは、各受光画素から信号を情報処理部10へと送信し続ける。情報処理部10は、各種信号処理をした後、画像データとして指紋情報等を取得する。
【0120】
次に、情報処理部10の認証部106は、画像データ中の指紋情報等を適切に比較、処理することにより、認証処理を実行する(S108)。上述したように、例えば、取得された指紋情報等の特徴点を抽出して、特徴点に基づいて認証を実行したり、又は、取得された指紋情報等の画像データを訓練済のニューラルネットワークモデル等に入力することにより認証を実行したりする。
【0121】
認証部106は、上記のように指紋情報等を用いて認証処理を実行し、取得された指紋情報等が登録されている情報であるか否かを判定する(S110)。取得された指紋情報等が登録された情報と一致しない場合(S110:NO)、S102からの処理を繰り返す。
【0122】
取得された指紋情報等が登録された情報と一致する場合(S110:YES)、電子機器1に係るロック等を解除し、操作の許可状態へと移行する(S112)。この状態において、ユーザは、電子機器1の許可された範囲内における操作を実行することが可能となる。
【0123】
このフローチャートは、基本的な動作を示したものであり、さらに複雑な処理をしてもよい。例えば、認証処理を実行した後、登録された情報出ない場合には、所定回数のS102からの処理を繰り返してもよい。所定回数の認証トライが失敗した場合には、ユーザに、手の水分を取り除く、ディスプレイをきれいにする、等の注意を促す形態であってもよい。また、別の例としては、所定回数の認証が失敗した場合には、しばらく電子機器1にアクセスできない等の処理としてもよい。
【0124】
図5は、上記の処理の遷移について、模式的に示す図である。まず、
図5に示すように、受光センサ3bが駆動している状態で待機する。このタイミングにおいて、カメラモジュール3aは駆動しておらず、カメラモジュール3aは、情報を取得することができない状態である。
【0125】
図6は、上記の処理の遷移において
図5に続く状態を示す図である。
図6に示すように、ユーザの指が近づいていることを、受光センサ3bは、輝度の変化を感知することにより検出する。
【0126】
図7は、上記の処理の遷移において
図6に続く状態を示す図である。
図7に示すように、受光センサ3bが環境変化を感知すると、駆動制御部108は、カメラモジュール3aを駆動させ、指紋情報等を取得できる状態へと遷移する。このタイミングから、カメラモジュール3aが受光素子を駆動させて輝度情報を信号として出力し、情報処理部10がカメラモジュール3aの出力に基づいて画像データを生成する状態となる。
【0127】
図8は、上記の処理の繊維において
図7に続く状態を示す図である。
図8に示すように、情報処理部10が指紋情報等に基づいてユーザの認証を実行し、登録されている指紋等であると判定すると、電子機器1が操作可能な状態へと移行する。
【0128】
以上のように、本実施形態によれば、電子機器1は、このように、常時駆動の第1センサを用いることにより、指紋情報等を検出する別の第2センサを駆動して、認証を実行することが可能となる。常時駆動のセンサを用いることにより輝度の変化から周辺環境の変化を取得することで、例えば、ユーザが指をディスプレイに近づけて認証を実現するといった1フレーム(例えば、~33msec)~数フレーム等の短い時間で認証処理を完了し、ユーザが電子機器1を操作する許可をすることが可能となる。
【0129】
上記においては、第1センサとして受光センサ3bを用いたが、第1センサの構成はこれに限られるものではない。例えば、第1センサは、照度情報を取得するセンサであってもよいし、顔、手、指等の情報を取得するセンサであってもよいし、距離情報を取得するセンサであってもよい。距離情報を取得するセンサは、ToF(Time of Flight)センサであってもよい。
【0130】
また、第1センサと、第2センサは、別のセンサであるとして説明したが、これには限られない。例えば、第2センサの解像度を指紋情報等の取得や通常の撮像を行う場合と比較して低くして、常時駆動させて第1センサとして用いてもよい。例えば、上述したように第1センサは、1 × 1画素のセンサとして駆動していてもよいが、指紋情報等を取得する第2センサの解像度を落として、1 × 1画素のセンサとして駆動させることにより、常時駆動の第1センサとして利用してもよい。
【0131】
第1センサに備えられる画素アレイは、視差情報を取得できるセンサであってもよい。また、画素アレイには限られず、画素として視差情報を取得できるセンサを用いてもよい。この場合、情報処理部10において、取得された視差情報から距離情報を検出してもよい。
【0132】
上記に関連し、第1センサに備えられる画素は、1画素中に複数の分割画素を備える構成であってもよいし、像面位相差を検出することが可能な画素であってもよい。このような画素から取得された視差情報、又は、像面位相差情報に基づいて、情報処理部10は、上記の距離情報の検出をしてもよい。
【0133】
画素は、例えば、1画素中に、2 × 2個、・・・、5 × 5個の分割画素が備えられてもよいし、これより多くの分割画素が備えられてもよい。別の例としては、2 × 3個といった上下方向と左右方向で個数の違う画素を備えていてもよい。1画素中の異なる分割画素からの情報を取得することにより視差情報を取得してもよい。
【0134】
また、画素は、例えば、一部の領域が透過性を有する遮光膜を備えていてもよい。透過性を有する領域の位置が異なる画素同士の出力信号及び当該画素自体の位置に基づいて、像面位相差を取得できる画素として形成することが可能である。像面位相差を取得できる画素は、このように形成されていてもよい。
【0135】
第2センサに属する画素は、画素ごとにメモリを有していてもよい。このメモリに、同じタイミングで受光素子に蓄えられた電荷を転送することにより、グローバルシャッタとして動作させてもよい。画素からの信号としてメモリに蓄えた電荷量に基づいて出力することにより、グローバルシャッタとして動作することができる。
【0136】
このようなグローバルシャッタの構成を用いることにより、指が動いている状態においても、ローリングシャッタ歪みを有しない状態の画像データを取得することが可能となる。本開示における指紋情報等の取得に関しては、指が動いている状態において撮影することにも適用可能である。このように指が動いている状態においても、グローバルシャッタを用いることにより、第2センサは、ローリングシャッタ歪みが抑制された認証精度の高い指紋情報等を取得することが可能となる。
【0137】
また、グローバルシャッタを用いることにより、指がカバーガラス7に接触していない状態においても、より高精度な指紋情報等を取得することが可能となる。例えば、認証対象であるユーザの指がディスプレイに近づく間等に、グローバルシャッタを用いて指紋情報等を取得して、認証を実行することもできる。
【0138】
上記のグローバルシャッタに関する応用は、イベント駆動画素を用いることにより代用することも可能である。イベント駆動画素によれば、輝度の変化をイベントとして検知してフレーム処理によらずに信号を取得することが可能となる。同じタイミングでイベントを検知した画素からの信号に基づいて、指紋情報等を再構成してもよい。この場合においても、ローリングシャッタ歪みの抑制を実現でき、また、カバーガラス7に認証対象が接触していない状態においても指紋情報等を取得することが可能となる。
【0139】
必要に応じて、イベント駆動画素から出力された信号は、時間方向に積分されて指紋情報等として取得してもよい。時間方向に積分された信号を画像データとして用いる場合には、ノイズの影響をも抑制することが可能である。なお、時間方向に積分する場合には、認証対象の動きに基づいて、認証対象の画像データを生成してもよい。
【0140】
上述したように、本実施形態に係る電子機器1は、第1センサにより認証対象が接触する前に輝度値の変化により環境変化を検知し、第2センサによりカバーガラス7に接触している認証対象のみならずカバーガラス7に接触する前における認証対象の認証情報を取得することも可能である。画素の実装は、例えば、上記のようにグローバルシャッタを用いたり、イベント駆動画素を用いたりしてもよいが、その他の適切な画素の構成を用いてもよい。
【0141】
例えば、第2センサは、カバーガラス7から0mmよりも遠く50mm以下離れている場所に存在する指紋情報等(認証対象の認証情報)を取得することも可能である。この場合、例えば、指紋情報等を用いた非接触の認証を実現することも可能である。
【0142】
非接触の状態において画像データを取得する場合には、情報処理部10は、取得した画像データについて、ピントを調整する画像処理を実行してもよい。この画像処理は、例えば、第1センサにより取得された距離情報等を用いてもよいし、デコンボリューションフィルタアレイにより解析をしてもよい。また、検出した認証対象、例えば、指の大きさに基づいて、フィルタを推定してピントが調整された画像を取得してもよい。
【0143】
認証対象の撮影すべき認証情報がカバーガラス7から離れている場合には、その距離によって認証情報に関する画像データの大きさを補正してもよい。補正は、第1センサにより取得された距離情報に基づいて実行されてもよい。また、別の例としては、情報処理部10により、第1センサによる情報は用いずに、第2センサにより取得された認証情報、例えば、指紋情報だけを用いて、この指紋情報の大きさを補正してもよい。例えば、基準となる指の大きさを予め設定しておき、この指の大きさに輪郭が一致するように画像データを拡大又は縮小し、大きさが補正された画像データ中から、指紋情報等を抽出してもよい。
【0144】
別の例として、第1センサと第2センサが兼用である場合に、この第2センサは、画角が通常の撮影を行うデバイスよりも大きく設定されたものであってもよい。このように画角を大きく設定することにより、第1センサとして環境変化を検知する領域を広げることが可能となる。例えば、画角は、20度前後としてもよい。これには限られず、画角は、適切に環境変化が捉えられる情報が取得できる程度に大きくてもよい。
【0145】
ただし、画角を大きくしすぎることにより、第2センサが指紋情報等を取得するモードへと移行することが多くなることがある。このため、画角の大きさは、上述したように、例えば、20度を目安として、20度以上にする等、適切に設定されるべきである。この画角の大きさは、電子機器1を用いる環境、状態により設定されてもよい。環境、状態は、当該電子機器を用いる場所、当該場所の暗さ、明るさ、電子機器を用いる目的等に基づくものである。
【0146】
(変形例)
電子機器1の処理の一例として、
図4を用いて説明したが、本実施形態に係る第1センサ及び第2センサの動作は、上記のものには限られない。例えば、第1センサと第2センサが同一のセンサである場合、この第2センサは、環境変化の状態に基づいて、解像度を変化させるものであってもよい。
【0147】
図9は、変形例に係る処理の流れの一例を示すフローチャートである。
【0148】
まず、電子機器1は、第2センサを駆動状態とし、第2センサを常時駆動モードへと移行させる(S200)。このタイミングにおいて、第2センサは、例えば、受光領域に属する画素の全てからのそれぞれの信号を加算して出力するモードで起動する。
【0149】
図10は、全画素モードとして駆動する場合のみなし画素の様子を示す図である。第2センサの受光画素をまとめて、1画素とみなし、信号の検出を行う。
【0150】
次に、情報処理部10は、第2センサから取得した情報に基づいて輝度値の変化を算出し、算出した輝度値が所定値以上であるか否かを判断する(S202)。例えば、この所定値は、現在の輝度に対して10%等としてもよい。この10%は、一例としてあげたものであり、この数値に限定されるものではなく、適切に決定されるものであればよい。輝度変化が所定値以上ではない場合(S202:NO)、S202の処理を繰り返して実行する。
【0151】
次に、第2センサが、所定値以上の輝度変化を感知した場合(S202:YES)、駆動制御部108は、表示部2を起動(発光)させ、かつ、第2センサを視差検出モードへと移行する(S204)。ディスプレイの起動は、必須ではないが、例えば、次のステップの準備のために、このステップにおいてディスプレイを起動させておいてもよい。
【0152】
例えば、周囲が暗い状況の場合は、ディスプレイを発光させることにより、ディスプレイにおける指を配置する大体の領域をユーザに把握させることが可能となる。また、指等を検出するための光量が不足している場合がある。このような場合には、ディスプレイを点灯させることにより、認証対象の検出を容易にすることもできる。同様に、逆光などにより、認証対象が影となる可能性がある。このような場合にも、ディスプレイを発光させることにより、認証対象の情報を取得しやすくなる。
【0153】
図11は、視差検出モードとして駆動する場合のみなし画素の様子を示す図である。第2センサの受光画素を、例えば、左右1対の2画素とみなし、視差の検出を実行する。なお、2画素ではなく、例えば、2 × 2の4画素、3 × 3の9画素等としてもよい。
【0154】
また、画素それぞれが左右一対の分割画素を有する構成であってもよく、この場合、分割画素にわたり、右側の分割画素の加算値と、左側の分割画素の加算値と、をそれぞれ右画素から、左画素からの出力値であるとして、視差検出を行ってもよい。
【0155】
このように取得された画素からの視差の検出は、一般的な方法で実行されてもよいので、詳細については省略する。
図11においては、左右に画素が分かれるものとしたが、これには限られず、上下に画素が分かれているものであってもよいし、表示部2に対して斜めに備えられる画素領域において2分割されているものであってもよい。
【0156】
次に、情報処理部10は、第2センサから取得した情報に基づいて視差を算出し、算出した視差が所定以上であるか否かを判断する(S206)。このステップにおける所定値も適切に設定できるものであればよい。例えば、認証対象と、撮像素子との距離が適切な距離である、上記の例であれば、50mm以下である、等として判断基準を設定してもよい。
【0157】
視差が所定以上でない場合(S206:NO)、例えば、S202からの処理を繰り返してもよい。別の例として、所定回数の間S206の処理を繰り返し、所定数の繰り返し後においても視差が所定以下であれば、S202へと処理を戻してもよい。別の例として、S206の処理を、視差が所定以上になるか、又は、ある期間について継続させ、その期間後においても視差が所定以上ではない場合に、S202へと処理を戻してもよい。
【0158】
次に、第2センサが、所定以上の視差を感知した場合(S206:YES)、駆動制御部108は、指を誘導するユーザインタフェースをディスプレイに表示し、かつ、第2センサの解像度を中解像度モードへと移行する(S208)。ユーザインタフェースの表示は、必須ではなく、第2センサの解像度を変更するだけでもよい。
【0159】
図12は、指を誘導するユーザインタフェースの一例を示す図である。この
図12に示すように、例えば、指を配置、又は、通過させる領域30を表示部2に表示させる。ユーザは、このインタフェースに基づいて、カバーガラス7に接触させ、又は、接触させずに第2センサの上部を通過させて、指紋情報等を第2センサに取得させる。領域30の形状、模様等は、任意であり、適切に指の位置を誘導できるものであればよい。例えば、当該領域をやじるしで示したり、当該領域を通過するようにインジケータを示したりしてもよい。
【0160】
図13は、中解像度モードとして駆動する場合のみなし画素の様子を示す図である。第2センサの受光画素を、例えば、受光領域に属する受光画素の1 / 4等の解像度にして、認証対象、例えば、指が検出できる状態とする。このタイミングにおいては、例えば、認証情報として指紋情報等までは検出する必要がないので、1 / 4ではなく、さらに低解像度、例えば、1 / 16等の解像度としてもよい。これらは例としてあげたものであり、これらの数値に限定されるものではない。
【0161】
次に、情報処理部10は、第2センサから取得した情報に基づいて認証対象(例えば、指)を検出したか否かを判断する(S210)。中解像度モードの画素を用いることにより、認証対象の輪郭等の特徴から、認証対象を検知したか否かを判断してもよい。また、中解像度モードにおいても視差を取得することが可能であり、この視差情報も用いてもよい。
【0162】
認証対象を検知できない場合(S210:NO)、S210の動作を所定時間、又は、所定走査だけ繰り返してもよい。その上で、S204からの処理を継続してもよい。また、S204ではなく、S202(S200)からの処理を繰り返してもよい。
【0163】
認証対象が検知できた場合(S210:YES)、駆動制御部108は、第2センサを高解像度モードへと移行し、認証処理を実行する(S212)。
【0164】
図14は、高解像度モードとして駆動する場合の画素の要素を示す図である。第2センサの受光画素を、例えば、最大限用いてもよいし、適切に認証情報が取得できる程度に高解像度に設定してもよい。
【0165】
このような高解像度モードに設定して、第2センサは、認証対象を撮像し、情報処理部10により認証処理が実行される。この処理については、前述の実施形態と同様であるので詳細は省略する。
【0166】
次に、認証部106は、第2センサが出力した認証対象の画像データに基づいて情報処理部10により生成された認証情報を検証することにより、登録されている情報であるか否かを判断する(S214)。登録されている情報ではない場合(S214:NO)、例えば、S202(又はS200)からの処理を繰り返す。また、これには限られず、S214の動作を所定回数又は所定期間の間繰り返してもよい。その後に、適切なステップからの処理を繰り返してもよい。
【0167】
以上のように、第2センサの受光画素の解像度を、第1センサ(第2センサで兼用)の取得した環境情報に基づいて変化させてもよい。このように変化させることにより、第1センサを第2センサで兼用する場合に、消費電力を抑制することが可能となる。
【0168】
(変形例)
さらなる変形例として、表示部2側にディスプレイ下の一般画像の撮影用の第2センサとは異なるカメラモジュールをさらにそなえていてもよい。
【0169】
この場合、カメラを起動させると、第1センサ又は第2センサを色別の情報を出力する照度センサとして動作させてもよい。第1センサを用いる場合、この第1センサは、常時駆動させるものではなく、カメラの起動に併せて起動されるものであってもよい。
【0170】
例えば、自画像を取得する場合に、露光を調整したり、色温度を調整したりすることが可能となる。この調整は、ユーザがディスプレイに表示されるインジケータ等に基づいて調整するものであってもよいし、情報処理部10等が自動的に調整するものであってもよい。
【0171】
この色別の情報は、統計情報として出力されるものであってもよい。例えば、平均値、中央値、ばらつき(分散)等を出力してもよいし、ヒストグラムを出力するものであってもよい。ヒストグラム等を出力する場合には、例えば、ユーザに色ごとのガンマ補正のカーブを選択させたり、又は、自動的に色ごとのガンマ補正を行ったりしてもよい。
【0172】
そして、調整された露光等のパラメータに基づいて、駆動制御部108は、カメラの撮像に関する制御を行ってもよい。また、情報処理部10による画像処理のパラメータを自動的に設定し、撮影した画像のホワイトバランス、色温度等の画像処理を実行して出力してもよい。
【0173】
以上のように、本変形例によれば、第1センサ又は第2センサをカメラ等の照度センサとして利用することも可能となる。
【0174】
(第2実施形態)
前述の実施形態及び変形例においては、常時駆動のセンサを用いたいくつかのユーザビリティの向上について説明したが、本実施形態においては、認証センサを用いたさらなるユーザビリティの向上について説明する。
【0175】
基本的な構成は、
図1に示す構成と同様であるが、本実施形態に係る電子機器1は、受光センサ3bを備えなくてもよい。すなわち、本実施形態においては、受光センサ3bは、必須の構成ではない。また、前述の実施形態と同様に、カメラモジュール3aは、認証対象の認証情報を取得する認証センサとして電子機器1に備えられ、ディスプレイ下に備えられる。
【0176】
図15及び
図16は、本実施形態に係る電子機器1の代表的な動作について模式的に示す図である。
【0177】
図15は、例えば、ユーザが右手の人差し指をカメラモジュール3aに撮像させ、当該右手の人差し指の情報に基づいて認証部106が認証を行った結果を示す図である。下図に示すように、認証が成功することにより、個人用アプリケーション40aの利用が可能となる。また、例えば、所定の第1キャリア42aと接続される旨が表示され、電子機器1は、キャリア1と接続される。
【0178】
図16は、例えば、
図15と同一のユーザが右手の親指をカメラモジュール3aに撮像させ、当該右手の親指の情報に基づいて認証部106が認証を行った結果を示す図である。下図に示すように、認証が成功することにより、仕事用アプリケーション40bの利用が可能となる。この仕事用アプリケーション40bは、個人用アプリケーション40aとは、別のアプリケーション群であってもよい。また、例えば、所定の第2キャリア42bと接続される旨が表示され、電子機器1は、キャリア2と接続される。
【0179】
これらの図においては、表示のみの相違しか見られないが、実際には、個人用で認証された場合には、仕事用のアプリケーションにはアクセスできず、逆に、仕事用で認証された場合には、個人用のアプリケーションにはアクセスできない構成となっている。
【0180】
すなわち、本実施形態に係る電子機器は、上記に示すように、認証を実行する認証対象により、動作を切り替える。この認証対象は、例えば、同一対象の異なる指であってもよい。異なる指とは、例えば、右手の親指と人差し指といった同一の手の異なる指を対象としてもよいし、右手の人差し指と左手の人差し指といった異なる手の指を対象としてもよい。例えば、人間であれば、一般的には10通りの指の情報として異なる情報を有していることが多く、10通りの認証を実現することができる。
【0181】
上記では、個人用、仕事用のアプリケーションを切り替えるものとしたが、これには限られない。指ごとに異なるアプリケーション群を実行可能な状態として電子機器1を起動してもよい。例えば、指ごとに目的を決めておき、目的ごとに異なるアプリケーション群を設定しておいてもよい。このアプリケーション群は、一部のアプリケーションが他のアプリケーション群の一部のアプリケーションと共通するアプリケーションであってもよい。
【0182】
図17は、本実施形態に係る電子機器1の構成の一例を示すブロック図である。電子機器1は、表示部2と、カメラモジュール3aと、情報処理部10と、を備える。表示部2及びカメラモジュール3aについては、前述の実施形態における説明と同様に、それぞれ適切に動作を実行するための構成要素が備えられる。
【0183】
情報処理部10は、信号処理部と、画像処理部と、制御部109と、を備える。この情報処理部10は、前述の実施形態の駆動制御部108を備えない構成であってもよい。なお、信号処理部及び画層処理部は、それぞれ概略として示されており、
図17に示される全ての構成要素が必須ではなく、適切に認証が実行される構成であればよい。また、逆に、適切に動作を実行するための他の構成要素が含まれることを除外するものではない。
【0184】
制御部109は、出力部107から出力される認証部106における認証結果に基づいて、電子機器1の動作を制御する。例えば、制御部109は、表示部2に認証結果に基づいた動作を実行するべく適切な表示をする。この表示は、例えば、
図15、
図16のように、別々のアプリケーションを立ち上げられるようにアイコンを表示したり、別々のキャリアに接続されている表示をしたり、といった表示である。もちろん、これらの表示には限られず、動作に応じて適切な表示がされる。
【0185】
制御部109は、このように、認証に成功した認証対象により、動作を切り替える。動作の切り替えについては、例えば、上記したとおり利用できるアプリケーションを切り替えたり、通信キャリアを切り替えたりする。
【0186】
例えば、アプリケーションを切り替える場合には、制御部109は、認証対象によるログインに紐付けられたアプリケーションだけを動作可能として、他のアプリケーションへのアクセスをできないようにする。この実装については、特に手法が限定されるものではない。
【0187】
なお、あるアプリケーションの使用に際して他のアプリケーションを利用する必要がある場合には、当該他のアプリケーションの動作を、当該認証に対して使用可能としてもよい。別の例としては、このあるアプリケーションからの当該他のアプリケーションの利用を許可する一方で、ユーザが直接当該他のアプリケーションの使用をすることは、拒否してもよい。
【0188】
例えば、通信キャリアを切り替える場合には、制御部109は、認証に対する通信キャリアのSIMカードが搭載されているか否かを確認する。対象となるキャリアのSIMカードが搭載されている場合には、当該SIMカードの情報に基づいて、指定される通信キャリアに接続する。もし、該当する通信キャリアに適切なSIMカードが搭載されていない場合には、接続できない旨を表示して、通信ができない状態で電子機器1にユーザをログインさせてもよい。SIMカードは、通常のSIMカード(micro SIM等を含む)であってもよいし、電子機器1にソフトウェア的に搭載されるeSIMであってもよい。
【0189】
図18は、本実施形態に係る電子機器1の処理の一例を示すフローチャートである。なお、認証までの各処理については、省略する。
【0190】
まず、電子機器1は、認証処理を実行し、認証が成功したか否かを判定する(S300)。この認証処理は、適切な方法で実現されればどのような手法であってもよい。ただし、認証が成功する認証情報は、複数存在する。認証が失敗した場合(S300:NO)には、認証待機状態に戻ってもよいし、所定回数の認証が失敗した場合には、アクセスを拒否してもよい。アクセスの拒否は、所定時間継続させてもよい。
【0191】
認証が成功すると(S300:YES)、制御部109は、認証対象を判別する(S302)。
【0192】
次に、制御部109は、判別した認証対象に基づいて、動作を選択、決定する(S304)。例えば、認証対象と、許可される動作とを紐付けて記憶部11に格納しておき、認証対象に応じた動作を抽出することにより、許可する動作を決定する。この格納は、例えば、それぞれの認証対象に対応するプロファイルを示すデータとして格納されていてもよい。
【0193】
認証部106は、この選択のために、認証が成功した場合には、成功した認証対象について、例えば、一意的に設定されている識別子等に変換して、出力部107を介して制御部109へと出力してもよい。制御部109は、この識別子に基づいて、記憶部11に格納されている動作情報を抽出してもよい。この識別子は、例えば、平文であってもよいし、ハッシュ値等により難読化されたものであってもよい。
【0194】
記憶部11には、認証対象に対して許可される動作、環境等をデータベースとして保持していてもよい。制御部109は、この識別子をキーとして、データベースに接続して、許可動作、環境等に関する情報を取得してもよい。
【0195】
次に、制御部109は、取得した動作、環境等の情報に基づいて、各種動作を実行する(S306)。
【0196】
以上のように、本実施形態によれば、同一ユーザである場合においても、識別対象により、動作を振り分けることが可能となる。このような形態とすることにより、例えば上述したように、ユーザは、同じ端末において、認証の指を変えることにより、仕事用のプロファイルと、個人用のプロファイルとを切り替えることが可能となる。
【0197】
以下、本実施形態について、種々の実装例について説明する。以下の実装例については、いくつかの認証対象と認証動作とが示されているが、これらについては、例えば、予め対象、動作等を登録させることにより照合に用いる情報を取得しておいてもよい。これらの情報は、例えば記憶部11に格納され、この格納された情報を用いることにより認証が実行される。
【0198】
(実装例1)
上述したように、認証対象を異なる指として、動作を切り替えてもよい。指の情報は、指紋情報であってもよいし、静脈情報であってもよいし、汗腺の情報であってもよいし、輪郭の情報であってもよい。また、これらの情報を組み合わせた情報であってもよい。このように、認証対象は、適切に認証が実行できるものであればよい。また、認証対象は、他の認証対象とは異なる情報を有し、一意的にどの認証対象かを決定できるものであればよい。
【0199】
上述したように、認証対象を指とする場合には、異なる手の指、又は、同一の手の異なる指のいずれであってもよい。一般的には、指紋情報、静脈情報等は、同一人物であっても指によって異なるものであるので、本実施形態の認証対象とすることが可能である。また、カメラモジュール3aは、1つである図が示されているが、複数の指等を認証対象とする場合には、複数のカメラモジュール3aを備えていてもよいし、また、別の例として、より大きい領域を占めるカメラモジュール3aを備えていてもよい。
【0200】
(実装例2)
図19は、別の認証対象の別の実装例について示す図である。この
図19に示すように、認証対象を複数の指の組み合わせとしてもよい。認証対象は、例えば、
図15のような人差し指と、
図19のような人差し指と中指の組み合わせ、としてもよい。複数の指を認証対象とする場合には、
図19に示すように、同じタイミングで情報を取得するものであってもよいし、異なる対象の認証情報を連続的に取得するものであってもよい。
【0201】
例えば、
図19に示すように、複数の指を組み合わせてカメラモジュール3aに読み込ませることにより、1つの認証対象の認証情報とすることが可能である。
【0202】
別の例としては、
図15及び
図16のように人差し指と親指とを別々に、連続するタイミングで読み取ることにより、1つの認証情報としてもよい。この場合、人差し指による認証から、所定時間内に親指の認証があると、認証を成功させる構成としてもよい。また、人差し指、親指の順番と、親指、人差し指の順番により、異なる認証情報としてもよいし、順不同で同じ認証情報と判断してもよい。
【0203】
以上のように、認証対象としては、複数の指を用いることも可能である。例えば、このような認証としておくことにより、仕事用の動作は複数の指で認証し、個人用の動作は単数の指で認証するといったこともできる。このように複数の指と単数の指で使い分けることにより、ユーザに、どの目的で立ち上げたるかを、より自覚させることが可能となる。
【0204】
(実装例3)
上記においては、認証対象が異なる指(物体)であるものとしたが、本実装例は、認証対象が異なる指の動き(動作)である電子機器1の実装例である。
【0205】
図20は、本実装例による動作の切り替えについて示す図である。
図20に示すように、スワイプ動作により、電子機器1の処理を切り替えてもよい。例えば、カメラモジュール3a上に指を固定して認証させた場合と、スワイプ動作により認証させた場合とで動作を切り替えてもよい。
【0206】
図21は、本実装例による動作の切り替えについて別の例を示す図である。例えば、認証部106は、指紋情報等を取得するとともに、指の動いている方向の情報を取得してもよい。
【0207】
例えば、
図20のように、カメラモジュール3a上に人差し指を右にスワイプ動作させた場合と、
図21のように、カメラモジュール3a上に人差し指を左にスワイプ動作させた場合とで別の動作をするように、制御部109は、電子機器1の処理を切り替えることが可能である。
【0208】
このスワイプ動作の動きの方向は、例えば、カメラモジュール3aにより、認証情報の取得とともに検出してもよい。別の例としては、ディスプレイ下に備えられるタッチパネルの感知情報に基づいてスワイプの方向を取得してもよい。この場合、指紋情報等の認証情報は、カメラモジュール3aにより取得される。
【0209】
なお、スワイプのように、カバーガラス7に対して同じように接触するのではなく、フリック動作のように、接触状態から徐々に接触状態が解除されるような動作であってもよい。
【0210】
(実装例4)
動作の例は、スワイプ動作には限られない。
【0211】
図22は、本実施例による動作の切り替えについて示す図である。例えば、認証部106は、指紋情報等を種痘するとともに、ピンチインの動作を判別してもよい。上記と同様に、ピンチインの動作は、タッチパネルにより判定されてもよい。
【0212】
この場合、少なくとも一方の指がカメラモジュール3aを通過、停止することにより、認証情報を取得してもよいし、双方の指の認証情報を取得してもよい。
【0213】
図23は、本実施例による動作の切り替えについて別の例を示す図である。このように、電子機器1は、ピンチアウトの動作を認識し、ピンチアウトの動作により、処理を切り分けてもよい。
【0214】
また、これらの指を回転させる動作であってもよい。回転動作は、単数の指であってもよいし、複数の指であってもよい。単数の指である場合は、例えば、所定の点を中心に曲線を描くように回転させてもよい。複数の指である場合には、例えば、複数の指が所定の点を中心にそれぞれ曲線を描くように回転させてもよい。
【0215】
上記の指の動きについては、別々の実装例として説明したが、これらの動きにより別の動作をするように、制御部109は、電子機器1の制御を実行してもよい。例えば、動いていない認証対象と、スワイプ動作の認証対象と、ピンチイン動作の認証対象と、により、別々の動作を実行させてもよい。
【0216】
(実装例5)
上記においては、認証対象と、認証動作について説明したが、次に、認証センサについていくつかの実装例を説明する。
【0217】
前述の実施形態で説明したように、認証センサとして動作可能なカメラモジュール3aは、受光素子に対してグローバルシャッタの動作をさせてもよい。すなわち、カメラモジュール3aは、受光画素ごとにメモリを備えて、同じタイミングにおいて、受光した光の強度を電荷等に変換する。この電荷等を蓄えるメモリを備え、任意のタイミングにおいて、この蓄えた電荷等の情報に基づいたアナログ信号を出力してもよい。
【0218】
前述の実施形態と同様に、このようにグローバルシャッタとして動作させることにより、受光画素において発生しうるローリングシャッタ歪みを抑制することが可能となる。
【0219】
(実装例6)
上記においては、認証情報を取得する認証センサは、光学式のセンサであったが、これには限られない。
【0220】
例えば、認証情報を取得する認証センサとして、電子機器1は、カメラモジュール3aの代わりに超音波式のセンサを備えてもよい。
【0221】
例えば、認証情報を取得する認証センサとして、電子機器1は、静電容量式のセンサを備えてもよい。この静電容量式のセンサは、タッチパネル6を利用するものであってもよいし、ディスプレイ下に認証用のセンサをさらに備えるものであってもよい。
【0222】
また、この静電容量式のセンサは、適切な処理が行える範囲において、感圧式のセンサに置き換えることも可能である。
【0223】
このように、認証対象から認証情報を取得する認証センサには、種々のセンサを用いることが可能である。電子機器1の態様、使用する環境に基づいて、適切なセンサを備えることができる。
【0224】
(実装例7)
次に、制御部109が制御する動作について、いくつかの実装例を説明する。
【0225】
制御部109は、認証センサの出力に基づいて、ログインの許可、拒否する動作をしてもよい。この場合、少なくとも認証センサが起動している電子機器1において、ログインのタイミングで認証センサが認証情報を取得する。
【0226】
(実装例8)
上記のように、電子機器1のログインのプロファイルを切り替える実装例に対して、アプリケーションのログインを切り替える動作をすることもできる。
【0227】
例えば、所定のアプリケーションのログインのタイミングにおいて、認証センサが起動し、認証結果に基づいて、当該アプリケーションへのログインの許可、拒否を切り替えることができる。
【0228】
さらに、認証センサが異なる認証対象により、アプリケーションのログイン情報を切り替えてもよい。例えば、人差し指(第1認証対象)でアプリケーションのログインの認証を実行した場合には、認証が成功すると、第1アカウントでログインする。一方で、親指(第2認証対象)で同じアプリケーションのログイン認証を実行した場合には、認証が成功すると、第1アカウントとは異なる第2アカウントでログインする。
【0229】
このように、電子機器1自体のログインを制御するのではなく、電子機器1において実行されるアプリケーションのログインの制御をしてもよい。この場合、ログインの許可、拒否のみではなく、アプリケーションごとに、異なる認証対象によってログインするアカウント、IDを切り替える動作をしてもよい。
【0230】
認証対象として異なる指を用いるものとしたが、上述したように、同じ指の異なる動作を認証対象としてもよいし、さらには、異なる指の同じ動作/異なる動作、指の単数、複数、等のそれぞれを認証対象としてもよい。
【0231】
(実装例9)
もちろん、上述したように、制御部109の制御により、認証対象によって利用できるアプリケーションが異なるように、電子機器1にログインしてもよい。例えば、第1認証対象において認証が成功した場合には、第1アプリケーション群に属するアプリケーションの動作許可を与えてもよい。一方で、第2認証対象において認証が成功した場合には、第2アプリケーション群に属するアプリケーションの動作許可を与えてもよい。
【0232】
第1アプリケーション群と、第2アプリケーション群に属するアプリケーションは、少なくとも1つが共通するアプリケーションであってもよい。
【0233】
(実装例10)
また、制御部109は、認証対象によってネットワークの接続先を切り替えてもよい。上述においては、一例として、異なるキャリアで接続するものとしたが、これには限られない。
【0234】
例えば、複数のLAN(Local Area Network)が存在する空間において、認証対象により接続するLANを切り替えてもよい。例えば、制御部109は、第1認証対象で認証に成功すると、第1LANに接続し、第2認証対象で認証に成功すると、第2LANに接続する、といった制御をしてもよい。
【0235】
接続先を切り替えるとともに、上記のように、利用可能なアプリケーション群を切り替えてもよい。
【0236】
(実装例11)
上記ではLANの例を挙げたが、これに限られるものではない。例えば、制御部109は、認証対象により、クラウドの接続先を切り替えてもよい。
【0237】
例えば、複数の接続候補のクラウドがあるとする。制御部109は、例えば、第1認証対象で認証に成功すると、第1クラウドに接続し、第2認証対象で認証に成功すると、第2クラウドに接続する、といった制御をしてもよい。
【0238】
(実装例12)
さらには、クラウドではなくMEC(Mobile Edge Computing)であってもよい。制御部109は、同様に、第1認証対象で認証に成功すると、第1MECに接続し、第2認証対象で認証に成功すると、第2MECで接続する、といった制御をしてもよい。
【0239】
これらの接続先は、ユーザが電子機器1にログインするタイミングにおいて、認証センサが認証対象を検出することにより、制御部109により自動的に切り替えられてもよい。別の例として、すでにユーザが電子機器1にログイン下状態において、認証センサが認証対象を検出することにより、制御部109により切り替えられるものであってもよい。この場合、ユーザが任意のタイミングでネットワーク等の切り替えを実行できる実装であってもよい。
【0240】
また、上記の各接続先は、それぞれ独立したものではなく、認証対象により適切に選択できるものとする。例えば、ネットワークの選択をする場合に、キャリア、LAN、その他Wi-Fi(登録商標)等といった利用するネットワークの種別の切り替えを実行してもよい。これらのネットワークの設定は、ユーザが設定できるものである。また、利用するネットワークによっては、認証動作をすることにより、ネットワークを利用するためのID、パスワード等の接続に必要な情報をも自動的に設定されるものであってもよい。
【0241】
(実装例13)
ログインプロファイル、アプリケーションのログイン、種々の接続先についての切り替えについて説明したが、この他の種々の動作設定を認証対象により切り替えることも可能である。
【0242】
例えば、認証対象によって、制御部109は、テザリングのオン、オフを切り替えることもできる。さらには、認証対象によって、制御部109は、電子機器1にテザリングにより接続を許可される端末を切り替えてもよい。
【0243】
(実装例14)
切り替える動作は、マナーモードのオン、オフ設定であってもよい。すなわち、制御部109は、認証対象によって、マナーモードをオンし、又は、オフしてもよい。同様に、ボリュームの設定、バイブレーションの設定が、認証対象に基づいて制御部109により制御されてもよい。
【0244】
(実装例15)
電子機器1がスマートフォン等の電話をすることが可能であるデバイスである場合には、認証対象により電話を掛ける動作をしてもよい。この場合、認証対象により、通話先が自動的に入力される設定であってもよい。
【0245】
同様に、電子機器1がメール送受信可能であるデバイスである場合には、認証対象によりメールを作成する動作をしてもよい。この場合、認証対象により、メールの送信先が入力された状態でメール作成画面を開くといった動作をしてもよい。
【0246】
このように、制御部109は、認証対象により、所定アプリケーションを起動してもよい。さらには、制御部109は、認証対象により、所定アプリケーションについて、何らかの入力等が自動的にされるように制御してもよい。
【0247】
(実装例16)
別の例として、制御部109は、認証対象により、電子機器1の表示を変更する制御をしてもよい。例えば、制御部109は、認証対象により壁紙を表示したり、表示する壁紙を変更したりしてもよい。
【0248】
このように、電子機器1の動作、電子機器1において実行されるアプリケーションの動作を、制御部109は、認証対象により切り替えてもよい。以上は、いくつかの例として示したものであり、この他にも種々の電子機器1自体の動作やアプリケーションの動作を、制御部109は、認証対象により切り替える制御をすることが可能である。
【0249】
(実装例17)
電子機器1がスマートフォン等のデバイスである場合、インターネット等の通信回線を介して売買することがある。このような場合、制御部109は、認証対象により決済の実行をしてもよい。
【0250】
決済の方法が複数である場合には、制御部109は、認証対象により決済の方法を切り替えてもよい。制御部109は、例えば、クレジットカード、電子マネー等の決済方法を切り替えることができる。この場合、制御部109は、決済の方法を切り替えることにより、決済の請求先を切り替えることも可能である。
【0251】
(実装例18)
電子機器1の起動時に認証を実行することもできる。
【0252】
例えば、電子機器1がスタンバイ状態になっているタイミングにおいて、認証センサにより認証対象を認証させることにより、OS(Operating System)を切り替える処理を実行してもよい。すなわち、制御部109は、例えば、ブートローダ等の制御を実行してもよい。制御部109は、認証対象により起動させるOSを選択し、ブートローダ等に設定して電子機器1を再起動させることにより、電子機器1で利用するOSを設定することができる。
【0253】
別の例としては、電子機器1が起動していない状態において、情報処理部10が低電力モードで起動し、認証部106による認証対象の判別に基づいて、制御部109が起動するOSを選択して電子機器1を起動させてもよい。
【0254】
(実装例19)
上記の各実装例においては、同一のユーザが異なる認証対象を有する場合について説明したが、これには限られない。例えば、異なるユーザがそれぞれの認証対象により認証をすることにより、上記のような制御の切り替えを実現することも可能である。
【0255】
ユーザごとに、当然に指紋情報等の認証情報は異なる。このため、制御部109は、認証情報に基づいて、電子機器1を異なる動作をするように制御することにより、ユーザごとに別々の動作を設定することも可能である。
【0256】
ユーザは、例えば、親子であってもよく、この場合、指の輪郭等の情報を認証センサにより読み取り、子供が認証動作を実行した場合には、親の場合よりも機能が制限された状態で電子機器1にログインさせてもよい。
【0257】
親子の判別をする場合には、予め記憶部11に情報を格納しておいてもよい。
【0258】
また、指の輪郭の大きさ、指紋のピッチに基づいて、親子の判別をしてもよい。このような利用をする場合には、例えば、電子機器1をユーザが実行している最中に、認証センサが認証センサ上のタッチパネル6を指が通過したタイミングで認証部106が認証を実行して、親であるか子であるかを判別し、この結果に基づいて制御部109が制御をしてもよい。
【0259】
このように、制御部109は、ユーザにより、異なる権限を与えることもできる。例えば、ウェブサイト等を閲覧する場合においては、ユーザが子供である場合には所定のフィルタリングを実行して、ウェブサイトごとにアクセス可否を判断してもよい。
【0260】
制御部109は、認証対象に基づいて、電子機器1からのデータのアップロード、又は、電子機器1へのデータのダウンロードについての権限をそれぞれ制御してもよい。同様に、制御部109は、電子機器1に格納されているデータの削除、データの改変について、それぞれ、認証対象により権限を与えてもよい。
【0261】
このように、電子機器1に格納されているデータ、又は、電子機器1に格納されるであろうデータの削除、追加、改変等の許可を、制御部109は、認証対象ごとに制御することもできる。
【0262】
これらの権限は、例えば、利用できるプログラム(アプリケーション)に関する権限であってもよい。別の例としては、決済できる権限であってもよい。すなわち、制御部109は、認証対象によりアプリケーションに関する権限を付与、剥奪したり、決済する許可、拒否をしたりする制御をすることができる。
【0263】
(実装例20)
上記の各実装例においては、認証は、指紋、静脈、あるいは、指の動き、等で判断していたが、これらに限られるものではない。
【0264】
例えば、認証センサは、顔画像を取得するカメラであってもよい。認証部106は、この顔画像に基づいて、認証情報を取得してもよい。認証対象としては、異なる顔(すなわち、異なるユーザ)、同一ユーザの異なる顔の表情であってもよい。また、首を縦に振る、横に振る等の動作と、検出した顔情報とを併せて認証対象としてもよい。
【0265】
このように、指以外の個人認証として用い得る情報を認証部106が判別することにより、制御部109は、電子機器1に関する制御を実行することができる。
【0266】
以上のように、本実施形態によれば、種々の認証対象に対して種々の制御を実行することが可能となる。この結果、電子機器1のユーザビリティを向上することが可能となる。さらには、上述したように、各種権限を制御することも可能であるので、セキュリティを向上することも可能である。
【0267】
前述した実施形態は、以下のような形態としてもよい。
【0268】
(1)
常時動作の光学センサを備える、第1センサと、
前記第1センサが所定の環境変化を検出すると、認証モードとして駆動し、認証対象の情報を取得するモードに移行する、第2センサと、
を備える電子機器。
【0269】
(2)
情報を表示する、ディスプレイ、
をさらに備え、
前記第1センサ及び前記第2センサは、ディスプレイの下に備えられる、
(1)に記載の電子機器。
【0270】
(3)
前記第2センサは、前記環境変化の状態に基づいて、解像度を変化する、
(2)に記載の電子機器。
【0271】
(4)
前記第1センサと前記第2センサは同一のセンサであり、それぞれのセンサとして用いる場合に異なる特性を有するセンサとして動作する、
(2)又は(3)に記載の電子機器。
【0272】
(5)(a)
前記第1センサは、少なくとも照度情報を前記環境変化として検出する、
(2)から(4)のいずれかに記載の電子機器。
【0273】
(5)(b)
前記第1センサは、少なくとも物体情報(例えば、顔、手、指の情報)を前記環境変化として検出する、
(2)から(4)のいずれかに記載の電子機器。
【0274】
(5)(c)
前記第1センサは、少なくとも距離情報を前記環境変化として検出する、
(2)から(4)のいずれかに記載の電子機器。
【0275】
(6)
前記第1センサは、撮像素子から取得される視差情報に基づいて、前記距離情報を検出する、
(5)(c)に記載の電子機器。
【0276】
(7)(a)
前記第1センサは、分割画素を用いて前記視差情報を取得する、
(6)の記載の電子機器。
【0277】
(7)(a)
前記第1センサは、像面位相差画素を用いて前記視差情報を取得する、
(6)の記載の電子機器。
【0278】
(8)
前記第1センサは、ToF(Time of Flight)センサにより、前記距離情報を検出する、
(5)(c)に記載の電子機器。
【0279】
(9)
前記第1センサにより所定状態を検出すると、前記ディスプレイを発光させる、
(2)から(8)のいずれかに記載の電子機器。
【0280】
(10)
前記第1センサにより所定状態を検出すると、第2センサによる認証領域を示す表示を前記ディスプレイに表示する、
(2)から(9)のいずれかに記載の電子機器。
【0281】
(11)
前記第1センサは、前記ディスプレイに対象が接触する前に前記環境変化を検知し、
前記第2センサは、前記ディスプレイに前記対象が接触する前に前記認証対象の情報を取得する、
(2)から(10)のいずれかに記載の電子機器。
【0282】
(12)
前記第2センサは、画素ごとにメモリを備え、グローバルシャッタとして動作する、
(11)に記載の電子機器。
【0283】
(13)
前記第2センサは、イベント駆動画素を備える、
(11)に記載の電子機器。
【0284】
(14)
前記第2センサは、前記ディスプレイから前記対象までの距離が0mmよりも長く、50mm以下の距離である場合に、前記認証情報を取得する、
(11)から(13)のいずれかに記載の電子機器。
【0285】
(15)
前記第2センサにより取得された情報について、前記認証情報の大きさを補正して認証する、
(14)に記載の電子機器。
【0286】
(16)
前記第2センサは、20度以上の画角を有するセンサである、
(2)から(15)のいずれかに記載の電子機器。
【0287】
(17)(a)
前記ディスプレイ側に配置される、カメラ、
をさらに備え、
前記カメラが起動した場合に、前記第1センサを色別の情報を出力する照度センサとして動作するモードに切り替える、
(2)から(16)のいずれかに記載の電子機器。
【0288】
(17)(b)
前記ディスプレイ側に配置される、カメラ、
をさらに備え、
前記カメラが起動した場合に、前記第2センサを色別の情報を出力する照度センサとして動作するモードに切り替える、
(2)から(16)のいずれかに記載の電子機器。
【0289】
(18)
前記照度センサは、前記色別の情報を統計情報として出力する、
(17)に記載の電子機器。
【0290】
(19)
前記カメラを前記色別の情報に基づいて制御する、
(17)又は(18)に記載の電子機器。
【0291】
(20)
ディスプレイと、
前記ディスプレイと同じ面に配置される、カメラと、
前記ディスプレイ下に配置される、常時駆動のセンサと、
を備え、
前記カメラが起動したタイミングに基づいて、前記センサが色別の情報を出力する照度センサとして動作する、
電子機器。
【0292】
(21)
ディスプレイと、
前記ディスプレイ下に配置され、認証情報を取得する、認証センサと、
前記認証センサが取得したユーザの複数の異なる認証対象により、動作を切り替える、制御部と、
を備える電子機器。
【0293】
(22)
前記複数の認証対象は、異なる指の指紋情報である、
(21)に記載の電子機器。
【0294】
(23)
前記制御部は、前記ユーザの認証対象が、右手の指であるか、左手の指であるか、により、動作を切り替える、
(22)に記載の電子機器。
【0295】
(24)
前記制御部は、前記ユーザの認証対象が、同一の手の異なる指であること、により、動作を切り替える、
(22)又は(23)に記載の電子機器。
【0296】
(25)
前記制御部は、前記ユーザの認証対象が、複数の指であること、により、動作を切り替える、
(22)から(24)のいずれかに記載の電子機器。
【0297】
(26)
前記制御部は、前記ユーザの認証対象が、指の異なる動きであること、により、動作を切り替える、
(22)から(25)のいずれかに記載の電子機器。
【0298】
(27)
前記認証対象は、少なくとも1つがスワイプ動作である、
(26)に記載の電子機器。
【0299】
(28)
前記認証対象は、前記スワイプ動作の方向である、
(26)又は(27)に記載の電子機器。
【0300】
(29)
前記認証対象は、少なくとも1つがピンチイン動作である、
(26)から(28)のいずれかに記載の電子機器。
【0301】
(30)
前記認証対象は、少なくとも1つがピンチアウト動作である、
(26)から(29)のいずれかに記載の電子機器。
【0302】
(31)
前記認証対象は、少なくとも1つが指の回転動作である、
(26)から(30)のいずれかに記載の電子機器。
【0303】
(32)
前記認証センサは、画素ごとにメモリを備え、
グローバルシャッタを用いて動作する、
(26)から(31)のいずれかに記載の電子機器。
【0304】
(33)
前記認証センサは、光学式のセンサである、
(21)から(32)のいずれかに記載の電子機器。
【0305】
(34)
前記認証センサは、超音波式のセンサである、
(21)から(32)のいずれかに記載の電子機器。
【0306】
(35)
前記認証センサは、静電容量式のセンサである、
(21)から(32)のいずれかに記載の電子機器。
【0307】
(36)
前記認証センサは、ログインのタイミングにおいて前記認証情報を取得し、
前記制御部は、前記認証情報に基づいて、ログインを許可/拒否する、
(21)から(35)のいずれかに記載の電子機器。
【0308】
(37)
前記認証センサは、所定アプリケーションへのログインのタイミングにおいて前記認証情報を取得し、
前記制御部は、前記認証情報に基づいて、前記所定アプリケーションへのログインを許可/拒否する、
(21)から(36)のいずれかに記載の電子機器。
【0309】
(38)
前記制御部は、前記認証情報に基づいて、利用できるアプリケーションを切り替える、
(21)から(37)のいずれかに記載の電子機器。
【0310】
(39)
前記制御部は、前記認証情報に基づいて、ネットワークの接続先を切り替える、
(21)から(38)のいずれかに記載の電子機器。
【0311】
(40)
前記制御部は、前記認証情報に基づいて、クラウドの接続先を切り替える、
(21)から(38)のいずれかに記載の電子機器。
【0312】
(41)
前記制御部は、前記認証情報に基づいて、MEC(Mobile Edge computing)の接続先を切り替える、
(21)から(40)のいずれかに記載の電子機器。
【0313】
(42)
前記制御部は、前記認証情報に基づいて、アプリケーションにおいて用いるID又はアカウントを切り替える、
(21)から(41)のいずれかに記載の電子機器。
【0314】
(43)
前記制御部は、前記認証情報に基づいて、複数の動作設定を切り替える、
(21)から(42)のいずれかに記載の電子機器。
【0315】
(44)
前記動作設定は、少なくとも1つがテザリングのオン・オフである、
(43)に記載の電子機器。
【0316】
(45)
前記動作設定は、少なくとも1つがマナーモードのオン・オフである、
(43)又は(44)に記載の電子機器。
【0317】
(46)
前記動作設定は、少なくとも1つが壁紙の表示である、
(43)から(46)のいずれかに記載の電子機器。
【0318】
(47)
前記制御部は、前記認証情報に基づいて、決済の請求先を切り替える、
(21)から(46)のいずれかに記載の電子機器。
【0319】
(48)
前記制御部は、前記認証情報に基づいて、起動するOS(Operating System)を切り替えて起動する、
(21)から(47)のいずれかに記載の電子機器。
【0320】
(49)
前記ユーザは、複数であり、
前記制御部は、それぞれの前記ユーザに対するそれぞれの前記認証情報に基づいて、動作を切り替える、
(21)から(48)のいずれかに記載の電子機器。
【0321】
(50)
前記認証情報は、指の大きさの情報である、
(49)に記載の電子機器。
【0322】
(51)
前記認証情報は、顔の情報である、
(49)又は(50)に記載の電子機器。
【0323】
(52)
前記制御部は、前記認証情報により、異なる権限を与える、
(49)から(51)のいずれかに記載の電子機器。
【0324】
(53)
前記権限は、少なくとも1つがデータの削除又はデータの改変に関する権限である、
(52)に記載の電子機器。
【0325】
(54)
前記権限は、少なくとも1つがデータのダウンロード又はデータのアップロードに関する権限である、
(52)又は(53)に記載の電子機器。
【0326】
(55)
前記権限は、少なくとも1つがプログラムの実行に関する権限である、
(52)から(54)のいずれかに記載の電子機器。
【0327】
(56)
前記権限は、少なくとも1つが決済に関する権限である、
(52)から(55)のいずれかに記載の電子機器。
【0328】
本開示の態様は、前述した実施形態に限定されるものではなく、想到しうる種々の変形も含むものであり、本開示の効果も前述の内容に限定されるものではない。各実施形態における構成要素は、適切に組み合わされて適用されてもよい。すなわち、特許請求の範囲に規定された内容及びその均等物から導き出される本開示の概念的な思想と趣旨を逸脱しない範囲で種々の追加、変更及び部分的削除が可能である。
【符号の説明】
【0329】
1:電子機器、
2:表示部、
3a:カメラモジュール、
3b:受光センサ、
4:表示パネル、
5:円偏光板、
6:タッチパネル、
7:カバーガラス、
8:撮像部、
8a:光電変換部、
9:光学系、
10:情報処理部、
100:A/D変換部、101:クランプ部、102:色別出力部、103:欠陥補正部、104:リニアマトリックス部、105:フレームメモリ、106:認証部、107:出力部、108:駆動制御部、109:制御部、
11:記憶部