(58)【調査した分野】(Int.Cl.,DB名)
システムのユーザを識別するためのユーザ識別システムの作動の方法であって、前記ユーザ識別システムは、画像認識ネットワーク、ジェネラリストネットワーク、調整層およびスペシャリスト層を備え、前記方法は、
画像データを分析することと、
前記画像データに基づいて、形状データを生成することと、
前記形状データを分析することと、
前記形状データに基づいて、一般的カテゴリデータを生成することと、
前記スペシャリスト層によって前記一般的カテゴリデータを特性と比較することによって、狭カテゴリデータを生成することと、
前記狭カテゴリデータに基づいて、分類決定を生成することと
を含み、
前記特性は、既知の個人からのものであり、かつ、前記ユーザ識別システムの前記画像認識ネットワークおよび前記ジェネラリストネットワークおよび前記調整層によって前記一般的カテゴリデータと潜在的に混同される、方法。
特性のネットワークを生成することをさらに含み、前記ネットワークの各それぞれの特性は、データベース内で潜在的に混同する不一致の個人に関連付けられている、請求項1に記載の方法。
前記一般的カテゴリデータを前記特性と比較する前に、前記ユーザの眼の移動に基づいて、前記一般的カテゴリデータを修正することをさらに含む、請求項9に記載の方法。
【発明を実施するための形態】
【0013】
本発明の種々の実施形態は、単一実施形態または複数の実施形態における、バイオメトリックユーザ識別システムを実装するための(例えば、拡張現実システムとの使用のための)方法、システム、および製造品を対象とする。本発明の他の目的、特徴、および利点は、発明を実施するための形態、図、および請求項に説明される。
【0014】
ここで、種々の実施形態が、当業者が本発明を実践することを可能にするように、本発明の例証的実施例として提供される図面を参照して詳細に説明されるであろう。留意すべきこととして、以下の図および実施例は、本発明の範囲を限定することを意味するものではない。本発明のある要素が、公知のコンポーネント(または方法もしくはプロセス)を使用して部分的または完全に実装され得る場合、本発明の理解のために必要なそのような公知のコンポーネント(または方法もしくはプロセス)のそれらの部分のみ、説明され、そのような公知のコンポーネント(または方法もしくはプロセス)の他の部分の詳細な説明は、本発明を曖昧にしないように、省略されるであろう。さらに、種々の実施形態は、例証として本明細書に参照されるコンポーネントの現在および将来的公知の均等物を包含する。
【0015】
(拡張現実およびユーザ識別システ)
拡張現実ディスプレイシステムの種々の実施形態は、公知である。ユーザ認識デバイスは、ARシステムから独立して実装され得るが、以下の多くの実施形態は、例証目的のためだけにARシステムに関連して説明される。
【0016】
開示されるのは、種々のコンピュータシステムのユーザを認識するためのデバイス、方法、およびシステムである。一実施形態では、コンピュータシステムは、種々の他のコンピュータシステム(例えば、金融コンピュータシステム)とのユーザ相互作用を促進するように構成される頭部搭載型システムであり得る。他の実施形態では、コンピュータシステムは、ユーザの金融取引を促進するように構成される静止したデバイス(例えば、商業用端末またはATM)であり得る。種々の実施形態は、ARシステム(例えば、頭部搭載型)を利用したユーザの金融取引の状況におけるユーザ認識に関して以下に説明されるであろうが、本明細書に開示される実施形態がどんな既存および/または公知のARもしくは金融取引システムからも独立して使用され得ることを理解されたい。
【0017】
例えば、ARシステムのユーザが、ARシステムを使用して商取引を完了しようとする(例えば、オンライン当座預金口座からの資金を使用して、商品をオンライン小売店から購入する)とき、システムは、商取引を進める前に、最初に、ユーザの識別を確立しなければならない。このユーザ識別決定のための入力は、ARシステムによって時間と共に生成されるユーザの画像であることができる。虹彩パターンが、ユーザを識別するために使用されることができる。しかしながら、ユーザ識別は、虹彩パターンに限定されず、ユーザの他の固有の属性または特性を含み得る。
【0018】
本明細書に説明されるユーザ識別デバイスおよびシステムは、1つ以上のバックプロパゲーションニューラルネットワークを利用して、ユーザ属性の分析を促進し、ユーザ/装着者の識別を決定する。マシン学習方法は、バックプロパゲーションニューラルネットワークを使用して、識別決定(例えば、Samまたは非Sam)を効率的に下すことができる。本明細書に説明されるニューラルネットワークは、コンピューティング/処理要件(例えば、プロセッササイクルおよび時間)を最小化しながら、より正確(すなわち、「真実」により近い)かつ精密に(すなわち、より再現性がある)識別決定を下すための追加の層を含む。
【0019】
ここで
図1A−1Dを参照すると、種々の実施形態による、いくつかの一般的ARシステムコンポーネントオプションが、図示される。
図1A−1Dの実施形態は、頭部搭載型ディスプレイを図示するが、同一コンポーネントは、静止したコンピュータシステム内にも同様に組み込まれて得、
図1A−1Dは、限定として見なされるべきではないことを理解されたい。
【0020】
図1Aに示されるように、頭部搭載型デバイスユーザ60は、ユーザ60の眼の正面に位置付けられるディスプレイシステム62に結合されるフレーム64構造を装着して描写される。フレーム64は、セキュリティの要求されるレベルに応じて、1つ以上のユーザ識別特定のサブシステムに恒久的または一時的に結合され得る。いくつかの実施形態は、ユーザ識別用途のため特に構築され得、他の実施形態は、ユーザ識別可能でもある、一般的ARシステムであり得る。いずれの場合も、以下は、ユーザ識別のために使用されるユーザ識別システムまたはARシステムの可能なコンポーネントを説明する。
【0021】
スピーカ66が、描写される構成においてフレーム64に結合され、ユーザ60の外耳道に隣接して位置付けられ得る。代替実施形態では、別のスピーカ(図示せず)が、ユーザ60の他方の外耳道に隣接して位置付けられ、ステレオ/成形可能音制御を提供する。1つ以上の実施形態では、ユーザ識別デバイスは、ディスプレイ62を有し得、ディスプレイ62は、有線導線または無線接続性等によってローカル処理およびデータモジュール70に動作可能に結合され、ローカル処理およびデータモジュール70は、フレーム64に固定して取り付けられるか、
図1Bに描写される実施形態に示されるようにヘルメットまたは帽子80に固定して取り付けられるか、ヘッドホン内に埋設されるか、
図1Cの実施形態に示されるようにリュック式構成においてユーザ60の胴体82に除去可能に取り付けられるか、または、
図1Dの実施形態に示されるようにベルト結合式構成においてユーザ60の臀部84に除去可能に取り付けられる等、種々の構成において搭載され得る。
【0022】
ローカル処理およびデータモジュール70は、電力効率的プロセッサまたはコントローラと、フラッシュメモリ等のデジタルメモリとを備え得、両方とも、データの処理、キャッシュ、および記憶を補助するために利用され得る。データは、画像捕捉デバイス(カメラ等)、マイクロホン、慣性測定ユニット、加速度計、コンパス、GPSユニット、無線デバイス、および/またはジャイロスコープ等、フレーム64に動作可能に結合され得るセンサから捕捉され得る。代替として、または加えて、データは、そのような処理もしくは読み出し後、おそらく、ディスプレイ62への移動のために、遠隔処理モジュール72および/または遠隔データリポジトリ74を使用して、取得ならびに/もしくは処理され得る。ローカル処理およびデータモジュール70は、有線または無線通信リンク等を介して、遠隔処理モジュール72および遠隔データリポジトリ74に動作可能に結合76、78され得、それによって、これらの遠隔モジュール72、74は、互いに動作可能に結合され、ローカル処理およびデータモジュール70へのリソースとして利用可能である。
【0023】
一実施形態では、遠隔処理モジュール72は、データおよび/または画像情報を分析ならびに処理するように構成される、1つ以上の比較的に高度なプロセッサまたはコントローラを備え得る。一実施形態では、遠隔データリポジトリ74は、比較的に大規模なデジタルデータ記憶設備を備え得、それは、「クラウド」リソース構成において、インターネットまたは他のネットワーキング構成を通して利用可能であり得る。一実施形態では、全てのデータが、ローカル処理およびデータモジュール内に記憶され、全ての計算が、そこで行われ、任意の遠隔モジュールから完全に自律した使用を可能にする。
【0024】
本開示により関連して、
図1A−1Dに説明されるものに類似するユーザ識別デバイス(またはユーザ識別用途を有するARシステム)は、ユーザの眼への固有のアクセスを提供する。ユーザ識別/ARデバイスが、ユーザが3−D仮想コンテンツを知覚することを可能にするためにユーザの眼と重要な相互作用を果たし、多くの実施形態において、ユーザの眼に関連する種々のバイオメトリック(例えば、虹彩パターン、両眼離反運動、眼の運動、桿体細胞および錐体細胞のパターン、眼の移動のパターン等)を追跡するならば、得られる追跡データは、ユーザ識別用途において有利に使用され得る。したがって、ユーザの眼へのこの先例のないアクセスは、当然、種々のユーザ識別用途に適している。
【0025】
1つ以上の実施形態では、拡張現実ディスプレイシステムは、ユーザ装着型ユーザ識別デバイスまたはシステムとして使用され得る。そのようなユーザ識別デバイスおよびシステムは、ユーザの眼の画像を捕捉し、ユーザの眼の移動を追跡し、ユーザ識別のためのデータを得る。従来、ユーザ識別デバイスは、ユーザが一時的に取り付けられるデバイスが静止しているので、ユーザが静止したままであることを要求する。典型的には、ユーザは、デバイスがデータ取得を完了するまで、ユーザ識別器具またはデバイスに拘束される(例えば、顔を正面に向けた状態でのユーザ識別デバイスの顔を載せるコンポーネント上の顔、および/または指紋読み取りデバイスにおける指等)。したがって、現在のユーザ識別アプローチは、いくつかの限界を有する。
【0026】
ユーザ識別データ取得中のユーザ移動を制限することに加え、従来のアプローチは、画像捕捉エラーをもたらし、それは、ユーザ識別エラーにつながり得る。さらに、既存の画像(例えば、虹彩または指紋)分析アルゴリズムも、ユーザ識別エラーをもたらし得る。例えば、大部分の既存の画像分析アルゴリズムは、ユーザ識別正確度および精度とコンピュータシステム要件のバランスを取るように設計ならびに/または較正される。したがって、第三者が十分な量のユーザ特性をユーザと共有している場合、既存の画像分析アルゴリズムは、誤って、第三者をユーザとして識別し得る。
【0027】
1つ以上の実施形態では、
図1A−1Dに示されるものに類似するユーザ識別デバイスを含む頭部装着型ARシステムは、ARシステムのセキュアな特徴(以下に説明される)へのアクセスを提供する前に、ユーザを最初に、かつ継続的に識別するために使用され得る。1つ以上の実施形態では、ARディスプレイシステムは、頭部装着型ユーザ識別デバイスとして使用され得る。以下に説明されるいくつかの実施形態は、頭部装着型システム内に実装され得るが、他の実施形態は、静止したデバイス内に実装され得ることを理解されたい。例証目的のために、本開示は、主に、頭部装着型ユーザ識別デバイス、特に、ARデバイスに焦点を当てるであろうが、同一原理は、非頭部装着型および非AR実施形態にも同様に適用され得ることを理解されたい。
【0028】
1つ以上の実施形態では、ARディスプレイデバイスは、ユーザ装着型ユーザ識別デバイスとして使用され得る。ユーザ装着型ユーザ識別デバイスは、典型的には、特定のユーザの頭部のために適合され、光学コンポーネントは、ユーザの眼と整列させられる。これらの構成ステップは、ユーザが、頭痛、吐き気、不快感等の任意の生理学的副作用を生じさせずに、最適拡張現実体験が提供されることを確実にするために、使用され得る。したがって、1つ以上の実施形態では、ユーザ装着型ユーザ識別デバイスは、各個々のユーザのために構成され(物理的かつデジタルの両方で)、プログラムの組が、そのユーザのために較正され得る。他のシナリオでは、ARデバイスを緩く適合させることによって、種々のユーザによって快適に使用され得る。例えば、いくつかの実施形態では、ユーザ装着型ユーザ識別デバイスは、ユーザの眼間の距離、頭部装着型ディスプレイとユーザの眼との間の距離、およびユーザの額の曲率を把握している。これらの測定値は全て、所与のユーザに適合するためにカスタマイズされた頭部装着型ディスプレイシステムを提供するために使用され得る。他の実施形態では、そのような測定値は、ユーザ識別機能を行うために必要ではないこともある。
【0029】
例えば、
図2A−2Dを参照すると、ユーザ識別デバイスは、各ユーザのためにカスタマイズされ得る。ユーザの頭部形状402が、
図2Aに示されるように、1つ以上の実施形態では、頭部搭載ユーザ装着型ユーザ識別システムを適合させるときに考慮され得る。同様に、眼用コンポーネント404(例えば、光学、光学のための構造等)が、
図2Bに示されるように、水平および垂直の両方にユーザの快適性のために回転もしくは調節され得るか、またはユーザの快適性のために回転させられ得る。1つ以上の実施形態では、
図2Cに示されるように、ユーザの頭部に対するヘッドセットの回転点が、ユーザの頭部の構造に基づいて調節され得る。同様に、瞳孔間距離(IPD)(すなわち、ユーザの眼間の距離)が、
図2Dに示されるように、補償され得る。
【0030】
有利には、ユーザ装着型ユーザ識別デバイスの状況では、各ユーザのための頭部装着型デバイスのカスタマイズは、カスタマイズされたシステムが、ユーザの物理的特徴(例えば、眼サイズ、頭部サイズ、眼間の距離等)についての測定値の組およびユーザ識別において使用され得る他のデータへのアクセスをすでに有するので、有利である。
【0031】
ユーザ上で行われる種々の測定および較正に加え、ユーザ装着型ユーザ識別デバイスは、ユーザについてのバイオメトリックデータの組を追跡するように構成され得る。例えば、システムは、眼の移動、眼の移動パターン、瞬きパターン、両眼離反運動、疲労パラメータ、眼色の変化、焦点距離の変化、および光学拡張現実体験をユーザに提供することにおいて使用され得る多くの他のパラメータを追跡し得る。ユーザ識別用途のために使用されるARデバイスの場合、上で述べた実施形態のうちのいくつかは、一般的に利用可能なARデバイスの一部であり得、他の特徴(本明細書に説明される)は、特定のユーザ識別用途のために組み込まれ得ることを理解されたい。
【0032】
ここで
図3を参照して、例示的ユーザ装着型ユーザ識別ディスプレイデバイスの種々のコンポーネントが、説明されるであろう。他の実施形態は、システムが使用される用途(例えば、特定のユーザ識別手順)に応じて、追加のコンポーネントを有し得ることを理解されたい。それにもかかわらず、
図3は、種々のコンポーネントの基本概念と、ユーザ装着型ユーザ識別デバイスまたはARデバイスを通して収集および記憶され得るバイオメトリックデータのタイプとを提供する。
図3は、例証目的のために、右側のブロック図において、頭部搭載型ユーザ識別デバイス62の簡略化されたバージョンを示す。
【0033】
図3を参照すると、好適なユーザディスプレイデバイス62の一実施形態が、筐体またはフレーム108によってユーザの頭部もしくは眼に搭載され得るディスプレイレンズ106を備えているように示される。ユーザディスプレイデバイス62は、その装着者/ユーザの識別を含む種々の機能を行うように構成されるARシステムである。ディスプレイレンズ106は、ユーザの眼20の正面において筐体84によって位置付けられ、ローカル環境からの少なくとも一部の光の透過も可能にしながら、投影された光38を眼20の中に跳ね返し、ビーム成形を促進するように構成される、1つ以上の透明ミラーを備え得る。描写される実施形態では、2つの広角マシンビジョンカメラ16が、筐体108に結合され、ユーザの周囲の環境を撮像する。一実施形態では、これらのカメラ16は、デュアル捕捉可視光/赤外線光カメラである。
【0034】
描写される実施形態は、示されるように、光38を眼20の中に投影するように構成されるディスプレイミラーおよび光学を伴う一対の走査式レーザ成形波面(すなわち、深度のため)光プロジェクタモジュール18も備えている。描写される実施形態は、赤外線光源26(発光ダイオード、すなわち、「LED」等)と対にされた2つの小型赤外線カメラ24を備え、カメラ24は、ユーザの眼20を追跡し、レンダリングおよびユーザ入力をサポートするように構成される。これらの赤外線カメラ24は、ユーザ識別において利用され得るユーザの眼、特に、眼の虹彩の画像を継続的かつ動的に捕捉するようにも構成される。
【0035】
システム62は、センサアセンブリ39をさらに特徴とし、センサアセンブリ39は、X、Y、およびZ軸加速度計能力と、方位磁石ならびにX、Y、およびZ軸ジャイロスコープ能力とを備え、好ましくは、200Hz等の比較的に高周波数でデータを提供する。例示的センサアセンブリ39は、慣性測定ユニット(「IMU」)である。描写されるシステム62は、ASIC(特定用途向け集積回路)、FPGA(フィールドプログラマブルゲートアレイ)、および/またはARMプロセッサ(高度縮小命令セットマシン)等の頭部姿勢プロセッサ36(「画像姿勢プロセッサ」)も備え、プロセッサ36は、リアルまたは近リアルタイムユーザ頭部姿勢を捕捉デバイス16からの広角画像情報出力から計算するように構成され得る。
【0036】
さらに示されるのは、デジタルおよび/またはアナログ処理を実行し、姿勢をセンサアセンブリ39からのジャイロスコープ、コンパス、ならびに/もしくは加速度計データから導出するように構成される別のプロセッサ32(「センサ姿勢プロセッサ」)である。描写される実施形態は、姿勢および位置決めを補助するためのGPS(全地球測位システム)サブシステム37も特徴とする。加えて、GPSはさらに、ユーザの場所についてのクラウドベースの情報を提供し得る。この情報は、ユーザ識別目的のために使用され得る。例えば、ユーザ識別アルゴリズムが、検出されたユーザ特性を2つの潜在的ユーザ識別に絞り込むことができる場合、ユーザの現在および履歴場所データが、潜在的ユーザ識別のうちの一方を排除するために使用され得る。
【0037】
最後に、描写される実施形態は、ソフトウェアプログラムを起動するハードウェアを特徴とし得るレンダリングエンジン34を備え、ソフトウェアプログラムは、ユーザの世界のビューのために、ユーザのローカルのレンダリング情報を提供し、スキャナの動作およびユーザの眼の中への結像を促進するように構成される。レンダリングエンジン34は、レンダリングされた光が、網膜走査ディスプレイに類似する様式において、走査式レーザ配列18を使用して投影されるように、画像姿勢プロセッサ36、眼追跡カメラ24、投影サブシステム18、およびセンサ姿勢プロセッサ32に動作可能に結合される94、100、102、104、105(すなわち、有線または無線接続性を介して)。投影された光ビーム38の波面は、投影された光の所望の焦点距離と一致するように曲げられ、または焦点を合わせられ得る。
【0038】
小型赤外線眼追跡カメラ24は、眼を追跡し、レンダリングおよびユーザ入力(例えば、ユーザが見ている場所、焦点を合わせられている深度等)をサポートするために利用され得る。以下に議論されるように、両眼離反運動が、ユーザの焦点深度を推定するために利用され得る。GPS37と、センサアセンブリ39内のジャイロスコープ、コンパス、および加速度計とが、大まかな、および/または高速の姿勢推定を提供するために利用され得る。カメラ16の画像およびセンサ姿勢情報が、関連付けられたクラウドコンピューティングリソースからのデータと併せて、ローカル世界をマップし、ユーザビューを仮想または拡張現実コミュニティおよび/もしくはユーザ識別システムと共有するために利用され得る。
【0039】
図3に特徴付けられるディスプレイシステム62内のハードウェアの多くは、ディスプレイ106およびユーザの眼20に隣接する筐体108に直接結合されて描写されるが、描写されるハードウェアコンポーネントは、例えば、
図1Dに示されるように、ベルト搭載型コンポーネント等の他のコンポーネントに搭載され、またはその中に格納され得る。
【0040】
一実施形態では、
図3に特徴付けられるシステム62のコンポーネントは全て、画像姿勢プロセッサ36、センサ姿勢プロセッサ32、およびレンダリングエンジン34を除き、ディスプレイ筐体108に直接結合され、後者3つとシステム62の残りのコンポーネントとの間の通信は、超広帯域等の無線通信または有線通信によって行われ得る。描写される筐体108は、好ましくは、頭部搭載型であって、かつユーザによって装着可能である。それは、ユーザの耳の中に挿入され、音をユーザに提供するために利用され得るもの等、スピーカを特徴とし得る。
【0041】
ユーザの眼20の中への光38の投影に関して、一実施形態では、小型カメラ24が、ユーザの眼20の中心が幾何学的に近づけられている空間内のポイントを決定するために利用され得、そのポイントは、一般に、眼20の焦点の位置、すなわち、「焦点深度」と一致する。投影された画像の焦点距離は、有限数の深度をとり得るか、またはユーザによって視認するための3−D画像の投影を促進するために、無限に可変であり得る。小型カメラ24は、眼追跡のために利用され得、ソフトウェアは、両眼離反運動幾何学形状だけではなく、ユーザ入力としての役割を果たすための焦点場所の手掛かりも取り上げるように構成され得る。
【0042】
AR/ユーザ識別システムの一般的コンポーネントが説明されたことを踏まえ、ユーザ識別に関する追加のコンポーネントおよび/または特徴が、以下に議論されるであろう。以下に説明される特徴のうちのいくつかは、ユーザ識別デバイスまたはユーザ識別目的のために使用される大部分のARシステムに一般的であるであろうが、他の特徴は、ユーザ識別目的のために、追加のコンポーネントを要求するであろうことを理解されたい。
【0043】
(ユーザ識別)
主題の拡張現実システムは、ユーザを識別、認証、位置特定、およびさらにその視線を決定するために非常に好適であるので、理想的には、ユーザの種々のタイプの重要な取引、金融、およびその他を補助するために好適である。
【0044】
(眼追跡/眼撮像からのユーザ識別)
主題のARシステム62は、概して、ユーザの眼が注視している(または「見ている」)場所およびユーザの眼が焦点を合わせられている場所を把握することが必要である。したがって、種々の実施形態では、頭部搭載型ディスプレイ(「HMD」)コンポーネントは、ユーザの眼20に関する画像情報を捕捉するように向けられている1つ以上のカメラ24を特徴とする。
図4に描写される実施形態では、ユーザの各眼20は、眼に焦点を合わせられたカメラ24を、3つ以上のLED(図示せず)とともに有し得、LEDは、カメラ24までの既知のオフセット距離を有し、眼の表面に閃光を誘発する。一実施形態では、LEDは、眼20の直下にある。
【0045】
各カメラ24までの既知のオフセットを伴う3つ以上のLEDの存在は、三角測量によって、3−D空間内のカメラ24から各閃光ポイントまでの距離を決定することを可能にする。少なくとも3つの閃光ポイントおよび眼20の略球状モデルを使用して、システム62は、眼20の曲率を推測することができる。既知の3−Dオフセットおよび眼20に対する向きを用いて、システム62は、ユーザを識別するために使用するための虹彩もしくは網膜の正確な(例えば、画像)または抽象的(例えば、勾配もしくは他の特徴)テンプレートを形成することができる。他の実施形態では、眼20内およびその上の静脈のパターン等の眼20の他の特性も、ユーザを識別するために使用され得る(例えば、虹彩または網膜テンプレートとともに)。
【0046】
a.虹彩画像識別。一実施形態では、眼20の虹彩内の筋線維のパターンは、斑点、溝、および環を含む、各個人に対して安定した固有のパターンを形成する。種々の虹彩特徴は、可視光撮像と比較して、赤外線または近赤外線撮像を使用して容易に捕捉され得る。システム62は、多くの異なる方法において、捕捉された虹彩特徴を識別コード68に変換することができる。目標は、眼20から十分に豊富なテクスチャを抽出することである。収集されたデータ内の十分な自由度を用いて、システム62は、数十億人の生存しているヒトの中から固有のユーザを理論的に識別することができる。システム62は、下方または側方からユーザの眼20に向けられたカメラ24を含むので、システムコード68は、回転不変である必要はないであろう。
図5は、参照のための虹彩からの例示的コード68を示す。
【0047】
例えば、ユーザ眼20の下方のシステムカメラ26、捕捉画像、および3−D深度情報を提供するためのいくつかのLEDを使用して、システム62は、瞳孔直径およびその3−D位置に対して正規化されるテンプレートコード68を形成する。システム62は、ユーザがデバイス62と位置が合っている場合、いくつかの異なる視点からの一連のテンプレートコード68を時間と共に捕捉することができる。この一連のテンプレートコード68は、組み合わせられ、分析のための単一テンプレートコード68を形成することができる。
【0048】
b.網膜画像識別。別の実施形態では、HMDは、回折ディスプレイを備え、回折ディスプレイは、操向可能光ファイバケーブルによって操向されるレーザスキャナによって駆動される。このケーブルは、眼の内部を視覚化し、視覚受容体(桿体細胞および錐体細胞)ならびに血管の固有のパターンを有する網膜を撮像するためにも利用されることができる。これらは、各個人に固有のパターンも形成し、各個人を固有に識別するために使用されることができる。
【0049】
図6は、多くの従来の方法によってパターンに変換され得る網膜の画像を図示する。例えば、暗および明血管のパターンは、固有であり、パターンは、勾配演算子を網膜画像に適用し、網膜の中心に中心を置かれた標準化されたグリッド内の高低遷移を計数すること等の標準的技法によって、「暗−明」コードに変換されることができる。
【0050】
したがって、主題のシステム62は、システム62によって捕捉または検出されたユーザ特性をシステム62の承認されたユーザのための既知のベースラインユーザ特性と比較することによって、高度な正確度および精度を伴って、ユーザを識別するために利用され得る。これらのユーザ特性は、上で述べたように、虹彩および網膜画像を含み得る。
【0051】
ユーザ特性は、眼20の曲率/サイズを含み得、それは、ユーザの識別を補助する。なぜなら、異なる人々の眼は、類似であるが、正確に同一ではないからである。曲率および/またはサイズを有するからである。眼曲率および/またはサイズを利用することは、平坦な複製を用いた虹彩ならびに網膜画像のスプーフィングも防止する。上で述べた一実施形態では、ユーザの眼20の曲率は、撮像された閃光から計算されることができる。
【0052】
ユーザ特性は、一時的情報をさらに含み得る。一時的情報は、ユーザがストレス(例えば、それらの識別が疑われていることの告知)を受けている間に収集されることができる。一時的情報は、心拍数、ユーザの眼が水の膜を産生しているかどうか、眼が近づき、一緒に集中しているかどうか、呼吸パターン、瞬き率、脈拍数等を含む。
【0053】
さらに、ユーザ特性は、相関情報を含み得る。例えば、システム62は、環境の画像と予期される眼の移動パターンを相関させることができる。システム62は、ユーザに、GPS、Wi−Fi信号、および/または環境のマップから導出される場所と相関する同じ予期される場面が見えているかどうかを決定することもできる。例えば、ユーザが自宅に居ると考えられる場合(GPSおよびWi−Fi信号から)、システムは、自宅内の予期される姿勢の正しい場面を検出するはずである。
【0054】
加えて、ユーザ特性は、ユーザを識別するために使用され得るハイパースペクトルおよび/または皮膚/筋肉コンダクタンスを含み得る(既知のベースライン特性と比較することによって)。ハイパースペクトルおよび/または皮膚/筋肉コンダクタンスは、ユーザが生存しているヒトであることを決定するために使用されることができる。
【0055】
ユーザ特性は、主題の拡張現実システム構成が継続的に装着されるように設計されているので、眼の移動パターンも含み得る。眼の移動パターンは、既知のベースライン特性と比較され、ユーザを識別する(または識別に役立つ)こともできる。
【0056】
他の実施形態では、システムは、複数の眼特性(例えば、虹彩および網膜パターン、眼形状、眉毛形状、睫毛パターン、眼サイズ、および曲率等)を使用して、ユーザを識別することができる。複数の特性を使用することによって、そのような実施形態は、単一の眼特性(例えば、虹彩パターン)のみを使用してユーザを識別するシステムと比較して、より低い分解能画像からユーザを識別することができる。
【0057】
識別システム(例えば、本明細書に説明される深層バイオメトリック識別ニューラルネットワーク)へのユーザ入力は、眼(またはユーザの別の部分)の画像もしくは時間と共に取得された眼の複数の画像(例えば、ビデオ)であり得る。いくつかの実施形態では、ネットワークは、単一画像と比較して、同一眼の複数の画像からより多くの情報を取得する。いくつかの実施形態では、複数の画像の一部または全部は、当業者に周知であるように、分析される前に事前に処理され、経時的な複数の画像の安定化合成を使用して、画像の有効分解能を増加させる。
【0058】
AR/ユーザ識別システムは、ユーザを周期的に識別するために、および/またはシステムがユーザの頭部から除去されていないことを確認するために使用されることもできる。
【0059】
上で述べたAR/ユーザ識別システムは、非常にセキュアな形態のユーザ識別を提供する。言い換えると、システムは、比較的に高度な正確度および精度を伴って、ユーザの身元を決定するために利用され得る。システムは、非常に高度な確実性を伴って、かつ継続的ベース(周期的監視を使用して)でユーザの身元を把握するために利用されることができるので、それは、別個のログインを必要とせずに種々のセキュアな金融取引を有効にするために利用されることができる。
【0060】
種々のコンピューティングパラダイムが、コンピューティング/処理要件を最小化しながら、正確度および精度を伴って、捕捉または検出されたユーザ特性を承認されたユーザのための既知のベースラインユーザ特性と比較し、ユーザを効率的に識別するために利用されることができる。
【0061】
(ニューラルネットワーク)
図7は、一実施形態による、バックプロパゲーションニューラルネットワーク200を図示する。ネットワーク200は、複数のコネクタ204によって接続される複数のノード202を含み、コネクタ204は、1つのノード202の出力を表し、その1つのノード202は、別のノード202のための入力を形成する。ネットワーク200は、バックプロパゲーションニューラルネットワークであるので、コネクタ204は、各ノード202がそのノード202の上方および下方の層内のノード202への入力を提供し得るという点において、双方向性である。
【0062】
ネットワーク200は、第1の層206aから開始し、第6の(「分類」)層206fまで通過(「上昇」)する6つの層を含む。ネットワーク200は、検出されたユーザ特性に基づいて、分類(例えば、Sam/非Sam)決定を導出するように構成される。いくつかの実施形態では、分類決定は、Boolean決定である。第1の層206aは、捕捉された画像212(例えば、ユーザの眼、特に、ユーザの虹彩の画像)のピクセルを走査するように構成される。第1の層206aからの情報は、その中のノード202によって処理され、第2の層206b内のノード202にパスされる。
【0063】
第2の層206b内のノード202は、エラーチェックを含む、第1の層206aからの情報を処理する。第2の層206bが第1の層206aからの情報にエラーを検出する場合、誤った情報は、第2の層206bにおいて抑制される。第2の層206bが第1の層206aからの情報を確認する場合、確認された情報は、向上/強化される(例えば、次の層のためにより重く重み付けされる)。このエラー抑制/情報向上プロセスは、第2および第3の層206b、206c間で繰り返される。最初の3つの層206a、206b、206cは、世界の中で見出された基本形状(例えば、三角形、縁、平坦表面等)を認識/識別するように構成される画像処理サブネットワーク208を形成する。いくつかの実施形態では、画像処理サブネットワーク208は、特定用途向け集積回路(「ASIC」)上に書き込まれ得る、固定コードである。
【0064】
ネットワーク200はまた、情報を最初の3つの層206a、206b、206cから、かつ互いから受信するように構成される第4および第5の層206d、206eを含む。第4および第5の層206d、206eは、世界内のオブジェクト(例えば、花、顔、リンゴ等)を識別するように構成されるジェネラリストサブネットワーク210を形成する。画像処理サブネットワーク208に関して上で述べたエラー抑制/情報向上プロセスは、ジェネラリストサブネットワーク210内、および画像処理サブネットワーク208とジェネラリストサブネットワーク210との間で繰り返される。
【0065】
画像処理およびジェネラリストサブネットワーク208、210は、一緒に、エラー抑制/学習向上およびバックプロパゲーションを伴う非線形ロジスティック回帰ネットワークを形成し、非線形ロジスティック回帰ネットワークは、捕捉されたユーザ画像212のピクセルを走査し、分類層206fにおいて分類決定を出力するように構成される。分類層206fは、2つのノード、すなわち、(1)正/識別ノード202a(例えば、Sam)と、(2)負/非識別ノード202b(例えば、非Sam)とを含む。
【0066】
図8は、別の実施形態による、ニューラルネットワーク200を描写する。
図8に描写されるニューラルネットワーク200は、
図7に描写されるものに類似するが、2つの追加の層が、ジェネラリストサブネットワーク210と分類層206fとの間に追加されている。
図8に描写されるネットワーク200では、第5の層206eからの情報は、第6の(「調整」)層206gにパスされる。調整層206gは、画像212データを修正し、ユーザの特有の眼の移動によって生じる相違を考慮するように構成される。調整層206gは、ユーザの眼の移動を時間と共に追跡し、画像212データを修正し、それらの移動によって生じるアーチファクトを除去する。
【0067】
図8は、調整層206gと分類層206fとの間に配置される第7の(「スペシャリスト」)層206hも描写する。スペシャリスト層206hは、いくつかの層を備えている小規模バックプロパゲーションスペシャリストネットワークであり得る。スペシャリスト層206hは、ユーザの画像212データを画像のデータベース(例えば、クラウド上に位置する)からの他の類似画像から導出されるデータに対して比較するように構成される。スペシャリスト層206hはさらに、画像認識ネットワーク208、ジェネラリストネットワーク210、および調整層206gがユーザからの画像212データと混同し得る全ての既知の画像を識別するように構成される。虹彩認識の場合、例えば、任意の特定のユーザの虹彩と混同され得る世界中の70億人の人々からの20,000個の虹彩が存在し得る。
【0068】
スペシャリスト層206hは、各潜在的に混同する画像に対して、ユーザ画像212データをそれぞれの潜在的に混同する画像から区別するように構成されるノード202を含む。例えば、スペシャリスト層206hは、Samの虹彩をTomの虹彩から区別するように構成されるノード202cと、Samの虹彩をAnneの虹彩から区別するように構成されるノード202dとを含み得る。スペシャリスト層206hは、眉毛形状および眼形状等の他の特性を利用して、ユーザを潜在的に混同する他の画像から区別し得る。スペシャリスト層206h内の各ノード202は、各ノード202によって行われる機能の高度に特殊な性質に起因して、約10の追加動作のみを含み得る。スペシャリスト層またはネットワーク206hからの出力は、分類層206hにパスされる。
【0069】
図9は、数千個のノード長であり得る、単一特徴ベクトルを描写する。いくつかの実施形態では、ニューラルネットワーク200内の全てのノード202、例えば、
図7および8に描写されるものが、特徴ベクトル内のノード202に報告し得る。
【0070】
図7、8、および9に図示されるネットワーク200は、隣接する層206間のみを進行する情報を描写するが、大部分のネットワーク200は、全層間の通信を含む(これらの通信は、明確にするために、
図7、8、および9から省略されている)。
図7、8、および9に描写されるネットワーク200は、異なる層206への深層接続性を有するノード202を伴う深層信念または畳み込みニューラルネットワークを形成する。バックプロパゲーションを使用して、より弱いつながりのノードは、ゼロ値に設定され、学習された接続性パターンは、ネットワーク200内で上位にパスされる。
図7、8、および9に図示されるネットワーク200は、特定の数の層206およびノード202を有するが、ネットワーク200は、他の実施形態によると、異なる(より少ないまたはより多い)数の層206およびノード202を含む。
【0071】
ニューラルネットワーク200のいくつかの実施形態が説明されたことを踏まえ、虹彩画像情報と上で述べたニューラルネットワーク200とを使用して、分類決定(Sam/非Sam)を行う方法300が、ここで議論されるであろう。
図10に示されるように、分類方法300は、ステップ302から開始し、画像認識サブネットワーク208が、ユーザの虹彩画像212データを分析し、その画像212データ内の基本形状を決定する。ステップ304では、ジェネラリストサブネットワーク210が、画像認識サブネットワーク208からの形状データを分析し、虹彩画像212データのためのカテゴリを決定する。いくつかの実施形態では、「カテゴリ」は、「Sam」または「非Sam」であることができる。そのような実施形態では、このカテゴリ化は、十分にユーザを識別し得る。
【0072】
その例が
図11に描写される他の実施形態では、「カテゴリ」は「Sam」を含む複数の潜在的ユーザ識別であることができる。
図11におけるステップ302および304は、
図10におけるものと同じである。ステップ306では、調整層206gが、画像形状およびカテゴリデータを修正し、ユーザの眼の移動によって生じるアーチファクトを除去する。調整層206gを用いたデータの処理は、ユーザの眼の不完全画像212(例えば、極端な角度によって生じる歪)に対してデータを弾力的にする。ステップ308では、スペシャリスト層/サブネットワーク206hが、随意に、ユーザの虹彩を1つ以上のデータベース内の全ての既知の潜在的に混同する虹彩から区別するように構成されるノード202(各固有の潜在的に混同する虹彩に対して固有のノード)を追加することによって、それ自体を構築する。いくつかの実施形態では、ステップ308は、AR/ユーザ識別システムが最初にその承認されたユーザのために較正されるときと、他の(例えば、より従来的)方法を使用してユーザの識別が確立された後とに行われ得る。ステップ310では、スペシャリスト層/サブネットワーク206hが、ジェネラリストサブネットワーク210および調整層206gからの「カテゴリ」データをスペシャリスト層/サブネットワーク206h内の各ノード202に通し、「Sam」または「非Sam」のみが残るまで、「カテゴリ」内の混同を低減させる。
【0073】
上で述べたニューラルネットワーク200およびユーザ識別方法300は、コンピューティング/処理要件を最小化しながら、ユーザ特性からより正確かつ精密なユーザ識別を提供する。
【0074】
(セキュアな金融取引)
上で述べたように、パスワードまたはサインアップ/ログイン/認証コードは、上で述べたAR/ユーザ識別システムおよび方法を使用して、個々のセキュアな取引から排除され得る。主題のシステムは、非常に高度な確実性を伴って、ユーザを事前に識別/事前に認証することができる。さらに、システムは、周期的監視を使用して、ユーザの識別を時間と共に維持することができる。したがって、識別されたユーザは、そのサイトの条項についての通知(オーバーレイされたユーザインターフェースアイテムとしてユーザに表示されることができる)後、任意のサイトへの瞬間アクセスを有することができる。一実施形態では、システムは、ユーザがそのサイト上の条件を瞬時に把握するように、ユーザによって事前に決定された標準的条項の組を作成し得る。サイトがこの条件(例えば、標準的条項)の組に準拠しない場合、主題のシステムは、自動的に、アクセスまたはそこでの取引を不可能にし得る。
【0075】
例えば、上で述べたAR/ユーザ識別システムは、「少額取引」を促進するために使用されることができる。非常に少額のデビットおよびクレジットのみをユーザの金融口座に生成する少額取引は、典型的には、約数セントまたは1セント未満である。所与のサイト上において、主題のシステムは、ユーザが視聴または使用したコンテンツだけではなく、その時間(短いブラウジングは無料であり得るが、ある量を超えると、有料となるであろう)も確認するように構成され得る。種々の実施形態では、ニュース記事は、1/3セントであり得、書籍は、1ページあたり1ペニー課金され得、音楽は、1回の視聴あたり10セントであり得る等。別の実施形態では、広告主が、バナー広告を選択すること、またはアンケートを行うことに対してユーザに0.5セントを支払い得る。システムは、取引料金のわずかなパーセンテージをサービスプロバイダに配分するように構成され得る。
【0076】
一実施形態では、システムは、ユーザによって制御可能な専用小額取引口座を作成するために利用され得、小額取引に関連した資金は、集約され、所定の有意の金額で、ユーザのより従来の金融口座(例えば、オンライン銀行口座)へ/から分配される。小額取引口座は、定期的間隔(例えば、四半期毎)において、またはあるトリガに応答して(例えば、ユーザが特定のウェブサイトにおいて数ドルを超えて費やすと)、清算または預金され得る。
【0077】
主題のシステムおよび機能性は、拡張現実に焦点を当てた企業によって提供され得るので、かつ、ユーザのIDは、非常に確実かつセキュアに把握されるので、ユーザは、その口座への瞬時のアクセス、金額、支出、支出率、ならびにその支出のグラフィカルおよび/または地理的マップの3−Dビューを提供され得る。そのようなユーザは、支出(例えば、小額取引)をオフおよびオンにすることを含む支出アクセスを瞬時に調節することを可能にされ得る。
【0078】
別の実施形態では、両親は、その子供の口座への同様のアクセスを有し得る。両親は、ある額の支出を上回らないように、またはあるカテゴリ等に対してあるパーセンテージのみを可能にするようにポリシを設定することができる。
【0079】
高額支出(例えば、数ペニーまたはわずかなペニーではなく、数ドルの金額)に対して、種々の実施形態が、主題のシステム構成を用いて促進され得る。
【0080】
ユーザは、システムを使用して、その追跡された場所またはユーザ選択されたマップ場所への配達のために、生鮮食料品を注文し得る。システムは、配達が到着する時間をユーザに通知することもできる(例えば、ARシステム内に行われている配達のビデオを表示することによって)。ARテレプレゼンスを用いて、ユーザは、その自宅から離れたオフィスに物理的に位置するが、配達員がその自宅に入ることを許可し、アバタテレプレゼンスによって配達員に対して出現し、配達員が製品を配達したことを見届け、次いで、配達員が退出したことを確認し、アバタテレプレゼンスによってその自宅のドアを施錠することができる。
【0081】
随意に、システムは、ユーザ製品選好を記憶し、ユーザに、ユーザの好ましい製品に関連するセールまたは他のプロモーションをアラートし得る。これらの高額支出実施形態に対して、ユーザは、その口座概要、その口座の全統計、および購買パターンを確認し、それによって、その注文を行う前に、買物の比較を促進することができる。
【0082】
システムは、眼を追跡するために利用され得るので、それは、「一瞥」による買物を可能にすることもできる。例えば、ユーザが、オブジェクト(例えば、ホテル内のローブ)を見て、「口座の金額が$3,000を超えたらこれが欲しい」と言ったとする。システムは、特定の条件(例えば、口座残高が$3,000を上回る)が達成されると、購入を実行するであろう。
【0083】
システム/サービスは、主題の技術を使用する各人物の非常に信頼性のある識別に連動された、BITCOINまたは同等代替通貨システムに類似する確立された通貨システムの代替を提供する。ユーザの正確かつ精密な識別は、代替通貨システムに関連する犯罪の機会を減少させる。
【0084】
(セキュアな通信)
一実施形態では、虹彩および/または網膜署名データは、通信をセキュアにするために使用され得る。そのような実施形態では、主題のシステムは、テキスト、画像、および他のコンテンツが、ユーザが1つ以上の動的に測定された虹彩および/もしくは網膜署名に基づいて認証されるときのみアクセスを可能にする、信頼されたセキュアなハードウェアデバイスに選択的に伝送可能であり、かつその上で表示可能であることを可能にするように構成され得る。ARシステムディスプレイデバイスは、直接ユーザの網膜上に投影するので、意図される受信者(虹彩および/または網膜署名によって識別される)のみが、保護されたコンテンツを視聴可能となり得、さらに、視聴デバイスがユーザ眼を能動的に監視するので、動的に読み取られた虹彩および/または網膜署名が、コンテンツがユーザの眼に実際に提示されたことの証明として記録され得る(例えば、可能性として、眼の移動の要求されるシーケンスを実行する等、検証アクションによって遂行される、デジタル受信の形態として)。
【0085】
スプーフィング検出は、予期される自然変動のモデルに基づいて、網膜画像の以前の記録、静的または2D網膜画像、生成された画像等を使用した試みを排除し得る。固有の基準/ウォーターマークが、網膜上に生成および投影され、監査のための固有の網膜署名を生成し得る。
【0086】
上で述べた金融および通信システムは、より正確かつ精密なユーザ識別から利益を享受し得る、種々の一般的システムの実施例として提供される。故に、本明細書に説明されるAR/ユーザ識別システムの使用は、開示される金融および通信システムに限定されず、むしろ、ユーザ識別を要求する任意のシステムに適用可能である。
【0087】
本発明の種々の例示的実施形態が、本明細書で説明される。非限定的な意味で、これらの実施例が参照される。それらは、本発明のより広くて適用可能な側面を例証するように提供される。種々の変更が、説明される本発明に行われ得、本発明の真の精神および範囲から逸脱することなく、同等物が置換され得る。加えて、特定の状況、材料、物質組成、プロセス、プロセス行為、またはステップを本発明の目的、精神、もしくは範囲に適合させるように、多くの修正が行われ得る。さらに、当業者によって理解されるように、本明細書で説明および例証される個々の変形例の各々は、本発明の範囲または精神から逸脱することなく、他のいくつかの実施形態のうちのいずれかの特徴から容易に分離され、またはそれらと組み合わせられ得る、個別のコンポーネントおよび特徴を有する。全てのそのような修正は、本開示に関連付けられる請求項の範囲内にあることを目的としている。
【0088】
本発明は、主題デバイスを使用して行われ得る方法を含む。方法は、そのような好適なデバイスを提供するという行為を含み得る。そのような提供は、エンドユーザによって行われ得る。換言すれば、「提供する」行為は、単に、エンドユーザが、主題方法において必須デバイスを提供するように、取得し、アクセスし、接近し、位置付けし、設定し、起動し、電源を入れ、または別様に作用することを要求する。本明細書で記載される方法は、論理的に可能である記載された事象の任意の順番で、ならびに事象の記載された順番で実行され得る。
【0089】
本発明の例示的実施形態が、材料選択および製造に関する詳細とともに、上で記載されている。本発明の他の詳細に関しては、これらは、上で参照された特許および出版物と関連して理解されるとともに、概して、当業者によって公知または理解され得る。一般的または論理的に採用されるような追加の行為の観点から、本発明の方法ベースの実施形態に関して、同じことが当てはまり得る。
【0090】
加えて、本発明は、種々の特徴を随意的に組み込むいくつかの実施例を参照して説明されているが、本発明は、本発明の各変形例に関して考慮されるような説明および指示されるものに限定されるものではない。種々の変更が、説明される本発明に行われてもよく、本発明の真の精神および範囲から逸脱することなく、同等物(本明細書に記載されようと、いくらか簡単にするために含まれていなかろうと)が置換され得る。加えて、値の範囲が提供される場合、その範囲の上限と下限との間の全ての介在値、およびその規定範囲内の任意の他の規定または介在値が、本発明内に包含されることを理解されたい。
【0091】
また、説明される本発明の変形例の任意の随意的な特徴が、独立して、または本明細書で説明される特徴のうちのいずれか1つ以上のものと組み合わせて、記載および請求され得ることが考慮される。単数形のアイテムへの参照は、複数形の同一のアイテムが存在するという可能性を含む。より具体的には、本明細書で、および本明細書に関連付けられる請求項で使用されるように、「1つの(「a」、「an」)」、「該(said)」、および「前記(the)」という単数形は、特に規定がない限り、複数形の指示主題を含む。換言すれば、冠詞の使用は、上記の説明ならびに本開示に関連付けられる請求項において、主題アイテムの「少なくとも1つ」を可能にする。さらに、そのような請求項は、任意の随意的な要素を除外するように起草され得ることに留意されたい。したがって、この記述は、請求項の要素の記載と関連して、「単に」、「のみ」、および同等物等の排他的用語の使用、または「否定的」制限の使用のために、先行詞としての機能を果たすことを目的としている。
【0092】
そのような排他的用語を使用することなく、本開示に関連付けられる請求項での「備えている」という用語は、所与の数の要素がそのような請求項で列挙されるか、または特徴の追加をそのような請求項に記載される要素の性質の変換として見なすことができるかにかかわらず、任意の追加の要素を含むことを可能にするものとする。本明細書で具体的に定義される場合を除いて、本明細書で使用される全ての技術および科学用語は、請求項の有効性を維持しながら、可能な限り広い一般的に理解されている意味を与えられるものである。
【0093】
本発明の範疇は、提供される実施例および/または主題の明細書に限定されるものではなく、むしろ、本開示に関連付けられる請求項の言葉の範囲のみによって限定されるものである。
【0094】
上で述べた明細書では、本発明が、その具体的実施形態を参照して説明された。しかしながら、種々の修正および変更が、本発明のより広義の精神ならびに範囲から逸脱することなく、本明細書に成され得ることは、明白であろう。例えば、上で述べたプロセスフローは、プロセスアクションの特定の順序を参照して説明される。しかしながら、説明されるプロセスアクションの多くの順序は、本発明の範囲または動作に影響を及ぼさずに変更され得る。明細書および図面は、故に、限定的意味ではなく、例証と見なされるべきである。