(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0049】
(詳細な説明)
以下に続く説明は、仮想現実および/または拡張現実システムで使用される表示システ
ムおよび方法に関する。しかしながら、本発明が仮想現実における用途に良く役立つ一方
で、本発明は、その最も広い側面では、そのように限定されなくてもよいことを理解され
たい。
【0050】
最初に
図38を参照すると、
図38は、1つの図示した実施例による、仮想画像をエン
ドユーザ3802に提供するように動作し得る、仮想画像生成システム3800を示す。
【0051】
仮想画像生成システム3800は、エンドユーザの視野内の物理的オブジェクトと混合
させられる仮想オブジェクトの画像を提供する、拡張現実システムとして操作されてもよ
い。拡張現実システムとして仮想画像生成システム3800を操作するときに、2つの基
礎的アプローチがある。第1のアプローチは、周囲環境の画像を捕捉するために、1つま
たはそれを上回る撮像装置(例えば、カメラ)を採用する。仮想画像生成システム380
0は、仮想画像を、周囲環境の画像を表すデータに混合してもよい。第2のアプローチは
、それを通して周囲環境を見ることができ、その上で仮想画像生成システム3800が仮
想オブジェクトの画像を生成する、1つまたはそれを上回る少なくとも部分的に透明な表
面を採用する。当業者に明白となるように、本明細書で説明される側面のうちの少なくと
もいくつかが、拡張現実システムに特に適している。
【0052】
仮想画像生成システム3800は、仮想環境で仮想オブジェクトの画像を提供する、仮
想現実システムとして操作されてもよい。
【0053】
仮想画像生成システム3800、および本明細書で教示される種々の技法は、拡張現実
および仮想現実システム以外の用途で採用されてもよい。例えば、種々の技法は、任意の
投影または表示システムに適用されてもよい。例えば、本明細書で説明される種々の技法
は、動きが、頭部の動きよりもむしろエンドユーザの手の動きであり得る、ピコプロジェ
クタに適用されてもよい。したがって、多くの場合、拡張現実システムに関して本明細書
で説明されるが、教示は、そのようなシステムまたはそのような使用に限定されるべきで
はない。
【0054】
少なくとも拡張現実用途について、エンドユーザ3802の視野内のそれぞれの物理的
オブジェクトに対して、種々の仮想オブジェクトを空間的に位置付けることが望ましくあ
り得る。本明細書では仮想タグまたはタグあるいはコ−ルアウトしとも称される、仮想オ
ブジェクトは、多種多様の形態のうちのいずれか、基本的には、画像として提示されるこ
とが可能な任意の種々のデータ、情報、概念、または論理的構築物を成してもよい。仮想
オブジェクトの非限定的実施例は、仮想テキストオブジェクト、仮想数値オブジェクト、
仮想英数字オブジェクト、仮想タグオブジェクト、仮想フィールドオブジェクト、仮想チ
ャートオブジェクト、仮想マップオブジェクト、仮想計装オブジェクト、または物理的オ
ブジェクトの仮想視覚表現を含んでもよい。
【0055】
頭部追跡精度および待ち時間が、仮想現実および拡張現実システムにとって問題となっ
ている。追跡の不正確性および待ち時間は、エンドユーザの視覚系と前庭系との間の不一
致を生じる。そのようなものは、吐き気および不快感につながり得る。そのようなものは
、エンドユーザの視野の大部分を充填する表示システムで特に問題である。そのようなも
のに対処することへのアプローチは、例えば、点滅または閃光を介して、あるいは他の技
法を介して、フレームレートまたは有効フレームレートを増加させることを含んでもよい
。本明細書で説明されるように、例えば、待ち時間を短縮することによって、そのような
ものに対処するために、予測頭部追跡が採用されてもよい。予測頭部追跡は、特定のエン
ドユーザの履歴データまたは属性を含む、多種多様の要因またはアプローチのうちのいず
れかに依拠し得る。また、本明細書で説明されるように、表示または提示の消去、例えば
、急速な頭部の動きの間の消去が、効果的に採用されてもよい。
【0056】
少なくとも拡張現実用途について、物理的オブジェクトと空間的に関連する(例えば、
2または3次元で物理的オブジェクトに空間的に近接して出現するように提示される)仮
想オブジェクトの配置が、重要な問題であり得る。例えば、頭部の動きは、周囲環境の視
界で仮想オブジェクトの配置を有意に複雑にし得る。そのようなものは、視界が周囲環境
の画像として捕捉され、次いで、エンドユーザ3802に投影または表示されるかどうか
、またはエンドユーザ3802が周囲環境の視界を直接知覚するかどうかにかかわらず当
てはまる。例えば、頭部の動きは、おそらくエンドユーザ3802の視野を変化させ、こ
れは、おそらく、種々の仮想オブジェクトがエンドユーザ3802の視野で表示される場
所への更新を必要とするであろう。加えて、頭部の動きは、多種多様の範囲および速度内
で起こり得る。頭部の動きの速度は、異なる頭部の動きの間だけでなく、単一の頭部の動
きの範囲内で、または範囲にわたっても変動し得る。例えば、頭部の動きの速度は、最初
に始点から(例えば、直線的に、またはそうではなく)増加してもよく、かつ終点に達す
ると減少してもよく、頭部の動きの始点と終点との間のどこかで最大速度を得る。急速な
頭部の動きは、エンドユーザ3802には一様に見える、および/または平滑な運動のよ
うに見える画像をレンダリングする、特定の表示または投影技術の能力さえも超え得る。
【0057】
図38で図示される実施形態では、仮想画像生成システム3800は、エンドユーザ3
802の眼3808と周囲環境との間のエンドユーザ3802の視野内に位置付けられる
、部分的に透明なディスプレイ表面3806上に画像を投影するように動作可能である、
投影サブシステム3804を含む。仮想画像生成システム3800は、エンドユーザ38
02の頭部3810上に装着または搭載され、例えば、眼鏡またはバイザーに組み込まれ
てもよい。
【0058】
図示した実施形態では、投影サブシステム3804は、その中に光が受容される後また
は遠位端3812aと、そこから光が部分的に透明なディスプレイ表面3806に提供さ
れるか、またはエンドユーザ3802の眼3808に直接投影される、前または近接端3
812bとを有する、1つまたはそれを上回る光ファイバ3812(例えば、単一モード
光ファイバ)を含む。投影サブシステム3804はまた、光を生成し(例えば、定義され
たパターンで異なる色の光を発し)、光を1つまたはそれを上回る光ファイバ3812の
後または遠位端3812aに通信可能に連結する、1つまたはそれを上回る光源3815
を含んでもよい。光源3815は、多種多様の形態のうちのいずれか、例えば、ピクセル
情報またはデータのそれぞれのフレームで特定される、定義されたピクセルパターンに従
って、赤色、緑色、および青色のコヒーレント平行光線をそれぞれ生成するように動作可
能である、RGBレーザのセット(例えば、赤色、緑色、および青色光を出力することが
可能なレーザダイオード)を成してもよい。レーザ光は、高い彩度を提供し、高度にエネ
ルギー効率的である。
【0059】
図38は、単一の光ファイバ3812を示すが、いくつかの実装は、光を複数のチャン
ネルに分割する、2つまたはそれを上回る光ファイバ3812を採用してもよい。そのよ
うな実装では、光ファイバ3812は、光を屈曲し、チャネル間の光学間隔を縮小するよ
うに、交互の先端、または面取りおよび研磨した先端を有してもよい。光ファイバ381
2は、リボンケーブルとして便宜的に包装されてもよい。好適な光学部は、チャネルのそ
れぞれによって生成されるそれぞれの画像の複合体を生成してもよい。
【0060】
1つまたはそれを上回る光ファイバ3812は、そこから延在する前または近接端38
12bの一部分を伴うヨーク3814によって支持されてもよい。ヨーク3814は、振
動運動で前または近接端3812bを設定するように動作可能であり得る。例えば、ヨー
ク3814は、圧電変換器3814aの管を備えてもよい(1つだけが
図38に示されて
いる)。いくつかの電極3813(例えば、4つが図示され、1つだけがコ−ルアウトさ
れている)が、圧電変換器3814aの周囲で半径方向に配列される。例えば、フレーム
バッファ3828を介して、制御信号を圧電変換器3814aと関連付けられるそれぞれ
の電極3813に印加することにより、光ファイバ3812の前または近接端3812b
を、第1の共鳴モードで振動させることができる。振動のサイズまたは中心外移動の量は
、種々の少なくとも2軸パターンのうちのいずれかを得るように、印加された駆動信号を
介して制御可能である。パターンは、例えば、ラスタ走査パターン、渦巻状またはらせん
走査パターン、あるいはリサジューまたは8の字走査パターンを含んでもよい。
【0061】
図31は、1つの図示した実施形態による、画像、例えば、1つまたはそれを上回る仮
想オブジェクトの画像を提示するように、ピクセル情報またはデータを特定する、ピクセ
ル情報またはデータのフレーム3100を示す。フレーム3100は、各ピクセルにセル
3100a−3100n(2つだけがコ−ルアウトされている、集合的に3102)を伴
って概略的に図示される。行または列3104a、3104b−3100n(3つがコ−
ルアウトされている、集合的に3104)に配列されたセルのシーケンスが、
図31の図
面を横断して水平に延在するものとして図示されている。フレーム3100は、複数の列
3104を含む。
図31は、図示を明確にするために省略されているセルまたは列等の欠
落した情報を表すために楕円を採用する。
【0062】
フレーム3100の各セル3102は、セルが対応するそれぞれのピクセルおよび/ま
たは強度に対する複数の色のそれぞれの値(集合的に3106)を特定してもよい。例え
ば、フレーム3100は、各ピクセルについて、赤色の1つまたはそれを上回る値310
6a、緑色の1つまたはそれを上回る値3106b、および青色の1つまたはそれを上回
る値3106cを特定してもよい。値3106は、色のそれぞれの2進表現、例えば、各
色のそれぞれの4ビット数として特定されてもよい。フレーム3100の各セル3102
は、加えて、例えば、フレーム3100が、渦巻状走査線パターンベースのシステムとと
もに、またはリサジュー走査線パターンベースのシステムとともに使用され得る、各ピク
セルの振幅または半径方向寸法を特定する、振幅または半径値#P06dを含んでもよい
。
【0063】
フレーム3100は、1つまたはそれを上回るフィールド、集合的に3110を含んで
もよい。フレーム3100は、単一のフィールドから成ってもよい。代替として、フレー
ム3100は、2つ、またはさらに多くのフィールド3110a−3110bを備えても
よい。
図31で図示されるフレーム3100は、2つのフィールド3110a−3110
bを示す。フレーム3100の完全な第1のフィールド3110aのピクセル情報は、完
全な第2のフィールド3110bのピクセル情報の前に特定されてもよく、例えば、アレ
イ、順序付けられたリスト、または他のデータ構造(例えば、記録、リンクされたリスト
)の中で第2のフィールド3110bのピクセル情報の前に生じる。提示システムが2つ
より多くのフィールド3110a−3110bを取り扱うように構成されると仮定して、
第3またはさらに第4のフィールドが、第2のフィールド3110bに続いてもよい。
【0064】
図32は、ラスタ走査パターン3200を概略的に表す。ラスタ走査パターン3200
では、ピクセル3202(1つだけがコ−ルアウトされている)が連続的に提示される。
ラスタ走査パターン3200は、典型的には、左から右に(矢印3204a、3204b
によって示される)、次いで、上から下に(矢印3206によって示される)ピクセルを
提示する。したがって、提示は、右上隅から始まり、列の終端に達するまで第1の列32
08aにわたって左に横断してもよい。次いで、ラスタ走査パターン3200は、典型的
には、下の次の列で左から始まる。提示は、一時的に黒くされるか、または消去され、1
つの列の終端から次の列の始めに戻る。このプロセスは、例えば、一番下の最右ピクセル
で、一番下の列3208nが完了するまで、列毎に繰り返す。フレーム3100が完成す
ると、新しいフレームが開始され、再度、次のフレームの最上列の右に戻る。再度、提示
は、次のフレームを提示するように、左下から右上に戻りながら消去されてもよい。
【0065】
ラスタ走査の多くの実装は、インターレース走査パターンと称されるものを採用する。
インターレースラスタ走査パターンでは、第1および第2のフィールド3210a、32
10bからの列がインターレースされる。例えば、第1のフィールド3210aの列を提
示するとき、第1のフィールド3210aのピクセル情報が、奇数の列のみに使用されて
もよい一方で、第2のフィールド3210bのピクセル情報は、奇数の列のみに採用され
てもよい。したがって、フレーム3100(
図31)の第1のフィールド3210aの列
の全てが、典型的には、第2のフィールド3210bの列の前に提示される。第1のフィ
ールド3210aは、列1、列3、列5等を連続的に提示するように、第1のフィールド
3210aのピクセル情報を使用して提示されてもよい。次いで、フレーム3100(図
31)の第2のフィールド3210bは、列2、列4、列6等を連続的に提示するように
、第2のフィールド3210bのピクセル情報を使用することによって、第1のフィール
ド3210aに続いて提示されてもよい。
【0066】
図33は、1つの図示した実施形態による、渦巻状走査パターン3300を概略的に表
す。渦巻状走査パターン3300は、コイルまたはループとして表され得る、1つまたは
それを上回る完全角度サイクル(例えば、360度)を含み得る、単一の渦巻状走査線3
302から成ってもよい。ピクセル情報は、角度が増分すると、各順次ピクセルの色およ
び/または強度を特定するために使用される。振幅または半径値3208(
図31)が、
渦巻状走査線3302の始点3308から半径方向寸法#R06を特定する。
【0067】
図34は、1つの図示した実施形態による、リサジュー走査パターン3400を概略的
に表す。リサジュー走査パターン3400は、コイルまたはループとして表され得る、1
つまたはそれを上回る完全角度サイクル(例えば、360度)を含み得る、単一のリサジ
ュー走査線3402から成ってもよい。代替として、リサジュー走査パターン3400は
、それぞれ、リサジュー走査線3402をネスト化するように相互に対して位相偏移させ
られる、2つまたはそれを上回るリサジュー走査線3402を含んでもよい。ピクセル情
報は、角度が増分すると、各順次ピクセルの色および/または強度を特定するために使用
される。振幅または半径値3208(
図31)が、リサジュー走査線3402の始点から
半径方向寸法を特定する。
【0068】
図35は、1つの図示した実施形態による、マルチフィールド渦巻状走査パターン35
00を概略的に表す。マルチフィールド渦巻状走査パターン3500は、2つまたはそれ
を上回る明確に異なる渦巻状走査線、集合的に、4本の渦巻状走査線3502a−350
2dを図示する
図35の3502を含む。各渦巻状走査3502線のピクセル情報は、フ
レーム3100(
図31)のそれぞれのフィールド(例えば、3210a、3210b)
によって特定されてもよい。有利なことには、単純に、渦巻状走査線3502のうちの各
連続走査線の間の位相を偏移させることによって、複数の渦巻状走査線3502がネスト
化されてもよい。渦巻状走査線3502の間の位相差は、採用されるであろう渦巻状走査
線3502の総数の関数となるべきである。例えば、4本の渦巻状走査線3502a−3
502dは、90度位相偏移によって分離されてもよい。例示的実施形態は、10本の明
確に異なる渦巻状走査線(すなわち、副次的渦巻)を用いて100Hzリフレッシュレー
トで動作してもよい。
図33の実施形態と同様に、1つまたはそれを上回る振幅または半
径値3208(
図31)が、渦巻状走査線3502の始点3508から半径方向寸法35
06を特定する。
【0069】
図34および35から明白であるように、隣接ピクセル間の相対間隔は、画像の全体を
通して変動し得る。この非一様性に少なくとも部分的に適応するか、またはそれを補うこ
とが有利であり得る。例えば、ピクセルサイズを調整する、例えば、他のピクセルより遠
く離間されるピクセルについて、知覚されたピクセルサイズを増加させることが有利であ
り得る。そのようなものは、例えば、ガウススポットサイズを増加させるように、選択的
なぼやけ(例えば、可変焦点レンズ、可変拡散器、ジッタ)を介して実装されてもよい。
加えて、または代替として、他のピクセルより遠く離間されるピクセルの強度を調整する
ことが有利であり得る。
【0070】
図38に戻って、第1の軸の周囲の共振周波数で、および第1の軸と垂直な第2の軸の
周囲の共振周波数で、正弦波駆動信号を用いて圧電変換器3814aを駆動することによ
り、渦巻状走査パターンを生成する。渦巻状走査パターンは、角度寸法が変動すると変動
する、半径方向寸法によって特性化されてもよい。例えば、半径方向寸法が、直線的また
は非直線的に変動し得る一方で、半径方向寸法は、0度から360度に、または360度
まで変動する。見掛上、渦巻状走査線は、始点から始まり、平面で回転しながら半径方向
外向きに掃引する、連続らせんのように見えてもよい。各完全角度サイクルは、コイルま
たはループを構成するものとして表されてもよい。渦巻状走査線は、始点から再開する前
に、任意の所望の数のコイルまたはループを有するものとして定義されてもよい。表示ま
たは提示が消去されるリフレッシュ期間は、時間的に第1の渦巻状走査パターンの終了と
次の時間的に連続的な渦巻状走査パターンの開始との間で起こり得る。渦巻状走査パター
ンの最外半径方向寸法は、正弦波駆動信号の振幅変調によって設定されてもよい。渦巻状
走査線パターンの振幅変調は、角度寸法に影響を及ぼすことなく、半径方向寸法を調整す
る。したがって、振幅変調は、所与の走査線に対する所与の時間でサイクルの周波数(例
えば、コイルまたはループの数)またはサイクルの数に影響を及ぼさないであろう。パタ
ーン内の前または近接端3812bの位置は、2または3次元画像を形成するように、光
源3815の出力と同期化される。
【0071】
図示されていないが、投影サブシステム3804は、例えば、部分的に透明なディスプ
レイ表面3806を介して、1つまたはそれを上回る光ファイバ3812の前または近接
端3812bから、エンドユーザ3802の眼3808に向かって直接的または間接的に
出力を指向する、1つまたはそれを上回る光学構成要素(例えば、レンズ、フィルタ、格
子、プリズム、反射体、二色性反射体、屈折体)を含んでもよい。図示されていないが、
投影サブシステム3804は、ピクセルデータのZ軸位置の深度を変調する、1つまたは
それを上回る光学構成要素を含んでもよい。そのようなものは、例えば、可撓性反射(例
えば、アルミニウムでコーティングされた窒化物スパッタ)膜、および可撓性反射膜の偏
向を引き起こすように操作される1つまたはそれを上回る電極の形態を成してもよい。可
撓性反射膜は、1つまたはそれを上回る光ファイバ3812の前または近接端3812b
から発せられる光を反射して集束するように位置付けられる。可撓性反射膜は、Z次元ま
たは軸で光を集束するように、ピクセルデータまたは情報の深度マップに基づいて選択的
に動作可能である。可撓性反射膜は、奥行きを生じるためにガウススポットを採用しても
よく、画像内のある仮想オブジェクトは、焦点が合って見える一方で、他の仮想オブジェ
クトは、焦点が外れて見える。加えて、または代替として、本システムは、1つまたはそ
れを上回るカー効果レンズを採用してもよい。
【0072】
頭部装着型実施形態に必要ではないが、光ファイバ3812、および随意にヨーク38
14は、1つまたはそれを上回る方向への移動のために支持されてもよい。例えば、光フ
ァイバ3812、および随意にヨーク3814は、2、3、またはそれを上回る移動の自
由度のために、ジンバル3816を介して支持されてもよい。ジンバル3816は、ター
ンテーブル3816aと、第1の軸3820aの周囲で枢動または回転するように動作可
能な第1のアクチュエータ3818a(例えば、電気モータ、ソレノイド、圧電変換器)
とを含んでもよい。ジンバル3816は、ターンテーブル3816a上でフレーム381
6cによって支持されるブラケット3816bと、第2の軸3820bの周囲で枢動また
は回転するように動作可能な第2のアクチュエータ3818b(例えば、電気モータ、ソ
レノイド、圧電変換器)とを含んでもよい。ジンバル3816は、ブラケット3816b
によって枢動可能に支持されるシャフト3816dと、第3の軸3820cの周囲で枢動
または回転するように動作可能な第3のアクチュエータ3818c(例えば、電気モータ
、ソレノイド、圧電変換器)とを含んでもよい。第1、第2、第3の軸(集合的に382
0)は、直行軸であってもよい。
【0073】
図38で図示される実施形態では、仮想画像生成システム3800は、制御サブシステ
ム3822を含む。制御サブシステム3822は、そのうちの1つが
図38で図示される
、多種多様の形態のうちのいずれかを成してもよい。
【0074】
制御サブシステム3822は、いくつかのコントローラ、例えば、1つまたはそれを上
回るマイクロコントローラ、マイクロプロセッサ、または中央処理装置(CPU)382
4、デジタル信号プロセッサ(DSP)、グラフィックス処理ユニット(GPU)382
6、特定用途向け集積回路(ASIC)等の他の集積回路コントローラ、プログラマブル
ゲートアレイ(PGA)、例えば、フィールドPGA(FPGA)および/またはプログ
ラマブル論理コントローラ(PLU)を含む。
図38で図示される実施形態では、マイク
ロプロセッサ3824が、全体的な動作を制御する一方で、GPU3826は、フレーム
(例えば、ピクセルデータのセット)を1つまたはそれを上回るフレームバッファ382
8a−3828n(集合的に3828)にレンダリングする。図示されていないが、1つ
またはそれを上回る付加的な集積回路は、両方とも2または3次元画像を生成するように
同期化する、フレームバッファ3828へのフレームの読み込みおよび/またはフレーム
バッファ3828からのフレームの読み出し、ならびに圧電変換器または電極3814a
の動作を制御してもよい。フレームバッファ3828への読み込みおよび/またはフレー
ムバッファ3828からの読み出しは、例えば、フレームがオーバーレンダリングされる
、動的アドレス指定を採用してもよい。
【0075】
制御サブシステム3822は、命令およびデータを記憶するように、1つまたはそれを
上回る非一過性のコンピュータまたはプロセッサ可読媒体を含む。非一過性のコンピュー
タまたはプロセッサ可読媒体は、例えば、フレームバッファ3828を含んでもよい。非
一過性のコンピュータまたはプロセッサ可読媒体は、例えば、1つまたはそれを上回る不
揮発性メモリ、例えば、読取専用メモリ(RAM)3830またはフラッシュメモリを含
んでもよい。非一過性のコンピュータまたはプロセッサ可読媒体は、例えば、1つまたは
それを上回る揮発性メモリ、例えば、ランダムアクセスメモリ(RAM)3832を含ん
でもよい。制御サブシステム3822は、他の揮発性および不揮発性メモリを含んでもよ
く、回転媒体記憶装置ならびにソリッドステート記憶デバイスを含む。
【0076】
アクチュエータ(集合的に3818)が採用される実装では、制御サブシステム382
2は、随意に、モータ制御信号を介してアクチュエータ3818を駆動するように通信可
能に連結される、1つまたはそれを上回る専用モータコントローラ3834を含んでもよ
い。
【0077】
制御サブシステム3822は、随意に、種々の他のシステム、構成要素、またはデバイ
スとの通信を提供する、1つまたはそれを上回る通信ポート3836a、3836b(集
合的に3836)を含んでもよい。例えば、制御サブシステム3822は、有線または光
学通信を提供する、1つまたはそれを上回る有線インターフェースまたはポート3836
aを含んでもよい。また、例えば、制御サブシステム3822は、無線通信を提供する、
1つまたはそれを上回る無線機(すなわち、無線伝送機、受信機、送受信機)3836b
等の1つまたはそれを上回る無線インターフェースまたはポートを含んでもよい。
【0078】
図示されるように、有線インターフェースまたはポート3836aは、エンドユーザ3
802が位置する環境の画像を捕捉するように位置付けられて配向される、1つまたはそ
れを上回るカメラ3838aを含む、環境撮像システム3838との有線または光学通信
を提供する。そのようなものは、エンドユーザ3802および/または環境についての情
報を感知、測定、または収集するために使用されてもよい。例えば、そのようなものは、
エンドユーザ3802または頭部3810等のエンドユーザ3802の身体の部分の動き
および/また配置を検出または測定するために使用されてもよい。図示されるように、有
線インターフェースまたはポート3836aは、随意に、エンドユーザ3802、頭部3
810等のエンドユーザ3802の一部分、および/またはエンドユーザ3802が位置
する環境を照射するように位置付けられて配向される、1つまたはそれを上回る光源38
40aを含む、構造照明システム3840との有線または光学通信を提供してもよい。
【0079】
図示されるように、無線インターフェースまたはポート3836bは、エンドユーザ3
802の頭部3810の動きを示す慣性測定を捕捉するように、1つまたはそれを上回る
慣性変換器3842aを含む、1つまたはそれを上回る頭部装着型変換器システム384
2との無線(例えば、RF、マイクロ波、IR)通信を提供する。そのようなものは、エ
ンドユーザ3802の頭部の動きについての情報を感知、測定、または収集するために使
用されてもよい。例えば、そのようなものは、エンドユーザ3802の頭部3810の動
き、速度、加速、および/また配置を検出または測定するために使用されてもよい。図示
されるように、有線インターフェースまたはポート3836aは、随意に、例えば、1つ
またはそれを上回る前向きの撮像装置またはカメラ3842aを含む、撮像システム38
42との有線または光学通信を提供してもよい。そのようなものは、エンドユーザ380
2が位置する環境についての情報を捕捉するために使用されてもよい。そのようなものは
、その環境およびその環境内の特定のオブジェクトに対するエンドユーザ3802の距離
および配向を示す情報を捕捉するために使用されてもよい。頭部に装着されたとき、前向
きの撮像装置またはカメラ3842aは、エンドユーザ3802が位置する環境およびそ
の環境内の特定のオブジェクトに対するエンドユーザの頭部3810の距離および配向を
示す情報を捕捉するために特に適している。そのようなものは、例えば、頭部の動き、頭
部の動きの速度および/または加速を検出するために採用されてもよい。そのようなもの
は、例えば、エンドユーザの頭部3810の配向に少なくとも部分的に基づいて、例えば
、エンドユーザ3802の注目の中心を検出または推測するために採用されてもよい。配
向は、任意の方向で(例えば、エンドユーザの基準フレームに対して上/下、左/右)検
出されてもよい。
【0080】
いくつかの実装では、全ての通信が有線であり得る一方で、他の実装では、全ての通信
は無線であり得る。なおもさらなる実装では、有線および無線通信の選択は、
図38で図
示されるものとは異なり得る。したがって、有線または無線通信の特定の選択は、限定的
と見なされるべきではない。
【0081】
制御サブシステム3822の種々の構成要素、例えば、マイクロプロセッサ3824、
GPU3826、フレームバッファ3828、ROM3830、RAM3832、および
/または随意に専用モータコントローラ3834は、1つまたはそれを上回る通信チャネ
ル、例えば、1つまたはそれを上回るバス3846(1つだけが図示されている)を介し
て通信可能に連結されてもよい。バス3846は、命令バス、データバス、アドレスバス
、他の通信バス、および/または電力バスを含む、種々の形態を成してもよい。
【0082】
頭部の動きを予測する能力は、拡張現実システム等の仮想画像生成システム3800(
図38)が、画像の提示を時迅に更新すること、および/または頭部の動きに適応するか
、あるいはそれを補うことを可能にする。例えば、後続フレームは、感知された頭部の動
きが採用された場合のみ可能であるよりも早く、レンダリングされるか、または読み出さ
れてもよい。本明細書の議論から明白となるように、適応または補償は、種々の形態を成
してもよい。例えば、後続フレームは、偏移した視野、またはエンドユーザの注目あるい
は焦点の領域に向かって、またはそこに偏移させられる中心を伴って、レンダリングされ
るか、または読み出されてもよい。また、例えば、後続フレームは、頭部の動きに起因す
る変動に適応するか、またはそれを補うように、レンダリングされるか、または読み出さ
れてもよい。例えば、ある表示または投影技術(例えば、ラスタ走査、渦巻状走査、リサ
ジュー操作等のピクセルが連続的に表示される「フライングピクセル」技術)では、フレ
ームがエンドユーザに提示されると、急速な頭部の動きがピクセル間の間隔の変化を引き
起こし得る。適応または補償は、このピクセル間隔の変動に適応すること、またはそれを
補うことを含んでもよい。例えば、いくつかのピクセルのサイズまたは感知されたサイズ
は、他のピクセルに対して調整されてもよい。また、例えば、いくつかのピクセルの強度
または感知された輝度は、他のピクセルに対して調整されてもよい。さらなる実施例とし
て、後続フレームは、結果として生じる画像の異なる部分の間の可変解像度で、レンダリ
ングされるか、または読み出されてもよい。他の適応または補償技法が、本議論から明白
となるであろう。他の側面では、これらの同一の技法の多くは、適応または補償以外の目
的で採用されてもよく、予測頭部追跡、感知された頭部追跡とは無関係に、および/また
は「フライングピクセル」ベースではない表示または投影技術とともに採用されてもよい
。
【0083】
エンドユーザの動き、例えば、頭部の動きは、画像に大幅な影響を及ぼし得る。拡張現
実システムが、フレーム、後に、頭部の動きと一致するフレームをレンダリングしようと
すると、仮想オブジェクトの結果として生じる画像が圧縮され、拡張され、または別様に
歪曲され得る。これは、少なくとも部分的に、多くの表示または提示技術(すなわち、「
フライングピクセル」技術)について、任意の所与のフレームの完全画像が同時に提示ま
たは表示されないが、むしろピクセルごとに提示または表示されるという事実の結果であ
る。したがって、これらの表示または提示技術のための真の瞬間視野がない。そのような
ものは、多くの異なる種類の画像生成技術、例えば、ラスタ走査、渦巻状走査、またはリ
サジュー走査アプローチにわたって、異なる形態で生じ得る。1つまたはそれを上回る「
白色」または空白フレームまたは画像が、急速な頭部の動きの効果のうちのいくつかを軽
減し得る。
【0084】
例えば、
図36Aは、エンドユーザの頭部の急速な側方移動中に生成されるラスタ走査
3600aの例示的な歪曲を示す。頭部運動が開始後に加速し、終了に先立って減速し得
るため、歪曲は、非線形である可能性が高い。歪曲は、頭部の動きの方向、速度、および
加速、ならびにラスタ走査ピクセル生成の方向(例えば、右から左、上から下)の関数で
ある。
【0085】
また、例えば、
図36Bは、エンドユーザの頭部の垂直上方移動中に生成されるラスタ
走査3600の例示的な歪曲を示す。頭部運動が開始後に加速し、終了に先立って減速し
得るため、歪曲は、非線形である可能性が高い。歪曲は、頭部の動きの方向、速度、およ
び加速、ならびにラスタ走査ピクセル生成の方向(例えば、右から左、上から下)の関数
である。
【0086】
さらに別の実施例として、
図37Aは、左へのエンドユーザの頭部の急速な側方移動中
に生成される渦巻状走査線3700aの例示的な歪曲を示す。頭部運動が開始後に加速し
、終了に先立って減速し得るため、歪曲は、非線形である可能性が高い。歪曲は、頭部の
動きの方向、速度、および加速、ならびに渦巻状走査ピクセル生成の方向(例えば、時計
回り、半径を増加させる)の関数である。図示されるように、渦巻状走査線3700aの
連続ループまたはコイルの間の間隔は、頭部の動きの方向で(例えば、図面では左に)増
加し、正反対の方向で(例えば、図面では右に)減少する。
【0087】
その上さらなる実施例として、
図37Bは、左へのエンドユーザの頭部の非常に急速な
側方移動中に生成される渦巻状走査線3700bの例示的な歪曲を示す。頭部運動が開始
後に加速し、終了に先立って減速し得るため、歪曲は、非線形である可能性が高い。実際
、歪曲は、
図37Bで図示されるように、高度に楕円形かつ偏心している。歪曲は、頭部
の動きの方向、速度、および加速、ならびに渦巻状走査ピクセル生成の方向(例えば、時
計回り、半径を増加させる)の関数である。図示されるように、渦巻状走査線3700b
の連続ループまたはコイルの間の間隔は、頭部の動きの方向で(例えば、図面では左に)
増加する。頭部の動きが本システムにとって急速すぎる場合、各ループまたはコイルの最
左部分は、
図37Bで図示されるように、渦巻状走査線3700bの始点に対して頭部の
動きと同一の方向に位置してもよい。
【0088】
渦巻状走査パターンを採用することの1つの利点は、画像バッファにアドレス指定する
変換が、移動方向(例えば、頭部の動き、ハンドヘルドピコプロジェクタのための手の動
き)から独立していることである。
【0089】
上記のシステムは、以下で説明される全ての実施形態で使用される。一実施形態では、
本システムは、ユーザの焦点の偏移を予測することに基づく、予測頭部追跡に使用されて
もよい。
図1は、1つの図示した実施形態による、予測頭部追跡を採用する拡張現実シス
テムにおける動作方法100を示す。
【0090】
102では、拡張現実システム(例えば、そのコントローラサブシステムおよび/また
はプロセッサ)が、複数のフレームを画像として拡張現実システムのエンドユーザに提示
する。フレームは、典型的には、視野内で1つまたはそれを上回る仮想オブジェクトを生
成するための情報を特定する、ピクセル情報を含むであろう。前述のように、仮想オブジ
ェクトは、物理的オブジェクトを視覚的に表し得るか、または情報、データ、あるいは論
理構築を表し得る、多種多様の仮想オブジェクト形態または形式のうちのいずれかを成し
てもよい。仮想オブジェクトの非限定的実施例は、仮想テキストオブジェクト、仮想数値
オブジェクト、仮想英数字オブジェクト、仮想タグオブジェクト、仮想フィールドオブジ
ェクト、仮想チャートオブジェクト、仮想マップオブジェクト、仮想計装オブジェクト、
または物理的オブジェクトの仮想視覚表現を含んでもよい。
【0091】
104では、拡張現実システムが、少なくともエンドユーザの注目を示す入力に基づい
て、1つまたはそれを上回る仮想オブジェクトを選択する。
【0092】
入力は、エンドユーザによる実際の選択であってもよい。選択は、エンドユーザによっ
てリアルタイムで行われてもよく、または以前に指定されていてもよい。したがって、エ
ンドユーザは、エンドユーザが、典型的には、他のオブジェクトよりも集中または注目す
る、ある種類の仮想オブジェクトであるものとして、ある仮想器具のセットを選択しても
よい。
【0093】
入力は、種々のソースから推測されてもよい。入力は、仮想オブジェクト自体に関係付
けられてもよい。入力は、加えて、または代替として、エンドユーザの視野内、またはデ
ィスプレイあるいはプロジェクタの視野内の物理的オブジェクトに関係付けられてもよい
。入力は、加えて、または代替として、エンドユーザ自体、例えば、エンドユーザおよび
/またはエンドユーザの一部分(例えば、頭部、眼)の位置および/または配向、あるい
は履歴属性に関係付けられてもよい。履歴属性は、エンドユーザ特有であり得、またはよ
り一般化されてもよく、あるいは一般的であり得る。履歴属性は、定義されたエンドユー
ザ特性のセットを示してもよい。エンドユーザ特性は、例えば、頭部の動きの速度、頭部
の動きの加速、および/または頭部の動きと眼の動きとの間の関係(例えば、相互に対す
る比率)を含んでもよい。履歴属性によって追跡されるエンドユーザ特性は、ある仮想オ
ブジェクトに注目する所与のエンドユーザの傾向の指標さえも含んでもよい。そのような
ものは、仮想オブジェクトの種類(例えば、テキスト、チャート)、仮想オブジェクトの
最近性(例えば、新たに出現するオブジェクト)、仮想オブジェクトの移動(例えば、画
像から画像への大きな偏移、高速または急速移動、移動の方向)、および/または仮想オ
ブジェクトの特性(例えば、色、輝度、サイズ)によって特定されてもよい。
【0094】
106では、エンドユーザに提示されている複数のフレームのうちの少なくともいくつ
かのそれぞれについて、拡張現実システム(例えば、そのコントローラサブシステムおよ
び/またはプロセッサ)が、エンドユーザ基準フレームに対して、エンドユーザの視野内
の仮想オブジェクトの出現場所を判定する。例えば、拡張現実システムは、新たに導入さ
れた仮想オブジェクトの場所、定義された種類の仮想オブジェクト、急速に、または広い
距離にわたって移動する仮想オブジェクト、あるいは履歴的にエンドユーザのための注目
点になっている仮想オブジェクトを判定してもよい。
【0095】
108では、拡張現実システムが、エンドユーザの視野内の仮想オブジェクトの判定さ
れた出現場所に少なくとも部分的に基づいて、少なくとも1つの後続フレームの提示を調
整する。非包括的適応または補償、ピクセルサイズを調整すること、ピクセル強度を調整
すること、解像度を調整すること、ウィンドウイング、および/または消去あるいは点滅
を含む、視野内の仮想オブジェクトの出現を調整する多数の方法が、本明細書で議論され
る。
【0096】
図2は、1つの図示した実施形態による、拡張現実システムにおける別の動作方法20
0を示す。方法200は、
図1の方法100の行為104および/または106を実行す
る際に採用されてもよい。
【0097】
方法200は、エンドユーザに提示されるか、または提示されるであろう、仮想オブジ
ェクトの特性に基づいて、頭部の動きを予測する技法を採用する。例えば、新たに導入さ
れた仮想オブジェクト、または(例えば、突然、速度、および/または距離による)移動
がおそらくエンドユーザの注目を集めるであろう仮想オブジェクトが、特定の仮想オブジ
ェクトを、エンドユーザの視野の中にもたらすか、または視野に近接させる、頭部の動き
をもたらすと予測する。加えて、または代替として、拡張現実システムは、どれが注目を
集める可能性が最も高いかを査定する際に、仮想オブジェクトの他の特性に依拠し得る。
例えば、極めて魅力的な(例えば、点滅する、光る)、大きい、高速移動する、または明
るい仮想オブジェクトは、他の仮想オブジェクトより注目を集める可能性が高くあり得る
。
【0098】
新たに導入された仮想オブジェクトの場合に焦点を合わせると、拡張現実システム(例
えば、そのコントローラサブシステムおよび/またはプロセッサ)は、#AB02でエン
ドユーザの視野に新たに導入されたときに、仮想オブジェクトの出現場所を選択および/
または判定する。仮想オブジェクトは、エンドユーザに提示された前の(時間的)関連フ
レーム内で出現しないときに、新たに導入されると見なされる。具体的には、拡張現実シ
ステムは、新たに導入された仮想オブジェクトが、直前のフレーム内で出現する仮想オブ
ジェクトに対してエンドユーザの注目を集める可能性が高いという事実に依拠する。加え
て、または代替として、拡張現実システムは、例えば、複数の新たに導入された仮想オブ
ジェクトの間で選択または優先するように、どれが注目を集める可能性が最も高いかを査
定する際に、仮想オブジェクトの他の特性に依拠し得る。例えば、極めて魅力的な(例え
ば、点滅する、光る)、大きい、高速移動する、または明るい仮想オブジェクトは、他の
仮想オブジェクトより注目を集める可能性が高くあり得る。
【0099】
移動仮想オブジェクトの場合に焦点を合わせると、拡張現実システム(例えば、そのコ
ントローラサブシステムおよび/またはプロセッサ)は、204で、少なくとも1つの前
のフレーム内の同一の仮想オブジェクトの位置に対する、フレーム内の新しい位置で仮想
オブジェクトの出現場所を選択および/または判定する。したがって、1つのフレームか
ら1つまたはそれを上回る後続フレームへの仮想オブジェクトの位置の突然の偏移、迅速
な偏移、および/または空間的に大きい偏移は、エンドユーザの注目または集中を集める
可能性が高くあり得る。加えて、または代替として、拡張現実システムは、例えば、複数
の新たに導入された仮想オブジェクトの間で選択または優先するように、どれが注目を集
める可能性が最も高いかを査定する際に、仮想オブジェクトの他の特性に依拠し得る。例
えば、極めて魅力的な(例えば、点滅する、光る)、大きい、または明るい仮想オブジェ
クトは、他の仮想オブジェクトより注目を集める可能性が高くあり得る。
【0100】
図3は、1つの図示した実施形態による、拡張現実システムにおける動作方法300を
示す。方法300は、
図1の方法100の行為108を実行する際に採用されてもよい。
【0101】
302では、拡張現実システム(例えば、そのコントローラサブシステムおよび/また
はプロセッサ)は、少なくとも1つの後続フレームの中心が、エンドユーザの視野内の仮
想オブジェクトの判定された出現場所で中心に置かれていない場合、少なくともそれに向
かって偏移させられた、少なくとも1つの後続フレームを提示する。後続フレームまたは
画像の中心は、エンドユーザの注目を集めると予測される、選択された仮想オブジェクト
の場所と同一場所に位置するように偏移させられてもよい。代替として、後続フレームの
中心は、エンドユーザの注目を集めると予測される、選択された仮想オブジェクトの場所
に近接するように偏移させられてもよい。そのようなものは、2次元または3次元で行わ
れてもよい。例えば、仮想オブジェクトの2次元または3次元位置が、それぞれ、2また
は3次元で後続画像の視野を調整するために使用されてもよい。偏移した後続フレームま
たは画像は、好ましくは、エンドユーザの予測された頭部の動きとタイミングを合わせら
れる。したがって、偏移した後続フレームまたは画像は、実際の頭部の動きと可能な限り
近いタイミングでエンドユーザに提示されるべきである。本明細書で議論されるように、
そのようなものは、速度、加速、速度および加速の変動を構成し得る。
【0102】
図4は、1つの図示した実施形態による、拡張現実システムにおける動作方法400を
示す。方法400は、
図1の方法100を行う際に採用されてもよい。
【0103】
随意に、402では、拡張現実システムが、エンドユーザの身元を示す情報を受信する
。情報は、多種多様の形態のうちのいずれかを成してもよい。例えば、情報は、エンドユ
ーザによって入力される(例えば、タイプされる)か、またはエンドユーザと関連付けら
れるトランスポンダ、磁気ストライプ、または機械可読記号から読み出される、ユーザ名
または他のユーザ識別子であってもよい。例えば、情報は、エンドユーザの1つまたはそ
れを上回る物理的特性を示す、バイオメトリック情報を含んでもよい。1つの特に有利な
実装では、拡張現実システムは、エンドユーザの一方または両方の眼の一部分(例えば、
網膜)を表す、画像データを受信してもよい。例えば、拡張現実システムは、例えば、1
つまたはそれを上回る光ファイバを介して、光をエンドユーザの一方または両方の眼に投
影してもよい。光は、例えば、信号対雑音比を増加させ、および/または眼の加熱を制限
するように、変調されてもよい。画像センサが、例えば、光を投影する1つまたはそれを
上回る光ファイバを介して、眼の一部分の画像を捕捉してもよく、光ファイバは、双方向
経路を提供する。代替として、専用光ファイバが採用されてもよい。さらなる代替案とし
て、画像センサが、眼に近接して位置付けられてもよく、画像センサへの帰還経路として
の光ファイバの使用を排除する。ヒトの眼のある部分(例えば、網膜の血管系)が、一意
的なエンドユーザ識別子としての機能を果たすために十分に独特と見なされてもよい。
【0104】
随意に、404では、拡張現実システムが、エンドユーザの身元を示す受信された情報
に基づいて、エンドユーザの少なくとも1つのユーザ特有の履歴属性を取り出す。ユーザ
特有の履歴属性は、エンドユーザの前の頭部の動きの速度、エンドユーザの前の頭部の動
きの加速、エンドユーザの前の眼の動きと頭部の動きの関係、エンドユーザがある種類の
、またはある特性を伴う仮想オブジェクトに注目する傾向のうちの少なくとも1つを示し
てもよい。
【0105】
406では、拡張現実システム(例えば、そのコントローラサブシステムおよび/また
はプロセッサ)が、エンドユーザの視野内の仮想オブジェクトの判定された出現場所に少
なくとも部分的に基づいて、エンドユーザの頭部の動きの発生を予測する。再度、拡張現
実システムは、例えば、エンドユーザごとに、頭部の動きを予測する際に仮想オブジェク
トの魅力に依拠し得る。
【0106】
拡張現実システムは、画像提示をエンドユーザの予測された頭部の動きと少なくとも部
分的に同期化するように、推定速度および/または速度の推定変化あるいは推定加速を採
用してもよい。予測された頭部の動きにおける速度の推定変化は、予測された頭部の動き
の開始後の第1の定義された時間と、予測された頭部の動きの終了前の第2の定義された
時間との間に延在する、範囲に基づいてもよい。
【0107】
408では、拡張現実システムが、エンドユーザの予測された頭部の動きの推定速度を
示す、少なくとも1つの値を推定する。拡張現実システムは、1つまたはそれを上回る値
、パラメータ、または特性に基づいて、速度を推定してもよい。例えば、拡張現実システ
ムは、選択または識別された仮想オブジェクトを観察するように、エンドユーザの頭部を
新しい位置に動かすために必要とされる可動範囲に依拠し得る。拡張現実システムは、人
間のサンプリングのための平均速度に依拠し得、または特定のエンドユーザの履歴上の頭
部の動きの速度に依拠し得る。拡張現実システムは、特定のエンドユーザの履歴属性に依
拠し得る。速度は、角速度で表されてもよい。
【0108】
410では、拡張現実システムが、予測された頭部の動きの開始と予測された頭部の動
きの終了との間で、頭部の動きの範囲にわたって起こる、エンドユーザの予測された頭部
の動きにおける速度の少なくとも1つの変化を推定する。速度の変化は、予測された可動
範囲のある部分の全体を通して異なる増分で起こり得る。
【0109】
412では、拡張現実システムが、エンドユーザの予測された頭部の動きの推定加速を
示す、少なくとも1つの値を推定する。推定加速は、頭部の動きの範囲全体にわたるか、
またはその一部分のみにわたってもよい。推定加速は、頭部の動きの範囲の離散間隔にわ
たってもよい。仮想の推定値は、頭部の動きの開始後のある定義された持続時間で、1つ
またはそれを上回る間隔について判定されてもよい。加速の推定値は、頭部の動きの終了
前のある定義された持続時間で、1つまたはそれを上回る間隔について判定されてもよい
。始点および/または終点から離間された推定は、加速測定値の大きな変動を回避し得る
。
【0110】
随意に、414では、拡張現実システムが、エンドユーザの予測された頭部の動きの推
定速度に少なくとも部分的に適応するか、またはそれを補う、少なくとも1つの値を判定
する。例えば、拡張現実システムは、所与の時間で提示するフレームの総数に関する値、
および/またはどこでおよび/またはどれだけ迅速に、1つまたはそれを上回る仮想オブ
ジェクトが、レンダリングおよび/または提示される一連の画像内の場面にわたって移動
するべきかを特定する値を判定してもよい。そのようなものは、後続フレームをレンダリ
ングするために使用されてもよい。
【0111】
随意に、416では、拡張現実システムが、エンドユーザの予測された頭部の動きの推
定速度を少なくとも部分的に補う、少なくとも1つの値に少なくとも部分的に基づいて、
少なくとも1つの後続フレームをレンダリングする。例えば、拡張現実システムは、所与
の時間で提示するフレームの総数に関する値、および/またはどこでおよび/またはどれ
だけ迅速に、1つまたはそれを上回る仮想オブジェクトが、レンダリングおよび/または
提示される一連の画像内の場面にわたって移動するべきかを特定する値を判定してもよい
。そのようなものは、後続フレームをレンダリングするために使用されてもよい。
【0112】
別の実施形態では、本システムは、ユーザの履歴属性に基づく予測頭部追跡に使用され
てもよい。
図5は、1つの図示した実施形態による、予測頭部追跡を採用する拡張現実シ
ステムにおける動作方法500を示す。
【0113】
拡張現実システムは、予測頭部追跡を行う際に履歴属性を採用してもよい。履歴属性は
、エンドユーザ特有であり得、またはより一般化されてもよく、あるいは一般的であり得
る。履歴属性は、定義されたエンドユーザ特性のセットを示してもよい。エンドユーザ特
性は、例えば、頭部の動きの速度、頭部の動きの加速、および/または頭部の動きと眼の
動きとの間の関係(例えば、相互に対する比率)を含んでもよい。履歴属性によって追跡
されるエンドユーザ特性は、ある仮想オブジェクトに注目する所与のエンドユーザの傾向
の指標さえも含んでもよい。
【0114】
502では、拡張現実システムが、エンドユーザの身元を示す情報を受信する。情報は
、多種多様の形態のうちのいずれか、例えば、エンドユーザによって積極的に提供され、
非一過性の記憶媒体から読み取られ、ユーザから読み取られ(例えば、バイオメトリック
データまたは特性)、またはエンドユーザアクションから推測される情報を成してもよい
。
【0115】
504では、拡張現実システムが、エンドユーザの身元を示す受信された情報に少なく
とも部分的に基づいて、エンドユーザの少なくとも1つのユーザ特有の履歴属性を取り出
す。身元情報は、多種多様の方法のうちのいずれかで受信、生成、または判定されてもよ
い。
【0116】
506では、拡張現実システムが、エンドユーザの取り出された少なくとも1つのユー
ザ特有の履歴属性に少なくとも部分的に基づいて、フレームをエンドユーザに提供する。
例えば、拡張現実システムは、フレームバッファからプロジェクタまたは表示デバイス(
例えば、1つまたはそれを上回る光ファイバと対合された光源)にフレームを提供しても
よく、またはフレームをフレームバッファにレンダリングしてもよい。拡張現実システム
は、少なくとも2軸で移動可能である少なくとも1つの光ファイバを介して、光を提供し
てもよい。拡張現実システムは、同様にフレームをエンドユーザに提供する、少なくとも
光ファイバを介して、エンドユーザの眼の少なくとも一部分の画像を示す画像情報を受信
してもよい。
【0117】
図6は、1つの図示した実施形態による、予測頭部追跡を採用する拡張現実システムに
おける動作方法600を示す。方法600は、
図5の方法500の行為504を実行する
際に採用されてもよい。
【0118】
602では、拡張現実システムが、エンドユーザの少なくとも1つの頭部の動きの属性
の指標を提供する、少なくとも1つの履歴属性を取り出す。頭部の動きの属性は、エンド
ユーザの少なくとも1つの前の頭部の動きを示す。履歴属性は、非一過性の媒体に、例え
ば、データベースあるいは他の論理構築物に記憶されてもよい。
【0119】
604では、拡張現実システムが、エンドユーザの少なくとも1つの前の頭部の動きの
頭部の動きの速度の指標を提供する、少なくとも1つの履歴属性を取り出す。
【0120】
606では、拡張現実システムが、エンドユーザによる、少なくとも1つの前の頭部の
動きの範囲の少なくとも一部にわたる頭部の動きの速度の変動の指標を提供する、少なく
とも1つの履歴属性を取り出す。
【0121】
608では、拡張現実システムが、エンドユーザによる、少なくとも1つの前の頭部の
動きに対する頭部の動きの加速の指標を提供する、少なくとも1つの履歴属性を取り出す
。
【0122】
610では、拡張現実システムが、エンドユーザによる、少なくとも1つの前の頭部お
よび眼の動きの組み合わせに対する頭部の動きと眼の動きとの間の関係の指標を提供する
、少なくとも1つの履歴属性を取り出す。関係は、例えば、エンドユーザによる、少なく
とも1つの前の頭部の動きを表す頭部の動きの値、および少なくとも1つの前の眼の動き
を表す値の比率として表されてもよい。値は、例えば、角度変化として表される、それぞ
れ、頭部および眼の動きの量を表してもよい。比率は、エンドユーザによる、頭部の動き
の履歴平均および眼の動きの履歴平均の比率であってもよい。加えて、または代替として
、頭部および眼の動きの間の他の関係、例えば、速度または加速が採用されてもよい。
【0123】
図7は、1つの図示した実施形態による、予測頭部追跡を採用する拡張現実システムに
おける動作方法700を示す。方法700は、
図5の方法500の行為506を実行する
際に採用されてもよい。
【0124】
702では、拡張現実システムが、少なくともエンドユーザの頭部の動きの終点を予測
する。例えば、仮想オブジェクトの出現が頭部の動きを予測するために使用される場合、
特定の仮想オブジェクトの相対場所が終点として使用されてもよい。
【0125】
704では、拡張現実システムが、少なくとも1つの後続フレームを少なくとも1つの
画像バッファにレンダリングする。少なくとも1つの後続フレームは、少なくとも頭部の
動きの予測された終点に向かって、または終点までさえも偏移させられる。
【0126】
図8は、1つの図示した実施形態による、予測頭部追跡を採用する拡張現実システムに
おける動作方法800を示す。方法800は、
図7の方法700の行為704を実行する
際に採用されてもよい。
【0127】
802では、拡張現実システムが、エンドユーザの少なくとも1つの頭部の動きの属性
の少なくとも部分的な適応において、少なくとも頭部の動きの予測された終点に向かって
偏移させられる、複数の後続フレームをレンダリングする。頭部の動きの属性は、頭部の
動きの種々の物理的特徴、具体的には、エンドユーザの頭部の動きの履歴上の物理的特徴
を示してもよい。頭部の動きの属性は、例えば、エンドユーザの履歴上の頭部の動きの速
度、エンドユーザの履歴上の頭部の動きの加速、および/またはエンドユーザの頭部の動
きと眼の動きとの間の履歴関係(例えば、比率)のうちの1つまたはそれを上回るものを
含んでもよい。偏移は、対応する画像が偏移させられた、または対応する画像の中心が前
のフレームに対応する画像に対して偏移させられた、後続フレームをレンダリングするこ
とによって実装されてもよい。
【0128】
図9は、1つの図示した実施形態による、予測頭部追跡を採用する拡張現実システムに
おける動作方法900を示す。方法900は、
図7の方法700の行為703を実行する
際に採用されてもよい。
【0129】
902では、拡張現実システムが、エンドユーザの視野内の仮想オブジェクトの出現に
少なくとも部分的に基づいて、エンドユーザの頭部の動きの出現を予測する。
【0130】
出現は、エンドユーザに画像として提示された前のフレームに対する、時間的にエンド
ユーザに提示されるような視野に新たに導入されたときの新しい仮想オブジェクトの出現
であってもよい。代替として、または加えて、出現は、エンドユーザに以前に提示された
ような仮想オブジェクトの位置に対する、エンドユーザに提示されるような視野内の新し
い位置での仮想オブジェクトの出現であってもよい。予測は、例えば、要因を考慮しても
よい。例えば、予測は、仮想オブジェクトのサイズまたは突出性、位置の変化の量または
割合、速度、急加速、または仮想オブジェクトの位置の他の変化に部分的に基づいてもよ
い。
【0131】
本システムはまた、ピクセル特性の動的制御に使用されてもよい。
図10は、1つの図
示した実施形態による、拡張現実システムにおける動作方法1000を示す。
【0132】
1002では、拡張現実システム(例えば、そのコントローラサブシステムおよび/ま
たはプロセッサ)は、フレーム内のいくつかのピクセルの間でエンドユーザに提示される
ような間隔が、同一のフレーム内の他のピクセルの間の間隔とは異なるであろうという指
標を検出する。例えば、拡張現実システムは、フレーム内の第1のピクセルのセットのピ
クセル間でエンドユーザに提示されるような間隔が、フレーム内の少なくとも第2のピク
セルのセットのピクセル間でエンドユーザに提示されるような間隔とは異なるであろうと
いう指標を検出してもよい。例えば、フレームのピクセルがある期間にわたって連続的に
提示される(例えば、フレームバッファから読み出される)(例えば、ラスタ走査パター
ン、渦巻状走査パターン、リサジュー走査パターン等の「フライングピクセル」パターン
)場合、急速な頭部の動きが、画像またはフレームの異なる部分の間のピクセル間隔の変
動を引き起こし得る。
【0133】
フレーム内のいくつかのピクセルの間の間隔が、エンドユーザに提示されるようなフレ
ーム内の他のピクセルの間隔とは異なるであろうという検出に応答して、拡張現実システ
ムは、1004で、エンドユーザによって知覚可能である、第1のセットのピクセルの少
なくとも1つのピクセル特性を少なくとも部分的に補うように調整された、少なくとも第
1のピクセルのセットを、少なくとも1つの後続フレームの少なくとも一部分に提供する
。そのようなものは、エンドユーザに提示されるような画像の異なる部分でのピクセル間
の間隔の差異を少なくとも部分的に補ってもよい。
【0134】
図11は、1つの図示した実施形態による、拡張現実システムにおける動作方法110
0を示す。方法1100は、
図10の方法1000を実行する際に採用されてもよい。
【0135】
随意に、1102では、拡張現実システム(例えば、そのコントローラサブシステムお
よび/またはプロセッサ)が、エンドユーザによって装着された少なくとも1つの頭部装
着型慣性センサの出力を示す信号を受信する。慣性センサは、種々の形態、例えば、ジャ
イロセンサまたは加速センサを成してもよい。慣性センサは、単軸または多軸デバイスで
あってもよい。慣性センサは、MEMSデバイスの形態を成してもよい。
【0136】
随意に、1104では、拡張現実システムが、エンドユーザによって装着された少なく
とも1つの頭部装着型撮像装置の出力を示す信号を受信する。撮像装置は、例えば、デジ
タルカメラまたは他の画像捕捉デバイスの形態を成してもよい。そのようなものは、エン
ドユーザの視野に少なくとも接近する視野を捕捉する前向きのカメラであってもよい。
【0137】
随意に、1106では、拡張現実システムが、頭部の動きの公称値を超える頭部の動き
を検出する。例えば、拡張現実システムは、公称速度および/または公称加速を超える頭
部の動きを検出してもよい。拡張現実システムは、動き、具体的には、加速を検出するた
めに、慣性センサからの信号を採用してもよい。拡張現実システムは、周囲環境内の物理
的オブジェクト、具体的には、壁、床、天井等の固定された物理的オブジェクトの位置の
変化を検出するために、頭部搭載型カメラからの信号を採用してもよい。拡張現実システ
ムは、任意の数の画像処理技法を採用してもよい。検出された位置の変化は、拡張現実シ
ステムが、頭部の位置、動きの速度、および加速の変化を判定することを可能にする。拡
張現実システムは、慣性センサおよび頭部装着型撮像装置の情報に加えて、またはその代
わりに、他の情報を採用してもよい。例えば、拡張現実システムは、周囲環境を監視し、
ユーザによって装着されないが、むしろユーザを追跡する、システムからの信号を採用し
てもよい。そのようなシステムは、周囲環境を監視するために、1つまたはそれを上回る
撮像装置、例えば、デジタルカメラを採用してもよい。撮像装置は、エンドユーザおよび
頭部等のエンドユーザの部分の動きを検出する。再度、種々の画像処理技法が採用されて
もよい。そのようなシステムは、構造化光システムと有利に対合されてもよい。代替とし
て、方法#CB00は、検出された、またはさらに予測された頭部の動きとは無関係に実
行されてもよい。
【0138】
1108では、拡張現実システムが、例えば、検出された頭部の動きの方向に基づいて
、フレームの第1のピクセルのセットを選択する。拡張現実システムは、加えて、他の基
準、例えば、検出された頭部の動きの速度に基づいて、フレームの第1のピクセルのセッ
トを選択してもよい。
【0139】
1110では、拡張現実システムが、少なくとも1つの後続フレームの第1のピクセル
のセットのピクセルのうちの少なくともいくつかのサイズおよび/または強度のうちの少
なくとも1つを調整する。調整は、頭部の動きに起因するフレームまたは画像の望ましく
ない変動に少なくとも適応するか、またはそれを少なくとも部分的に補うように設計され
てもよい。
【0140】
随意に、1112では、拡張現実システムが、少なくとも1つの後続フレームをレンダ
リングする。レンダリングされた後続フレームは、頭部の動きに起因するフレームまたは
画像の望ましくない変動に少なくとも適応するか、またはそれを少なくとも部分的に補う
ように、調整されたピクセル情報を含む。
【0141】
随意に、1114では、拡張現実システムが、1つまたはそれを上回る後続フレームを
記憶する少なくとも1つのフレームバッファから、少なくとも1つの後続フレームを読み
出す。例えば、拡張現実システムは、少なくとも1つのフレームバッファから少なくとも
1つの後続フレームを選択的に読み出してもよい。そのようなものは、フレームが画像領
域または視野のサイズに対してオーバーレンダリングされる、オーバーレンダリングを利
用してもよい。本システムは、特に頭部搭載されたときに、ほとんどの場合、既知の面積
および既知の解像度を有する固定ディスプレイ表面に専念するであろう。これは、信号を
多種多様のサイズおよび解像度のディスプレイに供給することを目的としている、コンピ
ュータまたは他のデバイスとは対照的である。したがって、拡張現実システムは、フレー
ムバッファからフレーム全体を読み込むか、または読み出すよりむしろ、フレームバッフ
ァに選択的に読み込むか、またはそこから読み出す。オーバーレンダリングは、後続画像
を作成して前の画像の外側にあるこれらの部分を示すようにレンダリングされる、新しい
フレームの場合に別様に必要とされ得るほど過剰にGPUを実行することを防止してもよ
い。例えば、オーバーレンダリングがないと、拡張現実システムは、エンドユーザの頭部
が動かされる度に新しいフレームをレンダリングする必要があろう。オーバーレンダリン
グがあると、専用の電子機器のセットが、以前にレンダリングされたフレーム内のウィン
ドウを本質的に移動させて、オーバーレンダリングされたフレームの所望の部分を選択す
るか、または読み出すために採用されてもよい。
【0142】
図12は、1つの図示した実施形態による、拡張現実システムにおける動作方法120
0を示す。方法1200は、
図11の方法1100の行為1108および1110を実行
する際に採用されてもよい。
【0143】
1202では、拡張現実システム(例えば、そのコントローラサブシステムおよび/ま
たはプロセッサ)は、第1のピクセルのセットが検出された頭部の動きの方向に対して所
与の方向(例えば、同一の方向、反対方向)にあるように、フレームの少なくとも第1の
ピクセルのセットを選択する。
【0144】
1202では、拡張現実システムが、少なくとも1つの後続フレームの第1のピクセル
のセットのピクセルのユーザに提示されるような選択されたセットのピクセルのサイズを
調整する。
【0145】
例えば、拡張現実システムは、第1のピクセルのセットが、他のピクセルに対して、検
出された頭部の動きの方向と同一の方向に位置付けられるように、フレームの第1のピク
セルのセットを選択してもよい。例えば、第1のピクセルのセットは、概して、画像内の
右に配向された第2のピクセルのセットに対して、相対的に画像内の左に向かって配向さ
れてもよい。例えば、第1のピクセルのセットは、概して、画像内の底部に配向された第
2のピクセルのセットに対して、相対的に画像内の最上部に向かって配向されてもよい。
拡張現実システムは、第1のセットのピクセルが後続フレーム内のいくつかの他のピクセ
ルに対して増大したサイズを有する、1つまたはそれを上回る後続フレームまたは画像を
提供してもよい。そのようなものは、拡張現実システムがついていけない急速な頭部の動
きに起因し得る、ピクセル間の拡散に少なくとも部分的に適応するか、またはそれを少な
くとも部分的に補うことができる。
【0146】
例えば、拡張現実システムは、第1のピクセルのセットが、他のピクセルに対して、検
出された頭部の動きの方向と反対の方向に位置付けられるように、フレームの第1のピク
セルのセットを選択してもよい。拡張現実システムは、第1のセットのピクセルが後続フ
レーム内のいくつかの他のピクセルに対して減少したサイズを有する、1つまたはそれを
上回る後続フレームまたは画像を提供してもよい。そのようなものは、拡張現実システム
がついていけない急速な頭部の動きに起因し得る、ピクセル間の拡散に少なくとも部分的
に適応するか、またはそれを少なくとも部分的に補うことができる。
【0147】
選択されたセットのピクセルのサイズを調整する(例えば、増大させる、減少させる)
ことは、可変焦点要素を調整することを含んでもよい。選択されたセットのピクセルのサ
イズを調整する(例えば、増大させる、減少させる)ことは、可変サイズ源を調整するこ
とを含んでもよい。選択されたセットのピクセルのサイズを調整する(例えば、増大させ
る、減少させる)ことは、ジッタを調整することを含んでもよい。
【0148】
さらなる実施例として、拡張現実システムは、第1のピクセルのセットが、他のピクセ
ルに対して、検出された頭部の動きの方向と同一の方向に位置付けられるように、フレー
ムの第1のピクセルのセットを選択してもよい。拡張現実システムは、第1のセットのピ
クセルが後続フレーム内のいくつかの他のピクセルに対して増加した強度を有する、1つ
またはそれを上回る後続フレームまたは画像を提供してもよい。そのようなものは、拡張
現実システムがついていけない急速な頭部の動きに起因し得る、ピクセル間の拡散に少な
くとも部分的に適応するか、またはそれを少なくとも部分的に補うことができる。
【0149】
その上さらなる実施例として、拡張現実システムは、第1のピクセルのセットが、検出
された頭部の動きの方向と反対の方向に位置付けられるように、フレームの第1のピクセ
ルのセットを選択してもよい。拡張現実システムは、第1のセットのピクセルが後続フレ
ーム内のいくつかの他のピクセルに対して減少した強度を有する、1つまたはそれを上回
る後続フレームまたは画像を提供してもよい。そのようなものは、拡張現実システムがつ
いていけない急速な頭部の動きに起因し得る、ピクセル間の拡散に少なくとも部分的に適
応するか、またはそれを少なくとも部分的に補うことができる。
【0150】
上記のように、拡張現実システムは、選択されたピクセルのサイズのみ、選択されたピ
クセルの強度のみ、または選択されたピクセルのサイズおよび強度の両方を調整してもよ
い。さらに、拡張現実システムは、いくつかのピクセルの強度、いくつかのピクセルのサ
イズ、その上さらに他のピクセルの強度およびサイズを調整してもよく、および/または
その上さらなるピクセルの強度またはサイズのいずれかを調整しなくてもよい。
【0151】
本システムはまた、以下で例証されるように、フレーム全体ごとより少ない基準で動的
に更新するために使用されてもよい。
図13は、1つの図示した実施形態による、拡張現
実システムにおける動作方法1300を示す。
【0152】
1302では、拡張現実システム(例えば、そのコントローラサブシステムおよび/ま
たはプロセッサ)が、第1の完全フレームを画像バッファにレンダリングする。第1の完
全フレームは、いくつかの仮想オブジェクトの画像を形成するように、ピクセルの連続提
示のためのピクセル情報を備える。第1の完全フレームは、種々の表示技術に好適な種々
の形態を成してもよい。例えば、完全フレームは、2つのフィールドを伴うインターレー
スラスタ走査フレームであり得る、完全ラスタ走査フレームを形成するために好適なピク
セル情報を含んでもよい。インターレースラスタ走査の各フィールドは、複数の線と、奇
数の線を備える第1のフィールドと、偶数の線を備える第2のフィールドとを含んでもよ
い。奇数および偶数の線は、少なくともエンドユーザに表示されるようにインターレース
されてもよい。特に有利な技術は、渦巻状走査線を採用する。渦巻状走査アプローチは、
例えば、単一の渦巻状トレースから成る、1フレームにつき単一のフィールドを採用して
もよい。代替として、渦巻状走査アプローチは、例えば、連続的に提示される、2つまた
はそれを上回る渦巻状トレースから成る、1フレームにつき2つまたはそれを上回るフィ
ールドを採用してもよい。渦巻状トレースは、単純にフレームの各フィールド間に位相偏
移を導入することによって、有利にインターレースまたはネスト化されてもよい。別の技
術は、リサジュー走査アプローチを採用する。リサジュー走査アプローチは、例えば、単
一のリサジュートレースから成る、1フレームにつき単一のフィールドを採用してもよい
。代替として、リサジュー走査アプローチは、連続的に提示される、2つまたはそれを上
回るリサジュートレースから成る、1フレームにつき2つまたはそれを上回るフィールド
を採用してもよい。リサジュートレースは、単純にフレームの各フィールド間に位相偏移
を導入することによって、有利にインターレースまたはネスト化されてもよい。
【0153】
1304では、拡張現実システムが、第1の完全フレームの提示を開始する。そのよう
なものは、例えば、1つまたはそれを上回る光ファイバの光源および端部を駆動するよう
に、フレームバッファから読み出すことを含んでもよい。読み出しは、フレームバッファ
のどの部分を読み出すかを動的に判定することを含んでもよい。
【0154】
随意に、1306では、拡張現実システムが、頭部の動きの公称値を超えるエンドユー
ザの頭部の動きを検出する。そのようなものは、以前に議論されたような種々のアプロー
チのうちのいずれかを採用してもよい。
【0155】
1308では、拡張現実システムが、第1の完全フレーム全体の提示の完了前に、第1
の完全フレームの提示を動的に中断する。具体的には、拡張現実システムは、第1の完全
フレームへの更新の提示を開始する。完全フレームへの更新の中のピクセル情報の少なく
とも一部分は、第1の完全フレームから変化している。例えば、インターレースラスタ走
査ベースのシステムでは、拡張現実システムは、第2のフィールドを更新された第2のフ
ィールドと置換して、第1のフィールドの全体または一部分を提示してもよい。また、例
えば、インターレース渦巻状走査ベースのシステムでは、拡張現実システムは、第2のフ
ィールドを更新された第2のフィールド(例えば、元の第2の渦巻状走査またはトレース
とは異なる、更新された第2の渦巻状走査線またはトレース)と置換して、第1のフィー
ルド(例えば、第1の渦巻状走査線またはトレース)の全体または一部分を提示してもよ
い。同様に、インターレースリサジュー走査ベースのシステムでは、拡張現実システムは
、第2のフィールドを更新された第2のフィールド(例えば、元の第2の渦巻状走査また
はトレースとは異なる、更新された第2のリサジュー走査線またはトレース)と置換して
、第1のフィールド(例えば、第1のリサジュー走査線またはトレース、すなわち、完全
な8の字サイクル)の全体または一部分を提示してもよい。実施例がフィールドに関して
挙げられるが、そのようなものはフィールド全体に限定されない。提示は、フィールドの
提示中に、例えば、第1または第2、あるいはさらに第3のフィールドの提示中に解釈さ
れてもよい。提示は、任意の所与の線(例えば、ラスタ走査の行、渦巻状またはリサジュ
ー走査の完全なサイクル)の提示中に解釈されてもよい。
【0156】
図14は、1つの図示した実施形態による、拡張現実システムにおける動作方法140
0を示す。方法1400は、
図13の方法1300を実行する際に採用されてもよい。
【0157】
1402では、拡張現実システム(例えば、そのコントローラサブシステムおよび/ま
たはプロセッサ)が、更新された第1の完全フレームをレンダリングする。更新された第
1の完全フレームは、第1の完全フレームのピクセル情報とは少なくとも1つの点で異な
る、ピクセル情報を含む。
【0158】
更新された第1の完全フレームをレンダリングすることは、第1のフィールド、および
少なくとも第2のフィールドを伴って、更新された完全フレームをレンダリングすること
を含んでもよい。第2のフィールドは、典型的には、第1のフィールドの提示に続いて連
続的に提示することによって、第1のフィールドとインターレースされてもよい。例えば
、第1のフィールドが、ラスタ走査では偶数の線から成ってもよい一方で、第2のフィー
ルドは、奇数の線から成る。また、例えば、第1のフィールドが、第1の渦巻状走査線ま
たは第1のリサジュー走査線から成ってもよい一方で、第2のフィールドは、第2の渦巻
状走査線または第2のリサジュー走査線から成ってもよい。したがって、更新された第1
の完全フレームをレンダリングすることは、第1のフィールド、および少なくとも第2の
フィールドを伴って、更新された完全フレームをレンダリングすることを含んでもよく、
第2のフィールドは、少なくとも第1のフィールドとインターレースされる。
【0159】
1404では、拡張現実システムが、第1の完全フレームの対応部分の代わりに、更新
された第1の完全フレームの一部分を提示する。したがって、更新されたフレームの一部
分は、元の更新されていない第1の完全フレームの中断に続く、第1の完全フレームの全
体または一部分の代用である。
【0160】
例えば、拡張現実システムは、元の(すなわち、更新されていない)第1の完全フレー
ムの第2のフィールドの代わりに、更新された第1の完全フレームの第2のフィールドを
提示してもよい。また、例えば、拡張現実システムは、第1の元の(すなわち、更新され
ていない)第1の完全フレームの第1のフィールドの対応する部分および第2のフィール
ド全体の代わりに、更新された第1の完全フレームの第2のフィールドとともに、第1の
フィールドの第2の部分を提示してもよい。
【0161】
また、例えば、拡張現実システムは、第1の完全フレームの対応フィールドの対応部分
の代わりに、更新された第1の完全フレームのフィールドの一部分(例えば、線、線の一
部、ピクセルのセット、ピクセル)を提示してもよい。例えば、拡張現実システムは、ラ
スタ走査フレームの元の(すなわち、更新されていない)第1の完全フレームの対応フィ
ールドの対応部分の代わりに、ラスタ走査フレームの更新された第1の完全フレームのフ
ィールドの一部分を提示してもよい。
【0162】
別の実施例として、拡張現実システムは、元の(すなわち、更新されていない)第1の
完全フレームの代わりに、更新された第1の完全フレームの線を提示してもよい。さらに
別の実施例として、拡張現実システムは、元の(すなわち、更新されていない)第1の完
全フレームの対応渦巻線の代わりに、更新された第1の完全フレームの渦巻線を提示して
もよい。さらなる実施例として、拡張現実システムは、元の(すなわち、更新されていな
い)第1の完全フレームの対応線の対応部分の代わりに、更新された第1の完全フレーム
の線の一部分を提示してもよい。その上さらなる実施例として、拡張現実システムは、元
の(すなわち、更新されていない)第1の完全フレームの対応する少なくとも1つのピク
セルの代わりに、更新された第1の完全フレームの少なくとも1つのピクセルを提示して
もよい。依然として付加的な実施例として、拡張現実システムは、元の(すなわち、更新
されていない)第1の完全フレームのリサジューパターン走査の対応する1つの全サイク
ルの代わりに、更新された第1の完全フレームのリサジューパターン走査の1つの全サイ
クルを提示してもよい。
【0163】
図15は、1つの図示した実施形態による、拡張現実システムにおける動作方法150
0を示す。方法1500は、
図13の方法1300を実行する際に採用されてもよい。
【0164】
1502では、拡張現実システム(例えば、そのコントローラサブシステムおよび/ま
たはプロセッサ)が、第1の完全フレームをフレームバッファにレンダリングする。第1
の完全フレームは、例えば、第1のフィールドと、少なくとも第2のフィールドとを含ん
でもよい。第1のフィールドは、例えば、少なくとも第1の渦巻状走査線のピクセル情報
を含んでもよく、第2のフィールドは、少なくとも第2の渦巻状走査線のピクセル情報を
含んでもよい。第2のフィールドの走査線は、第1のフィールドの走査線とインターレー
スされてもよい。第1のフィールドは、例えば、少なくとも第1のリサジュー走査線のピ
クセル情報を含んでもよく、第2のフィールドは、少なくとも第2のリサジュー走査線の
ピクセル情報を含んでもよい。第2のフィールドの走査線は、第1のフィールドの走査線
とインターレースされてもよい。渦巻状およびリサジュー走査パターンの両方のための走
査線のインターレースは、位相偏移を伴って効率的に達成されてもよい。フィールドまた
は走査線の数は、2より多く、例えば、3、4、8、16、またはそれを上回り得る。
【0165】
1504では、拡張現実システムが、第1の完全フレームを記憶するフレームバッファ
から読み出し始める。拡張現実システムは、画像バッファからのフレームで特定されるピ
クセルデータに基づいて画像を生成するように、光源およびヨーク、または他のデバイス
あるいは構造を駆動してもよい。
【0166】
1506では、拡張現実システムが、更新された第1の完全フレームをフレームバッフ
ァにレンダリングする。更新された第1の完全フレームは、その一部分が元の(すなわち
、更新されていない)第1の完全フレームによって特定される情報から変化している、フ
レームを特定するピクセル情報を含む。
【0167】
1508では、拡張現実システムが、フレームバッファからの第1の完全フレームの読
み出しの完了前に、更新された第1の完全フレームを読み出し始め、それによって、元の
(すなわち、更新されていない)第1の完全フレームの提示を中断する。いくつかの実装
は、2つまたはそれを上回るフレームバッファを有することを利用してもよく、フレーム
が他方のフレームバッファから読み出されている間に、一方のフレームバッファへのレン
ダリングを可能にする。そのようなものは、1つ、2つ、3つ、またはさらに多くのフレ
ームバッファを採用し得る、拡張現実システムの種々の実装で限定的と見なされるべきで
はない。
【0168】
図16は、1つの図示した実施形態による、拡張現実システムにおける動作方法160
0を示す。方法1600は、
図13の方法1300を実行する際に採用されてもよい。
【0169】
1602では、拡張現実システム(例えば、そのコントローラサブシステムおよび/ま
たはプロセッサ)が、第1の走査線(例えば、渦巻状、リサジュー)のピクセル情報を生
成する。
【0170】
随意に、1604では、拡張現実システムが、第1の走査線(例えば、渦巻状、リサジ
ュー)に対して位相偏移させられる、第2の走査線(例えば、渦巻状、リサジュー)のピ
クセル情報を生成する。位相偏移は、第2の走査線を渦巻状およびリサジュー走査線のた
めの第1の走査線と有利にインターフェース接続またはネスト化する。
【0171】
随意に、1606では、拡張現実システムが、第2の走査線(例えば、渦巻状、リサジ
ュー)に対して位相偏移させられる、第3の走査線(例えば、渦巻状、リサジュー)のピ
クセル情報を生成する。位相偏移は、第3の走査線を渦巻状およびリサジュー走査線のた
めの第1および第2の走査線と有利にインターフェース接続またはネスト化する。
【0172】
随意に、1608では、拡張現実システムが、第3の走査線(例えば、渦巻状、リサジ
ュー)に対して位相偏移させられる、第4の走査線(例えば、渦巻状、リサジュー)のピ
クセル情報を生成する。位相偏移は、第4の走査線を渦巻状およびリサジュー走査線のた
めの第1、第2、および第3の走査線と有利にインターフェース接続またはネスト化する
。
【0173】
図17は、1つの図示した実施形態による、拡張現実システムにおける動作方法170
0を示す。
【0174】
1702では、複数のフレームのそれぞれについて、拡張現実システム(例えば、その
コントローラサブシステムおよび/またはプロセッサ)が、それぞれのフレームの少なく
とも2つの部分に対するそれぞれの解像度を判定する。部分は、フィールド、ライン、他
の再分割、またはさらに個々のピクセルであってもよい。
【0175】
1704では、拡張現実システムが、複数のフレームに基づいて仮想オブジェクトの画
像の提示を引き起こし、画像のうちの少なくともいくつかは、エンドユーザに提示される
ような画像内で可変解像度を有する。例えば、隣接ピクセル間の間隔は、部分によって異
なり得る。
【0176】
図18は、1つの図示した実施形態による、拡張現実システムにおける動作方法180
0を示す。方法1800は、
図17の方法1700を実行する際に採用されてもよい。
【0177】
1802では、拡張現実システム(例えば、そのコントローラサブシステムおよび/ま
たはプロセッサ)が、渦巻状走査パターンのためのそれぞれのピクセルデータとしてフレ
ームをレンダリングする。
【0178】
1804では、拡張現実システムが、フレームのうちの第1のフレームの第1の部分を
提示すること、およびフレームのうちの第1のフレームの第2の部分を提示することの時
間の間で、駆動信号の振幅を調整する。この振幅の変化は、フレームのうちの第1のフレ
ームに対応する画像内の可変解像度をもたらす。拡張現実システムは、例えば、駆動信号
の傾斜または勾配を変動させ得る。そのようなものは、渦巻状走査パターンとともに使用
される場合に特に有用である。例えば、フレームの第1のフィールドは、第2のフィール
ドが異なる傾斜または勾配を有する、1つの傾斜または勾配を有してもよく、それによっ
て、単一のフレームで有効解像度を変化させる。より高い解像度またはピクセル密度が、
エンドユーザ関心または誘引の場所で、またはそれに近接して使用されてもよい一方で、
より低い解像度またはピクセル密度は、そのような場所から離れて使用されてもよい。中
心または画像がエンドユーザの誘引または集中の中心に向かって偏移させられる場合、高
い解像度が、画像の中心の周囲で出現してもよい一方で、周辺部分は、より低い解像度で
出現してもよい。そのようなものは、操縦可能なピクセルを伴って、陥凹型ディスプレイ
と表すことができるものを本質的に実装する。
【0179】
図19は、1つの図示した実施形態による、拡張現実システムにおける動作方法190
0を示す。方法1800は、
図17の方法1700を実行することと併せて、またはその
一環として採用されてもよい。
【0180】
1902では、拡張現実システム(例えば、そのコントローラサブシステムおよび/ま
たはプロセッサ)が、エンドユーザのための少なくとも第1の画像内の注目点を査定する
。拡張現実システムは、そのようなものを査定するための前述の技法のうちのいずれかを
使用してもよい。例えば、新しい仮想オブジェクトが出現するであろうかどうか、および
出現するであろう場所、または仮想オブジェクトがエンドユーザの視野内まで移動するで
あろうかどうかを判定してもよい。また、例えば、拡張現実システムは、仮想オブジェク
トの相対的魅力(例えば、速度、色、サイズ、輝度、光ること)を査定してもよい。その
ようなものは、エンドユーザの眼が追跡しているか、または焦点を合わせている視野内の
場所を示す、眼の追跡情報を採用してもよい。
【0181】
眼の追跡情報は、例えば、1つまたはそれを上回る頭部装着型変換器、例えば、頭部装
着型カメラを介して、供給されてもよい。そのような眼の追跡情報は、例えば、エンドユ
ーザの眼で光を投影し、その投影された光の少なくとも一部の帰還または反射を検出する
ことによって、識別されてもよい。例えば、画像を作成または投影する投影サブシステム
は、エンドユーザの角膜を外れて閃光を生成するように、少なくとも1つの光ファイバか
ら光のピクセル、ドット、または他の要素を投影してもよい。眼の追跡は、1つ、2つ、
3つ、またはさらに多くの光のスポットまたはドットを採用してもよい。光のスポットま
たはドットが多いほど、より多くの情報が識別されてもよい。光源(例えば、レーザダイ
オード)は、例えば、カメラまたは画像センサのフレームレートと同期して、パルス化ま
たは変調されてもよい。そのような場合において、スポットまたはドットは、眼が動くと
線のように見えてもよい。線がセンサを横断して進む際の線の方向は、眼の動きの方向を
示してもよい。線の配向(例えば、垂直、水平、直交)は、眼の動きの配向を示す。線の
長さは、眼の動きの速度を示す。
【0182】
眼の追跡のために、光は、信号対雑音比を増加させるように変調(例えば、時間的に、
強度)されてもよい。加えて、または代替として、光は、特定の波長(例えば、近赤外線
)であってもよく、そのようなものが、背景光またはさらにエンドユーザが見ている画像
を形成する光と区別されることを可能にする。光は、拡張現実システムが眼に提供してい
るエネルギー(例えば、熱)の総量を低減させるように変調されてもよい。閃光は、同一
または別の光ファイバを介してセンサに返されてもよい。センサは、例えば、2次元画像
センサ、例えば、CCDセンサまたはCMOSセンサの形態を成してもよい。
【0183】
したがって、拡張現実システムは、エンドユーザの注目または集中の点または場所の指
標を提供する、眼の相対的な動きを検出して追跡してもよい。拡張現実システムは、仮想
オブジェクトまたは仮想事象(例えば、仮想オブジェクトの出現または移動)を、エンド
ユーザの注目または集中の識別された点または場所と論理的に関連付けてもよい。例えば
、拡張現実システムは、エンドユーザにとって魅力的な仮想オブジェクトとして、エンド
ユーザの注目または集中の点または場所で、または少なくともそれに近接して出現する、
仮想オブジェクトを指定してもよい。
【0184】
1904では、拡張現実システムが、少なくとも1つの後続画像の少なくとも1つの部
分の中で解像度を調整する(例えば、増加させる、減少させる)。拡張現実システムは、
同一の後続ページの他の部分に対して後続ページの一部分の解像度を調整するように、本
明細書で説明される種々の技法のうちのいずれか、ならびに他の技法を採用してもよい。
【0185】
図20は、1つの図示した実施形態による、拡張現実システムにおける動作方法200
0を示す。方法2000は、
図19の方法1900の行為1904を実行する際に採用さ
れてもよい。
【0186】
2002では、拡張現実システム(例えば、そのコントローラサブシステムおよび/ま
たはプロセッサ)が、少なくとも1つの後続画像の他の部分に対して、査定された注目点
に少なくとも近接する少なくとも1つの後続画像の一部分内で解像度を増加させる。前述
のように、解像度は、駆動信号の規模または振幅(例えば、電流、電圧)を制御すること
によって、渦巻状走査パターンのために調整されてもよい。解像度は、駆動信号の傾斜を
調整することによって調整されてもよい。したがって、解像度が、駆動信号の振幅を増加
させることによって増加させられてもよい一方で、位相は、不変のままにされる。
【0187】
2004では、拡張現実システムが、少なくとも1つの後続画像の他の部分に対して、
査定された注目点より遠位にある少なくとも1つの後続画像の一部分内の解像度を減少さ
せる。解像度が、駆動信号の振幅を減少させることによって減少させられてもよい一方で
、位相は、不変のままにされる。
【0188】
いくつかの実装では、解像度が増加させられるのみであり、いくつかの部分で増加する
一方で、他の部分では増加も減少しない。他の実装では、解像度が減少させられるのみで
あり、いくつかの部分で減少する一方で、他の部分では増加も減少しない。その上なおも
他の実装では、解像度は、いくつかの部分で増加させられる一方で、他の部分で減少させ
られる。
【0189】
図21は、1つの図示した実施形態による、拡張現実システムにおける動作方法210
0を示す。方法2100は、
図17の方法1700と併せて採用されてもよい。
【0190】
2102では、拡張現実システム(例えば、そのコントローラサブシステムおよび/ま
たはプロセッサ)が、眼の追跡データを処理する。眼の追跡データは、エンドユーザの少
なくとも一方の眼の少なくとも配向を示してもよい。眼の追跡データは、少なくとも1つ
の変換器を介して供給されてもよい。例えば、眼の追跡データは、頭部装着型変換器を介
して供給されてもよい。いくつかの実装では、眼の追跡データは、その遠位端に、または
それに近接して位置付けられた変換器を用いて、光ファイバを介して収集される。例えば
、光ファイバは、閃光であり得る、エンドユーザの眼の一部分から反射される光を収集し
てもよい。光ファイバは、エンドユーザに表示または投影するための画像を作成するため
に使用されるものと同一の光ファイバであってもよい。
【0191】
2104では、拡張現実システムは、頭部追跡データを処理する。頭部追跡データは、
少なくともエンドユーザの頭部の配向を示す。頭部追跡データは、少なくとも1つの変換
器を介して供給されてもよい。
【0192】
例えば、慣性センサ(例えば、ジャイロセンサ、加速度計)等の1つまたはそれを上回
る頭部装着型または搭載型変換器である。頭部の動きの追跡は、1つまたはそれを上回る
頭部装着型または頭部搭載型光源、および少なくとも1つのセンサを使用して、実装され
てもよい。頭部追跡は、1つ、2つ、3つ、またはさらに多くの光のスポットまたはドッ
トを採用してもよい。光のスポットまたはドットが多いほど、より多くの情報が識別され
てもよい。光源(例えば、レーザダイオード)は、例えば、カメラまたは画像センサ(例
えば、前向きのカメラ)のフレームレートと同期して、パルス化または変調されてもよい
。レーザ源は、カメラまたは画像センサのフレームレートより低い周波数で変調されても
よい。そのような場合において、スポットまたはドットは、頭部が動くと線のように見え
てもよい。線がセンサを横断して進む際の線の方向は、頭部の動きの方向を示してもよい
。線の配向(例えば、垂直、水平、直交)は、頭部の動きの配向を示す。線の長さは、頭
部の動きの速度を示す。反射光はまた、距離および/または幾何学形状(例えば、平面、
曲面)および/または配向(例えば、傾斜または垂直)等の周囲環境内のオブジェクトに
関する情報を提供してもよい。例えば、1つのレーザビームは、方向および速度に関する
情報(例えば、突進または線の長さ)を生成してもよい。第2のレーザビームは、深度ま
たは距離に関する情報(例えば、Z軸)を追加してもよい。第3のレーザビームは、周囲
環境内の表面の幾何学形状および/または配向についての情報を追加してもよい。レーザ
または他の光源は、頭部の動きの間に、または頭部の動きの一部の間にパルス化されても
よい。
【0193】
加えて、または代替として、頭部追跡データは、頭部装着型ではない変換器を介して供
給されてもよい。例えば、カメラまたは撮像装置システムは、その動きを追跡して、エン
ドユーザの頭部を含む、エンドユーザを撮像してもよい。そのようなものは、例えば、あ
る外部基準フレーム、例えば、追跡システムによって画定される基準フレーム、または追
跡システムが位置する部屋に対して、動きを追跡してもよい。
【0194】
2106では、拡張現実システムが、エンドユーザ基準フレームに対してエンドユーザ
の視野内の仮想オブジェクトの出現場所を判定する。出現は、エンドユーザの視野に新た
に導入されたときの新しい仮想オブジェクトの出現であってもよい。出現は、少なくとも
1つの前の画像内の仮想オブジェクトの位置に対する、画像内の新しい位置での仮想オブ
ジェクトの出現であってもよい。拡張現実システムは、仮想オブジェクトの出現場所を判
定するように、本明細書の他の場所で説明される多数の技法のうちのいずれかを採用して
もよい。
【0195】
本システムはまた、エンドユーザ知覚を向上させるためにブランキングを使用してもよ
い。
【0196】
図22は、1つの図示した実施形態による、拡張現実システムにおける動作方法220
0を示す。方法2200は、エンドユーザ知覚体験を向上させるためにブランキングを効
果的に採用する。
【0197】
2202では、拡張現実システム(例えば、そのコントローラサブシステムおよび/ま
たはプロセッサ)が、少なくとも1つの仮想オブジェクトをエンドユーザに表示する。拡
張現実システムは、フレームをフレームバッファにレンダリングし、1つまたはそれを上
回る光源および/またはヨークあるいは他のシステムを駆動して、光の少なくとも2軸移
動または追跡を生じるように、フレームを読み出してもよい。
【0198】
2204では、拡張現実システムが、エンドユーザの頭部の動きの発生を検出および/
または予測する。拡張現実システムは、頭部の動きの発生を検出および/または予測する
ために、本明細書の他の場所で説明される多数の技法のうちのいずれかを採用してもよい
。限定ではないが、これらの技法は、例えば、慣性変換器またはセンサを介して、あるい
はエンドユーザが存在して可視的である領域を撮像する、頭部装着型撮像装置または環境
撮像装置からの画像を介して、頭部の動きを直接感知することを含む。これらの技法はま
た、例えば、新しい仮想オブジェクトが出現するであろう場所、既存の仮想オブジェクト
が移動するであろう場所、または特に魅力的な仮想オブジェクトが画像内に位置付けられ
る場所を判定することによって、頭部の動きを間接的に予測することも含む。
【0199】
2206では、拡張現実システムは、検出および/または予測された頭部の動きが頭部
の動きの公称値を超えるか、または超えると予測されるかどうかを査定する。拡張現実シ
ステムは、検出および/または予測された頭部の動きが頭部の動きの公称値を超えるか、
または超えると予測されるかどうかを査定するために、本明細書の他の場所で説明される
多数の技法のうちのいずれかを採用してもよい。そのようなものは、公称速度との検出ま
たは予測された速度の単純な比較を含んでもよい。そのようなものは、公称加速との検出
または予測された加速の単純な比較を含んでもよい。そのようなものは、公称範囲との検
出または予測された範囲の単純な比較を含んでもよい。そのようなものは、移動中の複数
の時間にわたる速度、加速、または範囲の平均または積分を含む、より複雑な比較を含ん
でもよい。そのようなものは、履歴属性または他の情報さえも採用してもよい。
【0200】
2208では、拡張現実システムが、エンドユーザへの少なくとも1つの仮想オブジェ
クトの表示の一部分を一時的に消去する。例えば、拡張現実システムは、フレームバッフ
ァから読み取ることをやめてもよい。加えて、または代替として、拡張現実システムは、
照明または光源をオフにしてもよい。そのようなものは、LCDディスプレイのバックラ
イトを一時的にオフにすることを含んでもよい。
【0201】
図23は、1つの図示した実施形態による、拡張現実システムにおける動作方法230
0を示す。方法2300は、
図22の方法2200を行う際に採用されてもよい。
【0202】
2302では、拡張現実システム(例えば、そのコントローラサブシステムおよび/ま
たはプロセッサ)が、頭部追跡データを処理する。頭部追跡データは、少なくともエンド
ユーザの頭部の配向を示す。頭部追跡データは、エンドユーザによって頭部に装着される
場合もあり、されない場合もある、少なくとも1つの変換器を介して供給されてもよい。
拡張現実システムは、頭部追跡データを処理するために、本明細書の他の場所で説明され
る多数の技法のうちのいずれかを採用してもよい。
【0203】
2304では、エンドユーザに提示される画像のうちの少なくともいくつかについて、
拡張現実システム(例えば、そのコントローラサブシステムおよび/またはプロセッサ)
が、エンドユーザ基準フレームに対してエンドユーザの視野内の仮想オブジェクトの出現
場所を判定する。エンドユーザの視野に新たに導入されたときの仮想オブジェクトの出現
場所を判定する。少なくとも1つの前の画像内の仮想オブジェクトの位置に対する、画像
内の新しい位置で仮想オブジェクトの出現場所を判定する。拡張現実システムは、仮想オ
ブジェクトの出現場所を判定するために、本明細書の他の場所で説明される多数の技法の
うちのいずれかを採用してもよい。
【0204】
2306では、拡張現実システムは、仮想オブジェクトの判定された出現が十分魅力的
であるかどうかを査定する。例えば、拡張現実システムは、仮想オブジェクトの相対的な
視覚的魅力(例えば、速度、色、サイズ、輝度、光ること、透明度、特殊な光学効果)を
査定してもよい。また、例えば、拡張現実システムは、相対的な関心の魅力(例えば、新
規性、最近性、以前の注目、エンドユーザによる以前の識別、エンドユーザとの以前の相
互作用)を査定してもよい。
【0205】
2308では、拡張現実システムは、判定された場所が、エンドユーザの頭部の現在の
位置に対して、エンドユーザの頭部を旋回させるようにエンドユーザに要求するかどうか
を査定する。拡張現実システムは、エンドユーザの頭部の現在の位置および/または配向
、ならびに仮想オブジェクトの相対位置および/または配向を採用してもよい。拡張現実
システムは、距離、例えば、エンドユーザの現在の焦点と仮想オブジェクトの位置および
/または配向との間の角度距離を判定してもよい。拡張現実システムは、判定された距離
が眼の動きの範囲内であるかどうか、またはエンドユーザが頭部も旋回させなければなら
ないかどうかを判定してもよい。エンドユーザが頭部を旋回させなければならない場合、
本システムは、エンドユーザがどれだけ頭部を旋回させなければならないかを査定しても
よい。例えば、拡張現実システムは、エンドユーザの眼の動きと頭部の動きとの間の関係
を特定する、情報を採用してもよい。そのようなものは、頭部を旋回させる前に、眼の動
きのみを介して、どの程度エンドユーザが注視を偏移させるであろうかを示してもよい。
顕著なことには、眼の動きと頭部の動きとの間の関係は、種々の異なる方向について、例
えば、a)上から下、b)下から上、c)左から右、d)右から左、e)左下から右上へ
対角線上に、f)右下から左上へ対角線上に、g)左上から右下へ対角線上に、またはh
)右上から左下へ対角線上に、特定されてもよい。
【0206】
2310では、拡張現実システムが、査定に基づいて頭部の動きの発生を予測する。拡
張現実システムは、頭部の動きが起こるであろうかどうか、頭部の動きの方向および/ま
たは配向、および/または頭部の動きの速度あるいは加速を予測する際に、査定からの1
つまたはそれを上回る要因を使用してもよい。拡張現実システムは、エンドユーザ特有で
あるか、またはエンドユーザ群にとってより一般的であるかのいずれかである、履歴デー
タを採用してもよい。拡張現実システムは、頭部の動きの予測の精度を増加させるように
、1つまたはそれを上回る機械学習アルゴリズムを実装してもよい。
【0207】
図24は、1つの図示した実施形態による、拡張現実システムにおける動作方法240
0を示す。方法2400は、
図22の方法2200の行為2208を行う際に採用されて
もよい。
【0208】
2402では、拡張現実システム(例えば、そのコントローラサブシステムおよび/ま
たはプロセッサ)が、ディスプレイまたはディスプレイのバックライトを点滅または閃光
させる。点滅または閃光は、検出された頭部の動きまたは予測された頭部の動きの全体ま
たは一部分にわたって起こる。そのようなものは、有利なことには、仮想オブジェクトの
フレームまたは提示内の矛盾の知覚を効果的に低減させてもよい。そのようなものはまた
、知覚されたフレームレートを効果的に増加させてもよい。
【0209】
図25は、1つの図示した実施形態による、拡張現実システムにおける動作方法250
0を示す。
【0210】
2502では、拡張現実システム(例えば、そのコントローラサブシステムおよび/ま
たはプロセッサ)が、エンドユーザの頭部の動きの発生を検出および/または予測する。
例えば、拡張現実システムは、少なくともエンドユーザの頭部の配向を示す頭部追跡デー
タを処理してもよい。加えて、または代替として、拡張現実システムは、エンドユーザ基
準フレームに対してエンドユーザの視野内の仮想オブジェクトの出現場所を判定し、判定
された場所が、エンドユーザの頭部を旋回させるようにエンドユーザに要求するかどうか
を査定し、査定に基づいて頭部の動きの発生を予測してもよい。拡張現実システムは、頭
部の動きの発生を検出および/または予測するために、本明細書の他の場所で説明される
多数の技法のうちのいずれかを採用してもよい。
【0211】
2504では、拡張現実システムは、検出または予測された頭部の動きが頭部の動きの
公称値を超えるかどうかを判定する。拡張現実システムは、検出または予測された頭部の
動きが頭部の動きの公称値を超えるかどうかを判定するために、本明細書の他の場所で説
明される多数の技法のうちのいずれかを採用してもよい。
【0212】
2506では、検出された、または予測する部の動きが頭部の動きの公称値を超えると
いう判定に応答して、拡張現実システムは、少なくとも1つの自由度でプロジェクタを移
動させるように、アクチュエータを選択的に起動する。プロジェクタを移動させることは
、少なくとも1つの軸に沿って第1の光ファイバを平行移動させることを含んでもよい。
プロジェクタを移動させることは、少なくとも1つの軸の周囲で第1の光ファイバを枢動
させることを含んでもよい。
【0213】
図26は、1つの図示した実施形態による、拡張現実システムにおける動作方法260
0を示す。
【0214】
拡張現実システムは、フレームをオーバーレンダリングし、所与の表示技術の最大領域
および最大解像度のための必要よりはるかに大きいフレームを生成する。例えば、頭部装
着型または搭載型拡張現実システムでは、表示または投影に利用可能な領域は、機器の種
々のパラメータによって設定されてもよい。同様に、拡張現実システムが、複数の明確に
異なる解像度で動作することが可能であり得る一方で、機器は、上限または最大解像度を
設定するであろう。オーバーレンダリングされたフレームは、最大解像度で最大表示領域
を超えるピクセルのセットのピクセル情報を含む。そのようなものは、有利なことには、
拡張現実システムがフレームの部分のみ(例えば、中断されていなければフレームの各フ
ィールドの一部分)を読み出すことを可能にしてもよい。そのようなものは、拡張現実シ
ステムがユーザに提示される画像を偏移させることを可能にしてもよい。
【0215】
2602では、拡張現実システム(例えば、コントローラサブシステムおよび/または
プロセッサ)が、画定された視野のための複数のフレームのそれぞれをオーバーレンダリ
ングする。そのようなものは、最大解像度での最大領域に別様に必要とされるであろう、
より多くのピクセル情報を生成することを必要とする。例えば、フレームの領域は、例え
ば、フレームによって画定される水平、垂直、または直交方向のいずれかで、ピクセル情
報を増加させる、最大領域の割合によって増加させられてもよい。フレームサイズが大き
いほど、拡張現実システムが、ユーザに提示される画像の境界を偏移させるように、さら
なる自由度を有するであろう。
【0216】
2604では、拡張現実システムが、オーバーレンダリングされたフレームを少なくと
も1つのフレームバッファに連続的にバッファリングする。拡張現実システムは、最大解
像度での最大表示サイズに必要とされるフレームサイズより大きい、フレームバッファを
採用してもよい。いくつかの実装は、複数のフレームバッファを採用する。そのようなも
のは、本明細書の他の場所で説明されるように、フレームの提示の中断を促進してもよい
。
【0217】
2606では、拡張現実システムが、提示するそれぞれの画像の一部分を判定する。拡
張現実システムは、種々の要因のうちのいずれかに基づいて一部分を判定してもよい。例
えば、要因は、エンドユーザが注目している、集中している、またはエンドユーザの注目
を別様に集めた、画像または場面内の場所を示してもよい。再度、眼の追跡を含むが、そ
れに限定されない、種々の技法が採用されてもよい。また、例えば、要因は、エンドユー
ザが注目、集中すると予測される、またはエンドユーザの注目を別様に集めるであろう、
画像または場面内の場所を示してもよい。再度、新たに出現する仮想オブジェクト、高速
または急速に移動する仮想オブジェクト、視覚的に魅力的である仮想オブジェクト、以前
に指定された(例えば、エンドユーザによって、またはエンドユーザの相互作用を以前に
追跡することによって指定された)仮想オブジェクト、および/または垂直オブジェクト
の固有の性質に基づいて注目の魅力がある仮想オブジェクトを識別することを含むが、そ
れに限定されない、種々の技法が採用されてもよい。垂直オブジェクトの固有の性質に基
づいて注目の魅力がある仮想オブジェクトは、例えば、一般化エンドユーザまたは特定の
エンドユーザのいずれかにとって懸念または不安のオブジェクトまたはアイテム(例えば
、差し迫った脅威)を視覚的に表す、仮想オブジェクトを含んでもよい。
【0218】
2608では、拡張現実システムが、フレームバッファからオーバーレンダリングされ
たフレームの一部分を選択的に読み出す。一部分は、提示するそれぞれの画像の判定され
た部分に少なくとも部分的に基づく。例えば、読み出される部分は、識別された場所に近
接するか、またはそれと合致あるいは共同整合するように偏移させられる、中心を有して
もよい。識別された場所は、例えば、エンドユーザの注目を集めた前の画像またはフレー
ム内の場所であってもよい。識別された場所は、例えば、エンドユーザの注目を集めるで
あろうと拡張現実システムが予測した、後続フレーム内の場所であってもよい。
【0219】
図27は、1つの図示した実施形態による、拡張現実システムにおける動作方法270
0を示す。方法2700は、
図26の方法2600を行う際に採用されてもよい。例えば
、方法2700は、エンドユーザの注目を集めるであろう、後続フレームまたは画像内の
場所を予測するために使用されてもよい。
【0220】
2702では、フレームのうちの少なくともいくつかについて、拡張現実システム(例
えば、そのコントローラサブシステムおよび/またはプロセッサ)が、エンドユーザ基準
フレームに対してエンドユーザの視野内の仮想オブジェクトの出現場所を判定する。
【0221】
2704では、拡張現実システムが、視野内の仮想オブジェクトの出現場所を判定する
ことに少なくとも部分的に基づいて、フレームバッファから選択的に読み出す。例えば、
読み出される部分は、識別された場所に近接するか、またはそれと合致あるいは共同整合
するように偏移させられる、中心を有してもよい。代替として、読み出される部分の境界
は、2またはさらに3次元で、直接周辺領域内の判定された場所を包含するように偏移さ
せられてもよい。例えば、拡張現実システムは、エンドユーザに提示するために、フレー
ムバッファから読み出されるオーバーレンダリングされたフレーム全体の一部分(例えば
、80%)を選択してもよい。拡張現実システムは、境界が、例えば、エンドユーザに現
在提示されている画像内で、エンドユーザの注目の現在の場所に対して偏移させられるよ
うに、その部分を選択してもよい。拡張現実システムは、現在の場所および予測された場
所が、後に提示される画像内でエンドユーザに提示されるように、境界を設定しながら、
両方の場所の組み合わせに基づいて境界を選択してもよい。
【0222】
図28は、1つの図示した実施形態による、拡張現実システムにおける動作方法280
0を示す。方法2800は、
図26の方法2600を行う際に採用されてもよい。例えば
、方法2800は、エンドユーザの注目を集めた、または集めると予測される、画像内の
場所を判定するために使用されてもよい。
【0223】
2802では、拡張現実システム(例えば、そのコントローラサブシステムおよび/ま
たはプロセッサ)は、新しい仮想がエンドユーザの視野に新たに導入されたときに、新し
い仮想オブジェクトの出現場所を判定する。拡張現実システムは、エンドユーザに提示さ
れる直前の前のフレームまたは画像に対して新しい、仮想オブジェクトの導入を識別する
ために、本明細書で説明される種々の技法のうちのいずれかを採用してもよい。したがっ
て、たとえ仮想オブジェクトが、提示のある他の部分でエンドユーザに以前に提示されて
いたとしても、仮想オブジェクトの再導入にエンドユーザの注目を集めさせるために十分
な数の介在画像が提示されていれば、仮想オブジェクトは、新たに導入されたものとして
識別されてもよい。
【0224】
2804では、拡張現実システムが、少なくとも1つの前のフレーム内の位置に対する
、フレーム内の新しい位置で仮想オブジェクトの出現場所を判定する。拡張現実システム
は、エンドユーザに提示される直前のフレームまたは画像に対して移動させられる、いく
つかの画像内の新しいまたは異なる位置への仮想オブジェクトの移動を識別するために、
本明細書で説明される種々の技法のうちのいずれかを採用してもよい。したがって、たと
え仮想オブジェクトが、提示のある他の部分の中のある場所でエンドユーザに以前に提示
されていたとしても、前の場所における仮想オブジェクトの再出現にエンドユーザの注目
を集めさせるために十分な数の介在画像が提示されていれば、仮想オブジェクトは、移動
させられた、または移動しているものとして識別されてもよい。
【0225】
2806では、拡張現実システムが、エンドユーザの視野内で、少なくとも定義された
最小速度を有する仮想オブジェクトの場所を判定する。拡張現実システムは、画像から画
像への仮想オブジェクトの移動の速度を判定するため、およびその速度を定義または公称
速度と比較するために、本明細書で説明される種々の技法のうちのいずれかを採用しても
よい。判定された速度は、画像内の固定基準フレームに対するか、または画像内で出現す
る他の仮想オブジェクトおよび/または物理的オブジェクトに対するものであってもよい
。
【0226】
2808では、拡張現実システムが、画像内の仮想オブジェクトの場所に少なくとも部
分的に基づいて、提示するそれぞれの画像の一部分を判定する。拡張現実システムは、提
示するそれぞれの画像の一部分を判定するために、本明細書で説明される種々の技法のう
ちのいずれかを採用してもよい。判定は、種々の要因のうちのいずれかに基づいてもよい
。要因は、例えば、エンドユーザが注目している、集中している、またはエンドユーザの
注目を別様に集めた、画像または場面内の場所を示す要因またはデータを含んでもよい。
要因は、例えば、エンドユーザが注目、集中すると予測される、またはエンドユーザの注
目を別様に集めるであろう、画像または場面内の場所を示す要因またはデータを含んでも
よい。拡張現実システムは、実際の検出を介するか、または予測を介するかにかかわらず
、エンドユーザの注目を集めた場所を識別するために、本明細書の他の場所で説明される
種々の技法のうちのいずれかを採用してもよい。
【0227】
2810では、拡張現実システムが、少なくとも1つの後続フレームのためのフレーム
バッファの一部分を読み出す。読み出される部分は、少なくとも、提示されるであろうそ
れぞれの画像の判定された部分に向かって、画像の中心を偏移させる。拡張現実システム
は、エンドユーザの実際または予測された注目の中心の場所に基づいて、画像の中心また
は境界を偏移させる、フレームの一部分をフレームバッファから読み出すために、本明細
書で説明される種々の技法のうちのいずれかを採用してもよい。
【0228】
図29は、1つの図示した実施形態による、拡張現実システムにおける動作方法290
0を示す。方法2900は、
図26の方法2600を行う際に採用されてもよい。具体的
には、方法2900は、エンドユーザの予測された頭部の動きに基づいて、フレームのど
の部分を読み出すかを判定するために採用されてもよい。
【0229】
2902では、拡張現実システム(例えば、そのコントローラサブシステムおよび/ま
たはプロセッサ)が、エンドユーザの頭部の動きの発生を予測する。拡張現実システムは
、頭部の動きを予測するために、本明細書で説明される種々の技法のうちのいずれかを採
用してもよい。そのような技法は、新しい仮想オブジェクト、移動する仮想オブジェクト
、急速に移動する仮想オブジェクト、以前に選択された仮想オブジェクト、および/また
は視覚的に魅力的な仮想オブジェクトの画像内の出現を検出することを含むが、それに限
定されない。
【0230】
2904では、拡張現実システムが、予測された頭部の動きに少なくとも部分的に基づ
いて、提示するそれぞれのフレームまたは画像の一部分を判定する。拡張現実システムは
、使用されるフレームの部分を判定するために、本明細書で説明される種々の技法のうち
のいずれかを採用してもよい。例えば、拡張現実システムは、境界が予測された頭部の動
きの予測された終点の場所を包含するように、一部分を選択してもよい。頭部の動きの予
測が仮想オブジェクトの出現(例えば、新たに導入された、移動する、魅力的な出現、エ
ンドユーザによって以前に選択された)で予測される場合、終点は、後続フレームまたは
画像内のその仮想オブジェクトの場所と一致し得る。
【0231】
図30は、1つの図示した実施形態による、拡張現実システムにおける動作方法300
0を示す。
【0232】
拡張現実システムは、フレームをオーバーレンダリングし、所与の表示技術の最大領域
および最大解像度のための必要よりはるかに大きいフレームを生成する。例えば、頭部装
着型または搭載型拡張現実システムでは、表示または投影に利用可能な領域は、機器の種
々のパラメータによって設定されてもよい。同様に、拡張現実システムが、複数の明確に
異なる解像度で動作することが可能であり得る一方で、機器は、上限または最大解像度を
設定するであろう。オーバーレンダリングされたフレームは、最大解像度で最大表示領域
を超えるピクセルのセットのピクセル情報を含む。そのようなものは、有利なことには、
拡張現実システムがフレームの部分のみ(例えば、中断されていなければフレームの各フ
ィールドの一部分)を読み出すことを可能にしてもよい。そのようなものは、拡張現実シ
ステムがユーザに提示される画像を偏移させることを可能にしてもよい。
【0233】
3002では、拡張現実システム(例えば、コントローラサブシステムおよび/または
プロセッサ)が、画定された視野のための複数のフレームのそれぞれをオーバーレンダリ
ングする。そのようなものは、最大解像度での最大領域に別様に必要とされるであろう、
より多くのピクセル情報を生成することを必要とする。例えば、フレームの領域は、例え
ば、フレームによって画定される水平、垂直、または直交方向のいずれかで、ピクセル情
報を増加させる、最大領域の割合によって増加させられてもよい。フレームサイズが大き
いほど、拡張現実システムが、ユーザに提示される画像の境界を偏移させるように、さら
なる自由度を有するであろう。
【0234】
3004では、拡張現実システムが、提示するそれぞれの画像の一部分を判定する。拡
張現実システムは、種々の要因のうちのいずれかに基づいて一部分を判定してもよい。例
えば、要因は、エンドユーザが注目している、集中している、またはエンドユーザの注目
を別様に集めた、画像または場面内の場所を示してもよい。再度、眼の追跡を含むが、そ
れに限定されない、種々の技法が採用されてもよい。また、例えば、要因は、エンドユー
ザが注目、集中すると予測される、またはエンドユーザの注目を別様に集めるであろう、
画像または場面内の場所を示してもよい。再度、新たに出現する仮想オブジェクト、高速
または急速に移動する仮想オブジェクト、視覚的に魅力的である仮想オブジェクト、以前
に指定された(例えば、エンドユーザによって、またはエンドユーザの相互作用を以前に
追跡することによって指定された)仮想オブジェクト、および/または垂直オブジェクト
の固有の性質に基づいて注目の魅力がある仮想オブジェクトを識別することを含むが、そ
れに限定されない、種々の技法が採用されてもよい。垂直オブジェクトの固有の性質に基
づいて注目の魅力がある仮想オブジェクトは、例えば、一般化エンドユーザまたは特定の
エンドユーザのいずれかにとって懸念または不安のオブジェクトまたはアイテム(例えば
、差し迫った脅威)を視覚的に表す、仮想オブジェクトを含んでもよい。
【0235】
3006では、拡張現実システムが、オーバーレンダリングされたフレームの1つまた
はそれを上回る判定された部分をバッファの中へ動的にアドレス指定する。判定された部
分は、例えば、エンドユーザの注目、関心、または焦点の識別された場所に近接するか、
またはそれと合致あるいは共同整合するように偏移させられる、中心を有してもよい。識
別された場所は、例えば、エンドユーザの注目を集めた前の画像またはフレーム内の場所
であってもよい。識別された場所は、例えば、エンドユーザの注目を集めるであろうと拡
張現実システムが予測した、後続フレーム内の場所であってもよい。いくつかの実装は、
複数のフレームバッファを採用する。そのようなものは、本明細書の他の場所で説明され
るように、フレームのための提示の中断を促進してもよい。
3008では、拡張現実システムが、フレームバッファからオーバーレンダリングフレー
ムの判定された部分を読み出す。
【0236】
本発明の種々の例示的実施形態が本明細書で説明される。非限定的な意味で、これらの
実施例を参照する。それらは、本発明のより広く適用可能な側面を例証するように提供さ
れる。種々の変更が、説明される本発明に行われてもよく、本発明の真の精神および範囲
から逸脱することなく、均等物が置換されてもよい。加えて、特定の状況、材料、組成物
、プロセス、プロセスの行為またはステップを、本発明の目的、精神、または範囲に適合
させるように、多くの修正が行われてもよい。さらに、当業者によって理解されるように
、本明細書で説明および図示される個々の変形例のそれぞれは、本発明の範囲または精神
から逸脱することなく、他のいくつかの実施形態のうちのいずれかの特徴から容易に分離
され得るか、またはそれらと組み合わせられ得る、離散構成要素および特徴を有する。全
てのそのような修正は、本開示と関連付けられる請求項の範囲内であることを目的として
いる。
【0237】
本発明は、本デバイスを使用して行われ得る方法を含む。本方法は、そのような好適な
デバイスを提供する行為を含んでもよい。そのような提供は、エンドユーザによって行わ
れてもよい。換言すると、「提供する」行為は、本方法において必要デバイスを提供する
ために、取得する、アクセスする、接近する、位置付ける、設定する、起動する、電源投
入する、または別様に作用するようにエンドユーザに要求するにすぎない。本明細書に記
載される方法は、論理的に可能である記載された事象の任意の順序で、ならびに事象の記
載された順序で実行されてもよい。
【0238】
本発明の例示的側面が、材料選択および製造に関する詳細とともに、上記で記載されて
いる。本発明の他の詳細に関して、これらは、上記の参照された特許および公開に関連し
て理解されるとともに、概して、当業者によって把握または理解され得る。同じことが、
一般的または理論的に採用されるような付加的な行為の観点から、本発明の方法ベースの
側面に関して当てはまり得る。
【0239】
加えて、本発明は、種々の特徴を随意に組み込む、いくつかの実施例を参照して説明さ
れているが、本発明は、本発明の各変形例に関して考慮されるように説明または指示され
るものに限定されるものではない。種々の変更が、説明される本発明に行われてもよく、
本発明の真の精神および範囲から逸脱することなく、(本明細書に記載されるか、または
いくらか簡潔にするために含まれないかどうかにかかわらず)均等物が置換されてもよい
。加えて、値の範囲が提供される場合、その範囲の上限と加減との間の全ての介在値、お
よびその規定範囲内の任意の他の規定または介在値が、本発明内に包含されることが理解
される。
【0240】
また、本明細書で説明される発明の変形例の任意の随意的な特徴が、独立して、または
本明細書で説明される特徴のうちのいずれか1つまたはそれを上回る特徴と組み合わせて
、記載および請求され得ることが考慮される。単数形の項目の言及は、複数の同一項目が
存在する可能性を含む。より具体的には、本明細書で、およびそれに関連付けられる請求
項で使用されるように、「1つの(a、an)」、「該(said)」、および「前記(
the)」という単数形は、特に別様に記述されない限り、複数の指示対象を含む。換言
すると、冠詞の使用は、上記の説明ならびに本開示と関連付けられる請求項で、対象項目
の「少なくとも1つ」を可能にする。さらに、そのような請求項は、任意の随意的な要素
を除外するように起草され得ることに留意されたい。したがって、この記述は、請求項要
素の記載に関連する「だけ」、「のみ」、および同等物等の排他的用語の使用、または「
否定的」制限の使用のための先行詞としての機能を果たすことを目的としている。
【0241】
そのような排他的用語を使用することなく、本開示と関連付けられる請求項での「備え
る」という用語は、所与の数の要素がそのような請求項で列挙されるか、または特徴の追
加をそのような請求項に記載される要素の性質を変換するものと見なすことができるかど
うかにかかわらず、任意の付加的な要素の包含を可能にするものとする。本明細書で特に
定義される場合を除いて、本明細書で使用される全ての技術および科学用語は、請求項の
有効性を維持しながら、可能な限り広義の一般的に理解されている意味を与えられるもの
である。
【0242】
本発明の範疇は、提供される実施例および/または本明細書に限定されるものではない
が、むしろ本開示と関連付けられる請求項の範囲のみによって限定されるものとする。