(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2022-12-28
(54)【発明の名称】非均一ステレオレンダリング
(51)【国際特許分類】
G06T 19/00 20110101AFI20221221BHJP
G06F 3/01 20060101ALI20221221BHJP
G06F 3/04815 20220101ALI20221221BHJP
【ＦＩ】
G06T19/00 600
G06F3/01 510
G06F3/04815
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2022524210
(86)(22)【出願日】2020-10-23
(85)【翻訳文提出日】2022-06-23
(86)【国際出願番号】 US2020057212
(87)【国際公開番号】W WO2021081442
(87)【国際公開日】2021-04-29
(31)【優先権主張番号】62/926,306
(32)【優先日】2019-10-25
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】514108838
【氏名又は名称】マジック リープ， インコーポレイテッド
【氏名又は名称原語表記】Ｍａｇｉｃ Ｌｅａｐ，Ｉｎｃ．
【住所又は居所原語表記】７５００ Ｗ ＳＵＮＲＩＳＥ ＢＬＶＤ，ＰＬＡＮＴＡＴＩＯＮ，ＦＬ ３３３２２ ＵＳＡ
(74)【代理人】
【識別番号】100078282
【弁理士】
【氏名又は名称】山本 秀策
(74)【代理人】
【識別番号】100113413
【弁理士】
【氏名又は名称】森下 夏樹
(74)【代理人】
【識別番号】100181674
【弁理士】
【氏名又は名称】飯田 貴敏
(74)【代理人】
【識別番号】100181641
【弁理士】
【氏名又は名称】石川 大輔
(74)【代理人】
【識別番号】230113332
【弁護士】
【氏名又は名称】山本 健策
(72)【発明者】
【氏名】ポーラス， ジョン カール ジュニア
(72)【発明者】
【氏名】リーベナウ， マイケル ハロルド
【テーマコード（参考）】
5B050
5E555
【Ｆターム（参考）】
5B050CA07
5B050EA12
5B050EA19
5B050EA23
5B050FA06
5B050FA10
5E555AA27
5E555AA64
5E555BA38
5E555BB38
5E555BC08
5E555BE17
5E555CA42
5E555CA47
5E555CB21
5E555CB64
5E555DA08
5E555DA09
5E555DB32
5E555DB53
5E555DC09
5E555DC63
5E555EA12
5E555FA00
(57)【要約】
本開示の実施例は、拡張現実および複合現実体験を記録するためのシステムおよび方法を説明する。例示的方法では、実環境の画像が、ウェアラブル頭部デバイスのカメラを介して受信される。ウェアラブル頭部デバイスの姿勢が、推定され、仮想環境の第１の画像が、姿勢に基づいて生成される。仮想環境の第２の画像が、姿勢に基づいて生成され、仮想環境の第２の画像は、仮想環境の第１の画像の視野より大きい視野を備える。組み合わせられた画像が、仮想環境の第２の画像および実環境の画像に基づいて生成される。
【特許請求の範囲】
【請求項1】
方法であって、ウェアラブル頭部デバイスのカメラを介して、実環境の画像を受信することと、
前記ウェアラブル頭部デバイスの姿勢を推定することと、
前記姿勢に基づいて、仮想環境の第１の画像を生成することと、
前記姿勢に基づいて、前記仮想環境の第２の画像を生成することであって、前記仮想環境の第２の画像は、前記仮想環境の第１の画像の視野より大きい視野を備える、ことと、
前記仮想環境の第２の画像および前記実環境の画像に基づいて、組み合わせられた画像を生成することと
を含む、方法。
【請求項2】
前記仮想環境の第２の画像に基づいて、クロッピングされた画像を生成することと、前記ウェアラブル頭部デバイスのディスプレイを介して、前記仮想環境の第１の画像および前記クロッピングされた画像に基づいて、立体視画像を提示することと
をさらに含む、請求項１に記載の方法。
【請求項3】
前記クロッピングされた画像は、前記クロッピングされた画像の中心を備え、前記仮想環境の第２の画像は、前記第２の画像の中心を備え、前記クロッピングされた画像の中心は、前記第２の画像の中心と同一である、請求項２に記載の方法。
【請求項4】
前記クロッピングされた画像は、クロッピングされた視野を備え、前記仮想環境の第２の画像の視野は、前記クロッピングされた視野より大きい、請求項２に記載の方法。
【請求項5】
前記組み合わせられた画像を生成することは、平面投影を含む、請求項１に記載の方法。
【請求項6】
前記仮想環境の第２の画像は、あるアスペクト比を備え、前記実環境の画像は、同一アスペクト比を備える、請求項１に記載の方法。
【請求項7】
前記仮想環境の第２の画像は、あるアスペクト比を備え、前記仮想環境の第１の画像は、同一アスペクト比を備える、請求項１に記載の方法。
【請求項8】
前記仮想環境の第１の画像は、第１のフレームバッファサイズを備え、前記仮想環境の第２の画像は、第２のフレームバッファサイズを備え、前記第２のフレームバッファサイズは、前記第１のフレームバッファサイズより大きい、請求項１に記載の方法。
【請求項9】
前記仮想環境の第１の画像は、あるフレームバッファサイズを備え、前記クロッピングされた画像は、同一フレームバッファサイズを備える、請求項１に記載の方法。
【請求項10】
前記仮想環境の第１の画像は、第１の分解能を備え、前記仮想環境の第２の画像は、第２の分解能を備え、前記第２の分解能は、前記第１の分解能より大きい、請求項１に記載の方法。
【請求項11】
前記カメラは、ユーザの左眼の左側に設置されるように構成される、請求項１に記載の方法。
【請求項12】
前記カメラは、ユーザの右眼の右側に設置されるように構成される、請求項１に記載の方法。
【請求項13】
前記カメラは、ユーザの左眼とユーザの右眼との間に設置されるように構成される、請求項１に記載の方法。
【請求項14】
ディスプレイを介して、前記組み合わせられた画像を、前記ウェアラブル頭部デバイスと異なる第２のデバイスに提示することをさらに含む、請求項１に記載の方法。
【請求項15】
システムであって、ウェアラブル頭部デバイスのカメラと、
１つまたはそれを上回るプロセッサであって、
前記ウェアラブル頭部デバイスのカメラを介して、実環境の画像を受信することと、
前記ウェアラブル頭部デバイスの姿勢を推定することと、
前記姿勢に基づいて、仮想環境の第１の画像を生成することと、
前記姿勢に基づいて、前記仮想環境の第２の画像を生成することであって、前記仮想環境の第２の画像は、前記仮想環境の第１の画像の視野より大きい視野を備える、ことと、
前記仮想環境の第２の画像および前記実環境の画像に基づいて、組み合わせられた画像を生成することと
を含む方法を実行するように構成される、１つまたはそれを上回るプロセッサと
を備える、システム。
【請求項16】
前記仮想環境の第２の画像に基づいて、クロッピングされた画像を生成することと、前記ウェアラブル頭部デバイスのディスプレイを介して、前記仮想環境の第１の画像および前記クロッピングされた画像に基づいて、立体視画像を提示することと
をさらに含む、請求項１５に記載のシステム。
【請求項17】
前記クロッピングされた画像は、前記クロッピングされた画像の中心を備え、前記仮想環境の第２の画像は、前記第２の画像の中心を備え、前記クロッピングされた画像の中心は、前記第２の画像の中心と同一である、請求項１６に記載のシステム。
【請求項18】
非一過性コンピュータ可読媒体であって、前記非一過性コンピュータ可読媒体は、命令を記憶しており、前記命令は、１つまたはそれを上回るプロセッサによって実行されると、前記１つまたはそれを上回るプロセッサに、ウェアラブル頭部デバイスのカメラを介して、実環境の画像を受信することと、
前記ウェアラブル頭部デバイスの姿勢を推定することと、
前記姿勢に基づいて、仮想環境の第１の画像を生成することと、
前記姿勢に基づいて、前記仮想環境の第２の画像を生成することであって、前記仮想環境の第２の画像は、前記仮想環境の第１の画像の視野より大きい視野を備える、ことと、
前記仮想環境の第２の画像および前記実環境の画像に基づいて、組み合わせられた画像を生成することと
を含む方法を実行させる、非一過性コンピュータ可読媒体。
【請求項19】
前記仮想環境の第２の画像に基づいて、クロッピングされた画像を生成することと、前記ウェアラブル頭部デバイスのディスプレイを介して、前記仮想環境の第１の画像および前記クロッピングされた画像に基づいて、立体視画像を提示することと
をさらに含む、請求項１８に記載の非一過性コンピュータ可読媒体。
【請求項20】
前記クロッピングされた画像は、前記クロッピングされた画像の中心を備え、前記仮想環境の第２の画像は、前記第２の画像の中心を備え、前記クロッピングされた画像の中心は、前記第２の画像の中心と同一である、請求項１９に記載の非一過性コンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【0001】
（関連出願の相互参照）
本願は、その開示全体が、あらゆる目的のために、参照することによって本明細書に組み込まれる、２０１９年１０月２５日に出願された、米国仮出願第６２／９２６，３０６号の利益を主張する。
本願は、その開示全体が、あらゆる目的のために、参照することによって本明細書に組み込まれる、２０１９年１０月２５日に出願された、米国仮出願第６２／９２６，３０６号の利益を主張する。
【0002】
本開示は、一般に、視覚的情報をレンダリングおよび表示するためのシステムおよび方法に関し、特に、複合現実環境内で視覚的情報をレンダリングおよび表示するためのシステムおよび方法に関する。
【背景技術】
【0003】
仮想環境は、コンピューティング環境において普遍的であって、ビデオゲーム（仮想環境が、ゲーム世界を表し得る）、マップ（仮想環境が、ナビゲートされるべき地形を表し得る）、シミュレーション（仮想環境が、実環境をシミュレートし得る）、デジタルストーリーテリング（仮想キャラクタが、仮想環境内で相互に相互作用し得る）、および多くの他の用途において使用を見出している。現代のコンピュータユーザは、概して、快適に仮想環境を知覚し、それと相互作用する。しかしながら、仮想環境を伴うユーザの体験は、仮想環境を提示するための技術によって限定され得る。例えば、従来のディスプレイ（例えば、２Ｄディスプレイ画面）およびオーディオシステム（例えば、固定スピーカ）は、人を引き付け、現実的で、かつ没入型の体験を作成するように、仮想環境を実現することが不可能であり得る。
【0004】
仮想現実（「ＶＲ」）、拡張現実（「ＡＲ」）、複合現実（「ＭＲ」）、および関連技術（集合的に、「ＸＲ」）は、ＸＲシステムのユーザにコンピュータシステム内のデータによって表される仮想環境に対応する感覚情報を提示する能力を共有する。本開示は、ＶＲ、ＡＲ、およびＭＲシステム間の特異性を考慮する（但し、いくつかのシステムは、一側面（例えば、視覚的側面）では、ＶＲとしてカテゴリ化され、同時に、別の側面（例えば、オーディオ側面）では、ＡＲまたはＭＲとしてカテゴリ化され得る）。本明細書で使用されるように、ＶＲシステムは、少なくとも１つの側面においてユーザの実環境を置換する、仮想環境を提示する。例えば、ＶＲシステムは、ユーザに、仮想環境のビューを提示し得る一方、同時に、光遮断頭部搭載型ディスプレイ等を用いて、実環境のそのビューを不明瞭にする。同様に、ＶＲシステムは、ユーザに、仮想環境に対応するオーディオを提示し得る一方、同時に、実環境からのオーディオを遮断する（減衰させる）。
【0005】
ＶＲシステムは、ユーザの実環境を仮想環境と置換することから生じる、種々の短所を被り得る。１つの短所は、仮想環境内のユーザの視野が、（仮想環境ではなく）実環境内におけるその平衡および配向を検出する、その内耳の状態にもはや対応しなくなるときに生じ得る、乗り物酔いを感じることである。同様に、ユーザは、自身の身体および四肢（そのビューは、ユーザが実環境内において「地に足が着いている」と感じるために依拠するものである）が直接可視ではない場合、ＶＲ環境内において失見当識を被り得る。別の短所は、特に、ユーザを仮想環境内に没入させようとする、リアルタイム用途において、完全３Ｄ仮想環境を提示しなければならない、ＶＲシステムに課される算出負担（例えば、記憶、処理力）である。同様に、そのような環境は、ユーザが、仮想環境内のわずかな不完全性にさえ敏感である傾向にあって、そのいずれも、仮想環境内のユーザの没入感を破壊し得るため、没入していると見なされるために、非常に高水準の現実性に到達する必要があり得る。さらに、ＶＲシステムの別の短所は、システムのそのような用途が、実世界内で体験する、種々の光景および音等の実環境内の広範囲の感覚データを利用することができないことである。関連短所は、実環境内の物理的空間を共有するユーザが、仮想環境内で直接見る、または相互に相互作用することが不可能であり得るため、ＶＲシステムが、複数のユーザが相互作用し得る、共有環境を作成することに苦戦し得ることである。
【0006】
本明細書で使用されるように、ＡＲシステムは、少なくとも１つの側面において実環境に重複またはオーバーレイする、仮想環境を提示する。例えば、ＡＲシステムは、表示される画像を提示する一方、光が、ディスプレイを通してユーザの眼の中に通過することを可能にする、透過性頭部搭載型ディスプレイ等を用いて、ユーザに、実環境のユーザのビュー上にオーバーレイされる仮想環境のビューを提示し得る。同様に、ＡＲシステムは、ユーザに、仮想環境に対応するオーディオを提示し得る一方、同時に、実環境からのオーディオを混合させる。同様に、本明細書で使用されるように、ＭＲシステムは、ＡＲシステムと同様に、少なくとも１つの側面において実環境に重複またはオーバーレイする、仮想環境を提示し、加えて、ＭＲシステム内の仮想環境が、少なくとも１つの側面において実環境と相互作用し得ることを可能にし得る。例えば、仮想環境内の仮想キャラクタが、実環境内の照明スイッチを切り替え、実環境内の対応する電球をオンまたはオフにさせてもよい。別の実施例として、仮想キャラクタが、実環境内のオーディオ信号に反応してもよい（顔の表情等を用いて）。実環境の提示を維持することによって、ＡＲおよびＭＲシステムは、ＶＲシステムの前述の短所のうちのいくつかを回避し得る。例えば、ユーザにおける乗り物酔いは、実環境からの視覚的キュー（ユーザ自身の身体を含む）が、可視のままであり得、そのようなシステムが、没入型であるために、ユーザに、完全に実現された３Ｄ環境を提示する必要がないため、低減される。さらに、ＡＲおよびＭＲシステムは、実世界感覚入力（例えば、景色、オブジェクト、および他のユーザのビューおよび音）を利用して、その入力を拡張させる、新しい用途を作成することができる。
【0007】
ＭＲ体験が、他のユーザと共有され得るように、ＭＲ体験を捕捉および記録することが望ましくあり得る。ＭＲシステム（特に、ウェアラブル頭部デバイス）は、単純ビデオ記録システムより良好に位置付けられ、ユーザが環境を体験する同一方法において、環境（実および仮想の両方）を記録することができる。直接入手したビューを実および仮想環境内におけるユーザの体験の中に提供することは、視認者が記録時にオリジナルユーザと一緒であったかのように、記録をより没入的であるように感じさせることができる。ＭＲ体験を記録することは、実環境の記録と仮想環境の記録を組み合わせることを含み得る。記録されたＭＲコンテンツは、気軽なコンテンツ共有および専門家コンテンツ作成の両方のために有用であり得る。例えば、気軽なＭＲ体験（例えば、コンサート）を、記録されたＭＲコンテンツを２次元画面上またはＭＲシステム上で視認し得る、他のユーザと共有することが望ましくあり得る。また、専門家コンテンツ作成者が、ＭＲコンテンツ（例えば、広告）を、表示のために、他のＭＲシステム上または２次元画面上に記録することが望ましくあり得る。しかしながら、ＭＲ体験を記録することは、少なくとも、実環境を記録するために使用されるカメラが、ユーザの視覚を遮るように、ユーザの眼からオフセットされて位置付けられ得るため、単純２次元ビデオを記録することほど些細なことではない場合がある。しかしながら、ユーザのためにレンダリングされた仮想コンテンツは、ユーザの眼の目線からレンダリングされ得る。本オフセットは、２つの記録ストリームを組み合わせるとき、カメラが捕捉する対象とユーザのためにレンダリングされる仮想コンテンツとの間の目線における差異を作成し得る。さらに、カメラは、表示される仮想コンテンツと異なる分解能および／またはアスペクト比において記録し得る。実環境の記録と仮想環境の記録を組み合わせることは、したがって、実コンテンツと仮想コンテンツとの間の不良統合をもたらし得る（例えば、実コンテンツおよび仮想コンテンツは、異なる目線から提示され得る）。したがって、一人称体験をシミュレートし、記録されたＭＲコンテンツを、統合され、正確な様式において表示する、正確なＭＲ記録システムを作成することが望ましくあり得る。
【発明の概要】
【課題を解決するための手段】
【0008】
本開示の実施例は、拡張現実および複合現実体験を記録するためのシステムおよび方法を説明する。例示的方法では、実環境の画像が、ウェアラブル頭部デバイスのカメラを介して受信される。ウェアラブル頭部デバイスの姿勢が、推定され、仮想環境の第１の画像が、姿勢に基づいて生成される。仮想環境の第２の画像が、姿勢に基づいて生成され、仮想環境の第２の画像は、仮想環境の第１の画像の視野より大きい視野を備える。組み合わせられた画像は、仮想環境の第２の画像および実環境の画像に基づいて生成される。
【図面の簡単な説明】
【0009】
【0010】
【0011】
【0012】
【0013】
【0014】
【0015】
【0016】
【0017】
【0018】
【発明を実施するための形態】
【0019】
詳細な説明
実施例の以下の説明では、本明細書の一部を形成し、例証として、実践され得る具体的実施例が示される、付随の図面を参照する。他の実施例も、使用されることができ、構造変更が、開示される実施例の範囲から逸脱することなく、行われることができることを理解されたい。
実施例の以下の説明では、本明細書の一部を形成し、例証として、実践され得る具体的実施例が示される、付随の図面を参照する。他の実施例も、使用されることができ、構造変更が、開示される実施例の範囲から逸脱することなく、行われることができることを理解されたい。
【0020】
複合現実環境
【0021】
全ての人々と同様に、複合現実システムのユーザは、実環境内に存在する、すなわち、「実世界」の３次元部分と、そのコンテンツの全てとが、ユーザによって知覚可能である。例えば、ユーザは、通常の人間の感覚、すなわち、視覚、聴覚、触覚、味覚、嗅覚を使用して、実環境を知覚し、実環境内で自身の身体を移動させることによって、実環境と相互作用する。実環境内の場所は、座標空間内の座標として説明されることができる。例えば、座標は、緯度、経度、および海抜に対する高度、基準点から３つの直交次元における距離、または他の好適な値を含むことができる。同様に、ベクトルは、座標空間内の方向および大きさを有する、量を説明することができる。
【0022】
コンピューティングデバイスは、例えば、デバイスと関連付けられるメモリ内に、仮想環境の表現を維持することができる。本明細書で使用されるように、仮想環境は、３次元空間の算出表現である。仮想環境は、任意のオブジェクトの表現、アクション、信号、パラメータ、座標、ベクトル、またはその空間と関連付けられる他の特性を含むことができる。いくつかの実施例では、コンピューティングデバイスの回路（例えば、プロセッサ）は、仮想環境の状態を維持および更新することができる。すなわち、プロセッサは、第１の時間ｔ０において、仮想環境と関連付けられるデータおよび／またはユーザによって提供される入力に基づいて、第２の時間ｔ１における仮想環境の状態を決定することができる。例えば、仮想環境内のオブジェクトが、時間ｔ０において、第１の座標に位置し、あるプログラムされた物理的パラメータ（例えば、質量、摩擦係数）を有し、ユーザから受信された入力が、力がある方向ベクトルにおいてオブジェクトに印加されるべきであることを示す場合、プロセッサは、運動学の法則を適用し、基本力学を使用して、時間ｔ１におけるオブジェクトの場所を決定することができる。プロセッサは、仮想環境について既知の任意の好適な情報および／または任意の好適な入力を使用して、時間ｔ１における仮想環境の状態を決定することができる。仮想環境の状態を維持および更新する際、プロセッサは、仮想環境内の仮想オブジェクトの作成および削除に関連するソフトウェア、仮想環境内の仮想オブジェクトまたはキャラクタの挙動を定義するためのソフトウェア（例えば、スクリプト）、仮想環境内の信号（例えば、オーディオ信号）の挙動を定義するためのソフトウェア、仮想環境と関連付けられるパラメータを作成および更新するためのソフトウェア、仮想環境内のオーディオ信号を生成するためのソフトウェア、入力および出力をハンドリングするためのソフトウェア、ネットワーク動作を実装するためのソフトウェア、アセットデータ（例えば、仮想オブジェクトを経時的に移動させるためのアニメーションデータ）を適用するためのソフトウェア、または多くの他の可能性を含む、任意の好適なソフトウェアを実行することができる。
【0023】
ディスプレイまたはスピーカ等の出力デバイスは、仮想環境のいずれかまたは全ての側面をユーザに提示することができる。例えば、仮想環境は、ユーザに提示され得る、仮想オブジェクト（無生物オブジェクト、人々、動物、光等の表現を含み得る）を含んでもよい。プロセッサは、仮想環境のビュー（例えば、原点座標、視軸、および錐台を伴う、「カメラ」に対応する）を決定し、ディスプレイに、そのビューに対応する仮想環境の視認可能場面をレンダリングすることができる。任意の好適なレンダリング技術が、本目的のために使用されてもよい。いくつかの実施例では、視認可能場面は、仮想環境内のいくつかの仮想オブジェクトのみを含み、ある他の仮想オブジェクトを除外してもよい。同様に、仮想環境は、ユーザに１つまたはそれを上回るオーディオ信号として提示され得る、オーディオ側面を含んでもよい。例えば、仮想環境内の仮想オブジェクトは、オブジェクトの場所座標から生じる音を生成してもよい（例えば、仮想キャラクタが、発話する、または音効果を生じさせ得る）、または仮想環境は、特定の場所と関連付けられる場合とそうではない場合がある、音楽キューまたは周囲音と関連付けられてもよい。プロセッサは、「聴取者」座標に対応するオーディオ信号、例えば、仮想環境内の音の合成に対応し、聴取者座標において聴取者によって聞こえるであろうオーディオ信号をシミュレートするように混合および処理される、オーディオ信号を決定し、ユーザに、１つまたはそれを上回るスピーカを介して、オーディオ信号を提示することができる。
【0024】
仮想環境は、算出構造としてのみ存在するため、ユーザは、直接、通常の感覚を使用して、仮想環境を知覚することができない。代わりに、ユーザは、例えば、ディスプレイ、スピーカ、触覚的出力デバイス等によって、ユーザに提示されるように、間接的にのみ、仮想環境を知覚することができる。同様に、ユーザは、直接、仮想環境に触れる、それを操作する、または別様に、それと相互作用することができないが、入力データを、入力デバイスまたはセンサを介して、デバイスまたはセンサデータを使用して、仮想環境を更新し得る、プロセッサに提供することができる。例えば、カメラセンサは、ユーザが仮想環境のオブジェクトを移動させようとしていることを示す、光学データを提供することができ、プロセッサは、そのデータを使用して、仮想環境内において、適宜、オブジェクトを応答させることができる。
【0025】
複合現実システムは、ユーザに、例えば、透過型ディスプレイおよび／または１つまたはそれを上回るスピーカ（例えば、ウェアラブル頭部デバイスの中に組み込まれ得る）を使用して、実環境および仮想環境の側面を組み合わせる、複合現実環境（「ＭＲＥ」）を提示することができる。いくつかの実施形態では、１つまたはそれを上回るスピーカは、頭部搭載型ウェアラブルユニットの外部にあってもよい。本明細書で使用されるように、ＭＲＥは、実環境および対応する仮想環境の同時表現である。いくつかの実施例では、対応する実および仮想環境は、単一座標空間を共有する。いくつかの実施例では、実座標空間および対応する仮想座標空間は、変換行列（または他の好適な表現）によって相互に関連する。故に、単一座標（いくつかの実施例では、変換行列とともに）は、実環境内の第１の場所と、また、仮想環境内の第２の対応する場所とを定義し得、その逆も同様である。
【0026】
ＭＲＥでは、（例えば、ＭＲＥと関連付けられる仮想環境内の）仮想オブジェクトは、（例えば、ＭＲＥと関連付けられる実環境内の）実オブジェクトに対応し得る。例えば、ＭＲＥの実環境が、実街灯柱（実オブジェクト）をある場所座標に含む場合、ＭＲＥの仮想環境は、仮想街灯柱（仮想オブジェクト）を対応する場所座標に含んでもよい。本明細書で使用されるように、実オブジェクトは、その対応する仮想オブジェクトとともに組み合わせて、「複合現実オブジェクト」を構成する。仮想オブジェクトが対応する実オブジェクトに完璧に合致または整合することは、必要ではない。いくつかの実施例では、仮想オブジェクトは、対応する実オブジェクトの簡略化されたバージョンであることができる。例えば、実環境が、実街灯柱を含む場合、対応する仮想オブジェクトは、実街灯柱と概ね同一高さおよび半径の円筒形を含んでもよい（街灯柱が略円筒形形状であり得ることを反映する）。仮想オブジェクトをこのように簡略化することは、算出効率を可能にすることができ、そのような仮想オブジェクト上で実施されるための計算を簡略化することができる。さらに、ＭＲＥのいくつかの実施例では、実環境内の全ての実オブジェクトが、対応する仮想オブジェクトと関連付けられなくてもよい。同様に、ＭＲＥのいくつかの実施例では、仮想環境内の全ての仮想オブジェクトが、対応する実オブジェクトと関連付けられなくてもよい。すなわち、いくつかの仮想オブジェクトが、任意の実世界対応物を伴わずに、ＭＲＥの仮想環境内にのみ存在し得る。
【0027】
いくつかの実施例では、仮想オブジェクトは、時として著しく、対応する実オブジェクトのものと異なる、特性を有してもよい。例えば、ＭＲＥ内の実環境は、緑色の２本の枝が延びたサボテン、すなわち、とげだらけの無生物オブジェクトを含み得るが、ＭＲＥ内の対応する仮想オブジェクトは、人間の顔特徴および無愛想な態度を伴う、緑色の２本の腕の仮想キャラクタの特性を有してもよい。本実施例では、仮想オブジェクトは、ある特性（色、腕の数）において、その対応する実オブジェクトに類似するが、他の特性（顔特徴、性格）において、実オブジェクトと異なる。このように、仮想オブジェクトは、創造的、抽象的、誇張された、または架空の様式において、実オブジェクトを表す、または挙動（例えば、人間の性格）をそうでなければ無生物である実オブジェクトに付与する潜在性を有する。いくつかの実施例では、仮想オブジェクトは、実世界対応物を伴わない、純粋に架空の創造物（例えば、おそらく、実環境内の虚空に対応する場所における、仮想環境内の仮想モンスタ）であってもよい。
【0028】
ユーザに、実環境を不明瞭にしながら、仮想環境を提示する、ＶＲシステムと比較して、ＭＲＥを提示する、複合現実システムは、仮想環境が提示される間、実環境が知覚可能なままであるであるという利点をもたらす。故に、複合現実システムのユーザは、実環境と関連付けられる視覚的およびオーディオキューを使用して、対応する仮想環境を体験し、それと相互作用することが可能である。実施例として、ＶＲシステムのユーザは、上記に述べられたように、ユーザが、直接、仮想環境を知覚する、またはそれと相互作用することができないため、仮想環境内に表示される仮想オブジェクトを知覚する、またはそれと相互作用することに苦戦し得るが、ＭＲシステムのユーザは、その自身の実環境内の対応する実オブジェクトが見え、聞こえ、触れることによって、仮想オブジェクトと相互作用することが直感的および自然であると見出し得る。本レベルの相互作用は、ユーザの仮想環境との没入感、つながり、および関与の感覚を向上させ得る。同様に、実環境および仮想環境を同時に提示することによって、複合現実システムは、ＶＲシステムと関連付けられる負の心理学的感覚（例えば、認知的不協和）および負の物理的感覚（例えば、乗り物酔い）を低減させることができる。複合現実システムはさらに、実世界の我々の体験を拡張または改変し得る用途に関する多くの可能性をもたらす。
【0029】
図１Ａは、ユーザ１１０が複合現実システム１１２を使用する、例示的実環境１００を図示する。複合現実システム１１２は、ディスプレイ（例えば、透過型ディスプレイ）および１つまたはそれを上回るスピーカと、例えば、下記に説明されるような１つまたはそれを上回るセンサ（例えば、カメラ）とを含んでもよい。示される実環境１００は、その中にユーザ１１０が立っている、長方形の部屋１０４Ａと、実オブジェクト１２２Ａ（ランプ）、１２４Ａ（テーブル）、１２６Ａ（ソファ）、および１２８Ａ（絵画）とを含む。部屋１０４Ａはさらに、場所座標１０６を含み、これは、実環境１００の原点と見なされ得る。図１Ａに示されるように、その原点を点１０６（世界座標）に伴う、環境／世界座標系１０８（ｘ－軸１０８Ｘ、ｙ－軸１０８Ｙ、およびｚ－軸１０８Ｚを備える）は、実環境１００のための座標空間を定義し得る。いくつかの実施形態では、環境／世界座標系１０８の原点１０６は、複合現実システム１１２の電源がオンにされた場所に対応してもよい。いくつかの実施形態では、環境／世界座標系１０８の原点１０６は、動作の間、リセットされてもよい。いくつかの実施例では、ユーザ１１０は、実環境１００内の実オブジェクトと見なされ得る。同様に、ユーザ１１０の身体部分（例えば、手、足）は、実環境１００内の実オブジェクトと見なされ得る。いくつかの実施例では、その原点を点１１５（例えば、ユーザ／聴取者／頭部座標）に伴う、ユーザ／聴取者／頭部座標系１１４（ｘ－軸１１４Ｘ、ｙ－軸１１４Ｙ、およびｚ－軸１１４Ｚを備える）は、その上に複合現実システム１１２が位置する、ユーザ／聴取者／頭部のための座標空間を定義し得る。ユーザ／聴取者／頭部座標系１１４の原点１１５は、複合現実システム１１２の１つまたはそれを上回るコンポーネントに対して定義されてもよい。例えば、ユーザ／聴取者／頭部座標系１１４の原点１１５は、複合現実システム１１２の初期較正等の間、複合現実システム１１２のディスプレイに対して定義されてもよい。行列（平行移動行列および四元数行列または他の回転行列を含み得る）または他の好適な表現が、ユーザ／聴取者／頭部座標系１１４空間と環境／世界座標系１０８空間との間の変換を特性評価することができる。いくつかの実施形態では、左耳座標１１６および右耳座標１１７が、ユーザ／聴取者／頭部座標系１１４の原点１１５に対して定義されてもよい。行列（平行移動行列および四元数行列または他の回転行列を含み得る）または他の好適な表現が、左耳座標１１６および右耳座標１１７とユーザ／聴取者／頭部座標系１１４空間との間の変換を特性評価することができる。ユーザ／聴取者／頭部座標系１１４は、ユーザの頭部または頭部搭載型デバイスに対する、例えば、環境／世界座標系１０８に対する場所の表現を簡略化することができる。同時位置特定およびマッピング（ＳＬＡＭ）、ビジュアルオドメトリ、または他の技法を使用して、ユーザ座標系１１４と環境座標系１０８との間の変換が、リアルタイムで決定および更新されることができる。
【0030】
図１Ｂは、実環境１００に対応する、例示的仮想環境１３０を図示する。示される仮想環境１３０は、実長方形部屋１０４Ａに対応する仮想長方形部屋１０４Ｂと、実オブジェクト１２２Ａに対応する仮想オブジェクト１２２Ｂと、実オブジェクト１２４Ａに対応する仮想オブジェクト１２４Ｂと、実オブジェクト１２６Ａに対応する仮想オブジェクト１２６Ｂとを含む。仮想オブジェクト１２２Ｂ、１２４Ｂ、１２６Ｂと関連付けられるメタデータは、対応する実オブジェクト１２２Ａ、１２４Ａ、１２６Ａから導出される情報を含むことができる。仮想環境１３０は、加えて、仮想モンスタ１３２を含み、これは、実環境１００内の任意の実オブジェクトに対応しない。実環境１００内の実オブジェクト１２８Ａは、仮想環境１３０内の任意の仮想オブジェクトに対応しない。その原点を点１３４（持続的座標）に伴う、持続的座標系１３３（ｘ－軸１３３Ｘ、ｙ－軸１３３Ｙ、およびｚ－軸１３３Ｚを備える）は、仮想コンテンツのための座標空間を定義し得る。持続的座標系１３３の原点１３４は、実オブジェクト１２６Ａ等の１つまたはそれを上回る実オブジェクトと相対的に／それに対して定義されてもよい。行列（平行移動行列および四元数行列または他の回転行列を含み得る）または他の好適な表現は、持続的座標系１３３空間と環境／世界座標系１０８空間との間の変換を特性評価することができる。いくつかの実施形態では、仮想オブジェクト１２２Ｂ、１２４Ｂ、１２６Ｂ、および１３２はそれぞれ、持続的座標系１３３の原点１３４に対するその自身の持続的座標点を有してもよい。いくつかの実施形態では、複数の持続的座標系が存在してもよく、仮想オブジェクト１２２Ｂ、１２４Ｂ、１２６Ｂ、および１３２はそれぞれ、１つまたはそれを上回る持続的座標系に対するその自身の持続的座標点を有してもよい。
【0031】
図１Ａおよび１Ｂに関して、環境／世界座標系１０８は、実環境１００および仮想環境１３０の両方のための共有座標空間を定義する。示される実施例では、座標空間は、その原点を点１０６に有する。さらに、座標空間は、同一の３つの直交軸（１０８Ｘ、１０８Ｙ、１０８Ｚ）によって定義される。故に、実環境１００内の第１の場所および仮想環境１３０内の第２の対応する場所は、同一座標空間に関して説明されることができる。これは、同一座標が両方の場所を識別するために使用され得るため、実および仮想環境内の対応する場所を識別および表示するステップを簡略化する。しかしながら、いくつかの実施例では、対応する実および仮想環境は、共有座標空間を使用する必要がない。例えば、いくつかの実施例では（図示せず）、行列（平行移動行列および四元数行列または他の回転行列を含み得る）または他の好適な表現は、実環境座標空間と仮想環境座標空間との間の変換を特性評価することができる。
【0032】
図１Ｃは、同時に、実環境１００および仮想環境１３０の側面をユーザ１１０に複合現実システム１１２を介して提示する、例示的ＭＲＥ１５０を図示する。示される実施例では、ＭＲＥ１５０は、同時に、ユーザ１１０に、実環境１００からの実オブジェクト１２２Ａ、１２４Ａ、１２６Ａ、および１２８Ａ（例えば、複合現実システム１１２のディスプレイの透過性部分を介して）と、仮想環境１３０からの仮想オブジェクト１２２Ｂ、１２４Ｂ、１２６Ｂ、および１３２（例えば、複合現実システム１１２のディスプレイアクティブディスプレイ部分を介して）とを提示する。上記のように、原点１０６は、ＭＲＥ１５０に対応する座標空間のための原点として作用し、座標系１０８は、座標空間のためのｘ－軸、ｙ－軸、およびｚ－軸を定義する。
【0033】
示される実施例では、複合現実オブジェクトは、座標空間１０８内の対応する場所を占有する、対応する対の実オブジェクトおよび仮想オブジェクト（すなわち、１２２Ａ／１２２Ｂ、１２４Ａ／１２４Ｂ、１２６Ａ／１２６Ｂ）を含む。いくつかの実施例では、実オブジェクトおよび仮想オブジェクトは両方とも、同時に、ユーザ１１０に可視であってもよい。これは、例えば、仮想オブジェクトが対応する実オブジェクトのビューを拡張させるように設計される情報を提示する、インスタンスにおいて望ましくあり得る（仮想オブジェクトが古代の損傷された彫像の欠けた部分を提示する、博物館用途等）。いくつかの実施例では、仮想オブジェクト（１２２Ｂ、１２４Ｂ、および／または１２６Ｂ）は、対応する実オブジェクト（１２２Ａ、１２４Ａ、および／または１２６Ａ）をオクルードするように、表示されてもよい（例えば、ピクセル化オクルージョンシャッタを使用する、アクティブピクセル化オクルージョンを介して）。これは、例えば、仮想オブジェクトが対応する実オブジェクトのための視覚的置換として作用する、インスタンスにおいて望ましくあり得る（無生物実オブジェクトが「生きている」キャラクタとなる、双方向ストーリーテリング用途等）。
【0034】
いくつかの実施例では、実オブジェクト（例えば、１２２Ａ、１２４Ａ、１２６Ａ）は、必ずしも、仮想オブジェクトを構成するとは限らない、仮想コンテンツまたはヘルパデータと関連付けられてもよい。仮想コンテンツまたはヘルパデータは、複合現実環境内の仮想オブジェクトの処理またはハンドリングを促進することができる。例えば、そのような仮想コンテンツは、対応する実オブジェクトの２次元表現、対応する実オブジェクトと関連付けられるカスタムアセットタイプ、または対応する実オブジェクトと関連付けられる統計的データを含み得る。本情報は、不必要な算出オーバーヘッドを被ることなく、実オブジェクトに関わる計算を可能にする、または促進することができる。
【0035】
いくつかの実施例では、上記に説明される提示はまた、オーディオ側面を組み込んでもよい。例えば、ＭＲＥ１５０では、仮想モンスタ１３２は、モンスタがＭＲＥ１５０の周囲を歩き回るにつれて生成される、足音効果等の１つまたはそれを上回るオーディオ信号と関連付けられ得る。下記にさらに説明されるように、複合現実システム１１２のプロセッサは、ＭＲＥ１５０内の全てのそのような音の混合および処理された合成に対応するオーディオ信号を算出し、複合現実システム１１２内に含まれる１つまたはそれを上回るスピーカおよび／または１つまたはそれを上回る外部スピーカを介して、オーディオ信号をユーザ１１０に提示することができる。
【0036】
例示的複合現実システム
【0037】
例示的複合現実システム１１２は、ディスプレイ（接眼ディスプレイであり得る、左および右透過型ディスプレイと、ディスプレイからの光をユーザの眼に結合するための関連付けられるコンポーネントとを含み得る）と、左および右スピーカ（例えば、それぞれ、ユーザの左および右耳に隣接して位置付けられる）と、慣性測定ユニット（ＩＭＵ）（例えば、頭部デバイスのつるのアームに搭載される）と、直交コイル電磁受信機（例えば、左つる部品に搭載される）と、ユーザから離れるように配向される、左および右カメラ（例えば、深度（飛行時間）カメラ）と、ユーザに向かって配向される、左および右眼カメラ（例えば、ユーザの眼移動を検出するため）とを備える、ウェアラブル頭部デバイス（例えば、ウェアラブル拡張現実または複合現実頭部デバイス）を含むことができる。しかしながら、複合現実システム１１２は、任意の好適なディスプレイ技術および任意の好適なセンサ（例えば、光学、赤外線、音響、ＬＩＤＡＲ、ＥＯＧ、ＧＰＳ、磁気）を組み込むことができる。加えて、複合現実システム１１２は、ネットワーキング特徴（例えば、Ｗｉ－Ｆｉ能力）を組み込み、他の複合現実システムを含む、他のデバイスおよびシステムと通信してもよい。複合現実システム１１２はさらに、バッテリ（ユーザの腰部の周囲に装着されるように設計されるベルトパック等の補助ユニット内に搭載されてもよい）と、プロセッサと、メモリとを含んでもよい。複合現実システム１１２のウェアラブル頭部デバイスは、ユーザの環境に対するウェアラブル頭部デバイスの座標セットを出力するように構成される、ＩＭＵまたは他の好適なセンサ等の追跡コンポーネントを含んでもよい。いくつかの実施例では、追跡コンポーネントは、入力をプロセッサに提供し、同時位置特定およびマッピング（ＳＬＡＭ）および／またはビジュアルオドメトリアルゴリズムを実施してもよい。いくつかの実施例では、複合現実システム１１２はまた、ハンドヘルドコントローラ３００、および／または下記にさらに説明されるように、ウェアラブルベルトパックであり得る、補助ユニット３２０を含んでもよい。
【0038】
図２Ａ－２Ｄは、ＭＲＥ（ＭＲＥ１５０に対応し得る）または他の仮想環境をユーザに提示するために使用され得る、例示的複合現実システム２００（複合現実システム１１２に対応し得る）のコンポーネントを図示する。図２Ａは、例示的複合現実システム２００内に含まれるウェアラブル頭部デバイス２１０２の斜視図を図示する。図２Ｂは、ユーザの頭部２２０２上に装着されるウェアラブル頭部デバイス２１０２の上面図を図示する。図２Ｃは、ウェアラブル頭部デバイス２１０２の正面図を図示する。図２Ｄは、ウェアラブル頭部デバイス２１０２の例示的接眼レンズ２１１０の縁視図を図示する。図２Ａ－２Ｃに示されるように、例示的ウェアラブル頭部デバイス２１０２は、例示的左接眼レンズ（例えば、左透明導波管セット接眼レンズ）２１０８と、例示的右接眼レンズ（例えば、右透明導波管セット接眼レンズ）２１１０とを含む。各接眼レンズ２１０８および２１１０は、それを通して実環境が可視となる、透過性要素と、実環境に重複するディスプレイ（例えば、画像毎に変調された光を介して）を提示するためのディスプレイ要素とを含むことができる。いくつかの実施例では、そのようなディスプレイ要素は、画像毎に変調された光の流動を制御するための表面回折光学要素を含むことができる。例えば、左接眼レンズ２１０８は、左内部結合格子セット２１１２と、左直交瞳拡張（ＯＰＥ）格子セット２１２０と、左出射（出力）瞳拡張（ＥＰＥ）格子セット２１２２とを含むことができる。同様に、右接眼レンズ２１１０は、右内部結合格子セット２１１８と、右ＯＰＥ格子セット２１１４と、右ＥＰＥ格子セット２１１６とを含むことができる。画像毎に変調された光は、内部結合格子２１１２および２１１８、ＯＰＥ２１１４および２１２０、およびＥＰＥ２１１６および２１２２を介して、ユーザの眼に転送されることができる。各内部結合格子セット２１１２、２１１８は、光をその対応するＯＰＥ格子セット２１２０、２１１４に向かって偏向させるように構成されることができる。各ＯＰＥ格子セット２１２０、２１１４は、光をその関連付けられるＥＰＥ２１２２、２１１６に向かって下方に漸次的に偏向させ、それによって、形成されている射出瞳を水平に延在させるように設計されることができる。各ＥＰＥ２１２２、２１１６は、その対応するＯＰＥ格子セット２１２０、２１１４から受信された光の少なくとも一部を、接眼レンズ２１０８、２１１０の背後に定義される、ユーザアイボックス位置（図示せず）に外向きに漸次的に再指向し、アイボックスに形成される射出瞳を垂直に延在させるように構成されることができる。代替として、内部結合格子セット２１１２および２１１８、ＯＰＥ格子セット２１１４および２１２０、およびＥＰＥ格子セット２１１６および２１２２の代わりに、接眼レンズ２１０８および２１１０は、ユーザの眼への画像毎に変調された光の結合を制御するための格子および／または屈折および反射性特徴の他の配列を含むことができる。
【0039】
いくつかの実施例では、ウェアラブル頭部デバイス２１０２は、左つるのアーム２１３０と、右つるのアーム２１３２とを含むことができ、左つるのアーム２１３０は、左スピーカ２１３４を含み、右つるのアーム２１３２は、右スピーカ２１３６を含む。直交コイル電磁受信機２１３８は、左こめかみ部品またはウェアラブル頭部ユニット２１０２内の別の好適な場所に位置することができる。慣性測定ユニット（ＩＭＵ）２１４０は、右つるのアーム２１３２またはウェアラブル頭部デバイス２１０２内の別の好適な場所に位置することができる。ウェアラブル頭部デバイス２１０２はまた、左深度（例えば、飛行時間）カメラ２１４２と、右深度カメラ２１４４とを含むことができる。深度カメラ２１４２、２１４４は、好適には、ともにより広い視野を網羅するように、異なる方向に配向されることができる。
【0040】
図２Ａ－２Ｄに示される実施例では、画像毎に変調された光２１２４の左源は、左内部結合格子セット２１１２を通して、左接眼レンズ２１０８の中に光学的に結合されることができ、画像毎に変調された光２１２６の右源は、右内部結合格子セット２１１８を通して、右接眼レンズ２１１０の中に光学的に結合されることができる。画像毎に変調された光２１２４、２１２６の源は、例えば、光ファイバスキャナ、デジタル光処理（ＤＬＰ）チップまたはシリコン上液晶（ＬＣｏＳ）変調器等の電子光変調器を含む、プロジェクタ、または側面あたり１つまたはそれを上回るレンズを使用して、内部結合格子セット２１１２、２１１８の中に結合される、マイクロ発光ダイオード（μＬＥＤ）またはマイクロ有機発光ダイオード（μＯＬＥＤ）パネル等の発光型ディスプレイを含むことができる。入力結合格子セット２１１２、２１１８は、画像毎に変調された光２１２４、２１２６の源からの光を、接眼レンズ２１０８、２１１０のための全内部反射（ＴＩＲ）に関する臨界角を上回る角度に偏向させることができる。ＯＰＥ格子セット２１１４、２１２０は、伝搬する光をＴＩＲによってＥＰＥ格子セット２１１６、２１２２に向かって下方に漸次的に偏向させる。ＥＰＥ格子セット２１１６、２１２２は、ユーザの眼の瞳孔を含む、ユーザの顔に向かって、光を漸次的に結合する。
【0041】
いくつかの実施例では、図２Ｄに示されるように、左接眼レンズ２１０８および右接眼レンズ２１１０はそれぞれ、複数の導波管２４０２を含む。例えば、各接眼レンズ２１０８、２１１０は、複数の個々の導波管を含むことができ、それぞれ、個別の色チャネル（例えば、赤色、青色、および緑色）専用である。いくつかの実施例では、各接眼レンズ２１０８、２１１０は、複数のセットのそのような導波管を含むことができ、各セットは、異なる波面曲率を放出される光に付与するように構成される。波面曲率は、例えば、ユーザの正面のある距離（例えば、波面曲率の逆数に対応する距離）に位置付けられる仮想オブジェクトを提示するように、ユーザの眼に対して凸面であってもよい。いくつかの実施例では、ＥＰＥ格子セット２１１６、２１２２は、各ＥＰＥを横断して出射する光のＰｏｙｎｔｉｎｇベクトルを改変することによって凸面波面曲率をもたらすために、湾曲格子溝を含むことができる。
【0042】
いくつかの実施例では、表示されるコンテンツが３次元である知覚を作成するために、立体視的に調節される左および右眼画像は、画像毎に光変調器２１２４、２１２６および接眼レンズ２１０８、２１１０を通して、ユーザに提示されることができる。３次元仮想オブジェクトの提示の知覚される現実性は、仮想オブジェクトが立体視左および右画像によって示される距離に近似する距離に表示されるように、導波管（したがって、対応する波面曲率）を選択することによって向上されることができる。本技法はまた、立体視左および右眼画像によって提供される深度知覚キューと人間の眼の自動遠近調節（例えば、オブジェクト距離依存焦点）との間の差異によって生じ得る、一部のユーザによって被られる乗り物酔いを低減させ得る。
【0043】
図２Ｄは、例示的ウェアラブル頭部デバイス２１０２の右接眼レンズ２１１０の上部からの縁視図を図示する。図２Ｄに示されるように、複数の導波管２４０２は、３つの導波管２４０４の第１のサブセットと、３つの導波管２４０６の第２のサブセットとを含むことができる。導波管２４０４、２４０６の２つのサブセットは、異なる波面曲率を出射する光に付与するために異なる格子線曲率を特徴とする、異なるＥＰＥ格子によって区別されることができる。導波管２４０４、２４０６のサブセットのそれぞれ内において、各導波管は、異なるスペクトルチャネル（例えば、赤色、緑色、および青色スペクトルチャネルのうちの１つ）をユーザの右眼２２０６に結合するために使用されることができる。（図２Ｄには図示されないが、左接眼レンズ２１０８の構造は、右接眼レンズ２１１０の構造に類似する。）
【0044】
図３Ａは、複合現実システム２００の例示的ハンドヘルドコントローラコンポーネント３００を図示する。いくつかの実施例では、ハンドヘルドコントローラ３００は、把持部分３４６と、上部表面３４８に沿って配置される、１つまたはそれを上回るボタン３５０とを含む。いくつかの実施例では、ボタン３５０は、例えば、カメラまたは他の光学センサ（複合現実システム２００の頭部ユニット（例えば、ウェアラブル頭部デバイス２１０２）内に搭載され得る）と併せて、ハンドヘルドコントローラ３００の６自由度（６ＤＯＦ）運動を追跡するための光学追跡標的として使用するために構成されてもよい。いくつかの実施例では、ハンドヘルドコントローラ３００は、ウェアラブル頭部デバイス２１０２に対する位置または配向等の位置または配向を検出するための追跡コンポーネント（例えば、ＩＭＵまたは他の好適なセンサ）を含む。いくつかの実施例では、そのような追跡コンポーネントは、ハンドヘルドコントローラ３００のハンドル内に位置付けられてもよく、および／またはハンドヘルドコントローラに機械的に結合されてもよい。ハンドヘルドコントローラ３００は、ボタンの押下状態、またはハンドヘルドコントローラ３００の位置、配向、および／または運動（例えば、ＩＭＵを介して）のうちの１つまたはそれを上回るものに対応する、１つまたはそれを上回る出力信号を提供するように構成されることができる。そのような出力信号は、複合現実システム２００のプロセッサへの入力として使用されてもよい。そのような入力は、ハンドヘルドコントローラの位置、配向、および／または移動（さらに言うと、コントローラを保持するユーザの手の位置、配向、および／または移動）に対応し得る。そのような入力はまた、ユーザがボタン３５０を押下したことに対応し得る。
【0045】
図３Ｂは、複合現実システム２００の例示的補助ユニット３２０を図示する。補助ユニット３２０は、エネルギーを提供し、システム２００を動作するためのバッテリを含むことができ、プログラムを実行し、システム２００を動作させるためのプロセッサを含むことができる。示されるように、例示的補助ユニット３２０は、補助ユニット３２０をユーザのベルトに取り付ける等のためのクリップ２１２８を含む。他の形状因子も、補助ユニット３２０のために好適であって、ユニットをユーザのベルトに搭載することを伴わない、形状因子を含むことも明白となるであろう。いくつかの実施例では、補助ユニット３２０は、例えば、電気ワイヤおよび光ファイバを含み得る、多管式ケーブルを通して、ウェアラブル頭部デバイス２１０２に結合される。補助ユニット３２０とウェアラブル頭部デバイス２１０２との間の無線接続もまた、使用されることができる。
【0046】
いくつかの実施例では、複合現実システム２００は、１つまたはそれを上回るマイクロホンを含み、音を検出し、対応する信号を複合現実システムに提供することができる。いくつかの実施例では、マイクロホンは、ウェアラブル頭部デバイス２１０２に取り付けられる、またはそれと統合されてもよく、ユーザの音声を検出するように構成されてもよい。いくつかの実施例では、マイクロホンは、ハンドヘルドコントローラ３００および／または補助ユニット３２０に取り付けられる、またはそれと統合されてもよい。そのようなマイクロホンは、環境音、周囲雑音、ユーザまたは第三者の音声、または他の音を検出するように構成されてもよい。
【0047】
図４は、上記に説明される複合現実システム２００（図１に関する複合現実システム１１２に対応し得る）等の例示的複合現実システムに対応し得る、例示的機能ブロック図を示す。図４に示されるように、例示的ハンドヘルドコントローラ４００Ｂ（ハンドヘルドコントローラ３００（「トーテム」）に対応し得る）は、トーテム／ウェアラブル頭部デバイス６自由度（６ＤＯＦ）トーテムサブシステム４０４Ａを含み、例示的ウェアラブル頭部デバイス４００Ａ（ウェアラブル頭部デバイス２１０２に対応し得る）は、トーテム／ウェアラブル頭部デバイス６ＤＯＦサブシステム４０４Ｂを含む。実施例では、６ＤＯＦトーテムサブシステム４０４Ａおよび６ＤＯＦサブシステム４０４Ｂは、協働し、ウェアラブル頭部デバイス４００Ａに対するハンドヘルドコントローラ４００Ｂの６つの座標（例えば、３つの平行移動方向におけるオフセットおよび３つの軸に沿った回転）を決定する。６自由度は、ウェアラブル頭部デバイス４００Ａの座標系に対して表されてもよい。３つの平行移動オフセットは、そのような座標系内におけるＸ、Ｙ、およびＺオフセット、平行移動行列、またはある他の表現として表されてもよい。回転自由度は、ヨー、ピッチ、およびロール回転のシーケンスとして、回転行列として、四元数として、またはある他の表現として表されてもよい。いくつかの実施例では、ウェアラブル頭部デバイス４００Ａ、ウェアラブル頭部デバイス４００Ａ内に含まれる、１つまたはそれを上回る深度カメラ４４４（および／または１つまたはそれを上回る非深度カメラ）、および／または１つまたはそれを上回る光学標的（例えば、上記に説明されるようなハンドヘルドコントローラ４００Ｂのボタン３５０またはハンドヘルドコントローラ４００Ｂ内に含まれる専用光学標的）は、６ＤＯＦ追跡のために使用されることができる。いくつかの実施例では、ハンドヘルドコントローラ４００Ｂは、上記に説明されるようなカメラを含むことができ、ウェアラブル頭部デバイス４００Ａは、カメラと併せた光学追跡のための光学標的を含むことができる。いくつかの実施例では、ウェアラブル頭部デバイス４００Ａおよびハンドヘルドコントローラ４００Ｂはそれぞれ、３つの直交して配向されるソレノイドのセットを含み、これは、３つの区別可能な信号を無線で送信および受信するために使用される。受信するために使用される、コイルのそれぞれ内で受信される３つの区別可能な信号の相対的大きさを測定することによって、ハンドヘルドコントローラ４００Ｂに対するウェアラブル頭部デバイス４００Ａの６ＤＯＦが、決定され得る。加えて、６ＤＯＦトーテムサブシステム４０４Ａは、改良された正確度および／またはハンドヘルドコントローラ４００Ｂの高速移動に関するよりタイムリーな情報を提供するために有用である、慣性測定ユニット（ＩＭＵ）を含むことができる。
【0048】
いくつかの実施例では、例えば、座標系１０８に対するウェアラブル頭部デバイス４００Ａの移動を補償するために、座標をローカル座標空間（例えば、ウェアラブル頭部デバイス４００Ａに対して固定される座標空間）から慣性座標空間（例えば、実環境に対して固定される座標空間）に変換することが必要になり得る。例えば、そのような変換は、ウェアラブル頭部デバイス４００Ａのディスプレイが、ディスプレイ上の固定位置および配向（例えば、ディスプレイの右下角における同一位置）ではなく仮想オブジェクトを実環境に対する予期される位置および配向に提示し（例えば、ウェアラブル頭部デバイスの位置および配向にかかわらず、前方に面した実椅子に着座している仮想人物）、仮想オブジェクトが実環境内に存在する（かつ、例えば、ウェアラブル頭部デバイス４００Ａが偏移および回転するにつれて、実環境内に不自然に位置付けられて現れない）という錯覚を保存するために必要であり得る。いくつかの実施例では、座標空間間の補償変換が、座標系１０８に対するウェアラブル頭部デバイス４００Ａの変換を決定するために、ＳＬＡＭおよび／またはビジュアルオドメトリプロシージャを使用して、深度カメラ４４４からの画像を処理することによって決定されることができる。図４に示される実施例では、深度カメラ４４４は、ＳＬＡＭ／ビジュアルオドメトリブロック４０６に結合され、画像をブロック４０６に提供することができる。ＳＬＡＭ／ビジュアルオドメトリブロック４０６実装は、本画像を処理し、次いで、頭部座標空間と別の座標空間（例えば、慣性座標空間）との間の変換を識別するために使用され得る、ユーザの頭部の位置および配向を決定するように構成される、プロセッサを含むことができる。同様に、いくつかの実施例では、ユーザの頭部姿勢および場所に関する情報の付加的源が、ＩＭＵ４０９から取得される。ＩＭＵ４０９からの情報は、ＳＬＡＭ／ビジュアルオドメトリブロック４０６からの情報と統合され、改良された正確度および／またはユーザの頭部姿勢および位置の高速調節に関する情報をよりタイムリーに提供することができる。
【0049】
いくつかの実施例では、深度カメラ４４４は、ウェアラブル頭部デバイス４００Ａのプロセッサ内に実装され得る、手のジェスチャトラッカ４１１に、３Ｄ画像を供給することができる。手のジェスチャトラッカ４１１は、例えば、深度カメラ４４４から受信された３Ｄ画像を手のジェスチャを表す記憶されたパターンに合致させることによって、ユーザの手のジェスチャを識別することができる。ユーザの手のジェスチャを識別する他の好適な技法も、明白となるであろう。
【0050】
いくつかの実施例では、１つまたはそれを上回るプロセッサ４１６は、ウェアラブル頭部デバイスの６ＤＯＦヘッドギヤサブシステム４０４Ｂ、ＩＭＵ４０９、ＳＬＡＭ／ビジュアルオドメトリブロック４０６、深度カメラ４４４、および／または手のジェスチャトラッカ４１１からのデータを受信するように構成されてもよい。プロセッサ４１６はまた、制御信号を６ＤＯＦトーテムシステム４０４Ａに送信し、そこから受信することができる。プロセッサ４１６は、ハンドヘルドコントローラ４００Ｂがテザリングされない実施例等では、無線で、６ＤＯＦトーテムシステム４０４Ａに結合されてもよい。プロセッサ４１６はさらに、オーディオ／視覚的コンテンツメモリ４１８、グラフィカル処理ユニット（ＧＰＵ）４２０、および／またはデジタル信号プロセッサ（ＤＳＰ）オーディオ空間化装置４２２等の付加的コンポーネントと通信してもよい。ＤＳＰオーディオ空間化装置４２２は、頭部関連伝達関数（ＨＲＴＦ）メモリ４２５に結合されてもよい。ＧＰＵ４２０は、画像毎に変調された光４２４の左源に結合される、左チャネル出力と、画像毎に変調された光４２６の右源に結合される、右チャネル出力とを含むことができる。ＧＰＵ４２０は、例えば、図２Ａ－２Ｄに関して上記に説明されるように、立体視画像データを画像毎に変調された光４２４、４２６の源に出力することができる。ＤＳＰオーディオ空間化装置４２２は、オーディオを左スピーカ４１２および／または右スピーカ４１４に出力することができる。ＤＳＰオーディオ空間化装置４２２は、プロセッサ４１９から、ユーザから仮想音源（例えば、ハンドヘルドコントローラ３２０を介して、ユーザによって移動され得る）への方向ベクトルを示す入力を受信することができる。方向ベクトルに基づいて、ＤＳＰオーディオ空間化装置４２２は、対応するＨＲＴＦを決定することができる（例えば、ＨＲＴＦにアクセスすることによって、または複数のＨＲＴＦを補間することによって）。ＤＳＰオーディオ空間化装置４２２は、次いで、決定されたＨＲＴＦを仮想オブジェクトによって生成された仮想音に対応するオーディオ信号等のオーディオ信号に適用することができる。これは、複合現実環境内の仮想音に対するユーザの相対的位置および配向を組み込むことによって、すなわち、その仮想音が実環境内の実音である場合に聞こえるであろうもののユーザの予期に合致する仮想音を提示することによって、仮想音の信憑性および現実性を向上させることができる。
【0051】
図４に示されるようないくつかの実施例では、プロセッサ４１６、ＧＰＵ４２０、ＤＳＰオーディオ空間化装置４２２、ＨＲＴＦメモリ４２５、およびオーディオ／視覚的コンテンツメモリ４１８のうちの１つまたはそれを上回るものは、補助ユニット４００Ｃ（上記に説明される補助ユニット３２０に対応し得る）内に含まれてもよい。補助ユニット４００Ｃは、バッテリ４２７を含み、そのコンポーネントを給電し、および／または電力をウェアラブル頭部デバイス４００Ａまたはハンドヘルドコントローラ４００Ｂに供給してもよい。そのようなコンポーネントを、ユーザの腰部に搭載され得る、補助ユニット内に含むことは、ウェアラブル頭部デバイス４００Ａのサイズおよび重量を限定することができ、これは、ひいては、ユーザの頭部および頸部の疲労を低減させることができる。
【0052】
図４は、例示的複合現実システムの種々のコンポーネントに対応する要素を提示するが、これらのコンポーネントの種々の他の好適な配列も、当業者に明白となるであろう。例えば、補助ユニット４００Ｃと関連付けられているような図４に提示される要素は、代わりに、ウェアラブル頭部デバイス４００Ａまたはハンドヘルドコントローラ４００Ｂと関連付けられ得る。さらに、いくつかの複合現実システムは、ハンドヘルドコントローラ４００Ｂまたは補助ユニット４００Ｃを完全に無くしてもよい。そのような変更および修正は、開示される実施例の範囲内に含まれるものとして理解されるべきである。
【0053】
複合現実ビデオ捕捉
【0054】
ＡＲ／ＭＲ体験を捕捉および記録することは、２次元ビデオを捕捉するより複雑であり得、新規問題を提示し得る。例えば、２次元ビデオ記録システムは、情報の１つのストリーム（例えば、ビデオ記録システム上の光学／画像センサが捕捉し得る内容）のみを捕捉し得る。他方で、ＡＲ／ＭＲ体験は、情報の２つまたはそれを上回るストリームを有し得る。例えば、情報の１つのストリームは、２次元ビデオであり得、情報の別のストリームは、レンダリングされた仮想コンテンツであり得る。時として、情報の３つまたはそれを上回るストリームが、使用され得る（例えば、ステレオビデオが、付随の仮想コンテンツとともに、２つの２次元ビデオから捕捉されるとき）。情報の複数のストリームを正確なＡＲ／ＭＲ記録に組み合わせることは、複数のストリーム間の目線における差異を考慮することを含み得る。さらに、特に、限定されたバッテリ電力および／または処理電力を有し得る、ポータブルＡＲ／ＭＲシステムのために、組み合わせプロセスを算出上効率的様式においてハンドリングすることが有益であり得る。
【0055】
ユーザは、ＡＲ／ＭＲコンテンツの捕捉および記録の両方を生じさせ得る。いくつかの実施形態では、ユーザは、個人的ＡＲ／ＭＲコンテンツを記録し、ソーシャルメディアに共有することを所望し得る（例えば、子供達が遊んでいる様子のＡＲ／ＭＲ記録）。いくつかの実施形態では、ユーザは、商業用ＡＲ／ＭＲコンテンツ（例えば、広告）を記録および共有することを所望し得る。記録されたＡＲ／ＭＲコンテンツは、２次元画面（例えば、仮想コンテンツの１つのストリームと実コンテンツの１つのストリームを組み合わせることによって）および他のＭＲシステム（例えば、仮想コンテンツの２つのストリームと実コンテンツの２つのストリームを組み合わせることによって）の両方に共有されてもよい。ＡＲ／ＭＲシステムのオリジナルユーザは、透過性光学系を通して（例えば、部分的透過性レンズを通して）、実環境を体験し得るが、記録されたＡＲ／ＭＲコンテンツを視認する、視認者は、同一実環境内に存在し得ない。完全ＡＲ／ＭＲ記録を視認者に提示することは、したがって、仮想コンテンツが実環境のビデオ捕捉上にオーバーレイされ得るように、実環境のビデオ捕捉を含み得る。
【0056】
ＭＲＥをビデオ記録内で捕捉することは、ＭＲＥを表示することに加え、付加的課題を提示し得る。例えば、複合現実ビデオ捕捉は、２つの記録ストリーム、すなわち、実環境記録ストリームと、仮想環境記録ストリームとを含み得る。実環境記録ストリームは、１つまたはそれを上回る光学センサ（例えば、カメラ）を使用して、捕捉されることができる。１つまたはそれを上回る光学センサをＡＲ／ＭＲシステム（例えば、ＭＲシステム１１２、２００）上に搭載することが有利であり得る。ＡＲ／ＭＲシステムがウェアラブル頭部デバイスである、実施形態では、１つまたはそれを上回る光学センサは、ユーザの眼に近接近して、随意に、ユーザの眼と同一方向に面して、ウェアラブル頭部デバイス上に搭載されることができる。説明される搭載システムでは、１つまたはそれを上回る光学センサは、ユーザが実環境を体験する方法と非常に近似して、実環境のビデオ記録を捕捉するように位置付けられることができる。
【0057】
仮想環境記録ストリームは、ユーザに表示されている仮想コンテンツを記録することによって、捕捉されることができる。いくつかの実施形態では、ＡＲ／ＭＲシステム（例えば、ＭＲシステム１１２、２００）は、同時に、仮想コンテンツの２つのストリームをユーザに表示し（例えば、眼毎に、１つのストリーム）、立体視ビューをユーザに提供することができる。各仮想レンダリングは、若干異なる目線（ユーザの左眼と右眼との間の目線における差異に対応し得る）からレンダリングされることができ、目線における差異は、仮想コンテンツを３次元で現れさせることができる。仮想環境記録ストリームは、ユーザの眼に表示される、仮想レンダリングの一方または両方を含むことができる。いくつかの実施形態では、仮想レンダリングは、実環境記録ストリームでオーバーレイされ、ユーザがＡＲ／ＭＲシステムを使用するときに体験する、ＭＲＥをシミュレートすることができる。実環境記録ストリームのために使用される１つまたはそれを上回る光学センサに場所が物理的に最も近い、ユーザの眼のためにレンダリングされた仮想レンダリングを使用することが、有益であり得る。ユーザの眼（およびその対応する目線のためにレンダリングされた仮想レンダリング）と光学センサの物理的近接度は、目線における最小限の偏移のため、組み合わせプロセスをより正確にさせ得る。
【0058】
実環境記録ストリームと仮想環境記録ストリームを組み合わせることから生じ得る、１つの問題は、２つの記録ストリームが、同一分解能および／またはアスペクト比を有していない場合があることである。例えば、実環境記録ストリームは、１，９２０×１，０８０ピクセルの分解能でビデオを捕捉し得るが、仮想環境記録ストリームは、１，２８０×７２０ピクセルの分解能でのみ仮想コンテンツをレンダリングし得る。生じ得る、別の問題は、実環境記録ストリームが、仮想環境記録ストリームと同一視野を有していない場合があることである。例えば、カメラは、レンダリングされる仮想環境記録ストリームより大きい視野を使用して、実環境記録ストリームを捕捉し得る。故に、より多くの情報（例えば、より大きい視野）が、仮想環境記録ストリームにおいてより実環境記録ストリームにおいて捕捉され得る。いくつかの実施形態では、仮想コンテンツの視野の視野外にある、実コンテンツは、対応するレンダリングされた仮想コンテンツを仮想レンダリング内に有していない場合がある。実環境記録ストリームが、仮想環境記録ストリームとマージされるとき、人工「境界線」が、組み合わせられたビデオ内に存在し得、その外側では、仮想コンテンツは、表示されないが、実コンテンツは、依然として、記録および表示される。本境界線は、仮想コンテンツと実コンテンツの統合から注意を逸らし得るため、視認者にとって不快であり得る。これはさらに、不正確性を視認者に提示し得る。例えば、カメラによって記録される実オブジェクトは、対応する仮想コンテンツ（例えば、情報オーバーレイ）を有し得る。しかしながら、実オブジェクトが、仮想レンダリングの視野の外側にあるが、依然として、カメラの視野内にある場合、対応する仮想コンテンツは、実オブジェクトが人工境界線内に移動するまで、視認者に表示され得ない。本挙動は、実オブジェクトの対応する仮想コンテンツが、実オブジェクトが境界線に関連して存在する場所に応じて、可視である場合とそうではない場合があるため、ＡＲ／ＭＲ記録の視認者を混乱させ得る。
【0059】
図５Ａは、仮想コンテンツと実コンテンツとの間の境界線を軽減および／または排除し得る、例示的実施形態を図示する。示される例示的実施形態は、上記に説明される例示的複合現実システム２００のウェアラブル頭部デバイス２１０２、ハンドヘルドコントローラ３００、および補助ユニット３２０のうちの１つまたはそれを上回るもの等の複合現実システムの１つまたはそれを上回るコンポーネントを使用して、実装されることができる。描写される実施形態では、ＲＧＢカメラは、ユーザの左眼の近傍に位置することができる。ＲＧＢカメラは、ビュー５０２を記録することができ、これは、ユーザの左眼に提示される、仮想レンダリングのビュー５０４（および／またはビュー５０６）と重複し、および／またはそれを含むことができる。ビュー５０２は、ビュー５０４より大きくてもよく、したがって、ビュー５０４をビュー５０２上に組み合わせる（例えば、オーバーレイまたは重畳する）ことは、人工境界線５０３をもたらし得る。本実施形態では、ＡＲ／ＭＲ記録は、実コンテンツをビュー５０２の全体に表示し得るが、仮想コンテンツは、境界線５０３内にのみ示され得る。境界線５０３は、仮想コンテンツが、境界線５０３の外側（少なくとも、ビュー５０２内）に存在し得るが、仮想コンテンツが、仮想コンテンツが境界線５０３内に移動するまで、表示され得ないため、視認者にとって不快であり得る。境界線５０３を軽減および／または排除するための１つのソリューションは、ビュー５０２を境界線５０３のサイズおよび場所に対してクロッピングすることである。クロッピングされたビューは、実コンテンツと同一方法において定寸され、統合および没入型の視認体験を作成する、仮想コンテンツをもたらし得る。しかしながら、クロッピングされたビューは、ＲＧＢカメラによって捕捉された情報を「破棄」することによって、視認者のための視認可能面積を低減させ得る。
【0060】
図５Ｂは、ビュー５０２およびビュー５０４からの目線をマージするための例示的実施形態を図示する。示される例示的実施形態は、上記に説明される例示的複合現実システム２００のウェアラブル頭部デバイス２１０２、ハンドヘルドコントローラ３００、および補助ユニット３２０のうちの１つまたはそれを上回るもの等の複合現実システムの１つまたはそれを上回るコンポーネントを使用して、実装されることができる。ＲＧＢカメラは、焦点５１０（ユーザの左眼の中心に対応し得る）からオフセットされた焦点５０８を有し得るため、ビュー５０２は、ビュー５０４と異なる目線を提示し、実コンテンツと「同期」（例えば、整列および／または整合）され得ない、仮想コンテンツをもたらし得る。これは、仮想コンテンツが実コンテンツに適切に対応し得ず（例えば、仮想オブジェクトの顔が、ユーザの眼の目線から可視であるが、ＲＧＢカメラの目線から可視であるべきではない場合）、これが、ＡＲ／ＭＲ記録の没入感を破壊し得るため、問題となり得る。１つのソリューションは、平面投影を使用して、ビュー５０４をビュー５０２に「マッピング」することであり得る。平面投影では、ビュー５０４内の１つまたはそれを上回る点Ｐ１が、焦点５０８とビュー５０２内の対応する１つまたはそれを上回る点Ｐ２との間の線上にマッピングされ得る（またはその逆）。これは、コンピュータビジョンアルゴリズムを使用して行われることができ、これは、１つまたはそれを上回る点Ｐ１における観察が１つまたはそれを上回る点Ｐ２における観察と同一特徴の観察であることを決定し得る。マッピングされた組み合わせは、異なる焦点５０８、５１０に起因する、目線における差異を軽減させることができる。いくつかの実施形態では、組み合わせられたＡＲ／ＭＲ記録は、仮想コンテンツがＡＲ／ＭＲシステムのユーザに表示されるものとほぼ同一方法において、仮想コンテンツを表示することができる。しかしながら、上記に説明されるように、いくつかの実施形態では、ＲＧＢカメラによって捕捉された有用な情報は、実コンテンツと仮想コンテンツとの間の人工境界線を回避するために、破棄され得る。
【0061】
図６は、ＡＲ／ＭＲ記録を生産するための例示的実施形態を図示する。示される例示的実施形態は、上記に説明される例示的複合現実システム２００のウェアラブル頭部デバイス２１０２、ハンドヘルドコントローラ３００、および補助ユニット３２０のうちの１つまたはそれを上回るもの等の複合現実システムの１つまたはそれを上回るコンポーネントを使用して、実装されることができる。ＡＲ／ＭＲシステム（例えば、ＭＲシステム１１２、２００）は、仮想コンテンツを１つまたはそれを上回る目線からレンダリングすることができる（例えば、仮想コンテンツは、ユーザの左眼の目線から１回、目線ユーザの右眼の目線から１回、レンダリングされることができる）。ＡＲ／ＭＲシステムはまた、３回目として、ユーザの眼（例えば、ユーザの左眼）の近傍に位置し、ユーザの前方視線とほぼ同一方向に面し得る、ＲＧＢカメラの目線から、仮想コンテンツをレンダリングする。いくつかの実施形態では、仮想コンテンツの本３回目のパスレンダリングは、ＲＧＢカメラの同一分解能、アスペクト比、および／または視野に対してレンダリングされることができる。これは、ＡＲ／ＭＲ記録が、ＲＧＢカメラまたは仮想レンダリングのいずれかからの任意の情報を破棄せずに、同期された仮想コンテンツおよび実コンテンツを用いて生成されることを可能にすることができる。しかしながら、いくつかの実施形態では、仮想コンテンツの３回目のパスレンダリングは、算出上高価であり得る。３回目のパスレンダリングは、完全幾何学形状パスを含み得、これは、完全ドローコールおよび／またはラスタ化を含み得る。付加的詳細は、米国特許出願第１５／９２４，１４４号（その内容は、参照することによってその全体として本明細書に組み込まれる）に見出されることができる。３回目のパスレンダリングを限定されたコンピューティングリソースを伴うポータブルＡＲ／ＭＲシステム上で実施することは、実行不可能であり得る（例えば、ＡＲ／ＭＲシステムは、ユーザの２つの眼のためにすでに２回レンダリングしているため）。さらに、より高い算出負荷の結果として、付加的電力を消費し得、これは、ポータブル電力に依拠するＡＲ／ＭＲシステムにとって、バッテリ寿命に悪影響を及ぼし得る。
【0062】
図７は、ＡＲ／ＭＲ記録を生産するための例示的実施形態を図示する。示される例示的実施形態は、上記に説明される例示的複合現実システム２００のウェアラブル頭部デバイス２１０２、ハンドヘルドコントローラ３００、および補助ユニット３２０のうちの１つまたはそれを上回るもの等の複合現実システムの１つまたはそれを上回るコンポーネントを使用して、実装されることができる。ＡＲ／ＭＲシステム（例えば、ＭＲシステム１１２、２００）は、仮想コンテンツを１つまたはそれを上回る目線からレンダリングすることができる（例えば、仮想コンテンツは、ユーザの左眼の目線から１回、ユーザの右眼の目線から１回、レンダリングされることができる）。いくつかの実施形態では、２つの仮想レンダリング（例えば、眼毎に、１つ）は、非均一であり得る。例えば、ユーザの左眼のための仮想レンダリングは、ビュー７０２に対してレンダリングし得、これは、ユーザの右眼のための仮想レンダリングと異なり得、これは、ビュー７０６に対してレンダリングし得る。ビュー７０６は、ユーザの右眼のための視野とほぼ同一サイズであり得る（例えば、したがって、ユーザに表示されないであろう、仮想コンテンツは、レンダリングされず、それによって、算出負荷を最小限にする）。ビュー７０２は、ビュー７０６より大きくあり得、ユーザの左眼に可視のものより大きい視野をレンダリングし得る。ビュー７０２は、ビュー７０４を含むことができ、これは、ユーザの左眼に利用可能な視野であり得る（例えば、ユーザに表示される、全ての仮想コンテンツは、ユーザに表示され得ない、いくつかの仮想コンテンツに加え、ビュー７０２内に含まれることができる）。ビュー７０２は、随意に、ビュー７０８と同一またはほぼ同一視野を有することができ、これは、ＲＧＢカメラに利用可能な視野であり得る（例えば、ユーザの左眼の近傍に置かれ、ユーザの前方視線と同一方向に面している、ＲＧＢカメラ）。
【0063】
ＡＲ／ＭＲ記録の間、ビュー７０２および７０６が、レンダリングされることができる（例えば、ＭＲシステム１１２、２００によって）。ビュー７０２は、ビュー７０４にクロッピングされ得、これは、ビュー７０６と同一視野を有し得るが、ビュー７０４は、若干異なる目線からレンダリングされ得る（例えば、右眼の目線からの代わりに、左眼の目線から）。ビュー７０４および７０６は、仮想コンテンツをユーザに表示することができ、ビュー７０４および７０６は、立体視像を作成し、３次元仮想コンテンツをシミュレートすることができる。ＲＧＢカメラは、同時に、ユーザの目線と類似目線から、実環境のビデオを記録することができる（例えば、ＲＧＢカメラは、ユーザの眼のうちの１つの近傍に置かれてもよい）。本実環境記録ストリームは、次いで、ビュー７０２（仮想環境記録ストリームであり得る）と組み合わせられ、ＭＲ記録を作成することができる。いくつかの実施形態では、ビュー７０２からの仮想環境記録ストリームは、ビュー７０８とほぼ同一分解能、アスペクト比、および／または視野であり得る。故に、実環境記録ストリームと仮想環境記録ストリームを組み合わせる、ＡＲ／ＭＲ記録は、ＲＧＢカメラによって捕捉された情報および／または仮想レンダリングを殆どまたは全く破棄しなくてもよい。さらに、２つのレンダリングパスのうちの１つを拡張させることが、完全な３回目のパスレンダリングを使用するより算出上効率的であり得るため、非均一立体視仮想コンテンツをレンダリングすることが有益であり得る。既存のレンダリングパスを拡張させることは、付加的ピクセルのための付加的ラスタ化のみを含み得、（いくつかの実施形態における、３回目のパスレンダリングと異なり）完全幾何学形状パスを含まなくてもよい。
【0064】
図８は、拡張ビデオ捕捉であり得る、ＡＲ／ＭＲ記録を生成するための例示的プロセスを図示する。示される例示的プロセスは、上記に説明される例示的複合現実システム２００のウェアラブル頭部デバイス２１０２、ハンドヘルドコントローラ３００、および補助ユニット３２０のうちの１つまたはそれを上回るもの等の複合現実システムの１つまたはそれを上回るコンポーネントを使用して、実装されることができる。ステップ８０２では、拡張ビデオ捕捉を開始するための要求が、受信され得る。要求は、ユーザによって開始される（例えば、ユーザが、記録を開始するための設定を選択する、またはユーザが、記録を開始するように声を出して発話し、ＡＲ／ＭＲシステムが、ユーザ要求として処理し得る、またはユーザが、ジェスチャを実施し、ＡＲ／ＭＲシステムが、ユーザ要求として処理し得る）、または自動化される（例えば、コンピュータビジョンアルゴリズムが、機械学習アルゴリズムがユーザに関心がある可能性が高いと決定した、場面を検出し、ＭＲシステムが、故に、自動的に、記録を開始する）ことができる。ステップ８０４では、ユーザの姿勢およびＲＧＢカメラの姿勢が、決定／推定され得る。ユーザの姿勢は、３次元環境内のユーザの位置および／または配向に関する情報を含むことができる。ユーザの姿勢は、ＡＲ／ＭＲシステムの姿勢と同一または類似し得る（例えば、ＡＲ／ＭＲシステムが、ユーザの頭部に対して固定され得る、ウェアラブル頭部デバイスである場合）。姿勢は、ＳＬＡＭ、視覚的慣性オドメトリのような方法、および／または他の適切な方法を使用して、推定されることができる。ＲＧＢカメラの姿勢は、独立して、決定／推定される、および／またはＡＲ／ＭＲシステムの姿勢（ユーザの姿勢に近似し得る）から導出されてもよい。例えば、ＲＧＢカメラは、ＡＲ／ＭＲシステムに既知であり得る、固定された場所において、ＡＲ／ＭＲシステム上に搭載されることができる。ＡＲ／ＭＲシステムは、ＡＲ／ＭＲシステムに対するＲＧＢカメラの場所と組み合わせて、その独自の推定される姿勢を利用して、ＲＧＢカメラの姿勢を決定／推定することができる。ステップ８０６では、仮想コンテンツが、ユーザおよび／またはＡＲ／ＭＲシステムに関する姿勢推定に基づいて、ユーザの第１の眼（例えば、ユーザの右眼）のためにレンダリングされることができる。仮想コンテンツは、ユーザの眼（例えば、ユーザの第１の眼）の中心に位置付けられ得る、第１の仮想カメラをシミュレートすることによってレンダリングされる。
【0065】
ステップ８０８では、仮想コンテンツが、ユーザおよび／またはＡＲ／ＭＲシステムおよびＲＧＢカメラに関する姿勢推定に基づいて、ユーザの第２の眼（例えば、ユーザの左眼）のためにレンダリングされ得る。ユーザの第２の眼のためにレンダリングされた仮想コンテンツは、ユーザの眼（例えば、ユーザの第２および／または左眼）の中心に位置付けられ得る、第２の仮想カメラをシミュレートすることができる。ユーザの第２の眼のためにレンダリングされた仮想コンテンツは、ユーザの第１の眼のためにレンダリングされた仮想コンテンツと比較した、目線および／または仮想カメラ場所の変化に加え、他の変化も含むことができる。いくつかの実施形態では、第２の仮想カメラ（例えば、ＲＧＢカメラと合成されるべき仮想カメラであって、これはまた、ユーザの左眼のために仮想カメラでもあり得る）のフレームバッファサイズ（例えば、像面サイズ）は、ユーザの第１の眼のための仮想カメラ（例えば、第１の仮想カメラ）のフレームバッファサイズと比較して、増加されることができる。第２の眼のためのフレームバッファのアスペクト比は、第１の眼のためのフレームバッファのアスペクト比に合致し得る（但し、他のアスペクト比が、使用されてもよい）。いくつかの実施形態では、第２の眼のための仮想カメラの投影行列は、第１の眼のための仮想カメラと比較して、より大きい視野がレンダリングされるように、変化されることができる。仮想カメラの投影行列を変化させ、より大きいフレームバッファサイズを考慮することが望ましくあり得る。視野を増加させ、および／または仮想カメラの投影行列を変化させ、より大きいフレームバッファサイズを考慮することの失敗は、立体視効果が低減および／または喪失され得るように、異なる眼に提示される仮想コンテンツに合致しない、仮想コンテンツをもたらし得る。いくつかの実施形態では、増加された視野および／または変化された投影行列は、ユーザの第２の眼の近傍に位置するＲＧＢカメラと同一視野を伴う、仮想レンダリングを生産することができる。いくつかの実施形態では、ビュー行列は、仮想カメラがＲＧＢカメラと合成されるように、不変のままであり得る（例えば、仮想カメラは、依然として、標的に対して同一ベクトルを伴う同一位置からレンダリングすることができる）。いくつかの実施形態では、最小クリッピング距離（例えば、ユーザの眼から仮想コンテンツまでの最小距離であって、それを下回ると、仮想コンテンツは、レンダリングされ得ない）は、仮想オブジェクトが、ＲＧＢカメラの視野の外側にあるが、ユーザの第２の眼の中心に位置付けられる仮想カメラの視野の内側にあり得る、領域内にレンダリングされないように防止し得る。
【0066】
ステップ８１０では、ステップ８０８において第２の眼のためにレンダリングされた仮想コンテンツが、ユーザの第２の眼への表示のために、クロッピングされる得る。いくつかの実施形態では、拡張された視野の中心はまた、ユーザの第２の眼に提示されるクロッピングされた視野の中心であることができる。クロッピングされた視野は、ユーザの第１の眼のためにレンダリングされた仮想コンテンツのための視野と同一サイズであることができる。ユーザの第１の眼のためにレンダリングされた仮想コンテンツおよびユーザの第２の眼のためにレンダリングされたクロッピングされた仮想コンテンツは、組み合わせられ、ユーザに表示される仮想コンテンツのための立体視効果を生産することができ、これは、仮想コンテンツの３次元性をシミュレートすることができる。ステップ８１２では、仮想コンテンツが、ユーザに表示され得る。いくつかの実施形態では、ステップ８０６、８０８、および／または８１０は、同時または実質的に同時に起こることができる。例えば、ＡＲ／ＭＲシステムは、ユーザの第１の眼およびユーザの第２の眼のための仮想コンテンツをレンダリングし、ユーザの第２の眼のためにレンダリングされた仮想コンテンツをクロッピングし、殆どまたは全く知覚可能遅延を伴わずに、立体視仮想コンテンツをユーザに表示し得る（例えば、立体視仮想コンテンツは、ユーザが実環境を見回すにつれて、実コンテンツを追跡し得る）。
【0067】
ステップ８１４では、ＲＧＢビデオ捕捉が、開始し得る（例えば、ＡＲ／ＭＲシステム上に搭載されるＲＧＢカメラを使用して）。ステップ８１６では、拡張された（例えば、クロッピングされていない）仮想コンテンツ視野が、捕捉されたＲＧＢビデオと合成され得る。例えば、拡張された仮想コンテンツ視野は、捕捉されたＲＧＢビデオ上に投影されることができる（例えば、平面投影を使用して）。いくつかの実施形態では、捕捉されたＲＧＢビデオは、仮想コンテンツ視野上に投影されることができる（例えば、平面投影を使用して）。いくつかの実施形態では、仮想コンテンツ視野は、ＲＧＢカメラの視野と同一サイズであることができる。これは、ＲＧＢカメラ情報および／または仮想情報の非常にわずかな損失をもたらし得る。いくつかの実施形態では、一部の情報は、投影プロセスの結果として、喪失され得る。いくつかの実施形態では、仮想コンテンツ視野は、ＲＧＢカメラのより大きい視野であり得、したがって、投影に起因する損失は、ＲＧＢカメラによって捕捉された情報を破棄することを要求し得ない。いくつかの実施形態では、仮想コンテンツ視野は、ＲＧＢカメラのより小さい視野であり得、したがって、投影に起因する損失は、ＲＧＢカメラによって捕捉された情報を破棄することを要求し得る。ステップ８１８では、拡張ビデオ捕捉が、構成および記憶され得る。いくつかの実施形態では、拡張ビデオ捕捉は、記録ＡＲ／ＭＲシステムのユーザに提示されたものより多くの情報を表示することができる。例えば、ＡＲ／ＭＲ記録は、ＡＲ／ＭＲシステムを使用している間のユーザの視野と比較して、拡張された視野を有することができる。
【0068】
図９は、ステップ８１６および８１８に対応し得る、拡張ビデオ捕捉を構成および記憶するための例示的システムを図示する。示される例示的システムは、上記に説明される例示的複合現実システム２００のウェアラブル頭部デバイス２１０２、ハンドヘルドコントローラ３００、および補助ユニット３２０のうちの１つまたはそれを上回るもの等の複合現実システムの１つまたはそれを上回るコンポーネントを使用して、実装されることができる。カメラ９０２からのカメラ画像フレームが、ユーザの頭部／眼に関する姿勢データおよび／またはＩＭＵ９０４からのカメラに関する姿勢データとともに、合成器９０６に送信されることができる。姿勢データは、次いで、合成器９０６からＡＲ／ＭＲアプリケーションおよび／またはグラフィック処理ユニット（「ＧＰＵ」）９０８に送信され得、これは、情報（例えば、モデル）を３Ｄデータベースから引き出すことができる。ＡＲ／ＭＲアプリケーション９０８は、拡張された仮想レンダリングを合成器９０６に送信することができる。合成器９０６は、次いで、カメラ９０２からのカメラ画像フレームで拡張された仮想レンダリングを構成し（例えば、平面投影を使用して）、構成されたフレームをメディアエンコーダ９１２に送信することができる。メディアエンコーダ９１２は、次いで、記憶のために、エンコーディングされた画像フレームを記録データベース９１４に送信することができる。
【0069】
１つのＲＧＢカメラを伴う実施形態が、上記に説明されているが、また、本明細書に説明されるシステムおよび方法は、任意の数のＲＧＢカメラに適用することができることが検討される。例えば、２つのＲＧＢカメラが、使用されてもよく、１つのＲＧＢカメラは、ユーザの眼のそれぞれの近傍に搭載される。眼毎の仮想レンダリングは、次いで、その両方とも、拡張され（但し、限定された視野のみが、使用の間、ユーザに提示され得る）、ＲＧＢカメラの視野上に投影されてもよい（ＲＧＢカメラ画像もまた、仮想画像の中に投影されてもよい）。これは、立体視拡張ビデオ捕捉を可能にすることができ、特に、別のＭＲシステム上での再生のために好適であり得、これは、２Ｄ画面上での再生より没入型の体験を提供することができる。また、システムおよび方法は、ＲＧＢカメラの目線を可能な限りユーザの眼の目線に近くなるように偏移させるために使用されてもよいことが検討される。例えば、ミラーおよび／または他の光学要素が、ＲＧＢカメラがコンテンツをユーザの眼と同一（またはほぼ同一）目線から視認するように、光を反射させるために使用されてもよい。拡張ビデオ捕捉はまた、合成されたビデオに加え、合成されたオーディオを含むことができる。例えば、仮想オーディオ信号が、記録され、記録された実オーディオ信号（ＭＲシステム上の１つまたはそれを上回るマイクロホンによって捕捉されてもよい）と合成されてもよい。合成されたオーディオはさらに、合成されたビデオと同期されてもよい。
【0070】
開示される実施例は、付随の図面を参照して完全に説明されたが、種々の変更および修正が、当業者に明白となるであろうことに留意されたい。例えば、１つまたはそれを上回る実装の要素は、組み合わせられ、削除され、修正され、または補完され、さらなる実装を形成してもよい。そのような変更および修正は、添付の請求項によって定義されるような開示される実施例の範囲内に含まれるものとして理解されるべきである。
【図1A】
【図1B】
【図1C】
【図2A】
【図2B】
【図2C】
【図2D】
【図3A】
【図3B】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【国際調査報告】