特許第5801401号(P5801401)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ マイクロソフト テクノロジー ライセンシング,エルエルシーの特許一覧

特許5801401透過頭部装着ディスプレイ用不透明フィルター
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】5801401
(24)【登録日】2015年9月4日
(45)【発行日】2015年10月28日
(54)【発明の名称】透過頭部装着ディスプレイ用不透明フィルター
(51)【国際特許分類】
   G02B 27/02 20060101AFI20151008BHJP
   G02B 27/22 20060101ALI20151008BHJP
   H04N 5/64 20060101ALI20151008BHJP
【FI】
   G02B27/02 Z
   G02B27/22
   H04N5/64 511A
【請求項の数】11
【全頁数】28
(21)【出願番号】特願2013-530156(P2013-530156)
(86)(22)【出願日】2011年8月24日
(65)【公表番号】特表2013-542462(P2013-542462A)
(43)【公表日】2013年11月21日
(86)【国際出願番号】US2011048880
(87)【国際公開番号】WO2012039877
(87)【国際公開日】20120329
【審査請求日】2014年8月11日
(31)【優先権主張番号】12/887,426
(32)【優先日】2010年9月21日
(33)【優先権主張国】US
(73)【特許権者】
【識別番号】314015767
【氏名又は名称】マイクロソフト テクノロジー ライセンシング,エルエルシー
(74)【代理人】
【識別番号】100140109
【弁理士】
【氏名又は名称】小野 新次郎
(74)【代理人】
【識別番号】100075270
【弁理士】
【氏名又は名称】小林 泰
(74)【代理人】
【識別番号】100101373
【弁理士】
【氏名又は名称】竹内 茂雄
(74)【代理人】
【識別番号】100118902
【弁理士】
【氏名又は名称】山本 修
(74)【代理人】
【識別番号】100153028
【弁理士】
【氏名又は名称】上田 忠
(74)【代理人】
【識別番号】100120112
【弁理士】
【氏名又は名称】中西 基晴
(74)【代理人】
【識別番号】100196508
【弁理士】
【氏名又は名称】松尾 淳一
(74)【代理人】
【識別番号】100147991
【弁理士】
【氏名又は名称】鳥居 健一
(74)【代理人】
【識別番号】100119781
【弁理士】
【氏名又は名称】中村 彰吾
(74)【代理人】
【識別番号】100162846
【弁理士】
【氏名又は名称】大牧 綾子
(74)【代理人】
【識別番号】100173565
【弁理士】
【氏名又は名称】末松 亮太
(74)【代理人】
【識別番号】100138759
【弁理士】
【氏名又は名称】大房 直樹
(72)【発明者】
【氏名】バー−ジーブ,アヴィ
(72)【発明者】
【氏名】クロッコ,ボブ
(72)【発明者】
【氏名】キップマン,アレックス・エイベン−エイサー
(72)【発明者】
【氏名】ルイス,ジョン
【審査官】 右田 昌士
(56)【参考文献】
【文献】 特開平05−328260(JP,A)
【文献】 特開平08−160340(JP,A)
【文献】 特開2000−276613(JP,A)
【文献】 特開2008−078908(JP,A)
【文献】 特開平07−038825(JP,A)
【文献】 国際公開第2010/087293(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G02B 27/01 − 27/02
G02B 27/22 − 27/26
H04N 5/64
G06T 1/00 − 9/40
(57)【特許請求の範囲】
【請求項1】
光学透過頭部装着ディスプレイ・デバイスであって、
ユーザーが前記ディスプレイを装着すると当該ユーザーの目と実世界場面との間に及ぶ透過レンズであって、複数の画素を有する不透明フィルターを備えており、各画素が、前記画素の不透明度を調節するように制御可能であり、ディスプレイ・コンポーネントを備えている、透過レンズと、
前記ディスプレイ・コンポーネントを用いて前記ユーザーの目に光を放出する拡張現実発光体であって、前記光が形状を有する拡張現実画像を表す、拡張現実発光体と、
前記ユーザーの目の視界から、前記拡張現実画像の後ろにある画素に対して、不透明度を増大させるように前記不透明フィルターを制御する少なくとも1つの制御部であって、前記不透明度を増大させた画素が、前記拡張現実画像の形状にしたがって供給される、制御部と、
を備えている、光学透過頭部装着ディスプレイ・デバイスにおいて、
前記拡張現実発光体が、前記ユーザーの目の視野の第1角度範囲(α1)に限定され、
前記不透明フィルターが、前記第1角度範囲と、前記視野の更に周辺に広がる角度範囲とを含む第2角度範囲(α2)に及ぶ、光学透過頭部装着ディスプレイ・デバイス
【請求項2】
請求項1記載の光学透過頭部装着ディスプレイ・デバイスにおいて、
前記透過レンズが、前記ユーザーの頭部に装着されるフレームに取り付けられ、
前記光学透過頭部装着ディスプレイ・デバイスが、更に、前記フレームに対する前記ユーザーの目の位置を追跡する追跡コンポーネントを備えており、
前記少なくとも1つの制御部が、前記フレームに対する前記ユーザーの目の位置に応答する、光学透過頭部装着ディスプレイ・デバイス。
【請求項3】
請求項2記載の光学透過頭部装着ディスプレイ・デバイスにおいて、
前記少なくとも1つの制御部が、前記拡張現実画像の後ろにある前記画素と、前記拡張現実画像との位置合わせを、前記フレームに対する前記ユーザーの目の位置に対応して維持する、光学透過頭部装着ディスプレイ・デバイス。
【請求項4】
請求項2記載の光学透過頭部装着ディスプレイ・デバイスにおいて、
前記少なくとも1つの拡張現実発光体が、前記拡張現実画像と、前記拡張現実画像の後ろにある前記画素との位置合わせを、前記フレームに対する前記ユーザーの目の位置に対応して維持する、光学透過頭部装着ディスプレイ・デバイス。
【請求項5】
請求項1〜4のいずれか一項に記載の光学透過頭部装着ディスプレイ・デバイスにおいて、
前記少なくとも1つの制御部が、前記拡張現実画像の周囲に、暗化領域を設けるために、前記不透明フィルターの内前記拡張現実画像を包囲する画素に対して、不透明度を増大させる、光学透過頭部装着ディスプレイ・デバイス。
【請求項6】
請求項1〜5のいずれか一項に記載の光学透過頭部装着ディスプレイ・デバイスにおいて、
前記少なくとも1つの制御部が、前記拡張現実画像のために周辺キューを描く(depict)ために、前記更に周辺に広がる角度範囲にある前記不透明フィルターの画素に対して、不透明度を増大させる、光学透過頭部装着ディスプレイ・デバイス。
【請求項7】
請求項1〜6のいずれか一項に記載の光学透過頭部装着ディスプレイ・デバイスにおいて、
前記少なくとも1つの制御部が、前記拡張現実画像の表現を描くために、前記更に周辺に広がる角度範囲にある前記不透明フィルターの画素に対して、不透明度を増大させる、光学透過頭部装着ディスプレイ・デバイス。
【請求項8】
請求項1〜7のいずれか一項に記載の光学透過頭部装着ディスプレイ・デバイスにおいて、
前記少なくとも1つの制御部が、不透明度の漸次遷移を行うように、前記不透明フィルターを制御する、光学透過頭部装着ディスプレイ・デバイス。
【請求項9】
請求項記載の光学透過頭部装着ディスプレイ・デバイスにおいて、
前記拡張現実画像が、前記ユーザーの視野の拡張現実表示領域に及び、前記視野の拡張現実表示領域が境界を有し、
前記拡張現実画像の第1部分が、前記拡張現実画像の第2部分よりも、前記境界から離れており、
前記少なくとも1つの制御部が、前記漸次遷移を行うために、前記拡張現実画像の後ろにあり前記境界から離れている画素に対するよりも、前記拡張現実画像の後ろにあり前記境界に近い画素に対して、低い不透明度を与えるように、前記不透明フィルターを制御する、光学透過頭部装着ディスプレイ・デバイス。
【請求項10】
請求項記載の光学透過頭部装着ディスプレイ・デバイスにおいて、
前記拡張現実画像の一部が前記境界において切除されるとき、前記少なくとも1つの制御部が、前記第1視野の前記拡張現実表示領域の外側にあり、前記境界を越えて前記拡張現実の連続性を表現する画素に対して、高い不透明度を与えるように、前記不透明フィルターを制御する、光学透過頭部装着ディスプレイ・デバイス。
【請求項11】
請求項1〜10のいずれか一項に記載の光学透過頭部装着ディスプレイ・デバイスにおいて、
前記制御部が、前記第1角度範囲の外側かつ前記第2角度範囲の内側である視野の周辺領域において、拡張現実画像の低解像度および焦点はずれバージョンを、前記不透明フィルターを用いて表示することを特徴とする、光学透過頭部装着ディスプレイ・デバイス。
【発明の詳細な説明】
【背景技術】
【0001】
[0001] 頭部装着ディスプレイは、軍事、航空、医療、ビデオ・ゲーミング、娯楽、スポーツ等を含む種々の用途において用いることができる。透過頭部装着ディスプレイは、光学エレメントが1つ以上の小さな微小ディスプレイをユーザーの視線内に追加して、拡張現実画像を供給しながら、ユーザーが彼または彼女の周りにある物理世界を観察することを可能にする。この拡張現実画像は、ユーザーが位置する環境を表す実世界の場面に関係があるのがよい。しかしながら、現実的であり、しかも最大範囲のカラーおよび輝度を表すことができる拡張現実画像を供給するには、種々の課題がある。
【発明の概要】
【0002】
[0002] 光学透過頭部装着ディスプレイ・デバイスを提供する。この頭部装着ディスプレイ・デバイスは、不透明フィルター(opacity filter)を用いて、ユーザーの目に届く実世界場面から選択的に光を除去する。例えば、このフィルターは、拡張現実画像の形状に基づいて光を遮断して、この拡張現実画像が透過性になることを回避することができる。更に、視標追跡コンポーネントを用いて、拡張現実画像および不透明フィルターの不透明度増大画素の位置を調節することができる。
【0003】
[0003] 一実施形態では、光学透過頭部装着ディスプレイ(HMD)デバイスは、ユーザーがディスプレイ・デバイスを装着したときに、ユーザーの目と実世界場面との間に延びる透過レンズを含む。この透過レンズは、画素の格子となっている不透明フィルターを有する。これらの画素は、大量の光を通過させる最低不透明レベルから、光を殆どまたは全く通さない最高不透明レベルまで、その不透明度を調節するように制御することができる。また、透過性レンズは、ディスプレイ・コンポーネントも有する。更に、本デバイスは、マイクロ・ディスプレイのような、少なくとも1つの拡張現実発光体も含む。この発光体は、ディスプレイ・コンポーネントを用いて、ユーザーの目に向けて光を放出する。この光は、形状を有する拡張現実画像を表す。更に、本デバイスは、少なくとも1つの制御部を含む。この制御部は、不透明フィルターを制御して、ユーザーの目の観点から、拡張現実画像の背後にある画素の不透明度を増大させる。この不透明度を増大させた画素は、拡張現実画像の形状にしたがって規定される。
【0004】
[0004] 視標追跡コンポーネントは、フレームに対するユーザーの目の位置を追跡して、HMDデバイスが載せられているフレームに動きがあるときに、不透明度増大画素および/または拡張実現画像の位置を調節できるようにする。このように、特定された画素および拡張現実画像を、これらの互いに対する位置合わせを維持しながら、フレームの移動に基づいてずらすことができる。
【0005】
[0005] この摘要は、詳細な説明の章において以下で更に説明する概念から選択したものを簡略化された形式で紹介するために、設けられている。この摘要は、特許請求する主題の主要な特徴や必須の特徴を特定することを意図するのではなく、特許請求する主題の範囲を限定するために使用されることを意図するのでもない。
【0006】
[0006] 図面において、同様の番号が付けられた要素は互いに対応するものとする。
【図面の簡単な説明】
【0007】
図1図1は、拡張現実機能を有する光学透過HMDデバイスの実施形態例を示す。
図2図2は、図1のHMDデバイスのシステム図を示す。
図3図3Aは、図1のHMDデバイスにおいて拡張現実画像を供給するプロセスを示す。図3Bは、図3Aのステップ306の詳細を示す。
図4A図4Aは、図1または図4Cの拡張現実画像の形状に基づく不透明フィルターの構成例を示す。
図4B図4Bは、図1の実世界場面例120を示す。
図4C図4Cは、図1の拡張現実画像例104を示す。
図4D図4Dは、ユーザーが見る、図1の画像例132を示す。
図5図5は、図4Aの不透明フィルターの構成を設けるための、不透明度増大領域を有する不透明フィルターを示す。
図6図6は、不透明フィルターを用いない場合に得られる、図1の画像例の変形を示す。
図7A図7Aは、ユーザーの頭部に装着したときにおける図1のディスプレイ・デバイスの実施態様例を示す。
図7B図7Bは、図7AのHMDデバイスの更なる詳細を示す。
図7C図7Cは、図1のディスプレイ・デバイスがユーザーの頭部に装着されており、視標追跡コンポーネントが直接前面めがねフレーム上にある場合における、代替実施態様を示す。
図8A1図8A1は、ユーザーの目がHMDデバイスのフレームに対して第1の位置にあるときにおける、実世界画像と不透明フィルターの不透明度増大領域との位置合わせを示す。
図8A2図8A2は、図8A1の実世界場面要素800の正面図を示す。
図8A3図8A3は、図8A1の不透明フィルター領域804の正面図を示す。
図8A4図8A4は、図8A1の拡張現実画像領域805の正面図を示す。
図8B1図8B1は、ユーザーの目がHMDデバイスの第2の位置にあるときにおける、実世界画像と不透明フィルターの不透明度増大領域との位置合わせを示す。
図8B2図8B2は、図8B1の実世界場面要素800の正面図を示す。
図8B3図8B3は、図8B1の不透明フィルター領域806の正面図を示す。
図8B4図8B4は、図8B1の拡張現実画像領域807の正面図を示す。
図9A1図9A1は、ユーザーの目の視野の拡張現実表示領域の中央における、拡張現実画像と不透明フィルターの不透明度増大領域との位置合わせを示す。
図9A2図9A2は、図9A1の不透明フィルター領域902の正面図を示す。
図9A3図9A3は、図9A1の拡張現実画像領域900の正面図を示す。
図9B1図9B1は、図9A1の拡張現実表示領域の周辺境界における、拡張現実画像と不透明フィルターの不透明度増大領域との位置合わせを示す。
図9B2図9B2は、図9B1の不透明フィルター領域920の正面図を示す。
図9B3図9B3は、図9B1の拡張実現画像領域922の正面図を示す。
図9C図9C1は、ユーザーの視野の周辺境界からの距離の関数として、不透明度の漸次変化を示す。図9C2は、図9C1における0とd1との間で溶暗する(fade)、非溶暗部分(non-faded portion)931ならびに連続溶暗部分(successively faded portion)932、933、および934を含む、不透明フィルター領域を示す。図9C3は、図9C1における0とd3との間で溶暗する、非溶暗部分941ならびに連続溶暗部分942、943、および944を含む不透明フィルター領域を示す。図9C4は、図9C1におおけるd4とd5との間で溶暗する、非溶暗部分951、および連続溶暗部分952、952、および953を含む不透明フィルター領域を示す。
図9D1図9D1は、不透明度増大の追加領域が視野の第2周辺領域に設けられている場合の、図9A1の拡張現実表示領域の周辺境界における、拡張現実画像と不透明フィルターの不透明度増大領域との位置合わせを示す。
図9D2図9D2は、図9D1の不透明フィルター領域920および924の正面図を示す。
図9D3図9D3は、図9D1の拡張現実画像領域900の正面図を示す。
図9E1図9E1は、拡張現実画像の第2切除部分を表すために、視野の第2の周辺領域に不透明度増大の追加領域が設けられている場合の、図9A1の拡張現実表示領域の周辺境界における、拡張現実画像の第1部分と不透明フィルターの不透明度増大領域との位置合わせを示す。
図9E2図9E2は、図9E1の不透明フィルター領域926および928の正面図を示す。
図9E3図9E3は、図9E1の拡張現実画像領域922および923の正面図を示す。
図9F1図9F1は、拡張現実画像が供給されないときにおける、視野の第2周辺領域における不透明フィルターの不透明度増大領域を示す。
図9F2図9F2は、図9F1の不透明フィルター領域960の正面図を示す。
図9F3図9F3は、図9F1の拡張現実画像の正面図を示す。
【発明を実施するための形態】
【0008】
[0042] 透過頭部装着ディスプレイ(MHD)は、殆どの場合、ミラー、プリズム、およびホログラフ・レンズのような光学エレメントを用いて、1つまたは2つの小さなマイクロ・ディスプレイからの光をユーザーの視線(visual path)の中に追加する。これらの本質的な性質によって、これらのエレメントは光を追加することしかできず、光を除去することはできない。これが意味するのは、仮想ディスプレイは、暗い色を表示することができず(何故なら、真っ黒の場合に透明になるからである)、拡張現実画像のような仮想物体は、半透明に、即ち、透けて見えるということである。拡張現実または他の現実混在のシナリオを敢えて表すには、視界(view)から自然光を選択的に除去する機能(ability)を有し、仮想的なカラー形象(imagery)が全範囲のカラーおよび輝度を表すことができ、その形象を一層堅実で(solid)現実的にすることが望ましい。この目標を達成するために、HMDデバイスのレンズには、不透明フィルターを設けることができる。この不透明フィルターは、画素毎に光を選択的に透過させるまたは遮断するように制御することができる。拡張現実画像に基づいて、不透明フィルターの輝度および/またはカラーを駆動するために、制御アルゴリズムを用いることができる。不透明フィルターは、物理的に、光学表示コンポーネントの後ろに置くことができる。この光学表示コンポーネントは、拡張現実画像をユーザーの目に導入する。拡張現実画像の視野を越えて不透明フィルターを延長させユーザーに周辺キュー(peripheral cue)を供給することによって、追加の利点を得ることができる。更に、周辺キュー、または拡張現実画像の表現は、拡張現実画像がない場合でも、不透明フィルターによって供給することができる。
【0009】
[0043] 図1は、拡張現実機能を有する光学透過HMDデバイスの実施形態例を示す。このディスプレイ・デバイスは、めがねのレンズと同様に、ユーザーの目の前に置かれる透過レンズ(see-through lens)108を含むことができる。通例、1対の透過レンズが、各目に1つずつ用意される。このレンズは、不透明フィルター106と、ビーム・スプリッター、例えば、半銀めっきミラー(half-silvered mirror)または他の光透過性ミラーのような、光学表示コンポーネント112とを含む。光線114のような実世界場面120からの光は、このレンズに到達し、不透明フィルター106によって選択的に通過させられるか、または遮断される。実世界場面からの光が不透明フィルターを通過すると、表示コンポーネントも通過する。
【0010】
[0044] 不透明フィルターは、不透明フィルター制御回路100の制御下にある。一方、拡張現実発光体102は、拡張現実画像104を表す光の2−Dアレイを放出する。この光は、光線110によって例示されている。表示コンポーネントが実際に位置するのは目から約1インチ離れたところであるが、この位置からではなく、拡張現実画像が目から数フィート離れたところから発しているように見えるように拡張現実画像を合焦し直すために、通例、追加の光学素子が用いられる。
【0011】
[0045] 拡張現実画像は、表示コンポーネント112によって、ユーザーの目118に向けて、光線116によって例示されるように反射され、ユーザーには画像132が見えるようになっている。画像132において、木立ちのような実世界場面120の一部が、飛んでいるかのような拡張現実画像104全体と共に見ることができる。したがって、ユーザーは、この娯楽指向の例では、いるかが木々の上を飛び越えるという空想的な画像を見る。広告指向の例では、拡張現実画像は、ユーザーの机の上にあるソーダの缶となって現れることができる。多くの他の用途も可能である。一般に、ユーザーは、室内および戸外を含むあらゆる場所で、HMDデバイスを装着することができる。種々の情報を入手して、どのタイプの拡張現実画像が適しているか、そして表示コンポーネント上のどこにそれを供給すべきか判断することができる。例えば、ユーザーの位置、ユーザーが見ている方向、ならびにユーザーが室内にいるときには、床、壁、および恐らくは家具の位置を用いて、実世界場面におけるしかるべき場所のどこに拡張現実画像を置くことを決定することができる。
【0012】
[0046] ユーザーが見ている方向は、動き追跡技法および慣性測定ユニットの組み合わせを用いて、ユーザーの頭部の位置を追跡することによって判断することができる。慣性測定ユニットは、拡張現実めがねを介してというようにして、ユーザーの頭部に取り付けられる。動き追跡技法は、深度検知カメラを用いて、ユーザーの3Dモデルを取り込む(obtain)。深度検知カメラは、同様に、ユーザーの環境の床、壁、およびその他の側面の位置を取り込むためにも用いることができる。例えば、2010年8月5日に公開され"Visual Target Tracking"(視覚的目標追跡)と題する米国特許出願公開2010年第0197399号、2010年8月5日に公開され"Body Scan"(身体走査)と題する米国特許出願公開2010年第0194872号、および2009年4月7日に発行され"Head Pose Tracking System"(頭部姿勢追跡システム)と題する米国特許第7,515,173号を参照のこと。これらをここで引用したことにより、各々の内容が本願にも含まれるものとする。
【0013】
[0047] 実世界場面の内、ユーザーの目の視点からは拡張現実画像の後ろになる部分は、不透明フィルターによって、ユーザーの目に達することが遮られるので、拡張現実画像がユーザーに明確に見える。拡張現実画像は、主要な表示を供給すると見なすことができ、一方不透明フィルターは副次的な表示を供給する。副次表示の輝度および/またはカラーは、主要表示上の作象に緊密に一致するように駆動することができ、主要表示が自然光に似せる能力を高めることができる。
【0014】
[0048] 追跡カメラ122は、HDMデバイスが取り付けられているフレームに関するユーザーの目の位置を特定するために用いることができる。このフレームは、1つの手法では、従来のめがねフレームと同様とすることができる。例えば、フレームの例については図7Aおよび図7Bを参照のこと。通例、このようなフレームは、ユーザーが動く、ユーザーの鼻の上でフレームのブリッジが滑る等によって、装着されているときに、ユーザーの頭部上で多少動く可能性がある。更なる詳細については、図8A1図8B4を参照のこと。フレームに対するユーザーの目の位置に関するリアル・タイムの情報を提供することによって、コントローラーは不透明フィルターを制御することができ、拡張現実画像はそれに応じてその画像を調節することができる。例えば、不透明フィルターの不透明度増大画素と拡張現実画像との位置合わせ(registration)または整列(alignment)を維持しつつ、拡張現実画像が一層安定に現れるようにすることができる。1つの手法例では、追跡カメラ122は、IR光128を目118に向けて放出する赤外線(IR)発光体124と、反射したIR光130を検知するIRセンサー126とを含む。瞳の位置は、角膜の反射を検出するというような、既知の撮像技法によって特定することができる。例えば、2008年7月22日にOphir et al.に発行され"Head mounted eye tracking and display system"(頭部装着視標追跡および表示システム)と題する米国特許第7,401,920号を参照のこと。このような技法は、追跡カメラに対する目の中心の位置を突き止めることができる。一般に、目の追跡には、目の画像を取り込み、コンピュータ映像技法(vision technique)を用いて眼窩内における瞳の位置を判定することを必要とする。他の視標追跡技法では、光検出器およびLEDのアレイを用いることができる。追跡カメラのフレーム上における取り付け位置が分かっていれば、不透明フィルター106および光学素子112のような、フレームに対して固定されている他のいずれの位置に関しても、目の位置を判定することができる。通例、目は一緒に動くので、ユーザーの目の1つの位置を追跡すれば十分である。しかしながら、各目を別個に追跡し、各目の位置を用いて、拡張現実画像の位置を、関連のある透過レンズに対して判定することもできる。
【0015】
[0049] 図示した例では、追跡カメラは、フレームの側面位置から目を撮像する。この位置は、不透明フィルターおよび光学素子112とは独立している。しかしながら、他の手法も可能である。例えば、追跡カメラによって用いられる光を光学素子112によって伝達すること、またそれ以外ではレンズの中に集光する(integrate)こともできる。
【0016】
[0050] 不透明フィルターは、透過LCDパネル、エレクトロクロミック・フィルム、または不透明フィルターとして役割を果たすことができる同様のデバイスとすることができる。このような透過LCDパネルは、従来のLCDから基板の種々の層、バックライトおよびディフューザーを除去することによって得ることができる。LCDパネルは、光が液晶を通過することを可能にする1つ以上の光透過性LCDチップを含むことができる。このようなチップは、例えば、LCDプロジェクターにおいて用いられている。
【0017】
[0051] 不透明フィルターは、レンズ上またはレンズの内部に配することができる。また、レンズは、ガラス、プラスチック、または他の光透過性材料を含んでもよい。不透明フィルターは、画素の高密度格子を含むことができ、各画素の光透過率を、最小透過率と最大透過率との間で個々に制御可能である。0〜100%の透過率範囲が理想的であるが、これよりも制限された範囲でも容認可能である。一例として、LCDの分解能まで、画素当たり約50%から80または90%までの不透明範囲を設けるには、わずか2つの偏光フィルターを有するモノクロームLCDパネルで十分である。最小の50%において、レンズは僅かに着色した外観を有するが、これは許容可能である。100%の透過率は、完全に透明なレンズを表す。0から100%までの「アルファ」倍率を定義することができ、0%が最も高い透過率(最も透明である)であり、100%が最低の透過率(最も不透明)である。値「アルファ」は、不透明フィルター制御回路によって、画素毎に設定することができる。
【0018】
[0052] 実世界物体の代用にz−バッファリングを行った後、アルファ値のマスクを、レンダリング・パイプラインから用いることができる。拡張現実表示のために場面をレンダリングするとき、どの実世界物体がどの拡張現実物体の前にあるか注意を払う必要がある。拡張現実物体が実世界物体の前にある場合、拡張現実物体の遮蔽面積に相応して不透明度をオンにしなければならない。拡張現実物体が(仮想的に)実世界物体の後ろにある場合、実際の光のその対応する面積(1画素以上のサイズ)に相応する実世界の物体だけをユーザーが見るように、不透明度をオフにするだけでなく、その画素に対するあらゆるカラーもオフにする。遮蔽(coverage)は、画素毎であるので、拡張現実物体の一部が実世界の物体の前にある場合、拡張現実物体の一部が実世界の物体の後ろにある場合、そして拡張現実物体の一部が実世界の物体と同じ位置にある場合も扱うことができる。
【0019】
[0053] 不透明フィルターとして用いるために転用された新たなディスプレイのタイプという形態で、追加の改良が行われる。低コスト、低電力、および軽量で、0%から100%までの不透明度で動作することができるディスプレイが、この使用には最も望ましい。更に、不透明フィルターは、カラーLCDによって、または有機LEDのような他のディスプレイによって、カラーでレンダリングし、拡張現実画像を供給する光学素子112周囲に広い視野を設けることができる。
【0020】
[0054] 不透明フィルター制御回路100は、例えば、マイクロプロセッサーとすることができる。不透明フィルター制御回路100および拡張現実発光体102は、追跡カメラ122と通信することができる。1つの選択肢では、中央制御部(図示せず)が追跡カメラ122と通信し、不透明フィルター制御回路100および拡張現実発光体102を監視するために用いられる。コンポーネント100、102、および122間には、しかるべき有線またはワイヤレス通信経路を設け、HMDデバイスのフレームの中に統合することができる。
【0021】
[0055] 結果的に得られたHMDデバイスは、通例複雑な光学素子を必要とする、能動ステレオ3D視聴用の従来のLCLDシャッターめがねのようなデバイスと比べると、比較的簡素化されている。これらは、3D画像の幻想を生み出すために、表示画面と共に用いられるめがねである。めがねレンズの中では、液晶層が、透明から、電圧が印加されたときの不透明まで切り替わることができ、目毎に事実上1つずつ画素が供給されるようになっている。このめがねは、画面のリフレッシュ・レートと同期して、ワイヤレス信号によって制御することができる。あるいは、画面は目毎に異なる視界(perspective)を表示し、各目がそれに意図された画像のみを見るという、所望の効果が得られる。本明細書において提供するHMDデバイスは、不透明フィルターの画素全てを一緒に透明または不透明になるように制御することによって、シャッタ・ガラスとして動作することができる。
【0022】
[0056] 他の代替案では、HMDデバイスが受動立体視を提供することができる。LCDパネルにおいて用いられるフィルターは、偏光させられているので、偏光が90度異なるように、右および左のレンズのLCDパネルを向けることができる。これによって、透過率および不透明度が逆になるように、LCDを回転させその挙動を変化させる。電圧を印加すると透過性となり、電圧を印加しないと不透明となる。回転させないLCDでは、電圧を印加すると不透明になり、電圧を印加しないと透過性になる。
【0023】
[0057] LCDのような不透明フィルターは、一般に、本明細書において記載するような透過レンズには用いられなかった。何故なら、このように目に近い距離では、殆ど完全に焦点がはずれるからである。しかしながら、この結果は実際に本発明者の目的には望ましいことである。ユーザーは、焦点が合うように設計された、追加カラーを用いた通常のHMDディスプレイによって、生き生きとしたカラー・グラフィクスによる拡張現実画像を見る。LCDパネルは、曖昧なブロックの境界があらゆる仮想コンテンツを包囲するように、この表示の「後ろに」配され、これを所望通りに不透明にする。自然なぼけという欠点を変換して、アンチエリアシングおよび帯域幅削減という特徴を功利的に獲得する。これらは、低解像度で焦点がはずれた画像を用いることの当然の結果である。ディジタル的にサンプリングした画像には、スムージングが効果的である。あらゆるディジタル画像にはエリアシングが生じ、サンプリングの離散的性質のために、自然なアナログおよび連続信号に対して、光の波長の周りで誤差が生ずる。スムージングが意味するのは、理想的なアナログ信号に視覚的に近づけるということである。低解像度にして失われた情報は復元されないが、結果的に生ずる誤差は、目立ちにくくなる。
【0024】
[0058] カラー・ディスプレイおよび不透明フィルターに同時にレンダリングし、アナログ−オフセットの問題を補償するために空間におけるユーザーの正確な位置に合わせて較正されるように、グラフィクス・レンダリングを最適化する。視野の両端における正しい画像オフセットを計算するために、視標追跡を採用することができる。不透明フィルターまたはマスクは、更に、HMDデバイスのレンズ全体を覆うように拡大し、中央視野における拡張現実画像の表示コンポーネントを越えて広がることができる。また、不透明マスクは、カラーLCDによって、または有機LED(OLED)のような他のディスプレイによって、カラーでレンダリングすることができ、中央視野における高解像度合焦エリアの周囲に広い視野を設けることができる。
【0025】
[0059] 図2は、図1のHMDデバイスのシステム図を示す。このシステムは、視標追跡カメラ122、拡張現実発光体102、および不透明フィルター制御回路100を含み、これらは互いにバス202または他の通信経路を通じて通信することができる。視標追跡カメラ122は、プロセッサー212、メモリー214、IR発光体216、IRセンサー218、およびインターフェース220を含む。メモリー214は、視標追跡カメラが、本明細書に記載するように、その機能を実行することを可能にするために、プロセッサー212によって実行する命令を収容することができる。インターフェースは、視標追跡カメラがデーターを拡張現実発光体および不透明フィルター制御回路に伝達することを可能にする。このデーターは、ユーザーの目のフレームに関する相対的な位置を示す。不透明フィルター制御回路は、このデーターを用いて、対応するオフセットを、不透明フィルターにおいて不透明度を増大させた画素に供給する。同様に、拡張現実発光体がこのデーターを用いて、対応するオフセットを、拡張現実画像を放出するために用いられる画素に供給することができる。
【0026】
[0060] 他の手法では、視標追跡カメラが視標位置データーを拡張現実発光体に伝達すれば十分であり、この場合、拡張現実発光体は、データーを不透明フィルター制御回路に供給して、不透明フィルターのどの画素が不透明度を増大させるべきかを示す。または、視標追跡カメラは視標位置データーを不透明フィルター制御回路に伝達することができ、不透明フィルター制御回路は、このデーターを拡張現実発光体に中継する。他の可能性では、不透明フィルター制御回路だけが視標位置データーを用い、拡張現実発光体は用いない。何故なら、不透明フィルターの画素の変化は、不透明フィルターが目に近いことのために、拡張現実画像における変化よりも目立ちやすいからである。
【0027】
[0061] いずれの場合でも、拡張現実発光体は、拡張現実画像のシェーパー(shaper)を示すデーターを、不透明フィルター制御回路に供給することができる。形状は、周囲および包囲点(enclosed points)によって定義することができる。また、このデーターは、不透明フィルター制御回路が、通常では、拡張現実画像のサイズおよび形状と対応付けて、不透明フィルターのどの画素に、増大させた不透明度を与えるべきか判断するために用いることもできる。
【0028】
[0062] 拡張現実発光体は、プロセッサー222、メモリー224、可視光を放出する発光体、およびインターフェース228を含む。メモリー224は、拡張現実発光体が、本明細書に記載するような、その機能を実行することを可能にするためにプロセッサー222によって実行される命令を収容することができる。発光体は、2Dカラー画像を、1/4平方インチというような、小さなエリアに放出するLCDのようなマイクロ・ディスプレイとすることができる。インターフェースは、視標追跡カメラおよび/または不透明フィルター制御回路と通信するために用いることができる。
【0029】
[0063] 不透明フィルター制御回路100は、プロセッサー232、メモリー234、不透明フィルター・ドライバー236、およびインターフェース228を含む。メモリー234は、不透明フィルター制御回路が、本明細書に記載するような、その機能を実行することを可能にするためにプロセッサー232によって実行される命令を収容することができる。不透明フィルター・ドライバーは、行および列アドレスならびに電圧によって、各画素にアドレスすることによってというようにして、不透明フィルター106における画素を駆動することができる。この電圧は、最も高い光透過レベルである最低レベルから、最も不透明な、即ち、最も低い光透過レベルである最高レベルまで、所望の不透明度を示す。場合によっては、各画素のカラーを設定することもある。インターフェースは、視標追跡カメラおよび/または拡張現実発光体と通信するために用いることができる。不透明フィルター制御回路は、不透明フィルター106と通信して、その画素を駆動する。
【0030】
[0064] プロセッサー212、222、および232の内1つ以上は、制御回路であると見なすことができる。更に、メモリー214、224、および234の内1つ以上は、有形コンピュータ読み取り可能ストレージであると見なすことができ、このストレージには、本明細書に記載するような光学透過HMDデバイスにおいて用いるための方法を実行するように、少なくとも1つのプロセッサーまたは制御回路をプログラミングするコンピュータ読み取り可能ソフトウェアが具体化されている。
【0031】
[0065] 更に、本システムは、ユーザーが見ている方向、床の位置、壁、およびユーザーの環境のその他の側面を判断するため等に、先に論じた更に他のコンポーネントも含むことができる。
【0032】
[0066] 図3Aは、図1のHMDデバイスにおいて拡張現実画像を供給するプロセスを示す。ステップ300において、視標追跡コンポーネントは、目の相対的な位置に関するデーターを供給する。一般に、これは、毎秒数回実行することができる。このデーターは、目が真っ直ぐ前を見ているときというように、デフォルト位置からの目のオフセットを示すことができる。ステップ302において、拡張現実発光体は、拡張現実画像のサイズ、形状、および位置(ならびに、任意に、カラー)に関するデーターを、不透明フィルター制御回路に供給する。位置データーは、目の相対的な位置に関するデーターに基づくことができる。拡張現実画像は、それが用いられる用途の必要性に基づいて設定される画像である。例えば、以前の飛んでいるかの例は、娯楽の用途に供給される。ステップ304において、拡張現実発光体は、1つ以上の光学素子を通じてユーザーの目に到達するように、拡張現実画像を放出する。同時に、ステップ306において、不透明フィルター制御回路は、不透明フィルターの画素を駆動して、拡張現実画像の後ろにおいて不透明度を増大させる。判断ステップ310において、次の拡張現実画像がある場合、本プロセスを、ステップ300から開始して、繰り返す。次の拡張現実画像がない場合、本プロセスはステップ312において終了する。
【0033】
[0067] 次の拡張現実画像は、以前に供給したのと同じであるが、直前の拡張現実画像を多少異なる位置に移動させて、この拡張現実画像の動きを描写するときというように、異なる位置においてユーザーによって見られる拡張現実画像を指すことができる。また、次の拡張現実画像は、いるかから他のタイプの物体への切り替えというような、新たなタイプの画像を指すこともできる。次の拡張現実画像は、以前から表示されている物体が表示され続けつつ、新たな物体を追加することを指すこともできる。1つの手法では、拡張現実発光体は固定のフレーム・レートでビデオ画像を放出する。他の手法では、静止画像を放出し、典型的なビデオ・フレーム期間よりも長い時間期間にわたって存続させる。
【0034】
[0068] ステップ314において、任意に、拡張現実画像の中に、視野の拡張現実画像領域の境界に近いとき等に、漸次溶暗(gradual fade)を行う。拡張現実表示領域は、ユーザーの視野において、拡張現実発光体および/または光学素子112の制限のために、拡張現実画像が拘束される最大角度範囲(垂直および水平方向)によって定義することができる。つまり、拡張現実画像は、拡張現実表示領域のいずれの部分にでも現れることができるが、拡張現実表示領域の外側には現れることはできない。
【0035】
[0069] 一般に、不透明度の量の時間的または空間的溶暗を、不透明フィルターにおいて用いることができる。同様に、拡張現実画像の時間的または空間的溶暗も用いることができる。1つの手法では、不透明フィルターの不透明量の時間的溶暗は、拡張現実画像の時間的溶暗に対応する。他の手法では、不透明フィルターの不透明量の空間的溶暗が、拡張現実画像の空間的溶暗に対応する。前述の境界とは、拡張現実表示領域の境界とすることができる。この境界は、周辺に、例えば、水平方向または垂直方向に延びることができる。溶暗については、例えば、図9Cとの関連で更に論ずる。
【0036】
[0070] 図3Bは、図3Aのステップ306の詳細を示す。ステップ320において、不透明フィルター制御回路は、拡張現実画像の後ろに来る不透明フィルターの画素を、例えば、拡張現実画像のサイズ、形状、および位置に基づいて特定する。種々の手法が可能である。1つの手法では、ステップ322において、拡張現実画像の後ろに来る不透明フィルターの画素について、特定したユーザーの目の位置の視界から、不透明度を増大して与える。このように、拡張現実画像の後ろに来る画素を暗くして、実世界場面の対応部分からの光が、ユーザーの目に達しないように遮断する。これによって、拡張現実画像が現実的となり、最大範囲のカラーおよび輝度を表すことが可能になる。更に、拡張現実画像は低い輝度で供給されるので、拡張現実発光体による電力消費が低減する。不透明フィルターを用いない場合、拡張現実画像が区別できそして透明にならないようにするために、実世界場面の対応する部分よりも明るい十分高い輝度で拡張現実画像を供給しなければならない。一般に、不透明フィルターの画素を暗くする際、拡張現実画像の閉じた周囲を辿る画素を、その周囲の内部にある画素と共に暗くする。例えば、図4Dおよび図5を参照のこと。この周囲の外側にありこの周囲を包囲する画素も暗くなるように、多少の重複が得られることが望ましいこともあり得る。図4Dにおける領域404を参照のこと。これらの重複する画素は、輪郭(perimeter)の周りに均一な厚さを有する暗い領域を規定することができる。他の手法では、例えば、拡張現実画像の輪郭の外側にある不透明フィルターの画素の全てまたは殆どを暗くしつつ、拡張現実画像の輪郭の内部にある画素を光透過性のままにさせておくことによって、興味深い効果を得ることができる。
【0037】
[0071] ステップ324では、視野の拡張現実表示領域の外側にある不透明フィルターの画素には、不透明度を増大して与える。一般に、ユーザーの視野とは、垂直および水平方向の観察可能な世界の角度範囲であり、いずれの所与の時点においても見られる。人は、ほぼ180度の前方に面する視野を有する。しかしながら、カラーを感知する能力は、視野の中央の方が高く、一方形状および動きを検知する能力は、視野の周辺の方が高い。更に、前述のように、拡張現実画像は、ユーザーの視野の部分的領域に供給されることに束縛される。実施態様例では、拡張現実画像は、目の窩と一致する約20度の角度的広がりにわたって、視野の中央に供給される。これは、視野の拡張現実表示領域である。例えば、更なる詳細については、図9A1および図9B1(α1によって定義された領域)を参照のこと。拡張現実画像は、拡張現実画像をユーザーの目まで導くために用いられる光学素子のサイズというような要因によって拘束される。
【0038】
[0072] 一方、不透明フィルターは、そのレンズへの組み込みのために、前述の第1視野(first field of view)を含むだけでなく、約60度というような、視野の中のもっと広い範囲にわたって広がることができる。更なる詳細については、図9A1および図9B1(α2によって定義された領域)を参照のこと。例えば、周辺方向に第1視野の外側にある不透明フィルターの画素には、第1視野の内側にある不透明フィルターの画素について増大させた不透明度と対応して、不透明度を増大させて与えることができる。更なる詳細については、例えば、図9D1図9D3を参照のこと。これは、例えば、拡張現実画像の動きを強調する、例えば、周辺キューを設ける際に有用であることができる。例えば、周辺キューは、拡張現実画像の影のように現れることができる。周辺キューは、ユーザーの周辺視野(peripheral vision)の領域内にあっても、そうでなくてもよい。周辺キューは、動きの方向を強調すること、またはそれ以外ではユーザーの注意を引くことができる。
【0039】
[0073] 更に、拡張現実画像が、視野の拡張現実表示領域の境界付近にあるとき、視野の外側にある不透明フィルターの対応する画素に、均一に不透明度を増大させて与えること、または空間的に徐々に不透明度を増大させて与えることができる。例えば、不透明度増大画素は、拡張現実画像の境界に隣接することができる。拡張現実画像は、画像の第1部分とすることができ、画像の第2部分を境界において切除し、これが表示されないようにする。この場合、不透明度増大画素は、画像の第2部分を表すことができ、画像の第2部分と同様のサイズおよび形状を有する。更なる詳細については、図9E1図9E3を参照のこと。場合によっては、不透明度増大画素は、画像の第2部分と同様のカラーを有することができる。
【0040】
[0074] 拡張現実画像が境界において切除されなくても、不透明度増大画素を供給し、拡張現実画像から実世界場面への遷移を表すことができる。1つの手法では、拡張現実画像の境界に近い不透明フィルターの画素程不透明にし、拡張現実画像の境界から遠ざかる不透明フィルターの画素程光を透過させるように、不透明度増大画素を溶暗させる。
【0041】
[0075] 他の選択肢では、周辺または非周辺キューを供給するためというように、拡張現実画像がない時点において、不透明フィルターの画素に、不透明度を増大させて与えることを伴う。このようなキューは、例えば、実世界場面において動きがある用途において、有用であると考えられる。または、不透明フィルターの不透明度増大画素は、視野の周辺領域において、拡張現実画像の表現を与えることができる。更なる詳細については、例えば、図9F1図9F3を参照のこと。
【0042】
[0076] ステップ326では、拡張現実画像が視野の拡張現実表示領域の境界付近にあるとき、不透明度が徐々に変化する遷移、例えば、空間的溶暗を行う。拡張現実画像における急激な遷移を避けるために、拡張現実画像における空間的溶暗は、ステップ314において説明したように行うことができる。対応する溶暗を、不透明フィルターの画素にも行うことができる。例えば、拡張現実画像の内境界に近い部分については、拡張現実画像の内境界から離れている部分よりも、拡張現実画像が速く暗くなり、不透明フィルターの画素は透明になる(less opaque)ことができる。不透明度が徐々に高くなる遷移は、同様に、拡張現実画像が視野の拡張現実表示領域の境界付近にない場合であっても、行うことができる。
【0043】
[0077] 図4Aは、図4Cの拡張現実画像の形状に基づく、不透明フィルター400の構成例を示す。不透明フィルターは、不透明度が増大した領域402を規定する。不透明度の増大とは、一般に、白黒方式における異なるグレー・レベルへの暗化(darkening)、またはカラー方式における異なるカラー・レベルへの暗化を含む、画素の暗化を指す。
【0044】
[0078] 図4Bは、図1の実世界場面例120を示す。実世界場面120からの光が不透明フィルターを通過するとき、光は不透明フィルター400によって乗算され、実世界場面の対応エリアが不透明フィルターを透過しないように不透明度増大エリアは実世界場面の対応エリアに「0」を乗算し、一方非暗化エリアは、実世界場面の対応するエリアが不透明フィルターを透過するように、実世界場面の対応エリアに「1」を乗算する。
【0045】
[0079] 図4Cは、図1の拡張現実画像例104を示す。拡張現実画像104にはカラーおよび模様をレンダリングすることができるが、この例では示されていない。
[0080] 図4Dは、ユーザーが見る、図1の画像例132を示す。画像132は、画像402および120を乗算することによって形成された画像に画像104を追加することによって形成される。暗化領域404が、いるかの拡張現実画像を包囲している。
【0046】
[0081] 図5は、図4Aの不透明フィルターの構成を規定するために、不透明度増大領域を有する不透明フィルター500を示す。小さな円は、各々、不透明フィルターの画素を表す。これらの画素から、拡張現実画像のサイズ、形状、および位置に対応するものを選択し、不透明度を増大させるように制御する。拡張現実画像の輪郭が、参照のために、重畳されている。
【0047】
[0082] 図6は、不透明フィルターを用いない場合に得られる、図1の画像例の変形を示す。この画像600では、拡張現実画像は透明に、即ち、透き通って(ghosted)現れ、実世界場面が拡張現実画像の後ろに見えるようになっている。この結果は、現実的とは言えない。
【0048】
[0083] 図7Aは、ユーザーの頭部700に装着したときの、図1のディスプレイ・デバイスの実施態様例を示す。この例では、フレームは従来のめがねフレームと同様であり、同様のかけ心地(comfort level)で装着することができる。しかしながら、ヘルメット、ストラップまたは他の手段によってユーザーの頭部に装着するフェース・シールド(face shield)のような、他の実施態様も可能である。フレームは、フレーム前面702、ならびにつる704および705を含む。フレーム前面は、ユーザーの左目に合わせて透過レンズ701を保持し、ユーザーの右目に合わせて透過レンズ703を保持する。左右の向きは、ユーザーの視界からである。左側の透過レンズ701は、光透過不透明フィルター723と、左目706によって見るために、拡張現実画像を現実世界場面からの光と混合するビーム・スプリッターのような、光透過光学素子722とを含む。視標追跡コンポーネント726が、瞳707を含む左目706を撮像することを可能にするために、不透明度フィルターにおいて開口724を設けることができる。この開口は、例えば、レンズ701の中にある穴、または不透明レンズが設けられないレンズ701の領域とすることができる。不透明フィルターは、前述のように、ガラスまたはプラスチックのような、他の光透過性レンズ材料の中またはその上に設けることができる。視標追跡コンポーネント726によって用いられる赤外線光は、このような光透過性レンズ材料を通過することができる。
【0049】
[0084] 視標追跡コンポーネント726は、IR光730を放出するIR発光体728と、反射したIR光732を検知するIRセンサー734とを含む。視標追跡コンポーネント726は、1つの可能な手法では、アーム736を介してフレームに取り付けることができる。
【0050】
[0085] 右側透過レンズ701は、光透過不透明フィルター721と、右目718によって見るために、拡張現実画像を実世界場面からの光と混合するビーム・スプリッターのような、光学素子720とを含む。右側拡張現実発光体716が、アーム714を介してフレームに取り付けられており、左側拡張現実発光体708が、アーム710を介してフレームに取り付けられている。不透明フィルター制御回路712は、フレームのブリッジに取り付けることができ、左側および右側の不透明フィルターによって共有することができる。例えば、フレームの中にある導電路を通じて、しかるべき電気的接続を行うことができる。
【0051】
[0086] 図7Bは、図7AのHMDデバイスの更なる詳細を示す。ディスプレイ・デバイスは、前方を見ているユーザーの視界から示されているので、右側レンズ703および左側レンズ701が図示されている。右側拡張現実発光体716は、画素の格子のような発光部762と、発光部762を制御する回路を含むことができる部分760とを含む。同様に、左側拡張現実発光体708は、発光部742と、発光部742を制御する回路を有する部分740とを含む。光学素子720および722の各々は、同じ寸法を有するとよく、1つの手法では、幅w1および高さh1を含む。右側光学素子720は、光が右側拡張現実発光体716から入射するときに通過する上面764と、光学素子720内部にある傾斜したハーフ・ミラー面766と、面768とを含む。右側拡張現実発光体716からの光、ならびに不透明フィルター770によって遮断されない実世界場面からの部分(光線780によって表される)からの光は、面768を通過し、ユーザーの右側の目に入る。同様に、左側光学素子722は、左側拡張現実発光体708からの光が入るときに通過する上面744と、光学素子722内部にある傾斜したハーフ・ミラー面746と、面748とを含む。左側拡張現実発光体708からの光、および不透明フィルター750によって遮断されない現実世界場面の部分(光線771によって表される)からの光は、面747を通過して、ユーザーの左側の目に入る。不透明フィルター750および770の各々は、同じ寸法を有するとよく、1つの手法では、幅w2>w1、および高さh2>h1を含む。
【0052】
[0087] 通例、同じ拡張現実画像が双方の目に供給されるが、立体視効果のため等に、別個の画像を各目に供給することも可能である。代替実施態様では、1つの拡張現実発光体が、しかるべき光学素子によって、双方の目に導かれる。
【0053】
[0088] 図7Cは、図1のディスプレイ・デバイスがユーザーの頭部に装着されたときの代替実施態様であり、視標追跡コンポーネント790が直接前面めがねフレーム702上、そしてその内部にある。この実施態様では、視標追跡コンポーネントはレンズ701を介して投射する必要はない。視標追跡コンポーネント790は、IR光792を放出するIR発光体791と、反射したIR光792を検知するIRセンサー793とを含む。
【0054】
[0089] 視標追跡に関して、殆どの場合、動き(motion)の間にめがねが跳ね返る(bounce around)際に、拡張現実めがねの目に対する変位を知るだけで十分である。目の回転(例えば、眼窩内部における瞳の動き)は、多くの場合さほど重要ではない。不透明領域および拡張現実画像の整列は、視標位置の関数でもあるが、実際には、ユーザーが左を見ているかのように不透明表示の左側を整列させることができ、同時に双方の規準を満たすように不透明画像を広げることによって、ユーザーが右を見ているように、不透明ディスプレイの右側を整列させることができる。これを行う場合、目の角度を無視することができる。この手法の欠点は、ユーザーが右を見るときに左側が正しくなくなり、ユーザーが左を見るときに右側が正しくなくなることであるが、ユーザーはユーザーの視野の中央に来る部分しか視覚的に測定できないので、ユーザーは気がつかない。
【0055】
[0090] 図8A1は、ユーザーの目がHDMデバイスのフレームに対して第1の位置にあるときの、実世界画像と不透明フィルターの不透明度増大領域との位置合わせを示す。上面図が示されている。前述のように、視標追跡コンポーネントは、目のフレームに対する位置を特定するために用いることができる。この例では、フレームの目706およびその瞳707に対する水平位置を考慮する。不透明フィルター750、および光学素子722は、フレームに取り付けられ、したがって、フレームと共に動く。ここでは、目706は、真っ直ぐ前に向かって、見通し線802によって表されるように、実世界場面のエレメント800を見ている。エレメント800は、幅xrwを有する。不透明フィルター750は、不透明度が増大した領域804を含み、一方光学素子722は、対応する領域805を含み、この中に拡張現実画像が供給される。領域804および805は、幅x3を有すると仮定する。実際には、不透明フィルター領域804の幅は、拡張現実画像部分805のそれよりも多少広い場合もある。更に、不透明フィルターの領域804は、不透明フィルターの左側からx1の距離にあり、不透明フィルターの右側からx2の距離にある。つまり、x1+x2+x3=w2となる。拡張現実画像の部分805は、光学素子722の左側からx4の距離にあり、光学素子722の右側から距離x5にある。つまり、x4+x5+x3=w1となる。実世界場面のエレメント800は、幅xrw>x3を有し、不透明フィルターの領域804によって遮断され、目706には到達しない。
【0056】
[0091] 図8A2は、図8A1の実世界場面要素800の正面図(front-facing view)である。
[0092] 図8A3は、図8A1の不透明フィルター領域804の正面図である。
【0057】
図8A4は、図8A1の拡張現実画像領域805の正面図である。
[0093] 図8B1は、ユーザーの目がHMDデバイスのフレームに対する第2の位置にあるときにおける、実世界画像と不透明フィルターの不透明度増大領域との位置合わせを示す。上面図が示されている。この例では、フレームは、目706に対して左にずらされている。不透明フィルター750は、不透明度を増大させた領域806を含み、一方光学素子722は、拡張現実画像が供給される対応領域807を含む。領域806および807は、x3の幅を有すると仮定する。更に、不透明フィルター領域806は、不透明フィルターの左側からx1’>x1の距離にあり、不透明フィルターの右側からx2’>x2の距離にある。つまり、x1’+x2’+x3=w2となる。拡張現実画像部分807は、光学素子722の左側からx4’の距離にあり、光学素子722の右側からx5’の距離にある。つまり、x4’+x5’+x3=w1となる。また、ずれのために、この例ではx4’>x4およびx5’>x5となる。
【0058】
[0094] 実世界場面のエレメント800は、幅xrw>x3を有し、不透明フィルターの領域806によって遮断され、目706に到達しない。フレームの動きを検出することによって、ユーザーが実世界場面に対して固定の見通し線を維持しつつ水平方向および/または垂直方向にずらせることによってというようにして、不透明領域および/または拡張現実画像の位置をそれに応じて調節することができる。これによって、拡張現実画像が実世界場面の同じ位置に確実に現れることになる。不透明領域および拡張現実画像は、互いに、そして実世界場面と整列、または位置合わせされ続けている。
【0059】
[0095] 実際には、不透明フィルターの不透明度増大領域が、離れて合焦する拡張現実画像よりも目に近づいて現れるので、不透明フィルターの不透明度増大領域のいずれの位置変化も、拡張現実画像の同様の位置変化と比較して、気付きやすくなる。これは、不透明フィルターの不透明度増大領域の方が、視差効果が大きいためである。したがって、視標追跡に基づいて、拡張現実画像の位置を調節せずに、不透明フィルターの不透明度増大領域の位置を調節することによって、多くの場合、容認可能な結果を得ることができる。不透明フィルターの不透明度増大領域の移動(shift)は、フレームに対する目の位置ずれと同一または同様にすることができる。拡張現実画像の移動は、不透明フィルターの不透明度増大領域の位置ずれの小さな端数にすることができる。
【0060】
他の要点は、ユーザーが右を見ているとき、左側の透過レンズは拡張現実画像に焦点が合っていないので、目の追跡に基づいて、右側の不透明フィルターのみについて不透明フィルターの不透明度増大領域の位置を調節し、左側の不透明フィルターについては調節しなくても十分であると考えられることである。同様に、ユーザーが左を見ているとき、右側の透過レンズは拡張現実画像に焦点が合っていないので、目の追跡に基づいて、左側の不透明フィルターのみについて、不透明フィルターの不透明度増大領域の位置を調節し、右側の不透明フィルターについては調節しなくても十分であると考えられる。
【0061】
[0096] 図8B2は、図8B1の実世界場面要素800の他の図を示す。
[0097] 図8B3は、図8B1の不透明フィルター領域804の他の図を示す。
図8B4は、図8B1の拡張現実画像領域805の他の図を示す。
【0062】
[0098] 図9A1は、ユーザーの目の視野の拡張現実表示領域の中央における、拡張現実画像と、不透明フィルターの不透明度増大領域との位置合わせを示す。上面図が示されている。図9A1図9B1図9D1図9E1、および図9F1の倍率は、更なる詳細を示すために、不透明フィルター750および光学素子722を目から更に遠くに配置することによって、図8A1および図8B1の倍率から変更されている。先に論じたように、目は、比較的広い視野を有する。不透明フィルター750は、約60度というような、線904および912で境界を定められたα2の角度範囲がある視野の内部にあり、光学素子722は、拡張現実画像を供給し、線906および910で境界を定められた、約20度というような、α1の角度範囲がある視野の中にある。α1の角度範囲がある視野は、拡張現実表示領域の角度範囲を表す。線908は、目の視界(sight)の前方の直線を表し、拡張現実画像900および不透明度増大領域902の中央を通過する。更に、不透明フィルターの部分902は、不透明度が増大されており、光学素子900の対応部分は、拡張現実画像を供給する。不透明フィルターの不透明度増大部分902は、拡張現実画像の後ろにある。この例は、拡張現実画像および不透明フィルターの不透明度増大領域が、拡張現実表示領域の中央にあり、拡張現実表示領域の境界(境界線906および910によって表されている)にあるのではないことを示す。
【0063】
[0099] 1つの手法では、不透明フィルターは、カラーを与える機能を有するので、中央の20度の視野(左および右に+/−10度)にカラー画像が供給され、一方周辺領域(左および右に+/−10から30度の間)は、不透明フィルターを用いて、増大させた不透明度およびカラーを、低い解像度で、そして焦点が合っていない状態で供給する。例えば、ユーザーが彼の頭部を横に動かすと、飛んでいるかのような拡張現実画像の位置を調節することができるので、いるかが中央の20度視野から周辺領域に移動することができる。この場合、不透明フィルターが拡張現実画像を表す。これによって、中央の20度視野からいるかが動くときに、このいるかが消える場合に生ずる不連続性が回避される。
【0064】
[00100] この図および以下の図では、拡張現実画像および不透明度増大領域は、簡略化のために、対応する正方形または矩形の形状を有すると仮定する。
[00101] 図9A2は、図9A1の不透明フィルター領域902の正面図を示す。
【0065】
図9A3は、図9A1の拡張現実画像領域900の正面図を示す。
図9B1は、図9A1の拡張現実表示領域の周辺境界における、拡張現実画像と不透明フィルターの不透明度増大領域との位置合わせを示す。ここでは、拡張現実画像922および不透明フィルターの不透明度増大領域920(双方とも、約d2の幅を有すると仮定する)は、拡張現実表示領域(境界線906および910によって表される)の境界906にある。線907は、拡張現実画像922および不透明度増大領域920の中央を通る見通し線を表す。α3は、線906および907間の角度範囲である。
【0066】
[00102] 図3Aおよび図3Bと関連付けて述べたように、図9B1における場合のように、拡張現実画像が拡張現実表示領域の境界にあるとき等に、不透明度漸次遷移を行うことができる。このような遷移の更なる詳細については、以下を参照のこと。
【0067】
[00103] 図9B2は、図9B1の不透明フィルター領域920の正面図を示す。
図9B3は、図9B1の拡張現実画像領域922の正面図を示す。
[00104] 図9C1は、ユーザーの目の視野の周辺境界からの距離の関数として、不透明度の漸次変化を示す。x軸は、境界線906からの水平距離を表し、y軸は不透明フィルターの対応領域の不透明度を表す。線915によって表される1つの選択肢では、不透明度は、境界からd1からd2の距離において最高レベルとなり、境界(x=0)における最低レベルまで徐々に低下する。図9C2を参照のこと。不透明度は、拡張現実表示領域の外側では、x<0に対して最低レベルになる。他線916によって表される他の選択肢では、不透明度は、境界からx=0からx=d2までにおいて最高レベルとなり、境界から距離|d3|において、拡張現実画像領域の外側で徐々に最低レベルまで低下する。図9C3を参照のこと。不透明度は、x<d3のとき、拡張現実表示領域の外側において最低レベルになる。線917で表される更に他の選択肢では、不透明度は、x=d4からx=d2まで最高レベルにあり、距離|d5|−|d4|において、拡張現実表示領域の外側において最低レベルまで徐々に低下する。図9C4を参照のこと。不透明度は、x<d5のとき、拡張現実表示領域の外側において最低レベルとなる。
【0068】
[00105] 図9C2は、溶暗しない部分931、ならびに連続的に溶暗する部分932、933、および934があり、図9C1における0およびd1の間で溶暗する不透明フィルター領域を示す。
【0069】
[00106] 図9C3は、溶暗しない部分941、ならびに連続的に溶暗する部分942、943、および944があり、図9C1における0およびd3の間で溶暗する不透明フィルター領域を示す。図9C4は、溶暗しない部分951、ならびに連続的に溶暗する部分952、952、および953があり、図9C1におけるd4およびd5間で溶暗する不透明フィルター領域を示す。
【0070】
[00107] 図9D1は、不透明度増大の追加領域が、視野の第2周辺領域に設けられている場合の、図9A1の拡張現実表示領域の周辺境界における、拡張現実画像と不透明フィルターの不透明度増大領域との位置合わせを示す。上面図が示されている。図9B1と比較すると、図9D1では、不透明フィルター750の追加の不透明度増大領域924が付け加えられている。追加の不透明度増大領域924は、拡張現実表示領域の外側にあり、拡張現実画像に対する影のような、周辺キューを設けることができる。この影は、拡張現実画像922と同様のサイズおよび形状を有することができる。追加の不透明度増大領域924は、拡張現実画像922および/または不透明度増大領域920とは、水平方向に同じ高さ、および/またはこれらよりも上または下にあることができる。この例では、不透明度増大領域924は、不透明度増大領域920から、不透明フィルター750の透過性領域によって分離されている。
【0071】
[00108] 光学素子722の左周辺側にある、視野の第2周辺領域は、光学素子722の左周辺側における線904および906の間に、(α2−α1)/2の角度範囲(例えば、10〜30度)を有する。対応する追加の周辺領域は、光学素子722の右周辺側における線910および912の間に、(α2−α1)/2の角度範囲を有する。
【0072】
[00109] 図9D2は、図9D1の不透明フィルター領域920および924の正面図を示す。
[00110] 図9D3は、図9D1の拡張現実画像領域900の正面図を示す。
【0073】
[00111] 図9E1は、拡張現実画像の第2切除部分を表すために、視野の第2の周辺領域に追加の不透明度増大領域が設けられている場合の、図9A1の拡張現実表示領域の周辺境界における、拡張現実画像の第1部分と不透明フィルターの不透明度増大領域との位置合わせを示す。上面図が示されている。ここでは、幅d2の拡張現実画像部分922が、拡張現実画像の第1部分を表し、不透明フィルター750の不透明度増大領域926が拡張現実画像部分922の後ろにある。実際には存在しないが、幅がd2’の拡張現実画像部分923が、拡張現実画像部分922の位置に基づいて、拡張現実画像の第2の切除部分がある場所を表す。この場合、拡張現実画像の急激な切除を回避するために、不透明フィルターの追加の不透明度増大領域928(不透明度増大領域926の延長であることができる)が、拡張現実画像部分923の後ろに設けられている。追加の不透明度増大領域928の終端は、1段階で最低不透明度に変化することができ、または図9C1の論述に類似した手法を用いて、不透明度の漸次的変化を設けることができる。
【0074】
[00112] 1つの手法では、追加の不透明度増大領域928は、拡張現実画像部分923と同様のサイズ、形状、位置、および/またはカラーを有するので、実際には存在しない拡張現実画像部分923を本質的に表す。
【0075】
[00113] 図9E2は、図9E1の不透明フィルター領域926および928の正面図を示す。
[00114] 図9E3は、図9E1の拡張現実画像領域922および923の正面図を示す。
【0076】
[00115] 図9F1は、光学素子722によって拡張現実画像が供給されないときにおける、視野の第2周辺領域における不透明フィルター750の不透明度増大領域960を示す。上面図が示されている。1つ以上の不透明度増大領域を、右側または左側のいずれの周辺領域にも設けることができる。
【0077】
[00116] 先に論じたように、不透明度増大領域960は、拡張現実画像の低解像度および焦点はずれバージョンを表すことができる。これは、例えば、拡張現実画像が中央の20度視野から視野の周辺領域に移動するように、ユーザーが彼の頭部を横に動かすときに、有用となることができる。この動きは、拡張現実画像900が中央視野にある図9A1、それに続いて、拡張現実画像920が中央視野の境界にある図9B1、それに続いて、不透明領域960(拡張現実画像を表す)が視野の周辺領域にある図9F1のシーケンスによって表すことができる。ユーザーが彼の頭部を動かして開始位置に戻すと、このシーケンスを逆転することができる。
【0078】
[00117] 周辺領域における不透明フィルターの不透明度増大画素は、拡張現実画像と対応する形状、および/または不透明フィルターがカラー機能(color capability)を有する場合には、対応するカラーを有することができる。不透明フィルターの不透明度増大画素の位置付けおよびタイミングは、拡張現実画像の動きに基づいて、滑らかな遷移が得られるように設定することができる。例えば、拡張現実画像が中央視野の境界に達すると、不透明フィルターをそれに応じて作動させて、周辺領域における対応する形状および動きを、拡張現実画像の表現として供給することができる。その後、拡張現実画像の表現が中央視野の境界に向かって動くと、不透明フィルターを不作動にして、拡張現実画像をそれに応じて作動させて、中央視野に対応する形状および動きを供給することができる。
【0079】
[00118] 図9F2は、図9F1の不透明フィルター領域960の正面図を示す。
[00119] 図9F3は、図9F1の拡張現実画像の正面図を示す。
[00120] 以上から分かるように、多数の利点が得られる。例えば、比較的単純なHMD装置を提供する。更に、目、主要なカラー・ディスプレイ、および不透明フィルター間の較正は、視標追跡および心理的知覚(psycho-perceptual)技法を用いて行われる。不透明フィルターは、仮想形象を供給する主要なディスプレイがない場合でも、周辺視覚キューを供給するために用いることができる。カラー系不透明フィルターでは、周辺カラー・エリアと中央焦点エリアを継ぎ目なく配合して、全体的な体験を改善し、焦点エリア内部にある不透明度専用フィルターリング(opacity-only filtering)への遷移を改良することができる。
【0080】
[00121] 本明細書における以上の技術の詳細な説明は、例示および説明の目的に限って提示されたのである。これは、網羅的であることも、開示された形態そのものに本技術を限定することも意図していない。以上の教示を考慮すれば、多数の変更や変形が可能である。以上で説明した実施形態は、本技術の原理およびその実用的用途を最良に説明することによって、当業者が本技術を種々の実施形態において最良に利用すること、および考えられる個々の使用に適した種々の変更と共に最良に利用することを可能にするように選択されたのである。本技術の範囲は、添付した特許請求の範囲によって定義されることを意図している。
図4A-4D】
図5
図6
図7A
図7B
図7C
図8A1
図8A2
図8A3
図8A4
図8B1
図8B2
図8B3
図8B4
図9A1
図9A2
図9A3
図9B1
図9B2
図9B3
図9D1
図9D2
図9D3
図9E1
図9E2
図9E3
図9F1
図9F2
図9F3
図1
図2
図3
図9C