(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2022-02-24
(54)【発明の名称】較正ターゲットを伴うポータブルドッキングステーションを使用するヘッドマウントディスプレイ較正
(51)【国際特許分類】
H04N 5/64 20060101AFI20220216BHJP
【FI】
H04N5/64 511A
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2021528969
(86)(22)【出願日】2019-12-26
(85)【翻訳文提出日】2021-07-20
(86)【国際出願番号】 US2019068529
(87)【国際公開番号】W WO2020139915
(87)【国際公開日】2020-07-02
(32)【優先日】2018-12-27
(33)【優先権主張国・地域又は機関】US
(32)【優先日】2019-08-30
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】515046968
【氏名又は名称】フェイスブック・テクノロジーズ・リミテッド・ライアビリティ・カンパニー
【氏名又は名称原語表記】FACEBOOK TECHNOLOGIES, LLC
(74)【代理人】
【識別番号】110002974
【氏名又は名称】特許業務法人World IP
(72)【発明者】
【氏名】シュトゥク, セバスチャン
(72)【発明者】
【氏名】サン アグスティン ロペス, ハビエル
(72)【発明者】
【氏名】シュロフ, サプナ
(72)【発明者】
【氏名】キャビン, ロバート デール
(72)【発明者】
【氏名】フィックス, アレクサンダー ジョーブ
(57)【要約】
ヘッドマウントディスプレイ(HMD)、および、HMDの1つまたは複数の構成要素の較正のためにHMDを収容するように構成されたポータブルドッキングステーションを含む、システムを説明する。ポータブルドッキングステーションは、少なくとも1つの較正ターゲット、たとえばチェッカーボードパターンおよび/または凸状リフレクタを含む。本開示の技法は、HMDがポータブルドッキングステーション内に置かれたとき、画像キャプチャデバイスによってキャプチャされた較正ターゲットの1つまたは複数の画像に基づいて、HMDの画像キャプチャデバイスを較正することを含む。開示された技法は、視線追跡カメラおよびインサイドアウトカメラなどの画像キャプチャデバイス、ディスプレイ、照明器、センサなどを含む、HMDの複数の異なる構成要素を較正するために適用可能である。いくつかの例では、HMDがポータブルドッキングステーション内に置かれたとき、HMDの再充電可能バッテリを充電することができる。
【選択図】
図1A
【特許請求の範囲】
【請求項1】
少なくとも1つの画像キャプチャデバイスを備えるヘッドマウントディスプレイ(HMD)と、
前記HMDを収容するように構成されたポータブルドッキングステーションであって、前記HMDが前記ポータブルドッキングステーション内に置かれたとき、前記少なくとも1つの画像キャプチャデバイスの視野内にある少なくとも1つの較正ターゲットを含む、ポータブルドッキングステーションと、
前記HMDが前記ポータブルドッキングステーション内に置かれたとき、前記少なくとも1つの画像キャプチャデバイスによってキャプチャされた前記少なくとも1つの較正ターゲットの1つまたは複数の画像に基づいて、前記HMDの前記少なくとも1つの画像キャプチャデバイスを較正するように構成された、較正エンジンを実行するプロセッサと、
を備える、システム。
【請求項2】
前記HMDは、ディスプレイ、少なくとも1つの照明器、または少なくとも1つのセンサのうちの1つまたは複数をさらに備え、前記較正エンジンは、前記少なくとも1つの画像キャプチャデバイスに関して、前記ディスプレイ、前記少なくとも1つの照明器、または前記少なくとも1つのセンサのうちの少なくとも1つを較正するようにさらに構成される、請求項1に記載のシステム。
【請求項3】
前記少なくとも1つの画像キャプチャデバイスを較正するために、前記較正エンジンは、
前記HMDが前記ポータブルドッキングステーション内に置かれたとき、前記少なくとも1つの画像キャプチャデバイスによってキャプチャされた前記少なくとも1つの較正ターゲットの前記1つまたは複数の画像に基づいて、前記少なくとも1つの画像キャプチャデバイスの固有パラメータまたは外的パラメータのうちの1つまたは複数を決定し、
前記固有パラメータまたは前記外的パラメータのうちの1つまたは複数に従って動作するように、前記HMDの前記少なくとも1つの画像キャプチャデバイスを設定する、
ように構成される、請求項1に記載のシステム。
【請求項4】
前記HMDは、少なくとも1つの照明器をさらに備え、
前記少なくとも1つの画像キャプチャデバイスは、視線追跡カメラを備え、
前記ポータブルドッキングステーション内に含まれる前記少なくとも1つの較正ターゲットは、前記少なくとも1つの照明器によって放出された光を前記視線追跡カメラに向けて反射するための凸状リフレクタを備え、
前記較正エンジンは、前記視線追跡カメラによってキャプチャされた前記反射された光の1つまたは複数の画像に基づいて、前記視線追跡カメラの外的パラメータを決定するように構成される、
請求項1に記載のシステム。
【請求項5】
前記少なくとも1つの画像キャプチャデバイスは、視線追跡カメラを備え、
前記ポータブルドッキングステーションに含まれる前記少なくとも1つの較正ターゲットは、前記視線追跡カメラの前記視野内にチェッカーボードパターンを含み、
前記較正エンジンは、前記視線追跡カメラによってキャプチャされた前記チェッカーボードパターンの1つまたは複数の画像に基づいて、前記視線追跡カメラの固有パラメータを決定するように構成される、
請求項1に記載のシステム。
【請求項6】
前記ポータブルドッキングステーションに含まれる前記少なくとも1つの較正ターゲットは、前記少なくとも1つの較正ターゲットに近接するか、または前記少なくとも1つの較正ターゲット内に埋め込まれた、1つまたは複数の基準マークを含み、
前記較正エンジンは、
前記1つまたは複数の基準マークに基づいて、前記HMDが前記ポータブルドッキングステーション内に置かれたときの前記HMDの位置と、前記ポータブルドッキングステーション内の前記少なくとも1つの較正ターゲットの位置との間の空間関係を決定し、
前記HMDの前記位置と前記少なくとも1つの較正ターゲットの前記位置との間の前記決定された空間関係にさらに基づいて、前記少なくとも1つの画像キャプチャデバイスを較正するように構成される、
請求項1に記載のシステム。
【請求項7】
前記ポータブルドッキングステーションは、前記HMDが前記ポータブルドッキングステーション内に置かれたとき、前記HMDを固定位置で収容して保持するように構成された、1つのまたは複数の固定具を含み、
前記較正エンジンは、前記ポータブルドッキングステーション内の前記HMDの前記固定位置と前記少なくとも1つの較正ターゲットの位置との間の、既知の空間関係にさらに基づいて、前記少なくとも1つの画像キャプチャデバイスを較正するように構成される、
請求項1に記載のシステム。
【請求項8】
前記較正エンジンは、前記HMDが前記ポータブルドッキングステーション内に収容された旨の決定、または、前記HMDが前記ポータブルドッキングステーション内にある間に、前記HMDの再充電可能バッテリが少なくとも閾値充電レベルまで充電された旨の決定のうちの、少なくとも1つに応答して、前記少なくとも1つの画像キャプチャデバイスを較正するように構成される、請求項1に記載のシステム。
【請求項9】
前記HMDが前記ポータブルドッキングステーション内に置かれたとき、前記HMDの再充電可能バッテリを充電するように構成された、充電回路をさらに備える、請求項1に記載のシステム。
【請求項10】
前記HMDの前記少なくとも1つの画像キャプチャデバイスは、少なくとも1つの第1の画像キャプチャデバイスを備え、少なくとも1つの第2の画像キャプチャデバイスを備える周辺デバイスをさらに備え、前記ポータブルドッキングステーションは、前記HMDに近接して前記周辺デバイスを収容し、前記HMDが前記ポータブルドッキングステーション内に置かれたとき、前記HMDのディスプレイが前記少なくとも1つの第2の画像キャプチャデバイスの視野内にあるように前記周辺デバイスを位置決めするように、さらに構成される、請求項1に記載のシステム。
【請求項11】
前記較正エンジンは、前記HMDおよび前記周辺デバイスの両方が前記ポータブルドッキングステーション内に置かれたとき、前記少なくとも第2の画像キャプチャデバイスによってキャプチャされた前記HMDの前記ディスプレイ上に生成された1つまたは複数の画像に基づいて、前記HMDの前記ディスプレイ、および前記周辺デバイスの前記少なくとも1つの第2の画像キャプチャデバイスを較正するように、さらに構成される、請求項10に記載のシステム。
【請求項12】
前記HMDは、前記HMDおよび前記周辺デバイスの両方が前記ポータブルドッキングステーション内に置かれたとき、前記周辺デバイスの前記少なくとも1つの第2の画像キャプチャデバイスの視野内にある1つまたは複数の基準マークを含み、
前記較正エンジンは、
前記1つまたは複数の基準マークに基づいて、前記HMDおよび前記周辺デバイスの両方が前記ポータブルドッキングステーション内に置かれたときの前記HMDの位置と前記周辺デバイスの位置との間の空間関係を決定し、
前記HMDの前記位置と前記周辺デバイスの前記位置との間の前記決定された空間関係にさらに基づいて、前記HMDの前記ディスプレイ、および前記周辺デバイスの前記少なくとも1つの第2の画像キャプチャデバイスを較正するように構成される、
請求項11に記載のシステム。
【請求項13】
前記プロセッサは、前記HMDまたは前記周辺デバイスのうちの1つ内に組み込まれる、請求項10に記載のシステム。
【請求項14】
前記ポータブルドッキングステーションは、前記HMDのためのキャリングケースまたは蓋のうちの1つを備える、請求項1に記載のシステム。
【請求項15】
前記HMDは人工現実眼鏡を備え、前記ポータブルドッキングステーション内に前記人工現実眼鏡を配置するために前記人工現実眼鏡のアームが折りたたまれたとき、前記少なくとも1つの較正ターゲットが前記少なくとも1つの画像キャプチャデバイスの前記視野内にあるように、前記少なくとも1つの較正ターゲットは前記人工現実眼鏡の前記アームに沿ったロケーションに位置決めされる、請求項1に記載のシステム。
【請求項16】
前記プロセッサは前記HMD内に組み込まれる、請求項1に記載のシステム。
【請求項17】
少なくとも1つの画像キャプチャデバイスを備えるヘッドマウントディスプレイ(HMD)を、ポータブルドッキングステーションによって収容することであって、前記ポータブルドッキングステーションは、前記HMDが前記ポータブルドッキングステーション内に置かれたとき、前記少なくとも1つの画像キャプチャデバイスの視野内にある少なくとも1つの較正ターゲットを含む、HMDを収容すること、
前記HMDの前記少なくとも1つの画像キャプチャデバイスを較正すべきである旨を決定すること、および、
前記HMDが前記ポータブルドッキングステーション内に置かれたとき、前記少なくとも1つの画像キャプチャデバイスによってキャプチャされた前記少なくとも1つの較正ターゲットの1つまたは複数の画像に基づいて、前記HMDの前記少なくとも1つの画像キャプチャデバイスを較正すること、
を含む、方法。
【請求項18】
前記HMDの前記少なくとも1つの画像キャプチャデバイスを較正すべきである旨を決定することは、近接センサまたは磁気センサのうちの1つに基づいて、前記HMDが前記ポータブルドッキングステーションによって収容された旨を決定することを含む、請求項17に記載の方法。
【請求項19】
前記HMDの前記少なくとも1つの画像キャプチャデバイスを較正すべきである旨を決定することは、前記HMDが前記ポータブルドッキングステーション内にある間に、前記HMDの再充電可能バッテリが少なくとも閾値充電レベルまで充電された旨を決定することを含む、請求項17に記載の方法。
【請求項20】
命令を含む非一時的コンピュータ可読媒体であって、前記命令が実行されたとき、1つまたは複数のプロセッサに
ヘッドマウントディスプレイ(HMD)がポータブルドッキングステーションによって収容された旨を決定することであって、前記ポータブルドッキングステーションは、前記HMDが前記ポータブルドッキングステーション内に置かれたとき、前記HMDの少なくとも1つの画像キャプチャデバイスの視野内にある少なくとも1つの較正ターゲットを含む、収容された旨を決定すること、
前記HMDの前記少なくとも1つの画像キャプチャデバイスを較正すべきである旨を決定すること、および、
前記HMDが前記ポータブルドッキングステーション内に置かれたとき、前記少なくとも1つの画像キャプチャデバイスによってキャプチャされた前記少なくとも1つの較正ターゲットの1つまたは複数の画像に基づいて、前記HMDの前記少なくとも1つの画像キャプチャデバイスを較正すること、
を実行させる、非一時的コンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、一般にヘッドマウントディスプレイに関し、より詳細にはヘッドマウントディスプレイ内の構成要素の較正に関する。
【背景技術】
【0002】
人工現実システムは、コンピュータゲーム、安全衛生、工業、および教育などの多くの分野における適用例と共に、ますます遍在的になってきている。いくつかの例として、人工現実システムは、モバイルデバイス、ゲームコンソール、パーソナルコンピュータ、映画館、およびテーマパークに組み込まれている。通常、人工現実とは、たとえば仮想現実(VR)、拡張現実(AR)、複合現実(MR)、ハイブリッド現実、あるいは、それらの何らかの組み合わせおよび/または派生物を含むことができる、ユーザに提示する前に何らかの様式で調節された現実の形である。
【0003】
典型的な人工現実システムは、ユーザにコンテンツをレンダリングおよび表示するための1つまたは複数のデバイスを含む。一例として、人工現実システムは、ユーザによって着用され、人工現実コンテンツをユーザに出力するように構成された、ヘッドマウントディスプレイ(HMD)を組み込むことができる。HMDは、HMDなどの基準系の現在の姿勢(たとえば、位置および向き)を計算するために使用される画像および他のデータをキャプチャするように構成された、1つまたは複数の構成要素(たとえば、画像キャプチャデバイス、照明器、センサなど)を含むことができる。HMDは、現在の姿勢に基づいてユーザに表示するために、人工現実コンテンツを選択的にレンダリングする。
【発明の概要】
【0004】
概して本開示は、ヘッドマウントディスプレイ(HMD)と、HMDの1つまたは複数の構成要素の較正のためにHMDを収容するように構成されたポータブルドッキングステーションとを含む、システムを説明する。ポータブルドッキングステーションは、少なくとも1つの較正ターゲット、たとえばチェッカーボードパターンおよび/または凸状リフレクタを含む。いくつかの例において、ポータブルドッキングステーションは、ポータブルドッキングステーション内のHMDの位置を決定するために使用される固定位置および/または基準マーク内にHMDを保持するための固定具を含むことができる。本開示の技法は、HMDがポータブルドッキングステーション内に置かれたとき、画像キャプチャデバイスによってキャプチャされる較正ターゲットの1つまたは複数の画像に基づいて、HMDの1つまたは複数の画像キャプチャデバイス(たとえば、カメラ)を較正することを含む。HMDまたはHMDに関連付けられた周辺デバイス上で実行される較正エンジンは、較正ターゲットのキャプチャされた画像、および、ポータブルドッキングステーション内のHMDの位置と較正ターゲットの位置との間の空間的関係に基づいて、画像キャプチャデバイスの固有パラメータおよび/または外的パラメータを決定すること、ならびにその後、決定されたパラメータに従って動作するように、画像キャプチャデバイスを構成または再構成することによって、較正を行うことができる。開示される技法は、視線追跡カメラおよびインサイドアウトカメラ、ディスプレイ、照明器、センサなどの、画像キャプチャデバイスを含む、HMDの複数の異なる構成要素を較正するために適用可能である。
【0005】
いくつかの例において、HMDの再充電可能バッテリは、HMDがポータブルドッキングステーション内に置かれたときに充電可能である。このようにして、HMDの1つまたは複数の構成要素は、HMDのユーザに追加の保守ステップを生み出さないように、充電中または充電後即時に較正可能である。いくつかの例において、HMDの1つまたは複数の構成要素の較正は、HMDがポータブルドッキングステーションによって収容された旨を決定すると同時に、および/または、HMDがポータブルドッキングステーション内にある間に、HMDの再充電可能バッテリが少なくとも閾値充電レベルまで充電された旨を決定すると同時に、トリガ可能である。
【0006】
一例において、本開示は、少なくとも1つの画像キャプチャデバイスと、HMDを収容するように構成されたポータブルドッキングステーションであって、ポータブルドッキングステーションは、HMDがポータブルドッキングステーション内に置かれたとき、少なくとも1つの画像キャプチャデバイスの視野内にある少なくとも1つの較正ターゲットを含む、ポータブルドッキングステーションと、HMDがポータブルドッキングステーション内に置かれたとき、少なくとも1つの画像キャプチャデバイスによってキャプチャされた少なくとも1つの較正ターゲットの1つまたは複数の画像に基づいて、HMDの少なくとも1つの画像キャプチャデバイスを較正するように構成された較正エンジンを実行するプロセッサと、を備える、HMDを備えるシステムを対象とする。
【0007】
別の例において、本開示は、ポータブルドッキングステーションによって、少なくとも1つの画像キャプチャデバイスを備えるHMDを収容することであって、ポータブルドッキングステーションは、HMDがポータブルドッキングステーション内に置かれたとき、少なくとも1つの画像キャプチャデバイスの視野内にある少なくとも1つの較正ターゲットを含む、HMDを収容すること、HMDの少なくとも1つの画像キャプチャデバイスを較正すべきである旨を決定すること、および、HMDがポータブルドッキングステーション内に置かれたとき、少なくとも1つの画像キャプチャデバイスによってキャプチャされた少なくとも1つの較正ターゲットの1つまたは複数の画像に基づいて、HMDの少なくとも1つの画像キャプチャデバイスを較正することを含む、方法を対象とする。
【0008】
さらなる例において、本開示は、実行されるとき、ポータブルドッキングステーションによってHMDが収容された旨を決定することであって、ポータブルドッキングステーションは、HMDがポータブルドッキングステーション内に置かれたとき、HMDの少なくとも1つの画像キャプチャデバイスの視野内にある少なくとも1つの較正ターゲットを含む、HMDが収容された旨を決定すること、HMDの少なくとも1つの画像キャプチャデバイスを較正すべきである旨を決定すること、および、HMDがポータブルドッキングステーション内に置かれたとき、少なくとも1つの画像キャプチャデバイスによってキャプチャされた少なくとも1つの較正ターゲットの1つまたは複数の画像に基づいて、HMDの少なくとも1つの画像キャプチャデバイスを較正することを、1つまたは複数のプロセッサに実行させる命令を含む、非一時的コンピュータ可読媒体を対象とする。
【0009】
本開示の技法の1つまたは複数の例の詳細は、添付の図面および下記の説明に示される。技法の他の特徴、目的、および利点は、説明および図面ならびに特許請求の範囲から明らかとなろう。
【図面の簡単な説明】
【0010】
【
図1A】本開示の技法に従った、眼鏡のフォームファクタを有する例示のHMDと、較正のためにHMDを収容するように構成された例示のポータブルドッキングステーションとを示す図である。
【
図1B】本開示の技法に従った、眼鏡のフォームファクタを有する例示のHMDと、較正のためにHMDを収容するように構成された例示のポータブルドッキングステーションとを示す図である。
【
図1C】本開示の技法に従った、眼鏡のフォームファクタを有する例示のHMDと、較正のためにHMDを収容するように構成された例示のポータブルドッキングステーションとを示す図である。
【
図2】本開示の技法に従った、ヘッドセットのフォームファクタを有する例示のHMDと、較正のためにHMDを収容するように構成された例示のポータブルドッキングステーションとを示す図である。
【
図3】スタンドアロン型のモバイル人工現実システムとして動作する、
図1A~
図1CのHMDの例示の実装を示すブロック図である。
【
図4】本開示の技法に従った、眼鏡のフォームファクタを有する例示のHMDと、例示の周辺デバイスと、較正のためにHMDおよび周辺デバイスを収容するように構成された例示のポータブルドッキングステーションとを示す図である。
【
図5】本開示の技法に従った、人工現実システムとして動作する、
図4のHMDおよび周辺デバイスの例示の実装を示すブロック図である。
【
図6】HMDがポータブルドッキングステーション内に置かれたとき較正可能な、HMDの例示の構成要素を示す概念図である。
【
図7】本開示の技法に従った、ポータブルドッキングステーション内に置かれたとき、HMDの構成要素を較正する例示の動作を示すフローチャートである。
【発明を実施するための形態】
【0011】
図面および説明全体を通じて、同じ参照文字は同じ要素を指す。
【0012】
図1A~
図1Cは、本開示の技法に従った、眼鏡のフォームファクタを有する例示のHMD 112A~112Bと、較正のためにHMDを収容するように構成された例示のポータブルドッキングステーション120A~120Cとを示す図である。説明する技法では、HMD 112の1つまたは複数のキャプチャデバイス(たとえば、カメラ)は、HMD 112がそれぞれのポータブルドッキングステーション120内に置かれたとき、画像キャプチャデバイスによってキャプチャされる較正ターゲットの1つまたは複数の画像に基づいて較正される。
【0013】
概して、
図1A~
図1CのHMD 112の各々は、スタンドアロン型のモバイル人工現実システムとして動作することができるか、または、周辺デバイスおよび/またはコンソールを含む人工現実システムの一部とすることができる。いずれの場合でも、人工現実システムは、実世界の3D物理環境からキャプチャされた情報を使用して、HMDのユーザに表示するための人工現実コンテンツをレンダリングする。スタンドアロン型のモバイル人工現実システム(
図3に関してより詳細に説明する)の場合、HMD 112の各々は、人工現実コンテンツ自体を構築およびレンダリングする。
【0014】
周辺デバイスおよび/またはコンソールを含む人工現実システム(
図5に関してより詳細に説明する)の場合、周辺デバイスおよび/またはコンソールは、HMDによって表示するために少なくとも何らかの人工現実コンテンツの構築およびレンダリングを実行することができる。一例として、HMDはコンソールと通信可能であり、たとえばテザリングまたはワイヤレス通信が可能である。コンソールは、ゲームコンソール、ワークステーション、デスクトップコンピュータ、またはラップトップなどの、単一コンピューティングデバイスであること、あるいは、分散コンピューティングネットワーク、データセンター、またはクラウドコンピューティングシステムなどの、複数のコンピューティングデバイスにまたがって分散することができる。別の例として、HMDは、HMDと共存し、またいくつかの例では、仮想環境内でHMDの補助入力/出力デバイスとして動作する、周辺デバイスに関連付けることができる。周辺デバイスは、HMDの機能のうちのいくつかがオフロードされる、人工現実コプロセッシングデバイスとして動作可能である。いくつかの例において、周辺デバイスはスマートフォン、タブレット、または他のハンドヘルドデバイスであってよい。
【0015】
図1Aは、ポータブルドッキングステーション120Aの外側にある、および内部に収容されている、両方のHMD 112Aを示す図である。
図1Aの例において、HMD 112Aは、鼻梁によって接続された2つの接眼レンズと、HMD 112Aをユーザに固定するためにユーザの耳の上にフィットする2本のテンプルまたはアーム104Aおよび104B(集合的に、「アーム104」)とを有する、剛性フレーム前部102を含む、眼鏡フォームファクタを備える。加えて、HMD 112Aは、従来の眼鏡のレンズの代わりに、人工現実コンテンツをユーザに提示するように構成された内向き電子ディスプレイ103を含む。電子ディスプレイ103は、液晶ディスプレイ(LCD)、量子ドットディスプレイ、ドットマトリックスディスプレイ、発光ダイオード(LED)ディスプレイ、有機発光ダイオード(OLED)ディスプレイ、導波管ディスプレイ、陰極線管(CRT)ディスプレイ、電子インク、あるいは、白黒、カラー、または任意の他のタイプの視覚出力を生成可能なディスプレイなどの、任意の適切な表示技術とすることができる。いくつかの例において、電子ディスプレイ103は、ユーザのそれぞれの眼に別々の画像を提供するための立体ディスプレイである。いくつかの例では、HMD 112Aおよびユーザの現在の視点に従って人工現実コンテンツをレンダリングするために、HMD 112Aの位置および向きを追跡するとき、HMD 112Aの剛性フレーム前部102に対するディスプレイ103の既知の向きおよび位置が、局所起点とも呼ばれる基準系として使用される。
【0016】
さらに
図1Aに示されるように、本例では、HMD 112Aは、HMD 112Aの現行の加速を示すデータを出力する1つまたは複数の加速度計(慣性測定ユニットまたは「IMU」とも呼ばれる)、HMD 112Aのロケーションを示すデータを出力する全地球測位システム(GPS)センサ、様々な物体からのHMD 112Aの距離を示すデータを出力するレーダまたはソナー、あるいは、HMD 112Aまたは物理環境内の他の物体のロケーションまたは向きの指示を提供する他のセンサなどの、1つまたは複数の動きセンサ106をさらに含む。
【0017】
さらに、HMD 112Aは、ビデオカメラ、レーザスキャナ、Doppler(R)レーダスキャナ、深度スキャナなどの、1つまたは複数の集積画像キャプチャデバイスを含むことができる。たとえば、
図1Aに示されるように、HMD 112Aは、ユーザを取り巻く物理環境を表す画像データをキャプチャするように構成された、インサイドアウトカメラ108Aおよび108B(集合的に、「インサイドアウトカメラ108」)を含む。HMD 112Aは、ユーザの凝視方向を表す画像データをキャプチャするように構成された、視線追跡カメラ114Aおよび114B(集合的に、「視線追跡カメラ114」)も含む。HMD 112Aは、剛性フレーム前部102の接眼レンズの周辺にまたは近接して位置決めされた、照明器116Aおよび116B(集合的に、「照明器116」)を含む。照明器116は、発光ダイオード(LED)または他の光源、たとえば、視線追跡カメラ114による凝視追跡の目的でユーザの眼を照明するために使用される赤外線光などの不可視光源の、アレイを備えることができる。他の例において、HMD 112Aは、HMD 112の剛性フレーム前部102とユーザの額との間の距離を決定するために使用される画像データをキャプチャするように構成された、1つまたは複数の眉間カメラ、音声認識に使用されるユーザの口の画像データをキャプチャするように構成された、1つまたは複数のマウスカメラ、および/または、HMD 112Aのアーム104とユーザの顔の側面域との間の距離を決定するために使用される画像データをキャプチャするように構成された、1つまたは複数の下位側頭部カメラを含む、追加の画像キャプチャデバイスを含むことができる。
【0018】
図1Aに示されるように、HMD 112Aは、内部電源、たとえば再充電可能バッテリと、感知したデータを処理し、ディスプレイ103上に人工現実コンテンツを提示するために、プログラム可能動作を実行するための動作環境を提供するための、1つまたは複数のプロセッサ、メモリ、およびハードウェアを有する1つまたは複数のプリント回路板とを含むことができる、内部制御ユニット110を含む。HMD 112Aの内部制御ユニット110は、
図3および
図5に関してより詳細に説明する。
【0019】
本開示で説明するように、ポータブルドッキングステーション120Aは、HMD 112Aの1つまたは複数の構成要素の較正のために、HMD 112Aを収容するように構成される。たとえば、ポータブルドッキングステーション120Aを使用して、HMD 112Aのインサイドアウトカメラ108および視線追跡カメラ114のうちの1つまたは複数を較正することができる。追加の例では、ポータブルドッキングステーション120Aを使用して、電子ディスプレイ103、センサ106、または照明器116のうちの1つまたは複数を較正することができる。いくつかの例において、HMD 112Aの構成要素は、寿命全体にわたる主要なパラメータのドリフトを顕示することができ、このドリフトがHMD 112A全体の望ましくない性能の低下につながる可能性がある。HMDは、構成要素が最初に較正された可能性のある工場または製造センターにおいて、再較正可能であるが、実際には、関連する配送および再較正の費用に起因して滅多に行われない。さらに、HMDの構成要素の性能低下は遅く、長期間気付かれない可能性があるため、ユーザにとって再較正が必要になるタイミングを決定することが困難であり得る。本明細書で説明するポータブルドッキングステーション120Aは、工場または製造センターの外でのHMD 112Aの構成要素の較正または再較正を可能にする。このようにして、ポータブルドッキングステーション120Aおよび本明細書で説明する較正技法は、HMD 112Aの構成要素のパラメータを決定し、HMD 112Aの構成要素の材料およびパラメータが経時的に変化するにつれて生じる可能性のある初期較正設定からの変化を補正するように、パラメータを調節することができる。
【0020】
一例では、
図1Aに示されるように、ポータブルドッキングステーション120Aは、底部および4つの側面を有し、HMD 112Aを収容するようにサイズが決定された、箱型フォームファクタを備える。
図1Aには示されていないが、ポータブルドッキングステーション120Aは、ポータブルドッキングステーション120A内にHMD 112Aを完全に封入するために使用される、取り外し可能な上蓋を含むことができる。いくつかの例において、ポータブルドッキングステーション120Aは、HMD 112A用のキャリングケースとして使用するための取っ手またはストラップをさらに含むことができる。本明細書では、例示のポータブルドッキングステーションが、HMDを部分的または完全に封入する箱型フォームファクタを有するものとして示されるが、他の例では、ポータブルドッキングステーションは、1つまたは複数の較正ターゲットに関してHMDを収容するための1つまたは複数のサポートを有するスタンドを代わりに備えることができる。
【0021】
いくつかの実装において、ポータブルドッキングステーション120Aは、ポータブルドッキングステーション120A内に置かれたとき、HMD 112Aを再充電するために使用される電源へのアクセスを提供するように構成可能である。たとえばポータブルドッキングステーション120Aは、それ自体のバッテリを含むこと、および/または、壁の電気コンセントまたは他の外部電源にプラグインすることができる。ポータブルドッキングステーション120Aは、その後、有線充電または無線(すなわち、電磁誘導)充電のいずれかを介して、HMD 112Aの再充電可能バッテリに充電電流を提供することができる。このようにして、HMD 112Aの構成要素は、HMD 112Aのユーザに追加の保守工程を生じさせないように、充電中または充電直後に較正することができる。いくつかの例において、HMD 112Aがポータブルドッキングステーション120Aによって収容されている旨を決定すると同時に、および/または、HMD 112Aがポータブルドッキングステーション120A内にある間、HMD 112Aの再充電可能バッテリが少なくとも閾値充電レベルまで充電されている旨を決定すると同時に、HMD 112Aの構成要素の較正をトリガすることができる。
【0022】
図1Aの例において、ポータブルドッキングステーション120Aは、ポータブルドッキングステーション120A内の固定位置にHMD 112Aを収容して保持するように構成された、固定具124Aおよび124B(集合的に、「固定具124」)ならびにノーズレスト126を含む。固定具124は、HMD 112Aを固定位置に保持するために、HMD 112Aのアーム104の一部と係合するように構成された、磁石または構造的特徴を備えることができる。同様にいくつかの例において、ノーズレスト126は、HMD 112Aの剛性フレーム前部102の鼻梁の一部と係合するように構成された、磁石または構造的特徴を備えることができる。ポータブルドッキングステーション120Aは、HMD 112Aのアーム104のすぐ後ろの内部背面上のチェッカーボードパターンとしての較正ターゲット122A、および、HMD 112Aの剛性フレーム前部102のすぐ前の内部前面上のチェッカーボードパターンとしての較正ターゲット122Bも含む。いくつかの例において、ポータブルドッキングステーション120Aの左および右の内部表面上に、追加の較正ターゲットを含むこともできる。較正ターゲット122A、122Bは、HMD 112Aがポータブルドッキングステーション120A内に置かれたとき、HMD 112Aの少なくとも1つの画像キャプチャデバイス、たとえば、インサイドアウトカメラ108または視線追跡カメラ114のうちの少なくとも1つの、視野内にあるように、ポータブルドッキングステーション120A内に位置決めされる。いくつかの例において、較正ターゲット122A、122Bのチェッカーボードパターンは、反射表面および/または赤外線(IR)エミッタを備えることができる。さらに他の例では、ポータブルドッキングステーション120Aは、較正ターゲット122A、122Bを照明するために、拡散IRエミッタ、たとえば拡散IR LEDを含むことができる。
【0023】
較正ターゲット122A、122Bは、
図1Aにおいてチェッカーボードパターンとして示されているが、他の例では、ポータブルドッキングステーション120Aは異なる視覚パターンを有する他の較正ターゲットを含むことができる。チェッカーボードパターン、またはより一般的には、ドット、あるいは線、照準線、多角形、円、楕円などの他の視覚マーカのアレイを含む、任意のテストパターンが、HMD 112Aの様々な画像キャプチャデバイスの合焦、画像解像度、および/または画像ディストーションの較正に使用可能である。いくつかの例において、ポータブルドッキングステーション120Aは、IRエミッタおよび/または、凸状リフレクタなどの反射表面などの、他のタイプの較正ターゲットを含むことができる。
図6に関してより詳細に説明するように、凸状リフレクタは、較正の目的でユーザの眼を模倣するために、HMDの接眼レンズのすぐ後ろに位置決め可能な、凸状鏡面を備える。
【0024】
本開示で説明する技法に従い、HMD 112Aの画像キャプチャデバイスは、HMD 112Aがポータブルドッキングステーション120A内に置かれたとき、画像キャプチャデバイスによってキャプチャされた較正ターゲット122A、122Bのうちの1つまたは複数の画像に基づいて較正される。HMD 112AまたはHMD 112Aに関連付けられた周辺デバイス上で実行される較正エンジンは、較正ターゲット122A、122Bのキャプチャされた画像、および、ポータブルドッキングステーション120A内のHMD 112Aの固定位置と較正ターゲット122A、122Bの位置との間の既知の空間関係に基づいて、画像キャプチャデバイスの固有パラメータおよび/または外的パラメータを決定することによって、較正を行うことができる。その後、較正エンジンは、決定されたパラメータに従って動作するように、画像キャプチャデバイスを構成または再構成することができる。
【0025】
一例として、HMD 112Aの視線追跡カメラ114は、ポータブルドッキングステーション120A内のHMD 112Aの固定位置と較正ターゲット122Aの位置との間の既知の空間関係に基づいて、較正可能である。
図6に関してより詳細に説明するように、視線追跡カメラ114は、HMD 112Aを装着しているとき、ユーザの眼のホットミラー反射の画像をキャプチャするように、HMD 112Aの接眼レンズ内に位置決めされる。このようにして、HMD 112Aがポータブルドッキングステーション120A内に置かれたとき、視線追跡カメラ114は、HMD 112Aの接眼レンズの後ろに位置決めされた較正ターゲット122Aの画像をキャプチャすることができる。いくつかの例において、視線追跡カメラ114は、電子ディスプレイ103、ならびに、HMD 112Aの接眼レンズの前に位置決めされた照明器116および較正ターゲット122Bの画像もキャプチャするように、HMD 112Aの接眼レンズ内に位置決め可能である。視線追跡カメラ114Aを較正するために、たとえば較正エンジンは、視線追跡カメラ114Aによってキャプチャされた較正ターゲット122Aのチェッカーボードパターンの画像、および、HMD 112Aの固定位置と較正ターゲット122Aの位置との間の既知の空間関係に基づいて、視線追跡カメラ114Aの固有パラメータを決定することができる。本例を続けると、較正エンジンは、視線追跡カメラ114Aによってキャプチャされた、照明器116Aによって発光され、凸状リフレクタ(
図1Aには図示せず)によって反射された、光の画像、ならびに、HMD 112Aの固定位置と凸状リフレクタ較正ターゲットの位置との間の既知の空間関係に基づいて、視線追跡カメラ114Aの外的パラメータを決定することができる。較正エンジンは、その後、決定された固有パラメータおよび外的パラメータに従って動作するように、視線追跡カメラ114Aを構成することができる。
【0026】
別の例として、HMD 112Aのインサイドアウトカメラ108は、ポータブルドッキングステーション120A内のHMD 112Aの固定位置と較正ターゲット122Bの位置との間の既知の空間関係に基づいて、較正可能である。インサイドアウトカメラ108Aを較正するために、たとえば較正エンジンは少なくとも、インサイドアウトカメラ108Aによってキャプチャされた較正ターゲット122Bのチェッカーボードパターンの画像、および、HMD 112Aの固定位置と較正ターゲット122Bの位置との間の既知の空間関係に基づいて、インサイドアウトカメラ108Aの固有パラメータを決定すること、およびその後、決定された固有パラメータに従って動作するように、インサイドアウトカメラ108Aを構成することができる。
【0027】
さらなる例において、較正エンジンは、HMD 112Aの画像キャプチャデバイスのうちの少なくとも1つに関して、電子ディスプレイ103、照明器116、またはセンサ106のうちの1つまたは複数を較正することができる。たとえば、較正エンジンは、較正の目的でユーザの眼を模倣するために、HMD 112の接眼レンズのすぐ後ろに位置決めされる、ポータブルドッキングステーション120Aに含まれる1つまたは複数の参照カメラ(
図1Aには図示せず)によってキャプチャされる、電子ディスプレイ103上に生成された1つまたは複数の画像に基づいて、電子ディスプレイ103を較正することができる。いくつかの例において、照明器116が、電子ディスプレイ103を較正するために使用される、視線追跡カメラ114および参照カメラの両方の視野内にあるように、照明器116を電子ディスプレイ103のすぐ上に位置決めすることができる。
【0028】
図1Bは、ポータブルドッキングステーション120B内に収容されたHMD 112Bを示す図である。HMD 112Bは、
図1AからのHMD 112Aの構成要素と実質的に同様の構成要素を含むことができ、HMD 112Bに関して、HMD 112Aの構成要素と同じ参照番号が使用される。
【0029】
図1Bに示されるように、HMD 112Bは、HMD 112Bのアーム104に沿って位置決めされた、較正ターゲット130Aおよび130B(集合的に、「較正ターゲット130」)および基準マーク132A~132D(集合的に、「基準マーク132」)を含む。較正ターゲット130は、ポータブルドッキングステーション120B内にHMD 112Bを配置するためにアーム104が折りたたまれたとき、HMD 112Bの視線追跡カメラ114の視野内にあるように、HMD 112Bのアーム104に沿ったロケーションに位置決めされる。
図1Bの例において、基準マーク132Aおよび132Bは、HMD 112Bのアーム104A上の較正ターゲット130Aに近接して位置決めされ、基準マーク132Cおよび132Dは、HMD 112Bのアーム104B上の較正ターゲット130Bに近接して位置決めされる。
図1Bでは、丸いターゲット状のパターンを有するように示されているが、これは、基準マークのパターン、形状、またはフォームファクタの単なる一例に過ぎない。他の例において、基準マーク132は、丸くないパターン、形状、またはフォームファクタを含むことができる。さらに他の例において、1つまたは複数の基準マークは較正ターゲット130内に埋め込むことができる。基準マーク132の位置は、基準マーク132の少なくとも1つが、較正ターゲット130のそれぞれ1つと共に視線追跡カメラ114の視野内にあることを保証することができる。
【0030】
ポータブルドッキングステーション120Bは、
図1Aからのポータブルドッキングステーション120Aと実質的に同様であり得る。
図1Bに示されるように、ポータブルドッキングステーション120Bは、ポータブルドッキングステーション120Bに関する固定位置でHMD 112Bを収容して保持するように構成された、固定具124およびノーズレスト126を含む。ポータブルドッキングステーション120Bは、HMD 112Bの剛性フレーム前部102のすぐ前のポータブルドッキングステーション120Bの内部前面上のチェッカーボードパターンとして、較正ターゲット128も含む。
図1Bに示されるように、ポータブルドッキングステーション120Bは、較正ターゲット130を有するHMD 112Bと共に使用することが意図される場合、内部背面上の較正ターゲットを有さない可能性がある。他の例において、ポータブルドッキングステーション120Bは、背面、左、および/または右の内部表面上に追加の較正ターゲットを含むことができる。
【0031】
図1Aに関して上記で説明するように、HMD 112Bのインサイドアウトカメラ108は、ポータブルドッキングステーション120B内のHMD 112Bの固定位置と較正ターゲット128の位置との間の既知の空間関係に基づいて較正可能である。たとえば、HMD 112BまたはHMD 112Bに関連付けられた周辺デバイス上で実行される較正エンジンは少なくとも、インサイドアウトカメラ108Aによってキャプチャされた較正ターゲット128のチェッカーボードパターンの画像、および、HMD 112Bの固定位置と較正ターゲット128の位置との間の既知の空間関係に基づいて、インサイドアウトカメラ108Aの固有パラメータを決定することができ、その後、決定された固有パラメータに従って動作するように、インサイドアウトカメラ108Aを構成することができる。
【0032】
しかしながら、HMD 112Bの視線追跡カメラ114の較正に関して、剛性フレーム前部102およびHMD 112Bのアーム104は、経時的および反復使用と共に曲がることおよび/またはたわむことが可能である。したがって、たとえHMD 112Bがポータブルドッキングステーション120Bに関して固定位置で保持されても、HMD 112Bの剛性フレーム前部102の接眼レンズ内の視線追跡カメラ114と、HMD 112Bのアーム104上の較正ターゲット130との間の空間関係は、経時的に変化する可能性がある。この例において、較正エンジンは、基準マーク132A、132Bのうちの1つまたは複数に基づいて、たとえば剛性フレーム前部102内の視線追跡カメラ114Aの位置と、アーム104A上の較正ターゲット130Aとの間の、空間関係を決定する。その後、較正エンジンは、剛性フレーム前部102内の視線追跡カメラ114Aの位置と、アーム104A上の較正ターゲット130Aの位置との間の、決定された空間関係に基づいて、視線追跡カメラ114Aを較正する。たとえば、較正エンジンは少なくとも、視線追跡カメラ114Aによってキャプチャされた較正ターゲット130Aのチェッカーボードパターンの画像、および、視線追跡カメラ114Aの位置と較正ターゲット130Aの位置との間の決定された空間関係に基づいて、視線追跡カメラ114Aの固有パラメータを決定することができ、その後、決定された固有パラメータに従って動作するように視線追跡カメラ114Aを構成することができる。
【0033】
図1Cは、ポータブルドッキングステーション120C内に収容されたHMD 112Aを示す図である。本例では、
図1CのHMD 112Aは実質的に
図1AのHMD 112Aと同じであり得る。さらに、ポータブルドッキングステーション120Cは実質的に
図1Aからのポータブルドッキングステーション120Aと同様であり得る。
【0034】
図1Cに示されるように、ポータブルドッキングステーション120Cは、HMD 112Aのアーム104のすぐ後ろの内部背面上のチェッカーボードパターンとしての較正ターゲット122A、および、HMD 112Aの剛性フレーム前部102のすぐ前の内部前面上のチェッカーボードパターンとしての較正ターゲット122Bを含む。しかしながら、
図1Aおよび
図1Bのドッキングステーション120Aおよび120Bとは異なり、ポータブルドッキングステーション120Cは、ポータブルドッキングステーション120C内の固定位置にHMD 112Aを収容して保持するように構成された、いずれの固定具も含まない。代わりに、ポータブルドッキングステーション120Cは、HMD 112Aのアーム104のすぐ後ろの内部背面上の基準マーク138A、および、HMD 112Aの剛性フレーム前部102のすぐ前の内部前面上の基準マーク138Bを含む。
【0035】
本例では、HMD 112Aはポータブルドッキングステーション120C内に自由に置くことができ、基準マーク138A、138Bを使用して、ポータブルドッキングステーション120Cに関してHMD 112Aの位置を決定することができる。より具体的には、基準マーク138A、138Bを使用して、ポータブルドッキングステーション120C内に置かれたときのHMD 112Aの位置と、ポータブルドッキングステーション120C内のそれぞれの較正ターゲット122A、122Bの位置との間の、空間関係を決定することができる。
図1Cの例では、基準マーク138Aは較正ターゲット122Aに近接して位置決めされ、基準マーク138Bは較正ターゲット122Bに近接して位置決めされる。
図1Cでは丸いターゲット状のパターンを有するように示されているが、これは、基準マークのパターン、形状、またはフォームファクタの単なる一例に過ぎない。他の例では、基準マーク138A、138Bのうちの1つまたは複数が丸くないパターン、形状、またはフォームファクタを含むことができる。さらに他の例では、1つまたは複数の基準マークを較正ターゲット122A、122B内に埋め込むことができる。いくつかの例において、ポータブルドッキングステーション120Cは、較正ターゲット122A、122Bおよび基準マーク138A、138Bの両方を照明するための、拡散IRエミッタ、たとえば拡散IR LEDを含むことができる。基準マーク138Aの位置は、基準マーク138Aのうちの少なくとも1つが較正ターゲット122Aと共に視線追跡カメラ114の視野内にあることを保証することができる。同様に、基準マーク138Bの位置は、基準マーク138Bのうちの少なくとも1つが較正ターゲット122Bと共にインサイドアウトカメラ108の視野内にあることを保証することができる。
【0036】
一例として、視線追跡カメラ114Aを較正するために、たとえば較正エンジンは、基準マーク138Aのうちの1つまたは複数に基づいて、ポータブルドッキングステーション120C内のHMD 112Aの位置と較正ターゲット122Aの位置との間の空間関係を決定する。較正エンジンは少なくとも、視線追跡カメラ114Aによってキャプチャされた較正ターゲット122Aのチェッカーボードパターンの画像、および、HMD 112Aの位置と較正ターゲット122Aの位置との間の決定された空間関係に基づいて、視線追跡カメラ114Aの固有パラメータを決定すること、ならびに、決定された固有パラメータに従って動作するように視線追跡カメラ114Aを構成することができる。
【0037】
別の例として、インサイドアウトカメラ108Aを較正するために、たとえば較正エンジンは、基準マーク138Bのうちの1つまたは複数に基づいて、ポータブルドッキングステーション120C内のHMD 112Aの位置と較正ターゲット122Bの位置との間の空間関係を決定する。較正エンジンは少なくとも、インサイドアウトカメラ108Aによってキャプチャされた較正ターゲット122Bのチェッカーボードパターンの画像、および、HMD 112Aの位置と較正ターゲット122Bの位置との間の決定された空間関係に基づいて、インサイドアウトカメラ108Aの固有パラメータを決定すること、ならびに、決定された固有パラメータに従って動作するようにインサイドアウトカメラ108Aを構成することができる。
【0038】
図2は、本開示の技法に従った、ヘッドセットフォームファクタを有する例示のHMD 212、および、較正のためにHMD 212を収容するように構成された例示のポータブルドッキングステーション220を示す図である。
図1A~
図1Cに関して説明したHMD 112A、112Bと同様に、HMD 212は、スタンドアロン型のモバイル人工現実システムとして動作可能であるか、または、周辺デバイスおよび/またはコンソールを含む人工現実システムの一部であってよい。
【0039】
図2の例において、HMD 212は、剛性体202と、HMD 212をユーザに固定するためのバンド204とを含む、ヘッドセットフォームファクタを備える。加えて、HMD 212は、人工現実コンテンツをユーザに提示するように構成された、内向き電子ディスプレイ203を含む。電子ディスプレイ203は、LCD、量子ドットディスプレイ、ドットマトリックスディスプレイ、LEDディスプレイ、OLEDディスプレイ、CRTディスプレイ、導波管ディスプレイ、電子インク、あるいは、白黒、カラー、または任意の他のタイプの視覚出力を生成可能なディスプレイなどの、任意の適切な表示技術とすることができる。いくつかの例において、電子ディスプレイは、ユーザのそれぞれの眼に別々の画像を提供するための立体ディスプレイである。いくつかの例では、HMD 212およびユーザの現在の視点に従って人工現実コンテンツをレンダリングするために、HMD 212の位置および向きを追跡するとき、HMD 212の剛性体202の前部に対するディスプレイ203の既知の向きおよび位置が、局所起点とも呼ばれる基準系として使用される。
【0040】
さらに
図2に示されるように、本例では、HMD 212は、HMD 212の現行の加速を示すデータを出力する1つまたは複数の加速度計またはIMU、HMD 212のロケーションを示すデータを出力するGPSセンサ、様々な物体からのHMD 212の距離を示すデータを出力するレーダまたはソナー、あるいは、HMD 212または物理環境内の他の物体のロケーションまたは向きの指示を提供する他のセンサなどの、1つまたは複数の動きセンサ206をさらに含む。
【0041】
さらに、HMD 212は、ビデオカメラ、レーザスキャナ、Doppler(R)レーダスキャナ、深度スキャナなどの、1つまたは複数の集積画像キャプチャデバイスを含むことができる。たとえば、
図2に示されるように、HMD 212は、ユーザを取り巻く物理環境を表す画像データをキャプチャするように構成された、インサイドアウトカメラ208Aおよび208B(集合的に、「インサイドアウトカメラ208」)を含む。HMD 212は、ユーザの凝視方向を表す画像データをキャプチャするように構成された、視線追跡カメラ214Aおよび214B(集合的に、「視線追跡カメラ214」)も含む。HMD 212は、剛性体202内の接眼レンズの周辺にまたは近接して位置決めされた、照明器216Aおよび216B(集合的に、「照明器216」)を含む。照明器216は、LEDまたは他の光源、たとえば、視線追跡カメラ214による凝視追跡の目的でユーザの眼を照明するために使用される赤外線光などの不可視光源の、アレイを備えることができる。他の例において、HMD 212は、HMD 212の剛性体202の前部とユーザの額との間の距離を決定するために使用される画像データをキャプチャするように構成された、1つまたは複数の眉間カメラ、音声認識に使用されるユーザの口の画像データをキャプチャするように構成された、1つまたは複数のマウスカメラ、および/または、HMD 212の剛性体202の側部とユーザの顔の側面域との間の距離を決定するために使用される画像データをキャプチャするように構成された、1つまたは複数の下位側頭部カメラを含む、追加の画像キャプチャデバイスを含むことができる。
【0042】
図2に示されるように、HMD 212は、内部電源、たとえば再充電可能バッテリと、感知したデータを処理し、ディスプレイ203上に人工現実コンテンツを提示するために、プログラム可能動作を実行するための動作環境を提供するための、1つまたは複数のプロセッサ、メモリ、およびハードウェアを有する1つまたは複数のプリント回路板とを含むことができる、内部制御ユニット210を含む。
【0043】
ポータブルドッキングステーション220は、
図1A~
図1Cからのポータブルドッキングステーション120A~120Cのうちのいずれかと実質的に同様に動作可能である。本開示で説明するように、ポータブルドッキングステーション220は、HMD 212の1つまたは複数の構成要素の較正のために、HMD 212を収容するように構成される。
図2に示されるように、ポータブルドッキングステーション220は、底部および4つの側部を有し、HMD 212を収容するようにサイズが決められた、箱型フォームファクタを備える。
図2に示されるように、ポータブルドッキングステーション220は、ポータブルドッキングステーション220内にHMD 212を完全に封入するために使用される、取り外し可能な上蓋221を含む。いくつかの例において、ポータブルドッキングステーション220は、HMD 212用のキャリングケースとして使用するための取っ手またはストラップをさらに含むことができる。ポータブルドッキングステーション220は、ポータブルドッキングステーション220内に置かれたとき、有線充電または無線(すなわち、電磁誘導)充電のいずれかを介して、HMD 212を再充電するために使用される電源へのアクセスを提供することも可能である。いくつかの例において、HMD 212がポータブルドッキングステーション220によって収容されている旨を決定すると同時に、および/または、HMD 212がポータブルドッキングステーション220内にある間、HMD 212の再充電可能バッテリが少なくとも閾値充電レベルまで充電されている旨を決定すると同時に、HMD 212の構成要素の較正をトリガすることができる。
【0044】
図2に示されるように、ポータブルドッキングステーション220は、HMD 212の剛性体202のすぐ後ろの内部背面上のチェッカーボードパターンとしての較正ターゲット222A、および、HMD 212の剛性体202のすぐ前の内部前面上のチェッカーボードパターンとしての較正ターゲット222Bを含む。いくつかの例において、追加の較正ターゲットを、ポータブルドッキングステーション220の左および右の内部表面上に含めることができる。HMD 212がポータブルドッキングステーション220内に置かれたとき、較正ターゲット222A、222Bは、HMD 212の少なくとも1つの画像キャプチャデバイス、たとえば、インサイドアウトカメラ208または視線追跡カメラ214のうちの少なくとも1つの、視野内にあるように、ポータブルドッキングステーション220内に位置決めされる。較正ターゲット222A、222Bは
図2ではチェッカーボードパターンとして示されているが、他の例では、ポータブルドッキングステーション220は、異なる視覚パターンまたは凸状リフレクタなどの他のタイプの較正ターゲットを含むことができる。
【0045】
一例において、ポータブルドッキングステーション220は、ポータブルドッキングステーション220内の固定位置でHMD 212を収容して保持するように構成された、1つまたは複数の固定具(
図2には図示せず)を含むことができる。本例では、HMD 212またはHMD 212に関連付けられた周辺デバイス上で実行される較正エンジンは、較正ターゲット222A、222Bのキャプチャされた画像、および、ポータブルドッキングステーション220内のHMD 212の固定位置と較正ターゲット222A、222Bの位置との間の既知の空間関係に基づいて、画像キャプチャデバイスの固有パラメータおよび/または外的パラメータを決定することによって、HMD 212の画像キャプチャデバイス(たとえば、インサイドアウトカメラ208A、208Bまたは視線追跡カメラ214A、214B)の較正を行うことができる。その後、較正エンジンは、決定されたパラメータに従って動作するように、HMD 212の画像キャプチャデバイスを構成する。
【0046】
他の例において、ポータブルドッキングステーション220は、ポータブルドッキングステーション220内の固定位置でHMD 212を収容して保持するように構成された、いずれの固定具も含まない場合がある。代わりに、ポータブルドッキングステーション220は、較正ターゲット222A、222Bに近接して位置決めされるかまたは埋め込まれた、1つまたは複数の基準マーク(
図2には図示せず)を含むことができる。本例では、較正エンジンは、基準マークを使用して、ポータブルドッキングステーション220内に置かれたときのHMD 212の位置と、ポータブルドッキングステーション220内のそれぞれの較正ターゲット222A、222Bの位置との間の、空間関係を決定するように構成される。その後、較正エンジンは、較正ターゲット222A、222Bのキャプチャされた画像、および、ポータブルドッキングステーション220内のHMD 212の位置と較正ターゲット222A、222Bの位置との間の決定された空間関係に基づいて、画像キャプチャデバイスの固有パラメータおよび/または外的パラメータを決定することによって、HMD 212の画像キャプチャデバイスの較正を行うことができる。較正エンジンは、その後、決定されたパラメータに従って動作するように、HMD 212の画像キャプチャデバイスを構成する。
【0047】
図3は、スタンドアロン型のモバイル人工現実システムとして動作する、
図1A~
図1CのHMD 112(たとえば、HMD 112Aまたは112B)の例示的実装を示すブロック図である。本例では、HMD 112は、いくつかの例ではオペレーティングシステム318を実行するためのコンピュータプラットフォームを提供する、1つまたは複数のプロセッサ302およびメモリ304を含み、オペレーティングシステム318は、たとえば埋め込み型リアルタイムマルチタスクオペレーティングシステム、または、別のタイプのオペレーティングシステムとすることができる。オペレーティングシステム318は、1つまたは複数のソフトウェア構成要素330を実行するためのマルチタスクオペレーティング環境を提供する。いくつかの例では、プロセッサ302およびメモリ304は別々の離散構成要素とすることができる。他の例において、メモリ304は、単一の集積回路内にプロセッサ302と共同設置されたオンチップメモリとすることができる。プロセッサ302は、マルチコアプロセッサ、コントローラ、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、または等価の離散または集積論理回路要素のうちの、いずれか1つまたは複数を備えることができる。メモリ304は、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、プログラマブル読み取り専用メモリ(PROM)、消去可能プログラマブル読み取り専用メモリ(EPROM)、電気的消去可能プログラマブル読み取り専用メモリ(EEPROM)、およびフラッシュメモリなどの、データおよび実行可能ソフトウェア命令を記憶するための、任意の形のメモリを含むことができる。
【0048】
図3に示されるように、プロセッサ302は、電子ディスプレイ103、センサ106、画像キャプチャデバイス308(たとえば、インサイドアウトカメラ108および/または視線追跡カメラ114)、および照明器116に結合される。HMD 112は、充電回路310に結合された再充電可能バッテリ306をさらに含む。充電回路310は、有線または無線(すなわち、電磁誘導)接続のいずれかを介して充電電流を受け取り、受け取った電流を使用してバッテリ306を再充電するように、構成される。
【0049】
ソフトウェア構成要素330は、全人工現実アプリケーションを提供するように動作する。本例では、ソフトウェアアプリケーション330は、アプリケーションエンジン320、レンダリングエンジン322、姿勢追跡器326、および較正エンジン324を含む。一般に、アプリケーションエンジン320は、人工現実アプリケーション、たとえばテレビ会議アプリケーション、ゲームアプリケーション、ナビゲーションアプリケーション、教育アプリケーション、トレーニングまたはシミュレーションアプリケーション、などを、提供および提示するための機能を含む。アプリケーションエンジン320は、たとえば、1つまたは複数のソフトウェアパッケージ、ソフトウェアライブラリ、ハードウェアドライバ、および/または、HMD 112上で人工現実アプリケーションを実装するためのアプリケーションプログラムインターフェース(API)を含むことができる。
【0050】
アプリケーションエンジン320およびレンダリングエンジン322は、姿勢追跡器326によって決定される、基準系に関する現在の姿勢情報、典型的にはHMD 112の視点に従って、HMD 112のユーザへの提示のための人工コンテンツを構築する。現在の視点に基づいて、レンダリングエンジン322は、ユーザの実世界3D環境上に少なくとも部分的にオーバーレイ可能な3Dの人工現実コンテンツを構築する。本プロセスの間、姿勢追跡器326は、HMD 112のユーザに関した動き情報および/または特徴追跡情報などの、実世界環境内の3D情報をキャプチャするために、運動情報およびユーザコマンドなどの感知されたデータに関して、またいくつかの例では外部カメラなどの任意の外部センサからのデータに関して動作する。感知されたデータに基づいて、姿勢追跡器326はHMD 112の基準系に対する現在の姿勢を決定し、レンダリングエンジン322は、現在の姿勢に従って、電子ディスプレイ103上でユーザに提示するための人工現実コンテンツを構築する。
【0051】
開示された技法によれば、HMD 112が、ポータブルドッキングステーション、たとえば
図1A~
図1Cからのポータブルドッキングステーション120A~120Cのうちのいずれかの内部に置かれたとき、較正エンジン324は、画像キャプチャデバイス308によってキャプチャされた較正ターゲットの1つまたは複数の画像に基づいて、HMD 112の1つまたは複数の構成要素の較正を行うように構成される。たとえば、較正エンジン324は、画像キャプチャデバイス308(たとえば、インサイドアウトカメラ108および/または視線追跡カメラ114)、電子ディスプレイ103、センサ106、および/または照明器116のうちの、1つまたは複数の較正を行うように構成可能である。較正エンジン324は、それぞれの構成要素の固有パラメータおよび/または外的パラメータ328を決定すること、および、決定されたパラメータに従って動作するようにそれぞれの構成要素を構成することによって、較正を行う。
【0052】
1つまたは複数の態様において、HMD 112の構成要素(たとえば、画像キャプチャデバイス308、電子ディスプレイ103、センサ106、および照明器116)のパラメータ328は、データベース、マップ、検索ツリー、または任意の他のデータ構造内に記憶することができる。たとえばパラメータ328は、HMD 112の画像キャプチャデバイス308の各々についてのカメラパラメータを含むことができる。カメラパラメータは、較正パターン、たとえばチェッカーボードパターンの複数の画像を使用して決定される、3D実世界座標と2D画像座標との間の対応に基づいて、推定可能である。カメラパラメータは、固有パラメータおよび外的パラメータ、また場合によってはレンズディストーションパラメータを含むことができる。3D実世界座標は、外的パラメータを使用して3Dカメラ座標に変換され、3Dカメラ座標は、固有パラメータを使用して2D画像座標にマッピングされる。カメラの例示の外的パラメータは、3D実世界座標から3Dカメラ座標に変換するために使用される、回転および並進を含む。カメラの例示の固有パラメータは、3Dカメラ座標を2D画像座標にマッピングするために使用される、焦点長さ(すなわち、カメラがどの程度強力に光を収束または発散するか)、主ポイント(すなわち、光学中心の位置)、およびスキュー係数(すなわち、垂線からの画像軸のディストーション)を含むことができる。いくつかの例では、パラメータは、レンズディストーションパラメータ(すなわち、レンズの縁部の放射状ディストーション、および、レンズとカメラセンサ画像面との間の接線ディストーション)も含むことができる。
【0053】
較正エンジン324は、HMD 112がポータブルドッキングステーションによって収容された旨を決定すると同時に、および/または、HMD 112がポータブルドッキングステーション内にある間に、再充電可能バッテリ306が少なくとも閾値充電レベルまで充電された旨を決定すると同時に、較正を行うためにトリガ可能である。たとえば、較正エンジン324は、HMD 112の一部がポータブルドッキングステーションの一部と係合しているか、または近接している旨の指示を受け取ることができる。本例では、較正エンジン324は、HMD 112および/またはポータブルドッキングステーションに含まれる近接センサまたは磁気センサから、指示を受け取ることができる。別の例として、較正エンジン324は、再充電可能バッテリ306が閾値充電レベルまで充電された旨の追加の指示を充電回路310から受け取ることができる。
【0054】
いくつかの例では、HMD 112がポータブルドッキングステーション内に置かれるごとに、較正エンジン324はHMD 112の構成要素の各々を自動的に較正するように構成される。他の例では、HMD 112がポータブルドッキングステーション内に置かれるごとに、較正エンジン324は、HMD 112の構成要素の各々を較正する必要があるか否かに関して決定することができる。較正決定は、最後の較正以降の時間量、および/または、HMD 112の構成要素の材料およびパラメータが経時的に変化するにつれて生じる、初期の較正設定からの識別された変化に基づくことができる。
【0055】
画像キャプチャデバイス308のうちの1つを較正する場合、較正エンジン324は、較正ターゲットのキャプチャされた画像、および、ポータブルドッキングステーション内のHMD 112の位置と較正ターゲットの位置との間の空間関係に基づいて、画像キャプチャデバイス308のうちの1つの固有パラメータおよび/または外的パラメータ328を決定することによって、較正を行う。較正エンジン324は、画像キャプチャデバイス308のうちの1つの初期較正設定からの変更を補正するために、パラメータを更新または調節するように構成可能である。較正エンジン324は、その後、画像キャプチャデバイス308のうちの1つを決定されたパラメータに従って動作するように構成する。
【0056】
パラメータを決定するために、較正エンジン324は、ポータブルドッキングステーション内のHMD 112の位置と較正ターゲットの位置との間の空間関係を決定することができる。ポータブルドッキングステーションが固定位置にHMDを収容して保持するための固定具を含む例(たとえば、
図1A、
図1Bからのポータブルドッキングステーション120A、120B)では、空間関係は既知の空間関係である。ポータブルドッキングステーションが固定具を含まない他の例(たとえば、
図1Cからのポータブルドッキングステーション120C)では、較正エンジン324は、較正ターゲットに近接するかまたは埋め込まれた1つまたは複数の基準マークに基づいて、ポータブルドッキングステーション内のHMD 112の位置と較正ターゲットの位置との間の空間関係を決定することができる。画像キャプチャデバイス308のうちの1つの較正時に、較正エンジン326は、画像キャプチャデバイス308のうちの1つの更新された固有パラメータおよび/または外的パラメータ328を記憶する。較正エンジン324は、その後、画像キャプチャデバイス308のうちの1つに関して、電子ディスプレイ103、照明器116のうちの1つ、またはセンサ106のうちの1つをさらに較正することができる。たとえば、較正エンジン324は、電子ディスプレイ103、照明器116のうちの1つ、またはセンサ106のうちの1つを、画像キャプチャデバイス308の以前に較正された1つによってキャプチャされた較正ターゲットの画像に基づいて較正することができる。
【0057】
図4は、本開示の技法に従った、眼鏡フォームファクタを有する例示のHMD 112B、例示の周辺デバイス150、および、較正のためにHMDおよび周辺デバイスを収容するように構成された例示のポータブルドッキングステーション120Dを示す図である。
図4のHMD 112Bは、
図1BのHMD 112Bと同じである。
図4の例では、HMD 112Bは、周辺デバイス150を含む人工現実システムの一部である。人工現実システムは、実世界の3D物理環境からキャプチャした情報を使用して、HMD 112Bのユーザに表示するための人工現実コンテンツをレンダリングする。周辺デバイス150はHMD 112Bと共存し、いくつかの例では、仮想環境においてHMD 112Bのための補助入力/出力デバイスとして動作する。周辺デバイス150は、HMD 112Bの機能のうちのいくつかがオフロードされている人工現実コプロセッシングデバイスとして動作することができる。いくつかの例では、周辺デバイス150はスマートフォン、タブレット、または他のハンドヘルドデバイスであってよい。
【0058】
周辺デバイス150は、周辺デバイス150または物理環境内の他の物体のロケーションまたは向きの指示を提供する、1つまたは複数の動きセンサ(たとえば、加速度計、IMU、GPSセンサ、レーダ、ソナーなど)を含むことができる。加えて、周辺デバイス150は、タッチおよび/またはホバー入力を検出するために、容量性、導電性、抵抗方式、音響、または他の技術を使用する表面などの、存在感受性表面を含むことができる。いくつかの例では、周辺デバイス150の表面はタッチスクリーン(たとえば、容量性タッチスクリーン、抵抗方式タッチスクリーン、表面音響波(SAW)タッチスクリーン、赤外線タッチスクリーン、光イメージングタッチスクリーン、音響パルス認識タッチスクリーン、または任意の他のタッチスクリーン)である。周辺デバイス150は、物理環境を表す画像データをキャプチャするように構成された、1つまたは複数の集積画像キャプチャデバイスを含むこともできる。
図4に示されるように、周辺デバイス150は、参照カメラ158Aおよび158B(集合的に、「参照カメラ158」)を含む。
【0059】
ポータブルドッキングステーション120Dは、
図1Bからのポータブルドッキングステーション120Bと実質的に同様であり得る。ポータブルドッキングステーション120Dは、ポータブルドッキングステーション120Dに対して固定位置でHMD 112Bを収容して保持するように構成された、固定具124およびノーズレスト126を含む。ポータブルドッキングステーション120Dは、HMD 112Bの剛性フレーム前部102のすぐ前のポータブルドッキングステーション120Dの内部前面上に、チェッカーボードパターンとして較正ターゲット128も含む。
【0060】
いくつかの実装において、ポータブルドッキングステーション120Dは、ポータブルドッキングステーション120D内に置かれたとき、HMD 112Bおよび周辺デバイス150を再充電するために使用される電源へのアクセスを提供するように構成可能である。たとえば、ポータブルドッキングステーション120Dは、それ自体のバッテリを含むこと、および/または、壁の電気コンセントまたは他の外部電源にプラグインすることができる。ポータブルドッキングステーション120Dは、その後、有線充電または無線(すなわち、電磁誘導)充電のいずれかを介して、HMD 112Bの再充電可能バッテリおよび/または周辺デバイス150の再充電可能バッテリに充電電流を提供することができる。代替の例では、周辺デバイス150は、HMD 112Bおよび周辺デバイス150の両方がポータブルドッキングステーション120D内に置かれたとき、HMD 112Bを再充電するために使用される電源を備えることができる。
【0061】
図4に示されるように、ポータブルドッキングステーション120Dは、ポータブルドッキングステーション120Dに対して固定位置に周辺デバイス150を収容して保持するように構成された、固定具154Aおよび154B(集合的に、「固定具154」)をさらに含む。固定具154は、周辺デバイス150を固定位置に保持するために、周辺デバイス150の縁部の一部と係合するように構成された磁石または構造的特徴を備えることができる。HMD 112Bおよび周辺デバイス150の両方がポータブルドッキングステーション120D内のそれらの固定位置で保持されるとき、周辺デバイス150の参照カメラ158は、ユーザの眼を模倣するために、HMD 112Bの剛性フレーム前部102の接眼レンズのすぐ後ろに位置決め可能である。このようにして、HMD 112Bの電子ディスプレイ103は、HMD 112Bおよび周辺デバイス150の両方がポータブルドッキングステーション120D内に置かれたとき、周辺デバイス150の参照カメラ158の視野内にあり、また参照カメラ158は、HMD 112Bの電子ディスプレイ103のユーザの視界を表す画像データをキャプチャするように構成可能である。いくつかの例では、HMD 112Bおよび周辺デバイス150の両方がポータブルドッキングステーション120D内に置かれたとき、照明器116がHMD 112Bの視線追跡カメラ114および周辺デバイス150の参照カメラ158の両方の視野内にあるように、照明器116を電子ディスプレイ103のすぐ上に位置決めすることができる。これらの例では、参照カメラ158によってキャプチャされる画像は、照明器116および電子ディスプレイ103上に生成される画像の両方を含む。
【0062】
図1Bに関して上記で説明したように、HMD 112Bのインサイドアウトカメラ108は、ポータブルドッキングステーション120D内のHMD 112Bの固定位置と較正ターゲット128の位置との間の既知の空間関係に基づいて較正可能である。たとえば、HMD 112Bまたは周辺デバイス150上で実行される較正エンジンは少なくとも、インサイドアウトカメラ108Aによってキャプチャされた較正ターゲット128のチェッカーボードパターンの画像、および、HMD 112Bの固定位置と較正ターゲット128の位置との間の既知の空間関係に基づいて、インサイドアウトカメラ108Aの固有パラメータを決定することができる。較正エンジンは、その後、決定されたパラメータに従って動作するように、インサイドアウトカメラ108Aを構成することができる。
【0063】
加えて、
図1Bに関して説明したように、視線追跡カメラ114Aを較正するために、たとえば較正エンジンは、基準マーク132A、132Bのうちの1つまたは複数に基づいて、HMD 112Bの剛性フレーム前部102内の視線追跡カメラ114Aの位置と、HMD 112Bのアーム104A上の較正ターゲット130Aの位置との間の空間関係を決定する。たとえば、較正エンジンは少なくとも、視線追跡カメラ114Aによってキャプチャされた較正ターゲット130Aのチェッカーボードパターンの画像、および、視線追跡カメラ114Aの位置と較正ターゲット130Aの位置との間の決定された空間関係に基づいて、視線追跡カメラ114Aの固有パラメータを決定することができる。較正エンジンは、その後、決定されたパラメータに従って動作するように、視線追跡カメラ114Aを構成することができる。
【0064】
HMD 112Bの電子ディスプレイ103および/または周辺デバイス150の参照カメラ158は、HMD 112Bの固定位置と周辺デバイス150の固定位置との間の既知の空間関係に基づいて較正することができる。たとえば、較正エンジンは、参照カメラ158によってキャプチャされた電子ディスプレイ103上に生成された画像、および、HMD 112Bおよび周辺デバイス150の両方がポータブルドッキングステーション120D内に置かれたときのHMD 112Bの固定位置と周辺デバイス150の固定位置との間の既知の空間関係に基づいて、HMD 112Bの電子ディスプレイ103のパラメータを決定することができる。較正エンジンは、その後、決定されたパラメータに従って動作するように、電子ディスプレイ103を構成することができる。
【0065】
他の例では、ポータブルドッキングステーション120Dは、周辺デバイス150を収容して保持するように構成された固定具を含まない場合がある。周辺デバイス150をポータブルドッキングステーション120D内に自由に置くことができる例では、HMD 112Bは、基準マーク152A、152Bのうちの少なくとも1つが、HMD 112Bの電子ディスプレイ103と共に周辺デバイス150の参照カメラ158の視野内にあることを保証するように剛性フレーム前部102の内部に位置決めされた、1つまたは複数の基準マーク152A、152Bを含むことができる。較正エンジンは、HMD 112B上の基準マーク152A、152Bのうちの1つまたは複数に基づいて、HMD 112Bの固定位置と周辺デバイス150の位置との間の空間関係を決定する。たとえば較正エンジンは、参照カメラ158によってキャプチャされた電子ディスプレイ103上に生成される画像、および、HMD 112Bおよび周辺デバイス150の両方がポータブルドッキングステーション120D内に置かれたときのHMD 112Bの固定位置と周辺デバイス150の位置との間の決定された空間関係に基づいて、HMD 112Bの電子ディスプレイ103のパラメータを決定することができる。較正エンジンは、その後、決定されたパラメータに従って動作するように、電子ディスプレイ103を構成することができる。
【0066】
図4では、較正ターゲット130およびアーム104上の基準マーク132を備える眼鏡フォームファクタを有する
図1BからのHMD 112Bと共に使用されるように示されているが、周辺デバイス150は、
図1Aおよび
図1CからのHMD 112Aまたは
図2からのHMD 212のうちのいずれかを含む、任意のタイプのHMDに関連付けることができる。HMD 112Aの例では、周辺デバイス150およびHMD 112Aは、ポータブルドッキングステーション120Dと同様であるが、ポータブルドッキングステーション内のHMDと周辺デバイス150の間に位置決めされたディバイダ上に含められるか、または、周辺デバイス150上に含められる、追加の較正ターゲット(
図4には図示せず)を伴う、ポータブルドッキングステーション内に置かれたとき、記憶、充電、および/または較正することができる。HMD 212の例では、周辺デバイス150およびHMD 212は、ポータブルドッキングステーション220と同様であるが、周辺デバイス150を収容するための空間および/または固定具を伴う、ポータブルドッキングステーション内に置かれたとき、記憶、充電、および/または較正することができる。
【0067】
図5は、本開示の技法に従って人工現実システムとして動作する、
図4のHMD 112および周辺デバイス150の例示の実装を示すブロック図である。本例では、
図3と同様に、HMD 112は、いくつかの例ではオペレーティングシステム318を実行するためのコンピュータプラットフォームを提供する、1つまたは複数のプロセッサ302およびメモリ304を含み、オペレーティングシステム318は、たとえば埋め込み型リアルタイムマルチタスクオペレーティングシステム、または、別のタイプのオペレーティングシステムとすることができる。オペレーティングシステム318は、1つまたは複数のソフトウェア構成要素450を実行するためのマルチタスクオペレーティング環境を提供する。さらに、プロセッサ302は、電子ディスプレイ103、センサ106、画像キャプチャデバイス308(たとえば、インサイドアウトカメラ108および/または視線追跡カメラ114)、および照明器116に結合される。HMD 112は、有線または無線(すなわち、電磁誘導)接続のいずれかを介して、充電電流を受け取り、受け取った電流を使用してバッテリ306を再充電するように構成された、充電回路310に結合される再充電可能バッテリ306をさらに含む。
図5の例において、ソフトウェア構成要素450は、全人工現実アプリケーションを提供するように動作する。本例では、ソフトウェアアプリケーション450は、アプリケーションエンジン320、レンダリングエンジン322、および姿勢追跡器326を含む。様々な例において、ソフトウェア構成要素450は、
図3の対応構成要素330と同様に動作する。
【0068】
図5に示されるように、周辺デバイス150は、いくつかの例ではオペレーティングシステム418を実行するためのコンピュータプラットフォームを提供する、1つまたは複数のプロセッサ402およびメモリ404を含み、オペレーティングシステム418は、たとえば埋め込み型リアルタイムマルチタスクオペレーティングシステム、または、別のタイプのオペレーティングシステムとすることができる。オペレーティングシステム418は、1つまたは複数のソフトウェア構成要素430を実行するためのマルチタスクオペレーティング環境を提供する。いくつかの例では、プロセッサ402およびメモリ404は別々の離散構成要素とすることができる。他の例において、メモリ404は、単一の集積回路内にプロセッサ402と共同設置されたオンチップメモリとすることができる。プロセッサ402は、マルチコアプロセッサ、コントローラ、DSP、ASIC、FPGA、または等価の離散または集積論理回路要素のうちの、いずれか1つまたは複数を備えることができる。メモリ404は、RAM、ROM、PROM、EPROM、EEPROM、およびフラッシュメモリなどの、データおよび実行可能ソフトウェア命令を記憶するための、任意の形のメモリを含むことができる。
【0069】
周辺デバイス150は、HMD 112と共存し、いくつかの例では、仮想環境においてHMD 112のための補助入力/出力デバイスとして動作することができる。たとえば、
図5に示されるように、プロセッサ402は、キーボード、ゲームコントローラ、ディスプレイデバイス、画像キャプチャデバイス、HMDなどの、外部デバイスと通信するために、1つまたは複数のI/Oインターフェース414に結合される。さらに、1つまたは複数のI/Oインターフェース414は、ネットワークと通信するために、1つまたは複数の有線または無線のネットワークインターフェースコントローラ(NIC)を含むことができる。プロセッサ402は画像キャプチャデバイス158にも結合される。周辺デバイス150は、有線または無線(すなわち、電磁誘導)接続のいずれかを介して充電電流を受け取り、受け取った電流を使用してバッテリ406を再充電するように構成された、充電回路410に結合された、再充電可能バッテリ406をさらに含む。1つまたは複数の態様において、周辺デバイス150は、スマートフォン、タブレット、または他のハンドヘルドデバイスであってよい。
【0070】
図4に関して上記で説明したように、周辺デバイス150は、HMD 112の機能のうちのいくつかがオフロードされている人工現実コプロセッシングデバイスとして動作することができる。
図5の例では、周辺デバイス150のソフトウェア構成要素430は較正エンジン424を含む。較正エンジン424は、HMD 112の1つまたは複数の構成要素の較正を行うために、
図3からのHMD 112の較正エンジン324の対応構成要素と同様に動作することができる。たとえば、周辺デバイス150の較正エンジン424は、HMD 112の画像キャプチャデバイス308(たとえば、インサイドアウトカメラ108および/または視線追跡カメラ114)、電子ディスプレイ103、センサ106、および/または照明器116のうちの1つまたは複数の較正を行うように構成可能である。
【0071】
図3に関して説明した例と同様に、較正エンジン424は、HMD 112の画像キャプチャデバイス308および/または周辺デバイス150の画像キャプチャデバイス158によってキャプチャされた、較正ターゲットの1つまたは複数の画像に基づいて、HMD 112の1つまたは複数の構成要素の較正を行うように構成される。較正エンジン424は、HMD 112および周辺デバイス150の両方がポータブルドッキングステーションによって収容された旨を決定すると同時に、および/または、HMD 112および周辺デバイス150がポータブルドッキングステーション内にある間に、HMD 112の再充電可能バッテリ306、406のうちの1つまたは両方および周辺デバイス150のそれぞれが少なくとも閾値充電レベルまで充電された旨を決定すると同時に、較正を行うためにトリガ可能である。
【0072】
HMD 112の画像キャプチャデバイス308のうちの1つを較正する場合、較正エンジン424は、較正ターゲットのキャプチャされた画像、および、ポータブルドッキングステーション内のHMD 112の位置と較正ターゲットの位置との間の空間関係に基づいて、画像キャプチャデバイス308のうちの1つの固有パラメータおよび/または外的パラメータを決定することによって、較正を行う。HMD 112の電子ディスプレイ103を較正する場合、較正エンジン424は、周辺デバイス150の画像キャプチャデバイス158によってキャプチャされたディスプレイ103上に生成される画像、および、ポータブルドッキングステーション内のHMD 112の位置と周辺デバイス150の位置との間の空間関係に基づいて、電子ディスプレイ103の固有パラメータおよび/または外的パラメータを決定することによって、較正を行う。較正エンジン424は、画像キャプチャデバイス308および/または電子ディスプレイ103のうちの1つの初期較正設定からの変更を補正するために、パラメータを更新または調節するように構成可能である。周辺デバイス150の較正エンジン424は、その後、決定されたパラメータに従って動作するように、HMD 112の画像キャプチャデバイス308および/または電子ディスプレイ103のうちの1つを構成する。
【0073】
カメラパラメータを決定するために、較正エンジン424は、ポータブルドッキングステーション内のHMD 112の位置、周辺デバイス150の位置、および/または較正ターゲットの位置の間の、空間関係を決定することができる。ポータブルドッキングステーションが固定位置でHMDおよび周辺デバイスを収容して保持するための固定具を含む例(たとえば、
図4からのポータブルドッキングステーション120D)では、空間関係は既知の空間関係である。他の例では、較正エンジン424は、HMD 112上に含まれる1つまたは複数の基準マーク152に基づいて、HMD 112および周辺デバイス150の両方がポータブルドッキングステーション内に置かれたときのHMD 112の位置と周辺デバイス150の位置との間の空間関係を決定することができる。
【0074】
HMD 112の画像キャプチャデバイス308および/または電子ディスプレイ103のうちの1つの較正時、周辺デバイス150の較正エンジン426は、画像キャプチャデバイス308および/または電子ディスプレイ103のうちの1つの更新された固有パラメータおよび/または外的パラメータ428を記憶する。較正エンジン424は、その後、以前に較正された画像キャプチャデバイス308のうちの1つによってキャプチャされた較正ターゲットの画像に基づいて、照明器116のうちの1つおよび/またはセンサ106のうちの1つを、さらに較正することができる。
【0075】
図6は、HMDがポータブルドッキングステーション490内に置かれたとき較正可能な、HMD 460の例示の構成要素を示す概念図である。HMD 460は、
図1A~
図1Cおよび
図2からのHMD 112A、112B、および212のうちのいずれかと実質的に同様に動作可能である。
図6においてHMD 460は、HMD 460の内部構成要素を図示しやすいように、ヘッドセットフォームファクタを有するように示されている。他の例では、HMD 460は眼鏡フォームファクタを含む別のフォームファクタを含むことができる。ポータブルドッキングステーション490は、
図1A~
図1Cおよび
図2からのポータブルドッキングステーション120A~120Cおよび220のいずれかと実質的に同様とすることができる。
【0076】
HMD 460は接眼レンズ462A、462Bを含み、右接眼レンズ462Aはユーザの右眼に画像を提示するように構成され、左接眼レンズ462Bはユーザの左眼に画像を提示するように構成される。本明細書において「接眼レンズ」という用語は、受け入れ可能な品質の画像をユーザの眼に提示することができる、3次元幾何学領域を意味する。
図6の例では、接眼レンズ462A、462Bの各々は、ユーザがHMD 460を装着しているときにユーザの眼が位置決めされる接眼レンズ462A、462Bに、電子ディスプレイ464A、464Bによって生成された画像を搬送するためのイメージング構成要素466A、466Bに結合された電子ディスプレイ464A、464Bを含む。イメージング構成要素466A、466Bの各々は、レンズ、ミラー、または光(すなわち、合焦)出力を有する任意の他の要素であってよい。イメージング構成要素466A、466Bの各々は、調節可能または切替可能な光出力を有する可変焦点光学要素を含むことができる。
【0077】
本明細書で説明する較正手順は、電子ディスプレイ464A、464Bおよび/またはイメージング構成要素466A、466Bの較正を含むことができる。いくつかの例では、HMD 460は、ユーザの両眼に順次または同時に画像を提供するために、単一の電子ディスプレイを含むことができる。他の例では、HMD 460はイメージング構成要素466A、466Bを含まず、代わりに、小型プロジェクタによって生成された角領域内の画像をユーザの眼に直接運ぶために使用される、瞳複製導波路を含むことができる。これらの例において、較正手順は、瞳複製導波路の較正、たとえば、瞳複製導波路の色転写機能を含むことができる。
【0078】
本明細書で説明する較正手順は、HMD 460の接眼レンズ462A、462B内の構成要素の較正を含むこともできる。接眼レンズ462A、462Bの各々は、リアルタイムでユーザの眼の位置および向きを追跡するための視線追跡システムを含むことができる。視線追跡システムは、典型的には赤外光などの不可視光を用いてユーザの眼を照明するための照明器467A、467Bのアレイと、電子ディスプレイ464A、464Bから可視光を伝送する間に、ユーザの顔のユーザの眼および眼領域によって散乱される赤外光を反射するためのホットミラー465A、465Bとを、含むことができる。視線追跡システムは、眼の位置および向きを決定するために、瞳と、ユーザの眼からの照明器467A、467Bの反射、いわゆる「グリント」とを伴う、ユーザの眼の画像を検出するための視線追跡カメラ484A、484Bも含む。本明細書では、「眼領域」という用語は、眼を含むユーザの顔の領域を示す。眼領域は、角膜、虹彩、および瞳を有する眼自体を含む。視線追跡システム、すなわち視線追跡カメラ484A、484Bおよび照明器467A、467Bは、受け入れ可能レベルの精密さおよび忠実性での、接眼レンズ462A、462Bの区域内の目の位置および凝視角の決定によって動作するように、較正することが必要な場合がある。
【0079】
本明細書で説明する較正手順は、接眼レンズ462A、462B内の視線追跡カメラ484A、484Bに加えて、HMD 460上に含まれる様々な画像キャプチャデバイスの較正をさらに含む。HMD 460は、ユーザを取り巻く物理環境を表す画像データをキャプチャするためのインサイドアウトカメラ482A、482Bを含む。HMD 460は、ユーザの顔の眉間領域の画像をキャプチャするための眉間カメラ488をさらに含むことができる。眉間カメラ488を使用して、接眼レンズ462A、462B内の構成要素を適切に位置決めおよび調整するために、HMD 460の剛性体の中央とユーザの額または眉間との間の距離を決定することができる。HMD 460は、たとえばHMD 460による音声認識を容易にするために、ユーザの口領域の画像をキャプチャするためのマウスカメラ487を、さらに含むことができる。さらにHMD 460は、HMD 460の剛性体の側部とユーザの顔の側面域との間の距離を決定するために、ユーザの顔の側面域の画像をキャプチャするための下位側頭部カメラ486A、486Bを含むことができる。HMD 460のカメラのいくつかまたは全ては、定期的な較正を必要とする場合がある。
【0080】
本開示において説明する技法に従い、HMD 460がポータブルドッキングステーション490内に置かれたとき、HMD 460のカメラ、ディスプレイユニット、センサ、照明器、および他の構成要素を較正することができる。
図6の例において、ポータブルドッキングステーション490は、ポータブルドッキングステーション490の内部表面上のチェッカーボードパターン492A、492Bの較正ターゲット、および、HMD 460の接眼レンズ462A、462Bのすぐ後ろに位置決めされた凸状リフレクタ496A、496Bを含む。ポータブルドッキングステーション490は、HMD 460の電子ディスプレイ464A、464Bのユーザの視点を表す画像データをキャプチャするために、同じくHMD 460の接眼レンズ462A、462Bのすぐ後ろに位置決めされた、参照カメラ497A、497Bを含む。ポータブルドッキングステーション490は、HMDを固定位置で収容して保持するように構成された、固定具494A、494Bをさらに含む。ポータブルドッキングステーション490は、ポータブルドッキングステーション490内に置かれたとき、HMDを再充電するために使用される電源498も含む。電源498は、壁の電気コンセントまたは他の外部電源にプラグインするように構成された、バッテリまたは電気コネクタを備えることができる。
【0081】
いくつかの例では、ポータブルドッキングステーション490は、データを処理し、HMD 460などの外部デバイス、HMD 460に関連付けられた周辺デバイス、外部コンソール、またはクラウドベースコンピューティングシステムと、データを通信するために、プログラム可能動作を実行するための動作環境を提供するために、1つまたは複数のプロセッサ、メモリ、およびハードウェアを有する1つまたは複数のプリント回路板を含む、ドッキングステーション制御ユニット499をさらに含むことができる。たとえば、ポータブルドッキングステーション490の制御ユニット499は、較正データ、たとえばHMD 460の構成要素の更新または調整されたパラメータを受け取ること、および、較正データをドッキングステーション制御ユニット499内のメモリカードに局所的に記憶するか、またはHMD 460が充電している間に、記憶または処理のためにクラウドベースコンピューティングシステムに較正データをアップロードすることが、可能である。いくつかの例では、制御ユニット499は、HMD 460のための較正処理の少なくとも何らかの部分を取り扱うことができる。ポータブルドッキングステーション490の制御ユニット499は、無線転送、またはHMD 460とポータブルドッキングステーション490との間の有線接続を介して、HMD 460から較正データを受信することができる。たとえば、固定具494A、494Bは、電源498からHMD 460へ充電電流を運ぶこと、および/または、HMD 460と制御ユニット499との間でデータを転送することが可能な、有線接続を提供することができる。
【0082】
ポータブルドッキングステーション490のドッキングステーション制御ユニット499は、HMD 460およびHMD 460に関連付けられた任意の周辺デバイスのためのコンテンツアップロードおよびソフトウェア更新ステーションとして、さらに動作することができる。本例では、制御ユニット499は、HMD 460の画像キャプチャデバイスおよびセンサによってキャプチャされた画像および他のコンテンツの処理、ならびに、HMD 460とクラウドベースコンピューティングシステムとの間でのコンテンツおよび/またはソフトウェアの転送を、取り扱うことができる。さらなる例として、ポータブルドッキングステーション490は、充電状況、較正状況、および/またはソフトウェア更新を表示するため、ならびに、HMD 460の画像キャプチャデバイスおよびセンサによってキャプチャされたコンテンツを再検討するための、ドッキングステーション電子ディスプレイ(図示せず)を含むことができる。
【0083】
HMD 460は、電子ディスプレイ464A、464B、イメージング構成要素466A、466B、照明器467A、467B、視線追跡カメラ484A、484B、およびインサイドアウトカメラ482A、482Bを含む、HMD 460の他の構成要素に結合された制御ユニット480を含む。制御ユニット480は、
図1A~
図1CからのHMD 112A~112Bの内部制御ユニット110、および、
図2からのHMD 212の内部制御ユニット210と、実質的に同様に動作することができる。さらに、本開示の技法に従い、制御ユニット480は、
図3からのHMD 112の較正エンジン324と実質的に同様に動作可能な、較正エンジンを含む。たとえば、HMD 460の動作中、制御ユニット480は、電子ディスプレイ464A、464Bによって表示されるべき画像を生成し、照明器467A、467Bに通電し、対応する視線追跡カメラ484A、484Bから眼領域の画像を取得し、取得した画像内の瞳位置およびグリント位置から、ユーザの凝視方向およびユーザの眼の収束角度を決定する。収束角度が決定されると、制御ユニット480は、輻輳調節不調和、すなわち、眼の輻輳角と眼の焦点距離との間の食い違いを減少させるために、イメージング構成要素466A、466Bの焦点長さを調節することができる。
【0084】
本明細書で説明する較正または再較正手順は、HMD 460がポータブルドッキングステーション490内に置かれたとき、たとえばHMD 460のバッテリを再充電するため、および/または、使用されていないときにHMD 460をセキュアに格納するために、活動化することができる。HMD 460の制御ユニット480は、HMD 460のユーザのための追加の保守工程を生み出さないように、HMD 460の充電中、または充電直後、様々な較正ルーチンを実行することができる。たとえば、HMD 460の画像キャプチャデバイス、たとえばインサイドアウトカメラ482A、482Bのうちの1つ、または視線追跡カメラ484A、484Bのうちの1つを較正するために、制御ユニット480は、カメラを使用して較正ターゲットの画像を撮影し、取得した画像とターゲットとを比較することによってカメラモデルを導出することができる。制御ユニット480は、画像をメモリ内に記憶された参照画像と比較することによって、較正ドリフトを決定することもできる。カメラの固有パラメータを決定するために、制御ユニット480は、チェッカーボードパターン492A、492Bを較正ターゲットとして使用することができる。視線追跡カメラ484A、448Bの外的パラメータを決定するため、および/または、照明器467A、467Bを較正するために、制御ユニット480は、凸状リフレクタ496A、496Bを較正ターゲットとして使用することができる。
【0085】
電子ディスプレイ464A、464Bを較正するために、制御ユニット480は、ポータブルドッキングステーション490内に位置決めされた参照カメラ497A、497Bを使用して、HMD 460がポータブルドッキングステーション490内に置かれたとき、HMD 460の対応する接眼レンズ462A、462B内に現れるようにすることができる。参照カメラ497A、497Bは、人間の眼と同様の、視野、空間解像度、ならびに輝度および色感受性を有することができる。参照カメラ497A、497Bは、電子ディスプレイ464A、464Bによって生成される画像をキャプチャするように構成される。較正の目的で、電子ディスプレイ464A、464Bによって生成される画像は、チェッカーボードパターン492A、492Bなどの較正ターゲットのものとすることができる。いくつかの例では、制御ユニット480は、時間を節約するためにHMD 460の異なる構成要素を並行して、すなわち同時に較正することができる。
【0086】
チェッカーボードパターン492A、492Bは、視線追跡カメラ484A、484B、眉間カメラ488、マウスカメラ487、下位側頭部カメラ486A、486B、インサイドアウトカメラ482A、482B、および電子ディスプレイ464A、464Bを含む、HMD 460の構成要素を較正するための較正ターゲットとして使用可能である。凸状リフレクタ496A、496Bは、視線追跡カメラ484A、484Bおよび照明器487A、487Bなどの接眼レンズ462A、462Bが含まれるHMD 460の構成要素を較正するための較正ターゲットとして使用可能である。視線追跡システムは、照明器487A、487Bを通電すること、および、視線追跡カメラ484A、484Bによって取得された人の眼の画像内の照明器487A、487Bの反射またはグリントを検出することによって、動作する。本明細書で説明する較正プロセスの場合、凸状リフレクタ486A、496Bは人の眼の代わりに使用されるため、照明器467A、467Bのグリントが凸状リフレクタ496A、496Bの凸状表面上で検出される。較正を容易にするために、凸状リフレクタの曲率半径は、人の眼の角膜の典型的な曲率半径に近くなるように選択することができる。ポータブルドッキングステーション490内の凸状リフレクタ496A、496Bの位置が分かっているため、正しい位置を生み出すために、視線追跡システムの構成要素を較正することができる。さらに、照明器467A、467Bによって放出される光が依然として目に安全な制限内にあるかどうかを特定するために、グリントの輝度を事前に定義された輝度値と比較することができる。
【0087】
チェッカーボードパターン492A、492Bを使用して較正を行うために、制御ユニット480は、チェッカーボードパターン492A、492Bのうちの1つ、たとえばチェッカーボードパターン492Aの画像をキャプチャするように、カメラのうちの1つ、たとえば視線追跡カメラ484Aを構成する。視線追跡カメラ484Aは、照明器467Aによって放出され、対応するイメージング構成要素466Aを介してホットミラー465Aから反射された、赤外光内のチェッカーボードパターン492Aの画像をキャプチャする。一例として、接眼レンズ462Aのイメージング経路全体が光学収差を有し得、結果としてキャプチャされた画像のコーナーディストーションを生じさせる。チェッカーボードパターン492Aのジオメトリが既知であるため、制御ユニット480はコーナーディストーションを補正することができる。
【0088】
制御ユニット480は、キャプチャされた画像を、参照チェッカーボードパターンのピンホールカメラ画像と比較することができ、キャプチャされた画像内のチェッカーボードパターン492Aの白および黒の各特徴の、参照チェッカーボードパターンのピンホールカメラ画像の対応する白および黒の特徴に対する変位(すなわち、エラー)を、決定することができる。次いで、制御ユニット480は、キャプチャされた画像内の白および黒の特徴の決定した位置に基づいて、カメラモデルを構築することができる。カメラモデルは、一覧にした再投影エラーを伴うピンホールカメラモデルに基づくこともできる。カメラモデルが決定されると、制御ユニット480はディストーションを補正することができる。この補正により、制御ユニット480は視線追跡カメラ484Aを使用してディストーションされていない画像をキャプチャすることができ、これによって、より良いグリントロケーションの決定、およびしたがって、より良い視線追跡が可能となる。HMD 460上の他のカメラは、チェッカーボードパターン492A、492Bを使用して同様の方式で較正可能である。
【0089】
凸状リフレクタ496A、496Bを使用して較正を行うために、制御ユニット480は、凸状リフレクタ496A、496Bのうちの1つ、たとえば凸状リフレクタ496Aによって反射された照明器グリントの画像をキャプチャするように、カメラのうちの1つ、たとえば視線追跡カメラ484Aを構成する。画像をキャプチャするために、照明器467Aが通電されて照明光を生成し、次いで視線追跡カメラ484Aが、較正照明器グリントまたは凸状リフレクタ496Aからの照明器467Aに含まれるLEDアレイの反射を含む、凸状リフレクタ496Aの画像をキャプチャする。次いで制御ユニット480は、キャプチャされた画像内の較正照明器グリントの位置を決定する。一例として、凸状リフレクタ496Aのキャプチャされた画像は、所定の参照位置に対してオフセットされた位置における較正照明器グリントを含むことができる。照明器グリントの参照位置は、事前のフィールド内較正中、または工場較正中に決定することができる。
【0090】
制御ユニット480は、事前に行われたカメラ較正の間に構築された視線追跡カメラ484Aのカメラモデルを使用して、決定された位置を補正することができる。カメラモデルに基づいて、制御ユニット480は、参照位置に対する較正照明器グリントの補正された位置のオフセットを決定することができる。決定されたオフセットは、照明器467Aおよび電子ディスプレイ464Aなどの、視線追跡カメラ484Aの外部の視線追跡システム要素のドリフトを示すことができる。このようにして視線追跡システムのドリフトが数値化されると、制御ユニット480はドリフトを補正することができる。
【0091】
いくつかの例において、制御ユニット480は、キャプチャされた画像内の較正照明器グリントの輝度を測定することもできる。制御ユニット480は、キャプチャされた画像内で測定された輝度を、メモリに記憶された所定の輝度値または参照照明器グリントの輝度値と比較することができる。キャプチャされた画像内の較正照明器グリントの測定された輝度が、閾値、たとえば所定の輝度値または参照照明器グリントの輝度値よりも高い場合、制御ユニット480は、照明器467Aによって放出される光の光出力レベルを低減し、目に安全な制限内に留めることができる。追加の例では、ポータブルドッキングステーション490は、照明器467A、467Bの形状および/または強度が動作中に変化したかどうかを判別するために、ビームプロファイラ、たとえば参照カメラ497A、497Bのうちの1つまたは複数、あるいは別の専用カメラ(
図6には図示せず)を含むことができる。一例では、ポータブルドッキングステーション490は、ビームプロファイラによってキャプチャされた画像に基づいて、照明器467A、467Bの強度を測定するために使用される、光出力メータをさらに含むことができる。
【0092】
図7は、本開示の技法に従った、ポータブルドッキングステーション内に置かれたときのHMDの較正構成要素の、例示の動作を示すフローチャートである。例示の動作は、
図1AからのHMD 112Aおよびポータブルドッキングステーション120Aに関して説明する。他の例では、例示の動作は、
図1A~
図1C、
図2、および
図4からの、HMD 112A~112Bまたは212のいずれか、および、ポータブルドッキングステーション120A~120Dおよび220のいずれかに関して、実行可能である。
【0093】
ポータブルドッキングステーション120Aは、少なくとも1つの画像キャプチャデバイス、たとえば、インサイドアウトカメラ108および視線追跡カメラ114(500)を有する、HMD 112Aを収容する。ポータブルドッキングステーション120Aは、HMD 112Aがポータブルドッキングステーション120A内に置かれたとき、HMD 112Aの画像キャプチャデバイスの視野内にある、較正ターゲット122A、122Bを含む。
【0094】
HMD 112AまたはHMD 112Aに関連付けられた周辺デバイス上で実行される較正エンジンは、HMD 112Aの少なくとも1つの画像キャプチャデバイスを較正すべきである旨を決定する(502)。一例では、較正エンジンは、HMD 112Aおよび/またはポータブルドッキングステーション120Aに含まれる近接センサまたは磁気センサに基づいて、HMD 112Aがポータブルドッキングステーション120Aによって収容された旨の決定時に、HMD 112Aの画像キャプチャデバイスを較正すべきである旨を決定することができる。別の例では、較正エンジンは、HMD 112Aがポータブルドッキングステーション120A内にある間に、HMD 112Aの再充電可能バッテリが完全に充電された旨の決定時に、HMD 112Aの画像キャプチャデバイスを較正すべきである旨を決定することができる。
【0095】
HMD 112Aの少なくとも1つの画像キャプチャデバイスを較正すべきである旨の決定時に、較正エンジンは、HMD 112Aがポータブルドッキングステーション120A内に置かれたときに、少なくとも1つの画像キャプチャデバイスの視野内にある較正ターゲット122A、122Bの1つまたは複数の画像をキャプチャする(504)ように、HMD 112Aの少なくとも1つの画像キャプチャデバイスを構成する。較正エンジンは、いくつかの例において、ポータブルドッキングステーション120A内のHMD 112Aの位置と較正ターゲット122A、122Bの位置との間の空間関係を決定することができる(506)。
図1Aの例では、ポータブルドッキングステーション120Aは、空間関係が、ポータブルドッキングステーション120Aに含まれるHMD 112Aの固定位置と較正ターゲット122A、122Bの位置との間の既知の空間関係であるように、ポータブルドッキングステーション120A内の固定位置にHMD 112Aを収容して保持する、固定具124およびノーズレスト126を含む。別の例では、
図1Cに関して上記で説明したように、HMDはポータブルドッキングステーション内の固定位置に保持されない場合がある。本例では、較正エンジンは、少なくとも1つの較正ターゲットに近接するかまたは埋め込まれた1つまたは複数の基準マークに基づいて、ポータブルドッキングステーション内のHMDの位置と較正ターゲットの位置との間の空間関係を決定することができる。
【0096】
次いで、較正エンジンは、HMD 112Aの画像キャプチャデバイスによってキャプチャされた較正ターゲット122A、122Bの1つまたは複数の画像を分析し、キャプチャされた1つまたは複数の画像、および、HMD 112Aと較正ターゲット122A、122Bとの間の空間関係に基づいて、画像キャプチャデバイスの固有パラメータおよび/または外的パラメータを決定する(508)ことによって、HMD 112Aの少なくとも1つの画像キャプチャデバイスを較正する。較正エンジンは、HMD 112Aの画像キャプチャデバイスの初期較正設定からの変更を補正するために、パラメータを更新または調節するように構成可能である。次いで較正エンジンは、決定された固有パラメータおよび/または外的パラメータに従って動作するように、HMD 112Aの少なくとも1つの画像キャプチャデバイスを構成する(510)。較正エンジンによって調節される例示の外的パラメータは、3D実世界座標から3Dカメラ座標に変換するために使用される回転および並進を含むことができる。較正エンジンによって調節される例示の固有パラメータは、3Dカメラ座標を2D画像座標に変換するために使用される、焦点長さ、主ポイント、およびスキュー係数を含むことができる。いくつかの例では、較正エンジンによって調節されるパラメータは、レンズディストーションパラメータをさらに含むことができる。
【0097】
一例のように、較正エンジンは、たとえば、視線追跡カメラ114Aによってキャプチャされた較正ターゲット122Aのチェッカーボードパターンの画像に基づいて、視線追跡カメラ114Aの固有パラメータを決定すること、および、決定された固有パラメータに従って動作するように視線追跡カメラ114Aを構成することによって、HMD 112Aの視線追跡カメラ114Aを較正することができる。この例を続けると、較正エンジンは、視線追跡カメラ114Aによってキャプチャされた反射光の画像に基づいて、視線追跡カメラ114Aの外的パラメータを決定することであって、光はHMD 112Aの照明器116Aによって放出され、ポータブルドッキングステーション112Aに含まれる凸状リフレクタによって反射される、外的パラメータを決定すること、および、決定された外的パラメータに従って動作するように、視線追跡カメラ114Aをさらに構成することによって、視線追跡カメラ114Aを較正することもできる。他の例では、較正エンジンは、同様の様式で、HMD 112Aのインサイドアウトカメラ108のうちの少なくとも1つを較正することができる。較正エンジンは、HMD 112Aの少なくとも1つの画像キャプチャデバイスに関して、HMD 112Aのディスプレイ103、照明器116、またはセンサ106のうちの少なくとも1つを較正するように、さらに構成可能である。
【0098】
本明細書において様々な例を用いて説明したように、本開示の技法は、人工現実システムを含むか、または人工現実システムに関連して実装することができる。説明したように、人工現実は、ユーザに提示する前に何らかの様式で調節された現実の形であり、たとえば、仮想現実(VR)、拡張現実(AR)、複合現実(MR)、ハイブリッド現実、あるいは、それらの何らかの組み合わせおよび/または派生物を含むことができる。人工現実コンテンツは、完全に生成されたコンテンツ、またはキャプチャされたコンテンツ(たとえば、実世界写真)と組み合わせて生成されたコンテンツを含むことができる。人工現実コンテンツは、ビデオ、オーディオ、触覚フィードバック、またはそれらの何らかの組み合わせを含むことができ、そのうちのいずれかを単一チャネルまたは複数チャネル(視聴者に対して3次元効果を生成するステレオビデオなど)で提示することができる。加えて、いくつかの実施形態では、人工現実は、たとえば、人工現実でコンテンツを作成するために使用される、および/または人工現実で使用される(たとえば、活動を行う)、アプリケーション、製品、アクセサリ、サービス、またはそれらの何らかの組み合わせに関連付けることができる。人工現実コンテンツを提供する人工現実システムは、ホストコンピュータシステムに接続されたヘッドマウントデバイス(HMD)、スタンドアロン型HMD、モバイルデバイスまたはコンピューティングシステム、あるいは、人工現実コンテンツを1人または複数の視聴者に提供することが可能な任意の他のハードウェアプラットフォームを含む、様々なプラットフォームで実装可能である。
【0099】
本開示で説明する技法は、少なくとも部分的に、ハードウェア、ソフトウェア、ファームウェア、またはそれらの任意の組み合わせで実装可能である。たとえば、説明する技法の様々な態様は、1つまたは複数のマイクロプロセッサ、DSP、特定用途向け集積回路(ASIC)、金属プログラマブルゲートアレイ(MPGA)、または任意の他の等価の集積または離散論理回路要素、ならびに、こうした構成要素の任意の組み合わせを含む、1つまたは複数のプロセッサ内で実装可能である。「プロセッサ」または「処理回路要素」という用語は、一般に、単独の、あるいは他の論理回路要素または任意の他の等価の回路要素と組み合わせた、前述の論理回路要素のいずれかを指すことができる。ハードウェアを備える制御ユニットは、本開示の技法のうちの1つまたは複数を実行することもできる。
【0100】
こうしたハードウェア、ソフトウェア、およびファームウェアは、本開示で説明する様々な動作および機能をサポートするために、同じデバイス内または別々のデバイス内で実装可能である。加えて、説明するユニット、モジュール、または構成要素のうちのいずれかは、まとめて実装可能であるか、または、離散しているが相互運用可能な論理デバイスとして別々に実装可能である。モジュールまたはユニットとしての異なる特徴の説明は、異なる機能的態様を強調することが意図され、こうしたモジュールまたはユニットが別々のハードウェアまたはソフトウェア構成要素によって具体化されなければならないことを必ずしも示唆していない。むしろ、1つまたは複数のモジュールまたはユニットに関連付けられた機能は、別々のハードウェアまたはソフトウェア構成要素によって実行可能であるか、あるいは、共通または別々のハードウェアまたはソフトウェア構成要素内に組み込むことができる。
【0101】
本開示で説明する技法は、命令を含む、コンピュータ可読記憶媒体などの、コンピュータ可読媒体内で具体化または符号化することもできる。コンピュータ可読記憶媒体に組み込まれるかまたは符号化された命令は、たとえば命令が実行されたとき、プログラマブルプロセッサまたは他のプロセッサに方法を実行させることができる。コンピュータ可読記憶媒体は、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、プログラマブル読み取り専用メモリ(PROM)、消去可能プログラマブル読み取り専用メモリ(EPROM)、電気的消去可能プログラマブル読み取り専用メモリ(EEPROM)、フラッシュメモリ、ハードディスク、CD-ROM、フロッピーディスク、カセット、磁気媒体、光媒体、または他のコンピュータ可読媒体を含むことができる。
【国際調査報告】