(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-09-27
(54)【発明の名称】エクステンデッドリアリティ環境において補完的コンテンツを発生させるためのシステムおよび方法
(51)【国際特許分類】
G06Q 30/02 20230101AFI20230920BHJP
G06F 3/0481 20220101ALI20230920BHJP
【FI】
G06Q30/02
G06F3/0481
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2023515128
(86)(22)【出願日】2020-12-28
(85)【翻訳文提出日】2023-04-27
(86)【国際出願番号】 US2020067204
(87)【国際公開番号】W WO2022055536
(87)【国際公開日】2022-03-17
(32)【優先日】2020-09-08
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】518345664
【氏名又は名称】ロヴィ ガイズ, インコーポレイテッド
(74)【代理人】
【識別番号】100078282
【氏名又は名称】山本 秀策
(74)【代理人】
【識別番号】100113413
【氏名又は名称】森下 夏樹
(74)【代理人】
【識別番号】100181674
【氏名又は名称】飯田 貴敏
(74)【代理人】
【識別番号】100181641
【氏名又は名称】石川 大輔
(74)【代理人】
【識別番号】230113332
【氏名又は名称】山本 健策
(72)【発明者】
【氏名】ミシュラ, アジャイ クマール
(72)【発明者】
【氏名】ロバート ジョゼ, ジェフリー コップス
【テーマコード(参考)】
5E555
5L049
【Fターム(参考)】
5E555AA25
5E555AA26
5E555BA01
5E555BB01
5E555BC04
5E555BE17
5E555CB76
5E555DB53
5E555DC09
5E555DC13
5E555DC19
5E555DC59
5E555DC60
5E555DD07
5E555EA04
5E555EA07
5E555FA00
5L049BB01
(57)【要約】
エクステンデッドリアリティ(XR)環境内に補完的コンテンツを提示するためのシステムおよび方法が、本明細書に開示される。システムは、XR環境の視野を受信し、視野を表すデータストリームを発生させ得、データストリームは、各視野に関して、それぞれの視野上に出現する視覚アイテムに対応する少なくとも1つのオブジェクト識別子を備え、視野座標は、XR環境における視野の位置を表す。システムは、オブジェクト識別子の発生数を使用して重要度スコアを計算し得、視野座標を使用して視野変化率を計算し得る。重要度閾値を超過する重要度スコアに応答して、システムは、XR環境において視覚アイテムに関連する補完的コンテンツを表示するための命令を発生させる。
【特許請求の範囲】
【請求項1】
エクステンデッドリアリティ環境において補完的コンテンツを提示する方法であって、方法は、前記方法は、
デバイスによって、前記エクステンデッドリアリティ環境の複数の視野を受信することであって、前記複数の視野のうちの各視野は、異なる時間位置において捕捉されている、ことと、
前記複数の視野を表すデータストリームを発生させることであって、前記データストリームは、前記視野の各々に関するそれぞれのデータ構造を備え、各それぞれのデータ構造は、
前記複数の視野のうちのそれぞれの視野内に出現する視覚アイテムに対応する少なくとも1つのオブジェクト識別子と、
前記エクステンデッドリアリティ環境における前記それぞれの視野の位置を表す視野座標と
を備えている、ことと、
候補オブジェクト識別子と呼ばれる同じオブジェクト識別子が出現する前記データストリーム内のデータ構造の数を計算することと、
前記候補オブジェクト識別子が出現する前記データ構造に関する視野座標の相違の尺度を計算することと、
(a)前記候補オブジェクト識別子が出現する前記データストリーム内の前記データ構造の計算された数、および、(b)前記候補オブジェクト識別子が出現する前記データ構造に関する座標の相違の前記計算された尺度に基づいて、前記候補オブジェクト識別子に関する重要度スコアを計算することと、
重要度閾値を超過する前記重要度スコアに応答して、前記エクステンデッドリアリティ環境において、前記候補オブジェクト識別子に対応する前記視覚アイテムに関連する補完的コンテンツを表示するための命令を発生させることと
を含む、方法。
【請求項2】
前記データストリームを発生させることは、
前記それぞれの視野内の視覚アイテムを識別することと、
前記識別された視覚アイテムにオブジェクト識別子を割り当てることと
を含み、
異なるそれぞれの視野内に出現する同じ視覚アイテムは、同じオブジェクト識別子に割り当てられる、請求項1に記載の方法。
【請求項3】
前記重要度スコアは、前記候補オブジェクト識別子が発生閾値より高く出現する前記データストリーム内の前記データ構造の数に基づく、請求項1-2のいずれかに記載の方法。
【請求項4】
前記重要度スコア尺度は、前記視野座標の相違の尺度と正に相関する、請求項1-3のいずれかに記載の方法。
【請求項5】
前記データストリームの各それぞれのデータ構造は、前記視野内の前記視覚アイテムの位置を表すオブジェクト座標をさらに備え、前記視覚アイテムは、前記オブジェクト識別子に対応し、
前記方法は、
前記候補オブジェクト識別子が出現する前記データ構造に関するオブジェクト座標の相違の尺度を計算することをさらに含み、
前記重要度スコアは、オブジェクト座標の相違の前記計算された尺度にさらに基づく、請求項1-4のいずれかに記載の方法。
【請求項6】
視野座標の相違の尺度とオブジェクト座標の相違の尺度とに基づく前記重要度スコアは、視野座標の相違のより高い尺度とオブジェクト座標の相違のより低い尺度とに基づく前記重要度スコアより低い、請求項5に記載の方法。
【請求項7】
前記データストリームは、各データ構造に関して、
前記視覚アイテムの特徴を表すオブジェクト特徴をさらに備え、
前記重要度スコアは、前記オブジェクト特徴にさらに基づく、請求項1-6のいずれかに記載の方法。
【請求項8】
前記候補オブジェクト識別子は、第1の候補オブジェクト識別子であり、前記第1の候補オブジェクト識別子は、第1の複数のデータ構造内に出現し、
重要度スコアが、第2の複数のデータ構造内に出現する第2の候補オブジェクト識別子のために計算されており、前記第2の候補オブジェクト識別子の前記重要度スコアは、前記重要度閾値を超過し、
前記方法は、
前記第1の複数のものと前記第2の複数のものとの間の共有されるデータ構造の数を計算することと、
前記数が類似性閾値より高いことを決定することに応答して、前記2つのうちのより高い重要度スコアを有する前記候補オブジェクト識別子を選択することと、
前記エクステンデッドリアリティ環境において、前記選択された候補オブジェクト識別子に対応する前記視覚アイテムに関連する補完的コンテンツを表示するための命令を発生させることと
をさらに含む、請求項1-7のいずれかに記載の方法。
【請求項9】
前記補完的コンテンツに関して複数の潜在的コンテンツプロバイダに通知することと、
前記複数のコンテンツプロバイダ間の競争入札を立ち上げることと、
前記競争入札に対する勝者を決定することと
をさらに含み、
前記補完的コンテンツは、前記競争入札の前記勝者によって提供される、請求項1-8のいずれかに記載の方法。
【請求項10】
前記データストリームは、各データ構造に関して、
前記オブジェクトに関連付けられたオブジェクトメタデータをさらに備え、
前記オブジェクトに関連するコンテンツを読み出すことは、前記オブジェクトメタデータに関連付けられたコンテンツを読み出すことを含む、請求項1-9のいずれかに記載の方法。
【請求項11】
エクステンデッドリアリティ環境において補完的コンテンツを提示するためのシステムであって、前記システムは、制御回路網を備え、
前記制御回路網は、
デバイスによって、前記エクステンデッドリアリティ環境の複数の視野を受信することであって、前記複数の視野のうちの各視野は、異なる時間位置において捕捉されている、ことと、
前記複数の視野を表すデータストリームを発生させることであって、前記データストリームは、前記視野の各々に関するそれぞれのデータ構造を備え、各それぞれのデータ構造は、
前記複数の視野のうちのそれぞれの視野内に出現する視覚アイテムに対応する少なくとも1つのオブジェクト識別子と、
前記エクステンデッドリアリティ環境における前記それぞれの視野の位置を表す視野座標と
を備えている、ことと、
候補オブジェクト識別子と呼ばれる同じオブジェクト識別子が出現する前記データストリーム内のデータ構造の数を計算することと、
前記候補オブジェクト識別子が出現する前記データ構造に関する視野座標の相違の尺度を計算することと、
(a)前記候補オブジェクト識別子が出現する前記データストリーム内の前記データ構造の計算された数、および、(b)前記候補オブジェクト識別子が出現する前記データ構造に関する座標の相違の前記計算された尺度に基づいて、前記候補オブジェクト識別子に関する重要度スコアを計算することと、
重要度閾値を超過する前記重要度スコアに応答して、前記エクステンデッドリアリティ環境において、前記候補オブジェクト識別子に対応する前記視覚アイテムに関連する補完的コンテンツを表示するための命令を発生させることと
を実施するように構成されている、システム。
【請求項12】
非一過性コンピュータ読み取り可能な媒体であって、前記媒体は、その上にエンコードされた命令を有し、前記命令は、制御回路網によって実行されると、請求項1-10のいずれかに記載の方法を前記制御回路網に実施させる、非一過性コンピュータ読み取り可能な媒体。
【請求項13】
エクステンデッドリアリティ環境において補完的コンテンツを提示するためのシステムであって、前記システムは、請求項1-10のいずれかに記載の方法を実施するための手段を備えている、システム。
【請求項14】
命令を備えているコンピュータプログラムであって、前記命令は、コンピュータによって実行されると、請求項1-10のいずれかに記載の方法を前記コンピュータに行わせる、コンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、エクステンデッドリアリティ環境内での補完的コンテンツの改良された発生のための技法を対象とし、より具体的に、エクステンデッドリアリティ環境の視野内で、ユーザのための着目オブジェクトに対応し得る視覚アイテムを識別することによって、補完的コンテンツを提供するための改良された技法を対象とする。
【発明の概要】
【課題を解決するための手段】
【0002】
エクステンデッドリアリティ(XR)環境は、仮想現実(VR)、拡張現実(AR)、複合現実(MR)、およびそれらの間の任意の他の現実を含む全ての現実と仮想との組み合わせられた環境を含む。XRシステムは、例えば、立体視ディスプレイまたはスマートグラスを含むXR頭部搭載型デバイス等のウェアラブルを含み得る。
【0003】
1つのアプローチでは、補完的コンテンツプロバイダは、XR環境において補完的コンテンツを表示するためのいくつかの技術およびアルゴリズムを使用し得る。例えば、XR現実システムは、平均ユーザ(または視認者)が属する人口統計カテゴリを識別し得、その人口統計カテゴリに関して関連のある補完的コンテンツを表示し得る。より個人化されたコンテンツを提供するために、XR現実システムは、ユーザ視聴履歴および/または視聴パターンを考慮するアルゴリズムを使用し得る。例えば、フットボールの試合中、(あるタイプの補完的コンテンツである)バナーが、スクリーン上に、スコアの隣または所定の位置(例えば、左下角)に出現し得る。
【0004】
しかしながら、バナーとユーザの関連性およびそのようなバナーとユーザとの間の相互作用は、異なる理由によって低くあり得、例えば、ユーザは、ボールまたは特定の選手に注目し得、バナーを見過ごし得る。別の例では、ユーザは、スコアには全く興味がないこともあり、しがたって、スコアの隣のバナーは、完全に無関係であり得る。この理由によって、前述のアプローチは、補完的コンテンツが関連する可能性、または効果的である可能性が高い着目オブジェクトを正確に識別し損ない得る。
【0005】
XR環境における非効果的場所に補完的コンテンツを表示することは、したがって、スクリーンを不必要な画像で乱雑にし、XR環境の関連のある部分を不明瞭にし、補完的コンテンツをレンダリングおよび表示するために必要とされる計算リソースを浪費し得る。さらに、非効果的場所におけるそのような補完的コンテンツは、補完的コンテンツプロバイダにとって殆ど利益にならないこともあり、ユーザインターフェースを劣化させ、体験に悪影響を及ぼし得る。補完的コンテンツが不適切な場所に表示されるいくつかの状況では、ユーザは、関連のない補完的コンテンツを回避または削除するように能動的に試みることもし得る。
【0006】
故に、これらの問題を解決するために、XR環境内での補完的コンテンツの提示を改良するための技法が、本明細書に開示される。例えば、XRシステムは、それぞれの時間位置において、XR環境内でのユーザの消費に関して表示されるものに対応する視野の集合を受信する。この点について、XR環境は、360度の環境を備え得、各視野は、XR環境全体の一部のみを表す。
【0007】
それらの視野に基づいてXRシステムは、データストリームを発生させる。データストリームは、各視野に関して、オブジェクト識別子のリストを含む、それぞれのデータ構造を備え、各オブジェクト識別子は、視野内に出現する視覚アイテムに対応する。データ構造は、XR環境における視野の位置(例えば、視野座標)(例えば、完全な360°の球状環境内のある立体角を切り出す3D円錐体、またはより単純に、単純な360度の環境における「-25度、+45度」)も含む。データ構造は、各オブジェクトが、オブジェクト識別子と、視覚アイテムに関連する情報の他の要素とを含むオブジェクトのリストを含み得る。そのデータストリームを使用して、XRシステムは、データストリーム内での全てのオブジェクトIDの発生数を計算する。例えば、XR現実システムは、同じオブジェクトIDが出現するデータ構造の数(つまり、同じ視覚アイテムが出現する視野の数)を計算し得る。加えて、XRシステムは、XR環境において、同じオブジェクトIDが出現するデータ構造の全て、つまり、同じ視覚アイテムが出現する視野の全てに関する視野の視野座標の視野変化率(例えば、視野座標の相違の尺度)を計算する。
【0008】
このように、XRシステムは、データストリームを使用し、視覚アイテムがXR環境において出現する頻度または長さ、およびユーザが視覚アイテムに追随するように試みている量に対応する情報を取得する。例えば、XR環境が、第1の時間においてユーザの視野内に移動する車アイテムを含み、XR環境が、第2の時間において異なる視野内に同じ移動する車アイテムを含む状況では、XR現実システムは、ユーザが、振り向き、車アイテムに追随したと推測し得る。XRシステムの車アイテムの重要度の評価は、同じ車アイテムが異なる時間においてユーザの視野内に出現する回数が多くなり、ユーザの視野がより急速に変化するほど、増加し得る。
【0009】
この場合、発生数は、車が、両方の視野上で見出され得、視野変化率の値が、高い(2つの画像間で180度)ことを例証する。発生数および視野変化率に基づいて、XRシステムは、重要度スコアを計算し、ユーザにとっての視覚アイテムの重要度を捕捉する。例えば、発生数が高く、視野変化率の値も高い場合、XRシステムは、ユーザが、実質的な時間量にわたってアイテムを能動的に見ていると推測し得、XRシステムは、それに応じて、高い重要度スコアを計算するであろう。逆に、発生数が低い場合、XRシステムは、ユーザがアイテムを偶発的に見たか、またはアイテムがユーザの注目を捉えなったと推測し得る。XRシステムは、それに応じて、低い重要度スコアを計算するであろう。補完的コンテンツが効率的にリソースを使用することを確実にするために、XRシステムは、補完的コンテンツの表示のための(着目アイテムに関連付けられる)着目オブジェクトとして見えるオブジェクトのみを考慮し得る。例えば、着目アイテムが、車であるとき、補完的コンテンツは、情報的コンテンツまたは商業的コンテンツ等、車に関連するデータ(例えば、「www.buythatcar.com上で車を買おう」)であり得る。着目オブジェクトを残りのものから選別するために、XRシステムは、重要度スコアを閾値と比較する。重要度スコアが、閾値を上回るとき、XRシステムは、XR環境において補完的コンテンツを表示するための命令を発生させる。補完的コンテンツは、着目オブジェクトのオブジェクト識別子に対応する着目視覚アイテムに関連し得るか、または、それは、独立的であり得る。そのスコアが閾値を下回るオブジェクトは、ユーザから十分な注目を引き付けていない(または、現在引き付けていない、または今後引き付けることもないであろう)。
【0010】
そのような技法を用いることで、補完的コンテンツプロバイダは、XRシステムを用いて、ユーザが視聴しているアイテムについてのさらなる情報にアクセスし得る。これは、XRシステムが非効果的な時間および/または非効果的な場所において補完的コンテンツを表示することを回避し、したがって、コンピューティングリソースの浪費を回避することを可能にすることができる。スコアの計算も、パラメータ的アプローチを可能にし、いくつかの着目オブジェクトを等級付けすることを可能にする。補完的コンテンツプロバイダは、したがって、(環境上の占有面積および財務コストの観点からの)コンピューティングリソースおよび可視性およびユーザと補完的コンテンツとの間の相互作用を最適化するためのコンテンツ方略を構築し得る。さらに、着目オブジェクトの識別は、より少ないがより関連のある補完的コンテンツが表示され得るので、補完的コンテンツとユーザとの間の相互作用の余地を増加させる。全体として、XR環境は、ユーザのために改良され、XRシステムの性能は、最適化される。
【0011】
加えて、さらなる計算および計算に関して関連のある情報を全て含むデータストリームの発生は、有効かつ容易に取り扱われるツールである。データストリームは、データストリームを発生させるために使用されるコンピューティングデバイスが、計算タスクのうちの一部を別のコンピューティングデバイスに委任することを可能にする。データストリームは、文字列と、数のみとを包含し得るので、そのサイズは、自動転送および操作されることを容易にする。
【0012】
いくつかの実施形態では、視覚アイテムが視野とともに移動するが、ユーザからは視覚アイテムに追従するようないかなる意図もない状態等の誤検出を得ることを回避するために、スコアは、アイテムが、少なくとも所定の数の視野に出現する場合に限り、計算され得る。
【0013】
いくつかの実施形態では、同じアイテムが出現する視野の視野座標が、より多く変動するほど、重要度スコアが、より高くなる。ユーザが、アイテムに積極的に追従していることが、推論され得、それは、その人が実質的にそのアイテムに注目していることを意味する。関連付けられるオブジェクトは、したがって、補完的コンテンツにとって有用な着目オブジェクトである。
【0014】
いくつかの実施形態では、補完的コンテンツの関連性、故に、ユーザとのその相互作用を改良し、補完的データプロバイダからのデータストリームおよび補完コンテンツ方略の両方の付加価値を増加させるために、データストリームは、重要度スコアの計算において使用されるアイテムおよび特徴に対応するオブジェクトの1つ以上の特徴を備え得る。例えば、車と牽引車との間で、ユーザは、車に関連する可能性がより高い。重要度スコアは、したがって、オブジェクトの発生数、視野変化率、および特徴を考慮し得る。例えば、異なる特徴(例えば、オブジェクトを説明するデータ構造内に列挙される特徴)は、重要度スコアに良いまたは悪い影響を及ぼし得る。それらが重要度スコアに影響を及ぼす方法は、ユーザのプロファイルの関数において定義され得る。会計士にとっての牽引車等、一般的ユーザにとっての低関心特徴を伴うオブジェクトは、依然として、ユーザが、XR環境内である長さにわたって視認している、および/または能動的にそれに追従している場合、閾値を上回るスコアにつながり得る。逆に、衣服等、一般的ユーザにとっての高関心特徴を伴うオブジェクトは、ユーザがそれを一時的に見たにすぎない場合でも、同様に、閾値を上回るスコアにつながり得る。
【0015】
いくつかの実施形態では、ユーザが能動的に観察している視覚アイテムに対応するオブジェクトの識別を改良するために、データストリームは、XR環境における視野内に視覚アイテムの座標を含み得る。それらのデータに基づいて、XRシステムは、視野内の視覚アイテムの座標の変化率を例証する、オブジェクト移動率を計算し得る。例えば、視野が、車を含み、ユーザが振り向いた後に捕捉された別の視野が、依然として、同じ車を含む前述の状況では、車の視野変化率は、ユーザからの注目のレベルを示し得る。オブジェクト移動率が、ゼロに近接している場合、これは、車が、2つの異なる視野内の同じ場所(例えば、視野の中心)に留まったことを意味する。XRシステムは、ユーザが、アイテムをその眼の中心視野内に保持したこと、およびそのアイテムに関連付けられたオブジェクトが、(高)着目オブジェクトであると推測し得る。
【0016】
いくつかの実施形態では、XRシステムは、視野のある数のもの(例えば、半分)を共有する視野の2つの集合において少なくとも2つのオブジェクトを処理する(例えば、第1の集合が、25個の視野を有し、第2の集合が、35個の視野を有し、その中の13個はまた、第1の集合内にある)。これは、したがって、競合が存在し得る状況であり、両方のオブジェクトに関する補完的コンテンツを表示することは、逆効果であり得る(ユーザが、補完的コンテンツの量によって圧倒されるか、または苛立つこと、ユーザの注目が半分に分割されること、計算リソースの欠如等)。したがって、XRは、両方の重要度スコアを比較し、2つのもののうち、より高いスコアを伴うオブジェクトのみを選定し、補完的コンテンツを発生させ得る。
【図面の簡単な説明】
【0017】
本開示の下記および他のオブジェクトおよび利点が、付随の図面と併せた以下の詳細な説明の考察の結果、明白となるであろう。
【0018】
【
図1】
図1は、本開示のいくつかの実施形態による重要度スコアを計算することに基づいて補完的コンテンツを提示するための例証図を示す。
【0019】
【
図2】
図2は、本開示のいくつかの実施形態による例証的ブロックシステム図を示す。
【0020】
【
図3】
図3は、本開示のいくつかの実施形態によるブロックシステム図の例証的部分図を示す。
【0021】
【
図4】
図4は、本開示のいくつかの実施形態による補完的コンテンツを表示するためのプロセスの例証的フローチャートである。
【0022】
【
図5】
図5は、本開示のいくつかの実施形態によるデータストリームを図示する例示的略図である。
【0023】
【
図6】
図6は、本開示のいくつかの実施形態によるオブジェクトの競合を取り扱うためのプロセスの例証的フローチャートである。
【0024】
【
図7】
図7aおよび
図7bは、本開示のいくつかの実施形態による図示された状況を提供する。
【0025】
【
図8】
図8aおよび
図8bは、本開示のいくつかの実施形態による図示された状況を提供する。
【0026】
【
図9】
図9aおよび
図9bは、本開示のいくつかの実施形態によるディスプレイに関して図示された状況を提供する。
【0027】
【
図10】
図10は、本開示のいくつかの実施形態による競争入札の例示的略図を提供する。
【発明を実施するための形態】
【0028】
故に、ユーザのエクステンデッドリアリティ(XR)体験に補完的コンテンツを提示するためのシステムおよび方法が、本明細書に説明される。特に、拡張現実(AR)デバイスにおける視野内に視覚アイテムに関連する補完的コンテンツを表示するための命令を発生させるためのシステムおよび方法が、本明細書に提示される。
【0029】
XRセット(ARまたは仮想現実(VR)ヘッドセット、スマートグラス、またはカメラを伴うポータブルデバイス等)、およびARアプリケーション(モバイルフォン、スマートフォン、またはタブレット等)が、XR環境をユーザ(視認者とも呼ばれる)に表示するために使用され得る。視野は、XRセットによって所与の時間においてユーザに提示されるXR環境の一部である(例えば、完全な360°の球状環境における立体的な角度)。VRセットの場合、視野は、典型的に、立体視ビューを生成するための一対の2D画像にあり、ARセット(例えば、スマートグラス)の場合、視野は、典型的に、3Dまたは2D画像内にあり、3Dまたは2D画像は、実オブジェクトと、ARセットを使用して上に重ねられた仮想オブジェクトとの混合物を含み得る(例えば、スマートグラスに関して、カメラを用いて捕捉された写真、およびスマートグラスによって追加されたコンテンツ)。XR環境が単一の自由度、すなわち、360度の回転を有する場合、任意の視野は、縁角度座標(例えば、+135度、+225度)によって、または、視野の既知の角度開口部と組み合わせられた単一の角度座標(例えば、-55度)によって定義され得る。XR環境が、6自由度、すなわち、360度の3つの回転と、3つの空間位置とを有する場合、任意の視野が、3つの角度座標および3つの空間座標によって定義され得る。視野は、したがって、ユーザがXR環境における特定の場所に存在し、XRセットを特定の方向に向けているとき、XRセットが表示するXR環境の一部である。
【0030】
図1は、本開示のいくつかの実施形態による重要度スコアに基づいて補完的コンテンツ102を提示するための例証
図100を示す。データストリームエンジンが、XRセットによって表示、または表示および捕捉されているXR環境の複数の視野104a、104b、104cを受信し得る。データストリームエンジンは、XRシステム上で起動し得る。視野104a、104b、104cの各々は、異なる時間位置T1、T2、T3に捕捉されており、より少ないデータを処理するために、(捕捉または発生させられた)連続するフレームまたは一連のフレームに対応し得る。フレームは、XR環境と関連して定義され、したがって、フレームは、2D環境または完全な3D環境を指し得る。視野104a、104b、104cの各々は、例えば、少なくとも1つの視覚アイテム106、すなわち、飛行機106a、草106b、タワー106c、ウシ106d、UFO106e、太陽106fを含む。データストリームエンジンは、複数の視野104a、104b、104cを表すデータストリーム108を発生させる。データストリーム108は、各視野104a、104b、104cに関して、それぞれのデータ構造110a、110b、110cを含み得る。データ構造110a、110b、110cは、それぞれの視野104a、104b、104c内に出現する視覚アイテム106に関連付けられた少なくとも1つのオブジェクト識別子(ID)112を含み得る。
図1に図示されるように、オブジェクト識別子112は、視覚アイテム106または番号または英数字の任意の組み合わせを説明する標識であり得る。全ての視覚アイテム106に関して、データストリームエンジンは、単一の識別子112をそれに割り当て、いかなる混乱も回避し、すなわち、同じ視覚アイテム106が、2つの視野104a、104b上に出現する場合、データストリームエンジンは、同じオブジェクト識別子112を割り当て得る(例えば、そのオブジェクト識別子がデータ構造110a、110b、110c内の「飛行機」である視野104a、104b、104c内の視覚アイテム106a参照)。データ構造110a、110b、110cは、それぞれのデータ構造110a、110b、110cに関連付けられたXR環境におけるそれぞれの視野104a、104b、104cの位置を表す視野座標114をさらに含み得る。
図1の簡略図では、視野座標114は、一対の角度座標(
図1では「視認角」と呼ばれる)である。完全な3D XR環境におけるより複雑な角度定義が、
図5に関連して下で説明されるであろう。視野座標114は、視野104a、104b、104cによって含まれているXR環境の部分を表す略
図116を用いて図示される。104a、104b、104cのうちの2つの視野間で変化する視野座標114は、通常、ユーザが、XRヘッドセットが取り付けられているその頭部を少なくとも移動させている(歩いているか、移動させているか、またはその頭部を回転させているかのいずれか)、または(例えば、物理的に、またはコントローラを用いてXR環境内でのいずれかで)移動していることを意味する。データストリーム108は、したがって、複数のデータ構造110a、110b、110cを含み得、それらは、オブジェクト識別子112を用いて、視野104a、104b、104cおよび視野104a、104b、104cの視野座標114上で可視である、視覚アイテム106a、106b、106c、106dを参照する。典型的に、データストリーム108は、データストリームエンジンによって、XRシステムを使用して発生させられるファイルである。データストリームエンジンは、XRシステムを使用して、次いで、メモリ内にそのファイルを記憶する。
【0031】
データストリーム108内に記憶されたデータを使用して、発生エンジンは、各オブジェクト識別子112に関して、同じオブジェクト識別子112が出現するデータストリーム108のデータ構造110a、110b、110cの数を計算し得る。計算の結果は、発生数(OccNum)と呼ばれ、オブジェクト識別子は、候補オブジェクト識別子と呼ばれる。これは、したがって、異なる視野上に出現する同じ視覚アイテムに対応する。例えば、視覚アイテム106aに対応するオブジェクト識別子112「飛行機」に関して、発生数は、視覚アイテム106aが視野104a、104b、104c上に出現するので、3であり、視覚アイテム106dに割り当てられるオブジェクト識別子「ウシ」に関して、発生数は、視覚アイテム106dが視野104b上のみに出現するので、1である。さらに、データストリーム108内に記憶されたデータを使用して、位置エンジンが、各候補オブジェクト識別子112に関して、候補オブジェクトが出現するデータ構造に関する視野座標の相違の尺度を計算し得る。計算の結果は、視野変化率(ViCh)と呼ばれる。視野変化率ViChは、同じ視覚アイテム106が出現する104a、104b、104cのうちの2つの視野間の位置の進展を定量化する。視野変化率ViChは、複数の視野間で変動し得、したがって、視野変化率ViChは、1つの値または値の間隔の代わりに、値の組であり得る。視野変化は、代替として、平均値であり得る。
【0032】
発生数OccNumおよび視野変化率ViChに基づいて、スコアエンジンが、重要度スコア(ImpSc)を計算し得る。重要度スコアImpScは、発生数OccNumおよび/または視野変化率ViChと正に相関し得る。重要度スコアImpScは、以下の式を使用して計算され得る:ImpSc=A.OccNum+B.ViCh(式中、AおよびBは、演算器が異なるパラメータに与えることを所望する重要度の関数において決定される加重係数(例えば、正の整数)である)。
【0033】
比較エンジンは、次いで、重要度スコアImpScを重要度閾値(ImpTh)と呼ばれる閾値(例えば、80、90、または100等の正の整数)を比較する。比較エンジンが、重要度スコアImpScが、重要度閾値ImpThを超過することを決定した場合、命令エンジンは、XR現実環境内に補完的コンテンツを表示するための命令を発生させ得る。補完的コンテンツは、候補オブジェクト識別子に対応する視覚アイテムに関連し得る。代替として、補完的コンテンツは、その視覚アイテムから完全に独立的であり得る。命令の発生に続いて、表示エンジンが、命令の受信時、次いで、XRセットを使用してXR環境において補完的コンテンツを表示する。例えば、
図1では、候補オブジェクト識別子112「飛行機」の重要度スコアImpScが、閾値(例えば、80の重要度閾値ImpTh)を上回り、時間T4における第4の視野104dにおいて、補完的コンテンツ102が、XRセットを用いてXR環境において表示される。補完的コンテンツ102は、視覚アイテムがもはや視野上に存在しなくなるまで、表示され得る。代替として、補完的コンテンツ102は、視覚アイテムが視野から消失した後にも残留して表示され得る。最小限の持続時間が、ユーザが、補完的コンテンツを確認し、理解するための余地を有するように、表示エンジンによって定義され得る。例えば、最小限の持続時間は、2秒であり得る。
【0034】
ある実施形態では、表示エンジンは、候補オブジェクト識別子が対応する視覚アイテムの上を覆って、またはその隣に補完的コンテンツを表示し得る。視覚アイテムが、視野内で移動している場合、表示エンジンは、それに応じて補完的コンテンツを移動させ得る。別の実施形態では、表示エンジンは、補完的コンテンツを視野内の固定された場所(例えば、左下角)に表示し得る。さらに別の実施形態では、表示エンジンは、視野の空きエリア、つまり、いかなる視覚アイテムも検出されないエリア内に補完的コンテンツを表示し得る。方法は、ライブ視野を用いてリアルタイムで行われることができる。時間的に、複数の視野の受信と表示との間の期間は、X秒~Y秒であり得る(Xは、1秒~5秒であり、Yは、10秒~30秒を含む)。
【0035】
図2は、
図1と関連して使用される例証的なシステム
図200を示す。システム200は、ユーザ機器202を含み、ユーザ機器202は、(有線または無線で)一緒に連結されるXRセット204と、コンピューティングデバイス206とを含む。XRセット204およびコンピューティングデバイス206は、単一のデバイスであり得る。システム200は、コンピューティングサーバ208と、補完的コンテンツプロバイダサーバ210とをさらに含む。コンピューティングサーバ208および補完的コンテンツプロバイダサーバ210は、同じサーバであり得る。XR環境が発生させられる方法に応じて、XR環境プロバイダサーバ212は、システム200(例えば、クラウドゲーム用)の一部であり得る。ユーザ機器202、コンピューティングサーバ208、補完的コンテンツプロバイダサーバ210、および、適用可能である場合、XR環境プロバイダサーバ212が、インターネット等の通信ネットワーク214を用いて互いに通信する。XRセット204は、(例えば、VRに関して)視野を表示するために、または(例えば、ARに関して)視野を捕捉および表示するために使用される。この目標を達成するために、XRセット204は、典型的に、視野を表示するためのスクリーン216と、音を発するためのスピーカ218とを含む。システム200は、より多くの要素を含み得るが、
図2は、関略図を図示する。
【0036】
データストリームエンジン、発生エンジン、位置エンジン、スコアエンジン、比較エンジン、命令エンジン、および表示エンジン(および説明において定義される任意の他のエンジン)は、ユーザ機器のコンピューティングデバイス206内またはコンピューティングサーバ208内に実装されるソフトウェアツールであり得る。それらのエンジンは、プロセッサが非一過性メモリ内に記憶された命令を実行すると実施される単一のアプリケーションであり得る。代替として、エンジンは、システム200の異なる要素にわたって相違させられ得る。例えば、データストリームエンジンは、ユーザ機器202のコンピューティングデバイス206上に実装され得、発生エンジン、位置エンジン、スコアエンジン、比較エンジン、命令エンジンは、コンピューティングサーバ208上に実装され得、表示エンジンは、ユーザ機器202のコンピューティングデバイス206上に実装され得る。命令エンジンは、表示されるべき補完的コンテンツを提供するように補完的コンテンツプロバイダサーバ210に要請し得る。代替として、補完的コンテンツプロバイダサーバ210は、命令エンジン自体が補完的コンテンツを選択し得るように、以前に要請されていることもあり、補完的コンテンツは、そのように記憶されていることもある。
【0037】
図3は、通信ネットワーク214に接続されるコンピューティングシステム302の例証的なブロック
図300を示す。コンピューティングシステム302は、本開示のいくつかの実施形態によるユーザ機器202(またはコンピューティングデバイス206のみ)、コンピューティングサーバ208、補完的コンテンツプロバイダサーバ210、またはXR環境プロバイダサーバ212であり得る。いくつかの実施形態では、コンピューティングシステム302は、ユーザインターフェースに通信可能に接続され得る。いくつかの実施形態では、コンピューティングシステム302は、制御回路網304と、入力/出力(I/O)経路306とを含み得る。制御回路網304は、処理回路網308と、記憶装置310(例えば、RAM、ROM、ハードディスク、リムーバブルディスク等)とを含み得る。I/O経路306は、デバイス情報または他のデータをローカルエリアネットワーク(LAN)または広域ネットワーク(WAN)を介して、および/または、処理回路網308と記憶装置310とを含む制御回路網304に他のコンテンツおよびデータを提供し得る。制御回路網304は、I/O経路306を使用して、コマンド、要求、信号(デジタルおよびアナログ)、および他の好適なデータを送信および受信するために使用され得る。I/O経路306は、制御回路網304(具体的に、処理回路網308)を1つ以上の通信経路に接続し得る。
【0038】
制御回路網304は、処理回路網308等の任意の好適な処理回路網に基づき得る。本明細書で言及されるように、処理回路網は、1つ以上のマイクロプロセッサ、マイクロコントローラ、デジタル信号プロセッサ、プログラマブル論理デバイス、フィールドプログラマブルゲートアレイ(FPGA)、特定用途向け集積回路(ASIC)等に基づく、回路網を意味するように理解されるべきであり、マルチコアプロセッサ(例えば、デュアルコア、クアドコア、ヘキサコア、または任意の好適な数のコア)またはスーパコンピュータを含み得る。いくつかの実施形態では、処理回路網は、複数の別個のプロセッサまたは処理ユニット、例えば、処理ユニットの同じタイプの複数のもの(例えば、2つのIntel Core i7プロセッサ)または複数の異なるプロセッサ(例えば、Intel Core i5プロセッサおよびIntel Core i7プロセッサ)にわたって相違させられ得る。いくつかの実施形態では、制御回路網304は、メモリ(例えば、記憶装置310)内に記憶されたコンテンツ改良エンジンのための命令を実行する。
【0039】
メモリは、制御回路網304の一部である記憶装置310として提供される電子記憶デバイスであり得る。記憶装置310は、処理回路網308によって実行されると、本説明内に定義されるエンジンの機能性を実施する命令を記憶し得る。本明細書で言及されるように、語句「電子記憶デバイス」または「記憶デバイス」は、ランダムアクセスメモリ、読み取り専用メモリ、ハードドライブ、固体デバイス、量子記憶デバイス、または任意の他の好適な固定またはリムーバブル記憶デバイス、および/またはそれらの任意の組み合わせ等、電子データ、コンピュータソフトウェア、またはファームウェアを記憶するための任意のデバイスを意味すると理解されるべきである。不揮発性メモリも、(例えば、起動ルーチンおよび他の命令を立ち上げるために)使用され得る。
【0040】
コンピューティングシステム302は、通信ネットワーク214に結合され得る。通信ネットワークは、インターネット、モバイルフォンネットワーク、モバイル音声またはデータネットワーク(例えば、5G、4G、またはLTEネットワーク)、網目状ネットワーク、ピアツーピアネットワーク、ケーブルネットワーク、または他のタイプの通信ネットワーク、または通信ネットワークの組み合わせを含む1つ以上のネットワークであり得る。コンテンツ改良エンジンは、再生のための発生のために選択されたデバイスへの二次通信ネットワーク(例えば、Bluetooth(登録商標)、近距離無線通信、サービスプロバイダ固有ネットワーク、または有線接続)に結合され得る。経路が、インターネット通信、(例えば、ブロードキャストまたは他の無線信号のための)自由空間接続、または任意の他の好適な有線または無線通信経路、またはそのような経路の組み合わせをサポートする経路である衛星経路、光ファイバ経路、ケーブル経路等の1つ以上の通信経路を別個に、または一緒に含み得る。
【0041】
図4は、本開示のいくつかの実施形態による補完的コンテンツの表示を改良するためのプロセスの例証的フローチャートである。プロセス400および以下のプロセスのうちのいずれかが、制御回路網304によって、(例えば、本明細書に説明されるエンジンのうちのいずれかによって制御回路網304に命令される様式において)実行され得る。制御回路網304は、ユーザ機器202、コンピューティングサーバ208、XR環境プロバイダサーバ212の一部であり得る、または通信ネットワーク214を介して通信するそれらのエンティティ間に散り散りにされ得る。
【0042】
402において、制御回路網304は、データストリームエンジンを実行すると、XR環境の複数の視野を受信し、複数の視野のうちの各視野が異なる時間位置において捕捉されている。制御回路網304は、ユーザ機器202のコンピューティングデバイス206および/またはXR環境プロバイダサーバ212(例えば、クラウドゲーム用)であり得るXR環境ソースから、I/O経路306を介して視野を読み出す。ソースは、XRセット204によって捕捉された画像を読み出すコンピューティングデバイス206と、およびコンピューティングデバイス206またはXR環境プロバイダサーバ212(特に、AR環境に関して)との組み合わせでもあり得る。
【0043】
404において、制御回路網304は、データストリームエンジンを実行すると、データストリームを発生させる。データストリームは、複数の視野を表すことを狙いとしている。データストリーム500が、
図5に図示される。データストリーム500は、視野504の各々に関してそれぞれのデータ構造502を含む。各それぞれのデータ構造502は、複数の視野のうちのそれぞれの視野504内に出現する視覚アイテムに対応する少なくとも1つのオブジェクト識別子506(Obj1、Obj2等)を含む。各それぞれのデータ構造502は、XR環境内でのそれぞれの視野504の位置を表す視野座標508も含む。視野座標508は、(ユーザをXR環境において空間的に位置特定するための)固定基準フレームRoにおける空間座標X1、Y1、Z1と、(視野をXR環境において角度的に位置特定するための)固定基準フレームRoにおける角度座標α1、β1、γ1とを含み得る。視野座標は、例えば、XR環境の本質に応じて、それらの6つの座標の一部またはそれらの組み合わせであり得る。制御回路網304は、データストリームエンジンを実行すると、XR環境プロバイダサーバ212またはユーザ機器202から視野座標508を読み出し得る。代替として、加速度計、位置特定デバイス等、XRセット204上に搭載されたセンサが、視野座標を決定することを可能にするデータを取得し得る。加えて、制御回路網304は、データストリームエンジンを実行すると、データ構造502を独特の方法において識別するための番号510を各データ構造502に割り当て得る。データ構造は、それぞれの視野504の時間位置またはタイムスタンプ512(T1、T2、T3等)も含み得る。タイムスタンプ512は、絶対時間(例えば、GMT時間)または相対時間(例えば、時間、分、秒)であり得る。代替として、タイムスタンプは、視野の数についての情報を与える単位のない数である(例えば、2つの連続する番号は、視野が、連続的に、またはそれらの間で所定のステップにおいて捕捉されたことを示す(例えば、視野の5つごと、または10個ごと等))。制御回路網304は、データストリームエンジンを実行すると、データストリーム500およびそのデータを記憶装置310内に記憶し得る。
【0044】
より正確に、404において、データストリームを発生させる制御回路網304は、406において、視野504内の視覚アイテムを識別し、408において、識別された各視覚アイテムに関連付けられたオブジェクト514を生成する制御回路網304を含み得る。制御回路網304は、406において、画像認識技法を使用して視覚アイテムを識別し得る:制御回路網304は、データストリームエンジンを実行すると、画像を受信し、その上の視覚アイテムを識別する。代替として、制御回路網304は、406において、XR環境ソースから受信されたXR環境のシミュレートされた部分についてのデータを使用して視覚アイテムを識別し得、すなわち、制御回路網304は、各視野504内に表示されている視覚アイテムのリストを受信し得る。ある実施形態では、各視野504に関して、制御回路網304は、視覚アイテムが存在するのと同程度に多くのオブジェクト514を識別する。サイズ閾値が、多すぎるオブジェクトを識別することを回避するために定義され得る。制御回路網304が408においてオブジェクト514を生成すると、制御回路網304は、410において、オブジェクト514のためのオブジェクト識別子(ID)506を視覚アイテムに対応するように割り当てる。オブジェクト識別子506の割り当ては、少なくともこれら2つの規則に従って実施される:いくつかの視野上に出現する同じ視覚アイテムは、同じオブジェクト識別子を有すること、および、2つの異なる視覚アイテムは、2つの異なるオブジェクト識別子を有すること。視覚アイテムが、異なる視野上で同じであることを決定するために、制御回路網304は、画像認識技法も使用し得る。ある実施形態では、各オブジェクトに関して、制御回路網304が、412において、視野504内の視覚アイテムの位置に対応するオブジェクト座標516を読み出し得る。オブジェクト座標516は、視野内に取り付けられる、基準フレームRにおける空間座標X1、Y1、Z1、および、また、同じ基準フレームRにおける同じ角度座標であり得る。しかしながら、
図5に図示されるデータストリームの実施形態では、角度座標は、無視される(つまり、XR環境における視覚アイテムの回転は、考慮されない)。制御回路網304は、406において、視覚アイテムの識別に基づいて、オブジェクト座標516(例えば、3つの空間座標のうちの2つのみが使用されるような、3D XR環境の投影である2D画像における視覚アイテムの位置)を計算し得る。代替として、制御回路網304は、例えば、以前に開示されたように、視覚アイテムのリストに加えて、XR環境ソースから直接オブジェクト座標516を取得し得る。ある実施形態では、制御回路網304は、414において、各オブジェクトに関して、少なくとも1つのオブジェクト特徴518を割り当てる。オブジェクト特徴518は、視覚アイテムの特徴またはその本質を表す。これは、典型的に、視野内に出現する視覚アイテムを説明する、メタデータである。例えば、オブジェクト特徴は、「車」、「動物」、「エッフェル塔」、「ビッグベン」、「飛行機」、「未定義」等であり得る。オブジェクト514は、オブジェクトID506、オブジェクト座標516、およびオブジェクト特徴518を記憶する、コンピュータファイルであり得る。代替として、オブジェクト514は、ファイル内に記憶されるそれらの以前のデータの集約物である。
【0045】
416において、制御回路網304は、選択エンジンを実行すると、データストリーム500のオブジェクト識別子506を選択する。418において、制御回路網304は、発生エンジンを実行すると、候補オブジェクト識別子と呼ばれる同じオブジェクト識別子506が出現するデータストリーム500のデータ構造502の数(発生数OccNumと呼ばれる)を計算する。ある実施形態では、オブジェクト識別子506が出現する連続するデータ構造502のみが、そのような計算のために考慮される。別の実施形態では、そのタイムスタンプ512が互いに近接している(例えば、全てが5秒または10秒の周期内に入る)データ構造502のみが、考慮される。発生数OccNumの計算は、典型的に、データ構造502が候補オブジェクト識別子506を含む度にボックスを増分させることを伴う。420において、制御回路網304は、位置エンジンを実行すると、候補オブジェクト識別子506が出現するデータ構造502のための視野座標508の相違の尺度(視野変化率ViChと呼ばれる)を計算する。この計算は、視野座標の時間導関数であり得る。制御回路網304は、したがって、適切なデータ構造502の視野座標508およびタイムスタンプ512を使用し、そのような計算を実施し得る。視野は全て、連続的(または準連続的)な視野変化率ViChを発生させるために、考慮され得る。代替として、処理するためのデータ量を限定するために、ある視野のみが、使用され得る(F個の視野ごとに1つの視野(Fは、2以上の正の整数である))。ある視野座標508のみが、角度座標等の視野変化率ViChを計算するために使用され得る。すでに議論されたように、視野変化率ViChは、視野の移動についての指示(XR環境内で歩いているか、走っているユーザ、またはヘッドセットが搭載されるその頭部を移動させているユーザのいずれか)を与える。加えて、ある実施形態では、422において、制御回路網304は、位置エンジンを実行すると、オブジェクト座標516、つまり、視野内の視覚アイテムの座標の相違の尺度(オブジェクト移動率ObMovと呼ばれる)を計算し得る。オブジェクト移動率ObMovは、オブジェクトが視野内で移動する速度を表す。この値は、視野の移動から独立している。XRセット204が、XR環境内で移動する視覚アイテムに追従している場合、視野変化率ViChは、非ゼロであろう一方、オブジェクト移動率ObMovは、ゼロであろう。
【0046】
ステップ418、420、422は、順次または並行して実施され得る。
【0047】
424において、制御回路網304は、スコアエンジンを実行すると、候補オブジェクト識別子に関する重要度スコアImpScを計算し、候補オブジェクト識別子は、416において選択されており、その発生数OccNumおよび視野変化率ViCh(および、適用可能である場合、オブジェクト移動率ObMov)は、計算されている。重要度スコアは、以下の式によって定義され得る:ImpSc=A.OccNum+B.ViCh(式中、AおよびBは、加重係数(例えば、正の整数または正の実数)である)。例えば、ImpSc(単位なし)は、計算されたOccNumは、25(25個の視野)であり得、計算されたViChは、3(3ラジアン/秒)であり得、Aは、2(2/1視野)として選定され得、Bは、15(15/1ラジアン)として選定され得、それによって、ImpSc=25×2+3×15=95となる。AおよびBの値は、したがって、演算器が、発生数OccNumと視野変化率ViChとの間で裁定することを可能にする。ある実施形態では、OccNumが高く、重要度スコアが高く、および/または、ViChが高いほど、重要度スコアが、高くなる。高重要度スコアは、ユーザに対して強力な魅力を提示する視覚アイテム(およびその関連するオブジェクト)を示す。
【0048】
ある実施形態では、重要度スコアImpScは、視野変化率ViChが上限を上回ると、視野変化率ViChと負に相関し得る。言い換えると、重要度スコアImpScは、ViChが、上限を上回るように増加した場合、減少し得る(他のものは全て、等しい)。これは、XRセットが、急激に移動しすぎる状況、すなわち、ユーザが補完的コンテンツと相互作用することが可能ではないであろう状況を考慮することを可能にする。
【0049】
オブジェクト移動率ObMov、つまり、視野内のオブジェクト座標の変化率を考慮する、ある実施形態では、重要度スコアImpScは、以下のようであり得る:ImpSc=A.OccNum+B.ViCh+C.ObMov(式中、A、B、およびCは、加重係数(例えば、整数)である)。重要度スコアImpScは、オブジェクト移動率ObMovと正または負に相関し得る(例えば、下で説明されるObMovとViChの組み合わせ参照)。OccNum、ViCh、およびObMovの任意の組み合わせが、それらが候補オブジェクト識別子の判別を可能にすることを前提として、使用され得る。高重要度スコアは、ユーザに強力な魅力を提示する、視覚アイテム(およびその関連付けられるオブジェクト)を示す。いくつかの例が、
図7a、7b、8a、および8bに詳述されるであろう。
【0050】
ある実施形態では、算術式の代わりに、ImpSc=(OccNum.ViCh.)1/2またはImpSc=(OccNum.ViCh.ObMov)1/3等の幾何学式が、使用され得る。
【0051】
オブジェクト移動率ObMovは、特に、視野変化率ViChとの組み合わせにおいて関連があり得る。ほぼゼロのObMovと結合された非ゼロのViChは、ユーザが、XR環境内で視覚アイテムに能動的に追従していることを意味する。したがって、重要度スコアは、それらの2つの値を結合し得、例えば、重要度スコアImpScは、ImpSc=A.OccNum+(B.ViCh)/(C.ObMov)またはImpSc=A.OccNum.B(ViCh)/(C.ObMov)(式中、A、B、およびCは、加重係数である)として定義され得る。
【0052】
重要度スコアImpScは、多くの視野内に出現する視覚アイテムから少数の視野上に出現する視覚アイテムを区別するために、発生閾値(OccThr)と比較された発生数OccNumに基づき得る。発生閾値は、例えば、5~300または1,000の整数であり得る。例えば、発生数と発生閾値との間の差異を強めるImpSc=A.(OccNum-OccThr)3+B.ViCh+C.ObMov等の式が、使用され得る。差異を不均質に累乗することは、差異OccNum-OCcThrの符号を容易に考慮することを可能にし、それによって、発生数が発生閾値OccThrをはるかに下回る候補オブジェクト識別子は、高重要度スコアImpScを有する可能性が低くなる。代替として、発生閾値OccThrとの比較が、ステップ420、422、および424の前で、または、424の前のみで実施され得る。その場合、ステップ420、422、および/または424は、発生数が発生閾値より高いことを決定することに応答して実施される。これは、その重要度スコアImpScが低くなると思ったオブジェクト識別子のための計算を実施することを回避する。
【0053】
ある実施形態では、重要度スコアImpScは、オブジェクト特徴518にも基づき得る。例えば、制御回路網304は、スコアエンジンを実行すると、記憶装置310内に記憶されたテーブルを使用し得、それによって、値ObjTyが、あるオブジェクト特徴に割り当てられ得、例えば、車は、草より高いオブジェクト特徴値ObjTyを有し得る。重要度スコアImpScは、次いで、ImpSc=A.OccNum+B.ViCh+D.ObjTy(式中、A、B、およびDは、加重係数(例えば、正の整数)である)として計算され得る。さらなる実施形態では、テーブルは、ユーザのプロファイルまたは視聴パターンに依存し得、例えば、車を非難する多くのメディアコンテンツおよび自転車を賞賛する多くのメディアコンテンツをブラウズするユーザに関して、オブジェクト特徴値ObjTyは、車に関して低く、自転車に関して高くあり得る。
【0054】
重要度スコア式は、上で詳述される全ての実施形態を組み合わせ、より複雑であるが、より精緻化された重要度スコアを取得し、増加された判別力を可能にし得る。
【0055】
異なる式によって例証されるように、重要度スコアは、いくつかのパラメータを単一の数に分類するスカラーとして定義され得る。しかしながら、前述に開示された1つまたはいくつかのパラメータを別個に考慮するために、または異なる方式におけるパラメータをまとめるために、重要度スコアをn-upletの値(例えば、2つの値)として定義することも、可能である。例えば、重要度は、ImpSc=(A.(OccNum-OccThr)3,B.ViCh,C.ObMov,D.ObjTy)等、ベクトルとして定義され得る。その場合、重要度スコアとのいかなる比較も、適切な順序関係を使用することを伴う。
【0056】
426において、制御回路網304は、比較エンジンを実行すると、重要度スコアImpScと重要度閾値ImpThrを比較する。重要度閾値は、ユーザにとって着目に値する候補オブジェクト識別子を他の候補オブジェクト識別子から区別することを可能にする。重要度閾値ImpThrに等しい、またはそれを上回る重要度スコアImpScは、候補オブジェクト識別子に関連付けられた視覚アイテムが、ユーザの注目を引き付けている可能性が高いことを意味する。重要度スコアが高いほど、引き付けることの可能性が、より高い。重要度閾値ImpThrは、80、90、または100等の正の整数であり得る。典型的に、重要度閾値ImpThrは、(上記の重要度スコアを用いて例示されるように)単位がない。ある実施形態では、発生閾値OccThrは、最高重要度スコアを伴うオブジェクト識別子のみが、重要度閾値に適合するような、複数のオブジェクト識別子の中での発生数の最高値である(例えば、複数の視野内に全てが出現するオブジェクト識別子に関して)。重要度閾値ImpThrは、重要度スコアと同じ本質を有し、すなわち、スカラーとしての重要度スコアは、スカラーとしての閾値と比較される必要があり、n-upletとしての重要度スコアは、n-upletとしての閾値と比較され得る。n-upletを用いると、各パラメータは、重要度閾値ImpThrの所定の値と直接比較され得る。
【0057】
制御回路網304が、比較エンジンを実行すると、重要度スコアImpScが重要度閾値ImpThrを下回ることを決定すると、プロセスは、ステップ416に戻り、制御回路網304は、選択エンジンを実行すると、別のオブジェクト識別子506を選択する。制御回路網304が、比較エンジンを実行すると、重要度スコアImpScが重要度閾値ImpThr以上であることを決定すると、プロセスは、428に進行する。
【0058】
428において、制御回路網304は、命令エンジンを実行すると、XR環境において補完的コンテンツを表示するための命令を発生させる。ある実施形態では、命令は、補完的コンテンツが、その関連付けられる重要度スコアが重要度閾値を上回った候補オブジェクト識別子に対応する視覚アイテムに関連するように、発生させられる。例えば、オブジェクト514の特徴518が、適切な補完的コンテンツを選択するために、補完的コンテンツプロバイダサーバ210上のメタデータのリストと比較され得る。代替として、補完的コンテンツは、視覚アイテムの特徴に関連しない。
【0059】
制御回路網304が、428において命令エンジンを実行するときに発生させることに応答して、制御回路網304は、表示エンジンを実行すると、430において、補完的コンテンツプロバイダ210から補完的コンテンツを読み出し得る。典型的に、命令は、命令エンジンを実行すると、制御回路網304によって補完的コンテンツプロバイダサーバ210に送信され得、補完的コンテンツは、表示エンジンを実行すると、制御回路網304によって受信される。代替として、システム200の反応時間を改良するために、制御回路網304が、表示エンジンを実行するときに補完的コンテンツプロバイダ210を参照することなく基準に基づいて補完的コンテンツを選定得るように、複数の補完的コンテンツアイテムが、補完的コンテンツプロバイダサーバ210によって、命令エンジンを実行すると、制御回路網304に前もって提供され、記憶装置310内に記憶されていることもある。例えば、上で議論されるように、補完的コンテンツは、オブジェクト特徴に基づいて、例えば、オブジェクトのメタデータのリストからのメタデータ(例えば、特徴自体のうちの1つまたは特徴から導出されたメタデータ)を補完的コンテンツの視覚アイテムのメタデータのリストからのメタデータに合致させることによって選定され得る。ある実施形態では、競争入札が、補完的コンテンツに関して異なる潜在的な補完的コンテンツプロバイダ間で行われ得る。競争入札は、該潜在的プロバイダに通知することと、競争入札を立ち上げることと、勝者を決定することと、勝利サーバから補完的コンテンツを読み出すこととを含み得る。再び、競争入札は、制御回路網304によって、補完的コンテンツプロバイダサーバを参照することなく、表示エンジンを実行するときに行われ得る。競争入札は、
図10に関連してより詳細に説明されるであろう。
【0060】
最後に、制御回路網304は、表示エンジンを実行すると、432において、ユーザ機器202、より具体的に、XRセット204を用いて補完的コンテンツを表示する。
図9aおよび9bは、補完的コンテンツを表示するためのいくつかの例を提供する。
【0061】
プロセス500は、異なるオブジェクト識別子に関して並行して実行され得る。対立が存在し得る(例えば、2つの視覚アイテムが、同じ視野上に出現する)場合が、
図6に関連して対処される。
【0062】
図6は、複数の視野内の2つの視覚アイテムが競合し得る状況に対処するフローチャートを図示する。ある実施形態では、制御回路網304は、選択エンジンを実行すると、602において、第1の候補オブジェクト識別子を選択し、制御回路網304は、スコアエンジンを実行すると、604において、重要度スコアを計算し、制御回路網304は、比較エンジンを実行すると、606において、重要度スコアが重要度閾値より高いことを決定する(全てのステップが、ここに図示されているわけではない)。第1の候補オブジェクト識別子が、第1の複数のデータ構造内に出現する。同様に、608、610、612において、制御回路網304は、第2の複数のデータ構造内に出現する第2の候補オブジェクト識別子を処理する。614において、制御回路網304は、(例えば、コンピューティングデバイス206またはコンピューティングサーバ208上に実装される)類似性エンジンを実行すると、第1の複数のものと第2の複数のものとの間の共有されるデータ構造の数を計算する。616において、制御回路網304は、比較エンジンを実行すると、その数を類似性閾値と比較する。制御回路網304が、その数が類似性閾値より低いと決定した場合、2つの視覚アイテム間に競合は存在せず、プロセスは、
図4に説明されるように、618において、各オブジェクト識別子に関して独立して進行し得る。制御回路網304が、共有されるデータ構造の数が、類似性閾値以上であると決定した場合、競合のリスクが、存在し、1つのみの補完的コンテンツを表示することが、好ましい。類似性閾値は、例えば、第1の候補オブジェクト識別子および第2の候補オブジェクト識別子の最低発生数(つまり、第1の候補オブジェクトが出現するか、または第2の候補オブジェクトが出現する視野の最低数)の半分であり得る。共有されるデータ構造の数が閾値以上であることを決定することに応答して、620において、制御回路網304は、比較エンジンを実行すると、第1のオブジェクト識別子の重要度スコアと第2のオブジェクト識別子の重要度スコアとを比較する。622において、制御回路網304は、(例えば、コンピューティングデバイス206またはコンピューティングサーバ208上に実装される)選択エンジンを実行すると、2つのもののうちのより高い重要度スコアを伴うオブジェクト識別子を選択し、624において、プロセスは、
図4に説明されるように、その選択された候補オブジェクト識別子を用いて進行する。他の候補オブジェクト識別子は、破棄され得る。
【0063】
図7a、7b、8a、8bは、前述に述べられた異なる状況を例証することを狙いとしている。
図7aでは、視野702は、視覚アイテム704(特徴:飛行機)と、706(特徴:エッフェル塔)とを含む。
図7bでは、視野708は、同じ視覚アイテム704および706を含む。2つの視覚アイテムに関連付けられた各オブジェクト識別子に関する発生数OccNumは、2である。略
図116によって表される2つの視野の視野座標は、同じである。したがって、視野変化率ViChは、ゼロであるか、または、ゼロに近接する(ごくわずかな移動を考慮するために)。視覚アイテム706は、視野702と視野708との間の同じ位置に留まり、したがって、視覚アイテム706(エッフェル塔)に関連付けられたオブジェクト移動率ObMovは、ゼロであるか、または、ゼロに近接し、視覚アイテム704(飛行機)に関連付けられたオブジェクト移動率ObMovは、ゼロではない。
図7aおよび7bは、ユーザがXR環境内で静止しており、XR環境内を移動する視覚アイテムが存在する状況を図示する。典型的に、視覚アイテム704に関連付けられたオブジェクト識別子の重要度スコアは、ObMovの値により、視覚アイテム706のそれより高くあり得る。逆に、特徴「エッフェル塔」が、高値を有し得ることを前提として、視覚アイテム706に関連付けられたオブジェクト識別子の重要度スコアは、視覚アイテム704のそれより高くあり得る。
【0064】
図8aでは、視野802は、視覚アイテム804(特徴:飛行機)と、806(特徴:エッフェル塔)とを含む。
図8bでは、視野808は、同じ視覚アイテム804と、新しい視覚アイテム810(特徴:ビッグベン)とを含む。3つの視覚アイテムに関連付けられた各オブジェクト識別子に関する発生数OccNumは、それぞれ、2(視覚アイテム804)、1(視覚アイテム806)、および1(視覚アイテム810)である。2つの視野の視野座標116は、今回は同じではない。したがって、視野変化率ViChは、ゼロではない。しかしながら、視覚アイテム804は、視野802と視野808との間(視野の中心における)の同じ位置に留まり、したがって、視覚アイテム806に関連付けられたオブジェクト移動率ObMovは、ゼロであるか、または、ゼロに近接する(再び、ごくわずかな移動を考慮するために)。
図8aおよび8bは、ユーザがXR環境における視覚アイテム804に能動的に追従している状況を図示する。視覚アイテム706および710に関連するオブジェクトに関する発生数OccNumが、1に等しいので、それは、発生閾値OccThr(例えば、2)を上回らないと考えられ得る。したがって、そのオブジェクトは、着目オブジェクトと見なされることはできない。逆に、視覚アイテム804に関連するオブジェクトのための発生数OccNumが、閾値を上回るので、アイテム804は、候補オブジェクト識別子に関連付けられている。
【0065】
図9a、9bは、補完的コンテンツを表示するための異なる実施形態を図示する。例えば、補完的コンテンツ902は、視野904、906において、視覚アイテム908に追従し得る(略
図116は、視野904、906に関して異なる視野座標を図示する)。例えば、補完的コンテンツ910は、視野904の空エリア内に位置し得る。例えば、補完的コンテンツ912は、視覚アイテム914(透明度の有無にかかわらず)の上に置かれ得るか、または、底部または角等の任意の視野内の固定場所に存在し得る。
【0066】
図10は、補完的コンテンツが表示されるように要請されるべき、補完的コンテンツプロバイダを決定するための競争入札(またはオークション)を図示する。制御回路網304が、1002において、オブジェクト識別子に関する重要度スコアを計算し、重要度スコアが重要度閾値を上回ることを決定した後、制御回路網304は、1004において、例えば、それぞれの補完的コンテンツプロバイダサーバ210への通知の発出によって、複数の補完的コンテンツプロバイダ(例えば、コンテンツプロバイダ1、コンテンツプロバイダ2、コンテンツプロバイダ3)に通知する。通知は、補完的コンテンツプロバイダが通知に対して応答すべきかどうかを決定し得るように、オブジェクト514、特に、オブジェクト特徴518のデータ全てを含み得る。通知は、オブジェクト識別子の重要度スコアも含み得る。1006において、制御回路網304は、それぞれの補完的コンテンツプロバイダサーバからのそれぞれの要求の受信により、異なる補完的コンテンツプロバイダからオファーを受信する。オファーは、補完的コンテンツ(「XX航空会社で空の旅をしましょう」、「YY航空会社で空の旅をしましょう」等)と、技術仕様(データのサイズ、ディスプレイのサイズ、表示の持続時間等)と、財務的側面とを含み得る。1008において、制御回路網304は、最良のオファーを選択する。最良のオファーは、オファーの任意の要素および他の基準、すなわち、補完的コンテンツの(データの観点からの)サイズ、補完的コンテンツの(ディスプレイの観点からの)サイズ、表示の持続時間、(XR環境に応じた)表示ポリシへの準拠、財務的補償等に基づいて決定され得る。1010において、制御回路網は、選択された補完的コンテンツ1212が表示されるようにする。
【0067】
上で議論されるプロセスは、例証的であり、限定的であることを意図していない。当業者は、本明細書に議論されるプロセスのステップが、省略、修正、組み合わせ、および/または再配列され得ること、および任意の追加のステップが、本発明の範囲から逸脱することなく実施され得ることを理解するであろう。より一般的に、上記の開示は、例示的であり、限定的ではないことを意図する。後に続く請求項のみが、本発明が含むものに関するものに関する境界を設定することを意図する。さらに、任意の一実施形態内に説明される特徴および限界が、本明細書における任意の他の実施形態にも適用され得ること、および一実施形態に関連するフローチャートまたは例が、異なる順序で行われる、または並行して行われる、好適な様式において、任意の他の実施形態組み合わせられ得ることにも留意されたい。加えて、本明細書に説明されるシステムおよび方法は、リアルタイムで実施され得る。また、上記に説明されるシステムおよび/または方法が、他のシステムおよび/または方法に適用される、またはそれに従って使用され得ることにも留意されたい。
本明細書は、限定ではないが、以下を含む、実施形態を開示する。
1.エクステンデッドリアリティ環境において補完的コンテンツを提示する方法であって、方法は、
デバイスによって、エクステンデッドリアリティ環境の複数の視野を受信することであって、複数の視野のうちの各視野は、異なる時間位置において捕捉されている、ことと、
複数の視野を表すデータストリームを発生させることであって、データストリームは、視野の各々に関するそれぞれのデータ構造を備え、各それぞれのデータ構造は、
複数の視野のうちのそれぞれの視野内に出現する視覚アイテムに対応する少なくとも1つのオブジェクト識別子と、
エクステンデッドリアリティ環境におけるそれぞれの視野の位置を表す視野座標と
を備えている、ことと、
候補オブジェクト識別子と呼ばれる同じオブジェクト識別子が出現するデータストリーム内のデータ構造の数を計算することと、
候補オブジェクト識別子が出現するデータ構造に関する視野座標の相違の尺度を計算することと、
(a)候補オブジェクト識別子が出現するデータストリーム内のデータ構造の計算された数、および、(b)候補オブジェクト識別子が出現するデータ構造に関する座標の相違の計算された尺度に基づいて、候補オブジェクト識別子に関する重要度スコアを計算することと、
重要度閾値を超過する重要度スコアに応答して、エクステンデッドリアリティ環境において、候補オブジェクト識別子に対応する視覚アイテムに関連する補完的コンテンツを表示するための命令を発生させることと
を含む、方法。
2.データストリームを発生させることは、
それぞれの視野内の視覚アイテムを識別することと、
オブジェクト識別子を識別された視覚アイテムに割り当てることであって、異なるそれぞれの視野内に出現する同じ視覚アイテムは、同じオブジェクト識別子に割り当てられる、ことと
を含む、項目1に記載の方法。
3.重要度スコアは、発生閾値より高い候補オブジェクト識別子が出現するデータストリーム内のデータ構造の数に基づく、項目1に記載の方法。
4.重要度スコア尺度は、視野座標の相違の尺度と正に相関する、項目1に記載の方法。
5.データストリームの各それぞれのデータ構造は、視野内の視覚アイテムの位置を表すオブジェクト座標をさらに備え、視覚アイテムは、オブジェクト識別子に対応し、
方法は、
候補オブジェクト識別子が出現するデータ構造に関するオブジェクト座標の相違の尺度を計算することをさらに含み、
重要度スコアは、オブジェクト座標の相違の計算された尺度にさらに基づく、項目1に記載の方法。
6.視野座標の相違の尺度とオブジェクト座標の相違の尺度とに基づく重要度スコアは、視野座標の相違のより高い尺度とオブジェクト座標の相違のより低い尺度とに基づく重要度スコアより低い、項目5に記載の方法。
7.データストリームは、各データ構造に関して、
視覚アイテムの特徴を表すオブジェクト特徴をさらに備え、
重要度スコアは、オブジェクト特徴にさらに基づく、項目1に記載の方法。
8.候補オブジェクト識別子は、第1の候補オブジェクト識別子であり、第1の候補オブジェクト識別子は、第1の複数のデータ構造内に出現し、
重要度スコアが、第2の複数のデータ構造内に出現する第2の候補オブジェクト識別子のために計算されており、第2の候補オブジェクト識別子の重要度スコアは、重要度閾値を超過し、
方法は、
第1の複数のものと第2の複数のものとの間の共有されるデータ構造の数を計算することと、
数が類似性閾値より高いことを決定することに応答して、2つのうちのより高い重要度スコアを有する候補オブジェクト識別子を選択することと、
エクステンデッドリアリティ環境において、選択された候補オブジェクト識別子に対応する視覚アイテムに関連する補完的コンテンツを表示するための命令を発生させることと
をさらに含む、項目1に記載の方法。
9.補完的コンテンツに関して複数の潜在的コンテンツプロバイダに通知することと、
複数のコンテンツプロバイダ間の競争入札を立ち上げることと、
競争入札に対する勝者を決定することであって、補完的コンテンツは、競争入札の勝者によって提供される、ことと
をさらに含む、項目1に記載の方法。
10.データストリームは、各データ構造に関して、
オブジェクトに関連付けられたオブジェクトメタデータをさらに備え、
オブジェクトに関連するコンテンツを読み出すことは、オブジェクトメタデータに関連付けられたコンテンツを読み出すことを含む、項目1に記載の方法。
11.エクステンデッドリアリティ環境において補完的コンテンツを提示するためのシステムであって、システムは、制御回路網を備え、制御回路網は、
デバイスによって、エクステンデッドリアリティ環境の複数の視野を受信することであって、複数の視野のうちの各視野は、異なる時間位置において捕捉されている、ことと、
複数の視野を表すデータストリームを発生させることであって、データストリームは、視野の各々に関するそれぞれのデータ構造を備え、各それぞれのデータ構造は、
複数の視野のうちのそれぞれの視野内に出現する視覚アイテムに対応する少なくとも1つのオブジェクト識別子と、
エクステンデッドリアリティ環境におけるそれぞれの視野の位置を表す視野座標と、
を備えている、ことと、
候補オブジェクト識別子と呼ばれる同じオブジェクト識別子が出現するデータストリーム内のデータ構造の数を計算することと、
候補オブジェクト識別子が出現するデータ構造に関する視野座標の相違の尺度を計算することと、
(a)候補オブジェクト識別子が出現するデータストリーム内のデータ構造の計算された数、および、(b)候補オブジェクト識別子が出現するデータ構造に関する座標の相違の計算された尺度に基づいて、候補オブジェクト識別子に関する重要度スコアを計算することと、
重要度閾値を超過する重要度スコアに応答して、エクステンデッドリアリティ環境において、候補オブジェクト識別子に対応する視覚アイテムに関連する補完的コンテンツを表示するための命令を発生させることと
を実施するように構成されている、システム。
12.データストリームを発生させるように構成された制御回路網は、
それぞれの視野内の視覚アイテムを識別することと、
オブジェクト識別子を識別された視覚アイテムに割り当てることと
を実施するように構成され、
異なるそれぞれの視野内に出現する同じ視覚アイテムは、同じオブジェクト識別子に割り当てられる、項目11に記載のシステム。
13.重要度スコアは、発生閾値より高い候補オブジェクト識別子が出現するデータストリーム内のデータ構造の数に基づく、項目11に記載のシステム。
14.重要度スコア尺度は、視野座標の相違の尺度と正に相関する、項目11に記載のシステム。
15.データストリームの各それぞれのデータ構造は、視野内の視覚アイテムの位置を表すオブジェクト座標をさらに備え、視覚アイテムは、オブジェクト識別子に対応し、
制御回路網は、候補オブジェクト識別子が出現するデータ構造に関するオブジェクト座標の相違の尺度を計算するようにさらに構成され、
重要度スコアは、オブジェクト座標の相違の計算された尺度にさらに基づく、項目11に記載のシステム。
16.視野座標の相違の尺度とオブジェクト座標の相違の尺度とに基づく重要度スコアは、視野座標の相違のより高い尺度とオブジェクト座標の相違のより低い尺度とに基づく重要度スコアより低い、項目15に記載のシステム。
17.データストリームは、各データ構造に関して、
視覚アイテムの特徴を表すオブジェクト特徴をさらに備え、
重要度スコアは、オブジェクト特徴にさら基づく、項目11に記載のシステム。
18.候補オブジェクト識別子は、第1の候補オブジェクト識別子であり、第1の候補オブジェクト識別子は、第1の複数のデータ構造内に出現し、
重要度スコアが、第2の複数のデータ構造内に出現する第2の候補オブジェクト識別子のために計算されており、第2の候補オブジェクト識別子の重要度スコアは、重要度閾値を超過し、
制御回路網は、
第1の複数のものと第2の複数のものとの間の共有されるデータ構造の数を計算することと、
数が類似性閾値より高いことを決定することに応答して、2つのうちのより高い重要度スコアを有する候補オブジェクト識別子を選択することと、
エクステンデッドリアリティ環境において、選択された候補オブジェクト識別子に対応する視覚アイテムに関連する補完的コンテンツを表示するための命令を発生させることと
を行うようにさらに構成されている、項目11に記載のシステム。
19.制御回路網は、
補完的コンテンツに関して複数の潜在的コンテンツプロバイダに通知することと、
複数のコンテンツプロバイダ間の競争入札を立ち上げることと、
競争入札に対する勝者を決定することであって、補完的コンテンツは、競争入札の勝者によって提供される、ことと
を実施するようにさらに構成されている、項目11に記載のシステム。
20.データストリームは、各データ構造に関して、
オブジェクトに関連付けられたオブジェクトメタデータをさらに備え、
オブジェクトに関連するコンテンツを読み出すことは、オブジェクトメタデータに関連付けられたコンテンツを読み出すことを含む、項目11に記載のシステム。
21.その上にエンコードされた命令を有する非一過性コンピュータ読み取り可能な媒体であって、命令、制御回路網によって実行されると、
デバイスによって、エクステンデッドリアリティ環境の複数の視野を受信することであって、複数の視野のうちの各視野は、異なる時間位置において捕捉されている、ことと、
複数の視野を表すデータストリームを発生させることであって、データストリームは、視野の各々に関するそれぞれのデータ構造を備え、各それぞれのデータ構造は、
複数の視野のうちのそれぞれの視野内に出現する視覚アイテムに対応する少なくとも1つのオブジェクト識別子と、
エクステンデッドリアリティ環境におけるそれぞれの視野の位置を表す視野座標と
を備えている、ことと、
候補オブジェクト識別子と呼ばれる同じオブジェクト識別子が出現するデータストリーム内のデータ構造の数を計算することと、
候補オブジェクト識別子が出現するデータ構造に関する視野座標の相違の尺度を計算することと、
(a)候補オブジェクト識別子が出現するデータストリーム内のデータ構造の計算された数、および、(b)候補オブジェクト識別子が出現するデータ構造に関する座標の相違の計算された尺度に基づいて、候補オブジェクト識別子に関する重要度スコアを計算することと、
重要度閾値を超過する重要度スコアに応答して、エクステンデッドリアリティ環境において、候補オブジェクト識別子に対応する視覚アイテムに関連する補完的コンテンツを表示するための命令を発生させることと、
を制御回路網に実施させる、非一過性コンピュータ読み取り可能な媒体。
22.データストリームを発生させることは、
それぞれの視野内の視覚アイテムを識別することと、
オブジェクト識別子を識別された視覚アイテムに割り当てることであって、異なるそれぞれの視野内に出現する同じ視覚アイテムは、同じオブジェクト識別子に割り当てられる、ことと
を含む、項目21に記載の非一過性コンピュータ読み取り可能な媒体。
23.重要度スコアは、発生閾値より高い候補オブジェクト識別子が出現するデータストリーム内のデータ構造の数に基づく、項目21に記載の非一過性コンピュータ読み取り可能な媒体。
24.重要度スコア尺度は、視野座標の相違の尺度と正に相関する、項目21に記載の非一過性コンピュータ読み取り可能な媒体。
25.データストリームの各それぞれのデータ構造は、視野内の視覚アイテムの位置を表すオブジェクト座標をさらに備え、視覚アイテムは、オブジェクト識別子に対応し、
命令は、
候補オブジェクト識別子が出現するデータ構造に関するオブジェクト座標の相違の尺度を計算することを制御回路網に行わせるようにさらに構成され、
重要度スコアは、オブジェクト座標の相違の計算された尺度にさらに基づく、項目21に記載の非一過性コンピュータ読み取り可能な媒体。
26.視野座標の相違の尺度とオブジェクト座標の相違の尺度とに基づく重要度スコアは、視野座標の相違のより高い尺度とオブジェクト座標の相違のより低い尺度とに基づく重要度スコアより低い、項目25に記載の非一過性コンピュータ読み取り可能な媒体。
27.データストリームは、各データ構造に関して、
視覚アイテムの特徴を表すオブジェクト特徴をさらに備え、
重要度スコアは、オブジェクト特徴にさらに基づく、項目21に記載の非一過性コンピュータ読み取り可能な媒体。
28.候補オブジェクト識別子は、第1の候補オブジェクト識別子であり、第1の候補オブジェクト識別子は、第1の複数のデータ構造内に出現し、
重要度スコアが、第2の複数のデータ構造内に出現する第2の候補オブジェクト識別子のために計算されており、第2の候補オブジェクト識別子の重要度スコアは、重要度閾値を超過し、
命令は、
第1の複数のものと第2の複数のものとの間の共有されるデータ構造の数を計算することと、
数が類似性閾値より高いことを決定することに応答して、2つのうちのより高い重要度スコアを有する候補オブジェクト識別子を選択することと、
エクステンデッドリアリティ環境において、選択された候補オブジェクト識別子に対応する視覚アイテムに関連する補完的コンテンツを表示するための命令を発生させることと
制御回路網に行わせるようにさらに構成されている、項目21に記載の非一過性コンピュータ読み取り可能な媒体。
29.命令は、
補完的コンテンツに関して複数の潜在的コンテンツプロバイダに通知することと、
複数のコンテンツプロバイダ間の競争入札を立ち上げることと、
競争入札に対する勝者を決定することと
を制御回路網にさらに実施させるように構成され、
補完的コンテンツは、競争入札の勝者によって提供される、項目21に記載の非一過性コンピュータ読み取り可能な媒体。
30.データストリームは、各データ構造に関して、
オブジェクトに関連付けられたオブジェクトメタデータをさらに備え、
オブジェクトに関連するコンテンツを読み出すことは、オブジェクトメタデータに関連付けられたコンテンツを読み出すことを含む、項目21に記載の非一過性コンピュータ読み取り可能な媒体。
31.エクステンデッドリアリティ環境において補完的コンテンツを提示するためのシステムであって、システムは、
デバイスによって、エクステンデッドリアリティ環境の複数の視野を受信することであって、複数の視野のうちの各視野は、異なる時間位置において捕捉されている、ことと、
複数の視野を表すデータストリームを発生させることであって、データストリームは、視野の各々に関するそれぞれのデータ構造を備え、各それぞれのデータ構造は、
複数の視野のうちのそれぞれの視野内に出現する視覚アイテムに対応する少なくとも1つのオブジェクト識別子と、
エクステンデッドリアリティ環境におけるそれぞれの視野の位置を表す視野座標と、
を備えている、ことと、
候補オブジェクト識別子と呼ばれる同じオブジェクト識別子が出現するデータストリーム内のデータ構造の数を計算することと、
候補オブジェクト識別子が出現するデータ構造に関する視野座標の相違の尺度を計算することと、
(a)候補オブジェクト識別子が出現するデータストリーム内のデータ構造の計算された数、および、(b)候補オブジェクト識別子が出現するデータ構造に関する座標の相違の計算された尺度に基づいて、候補オブジェクト識別子に関する重要度スコアを計算することと、
重要度閾値を超過する重要度スコアに応答して、エクステンデッドリアリティ環境において、候補オブジェクト識別子に対応する視覚アイテムに関連する補完的コンテンツを表示するための命令を発生させることと
を行う手段を備えている、システム。
32.データストリームを発生させるための手段は、
それぞれの視野内の視覚アイテムを識別することと、
オブジェクト識別子を識別された視覚アイテムに割り当てることであって、異なるそれぞれの視野内に出現する同じ視覚アイテムが、同じオブジェクト識別子に割り当てられる、ことと
行う手段を備えている、項目31に記載のシステム。
33.重要度スコアは、発生閾値より高い候補オブジェクト識別子が出現するデータストリーム内のデータ構造の数に基づく、項目31-32のいずれかに記載のシステム。
34. 重要度スコア尺度は、視野座標の相違の尺度と正に相関する、項目31-33のいずれかに記載のシステム。
35.データストリームの各それぞれのデータ構造は、視野内の視覚アイテムの位置を表すオブジェクト座標をさらに備え、視覚アイテムは、オブジェクト識別子に対応し、
システムは、
候補オブジェクト識別子が出現するデータ構造に関するオブジェクト座標の相違の尺度を計算する手段をさらに備え、
重要度スコアは、オブジェクト座標の相違の計算された尺度にさらに基づく、項目31-34のいずれかに記載のシステム。
36.視野座標の相違の尺度とオブジェクト座標の相違の尺度とに基づく重要度スコアは、視野座標の相違のより高い尺度とオブジェクト座標の相違のより低い尺度とに基づく重要度スコアより低い、項目35に記載のシステム。
37.データストリームは、各データ構造に関して、
視覚アイテムの特徴を表すオブジェクト特徴をさらに備え、
重要度スコアは、オブジェクト特徴にさらに基づく、項目31-36のいずれかに記載のシステム。
38.候補オブジェクト識別子は、第1の候補オブジェクト識別子であり、第1の候補オブジェクト識別子は、第1の複数のデータ構造内に出現し、
重要度スコアが、第2の複数のデータ構造内に出現する第2の候補オブジェクト識別子のために計算されており、第2の候補オブジェクト識別子の重要度スコアは、重要度閾値を超過し、
システムは、
第1の複数のものと第2の複数のものとの間の共有されるデータ構造の数を計算することと、
数が類似性閾値より高いことを決定することに応答して、2つのうちのより高い重要度スコアを有する候補オブジェクト識別子を選択することと、
エクステンデッドリアリティ環境において、選択された候補オブジェクト識別子に対応する視覚アイテムに関連する補完的コンテンツを表示するための命令を発生させることと
を行う手段をさらに備えている、項目31-37のいずれかに記載のシステム。
39.補完的コンテンツに関して複数の潜在的コンテンツプロバイダに通知することと、
複数のコンテンツプロバイダ間の競争入札を立ち上げることと、
競争入札に対する勝者を決定することであって、補完的コンテンツは、競争入札の勝者によって提供される、ことと
を行う手段をさらに備えている、項目31-38のいずれかに記載のシステム。
40.データストリームは、各データ構造に関して、
オブジェクトに関連付けられたオブジェクトメタデータをさらに備え、
オブジェクトに関連するコンテンツを読み出すことは、オブジェクトメタデータに関連付けられたコンテンツを読み出すことを含む、項目31-39のいずれかに記載のシステム。
41.命令を備えているコンピュータプログラムであって、命令は、コンピュータによって実行されると
デバイスによって、エクステンデッドリアリティ環境の複数の視野を受信することであって、複数の視野のうちの各視野は、異なる時間位置において捕捉されている、ことと、
複数の視野を表すデータストリームを発生させることであって、データストリームは、視野の各々に関するそれぞれのデータ構造を備え、各それぞれのデータ構造は、
複数の視野のうちのそれぞれの視野内に出現する視覚アイテムに対応する少なくとも1つのオブジェクト識別子と、
エクステンデッドリアリティ環境におけるそれぞれの視野の位置を表す視野座標と、
を備えている、ことと、
候補オブジェクト識別子と呼ばれる同じオブジェクト識別子が出現するデータストリーム内のデータ構造の数を計算することと、
候補オブジェクト識別子が出現するデータ構造に関する視野座標の相違の尺度を計算することと、
(a)候補オブジェクト識別子が出現するデータストリーム内のデータ構造の計算された数、および、(b)候補オブジェクト識別子が出現するデータ構造に関する座標の相違の計算された尺度に基づいて、候補オブジェクト識別子に関する重要度スコアを計算することと、
重要度閾値を超過する重要度スコアに応答して、エクステンデッドリアリティ環境において、候補オブジェクト識別子に対応する視覚アイテムに関連する補完的コンテンツを表示するための命令を発生させることと
をコンピュータに行わせる、コンピュータプログラム。
42.データストリームを発生させることは、
それぞれの視野内の視覚アイテムを識別することと、
オブジェクト識別子を識別された視覚アイテムに割り当てることと
を含み、
異なるそれぞれの視野内に出現する同じ視覚アイテムは、同じオブジェクト識別子に割り当てられる、項目41に記載のコンピュータプログラム。
43.重要度スコアは、発生閾値より高い候補オブジェクト識別子が出現するデータストリーム内のデータ構造の数に基づく、項目41-42のいずれかに記載のコンピュータプログラム。
44.重要度スコア尺度は、視野座標の相違の尺度と正に相関する、項目41-43のいずれかに記載のコンピュータプログラム。
45.データストリームの各それぞれのデータ構造は、視野内の視覚アイテムの位置を表すオブジェクト座標をさらに備え、視覚アイテムは、オブジェクト識別子に対応し、
命令は、
候補オブジェクト識別子が出現するデータ構造に関するオブジェクト座標の相違の尺度を計算することをコンピュータにさらに行わせ、
重要度スコアは、オブジェクト座標の相違の計算された尺度にさらに基づく、項目41-44のいずれかに記載のコンピュータプログラム。
46.視野座標の相違の尺度とオブジェクト座標の相違の尺度とに基づく重要度スコアは、視野座標の相違のより高い尺度とオブジェクト座標の相違のより低い尺度とに基づく重要度スコアより低い、項目45に記載のコンピュータプログラム。
47.データストリームは、各データ構造に関して、
視覚アイテムの特徴を表すオブジェクト特徴をさらに備え、
重要度スコアは、オブジェクト特徴にさらに基づく、項目41-46のいずれかに記載のコンピュータプログラム。
48.候補オブジェクト識別子は、第1の候補オブジェクト識別子であり、第1の候補オブジェクト識別子は、第1の複数のデータ構造内に出現し、
重要度スコアが、第2の複数のデータ構造内に出現する第2の候補オブジェクト識別子のために計算されており、第2の候補オブジェクト識別子の重要度スコアは、重要度閾値を超過し、
命令は、
第1の複数のものと第2の複数のものとの間の共有されるデータ構造の数を計算することと、
数が類似性閾値より高いことを決定することに応答して、2つのうちのより高い重要度スコアを有する候補オブジェクト識別子を選択することと、
エクステンデッドリアリティ環境において、選択された候補オブジェクト識別子に対応する視覚アイテムに関連する補完的コンテンツを表示するための命令を発生させることと
をコンピュータにさらに行わせる、項目41-47のいずれかに記載のコンピュータプログラム。
49.命令をさらに含み、
命令は、補完的コンテンツに関して複数の潜在的コンテンツプロバイダに通知することと、
複数のコンテンツプロバイダ間の競争入札を立ち上げることと、
競争入札に対する勝者を決定することと
をコンピュータに行わせ、
補完的コンテンツは、競争入札の勝者によって提供される、項目41-48のいずれかに記載のコンピュータプログラム。
50.データストリームは、各データ構造に関して、
オブジェクトに関連付けられたオブジェクトメタデータをさらに備え、
オブジェクトに関連するコンテンツを読み出すことは、オブジェクトメタデータに関連付けられたコンテンツを読み出すことを含む、項目41-49のいずれかに記載のコンピュータプログラム。
【国際調査報告】