IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ マジック リープ, インコーポレイテッドの特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-10-03
(45)【発行日】2024-10-11
(54)【発明の名称】一元化レンダリング
(51)【国際特許分類】
   G06T 19/00 20110101AFI20241004BHJP
【FI】
G06T19/00 A
【請求項の数】 20
【外国語出願】
(21)【出願番号】P 2023196665
(22)【出願日】2023-11-20
(62)【分割の表示】P 2020570684の分割
【原出願日】2019-06-18
(65)【公開番号】P2024023346
(43)【公開日】2024-02-21
【審査請求日】2023-11-20
(31)【優先権主張番号】16/011,413
(32)【優先日】2018-06-18
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】514108838
【氏名又は名称】マジック リープ, インコーポレイテッド
【氏名又は名称原語表記】Magic Leap,Inc.
【住所又は居所原語表記】7500 W SUNRISE BLVD,PLANTATION,FL 33322 USA
(74)【代理人】
【識別番号】100078282
【弁理士】
【氏名又は名称】山本 秀策
(74)【代理人】
【識別番号】100113413
【弁理士】
【氏名又は名称】森下 夏樹
(74)【代理人】
【識別番号】100181674
【弁理士】
【氏名又は名称】飯田 貴敏
(74)【代理人】
【識別番号】100181641
【弁理士】
【氏名又は名称】石川 大輔
(74)【代理人】
【識別番号】230113332
【弁護士】
【氏名又は名称】山本 健策
(72)【発明者】
【氏名】プラヴィーン バブ ジェイディー
【審査官】中田 剛史
(56)【参考文献】
【文献】特表2015-519661(JP,A)
【文献】特開2007-334739(JP,A)
【文献】特開2001-076179(JP,A)
【文献】特表2010-512582(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 19/00
(57)【特許請求の範囲】
【請求項1】
方法であって、
第1のクライアントアプリケーションからコンピュータシステムに、複数の第1のノードを備える第1のグラフィカルデータを通信することであって、前記コンピュータシステムは、第2のクライアントアプリケーションと通信している、ことと、
前記コンピュータシステムから、シーングラフを受信することであって、
前記シーングラフは、前記複数の第1のノードのうちの少なくとも1つの第1のノードと前記第2のクライアントアプリケーションの第2のグラフィカルデータの複数の第2のノードのうちの少なくとも1つの第2のノードとの間の第1のオクルージョン関係を記述し、
前記シーングラフは、前記複数の第1のノードのうちの少なくとも1つの第3のノードと前記複数の第2のノードのうちの少なくとも1つの第4のノードとの間の第2のオクルージョン関係をさらに記述する、ことと、
前記第1のオクルージョン関係に基づいて、かつ、前記第2のオクルージョン関係にさらに基づいて、レンダリングされる場面を作成することであって、前記第1のオクルージョン関係において、少なくとも1つの第2のノードは、前記第2のグラフィカルデータの第1の部分が前記第1のグラフィカルデータの第1の部分をオクルードするように、少なくとも1つの第1のノードをオクルードし、前記第2のオクルージョン関係において、少なくとも1つの第3のノードは、前記第1のグラフィカルデータの第2の部分が前記第2のグラフィカルデータの第2の部分をオクルードするように、少なくとも1つの第4のノードをオクルードする、ことと
を含む、方法。
【請求項2】
前記レンダリングされる場面を作成することは、前記シーングラフをトラバースすることを含む、請求項1に記載の方法。
【請求項3】
前記レンダリングされる場面を表示することをさらに含み、前記レンダリングされる場面を表示することは、前記複数の第1のノードのうちの少なくとも1つの第1のノードを表示することおよび前記複数の第2のノードのうちの少なくとも1つの第2のノードを表示することを含む、請求項1に記載の方法。
【請求項4】
前記第1のクライアントアプリケーションは、前記コンピュータシステム上で実行される第1のアプリケーションを含み、前記第2のクライアントアプリケーションは、前記コンピュータシステム上で実行される第2のアプリケーションを含む、請求項1に記載の方法。
【請求項5】
前記第1のクライアントアプリケーションは、前記第2のクライアントアプリケーションに対して前記コンピュータシステム上でサンドボックス化される、請求項4に記載の方法。
【請求項6】
前記第1のクライアントアプリケーションは、第2のコンピュータシステム上で実行されるアプリケーションを含み、前記第2のコンピュータシステムは、ネットワークを介して前記コンピュータシステムと通信しており、前記コンピュータシステムから前記シーングラフを受信することは、前記ネットワークを介して前記コンピュータシステムから前記第2のコンピュータシステムにおいて前記シーングラフを受信することを含む、請求項1に記載の方法。
【請求項7】
前記シーングラフは、バージョン付きシーングラフのバージョンに対応する、請求項1に記載の方法。
【請求項8】
命令を記憶している非一過性コンピュータ可読媒体であって、前記命令は、1つ以上のプロセッサによって実行されると、前記1つ以上のプロセッサに方法を実行させ、前記方法は、
第1のクライアントアプリケーションからコンピュータシステムに、複数の第1のノードを備える第1のグラフィカルデータを通信することであって、前記コンピュータシステムは、第2のクライアントアプリケーションと通信している、ことと、
前記コンピュータシステムから、シーングラフを受信することであって、
前記シーングラフは、前記複数の第1のノードのうちの少なくとも1つの第1のノードと前記第2のクライアントアプリケーションの第2のグラフィカルデータの複数の第2のノードのうちの少なくとも1つの第2のノードとの間の第1のオクルージョン関係を記述し、
前記シーングラフは、前記複数の第1のノードのうちの少なくとも1つの第3のノードと前記複数の第2のノードのうちの少なくとも1つの第4のノードとの間の第2のオクルージョン関係をさらに記述する、ことと、
前記第1のオクルージョン関係に基づいて、かつ、前記第2のオクルージョン関係にさらに基づいて、レンダリングされる場面を作成することであって、前記第1のオクルージョン関係において、少なくとも1つの第2のノードは、前記第2のグラフィカルデータの第1の部分が前記第1のグラフィカルデータの第1の部分をオクルードするように、少なくとも1つの第1のノードをオクルードし、前記第2のオクルージョン関係において、少なくとも1つの第3のノードは、前記第1のグラフィカルデータの第2の部分が前記第2のグラフィカルデータの第2の部分をオクルードするように、少なくとも1つの第4のノードをオクルードする、ことと
を含む、非一過性コンピュータ可読媒体。
【請求項9】
前記レンダリングされる場面を作成することは、前記シーングラフをトラバースすることを含む、請求項8に記載の非一過性コンピュータ可読媒体。
【請求項10】
前記方法は、前記レンダリングされる場面を表示することをさらに含み、前記レンダリングされる場面を表示することは、前記複数の第1のノードのうちの少なくとも1つの第1のノードを表示することおよび前記複数の第2のノードのうちの少なくとも1つの第2のノードを表示することを含む、請求項8に記載の非一過性コンピュータ可読媒体。
【請求項11】
前記第1のクライアントアプリケーションは、前記コンピュータシステム上で実行される第1のアプリケーションを含み、前記第2のクライアントアプリケーションは、前記コンピュータシステム上で実行される第2のアプリケーションを含む、請求項8に記載の非一過性コンピュータ可読媒体。
【請求項12】
前記第1のクライアントアプリケーションは、前記第2のクライアントアプリケーションに対して前記コンピュータシステム上でサンドボックス化される、請求項11に記載の非一過性コンピュータ可読媒体。
【請求項13】
前記第1のクライアントアプリケーションは、第2のコンピュータシステム上で実行されるアプリケーションを含み、前記第2のコンピュータシステムは、ネットワークを介して前記コンピュータシステムと通信しており、前記コンピュータシステムから前記シーングラフを受信することは、前記ネットワークを介して前記コンピュータシステムから前記第2のコンピュータシステムにおいて前記シーングラフを受信することを含む、請求項8に記載の非一過性コンピュータ可読媒体。
【請求項14】
前記シーングラフは、バージョン付きシーングラフのバージョンに対応する、請求項8に記載の非一過性コンピュータ可読媒体。
【請求項15】
方法を実行するように構成された1つ以上のプロセッサを備えるシステムであって、前記方法は、
第1のクライアントアプリケーションからコンピュータシステムに、複数の第1のノードを備える第1のグラフィカルデータを通信することであって、前記コンピュータシステムは、第2のクライアントアプリケーションと通信している、ことと、
前記コンピュータシステムから、シーングラフを受信することであって、
前記シーングラフは、前記複数の第1のノードのうちの少なくとも1つの第1のノードと前記第2のクライアントアプリケーションの第2のグラフィカルデータの複数の第2のノードのうちの少なくとも1つの第2のノードとの間の第1のオクルージョン関係を記述し、
前記シーングラフは、前記複数の第1のノードのうちの少なくとも1つの第3のノードと前記複数の第2のノードのうちの少なくとも1つの第4のノードとの間の第2のオクルージョン関係をさらに記述する、ことと、
前記第1のオクルージョン関係に基づいて、かつ、前記第2のオクルージョン関係にさらに基づいて、レンダリングされる場面を作成することであって、前記第1のオクルージョン関係において、少なくとも1つの第2のノードは、前記第2のグラフィカルデータの第1の部分が前記第1のグラフィカルデータの第1の部分をオクルードするように、少なくとも1つの第1のノードをオクルードし、前記第2のオクルージョン関係において、少なくとも1つの第3のノードは、前記第1のグラフィカルデータの第2の部分が前記第2のグラフィカルデータの第2の部分をオクルードするように、少なくとも1つの第4のノードをオクルードする、ことと
を含む、システム。
【請求項16】
前記レンダリングされる場面を作成することは、前記シーングラフをトラバースすることを含む、請求項15に記載のシステム。
【請求項17】
前記方法は、前記レンダリングされる場面を表示することをさらに含み、前記レンダリングされる場面を表示することは、前記複数の第1のノードのうちの少なくとも1つの第1のノードを表示することおよび前記複数の第2のノードのうちの少なくとも1つの第2のノードを表示することを含む、請求項15に記載のシステム。
【請求項18】
前記第1のクライアントアプリケーションは、前記コンピュータシステム上で実行される第1のアプリケーションを含み、前記第2のクライアントアプリケーションは、前記コンピュータシステム上で実行される第2のアプリケーションを含む、請求項15に記載のシステム。
【請求項19】
前記第1のクライアントアプリケーションは、前記第2のクライアントアプリケーションに対して前記コンピュータシステム上でサンドボックス化される、請求項18に記載のシステム。
【請求項20】
前記第1のクライアントアプリケーションは、第2のコンピュータシステム上で実行されるアプリケーションを含み、前記第2のコンピュータシステムは、ネットワークを介して前記コンピュータシステムと通信しており、前記コンピュータシステムから前記シーングラフを受信することは、前記ネットワークを介して前記コンピュータシステムから前記第2のコンピュータシステムにおいて前記シーングラフを受信することを含む、請求項15に記載のシステム。
【発明の詳細な説明】
【技術分野】
【0001】
(関連出願の相互参照)
本願は、その内容が、あらゆる目的のために、参照することによってその全体として本明細書に組み込まれる、2018年6月18日に出願された、米国特許出願第16/011,413号の利益を主張する。
【0002】
本開示は、一般に、ディスプレイ上でグラフィカルデータを視覚的にレンダリングするためのシステムおよび方法に関し、特に、単一のディスプレイ上で複数のコンピュータアプリケーションからデータを視覚的にレンダリングするためのシステムおよび方法に関する。
【背景技術】
【0003】
種々の技術が、コンピュータアプリケーションのグラフィカルデータをディスプレイにレンダリングするために存在する。これらの技術が、グラフィカルデータを現実的に、すなわち、物理的世界に基づく視認者の予期と一貫して、かつそのように効率的にレンダリングすることが、望ましくあり得る。また、レンダリング技術が、例えば、複数のアプリケーションが単一のディスプレイ上に表示されるべきグラフィカルデータに寄与する、コンピュータシステムを含む、種々のトポロジのコンピュータシステムに適応することも、望ましくあり得る。
【0004】
従来的システムは、多くの場合、そのような多重アプリケーションシステムにおいてコンテンツを現実的かつ効率的にレンダリングすることができない。例えば、いくつかのそのようなシステムでは、単一のディスプレイ上に複数のアプリケーションからのグラフィカルデータをレンダリングすることは、データがディスプレイ上で誤ってソートされることをもたらし、ディスプレイの現実感を損なう、予期せぬ視覚結果を生成する。さらに、1つのアプリケーションからのグラフィカルデータは、照明および影付け効果を介して、またはシェーダを介して等、別のアプリケーションからのグラフィカルデータと現実的に相互作用することができない場合がある。加えて、いくつかのそのようなシステムは、不可視表面のカリング等のレンダリング最適化を使用し、算出効率を増加させる、それらの能力において限定される。
【0005】
拡張現実(AR)または「複合現実」を伴うシステムは、特に、複数のアプリケーションからのグラフィカルデータを単一のディスプレイにレンダリングすることの問題のより良好なソリューションを要求する。例えば、ARシステムは、複数のユーザが、共有仮想空間内で、単一のディスプレイにレンダリングされる全てのユーザからの仮想コンテンツと相互作用する潜在性を持つ。そのような相互作用が、真実味を持ち、ユーザにとって有意義であり、ARシステムのグラフィカル出力が、説得力があり、ユーザの視覚予期と一貫することを要求し得、異なるタイプおよび数のユーザ、ユーザハードウェア、およびユーザソフトウェア、ならびにユーザがシステムに関与することを所望し得る異なる方法に適応するために十分に柔軟であり、高いフレームレートで継続的動作を持続するため、かつモバイルデバイス上のバッテリ寿命を最大限にするために十分に効率的であることが、望ましい。さらに、ARシステムにおける個々のユーザと関連付けられるアプリケーションおよびアプリケーションデータが、セキュリティ(信頼できないユーザの間のデータアクセスによって損なわれ得る)を提供することと、特に、システムのユーザの数が大きくなるにつれて、スケーラビリティを維持することとの両方のために、他のユーザから独立したままであることが、望ましくあり得る。さらに、そのようなシステムは、ユーザおよびユーザアプリケーションに対する技術的制約を最小限にすることから利益を享受し得、例えば、ユーザがARシステムに参加するためのハードウェア要件を限定することは、より多くのユーザに参加するように促す。これは、個々のユーザまたはユーザのハードウェア上で起動するアプリケーションが複雑なレンダリング動作を実施する必要がある程度を限定することによって、例えば、そのような動作を専用ハードウェア上で起動するサーバ側ホストアプリケーション等の共有システムにオフロードすることによって、達成され得る。
【発明の概要】
【課題を解決するための手段】
【0006】
本開示の実施例は、複数のアプリケーションが単一のディスプレイ上に表示されるべきグラフィカルデータに寄与する、コンピュータシステムを説明する。本開示の実施例は、グラフィカルデータを現実的に、すなわち、物理的世界に基づく視認者の予期と一貫して、かつ効率的にレンダリングするために使用されることができる。本開示の実施例によると、第1のグラフィカルデータは、第1のクライアントアプリケーションから受信されてもよく、第2のグラフィカルデータは、第2の独立クライアントアプリケーションから受信されてもよい。第1および第2のグラフィカルデータは、第1および第2のグラフィカルデータによって表されるノードの間の関係を記述するために使用され得る、シーングラフ等の「一元化」データ構造に組み合わせられてもよい。一元化データ構造は、故に、現実的かつ効率的様式で、第1および第2のグラフィカルデータを反映する場面をディスプレイにレンダリングするために使用されることができる。
本発明は、例えば、以下を提供する。
(項目1)
方法であって、
コンピュータシステムの第1のクライアントアプリケーションから、複数の第1のノードを備える第1のグラフィカルデータを受信することと、
前記コンピュータシステムの第2のクライアントアプリケーションから、複数の第2のノードを備える第2のグラフィカルデータを受信することと、
シーングラフを発生させることと
を含み、
前記シーングラフは、前記複数の第1のノードのうちの少なくとも1つの第1のノードと前記複数の第2のノードのうちの少なくとも1つの第2のノードとの間のオクルージョン関係を記述し、
前記シーングラフは、前記オクルージョン関係に基づいて、レンダリングされる場面を作成するように構成され、少なくとも1つの第2のノードは、少なくとも1つの第1のノードをオクルードする、方法。
(項目2)
前記コンピュータシステムのプロセッサによって、前記シーングラフをトラバースすることをさらに含む、項目1に記載の方法。
(項目3)
前記コンピュータシステムは、ディスプレイと通信するように構成され、前記方法はさらに、前記ディスプレイ上に出力を表示することを含む、項目2に記載の方法。
(項目4)
前記出力を表示することは、前記複数の第1のノードのうちの少なくとも1つの第1のノードおよび前記複数の第2のノードのうちの少なくとも1つの第2のノードを表示することを含む、項目3に記載の方法。
(項目5)
前記出力を表示することは、少なくとも1つの第1のノードを表示することから成る、項目4に記載の方法。
(項目6)
前記コンピュータシステムにおいて、最適化を前記出力に適用することをさらに含む、項目2に記載の方法。
(項目7)
前記最適化を適用することは、表面をカリングすることを含む、項目6に記載の方法。
(項目8)
前記コンピュータシステムにおいて、視覚効果を前記出力に適用することをさらに含む、項目2に記載の方法。
(項目9)
前記視覚効果を適用することは、光量値を計算することを含む、項目8に記載の方法。
(項目10)
前記視覚効果を適用することは、シェーダを実行することを含む、項目8に記載の方法。
(項目11)
前記コンピュータシステムにおいて、物理的効果を前記出力に適用することをさらに含む、項目2に記載の方法。
(項目12)
前記物理的効果を適用することは、衝突を検出することを含む、項目11に記載の方法。
(項目13)
前記第1のクライアントアプリケーションは、前記コンピュータシステム上で実行される第1のアプリケーションであり、前記第2のクライアントアプリケーションは、前記コンピュータシステム上で実行される第2のアプリケーションであり、前記第1のクライアントアプリケーションは、前記第2のクライアントアプリケーションに対して前記コンピュータシステム上でサンドボックス化される、項目1に記載の方法。
(項目14)
前記第1のグラフィカルデータは、前記第1のクライアントアプリケーションと関連付けられる第1のクライアントシーングラフに対応し、
前記第2のグラフィカルデータは、前記第2のクライアントアプリケーションと関連付けられる第2のクライアントシーングラフに対応し、
前記第1のクライアントシーングラフは、前記第2のクライアントシーングラフに対して前記コンピュータシステム上でサンドボックス化され、
前記第1のクライアントシーングラフは、前記シーングラフに対して前記コンピュータシステム上でサンドボックス化され、
前記第2のクライアントシーングラフは、前記シーングラフに対して前記コンピュータシステム上でサンドボックス化される、項目1に記載の方法。
(項目15)
前記シーングラフは、バージョン付きシーングラフのバージョンに対応する、項目1に記載の方法。
(項目16)
前記第1のグラフィカルデータは、前記コンピュータシステムの第1の処理スレッドを使用して、前記シーングラフに通信され、前記第2のグラフィカルデータは、前記第1の処理スレッドから独立する前記コンピュータシステムの第2の処理スレッドを使用して、前記シーングラフに通信される、項目1に記載の方法。
(項目17)
1つ以上のプロセッサを備えるシステムであって、前記1つ以上のプロセッサは、方法を実施するように構成され、前記方法は、
コンピュータシステムの第1のクライアントアプリケーションから、複数の第1のノードを備える第1のグラフィカルデータを受信することと、
前記コンピュータシステムの第2のクライアントアプリケーションから、複数の第2のノードを備える第2のグラフィカルデータを受信することと、
シーングラフを発生させることと
を含み、
前記シーングラフは、前記複数の第1のノードのうちの少なくとも1つの第1のノードと前記複数の第2のノードのうちの少なくとも1つの第2のノードとの間のオクルージョン関係を記述し、
前記シーングラフは、前記オクルージョン関係に基づいて、レンダリングされる場面を作成するように構成され、少なくとも1つの第2のノードは、少なくとも1つの第1のノードをオクルードする、システム。
(項目18)
前記方法はさらに、前記コンピュータシステムのプロセッサに、前記シーングラフをトラバースさせることを含む、項目17に記載のシステム。
(項目19)
前記コンピュータシステムは、ディスプレイと通信するように構成され、前記方法はさらに、前記コンピュータシステムに、前記ディスプレイ上に出力を提示させることを含む、項目18に記載のシステム。
(項目20)
前記出力を表示することは、前記複数の第1のノードのうちの少なくとも1つの第1のノードおよび前記複数の第2のノードのうちの少なくとも1つの第2のノードを表示することを含む、項目19に記載のシステム。
(項目21)
前記出力を表示することは、少なくとも1つの第1のノードを表示することから成る、項目20に記載のシステム。
(項目22)
前記方法はさらに、前記コンピュータシステムに、最適化を前記出力に適用させることを含む、項目18に記載のシステム。
(項目23)
前記最適化を適用することは、表面をカリングすることを含む、項目22に記載のシステム。
(項目24)
前記方法はさらに、前記コンピュータシステムに、視覚効果を前記出力に適用させることを含む、項目18に記載のシステム。
(項目25)
前記視覚効果を適用することは、光量値を計算することを含む、項目24に記載のシステム。
(項目26)
前記視覚効果を適用することは、シェーダを実行することを含む、項目24に記載のシステム。
(項目27)
前記方法はさらに、前記コンピュータシステムに、物理的効果を前記出力に適用させることを含む、項目18に記載のシステム。
(項目28)
前記物理的効果を適用することは、衝突を検出することを含む、項目27に記載のシステム。
(項目29)
前記第1のクライアントアプリケーションは、前記コンピュータシステム上で実行される第1のアプリケーションであり、前記第2のクライアントアプリケーションは、前記コンピュータシステム上で実行される第2のアプリケーションであり、前記第1のクライアントアプリケーションは、前記第2のクライアントアプリケーションに対して前記コンピュータシステム上でサンドボックス化される、項目17に記載のシステム。
(項目30)
前記第1のグラフィカルデータは、前記第1のクライアントアプリケーションと関連付けられる第1のクライアントシーングラフに対応し、
前記第2のグラフィカルデータは、前記第2のクライアントアプリケーションと関連付けられる第2のクライアントシーングラフに対応し、
前記第1のクライアントシーングラフは、前記第2のクライアントシーングラフに対して前記コンピュータシステム上でサンドボックス化され、
前記第1のクライアントシーングラフは、前記シーングラフに対して前記コンピュータシステム上でサンドボックス化され、
前記第2のクライアントシーングラフは、前記シーングラフに対して前記コンピュータシステム上でサンドボックス化される、項目17に記載のシステム。
(項目31)
前記シーングラフは、バージョン付きシーングラフのバージョンに対応する、項目17に記載のシステム。
(項目32)
前記第1のグラフィカルデータは、前記コンピュータシステムの第1の処理スレッドを使用して、前記シーングラフに通信され、前記第2のグラフィカルデータは、前記第1の処理スレッドから独立する前記コンピュータシステムの第2の処理スレッドを使用して、前記シーングラフに通信される、項目17に記載のシステム。
(項目33)
前記システムは、前記コンピュータシステムを備える、項目17に記載のシステム。
(項目34)
前記第1のクライアントアプリケーションは、前記1つ以上のプロセッサを介して実行される第1のアプリケーションであり、前記第2のクライアントアプリケーションは、前記1つ以上のプロセッサを介して実行される第2のアプリケーションであり、前記第1のクライアントアプリケーションは、前記第2のクライアントアプリケーションに対して前記システム上でサンドボックス化される、項目17に記載のシステム。
【図面の簡単な説明】
【0007】
図1図1A-1Eは、本開示の実施例による、グラフィカルディスプレイを含む、例示的コンピュータシステムを図示する。
【0008】
図2A図2Aは、本開示の実施例による、例示的コンピュータシステムにおけるデータの例示的フローを示す。
【0009】
図2B図2Bは、本開示の実施例による、例示的コンピュータシステムに対応する例示的レンダラ出力を示す。
【0010】
図2C図2Cは、本開示の実施例による、複数の独立アプリケーションを含む、例示的コンピュータシステムにおけるデータの例示的フローを示す。
【0011】
図2D図2Dは、本開示の実施例による、複数の独立アプリケーションを含む、例示的コンピュータシステムに対応する例示的レンダラ出力を示す。
【0012】
図3A図3Aは、本開示の実施例による、一元化シーングラフを使用して、複数の独立アプリケーションからの3Dデータをディスプレイにレンダリングし得る、例示的コンピュータシステムのコンポーネントを図示する。
【0013】
図3B図3Bは、本開示の実施例による、複数の独立クライアントアプリケーションを含む、例示的コンピュータシステムに関する例示的クライアントアプリケーションの側面を図示する。
【0014】
図3C図3Cは、本開示の実施例による、複数の独立クライアントアプリケーションを含む、例示的コンピュータシステムに関する例示的クライアント・サーバインターフェースの側面を図示する。
【0015】
図3D図3Dは、本開示の実施例による、複数の独立クライアントアプリケーションを含む、例示的コンピュータシステムに関する例示的ホストアプリケーション340の側面を図示する。
【0016】
図3E図3Eは、本開示の実施例による、複数の独立クライアントアプリケーションを含む、例示的コンピュータシステムに関する例示的レンダラ360の側面を図示する。
【0017】
図4図4は、本開示の実施例による、任意のポータブルまたは非ポータブルデバイス内で具現化され得る、システムアーキテクチャの実施例を図示する。
【発明を実施するための形態】
【0018】
実施例の以下の説明では、本明細書の一部を形成し、例証として、実践され得る具体的実施例が示される、付随の図面が、参照される。他の実施例も、使用され得、構造変更が、開示される実施例の範囲から逸脱することなく、行われ得ることを理解されたい。
【0019】
図1A-1Eは、ディスプレイを伴う種々の例示的コンピュータシステムを図示する。図1Aは、外部モニタに接続される例示的デスクトップコンピュータを示す。図1Bは、ディスプレイを含む、例示的ラップトップを示す。図1Cは、統合ディスプレイを含む、例示的モバイルデバイスを示す。図1Dは、ディスプレイを含む、例示的テレビを示す。図1Eは、頭部搭載型ディスプレイを含む、例示的コンピュータシステムを示す。本開示は、いかなる特定のタイプのコンピュータシステムにも、いかなる特定のタイプのディスプレイにも、またはコンピュータシステムをディスプレイに接続するいかなる特定の手段にも限定されない。本開示はさらに、2次元ディスプレイに限定されず、特に、立体ディスプレイ等の3次元ディスプレイが、検討される。
【0020】
いくつかの例示的コンピュータシステムでは、ディスプレイ上にグラフィックで(「レンダリングされる場面」として)提示されるべきデータは、3次元空間内でオブジェクト(ポリゴンを含む、2Dまたは3D幾何プリミティブ等)を表すデータ(「3Dデータ」)を含み、ディスプレイ上で3Dデータを提示することは、視軸に沿って配向される視認起点から視認されるような3次元空間内のオブジェクトに対応する画像(「表示される場面」)を提示することを含む。例えば、コンピュータシステム上で起動するソフトウェアアプリケーション(3Dエンジンを使用するビデオゲーム等)では、3Dデータは、3次元ゲーム世界の中のオブジェクトの空間座標、配向、および/または視覚性質、ならびにゲーム世界の中の視認起点および視軸を記述するデータを含んでもよい。3Dデータはまた、レンダリングされるべきオブジェクトと関連付けられるテクスチャに関連するデータ、オブジェクトに関連するシェーダパラメータ、およびオブジェクトが表示され得る方法に影響を及ぼす他の情報を含んでもよい。ゲームは、例えば、「レンダリング」または「描画」段階の間、表示される場面としてディスプレイ上に提示するためのレンダリングされる場面を作成するように、ソフトウェアおよび/またはハードウェア「パイプライン」に指示してもよい。そのような実施例では、概して、結果として生じる画像が、視覚世界についてのユーザの予期を反映することが、望ましい。特に、概して、視認起点により近接する第1の不透明なオブジェクトが、第1のオブジェクトの後方に第2のオブジェクトをオクルードすることが、望ましい。正しくオクルードされていないオブジェクトは、ユーザを混乱させ得、オブジェクトが3次元空間内に位置する場所を明確に提示しない場合がある。いくつかの例示的コンピュータシステムでは、オクルージョンは、視認起点により近接するオブジェクトが、視認起点からより遠いオブジェクトの上でソートまたは描画される、ソーティングを通して達成される。
【0021】
1つのオブジェクトが、別のものを現実的にオクルードするように、ディスプレイ上に提示するために複数のオブジェクトをソートすることは、オブジェクト間の関係、例えば、3次元空間内のオブジェクト間の空間関係についての情報を要求する。いくつかの例示的コンピュータシステムは、シーングラフを利用し、場面としてレンダリングされるべきオブジェクト等の1つ以上のオブジェクト間の関係(例えば、階層関係)を表す。本明細書で使用されるように、シーングラフは、そのような関係を表す任意のデータ構造である。例えば、シーングラフでは、提示されるべきレンダリングされるオブジェクトは、グラフではノードとして表されてもよく、ノード間の関係は、オブジェクト間の論理または空間関係を表す。レンダラは、次いで、当技術分野で公知の技法に従って、シーングラフをトラバースし、適切なオクルージョンを達成するであろう様式で、オブジェクトのうちの少なくとも1つを表示のためにレンダリングまたは準備することができる。言い換えると、レンダラは、ノードを有するオブジェクトの場面を作成し得るが、ディスプレイ上の提示は、レンダラ内の別のオブジェクトによってオクルードされるオブジェクトが、結果として生じる表示される場面内で部分的にのみ提示されるであろうように、レンダリングされるオブジェクトのサブセットのみであり得る(そのような実施形態における出力は、オブジェクトのオクルードされない部分である)。そのような選択的表示は、ユーザが、所与の時間周期内に視認可能であるように第2のアプリケーションから起動する第2のオブジェクトによって具現化されるコンテンツのみを所望する場合、第1のアプリケーションから起動する第1のオブジェクトによって具現化されるコンテンツを不明瞭にするために有益であり得る。いくつかの実施例では、シーングラフは、3Dデータを含むアプリケーションと、その3Dデータを画面への提示のためにレンダリングするためのレンダラとの間に位置する、中間データ構造であり、いくつかの実施例では、アプリケーションは、場面情報をシーングラフに書き込み、シーングラフは、場面をレンダリングする、または表示される場面を出力するためにレンダラによって後で使用されてもよい。
【0022】
図2Aは、例示的コンピュータシステム200におけるデータの例示的フローを示す。システム200では、単一のアプリケーション210は、レンダラ250がディスプレイ290上での提示のためにオブジェクト220をレンダリングするために使用し得る、シーングラフ240にデータを書き込むことができる。例えば、オブジェクト220は、2つの人間の手、すなわち、手232および手236の3D表現をともに備える、いくつかのオブジェクト(例えば、ポリゴン)を含んでもよく、アプリケーションは、例えば、レンダリングまたは描画段階の間、視軸に沿って配向される視認起点の視点からディスプレイ上に提示されるようにオブジェクト220に指示してもよい。実施例では、手232および手236は、握手で相互係止され、手の相対位置付けのため、視認者は、視認起点および視軸に対して、手232のいくつかの部分が手236の部分をオクルードし、手236を構成するいくつかのポリゴンが手232の部分をオクルードすることを予期する。アプリケーション210は、他のポリゴンをオクルードするはずであるポリゴン、すなわち、他のものの上に表示するようにソートされるはずであるポリゴンを識別するために使用され得る、オブジェクト220を構成するポリゴンの間の空間関係等のオブジェクト220の間の関係を記述する情報を、シーングラフ240に書き込むことができる。例えば、シーングラフ240は、ポリゴン234(手232に属する)が、視認起点と手236を構成するポリゴンとの間に位置付けられ、したがって、手236におけるそれらのポリゴンをオクルードするはずであり、ポリゴン238(手236に属する)が、視認起点と手232を備えるポリゴンとの間に位置付けられ、したがって、手232におけるそれらのポリゴンをオクルードするはずであることを反映し得る。レンダラ250は、次いで、オブジェクト220または手232のみもしくは手232のオクルードされない部分または手236のみ等のサブセットを、提示のために所望のオクルージョンと一貫するディスプレイ290への出力として出力してもよい。
【0023】
図2Bは、図2Aに示される例示的コンピュータシステム200のレンダラ250の例示的出力を示す。図2Aに関して上記に説明される実施例では、オブジェクト220の相対位置に基づいて、視認者は、手232を構成するいくつかのオブジェクト(ポリゴン234等)が手236をオクルードし、手236を構成するいくつかのオブジェクト(ポリゴン238等)が手232をオクルードすることを予期する。図2Bに示される例示的出力は、予期されるオクルージョンと一貫する。すなわち、図2Aのオブジェクト220は、視認者の予期と一貫する握手をディスプレイ290上に提示するように正しく表示される。
【0024】
図2Aおよび2Bに示される例示的コンピュータシステム200では、シーングラフ240は、単一のアプリケーションのみによって、アプリケーション210に直接書き込まれる。レンダラ250は、次いで、シーングラフ240をトラバースし、適切なオクルージョンを伴って手232および手236をレンダリングする。例示的コンピュータシステム200等のレンダリングプロセスの一部としてシーングラフを使用する従来的システムは、シーングラフ(例えば、シーングラフ240)が、複数の独立アプリケーションから直接入力を受信するときに、オブジェクトを正しくオクルードしない場合がある。これらの状況では、例示的コンピュータシステム200と異なり、ディスプレイ上でオブジェクトを正しくソートするために必要とされ得る、オブジェクト関係データの全てを伴うシーングラフを提供し得るアプリケーションが、1つも存在しない。
【0025】
図2Cは、2つの独立アプリケーションを使用する、例示的コンピュータシステム201におけるデータの例示的フローを示し、上記に説明されるオクルージョン問題を図示する。上記に説明される例示的コンピュータシステム200と異なり、例示的コンピュータシステム201は、2つの独立アプリケーション、すなわち、アプリケーション212と、アプリケーション214とを含む。例示的コンピュータシステム201では、アプリケーション212およびアプリケーション214は両方とも、データをシーングラフ240に書き込み、それらの個別の3Dデータを単一のディスプレイ290にレンダリングする。図2Cでは、アプリケーション212は、オブジェクト222(手232を構成するオブジェクトを含む)をレンダリングおよび提示しようと試み、アプリケーション214は、オブジェクト224(手236を構成するオブジェクトを含む)をレンダリングおよび提示しようと試みる。本実施例では、図2Aおよび2Bに説明される実施例におけるように、手232および手236は、同一の3D環境内で並行して表示される場合、視認者が、手232の部分が手236をオクルードし、手236の部分が手232をオクルードすることを予期するであろうように、握手で相互係止されるであろう。
【0026】
図2Cに示される実施例は、レンダリングされるべきオブジェクトの現実的なオクルージョンを達成することの困難を有し得る。実施例では、アプリケーション212は、オブジェクト222(手232を含む)に対応するデータをシーングラフ240に書き込むことができ、アプリケーション214は、オブジェクト224(手236を含む)に対応するデータを同一のシーングラフ240に書き込むことができる。しかしながら、例示的コンピュータシステム201では、アプリケーション212およびアプリケーション214が、独立(「サンドボックス化された」)アプリケーションである場合、アプリケーション212は、アプリケーション214のオブジェクト224(手236およびその構成オブジェクトを含む)に関連するデータにアクセスすることができず、同様に、アプリケーション214は、アプリケーション212のオブジェクト222(手232およびその構成オブジェクトを含む)に関連するデータにアクセスすることができない。すなわち、いくつかの実施例では、アプリケーション212またはアプリケーション214のいずれも、オブジェクト222とオブジェクト224との間の関係を完全に識別することができない。したがって、アプリケーション212またはアプリケーション214のいずれも、他のオブジェクトをオクルードするオブジェクト、またはオブジェクトがディスプレイ上でソートされるはずである順序を識別するために必要であり得る、情報をシーングラフ240に書き込むことができない。
【0027】
図2Dは、図2Cに示される例示的コンピュータシステム201のレンダラ250の例示的出力を示す。図2Cに関して上記に説明される実施例では、オブジェクト222およびオブジェクト224の相対位置付けに基づいて、視認者は、手232のいくつかの部分が手236をオクルードし、手236のいくつかの部分が手232をオクルードすることを予期する。しかしながら、図2Aおよび2Bと異なり、図Cのシーングラフ240は、上記に説明されるように、オブジェクト222および224を正しくソートし、所望のオクルージョンを生成することができない。代わりに、示される実施例では、オブジェクト222の全ては、オブジェクト224の全ての上にソートされる。図2Dに示される例示的出力は、したがって、予期されるオクルージョンと一貫しない。結果として生じる握手画像は、したがって、アプリケーション212およびアプリケーション214においてオブジェクトを正確に反映せず、画像は、加えて、不自然に見え得、視認者にとって紛らわしくあり得る。
【0028】
図2A-2Dのシーングラフ240等の従来的シーングラフの他の不利点は、例示的コンピュータシステム201において等の複数の独立アプリケーションと併用されるときに、明白である。例えば、レンダリング効率は、図2Aのアプリケーション210において等でレンダリングされるべき場面全体に対応するデータを使用して、実現されることができる。例えば、オクルードされるであろう表面を把握することによって、図2Aの例示的コンピュータシステム200は、それらの表面をカリングするようにシステム200に命令し、それによって、算出リソースの不必要な支出を回避することができる。本カリングは、各アプリケーションが、カリングされるべきである表面を決定するための場面知識を保有しない場合があるため、図2Cの例示的コンピュータシステム201等の多重アプリケーションシステムでは可能ではない場合がある。さらに、例示的コンピュータシステム200等の単一のアプリケーションのみを伴う、いくつかの実施例では、有益な効果が、場面内の他のオブジェクトの存在に基づいて、オブジェクトに適用されてもよい。例えば、現実的な照明および影付け効果をオブジェクトに適用することは、近傍のオブジェクトに対応するデータを要求し得る。さらに、いくつかのシェーダ効果は、そのようなデータから利益を享受する。同様に、粒子システムまたは衝突検出システムによって発生される効果は、そのようなデータから利益を享受し得る。そのような効果は、そのような効果を適用するために必要なノード関係情報の全てを提供することが可能であり得るアプリケーションが、1つも存在しないため、3Dデータが複数の独立アプリケーションによって提供されるシステムにおいて限定される、または不可能であり得る。
【0029】
本開示は、一元化シーングラフを使用し、複数の独立アプリケーションからの3Dデータをレンダリングするシステムの上記の不利点に対処する、システムおよび方法を提示する。一元化シーングラフが、複数の独立アプリケーションがレンダリングされるべき3Dデータを提供するシステム(図2Cの例示的コンピュータシステム201等)において、図2Cのシーングラフ240等の従来的シーングラフの代わりに使用されることができる。本明細書に説明されるように、いくつかの実施例では、一元化シーングラフは、複数の個々の入力ソースから3Dデータを受信し、その3Dデータに対応する情報を中心の場所に書き込み、その3Dデータに基づいて、オブジェクトを備えるレンダリングされる場面を作成するレンダラによるアクセスのためにその情報を維持するシステムを含むことができる。そのレンダリングされる場面は、現実的なオブジェクトオクルージョン、算出効率、視覚効果(照明および影付け等)、または別様に一元化シーングラフを利用しないシステムでは実現することが困難もしくは不可能であろう物理的効果(衝突検出等)もしくはオクルードされるオブジェクトの部分的表示を反映する出力(グラフィカル出力等)を発生させるために使用されてもよい。
【0030】
いくつかの実施例では、例示的コンピュータシステムは、共通3D環境内の1つ以上のオブジェクトを表す3Dデータをそれぞれ含む、複数のアプリケーションを含む。複数のアプリケーションはそれぞれ、これが、他のアプリケーションに依存しないままであるように、「サンドボックス化された」環境内に存在してもよく、例えば、各個別のアプリケーションのデータは、各他のアプリケーションのデータから独立し得、各アプリケーションは、各他のアプリケーションのデータへのアクセスを有していない場合があり、アプリケーションのそれぞれの3Dデータが、同一の3D環境に対応し得る一方、各アプリケーションは、3D環境のその独自のインスタンスを維持する。例えば、各アプリケーションは、各プレーヤが同一のゲーム世界のインスタンスまたは3D環境内に存在するが、他のプレーヤのデータへの直接アクセスが欠けている、オンラインマルチプレーヤビデオゲーム内のプレーヤを表してもよい。そのような実施例では、全てのプレーヤが、ゲーム世界の単一のインスタンスにおいて同時にレンダリングされることが、望ましくあり得るが、各プレーヤが、各他のクライアント参加者の3Dデータをレンダリングするために必要な情報を維持することは、望ましくない場合がある(またはコンピュータ的に法外である)。さらに、セキュリティ目的のために、他のプレーヤに利用可能であるプレーヤの情報を限定することが、望ましくあり得る。
【0031】
いくつかの実施例では、複数のサンドボックス化されるアプリケーションはそれぞれ、独立して、その3Dデータに対応する情報をローカルシーングラフに書き込むことができ、その情報は、後で共通一元化シーングラフに書き込まれる。一元化シーングラフは、次いで、各アプリケーションによって提供される集合的3Dデータに基づいて、画像としてディスプレイ上での提示のための場面をレンダリングするように、レンダラによってトラバースされることができる。複数のサンドボックス化されたアプリケーションのそれぞれから単一の一元化シーングラフに3Dデータを通信することによって、レンダラは、全てのアプリケーションの3Dデータの同時知識を要求する、またはそれから利益を享受する、オクルージョン、照明効果、およびレンダリング最適化(表面カリング等)等の有益な技法を適用することができる。これらの利益は、各サンドボックス化されたアプリケーションの要求される算出オーバーヘッドを限定しながら実現され、単一のアプリケーションの視点から、アプリケーションが行う必要があることは、単一のシーングラフを更新し、その3Dデータを反映することだけであり、他の動作は、本システムの別のコンポーネントによって実施される。さらに、セキュリティ利益が、サンドボックス化されたアプリケーションの間の分離を維持することによって、取得されることができる。
【0032】
図3Aは、一元化シーングラフを使用して、複数の独立アプリケーションからの3Dデータをディスプレイにレンダリングし得る、例示的コンピュータシステム300のコンポーネントを図示する。図示される実施例は、クライアント・サーバトポロジを利用するが、しかしながら、本開示は、クライアント・サーバ実施例に限定されない。例示的コンピュータシステム300では、第1のクライアントアプリケーション310および第2のクライアントアプリケーション320は、それぞれ、(いくつかの実施例では、ネットワークを経由して)3Dデータをクライアント・サーバインターフェース330に通信する。いくつかの実施例では、クライアントアプリケーション310および320は、相互から独立して動作し、独立してそれらの3Dデータをクライアント・サーバインターフェース330に通信する、「サンドボックス化された」アプリケーションである。クライアント・サーバインターフェース330は、クライアントアプリケーション310および320から更新された3Dデータを受信し、(いくつかの実施例では、ネットワークを経由して)その3Dデータをサーバ側ホストアプリケーション340に通信することができる。いくつかの実施例では、クライアント・サーバインターフェース330は、マルチスレッディング技法を使用し、複数のプロセッサスレッドを使用して、3Dデータを受信する、処理する、および/またはホストアプリケーション340に通信する。いくつかの実施例では、クライアント・サーバインターフェースは、3Dデータがホストアプリケーション340に通信されるレートを(抑制することによって等)制御するための論理を含む。ホストアプリケーション340は、クライアント・サーバインターフェースから受信される3Dデータを使用し、一元化シーングラフ350が、クライアントアプリケーション310および320から受信される3Dデータを反映するように、一元化シーングラフ350を更新することができる。いくつかの実施例では、一元化シーングラフ350は、シーングラフの複数のバージョンを備え、公知のバージョニング技法が、一元化シーングラフ350への更新が並行して起こることを可能にするために使用される。レンダラ360は、次いで、一元化シーングラフ350をトラバースし、適宜、最適化および効果を適用し、コンピュータモニタ等のディスプレイ370上に表示されるように出力(例えば、クライアントアプリケーション310および320のうちの少なくとも1つのデータ、ならびにいくつかの実施形態では、オクルードするアプリケーションデータを伴わない、1つのクライアントアプリケーションのオクルードされる部分のみを備えるグラフィカル出力)を発生させることができる。
【0033】
図3Bは、図3Aに示される例示的コンピュータシステム300に関する例示的クライアントアプリケーション310の側面を図示する。示される実施例では、3Dデータ312は、ディスプレイ370上に提示されるべきである3D環境内のグラフィカルオブジェクト(幾何プリミティブ、例えば、ポリゴン等)を表す。3Dデータ312は、クライアントアプリケーション310によって更新されてもよい(314)。例えば、クライアントアプリケーション310が、1秒あたり60回反復するレンダリングループを伴うアプリケーションである場合、クライアントアプリケーション310は、3Dデータ312を1秒あたり60回更新し、レンダリング出力において反映されるはずであるアプリケーションの動作の過程の間に、そのデータの変更を反映してもよい。いくつかの実施例では、3Dデータ312は、各クライアントアプリケーション310にローカルであり得る、ローカルシーングラフ316として表される。いくつかの実施例では、ローカルシーングラフ316は、一元化シーングラフ350内のデータに対応するデータ(ノード等)を含んでもよい。3Dデータ312が、更新される(314)際、クライアントアプリケーション310は、ローカルシーングラフ316を更新し、3Dデータ312の直近のバージョンを反映することができる。ローカルシーングラフ316が、更新される際、これは、クライアントデータ318を発生させる(317)ようにクライアントアプリケーション310によって使用されることができる。いくつかの実施例では、クライアントデータ318は、その全体としてローカルシーングラフ316を表してもよい。いくつかの実施例では、クライアントデータ318は、以前のクライアントデータ318が、クライアント・サーバインターフェース330に送信された以降にローカルシーングラフ316に行われた変更を表してもよい。例えば、クライアントデータ318は、ローカルシーングラフ316に追加された、またはそれから削除されたノード、ローカルシーングラフ316内のノードの間の関係の変更、もしくはローカルシーングラフ316内のノードの性質の変更を含み得る。いくつかの実施例では、クライアントデータ318は、シーングラフノードに対応する識別番号等の識別子を使用し、ローカルシーングラフ316からのデータと一元化シーングラフ350上の対応するデータとの間の関係を識別してもよい。クライアントデータ318は、次いで、ホストアプリケーション340への最終的な通信のために、クライアント・サーバインターフェース330に通信されることができる。いくつかの実施例では、クライアント・サーバインターフェース330へのクライアントデータ318の通信は、ネットワークを経由して起こってもよい。いくつかの実施例では、クライアントヘルパアプリケーションが、ローカルシーングラフ316から、または3Dデータ312から、クライアントデータ318を発生させるために、クライアントアプリケーション310と併用されてもよい。
【0034】
クライアントアプリケーション310に関して説明される側面は、同様に、クライアントアプリケーション320、または(クライアントアプリケーション310とともに)例示的コンピュータシステム300を備える他のクライアントアプリケーションを説明し得る。本明細書に説明されるシステムおよび方法は、任意の数のクライアントアプリケーションおよびクライアントデータを含むように拡張され得、本開示は、いかなるそのような数にも限定されず、さらに、いくつかの利益(例えば、算出効率の向上)が、ますます増加するクライアントアプリケーションを用いるとより明白になり得ることが、当業者によって理解されるであろう。上記に説明されるように、クライアントアプリケーション310および320は、データまたは機能性を共有しない、サンドボックス化されたアプリケーションであってもよい。例えば、例示的コンピュータシステム300では、クライアントアプリケーション320は、クライアントアプリケーション310に属する、3Dデータ312およびローカルシーングラフ316から独立する、その独自の3Dデータおよびローカルシーングラフを有してもよい。しかしながら、例示的コンピュータシステム300を含む、いくつかの実施例では、単一のクライアント・サーバインターフェース300が、クライアントアプリケーション310および320等の複数のクライアントアプリケーションによって共有される。
【0035】
図3Cは、図3Aおよび3Bに示される例示的コンピュータシステム300に関する例示的クライアント・サーバインターフェース330の側面を図示する。実施例では、クライアントデータ318およびクライアントデータ328は、図3Bに関して上記に説明されるように、個別のクライアントアプリケーション310および320に通信される、またはそれによって更新される、クライアントデータである。いくつかの実施例では、クライアントデータ318および328は、異なるレートにおいてクライアント・サーバインターフェース330上で更新されてもよい。これは、例えば、1つのクライアントアプリケーションが、別のクライアントアプリケーションよりも能力が低いコンピューティングハードウェア上で実行される(そのクライアントアプリケーションに、そのクライアントデータをより低い頻度で更新させる)場合、1つのクライアントアプリケーションが、別のクライアントアプリケーションよりも低い帯域幅のネットワークを経由してクライアント・サーバインターフェース330と通信する場合、または1つのクライアントアプリケーションと関連付けられるクライアントデータが、別のクライアントアプリケーションと関連付けられるクライアントデータよりも複雑である(かつ発生させるためにより多くの処理時間を要求する)場合に起こり得る。クライアント・サーバインターフェース330上でクライアントデータを更新する異なるレートはまた、ネットワーク故障が、クライアントアプリケーションを一時的にオフラインにさせる場合等の動作条件の一時的急変の結果であり得る。例えば、コンピュータシステム300が、クライアントデータを更新する異なるレートに耐えることが、望ましく、例えば、1つのクライアントアプリケーションに影響を及ぼすネットワーク故障が、他のクライアントアプリケーションからのクライアントデータを使用して一元化シーングラフ350を更新するレート、または場面がレンダリングされるレートに悪影響を及ぼさないことが、望ましくあり得る。また、一元化シーングラフ350を更新する際に、これが、クライアントアプリケーションに対する一元化シーングラフまたはレンダリングされる表示の不安定化もしくは非同期化をもたらし得るため、1つのクライアントアプリケーションからのクライアントデータが、他のクライアントアプリケーションからのクライアントデータに過剰に遅れて遅滞しない、またはその前で過剰に先導しないことを確実にすることが、望ましくあり得る。
【0036】
いくつかの実施例では、クライアント・サーバインターフェース330の役割は、クライアントデータを更新するレートの差異または増減を取り扱うことである。図3Cを参照すると、例示的クライアント・サーバインターフェース330は、それぞれ、独立処理スレッド332および334を介してクライアントデータ318および328を受信してもよく、スレッドを取り扱うためのスレッドマネージャ336を含んでもよい。複数のスレッドを利用し、クライアントアプリケーション310およびクライアントアプリケーション320等の異なるソースからのクライアントデータを更新することは、1つのソースに関する問題が他のソースからのデータを遮断しない、または別様に悪影響を及ぼすことを防止することができる。示される実施例では、スレッドマネージャ336は、それぞれ、スレッド332および334を使用して、クライアントアプリケーション310および320からクライアントデータ318および328を入力し、ホストデータ319および329(それぞれ、クライアントデータ318および328、クライアントアプリケーション310および320、ならびにスレッド332および334に対応する)をホストアプリケーション340に出力してもよい。スレッドマネージャ336は、スレッド332および334を処理するため、スループット問題またはスレッド332および334に関連する他の問題を識別し、対処するため、ならびに/もしくはホストデータ319および329の出力を制御するための論理を含んでもよい。例えば、クライアントデータ318およびクライアントデータ328が、(それぞれ、スレッド332および334を介して)ほぼ同一のレートで更新している場合、スレッドマネージャ336は、単純に、ほぼ同一のレートでホストデータ319および329(それぞれ、クライアントデータ318および319に対応する)を更新してもよい。しかしながら、クライアントデータ318が、クライアントデータ328よりもはるかに速いレートで更新される場合、スレッドマネージャ336は、(例えば、よい低い頻度でこれをホストアプリケーション340に通信することによって)クライアントデータ318を抑制し、これがクライアントデータ328をはるかに上回ることを防止してもよい。スレッドマネージャ336はまた、ホストデータが更新される全体的レートを制御してもよい。例えば、スレッドマネージャ336は、ホストデータ319および/または329を更新するレートを抑制し、本ホストデータが、ホストアプリケーション340がこれを処理し得るよりも速く更新すること(クライアントアプリケーション310および/または320、一元化シーングラフ350、ならびに/もしくはディスプレイ370への出力の望ましくない非同期化をもたらし得る)を防止してもよい。
【0037】
図3Dは、図3A-3Cに示される例示的コンピュータシステム300に関する例示的ホストアプリケーション340の側面を図示する。本明細書に説明されるものは、スレッド341がホストアプリケーション340内で付加的スレッドと並行して実行され得る、ホストアプリケーション340内のスレッド341内で実行される動作である。いくつかの実施例では、ホストアプリケーション340内のマルチスレッド処理は、複数のクライアントアプリケーションまたはホストデータの複数のセットが、(いくつかの実施例では、一元化シーングラフの異なるバージョンを更新することによって)同一の一元化シーングラフ350を同時に更新することを可能にする利点を持ち得る。これは、ひいては、ディスプレイ上での提示のためのレンダリングされる場面へのクライアントデータの全体的スループットを増加させ得る。いくつかの実施例では、マルチスレッディングは、例えば、スレッドが不注意に同一のデータに書き込むことを防止するために、ロックが一元化シーングラフデータ上に設置されることを要求し得る。しかしながら、いくつかの実施例では、説明される動作のうちの1つ以上のものは、スレッド内で実行されない場合がある。
【0038】
図3Dに示される実施例では、ホストデータ319(クライアントアプリケーション310およびクライアントデータ318に対応する)が、図3Cに関して上記に説明されるように更新される(342)。ホストアプリケーション340は、次いで、ホストデータ319が一元化シーングラフ350の以前のバージョンに行い得る変更を識別してもよい。例えば、ホストアプリケーション340は、一元化シーングラフ350に関して、ホストデータ319がノードを追加する、ノードを削除する、2つのノードの間の関係を変更する、またはノードの性質を変更するであろうことを識別してもよい。(図3Dに示される実施例等のいくつかの実施例では、ホストアプリケーション340は、ホストデータハンドラ344を使用して、これらの動作またはその他を実施してもよい)。ホストアプリケーション340は、ホストデータ319に従って作成または更新されるべき一元化シーングラフ350のバージョンを識別してもよい(352)。いくつかの実施例では、一元化シーングラフ350のバージョン352に書き込むことに先立って、ホストアプリケーション340は、そのバージョンをロックし、他のプロセスがこれを並行して修正することを防止してもよい。ホストアプリケーション340は、(例えば、ホストデータ319に対応するようにバージョン352内のシーングラフノードを追加または削除することによって)バージョン352に変更を行い、ホストデータ319を反映してもよい。いくつかの実施例では、ホストアプリケーション340は、次いで、バージョン352をロック解除し、バージョン352に対応するバージョン番号の値を更新してもよい(356)。ホストアプリケーション340は、次いで、ホストデータを更新し(342)、図3Dに示されるプロセスを繰り返してもよい。一元化シーングラフ350が、個々のクライアントアプリケーションから導出される個々のホストデータを反映するように更新される際、一元化シーングラフ350は、個々のクライアントアプリケーションが「サンドボックス化され」、相互から独立し得ても、複数のクライアントアプリケーションからの集合的ホストデータを反映するであろう。
【0039】
図3Eは、図3A-3Dに示される例示的コンピュータシステム300に関する例示的レンダラ360の側面を図示する。いくつかの実施例では、レンダラ360は、ホストアプリケーション340の一部を構成する。いくつかの実施例では、レンダラ360は、例示的コンピュータシステム300の別のコンポーネントの一部であってもよい、または別個のコンポーネントもしくはアプリケーションであってもよい。いくつかの実施例では、レンダラ360は、例示的コンピュータシステム300の1つ以上のコンポーネンと異なる物理的ハードウェアにおいて実装されてもよく、ネットワークを経由してそれらのコンポーネントのうちの1つ以上のものと通信してもよい。
【0040】
図3Eに示される実施例では、レンダラ360は、一元化シーングラフ350のバージョン352に作用する。実施例では、レンダラの役割は、一元化シーングラフ350のバージョン352に基づいて、ディスプレイ370上での提示のための出力またはグラフィカル出力等のデータを備えるレンダリングされる場面を作成することである。本プロセスの一部として、レンダラ360は、公知のシーングラフトラバース技法を使用して、バージョン352をトラバースしてもよい(362)。トラバース362の間または後に、レンダラ360は、適宜、一元化シーングラフ350を更新(364)し、トラバースの結果を反映してもよい。例えば、トラバース362の一部として、レンダラ360は、一元化シーングラフ350から削除されるべきである、放棄されたノードを識別してもよい。トラバース362および/または更新364に続いて、レンダラ360は、種々の最適化366を場面に適用してもよい。例えば、レンダラ360は、不明瞭なまたは不可視の表面をカリングし、不必要な算出リソースを消費することを回避してもよい。トラバース362および/または更新364に続いて、レンダラ360は、1つ以上の視覚効果367を場面に適用してもよい。例えば、いくつかの実施例では、レンダラ360は、照明効果または影効果を適用する、1つ以上のシェーダを適用する、粒子効果を適用する、および/または物理的効果を適用してもよい。最後に、レンダラ360は、データをグラフィカル出力パイプラインに出力することができ、その結果は、ディスプレイ370上に出力を表示することができる。
【0041】
コンピュータシステムの上記の例示的プロセスは、任意の好適な論理回路によって提供されてもよい。好適な論理回路は、ソフトウェアプログラムにおいて実装される命令を実行すると、プロセスを実施する、1つ以上のコンピュータプロセッサ(例えば、CPU、GPU等)を含んでもよい。加えて、そのようなプロセスはまた、プロセスを提供する論理設計を実装する、プログラマブル論理(例えば、PLD、FPGA等)またはカスタマイズされた論理(例えば、ASIC等)等のハードウェア論理回路において実装される、対応する論理設計を介して提供されることができる。さらに、そのようなプロセスは、ソフトウェアおよびハードウェア論理回路を起動する、両方の1つ以上のプロセッサを組み合わせる実装を介して提供されることができる。
【0042】
図4は、上記の実施例のうちのいずれかまたは全てを実装するために使用され得る、例示的システム400を図示する。上記の実施例(全体的または部分的に)は、任意のポータブルデバイス(ウェアラブルデバイスを含む)または非ポータブルデバイス、例えば、通信デバイス(例えば、モバイル電話、スマートフォン)、マルチメディアデバイス(例えば、MP3プレーヤ、TV、ラジオ)、ポータブルまたはハンドヘルドコンピュータ(例えば、タブレット、ネットブック、ラップトップ)、デスクトップコンピュータ、一体型デスクトップ、周辺デバイス、頭部搭載型デバイス(例えば、統合ディスプレイを含み得る)、もしくはこれらのタイプのデバイスのうちの2つ以上のものの組み合わせを含む、例示的システムアーキテクチャ400の包含に適合可能な任意の他のシステムまたはデバイス内で具現化されてもよい。上記の実施例は、無線ネットワークを介して通信する2つ以上のコンピュータ等の2つ以上の物理的に別個のデバイスにおいて具現化されてもよい。上記の実施例は、データを、頭部搭載型ディスプレイに、および/またはそれから通信する、ベルトパック等の2つ以上の物理的に異なるデバイスにおいて具現化されてもよい。図4は、概して、1つ以上のコンピュータ可読媒体401と、処理システム404と、I/Oサブシステム406と、高周波(RF)回路408と、オーディオ回路410と、センサ回路411とを含む、システム400の一実施例のブロック図である。これらのコンポーネントは、1つ以上の通信バスまたは信号ライン403によって結合されてもよい。
【0043】
図4に示されるアーキテクチャは、システム400の一例示的アーキテクチャにすぎず、システム400は、示されるものよりも多いもしくは少ないコンポーネント、またはコンポーネントの異なる構成を有し得ることが明白となるはずである。図4に示される種々のコンポーネントは、1つ以上の信号処理および/または特定用途向け集積回路を含む、ハードウェア、ソフトウェア、ファームウェア、もしくはそれらの任意の組み合わせにおいて実装されることができる。
【0044】
図4の例示的システムアーキテクチャ400を参照すると、RF回路408は、1つ以上の他のデバイスへの無線リンクまたはネットワークを経由して情報を送信および受信するために使用されることができ、本機能を実施するための周知の回路を含む。RF回路408およびオーディオ回路410は、周辺機器インターフェース416を介して処理システム404に結合されることができる。インターフェース416は、周辺機器と処理システム404との間の通信を確立および維持するための種々の公知のコンポーネントを含むことができる。オーディオ回路410は、オーディオスピーカ450およびマイクロホン452に結合されることができ、インターフェース416から受信される音声信号を処理し、ユーザが他のユーザとリアルタイムで通信することを可能にするための公知の回路を含むことができる。いくつかの実施例では、オーディオ回路410は、ヘッドホンジャック(図示せず)を含むことができる。
【0045】
センサ回路411は、限定ではないが、1つ以上の発光ダイオード(LED)または他の光エミッタ、1つ以上のフォトダイオードまたは他の光センサ、1つ以上の光熱センサ、磁力計、加速度計、ジャイロスコープ、気圧計、コンパス、近接性センサ、カメラ、周囲光センサ、温度計、GPSセンサ、電気眼球図記録(EOG)センサ、および残存バッテリ寿命、電力消費量、プロセッサ速度、CPU負荷、ならびに同等物を感知し得る種々のシステムセンサを含む、種々のセンサに結合されることができる。頭部搭載型デバイスを伴うような実施例では、1つ以上のセンサは、ユーザの眼移動を追跡すること、またはその眼の画像に基づいてユーザを識別すること等のユーザの眼に関連する機能性と関連して採用されてもよい。
【0046】
周辺機器インターフェース416は、本システムの入力および出力周辺機器を、プロセッサ418およびコンピュータ可読媒体401に結合することができる。1つ以上のプロセッサ418は、コントローラ44を介して1つ以上のコンピュータ可読媒体401と通信してもよい。コンピュータ可読媒体401は、1つ以上のプロセッサ418によって使用するためのコードおよび/またはデータを記憶し得る、任意のデバイスまたは媒体(信号を除外する)であり得る。いくつかの実施例では、媒体401は、非一過性コンピュータ可読記憶媒体であり得る。媒体401は、限定ではないが、キャッシュ、主要メモリ、および二次メモリを含む、メモリ階層を含むことができる。メモリ階層は、RAM(例えば、SRAM、DRAM、DDRAM)、ROM、FLASH(登録商標)、ディスクドライブ、磁気テープ、CD(コンパクトディスク)、ならびにDVD(デジタルビデオディスク)等の磁気および/または光学記憶デバイスの任意の組み合わせを使用して実装されることができる。媒体401はまた、(信号を除外し、信号が変調される搬送波を除外するが)コンピュータ命令またはデータを示す情報伝達信号を搬送するための伝送媒体を含んでもよい。例えば、伝送媒体は、限定ではないが、インターネット(ワールドワイドウェブとも称される)、イントラネット、ローカエルエリアネットワーク(LAN)、ワイドローカルエリアネットワーク(WLAN)、ストレージエリアネットワーク(SAN)、メトロポリタンエリアネットワーク(MAN)、および同等物を含む、通信ネットワークを含んでもよい。
【0047】
1つ以上のプロセッサ418は、媒体401内に記憶された種々のソフトウェアコンポーネントを起動し、システム400のための種々の機能を実施することができる。いくつかの実施例では、ソフトウェアコンポーネントは、オペレーティングシステム422と、通信モジュール(または命令のセット)424と、I/O処理モジュール(または命令のセット)426と、グラフィックスモジュール(または命令のセット)428と、1つ以上のアプリケーション(または命令のセット)430とを含むことができる。これらのモジュールおよび上記のアプリケーションはそれぞれ、上記に説明される1つ以上の機能および本願に説明される方法(例えば、コンピュータ実装方法および本明細書に説明される他の情報処理方法)を実施するための命令のセットに対応することができる。これらのモジュール(すなわち、命令のセット)は、別個のソフトウェアプログラム、プロシージャ、またはモジュールとして実装される必要はなく、したがって、これらのモジュールの種々のサブセットは、種々の実施例において、組み合わせられる、または別様に再配列されてもよい。いくつかの実施例では、媒体401は、上記に識別されるモジュールおよびデータ構造のサブセットを記憶してもよい。さらに、媒体401は、上記に説明されていない付加的モジュールおよびデータ構造を記憶してもよい。
【0048】
オペレーティングシステム422は、一般的システムタスク(例えば、メモリ管理、記憶デバイス制御、電力管理等)を制御および管理するための種々のプロシージャ、命令のセット、ソフトウェアコンポーネント、ならびに/もしくはドライバを含むことができ、種々のハードウェアとソフトウェアコンポーネントとの間の通信を促進する。
【0049】
通信モジュール424は、1つ以上の外部ポート436を経由して、またはRF回路408を介して、他のデバイスとの通信を促進することができ、RF回路408および/または外部ポート436から受信されるデータを取り扱うための種々のソフトウェアコンポーネントを含むことができる。
【0050】
グラフィックスモジュール428は、1つ以上のディスプレイ表面上でグラフィカルオブジェクトをレンダリング、動画化、および表示するための種々の公知のソフトウェアコンポーネントを含むことができる。ディスプレイ表面は、2Dまたは3Dディスプレイを含んでもよい。ディスプレイ表面は、例示的システム400の1つ以上のコンポーネントに直接または間接的に結合されてもよい。タッチ感知ディスプレイ(例えば、タッチスクリーン)を伴う実施例では、グラフィックスモジュール428は、タッチ感知ディスプレイ上でオブジェクトをレンダリング、表示、および動画化するためのコンポーネントを含むことができる。いくつかの実施例では、グラフィックスモジュール428は、遠隔ディスプレイにレンダリングするためのコンポーネントを含むことができる。カメラを組み込むもの等のいくつかの実施例では、グラフィックスモジュール428は、レンダリングされたグラフィカルオブジェクトとカメラデータ(頭部搭載型カメラから捕捉されるもの等)または写真データ(衛星によって捕捉された画像等)を合成することによって形成される画像を作成および/または表示するためのコンポーネントを含むことができる。いくつかの実施例では、グラフィックスモジュールは、画像を頭部搭載型ディスプレイデバイスにレンダリングするためのコンポーネントを含むことができる。いくつかの実施例では、画像は、仮想コンテンツの要素のビュー(例えば、3次元仮想環境内のオブジェクト)および/または物理的世界のビュー(例えば、ユーザの物理的周辺を示すカメラ入力)を含んでもよい。いくつかの実施例では、ディスプレイは、仮想コンテンツおよび物理的世界のビューの合成画像を提示してもよい。いくつかの実施例では、物理的世界のビューは、レンダリングされた画像であってもよく、いくつかの実施例では、物理的世界のビューは、カメラからの画像であってもよい。
【0051】
1つ以上のアプリケーション430は、限定ではないが、ブラウザ、アドレス帳、連絡先リスト、電子メール、インスタントメッセージ、文書処理、キーボードエミュレーション、ウィジェット、JAVA(登録商標)対応アプリケーション、暗号化、デジタル著作権管理、音声認識、音声複製、場所決定能力(全地球測位システム(GPS)によって提供されるもの等)、音楽プレーヤ等を含む、システム400上にインストールされた任意のアプリケーションを含むことができる。
【0052】
I/Oサブシステム406は、眼I/Oデバイス412および種々の機能を制御または実施するための1つ以上の他のI/Oデバイス414に結合されることができる。例えば、眼I/Oデバイス412は、眼入力(例えば、眼追跡のためのセンサ)またはユーザジェスチャ入力(例えば、光学センサ)を処理するための種々のコンポーネントを含み得る、眼I/Oデバイスコントローラ432を介して、処理システム404と通信することができる。1つ以上の他の入力コントローラ434は、電気信号を他のI/Oデバイス414に送信し、それから受信することができる。他のI/Oデバイス414は、物理的ボタン、ダイヤル、スライダスイッチ、スティック、キーボード、タッチパッド、付加的ディスプレイ画面、またはそれらの任意の組み合わせを含んでもよい。
【0053】
I/O処理モジュール426は、限定ではないが、眼I/Oデバイスコントローラ432を介して眼I/Oデバイス412から、またはI/Oコントローラ434を介して他のI/Oデバイス414から受信される、入力を受信および処理することを含む、眼I/Oデバイス412および/または他のI/Oデバイス414と関連付けられる種々のタスクを実施するための種々のソフトウェアコンポーネントを含むことができる。いくつかの実施例では、I/Oデバイス414および/またはI/O処理モジュール426は、触知または非触知手段によって提供され得る、ジェスチャ入力と関連付けられる種々のタスクを実施してもよい。いくつかの実施例では、ジェスチャ入力は、例えば、ユーザの眼、腕、手、および/または指の移動を検出するためのカメラもしくは別のセンサによって提供されてもよい。いくつかの実施例では、I/Oデバイス414および/またはI/O処理モジュール426は、ユーザが相互作用することを所望するディスプレイ上のオブジェクト、例えば、ユーザが指し示しているGUI要素を識別するように構成されてもよい。いくつかの実施例では、眼I/Oデバイス412および/またはI/O処理モジュール426は、ユーザが見ているオブジェクトまたはディスプレイ上の領域を識別すること等の眼追跡タスクを実施するように(光学またはEOGセンサの補助によって等)構成されてもよい。いくつかの実施例では、デバイス(ハードウェア「ビーコン」等)が、2Dまたは3D環境に対するユーザの手の場所を識別すること等のタッチI/Oデバイス412および/またはI/O処理モジュール426のジェスチャ関連タスクを補助するように、ユーザによって装着または保持されてもよい。いくつかの実施例では、眼I/Oデバイス412および/またはI/O処理モジュール426は、ユーザの眼に関連するカメラセンサからのデータ等のセンサ入力に基づいて、ユーザを識別するように構成されてもよい。
【0054】
いくつかの実施例では、グラフィックスモジュール428は、GUI内で視覚出力をユーザに表示することができる。視覚出力は、テキスト、グラフィック、ビデオ、およびそれらの任意の組み合わせを含んでもよい。視覚出力の一部または全ては、ユーザインターフェースオブジェクトに対応してもよい。いくつかの実施例では、I/Oデバイス412および/または414ならびに/もしくはコントローラ432および/または434は(媒体401内の任意の関連付けられるモジュールおよび/または命令のセットとともに)、ジェスチャおよび/または眼移動を検出ならびに追跡することができ、検出されたジェスチャおよび/または眼移動を、1つ以上のユーザインターフェースオブジェクト等のグラフィカルオブジェクトとの相互作用に変換することができる。眼I/Oデバイス412および/または眼I/Oデバイスコントローラ432が、ユーザの眼移動を追跡するように構成される実施例では、ユーザは、グラフィカルオブジェクトを見ることによって、それらと直接相互作用することができる。
【0055】
フィードバックが、表示されている内容および/またはコンピューティングシステムの状態もしくは複数の状態に基づいて、眼I/Oデバイス412または別のI/Oデバイス414によって等、提供されてもよい。フィードバックは、光学的に(例えば、光信号または表示された画像)、機械的に(例えば、触覚フィードバック、タッチフィードバック、力フィードバック、または同等物)、電気的に(例えば、電気刺激)、嗅覚、音響的に(例えば、ビープ音または同等物)、または同等物、もしくはそれらの任意の組み合わせで、かつ可変または非可変様式で、伝送されてもよい。
【0056】
システム400はまた、種々のハードウェアコンポーネントに給電するための電力システム444を含むことができ、電力管理システム、1つ以上の電源、再充電システム、停電検出回路、電力コンバータまたはインバータ、電力ステータスインジケータ、および典型的には、ポータブルデバイスにおける電力の発生、管理、ならびに分配と関連付けられる任意の他のコンポーネントを含んでもよい。
【0057】
いくつかの実施例では、周辺機器インターフェース416、1つ以上のプロセッサ418、およびメモリコントローラ420は、処理システム404等の単一のチップ上に実装されてもよい。いくつかの他の実施例では、それらは、別個のチップ上に実装されてもよい。
【0058】
いくつかの実施例では、方法が、開示される。本方法は、コンピュータシステムの第1のクライアントアプリケーションから、複数の第1のノードを備える、第1のグラフィカルデータを受信することと、コンピュータシステムの第2のクライアントアプリケーションから、複数の第2のノードを備える、第2のグラフィカルデータを受信することと、シーングラフを発生させることとを含んでもよく、シーングラフは、第1のノードと第2のノードとの間のオクルージョン関係等の関係を記述し、シーングラフは、コンピュータシステムのプロセッサによってトラバースされると、ノードを備える場面をレンダリングするように構成される。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、コンピュータシステムのプロセッサによって、シーングラフをトラバースすることを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、コンピュータシステムは、ディスプレイと通信するように構成されてもよく、本方法はさらに、ディスプレイ上でレンダリングされる場面における別のノードによってオクルードされない少なくとも1つのノードを備える出力を提示することを含んでもよい。いくつかの実施形態では、オクルージョンは、所与の視点からオブジェクトのレンダリングされる場面を視認するときの別のものによる1つのノードの視覚的遮断である。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、コンピュータシステムは、ディスプレイと通信するように構成されてもよく、本方法はさらに、シーングラフ上に存在するようにレンダリングされる場面を表示する、またはオクルードされない第1もしくは第2の複数のノードのそれらのノードのみを表示する一方、他のノードを表示しないことによって等、ディスプレイ上で出力を表示することを含んでもよい。例えば、第2の複数のノードが、第1の複数のノードの一部をオクルードする場合、表示される出力は、第2の複数のノードのうちのいずれも表示しない、第1の複数のオクルードされないノードのみであり得る。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、コンピュータシステムにおいて、最適化を出力に適用することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、最適化を適用することは、表面をカリングすることを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、コンピュータシステムにおいて、視覚効果を出力に適用することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、視覚効果を適用することは、光量値を計算することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、視覚効果を適用することは、シェーダを実行することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、コンピュータシステムにおいて、物理的効果を出力に適用することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、物理的効果を適用することは、衝突を検出することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1のクライアントアプリケーションは、コンピュータシステム上で実行される第1のアプリケーションであってもよく、第2のクライアントアプリケーションは、コンピュータシステム上で実行される第2のアプリケーションであってもよく、第1のクライアントアプリケーションは、第2のクライアントアプリケーションに対してコンピュータシステム上でサンドボックス化されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1のグラフィカルデータは、第1のクライアントアプリケーションと関連付けられる第1のクライアントシーングラフに対応してもよく、第2のグラフィカルデータは、第2のクライアントアプリケーションと関連付けられる第2のクライアントシーングラフに対応してもよく、第1のクライアントシーングラフは、第2のクライアントシーングラフに対してコンピュータシステム上でサンドボックス化されてもよく、第1のクライアントシーングラフは、シーングラフに対してコンピュータシステム上でサンドボックス化されてもよく、第2のクライアントシーングラフは、シーングラフに対してコンピュータシステム上でサンドボックス化されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、シーングラフは、バージョン付きシーングラフのバージョンに対応してもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1のグラフィカルデータは、コンピュータシステムの第1の処理スレッドを使用して、シーングラフに通信されてもよく、第2のグラフィカルデータは、第1の処理スレッドから独立するコンピュータシステムの第2の処理スレッドを使用して、シーングラフに通信されてもよい。
【0059】
いくつかの実施例では、方法が、開示される。本方法は、ディスプレイを伴うコンピュータシステムのシーングラフをトラバースすることであって、シーングラフは、第1のアプリケーションと関連付けられる第1の3Dデータを備え、第1の3Dデータは、1つ以上のノードを備え、シーングラフは、第2のアプリケーションと関連付けられる第2の3Dデータを備え、第2の3Dデータは、1つ以上のノードを備え、第1のアプリケーションは、第2のアプリケーションに対してコンピュータシステム上でサンドボックス化され、シーングラフは、第1の3Dデータのノードと第2の3Dデータのノードとの間の関係を備える、ことと、ディスプレイ上でシーングラフに対応する画像を表示することであって、画像は、シーングラフをトラバースすることの出力に対応し、画像は、そのデータの部分的表示または完全表示のいずれかの関係を反映する、こととを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、関係は、空間関係であってもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、コンピュータシステムにおいて、最適化を、シーングラフをトラバースすることの出力に適用することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、最適化を適用することは、表面をカリングすることを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、コンピュータシステムにおいて、視覚効果を、シーングラフをトラバースすることの出力に適用することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、視覚効果を適用することは、光量値を計算することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、視覚効果を適用することは、シェーダを実行することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、コンピュータシステムにおいて、物理的効果を、シーングラフをトラバースすることの出力に適用することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、物理的効果を適用することは、衝突を検出することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、シーングラフは、バージョン付きシーングラフのバージョンに対応してもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1の3Dデータに対応するグラフィカルデータは、コンピュータシステム上で実行されるホストアプリケーションによってシーングラフに通信されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1の3Dデータに対応するグラフィカルデータは、ホストアプリケーションのクライアントによってホストアプリケーションに通信されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1の3Dデータに対応する第1のグラフィカルデータは、第1の処理スレッドを使用するホストアプリケーションによって、シーングラフに通信されてもよく、第2の3Dデータに対応する第2のグラフィカルデータは、第1の処理スレッドから独立する第2の処理スレッドを使用するホストアプリケーションによって、シーングラフに通信されてもよい。
【0060】
いくつかの実施例では、コンピュータシステムが、開示される。本システムは、1つ以上のプロセッサと、1つ以上のプロセッサによって実行されると、1つ以上のプロセッサに、上記に説明される方法のうちの1つ以上のものを実施させる、命令を記憶する、メモリとを備えてもよい。
【0061】
いくつかの実施例では、非一過性コンピュータ可読記憶媒体が、開示される。非一過性コンピュータ可読記憶媒体は、1つ以上のプロセッサによって実行されると、1つ以上のプロセッサに、コンピュータシステムの第1のクライアントアプリケーションから、複数の第1のノードを備える、第1のグラフィカルデータを受信することと、コンピュータシステムの第2のクライアントアプリケーションから、複数の第2のノードを備える、第2のグラフィカルデータを受信することと、シーングラフを発生させることとを含み、シーングラフは、第1のノードと第2のノードとの間の関係を記述し、シーングラフは、コンピュータシステムのプロセッサによってトラバースされるとき、オクルージョン関係に基づいて、場面をレンダリングするように構成され、第1または第2の複数のノード内の第1または第2のノードのうちの1つ以上のものは、その他をオクルードする、方法を実施させる、命令を記憶してもよい。いくつかの実施形態では、オクルージョンは、所与の視点からオブジェクトのレンダリングされる場面を視認するときの別のものによる1つのノードの視覚的遮断である。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、コンピュータシステムのプロセッサによって、シーングラフをトラバースすることを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、コンピュータシステムは、ディスプレイと通信するように構成されてもよく、本方法はさらに、これがシーングラフ上に存在するようにレンダリングされる場面を表示する、またはオクルードされない第1もしくは第2の複数のノードのそれらのノードのみを表示する一方、他のノードを表示しないことによって等、ディスプレイ上で出力を表示することを含んでもよい。例えば、第2の複数のノードが、第1の複数のノードの一部をオクルードする場合、表示される出力は、第2の複数のノードのうちのいずれも表示しない、第1の複数のオクルードされないノードのみであり得る。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、コンピュータシステムにおいて、最適化を出力に適用することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、最適化を適用することは、表面をカリングすることを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、コンピュータシステムにおいて、視覚効果を出力に適用することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、視覚効果を適用することは、光量値を計算することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、視覚効果を適用することは、シェーダを実行することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、コンピュータシステムにおいて、物理的効果を出力に適用することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、物理的効果を適用することは、衝突を検出することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1のクライアントアプリケーションは、コンピュータシステム上で実行される第1のアプリケーションであってもよく、第2のクライアントアプリケーションは、コンピュータシステム上で実行される第2のアプリケーションであってもよく、第1のクライアントアプリケーションは、第2のクライアントアプリケーションに対してコンピュータシステム上でサンドボックス化されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1のグラフィカルデータは、第1のクライアントアプリケーションと関連付けられる第1のクライアントシーングラフに対応してもよく、第2のグラフィカルデータは、第2のクライアントアプリケーションと関連付けられる第2のクライアントシーングラフに対応してもよく、第1のクライアントシーングラフは、第2のクライアントシーングラフに対してコンピュータシステム上でサンドボックス化されてもよく、第1のクライアントシーングラフは、シーングラフに対してコンピュータシステム上でサンドボックス化されてもよく、第2のクライアントシーングラフは、シーングラフに対してコンピュータシステム上でサンドボックス化されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、シーングラフは、バージョン付きシーングラフのバージョンに対応してもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1のグラフィカルデータは、コンピュータシステムの第1の処理スレッドを使用して、シーングラフに通信されてもよく、第2のグラフィカルデータは、第1の処理スレッドから独立するコンピュータシステムの第2の処理スレッドを使用して、シーングラフに通信されてもよい。
【0062】
いくつかの実施例では、非一過性コンピュータ可読記憶媒体が、開示される。非一過性コンピュータ可読記憶媒体は、1つ以上のプロセッサによって実行されると、1つ以上のプロセッサに、ディスプレイを伴うコンピュータシステムのシーングラフをトラバースすることであって、シーングラフは、第1のアプリケーションと関連付けられる第1の3Dデータを備え、第1の3Dデータは、1つ以上のノードを備え、シーングラフは、第2のアプリケーションと関連付けられる第2の3Dデータを備え、第2の3Dデータは、1つ以上のノードを備え、第1のアプリケーションは、第2のアプリケーションに対してコンピュータシステム上でサンドボックス化され、シーングラフは、第1の3Dデータのノードと第2の3Dデータのノードとの間の関係を備える、ことと、ディスプレイ上でシーングラフに対応する画像を表示することであって、画像は、シーングラフをトラバースすることの出力に対応し、画像は、関係を反映する、こととを含む、方法を実施させる、命令を記憶してもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、関係は、空間関係であってもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、コンピュータシステムにおいて、最適化を、シーングラフをトラバースすることの出力に適用することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、最適化を適用することは、表面をカリングすることを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、コンピュータシステムにおいて、視覚効果を、シーングラフをトラバースすることの出力に適用することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、視覚効果を適用することは、光量値を計算することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、視覚効果を適用することは、シェーダを実行することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、コンピュータシステムにおいて、物理的効果を、シーングラフをトラバースすることの出力に適用することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、物理的効果を適用することは、衝突を検出することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、シーングラフは、バージョン付きシーングラフのバージョンに対応してもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1の3Dデータに対応するグラフィカルデータは、コンピュータシステム上で実行されるホストアプリケーションによってシーングラフに通信されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1の3Dデータに対応するグラフィカルデータは、ホストアプリケーションのクライアントによってホストアプリケーションに通信されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1の3Dデータに対応する第1のグラフィカルデータは、第1の処理スレッドを使用するホストアプリケーションによって、シーングラフに通信されてもよく、第2の3Dデータに対応する第2のグラフィカルデータは、第1の処理スレッドから独立する第2の処理スレッドを使用するホストアプリケーションによって、シーングラフに通信されてもよい。
【0063】
いくつかの実施例では、コンピュータシステムが、開示される。本システムは、1つ以上のプロセッサと、コンピュータシステムにおいて、第1のクライアントアプリケーションから第1の場面データを受信し、コンピュータシステムにおいて、第2のクライアントアプリケーションから第2の場面データを受信するように構成される、記憶装置と、1つ以上のプロセッサによって実行されると、1つ以上のプロセッサに、第1の場面データおよび第2の場面データに基づいて、グラフィカルデータ構造を発生させることであって、グラフィカルデータ構造は、1つ以上のプロセッサによって実行されるレンダリング動作への入力として提供されるときに、ディスプレイ上の画像に対応する出力をもたらすように構成される、ことを含む、方法を実施させる、命令を記憶する、メモリとを備えてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、グラフィカルデータ構造は、表示リストおよび表示ツリーのうちの少なくとも1つであってもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、入力としてグラフィカルデータ構造を使用して、レンダリング動作を実行することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、コンピュータシステムはさらに、ディスプレイを備えてもよく、本方法はさらに、ディスプレイ上に画像を表示することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1のクライアントアプリケーションは、第1のデバイスの1つ以上のプロセッサによって実行される第1のアプリケーションであってもよく、第2のクライアントアプリケーションは、第1のデバイスの1つ以上のプロセッサによって実行される第2のアプリケーションであってもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1のクライアントアプリケーションは、第1のデバイスの1つ以上のプロセッサによって実行される第1のアプリケーションであってもよく、第2のクライアントアプリケーションは、第2のデバイスの1つ以上のプロセッサによって実行される第2のアプリケーションであってもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、記憶装置はさらに、第3のクライアントアプリケーションから第3の場面データを受信するように構成されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、記憶装置から第1の場面データを削除することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、グラフィカルデータ構造は、第1のデータと、第2のデータとを備えてもよく、本方法はさらに、第1のデータが、オクルードされたビューまたはオクルードされないビューに対応するかどうかを決定することと、第1のデータが、オクルードされないビューに対応するという決定に応答して、第1のデータに基づいて、オクルードされないビューを備える画像をレンダリングすることと、第1のデータがオクルードされたビューに対応するという決定に応答して、オクルードされたビューを備えない画像をレンダリングすることとを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、記憶装置はさらに、第1の場面データを受信することに応答して、第1の場面データを第1のバージョンとしてバージョン制御システム内に記憶するように構成されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、記憶装置はさらに、第1のクライアントアプリケーションから第3の場面データを受信し、第3の場面データを第2のバージョンとしてバージョン制御システム内に記憶するように構成されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法はさらに、グラフィカルデータ構造を発生させることに応答して、記憶装置から第1のバージョンを削除することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、本方法は、記憶装置が第3の場面データを受信することと並行して実施されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、記憶装置は、第2の場面データを受信することと並行して第1の場面データを受信するように構成されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、記憶装置は、第1のデータレートに対応する第1の間隔で第3の場面データを受信するように構成されてもよく、本方法はさらに、第2のデータレートに対応するように第1の間隔の長さを調節することを含んでもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1の場面データは、新しいデータ、削除されたデータ、およびデータの間の関係の変化のうちの少なくとも1つを備えてもよい。
【0064】
いくつかの実施例では、コンピュータシステムが、開示される。コンピュータシステムは、サーバと、サーバデータと、第1のクライアントアプリケーションと、第2のクライアントアプリケーションとを備えてもよく、サーバにおいて、第1のクライアントアプリケーションから第1の未処理場面データを受信し、サーバにおいて、第2のクライアントアプリケーションから第2の未処理場面データを受信し、サーバにおいて、第1のクライアントアプリケーションからの第1の未処理場面データ、第2のクライアントアプリケーションからの第2の未処理場面データ、およびサーバデータを、一元化場面データ構造に組み込み、サーバにおいて、一元化場面データ構造内に含有されるデータの少なくとも一部を実行し、一元化場面データ構造内で実行されたデータに基づいて、グラフィカルデータ構造を作成するように構成されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、グラフィカルデータ構造は、表示リストまたは表示ツリーであってもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、コンピュータシステムはさらに、グラフィカルデータ構造を処理画像にレンダリングするように構成される、レンダリングエンジンを備えてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、コンピュータシステムはさらに、処理画像を表示するように構成されるディスプレイを備えてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、ディスプレイは、物理的世界の少なくとも部分的ビューを維持しながら、仮想コンテンツを表示することが可能であり得る。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1のクライアントアプリケーションおよび第2のクライアントアプリケーションは、単一の物理的デバイス上で起動する、2つの異なるアプリケーションであってもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1のクライアントアプリケーションおよび第2のクライアントアプリケーションは、別個の物理的デバイス上でそれぞれ起動する、2つの異なるアプリケーションであってもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、サーバは、第3のクライアントアプリケーションから第3の未処理場面データを受信するように構成されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、サーバは、第1のクライアントアプリケーションからの未処理場面データの実行後に、第1のクライアントアプリケーションから未処理場面データを削除するように構成されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、レンダリングエンジンはさらに、オクルージョンモジュールであって、グラフィカルデータ構造内のデータを第1のオクルードされたカテゴリおよび第2のオクルードされないカテゴリに分離し、第2のオクルードされないカテゴリを表示するように構成される、オクルージョンモジュールを備えてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、サーバは、第1のクライアントアプリケーションからの第1の未処理場面データを第1のバージョンとして記憶するように構成されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、サーバは、第1のクライアントアプリケーションからの第3の未処理場面データを第2のバージョンとして記憶するように構成されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、コンピュータシステムは、第1のクライアントアプリケーションからの第1の未処理場面データの第1のバージョンがサーバによって受信される時間から、第1のクライアントアプリケーションからの第1の未処理場面データが読み取られ、実行されるまで、第1のクライアントアプリケーションからの第1の未処理場面データの第1のバージョンを記憶するように構成されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、サーバは、サーバが第2のクライアントから第2の未処理場面データを受信するのと同時に、第1のクライアントから第1の未処理場面データを受信するように構成されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、サーバは、第1のクライアントアプリケーションが未処理場面データをサーバに送信するレートを減速するように構成されてもよい。上記の実施例のうちの1つ以上のものに加えて、またはその代替として、第1および第2のクライアントアプリケーションから受信されるデータは、新しいデータ、削除されたデータ、以前に転送されたデータの間の関係の変化、および修正されたデータから成る群から選択される少なくとも1つであってもよい。
【0065】
開示される実施例は、付随の図面を参照して完全に説明されたが、種々の変更および修正が、当業者に明白となるであろうことに留意されたい。例えば、1つ以上の実装の要素は、組み合わせられ、削除され、修正され、または補完され、さらなる実装を形成してもよい。そのような変更および修正は、添付される請求項によって定義されるような開示される実施例の範囲内に含まれるものとして理解されるものである。
図1
図2A
図2B
図2C
図2D
図3A
図3B
図3C
図3D
図3E
図4