(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-03-27
(54)【発明の名称】5GのAR/MR認知体験を5Gデバイスに配信するための方法、装置、およびコンピュータプログラム
(51)【国際特許分類】
H04L 67/131 20220101AFI20240319BHJP
H04N 21/258 20110101ALI20240319BHJP
H04L 67/141 20220101ALI20240319BHJP
H04L 67/306 20220101ALI20240319BHJP
G06T 19/00 20110101ALI20240319BHJP
【FI】
H04L67/131
H04N21/258
H04L67/141
H04L67/306
G06T19/00 600
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2023553721
(86)(22)【出願日】2022-11-02
(85)【翻訳文提出日】2023-09-04
(86)【国際出願番号】 US2022048653
(87)【国際公開番号】W WO2023081178
(87)【国際公開日】2023-05-11
(32)【優先日】2021-11-03
(33)【優先権主張国・地域又は機関】US
(32)【優先日】2022-10-31
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】520353802
【氏名又は名称】テンセント・アメリカ・エルエルシー
(74)【代理人】
【識別番号】100110364
【氏名又は名称】実広 信哉
(74)【代理人】
【識別番号】100150197
【氏名又は名称】松尾 直樹
(72)【発明者】
【氏名】イーラジ・ソダガー
【テーマコード(参考)】
5B050
5C164
【Fターム(参考)】
5B050CA08
5B050DA04
5B050FA05
5B050FA10
5C164SC11P
5C164TA06S
5C164UA04S
5C164YA12
(57)【要約】
第5世代(5G)拡張現実(AR)/複合現実(MR)体験を配信するための方法は、5Gメディアストリーミング(5GMS)ネットワークを介する送信用のAR/MRメディアコンテンツをストリーミングするためのAR/MRセッションを確立するステップと、複数のAR/MRシーンに関連付けられたAR/MRメディアコンテンツ更新を受信するステップと、複数のAR/MRシーンに含まれるそれぞれのAR/MRシーンを反復的に受信するステップと、それぞれのAR/MRシーンをレンダリングするステップと、それぞれのAR/MRシーンに対応する認知情報および姿勢情報を取得するステップと、AR/MRメディアコンテンツがストリーミングされている間に、認知情報および姿勢情報を認知没入型サーバに送信するステップとを含む。
【特許請求の範囲】
【請求項1】
第5世代(5G)の拡張現実(AR)/複合現実(MR)体験を配信するための方法であって、前記方法は、
5Gメディアストリーミング(5GMS)ネットワークを介する送信用のAR/MRメディアコンテンツをストリーミングするためのAR/MRセッションを確立するステップと、
複数のAR/MRシーンに関連付けられたAR/MRメディアコンテンツ更新を受信するステップと、
前記複数のAR/MRシーンに含まれるそれぞれのAR/MRシーンを反復的に受信するステップと、
前記それぞれのAR/MRシーンをレンダリングするステップと、
前記それぞれのAR/MRシーンに対応する認知情報および姿勢情報を取得するステップと、
前記AR/MRメディアコンテンツがストリーミングされている間に、前記認知情報および前記姿勢情報を認知没入型サーバに送信するステップと
を含む、方法。
【請求項2】
前記認知メディアデータは、前記認知情報および前記姿勢情報に基づいて、意味的知覚、空間的位置特定、およびマッピングのうちの少なくとも1つを実行することによって生成される、請求項1に記載の方法。
【請求項3】
前記AR/MRメディアコンテンツは、スタンドアロン拡張現実(STAR)メディアコンテンツを含む、請求項1に記載の方法。
【請求項4】
前記AR/MRセッションは、外部セッションループで作成され、
前記認知情報および前記姿勢情報は、前記外部セッションループで前記認知没入型サーバに送信される、請求項3に記載の方法。
【請求項5】
前記方法は、
前記認知情報および前記姿勢情報に基づく認知メディアデータを含む新しいAR/MRシーンを受信するステップと、
前記新しいAR/MRシーンをレンダリングするステップと
をさらに含み、
前記それぞれのAR/MRシーンは、前記外部セッションループ内の内部セッションループでレンダリングされ、
前記それぞれのAR/MRシーンは、前記内部セッションループが前記AR/MRメディアコンテンツをレンダリングしている間に、前記内部セッションループに前記新しいAR/MRシーンを提供することによって前記新しいAR/MRシーンで更新される、
請求項4に記載の方法。
【請求項6】
前記AR/MRメディアコンテンツは、エッジ依存AR(EDGAR)メディアコンテンツを含む、請求項1に記載の方法。
【請求項7】
前記方法は、
前記認知情報および前記姿勢情報に基づく認知メディアデータを含む新しいAR/MRシーンを受信するステップと、
前記新しいAR/MRシーンをレンダリングするステップと
をさらに含み、
前記AR/MRセッションは、前記それぞれのAR/MRシーンが受信され、前記認知情報および前記姿勢情報が送信され、かつ、前記新しいAR/MRシーンが受信される、単一ループを含む、
請求項6に記載の方法。
【請求項8】
第5世代(5G)の拡張現実(AR)/複合現実(MR)体験を配信するためのデバイスであって、前記デバイスは、
プログラムコードを記憶するように構成された少なくとも1つのメモリと、
前記プログラムコードを読み取り、前記プログラムコードによる命令通りに動作するように構成された少なくとも1つのプロセッサであって、前記プログラムコードは、
前記少なくとも1つのプロセッサに、5Gメディアストリーミング(5GMS)ネットワークを介する送信用のAR/MRメディアコンテンツをストリーミングするためのAR/MRセッションを確立させるように構成された、確立コードと、
前記少なくとも1つのプロセッサに、複数のAR/MRシーンに関連付けられたAR/MRメディアコンテンツ更新を受信させるように構成された、第1の受信コードと、
前記少なくとも1つのプロセッサに、前記複数のAR/MRメディアシーンに含まれるそれぞれのAR/MRシーンを反復的に受信させるように構成された、第2の受信コードと、
前記少なくとも1つのプロセッサに、前記それぞれのAR/MRシーンをレンダリングさせるように構成された、第1のレンダリングコードと、
前記少なくとも1つのプロセッサに、前記AR/MRシーンに対応する認知情報および姿勢情報を取得させるように構成された、取得コードと、
前記少なくとも1つのプロセッサに、前記AR/MRメディアコンテンツがストリーミングされている間に、前記認知情報および前記姿勢情報を認知没入型サーバに送信させるように構成された、送信コードと
を含む、少なくとも1つのプロセッサと
を含む、デバイス。
【請求項9】
前記認知メディアデータは、前記認知情報および前記姿勢情報に基づいて、意味的知覚、空間的位置特定、およびマッピングのうちの少なくとも1つを実行することによって生成される、請求項8に記載のデバイス。
【請求項10】
前記AR/MRメディアコンテンツは、スタンドアロン拡張現実(STAR)メディアコンテンツを含む、請求項8に記載のデバイス。
【請求項11】
前記AR/MRセッションは外部セッションループで作成され、
前記認知情報および前記姿勢情報は、前記外部セッションループで前記認知没入型サーバに送信される、請求項10に記載のデバイス。
【請求項12】
前記プログラムコードは、
前記少なくとも1つのプロセッサに、前記認知情報および前記姿勢情報に基づく認知メディアデータを含む新しいAR/MRシーンを受信させるように構成された、第3の受信コードと、
前記少なくとも1つのプロセッサに、前記新しいAR/MRシーンをレンダリングさせるように構成された、第2のレンダリングコードと
をさらに含み、
前記それぞれのAR/MRシーンは、前記外部セッションループ内の内部セッションループでレンダリングされ、
前記それぞれのAR/MRシーンは、前記内部セッションループが前記AR/MRメディアコンテンツをレンダリングしている間に、前記内部セッションループに前記新しいAR/MRシーンを提供することによって前記新しいAR/MRシーンで更新される、
請求項11に記載のデバイス。
【請求項13】
前記AR/MRメディアコンテンツは、エッジ依存AR(EDGAR)メディアコンテンツを含む、請求項8に記載のデバイス。
【請求項14】
前記プログラムコードは、
前記少なくとも1つのプロセッサに、前記認知情報および前記姿勢情報に基づく認知メディアデータを含む新しいAR/MRシーンを受信させるように構成された、第3の受信コードと、
前記少なくとも1つのプロセッサに、前記新しいAR/MRシーンをレンダリングさせるように構成された、第2のレンダリングコードと
をさらに含み、
前記AR/MRセッションは、前記AR/MRシーンが受信され、前記認知情報および前記姿勢情報が送信され、かつ前記新しいAR/MRシーンが受信される、単一ループを含む、
請求項13に記載のデバイス。
【請求項15】
命令を記憶する非一時的コンピュータ可読媒体であって、前記命令は、第5世代(5G)拡張現実(AR)/複合現実(MR)体験を配信するためのデバイスの1つまたは複数のプロセッサによって実行されると、前記1つまたは複数のプロセッサに、
5Gメディアストリーミング(5GMS)ネットワークを介する送信用の前記AR/MRメディアコンテンツをストリーミングするためのAR/MRセッションを確立させ、
複数のAR/MRシーンに関連付けられたAR/MRメディアコンテンツ更新を受信することと、
前記複数のAR/MRシーンに含まれるそれぞれのAR/MRシーンを反復的に受信させ、
前記それぞれのAR/MRシーンをレンダリングさせ、
前記それぞれのAR/MRシーンに対応する認知情報および姿勢情報を取得させ、かつ、
前記AR/MRメディアコンテンツがストリーミングされている間に、前記認知情報および前記姿勢情報を認知没入型サーバに送信させる、
1つまたは複数の命令を含む、非一時的コンピュータ可読媒体。
【請求項16】
前記認知メディアデータは、前記認知情報および前記姿勢情報に基づいて、意味的知覚、空間的位置特定、およびマッピングのうちの少なくとも1つを実行することによって生成される、請求項15に記載の非一時的コンピュータ可読媒体。
【請求項17】
前記AR/MRメディアコンテンツは、スタンドアロン拡張現実(STAR)メディアコンテンツを含む、請求項15に記載の非一時的コンピュータ可読媒体。
【請求項18】
前記1つまたは複数の命令は、前記1つまたは複数のプロセッサに、さらに、
前記認知情報および前記姿勢情報に基づく認知メディアデータを含む新しいAR/MRシーンを受信させ、
前記新しいAR/MRシーンをレンダリングさせ、
前記AR/MRセッションは、外部セッションループで作成され、
前記認知情報および前記姿勢情報は、前記外部セッションループで前記認知没入型サーバに送信され、
前記それぞれのAR/MRシーンは、前記外部セッションループ内の内部セッションループでレンダリングされ、
前記それぞれのAR/MRシーンは、前記内部セッションループが前記AR/MRメディアコンテンツをレンダリングしている間に、前記内部セッションループに前記新しいAR/MRシーンを提供することによって前記新しいAR/MRシーンで更新される、
請求項17に記載の非一時的コンピュータ可読媒体。
【請求項19】
前記AR/MRメディアコンテンツは、エッジ依存AR(EDGAR)メディアコンテンツを含む、請求項15に記載の非一時的コンピュータ可読媒体。
【請求項20】
前記方法は、
前記認知情報および前記姿勢情報に基づく認知メディアデータを含む新しいAR/MRシーンを受信するステップと、
前記新しいAR/MRシーンをレンダリングするステップと
を、さらに含み、
前記AR/MRセッションは、前記それぞれのAR/MRシーンが受信され、前記認知情報および前記姿勢情報が送信され、かつ、前記新しいAR/MRシーンが受信される、単一ループを含む、
請求項19に記載の非一時的コンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の相互参照
本出願は、米国特許商標庁に2021年11月3日に出願された米国仮出願第63/275,371号、および2022年10月31日に出願された米国特許商標庁の米国出願第17/977,560号の優先権を主張するものであり、これらの開示はその全体が参照により本明細書に組み込まれる。
【0002】
本開示は、一般に、第5世代(5G)拡張現実(AR、Augmented Reality)/複合現実(MR、Mixed Reality)に関し、詳細には、認知体験に関するAR/MRコンテンツを5Gデバイスに提供するための方法および装置に関する。
【背景技術】
【0003】
第3世代パートナーシッププロジェクト(3GPP(登録商標))TS26.501は、第5世代(5G)ネットワークのためのメディアストリーミングアーキテクチャを規定している。3GPP(登録商標)は、拡張現実(AR)/複合現実(MR)アプリケーションのサポートに関する技術報告を開始した。3GPP(登録商標) TR 26.998は、5GネットワークにおけるグラスタイプAR/MRデバイスのサポートを規定している。複雑なAR/MRコンテンツ(すなわち、スタンドアロンAR(STAR、Stand-Alone AR))を完全に復号および再生することができるデバイスと、より小さい計算リソースおよび/またはより小さい物理サイズ(すなわち、より小さいバッテリ)を有し、計算の大部分がデバイス(エッジ依存AR(EDGAR、Edge Dependent AR)ではなく5Gエッジサーバ、ネットワーク、またはクラウドで実行される場合にのみそのようなアプリケーションを実行することができるデバイスとの2つのデバイスクラスが考慮される。
【0004】
3GPP(登録商標) TR 26.998は、STARデバイスに関連付けられた認知アプリケーションのためのコールフローを定義する。しかしながら、コールフローは効率的ではない。さらに、EDGARデバイスのためのコールフローは提供されない。
【発明の概要】
【課題を解決するための手段】
【0005】
本開示の一態様によれば、第5世代(5G)拡張現実(AR)/複合現実(MR)体験を配信するための方法は、5Gメディアストリーミング(5GMS)ネットワークを介する送信用のAR/MRメディアコンテンツをストリーミングするためのAR/MRセッションを確立するステップと、複数のAR/MRシーンに関連付けられたAR/MRメディアコンテンツ更新を受信するステップと、複数のAR/MRシーンに含まれるそれぞれのAR/MRシーンを反復的に受信するステップと、それぞれのAR/MRシーンをレンダリングするステップと、それぞれのAR/MRシーンに対応する認知情報および姿勢情報を取得するステップと、AR/MRメディアコンテンツがストリーミングされている間に、認知情報および姿勢情報を認知没入型サーバに送信するステップとを含む。
【0006】
本開示の一態様によれば、第5世代(5G)拡張現実(AR)/複合現実(MR)体験を配信するためのデバイスは、プログラムコードを格納するように構成された少なくとも1つのメモリと、プログラムコードを読み取り、プログラムコードによる命令通りに動作するように構成された少なくとも1つのプロセッサとを含み、プログラムコードは、少なくとも1つのプロセッサに、5Gメディアストリーミング(5GMS)ネットワークを介する送信用のAR/MRメディアコンテンツをストリーミングするためのAR/MRセッションを確立させるように構成された、確立コードと、少なくとも1つのプロセッサに、複数のAR/MRシーンに関連付けられたAR/MRメディアコンテンツ更新を受信させるように構成された、第1の受信コードと、少なくとも1つのプロセッサに、複数のAR/MRメディアシーンに含まれるそれぞれのAR/MRシーンを反復的に受信させるように構成された、第2の受信コードと、少なくとも1つのプロセッサに、それぞれのAR/MRシーンをレンダリングさせるように構成された、第1のレンダリングコードと、少なくとも1つのプロセッサに、AR/MRシーンに対応する認知情報および姿勢情報を取得させるように構成された、取得コードと、少なくとも1つのプロセッサに、AR/MRメディアコンテンツがストリーミングされている間に、認知情報および姿勢情報を認知没入型サーバに送信させるように構成された、送信コードとを含む。
【0007】
本開示の一態様によれば、命令を記憶する非一時的コンピュータ可読媒体であって、命令は、第5世代(5G)拡張現実(AR)/複合現実(MR)体験を配信するためのデバイスの1つまたは複数のプロセッサによって実行された場合に、1つまたは複数のプロセッサに、5Gメディアストリーミング(5GMS)ネットワークを介する送信用のAR/MRメディアコンテンツをストリーミングするためのAR/MRセッションを確立させ、複数のAR/MRシーンに関連付けられたAR/MRメディアコンテンツ更新を受信することと、複数のAR/MRメディアシーンに含まれるそれぞれのAR/MRシーンを反復的に受信させ、それぞれのAR/MRシーンをレンダリングさせ、それぞれのAR/MRシーンに対応する認知情報および姿勢情報を取得させ、AR/MRメディアコンテンツがストリーミングされている間に、認知情報および姿勢情報を認知没入型サーバに送信させる、1つまたは複数の命令を含む。
【0008】
本開示の主題のさらなる特徴、性質、および様々な利点は、以下の詳細な説明、および添付の図面でより明らかになるであろう。
【図面の簡単な説明】
【0009】
【
図1】実施形態による、本明細書に記載された方法、装置、およびシステムが実装され得る環境を示す図である。
【
図2】
図1の1つまたは複数のデバイスの例示的な構成要素を示すブロック図である。
【
図3】実施形態による、メディアアップリンクストリーミングのためのメディアアーキテクチャの図である。
【
図4】実施形態による、メディアダウンリンクストリーミングのためのメディアアーキテクチャの図である。
【
図5】実施形態による、スタンドアロン拡張現実(AR)(STAR)第5世代メディアストリーミングダウンリンク(5GMSd、5
th Generation Media Streaming Downlink)ダウンロードアーキテクチャの図である。
【
図6A】実施形態による、STARベースの5Gダウンリンクストリーミングの動作フローの図である。
【
図6B】実施形態による、STARベースの5Gダウンリンクストリーミングの動作フローの図である。
【
図6C】実施形態による、STARベースの5Gダウンリンクストリーミングの動作フローの図である。
【
図7A】実施形態による、エッジ依存拡張現実(AR)(EDGAR)第5世代メディアストリーミングダウンリンク(5GMSd)ダウンロードアーキテクチャを示す図である。
【
図7B】実施形態による、エッジ依存拡張現実(AR)(EDGAR)第5世代メディアストリーミングダウンリンク(5GMSd)ダウンロードアーキテクチャを示す図である。
【
図8A】実施形態による、EDGARベースの5Gダウンリンクストリーミングの動作フローの図である。
【
図8B】実施形態による、EDGARベースの5Gダウンリンクストリーミングの動作フローの図である。
【
図8C】実施形態による、EDGARベースの5Gダウンリンクストリーミングの動作フローの図である。
【
図9】実施形態にかかる、STARベースの5Gダウンリンクストリーミングのための方法のフローチャートである。
【発明を実施するための形態】
【0010】
図1は、実施形態による、本明細書に記載された方法、装置、およびシステムが実装され得る環境100の図である。
図1に示されるように、環境100は、ユーザデバイス110と、プラットフォーム120と、ネットワーク130とを含み得る。環境100のデバイスは、有線接続、無線接続、または有線接続と無線接続の組み合わせを介して相互接続され得る。
【0011】
ユーザデバイス110は、プラットフォーム120に関連付けられた情報を受信、生成、記憶、処理、および/または提供することが可能な1つまたは複数のデバイスを含む。例えば、ユーザデバイス110は、コンピューティングデバイス(例えば、デスクトップコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、ハンドヘルドコンピュータ、スマートスピーカ、サーバなど)、携帯電話(例えば、スマートフォン、無線電話など)、ウェアラブルデバイス(例えば、スマートグラスもしくはスマートウォッチ)、または同様のデバイスを含んでもよい。いくつかの実装形態では、ユーザデバイス110は、プラットフォーム120から情報を受信し、かつ/または情報をプラットフォームに送信してもよい。
【0012】
プラットフォーム120は、本明細書の他の箇所に記載されるような1つまたは複数のデバイスを含む。いくつかの実装形態では、プラットフォーム120は、クラウドサーバまたはクラウドサーバ群を含んでもよい。いくつかの実装形態では、プラットフォーム120は、特定の必要性に応じてソフトウェア構成要素がスワップインまたはスワップアウトされ得るようにモジュール式に設計されてもよい。したがって、プラットフォーム120は、異なる用途のために容易にかつ/または迅速に再構成されてもよい。
【0013】
いくつかの実装形態では、図示のように、プラットフォーム120は、クラウドコンピューティング環境122内でホストされてもよい。特に、本明細書に記載された実装形態はクラウドコンピューティング環境122内でホストされるものとしてプラットフォーム120を記載するが、いくつかの実装形態では、プラットフォーム120は、クラウドベースでなくてもよく(すなわち、クラウドコンピューティング環境の外部に実装されてもよい)、または部分的にクラウドベースであってもよい。
【0014】
クラウドコンピューティング環境122は、プラットフォーム120をホストする環境を含む。クラウドコンピューティング環境122は、プラットフォーム120をホストする(1つまたは複数の)システムおよび/または(1つまたは複数の)デバイスの物理的位置および構成に関するエンドユーザ(例えば、ユーザデバイス110)の知識を必要としない、計算、ソフトウェア、データアクセス、ストレージなどのサービスを提供してもよい。図示のように、クラウドコンピューティング環境122は、コンピューティングリソース124のグループ(「コンピューティングリソース124」と総称され、個々に「コンピューティングリソース124」と呼ばれる)を含んでもよい。
【0015】
コンピューティングリソース124は、1つまたは複数のパーソナルコンピュータ、ワークステーションコンピュータ、サーバデバイス、または他のタイプの計算デバイスおよび/もしくは通信デバイスを含む。いくつかの実装形態では、コンピューティングリソース124は、プラットフォーム120をホストしてもよい。クラウドリソースは、コンピューティングリソース124内で実行される計算インスタンス、コンピューティングリソース124内で提供されるストレージデバイス、コンピューティングリソース124によって提供されるデータ転送デバイスなどを含んでもよい。いくつかの実装形態では、コンピューティングリソース124は、有線接続、無線接続、または有線接続と無線接続との組み合わせを介して他のコンピューティングリソース124と通信してもよい。
【0016】
図1にさらに示されるように、コンピューティングリソース124は、1つまたは複数のアプリケーション(APP)124-1、1つまたは複数の仮想マシン(VM)124-2、1つまたは複数の仮想化ストレージ(VS)124-3、あるいは1つまたは複数のハイパーバイザ(HYP)124-4などのクラウドリソースのグループを含む。
【0017】
アプリケーション124-1は、ユーザデバイス110および/もしくはプラットフォーム120に提供され得る、またはユーザデバイス110および/もしくはプラットフォーム120によってアクセスされ得る1つまたは複数のソフトウェアアプリケーションを含む。アプリケーション124-1は、ユーザデバイス110にソフトウェアアプリケーションをインストールして実行する必要性を排除してもよい。例えば、アプリケーション124-1は、プラットフォーム120に関連付けられたソフトウェア、および/またはクラウドコンピューティング環境122を介して提供することができる他の任意のソフトウェアを含んでもよい。いくつかの実装形態では、1つのアプリケーション124-1は、仮想マシン124-2を介して、1つまたは複数の他のアプリケーション124-1との間で情報を送受信してもよい。
【0018】
仮想マシン124-2は、物理マシンのようにプログラムを実行するマシン(例えば、コンピュータ)のソフトウェア実装形態を含む。仮想マシン124-2は、仮想マシン124-2による用途および任意の実マシンに対するその対応度に応じて、システム仮想マシンまたはプロセス仮想マシンのいずれかであってもよい。システム仮想マシンは、完全なオペレーティングシステム(OS)の実行をサポートする完全なシステムプラットフォームを提供してもよい。プロセス仮想マシンは、単一のプログラムを実行し、単一の処理をサポートしてもよい。いくつかの実装形態では、仮想マシン124-2は、ユーザ(例えば、ユーザデバイス110)の代わりに実行してもよく、データ管理、同期、または長時間のデータ転送など、クラウドコンピューティング環境122のインフラストラクチャを管理してもよい。
【0019】
仮想化ストレージ124-3は、コンピューティングリソース124のストレージシステムまたはデバイス内で仮想化技術を使用する1つもしくは複数のストレージシステムおよび/または1つもしくは複数のデバイスを含む。いくつかの実装形態では、ストレージシステムのコンテキスト内で、仮想化のタイプは、ブロック仮想化およびファイル仮想化を含んでもよい。ブロック仮想化は、物理ストレージまたは異種構造に関係なくストレージシステムがアクセスされ得るように、物理ストレージからの論理ストレージの抽象化(または分離)を指すことができる。分離は、ストレージシステムの管理者がエンドユーザのためにストレージを管理する方法における柔軟性を可能にし得る。ファイル仮想化は、ファイルレベルでアクセスされるデータとファイルが物理的に記憶されている場所との間の依存関係を排除し得る。これにより、ストレージ使用の最適化、サーバ統合、および/またはスムーズなファイル移行の実施が可能になり得る。
【0020】
ハイパーバイザ124-4は、複数のオペレーティングシステム(例えば、「ゲストオペレーティングシステム」)をコンピューティングリソース124などのホストコンピュータ上で同時に実行することを可能にするハードウェア仮想化技術を提供し得る。ハイパーバイザ124-4は、仮想オペレーティングプラットフォームをゲストオペレーティングシステムに提示し得、ゲストオペレーティングシステムの実行を管理し得る。様々なオペレーティングシステムの複数のインスタンスは、仮想化ハードウェアリソースを共有し得る。
【0021】
ネットワーク130は、1つまたは複数の有線および/または無線のネットワークを含む。例えば、ネットワーク130は、セルラーネットワーク(例えば、第5世代(5G)ネットワーク、ロングタームエボリューション(LTE)ネットワーク、第3世代(3G)ネットワーク、符号分割多元接続(CDMA)ネットワークなど)、公衆陸上移動網(PLMN)、ローカルエリアネットワーク(LAN)、ワイドエリアネットワーク(WAN)、メトロポリタンエリアネットワーク(MAN)、電話網(例えば、公衆交換電話網(PSTN))、プライベートネットワーク、アドホックネットワーク、イントラネット、インターネット、光ファイバベースのネットワークなど、および/またはこれらもしくは他のタイプのネットワークの組み合わせを含み得る。
【0022】
図1に示すデバイスおよびネットワークの数および配置は、一例として提供されている。実際には、
図1に示すものに比べて、追加のデバイスおよび/もしくはネットワーク、少ないデバイスおよび/もしくはネットワーク、異なるデバイスおよび/もしくはネットワーク、または異なる配置のデバイスおよび/もしくはネットワークがあってもよい。さらに、
図1に示す2つ以上のデバイスは、単一のデバイス内に実装されてもよく、または
図1に示す単一のデバイスは、複数の分散型デバイスとして実装されてもよい。追加的または代替的に、環境100のデバイスのセット(例えば、1つまたは複数のデバイス)は、環境100の別のデバイスのセットによって実行されるものとして記載された1つまたは複数の機能を実行してもよい。
【0023】
図2は、
図1の1つまたは複数のデバイスの例示的な構成要素のブロック図である。デバイス200は、ユーザデバイス110および/またはプラットフォーム120に対応し得る。
図2に示すように、デバイス200は、バス210、プロセッサ220、メモリ230、記憶構成要素240、入力構成要素250、出力構成要素260、および通信インターフェース270を含み得る。
【0024】
バス210は、デバイス200の構成要素間の通信を可能にする構成要素を含む。プロセッサ220は、ハードウェア、ファームウェア、またはハードウェアとソフトウェアとの組み合わせで実装される。プロセッサ220は、中央処理装置(CPU)、グラフィック処理装置(GPU)、加速処理装置(APU)、マイクロプロセッサ、マイクロコントローラ、デジタル信号プロセッサ(DSP)、フィールドプログラマブルゲートアレイ(FPGA)、特定用途向け集積回路(ASIC)、または別のタイプの処理構成要素である。いくつかの実装形態では、プロセッサ220は、機能を実行するようにプログラムされることが可能な1つまたは複数のプロセッサを含む。メモリ230は、ランダムアクセスメモリ(RAM)、読み出し専用メモリ(ROM)、および/またはプロセッサ220が使用する情報および/または命令を記憶する別のタイプの動的または静的ストレージデバイス(例えば、フラッシュメモリ、磁気メモリ、および/または光メモリ)を含む。
【0025】
記憶構成要素240は、デバイス200の動作および使用に関連する情報および/またはソフトウェアを記憶する。例えば、記憶構成要素240は、対応するドライブとともに、ハードディスク(例えば、磁気ディスク、光ディスク、光磁気ディスク、および/またはソリッドステートディスク)、コンパクトディスク(CD)、デジタル多用途ディスク(DVD)、フロッピーディスク、カートリッジ、磁気テープ、および/または別のタイプの非一時的コンピュータ可読媒体を含んでもよい。
【0026】
入力構成要素250は、デバイス200がユーザ入力などを介して情報を受け取ることを可能にする構成要素(例えば、タッチスクリーンディスプレイ、キーボード、キーパッド、マウス、ボタン、スイッチ、および/またはマイクロフォン)を含む。追加的または代替的に、入力構成要素250は、情報を感知するためのセンサ(例えば、全地球測位システム(GPS)構成要素、加速度計、ジャイロスコープ、および/またはアクチュエータ)を含んでもよい。出力構成要素260は、デバイス200からの出力情報を提供する構成要素(例えば、ディスプレイ、スピーカ、および/または1つまたは複数の発光ダイオード(LED))を含む。
【0027】
通信インターフェース270は、デバイス200が有線接続、無線接続、または有線接続と無線接続との組み合わせなどを介して他のデバイスと通信することを可能にする、送受信機様の構成要素(例えば、送受信機ならびに/または別個の受信機および送信機)を含む。通信インターフェース270は、デバイス200が別のデバイスから情報を受信し、かつ/または別のデバイスに情報を提供することを可能にし得る。例えば、通信インターフェース270は、イーサネットインターフェース、光インターフェース、同軸インターフェース、赤外線インターフェース、無線周波数(RF)インターフェース、ユニバーサルシリアルバス(USB)インターフェース、Wi-Fiインターフェース、セルラーネットワークインターフェースなどを含んでもよい。
【0028】
デバイス200は、本明細書に記載された1つまたは複数のプロセスを実行し得る。デバイス200は、プロセッサ220がメモリ230および/または記憶構成要素240などの非一時的コンピュータ可読媒体によって記憶されたソフトウェア命令を実行したことに応答して、これらのプロセスを実行し得る。コンピュータ可読媒体は、本明細書では非一時的メモリデバイスとして定義される。メモリデバイスは、単一の物理ストレージデバイス内のメモリ空間、または複数の物理ストレージデバイスにわたって広がるメモリ空間を含む。
【0029】
ソフトウェア命令は、別のコンピュータ可読媒体から、または通信インターフェース270を介して別のデバイスからメモリ230および/または記憶構成要素240に読み込まれてもよい。メモリ230および/または記憶構成要素240に記憶されたソフトウェア命令は、実行されると、本明細書に記載された1つまたは複数のプロセスをプロセッサ220に実行させ得る。追加的または代替的に、本明細書に記載された1つまたは複数のプロセスを実行するために、ソフトウェア命令の代わりに、またはソフトウェア命令と組み合わせて、ハードワイヤード回路が使用されてもよい。したがって、本明細書に記載された実装形態は、ハードウェア回路とソフトウェアのいかなる特定の組み合わせにも限定されない。
【0030】
図2に示す構成要素の数および配置は、一例として提供されている。実際には、デバイス200は、
図2に示された構成要素に比べて、追加の構成要素、少ない構成要素、異なる構成要素、または異なる配置の構成要素を含んでもよい。追加的または代替的に、デバイス200の構成要素のセット(例えば、1つまたは複数の構成要素)は、デバイス200の構成要素の別のセットによって実施されるものとして記載された1つまたは複数の機能を実行してもよい。
【0031】
5Gメディアストリーミング(5GMS)システムは、ダウンリンクメディアストリーミングサービスまたはアップリンクメディアストリーミングサービス、またはその両方をサポートする5Gメディアストリーミングアーキテクチャからのアプリケーション機能、アプリケーションサーバ、およびインターフェースの集合体であってもよい。5GMSアプリケーションプロバイダは、5GMSシステムの機能と対話し、5GMSシステムの機能と対話する5GMSアウェアアプリケーションを供給するパーティを含み得る。5GMSアウェアアプリケーションは、5GMSアプリケーションサービスのサービスロジックを含み、5GMSアーキテクチャで定義されたインターフェースおよびアプリケーションプログラミングインターフェース(API)を介して他の5GMSクライアントおよびネットワーク機能と対話する、5GMSアプリケーションプロバイダによって提供されるユーザ機器(UE)内のアプリケーションを指すことができる。5GMSクライアントは、5GMSダウンリンク(5GMSd)クライアントまたは5GMSアップリンク(5GMSu)クライアント、またはその両方であるUE機能を指すことができる。
【0032】
5GMSdクライアントは、少なくとも5Gメディアストリーミングプレーヤおよびダウンリンクストリーミング用のメディアセッションハンドラを含み、明確に定義されたインターフェース/APIを介してアクセスされ得る、UE機能を指すことができる。5GMSuクライアントは、明確に定義されたインターフェース/APIを介してアクセスされ得る5GMSuサービスの発信元を指すことができる。5GMSuメディアストリーマは、5GMSアプリケーションプロバイダのアプリケーションサーバ(AS)機能へのストリーミングメディアコンテンツのアップリンク配信を可能にし、メディアキャプチャおよび後続のストリーミングのための5GMSuアウェアアプリケーション、ならびにメディアセッション制御のためのメディアセッションハンドラの両方と対話する、UE機能を指すことができる。
【0033】
動的ポリシーは、メディアセッション中のアップリンクまたはダウンリンクアプリケーションフローのための動的ポリシーおよび課金制御(PCC)規則を指すことができる。イジェストセッションは、5GMS ASから5GMSuアプリケーションプロバイダに向かうアップリンクメディアストリーミングセッションを指すことができる。インジェストセッションは、5GMSd ASにメディアコンテンツをアップロードするためのセッションを指すことができる。ポリシーテンプレートは、5GMSアプリケーションプロバイダに固有の(準静的)ポリシーまたは制御機能(PCF)/ネットワーク公開機能(NEF)APIパラメータの集合、および結果として得られるPCC規則を指すことができる。ポリシーテンプレートIDは所望のポリシーテンプレートを識別し得、これは、PCFが所望のPCC規則をコンパイルできるように、5Gシステムに向けて適切なPCF/NEF APIを選択するために、5GMSdアプリケーション機能(AF)によって使用される。メディアプレーヤエントリは、メディアプレゼンテーション(例えば、DASHのためのメディアプレゼンテーション記述(MPD)またはビデオクリップファイルへのユニフォームリソースロケータ(URL))を定義する文書または文書を指し示すポインタを指すことができる。メディアストリーマエントリは、アップリンクメディアストリーミングセッションのエントリポイントを定義するポインタ(例えば、URLの形式)を指すことができる。プレゼンテーションエントリは、HTML5文書など、アプリケーションプレゼンテーションを定義する文書または文書を指し示すポインタを指すことができる。
【0034】
プロビジョニングセッションは、5GMSdアウェアアプリケーションのセットに関連する5GMSdの特徴を構成する5GMSdアプリケーションプロバイダによってインターフェース(M1d)において供給されるデータ構造を指すことができる。5GMSdメディアプレーヤは、メディア再生エントリに基づくメディアプレゼンテーションの再生およびレンダリング、ならびに再生、一時停止、検索、停止などのいくつかの基本的な制御の5GMSdアウェアアプリケーションへの露出を可能にする、UE機能を指すことができる。サーバアクセス情報は、ストリーミングセッションの受け入れをアクティブにするために必要なパラメータおよびアドレスのセット(5GMSd AFアドレスおよび5GMSd ASアドレスを含む)を指すことができる。サービスおよびコンテンツ発見は、エンドユーザが、利用可能なストリーミングサービスおよびコンテンツ提供物を発見し、アクセスのために特定のサービスまたはコンテンツアイテムを選択することを可能にする、5GMSdアプリケーションプロバイダによって5GMSアウェアアプリケーションに提供される機能および手順を指すことができる。サービスアナウンスメントは、直接、またはその情報への参照の形のいずれかで、5GMSアウェアアプリケーションが5GMSサービスアクセス情報を取得することができるように、5GMSアウェアアプリケーションと5GMSアプリケーションプロバイダとの間で行われる手順を指すことができる。
【0035】
サードパーティプレーヤは、メディアコンテンツを再生するための選択された5GMSd機能を実行するためにAPIを使用するアプリケーションの一部を指すことができる。サードパーティアップリンクストリーマは、メディアコンテンツをキャプチャおよびストリーミングするための選択された5GMSu機能を実行するためにAPIを使用するアプリケーションの一部を指すことができる。
【0036】
図3は、実施形態による、メディアアップリンクストリーミングのためのメディアアーキテクチャ300の図である。5GMSuアプリケーションプロバイダ301は、アップリンクストリーミングサービスのために5GMSuを使用し得る。5GMSuアプリケーションプロバイダ301は、5GMSuで定義されたインターフェースおよびAPIを使用して5GMSuクライアント304およびネットワーク機能を利用するために、UE303上に5GMSuアウェアアプリケーション302を提供し得る。5GMSu ASは、5Gメディアアップリンクストリーミング専用のASであってもよい。5GMSuクライアント304は、5Gメディアアップリンクストリーミング専用のUE303内部機能であってもよい。
【0037】
5GMSu AF306および5GMSu AS305は、データネットワーク(DN)307の機能であってもよい。信頼できるDN内の機能は、事業者のネットワークによって信頼され得る。したがって、信頼できるDN内のAFは、すべての5Gコア機能と直接通信してもよい。外部DN内の機能は、リンク320を使用して、NEF308を介して5Gコア機能とのみ通信してもよい。
【0038】
メディアアーキテクチャ300は、5GメディアアップリンクストリーミングのためのUE303内部機能および関連するネットワーク機能を接続し得る。したがって、メディアアーキテクチャ300は、いくつかの機能を含み得る。例えば、UE303上の5GMSuクライアント304は、インターフェース/APIを通じてアクセスされ得る5GMSuサービスの発信元であってもよい。5GMSuクライアント304は、2つのサブ機能、メディアセッションハンドラ309およびメディアストリーマ310を含み得る。メディアセッションハンドラ309は、メディアセッションの配信を確立、制御、およびサポートするために、5GMSu AF306と通信し得る。メディアセッションハンドラ309は、5GMSuアウェアアプリケーション302によって使用されることができるAPIを公開し得る。メディアストリーマ310は、メディアコンテンツをストリーミングし、メディアのキャプチャおよびストリーミングのために5GMSuアウェアアプリケーション302にサービスを提供し、メディアセッション制御のためにメディアセッションハンドラ309にサービスを提供するために、5GMSu AS305と通信し得る。5GMSuアウェアアプリケーション302は、外部アプリケーションまたはコンテンツサービスプロバイダ固有のロジックを実装し、メディアセッションの確立を可能にすることによって、5GMSuクライアント304を制御し得る。5GMSu AS305は5Gメディア機能をホストしてもよく、例えば、コンテンツ配信ネットワーク(CDN)として実装されてもよい。5GMSuアプリケーションプロバイダ301は、外部アプリケーションまたはコンテンツ固有のメディア機能であってもよく、例えば、メディアストレージ機能、メディア消費機能、5GMSuを使用して5GMSuアウェアアプリケーション302からのメディアをストリーミングするメディアトランスコードおよびメディア再配信機能であってもよい。5GMSu AF306は、UE303上のメディアセッションハンドラ309および/または5GMSuアプリケーションプロバイダ301に様々な制御機能を提供してもよい。5GMSu AF306は、PCF311の処理を求める要求を中継または起動してもよく、または他のネットワーク機能と対話してもよい。
【0039】
メディアアーキテクチャ300は、いくつかの異なるインターフェースを含み得る。例えば、リンク321はM1uに関連していてもよく、M1uは、メディアアーキテクチャ300の使用をプロビジョニングしてフィードバックを取得するために、5GMSu AF306によって公開された5GMSuプロビジョニングAPIであってもよい。リンク322はM2uに関連していてもよく、M2uは、5GMSu AS305によって公開され、DN307などの信頼できるDN内の5GMSu AS305がストリーミングサービス用のコンテンツを受信するために選択されるときに使用される、5GMSuパブリッシュAPIであってもよい。リンク323はM3uに関連していてもよく、M3uは、DN307などの信頼できるDN内の5GMSu AS305上のコンテンツホスティングのための情報を交換するために使用される内部APIであってもよい。リンク324はM4uに関連していてもよく、M4uは、メディアコンテンツをストリーミングするために5GMSu AS323によってメディアストリーマ310に公開されるメディアアップリンクストリーミングAPIであってもよい。リンク325はM5uに関連していてもよく、M5uは、例えば、許可や認証などの適切なセキュリティメカニズムも含む、メディアセッションの処理、制御および支援のために5GMSu AF305によってメディアセッションハンドラに公開されるメディアセッションハンドリングAPIであってもよい。リンク326はM6uに関連していてもよく、M6uは、5GMSu機能を利用するためにメディアセッションハンドラ309によって5GMSuアウェアアプリケーション302に公開されたUE303メディアセッションハンドリングAPIであってもよい。リンク327はM7uに関連していてもよく、M7uは、メディアストリーマ310を利用するためにメディアストリーマ310によって5GMSuアウェアアプリケーション302およびメディアセッションハンドラ309に公開されたUEメディアストリーマAPIであってもよい。リンク328はM8uに関連していてもよく、M8uは、例えば5GMSuアウェアアプリケーション302にサービスアクセス情報を提供するために、5GMSuアウェアアプリケーション302と5GMSuアプリケーションプロバイダ301との間の情報交換に使用されるアプリケーションAPIであってもよい。UE303はまた、インターフェースM6u326およびM7u327が公開されないように、自己完結的に実装されてもよい。
【0040】
図4は、実施形態による、メディアダウンリンクストリーミングのためのメディアアーキテクチャ400の図である。5GMSdアプリケーションプロバイダ401は、ダウンリンクストリーミングサービスのために5GMSdを使用してもよい。5GMSdアプリケーションプロバイダ401は、5GMSdで規定されたインターフェースおよびAPIを使用して、5GMSdクライアント404およびネットワーク機能を利用するために、UE403上で5GMSdアウェアアプリケーション402を提供し得る。5GMSd ASは、5Gメディアダウンリンクストリーミング専用のASであってもよい。5GMSdクライアント404は、5Gメディアダウンリンクストリーミング専用のUE403内部機能であってもよい。
【0041】
5GMSd AF406および5GMSd AS405はDN407機能であってもよい。信頼できるDN内の機能は、事業者のネットワークによって信頼され得る。したがって、信頼できるDN内のAFは、すべての5Gコア機能と直接通信してもよい。外部DN内の機能は、リンク420を使用して、NEF408を介して5Gコア機能とのみ通信してもよい。
【0042】
メディアアーキテクチャ400は、5GメディアダウンリンクストリーミングのためにUE403内部機能と関連ネットワーク機能を接続し得る。したがって、メディアアーキテクチャ400はいくつかの機能を含み得る。例えば、UE403上の5GMSdクライアント404は、インターフェース/APIを介してアクセスされ得る5GMSdサービスの受信先であってもよい。5GMSdクライアント404は、2つのサブ機能、メディアセッションハンドラ409およびメディアプレーヤ410を含み得る。メディアセッションハンドラ409は、メディアセッションの配信を確立、制御、およびサポートするために、5GMSd AF406と通信し得る。メディアセッションハンドラ409は、5GMSdアウェアアプリケーション402によって使用されることができるAPIを公開し得る。メディアプレーヤ410は、メディアコンテンツをストリーミングし、メディア再生用の5GMSdアウェアアプリケーション402にサービスを提供するために5GMSd AS405と通信し、メディアセッション制御のためにメディアセッションハンドラ409と通信し得る。5GMSdアウェアアプリケーション402は、外部アプリケーションまたはコンテンツサービスプロバイダ固有のロジックを実装し、メディアセッションの確立を可能にすることによって5GMSdクライアント404を制御し得る。5GMSd AS405は、5Gメディア機能をホストし得る。5GMSdアプリケーションプロバイダ401は、外部アプリケーション、または例えば、5GMSdを使用して5GMSdアウェアアプリケーション402に対してメディアをストリーミングする、メディア生成、符号化、およびフォーマッティングなどのコンテンツ固有のメディア機能であってもよい。5GMSd AF406は、UE403上のメディアセッションハンドラ409および/または5GMSdアプリケーションプロバイダ401に様々な制御機能を提供してもよい。5GMSd AF406は、異なるPCF411の処理を求める要求を中継または起動してもよく、または他のネットワーク機能と対話してもよい。
【0043】
メディアアーキテクチャ400は、いくつかの異なるインターフェースを含み得る。例えば、リンク421はM1dに関連していてもよく、M1dは、メディアアーキテクチャ400の使用をプロビジョニングし、フィードバックを取得するために5GMSd AF406によって公開される5GMSdプロビジョニングAPIであってもよい。リンク422はM2dに関連していてもよく、M2dは5GMSd AS405によって公開され、DN407などの信頼できるDN内の5GMSd AS405が、ストリーミングサービス用のコンテンツを受信するために選択されるときに使用される5GMSdインジェストAPIであってもよい。リンク423はM3dに関連していてもよく、M3dは、DN407などの信頼できるDN内の5GMSd AS405上でコンテンツホスティングを行うための情報を交換するために使用される内部APIであってもよい。リンク424はM4dに関連していてもよく、M4dは、メディアコンテンツをストリーミングするために5GMSd AS423によってメディアプレーヤ410に公開されるメディアダウンリンクストリーミングAPIであってもよい。リンク425はM5dに関連していてもよく、M5dは、例えば、許可や認証などの適切なセキュリティメカニズムも含む、メディアセッションの処理、制御および支援のために5GMSd AF405によってメディアセッションハンドラに公開されるメディアセッションハンドリングAPIであってもよい。リンク426はM6dに関連していてもよく、M6dは、5GMSd機能を利用するためにメディアセッションハンドラ409によって5GMSdアウェアアプリケーション402に公開されるUE403のメディアセッションハンドリングAPIであってもよい。リンク427はM7dに関連していてもよく、M7dは、メディアプレーヤ410を利用するためにメディアプレーヤ410によって5GMSdアウェアアプリケーション402およびメディアセッションハンドラ409に公開されるUEのメディアプレーヤAPIであってもよい。リンク428はM8dに関連していてもよく、M8dは、例えば、5GMSdアウェアアプリケーション402にサービスアクセス情報を提供するために、5GMSdアウェアアプリケーション402と5GMSdアプリケーションプロバイダ401との間の情報交換に使用されるアプリケーションAPIであってもよい。
【0044】
図5は、実施形態による、スタンドアロン拡張現実(AR)(STAR)5GMSdダウンロードアーキテクチャ500の図である。AR STAR 5GMSdアーキテクチャ500は、複合現実(MR)にも適用され得る。アーキテクチャ500は、5G STAR UE 502、5Gシステム504(すなわち、5Gサーバおよび計算)、およびAR/MRアプリケーションプロバイダ506を含む。5G STAR UE 502は、ARランタイム508、ARシーンマネージャ510、メディアアクセス機能512、およびAR/MRアプリケーション514を含む。ARランタイム508は、エクステンデッドリアリティ(XR)計算モジュール516、姿勢補正モジュール518、および音場マッピングモジュール520を含む。ARシーンマネージャ510は、シーングラフハンドラ(SGH)521、コンポジタ522、没入型ビジュアルレンダラ523、および没入型オーディオレンダラ524を含む。メディアアクセス機能512は、メディアセッションハンドラ526およびメディアクライアント528を含む。メディアクライアント528は、二次元(2D)コーデック530、没入型メディアデコーダ532、シーン記述配信モジュール534、コンテンツ配信モジュール536、およびXR空間記述配信モジュール538を含む。5G STAR UE 502は、5Gシステム504の5Gノード(gNb)542と通信する5Gシステム(Uu)540を含む。
【0045】
5Gシステム504は、メディアAF 544およびメディアAS 546を含む。AR/MRアプリケーションプロバイダ506は、AR機能548およびARシーンモジュール550を含む。メディアクライアント528は、M4インターフェース582によってメディアAS 546と通信する。メディアセッションハンドラ526は、M5インターフェース586によってメディアAF 544と通信する。AR/MRアプリケーション514は、M8インターフェース588によってAR/MRアプリケーションプロバイダ506と通信する。AR/MRアプリケーション514は、ユーザ入力591およびARランタイム508からARランタイムAPI 590のデータを受信してもよい。ARランタイム508は、カメラ592およびセンサ593からデータを受信してもよく、ディスプレイ594およびスピーカ595にデータを出力してもよい。
【0046】
実施形態では、アーキテクチャ500は、2つのループを含むコールフローを使用して動作され得る。例えば、5G STAR UE 502からメディアAS 546へのメディアオブジェクトのアップリンクストリーミングと、メディアAS 546から5G STAR UE 502への再構築シーンのメディアオブジェクトのダウンリンクストリーミングとを配信するために、内部ループが使用されている間に、コールフローの外部ループで、5G STAR UE 502からの認知情報がメディアAS 546に配信されてもよい。
【0047】
実施形態では、メディアクライアント528およびメディアセッションハンドラ526のうちの1つまたは複数は、認知没入型クライアントに含まれてもよく、または認知没入型クライアントと呼ばれてもよく、メディアAF 544、メディアAS 546、およびAR/MRアプリケーションプロバイダ506のうちの1つまたは複数は、認知没入型サーバに含まれてもよく、または認知没入型サーバと呼ばれてもよい。
【0048】
図6A、
図6B、および
図6Cは、実施形態による、STARベースの5Gダウンリンクストリーミングの動作フローの図である。
図6の動作フローを実行するシステムは、AR/MRアプリケーション607、ARランタイム608、AR/MRシーンマネージャ610、メディアクライアント612、およびメディアセッションハンドラ614を含み得、これらはSTAR UE 602の一部であり得る(さらに、メディアクライアント612およびメディアセッションハンドラ614は、メディアアクセス機能の一部であり得る)。システムはまた、メディアAF 616およびメディアAS 618を含んでもよい。システムはまた、AR/MRアプリケーションプロバイダ620を含んでもよい。AR/MRアプリケーションプロバイダ620は、シーンサーバと呼ばれてもよい。
【0049】
実施形態では、これらの要素は、
図5に関して上述した要素のうちの1つまたは複数に対応することができる。例えば、実施形態では、STAR UE 602は5G STAR UE 502に対応することができ、AR/MRアプリケーション607はAR/MRアプリケーション514に対応することができ、ARランタイム608はARランタイム508に対応することができ、AR/MRシーンマネージャ610はARシーンマネージャ510に対応することができ、メディアクライアント612はメディアクライアント528に対応することができ、メディアセッションハンドラ614はメディアセッションハンドラ526に対応することができ、メディアAF 616はメディアAF 544に対応することができ、メディアAS 618はメディアAS 546に対応することができ、AR/MRアプリケーションプロバイダ620はAR/MRアプリケーションプロバイダ506に対応することができる。実施形態では、メディアクライアント612およびメディアセッションハンドラ614は、認知没入型クライアント604に含まれてもよく、または認知没入型クライアント604と呼ばれてもよく、メディアAF 616、メディアAS 618、およびAR/MRアプリケーションプロバイダ620は、認知没入型サーバ606に含まれてもよく、または認知没入型サーバ606と呼ばれてもよい。
【0050】
動作630では、シーンサーバが確立され、シーンコンテンツが、メディアAS 618によって取り込まれる。動作632において、サービス告知およびコンテンツ配信がAR/MRアプリケーション607によってトリガされる。サービスアクセス情報は、メディアクライアントエントリを含み、またはサービスアクセス情報への参照は、M8dインターフェースを介して提供される。動作634において、メディアコンテンツ/シーンが選択される。動作636において、サービスアクセス情報は、必要に応じて取得または更新される(すなわち、動作636は任意選択であってもよい)。動作638において、AR/MRアプリケーション607は、AR/MRシーンマネージャ610をエントリポイント(すなわち、全シーン記述)URLで初期化する。
【0051】
動作640において、メディアクライアント612は、AR/MRシーンマネージャ610とシーンサーバとの間のシーンセッションのトランスポートセッションを確立する。動作641において、エントリポイント、例えばシーン記述は、AR/MRシーンマネージャ610によって処理され、シーンセッションが作成される。動作642において、AR/MRシーンマネージャ610は、ARランタイム608から新しいAR/MRセッションの作成を要求する。動作644において、AR/MRシーンマネージャは、エントリポイント通知をメディアセッションハンドラ614に送信し、AR/MRセッションが作成される。
【0052】
動作646~684は、外部ループに関し、これは、シーンセッションループと呼ばれ得る。シーンセッションループでは、認知情報および姿勢情報が送信され、更新されたシーンが受信されレンダリングされる。
【0053】
動作646において、最新のインタラクションおよび姿勢情報がAR/MRシーンマネージャ610によって取得され、M4dインターフェースを介してメディアクライアント612と共有される。メディアクライアント612は、この情報をメディアAS 618およびシーンサーバに送信する。動作648において、最新の認知データならびに追加インタラクションおよび姿勢情報が、AR/MRアプリケーション607によって取得され、M8dインターフェースを介して認知没入型サーバ606に送信される。動作650において、メディアクライアントとメディアAS 618との間で、アップリンクトランスポートプロトコルが確立される。動作652において、メディアクライアント612は、アップリンクコンテンツを取り込んで符号化するためのメディアパイプラインを構成する。動作654において、メディアクライアント612は、例えば取り込まれたメディアなどの認知メディアデータを、メディアAS 618に送信する。動作656において、認知没入型サーバ606は認知データを処理し、認知メディアおよび対応するシーンを作成する。実施形態では、この認知処理は、例えば、意味的知覚、空間的位置特定、およびマッピングを含み得る。動作658において、認知没入型サーバ606はメディアオブジェクト、例えば認知メディアオブジェクトをメディアAS 618に提供する。
【0054】
実施形態では、上記の動作646~658は、以下の動作660~684の間動作し続ける。
【0055】
動作660において、シーンサーバは、例えば認知メディアオブジェクトを含む任意のシーン更新または置換シーンを、メディアAS 618およびメディアクライアント612を介してAR/MRシーンマネージャへ送信する。例えば、シーン更新または置換シーンは、認知処理の結果に基づいて取得されてもよく、認知メディアを含んでもよい。
【0056】
動作662において、ストリーミングセッションが作成される。メディアクライアント612および/またはAR/MRシーンマネージャ610は、必要なサービス品質(QoS、Quality of Service)情報をメディアセッションハンドラ614に提供することができる。動作664において、ストリーミングセッションが構成される。メディアセッションハンドラ614は、いくつかの実施形態では所望のQoS情報を含む情報をメディアAF 616と共有することができる。AR/MRアプリケーションプロバイダ620による既存のプロビジョニングに基づいて、メディアAF 616は、プロトコルデータユニット(PDU、Protocol Data Unit)セッションに対するQoS修正を要求することができる。
【0057】
ストリーミングセッション、動作667から674は、メディアオブジェクトのトランスポートセッションを確立し、メディアパイプラインを構成する。動作667において、配信マニフェストのためのトランスポートセッションが確立される。必要なメディアコンテンツについて、メディアクライアント612は、トランスポートセッションを確立して配信マニフェスト情報を取得する。動作668において、メディアクライアント612は、メディアAS 618から配信マニフェストを要求し受信する。動作670において、メディアクライアント612は、配信マニフェストを処理する。メディアクライアント612は、例えば、メディア取得のために必要なトランスポートセッションの数を決定する。メディアクライアント612は、配信マニフェスト情報を使用して、メディアストリームごとにメディアパイプラインを初期化するように構成される。
【0058】
動作672において、AR/MRシーンマネージャ610およびメディアクライアント612は、レンダリングおよび配信メディアパイプラインを構成する。動作674において、メディアクライアント612は、トランスポートセッションを確立し、メディアコンテンツを取得する。
【0059】
動作676~動作684は、シーンセッションループ(例えば、外部セッションループ)内にメディアセッションループ(例えば、内部セッションループ)を確立する。メディアセッションループは、外部ループがセッションを確立してメディアコンテンツに対する更新を受信している間に、メディアコンテンツをレンダリングし提示するように動作することができる。更新は、内部セッションループがコンテンツをレンダリングしている間に、外部セッションループから内部セッションループに送信することができる。
【0060】
動作678において、メディアクライアント612は、処理された配信マニフェストに従って没入型メディアデータを要求する。メディアクライアント612は、姿勢情報(例えば、ビューポート依存ストリーミング)を考慮することができる。動作680において、メディアクライアント612は、没入型データを受信し、それに応じて、現実世界へのARコンテンツの登録を含む、メディアレンダリングパイプラインをトリガする。動作682において、メディアクライアント612は、メディアデータを復号して処理する。暗号化されたメディアデータの場合、メディアクライアント612は暗号解除を実行することもできる。動作684において、メディアクライアント612は、AR/MRシーンマネージャ610にメディアデータを渡す。動作672において、AR/MRシーンマネージャ610は、メディアをレンダリングし、レンダリングされたメディアをARランタイム608に渡す。ARランタイム608は、ARコンテンツの現実世界への登録、姿勢補正などのさらなる処理を実行することができる。
【0061】
AR/MRシーンは、STARデバイスへのストリーミング中に動的に更新することができ、したがって、シーンは、ストリーミングセッション中に完全に変更することができる。STARデバイスのためのシーン更新は、二重ループコールフローによって達成され、ここで、内部ループでは、シーンのメディアオブジェクトがストリーミングされ、一方、外部ループでは、シーンが更新または変更される。本明細書に開示された実施形態によれば、シーンが変更または更新されるときはいつでも、内部ループが中断され、前のメディアオブジェクトが新しいシーンに関連する新しいメディアオブジェクトと置き換えられ、したがって、新しいシーンにおいてもはや関連性のないメディアオブジェクトのためにストリーミング帯域幅が浪費されない。
【0062】
図7Aおよび
図7Bは、実施形態による、エッジ依存拡張現実(AR)(EDGAR)5GMSdダウンロードアーキテクチャ700の図である。AR EDGAR 5GMSdアーキテクチャ700は、複合現実(MR)にも適用され得る。アーキテクチャ700は、5G EDGAR UE702、クラウド/エッジサーバ704、およびAR/MRアプリケーションプロバイダ706を含む。5G EDGAR UE 702は、ARランタイム708、軽量シーンマネージャ710、5GMSクライアント712、および基本AR/MRアプリケーション714を含む。ARランタイム708は、ビジョンエンジン/同時位置特定およびマッピング(SLAM、Simultaneous Localization and Mapping)716と、姿勢補正モジュール718と、音場マッピングモジュール720とを含む。軽量シーンマネージャ710は基本シーングラフハンドラ(SGH、Scene Graph Handler)722とコンポジタ724とを含む。5GMSクライアント712は、メディアセッションハンドラ(エッジセッションを含む)726と、メディアクライアント728とを含む。メディアクライアント728は、シーン記述配信モジュール730と、コンテンツ配信モジュール732と、基本コーデック734とを含む。5G EDGAR UE 702は、クラウド/エッジサーバ704の5Gシステム(gNb)738と通信する5G軽量システム(Uu)736を含む。
【0063】
クラウド/エッジサーバ704は、AR/MRアプリケーション740およびメディア配信機能742を含む。メディア配信機能742は、メディアAF 744およびメディアAS 746を含む。メディアAS 746は、コンテンツ配信機能748と、シーン記述機能(SDF、Scene Description Function)750と、デコーダ752と、エンコーダ754とを含む。AR/MRアプリケーション740は、ARシーンマネージャ756、AR機能764、意味的知覚モジュール766、ソーシャル統合モジュール768、およびメディアアセットデータベース770を含む。ARシーンマネージャ756は、シーングラフ生成器758、没入型ビジュアルレンダラ760、および没入型オーディオレンダラ762を含む。
【0064】
AR/MRアプリケーションプロバイダ706は、没入型メディアサーバ774を含む。没入型メディアサーバ774は、シーン記述モジュール776、マニフェストサーバ778、およびセグメントサーバ780を含む。
【0065】
メディアクライアント728は、M4インターフェース782によってコンテンツ配信モジュール748に送信する(例えば、姿勢およびインタラクションを送信する)。コンテンツ配信モジュール748は、M4インターフェース784 によってメディアクライアント728に送信する(例えば、事前レンダリングされたメディアを送信する)。メディアセッションハンドラ726は、M5dインターフェース786によってメディアAF 744と通信する。基本AR/MRアプリケーション714は、M8インターフェース788によってAR/MRアプリケーション740と通信する。基本AR/MRアプリケーション714は、ARランタイム708からユーザ入力791およびARデータ790を受信してもよい。ARランタイム708は、カメラ792およびセンサ793からデータを受信してもよく、ディスプレイ794およびスピーカ795にデータを出力してもよい。
【0066】
実施形態では、メディアクライアント728およびメディアセッションハンドラ726のうちの1つまたは複数は、認知没入型クライアントに含まれてもよく、または認知没入型クライアントと呼ばれてもよく、メディアAF 744、メディアAS 746、およびAR/MRアプリケーションプロバイダ706のうちの1つまたは複数は、認知没入型サーバに含まれてもよく、または認知没入型サーバと呼ばれてもよい。
【0067】
図8A、
図8B、および
図8Cは、実施形態による、EDGARベースの5Gダウンリンクストリーミングの動作フローの図である。
図8A~
図8Cの動作フローを実行するシステムは、基本AR/MRアプリケーション807と、ARランタイム808と、AR/MRシーンマネージャ810と、メディアクライアント812と、EDGAR UE 802の一部とすることができるメディアセッションハンドラ814とを含んでもよい(さらに、メディアクライアント812およびメディアセッションハンドラ814は、メディアアクセス機能の一部であってもよい)。システムはまた、メディアAF 816と、クラウド/エッジサーバ704の一部であり得るメディアAS 818とを含む。システムはまた、AR/MRアプリケーションプロバイダ820を含んでもよい。AR/MRアプリケーションプロバイダ820は、シーンサーバと呼ばれてもよい。
【0068】
実施形態では、これらの要素は、
図7A~
図7Bに関して上述した要素のうちの1つまたは複数に対応することができる。例えば、実施形態では、EDGAR UE 802は5G EDGAR UE 702に対応してもよく、基本AR/MRアプリケーション807は基本AR/MRアプリケーション714に対応してもよく、ARランタイム808はARランタイム708に対応してもよく、AR/MRシーンマネージャ810は軽量シーンマネージャ710に対応してもよく、メディアクライアント812は5GMSクライアント712に対応してもよく、メディアセッションハンドラ814はメディアセッションハンドラ726に対応してもよく、メディアAF 816はメディアAF 744に対応してもよく、メディアAS 818はメディアAS 746に対応してもよく、AR/MRアプリケーションプロバイダ820はAR/MRアプリケーションプロバイダ706に対応してもよい。実施形態では、メディアクライアント812およびメディアセッションハンドラ814は、認知没入型クライアント804に含まれてもよく、または認知没入型クライアント804と呼ばれてもよく、メディアAF 816、メディアAS 818、およびAR/MRアプリケーションプロバイダ820は、認知没入型サーバ806に含まれてもよく、または認知没入型サーバ806と呼ばれてもよい。
【0069】
動作830において、シーンコンテンツがメディアAS 818によって取り込まれる。動作832において、サービス告知およびコンテンツ配信が基本AR/MRアプリケーション807によってトリガされる。サービスアクセス情報は、メディアクライアントエントリを含み、またはサービスアクセス情報への参照は、M8dインターフェースを介して提供される。動作834において、メディアコンテンツ/シーンが選択される。動作836において、サービスアクセス情報は、必要に応じて取得または更新される(すなわち、動作836は任意選択であってもよい)。動作838において、基本AR/MRアプリケーション807は、AR/MRシーンマネージャ810をエントリポイント(すなわち、全シーン記述)URLで初期化する。動作840において、メディアクライアント812は、エントリポイントを受信するためのトランスポートセッションを確立する。動作841において、メディアクライアント812は、エントリポイントまたはシーン記述への更新を要求し受信する。動作842において、エントリポイントが処理される。本明細書で言及されるように、シーン記述は、エントリポイント、持続時間、解像度、ビットレート、および/またはシーンに関連する他の情報などのシーンに関する情報を含むデータテーブルであり得る。全シーン記述は、全シーンのエントリポイントを含むことができ、簡略化されたシーン記述は、簡略化されたシーンのエントリポイントを含むことができる。全シーン記述は、シーンの開始時のエントリポイントを指すことができ、簡略化されたシーン記述は、全シーンの一部のエントリポイントを指すことができる(例えば、全シーンの部分は、単純化されたシーンであってもよい)。したがって、簡略化されたシーン記述は、全シーン記述に基づいて導出され得る。例えば、全シーンは時点t0からt4を含むことができ、全シーン記述は、全シーンのエントリポイントが時点t0であることを示すことができる。簡略化されたシーンは、時点t2から時点t3までの全シーンの部分を含むことができ、簡略化されたシーン記述は、簡略化されたシーンのエントリポイントが時点t2であることを示すことができる。
【0070】
動作844において、システムは、シーン記述およびデバイス能力に基づいてメディアAS 818を選択し、エッジ処理をインスタンス化する。処理されたシーン記述およびデバイス能力に基づいて、メディアAS 818が選択され、エッジサーバ704で定義されたプロセスを使用してエッジプロセスがインスタンス化される。AR/MRシーンマネージャ810は、シーン記述およびデバイス能力をメディアAS 818へ送信してもよい。メディアAS 818は、エッジAS(EAS)重要パーフォーマンス指標(KPI、Key Performance Indicators)を導出し、必要に応じて、新しいKPIに基づいて(例えば、メディアAF 816を介して)新しいAS/EASを選択する。エッジ処理が開始され、新たなエントリポイントURLがAR/MRシーンマネージャ810に提供される。あるいは、いくつかの実施形態では、AR/MRシーンマネージャ810は、シーン記述およびデバイス能力からEAS KPIを導出し、適切なEASのリストを提供するようにメディアAF 816に要求することができる。AR/MRシーンマネージャ810は、AS/EASを選択し、ASにおけるエッジ処理の開始を要求してもよい(例えば、選択されたASは、メディアAS 818であってもよい)。エッジ処理が開始され、新しいエントリポイントURLがAR/MRシーンマネージャに提供される。
【0071】
動作846において、AR/MRシーンマネージャ810は、簡略化されたシーンエントリポイント/シーン記述を要求する。エッジプロセスは、全シーン記述から簡略化されたシーンエントリ/記述を導出し、それをAR/MRシーンマネージャに提供する。動作848において、簡略されたエントリポイント(すなわち、簡略化されたシーン記述)が処理される。
【0072】
動作850において、アップリンクストリームおよびダウンリンクストリームのためのトランスポートセッションが確立される。動作852において、メディアクライアント812は、アップリンクメディアパイプラインおよびダウンリンクメディアパイプラインを構成する。動作854において、メディアAS 818は、メディアセッションを起動し開始する。メディアセッションは、UEに固有のステートフルセッションループを形成する(すなわち、動作856~876)。
【0073】
動作856において、最新のインタラクションおよび姿勢情報がAR/MRシーンマネージャ810によって取得され、メディアクライアント812と共有される。動作858において、メディアクライアント812は、次いで、最新のインタラクションおよび姿勢情報を送信し、次いで、最新のインタラクションおよび姿勢情報は、メディアAS 818およびシーンサーバにそれを送信する。動作860において、基本AR/MRアプリケーション807は、M8dインターフェースを介して認知没入型サーバ806に、最新の認知データならびに追加インタラクションおよび姿勢情報を送信する。動作862において、メディアクライアント812は、メディアAS 818およびシーンサーバへのアップリンクトランスポートを介して、認知メディアデータをストリーミングする。動作864において、シーンサーバは、受信した認知データに基づいてシーン記述を作成または更新する。例えば、シーンサーバは、例えば意味的知覚、空間的位置特定、およびマッピングを含むことができる、認知処理を実行することができる。動作866において、シーンサーバは、更新されたメディアオブジェクトおよびシーン記述をメディアAS 818に提供することができる。例えば、更新されたメディアオブジェクトは、認知処理の結果に基づいて取得されてもよく、認知メディアを含んでもよい。
【0074】
動作868において、メディアクライアント812は没入型メディアを要求することができ、メディアAS 818はメディアのプレレンダリングを実行することができる。プレレンダリングは、没入型メディアの復号およびレンダリング、ならびに、レンダリングされた(2D)メディアの符号化を含むことができる。動作870において、プリレンダリングされたメディアは、メディアAS 818によってメディアクライアント812に送信される。動作872において、メディアクライアント812は、メディアデータを復号して処理する。暗号化されたメディアデータの場合、メディアクライアント812は暗号解除を実行することもできる。動作880において、メディアクライアント812は、AR/MRシーンマネージャ810にメディアデータを渡す。動作874において、AR/MRシーンマネージャ810は、メディアをレンダリングし、レンダリングされたメディアをARランタイム808に渡す。ARランタイム808は、動作876において、ARコンテンツの現実世界への登録、合成、および姿勢補正などのさらなる処理を実行する。
【0075】
実施形態では、AR/MRシーンの認知情報およびメディアデータは、STARおよび/またはEDGARデバイスへのストリーミング中に連続的で動的に更新することができ、したがって、生成されたシーンは、ストリーミングセッション中に完全に変更することができる。
【0076】
実施形態では、デバイスからアプリケーションサーバへのメディアオブジェクトのアップリンクストリーミングと、アプリケーションサーバからSTARデバイスへの再構築シーンのメディアオブジェクトのダウンリンクストリーミングとを配信するために、内部ループが使用されている間に、コールフローの外部ループで、STARデバイスからの認知情報がアプリケーションサーバに配信されてもよい。この手法を使用して、完全に新しい場所またはシーンなどの認知情報が根本的に変更されるときはいつでも、内部ループを中断して新しいシーンに関連するメディアオブジェクトと置き換えることができ、したがって、新しいシーンにおいてもはや関連性のないメディアオブジェクトのためにストリーミング帯域幅が浪費されない。
【0077】
実施形態では、EDGARデバイスからデバイスへの認知情報更新は、アプリケーションサーバからEDGEデバイスへのメディアオブジェクトストリーミングと同じループの一部であり、シーン更新は、認識情報およびメディアデータを使用してメディアアプリケーションサーバで行われ、したがって、EDGARデバイスは、任意のシーン更新をビデオストリーミングセッションの連続部分と見なす。
【0078】
したがって、実施形態は、更新可能なシーンを有するAR/MRデバイスに認知没入型体験を配信するための方法を提供することができ、認知情報およびメディアオブジェクトはアプリケーションサーバにストリーミングされ、シーンはこの情報に基づいて生成され、デバイスにダウンストリームされる。実施形態では、STARデバイスとEDGARデバイスの両方が更新された没入型シーンを受信することができる。実施形態では、STARデバイスの場合、コールフローは二重ループを含むことができ、ここで、外部ループでは、認知データがアプリケーションサーバにアップストリームされ、シーン更新がデバイスにダウンストリームされ、内部ループでは、構成されたシーンのメディアオブジェクトがデバイスにダウンストリームされている間に、取り込まれたメディアオブジェクトがネットワークにアップストリームされる。実施形態では、EDGARデバイスの場合、メディアオブジェクトのアップリンクおよびダウンリンクストリーミングは、単一ループ内で発生し、その中で、デバイスから連続的に受信し、全体的なAR/MR体験を含むストリーミングビデオをEDGARデバイスに提供する、認知情報およびメディアオブジェクトを使用して、アプリケーションサーバが、シーン記述およびメディアオブジェクトを構築する。
【0079】
図9は、実施形態による、5G AR/MR体験を配信するためのプロセス900のフローチャートである。
【0080】
動作902において、プロセス900は、AR/MRメディアコンテンツをストリーミングするためのAR/MRセッションを確立することを含む。動作904において、プロセス900は、複数のAR/MRシーンに関連付けられたAR/MRメディアコンテンツ更新を受信することを含む。動作906において、プロセス900は、AR/MRメディアコンテンツに含まれるそれぞれのAR/MRシーンを反復的に受信することを含む。動作908において、プロセス900は、それぞれのAR/MRシーンをレンダリングすることを含む。動作910において、プロセス900は、それぞれのAR/MRシーンに対応する認知情報および姿勢情報を取得することを含む。動作912において、プロセス900は、AR/MRメディアコンテンツがストリーミングされている間に認知情報および姿勢情報を認知没入型サーバに送信することを含む。動作914において、プロセス900は、認知情報および姿勢情報に基づく認知メディアデータを含む新しいAR/MRシーンを受信するステップを含む。動作916において、プロセス900は、新しいAR/MRシーンをレンダリングすることを含む。
【0081】
実施形態では、認知メディアデータは、認知情報および姿勢情報に基づいて、意味的知覚、空間的位置特定、およびマッピングのうちの少なくとも1つを実行することによって生成され得る。
【0082】
実施形態では、AR/MRメディアコンテンツは、スタンドアロン拡張現実(STAR)メディアコンテンツを含んでもよい。
【0083】
実施形態では、AR/MRセッションは、外部セッションループで作成されてもよく、認知情報および姿勢情報は、外部セッションループで認知没入型サーバに送信されてもよい。
【0084】
実施形態では、それぞれのAR/MRシーンは、外部セッションループ内の内部セッションループ内でレンダリングされてもよく、内部セッションループがAR/MRメディアコンテンツをレンダリングしている間に、内部セッションループに新しいAR/MRシーンを提供することによって、それぞれのAR/MRシーンが新しいAR/MRシーンで更新してもよい。
【0085】
実施形態では、AR/MRメディアコンテンツは、エッジ依存AR(EDGAR)メディアコンテンツを含んでもよい。
【0086】
実施形態では、AR/MRセッションは、それぞれのAR/MRシーンが受信され、認知情報および姿勢情報が送信され、新しいAR/MRシーンが受信される単一ループを含んでもよい。
【0087】
図9はプロセス900の例示的なブロックを示す、いくつかの実装形態では、プロセス900は、
図9に示されたものよりも追加のブロック、より少ないブロック、異なるブロック、または異なる配置のブロックを含んでもよい。追加的または代替的に、プロセス900のブロックのうちの2つ以上が並列に実行されてもよい。
【0088】
さらに、提案された本方法は、処理回路(例えば、1つまたは複数のプロセッサまたは1つまたは複数の集積回路)によって実施されてもよい。一例では、1つまたは複数のプロセッサは、非一時的コンピュータ可読媒体に記憶されているプログラムを実行して、提案された本方法の1つまたは複数を実行する。
【0089】
上述した技術は、1つまたは複数のコンピュータ可読媒体に物理的に記憶された、コンピュータ可読命令を使用するコンピュータソフトウェアとして実装されることができる。
【0090】
本開示の実施形態は、別々に使用されてもよく、任意の順序で組み合わされてもよい。さらに、実施形態(およびその方法)の各々は、処理回路(例えば、1つまたは複数のプロセッサまたは1つまたは複数の集積回路)によって実施されてもよい。一例では、1つ以上のプロセッサは、非一時的コンピュータ可読媒体に記憶されたプログラムを実行する。
【0091】
前述の開示は、例示および説明を提供しているが、網羅的であることも、実装形態を厳密に開示の形態に限定することも意図されていない。修正形態および変形形態が上記の開示に照らして可能であり、または実装形態の実践から取得されてもよい。
【0092】
本明細書で使用される場合、構成要素という用語は、ハードウェア、ファームウェア、またはハードウェアとソフトウェアとの組み合わせとして広く解釈されることを意図している。
【0093】
特徴の組み合わせが特許請求の範囲に記載され、かつ/または本明細書に開示されているが、これらの組み合わせは、可能な実装形態の開示を限定することを意図されていない。実際、これらの特徴の多くは、特許請求の範囲に特に列挙されておらず、かつ/または本明細書に開示されていない方法で組み合わされてもよい。以下に列挙されている各従属請求項は1つの請求項のみに直接従属し得るが、可能な実装形態の開示は、請求項セット内の他のすべての請求項との組み合わせにおいて各従属請求項を含む。
【0094】
本明細書で使用される要素、動作、または命令は、そのようなものとして明示的に記載されていない限り、重要または必須であると解釈されてはならない。また、本明細書で使用される場合、冠詞「a」および「an」は、1つまたは複数の項目を含むことを意図されており、「1つまたは複数」と交換可能に使用されてもよい。さらに、本明細書で使用される「セット」という用語は、1つまたは複数の項目(例えば、関連項目、非関連項目、関連項目と非関連項目の組み合わせなど)を含むものであり、「1つまたは複数」と同じ意味で使用されてもよい。1つの項目のみが対象とされる場合、「1つ」という用語または同様の言葉が使用される。また、本明細書で使用される「有する(has)」、「有する(have)」、「有する(having)」などの用語は、オープンエンド用語であることが意図されている。さらに、「に基づいて」という語句は、特に明記されない限り、「に少なくとも部分的に基づいて」を意味することが意図されている。
【符号の説明】
【0095】
100 環境
110 ユーザデバイス
120 プラットフォーム
122 クラウドコンピューティング環境
124 コンピューティングリソース
124-1 アプリケーション
124-2 仮想マシン(VM)
124-3 仮想化ストレージ(VS)
124-4 ハイパーバイザ(HYP)
130 ネットワーク
200 デバイス
210 バス
220 プロセッサ
230 メモリ
240 記憶構成要素
250 入力構成要素
260 出力構成要素
270 通信インターフェース
300 メディアアーキテクチャ
301 5GMSuアプリケーションプロバイダ
302 5GMSuアウェアアプリケーション
304 5GMSuクライアント
305 5GMSu AF
306 5GMSu AS
307 データネットワーク(DN)
308 ネットワーク公開機能(NEF)
309 メディアセッションハンドラ
310 メディアストリーマ
320 リンク
321 リンク
322 リンク
323 リンク
324 リンク
325 リンク
326 リンク
327 リンク
328 リンク
400 メディアアーキテクチャ
401 5GMSdアプリケーションプロバイダ
402 5GMSdアウェアアプリケーション
403 ユーザ機器(UE)
404 5GMSdクライアント
405 5GMSd AF
406 5GMSd AS
407 DN
408 NEF
409 メディアセッションハンドラ
410 メディアプレーヤ
420 リンク
421 リンク
422 リンク
423 リンク
424 リンク
425 リンク
426 リンク
427 リンク
428 リンク
500 5GMSdダウンロードアーキテクチャ
502 5G STAR UE
504 5Gシステム
506 AR/MRアプリケーションプロバイダ
508 ARランタイム
510 ARシーンマネージャ
512 メディアアクセス機能
514 AR/MRアプリケーション
516 XR計算モジュール
518 姿勢補正モジュール
520 音場マッピングモジュール
522 コンポジタ
523 没入型ビジュアルレンダラ
524 没入型オーディオレンダラ
526 メディアセッションハンドラ
528 メディアクライアント
530 2Dコーデック
532 没入型メディアデコーダ
534 シーン記述配信モジュール
536 コンテンツ配信モジュール
538 XR空間記述配信モジュール
540 5Gシステム(Uu)
542 5Gノード(gNb)
544 メディアAF
546 メディアAS
548 AR機能
550 ARシーンモジュール
582 M4インターフェース
586 M5インターフェース
588 M8インターフェース
590 ARランタイムAPI
591 ユーザ入力
592 カメラ
593 センサ
594 ディスプレイ
595 スピーカ
604 認知没入型クライアント
606 認知没入型サーバ
607 AR/MRアプリケーション
608 ARランタイム
610 AR/MRシーンマネージャ
612 クライアント
614 メディアセッションハンドラ
616 メディアAF
618 メディアAS
620 AR/MRアプリケーションプロバイダ
700 5GMSdダウンロードアーキテクチャ
702 5G EDGAR UE
704 クラウド/エッジサーバ
706 AR/MRアプリケーションプロバイダ
708 ARランタイム
710 軽量シーンマネージャ
712 5GMSクライアント
714 基本AR/MRアプリケーション
716 ビジョンエンジン/同時位置特定およびマッピング(SLAM)
718 姿勢補正
720 音場マッピング
722 MRアプリケーションプロバイダ
724 コンポジタ
726 メディアセッションハンドラ
728 メディアクライアント
730 シーン記述配信モジュール
732 コンテンツ配信モジュール
734 基本コーデック
736 5G軽量システム(Uu)
738 5Gシステム(gNb)
740 AR/MRアプリケーション
742 メディア配信機能
744 メディアAF
746 メディアAS
748 コンテンツ配信機能
750 シーン記述機能
752 デコーダ
754 エンコーダ
756 ARシーンマネージャ
758 シーングラフ生成器
760 没入型ビジュアルレンダラ
762 没入型オーディオレンダラ
764 AR機能
766 意味的知覚モジュール
768 ソーシャル統合モジュール
770 メディアアセットデータベース
774 没入型メディアサーバ
776 シーン記述モジュール
778 マニフェストサーバ
780 セグメントサーバ
782 M4インターフェース
784 M4インターフェース
786 M5dインターフェース
788 M8インターフェース
791 ユーザ入力
792 カメラ
793 センサ
794 ディスプレイ
795 スピーカ
802 EDGAR UE
804 認知没入型クライアント
806 認知没入型サーバ
807 AR/MRアプリケーション
808 ARランタイム
810 AR/MRシーンマネージャ
812 メディアクライアント
814 メディアセッションハンドラ
816 メディアAF
818 メディアAS
820 AR/MRアプリケーションプロバイダ
【手続補正書】
【提出日】2023-09-04
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
第5世代(5G)の拡張現実(AR)/複合現実(MR)体験を配信するための方法であって、前記方法は、
5Gメディアストリーミング(5GMS)ネットワークを介する送信用のAR/MRメディアコンテンツをストリーミングするためのAR/MRセッションを確立するステップと、
複数のAR/MRシーンに関連付けられたAR/MRメディアコンテンツ更新を受信するステップと、
前記複数のAR/MRシーンに含まれるそれぞれのAR/MRシーンを反復的に受信するステップと、
前記それぞれのAR/MRシーンをレンダリングするステップと、
前記それぞれのAR/MRシーンに対応する認知情報および姿勢情報を取得するステップと、
前記AR/MRメディアコンテンツがストリーミングされている間に、前記認知情報および前記姿勢情報を認知没入型サーバに送信するステップと
を含む、方法。
【請求項2】
前記認知メディアデータは、前記認知情報および前記姿勢情報に基づいて、意味的知覚、空間的位置特定、およびマッピングのうちの少なくとも1つを実行することによって生成される、請求項1に記載の方法。
【請求項3】
前記AR/MRメディアコンテンツは、スタンドアロン拡張現実(STAR)メディアコンテンツを含む、請求項1に記載の方法。
【請求項4】
前記AR/MRセッションは、外部セッションループで作成され、
前記認知情報および前記姿勢情報は、前記外部セッションループで前記認知没入型サーバに送信される、請求項3に記載の方法。
【請求項5】
前記方法は、
前記認知情報および前記姿勢情報に基づく認知メディアデータを含む新しいAR/MRシーンを受信するステップと、
前記新しいAR/MRシーンをレンダリングするステップと
をさらに含み、
前記それぞれのAR/MRシーンは、前記外部セッションループ内の内部セッションループでレンダリングされ、
前記それぞれのAR/MRシーンは、前記内部セッションループが前記AR/MRメディアコンテンツをレンダリングしている間に、前記内部セッションループに前記新しいAR/MRシーンを提供することによって前記新しいAR/MRシーンで更新される、
請求項4に記載の方法。
【請求項6】
前記AR/MRメディアコンテンツは、エッジ依存AR(EDGAR)メディアコンテンツを含む、請求項1に記載の方法。
【請求項7】
前記方法は、
前記認知情報および前記姿勢情報に基づく認知メディアデータを含む新しいAR/MRシーンを受信するステップと、
前記新しいAR/MRシーンをレンダリングするステップと
をさらに含み、
前記AR/MRセッションは、前記それぞれのAR/MRシーンが受信され、前記認知情報および前記姿勢情報が送信され、かつ、前記新しいAR/MRシーンが受信される、単一ループを含む、
請求項6に記載の方法。
【請求項8】
第5世代(5G)の拡張現実(AR)/複合現実(MR)体験を配信するためのデバイスであって、
請求項1から7のいずれか一項に記載の方法を実施するように構成される処理回路を備える、デバイス。
【請求項9】
少なくとも1つのプロセッサによって実行されると、前記少なくとも1つのプロセッサに、請求項1から7のいずれか一項に記載の方法を行わせるように構成されたコンピュータプログラム。
【国際調査報告】