(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-06-04
(54)【発明の名称】3Dマップをデコーディングするための装置及び方法、及び3Dマップのエンコーディングされたビットストリーム
(51)【国際特許分類】
G06T 9/00 20060101AFI20240528BHJP
【FI】
G06T9/00
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2023574743
(86)(22)【出願日】2021-06-04
(85)【翻訳文提出日】2024-01-15
(86)【国際出願番号】 CN2021098483
(87)【国際公開番号】W WO2022252235
(87)【国際公開日】2022-12-08
(81)【指定国・地域】
(71)【出願人】
【識別番号】504161984
【氏名又は名称】ホアウェイ・テクノロジーズ・カンパニー・リミテッド
(74)【代理人】
【識別番号】110000877
【氏名又は名称】弁理士法人RYUKA国際特許事務所
(72)【発明者】
【氏名】カオ、シャオラン
(72)【発明者】
【氏名】カイ、カンイン
(72)【発明者】
【氏名】ワン、ペイ
(72)【発明者】
【氏名】ツ、チェンシ
(72)【発明者】
【氏名】ス、チー
(57)【要約】
本願は、3Dマップをデコーディングするための装置及び方法、及び、3Dマップのエンコーディングされたビットストリームを提供する。本願における3Dマップをデコーディングするための装置は、伝送モジュール及び圧縮解除モジュールを備える。伝送モジュールは、3Dマップのビットストリームを受信するように構成されており、ここで、3Dマップは、複数の3Dマップ点を含む。圧縮解除モジュールは、3Dマップのビットストリームを圧縮解除して、3Dマップの再構築データを取得するように構成されており、ここで、3Dマップの再構築データは、複数の3Dマップ点の再構築データを含む。本願において、デコンプレッサ端は、3Dマップのデータの圧縮/圧縮解除をサポートするために、3Dマップの圧縮データの圧縮解除をサポートしてよい。これにより、3Dマップのデータが占有するビットの数を低減させ、それにより、送信帯域幅を低減させるとともに送信効率を改善することができる。
【特許請求の範囲】
【請求項1】
エンコーディング装置及びデコーディング装置を備える、3Dマップのためのコーデックシステムであって、ここで、前記エンコーディング装置は、前記デコーディング装置に通信可能に接続されており;
前記エンコーディング装置は、3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得し、前記3Dマップの前記ビットストリームを前記デコーディング装置に送信するように構成されており、ここで、前記3Dマップは、複数の3Dマップ点を含み、前記3Dマップの前記データは、前記複数の3Dマップ点のデータを含む;かつ
前記デコーディング装置は、前記3Dマップの前記ビットストリームを受信し、前記3Dマップの前記ビットストリームを圧縮解除して、前記3Dマップの再構築データを取得するように構成されている
システム。
【請求項2】
前記エンコーディング装置は、クラウドサーバであり、前記デコーディング装置は、電子デバイスである;又は、前記エンコーディング装置は、第1の電子デバイスであり、前記デコーディング装置は、第2の電子デバイスである;
前記デコーディング装置は、3Dマップダウンロード要求を前記デコーディング装置に送信するようにさらに構成されており、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む;かつ
前記エンコーディング装置は、前記3Dマップダウンロード要求を受信して、前記3Dマップダウンロード要求に従って、前記3Dマップの、前記位置指示情報に対応するビットストリームを前記デコーディング装置に送信するようにさらに構成されている
請求項1に記載のシステム。
【請求項3】
前記エンコーディング装置は、電子デバイスであり、前記デコーディング装置は、クラウドサーバである;かつ
前記エンコーディングデバイスは、前記3Dマップが生成された後、前記3Dマップの前記ビットストリームを前記デコーディング装置に送信するように特に構成されている
請求項1又は2に記載のシステム。
【請求項4】
前記3Dマップの前記データは、複数のエリア記述子をさらに含み、前記複数のエリア記述子のいずれか1つは、前記複数の3Dマップ点のうちの一部又は全ての3Dマップ点の特徴を記述するものである、請求項1から3のいずれか一項に記載のシステム。
【請求項5】
前記複数の3Dマップ点のいずれか1つのデータは、3Dマップ点記述子及び3Dマップ点空間位置を含む、請求項1又は4に記載のシステム。
【請求項6】
前記エンコーディング装置は、前記3Dマップを生成するようにさらに構成されている、請求項1から5のいずれか一項に記載のシステム。
【請求項7】
前記デコーディング装置は、前記3Dマップに基づいて測位を実行するようにさらに構成されている、請求項1から6のいずれか一項に記載のシステム。
【請求項8】
伝送モジュール及び圧縮解除モジュールを備える、3Dマップをデコーディングするための装置であって、ここで、
前記伝送モジュールは、3Dマップのビットストリームを受信するように構成されており、ここで、前記3Dマップは、複数の3Dマップ点を含む;かつ
前記圧縮解除モジュールは、前記3Dマップの前記ビットストリームを圧縮解除して、前記3Dマップの再構築データを取得するように構成されており、ここで、前記3Dマップの前記再構築データは、前記複数の3Dマップ点の再構築データを含む
装置。
【請求項9】
前記3Dマップの前記再構築データは、複数のエリア記述子の再構築データをさらに含み、前記複数のエリア記述子のいずれか1つは、前記複数の3Dマップ点の一部又は全ての3Dマップ点の特徴を記述する
請求項8に記載の装置。
【請求項10】
前記複数の3Dマップ点のいずれか1つの再構築データは、3Dマップ点記述子の再構築データ及び3Dマップ点空間位置の再構築データを含む、請求項9に記載の装置。
【請求項11】
3Dマップをデコーディングするための前記装置は、クラウドサーバ又は電子デバイスであり;かつ
前記伝送モジュールは、3Dマップダウンロード要求を送信し、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む;前記3Dマップの、前記位置指示情報に対応するビットストリームを受信するようにさらに構成されている
請求項8から10のいずれか一項に記載の装置。
【請求項12】
3Dマップをデコーディングするための前記装置は、クラウドサーバであり;かつ
前記伝送モジュールは、電子デバイスによって生成された前記3Dマップの前記ビットストリームを受信するように特に構成されている
請求項8から10のいずれか一項に記載の装置。
【請求項13】
前記圧縮解除モジュールは、カプセル化解除モジュール、及び予測モジュール及び/又は量子化解除モジュールを有し;
前記カプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第1のデータを出力するように構成されており;
前記予測モジュールは、第2のデータの入力された残差データに対して予測を実行して、前記第2のデータを出力するように構成されており;
前記量子化解除モジュールは、入力された第3のデータに対して量子化解除を実行して、前記第3のデータの量子化解除データを出力するように構成されており;かつ
前記第1のデータは、前記第2のデータの前記残差データ又は前記第3のデータであり、前記第2のデータは、前記3Dマップの前記再構築データ又は前記第3のデータであり、前記第3のデータの前記量子化解除データは、前記3Dマップの前記再構築データである
請求項8から12のいずれか一項に記載の装置。
【請求項14】
前記予測モジュールは、第1の予測モジュール及び第2の予測モジュールを含み;及び/又は、前記量子化解除モジュールは、第1の量子化解除モジュール及び第2の量子化解除モジュールを含み;
前記第1の予測モジュールは、第4のデータの入力された残差データに対して予測を実行して、前記第4のデータを出力するように構成されており;
前記第1の量子化解除モジュールは、入力された第5のデータに対して量子化解除を実行して、前記第5のデータの量子化解除データを出力するように構成されており;
前記第4のデータは、前記複数のエリア記述子のうちの1つの再構築データ又は前記第5のデータであり、前記第5のデータの前記量子化解除データは、前記複数のエリア記述子のうちの1つの再構築データであり;
前記第2の予測モジュールは、第6のデータの入力された残差データに対して予測を実行して、前記第6のデータを出力するように構成されており;
前記第2の量子化解除モジュールは、入力された第7のデータに対して量子化解除を実行して、前記第7のデータの量子化解除データを出力するように構成されており;かつ
前記第6のデータは、前記複数の3Dマップ点のうちの1つの再構築データ又は前記第7のデータであり、前記第7のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの再構築データである
請求項13に記載の装置。
【請求項15】
前記予測モジュールは、第1の予測モジュール、第2の予測モジュール、及び第3の予測モジュールを含み;及び/又は、前記量子化解除モジュールは、第1の量子化解除モジュール、第2の量子化解除モジュール、及び第3の量子化解除モジュールを含み;
前記第1の予測モジュールは、第8のデータの入力された残差データに対して予測を実行して、前記第8のデータを出力するように構成されており;
前記第1の量子化解除モジュールは、入力された第9のデータに対して量子化解除を実行して、前記第9のデータの量子化解除データを出力するように構成されており;
前記第8のデータは、前記複数のエリア記述子のうちの1つの再構築データ又は前記第9のデータであり、前記第9のデータの前記量子化解除データは、前記複数のエリア記述子のうちの1つの再構築データであり;
前記第2の予測モジュールは、第10のデータの入力された残差データに対して予測を実行して、前記第10のデータを出力するように構成されており;
前記第2の量子化解除モジュールは、入力された第11のデータに対して量子化解除を実行して、前記第11のデータの量子化解除データを出力するように構成されており;
前記第10のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データ又は前記第11のデータであり、前記第11のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データであり;
前記第3の予測モジュールは、第12のデータの入力された残差データに対して予測を実行して、前記第12のデータを出力するように構成されており;
前記第3の量子化解除モジュールは、入力された第13のデータに対して量子化解除を実行して、前記第13のデータの量子化解除データを出力するように構成されており;かつ
前記第12のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データ又は前記第13のデータであり、前記第13のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データである
請求項13に記載の装置。
【請求項16】
前記圧縮解除モジュールは、第1の圧縮解除サブモジュール及び第2の圧縮解除サブモジュールを有し;
前記第1の圧縮解除サブモジュールは、第14のデータの入力されたビットストリームを圧縮解除して、前記第14のデータを出力するように構成されており;
前記第2の圧縮解除サブモジュールは、第15のデータの入力されたビットストリームを圧縮して、前記第15のデータを出力するように構成されており;かつ
前記第14のデータは、前記複数のエリア記述子のうちの1つの再構築データであり、前記第15のデータは、前記複数の3Dマップ点のうちの1つの再構築データである
請求項8から12のいずれか一項に記載の装置。
【請求項17】
前記第1の圧縮解除サブモジュールは、第1のカプセル化解除モジュール、第1の予測モジュール及び/又は第1の量子化解除モジュールを含み;前記第2の圧縮解除サブモジュールは、第2のカプセル化解除モジュール、及び第2の予測モジュール及び/又は第2の量子化解除モジュールを含み;
前記第1のカプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第16のデータを出力するように構成されており;
前記第1の予測モジュールは、第17のデータの入力された残差データに対して予測を実行して、前記第17のデータを出力するように構成されており;
前記第1の量子化解除モジュールは、入力された第18のデータに対して量子化解除を実行して、前記第18のデータの量子化解除データを出力するように構成されており;
前記第16のデータは、前記第17のデータの前記残差データ又は前記第18のデータであり、前記第17のデータは、前記複数のエリア記述子のうちの1つの再構築データ又は前記第18のデータであり、前記第18のデータの前記量子化解除データは、前記複数のエリア記述子のうちの1つの再構築データであり;
前記第2のカプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第19のデータを出力するように構成されており;
前記第2の予測モジュールは、第20のデータの入力された残差データに対して予測を実行して、前記第20のデータを出力するように構成されており;
前記第2の量子化解除モジュールは、入力された第21のデータに対して量子化解除を実行して、前記第21のデータの量子化解除データを出力するように構成されており;かつ
前記第19のデータは、前記第20のデータの前記残差データ又は前記第21のデータであり、前記第20のデータは、前記複数の3Dマップ点のうちの1つの再構築データ又は前記第21のデータであり、前記第21のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの再構築データである
請求項16に記載の装置。
【請求項18】
前記圧縮解除モジュールは、第1の圧縮解除サブモジュール、第2の圧縮解除サブモジュール、及び第3の圧縮解除サブモジュールを有し;
前記第1の圧縮解除サブモジュールは、第22のデータの入力されたビットストリームを圧縮解除して、前記第22のデータを出力するように構成されており;
前記第2の圧縮解除サブモジュールは、第23のデータの入力されたビットストリームを圧縮して、前記第23のデータを出力するように構成されており;
前記第3の圧縮解除サブモジュールは、第24のデータの入力されたビットストリームを圧縮して、前記第24のデータを出力するように構成されており;かつ
前記第22のデータは、前記複数のエリア記述子のうちの1つの再構築データであり、前記第23のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データであり、前記第24のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データである
請求項8から12のいずれか一項に記載の装置。
【請求項19】
前記第1の圧縮解除サブモジュールは、第1のカプセル化解除モジュール、及び第1の予測モジュール及び/又は第1の量子化解除モジュールを有し;前記第2の圧縮解除サブモジュールは、第2のカプセル化解除モジュール、及び第2の予測モジュール及び/又は第2の量子化解除モジュールを有し;前記第3の圧縮解除サブモジュールは、第3のカプセル化解除モジュール、及び第3の予測モジュール及び/又は第3の量子化解除モジュールを含み;
前記第1のカプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第25のデータを出力するように構成されており;
前記第1の予測モジュールは、第26のデータの入力された残差データに対して予測を実行して、前記第26のデータを出力するように構成されており;
前記第1の量子化解除モジュールは、入力された第27のデータに対して量子化解除を実行して、前記第27のデータの量子化解除データを出力するように構成されており;
前記第25のデータは、前記第26のデータの前記残差データ又は前記第27のデータであり、前記第26のデータは、前記複数のエリア記述子のうちの1つの再構築データ又は前記第27のデータであり、前記第27のデータの前記量子化解除データは、前記複数のエリア記述子のうちの1つの再構築データであり;
前記第2のカプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第28のデータを出力するように構成されており;
前記第2の予測モジュールは、第29のデータの入力された残差データに対して予測を実行して、前記第29のデータを出力するように構成されており;
前記第2の量子化解除モジュールは、入力された第30のデータに対して量子化解除を実行して、前記第30のデータの量子化解除データを出力するように構成されており;
前記第28のデータは、前記第29のデータの前記残差データ又は前記第30のデータであり、前記第29のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データ又は前記第30のデータであり、前記第30のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データであり;
前記第3のカプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第31のデータを出力するように構成されており;
前記第3の予測モジュールは、第32のデータの入力された残差データに対して予測を実行して、前記第32のデータを出力するように構成されており;
前記第3の量子化解除モジュールは、入力された第33のデータに対して量子化解除を実行して、前記第33のデータの量子化解除データを出力するように構成されており;
前記第31のデータは、前記第32のデータの前記残差データ又は前記第33のデータであり、前記第32のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データ又は前記第33のデータであり、前記第33のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データである
請求項18に記載の装置。
【請求項20】
3Dマップをデコーディングするための方法であって、
3Dマップのビットストリームを受信する段階、ここで、前記3Dマップは、複数の3Dマップ点を含む;及び
前記3Dマップの前記ビットストリームを圧縮解除して、前記3Dマップの再構築データを取得する段階、ここで、前記3Dマップの前記再構築データは、前記複数の3Dマップ点の再構築データを含む
を備える方法。
【請求項21】
前記3Dマップの前記再構築データは、複数のエリア記述子の再構築データをさらに含み、前記複数のエリア記述子のいずれか1つは、前記複数の3Dマップ点の一部又は全ての3Dマップ点の特徴を記述する
請求項20に記載の方法。
【請求項22】
前記複数の3Dマップ点のいずれか1つの再構築データは、3Dマップ点記述子の再構築データ及び3Dマップ点空間位置の再構築データを含む、請求項21に記載の方法。
【請求項23】
3Dマップダウンロード要求を送信する段階、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む
をさらに備え;かつ
3Dマップのビットストリームを前記受信する段階は、
前記3Dマップの、前記位置指示情報に対応するビットストリームを受信する段階
を有する、請求項20から22のいずれか一項に記載の方法。
【請求項24】
3Dマップのビットストリームを前記受信する段階は、
電子デバイスによって生成された前記3Dマップの前記ビットストリームを受信する段階
を有する、請求項20から22のいずれか一項に記載の方法。
【請求項25】
前記3Dマップの前記ビットストリームを前記圧縮解除して前記3Dマップの再構築データを取得する段階は、
前記3Dマップの前記ビットストリームを処理して、第1のデータを取得する段階;及び
第2のデータの残差データに対して予測を実行して、前記第2のデータを取得する段階、及び/又は、第3のデータに対して量子化解除を実行して、前記第3のデータの量子化解除データを取得する段階、ここで、
前記第1のデータは、前記第2のデータの前記残差データ又は前記第3のデータであり、前記第2のデータは、前記3Dマップの前記再構築データ又は前記第3のデータであり、前記第3のデータの前記量子化解除データは、前記3Dマップの前記再構築データである
を有する、請求項20から24のいずれか一項に記載の方法。
【請求項26】
3Dマップをエンコーディングするための装置であって、
1又は複数のプロセッサ;及び
1又は複数のプログラムを格納するように構成されているメモリ
を備え、ここで、
前記1又は複数のプログラムが前記1又は複数のプロセッサによって実行される場合、前記1又は複数のプロセッサは、請求項20から25のいずれか一項に記載の方法を実施することが可能になる
装置。
【請求項27】
3Dマップをデコーディングするための装置であって、
圧縮を通じて取得されたビットストリーム形式の3Dマップを格納するように構成されているメモリ、ここで、前記3Dマップは、複数の3Dマップ点を含み、前記3Dマップのデータは、前記複数の3Dマップ点のデータを含む;及び
圧縮を通じて取得されたビットストリーム形式の前記3Dマップを圧縮解除して、再構築3Dマップを取得するように構成されているデコーダ、ここで、前記再構築3Dマップは、前記複数の3Dマップ点を含み、前記再構築3Dマップのデータは、前記複数の3Dマップ点の前記再構築データを含む
を備える装置。
【請求項28】
前記再構築3Dマップの前記データは、複数のエリア記述子の再構築データをさらに含み、前記複数のエリア記述子のいずれか1つは、前記複数の3Dマップ点の一部又は全ての3Dマップ点の特徴を記述する
請求項27に記載の装置。
【請求項29】
前記複数の3Dマップ点のいずれか1つの再構築データは、3Dマップ点記述子の再構築データ及び3Dマップ点空間位置の再構築データを含む、請求項27又は28に記載の装置。
【請求項30】
3Dマップをエンコーディングするための前記装置は、クラウドサーバ又は電子デバイスである、請求項27から29のいずれか一項に記載の装置。
【請求項31】
コンピュータプログラムを備え、前記コンピュータプログラムがコンピュータ上で実行される場合、前記コンピュータは、請求項20から25のいずれか一項に記載の方法を実行することが可能になる、コンピュータ可読記憶媒体。
【請求項32】
コンピュータプログラム製品であって、コンピュータプログラムコードを備え、前記コンピュータプログラムコードがコンピュータで実行される場合、前記コンピュータは、請求項20から25のいずれか一項に記載の方法を実行することが可能になる、コンピュータプログラム製品。
【請求項33】
3Dマップのエンコーディングされたビットストリームであって、前記3Dマップの前記エンコーディングされたビットストリームは、複数の3Dマップ点のビットストリームを備え、前記3Dマップは、前記複数の3Dマップ点を含む、ビットストリーム。
【請求項34】
前記3Dマップの前記エンコーディングされたビットストリームは、複数のエリア記述子のビットストリームをさらに備え、前記複数のエリア記述子のいずれか1つは、前記複数の3Dマップ点の少なくとも1つの3Dマップ点に対応する、請求項33に記載のビットストリーム。
【請求項35】
前記複数の3Dマップ点のいずれか1つのビットストリームは、3Dマップ点記述子のビットストリーム及び3Dマップ点空間位置のビットストリームを含む、請求項34に記載のビットストリーム。
【請求項36】
前記複数の3Dマップ点のいずれか1つの前記ビットストリームは、前記3Dマップ点の残差データを含む、請求項33に記載の方法。
【請求項37】
前記3Dマップ点記述子の前記ビットストリームは、前記3Dマップ点記述子の残差データを含み;及び/又は、前記3Dマップ点空間位置の前記ビットストリームは、前記3Dマップ点空間位置の残差データを含む、請求項35に記載のビットストリーム。
【請求項38】
前記複数の3Dマップ点のいずれか1つの前記ビットストリームは、参照3Dマップ点の指示情報をさらに含み、前記複数の3Dマップ点は、前記参照3Dマップ点を含み、前記参照3Dマップ点は、前記3Dマップ点がエンコーディングされる前にエンコーディングされている3Dマップ点である、請求項36又は37に記載のビットストリーム。
【請求項39】
前記複数の3Dマップ点のいずれか1つのビットストリームは、前記3Dマップ点の量子化データを含む、請求項33に記載の方法。
【請求項40】
前記3Dマップ点記述子の前記ビットストリームは、前記3Dマップ点記述子の量子化データを含み;及び/又は、前記3Dマップ点空間位置の前記ビットストリームは、前記3Dマップ点空間位置の量子化データを含む、請求項35に記載のビットストリーム。
【請求項41】
前記複数のエリア記述子のいずれか1つのビットストリームは、前記エリア記述子の残差データを含む、請求項34に記載のビットストリーム。
【請求項42】
前記複数のエリア記述子のいずれか1つの前記ビットストリームは、参照エリア記述子の指示情報をさらに含み、前記複数のエリア記述子は、前記参照エリア記述子を含む、請求項41に記載のビットストリーム。
【請求項43】
前記複数のエリア記述子のいずれか1つのビットストリームは、前記エリア記述子の量子化データを含む、請求項34に記載のビットストリーム。
【発明の詳細な説明】
【技術分野】
【0001】
本願は、3Dマップ技術に関し、特に、3Dマップをデコーディングするための装置及び方法、及び3Dマップのエンコーディングされたビットストリームである。
【背景技術】
【0002】
仮想現実(Virtual Reality、VR)、拡張現実(Augmented Reality、AR)、及び複合現実(Mixed Reality、MR)は、近年新たに出現したマルチメディア仮想シーン技術である。このような技術を用いて、仮想現実を生成し、それを実世界に重ねて、新たな視覚環境及びインタラクティブ体験を生み出すことができる。このような応用において、電子デバイスは、仮想オブジェクト及び現実のシーン間の融合を正確に実施するために、現在の環境における電子デバイスのポーズ情報(pose information)を判定する必要がある。
【0003】
さらに、自律運転、自律ナビゲーション、無人航空機自動点検、及び産業ロボット等の応用において、正確なルート計画、ナビゲーション、検出、及び制御を実行するために、車両、無人航空機、又はロボット等の搬送デバイスが、当該搬送デバイスによって搬送されている電子デバイスのポーズ(pose)を判定することで、現在の環境における当該搬送デバイスのポーズを判定する必要がある。
【0004】
前述した応用において、現在の環境における電子デバイスのポーズを判定する必要があるという問題に関して、典型的な解決策は以下の通りである:電子デバイスが、サーバ又は別のデバイスから、電子デバイスが位置している環境の3Dマップを受信し、ローカルセンサを使用することによって、その環境における視覚的情報を収集し、収集された視覚的情報及びダウンロードされた3Dマップに基づいて、電子デバイスの現在のポーズを判定する。
【0005】
しかしながら、元の3Dマップは通例大きなデータボリュームを含み、マップ送信には大量の帯域幅及び時間の消費が必要であり、これにより、アプリケーションパフォーマンスが厳しく制限されるとともにユーザ体験が影響を受ける。
【発明の概要】
【0006】
本願は、3Dマップのデータボリュームを低減し、それにより、送信帯域幅を減少させるとともに送信効率を改善するように、3Dマップをデコーディングするための装置及び方法、及び、3Dマップのエンコーディングされたビットストリームを提供する。
【0007】
第1の態様によれば、本願は、エンコーディング装置及びデコーディング装置を備える、3Dマップのためのコーデックシステムを提供する。エンコーディング装置は、デコーディング装置に通信可能に接続されている。エンコーディング装置は、3Dマップのデータを圧縮して、3Dマップのビットストリームを取得し、3Dマップのビットストリームをデコーディング装置に送信するように構成されており、ここで、3Dマップは、複数の3Dマップ点を含み、3Dマップのデータは、複数の3Dマップ点のデータを含む。デコーディング装置は、3Dマップのビットストリームを受信し、3Dマップのビットストリームを圧縮解除して3Dマップのデータを取得するように構成されている。
【0008】
3Dマップは、複数の3Dマップ点を含んでよく、それに応じて、3Dマップのデータは、複数の3Dマップ点のデータを含んでよい。3Dマップ点は、関心点、又は、環境における有意な特徴を有する点である。
【0009】
本願のこの実施形態において、圧縮モジュールは、3Dマップのデータを圧縮して、3Dマップのデータボリュームを低減させ、例えば、3Dマップのデータボリュームをテラバイト(Terabyte、TB)レベルからギガバイト(Gigabyte、GB)レベルに低減させ得る。したがって、3Dマップが送信される必要があるシナリオにおいて、3Dマップの元のデータを送信する代わりに3Dマップの圧縮データを送信することにより、送信のためのデータボリュームを低減させることができ、かつ当該送信が占有する帯域幅をさらに低減させて、それにより、3Dマップの送信効率を改善することができる。
【0010】
可能な実装において、エンコーディング装置は、クラウドサーバであり、デコーディング装置は、電子デバイスである;又は、エンコーディング装置は、第1の電子デバイスであり、デコーディング装置は、第2の電子デバイスである。デコーディング装置は、3Dマップダウンロード要求をデコーディング装置に送信するようにさらに構成されており、3Dマップダウンロード要求は、位置指示情報を含む。エンコーディング装置は、3Dマップダウンロード要求を受信し、3Dマップダウンロード要求に従って、3Dマップの、位置指示情報に対応するビットストリームを、デコーディング装置に送信するようにさらに構成されている。
【0011】
前述した電子デバイスは、ユーザ端末デバイスであってよい。
【0012】
可能な実装において、エンコーディング装置は、電子デバイスであり、デコーディング装置は、クラウドサーバである。エンコーディングデバイスは、3Dマップが生成された後に、3Dマップのビットストリームをデコーディング装置に送信するように特に構成されている。
【0013】
任意選択で、本願のこの実施形態において、電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及びサーバからの3Dマップを参照して電子デバイスの現在のポーズを判定してよい。
【0014】
3Dマップは、サーバによって提供される。具体的に言えば、サーバは、3Dマップを生成し、次に、この3Dマップを圧縮して、3Dマップの圧縮データを電子デバイスに送信する。3Dマップの圧縮データを受信した後、電子デバイスは、圧縮解除を実行して3Dマップの再構築データを取得し、収集された視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを判定する。ポーズとは、電子デバイスの位置及び向き情報であり、ワールド座標系における絶対的なポーズであってもよいし、又は、環境における或る点に対する相対的なポーズであってもよい。
【0015】
本願のこの実施形態において、サーバは、予め3Dマップを生成して、この3Dマップを圧縮し、次に、3Dマップの圧縮データをローカルに格納してよい。このようにして、記憶領域を節約できる。さらに、サーバは、3Dマップの圧縮データを、別のデバイス、例えば、クラウドストレージに送信してよい。
【0016】
1.サーバは、3Dマップを生成し、3Dマップを圧縮して3Dマップの圧縮データを取得し、圧縮データをローカルに格納する。
【0017】
サーバは、3Dマップを圧縮して、ローカル記憶領域を節約する。
【0018】
2.電子デバイスは、マップダウンロード要求をサーバに送信する。マップダウンロード要求は、2つの方式でトリガされる。
【0019】
(1)ユーザは、電子デバイスにインストールされた3Dマップアプリケーションを開始して、当該アプリケーションは、アプリケーションに対応するサーバに、GPS測位又はWi-Fi(登録商標)測位に基づいて取得された位置情報をアップロードする。アップロード操作は、マップダウンロード要求をトリガしてよい。アップロードされたコンテンツが位置情報を含むことから、サーバは、位置情報に基づいて予備的な推定を実行して、位置情報によって示される測位点が属するエリアの3Dマップの圧縮データを電子デバイスに送信してよい。位置情報によって示される測位点が属するエリアの範囲は、事前設定されてよい。例えば、測位点が属するエリアは、測位点が位置する任意のレベルの行政地域(郡、市、国、又は行政地域を含む)であってもよいし、又は、測位点を中心として、指定された距離を半径として用いた円形エリアであってよい。
【0020】
(2)ユーザは、電子デバイスにインストールされた3Dマップアプリケーションを開始して、能動的に当該アプリケーション上の或るエリアに入るか又はそれを選択する。例えば、ユーザは、能動的に、「xxビジネスセンター」に入るか、又は、「街路A、街路B、及び街路C」のリストから「街路A」を選択する。ユーザの前述した操作は、マップダウンロード要求をトリガしてよい。ユーザが地理的位置に入るか又はそれを選択するかにかかわらず、サーバは、それに応じて、その地理的位置の3Dマップの圧縮データを電子デバイスに送信する。
【0021】
本願のこの実施形態において、前述した2つの方式に加えて、マップダウンロード要求をトリガするために、別の方式が使用されてよいことが理解されるべきである。例えば、電子デバイスは、3Dマップをダウンロードする又は3Dマップのダウンロードを開始するための条件が満たされているか否かを自動で検出するか、又は、電子デバイスは、周囲光の変化又は環境の変化を検出したら、3Dマップのダウンロードを開始して、サーバからエリア範囲の3Dマップをダウンロードすることを要求する。エリア範囲のサイズは、特に限定されるものではない。
【0022】
3.サーバは、3Dマップの圧縮データを電子デバイスに送信する。
【0023】
4.電子デバイスは、視覚的情報を収集する。
【0024】
ステップ3及びステップ4は、互いに独立しており、順序が限定されるものではないことに留意されたい。
【0025】
5.電子デバイスは、3Dマップの圧縮データを圧縮解除して、3Dマップの再構築データを取得する。
【0026】
6.電子デバイスは、視覚的情報に基づいて、3Dマップにおける測位を実行して、視覚的情報に対応するポーズを取得する。
【0027】
3Dマップの圧縮データを受信した後、電子デバイスは、圧縮データを即座に圧縮解除する必要はなく、視覚的情報に基づいて測位を実行する前にのみ、圧縮データを圧縮解除して、3Dマップの再構築データを取得する必要がある。例えば、ユーザは、「オフラインマップ」をダウンロードすることによって、エリア範囲の3Dマップの圧縮データを事前ダウンロードして、測位が必要とされる場合にのみ、3Dマップの圧縮データを圧縮解除してよい。
【0028】
任意選択で、本願のこの実施形態において、電子デバイスは、センサを使用することによって視覚的情報を収集してよく、サーバは、電子デバイスからの視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを判定する。
【0029】
3Dマップは、サーバによって提供される。具体的に言えば、サーバは、3Dマップを生成し、次に、3Dマップを圧縮して、3Dマップの圧縮データをローカルに格納する。電子デバイスから視覚的情報を受信した場合、サーバは、圧縮解除を実行して3Dマップの再構築データを取得し、視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを判定する。
【0030】
1.サーバは、3Dマップを生成し、3Dマップを圧縮して3Dマップの圧縮データを取得し、圧縮データをローカルに格納する。
【0031】
2.電子デバイスは、視覚的情報を収集する。
【0032】
3.電子デバイスは、視覚的情報をサーバに送信する。
【0033】
4.サーバは、3Dマップの圧縮データを圧縮解除して、3Dマップの再構築データを取得する。
【0034】
サーバは、3Dマップを圧縮して、記憶領域を節約することが理解されるべきである。
【0035】
5.サーバは、視覚的情報に基づいて3Dマップにおける測位を実行して、視覚的情報に対応するポーズを取得する。
【0036】
6.サーバは、ポーズを電子デバイスに送信する。
【0037】
任意選択で、本願のこの実施形態において、電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを判定してよい。
【0038】
3Dマップは、電子デバイスによって提供される。具体的に言えば、電子デバイスは、3Dマップを生成し、次に、3Dマップを圧縮し、3Dマップの圧縮データをローカルに格納する。視覚的情報が収集された場合、電子デバイスは、圧縮解除を実行して3Dマップの再構築データを取得し、収集された視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを判定する。
【0039】
1.電子デバイスは、3Dマップを生成し、3Dマップを圧縮して3Dマップの圧縮データを取得し、圧縮データをローカルに格納する。
【0040】
電子デバイスは、3Dマップを圧縮して、記憶領域を節約することが理解されるべきである。
【0041】
2.電子デバイスは、センサを使用することによって視覚的情報を収集する。
【0042】
3.電子デバイスは、3Dマップの圧縮データを圧縮解除して、3Dマップの再構築データを取得する。
【0043】
4.電子デバイスは、視覚的情報に基づいて、3Dマップにおける測位を実行して、視覚的情報に対応するポーズを取得する。
【0044】
任意選択で、本願のこの実施形態において、第2の電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及びサーバからの3Dマップを参照して第2の電子デバイスの現在のポーズを判定してよい。
【0045】
3Dマップは、第1の電子デバイスによって生成される。具体的に言えば、第1の電子デバイスは、3Dマップを生成し、その3Dマップを圧縮し、次に、3Dマップの圧縮データをサーバに送信する。サーバは、次に、3Dマップの圧縮データを第2の電子デバイスに送信する。第2の電子デバイスは、圧縮解除を実行して3Dマップの再構築データを取得し、収集された視覚的情報及び3Dマップを参照して第2の電子デバイスの現在のポーズを判定する。
【0046】
本願のこの実施形態において、第1の電子デバイスは、予め3Dマップを生成し、その3Dマップを圧縮し、次に、3Dマップの圧縮データをサーバに送信してよい。このようにして、送信帯域幅を減少させることができる。
【0047】
1.第1の電子デバイスは、3Dマップを生成し、その3Dマップを圧縮して3Dマップの圧縮データを取得する。
【0048】
2.第1の電子デバイスは、3Dマップの圧縮データをサーバに送信する。
【0049】
第1の電子デバイスは、3Dマップを圧縮し、次に、3Dマップの圧縮データを送信し、それにより、送信帯域幅を減少させるとともに送信効率を改善する。
【0050】
3.第2の電子デバイスは、マップダウンロード要求をサーバに送信する。
【0051】
第2の電子デバイスは、
図4aに示されているトリガ方式に基づいてマップダウンロード要求を送信してよい。
【0052】
4.サーバは、3Dマップの圧縮データを第2の電子デバイスに送信する。
【0053】
5.第2の電子デバイスは、3Dマップの圧縮データを圧縮解除して、3Dマップの再構築データを取得する。
【0054】
6.第2の電子デバイスは、センサを使用することによって視覚的情報を収集する。
【0055】
7.第2の電子デバイスは、視覚的情報に基づいて3Dマップにおける測位を実行し、視覚的情報に対応するポーズを取得する。
【0056】
任意選択で、本願のこの実施形態において、第2の電子デバイスは、センサを使用することによって視覚的情報を収集してよく、サーバは、第2の電子デバイスからの視覚的情報及び第1の電子デバイスからの3Dマップを参照して、第2の電子デバイスの現在のポーズを判定する。
【0057】
3Dマップは、第1の電子デバイスによって生成される。具体的に言えば、第1の電子デバイスは、3Dマップを生成し、その3Dマップを圧縮し、次に、3Dマップの圧縮データをサーバに送信する。サーバは、圧縮解除を実行して3Dマップの再構築データを取得し、第2の電子デバイスからの視覚的情報及び3Dマップを参照して、第2の電子デバイスの現在のポーズを判定する。
【0058】
1.第1の電子デバイスは、3Dマップを生成し、その3Dマップを圧縮して3Dマップの圧縮データを取得する。
【0059】
2.第1の電子デバイスは、3Dマップの圧縮データをサーバに送信する。
【0060】
3.第2の電子デバイスは、センサを使用することによって視覚的情報を収集する。
【0061】
4.第2の電子デバイスは、測位要求をサーバに送信し、ここで、測位要求は、視覚的情報を搬送する。
【0062】
5.サーバは、3Dマップの圧縮データを圧縮解除して、3Dマップの再構築データを取得する。
【0063】
6.サーバは、視覚的情報に基づいて3Dマップにおける測位を実行して、視覚的情報に対応するポーズを取得する。
【0064】
7.サーバは、第2の電子デバイスに、測位を通じて取得されたポーズを送信する。
【0065】
任意選択で、本願のこの実施形態において、第2の電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及び第1の電子デバイスからの3Dマップを参照して第2の電子デバイスの現在のポーズを判定してよい。
【0066】
3Dマップは、第1の電子デバイスによって生成される。具体的に言えば、第1の電子デバイスは、3Dマップを生成し、その3Dマップを圧縮し、次に、3Dマップの圧縮データを第2の電子デバイスに送信する。第2の電子デバイスは、圧縮解除を実行して3Dマップの再構築データを取得し、収集された視覚的情報及び第1の電子デバイスからの3Dマップを参照して第2の電子デバイスの現在のポーズを判定する。
【0067】
1.第1の電子デバイスは、3Dマップを生成し、3Dマップを圧縮して3Dマップの圧縮データを取得し、圧縮データをローカルに格納する。
【0068】
2.第2の電子デバイスは、マップダウンロード要求を第1の電子デバイスに送信する。
【0069】
3.第1の電子デバイスは、3Dマップの圧縮データを第2の電子デバイスに送信する。
【0070】
4.第2の電子デバイスは、3Dマップの圧縮データを圧縮解除して、3Dマップの再構築データを取得する。
【0071】
5.第2の電子デバイスは、センサを使用することによって視覚的情報を収集する。
【0072】
6.第2の電子デバイスは、視覚的情報に基づいて3Dマップにおける測位を実行して、視覚的情報に対応するポーズを取得する。
【0073】
可能な実装において、3Dマップのデータは、複数のエリア記述子をさらに含み、複数のエリア記述子のいずれか1つは、複数の3Dマップ点の一部又は全ての3Dマップ点の特徴を記述する。
【0074】
複数のエリア記述子のいずれか1つに関して、エリア記述子は、複数の3Dマップ点の一部又は全ての3Dマップ点の特徴を記述してよい。この場合、エリア記述子及び3Dマップ点は、1対多の関係にある。複数の3Dマップ点のそれぞれの特徴は、複数のエリア記述子の一部又は全てのエリア記述子によって記述されてよい。この場合、3Dマップ点及びエリア記述子は、1対多の関係にある。複数のエリア記述子及び複数の3Dマップ点は、多対多の関係にあることがわかる。エリア記述子を生成するための方法は、限定されるものではないが、バッグオブワーズ(bag of words、BOW)及び局所集約記述子のベクトル(vector of locally aggregated descriptors、VLAD)等の従来的な方法、及び、NetVLAD又は人工知能(artificial intelligence、AI)に基づく新規の方法を含む。同様に、複数のエリア記述子は、複数のエリア記述子を区別するために番号によって識別されてよい。しかしながら、同様に、上記番号は、複数のエリア記述子の順序を限定することを意図するものではない。
【0075】
可能な実装において、複数の3Dマップ点のいずれか1つのデータは、3Dマップ点記述子及び3Dマップ点空間位置を含む。
【0076】
3Dマップ点記述子は、3Dマップ点の局所特徴を表すために使用されるベクトル(vector)である。
【0077】
3Dマップ点空間位置は、三次元空間軸上でX,Y,及びZを使用することによって表されてもよいし、又は、経度、緯度、及び高度を使用することによって表されてもよいし、又は、極座標等を使用することによって表されてもよい。3Dマップ点空間位置を表すための方法は、本願の実施形態において特に限定されるものではない。3Dマップ点空間位置は、3Dマップ点の絶対的な位置であっても、又は、3Dマップ点の相対的な位置であってもよい。
【0078】
可能な実装において、エンコーディング装置は、3Dマップを生成するようにさらに構成されている。
【0079】
可能な実装において、デコーディング装置は、3Dマップに基づいて測位を実行するようにさらに構成されている。
【0080】
第2の態様によれば、本願は、伝送モジュール及び圧縮解除モジュールを備える、3Dマップをデコーディングするための装置を提供する。伝送モジュールは、3Dマップのビットストリームを受信するように構成されており、ここで、3Dマップは、複数の3Dマップ点を含む。圧縮解除モジュールは、3Dマップのビットストリームを圧縮解除して、3Dマップの再構築データを取得するように構成されており、ここで、3Dマップの再構築データは、複数の3Dマップ点の再構築データを含む。
【0081】
本願のこの実施形態において、圧縮解除モジュールは、3Dマップの圧縮データの圧縮解除をサポートしてよい。換言すれば、エンコーディング及びデコーディングシステムは、3Dマップのデータボリュームを低減するように、3Dマップのデータの圧縮/圧縮解除をサポートしてよい。3Dマップが送信される必要があるシナリオにおいて、3Dマップの元のデータを送信する代わりに3Dマップの圧縮データを送信することにより、送信のためのデータボリュームを低減させることができ、かつ当該送信が占有する帯域幅をさらに低減させて、それにより、3Dマップの送信効率を改善することができる。
【0082】
本願のこの実施形態において、圧縮解除は、量子化解除及び予測のうちの少なくとも1つを含んでよい。
【0083】
量子化とは、処理されることになるデータを1又は複数の量子化インデックスにマッピングすることを意味し、ここで、各量子化インデックスは、1つの量子化中心に対応する。量子化インデックスのビットの数は、通例、元のデータのビットの数よりも明らかに小さく、ストレージ又は送信帯域幅を節約する。量子化方法は、限定されるものではないが、スカラー量子化、ベクトル量子化、直積量子化等を含む。これに基づいて、量子化解除は、前述した量子化の逆である。具体的に言えば、元のデータに対応する再構築データは、1又は複数の量子化インデックスに基づいて復元され、再構築データのビットの数は、量子化インデックスのビットの数よりも大きい。
【0084】
予測とは、処理されたデータ及び処理されることになるデータの残差データを使用することによって予測を実行して、処理されることになるデータを取得することを意味する。参照データの選択は、事前合意されてよい。例えば、以前に処理されたデータは、参照データとして固定的に使用され、この場合、参照データは、ビットストリームにおいて識別される必要はない。別の例に関して、任意の処理されたデータが使用され、この場合、参照データの識別情報は、ビットストリームに書き込まれる必要があり、参照データの番号、又は参照データを推論するために使用することができる他の情報を含む。
【0085】
3Dマップのデータの前述した説明において、3Dマップに含まれている複数の3Dマップ点の順序は無意味であることがわかる。したがって、デコーダ端が3Dマップ点の圧縮解除又はデコーディングに関係付けられている場合、複数の3Dマップ点の順序は限定されるものではない。ビットストリームの順序に基づいて、複数の3Dマップ点に対して圧縮解除又はデコーディングが実行されてよい。
【0086】
加えて、エンコーダ端において、3Dマップのデータの処理は、エンコーディングされることになるデータをビットストリームにカプセル化するように、カプセル化を含む。カプセル化は、任意のエンコーディングアルゴリズム、例えば、エントロピーエンコーディングを使用してよい。エントロピーエンコーディングは、ロスレスデータ圧縮方法である。エントロピーエンコーディングアルゴリズムは、限定されるものではないが、ハフマン(huffman)エンコーディング、算術エンコーディング、LZ77圧縮アルゴリズム(lempel-ziv-markov chain-algorithm、LZMA)、データ圧縮のための関数ライブラリアルゴリズム(zlib)等に基づいて改善された圧縮/圧縮解除アルゴリズムを含む。それに応じて、デコーダ端において、圧縮解除は、ビットストリームを圧縮解除されることになるデータにカプセル化解除するように、カプセル化解除をさらに含んでよい。カプセル化解除は、エンコーダ端によって使用されるエンコーディングアルゴリズムに対応するデコーディングアルゴリズム、例えば、エントロピーデコーディングを使用してよい。
【0087】
可能な実装において、3Dマップのデータは、複数のエリア記述子の再構築データをさらに含み、複数のエリア記述子のいずれか1つは、複数の3Dマップ点の一部又は全ての3Dマップ点の特徴を記述する。
【0088】
可能な実装において、複数の3Dマップ点のいずれか1つの再構築データは、3Dマップ点記述子の再構築データ及び3Dマップ点空間位置の再構築データを含む。
【0089】
可能な実装において、3Dマップをデコーディングするための装置は、クラウドサーバ又は電子デバイスである。伝送モジュールは、3Dマップダウンロード要求を送信し、ここで、3Dマップダウンロード要求は、位置指示情報を含む;及び、3Dマップの、位置指示情報に対応するビットストリームを受信するようにさらに構成されている。
【0090】
可能な実装において、3Dマップをデコーディングするための装置は、クラウドサーバである。伝送モジュールは、電子デバイスによって生成された3Dマップのビットストリームを受信するように特に構成されている。
【0091】
圧縮モジュールの複数の実装は、以下の通りである。
【0092】
可能な実装において、圧縮解除モジュールは、カプセル化解除モジュール、及び予測モジュール及び/又は量子化解除モジュールを有する。カプセル化解除モジュールは、3Dマップの入力されたビットストリームを処理して、第1のデータを出力するように構成されている。予測モジュールは、第2のデータの入力された残差データに対して予測を実行して、第2のデータを出力するように構成されている。量子化解除モジュールは、入力された第3のデータに対して量子化解除を実行して、第3のデータの量子化解除データを出力するように構成されている。第1のデータは、第2のデータの残差データ又は第3のデータであり、第2のデータは、3Dマップの再構築データ又は第3のデータであり、第3のデータの量子化解除データは、3Dマップの再構築データである。
【0093】
任意選択で、圧縮解除モジュールは、カプセル化解除モジュール及び量子化解除モジュール又は予測モジュールのみを有する。
【0094】
任意選択で、圧縮解除モジュールは、予測モジュール、量子化解除モジュール、及びカプセル化モジュールを有する。
【0095】
可能な実装において、予測モジュールは、第1の予測モジュール及び第2の予測モジュールを含み;及び/又は、量子化解除モジュールは、第1の量子化解除モジュール及び第2の量子化解除モジュールを含む。第1の予測モジュールは、第4のデータの入力された残差データに対して予測を実行して、第4のデータを出力するように構成されている。第1の量子化解除モジュールは、入力された第5のデータに対して量子化解除を実行して、第5のデータの量子化解除データを出力するように構成されている。第4のデータは、複数のエリア記述子のうちの1つの再構築データ又は第5のデータであり、第5のデータの量子化解除データは、複数のエリア記述子のうちの1つの再構築データである。第2の予測モジュールは、第6のデータの入力された残差データに対して予測を実行して、第6のデータを出力するように構成されている。第2の量子化解除モジュールは、入力された第7のデータに対して量子化解除を実行して、第7のデータの量子化解除データを出力するように構成されている。第6のデータは、複数の3Dマップ点のうちの1つの再構築データ又は第7のデータであり、第7のデータの量子化解除データは、複数の3Dマップ点のうちの1つの再構築データである。
【0096】
任意選択で、圧縮解除モジュールは、第1の予測モジュール及び第2の予測モジュールのみを有するか、又は、第1の量子化解除モジュール及び第2の量子化解除モジュールのみを有する。
【0097】
任意選択で、圧縮解除モジュールは、第1の予測モジュール、第2の予測モジュール、第1の量子化解除モジュール、及び第2の量子化解除モジュールを有する。
【0098】
可能な実装において、予測モジュールは、第1の予測モジュール、第2の予測モジュール、及び第3の予測モジュールを含み;及び/又は、量子化解除モジュールは、第1の量子化解除モジュール、第2の量子化解除モジュール、及び第3の量子化解除モジュールを含む。第1の予測モジュールは、第8のデータの入力された残差データに対して予測を実行して、第8のデータを出力するように構成されている。第1の量子化解除モジュールは、入力された第9のデータに対して量子化解除を実行して、第9のデータの量子化解除データを出力するように構成されている。第8のデータは、複数のエリア記述子のうちの1つの再構築データ又は第9のデータであり、第9のデータの量子化解除データは、複数のエリア記述子のうちの1つの再構築データである。第2の予測モジュールは、第10のデータの入力された残差データに対して予測を実行して、第10のデータを出力するように構成されている。第2の量子化解除モジュールは、入力された第11のデータに対して量子化解除を実行して、第11のデータの量子化解除データを出力するように構成されている。第10のデータは、複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データ又は第11のデータであり、第11のデータの量子化解除データは、複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データである。第3の予測モジュールは、第12のデータの入力された残差データに対して予測を実行して、第12のデータを出力するように構成されている。第3の量子化解除モジュールは、入力された第13のデータに対して量子化解除を実行して、第13のデータの量子化解除データを出力するように構成されている。第12のデータは、複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データ又は第13のデータであり、第13のデータの量子化解除データは、複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データである。
【0099】
任意選択で、圧縮解除モジュールは、第1の予測モジュール、第2の予測モジュール、及び第3の予測モジュールのみを有し、又は、第1の量子化解除モジュール、第2の量子化解除モジュール、及び第3の量子化解除モジュールのみを有する。
【0100】
任意選択で、圧縮解除モジュールは、第1の予測モジュール、第2の予測モジュール、第3の予測モジュール、第1の量子化解除モジュール、第2の量子化解除モジュール、及び第3の量子化解除モジュールを有する。
【0101】
可能な実装において、圧縮解除モジュールは、第1の圧縮解除サブモジュール及び第2の圧縮解除サブモジュールを有する。第1の圧縮解除サブモジュールは、第14のデータの入力されたビットストリームを圧縮解除して、第14のデータを出力するように構成されている。第2の圧縮解除サブモジュールは、第15のデータの入力されたビットストリームを圧縮解除して、第15のデータを出力するように構成されている。第14のデータは、複数のエリア記述子のうちの1つの再構築データであり、第15のデータは、複数の3Dマップ点のうちの1つの再構築データである。
【0102】
可能な実装において、第1の圧縮解除サブモジュールは、第1のカプセル化解除モジュール、及び第1の予測モジュール及び/又は第1の量子化解除モジュールを含む。第2の圧縮解除サブモジュールは、第2のカプセル化解除モジュール、及び第2の予測モジュール及び/又は第2の量子化解除モジュールを含む。第1のカプセル化解除モジュールは、3Dマップの入力されたビットストリームを処理して、第16のデータを出力するように構成されている。第1の予測モジュールは、第17のデータの入力された残差データに対して予測を実行して、第17のデータを出力するように構成されている。第1の量子化解除モジュールは、入力された第18のデータに対して量子化解除を実行して、第18のデータの量子化解除データを出力するように構成されている。第16のデータは、第17のデータの残差データ又は第18のデータであり、第17のデータは、複数のエリア記述子のうちの1つの再構築データ又は第18のデータであり、第18のデータの量子化解除データは、複数のエリア記述子のうちの1つの再構築データである。第2のカプセル化解除モジュールは、3Dマップの入力されたビットストリームを処理して、第19のデータを出力するように構成されている。第2の予測モジュールは、第20のデータの入力された残差データに対して予測を実行して、第20のデータを出力するように構成されている。第2の量子化解除モジュールは、入力された第21のデータに対して量子化解除を実行して、第21のデータの量子化解除データを出力するように構成されている。第19のデータは、第20のデータの残差データ又は第21のデータであり、第20のデータは、複数の3Dマップ点のうちの1つの再構築データ又は第21のデータであり、第21のデータの量子化解除データは、複数の3Dマップ点のうちの1つの再構築データである。
【0103】
可能な実装において、圧縮解除モジュールは、第1の圧縮解除サブモジュール、第2の圧縮解除サブモジュール、及び第3の圧縮解除サブモジュールを有する。第1の圧縮解除サブモジュールは、第22のデータの入力されたビットストリームを圧縮解除して、第22のデータを出力するように構成されている。第2の圧縮解除サブモジュールは、第23のデータの入力されたビットストリームを圧縮解除して、第23のデータを出力するように構成されている。第3の圧縮解除サブモジュールは、第24のデータの入力されたビットストリームを圧縮して、第24のデータを出力するように構成されている。第22のデータは、複数のエリア記述子のうちの1つの再構築データであり、第23のデータは、複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データであり、第24のデータは、複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データである。
【0104】
可能な実装において、第1の圧縮解除サブモジュールは、第1のカプセル化解除モジュール、及び第1の予測モジュール及び/又は第1の量子化解除モジュールを含む。第2の圧縮解除サブモジュールは、第2のカプセル化解除モジュール、及び第2の予測モジュール及び/又は第2の量子化解除モジュールを含む。第3の圧縮解除サブモジュールは、第3のカプセル化解除モジュール、及び第3の予測モジュール及び/又は第3の量子化解除モジュールを含む。第1のカプセル化解除モジュールは、3Dマップの入力されたビットストリームを処理して、第25のデータを出力するように構成されている。第1の予測モジュールは、第26のデータの入力された残差データに対して予測を実行して、第26のデータを出力するように構成されている。第1の量子化解除モジュールは、入力された第27のデータに対して量子化解除を実行して、第27のデータの量子化解除データを出力するように構成されている。第25のデータは、第26のデータの残差データ又は第27のデータであり、第26のデータは、複数のエリア記述子のうちの1つの再構築データ又は第27のデータであり、第27のデータの量子化解除データは、複数のエリア記述子のうちの1つの再構築データである。第2のカプセル化解除モジュールは、3Dマップの入力されたビットストリームを処理して、第28のデータを出力するように構成されている。第2の予測モジュールは、第29のデータの入力された残差データに対して予測を実行して、第29のデータを出力するように構成されている。第2の量子化解除モジュールは、入力された第30のデータに対して量子化解除を実行して、第30のデータの量子化解除データを出力するように構成されている。第28のデータは、第29のデータの残差データ又は第30のデータであり、第29のデータは、複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データ又は第30のデータであり、第30のデータの量子化解除データは、複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データである。第3のカプセル化解除モジュールは、3Dマップの入力されたビットストリームを処理して、第31のデータを出力するように構成されている。第3の予測モジュールは、第32のデータの入力された残差データに対して予測を実行して、第32のデータを出力するように構成されている。第3の量子化解除モジュールは、入力された第33のデータに対して量子化解除を実行して、第33のデータの量子化解除データを出力するように構成されている。第31のデータは、第32のデータの残差データ又は第33のデータであり、第32のデータは、複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データ又は第33のデータであり、第33のデータの量子化解除データは、複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データである。
【0105】
第3の態様によれば、本願は、3Dマップをデコーディングするための方法であって、3Dマップのビットストリームを受信する段階、ここで、3Dマップは、複数の3Dマップ点を含む;及び、3Dマップのビットストリームを圧縮解除して、3Dマップの再構築データを取得する段階、ここで、3Dマップの再構築データは、複数の3Dマップ点の再構築データを含む、を備える方法を提供する。
【0106】
本願のこの実施形態において、圧縮解除モジュールは、3Dマップの圧縮データの圧縮解除をサポートしてよい。換言すれば、エンコーディング及びデコーディングシステムは、3Dマップのデータボリュームを低減するように、3Dマップのデータの圧縮/圧縮解除をサポートしてよい。3Dマップが送信される必要があるシナリオにおいて、3Dマップの元のデータを送信する代わりに3Dマップの圧縮データを送信することにより、送信のためのデータボリュームを低減させることができ、かつ当該送信が占有する帯域幅をさらに低減させて、それにより、3Dマップの送信効率を改善することができる。
【0107】
可能な実装において、3Dマップの再構築データは、複数のエリア記述子の再構築データをさらに含み、複数のエリア記述子のいずれか1つは、複数の3Dマップ点の一部又は全ての3Dマップ点の特徴を記述する。
【0108】
可能な実装において、複数の3Dマップ点のいずれか1つの再構築データは、3Dマップ点記述子の再構築データ及び3Dマップ点空間位置の再構築データを含む。
【0109】
可能な実装において、上記方法は、3Dマップダウンロード要求を送信する段階をさらに備え、ここで、3Dマップダウンロード要求は位置指示情報を含む。3Dマップのビットストリームを受信する段階は、3Dマップの、位置指示情報に対応するビットストリームを受信する段階を有する。
【0110】
可能な実装において、3Dマップのビットストリームを受信する段階は、電子デバイスによって生成された3Dマップのビットストリームを受信する段階を有する。
【0111】
可能な実装において、3Dマップのビットストリームを圧縮解除して、3Dマップの再構築データを取得する段階は、3Dマップのビットストリームを処理して、第1のデータを取得する段階;及び、第2のデータの残差データに対して予測を実行して、第2のデータを取得する段階、及び/又は、第3のデータに対して量子化解除を実行して、第3のデータの量子化解除データを取得する段階を有する。第1のデータは、第2のデータの残差データ又は第3のデータであり、第2のデータは、3Dマップの再構築データ又は第3のデータであり、第3のデータの量子化解除データは、3Dマップの再構築データである。
【0112】
第4の態様によれば、本願は、3Dマップをデコーディングするための装置であって、圧縮を通じて取得されたビットストリーム形式の3Dマップを格納するように構成されているメモリ、ここで、3Dマップは、複数の3Dマップ点を含み、3Dマップのデータは、複数の3Dマップ点のデータを含む;及び、圧縮を通じて取得されたビットストリーム形式の3Dマップを圧縮解除して、再構築3Dマップを取得するように構成されているデコーダ、ここで、再構築3Dマップは、複数の3Dマップ点を含み、再構築3Dマップのデータは、複数の3Dマップ点の再構築データを含む、を備える装置を提供する。
【0113】
可能な実装において、再構築3Dマップのデータは、複数のエリア記述子の再構築データをさらに含み、複数のエリア記述子のいずれか1つは、複数の3Dマップ点の一部又は全ての3Dマップ点の特徴を記述する。
【0114】
可能な実装において、複数の3Dマップ点のいずれか1つの再構築データは、3Dマップ点記述子の再構築データ及び3Dマップ点空間位置の再構築データを含む。
【0115】
可能な実装において、3Dマップをエンコーディングするための装置は、クラウドサーバ又は電子デバイスである。
【0116】
第5の態様によれば、本願は、コンピュータプログラムを備えるコンピュータ可読記憶媒体を提供する。コンピュータプログラムがコンピュータ上で実行される場合、コンピュータは、第3の態様の実装のいずれか1つに記載の方法を実行することが可能になる。
【0117】
第6の態様によれば、本願は、コンピュータプログラム製品を提供する。コンピュータプログラム製品は、コンピュータプログラムコードを備え、コンピュータプログラムコードがコンピュータ上で実行される場合、コンピュータは、第3の態様の実装のいずれか1つに記載の方法を実行することが可能になる。
【0118】
第7の態様によれば、本願は、3Dマップのエンコーディングされたビットストリームであって、3Dマップのエンコーディングされたビットストリームは、複数の3Dマップ点のビットストリームを備え、3Dマップは、複数の3Dマップ点を含む、ビットストリームを提供する。
【0119】
可能な実装において、3Dマップのエンコーディングされたビットストリームは、複数のエリア記述子のビットストリームをさらに備え、複数のエリア記述子のいずれか1つは、複数の3Dマップ点の少なくとも1つの3Dマップ点に対応する。
【0120】
可能な実装において、複数の3Dマップ点のいずれか1つのビットストリームは、3Dマップ点記述子のビットストリーム及び3Dマップ点空間位置のビットストリームを含む。
【0121】
可能な実装において、複数の3Dマップ点のいずれか1つのビットストリームは、3Dマップ点の残差データを含む。
【0122】
可能な実装において、3Dマップ点記述子のビットストリームは、3Dマップ点記述子の残差データを含み;及び/又は、3Dマップ点空間位置のビットストリームは、3Dマップ点空間位置の残差データを含む。
【0123】
可能な実装において、複数の3Dマップ点のいずれか1つのビットストリームは、参照3Dマップ点の指示情報をさらに含み、複数の3Dマップ点は、参照3Dマップ点を含み、参照3Dマップ点は、3Dマップ点がエンコーディングされる前にエンコーディングされている3Dマップ点である。
【0124】
可能な実装において、複数の3Dマップ点のいずれか1つのビットストリームは、3Dマップ点の量子化データを含む。
【0125】
可能な実装において、3Dマップ点記述子のビットストリームは、3Dマップ点記述子の量子化データを含み;及び/又は、3Dマップ点空間位置のビットストリームは、3Dマップ点空間位置の量子化データを含む。
【0126】
可能な実装において、複数のエリア記述子のいずれか1つのビットストリームは、エリア記述子の残差データを含む。
【0127】
可能な実装において、複数のエリア記述子のいずれか1つのビットストリームは、参照エリア記述子の指示情報をさらに含み、複数のエリア記述子は、参照エリア記述子を含む。
【0128】
可能な実装において、複数のエリア記述子のいずれか1つのビットストリームは、エリア記述子の量子化データを含む。
【図面の簡単な説明】
【0129】
【
図1】本願の一実施形態によるアプリケーションアーキテクチャの概略図である;
【0130】
【
図2】本願の一実施形態による電子デバイス20の構造の概略図である;
【0131】
【
図3】本願の一実施形態によるサーバ30の構造の概略図である;
【0132】
【
図4a】本願の一実施形態による応用シナリオの概略図である;
【0133】
【
図4b】本願の一実施形態による応用シナリオの概略図である;
【0134】
【
図4c】本願の一実施形態による応用シナリオの概略図である;
【0135】
【
図4d】本願の一実施形態による応用シナリオの概略図である;
【0136】
【
図4e】本願の一実施形態による応用シナリオの概略図である;
【0137】
【
図4f】本願の一実施形態による応用シナリオの概略図である;
【0138】
【
図4g】本願の一実施形態による電子デバイスによって表示されるユーザインタフェースの概略図である;
【0139】
【
図5】本願の一実施形態による3Dマップをデコーディングするための装置50の構造の図である;
【0140】
【
図6a】本願の一実施形態による3Dマップをデコーディングするための装置60の構造の図である;
【0141】
【
図6b】本願の一実施形態による3Dマップをデコーディングするための装置60の構造の図である;
【0142】
【
図6c】本願の一実施形態による3Dマップをデコーディングするための装置60の構造の図である;
【0143】
【
図6d】本願の一実施形態による3Dマップをデコーディングするための装置60の構造の図である;
【0144】
【
図6e】本願の一実施形態による3Dマップをデコーディングするための装置60の構造の図である;
【0145】
【
図7a】本願の一実施形態による3Dマップをデコーディングするための装置70の構造の図である;
【0146】
【
図7b】本願の一実施形態による3Dマップをデコーディングするための装置70の構造の図である;
【0147】
【
図8a】本願の一実施形態による3Dマップをデコーディングするための装置80の構造の図である;
【0148】
【
図8b】本願の一実施形態による3Dマップをデコーディングするための装置80の構造の図である;
【0149】
【
図9】本願の一実施形態による3Dマップをデコーディングするための方法のプロセス900のフローチャートである;
【0150】
【
図10】本願の一実施形態による3Dマップをデコーディングするための装置100の構造の図である;
【0151】
【
図11a】本願の一実施形態による3Dマップのエンコーディングされたビットストリームの構造の一例の図である;
【0152】
【
図11b】本願の一実施形態による3Dマップのエンコーディングされたビットストリームの構造の一例の図である;
【0153】
【
図11c】本願の一実施形態による3Dマップのエンコーディングされたビットストリームの構造の一例の図である;
【0154】
【
図11d】本願の一実施形態による3Dマップのエンコーディングされたビットストリームの構造の一例の図である;及び
【0155】
【
図11e】本願の一実施形態による3Dマップのエンコーディングされたビットストリームの構造の一例の図である。
【発明を実施するための形態】
【0156】
本願の目的、技術的解決手段、及び利点をより明確にするために、以下、本願における添付図面を参照しながら本願における技術的解決手段を明確かつ完全に説明する。説明される実施形態は、本願の実施形態の全てではなく一部に過ぎないことが明らかである。本願の実施形態に基づいて、当業者によって創作的努力を伴わずに得られる全ての他の実施形態は、本願の保護範囲内に含まれる。
【0157】
本願の明細書の実施形態、特許請求の範囲、及び添付図面において、「第1」、「第2」等の用語は、区別及び説明を意図しているに過ぎず、相対的な重要性の指示又は示唆、又は、順序の指示又は示唆として理解されるものではない。さらに、「含む」、「有する」という用語及びそれらの任意の変形は、非排他的包含、例えば、一連のステップ又はユニットの包含をカバーすることが意図されている。方法、システム、製品、又はデバイスは必ずしも、明確に列挙されたステップ又はユニットに限定されるものではなく、明確に列挙されていない、プロセス、方法、製品又はデバイスに固有である他のステップ又はユニットを含み得る。
【0158】
本願において、「少なくとも1つの(アイテム)」は、1又は複数であり、「複数の」は、2又はそれよりも多いことが理解されるべきである。「及び/又は」という用語は、関連付けられた対象の関連付けの関係を説明するものであり、3つの関係が存在し得ることを示すものである。例えば、「A及び/又はB」は、以下の3つの場合を示し得る:Aのみが存在する、Bのみが存在する、及びA及びBの両方が存在する。A及びBは、単数又は複数であってよい。「/」という記号は、通例、関連付けられた対象間の「又は」の関係を示すものである。「以下のアイテムのうちの少なくとも1つ」又はこれに類似する表現は、それらのアイテムのうちの1つ又はそれらのアイテムのうちの複数の任意の組み合わせを含む、それらのアイテムの任意の組み合わせを示すものである。例えば、a、b、又はcのうちの少なくとも1つは、a、b、c、a及びB、a及びc、b及びc、又は、a、b、及びcを示してよく、ここで、a、b、及びcは、単数又は複数であってよい。
【0159】
図1は、本願の一実施形態によるアプリケーションアーキテクチャの概略図である。
図1に示されているように、アプリケーションアーキテクチャは、複数の電子デバイス及びサーバを含む。複数の電子デバイスは、第1の電子デバイス及び1又は複数の第2の電子デバイスを含んでよい(
図1では、一例として、2つの第2の電子デバイスが使用されている)。1又は複数の第2の電子デバイスは、第1の電子デバイス以外の電子デバイスである。複数の電子デバイス及びサーバ間、及び、複数の電子デバイス間で、通信が実行されてよい。例えば、アプリケーションアーキテクチャ内の任意のデバイスは、ワイヤレスフィデリティ(wireless-fidelity、Wi-Fi(登録商標))通信、Bluetooth(登録商標)通信、又はセルラ第2/第3/第4/第5世代(2nd/3rd/4th/5th generation、2G/3G/4G/5G)通信等の方式で、別のデバイスと通信してよい。サーバ及び電子デバイス間で、将来の通信方式を含む別の通信方式がさらに使用されてよいことが理解されるべきである。ここではこれについて特に限定しない。本願のこの実施形態における「1又は複数の第2の電子デバイス」は、第1の電子デバイス以外の電子デバイスを表すために使用されているに過ぎず、複数の電子デバイスのタイプが同じであるか否かは限定されるものではないことに留意されたい。
【0160】
電子デバイスは、カメラ及びディスプレイコンポーネントが設けられた様々なタイプのデバイスであってよい。例えば、電子デバイスは、携帯電話、タブレットコンピュータ、ノートブックコンピュータ、又はビデオレコーダ等の端末デバイスであってよい(
図1では、電子デバイスの一例として携帯電話が使用されている)。代替的には、電子デバイスは、VRグラス、ARデバイス、MRインタラクションデバイス等を含む、仮想シナリオにおけるインタラクションのために使用されるデバイスであってよい。代替的には、電子デバイスは、スマートウォッチ又はスマートバンド等のウェアラブル電子デバイスであってよい。代替的には、電子デバイスは、車両、無人車両、無人航空機、又は産業ロボット等の搬送デバイスにおいて搬送されるデバイスであってよい。電子デバイスの具体的な形態は、本願の実施形態において特別に限定されるものではない。
【0161】
さらに、電子デバイスは、ユーザ機器(user equipment、UE)、加入者ステーション、モバイルユニット、加入者ユニット、無線ユニット、リモートユニット、モバイルデバイス、無線デバイス、無線通信デバイス、リモートデバイス、モバイル加入者ステーション、端末デバイス、アクセス端末、モバイル端末、無線端末、スマート端末、リモート端末、ハンドヘルド端末、ユーザエージェント、モバイルクライアント、クライアント、又は別の適切な用語と称される場合もある。
【0162】
サーバは、1又は複数の物理サーバ(
図1では、一例として1つの物理サーバが使用されている)であってもよいし、又は、コンピュータクラスタであってもよいし、又は、クラウドコンピューティングシナリオにおける仮想マシン又はクラウドサーバ等であってもよい。
【0163】
本願のこの実施形態において、VRアプリケーション、ARアプリケーション、又はMRアプリケーション等の仮想シナリオアプリケーション(application、APP)が電子デバイスにインストールされてよく、VRアプリケーション、ARアプリケーション、又はMRアプリケーションは、ユーザ操作(例えば、タップ、タッチ、スライド、シェイク、又はボイスコントロール)に基づいて作動されてよい。電子デバイスは、センサを使用することによって環境における任意のオブジェクトの視覚的情報を収集し、次に、収集された視覚的情報に基づいてディスプレイコンポーネント上に仮想オブジェクトを表示してよい。仮想オブジェクトは、VRシナリオ、ARシナリオ、又はMRシナリオにおける仮想オブジェクト(すなわち、仮想環境におけるオブジェクト)であってよい。
【0164】
本願のこの実施形態において、ナビゲーション、検出、又は制御アプリケーションが電子デバイスにインストールされてよく、ユーザ又は事前設定プログラムの操作及び制御に基づいて、対応するアプリケーションが作動される。電子デバイスは、現在の環境における電子デバイスのポーズ及び他のステータス情報に基づいて、ルート計画、オブジェクト検出、及び搬送デバイス操作及び制御等のアプリケーションを実行してよい。
【0165】
本願の実施形態における視覚的情報は、限定されるものではないが、カメラによって収集されたイメージビデオ(深度情報を有しない)、深度センサ(depth sensor)によって収集されたイメージビデオ(深度情報を有する)、ライダ(LiDAR)によって収集されたデータ、及びミリ波レーダ(RaDAR)によって収集されたデータを含む。
【0166】
本願のこの実施形態において、電子デバイスにおける仮想シナリオアプリケーションは、電子デバイスに内蔵されたアプリケーションであってもよいし、又は、サードパーティサービスプロバイダが提供する、ユーザによってインストールされたアプリケーションであってもよいことに留意されたい。ここではこれについて特に限定しない。
【0167】
本願のこの実施形態において、電子デバイスのために、同時位置推定及びマップ作成(simultaneous localization and mapping、SLAM)システムがさらに構成されてよい。SLAMシステムは、完全に未知の環境におけるマップを生成し、このマップを使用して、測位、ポーズ(位置及び姿勢(posture))判定、ナビゲーション等を実行することができる。本願のこの実施形態において、SLAMシステムによって生成されたマップは、SLAMマップと称される。SLAMマップは、収集デバイスによって収集された環境情報に基づいてSLAMシステムによって描かれたマップと理解されてよい。収集デバイスは、電子デバイスにおける視覚的情報収集装置及び慣性計測ユニット(inertial measurement unit、IMU)を含んでよい。視覚的情報収集装置は、例えば、カメラ、深度カメラ、ライダ、及びミリ波レーダを含んでよい。IMUは、例えば、ジャイロスコープ及び加速度計等のセンサを含んでよい。
【0168】
本願の実施形態において、SLAMマップは、3Dマップとも称される。3Dマップは、SLAMマップを含むがこれに限定されるものではなく、別の技術を使用することによって生成された三次元マップをさらに含んでよいことに留意されたい。これは、本願の実施形態において特に限定されるものではない。
【0169】
可能な実装において、3Dマップは、複数の3Dマップ点を含んでよく、それに応じて、3Dマップのデータは、複数の3Dマップ点のデータを含んでよい。3Dマップ点は、関心点、又は、環境における有意な特徴を有する点である。
【0170】
3Dマップ点を取得する可能な方式は、ライダ、無人航空機の画角からの航空写真撮影(チルト写真撮影)、高精細パノラマカメラ、及び高精細産業カメラ等の複数のデバイスを使用して撮影を実行し、前述したデバイスによる撮影を通じて取得されたデータから、指向性の加速セグメントテストからの特徴(features from accelerated segment test、FAST)及び回転バイナリロバスト独立基本特徴(binary robust independent elementary features、BRIEF)記述子特徴(oriented FAST and rotated BRIEF、ORB)、スケール不変特徴変換(scale invariant feature transform、SIFT)、及び高速化ロバスト特徴(speeded-up robust feature、SURF)、BRIEF、バイナリロバスト不変スケーラブルキーポイント(binary robust invariant scalable keypoints、BRISK)、高速網膜キーポイント(fast retina keypoint、FREAK)、又は繰り返し可能かつ信頼性のある検出器及び記述子(repeatable and reliable detector and descriptor、R2D2)等の方法を使用することによって、3Dマップ点を抽出することである。
【0171】
3Dマップ点のデータは、以下のものを含んでよい。
【0172】
(1)3Dマップ点記述子
【0173】
3Dマップ点記述子は、3Dマップ点の局所特徴を表すために使用されるベクトルである。ビジュアルポジショニングアルゴリズムにおいて、3Dマップ点記述子は、3Dマップ点間のマッチングのために使用される。或る可能な方法は、2つの3Dマップ点記述子間の距離(ユークリッド距離、内積距離、ハミング距離等であってよい)を計算すること;及び、上記距離が閾値よりも小さい場合、2つの3Dマップ点が一致するとみなすことである。
【0174】
(2)3Dマップ点空間位置
【0175】
3Dマップ点空間位置は、三次元空間軸上でX,Y,及びZを使用することによって表されてもよいし、又は、経度、緯度、及び高度を使用することによって表されてもよいし、又は、極座標等を使用することによって表されてもよい。3Dマップ点空間位置を表すための方法は、本願の実施形態において特に限定されるものではない。3Dマップ点空間位置は、3Dマップ点の絶対的な位置であっても、又は、3Dマップ点の相対的な位置であってもよい。例えば、エリア全体の中心位置が原点として使用され、全ての3Dマップ点空間位置は、原点の空間位置に対してずれた位置である。
【0176】
本願の実施形態において、各3Dマップ点に番号が割り当てられて3Dマップのデータに書き込まれてもよいし、又は、メモリ内の複数の3Dマップ点の記憶順序が、3Dマップ点の番号を暗示的に示ように使用されてよい。3Dマップに含まれている複数の3Dマップ点の順序は、無意味であることに留意されたい。したがって、前述した番号は、3Dマップ点を区別するために3Dマップ点を識別することに使用される識別子とみなされてよい。しかしながら、上記番号は、複数の3Dマップ点の順序を限定することを意図するものではない。例えば、3Dマップは、それぞれ番号が1、2、及び3である3つの3Dマップ点を含み、3つの3Dマップ点は、1、2、及び3の順で、又は、3、2、及び1の順で、又は、2、1、及び3の順等で処理されてよい。
【0177】
可能な実装において、3Dマップのデータは、複数のエリア記述子をさらに含み、複数のエリア記述子のいずれか1つは、複数の3Dマップ点の一部又は全ての3Dマップ点の特徴を記述する。具体的に言えば、複数のエリア記述子のいずれか1つに関して、エリア記述子は、複数の3Dマップ点の一部又は全ての3Dマップ点の特徴を記述してよい。この場合、エリア記述子及び3Dマップ点は、1対多の関係にある。複数の3Dマップ点のそれぞれの特徴は、複数のエリア記述子の一部又は全てのエリア記述子によって記述されてよい。この場合、3Dマップ点及びエリア記述子は、1対多の関係にある。複数のエリア記述子及び複数の3Dマップ点は、多対多の関係にあることがわかる。エリア記述子を生成するための方法は、限定されるものではないが、バッグオブワーズ(bag of words、BOW)及び局所集約記述子のベクトル(vector of locally aggregated descriptors、VLAD)等の従来的な方法、及び、NetVLAD又は人工知能(artificial intelligence、AI)に基づく新規の方法を含む。同様に、複数のエリア記述子は、複数のエリア記述子を区別するために番号によって識別されてよい。しかしながら、同様に、上記番号は、複数のエリア記述子の順序を限定することを意図するものではない。
【0178】
可能な実装において、3Dマップのデータは、3Dマップ点及びエリア記述子間の対応関係をさらに含む。対応関係は、任意のエリア記述子がどの3Dマップ点に対応するか、及び、任意の3Dマップ点がどのエリア記述子に対応するかを明確に記述する。
【0179】
任意選択で、前述した対応関係は、エリア記述子の番号及び3Dマップ点の番号間の対応テーブルを使用することによって、明示的に記述されてよい。例えば、3Dマップは、番号がT1~T3である3つのエリア記述子、及び、番号がP1~P6である6つの3Dマップ点を含む。対応テーブルは、表1又は表2に示されている。
表1
【表1】
【0180】
表1は、エリア記述子の番号及び3Dマップ点の番号間の対応テーブルの一例であることに留意されたい。対応テーブルは、代替的に別のフォーマット又は方式で提示されてよい。これは、本願において特に限定されるものではない。
【0181】
任意選択で、前述した対応関係は、代替的には、エリア記述子及び3Dマップ点の記憶位置を使用することによって暗示的に記述されてよい。例えば、T1が、まずメモリに格納されて、次に、P1、P2、及びP3のデータが格納され;次に、T2が格納されて、次に、P2及びP3のデータが格納され;最後に、T3が格納され、次に、P3、P4、P5、及びP6のデータが格納される。
【0182】
図2は、本願の一実施形態による電子デバイス20の構造の概略図である。
図2に示されているように、電子デバイス20は、
図1に示されている実施形態における第1の電子デバイス及び1又は複数の第2の電子デバイスのうちの少なくとも1つであってよい。
図2に示されている構造は、電子デバイス20に対する具体的な限定をなすものではないことが理解されるべきである。本願のいくつかの他の実施形態において、電子デバイス20は、
図2に示されているものよりも多数又は少数のコンポーネントを含むか、又は、いくつかのコンポーネントを組み合わせるか、又は、いくつかのコンポーネントを分割するか、又は異なるコンポーネント構成を有してよい。
図2に示されているコンポーネントは、1又は複数の信号処理及び/又は特定用途向け集積回路を含むハードウェア、ソフトウェア、又は、ハードウェア及びソフトウェアの組み合わせで実装されてよい。
【0183】
電子デバイス20は、チップ21、メモリ22(1又は複数のコンピュータ可読記憶媒体)、ユーザインタフェース23、ディスプレイコンポーネント24、カメラ25、センサ26、デバイス測位を実行するように構成されている測位モジュール27、及び通信を実行するように構成されているトランシーバ28を含んでよい。これらのコンポーネントは、1又は複数のバス29を使用することによって互いに通信してよい。
【0184】
1又は複数のプロセッサ211、クロックモジュール212、及び電力管理モジュール213が、チップ21に統合されてよい。チップ21に統合されているクロックモジュール212は、主に、プロセッサ211のデータ送信及びタイミング制御に必要なタイマを提供するように構成されている。タイマは、データ送信及びタイミング制御のクロック機能を実装してよい。プロセッサ211は、命令オペレーションコード及びタイミング信号に基づいて操作を実行するとともにオペレーション制御信号を生成して、命令フェッチング及び命令実行の制御を完了してよい。チップ21に統合されている電力管理モジュール213は、主に、チップ21及び電子デバイス20の別のコンポーネントのための安定で高精度な電圧を提供するように構成されている。
【0185】
プロセッサ211は、中央処理ユニット(central processing unit、CPU)とも称され得る。プロセッサ211は、具体的には、1又は複数の処理ユニットを含んでよい。例えば、プロセッサ211は、アプリケーションプロセッサ(application processor、AP)、モデムプロセッサ、グラフィックス処理ユニット(graphics processing unit、GPU)、イメージ信号プロセッサ(image signal processor、ISP)、コントローラ、ビデオコーデック、デジタル信号プロセッサ(digital signal processor、DSP)、ベースバンドプロセッサ、ニューラル処理ユニット(neural-network processing unit、NPU)等を含んでよい。複数の異なる処理ユニットは、独立したコンポーネントであってもよいし、又は1又は複数のプロセッサに統合されてもよい。
【0186】
可能な実装において、プロセッサ211は、1又は複数のインタフェースを含んでよい。インタフェースは、集積回路間(inter-integrated circuit、I2C)インタフェース、集積回路間サウンド(inter-integrated circuit sound、I2S)インタフェース、パルス符号変調(pulse code modulation、PCM)インタフェース、汎用非同期受信機/送信機(universal asynchronous receiver/transmitter、UART)インタフェース、モバイルインダストリプロセッサインタフェース(mobile industry processor interface、MIPI)、汎用入力/出力(general-purpose input/output、GPIO)インタフェース、加入者識別モジュール(subscriber identity module、SIM)インタフェース、ユニバーサルシリアルバス(universal serial bus、USB)ポート等を含み得る。
【0187】
メモリ22は、バス29を通じてプロセッサ211に接続されてもよいし、又は、プロセッサ311に結合されてもよく、様々なソフトウェアプログラム及び/又は命令の複数のグループを格納するように構成されている。メモリ22は、高速ランダムアクセスメモリ(例えば、キャッシュ)を含んでもよいし、又は、不揮発性メモリ、例えば、1又は複数の磁気ディスクストレージデバイス、フラッシュメモリデバイス、又は別の不揮発性ソリッドステートストレージデバイスを含んでもよい。メモリ22は、オペレーティングシステム、例えば、Android(登録商標)(Android)、Apple(登録商標)モバイルプラットフォーム(iOS(登録商標))、Microsoft windowオペレーティングシステム(Windows(登録商標))、又はUNIX(登録商標)系オペレーティングシステム(Linux(登録商標))等の組み込みオペレーティングシステムを格納してよい。メモリ22は、データ、例えば、イメージデータ、ポイントクラウドデータ、3Dマップデータ、ポーズデータ、座標系変換情報、及びマップ更新情報をさらに格納してよい。メモリ22は、コンピュータ実行可能プログラムコードをさらに格納してよい。コンピュータ実行可能プログラムコードは、命令、例えば、SLAMシステムの通信プログラム命令及び関連するプログラム命令を含む。メモリ22は、1又は複数のアプリケーション、例えば、AR/VR/MR等の仮想シナリオアプリケーション、3Dマップアプリケーション、イメージ管理アプリケーション、及び、ナビゲーション及び制御アプリケーションをさらに格納してよい。メモリ22は、ユーザインタフェースプログラムをさらに格納してよい。ユーザインタフェースプログラムは、グラフィカルオペレーションインタフェースを使用することによって、アプリケーションのコンテンツ、例えば、AR/VR/MR等の仮想シナリオにおける仮想オブジェクトを鮮明に表示し、ディスプレイコンポーネント24を使用することによって、コンテンツを提示し、メニュー、ダイアログボックス、又はボタン等の入力コントロールを使用することによって、アプリケーションに対してユーザが実行した制御操作を受信してよい。
【0188】
ユーザインタフェース23は、例えば、タッチパネルであってよい。タッチパネルは、タッチパネル上でユーザの操作の命令を検出してよい。ユーザインタフェース23は、例えば、キーパッド、物理ボタン、又はマウスであってよい。
【0189】
電子デバイス20は、1又は複数のディスプレイコンポーネント24を含んでよい。電子デバイス20は、ディスプレイコンポーネント24、チップ21内のグラフィックス処理ユニット(GPU)及びアプリケーションプロセッサ(AP)等を使用することによって、共同で表示機能を実装してよい。GPUは、イメージ処理を実装するためのマイクロプロセッサであり、ディスプレイコンポーネント24及びアプリケーションプロセッサに接続されている。GPUは、グラフィックスレンダリングのための数学的及び幾何学的計算を実行する。ディスプレイコンポーネント24は、電子デバイス20によって出力されたインタフェースコンテンツを表示、例えば、AR/VR/MR等の仮想シナリオにおけるイメージ、ビデオ等を表示してよい。インタフェースコンテンツは、作動中のアプリケーション、システムレベルメニュー等のインタフェースを含んでよく、具体的には、以下のインタフェース要素:ボタン(Button)、テキスト入力ボックス(Text)、スクロールバー(Scrollbar)、及びメニュー(メニュー)等の入力インタフェース要素;及び、ウィンドウ(Window)、ラベル(Label)、イメージ、ビデオ、及びアニメーション等の出力インタフェース要素を含んでよい。
【0190】
ディスプレイコンポーネント24は、ディスプレイパネル、レンズ(例えば、VRグラス)、投影スクリーン等であってよい。ディスプレイパネルは、ディスプレイスクリーンとも称され得、例えば、タッチスクリーン、フレキシブルスクリーン、曲面スクリーン等であってもよいし、又は、別の光学コンポーネントであってもよい。本願の実施形態における電子デバイスのディスプレイスクリーンは、タッチスクリーン、フレキシブルスクリーン、曲面スクリーン、又は別の形態のスクリーンであってよいことが理解されるべきである。換言すれば、電子デバイスのディスプレイスクリーンは、イメージを表示する機能を有し、ディスプレイスクリーンの具体的な材料及び形状は特に限定されるものではない。
【0191】
例えば、ディスプレイコンポーネント24がディスプレイパネルを含む場合、ディスプレイパネルは、液晶ディスプレイ(liquid crystal display、LCD)、有機発光ダイオード(organic light-emitting diode、OLED)、アクティブマトリクス有機発光ダイオード(active matrix organic light-emitting diode)又はアクティブマトリクス有機発光ダイオード(active-matrix organic light-emitting diode、AMOLED)、フレキシブル発光ダイオード(flexible light-emitting diode、FLED)、MiniLed、MicroLed、Micro-oLed、量子ドット発光ダイオード(quantum dot light-emitting diode、QLED)等を使用してよい。さらに、可能な実装において、ユーザインタフェース23におけるタッチパネルは、ディスプレイコンポーネント24におけるディスプレイパネルに結合されてよい。例えば、タッチパネルは、ディスプレイパネルの下方に配置されてよく、タッチパネルは、ディスプレイパネルを使用することによってユーザがタッチ操作(例えば、タップ、スライド、又はタッチ)を入力した場合にディスプレイパネルに作用する触圧を検出するように構成されており、ディスプレイパネルは、コンテンツを表示するように構成されている。
【0192】
カメラ25は、単眼カメラ、双眼カメラ、又は深度カメラであってよく、環境を撮影/記録してイメージ/ビデオイメージを取得するように構成されている。カメラ25によって収集されたイメージ/ビデオイメージは、例えば、SLAMシステムの入力データとして使用されてもよいし、又は、イメージ/ビデオは、ディスプレイコンポーネント24を使用することによって表示されてもよい。
【0193】
可能な実装において、カメラ25は、センサとみなされてもよい。カメラ25によって収集されたイメージは、IMGフォーマットであってもよいし、又は、別のフォーマットタイプであってもよい。これは、本願の実施形態において特に限定されるものではない。
【0194】
センサ26は、電子デバイス20のステータス変化(例えば、回転、揺動、移動、又は振動)に関連するデータを収集するように構成されてよい。センサ26によって収集されたデータは、SLAMシステムの入力データとして使用されてよい。センサ26は、1又は複数のセンサ、例えば、慣性計測ユニット(inertial measurement unit、IMU)及び飛行時間(time of flight、TOF)センサを含んでよい。IMUは、ジャイロスコープ及び加速度計等のセンサを含んでよい。ジャイロスコープは、電子デバイスが動いた場合に電子デバイスの角速度を測定するように構成されており、加速度計は、電子デバイスが動いた場合に電子デバイスの加速度を測定するように構成されている。TOFセンサは、投光器及び受光器を含んでよい。投光器は、光、例えば、レーザ光、赤外線、又はレーダ波を外方に放出するように構成されている。受光器は、反射光、例えば、反映レーザ光、赤外線、又はレーダ波を検出するように構成されている。
【0195】
センサ26は、慣性センサ、気圧計、磁力計、及び車輪速度計(wheel speedometer)等の、より多くの他のセンサをさらに含んでよいことに留意されたい。これは、本願の実施形態において特に限定されるものではない。
【0196】
測位モジュール27は、電子デバイス20の物理的測位を実装するように構成されており、例えば、電子デバイス20の初期位置を取得するように構成されている。測位モジュール27は、Wi-Fi測位モジュール、Bluetooth測位モジュール、基地局測位モジュール、及び衛星測位モジュールのうちの1又は複数を含んでよい。測位を支援するために、衛星測位モジュール内に全地球航法衛星システム(global navigation satellite system、GNSS)が配置されてよい。GNSSは、北斗システム(BeiDou system)、グローバルポジショニングシステム(global positioning system、GPS)システム、GLONASS(global navigation satellite system、GLONASS)システム、及びガリレオ航法衛星システム(Galileo)システムに限定されるものではない。
【0197】
トランシーバ28は、電子デバイス20及び別のデバイス(例えば、サーバ又は別の電子デバイス)間の通信を実施するように構成されている。トランシーバ28は、無線周波数信号をそれぞれ送信及び受信するように構成されている送信機及び受信機を統合したものである。具体的な実装において、トランシーバ28は、限定されるものではないが、アンテナシステム、無線周波数(radio frequency、RF)トランシーバ、1又は複数のアンプ、チューナ、1又は複数のオシレータ、デジタル信号プロセッサ、コーデック(CODEC)チップ、加入者識別モジュール(subscriber identity module、SIM)カード、記憶媒体等を含む。可能な実装において、トランシーバ28は、代替的に、別個のチップ上に実装されてよい。トランシーバ28は、2G/3G/4G/5G等における少なくとも1つのデータネットワーク通信をサポートする、及び/又は、以下の短距離無線通信方式のうちの少なくとも1つをサポートする:Bluetooth(Bluetooth、BT)通信、ワイヤレスフィデリティ(wireless fidelity、Wi-Fi)通信、近距離通信(near-field communication、NFC)、赤外線(infrared、IR)無線通信、超広帯域(ultra wideband、UWB)通信、及びZigBee(登録商標)(ZigBee)プロトコル通信。
【0198】
本願のこの実施形態において、プロセッサ211は、メモリ22に格納されたプログラムコードを作動させて、電子デバイス20の様々な機能アプリケーション及びデータ処理を実行する。
【0199】
図3は、本願の一実施形態によるサーバ30の構造の概略図である。
図3に示されているように、サーバ30は、
図1に示されている実施形態におけるサーバであってよい。サーバ30は、プロセッサ301、メモリ302(1又は複数のコンピュータ可読記憶媒体)、及びトランシーバ303を含む。これらのコンポーネントは、1又は複数のバス304を使用することによって互いに通信してよい。
【0200】
プロセッサ301は、1又は複数のCPUであってよい。プロセッサ301が1つのCPUである場合、このCPUは、シングルコアCPUであり得るか、又はマルチコアCPUであり得る。
【0201】
メモリ302は、バス304を通じてプロセッサ301に接続されてもよいし、又は、プロセッサ301に結合されてもよく、様々なプログラムコード及び/又は命令の複数のグループ及びデータ(例えば、マップデータ及びポーズデータ)を格納するように構成されている。具体的な実装において、メモリ302は、限定されるものではないが、ランダムアクセスメモリ(Random Access Memory、RAM)、リードオンリメモリ(Read-Only Memory、ROM)、消去可能プログラマブルリードオンリメモリ(Erasable Programmable Read-Only Memory、EPROM)、ポータブルリードオンリメモリ(Compact Disc Read-Only Memory、CD-ROM)等を含む。
【0202】
トランシーバ303は、主に受信機及び送信機を統合したものである。受信機は、電子デバイスによって送信されたデータ(例えば、要求又はイメージ)を受信するように構成されており、送信機は、データ(例えば、マップデータ又はポーズデータ)を電子デバイスに送信するように構成されている。
【0203】
図3に示されているサーバ30は、本願のこの実施形態において提供される一例に過ぎず、サーバ30は、図に示されているものよりも多くのコンポーネントをさらに有してよいことが理解されるべきである。これは、本願の実施形態において特に限定されるものではない。
【0204】
本願のこの実施形態において、プロセッサ301は、メモリ302に格納されたプログラムコードを作動させて、サーバ30の様々な機能アプリケーション及びデータ処理を実行する。
【0205】
本願の実施形態において使用される「結合」という用語は、直接接続、又は、1又は複数の中間コンポーネント又は回路を通じた接続を意味する。
【0206】
図4aは、本願の一実施形態による応用シナリオの概略図である。
図4aに示されているように、この応用シナリオにおいて、電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及びサーバからの3Dマップを参照して電子デバイスの現在のポーズを判定する。
【0207】
3Dマップは、サーバによって提供される。具体的に言えば、サーバは、3Dマップを生成し、次に、この3Dマップを圧縮して、3Dマップの圧縮データを電子デバイスに送信する。3Dマップの圧縮データを受信した後、電子デバイスは、圧縮解除を実行して3Dマップの再構築データを取得し、収集された視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを判定する。ポーズは、電子デバイスの位置情報であり、ワールド座標系における絶対的なポーズであってもよいし、又は、環境における或る点に対する相対的なポーズであってもよい。
【0208】
本願のこの実施形態において、サーバは、予め3Dマップを生成して、この3Dマップを圧縮し、次に、3Dマップの圧縮データをローカルに格納してよい。このようにして、記憶領域を節約できる。さらに、サーバは、3Dマップの圧縮データを、別のデバイス、例えば、クラウドストレージに送信してよい。
【0209】
1.サーバは、3Dマップを生成し、3Dマップを圧縮して3Dマップの圧縮データを取得し、圧縮データをローカルに格納する。
【0210】
サーバは、3Dマップを圧縮して、ローカル記憶領域を節約する。
【0211】
2.電子デバイスは、マップダウンロード要求をサーバに送信する。マップダウンロード要求は、2つの方式でトリガされる。
【0212】
(1)ユーザは、電子デバイスにインストールされた3Dマップアプリケーションを開始して、当該アプリケーションは、アプリケーションに対応するサーバに、GPS測位又はWi-Fi測位に基づいて取得された位置情報をアップロードする。アップロード操作は、マップダウンロード要求をトリガしてよい。アップロードされたコンテンツが位置情報を含むことから、サーバは、位置情報に基づいて予備的な推定を実行して、位置情報によって示される測位点が属するエリアの3Dマップの圧縮データを電子デバイスに送信してよい。位置情報によって示される測位点が属するエリアの範囲は、事前設定されてよい。例えば、測位点が属するエリアは、測位点が位置する任意のレベルの行政地域(郡、市、国、又は行政地域を含む)であってもよいし、又は、測位点を中心として、指定された距離を半径として用いた円形エリアであってよい。
【0213】
(2)ユーザは、電子デバイスにインストールされた3Dマップアプリケーションを開始して、能動的に当該アプリケーション上の或るエリアに入るか又はそれを選択する。例えば、ユーザは、能動的に、「xxビジネスセンター」に入るか、又は、「街路A、街路B、及び街路C」のリストから「街路A」を選択する。ユーザの前述した操作は、マップダウンロード要求をトリガしてよい。ユーザが地理的位置に入るか又はそれを選択するかにかかわらず、サーバは、それに応じて、その地理的位置の3Dマップの圧縮データを電子デバイスに送信する。
【0214】
本願のこの実施形態において、前述した2つの方式に加えて、マップダウンロード要求をトリガするために、別の方式が使用されてよいことが理解されるべきである。例えば、電子デバイスは、3Dマップをダウンロードする又は3Dマップのダウンロードを開始するための条件が満たされているか否かを自動で検出するか、又は、電子デバイスは、周囲光の変化又は環境の変化を検出したら、3Dマップのダウンロードを開始して、サーバからエリア範囲の3Dマップをダウンロードすることを要求する。エリア範囲のサイズは、特に限定されるものではない。
【0215】
3.サーバは、3Dマップの圧縮データを電子デバイスに送信する。
【0216】
4.電子デバイスは、視覚的情報を収集する。
【0217】
ステップ3及びステップ4は、互いに独立しており、順序が限定されるものではないことに留意されたい。
【0218】
5.電子デバイスは、3Dマップの圧縮データを圧縮解除して、3Dマップの再構築データを取得する。
【0219】
6.電子デバイスは、視覚的情報に基づいて、3Dマップにおける測位を実行して、視覚的情報に対応するポーズを取得する。
【0220】
3Dマップの圧縮データを受信した後、電子デバイスは、圧縮データを即座に圧縮解除する必要はなく、視覚的情報に基づいて測位を実行する前にのみ、圧縮データを圧縮解除して、3Dマップの再構築データを取得する必要がある。例えば、ユーザは、「オフラインマップ」をダウンロードすることによって、エリア範囲の3Dマップの圧縮データを事前ダウンロードして、測位が必要とされる場合にのみ、3Dマップの圧縮データを圧縮解除してよい。
【0221】
図4bは、本願の一実施形態による応用シナリオの概略図である。
図4bに示されているように、この応用シナリオにおいて、電子デバイスは、センサを使用することによって視覚的情報を収集し、サーバは、電子デバイスからの視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを判定する。
【0222】
3Dマップは、サーバによって提供される。具体的に言えば、サーバは、3Dマップを生成し、次に、3Dマップを圧縮して、3Dマップの圧縮データをローカルに格納する。電子デバイスから視覚的情報を受信した場合、サーバは、圧縮解除を実行して3Dマップの再構築データを取得し、視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを判定する。
【0223】
1.サーバは、3Dマップを生成し、3Dマップを圧縮して3Dマップの圧縮データを取得し、圧縮データをローカルに格納する。
【0224】
2.電子デバイスは、視覚的情報を収集する。
【0225】
3.電子デバイスは、視覚的情報をサーバに送信する。
【0226】
4.サーバは、3Dマップの圧縮データを圧縮解除して、3Dマップの再構築データを取得する。
【0227】
サーバは、3Dマップを圧縮して、記憶領域を節約することが理解されるべきである。
【0228】
5.サーバは、視覚的情報に基づいて3Dマップにおける測位を実行して、視覚的情報に対応するポーズを取得する。
【0229】
6.サーバは、ポーズを電子デバイスに送信する。
【0230】
図4cは、本願の一実施形態による応用シナリオの概略図である。
図4cに示されているように、この応用シナリオにおいて、電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを判定する。
【0231】
3Dマップは、電子デバイスによって提供される。具体的に言えば、電子デバイスは、3Dマップを生成し、次に、3Dマップを圧縮し、3Dマップの圧縮データをローカルに格納する。視覚的情報が収集された場合、電子デバイスは、圧縮解除を実行して3Dマップの再構築データを取得し、収集された視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを判定する。
【0232】
1.電子デバイスは、3Dマップを生成し、3Dマップを圧縮して3Dマップの圧縮データを取得し、圧縮データをローカルに格納する。
【0233】
電子デバイスは、3Dマップを圧縮して、記憶領域を節約することが理解されるべきである。
【0234】
2.電子デバイスは、センサを使用することによって視覚的情報を収集する。
【0235】
3.電子デバイスは、3Dマップの圧縮データを圧縮解除して、3Dマップの再構築データを取得する。
【0236】
4.電子デバイスは、視覚的情報に基づいて、3Dマップにおける測位を実行して、視覚的情報に対応するポーズを取得する。
【0237】
図4dは、本願の一実施形態による応用シナリオの概略図である。
図4bに示されているように、この応用シナリオにおいて、第2の電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及びサーバからの3Dマップを参照して第2の電子デバイスの現在のポーズを判定する。
【0238】
3Dマップは、第1の電子デバイスによって生成される。具体的に言えば、第1の電子デバイスは、3Dマップを生成し、その3Dマップを圧縮し、次に、3Dマップの圧縮データをサーバに送信する。サーバは、次に、3Dマップの圧縮データを第2の電子デバイスに送信する。第2の電子デバイスは、圧縮解除を実行して3Dマップの再構築データを取得し、収集された視覚的情報及び3Dマップを参照して第2の電子デバイスの現在のポーズを判定する。
【0239】
本願のこの実施形態において、第1の電子デバイスは、予め3Dマップを生成し、その3Dマップを圧縮し、次に、3Dマップの圧縮データをサーバに送信してよい。このようにして、送信帯域幅を減少させることができる。
【0240】
1.第1の電子デバイスは、3Dマップを生成し、その3Dマップを圧縮して3Dマップの圧縮データを取得する。
【0241】
2.第1の電子デバイスは、3Dマップの圧縮データをサーバに送信する。
【0242】
第1の電子デバイスは、3Dマップを圧縮し、次に、3Dマップの圧縮データを送信し、それにより、送信帯域幅を減少させるとともに送信効率を改善する。
【0243】
3.第2の電子デバイスは、マップダウンロード要求をサーバに送信する。
【0244】
第2の電子デバイスは、
図4aに示されているトリガ方式に基づいてマップダウンロード要求を送信してよい。
【0245】
4.サーバは、3Dマップの圧縮データを第2の電子デバイスに送信する。
【0246】
5.第2の電子デバイスは、3Dマップの圧縮データを圧縮解除して、3Dマップの再構築データを取得する。
【0247】
6.第2の電子デバイスは、センサを使用することによって視覚的情報を収集する。
【0248】
7.第2の電子デバイスは、視覚的情報に基づいて3Dマップにおける測位を実行し、視覚的情報に対応するポーズを取得する。
【0249】
図4eは、本願の一実施形態による応用シナリオの概略図である。
図4eに示されているように、この応用シナリオにおいて、第2の電子デバイスは、センサを使用することによって視覚的情報を収集し、サーバは、第2の電子デバイスからの視覚的情報及び第1の電子デバイスからの3Dマップを参照して第2の電子デバイスの現在のポーズを判定する。
【0250】
3Dマップは、第1の電子デバイスによって生成される。具体的に言えば、第1の電子デバイスは、3Dマップを生成し、その3Dマップを圧縮し、次に、3Dマップの圧縮データをサーバに送信する。サーバは、圧縮解除を実行して3Dマップの再構築データを取得し、第2の電子デバイスからの視覚的情報及び3Dマップを参照して、第2の電子デバイスの現在のポーズを判定する。
【0251】
1.第1の電子デバイスは、3Dマップを生成し、その3Dマップを圧縮して3Dマップの圧縮データを取得する。
【0252】
2.第1の電子デバイスは、3Dマップの圧縮データをサーバに送信する。
【0253】
3.第2の電子デバイスは、センサを使用することによって視覚的情報を収集する。
【0254】
4.第2の電子デバイスは、測位要求をサーバに送信し、ここで、測位要求は、視覚的情報を搬送する。
【0255】
5.サーバは、3Dマップの圧縮データを圧縮解除して、3Dマップの再構築データを取得する。
【0256】
6.サーバは、視覚的情報に基づいて3Dマップにおける測位を実行して、視覚的情報に対応するポーズを取得する。
【0257】
7.サーバは、第2の電子デバイスに、測位を通じて取得されたポーズを送信する。
【0258】
図4fは、本願の一実施形態による応用シナリオの概略図である。
図4fに示されているように、この応用シナリオにおいて、第2の電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及び第1の電子デバイスからの3Dマップを参照して第2の電子デバイスの現在のポーズを判定する。
【0259】
3Dマップは、第1の電子デバイスによって生成される。具体的に言えば、第1の電子デバイスは、3Dマップを生成し、その3Dマップを圧縮し、次に、3Dマップの圧縮データを第2の電子デバイスに送信する。第2の電子デバイスは、圧縮解除を実行して3Dマップの再構築データを取得し、収集された視覚的情報及び第1の電子デバイスからの3Dマップを参照して第2の電子デバイスの現在のポーズを判定する。
【0260】
1.第1の電子デバイスは、3Dマップを生成し、3Dマップを圧縮して3Dマップの圧縮データを取得し、圧縮データをローカルに格納する。
【0261】
2.第2の電子デバイスは、マップダウンロード要求を第1の電子デバイスに送信する。
【0262】
3.第1の電子デバイスは、3Dマップの圧縮データを第2の電子デバイスに送信する。
【0263】
4.第2の電子デバイスは、3Dマップの圧縮データを圧縮解除して、3Dマップの再構築データを取得する。
【0264】
5.第2の電子デバイスは、センサを使用することによって視覚的情報を収集する。
【0265】
6.第2の電子デバイスは、視覚的情報に基づいて3Dマップにおける測位を実行して、視覚的情報に対応するポーズを取得する。
【0266】
図4a~
図4fに示されている実施形態において使用される測位アルゴリズムは、以下のものを含んでよい。
【0267】
(1)視覚的情報から、取り出されることになる(to-be-retrieved)エリア記述子が抽出され、ここで、取り出されることになるエリア記述子を抽出するために使用されるアルゴリズムは、3Dマップからエリア記述子を抽出するためのアルゴリズムと一貫する。
【0268】
(2)視覚的情報から、取り出されることになる3Dマップ点が抽出され、取り出されることになる3Dマップ点空間位置及び取り出されることになる3Dマップ点記述子が取得され、ここで、取り出されることになる3Dマップ点記述子を抽出するためのアルゴリズムは、3Dマップから3Dマップ点記述子を抽出するためのアルゴリズムと一貫する。
【0269】
(3)取り出されることになるエリア記述子に基づいて、3Dマップのデータに含まれている複数のエリア記述子において取り出しが実行され、複数の候補エリア記述子を取得する。
【0270】
本願の実施形態において、取り出されることになるエリア記述子及び複数のエリア記述子における各エリア記述子間の距離が計算されてよい。距離は、ハミング距離、マンハッタン距離、ユークリッド距離等を含んでよい。次に、条件(例えば、距離が閾値よりも小さい)を満たす少なくとも1つのエリア記述子が、候補エリア記述子として選択される。
【0271】
(4)取り出されることになる3Dマップ点記述子及び複数の候補エリア記述子に対応する3Dマップ点記述子間のマッチングが別々に実行される。マッチングとは、取り出されることになる3Dマップ点記述子及び複数の候補エリア記述子に対応する3Dマップ点記述子間の類似度を別々に計算して、最も類似する3Dマップ点を発見することである。
【0272】
(5)電子デバイスのポーズは、発見された3Dマップ点に基づいて、パースペクティブ-n-ポイント(perspective-n-point、PnP)カメラポーズ推定及び効率的パースペクティブ-n-ポイントカメラポーズ推定(efficient perspective-n-point camera pose estimation、EPnP)等のポーズ解決アルゴリズムを使用することによって計算される。
【0273】
図4a~
図4fに示されている実施形態は、全て、3Dマップの圧縮に関連するものである。本願の実施形態は、前述した圧縮を実行するための複数の装置フレームワークを提供する。以下、複数の装置フレームワークを説明する。
【0274】
図4a~
図4fにおける応用シナリオのいずれか1つにおいて、電子デバイスの現在のポーズを取得するために、本願の実施形態における3Dマップに基づいて測位が実行される。ポーズは、ARナビゲーション、ARヒューマンコンピュータインタラクション、運転支援、及び自律運転等の分野に適用されてよい。例えば、ポーズに基づくARナビゲーションが一例として使用される。
図4gは、本願の一実施形態による電子デバイスによって表示されるユーザインタフェースの概略図である。電子デバイスは、ポーズに基づいて、
図4gに示されているユーザインタフェースを表示してよい。ユーザインタフェースは、会議室2に向いたナビゲーション矢印の指示を含んでよく、会議室2に向いたナビゲーション矢印の指示は、ポーズに基づいてサーバから取得された又はポーズに基づいてローカルに取得された仮想オブジェクトであってよい。ユーザインタフェースは、センサによって収集された視覚的情報、例えば、
図4gに示されている建物をさらに含んでよい。ユーザは、
図4gに示されている電子デバイスのユーザインタフェースを参照して会議室2に行く。
【0275】
圧縮解除を通じて取得された、本願の実施形態における3Dマップの再構築データは、3Dマップの再構築データとも称され得ることに留意されたい。
【0276】
図5は、本願の一実施形態による3Dマップをデコーディングするための装置50の構造の図である。
図5に示されているように、デコーディング装置50は、前述した実施形態におけるサーバ又は電子デバイス、特に、3Dマップを受信して圧縮解除する必要があるデバイス、例えば、
図4aに示されている実施形態における電子デバイス、
図4d及び
図4fに示されている実施形態における第2の電子デバイス、又は
図4eに示されている実施形態におけるサーバにおいて使用されてよい。
【0277】
本願のこの実施形態において、3Dマップをデコーディングするための装置50は、伝送モジュール51及び圧縮解除モジュール52を備える。伝送モジュール51は、3Dマップのビットストリームを受信するように構成されており、ここで、3Dマップは、複数の3Dマップ点を含む。圧縮解除モジュール52は、3Dマップのビットストリームを圧縮解除して、3Dマップの再構築データを取得するように構成されており、ここで、3Dマップの再構築データは、複数の3Dマップ点の再構築データを含む。伝送モジュール51のデータは、3Dマップのビットストリームであり、圧縮解除モジュール52は、3Dマップのビットストリームを圧縮解除して、3Dマップの再構築データを取得するように構成されていることがわかる。
【0278】
圧縮解除モジュール52は、3Dマップの圧縮データの圧縮解除をサポートしてよい。換言すれば、エンコーディング及びデコーディングシステムは、3Dマップのデータボリュームを低減するように、3Dマップのデータの圧縮/圧縮解除をサポートしてよい。3Dマップが送信される必要があるシナリオにおいて、3Dマップの元のデータを送信する代わりに3Dマップの圧縮データを送信することにより、送信のためのデータボリュームを低減させることができ、例えば、データボリュームをTBレベルからGBレベルに圧縮することができ、かつ当該送信が占有する帯域幅をさらに低減させて、それにより、3Dマップの送信効率を改善することができる。
【0279】
本願のこの実施形態において、圧縮解除は、量子化解除及び予測のうちの少なくとも1つを含んでよいことに留意されたい。
【0280】
量子化とは、処理されることになるデータを1又は複数の量子化インデックスにマッピングすることを意味し、ここで、各量子化インデックスは、1つの量子化中心に対応する。量子化インデックスのビットの数は、通例、元のデータのビットの数よりも明らかに小さく、ストレージ又は送信帯域幅を節約する。量子化方法は、限定されるものではないが、スカラー量子化、ベクトル量子化、直積量子化等を含む。これに基づいて、量子化解除は、前述した量子化の逆である。具体的に言えば、元のデータに対応する再構築データは、1又は複数の量子化インデックスに基づいて復元され、再構築データのビットの数は、量子化インデックスのビットの数よりも大きい。
【0281】
予測とは、処理されたデータ及び処理されることになるデータの残差データを使用することによって予測を実行して、処理されることになるデータを取得することを意味する。参照データの選択は、事前合意されてよい。例えば、以前に処理されたデータは、参照データとして固定的に使用され、この場合、参照データは、ビットストリームにおいて識別される必要はない。別の例に関して、任意の処理されたデータが使用され、この場合、参照データの識別情報は、ビットストリームに書き込まれる必要があり、参照データの番号、又は参照データを推論するために使用することができる他の情報を含む。
【0282】
3Dマップのデータの前述した説明において、3Dマップに含まれている複数の3Dマップ点の順序は無意味であることがわかる。したがって、デコーダ端が3Dマップ点の圧縮解除又はデコーディングに関係付けられている場合、複数の3Dマップ点の順序は限定されるものではない。ビットストリームの順序に基づいて、複数の3Dマップ点に対して圧縮解除又はデコーディングが実行されてよい。
【0283】
加えて、エンコーダ端において、3Dマップのデータの処理は、エンコーディングされることになるデータをビットストリームにカプセル化するように、カプセル化を含む。カプセル化は、任意のエンコーディングアルゴリズム、例えば、エントロピーエンコーディングを使用してよい。エントロピーエンコーディングは、ロスレスデータ圧縮方法である。エントロピーエンコーディングアルゴリズムは、限定されるものではないが、ハフマン(huffman)エンコーディング、算術エンコーディング、LZ77圧縮アルゴリズム(lempel-ziv-markov chain-algorithm、LZMA)、データ圧縮のための関数ライブラリアルゴリズム(zlib)等に基づいて改善された圧縮/圧縮解除アルゴリズムを含む。それに応じて、デコーダ端において、圧縮解除は、ビットストリームを圧縮解除されることになるデータにカプセル化解除するように、カプセル化解除をさらに含んでよい。カプセル化解除は、エンコーダ端によって使用されるエンコーディングアルゴリズムに対応するデコーディングアルゴリズム、例えば、エントロピーデコーディングを使用してよい。
【0284】
量子化は、ロッシー圧縮方式であるので、デコーダ端による圧縮解除後に取得される3Dマップのデータは、エンコーダ端によって圧縮が実行される前の3Dマップの元のデータと完全に同じではないことが理解されるべきである。これに基づいて、本願のこの実施形態において、3Dマップの、圧縮解除モジュール52によって出力されたデータは、3Dマップの再構築データと称されてよい。3Dマップの再構築データについては、3Dマップのデータの前述した説明を参照されたい。詳細は、ここで再度説明されない。
【0285】
図5に示されている実施形態に基づいて、本願の実施形態は、圧縮解除モジュールの複数の実施可能な構造の例を提供し、以下の実施形態は、説明ために使用されるものである。
【0286】
可能な実装において、
図6aは、本願の一実施形態による3Dマップをデコーディングするための装置60-1の構造の図である。
図6aに示されているように、デコーディング装置60-1は、前述した実施形態におけるサーバ又は電子デバイス、特に、3Dマップを受信して圧縮解除する必要があるデバイス、例えば、
図4aに示されている実施形態における電子デバイス、
図4d及び
図4fに示されている実施形態における第2の電子デバイス、又は、
図4eに示されている実施形態におけるサーバにおいて使用されてよい。
【0287】
図5に示されている実施形態に関連して、本願のこの実施形態において、デコーディング装置60-1は、伝送モジュール61-1及び圧縮解除モジュール62-1を備える。圧縮解除モジュール62-1は、カプセル化解除モジュール621-1及び量子化解除モジュール623-1を有する。詳細は、以下の通りである。
【0288】
カプセル化解除モジュール621-1は、3Dマップの入力されたビットストリームを処理して、第1のデータを出力するように構成されている。量子化解除モジュール623-1は、入力された第3のデータに対して量子化解除を実行して、第3のデータの量子化解除データを出力するように構成されている。
【0289】
前述した第1のデータは、第3のデータであり、第3のデータの量子化解除データは、3Dマップの再構築データである。カプセル化解除モジュール621-1の入力データは、3Dマップのビットストリームであり、出力データは、3Dマップの量子化データであり;かつ、量子化解除モジュール623-1の入力データは、カプセル化解除モジュール621-1によって出力された3Dマップの量子化データであり、出力データは、3Dマップの再構築データであることがわかる。
【0290】
可能な実装において、
図6bは、本願の一実施形態による3Dマップをデコーディングするための装置60-2の構造の図である。
図6bに示されているように、デコーディング装置60-2は、前述した実施形態におけるサーバ又は電子デバイス、特に、3Dマップを受信して圧縮解除する必要があるデバイス、例えば、
図4aに示されている実施形態における電子デバイス、
図4d及び
図4fに示されている実施形態における第2の電子デバイス、又は、
図4eに示されている実施形態におけるサーバにおいて使用されてよい。
【0291】
図5に示されている実施形態に関連して、本願のこの実施形態において、デコーディング装置60-2は、伝送モジュール61-2及び圧縮解除モジュール62-2を備える。圧縮解除モジュール62-2は、カプセル化解除モジュール621-2及び予測モジュール622-1を有する。詳細は、以下の通りである。
【0292】
カプセル化解除モジュール621-2は、3Dマップの入力されたビットストリームを処理して、第1のデータを出力するように構成されている。予測モジュール622-1は、入力された第2のデータの残差データに対して予測を実行して、第2のデータを出力するように構成されている。
【0293】
第1のデータは、第2のデータの残差データであり、第2のデータは、3Dマップの再構築データである。カプセル化解除モジュール621-2の入力データは、3Dマップのビットストリームであり、出力データは、3Dマップの残差データであり;かつ、予測モジュール622-1の入力データは、カプセル化解除モジュール621-2によって出力された3Dマップの残差データであり、出力データは、3Dマップの再構築データであることがわかる。
【0294】
可能な実装において、
図6cは、本願の一実施形態による3Dマップをデコーディングするための装置60-3の構造の図である。
図6cに示されているように、デコーディング装置60-3は、前述した実施形態におけるサーバ又は電子デバイス、特に、3Dマップを受信して圧縮解除する必要があるデバイス、例えば、
図4aに示されている実施形態における電子デバイス、
図4d及び
図4fに示されている実施形態における第2の電子デバイス、又は
図4eに示されている実施形態におけるサーバにおいて使用されてよい。
【0295】
図5に示されている実施形態に関連して、本願のこの実施形態において、デコーディング装置60-3は、伝送モジュール61-3及び圧縮解除モジュール62-3を備える。圧縮解除モジュール62-3は、カプセル化解除モジュール621-3、予測モジュール622-2、及び量子化解除モジュール623-2を有し、詳細は以下の通りである。
【0296】
カプセル化解除モジュール621-3は、3Dマップの入力されたビットストリームを処理して、第1のデータを出力するように構成されている。予測モジュール622-2は、入力された第2のデータの残差データに対して予測を実行して、第2のデータを出力するように構成されている。量子化解除モジュール623-2は、入力された第3のデータに対して量子化解除を実行して、第3のデータの量子化解除データを出力するように構成されている。
【0297】
第1のデータは、第2のデータの残差データ又は第3のデータであり、第2のデータは、3Dマップの再構築データ又は第3のデータであり、第3のデータの量子化解除データは、3Dマップの再構築データである。カプセル化解除モジュール621-3の入力データは、3Dマップのビットストリームであり、出力データは、3Dマップの残差データであり;予測モジュール622-2の入力データは、カプセル化解除モジュール621-3によって出力された3Dマップの残差データであり、出力データは、3Dマップの量子化データであり;かつ、量子化解除モジュール623-2の入力データは、予測モジュール622-2によって出力された3Dマップの量子化データであり、出力データは、3Dマップの再構築データであることがわかる。
【0298】
3Dマップのデータの前述した説明によれば、3Dマップの再構築データは、複数のエリア記述子の再構築データ及び複数の3Dマップ点の再構築データを含んでよい。したがって、
図6a~
図6cに示されている実施形態において、圧縮解除モジュールにおけるカプセル化解除モジュールとは異なる別のモジュールが、エリア記述子を処理するように構成されている第1のモジュール、及び、3Dマップ点のデータを処理するように構成されている第2のモジュールに分割されてよい。例えば、量子化解除モジュールは、第1の量子化解除モジュール及び第2の量子化解除モジュールを含んでよく、予測モジュールは、第1の予測モジュール及び第2の予測モジュールを含んでよい。前述した実施形態から差別化した後に得られる第1のモジュール及び第2のモジュールの差異は、第1のモジュールの入力データ及び第2のモジュールの入力データが、それぞれエリア記述子及び3Dマップ点のデータに対応する点にある。
【0299】
図6dは、本願の一実施形態による3Dマップをデコーディングするための装置60-4の構造の図である。
図6dに示されているように、デコーディング装置60-4は、前述した実施形態におけるサーバ又は電子デバイス、特に、3Dマップを受信して圧縮解除する必要があるデバイス、例えば、
図4aに示されている実施形態における電子デバイス、
図4d及び
図4fに示されている実施形態における第2の電子デバイス、又は
図4eに示されている実施形態におけるサーバにおいて使用されてよい。
【0300】
図6cに示されている実施形態に関連して、本願のこの実施形態において、デコーディング装置60-4は、伝送モジュール61-4及び圧縮解除モジュール62-4を備える。圧縮解除モジュール62-4は、カプセル化解除モジュール621-4、予測モジュール622-3、及び量子化解除モジュール623-3を有する。予測モジュール622-3は、第1の予測モジュール622a及び第2の予測モジュール622bを含む。量子化解除モジュール623は、第1の量子化解除モジュール623a及び第2の量子化解除モジュール623bを含む。
【0301】
伝送モジュール61-4は、3Dマップのビットストリームを受信するように構成されている。
【0302】
カプセル化解除モジュール621-4の入力データは、3Dマップのビットストリームであり、カプセル化解除モジュール621-4は、3Dマップのビットストリームに対してカプセル化解除を実行して、エリア記述子の残差データ及び3Dマップ点の残差データを取得する。第1の予測モジュール622aの入力データは、エリア記述子の残差データであり、出力データは、エリア記述子の量子化データである。第1の量子化解除モジュール623aの入力データは、エリア記述子の量子化データであり、出力データは、エリア記述子の再構築データである。第2の予測モジュール622bの入力データは、3Dマップ点の残差データであり、出力データは、3Dマップ点の量子化データである。第2の量子化解除モジュール623bの入力データは、3Dマップ点の量子化データであり、出力データは、3Dマップ点の再構築データである。
【0303】
3Dマップのデータの前述した説明によれば、3Dマップの再構築データは、複数のエリア記述子の再構築データ、及び、3Dマップ点記述子の再構築データ及び複数の3Dマップ点の3Dマップ点空間位置の再構築データを含んでよい。したがって、
図6a~
図6cに示されている実施形態において、圧縮解除モジュールにおけるカプセル化解除モジュールとは異なる別のモジュールが、エリア記述子を処理するように構成されている第1のモジュール、3Dマップ点記述子を処理するように構成されている第2のモジュール、及び3Dマップ点空間位置を処理するように構成されている第3のモジュールに分割されてよい。例えば、量子化解除モジュールは、第1の量子化解除モジュール、第2の量子化解除モジュール、及び第3の量子化解除モジュールを含んでよく、予測モジュールは、第1の予測モジュール、第2の予測モジュール、及び第3の予測モジュールを含んでよい。前述した実施形態から差別化した後に得られる第1のモジュール、第2のモジュール、及び第3のモジュールの差異は、第1のモジュールの入力データ、第2のモジュールの入力データ、及び第3のモジュールの入力データが、それぞれ、エリア記述子、3Dマップ点記述子、及び3Dマップ点空間位置に対応する点にある。
【0304】
図6eは、本願の一実施形態による3Dマップをデコーディングするための装置60-5の構造の図である。
図6eに示されているように、デコーディング装置60-5は、前述した実施形態におけるサーバ又は電子デバイス、特に、3Dマップを受信して圧縮解除する必要があるデバイス、例えば、
図4aに示されている実施形態における電子デバイス、
図4d及び
図4fに示されている実施形態における第2の電子デバイス、又は
図4eに示されている実施形態におけるサーバにおいて使用されてよい。
【0305】
図6cに示されている実施形態に関連して、本願のこの実施形態において、デコーディング装置60-5は、伝送モジュール61-5及び圧縮解除モジュール62-5を備える。圧縮解除モジュール62-5は、カプセル化解除モジュール621-5、予測モジュール622-4、及び量子化解除モジュール623-4を有する。予測モジュール622-4は、第1の予測モジュール622a、第2の予測モジュール622b、及び第3の予測モジュール622cを含む。量子化解除モジュール623-4は、第1の量子化解除モジュール623a、第2の量子化解除モジュール623b、及び第3の量子化解除モジュール623cを含む。
【0306】
伝送モジュール61-5は、3Dマップのビットストリームを受信するように構成されている。
【0307】
カプセル化解除モジュール621-5の入力データは、3Dマップのビットストリームであり、カプセル化解除モジュール621-5は、3Dマップのビットストリームに対してカプセル化解除を実行して、エリア記述子の残差データ、3Dマップ点記述子の残差データ、及び3Dマップ点空間位置の残差データを取得する。第1の予測モジュール622aの入力データは、エリア記述子の残差データであり、出力データは、エリア記述子の量子化データである。第1の量子化解除モジュール623aの入力データは、エリア記述子の量子化データであり、出力データは、エリア記述子の再構築データである。第2の予測モジュール622bの入力データは、3Dマップ点記述子の残差データであり、出力データは、3Dマップ点記述子の量子化データである。第2の量子化解除モジュール623bの入力データは、3Dマップ点記述子の量子化データであり、出力データは、3Dマップ点記述子の再構築データである。第3の予測モジュール622bの入力データは、3Dマップ点空間位置の残差データであり、出力データは、3Dマップ点空間位置の量子化データである。第3の量子化解除モジュール623bの入力データは、3Dマップ点空間位置の量子化データであり、出力データは、3Dマップ点空間位置の再構築データである。
【0308】
図6d及び
図6eは、3Dマップをデコーディングするための装置の構造例をそれぞれ示しており、その構造は、3Dマップのビットストリームに含まれる内容に基づいて取得された構造であることに留意されたい。しかしながら、その構造は、デコーディング装置に対する限定をなすものではない。デコーディング装置は、
図6d又は
図6eに示されている実施形態におけるそれらよりも多様化されたモジュールを備えてよい。例えば、
図6a又は
図6bに示されている実施形態に関連して、3Dマップのビットストリームに含まれる内容に基づいて、別の構造が取得される。
図6a~
図6cに示されている実施形態において、予測モジュール及び量子化解除モジュールは、「及び/又は」の関係にあり、すなわち、圧縮解除モジュールは、予測モジュール及び量子化解除モジュールのうちの1つを有してもよいし、又は、予測モジュール及び量子化解除モジュールの両方を有してもよい。したがって、第1のモジュール及び第2のモジュールを区別する場合、エリア記述子を処理するためのモジュール及び3Dマップ点のデータを処理するためのモジュールに関して、処理方法は独立に設定されてよく、完全に一貫する必要はない。例えば、エリア記述子は、第1の予測モジュール及び第1の量子化解除モジュールを使用することによって処理されてよく、3Dマップ点のデータは、第2の予測モジュールを使用することによって処理されてよい。第1のモジュール、第2のモジュール、及び第3のモジュールを区別する場合、エリア記述子を処理するためのモジュール、3Dマップ点記述子を処理するためのモジュール、及び3Dマップ点空間位置を処理するためのモジュールに関して、処理方法は独立に設定されてよく、完全に一貫する必要はない。例えば、エリア記述子は、第1の予測モジュール及び第1の量子化解除モジュールを使用することによって処理されてよく、3Dマップ点記述子は、第2の予測モジュールを使用することによって処理されてよく、3Dマップ点空間位置は、第3の量子化解除モジュールを使用することによって処理されてよい。圧縮解除モジュールの具体的な実装は、本願において特に限定されるものではない。
【0309】
3Dマップのデータの前述した説明によれば、3Dマップの再構築データは、複数のエリア記述子の再構築データ及び複数の3Dマップ点の再構築データを含んでよい。
【0310】
可能な実装において、
図7aは、本願の一実施形態による3Dマップをデコーディングするための装置70-1の構造の図である。
図7aに示されているように、デコーディング装置70-1は、前述した実施形態におけるサーバ又は電子デバイス、特に、3Dマップを受信して圧縮解除する必要があるデバイス、例えば、
図4aに示されている実施形態における電子デバイス、
図4d及び
図4fに示されている実施形態における第2の電子デバイス、又は、
図4eに示されている実施形態におけるサーバにおいて使用されてよい。
【0311】
図5に示されている実施形態に関連して、本願のこの実施形態において、デコーディング装置70-1は、伝送モジュール71-1及び圧縮解除モジュール72-1を備える。圧縮解除モジュール72-1は、第1の圧縮解除サブモジュール721-1及び第2の圧縮解除サブモジュール722-1を有する。詳細は、以下の通りである。
【0312】
第1の圧縮解除サブモジュール721-1は、第14のデータの入力されたビットストリームを圧縮解除して、第14のデータを出力するように構成されている。第2の圧縮解除サブモジュール722-1は、第15のデータの入力されたビットストリームを圧縮解除して、第15のデータを出力するように構成されている。
【0313】
第14のデータは、複数のエリア記述子のうちの1つの再構築データであり、第15のデータは、複数の3Dマップ点のうちの1つの再構築データである。第1の圧縮解除サブモジュール721-1の入力データは、エリア記述子のビットストリームであり、出力データは、エリア記述子の再構築データであり;第2の圧縮解除サブモジュール722-1の入力データは、3Dマップ点のビットストリームであり、出力データは、3Dマップ点の再構築データであることがわかる。3Dマップのビットストリームは、複数のエリア記述子のビットストリーム及び複数の3Dマップ点のビットストリームを含む。
【0314】
第1の圧縮解除サブモジュール721-1及び第2の圧縮解除サブモジュール722-1については、
図6a~
図6eに示されている実施形態における圧縮解除モジュールの構造を参照されたい。第1の圧縮解除サブモジュール721-1及び第2の圧縮解除サブモジュール722-1は、互いに独立しており、同じ構造又は異なる構造を用いてよいことに留意されたい。すなわち、エリア記述子を処理するように構成されている第1の圧縮解除サブモジュール721-1及び3Dマップ点のデータを処理するように構成されている第2の圧縮解除サブモジュール722-1は、同じ構造又は異なる構造であってよい。それに応じて、エリア記述子に対して実行される圧縮解除のステップは、3Dマップ点のデータに対して実行される圧縮解除のステップと同じ又はそれとは異なってもよい。
【0315】
例えば、第1の圧縮解除サブモジュールは、第1のカプセル化解除モジュール及び第1の予測モジュールを含む。このようにして、エリア記述子のビットストリームが第1の圧縮解除サブモジュールに入力された後、第1のカプセル化解除モジュールは、まず、ビットストリームをカプセル化解除して、エリア記述子の残差データを取得し、次に、第1の予測モジュールは、残差データを処理して、エリア記述子の再構築データを取得する。第2の圧縮解除サブモジュールは、第2のカプセル化解除モジュール、第2の予測モジュール、及び第2の量子化解除モジュールを含む。このようにして、3Dマップ点のビットストリームが第2の圧縮解除サブモジュールに入力された後、第2のカプセル化解除モジュールは、まず、ビットストリームを処理して、3Dマップ点の残差データを取得し、次に、第2の予測モジュールは、残差データを処理して、3Dマップ点の量子化データを取得し、次に、第2の量子化解除モジュールは、量子化データを処理して、3Dマップ点の再構築データを取得する。
【0316】
別の例では、第1の圧縮解除サブモジュールは、第1のカプセル化解除モジュール、第1の予測モジュール、及び第1の量子化解除モジュールを含む。このようにして、エリア記述子のビットストリームが第1の圧縮解除サブモジュールに入力された後、第1のカプセル化解除モジュールは、まず、ビットストリームを処理して、エリア記述子の残差データを取得し、第1の予測モジュールは、残差データを処理して、エリア記述子の量子化データを取得し、第1の量子化解除モジュールは、量子化データを処理して、エリア記述子の再構築データを取得する。第2の圧縮解除サブモジュールは、第2のカプセル化解除モジュール及び第2の予測モジュールを含む。このようにして、3Dマップ点のビットストリームが第2の圧縮解除サブモジュールに入力された後、第2のカプセル化解除モジュールは、記述を処理して、3Dマップ点の残差データを取得し、第2の予測モジュールは、残差データを処理して、3Dマップ点の再構築データを取得する。
【0317】
第1の圧縮解除サブモジュール及び第2の圧縮解除サブモジュールの構造は、一例として上で説明したことが理解されるべきである。しかしながら、これは、第1の圧縮解除サブモジュール及び第2の圧縮解除サブモジュールの構造に対する限定をなすものではない。これらの2つのサブモジュールは、この例におけるそれらよりも多数又は少数のモジュールを含んでよい。詳細については、
図6a~
図6eに示されている実施形態における圧縮解除モジュールの構造を参照されたい。これは、本願の実施形態において特に限定されるものではない。
【0318】
可能な実装において、
図7bは、本願の一実施形態による3Dマップをデコーディングするための装置70-2の構造の図である。
図7bに示されているように、デコーディング装置70-2は、前述した実施形態におけるサーバ又は電子デバイス、特に、3Dマップを受信して圧縮解除する必要があるデバイス、例えば、
図4aに示されている実施形態における電子デバイス、
図4d及び
図4fに示されている実施形態における第2の電子デバイス、又は、
図4eに示されている実施形態におけるサーバにおいて使用されてよい。
【0319】
図7aに示されている実施形態に関連して、本願のこの実施形態において、デコーディング装置70-2は、伝送モジュール71-2及び圧縮解除モジュール72-2を備える。圧縮解除モジュール72-2は、第1の圧縮解除サブモジュール721-2及び第2の圧縮解除サブモジュール722-2を有する。第1の圧縮解除サブモジュール721-2は、第1のカプセル化解除モジュール7211、第1の予測モジュール7212、及び第1の量子化解除モジュール7213を含む。第2の圧縮解除サブモジュール722-2は、第2のカプセル化解除モジュール7221、第2の予測モジュール7222、及び第2の量子化解除モジュール7223を含む。詳細は、以下の通りである。
【0320】
第1のカプセル化解除モジュール7211は、エリア記述子の入力されたビットストリームを処理して、エリア記述子の残差データを取得するように構成されている。第1の予測モジュール7212は、エリア記述子の入力された残差データに対して予測を実行して、エリア記述子の量子化データを取得するように構成されている。第1の量子化解除モジュール7213は、エリア記述子の入力された量子化データに対して量子化解除を実行して、エリア記述子の再構築データを取得するように構成されている。第2のカプセル化解除モジュール7221は、3Dマップ点の入力されたビットストリームを処理して、3Dマップ点の残差データを取得するように構成されている。第2の予測モジュール7222は、3Dマップ点の入力された残差データに対して予測を実行して、3Dマップ点の量子化データを取得するように構成されている。第2の量子化解除モジュール7223は、3Dマップ点の入力された量子化データに対して量子化解除を実行して、3Dマップ点の再構築データを取得するように構成されている。
【0321】
第1の圧縮解除サブモジュール及び第2の圧縮解除サブモジュールの構造は、
図7bに示されている実施形態において一例として説明されていることが理解されるべきである。しかしながら、これは、第1の圧縮解除サブモジュール及び第2の圧縮解除サブモジュールの構造に対する限定をなすものではない。これらの2つのサブモジュールは、この例におけるそれらよりも多数又は少数のモジュールを含んでよい。詳細については、
図6a~
図6eに示されている実施形態における圧縮解除モジュール62の構造を参照されたい。これは、本願の実施形態において特に限定されるものではない。
【0322】
3Dマップのデータの前述した説明によれば、3Dマップの再構築データは、複数のエリア記述子の再構築データ、3Dマップ点記述子の再構築データ、及び複数の3Dマップ点の3Dマップ点空間位置の再構築データを含んでよい。
【0323】
可能な実装において、
図8aは、本願の一実施形態による3Dマップをデコーディングするための装置80-1の構造の図である。
図8aに示されているように、デコーディング装置80-1は、前述した実施形態におけるサーバ又は電子デバイス、特に、3Dマップを受信して圧縮解除する必要があるデバイス、例えば、
図4aに示されている実施形態における電子デバイス、
図4d及び
図4fに示されている実施形態における第2の電子デバイス、又は、
図4eに示されている実施形態におけるサーバにおいて使用されてよい。
【0324】
図5に示されている実施形態に関連して、本願のこの実施形態において、デコーディング装置80-1は、伝送モジュール81-1及び圧縮解除モジュール82-1を備える。圧縮解除モジュール82-1は、第1の圧縮解除サブモジュール821-1、第2の圧縮解除サブモジュール822-1、及び第3の圧縮解除サブモジュール823-1を有する。詳細は、以下の通りである。
【0325】
第1の圧縮解除サブモジュール821-1は、第22のデータの入力されたビットストリームを圧縮解除して、第22のデータを出力するように構成されている。第2の圧縮解除サブモジュール822-1は、第23のデータの入力されたビットストリームを圧縮解除して、第23のデータを出力するように構成されている。第3の圧縮解除サブモジュール823-1は、第24のデータの入力されたビットストリームを圧縮解除して、第24のデータを出力するように構成されている。
【0326】
第22のデータは、複数のエリア記述子のうちの1つの再構築データであり、第23のデータは、複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データであり、第24のデータは、複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データである。第1の圧縮解除サブモジュール821-1の入力データは、エリア記述子のビットストリームであり、出力データは、エリア記述子の再構築データであり;第2の圧縮解除サブモジュール822-1の入力データは、3Dマップ点記述子のビットストリームであり、出力データは、3Dマップ点記述子の再構築データであり;第3の圧縮解除サブモジュール823-1の入力データは、3Dマップ点空間位置のビットストリームであり、出力データは、3Dマップ点空間位置の再構築データであることがわかる。3Dマップのビットストリームは、複数のエリア記述子のビットストリーム、複数の3Dマップ点記述子のビットストリーム、及び複数の3Dマップ点空間位置のビットストリームを含む。
【0327】
第1の圧縮解除サブモジュール821-1、第2の圧縮解除サブモジュール822-1、及び第3の圧縮解除サブモジュール823-1については、
図6a~
図6eに示されている実施形態における圧縮解除モジュールの構造を参照されたい。第1の圧縮解除サブモジュール821-1、第2の圧縮解除サブモジュール822-1、及び第3の圧縮解除サブモジュール823-1は、互いに独立しており、同じ構造又は異なる構造を用いてよいことに留意されたい。すなわち、エリア記述子を処理するように構成されている第1の圧縮解除サブモジュール821-1、3Dマップ点記述子を処理するように構成されている第2の圧縮解除サブモジュール822-1、及び3Dマップ点空間位置を処理するように構成されている第3の圧縮解除サブモジュール823-1は、同じ構造又は異なる構造である。それに応じて、エリア記述子に対して実行される圧縮解除のステップ、3Dマップ点記述子に対して実行される圧縮解除のステップ、及び3Dマップ点空間位置に対して実行される圧縮解除のステップは、同じ又は異なってもよい。
【0328】
可能な実装において、
図8bは、本願の一実施形態による3Dマップをデコーディングするための装置80-2の構造の図である。
図8bに示されているように、デコーディング装置80-2は、前述した実施形態におけるサーバ又は電子デバイス、特に、3Dマップを受信して圧縮解除する必要があるデバイス、例えば、
図4aに示されている実施形態における電子デバイス、
図4d及び
図4fに示されている実施形態における第2の電子デバイス、又は、
図4eに示されている実施形態におけるサーバにおいて使用されてよい。
【0329】
図8aに示されている実施形態に関連して、本願のこの実施形態において、デコーディング装置80-2は、伝送モジュール81-2及び圧縮解除モジュール82-2を備える。圧縮解除モジュール82-2は、第1の圧縮解除サブモジュール821-2、第2の圧縮解除サブモジュール822-2、及び第3の圧縮解除サブモジュール823-2を有する。第1の圧縮解除サブモジュール821-2は、第1のカプセル化解除モジュール8211、第1の予測モジュール8212、及び第1の量子化解除モジュール8213を含む。第2の圧縮解除サブモジュール822-2は、第2のカプセル化解除モジュール8221、第2の予測モジュール8222、及び第2の量子化解除モジュール8223を含む。第3の圧縮解除サブモジュール823-2は、第3のカプセル化解除モジュール8231、第3の予測モジュール8232、及び第3の量子化解除モジュール8233を含む。詳細は、以下の通りである。
【0330】
第1のカプセル化解除モジュール8211は、エリア記述子の入力されたビットストリームを処理して、エリア記述子の残差データを取得するように構成されている。第1の予測モジュール8212は、エリア記述子の入力された残差データに対して予測を実行して、エリア記述子の量子化データを取得するように構成されている。第1の量子化解除モジュール8213は、エリア記述子の入力された量子化データに対して量子化解除を実行して、エリア記述子の再構築データを取得するように構成されている。第2のカプセル化解除モジュール8221は、3Dマップ点記述子の入力されたビットストリームを処理して、3Dマップ点記述子の残差データを取得するように構成されている。第2の予測モジュール8222は、3Dマップ点記述子の入力された残差データに対して予測を実行して、3Dマップ点記述子の量子化データを取得するように構成されている。第2の量子化解除モジュール8223は、3Dマップ点記述子の入力された量子化データに対して量子化解除を実行して、3Dマップ点記述子の再構築データを取得するように構成されている。第3のカプセル化解除モジュール8231は、3Dマップ点空間位置の入力されたビットストリームを処理して、3Dマップ点空間位置の残差データを取得するように構成されている。第3の予測モジュール8232は、3Dマップ点空間位置の入力された残差データに対して予測を実行して、3Dマップ点空間位置の量子化データを取得するように構成されている。第3の量子化解除モジュール8233は、3Dマップ点空間位置の入力された量子化データに対して量子化解除を実行して、3Dマップ点空間位置の再構築データを取得するように構成されている。
【0331】
第1の圧縮解除サブモジュール、第2の圧縮解除サブモジュール、及び第3の圧縮解除サブモジュールの構造は、
図8bに示されている実施形態において一例として説明されていることが理解されるべきである。しかしながら、第1の圧縮解除サブモジュール、第2の圧縮解除サブモジュール、及び第3の圧縮解除サブモジュールの構造に対する限定をなすものではない。これらの3つのサブモジュールは、この例におけるそれらよりも多数又は少数のモジュールを含んでよい。詳細については、
図6a~
図6eに示されている実施形態における圧縮解除モジュール62の構造を参照されたい。これは、本願の実施形態において特に限定されるものではない。
【0332】
図9は、本願の一実施形態による3Dマップをデコーディングするための方法のプロセス900のフローチャートである。
図9に示されているように、プロセス900は、前述した実施形態におけるデコーディング装置によって実行されてよい。プロセス900は、一連のステップ又はオペレーションとして説明される。プロセス900のステップ又はオペレーションは、様々な順序で及び/又は同時に実行されてよく、
図9に示されている実行順序に限定されるものではないことが理解されるべきである。3Dマップのデータを取得するために、3Dマップのビットストリームをデコーディング装置において圧縮解除し、現在処理されている3Dマップのビットストリームを処理するために、以下のステップを含むプロセス900が実行されることが仮定される。
【0333】
ステップ901:3Dマップのビットストリームを受信する。
【0334】
デコーディング装置は、通信リンクを使用することによって3Dマップのビットストリームを受信してよい。
【0335】
ステップ902:3Dマップのビットストリームを圧縮解除して、3Dマップの再構築データを取得する。
【0336】
3Dマップ及び3Dマップの再構築データについては、前述した説明を参照されたい。詳細は、ここで再度説明されない。
【0337】
本願のこの実施形態において、3Dマップのビットストリームに対して実行される圧縮解除は、カプセル化解除、予測、及び/又は量子化解除を含んでよい。前述した処理については、前述した実施形態における説明を参照されたい。詳細は、ここで再度説明されない。
【0338】
図10は、本願の一実施形態による3Dマップをデコーディングするための装置100の構造の図である。
図10に示されているように、デコーディング装置100は、前述した実施形態におけるサーバ又は電子デバイス、特に、3Dマップを格納して圧縮解除することが必要なデバイス、例えば、
図4bに示されている実施形態におけるサーバ、又は、
図4cに示されている実施形態における電子デバイスにおいて使用されてよい。
【0339】
本願のこの実施形態において、3Dマップをデコーディングするための装置100は、圧縮を通じて取得されたビットストリーム形式の3Dマップを格納するように構成されているメモリ101、ここで、3Dマップは、複数の3Dマップ点を含み、3Dマップのデータは、複数の3Dマップ点のデータを含む;及び、圧縮を通じて取得されたビットストリーム形式の3Dマップを圧縮解除して、再構築3Dマップを取得するように構成されているデコーダ102、ここで、再構築3Dマップは、複数の3Dマップ点を含み、再構築3Dマップのデータは、複数の3Dマップ点の再構築データを含む、を備える。メモリ101は、圧縮を通じて取得されたビットストリーム形式の3Dマップを格納し、デコーダ102の入力データは、圧縮を通じて取得されたビットストリーム形式の3Dマップであり、出力データは、再構築3Dマップであることがわかる。
【0340】
デコーダ102は、圧縮を通じて取得されたビットストリーム形式の3Dマップの圧縮解除をサポートしてよい。すなわち、3Dマップをデコーディングするための装置は、3Dマップのデータの圧縮/圧縮解除をサポートして、3Dマップのデータボリュームを低減させ得る。3Dマップが格納される必要があるシナリオにおいて、3Dマップの元のデータを格納する代わりに、圧縮を通じて取得されたビットストリーム形式の3Dマップを格納することで、3Dマップのデータの格納によって占有される領域を低減させることができる。
【0341】
本願のこの実施形態において、デコーダ102については、
図5~
図8bに示されている実施形態における圧縮解除モジュールを参照されたい。差異は、デコーダがカプセル化解除モジュールを含まないことにある。
【0342】
図11aは、本願の一実施形態による3Dマップのエンコーディングされたビットストリームの構造の一例の図である。
図11aに示されているように、3Dマップのエンコーディングされたビットストリームは、ファイルヘッダ、エリア記述子1、3Dマップ点1、エリア記述子2、3Dマップ点2、...、エリア記述子m、3Dマップ点n、及び他の情報を備えてよい。
【0343】
本願のこの実施形態において、3Dマップは、mのエリア記述子及びnの3Dマップ点を含み、エンコーディングされたビットストリームにおけるエリア記述子及び3Dマップ点は、交差方式で配列されてよいことが仮定される。
【0344】
図11bは、本願の一実施形態による3Dマップのエンコーディングされたビットストリームの構造の一例の図である。
図11bに示されているように、3Dマップのエンコーディングされたビットストリームは、ファイルヘッダ、エリア記述子1、エリア記述子2、...、エリア記述子m、3Dマップ点1、3Dマップ点2、...、3Dマップ点n、及び他の情報を備えてよい。
【0345】
本願のこの実施形態において、3Dマップは、mのエリア記述子及びnの3Dマップ点を含むことが仮定される。エンコーディングされたビットストリームにおけるエリア記述子及び3Dマップ点は、別々に配列されている:mのエリア記述子に続いて、nの3Dマップ点が配列されているか、又は、nの3Dマップ点に、mのエリア記述子が続く。
【0346】
本願のこの実施形態における3Dマップのエンコーディングされたビットストリームは、代替的には、別の構造を用いてもよく、3Dマップに含まれているデータ内容に特定の構造が関連付けられることが理解されるべきである。例えば、3Dマップのエンコーディングされたビットストリームは、ファイルヘッダ、エリア記述子、及び他の情報のうちの1又は複数を備えない。
【0347】
図11cは、本願の一実施形態による3Dマップのエンコーディングされたビットストリームの構造の一例の図である。
図11cに示されているように、3Dマップのエンコーディングされたビットストリームは、エリア記述子1、エリア記述子2、及びエリア記述子3を備えてよい。このエンコーディングされたビットストリームの構造は、圧縮解除モジュールが予測モジュールを備えない前述した事例に対応する。したがって、予測のための参照情報がビットストリームに書き込まれる必要はない。
【0348】
図11dは、本願の一実施形態による3Dマップのエンコーディングされたビットストリームの構造の一例の図である。
図11dに示されているように、3Dマップのエンコーディングされたビットストリームは、エリア記述子1、エリア記述子2の参照エリア記述子のインデックス、及びエリア記述子2の残差データを備えてよい。このエンコーディングされたビットストリームの構造は、圧縮解除モジュールが予測モジュールを有する前述した事例に対応する。したがって、予測のための参照情報、例えば、エリア記述子2の参照エリア記述子のインデックスがビットストリームに書き込まれる必要がある。加えて、元のデータの代わりに、エリア記述子2の残差データが、エリア記述子2に書き込まれる。
【0349】
図11eは、本願の一実施形態による3Dマップのエンコーディングされたビットストリームの構造の一例の図である。
図11eに示されているように、3Dマップのエンコーディングされたビットストリームは、3Dマップ点1、3Dマップ点2、及び3Dマップ点3を備えてよい。3Dマップ点2が一例として使用される。3Dマップ点2のビットストリームは、3Dマップ点2の3Dマップ点記述子及び3Dマップ点2の3Dマップ点空間位置を含む。エンコーディングされたビットストリームの構造が、圧縮解除モジュールが予測モジュールを有する前述した事例に対応する場合、3Dマップ点記述子のビットストリームは、3Dマップ点記述子の参照インデックス及び3Dマップ点記述子の残差データを含み、3Dマップ点空間位置のビットストリームは、3Dマップ点空間位置の参照インデックス及び3Dマップ点空間位置の残差データを含む。
【0350】
本願のこの実施形態における3Dマップのエンコーディングされたビットストリームにおいて、3Dマップのビットストリームに含まれる内容は、3Dマップのデータに対して実行される異なる圧縮/圧縮解除処理に応じて変わることが理解されるべきである。例えば、圧縮/圧縮解除処理が量子化/量子化解除を含む場合、3Dマップのビットストリームは、量子化データを含む;圧縮/圧縮解除処理が量子化/量子化解除及び予測を含む場合、3Dマップのビットストリームは、参照インデックス及び残差データを含む;又は、圧縮/圧縮解除処理が予測を含む場合、3Dマップのビットストリームは、参照インデックス及び残差データを含む。したがって、この3Dマップのエンコーディングされたビットストリームの構造は、本願のこの実施形態において特に限定されるものではない。
【0351】
実装プロセスにおいて、前述した方法の実施形態におけるステップは、ハードウェアの形態の又はプロセッサにおけるソフトウェアの形態の命令集積論理回路によって完了されてよい。プロセッサは、汎用プロセッサ、デジタル信号プロセッサ(digital signal processor、DSP)、特定用途向け集積回路(application-specific integrated circuit、ASIC)、フィールドプログラマブルゲートアレイ(field programmable gate array、FPGA)又は別のプログラマブルロジックデバイス、ディスクリートゲート又はトランジスタロジックデバイス、又はディスクリートハードウェアコンポーネントであってもよい。汎用プロセッサは、マイクロプロセッサであってよく、又は、プロセッサは、任意の従来のプロセッサ等であってよい。本願の実施形態において開示された方法のステップは、ハードウェアエンコーディングプロセッサによって実行及び完了されるか、又は、ハードウェア及びエンコーディングプロセッサにおけるソフトウェアモジュールの組み合わせによって実行及び完了されるものについて直接提示されている場合がある。ソフトウェアモジュールは、当該技術分野の成熟した記憶媒体、例えば、ランダムアクセスメモリ、フラッシュメモリ、リードオンリメモリ、プログラマブルリードオンリメモリ、電気的消去可能プログラマブルメモリ、又はレジスタに配置されてよい。記憶媒体は、メモリ内に配置されている。プロセッサは、メモリ内の情報を読み込み、プロセッサのハードウェアとの組み合わせで前述した方法のステップを完了する。
【0352】
前述した実施形態において言及されたメモリは、揮発性メモリ、又は、不揮発性メモリであってもよいし、又は、揮発性メモリ及び不揮発性メモリの両方を含んでもよい。不揮発性メモリは、リードオンリメモリ(read-only memory、ROM)、プログラマブルリードオンリメモリ(programmable ROM:PROM)、消去可能プログラマブルリードオンリメモリ(erasable PROM、EPROM)、電気的消去可能プログラマブルリードオンリメモリ(electrically EPROM:EEPROM)、又はフラッシュメモリであり得る。揮発性メモリは、外部バッファとして使用されるランダムアクセスメモリ(random access memory、RAM)であってよい。限定的な説明ではなく例を通じて、多くの形式のRAMが用いられてよく、例えば、スタティックランダムアクセスメモリ(static RAM、SRAM)、ダイナミックランダムアクセスメモリ(dynamic RAM、DRAM)、シンクロナスダイナミックランダムアクセスメモリ(synchronous DRAM、SDRAM)、ダブルデータレートシンクロナスダイナミックランダムアクセスメモリ(double data rate SDRAM、DDR SDRAM)、エンハンストシンクロナスダイナミックランダムアクセスメモリ(enhanced SDRAM、ESDRAM)、シンクロナスリンクダイナミックランダムアクセスメモリ(synchlink DRAM、SLDRAM)、及びダイレクトランバスダイナミックランダムアクセスメモリ(direct rambus RAM、DR RAM)である。本明細書において説明したシステム及び方法のメモリは、限定されるものではないが、これら及び別の適切なタイプの任意のメモリを含むことに留意されたい。
【0353】
当業者には、本明細書で開示した実施形態で説明した例と組み合わせて、ユニット及びアルゴリズムステップが電子ハードウェア、又はコンピュータソフトウェア及び電子ハードウェアの組み合わせにより実施されてよいことが認識され得る。これらの機能がハードウェア又はソフトウェアのどちらで実行されるかは、技術的解決手段の特定の応用及び設計上の制約で決まる。当業者であれば、説明された機能を特定の応用ごとに実装するのに異なる方法を用い得るが、当該実装が本願の範囲を超えるとみなされるべきではない。
【0354】
簡便で簡単な説明を目的として、前述したシステム、装置、及びユニットの詳細な動作処理について、前述した方法の実施形態における対応する処理を参照することが、当業者によって明確に理解され得る。詳細は、ここで再度説明されない。
【0355】
本願で提供された複数の実施形態では、開示されたシステム、装置、及び方法が他の方式で実施されてよいことを理解されたい。例えば、前述した装置の実施形態は単に例である。例えば、複数のユニットの分割は、論理的な機能分割に過ぎず、実際の実装中では他の分割であってもよい。例えば、複数のユニット又はコンポーネントが、別のシステムへ組み合わされるか又は統合されてよく、又は、一部の機能が無視されるか又は実行されなくてよい。加えて、表示又は論述されている相互結合又は直接結合又は通信接続は、いくつかのインタフェースを使用することによって実装されてよい。装置間又はユニット間の間接結合又は通信接続は、電子的形態、機械的形態又は別の形態で実装されてよい。
【0356】
別個の部分として説明されたユニットは、物理的に別個であってもよいし又はそうでなくてもよく、ユニットとして表示された部分は、物理ユニットであってもよいし又はそうでなくてもよく、1つの位置に配置されていてもよいし又は複数のネットワークユニット上に分散していてもよい。これらのユニットのうちのいくつか又は全ては、実施形態における解決手段の目的を実現するために、実際の要件に応じて選択され得る。
【0357】
加えて、本願の実施形態における機能ユニットが1つの処理ユニットに統合されてもよく、ユニットのそれぞれが物理的に単独で存在してもよいし、又は、2又はそれより多くのユニットが1つのユニットに統合される。
【0358】
これらの機能がソフトウェア機能ユニットの形式で実装され、且つ、独立した製品として販売又は使用される場合、当該機能がコンピュータ可読記憶媒体に格納されてよい。そのような理解に基づいて、本願の技術的解決手段は、本質的に、又は従来技術に寄与する一部分が、又は技術的解決手段のうちの一部が、ソフトウェア製品の形態で実施され得る。コンピュータソフトウェア製品は、記憶媒体に格納され、コンピュータデバイス(パーソナルコンピュータ、サーバ、ネットワークデバイス等)に本願の実施形態に記載された方法のステップの全て又は一部を実行するよう命令するための複数の命令を備える。記憶媒体には、プログラムコードを格納できる任意の媒体、例えば、USBフラッシュドライブ、リムーバブルハードディスク、リードオンリメモリ(read-only memory、ROM)、ランダムアクセスメモリ(random access memory、RAM)、磁気ディスク、又は光ディスク等が含まれる。
【0359】
前述した説明は、本願の具体的な実装に過ぎず、本願の保護範囲はこれに限定されるものではない。本願で開示された技術的範囲内で当業者が容易に想到する任意の変形又は置換は、本願の保護範囲に含まれるものとする。したがって、本願の保護範囲は、特許請求の範囲の保護範囲に従うものとする。
【手続補正書】
【提出日】2024-01-15
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
エンコーディング装置及びデコーディング装置を備える、3Dマップのためのコーデックシステムであって、ここで、前記エンコーディング装置は、前記デコーディング装置に通信可能に接続されており;
前記エンコーディング装置は、3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得し、前記3Dマップの前記ビットストリームを前記デコーディング装置に送信するように構成されており、ここで、前記3Dマップは、複数の3Dマップ点を含み、前記3Dマップの前記データは、前記複数の3Dマップ点のデータを含む;かつ
前記デコーディング装置は、前記3Dマップの前記ビットストリームを受信し、前記3Dマップの前記ビットストリームを圧縮解除して、前記3Dマップの再構築データを取得するように構成されている
システム。
【請求項2】
前記エンコーディング装置は、クラウドサーバであり、前記デコーディング装置は、電子デバイスである;又は、前記エンコーディング装置は、第1の電子デバイスであり、前記デコーディング装置は、第2の電子デバイスである;
前記デコーディング装置は、3Dマップダウンロード要求を前
記エンコーディング装置に送信するようにさらに構成されており、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む;かつ
前記エンコーディング装置は、前記3Dマップダウンロード要求を受信して、前記3Dマップダウンロード要求に従って、前記3Dマップの、前記位置指示情報に対応するビットストリームを前記デコーディング装置に送信するようにさらに構成されている
請求項1に記載のシステム。
【請求項3】
前記エンコーディング装置は、電子デバイスであり、前記デコーディング装置は、クラウドサーバである;かつ
前記エンコーディン
グ装置は、前記3Dマップが生成された後、前記3Dマップの前記ビットストリームを前記デコーディング装置に送信するように特に構成されている
請求項1又は2に記載のシステム。
【請求項4】
前記3Dマップの前記データは、複数のエリア記述子をさらに含み、前記複数のエリア記述子のいずれか1つは、前記複数の3Dマップ点のうちの一部又は全ての3Dマップ点の特徴を記述するものである、請求項1から3のいずれか一項に記載のシステム。
【請求項5】
前記複数の3Dマップ点のいずれか1つのデータは、3Dマップ点記述子及び3Dマップ点空間位置を含む、請求項1又は4に記載のシステム。
【請求項6】
前記エンコーディング装置は、前記3Dマップを生成するようにさらに構成されている、請求項1から5のいずれか一項に記載のシステム。
【請求項7】
前記デコーディング装置は、前記3Dマップに基づいて測位を実行するようにさらに構成されている、請求項1から6のいずれか一項に記載のシステム。
【請求項8】
伝送モジュール及び圧縮解除モジュールを備える、3Dマップをデコーディングするための装置であって、ここで、
前記伝送モジュールは、3Dマップのビットストリームを受信するように構成されており、ここで、前記3Dマップは、複数の3Dマップ点を含む;かつ
前記圧縮解除モジュールは、前記3Dマップの前記ビットストリームを圧縮解除して、前記3Dマップの再構築データを取得するように構成されており、ここで、前記3Dマップの前記再構築データは、前記複数の3Dマップ点の再構築データを含む
装置。
【請求項9】
前記3Dマップの前記再構築データは、複数のエリア記述子の再構築データをさらに含み、前記複数のエリア記述子のいずれか1つは、前記複数の3Dマップ点の一部又は全ての3Dマップ点の特徴を記述する
請求項8に記載の装置。
【請求項10】
前記複数の3Dマップ点のいずれか1つの再構築データは、3Dマップ点記述子の再構築データ及び3Dマップ点空間位置の再構築データを含む、請求項9に記載の装置。
【請求項11】
3Dマップをデコーディングするための前記装置は、クラウドサーバ又は電子デバイスであり;かつ
前記伝送モジュールは、3Dマップダウンロード要求を送信し、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む;前記3Dマップの、前記位置指示情報に対応するビットストリームを受信するようにさらに構成されている
請求項8から10のいずれか一項に記載の装置。
【請求項12】
3Dマップをデコーディングするための前記装置は、クラウドサーバであり;かつ
前記伝送モジュールは、電子デバイスによって生成された前記3Dマップの前記ビットストリームを受信するように特に構成されている
請求項8から10のいずれか一項に記載の装置。
【請求項13】
前記圧縮解除モジュールは、カプセル化解除モジュール、及び予測モジュール及び/又は量子化解除モジュールを有し;
前記カプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第1のデータを出力するように構成されており;
前記予測モジュールは、第2のデータの入力された残差データに対して予測を実行して、前記第2のデータを出力するように構成されており;
前記量子化解除モジュールは、入力された第3のデータに対して量子化解除を実行して、前記第3のデータの量子化解除データを出力するように構成されており;かつ
前記第1のデータは、前記第2のデータの前記残差データ又は前記第3のデータであり、前記第2のデータは、前記3Dマップの前記再構築データ又は前記第3のデータであり、前記第3のデータの前記量子化解除データは、前記3Dマップの前記再構築データである
請求項8から12のいずれか一項に記載の装置。
【請求項14】
前記予測モジュールは、第1の予測モジュール及び第2の予測モジュールを含み;及び/又は、前記量子化解除モジュールは、第1の量子化解除モジュール及び第2の量子化解除モジュールを含み;
前記第1の予測モジュールは、第4のデータの入力された残差データに対して予測を実行して、前記第4のデータを出力するように構成されており;
前記第1の量子化解除モジュールは、入力された第5のデータに対して量子化解除を実行して、前記第5のデータの量子化解除データを出力するように構成されており;
前記第4のデータは
、複数のエリア記述子のうちの1つの再構築データ又は前記第5のデータであり、前記第5のデータの前記量子化解除データは、前記複数のエリア記述子のうちの1つの再構築データであり;
前記第2の予測モジュールは、第6のデータの入力された残差データに対して予測を実行して、前記第6のデータを出力するように構成されており;
前記第2の量子化解除モジュールは、入力された第7のデータに対して量子化解除を実行して、前記第7のデータの量子化解除データを出力するように構成されており;かつ
前記第6のデータは、前記複数の3Dマップ点のうちの1つの再構築データ又は前記第7のデータであり、前記第7のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの再構築データである
請求項13に記載の装置。
【請求項15】
前記予測モジュールは、第1の予測モジュール、第2の予測モジュール、及び第3の予測モジュールを含み;及び/又は、前記量子化解除モジュールは、第1の量子化解除モジュール、第2の量子化解除モジュール、及び第3の量子化解除モジュールを含み;
前記第1の予測モジュールは、第8のデータの入力された残差データに対して予測を実行して、前記第8のデータを出力するように構成されており;
前記第1の量子化解除モジュールは、入力された第9のデータに対して量子化解除を実行して、前記第9のデータの量子化解除データを出力するように構成されており;
前記第8のデータは
、複数のエリア記述子のうちの1つの再構築データ又は前記第9のデータであり、前記第9のデータの前記量子化解除データは、前記複数のエリア記述子のうちの1つの再構築データであり;
前記第2の予測モジュールは、第10のデータの入力された残差データに対して予測を実行して、前記第10のデータを出力するように構成されており;
前記第2の量子化解除モジュールは、入力された第11のデータに対して量子化解除を実行して、前記第11のデータの量子化解除データを出力するように構成されており;
前記第10のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データ又は前記第11のデータであり、前記第11のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データであり;
前記第3の予測モジュールは、第12のデータの入力された残差データに対して予測を実行して、前記第12のデータを出力するように構成されており;
前記第3の量子化解除モジュールは、入力された第13のデータに対して量子化解除を実行して、前記第13のデータの量子化解除データを出力するように構成されており;かつ
前記第12のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データ又は前記第13のデータであり、前記第13のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データである
請求項13に記載の装置。
【請求項16】
前記圧縮解除モジュールは、第1の圧縮解除サブモジュール及び第2の圧縮解除サブモジュールを有し;
前記第1の圧縮解除サブモジュールは、第14のデータの入力されたビットストリームを圧縮解除して、前記第14のデータを出力するように構成されており;
前記第2の圧縮解除サブモジュールは、第15のデータの入力されたビットストリーム
を圧縮解除して、前記第15のデータを出力するように構成されており;かつ
前記第14のデータは
、複数のエリア記述子のうちの1つの再構築データであり、前記第15のデータは、前記複数の3Dマップ点のうちの1つの再構築データである
請求項8から12のいずれか一項に記載の装置。
【請求項17】
前記第1の圧縮解除サブモジュールは、第1のカプセル化解除モジュール、第1の予測モジュール及び/又は第1の量子化解除モジュールを含み;前記第2の圧縮解除サブモジュールは、第2のカプセル化解除モジュール、及び第2の予測モジュール及び/又は第2の量子化解除モジュールを含み;
前記第1のカプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第16のデータを出力するように構成されており;
前記第1の予測モジュールは、第17のデータの入力された残差データに対して予測を実行して、前記第17のデータを出力するように構成されており;
前記第1の量子化解除モジュールは、入力された第18のデータに対して量子化解除を実行して、前記第18のデータの量子化解除データを出力するように構成されており;
前記第16のデータは、前記第17のデータの前記残差データ又は前記第18のデータであり、前記第17のデータは、前記複数のエリア記述子のうちの1つの再構築データ又は前記第18のデータであり、前記第18のデータの前記量子化解除データは、前記複数のエリア記述子のうちの1つの再構築データであり;
前記第2のカプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第19のデータを出力するように構成されており;
前記第2の予測モジュールは、第20のデータの入力された残差データに対して予測を実行して、前記第20のデータを出力するように構成されており;
前記第2の量子化解除モジュールは、入力された第21のデータに対して量子化解除を実行して、前記第21のデータの量子化解除データを出力するように構成されており;かつ
前記第19のデータは、前記第20のデータの前記残差データ又は前記第21のデータであり、前記第20のデータは、前記複数の3Dマップ点のうちの1つの再構築データ又は前記第21のデータであり、前記第21のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの再構築データである
請求項16に記載の装置。
【請求項18】
前記圧縮解除モジュールは、第1の圧縮解除サブモジュール、第2の圧縮解除サブモジュール、及び第3の圧縮解除サブモジュールを有し;
前記第1の圧縮解除サブモジュールは、第22のデータの入力されたビットストリームを圧縮解除して、前記第22のデータを出力するように構成されており;
前記第2の圧縮解除サブモジュールは、第23のデータの入力されたビットストリーム
を圧縮解除して、前記第23のデータを出力するように構成されており;
前記第3の圧縮解除サブモジュールは、第24のデータの入力されたビットストリーム
を圧縮解除して、前記第24のデータを出力するように構成されており;かつ
前記第22のデータは
、複数のエリア記述子のうちの1つの再構築データであり、前記第23のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データであり、前記第24のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データである
請求項8から12のいずれか一項に記載の装置。
【請求項19】
前記第1の圧縮解除サブモジュールは、第1のカプセル化解除モジュール、及び第1の予測モジュール及び/又は第1の量子化解除モジュールを有し;前記第2の圧縮解除サブモジュールは、第2のカプセル化解除モジュール、及び第2の予測モジュール及び/又は第2の量子化解除モジュールを有し;前記第3の圧縮解除サブモジュールは、第3のカプセル化解除モジュール、及び第3の予測モジュール及び/又は第3の量子化解除モジュールを含み;
前記第1のカプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第25のデータを出力するように構成されており;
前記第1の予測モジュールは、第26のデータの入力された残差データに対して予測を実行して、前記第26のデータを出力するように構成されており;
前記第1の量子化解除モジュールは、入力された第27のデータに対して量子化解除を実行して、前記第27のデータの量子化解除データを出力するように構成されており;
前記第25のデータは、前記第26のデータの前記残差データ又は前記第27のデータであり、前記第26のデータは、前記複数のエリア記述子のうちの1つの再構築データ又は前記第27のデータであり、前記第27のデータの前記量子化解除データは、前記複数のエリア記述子のうちの1つの再構築データであり;
前記第2のカプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第28のデータを出力するように構成されており;
前記第2の予測モジュールは、第29のデータの入力された残差データに対して予測を実行して、前記第29のデータを出力するように構成されており;
前記第2の量子化解除モジュールは、入力された第30のデータに対して量子化解除を実行して、前記第30のデータの量子化解除データを出力するように構成されており;
前記第28のデータは、前記第29のデータの前記残差データ又は前記第30のデータであり、前記第29のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データ又は前記第30のデータであり、前記第30のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データであり;
前記第3のカプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第31のデータを出力するように構成されており;
前記第3の予測モジュールは、第32のデータの入力された残差データに対して予測を実行して、前記第32のデータを出力するように構成されており;
前記第3の量子化解除モジュールは、入力された第33のデータに対して量子化解除を実行して、前記第33のデータの量子化解除データを出力するように構成されており;
前記第31のデータは、前記第32のデータの前記残差データ又は前記第33のデータであり、前記第32のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データ又は前記第33のデータであり、前記第33のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データである
請求項18に記載の装置。
【請求項20】
3Dマップをデコーディングするための方法であって、
3Dマップのビットストリームを受信する段階、ここで、前記3Dマップは、複数の3Dマップ点を含む;及び
前記3Dマップの前記ビットストリームを圧縮解除して、前記3Dマップの再構築データを取得する段階、ここで、前記3Dマップの前記再構築データは、前記複数の3Dマップ点の再構築データを含む
を備える方法。
【請求項21】
前記3Dマップの前記再構築データは、複数のエリア記述子の再構築データをさらに含み、前記複数のエリア記述子のいずれか1つは、前記複数の3Dマップ点の一部又は全ての3Dマップ点の特徴を記述する
請求項20に記載の方法。
【請求項22】
前記複数の3Dマップ点のいずれか1つの再構築データは、3Dマップ点記述子の再構築データ及び3Dマップ点空間位置の再構築データを含む、請求項21に記載の方法。
【請求項23】
3Dマップダウンロード要求を送信する段階、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む
をさらに備え;かつ
3Dマップのビットストリームを前記受信する段階は、
前記3Dマップの、前記位置指示情報に対応するビットストリームを受信する段階
を有する、請求項20から22のいずれか一項に記載の方法。
【請求項24】
3Dマップのビットストリームを前記受信する段階は、
電子デバイスによって生成された前記3Dマップの前記ビットストリームを受信する段階
を有する、請求項20から22のいずれか一項に記載の方法。
【請求項25】
前記3Dマップの前記ビットストリームを前記圧縮解除して前記3Dマップの再構築データを取得する段階は、
前記3Dマップの前記ビットストリームを処理して、第1のデータを取得する段階;及び
第2のデータの残差データに対して予測を実行して、前記第2のデータを取得する段階、及び/又は、第3のデータに対して量子化解除を実行して、前記第3のデータの量子化解除データを取得する段階、ここで、
前記第1のデータは、前記第2のデータの前記残差データ又は前記第3のデータであり、前記第2のデータは、前記3Dマップの前記再構築データ又は前記第3のデータであり、前記第3のデータの前記量子化解除データは、前記3Dマップの前記再構築データである
を有する、請求項20から24のいずれか一項に記載の方法。
【請求項26】
3Dマップ
をデコーディングするための装置であって、
1又は複数のプロセッサ;及び
1又は複数のプログラムを格納するように構成されているメモリ
を備え、ここで、
前記1又は複数のプログラムが前記1又は複数のプロセッサによって実行される場合、前記1又は複数のプロセッサは、請求項20から25のいずれか一項に記載の方法を実施することが可能になる
装置。
【請求項27】
3Dマップをデコーディングするための装置であって、
圧縮を通じて取得されたビットストリーム形式の3Dマップを格納するように構成されているメモリ、ここで、前記3Dマップは、複数の3Dマップ点を含み、前記3Dマップのデータは、前記複数の3Dマップ点のデータを含む;及び
圧縮を通じて取得されたビットストリーム形式の前記3Dマップを圧縮解除して、再構築3Dマップを取得するように構成されているデコーダ、ここで、前記再構築3Dマップは、前記複数の3Dマップ点を含み、前記再構築3Dマップのデータは、前記複数の3Dマップ点の再構築データを含む
を備える装置。
【請求項28】
前記再構築3Dマップの前記データは、複数のエリア記述子の再構築データをさらに含み、前記複数のエリア記述子のいずれか1つは、前記複数の3Dマップ点の一部又は全ての3Dマップ点の特徴を記述する
請求項27に記載の装置。
【請求項29】
前記複数の3Dマップ点のいずれか1つの再構築データは、3Dマップ点記述子の再構築データ及び3Dマップ点空間位置の再構築データを含む、請求項27又は28に記載の装置。
【請求項30】
3Dマップをエンコーディングするための前記装置は、クラウドサーバ又は電子デバイスである、請求項27から29のいずれか一項に記載の装置。
【請求項31】
コンピュータプログラムを備え、前記コンピュータプログラムがコンピュータ上で実行される場合、前記コンピュータは、請求項20から25のいずれか一項に記載の方法を実行することが可能になる、コンピュータ可読記憶媒体。
【請求項32】
コンピュータプログラ
ムであって、コンピュータプログラムコードを備え、前記コンピュータプログラムコードがコンピュータで実行される場合、前記コンピュータは、請求項20から25のいずれか一項に記載の方法を実行することが可能になる、コンピュータプログラ
ム。
【請求項33】
コンピュータによって使用されるデータ構造体であって、前記データ構造体は、3Dマップのエンコーディングされたビットストリー
ムを備え、ここで、前記3Dマップの前記エンコーディングされたビットストリームは、複数の3Dマップ点のビットストリーム
を有し、前記3Dマップは、前記複数の3Dマップ点を
含み、ここで、前記データ構造体は、前記コンピュータに、前記3Dマップの前記ビットストリームを圧縮解除して前記3Dマップの再構築データを取得させ、ここで、前記3Dマップの前記再構築データは、前記複数の3Dマップ点の再構築データを含む、データ構造体。
【請求項34】
前記3Dマップの前記エンコーディングされたビットストリームは、複数のエリア記述子のビットストリームをさらに備え、前記複数のエリア記述子のいずれか1つは、前記複数の3Dマップ点の少なくとも1つの3Dマップ点に対応する、請求項33に記載
のデータ構造体。
【請求項35】
前記複数の3Dマップ点のいずれか1つのビットストリームは、3Dマップ点記述子のビットストリーム及び3Dマップ点空間位置のビットストリームを含む、請求項34に記載
のデータ構造体。
【請求項36】
前記複数の3Dマップ点のいずれか1つの前記ビットストリームは、前記3Dマップ点の残差データを含む、請求
項34に記載
のデータ構造体。
【請求項37】
前記3Dマップ点記述子の前記ビットストリームは、前記3Dマップ点記述子の残差データを含み;及び/又は、前記3Dマップ点空間位置の前記ビットストリームは、前記3Dマップ点空間位置の残差データを含む、請求項35に記載
のデータ構造体。
【請求項38】
前記複数の3Dマップ点のいずれか1つの前記ビットストリームは、参照3Dマップ点の指示情報をさらに含み、前記複数の3Dマップ点は、前記参照3Dマップ点を含み、前記参照3Dマップ点は、前記3Dマップ点がエンコーディングされる前にエンコーディングされている3Dマップ点である、請求項36又は37に記載
のデータ構造体。
【請求項39】
前記複数の3Dマップ点のいずれか1つのビットストリームは、前記3Dマップ点の量子化データを含む、請求
項34に記載
のデータ構造体。
【請求項40】
前記3Dマップ点記述子の前記ビットストリームは、前記3Dマップ点記述子の量子化データを含み;及び/又は、前記3Dマップ点空間位置の前記ビットストリームは、前記3Dマップ点空間位置の量子化データを含む、請求項35に記載
のデータ構造体。
【請求項41】
前記複数のエリア記述子のいずれか1つのビットストリームは、前記エリア記述子の残差データを含む、請求項34に記載
のデータ構造体。
【請求項42】
前記複数のエリア記述子のいずれか1つの前記ビットストリームは、参照エリア記述子の指示情報をさらに含み、前記複数のエリア記述子は、前記参照エリア記述子を含む、請求項41に記載
のデータ構造体。
【請求項43】
前記複数のエリア記述子のいずれか1つのビットストリームは、前記エリア記述子の量子化データを含む、請求項34に記載
のデータ構造体。
【手続補正2】
【補正対象書類名】明細書
【補正対象項目名】0091
【補正方法】変更
【補正の内容】
【0091】
圧縮解除モジュールの複数の実装は、以下の通りである。
【手続補正3】
【補正対象書類名】明細書
【補正対象項目名】0103
【補正方法】変更
【補正の内容】
【0103】
可能な実装において、圧縮解除モジュールは、第1の圧縮解除サブモジュール、第2の圧縮解除サブモジュール、及び第3の圧縮解除サブモジュールを有する。第1の圧縮解除サブモジュールは、第22のデータの入力されたビットストリームを圧縮解除して、第22のデータを出力するように構成されている。第2の圧縮解除サブモジュールは、第23のデータの入力されたビットストリームを圧縮解除して、第23のデータを出力するように構成されている。第3の圧縮解除サブモジュールは、第24のデータの入力されたビットストリームを圧縮解除して、第24のデータを出力するように構成されている。第22のデータは、複数のエリア記述子のうちの1つの再構築データであり、第23のデータは、複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データであり、第24のデータは、複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データである。
【手続補正4】
【補正対象書類名】明細書
【補正対象項目名】0115
【補正方法】変更
【補正の内容】
【0115】
可能な実装において、3Dマップをデコーディングするための装置は、クラウドサーバ又は電子デバイスである。
【手続補正5】
【補正対象書類名】明細書
【補正対象項目名】0170
【補正方法】変更
【補正の内容】
【0170】
3Dマップ点を取得する可能な方式は、ライダ、無人航空機の画角からの航空写真撮影(チルト写真撮影)、高精細パノラマカメラ、及び高精細産業カメラ等の複数のデバイスを使用して撮影を実行し、前述したデバイスによる撮影を通じて取得されたデータから、向きを定められた加速セグメントテストからの特徴(features from accelerated segment test、FAST)及び回転バイナリロバスト独立基本特徴(binary robust independent elementary features、BRIEF)、記述子特徴(oriented FAST and rotated BRIEF、ORB)、スケール不変特徴変換(scale invariant feature transform、SIFT)、及び高速化ロバスト特徴(speeded-up robust feature、SURF)、BRIEF、バイナリロバスト不変スケーラブルキーポイント(binary robust invariant scalable keypoints、BRISK)、高速網膜キーポイント(fast retina keypoint、FREAK)、又は繰り返し可能かつ信頼性のある検出器及び記述子(repeatable and reliable detector and descriptor、R2D2)等の方法を使用することによって、3Dマップ点を抽出することである。
【手続補正6】
【補正対象書類名】明細書
【補正対象項目名】0179
【補正方法】変更
【補正の内容】
【0179】
任意選択で、前述した対応関係は、エリア記述子の番号及び3Dマップ点の番号間の対応テーブルを使用することによって、明示的に記述されてよい。例えば、3Dマップは、番号がT1~T3である3つのエリア記述子、及び、番号がP1~P6である6つの3Dマップ点を含む。対応テーブルは、表
1に示されている。
表1
【表1】
【手続補正7】
【補正対象書類名】明細書
【補正対象項目名】0187
【補正方法】変更
【補正の内容】
【0187】
メモリ22は、バス29を通じてプロセッサ211に接続されてもよいし、又は、プロセッサ211に結合されてもよく、様々なソフトウェアプログラム及び/又は命令の複数のグループを格納するように構成されている。メモリ22は、高速ランダムアクセスメモリ(例えば、キャッシュ)を含んでもよいし、又は、不揮発性メモリ、例えば、1又は複数の磁気ディスクストレージデバイス、フラッシュメモリデバイス、又は別の不揮発性ソリッドステートストレージデバイスを含んでもよい。メモリ22は、オペレーティングシステム、例えば、Android(登録商標)(Android)、Apple(登録商標)モバイルプラットフォーム(iOS(登録商標))、Microsoft windowオペレーティングシステム(Windows(登録商標))、又はUNIX(登録商標)系オペレーティングシステム(Linux(登録商標))等の組み込みオペレーティングシステムを格納してよい。メモリ22は、データ、例えば、イメージデータ、ポイントクラウドデータ、3Dマップデータ、ポーズデータ、座標系変換情報、及びマップ更新情報をさらに格納してよい。メモリ22は、コンピュータ実行可能プログラムコードをさらに格納してよい。コンピュータ実行可能プログラムコードは、命令、例えば、SLAMシステムの通信プログラム命令及び関連するプログラム命令を含む。メモリ22は、1又は複数のアプリケーション、例えば、AR/VR/MR等の仮想シナリオアプリケーション、3Dマップアプリケーション、イメージ管理アプリケーション、及び、ナビゲーション及び制御アプリケーションをさらに格納してよい。メモリ22は、ユーザインタフェースプログラムをさらに格納してよい。ユーザインタフェースプログラムは、グラフィカルオペレーションインタフェースを使用することによって、アプリケーションのコンテンツ、例えば、AR/VR/MR等の仮想シナリオにおける仮想オブジェクトを鮮明に表示し、ディスプレイコンポーネント24を使用することによって、コンテンツを提示し、メニュー、ダイアログボックス、又はボタン等の入力コントロールを使用することによって、アプリケーションに対してユーザが実行した制御操作を受信してよい。
【手続補正8】
【補正対象書類名】明細書
【補正対象項目名】0237
【補正方法】変更
【補正の内容】
【0237】
図4dは、本願の一実施形態による応用シナリオの概略図である。
図4dに示されているように、この応用シナリオにおいて、第2の電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及びサーバからの3Dマップを参照して第2の電子デバイスの現在のポーズを判定する。
【手続補正9】
【補正対象書類名】明細書
【補正対象項目名】0307
【補正方法】変更
【補正の内容】
【0307】
カプセル化解除モジュール621-5の入力データは、3Dマップのビットストリームであり、カプセル化解除モジュール621-5は、3Dマップのビットストリームに対してカプセル化解除を実行して、エリア記述子の残差データ、3Dマップ点記述子の残差データ、及び3Dマップ点空間位置の残差データを取得する。第1の予測モジュール622aの入力データは、エリア記述子の残差データであり、出力データは、エリア記述子の量子化データである。第1の量子化解除モジュール623aの入力データは、エリア記述子の量子化データであり、出力データは、エリア記述子の再構築データである。第2の予測モジュール622bの入力データは、3Dマップ点記述子の残差データであり、出力データは、3Dマップ点記述子の量子化データである。第2の量子化解除モジュール623bの入力データは、3Dマップ点記述子の量子化データであり、出力データは、3Dマップ点記述子の再構築データである。第3の予測モジュール622cの入力データは、3Dマップ点空間位置の残差データであり、出力データは、3Dマップ点空間位置の量子化データである。第3の量子化解除モジュール623cの入力データは、3Dマップ点空間位置の量子化データであり、出力データは、3Dマップ点空間位置の再構築データである。
【手続補正10】
【補正対象書類名】明細書
【補正対象項目名】0359
【補正方法】変更
【補正の内容】
【0359】
前述した説明は、本願の具体的な実装に過ぎず、本願の保護範囲はこれに限定されるものではない。本願で開示された技術的範囲内で当業者が容易に想到する任意の変形又は置換は、本願の保護範囲に含まれるものとする。したがって、本願の保護範囲は、特許請求の範囲の保護範囲に従うものとする。
[他の可能な項目]
[項目1]
エンコーディング装置及びデコーディング装置を備える、3Dマップのためのコーデックシステムであって、ここで、前記エンコーディング装置は、前記デコーディング装置に通信可能に接続されており;
前記エンコーディング装置は、3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得し、前記3Dマップの前記ビットストリームを前記デコーディング装置に送信するように構成されており、ここで、前記3Dマップは、複数の3Dマップ点を含み、前記3Dマップの前記データは、前記複数の3Dマップ点のデータを含む;かつ
前記デコーディング装置は、前記3Dマップの前記ビットストリームを受信し、前記3Dマップの前記ビットストリームを圧縮解除して、前記3Dマップの再構築データを取得するように構成されている
システム。
[項目2]
前記エンコーディング装置は、クラウドサーバであり、前記デコーディング装置は、電子デバイスである;又は、前記エンコーディング装置は、第1の電子デバイスであり、前記デコーディング装置は、第2の電子デバイスである;
前記デコーディング装置は、3Dマップダウンロード要求を前記デコーディング装置に送信するようにさらに構成されており、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む;かつ
前記エンコーディング装置は、前記3Dマップダウンロード要求を受信して、前記3Dマップダウンロード要求に従って、前記3Dマップの、前記位置指示情報に対応するビットストリームを前記デコーディング装置に送信するようにさらに構成されている
項目1に記載のシステム。
[項目3]
前記エンコーディング装置は、電子デバイスであり、前記デコーディング装置は、クラウドサーバである;かつ
前記エンコーディングデバイスは、前記3Dマップが生成された後、前記3Dマップの前記ビットストリームを前記デコーディング装置に送信するように特に構成されている
項目1又は2に記載のシステム。
[項目4]
前記3Dマップの前記データは、複数のエリア記述子をさらに含み、前記複数のエリア記述子のいずれか1つは、前記複数の3Dマップ点のうちの一部又は全ての3Dマップ点の特徴を記述するものである、項目1から3のいずれか一項に記載のシステム。
[項目5]
前記複数の3Dマップ点のいずれか1つのデータは、3Dマップ点記述子及び3Dマップ点空間位置を含む、項目1又は4に記載のシステム。
[項目6]
前記エンコーディング装置は、前記3Dマップを生成するようにさらに構成されている、項目1から5のいずれか一項に記載のシステム。
[項目7]
前記デコーディング装置は、前記3Dマップに基づいて測位を実行するようにさらに構成されている、項目1から6のいずれか一項に記載のシステム。
[項目8]
伝送モジュール及び圧縮解除モジュールを備える、3Dマップをデコーディングするための装置であって、ここで、
前記伝送モジュールは、3Dマップのビットストリームを受信するように構成されており、ここで、前記3Dマップは、複数の3Dマップ点を含む;かつ
前記圧縮解除モジュールは、前記3Dマップの前記ビットストリームを圧縮解除して、前記3Dマップの再構築データを取得するように構成されており、ここで、前記3Dマップの前記再構築データは、前記複数の3Dマップ点の再構築データを含む
装置。
[項目9]
前記3Dマップの前記再構築データは、複数のエリア記述子の再構築データをさらに含み、前記複数のエリア記述子のいずれか1つは、前記複数の3Dマップ点の一部又は全ての3Dマップ点の特徴を記述する
項目8に記載の装置。
[項目10]
前記複数の3Dマップ点のいずれか1つの再構築データは、3Dマップ点記述子の再構築データ及び3Dマップ点空間位置の再構築データを含む、項目9に記載の装置。
[項目11]
3Dマップをデコーディングするための前記装置は、クラウドサーバ又は電子デバイスであり;かつ
前記伝送モジュールは、3Dマップダウンロード要求を送信し、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む;前記3Dマップの、前記位置指示情報に対応するビットストリームを受信するようにさらに構成されている
項目8から10のいずれか一項に記載の装置。
[項目12]
3Dマップをデコーディングするための前記装置は、クラウドサーバであり;かつ
前記伝送モジュールは、電子デバイスによって生成された前記3Dマップの前記ビットストリームを受信するように特に構成されている
項目8から10のいずれか一項に記載の装置。
[項目13]
前記圧縮解除モジュールは、カプセル化解除モジュール、及び予測モジュール及び/又は量子化解除モジュールを有し;
前記カプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第1のデータを出力するように構成されており;
前記予測モジュールは、第2のデータの入力された残差データに対して予測を実行して、前記第2のデータを出力するように構成されており;
前記量子化解除モジュールは、入力された第3のデータに対して量子化解除を実行して、前記第3のデータの量子化解除データを出力するように構成されており;かつ
前記第1のデータは、前記第2のデータの前記残差データ又は前記第3のデータであり、前記第2のデータは、前記3Dマップの前記再構築データ又は前記第3のデータであり、前記第3のデータの前記量子化解除データは、前記3Dマップの前記再構築データである
項目8から12のいずれか一項に記載の装置。
[項目14]
前記予測モジュールは、第1の予測モジュール及び第2の予測モジュールを含み;及び/又は、前記量子化解除モジュールは、第1の量子化解除モジュール及び第2の量子化解除モジュールを含み;
前記第1の予測モジュールは、第4のデータの入力された残差データに対して予測を実行して、前記第4のデータを出力するように構成されており;
前記第1の量子化解除モジュールは、入力された第5のデータに対して量子化解除を実行して、前記第5のデータの量子化解除データを出力するように構成されており;
前記第4のデータは、前記複数のエリア記述子のうちの1つの再構築データ又は前記第5のデータであり、前記第5のデータの前記量子化解除データは、前記複数のエリア記述子のうちの1つの再構築データであり;
前記第2の予測モジュールは、第6のデータの入力された残差データに対して予測を実行して、前記第6のデータを出力するように構成されており;
前記第2の量子化解除モジュールは、入力された第7のデータに対して量子化解除を実行して、前記第7のデータの量子化解除データを出力するように構成されており;かつ
前記第6のデータは、前記複数の3Dマップ点のうちの1つの再構築データ又は前記第7のデータであり、前記第7のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの再構築データである
項目13に記載の装置。
[項目15]
前記予測モジュールは、第1の予測モジュール、第2の予測モジュール、及び第3の予測モジュールを含み;及び/又は、前記量子化解除モジュールは、第1の量子化解除モジュール、第2の量子化解除モジュール、及び第3の量子化解除モジュールを含み;
前記第1の予測モジュールは、第8のデータの入力された残差データに対して予測を実行して、前記第8のデータを出力するように構成されており;
前記第1の量子化解除モジュールは、入力された第9のデータに対して量子化解除を実行して、前記第9のデータの量子化解除データを出力するように構成されており;
前記第8のデータは、前記複数のエリア記述子のうちの1つの再構築データ又は前記第9のデータであり、前記第9のデータの前記量子化解除データは、前記複数のエリア記述子のうちの1つの再構築データであり;
前記第2の予測モジュールは、第10のデータの入力された残差データに対して予測を実行して、前記第10のデータを出力するように構成されており;
前記第2の量子化解除モジュールは、入力された第11のデータに対して量子化解除を実行して、前記第11のデータの量子化解除データを出力するように構成されており;
前記第10のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データ又は前記第11のデータであり、前記第11のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データであり;
前記第3の予測モジュールは、第12のデータの入力された残差データに対して予測を実行して、前記第12のデータを出力するように構成されており;
前記第3の量子化解除モジュールは、入力された第13のデータに対して量子化解除を実行して、前記第13のデータの量子化解除データを出力するように構成されており;かつ
前記第12のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データ又は前記第13のデータであり、前記第13のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データである
項目13に記載の装置。
[項目16]
前記圧縮解除モジュールは、第1の圧縮解除サブモジュール及び第2の圧縮解除サブモジュールを有し;
前記第1の圧縮解除サブモジュールは、第14のデータの入力されたビットストリームを圧縮解除して、前記第14のデータを出力するように構成されており;
前記第2の圧縮解除サブモジュールは、第15のデータの入力されたビットストリームを圧縮して、前記第15のデータを出力するように構成されており;かつ
前記第14のデータは、前記複数のエリア記述子のうちの1つの再構築データであり、前記第15のデータは、前記複数の3Dマップ点のうちの1つの再構築データである
項目8から12のいずれか一項に記載の装置。
[項目17]
前記第1の圧縮解除サブモジュールは、第1のカプセル化解除モジュール、第1の予測モジュール及び/又は第1の量子化解除モジュールを含み;前記第2の圧縮解除サブモジュールは、第2のカプセル化解除モジュール、及び第2の予測モジュール及び/又は第2の量子化解除モジュールを含み;
前記第1のカプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第16のデータを出力するように構成されており;
前記第1の予測モジュールは、第17のデータの入力された残差データに対して予測を実行して、前記第17のデータを出力するように構成されており;
前記第1の量子化解除モジュールは、入力された第18のデータに対して量子化解除を実行して、前記第18のデータの量子化解除データを出力するように構成されており;
前記第16のデータは、前記第17のデータの前記残差データ又は前記第18のデータであり、前記第17のデータは、前記複数のエリア記述子のうちの1つの再構築データ又は前記第18のデータであり、前記第18のデータの前記量子化解除データは、前記複数のエリア記述子のうちの1つの再構築データであり;
前記第2のカプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第19のデータを出力するように構成されており;
前記第2の予測モジュールは、第20のデータの入力された残差データに対して予測を実行して、前記第20のデータを出力するように構成されており;
前記第2の量子化解除モジュールは、入力された第21のデータに対して量子化解除を実行して、前記第21のデータの量子化解除データを出力するように構成されており;かつ
前記第19のデータは、前記第20のデータの前記残差データ又は前記第21のデータであり、前記第20のデータは、前記複数の3Dマップ点のうちの1つの再構築データ又は前記第21のデータであり、前記第21のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの再構築データである
項目16に記載の装置。
[項目18]
前記圧縮解除モジュールは、第1の圧縮解除サブモジュール、第2の圧縮解除サブモジュール、及び第3の圧縮解除サブモジュールを有し;
前記第1の圧縮解除サブモジュールは、第22のデータの入力されたビットストリームを圧縮解除して、前記第22のデータを出力するように構成されており;
前記第2の圧縮解除サブモジュールは、第23のデータの入力されたビットストリームを圧縮して、前記第23のデータを出力するように構成されており;
前記第3の圧縮解除サブモジュールは、第24のデータの入力されたビットストリームを圧縮して、前記第24のデータを出力するように構成されており;かつ
前記第22のデータは、前記複数のエリア記述子のうちの1つの再構築データであり、前記第23のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データであり、前記第24のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データである
項目8から12のいずれか一項に記載の装置。
[項目19]
前記第1の圧縮解除サブモジュールは、第1のカプセル化解除モジュール、及び第1の予測モジュール及び/又は第1の量子化解除モジュールを有し;前記第2の圧縮解除サブモジュールは、第2のカプセル化解除モジュール、及び第2の予測モジュール及び/又は第2の量子化解除モジュールを有し;前記第3の圧縮解除サブモジュールは、第3のカプセル化解除モジュール、及び第3の予測モジュール及び/又は第3の量子化解除モジュールを含み;
前記第1のカプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第25のデータを出力するように構成されており;
前記第1の予測モジュールは、第26のデータの入力された残差データに対して予測を実行して、前記第26のデータを出力するように構成されており;
前記第1の量子化解除モジュールは、入力された第27のデータに対して量子化解除を実行して、前記第27のデータの量子化解除データを出力するように構成されており;
前記第25のデータは、前記第26のデータの前記残差データ又は前記第27のデータであり、前記第26のデータは、前記複数のエリア記述子のうちの1つの再構築データ又は前記第27のデータであり、前記第27のデータの前記量子化解除データは、前記複数のエリア記述子のうちの1つの再構築データであり;
前記第2のカプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第28のデータを出力するように構成されており;
前記第2の予測モジュールは、第29のデータの入力された残差データに対して予測を実行して、前記第29のデータを出力するように構成されており;
前記第2の量子化解除モジュールは、入力された第30のデータに対して量子化解除を実行して、前記第30のデータの量子化解除データを出力するように構成されており;
前記第28のデータは、前記第29のデータの前記残差データ又は前記第30のデータであり、前記第29のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データ又は前記第30のデータであり、前記第30のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの3Dマップ点記述子の再構築データであり;
前記第3のカプセル化解除モジュールは、前記3Dマップの入力されたビットストリームを処理して、第31のデータを出力するように構成されており;
前記第3の予測モジュールは、第32のデータの入力された残差データに対して予測を実行して、前記第32のデータを出力するように構成されており;
前記第3の量子化解除モジュールは、入力された第33のデータに対して量子化解除を実行して、前記第33のデータの量子化解除データを出力するように構成されており;
前記第31のデータは、前記第32のデータの前記残差データ又は前記第33のデータであり、前記第32のデータは、前記複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データ又は前記第33のデータであり、前記第33のデータの前記量子化解除データは、前記複数の3Dマップ点のうちの1つの3Dマップ点空間位置の再構築データである
項目18に記載の装置。
[項目20]
3Dマップをデコーディングするための方法であって、
3Dマップのビットストリームを受信する段階、ここで、前記3Dマップは、複数の3Dマップ点を含む;及び
前記3Dマップの前記ビットストリームを圧縮解除して、前記3Dマップの再構築データを取得する段階、ここで、前記3Dマップの前記再構築データは、前記複数の3Dマップ点の再構築データを含む
を備える方法。
[項目21]
前記3Dマップの前記再構築データは、複数のエリア記述子の再構築データをさらに含み、前記複数のエリア記述子のいずれか1つは、前記複数の3Dマップ点の一部又は全ての3Dマップ点の特徴を記述する
項目20に記載の方法。
[項目22]
前記複数の3Dマップ点のいずれか1つの再構築データは、3Dマップ点記述子の再構築データ及び3Dマップ点空間位置の再構築データを含む、項目21に記載の方法。
[項目23]
3Dマップダウンロード要求を送信する段階、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む
をさらに備え;かつ
3Dマップのビットストリームを前記受信する段階は、
前記3Dマップの、前記位置指示情報に対応するビットストリームを受信する段階
を有する、項目20から22のいずれか一項に記載の方法。
[項目24]
3Dマップのビットストリームを前記受信する段階は、
電子デバイスによって生成された前記3Dマップの前記ビットストリームを受信する段階
を有する、項目20から22のいずれか一項に記載の方法。
[項目25]
前記3Dマップの前記ビットストリームを前記圧縮解除して前記3Dマップの再構築データを取得する段階は、
前記3Dマップの前記ビットストリームを処理して、第1のデータを取得する段階;及び
第2のデータの残差データに対して予測を実行して、前記第2のデータを取得する段階、及び/又は、第3のデータに対して量子化解除を実行して、前記第3のデータの量子化解除データを取得する段階、ここで、
前記第1のデータは、前記第2のデータの前記残差データ又は前記第3のデータであり、前記第2のデータは、前記3Dマップの前記再構築データ又は前記第3のデータであり、前記第3のデータの前記量子化解除データは、前記3Dマップの前記再構築データである
を有する、項目20から24のいずれか一項に記載の方法。
[項目26]
3Dマップをエンコーディングするための装置であって、
1又は複数のプロセッサ;及び
1又は複数のプログラムを格納するように構成されているメモリ
を備え、ここで、
前記1又は複数のプログラムが前記1又は複数のプロセッサによって実行される場合、前記1又は複数のプロセッサは、項目20から25のいずれか一項に記載の方法を実施することが可能になる
装置。
[項目27]
3Dマップをデコーディングするための装置であって、
圧縮を通じて取得されたビットストリーム形式の3Dマップを格納するように構成されているメモリ、ここで、前記3Dマップは、複数の3Dマップ点を含み、前記3Dマップのデータは、前記複数の3Dマップ点のデータを含む;及び
圧縮を通じて取得されたビットストリーム形式の前記3Dマップを圧縮解除して、再構築3Dマップを取得するように構成されているデコーダ、ここで、前記再構築3Dマップは、前記複数の3Dマップ点を含み、前記再構築3Dマップのデータは、前記複数の3Dマップ点の前記再構築データを含む
を備える装置。
[項目28]
前記再構築3Dマップの前記データは、複数のエリア記述子の再構築データをさらに含み、前記複数のエリア記述子のいずれか1つは、前記複数の3Dマップ点の一部又は全ての3Dマップ点の特徴を記述する
項目27に記載の装置。
[項目29]
前記複数の3Dマップ点のいずれか1つの再構築データは、3Dマップ点記述子の再構築データ及び3Dマップ点空間位置の再構築データを含む、項目27又は28に記載の装置。
[項目30]
3Dマップをエンコーディングするための前記装置は、クラウドサーバ又は電子デバイスである、項目27から29のいずれか一項に記載の装置。
[項目31]
コンピュータプログラムを備え、前記コンピュータプログラムがコンピュータ上で実行される場合、前記コンピュータは、項目20から25のいずれか一項に記載の方法を実行することが可能になる、コンピュータ可読記憶媒体。
[項目32]
コンピュータプログラム製品であって、コンピュータプログラムコードを備え、前記コンピュータプログラムコードがコンピュータで実行される場合、前記コンピュータは、項目20から25のいずれか一項に記載の方法を実行することが可能になる、コンピュータプログラム製品。
[項目33]
3Dマップのエンコーディングされたビットストリームであって、前記3Dマップの前記エンコーディングされたビットストリームは、複数の3Dマップ点のビットストリームを備え、前記3Dマップは、前記複数の3Dマップ点を含む、ビットストリーム。
[項目34]
前記3Dマップの前記エンコーディングされたビットストリームは、複数のエリア記述子のビットストリームをさらに備え、前記複数のエリア記述子のいずれか1つは、前記複数の3Dマップ点の少なくとも1つの3Dマップ点に対応する、項目33に記載のビットストリーム。
[項目35]
前記複数の3Dマップ点のいずれか1つのビットストリームは、3Dマップ点記述子のビットストリーム及び3Dマップ点空間位置のビットストリームを含む、項目34に記載のビットストリーム。
[項目36]
前記複数の3Dマップ点のいずれか1つの前記ビットストリームは、前記3Dマップ点の残差データを含む、項目33に記載の方法。
[項目37]
前記3Dマップ点記述子の前記ビットストリームは、前記3Dマップ点記述子の残差データを含み;及び/又は、前記3Dマップ点空間位置の前記ビットストリームは、前記3Dマップ点空間位置の残差データを含む、項目35に記載のビットストリーム。
[項目38]
前記複数の3Dマップ点のいずれか1つの前記ビットストリームは、参照3Dマップ点の指示情報をさらに含み、前記複数の3Dマップ点は、前記参照3Dマップ点を含み、前記参照3Dマップ点は、前記3Dマップ点がエンコーディングされる前にエンコーディングされている3Dマップ点である、項目36又は37に記載のビットストリーム。
[項目39]
前記複数の3Dマップ点のいずれか1つのビットストリームは、前記3Dマップ点の量子化データを含む、項目33に記載の方法。
[項目40]
前記3Dマップ点記述子の前記ビットストリームは、前記3Dマップ点記述子の量子化データを含み;及び/又は、前記3Dマップ点空間位置の前記ビットストリームは、前記3Dマップ点空間位置の量子化データを含む、項目35に記載のビットストリーム。
[項目41]
前記複数のエリア記述子のいずれか1つのビットストリームは、前記エリア記述子の残差データを含む、項目34に記載のビットストリーム。
[項目42]
前記複数のエリア記述子のいずれか1つの前記ビットストリームは、参照エリア記述子の指示情報をさらに含み、前記複数のエリア記述子は、前記参照エリア記述子を含む、項目41に記載のビットストリーム。
[項目43]
前記複数のエリア記述子のいずれか1つのビットストリームは、前記エリア記述子の量子化データを含む、項目34に記載のビットストリーム。
【国際調査報告】