(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-06-04
(54)【発明の名称】3Dマップを符号化するための装置及び方法
(51)【国際特許分類】
H04N 19/50 20140101AFI20240528BHJP
H04N 19/39 20140101ALI20240528BHJP
H04N 21/6587 20110101ALI20240528BHJP
H04N 21/226 20110101ALI20240528BHJP
G06T 9/00 20060101ALI20240528BHJP
【FI】
H04N19/50
H04N19/39
H04N21/6587
H04N21/226
G06T9/00
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2023574735
(86)(22)【出願日】2021-06-04
(85)【翻訳文提出日】2024-01-12
(86)【国際出願番号】 CN2021098482
(87)【国際公開番号】W WO2022252234
(87)【国際公開日】2022-12-08
(81)【指定国・地域】
(71)【出願人】
【識別番号】504161984
【氏名又は名称】ホアウェイ・テクノロジーズ・カンパニー・リミテッド
(74)【代理人】
【識別番号】110000877
【氏名又は名称】弁理士法人RYUKA国際特許事務所
(72)【発明者】
【氏名】カオ、シャオラン
(72)【発明者】
【氏名】カイ、カンイン
(72)【発明者】
【氏名】ワン、ペイ
(72)【発明者】
【氏名】ツ、チェンシ
(72)【発明者】
【氏名】ス、チー
【テーマコード(参考)】
5C159
5C164
【Fターム(参考)】
5C159MA01
5C159MC11
5C159ME01
5C159PP00
5C159UA02
5C159UA05
5C164GA03
5C164SA32P
5C164SB29S
5C164SC11S
5C164TC13P
5C164YA21
(57)【要約】
3Dマップを符号化するための装置及び方法が提供される。3Dマップを符号化するための装置は、圧縮モジュール(51)及び伝送モジュール(52)を含む。圧縮モジュールは(51)、3Dマップのデータを圧縮して3Dマップのビットストリームを取得するように構成されており、ここで、当該3Dマップは複数の3Dマップポイントを含み、当該3Dマップのデータは複数の3Dマップポイントのデータを含む。伝送モジュール(52)は、3Dマップのビットストリームを伝送するように構成されている。装置の使用によって、3Dマップのデータ量が低減し得、それにより、伝送帯域幅が低減し、伝送効率が向上する。
【特許請求の範囲】
【請求項1】
符号化装置及び復号装置を備える3Dマップのためのコーデックシステムであって、前記符号化装置は、前記復号装置に通信可能に接続されており;
前記符号化装置は:3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得すること、及び、前記3Dマップの前記ビットストリームを前記復号装置に送信することを行うように構成されており、ここで、前記3Dマップは、複数の3Dマップポイントを含み、前記3Dマップの前記データは、前記複数の3Dマップポイントのデータを含み;
前記復号装置は:前記3Dマップの前記ビットストリームを受信すること、及び、前記3Dマップの前記ビットストリームを圧縮解除して前記3Dマップの再構築データを取得することを行うように構成されている
システム。
【請求項2】
前記符号化装置はクラウドサーバであり、前記復号装置は電子デバイスである;又は、前記符号化装置は第1電子デバイスであり、前記復号装置は第2電子デバイスであり;
前記復号装置はさらに、3Dマップダウンロード要求を前記復号装置に送信するように構成されており、ここで、前記3Dマップダウンロード要求は位置指示情報を含み;
前記符号化装置はさらに、前記3Dマップダウンロード要求を受信すること、及び、前記3Dマップダウンロード要求に従って前記復号装置に、前記3Dマップの、前記位置指示情報に対応するビットストリームを送信するように構成されている、請求項1に記載のシステム。
【請求項3】
前記符号化装置は電子デバイスであり、前記復号装置はクラウドサーバであり;
前記符号化デバイスは、前記3Dマップが作成された後、前記3Dマップの前記ビットストリームを前記復号装置に送信するように具体的に構成されている、請求項1又は2に記載のシステム。
【請求項4】
前記3Dマップの前記データはさらに、複数の領域記述子を含み、前記複数の領域記述子のいずれか1つは、前記複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する、請求項1から3のいずれか一項に記載のシステム。
【請求項5】
前記複数の3Dマップポイントのいずれか1つのデータは、3Dマップポイント記述子及び3Dマップポイント空間位置を含む、請求項1又は4に記載のシステム。
【請求項6】
前記符号化装置はさらに、前記3Dマップを作成するように構成されている、請求項1から5のいずれか一項に記載のシステム。
【請求項7】
前記復号装置はさらに、前記3Dマップに基づいて測位を実行するように構成されている、請求項1から6のいずれか一項に記載のシステム。
【請求項8】
圧縮モジュール及び伝送モジュールを備える3Dマップを符号化するための装置であって、
前記圧縮モジュールは、3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得するように構成されており、ここで、前記3Dマップは、複数の3Dマップポイントを含み、前記3Dマップの前記データは、前記複数の3Dマップポイントのデータを含み;
前記伝送モジュールは、前記3Dマップの前記ビットストリームを伝送するように構成されている、装置。
【請求項9】
前記3Dマップの前記データはさらに、複数の領域記述子を含み、前記複数の領域記述子のいずれか1つは、前記複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する、請求項8に記載の装置。
【請求項10】
前記複数の3Dマップポイントのいずれか1つのデータは、3Dマップポイント記述子及び3Dマップポイント空間位置を含む、請求項8又は9に記載の装置。
【請求項11】
3Dマップを符号化するための前記装置は、クラウドサーバ又は電子デバイスであり;
前記伝送モジュールはさらに:3Dマップダウンロード要求を受信すること、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む;及び、前記3Dマップダウンロード要求に従って、前記3Dマップの、前記位置指示情報に対応するビットストリームを送信することを行うように構成されている
請求項8から10のいずれか一項に記載の装置。
【請求項12】
3Dマップを符号化するための前記装置は、電子デバイスであり;
前記伝送モジュールは、前記3Dマップが作成された後、前記3Dマップの前記ビットストリームを送信するように具体的に構成されている、請求項8から10のいずれか一項に記載の装置。
【請求項13】
前記圧縮モジュールは、コンパクト化モジュール及び/又は予測モジュール、及びカプセル化モジュールを含み;
前記コンパクト化モジュールは、入力された第1データに対してコンパクト化を実行し、前記第1データのコンパクト化されたデータを出力するように構成されており;
前記予測モジュールは、入力された第2データに対して予測を実行し、前記第2データの残差データを出力するように構成されており;
前記カプセル化モジュールは、入力された第3データを処理し、前記3Dマップの前記ビットストリームを出力するように構成されており;
前記第1データは、前記3Dマップの前記データであり、前記第2データは、前記3Dマップの前記データ又は前記第1データの前記コンパクト化されたデータであり、前記第3データは、前記第1データの前記コンパクト化されたデータ又は前記第2データの前記残差データである、請求項8から12のいずれか一項に記載の装置。
【請求項14】
前記予測モジュールはさらに:複数の前記第2データを順序再設定すること、及び、順序再設定の結果に基づいて、前記第2データの少なくとも一部に対して予測を実行し、前記第2データの前記少なくとも一部の残差データを取得するように構成されている、請求項13に記載の装置。
【請求項15】
前記コンパクト化モジュールは、量子化モジュール及び/又は二値化モジュールを含み;
前記量子化モジュールは、入力された第4データに対して量子化を実行し、前記第4データの量子化データを出力するように構成されており;
前記二値化モジュールは、入力された第5データに対して二値化を実行し、前記第5データのバイナリデータを出力するように構成されており、ここで
前記第4データは、前記3Dマップの前記データであり、前記第5データは、前記3Dマップの前記データ又は前記第4データの前記量子化データである、請求項13又は14に記載の装置。
【請求項16】
前記量子化モジュールは、第1量子化モジュール及び第2量子化モジュールを含み、及び/又は、前記二値化モジュールは、第1二値化モジュール及び第2二値化モジュールを含み、前記予測モジュールは、第1予測モジュール及び第2予測モジュールを含み;
前記第1量子化モジュールは、入力された第6データに対して量子化を実行し、前記第6データの量子化データを出力するように構成されており;
前記第1二値化モジュールは、入力された第7データに対して二値化を実行し、前記第7データのバイナリデータを出力するように構成されており;
前記第1予測モジュールは、入力された第8データに対して予測を実行し、前記第8データの残差データを出力するように構成されており;
前記第6データは、前記複数の領域記述子のうち1つであり、前記第7データは、前記複数の領域記述子のうち1つ又は前記第6データの前記量子化データであり、前記第8データは、前記複数の領域記述子、前記第6データの前記量子化データ、又は前記第7データの前記バイナリデータのうち1つであり;
前記第2量子化モジュールは、入力された第9データに対して量子化を実行し、前記第9データの量子化データを出力するように構成されており;
前記第2二値化モジュールは、入力された第10データに対して二値化を実行し、前記第10データのバイナリデータを出力するように構成されており;
前記第1予測モジュールは、入力された第11データに対して予測を実行し、前記第11データの残差データを出力するように構成されており;
前記第9データは、前記複数の3Dマップポイントのうち1つのデータであり、前記第10データは、前記複数の3Dマップポイントのうち1つのデータ又は前記第9データの前記量子化データであり、前記第11データは、前記複数の3Dマップポイントのうち1つのデータ、前記第9データの前記量子化データ、又は前記第10データの前記バイナリデータである、請求項15に記載の装置。
【請求項17】
前記量子化モジュールは、第1量子化モジュール、第2量子化モジュール及び第3量子化モジュールを含み、及び/又は、前記二値化モジュールは、第1二値化モジュール、第2二値化モジュール及び第3二値化モジュールを含み、前記予測モジュールは、第1予測モジュール、第2予測モジュール及び第3予測モジュールを含み;
前記第1量子化モジュールは、入力された第12データに対して量子化を実行し、前記第12データの量子化データを出力するように構成されており;
前記第1二値化モジュールは、入力された第13データに対して二値化を実行し、前記第13データのバイナリデータを出力するように構成されており;
前記第1予測モジュールは、入力された第14データに対して予測を実行し、前記第14データの残差データを出力するように構成されており;
前記第12データは、前記複数の領域記述子のうち1つであり、前記第13データは、前記複数の領域記述子のうち1つ又は前記第12データの前記量子化データであり、前記第14データは、前記複数の領域記述子のうち1つ、前記第12データの前記量子化データ、又は前記第13データの前記バイナリデータであり;
前記第2量子化モジュールは、入力された第15データに対して量子化を実行し、前記第15データの量子化データを出力するように構成されており;
前記第2二値化モジュールは、入力された第16データに対して二値化を実行し、前記第16データのバイナリデータを出力するように構成されており;
前記第2予測モジュールは、入力された第17データに対して予測を実行し、前記第17データの残差データを出力するように構成されており;
前記第15データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、前記第16データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子又は前記第15データの前記量子化データであり、前記第17データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子、前記第15データの前記量子化データ、又は前記第16データの前記バイナリデータであり;
前記第3量子化モジュールは、入力された第18データに対して量子化を実行し、前記第18データの量子化データを出力するように構成されており;
前記第3二値化モジュールは、入力された第19データに対して二値化を実行し、前記第19データのバイナリデータを出力するように構成されており;
前記第3予測モジュールは、入力された第20データに対して予測を実行し、前記第20データの残差データを出力するように構成されており;
前記第18データは、前記複数の3Dマップポイントのうち1つの空間位置であり、前記第19データは、前記複数の3Dマップポイントのうち1つの空間位置又は前記第18データの前記量子化データであり、前記第20データは、前記複数の3Dマップポイントのうち1つの空間位置、前記第18データの前記量子化データ、又は前記第19データの前記バイナリデータである、請求項15に記載の装置。
【請求項18】
前記圧縮モジュールは、第1圧縮サブモジュール及び第2圧縮サブモジュールを含み;
前記第1圧縮サブモジュールは、入力された第21データを圧縮して前記第21データのビットストリームを出力するように構成されており;
前記第2圧縮サブモジュールは、入力された第22データを圧縮して前記第22データのビットストリームを出力するように構成されており;
前記第21データは、前記複数の領域記述子のうち1つであり、前記第22データは、前記複数の3Dマップポイントのうち1つのデータである、請求項8から12のいずれか一項に記載の装置。
【請求項19】
前記第1圧縮サブモジュールは、第1コンパクト化モジュール及び/又は第1予測モジュール、及び第1カプセル化モジュールを含み;前記第2圧縮サブモジュールは、第2コンパクト化モジュール及び/又は第2予測モジュール、及び第2カプセル化モジュールを含み;
前記第1コンパクト化モジュールは、入力された第23データに対してコンパクト化を実行し、前記第23データのコンパクト化されたデータを出力するように構成されており;
前記第1予測モジュールは、入力された第24データに対して予測を実行し、前記第24データの残差データを出力するように構成されており;
前記第1カプセル化モジュールは、入力された第25データを処理し、前記第25データのビットストリームを出力するように構成されており;
前記第23データは、前記複数の領域記述子のうち1つであり、前記第24データは、前記複数の領域記述子のうち1つ又は前記第23データの前記コンパクト化されたデータであり、前記第25データは、前記第23データの前記コンパクト化されたデータ又は前記第24データの前記残差データであり;
前記第2コンパクト化モジュールは、入力された第26データに対してコンパクト化を実行し、前記第26データのコンパクト化されたデータを出力するように構成されており;
前記第2予測モジュールは、入力された第27データに対して予測を実行し、前記第27データの残差データを出力するように構成されており;
前記第2カプセル化モジュールは、入力された第28データを処理し、前記第28データのビットストリームを出力するように構成されており;
前記第26データは、前記複数の3Dマップポイントのうち1つのデータであり、前記第27データは、前記複数の3Dマップポイントのうち1つのデータ又は前記第26データの前記コンパクト化されたデータであり、前記第28データは、前記第26データの前記コンパクト化されたデータ又は前記第27データの前記残差データである、請求項18に記載の装置。
【請求項20】
前記第1コンパクト化モジュールは、第1量子化モジュール及び/又は第1二値化モジュールを含み、前記第2コンパクト化モジュールは、第2量子化モジュール及び/又は第2二値化モジュールを含み;
前記第1量子化モジュールは、入力された第29データに対して量子化を実行し、前記第29データの量子化データを出力するように構成されており;
前記第1二値化モジュールは、入力された第30データに対して二値化を実行し、前記第30データのバイナリデータを出力するように構成されており;
前記第29データは、前記複数の領域記述子のうち1つであり、前記第30データは、前記複数の領域記述子のうち1つ又は前記第29データの前記量子化データであり;
前記第2量子化モジュールは、入力された第31データに対して量子化を実行し、前記第31データの量子化データを出力するように構成されており;
前記第2二値化モジュールは、入力された第32データに対して二値化を実行し、前記第32データのバイナリデータを出力するように構成されており;
前記第31データは、前記複数の3Dマップポイントのうち1つのデータであり、前記第30データは、前記複数の3Dマップポイントのうち1つのデータ又は前記第31データの前記量子化データである、請求項19に記載の装置。
【請求項21】
前記圧縮モジュールは、第1圧縮サブモジュール、第2圧縮サブモジュール及び第3圧縮サブモジュールを含み;
前記第1圧縮サブモジュールは、入力された第33データを圧縮して前記第33データのビットストリームを出力するように構成されており;
前記第2圧縮サブモジュールは、入力された第34データを圧縮して前記第34データのビットストリームを出力するように構成されており;
前記第3圧縮サブモジュールは、入力された第35データを圧縮して前記第35データのビットストリームを出力するように構成されており;
前記第33データは、前記複数の領域記述子のうち1つであり、前記第34データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、前記第35データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント空間位置である、請求項8から12のいずれか一項に記載の装置。
【請求項22】
前記第1圧縮サブモジュールは、第1コンパクト化モジュール及び/又は第1予測モジュール、及び第1カプセル化モジュールを含み;前記第2圧縮サブモジュールは、第2コンパクト化モジュール及び/又は第2予測モジュール、及び第2カプセル化モジュールを含み;前記第3圧縮サブモジュールは、第3コンパクト化モジュール及び/又は第3予測モジュール、及び第3カプセル化モジュールを含み;
前記第1コンパクト化モジュールは、入力された第36データに対してコンパクト化を実行し、前記第36データのコンパクト化されたデータを出力するように構成されており;
前記第1予測モジュールは、入力された第37データに対して予測を実行し、前記第37データの残差データを取得するように構成されており;
前記第1カプセル化モジュールは、入力された第38データを処理し、前記第38データのビットストリームを取得するように構成されており;
前記第36データは、前記複数の領域記述子のうち1つであり、前記第37データは、前記複数の領域記述子のうち1つ又は前記第36データの前記コンパクト化されたデータであり、前記第38データは、前記第36データの前記コンパクト化されたデータ又は前記第37データの前記残差データであり;
前記第2コンパクト化モジュールは、入力された第39データに対してコンパクト化を実行し、前記第39データのコンパクト化されたデータを出力するように構成されており;
前記第2予測モジュールは、入力された第40データに対して予測を実行し、前記第40データの残差データを取得するように構成されており;
前記第2カプセル化モジュールは、入力された第41データを処理し、前記第41データのビットストリームを取得するように構成されており;
前記第39データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、前記第40データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子又は前記第39データの前記コンパクト化されたデータであり、前記第41データは、前記第39データの前記コンパクト化されたデータ又は前記第40データの前記残差データであり;
前記第3コンパクト化モジュールは、入力された第42データに対してコンパクト化を実行し、前記第42データのコンパクト化されたデータを出力するように構成されており;
前記第3予測モジュールは、入力された第43データに対して予測を実行し、前記第43データの残差データを取得するように構成されており;
前記第3カプセル化モジュールは、入力された第44データを処理し、前記第44データのビットストリームを取得するように構成されており;
前記第42データは、前記複数の3Dマップポイントのうち1つの空間位置であり、前記第43データは、前記複数の3Dマップポイントのうち1つの空間位置又は前記第42データの前記コンパクト化されたデータであり、前記第44データは、前記第42データの前記コンパクト化されたデータ又は前記第43データの前記残差データである、請求項21に記載の装置。
【請求項23】
前記第1コンパクト化モジュールは、第1量子化モジュール及び/又は第1二値化モジュールを含み;前記第2コンパクト化モジュールは、第2量子化モジュール及び/又は第2二値化モジュールを含み;前記第3コンパクト化モジュールは、第3量子化モジュール及び/又は第3二値化モジュールを含み;
前記第1量子化モジュールは、入力された第45データに対して量子化を実行し、前記第45データの量子化データを出力するように構成されており;
前記第1二値化モジュールは、入力された第46データに対して二値化を実行し、前記第46データのバイナリデータを出力するように構成されており;
前記第45データは、前記複数の領域記述子のうち1つであり、前記第46データは、前記複数の領域記述子のうち1つ又は前記第45データの前記量子化データであり;
前記第2量子化モジュールは、入力された第47データに対して量子化を実行し、前記第47データの量子化データを出力するように構成されており;
前記第2二値化モジュールは、入力された第48データに対して二値化を実行し、前記第48データのバイナリデータを出力するように構成されており;
前記第47データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、前記第48データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子又は前記第47データの前記量子化データであり;
前記第3量子化モジュールは、入力された第49データに対して量子化を実行し、前記第49データの量子化データを出力するように構成されており;
前記第3二値化モジュールは、入力された第50データに対して二値化を実行し、前記第50データのバイナリデータを出力するように構成されており;
前記第49データは、前記複数の3Dマップポイントのうち1つの空間位置であり、前記第50データは、前記複数の3Dマップポイントのうち1つの空間位置又は前記第49データの前記量子化データである、請求項22に記載の装置。
【請求項24】
3Dマップを符号化するための方法であって、
3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得する段階、ここで、前記3Dマップは、複数の3Dマップポイントを含み、前記3Dマップの前記データは、前記複数の3Dマップポイントのデータを含む;及び
前記3Dマップの前記ビットストリームを伝送する段階
を備える、方法。
【請求項25】
前記3Dマップの前記データはさらに、複数の領域記述子を含み、前記複数の領域記述子のいずれか1つは、前記複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する、請求項24に記載の方法。
【請求項26】
前記複数の3Dマップポイントのいずれか1つのデータは、3Dマップポイント記述子及び3Dマップポイント空間位置を含む、請求項24又は25に記載の方法。
【請求項27】
3Dマップダウンロード要求を受信する段階、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む;
をさらに備え、前記3Dマップのビットストリームを伝送する前記段階は:
前記3Dマップダウンロード要求に従って、前記3Dマップの、前記位置指示情報に対応するビットストリームを送信する段階
を含む、請求項24から26のいずれか一項に記載の方法。
【請求項28】
前記3Dマップのビットストリームを伝送する前記段階は:
前記3Dマップが作成された後、前記3Dマップの前記ビットストリームを送信する段階
を含む、請求項24から26のいずれか一項に記載の方法。
【請求項29】
3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得する前記段階は:
第1データに対してコンパクト化を実行し、前記第1データのコンパクト化されたデータを取得する段階、及び/又は、第2データに対して予測を実行し、前記第2データの残差データを取得する段階;及び
第3データを処理し、前記3Dマップの前記ビットストリームを取得する段階
を含み、ここで
前記第1データは、前記3Dマップの前記データであり、前記第2データは、前記3Dマップの前記データ又は前記第1データの前記コンパクト化されたデータであり、前記第3データは、前記第1データの前記コンパクト化されたデータ又は前記第2データの前記残差データである
請求項24から28のいずれか一項に記載の方法。
【請求項30】
第2データに対して予測を実行し、前記第2データの残差データを取得する前記段階の前に、前記方法はさらに:
複数の前記第2データを順序再設定する段階
を備え、
第2データに対して予測を実行し、前記第2データの残差データを取得する前記段階は:
前記順序再設定の結果に基づいて、前記第2データの少なくとも一部に対して予測を実行し、前記第2データの前記少なくとも一部の残差データを取得する段階
を含む、請求項29に記載の方法。
【請求項31】
第1データに対してコンパクト化を実行し、前記第1データのコンパクト化されたデータを取得する前記段階は:
第4データに対して量子化を実行し、前記第4データの量子化データを取得する段階、及び/又は、第5データに対して二値化を実行し、前記第5データのバイナリデータを取得する段階
を含み、ここで
前記第4データは前記第1データであり、前記第5データは前記第1データ又は前記第4データの前記量子化データであり、それに応じて、前記第1データの前記コンパクト化されたデータは、前記第4データの前記量子化データ及び/又は前記第5データの前記バイナリデータを含む
請求項29又は30に記載の方法。
【請求項32】
1又は複数のプロセッサ;及び
1又は複数のプログラムを記憶するように構成されたメモリ
を備え、ここで
前記1又は複数のプログラムが前記1又は複数のプロセッサによって実行されたとき、前記1又は複数のプロセッサは、請求項24から31のいずれか一項に記載の方法を実装することが可能となる、3Dマップを符号化するための装置。
【請求項33】
3Dマップのデータを圧縮して、圧縮によって取得され且つビットストリーム形態にある3Dマップを取得するように構成されたエンコーダ、ここで、前記3Dマップは複数の3Dマップポイントを含み、前記3Dマップの前記データは前記複数の3Dマップポイントのデータを含む;及び
圧縮によって取得され且つビットストリーム形態にある前記3Dマップを記憶するように構成されたメモリ
を備える、3Dマップを符号化するための装置。
【請求項34】
前記3Dマップの前記データはさらに、複数の領域記述子を含み、前記複数の領域記述子のいずれか1つは、前記複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する、請求項33に記載の装置。
【請求項35】
前記複数の3Dマップポイントのいずれか1つのデータは、3Dマップポイント記述子及び3Dマップポイント空間位置を含む、請求項33又は34に記載の装置。
【請求項36】
3Dマップを符号化するための前記装置は、クラウドサーバ又は電子デバイスである、請求項33から35のいずれか一項に記載の装置。
【請求項37】
コンピュータプログラムを含むコンピュータ可読記憶媒体であって、前記コンピュータプログラムがコンピュータ上で実行されたとき、前記コンピュータは、請求項24から31のいずれか一項に記載の方法を実行することが可能となる、コンピュータ可読記憶媒体。
【請求項38】
コンピュータプログラムであって、前記コンピュータプログラムがコンピュータ上で実行されたとき、前記コンピュータは、請求項24から31のいずれか一項に記載の方法を実行することが可能となる、コンピュータプログラム。
【請求項39】
請求項24から31のいずれか一項に記載の方法を使用することによって符号化されたビットストリームを含む、非一時的記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本願は、3Dマップ技術、とりわけ、3Dマップを符号化する装置及び方法に関する。
【背景技術】
【0002】
仮想現実(virtual reality,VR)、拡張現実(augmented reality,AR)、及び複合現実(mixed reality,MR)は、近年出現しているマルチメディア仮想シーン技術である。そのような技術は、仮想現実を作成し、それを現実世界と重ねて、新たな視覚的環境及び対話型経験を生成するために使用され得る。そのようなアプリケーションにおいて、電子デバイスは、現在の環境における電子デバイスのポーズ情報を決定し、仮想オブジェクト及び実際のシーンの間の融合を正確に実装する必要がある。
【0003】
加えて、自律運転、自律ナビゲーション、無人航空機の自動検査、及び産業用ロボットなどのアプリケーションにおいて、車両、無人航空機又はロボットなどの搬送デバイスは、搬送デバイスによって搬送された電子デバイスのポーズを決定することで、現在の環境における搬送デバイスのポーズを決定し、これにより、正確なルート計画、ナビゲーション、検出及び制御を実行する必要がある。
【0004】
前述のアプリケーションにおいて、現在の環境における電子デバイスのポーズが決定される必要があるという問題の場合、典型的な解決手段は、以下の通りである:電子デバイスは、サーバ又は別のデバイスから、電子デバイスが位置付けられた環境の3Dマップを受信し、ローカルセンサを使用することによって環境内の視覚的情報を収集し、収集された視覚的情報及びダウンロードされた3Dマップに基づいて電子デバイスの現在のポーズを決定する。
【0005】
しかしながら、元の3Dマップは通常、大きいデータ量を含み、マップの伝送は大量の帯域幅及び時間を消費する必要があり、これは、アプリケーションの性能を著しく限定するとともにユーザ経験に影響を与える。
【発明の概要】
【0006】
本願は、3Dマップを符号化し、3Dマップのデータ量を低減し、それにより、伝送帯域幅を低減するとともに伝送効率を向上させる装置及び方法を提供する。
【0007】
第1態様によると、本願は、符号化装置及び復号装置を含む、3Dマップのためのコーデックシステムを提供する。前記符号化装置は、前記復号装置に通信可能に接続されている。前記符号化装置は、3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得すること、及び、前記3Dマップの前記ビットストリームを前記復号装置に送信することを行うように構成されており、ここで、前記3Dマップは、複数の3Dマップポイントを含み、前記3Dマップの前記データは、前記複数の3Dマップポイントのデータを含む。前記復号装置は、前記3Dマップの前記ビットストリームを受信すること、及び、前記3Dマップの前記ビットストリームを圧縮解除して前記3Dマップのデータを取得することを行うように構成されている。
【0008】
3Dマップは、複数の3Dマップポイントを含み得、それに応じて、3Dマップのデータは、複数の3Dマップポイントのデータを含み得る。3Dマップポイントは、環境内の関心のポイント又は大きな特徴を有するポイントである。
【0009】
本願のこの実施形態において、圧縮モジュールは、3Dマップのデータを圧縮して、3Dマップのデータ量を低減し、例えば、3Dマップのデータ量をテラバイト(Terabyte,TB)レベルからギガバイト(Gigabyte,GB)レベルに低減し得る。従って、3Dマップが伝送される必要があるシナリオでは、3Dマップの元のデータを伝送する代わりに3Dマップの圧縮データを伝送することで、伝送のためのデータ量を低減し得、伝送によって占有される帯域幅をさらに低減し得、それにより、3Dマップの伝送効率を向上させる。
【0010】
可能な実装において、前記符号化装置はクラウドサーバであり、前記復号装置は電子デバイスである;又は、前記符号化装置は第1電子デバイスであり、前記復号装置は第2電子デバイスである。前記復号装置はさらに、3Dマップダウンロード要求を前記復号装置に送信するように構成されており、ここで、前記3Dマップダウンロード要求は位置指示情報を含む。前記符号化装置はさらに、前記3Dマップダウンロード要求を受信すること、及び、前記3Dマップダウンロード要求に従って前記復号装置に、前記3Dマップの、前記位置指示情報に対応するビットストリームを送信するように構成されている。
【0011】
前述の電子デバイスは、搬送デバイスに搬送されているユーザ端末デバイス又は電子デバイスであり得る。
【0012】
可能な実装において、前記符号化装置は電子デバイスであり、前記復号装置はクラウドサーバである。前記符号化デバイスは、前記3Dマップが作成された後、前記3Dマップの前記ビットストリームを前記復号装置に送信するように具体的に構成されている。
【0013】
任意選択的に、本願のこの実施形態において、電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及びサーバからの3Dマップを参照して電子デバイスの現在のポーズを決定し得る。
【0014】
3Dマップはサーバによって提供される。具体的には、サーバは3Dマップを作成し、次に、3Dマップを圧縮し、3Dマップの圧縮データを電子デバイスに伝送する。3Dマップの圧縮データを受信した後、電子デバイスは、3Dマップの再構築データを取得するために圧縮解除を実行し、収集された視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを決定する。ポーズは、電子デバイスの位置及び向きの情報であり、ワールド座標系における絶対ポーズであり得、又は、環境内のあるポイントに対する相対的ポーズであり得る。
【0015】
本願のこの実施形態において、サーバは、3Dマップを予め作成し、3Dマップを圧縮し、次に、3Dマップの圧縮データをローカルに記憶し得る。このように、ストレージ領域が節約され得る。加えて、サーバは、3Dマップの圧縮データを、例えばクラウドストレージなどの別のデバイスに伝送し得る。
【0016】
1.サーバは、3Dマップを作成し、3Dマップを圧縮することで3Dマップの圧縮データを取得し、圧縮データをローカルに記憶する。
【0017】
サーバは3Dマップを圧縮して、ローカル記憶スペースを節約する。
【0018】
2.電子デバイスは、マップダウンロード要求をサーバに送信する。マップダウンロード要求は、2つの方式でトリガされる。
【0019】
(1)ユーザは、電子デバイスにインストールされた地図アプリケーションを開始し、アプリケーションは、当該アプリケーションに対応するサーバに、GPS測位又はWi-Fi(登録商標)測位に基づいて取得された位置情報をアップロードする。アップロード動作は、マップダウンロード要求をトリガし得る。アップロードされたコンテンツは位置情報を含むので、サーバは、位置情報に基づいて予備推定を実行し、位置情報によって指示された測位点が属する領域の3Dマップの圧縮データを電子デバイスに伝送し得る。位置情報によって指示された測位点が属する領域の範囲は、予め設定され得る。例えば、測位点が属する領域は、測位点が位置付けられた任意のレベルの行政地域(郡、都市、国、又は行政地域を含む)であり得、又は、測位点を中心に配置され且つ指定された距離を半径として使用する円形領域であり得る。
【0020】
(2)ユーザは、電子デバイスにインストールされた地図アプリケーションを開始し、アプリケーション上の領域を能動的に入力するか、又はそれを選択する。例えば、ユーザは、「xxビジネスセンター」を能動的に入力するか、又は、「街路A、街路B及び街路C」のリストから「街路A」を選択する。ユーザの前述の操作は、マップダウンロード要求をトリガし得る。ユーザが地理的位置を入力するか又は選択するかに関係なく、サーバはそれに応じて、地理的位置の3Dマップの圧縮データを電子デバイスに伝送する。
【0021】
本願のこの実施形態において、前述の2つの方式に加えて、マップダウンロード要求をトリガするために別の方式が使用され得ることを理解されたい。例えば、電子デバイスは、3Dマップをダウンロードする又は3Dマップのダウンロードを開始するための条件が満たされたかどうかを自動的に検出するか、又は、電子デバイスは、周辺光の変化又は環境変化を検出した際に3Dマップのダウンロードを開始し、サーバからの領域範囲の3Dマップのダウンロードを要求する。領域範囲のサイズは具体的に限定されていない。
【0022】
3.サーバは、3Dマップの圧縮データを電子デバイスに送信する。
【0023】
4.電子デバイスは、視覚的情報を収集する。
【0024】
段階3及び段階4は互いに独立しており、シーケンスは限定されないということに留意されたい。
【0025】
5.電子デバイスは、3Dマップの圧縮データを圧縮解除し、3Dマップの再構築データを取得する。
【0026】
6.電子デバイスは、視覚的情報に基づいて3Dマップにおいて測位を実行し、視覚的情報に対応するポーズを取得する。
【0027】
3Dマップの圧縮データを受信した後、電子デバイスは圧縮データを直ちに圧縮解除する必要はなく、圧縮データを圧縮解除することで、視覚的情報に基づいて測位を実行する前にのみ3Dマップの再構築データを取得する必要がある。例えば、ユーザは、領域範囲の3Dマップの圧縮データを、「オフラインマッピング」をダウンロードすることによって予めダウンロードし、測位が必要となるときにのみ3Dマップの圧縮データを圧縮解除し得る。
【0028】
任意選択的に、本願のこの実施形態において、電子デバイスは、センサを使用することによって視覚的情報を収集し得、サーバは、電子デバイスからの視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを決定する。
【0029】
3Dマップは、サーバによって提供される。具体的には、サーバは、3Dマップを作成し、次に、3Dマップを圧縮し、3Dマップの圧縮データをローカルに記憶する。電子デバイスから視覚的情報を受信したとき、サーバは、圧縮解除を実行することで3Dマップの再構築データを取得し、視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを決定する。
【0030】
1.サーバは、3Dマップを作成し、3Dマップを圧縮することで3Dマップの圧縮データを取得し、圧縮データをローカルに記憶する。
【0031】
2.電子デバイスは、視覚的情報を収集する。
【0032】
3.電子デバイスは、視覚的情報をサーバに送信する。
【0033】
4.サーバは、3Dマップの圧縮データを圧縮解除し、3Dマップの再構築データを取得する。
【0034】
サーバは、3Dマップを圧縮することでストレージ領域を節約するということを理解されたい。
【0035】
5.サーバは、視覚的情報に基づいて3Dマップにおいて測位を実行し、視覚的情報に対応するポーズを取得する。
【0036】
6.サーバは、ポーズを電子デバイスに送信する。
【0037】
任意選択的に、本願のこの実施形態において、電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを決定し得る。
【0038】
3Dマップは、電子デバイスによって提供される。具体的には、電子デバイスは3Dマップを作成し、次に、3Dマップを圧縮し、3Dマップの圧縮データをローカルに記憶する。視覚的情報が収集されたとき、電子デバイスは、圧縮解除を実行することで3Dマップの再構築データを取得し、収集された視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを決定する。
【0039】
1.電子デバイスは3Dマップを作成し、3Dマップを圧縮することで3Dマップの圧縮データを取得し、圧縮データをローカルに記憶する。
【0040】
電子デバイスは、3Dマップを圧縮することでストレージ領域を節約するということを理解されたい。
【0041】
2.電子デバイスは、センサを使用することによって視覚的情報を収集する。
【0042】
3.電子デバイスは、3Dマップの圧縮データを圧縮解除し、3Dマップの再構築データを取得する。
【0043】
4.電子デバイスは、視覚的情報に基づいて3Dマップにおいて測位を実行し、視覚的情報に対応するポーズを取得する。
【0044】
任意選択的に、本願のこの実施形態において、第2電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及びサーバからの3Dマップを参照して第2電子デバイスの現在のポーズを決定し得る。
【0045】
3Dマップは、第1電子デバイスによって作成される。具体的には、第1電子デバイスは3Dマップを作成し、3Dマップを圧縮し、次に、3Dマップの圧縮データをサーバに送信する。サーバは次に、3Dマップの圧縮データを第2電子デバイスに送信する。第2電子デバイスは、圧縮解除を実行することで3Dマップの再構築データを取得し、収集された視覚的情報及び3Dマップを参照して第2電子デバイスの現在のポーズを決定する。
【0046】
本願のこの実施形態において、第1電子デバイスは3Dマップを予め作成し、3Dマップを圧縮し、次に、3Dマップの圧縮データをサーバに伝送し得る。このように、伝送帯域幅が低減し得る。
【0047】
1.第1電子デバイスは3Dマップを作成し、3Dマップを圧縮することで3Dマップの圧縮データを取得する。
【0048】
2.第1電子デバイスは、3Dマップの圧縮データをサーバに送信する。
【0049】
第1電子デバイスは3Dマップを圧縮し、次に、3Dマップの圧縮データを伝送し、伝送帯域幅を低減するとともに伝送効率を向上させる。
【0050】
3.第2電子デバイスは、マップダウンロード要求をサーバに送信する。
【0051】
第2電子デバイスは、
図4aに示されたトリガ方式に基づいて、マップダウンロード要求を送信し得る。
【0052】
4.サーバは、3Dマップの圧縮データを第2電子デバイスに送信する。
【0053】
5.第2電子デバイスは、3Dマップの圧縮データを圧縮解除し、3Dマップの再構築データを取得する。
【0054】
6.第2電子デバイスは、センサを使用することによって視覚的情報を収集する。
【0055】
7.第2電子デバイスは、視覚的情報に基づいて3Dマップにおいて測位を実行し、視覚的情報に対応するポーズを取得する。
【0056】
任意選択的に、本願のこの実施形態において、第2電子デバイスは、センサを使用することによって視覚的情報を収集し得、サーバは、第2電子デバイスからの視覚的情報及び第1電子デバイスからの3Dマップを参照して第2電子デバイスの現在のポーズを決定する。
【0057】
3Dマップは、第1電子デバイスによって作成される。具体的には、第1電子デバイスは3Dマップを作成し、3Dマップを圧縮し、次に、3Dマップの圧縮データをサーバに送信する。サーバは、圧縮解除を実行することで3Dマップの再構築データを取得し、第2電子デバイスからの視覚的情報及び3Dマップを参照して第2電子デバイスの現在のポーズを決定する。
【0058】
1.第1電子デバイスは3Dマップを作成し、3Dマップを圧縮することで3Dマップの圧縮データを取得する。
【0059】
2.第1電子デバイスは、3Dマップの圧縮データをサーバに送信する。
【0060】
3.第2電子デバイスは、センサを使用することによって視覚的情報を収集する。
【0061】
4.第2電子デバイスは、測位要求をサーバに送信し、ここで、測位要求は視覚的情報を保持している。
【0062】
5.サーバは、3Dマップの圧縮データを圧縮解除し、3Dマップの再構築データを取得する。
【0063】
6.サーバは、視覚的情報に基づいて3Dマップにおいて測位を実行し、視覚的情報に対応するポーズを取得する。
【0064】
7.サーバは、第2電子デバイスに、測位によって取得されたポーズを送信する。
【0065】
任意選択的に、本願のこの実施形態において、第2電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及び第1電子デバイスからの3Dマップを参照して第2電子デバイスの現在のポーズを決定し得る。
【0066】
3Dマップは、第1電子デバイスによって作成される。具体的には、第1電子デバイスは3Dマップを作成し、3Dマップを圧縮し、次に、3Dマップの圧縮データを第2電子デバイスに送信する。第2電子デバイスは、圧縮解除を実行することで3Dマップの再構築データを取得し、収集された視覚的情報及び第1電子デバイスからの3Dマップを参照して第2電子デバイスの現在のポーズを決定する。
【0067】
1.第1電子デバイスは3Dマップを作成し、3Dマップを圧縮することで3Dマップの圧縮データを取得し、圧縮データをローカルに記憶する。
【0068】
2.第2電子デバイスは、マップダウンロード要求を第1電子デバイスに送信する。
【0069】
3.第1電子デバイスは、3Dマップの圧縮データを第2電子デバイスに送信する。
【0070】
4.第2電子デバイスは、3Dマップの圧縮データを圧縮解除し、3Dマップの再構築データを取得する。
【0071】
5.第2電子デバイスは、センサを使用することによって視覚的情報を収集する。
【0072】
6.第2電子デバイスは、視覚的情報に基づいて3Dマップにおいて測位を実行し、視覚的情報に対応するポーズを取得する。
【0073】
可能な実装において、前記3Dマップの前記データはさらに、複数の領域記述子を含み、前記複数の領域記述子のいずれか1つは、前記複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する。
【0074】
複数の領域記述子のいずれか1つの場合、領域記述子は、複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明し得る。この場合、領域記述子及び3Dマップポイントは1対多の関係にある。複数の3Dマップポイントの各々の特徴は、複数の領域記述子の一部又は全ての領域記述子によって説明され得る。この場合、3Dマップポイント及び領域記述子は1対多の関係にある。複数の領域記述子及び複数の3Dマップポイントが多対多関係にあることが分かり得る。領域記述子を生成する方法は、限定されないが、バグオブワーズ法(bag of words,BOW)及び局所集合ディスクリプタのベクトル(vector of locally aggregated descriptors,VLAD)などの従来の方法、及び、NetVLAD又は人工知能(artificial intelligence,AI)に基づいた新たな方法を含む。同様に、複数の領域記述子は、複数の領域記述子を区別するように、番号で識別され得る。同様に、しかしながら、番号は、複数の領域記述子のシーケンスを限定することを意図するものではない。
【0075】
可能な実装において、前記複数の3Dマップポイントのいずれか1つのデータは、3Dマップポイント記述子及び3Dマップポイント空間位置を含む。
【0076】
3Dマップポイント記述子は、対応する3Dマップポイントのローカル機能を表すために使用されたベクトル(vector)である。
【0077】
3Dマップポイント空間位置は、3次元空間軸上のX、Y、及びZを使用することによって表され得、又は、経度、緯度及び高度を使用することによって表され得、又は、極座標を使用することによって表され得、以下同様である。3Dマップポイント空間位置を表す方法は、本願の実施形態において具体的に限定されない。3Dマップポイント空間位置は、3Dマップポイントの絶対位置又は3Dマップポイントの相対位置であり得る。
【0078】
可能な実装において、前記符号化装置はさらに、前記3Dマップを作成するように構成されている。
【0079】
可能な実装において、前記復号装置はさらに、前記3Dマップに基づいて測位を実行するように構成されている。
【0080】
第2態様によると、本願は、圧縮モジュール及び伝送モジュールを含む、3Dマップを符号化するための装置を提供する。前記圧縮モジュールは、3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得するように構成されており、ここで、前記3Dマップは、複数の3Dマップポイントを含み、前記3Dマップの前記データは、前記複数の3Dマップポイントのデータを含む。前記伝送モジュールは、前記3Dマップの前記ビットストリームを伝送するように構成されている。
【0081】
本願のこの実施形態において、圧縮モジュールは、3Dマップのデータに対して圧縮を実行し、3Dマップのデータ量を低減し得る。3Dマップが伝送される必要があるシナリオでは、3Dマップの元のデータを伝送する代わりに3Dマップの圧縮データを伝送することで、伝送のためのデータ量を低減し得、伝送によって占有される帯域幅をさらに低減し得、それにより、3Dマップの伝送効率を向上させる。
【0082】
本願のこの実施形態において、圧縮は、コンパクト化及び予測のうちの少なくとも1つを含み得、コンパクト化は、量子化及び二値化のうちの少なくとも1つを含み得る。
【0083】
量子化は、処理対象データを1又は複数の量子化指数にマッピングすることを意味しており、ここで、各量子化指数は1つの量子化センターに対応している。量子化指数におけるビットの数は通常、元のデータにおけるビットの数より明らかに小さく、ストレージ又は伝送帯域幅を節約する。量子化方法は、限定されないが、スカラ量子化、ベクトル量子化、及び直積量子化などを含む。
【0084】
二値化は、処理対象データを、バイナリシンボルによって表された2進列に処理することを意味する。二値化は、例えば、ハッシュ化であり得る。ハッシュ化の原理は、処理対象データをハミング空間(バイナリ空間)にマッピングし、バイナリハッシュコードを生成することである。ハッシュコードにおけるビットの数は通常、元のデータにおけるビットの数より明らかに小さく、ストレージ及び伝送帯域幅を節約する。加えて、ハッシュコード間のハミング距離の計算量は通常、元のデータのユークリッド距離のそれより小さく、それにより、計算の複雑さを低減する。ハッシュ化方法は、限定されないが、反復的量子化(iterative quantization,ITQ)ハッシュ化方法、局所性鋭敏型ハッシュ化(locality sensitive hashing,LSH)方法などを含む。
【0085】
予測は、処理済みデータを使用することによって処理対象データに対して予測を実行し、処理対象データの残差データを取得することを意味する。明らかに、残差データのデータ量は元のデータ量より小さく、これにより、データ圧縮が実装される。参照データの選択は、予め合意され得る。例えば、前に処理済みのデータは、参照データとして固定的に使用され、この場合、参照データは、ビットストリームにおいて識別される必要はない。別の例の場合、任意の処理済みデータが参照データとして使用され、この場合、参照データの識別情報は、ビットストリームに書き込まれる必要があり、参照データの数、又は、参照データを推測するのに使用され得る他の情報を含む。
【0086】
3Dマップのデータの前述の説明において、3Dマップに含まれた複数の3Dマップポイントのシーケンスは無意味であることが分かり得る。従って、3Dマップポイントの圧縮又は符号化が含まれる場合、複数の3Dマップポイントのシーケンスは限定されない、すなわち、複数の3Dマップポイントは、任意のシーケンスで別々に圧縮又は符号化され得る。
【0087】
予測の原理に基づいて、処理対象データの予測データ及び処理対象データの間の類似度が比較的高い場合、処理対象データの取得された残差データは0である確率が比較的高く、その結果、圧縮性能が向上され得、それにより、符号化のためのデータ量が低減するとみなされる。本願のこの実施形態において、複数の処理対象データは、予測の前に順序再設定され、隣接した処理対象データ間の相関を向上させ、それにより、残差データのデータ量をさらに低減し得る。任意選択的に、1つの処理対象データは、1又は複数の処理済みデータに基づいて予測され、処理対象データの残差データを取得し得る;又は、複数の処理対象データは、1又は複数の処理済みデータに基づいて予測され、複数の処理対象データの残差データを取得し得る。
【0088】
加えて、圧縮はさらに、符号化対象データをビットストリームにカプセル化するべく、カプセル化を含み得る。カプセル化は、任意の符号化アルゴリズム、例えばエントロピー符号化を使用し得る。エントロピー符号化は、無損失データ圧縮方法である。エントロピー符号化アルゴリズムは、限定されないが、ハフマン(huffman)符号化、算術符号化、LZ77圧縮アルゴリズム(lempel-ziv-markov chain-algorithm,LZMA)に基づいて改善された圧縮/圧縮解除アルゴリズム、データ圧縮のための関数ライブラリアルゴリズム(zlib)などを含む。
【0089】
可能な実装において、3Dマップのデータはさらに、複数の領域記述子を含み、当該複数の領域記述子のいずれか1つは、複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する。
【0090】
可能な実装において、複数の3Dマップポイントのいずれか1つのデータは、3Dマップポイント記述子及び3Dマップポイント空間位置を含む。
【0091】
可能な実装において、3Dマップを符号化するための前記装置は、クラウドサーバ又は電子デバイスである。前記伝送モジュールはさらに:3Dマップダウンロード要求を受信すること、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む;及び、前記3Dマップダウンロード要求に従って、前記3Dマップの、前記位置指示情報に対応するビットストリームを送信することを行うように構成されている。
【0092】
可能な実装において、3Dマップを符号化するための前記装置は、電子デバイスである。前記伝送モジュールは、前記3Dマップが作成された後、前記3Dマップの前記ビットストリームを送信するように具体的に構成されている。
【0093】
圧縮モジュールの複数の実装は、以下の通りである。
【0094】
可能な実装において、前記圧縮モジュールは、コンパクト化モジュール及び/又は予測モジュール、及びカプセル化モジュールを含む。前記コンパクト化モジュールは、入力された第1データに対してコンパクト化を実行し、前記第1データのコンパクト化されたデータを出力するように構成されている。前記予測モジュールは、入力された第2データに対して予測を実行し、前記第2データの残差データを出力するように構成されている。前記カプセル化モジュールは、入力された第3データを処理し、前記3Dマップの前記ビットストリームを出力するように構成されている。前記第1データは、前記3Dマップの前記データであり、前記第2データは、前記3Dマップの前記データ又は前記第1データの前記コンパクト化されたデータであり、前記第3データは、前記第1データの前記コンパクト化されたデータ又は前記第2データの前記残差データである。
【0095】
任意選択的に、圧縮モジュールは、コンパクト化モジュール又は予測モジュールのみ、及びカプセル化モジュールを含む。
【0096】
任意選択的に、圧縮モジュールは、コンパクト化モジュール、予測モジュール、及びカプセル化モジュールを含む。
【0097】
可能な実装において、前記コンパクト化モジュールは、量子化モジュール及び/又は二値化モジュールを含む。前記量子化モジュールは、入力された第4データに対して量子化を実行し、前記第4データの量子化データを出力するように構成されている。前記二値化モジュールは、入力された第5データに対して二値化を実行し、前記第5データのバイナリデータを出力するように構成されている。前記第4データは、前記3Dマップの前記データであり、前記第5データは、前記3Dマップの前記データ又は前記第4データの前記量子化データである。
【0098】
任意選択的に、コンパクト化モジュールは、量子化モジュール又は二値化モジュールのみを含む。
【0099】
任意選択的に、コンパクト化モジュールは、量子化モジュール、及び二値化モジュールを含む。
【0100】
可能な実装において、前記量子化モジュールは、第1量子化モジュール及び第2量子化モジュールを含み、及び/又は、前記二値化モジュールは、第1二値化モジュール及び第2二値化モジュールを含み、前記予測モジュールは、第1予測モジュール及び第2予測モジュールを含む。前記第1量子化モジュールは、入力された第6データに対して量子化を実行し、前記第6データの量子化データを出力するように構成されている。前記第1二値化モジュールは、入力された第7データに対して二値化を実行し、前記第7データのバイナリデータを出力するように構成されている。前記第1予測モジュールは、入力された第8データに対して予測を実行し、前記第8データの残差データを出力するように構成されている。前記第6データは、前記複数の領域記述子のうち1つであり、前記第7データは、前記複数の領域記述子のうち1つ又は前記第6データの前記量子化データであり、前記第8データは、前記複数の領域記述子、前記第6データの前記量子化データ、又は前記第7データの前記バイナリデータのうち1つである。前記第2量子化モジュールは、入力された第9データに対して量子化を実行し、前記第9データの量子化データを出力するように構成されている。前記第2二値化モジュールは、入力された第10データに対して二値化を実行し、前記第10データのバイナリデータを出力するように構成されている。前記第1予測モジュールは、入力された第11データに対して予測を実行し、前記第11データの残差データを出力するように構成されている。前記第9データは、前記複数の3Dマップポイントのうち1つのデータであり、前記第10データは、前記複数の3Dマップポイントのうち1つのデータ又は前記第9データの前記量子化データであり、前記第11データは、前記複数の3Dマップポイントのうち1つのデータ、前記第9データの前記量子化データ、又は前記第10データの前記バイナリデータである。
【0101】
可能な実装において、前記量子化モジュールは、第1量子化モジュール、第2量子化モジュール及び第3量子化モジュールを含み、及び/又は、前記二値化モジュールは、第1二値化モジュール、第2二値化モジュール及び第3二値化モジュールを含み、前記予測モジュールは、第1予測モジュール、第2予測モジュール及び第3予測モジュールを含む。前記第1量子化モジュールは、入力された第12データに対して量子化を実行し、前記第12データの量子化データを出力するように構成されている。前記第1二値化モジュールは、入力された第13データに対して二値化を実行し、前記第13データのバイナリデータを出力するように構成されている。前記第1予測モジュールは、入力された第14データに対して予測を実行し、前記第14データの残差データを出力するように構成されている。前記第12データは、前記複数の領域記述子のうち1つであり、前記第13データは、前記複数の領域記述子のうち1つ又は前記第12データの前記量子化データであり、前記第14データは、前記複数の領域記述子のうち1つ、前記第12データの前記量子化データ、又は前記第13データの前記バイナリデータである。前記第2量子化モジュールは、入力された第15データに対して量子化を実行し、前記第15データの量子化データを出力するように構成されている。前記第2二値化モジュールは、入力された第16データに対して二値化を実行し、前記第16データのバイナリデータを出力するように構成されている。前記第2予測モジュールは、入力された第17データに対して予測を実行し、前記第17データの残差データを出力するように構成されている。前記第15データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、前記第16データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子又は前記第15データの前記量子化データであり、前記第17データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子、前記第15データの前記量子化データ、又は前記第16データの前記バイナリデータである。前記第3量子化モジュールは、入力された第18データに対して量子化を実行し、前記第18データの量子化データを出力するように構成されている。前記第3二値化モジュールは、入力された第19データに対して二値化を実行し、前記第19データのバイナリデータを出力するように構成されている。前記第3予測モジュールは、入力された第20データに対して予測を実行し、前記第20データの残差データを出力するように構成されている。前記第18データは、前記複数の3Dマップポイントのうち1つの空間位置であり、前記第19データは、前記複数の3Dマップポイントのうち1つの空間位置又は前記第18データの前記量子化データであり、前記第20データは、前記複数の3Dマップポイントのうち1つの空間位置、前記第18データの前記量子化データ、又は前記第19データの前記バイナリデータである。
【0102】
可能な実装において、前記圧縮モジュールは、第1圧縮サブモジュール及び第2圧縮サブモジュールを含む。前記第1圧縮サブモジュールは、入力された第21データを圧縮して前記第21データのビットストリームを出力するように構成されている。前記第2圧縮サブモジュールは、入力された第22データを圧縮して前記第22データのビットストリームを出力するように構成されている。前記第21データは、前記複数の領域記述子のうち1つであり、前記第22データは、前記複数の3Dマップポイントのうち1つのデータである。
【0103】
可能な実装において、前記第1圧縮サブモジュールは、第1コンパクト化モジュール及び/又は第1予測モジュール、及び第1カプセル化モジュールを含み;前記第2圧縮サブモジュールは、第2コンパクト化モジュール及び/又は第2予測モジュール、及び第2カプセル化モジュールを含む。前記第1コンパクト化モジュールは、入力された第23データに対してコンパクト化を実行し、前記第23データのコンパクト化されたデータを出力するように構成されている。前記第1予測モジュールは、入力された第24データに対して予測を実行し、前記第24データの残差データを出力するように構成されている。前記第1カプセル化モジュールは、入力された第25データを処理し、前記第25データのビットストリームを出力するように構成されている。前記第23データは、前記複数の領域記述子のうち1つであり、前記第24データは、前記複数の領域記述子のうち1つ又は前記第23データの前記コンパクト化されたデータであり、前記第25データは、前記第23データの前記コンパクト化されたデータ又は前記第24データの前記残差データである。前記第2コンパクト化モジュールは、入力された第26データに対してコンパクト化を実行し、前記第26データのコンパクト化されたデータを出力するように構成されている。前記第2予測モジュールは、入力された第27データに対して予測を実行し、前記第27データの残差データを出力するように構成されている。前記第2カプセル化モジュールは、入力された第28データを処理し、前記第28データのビットストリームを出力するように構成されている。前記第26データは、前記複数の3Dマップポイントのうち1つのデータであり、前記第27データは、前記複数の3Dマップポイントのうち1つのデータ又は前記第26データの前記コンパクト化されたデータであり、前記第28データは、前記第26データの前記コンパクト化されたデータ又は前記第27データの前記残差データである。
【0104】
可能な実装において、前記第1コンパクト化モジュールは、第1量子化モジュール及び/又は第1二値化モジュールを含み;前記第2コンパクト化モジュールは、第2量子化モジュール及び/又は第2二値化モジュールを含む。前記第1量子化モジュールは、入力された第29データに対して量子化を実行し、前記第29データの量子化データを出力するように構成されている。前記第1二値化モジュールは、入力された第30データに対して二値化を実行し、前記第30データのバイナリデータを出力するように構成されている。前記第29データは、前記複数の領域記述子のうち1つであり、前記第30データは、前記複数の領域記述子のうち1つ又は前記第29データの前記量子化データである。前記第2量子化モジュールは、入力された第31データに対して量子化を実行し、前記第31データの量子化データを出力するように構成されている。前記第2二値化モジュールは、入力された第32データに対して二値化を実行し、前記第32データのバイナリデータを出力するように構成されている。前記第31データは、前記複数の3Dマップポイントのうち1つのデータであり、前記第30データは、前記複数の3Dマップポイントのうち1つのデータ又は前記第31データの前記量子化データである。
【0105】
可能な実装において、前記圧縮モジュールは、第1圧縮サブモジュール、第2圧縮サブモジュール及び第3圧縮サブモジュールを含む。前記第1圧縮サブモジュールは、入力された第33データを圧縮して前記第33データのビットストリームを出力するように構成されている。前記第2圧縮サブモジュールは、入力された第34データを圧縮して前記第34データのビットストリームを出力するように構成されている。前記第3圧縮サブモジュールは、入力された第35データを圧縮して前記第35データのビットストリームを出力するように構成されている。前記第33データは、前記複数の領域記述子のうち1つであり、前記第34データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、前記第35データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント空間位置である。
【0106】
可能な実装において、前記第1圧縮サブモジュールは、第1コンパクト化モジュール及び/又は第1予測モジュール、及び第1カプセル化モジュールを含み;前記第2圧縮サブモジュールは、第2コンパクト化モジュール及び/又は第2予測モジュール、及び第2カプセル化モジュールを含み;前記第3圧縮サブモジュールは、第3コンパクト化モジュール及び/又は第3予測モジュール、及び第3カプセル化モジュールを含む。前記第1コンパクト化モジュールは、入力された第36データに対してコンパクト化を実行し、前記第36データのコンパクト化されたデータを出力するように構成されている。前記第1予測モジュールは、入力された第37データに対して予測を実行し、前記第37データの残差データを取得するように構成されている。前記第1カプセル化モジュールは、入力された第38データを処理し、前記第38データのビットストリームを取得するように構成されている。前記第36データは、前記複数の領域記述子のうち1つであり、前記第37データは、前記複数の領域記述子のうち1つ又は前記第36データの前記コンパクト化されたデータであり、前記第38データは、前記第36データの前記コンパクト化されたデータ又は前記第37データの前記残差データである。前記第2コンパクト化モジュールは、入力された第39データに対してコンパクト化を実行し、前記第39データのコンパクト化されたデータを出力するように構成されている。前記第2予測モジュールは、入力された第40データに対して予測を実行し、前記第40データの残差データを取得するように構成されている。前記第2カプセル化モジュールは、入力された第41データを処理し、前記第41データのビットストリームを取得するように構成されている。前記第39データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、前記第40データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子又は前記第39データの前記コンパクト化されたデータであり、前記第41データは、前記第39データの前記コンパクト化されたデータ又は前記第40データの前記残差データである。前記第3コンパクト化モジュールは、入力された第42データに対してコンパクト化を実行し、前記第42データのコンパクト化されたデータを出力するように構成されている。前記第3予測モジュールは、入力された第43データに対して予測を実行し、前記第43データの残差データを取得するように構成されている。前記第3カプセル化モジュールは、入力された第44データを処理し、前記第44データのビットストリームを取得するように構成されている。前記第42データは、前記複数の3Dマップポイントのうち1つの空間位置であり、前記第43データは、前記複数の3Dマップポイントのうち1つの空間位置又は前記第42データの前記コンパクト化されたデータであり、前記第44データは、前記第42データの前記コンパクト化されたデータ又は前記第43データの前記残差データである。
【0107】
可能な実装において、前記第1コンパクト化モジュールは、第1量子化モジュール及び/又は第1二値化モジュールを含み;前記第2コンパクト化モジュールは、第2量子化モジュール及び/又は第2二値化モジュールを含み;前記第3コンパクト化モジュールは、第3量子化モジュール及び/又は第3二値化モジュールを含む。前記第1量子化モジュールは、入力された第45データに対して量子化を実行し、前記第45データの量子化データを出力するように構成されている。前記第1二値化モジュールは、入力された第46データに対して二値化を実行し、前記第46データのバイナリデータを出力するように構成されている。前記第45データは、前記複数の領域記述子のうち1つであり、前記第46データは、前記複数の領域記述子のうち1つ又は前記第45データの前記量子化データである。前記第2量子化モジュールは、入力された第47データに対して量子化を実行し、前記第47データの量子化データを出力するように構成されている。前記第2二値化モジュールは、入力された第48データに対して二値化を実行し、前記第48データのバイナリデータを出力するように構成されている。前記第47データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、前記第48データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子又は前記第47データの前記量子化データである。前記第3量子化モジュールは、入力された第49データに対して量子化を実行し、前記第49データの量子化データを出力するように構成されている。前記第3二値化モジュールは、入力された第50データに対して二値化を実行し、前記第50データのバイナリデータを出力するように構成されている。前記第49データは、前記複数の3Dマップポイントのうち1つの空間位置であり、前記第50データは、前記複数の3Dマップポイントのうち1つの空間位置又は前記第49データの前記量子化データである。
【0108】
第3態様によると、本願は、3Dマップを符号化する方法であって、3Dマップのデータを処理し、前記3Dマップのビットストリームを取得する段階、ここで、前記3Dマップは、複数の3Dマップポイントを含み、前記3Dマップの前記データは、前記複数の3Dマップポイントのデータを含む;及び
前記3Dマップの前記ビットストリームを伝送する段階
を含む、方法を提供する。
【0109】
本願のこの実施形態において、圧縮モジュールは、3Dマップのデータに対して圧縮を実行し、3Dマップのデータ量を低減し得る。3Dマップが伝送される必要があるシナリオでは、3Dマップの元のデータを伝送する代わりに3Dマップの圧縮データを伝送することで、伝送のためのデータ量を低減し得、伝送によって占有される帯域幅をさらに低減し得、それにより、3Dマップの伝送効率を向上させる。
【0110】
可能な実装において、3Dマップのデータはさらに、複数の領域記述子を含み、当該複数の領域記述子のいずれか1つは、複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する。
【0111】
可能な実装において、複数の3Dマップポイントのいずれか1つのデータは、3Dマップポイント記述子及び3Dマップポイント空間位置を含む。
【0112】
可能な実装において、前記方法はさらに:
3Dマップダウンロード要求を受信する段階、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む、を含み;前記3Dマップのビットストリームを伝送する前記段階は:前記3Dマップダウンロード要求に従って、前記3Dマップの、前記位置指示情報に対応するビットストリームを送信する段階を含む。
【0113】
可能な実装において、前記3Dマップのビットストリームを伝送する前記段階は、前記3Dマップが作成された後、前記3Dマップの前記ビットストリームを送信する段階を含む。
【0114】
可能な実装において、前記3Dマップのデータを処理し、3Dマップのビットストリームを取得する前記段階は:第1データに対してコンパクト化を実行し、前記第1データのコンパクト化されたデータを取得する段階、及び/又は、第2データに対して予測を実行し、前記第2データの残差データを取得する段階;及び、第3データを処理し、前記3Dマップの前記ビットストリームを取得する段階を含む。前記第1データは、前記3Dマップの前記データであり、前記第2データは、前記3Dマップの前記データ又は前記第1データの前記コンパクト化されたデータであり、前記第3データは、前記第1データの前記コンパクト化されたデータ又は前記第2データの前記残差データである。
【0115】
可能な実装において、第2データに対して予測を実行し、前記第2データの残差データを取得する前記段階の前に、前記方法はさらに:複数の前記第2データを順序再設定する段階を含み、第2データに対して予測を実行し、前記第2データの残差データを取得する前記段階は:前記順序再設定の結果に基づいて、前記第2データの少なくとも一部に対して予測を実行し、前記第2データの前記少なくとも一部の残差データを取得する段階を含む。
【0116】
可能な実装において、第1データに対してコンパクト化を実行し、前記第1データのコンパクト化されたデータを取得する前記段階は:第4データに対して量子化を実行し、前記第4データの量子化データを取得する段階、及び/又は、第5データに対して二値化を実行し、前記第5データのバイナリデータを取得する段階を含む。前記第4データは前記第1データであり、前記第5データは前記第1データ又は前記第4データの前記量子化データであり、それに応じて、前記第1データの前記コンパクト化されたデータは、前記第4データの前記量子化データ及び/又は前記第5データの前記バイナリデータを含む。
【0117】
第4態様によると、本願は、3Dマップを符号化するための装置であって、3Dマップのデータを圧縮して、圧縮によって取得され且つビットストリーム形態にある3Dマップを取得するように構成されたエンコーダ、ここで、前記3Dマップは複数の3Dマップポイントを含み、前記3Dマップの前記データは前記複数の3Dマップポイントのデータを含む;及び、圧縮によって取得され且つビットストリーム形態にある前記3Dマップを記憶するように構成されたメモリを含む、装置を提供する。
【0118】
本願のこの実施形態において、圧縮モジュールは、3Dマップのデータに対して圧縮を実行し、3Dマップのデータ量を低減し得る。3Dマップが記憶される必要があるシナリオにおいて、3Dマップの元のデータを記憶する代わりに圧縮によって取得され且つビットストリーム形態にある3Dマップを記憶することは、伝送のためのデータ量を低減し得、ストレージ領域をさらに節約し得る。
【0119】
可能な実装において、3Dマップのデータはさらに、複数の領域記述子を含み、当該複数の領域記述子のいずれか1つは、複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する。
【0120】
可能な実装において、複数の3Dマップポイントのいずれか1つのデータは、3Dマップポイント記述子及び3Dマップポイント空間位置を含む。
【0121】
可能な実装において、3Dマップを符号化するための装置は、クラウドサーバ又は電子デバイスである。
【0122】
第5態様によると、本願は、コンピュータプログラムを含むコンピュータ可読記憶媒体を提供する。前記コンピュータプログラムがコンピュータ上で実行されるとき、前記コンピュータは、第3態様の実装のいずれか1つに記載の方法を実行することが可能となる。
【0123】
第6態様によると、本願は、コンピュータプログラムを提供する。コンピュータプログラムがコンピュータ上で実行されるとき、コンピュータは、第3態様の実装のいずれか1つに記載の方法を実行することが可能となる。
【0124】
第7態様によると、本願は、第3態様に記載の又は第3態様の実装のいずれか1つに記載の方法に従って符号化されたビットストリームを含む、非一時的記憶媒体を提供する。
【図面の簡単な説明】
【0125】
【
図1】本願の実施形態に係るアプリケーションアーキテクチャの概略図である。
【0126】
【
図2】本願の実施形態に係る電子デバイス20の構造の概略図である。
【0127】
【
図3】本願の実施形態に係るサーバ30の構造の概略図である。
【0128】
【
図4a】本願の実施形態に係る適用シナリオの概略図である。
【0129】
【
図4b】本願の実施形態に係る適用シナリオの概略図である。
【0130】
【
図4c】本願の実施形態に係る適用シナリオの概略図である。
【0131】
【
図4d】本願の実施形態に係る適用シナリオの概略図である。
【0132】
【
図4e】本願の実施形態に係る適用シナリオの概略図である。
【0133】
【
図4f】本願の実施形態に係る適用シナリオの概略図である。
【0134】
【
図4g】本願の実施形態に係る電子デバイスによって表示されたユーザインタフェースの概略図である。
【0135】
【
図5】本願の実施形態に係る3Dマップを符号化するための装置50の構造の図である。
【0136】
【
図6a】本願の実施形態に係る3Dマップを符号化するための装置60-1の構造の図である。
【0137】
【
図6b】本願の実施形態に係る3Dマップを符号化するための装置60-2の構造の図である。
【0138】
【
図6c】本願の実施形態に係る3Dマップを符号化するための装置60-3の構造の図である。
【0139】
【
図6d】本願の実施形態に係るコンパクト化モジュール611-1/611-2の構造の図である。
【0140】
【
図6e】本願の実施形態に係る3Dマップを符号化するための装置60-4の構造の図である。
【0141】
【
図6f】本願の実施形態に係る3Dマップを符号化するための装置60-5の構造の図である。
【0142】
【
図7a】本願の実施形態に係る3Dマップを符号化するための装置70-1の構造の図である。
【0143】
【
図7b】本願の実施形態に係る3Dマップを符号化するための装置70-2の構造の図である。
【0144】
【
図8a】本願の実施形態に係る3Dマップを符号化するための装置80-1の構造の図である。
【0145】
【
図8b】本願の実施形態に係る3Dマップを符号化するための装置80-2の構造の図である。
【0146】
【
図9】本願の実施形態に係る3Dマップを符号化するための方法のプロセス900のフローチャートである。
【0147】
【
図10】本願の実施形態に係る3Dマップを符号化するための装置100の構造の図である。
【発明を実施するための形態】
【0148】
本願の目的、技術的解決手段及び利点をより明確にすべく、以下では、本願における技術的解決手段を、本願における添付図面を参照して明確且つ完全に説明する。明確に、説明された実施形態は、本願の実施形態の全部ではなく、一部に過ぎない。本願の実施形態に基づいて、創造的な努力なしに当業者によって取得された全ての他の実施形態は、本願の保護範囲に含まれるものとする。
【0149】
本願の明細書の実施形態、請求項及び添付図面において、「第1(first)」及び「第2(second)」などの用語は単に区別及び説明を意図しており、相対的な重要度の指示又は示唆、又は順序の指示又は示唆として理解されるものではない。加えて、「含む(include)」、「有する(have)」という用語及びそれらの任意の変形例は、非排他的包含、例えば、一連の段階又はユニットの包含を網羅することを意図している。方法、システム、製品又はデバイスは必ずしも、明確に列挙された段階又はユニットに限定されるものではなく、明確に列挙されていない、プロセス、方法、製品又はデバイスに固有である他の段階又はユニットを含み得る。
【0150】
本願において、「少なくとも1つの(項目)(at least one(item))」は1又は複数であり、「複数の(a plurality of)」は2又はそれより多くであることを理解されたい。「及び/又は(and/or)」という用語は、関連する対象物の対応関係を説明しており、3つの関係が存在し得ることを指示する。例えば、「A及び/又はB」は、以下の3つの場合を指示し得る:Aのみが存在する、Bのみが存在する、及び、A及びBの両方が存在する。A及びBは単数又は複数であり得る。「/」という文字は通常、関連する対象物間の「又は(or)」関係を指示する。「以下の項目のうちの少なくとも1つ(At least one of the following items)」又はこれに類似する表現は、項目のうち1つ又は項目のうち複数の任意の組み合わせを含む項目の任意の組み合わせを指示する。例えば、a、b又はcのうちの少なくとも1つは、a、b、c、a及びb、a及びc、b及びc、又は、a、b、及びcを指示し得、ここで、a、b、及びcは単数又は複数であり得る。
【0151】
図1は、本願の実施形態に係るアプリケーションアーキテクチャの概略図である。
図1に示されたように、アプリケーションアーキテクチャは、複数の電子デバイス及びサーバを含む。複数の電子デバイスは、第1電子デバイス及び1又は複数の第2電子デバイス(2つの第2電子デバイスが
図1において一例として使用されている)を含み得る。1又は複数の第2電子デバイスは、第1電子デバイス以外の電子デバイスである。通信が、複数の電子デバイス及びサーバの間、及び、複数の電子デバイス間で実行され得る。例えば、アプリケーションアーキテクチャ内の任意のデバイスは、ワイヤレス・フィディリティ(wireless-fidelity,Wi-Fi)通信、Bluetooth(登録商標)通信、又はセルラ第2/第3/第4/第5世代(2nd/3rd/4th/5th generation,2G/3G/4G/5G)通信などの方式で別のデバイスと通信し得る。将来の通信方式を含む別の通信方式が、サーバ及び電子デバイスの間でさらに使用され得ることを理解されたい。本明細書ではこれについて特に限定しない。本願のこの実施形態において、「1又は複数の第2電子デバイス」は単に、第1電子デバイス以外の電子デバイスを表すために使用されているが、複数の電子デバイスのタイプが同一かどうかは限定されないことに留意されたい。
【0152】
電子デバイスは、カメラ及びディスプレイコンポーネントが提供された様々なタイプのデバイスであり得る。例えば、電子デバイスは、携帯電話、タブレットコンピュータ、ノートブックコンピュータ、又はビデオレコーダ(携帯電話は、
図1における電子デバイスの一例として使用される)などの端末デバイスであり得る。代替的に、電子デバイスは、VR眼鏡、ARデバイス、及びMR相互作用デバイスなどを含む、仮想シナリオにおける相互作用のために使用されるデバイスであり得る。代替的に、電子デバイスは、スマートウォッチ又はスマートバンドなどのウェアラブル電子デバイスであり得る。代替的に、電子デバイスは、車両、無人車両、無人航空機又は産業用ロボットなどの搬送デバイスにおいて搬送されるデバイスであり得る。電子デバイスの具体的な形態は、本願の実施形態において特別に限定されるものではない。
【0153】
加えて、電子デバイスはまた、ユーザ機器(user equipment,UE)、加入者局、モバイルユニット、加入者ユニット、無線ユニット、リモートユニット、モバイルデバイス、無線デバイス、無線通信デバイス、リモートデバイス、モバイル加入者局、端末デバイス、アクセス端末、モバイル端末、無線端末、スマート端末、リモート端末、ハンドヘルド端末、ユーザエージェント、モバイルクライアント、クライアント、又は別の適切な用語と称され得る。
【0154】
サーバは、1又は複数の物理サーバ(1つの物理サーバが、
図1において一例として使用されている)であり得、又は、コンピュータクラスタであり得、又は、クラウドコンピューティングシナリオにおける仮想マシン又はクラウドサーバであり得、以下同様である。
【0155】
本願のこの実施形態において、VRアプリケーション、ARアプリケーション又はMRアプリケーションなどの仮想シナリオアプリケーション(application,APP)は、電子デバイスにインストールされ得、VRアプリケーション、ARアプリケーション又はMRアプリケーションは、ユーザ操作(例えば、タップ、タッチ、スライド、シェイク又は音声制御)に基づいて実行され得る。電子デバイスは、センサを使用することによって環境における任意の対象物の視覚的情報を収集し、次に、収集された視覚的情報に基づいて、ディスプレイコンポーネント上に仮想オブジェクトを表示し得る。仮想オブジェクトは、VRシナリオ、ARシナリオ又はMRシナリオにおける仮想オブジェクト(すなわち、仮想環境内の対象物)であり得る。
【0156】
本願のこの実施形態において、ナビゲーション、検出又は制御アプリケーションは、電子デバイスにインストールされ得、対応するアプリケーションが、ユーザの操作及び制御、又は予め設定されたプログラムに基づいて実行される。電子デバイスは、現在の環境における電子デバイスのポーズ及び他のステータス情報に基づいて、ルート計画、対象物検出及び搬送デバイスの操作及び制御などのアプリケーションを実行し得る。
【0157】
本願の実施形態における視覚的情報は、限定されないが、カメラによって収集された画像ビデオ(深度情報なし)、深度センサ(depth sensor)によって収集された画像ビデオ(深度情報あり)、ライダ(LiDAR)によって収集されたデータ、及びミリ波レーダー(RaDAR)によって収集されたデータを含む。
【0158】
本願のこの実施形態において、電子デバイスの仮想シナリオアプリケーションは、電子デバイスに内蔵されたアプリケーションであり得、又は、サードパーティサービスプロバイダによって提供され且つユーザによってインストールされたアプリケーションであり得ることに留意されたい。本明細書ではこれについて特に限定しない。
【0159】
本願のこの実施形態において、同時位置特定及びマッピング(simultaneous localization and mapping,SLAM)システムは、電子デバイスのためにさらに構成され得る。SLAMシステムは、完全に未知の環境にマップを作成し、測位、ポーズ(位置及びポーズ)決定及びナビゲーションなどを実行するために、当該マップを使用し得る。本願のこの実施形態において、SLAMシステムによって作成されたマップはSLAMマップと称される。SLAMマップは、収集デバイスによって収集された環境情報に基づいてSLAMシステムによって描かれたマップとして理解され得る。収集デバイスは、電子デバイスにおける視覚的情報収集装置及び慣性計測ユニット(inertial measurement unit,IMU)を含み得る。視覚的情報収集装置は、例えば、カメラ、深度カメラ、ライダ及びミリ波レーダーを含み得る。IMUは、例えば、ジャイロスコープ及び加速度計などのセンサを含み得る。
【0160】
本願の実施形態において、SLAMマップはまた、3Dマップと称される。3Dマップは、限定されないが、SLAMマップを含み、さらに、別の技術を使用することによって作成された3次元マップを含み得ることに留意されたい。これは、具体的には、本願の実施形態において限定されない。
【0161】
可能な実装において、3Dマップは、複数の3Dマップポイントを含み得、それに応じて、3Dマップのデータは、複数の3Dマップポイントのデータを含み得る。3Dマップポイントは、環境内の関心のポイント又は大きな特徴を有するポイントである。
【0162】
3Dマップポイントを取得する可能な方式は、ライダ、無人航空機の画角からの空中撮影(アオリ撮影)、高解像度のパノラマカメラ、及び高解像度の産業用カメラなどの複数のデバイスを使用し、撮影を実行し、前述のデバイスによる撮影によって取得されたデータから、加速化セグメントテストからの指向性特徴(features from accelerated segment test,FAST)、回転バイナリロバスト独立基本特徴(binary robust independent elementary features,BRIEF)記述子特徴(oriented FAST and rotated BRIEF,ORB)、スケール不変特徴変換(scale invariant feature transform,SIFT)及び高速化ロバスト特徴(speeded-up robust feature,SURF)、BRIEF、バイナリロバスト不変スケーラブルキーポイント(binary robust invariant scalable keypoints,BRISK)、高速網膜キーポイント(fast retina keypoint,FREAK)、又は繰り返し可能且つ信頼性の高い検出器及び記述子(repeatable and reliable detector and descriptor,R2D2)などの方法を使用することによって、3Dマップポイントを抽出する。
【0163】
3Dマップポイントのデータは、以下を含み得る。
【0164】
(1)3Dマップポイント記述子
【0165】
3Dマップポイント記述子は、3Dマップポイントのローカル機能を表すために使用されたベクトルである。視覚的測位アルゴリズムにおいて、3Dマップポイント記述子は、3Dマップポイント間のマッチングに使用される。可能な方法は:2つの3Dマップポイント記述子間の距離(ユークリッド距離、内積距離、又はハミング距離などであり得る)を計算すること;及び、上記距離が閾値より小さいとき、2つの3Dマップポイントが一致するとみなすことである。
【0166】
(2)3Dマップポイント空間位置
【0167】
3Dマップポイント空間位置は、3次元空間軸上のX、Y、及びZを使用することによって表され得、又は、経度、緯度及び高度を使用することによって表され得、又は、極座標を使用することによって表され得、以下同様である。3Dマップポイント空間位置を表す方法は、本願の実施形態において具体的に限定されない。3Dマップポイント空間位置は、3Dマップポイントの絶対位置又は3Dマップポイントの相対位置であり得る。例えば、全体の領域の中心位置が原点として使用され、全ての3Dマップポイント空間位置は、原点の空間位置に対するオフセット位置である。
【0168】
本願の実施形態において、各3Dマップポイントには番号が割り当てられ、3Dマップのデータに書き込まれ得る、又は、メモリ内の複数の3Dマップポイントのストレージシーケンスが、3Dマップポイントの番号を暗黙的に指示するために使用され得る。3Dマップに含まれた複数の3Dマップポイントのシーケンスは無意味であることに留意されたい。従って、前述の番号は、3Dマップポイントを区別するべく、3Dマップポイントを識別するために使用される識別子とみなされ得る。しかしながら、番号は、複数の3Dマップポイントのシーケンスを限定することを意図するものではない。例えば、3Dマップは、番号がそれぞれ1,2及び3である3つの3Dマップポイントを含み、上記3つの3Dマップポイントは1,2及び3の順序、又は3,2及び1の順序、又は2,1及び3の順序などで処理され得る。
【0169】
可能な実装において、3Dマップのデータはさらに、複数の領域記述子を含み、当該複数の領域記述子のいずれか1つは、複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する。具体的には、複数の領域記述子のいずれか1つの場合、領域記述子は、複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明し得る。この場合、領域記述子及び3Dマップポイントは1対多の関係にある。複数の3Dマップポイントの各々の特徴は、複数の領域記述子の一部又は全ての領域記述子によって説明され得る。この場合、3Dマップポイント及び領域記述子は1対多の関係にある。複数の領域記述子及び複数の3Dマップポイントが多対多関係にあることが分かり得る。領域記述子を生成する方法は、限定されないが、バグオブワーズ法(bag of words,BOW)及び局所集合ディスクリプタのベクトル(vector of locally aggregated descriptors,VLAD)などの従来の方法、及び、NetVLAD又は人工知能(artificial intelligence,AI)に基づいた新たな方法を含む。同様に、複数の領域記述子は、複数の領域記述子を区別するように、番号で識別され得る。同様に、しかしながら、番号は、複数の領域記述子のシーケンスを限定することを意図するものではない。
【0170】
可能な実装において、3Dマップのデータはさらに、3Dマップポイント及び領域記述子の間の対応関係を含む。対応関係は、任意の領域記述子が対応する3Dマップポイントがどれなのか、及び任意の3Dマップポイントが対応する領域記述子がどれなのかを明確に説明する。
【0171】
任意選択的に、前述の対応関係は、領域記述子の番号及び3Dマップポイントの番号の間の対応テーブルを使用することによって明示的に説明され得る。例えば、3Dマップは、その番号がT1からT3である3つの領域記述子、及びその番号がP1からP6である6つの3Dマップポイントを含む。対応テーブルは、表1又は表2に示されている。
[表1]
【表1】
【0172】
表1は、領域記述子の番号及び3Dマップポイントの番号の間の対応テーブルの一例であることに留意されたい。対応テーブルは、別のフォーマット又は方式で代替的に提示され得る。これは、本願において具体的に限定されない。
【0173】
任意選択的に、前述の対応関係は代替的に、領域記述子及び3Dマップポイントのストレージ位置を使用することによって暗黙的に説明され得る。例えば、T1はメモリに最初に記憶され、次に、P1、P2及びP3のデータが記憶される;次に、T2が記憶され、次に、P2及びP3のデータが記憶される;そして最終的に、T3が記憶され、次に、P3、P4、P5及びP6のデータが記憶される。
【0174】
図2は、本願の実施形態に係る電子デバイス20の構造の概略図である。
図2に示されたように、電子デバイス20は、
図1に示された実施形態における第1電子デバイス及び1又は複数の第2電子デバイスのうちの少なくとも1つであり得る。
図2に示された構造は、電子デバイス20に対して具体的な限定を構成するものではないことを理解されたい。本願のいくつかの他の実施形態において、電子デバイス20は、
図2に示されたそれらより多くの又はより少ないコンポーネントを含むか、又は、いくつかのコンポーネントを組み合わせるか、又は、いくつかのコンポーネントを分割するか、又は、異なるコンポーネント配置を有する場合がある。
図2に示されたコンポーネントは、1又は複数の信号処理及び/又は特定用途向け集積回路を含むハードウェア、ソフトウェア、又は、ハードウェア及びソフトウェアの組み合わせにおいて実装され得る。
【0175】
電子デバイス20は、チップ21、メモリ22(1又は複数のコンピュータ可読記憶媒体)、ユーザインタフェース23、ディスプレイコンポーネント24、カメラ25、センサ26、デバイス測位を実行するように構成された測位モジュール27、及び通信を実行するように構成されたトランシーバ28を含み得る。これらのコンポーネントは、1又は複数のバス29を使用することによって互いに通信し得る。
【0176】
1又は複数のプロセッサ211、クロックモジュール212及び電源管理モジュール213は、チップ21に統合され得る。チップ21に統合されたクロックモジュール212は主に、データ伝送及びタイミング制御に必要なタイマーをプロセッサ211に提供するように構成されている。タイマーは、データ伝送及びタイミング制御のクロック機能を実装し得る。プロセッサ211は、命令操作コード及びタイミング信号に基づいて操作を実行するとともに操作制御信号を生成し、命令フェッチ及び命令実行の制御を完了し得る。チップ21に統合された電源管理モジュール213は主に、チップ21、及び電子デバイス20の別のコンポーネントに安定した高精度な電圧を提供するように構成されている。
【0177】
プロセッサ211は、中央処理装置(central processing unit,CPU)とも称され得る。プロセッサ211は、1又は複数の処理ユニットを具体的に含み得る。例えば、プロセッサ211は、アプリケーションプロセッサ(application processor,AP)、モデムプロセッサ、グラフィック処理ユニット(graphics processing unit,GPU)、画像信号プロセッサ(image signal processor,ISP)、コントローラ、ビデオコーデック、デジタル信号プロセッサ(digital signal processor,DSP)、ベースバンドプロセッサ、ニューラル処理ユニット(neural-network processing unit,NPU)及び/又は同様のものを含み得る。複数の異なる処理ユニットは、独立したコンポーネントであってもよいし、又は1又は複数のプロセッサに統合されてもよい。
【0178】
可能な実装において、プロセッサ211は、1又は複数のインタフェースを含み得る。インタフェースは、集積回路間(inter-integrated circuit,I2C)インタフェース、集積回路間サウンド(inter-integrated circuit sound,I2S)インタフェース、パルス符号変調(pulse code modulation,PCM)インタフェース、汎用非同期送受信器(universal asynchronous receiver/transmitter,UART)インタフェース、モバイルインダストリプロセッサインタフェース(mobile industry processor interface,MIPI)、汎用入力/出力(general-purpose input/output,GPIO)インタフェース、加入者識別モジュール(subscriber identity module,SIM)インタフェース、ユニバーサルシリアルバス(universal serial bus,USB)ポート及び/又は同様のものを含み得る。
【0179】
メモリ22は、バス29によってプロセッサ211に接続され得、又は、プロセッサ311に結合され得、様々なソフトウェアプログラム及び/又は複数のグループの命令を記憶するように構成されている。メモリ22は、高速ランダムアクセスメモリ(例えば、キャッシュ)を含み得、又は、例えば、1又は複数の磁気ディスクストレージデバイス、フラッシュメモリデバイス、又は別の不揮発性ソリッドステートストレージデバイスなどの不揮発性メモリを含み得る。メモリ22は、例えば、Android(登録商標)(Android)、Apple(登録商標)モバイルプラットフォーム(iOS(登録商標))、Microsoft(登録商標)ウィンドウオペレーティングシステム(Windows(登録商標))、又はUNIX(登録商標)系オペレーティングシステム(Linux(登録商標))などの埋め込み型オペレーティングシステムのようなオペレーティングシステムを記憶し得る。メモリ22はさらに、例えば、画像データ、ポイントクラウドデータ、3Dマップデータ、ポーズデータ、座標システム変換情報、及びマップアップデート情報のようなデータを記憶し得る。メモリ22はさらに、コンピュータ実行可能プログラムコードを記憶し得る。コンピュータ実行可能プログラムコードは、例えば、通信プログラム命令、及びSLAMシステムの関連するプログラム命令のような命令を含む。メモリ22はさらに、例えば、AR/VR/MRなどの仮想シナリオアプリケーション、地図アプリケーション、画像管理アプリケーション、及びナビゲーション及び制御アプリケーションのような1又は複数のアプリケーションを記憶し得る。メモリ22はさらに、ユーザインタフェースプログラムを記憶し得る。ユーザインタフェースプログラムは、例えば、AR/VR/MRなどの仮想シナリオにおける仮想オブジェクトのようなアプリケーションの内容を、グラフィカル操作インタフェースを使用することによって鮮明に表示し、ディスプレイコンポーネント24を使用することによって上記内容を提示し、メニュー、ダイアログボックス又はボタンなどの入力制御を使用することによってアプリケーションに対してユーザによって実行される制御操作を受信し得る。
【0180】
ユーザインタフェース23は、例えば、タッチパネルであり得る。タッチパネルは、タッチパネルに対してユーザによって実行される操作の命令を検出し得る。ユーザインタフェース23は、例えば、キーパッド、物理ボタン又はマウスであり得る。
【0181】
電子デバイス20は、1又は複数のディスプレイコンポーネント24を含み得る。電子デバイス20は、ディスプレイコンポーネント24、チップ21内のグラフィック処理ユニット(GPU)及びアプリケーションプロセッサ(AP)などを使用することによって、表示機能を併せて実装し得る。GPUは、画像処理を実装するためのマイクロプロセッサであり、ディスプレイコンポーネント24及びアプリケーションプロセッサに接続されている。GPUは、グラフィックスレンダリングのために数学的及び幾何学的計算を実行する。ディスプレイコンポーネント24は、電子デバイス20によって出力されたインタフェース内容を表示し得、例えば、AR/VR/MRなどの仮想シナリオにおける画像及びビデオなどを表示し得る。インタフェース内容は、実行中のアプリケーションのインタフェース、及びシステムレベルのメニューなどを含み得、具体的には以下のインタフェース要素を含み得る:ボタン(Button)、テキスト入力ボックス(Text)、スクロールバー(Scrollbar)及びメニュー(Menu)などの入力インタフェース要素;及び、ウィンドウ(Window)、ラベル(Label)、画像、ビデオ及びアニメーションなどの出力インタフェース要素。
【0182】
ディスプレイコンポーネント24は、ディスプレイパネル、レンズ(例えば、VR眼鏡)、又は投影画面などであり得る。ディスプレイパネルは、表示画面とも称され得、例えば、タッチスクリーン、フレキシブル画面又は曲面画面などであり得、又は、別の光学コンポーネントであり得る。本願の実施形態における電子デバイスの表示画面は、タッチスクリーン、フレキシブル画面、曲面画面又は別の形態の画面であり得ることを理解されたい。言い換えれば、電子デバイスの表示画面は、画像を表示する機能を有し、表示画面の具体的な材料及び形状は具体的に限定されていない。
【0183】
例えば、ディスプレイコンポーネント24がディスプレイパネルを含んでいるとき、ディスプレイパネルは、液晶ディスプレイ(liquid crystal display,LCD)、有機発光ダイオード(organic light-emitting diode,OLED)、アクティブマトリクス式有機発光ダイオード(active matrix organic light-emitting diode又はactive-matrix organic light-emitting diode,AMOLED)、フレキシブル発光ダイオード(flexible light-emitting diode,FLED)、MiniLed、MicroLed、Micro-oLed、又は量子ドット発光ダイオード(quantum dot light-emitting diode,QLED)などを使用し得る。加えて、可能な実装において、ユーザインタフェース23におけるタッチパネルは、ディスプレイコンポーネント24におけるディスプレイパネルに結合され得る。例えば、タッチパネルは、ディスプレイパネルの下方に配置され得、タッチパネルは、ユーザがディスプレイパネルを使用することによってタッチ操作(例えば、タップ、スライド又はタッチ)を入力したときにディスプレイパネルに作用するタッチ圧力を検出するように構成されており、ディスプレイパネルは、内容を表示するように構成されている。
【0184】
カメラ25は、単眼カメラ、双眼カメラ又は深度カメラであり得、環境を撮影/記録することで画像/ビデオ画像を取得するように構成されている。カメラ25によって収集された画像/ビデオ画像は、例えば、SLAMシステムの入力データとして使用され得、又は、画像/ビデオは、ディスプレイコンポーネント24を使用することによって表示され得る。
【0185】
可能な実装において、カメラ25は、センサともみなされ得る。カメラ25によって収集された画像は、IMGフォーマットであり得、又は、別のフォーマットタイプであり得る。これは、具体的には、本願の実施形態において限定されない。
【0186】
センサ26は、電子デバイス20のステータスの変化(例えば、回転、揺動、移動又はジッタ)に関するデータを収集するように構成され得る。センサ26によって収集されたデータは、SLAMシステムの入力データとして使用され得る。センサ26は、例えば、慣性計測ユニット(inertial measurement unit,IMU)及び飛行時間(time of flight,TOF)センサのような1又は複数のセンサを含み得る。IMUは、ジャイロスコープ及び加速度計などのセンサを含み得る。ジャイロスコープは、電子デバイスが移動したときに電子デバイスの角速度を測定するように構成されており、加速度計は、電子デバイスが移動したときに電子デバイスの加速度を測定するように構成されている。TOFセンサは、光送信器及び受光器を含み得る。光送信器は、例えば、レーザ光、赤外線又はレーダー波のような光を外側に放射するように構成されている。受光器は、例えば、反射されたレーザ光、赤外線又はレーダー波のような反射光を検出するように構成されている。
【0187】
センサ26はさらに、慣性センサ、気圧計、磁力計及び車輪速度計などのより多くの他のセンサを含み得ることに留意されたい。これは、具体的には、本願の実施形態において限定されない。
【0188】
測位モジュール27は、電子デバイス20の物理測位を実装するように構成されており、例えば、電子デバイス20の初期位置を取得するように構成されている。測位モジュール27は、Wi-Fi測位モジュール、Bluetooth測位モジュール、基地局測位モジュール及び衛星測位モジュールのうち1又は複数を含み得る。全球測位衛星システム(global navigation satellite system,GNSS)が、測位を補助するために衛星測位モジュール内に配置され得る。GNSSは、BeiDouシステム、グローバルポジショニングシステム(global positioning system,GPS)システム、グロナス(global navigation satellite system,GLONASS)システム及びGalileoナビゲーション衛星システム(Galileo)システムに限定されない。
【0189】
トランシーバ28は、電子デバイス20及び別のデバイス(例えば、サーバ又は別の電子デバイス)の間の通信を実装するように構成されている。トランシーバ28は、伝送機及び受信機を統合し、これらはそれぞれ、無線周波数信号を送信及び受信するように構成されている。具体的な実装において、トランシーバ28は、限定されないが、アンテナシステム、無線周波数(radio frequency,RF)トランシーバ、1又は複数の増幅器、チューナ、1又は複数の発振器、デジタル信号プロセッサ、コーデック(CODEC)チップ、加入者識別モジュール(subscriber identity module,SIM)カード、及び記憶媒体などを含む。可能な実装において、トランシーバ28は代替的に、個別のチップに対して実装され得る。トランシーバ28は、2G/3G/4G/5Gなどの少なくとも1つのデータネットワークにおける少なくとも1つのデータネットワーク通信をサポートする、及び/又は、以下の短距離無線通信方式、すなわち:Bluetooth(Bluetooth,BT)通信、ワイヤレス・フィディリティ(wireless fidelity,Wi-Fi)通信、近距離無線通信(near-field communication,NFC)、赤外線(infrared,IR)無線通信、超広帯域(ultra-wideband,UWB)通信、及びZigBee(登録商標)(ZigBee)プロトコル通信のうちの少なくとも1つをサポートする。
【0190】
本願のこの実施形態において、プロセッサ211は、メモリ22に記憶されたプログラムコードを実行し、電子デバイス20の様々な機能アプリケーション及びデータ処理を実行する。
【0191】
図3は、本願の実施形態に係るサーバ30の構造の概略図である。
図3に示されたように、サーバ30は、
図1に示された実施形態におけるサーバであり得る。サーバ30は、プロセッサ301、メモリ302(1又は複数のコンピュータ可読記憶媒体)、及びトランシーバ303を含む。これらのコンポーネントは、1又は複数のバス304を使用することによって互いに通信し得る。
【0192】
プロセッサ301は、1又は複数のCPUであり得る。プロセッサ301が1つのCPUである場合、このCPUは、シングルコアCPUであり得るか、又はマルチコアCPUであり得る。
【0193】
メモリ302は、バス304によってプロセッサ301に接続されてもよく、又は、プロセッサ301に結合されてもよく、様々なプログラムコード及び/又は複数のグループの命令及びデータ(例えば、マップデータ及びポーズデータ)を記憶するように構成されている。具体的な実装において、メモリ302は、限定されないが、ランダムアクセスメモリ(random access memory,RAM)、リードオンリメモリ(read-only memory,ROM)、消去可能プログラマブルリードオンリメモリ(Erasable Programmable Read-Only Memory,EPROM)、又はポータブルリードオンリメモリ(Compact Disc Read-Only Memory,CD-ROM)などを含む。
【0194】
トランシーバ303は主に、受信機及び伝送機を統合する。受信機は、電子デバイスによって送信されたデータ(例えば、要求又は画像)を受信するように構成されており、伝送機は、データ(例えば、マップデータ又はポーズデータ)を電子デバイスに送信するように構成されている。
【0195】
図3に示されたサーバ30は本願のこの実施形態において提供された単なる一例であり、サーバ30はさらに、図面に示されているより多くのコンポーネントを有し得ることを理解されたい。これは、具体的には、本願の実施形態において限定されない。
【0196】
本願のこの実施形態において、プロセッサ301は、メモリ302に記憶されたプログラムコードを実行し、サーバ30の様々な機能アプリケーション及びデータ処理を実行する。
【0197】
本願の実施形態において使用されている「結合(coupling)」という用語は、直接接続又は1又は複数の中間コンポーネント又は回路による接続を意味する。
【0198】
図4aは、本願の実施形態に係る適用シナリオの概略図である。
図4aに示されたように、適用シナリオにおいて、電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及びサーバからの3Dマップを参照して電子デバイスの現在のポーズを決定する。
【0199】
3Dマップはサーバによって提供される。具体的には、サーバは3Dマップを作成し、次に、3Dマップを圧縮し、3Dマップの圧縮データを電子デバイスに伝送する。3Dマップの圧縮データを受信した後、電子デバイスは、3Dマップの再構築データを取得するために圧縮解除を実行し、収集された視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを決定する。ポーズは、電子デバイスの位置情報であり、ワールド座標系における絶対ポーズであり得、又は、環境内のあるポイントに対する相対的ポーズであり得る。
【0200】
本願のこの実施形態において、サーバは、3Dマップを予め作成し、3Dマップを圧縮し、次に、3Dマップの圧縮データをローカルに記憶し得る。このように、ストレージ領域が節約され得る。加えて、サーバは、3Dマップの圧縮データを、例えばクラウドストレージなどの別のデバイスに伝送し得る。
【0201】
1.サーバは、3Dマップを作成し、3Dマップを圧縮することで3Dマップの圧縮データを取得し、圧縮データをローカルに記憶する。
【0202】
サーバは3Dマップを圧縮して、ローカル記憶スペースを節約する。
【0203】
2.電子デバイスは、マップダウンロード要求をサーバに送信する。マップダウンロード要求は、2つの方式でトリガされる。
【0204】
(1)ユーザは、電子デバイスにインストールされた地図アプリケーションを開始し、アプリケーションは、当該アプリケーションに対応するサーバに、GPS測位又はWi-Fi測位に基づいて取得された位置情報をアップロードする。アップロード動作は、マップダウンロード要求をトリガし得る。アップロードされたコンテンツは位置情報を含むので、サーバは、位置情報に基づいて予備推定を実行し、位置情報によって指示された測位点が属する領域の3Dマップの圧縮データを電子デバイスに伝送し得る。位置情報によって指示された測位点が属する領域の範囲は、予め設定され得る。例えば、測位点が属する領域は、測位点が位置付けられた任意のレベルの行政地域(郡、都市、国、又は行政地域を含む)であり得、又は、測位点を中心に配置され且つ指定された距離を半径として使用する円形領域であり得る。
【0205】
(2)ユーザは、電子デバイスにインストールされた地図アプリケーションを開始し、アプリケーション上の領域を能動的に入力するか、又はそれを選択する。例えば、ユーザは、「xxビジネスセンター」を能動的に入力するか、又は、「街路A、街路B及び街路C」のリストから「街路A」を選択する。ユーザの前述の操作は、マップダウンロード要求をトリガし得る。ユーザが地理的位置を入力するか又は選択するかに関係なく、サーバはそれに応じて、地理的位置の3Dマップの圧縮データを電子デバイスに伝送する。
【0206】
本願のこの実施形態において、前述の2つの方式に加えて、マップダウンロード要求をトリガするために別の方式が使用され得ることを理解されたい。例えば、電子デバイスは、3Dマップをダウンロードする又は3Dマップのダウンロードを開始するための条件が満たされたかどうかを自動的に検出するか、又は、電子デバイスは、周辺光の変化又は環境変化を検出した際に3Dマップのダウンロードを開始し、サーバからの領域範囲の3Dマップのダウンロードを要求する。領域範囲のサイズは具体的に限定されていない。
【0207】
3.サーバは、3Dマップの圧縮データを電子デバイスに送信する。
【0208】
4.電子デバイスは、視覚的情報を収集する。
【0209】
段階3及び段階4は互いに独立しており、シーケンスは限定されないということに留意されたい。
【0210】
5.電子デバイスは、3Dマップの圧縮データを圧縮解除し、3Dマップの再構築データを取得する。
【0211】
6.電子デバイスは、視覚的情報に基づいて3Dマップにおいて測位を実行し、視覚的情報に対応するポーズを取得する。
【0212】
3Dマップの圧縮データを受信した後、電子デバイスは圧縮データを直ちに圧縮解除する必要はなく、圧縮データを圧縮解除することで、視覚的情報に基づいて測位を実行する前にのみ3Dマップの再構築データを取得する必要がある。例えば、ユーザは、領域範囲の3Dマップの圧縮データを、「オフラインマッピング」をダウンロードすることによって予めダウンロードし、測位が必要となるときにのみ3Dマップの圧縮データを圧縮解除し得る。
【0213】
図4bは、本願の実施形態に係る適用シナリオの概略図である。
図4bに示されたように、適用シナリオにおいて、電子デバイスは、センサを使用することによって視覚的情報を収集し、サーバは、電子デバイスからの視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを決定する。
【0214】
3Dマップはサーバによって提供される。具体的には、サーバは、3Dマップを作成し、次に、3Dマップを圧縮し、3Dマップの圧縮データをローカルに記憶する。電子デバイスから視覚的情報を受信したとき、サーバは、圧縮解除を実行することで3Dマップの再構築データを取得し、視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを決定する。
【0215】
1.サーバは、3Dマップを作成し、3Dマップを圧縮することで3Dマップの圧縮データを取得し、圧縮データをローカルに記憶する。
【0216】
2.電子デバイスは、視覚的情報を収集する。
【0217】
3.電子デバイスは、視覚的情報をサーバに送信する。
【0218】
4.サーバは、3Dマップの圧縮データを圧縮解除し、3Dマップの再構築データを取得する。
【0219】
サーバは、3Dマップを圧縮することでストレージ領域を節約するということを理解されたい。
【0220】
5.サーバは、視覚的情報に基づいて3Dマップにおいて測位を実行し、視覚的情報に対応するポーズを取得する。
【0221】
6.サーバは、ポーズを電子デバイスに送信する。
【0222】
図4cは、本願の実施形態に係る適用シナリオの概略図である。
図4cに示されたように、適用シナリオにおいて、電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを決定する。
【0223】
3Dマップは、電子デバイスによって提供される。具体的には、電子デバイスは3Dマップを作成し、次に、3Dマップを圧縮し、3Dマップの圧縮データをローカルに記憶する。視覚的情報が収集されたとき、電子デバイスは、圧縮解除を実行することで3Dマップの再構築データを取得し、収集された視覚的情報及び3Dマップを参照して電子デバイスの現在のポーズを決定する。
【0224】
1.電子デバイスは3Dマップを作成し、3Dマップを圧縮することで3Dマップの圧縮データを取得し、圧縮データをローカルに記憶する。
【0225】
電子デバイスは、3Dマップを圧縮することでストレージ領域を節約するということを理解されたい。
【0226】
2.電子デバイスは、センサを使用することによって視覚的情報を収集する。
【0227】
3.電子デバイスは、3Dマップの圧縮データを圧縮解除し、3Dマップの再構築データを取得する。
【0228】
4.電子デバイスは、視覚的情報に基づいて3Dマップにおいて測位を実行し、視覚的情報に対応するポーズを取得する。
【0229】
図4dは、本願の実施形態に係る適用シナリオの概略図である。
図4bに示されたように、適用シナリオにおいて、第2電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及びサーバからの3Dマップを参照して第2電子デバイスの現在のポーズを決定する。
【0230】
3Dマップは、第1電子デバイスによって作成される。具体的には、第1電子デバイスは3Dマップを作成し、3Dマップを圧縮し、次に、3Dマップの圧縮データをサーバに送信する。サーバは次に、3Dマップの圧縮データを第2電子デバイスに送信する。第2電子デバイスは、圧縮解除を実行することで3Dマップの再構築データを取得し、収集された視覚的情報及び3Dマップを参照して第2電子デバイスの現在のポーズを決定する。
【0231】
本願のこの実施形態において、第1電子デバイスは3Dマップを予め作成し、3Dマップを圧縮し、次に、3Dマップの圧縮データをサーバに伝送し得る。このように、伝送帯域幅が低減し得る。
【0232】
1.第1電子デバイスは3Dマップを作成し、3Dマップを圧縮することで3Dマップの圧縮データを取得する。
【0233】
2.第1電子デバイスは、3Dマップの圧縮データをサーバに送信する。
【0234】
第1電子デバイスは3Dマップを圧縮し、次に、3Dマップの圧縮データを伝送し、伝送帯域幅を低減するとともに伝送効率を向上させる。
【0235】
3.第2電子デバイスは、マップダウンロード要求をサーバに送信する。
【0236】
第2電子デバイスは、
図4aに示されたトリガ方式に基づいて、マップダウンロード要求を送信し得る。
【0237】
4.サーバは、3Dマップの圧縮データを第2電子デバイスに送信する。
【0238】
5.第2電子デバイスは、3Dマップの圧縮データを圧縮解除し、3Dマップの再構築データを取得する。
【0239】
6.第2電子デバイスは、センサを使用することによって視覚的情報を収集する。
【0240】
7.第2電子デバイスは、視覚的情報に基づいて3Dマップにおいて測位を実行し、視覚的情報に対応するポーズを取得する。
【0241】
図4eは、本願の実施形態に係る適用シナリオの概略図である。
図4cに示されたように、適用シナリオにおいて、第2電子デバイスはセンサを使用することによって視覚的情報を収集し、サーバは、第2電子デバイスからの視覚的情報及び第1電子デバイスからの3Dマップを参照して第2電子デバイスの現在のポーズを決定する。
【0242】
3Dマップは、第1電子デバイスによって作成される。具体的には、第1電子デバイスは3Dマップを作成し、3Dマップを圧縮し、次に、3Dマップの圧縮データをサーバに送信する。サーバは、圧縮解除を実行することで3Dマップの再構築データを取得し、第2電子デバイスからの視覚的情報及び3Dマップを参照して第2電子デバイスの現在のポーズを決定する。
【0243】
1.第1電子デバイスは3Dマップを作成し、3Dマップを圧縮することで3Dマップの圧縮データを取得する。
【0244】
2.第1電子デバイスは、3Dマップの圧縮データをサーバに送信する。
【0245】
3.第2電子デバイスは、センサを使用することによって視覚的情報を収集する。
【0246】
4.第2電子デバイスは、測位要求をサーバに送信し、ここで、測位要求は視覚的情報を保持している。
【0247】
5.サーバは、3Dマップの圧縮データを圧縮解除し、3Dマップの再構築データを取得する。
【0248】
6.サーバは、視覚的情報に基づいて3Dマップにおいて測位を実行し、視覚的情報に対応するポーズを取得する。
【0249】
7.サーバは、第2電子デバイスに、測位によって取得されたポーズを送信する。
【0250】
図4fは、本願の実施形態に係る適用シナリオの概略図である。
図4dに示されたように、適用シナリオにおいて、第2電子デバイスは、センサを使用することによって視覚的情報を収集し、視覚的情報及び第1電子デバイスからの3Dマップを参照して第2電子デバイスの現在のポーズを決定する。
【0251】
3Dマップは、第1電子デバイスによって作成される。具体的には、第1電子デバイスは3Dマップを作成し、3Dマップを圧縮し、次に、3Dマップの圧縮データを第2電子デバイスに送信する。第2電子デバイスは、圧縮解除を実行することで3Dマップの再構築データを取得し、収集された視覚的情報及び第1電子デバイスからの3Dマップを参照して第2電子デバイスの現在のポーズを決定する。
【0252】
1.第1電子デバイスは3Dマップを作成し、3Dマップを圧縮することで3Dマップの圧縮データを取得し、圧縮データをローカルに記憶する。
【0253】
2.第2電子デバイスは、マップダウンロード要求を第1電子デバイスに送信する。
【0254】
3.第1電子デバイスは、3Dマップの圧縮データを第2電子デバイスに送信する。
【0255】
4.第2電子デバイスは、3Dマップの圧縮データを圧縮解除し、3Dマップの再構築データを取得する。
【0256】
5.第2電子デバイスは、センサを使用することによって視覚的情報を収集する。
【0257】
6.第2電子デバイスは、視覚的情報に基づいて3Dマップにおいて測位を実行し、視覚的情報に対応するポーズを取得する。
【0258】
図4aから
図4fに示された実施形態において使用されている測位アルゴリズムは、以下を含み得る。
【0259】
(1)取得対象の領域記述子が視覚的情報から抽出され、ここで、取得対象の領域記述子を抽出するために使用されたアルゴリズムは、3Dマップから領域記述子を抽出するためのアルゴリズムと一致する。
【0260】
(2)取得対象の3Dマップポイントが視覚的情報から抽出され、取得対象の3Dマップポイント空間位置及び取得対象の3Dマップポイント記述子が取得され、ここで、取得対象の3Dマップポイント記述子を抽出するためのアルゴリズムは、3Dマップから3Dマップポイント記述子を抽出するためのアルゴリズムと一致する。
【0261】
(3)取得は、取得対象の領域記述子に基づいて、3Dマップのデータに含まれた複数の領域記述子において実行され、複数の候補領域記述子を取得する。
【0262】
本願の実施形態において、取得対象の領域記述子及び複数の領域記述子における各領域記述子の間の距離が計算され得る。距離は、ハミング距離、マンハッタン距離、又はユークリッド距離などを含み得る。次に、条件(例えば、距離が閾値より小さい)を満たす少なくとも1つの領域記述子が、候補領域記述子として選択される。
【0263】
(4)取得対象の3Dマップポイント記述子及び複数の候補領域記述子に対応する3Dマップポイント記述子の間で、マッチングが別々に実行される。マッチングは、取得対象の3Dマップポイント記述子及び複数の候補領域記述子に対応する3Dマップポイント記述子の間の類似度を別々に計算、最も類似した3Dマップポイントを発見する。
【0264】
(5)電子デバイスのポーズは、パースペクティブNポイント(perspective-n-point,PnP)カメラポーズ推定及び効率的なパースペクティブNポイントカメラポーズ推定(efficient perspective-n-point camera pose estimation,EPnP)などのポーズ求解アルゴリズムを使用することによって、発見された3Dマップポイントに基づいて計算される。
【0265】
図4aから
図4fに示された実施形態は全て、3Dマップの圧縮に関する。本願の実施形態は、前述の圧縮を実行するための複数の装置フレームワークを提供する。以下では、複数の装置フレームワークについて説明する。
【0266】
図4aから
図4fにおける適用シナリオのいずれか1つにおいて、本願の実施形態における3Dマップに基づいて測位が実行され、電子デバイスの現在のポーズを取得する。ポーズは、ARナビゲーション、AR人間-コンピュータ相互作用、補助運転、及び自律運転などの分野に適用され得る。例えば、ポーズに基づいたARナビゲーションが一例として使用される。
図4gは、本願の実施形態に係る電子デバイスによって表示されたユーザインタフェースの概略図である。電子デバイスは、ポーズに基づいて、
図4gに示されたユーザインタフェースを表示し得る。ユーザインタフェースは、会議室2へのナビゲーションのためのナビゲーション矢印指示を含み得、会議室2に向かうナビゲーション矢印指示は、ポーズに基づいてサーバから取得された又はポーズに基づいてローカルに取得された仮想オブジェクトであり得る。ユーザインタフェースはさらに、センサによって収集された視覚的情報、例えば、
図4gに示された建物を含み得る。ユーザは、
図4gに示された電子デバイスのユーザインタフェースを参照して会議室2に行く。
【0267】
本願の実施形態における圧縮解除によって取得された3Dマップの再構築データは、3Dマップの再構築データとも称され得ることに留意されたい。
【0268】
図5は、本願の実施形態に係る3Dマップを符号化するための装置50の構造の図である。
図5に示されたように、符号化装置50は、前述の実施形態におけるサーバ又は電子デバイス、特に、3Dマップを圧縮及び伝送する必要があるデバイス、例えば、
図4aに示された実施形態におけるサーバ、又は、
図4dから
図4fに示された実施形態における第1電子デバイスにおいて使用され得る。
【0269】
本願のこの実施形態における3Dマップを符号化するための装置50は、圧縮モジュール51及び伝送モジュール52を含む。圧縮モジュール51は、3Dマップの符号化対象データを圧縮して3Dマップのビットストリームを取得するように構成されており、ここで、当該3Dマップは複数の3Dマップポイントを含み、当該3Dマップのデータは複数の3Dマップポイントのデータを含む。伝送モジュール52は、3Dマップのビットストリームを伝送するように構成されている。圧縮モジュール51の入力データは3Dマップのデータであり、出力データは3Dマップのビットストリームであり、伝送モジュール52によって伝送されたデータは、圧縮モジュール51によって出力された3Dマップのビットストリームであることが分かり得る。
【0270】
圧縮モジュール51は、3Dマップのデータに対して圧縮を実行し、3Dマップのデータ量を低減し得る。3Dマップが伝送される必要があるシナリオでは、3Dマップの元のデータを伝送する代わりに3Dマップの圧縮データを伝送することで、伝送のためのデータ量を低減し得、例えば、データ量をTBレベルからGBレベルに圧縮し得、伝送によって占有される帯域幅をさらに低減し得、それにより、3Dマップの伝送効率を向上させる。
【0271】
本願のこの実施形態において、圧縮は、コンパクト化及び予測のうちの少なくとも1つを含み得、コンパクト化は、量子化及び二値化のうちの少なくとも1つを含み得ることに留意されたい。
【0272】
量子化は、処理対象データを1又は複数の量子化指数にマッピングすることを意味しており、ここで、各量子化指数は1つの量子化センターに対応している。量子化指数におけるビットの数は通常、元のデータにおけるビットの数より明らかに小さく、ストレージ又は伝送帯域幅を節約する。量子化方法は、限定されないが、スカラ量子化、ベクトル量子化、及び直積量子化などを含む。
【0273】
二値化は、処理対象データを、バイナリシンボルによって表された2進列に処理することを意味する。二値化は、例えば、ハッシュ化であり得る。ハッシュ化の原理は、処理対象データをハミング空間(バイナリ空間)にマッピングし、バイナリハッシュコードを生成することである。ハッシュコードにおけるビットの数は通常、元のデータにおけるビットの数より明らかに小さく、ストレージ及び伝送帯域幅を節約する。加えて、ハッシュコード間のハミング距離の計算量は通常、元のデータのユークリッド距離のそれより小さく、それにより、計算の複雑さを低減する。ハッシュ化方法は、限定されないが、反復的量子化(iterative quantization,ITQ)ハッシュ化方法、局所性鋭敏型ハッシュ化(locality sensitive hashing,LSH)方法などを含む。
【0274】
予測は、処理済みデータを使用することによって処理対象データに対して予測を実行し、処理対象データの残差データを取得することを意味する。明らかに、残差データのデータ量は元のデータ量より小さく、これにより、データ圧縮が実装される。参照データの選択は、予め合意され得る。例えば、前に処理済みのデータは、参照データとして固定的に使用され、この場合、参照データは、ビットストリームにおいて識別される必要はない。別の例の場合、任意の処理済みデータが参照データとして使用され、この場合、参照データの識別情報は、ビットストリームに書き込まれる必要があり、参照データの数、又は、参照データを推測するのに使用され得る他の情報を含む。
【0275】
3Dマップのデータの前述の説明において、3Dマップに含まれた複数の3Dマップポイントのシーケンスは無意味であることが分かり得る。従って、3Dマップポイントの圧縮又は符号化が含まれる場合、複数の3Dマップポイントのシーケンスは限定されない、すなわち、複数の3Dマップポイントは、任意のシーケンスで別々に圧縮又は符号化され得る。
【0276】
予測の原理に基づいて、処理対象データの予測データ及び処理対象データの間の類似度が比較的高い場合、処理対象データの取得された残差データは0である確率が比較的高く、その結果、圧縮性能が向上され得、それにより、符号化のためのデータ量が低減するとみなされる。本願のこの実施形態において、複数の処理対象データは、予測の前に順序再設定され、隣接した処理対象データ間の相関を向上させ、それにより、残差データのデータ量をさらに低減し得る。任意選択的に、1つの処理対象データは、1又は複数の処理済みデータに基づいて予測され、処理対象データの残差データを取得し得る;又は、複数の処理対象データは、1又は複数の処理済みデータに基づいて予測され、複数の処理対象データの残差データを取得し得る。
【0277】
加えて、圧縮はさらに、符号化対象データをビットストリームにカプセル化するべく、カプセル化を含み得る。カプセル化は、任意の符号化アルゴリズム、例えばエントロピー符号化を使用し得る。エントロピー符号化は、無損失データ圧縮方法である。エントロピー符号化アルゴリズムは、限定されないが、ハフマン(huffman)符号化、算術符号化、LZ77圧縮アルゴリズム(lempel-ziv-markov chain-algorithm,LZMA)に基づいて改善された圧縮/圧縮解除アルゴリズム、データ圧縮のための関数ライブラリアルゴリズム(zlib)などを含む。
【0278】
図5に示された実施形態に基づいて、本願の実施形態は、圧縮モジュールの複数の実装可能な構造の例を提供し、以下の実施形態が説明のために使用される。
【0279】
可能な実装において、
図6aは、本願の実施形態に係る3Dマップを符号化するための装置60-1の構造の図である。
図6aに示されたように、符号化装置60-1は、前述の実施形態におけるサーバ又は電子デバイス、特に、3Dマップを圧縮及び伝送する必要があるデバイス、例えば、
図4aに示された実施形態におけるサーバ、又は、
図4dから
図4fに示された実施形態における第1電子デバイスを使用し得る。
【0280】
図5に示された実施形態を参照して、本願のこの実施形態において、符号化装置60-1は、圧縮モジュール61-1及び伝送モジュール62-1を含み、圧縮モジュール61-1は、コンパクト化モジュール611-1及びカプセル化モジュール613-1を含む。詳細は、以下の通りである。
【0281】
コンパクト化モジュール611-1は、入力された第1データに対してコンパクト化を実行し、第1データのコンパクト化されたデータを出力するように構成されており、カプセル化モジュール613-1は、入力された第3データを処理し、3Dマップのビットストリームを出力するように構成されている。
【0282】
第1データは、3Dマップのデータであり、第3データは、第1データのコンパクト化されたデータである。コンパクト化モジュール611-1の入力データは、3Dマップのデータであり、出力データは、コンパクト化によって取得されたコンパクト化されたデータであること;及び、カプセル化モジュール613-1の入力データは、コンパクト化モジュール611-1によって出力されたコンパクト化されたデータであり、カプセル化モジュール613-1の出力は、コンパクト化されたデータに基づいて取得された3Dマップのビットストリームであることが分かり得る。
【0283】
可能な実装において、
図6bは、本願の実施形態に係る3Dマップを符号化するための装置60-2の構造の図である。
図6bに示されたように、符号化装置60-2は、前述の実施形態におけるサーバ又は電子デバイス、特に、3Dマップを圧縮及び伝送する必要があるデバイス、例えば、
図4aに示された実施形態におけるサーバ、又は、
図4dから
図4fに示された実施形態における第1電子デバイスを使用し得る。
【0284】
図5に示された実施形態を参照して、本願のこの実施形態において、符号化装置60-2は、圧縮モジュール61-2及び伝送モジュール62-2を含み、圧縮モジュール61-2は、予測モジュール612-1及びカプセル化モジュール613-2を含む。詳細は、以下の通りである。
【0285】
予測モジュール612-1は、入力された第2データに対して予測を実行し、第2データの残差データを出力するように構成されており、カプセル化モジュール613-2は、入力された第3データを処理し、3Dマップのビットストリームを出力するように構成されている。任意選択的に、予測モジュール612-1はさらに、複数の処理対象の第2データを順序再設定するように構成されている。順序再設定は予測モジュール612-1の任意選択的な機能である、すなわち、予測モジュール612-1は、ランダムにソートされている複数の第2データの各々の第2データに対して予測を直接実行し得る、又は、予測モジュール612-1は、ランダムにソートされている複数の第2データに対してまず順序再設定を実行し、次に、順序再設定の結果に基づいて、複数の第2データの各々の第2データに対して予測を実行し得ることに留意されたい。
【0286】
第2データは3Dマップのデータであり、第3データは第2データの残差データである。予測モジュール612-1の入力データは、3Dマップのデータであり、出力データは、予測によって取得された残差データであること;及び、カプセル化モジュール613-2の入力データは、予測モジュール612-1によって出力された残差データであり、カプセル化モジュール613-2の出力は、残差データに基づいて取得された3Dマップのビットストリームであることが分かり得る。
【0287】
可能な実装において、
図6cは、本願の実施形態に係る3Dマップを符号化するための装置60-3の構造の図である。
図6cに示されたように、符号化装置60-3は、前述の実施形態におけるサーバ又は電子デバイス、特に、3Dマップを圧縮及び伝送する必要があるデバイス、例えば、
図4aに示された実施形態におけるサーバ、又は、
図4dから
図4fに示された実施形態における第1電子デバイスを使用し得る。
【0288】
図5に示された実施形態を参照して、本願のこの実施形態において、符号化装置60-3は、圧縮モジュール61-3及び伝送モジュール62-3を含み、圧縮モジュール61-3は、コンパクト化モジュール611-2、予測モジュール612-2及びカプセル化モジュール613-3を含む。詳細は、以下の通りである。
【0289】
コンパクト化モジュール611-2は、入力された第1データに対してコンパクト化を実行し、第1データのコンパクト化されたデータを出力するように構成されており;予測モジュール612-2は、入力された第2データに対して予測を実行し、第2データの残差データを出力するように構成されており;カプセル化モジュール613-3は、入力された第3データを処理し、3Dマップのビットストリームを出力するように構成されている。
【0290】
第1データは3Dマップのデータであり、第2データは第1データのコンパクト化されたデータであり、第3データは第2データの残差データである。コンパクト化モジュール611-2の入力データは3Dマップのデータであり、出力データはコンパクト化によって取得されたコンパクト化されたデータであること;予測モジュール612-2の入力データはコンパクト化モジュール611-2によって出力されたコンパクト化されたデータであり、出力データは予測によって取得された残差データであること;及び、カプセル化モジュール613-3の入力データは、予測モジュール612-2によって出力された残差データであり、カプセル化モジュール613-3の出力は、残差データに基づいて取得された3Dマップのビットストリームであることが分かり得る。
【0291】
本願のこの実施形態において、
図6a又は
図6cに示された実施形態に基づいて、コンパクト化モジュール611-1/611-2は、量子化モジュール及び/又は二値化モジュールを含み得る。
【0292】
可能な実装において、
図6dは、本願の実施形態に係るコンパクト化モジュール611-1/611-2の構造図である。
図6dに示されたように、コンパクト化モジュール611-1/611-2は、量子化モジュール6111及び/又は二値化モジュール6112を含む。量子化モジュール6111は、入力データに対して量子化を実行し、入力データの量子化データを取得するように構成されており、二値化モジュール6112は、入力データに対して二値化を実行し、入力データのバイナリデータを取得するように構成されている。
【0293】
任意選択的に、コンパクト化モジュール611-1/611-2は、量子化モジュール6111のみを含み得る。この場合、量子化モジュール6111の入力データは、コンパクト化モジュール611-1/611-2の入力データ、例えば、3Dマップのデータであり得る。それに応じて、量子化モジュール6111の出力データ(すなわち、コンパクト化モジュール611-1/611-2の出力データ)は、3Dマップの量子化データである。
【0294】
任意選択的に、コンパクト化モジュール611-1/611-2は、二値化モジュール6112のみを含み得る。この場合、二値化モジュール6112の入力データは、コンパクト化モジュール611-1/611-2の入力データ、例えば、3Dマップのデータであり得る。それに応じて、二値化モジュール6112の出力データ(すなわち、コンパクト化モジュール611-1/611-2の出力データ)は、3Dマップのバイナリデータである。
【0295】
任意選択的に、コンパクト化モジュール611-1/611-2は、量子化モジュール6111、及び二値化モジュール6112を含む。この場合、量子化モジュール6111の入力データは、コンパクト化モジュール611-1/611-2の入力データ、例えば、3Dマップのデータであり得る。二値化モジュール6112の入力データは、コンパクト化モジュール611-1/611-2の入力データでもあり得、この場合、コンパクト化モジュール611-1/611-2の出力データは、3Dマップの量子化データ及びバイナリデータを含む。代替的に、量子化モジュール6111の入力データは、コンパクト化モジュール611-1/611-2の入力データ、例えば、3Dマップのデータであり得る。二値化モジュール6112の入力データは、量子化モジュール6111の出力データ、すなわち、3Dマップの量子化データであり得る。この場合、コンパクト化モジュール611-1/611-2の出力データは、3Dマップのバイナリデータである。
【0296】
3Dマップのデータの前述の説明によると、3Dマップのデータは、複数の領域記述子、及び複数の3Dマップポイントのデータを含み得る。従って、
図6aから
図6dに示された実施形態において、圧縮モジュールにおけるカプセル化モジュールとは異なる別のモジュールは、領域記述子を処理するように構成された第1モジュール、及び3Dマップポイントのデータを処理するように構成された第2モジュールに分割され得る。例えば、コンパクト化モジュールは、第1コンパクト化モジュール及び第2コンパクト化モジュールを含み得、予測モジュールは、第1予測モジュール及び第2予測モジュールを含み得、量子化モジュールは、第1量子化モジュール及び第2量子化モジュールを含み得、二値化モジュールは、第1二値化モジュール及び第2二値化モジュールを含み得る。前述の実施形態からの区分の後に取得された第1モジュール及び第2モジュールの相違点は、第1モジュールの入力データ及び第2モジュールの入力データがそれぞれ、領域記述子、及び3Dマップポイントのデータに対応するという点にある。
【0297】
図6eは、本願の実施形態に係る3Dマップを符号化するための装置60-4の構造の図である。
図6eに示されたように、符号化装置60-4は、前述の実施形態におけるサーバ又は電子デバイス、特に、3Dマップを圧縮及び伝送する必要があるデバイス、例えば、
図4aに示された実施形態におけるサーバ、又は、
図4dから
図4fに示された実施形態における第1電子デバイスを使用し得る。
【0298】
図6cに示された実施形態を参照して、本願のこの実施形態において、符号化装置60-4は、圧縮モジュール61-4及び伝送モジュール62-4を含み、圧縮モジュール61-4はコンパクト化モジュール611-3、予測モジュール612-3及びカプセル化モジュール613-4を含む。コンパクト化モジュール611-3は、第1量子化モジュール6111a、第1二値化モジュール6112a、第2量子化モジュール6111b及び第2二値化モジュール6112bを含む。予測モジュール612-3は、第1予測モジュール612a及び第2予測モジュール612bを含み、第1予測モジュール612a及び第2予測モジュール612bはさらに、順序再設定機能を実装するように構成され得る。
【0299】
第1量子化モジュール6111aの入力データは領域記述子であり、出力データは領域記述子の量子化データである。第1二値化モジュール6112aの入力データは領域記述子であり、出力データは領域記述子のバイナリデータである。第1予測モジュール612aの入力データは、領域記述子の量子化データ及び領域記述子のバイナリデータを含み、出力データは領域記述子の残差データである。第2量子化モジュール6111bの入力データは、3Dマップポイントのデータであり、出力データは3Dマップポイントの量子化データである。第2二値化モジュール6112bの入力データは、3Dマップポイントのデータであり、出力データは3Dマップポイントのバイナリデータである。第2予測モジュール612bの入力データは、3Dマップポイントの量子化データ及び3Dマップポイントのバイナリデータを含み、出力データは3Dマップポイントの残差データである。
【0300】
これに基づいて、カプセル化モジュール613-4の入力データは領域記述子の残差データ及び3Dマップポイントの残差データを含み、カプセル化モジュール613-4は、領域記述子の残差データ及び3Dマップポイントの残差データに対して別々にカプセル化を実行し、3Dマップのビットストリームを取得する。
【0301】
伝送モジュール62-4は、3Dマップのビットストリームを伝送するように構成されている。
【0302】
図6eは、3Dマップを符号化するための装置の例示的な構造を示しており、当該構造は、3Dマップのデータに含まれた内容に基づいて取得された構造であることに留意されたい。しかしながら、構造は、符号化装置に対して限定を構成するものではない。符号化装置は、
図6eに示された実施形態におけるそれらより多様なモジュールを含み得る。例えば、
図6a又は
図6bに示された実施形態を参照して、別の構造が3Dマップのデータに含まれた内容に基づいて取得される。
図6dに示された実施形態において、量子化モジュール及び二値化モジュールは、「及び/又は」関係にある、すなわち、圧縮モジュールは量子化モジュール又は二値化モジュールのいずれかを含み得る、又は、量子化モジュール及び二値化モジュールの両方を含み得る。第1モジュール及び第2モジュールの間に区別が成されたとき、処理方法は、領域記述子の処理のためのモジュール及び3Dマップポイントのデータの処理のためのモジュールに対して独立して設定され得、完全に一致する必要はない。例えば、領域記述子は、第1量子化モジュール、第1二値化モジュール及び第1予測モジュールを使用することによって処理され得、3Dマップポイントのデータは、第2量子化モジュール及び第2予測モジュールを使用することによって処理され得る。
図6aから
図6cに示された実施形態において、コンパクト化モジュール及び予測モジュールは「及び/又は」関係にある、すなわち、圧縮モジュールは、コンパクト化モジュール又は予測モジュールのいずれかを含み得、又は、コンパクト化モジュール及び予測モジュールの両方を含み得る。第1モジュール及び第2モジュールの間に区別が成されたとき、処理方法は、領域記述子の処理のためのモジュール及び3Dマップポイントのデータの処理のためのモジュールに対して独立して設定され得、完全に一致する必要はない。例えば、領域記述子は、第1コンパクト化モジュールを使用することによって処理され得、3Dマップポイントのデータは、第2予測モジュールを使用することによって処理され得る。圧縮モジュールの具体的な実装は、本願において具体的に限定されるものではない。
【0303】
3Dマップのデータの前述の説明によると、3Dマップのデータは、複数の領域記述子及び複数の3Dマップポイント記述子、及び複数の3Dマップポイント空間位置を含み得る。従って、
図6aから
図6dに示された実施形態において、圧縮モジュールにおけるカプセル化モジュールとは異なる別のモジュールは、領域記述子を処理するように構成された第1モジュール、3Dマップポイント記述子を処理するように構成された第2モジュール、及び3Dマップポイント空間位置を処理するように構成された第3モジュールに分割され得る。例えば、コンパクト化モジュールは、第1コンパクト化モジュール、第2コンパクト化モジュール及び第3コンパクト化モジュールを含み得る。予測モジュールは、第1予測モジュール、第2予測モジュール及び第3予測モジュールを含み得る。量子化モジュールは、第1量子化モジュール、第2量子化モジュール及び第3量子化モジュールを含み得る。二値化モジュールは、第1二値化モジュール、第2二値化モジュール及び第3二値化モジュールを含み得る。前述の実施形態からの区分の後に取得された第1モジュール、第2モジュール及び第3モジュールの相違点は、第1モジュールの入力データ、第2モジュールの入力データ及び第3モジュールの入力データがそれぞれ、領域記述子、3Dマップポイント記述子及び3Dマップポイント空間位置に対応するという点にある。
【0304】
図6fは、本願の実施形態に係る3Dマップを符号化するための装置60-5の構造の図である。
図6fに示されたように、符号化装置60-5は、前述の実施形態におけるサーバ又は電子デバイス、特に、3Dマップを圧縮及び伝送する必要があるデバイス、例えば、
図4aに示された実施形態におけるサーバ、又は、
図4dから
図4fに示された実施形態における第1電子デバイスを使用し得る。
【0305】
図6cに示された実施形態を参照して、本願のこの実施形態において、符号化装置60-5は、圧縮モジュール61-5及び伝送モジュール62-5を含み、圧縮モジュール61-5はコンパクト化モジュール611-4、予測モジュール612-4及びカプセル化モジュール613-5を含む。コンパクト化モジュール611-4は、第1量子化モジュール6111a、第1二値化モジュール6112a、第2量子化モジュール6111b、第2二値化モジュール6112b、第3量子化モジュール6111c及び第3二値化モジュール6112cを含む。予測モジュール612-4は、第1予測モジュール612a、第2予測モジュール612b及び第3予測モジュール612cを含む。第1予測モジュール612a、第2予測モジュール612b及び第3予測モジュール612cはさらに、順序再設定機能を実装するように構成され得る。
【0306】
第1量子化モジュール6111aの入力データは領域記述子であり、出力データは領域記述子の量子化データである。第1二値化モジュール6112aの入力データは領域記述子であり、出力データは領域記述子のバイナリデータである。第1予測モジュール612aの入力データは、領域記述子の量子化データ及び領域記述子のバイナリデータを含み、出力データは領域記述子の残差データである。第2量子化モジュール6111bの入力データは3Dマップポイント記述子であり、出力データは3Dマップポイント記述子の量子化データである。第2二値化モジュール6112bの入力データは3Dマップポイント記述子であり、出力データは3Dマップポイント記述子のバイナリデータである。第2予測モジュール612bの入力データは、3Dマップポイント記述子お量子化データ及び3Dマップポイント記述子のバイナリデータを含み、出力データは3Dマップポイント記述子の残差データである。第3量子化モジュール6111cの入力データは3Dマップポイント空間位置であり、出力データは3Dマップポイント空間位置の量子化データである。第3二値化モジュール6112bの入力データは3Dマップポイント空間位置であり、出力データは3Dマップポイント空間位置のバイナリデータである。第3予測モジュール612bの入力データは、3Dマップポイント空間位置の量子化データ及び3Dマップポイント空間位置のバイナリデータを含み、出力データは3Dマップポイント空間位置の残差データである。
【0307】
これに基づいて、カプセル化モジュール613-5の入力データは、領域記述子の残差データ、3Dマップポイント記述子の残差データ、及び3Dマップポイント空間位置の残差データを含む。カプセル化モジュール613-5は、領域記述子の残差データ、3Dマップポイント記述子の残差データ、及び3Dマップポイント空間位置の残差データに対してカプセル化を別々に実行し、3Dマップのビットストリームを取得する。
【0308】
伝送モジュール62-5は、3Dマップのビットストリームを伝送するように構成されている。
【0309】
図6fは、3Dマップを符号化するための装置60の例示的な構造を示しており、当該構造は、3Dマップのデータに含まれた内容に基づいて取得された構造であることに留意されたい。しかしながら、構造は、符号化装置60に対して限定を構成するものではない。符号化装置60は、
図6fに示された実施形態におけるそれらより多様なモジュールを含み得る。例えば、
図6a又は
図6bに示された実施形態を参照して、別の構造が3Dマップのデータに含まれた内容に基づいて取得される。
図6dに示された実施形態において、量子化モジュール及び二値化モジュールは、「及び/又は」関係にある、すなわち、圧縮モジュールは量子化モジュール又は二値化モジュールのいずれかを含み得る、又は、量子化モジュール及び二値化モジュールの両方を含み得る。第1モジュール、第2モジュール及び第3モジュールの間に区別が成されたとき、処理方法は、領域記述子を処理するためのモジュール、3Dマップポイント記述子を処理するためのモジュール、及び3Dマップポイント空間位置を処理するためのモジュールを独立して設定し得、完全に一致する必要はない。
図6aから
図6cに示された実施形態において、コンパクト化モジュール及び予測モジュールは「及び/又は」関係にある、すなわち、圧縮モジュールは、コンパクト化モジュール又は予測モジュールのいずれかを含み得、又は、コンパクト化モジュール及び予測モジュールの両方を含み得る。第1モジュール、第2モジュール及び第3モジュールの間に区別が成されたとき、処理方法は、領域記述子を処理するためのモジュール、3Dマップポイント記述子を処理するためのモジュール、及び3Dマップポイント空間位置を処理するためのモジュールを独立して設定し得、完全に一致する必要はない。
【0310】
3Dマップのデータの前述の説明によると、3Dマップのデータは、複数の領域記述子、及び複数の3Dマップポイントのデータを含み得る。
【0311】
可能な実装において、
図7aは、本願の実施形態に係る3Dマップを符号化するための装置70-1の構造の図である。
図7aに示されたように、符号化装置70-1は、前述の実施形態におけるサーバ又は電子デバイス、特に、3Dマップを圧縮及び伝送する必要があるデバイス、例えば、
図4aに示された実施形態におけるサーバ、又は、
図4dから
図4fに示された実施形態における第1電子デバイスを使用し得る。
【0312】
図5に示された実施形態を参照して、本願のこの実施形態において、符号化装置70-1は、圧縮モジュール71-1及び伝送モジュール72-1を含み、圧縮モジュール71-1は、第1圧縮サブモジュール711-1及び第2圧縮サブモジュール712-1を含む。詳細は、以下の通りである。
【0313】
第1圧縮サブモジュール711-1は、入力された第21データに対して圧縮を実行し、第21データのビットストリームを出力するように構成されている。第2圧縮サブモジュール712-1は、入力された第22データに対して圧縮を実行し、第22データのビットストリームを出力するように構成されている。
【0314】
第21データは、複数の領域記述子のうち1つであり、第22データは、複数の3Dマップポイントのうち1つのデータである。第1圧縮サブモジュール711-1の入力データは領域記述子であり、出力データは領域記述子のビットストリームであることが分かり得る。第2圧縮サブモジュール712-1の入力データは3Dマップポイントのデータであり、出力データは3Dマップポイントのビットストリームである。3Dマップのビットストリームは、複数の領域記述子のビットストリーム及び複数の3Dマップポイントのビットストリームを含む。
【0315】
第1圧縮サブモジュール711-1及び第2圧縮サブモジュール712-1については、
図6aから
図6fに示された実施形態における圧縮モジュールの構造を参照されたい。第1圧縮サブモジュール711-1及び第2圧縮サブモジュール712-1は互いに独立しており、同じ構造を使用してもよく、又は異なる構造を使用してもよいことに留意されたい。すなわち、領域記述子を処理するように構成された第1圧縮サブモジュール711-1、及び、3Dマップポイントのデータを処理するように構成された第2圧縮サブモジュール712-1は、同じ構造であってもよく、又は異なる構造であってもよい。それに応じて、領域記述子に対して実行された圧縮の段階も、3Dマップポイントのデータに対して実行された圧縮の段階と同一であってもよく、又はそれとは異なってもよい。
【0316】
例えば、第1圧縮サブモジュールは、第1コンパクト化モジュール及び第1カプセル化モジュールを含む。このように、領域記述子が第1圧縮サブモジュールに入力された後、第1コンパクト化モジュールはまず、領域記述子を処理し、領域記述子のコンパクト化されたデータを取得し、次に、第1カプセル化モジュールは、コンパクト化されたデータを処理し、領域記述子のビットストリームを取得する。第2圧縮サブモジュールは、第2コンパクト化モジュール、第2予測モジュール及び第2カプセル化モジュールを含む。このように、3Dマップポイントのデータが第2圧縮サブモジュールに入力された後、第2コンパクト化モジュールはまず、3Dマップポイントのデータを処理し、3Dマップポイントのコンパクト化されたデータを取得し、次に、第2予測モジュールは、コンパクト化されたデータを処理し、3Dマップポイントの残差データを取得し、次に、第2カプセル化モジュールは、残差データを処理し、3Dマップポイントのビットストリームを取得する。
【0317】
別の例の場合、第1圧縮サブモジュールは、第1量子化モジュール、第1二値化モジュール、第1予測モジュール及び第1カプセル化モジュールを含む。このように、領域記述子が第1圧縮サブモジュールに入力された後、第1量子化モジュールは、領域記述子を処理し、領域記述子の量子化データを取得し、第1二値化モジュールは、領域記述子を処理し、領域記述子のバイナリデータを取得し、次に、第1予測モジュールは、量子化データ及びバイナリデータを処理し、領域記述子の残差データを取得し、次に、第1カプセル化モジュールは、残差データを処理し、領域記述子のビットストリームを取得する。第2圧縮サブモジュールは、第2量子化モジュール、第2予測モジュール及び第2カプセル化モジュールを含む。このように、3Dマップポイントのデータが第2圧縮サブモジュールに入力された後、第2量子化モジュールはまず、3Dマップポイントのデータを処理し、3Dマップポイントの量子化データを取得し、次に、第2予測モジュールは、量子化データを処理し、3Dマップポイントの残差データを取得し、次に、第2カプセル化モジュールは、残差データを処理し、3Dマップポイントのビットストリームを取得する。
【0318】
第1圧縮サブモジュール及び第2圧縮サブモジュールの構造は、一例として上述されていることを理解されたい。しかしながら、これは、第1圧縮サブモジュール及び第2圧縮サブモジュールの構造に対して限定を構成するものではない。2つのサブモジュールは、例におけるそれらより多くの又はより少ないモジュールを含み得る。詳細については、
図6aから
図6fに示された実施形態における圧縮モジュールの構造を参照されたい。これは、具体的には、本願の実施形態において限定されない。
【0319】
可能な実装において、
図7bは、本願の実施形態に係る3Dマップを符号化するための装置70-2の構造の図である。
図7bに示されたように、符号化装置70-2は、前述の実施形態におけるサーバ又は電子デバイス、特に、3Dマップを圧縮及び伝送する必要があるデバイス、例えば、
図4aに示された実施形態におけるサーバ、又は、
図4dから
図4fに示された実施形態における第1電子デバイスを使用し得る。
【0320】
図7aに示された実施形態を参照して、本願のこの実施形態において、符号化装置70-2は、圧縮モジュール71-2及び伝送モジュール72-2を含む。圧縮モジュール71-2は、第1圧縮サブモジュール711-2及び第2圧縮サブモジュール712-2を含む。第1圧縮サブモジュール711-2は、第1量子化モジュール7111、第1二値化モジュール7112、第1予測モジュール7113及び第1カプセル化モジュール7114を含む。第2圧縮サブモジュール712-2は、第2量子化モジュール7121、第2二値化モジュール7122、第2予測モジュール7123及び第2カプセル化モジュール7124を含む。詳細は、以下の通りである。
【0321】
第1量子化モジュール7111は、入力領域記述子に対して量子化を実行し、領域記述子の量子化データを取得するように構成されている。第1二値化モジュール7112は、入力された量子化データに対して二値化を実行し、領域記述子のバイナリデータを取得するように構成されている。第1予測モジュール7113は、入力されたバイナリデータに対して予測を実行し、領域記述子の残差データを取得するように構成されている。第1カプセル化モジュール7114は、入力された残差データをカプセル化し、領域記述子のビットストリームを取得するように構成されている。第2量子化モジュール7121は、3Dマップポイントの入力データに対して量子化を実行し、3Dマップポイントの量子化データを取得するように構成されている。第2二値化モジュール7122は、入力された量子化データに対して二値化を実行し、3Dマップポイントのバイナリデータを取得するように構成されている。第2予測モジュール7123は、入力されたバイナリデータに対して予測を実行し、3Dマップポイントの残差データを取得するように構成されている。第2カプセル化モジュール7124は、入力された残差データをカプセル化し、3Dマップポイントのビットストリームを取得するように構成されている。
【0322】
第1圧縮サブモジュール及び第2圧縮サブモジュールの構造は、
図7bに示された実施形態において一例として説明されていることを理解されたい。しかしながら、これは、第1圧縮サブモジュール及び第2圧縮サブモジュールの構造に対して限定を構成するものではない。2つのサブモジュールは、例におけるそれらより多くの又はより少ないモジュールを含み得る。詳細については、
図6aから
図6fに示された実施形態における圧縮モジュール61の構造を参照されたい。これは、具体的には、本願の実施形態において限定されない。
【0323】
3Dマップのデータの前述の説明によると、3Dマップのデータは、複数の領域記述子、複数の3Dマップポイント記述子及び空間位置を含み得る。
【0324】
可能な実装において、
図8aは、本願の実施形態に係る3Dマップを符号化するための装置80-1の構造の図である。
図8aに示されたように、符号化装置80-1は、前述の実施形態におけるサーバ又は電子デバイス、特に、3Dマップを圧縮及び伝送する必要があるデバイス、例えば、
図4aに示された実施形態におけるサーバ、又は、
図4dから
図4fに示された実施形態における第1電子デバイスを使用し得る。
【0325】
図5に示された実施形態を参照して、本願のこの実施形態において、符号化装置80-1は、圧縮モジュール81-1及び伝送モジュール82-1を含む。圧縮モジュール81-1は、第1圧縮サブモジュール811-1、第2圧縮サブモジュール812-1及び第3圧縮サブモジュール813-1を含む。詳細は、以下の通りである。
【0326】
第1圧縮サブモジュール811-1は、入力された第29データを圧縮して第29データのビットストリームを出力するように構成されている。第2圧縮サブモジュール812-1は、入力された第30データを圧縮して第30データのビットストリームを出力するように構成されている。第3圧縮サブモジュール813-1は、入力された第31データを圧縮して第31データのビットストリームを出力するように構成されている。
【0327】
第29データは、複数の領域記述子のうち1つであり、第30データは、複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、第31データは、複数の3Dマップポイントのうち1つの空間位置である。第1圧縮サブモジュール811-1の入力データは領域記述子であり、出力データは領域記述子のビットストリームであること;第2圧縮サブモジュール812-1の入力データは3Dマップポイント記述子であり、出力データは3Dマップポイント記述子のビットストリームであること;及び、第3圧縮サブモジュール813-1の入力データは3Dマップポイント空間位置であり、出力データは3Dマップポイント空間位置のビットストリームであることが分かり得る。3Dマップのビットストリームは、複数の領域記述子のビットストリーム、複数の3Dマップポイント記述子のビットストリーム、及び複数の3Dマップポイント空間位置のビットストリームを含む。
【0328】
可能な実装において、
図8bは、本願の実施形態に係る3Dマップを符号化するための装置80-2の構造の図である。
図8bに示されたように、符号化装置80-2は、前述の実施形態におけるサーバ又は電子デバイス、特に、3Dマップを圧縮及び伝送する必要があるデバイス、例えば、
図4aに示された実施形態におけるサーバ、又は、
図4dから
図4fに示された実施形態における第1電子デバイスを使用し得る。
【0329】
図8aに示された実施形態を参照して、本願のこの実施形態において、符号化装置80-2は、圧縮モジュール81-2及び伝送モジュール82-2を含む。圧縮モジュール81-2は、第1圧縮サブモジュール811-2、第2圧縮サブモジュール812-2及び第3圧縮サブモジュール813-2を含む。第1圧縮サブモジュール811-2は、第1量子化モジュール8111、第1二値化モジュール8112、第1予測モジュール8113及び第1カプセル化モジュール8114を含む。第2圧縮サブモジュール812-2は、第2量子化モジュール8121、第2二値化モジュール8122、第2予測モジュール8123及び第2カプセル化モジュール8124を含む。第3圧縮サブモジュール813-2は、第3量子化モジュール8131、第3二値化モジュール8132、第3予測モジュール8133及び第3カプセル化モジュール8134を含む。詳細は、以下の通りである。
【0330】
第1量子化モジュール8111は、入力領域記述子に対して量子化を実行し、領域記述子の量子化データを取得するように構成されている。第1二値化モジュール8112は、入力された量子化データに対して二値化を実行し、領域記述子のバイナリデータを取得するように構成されている。第1予測モジュール8113は、入力されたバイナリデータに対して予測を実行し、領域記述子の残差データを取得するように構成されている。第1カプセル化モジュール8114は、入力された残差データをカプセル化し、領域記述子のビットストリームを取得するように構成されている。第2量子化モジュール8121は、入力された3Dマップポイント記述子に対して量子化を実行し、3Dマップポイント記述子の量子化データを取得するように構成されている。第2二値化モジュール8122は、入力された量子化データに対して二値化を実行し、3Dマップポイント記述子のバイナリデータを取得するように構成されている。第2予測モジュール8123は、入力されたバイナリデータに対して予測を実行し、3Dマップポイント記述子の残差データを取得するように構成されている。第2カプセル化モジュール8124は、入力された残差データをカプセル化し、3Dマップポイント記述子のビットストリームを取得するように構成されている。第3量子化モジュール8131は、入力された3Dマップポイント空間位置に対して量子化を実行し、3Dマップポイント空間位置の量子化データを取得するように構成されている。第3二値化モジュール8132は、入力された量子化データに対して二値化を実行し、3Dマップポイント空間位置のバイナリデータを取得するように構成されている。第3予測モジュール8133は、入力されたバイナリデータに対して予測を実行し、3Dマップポイント空間位置の残差データを取得するように構成されている。第3カプセル化モジュール8134は、入力された残差データをカプセル化し、3Dマップポイント空間位置のビットストリームを取得するように構成されている。
【0331】
第1圧縮サブモジュール、第2圧縮サブモジュール及び第3圧縮サブモジュールの構造は、
図8bに示された実施形態において一例として説明されていることを理解されたい。しかしながら、これは、第1圧縮サブモジュール、第2圧縮サブモジュール及び第3圧縮サブモジュールの構造に対して限定を構成するものではない。3つのサブモジュールは、例におけるそれらより多くの又はより少ないモジュールを含み得る。詳細については、
図6aから
図6fに示された実施形態における圧縮モジュール61の構造を参照されたい。これは、具体的には、本願の実施形態において限定されない。
【0332】
本願のこの実施形態において、順序再設定機能が前述の予測モジュールにおいて実装され得、すなわち、複数の処理対象データが予測前に順序再設定され得、隣接した処理対象データ間の相関関係を向上させ、それにより、残差データのデータ量をさらに低減する。処理対象データは、領域記述子、3Dマップポイントのデータ、3Dマップポイント記述子、又は3Dマップポイント空間位置のうちの少なくとも1つを含む。
【0333】
図9は、本願の実施形態に係る3Dマップを符号化するための方法のプロセス900のフローチャートである。
図9に示されたように、処理900は、前述の実施形態における符号化装置によって実行され得る。処理900は、一連の段階又は操作として説明される。処理900の段階又は操作は、様々なシーケンスで及び/又は同時に実行され得、
図9に示された実行シーケンスに限定されないことを理解されたい。3Dマップのデータが符号化装置において圧縮され、3Dマップのビットストリームを取得し、次に、3Dマップのビットストリームが符号化装置によって伝送され、以下の段階を含む処理900が実行され、現在処理中の3Dマップのデータを処理すると想定する。
【0334】
段階901:3Dマップのデータを圧縮して3Dマップのビットストリームを取得する。
【0335】
3Dマップ及び3Dマップのデータについては、前述の説明を参照されたい。詳細は、本明細書において再度説明されない。
【0336】
本願のこの実施形態において、3Dマップに対して実行された圧縮は、コンパクト化及び/又は予測、及びカプセル化を含み得、コンパクト化は、量子化及び/又は二値化を含み得る。前述の処理については、前述の実施形態における説明を参照されたい。詳細は、本明細書において再度説明されない。
【0337】
段階902:3Dマップのビットストリームを伝送する。
【0338】
符号化装置は、通信リンクを使用することによって、3Dマップのビットストリームを外部に伝送し得る。
【0339】
図10は、本願の実施形態に係る3Dマップを符号化するための装置100の構造の図である。
図10に示されたように、符号化装置100は、前述の実施形態におけるサーバ又は電子デバイス、特に、3Dマップを圧縮及び記憶する必要があるデバイス、例えば、
図4bに示された実施形態におけるサーバ、又は、
図4cに示された実施形態における電子デバイスにおいて使用され得る。
【0340】
本願のこの実施形態における3Dマップを符号化するための装置100は、エンコーダ101及びメモリ102を含む。コンプレッサ101は、3Dマップのデータを圧縮して、圧縮によって取得され且つビットストリーム形態の3Dマップを取得するように構成されており、ここで、3Dマップは、複数の3Dマップポイントを含み、3Dマップのデータは、複数の3Dマップポイントのデータを含む。メモリ101は、圧縮によって取得され且つビットストリーム形態の3Dマップを記憶するように構成されている。コンプレッサ101の入力データは3Dマップのデータであり、出力データは圧縮によって取得され且つビットストリーム形態の3Dマップであり、メモリ101の入力データは圧縮によって取得され且つコンプレッサ101によって出力され且つビットストリーム形態の3Dマップであることが分かり得る。
【0341】
コンプレッサ101は、3Dマップのデータに対して圧縮を実行し、3Dマップのデータ量を低減し得る。3Dマップが記憶される必要があるシナリオにおいて、3Dマップの元のデータを記憶する代わりに3Dマップの圧縮データを記憶することで、3Dマップのデータのストレージによって占有される空間を低減し得る。
【0342】
本願のこの実施形態において、コンプレッサ101については、
図5から
図8bに示された実施形態における圧縮モジュールを参照されたい。相違点は、コンプレッサがカプセル化モジュールを含まないことにある。
【0343】
実装のプロセスにおいて、前述の方法の実施形態における段階は、プロセッサ内のハードウェアの形態の集積論理回路によって又はソフトウェアの形態の命令によって完了し得る。プロセッサは、汎用プロセッサ、デジタル信号プロセッサ(digital signal processor,DSP)、特定用途向け集積回路(application-specific integrated circuit,ASIC)、フィールドプログラマブルゲートアレイ(field programmable gate array,FPGA)若しくは別のプログラム可能な論理デバイス、ディスクリートゲート若しくはトランジスタ論理デバイス、又はディスクリートハードウェアコンポーネントであってもよい。汎用プロセッサは、マイクロプロセッサであってよく、又は、プロセッサは、任意の従来のプロセッサ等であってよい。本願の実施形態において開示された方法の段階は、ハードウェア符号化プロセッサによって実行及び完了されるものとして直接提示されても、又は、符号化プロセッサ内のハードウェア及びソフトウェアモジュールの組み合わせによって実行及び完了されてもよい。ソフトウェアモジュールは、当技術分野の成熟した記憶媒体、例えば、ランダムアクセスメモリ、フラッシュメモリ、リードオンリメモリ、プログラマブルリードオンリメモリ、電気的消去可能プログラマブルメモリ、又はレジスタに位置付けされてよい。記憶媒体は、メモリ内に位置付けされている。プロセッサは、メモリ内の情報を読み出し、プロセッサのハードウェアとの組み合わせで、前述の方法の段階を完了する。
【0344】
前述の実施形態において言及されたメモリは、揮発性メモリ又は不揮発性メモリであってもよく、又は、揮発性メモリ及び不揮発性メモリの両方を含んでもよい。不揮発性メモリは、リードオンリメモリ(read-only memory,ROM)、プログラマブルリードオンリメモリ(programmable ROM,PROM)、消去可能プログラマブルリードオンリメモリ(erasable PROM,EPROM)、電気的消去可能プログラマブルリードオンリメモリ(electrically EPROM:EEPROM)、又はフラッシュメモリであり得る。揮発性メモリは、外部バッファとして使用されるランダムアクセスメモリ(random access memory,RAM)であってよい。限定的な説明ではなく例を通じて、多くの形式のRAMが用いられてよく、例えば、スタティックランダムアクセスメモリ(static RAM,SRAM)、ダイナミックランダムアクセスメモリ(dynamic RAM,DRAM)、シンクロナスダイナミックランダムアクセスメモリ(synchronous DRAM,SDRAM)、ダブルデータレートシンクロナスダイナミックランダムアクセスメモリ(double data rate SDRAM,DDR SDRAM)、拡張型シンクロナスダイナミックランダムアクセスメモリ(enhanced SDRAM,ESDRAM)、シンクロナスリンクダイナミックランダムアクセスメモリ(synchlink DRAM,SLDRAM)、及びダイレクトランバスダイナミックランダムアクセスメモリ(direct rambus RAM,DR RAM)である。本明細書に説明されたシステム及び方法におけるメモリは、限定されないが、これら及び別の適切なタイプの任意のメモリを含むことに留意されたい。
【0345】
当業者であれば、本明細書で開示した実施形態で説明した例と組み合わせて、ユニット及びアルゴリズム段階が電子ハードウェア、又はコンピュータソフトウェア及び電子ハードウェアの組み合わせにより実装され得ることを認識するであろう。これらの機能がハードウェア又はソフトウェアのどちらで実行されるかは、技術的解決手段の特定の用途及び設計上の制約で決まる。当業者であれば、説明された機能を特定の応用ごとに実装するのに異なる方法を用い得るが、当該実装が本願の範囲を超えるとみなされるべきではない。
【0346】
簡便で簡単な説明を目的として、前述のシステム、装置、及びユニットの詳細な動作処理について、前述の方法の実施形態における対応する処理を参照することが、当業者によって明確に理解され得る。詳細は、本明細書において再度説明されない。
【0347】
本願で提供されたいくつかの実施形態では、開示されたシステム、装置、及び方法が他の方式で実装されてよいことを理解されたい。例えば、前述の装置の実施形態は単に例である。例えば、ユニットの分割は単なる論理的な機能分割に過ぎず、実際の実装中は他の分割であってもよい。例えば、複数のユニット又はコンポーネントが、別のシステムへ組み合わされ、又は統合されてよく、又は、一部の機能が、無視されてよく、又は実行されなくてよい。加えて、表示又は論述されている相互結合又は直接結合又は通信接続は、いくつかのインタフェースを使用することによって実装されてよい。装置間又はユニット間の間接結合又は通信接続は、電子的形態、機械的形態又は別の形態で実装されてよい。
【0348】
別個の部分として説明されたユニットは、物理的に別個であってもそうでなくてもよく、ユニットとして表示された部分は、物理的ユニットであってもそうでなくてもよく、1箇所に位置していても複数のネットワークユニット上に分散していてもよい。これらのユニットのうちのいくつか又は全ては、実施形態における解決手段の目的を実現するために、実際の要件に応じて選択され得る。
【0349】
加えて、本願の実施形態における機能ユニットが1つの処理ユニットに統合されてもよく、ユニットのそれぞれが物理的に孤立して存在してもよく、2又はそれより多くのユニットが1つのユニットに統合される。
【0350】
これらの機能がソフトウェア機能ユニットの形式で実装され、且つ、独立した製品として販売又は使用されるときは、当該機能がコンピュータ可読記憶媒体に格納されてよい。そのような理解に基づいて、本願の技術的解決手段は本質的に、又は、従来の技術に寄与する部分、又は、技術的解決手段の一部が、ソフトウェア製品の形態で実装され得る。コンピュータソフトウェア製品は記憶媒体に記憶され、コンピュータデバイス(パーソナルコンピュータ、サーバ、又はネットワークデバイスなど)に、本願の実施形態において説明された方法の段階の全て又はいくつかを実行するように命令するためのいくつかの命令を含む。記憶媒体には、プログラムコードを格納できる任意の媒体、例えば、USBフラッシュドライブ、リムーバブルハードディスク、リードオンリメモリ(read-only memory,ROM)、ランダムアクセスメモリ(random access memory,RAM)、磁気ディスク、又は光ディスクなどが含まれる。
【0351】
前述の説明は単に、本願の特定の実装に過ぎず、本願の保護範囲はこれに限定されるものではない。本願で開示された技術的範囲内で当業者が容易に想到する任意の変形又は置換は、本願の保護範囲に含まれるものとする。従って、本願の保護範囲は、特許請求の範囲の保護範囲に従うものとする。
【手続補正書】
【提出日】2024-01-12
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
符号化装置及び復号装置を備える3Dマップのためのコーデックシステムであって、前記符号化装置は、前記復号装置に通信可能に接続されており;
前記符号化装置は:3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得すること、及び、前記3Dマップの前記ビットストリームを前記復号装置に送信することを行うように構成されており、ここで、前記3Dマップは、複数の3Dマップポイントを含み、前記3Dマップの前記データは、前記複数の3Dマップポイントのデータを含み;
前記復号装置は:前記3Dマップの前記ビットストリームを受信すること、及び、前記3Dマップの前記ビットストリームを圧縮解除して前記3Dマップの再構築データを取得することを行うように構成されている
システム。
【請求項2】
前記符号化装置はクラウドサーバであり、前記復号装置は電子デバイスである;又は、前記符号化装置は第1電子デバイスであり、前記復号装置は第2電子デバイスであり;
前記復号装置はさらに、3Dマップダウンロード要求
を符号化装置に送信するように構成されており、ここで、前記3Dマップダウンロード要求は位置指示情報を含み;
前記符号化装置はさらに、前記3Dマップダウンロード要求を受信すること、及び、前記3Dマップダウンロード要求に従って前記復号装置に、前記3Dマップの、前記位置指示情報に対応するビットストリームを送信するように構成されている、請求項1に記載のシステム。
【請求項3】
前記符号化装置は電子デバイスであり、前記復号装置はクラウドサーバであり;
前記符号
化装置は、前記3Dマップが作成された後、前記3Dマップの前記ビットストリームを前記復号装置に送信するように具体的に構成されている、請求項1又は2に記載のシステム。
【請求項4】
前記3Dマップの前記データはさらに、複数の領域記述子を含み、前記複数の領域記述子のいずれか1つは、前記複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する、請求項1から3のいずれか一項に記載のシステム。
【請求項5】
前記複数の3Dマップポイントのいずれか1つのデータは、3Dマップポイント記述子及び3Dマップポイント空間位置を含む、請求項1又は4に記載のシステム。
【請求項6】
前記符号化装置はさらに、前記3Dマップを作成するように構成されている、請求項1から5のいずれか一項に記載のシステム。
【請求項7】
前記復号装置はさらに、前記3Dマップに基づいて測位を実行するように構成されている、請求項1から6のいずれか一項に記載のシステム。
【請求項8】
圧縮モジュール及び伝送モジュールを備える3Dマップを符号化するための装置であって、
前記圧縮モジュールは、3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得するように構成されており、ここで、前記3Dマップは、複数の3Dマップポイントを含み、前記3Dマップの前記データは、前記複数の3Dマップポイントのデータを含み;
前記伝送モジュールは、前記3Dマップの前記ビットストリームを伝送するように構成されている、装置。
【請求項9】
前記3Dマップの前記データはさらに、複数の領域記述子を含み、前記複数の領域記述子のいずれか1つは、前記複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する、請求項8に記載の装置。
【請求項10】
前記複数の3Dマップポイントのいずれか1つのデータは、3Dマップポイント記述子及び3Dマップポイント空間位置を含む、請求項8又は9に記載の装置。
【請求項11】
3Dマップを符号化するための前記装置は、クラウドサーバ又は電子デバイスであり;
前記伝送モジュールはさらに:3Dマップダウンロード要求を受信すること、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む;及び、前記3Dマップダウンロード要求に従って、前記3Dマップの、前記位置指示情報に対応するビットストリームを送信することを行うように構成されている
請求項8から10のいずれか一項に記載の装置。
【請求項12】
3Dマップを符号化するための前記装置は、電子デバイスであり;
前記伝送モジュールは、前記3Dマップが作成された後、前記3Dマップの前記ビットストリームを送信するように具体的に構成されている、請求項8から10のいずれか一項に記載の装置。
【請求項13】
前記圧縮モジュールは、コンパクト化モジュール及び/又は予測モジュール、及びカプセル化モジュールを含み;
前記コンパクト化モジュールは、入力された第1データに対してコンパクト化を実行し、前記第1データのコンパクト化されたデータを出力するように構成されており;
前記予測モジュールは、入力された第2データに対して予測を実行し、前記第2データの残差データを出力するように構成されており;
前記カプセル化モジュールは、入力された第3データを処理し、前記3Dマップの前記ビットストリームを出力するように構成されており;
前記第1データは、前記3Dマップの前記データであり、前記第2データは、前記3Dマップの前記データ又は前記第1データの前記コンパクト化されたデータであり、前記第3データは、前記第1データの前記コンパクト化されたデータ又は前記第2データの前記残差データである、請求項8から12のいずれか一項に記載の装置。
【請求項14】
前記予測モジュールはさらに:複数の前記第2データを順序再設定すること、及び、順序再設定の結果に基づいて、前記第2データの少なくとも一部に対して予測を実行し、前記第2データの前記少なくとも一部の残差データを取得するように構成されている、請求項13に記載の装置。
【請求項15】
前記コンパクト化モジュールは、量子化モジュール及び/又は二値化モジュールを含み;
前記量子化モジュールは、入力された第4データに対して量子化を実行し、前記第4データの量子化データを出力するように構成されており;
前記二値化モジュールは、入力された第5データに対して二値化を実行し、前記第5データのバイナリデータを出力するように構成されており、ここで
前記第4データは、前記3Dマップの前記データであり、前記第5データは、前記3Dマップの前記データ又は前記第4データの前記量子化データである、請求項13又は14に記載の装置。
【請求項16】
前記量子化モジュールは、第1量子化モジュール及び第2量子化モジュールを含み、及び/又は、前記二値化モジュールは、第1二値化モジュール及び第2二値化モジュールを含み、前記予測モジュールは、第1予測モジュール及び第2予測モジュールを含み;
前記第1量子化モジュールは、入力された第6データに対して量子化を実行し、前記第6データの量子化データを出力するように構成されており;
前記第1二値化モジュールは、入力された第7データに対して二値化を実行し、前記第7データのバイナリデータを出力するように構成されており;
前記第1予測モジュールは、入力された第8データに対して予測を実行し、前記第8データの残差データを出力するように構成されており;
前記第6データは
、複数の領域記述子のうち1つであり、前記第7データは、前記複数の領域記述子のうち1つ又は前記第6データの前記量子化データであり、前記第8データは、前記複数の領域記述子、前記第6データの前記量子化データ、又は前記第7データの前記バイナリデータのうち1つであり;
前記第2量子化モジュールは、入力された第9データに対して量子化を実行し、前記第9データの量子化データを出力するように構成されており;
前記第2二値化モジュールは、入力された第10データに対して二値化を実行し、前記第10データのバイナリデータを出力するように構成されており;
前
記第2予測モジュールは、入力された第11データに対して予測を実行し、前記第11データの残差データを出力するように構成されており;
前記第9データは、前記複数の3Dマップポイントのうち1つのデータであり、前記第10データは、前記複数の3Dマップポイントのうち1つのデータ又は前記第9データの前記量子化データであり、前記第11データは、前記複数の3Dマップポイントのうち1つのデータ、前記第9データの前記量子化データ、又は前記第10データの前記バイナリデータである、請求項15に記載の装置。
【請求項17】
前記量子化モジュールは、第1量子化モジュール、第2量子化モジュール及び第3量子化モジュールを含み、及び/又は、前記二値化モジュールは、第1二値化モジュール、第2二値化モジュール及び第3二値化モジュールを含み、前記予測モジュールは、第1予測モジュール、第2予測モジュール及び第3予測モジュールを含み;
前記第1量子化モジュールは、入力された第12データに対して量子化を実行し、前記第12データの量子化データを出力するように構成されており;
前記第1二値化モジュールは、入力された第13データに対して二値化を実行し、前記第13データのバイナリデータを出力するように構成されており;
前記第1予測モジュールは、入力された第14データに対して予測を実行し、前記第14データの残差データを出力するように構成されており;
前記第12データは
、複数の領域記述子のうち1つであり、前記第13データは、前記複数の領域記述子のうち1つ又は前記第12データの前記量子化データであり、前記第14データは、前記複数の領域記述子のうち1つ、前記第12データの前記量子化データ、又は前記第13データの前記バイナリデータであり;
前記第2量子化モジュールは、入力された第15データに対して量子化を実行し、前記第15データの量子化データを出力するように構成されており;
前記第2二値化モジュールは、入力された第16データに対して二値化を実行し、前記第16データのバイナリデータを出力するように構成されており;
前記第2予測モジュールは、入力された第17データに対して予測を実行し、前記第17データの残差データを出力するように構成されており;
前記第15データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、前記第16データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子又は前記第15データの前記量子化データであり、前記第17データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子、前記第15データの前記量子化データ、又は前記第16データの前記バイナリデータであり;
前記第3量子化モジュールは、入力された第18データに対して量子化を実行し、前記第18データの量子化データを出力するように構成されており;
前記第3二値化モジュールは、入力された第19データに対して二値化を実行し、前記第19データのバイナリデータを出力するように構成されており;
前記第3予測モジュールは、入力された第20データに対して予測を実行し、前記第20データの残差データを出力するように構成されており;
前記第18データは、前記複数の3Dマップポイントのうち1つの空間位置であり、前記第19データは、前記複数の3Dマップポイントのうち1つの空間位置又は前記第18データの前記量子化データであり、前記第20データは、前記複数の3Dマップポイントのうち1つの空間位置、前記第18データの前記量子化データ、又は前記第19データの前記バイナリデータである、請求項15に記載の装置。
【請求項18】
前記圧縮モジュールは、第1圧縮サブモジュール及び第2圧縮サブモジュールを含み;
前記第1圧縮サブモジュールは、入力された第21データを圧縮して前記第21データのビットストリームを出力するように構成されており;
前記第2圧縮サブモジュールは、入力された第22データを圧縮して前記第22データのビットストリームを出力するように構成されており;
前記第21データは
、複数の領域記述子のうち1つであり、前記第22データは、前記複数の3Dマップポイントのうち1つのデータである、請求項8から12のいずれか一項に記載の装置。
【請求項19】
前記第1圧縮サブモジュールは、第1コンパクト化モジュール及び/又は第1予測モジュール、及び第1カプセル化モジュールを含み;前記第2圧縮サブモジュールは、第2コンパクト化モジュール及び/又は第2予測モジュール、及び第2カプセル化モジュールを含み;
前記第1コンパクト化モジュールは、入力された第23データに対してコンパクト化を実行し、前記第23データのコンパクト化されたデータを出力するように構成されており;
前記第1予測モジュールは、入力された第24データに対して予測を実行し、前記第24データの残差データを出力するように構成されており;
前記第1カプセル化モジュールは、入力された第25データを処理し、前記第25データのビットストリームを出力するように構成されており;
前記第23データは、前記複数の領域記述子のうち1つであり、前記第24データは、前記複数の領域記述子のうち1つ又は前記第23データの前記コンパクト化されたデータであり、前記第25データは、前記第23データの前記コンパクト化されたデータ又は前記第24データの前記残差データであり;
前記第2コンパクト化モジュールは、入力された第26データに対してコンパクト化を実行し、前記第26データのコンパクト化されたデータを出力するように構成されており;
前記第2予測モジュールは、入力された第27データに対して予測を実行し、前記第27データの残差データを出力するように構成されており;
前記第2カプセル化モジュールは、入力された第28データを処理し、前記第28データのビットストリームを出力するように構成されており;
前記第26データは、前記複数の3Dマップポイントのうち1つのデータであり、前記第27データは、前記複数の3Dマップポイントのうち1つのデータ又は前記第26データの前記コンパクト化されたデータであり、前記第28データは、前記第26データの前記コンパクト化されたデータ又は前記第27データの前記残差データである、請求項18に記載の装置。
【請求項20】
前記第1コンパクト化モジュールは、第1量子化モジュール及び/又は第1二値化モジュールを含み、前記第2コンパクト化モジュールは、第2量子化モジュール及び/又は第2二値化モジュールを含み;
前記第1量子化モジュールは、入力された第29データに対して量子化を実行し、前記第29データの量子化データを出力するように構成されており;
前記第1二値化モジュールは、入力された第30データに対して二値化を実行し、前記第30データのバイナリデータを出力するように構成されており;
前記第29データは、前記複数の領域記述子のうち1つであり、前記第30データは、前記複数の領域記述子のうち1つ又は前記第29データの前記量子化データであり;
前記第2量子化モジュールは、入力された第31データに対して量子化を実行し、前記第31データの量子化データを出力するように構成されており;
前記第2二値化モジュールは、入力された第32データに対して二値化を実行し、前記第32データのバイナリデータを出力するように構成されており;
前記第31データは、前記複数の3Dマップポイントのうち1つのデータであり、前記第30データは、前記複数の3Dマップポイントのうち1つのデータ又は前記第31データの前記量子化データである、請求項19に記載の装置。
【請求項21】
前記圧縮モジュールは、第1圧縮サブモジュール、第2圧縮サブモジュール及び第3圧縮サブモジュールを含み;
前記第1圧縮サブモジュールは、入力された第33データを圧縮して前記第33データのビットストリームを出力するように構成されており;
前記第2圧縮サブモジュールは、入力された第34データを圧縮して前記第34データのビットストリームを出力するように構成されており;
前記第3圧縮サブモジュールは、入力された第35データを圧縮して前記第35データのビットストリームを出力するように構成されており;
前記第33データは
、複数の領域記述子のうち1つであり、前記第34データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、前記第35データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント空間位置である、請求項8から12のいずれか一項に記載の装置。
【請求項22】
前記第1圧縮サブモジュールは、第1コンパクト化モジュール及び/又は第1予測モジュール、及び第1カプセル化モジュールを含み;前記第2圧縮サブモジュールは、第2コンパクト化モジュール及び/又は第2予測モジュール、及び第2カプセル化モジュールを含み;前記第3圧縮サブモジュールは、第3コンパクト化モジュール及び/又は第3予測モジュール、及び第3カプセル化モジュールを含み;
前記第1コンパクト化モジュールは、入力された第36データに対してコンパクト化を実行し、前記第36データのコンパクト化されたデータを出力するように構成されており;
前記第1予測モジュールは、入力された第37データに対して予測を実行し、前記第37データの残差データを取得するように構成されており;
前記第1カプセル化モジュールは、入力された第38データを処理し、前記第38データのビットストリームを取得するように構成されており;
前記第36データは、前記複数の領域記述子のうち1つであり、前記第37データは、前記複数の領域記述子のうち1つ又は前記第36データの前記コンパクト化されたデータであり、前記第38データは、前記第36データの前記コンパクト化されたデータ又は前記第37データの前記残差データであり;
前記第2コンパクト化モジュールは、入力された第39データに対してコンパクト化を実行し、前記第39データのコンパクト化されたデータを出力するように構成されており;
前記第2予測モジュールは、入力された第40データに対して予測を実行し、前記第40データの残差データを取得するように構成されており;
前記第2カプセル化モジュールは、入力された第41データを処理し、前記第41データのビットストリームを取得するように構成されており;
前記第39データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、前記第40データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子又は前記第39データの前記コンパクト化されたデータであり、前記第41データは、前記第39データの前記コンパクト化されたデータ又は前記第40データの前記残差データであり;
前記第3コンパクト化モジュールは、入力された第42データに対してコンパクト化を実行し、前記第42データのコンパクト化されたデータを出力するように構成されており;
前記第3予測モジュールは、入力された第43データに対して予測を実行し、前記第43データの残差データを取得するように構成されており;
前記第3カプセル化モジュールは、入力された第44データを処理し、前記第44データのビットストリームを取得するように構成されており;
前記第42データは、前記複数の3Dマップポイントのうち1つの空間位置であり、前記第43データは、前記複数の3Dマップポイントのうち1つの空間位置又は前記第42データの前記コンパクト化されたデータであり、前記第44データは、前記第42データの前記コンパクト化されたデータ又は前記第43データの前記残差データである、請求項21に記載の装置。
【請求項23】
前記第1コンパクト化モジュールは、第1量子化モジュール及び/又は第1二値化モジュールを含み;前記第2コンパクト化モジュールは、第2量子化モジュール及び/又は第2二値化モジュールを含み;前記第3コンパクト化モジュールは、第3量子化モジュール及び/又は第3二値化モジュールを含み;
前記第1量子化モジュールは、入力された第45データに対して量子化を実行し、前記第45データの量子化データを出力するように構成されており;
前記第1二値化モジュールは、入力された第46データに対して二値化を実行し、前記第46データのバイナリデータを出力するように構成されており;
前記第45データは、前記複数の領域記述子のうち1つであり、前記第46データは、前記複数の領域記述子のうち1つ又は前記第45データの前記量子化データであり;
前記第2量子化モジュールは、入力された第47データに対して量子化を実行し、前記第47データの量子化データを出力するように構成されており;
前記第2二値化モジュールは、入力された第48データに対して二値化を実行し、前記第48データのバイナリデータを出力するように構成されており;
前記第47データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、前記第48データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子又は前記第47データの前記量子化データであり;
前記第3量子化モジュールは、入力された第49データに対して量子化を実行し、前記第49データの量子化データを出力するように構成されており;
前記第3二値化モジュールは、入力された第50データに対して二値化を実行し、前記第50データのバイナリデータを出力するように構成されており;
前記第49データは、前記複数の3Dマップポイントのうち1つの空間位置であり、前記第50データは、前記複数の3Dマップポイントのうち1つの空間位置又は前記第49データの前記量子化データである、請求項22に記載の装置。
【請求項24】
3Dマップを符号化するための方法であって、
3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得する段階、ここで、前記3Dマップは、複数の3Dマップポイントを含み、前記3Dマップの前記データは、前記複数の3Dマップポイントのデータを含む;及び
前記3Dマップの前記ビットストリームを伝送する段階
を備える、方法。
【請求項25】
前記3Dマップの前記データはさらに、複数の領域記述子を含み、前記複数の領域記述子のいずれか1つは、前記複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する、請求項24に記載の方法。
【請求項26】
前記複数の3Dマップポイントのいずれか1つのデータは、3Dマップポイント記述子及び3Dマップポイント空間位置を含む、請求項24又は25に記載の方法。
【請求項27】
3Dマップダウンロード要求を受信する段階、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む;
をさらに備え、前記3Dマップのビットストリームを伝送する前記段階は:
前記3Dマップダウンロード要求に従って、前記3Dマップの、前記位置指示情報に対応するビットストリームを送信する段階
を含む、請求項24から26のいずれか一項に記載の方法。
【請求項28】
前記3Dマップのビットストリームを伝送する前記段階は:
前記3Dマップが作成された後、前記3Dマップの前記ビットストリームを送信する段階
を含む、請求項24から26のいずれか一項に記載の方法。
【請求項29】
3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得する前記段階は:
第1データに対してコンパクト化を実行し、前記第1データのコンパクト化されたデータを取得する段階、及び/又は、第2データに対して予測を実行し、前記第2データの残差データを取得する段階;及び
第3データを処理し、前記3Dマップの前記ビットストリームを取得する段階
を含み、ここで
前記第1データは、前記3Dマップの前記データであり、前記第2データは、前記3Dマップの前記データ又は前記第1データの前記コンパクト化されたデータであり、前記第3データは、前記第1データの前記コンパクト化されたデータ又は前記第2データの前記残差データである
請求項24から28のいずれか一項に記載の方法。
【請求項30】
第2データに対して予測を実行し、前記第2データの残差データを取得する前記段階の前に、前記方法はさらに:
複数の前記第2データを順序再設定する段階
を備え、
第2データに対して予測を実行し、前記第2データの残差データを取得する前記段階は:
前記順序再設定の結果に基づいて、前記第2データの少なくとも一部に対して予測を実行し、前記第2データの前記少なくとも一部の残差データを取得する段階
を含む、請求項29に記載の方法。
【請求項31】
第1データに対してコンパクト化を実行し、前記第1データのコンパクト化されたデータを取得する前記段階は:
第4データに対して量子化を実行し、前記第4データの量子化データを取得する段階、及び/又は、第5データに対して二値化を実行し、前記第5データのバイナリデータを取得する段階
を含み、ここで
前記第4データは前記第1データであり、前記第5データは前記第1データ又は前記第4データの前記量子化データであり、それに応じて、前記第1データの前記コンパクト化されたデータは、前記第4データの前記量子化データ及び/又は前記第5データの前記バイナリデータを含む
請求項29又は30に記載の方法。
【請求項32】
1又は複数のプロセッサ;及び
1又は複数のプログラムを記憶するように構成されたメモリ
を備え、ここで
前記1又は複数のプログラムが前記1又は複数のプロセッサによって実行されたとき、前記1又は複数のプロセッサは、請求項24から31のいずれか一項に記載の方法を実装することが可能となる、3Dマップを符号化するための装置。
【請求項33】
3Dマップのデータを圧縮して、圧縮によって取得され且つビットストリーム形態にある3Dマップを取得するように構成されたエンコーダ、ここで、前記3Dマップは複数の3Dマップポイントを含み、前記3Dマップの前記データは前記複数の3Dマップポイントのデータを含む;及び
圧縮によって取得され且つビットストリーム形態にある前記3Dマップを記憶するように構成されたメモリ
を備える、3Dマップを符号化するための装置。
【請求項34】
前記3Dマップの前記データはさらに、複数の領域記述子を含み、前記複数の領域記述子のいずれか1つは、前記複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する、請求項33に記載の装置。
【請求項35】
前記複数の3Dマップポイントのいずれか1つのデータは、3Dマップポイント記述子及び3Dマップポイント空間位置を含む、請求項33又は34に記載の装置。
【請求項36】
3Dマップを符号化するための前記装置は、クラウドサーバ又は電子デバイスである、請求項33から35のいずれか一項に記載の装置。
【請求項37】
コンピュータプログラムを含むコンピュータ可読記憶媒体であって、前記コンピュータプログラムがコンピュータ上で実行されたとき、前記コンピュータは、請求項24から31のいずれか一項に記載の方法を実行することが可能となる、コンピュータ可読記憶媒体。
【請求項38】
コンピュータプログラムであって、前記コンピュータプログラムがコンピュータ上で実行されたとき、前記コンピュータは、請求項24から31のいずれか一項に記載の方法を実行することが可能となる、コンピュータプログラム。
【請求項39】
請求項24から31のいずれか一項に記載の方法を使用することによって符号化されたビットストリームを含む、非一時的記憶媒体。
【手続補正2】
【補正対象書類名】明細書
【補正対象項目名】0148
【補正方法】変更
【補正の内容】
【0148】
本願の目的、技術的解決手段及び利点をより明確にすべく、以下では、本願における技術的解決手段を、本願における添付図面を参照して明確に説明する。明確に、説明された実施形態は、本願の実施形態の全部ではなく、一部に過ぎない。本願の実施形態に基づいて、創造的な努力なしに当業者によって取得された全ての他の実施形態は、本願の保護範囲に含まれるものとする。
【手続補正3】
【補正対象書類名】明細書
【補正対象項目名】0162
【補正方法】変更
【補正の内容】
【0162】
3Dマップポイントを取得する可能な方式は、ライダ、無人航空機の画角からの空中撮影(アオリ撮影)、高解像度のパノラマカメラ、及び高解像度の産業用カメラなどの複数のデバイスを使用し、撮影を実行し、前述のデバイスによる撮影によって取得されたデータから、加速化セグメントテストからの指向性特徴(features from accelerated segment test,FAST)、回転バイナリロバスト独立基本特徴(binary robust independent elementary features,BRIEF)、指向性FAST及び回転BRIEF(oriented FAST and rotated BRIEF,ORB)、スケール不変特徴変換(scale invariant feature transform,SIFT)及び高速化ロバスト特徴(speeded-up robust feature,SURF)、BRIEF、バイナリロバスト不変スケーラブルキーポイント(binary robust invariant scalable keypoints,BRISK)、高速網膜キーポイント(fast retina keypoint,FREAK)、又は繰り返し可能且つ信頼性の高い検出器及び記述子(repeatable and reliable detector and descriptor,R2D2)などの方法を使用することによって、3Dマップポイントを抽出する。
【手続補正4】
【補正対象書類名】明細書
【補正対象項目名】0171
【補正方法】変更
【補正の内容】
【0171】
任意選択的に、前述の対応関係は、領域記述子の番号及び3Dマップポイントの番号の間の対応テーブルを使用することによって明示的に説明され得る。例えば、3Dマップは、その番号がT1からT3である3つの領域記述子、及びその番号がP1からP6である6つの3Dマップポイントを含む。対応テーブルは、表
1に示されている。
[表1]
【表1】
【手続補正5】
【補正対象書類名】明細書
【補正対象項目名】0179
【補正方法】変更
【補正の内容】
【0179】
メモリ22は、バス29によってプロセッサ211に接続され得、又は、プロセッサ211に結合され得、様々なソフトウェアプログラム及び/又は複数のグループの命令を記憶するように構成されている。メモリ22は、高速ランダムアクセスメモリ(例えば、キャッシュ)を含み得、又は、例えば、1又は複数の磁気ディスクストレージデバイス、フラッシュメモリデバイス、又は別の不揮発性ソリッドステートストレージデバイスなどの不揮発性メモリを含み得る。メモリ22は、例えば、Android(登録商標)(Android)、Apple(登録商標)モバイルプラットフォーム(iOS(登録商標))、Microsoft(登録商標)ウィンドウオペレーティングシステム(Windows(登録商標))、又はUNIX(登録商標)系オペレーティングシステム(Linux(登録商標))などの埋め込み型オペレーティングシステムのようなオペレーティングシステムを記憶し得る。メモリ22はさらに、例えば、画像データ、ポイントクラウドデータ、3Dマップデータ、ポーズデータ、座標システム変換情報、及びマップアップデート情報のようなデータを記憶し得る。メモリ22はさらに、コンピュータ実行可能プログラムコードを記憶し得る。コンピュータ実行可能プログラムコードは、例えば、通信プログラム命令、及びSLAMシステムの関連するプログラム命令のような命令を含む。メモリ22はさらに、例えば、AR/VR/MRなどの仮想シナリオアプリケーション、地図アプリケーション、画像管理アプリケーション、及びナビゲーション及び制御アプリケーションのような1又は複数のアプリケーションを記憶し得る。メモリ22はさらに、ユーザインタフェースプログラムを記憶し得る。ユーザインタフェースプログラムは、例えば、AR/VR/MRなどの仮想シナリオにおける仮想オブジェクトのようなアプリケーションの内容を、グラフィカル操作インタフェースを使用することによって鮮明に表示し、ディスプレイコンポーネント24を使用することによって上記内容を提示し、メニュー、ダイアログボックス又はボタンなどの入力制御を使用することによってアプリケーションに対してユーザによって実行される制御操作を受信し得る。
【手続補正6】
【補正対象書類名】明細書
【補正対象項目名】0229
【補正方法】変更
【補正の内容】
【0229】
図4dは、本願の実施形態に係る適用シナリオの概略図である。図
4dに示されたように、適用シナリオにおいて、第2電子デバイスは、センサを使用することによって視覚情報を収集し、視覚情報及びサーバからの3Dマップを参照して第2電子デバイスの現在のポーズを決定する。
【手続補正7】
【補正対象書類名】明細書
【補正対象項目名】0306
【補正方法】変更
【補正の内容】
【0306】
第1量子化モジュール6111aの入力データは領域記述子であり、出力データは領域記述子の量子化データである。第1二値化モジュール6112aの入力データは領域記述子であり、出力データは領域記述子のバイナリデータである。第1予測モジュール612aの入力データは、領域記述子の量子化データ及び領域記述子のバイナリデータを含み、出力データは領域記述子の残差データである。第2量子化モジュール6111bの入力データは3Dマップポイント記述子であり、出力データは3Dマップポイント記述子の量子化データである。第2二値化モジュール6112bの入力データは3Dマップポイント記述子であり、出力データは3Dマップポイント記述子のバイナリデータである。第2予測モジュール612bの入力データは、3Dマップポイント記述子お量子化データ及び3Dマップポイント記述子のバイナリデータを含み、出力データは3Dマップポイント記述子の残差データである。第3量子化モジュール6111cの入力データは3Dマップポイント空間位置であり、出力データは3Dマップポイント空間位置の量子化データである。第3二値化モジュール6112cの入力データは3Dマップポイント空間位置であり、出力データは3Dマップポイント空間位置のバイナリデータである。第3予測モジュール612cの入力データは、3Dマップポイント空間位置の量子化データ及び3Dマップポイント空間位置のバイナリデータを含み、出力データは3Dマップポイント空間位置の残差データである。
【手続補正8】
【補正対象書類名】明細書
【補正対象項目名】0340
【補正方法】変更
【補正の内容】
【0340】
本願のこの実施形態における3Dマップを符号化するための装置100は、エンコーダ101及びメモリ102を含む。エンコーダ101は、3Dマップのデータを圧縮して、圧縮によって取得され且つビットストリーム形態の3Dマップを取得するように構成されており、ここで、3Dマップは、複数の3Dマップポイントを含み、3Dマップのデータは、複数の3Dマップポイントのデータを含む。メモリ102は、圧縮によって取得され且つビットストリーム形態の3Dマップを記憶するように構成されている。コンプレッサ101の入力データは3Dマップのデータであり、出力データは圧縮によって取得され且つビットストリーム形態の3Dマップであり、メモリ101の入力データは圧縮によって取得され且つコンプレッサ101によって出力され且つビットストリーム形態の3Dマップであることが分かり得る。
【手続補正9】
【補正対象書類名】明細書
【補正対象項目名】0351
【補正方法】変更
【補正の内容】
【0351】
前述の説明は単に、本願の特定の実装に過ぎず、本願の保護範囲はこれに限定されるものではない。本願で開示された技術的範囲内で当業者が容易に想到する任意の変形又は置換は、本願の保護範囲に含まれるものとする。従って、本願の保護範囲は、特許請求の範囲の保護範囲に従うものとする。
[他の可能な項目]
[項目1]
符号化装置及び復号装置を備える3Dマップのためのコーデックシステムであって、前記符号化装置は、前記復号装置に通信可能に接続されており;
前記符号化装置は:3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得すること、及び、前記3Dマップの前記ビットストリームを前記復号装置に送信することを行うように構成されており、ここで、前記3Dマップは、複数の3Dマップポイントを含み、前記3Dマップの前記データは、前記複数の3Dマップポイントのデータを含み;
前記復号装置は:前記3Dマップの前記ビットストリームを受信すること、及び、前記3Dマップの前記ビットストリームを圧縮解除して前記3Dマップの再構築データを取得することを行うように構成されている
システム。
[項目2]
前記符号化装置はクラウドサーバであり、前記復号装置は電子デバイスである;又は、前記符号化装置は第1電子デバイスであり、前記復号装置は第2電子デバイスであり;
前記復号装置はさらに、3Dマップダウンロード要求を前記復号装置に送信するように構成されており、ここで、前記3Dマップダウンロード要求は位置指示情報を含み;
前記符号化装置はさらに、前記3Dマップダウンロード要求を受信すること、及び、前記3Dマップダウンロード要求に従って前記復号装置に、前記3Dマップの、前記位置指示情報に対応するビットストリームを送信するように構成されている、項目1に記載のシステム。
[項目3]
前記符号化装置は電子デバイスであり、前記復号装置はクラウドサーバであり;
前記符号化デバイスは、前記3Dマップが作成された後、前記3Dマップの前記ビットストリームを前記復号装置に送信するように具体的に構成されている、項目1又は2に記載のシステム。
[項目4]
前記3Dマップの前記データはさらに、複数の領域記述子を含み、前記複数の領域記述子のいずれか1つは、前記複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する、項目1から3のいずれか一項に記載のシステム。
[項目5]
前記複数の3Dマップポイントのいずれか1つのデータは、3Dマップポイント記述子及び3Dマップポイント空間位置を含む、項目1又は4に記載のシステム。
[項目6]
前記符号化装置はさらに、前記3Dマップを作成するように構成されている、項目1から5のいずれか一項に記載のシステム。
[項目7]
前記復号装置はさらに、前記3Dマップに基づいて測位を実行するように構成されている、項目1から6のいずれか一項に記載のシステム。
[項目8]
圧縮モジュール及び伝送モジュールを備える3Dマップを符号化するための装置であって、
前記圧縮モジュールは、3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得するように構成されており、ここで、前記3Dマップは、複数の3Dマップポイントを含み、前記3Dマップの前記データは、前記複数の3Dマップポイントのデータを含み;
前記伝送モジュールは、前記3Dマップの前記ビットストリームを伝送するように構成されている、装置。
[項目9]
前記3Dマップの前記データはさらに、複数の領域記述子を含み、前記複数の領域記述子のいずれか1つは、前記複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する、項目8に記載の装置。
[項目10]
前記複数の3Dマップポイントのいずれか1つのデータは、3Dマップポイント記述子及び3Dマップポイント空間位置を含む、項目8又は9に記載の装置。
[項目11]
3Dマップを符号化するための前記装置は、クラウドサーバ又は電子デバイスであり;
前記伝送モジュールはさらに:3Dマップダウンロード要求を受信すること、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む;及び、前記3Dマップダウンロード要求に従って、前記3Dマップの、前記位置指示情報に対応するビットストリームを送信することを行うように構成されている
項目8から10のいずれか一項に記載の装置。
[項目12]
3Dマップを符号化するための前記装置は、電子デバイスであり;
前記伝送モジュールは、前記3Dマップが作成された後、前記3Dマップの前記ビットストリームを送信するように具体的に構成されている、項目8から10のいずれか一項に記載の装置。
[項目13]
前記圧縮モジュールは、コンパクト化モジュール及び/又は予測モジュール、及びカプセル化モジュールを含み;
前記コンパクト化モジュールは、入力された第1データに対してコンパクト化を実行し、前記第1データのコンパクト化されたデータを出力するように構成されており;
前記予測モジュールは、入力された第2データに対して予測を実行し、前記第2データの残差データを出力するように構成されており;
前記カプセル化モジュールは、入力された第3データを処理し、前記3Dマップの前記ビットストリームを出力するように構成されており;
前記第1データは、前記3Dマップの前記データであり、前記第2データは、前記3Dマップの前記データ又は前記第1データの前記コンパクト化されたデータであり、前記第3データは、前記第1データの前記コンパクト化されたデータ又は前記第2データの前記残差データである、項目8から12のいずれか一項に記載の装置。
[項目14]
前記予測モジュールはさらに:複数の前記第2データを順序再設定すること、及び、順序再設定の結果に基づいて、前記第2データの少なくとも一部に対して予測を実行し、前記第2データの前記少なくとも一部の残差データを取得するように構成されている、項目13に記載の装置。
[項目15]
前記コンパクト化モジュールは、量子化モジュール及び/又は二値化モジュールを含み;
前記量子化モジュールは、入力された第4データに対して量子化を実行し、前記第4データの量子化データを出力するように構成されており;
前記二値化モジュールは、入力された第5データに対して二値化を実行し、前記第5データのバイナリデータを出力するように構成されており、ここで
前記第4データは、前記3Dマップの前記データであり、前記第5データは、前記3Dマップの前記データ又は前記第4データの前記量子化データである、項目13又は14に記載の装置。
[項目16]
前記量子化モジュールは、第1量子化モジュール及び第2量子化モジュールを含み、及び/又は、前記二値化モジュールは、第1二値化モジュール及び第2二値化モジュールを含み、前記予測モジュールは、第1予測モジュール及び第2予測モジュールを含み;
前記第1量子化モジュールは、入力された第6データに対して量子化を実行し、前記第6データの量子化データを出力するように構成されており;
前記第1二値化モジュールは、入力された第7データに対して二値化を実行し、前記第7データのバイナリデータを出力するように構成されており;
前記第1予測モジュールは、入力された第8データに対して予測を実行し、前記第8データの残差データを出力するように構成されており;
前記第6データは、前記複数の領域記述子のうち1つであり、前記第7データは、前記複数の領域記述子のうち1つ又は前記第6データの前記量子化データであり、前記第8データは、前記複数の領域記述子、前記第6データの前記量子化データ、又は前記第7データの前記バイナリデータのうち1つであり;
前記第2量子化モジュールは、入力された第9データに対して量子化を実行し、前記第9データの量子化データを出力するように構成されており;
前記第2二値化モジュールは、入力された第10データに対して二値化を実行し、前記第10データのバイナリデータを出力するように構成されており;
前記第1予測モジュールは、入力された第11データに対して予測を実行し、前記第11データの残差データを出力するように構成されており;
前記第9データは、前記複数の3Dマップポイントのうち1つのデータであり、前記第10データは、前記複数の3Dマップポイントのうち1つのデータ又は前記第9データの前記量子化データであり、前記第11データは、前記複数の3Dマップポイントのうち1つのデータ、前記第9データの前記量子化データ、又は前記第10データの前記バイナリデータである、項目15に記載の装置。
[項目17]
前記量子化モジュールは、第1量子化モジュール、第2量子化モジュール及び第3量子化モジュールを含み、及び/又は、前記二値化モジュールは、第1二値化モジュール、第2二値化モジュール及び第3二値化モジュールを含み、前記予測モジュールは、第1予測モジュール、第2予測モジュール及び第3予測モジュールを含み;
前記第1量子化モジュールは、入力された第12データに対して量子化を実行し、前記第12データの量子化データを出力するように構成されており;
前記第1二値化モジュールは、入力された第13データに対して二値化を実行し、前記第13データのバイナリデータを出力するように構成されており;
前記第1予測モジュールは、入力された第14データに対して予測を実行し、前記第14データの残差データを出力するように構成されており;
前記第12データは、前記複数の領域記述子のうち1つであり、前記第13データは、前記複数の領域記述子のうち1つ又は前記第12データの前記量子化データであり、前記第14データは、前記複数の領域記述子のうち1つ、前記第12データの前記量子化データ、又は前記第13データの前記バイナリデータであり;
前記第2量子化モジュールは、入力された第15データに対して量子化を実行し、前記第15データの量子化データを出力するように構成されており;
前記第2二値化モジュールは、入力された第16データに対して二値化を実行し、前記第16データのバイナリデータを出力するように構成されており;
前記第2予測モジュールは、入力された第17データに対して予測を実行し、前記第17データの残差データを出力するように構成されており;
前記第15データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、前記第16データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子又は前記第15データの前記量子化データであり、前記第17データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子、前記第15データの前記量子化データ、又は前記第16データの前記バイナリデータであり;
前記第3量子化モジュールは、入力された第18データに対して量子化を実行し、前記第18データの量子化データを出力するように構成されており;
前記第3二値化モジュールは、入力された第19データに対して二値化を実行し、前記第19データのバイナリデータを出力するように構成されており;
前記第3予測モジュールは、入力された第20データに対して予測を実行し、前記第20データの残差データを出力するように構成されており;
前記第18データは、前記複数の3Dマップポイントのうち1つの空間位置であり、前記第19データは、前記複数の3Dマップポイントのうち1つの空間位置又は前記第18データの前記量子化データであり、前記第20データは、前記複数の3Dマップポイントのうち1つの空間位置、前記第18データの前記量子化データ、又は前記第19データの前記バイナリデータである、項目15に記載の装置。
[項目18]
前記圧縮モジュールは、第1圧縮サブモジュール及び第2圧縮サブモジュールを含み;
前記第1圧縮サブモジュールは、入力された第21データを圧縮して前記第21データのビットストリームを出力するように構成されており;
前記第2圧縮サブモジュールは、入力された第22データを圧縮して前記第22データのビットストリームを出力するように構成されており;
前記第21データは、前記複数の領域記述子のうち1つであり、前記第22データは、前記複数の3Dマップポイントのうち1つのデータである、項目8から12のいずれか一項に記載の装置。
[項目19]
前記第1圧縮サブモジュールは、第1コンパクト化モジュール及び/又は第1予測モジュール、及び第1カプセル化モジュールを含み;前記第2圧縮サブモジュールは、第2コンパクト化モジュール及び/又は第2予測モジュール、及び第2カプセル化モジュールを含み;
前記第1コンパクト化モジュールは、入力された第23データに対してコンパクト化を実行し、前記第23データのコンパクト化されたデータを出力するように構成されており;
前記第1予測モジュールは、入力された第24データに対して予測を実行し、前記第24データの残差データを出力するように構成されており;
前記第1カプセル化モジュールは、入力された第25データを処理し、前記第25データのビットストリームを出力するように構成されており;
前記第23データは、前記複数の領域記述子のうち1つであり、前記第24データは、前記複数の領域記述子のうち1つ又は前記第23データの前記コンパクト化されたデータであり、前記第25データは、前記第23データの前記コンパクト化されたデータ又は前記第24データの前記残差データであり;
前記第2コンパクト化モジュールは、入力された第26データに対してコンパクト化を実行し、前記第26データのコンパクト化されたデータを出力するように構成されており;
前記第2予測モジュールは、入力された第27データに対して予測を実行し、前記第27データの残差データを出力するように構成されており;
前記第2カプセル化モジュールは、入力された第28データを処理し、前記第28データのビットストリームを出力するように構成されており;
前記第26データは、前記複数の3Dマップポイントのうち1つのデータであり、前記第27データは、前記複数の3Dマップポイントのうち1つのデータ又は前記第26データの前記コンパクト化されたデータであり、前記第28データは、前記第26データの前記コンパクト化されたデータ又は前記第27データの前記残差データである、項目18に記載の装置。
[項目20]
前記第1コンパクト化モジュールは、第1量子化モジュール及び/又は第1二値化モジュールを含み、前記第2コンパクト化モジュールは、第2量子化モジュール及び/又は第2二値化モジュールを含み;
前記第1量子化モジュールは、入力された第29データに対して量子化を実行し、前記第29データの量子化データを出力するように構成されており;
前記第1二値化モジュールは、入力された第30データに対して二値化を実行し、前記第30データのバイナリデータを出力するように構成されており;
前記第29データは、前記複数の領域記述子のうち1つであり、前記第30データは、前記複数の領域記述子のうち1つ又は前記第29データの前記量子化データであり;
前記第2量子化モジュールは、入力された第31データに対して量子化を実行し、前記第31データの量子化データを出力するように構成されており;
前記第2二値化モジュールは、入力された第32データに対して二値化を実行し、前記第32データのバイナリデータを出力するように構成されており;
前記第31データは、前記複数の3Dマップポイントのうち1つのデータであり、前記第30データは、前記複数の3Dマップポイントのうち1つのデータ又は前記第31データの前記量子化データである、項目19に記載の装置。
[項目21]
前記圧縮モジュールは、第1圧縮サブモジュール、第2圧縮サブモジュール及び第3圧縮サブモジュールを含み;
前記第1圧縮サブモジュールは、入力された第33データを圧縮して前記第33データのビットストリームを出力するように構成されており;
前記第2圧縮サブモジュールは、入力された第34データを圧縮して前記第34データのビットストリームを出力するように構成されており;
前記第3圧縮サブモジュールは、入力された第35データを圧縮して前記第35データのビットストリームを出力するように構成されており;
前記第33データは、前記複数の領域記述子のうち1つであり、前記第34データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、前記第35データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント空間位置である、項目8から12のいずれか一項に記載の装置。
[項目22]
前記第1圧縮サブモジュールは、第1コンパクト化モジュール及び/又は第1予測モジュール、及び第1カプセル化モジュールを含み;前記第2圧縮サブモジュールは、第2コンパクト化モジュール及び/又は第2予測モジュール、及び第2カプセル化モジュールを含み;前記第3圧縮サブモジュールは、第3コンパクト化モジュール及び/又は第3予測モジュール、及び第3カプセル化モジュールを含み;
前記第1コンパクト化モジュールは、入力された第36データに対してコンパクト化を実行し、前記第36データのコンパクト化されたデータを出力するように構成されており;
前記第1予測モジュールは、入力された第37データに対して予測を実行し、前記第37データの残差データを取得するように構成されており;
前記第1カプセル化モジュールは、入力された第38データを処理し、前記第38データのビットストリームを取得するように構成されており;
前記第36データは、前記複数の領域記述子のうち1つであり、前記第37データは、前記複数の領域記述子のうち1つ又は前記第36データの前記コンパクト化されたデータであり、前記第38データは、前記第36データの前記コンパクト化されたデータ又は前記第37データの前記残差データであり;
前記第2コンパクト化モジュールは、入力された第39データに対してコンパクト化を実行し、前記第39データのコンパクト化されたデータを出力するように構成されており;
前記第2予測モジュールは、入力された第40データに対して予測を実行し、前記第40データの残差データを取得するように構成されており;
前記第2カプセル化モジュールは、入力された第41データを処理し、前記第41データのビットストリームを取得するように構成されており;
前記第39データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、前記第40データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子又は前記第39データの前記コンパクト化されたデータであり、前記第41データは、前記第39データの前記コンパクト化されたデータ又は前記第40データの前記残差データであり;
前記第3コンパクト化モジュールは、入力された第42データに対してコンパクト化を実行し、前記第42データのコンパクト化されたデータを出力するように構成されており;
前記第3予測モジュールは、入力された第43データに対して予測を実行し、前記第43データの残差データを取得するように構成されており;
前記第3カプセル化モジュールは、入力された第44データを処理し、前記第44データのビットストリームを取得するように構成されており;
前記第42データは、前記複数の3Dマップポイントのうち1つの空間位置であり、前記第43データは、前記複数の3Dマップポイントのうち1つの空間位置又は前記第42データの前記コンパクト化されたデータであり、前記第44データは、前記第42データの前記コンパクト化されたデータ又は前記第43データの前記残差データである、項目21に記載の装置。
[項目23]
前記第1コンパクト化モジュールは、第1量子化モジュール及び/又は第1二値化モジュールを含み;前記第2コンパクト化モジュールは、第2量子化モジュール及び/又は第2二値化モジュールを含み;前記第3コンパクト化モジュールは、第3量子化モジュール及び/又は第3二値化モジュールを含み;
前記第1量子化モジュールは、入力された第45データに対して量子化を実行し、前記第45データの量子化データを出力するように構成されており;
前記第1二値化モジュールは、入力された第46データに対して二値化を実行し、前記第46データのバイナリデータを出力するように構成されており;
前記第45データは、前記複数の領域記述子のうち1つであり、前記第46データは、前記複数の領域記述子のうち1つ又は前記第45データの前記量子化データであり;
前記第2量子化モジュールは、入力された第47データに対して量子化を実行し、前記第47データの量子化データを出力するように構成されており;
前記第2二値化モジュールは、入力された第48データに対して二値化を実行し、前記第48データのバイナリデータを出力するように構成されており;
前記第47データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子であり、前記第48データは、前記複数の3Dマップポイントのうち1つの3Dマップポイント記述子又は前記第47データの前記量子化データであり;
前記第3量子化モジュールは、入力された第49データに対して量子化を実行し、前記第49データの量子化データを出力するように構成されており;
前記第3二値化モジュールは、入力された第50データに対して二値化を実行し、前記第50データのバイナリデータを出力するように構成されており;
前記第49データは、前記複数の3Dマップポイントのうち1つの空間位置であり、前記第50データは、前記複数の3Dマップポイントのうち1つの空間位置又は前記第49データの前記量子化データである、項目22に記載の装置。
[項目24]
3Dマップを符号化するための方法であって、
3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得する段階、ここで、前記3Dマップは、複数の3Dマップポイントを含み、前記3Dマップの前記データは、前記複数の3Dマップポイントのデータを含む;及び
前記3Dマップの前記ビットストリームを伝送する段階
を備える、方法。
[項目25]
前記3Dマップの前記データはさらに、複数の領域記述子を含み、前記複数の領域記述子のいずれか1つは、前記複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する、項目24に記載の方法。
[項目26]
前記複数の3Dマップポイントのいずれか1つのデータは、3Dマップポイント記述子及び3Dマップポイント空間位置を含む、項目24又は25に記載の方法。
[項目27]
3Dマップダウンロード要求を受信する段階、ここで、前記3Dマップダウンロード要求は、位置指示情報を含む;
をさらに備え、前記3Dマップのビットストリームを伝送する前記段階は:
前記3Dマップダウンロード要求に従って、前記3Dマップの、前記位置指示情報に対応するビットストリームを送信する段階
を含む、項目24から26のいずれか一項に記載の方法。
[項目28]
前記3Dマップのビットストリームを伝送する前記段階は:
前記3Dマップが作成された後、前記3Dマップの前記ビットストリームを送信する段階
を含む、項目24から26のいずれか一項に記載の方法。
[項目29]
3Dマップのデータを圧縮して前記3Dマップのビットストリームを取得する前記段階は:
第1データに対してコンパクト化を実行し、前記第1データのコンパクト化されたデータを取得する段階、及び/又は、第2データに対して予測を実行し、前記第2データの残差データを取得する段階;及び
第3データを処理し、前記3Dマップの前記ビットストリームを取得する段階
を含み、ここで
前記第1データは、前記3Dマップの前記データであり、前記第2データは、前記3Dマップの前記データ又は前記第1データの前記コンパクト化されたデータであり、前記第3データは、前記第1データの前記コンパクト化されたデータ又は前記第2データの前記残差データである
項目24から28のいずれか一項に記載の方法。
[項目30]
第2データに対して予測を実行し、前記第2データの残差データを取得する前記段階の前に、前記方法はさらに:
複数の前記第2データを順序再設定する段階
を備え、
第2データに対して予測を実行し、前記第2データの残差データを取得する前記段階は:
前記順序再設定の結果に基づいて、前記第2データの少なくとも一部に対して予測を実行し、前記第2データの前記少なくとも一部の残差データを取得する段階
を含む、項目29に記載の方法。
[項目31]
第1データに対してコンパクト化を実行し、前記第1データのコンパクト化されたデータを取得する前記段階は:
第4データに対して量子化を実行し、前記第4データの量子化データを取得する段階、及び/又は、第5データに対して二値化を実行し、前記第5データのバイナリデータを取得する段階
を含み、ここで
前記第4データは前記第1データであり、前記第5データは前記第1データ又は前記第4データの前記量子化データであり、それに応じて、前記第1データの前記コンパクト化されたデータは、前記第4データの前記量子化データ及び/又は前記第5データの前記バイナリデータを含む
項目29又は30に記載の方法。
[項目32]
1又は複数のプロセッサ;及び
1又は複数のプログラムを記憶するように構成されたメモリ
を備え、ここで
前記1又は複数のプログラムが前記1又は複数のプロセッサによって実行されたとき、前記1又は複数のプロセッサは、項目24から31のいずれか一項に記載の方法を実装することが可能となる、3Dマップを符号化するための装置。
[項目33]
3Dマップのデータを圧縮して、圧縮によって取得され且つビットストリーム形態にある3Dマップを取得するように構成されたエンコーダ、ここで、前記3Dマップは複数の3Dマップポイントを含み、前記3Dマップの前記データは前記複数の3Dマップポイントのデータを含む;及び
圧縮によって取得され且つビットストリーム形態にある前記3Dマップを記憶するように構成されたメモリ
を備える、3Dマップを符号化するための装置。
[項目34]
前記3Dマップの前記データはさらに、複数の領域記述子を含み、前記複数の領域記述子のいずれか1つは、前記複数の3Dマップポイントの一部又は全ての3Dマップポイントの特徴を説明する、項目33に記載の装置。
[項目35]
前記複数の3Dマップポイントのいずれか1つのデータは、3Dマップポイント記述子及び3Dマップポイント空間位置を含む、項目33又は34に記載の装置。
[項目36]
3Dマップを符号化するための前記装置は、クラウドサーバ又は電子デバイスである、項目33から35のいずれか一項に記載の装置。
[項目37]
コンピュータプログラムを含むコンピュータ可読記憶媒体であって、前記コンピュータプログラムがコンピュータ上で実行されたとき、前記コンピュータは、項目24から31のいずれか一項に記載の方法を実行することが可能となる、コンピュータ可読記憶媒体。
[項目38]
コンピュータプログラムであって、前記コンピュータプログラムがコンピュータ上で実行されたとき、前記コンピュータは、項目24から31のいずれか一項に記載の方法を実行することが可能となる、コンピュータプログラム。
[項目39]
項目24から31のいずれか一項に記載の方法を使用することによって符号化されたビットストリームを含む、非一時的記憶媒体。
【国際調査報告】