IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 北京小米移動軟件有限公司の特許一覧

特表2024-537692少なくとも1つのセンサでセンシングされた点群ジオメトリデータを符号化/復号化する方法及び装置
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-10-16
(54)【発明の名称】少なくとも1つのセンサでセンシングされた点群ジオメトリデータを符号化/復号化する方法及び装置
(51)【国際特許分類】
   G06T 9/00 20060101AFI20241008BHJP
【FI】
G06T9/00
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2024517573
(86)(22)【出願日】2022-06-21
(85)【翻訳文提出日】2024-03-19
(86)【国際出願番号】 CN2022100237
(87)【国際公開番号】W WO2023045443
(87)【国際公開日】2023-03-30
(31)【優先権主張番号】21306322.5
(32)【優先日】2021-09-24
(33)【優先権主張国・地域又は機関】EP
(81)【指定国・地域】
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.HDMI
(71)【出願人】
【識別番号】516180667
【氏名又は名称】北京小米移動軟件有限公司
【氏名又は名称原語表記】Beijing Xiaomi Mobile Software Co.,Ltd.
【住所又は居所原語表記】No.018, Floor 8, Building 6, Yard 33, Middle Xierqi Road, Haidian District, Beijing 100085, China
(74)【代理人】
【識別番号】100079108
【弁理士】
【氏名又は名称】稲葉 良幸
(74)【代理人】
【識別番号】100109346
【弁理士】
【氏名又は名称】大貫 敏史
(74)【代理人】
【識別番号】100117189
【弁理士】
【氏名又は名称】江口 昭彦
(74)【代理人】
【識別番号】100134120
【弁理士】
【氏名又は名称】内藤 和彦
(74)【代理人】
【識別番号】100108213
【弁理士】
【氏名又は名称】阿部 豊隆
(72)【発明者】
【氏名】ラセール,セバスチャン
(72)【発明者】
【氏名】タケ,ジョナサン
(57)【要約】
2次元空間の離散的な位置のセットのいくつかの離散位置を占有する順序付きの粗い点によって表される点群ジオメトリデータを符号化/復号化する方法及び装置を提供する。この符号化方法は以下の各項目によって順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得(105)し、前記少なくとも1つのバイナリデータ(f)のそれぞれを符号化するステップであって、この順序インデックス差が連続して占有される2つの順序インデックス粗い点の順序インデックス間の差を表すステップを含む:現在の粗い点(P)の2次元空間内の座標(s,λ)を取得する(120)、現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得(130)し、前記センシング数(Nsens(s,λ))が現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表す、センシング数(Nsens(s,λ))に基づいて、バイナリデータ(f)をビットストリームにエントロピー符号化(150)する。
【選択図】図13
【特許請求の範囲】
【請求項1】
2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータをビットストリームに符号化する方法であって、
-現在の粗い点(P)の前記2次元空間内の座標(s,λ)を取得(120)することと、
-前記現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得(130)し、前記センシング数(Nsens(s,λ))は、前記現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、
-前記センシング数(Nsens(s,λ))に基づいて、バイナリデータ(f)を前記ビットストリームにエントロピー符号化(150)することと、
によって、順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得(105)し、前記少なくとも1つのバイナリデータ(f)のそれぞれを符号化し、前記順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す、
ことを特徴とする2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータをビットストリームに符号化する方法。
【請求項2】
ビットストリームから2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータを復号化する方法であって、
-現在の粗い点(P)の前記2次元空間内の座標を取得(210)することと、
-前記現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得(130)し、前記センシング数(Nsens(s,λ))は、前記現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、
-前記センシング数(Nsens(s,λ))に基づいて、前記バイナリデータ(f)をビットストリームにエントロピー復号化(220)することと、
によって、順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得し、前記順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す、
ことを特徴とするビットストリームから2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータを復号化する方法。
【請求項3】
前記センシング数(Nsens(s,λ))がアクティブ閾値(thactivation)より大きい場合、前記バイナリデータ(f)をエントロピー符号化(150)またはエントロピー復号化(220)することは、前記センシング数(Nsens(s,λ))に基づいて行われ、そうでない場合、少なくとも前記現在の粗い点(P)に関連付けられた1つの第1の座標と、前記現在の粗い点に関連付けられたセンサインデックス(λ)と同じセンサインデックスを有する以前に符号化または復号化された粗い点(Pprec)の1つの第1の座標との間の座標差(C)に基づいて、前記バイナリデータ(f)をエントロピー符号化またはエントロピー復号化する、
ことを特徴とする請求項1または2に記載の方法。
【請求項4】
前記バイナリデータ(f)をエントロピー符号化(150)またはエントロピー復号化(220)することは、サンプルインデックス(s)に依存する値(Δ)、センシング時刻に関連付けられた別のサンプルインデックス(slast)及び前記センシング数(Nsens(s,λ))に基づいて行われ、前記センシング時刻で、最後に占有された粗い点(Plast)によって表される前記点群の点はすでに前記センサインデックス(λ)に関連付けられた前記センサによってセンシングされている、
ことを特徴とする請求項1または2に記載の方法。
【請求項5】
前記値(Δ)は2つの閾値によって画定される、
ことを特徴とする請求項4に記載の方法。
【請求項6】
前記センシング数(Nsens(s,λ))は最後に占有された粗い点(Plast)に関連付けられた半径(robject)及び/又は方位角(φlast)に依存し、前記最後に占有された粗い点(Plast)は、前記現在の粗い点(P)に関連付けられた前記センサ(λ)によってセンシングされた前記点群の点を表す、
ことを特徴とする請求項1~5のいずれかに記載の方法。
【請求項7】
前記センシング数(Nsens(s,λ))は、前記点群の点間の平均距離に定義される点群特徴距離(LPC)、及び前記現在の粗い点に関連付けられた前記センサの2回の連続したセンシング間の2次元デカルト座標平面に定義される円弧長(Larc)に依存する、
ことを特徴とする請求項1~6のいずれかに記載の方法。
【請求項8】
前記円弧長(Larc)は前記現在の粗い点に関連付けられた前記センサによってセンシングされた前記点群の点の最後に占有された粗い点(Plast)に関連付けられた半径と、2回の連続したセンシング間の方位角シフトとに基づいている、
ことを特徴とする請求項7に記載の方法。
【請求項9】
前記点群特徴距離(LPC)は前記ビットストリームに符号化される、
ことを特徴とする請求項7または8に記載の方法。
【請求項10】
2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータをビットストリームに符号化する装置であって、前記装置は少なくとも1つのプロセッサを含み、前記少なくとも1つのプロセッサは、
-現在の粗い点(P)の前記2次元空間内の座標(s,λ)を取得することと、
-前記現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得し、前記センシング数(Nsens(s,λ))は、前記現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、
-前記センシング数(Nsens(s,λ))に基づいて、バイナリデータ(f)を前記ビットストリームにエントロピー符号化することと、
によって、順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得し、前記少なくとも1つのバイナリデータ(f)のそれぞれを符号化するように構成され、前記順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す、
ことを特徴とする2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータをビットストリームに符号化する装置。
【請求項11】
ビットストリームから2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータを復号化する装置であって、前記装置は少なくとも1つのプロセッサを含み、前記少なくとも1つのプロセッサは、
-現在の粗い点(P)の前記2次元空間内の座標を取得することと、
-前記現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得し、前記センシング数(Nsens(s,λ))は、前記現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、
-前記センシング数(Nsens(s,λ))に基づいて、バイナリデータ(f)を前記ビットストリームにエントロピー復号化することと、
によって、順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得するように構成され、前記順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す、
ことを特徴とするビットストリームから2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータを復号化する装置。
【請求項12】
命令を含むコンピュータプログラム製品であって、プログラムが1つまたは複数のプロセッサによって実行される場合、前記命令は前記1つまたは複数のプロセッサに、2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータをビットストリームに符号化する方法を実行させ、前記方法は、
-現在の粗い点(P)の前記2次元空間内の座標(s,λ)を取得(120)することと、
-前記現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得(130)し、前記センシング数(Nsens(s,λ))は、前記現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、
-前記センシング数(Nsens(s,λ))に基づいて、バイナリデータ(f)を前記ビットストリームにエントロピー符号化(150)することと、
によって、順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得(105)し、前記少なくとも1つのバイナリデータ(f)のそれぞれを符号化し、前記順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す、
ことを特徴とするコンピュータプログラム製品。
【請求項13】
非一時的な記憶媒体であって、2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータをビットストリームに符号化する方法を実行するためのプログラムコードの命令が運ばれ、前記方法は、
-現在の粗い点(P)の前記2次元空間内の座標(s,λ)を取得(120)することと、
-前記現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得(130)し、前記センシング数(Nsens(s,λ))は、前記現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、
-前記センシング数(Nsens(s,λ))に基づいて、バイナリデータ(f)を前記ビットストリームにエントロピー符号化(150)することと、
によって、順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得(105)し、前記少なくとも1つのバイナリデータ(f)のそれぞれを符号化し、前記順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す、
ことを特徴とする非一時的な記憶媒体。
【請求項14】
命令を含むコンピュータプログラム製品であって、プログラムが1つまたは複数のプロセッサによって実行される場合、前記命令は前記1つまたは複数のプロセッサに、ビットストリームから2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータを復号化する方法を実行させ、前記方法は、
-現在の粗い点(P)の前記2次元空間内の座標を取得(210)することと、
-前記現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得(130)し、前記センシング数(Nsens(s,λ))は、前記現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、
-前記センシング数(Nsens(s,λ))に基づいて、バイナリデータ(f)を前記ビットストリームにエントロピー復号化(220)することと、
によって、順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得し、前記順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す、
ことを特徴とするコンピュータプログラム製品。
【請求項15】
非一時的な記憶媒体であって、ビットストリームから2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータを復号化する方法を実行するためのプログラムコードの命令が運ばれ、前記方法は、
-現在の粗い点(P)の前記2次元空間内の座標を取得(210)することと、
-前記現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得(130)し、前記センシング数(Nsens(s,λ))は、前記現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、
-前記センシング数(Nsens(s,λ))に基づいて、バイナリデータ(f)を前記ビットストリームにエントロピー復号化(220)することと、
によって、順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得し、前記順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す、
ことを特徴とする非一時的な記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の相互引用
本出願は、2021年9月24日に提出された欧州特許出願番号No.21306322.5の優先権及び権益を要求し、すべての目的のために、そのすべての内容は参照によって本明細書に組み込まれる。
【0002】
本出願は、一般に点群圧縮に関し、具体的には、少なくとも1つのセンサでセンシングされた点群ジオメトリデータを符号化/復号化する方法及び装置に関する。
【背景技術】
【0003】
このセクションは、読者に当技術分野の様々な態様を紹介することを目的とし、これらの態様は、以下に記載および/または特許請求される本出願の少なくとも1つの実施例の様々な態様に関連する。この議論は、本出願のあらゆる態様をよりよく理解するために、読者に背景情報を提供するのに役立つと考えられる。
【0004】
点群は、3Dデータを表すフォーマットとして最近注目されている。これは、すべてのタイプの物理的オブジェクトまたはシナリオを表す能力が様々である。点群は文化遺産/建築物など、様々な目的で使用でき、物体を送信したりアクセスしたりすることなく物体の空間設定(configuration)を共有するために、彫刻や建物のような物体を3D方式でスキャンする。また、物体が破壊される可能性がある場合、その物体の知識を確実に保存する方式である。例えば、地震では破壊されたお寺である。通常、このタイプの点群は静的でカラーで巨大である。
【0005】
もう一つの使用例は地形学と製図学であり、3D表現を使用して地図が平面に限らず起伏を含むことができることを許可する。Googleマップは現在3Dマップの良い例であるが、点群ではなくメッシュを使用している。しかし、点群は3Dマップの適切なデータフォーマットであってもよく、通常、このタイプの点群は静的でカラーで巨大である。
【0006】
バーチャルリアリティ(VR)、拡張現実(AR)、没入型の世界は最近話題となり、多くの人に2Dタブレットビデオの未来と予見されている。その基本思想は視聴者を周囲の環境に浸らせることであるが、規格テレビでは視聴者が彼/彼女自分の前の仮想世界を見ることしか許されていない。視聴者の環境における自由度により、没入感にはいくつかのレベルがある。点群はVR/AR世界を配布する良いフォーマット候補である。
【0007】
自動車産業、特に予見可能な自動運転車の分野も、点群を大量に使用できる分野である。自動運転車は、検出された彼らの最も近い近傍の物体の存在や性質、及び道路配置に基づいて、良好な運転判断を行うために、彼らの環境を「検知」することができるはずである。
【0008】
点群とは、三次元(3D)空間に位置する点の集合であり、選択的に各点に付加値を付加する。これらの付加値は、通常、属性と呼ばれる。属性は、例えば、3成分の色、材料特性(例えば反射率)、及び/又は点に関連付けられた表面への2成分の法線ベクトルであってもよい。
【0009】
したがって、点群はジオメトリデータ(3D空間における点の位置であり、通常、3Dデカルト座標x、y、zで表される)と属性との組み合わせである。
【0010】
点群は、カメラのアレイ、深度センサ、レーザ(光検出と測距、レーザライダーとも呼ばれる)、レーダーなど、様々なタイプのデバイスでセンシングすることができ、または、コンピュータで生成することもできる(例えば、映画のポストプロダクションなど)。使用例に応じて、地図作成のために、点群には数千から数十億の点が含まれてもよい。点群の元の表現には、点ごとに非常に多くのビット数が必要であり、デカルト座標x、y、またはzごとに少なくとも十数ビットがあり、さらに選択的に(1つまたは複数)属性により多くのビット、例えば、色用の10ビットの3倍、を提供する。
【0011】
多くのアプリケーションでは、許容できる(または好ましくは非常に優れた)体験品質を維持しながら、適切な数のビットレートまたはストレージスペースを消費するだけで、エンドユーザに点群を配布したり、サーバに保存したりできることが重要である。これらの点群の効率的な圧縮は、多くの没入型の世界の配布チェーンを実用化するための重要なポイントである。
【0012】
エンドユーザによる配布と可視化に対して、例えばAR/VRグラスやその他の任意の3D対応デバイスでは、圧縮は非可逆圧縮(例えば、ビデオ圧縮の場合)であってもよい。しかし、医療アプリケーションや自動運転など、圧縮され伝送された点群の後続解析から取得される判断結果を変更しないようにするために、可逆圧縮を必要とする使用例もある。
【0013】
最近まで、マスマーケットは点群圧縮(別名PCC)の問題を解決せず、使用可能な規格化された点群デコーダーもない。2017年、規格化ワーキンググループISO/CT1/SC29/WG11は、ビデオ像専門家グループまたはMPEGとも呼ばれ、点群圧縮の作業プロジェクトを開始した。その結果、次の2つの規格が制定されている。
・ MPEG-I パート5(ISO/IEC 23090-5)またはビデオベースの点群圧縮(別名V-PCC)
・ MPEG-I パート9(ISO/IEC 23090-9)またはジオメトリベースの点群圧縮(別名G-PCC)
【0014】
V-PCC符号化方法は、3Dオブジェクトに複数回の投影を行って点群を圧縮して、画像(動的点群を処理する場合のビデオ)にパッケージ化された2Dパッチを取得するする。既存の画像/ビデオコーデックで取得された画像やビデオを圧縮し、すでに配置された画像とビデオ解決案を最大限に活用可能になる。画像/ビデオコーデックが、レーザーライダーでセンシングされた疎なジオメトリデータの投影から取得された非平滑なパッチのような非平滑なパッチを圧縮することができないため、V-PCCは、その本質上で、密集した点群と連続した点群のみで効率的である。
【0015】
G-PCC符号化方法は、センシングされた疎なジオメトリデータを圧縮するための2つの方案がある。
【0016】
第1の方案は、ローカルでは八分ツリー、四分ツリー、二分ツリーの任意のタイプのツリーである占有ツリーに基づいており、点群ジオメトリを表している。占有されたノード(すなわち、点群の少なくとも1つの点を含む立方体/直方体に関連するノード)は一定のサイズに達するまで分割され、占有されたリーフノードによって点の3D位置が提供され、通常これらのノードの中心にある。占有情報は、占有データ(バイナリデータ、フラグ)によって運ばれ、占有フラグがノードのサブノードのそれぞれの占有状態を通信するための信号を送信する。近傍ベースの予測技術を使用することにより、密な点群が占有するデータの高いレベルの圧縮率を取得することができる。疎な点群は、ノード内の非最小サイズの点の位置を直接符号化することによっても解決でき、ノード内に孤立した点のみが存在する場合にツリー構築を停止する。このような技術は直接符号化モード(DCM)と呼ばれる。
【0017】
第2の方案は、各ノードが1点の3D位置を表し、ノード間の親/子関係が親から子への空間予測を表す予測ツリーに基づくものである。この方法は疎な点群しか解決せず、占有ツリーよりも遅延が低く復号化が簡単であるという利点が提供される。しかし、占有ベースの第1の方法に対して、圧縮性能はわずかしか向上せず、エンコーダが予測ツリーを構築する際に(潜在的な予測器の長いリストから)最適な予測器を集中的に探す必要があるため、符号化が複雑になる。
【0018】
この2つの方案では、属性(復号化)符号化は、ジオメトリ(復号化)符号化が完了した後に行われるため、実質的に2つの符号化が発生する。従って、結合ジオメトリ/属性低遅延は、サブボリューム間で予測することなく、3D空間を独立して符号化されるサブボリュームのスライスに分解することによって得られる。多くのスライスを使用すると、圧縮性能に深刻な影響を与える。
【0019】
エンコーダとデコーダの簡素化、低遅延、圧縮性能の要件を組み合わせることは、既存の点群コーデックでは依然として満足に解決されていない問題である。
【0020】
重要な使用例は、移動車両に搭載された少なくとも1つのセンサでセンシングされた疎なジオメトリデータの伝送である。この場合、通常、簡単で低遅延な組み込みエンコーダを必要とされる。簡単性が要求され、エンコーダが他の処理(例えば、(半)自動運転)を並行して実行するコンピューティングユニットに配置される可能性があるため、点群エンコーダが使用可能な処理能力が制限される。また、自動車からクラウドへの高速伝送を可能にするために、複数の車両の収集に基づいてローカル交通をリアルタイムで確認し、交通情報に基づいて十分急速な決定を行うように、低い遅延が必要である。5Gの使用により、伝送遅延を十分に低くすることができるが、符号化のためにエンコーダ自体があまり多くの遅延を導入すべきではない。そして、数百万台の自動車からクラウドへのデータの流れは膨大になると予測されるため、圧縮性能は極めて重要である。
【0021】
スピンレーザレーダーでセンシングされた疎なジオメトリデータに関連する特定のプライアは、すでにG-PCCで利用されており、非常に顕著な圧縮利得をもたらす。
【0022】
まず、G-PCCでは、図1図2に示すように、スピンレーザレーダーヘッド10でセンシングされた仰角(水平な地面に対する)を利用する。レーザレーダーヘッド10は、センサー11(例えば、レーザ機器)の集合を含み、ここでは5つのセンサが示される。スピンレーザレーダーヘッド10は、鉛直軸z周りに回転して、物理的オブジェクトのジオメトリデータをセンシングすることができる。その後、レーザレーダーでセンシングされたジオメトリデータは球面座標(r3D,φ,θ)で表され、r3Dが点Pからレーザレーダーヘッドの中心までの距離であり、φは基準物に対するレーザレーダーヘッドの自己回転の方位角であり、θは水平基準平面に対するレーザレーダーヘッド10のセンサーkの仰角である。
【0023】
図3に示されるように、レーザレーダでセンシングされたデータで方位角に沿った規則的な分布が観察されている。この規則性は、G-PCCにおいて点群の準1D表現を取得するために用いられ、ノイズまで半径r3Dのみが連続した値の範囲に属し、角度φとθは離散的な数の値のみを取り、φ∀i=0~I-1であり、Iは点をセンシングするための方位角の数であり、θj∀i=0~J-1であり、Jはスピンレーザレーダーヘッド10のセンサの数である。基本的に、図3に示すように、G-PCCは2次元(離散)角度座標空間(φ,θ)でのレーザレーダーでセンシングされた疎なジオメトリデータ、及び各点の半径値r3Dを表す。
【0024】
球面座標空間において、角度の離散的特性を用いることにより、すでに符号化された点に基づいて現在の点の位置を予測し、このような準1D特性はすでにG-PCCにおいて占有ツリーと予測ツリーの両者において利用されている。
【0025】
より正確には、占有ツリーはDCMを大量に使用し、コンテキスト自己適応エントロピーエンコーダを使用してノード内の点の直接位置をエントロピー符号化する。点の位置から角度座標(φ,θ)へのローカル変換、及び以前に符号化された点から取得された離散的な角度座標(φ,θ)に対するこれらの角度座標の位置からコンテキストを取得する。この座標空間を使用した準1Dの性質(r2D,φ,θ)を使用して、予測ツリーは角度座標(r2D,φ,θ)における点の位置の最初のバージョンを直接符号化し、図4に示すように、r2Dは水平xy平面上の投影半径である。次に、球面座標(r2D,φ,θ)を3Dデカルト座標(x、y、z)に変換し、座標変換の誤差、仰角および方位角の近似、および潜在的なノイズを解決するために、xyz残差を符号化する。
【0026】
G-PCCは、確かにスピンレーザレーダでセンシングされた疎なジオメトリデータをよりよく圧縮するために角度プライアを使用するが、符号化構造をセンシングの順序に適合させない。本質的には、占有ツリーは点を出力する前にその最後の深さまで符号化する必要がある。この占有データは、いわゆる広さ優先順位に従って符号化される:最初にルートノードの占有データを符号化して、それが占有されているサブノードを指示し、次に、占有されている各サブノードの占有データを符号化して、占有されている孫ノードを指示し、このように、リーフノードが決定され、対応する点がアプリケーションまたは(1つまたは複数の)属性符号化方案に提供/出力されるまで、ツリーの深さで繰り返し実行される。予測ツリーについては、エンコーダはツリー内の点の順序を自由に選択することができるが、良好な圧縮性能を取得し、予測精度を最適化するために、G-PCCは、センサごとに1本のツリーを符号化することを推奨する。これは主に、各センサが1つの符号化スライスを使用するのと同じ欠点、すなわち、センサ間の予測が不可能であり、エンコーダの低遅延が提供されないため、非最適な圧縮性能を有する。さらに悪いことに、各センサは1つの符号化処理を有するべきであり、コア符号化ユニットの数はセンサの数に等しい必要があるため、これは非現実的である。
【0027】
つまり、点群の疎なジオメトリデータをセンシングするためのスピンセンサヘッドのフレームワークにおいて、従来技術は、符号化及び復号化の簡単さ、低遅延性、及び圧縮性能の組み合わせの問題を解決していない。
【0028】
また、スピンセンサヘッドを使用して点群の疎なジオメトリデータをセンシングすることにはいくつかの欠点があり、他のタイプのセンサヘッドを使用することもできる。
【0029】
スピンセンサヘッドのスピン(回転)が発生する機械部品は破損しやすく、コストが高い。また、構造上、視野角は必然的に2πとなる。これは、関心のある特定の領域を高周波数でセンシングすることを許さず、例えば、車両の前方をセンシングすることが、後方をセンシングするよりも興味深い可能性がある。実際、ほとんどの場合、センサが車両に取り付けられるとき、2π視野角の大部分は車両自体によって遮蔽され、遮蔽された視野角はセンシングされる必要がない。
【0030】
最近、センシングすべき領域をより柔軟に選択できる新しいセンサが登場した。ほとんどの最近の設計では、図5に示されるように、センサは、3Dシーン内の様々なセンシング経路を取得するために、より自由に電子的に(壊れやすい機械部品を回避するために)移動することができる。図5には、4つのセンサのグループが示される。それらの相対的なセンシング方向(すなわち、方位角と仰角)は互いに固定されているが、それらは全体的に2次元角度座標(φ,θ)空間上の破線で描かれるプログラマブルなセンシング経路に沿ってシーンをセンシングする。そして、センシング経路に沿って点群の点を規則的にセンシングすることができる。図6に示すように、関心領域Rが検出された場合、いくつかのセンサヘッドはまた、そのセンシング周波数を増加させることにより、そのセンシング周波数を調整することができる。このような関心領域Rは、例えば、前のフレームにおいて以前にセグメント化されている、またはセンシング期間に動的にセグメント化された近距離オブジェクト、移動オブジェクト、または任意のオブジェクト(歩行者、他の車両など)に関連付けられることができる。図7は、2つのセンサを含むセンサヘッドによって使用されるセンシング経路(典型的なジグザグセンシング経路)の別の例を概略的に示しており、関心領域(グレーシェーディング点とグレーハッシュ点)が検出された場合、この2つのセンサはそれらのセンシング周波数を増加させることができる。ジグザグセンシング経路を使用することは、3Dシーンの有限(方位角)角セクタをセンシングするために有利に使用されることができる。センサが車両に取り付けられることができるため、センサが車両の上部に位置しない限り、関心のあるビューポートは必然的にシーンを遮る車両自体の存在によって制限される。そのため、限られた検知角セクタを有するセンサが高く注目され、車両への統合が容易になる。
【0031】
図8に示すように、単一のセンサを含むセンサヘッドは、回転(ここでは垂直回転)に伴って振動するミラーでの反射を使用するなど、複数の位置(図8の2つの垂直位置)をセンシングするために使用されてもよい。この場合、センサのグループを使用せず、複数のセンサのグループを使用するセンシングを、センシング経路(ここではジグザグセンシング経路)に沿って異なる角度位置(すなわち、図8では異なる仰角を有する)にある単一のセンサを使用してシミュレーションする。簡単にするために、以下の説明および請求項において、「センサヘッド」は、物理センサのグループ、またはセンサのグループをシミュレーションするセンシング仰角インデックスのセットを指すことができる。また、当業者であれば、「センサ」は、各センシング仰角インデックス位置におけるセンサを指すこともできることを理解できる。
【0032】
エンコーダとデコーダの簡素化、低遅延、及びあらゆるタイプのセンサでセンシングされた点群の圧縮性能の要件を組み合わせることは、既存の点群コーデックでは依然として満足に解決されていない問題である。
【0033】
上記の内容を考慮して本出願の少なくとも1つの実施例は設計される。
【発明の概要】
【発明が解決しようとする課題】
【0034】
次節では、本出願のいくつかの態様の基本的な理解を提供するために、少なくとも1つの実施例の簡素化された概要を提示する。この概要は、実施例の詳細な概要ではない。これは、実施例の肝心な要素または重要な要素を特定することを意図していない。以下の概要は、文書中の他の場所で提供されるより詳細な説明の前置きとして、実施例の少なくとも1つのいくつかの態様のみを簡略化された形で提示する。
【課題を解決するための手段】
【0035】
本出願の第1の態様によれば、2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点(coarse point)によって表される点群ジオメトリデータをビットストリームに符号化する方法を提供する。この方法は、現在の粗い点の2次元空間内の座標を取得することと、現在の粗い点に基づいてセンシング数を取得し、前記センシング数は、現在の粗い点に関連付けられたセンサが別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、センシング数に基づいて、バイナリデータをビットストリームにエントロピー符号化することと、によって、順序インデックス差を表す少なくとも1つのバイナリデータを取得し、前記少なくとも1つのバイナリデータのそれぞれを符号化し、順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す。
【0036】
本出願の第2の態様によれば、ビットストリームから2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータを復号化する方法を提供する。この方法は、現在の粗い点の2次元空間内の座標を取得することと、現在の粗い点に基づいてセンシング数を取得し、前記センシング数は、現在の粗い点に関連付けられたセンサが別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、センシング数に基づいて、バイナリデータをビットストリームにエントロピー復号化することと、によって、順序インデックス差を表す少なくとも1つのバイナリデータを取得し、順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す。
【0037】
いくつかの実施例では、センシング数がアクティブ閾値より大きい場合、バイナリデータをエントロピー符号化またはエントロピー復号化するのはセンシング数に基づいて行われ、そうでない場合、少なくとも現在の粗い点に関連付けられた1つの第1の座標と、現在の粗い点に関連付けられたセンサインデックスと同じセンサインデックスを有する以前に符号化または復号化された粗い点の1つの第1の座標との間の座標差に基づいて、バイナリデータをエントロピー符号化またはエントロピー復号化する。
【0038】
いくつかの実施例では、バイナリデータをエントロピー符号化またはエントロピー復号化することはサンプルインデックスに依存する値と、センシング時刻に関連付けられた別のサンプルインデックス及びセンシング数に基づいて行われ、センシング時刻で、最後に占有された粗い点によって表される点群の点はすでにセンサインデックスに関連付けられたセンサによってセンシングされている。
【0039】
いくつかの実施例では、値は2つの閾値によって画定される。
【0040】
いくつかの実施例では、センシング数は、現在の粗い点に関連付けられたセンサによってセンシングされた点群の点を表す最後に占有された粗い点に関連付けられた半径及び/又は方位角に依存する。
【0041】
いくつかの実施例では、センシング数は点群の点間の平均距離に定義される点群特徴距離と、現在の粗い点に関連付けられたセンサの2回の連続したセンシング間に定義される2次元デカルト座標平面における円弧長とに依存する。
【0042】
いくつかの実施例では、円弧長は現在の粗い点に関連付けられたセンサによってセンシングされた点群の点を表す最後に占有された粗い点に関連付けられた半径と、2回の連続したセンシング間の方位角シフトとに基づいている。
【0043】
いくつかの実施例では、点群特徴距離はビットストリームに符号化される。
【0044】
本出願の第3の態様によれば、2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータをビットストリームに符号化する装置を提供する。この装置は、本出願の第1の態様に係る方法を実行するように構成される1つまたは複数のプロセッサを含む。
【0045】
本出願の第4の態様によれば、ビットストリームから2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータを復号化する装置を提供する。この装置は、本出願の第2の態様に係る方法を実行するように構成される1つまたは複数のプロセッサを含む。
【0046】
本出願の第5の態様によれば、命令を含むコンピュータプログラム製品が提供され、プログラムが1つまたは複数のプロセッサによって実行される場合、1つまたは複数のプロセッサに本出願の第1の態様の方法を実行させる。
【0047】
本出願の第6の態様によれば、本出願の第1の態様の方法を実行するためのプログラムコードの命令を含む非一時的記憶媒体が提供される。
【0048】
本出願の第7の態様によれば、命令を含むコンピュータプログラム製品が提供され、プログラムが1つまたは複数のプロセッサによって実行されるとき、この命令が1つまたは複数のプロセッサに本出願の第2の態様の方法を実行させる。
【0049】
本出願の第8の態様によれば、本出願の第2の態様の方法を実行するためのプログラムコードの命令を含む非一時的記憶媒体が提供される。
【0050】
実施例のうちの少なくとも1つの具体的な性質、及びこの実施例のうちの少なくとも1つの他の目的、利点、特徴、及び用途は、以下図面と併せた例の説明から明らかになる。
【図面の簡単な説明】
【0051】
本出願の実施例を示す図面が例示的に参照される。
図1】従来技術に係るセンサヘッドおよびそのいくつかのパラメータの側面図を概略的に示す図である。
図2】従来技術に係るセンサヘッドおよびそのいくつかのパラメータの平面図を概略的に示す図である。
図3】従来技術に係るスピンセンサヘッドでセンシングされたデータの規則的な分布を概略的に示す図である。
図4】従来技術に係る3D空間中の点群の点の表現を概略的に示す図である。
図5】従来技術に係るプログラマブルセンシング路径に沿って実際のシーンをセンシング可能なセンサヘッドの例を概略的に示す図である。
図6】従来技術に係る異なるセンシング周波数に基づいてプログラマブルセンシング路径に沿って実際のシーンをセンシング可能なセンサヘッドの例を概略的に示す図である。
図7】従来技術に係る異なるセンシング周波数に基づいてプログラマブルジグザグセンシング路径に沿って実際のシーンをセンシング可能なセンサヘッドの例を概略的に示す図である。
図8】異なるセンシング周波数に基づいてプログラマブルジグザグセンシング路径に沿って実際のシーンをセンシング可能な単一のセンサヘッドを概略的に示す図である。
図9】少なくとも1つの実施例に係る粗い表現の順序付きの粗点の例を概略的に示す図である。
図10】少なくとも1つの実施例に係るデュアルセンサヘッドによってセンシングされた粗い表現の順序付きの粗い点の例を概略的に示す図である。
図11】2次元座標(s,λ)空間における順序付きの粗い点の表示を概略的に示す図である。
図12】少なくとも1つの実施例に係る粗い表現の順序付きの粗い点を概略的に示す図である。
図13】少なくとも1つの実施例に係る点群ジオメトリデータを符号化された点群データのビットストリームに符号化する方法100のステップを示す概略的なブロック図である。
図14】一実施例に係る占有されている粗い点及び占有されない粗い点を有する粗い表現の例を概略的に示す図である。
図15】一実施例に係る占有されている粗い点及び占有されない粗い点を有する粗い表現の例を概略的に示す図である。
図16】一実施例に係る特徴点群距離と、同一のセンサによる2回の連続センシングの間の距離の表現を概略的に示す図である。
図17】近傍占有設定の例に基づいて計算される座標差Cの例を概略的に示す図である。
図18】近傍占有設定の例に基づいて計算される座標差Cの例を概略的に示す図である。
図19】近傍占有設定の例に基づいて計算される座標差Cの例を概略的に示す図である。
図20】近傍占有設定の例に基づいて計算される座標差Cの例を概略的に示す図である。
図21】一実施例に係る異なる2つのセンシング時刻に関連する2つのサンプルインデックス間の差の例を示す図であり、この異なる2つのセンシング時刻ですでに同一のセンサで2つの粗い点がセンシングされた。
図22】一実施例に係るセンシング数の補正を概略的に示す図である。
図23】少なくとも1つの実施例に係る符号化された点群データのビットストリームから点群ジオメトリデータを復号化する方法200のステップを示す概略的なブロック図である。
図24】少なくとも1つの実施例に係るコンテキスト自己適応バイナリ算術エンコーダのステップを示す概略ブロック図である。
図25】様々な態様と実施例が実現されるシステムの一例を示す概略ブロック図である。 異なる図において、類似した符号を使用して類似した構成要素を表すことができる。
【発明を実施するための形態】
【0052】
以下、図面を参照しながら、実施例のうちの少なくとも1つの例を説明し、実施例のうちの少なくとも1つを図示する。しかし、実施例は、多くの代替形態で実行されることができ、本明細書に記載された例に限定されるものとして解釈されるべきではない。したがって、実施例が開示された特定の形態に限定されることは意図されていないことが理解されたい。対照的に、本出願は、本出願の精神および範囲内に含まれるすべての修正、均等物および代替案をカバーすることを意図している。
【0053】
少なくとも一方では、一般に点群符号化および復号化に関し、他方では、一般に、生成または符号化されたビットストリームの伝送に関し、また他方では、復号化されたビットストリームの受信/アクセスに関する。
【0054】
また、本態様は、点群圧縮などに関連するMPEG-Iパート5またはパート9のようなMPEG標準に限定されるものではなく、例えば、既存または将来開発されたものを問わず他の標準および推奨、およびこのような標準および推奨(MPEG-Iパート5およびパート9を含む)の拡張に適用されることができる。特に指示がない限り、又は技術的に除外されない限り、本出願に記載された態様は、単独で又は組み合わせて使用されることができる。
【0055】
本発明は、2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する粗い表現の順序付きの粗い点によって表される点群ジオメトリデータを符号化/復号化することに関する。
【0056】
例えば、MPEG 3Dグラフィックス符号化に関連するワーキンググループISO/IEC JTC1/SC29/WG7では、L3C2(低遅延低複雑さのコーデック)と呼ばれる新規コーデックが、G-PCCコーデックに対してレーザレーダでセンシングされた点群の符号化効率を向上させると考えられている。コーデックL3C2は、点群の点の2次元表現(すなわち粗い表現)の例を提供する。このコードの説明は、2021年8月31日付けのワーキンググループの出力文書N 00167、ISO/IEC JTC1/SC 29/WG7、MPEG 3Dグラフィックス符号化、「Technologies under Consideration in G-PCC(G-PCCにおける検討中の技術)」に記載されている。
【0057】
基本的に、点群の各センシング点Pに対して、センシング点Pの3D位置を表す3Dデカルト座標(x,y,z)を変換することにより、センシング点Pのセンサに関連付けられたセンサインデックスλとこのセンサのセンシング角を表す方位角φとを取得する。その後、方位角φとセンサインデックスλとに基づいて点群の点をソートし、例えば、最初に方位角に基づいて次にセンサインデックスに基づいた辞書順に基づく。その後、点Pの順序インデックスo(P)は以下の式で取得される。
o(P)=φ K+λ
ここで、Kはセンサの数である。
【0058】
図9は粗い表現の順序付きの粗い点を概略的に示す図である。点群の5つの点はすでにセンシングされている。この5点のそれぞれは、粗い表現における粗い点(黒点)によって粗く表現される:2つの粗い点PとPn+1は、時間t1に角度φ(φ 内)でセンシングされた点群のうちの2つの点を表し、3つの粗い点は時間tに角度φ+Δφでセンシングされた点群のうちの3つの点を表す。センシングされた点群の点を表現する粗い点は占有された点であり、センシングされた点群の点を表現しない粗い点は占有されない点である。点群の点は粗い表現において占有された粗い点で表現されるため、点群の点に関連する順序インデックスも占有された粗い点に関連する順序インデックスである。
【0059】
その後、2次元座標(φ,λ)空間内で点群ジオメトリデータの粗い表現を定義できる。
【0060】
回転(スピン)または非回転センサヘッドを含むあらゆるタイプのセンサヘッドに対して粗い表現を定義することもできる。その定義は、2次元角度座標(φ,θ)空間内のセンサ特性によって定義されるセンシング経路に基づいており、この2次元角度座標(φ,θ)空間は方位角を表す方位角度座標φと仰角度座標θとを含み、方位角は基準物に対するセンサのセンシング角を表し、仰角度座標θは水平基準平面に対するセンサの仰角を表す。センシング路径は、センシングされた点群の点の潜在的な位置を表す順序付きの粗い点に基づいて点群の点をセンシングするために使用される。各粗い点はセンシング路径に沿ったセンシング時刻に関連付けられた1つのサンプルインデックスsとセンサに関連付けられた1つのセンサインデックスλとに基づいて定義される。
【0061】
図10では、2つのセンサを含むセンサヘッドを使用する。2つのセンサが沿うセンシング経路は破線で表される。各サンプルインデックスs(各センシング時刻)に対して、2つの粗い点を定義する。第1のセンサに関連付けられた粗い点は図10の黒色の陰影点によって表され、第2のセンサに関連付けられた粗い点は黒色のハッシュ点によって表される。この2つの粗い点のそれぞれは、センシング経路SPによって定義されるセンサセンシング経路(破線)に属する。図11は2次元座標(s,λ)空間における順序付きの粗い点の表現を概略的に示す。図10図11の矢印は、2つの連続した順序付きの粗い点間のリンクを示す。
【0062】
順序付きの粗い点におけるこの粗い点のソートに基づいて、順序インデックスo(P)を各粗い点に関連付ける。
o(P)=λ+s
【0063】
ここで、Kはセンサセットにおけるセンサの数または同じサンプルインデックスに対する単一のセンサの異なる位置の数であり、λは、センシング時刻sで点群の点Pをセンシングしたセンサのセンサインデックスである。
【0064】
図12は粗い表現の順序付きの粗い点を示し、5つの占有された粗い点(黒い丸)を示している。2つの粗い点PとPn+1はセンシング時刻t(サンプルインデックスsに対応する)でセンシングされた点群の2つの点によって占有され、3つの粗い点はセンシング時刻t(サンプルインデックスsに対応する)でセンシングされた点群の3つの点によって占有される。
【0065】
その後、2次元座標(s,λ)空間内で点群ジオメトリデータの粗い表現を定義できる。
【0066】
点群ジオメトリデータの粗い表現が定義されている2次元空間とは別に、点群ジオメトリデータを符号化するには、順序インデックス差Δoを符号化することにより、粗い表現の占有された粗い点の占有データを符号化することが含まれ、各順序インデックス差Δoは、連続して占有された2つの粗い点P-1とPの順序インデックス間の差を表す。
Δo=o(P)-o(P-1
【0067】
図9では、2次元座標(φ,λ)空間における1番目の占有された粗い点Pの座標が予め知られていると仮定すると、第1の順序インデックス差Δon+1を取得して、占有された粗い点Pn+1に関連付けられた順序インデックスo(Pn+1)と占有された粗い点Pに関連付けられた順序インデックスo(P)との間の差とする。第2の順序インデックス差Δon+2を取得して、別の占有された粗い点Pn+2に関連付けられた順序インデックスo(Pn+2)とPn+1に関連付けら得た順序インデックスo(Pn+1)との間の差とし、以下同様である。
【0068】
図12では、2次元座標(s,λ)空間における1番目の占有された粗い点Pの座標が予め知られていると仮定すると、第1の順序インデックス差Δon+1を取得して、占有された粗い点Pn+1の順序インデックスo(Pn+1)と占有された粗い点Pの順序インデックスo(P)との間の差とする。例では、粗い点(白い円)が占有されていないため、Δon+1=2である。第2の順序インデックス差Δon+2を取得して、別の占有された粗い点Pn+2の順序インデックスo(Pn+2)と占有された粗い点Pn+1の順序インデックスo(Pn+1)との間の差とし、以下同様である。
【0069】
点群の1番目のセンシングされた点Pによって占有された1番目の粗い点の順序インデックスo(P)をビットストリームBに直接符号化することができる。これは、仮想のゼロ番目の点の順序インデックスをゼロに設定すること、すなわち、o(P)=0、およびΔo(1)=o(P)-o(P)=o(P)を符号化することに相当する。
【0070】
点群の1番目のセンシングされた点Pによって占有された1番目の粗い点の順序インデックスo(P)と次序差Δoとが与えられると、以下の式により、点群のセンシングされた点Pによって占有された任意の占有された粗い点の順序インデックスo(P)を再帰的に再構築することができる。
o(P)=o(P-1)+Δo
【0071】
以下では、2次元座標(s、λ)空間で定義された粗い表現を考慮して本発明を説明する。しかし、スピンセンサヘッド(レーザレーダヘッドなど)は2次元座標(s,λ)空間で定義された特定の粗い表現であるため、2次元座標(φ,λ)空間で定義された粗い表現も同様に説明することができ、各センシング時刻で、センサヘッドのセンサは物体をセンシングし、センシングされた点は表現された占有された粗い点に対応する。
【0072】
簡単に言えば、符号化方法は、以下に示すように、2つの連続した粗い点の順序インデックス間の差を表す順序インデックス差Δoを表す少なくとも1つのバイナリデータを取得し、前記少なくとも1つのバイナリデータfのそれぞれを符号化するステップを含む。順序インデックス差が特定の値Vに等しい場合、1つのバイナリデータfは信号を送信ことによって通知できるため、バイナリデータfが現在の粗い点Pの占有を通知するために、順次に信号を送信するようにする。
o(P)=o(P-1)+V
ここで、P-1は連続して占有される2つの粗い点のうちの占有された粗い点である。
【0073】
まず、現在の粗い点Pに基づいてセンシング数を取得し、このセンシング数が現在の粗い点Pに関連付けられたセンサが別の粗い点をセンシングするために必要な連続センシングの平均数を表す。次に、センシング数に基づいてバイナリデータfをエントロピー符号化/復号化する。
【0074】
順序インデックスの差を表すバイナリデータをエントロピー符号化/復号化することは、センサインデックスまたは占有された2つの粗い点の間の現在の粗い点のインデックス値など、粗い表現のジオメトリ形状に依存するジオメトリ情報に基づくことができる。このようなジオメトリ情報はセンサのセンシング特性に基づくものではない。従って、粗い表現の粗い点の占有を予測するために重要な関連情報を逃す可能性がある。
【0075】
エントロピー符号化/復号化のためのセンシング数は現在の粗い点に関連付けられたセンサが別の粗い点をセンシングするために必要な連続センシングの平均数を表す。したがって、後で詳細に説明するように、センシング数はセンシング特性に関連する情報を提供する。
【0076】
バイナリデータをエントロピー符号化/復号化することは、センシング数に基づいてコンテキストを選択することを含むことができる。センシング数に基づいてコンテキストを選択することにより、よりよく予測を提供し、これによって符号化対象のバイナリデータをよりよくエントロピー符号化/復号化する。
【0077】
図13は少なくとも1つの実施例に係る点群ジオメトリデータを符号化された点群データのビットストリームに符号化する方法100のステップを示す概略的なブロック図である。
【0078】
ステップ105では、順序インデックス差Δoを表す少なくとも1つのバイナリデータfを取得する。順序インデックス差Δoは粗い表現で連続して占有される2つの粗い点の順序インデックス間の差を表す。
【0079】
ステップ105の一実施例では、前記少なくとも1つのバイナリデータfは順序インデックス差Δoを1次元符号化することによって取得される。
【0080】
例えば、順序インデックス差Δoが8に等しい1次元表現は、9つのバイナリデータf~fを含むことができ、最後のfがPVに等しいことに加えて、すべてのバイナリデータf~fが値PVに等しくない(通常PV=1)。
【0081】
ステップ110では、前記少なくとも1つのバイナリデータfのうちの1つを考える。
【0082】
ステップ120では、現在の粗い点Pの2次元空間内の座標を取得する。現在の粗い点Pは2次元座標(φ,λ)空間における第1の座標φ及び第2の座標λと、2次元座標(s,λ)空間における第1の座標s及び第2の座標λを有する。
【0083】
図14では、占有されない粗い点は破線によって画定され、灰色点は占有された粗い点を表す。示される実施例では、順序インデックス差Δoは4に等しく、値PVに等しくない3つのバイナリデータf,…,fと値PVに等しい1つのバイナリデータfによって1次元符号化される。現在の粗い点P(陰影点)は、占有された粗い点Pと次の占有される粗い点P+1との間に位置する。インデックスjは現在の粗い点Pが占有された粗い点Pの後のj番目の占有されない粗い点であることを示す。図14では、現在の粗い点Pは占有された点Pからの2番目の(j=2)粗い点であり、図15では、現在の粗い点Pは占有された点Pからの3番目の(j=3)粗い点である。因果近傍領域Nは、現在の粗い点Pの周囲に定義される。順序インデックス差を表すすべてのバイナリデータfを符号化する場合、因果近傍領域Nはインデックスjに応じて変化することができる。図14図15に示すように、異なる近傍占有設定を使用して各前記バイナリデータfを符号化する。この例示的で限定的ではない例では、j=4である場合、現在の粗い点Pは次の占有される粗い点P+1である。λ
【0084】
ステップ130では、現在の粗い点Pに基づいてセンシング数Nsens(s,λ)を取得する。センシング数(Nsens(s,λ))は、現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表す。
【0085】
言い換えれば、粗い表現が2次元(s,λ)座標空間を使用する場合、センシング数N sens(s,λ)は粗い表現において、点群にほぼ等しい特徴距離LPCの距離で区切られた2つの粗い点間の距離をカバーする必要があるサンプルs~s+Nsens(s,λ)の数を表す。
【0086】
lastをセンシング時刻に関連付けられたサンプルインデックスとし、このセンシング時刻で、粗い表現における最後に占有された点Plastで表される点群の点がすでに現在の粗いPjに関連付けられたセンサインデックスλ(センサλと略称する)によってセンシングされている。Nsens(s,λ)≦1である場合、同一のセンサλによってセンシングされた次の粗い点は、次のサンプルインデックスslast+1にあると予想される。そうでない場合、Nsens(s,λ)>1である場合、センサλによってセンシングされた次の粗い点は、サンプルインデックスslast+Nsens(s,λ)の周囲にあると予想される。
【0087】
したがって、現在の粗い点Pのサンプルインデックスsは、slast+Nsens(s,λ)に近いほど、現在の粗い点Pが占有される可能性が高くなる。
【0088】
センシング数Nsens(s,λ)はセンサλに対する次の粗い点を見るために何回の「仮想センシング」を必要されるかを表す。例えば、Nsens(s、λ)=5である場合、統計的にセンサλjに対する5つの粗い点ごとに約1つの占有された粗い点があると予想できる。
【0089】
特徴距離LPCは、以下のように定義される。センサによってセンシングされた元の点群データを使用して符号化する場合、粗い表現のすべての粗い点がセンシングされると予想される。センサが物体を検知した場合(通常は物体でのレーザビームの反射を測定した場合)、粗い点が占有され、そうでない場合、占有されない。この場合、粗い点の占有データはセンサの測定結果と完全に関連する。しかし、すべての符号化された点群が元のデータであるわけではない。例えば、点群を処理して、3次元デカルト座標空間における点の間の最小距離LPCへの正確な空間サンプリングを取得することができる。点群の浮動小数点元空間データが整数空間データに変換されるときに、この場合が発生する。整数の精度、より正確には点群の点の3D座標を表す整数は、点群のいくつかの空間サンプリングを提供する。この場合、点の3D座標の変化1は、元データのうちの最小距離LPCの空間変化に対応することができる。
【0090】
整数表現をより容易に実現することに加えて、このような空間サンプリングは、過度に密な領域を抽出することによって点群のサイズを小さくするのに有利である可能性がある。一定の角度でセンシングすると仮定すると、点の密度がセンサヘッドとセンシングされた物体との間の距離 object の逆数に比例して低下することが多いため、これらの密な領域は通常、車両(センサヘッドを運ぶ)に非常に近い領域である。ほとんどの例(自動運転など)では、サブミリレベルの空間精度は必要なく、サブセンチレベルの精度も必要がない。実際には、ほとんどのセンシングシステムはこのような精度を提供することができない。例えば、3Dデカルト空間における有用な精度は約LPC=2cmであり、センシングデバイスは角度ステップサイズΔφ=0.2°=0.2*2π/360ラジアンで各方位角(回転レーザレーダの場合、1周あたり約2000回のセンシングが行われる)をセンシングすることができると仮定すると、距離(半径)rdense
dense= LPC/Δφ=2/(0.2*2π/360)≒573cm≒5m
より小さい物体がセンシングシステムによってオーバーサンプリングされている。この例では、角度ステップサイズΔφは通常、物体をセンシングするためのセンサヘッドの同じセンサの2回のセンシング間の方位角シフトである。一般に、回転(レーザレーダ)センサヘッドにとって、この方位角シフトは一定であってもよく、または図7に示されるように、センシング経路全体にわたって変化してもよい。いずれかの場合も、方位角シフトΔφはセンシング装置の検知方案の特徴に関連する情報から取得することができる。
【0091】
空間サブサンプリング(抽出)は、3つの(浮動小数点または整数)デカルト座標(x,y,z)が必要な精度(LPC)に量子化されて整数サンプリングの座標(x’,y’,z’)となることにより、
(x’,y’,z’)=LPC*round((x,y,z)/LPC
を取得することができ、そして、3次元繰り返し点(すなわち、同じ3次元サンプリング座標(x’,y’,z’)を有する2つの点)をマージして、各サンプリング座標が最大1つの点だけを残すことができる。これにより、図16に示すように、点群の点はステップサイズLPCの3Dメッシュに位置する。
【0092】
センサが一回センシングされた点の3次元座標の記憶精度のため、空間サブサンプリングが発生する可能性もある。この場合、特徴距離LPCは点座標フォーマットの最大精度に関連する。
【0093】
1つの変形例では、点間の特徴距離LPCは必ずしも2次元メッシュには適用されない可能性がある。逆に、表面上の空間的3次元サンプリングが適用されている可能性があり(例えば、中間ネットワークを使用する)、それにより、メッシュに位置しない点間の典型的な距離LPCが発生する。したがって、この場合、占有された点(全黒で表示され、xy平面に描かれている)については、図16の点(白)は、通常特徴距離LPCよりも近くない他の潜在的な点として解釈されるべきである。
【0094】
1つの変形例では、点間の特徴距離LPCの下限は系統的に満たされるべきではなく、最小距離の強い指示とするべきであり、すなわち、2つの点は3次元デカルト座標空間または2次元デカルト平面において少なくとも特徴距離LPCによって分離されない可能性が高い。
【0095】
センサからの半径(距離)robjectに位置する物体に対して、2次元デカルト座標平面におけるセンサの2回の連続センシングの間の円弧長Larcは、
arc=robject*Δφ
であり、従って、Larc<LPCである場合、粗い表現のいくつかの粗い点は点群の任意の点に対応できないと予想される。他方、Larc>LPCである場合、粗い点のほとんどは点群の点に対応する可能性がある。
【0096】
ステップ150では、その後に、センシング数Nsens(s,λ)に基づいてバイナリデータfをエントロピー符号化する。
【0097】
符号化方法は、順序インデックス差Δoを表す少なくとも1つのバイナリデータfの次のバイナリデータfの符号化まで処理する(ステップ160)。少なくとも1つのバイナリデータfのすべてのバイナリデータfを符号化する場合、別の順序インデックス差を表す少なくとも1つのバイナリデータfを符号化し(ステップ170)、この別の順序インデックス差は連続して占有された2つの他の粗い点の順序インデックス間の差を表し、占有されたすべての粗い点が考慮された場合、この方法は終了する。
【0098】
センシング数Nsens(λ,s)は小さい(例えば1以下)場合にはあまり多くの情報を運ばないため、ステップ150の一実施例では、センシング数Nsens(s,λ)がアクティブ閾値thactivationより大きい場合のみ、センシング数Nsens(s,λ)に基づいてバイナリデータfをエントロピー符号化する。それでない場合、センシング数Nsens(s,λ)ではなく、少なくとも座標差Cに基づいて、バイナリデータfをエントロピー符号化し、または変形例では、センシング数Nsens(s,λ)ではなく、少なくとも近傍領域座標差Cj,w(そして、選択的に、因果近傍領域Nに属する各粗い点の占有状態を指示するバイナリデータfj,nのシーケンスに基づく)に基づいてバイナリデータfをエントロピー符号化する。
【0099】
座標差C(またはCj,w)が、j番目の粗い点の占有データのバイナリデータfを通知するために信号を送信する値を予測することに非常に効率的であるため、座標差C(または近傍領域座標差Cj,w)に基づいてバイナリデータfをエントロピー符号化することは有利である。Nsens(s,λ)は最大1に等しい場合、特に効率的である。
【0100】
ステップ150の1つの実施例では,サンプルインデックスsとセンシング時刻に関連付けられたサンプルインデックスsprecとの座標差Cが取得でき、このセンシング時刻に、以前に符号化または復号化された点Pprecは、センサインデックスλと同じセンサインデックスでセンシングされている。現在の粗い点は符号化された点のセットには考慮されず、符号化された点のセットに基づいて以前に符号化された点Pprecを決定する。
=s-sprec
【0101】
一実施例では、以前に占有された粗い点Pprecは、最後から2番目の占有された粗い点Ppenultである。
【0102】
図17図18は、2つの近傍占有設定の2つの例を示し、最後から2番目の占有された粗い点Ppenultが因果近傍領域に属していない(破線で画定されている)。この場合、座標差Cと近傍占有設定は冗長ではない。
【0103】
図19図20は、2つの近傍占有設定の2つの例を示し、最後から2番目の占有された粗い点Ppenultが因果近傍領域に属する。図19では、座標差Cは近傍占有設定に完全に含まれる。しかし、図20では、以前に占有された粗い点と最後から2番目の占有された粗い点は等しく、近傍占有設定は重複点を検出できない。なお、図18図20の近傍占有設定は同じであるが、座標差Cは確かに異なる。
【0104】
因果近傍領域Nの近傍幅W(例えば、現在占有された粗い点の一番目の座標定義(図17のW=3)から)が十分に大きく、最後から2番目の占有された粗い点Ppenultがこの近傍領域に属することが確保される場合、座標差Cはすでに近傍占有設定に含まれる。
【0105】
いくつかの例では、6、7、または8までの座標差Cは、第1のバイナリデータfの信頼性の高い予測を提供することができる。
【0106】
好ましくは、現在のセンサ「線」(センサインデックスλを有する同一センサの粗い点に対応する)に、下の2本の「線」(センサインデックスλj-1とλj-1を有するセンサ)、及び上の2本の線(センサインデックスλj+1とλj+1を有するセンサ)を加算した近傍高さは5であり、第1のバイナリデータfの値を予測するのに十分な大きさの値が観察されている。従って、最後から2番目の占有された粗い点が因果近傍領域に属することを保証するには、少なくとも6×5+2=32の近傍が必要となり、232=10億の可能な近傍占有設定をもたらす。
【0107】
一実施形態では、座標差Cと近傍幅Wとの比較に基づいて近傍座標差Cj,wが得られ、次式で与えられる近傍座標差Cj,wに基づいて、第1のバイナリデータfをエントロピー符号化する(ステップ150)。
j,w=max(C,W)
【0108】
因果近傍領域Nの占有設定は、因果近傍領域Nに属する各粗い点の占有状態を指示する少なくとも1つの第2のバイナリデータf,nのシーケンス(インデックスn)によって表すことができる。ステップ150の一実施例では、第1のバイナリデータfは、少なくとも1つの第2のバイナリデータfj、nのシーケンスおよび近傍座標差Cj、wに基づいてエントロピー符号化される。
【0109】
j,wではなくCを使用することにより、以前に占有された粗い点Ppreccが因果近傍領域Nに属する場合、CがWに等しいと検出され、この場合、座標差Cと因果近傍領域Nとの間の冗長性が除去される。
【0110】
1つの変形例では、隣接座標差Cj,wは、以前に占有された粗い点Pprecが因果近傍領域Nに属する場合にのみ、特定の値に等しい。
【0111】
例えば、近傍座標差Cj,wは次式で定義される。
j,w=max(C,W)-W
【0112】
そして、Cj,w=0の場合にのみ、以前に占有された粗い点Pprecは因果近傍Nに属する。したがって、近傍座標差Cj,wは所与の近傍占有設定に含まれる。そうでないと、近傍座標差Cj,w>0である場合、座標差Cは単純にC=Cj,w+Wで検索される。
【0113】
ステップ150の1つの実施例では、以下の式で与えられた現在の粗い点Pに依存するサンプルインデックスsj、サンプルインデックスslast及びセンシング数Nsens(s,λ)の値Δjに基づいてバイナリデータ(f)をエントロピー符号化する。
Δ=s-slast-Nsens(s,λ
【0114】
1つの変形例では、バイナリデータfjは、次式で与えられた値Δjの境界値Δ’j に基づいてエントロピー符号化を行う。
Δ’j=max(thlow,min(thhigh,Δ))
ここで、thlowとthhighは2つの閾値であり、thhigh>thlowである。
【0115】
図21に示すステップ130の一実施例では、数Nsens(s,λ)は、センサインデックスλを有するセンサによってセンシングされた最後に占有された粗い点Plastに関連する半径robjectに基づいて取得される。
【0116】
図22に示されるステップ130の1つの実施例では、センシング数Nsens(s,λ)は方位角φに基づいて補正されることができる。
sens(s,λ)=floor(LPC’/ Larc
=floor(LPC*(|cos(φ)|+|sin(φ)|)/(robject*Δφ))
【0117】
ここで、LPC’=L+L=LPC*(|cos(φ)|+|sin(φ)|)である。方位角φは現在の粗い点Pのセンシングを表し、センシングインデックスsに基づいて取得され、最後に占有された粗い点Plastの方位角φlastに基づいて取得されることができる。
【0118】
ステップ130の一実施形態では、Larc<LPCである場合、センシング数Nsens(s,λ)は以下の式により与えられる。
sens(s,λ)=floor(LPC/Larc)=floor(LPC/(robject*Δφ))
【0119】
センシング数Nsens(s,λ)は方位角シフトΔφおよび半径robjectに依存するため、2次元表現では局所的であり、方位角シフトΔφと半径robjectの両方がセンサインデックスλ及びサンプルインデックスsに依存する可能性がある。
【0120】
特徴距離LPCは点群の特徴である。
【0121】
ステップ130の一実施例では、特徴距離LPCは、ビットストリームに符号化されてもよく、一般にSPS(シーケンスパラメータセット)またはGPS(汎用パラメータセット)に符号化される。
【0122】
ステップ130の一実施例では、特徴距離LPCは、空間の3次元領域または2次元領域に依存することができる。この場合、特徴距離LPCは領域ごとに符号化することができる。
【0123】
ステップ130の一実施例では、センシング数Nsens(s,λ)は数Nに等しく、現在のサンプルインデックスsにおける現在のセンシングとサンプルインデックスs+Nにおける未来のセンシングとの間に得られる円弧長Larcが特徴距離LPCにほぼ等しくなる。
arc=robject*|φs+N-φ|≒LPC
数Nは、N=1、N=2などをテストすることで反復的に取得することができる。
【0124】
図23は少なくとも1つの実施例に係る符号化された点群データのビットストリームから点群ジオメトリデータを復号化する方法200のステップを示す概略的なブロック図である。
【0125】
復号化方法200は、符号化方法100から直接導出される。
【0126】
ステップ210では、現在の粗い点Pjの2次元空間内の座標を取得する。現在の粗い点Pjは2次元座標(φ,λ)空間における第1の座標φ及び第2の座標λと、2次元座標(s,λ)空間における第1の座標s及び第2の座標λを有する。
【0127】
上述したように、ステップ130では、センシング数Nsens(s,λ)を取得する。
【0128】
ステップ220では、センシング数Nsens(s,λ)に基づいてビットストリームBからバイナリデータfをエントロピー復号化する。
【0129】
その後、復号化方法は、順序インデックス差Δoを表す前記少なくとも1つのバイナリデータの次の1つのバイナリデータfjの復号化まで処理する。順序インデックス差Δoを表すすべてのバイナリデータfjが復号化されると、連続して占有された2つの粗い点のシーケンスインデックス間の別の差を表す別のシーケンスインデックス差が復号化され、占有されたすべての粗い点が考慮されると、方法は終了する。
【0130】
ステップ220の一実施例では、センシング数Nsens(s,λ)がアクティブ閾値thactivationより大きい場合のみ、センシング数Nsens(s,λ)に基づいてバイナリデータfをエントロピー復号化する。それでない場合、センシング数Nsens(s,λ)ではなく、少なくとも座標差Cに基づいて、バイナリデータfをエントロピー復号化し、または変形例では、センシング数Nsens(s,λ)ではなく、少なくとも近傍座標差Cj,w(そして、選択的に、因果近傍Nに属する各粗い点の占有状態を示すバイナリデータfj,nのシーケンスに基づく)に基づいてバイナリデータfをエントロピー復号化する。
【0131】
ステップ150の1つの実施例では、値ΔまたはΔ’jに基づいてバイナリデータ(f)をエントロピー復号化する。
【0132】
ステップ150または220の一実施例では、バイナリ算術エンコーダまたはデコーダは、センシング数Nsens(s,λ)または選択的に座標差C(Cw,j)およびバイナリデータシーケンスfj,nに基づいてバイナリデータfが真(f=1)である確率prを決定して、バイナリデータfを符号化または復号化する。この場合、センシング数Nsens(s,λ)、または選択的に座標差C(Cw,j)及びバイナリデータfj,nのシーケンスは確率テーブルTの要素を指すことができ、pr=T[Nsens(s,λ)]またはpr=T[C]またはpr=T[Cw,j]またはpr=T[Cw,j,fj,n]になる。確率prは、バイナリデータfを符号化した後、その値(偽対真または0対1)に基づいて更新することができる。
【0133】
図24に示すステップ150または220の一実施例では、バイナリデータfに対してコンテキストに基づく自己適応エントロピー符号化または復号化を行う。前記コンテキストに基づく自己適応エントロピー符号化または復号化は、センシング数Nsens(s,λ)からまたは選択的に座標差C(Cw,j)及びバイナリデータfj,nのシーケンスに基づいてコンテキストCtxを選択することを含むことができる。
【0134】
コンテキストCtxは、少なくともセンシング数Nsens(s,λ)又は選択的な座標差C又はCj,w及びバイナリデータfj,nのシーケンスに基づいてコンテキストテーブルTから選択されることができ、Ctx=T[Nsens(s,λ)]またはCtx=T[C]またはCtx=T[Cw,j]またはCtx=T[Cw,j,fj,n]になる。
【0135】
選択されたコンテキストCtxに基づいて第1のバイナリデータfをコンテキストに基づいてビットストリームBにエントロピー符号化する。選択されたコンテキストCtxに基づいて第1のバイナリデータfをコンテキストに基づいてエントロピー復号化する。
【0136】
図24に示される変形例では、第1のバイナリデータfは、コンテキスト自己適応バイナリ算術エンコーダまたはデコーダ(CABAC)によってコンテキストに基づく自己適応エントロピー符号化または復号化される。
【0137】
コンテキストCtxは、2バイナリデーデータfに関連するコンテキストインデックスctxIdxを提供するために、いくつかの選択プロセスによって少なくともセンシング数Nsens(s、λ)、または選択的に、座標差C(Cw,j)及び2バイナリデータfj,nのシーケンスに基づいて選択される。
【0138】
Nctxエントリを有するコンテキストテーブルTctxは、一般にコンテキストに関連する確率を記憶し、コンテキストテーブルのctxIdx番目のエントリとして確率pctxIdxを取得する。コンテキストは、コンテキストインデックスctxIdxに基づいて次の式で選択される。
Ctx=Tctx[ctxIdx]
【0139】
例えば、コンテキストインデックスctxIdxは、センシング数Nsens(s,λ)、または選択的に座標差C(Cw,j)およびバイナリデータfj,nのシーケンスに対応でき、コンテキストCtx は、Ctx=Tctx[Nsens(s,λ)]またはCtx=Tctx[C]またはCtx=T[Cw,j]またはCtx=T[Cw,j,fj,n]として選択される。
【0140】
バイナリデータfjをビットストリームBにエントロピー符号化するか、または確率pctxIdxを使用してビットストリームBからエントロピー復号化する。
【0141】
エントロピーエンコーダは通常算術エンコーダであるが、非対称デジタルシステムのような他のタイプのエントロピーエンコーダであってもよい。いずれの場合も、最適なエンコーダは、ビットストリームBに-log2(pctxIdx)ビットを追加してf=1を符号化するか、またはビットストリームBに-log2(1-pctxIdx)ビットを追加してf=0を符号化する。バイナリデータfが符号化(復号化)されると、アップデートを用いて、符号化されたバイナリデータf及びpctxIdxをエントリとして確率pctxIdxを更新し、アップデートは通常、更新されたテーブルを使用して実行される。更新された確率は、コンテキストテーブルTctxのctxIdx番目のエントリを置換する。その後、別のバイナリデータfを符号化することができ、これに従って類推することができる。コンテキストテーブルを返す更新サイクルは、更新を実行した後に別のシンボルを符号化することができるため、符号化ワークフローのボトルネックです。このため、コンテキストテーブルへのメモリアクセスはできるだけ速くなければならず、コンテキストテーブルのサイズを最小にすることにより、ハードウェアの実現を簡略化することに役立つ。
【0142】
コンテキスト自己適応バイナリ算術デコーダは、エントロピーデコーダが、確率pctxIdxを使用してビットストリームBから符号化されたバイナリデータfを復号化すること以外に、コンテキスト自己適応バイナリ算術エンコーダと実質的に同じ動作を実行する。
【0143】
適切なコンテキスト(すなわち、バイナリデータfjが最大1に等しい確率pctxIdxを推定する)を選択することは、良好な圧縮を取得するために重要である。従って、コンテキスト選択は、現在占有された粗い点の因果近傍領域に属する少なくとも1つの隣接する粗い点の占有データとそれらの間の相関を使用して、この適切なコンテキストを取得すべきである。
【0144】
図25は各態様及び実施例のシステムを実現する例示的な概略ブロック図を示す。
【0145】
システム300は1つ又は複数のデバイスとして組み込まれてもよく、以下に説明される様々なコンポーネントを含む。様々な実施例では、システム300は、本出願で説明される1つ又は複数の態様を実現するように構成されてもよい。
【0146】
システム300のすべて又は一部の装置を構成できる例は、パーソナルコンピュータ、ラップトップコンピュータ、スマートフォン、タブレット、デジタルマルチメディアセットトップボックス、デジタルテレビ受信機、パーソナルビデオ記録システム、コネクテッド家電製品、コネクテッドカーとその関連処理システム、ヘッドマウント ディスプレイ(HMD、透視メガネ)、プロジェクタ(投影機)、「洞窟」(複数のディスプレイを含むシステム)、サーバ、ビデオエンコーダ、ビデオデコーダ、ビデオデコーダから出力を処理するポストプロセッサ 、ビデオエンコーダに入力を提供するプリプロセッサ、webサーバ、セットトップボックス、及び点群、ビデオ又は画像を処理するため他の任意のデバイス、又は他の通信デバイスを含む。システム300の素子は単一の集積回路(IC)、複数のIC及び/又はディスクリートコンポーネントに単独でまたは組み合わせて実装することができる。例えば、少なくとも1つの実施例では、システム300の処理及びエンコーダ/デコーダ素子は複数のIC及び/又はディスクリートコンポーネントにわたって分布することができる。様々な実施例では、システム300は例えば通信バス又は専用の入力及び/又は出力ポートを介して、他の類似するシステム又は他の電子機器に通信可能に結合することができる。
【0147】
システム300は、少なくとも1つのプロセッサ310を含み、該少なくとも1つのプロセッサ310はそれにロードされる命令を実行することで、例えば本出願で説明される各態様を実現するように構成される。プロセッサ310は組み込みメモリ、入力出力インターフェース及び当分野で周知の他の様々な回路を含むことができる。システム300は少なくとも1つのメモリ320(例えば、揮発性メモリデバイス及び/又は非揮発性メモリデバイス)を含むことができる。システム300は、非揮発性メモリ及び/又は揮発性メモリを含むストレージデバイス340を含むことができ、電気的消去可能なプログラマブル読み取り専用メモリ(EEPROM)、読み取り専用メモリ(ROM)、プログラマブル読み取り専用メモリ(PROM)、ランダムアクセスメモリ(RAM)、動的ランダムアクセスメモリ(DRAM)、静的ランダムアクセスメモリ(SRAM)、フラッシュメモリ、磁気ディスクドライブ及び/又は光ディスクドライブを含むが、これらに限らない。非限定的な例として、ストレージデバイス340は内部ストレージデバイス、追加ストレージデバイス及び/又はネットワークアクセス可能なストレージデバイスを含むことができる。
【0148】
システム300は、例えばデータを処理することで符号化/復号化の点群ジオメトリ形状データを提供するように構成されるエンコーダ/デコーダモジュール330を含みことができ、そしてエンコーダ/デコーダモジュール330は自身のプロセッサとメモリを含むことができる。エンコーダ/デコーダモジュール330は、符号化及び/又は復号化機能を実行するようにデバイスに含まれる(1つ又は複数の)モジュールを表すことができる。周知のように、デバイスは符号化及び復号化モジュールのいずれか1つ又は両方を含むことができる。また、エンコーダ/デコーダモジュール330はシステム300の分離した素子として実現することができ、又は当業者に知られているハードウェアとソフトウェアの組み合せとしてプロセッサ310内に結合することができる。
【0149】
本出願で説明される各態様を実行するようにプロセッサ310又はエンコーダ/デコーダ330にロードされるプログラムコードはストレージデバイス340に記憶することができ、そしてその後にメモリ320にロードされてプロセッサ310によって実行される。様々な実施例によると、本出願で説明されるプロセスを実行する間、プロセッサ310、メモリ320、ストレージデバイス340及びエンコーダ/デコーダモジュール330のうちの1つ又は複数は、各項目のうちの1つ又は複数を記憶することができる。このように記憶される項目は、点群フレーム、符号化/復号化された幾何形状/属性ビデオ/画像又は符号化/復号化された幾何形状/属性ビデオ/画像の一部、ビットストリーム、行列、変量、及び等式、公式、演算や演算の中間又は最終結果ロジックを含むが、これらに限ビットない。
【0150】
いくつかの実施例では、プロセッサ310及び/又はエンコーダ/デコーダモジュール330内部のメモリは、命令を記憶し且つ符号化又は復号化の間に実行される処理のためにワーキングメモリを提供するために使用することができる。
【0151】
しかし、他の実施例では、処理デバイス外部のメモリ(例えば、処理デバイスはプロセッサ310又はエンコーダ/デコーダモジュール330であってもよい)はこれらの機能のうちの1つ又は複数に用いられる。外部メモリはメモリ320及び/又はストレージデバイス340、例えば、動的揮発性メモリ及び/又は不揮発性フラッシュメモリであってもよい。いくつかの実施例では、外部不揮発性フラッシュメモリは、例えばテレビの操作システムを記憶するために使用される。少なくとも1つの実施例において、RAMのような快速外部動的揮発性メモリは、ビデオ符号化復号化及び復号化操作のワーキングメモリとして利用することができ、例えば、MPEG-2第2部分(ITU-TRecommendation H.262及びISO /IEC 13818-2とも呼ばれ、MPEG-2ビデオとも呼ばれる)、HEVC(高効率ビデオ符号化復号化)、VVC(汎用ビデオ符号化復号化)又はMPEG-I第5部分又は第9部分を対象とする。
【0152】
ブロック390に示すように、様々な入力デバイスを介してシステム300の素子へ入力を提供することができる。このような入力デバイスは、(i)放送局などで無線送信されたRF信号を受信できるRF部、(ii)複合入力端子、(iii)USB入力端子、及び/又は(iv)HDMI入力端子を含むが、これらに限らない。
【0153】
様々な実施例では、ブロック390の入力デバイスは、当技術分野で知られているように、関連する対応する入力処理要素を有する。例えば、RF部分は以下の各必要とされる素子を関連付けることができる。(i)所望の周波数(信号選択とも呼ばれ、又は信号を周波数帯域内に制限する)を選択すること、(ii)選択される信号をダウンコンバートすること、(iii)周波数帯域を再び狭い周波数帯域に制御することで、(例えば)いくつかの実施例でチャネルと呼ばれる信号周波数帯域を選択すること、(iv)ダウンコンバートされた信号と周波数帯域が制限された信号を復調すること、(v)誤り訂正を実行すること、及び(vi)逆多重化をして所望のデータパケットフローを選択すること。様々な実施例のRF部分はわざとこれらの機能を実行する素子、例えば、周波数セレクタ、信号セレクタ、周波数帯域リミッタ、チャネルセレクタ、フィルタ、ダウンコンバータ、復調装置、誤り訂正装置及びデマルチプレクサを含む。RF部分は、これらの各機能(例えば、受信した信号をより低い周波数(例えば、中間周波数又はベースバンド付近の周波数)又はベースバンドにダウンコンバートすることを含む)を実行するチューナーを含むことができる。
【0154】
1つのセットトップボックスの実施例では、RF部分及びその関連する入力処理素子は有線(例えば、ケーブル)媒体において伝送されるRF信号を受信することができる。その後、RF部分はフィルタリング、ダウンコンバート及び再フィルタリングにより所望の周波数帯域を得て周波数選択を実行することができる。
【0155】
様々な実施例では、上記(及び他の)素子の順序を設定し、これらの素子のうちの一部を削除し、及び/又は類似又は異なる機能を実行する他の素子を追加する。
【0156】
素子の追加は、既存の素子の間に、増幅器やアナログデジタルコンバータのような素子を挿入することを含むことができる。様々な実施例において、RF部分はアンテナを含むことができる。
【0157】
さらに、USBおよび/またはHDMI端子は、USBおよび/またはHDMI接続を介してシステム300を他の電子デバイスに接続するための対応するインターフェースプロセッサを含むことができる。なお、必要な時に、入力処理の各態様(例えば、Reed-Solomon誤り訂正)は、例えば、分離した入力処理IC内又はプロセッサ310内で実現することができる。このように、必要な時に、分離したインターフェースIC内又はプロセッサ310内でUSB又はHDMIインターフェース処理の各態様を実現することができることを理解されたい。復調により、誤り訂正と逆多重化のストリームは、プロセッサ310、及びメモリと記憶素子に組み合わせて操作するエンコーダ/デコーダ330などを含む様々な処理素子に提供することができることにより、必要な時にデータストリームを処理して出力デバイスに表示する。
【0158】
一体型ハウジング内でシステム3000の様々な素子を提供することができる。一体型ハウジング内において、適切な接続レイアウト340(例えば、当分野で周知の内部バスであって、I2Cバス、配線及びプリント回路基板を含む)を用いて各素子を互いに接続しかつそれらの間でデータを伝送することができる。
【0159】
システム300は通信インターフェース350を含むことができるので、通信チャネル700を介して他のデバイスと通信することができる。通信インターフェース350は、通信チャネル700においてデータを送受信するように構成される送受信機を含むが、これに限らない。通信インターフェース350は、モデム又はネットワークカードを含むが、これに限らず、通信チャネル700は例えば有線及び/又は無線媒体内で実現することができる。
【0160】
様々な実施例では、IEEE802.11のようなWi-Fiネットワークを使用して、システム300にデータをストリーミングすることができる。これらの実施例のWi-Fi信号は、Wi-Fi通信に適した通信チャネル700と通信インターフェース350を介して受信することができる。これらの実施例の通信チャネル700は通常アクセスポイント又はルータに接続することができ、該アクセスポイント又はルータは、インターネットを含む外部ネットワークへのアクセスを提供することで、ストリーミングの適用と他のクラウド上(Over-the-top)無線通信を許可する。
【0161】
他の実施例はセットトップボックスを用いてシステム300にストリーミングデータを提供することができ、該セットトップボックスは入力ブロック390のHDMI接続によりデータを搬送する。
【0162】
入力ブロック390のRF接続を用いてストリーミングデータをシステム300に提供する実施例もある。
【0163】
ストリーミングデータは、システム300が用いるシグナリング情報の方式として使用することができる。シグナリング情報は、ビットストリームBおよび/または点群などの点の数、座標、および/またはセンサ設定パラメータの情報を含むことができる。
【0164】
なお、様々な方式でシグナリングを実現できる。例えば、様々な実施例において、1つ又は複数の構文要素、フラグなどは、対応するデコーダに信号通知情報を送信するために使用することができる。
【0165】
システム300は、ディスプレイ400、スピーカ500及び他の周辺機器600を含む様々な出力デバイスに出力信号を提供することができる。実施例の様々な例において、他の周辺機器600は独立したDVR、ディスクプレーヤ、ステレオシステム、照明システム、及びシステム300の出力に基づいて機能を提供する他のデバイスのうちの1つ又は複数を含むことができる。
【0166】
様々な実施例において、制御信号はAV.Link(オーディオ/ビデオリンク)、CEC(家電制御)又はデバイスからデバイスへの制御を有効にする他の通信プロトコルのシグナリングを用いてシステム300とディスプレイ400、スピーカ500又は他の周辺機器600との間で通信することができ、ユーザがあってもなくてもよい。
【0167】
出力デバイスは、対応するインターフェース360、370及び380により、専用接続経由で通信可能にシステム300に接続することができる。
【0168】
選択的に、通信インターフェース350経由で通信チャネル700を用いて出力デバイスをシステム300に接続することができる。ディスプレイ400とスピーカ500は電子機器(例えばテレビ)のシステム300の他のコンポーネントとともに単一ユニットに統合することができる。
【0169】
様々な実施例において、表示インターフェース360は、タイミングコントローラ(T Con)チップのようなディスプレイドライバを含むことができる。
【0170】
例えば、入力端390のRF部分が、分離したセットトップボックスの一部である場合、ディスプレイ400とスピーカ500は選択的に他のコンポーネントのうちの1つ又は複数と分離する。ディスプレイ400とスピーカ500が外部コンポーネントであってもよい様々な実施例では、専用の出力接続(例えばHDMIポート、USBポート又はCOMP出力端子を含む)経由で出力信号を提供することができる。
【0171】
図1~25では、本明細書では、様々な方法が説明され、各方法は、説明される方法を実現するように、1つ又は複数のステップ又は動作を含む。方法の正確な操作には特定のステップ又は動作順序が必要である場合でない限り、特定のステップ及び/又は動作の順序及び/又は使用を修正したり、組み合わせたりすることができる。
【0172】
ブロック図及び/又は操作フローチャートについていくつかの例が説明されたが、各ブロックは、回路素子、モジュール、或いは(1つ又は複数の)指定ロジック機能を実現するための1つ又は複数の実行可能な命令のコードを含む部分を表す。なお、他の実施形態では、ブロックに示されている(1つ又は複数の)機能は、指示された順序に従って発生しなくてもよいことに留意されたい。例えば、関わる機能によると、次々と表示される2つのブロックは実際に、基本的に並列して実行されてもよいし、又は逆の順序でこれらのブロックを実行してもよい。
【0173】
例えば方法又はプロセス、装置、コンピュータプログラム、データストリーム、ビットストリーム又は信号において本明細書で説明される実施形態と態様を実現することができる。単一形式の実施形態のコンテキストのみにおいて検討(例えば、方法のみとして検討する)しても、議論される特徴の実施形態は他の形式(例えば、装置又はコンピュータプログラム)で実現することができる。
【0174】
方法は例えばプロセッサにおいて実現することができ、プロセッサは通常、例えばコンピュータ、マイクロプロセッサ、集積回路又はプログラム可能なロジックデバイスなどを含む処理デバイスを指す。プロセッサは通信デバイスをさらに含む。
【0175】
また、方法は、プロセッサにより実行される命令で実現することができ、そして、このような命令(及び/又は実施形態により生成されたデータ値)はコンピュータ読み取り可能な記憶媒体に記憶することができる。コンピュータ読み取り可能な記憶媒体は、1つ又は複数のコンピュータ読み取り可能な媒体において実施され、かつそれにおいて実施された、コンピュータにより実行可能なコンピュータ読み取り可能なプログラムコードを有するコンピュータ読み取り可能なプログラム製品の形式を用いることができる。それに情報を記憶する固有の能力及びそれにより提供される情報から検索する固有の能力を考慮すると、本明細書で使用されるコンピュータ読み取り可能な記憶媒体は、非一時的な記憶媒体として見なすことができる。コンピュータ読み取り可能な記憶媒体は、電子、磁気、光学、電磁、赤外線又は半導体システム、装置又はデバイス、又は前述したものの任意の適切な組み合せであってもよいが、これらに限らない。なお、以下は、本実施例を適用できるコンピュータ読み取り可能な記憶媒体のより更具的な例を提供したが、当業者であれば容易に認識できるように、それらは網羅的なリストではなく例示的なものに過ぎないことを理解されたい:ポータブルコンピュータフロッピーディスク、ハードディスク、読み取り専用メモリ(ROM)、消去可能なプログラム可能な読み取り専用メモリ(EPROM 又はフラッシュメモリ)、コンパクトディスク読み取り専用メモリ(CD-ROM)、光学ストレージデバイス、磁気ストレージデバイス、又は前述したものの任意の適切な組み合せ。
【0176】
命令は、プロセッサ読み取り可能な媒体に有形に実施されるアプリケーションを生成することができる。
【0177】
例えば、命令はハードウェア、ファームウェア、ソフトウェア又はその組み合せに存在することができる。例えば、操作システム、独立したアプリケーション、又は両者の組み合せにおいて命令を見つけることができる。したがって、プロセッサは、例えばプロセスを実行するように構成されるデバイスやプロセスを実行するための命令を有するプロセッサ読み取り可能な媒体(例えばストレージデバイス)を含むデバイスとして特徴付けることができる。また、命令に加え又は命令の代わりに、プロセッサ読み取り可能な媒体可は、実施形態により生成したデータ値を記憶することができる。
【0178】
装置は例えば適切なハードウェア、ソフトウェア及びファームウェアにおいて実現することができる。このような装置の例はパーソナルコンピュータ、ラップトップコンピュータ、スマートフォン、タブレット、デジタルマルチメディアセットトップボックス、デジタルテレビ受信機、パーソナルビデオ録画システム、コネクテッド家電製品、ヘッドマウント ディスプレイ(HMD、透視メガネ)、プロジェクタ(投影機)、「洞窟」(複数のディスプレイを含むシステム)、サーバ、ビデオエンコーダ、ビデオデコーダ、ビデオデコーダから出力を処理するポストプロセッサ 、ビデオエンコーダに入力を提供するプリプロセッサ、web サーバ、セットトップボックス、及び処理点群、ビデオ又は画像を処理するための他の任意のデバイス、又は他の通信デバイスを含む。なお、装置は移動可能であり、移動中の車両に取り付けることもできる。
【0179】
コンピュータソフトウェアは、プロセッサ310、ハードウェア、又はハードウェアとソフトウェアとの組み合せで実現することができる。非限定的な例として、1つ又は複数の集積回路で実施例を実現することができる。メモリ320は、技術環境に適応する任意のタイプであってもよく、任意の適切なデータ記憶技術(非限定的な例として、例えば光学メモリデバイス、磁気メモリデバイス、半導体に基づくメモリデバイス、固定メモリ及び移動可能なメモリ)で実現することができる。非限定的な例として、プロセッサ310は技術環境に適合する任意のタイプであってもよく、マイクロプロセッサ、汎用コンピュータ、専用のコンピュータ及びマルチコアアーキテクチャに基づくプロセッサのうちの1つ又は複数をカバーすることができる。
【0180】
当業者にとって明らかなように、実施形態は、例えば記憶可能又は伝送可能な情報を運搬するように定形化される様々な信号を生成することができる。情報は、例えば方法を実行するための命令又は説明される実施形態の1つにより生成されたデータを含むことができる。例えば、信号は、説明される実施例のビットストリームを搬送するように定形化されてもよい。この信号は、例えば電磁波(例えば、周波数スペクトルを用いる無線周波数部分)又はベースバンド信号に定形化されてもよい。定形化は、例えばデータストリームに対して符号化し、かつ符号化されたデータストリームを用いて搬送波を変調することを含むことができる。信号により搬送される情報は、例えばアナログ又はデジタル情報であってもよい。周知のように、信号は異なる有線又は無線リンクで伝送することができる。信号はプロセッサ読み取り可能な媒体に記憶することができる。
【0181】
本明細書で使用される用語は、特定の実施例を説明することのみに使用され、限定するためのものではない。コンテキストに明確な指示がない限り、本明細書で使用される単数形の「1つ」、「1種」及び「該」は複数形をも含む。さらに、本明細書で使用される場合、「含む/包含(include/comprise)」及び/又は「含む/包含(including/comprising)」という用語は、説明される特徴、整数、ステップ、操作、要素及び/又はコンポーネントなどの存在を指示することができるが、1つ又は複数の他の特徴、整数、ステップ、操作、要素、コンポーネント及び/又はこれらの組み合せの存在又は追加を排除しない。また、1つの要素がもう1つの要素に「応答」又は「接続」すると呼ばれる時、もう1つの要素に直接応答又は接続してもよいし、中間要素が存在してもよい。逆に、1つの要素がもう1つの要素に「直接応答」又は「直接接続」すると呼ばれる時、中間要素が存在しない。
【0182】
なお、例えば、「A/B」、「A及び/又は B」及び「AとBのうちの少なくとも1つ」の場合、「/」、「及び/又は」及び「少なくとも1つ」という符号/用語のうちのいずれか1つの使用は、一番目に挙げられた選択肢(A)の選択、又は二番目に挙げられた選択肢(B)の選択、又は2つの選択肢(AとB)の選択をカバーすることを意図している。更なる例として、「A、B及び/又はC」及び「A、B和Cのうちの少なくとも1つ」の場合、このような言葉遣いは、一番目に挙げられた選択肢(A)の選択のみ、又は二番目に挙げられた選択肢(B)の選択のみ、又は三番目に挙げられた選択肢(C)の選択のみ、又は一番目と二番目に挙げられた選択肢(AとB)の選択のみ、又は一番目と三番目に挙げられた選択肢(AとC)の選択、又は二番目と三番目に挙げられた選択肢(BとC)の選択のみ、又は3つの選択肢(AとBとC)のすべての選択をカバーすることを意図している。当分野及び当業者には明らかなように、このようにして、挙げられた項目の数に拡張することができる。
【0183】
本出願では様々な数値を用いることができる。特定値は例示的なものであり、そして説明される各態様はこれらの特定値に限らない。
【0184】
なお、第1、第2などの用語は本明細書において様々な要素を説明することに用いることができるが、これらの要素がこれらの用語に限らない。これらの用語は、1つの要素をもう1つの要素と区別することだけに用いられる。例えば、本出願の教示から逸脱しない限り、第1要素は第2要素と呼ぶことができ、同様に、第2要素は第1要素と呼ぶこともできる。第1要素と第2要素との間は順序付けが暗黙的に示されていない。
【0185】
「1つの実施例」又は「実施例」又は「一実施形態」又は「実施形態」及びその他の変化の引用は、頻繁に、特定の特徴、構造、特点等(実施例/実施形態に合わせて説明されるもの)が少なくとも1つの実施例/実施形態に含まれることを伝えるために使用される。したがって、本出願の各箇所に現れる用語の「1つの実施例において」又は「実施例において」又は「いくつか実施例において」又は「一実施形態において」又は「実施形態において」およびその他の任意の変化の出現は、必ずしも同じ実施例を指すとは限らない。
【0186】
同様に、本明細書の「実施例/例/実施形態によると」又は「実施例/例/実施形態において」およびその他の変化の引用は、頻繁に、特定の特徴、構造又は特点(実施例/実施形態に合わせて説明されるもの)が少なくとも1つの実施例/例/実施形態に含まれ得ることを伝えることに使用される。したがって、明細書の各箇所に現れる「実施例/例/実施形態によると」又は「実施例/例/実施形態において」という表現は、必ずしも同じな実施例/例/実施形態を指すとは限らず、独立又は代替的な実施例/例/実施形態が必ず他の実施例/例/実施形態とは相互排他的であるとも限らない。
【0187】
請求項に現れる図面の符号は説明だけに用いられ、かつ請求項の範囲を限定しない。明確な説明がないにもかかわらず、任意の組み合せ又は一部の組み合せにより本実施例/例および変形例を用いることができる。
【0188】
図がフローチャートとして示される時、対応する装置のブロック図も提供されることを理解されたい。同様に、図がブロック図として示される時、対応する方法/プロセスのフローチャートも提供されることを理解されたい。
【0189】
一部の図には、通信路径において通信の主な方向を示す矢印が含まれるが、通信が、説明される矢印と逆の方向に発生することもできることを理解されたい。
【0190】
様々な実施形態は復号化に関連する。本出願で使用されるように、「復号化」は、例えば受信した点群フレーム(1つ又は複数の点群フレームを符号化して受信したビットストリームを含む可能性がある)を実行することにより、表示又は再構築された点群領域内の更なる処理に適合する最終出力を生成するプロセスの全部又は一部をカバーすることができる。様々な実施例において、このようなプロセスは、通常デコーダにより実行されるプロセスのうちの1つ又は複数を含む。様々な実施例において、例えば、このようなプロセスは、本出願で説明される様々な実施形態のデコーダにより実行されるプロセスを選択的に含むこともできる。
【0191】
更なる例として、一実施例では、「復号化」は逆量子化のみを指すことができ、一実施例では、「復号化」はエントロピー復号化を指すことができ、もう1つの実施例において、「復号化」は差分復号化を指すことができ、もう1つの実施例において、「復号化」は逆量子化、エントロピー復号化および差分復号化の組み合せを指すことができる。具体的に説明されるコンテキストに基づいて、「復号化プロセス」という用語は、具体的には、演算のサブセットを指すか、それともより一般的な復号化プロセスを指すかが自明な可能性であり、当業者にとって理解しやすいものでもある。
【0192】
様々な実施形態は符号化に関連する。少なくとも以上の「復号化」に係る検討の方式と同様に、本出願において使用される「符号化」は、例えば、入力点群フレームを実行することにより符号化のビットストリームを生成するプロセスの全部又は一部をカバーすることができる。様々な実施例において、この種類のプロセスは、通常エンコーダにより実行されるプロセスのうちの1つ又は複数を含む。様々な実施例において、このようなプロセスは、本出願で説明される各実施形態のエンコーダにより実行されるプロセスを含むか、または選択的に含むこともできる。
【0193】
更なる例として、1つの実施例において、「符号化」は量子化のみを指すことができ、1つの実施例において、「符号化」はエントロピー符号化のみを指すことができ、もう1つの実施例において、「符号化」は差分符号化のみを指すことができ、もう1つの実施例において、「符号化」は量子化、差分符号化およびエントロピー符号化の組み合せを指すことができる。特定の説明がなされているコンテキストに基づいて、「符号化プロセス」という用語は、演算のサブセットを具体的に指すか、それともより一般的な符号化プロセスを指すかが自明な可能性があり、当業者にとって理解しやすいものでもある。
【0194】
また、本出願は、様々な情報の「取得」について言及できる。情報の取得は、情報の推定、情報の計算、情報の予測又はメモリから情報を検査することのうちの1つ又は複数を含むことができる。
【0195】
また、本出願は、様々な情報への「アクセス」について言及できる。情報へのアクセスは情報の受信、(例えば、メモリから)情報を検索こと、情報の記憶、情報の移動、情報のコピー、情報の計算、情報の決定、情報の予測又は情報の推定のうちの1つ又は複数を含むことができる。
【0196】
また、本出願は様々な情報の「受信」について言及できる。「アクセス」と同様に、受信というのは広義的な用語を意図する。情報の受信は、例えば、情報へのアクセス又は情報の検索(例えば、メモリから)のうちの1つ又は複数を含むことができる。また、もう1つの方式として、例えば、情報の記憶、情報の処理、情報の送信、情報の移動、情報のコピー、情報の削除、情報の計算、情報の決定、情報の予測又は情報の推定などの操作期間は、通常、「受信」に関連する。
【0197】
それに、本明細書で使用されるように、「信号」という用語は、特に対応するデコーダに特定のことを指示するなどを指示する。例えば、いくつかの実施例では、エンコーダは、点群の点の数または座標またはセンサ設定パラメータなどの特定の情報を通知するために信号を送信する。この様式により、実施例において、エンコーダ側とデコーダ側において同じパラメータを用いることができる。したがって、例えば、エンコーダはデコーダに(明確なシグナリング)特定パラメータを送信することができ、これにより、デコーダは同じ特定パラメータを用いることができる。逆に、デコーダが特定のパラメータおよび他のパラメータを有している場合、伝送を必要としないシグナリング(間接的なシグナリング)を用いて、デコーダに知らせかつ特定パラメータを選択させることを容易にする。如何なる実際の機能の伝送を回避するために、様々な実施例においてビット節約を実現している。なお、様々な方式でシグナリングを完成できることを認識されたい。例えば、様々な実施例において、1つ又は複数の文法要素、フラグなどは、情報を対応するデコーダに送信するために使用される。上記は「信号(signal)」という単語の動詞の形に関連するが、「信号」という単語は本明細書において名詞として使用されても良い。
【0198】
すでに複数の実施形態を説明したが、様々な修正を行ってもよいことを理解されたい。例えば、異なる実施形態の要素を組み合せ、補充、修正又は削除することによって他の実施形態を生成することができる。また、当業者であれば理解できるように、他の構造とプロセスは、開示された構造とプロセスを代替でき、これにより生成された実施形態は基本的に同じである(1つ又は複数の)方式で、基本的に同じ(1つ又は複数の)である機能を実行することによって、少なくとも開示された実施形態と基本的に同じである(1つ又は複数の)結果を実現する。したがって、本出願では、これらの内容及び他の実施形態が構想されている。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
【手続補正書】
【提出日】2024-03-19
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータをビットストリームに符号化する方法であって、
-現在の粗い点(P)の前記2次元空間内の座標(s,λ)を取得することと、
-前記現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得し、前記センシング数(Nsens(s,λ))は、前記現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、
-前記センシング数(Nsens(s,λ))に基づいて、バイナリデータ(f)を前記ビットストリームにエントロピー符号化することと、
によって、順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得し、前記少なくとも1つのバイナリデータ(f)のそれぞれを符号化し、前記順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す、
ことを特徴とする2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータをビットストリームに符号化する方法。
【請求項2】
ビットストリームから2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータを復号化する方法であって、
-現在の粗い点(P)の前記2次元空間内の座標を取得することと、
-前記現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得し、前記センシング数(Nsens(s,λ))は、前記現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、
-前記センシング数(Nsens(s,λ))に基づいて、バイナリデータ(f)をビットストリームにエントロピー復号化することと、
によって、順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得し、前記順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す、
ことを特徴とするビットストリームから2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータを復号化する方法。
【請求項3】
前記センシング数(Nsens(s,λ))がアクティブ閾値(thactivation)より大きい場合、前記バイナリデータ(f)をエントロピー符号化またはエントロピー復号化することは、前記センシング数(Nsens(s,λ))に基づいて行われ、そうでない場合、少なくとも前記現在の粗い点(P)に関連付けられた1つの第1の座標と、前記現在の粗い点に関連付けられたセンサインデックス(λ)と同じセンサインデックスを有する以前に符号化または復号化された粗い点(Pprec)の1つの第1の座標との間の座標差(C)に基づいて、前記バイナリデータ(f)をエントロピー符号化またはエントロピー復号化する、
ことを特徴とする請求項1または2に記載の方法。
【請求項4】
前記バイナリデータ(f)をエントロピー符号化またはエントロピー復号化することは、サンプルインデックス(s)に依存する値(Δ)、センシング時刻に関連付けられた別のサンプルインデックス(slast)及び前記センシング数(Nsens(s,λ))に基づいて行われ、前記センシング時刻で、最後に占有された粗い点(Plast)によって表される前記点群の点はすでに前記センサインデックス(λ)に関連付けられた前記センサによってセンシングされている、
ことを特徴とする請求項1または2に記載の方法。
【請求項5】
前記値(Δ)は2つの閾値によって画定される、
ことを特徴とする請求項4に記載の方法。
【請求項6】
前記センシング数(Nsens(s,λ))は最後に占有された粗い点(Plast)に関連付けられた半径(robject)及び/又は方位角(φlast)に依存し、前記最後に占有された粗い点(Plast)は、前記現在の粗い点(P)に関連付けられた前記センサ(λ)によってセンシングされた前記点群の点を表す、
ことを特徴とする請求項1または2に記載の方法。
【請求項7】
前記センシング数(Nsens(s,λ))は、前記点群の点間の平均距離に定義される点群特徴距離(LPC)、及び前記現在の粗い点に関連付けられた前記センサの2回の連続したセンシング間の2次元デカルト座標平面に定義される円弧長(Larc)に依存する、
ことを特徴とする請求項1または2に記載の方法。
【請求項8】
前記円弧長(Larc)は前記現在の粗い点に関連付けられた前記センサによってセンシングされた前記点群の点の最後に占有された粗い点(Plast)に関連付けられた半径と、2回の連続したセンシング間の方位角シフトとに基づいている、
ことを特徴とする請求項7に記載の方法。
【請求項9】
前記点群特徴距離(LPC)は前記ビットストリームに符号化される、
ことを特徴とする請求項7に記載の方法。
【請求項10】
2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータをビットストリームに符号化する装置であって、前記装置は少なくとも1つのプロセッサを含み、前記少なくとも1つのプロセッサは、
-現在の粗い点(P)の前記2次元空間内の座標(s,λ)を取得することと、
-前記現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得し、前記センシング数(Nsens(s,λ))は、前記現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、
-前記センシング数(Nsens(s,λ))に基づいて、バイナリデータ(f)を前記ビットストリームにエントロピー符号化することと、
によって、順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得し、前記少なくとも1つのバイナリデータ(f)のそれぞれを符号化するように構成され、前記順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す、
ことを特徴とする2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータをビットストリームに符号化する装置。
【請求項11】
ビットストリームから2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータを復号化する装置であって、前記装置は少なくとも1つのプロセッサを含み、前記少なくとも1つのプロセッサは、
-現在の粗い点(P)の前記2次元空間内の座標を取得することと、
-前記現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得し、前記センシング数(Nsens(s,λ))は、前記現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、
-前記センシング数(Nsens(s,λ))に基づいて、バイナリデータ(f)を前記ビットストリームにエントロピー復号化することと、
によって、順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得するように構成され、前記順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す、
ことを特徴とするビットストリームから2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータを復号化する装置。
【請求項12】
コンピュータプログラムであって、前記コンピュータプログラムが1つまたは複数のプロセッサによって実行される場合、前記1つまたは複数のプロセッサに、2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータをビットストリームに符号化する方法を実行させ、前記方法は、
-現在の粗い点(P)の前記2次元空間内の座標(s,λ)を取得することと、
-前記現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得し、前記センシング数(Nsens(s,λ))は、前記現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、
-前記センシング数(Nsens(s,λ))に基づいて、バイナリデータ(f)を前記ビットストリームにエントロピー符号化することと、
によって、順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得し、前記少なくとも1つのバイナリデータ(f)のそれぞれを符号化し、前記順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す、
ことを特徴とするコンピュータプログラム。
【請求項13】
非一時的な記憶媒体であって、2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータをビットストリームに符号化する方法を実行するためのプログラムコードの命令が運ばれ、前記方法は、
-現在の粗い点(P)の前記2次元空間内の座標(s,λ)を取得することと、
-前記現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得し、前記センシング数(Nsens(s,λ))は、前記現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、
-前記センシング数(Nsens(s,λ))に基づいて、バイナリデータ(f)を前記ビットストリームにエントロピー符号化することと、
によって、順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得し、前記少なくとも1つのバイナリデータ(f)のそれぞれを符号化し、前記順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す、
ことを特徴とする非一時的な記憶媒体。
【請求項14】
コンピュータプログラムであって、前記コンピュータプログラムが1つまたは複数のプロセッサによって実行される場合、前記1つまたは複数のプロセッサに、ビットストリームから2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータを復号化する方法を実行させ、前記方法は、
-現在の粗い点(P)の前記2次元空間内の座標を取得することと、
-前記現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得し、前記センシング数(Nsens(s,λ))は、前記現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、
-前記センシング数(Nsens(s,λ))に基づいて、バイナリデータ(f)を前記ビットストリームにエントロピー復号化することと、
によって、順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得し、前記順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す、
ことを特徴とするコンピュータプログラム。
【請求項15】
非一時的な記憶媒体であって、ビットストリームから2次元空間の離散的な位置のセットのいくつかの離散的な位置を占有する順序付きの粗い点によって表される点群ジオメトリデータを復号化する方法を実行するためのプログラムコードの命令が運ばれ、前記方法は、
-現在の粗い点(P)の前記2次元空間内の座標を取得することと、
-前記現在の粗い点(P)に基づいてセンシング数(Nsens(s,λ))を取得し、前記センシング数(Nsens(s,λ))は、前記現在の粗い点(P)に関連付けられたセンサ(λ)が別の粗い点をセンシングするために必要な連続センシングの平均数を表すことと、
-前記センシング数(Nsens(s,λ))に基づいて、バイナリデータ(f)を前記ビットストリームにエントロピー復号化することと、
によって、順序インデックス差を表す少なくとも1つのバイナリデータ(f)を取得し、前記順序インデックス差は、連続して占有される2つの粗い点の順序インデックス間の差を表す、
ことを特徴とする非一時的な記憶媒体。
【国際調査報告】