▶ パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカの特許一覧
特許7517987三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-08
(45)【発行日】2024-07-17
(54)【発明の名称】三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置
(51)【国際特許分類】
G06T 9/00 20060101AFI20240709BHJP
【ＦＩ】
G06T9/00
【請求項の数】
12
(21)【出願番号】P 2020535915
(86)(22)【出願日】2019-08-09
(86)【国際出願番号】 JP2019031614
(87)【国際公開番号】W WO2020032248
(87)【国際公開日】2020-02-13
【審査請求日】2022-07-26
(31)【優先権主張番号】62/717,233
(32)【優先日】2018-08-10
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】514136668
【氏名又は名称】パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ
【氏名又は名称原語表記】Ｐａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ
(74)【代理人】
【識別番号】100109210
【弁理士】
【氏名又は名称】新居 広守
(74)【代理人】
【識別番号】100137235
【弁理士】
【氏名又は名称】寺谷 英作
(74)【代理人】
【識別番号】100131417
【弁理士】
【氏名又は名称】道坂 伸一
(72)【発明者】
【氏名】井口 賀敬
(72)【発明者】
【氏名】杉尾 敏康
【審査官】高野 美帆子
(56)【参考文献】
【文献】国際公開第２０１８／０８３９９９（ＷＯ，Ａ１）
【文献】特開２００５－２５９１３９（ＪＰ，Ａ）
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｔ ９／００
(57)【特許請求の範囲】
【請求項1】
複数の三次元点が含まれる対象空間が分割された複数のサブ空間に含まれ、各々が１以上の三次元点を含む複数の分割データの各々を符号化することで、前記複数の分割データの各々に対応する複数の符号化データを生成し、前記複数の符号化データと、前記複数の符号化データの各々に対する複数の制御情報とを含むビットストリームを生成し、
前記複数の制御情報の各々には、当該制御情報に対応する符号化データに対応するサブ空間を示す第１識別子と、当該制御情報に対応する符号化データに対応する分割データを示す第２識別子とが格納される
三次元データ符号化方法。
【請求項2】
前記符号化では、前記複数の分割データの各々に含まれる三次元点の位置情報と属性情報とを符号化し、前記複数の符号化データの各々は、前記位置情報の符号化データと、前記属性情報の符号化データとを含み、
前記複数の制御情報の各々は、前記位置情報の符号化データの制御情報と、前記属性情報の符号化データの制御情報とを含み、
前記第１識別子及び前記第２識別子は、前記位置情報の符号化データの制御情報に格納される
請求項１記載の三次元データ符号化方法。
【請求項3】
前記ビットストリームにおいて、前記複数の制御情報の各々は、当該制御情報に対応する符号化データの前に配置されている請求項１又は２記載の三次元データ符号化方法。
【請求項4】
前記ビットストリームは更に前記複数のサブ空間の各々の情報を含み、
前記複数のサブ空間の各々の情報は、前記複数の分割データの各々に含まれる情報とは異なる
請求項１記載の三次元データ符号化方法。
【請求項5】
複数の三次元点が含まれる対象空間が分割された複数のサブ空間に含まれ、各々が１以上の三次元点を含む複数の分割データの各々が符号化されることで生成された複数の符号化データと、前記複数の符号化データの各々に対する複数の制御情報とを含むビットストリームから、前記複数の制御情報に格納されている、当該制御情報に対応する符号化データに対応するサブ空間を示す第１識別子と、当該制御情報に対応する符号化データに対応する分割データを示す第２識別子とを取得し、前記複数の符号化データを復号することで前記複数の分割データを復元し、
前記第１識別子及び前記第２識別子を用いて、前記複数の分割データを結合することで前記対象空間を復元する
三次元データ復号方法。
【請求項6】
前記複数の符号化データの各々は、対応する分割データに含まれる三次元点の位置情報と属性情報とが符号化されることで生成され、前記位置情報の符号化データと、前記属性情報の符号化データとを含み、前記複数の制御情報の各々は、前記位置情報の符号化データの制御情報と、前記属性情報の符号化データの制御情報とを含み、
前記第１識別子及び前記第２識別子は、前記位置情報の符号化データの制御情報に格納されている
請求項５記載の三次元データ復号方法。
【請求項7】
前記ビットストリームにおいて、前記制御情報は、対応する符号化データの前に配置されている請求項５又は６記載の三次元データ復号方法。
【請求項8】
前記ビットストリームは更に前記複数のサブ空間の各々の情報を含み、
前記複数のサブ空間の各々の情報は、前記複数の分割データの各々に含まれる情報とは異なる
請求項５記載の三次元データ復号方法。
【請求項9】
プロセッサと、メモリとを備え、
前記プロセッサは、前記メモリを用いて、
複数の三次元点が含まれる対象空間が分割された複数のサブ空間に含まれ、各々が１以上の三次元点を含む複数の分割データの各々を符号化することで、前記複数の分割データの各々に対応する複数の符号化データを生成し、
前記複数の符号化データと、前記複数の符号化データの各々に対する複数の制御情報とを含むビットストリームを生成し、
前記複数の制御情報の各々には、当該制御情報に対応する符号化データに対応するサブ空間を示す第１識別子と、当該制御情報に対応する符号化データに対応する分割データを示す第２識別子とが格納される
三次元データ符号化装置。
【請求項10】
前記ビットストリームは更に前記複数のサブ空間の各々の情報を含み、
前記複数のサブ空間の各々の情報は、前記複数の分割データの各々に含まれる情報とは異なる
請求項９記載の三次元データ符号化装置。
【請求項11】
プロセッサと、メモリとを備え、
前記プロセッサは、前記メモリを用いて、
複数の三次元点が含まれる対象空間が分割された複数のサブ空間に含まれ、各々が１以上の三次元点を含む複数の分割データの各々が符号化されることで生成された複数の符号化データと、前記複数の符号化データの各々に対する複数の制御情報とを含むビットストリームから、前記複数の制御情報に格納されている、当該制御情報に対応する符号化データに対応するサブ空間を示す第１識別子と、当該制御情報に対応する符号化データに対応する分割データを示す第２識別子とを取得し、
前記複数の符号化データを復号することで前記複数の分割データを復元し、
前記第１識別子及び前記第２識別子を用いて、前記複数の分割データを結合することで前記対象空間を復元する
三次元データ復号装置。
【請求項12】
前記ビットストリームは更に前記複数のサブ空間の各々の情報を含み、
前記複数のサブ空間の各々の情報は、前記複数の分割データの各々に含まれる情報とは異なる
請求項１１記載の三次元データ復号装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、及び三次元データ復号装置に関する。
【背景技術】
【0002】
自動車或いはロボットが自律的に動作するためのコンピュータビジョン、マップ情報、監視、インフラ点検、又は、映像配信など、幅広い分野において、今後、三次元データを活用した装置又はサービスの普及が見込まれる。三次元データは、レンジファインダなどの距離センサ、ステレオカメラ、又は複数の単眼カメラの組み合わせなど様々な方法で取得される。
【0003】
三次元データの表現方法の１つとして、三次元空間内の点群によって三次元構造の形状を表すポイントクラウドと呼ばれる表現方法がある。ポイントクラウドでは、点群の位置と色とが格納される。ポイントクラウドは三次元データの表現方法として主流になると予想されるが、点群はデータ量が非常に大きい。よって、三次元データの蓄積又は伝送においては二次元の動画像（一例として、ＭＰＥＧで規格化されたＭＰＥＧ－４ ＡＶＣ又はＨＥＶＣなどがある）と同様に、符号化によるデータ量の圧縮が必須となる。
【0004】
また、ポイントクラウドの圧縮については、ポイントクラウド関連の処理を行う公開のライブラリ（Ｐｏｉｎｔ Ｃｌｏｕｄ Ｌｉｂｒａｒｙ）などによって一部サポートされている。
【0005】
また、三次元の地図データを用いて、車両周辺に位置する施設を検索し、表示する技術が知られている（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【0006】
【文献】国際公開第２０１４／０２０６６３号
【発明の概要】
【発明が解決しようとする課題】
【0007】
三次元データの符号化処理及び復号処理では、三次元データ復号装置における処理量を低減することが望まれている。
【0008】
本開示は、三次元データ復号装置における処理量を低減できる三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、又は三次元データ復号装置を提供することを目的とする。
【課題を解決するための手段】
【0009】
本開示の一態様に係る三次元データ符号化方法は、複数の三次元点が含まれる対象空間が分割された複数のサブ空間に含まれ、各々が１以上の三次元点を含む複数の分割データの各々を符号化することで、前記複数の分割データの各々に対応する複数の符号化データを生成し、前記複数の符号化データと、前記複数の符号化データの各々に対する複数の制御情報とを含むビットストリームを生成し、前記複数の制御情報の各々には、当該制御情報に対応する符号化データに対応するサブ空間を示す第１識別子と、当該制御情報に対応する符号化データに対応する分割データを示す第２識別子とが格納される。
【0010】
本開示の一態様に係る三次元データ復号方法は、複数の三次元点が含まれる対象空間が分割された複数のサブ空間に含まれ、各々が１以上の三次元点を含む複数の分割データの各々が符号化されることで生成された複数の符号化データと、前記複数の符号化データの各々に対する複数の制御情報とを含むビットストリームから、前記複数の制御情報に格納されている、当該制御情報に対応する符号化データに対応するサブ空間を示す第１識別子と、当該制御情報に対応する符号化データに対応する分割データを示す第２識別子とを取得し、前記複数の符号化データを復号することで前記複数の分割データを復元し、前記第１識別子及び前記第２識別子を用いて、前記複数の分割データを結合することで前記対象空間を復元する。
【発明の効果】
【0011】
本開示は、三次元データ復号装置における処理量を低減できる三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置、又は三次元データ復号装置を提供できる。
【図面の簡単な説明】
【0012】
【発明を実施するための形態】
【0013】
本開示の一態様に係る三次元データ符号化方法は、複数の三次元点が含まれる対象空間が分割された複数のサブ空間に含まれ、各々が１以上の三次元点を含む複数の分割データの各々を符号化することで、前記複数の分割データの各々に対応する複数の符号化データを生成し、前記複数の符号化データと、前記複数の符号化データの各々に対する複数の制御情報とを含むビットストリームを生成し、前記複数の制御情報の各々には、当該制御情報に対応する符号化データに対応するサブ空間を示す第１識別子と、当該制御情報に対応する符号化データに対応する分割データを示す第２識別子とが格納される。
【0014】
これによれば、当該三次元データ符号化方法で生成されたビットストリームを復号する三次元データ復号装置は、第１識別子及び第２識別子を用いて、複数の分割データのデータを結合して対象空間を容易に復元できる。よって、三次元データ復号装置における処理量を低減できる。
【0015】
例えば、前記符号化では、前記複数の分割データの各々に含まれる三次元点の位置情報と属性情報とを符号化し、前記複数の符号化データの各々は、前記位置情報の符号化データと、前記属性情報の符号化データとを含み、前記複数の制御情報の各々は、前記位置情報の符号化データの制御情報と、前記属性情報の符号化データの制御情報とを含み、前記第１識別子及び前記第２識別子は、前記位置情報の符号化データの制御情報に格納されてもよい。
【0016】
例えば、前記ビットストリームにおいて、前記複数の制御情報の各々は、当該制御情報に対応する符号化データの前に配置されていてもよい。
【0017】
本開示の一態様に係る三次元データ復号方法は、複数の三次元点が含まれる対象空間が分割された複数のサブ空間に含まれ、各々が１以上の三次元点を含む複数の分割データの各々が符号化されることで生成された複数の符号化データと、前記複数の符号化データの各々に対する複数の制御情報とを含むビットストリームから、前記複数の制御情報に格納されている、当該制御情報に対応する符号化データに対応するサブ空間を示す第１識別子と、当該制御情報に対応する符号化データに対応する分割データを示す第２識別子とを取得し、前記複数の符号化データを復号することで前記複数の分割データを復元し、前記第１識別子及び前記第２識別子を用いて、前記複数の分割データを結合することで前記対象空間を復元する。
【0018】
これによれば、当該三次元データ復号方法は、第１識別子及び第２識別子を用いて、複数の分割データのデータを結合して対象空間を容易に復元できる。よって、三次元データ復号装置における処理量を低減できる。
【0019】
例えば、前記複数の符号化データの各々は、対応する分割データに含まれる三次元点の位置情報と属性情報とが符号化されることで生成され、前記位置情報の符号化データと、前記属性情報の符号化データとを含み、前記複数の制御情報の各々は、前記位置情報の符号化データの制御情報と、前記属性情報の符号化データの制御情報とを含み、前記第１識別子及び前記第２識別子は、前記位置情報の符号化データの制御情報に格納されていてもよい。
【0020】
例えば、前記ビットストリームにおいて、前記制御情報は、対応する符号化データの前に配置されていてもよい。
【0021】
また、本開示の一態様に係る三次元データ符号化装置は、プロセッサと、メモリとを備え、前記プロセッサは、前記メモリを用いて、複数の三次元点が含まれる対象空間が分割された複数のサブ空間に含まれ、各々が１以上の三次元点を含む複数の分割データの各々を符号化することで、前記複数の分割データの各々に対応する複数の符号化データを生成し、前記複数の符号化データと、前記複数の符号化データの各々に対する複数の制御情報とを含むビットストリームを生成し、前記複数の制御情報の各々には、当該制御情報に対応する符号化データに対応するサブ空間を示す第１識別子と、当該制御情報に対応する符号化データに対応する分割データを示す第２識別子とが格納される。
【0022】
これによれば、当該三次元データ符号化装置で生成されたビットストリームを復号する三次元データ復号装置は、第１識別子及び第２識別子を用いて、複数の分割データのデータを結合して対象空間を容易に復元できる。よって、三次元データ復号装置における処理量を低減できる。
【0023】
また、本開示の一態様に係る三次元データ復号装置は、プロセッサと、メモリとを備え、前記プロセッサは、前記メモリを用いて、複数の三次元点が含まれる対象空間が分割された複数のサブ空間に含まれ、各々が１以上の三次元点を含む複数の分割データの各々が符号化されることで生成された複数の符号化データと、前記複数の符号化データの各々に対する複数の制御情報とを含むビットストリームから、前記複数の制御情報に格納されている、当該制御情報に対応する符号化データに対応するサブ空間を示す第１識別子と、当該制御情報に対応する符号化データに対応する分割データを示す第２識別子とを取得し、前記複数の符号化データを復号することで前記複数の分割データを復元し、前記第１識別子及び前記第２識別子を用いて、前記複数の分割データを結合することで前記対象空間を復元する。
【0024】
これによれば、当該三次元データ復号装置は、第１識別子及び第２識別子を用いて、複数の分割データのデータを結合して対象空間を容易に復元できる。よって、三次元データ復号装置における処理量を低減できる。
【0025】
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なＣＤ－ＲＯＭなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
【0026】
以下、実施の形態について、図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも本開示の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
【0027】
（実施の形態１）
ポイントクラウドの符号化データを実際の装置又はサービスにおいて使用する際には、ネットワーク帯域を抑制するために用途に応じて必要な情報を送受信することが望ましい。しかしながら、これまで、三次元データの符号化構造にはそのような機能が存在せず、そのための符号化方法も存在しなかった。
ポイントクラウドの符号化データを実際の装置又はサービスにおいて使用する際には、ネットワーク帯域を抑制するために用途に応じて必要な情報を送受信することが望ましい。しかしながら、これまで、三次元データの符号化構造にはそのような機能が存在せず、そのための符号化方法も存在しなかった。
【0028】
本実施の形態では、三次元のポイントクラウドの符号化データにおいて用途に応じて必要な情報を送受信する機能を提供するための三次元データ符号化方法及び三次元データ符号化装置、並びに、当該符号化データを復号する三次元データ復号方法及び三次元データ復号装置、並びに、当該符号化データを多重化する三次元データ多重化方法、並びに、当該符号化データを伝送する三次元データ伝送方法について説明する。
【0029】
特に、現在、点群データの符号化方法（符号化方式）として第１の符号化方法、及び第２の符号化方法が検討されているが、符号化データの構成、及び符号化データをシステムフォーマットへ格納する方法が定義されておらず、このままでは符号化部におけるＭＵＸ処理（多重化）、又は、伝送或いは蓄積ができないという課題がある。
【0030】
また、ＰＣＣ（Ｐｏｉｎｔ Ｃｌｏｕｄ Ｃｏｍｐｒｅｓｓｉｏｎ）のように、第１の符号化方法と第２の符号化方法の２つのコーデックが混在するフォーマットをサポートする方法はこれまで存在しない。
【0031】
本実施の形態では、第１の符号化方法と第２の符号化方法の２つのコーデックが混在するＰＣＣ符号化データの構成、及び符号化データをシステムフォーマットへ格納する方法について説明する。
【0032】
まず、本実施の形態に係る三次元データ（点群データ）符号化復号システムの構成を説明する。図１は、本実施の形態に係る三次元データ符号化復号システムの構成例を示す図である。図１に示すように、三次元データ符号化復号システムは、三次元データ符号化システム４６０１と、三次元データ復号システム４６０２と、センサ端末４６０３と、外部接続部４６０４とを含む。
【0033】
三次元データ符号化システム４６０１は、三次元データである点群データを符号化することで符号化データ又は多重化データを生成する。なお、三次元データ符号化システム４６０１は、単一の装置により実現される三次元データ符号化装置であってもよいし、複数の装置により実現されるシステムであってもよい。また、三次元データ符号化装置は、三次元データ符号化システム４６０１に含まれる複数の処理部のうち一部を含んでもよい。
【0034】
三次元データ符号化システム４６０１は、点群データ生成システム４６１１と、提示部４６１２と、符号化部４６１３と、多重化部４６１４と、入出力部４６１５と、制御部４６１６とを含む。点群データ生成システム４６１１は、センサ情報取得部４６１７と、点群データ生成部４６１８とを含む。
【0035】
センサ情報取得部４６１７は、センサ端末４６０３からセンサ情報を取得し、センサ情報を点群データ生成部４６１８に出力する。点群データ生成部４６１８は、センサ情報から点群データを生成し、点群データを符号化部４６１３へ出力する。
【0036】
提示部４６１２は、センサ情報又は点群データをユーザに提示する。例えば、提示部４６１２は、センサ情報又は点群データに基づく情報又は画像を表示する。
【0037】
符号化部４６１３は、点群データを符号化（圧縮）し、得られた符号化データと、符号化過程において得られた制御情報と、その他の付加情報とを多重化部４６１４へ出力する。付加情報は、例えば、センサ情報を含む。
【0038】
多重化部４６１４は、符号化部４６１３から入力された符号化データと、制御情報と、付加情報とを多重することで多重化データを生成する。多重化データのフォーマットは、例えば蓄積のためのファイルフォーマット、又は伝送のためのパケットフォーマットである。
【0039】
入出力部４６１５（例えば、通信部又はインタフェース）は、多重化データを外部へ出力する。または、多重化データは、内部メモリ等の蓄積部に蓄積される。制御部４６１６（またはアプリ実行部）は、各処理部を制御する。つまり、制御部４６１６は、符号化及び多重化等の制御を行う。
【0040】
なお、センサ情報が符号化部４６１３又は多重化部４６１４へ入力されてもよい。また、入出力部４６１５は、点群データ又は符号化データをそのまま外部へ出力してもよい。
【0041】
三次元データ符号化システム４６０１から出力された伝送信号（多重化データ）は、外部接続部４６０４を介して、三次元データ復号システム４６０２に入力される。
【0042】
三次元データ復号システム４６０２は、符号化データ又は多重化データを復号することで三次元データである点群データを生成する。なお、三次元データ復号システム４６０２は、単一の装置により実現される三次元データ復号装置であってもよいし、複数の装置により実現されるシステムであってもよい。また、三次元データ復号装置は、三次元データ復号システム４６０２に含まれる複数の処理部のうち一部を含んでもよい。
【0043】
三次元データ復号システム４６０２は、センサ情報取得部４６２１と、入出力部４６２２と、逆多重化部４６２３と、復号部４６２４と、提示部４６２５と、ユーザインタフェース４６２６と、制御部４６２７とを含む。
【0044】
センサ情報取得部４６２１は、センサ端末４６０３からセンサ情報を取得する。
【0045】
入出力部４６２２は、伝送信号を取得し、伝送信号から多重化データ（ファイルフォーマット又はパケット）を復号し、多重化データを逆多重化部４６２３へ出力する。
【0046】
逆多重化部４６２３は、多重化データから符号化データ、制御情報及び付加情報を取得し、符号化データ、制御情報及び付加情報を復号部４６２４へ出力する。
【0047】
復号部４６２４は、符号化データを復号することで点群データを再構成する。
【0048】
提示部４６２５は、点群データをユーザに提示する。例えば、提示部４６２５は、点群データに基づく情報又は画像を表示する。ユーザインタフェース４６２６は、ユーザの操作に基づく指示を取得する。制御部４６２７（またはアプリ実行部）は、各処理部を制御する。つまり、制御部４６２７は、逆多重化、復号及び提示等の制御を行う。
【0049】
なお、入出力部４６２２は、点群データ又は符号化データをそのまま外部から取得してもよい。また、提示部４６２５は、センサ情報などの付加情報を取得し、付加情報に基づいた情報を提示してもよい。また、提示部４６２５は、ユーザインタフェース４６２６で取得されたユーザの指示に基づき、提示を行ってもよい。
【0050】
センサ端末４６０３は、センサで得られた情報であるセンサ情報を生成する。センサ端末４６０３は、センサ又はカメラを搭載した端末であり、例えば、自動車などの移動体、飛行機などの飛行物体、携帯端末、又はカメラなどがある。
【0051】
センサ端末４６０３で取得可能なセンサ情報は、例えば、（１）ＬＩＤＡＲ、ミリ波レーダ、又は赤外線センサから得られる、センサ端末４６０３と対象物との距離、又は対象物の反射率、（２）複数の単眼カメラ画像又はステレオカメラ画像から得られるカメラと対象物との距離又は対象物の反射率等である。また、センサ情報は、センサの姿勢、向き、ジャイロ（角速度）、位置（ＧＰＳ情報又は高度）、速度、又は加速度等を含んでもよい。また、センサ情報は、気温、気圧、湿度、又は磁気等を含んでもよい。
【0052】
外部接続部４６０４は、集積回路（ＬＳＩ又はＩＣ）、外部蓄積部、インターネットを介したクラウドサーバとの通信、又は、放送等により実現される。
【0053】
【0054】
点群データは、複数の点のデータを含む。各点のデータは、位置情報（三次元座標）、及びその位置情報に対する属性情報とを含む。この点が複数集まったものを点群と呼ぶ。例えば、点群は対象物（オブジェクト）の三次元形状を示す。
【0055】
三次元座標等の位置情報（Ｐｏｓｉｔｉｏｎ）をジオメトリ（ｇｅｏｍｅｔｒｙ）と呼ぶこともある。また、各点のデータは、複数の属性種別の属性情報（ａｔｔｒｉｂｕｔｅ）を含んでもよい。属性種別は、例えば色又は反射率などである。
【0056】
１つの位置情報に対して１つの属性情報が対応付けられてもよいし、１つの位置情報に対して複数の異なる属性種別を持つ属性情報が対応付けられてもよい。また、１つの位置情報に対して同じ属性種別の属性情報が複数対応付けられてもよい。
【0057】
図３に示すデータファイルの構成例は、位置情報と属性情報とが１対１に対応する場合の例であり、点群データを構成するＮ個の点の位置情報と属性情報とを示している。
【0058】
位置情報は、例えば、ｘ、ｙ、ｚの３軸の情報である。属性情報は、例えば、ＲＧＢの色情報である。代表的なデータファイルとしてｐｌｙファイルなどがある。
【0059】
【0060】
静的オブジェクトは、任意の時間（ある時刻）の三次元点群データである。動的オブジェクトは、時間的に変化する三次元点群データである。以降、ある時刻の三次元点群データをＰＣＣフレーム、又はフレームと呼ぶ。
【0061】
オブジェクトは、通常の映像データのように、ある程度領域が制限されている点群であってもよいし、地図情報のように領域が制限されていない大規模点群であってもよい。
【0062】
また、様々な密度の点群データがあり、疎な点群データと、密な点群データとが存在してもよい。
【0063】
以下、各処理部の詳細について説明する。センサ情報は、ＬＩＤＡＲ或いはレンジファインダなどの距離センサ、ステレオカメラ、又は、複数の単眼カメラの組合せなど様々な方法で取得される。点群データ生成部４６１８は、センサ情報取得部４６１７で得られたセンサ情報に基づき点群データを生成する。点群データ生成部４６１８は、点群データとして、位置情報を生成し、位置情報に、当該位置情報に対する属性情報を付加する。
【0064】
点群データ生成部４６１８は、位置情報の生成又は属性情報の付加の際に、点群データを加工してもよい。例えば、点群データ生成部４６１８は、位置が重複する点群を削除することでデータ量を減らしてもよい。また、点群データ生成部４６１８は、位置情報を変換（位置シフト、回転又は正規化など）してもよいし、属性情報をレンダリングしてもよい。
【0065】
なお、図１では、点群データ生成システム４６１１は、三次元データ符号化システム４６０１に含まれるが、三次元データ符号化システム４６０１の外部に独立して設けられてもよい。
【0066】
符号化部４６１３は、点群データを予め規定された符号化方法に基づき符号化することで符号化データを生成する。符号化方法には大きく以下の２種類がある。一つ目は、位置情報を用いた符号化方法であり、この符号化方法を、以降、第１の符号化方法と記載する。二つ目は、ビデオコーデックを用いた符号化方法であり、この符号化方法を、以降、第２の符号化方法と記載する。
【0067】
復号部４６２４は、符号化データを予め規定された符号化方法に基づき復号することで点群データを復号する。
【0068】
多重化部４６１４は、符号化データを、既存の多重化方式を用いて多重化することで多重化データを生成する。生成された多重化データは、伝送又は蓄積される。多重化部４６１４は、ＰＣＣ符号化データの他に、映像、音声、字幕、アプリケーション、ファイルなどの他のメディア、又は基準時刻情報を多重化する。また、多重化部４６１４は、さらに、センサ情報又は点群データに関連する属性情報を多重してもよい。
【0069】
多重化方式又はファイルフォーマットとしては、ＩＳＯＢＭＦＦ、ＩＳＯＢＭＦＦベースの伝送方式であるＭＰＥＧ－ＤＡＳＨ、ＭＭＴ、ＭＰＥＧ－２ ＴＳ Ｓｙｓｔｅｍｓ、ＲＭＰなどがある。
【0070】
逆多重化部４６２３は、多重化データからＰＣＣ符号化データ、その他のメディア、及び時刻情報などを抽出する。
【0071】
入出力部４６１５は、多重化データを、放送又は通信など、伝送する媒体又は蓄積する媒体にあわせた方法を用いて伝送する。入出力部４６１５は、インターネット経由で他のデバイスと通信してもよいし、クラウドサーバなどの蓄積部と通信してもよい。
【0072】
通信プロトコルとしては、ｈｔｔｐ、ｆｔｐ、ＴＣＰ又はＵＤＰなどが用いられる。ＰＵＬＬ型の通信方式が用いられてもよいし、ＰＵＳＨ型の通信方式が用いられてもよい。
【0073】
有線伝送及び無線伝送のいずれが用いられてもよい。有線伝送としては、Ｅｔｈｅｒｎｅｔ（登録商標）、ＵＳＢ、ＲＳ－２３２Ｃ、ＨＤＭＩ（登録商標）、又は同軸ケーブルなどが用いられる。無線伝送としては、無線ＬＡＮ、Ｗｉ－Ｆｉ（登録商標）、Ｂｌｕｅｔｏｏｔｈ（登録商標）又はミリ波などが用いられる。
【0074】
また、放送方式としては、例えばＤＶＢ－Ｔ２、ＤＶＢ－Ｓ２、ＤＶＢ－Ｃ２、ＡＴＳＣ３．０、又はＩＳＤＢ－Ｓ３などが用いられる。
【0075】
図５は、第１の符号化方法の符号化を行う符号化部４６１３の例である第１の符号化部４６３０の構成を示す図である。図６は、第１の符号化部４６３０のブロック図である。第１の符号化部４６３０は、点群データを第１の符号化方法で符号化することで符号化データ（符号化ストリーム）を生成する。この第１の符号化部４６３０は、位置情報符号化部４６３１と、属性情報符号化部４６３２と、付加情報符号化部４６３３と、多重化部４６３４とを含む。
【0076】
第１の符号化部４６３０は、三次元構造を意識して符号化を行うという特徴を有する。また、第１の符号化部４６３０は、属性情報符号化部４６３２が、位置情報符号化部４６３１から得られる情報を用いて符号を行うという特徴を有する。第１の符号化方法は、ＧＰＣＣ（Ｇｅｏｍｅｔｒｙ ｂａｓｅｄ ＰＣＣ）とも呼ばれる。
【0077】
点群データは、ＰＬＹファイルのようなＰＣＣ点群データ、又は、センサ情報から生成されたＰＣＣ点群データであり、位置情報（Ｐｏｓｉｔｉｏｎ）、属性情報（Ａｔｔｒｉｂｕｔｅ）、及びその他の付加情報（ＭｅｔａＤａｔａ）を含む。位置情報は位置情報符号化部４６３１に入力され、属性情報は属性情報符号化部４６３２に入力され、付加情報は付加情報符号化部４６３３に入力される。
【0078】
位置情報符号化部４６３１は、位置情報を符号化することで符号化データである符号化位置情報（Ｃｏｍｐｒｅｓｓｅｄ Ｇｅｏｍｅｔｒｙ）を生成する。例えば、位置情報符号化部４６３１は、８分木等のＮ分木構造を用いて位置情報を符号化する。具体的には、８分木では、対象空間が８個のノード（サブ空間）に分割され、各ノードに点群が含まれるか否かを示す８ビットの情報（オキュパンシー符号）が生成される。また、点群が含まれるノードは、さらに、８個のノードに分割され、当該８個のノードの各々に点群が含まれるか否かを示す８ビットの情報が生成される。この処理が、予め定められた階層又はノードに含まれる点群の数の閾値以下になるまで繰り返される。
【0079】
属性情報符号化部４６３２は、位置情報符号化部４６３１で生成された構成情報を用いて符号化することで符号化データである符号化属性情報（Ｃｏｍｐｒｅｓｓｅｄ Ａｔｔｒｉｂｕｔｅ）を生成する。例えば、属性情報符号化部４６３２は、位置情報符号化部４６３１で生成された８分木構造に基づき、処理対象の対象点（対象ノード）の符号化において参照する参照点（参照ノード）を決定する。例えば、属性情報符号化部４６３２は、周辺ノード又は隣接ノードのうち、８分木における親ノードが対象ノードと同一のノードを参照する。なお、参照関係の決定方法はこれに限らない。
【0080】
また、属性情報の符号化処理は、量子化処理、予測処理、及び算術符号化処理のうち少なくとも一つを含んでもよい。この場合、参照とは、属性情報の予測値の算出に参照ノードを用いること、又は、符号化のパラメータの決定に参照ノードの状態（例えば、参照ノードに点群が含まれる否かを示す占有情報）を用いること、である。例えば、符号化のパラメータとは、量子化処理における量子化パラメータ、又は算術符号化におけるコンテキスト等である。
【0081】
付加情報符号化部４６３３は、付加情報のうち、圧縮可能なデータを符号化することで符号化データである符号化付加情報（Ｃｏｍｐｒｅｓｓｅｄ ＭｅｔａＤａｔａ）を生成する。
【0082】
多重化部４６３４は、符号化位置情報、符号化属性情報、符号化付加情報及びその他の付加情報を多重化することで符号化データである符号化ストリーム（Ｃｏｍｐｒｅｓｓｅｄ Ｓｔｒｅａｍ）を生成する。生成された符号化ストリームは、図示しないシステムレイヤの処理部へ出力される。
【0083】
次に、第１の符号化方法の復号を行う復号部４６２４の例である第１の復号部４６４０について説明する。図７は、第１の復号部４６４０の構成を示す図である。図８は、第１の復号部４６４０のブロック図である。第１の復号部４６４０は、第１の符号化方法で符号化された符号化データ（符号化ストリーム）を、第１の符号化方法で復号することで点群データを生成する。この第１の復号部４６４０は、逆多重化部４６４１と、位置情報復号部４６４２と、属性情報復号部４６４３と、付加情報復号部４６４４とを含む。
【0084】
図示しないシステムレイヤの処理部から符号化データである符号化ストリーム（Ｃｏｍｐｒｅｓｓｅｄ Ｓｔｒｅａｍ）が第１の復号部４６４０に入力される。
【0085】
逆多重化部４６４１は、符号化データから、符号化位置情報（Ｃｏｍｐｒｅｓｓｅｄ Ｇｅｏｍｅｔｒｙ）、符号化属性情報（Ｃｏｍｐｒｅｓｓｅｄ Ａｔｔｒｉｂｕｔｅ）、符号化付加情報（Ｃｏｍｐｒｅｓｓｅｄ ＭｅｔａＤａｔａ）、及び、その他の付加情報を分離する。
【0086】
位置情報復号部４６４２は、符号化位置情報を復号することで位置情報を生成する。例えば、位置情報復号部４６４２は、８分木等のＮ分木構造で表される符号化位置情報から三次元座標で表される点群の位置情報を復元する。
【0087】
属性情報復号部４６４３は、位置情報復号部４６４２で生成された構成情報に基づき、符号化属性情報を復号する。例えば、属性情報復号部４６４３は、位置情報復号部４６４２で得られた８分木構造に基づき、処理対象の対象点（対象ノード）の復号において参照する参照点（参照ノード）を決定する。例えば、属性情報復号部４６４３は、周辺ノード又は隣接ノードのうち、８分木における親ノードが対象ノードと同一のノードを参照する。なお、参照関係の決定方法はこれに限らない。
【0088】
また、属性情報の復号処理は、逆量子化処理、予測処理、及び算術復号処理のうち少なくとも一つを含んでもよい。この場合、参照とは、属性情報の予測値の算出に参照ノードを用いること、又は、復号のパラメータの決定に参照ノードの状態（例えば、参照ノードに点群が含まれる否かを示す占有情報）を用いること、である。例えば、復号のパラメータとは、逆量子化処理における量子化パラメータ、又は算術復号におけるコンテキスト等である。
【0089】
付加情報復号部４６４４は、符号化付加情報を復号することで付加情報を生成する。また、第１の復号部４６４０は、位置情報及び属性情報の復号処理に必要な付加情報を復号時に使用し、アプリケーションに必要な付加情報を外部に出力する。
【0090】
次に、第２の符号化方法の符号化を行う符号化部４６１３の例である第２の符号化部４６５０について説明する。図９は、第２の符号化部４６５０の構成を示す図である。図１０は、第２の符号化部４６５０のブロック図である。
【0091】
第２の符号化部４６５０は、点群データを第２の符号化方法で符号化することで符号化データ（符号化ストリーム）を生成する。この第２の符号化部４６５０は、付加情報生成部４６５１と、位置画像生成部４６５２と、属性画像生成部４６５３と、映像符号化部４６５４と、付加情報符号化部４６５５と、多重化部４６５６とを含む。
【0092】
第２の符号化部４６５０は、三次元構造を二次元画像に投影することで位置画像及び属性画像を生成し、生成した位置画像及び属性画像を既存の映像符号化方式を用いて符号化するという特徴を有する。第２の符号化方法は、ＶＰＣＣ（Ｖｉｄｅｏ ｂａｓｅｄ ＰＣＣ）とも呼ばれる。
【0093】
点群データは、ＰＬＹファイルのようなＰＣＣ点群データ、又は、センサ情報から生成されたＰＣＣ点群データであり、位置情報（Ｐｏｓｉｔｉｏｎ）、属性情報（Ａｔｔｒｉｂｕｔｅ）、及びその他の付加情報ＭｅｔａＤａｔａ）を含む。
【0094】
付加情報生成部４６５１は、三次元構造を二次元画像に投影することで、複数の二次元画像のマップ情報を生成する。
【0095】
位置画像生成部４６５２は、位置情報と、付加情報生成部４６５１で生成されたマップ情報とに基づき、位置画像（Ｇｅｏｍｅｔｒｙ Ｉｍａｇｅ）を生成する。この位置画像は、例えば、画素値として距離（Ｄｅｐｔｈ）が示される距離画像である。なお、この距離画像は、一つの視点から複数の点群を見た画像（一つの二次元平面に複数の点群を投影した画像）であってもよいし、複数の視点から複数の点群を見た複数の画像であってもよいし、これらの複数の画像を統合した一つの画像であってもよい。
【0096】
属性画像生成部４６５３は、属性情報と、付加情報生成部４６５１で生成されたマップ情報とに基づき、属性画像を生成する。この属性画像は、例えば、画素値として属性情報（例えば色（ＲＧＢ））が示される画像である。なお、この画像は、一つの視点から複数の点群を見た画像（一つの二次元平面に複数の点群を投影した画像）であってもよいし、複数の視点から複数の点群を見た複数の画像であってもよいし、これらの複数の画像を統合した一つの画像であってもよい。
【0097】
映像符号化部４６５４は、位置画像及び属性画像を、映像符号化方式を用いて符号化することで、符号化データである符号化位置画像（Ｃｏｍｐｒｅｓｓｅｄ Ｇｅｏｍｅｔｒｙ Ｉｍａｇｅ）及び符号化属性画像（Ｃｏｍｐｒｅｓｓｅｄ Ａｔｔｒｉｂｕｔｅ Ｉｍａｇｅ）を生成する。なお、映像符号化方式として、公知の任意の符号化方法が用いられてよい。例えば、映像符号化方式は、ＡＶＣ又はＨＥＶＣ等である。
【0098】
付加情報符号化部４６５５は、点群データに含まれる付加情報、及びマップ情報等を符号化することで符号化付加情報（Ｃｏｍｐｒｅｓｓｅｄ ＭｅｔａＤａｔａ）を生成する。
【0099】
多重化部４６５６は、符号化位置画像、符号化属性画像、符号化付加情報、及び、その他の付加情報を多重化することで符号化データである符号化ストリーム（Ｃｏｍｐｒｅｓｓｅｄ Ｓｔｒｅａｍ）を生成する。生成された符号化ストリームは、図示しないシステムレイヤの処理部へ出力される。
【0100】
次に、第２の符号化方法の復号を行う復号部４６２４の例である第２の復号部４６６０について説明する。図１１は、第２の復号部４６６０の構成を示す図である。図１２は、第２の復号部４６６０のブロック図である。第２の復号部４６６０は、第２の符号化方法で符号化された符号化データ（符号化ストリーム）を、第２の符号化方法で復号することで点群データを生成する。この第２の復号部４６６０は、逆多重化部４６６１と、映像復号部４６６２と、付加情報復号部４６６３と、位置情報生成部４６６４と、属性情報生成部４６６５とを含む。
【0101】
図示しないシステムレイヤの処理部から符号化データである符号化ストリーム（Ｃｏｍｐｒｅｓｓｅｄ Ｓｔｒｅａｍ）が第２の復号部４６６０に入力される。
【0102】
逆多重化部４６６１は、符号化データから、符号化位置画像（Ｃｏｍｐｒｅｓｓｅｄ Ｇｅｏｍｅｔｒｙ Ｉｍａｇｅ）、符号化属性画像（Ｃｏｍｐｒｅｓｓｅｄ Ａｔｔｒｉｂｕｔｅ Ｉｍａｇｅ）、符号化付加情報（Ｃｏｍｐｒｅｓｓｅｄ ＭｅｔａＤａｔａ）、及び、その他の付加情報を分離する。
【0103】
映像復号部４６６２は、符号化位置画像及び符号化属性画像を、映像符号化方式を用いて復号することで、位置画像及び属性画像を生成する。なお、映像符号化方式として、公知の任意の符号化方式が用いられてよい。例えば、映像符号化方式は、ＡＶＣ又はＨＥＶＣ等である。
【0104】
付加情報復号部４６６３は、符号化付加情報を復号することで、マップ情報等を含む付加情報を生成する。
【0105】
位置情報生成部４６６４は、位置画像とマップ情報とを用いて位置情報を生成する。属性情報生成部４６６５は、属性画像とマップ情報とを用いて属性情報を生成する。
【0106】
第２の復号部４６６０は、復号に必要な付加情報を復号時に使用し、アプリケーションに必要な付加情報を外部に出力する。
【0107】
以下、ＰＣＣ符号化方式における課題を説明する。図１３は、ＰＣＣ符号化データに関わるプロトコルスタックを示す図である。図１３には、ＰＣＣ符号化データに、映像（例えばＨＥＶＣ）又は音声などの他のメディアのデータを多重し、伝送又は蓄積する例を示す。
【0108】
多重化方式及びファイルフォーマットは、様々な符号化データを多重し、伝送又は蓄積するための機能を有している。符号化データを伝送又は蓄積するためには、符号化データを多重化方式のフォーマットに変換しなければならない。例えば、ＨＥＶＣでは、ＮＡＬユニットと呼ばれるデータ構造に符号化データを格納し、ＮＡＬユニットをＩＳＯＢＭＦＦに格納する技術が規定されている。
【0109】
一方、現在、点群データの符号化方法として第１の符号化方法（Ｃｏｄｅｃ１）、及び第２の符号化方法（Ｃｏｄｅｃ２）が検討されているが、符号化データの構成、及び符号化データをシステムフォーマットへ格納する方法が定義されておらず、このままでは符号化部におけるＭＵＸ処理（多重化）、伝送及び蓄積ができないという課題がある。
【0110】
なお、以降において、特定の符号化方法の記載がなければ、第１の符号化方法、及び第２の符号化方法のいずれかを示すものとする。
【0111】
以下、本実施の形態に係るＮＡＬユニットの定義方法について説明する。例えば、ＨＥＶＣなどの、これまでのコーデックでは、１つのコーデックに対して、１つのフォーマットのＮＡＬユニットが定義されている。しかし、ＰＣＣのように、第１の符号化方法と第２の符号化方法との２つのコーデック（以降、ＰＣＣコーデックと称する）が混在するフォーマットをサポートする方法はこれまで存在しない。
【0112】
まず、上述した第１の符号化部４６３０及び第２の符号化部４６５０の両方の機能を持つ符号化部４６７０、並びに、第１の復号部４６４０及び第２の復号部４６６０の両方の機能を持つ復号部４６８０について説明する。
【0113】
図１４は、本実施の形態に係る符号化部４６７０のブロック図である。この符号化部４６７０は、上述した第１の符号化部４６３０及び第２の符号化部４６５０と、多重化部４６７１とを含む。多重化部４６７１は、第１の符号化部４６３０で生成された符号化データと第２の符号化部４６５０で生成された符号化データとを多重化し、得られた符号化データを出力する。
【0114】
図１５は、本実施の形態に係る復号部４６８０のブロック図である。この復号部４６８０は、上述した第１の復号部４６４０及び第２の復号部４６６０と、逆多重化部４６８１とを含む。逆多重化部４６８１は、入力された符号化データから、第１の符号化方法が用いられている符号化データと、第２の符号化方法が用いられている符号化データとを抽出する。逆多重化部４６８１は、第１の符号化方法が用いられている符号化データを第１の復号部４６４０に出力し、第２の符号化方法が用いられている符号化データを第２の復号部４６６０に出力する。
【0115】
上記の構成により、符号化部４６７０は、第１の符号化方法及び第２の符号化方法を選択的に用いて点群データを符号化することができる。また、復号部４６８０は、第１の符号化方法を用いて符号化された符号化データ、第２の符号化方法を用いて符号化された符号化データ、及び、第１の符号化方法と第２の符号化方法との両方を用いて符号化された符号化データを復号できる。
【0116】
例えば、符号化部４６７０は、点群データ単位、又はフレーム単位で符号化方法（第１の符号化方法及び第２の符号化方法）を切り替えてもよい。また、符号化部４６７０は、符号化可能な単位で符号化方法を切り替えてもよい。
【0117】
符号化部４６７０は、例えば、ＰＣＣコーデックの識別情報を含む符号化データ（符号化ストリーム）を生成する。
【0118】
復号部４６８０に含まれる逆多重化部４６８１は、例えば、ＰＣＣコーデックの識別情報を用いて、データを識別する。逆多重化部４６８１は、当該データが第１の符号化方法で符号化されたデータである場合には、第１の復号部４６４０に当該データを出力し、当該データが第２の符号化方法で符号化されたデータである場合には、当該データを第２の復号部４６６０に出力する。
【0119】
なお、符号化部４６７０は、ＰＣＣコーデックの識別情報以外にも、両方の符号化方法を用いたか、いずれか一方の符号化方法を用いたかを示す情報を制御情報として送出してもよい。
【0120】
次に、本実施の形態に係る符号化処理について説明する。図１６は、本実施の形態に係る符号化処理のフローチャートである。ＰＣＣコーデックの識別情報を用いることにより、複数コーデックに対応した符号化処理が可能となる。
【0121】
まず、符号化部４６７０は、ＰＣＣデータを第１の符号化方法、第２の符号化方法のいずれか一方又は両方のコーデックで符号化する（Ｓ４６８１）。
【0122】
使用したコーデックが第２の符号化方法である場合（Ｓ４６８２で第２の符号化方法）、符号化部４６７０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅをＮＡＬユニットのペイロードに含まれるデータが第２の符号化方法で符号化されたデータであることを示す値に設定する（Ｓ４６８３）。次に、符号化部４６７０は、ＮＡＬユニットヘッダのｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅに第２の符号化方法用のＮＡＬユニットの識別子を設定する（Ｓ４６８４）。そして、符号化部４６７０は、設定したＮＡＬユニットヘッダを有し、ペイロードに符号化データを含むＮＡＬユニットを生成する。そして、符号化部４６７０は、生成したＮＡＬユニットを送信する（Ｓ４６８５）。
【0123】
一方、使用したコーデックが第１の符号化方法である場合（Ｓ４６８２で第１の符号化方法）、符号化部４６７０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅをＮＡＬユニットのペイロードに含まれるデータが第１の符号化方法で符号化されたデータであることを示す値に設定する（Ｓ４６８６）。次に、符号化部４６７０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅに第１の符号化方法用のＮＡＬユニットの識別子を設定する（Ｓ４６８７）。次に、符号化部４６７０は、設定したＮＡＬユニットヘッダを有し、ペイロードに符号化データを含むＮＡＬユニットを生成する。そして、符号化部４６７０は、生成したＮＡＬユニットを送信する（Ｓ４６８５）。
【0124】
次に、本実施の形態に係る復号処理について説明する。図１７は、本実施の形態に係る復号処理のフローチャートである。ＰＣＣコーデックの識別情報を用いることにより、複数コーデックに対応した復号処理が可能となる。
【0125】
まず、復号部４６８０は、ＮＡＬユニットを受信する（Ｓ４６９１）。例えば、このＮＡＬユニットは、上述した符号化部４６７０における処理で生成されたものである。
【0126】
次に、復号部４６８０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅが第１の符号化方法を示すか、第２の符号化方法を示すかを判定する（Ｓ４６９２）。
【0127】
ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅが第２の符号化方法を示す場合（Ｓ４６９２で第２の符号化方法）、復号部４６８０は、ＮＡＬユニットのペイロードに含まれるデータが第２の符号化方法で符号化されたデータであると判断する（Ｓ４６９３）。そして、第２の復号部４６６０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅが、第２の符号化方法用のＮＡＬユニットの識別子であるとしてデータを識別する（Ｓ４６９４）。そして、復号部４６８０は、第２の符号化方法の復号処理を用いてＰＣＣデータを復号する（Ｓ４６９５）。
【0128】
一方、ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅが第１の符号化方法を示す場合（Ｓ４６９２で第１の符号化方法）、復号部４６８０は、ＮＡＬユニットのペイロードに含まれるデータが第１の符号化方法で符号化されたデータであると判断する（Ｓ４６９６）。そして、復号部４６８０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅが、第１の符号化方法用のＮＡＬユニットの識別子であるとしてデータを識別する（Ｓ４６９７）。そして、復号部４６８０は、第１の符号化方法の復号処理を用いてＰＣＣデータを復号する（Ｓ４６９８）。
【0129】
以上のように、本開示の一態様に係る三次元データ符号化装置は、三次元データ（例えば点群データ）を符号化することで符号化ストリームを生成し、前記符号化ストリームの制御情報（例えば、パラメータセット）に、第１符号化方法と第２符号化方法のうち、前記符号化に用いた符号化方法を示す情報（例えば、コーデックの識別情報）を格納する。
【0130】
これによれば、三次元データ復号装置は、当該三次元データ符号化装置で生成された符号化ストリームを復号する際に、制御情報に格納された情報を用いて符号化に用いられた符号化方法を判定できる。よって、三次元データ復号装置は、複数の符号化方法が用いられる場合においても正しく符号化ストリームを復号できる。
【0131】
例えば、前記三次元データは、位置情報を含む。三次元データ符号化装置は、前記符号化では、前記位置情報を符号化する。三次元データ符号化装置は、前記格納では、前記位置情報の制御情報に、前記第１符号化方法と前記第２符号化方法のうち、前記位置情報の符号化に用いた符号化方法を示す情報を格納する。
【0132】
例えば、前記三次元データは、位置情報と属性情報とを含む。三次元データ符号化装置は、前記符号化では、前記位置情報と前記属性情報とを符号化する。三次元データ符号化装置は、前記格納では、前記位置情報の制御情報に、前記第１符号化方法と前記第２符号化方法のうち、前記位置情報の符号化に用いた符号化方法を示す情報を格納し、前記属性情報の制御情報に、前記第１符号化方法と前記第２符号化方法のうち、前記属性情報の符号化に用いた符号化方法を示す情報を格納する。
【0133】
これによれば、位置情報と属性情報とに異なる符号化方法を用いることができるので、符号化効率を向上できる。
【0134】
例えば、前記三次元データ符号化方法は、さらに、前記符号化ストリームを１以上のユニット（例えば、ＮＡＬユニット）に格納する。
【0135】
例えば、前記ユニットは、前記第１符号化方法と前記第２符号化方法とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方法と前記第２符号化方法とで独立した定義を有する情報（例えば、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）を含む。
【0136】
例えば、前記ユニットは、前記第１符号化方法と前記第２符号化方法とで独立したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方法と前記第２符号化方法とで独立した定義を有する情報（例えば、ｃｏｄｅｃ１＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ又はｃｏｄｅｃ２＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）を含む。
【0137】
例えば、前記ユニットは、前記第１符号化方法と前記第２符号化方法とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方法と前記第２符号化方法とで共通した定義を有する情報（例えば、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）を含む。
【0138】
例えば、三次元データ符号化装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【0139】
また、本実施の形態に係る三次元データ復号装置は、三次元データを符号化することで生成された符号化ストリームの制御情報（例えば、パラメータセット）に含まれる、第１符号化方法と第２符号化方法のうち、前記三次元データの符号化に用いられた符号化方法を示す情報（例えば、コーデックの識別情報）に基づき、符号化ストリームの符号化に用いられた符号化方法を判定し、判定した前記符号化方法を用いて前記符号化ストリームを復号する。
【0140】
これによれば、三次元データ復号装置は、符号化ストリームを復号する際に、制御情報に格納された情報を用いて符号化に用いられた符号化方法を判定できる。よって、三次元データ復号装置は、複数の符号化方法が用いられる場合においても正しく符号化ストリームを復号できる。
【0141】
例えば、前記三次元データは、位置情報を含み、前記符号化ストリームは、前記位置情報の符号化データを含む。三次元データ復号装置は、前記判定では、前記符号化ストリームに含まれる前記位置情報の制御情報に含まれる、前記第１符号化方法と前記第２符号化方法のうち、前記位置情報の符号化に用いられた符号化方法を示す情報に基づき、前記位置情報の符号化に用いられた符号化方法を判定する。三次元データ復号装置は、前記復号では、判定した前記位置情報の符号化に用いられた符号化方法を用いて前記位置情報の符号化データを復号する。
【0142】
例えば、前記三次元データは、位置情報と属性情報とを含み、前記符号化ストリームは、前記位置情報の符号化データと前記属性情報の符号化データとを含む。三次元データ復号装置は、前記判定では、前記符号化ストリームに含まれる前記位置情報の制御情報に含まれる、前記第１符号化方法と前記第２符号化方法のうち、前記位置情報の符号化に用いられた符号化方法を示す情報に基づき、前記位置情報の符号化に用いられた符号化方法を判定し、前記符号化ストリームに含まれる前記属性情報の制御情報に含まれる、前記第１符号化方法と前記第２符号化方法のうち、前記属性情報の符号化に用いられた符号化方法を示す情報に基づき、前記属性情報の符号化に用いられた符号化方法を判定する。三次元データ復号装置は、前記復号では、判定した前記位置情報の符号化に用いられた符号化方法を用いて前記位置情報の符号化データを復号し、判定した前記属性情報の符号化に用いられた符号化方法を用いて前記属性情報の符号化データを復号する。
【0143】
これによれば、位置情報と属性情報とに異なる符号化方法を用いることができるので、符号化効率を向上できる。
【0144】
例えば、前記符号化ストリームは１以上のユニット（例えば、ＮＡＬユニット）に格納されており、三次元データ復号装置は、さらに、前記１以上のユニットから前記符号化ストリームを取得する。
【0145】
例えば、前記ユニットは、前記第１符号化方法と前記第２符号化方法とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方法と前記第２符号化方法とで独立した定義を有する情報（例えば、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）を含む。
【0146】
例えば、前記ユニットは、前記第１符号化方法と前記第２符号化方法とで独立したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方法と前記第２符号化方法とで独立した定義を有する情報（例えば、ｃｏｄｅｃ１＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ又はｃｏｄｅｃ２＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）を含む。
【0147】
例えば、前記ユニットは、前記第１符号化方法と前記第２符号化方法とで共通したフォーマットを有し、前記ユニットに含まれるデータの種別を示す情報であって、前記第１符号化方法と前記第２符号化方法とで共通した定義を有する情報（例えば、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅ）を含む。
【0148】
例えば、三次元データ復号装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【0149】
（実施の形態２）
本実施の形態では、ＮＡＬユニットをＩＳＯＢＭＦＦのファイルに格納する方法について説明する。
本実施の形態では、ＮＡＬユニットをＩＳＯＢＭＦＦのファイルに格納する方法について説明する。
【0150】
ＩＳＯＢＭＦＦ（ＩＳＯ ｂａｓｅｄ ｍｅｄｉａ ｆｉｌｅ ｆｏｒｍａｔ）は、ＩＳＯ／ＩＥＣ１４４９６－１２に規定されるファイルフォーマット規格である。ＩＳＯＢＭＦＦは、ビデオ、オーディオ、及びテキストなど様々なメディアを多重して格納できるフォーマットを規定しており、メディアに依存しない規格である。
【0151】
ＩＳＯＢＭＦＦの基本構造（ファイル）について説明する。ＩＳＯＢＭＦＦにおける基本単位はボックスである。ボックスはｔｙｐｅ、ｌｅｎｇｔｈ、ｄａｔａで構成され、様々なｔｙｐｅのボックスを組み合わせた集合がファイルである。
【0152】
図１８は、ＩＳＯＢＭＦＦの基本構造（ファイル）を示す図である。ＩＳＯＢＭＦＦのファイルは、主に、ファイルのブランドを４ＣＣ（４文字コード）で示すｆｔｙｐ、制御情報などのメタデータを格納するｍｏｏｖ、及び、データを格納するｍｄａｔなどのボックスを含む。
【0153】
ＩＳＯＢＭＦＦのファイルへのメディア毎の格納方法は別途規定されており、例えば、ＡＶＣビデオ及びＨＥＶＣビデオの格納方法は、ＩＳＯ／ＩＥＣ１４４９６－１５に規定される。ここで、ＰＣＣ符号化データを蓄積又は伝送するために、ＩＳＯＢＭＦＦの機能を拡張して使用することが考えられるが、ＰＣＣ符号化データをＩＳＯＢＭＦＦのファイルに格納する規定はまだない。そこで、本実施の形態では、ＰＣＣ符号化データをＩＳＯＢＭＦＦのファイルに格納する方法について説明する。
【0154】
図１９は、ＰＣＣコーデック共通のＮＡＬユニットをＩＳＯＢＭＦＦのファイルに格納する場合のプロトコルスタックを示す図である。ここでは、ＰＣＣコーデック共通のＮＡＬユニットがＩＳＯＢＭＦＦのファイルに格納される。ＮＡＬユニットはＰＣＣコーデック共通であるが、ＮＡＬユニットには複数のＰＣＣコーデックが格納されるため、それぞれのコーデックに応じた格納方法（Ｃａｒｒｉａｇｅ ｏｆ Ｃｏｄｅｃ１、Ｃａｒｒｉａｇｅ ｏｆ Ｃｏｄｅｃ２）を規定することが望ましい。
【0155】
次に、複数のＰＣＣコーデックをサポートする共通のＰＣＣ ＮＡＬユニットをＩＳＯＢＭＦＦのファイルへ格納する方法について説明する。図２０は、共通のＰＣＣ ＮＡＬユニットをコーデック１の格納方法（Ｃａｒｒｉａｇｅ ｏｆ Ｃｏｄｅｃ１）のＩＳＯＢＭＦＦのファイルに格納する例を示す図である。図２１は、共通のＰＣＣ ＮＡＬユニットをコーデック２の格納方法（Ｃａｒｒｉａｇｅ ｏｆ Ｃｏｄｅｃ２）のＩＳＯＢＭＦＦのファイルに格納する例を示す図である。
【0156】
ここで、ｆｔｙｐは、ファイルフォーマットを識別するための重要な情報であり、ｆｔｙｐ用に、コーデック毎に異なる識別子が定義される。第１の符号化方法（符号化方式）で符号化されたＰＣＣ符号化データがファイルに格納される場合は、ｆｔｙｐ＝ｐｃｃ１に設定される。第２の符号化方法で符号化されたＰＣＣ符号化データがファイルに格納される場合は、ｆｔｙｐ＝ｐｃｃ２に設定される。
【0157】
ここで、ｐｃｃ１は、ＰＣＣのコーデック１（第１の符号化方法）が用いられることを示す。ｐｃｃ２は、ＰＣＣのコーデック２（第２の符号化方法）が用いられることを示す。つまり、ｐｃｃ１及びｐｃｃ２は、データがＰＣＣ（三次元データ（点群データ）の符号データ）であることを示し、かつ、ＰＣＣコーデック（第１の符号化方法及び第２の符号化方法）を示す。
【0158】
以下、ＮＡＬユニットをＩＳＯＢＭＦＦのファイルへ格納する方法について説明する。多重化部は、ＮＡＬユニットヘッダを解析し、ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅ＝Ｃｏｄｅｃ１である場合にはＩＳＯＢＭＦＦのｆｔｙｐにｐｃｃ１を記載する。
【0159】
また、多重化部は、ＮＡＬユニットヘッダを解析し、ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅ＝Ｃｏｄｅｃ２である場合にはＩＳＯＢＭＦＦのｆｔｙｐにｐｃｃ２を記載する。
【0160】
また、多重化部は、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅがメタデータである場合は、ＮＡＬユニットを所定の方法で、例えばｍｏｏｖ又はｍｄａｔに格納する。多重化部は、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅがデータである場合は、ＮＡＬユニットを所定の方法で、例えばｍｏｏｖ又はｍｄａｔに格納する。
【0161】
例えば、多重化部は、ＨＥＶＣと同様にＮＡＬユニットにＮＡＬユニットサイズを格納してもよい。
【0162】
本格納方法により、逆多重化部（システムレイヤ）においてファイルに含まれるｆｔｙｐを解析することで、ＰＣＣ符号化データが第１の符号化方法で符号化されたか、第２の符号化方法で符号化されたかを判定することが可能となる。さらに、上記の通り、ＰＣＣ符号化データが第１の符号化方法で符号化されたか、第２の符号化方法で符号化されたかを判定することで、両方の符号化方法で符号化された符号化データが混在するデータからいずれか一方の符号化方法で符号化された符号化データを抽出することができる。これにより、符号化データを伝送する際に、伝送されるデータ量を抑制することができる。また、本格納方法により、第１の符号化方法と第２の符号化方法とで、異なるデータ（ファイル）フォーマットを設定することなく、共通のデータフォーマットを用いることができる。
【0163】
なお、ＩＳＯＢＭＦＦにおけるｆｔｙｐなど、システムレイヤのメタデータにコーデックの識別情報が示される場合は、多重化部は、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを削除したＮＡＬユニットをＩＳＯＢＭＦＦのファイルに格納してもよい。
【0164】
次に、本実施の形態に係る三次元データ符号化システム（三次元データ符号化装置）が備える多重化部、及び、本実施の形態に係る三次元データ復号システム（三次元データ復号装置）が備える逆多重化部の構成及び動作について説明する。
【0165】
図２２は、第１の多重化部４７１０の構成を示す図である。第１の多重化部４７１０は、第１の符号化部４６３０で生成された符号化データ及び制御情報（ＮＡＬユニット）をＩＳＯＢＭＦＦのファイルに格納することで多重化データ（ファイル）を生成するファイル変換部４７１１を備える。この第１の多重化部４７１０は、例えば、図１に示す多重化部４６１４に含まれる。
【0166】
図２３は、第１の逆多重化部４７２０の構成を示す図である。第１の逆多重化部４７２０は、多重化データ（ファイル）から符号化データ及び制御情報（ＮＡＬユニット）を取得し、取得した符号化データ及び制御情報を第１の復号部４６４０に出力するファイル逆変換部４７２１を備える。この第１の逆多重化部４７２０は、例えば、図１に示す逆多重化部４６２３に含まれる。
【0167】
図２４は、第２の多重化部４７３０の構成を示す図である。第２の多重化部４７３０は、第２の符号化部４６５０で生成された符号化データ及び制御情報（ＮＡＬユニット）をＩＳＯＢＭＦＦのファイルに格納することで多重化データ（ファイル）を生成するファイル変換部４７３１を備える。この第２の多重化部４７３０は、例えば、図１に示す多重化部４６１４に含まれる。
【0168】
図２５は、第２の逆多重化部４７４０の構成を示す図である。第２の逆多重化部４７４０は、多重化データ（ファイル）から符号化データ及び制御情報（ＮＡＬユニット）を取得し、取得した符号化データ及び制御情報を第２の復号部４６６０に出力するファイル逆変換部４７４１を備える。この第２の逆多重化部４７４０は、例えば、図１に示す逆多重化部４６２３に含まれる。
【0169】
図２６は、第１の多重化部４７１０による多重化処理のフローチャートである。まず、第１の多重化部４７１０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅを解析することで、使用されているコーデックが第１の符号化方法であるか、第２の符号化方法であるかを判定する（Ｓ４７０１）。
【0170】
ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅが第２の符号化方法を示す場合（Ｓ４７０２で第２の符号化方法）、第１の多重化部４７１０は、当該ＮＡＬユニットを処理しない（Ｓ４７０３）。
【0171】
一方、ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅが第２の符号化方法を示す場合（Ｓ４７０２で第１の符号化方法）、第１の多重化部４７１０は、ｆｔｙｐにｐｃｃ１を記載する（Ｓ４７０４）。つまり、第１の多重化部４７１０は、第１の符号化方法で符号化されたデータがファイルに格納されていることを示す情報をｆｔｙｐに記載する。
【0172】
次に、第１の多重化部４７１０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを解析し、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅで示されるデータタイプに応じた所定の方法でデータをボックス（ｍｏｏｖ又はｍｄａｔ等）に格納する（Ｓ４７０５）。そして、第１の多重化部４７１０は、上記ｆｔｙｐ及び上記ボックスを含むＩＳＯＢＭＦＦのファイルを作成する（Ｓ４７０６）。
【0173】
図２７は、第２の多重化部４７３０による多重化処理のフローチャートである。まず、第２の多重化部４７３０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅを解析することで、使用されているコーデックが第１の符号化方法であるか、第２の符号化方法であるかを判定する（Ｓ４７１１）。
【0174】
ｐｃｃ＿ｕｎｉｔ＿ｔｙｐｅが第２の符号化方法を示す場合（Ｓ４７１２で第２の符号化方法）、第２の多重化部４７３０は、ｆｔｙｐにｐｃｃ２を記載する（Ｓ４７１３）。つまり、第２の多重化部４７３０は、第２の符号化方法で符号化されたデータがファイルに格納されていることを示す情報をｆｔｙｐに記載する。
【0175】
次に、第２の多重化部４７３０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを解析し、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅで示されるデータタイプに応じた所定の方法でデータをボックス（ｍｏｏｖ又はｍｄａｔ等）に格納する（Ｓ４７１４）。そして、第２の多重化部４７３０は、上記ｆｔｙｐ及び上記ボックスを含むＩＳＯＢＭＦＦのファイルを作成する（Ｓ４７１５）。
【0176】
一方、ｐｃｃ＿ｕｎｉｔ＿ｔｙｐｅが第１の符号化方法を示す場合（Ｓ４７１２で第１の符号化方法）、第２の多重化部４７３０は、当該ＮＡＬユニットを処理しない（Ｓ４７１６）。
【0177】
なお、上記処理は、ＰＣＣデータを第１の符号化方法、及び第２の符号化方法のいずれか一方で符号化する例を示している。第１の多重化部４７１０及び第２の多重化部４７３０は、ＮＡＬユニットのコーデックタイプを識別することにより、所望のＮＡＬユニットをファイルに格納する。なお、ＮＡＬユニットヘッダ以外に、ＰＣＣコーデックの識別情報が含まれる場合には、第１の多重化部４７１０及び第２の多重化部４７３０は、ステップＳ４７０１及びＳ４７１１において、ＮＡＬユニットヘッダ以外に含まれるＰＣＣコーデックの識別情報を用いて、コーデックタイプ（第１の符号化方法又は第２の符号化方法）を識別してもよい。
【0178】
また、第１の多重化部４７１０及び第２の多重化部４７３０は、ステップＳ４７０６及びＳ４７１４において、データをファイルに格納する際に、ＮＡＬユニットヘッダからｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを削除したうえでファイルに格納してもよい。
【0179】
図２８は、第１の逆多重化部４７２０及び第１の復号部４６４０による処理を示すフローチャートである。まず、第１の逆多重化部４７２０は、ＩＳＯＢＭＦＦのファイルに含まれるｆｔｙｐを解析する（Ｓ４７２１）。ｆｔｙｐで示されるコーデックが第２の符号化方法（ｐｃｃ２）である場合（Ｓ４７２２で第２の符号化方法）、第１の逆多重化部４７２０は、ＮＡＬユニットのペイロードに含まれるデータが第２の符号化方法で符号化されたデータであると判断する（Ｓ４７２３）。また、第１の逆多重化部４７２０は、判断の結果を第１の復号部４６４０に伝達する。第１の復号部４６４０は、当該ＮＡＬユニットを処理しない（Ｓ４７２４）。
【0180】
一方、ｆｔｙｐで示されるコーデックが第１の符号化方法（ｐｃｃ１）である場合（Ｓ４７２２で第１の符号化方法）、第１の逆多重化部４７２０は、ＮＡＬユニットのペイロードに含まれるデータが第１の符号化方法で符号化されたデータであると判断する（Ｓ４７２５）。また、第１の逆多重化部４７２０は、判断の結果を第１の復号部４６４０に伝達する。
【0181】
第１の復号部４６４０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅが、第１の符号化方法用のＮＡＬユニットの識別子であるとしてデータを識別する（Ｓ４７２６）。そして、第１の復号部４６４０は、第１の符号化方法の復号処理を用いてＰＣＣデータを復号する（Ｓ４７２７）。
【0182】
図２９は、第２の逆多重化部４７４０及び第２の復号部４６６０による処理を示すフローチャートである。まず、第２の逆多重化部４７４０は、ＩＳＯＢＭＦＦのファイルに含まれるｆｔｙｐを解析する（Ｓ４７３１）。ｆｔｙｐで示されるコーデックが第２の符号化方法（ｐｃｃ２）である場合（Ｓ４７３２で第２の符号化方法）、第２の逆多重化部４７４０は、ＮＡＬユニットのペイロードに含まれるデータが第２の符号化方法で符号化されたデータであると判断する（Ｓ４７３３）。また、第２の逆多重化部４７４０は、判断の結果を第２の復号部４６６０に伝達する。
【0183】
第２の復号部４６６０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅが、第２の符号化方法用のＮＡＬユニットの識別子であるとしてデータを識別する（Ｓ４７３４）。そして、第２の復号部４６６０は、第２の符号化方法の復号処理を用いてＰＣＣデータを復号する（Ｓ４７３５）。
【0184】
一方、ｆｔｙｐで示されるコーデックが第１の符号化方法（ｐｃｃ１）である場合（Ｓ４７３２で第１の符号化方法）、第２の逆多重化部４７４０は、ＮＡＬユニットのペイロードに含まれるデータが第１の符号化方法で符号化されたデータであると判断する（Ｓ４７３６）。また、第２の逆多重化部４７４０は、判断の結果を第２の復号部４６６０に伝達する。第２の復号部４６６０は、当該ＮＡＬユニットを処理しない（Ｓ４７３７）。
【0185】
このように、例えば、第１の逆多重化部４７２０又は第２の逆多重化部４７４０において、ＮＡＬユニットのコーデックタイプを識別することにより、早い段階でコーデックタイプを識別できる。さらに、所望のＮＡＬユニットを第１の復号部４６４０又は第２の復号部４６６０に入力し、不要なＮＡＬユニットを取り除くことができる。この場合、第１の復号部４６４０又は第２の復号部４６６０において、コーデックの識別情報を解析する処理は不要になる可能性がある。なお、第１の復号部４６４０又は第２の復号部４６６０で再度ＮＡＬユニットタイプを参照してコーデックの識別情報を解析する処理を実施してもよい。
【0186】
また、第１の多重化部４７１０又は第２の多重化部４７３０においてＮＡＬユニットヘッダからｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを削除されている場合には、第１の逆多重化部４７２０又は第２の逆多重化部４７４０は、ＮＡＬユニットにｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを付与したうえで第１の復号部４６４０又は第２の復号部４６６０へ出力してもよい。
【0187】
（実施の形態３）
本実施の形態では、実施の形態１で説明した、複数のコーデックに対応した符号化部４６７０及び復号部４６８０に対応する、多重化部および逆多重化部について説明する。図３０は、本実施の形態に係る符号化部４６７０及び第３の多重化部４７５０の構成を示す図である。
本実施の形態では、実施の形態１で説明した、複数のコーデックに対応した符号化部４６７０及び復号部４６８０に対応する、多重化部および逆多重化部について説明する。図３０は、本実施の形態に係る符号化部４６７０及び第３の多重化部４７５０の構成を示す図である。
【0188】
符号化部４６７０は、点群データを、第１の符号化方法、及び第２の符号化方法のいずれか一方又は両方の方式を用いて符号化する。符号化部４６７０は、点群データ単位、又はフレーム単位で符号化方法（第１の符号化方法及び第２の符号化方法）を切り替えてもよい。また、符号化部４６７０は、符号化可能な単位で符号化方法を切り替えてもよい。
【0189】
符号化部４６７０は、ＰＣＣコーデックの識別情報を含む符号化データ（符号化ストリーム）を生成する。
【0190】
第３の多重化部４７５０は、ファイル変換部４７５１を備える。ファイル変換部４７５１は、符号化部４６７０から出力されたＮＡＬユニットをＰＣＣデータのファイルに変換する。ファイル変換部４７５１は、ＮＡＬユニットヘッダに含まれるコーデック識別情報を解析し、ＰＣＣ符号化データが、第１の符号化方法で符号化されたデータであるか、第２の符号化方法で符号化されたデータであるか、両方の方式で符号化されたデータであるかを判定する。ファイル変換部４７５１は、ｆｔｙｐにコーデックを識別可能なブランド名を記載する。例えば、両方の方式で符号化されたことを示す場合、ｆｔｙｐにｐｃｃ３が記載される。
【0191】
なお、符号化部４６７０が、ＮＡＬユニット以外にＰＣＣコーデックの識別情報を記載している場合、ファイル変換部４７５１は、当該識別情報を用いて、ＰＣＣコーデック（符号化方法）を判定してもよい。
【0192】
図３１は、本実施の形態に係る第３の逆多重化部４７６０及び復号部４６８０の構成を示す図である。
【0193】
第３の逆多重化部４７６０は、ファイル逆変換部４７６１を備える。ファイル逆変換部４７６１は、ファイルに含まれるｆｔｙｐを解析し、ＰＣＣ符号化データが、第１の符号化方法で符号化されたデータであるか、第２の符号化方法で符号化されたデータであるか、両方の方式で符号化されたデータであるかを判定する。
【0194】
ＰＣＣ符号化データがいずれか一方の符号化方法で符号化されている場合、第１の復号部４６４０及び第２の復号部４６６０のうち、対応する復号部にデータが入力され、もう一方の復号部にはデータが入力されない。ＰＣＣ符号化データが両方の符号化方法で符号化されている場合、両方式に対応する復号部４６８０にデータが入力される。
【0195】
復号部４６８０は、ＰＣＣ符号化データを、第１の符号化方法及び第２の符号化方法のいずれか一方又は両方の方式を用いて復号する。
【0196】
図３２は、本実施の形態に係る第３の多重化部４７５０による処理を示すフローチャートである。
【0197】
まず、第３の多重化部４７５０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅを解析することで、使用されているコーデックが第１の符号化方法であるか、第２の符号化方法であるか、第１の符号化方法及び第２の符号化方法の両方であるかを判定する（Ｓ４７４１）。
【0198】
第２の符号化方法が使用されている場合（Ｓ４７４２でＹｅｓ、かつ、Ｓ４７４３で第２の符号化方法）、第３の多重化部４７５０は、ｆｔｙｐにｐｃｃ２を記載する（Ｓ４７４４）。つまり、第３の多重化部４７５０は、第２の符号化方法で符号化されたデータがファイルに格納されていることを示す情報をｆｔｙｐに記載する。
【0199】
次に、第３の多重化部４７５０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを解析し、ｐｃｃ＿ｕｎｉｔ＿ｔｙｐｅで示されるデータタイプに応じた所定の方法でデータをボックス（ｍｏｏｖ又はｍｄａｔ等）に格納する（Ｓ４７４５）。そして、第３の多重化部４７５０は、上記ｆｔｙｐ及び上記ボックスを含むＩＳＯＢＭＦＦのファイルを作成する（Ｓ４７４６）。
【0200】
一方、第１の符号化方法が使用されている場合（Ｓ４７４２でＹｅｓ、かつ、Ｓ４７４３で第１の符号化方法）、第３の多重化部４７５０は、ｆｔｙｐにｐｃｃ１を記載する（Ｓ４７４７）。つまり、第３の多重化部４７５０は、第１の符号化方法で符号化されたデータがファイルに格納されていることを示す情報をｆｔｙｐに記載する。
【0201】
次に、第３の多重化部４７５０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを解析し、ｐｃｃ＿ｕｎｉｔ＿ｔｙｐｅで示されるデータタイプに応じた所定の方法でデータをボックス（ｍｏｏｖ又はｍｄａｔ等）に格納する（Ｓ４７４８）。そして、第３の多重化部４７５０は、上記ｆｔｙｐ及び上記ボックスを含むＩＳＯＢＭＦＦのファイルを作成する（Ｓ４７４６）。
【0202】
一方、第１の符号化方法と第２の符号化方法との両方の符号化方法が使用されている場合（Ｓ４７４２でＮｏ）、第３の多重化部４７５０は、ｆｔｙｐにｐｃｃ３を記載する（Ｓ４７４９）。つまり、第３の多重化部４７５０は、両方の符号化方法で符号化されたデータがファイルに格納されていることを示す情報をｆｔｙｐに記載する。
【0203】
次に、第３の多重化部４７５０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを解析し、ｐｃｃ＿ｕｎｉｔ＿ｔｙｐｅで示されるデータタイプに応じた所定の方法でデータをボックス（ｍｏｏｖ又はｍｄａｔ等）に格納する（Ｓ４７５０）。そして、第３の多重化部４７５０は、上記ｆｔｙｐ及び上記ボックスを含むＩＳＯＢＭＦＦのファイルを作成する（Ｓ４７４６）。
【0204】
図３３は、第３の逆多重化部４７６０及び復号部４６８０による処理を示すフローチャートである。まず、第３の逆多重化部４７６０は、ＩＳＯＢＭＦＦのファイルに含まれるｆｔｙｐを解析する（Ｓ４７６１）。ｆｔｙｐで示されるコーデックが第２の符号化方法（ｐｃｃ２）である場合（Ｓ４７６２でＹｅｓ、かつＳ４７６３で第２の符号化方法）、第３の逆多重化部４７６０は、ＮＡＬユニットのペイロードに含まれるデータが第２の符号化方法で符号化されたデータであると判断する（Ｓ４７６４）。また、第３の逆多重化部４７６０は、判断の結果を復号部４６８０に伝達する。
【0205】
復号部４６８０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅが、第２の符号化方法用のＮＡＬユニットの識別子であるとしてデータを識別する（Ｓ４７６５）。そして、復号部４６８０は、第２の符号化方法の復号処理を用いてＰＣＣデータを復号する（Ｓ４７６６）。
【0206】
一方、ｆｔｙｐで示されるコーデックが第１の符号化方法（ｐｃｃ１）である場合（Ｓ４７６２でＹｅｓ、かつＳ４７６３で第１の符号化方法）、第３の逆多重化部４７６０は、ＮＡＬユニットのペイロードに含まれるデータが第１の符号化方法で符号化されたデータであると判断する（Ｓ４７６７）。また、第３の逆多重化部４７６０は、判断の結果を復号部４６８０に伝達する。
【0207】
復号部４６８０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅが、第１の符号化方法用のＮＡＬユニットの識別子であるとしてデータを識別する（Ｓ４７６８）。そして、復号部４６８０は、第１の符号化方法の復号処理を用いてＰＣＣデータを復号する（Ｓ４７６９）。
【0208】
一方、ｆｔｙｐで両方の符号化方法が用いられていること（ｐｃｃ３）が示される場合（Ｓ４７６２でＮｏ）、第３の逆多重化部４７６０は、ＮＡＬユニットのペイロードに含まれるデータが、第１の符号化方法と第２符号化方法との両方の符号化方法で符号化されたデータであると判断する（Ｓ４７７０）。また、第３の逆多重化部４７６０は、判断の結果を復号部４６８０に伝達する。
【0209】
復号部４６８０は、ＮＡＬユニットヘッダに含まれるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅが、ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅに記載されるコーデック用のＮＡＬユニットの識別子であるとしてデータを識別する（Ｓ４７７１）。そして、復号部４６８０は、両方の符号化方法の復号処理を用いてＰＣＣデータを復号する（Ｓ４７７２）。つまり、復号部４６８０は、第１の符号化方法で符号化されたデータを、第１の符号化方法の復号処理を用いて復号し、第２の符号化方法で符号化されたデータを、第２の符号化方法の復号処理を用いて復号する。
【0210】
以下、本実施の形態の変形例を説明する。ｆｔｙｐに示されるブランドの種類として、以下の種類が識別情報で示されてもよい。また、以下に示す複数の種類の組み合わせが識別情報で示されてもよい。
【0211】
識別情報は、ＰＣＣ符号化前の元データのオブジェクトが、領域が制限されている点群であるか、地図情報のように領域が制限されていない大規模点群であるかを示してもよい。
【0212】
識別情報は、ＰＣＣ符号化前の元データが、静的オブジェクトであるか、動的オブジェクトであるかを示してもよい。
【0213】
上述のように、識別情報は、ＰＣＣ符号化データが、第１の符号化方法で符号化されたデータであるか、第２の符号化方法で符号化されたデータであるかを示してもよい。
【0214】
識別情報は、ＰＣＣ符号化において用いたアルゴリズムを示してもよい。ここで、アルゴリズムとは、例えば、第１の符号化方法又は第２の符号化方法において使用可能な符号化方法である。
【0215】
識別情報は、ＰＣＣ符号化データのＩＳＯＢＭＦＦのファイルへの格納方法の違いを示してもよい。例えば、識別情報は、使用された格納方法が、蓄積用の格納方法であるか、ダイナミックストリーミングのようなリアルタイム送出用の格納方法であるかを示してもよい。
【0216】
また、実施の形態２及び実施の形態３では、ファイルフォーマットとしてＩＳＯＢＭＦＦが用いられる例に説明したが、その他の方式が用いられてもよい。例えば、ＭＰＥＧ－２ ＴＳ Ｓｙｓｔｅｍｓ、ＭＰＥＧ－ＤＡＳＨ、ＭＭＴ、又はＲＭＰにＰＣＣ符号化データを格納する際にも本実施の形態と同様の方法を用いてもよい。
【0217】
また、上記では、ｆｔｙｐに識別情報等のメタデータを格納する例を示したが、ｆｔｙｐ以外にこれらのメタデータが格納されてもよい。例えば、これらのメタデータがｍｏｏｖに格納されてもよい。
【0218】
以上のように、三次元データ格納装置（又は三次元データ多重化装置、又は三次元データ符号化装置）は、図３４に示す処理を行う。
【0219】
まず、三次元データ格納装置（例えば、第１の多重化部４７１０、第２の多重化部４７３０又は第３の多重化部４７５０を含む）は、点群データが符号化された符号化ストリームが格納された１以上のユニット（例えばＮＡＬユニット）を取得する（Ｓ４７８１）。次に、三次元データ格納装置は、１以上のユニットをファイル（例えばＩＳＯＢＭＦＦのファイル）に格納する（Ｓ４７８２）。また、三次元データ格納装置は、前記格納（Ｓ４７８２）では、ファイルに格納されているデータが、点群データが符号化されたデータであることを示す情報（例えばｐｃｃ１、ｐｃｃ２又はｐｃｃ３）を、前記ファイルの制御情報（例えばｆｔｙｐ）に格納する。
【0220】
これによれば、当該三次元データ格納装置で生成されたファイルを処理する装置では、ファイルの制御情報を参照して、当該ファイルに格納されているデータが点群データの符号化データであるか否かを早期に判定できる。よって、当該装置の処理量の低減又は処理の高速化を実現できる。
【0221】
例えば、前記情報は、さらに、第１符号化方法と第２符号化方法のうち、前記点群データの符号化に用いられた符号化方法を示す。なお、ファイルに格納されているデータが、点群データが符号化されたデータであることと、第１符号化方法と第２符号化方法のうち、点群データの符号化に用いられた符号化方法とは、単一の情報で示されてもよいし、異なる情報で示されてもよい。
【0222】
これによれば、当該三次元データ格納装置で生成されたファイルを処理する装置では、ファイルの制御情報を参照して、当該ファイルに格納されているデータに使用されたコーデックを早期に判定できる。よって、当該装置の処理量の低減又は処理の高速化を実現できる。
【0223】
例えば、前記第１符号化方法は、点群データの位置をＮ（Ｎは２以上の整数）分木で表した位置情報を符号化し、前記位置情報を用いて属性情報を符号化する方式（ＧＰＣＣ）であり、前記第２符号化方法は、点群データから二次元画像を生成し、前記二次元画像を映像符号化方法を用いて符号化する方式（ＶＰＣＣ）である。
【0224】
例えば、前記ファイルは、ＩＳＯＢＭＦＦ（ＩＳＯ ｂａｓｅｄ ｍｅｄｉａ ｆｉｌｅ ｆｏｒｍａｔ）に準拠する。
【0225】
例えば、三次元データ格納装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【0226】
また、以上のように、三次元データ取得装置（又は三次元データ逆多重化装置、又は三次元データ復号装置）は、図３５に示す処理を行う。
【0227】
三次元データ取得装置（例えば、第１の逆多重化部４７２０、第２の逆多重化部４７４０又は第３の逆多重化部４７６０を含む）は、点群データが符号化された符号化ストリームが格納された１以上のユニット（例えばＮＡＬユニット）が格納されたファイル（例えばＩＳＯＢＭＦＦのファイル）を取得する（Ｓ４７９１）。次に、三次元データ取得装置は、ファイルから、１以上のユニットを取得する（Ｓ４７９２）。また、ファイルの制御情報（例えばｆｔｙｐ）は、ファイルに格納されているデータが、点群データが符号化されたデータであることを示す情報（例えばｐｃｃ１、ｐｃｃ２又はｐｃｃ３）を含む。
【0228】
例えば、三次元データ取得装置は、前記情報を参照して、ファイルに格納されているデータが、点群データが符号化されたデータであるか否かを判定する。また、三次元データ取得装置は、ファイルに格納されているデータが、点群データが符号化されたデータであると判定した場合、１以上のユニットに含まれる点群データが符号化されたデータを復号することで点群データを生成する。または、三次元データ取得装置は、ファイルに格納されているデータが、点群データが符号化されたデータであると判定した場合、１以上のユニットに含まれるデータが、点群データが符号化されたデータであることを示す情報を、後段の処理部（例えば、第１の復号部４６４０、第２の復号部４６６０又は復号部４６８０）に出力（通知）する。
【0229】
これによれば、当該三次元データ取得装置は、ファイルの制御情報を参照して、当該ファイルに格納されているデータが点群データの符号化データであるか否かを早期に判定できる。よって、当該三次元データ取得装置又は後段の装置の処理量の低減又は処理の高速化を実現できる。
【0230】
例えば、前記情報は、さらに、第１符号化方法と第２符号化方法のうち、前記符号化に用いた符号化方法を示す。なお、ファイルに格納されているデータが、点群データが符号化されたデータであることと、第１符号化方法と第２符号化方法のうち、点群データの符号化に用いられた符号化方法とは、単一の情報で示されてもよいし、異なる情報で示されてもよい。
【0231】
これによれば、当該三次元データ取得装置は、ファイルの制御情報を参照して、当該ファイルに格納されているデータに使用されたコーデックを早期に判定できる。よって、当該三次元データ取得装置又は後段の装置の処理量の低減又は処理の高速化を実現できる。
【0232】
例えば、三次元データ取得装置は、前記情報に基づき、第１符号化方法で符号化されたデータと第２符号化方法で符号化されたデータとを含む符号化された点群データから、いずれか一方の符号化方法で符号化されたデータを取得する。
【0233】
例えば、前記第１符号化方法は、点群データの位置をＮ（Ｎは２以上の整数）分木で表した位置情報を符号化し、前記位置情報を用いて属性情報を符号化する方式（ＧＰＣＣ）であり、前記第２符号化方法は、点群データから二次元画像を生成し、前記二次元画像を映像符号化方法を用いて符号化する方式（ＶＰＣＣ）である。
【0234】
例えば、前記ファイルは、ＩＳＯＢＭＦＦ（ＩＳＯ ｂａｓｅｄ ｍｅｄｉａ ｆｉｌｅ ｆｏｒｍａｔ）に準拠する。
【0235】
例えば、三次元データ取得装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【0236】
（実施の形態４）
本実施の形態では、上述した第１の符号化部４６３０、又は第２の符号化部４６５０で生成される符号化データ（位置情報（Ｇｅｏｍｅｔｒｙ）、属性情報（Ａｔｔｒｉｂｕｔｅ）、付加情報（Ｍｅｔａｄａｔａ））の種別、及び付加情報（メタデータ）の生成方法、及び多重化部における多重処理について説明する。なお、付加情報（メタデータ）は、パラメータセット、又は制御情報と表記することもある。
本実施の形態では、上述した第１の符号化部４６３０、又は第２の符号化部４６５０で生成される符号化データ（位置情報（Ｇｅｏｍｅｔｒｙ）、属性情報（Ａｔｔｒｉｂｕｔｅ）、付加情報（Ｍｅｔａｄａｔａ））の種別、及び付加情報（メタデータ）の生成方法、及び多重化部における多重処理について説明する。なお、付加情報（メタデータ）は、パラメータセット、又は制御情報と表記することもある。
【0237】
本実施の形態では、図４で説明した動的オブジェクト（時間的に変化する三次元点群データ）を例に説明するが、静的オブジェクト（任意の時刻の三次元点群データ）の場合でも同様の方法を用いてもよい。
【0238】
図３６は、本実施の形態に係る三次元データ符号化装置に含まれる符号化部４８０１及び多重化部４８０２の構成を示す図である。符号化部４８０１は、例えば、上述した第１の符号化部４６３０又は第２の符号化部４６５０に対応する。多重化部４８０２は、上述した多重化部４６３４又は４６４５６に対応する。
【0239】
符号化部４８０１は、複数のＰＣＣ（Ｐｏｉｎｔ Ｃｌｏｕｄ Ｃｏｍｐｒｅｓｓｉｏｎ）フレームの点群データを符号化し、複数の位置情報、属性情報及び付加情報の符号化データ（Ｍｕｌｔｉｐｌｅ Ｃｏｍｐｒｅｓｓｅｄ Ｄａｔａ）を生成する。
【0240】
多重化部４８０２は、複数のデータ種別（位置情報、属性情報及び付加情報）のデータをＮＡＬユニット化することで、データを復号装置におけるデータアクセスを考慮したデータ構成に変換する。
【0241】
図３７は、符号化部４８０１で生成される符号化データの構成例を示す図である。図中の矢印は符号化データの復号に係る依存関係を示しており、矢印の元は矢印の先のデータに依存している。つまり、復号装置は、矢印の先のデータを復号し、その復号したデータを用いて矢印の元のデータを復号する。言い換えると、依存するとは、依存元のデータの処理（符号化又は復号等）において依存先のデータが参照（使用）されることを意味する。
【0242】
まず、位置情報の符号化データの生成処理について説明する。符号化部４８０１は、各フレームの位置情報を符号化することで、フレーム毎の符号化位置データ（Ｃｏｍｐｒｅｓｓｅｄ Ｇｅｏｍｅｔｒｙ Ｄａｔａ）を生成する。また、符号化位置データをＧ（ｉ）で表す。ｉはフレーム番号、又はフレームの時刻等を示す。
【0243】
また、符号化部４８０１は、各フレームに対応する位置パラメータセット（ＧＰＳ（ｉ））を生成する。位置パラメータセットは、符号化位置データの復号に使用することが可能なパラメータを含む。また、フレーム毎の符号化位置データは、対応する位置パラメータセットに依存する。
【0244】
また、複数フレームから成る符号化位置データを位置シーケンス（Ｇｅｏｍｅｔｒｙ Ｓｅｑｕｅｎｃｅ）と定義する。符号化部４８０１は、位置シーケンス内の複数のフレームに対する復号処理に共通に使用するパラメータを格納する位置シーケンスパラメータセット（Ｇｅｏｍｅｔｒｙ Ｓｅｑｕｅｎｃｅ ＰＳ：位置ＳＰＳとも記す）を生成する。位置シーケンスは、位置ＳＰＳに依存する。
【0245】
次に、属性情報の符号化データの生成処理について説明する。符号化部４８０１は、各フレームの属性情報を符号化することで、フレーム毎の符号化属性データ（Ｃｏｍｐｒｅｓｓｅｄ Ａｔｔｒｉｂｕｔｅ Ｄａｔａ）を生成する。また、符号化属性データをＡ（ｉ）で表す。また、図３７では、属性Ｘと属性Ｙとが存在する例を示しており、属性Ｘの符号化属性データをＡＸ（ｉ）で表し、属性Ｙの符号化属性データをＡＹ（ｉ）で表す。
【0246】
また、符号化部４８０１は、各フレームに対応する属性パラメータセット（ＡＰＳ（ｉ））を生成する。また、属性Ｘの属性パラメータセットをＡＸＰＳ（ｉ）で表し、属性Ｙの属性パラメータセットをＡＹＰＳ（ｉ）で表す。属性パラメータセットは、符号化属性情報の復号に使用することが可能なパラメータを含む。符号化属性データは、対応する属性パラメータセットに依存する。
【0247】
また、複数フレームから成る符号化属性データを属性シーケンス（Ａｔｔｒｉｂｕｔｅ Ｓｅｑｕｅｎｃｅ）と定義する。符号化部４８０１は、属性シーケンス内の複数のフレームに対する復号処理に共通に使用するパラメータを格納する属性シーケンスパラメータセット（Ａｔｔｒｉｂｕｔｅ Ｓｅｑｕｅｎｃｅ ＰＳ：属性ＳＰＳとも記す）を生成する。属性シーケンスは、属性ＳＰＳに依存する。
【0248】
また、第１の符号化方法では、符号化属性データは符号化位置データに依存する。
【0249】
また、図３７では２種類の属性情報（属性Ｘと属性Ｙ）が存在する場合の例を示している。２種類の属性情報がある場合は、例えば、２つの符号化部により、それぞれのデータ及びメタデータが生成される。また、例えば、属性情報の種類毎に属性シーケンスが定義され、属性情報の種類毎に属性ＳＰＳが生成される。
【0250】
なお、図３７では、位置情報が１種類、属性情報が２種類である例を示しているが、これに限らず、属性情報は１種類であってもよいし、３種類以上であってもよい。この場合も、同様の方法で符号化データを生成できる。また、属性情報を持たない点群データの場合は、属性情報はなくてもよい。その場合は、符号化部４８０１は、属性情報に関連するパラメータセットを生成しなくてもよい。
【0251】
次に、付加情報（メタデータ）の生成処理について説明する。符号化部４８０１は、ＰＣＣストリーム全体のパラメータセットであるＰＣＣストリームＰＳ（ＰＣＣ Ｓｔｒｅａｍ ＰＳ：ストリームＰＳとも記す）を生成する。符号化部４８０１は、ストリームＰＳに、１又は複数の位置シーケンス及び１又は複数の属性シーケンスに対する復号処理に共通に使用することができるパラメータを格納する。例えば、ストリームＰＳには、点群データのコーデックを示す識別情報、及び符号化に使用されたアルゴリズムを示す情報等が含まれる。位置シーケンス及び属性シーケンスはストリームＰＳに依存する。
【0252】
次に、アクセスユニット及びＧＯＦについて説明する。本実施の形態では、新たにアクセスユニット（Ａｃｃｅｓｓ Ｕｎｉｔ：ＡＵ）、及びＧＯＦ（Ｇｒｏｕｐ ｏｆ Ｆｒａｍｅ）の考え方を導入する。
【0253】
アクセスユニットは、復号時にデータにアクセスするため基本単位であり、１つ以上のデータ及び１つ以上のメタデータで構成される。例えば、アクセスユニットは、同一時刻の位置情報と１又は複数の属性情報とで構成される。ＧＯＦは、ランダムアクセス単位であり、１つ以上のアクセスユニットで構成される。
【0254】
符号化部４８０１は、アクセスユニットの先頭を示す識別情報として、アクセスユニットヘッダ（ＡＵ Ｈｅａｄｅｒ）を生成する。符号化部４８０１は、アクセスユニットヘッダに、アクセスユニットに係るパラメータを格納する。例えば、アクセスユニットヘッダは、アクセスユニットに含まれる符号化データの構成又は情報を含む。また、アクセスユニットヘッダは、アクセスユニットに含まれるデータに共通に用いられるパラメータ、例えば、符号化データの復号に係るパラメータなどを含む。
【0255】
なお、符号化部４８０１は、アクセスユニットヘッダの代わりに、アクセスユニットに係るパラメータを含まないアクセスユニットデリミタを生成してもよい。このアクセスユニットデリミタは、アクセスユニットの先頭を示す識別情報として用いられる。復号装置は、アクセスユニットヘッダ又はアクセスユニットデリミタを検出することにより、アクセスユニットの先頭を識別する。
【0256】
次に、ＧＯＦ先頭の識別情報の生成について説明する。符号化部４８０１は、ＧＯＦの先頭を示す識別情報として、ＧＯＦヘッダ（ＧＯＦ Ｈｅａｄｅｒ）を生成する。符号化部４８０１は、ＧＯＦヘッダに、ＧＯＦに係るパラメータを格納する。例えば、ＧＯＦヘッダは、ＧＯＦに含まれる符号化データの構成又は情報を含む。また、ＧＯＦヘッダは、ＧＯＦに含まれるデータに共通に用いられるパラメータ、例えば、符号化データの復号に係るパラメータなどを含む。
【0257】
なお、符号化部４８０１は、ＧＯＦヘッダの代わりに、ＧＯＦに係るパラメータを含まないＧＯＦデリミタを生成してもよい。このＧＯＦデリミタは、ＧＯＦの先頭を示す識別情報として用いられる。復号装置は、ＧＯＦヘッダ又はＧＯＦデリミタを検出することにより、ＧＯＦの先頭を識別する。
【0258】
ＰＣＣ符号化データにおいて、例えば、アクセスユニットはＰＣＣフレーム単位であると定義される。復号装置は、アクセスユニット先頭の識別情報に基づき、ＰＣＣフレームにアクセスする。
【0259】
また、例えば、ＧＯＦは１つのランダムアクセス単位であると定義される。復号装置は、ＧＯＦ先頭の識別情報に基づき、ランダムアクセス単位にアクセスする。例えば、ＰＣＣフレームが互いに依存関係がなく、単独で復号可能であれば、ＰＣＣフレームをランダムアクセス単位と定義してもよい。
【0260】
なお、１つのアクセスユニットに２つ以上のＰＣＣフレームが割り当てられてもよいし、１つのＧＯＦに複数のランダムアクセス単位が割り当てられてもよい。
【0261】
また、符号化部４８０１は、上記以外のパラメータセット又はメタデータを定義し、生成してもよい。例えば、符号化部４８０１は、復号時に必ずしも用いない可能性のあるパラメータ（オプションのパラメータ）を格納するＳＥＩ（Ｓｕｐｐｌｅｍｅｎｔａｌ Ｅｎｈａｎｃｅｍｅｎｔ Ｉｎｆｏｒｍａｔｉｏｎ）を生成してもよい。
【0262】
次に、符号化データの構成、及び符号化データのＮＡＬユニットへの格納方法を説明する。
【0263】
例えば、符号化データの種類毎にデータフォーマットが規定される。図３８は、符号化データ及びＮＡＬユニットの例を示す図である。
【0264】
例えば、図３８に示すように符号化データは、ヘッダとペイロードとを含む。なお、符号化データは、符号化データ、ヘッダ又はペイロードの長さ（データ量）を示す長さ情報を含んでもよい。また、符号化データは、ヘッダを含まなくてもよい。
【0265】
ヘッダは、例えば、データを特定するための識別情報を含む。この識別情報は、例えば、データ種別又はフレーム番号を示す。
【0266】
ヘッダは、例えば、参照関係を示す識別情報を含む。この識別情報は、例えば、データ間に依存関係がある場合にヘッダに格納され、参照元から参照先を参照するための情報である。例えば、参照先のヘッダには、当該データを特定するための識別情報が含まれる。参照元のヘッダには、参照先を示す識別情報が含まれる。
【0267】
なお、他の情報から参照先又は参照元を識別可能又は導出可能である場合は、データを特定するための識別情報、又は参照関係を示す識別情報を省略してもよい。
【0268】
多重化部４８０２は、符号化データを、ＮＡＬユニットのペイロードに格納する。ＮＡＬユニットヘッダには、符号化データの識別情報であるｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅが含まれる。図３９は、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅのセマンティクスの例を示す図である。
【0269】
図３９に示すように、ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅがコーデック１（Ｃｏｄｅｃ１：第１の符号化方法）である場合、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅの値０～１０は、コーデック１における、符号化位置データ（Ｇｅｏｍｅｔｒｙ）、符号化属性Ｘデータ（ＡｔｔｒｉｂｕｔｅＸ）、符号化属性Ｙデータ（ＡｔｔｒｉｂｕｔｅＹ）、位置ＰＳ（Ｇｅｏｍ．ＰＳ）、属性ＸＰＳ（ＡｔｔｒＸ．ＰＳ）、属性ＹＰＳ（ＡｔｔｒＸ．ＰＳ）、位置ＳＰＳ（Ｇｅｏｍｅｔｒｙ Ｓｅｑｕｅｎｃｅ ＰＳ）、属性ＸＳＰＳ（ＡｔｔｒｉｂｕｔｅＸ Ｓｅｑｕｅｎｃｅ ＰＳ）、属性ＹＳＰＳ（ＡｔｔｒｉｂｕｔｅＹ Ｓｅｑｕｅｎｃｅ ＰＳ）、ＡＵヘッダ（ＡＵ Ｈｅａｄｅｒ）、ＧＯＦヘッダ（ＧＯＦ Ｈｅａｄｅｒ）に割り当てられる。また、値１１以降は、コーデック１の予備に割り当てられる。
【0270】
ｐｃｃ＿ｃｏｄｅｃ＿ｔｙｐｅがコーデック２（Ｃｏｄｅｃ２：第２の符号化方法）である場合、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅの値０～２は、コーデックのデータＡ（ＤａｔａＡ）、メタデータＡ（ＭｅｔａＤａｔａＡ）、メタデータＢ（ＭｅｔａＤａｔａＢ）に割り当てられる。また、値３以降は、コーデック２の予備に割り当てられる。
【0271】
次に、データの送出順序について説明する。以下、ＮＡＬユニットの送出順序の制約について説明する。
【0272】
多重化部４８０２は、ＮＡＬユニットをＧＯＦ又はＡＵ単位でまとめて送出する。多重化部４８０２は、ＧＯＦの先頭にＧＯＦヘッダを配置し、ＡＵの先頭にＡＵヘッダを配置する。
【0273】
パケットロスなどでデータが失われた場合でも、復号装置が次のＡＵから復号できるように、多重化部４８０２は、シーケンスパラメータセット（ＳＰＳ）を、ＡＵ毎に配置してもよい。
【0274】
符号化データに復号に係る依存関係がある場合には、復号装置は、参照先のデータを復号した後に、参照元のデータを復号する。復号装置において、データを並び替ることなく、受信した順番に復号できるようにするために、多重化部４８０２は、参照先のデータを先に送出する。
【0275】
【0276】
位置情報優先の送出順序は、位置情報に関する情報と、属性情報に関する情報との各々をまとめて送出する例である。この送出順序の場合、位置情報に関する情報の送出が属性情報に関する情報の送出よりも早く完了する。
【0277】
例えば、この送出順序を用いることで、属性情報を復号しない復号装置は、属性情報の復号を無視することで、処理しない時間を設けることができる可能性がある。また、例えば、位置情報を早く復号したい復号装置の場合、位置情報の符号化データを早く得ることにより、より早く位置情報を復号することができる可能性がある。
【0278】
なお、図４０では、属性ＸＳＰＳと属性ＹＳＰＳを統合し、属性ＳＰＳと記載しているが、属性ＸＳＰＳと属性ＹＳＰＳとを個別に配置してもよい。
【0279】
パラメータセット優先の送出順序では、パラメータセットが先に送出され、データが後で送出される。
【0280】
以上のようにＮＡＬユニット送出順序の制約に従えば、多重化部４８０２は、ＮＡＬユニットをどのような順序で送出してもよい。例えば、順序識別情報が定義され、多重化部４８０２は、複数パターンの順序でＮＡＬユニットを送出する機能を有してもよい。例えばストリームＰＳにＮＡＬユニットの順序識別情報が格納される。
【0281】
三次元データ復号装置は、順序識別情報に基づき復号を行ってもよい。三次元データ復号装置から三次元データ符号化装置に所望の送出順序が指示され、三次元データ符号化装置（多重化部４８０２）は、指示された送出順序に従って送出順序を制御してもよい。
【0282】
なお、多重化部４８０２は、データ統合の送出順序のように、送出順序の制約に従う範囲であれば、複数の機能をマージした符号化データを生成してもよい。例えば、図４０に示すように、ＧＯＦヘッダとＡＵヘッダとを統合してもよいし、ＡＸＰＳとＡＹＰＳとを統合してもよい。この場合、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅには、複数の機能を有するデータであることを示す識別子が定義される。
【0283】
以下、本実施の形態の変形例について説明する。フレームレベルのＰＳ、シーケンスレベルのＰＳ、ＰＣＣシーケンスレベルのＰＳのように、ＰＳにはレベルがあり、ＰＣＣシーケンスレベルを上位のレベルとし、フレームレベルを下位のレベルとすると、パラメータの格納方法には下記の方法を用いてもよい。
【0284】
デフォルトのＰＳの値をより上位のＰＳで示す。また、下位のＰＳの値が上位のＰＳの値と異なる場合には、下位のＰＳでＰＳの値が示される。または、上位ではＰＳの値を記載せず、下位のＰＳにＰＳの値を記載する。または、ＰＳの値を、下位のＰＳで示すか、上位のＰＳで示すか、両方で示すかの情報を、下位のＰＳと上位のＰＳのいずれか一方又は両方に示す。または、下位のＰＳを上位のＰＳにマージしてもよい。または、下位のＰＳと上位のＰＳとが重複する場合には、多重化部４８０２は、いずれか一方の送出を省略してもよい。
【0285】
なお、符号化部４８０１又は多重化部４８０２は、データをスライス又はタイルなどに分割し、分割したデータを送出してもよい。分割したデータには、分割したデータを識別するための情報が含まれ、分割データの復号に使用するパラメータがパラメータセットに含まれる。この場合、ｐｃｃ＿ｎａｌ＿ｕｎｉｔ＿ｔｙｐｅには、タイル又はスライスに係るデータ又はパラメータを格納するデータであることを示す識別子が定義される。
【0286】
以下、順序識別情報に係る処理について説明する。図４１は、ＮＡＬユニットの送出順序に係る三次元データ符号化装置（符号化部４８０１及び多重化部４８０２）による処理のフローチャートである。
【0287】
まず、三次元データ符号化装置は、ＮＡＬユニットの送出順序（位置情報優先又はパラメータセット優先）を決定する（Ｓ４８０１）。例えば、三次元データ符号化装置は、ユーザ又は外部装置（例えば三次元データ復号装置）からの指定に基づき送出順序を決定する。
【0288】
決定された送出順序が位置情報優先である場合（Ｓ４８０２で位置情報優先）、三次元データ符号化装置は、ストリームＰＳに含まれる順序識別情報を、位置情報優先に設定する（Ｓ４８０３）。つまり、この場合、順序識別情報は、位置情報優先の順序でＮＡＬユニットが送出されることを示す。そして、三次元データ符号化装置は、位置情報優先の順序でＮＡＬユニットを送出する（Ｓ４８０４）。
【0289】
一方、決定された送出順序がパラメータセット優先である場合（Ｓ４８０２でパラメータセット優先）、三次元データ符号化装置は、ストリームＰＳに含まれる順序識別情報をパラメータセット優先に設定する（Ｓ４８０５）。つまり、この場合、順序識別情報は、パラメータセット優先の順序でＮＡＬユニットが送出されることを示す。そして、三次元データ符号化装置は、パラメータセットパラメータセット優先の順序でＮＡＬユニットを送出する（Ｓ４８０６）。
【0290】
図４２は、ＮＡＬユニットの送出順序に係る三次元データ復号装置による処理のフローチャートである。まず、三次元データ復号装置は、ストリームＰＳに含まれる順序識別情報を解析する（Ｓ４８１１）。
【0291】
順序識別情報で示される送出順序が位置情報優先である場合（Ｓ４８１２で位置情報優先）、三次元データ復号装置は、ＮＡＬユニットの送出順序が位置情報優先であるものとして、ＮＡＬユニットを復号する（Ｓ４８１３）。
【0292】
一方、順序識別情報で示される送出順序がパラメータセット優先である場合（Ｓ４８１２でパラメータセット優先）、三次元データ復号装置は、ＮＡＬユニットの送出順序がパラメータセット優先であるものとして、ＮＡＬユニットを復号する（Ｓ４８１４）。
【0293】
例えば、三次元データ復号装置は、属性情報を復号しない場合、ステップＳ４８１３において、全てのＮＡＬユニットを取得せずに、位置情報に関するＮＡＬユニットを取得し、取得したＮＡＬユニットから位置情報を復号してもよい。
【0294】
次に、ＡＵ及びＧＯＦの生成に係る処理について説明する。図４３は、ＮＡＬユニットの多重化におけるＡＵ及びＧＯＦ生成に係る三次元データ符号化装置（多重化部４８０２）による処理のフローチャートである。
【0295】
まず、三次元データ符号化装置は、符号化データの種類を判定する（Ｓ４８２１）。具体的には、三次元データ符号化装置は、処理対象の符号化データがＡＵ先頭のデータであるか、ＧＯＦ先頭のデータであるか、それ以外のデータであるかを判定する。
【0296】
符号化データがＧＯＦ先頭のデータである場合（Ｓ４８２２でＧＯＦ先頭）、三次元データ符号化装置は、ＧＯＦヘッダ及びＡＵヘッダをＧＯＦに属する符号化データの先頭に配置してＮＡＬユニットを生成する（Ｓ４８２３）。
【0297】
符号化データがＡＵ先頭のデータである場合（Ｓ４８２２でＡＵ先頭）、三次元データ符号化装置は、ＡＵヘッダをＡＵに属する符号化データの先頭に配置してＮＡＬユニットを生成する（Ｓ４８２４）。
【0298】
符号化データがＧＯＦ先頭及びＡＵ先頭のいずれでもない場合（Ｓ４８２２でＧＯＦ先頭、ＡＵ先頭以外）、三次元データ符号化装置は、符号化データが属するＡＵのＡＵヘッダの後に符号化データを配置してＮＡＬユニットを生成する（Ｓ４８２５）。
【0299】
次に、ＡＵ及びＧＯＦへのアクセスに係る処理について説明する。図４４は、ＮＡＬユニットの逆多重化におけるＡＵ及びＧＯＦのアクセスに係る三次元データ復号装置の処理のフローチャートである。
【0300】
まず、三次元データ復号装置は、ＮＡＬユニットに含まれるｎａｌ＿ｕｎｉｔ＿ｔｙｐｅを解析することでＮＡＬユニットに含まれる符号化データの種類を判定する（Ｓ４８３１）。具体的には、三次元データ復号装置は、ＮＡＬユニットに含まれる符号化データが、ＡＵ先頭のデータであるか、ＧＯＦ先頭のデータであるか、それ以外のデータであるかを判定する。
【0301】
ＮＡＬユニットに含まれる符号化データがＧＯＦ先頭のデータである場合（Ｓ４８３２のＧＯＦ先頭）、三次元データ復号装置は、ＮＡＬユニットがランダムアクセスの開始位置であると判断して、当該ＮＡＬユニットにアクセスし、復号処理を開始する（Ｓ４８３３）。
【0302】
一方、ＮＡＬユニットに含まれる符号化データがＡＵ先頭のデータである場合（Ｓ４８３２でＡＵ先頭）、三次元データ復号装置は、ＮＡＬユニットがＡＵ先頭であると判断して、ＮＡＬユニットに含まれるデータにアクセスし、当該ＡＵを復号する（Ｓ４８３４）。
【0303】
一方、ＮＡＬユニットに含まれる符号化データが、ＧＯＦ先頭及びＡＵ先頭のいずれでもない場合（Ｓ４８３２でＧＯＦ先頭、ＡＵ先頭以外）、三次元データ復号装置は、当該ＮＡＬユニットを処理しない。
【0304】
以上のように、三次元データ符号化装置は、図４５に示す処理を行う。三次元データ符号化装置は、時系列の三次元データ（例えば動的オブジェクトの点群データ）を符号化する。三次元データは、時刻毎の位置情報と属性情報とを含む。
【0305】
まず、三次元データ符号化装置は、位置情報を符号化する（Ｓ４８４１）。次に、三次元データ符号化装置は、処理対象の属性情報を、当該処理対象の属性情報と同一時刻の位置情報を参照して符号化する（Ｓ４８４２）。ここで、図３７に示すように、同一時刻の位置情報と属性情報とはアクセスユニット（ＡＵ）を構成する。つまり、三次元データ符号化装置は、処理対象の属性情報を、当該処理対象の属性情報と同じアクセスユニットに含まれる位置情報を参照して符号化する。
【0306】
これによれば、三次元データ符号化装置は、アクセスユニットを用いて符号化における参照の制御を容易化できる。よって、三次元データ符号化装置は符号化処理の処理量を低減できる。
【0307】
例えば、三次元データ符号化装置は、符号化された位置情報（符号化位置データ）と、符号化された属性情報（符号化属性データ）と、処理対象の属性情報の参照先の位置情報を示す情報とを含むビットストリームを生成する。
【0308】
例えば、ビットストリームは、各時刻の位置情報の制御情報を含む位置パラメータセット（位置ＰＳ）と、各時刻の属性情報の制御情報を含む属性パラメータセット（属性ＰＳ）とを含む。
【0309】
例えば、ビットストリームは、複数の時刻の位置情報に共通の制御情報を含む位置シーケンスパラメータセット（位置ＳＰＳ）と、複数の時刻の属性情報に共通の制御情報を含む属性シーケンスパラメータセット（属性ＳＰＳ）とを含む。
【0310】
例えば、ビットストリームは、複数の時刻の位置情報及び複数の時刻の属性情報に共通の制御情報を含むストリームパラメータセット（ストリームＰＳ）を含む。
【0311】
例えば、ビットストリームは、アクセスユニット内で共通の制御情報を含むアクセスユニットヘッダ（ＡＵヘッダ）を含む。
【0312】
例えば、三次元データ符号化装置は、１以上のアクセスユニットで構成されるＧＯＦ（グループオブフレーム）を独立して復号可能なように符号化する。つまり、ＧＯＦはランダムアクセス単位である。
【0313】
例えば、ビットストリームは、ＧＯＦ内で共通の制御情報を含むＧＯＦヘッダを含む。
【0314】
例えば、三次元データ符号化装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【0315】
また、以上のように、三次元データ復号装置は、図４６に示す処理を行う。三次元データ復号装置は、時系列の三次元データ（例えば動的オブジェクトの点群データ）を復号する。三次元データは、時刻毎の位置情報と属性情報とを含む。同一時刻の位置情報と属性情報とはアクセスユニット（ＡＵ）を構成する。
【0316】
まず、三次元データ復号装置は、ビットストリームから位置情報を復号する（Ｓ４８５１）。つまり、三次元データ復号装置は、ビットストリームに含まれる符号化された位置情報（符号化位置データ）を復号することで位置情報を生成する。
【0317】
次に、三次元データ復号装置は、ビットストリームから、処理対象の属性情報を、当該処理対象の属性情報と同一時刻の位置情報を参照して復号する（Ｓ４８５２）。つまり、三次元データ復号装置は、ビットストリームに含まれる符号化された属性情報（符号化属性データ）を復号することで属性情報を生成する。このとき、三次元データ復号装置は、属性情報と同じアクセスユニットに含まれる復号済みの位置情報を参照する。
【0318】
これによれば、三次元データ復号装置は、アクセスユニットを用いて復号における参照の制御を容易化できる。よって、当該三次元データ復号方法は復号処理の処理量を低減できる。
【0319】
例えば、三次元データ復号装置は、ビットストリームから、処理対象の属性情報の参照先の位置情報を示す情報を取得し、取得した情報で示される参照先の位置情報を参照して処理対象の属性情報を復号する。
【0320】
例えば、ビットストリームは、各時刻の位置情報の制御情報を含む位置パラメータセット（位置ＰＳ）と、各時刻の属性情報の制御情報を含む属性パラメータセット（属性ＰＳ）とを含む。つまり、三次元データ復号装置は、処理対象時刻の位置パラメータセットに含まれる制御情報を用いて、処理対象時刻の位置情報を復号し、処理対象時刻の属性パラメータセットに含まれる制御情報を用いて、処理対象時刻の属性情報を復号する。
【0321】
例えば、ビットストリームは、複数の時刻の位置情報に共通の制御情報を含む位置シーケンスパラメータセット（位置ＳＰＳ）と、複数の時刻の属性情報に共通の制御情報を含む属性シーケンスパラメータセット（属性ＳＰＳ）とを含む。つまり、三次元データ復号装置は、位置シーケンスパラメータセットに含まれる制御情報を用いて、複数の時刻の位置情報を復号し、属性シーケンスパラメータセットに含まれる制御情報を用いて、複数の時刻の属性情報を復号する。
【0322】
例えば、ビットストリームは、複数の時刻の位置情報及び複数の時刻の属性情報に共通の制御情報を含むストリームパラメータセット（ストリームＰＳ）を含む。つまり、三次元データ復号装置は、ストリームパラメータセットに含まれる制御情報を用いて、複数の時刻の位置情報及び複数時刻の属性情報を復号する。
【0323】
例えば、ビットストリームは、アクセスユニット内で共通の制御情報を含むアクセスユニットヘッダ（ＡＵヘッダ）を含む。つまり、三次元データ復号装置は、アクセスユニットヘッダに含まれる制御情報を用いて、アクセスユニットに含まれる位置情報及び属性情報を復号する。
【0324】
例えば、三次元データ復号装置は、１以上のアクセスユニットで構成されるＧＯＦ（グループオブフレーム）を独立して復号する。つまり、ＧＯＦはランダムアクセス単位である。
【0325】
例えば、ビットストリームは、ＧＯＦ内で共通の制御情報を含むＧＯＦヘッダを含む。つまり、三次元データ復号装置は、ＧＯＦヘッダに含まれる制御情報を用いて、ＧＯＦに含まれる位置情報及び属性情報を復号する。
【0326】
例えば、三次元データ復号装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【0327】
（実施の形態５）
ＨＥＶＣ符号化では復号装置における並列処理を可能とするために、スライス又はタイルといったデータ分割のツールがあるが、ＰＣＣ（Ｐｏｉｎｔ Ｃｌｏｕｄ Ｃｏｍｐｒｅｓｓｉｏｎ）符号化ではまだない。
ＨＥＶＣ符号化では復号装置における並列処理を可能とするために、スライス又はタイルといったデータ分割のツールがあるが、ＰＣＣ（Ｐｏｉｎｔ Ｃｌｏｕｄ Ｃｏｍｐｒｅｓｓｉｏｎ）符号化ではまだない。
【0328】
ＰＣＣでは、並列処理、圧縮効率、及び圧縮アルゴリズムによって、様々なデータ分割方法が考えられる。ここでは、スライス及びタイルの定義、データ構造及び送受信方法について説明する。
【0329】
図４７は、本実施の形態に係る三次元データ符号化装置に含まれる第１の符号化部４９１０の構成を示すブロック図である。第１の符号化部４９１０は、点群データを第１の符号化方法（ＧＰＣＣ（Ｇｅｏｍｅｔｒｙ ｂａｓｅｄ ＰＣＣ））で符号化することで符号化データ（符号化ストリーム）を生成する。この第１の符号化部４９１０は、分割部４９１１と、複数の位置情報符号化部４９１２と、複数の属性情報符号化部４９１３と、付加情報符号化部４９１４と、多重化部４９１５とを含む。
【0330】
分割部４９１１は、点群データを分割することで複数の分割データを生成する。具体的には、分割部４９１１は、点群データの空間を複数のサブ空間に分割することで複数の分割データを生成する。ここでサブ空間とは、タイル及びスライスの一方、又はタイル及びスライスの組み合わせである。より具体的には、点群データは、位置情報、属性情報、及び付加情報を含む。分割部４９１１は、位置情報を複数の分割位置情報に分割し、属性情報を複数の分割属性情報に分割する。また、分割部４９１１は、分割に関する付加情報を生成する。
【0331】
複数の位置情報符号化部４９１２は、複数の分割位置情報を符号化することで複数の符号化位置情報を生成する。例えば、複数の位置情報符号化部４９１２は、複数の分割位置情報を並列処理する。
【0332】
複数の属性情報符号化部４９１３は、複数の分割属性情報を符号化することで複数の符号化属性情報を生成する。例えば、複数の属性情報符号化部４９１３は、複数の分割属性情報を並列処理する。
【0333】
付加情報符号化部４９１４は、点群データに含まれる付加情報と、分割部４９１１で分割時に生成された、データ分割に関する付加情報とを符号化することで符号化付加情報を生成する。
【0334】
多重化部４９１５は、複数の符号化位置情報、複数の符号化属性情報及び符号化付加情報を多重化することで符号化データ（符号化ストリーム）を生成し、生成した符号化データを送出する。また、符号化付加情報は復号時に使用される。
【0335】
なお、図４７では、位置情報符号化部４９１２及び属性情報符号化部４９１３の数がそれぞれ２つの例を示しているが、位置情報符号化部４９１２及び属性情報符号化部４９１３の数は、それぞれ１つであってもよいし、３つ以上であってもよい。また、複数の分割データは、ＣＰＵ内の複数コアのように同一チップ内で並列処理されてもよいし、複数のチップのコアで並列処理されてもよいし、複数チップの複数コアで並列処理されてもよい。
【0336】
図４８は、第１の復号部４９２０の構成を示すブロック図である。第１の復号部４９２０は、点群データが第１の符号化方法（ＧＰＣＣ）で符号化されることで生成された符号化データ（符号化ストリーム）を復号することで点群データを復元する。この第１の復号部４９２０は、逆多重化部４９２１と、複数の位置情報復号部４９２２と、複数の属性情報復号部４９２３と、付加情報復号部４９２４と、結合部４９２５とを含む。
【0337】
逆多重化部４９２１は、符号化データ（符号化ストリーム）を逆多重化することで複数の符号化位置情報、複数の符号化属性情報及び符号化付加情報を生成する。
【0338】
複数の位置情報復号部４９２２は、複数の符号化位置情報を復号することで複数の分割位置情報を生成する。例えば、複数の位置情報復号部４９２２は、複数の符号化位置情報を並列処理する。
【0339】
複数の属性情報復号部４９２３は、複数の符号化属性情報を復号することで複数の分割属性情報を生成する。例えば、複数の属性情報復号部４９２３は、複数の符号化属性情報を並列処理する。
【0340】
複数の付加情報復号部４９２４は、符号化付加情報を復号することで付加情報を生成する。
【0341】
結合部４９２５は、付加情報を用いて複数の分割位置情報を結合することで位置情報を生成する。結合部４９２５は、付加情報を用いて複数の分割属性情報を結合することで属性情報を生成する。
【0342】
なお、図４８では、位置情報復号部４９２２及び属性情報復号部４９２３の数がそれぞれ２つの例を示しているが、位置情報復号部４９２２及び属性情報復号部４９２３の数は、それぞれ１つであってもよし、３つ以上であってもよい。また、複数の分割データは、ＣＰＵ内の複数コアのように同一チップ内で並列処理されてもよいし、複数のチップのコアで並列処理されてもよい、複数チップの複数コアで並列処理されてもよい。
【0343】
次に、分割部４９１１の構成を説明する。図４９は、分割部４９１１のブロック図である。分割部４９１１は、スライス分割部４９３１（Ｓｌｉｃｅ Ｄｉｖｉｄｅｒ）と、位置情報タイル分割部４９３２（Ｇｅｏｍｅｔｒｙ Ｔｉｌｅ Ｄｉｖｉｄｅｒ）と、属性情報タイル分割部４９３３（Ａｔｔｒｉｂｕｔｅ Ｔｉｌｅ Ｄｉｖｉｄｅｒ）とを含む。
【0344】
スライス分割部４９３１は、位置情報（Ｐｏｓｉｔｉｏｎ（Ｇｅｏｍｅｔｒｙ））をスライスに分割することで複数のスライス位置情報を生成する。また、スライス分割部４９３１は、属性情報（Ａｔｔｒｉｂｕｔｅ）をスライスに分割することで複数のスライス属性情報を生成する。また、スライス分割部４９３１は、スライス分割に係る情報、及びスライス分割において生成された情報を含むスライス付加情報（ＳｌｉｃｅＭｅｔａＤａｔａ）を出力する。
【0345】
位置情報タイル分割部４９３２は、複数のスライス位置情報をタイルに分割することで複数の分割位置情報（複数のタイル位置情報）を生成する。また、位置情報タイル分割部４９３２は、位置情報のタイル分割に係る情報、及び位置情報のタイル分割において生成された情報を含む位置タイル付加情報（Ｇｅｏｍｅｔｒｙ Ｔｉｌｅ ＭｅｔａＤａｔａ）を出力する。
【0346】
属性情報タイル分割部４９３３は、複数のスライス属性情報をタイルに分割することで複数の分割属性情報（複数のタイル属性情報）を生成する。また、属性情報タイル分割部４９３３は、属性情報のタイル分割に係る情報、及び属性情報のタイル分割において生成された情報を含む属性タイル付加情報（Ａｔｔｒｉｂｕｔｅ Ｔｉｌｅ ＭｅｔａＤａｔａ）を出力する。
【0347】
なお、分割されるスライス又はタイルの数は１以上である。つまり、スライス又はタイルの分割を行わなくてもよい。
【0348】
また、ここでは、スライス分割後にタイル分割が行われる例を示したが、タイル分割後にスライス分割が行われてもよい。また、スライス及びタイルに加え新たな分割種別を定義し、３つ以上の分割種別で分割が行われてもよい。
【0349】
以下、点群データの分割方法について説明する。図５０は、スライス及びタイル分割の例を示す図である。
【0350】
まず、スライス分割の方法について説明する。分割部４９１１は、三次元点群データを、スライス単位で、任意の点群に分割する。分割部４９１１は、スライス分割において、点を構成する位置情報と属性情報とを分割せず、位置情報と属性情報とを一括で分割する。すなわち、分割部４９１１は、任意の点における位置情報と属性情報とが同じスライスに属するようにスライス分割を行う。なお、これらに従えば、分割数、及び分割方法はどのような方法でもよい。また、分割の最小単位は点である。例えば、位置情報と属性情報との分割数は同一である。例えば、スライス分割後の位置情報に対応する三次元点と、属性情報に対応する三次元点とは同一のスライスに含まれる。
【0351】
また、分割部４９１１は、スライス分割時に分割数及び分割方法に係る付加情報であるスライス付加情報を生成する。スライス付加情報は、位置情報と属性情報とで同一である。例えば、スライス付加情報は、分割後のバウンディングボックスの基準座標位置、大きさ、又は辺の長さを示す情報を含む。また、スライス付加情報は、分割数、及び分割タイプなどを示す情報を含む。
【0352】
次に、タイル分割の方法について説明する。分割部４９１１は、スライス分割されたデータを、スライス位置情報（Ｇスライス）とスライス属性情報（Ａスライス）とに分割し、スライス位置情報とスライス属性情報をそれぞれタイル単位に分割する。
【0353】
なお、図５０では８分木構造で分割する例を示しているが、分割数及び分割方法はどのような方法でもよい。
【0354】
また、分割部４９１１は、位置情報と属性情報とを異なる分割方法で分割してもよいし、同一の分割方法で分割してもよい。また、分割部４９１１は、複数のスライスを異なる分割方法でタイルに分割してもよいし、同一の分割方法でタイルに分割してもよい。
【0355】
また、分割部４９１１は、タイル分割時に分割数及び分割方法に係るタイル付加情報を生成する。タイル付加情報（位置タイル付加情報及び属性タイル付加情報）は、位置情報と属性情報とで独立している。例えば、タイル付加情報は、分割後のバウンディングボックスの基準座標位置、大きさ、又は辺の長さを示す情報を含む。また、タイル付加情報は、分割数、及び分割タイプなど示す情報を含む。
【0356】
次に、点群データをスライス又はタイルに分割する方法の例を説明する。分割部４９１１は、スライス又はタイル分割の方法として、予め定められた方法を用いてもよいし、点群データに応じて使用する方法を適応的に切り替えてもよい。
【0357】
スライス分割時には、分割部４９１１は、位置情報と属性情報とに対して一括で三次元空間を分割する。例えば、分割部４９１１は、オブジェクトの形状を判定し、オブジェクトの形状に応じて三次元空間をスライスに分割する。例えば、分割部４９１１は、木又は建物などのオブジェクトを抽出し、オブジェクト単位で分割を行う。例えば、分割部４９１１は、１又は複数のオブジェクトの全体が１つのスライスに含まれるようにスライス分割を行う。または、分割部４９１１は、一つのオブジェクトを複数のスライスに分割する。
【0358】
この場合、符号化装置は、例えば、スライス毎に符号化方法を変えてもよい。例えば、符号化装置は、特定のオブジェクト、又はオブジェクトの特定の一部に対して、高品質な圧縮方法を用いてもよい。この場合、符号化装置は、スライス毎の符号化方法を示す情報を付加情報（メタデータ）に格納してもよい。
【0359】
また、分割部４９１１は、地図情報又は位置情報に基づき、各スライスが予め定められた座標空間に対応するようにスライス分割を行ってもよい。
【0360】
タイル分割時には、分割部４９１１は、位置情報と属性情報とを独立に分割する。例えば、分割部４９１１は、データ量又は処理量に応じてスライスをタイルに分割する。例えば、分割部４９１１は、スライスのデータ量（例えばスライスに含まれる三次元点の数）が予め定められた閾値より多いかを判定する。分割部４９１１は、スライスのデータ量が閾値より多い場合にはスライスをタイルに分割する。分割部４９１１は、スライスのデータ量が閾値より少ないときにはスライスをタイルに分割しない。
【0361】
例えば、分割部４９１１は、復号装置での処理量又は処理時間が一定の範囲（予め定められた値以下）となるよう、スライスをタイルに分割する。これにより、復号装置におけるタイル当たりの処理量が一定となり、復号装置における分散処理が容易となる。
【0362】
また、分割部４９１１は、位置情報と属性情報とで処理量が異なる場合、例えば、位置情報の処理量が属性情報の処理量より多い場合、位置情報の分割数を、属性情報の分割数より多くする。
【0363】
また、例えば、コンテンツによって、復号装置で、位置情報を早く復号して表示し、属性情報を後でゆっくり復号して表示してもよい場合に、分割部４９１１は、位置情報の分割数を、属性情報の分割数より多くしてもよい。これにより、復号装置は、位置情報の並列数を多くできるので、位置情報の処理を属性情報の処理より高速化できる。
【0364】
なお、復号装置は、スライス化又はタイル化されているデータを必ずしも並列処理する必要はなく、復号処理部の数又は能力に応じて、これらを並列処理するかどうかを判定してもよい。
【0365】
以上のような方法で分割することにより、コンテンツ又はオブジェクトに応じた、適応的な符号化を実現できる。また、復号処理における並列処理を実現できる。これにより、点群符号化システム又は点群復号システムの柔軟性が向上する。
【0366】
図５１は、スライス及びタイルの分割のパターンの例を示す図である。図中のＤＵはデータ単位（ＤａｔａＵｎｉｔ）であり、タイル又はスライスのデータを示す。また、各ＤＵは、スライスインデックス（ＳｌｉｃｅＩｎｄｅｘ）とタイルインデックス（ＴｉｌｅＩｎｄｅｘ）を含む。図中のＤＵの右上の数値がスライスインデックスを示し、ＤＵの左下の数値がタイルインデックスを示す。
【0367】
パターン１では、スライス分割において、ＧスライスとＡスライスとで分割数及び分割方法は同じである。タイル分割において、Ｇスライスに対する分割数及び分割方法とＡスライスに対する分割数及び分割方法とは異なる。また、複数のＧスライス間では同一の分割数及び分割方法が用いられる。複数のＡスライス間では同一の分割数及び分割方法が用いられる。
【0368】
パターン２では、スライス分割において、ＧスライスとＡスライスとで分割数及び分割方法は同じである。タイル分割において、Ｇスライスに対する分割数及び分割方法とＡスライスに対する分割数及び分割方法とは異なる。また、複数のＧスライス間で分割数及び分割方法が異なる。複数のＡスライス間で分割数及び分割方法が異なる。
【0369】
次に、分割データの符号化方法について説明する。三次元データ符号化装置（第１の符号化部４９１０）は、分割されたデータを、それぞれ符号化する。三次元データ符号化装置は、属性情報を符号化する際に、どの構成情報（位置情報、付加情報又は他の属性情報）に基づき符号化を行ったかを示す依存関係情報を付加情報として生成する。つまり、依存関係情報は、例えば、参照先（依存先）の構成情報を示す。この場合、三次元データ符号化装置は、属性情報の分割形状に対応する構成情報に基づき依存関係情報を生成する。なお、三次元データ符号化装置は、複数の分割形状に対応する構成情報に基づき依存関係情報を生成してもよい。
【0370】
依存関係情報は三次元データ符号化装置で生成され、生成された依存関係情報が三次元データ復号装置に送出されてもよい。または、三次元データ復号装置が依存関係情報を生成し、三次元データ符号化装置は依存関係情報を送出しなくてもよい。また、三次元データ符号化装置が使用する依存関係を、予め定めておき、三次元データ符号化装置は、依存関係情報を送出しなくてもよい。
【0371】
図５２は、各データの依存関係の一例を示す図である。図中の矢印の先は依存先を示し、矢印の元は依存元を示している。三次元データ復号装置は、依存先から依存元の順でデータを復号する。また、図中に実線で示すデータは実際に送出されるデータであり、点線で示すデータは送出されないデータである。
【0372】
また、同図において、Ｇは位置情報を示し、Ａは属性情報を示す。Ｇｓ１は、スライス番号１の位置情報を示し、Ｇｓ２は、スライス番号２の位置情報を示す。Ｇｓ１ｔ１は、スライス番号１かつタイル番号１の位置情報を示し、Ｇｓ１ｔ２は、スライス番号１かつタイル番号２の位置情報を示し、Ｇｓ２ｔ１は、スライス番号２かつタイル番号１の位置情報を示し、Ｇｓ２ｔ２は、スライス番号２かつタイル番号２の位置情報を示す。同様に、Ａｓ１は、スライス番号１の属性情報を示し、Ａｓ２は、スライス番号２の属性情報を示す。Ａｓ１ｔ１は、スライス番号１かつタイル番号１の属性情報を示し、Ａｓ１ｔ２は、スライス番号１かつタイル番号２の属性情報を示し、Ａｓ２ｔ１は、スライス番号２かつタイル番号１の属性情報を示し、Ａｓ２ｔ２は、スライス番号２かつタイル番号２の属性情報を示す。
【0373】
Ｍｓｌｉｃｅは、スライス付加情報を示し、ＭＧｔｉｌｅは、位置タイル付加情報を示し、ＭＡｔｉｌｅは、属性タイル付加情報を示す。Ｄｓ１ｔ１は属性情報Ａｓ１ｔ１の依存関係情報を示し、Ｄｓ２ｔ１は属性情報Ａｓ２ｔ１の依存関係情報を示す。
【0374】
また、三次元データ符号化装置は、三次元データ復号装置においてデータを並び替える必要がないように、データを復号順に並び替えてもよい。なお、三次元データ復号装置においてデータを並び替えてもよいし、三次元データ符号化装置と三次元データ復号装置との両方でデータを並び替えてもよい。
【0375】
図５３は、データの復号順の例を示す図である。図５３の例では、左のデータから順に復号が行われる。三次元データ復号装置は、依存関係にあるデータ間では、依存先のデータから先に復号する。例えば、三次元データ符号化装置は、この順序となるようにデータを予め並び替えて送出する。なお、依存先のデータが先になる順序であれば、どのような順序でもよい。また、三次元データ符号化装置は、付加情報及び依存関係情報をデータより先に送出してもよい。
【0376】
図５４は、三次元データ符号装置による処理の流れを示すフローチャートである。まず、三次元データ符号化装置は、上記のように複数のスライス又はタイルのデータを符号化する（Ｓ４９０１）。次に、三次元データ符号化装置は、図５３に示すように、依存先のデータが先になるようにデータを並び替える（Ｓ４９０２）。次に、三次元データ符号化装置は、並び替え後のデータを多重化（ＮＡＬユニット化）する（Ｓ４９０３）。
【0377】
次に、第１の復号部４９２０に含まれる結合部４９２５の構成を説明する。図５５は、結合部４９２５の構成を示すブロック図である。結合部４９２５は、位置情報タイル結合部４９４１（Ｇｅｏｍｅｔｒｙ Ｔｉｌｅ Ｃｏｍｂｉｎｅｒ）と、属性情報タイル結合部４９４２（Ａｔｔｒｉｂｕｔｅ Ｔｉｌｅ Ｃｏｍｂｉｎｅｒ）と、スライス結合部（Ｓｌｉｃｅ Ｃｏｍｂｉｎｅｒ）とを含む。
【0378】
位置情報タイル結合部４９４１は、位置タイル付加情報を用いて複数の分割位置情報を結合することで複数のスライス位置情報を生成する。属性情報タイル結合部４９４２は、属性タイル付加情報を用いて複数の分割属性情報を結合することで複数のスライス属性情報を生成する。
【0379】
スライス結合部４９４３は、スライス付加情報を用いて複数のスライス位置情報を結合することで位置情報を生成する。また、スライス結合部４９４３は、スライス付加情報を用いて複数のスライス属性情報を結合することで属性情報を生成する。
【0380】
なお、分割されるスライス又はタイルの数は１以上である。つまり、スライス又はタイルの分割が行われていなくてもよい。
【0381】
また、ここでは、スライス分割後にタイル分割が行われる例を示したが、タイル分割後にスライス分割が行われてもよい。また、スライス及びタイルに加え新たな分割種別を定義し、３つ以上の分割種別で分割が行われてもよい。
【0382】
次に、スライス分割又はタイル分割された符号化データの構成、及び符号化データのＮＡＬユニットへの格納方法（多重化方法）を説明する。図５６は、符号化データの構成及び符号化データのＮＡＬユニットへの格納方法を示す図である。
【0383】
符号化データ（分割位置情報及び分割属性情報）は、ＮＡＬユニットのペイロードに格納される。
【0384】
符号化データは、ヘッダとペイロードとを含む。ヘッダは、ペイロードに含まれるデータを特定するための識別情報を含む。この識別情報は、例えば、スライス分割或いはタイル分割の種別（ｓｌｉｃｅ＿ｔｙｐｅ、ｔｉｌｅ＿ｔｙｐｅ）、スライス或いはタイルを特定するためのインデックス情報（ｓｌｉｃｅ＿ｉｄｘ、ｔｉｌｅ＿ｉｄｘ）、データ（スライス或いはタイル）の位置情報、又はデータのアドレス（ａｄｄｒｅｓｓ）などを含む。スライスを特定するためのインデックス情報は、スライスインデックス（ＳｌｉｃｅＩｎｄｅｘ）とも記す。タイルを特定するためのインデックス情報は、タイルインデックス（ＴｉｌｅＩｎｄｅｘ）とも記す。また、分割の種別とは、例えば、上述したようなオブジェクト形状に基づく手法、地図情報或いは位置情報に基づく手法、又は、データ量或いは処理量に基づく手法等である。
【0385】
なお、上記の情報の全て又は一部は、分割位置情報のヘッダ及び分割属性情報のヘッダの一方に格納され、他方に格納されてなくてもよい。例えば、位置情報と属性情報とで同一の分割方法が用いられる場合には、位置情報と属性情報とで分割の種別（ｓｌｉｃｅ＿ｔｙｐｅ、ｔｉｌｅ＿ｔｙｐｅ）及びインデックス情報（ｓｌｉｃｅ＿ｉｄｘ、ｔｉｌｅ＿ｉｄｘ）は同一である。よって、位置情報と属性情報の一方のヘッダにこれらの情報が含まれてもよい。例えば、位置情報に属性情報が依存する場合には、位置情報が先に処理される。よって、位置情報のヘッダにこれらの情報が含まれ、属性情報のヘッダにはこれらの情報が含まれなくてもよい。この場合、三次元データ復号装置は、例えば、依存先の位置情報のスライス又はタイルと同一のスライス又はタイルに依存元の属性情報が属すると判断する。
【0386】
また、スライス分割又はタイル分割に係る付加情報（スライス付加情報、位置タイル付加情報又は属性タイル付加情報）、及び依存関係を示す依存関係情報等は、既存のパラメータセット（ＧＰＳ、ＡＰＳ、位置ＳＰＳ又は属性ＳＰＳなど）に格納されて送出されてもよい。分割方法がフレーム毎に変化する場合は、フレーム毎のパラメータセット（ＧＰＳ又はＡＰＳ等）に分割方法を示す情報が格納されてもよい。シーケンス内で分割方法が変化しない場合は、シーケンス毎のパラメータセット（位置ＳＰＳ又は属性ＳＰＳ）に分割方法を示す情報が格納されてもよい。さらに、位置情報と属性情報とで同じ分割方法が用いられる場合は、ＰＣＣストリームのパラメータセット（ストリームＰＳ）に分割方法を示す情報が格納されてもよい。
【0387】
また、上記の情報は、上記のいずれかのパラメータセットに格納されてもよいし、複数のパラメータセットに格納されてもよい。また、タイル分割又はスライス分割用のパラメータセットを定義し、当該パラメータセットに上記の情報を格納してもよい。また、これらの情報は、符号化データのヘッダに格納されてもよい。
【0388】
また、符号化データのヘッダは、依存関係を示す識別情報を含む。つまり、当該ヘッダは、データ間に依存関係がある場合は、依存元から依存先を参照するための識別情報を含む。例えば、依存先のデータのヘッダには、当該データを特定するための識別情報が含まれる。依存元のデータのヘッダには、依存先を示す識別情報が含まれる。なお、データを特定するための識別情報、スライス分割又はタイル分割に係る付加情報、及び依存関係を示す識別情報を、他の情報から識別可能又は導出可能である場合は、これらの情報を省略してもよい。
【0389】
次に、本実施の形態に係る点群データの符号化処理及び復号処理の流れについて説明する。図５７は、本実施の形態に係る点群データの符号化処理のフローチャートである。
【0390】
まず、三次元データ符号化装置は、使用する分割方法を決定する（Ｓ４９１１）。この分割方法は、スライス分割を行うか否か、タイル分割を行うか否かを含む。また、分割方法は、スライス分割又はタイル分割を行う場合の分割数、及び、分割の種別等を含んでもよい。分割の種別とは、上述したようなオブジェクト形状に基づく手法、地図情報或いは位置情報に基づく手法、又は、データ量或いは処理量に基づく手法等である。なお、分割方法は、予め定められていてもよい。
【0391】
スライス分割が行われる場合（Ｓ４９１２でＹｅｓ）、三次元データ符号化装置は、位置情報と属性情報とを一括で分割することで複数のスライス位置情報及び複数のスライス属性情報を生成する（Ｓ４９１３）。また、三次元データ符号化装置は、スライス分割に係るスライス付加情報を生成する。なお、三次元データ符号化装置は、位置情報と属性情報とを独立に分割してもよい。
【0392】
タイル分割が行われる場合（Ｓ４９１４でＹｅｓ）、三次元データ符号化装置は、複数のスライス位置情報及び複数のスライス属性情報（又は位置情報及び属性情報）を独立に分割することで複数の分割位置情報及び複数の分割属性情報を生成する（Ｓ４９１５）。また、三次元データ符号化装置は、タイル分割に係る位置タイル付加情報及び属性タイル付加情報を生成する。なお、三次元データ符号化装置は、スライス位置情報とスライス属性情報とを一括で分割してもよい。
【0393】
次に、三次元データ符号化装置は、複数の分割位置情報及び複数の分割属性情報の各々を符号化することで、複数の符号化位置情報及び複数の符号化属性情報を生成する（Ｓ４９１６）。また、三次元データ符号化装置は、依存関係情報を生成する。
【0394】
次に、三次元データ符号化装置は、複数の符号化位置情報、複数の符号化属性情報及び付加情報をＮＡＬユニット化（多重化）することで符号化データ（符号化ストリーム）を生成する（Ｓ４９１７）。また、三次元データ符号化装置は、生成した符号化データを送出する。
【0395】
図５８は、本実施の形態に係る点群データの復号処理のフローチャートである。まず、三次元データ復号装置は、符号化データ（符号化ストリーム）に含まれる、分割方法に係る付加情報（スライス付加情報、位置タイル付加情報及び属性タイル付加情報）を解析することで、分割方法を判定する（Ｓ４９２１）。この分割方法は、スライス分割を行うか否か、タイル分割を行うか否かを含む。また、分割方法は、スライス分割又はタイル分割を行う場合の分割数、及び、分割の種別等を含んでもよい。
【0396】
次に、三次元データ復号装置は、符号化データに含まれる複数の符号化位置情報及び複数の符号化属性情報を、符号化データに含まれる依存関係情報を用いて復号することで分割位置情報及び分割属性情報を生成する（Ｓ４９２２）。
【0397】
付加情報によりタイル分割が行われていることが示される場合（Ｓ４９２３でＹｅｓ）、三次元データ復号装置は、位置タイル付加情報及び属性タイル付加情報に基づき、複数の分割位置情報と、複数の分割属性情報とを、それぞれの方法で結合することで、複数のスライス位置情報及び複数のスライス属性情報を生成する（Ｓ４９２４）。なお、三次元データ復号装置は、複数の分割位置情報と、複数の分割属性情報とを同一の方法で結合してもよい。
【0398】
付加情報によりスライス分割が行われていることが示される場合（Ｓ４９２５でＹｅｓ）、三次元データ復号装置は、スライス付加情報に基づき、複数のスライス位置情報及び複数のスライス属性情報（複数の分割位置情報及び複数の分割属性情報）を同一の方法で結合することで位置情報及び属性情報を生成する（Ｓ４９２６）。なお、三次元データ復号装置は、複数のスライス位置情報と複数のスライス属性情報とを、それぞれ異なる方法で結合してもよい。
【0399】
以上のように、本実施の形態に係る三次元データ符号化装置は、図６０に示す処理を行う。まず、三次元データ符号化装置は、複数の三次元点が含まれる対象空間が分割された複数のサブ空間（例えばスライス）に含まれ、各々が１以上の三次元点を含む複数の分割データ（例えばタイル）に分割する（Ｓ４９３２）。ここで、分割データは、サブ空間に含まれ、１以上の三次元点を含む１以上のデータ集合体である。また、分割データは空間でもあり、三次元点を含まない空間を含んでいてもよい。また、１つのサブ空間に複数の分割データが含まれてもよいし、１つのサブ空間に１つの分割データが含まれてもよい。なお、対象空間に複数のサブ空間が設定されてもよいし、対象空間に１つのサブ空間が設定されてもよい。
【0400】
次に、三次元データ符号化装置は、複数の分割データの各々を符号化することで、複数の分割データの各々に対応する複数の符号化データを生成する（Ｓ４９３１）。三次元データ符号化装置は、複数の符号化データと、複数の符号化データの各々に対する複数の制御情報（例えば図５６に示すヘッダ）とを含むビットストリームを生成する（Ｓ４９３２）。複数の制御情報の各々には、当該制御情報に対応する符号化データに対応するサブ空間を示す第１識別子（例えばｓｌｉｃｅ＿ｉｄｘ）と、当該制御情報に対応する符号化データに対応する分割データを示す第２識別子（例えばｔｉｌｅ＿ｉｄｘ）とが格納される。
【0401】
これによれば、三次元データ符号化装置で生成されたビットストリームを復号する三次元データ復号装置は、第１識別子及び第２識別子を用いて、複数の分割データのデータを結合して対象空間を容易に復元できる。よって、三次元データ復号装置における処理量を低減できる。
【0402】
例えば、三次元データ符号化装置は、前記符号化では、複数の分割データの各々に含まれる三次元点の位置情報と属性情報とを符号化する。複数の符号化データの各々は、位置情報の符号化データと、属性情報の符号化データとを含む。複数の制御情報の各々は、位置情報の符号化データの制御情報と、属性情報の符号化データの制御情報とを含む。第１識別子及び第２識別子は、位置情報の符号化データの制御情報に格納される。
【0403】
例えば、ビットストリームにおいて、複数の制御情報の各々は、当該制御情報に対応する符号化データの前に配置されている。
【0404】
また、三次元データ符号化装置は、複数の三次元点が含まれる対象空間が１以上のサブ空間に設定され、前記サブ空間に１以上の三次元点を含む１以上の分割データが含まれ、前記分割データの各々を符号化することで、前記複数の分割データの各々に対応する複数の符号化データを生成し、前記複数の符号化データと、前記複数の符号化データの各々に対する複数の制御情報とを含むビットストリームを生成し、前記複数の制御情報の各々には、当該制御情報に対応する符号化データに対応するサブ空間を示す第１識別子と、当該制御情報に対応する符号化データに対応する分割データを示す第２識別子とが格納されてもよい。
【0405】
例えば、三次元データ符号化装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【0406】
また、本実施の形態に係る三次元データ復号装置は、図６０に示す処理を行う。まず、三次元データ復号装置は、複数の三次元点が含まれる対象空間が分割された複数のサブ空間（例えばスライス）に含まれ、各々が１以上の三次元点を含む複数の分割データ（例えばタイル）の各々が符号化されることで生成された複数の符号化データと、複数の符号化データの各々に対する複数の制御情報（例えば図５６に示すヘッダ）とを含むビットストリームから、前記複数の制御情報に格納されている、当該制御情報に対応する符号化データに対応するサブ空間を示す第１識別子（例えばｓｌｉｃｅ＿ｉｄｘ）と、当該制御情報に対応する符号化データに対応する分割データを示す第２識別子（例えばｔｉｌｅ＿ｉｄｘ）とを取得する（Ｓ４９４１）。次に、三次元データ復号装置は、複数の符号化データを復号することで複数の分割データを復元する（Ｓ４９４２）。次に、三次元データ復号装置は、第１識別子及び第２識別子を用いて、複数の分割データを結合することで対象空間を復元する（Ｓ４９４３）。例えば、三次元データ符号化装置は、第２識別子を用いて複数の分割データを結合することで複数のサブ空間を復元し、第１識別子を用いて複数のサブ空間を結合することで対象空間（複数の三次元点）を復元する。なお、三次元データ復号装置は、第１識別子及び第２識別子の少なくとも一方を用いて、所望のサブ空間又は分割データの符号化データをビットストリームから取得し、取得した符号化データを選択的に復号、又は優先的に復号してもよい。
【0407】
これによれば、三次元データ復号装置は、第１識別子及び第２識別子を用いて、複数の分割データのデータを結合して対象空間を容易に復元できる。よって、三次元データ復号装置における処理量を低減できる。
【0408】
例えば、複数の符号化データの各々は、対応する分割データに含まれる三次元点の位置情報と属性情報とが符号化されることで生成され、位置情報の符号化データと、属性情報の符号化データとを含む。複数の制御情報の各々は、位置情報の符号化データの制御情報と、属性情報の符号化データの制御情報とを含む。第１識別子及び第２識別子は、位置情報の符号化データの制御情報に格納されている。
【0409】
例えば、ビットストリームにおいて、制御情報は、対応する符号化データの前に配置されている。
【0410】
例えば、三次元データ復号装置は、プロセッサと、メモリとを備え、プロセッサは、メモリを用いて、上記の処理を行う。
【0411】
以上、本開示の実施の形態に係る三次元データ符号化装置及び三次元データ復号装置等について説明したが、本開示は、この実施の形態に限定されるものではない。
【0412】
また、上記実施の形態に係る三次元データ符号化装置及び三次元データ復号装置等に含まれる各処理部は典型的には集積回路であるＬＳＩとして実現される。これらは個別に１チップ化されてもよいし、一部又は全てを含むように１チップ化されてもよい。
【0413】
また、集積回路化はＬＳＩに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。ＬＳＩ製造後にプログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）、又はＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【0414】
また、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、ＣＰＵまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
【0415】
また、本開示は、三次元データ符号化装置及び三次元データ復号装置等により実行される三次元データ符号化方法又は三次元データ復号方法等として実現されてもよい。
【0416】
また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。
【0417】
また、フローチャートにおける各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時（並列）に実行されてもよい。
【0418】
以上、一つまたは複数の態様に係る三次元データ符号化装置及び三次元データ復号装置等について、実施の形態に基づいて説明したが、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。
【産業上の利用可能性】
【0419】
本開示は、三次元データ符号化装置及び三次元データ復号装置に適用できる。
【符号の説明】
【0420】
４６０１ 三次元データ符号化システム
４６０２ 三次元データ復号システム
４６０３ センサ端末
４６０４ 外部接続部
４６１１ 点群データ生成システム
４６１２ 提示部
４６１３ 符号化部
４６１４ 多重化部
４６１５ 入出力部
４６１６ 制御部
４６１７ センサ情報取得部
４６１８ 点群データ生成部
４６２１ センサ情報取得部
４６２２ 入出力部
４６２３ 逆多重化部
４６２４ 復号部
４６２５ 提示部
４６２６ ユーザインタフェース
４６２７ 制御部
４６３０ 第１の符号化部
４６３１ 位置情報符号化部
４６３２ 属性情報符号化部
４６３３ 付加情報符号化部
４６３４ 多重化部
４６４０ 第１の復号部
４６４１ 逆多重化部
４６４２ 位置情報復号部
４６４３ 属性情報復号部
４６４４ 付加情報復号部
４６５０ 第２の符号化部
４６５１ 付加情報生成部
４６５２ 位置画像生成部
４６５３ 属性画像生成部
４６５４ 映像符号化部
４６５５ 付加情報符号化部
４６５６ 多重化部
４６６０ 第２の復号部
４６６１ 逆多重化部
４６６２ 映像復号部
４６６３ 付加情報復号部
４６６４ 位置情報生成部
４６６５ 属性情報生成部
４６７０ 符号化部
４６７１ 多重化部
４６８０ 復号部
４６８１ 逆多重化部
４７１０ 第１の多重化部
４７１１ ファイル変換部
４７２０ 第１の逆多重化部
４７２１ ファイル逆変換部
４７３０ 第２の多重化部
４７３１ ファイル変換部
４７４０ 第２の逆多重化部
４７４１ ファイル逆変換部
４７５０ 第３の多重化部
４７５１ ファイル変換部
４７６０ 第３の逆多重化部
４７６１ ファイル逆変換部
４８０１ 符号化部
４８０２ 多重化部
４９１０ 第１の符号化部
４９１１ 分割部
４９１２ 位置情報符号化部
４９１３ 属性情報符号化部
４９１４ 付加情報符号化部
４９１５ 多重化部
４９２０ 第１の復号部
４９２１ 逆多重化部
４９２２ 位置情報復号部
４９２３ 属性情報復号部
４９２４ 付加情報復号部
４９２５ 結合部
４９３１ スライス分割部
４９３２ 位置情報タイル分割部
４９３３ 属性情報タイル分割部
４９４１ 位置情報タイル結合部
４９４２ 属性情報タイル結合部
４９４３ スライス結合部
４６０２ 三次元データ復号システム
４６０３ センサ端末
４６０４ 外部接続部
４６１１ 点群データ生成システム
４６１２ 提示部
４６１３ 符号化部
４６１４ 多重化部
４６１５ 入出力部
４６１６ 制御部
４６１７ センサ情報取得部
４６１８ 点群データ生成部
４６２１ センサ情報取得部
４６２２ 入出力部
４６２３ 逆多重化部
４６２４ 復号部
４６２５ 提示部
４６２６ ユーザインタフェース
４６２７ 制御部
４６３０ 第１の符号化部
４６３１ 位置情報符号化部
４６３２ 属性情報符号化部
４６３３ 付加情報符号化部
４６３４ 多重化部
４６４０ 第１の復号部
４６４１ 逆多重化部
４６４２ 位置情報復号部
４６４３ 属性情報復号部
４６４４ 付加情報復号部
４６５０ 第２の符号化部
４６５１ 付加情報生成部
４６５２ 位置画像生成部
４６５３ 属性画像生成部
４６５４ 映像符号化部
４６５５ 付加情報符号化部
４６５６ 多重化部
４６６０ 第２の復号部
４６６１ 逆多重化部
４６６２ 映像復号部
４６６３ 付加情報復号部
４６６４ 位置情報生成部
４６６５ 属性情報生成部
４６７０ 符号化部
４６７１ 多重化部
４６８０ 復号部
４６８１ 逆多重化部
４７１０ 第１の多重化部
４７１１ ファイル変換部
４７２０ 第１の逆多重化部
４７２１ ファイル逆変換部
４７３０ 第２の多重化部
４７３１ ファイル変換部
４７４０ 第２の逆多重化部
４７４１ ファイル逆変換部
４７５０ 第３の多重化部
４７５１ ファイル変換部
４７６０ 第３の逆多重化部
４７６１ ファイル逆変換部
４８０１ 符号化部
４８０２ 多重化部
４９１０ 第１の符号化部
４９１１ 分割部
４９１２ 位置情報符号化部
４９１３ 属性情報符号化部
４９１４ 付加情報符号化部
４９１５ 多重化部
４９２０ 第１の復号部
４９２１ 逆多重化部
４９２２ 位置情報復号部
４９２３ 属性情報復号部
４９２４ 付加情報復号部
４９２５ 結合部
４９３１ スライス分割部
４９３２ 位置情報タイル分割部
４９３３ 属性情報タイル分割部
４９４１ 位置情報タイル結合部
４９４２ 属性情報タイル結合部
４９４３ スライス結合部
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【図36】
【図37】
【図38】
【図39】
【図40】
【図41】
【図42】
【図43】
【図44】
【図45】
【図46】
【図47】
【図48】
【図49】
【図50】
【図51】
【図52】
【図53】
【図54】
【図55】
【図56】
【図57】
【図58】
【図59】
【図60】