(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2025009036
(43)【公開日】2025-01-20
(54)【発明の名称】メッシュ復号装置、メッシュ復号方法及びプログラム
(51)【国際特許分類】
G06T 9/00 20060101AFI20250109BHJP
【FI】
G06T9/00 100
【審査請求】未請求
【請求項の数】7
【出願形態】OL
(21)【出願番号】P 2023111752
(22)【出願日】2023-07-06
【国等の委託研究の成果に係る記載事項】(出願人による申告)令和5年度、総務省、「3次元空間データの無線伝送に向けた高能率圧縮技術の研究開発」、産業技術力強化法第17条の適用を受ける特許出願
(71)【出願人】
【識別番号】000208891
【氏名又は名称】KDDI株式会社
(74)【代理人】
【識別番号】110001564
【氏名又は名称】フェリシテ弁理士法人
(72)【発明者】
【氏名】徐 建鋒
(72)【発明者】
【氏名】西村 仁志
(72)【発明者】
【氏名】河村 圭
(57)【要約】
【課題】メッシュの符号化効率及び複雑度のバランスを向上させること。
【解決手段】本発明に係るメッシュ復号装置200の基本メッシュ復号部202は、IフレームのビットストリームからIフレームの頂点の座標及び接続情報を復号するイントラ復号部202Bと、参照フレームの頂点の座標とPフレームのビットストリームから復号した動きベクトルとを加算することによってPフレームの頂点の座標を復号するインター復号部202Eとを備える。制御信号によって、インター復号部202Eにおける動きベクトル残差のCABAC符号化方式とイントラ復号部202Bにおける頂点座標及びUV座標の残差のCABAC符号化方式とを統合するか、或いは、インター復号部202Eは、所定のシンタックスについては、コンテキスト値を常に固定することで、コンテキスト値の更新をバイパスして算術復号する。
【選択図】
図4
【特許請求の範囲】
【請求項1】
メッシュ復号装置であって、
基本メッシュビットストリームを復号し、基本メッシュを生成して出力するように構成されている基本メッシュ復号部を備え、
前記基本メッシュ復号部は、
Iフレームのビットストリームから、前記Iフレームの頂点の座標及び接続情報を復号するように構成されているイントラ復号部と、
参照フレームの頂点の座標とPフレームのビットストリームから復号した動きベクトルとを加算することによって、前記Pフレームの頂点の座標を復号するように構成されているインター復号部と、を備え、
制御信号によって、前記インター復号部における動きベクトル残差のCABAC符号化方式と前記イントラ復号部における頂点座標及びUV座標の残差のCABAC符号化方式とを統合するように構成されているか、或いは、
前記インター復号部は、所定のシンタックスについては、コンテキスト値を常に固定することで、前記コンテキスト値の更新をバイパスして算術復号するように構成されていることを特徴とするメッシュ復号装置。
【請求項2】
前記制御信号は、フレーム毎又はシーケンス毎で、前記CABAC符号化方式において、前記残差の絶対値がある値以上かどうかを示すフラグの数を算出するように構成されていることを特徴とする請求項1に記載のメッシュ復号装置。
【請求項3】
前記制御信号は、smh_ae_bias_minus1であり、
前記基本メッシュ復号部は、フレームヘッダから前記制御信号を復号し、前記制御信号の値に1を加算することで、前記フラグの数を取得するように構成されていることを特徴とする請求項2に記載のメッシュ復号装置。
【請求項4】
前記制御信号は、smh_ae_bias_typeであり、
前記基本メッシュ復号部は、フレームヘッダから前記制御信号を復号し、前記フラグの数について前記制御信号とのマッピング関係から算出するように構成されていることを特徴とする請求項2に記載のメッシュ復号装置。
【請求項5】
前記制御信号は、他の制御信号又はデータから算出されるように構成されていることを特徴とする請求項1に記載のメッシュ復号装置。
【請求項6】
メッシュ復号方法であって、
基本メッシュビットストリームを復号し、基本メッシュを生成して出力する工程を有し、
前記工程は、
Iフレームのビットストリームから、前記Iフレームの頂点の座標及び接続情報を復号する工程Aと、
参照フレームの頂点の座標とPフレームのビットストリームから復号した動きベクトルとを加算することによって、前記Pフレームの頂点の座標を復号する工程Bと、を有し、
制御信号によって、前記工程Aにおける動きベクトル残差のCABAC符号化方式と前記工程Bにおける頂点座標及びUV座標の残差のCABAC符号化方式とを統合するように構成されているか、或いは、
前記工程Bにおいて、所定のシンタックスについては、コンテキスト値を常に固定することで、前記コンテキスト値の更新をバイパスして算術復号することを特徴とするメッシュ復号方法。
【請求項7】
コンピュータを、メッシュ復号装置として機能させるプログラムであって、
前記メッシュ復号装置は、
基本メッシュビットストリームを復号し、基本メッシュを生成して出力するように構成されている基本メッシュ復号部を備え、
前記基本メッシュ復号部は、
Iフレームのビットストリームから、前記Iフレームの頂点の座標及び接続情報を復号するように構成されているイントラ復号部と、
参照フレームの頂点の座標とPフレームのビットストリームから復号した動きベクトルとを加算することによって、前記Pフレームの頂点の座標を復号するように構成されているインター復号部と、を備え、
制御信号によって、前記インター復号部における動きベクトル残差のCABAC符号化方式と前記イントラ復号部における頂点座標及びUV座標の残差のCABAC符号化方式とを統合するように構成されているか、或いは、
前記インター復号部は、所定のシンタックスについては、コンテキスト値を常に固定することで、前記コンテキスト値の更新をバイパスして算術復号するように構成されていることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、メッシュ復号装置、メッシュ復号方法及びプログラムに関する。
【背景技術】
【0002】
非特許文献1には、非特許文献2又は3を用いてメッシュを符号化する技術が開示されている。
【先行技術文献】
【非特許文献】
【0003】
【非特許文献1】Khaled Mammou, Jungsun Kim, Alexis M Tourapis, Dimitri Podborski, and Krasimir Kolarov, “[V-CG] Apple’s Dynamic Mesh Coding CfP Response,” April 2022, ISO/IEC JTC 1/SC 29/WG 7.
【非特許文献2】Google Draco、2022年5月26日アクセス[Online]、https://google.github.io/draco
【非特許文献3】Jean-Eudes Marvie, Olivier Mocquard, “[V-DMC][EE4.4-related] An efficient EdgeBreaker implementation,” April 2023, ISO/IEC JTC 1/SC 29/WG 7 m63344.
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来技術では、符号化効率及び複雑度のバランスが悪いという問題点があった。 そこで、本発明は、上述の課題に鑑みてなされたものであり、メッシュの符号化効率及び複雑度のバランスを向上させることができるメッシュ復号装置、メッシュ復号方法及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0005】
本発明の第1の特徴は、メッシュ復号装置であって、基本メッシュビットストリームを復号し、基本メッシュを生成して出力するように構成されている基本メッシュ復号部を備え、前記基本メッシュ復号部は、Iフレームのビットストリームから、前記Iフレームの頂点の座標及び接続情報を復号するように構成されているイントラ復号部と、参照フレームの頂点の座標とPフレームのビットストリームから復号した動きベクトルとを加算することによって、前記Pフレームの頂点の座標を復号するように構成されているインター復号部と、を備え、制御信号によって、前記インター復号部における動きベクトル残差のCABAC符号化方式と前記イントラ復号部における頂点座標及びUV座標の残差のCABAC符号化方式とを統合するように構成されているか、或いは、前記インター復号部は、所定のシンタックスについては、コンテキスト値を常に固定することで、前記コンテキスト値の更新をバイパスして算術復号するように構成されていることを要旨とする。
【0006】
本発明の第2の特徴は、メッシュ復号方法であって、基本メッシュビットストリームを復号し、基本メッシュを生成して出力する工程を有し、前記工程は、Iフレームのビットストリームから、前記Iフレームの頂点の座標及び接続情報を復号する工程Aと、参照フレームの頂点の座標とPフレームのビットストリームから復号した動きベクトルとを加算することによって、前記Pフレームの頂点の座標を復号する工程Bと、を有し、制御信号によって、前記工程Aにおける動きベクトル残差のCABAC符号化方式と前記工程Bにおける頂点座標及びUV座標の残差のCABAC符号化方式とを統合するように構成されているか、或いは、前記工程Bにおいて、所定のシンタックスについては、コンテキスト値を常に固定することで、前記コンテキスト値の更新をバイパスして算術復号することを要旨とする。
【0007】
本発明の第3の特徴は、コンピュータを、メッシュ復号装置として機能させるプログラムであって、前記メッシュ復号装置は、基本メッシュビットストリームを復号し、基本メッシュを生成して出力するように構成されている基本メッシュ復号部を備え、前記基本メッシュ復号部は、Iフレームのビットストリームから、前記Iフレームの頂点の座標及び接続情報を復号するように構成されているイントラ復号部と、参照フレームの頂点の座標とPフレームのビットストリームから復号した動きベクトルとを加算することによって、前記Pフレームの頂点の座標を復号するように構成されているインター復号部と、を備え、制御信号によって、前記インター復号部における動きベクトル残差のCABAC符号化方式と前記イントラ復号部における頂点座標及びUV座標の残差のCABAC符号化方式とを統合するように構成されているか、或いは、前記インター復号部は、所定のシンタックスについては、コンテキスト値を常に固定することで、前記コンテキスト値の更新をバイパスして算術復号するように構成されていることを要旨とする。
【発明の効果】
【0008】
本発明によれば、メッシュの符号化効率及び複雑度のバランスを向上させることができるメッシュ復号装置、メッシュ復号方法及びプログラムを提供することができる。
【図面の簡単な説明】
【0009】
【
図1】
図1は、一実施形態に係るメッシュ処理システム1の構成の一例を示す図である。
【
図2】
図2は、一実施形態に係るメッシュ復号装置200の機能ブロックの一例を示す図である。
【
図3A】
図3Aは、基本メッシュ及び細分割メッシュの一例を示す図である。
【
図3B】
図3Bは、基本メッシュ及び細分割メッシュの一例を示す図である。
【
図4】
図4は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202の機能ブロックの一例を示す図である。
【
図5】
図5は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202のイントラ復号部202Bの機能ブロックの一例を示す図である。
【
図6】
図6は、Pフレームの基本メッシュの頂点とIフレームの基本メッシュの頂点との間の対応関係の一例を示す図である。
【
図7】
図7は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202のインター復号部202Eの機能ブロックの一例を示す図である。
【
図8】
図8は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202のインター復号部202Eの動きベクトル予測部202E3による復号対象の頂点のMVPの算出方法の一例を説明するための図である。
【
図9】
図9は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202のインター復号部202Eの動きベクトル予測部202E3の動作の一例を示すフローチャートを示す。
【
図10】
図10は、現状のインター復号部202EにおけるMVRの符号化方式の一例とイントラ復号部202Bにおける頂点座標及びUV座標の残差の符号化方式の一例とを説明するための図である。
【
図11】
図11は、一変更例のインター復号部202EにおけるMVRの符号化方式の一例とイントラ復号部202Bにおける頂点座標及びUV座標の残差の符号化方式の一例とを説明するための図である。
【
図12】
図12は、一実施形態に係るメッシュ復号装置200の細分割部203の機能ブロックの一例について示す図である。
【
図13】
図13は、一実施形態に係るメッシュ復号装置200の細分割部203の基本メッシュ細分割部203Aの機能ブロックの一例を示す図である。
【
図14】
図14は、一実施形態に係るメッシュ復号装置200の細分割部203の基本メッシュ細分割部203Aの基本面分割部203A5による基本面の分割方法の一例について説明するための図である。
【
図15】
図15は、一実施形態に係るメッシュ復号装置200の細分割部203の基本メッシュ細分割部203Aの動作の一例を示すフローチャートである。
【
図16】
図16は、一実施形態に係るメッシュ復号装置200の細分割部203の細分割メッシュ調整部203Bの機能ブロックの一例を示す図である。
【
図17】
図17は、一実施形態に係るメッシュ復号装置200の細分割部203の細分割メッシュ調整部203Bの辺分割点移動部701によって基本面ABC上の辺分割点が移動されたケースの一例を示す図である。
【
図18】
図18は、一実施形態に係るメッシュ復号装置200の細分割部203の細分割メッシュ調整部203Bの細分割面分割部702によって基本面内の細分割面Xに対して再度細分割が行われたケースの一例を示す図である。
【
図19】
図19は、一実施形態に係るメッシュ復号装置200の細分割部203の細分割メッシュ調整部203Bの細分割面分割部702によって全ての細分割面に対して再度細分割が行われたケースの一例を示す図である。
【
図20】
図20は、一実施形態に係るメッシュ復号装置200の変位量復号部206の機能ブロックの一例について示す図である(空間領域でインター予測が行われる場合)。
【
図21】
図21は、変位量ビットストリームの構成の一例について示す図である。
【
図22】
図22は、DPSのシンタックス構成の一例について示す図である。
【
図23】
図23は、DPHのシンタックス構成の一例について示す図である。
【
図24】
図24は、空間領域でインター予測が行われる場合の参照フレームと復号対象フレームとの間の周波数の対応関係の一例について説明するための図である。
【
図25】
図25は、一実施形態に係るメッシュ復号装置200の変位量復号部206の機能ブロックの一例について示す図である(周波数領域でインター予測が行われる場合)。
【
図26】
図26は、周波数領域でインター予測が行われる場合の参照フレームと復号対象フレームとの間の周波数の対応関係の一例について説明するための図である。
【
図27】
図27は、一実施形態に係るメッシュ復号装置200の変位量復号部206の動作の一例を示すフローチャートである。
【
図28】
図28は、変形例1に係る変位量復号部206の機能ブロックの一例を示す図である。
【
図29】
図29は、変形例2に係る変位量復号部206の機能ブロックの一例を示す図である。
【発明を実施するための形態】
【0010】
以下、本発明の実施の形態について、図面を参照しながら説明する。なお、以下の実施形態における構成要素は、適宜、既存の構成要素等との置き換えが可能であり、また、他の既存の構成要素との組み合わせを含む様々なバリエーションが可能である。したがって、以下の実施形態の記載をもって、特許請求の範囲に記載された発明の内容を限定するものではない。
【0011】
<第1実施形態>
以下、
図1~
図29を参照して、本実施形態に係るメッシュ処理システムについて説明する。
【0012】
図1は、本実施形態に係るメッシュ処理システム1の構成の一例を示す図である。
図1に示すように、メッシュ処理システム1は、メッシュ符号化装置100及びメッシュ復号装置200を備えている。
【0013】
図2は、本実施形態に係るメッシュ復号装置200の機能ブロックの一例を示す図である。
【0014】
図2に示すように、メッシュ復号装置200は、多重分離部201と、基本メッシュ復号部202と、細分割部203と、メッシュ復号部204と、パッチ統合部205と、変位量復号部206と、映像復号部207とを有する。
【0015】
ここで、基本メッシュ復号部202、細分割部203、メッシュ復号部204及び変位量復号部206は、メッシュを分割したパッチ単位で処理を行うように構成されており、その後、これらの処理結果についてパッチ統合部205で統合されるように構成されていてもよい。
【0016】
図3Aの例では、メッシュが、基本面1及び2で構成されるパッチ1と、基本面3及び4で構成されるパッチ2とに分割されている。
【0017】
多重分離部201は、多重化されたビットストリームを、基本メッシュビットストリームと変位量ビットストリームとテクスチャビットストリームとに分離するように構成されている。
【0018】
<基本メッシュ復号部202>
基本メッシュ復号部202は、基本メッシュビットストリームを復号し、基本メッシュを生成して出力するように構成されている。
【0019】
ここで、基本メッシュは、3次元空間における複数の頂点と、かかる複数の頂点を接続する辺とで構成される。
【0020】
なお、
図3Aに示すように、基本メッシュは、3つの頂点で表現される基本面を組み合わせて構成される。
【0021】
基本メッシュ復号部202は、例えば、非特許文献2に示すDraco又は非特許文献3に記載されている技術を用いて、基本メッシュビットストリームを復号するように構成されていてもよい。
【0022】
また、基本メッシュ復号部202は、細分割手法の種別を制御する制御情報として、後述の「subdivision_method_id」を生成するように構成されていてもよい。
【0023】
図4に示すように、基本メッシュ復号部202は、分離部202Aと、イントラ復号部202Bと、メッシュバッファ部202Cと、接続情報復号部202Dと、インター復号部202Eとを備える。
【0024】
分離部202Aは、基本メッシュビットストリームを、IフレームのビットストリームとPフレームのビットストリームとに分類するように構成されている。
【0025】
(イントラ復号部202B)
イントラ復号部202Bは、例えば、非特許文献2に示すDraco又は非特許文献3に記載されている技術を用いて、Iフレームのビットストリームから、Iフレームの頂点の座標及び接続情報を復号するように構成されている。
【0026】
図5は、イントラ復号部202Bの機能ブロックの一例を示す図である。
【0027】
図5に示すように、イントラ復号部202Bは、任意イントラ復号部202B1と、整列部202B2とを有する。
【0028】
任意イントラ復号部202B1は、非特許文献2に示すDraco又は非特許文献3に記載されている技術を含む任意の方式を用いて、Iフレームのビットストリームから、Iフレームの順序無し頂点の座標及び接続情報を復号するように構成されている。
【0029】
整列部202B2は、順序無し頂点を所定の順序に並び替えることによって頂点を出力するように構成されている。
【0030】
所定の順序として、例えば、モートンコード順を用いてもよく、ラスタスキャン順を用いてもよい。
【0031】
また、整列部202B2は、復号された基本メッシュにおいて座標が一致する複数の頂点である重複頂点をまとめて、単一頂点としてから、所定の順序に並び替えてもよい。
【0032】
メッシュバッファ部202Cは、イントラ復号部202Bによって復号されたIフレームの頂点の座標及び接続情報を蓄積するように構成されている。ここで、重複頂点として存在する頂点のインデックスA(k)及びB(k)のペアを所定順で保存する特定バッファが設けられていてもよい。
【0033】
接続情報復号部202Dは、メッシュバッファ部202Cから取り出したIフレーム又は参照フレームの接続情報をPフレームの接続情報にするように構成されている。
【0034】
インター復号部202Eは、メッシュバッファ部202Cから取り出した参照フレームの頂点の座標とPフレームのビットストリームから復号した動きベクトルとを加算することによって、Pフレームの頂点の座標を復号するように構成されている。
【0035】
更に、インター復号部202Eは、かかる特定バッファに保存されている重複頂点として存在する頂点のインデックスA(k)及びB(k)のペアにより、Pフレームの頂点のインデックスを調整することが可能である。
【0036】
ここで、上述のインデックスの全部又は一部は、ビットストリームから復号される。かかる復号方法は、算術符号化でもよい。
【0037】
本実施形態では、
図6に示すように、Pフレームの基本メッシュの頂点と参照フレーム(Iフレーム又はPフレーム)の基本メッシュの頂点との間で対応関係が存在する。ここで、インター復号部202Eによって復号される動きベクトルは、Pフレームの基本メッシュの頂点の座標とIフレームの基本メッシュの頂点の座標との差分ベクトルである。
【0038】
(インター復号部202E)
図7は、インター復号部202Eの機能ブロックの一例を示す図である。
【0039】
図7に示すように、インター復号部202Eは、動きベクトル残差復号部202E1と、動きベクトルバッファ部202E2と、動きベクトル予測部202E3と、動きベクトル算出部202E4と、加算器202E5とを有する。
【0040】
動きベクトル残差復号部202E1は、PフレームのビットストリームからMVR(Motion Vector Residual)を生成するように構成されている。
【0041】
ここで、MVRは、MV(Motion Vector)とMVP(Motion Vector Prediction)との差分を示す動きベクトル残差である。MVは、対応するIフレームの頂点の座標とPフレームの頂点の座標との間の差分ベクトル(動きベクトル)である。MVPは、MVを用いて対象の頂点のMVの予測した値(動きベクトルの予測値)である。
【0042】
動きベクトルバッファ部202E2は、動きベクトル算出部202E4によって出力されたMVを順次に保存するように構成されている。
【0043】
動きベクトル予測部202E3は、復号対象の頂点と接続している頂点について、動きベクトルバッファ部202E2から復号済みのMVを取得し、
図8に示すように、取得された復号済みのMVの全部又は一部を用いて、復号対象の頂点のMVPを出力するように構成されている。
【0044】
動きベクトル算出部202E4は、動きベクトル残差復号部202E1で生成されたMVRと動きベクトル予測部202E3から出力されたMVPとを加算し、復号対象の頂点のMVを出力するように構成されている。
【0045】
加算器202E5は、対応関係を持つ参照フレーム(Iフレーム又はPフレーム)の復号済みの基本メッシュから得られた復号対象の頂点に対応する頂点の座標と、動きベクトル算出部202E3から出力された動きベクトルMVとを加算し、復号対象の頂点の座標を出力するように構成されている。
【0046】
以下、インター復号部202Eの各部の詳細について説明する。
【0047】
図9に、動きベクトル予測部202E3の動作の一例を示すフローチャートを示す。以下、動きベクトル予測部202E3の動作を「平均予測法」と呼ぶ。
【0048】
図9に示すように、ステップS1001において、動きベクトル予測部202E3は、MVP及びNに0を設定する。
【0049】
ステップS1002において、動きベクトル予測部202E3は、動きベクトルバッファ部202E2から、復号対象の頂点の周りの頂点のMVの集合を取得し、後続の処理が終わっていない頂点を特定し、Noに遷移し、全ての頂点について後続の処理が終わっている場合は、Yesに遷移する。
【0050】
ステップS1003において、動きベクトル予測部202E3は、処理対象の頂点のMVが、復号済みでなければ、Noに遷移し、処理対象の頂点のMVが、復号済みであれば、Yesに遷移する。
【0051】
ステップS1004において、動きベクトル予測部202E3は、MVPにMVを加算し、Nに1を加算する。
【0052】
ステップS1005において、動きベクトル予測部202E3は、Nが0より大きければ、MVPをNで除した結果を出力し、Nが0であれば、0を出力し、処理を終了する。
【0053】
すなわち、動きベクトル予測部202E3は、復号対象の頂点の周りにある頂点の復号済みの動きベクトルを平均することによって、復号対象のMVPを出力するように構成されている。
【0054】
なお、動きベクトル予測部202E3は、かかる復号済みの動きベクトルの集合が空集合の場合、MVPを0とするように構成されていてもよい。
【0055】
動きベクトル算出部202E4は、式(1)によって、動きベクトル予測部202E3によって出力されたMVP及び動きベクトル残差復号部202E1によって生成されたMVRから、復号対象の頂点のMVを算出するように構成されていてもよい。
【0056】
MV(k)=MVP(k)+MVR(k) … (1)
ここで、kは、頂点のインデックスである。MV、MVR及びMVPは、x成分、y成分及びz成分を有するベクターである。
【0057】
かかる構成によれば、MVPを用いて、MVの代わりにMVRのみを符号化するため、符号化効率を高める効果が期待できる。
【0058】
加算器202E5は、動きベクトル算出部202E4によって算出された頂点のMVと、かかる頂点に対応する参照フレームの頂点の座標とを加算することによって、かかる頂点の座標を算出し、接続情報(Connectivity)を参照フレームのままにするように構成されている。
【0059】
具体的には、加算器202E5は、式(2)を用いて、k番目の頂点の座標v’i(k)を算出するように構成されていてもよい。
【0060】
v’i(k)=v’j(k)+MV(k) … (2)
ここで、v’i(k)は、復号対象のフレームで復号するk番目の頂点の座標であり、v’j(k)は、参照フレームの復号したk番目の頂点の座標であり、MV(k)は、復号対象のフレームのk番目のMVであり、k=1,2…,Kである。
【0061】
また、復号対象のフレームの接続情報は、参照フレームの接続情報と同一にされる。
【0062】
なお、動きベクトル予測部202E3は、復号済みのMVを用いてMVPを算出するため、復号の順番がMVPに影響を及ぼす。
【0063】
かかる復号の順番は、参照フレームの基本メッシュの頂点の復号の順番にする。一般的に、一定の繰り返しパターンを用いて、起点となるエッジから基本面を1つずつ増やす復号手法であれば、復号した基本メッシュの頂点の順番が復号の過程で決められる。
【0064】
例えば、動きベクトル予測部202E3は、参照フレームの基本メッシュにおいて、Edgebreakerを用いて、頂点の復号の順番を決めてもよい。
【0065】
かかる構成によれば、頂点の座標の代わりに参照フレームからのMVを符号化するため、符号化効率を高める効果が期待できる。
【0066】
(インター復号部202Eの変更例)
以下、インター復号部202Eの変更例について説明する。
【0067】
動きベクトル残差復号部202E1は、算術復号によって動きベクトル残差を復号してもよい。
【0068】
算術復号では、入力された2進数小数が数直線上のどの区間に含まれるかによって元の値を復号する。また、算術復号では、0から1までの数直線を定義し、その区間を2値の発生確率(以降、コンテキスト値と呼ぶ)によって分割して利用する。
【0069】
動きベクトル残差復号部202E1は、複数種類のコンテキスト値を用いて算術復号してもよい。コンテキスト値は、シンタックスごとに分割して定義してもよい。
【0070】
動きベクトル残差復号部202E1は、1ビットを復号する度にコンテキスト値を更新してもよい。
【0071】
動きベクトル残差復号部202E1は、0及び1のうち、発生確率が高いシンボルが発生した場合は、少しコンテキスト値を更新し、発生確率が低いシンボルが発生した場合は、大きくコンテキスト値を更新するような更新テーブルを用いてもよい。
【0072】
また、動きベクトル残差復号部202E1は、コンテキスト値を常に0.5に固定することでコンテキスト値の更新をバイパスしてもよい。
【0073】
このようにコンテキスト値の更新をバイパスすることによって、高速な復号が可能となる。
【0074】
動きベクトル残差復号部202E1は、コンテキスト値の更新をバイパスする動きベクトル残差の数の上限L(<K)を定め、上限を超えた場合に限ってコンテキスト値の更新を行ってもよい。
【0075】
これによって、コンテキスト値の更新をバイパスすることによる符号化効率の低下を抑制する効果が期待できる。
【0076】
動きベクトル残差復号部202E1は、コンテキスト値の更新をバイパスするかどうかをシンタックスごとに設定してもよい。
【0077】
なお、動きベクトル残差復号部202E1は、上述のように、二値算術復号に基づいて復号してもよいし、RangeCoderのような多値算術復号に基づいて復号してもよい。
【0078】
(基本メッシュ復号部202の変更例)
以下、
図10及び
図11を参照して、基本メッシュ復号部202の変更例について説明する 。
【0079】
図10に示すように、現状では、インター復号部202EにおけるMVRの符号化方式とイントラ復号部202Bにおける頂点座標及びUV座標の残差の符号化方式とが同じCABACを使っているが、両者において詳細なフラグや手順が異なる。
【0080】
本変更例に係る基本メッシュ復号部202は、
図11に示すように、制御信号によって、インター復号部202EにおけるMVRの符号化方式とイントラ復号部202Bにおける頂点座標及びUV座標の残差の符号化方式とを統合する。
【0081】
インター復号部202EにおけるMVRの符号化方式とイントラ復号部202Bにおける頂点座標及びUV座標の残差の符号化方式との差分は、係数の絶対値がある値以上かどうかを示すフラグの数のみである。
【0082】
よって、基本メッシュ復号部202は、フレーム毎又はシーケンス毎に、かかる係数の絶対値がある値以上かどうかを示すフラグの数を算出する制御信号を設けて、ビットストリームから制御信号を復号する。
【0083】
例えば、基本メッシュ復号部202は、フレームヘッダから制御信号smh_ae_bias_minus1を復号し、かかる制御信号smh_ae_bias_minus1の値に1を加算することで、上述の係数の絶対値がある値以上かどうかを示すフラグの数を取得する。
【0084】
イントラフレームの場合は、メッシュ符号化装置100は、制御信号smh_ae_bias_minus1の値を2に設定し、かかる制御信号smh_ae_bias_minus1をu(2)でビットストリームに書き込む。
【0085】
一方、インターフレームの場合は、メッシュ符号化装置100は、制御信号smh_ae_bias_minus1の値を0や1に設定し、かかる制御信号smh_ae_bias_minus1をu(2)でビットストリームに書き込む。
【0086】
その結果、メッシュ復号装置200は、イントラフレームの場合であってもインターフレームの場合であっても、ビットストリームから制御信号smh_ae_bias_minus1を復号することができる。
【0087】
また、メッシュ復号装置200は、フレームヘーダから制御信号smh_ae_bias_typeを復号し、上述の残差の絶対値がある値以上かどうかを示すフラグの数を、smh_ae_bias_typeとのマッピング関係から算出する。
【0088】
表1は、smh_ae_bias_typeとae_biasとのマッピング関係の一例を示す。
【0089】
【表1】
さらに、動きベクトル残差復号部202E1は、上述の専用の制御信号を利用せず、他の制御信号やデータから、上述の残差の絶対値がある値以上かどうかを示すフラグの数を算出してもよい。
【0090】
例えば、動きベクトル残差復号部202E1は、イントラフレームであるか又はインターフレームであるか示す制御信号により、上述の残差の絶対値がある値以上かどうかを示すフラグの数を算出してもよい。
【0091】
かかる構成によれば、イントラフレーム及びインターフレームにおいて係数単位のCABAC符号化方式を統合するため、規格文書の洗練化及び符号化効率を高める効果が期待できる。
【0092】
<細分割部203>
細分割部203は、制御情報によって示された細分割手法により、基本メッシュ復号部202によって復号された基本メッシュから、追加された細分割頂点及びそれらの接続情報を生成して出力するように構成されている。
【0093】
ここで、基本メッシュ、追加された細分割頂点、及び、それらの接続情報を、併せて「細分割メッシュ」と呼ぶ。
【0094】
細分割部202は、基本メッシュビットストリームを復号して生成した制御情報であるsubdivision_method_idから、細分割手法の種別を特定するように構成されている。
【0095】
以下、
図3A及び
図3Bを参照して、細分割部202について説明する。
【0096】
図3A及び
図3Bは、基本メッシュから細分割頂点を生成する動作の一例について説明するための図である。
【0097】
図3Aは、5つの頂点で構成された基本メッシュの一例について示す図である。
【0098】
ここで、細分割には、例えば、各基本面において各辺の中点同士を接続するMid-edge分割法を用いてもよい。これによって、ある基本面は、4つの面に分割されることになる。
【0099】
図3Bは、5つの頂点で構成された基本メッシュを分割した細分割メッシュの一例を示す。
図3Bに示す細分割メッシュでは、元の5つの頂点(黒丸)に加えて8つの細分割頂点(白丸)が生成されている。
【0100】
このように生成した細分割頂点ごとに、変位量復号部206で変位量を復号することによって、符号化性能の向上が期待できる。
【0101】
また、各パッチで異なる細分割方法を適用してもよい。これによって、変位量復号部206で復号される変位量をパッチごとに適応的に変化させ、符号化性能の向上が期待できる。分割したパッチの情報は、制御情報であるpatch_idとして受け取られる。
【0102】
以下、
図12を参照して、細分割部203について説明する。
図12は、細分割部203の機能ブロックの一例について示す図である。
【0103】
図12に示すように、細分割部203は、基本メッシュ細分割部203Aと細分割メッシュ調整部203Bとを有する。
【0104】
(基本メッシュ細分割部203A)
基本メッシュ細分割部203Aは、入力された基本メッシュ及び基本メッシュの分割情報に基づき、基本面及び基本パッチごとの分割数(細分割数)を算出し、かかる分割数に基づいて基本メッシュを細分割し、細分割面を出力するように構成されている。
【0105】
すなわち、基本メッシュ細分割部203Aは、基本面及び基本パッチ単位で、上述の分割数を変えることができるように構成されていてもよい。
【0106】
ここで、基本面は、基本メッシュを構成する面であり、基本パッチは、いくつかの基本面の集合である。
【0107】
また、基本メッシュ細分割部203Aは、基本面の細分割数を予測し、予測した基本面の細分割数に対して予測分割数残差を加算することで、基本面の細分割数を算出するように構成されていてもよい。
【0108】
また、基本メッシュ細分割部203Aは、基本面の隣接基本面の細分割数に基づいて、基本面の細分割数を算出するように構成されていてもよい。
【0109】
また、基本メッシュ細分割部203Aは、直前に蓄積された基本面の細分割数に基づき、基本面の細分割数を算出するように構成されていてもよい。
【0110】
また、基本メッシュ細分割部203Aは、基本面を構成する3辺を分割する頂点を生成し、生成した頂点を接続することで、基本面を細分割するように構成されていてもよい。
【0111】
図12に示すように、基本メッシュ細分割部203Aの後段に、後述の細分割メッシュ調整部を備える203Bを備えている。
【0112】
以下、
図13~
図15を用いて、基本メッシュ細分割部203Aの処理の一例について説明する。
【0113】
図13は、基本メッシュ細分割部203Aの機能ブロックの一例を示す図であり、
図15は、基本メッシュ細分割部203Aの動作の一例を示すフローチャートである。
【0114】
図13に示すように、基本メッシュ細分割部203Aは、基本面分割数バッファ部203A1と、基本面分割数参照部203A2と、基本面分割数予測部203A3と、加算部203A4と、基本面分割部203A5とを有する。
【0115】
基本面分割数バッファ部203A1は、基本面の分割数を含む基本面の分割情報を格納しており、基本面分割数参照部203A2に対して基本面の分割情報を出力するように構成されている。
【0116】
ここで、基本面分割数バッファ部203A1のサイズは、1とし、基本面分割数参照部203A2に対して、直前に蓄積された基本面の分割数を出力するように構成されていてもよい。
【0117】
すなわち、基本面分割数バッファ部203A1のサイズを1にすることで、最後に復号した細かい分割数(直前に復号した細分割数)のみを参照するように構成されていてもよい。
【0118】
基本面分割数参照部203A2は、復号対象の基本面に対して隣接する基本面が存在していない場合、或いは、復号対象の基本面に対して隣接する基本面が存在しているが分割数が確定していない場合は、基本面分割数予測部203A3に対して、参照不可を出力するように構成されている。
【0119】
一方、基本面分割数参照部203A2は、復号対象の基本面に対して隣接する基本面が存在し且つ分割数が確定している場合は、基本面分割数予測部203A3に対して、かかる分割数を出力するように構成されている。
【0120】
基本面分割数予測部203A3は、入力された1つ以上の分割数に基づいて基本面の分割数(細分割数)を予測し、加算部203A4に対して、予測した分割数(予測分割数)を出力するように構成されている。
【0121】
ここで、基本面分割数予測部203A3は、基本面分割数参照部203A2から参照不可のみが入力された場合は、加算部203A4に対して、0を出力するように構成されている。
【0122】
なお、基本面分割数予測部203A3は、1つ以上の分割数が入力された場合、入力された分割数の平均値や最大値や最小値や最頻値等の統計値のいずれかを用いて、予測分割数を生成するように構成されていてもよい。
【0123】
なお、基本面分割数予測部203A3は、1つ以上の分割数が入力された場合、最も隣接する面の分割数を予測分割数として生成するように構成されていてもよい。
【0124】
加算部203A4は、予測残差ビットストリームから復号した予測分割数残差と基本面分割数予測部203A3から取得した予測分割数とを加算することによって得られた分割数を、基本面分割部203A5に対して出力するように構成されている。
【0125】
基本面分割部203A5は、加算部203A4から入力された分割数に基づき、基本面を細分割するように構成されている。
【0126】
図14は、基本面を9分割したケースの一例である。
図14を参照して、基本面分割部203A5による基本面の分割方法について説明する。
【0127】
基本面分割部203A5は、基本面を構成する辺ABに対してN等分(N=3)する点A_1,…,A_(N-1)を生成する。
【0128】
同様に、基本面分割部203A5は、辺BCや辺CAについてもN等分し、それぞれ点B_1,…,B_(N-1)、C_1,…,C_(N-1)を生成する。
【0129】
以降、辺AB、辺BC及び辺CA上の点を「辺分割点」と呼ぶ。
【0130】
基本面分割部203A5は、全てのi(i=1,2,…,N-1)に対して、辺A_i B_(N-i),B_i C_(N-i),C_i A_(N-i)を生成し、N2個の細分割面を生成する。
【0131】
次に、
図15を参照して、基本メッシュ細分割部203Aの処理手順について説明する。
【0132】
ステップS2201において、基本メッシュ細分割部203Aは、最後の基本面に対して細分割処理が完了したか否かを判定する。処理が完了した場合終了し、そうでない場合はステップS2202に進む。
【0133】
ステップS2202において、基本メッシュ細分割部203Aは、Depth<mdu_max_depthの判定を行う。
【0134】
ここで、Depthは、現在の深度を表す変数で、初期値は0であり、mdu_max_depthは、基本面ごとに決められた最大深度を表す。
【0135】
ステップS2202における条件を満たす場合は、本処理手順は、ステップS2203に進み、かかる条件を満たさない場合は、本処理手順は、ステップS2201に戻る。
【0136】
ステップS2203において、基本メッシュ細分割部203Aは、現在の深度におけるmdu_subdivision_flagが1であるか否かについて判定する。
【0137】
Yesの場合、本処理手順は、ステップS2201に戻り、Noの場合、本処理手順は、ステップS2204に進む。
【0138】
ステップS2204において、基本メッシュ細分割部203Aは、基本面内の全ての細分割面をさらに細分割する。
【0139】
ここで、基本メッシュ細分割部203Aは、基本面に対して一度も細分割処理が行われていない場合は、基本面を細分割する。
【0140】
なお、細分割の方法については、ステップS2204で説明した方法と同様である。
【0141】
具体的には、基本面が一度も細分割されていない場合は、基本面に対して
図14のように細分割を行う。少なくとも1回は細分割されている場合は、細分割面をN
2個に細分割する。
図14を例にすると、頂点A_2と頂点Bと頂点B_1とからなる面を、基本面の分割のときと同様の方法で、更に分割してN
2個の面を生成する。
【0142】
細分割処理が終了したとき、本処理手順は、ステップS2205に進む。
【0143】
ステップS2205において、基本メッシュ細分割部203Aは、Depthに1を加算し、本処理手順は、ステップS2202に戻る。
【0144】
(細分割メッシュ調整部203B)
次に、細分割メッシュ調整部203Bによって行われる処理の具体例について説明する。以下、
図16~
図19を用いて細分割メッシュ調整部203Bよって行われる処理の一例について説明する。
【0145】
図16は、細分割メッシュ調整部203Bの機能ブロックの一例を示す図である。
【0146】
図16に示すように、細分割メッシュ調整部203Bは、辺分割点移動部701と、細分割面分割部702とを有する。
【0147】
(辺分割点移動部701)
辺分割点移動部701は、入力された初期細分割面に対して、基本面の辺分割点を隣接基本面の辺分割点のいずれかに移動し、細分割面を出力するように構成されている。
【0148】
図17は、基本面ABC上の辺分割点を移動した例である。例えば、
図17に示すように、辺分割点移動部701は、基本面ABCの辺分割点を最も近い隣接基本面の辺分割点に移動するように構成されていてもよい。
【0149】
(細分割面分割部702)
細分割面分割部702は、入力された細分割面を再度細分割し、復号細分割面を出力するように構成されている。
【0150】
図18は、基本面内の細分割面Xに対して再度細分割が行われたケースの一例を示す図である。
【0151】
図18に示すように、細分割面分割部702は、細分割面を構成する頂点と隣接基本面の辺分割点とを接続することで、基本面内に新たな細分割面を生成するように構成されていてもよい。
【0152】
図19は、全ての細分割面に対して、上述の細分割処理を行ったケースの一例を示す図である。
【0153】
メッシュ復号部204は、細分割部203で生成された細分割メッシュ及び変位量復号部206で復号された変位量を用いて、復号メッシュを生成して出力するように構成されている。
【0154】
具体的には、メッシュ復号部204は、各細分割頂点に対して、対応する変位量を加算することによって、復号メッシュを生成するように構成されている。ここで、各変位量がどの細分割頂点に対応するかについての情報は、制御情報によって示される。
【0155】
パッチ統合部205は、メッシュ復号部206で生成された復号メッシュを、複数のパッチ分だけ統合して出力するように構成されている。
【0156】
ここで、パッチの分割方法は、メッシュ符号化装置100によって定義される。例えば、パッチの分割方法は、各基本面に対して法線ベクトルを算出しておき、隣接する基本面の中で最も法線ベクトルが類似した基本面を選択し、両基本面を同じパッチとしてまとめ、かかる手順を、次の基本面に対して順次繰り返すように構成されていてもよい。
【0157】
映像復号部207は、映像符号化によってテクスチャを復号して出力するように構成されている。例えば、映像復号部207は、非特許文献1のHEVCを用いてもよい。
【0158】
<変位量復号部206>
変位量復号部206は、変位量ビットストリームを復号して変位量を生成して出力するように構成されている。
【0159】
図3Bは、ある細分割頂点に対する変位量の一例について示す図である。
図3Bの例では、8個の細分割頂点が存在するため、変位量復号部206は、各細分割頂点に対してスカラー或いはベクトルで表現される変位量を8個定義するように構成されている。
【0160】
以下、
図20を参照して、変位量復号部206について説明する。
図20は、変位量復号部206の機能ブロックの一例について示す図である。
【0161】
図20に示すように、変位量復号部206は、復号部206Aと、逆量子化部206Bと、逆ウェーブレット変換部206Cと、加算器206Dと、インター予測部206Eと、フレームバッファ206Fとを有する。
【0162】
復号部206Aは、受信した変位量ビットストリームに対して可変長復号を行うことでレベル値及び制御情報を復号して出力するように構成されている。ここで、可変長復号によって得られたレベル値は、逆量子化部206Bに出力され、制御情報は、インター予測部206Eに出力される。
【0163】
以下、
図21を参照して、変位量ビットストリームの構成の一例について説明する。
図21は、変位量ビットストリームの構成の一例について示す図である。
【0164】
図21に示すように、第1に、変位量ビットストリームは、変位量の復号に関する制御情報の集合であるDPS(Displacement Parameter Set:ディスプレイスメントパラメータセット)を含んでいてもよい。
【0165】
第2に、変位量ビットストリームは、パッチに対応する制御情報の集合であるDPH(Displacement Patch Header:ディスプレイスメントパッチヘッダ)を含んでいてもよい。
【0166】
第3に、変位量ビットストリームは、DPHの次に、パッチを構成する符号化された変位量を含んでいてもよい。
【0167】
以上のように、変位量ビットストリームは、各符号化された変位量に、1つずつDPH及びDPSが対応する構成となる。
【0168】
なお、
図21の構成は、あくまで一例である。各符号化された変位量に、DPH及びDPSが対応する構成となっていれば、変位量ビットストリームの構成要素として、上述以外の要素が追加されてもよい。
【0169】
例えば、
図21に示すように、変位量ビットストリームは、SPS(Sequence Parameter Set:シーケンスパラメータセット)を含んでいてもよい。
【0170】
図22は、DPSのシンタックス構成の一例について示す図である。
【0171】
図22において、Descriptor欄は、各シンタックスが、どのように符号化されているかを意味している。
【0172】
また、
図22において、ue(v)は、符号無し0次指数ゴロム符号であることを意味し、u(n)は、nビットのフラグであることを意味する。
【0173】
DPSは、複数のDPSが存在する場合に、各DPSを識別するためのDPS id情報(dps_displacement_parameter_set_id)を少なくとも含む。
【0174】
また、DPSは、インター予測を行うか否かを制御するフラグ(interprediction_enabled_flag)を含んでもよい。
【0175】
例えば、interprediction_enabled_flagが0のときは、インター予測を行わないと定義し、interprediction_enabled_flagが1のときは、インター予測を行うと定義してもよい。interprediction_enabled_flagが含まれないときは、インター予測を行わないと定義してもよい。
【0176】
DPSは、逆DCTを行うか否かを制御するフラグ(dct_enabled_flag)を含んでもよい。
【0177】
例えば、dct_enabled_flagが0のときは、逆DCTを行わないと定義し、dct_enabled_flagが1のときは、逆DCTを行うと定義してもよい。dct_enabled_flagが含まれないときは、逆DCTを行わないと定義してもよい。
【0178】
図23は、DPHのシンタックス構成の一例について示す図である。
【0179】
図23に示すように、DPHは、各DPHに対応するDPSを指定するためのDPS id情報を少なくとも含む。
【0180】
逆量子化部206Bは、復号部206Aによって復号されたレベル値を逆量子化することによって変換係数を生成して出力するように構成されている。
【0181】
逆ウェーブレット変換部206Cは、逆量子化部206Bによって生成された変換係数に対して逆ウェーブレット変換を施すことによって予測残差を生成して出力するように構成されている。
【0182】
(インター予測部206E)
インター予測部206Eは、フレームバッファ206Fから読み出された参照フレームの復号変位量を用いてインター予測を行うことによって、予測変位量を生成して出力するように構成されている。
【0183】
インター予測部206Eは、interprediction_enabled_flagが1の場合のみ、かかるインター予測を行うように構成されている。
【0184】
インター予測部206Eは、空間領域でインター予測を行ってもよいし、周波数領域でインター予測を行ってもよい。インター予測は、時間的に過去の参照フレームと未来の参照フレームとを用いて、双方向予測を行ってもよい。
【0185】
図24は、空間領域でインター予測が行われる場合の参照フレームと復号対象フレームとの間の細分割頂点の対応関係の一例について説明するための図である。
【0186】
図25は、周波数領域でインター予測を行う場合のインター予測部206Eの機能ブロックの一例である。
【0187】
インター予測部206Eは、周波数領域でインター予測を行う場合は、復号対象フレームにおける周波数の予測ウェーブレット変換係数について、参照フレームにおける対応する周波数の復号ウェーブレット変換係数をそのまま参照して決定してもよい。
【0188】
インター予測部206Eは、複数の参照フレームにおける細分割頂点の復号変位量或いは復号ウェーブレット変換係数を用いて、平均と分散を推定した正規分布に従って確率的にインター予測してもよい。
【0189】
インター予測部206Eは、複数の参照フレームにおける細分割頂点の復号変位量あるいは復号ウェーブレット変換係数を用いて、時間を説明変数、変位量を目的変数として推定した回帰曲線をもとにインター予測してもよい。
【0190】
インター予測部206Eは、時間的に過去の参照フレームと未来の参照フレームとを用いて双方向でインター予測するように構成されていてもよい。
【0191】
メッシュ符号化装置100において、フレームごとに符号化効率向上のために、かかる復号ウェーブレット変換係数の順番が並び替えられていてもよい。
【0192】
参照フレームと復号対象フレームとの間の周波数の対応関係は、制御情報によって示される。
【0193】
図26は、周波数領域でインター予測が行われる場合の参照フレームと復号対象フレームとの間の周波数の対応関係の一例について説明するための図である。
【0194】
また、細分割部203が、基本メッシュを複数のパッチに分割した場合は、インター予測部206Eも、分割したパッチごとにインター予測を行うように構成されている。これによって、フレーム間の時間相関が高くなり、符号化性能の向上が期待できる。
【0195】
加算器206Dには、逆ウェーブレット変換部206Cから予測残差が入力され、インター予測部206Eから予測変位量が入力される。
【0196】
加算器206Dは、かかる予測残差と予測変位量とを加算することによって、復号変位量を算出して出力するように構成されている。
【0197】
加算器206Dによって算出された復号変位量は、フレームバッファ206Fにも出力される。
【0198】
フレームバッファ206Fは、加算器206Dから復号変位量を取得して蓄積するように構成されている。
【0199】
ここで、フレームバッファ206Fは、図示しない制御情報に応じて、参照フレームにおいて対応する頂点における復号変位量を出力する。
【0200】
図27は、変位量復号部206の動作の一例を示すフローチャートである。
【0201】
図27に示すように、ステップS3501において、変位量復号部206は、全てのパッチに対して、本処理が完了しているか否かについて判定する。
【0202】
Yesの場合、本動作は、終了し、Noの場合、本動作は、ステップS3502に進む。
【0203】
ステップS3502において、変位量復号部206は、復号対象のパッチに対して、逆DCTを行ってから逆量子化及び逆ウェーブレット変換を行う。
【0204】
ステップS3503において、変位量復号部206は、interprediction_enabled_flagが1であるか否かについて判定する。
【0205】
Yesの場合、本動作は、ステップS3504に進み、Noの場合、本動作は、ステップS3501に戻る。
【0206】
ステップS3504において、変位量復号部206は、上述のインター予測及び加算を行う。
【0207】
<変形例1>
以下、
図28を参照して、上述の第1実施形態の変形例1について、上述の第1実施形態との相違点に着目して説明する。
【0208】
図28は、本変形例1に係る変位量復号部206の機能ブロックの一例を示す図である。
【0209】
図28に示すように、本変形例1に係る変位量復号部206は、復号部206Aの後段に、すなわち、復号部206Aと逆量子化部206Bとの間に、逆DCT部206Gを備えている。
【0210】
すなわち、本変形例1では、逆量子化部206Bは、逆DCT部202Gから出力されたレベル値に対して逆ウェーブレット変換を施すことによって予測残差を生成するように構成されている。
【0211】
<変形例2>
以下、
図29を参照して、上述の第1実施形態の変形例2について、上述の第1実施形態との相違点に着目して説明する。
【0212】
図29に示すように、本変形例2に係る変位量復号部206は、映像復号部2061と、画像展開部2062と、逆量子化部2063と、逆ウェーブレット変換部2064と有する。
【0213】
映像復号部2061は、受信した変位量ビットストリームを、映像符号化によって復号することで映像を出力するように構成されている。
【0214】
例えば、映像復号部2061は、非特許文献1のHEVCを用いてもよい。
【0215】
また、映像復号部2061は、動きベクトルを常にゼロとした映像符号化方式を用いてもよい。例えば、映像復号部2061は、HEVCの動きベクトルを常にゼロとし、常に同一位置でのインター予測を用いてもよい。
【0216】
また、映像復号部2061は、変換を常にスキップするとした映像符号化方式を用いてもよい。例えば、映像復号部2061は、HEVCの変換を常に変換スキップモードとし、変換せずに映像符号化方式を用いてもよい。
【0217】
画像展開部2062は、映像復号部2061で復号された映像を、画像(フレーム)ごとにレベル値として展開して出力するように構成されている。
【0218】
かかる展開方法において、画像展開部2062は、制御情報によって示された画像へのレベル値の並べ方から、逆算して特定できる。
【0219】
画像展開部2062は、レベル値の並べ方として、例えば、高周波成分から低周波成分のレベル値が画像中にラスタ操作順に並べてもよい。
【0220】
逆量子化部2063は、画像展開部2062で生成されたレベル値を逆量子化することによって変換係数を生成して出力するように構成されている。
【0221】
逆ウェーブレット変換部2064は、逆量子化部2063で生成された変換係数に対して逆ウェーブレット変換を施すことによって復号変位量を生成して出力するように構成されている。
【0222】
上述のメッシュ符号化装置100及びメッシュ復号装置200は、コンピュータに各機能(各工程)を実行させるプログラムであって実現されていてもよい。
【産業上の利用可能性】
【0223】
なお、本実施形態によれば、例えば、動画像通信において総合的なサービス品質の向上を実現できることから、国連が主導する持続可能な開発目標(SDGs)の目標9「レジリエントなインフラを整備し、持続可能な産業化を推進するとともに、イノベーションの拡大を図る」に貢献することが可能となる。
【符号の説明】
【0224】
1…メッシュ処理システム
100…メッシュ符号化装置
200…メッシュ復号部
201…多重分離部
202…基本メッシュ復号部
202A…分離部
202B…イントラ復号部
202B1…任意イントラ復号部
202B2…整列部
202C…メッシュバッファ部
202D…接続情報復号部
202E…インター復号部
202E1…動きベクトル復号部
202E2…動きベクトルバッファ部
202E3…動きベクトル予測部
202E4…動きベクトル算出部
202E5…加算器
203…細分割部
203A…基本メッシュ細分割部
203A1…基本面分割数バッファ部
203A2…基本面分割数参照部
203A3…基本面分割数予測部
203A4…加算部
203A5…基本面分割部
203B…細分割メッシュ調整部
701…辺分割点移動部
702…細分割面分割部
204…メッシュ復号部
205…パッチ統合部
206…変位量復号部
206A…復号部
206B、2063…逆量子化部
206C、2064…逆ウェーブレット変換部
206D…加算器
206E…インター予測部
206F…フレームバッファ
206G…逆DCT部
2062…画像展開部
207、2061…映像復号部