IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ KDDI株式会社の特許一覧

特開2024-97467メッシュ復号装置、メッシュ復号方法及びプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024097467
(43)【公開日】2024-07-19
(54)【発明の名称】メッシュ復号装置、メッシュ復号方法及びプログラム
(51)【国際特許分類】
   H04N 19/52 20140101AFI20240711BHJP
【FI】
H04N19/52
【審査請求】未請求
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2023000930
(22)【出願日】2023-01-06
【国等の委託研究の成果に係る記載事項】(出願人による申告)令和4年度、総務省、「3次元空間データの無線伝送に向けた高能率圧縮技術の研究開発」委託事業、産業技術力強化法第17条の適用を受ける特許出願
(71)【出願人】
【識別番号】000208891
【氏名又は名称】KDDI株式会社
(74)【代理人】
【識別番号】110001564
【氏名又は名称】フェリシテ弁理士法人
(72)【発明者】
【氏名】徐 建鋒
(72)【発明者】
【氏名】河村 圭
【テーマコード(参考)】
5C159
【Fターム(参考)】
5C159MA04
5C159MA05
5C159MA41
5C159MC11
5C159ME01
5C159ME11
5C159NN11
5C159RC12
5C159RC38
5C159TA59
5C159TC27
5C159UA05
(57)【要約】
【課題】メッシュの符号化効率を向上させること。
【解決手段】本発明に係るメッシュ復号装置200は、インターフレームのビットストリームから、動きベクトル残差及び動きベクトルの予測モードを生成する動きベクトル残差復号部202E1と、復号対象頂点の周囲の復号済みの頂点の動きベクトルと復号対象頂点に対応する参照フレーム内の頂点の動きベクトルと前記復号対象頂点の周囲の復号済みの頂点に対応する参照フレーム内の頂点の動きベクトルを用いて、複数の予測方法の中から予測モードによって特定される予測方法によって、復号対象頂点の動きベクトルの予測値を算出する動きベクトル予測部202E3と、動きベクトルの予測値と動きベクトル残差とを加算する動きベクトル算出部202E4とを備える。
【選択図】図12
【特許請求の範囲】
【請求項1】
メッシュ復号装置であって、
インターフレームのビットストリームから、動きベクトル残差及び動きベクトルの予測モードを生成する動きベクトル残差復号部と、
復号対象頂点の周囲の復号済みの頂点の動きベクトルと、前記復号対象頂点に対応する参照フレーム内の頂点の動きベクトルと、前記復号対象頂点の周囲の復号済みの頂点に対応する前記参照フレーム内の頂点の動きベクトルを用いて、複数の予測方法の中から前記予測モードによって特定される予測方法によって、前記復号対象頂点の動きベクトルの予測値を算出する動きベクトル予測部と、
前記動きベクトルの予測値と前記動きベクトル残差とを加算する動きベクトル算出部とを備えることを特徴とするメッシュ復号装置。
【請求項2】
前記動きベクトル予測部は、
前記復号対象頂点の周囲の復号済みの頂点に対応する前記参照フレーム内の第1頂点と、前記復号対象頂点に対応する前記参照フレーム内の第2頂点との間の距離を算出し、
前記距離が最も小さい前記第1頂点を選択し、
前記選択した前記第1頂点に対応する復号対象フレーム内の頂点の動きベクトルを、前記復号対象頂点の動きベクトルの予測値とすることを特徴とする請求項1に記載のメッシュ復号装置。
【請求項3】
前記動きベクトル予測部は、
復号対象フレームと1対1の対応関係を持つ復号済みの他のインターフレームから、前記復号対象頂点に対応する頂点の動きベクトルを抽出し、
前記抽出した動きベクトルを、前記復号対象頂点の動きベクトルの予測値とすることを特徴とする請求項1に記載のメッシュ復号装置。
【請求項4】
前記動きベクトル予測部は、
復号対象フレームと1対1の対応関係を持つ復号済みの他のインターフレームから、前記復号対象頂点に対応する頂点の動きベクトルと前記復号対象頂点に対応する頂点の動きベクトルの予測値との第1比率関係を抽出し、
前記復号対象頂点の動きベクトルと前記復号対象頂点の動きベクトルの予測値との比率関係が、前記第1比率関係と同じになるように、前記復号対象頂点の動きベクトルの予測値を算出すること特徴とする請求項1に記載のメッシュ復号装置。
【請求項5】
前記動きベクトル算出部は、連続するN個の復号対象頂点において同じ予測モードを用いることを特徴とする請求項1に記載のメッシュ復号装置。
【請求項6】
前記動きベクトル算出部は、
前記ビットストリームから復号した所定のシンタックスに基づいて、復号対象フレームと1対1の対応関係を持つ復号済みの他のインターフレームにおいて前記復号対象頂点に対応する頂点の予測モードを、前記前記復号対象頂点の予測モードの予測値とし、
前記ビットストリームから、前記予測モードの予測値との差分を復号し、
前記予測モードの予測値と前記差分とを加算することで、前記復号対象頂点の予測モードを算出することを特徴とする請求項1に記載のメッシュ復号装置。
【請求項7】
前記動きベクトル残差復号部は、
復号済みの頂点の動きベクトルの予測モードに応じてコンテキストモデルを選択し、
前記コンテキストモデルの確率を利用して算術復号を行うことで、前記復号対象頂点の予測モードを生成し、
前記復号対象頂点の予測モードによって、前記コンテキストモデルの確率を更新することを特徴とする請求項1に記載のメッシュ復号装置。
【請求項8】
メッシュ復号方法であって、
インターフレームのビットストリームから、動きベクトル残差及び動きベクトルの予測モードを生成する工程と、
復号対象頂点の周囲の復号済みの頂点の動きベクトルと、前記復号対象頂点に対応する参照フレーム内の頂点の動きベクトルと、前記復号対象頂点の周囲の復号済みの頂点に対応する前記参照フレーム内の頂点の動きベクトルを用いて、複数の予測方法の中から前記予測モードによって特定される予測方法によって、前記復号対象頂点の動きベクトルの予測値を算出する工程と、
前記動きベクトルの予測値と前記動きベクトル残差とを加算する工程とを有することを特徴とするメッシュ復号方法。
【請求項9】
コンピュータを、メッシュ復号装置として機能させるプログラムであって、
前記メッシュ復号装置は、
インターフレームのビットストリームから、動きベクトル残差及び動きベクトルの予測モードを生成する動きベクトル残差復号部と、
復号対象頂点の周囲の復号済みの頂点の動きベクトルと、前記復号対象頂点に対応する参照フレーム内の頂点の動きベクトルと、前記復号対象頂点の周囲の復号済みの頂点に対応する前記参照フレーム内の頂点の動きベクトルを用いて、複数の予測方法の中から前記予測モードによって特定される予測方法によって、前記復号対象頂点の動きベクトルの予測値を算出する動きベクトル予測部と、
前記動きベクトルの予測値と前記動きベクトル残差とを加算する動きベクトル算出部とを備えることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、メッシュ復号装置、メッシュ復号方法及びプログラムに関する。
【背景技術】
【0002】
非特許文献1には、非特許文献2を用いてメッシュを符号化する技術が開示されている。
【先行技術文献】
【非特許文献】
【0003】
【非特許文献1】Khaled Mammou, Jungsun Kim, Alexis M Tourapis, Dimitri Podborski, and Krasimir Kolarov, “[V-CG] Apple’s Dynamic Mesh Coding CfP Response,” April 2022, ISO/IEC JTC 1/SC 29/WG 7.
【非特許文献2】Google Draco、2022年5月26日アクセス[Online]、https://google.github.io/draco
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来技術では、動的メッシュを構成する全ての頂点の座標や接続情報を可逆符号化するため、損失が許容される条件下であっても情報量を削減できず、符号化効率が低いという問題点があった。
【0005】
また、従来技術では、また、動きベクトルの予測精度が低いため、動きベクトルの符号化効率が低いという問題点があった。 そこで、本発明は、上述の課題に鑑みてなされたものであり、メッシュの符号化効率を向上させることができるメッシュ復号装置、メッシュ復号方法及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の第1の特徴は、メッシュ復号装置であって、インターフレームのビットストリームから、動きベクトル残差及び動きベクトルの予測モードを生成する動きベクトル残差復号部と、復号対象頂点の周囲の復号済みの頂点の動きベクトルと、前記復号対象頂点に対応する参照フレーム内の頂点の動きベクトルと、前記復号対象頂点の周囲の復号済みの頂点に対応する前記参照フレーム内の頂点の動きベクトルを用いて、複数の予測方法の中から前記予測モードによって特定される予測方法によって、前記復号対象頂点の動きベクトルの予測値を算出する動きベクトル予測部と、前記動きベクトルの予測値と前記動きベクトル残差とを加算する動きベクトル算出部とを備えることを要旨とする。
【0007】
本発明の第2の特徴は、メッシュ復号方法であって、インターフレームのビットストリームから、動きベクトル残差及び動きベクトルの予測モードを生成する工程と、復号対象頂点の周囲の復号済みの頂点の動きベクトルと、前記復号対象頂点に対応する参照フレーム内の頂点の動きベクトルと、前記復号対象頂点の周囲の復号済みの頂点に対応する前記参照フレーム内の頂点の動きベクトルを用いて、複数の予測方法の中から前記予測モードによって特定される予測方法によって、前記復号対象頂点の動きベクトルの予測値を算出する工程と、前記動きベクトルの予測値と前記動きベクトル残差とを加算する工程とを有することを要旨とする。
【0008】
本発明の第3の特徴は、コンピュータを、メッシュ復号装置として機能させるプログラムであって、前記メッシュ復号装置は、インターフレームのビットストリームから、動きベクトル残差及び動きベクトルの予測モードを生成する動きベクトル残差復号部と、復号対象頂点の周囲の復号済みの頂点の動きベクトルと、前記復号対象頂点に対応する参照フレーム内の頂点の動きベクトルと、前記復号対象頂点の周囲の復号済みの頂点に対応する前記参照フレーム内の頂点の動きベクトルを用いて、複数の予測方法の中から前記予測モードによって特定される予測方法によって、前記復号対象頂点の動きベクトルの予測値を算出する動きベクトル予測部と、前記動きベクトルの予測値と前記動きベクトル残差とを加算する動きベクトル算出部とを備えることを要旨とする。
【発明の効果】
【0009】
本発明によれば、メッシュの符号化効率を向上させることができるメッシュ復号装置、メッシュ復号方法及びプログラムを提供することができる。
【図面の簡単な説明】
【0010】
図1図1は、一実施形態に係るメッシュ処理システム1の構成の一例を示す図である。
図2図2は、一実施形態に係るメッシュ復号装置200の機能ブロックの一例を示す図である。
図3A図3Aは、基本メッシュ及び細分割メッシュの一例を示す図である。
図3B図3Bは、基本メッシュ及び細分割メッシュの一例を示す図である。
図4図4は、基本メッシュビットストリームのシンタックス構成の一例を示す図である。
図5図5は、図5は、BPHのシンタックス構成の一例を示す図である。
図6図6は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202の機能ブロックの一例を示す図である。
図7図7は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202のイントラ復号部202Bの機能ブロックの一例を示す図である。
図8図8は、Pフレームの基本メッシュの頂点とIフレームの基本メッシュの頂点との間の対応関係の一例を示す図である。
図9図9は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202のインター復号部202Eの機能ブロックの一例を示す図である。
図10図10は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202のインター復号部202Eの動きベクトル予測部202E3による復号対象の頂点のMVPの算出方法の一例を説明するための図である。
図11図11は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202のインター復号部202Eの動きベクトル予測部202E3の動作の一例を示すフローチャートを示す。
図12図12は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202のインター復号部202Eの機能ブロックの変更例を示す図である。
図13図13は、「Basemesh submesh header syntax」の構成の一例を示す図である。
図14図14は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202の機能ブロックの変更例を示す図である。
図15図15は、基本メッシュ更新部202Fの動作を説明するための表の一例を示す図である。
図16図16は、基本メッシュ更新部202Fの動作を説明するための表の一例を示す図である。
図17図17は、基本メッシュ更新部202Fの動作を説明するための表の一例を示す図である。
図18図18は、一実施形態に係るメッシュ復号装置200の細分割部203の機能ブロックの一例について示す図である。
図19図19は、一実施形態に係るメッシュ復号装置200の細分割部203の基本メッシュ細分割部203Aの機能ブロックの一例を示す図である。
図20図20は、一実施形態に係るメッシュ復号装置200の細分割部203の基本メッシュ細分割部203Aの基本面分割部203A5による基本面の分割方法の一例について説明するための図である。
図21図21は、一実施形態に係るメッシュ復号装置200の細分割部203の基本メッシュ細分割部203Aの動作の一例を示すフローチャートである。
図22図22は、一実施形態に係るメッシュ復号装置200の細分割部203の細分割メッシュ調整部203Bの機能ブロックの一例を示す図である。
図23図23は、一実施形態に係るメッシュ復号装置200の細分割部203の細分割メッシュ調整部203Bの辺分割点移動部701によって基本面ABC上の辺分割点が移動されたケースの一例を示す図である。
図24図24は、一実施形態に係るメッシュ復号装置200の細分割部203の細分割メッシュ調整部203Bの細分割面分割部702によって基本面内の細分割面Xに対して再度細分割が行われたケースの一例を示す図である。
図25図25は、一実施形態に係るメッシュ復号装置200の細分割部203の細分割メッシュ調整部203Bの細分割面分割部702によって全ての細分割面に対して再度細分割が行われたケースの一例を示す図である。
図26図26は、一実施形態に係るメッシュ復号装置200の変位量復号部206の機能ブロックの一例について示す図である(空間領域でインター予測が行われる場合)。
図27図27は、変位量ビットストリームの構成の一例について示す図である。
図28図28は、DPSのシンタックス構成の一例について示す図である。
図29図29は、DPHのシンタックス構成の一例について示す図である。
図30図28は、空間領域でインター予測が行われる場合の参照フレームと復号対象フレームとの間の細分割頂点の対応関係の一例について説明するための図である。
図31図31は、一実施形態に係るメッシュ復号装置200の変位量復号部206の機能ブロックの一例について示す図である(周波数領域でインター予測が行われる場合)。
図32図32は、周波数領域でインター予測が行われる場合の参照フレームと復号対象フレームとの間の周波数の対応関係の一例について説明するための図である。
図33図33は、一実施形態に係るメッシュ復号装置200の変位量復号部206の動作の一例を示すフローチャートである。
図34図34は、変形例1に係る変位量復号部206の機能ブロックの一例を示す図である。
図35図35は、変形例2に係る変位量復号部206の機能ブロックの一例を示す図である。
【発明を実施するための形態】
【0011】
以下、本発明の実施の形態について、図面を参照しながら説明する。なお、以下の実施形態における構成要素は、適宜、既存の構成要素等との置き換えが可能であり、また、他の既存の構成要素との組み合わせを含む様々なバリエーションが可能である。したがって、以下の実施形態の記載をもって、特許請求の範囲に記載された発明の内容を限定するものではない。
【0012】
<第1実施形態>
以下、図1図33を参照して、本実施形態に係るメッシュ処理システムについて説明する。
【0013】
図1は、本実施形態に係るメッシュ処理システム1の構成の一例を示す図である。図1に示すように、メッシュ処理システム1は、メッシュ符号化装置100及びメッシュ復号装置200を備えている。
【0014】
図2は、本実施形態に係るメッシュ復号装置200の機能ブロックの一例を示す図である。
【0015】
図2に示すように、メッシュ復号装置200は、多重分離部201と、基本メッシュ復号部202と、細分割部203と、メッシュ復号部204と、パッチ統合部205と、変位量復号部206と、映像復号部207とを有する。
【0016】
ここで、基本メッシュ復号部202、細分割部203、メッシュ復号部204及び変位量復号部206は、メッシュを分割したパッチ単位で処理を行うように構成されており、その後、これらの処理結果についてパッチ統合部205で統合されるように構成されていてもよい。
【0017】
図3Aの例では、メッシュが、基本面1及び2で構成されるパッチ1と、基本面3及び4で構成されるパッチ2とに分割されている。
【0018】
多重分離部201は、多重化されたビットストリームを、基本メッシュビットストリームと変位量ビットストリームとテクスチャビットストリームとに分離するように構成されている。
【0019】
<基本メッシュ復号部202>
基本メッシュ復号部202は、基本メッシュビットストリームを復号し、基本メッシュを生成して出力するように構成されている。
【0020】
ここで、基本メッシュは、3次元空間における複数の頂点と、かかる複数の頂点を接続する辺とで構成される。
【0021】
なお、図3Aに示すように、基本メッシュは、3つの頂点で表現される基本面を組み合わせて構成される。
【0022】
基本メッシュ復号部202は、例えば、非特許文献2に示すDracoを用いて、基本メッシュビットストリームを復号するように構成されていてもよい。
【0023】
また、基本メッシュ復号部202は、細分割手法の種別を制御する制御情報として、後述の「subdivision_method_id」を生成するように構成されていてもよい。
【0024】
以下、図4図5を参照して、基本メッシュ復号部202で復号される制御情報について説明する。
【0025】
図4は、基本メッシュビットストリームのシンタックス構成の一例を示す図である。
【0026】
図4に示すように、第1に、基本メッシュビットストリームは、基本メッシュパッチに対応する制御情報の集合であるBPH(Base Patch header:ベースパッチヘッダ)を含んでいてもよい。第2に、基本メッシュビットストリームは、BPHの次に、基本メッシュパッチを符号化した基本メッシュパッチデータを含んでいてもよい。
【0027】
以上のように、基本メッシュビットストリームは、各パッチデータに、1つずつBPHが対応する構成となる。なお、図4の構成は、あくまで一例であり、各パッチデータに、BPHが対応する構成となっていれば、基本メッシュビットストリームの構成要素として、上述以外の要素が追加されてもよい。
【0028】
例えば、図4に示すように、基本メッシュビットストリームは、SPS(シーケンスパラメータセット:Sequence Parameter Set)を含んでいてもよいし、フレームに対応する制御情報の集合であるFH(Frame Header:フレームヘッダ)を含んでもよいし、メッシュに対応する制御情報であるMH(Mesh Header:メッシュヘッダ)を含んでもよい。
【0029】
図5は、BPHのシンタックス構成の一例を示す図である。ここで、シンタックスの機能が同様であれば、図5に示すシンタックスメイト異なるシンタックス名が用いられても差し支えない。
【0030】
図5に示すBPHのシンタックス構成において、Description欄は、各シンタックスが、どのように符号化されているかを意味している。また、ue(v)は、符号無し0次指数ゴロム符号であることを意味し、u(n)は、nビットのフラグであることを意味する。
【0031】
BPHは、基本メッシュパッチに含まれる基本面の個数を指定する制御信号(mdu_face_count_minus1)を少なくとも含む。
【0032】
また、BPHは、基本パッチごとに基本メッシュの細分割手法の種別を指定する制御信号(mdu_subdivision_method_id)を少なくとも含む。
【0033】
また、BPHは、基本メッシュパッチごとに細分割数生成手法の種別を指定する制御信号(mdu_subdivision_num_method_id)を含んでもよい。例えば、mdu_subdivision_num_method_id=0のとき、予測分割残差により基本面の細分割数を生成することと定義し、mdu_subdivision_num_method_id=1のとき、再帰的に基本面の細分割数を生成することと定義してもよい。
【0034】
BPHは、予測分割残差により基本面の細分割数を生成するとき、インデックスi(i=0,…,mdu_face_count_minus1)ごとに基本面の予測分割残差を指定する制御信号(mdu_subdivision_resuiduals)を含んでもよい。
【0035】
BPHは、再帰的に基本面の細分割数を生成するとき、基本メッシュパッチごとに再帰的に行う細分割回数の上限を識別するための制御信号(mdu_max_depth)を含んでもよい。
【0036】
BPHは、インデックスi(i=0,…,mdu_face_count_minus1)及びj(j=0,…,mdu_subdivision_depth_index)ごとに、基本面を再帰的に細分割するか否かを指定する制御信号(mdu_subdivision_flag)を含んでもよい。
【0037】
図6に示すように、基本メッシュ復号部202は、分離部202Aと、イントラ復号部202Bと、メッシュバッファ部202Cと、接続情報復号部202Dと、インター復号部202Eとを備える。
【0038】
分離部202Aは、基本メッシュビットストリームを、IフレームのビットストリームとPフレームのビットストリームとに分類するように構成されている。
【0039】
(イントラ復号部202B)
イントラ復号部202Bは、例えば、非特許文献2に示すDracoを用いて、Iフレームのビットストリームから、Iフレームの頂点の座標及び接続情報を復号するように構成されている。
【0040】
図7は、イントラ復号部202Bの機能ブロックの一例を示す図である。
【0041】
図7に示すように、イントラ復号部202Bは、任意イントラ復号部202B1と、整列部202B2とを有する。
【0042】
任意イントラ復号部202B1は、非特許文献2に示すDracoを含む任意の方式を用いて、Iフレームのビットストリームから、Iフレームの順序無し頂点の座標及び接続情報を復号するように構成されている。
【0043】
整列部202B2は、順序無し頂点を所定の順序に並び替えることによって頂点を出力するように構成されている。
【0044】
所定の順序として、例えば、モートンコード順を用いてもよく、ラスタスキャン順を用いてもよい。
【0045】
また、整列部202B2は、復号された基本メッシュにおいて座標が一致する複数の頂点である重複頂点をまとめて、単一頂点としてから、所定の順序に並び替えてもよい。
【0046】
メッシュバッファ部202Cは、イントラ復号部202Bによって復号されたIフレームの頂点の座標及び接続情報を蓄積するように構成されている。ここで、重複頂点として存在する頂点のインデックスA(k)及びB(k)のペアを所定順で保存する特定バッファが設けられていてもよい。
【0047】
接続情報復号部202Dは、メッシュバッファ部202Cから取り出したIフレームの接続情報をPフレームの接続情報にするように構成されている。
【0048】
インター復号部202Eは、メッシュバッファ部202Cから取り出したIフレームの頂点の座標とPフレームのビットストリームから復号した動きベクトルとを加算することによって、Pフレームの頂点の座標を復号するように構成されている。
【0049】
更に、インター復号部202Eは、かかる特定バッファに保存されている重複頂点として存在する頂点のインデックスA(k)及びB(k)のペアにより、Pフレームの頂点のインデックスを調整することが可能である。
【0050】
本実施形態では、図8に示すように、Pフレームの基本メッシュの頂点と参照フレーム(Iフレーム又はPフレーム)の基本メッシュの頂点との間で対応関係が存在する。ここで、インター復号部202Eによって復号される動きベクトルは、Pフレームの基本メッシュの頂点の座標とIフレームの基本メッシュの頂点の座標との差分ベクトルである。
【0051】
(インター復号部202E)
図9は、インター復号部202Eの機能ブロックの一例を示す図である。
【0052】
図9に示すように、インター復号部202Eは、動きベクトル残差復号部202E1と、動きベクトルバッファ部202E2と、動きベクトル予測部202E3と、動きベクトル算出部202E4と、加算器202E5とを有する。
【0053】
動きベクトル残差復号部202E1は、PフレームのビットストリームからMVR(Motion Vector Residual)を生成するように構成されている。
【0054】
ここで、MVRは、MV(Motion Vector)とMVP(Motion Vector Prediction)との差分を示す動きベクトル残差である。MVは、対応するIフレームの頂点の座標とPフレームの頂点の座標との間の差分ベクトル(動きベクトル)である。MVPは、MVを用いて対象の頂点のMVの予測した値(動きベクトルの予測値)である。
【0055】
動きベクトルバッファ部202E2は、動きベクトル算出部202E4によって出力されたMVを順次に保存するように構成されている。
【0056】
動きベクトル予測部202E3は、復号対象の頂点と接続している頂点について、動きベクトルバッファ部202E2から復号済みのMVを取得し、図10に示すように、取得された復号済みのMVの全部又は一部を用いて、復号対象の頂点のMVPを出力するように構成されている。
【0057】
動きベクトル算出部202E4は、動きベクトル残差復号部202E1で生成されたMVRと動きベクトル予測部202E3から出力されたMVPとを加算し、復号対象の頂点のMVを出力するように構成されている。
【0058】
加算器202E5は、対応関係を持つ参照フレーム(Iフレーム又はPフレーム)の復号済みの基本メッシュから得られた復号対象の頂点に対応する頂点の座標と、動きベクトル算出部202E3から出力された動きベクトルMVとを加算し、復号対象の頂点の座標を出力するように構成されている。
【0059】
ただし、インター復号部202Eは、PフレームのビットストリームからMVRのデータがない時に、動きベクトル残差復号部202E1と動きベクトルバッファ部202E2と動きベクトル予測部202E3と動きベクトル算出部202E4と加算器202E5とにおける処理を実施せず、指定された参照フレームの復号基本メッシュの頂点の座標をそのまま用いて、復号対象フレームの基本メッシュの頂点の座標を復号する。
【0060】
以下、インター復号部202Eの各部の詳細について説明する。
【0061】
図11に、動きベクトル予測部202E3の動作の一例を示すフローチャートを示す。
【0062】
図11に示すように、ステップS1001において、動きベクトル予測部202E3は、MVP及びNに0を設定する。
【0063】
ステップS1002において、動きベクトル予測部202E3は、動きベクトルバッファ部202E2から、復号対象の頂点の周りの頂点のMVの集合を取得し、後続の処理が終わっていない頂点を特定し、Noに遷移し、全ての頂点について後続の処理が終わっている場合は、Yesに遷移する。
【0064】
ステップS1003において、動きベクトル予測部202E3は、処理対象の頂点のMVが、復号済みでなければ、Noに遷移し、処理対象の頂点のMVが、復号済みであれば、Yesに遷移する。
【0065】
ステップS1004において、動きベクトル予測部202E3は、MVPにMVを加算し、Nに1を加算する。
【0066】
ステップS1005において、動きベクトル予測部202E3は、Nが0より大きければ、MVPをNで除した結果を出力し、Nが0であれば、0を出力し、処理を終了する。
【0067】
すなわち、動きベクトル予測部202E3は、復号対象の頂点の周りにある頂点の復号済みの動きベクトルを平均することによって、復号対象のMVPを出力するように構成されている。
【0068】
なお、動きベクトル予測部202E3は、かかる復号済みの動きベクトルの集合が空集合の場合、MVPを0とするように構成されていてもよい。
【0069】
動きベクトル算出部202E4は、式(1)によって、動きベクトル予測部202E3によって出力されたMVP及び動きベクトル残差復号部202E1によって生成されたMVRから、復号対象の頂点のMVを算出するように構成されていてもよい。
【0070】
MV(k)=MVP(k)+MVR(k) … (1)
ここで、kは、頂点のインデックスである。MV、MVR及びMVPは、x成分、y成分及びz成分を有するベクターである。
【0071】
かかる構成によれば、MVPを用いて、MVの代わりにMVRのみを符号化するため、符号化効率を高める効果が期待できる。
【0072】
加算器202E5は、動きベクトル算出部202E4によって算出された頂点のMVと、かかる頂点に対応する参照フレームの頂点の座標とを加算することによって、かかる頂点の座標を算出し、接続情報(Connectivity)を参照フレームのままにするように構成されている。
【0073】
具体的には、加算器202E5は、式(2)を用いて、k番目の頂点の座標v’(k)を算出するように構成されていてもよい。
【0074】
v’(k)=v’(k)+MV(k) … (2)
ここで、v’(k)は、復号対象のフレームで復号するk番目の頂点の座標であり、v’(k)は、参照フレームの復号したk番目の頂点の座標であり、MV(k)は、復号対象のフレームのk番目のMVであり、k=1,2…,Kである。
【0075】
また、復号対象のフレームの接続情報は、参照フレームの接続情報と同一にされる。
【0076】
なお、動きベクトル予測部202E3は、復号済みのMVを用いてMVPを算出するため、復号の順番がMVPに影響を及ぼす。
【0077】
かかる復号の順番は、参照フレームの基本メッシュの頂点の復号の順番にする。一般的に、一定の繰り返しパターンを用いて、起点となるエッジから基本面を1つずつ増やす復号手法であれば、復号した基本メッシュの頂点の順番が復号の過程で決められる。
【0078】
例えば、動きベクトル予測部202E3は、参照フレームの基本メッシュにおいて、Edgebreakerを用いて、頂点の復号の順番を決めてもよい。
【0079】
かかる構成によれば、頂点の座標の代わりに参照フレームからのMVを符号化するため、符号化効率を高める効果が期待できる。
【0080】
(インター復号部202Eの変更例)
図12に示すように、動きベクトル残差復号部202E1は、Pフレームのビットストリームから、復号対象頂点のMVR及び動きベクトルの予測モードを生成するように構成されている。
【0081】
(変更例1)
変更例1では、動きベクトル残差復号部202E1は、復号済みの頂点の動きベクトルの予測モードに応じてコンテキストモデルを選択し、かかるコンテキストモデルの確率を利用して算術復号を行うことで復号対象頂点の予測モードを生成するように構成されている。
【0082】
また、動きベクトル残差復号部202E1は、かかる復号対象頂点の予測モードによって、コンテキストモデルの確率を更新するように構成されている。
【0083】
動きベクトル残差復号部202E1は、復号済みの動きベクトルの予測モードとして、復号順位で直前の頂点又は頂点グループの予測モードを選択してもよいし、復号対象頂点又は復号対象頂点グループに隣接する復号済みの頂点の中で復号対象頂点又は復号対象頂点グループに最も距離が近い頂点の予測モードを選択してもよいし、復号対象頂点又は復号対象頂点グループに隣接する復号済みの頂点の中で最も使用頻度の高い予測モードを選択してもよい。
【0084】
予測モードは、周りとの相関があるため、コンテキストモデルの導入により、符号化効率を高める効果が期待できる。
【0085】
動きベクトル予測部202E3は、復号対象頂点の周囲の復号済みの頂点の動きベクトルと、復号対象頂点に対応する参照フレーム内の頂点の動きベクトルと、復号対象頂点の周囲の復号済みの頂点に対応する参照フレーム内の動きベクトルとを用いて、複数の予測方法の中から、動きベクトル残差復号部202E1から取得した予測モード によって特定される予測方法を用いて、復号対象頂点の動きベクトルの予測値(MVP)を算出するように構成されている。
【0086】
以下、変更例1-1~1-3で、かかるMVPの算出方法についての3つの変更例について説明する。
【0087】
(変更例1-1)
MVPは、復号済みの周りの頂点のMVの単純平均であるが、最近傍頂点のMVであってもよい。
【0088】
すなわち、変更例1-1では、動きベクトル予測部202E3は、復号対象頂点に隣接する復号済みの頂点(復号対象頂点の周囲の復号済みの頂点)に対応する参照フレーム内の頂点(第1頂点)と、復号対象頂点に対応する参照フレーム内の頂点(第2頂点)との間の距離を算出し、かかる距離が最も小さい参照フレーム内の頂点(第1頂点)を選択し、選択した参照フレーム内の頂点(第1頂点)に対応する復号対象フレーム内の頂点の動きベクトルを、復号対象頂点のMVPとするように構成されている。
【0089】
本当であれば、動きベクトル予測部202E3は、復号対象頂点の周囲の復号済み頂点と復号対象頂点との距離を算出したい。
【0090】
しかしながら、復号対象頂点のMV及び座標の復号が未だ完了していないため、動きベクトル予測部202E3は、復号対象頂点と復号済みの頂点との距離を計算することができない。
【0091】
したがって、本変更例1-1では、動きベクトル予測部202E3は、各頂点間の対応関係が既知である参照フレームにおける各頂点間の距離を利用する。
【0092】
かかる構成によれば、最近傍頂点で、より高精度のMVPを算出することができるため、MVRの値を小さくしてゼロ付近に集中させることができ、符号化効率を高める効果が期待できる。
【0093】
(変更例1-2)
変更例1-2では、動きベクトル予測部202E3は、復号対象フレームと1対1の対応関係を持つ復号済みの他のインターフレーム(Pフレーム)を参照して、復号対象フレームの復号対象頂点のMVPを算出するように構成されている。
【0094】
例えば、動きベクトル予測部202E3は、上述の復号済みの他のインターフレームから復号対象頂点に対応する頂点の動きベクトルを抽出し、抽出した復号対象頂点に対応する頂点の動きベクトルを、復号対象頂点のMVPとするように構成されていてもよい。
【0095】
また、動きベクトル予測部202E3は、復号対象フレームと1対1の対応関係を持つ復号済みの他インターフレームから、復号対象頂点に対応する頂点のMVとMVPとの比率関係(第1比率関係)を抽出し、復号対象頂点のMVとMVPとの比率関係が第1比率関係と同じになるように、復号対象頂点のMVPを算出するように構成されていてもよい。
【0096】
かかる構成によれば、他のインターフレームで、より高精度のMVPを算出しているため、MVRの値を小さくさせてゼロ付近に集中させることにより、符号化効率を高める効果が期待できる。
【0097】
動きベクトル予測部202E3は、全ての頂点に対して、同一の予測方法でMVPを算出してもよいし、複数の予測方法で複数のMVPを算出してもよい。
【0098】
また、動きベクトル予測部202E3は、複数の予測方法を使う場合、上述の実施形態や変更例以外の予測方法を用いてもよい。
【0099】
例えば、動きベクトル予測部202E3は、かかる予測方法として、MVPを常にゼロにする方法を用いてもよいし、MVPを予測しない方法を用いてもよい。
【0100】
(変更例1-3)
変更例1-3では、第1に、動きベクトル予測部202E3は、複数の予測方法を使って、各復号対象頂点において複数のMVPを算出して出力する場合、動きベクトル算出部202E4は、ビットストリームから、予測モードとして、所定のシンタックスを復号するように構成されている。
【0101】
例えば、動きベクトル予測部202E3は、かかる所定のシンタックスとして、図13に示す「Basemesh submesh header syntax」を復号してもよい。「Basemesh submesh header syntax」は、どの予測方法が最適であり、かかる予測方法を用いて算出したMVPを選択するべきである旨を示すシンタックスである。
【0102】
第2に、動きベクトル算出部202E4は、上述の所定のシンタックスによって示された予測方法を選択すると共に、各復号対象頂点において算出した複数のMVPの中から、上述の所定のシンタックスによって示されたMVPを選択するように構成されている。
【0103】
第3に、動きベクトル算出部202E4は、上述の式(1)を用いて、動きベクトル予測部202E3によって選択されたMVPに基づいて、復号対象頂点のMVを算出するように構成されている。
【0104】
かかる構成によれば、複数の予測方法の切り替えで、より高精度のMVPを算出することができるため、MVRの値を小さくしてゼロ付近に集中させることにより、符号化効率を高める効果が期待できる。
【0105】
以下、変更例1-3-1~1-3-2で、かかる複数の予測方法の切り替える方法についての2つの変更例について説明する。
【0106】
(変更例1-3-1)
変更例1-3-1では、動きベクトル算出部202E4は、連続するN個の復号対象頂点において同じ予測モード(最適な予測方法を示す予測モード)を用いるように構成されている。
【0107】
よって、復号対象頂点毎に予測モードを選択する変更例1-3とは異なり、変更例1-3-1では、連続するN個の復号対象頂点を1つのグループとして、グループ毎に予測モードを選択する。
【0108】
かかる構成によれば、グループ単位(連続するN個の復号対象頂点)で同じ予測モードを用いることで、予測モードの符号量を減らすことができ、動きベクトルの符号化効率を高める効果が期待できる。
【0109】
(変更例1-3-2)
変更例1-3-2では、第1に、動きベクトル算出部202E4は、上述のビットストリームから復号した上述の所定のシンタックスに基づいて、復号対象フレームと1対1の対応関係を持つ復号済みの他のインターフレームにおいて前記復号対象頂点に対応する頂点の予測モードを、前記前記復号対象頂点の予測モードの予測値とするように構成されている。
【0110】
第2に、動きベクトル算出部202E4は、上述のビットストリームから、かかる予測モードの予測値との差分を復号するように構成されている。
【0111】
第3に、動きベクトル算出部202E4は、かかる予測モード予測値と差分とを加算することで、復号対象頂点の予測モードを算出するように構成されている。
【0112】
(基本メッシュ復号部202の変更例)
以下、基本メッシュ復号部202の変更例について説明する 。
【0113】
図14に示すように、基本メッシュ復号部202は、分離部202Aと、イントラ復号部202Bと、メッシュバッファ部202Cと、接続情報復号部202Dと、インター復号部202E、基本メッシュ更新部202Fと、スキップ復号部202Gとを備える。
【0114】
(スキップ復号部202G)
スキップ復号部202Gは、少なくとも1枚の参照フレームを持ち、参照フレーム毎で少なくとも1枚の基本メッシュを保存するメッシュバッファ部202Cから指定された参照用基本メッシュを取り出し、取り出した参照用基本メッシュの頂点の座標をそのまま用いて、復号対象フレームの基本メッシュの頂点の座標を復号するように構成されている。
【0115】
スキップ復号部202Gは、後述するシンタックスの制御信号(smh_ref_index)を用いて、指定された参照用基本メッシュについて特定する。
【0116】
本実施形態では、参照用基本メッシュの頂点の座標をそのまま用いて基本メッシュの頂点の座標を復号するフレームをSフレームと呼ぶ。
【0117】
かかる構成によれば、スキップ復号部202Gにおいて動きベクトルを不要とすることができるため、符号量の大幅な削減効果及び計算量の大幅な削減効果が期待できる。
【0118】
(基本メッシュ更新部202F)
基本メッシュ更新部202Fは、復号済みのメッシュから取得した基本メッシュの頂点座標と動きベクトルと基本メッシュの頂点の変位量とを加算した値を用いて、基本メッシュの頂点座標を更新し、メッシュバッファ部202Cに更新された基本メッシュを保存し、参照フレームリストを更新するように構成されている。
【0119】
ここで、かかる参照フレームリストは、メッシュバッファ部202Cに保存されている全ての参照用基本メッシュを特定するインデックスのリストである。
【0120】
なお、基本メッシュ更新部202Fは、あるフレームで複数の基本メッシュをメッシュバッファ部202Cに保存する時に、保存の順番で参照フレームリストを更新する。
【0121】
例えば、第jフレームの基本メッシュ1が、メッシュバッファ部202Cにおいて第k番目の基本メッシュであれば、参照フレームリストにおいて、かかる基本メッシュ1は、kを用いて特定される。
【0122】
また、第jフレームの基本メッシュ2が、メッシュバッファ部202Cにおいて第(k+1)番目の基本メッシュであれば、参照フレームリストにおいて、かかる基本メッシュ1は、(k+1)を用いて特定される。
【0123】
基本メッシュ更新部202Fは、メッシュバッファ部202Cに基本メッシュを追加したり、メッシュバッファ部202Cから削除したりすることで、参照フレームリストを更新する。
【0124】
ただし、メッシュバッファ部202Cに保存されたあるフレームの基本メッシュが1つのみであれば、参照フレームリストは、フレームインデックスを含むだけでもよい。
【0125】
なお、基本メッシュ更新部202Fは、図15に示す表又は図16に示す表によって、上述の復号済みのメッシュから、基本メッシュの頂点座標及び動きベクトル、基本メッシュの頂点の変位量について取得する。
【0126】
ここで、図15に示す表と図16に示す表との違いは、基本メッシュの頂点の変位量のみである。なお、基本メッシュの頂点の変位量は、図15に示す表に記載されている値である方が望ましい。
【0127】
また、基本メッシュ更新部202Fは、ビットストリームから、図15に示す表又は図16に示す表のどちらを使用するかについて示すフラグを復号してもよい。
【0128】
ただし、基本メッシュ更新部202Fは、かかるフラグによって、図15に示す表及び図16に示す表のいずれかを選択する場合は、メッシュバッファ部202Cに両方の表を保存し、参照フレームリストに両方を更新する。
【0129】
なお、基本メッシュ更新部202Fは、Sフレームである時に、かかる更新を実施してもよいし、かかる更新を実施しなくてもよい。
【0130】
かかる構成によれば、基本メッシュ更新部202Fが高品質な基本メッシュを算出することができるため、次のフレームで動きベクトルの符号量及び変位量の符号量を削減しつつ、復号したメッシュが元のメッシュに近づく効果が期待できる。
【0131】
(シンタックス)
図13に示す基本メッシュサブメッシュのヘッダのシンタックス(Basemesh submesh header syntax、BSH)において、Description欄は、各シンタックスが、どのように符号化されているかを意味している。また、ue(v)は、符号無し0次指数ゴロム符号であることを意味し、u(n)は、nビットのフラグであることを意味する。
【0132】
BSHは、基本メッシュサブメッシュに含まれる基本メッシュサブメッシュのタイプを指定する制御信号(smh_type)を少なくとも含む。基本メッシュサブメッシュのタイプは、図17に示す表3の値及び名前を少なくとも含む。
【0133】
また、BSHは、基本メッシュサブメッシュのタイプがSKIP_SUBMESH又はP_SUBMESHである場合、制御信号(smh_num_ref_idx_active_minus1)があるかどうかを示す制御信号(smh_num_ref_idx_active_override_flag)を少なくとも含む。
【0134】
また、BSHは、上述の制御信号(smh_num_ref_idx_active_override_flag)が1である場合に、制御信号(NumRefIdxActive)を算出する制御信号(smh_num_ref_idx_active_minus1)を少なくとも含む。なお、上述の制御信号NumRefIdxActive)は、以下の式によって得られる。
【0135】
if( smh_type == P_SUBMESH || smh_type == SKIP_SUBMESH ) {
if( smh_num_ref_idx_active_override_flag == 1 )
NumRefIdxActive = smh_num_ref_idx_active_minus1 + 1
else {
if( num_ref_entries[ RlsIdx ] >= bfps_num_ref_idx_default_active_minus1 + 1 )
NumRefIdxActive = bfps_num_ref_idx_default_active_minus1 + 1
else
NumRefIdxActive = num_ref_entries[ RlsIdx ]
}
}
else
NumRefIdxActive = 0
なお、smh_typeのDescriptorは、図13で記載したue(v)でもよいし、U(8)でもよい。また、図6及び図14におけるフレームは、メッシュ(Mesh)又はサブメッシュ(Submesh)のいずれかであってもよい。
【0136】
例えば、図17に示す表3のP_SUBMESHは、Pフレームと呼ばれてもよいし、I_SUBMESHは、Iフレームと呼ばれてもよいし、SKIP_SUBMESHSは、Sフレームと呼ばれてもよい。
【0137】
なお、BSHは、復号対象フレームがPフレーム又はSフレームである時に、参照用基本メッシュを指定する制御信号(smh_ref_index)を少なくとも含む。
【0138】
ただし、図13に示す「Basemesh submesh header syntax、BSH」に、smh_num_ref_idx_active_minus1>0という条件が含まれていてもよいし、かかる条件が含まれていなくてもよい。
【0139】
smh_num_ref_idx_active_minus1 >0という条件が含まれている時に、smh_num_ref_idx_active_minus1がゼロであると、制御信号(smh_ref_index)がゼロにする。
【0140】
<細分割部203>
細分割部203は、制御情報によって示された細分割手法により、基本メッシュ復号部202によって復号された基本メッシュから、追加された細分割頂点及びそれらの接続情報を生成して出力するように構成されている。
【0141】
ここで、基本メッシュ、追加された細分割頂点、及び、それらの接続情報を、併せて「細分割メッシュ」と呼ぶ。
【0142】
細分割部202は、基本メッシュビットストリームを復号して生成した制御情報であるsubdivision_method_idから、細分割手法の種別を特定するように構成されている。
【0143】
以下、図3A及び図3Bを参照して、細分割部202について説明する。
【0144】
図3A及び図3Bは、基本メッシュから細分割頂点を生成する動作の一例について説明するための図である。
【0145】
図3Aは、5つの頂点で構成された基本メッシュの一例について示す図である。
【0146】
ここで、細分割には、例えば、各基本面において各辺の中点同士を接続するMid-edge分割法を用いてもよい。これによって、ある基本面は、4つの面に分割されることになる。
【0147】
図3Bは、5つの頂点で構成された基本メッシュを分割した細分割メッシュの一例を示す。図3Bに示す細分割メッシュでは、元の5つの頂点(黒丸)に加えて8つの細分割頂点(白丸)が生成されている。
【0148】
このように生成した細分割頂点ごとに、変位量復号部206で変位量を復号することによって、符号化性能の向上が期待できる。
【0149】
また、各パッチで異なる細分割方法を適用してもよい。これによって、変位量復号部206で復号される変位量をパッチごとに適応的に変化させ、符号化性能の向上が期待できる。分割したパッチの情報は、制御情報であるpatch_idとして受け取られる。
【0150】
以下、図18を参照して、細分割部203について説明する。図18は、細分割部203の機能ブロックの一例について示す図である。
【0151】
図18に示すように、細分割部203は、基本メッシュ細分割部203Aと細分割メッシュ調整部203Bとを有する。
【0152】
(基本メッシュ細分割部203A)
基本メッシュ細分割部203Aは、入力された基本メッシュ及び基本メッシュの分割情報に基づき、基本面及び基本パッチごとの分割数(細分割数)を算出し、かかる分割数に基づいて基本メッシュを細分割し、細分割面を出力するように構成されている。
【0153】
すなわち、基本メッシュ細分割部203Aは、基本面及び基本パッチ単位で、上述の分割数を変えることができるように構成されていてもよい。
【0154】
ここで、基本面は、基本メッシュを構成する面であり、基本パッチは、いくつかの基本面の集合である。
【0155】
また、基本メッシュ細分割部203Aは、基本面の細再分割数を予測し、予測した基本面の細分割数に対して予測分割数残差を加算することで、基本面の細分割数を算出するように構成されていてもよい。
【0156】
また、基本メッシュ細分割部203Aは、基本面の隣接基本面の細分割数に基づいて、基本面の細分割数を算出するように構成されていてもよい。
【0157】
また、基本メッシュ細分割部203Aは、直前に蓄積された基本面の細分割数に基づき、基本面の細分割数を算出するように構成されていてもよい。
【0158】
また、基本メッシュ細分割部203Aは、基本面を構成する3辺を分割する頂点を生成し、生成した頂点を接続することで、基本面を細分割するように構成されていてもよい。
【0159】
図18に示すように、基本メッシュ細分割部203Aの後段に、後述の細分割メッシュ調整部を備える203Bを備えている。
【0160】
以下、図19図21を用いて、基本メッシュ細分割部203Aの処理の一例について説明する。
【0161】
図19は、基本メッシュ細分割部203Aの機能ブロックの一例を示す図であり、図21は、基本メッシュ細分割部203Aの動作の一例を示すフローチャートである。
【0162】
図19に示すように、基本メッシュ細分割部203Aは、基本面分割数バッファ部203A1と、基本面分割数参照部203A2と、基本面分割数予測部203A3と、加算部203A4と、基本面分割部203A5とを有する。
【0163】
基本面分割数バッファ部203A1は、基本面の分割数を含む基本面の分割情報を格納しており、基本面分割数参照部203A2に対して基本面の分割情報を出力するように構成されている。
【0164】
ここで、基本面分割数バッファ部203A1のサイズは、1とし、基本面分割数参照部203A2に対して、直前に蓄積された基本面の分割数を出力するように構成されていてもよい。
【0165】
すなわち、基本面分割数バッファ部203A1のサイズを1にすることで、最後に復号した細かい分割数(直前に復号した細分割数)のみを参照するように構成されていてもよい。
【0166】
基本面分割数参照部203A2は、復号対象の基本面に対して隣接する基本面が存在していない場合、或いは、復号対象の基本面に対して隣接する基本面が存在しているが分割数が確定していない場合は、基本面分割数予測部203A3に対して、参照不可を出力するように構成されている。
【0167】
一方、基本面分割数参照部203A2は、復号対象の基本面に対して隣接する基本面が存在し且つ分割数が確定している場合は、基本面分割数予測部203A3に対して、かかる分割数を出力するように構成されている。
【0168】
基本面分割数予測部203A3は、入力された1つ以上の分割数に基づいて基本面の分割数(細分割数)を予測し、加算部203A4に対して、予測した分割数(予測分割数)を出力するように構成されている。
【0169】
ここで、基本面分割数予測部203A3は、基本面分割数参照部203A2から参照不可のみが入力された場合は、加算部203A4に対して、0を出力するように構成されている。
【0170】
なお、基本面分割数予測部203A3は、1つ以上の分割数が入力された場合、入力された分割数の平均値や最大値や最小値や最頻値等の統計値のいずれかを用いて、予測分割数を生成するように構成されていてもよい。
【0171】
なお、基本面分割数予測部203A3は、1つ以上の分割数が入力された場合、最も隣接する面の分割数を予測分割数として生成するように構成されていてもよい。
【0172】
加算部203A4は、予測残差ビットストリームから復号した予測分割数残差と基本面分割数予測部203A3から取得した予測分割数とを加算することによって得られた分割数を、基本面分割部203A5に対して出力するように構成されている。
【0173】
基本面分割部203A5は、加算部203A4から入力された分割数に基づき、基本面を細分割するように構成されている。
【0174】
図20は、基本面を9分割したケースの一例である。図20を参照して、基本面分割部203A5による基本面の分割方法について説明する。
【0175】
基本面分割部203A5は、基本面を構成する辺ABに対してN等分(N=3)する点A_1,…,A_(N-1)を生成する。
【0176】
同様に、基本面分割部203A5は、辺BCや辺CAについてもN等分し、それぞれ点B_1,…,B_(N-1)、C_1,…,C_(N-1)を生成する。
【0177】
以降、辺AB、辺BC及び辺CA上の点を「辺分割点」と呼ぶ。
【0178】
基本面分割部203A5は、全てのi(i=1,2,…,N-1)に対して、辺A_i B_(N-i),B_i C_(N-i),C_i A_(N-i)を生成し、N個の細分割面を生成する。
【0179】
次に、図19を参照して、基本メッシュ細分割部203Aの処理手順について説明する。
【0180】
ステップS2201において、基本メッシュ細分割部203Aは、最後の基本面に対して再分割処理が完了したか否かを判定する。処理が完了した場合終了し、そうでない場合はステップS2202に進む。
【0181】
ステップS2202において、基本メッシュ細分割部203Aは、Depth<mdu_max_depthの判定を行う。
【0182】
ここで、Depthは、現在の深度を表す変数で、初期値は0であり、mdu_max_depthは、基本面ごとに決められた最大深度を表す。
【0183】
ステップS2202における条件を満たす場合は、本処理手順は、ステップS2203に進み、かかる条件を満たさない場合は、本処理手順は、ステップS2201に戻る。
【0184】
ステップS2203において、基本メッシュ細分割部203Aは、現在の深度におけるmdu_subdivision_flagが1であるか否かについて判定する。
【0185】
Yesの場合、本処理手順は、ステップS2201に戻り、Noの場合、本処理手順は、ステップS2204に進む。
【0186】
ステップS2204において、基本メッシュ細分割部203Aは、基本面内の全ての細分割面をさらに細分割する。
【0187】
ここで、基本メッシュ細分割部203Aは、基本面に対して一度も細分割処理が行われていない場合は、基本面を細分割する。
【0188】
なお、細分割の方法については、ステップS2204で説明した方法と同様である。
【0189】
具体的には、基本面が一度も細分割されていない場合は、基本面に対して図18のように細分割を行う。少なくとも1回は細分割されている場合は、細分割面をN個に細分割する。図18を例にすると、頂点A_2と頂点Bと頂点B_1とからなる面を、基本面の分割のときと同様の方法で、更に分割してN個の面を生成する。
【0190】
細分割処理が終了したとき、本処理手順は、ステップS2205に進む。
【0191】
ステップS2205において、基本メッシュ細分割部203Aは、Depthに1を加算し、本処理手順は、ステップS2202に戻る。
【0192】
(細分割メッシュ調整部203B)
次に、細分割メッシュ調整部203Bによって行われる処理の具体例について説明する。以下、図22図25を用いて細分割メッシュ調整部203Bよって行われる処理の一例について説明する。
【0193】
図22は、細分割メッシュ調整部203Bの機能ブロックの一例を示す図である。
【0194】
図22に示すように、細分割メッシュ調整部203Bは、辺分割点移動部701と、細分割面分割部702とを有する。
【0195】
(辺分割点移動部701)
辺分割点移動部701は、入力された初期細分割面に対して、基本面の辺分割点を隣接基本面の辺分割点のいずれかに移動し、細分割面を出力するように構成されている。
【0196】
図23は、基本面ABC上の辺分割点を移動した例である。例えば、図23に示すように、辺分割点移動部701は、基本面ABCの辺分割点を最も近い隣接基本面の辺分割点に移動するように構成されていてもよい。
【0197】
(細分割面分割部702)
細分割面分割部702は、入力された細分割面を再度細分割し、復号細分割面を出力するように構成されている。
【0198】
図24は、基本面内の細分割面Xに対して再度細分割が行われたケースの一例を示す図である。
【0199】
図24に示すように、細分割面分割部702は、細分割面を構成する頂点と隣接基本面の辺分割点とを接続することで、基本面内に新たな細分割面を生成するように構成されていてもよい。
【0200】
図25は、全ての細分割面に対して、上述の細分割処理を行ったケースの一例を示す図である。
【0201】
メッシュ復号部204は、細分割部203で生成された細分割メッシュ及び変位量復号部206で復号された変位量を用いて、復号メッシュを生成して出力するように構成されている。
【0202】
具体的には、メッシュ復号部204は、各細分割頂点に対して、対応する変位量を加算することによって、復号メッシュを生成するように構成されている。ここで、各変位量がどの細分割頂点に対応するかについての情報は、制御情報によって示される。
【0203】
パッチ統合部205は、メッシュ復号部206で生成された復号メッシュを、複数のパッチ分だけ統合して出力するように構成されている。
【0204】
ここで、パッチの分割方法は、メッシュ符号化装置100によって定義される。例えば、パッチの分割方法は、各基本面に対して法線ベクトルを算出しておき、隣接する基本面の中で最も法線ベクトルが類似した基本面を選択し、両基本面を同じパッチとしてまとめ、かかる手順を、次の基本面に対して順次繰り返すように構成されていてもよい。
【0205】
映像復号部207は、映像符号化によってテクスチャを復号して出力するように構成されている。例えば、映像復号部207は、非特許文献1のHEVCを用いてもよい。
【0206】
<変位量復号部206>
変位量復号部206は、変位量ビットストリームを復号して変位量を生成して出力するように構成されている。
【0207】
図3Bは、ある細分割頂点に対する変位量の一例について示す図である。図3Bの例では、8個の細分割頂点が存在するため、変位量復号部206は、各細分割頂点に対してスカラー或いはベクトルで表現される変位量を8個定義するように構成されている。
【0208】
以下、図26を参照して、変位量復号部206について説明する。図26は、変位量復号部206の機能ブロックの一例について示す図である。
【0209】
図26に示すように、変位量復号部206は、復号部206Aと、逆量子化部206Bと、逆ウェーブレット変換部206Cと、加算器206Dと、インター予測部206Eと、フレームバッファ206Fとを有する。
【0210】
復号部206Aは、受信した変位量ビットストリームに対して可変長復号を行うことでレベル値及び制御情報を復号して出力するように構成されている。ここで、可変長復号によって得られたレベル値は、逆量子化部206Bに出力され、制御情報は、インター予測部206Eに出力される。
【0211】
以下、図27を参照して、変位量ビットストリームの構成の一例について説明する。図27は、変位量ビットストリームの構成の一例について示す図である。
【0212】
図27に示すように、第1に、変位量ビットストリームは、変位量の復号に関する制御情報の集合であるDPS(Displacement Parameter Set:ディスプレイスメントパラメータセット)を含んでいてもよい。
【0213】
第2に、変位量ビットストリームは、パッチに対応する制御情報の集合であるDPH(Displacement Patch Header:ディスプレイスメントパッチヘッダ)を含んでいてもよい。
【0214】
第3に、変位量ビットストリームは、DPHの次に、パッチを構成する符号化された変位量を含んでいてもよい。
【0215】
以上のように、変位量ビットストリームは、各符号化された変位量に、1つずつDPH及びDPSが対応する構成となる。
【0216】
なお、図27の構成は、あくまで一例である。各符号化された変位量に、DPH及びDPSが対応する構成となっていれば、変位量ビットストリームの構成要素として、上述以外の要素が追加されてもよい。
【0217】
例えば、図27に示すように、変位量ビットストリームは、SPS(Sequence Parameter Set:シーケンスパラメータセット)を含んでいてもよい。
【0218】
図28は、DPSのシンタックス構成の一例について示す図である。
【0219】
図28において、Descriptor欄は、各シンタックスが、どのように符号化されているかを意味している。
【0220】
また、図28において、ue(v)は、符号無し0次指数ゴロム符号であることを意味し、u(n)は、nビットのフラグであることを意味する。
【0221】
DPSは、複数のDPSが存在する場合に、各DPSを識別するためのDPS id情報(dps_displacement_parameter_set_id)を少なくとも含む。
【0222】
また、DPSは、インター予測を行うか否かを制御するフラグ(interprediction_enabled_flag)を含んでもよい。
【0223】
例えば、interprediction_enabled_flagが0のときは、インター予測を行わないと定義し、interprediction_enabled_flagが1のときは、インター予測を行うと定義してもよい。interprediction_enabled_flagが含まれないときは、インター予測を行わないと定義してもよい。
【0224】
DPSは、逆DCTを行うか否かを制御するフラグ(dct_enabled_flag)を含んでもよい。
【0225】
例えば、dct_enabled_flagが0のときは、逆DCTを行わないと定義し、dct_enabled_flagが1のときは、逆DCTを行うと定義してもよい。dct_enabled_flagが含まれないときは、逆DCTを行わないと定義してもよい。
【0226】
図29は、DPHのシンタックス構成の一例について示す図である。
【0227】
図29に示すように、DPHは、各DPHに対応するDPSを指定するためのDPS id情報を少なくとも含む。
【0228】
逆量子化部206Bは、復号部206Aによって復号されたレベル値を逆量子化することによって変換係数を生成して出力するように構成されている。
【0229】
逆ウェーブレット変換部206Cは、逆量子化部206Bによって生成された変換係数に対して逆ウェーブレット変換を施すことによって予測残差を生成して出力するように構成されている。
【0230】
(インター予測部206E)
インター予測部206Eは、フレームバッファ206Fから読み出された参照フレームの復号変位量を用いてインター予測を行うことによって、予測変位量を生成して出力するように構成されている。
【0231】
インター予測部206Eは、interprediction_enabled_flagが1の場合のみ、かかるインター予測を行うように構成されている。
【0232】
インター予測部206Eは、空間領域でインター予測を行ってもよいし、周波数領域でインター予測を行ってもよい。インター予測は、時間的に過去の参照フレームと未来の参照フレームとを用いて、双方向予測を行ってもよい。
【0233】
インター予測部206Eは、空間領域でインター予測を行う場合は、対象フレームにおける細分割頂点の予測変位量について、参照フレームにおける対応する細分割頂点の復号変位量をそのまま参照して決定してもよい。
【0234】
或いは、対象フレームにおけるある細分割頂点の予測変位量は、複数の参照フレームにおける対応する細分割頂点の復号変位量を用いて、平均と分散を推定した正規分布に従って確率的に決定してもよい。その際は、分散はゼロとして一意的に平均のみで決定してもよい。
【0235】
或いは、対象フレームにおけるある細分割頂点の予測変位量は、複数の参照フレームにおける対応する細分割頂点の復号変位量を用いて、時間を説明変数、変位量を目的変数として推定した回帰曲線に基づいて決定してもよい。
【0236】
メッシュ符号化装置100において、フレームごとに符号化効率向上のために、かかる復号変位量の順番が並び替えられていてもよい。
【0237】
かかる場合、インター予測部206Eは、並び替えられた復号変位量に対してインター予測を行うように構成されていてもよい。
【0238】
参照フレームと復号対象フレームとの間の細分割頂点の対応関係は、制御情報によって示される。
【0239】
図30は、空間領域でインター予測が行われる場合の参照フレームと復号対象フレームとの間の細分割頂点の対応関係の一例について説明するための図である。
【0240】
図31は、周波数領域でインター予測を行う場合の変位量復号部206の機能ブロックの一例である。
【0241】
インター予測部206Eは、周波数領域でインター予測を行う場合は、復号対象フレームにおける周波数の予測ウェーブレット変換係数について、参照フレームにおける対応する周波数の復号ウェーブレット変換係数をそのまま参照して決定してもよい。
【0242】
インター予測部206Eは、複数の参照フレームにおける細分割頂点の復号変位量或いは復号ウェーブレット変換係数を用いて、平均と分散を推定した正規分布に従って確率的にインター予測してもよい。
【0243】
インター予測部206Eは、複数の参照フレームにおける細分割頂点の復号変位量あるいは復号ウェーブレット変換係数を用いて、時間を説明変数、変位量を目的変数として推定した回帰曲線をもとにインター予測してもよい。
【0244】
インター予測部206Eは、時間的に過去の参照フレームと未来の参照フレームとを用いて双方向でインター予測するように構成されていてもよい。
【0245】
メッシュ符号化装置100において、フレームごとに符号化効率向上のために、かかる復号ウェーブレット変換係数の順番が並び替えられていてもよい。
【0246】
参照フレームと復号対象フレームとの間の周波数の対応関係は、制御情報によって示される。
【0247】
図32は、周波数領域でインター予測が行われる場合の参照フレームと復号対象フレームとの間の周波数の対応関係の一例について説明するための図である。
【0248】
また、細分割部203が、基本メッシュを複数のパッチに分割した場合は、インター予測部206Eも、分割したパッチごとにインター予測を行うように構成されている。これによって、フレーム間の時間相関が高くなり、符号化性能の向上が期待できる。
【0249】
加算器206Dには、逆ウェーブレット変換部206Cから予測残差が入力され、インター予測部206Eから予測変位量が入力される。
【0250】
加算器206Dは、かかる予測残差と予測変位量とを加算することによって、復号変位量を算出して出力するように構成されている。
【0251】
加算器206Dによって算出された復号変位量は、フレームバッファ206Fにも出力される。
【0252】
フレームバッファ206Fは、加算器206Dから復号変位量を取得して蓄積するように構成されている。
【0253】
ここで、フレームバッファ206Fは、図示しない制御情報に応じて、参照フレームにおいて対応する頂点における復号変位量を出力する。
【0254】
図33は、変位量復号部206の動作の一例を示すフローチャートである。
【0255】
図33に示すように、ステップS3501において、変位量復号部206は、全てのパッチに対して、本処理が完了しているか否かについて判定する。
【0256】
Yesの場合、本動作は、終了し、Noの場合、本動作は、ステップS3502に進む。
【0257】
ステップS3502において、変位量復号部206は、復号対象のパッチに対して、逆DCTを行ってから逆量子化及び逆ウェーブレット変換を行う。
【0258】
ステップS3503において、変位量復号部206は、interprediction_enabled_flagが1であるか否かについて判定する。
【0259】
Yesの場合、本動作は、ステップS3504に進み、Noの場合、本動作は、ステップS3501に戻る。
【0260】
ステップS3504において、変位量復号部206は、上述のインター予測及び加算を行う。
【0261】
<変形例1>
以下、図34を参照して、上述の第1実施形態の変形例1について、上述の第1実施形態との相違点に着目して説明する。
【0262】
図34は、本変形例1に係る変位量復号部206の機能ブロックの一例を示す図である。
【0263】
図34に示すように、本変形例1に係る変位量復号部206は、復号部206Aの後段に、すなわち、復号部206Aと逆量子化部206Bとの間に、逆DCT部206Gを備えている。
【0264】
すなわち、本変形例1では、逆量子化部206Bは、逆DCT部202Gから出力されたレベル値に対して逆ウェーブレット変換を施すことによって予測残差を生成するように構成されている。
【0265】
<変形例2>
以下、図35を参照して、上述の第1実施形態の変形例2について、上述の第1実施形態との相違点に着目して説明する。
【0266】
図35に示すように、本変形例2に係る変位量復号部206は、映像復号部2061と、画像展開部2062と、逆量子化部2063と、逆ウェーブレット変換部2064と有する。
【0267】
映像復号部2061は、受信した変位量ビットストリームを、映像符号化によって復号することで映像を出力するように構成されている。
【0268】
例えば、映像復号部2061は、非特許文献1のHEVCを用いてもよい。
【0269】
また、映像復号部2061は、動きベクトルを常にゼロとした映像符号化方式を用いてもよい。例えば、映像復号部2061は、HEVCの動きベクトルを常にゼロとし、常に同一位置でのインター予測を用いてもよい。
【0270】
また、映像復号部2061は、変換を常にスキップするとした映像符号化方式を用いてもよい。例えば、映像復号部2061は、HEVCの変換を常に変換スキップモードとし、変換せずに映像符号化方式を用いてもよい。
【0271】
画像展開部2062は、映像復号部2061で復号された映像を、画像(フレーム)ごとにレベル値として展開して出力するように構成されている。
【0272】
かかる展開方法において、画像展開部2062は、制御情報によって示された画像へのレベル値の並べ方から、逆算して特定できる。
【0273】
画像展開部2062は、レベル値の並べ方として、例えば、高周波成分から低周波成分のレベル値が画像中にラスタ操作順に並べてもよい。
【0274】
逆量子化部2063は、画像展開部2062で生成されたレベル値を逆量子化することによって変換係数を生成して出力するように構成されている。
【0275】
逆ウェーブレット変換部2064は、逆量子化部2063で生成された変換係数に対して逆ウェーブレット変換を施すことによって復号変位量を生成して出力するように構成されている。
【0276】
上述のメッシュ符号化装置100及びメッシュ復号装置200は、コンピュータに各機能(各工程)を実行させるプログラムであって実現されていてもよい。
【産業上の利用可能性】
【0277】
なお、本実施形態によれば、例えば、動画像通信において総合的なサービス品質の向上を実現できることから、国連が主導する持続可能な開発目標(SDGs)の目標9「レジリエントなインフラを整備し、持続可能な産業化を推進するとともに、イノベーションの拡大を図る」に貢献することが可能となる。
【符号の説明】
【0278】
1…メッシュ処理システム
100…メッシュ符号化装置
200…メッシュ復号部
201…多重分離部
202…基本メッシュ復号部
202A…分離部
202B…イントラ復号部
202B1…任意イントラ復号部
202B2…整列部
202C…メッシュバッファ部
202D…接続情報復号部
202E…インター復号部
202E1…動きベクトル復号部
202E2…動きベクトルバッファ部
202E3…動きベクトル予測部
202E4…動きベクトル算出部
202E5…加算器
202F…スキップ復号部
202G…基本メッシュ更新部
203…細分割部
203A…基本メッシュ細分割部
203A1…基本面分割数バッファ部
203A2…基本面分割数参照部
203A3…基本面分割数予測部
203A4…加算部
203A5…基本面分割部
203B…細分割メッシュ調整部
701…辺分割点移動部
702…細分割面分割部
204…メッシュ復号部
205…パッチ統合部
206…変位量復号部
206A…復号部
206B、2063…逆量子化部
206C、2064…逆ウェーブレット変換部
206D…加算器
206E…インター予測部
206F…フレームバッファ
2062…画像展開部
207、2061…映像復号部


図1
図2
図3A
図3B
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29
図30
図31
図32
図33
図34
図35