IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ KDDI株式会社の特許一覧

特開2024-152168メッシュ復号装置、メッシュ復号方法及びプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024152168
(43)【公開日】2024-10-25
(54)【発明の名称】メッシュ復号装置、メッシュ復号方法及びプログラム
(51)【国際特許分類】
   H04N 19/503 20140101AFI20241018BHJP
   H04N 19/54 20140101ALI20241018BHJP
【FI】
H04N19/503
H04N19/54
【審査請求】未請求
【請求項の数】17
【出願形態】OL
(21)【出願番号】P 2023066203
(22)【出願日】2023-04-14
【国等の委託研究の成果に係る記載事項】(出願人による申告)令和5年度、総務省、「3次元空間データの無線伝送に向けた高能率圧縮技術の研究開発」、産業技術力強化法第17条の適用を受ける特許出願
(71)【出願人】
【識別番号】000208891
【氏名又は名称】KDDI株式会社
(74)【代理人】
【識別番号】110001564
【氏名又は名称】フェリシテ弁理士法人
(72)【発明者】
【氏名】徐 建鋒
(72)【発明者】
【氏名】河村 圭
【テーマコード(参考)】
5C159
【Fターム(参考)】
5C159MA04
5C159MA05
5C159MA23
5C159MC11
5C159ME01
5C159NN32
5C159PP04
5C159UA02
5C159UA05
(57)【要約】
【課題】メッシュの符号化効率を向上させること。
【解決手段】本発明に係るメッシュ復号装置200は、基本メッシュ復号部202を備え、基本メッシュ復号部202は、指定された参照用の復号基本メッシュをそのまま用いて、復号対象フレームの基本メッシュを復号するスキップ復号部202Fを備える。
【選択図】図13
【特許請求の範囲】
【請求項1】
メッシュ復号装置であって、
基本メッシュ復号部を備え、
前記基本メッシュ復号部は、指定された参照用の復号基本メッシュをそのまま用いて、復号対象フレームの基本メッシュを復号するスキップ復号部を備えることを特徴とするメッシュ復号装置。
【請求項2】
少なくとも1枚の参照フレームを持ち、前記参照フレーム毎で少なくとも1枚の復号された基本メッシュを保存するメッシュバッファ部を備え、
前記スキップ復号部は、前記メッシュバッファ部から指定された前記参照用の復号基本メッシュを取り出し、前記参照用の復号基本メッシュの頂点の座標及びインデックスをそのまま用いて、前記復号対象フレームの基本メッシュの頂点の座標及びインデックスを復号することを特徴とする請求項1に記載のメッシュ復号装置。
【請求項3】
前記スキップ復号部は、ビットストリームから復号した制御信号又は所定ルールを用いて、前記指定された参照用の復号基本メッシュを特定すること特徴とする請求項1に記載のメッシュ復号装置。
【請求項4】
前記基本メッシュ復号部は、参照フレームリストで決められた所定順番で、前記参照用の復号基本メッシュを保存するメッシュバッファ部を備えることを特徴とする請求項1に記載のメッシュ復号装置。
【請求項5】
前記参照フレームリストは、ビットストリームから復号された制御信号によって決められることを特徴とする請求項4に記載のメッシュ復号装置。
【請求項6】
前記参照フレームリストは、自然にフレームの復号順から算出されることを特徴とする請求項4に記載のメッシュ復号装置。
【請求項7】
前記所定ルールは、メッシュバッファ部から参照フレームリストの1番目の参照フレームを取り出すというルールであることを特徴とする請求項3に記載のメッシュ復号装置。
【請求項8】
前記所定ルールは、前記復号対象フレームとフレームインデックスが最も近い参照フレームを取り出すというルールであることを特徴とする請求項3に記載のメッシュ復号装置。
【請求項9】
前記メッシュバッファ部は、Iフレーム及びPフレームの場合、前記所定順番により、1枚又は複数枚の既存の参照フレームを削除し、復号済みのフレームの基本メッシュを含めて1枚又は複数枚の基本メッシュを入れて、前記参照フレームの順番を調整することを特徴とする請求項4に記載のメッシュ復号装置。
【請求項10】
前記メッシュバッファ部は、ビットストリームから復号した制御信号又はRe-ordering指示を受けた時に、前記参照フレームリストを更新し、更新した参照フレームリストで決められた所定順番により、前記参照フレームの順番を調整することを特徴とする請求項4に記載のメッシュ復号装置。
【請求項11】
前記スキップ復号部は、復号順及び表示順を異なるようにすることを特徴とする請求項1に記載のメッシュ復号装置。
【請求項12】
前記スキップ復号部は、ビットストリームからの制御信号を復号し、復号する際の出力の順番を復号することを特徴とする請求項1に記載のメッシュ復号装置。
【請求項13】
前記制御信号によって示される前記出力の順番は、前記表示順との差分、或いは、事前に決めたフレーム集団の中の順番であることを特徴とする請求項10に記載のメッシュ復号装置。
【請求項14】
前記スキップ復号部は、Sフレームについて、一部又は全部復号しないことを特徴とする請求項1に記載のメッシュ復号装置。
【請求項15】
前記スキップ復号部は、ビットストリームから復号した制御信号により、複数の参照フレームを統合してSフレームの基本メッシュを復号することを特徴とする請求項1に記載のメッシュ復号装置。
【請求項16】
メッシュ復号方法であって、
指定された参照用の復号基本メッシュをそのまま用いて、復号対象フレームの基本メッシュを復号する工程を有することを特徴とするメッシュ復号方法。
【請求項17】
コンピュータを、メッシュ復号装置として機能させるプログラムであって、
前記メッシュ復号装置は、基本メッシュ復号部を備え、
前記基本メッシュ復号部は、指定された参照用の復号基本メッシュをそのまま用いて、復号対象フレームの基本メッシュを復号するスキップ復号部を備えることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、メッシュ復号装置、メッシュ復号方法及びプログラムに関する。
【背景技術】
【0002】
非特許文献1には、非特許文献2を用いてメッシュを符号化する技術が開示されている。
【先行技術文献】
【非特許文献】
【0003】
【非特許文献1】Khaled Mammou, Jungsun Kim, Alexis M Tourapis, Dimitri Podborski, and Krasimir Kolarov, “[V-CG] Apple’s Dynamic Mesh Coding CfP Response,” April 2022, ISO/IEC JTC 1/SC 29/WG 7.
【非特許文献2】Google Draco、2022年5月26日アクセス[Online]、https://google.github.io/draco
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来技術では、動きベクトルの予測精度が低いため、動きベクトルの符号化効率が低いという問題点があった。 そこで、本発明は、上述の課題に鑑みてなされたものであり、メッシュの符号化効率を向上させることができるメッシュ復号装置、メッシュ復号方法及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0005】
本発明の第1の特徴は、メッシュ復号装置であって、基本メッシュ復号部を備え、前記基本メッシュ復号部は、指定された参照用の復号基本メッシュをそのまま用いて、復号対象フレームの基本メッシュを復号するスキップ復号部を備えることを要旨とする。
【0006】
本発明の第2の特徴は、メッシュ復号方法であって、指定された参照用の復号基本メッシュをそのまま用いて、復号対象フレームの基本メッシュを復号する工程を有することを要旨とする。
【0007】
本発明の第3の特徴は、コンピュータを、メッシュ復号装置として機能させるプログラムであって、前記メッシュ復号装置は、基本メッシュ復号部を備え、前記基本メッシュ復号部は、指定された参照用の復号基本メッシュをそのまま用いて、復号対象フレームの基本メッシュを復号するスキップ復号部を備えることを要旨とする。
【発明の効果】
【0008】
本発明によれば、メッシュの符号化効率を向上させることができるメッシュ復号装置、メッシュ復号方法及びプログラムを提供することができる。
【図面の簡単な説明】
【0009】
図1図1は、一実施形態に係るメッシュ処理システム1の構成の一例を示す図である。
図2図2は、一実施形態に係るメッシュ復号装置200の機能ブロックの一例を示す図である。
図3A図3Aは、基本メッシュ及び細分割メッシュの一例を示す図である。
図3B図3Bは、基本メッシュ及び細分割メッシュの一例を示す図である。
図4図4は、基本メッシュビットストリームのシンタックス構成の一例を示す図である。
図5図5は、図5は、BPHのシンタックス構成の一例を示す図である。
図6図6は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202の機能ブロックの一例を示す図である。
図7図7は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202のイントラ復号部202Bの機能ブロックの一例を示す図である。
図8図8は、Pフレームの基本メッシュの頂点とIフレームの基本メッシュの頂点との間の対応関係の一例を示す図である。
図9図9は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202のインター復号部202Eの機能ブロックの一例を示す図である。
図10図10は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202のインター復号部202Eの動きベクトル予測部202E3による復号対象の頂点のMVPの算出方法の一例を説明するための図である。
図11図11は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202のインター復号部202Eの動きベクトル予測部202E3の動作の一例を示すフローチャートを示す。
図12図12は、Rigid motion predictionのコンセプトを説明するための図である。
図13図13は、変更例1に係るメッシュ復号装置200の基本メッシュ復号部202の機能ブロックの変更例を示す図である。
図14図14は、変更例1に係るメッシュ復号装置200の基本メッシュ復号部202の変更例について説明するための図である。
図15図15は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202のメッシュバッファ部202Cについて説明するための図である。
図16図16は、一実施形態に係るメッシュ復号装置200の基本メッシュ復号部202のメッシュバッファ部202Cについて説明するための図である。
図17図17は、変更例2に係るメッシュ復号装置200の基本メッシュ復号部202の変更例について説明するための図である。
図18図18は、変更例2に係るメッシュ復号装置200の基本メッシュ復号部202の変更例について説明するための図である。
図19図19は、一実施形態に係るメッシュ復号装置200の細分割部203の機能ブロックの一例について示す図である。
図20図20は、一実施形態に係るメッシュ復号装置200の細分割部203の基本メッシュ細分割部203Aの機能ブロックの一例を示す図である。
図21図21は、一実施形態に係るメッシュ復号装置200の細分割部203の基本メッシュ細分割部203Aの基本面分割部203A5による基本面の分割方法の一例について説明するための図である。
図22図22は、一実施形態に係るメッシュ復号装置200の細分割部203の基本メッシュ細分割部203Aの動作の一例を示すフローチャートである。
図23図23は、一実施形態に係るメッシュ復号装置200の細分割部203の細分割メッシュ調整部203Bの機能ブロックの一例を示す図である。
図24図24は、一実施形態に係るメッシュ復号装置200の細分割部203の細分割メッシュ調整部203Bの辺分割点移動部701によって基本面ABC上の辺分割点が移動されたケースの一例を示す図である。
図25図25は、一実施形態に係るメッシュ復号装置200の細分割部203の細分割メッシュ調整部203Bの細分割面分割部702によって基本面内の細分割面Xに対して再度細分割が行われたケースの一例を示す図である。
図26図26は、一実施形態に係るメッシュ復号装置200の細分割部203の細分割メッシュ調整部203Bの細分割面分割部702によって全ての細分割面に対して再度細分割が行われたケースの一例を示す図である。
図27図27は、一実施形態に係るメッシュ復号装置200の変位量復号部206の機能ブロックの一例について示す図である(空間領域でインター予測が行われる場合)。
図28図28は、変位量ビットストリームの構成の一例について示す図である。
図29図29は、DPSのシンタックス構成の一例について示す図である。
図30図30は、DPHのシンタックス構成の一例について示す図である。
図31図31は、空間領域でインター予測が行われる場合の参照フレームと復号対象フレームとの間の周波数の対応関係の一例について説明するための図である。
図32図32は、一実施形態に係るメッシュ復号装置200の変位量復号部206の機能ブロックの一例について示す図である(周波数領域でインター予測が行われる場合)。
図33図33は、周波数領域でインター予測が行われる場合の参照フレームと復号対象フレームとの間の周波数の対応関係の一例について説明するための図である。
図34図34は、一実施形態に係るメッシュ復号装置200の変位量復号部206の動作の一例を示すフローチャートである。
図35図35は、変形例1に係る変位量復号部206の機能ブロックの一例を示す図である。
図36図36は、変形例2に係る変位量復号部206の機能ブロックの一例を示す図である。
【発明を実施するための形態】
【0010】
以下、本発明の実施の形態について、図面を参照しながら説明する。なお、以下の実施形態における構成要素は、適宜、既存の構成要素等との置き換えが可能であり、また、他の既存の構成要素との組み合わせを含む様々なバリエーションが可能である。したがって、以下の実施形態の記載をもって、特許請求の範囲に記載された発明の内容を限定するものではない。
【0011】
<第1実施形態>
以下、図1図36を参照して、本実施形態に係るメッシュ処理システムについて説明する。
【0012】
図1は、本実施形態に係るメッシュ処理システム1の構成の一例を示す図である。図1に示すように、メッシュ処理システム1は、メッシュ符号化装置100及びメッシュ復号装置200を備えている。
【0013】
図2は、本実施形態に係るメッシュ復号装置200の機能ブロックの一例を示す図である。
【0014】
図2に示すように、メッシュ復号装置200は、多重分離部201と、基本メッシュ復号部202と、細分割部203と、メッシュ復号部204と、パッチ統合部205と、変位量復号部206と、映像復号部207とを有する。
【0015】
ここで、基本メッシュ復号部202、細分割部203、メッシュ復号部204及び変位量復号部206は、メッシュを分割したパッチ単位で処理を行うように構成されており、その後、これらの処理結果についてパッチ統合部205で統合されるように構成されていてもよい。
【0016】
図3Aの例では、メッシュが、基本面1及び2で構成されるパッチ1と、基本面3及び4で構成されるパッチ2とに分割されている。
【0017】
多重分離部201は、多重化されたビットストリームを、基本メッシュビットストリームと変位量ビットストリームとテクスチャビットストリームとに分離するように構成されている。
【0018】
<基本メッシュ復号部202>
基本メッシュ復号部202は、基本メッシュビットストリームを復号し、基本メッシュを生成して出力するように構成されている。
【0019】
ここで、基本メッシュは、3次元空間における複数の頂点と、かかる複数の頂点を接続する辺とで構成される。
【0020】
なお、図3Aに示すように、基本メッシュは、3つの頂点で表現される基本面を組み合わせて構成される。
【0021】
基本メッシュ復号部202は、例えば、非特許文献2に示すDracoを用いて、基本メッシュビットストリームを復号するように構成されていてもよい。
【0022】
また、基本メッシュ復号部202は、細分割手法の種別を制御する制御情報として、後述の「subdivision_method_id」を生成するように構成されていてもよい。
【0023】
以下、図4図5を参照して、基本メッシュ復号部202で復号される制御情報について説明する。
【0024】
図4は、基本メッシュビットストリームのシンタックス構成の一例を示す図である。
【0025】
図4に示すように、第1に、基本メッシュビットストリームは、基本メッシュパッチに対応する制御情報の集合であるBPH(Base Patch header:ベースパッチヘッダ)を含んでいてもよい。第2に、基本メッシュビットストリームは、BPHの次に、基本メッシュパッチを符号化した基本メッシュパッチデータを含んでいてもよい。
【0026】
以上のように、基本メッシュビットストリームは、各パッチデータに、1つずつBPHが対応する構成となる。なお、図4の構成は、あくまで一例であり、各パッチデータに、BPHが対応する構成となっていれば、基本メッシュビットストリームの構成要素として、上述以外の要素が追加されてもよい。
【0027】
例えば、図4に示すように、基本メッシュビットストリームは、SPS(シーケンスパラメータセット:Sequence Parameter Set)を含んでいてもよいし、フレームに対応する制御情報の集合であるFH(Frame Header:フレームヘッダ)を含んでもよいし、メッシュに対応する制御情報であるMH(Mesh Header:メッシュヘッダ)を含んでもよい。
【0028】
図5は、BPHのシンタックス構成の一例を示す図である。ここで、シンタックスの機能が同様であれば、図5に示すシンタックスメイト異なるシンタックス名が用いられても差し支えない。
【0029】
図5に示すBPHのシンタックス構成において、Description欄は、各シンタックスが、どのように符号化されているかを意味している。また、ue(v)は、符号無し0次指数ゴロム符号であることを意味し、u(n)は、nビットのフラグであることを意味する。
【0030】
BPHは、基本メッシュパッチに含まれる基本面の個数を指定する制御信号(mdu_face_count_minus1)を少なくとも含む。
【0031】
また、BPHは、基本パッチごとに基本メッシュの細分割手法の種別を指定する制御信号(mdu_subdivision_method_id)を少なくとも含む。
【0032】
また、BPHは、基本メッシュパッチごとに細分割数生成手法の種別を指定する制御信号(mdu_subdivision_num_method_id)を含んでもよい。例えば、mdu_subdivision_num_method_id=0のとき、予測分割残差により基本面の細分割数を生成することと定義し、mdu_subdivision_num_method_id=1のとき、再帰的に基本面の細分割数を生成することと定義してもよい。
【0033】
BPHは、予測分割残差により基本面の細分割数を生成するとき、インデックスi(i=0,…,mdu_face_count_minus1)ごとに基本面の予測分割残差を指定する制御信号(mdu_subdivision_resuiduals)を含んでもよい。
【0034】
BPHは、再帰的に基本面の細分割数を生成するとき、基本メッシュパッチごとに再帰的に行う細分割回数の上限を識別するための制御信号(mdu_max_depth)を含んでもよい。
【0035】
BPHは、インデックスi(i=0,…,mdu_face_count_minus1)及びj(j=0,…,mdu_subdivision_depth_index)ごとに、基本面を再帰的に細分割するか否かを指定する制御信号(mdu_subdivision_flag)を含んでもよい。
【0036】
図6に示すように、基本メッシュ復号部202は、分離部202Aと、イントラ復号部202Bと、メッシュバッファ部202Cと、接続情報復号部202Dと、インター復号部202Eとを備える。
【0037】
分離部202Aは、基本メッシュビットストリームを、IフレームのビットストリームとPフレームのビットストリームとに分類するように構成されている。
【0038】
(イントラ復号部202B)
イントラ復号部202Bは、例えば、非特許文献2に示すDracoを用いて、Iフレームのビットストリームから、Iフレームの頂点の座標及び接続情報を復号するように構成されている。
【0039】
図7は、イントラ復号部202Bの機能ブロックの一例を示す図である。
【0040】
図7に示すように、イントラ復号部202Bは、任意イントラ復号部202B1と、整列部202B2とを有する。
【0041】
任意イントラ復号部202B1は、非特許文献2に示すDracoを含む任意の方式を用いて、Iフレームのビットストリームから、Iフレームの順序無し頂点の座標及び接続情報を復号するように構成されている。
【0042】
整列部202B2は、順序無し頂点を所定の順序に並び替えることによって頂点を出力するように構成されている。
【0043】
所定の順序として、例えば、モートンコード順を用いてもよく、ラスタスキャン順を用いてもよい。
【0044】
また、整列部202B2は、復号された基本メッシュにおいて座標が一致する複数の頂点である重複頂点をまとめて、単一頂点としてから、所定の順序に並び替えてもよい。
【0045】
メッシュバッファ部202Cは、イントラ復号部202Bによって復号されたIフレームの頂点の座標及び接続情報を蓄積するように構成されている。ここで、重複頂点として存在する頂点のインデックスA(k)及びB(k)のペアを所定順で保存する特定バッファが設けられていてもよい。
【0046】
接続情報復号部202Dは、メッシュバッファ部202Cから取り出したIフレームの接続情報をPフレームの接続情報にするように構成されている。
【0047】
インター復号部202Eは、メッシュバッファ部202Cから取り出した参照フレームの頂点の座標とPフレームのビットストリームから復号した動きベクトルとを加算することによって、Pフレームの頂点の座標を復号するように構成されている。
【0048】
更に、インター復号部202Eは、かかる特定バッファに保存されている重複頂点として存在する頂点のインデックスA(k)及びB(k)のペアにより、Pフレームの頂点のインデックスを調整することが可能である。
【0049】
本実施形態では、図8に示すように、Pフレームの基本メッシュの頂点と参照フレーム(Iフレーム又はPフレーム)の基本メッシュの頂点との間で対応関係が存在する。ここで、インター復号部202Eによって復号される動きベクトルは、Pフレームの基本メッシュの頂点の座標とIフレームの基本メッシュの頂点の座標との差分ベクトルである。
【0050】
(インター復号部202E)
図9は、インター復号部202Eの機能ブロックの一例を示す図である。
【0051】
図9に示すように、インター復号部202Eは、動きベクトル残差復号部202E1と、動きベクトルバッファ部202E2と、動きベクトル予測部202E3と、動きベクトル算出部202E4と、加算器202E5とを有する。
【0052】
動きベクトル残差復号部202E1は、PフレームのビットストリームからMVR(Motion Vector Residual)を生成するように構成されている。
【0053】
ここで、MVRは、MV(Motion Vector)とMVP(Motion Vector Prediction)との差分を示す動きベクトル残差である。MVは、対応するIフレームの頂点の座標とPフレームの頂点の座標との間の差分ベクトル(動きベクトル)である。MVPは、MVを用いて対象の頂点のMVの予測した値(動きベクトルの予測値)である。
【0054】
動きベクトルバッファ部202E2は、動きベクトル算出部202E4によって出力されたMVを順次に保存するように構成されている。
【0055】
動きベクトル予測部202E3は、復号対象の頂点と接続している頂点について、動きベクトルバッファ部202E2から復号済みのMVを取得し、図10に示すように、取得された復号済みのMVの全部又は一部を用いて、復号対象の頂点のMVPを出力するように構成されている。
【0056】
動きベクトル算出部202E4は、動きベクトル残差復号部202E1で生成されたMVRと動きベクトル予測部202E3から出力されたMVPとを加算し、復号対象の頂点のMVを出力するように構成されている。
【0057】
加算器202E5は、対応関係を持つ参照フレーム(Iフレーム又はPフレーム)の復号済みの基本メッシュから得られた復号対象の頂点に対応する頂点の座標と、動きベクトル算出部202E3から出力された動きベクトルMVとを加算し、復号対象の頂点の座標を出力するように構成されている。
【0058】
以下、インター復号部202Eの各部の詳細について説明する。
【0059】
図11に、動きベクトル予測部202E3の動作の一例を示すフローチャートを示す。以下、動きベクトル予測部202E3の動作を「平均予測法」と呼ぶ。
【0060】
図11に示すように、ステップS1001において、動きベクトル予測部202E3は、MVP及びNに0を設定する。
【0061】
ステップS1002において、動きベクトル予測部202E3は、動きベクトルバッファ部202E2から、復号対象の頂点の周りの頂点のMVの集合を取得し、後続の処理が終わっていない頂点を特定し、Noに遷移し、全ての頂点について後続の処理が終わっている場合は、Yesに遷移する。
【0062】
ステップS1003において、動きベクトル予測部202E3は、処理対象の頂点のMVが、復号済みでなければ、Noに遷移し、処理対象の頂点のMVが、復号済みであれば、Yesに遷移する。
【0063】
ステップS1004において、動きベクトル予測部202E3は、MVPにMVを加算し、Nに1を加算する。
【0064】
ステップS1005において、動きベクトル予測部202E3は、Nが0より大きければ、MVPをNで除した結果を出力し、Nが0であれば、0を出力し、処理を終了する。
【0065】
すなわち、動きベクトル予測部202E3は、復号対象の頂点の周りにある頂点の復号済みの動きベクトルを平均することによって、復号対象のMVPを出力するように構成されている。
【0066】
なお、動きベクトル予測部202E3は、かかる復号済みの動きベクトルの集合が空集合の場合、MVPを0とするように構成されていてもよい。
【0067】
動きベクトル算出部202E4は、式(1)によって、動きベクトル予測部202E3によって出力されたMVP及び動きベクトル残差復号部202E1によって生成されたMVRから、復号対象の頂点のMVを算出するように構成されていてもよい。
【0068】
MV(k)=MVP(k)+MVR(k) … (1)
ここで、kは、頂点のインデックスである。MV、MVR及びMVPは、x成分、y成分及びz成分を有するベクターである。
【0069】
かかる構成によれば、MVPを用いて、MVの代わりにMVRのみを符号化するため、符号化効率を高める効果が期待できる。
【0070】
加算器202E5は、動きベクトル算出部202E4によって算出された頂点のMVと、かかる頂点に対応する参照フレームの頂点の座標とを加算することによって、かかる頂点の座標を算出し、接続情報(Connectivity)を参照フレームのままにするように構成されている。
【0071】
具体的には、加算器202E5は、式(2)を用いて、k番目の頂点の座標v’(k)を算出するように構成されていてもよい。
【0072】
v’(k)=v’(k)+MV(k) … (2)
ここで、v’(k)は、復号対象のフレームで復号するk番目の頂点の座標であり、v’(k)は、参照フレームの復号したk番目の頂点の座標であり、MV(k)は、復号対象のフレームのk番目のMVであり、k=1,2…,Kである。
【0073】
また、復号対象のフレームの接続情報は、参照フレームの接続情報と同一にされる。
【0074】
なお、動きベクトル予測部202E3は、復号済みのMVを用いてMVPを算出するため、復号の順番がMVPに影響を及ぼす。
【0075】
かかる復号の順番は、参照フレームの基本メッシュの頂点の復号の順番にする。一般的に、一定の繰り返しパターンを用いて、起点となるエッジから基本面を1つずつ増やす復号手法であれば、復号した基本メッシュの頂点の順番が復号の過程で決められる。
【0076】
例えば、動きベクトル予測部202E3は、参照フレームの基本メッシュにおいて、Edgebreakerを用いて、頂点の復号の順番を決めてもよい。
【0077】
かかる構成によれば、頂点の座標の代わりに参照フレームからのMVを符号化するため、符号化効率を高める効果が期待できる。
【0078】
(インター復号部202Eの変更例)
以下、インター復号部202Eの変更例について説明する。
【0079】
インター復号部202Eの動きベクトル予測部202E3は、復号対象頂点に対して周囲の頂点を含める領域が剛体と近いことを利用する予測方法を用いて復号対象頂点の動きベクトル予測値を算出する。
【0080】
具体的には、動きベクトル予測部202E3は、復号対象頂点及び復号対象頂点の周囲の頂点を含む領域の回転パラメータR及び平行移動パラメータtを推定し、かかる回転パラメータR及び平行移動パラメータtに基づく復号対象頂点の予測方法を用いて復号対象頂点の動きベクトル予測値MVPを算出するように構成されている。
【0081】
(変更例1)
以下、図12を参照して、インター復号部202Eの変更例1について説明する。
【0082】
図12は、Rigid motion predictionのコンセプトを説明するための図である。
【0083】
図12の例は、復号対象頂点の座標D’及び座標D’と接続する復号済みの面A’B’C’を有する。
【0084】
また、図12に示すように、復号済みの面A’B’C’の頂点A’、B’、C’及び復号対象頂点の座標D’の4点に1対1に対応する参照フレームの4点が、A、B、C、Dである。
【0085】
Rigid motion predictionでは、点A、B、C、Dを含む領域が剛体なので、頂点同士の位置関係や距離が変わらない。
【0086】
なお、参照フレームから復号対象フレームまでのA、B、C、Dの動きは、回転パラメータR及び平行移動パラメータtで表現される。
【0087】
すなわち、復号対象頂点に隣接する1つ又は複数の復号済みの面及び復号対象頂点を含む領域が剛体に近いため、インター復号部202E(動きベクトル予測部202E3)は、かかる領域の回転パラメータR及び平行移動パラメータtを推定し、かかる回転パラメータR及び平行移動パラメータtにより、復号対象頂点に対応する参照フレームの頂点から移動させた位置を対象頂点の位置予測値とする。具体的なMVPを算出する手順は、以下の通りである。
【0088】
第1に、インター復号部202Eは、以下のステップで、点A、B、C、A’、B’、C’から回転パラメータR及び平行移動パラメータtを算出する。詳細は、http://nghiaho.com/?page_id=671に記載されている。
1. Find the centroids of A,B,C and A’,B’,C’.
2. Bring both A,B,C and A’,B’,C’ to the origin then find the optimal rotation R.
3. Find the translation t.
第2に、インター復号部202Eは、式(3)によって、点D’の位置予測値を算出する。
【0089】
【数1】
第3に、インター復号部202Eは、式(4)によって、予測値MVPを算出する。
【0090】
【数2】
第4に、インター復号部202Eは、式(5)によって、式(5)によって、残差MVRを算出する。
【0091】
【数3】

なお、インター復号部202Eは、対象頂点に隣接する復号済みの面が複数ある時に、それぞれの面の位置予測値を算出して、算出した位置予測値を平均してもよい。
【0092】
また、インター復号部202Eは、複数の面から1つを選んで位置予測値を算出してもよい。
【0093】
また、インター復号部202Eは、複数の面を使って対応点を入力して回転パラメータR及び平行移動パラメータtを算出してもよい。
【0094】
かかる構成によれば、Rigid motion predictionで、より高い精度の予測値MVPを算出するため、残差MVRの値が小さくてゼロ付近に集中させることができ、より符号化効率を高める効果が期待できる。
【0095】
(変更例2)
本変更例2では、インター復号部202Eは、予測値MVPを算出するに際して、復号対象の1対1の対応関係を持つ復号済みの他のインターフレームから復号対象フレームの復号対象頂点の予測方法を決めてもよい。
【0096】
一例として、インター復号部202Eは、1対1の対応関係を持つ復号済みの他のインターフレームにおける復号対象頂点に対応する頂点を用いて、上述の平均予測法及びRigid motion predictionで、それぞれMVP及びMVRを算出し、MVRが小さい方を、復号対象頂点の予測方法として選ぶという適応的な予測方法を実施してもよい。
【0097】
さらに、インター復号部202Eは、Rigid motion predictionにおいて、復号対象頂点に隣接する復号済みの面が複数ある場合は、他のインターフレームにおける復号対象頂点に対応する頂点の複数の残差MVRを算出し、最も小さい残差MVRを有する面を使ってMVPを算出する。
【0098】
かかる構成によれば、上述の適応的な予測方法により、剛体に近い部分とその他とに分けて最良の予測方法を選択し、より高い精度の予測値MVPを算出することができるため、残差MVRの値を小さくしてゼロ付近に集中させることにより、符号化効率を高める効果が期待できる。
【0099】
(基本メッシュ復号部202の変更例1)
以下、図13及び図14を参照して、基本メッシュ復号部202の変更例1について説明する 。
【0100】
図13に示すように、変更例1に係る基本メッシュ復号部202は、分離部202Aと、イントラ復号部202Bと、メッシュバッファ部202Cと、インター復号部202Eと、スキップ復号部202Fとを備える。
【0101】
スキップ復号部202Fは、指定された参照フレームの復号基本メッシュをそのまま用いて、復号対象フレームの基本メッシュを復号するように構成されている。
【0102】
なお、本実施形態において、フレームは、メッシュ(Mesh)又はサブメッシュ(Submesh)のいずれであってもよい。
【0103】
例えば、図14に示すように、smh_typeにおける「P_SUBMESH」は、Pフレームに対応し、smh_typeにおける「I_SUBMESH」は、Iフレームに対応し、smh_typeにおける「SKIP_SUBMESH」は、Sフレームに対応してもよい。
【0104】
(スキップ復号部202F)
スキップ復号部202Fは、メッシュバッファ部202Cから指定された参照フレームの復号基本メッシュ(参照用の復号基本メッシュ)を取り出し、取り出した参照用の復号基本メッシュの頂点の座標及び当該頂点のインデックスをそのまま用いて、復号対象フレームの基本メッシュの頂点の座標及び当該頂点のインデックスを復号するように構成されている。
【0105】
ここで、メッシュバッファ部202Cは、少なくとも1枚の参照フレームを持ち、参照フレーム毎で少なくとも1枚の復号された基本メッシュを保存するように構成されている。
【0106】
スキップ復号部202Fは、ビットストリームから復号した制御信号又は所定ルールを用いて、指定された参照用の復号基本メッシュについて特定してもよい。
【0107】
例えば、かかる所定ルールは、メッシュバッファ部202Cから参照フレームリストの1番目の参照フレームを取り出すこと、或いは、復号対象フレームにフレームインデックスが最も近い参照フレームを取り出すこと等であってもよい。
【0108】
本実施形態では、参照用の復号基本メッシュの頂点の座標及び当該頂点のインデックスをそのまま用いて基本メッシュの頂点の座標を復号するフレームを「Sフレーム」と呼ぶ。
【0109】
かかる構成によれば、スキップ復号部202Fにおいて動きベクトルを不要とすることができるため、符号量の大幅な削減効果及び計算量の大幅な削減効果が期待できる。
【0110】
(メッシュバッファ部202C)
メッシュバッファ部202Cは、1枚又は複数枚の参照用の復号基本メッシュを、所定順番で保存するように構成されている。
【0111】
なお、かかる基本メッシュは、フレーム番号やサブメッシュ番号等のメタデータや少なくとも各頂点の座標及び当該頂点のインデックスを有しており、参照フレームリストで決められた所定順番でメッシュバッファ部202Cに保存される。
【0112】
ここで、図15に示すように、かかる参照フレームリスト(ref_list0)は、メッシュバッファ部202Cに保存されている全ての参照用の復号基本メッシュを特定する情報のリストである。
【0113】
参照フレームリストは、図15に示すように、ビットストリームから復号された制御信号によって決められてもよいし、自然にフレームの復号順から算出されてもよい。
【0114】
なお、ビットストリームから復号された制御信号は、復号対象フレームとの相対的な距離で示されていてもいし、絶対値であるのフレームインデックスであってもよい。
【0115】
さらに、制御信号により、短期的な参照フレーム又は長期的な参照フレームが使われてもよい。
【0116】
また、自然にフレームの復号順から算出する方法が用いられる場合、例えば、参照フレームリストにおいて、制御信号が存在していない時に、直前に復号済みのフレームから一定のフレーム数で順次に並べられてもよい。つまり、参照フレームリストは、{0, -1, -2,…, -(N―1)}とされてもよい。
【0117】
基本的に、参照フレームリストは、特別な事情(例えば、Re-ordering指示を受ける時)以外に各フレームで変化しない。
【0118】
メッシュバッファ部202Cは、以下のように更新されてもよい。
【0119】
メッシュバッファ部202Cは、基本メッシュが復号された時に、Iフレーム及びPフレームの場合、参照フレームリストで決められた所定順番により1枚又は複数枚の既存の参照フレームを削除し、復号済みのフレームの基本メッシュを含めて1枚又は複数枚の基本メッシュを入れて、又は、複数枚の基本メッシュから1枚の基本メッシュを作成して入れて、参照フレームの順番を調整する。
【0120】
かかる削除作業は、メッシュバッファ部202Cが満了する時のみに実施されてもよい。なお、メッシュバッファ部202Cで保存できる基本メッシュの数は、事前に決められている。ここで、本実施形態では、かかる基本メッシュの数に到達すると、メッシュバッファ部202Cが満了すると定義するものとする
上述の作成作業では、復号済みのフレームの基本メッシュ及びメッシュバッファ部202Cに保存されている既存の基本メッシュに対応する頂点の座標について重み付け平均して1枚の基本メッシュにしてもよい。
【0121】
かかる重み付け平均で用いられる重みは、事前に決められていてもよいし、フレームインデックスを用いて算出されてもよいし、制御信号から復号されてもよい。
【0122】
ただし、メッシュバッファ部202Cは、Sフレームである時には、かかる更新を実施してもよいし、かかる更新を実施しなくてもよい。
【0123】
なお、メッシュバッファ部202Cは、ビットストリームから復号された制御信号によりRe-orderingの指示を示す制御信号を受けた時に、図16に示すように、参照フレームリストを更新し、更新した参照フレームリスト(ref_list0)で決められた所定順番により参照フレームの順番を調整する。
【0124】
(基本メッシュ復号部202の変更例2)
以下、図17を参照して、基本メッシュ復号部202の変更例2について説明する 。
【0125】
図17に示すように、スキップ復号部202Fでは、後続フレームを参照することが可能にするため、復号順(Decode Order)と表示順(Display Order)とが異なる。
【0126】
ここで、表示順は、符号化する際の入力の順番と同じであり、復号する際の出力の順番と同じである。
【0127】
一方、復号順は、符号化する際の出力の順番と同じであり、復号する際の入力の順番と同じである。
【0128】
なお、かかる参照フレームは、後続フレームと1枚又は複数枚の他フレームとを重み付け平均して算出されてもよい。
【0129】
また、かかる他フレームは、図18に示すように、対象フレームの直前の復号済のフレームであってもよい。
【0130】
かかる重みは、対象フレームと後続フレームと間のフレーム間隔及び対象フレームと他フレームとの間のフレーム間隔を用いて算出されてもよいし、事前に決められてもよい。
【0131】
基本メッシュ復号部202は、ビットストリームから制御信号(smh_mesh_frm_order_cnt_lsb)を復号し、かかる出力の順番を復号する。
【0132】
かかる制御信号(smh_mesh_frm_order_cnt_lsb)によって示される値は、復号対象フレームの表示順との差分であってもよいし、事前に決めたフレーム集団MaxMeshFrmOrderCntLsbの中の順番であってもよい。
【0133】
なお、復号順(Decode Order)と表示順(Display Order)とが異なる時に、復号済みの基本メッシュが復号順(Decode Order)で並んでいると、基本メッシュ復号部202は、復号済みの基本メッシュを表示順(Display Order)に並び替えても良い。
【0134】
なお、後続フレームを参照できるSフレームにおいて、2つのメッシュバッファ202Cが設けられていてもよいし、1つのメッシュバッファ部202のみが設けられている際には、表示順が復号対象フレームよりも後になる参照フレームを含めて少なくとも1枚の参照フレームが存在する。
【0135】
スキップ復号部202Fは、ビットストリームから復号した制御信号又は所定ルール又はRe-ordering指示を受けることにより、参照フレームを指定する。
【0136】
具体的には、スキップ復号部202Fは、かかる制御信号により参照フレームリストの中に参照フレームを指定する。
【0137】
或いは、スキップ復号部202Fは、参照フレームリストの1番目の参照フレームを指定する。
【0138】
或いは、スキップ復号部202Fは、Re-ordering指示を受けで、参照フレームリスト及びメッシュバッファ部202Cの参照フレーム順番を更新し、かかる参照フレームリストの1番目の参照フレームを指定する。
【0139】
なお、本実施形態では、Sフレームを復号しなくても他のフレームの復号に影響を及ぼさない。よって、Sフレームを一部又は全部を復号しない場合、Temporal scalabilityを実現できる。
【0140】
さらに、基本メッシュ復号部202は、制御信号により、複数の参照フレームを統合してSフレームの基本メッシュを復号してもよい。
【0141】
例えば、基本メッシュ復号部202は、前後2枚の参照フレームの基本メッシュにおいて、対応する頂点の座標を平均して、平均座標及び頂点のインデックスをそのまま用いて、復号対象フレームの基本メッシュの頂点の座標及び当該頂点のインデックスを復号するように構成されていてもよい。
【0142】
かかる構成によれば、スキップ復号部202Fにおいて動きベクトルを不要としながらも高品質な基本メッシュにすることができるため、復号メッシュの質を向上させる効果が期待できる。さらに、Temporal scalabilityを実現できる効果が期待できる。
【0143】
<細分割部203>
細分割部203は、制御情報によって示された細分割手法により、基本メッシュ復号部202によって復号された基本メッシュから、追加された細分割頂点及びそれらの接続情報を生成して出力するように構成されている。
【0144】
ここで、基本メッシュ、追加された細分割頂点、及び、それらの接続情報を、併せて「細分割メッシュ」と呼ぶ。
【0145】
細分割部202は、基本メッシュビットストリームを復号して生成した制御情報であるsubdivision_method_idから、細分割手法の種別を特定するように構成されている。
【0146】
以下、図3A及び図3Bを参照して、細分割部202について説明する。
【0147】
図3A及び図3Bは、基本メッシュから細分割頂点を生成する動作の一例について説明するための図である。
【0148】
図3Aは、5つの頂点で構成された基本メッシュの一例について示す図である。
【0149】
ここで、細分割には、例えば、各基本面において各辺の中点同士を接続するMid-edge分割法を用いてもよい。これによって、ある基本面は、4つの面に分割されることになる。
【0150】
図3Bは、5つの頂点で構成された基本メッシュを分割した細分割メッシュの一例を示す。図3Bに示す細分割メッシュでは、元の5つの頂点(黒丸)に加えて8つの細分割頂点(白丸)が生成されている。
【0151】
このように生成した細分割頂点ごとに、変位量復号部206で変位量を復号することによって、符号化性能の向上が期待できる。
【0152】
また、各パッチで異なる細分割方法を適用してもよい。これによって、変位量復号部206で復号される変位量をパッチごとに適応的に変化させ、符号化性能の向上が期待できる。分割したパッチの情報は、制御情報であるpatch_idとして受け取られる。
【0153】
以下、図19を参照して、細分割部203について説明する。図19は、細分割部203の機能ブロックの一例について示す図である。
【0154】
図19に示すように、細分割部203は、基本メッシュ細分割部203Aと細分割メッシュ調整部203Bとを有する。
【0155】
(基本メッシュ細分割部203A)
基本メッシュ細分割部203Aは、入力された基本メッシュ及び基本メッシュの分割情報に基づき、基本面及び基本パッチごとの分割数(細分割数)を算出し、かかる分割数に基づいて基本メッシュを細分割し、細分割面を出力するように構成されている。
【0156】
すなわち、基本メッシュ細分割部203Aは、基本面及び基本パッチ単位で、上述の分割数を変えることができるように構成されていてもよい。
【0157】
ここで、基本面は、基本メッシュを構成する面であり、基本パッチは、いくつかの基本面の集合である。
【0158】
また、基本メッシュ細分割部203Aは、基本面の細分割数を予測し、予測した基本面の細分割数に対して予測分割数残差を加算することで、基本面の細分割数を算出するように構成されていてもよい。
【0159】
また、基本メッシュ細分割部203Aは、基本面の隣接基本面の細分割数に基づいて、基本面の細分割数を算出するように構成されていてもよい。
【0160】
また、基本メッシュ細分割部203Aは、直前に蓄積された基本面の細分割数に基づき、基本面の細分割数を算出するように構成されていてもよい。
【0161】
また、基本メッシュ細分割部203Aは、基本面を構成する3辺を分割する頂点を生成し、生成した頂点を接続することで、基本面を細分割するように構成されていてもよい。
【0162】
図19に示すように、基本メッシュ細分割部203Aの後段に、後述の細分割メッシュ調整部を備える203Bを備えている。
【0163】
以下、図20図22を用いて、基本メッシュ細分割部203Aの処理の一例について説明する。
【0164】
図20は、基本メッシュ細分割部203Aの機能ブロックの一例を示す図であり、図22は、基本メッシュ細分割部203Aの動作の一例を示すフローチャートである。
【0165】
図19に示すように、基本メッシュ細分割部203Aは、基本面分割数バッファ部203A1と、基本面分割数参照部203A2と、基本面分割数予測部203A3と、加算部203A4と、基本面分割部203A5とを有する。
【0166】
基本面分割数バッファ部203A1は、基本面の分割数を含む基本面の分割情報を格納しており、基本面分割数参照部203A2に対して基本面の分割情報を出力するように構成されている。
【0167】
ここで、基本面分割数バッファ部203A1のサイズは、1とし、基本面分割数参照部203A2に対して、直前に蓄積された基本面の分割数を出力するように構成されていてもよい。
【0168】
すなわち、基本面分割数バッファ部203A1のサイズを1にすることで、最後に復号した細かい分割数(直前に復号した細分割数)のみを参照するように構成されていてもよい。
【0169】
基本面分割数参照部203A2は、復号対象の基本面に対して隣接する基本面が存在していない場合、或いは、復号対象の基本面に対して隣接する基本面が存在しているが分割数が確定していない場合は、基本面分割数予測部203A3に対して、参照不可を出力するように構成されている。
【0170】
一方、基本面分割数参照部203A2は、復号対象の基本面に対して隣接する基本面が存在し且つ分割数が確定している場合は、基本面分割数予測部203A3に対して、かかる分割数を出力するように構成されている。
【0171】
基本面分割数予測部203A3は、入力された1つ以上の分割数に基づいて基本面の分割数(細分割数)を予測し、加算部203A4に対して、予測した分割数(予測分割数)を出力するように構成されている。
【0172】
ここで、基本面分割数予測部203A3は、基本面分割数参照部203A2から参照不可のみが入力された場合は、加算部203A4に対して、0を出力するように構成されている。
【0173】
なお、基本面分割数予測部203A3は、1つ以上の分割数が入力された場合、入力された分割数の平均値や最大値や最小値や最頻値等の統計値のいずれかを用いて、予測分割数を生成するように構成されていてもよい。
【0174】
なお、基本面分割数予測部203A3は、1つ以上の分割数が入力された場合、最も隣接する面の分割数を予測分割数として生成するように構成されていてもよい。
【0175】
加算部203A4は、予測残差ビットストリームから復号した予測分割数残差と基本面分割数予測部203A3から取得した予測分割数とを加算することによって得られた分割数を、基本面分割部203A5に対して出力するように構成されている。
【0176】
基本面分割部203A5は、加算部203A4から入力された分割数に基づき、基本面を細分割するように構成されている。
【0177】
図21は、基本面を9分割したケースの一例である。図21を参照して、基本面分割部203A5による基本面の分割方法について説明する。
【0178】
基本面分割部203A5は、基本面を構成する辺ABに対してN等分(N=3)する点A_1,…,A_(N-1)を生成する。
【0179】
同様に、基本面分割部203A5は、辺BCや辺CAについてもN等分し、それぞれ点B_1,…,B_(N-1)、C_1,…,C_(N-1)を生成する。
【0180】
以降、辺AB、辺BC及び辺CA上の点を「辺分割点」と呼ぶ。
【0181】
基本面分割部203A5は、全てのi(i=1,2,…,N-1)に対して、辺A_i B_(N-i),B_i C_(N-i),C_i A_(N-i)を生成し、N個の細分割面を生成する。
【0182】
次に、図22を参照して、基本メッシュ細分割部203Aの処理手順について説明する。
【0183】
ステップS2201において、基本メッシュ細分割部203Aは、最後の基本面に対して細分割処理が完了したか否かを判定する。処理が完了した場合終了し、そうでない場合はステップS2202に進む。
【0184】
ステップS2202において、基本メッシュ細分割部203Aは、Depth<mdu_max_depthの判定を行う。
【0185】
ここで、Depthは、現在の深度を表す変数で、初期値は0であり、mdu_max_depthは、基本面ごとに決められた最大深度を表す。
【0186】
ステップS2202における条件を満たす場合は、本処理手順は、ステップS2203に進み、かかる条件を満たさない場合は、本処理手順は、ステップS2201に戻る。
【0187】
ステップS2203において、基本メッシュ細分割部203Aは、現在の深度におけるmdu_subdivision_flagが1であるか否かについて判定する。
【0188】
Yesの場合、本処理手順は、ステップS2201に戻り、Noの場合、本処理手順は、ステップS2204に進む。
【0189】
ステップS2204において、基本メッシュ細分割部203Aは、基本面内の全ての細分割面をさらに細分割する。
【0190】
ここで、基本メッシュ細分割部203Aは、基本面に対して一度も細分割処理が行われていない場合は、基本面を細分割する。
【0191】
なお、細分割の方法については、ステップS2204で説明した方法と同様である。
【0192】
具体的には、基本面が一度も細分割されていない場合は、基本面に対して図21のように細分割を行う。少なくとも1回は細分割されている場合は、細分割面をN個に細分割する。図21を例にすると、頂点A_2と頂点Bと頂点B_1とからなる面を、基本面の分割のときと同様の方法で、更に分割してN個の面を生成する。
【0193】
細分割処理が終了したとき、本処理手順は、ステップS2205に進む。
【0194】
ステップS2205において、基本メッシュ細分割部203Aは、Depthに1を加算し、本処理手順は、ステップS2202に戻る。
【0195】
(細分割メッシュ調整部203B)
次に、細分割メッシュ調整部203Bによって行われる処理の具体例について説明する。以下、図23図26を用いて細分割メッシュ調整部203Bよって行われる処理の一例について説明する。
【0196】
図23は、細分割メッシュ調整部203Bの機能ブロックの一例を示す図である。
【0197】
図23に示すように、細分割メッシュ調整部203Bは、辺分割点移動部701と、細分割面分割部702とを有する。
【0198】
(辺分割点移動部701)
辺分割点移動部701は、入力された初期細分割面に対して、基本面の辺分割点を隣接基本面の辺分割点のいずれかに移動し、細分割面を出力するように構成されている。
【0199】
図24は、基本面ABC上の辺分割点を移動した例である。例えば、図24に示すように、辺分割点移動部701は、基本面ABCの辺分割点を最も近い隣接基本面の辺分割点に移動するように構成されていてもよい。
【0200】
(細分割面分割部702)
細分割面分割部702は、入力された細分割面を再度細分割し、復号細分割面を出力するように構成されている。
【0201】
図25は、基本面内の細分割面Xに対して再度細分割が行われたケースの一例を示す図である。
【0202】
図25に示すように、細分割面分割部702は、細分割面を構成する頂点と隣接基本面の辺分割点とを接続することで、基本面内に新たな細分割面を生成するように構成されていてもよい。
【0203】
図26は、全ての細分割面に対して、上述の細分割処理を行ったケースの一例を示す図である。
【0204】
メッシュ復号部204は、細分割部203で生成された細分割メッシュ及び変位量復号部206で復号された変位量を用いて、復号メッシュを生成して出力するように構成されている。
【0205】
具体的には、メッシュ復号部204は、各細分割頂点に対して、対応する変位量を加算することによって、復号メッシュを生成するように構成されている。ここで、各変位量がどの細分割頂点に対応するかについての情報は、制御情報によって示される。
【0206】
パッチ統合部205は、メッシュ復号部206で生成された復号メッシュを、複数のパッチ分だけ統合して出力するように構成されている。
【0207】
ここで、パッチの分割方法は、メッシュ符号化装置100によって定義される。例えば、パッチの分割方法は、各基本面に対して法線ベクトルを算出しておき、隣接する基本面の中で最も法線ベクトルが類似した基本面を選択し、両基本面を同じパッチとしてまとめ、かかる手順を、次の基本面に対して順次繰り返すように構成されていてもよい。
【0208】
映像復号部207は、映像符号化によってテクスチャを復号して出力するように構成されている。例えば、映像復号部207は、非特許文献1のHEVCを用いてもよい。
【0209】
<変位量復号部206>
変位量復号部206は、変位量ビットストリームを復号して変位量を生成して出力するように構成されている。
【0210】
図3Bは、ある細分割頂点に対する変位量の一例について示す図である。図3Bの例では、8個の細分割頂点が存在するため、変位量復号部206は、各細分割頂点に対してスカラー或いはベクトルで表現される変位量を8個定義するように構成されている。
【0211】
以下、図27を参照して、変位量復号部206について説明する。図27は、変位量復号部206の機能ブロックの一例について示す図である。
【0212】
図27に示すように、変位量復号部206は、復号部206Aと、逆量子化部206Bと、逆ウェーブレット変換部206Cと、加算器206Dと、インター予測部206Eと、フレームバッファ206Fとを有する。
【0213】
復号部206Aは、受信した変位量ビットストリームに対して可変長復号を行うことでレベル値及び制御情報を復号して出力するように構成されている。ここで、可変長復号によって得られたレベル値は、逆量子化部206Bに出力され、制御情報は、インター予測部206Eに出力される。
【0214】
以下、図28を参照して、変位量ビットストリームの構成の一例について説明する。図28は、変位量ビットストリームの構成の一例について示す図である。
【0215】
図28に示すように、第1に、変位量ビットストリームは、変位量の復号に関する制御情報の集合であるDPS(Displacement Parameter Set:ディスプレイスメントパラメータセット)を含んでいてもよい。
【0216】
第2に、変位量ビットストリームは、パッチに対応する制御情報の集合であるDPH(Displacement Patch Header:ディスプレイスメントパッチヘッダ)を含んでいてもよい。
【0217】
第3に、変位量ビットストリームは、DPHの次に、パッチを構成する符号化された変位量を含んでいてもよい。
【0218】
以上のように、変位量ビットストリームは、各符号化された変位量に、1つずつDPH及びDPSが対応する構成となる。
【0219】
なお、図28の構成は、あくまで一例である。各符号化された変位量に、DPH及びDPSが対応する構成となっていれば、変位量ビットストリームの構成要素として、上述以外の要素が追加されてもよい。
【0220】
例えば、図28に示すように、変位量ビットストリームは、SPS(Sequence Parameter Set:シーケンスパラメータセット)を含んでいてもよい。
【0221】
図29は、DPSのシンタックス構成の一例について示す図である。
【0222】
図29において、Descriptor欄は、各シンタックスが、どのように符号化されているかを意味している。
【0223】
また、図29において、ue(v)は、符号無し0次指数ゴロム符号であることを意味し、u(n)は、nビットのフラグであることを意味する。
【0224】
DPSは、複数のDPSが存在する場合に、各DPSを識別するためのDPS id情報(dps_displacement_parameter_set_id)を少なくとも含む。
【0225】
また、DPSは、インター予測を行うか否かを制御するフラグ(interprediction_enabled_flag)を含んでもよい。
【0226】
例えば、interprediction_enabled_flagが0のときは、インター予測を行わないと定義し、interprediction_enabled_flagが1のときは、インター予測を行うと定義してもよい。interprediction_enabled_flagが含まれないときは、インター予測を行わないと定義してもよい。
【0227】
DPSは、逆DCTを行うか否かを制御するフラグ(dct_enabled_flag)を含んでもよい。
【0228】
例えば、dct_enabled_flagが0のときは、逆DCTを行わないと定義し、dct_enabled_flagが1のときは、逆DCTを行うと定義してもよい。dct_enabled_flagが含まれないときは、逆DCTを行わないと定義してもよい。
【0229】
図30は、DPHのシンタックス構成の一例について示す図である。
【0230】
図30に示すように、DPHは、各DPHに対応するDPSを指定するためのDPS id情報を少なくとも含む。
【0231】
逆量子化部206Bは、復号部206Aによって復号されたレベル値を逆量子化することによって変換係数を生成して出力するように構成されている。
【0232】
逆ウェーブレット変換部206Cは、逆量子化部206Bによって生成された変換係数に対して逆ウェーブレット変換を施すことによって予測残差を生成して出力するように構成されている。
【0233】
(インター予測部206E)
インター予測部206Eは、フレームバッファ206Fから読み出された参照フレームの復号変位量を用いてインター予測を行うことによって、予測変位量を生成して出力するように構成されている。
【0234】
インター予測部206Eは、interprediction_enabled_flagが1の場合のみ、かかるインター予測を行うように構成されている。
【0235】
インター予測部206Eは、空間領域でインター予測を行ってもよいし、周波数領域でインター予測を行ってもよい。インター予測は、時間的に過去の参照フレームと未来の参照フレームとを用いて、双方向予測を行ってもよい。
【0236】
図31は、空間領域でインター予測が行われる場合の参照フレームと復号対象フレームとの間の細分割頂点の対応関係の一例について説明するための図である。
【0237】
図32は、周波数領域でインター予測を行う場合のインター予測部206Eの機能ブロックの一例である。
【0238】
インター予測部206Eは、周波数領域でインター予測を行う場合は、復号対象フレームにおける周波数の予測ウェーブレット変換係数について、参照フレームにおける対応する周波数の復号ウェーブレット変換係数をそのまま参照して決定してもよい。
【0239】
インター予測部206Eは、複数の参照フレームにおける細分割頂点の復号変位量或いは復号ウェーブレット変換係数を用いて、平均と分散を推定した正規分布に従って確率的にインター予測してもよい。
【0240】
インター予測部206Eは、複数の参照フレームにおける細分割頂点の復号変位量あるいは復号ウェーブレット変換係数を用いて、時間を説明変数、変位量を目的変数として推定した回帰曲線をもとにインター予測してもよい。
【0241】
インター予測部206Eは、時間的に過去の参照フレームと未来の参照フレームとを用いて双方向でインター予測するように構成されていてもよい。
【0242】
メッシュ符号化装置100において、フレームごとに符号化効率向上のために、かかる復号ウェーブレット変換係数の順番が並び替えられていてもよい。
【0243】
参照フレームと復号対象フレームとの間の周波数の対応関係は、制御情報によって示される。
【0244】
図33は、周波数領域でインター予測が行われる場合の参照フレームと復号対象フレームとの間の周波数の対応関係の一例について説明するための図である。
【0245】
また、細分割部203が、基本メッシュを複数のパッチに分割した場合は、インター予測部206Eも、分割したパッチごとにインター予測を行うように構成されている。これによって、フレーム間の時間相関が高くなり、符号化性能の向上が期待できる。
【0246】
加算器206Dには、逆ウェーブレット変換部206Cから予測残差が入力され、インター予測部206Eから予測変位量が入力される。
【0247】
加算器206Dは、かかる予測残差と予測変位量とを加算することによって、復号変位量を算出して出力するように構成されている。
【0248】
加算器206Dによって算出された復号変位量は、フレームバッファ206Fにも出力される。
【0249】
フレームバッファ206Fは、加算器206Dから復号変位量を取得して蓄積するように構成されている。
【0250】
ここで、フレームバッファ206Fは、図示しない制御情報に応じて、参照フレームにおいて対応する頂点における復号変位量を出力する。
【0251】
図34は、変位量復号部206の動作の一例を示すフローチャートである。
【0252】
図34に示すように、ステップS3501において、変位量復号部206は、全てのパッチに対して、本処理が完了しているか否かについて判定する。
【0253】
Yesの場合、本動作は、終了し、Noの場合、本動作は、ステップS3502に進む。
【0254】
ステップS3502において、変位量復号部206は、復号対象のパッチに対して、逆DCTを行ってから逆量子化及び逆ウェーブレット変換を行う。
【0255】
ステップS3503において、変位量復号部206は、interprediction_enabled_flagが1であるか否かについて判定する。
【0256】
Yesの場合、本動作は、ステップS3504に進み、Noの場合、本動作は、ステップS3501に戻る。
【0257】
ステップS3504において、変位量復号部206は、上述のインター予測及び加算を行う。
【0258】
<変形例1>
以下、図35を参照して、上述の第1実施形態の変形例1について、上述の第1実施形態との相違点に着目して説明する。
【0259】
図35は、本変形例1に係る変位量復号部206の機能ブロックの一例を示す図である。
【0260】
図35に示すように、本変形例1に係る変位量復号部206は、復号部206Aの後段に、すなわち、復号部206Aと逆量子化部206Bとの間に、逆DCT部206Gを備えている。
【0261】
すなわち、本変形例1では、逆量子化部206Bは、逆DCT部202Gから出力されたレベル値に対して逆ウェーブレット変換を施すことによって予測残差を生成するように構成されている。
【0262】
<変形例2>
以下、図36を参照して、上述の第1実施形態の変形例2について、上述の第1実施形態との相違点に着目して説明する。
【0263】
図36に示すように、本変形例2に係る変位量復号部206は、映像復号部2061と、画像展開部2062と、逆量子化部2063と、逆ウェーブレット変換部2064と有する。
【0264】
映像復号部2061は、受信した変位量ビットストリームを、映像符号化によって復号することで映像を出力するように構成されている。
【0265】
例えば、映像復号部2061は、非特許文献1のHEVCを用いてもよい。
【0266】
また、映像復号部2061は、動きベクトルを常にゼロとした映像符号化方式を用いてもよい。例えば、映像復号部2061は、HEVCの動きベクトルを常にゼロとし、常に同一位置でのインター予測を用いてもよい。
【0267】
また、映像復号部2061は、変換を常にスキップするとした映像符号化方式を用いてもよい。例えば、映像復号部2061は、HEVCの変換を常に変換スキップモードとし、変換せずに映像符号化方式を用いてもよい。
【0268】
画像展開部2062は、映像復号部2061で復号された映像を、画像(フレーム)ごとにレベル値として展開して出力するように構成されている。
【0269】
かかる展開方法において、画像展開部2062は、制御情報によって示された画像へのレベル値の並べ方から、逆算して特定できる。
【0270】
画像展開部2062は、レベル値の並べ方として、例えば、高周波成分から低周波成分のレベル値が画像中にラスタ操作順に並べてもよい。
【0271】
逆量子化部2063は、画像展開部2062で生成されたレベル値を逆量子化することによって変換係数を生成して出力するように構成されている。
【0272】
逆ウェーブレット変換部2064は、逆量子化部2063で生成された変換係数に対して逆ウェーブレット変換を施すことによって復号変位量を生成して出力するように構成されている。
【0273】
上述のメッシュ符号化装置100及びメッシュ復号装置200は、コンピュータに各機能(各工程)を実行させるプログラムであって実現されていてもよい。
【産業上の利用可能性】
【0274】
なお、本実施形態によれば、例えば、動画像通信において総合的なサービス品質の向上を実現できることから、国連が主導する持続可能な開発目標(SDGs)の目標9「レジリエントなインフラを整備し、持続可能な産業化を推進するとともに、イノベーションの拡大を図る」に貢献することが可能となる。
【符号の説明】
【0275】
1…メッシュ処理システム
100…メッシュ符号化装置
200…メッシュ復号部
201…多重分離部
202…基本メッシュ復号部
202A…分離部
202B…イントラ復号部
202C…メッシュバッファ部
202D…接続情報復号部
202E…インター復号部
202E1…動きベクトル復号部
202E2…動きベクトルバッファ部
202E3…動きベクトル予測部
202E4…動きベクトル算出部
202E5…加算器
202F…スキップ復号部
203…細分割部
203A…基本メッシュ細分割部
203A1…基本面分割数バッファ部
203A2…基本面分割数参照部
203A3…基本面分割数予測部
203A4…加算部
203A5…基本面分割部
203B…細分割メッシュ調整部
701…辺分割点移動部
702…細分割面分割部
204…メッシュ復号部
205…パッチ統合部
206…変位量復号部
206A…復号部
206B、2063…逆量子化部
206C、2064…逆ウェーブレット変換部
206D…加算器
206E…インター予測部
206F…フレームバッファ
206G…逆DCT部
2062…画像展開部
207、2061…映像復号部




図1
図2
図3A
図3B
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29
図30
図31
図32
図33
図34
図35
図36