(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-04-03
(45)【発行日】2023-04-11
(54)【発明の名称】ルックアップテーブルの更新:FIFO、制限されたFIFO
(51)【国際特許分類】
H04N 19/52 20140101AFI20230404BHJP
H04N 19/105 20140101ALI20230404BHJP
H04N 19/139 20140101ALI20230404BHJP
H04N 19/176 20140101ALI20230404BHJP
H04N 19/189 20140101ALI20230404BHJP
【FI】
H04N19/52
H04N19/105
H04N19/139
H04N19/176
H04N19/189
(21)【出願番号】P 2021523111
(86)(22)【出願日】2019-07-01
(86)【国際出願番号】 IB2019055586
(87)【国際公開番号】W WO2020003278
(87)【国際公開日】2020-01-02
【審査請求日】2021-02-24
(31)【優先権主張番号】PCT/CN2018/093663
(32)【優先日】2018-06-29
(33)【優先権主張国・地域又は機関】CN
(31)【優先権主張番号】PCT/CN2018/094929
(32)【優先日】2018-07-07
(33)【優先権主張国・地域又は機関】CN
(31)【優先権主張番号】PCT/CN2018/101220
(32)【優先日】2018-08-18
(33)【優先権主張国・地域又は機関】CN
(31)【優先権主張番号】PCT/CN2018/117627
(32)【優先日】2018-11-27
(33)【優先権主張国・地域又は機関】CN
(31)【優先権主張番号】PCT/CN2019/071214
(32)【優先日】2019-01-10
(33)【優先権主張国・地域又は機関】CN
(73)【特許権者】
【識別番号】520476341
【氏名又は名称】北京字節跳動網絡技術有限公司
【氏名又は名称原語表記】Beijing Bytedance Network Technology Co., Ltd.
【住所又は居所原語表記】Room B-0035, 2/F, No.3 Building, No.30, Shixing Road, Shijingshan District Beijing 100041 China
(73)【特許権者】
【識別番号】520477474
【氏名又は名称】バイトダンス インコーポレイテッド
【氏名又は名称原語表記】BYTEDANCE INC.
【住所又は居所原語表記】12655 West Jefferson Boulevard, Sixth Floor, Suite No. 137 Los Angeles, California 90066 United States of America
(74)【代理人】
【識別番号】110002000
【氏名又は名称】弁理士法人栄光事務所
(72)【発明者】
【氏名】ジャン リー
(72)【発明者】
【氏名】ジャン カイ
(72)【発明者】
【氏名】リウ ホンビン
(72)【発明者】
【氏名】ワン ユエ
【審査官】清山 昂平
(56)【参考文献】
【文献】特表2014-501091(JP,A)
【文献】特開2016-059066(JP,A)
【文献】国際公開第2018/231700(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N19/00-19/98
(57)【特許請求の範囲】
【請求項1】
映像データの処理の方法であって、
映像の現在の映像ブロックに対する動き候補リストを構成することと、
前記動き候補リストを用いて、前記現在の映像ブロックの動き情報を決定することと、
前記決定した動き情報に基づいて、前記現在の映像ブロックをコーディングすることと
、
前記決定した動き情報に対応する新たな動き候補を用いて、テーブルを更新することと、
を有し、
前記テーブルは、コーディングされた1以上の映像ブロックから導出された1以上の動き情報を含み、前記テーブルにおける前記動き候補のインデックスは、前記テーブルへの前記動き候補の追加の順に基づき、
前記テーブルにおける少なくとも1つの動き候補は、前記テーブルからのチェックされた動き候補の動き情報を後続の映像ブロックの動き候補に追加するかを決定するために、前記少なくとも1つの動き候補の少なくとも1つのインデックスの順にチェックされ、
前記テーブルにおける前記少なくとも1つの動き候補は、前記後続の映像ブロックを含むピクチャとは異なるピクチャに存在する時間的ブロックをチェックした後にチェックされる、方法。
【請求項2】
前記コーディングすることは、前記現在の映像ブロックからビットストリームを生成することを有する、請求項1に記載の方法。
【請求項3】
前記コーディングすることは、ビットストリームから前記現在の映像ブロックを生成することを有する、請求項
1に記載の方法。
【請求項4】
前記テーブルに前記新たな動き候補が追加される場合、前記新たな動き候補は、前記テーブルにおいて他の動き候補よりも大きなインデックスを有する、請求項1~3のいずれか一項に記載の方法。
【請求項5】
前記テーブルにおける前記新たな動き候補のインデックスは、L-1以下であり、
Lは、更新対象の前記テーブルのサイズを示す、請求項1~4のいずれか一項に記載の方法。
【請求項6】
前記テーブルにおける前記新たな動き候補のインデックスは、K%L、K、または、K-1の1つと同じであり、
Kは、前記テーブルに追加された以前の動き候補のカウンタを示し、
Lは、前記テーブルのサイズを示す、請求項1~5のいずれか一項に記載の方法。
【請求項7】
前記テーブルに前記新たな動き候補を追加する前に、前記テーブルにおける少なくとも1つの現在の動き候補にて、前記新たな動き候補の動き情報をプルーニングすること、をさらに有する請求項1~6のいずれか一項に記載の方法。
【請求項8】
前記テーブルにおける動き候補は、前記テーブルにおける他の動き候補とは異なる動き情報を有する、請求項1~7のいずれか一項に記載の方法。
【請求項9】
前記テーブルにおける動き候補のMV(Motion Vector)と、他の動き候補の同じ参照ピクチャのMVとの間のMVの差異は、閾値以上である、請求項1~8のいずれか一項に記載の方法。
【請求項10】
少なくとも1つの動き候補は、前記テーブルへの前記新たな動き候補の追加に起因して、前記テーブルから除去される、請求項1~9のいずれか一項に記載の方法。
【請求項11】
前記テーブルへの前記新たな動き候補の前記追加の前に、前記テーブルが満杯である場合、前記テーブルから動き候補が除去される、請求項10に記載の方法。
【請求項12】
除去対象の前記動き候補は、0のインデックスを有する、請求項11に記載の方法。
【請求項13】
前記少なくとも1つの動き候補は、前記テーブルにおける空きエントリを提供するために前記テーブルから除去され、前記空きエントリを埋めるために、前記少なくとも1つの動き候補のインデックスよりも大きなインデックスの動き候補が前方に移動され、前記動き候補の前記移動の後に、前記テーブルへの前記新たな動き候補の前記追加が実行される、請求項10~12のいずれか一項に記載の方法。
【請求項14】
前記少なくとも1つの動き候補は、前記テーブルに前記新たな動き候補を追加する前に、冗長性のチェックにより、現在の動き候補の冗長性として特定され、
冗長性のチェックは、前記テーブルにおける現在の動き候補の冗長性をチェックすることに用いられる、請求項10~13のいずれか一項に記載の方法。
【請求項15】
前記冗長性のチェックは、前記現在の動き候補が前記テーブルに追加された順、または、前記テーブルにおける現在の動き候補が取得されたブロックのコーディング処理の順、にて実行される、請求項14に記載の方法。
【請求項16】
前記冗長性のチェックは、前記テーブルにおいて最小のインデックスを有する最初の動き情報から、前記テーブルにおいて最大のインデックスを有する最後の動き候補への順に実行される、請求項14に記載の方法。
【請求項17】
前記冗長性のチェックは、前記テーブルにおいて冗長な動き候補が特定された際に、終了する、請求項14~16のいずれか一項に記載の方法。
【請求項18】
冗長性のチェックは、前記テーブルにおける動き候補と、前記新たな動き候補とを比較することを有する、請求項14~17のいずれか一項に記載の方法。
【請求項19】
前記テーブルにおける少なくとも1つの現在の動き候補が前記新たな動き候補に対して冗長である場合、前記テーブルにおける動き候補の数を示すカウンタは増加しない、請求項14~18のいずれか一項に記載の方法。
【請求項20】
前記更新することは、少なくとも1つの条件を満たす際に実行され、
前記少なくとも1つの条件は、現在の映像ブロックのコーディングモード、または、対応する動き候補の動き情報の起源の少なくとも1つに基づく、請求項1~19のいずれか一項に記載の方法。
【請求項21】
前記少なくとも1つの条件は、
インターコーディングモード、マージモード、前記現在の映像ブロックが直接信号通信された動き情報にてコーディングされたモードの少なくとも1つを有する、少なくとも1つの特定のモードに属する前記コーディングモードを有する、請求項20に記載の方法。
【請求項22】
前記少なくとも1つの条件は、
サブブロックに基づく動き予測、または、サブブロックに基づく動き補償方法の少なくとも1つに対応するコーディングモードを除く、少なくとも1つの特定のモードに属する前記コーディングモードを有する、請求項20に記載の方法。
【請求項23】
前記現在の映像ブロックが直接信号通信された動き情報にてコーディングされた前記モードは、AMVPモード、通常のまたはアフィンインターモードに対応するMMVD(Merge with Motion Vector Differences)モード、または、通常のまたはアフィンインターモードに対応するAMVR(Advanced Motion Vector Prediction)、のうちの少なくとも1つを有する、請求項21に記載の方法。
【請求項24】
前記テーブルにおける動き候補は、動き情報の由来を示すブロック位置情報、予測方向、参照ピクチャインデックス、動きベクトル値、強度補償フラグ、アフィンフラグ、動きベクトル差分精度、または、動きベクトル差分値の少なくとも1つを含む動き情報と関連付けられる、請求項1~23のいずれか一項に記載の方法。
【請求項25】
前記テーブルにおける前記少なくとも1つの動き候補は、前記後続のブロックの前記動き候補リストを構成している間、前記少なくとも1つの動き候補の少なくとも1つのインデックスの順にてチェックされる、請求項1~24のいずれか一項に記載の方法。
【請求項26】
前記テーブルへの前記候補の追加の前記順は、前記候補が導出されたコーディングブロックの順に基づく、請求項1~25のいずれか一項に記載の方法。
【請求項27】
プロセッサと、命令を有する非一時的メモリを有する映像処理装置であって、
前記命令は、前記プロセッサに実行された際に、前記プロセッサに、
映像の現在の映像ブロックに対する動き候補リストを構成することと、
前記動き候補リストを用いて、前記現在の映像ブロックの動き情報を決定することと、
前記決定した動き情報に基づいて、前記現在の映像ブロックをコーディングすることと、
前記決定した動き情報に対応する新たな動き候補を用いて、テーブルを更新することと、
を行わせ、
前記テーブルは、コーディングされた1以上の映像ブロックから導出された1以上の動き情報を含み、前記テーブルにおける前記動き候補のインデックスは、前記テーブルへの前記動き候補の追加の順に基づき、
前記テーブルにおける少なくとも1つの動き候補は、前記テーブルからのチェックされた動き候補の動き情報を後続の映像ブロックの動き候補に追加するかを決定するために、前記少なくとも1つの動き候補の少なくとも1つのインデックスの順にチェックされ、
前記テーブルにおける前記少なくとも1つの動き候補は、前記後続の映像ブロックを含むピクチャとは異なるピクチャに存在する時間的ブロックをチェックした後にチェックされる、映像処理装置。
【請求項28】
プロセッサに、
映像の現在の映像ブロックに対する動き候補リストを構成することと、
前記動き候補リストを用いて、前記現在の映像ブロックの動き情報を決定することと、
前記決定した動き情報に基づいて、前記現在の映像ブロックをコーディングすることと、
前記決定した動き情報に対応する新たな動き候補を用いて、テーブルを更新することと、
を行わせ、
前記テーブルは、コーディングされた1以上の映像ブロックから導出された1以上の動き情報を含み、前記テーブルにおける前記動き候補のインデックスは、前記テーブルへの前記動き候補の追加の順に基づき、
前記テーブルにおける少なくとも1つの動き候補は、前記テーブルからのチェックされた動き候補の動き情報を後続の映像ブロックの動き候補に追加するかを決定するために、前記少なくとも1つの動き候補の少なくとも1つのインデックスの順にチェックされ、
前記テーブルにおける前記少なくとも1つの動き候補は、前記後続の映像ブロックを含むピクチャとは異なるピクチャに存在する時間的ブロックをチェックした後にチェックされる、命令を格納した非一時的コンピュータ可読記憶媒体。
【請求項29】
映像のビットストリームを格納するための方法であって、
映像の現在の映像ブロックに対する動き候補リストを構成することと、
前記動き候補リストを用いて、前記現在の映像ブロックの動き情報を決定することと、
前記決定した動き情報に基づいて、前記現在の映像ブロックから前記ビットストリームを生成することと、
非一時的コンピュータ可読記録媒体に、前記ビットストリームを格納することと、
前記決定した動き情報に対応する新たな動き候補を用いて、テーブルを更新することと、
を有し、
前記テーブルは、コーディングされた1以上の映像ブロックから導出された1以上の動き情報を含み、前記テーブルにおける前記動き候補のインデックスは、前記テーブルへの前記動き候補の追加の順に基づき、
前記テーブルにおける少なくとも1つの動き候補は、前記テーブルからのチェックされた動き候補の動き情報を後続の映像ブロックの動き候補に追加するかを決定するために、前記少なくとも1つの動き候補の少なくとも1つのインデックスの順にチェックされ、
前記テーブルにおける前記少なくとも1つの動き候補は、前記後続の映像のブロックを含むピクチャとは異なるピクチャに存在する時間的ブロックをチェックした後にチェックされる、方法。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の相互参照
本願は、2018年6月29日出願の国際特許出願PCT/CN2018/093663号、2018年7月7日出願の国際特許出願PCT/CN2018/094929号、2018年8月18日出願の国際特許出願PCT/CN2018/101220、2018年11月27日に提出の国際特許出願PCT/CN2018/117627、および2019年1月10日出願の国際特許出願PCT/CN2019/071214号の優先権および利益を適時に主張することを目的とする。あらゆる目的のために、国際特許出願PCT/CN2018/093663号、国際特許出願第PCT/CN2018/094929号、国際特許出願PCT/CN2018/101220号、国際特許出願PCT/CN2018/117627号、および国際特許出願第PCT/CN2019/071214の開示の全文は、本願の開示の一部として参照により援用される。
【0002】
この特許文献は、映像符号化および復号化技術、デバイスおよびシステムに関する。
【背景技術】
【0003】
映像圧縮の進歩にもかかわらず、デジタル映像は、依然として、インターネットおよび他のデジタル通信ネットワークにおいて最大の帯域幅の使用量を占めている。映像の受信および表示が可能な接続されたユーザ機器の数が増加するにつれ、デジタル映像の使用に対する帯域幅需要は増大し続けることが期待される。
【発明の概要】
【0004】
本書は、デジタル映像を符号化および復号化するための方法、システム、およびデバイスを開示する。
【0005】
一つの例示的な態様において、映像処理方法は、1つ以上のテーブルを保持することであって、各テーブルは、1つ以上の動き候補のセットを含み、各動き候補は、対応する動き情報に関連付けられる、ことと、テーブル内の動き情報を用いて、現在のブロックと、現在のブロックを含む映像のビットストリーム表現との間で変換を行うことと、変換を行った後に、現在のブロックに関連付けられた、整数であるM個のセットの追加の動き情報に基づいて、1つ以上のテーブルを更新することと、を含むように提供される。
【0006】
別の例示的な態様において、映像処理方法は、1つ以上のテーブルを用いて、現在のブロックと現在のブロックを含む映像のビットストリーム表現との間の変換を行うことであって、各テーブルは、1つ以上の動き候補を含み、各動き候補は、対応する動き情報に関連付けられる、ことと、変換に基づいて、現在のブロックに関連付けられた追加の動き情報の、整数であるM個のセットに基づいて、1つ以上のテーブルを更新することとを行うように提供される。
【0007】
さらに別の例示的な態様において、本明細書で説明される映像符号化方法を実装する映像エンコーダ装置が開示される。
【0008】
さらに別の代表的な態様では、本明細書で説明される様々な技法は、非一時的なコンピュータ可読媒体に記憶されるコンピュータプログラム製品として実施され得る。このコンピュータプログラム製品は、本明細書に記載の方法を実行するためのプログラムコードを含む。
【0009】
さらに別の代表的な態様において、映像デコーダ装置は、本明細書で説明されるような方法を実装してもよい。
【0010】
1つ以上の実装形態の詳細は、添付の添付ファイル、図面、および以下の説明に記載されている。他の特徴は、説明および図面、並びに特許請求の範囲の記載から明らかとなろう。
【図面の簡単な説明】
【0011】
【
図1】映像エンコーダの実装形態の例を示すブロック図である。
【
図2】H.264映像符号化規格におけるマクロブロックの分割を示す。
【
図3】符号化ブロック(CB:Coding Block)を予測ブロック(PU:Prediction Block)に分割する例を示す。
【
図4】CTBをCBおよび変換ブロック(TB)に細分するための例示的な実装形態を示す。実線はCB境界を示し、点線はTB境界を示し、その分割を含むCTBの例、および対応する4分木を含む。
【
図5】映像データを分割するための4分木2分木(QTBT:Quad Tree Binary Tree)構造の一例を示す。
【
図9】マージ候補リスト構築のための導出処理の一例を示す。
【
図11】空間的マージ候補の冗長性チェックに考慮される候補対の例を示す。
【
図12】N×2Nおよび2N×Nパーティションの第2のPUの位置の例を示す。
【
図13】時間的マージ候補のための動きベクトルのスケーリングを示す。
【
図14】時間的マージ候補の候補位置とその同一位置のピクチャを示す。
【
図16】動きベクトル予測候補の導出処理の例を示す。
【
図17】空間的動きベクトル候補のための動きベクトルのスケーリングの例を示す。
【
図18】CUの動き予測のための例示的なATMVP(Alternative Temporal Motion Vector Prediction)を示す。
【
図19】ソースブロックおよびソースピクチャの識別の一例を絵で示す。
【
図20】4つのサブブロックおよび近傍のブロックを有する1つのCUの例を示す。
【
図23】FRUC(Frame Rate Up Conversion)における一方の動き推定(ME:Motion Estimation)の例を示す。
【
図24】バイラテラルテンプレートマッチングに基づくDMVRの例を示す。
【
図25】空間的マージ候補を導出するために使用する空間的に近傍のブロックの例を示す。
【
図26】ルックアップテーブル更新のための代表的な位置の選択方法の一例を示す。
【
図27A】新しい動き情報のセットでルックアップテーブルを更新する例を示す。
【
図27B】新しい動き情報のセットでルックアップテーブルを更新する例を示す。
【
図28】本明細書に記載されるビジュアルメディアの復号化またはビジュアルメディアの符号化技術を実装するためのハードウェアプラットフォームの一例を示すブロック図である。
【
図29】映像ビットストリーム処理の例示的な方法のフローチャートである。
【
図30】映像ビットストリーム処理の別の例示的な方法のフローチャートである。
【
図31】提案されたHMVP方法による復号化フローチャートの一例を示す。
【
図32】提案されるHMVP方法を用いたテーブルの更新の例を示す。
【
図33A】冗長性除去に基づくLUT更新方法(1つの冗長性動き候補を除去する)の例を示す。
【
図33B】冗長性除去に基づくLUT更新方法(1つの冗長性動き候補を除去する)の例を示す。
【
図34A】冗長性除去に基づくLUT更新方法(複数の冗長性動き候補を除去する)の例を示す。
【
図34B】冗長性除去に基づくLUT更新方法(複数の冗長性動き候補を除去する)の例を示す。
【発明を実施するための形態】
【0012】
映像の圧縮率を改善するために、研究者らは、映像を符号化する新しい技術を絶えず求めている。
【0013】
1. 導入
【0014】
本明細書は、映像符号化技術に関する。具体的には、映像符号化における動き情報の符号化(例えば、マージモード、AMVPモード)に関する。HEVCのような既存の映像符号化規格に適用してもよいし、規格(Versatile Video Coding)を確定させるために適用してもよい。本発明は、将来の映像符号化規格または映像化コーデックにも適用可能である。
【0015】
簡単な説明
【0016】
映像符号化規格は、主に周知のITU-TおよびISO/IEC規格の開発によって発展してきた。ITU-TはH.261とH.263を作り、ISO/IECはMPEG-1とMPEG-4 Visualを作り、両団体はH.262/MPEG-2 VideoとH.264/MPEG-4 AVC(Advanced Video Coding)とH.265/HEVC規格を共同で作った。H.262以来、映像符号化規格は、時間予測と変換符号化が利用されるハイブリッド映像符号化構造に基づく。典型的なHEVCエンコーダフレームワークの一例を
図1に示す。
【0017】
2.1 パーティション構造
【0018】
2.1.1 H.264/AVCにおけるパーティションツリー構造
【0019】
以前の規格における符号化層のコアは、16×16ブロックの輝度サンプルを含み、通常の4:2:0カラーサンプリングの場合、2つの対応する8×8ブロックの彩度サンプル含むマクロブロックであった。
【0020】
イントラ符号化されたブロックは、画素間の空間的相関を利用するために空間予測を使用する。2つのパーティションを規定する。16×16および4×4である。
【0021】
インター符号化されたブロックは、ピクチャ間の動きを推定することで、空間的予測の代わりに時間予測を用いる。動きは、16×16マクロブロックまたはそのサブマクロブロックパーティションのいずれかに対して独立して推定できる。16×8、8×16、8×8、8×4、4×8、4×4(
図2参照)。1つのサブマクロブロックパーティション当たり1つの動きベクトル(MV:Motion Vector)のみが許可される。
【0022】
2.1.2 HEVCにおけるパーティションツリー構造
【0023】
HEVCにおいて、CTUは、様々な局所的特徴に適応するように、符号化ツリーと呼ばれる4分木構造を用いてCUに分割される。インターピクチャ(時間的)予測またはイントラピクチャ(空間的)予測を使用する、ピクチャ領域を符号化するかどうかの決定は、CUレベルで行われる。各CUは、PU分割タイプに応じて1つ、2つまたは4つのPUに更に分割することができる。1つのPUの内部では、同じ予測処理が適用され、PU単位で関連情報がデコーダに送信される。PU分割タイプに基づく予測処理を適用して残差ブロックを得た後、CUのための符号化ツリーに類似した別の4分木構造に基づいて、CUを変換ユニット(TU)に分割することができる。HEVC構造の重要な特徴の1つは、CU、PU、TUを含む複数のパーティション概念を有することである。
【0024】
以下、HEVCを使用したハイブリッド映像符号化に関連する様々な特徴に焦点を当てる。
【0025】
1)符号化ツリーユニットおよび符号化ツリーブロック(CTB)構造。HEVCにおける類似した構造は、符号化ツリーユニット(CTU)であり、この符号化ツリーユニットは、エンコーダによって選択されたサイズを有し、従来のマクロブロックよりも大きくてもよい。CTUは、輝度CTBと、対応する彩度CTBおよび構文要素とからなる。輝度CTBのサイズL×Lは、L=16、32、または64のサンプルとして選択することができ、より大きいサイズは、一般的に、より優れた圧縮を有効にする。HEVCは、次いで、ツリー構造および4分木様の信号通知を使用して、CTBをより小さなブロックに分割することをサポートする。
【0026】
2)符号化ユニット(CU)および符号化ブロック(CB):CTUの4分木の構文は、その輝度および彩度CBのサイズおよび位置を指定する。4分木のルートはCTUに関連付けられる。従って、輝度CTBのサイズは、輝度CBに対してサポートされる最大のサイズである。CTUを輝度CBおよび彩度CBに分割することは、共に信号通知されることである。1つの輝度CBおよび通常2つの彩度CBは、関連する構文と共に、1つの符号化ユニット(CU)を形成する。CTBは、1つのCUのみを含んでもよく、または複数のCUを形成するように分割されてもよく、各CUは、それに関連付けられた予測ユニット(PU)への分割と、1つの変換ユニット(TU)のツリーとを有する。
【0027】
3)予測ユニットおよび予測ブロック(PB):インターピクチャまたはイントラピクチャ予測を使用してピクチャ領域を符号化するかどうかの決定は、CUレベルで行われる。PUの分割構造は、そのルートがCUレベルにある。基本的な予測タイプの決定に基づいて、次に、輝度および彩度CBのサイズをさらに分割し、輝度および彩度予測ブロック(PB)から予測することができる。HEVCは、64×64個のサンプルから4×4個のサンプルまでの可変PBサイズをサポートする。
図3は、M×MのCUのための許可されたPBの例を示す。
【0028】
4)TUおよび変換ブロック:予測残差は、ブロック変換を使用して符号化される。TUツリー構造は、そのルートがCUレベルにある。この輝度CB残差は、輝度変換ブロック(TB)と同一であってもよいし、小さな輝度TBにさらに分割されてもよい。彩度TBについても同様である。正方形TBサイズ4×4、8×8、16×16、および32×32に対して、離散コサイン変換(DCT)の整数基底関数に類似した整数基底関数が規定される。輝度イントラピクチャ予測残差の4×4変換のために、離散サイン変換(DST)の形式から導出される整数変換が代替的に指定される。
【0029】
図4は、CTBをCB[及び変換ブロック(TB)]に細分する例を示す。実線はCB境界を示し、点線はTB境界を示す。(a)CTBとその分割(b)対応する4分木。
【0030】
2.1.2.1 変換ブロックおよびユニットへのツリー構造の分割
【0031】
残差符号化の場合、CBは、変換ブロック(TB)に再帰的に分割することができる。この分割は、残差4分木によって信号通知される。
図4に示すように、1つのブロックを再帰的に象限に分割することができるように、正方形のCBおよびTBの分割のみを指定する。サイズM×Mの所与の輝度CBに対して、フラグは、それがサイズM/2×M/2の4つのブロックに分割されるかどうかを信号通知する。さらなる分割が可能である場合、SPSに示される残留4分木の最大深さによって信号通知されるように、各象限には、それが4つの象限に分割されているかどうかを示すフラグが割り当てられる。残差4分木の結果得られる葉ノードブロックは、変換符号化によってさらに処理される変換ブロックである。エンコーダは、それが使用することになる最大輝度TBサイズおよび最小輝度TBサイズを示す。CBサイズが最大TBサイズよりも大きい場合、分割は非明示的に行われる。分割により、示された最小値よりも小さい輝度TBサイズとなる場合、分割は、非明示的に行われない。輝度TBサイズが4×4である場合を除き、彩度TBサイズは、各次元において輝度TBサイズの半分であり、この場合、4つの4×4輝度TBによって覆われる領域には1つの4×4彩度TBが使用される。イントラピクチャ予測CUの場合、最近の近傍のTB(CB内またはCB外)の復号サンプルを、イントラピクチャ予測のための参照データとして用いる。
【0032】
従来の規格とは対照的に、HEVC設計により、インターピクチャ予測CUのために1つのTBが複数のPBにまたがることが可能となり、4分木構造のTBの分割の潜在的な符号化効率の利点が最大となる。
【0033】
2.1.2.2 親子ノード
【0034】
CTBは、4分木構造に基づいて分割され、そのノードは符号化ユニットである。4分木構造における複数のノードは、葉ノードおよび非葉ノードを含む。葉ノードは、ツリー構造内に子ノードを持たない(すなわち、葉ノードはそれ以上分割されない)。非葉ノードは、ツリー構造のルートノードを含む。ルートノードは、映像データの最初の映像ブロック(例えば、CTB)に対応する。複数のノードのうちのそれぞれの非ルートノードにおいて、それぞれの非ルートノードは、それぞれの非ルートノードのツリー構造における親ノードに対応する映像ブロックのサブブロックである映像ブロックに対応する。複数の非葉ノードのそれぞれの非葉ノードは、ツリー構造において1つ以上の子ノードを有する。
【0035】
2.1.3 JEMにおけるより大きいCTUを有する4分木+2分木ブロック構造
【0036】
HEVCを超えた将来の映像符号化技術を探索するため、2015年には、VCEGとMPEGが共同でJVET(Joint Video Exploration Team)を設立した。それ以来、多くの新しい方法がJVETによって採用され、JEM(Joint Exploration Mode)と呼ばれる参照ソフトウェアに組み込まれてきた。
【0037】
2.1.3.1 QTBTブロックの分割構造
【0038】
HEVCとは異なり、QTBT構造は、複数のパーティションタイプの概念を削除する。すなわち、CU、PU、TUのコンセプトの切り離しを取り除き、CUパーティションの形状の柔軟性を向上させる。QTBTブロック構造において、CUは正方形または長方形のいずれかを有することができる。
図5に示すように、まず、符号化ツリーユニット(CTU)を4分木構造で分割する。4分木の葉ノードは、2分木構造によってさらに分割される。2分木の分割には、対称水平分割と対称垂直分割の2つの分割タイプがある。2分木の葉ノードは、符号化ユニット(CU)と呼ばれ、このセグメント化は、それ以上の分割を行うことなく、予測および変換処理に使用される。これは、QTBTの符号化ブロック構造において、CU、PUおよびTUが同じブロックサイズを有することを意味する。JEMにおいて、CUは、しばしば異なる色成分の符号化ブロック(CB)からなり、例えば、4:2:0彩度フォーマットのPおよびBスライスの場合、1つのCUは1つの輝度CBおよび2つの彩度CBを含み、また、CUは、しばしば単一の成分のCBからなり、例えば、Iスライスの場合、1つのCUは、1つの輝度CBのみ、または、2つの彩度CBのみを含む。
【0039】
QTBT分割スキームに対して以下のパラメータを規定する。
-CTUのサイズ:1つの4分木のルートノードのサイズ、HEVCと同じ概念
-MinQTSize:最小許容の4分木の葉ノードサイズ
-MaxBTSize:最大許容の2分木ルートノードサイズ
-MaxBTDepth:最大許容の2分木の深さ
-MinBTSize:最小許容の2分木の葉ノードのサイズ
【0040】
QTBTの分割構造の一例において、CTUのサイズを、2つの対応する64×64ブロックの彩度サンプルを有する128×128の輝度サンプルとして設定し、MinQTSizeを16×16として設定し、MaxBTSizeを64×64として設定し、MinBTSize(幅および高さの両方について)を4×4として設定し、MaxBTDepthを4として設定する。4分木の分割は、まずCTUに適用され、4分木の葉ノードを生成する。4分木の葉ノードのサイズは、16×16(即ち、MinQTSize)から128×128(即ち、CTUサイズ)までのサイズを有することが可能である。葉4分木のノードが128×128である場合、サイズがMaxBTSize(すなわち、64×64)を超えるため、2分木によってさらに分割されない。そうでない場合、葉4分木のノードは、2分木によってさらに分割されることができる。従って、この4分木の葉ノードは、2分木のルートノードでもあり、その2分木の深さは0である。2分木の深さがMaxBTDepth(すなわち、4)に達した場合、それ以上の分割は考慮されない。2分木のノードの幅がMinBTSize(すなわち、4)に等しい場合、それ以上の水平分割は考慮されない。同様に、2分木のノードの高さがMinBTSizeに等しい場合、それ以上の垂直分割は考慮されない。2分木の葉ノードは、さらに分割することなく、予測および変換処理によってさらに処理される。JEMにおいて、最大CTUサイズは、256×256個の輝度サンプルである。
【0041】
図5(左)はQTBTを用いたブロックの分割の例を示し、
図5(右)は対応するツリー表現を示す。実線は4分木の分割を表し、点線は2分木の分割を表す。2分木の各分割(即ち、非葉)ノードにおいて、1つのフラグが、どの分割タイプ(即ち、水平または垂直)が使用されるかを示すために信号通知される。ここで、0は、水平分割を表し、1は、垂直分割を表す。4分木の分割の場合、4分木の分割は常にブロックを水平および垂直に分割し、等分したサイズの4つのサブブロックを生成するため、分割タイプを示す必要はない。
【0042】
さらに、QTBT方式は、輝度および彩度が別個のQTBT構造を有する能力をサポートする。現在、PおよびBスライスの場合、1つのCTUにおける輝度および彩度CTBは、同じQTBT構造を共有する。しかしながら、Iスライスの場合、輝度CTBはQTBT構造によってCUに分割され、彩度CTBは別のQTBT構造によって彩度CUに分割される。これは、1つのIスライスにおける1つのCUが1つの輝度成分の1つの符号化ブロックまたは2つの彩度成分の1つの符号化ブロックからなり、1つのPまたはBスライスにおける1つのCUが3つの色成分すべての符号化ブロックからなることを意味する。
【0043】
HEVCにおいて、小さなブロックのためのインター予測は、動き補償のメモリアクセスを低減するために制限され、その結果、4×8および8×4ブロックのために双方向予測はサポートされず、4×4ブロックのためにインター予測はサポートされない。JEMのQTBTにおいて、これらの制限は取り除かれる。
【0044】
2.1.4 VVCの3分木
【0045】
[6]に提案されているように、4分木および2分木以外のツリータイプがサポートされている。本実装形態において、
図6(d)、(e)に示すように、3分木(TT)パーティションを2つ以上、すなわち、水平および垂直の中心側の3分木を導入する。
【0046】
図6は、(a)4分木分割、(b)垂直2分木分割、(c)水平2分木分割、(d)垂直中心側3分木分割、(e)水平中心側3分木分割を示す。
【0047】
[6]において、木のレベルは、領域ツリー(4分木)と予測ツリー(2分木または3分木)の2つである。CTUは、まず、領域ツリー(RT)によって分割される。RT葉は、予測ツリー(PT)によってさらに分割されてもよい。PT葉はまた、最大PT深さに達するまで、PTでさらに分割されてもよい。PT葉が基本符号化ユニットである。便宜上、ここでもCUと呼ぶ。1つのCUをさらに分割することはできない。予測および変換は両方ともJEMと同様にCUに適用される。パーティション構造全体を「マルチタイプツリー」と呼ぶ。
【0048】
2.1.5 分割構造の例
【0049】
この応答で使用されるツリー構造は、マルチツリータイプ(Multi-Tree Type:MTT)と呼ばれ、QTBTを一般化したものである。QTBTにおいて、
図5に示すように、まず、符号化ツリーユニット(CTU)を4分木構造で分割する。4分木の葉ノードは、2分木構造によってさらに分割される。
【0050】
MTTの基本構造は、2つのタイプのツリーノードを構成する。
図7に示すように、領域ツリー(RT)および予測ツリー(PT)は、9つのタイプのパーティションをサポートする。
【0051】
図7は、(a)4分木分割、(b)垂直2分木分割、(c)水平2分木分割、(d)垂直3分木分割、(e)水平3分木分割、(f)水平上方非対称2分木分割、(g)水平下方非対称2分木分割、(h)垂直左非対称2分木分割、(i)垂直右非対称2分木分割を示す。
【0052】
1つの領域ツリーは、1つのCTUを4×4サイズの領域ツリーの葉ノードになるように正方形のブロックに再帰的に分割することができる。領域ツリーにおける各ノードにおいて、予測ツリーは、2分木(BT)、3分木(TT)、および非対称2分木(ABT)の3つのツリータイプのうちの1つから成形されることができる。PT分割において、予測ツリーの枝に4分木のパーティションを有することは禁止される。JEMにおけるように、輝度ツリーおよび彩度ツリーは、I個のスライスに分けられる。RTおよびPTの信号通知方法を
図8に示す。
【0053】
2.2 HEVC/H.265におけるインター予測
【0054】
各インター予測されたPUは、1つまたは2つの参照ピクチャリストのための動きパラメータを有する。動きパラメータは、動きベクトルおよび参照ピクチャインデックスを含む。2つの参照ピクチャリストのうちの1つの参照ピクチャリストの使用は、inter_pred_idcを使用して信号通知されてもよい。動きベクトルは、予測因子に関連する差分として明確に符号化されてもよく、このような符号化モードは、AMVPモードと呼ばれる。
【0055】
1つのCUがスキップモードにて符号化される場合、1つのPUがこのCUに関連付けられ、有意な残差係数がなく、符号化された動きベクトル差分も参照ピクチャインデックスもない。マージモードを指定し、これにより、現在のPUのための動きパラメータを、空間的および時間的候補を含む近傍のPUから取得する。マージモードは、スキップモードのためだけでなく、任意のインター予測されたPUに適用することができる。マージモードの代替としては、動きパラメータの明確な送信であり、各参照ピクチャリストおよび参照ピクチャリストの使用に対する参照ピクチャインデックスに対応する動きベクトルをPUごとに明確に信号通知することである。
【0056】
2つの参照ピクチャリストのうちの1つを使用することを信号通知が示す場合、サンプルのうちの1つのブロックからPUを生成する。これを「単一予測」と呼ぶ。PスライスおよびBスライスの両方に対して単一予測が利用可能である。
【0057】
両方の参照ピクチャリストを使用することを信号通知が示す場合、サンプルのうちの2つのブロックからPUを生成する。これを「双方向予測」と呼ぶ。Bスライスのみに双方向予測が利用可能である。
【0058】
以下、HEVCに規定されるインター予測モードについて詳細に説明する[2]。まず、マージモードについて説明する。
【0059】
2.2.1 マージモード
【0060】
2.2.1.1 マージモードの候補の導出
【0061】
マージモードを使用してPUを予測する場合、ビットストリームからマージ候補リストにおけるエントリを指すインデックスを構文解析し、これを使用して動き情報を検索する。このリストの構成は、HEVC規格で規定されており、以下のステップのシーケンスに基づいてまとめることができる。
・ステップ1:初期候補の導出
oステップ1.1:空間的候補の導出
oステップ1.2:空間的候補の冗長性チェック
oステップ1.3:時間的候補の導出
・ステップ2:追加候補の挿入
oステップ2.1:双方向予測候補の作成
oステップ2.2:動きゼロ候補の挿入
【0062】
これらのステップは
図9にも概略的に示されている。空間的マージ候補の導出のために、5つの異なる位置にある候補の中から最大4つのマージ候補を選択する。時間的マージ候補の導出のために、2つの候補の中から最大1つのマージ候補を選択する。デコーダ側ではPUごとに一定数の候補を想定しているので、候補数がスライスヘッダで信号通知されるマージ候補の最大数(MaxNumMergeCand)に達しない場合、追加候補を生成する。候補の数は一定であるので、最良マージ候補のインデックスは、短縮された単項2値化(TU:truncated unary binarization)を使用して符号化される。CUのサイズが8に等しい場合、現在のCUのすべてのPUは、2N×2N予測ユニットのマージ候補リストと同じ1つのマージ候補リストを共有する。
【0063】
以下、上述したステップに関連付けられた動作を詳しく説明する。
【0064】
2.2.1.2 空間的候補の導出
【0065】
空間的マージ候補の導出において、
図10に示す位置にある候補の中から、最大4つのマージ候補を選択する。導出の順序はA
1、B
1、B
0、A
0、B
2である。位置A
1、B
1、B
0、A
0のいずれかのPUが利用可能でない場合(例えば、別のスライスまたはタイルに属しているため)、またはイントラ符号化された場合にのみ、位置B
2が考慮される。位置A1の候補を加えた後、残りの候補を加えると、冗長性チェックを受け、それにより、同じ動き情報を有する候補を確実にリストから排除でき、符号化効率を向上させることができる。計算の複雑性を低減するために、前述の冗長性チェックにおいて、考えられる候補対のすべてを考慮することはしない。代わりに、
図11において矢印でリンクされた対のみを考慮し、冗長性チェックに使用される対応する候補が同じ動き情報を有していない場合にのみ、その候補をリストに加える。重複した動き情報の別のソースは、2N×2Nとは異なるパーティションに関連付けられた「第2のPU」である。一例として、
図12は、それぞれN×2Nおよび2N×Nの場合の第2のPUを示す。現在のPUをN×2Nに分割する場合、リスト構成に位置A
1の候補は考慮されない。実際、この候補を加えることにより、同じ動き情報を有する2つの予測ユニットが導かれることとなり、1つの符号化ユニットに1つのPUのみを有することは冗長である。同様に、現在のPUを2N×Nに分割する場合、位置B
1は考慮されない。
【0066】
2.2.1.3 時間的候補の導出
【0067】
このステップにおいて、1つの候補のみがリストに追加される。具体的には、この時間的マージ候補の導出において、所与の参照ピクチャリストにおける現在のピクチャとの間に最小のPOC差を有するピクチャに属する同一位置のPU(co-located PU)に基づいて、スケーリングされた動きベクトルを導出する。スライスヘッダにおいて、同一位置のPUの導出に用いられる参照ピクチャリストが明確に信号通知される。
図13に点線で示すように、時間的マージ候補のスケーリングされた動きベクトルが得られる。これは、POC距離tbおよびtdを利用して、同一位置PUの動きベクトルからスケーリングしたものである。tbは、現在のピクチャの参照ピクチャと現在のピクチャのPOC差として規定され、tdは、同一位置のPUの参照ピクチャと同一位置のピクチャのPOC差として規定する。時間的マージ候補の参照ピクチャインデックスをゼロに等しく設定する。このスケーリング処理の実際的な実現については、HEVC仕様に記載されている。Bスライスの場合、2つの動きベクトル、即ち、1つは参照ピクチャリスト0のためのもの、もう1つは参照ピクチャリスト1のためのものを取得し、これらを組み合わせることによって、双方向予測マージ候補を形成する。時間的マージ候補のための動きベクトルのスケーリングの説明。
【0068】
参照フレームに属する同一位置のPU(Y)において、
図14に示すように、候補C
0と候補C
1との間で時間的候補の位置を選択する。位置C
0のPUが利用可能でない場合、イントラ符号化されている場合、または現在のCTUの外側にある場合、位置C
1が使用される。そうでない場合、位置C
0が時間的マージ候補の導出に使用される。
【0069】
2.2.1.4 追加候補の挿入
【0070】
空間的-時間的マージ候補の他に、2つの追加のタイプのマージ候補、すなわち、結合双方向予測マージ候補およびゼロマージ候補がある。空間的-時間的マージ候補を利用して、結合双方向予測マージ候補を生成する。結合双方向予測マージ候補は、Bスライスのみに使用される。最初の候補の第1の参照ピクチャリスト動きパラメータと別の候補の第2の参照ピクチャリスト動きパラメータとを組み合わせることで、結合双方向予測候補を生成する。これら2つのタプルが異なる動きの仮説を提供する場合、これらのタプルは、新しい双方向予測候補を形成する。一例として、
図15は、オリジナルリスト(左側)における、mvL0およびrefIdxL0、またはmvL1およびrefIdxL1を有する2つの候補を用いて、最終リスト(右側)に加えられる結合双方向予測マージ候補を生成する場合を示す。これらの追加のマージ候補を生成するために考慮される組み合わせについては、様々な規則が存在する。
【0071】
ゼロ動き候補を挿入し、マージ候補リストにおける残りのエントリを埋めることにより、MaxNumMergeCand容量にヒットする。これらの候補は、空間的変位がゼロであり、新しいゼロ動き候補をリストに加える度にゼロから始まり増加する参照ピクチャインデックスを有する。これらの候補が使用する参照フレームの数は、それぞれ、一方向予測の場合は1つ、双方向予測の場合は2つである。最終的には、これらの候補に対して冗長性チェックは行われない。
【0072】
2.2.1.5 並列処理のための動き推定領域
【0073】
符号化理を高速化するために、動き推定を並列に行うことができ、それによって、所与の領域内のすべての予測ユニットの動きベクトルを同時に導出する。1つの予測ユニットは、その関連する動き推定が完了するまで、隣接するPUから動きパラメータを導出することができないので、空間的近傍からのマージ候補の導出は、並列処理に干渉する可能性がある。符号化効率と処理待ち時間との間のトレードオフを緩和するために、HEVCは、動き推定領域(MER:Motion Estimation Region)を規定し、そのサイズは、「log2_parallel_merge_level_minus2」構文要素を使用してピクチャパラメータセットにおいて信号通知される。1つのMERを規定するとき、同じ領域にあるマージ候補は使用不可としてマークされ、それゆえにリスト構築においては考慮されない。
7.3.2.3 ピクチャパラメータセットRBSP構文
7.3.2.3.1 一般ピクチャパラメータセットRBSP構文
【0074】
【0075】
log2_parallel_merge_level_minus2+2は、8.5.3.2.2.2節で指定されたマージモードの輝度動きベクトルの導出処理と、8.5.3.2.3節で指定された空間的マージ候補の導出処理で使用される変数Log2ParMrgLevelの値を指定する。log2_parallel_merge_level_minus2の値は、0~CtbLog2SizeY-2を含む範囲内とする。
変数Log2ParMrgLevelは、以下のように導出される。
Log2ParMrgLevel=log2_parallel_merge_level_minus2+2 (7-37)
注3:Log2ParMrgLevelの値は、マージ候補リストを並列に導出する組み込み能力を示す。例えば、Log2ParMrgLevelが6に等しい場合、64×64ブロックに含まれたすべての予測ユニット(PU)および符号化ユニット(CU)のためのマージ候補リストを並列に導出することができる。
【0076】
2.2.2 AMVPモードにおける動きベクトル予測
【0077】
動きベクトル予測は、動きベクトルと近傍のPUとの間の空間的-時間的相関を利用し、これを動きパラメータの明確な伝送に用いる。まず、左側、上側の時間的に近傍のPU位置の可用性をチェックし、冗長な候補を取り除き、ゼロベクトルを加えることで、候補リストの長さを一定にすることで、動きベクトル候補リストを構築する。次いで、エンコーダは、候補リストから最良の予測因子を選択し、選択された候補を示す対応するインデックスを送信することができる。マージインデックスの信号通知と同様に、最良の動きベクトル候補のインデックスは、短縮された単項を使用して符号化される。この場合のエンコーディング対象の最大値は2である(例えば、
図2~
図8)。以下の章では、動きベクトル予測候補の導出処理の詳細を説明する。
【0078】
2.2.2.1 動きベクトル予測候補の導出
【0079】
図16に、動きベクトル予測候補の導出処理をまとめる。
【0080】
動きベクトル予測において、空間的動きベクトル候補と時間的動きベクトル候補という2つのタイプの動きベクトル候補が考慮される。空間的動きベクトル候補の導出のために、
図11に示したように、5つの異なる位置にある各PUの動きベクトルに基づいて、最終的には2つの動きベクトル候補を導出する。
【0081】
時間的動きベクトル候補の導出のために、2つの異なる同一位置の配置に基づいて導出された2つの候補から1つの動きベクトル候補を選択する。空間的-時間的候補の最初のリストを作成した後、リストにおける重複した動きベクトル候補を除去する。可能性のある候補の数が2よりも多い場合、関連づけられた参照ピクチャリストにおける参照ピクチャインデックスが1よりも大きい動きベクトル候補をリストから削除する。空間的―時間的動きベクトル候補の数が2未満である場合は、追加のゼロ動きベクトル候補をリストに加える。
【0082】
2.2.2.2 空間的動きベクトル候補
【0083】
空間的動きベクトル候補の導出において、
図11に示したような位置にあるPUから導出された5つの可能性のある候補のうち、動きマージと同じ位置にあるものを最大2つの候補を考慮する。現在のPUの左側のための導出の順序は、A
0、A
1、スケーリングされたA
0、スケーリングされたA
1として規定される。現在のPUの上側のための導出の順序は、B
0、B
1、B
2、スケーリングされたB
0、スケーリングされたB
1、スケーリングされたB
2として規定される。そのため、辺ごとに、動きベクトル候補として使用できる場合が4つ、すなわち空間的スケーリングを使用する必要がない2つの場合と、空間的スケーリングを使用する2つの場合とがある。4つの異なる場合をまとめると、以下のようになる。
・空間的スケーリングなし
-(1)同じ参照ピクチャリスト、かつ、同じ参照ピクチャインデックス(同じPOC)
-(2)異なる参照ピクチャリスト、かつ、同じ参照ピクチャ(同じPOC)
・空間的スケーリング
-(3)同じ参照ピクチャリスト、かつ、異なる参照ピクチャ(異なるPOC)
-(4)異なる参照ピクチャリスト、かつ、異なる参照ピクチャ(異なるPOC)
【0084】
最初に非空間的スケーリングの場合をチェックし、次に空間的スケーリングを行う。参照ピクチャリストにかかわらず、POCが近傍のPUの参照ピクチャと現在のPUの参照ピクチャとで異なる場合、空間的スケーリングを考慮する。左側候補のすべてのPUが利用可能でないか、またはイントラ符号化されている場合、上側の動きベクトルのスケーリングは、左側および上側のMV候補の並列導出に役立つ。そうでない場合、上側の動きベクトルに対して空間的スケーリングは許可されない。
【0085】
空間的スケーリング処理において、
図17に示すように、時間的スケーリングと同様にして、近傍のPUの動きベクトルをスケーリングする。主な違いは、現在のPUの参照ピクチャリストおよびインデックスを入力として与え、実際のスケーリング処理は時間的スケーリングと同じであることである。
【0086】
2.2.2.3 時間的動きベクトル候補
【0087】
参照ピクチャインデックスを導出する以外は、時間的マージ候補を導出するための処理は、すべて、空間的動きベクトル候補を導出するための処理と同じである(
図6参照)。参照ピクチャインデックスはデコーダに信号通知される。
【0088】
2.2.2.4 AMVP情報の信号通知
【0089】
AMVPモードの場合、ビットストリームにおいて、4つの部分、すなわち、予測方向、参照インデックス、MVD、およびmv予測因子候補インデックスが信号通知される。
構文テーブル:
【0090】
【0091】
7.3.8.9 動きベクトル差構文
【0092】
【0093】
2.3 JEM(Joint Exploration Model)における新しいインター予測方法
【0094】
2.3.1 サブCUに基づく動きベクトル予測
【0095】
QTBTを有するJEMにおいて、各CUは、各予測方向に対して最大1つの動きパラメータのセットを有することができる。エンコーダにおいて、大きなCUをサブCUに分割し、大きなCUのすべてのサブCUの動き情報を導出することにより、2つのサブCUレベルの動きベクトル予測方法を考慮する。ATMVP(Alternative Temporal Motion Vector Prediction)方法により、各CUが、配列された参照ピクチャにおける現在のCUよりも小さい複数のブロックから複数の動き情報のセットをフェッチすることが可能となる。STMVP(Spatial-Temporal Motion Vector Prediction)法において、時間的動きベクトル予測因子および空間的近傍動きベクトルを使用して、サブCUの動きベクトルを再帰的に導出する。
【0096】
サブCU動き予測のためにより正確な動きフィールドを維持するために、参照フレームの動き圧縮は現在無効にされている。
【0097】
2.3.1.1 代替の時間的動きベクトル予測
【0098】
ATMVP(Alternative Temporal Motion Vector Prediction)において、TMVP(Temporal Motion Vector Prediction)法は、現在のCUより小さいブロックから複数セットの動き情報(動きベクトルおよび参照インデックスを含む)をフェッチすることで修正される。
図18に示すように、サブCUは、正方形のN×Nブロックである(デフォルトでは、Nは4に設定される)。
【0099】
ATMVPは、CU内のサブCUの動きベクトルを2つのステップで予測する。第1のステップは、参照ピクチャにおける対応するブロックを、いわゆる時間的ベクトルで特定することである。この参照ピクチャを動きソースピクチャと呼ぶ。第2のステップは、
図18に示すように、現在のCUをサブCUに分割し、各サブCUに対応するブロックから各サブCUの動きベクトルならびに参照インデックスを取得する。
【0100】
第1のステップにおいて、現在のCUの空間的に近傍のブロックの動き情報によって、参照ピクチャおよび対応するブロックを決定する。近傍のブロックの繰り返し走査処理を回避するために、現在のCUのマージ候補リストにおける最初のマージ候補を用いる。第1の利用可能な動きベクトルおよびその関連する参照インデックスを、時間的ベクトルおよび動きソースピクチャのインデックスに設定する。このように、ATMVPでは、TMVPに比べて、対応するブロックをより正確に特定することができ、対応するブロック(配列されたブロックと呼ばれることがある)は、常に現在のCUに対して右下または中心位置にある。1つの例において、最初のマージ候補が左側の近傍のブロック(即ち、
図19のA
1)からのものである場合、関連するMVおよび参照ピクチャを利用して、ソースブロックおよびソースピクチャを特定する。
【0101】
図19は、ソースブロックおよびソースピクチャの特定の例を示す。
【0102】
第2のステップにおいて、現在のCUの座標に時間ベクトルを加えることで、動きソースピクチャにおける時間的ベクトルによって、サブCUの対応するブロックを特定する。サブCUごとに、その対応するブロックの動き情報(中心サンプルを覆う最小の動きグリッド)を使用して、サブCUの動き情報を導出する。対応するN×Nブロックの動き情報を特定した後、HEVCのTMVPと同様に、現在のサブCUの動きベクトルおよび参照インデックスに変換され、動きスケーリングや他の手順が適用される。例えば、デコーダは、低遅延条件(すなわち、現在のピクチャのすべての参照ピクチャのPOCが現在のピクチャのPOCよりも小さい)が満たされているかどうかをチェックし、場合によっては、動きベクトルMVx(参照ピクチャリストXに対応する動きベクトル)を使用して、各サブCUの動きベクトルMVy(Xが0または1に等しく、Yが1-Xに等しい)を予測する。
【0103】
2.3.1.2 空間的-時間的動きベクトル予測
【0104】
この方法において、サブCUの動きベクトルは、ラスタスキャンの順に沿って再帰的に導出される。
図20にこの概念を示す。4つの4×4サブCUであるA、B、C、およびDを含む8×8CUを考える。現在のフレームの近傍の4×4ブロックには、a、b、c、dというラベルが付けられている。
【0105】
サブCU Aの動き導出は、その2つの空間的近傍を特定することで始まる。第1の近傍は、サブCUのAの上のN×Nブロックである(ブロックc)。このブロックcが利用可能でないか、またはイントラ符号化されている場合、サブCU Aより上の他のN×Nブロックをチェックする(ブロックcから始まり、左から右へ)。第2の近傍は、サブCUのAの左側のブロックである(ブロックb)。ブロックbが利用可能でないか、またはイントラ符号化されている場合、サブCU Aの左側の他のブロックをチェックする(ブロックbから始まり、上から下へ)。各リストの近傍のブロックから得られた動き情報を、所与のリストの第1の参照フレームにスケーリングする。次に、HEVCに規定されているTMVP(Temporal Motion Vector Predictor)導出と同様の手順に従って、サブブロックAのTMVPを導出する。位置Dにおける配列されたブロックの動き情報をフェッチし、それに応じてスケーリングする。最後に、動き情報を検索し、スケーリングした後、参照リストごとにすべての利用可能な動きベクトル(3まで)を別々に平均する。この平均化された動きベクトルを現在のサブCUの動きベクトルとする。
【0106】
図20は、4つのサブブロック(A-D)およびその近傍のブロックを有する1つのCUの例を示す。
【0107】
2.3.1.3 サブCU動き予測モード信号通知
【0108】
サブCUモードは追加のマージ候補として有効とされ、モードを信号通知するために追加の構文要素は必要とされない。ATMVPモードおよびSTMVPモードを表すように、各CUのマージ候補リストに2つの追加のマージ候補を加える。シーケンスパラメータセットがATMVPおよびSTMVPが有効であることを示す場合、7個までのマージ候補を使用する。追加のマージ候補の符号化ロジックは、HMにおけるマージ候補の場合と同じであり、つまり、PまたはBスライスにおける各CUについて、2つの追加のマージ候補に対して2回以上のRDチェックが必要となる。
【0109】
JEMにおいて、マージインデックスのすべてのビンは、CABACによって符号化されたコンテキストである。一方、HEVCにおいては、最初のビンのみが符号化されたコンテキストであり、残りのビンはバイパス符号化されたコンテキストである。
【0110】
2.3.2 適応型動きベクトル差分解像度
【0111】
HEVCにおいて、use_integer_mv_flagがスライスヘッダにおいて0であるとき、1/4輝度サンプルの単位で動きベクトル差分(MVD:Motion Vector Difference)(動きベクトルとPUの予測動きベクトルとの差)が信号通知される。JEMにおいて、LAMVR(Locally Adaptive Motion Vector Resolution)が導入される。JEMにおいて、MVDは、1/4輝度サンプル、整数輝度サンプル、または4つの輝度サンプルの単位で符号化できる。MVD解像度は符号化ユニット(CU)レベルで制御され、MVD解像度フラグは、少なくとも1つの非ゼロMVDの構成要素を有する各CUに対して条件付きで信号通知される。
【0112】
少なくとも1つの非ゼロMVDの構成要素を有するCUの場合、1/4輝度サンプルMV精度がCUにおいて使用されるか否かを示すために、第1のフラグが信号通知される。第1のフラグ(1に等しい)が、1/4輝度サンプルMV精度が使用されていないことを示す場合、整数輝度サンプルMV精度が使用されるかまたは4輝度サンプルMV精度が使用されるかを示すために、別のフラグが信号通知される。
【0113】
CUの第1のMVD解像度フラグがゼロであるか、またはCUに対して符号化されていない(つまり、CUにおけるすべてのMVDがゼロである)場合、CUに対して1/4輝度サンプルMV解像度が使用される。CUが整数輝度サンプルMV精度または4輝度サンプルMV精度を使用する場合、CUのAMVP候補リストにおけるMVPを対応する精度に丸める。
【0114】
エンコーダにおいて、CUレベルのRDチェックは、どのMVD解像度をCUに用いるかを決定するために用いられる。すなわち、1つのMVD解像度ごとに3回、CUレベルのRDチェックを行う。エンコーダの速度を速めるために、JEMにおいては、以下の符号化方式が適用される。
【0115】
通常の1/4輝度サンプルMVD解像度を有するCUのRDチェック中、現在のCUの動き情報(整数輝度サンプル精度)が記憶される。整数輝度サンプルおよび4輝度サンプルのMVD解像度を有する同じCUのRDチェック中に、記憶された動き情報(丸められた後)は、更なる小範囲の動きベクトル改良の開始点として使用されるので、時間がかかる動き推定処理が3回重複しない。
【0116】
4輝度サンプルMVD解像度を有するCUのRDチェックを条件付きで呼び出す。CUの場合、整数輝度サンプルMVD解像度のRDコストが1/4輝度サンプルMVD解像度のそれよりもはるかに大きい場合、CUのための4輝度サンプルMVD解像度のRDチェックは省略される。
【0117】
2.3.3 パターンマッチング動きベクトルの導出
【0118】
PMMVD(Pattern Matched Motion Vector Derivation)モードは、FRUC(Frame-Rate Up Conversion)技術に基づく特殊マージモードである。このモードでは、ブロックの動き情報は信号通知されず、デコーダ側で導出される。
【0119】
そのマージフラグが真である場合、FRUCフラグは、CUに信号通知される。FRUCフラグが偽である場合、マージインデックスは信号通知され、通常のマージモードが使用される。FRUCフラグが真である場合、追加のFRUCモードフラグを信号通知して、どの方法(バイラテラルマッチングまたはテンプレートマッチング)を使用してブロックの動き情報を導出するかを示す。
【0120】
エンコーダ側では、CUのためにFRUCマージモードを使用するかどうかの決定は、通常のマージ候補に対して行われるのと同じように、RDコスト選択に基づく。つまり、RDコスト選択を使用して、1つのCUに対して2つのマッチングモード(バイラテラルマッチングおよびテンプレートマッチング)を両方チェックする。最小コストに導くものが、更に、他のCUモードと比較される。FRUCマッチングモードが最も効率的なものである場合、CUに対してFRUCフラグを真に設定し、関連するマッチングモードを使用する。
【0121】
FRUCマージモードにおける動き導出処理は、2つのステップを有する。まず、CUレベルの動き探索を実行し、次に、サブCUレベルの動き改良を実行する。CUレベルでは、バイラテラルマッチングまたはテンプレートマッチングに基づいて、CU全体のための初期の動きベクトルを導出する。まず、MV候補のリストを生成し、最小マッチングコストに導く候補を、さらなるCUレベル改善の開始点として選択する。そして、開始点付近のバイラテラルマッチングまたはテンプレートマッチングに基づく局所検索を行い、最小マッチングコストとなるMV結果をCU全体のMVとする。続いて、導出されたCU動きベクトルを開始点として、サブCUレベルでの動き情報をさらに改良する。
【0122】
例えば、W×H CU動き情報導出のために、以下の導出処理を行う。第1のステージにおいて、W×H CU全体のためのMVが導出される。第2のステージにおいて、CUは、M×MのサブCUにさらに分割される。Mの値は、(16)のように計算されるが、Dは、予め定義された分割深さであり、JEMにおいてデフォルトで3に設定される。そして、各サブCUのMVを導出する。
【0123】
【0124】
図21に示すように、このバイラテラルマッチングは、2つの異なる参照ピクチャにおける現在のCUの動き軌跡に沿った2つのブロック間の最も近いマッチングを見出すことにより、現在のCUの動き情報を導出するために用いられる。連続した動き軌跡を仮定すると、2つの参照ブロックを指す動きベクトルMV0およびMV1は、現在のピクチャと2つの参照ピクチャとの間の時間的距離、例えばTD0およびTD1に比例する。特殊なケースとしては、現在のピクチャが時間的に2つの参照ピクチャの間にあり、現在のピクチャから2つの参照ピクチャまでの時間的な距離が同じである場合、バイラテラルマッチングはミラーに基づく双方向MVとなる。
【0125】
図22に示すように、現在のピクチャにおけるテンプレート(現在のCUの上側および/または左側の近傍のブロック)と、参照ピクチャにおけるブロック(テンプレートと同じサイズ)との間の最も近いマッチングを見出すことで、テンプレートマッチングを使用して、現在のCUの動き情報を導出する。前述のFRUCマージモード以外に、テンプレートマッチングは、AMVPモードにも適用される。JEMにおいて、HEVCと同様、AMVPは2つの候補を有する。テンプレートマッチング法を用いることで、新しい候補を導出する。テンプレートマッチングによって新規に導出された候補が、第1の既存のAMVP候補と異なる場合、AMVP候補リストの最初に挿入し、次に、リストサイズを2(第2の既存のAMVP候補を取り除くことを意味する)に設定する。AMVPモードに適用される場合、CUレベル検索のみが適用される。
【0126】
2.3.3.1 CUレベルMV候補セット
【0127】
CUレベルのMV候補セットは、以下からなる。
(i)現在のCUがAMVPモードになっている場合の元のAMVP候補
(ii)すべてのマージ候補、
(iii)補間MVフィールド内の複数のMV。
(iv)上と左の近傍の動きベクトル
【0128】
バイラテラルマッチングを使用する場合、マージ候補の各有効なMVを入力として使用して、バイラテラルマッチングを仮定してMV対を生成する。例えば、マージ候補の1つの有効なMVは、参照リストAにおいて(MVa,refa)である。そして、その対をなすバイラテラルMVの参照ピクチャrefbが他の参照リストBにおいて見出され、refaおよびrefbは、時間的に現在のピクチャの異なる側にある。参照リストBにおいてこのようなrefbが利用可能でない場合、refbをrefaとは異なる参照として決定し、現在のピクチャとの時間的距離はリストBにおける最小値である。refbを決定した後、現在のピクチャとrefa,refbとの時間的距離に基づいてMVaをスケーリングすることでMVbを導出する。
【0129】
補間されたMVフィールドからの4つのMVもCUレベル候補リストに追加する。より具体的には、現在のCUの位置(0,0)、(W/2,0)、(0,H/2)、(W/2,H/2)の補間MVを加算する。
【0130】
AMVPモードでFRUCを適用する場合、元のAMVP候補をCUレベルMV候補セットにも加える。
【0131】
CUレベルにおいて、AMVP CUのための最大15個のMVおよびマージCUのための最大13個のMVを候補リストに加える。
【0132】
2.3.3.2 サブCUレベルMV候補セット
【0133】
サブCUレベルのMV候補セットは、以下からなる。
(i)CUレベルの検索から決定されたMV、
(ii)上、左、左上、右上の近傍のMV、
(iii)参照ピクチャからの並置されたMVのスケーリングされたバージョン、
(iv)最大4つのATMVP候補、
(v)最大4つのSTMVP候補
【0134】
参照ピクチャからのスケーリングされたMVは、以下のように導出される。両方のリストにおける参照ピクチャをすべてトラバースする。参照ピクチャにおけるサブCUの配列位置にあるMVは、開始CUレベルMVの参照に対してスケーリングされる。
【0135】
ATMVPおよびSTMVPの候補は、最初の4つの候補に限定される
【0136】
サブCUレベルにおいて、最大17個のMVが候補リストに追加される。
【0137】
2.3.3.3 補間MVフィールドの生成
【0138】
フレームを符号化する前に、一方のMEに基づいてピクチャ全体に対して補間動きフィールドを生成する。そして、この動きフィールドを後にCUレベルまたはサブCUレベルのMV候補として使用してもよい。
【0139】
まず、両方の参照リストにおける各参照ピクチャの動きフィールドは、4×4ブロックレベルでトラバースされる。各4×4ブロックにおいて、現在のピクチャ(
図23に示す)の4×4ブロックを通過するブロックに関連する動きで、補間動きがまだ割り当てられていない場合、時間的距離TD0およびTD1に基づいて(HEVCにおけるTMVPのMVスケーリングと同様に)、参照ブロックの動きを現在のピクチャにスケーリングし、スケーリングされた動きを現在のフレームのブロックに割り当てる。4×4ブロックにスケーリングされたMVが割り当てられていない場合、ブロックの動きは、補間された動きフィールドにおいて利用不可能であるとマークされる。
【0140】
2.3.3.4 補間およびマッチングコスト
【0141】
1つの動きベクトルが1つの分数のサンプル位置を指す場合、動きの補償された補間が必要である。複雑性を低減するために、通常の8タップHEVC補間の代わりに、バイラテラルマッチングおよびテンプレートマッチングの両方に双線形補間を使用する。
【0142】
マッチングコストの計算は、異なるステップでは少し異なる。CUレベルの候補セットから候補を選択する場合、マッチングコストは、バイラテラルマッチングまたはテンプレートマッチングの差分の絶対値の和(SAD)である。開始MVを決定した後、サブCUレベル検索におけるバイラテラルマッチングのマッチングコストCを以下のように算出する。
【0143】
【0144】
ここで、wは、経験的に4に設定された重み係数であり、MVおよびMVSは、それぞれ、現在のMVおよび開始MVを示す。SADは、依然として、サブCUレベル検索におけるテンプレートマッチングのマッチングコストとして使用される。
【0145】
FRUCモードにおいて、MVは、輝度サンプルのみを使用することによって導出される。導出された動きは、MCインター予測のために、輝度および彩度の両方に使用される。MVを決定した後、輝度用の8タップ補間フィルタおよび彩度用の4タップ補間フィルタを使用して、最終的なMCを行う。
【0146】
2.3.3.5 MVの改良
【0147】
MV改良は、バイラテラルマッチングコストまたはテンプレートマッチングコストの基準を有するパターンに基づくMV検索である。JEMでは、2つの検索パターン、即ち、UCBDS(Unrestricted Center-Biased Diamond Search)およびCUレベルおよびサブCUレベルでのMV改良のための適応的横断検索をそれぞれサポートする。CUおよびサブCUレベルのMV改善の両方のために、MVは、1/4輝度サンプルMVの正確度で直接検索され、これに続いて1/8輝度サンプルMVの改良が行われる。CUおよびサブCUステップのためのMV改良の検索範囲は、8つの輝度サンプルに等しく設定される。
【0148】
2.3.3.6 テンプレートマッチングFRUCマージモードにおける予測方向の選択
【0149】
バイラテラルマッチングマージモードにおいては、2つの異なる参照ピクチャにおける現在のCUの動き軌跡に沿った2つのブロック間の最も近いマッチングに基づいて、CUの動き情報を導出するため、双方向予測が常に適用される。テンプレートマッチングマージモードについては、そのような限定はない。テンプレートマッチングマージモードにおいて、エンコーダは、list0からの単一予測、list1からの単一予測、またはCUのための双方向予測のうちから選択することができる。選択は、テンプレートマッチングコストに基づいて、以下のように行う。
costBi≦factor*min(cost0,cost1)の場合
双方向予測を用いる。
それ以外の場合において、cost0≦cost1の場合
list0からの単一予測を用いる。
そうでない場合、
list1からの単一予測を用いる。
【0150】
ここで、cost0はlist0テンプレートマッチングのSADであり、cost1はlist1テンプレートマッチングのSADであり、costBiは双予測テンプレートマッチングのSADである。factorの値が1.25である場合、選択処理が双方向予測に偏っていることを意味する。このインター予測方向選択は、CUレベルのテンプレートマッチング処理にのみ適用される。
【0151】
2.3.4 デコーダ側動きベクトル改良
【0152】
双方向予測演算において、1つのブロック領域を予測するために、list0の動きベクトル(MV)およびlist1のMVをそれぞれ使用して構成される2つの予測ブロックを組み合わせ、1つの予測信号を形成する。DMVR(Decoder-side Motion Vector Refinement)方法において、バイラテラルテンプレートマッチング処理によって、双方向予測の2つの動きベクトルをさらに改良する。追加の動き情報を送信することなく改良されたMVを得るために、デコーダにおいてバイラテラルテンプレートマッチングを適用し、バイラテラルテンプレートと参照ピクチャにおける再構成サンプルとの間の歪みに基づく検索を行う。
【0153】
DMVRにおいて、
図23に示すように、list0の最初のMV0とlist1のMV1とから、それぞれ、2つの予測ブロックの重み付け結合(すなわち、平均)としてバイラテラルテンプレートを生成する。テンプレートマッチング操作は、生成されたテンプレートと参照ピクチャにおけるサンプル領域(最初の予測ブロックの付近)との間のコスト尺度を計算することからなる。2つの参照ピクチャの各々について、テンプレートコストが最小となるMVを、そのリストの更新されたMVと見なし、元のMVに置き換える。JEMにおいて、各リストに対して9つのMV候補を検索する。9つのMV候補は、元のMVと、水平または垂直方向のいずれかまたは両方向に元のMVに対してオフセットしている1つの輝度サンプルを有する8つの周囲のMVを含む。最後に、2つの新しいMV、即ち、
図24に示すようなMV0’およびMV1’を使用して、最終的な双方向予測結果を生成する。差分の絶対値の和(SAD)をコスト尺度として使用する。
【0154】
DMVRは、追加の構文要素を送信することなく、過去の参照ピクチャからの1つのMVと、将来の参照ピクチャからの1つのMVとの間の双方向予測のマージモードに適用される。JEMにおいて、CUに対してLIC、アフィン動き、FRUCまたはサブCUマージ候補が有効である場合、DMVRは適用されない。
【0155】
2.3.5 バイラテラルマッチングの改良を伴うマージ/スキップモード
【0156】
まず、利用可能な候補の数が最大候補サイズ19に達するまで、空間的に近傍のブロックおよび時間的に近傍のブロックの動きベクトルおよび参照インデックスを冗長性チェック付き候補リストに挿入することで、マージ候補リストを構築する。マージ/スキップモードのマージ候補リストは、予め規定された挿入順に基づいて、HEVC(結合候補およびゼロ候補)に用いられる空間的候補(
図11)、時間的候補、アフィン候補、ATMVP(Advanced Temporal MVP)候補、STMVP(Spatial Temporal MVP)候補、および追加候補を挿入することで構築される。
【0157】
-ブロック1~4の空間的候補
【0158】
-ブロック1~4の外挿アフィン候補
【0159】
-ATMVP
【0160】
-STMVP
【0161】
-仮想アフィン候補
【0162】
-空間的候補(ブロック5)(利用可能な候補の数が6よりも少ない場合にのみ使用される)。
【0163】
-外挿アフィン候補(ブロック5)
【0164】
-時間的候補(HEVCのように導出)
【0165】
-外挿アフィン候補に続く非隣接空間的候補(
図25に示すブロック6~49)。
【0166】
-結合候補
【0167】
-ゼロ候補
【0168】
なお、ICフラグは、STMVPおよびアフィンを除き、マージ候補から継承される。また、最初の4つの空間的候補について、双方向予測のものを単一予測のものの前に挿入する。
【0169】
[8]において、現在のブロックに接続されていないブロックにアクセスすることができる。非隣接ブロックが非イントラモードで符号化されている場合、関連する動き情報を追加のマージ候補として追加してもよい。
【0170】
3. 本明細書に開示される実施形態が解決しようとする課題の例
【0171】
現在のHEVC設計は、動き情報をよりよく符号化するために、現在のブロックの近傍のブロック(現在のブロックの隣)の相関をとることができる。しかしながら、近傍のブロックが、異なる動き軌跡を有する異なる対象に対応する可能性がある。この場合、その近傍のブロックからの予測は効率的ではない。
【0172】
非隣接ブロックの動き情報からの予測は、全ての動き情報(一般的には4×4レベル)をキャッシュに記憶するコストをかけることになり、付加的な符号化利得をもたらし、ハードウェア実装の複雑性を大幅に増大させる。
【0173】
4. いくつかの例
【0174】
本開示の技術の実施形態は、既存の実装の欠点を克服し、それにより、より高い符号化効率を有する映像符号化を提供する。
【0175】
既存の実装形態の欠点を克服するために、様々な実施形態において、ブロックの動き情報を予測するために、少なくとも1つの動き候補が記憶された1つ以上のテーブル(例えばルックアップテーブル)を使用するLUTに基づく動きベクトル予測技術を実装し、より高い符号化効率を有する映像符号化を提供することができる。ルックアップテーブルは、ブロックの動き情報を予測するために動き候補を含める際に使用できるテーブルの一例であり、他の実装形態も可能である。各LUTは、それぞれが対応する動き情報に関連付けられた1つ以上の動き候補を含んでもよい。動き候補の動き情報は、予測方向、参照インデックス/ピクチャ、動きベクトル、LICフラグ、アフィンフラグ、MVD(Motion Vector Derivation)精度、および/またはMVD値の一部または全部を含んでもよい。動き情報は、動き情報がどこに由来しているかを示すために、ブロック位置情報をさらに含んでもよい。
【0176】
開示される技術に基づいたLUTに基づく動きベクトル予測は、既存のおよび将来の映像符号化規格の両方を向上させることができ、様々な実施形態のために以下の例で解明される。LUTは、履歴データ(例えば、既に処理されたブロック)に基づいて符号化/復号化処理を行うことを可能にするため、LUTに基づく動きベクトル予測は、HMVP(History-based Motion Vector Prediction)法と呼ぶこともできる。LUTに基づく動きベクトル予測方法において、以前に符号化されたブロックからの動き情報を有する1つまたは複数のテーブルは、符号化/復号化処理の間、維持される。LUTに記憶されたこれらの動き候補をHMVP候補と称する。1つのブロックの符号化/復号化の間、LUTにおける関連付けられた動き情報を動き候補リスト(例えば、マージ/AMVP候補リスト)に追加して、1つのブロックを符号化/復号化した後に、LUTを使用してもよい。更新されたLUTは、その後、後続のブロックを符号化するために用いられる。つまり、LUTにおける動き候補の更新は、ブロックの符号化/復号化の順に基づく。以下の例は、一般的な概念を説明するための例であると考えられるべきである。これらの例は狭い意味で解釈されるべきではない。さらに、これらの例は、任意の方法で組み合わせることができる。
【0177】
以下の実施例は、一般的な概念を説明するための例であると考えられるべきである。これらの例は狭い意味で解釈されるべきではない。さらに、これらの例は、任意の方法で組み合わせることができる。
【0178】
いくつかの実施形態において、1つのブロックの動き情報を予測するために、少なくとも1つの動き候補が記憶された1つ以上のルックアップテーブルを用いてもよい。実施形態は、動き候補を用いて、ルックアップテーブルに記憶された動き情報のセットを示すことができる。従来のAMVPまたはマージモードの場合、実施形態では、動き情報を記憶するためにAMVPまたはマージ候補を使用してもよい。
【0179】
以下の実施例は、一般的な概念を説明する。
【0180】
テーブルの例
【0181】
例A1:各ルックアップテーブルは、各候補がその動き情報に関連付けられた1つ以上の動き候補を含んでもよい。
a.動き候補の動き情報は、予測方向、参照インデックス/ピクチャ、動きベクトル、LICフラグ、アフィンフラグ、MVD精度、MVD値の一部または全部を含んでもよい。
b.動き情報は、動き情報がどこに由来しているかを示すために、ブロック位置情報および/またはブロック形状をさらに含んでもよい。
c.ルックアップテーブルごとに1つのカウンタをさらに割り当ててもよい。
d.テーブルのサイズ(許可される動き候補の数)および/またはテーブルの数は、固定であってもよいし、適応的であってもよい。テーブルのサイズは、すべてのテーブルで同じであってもよいし、異なるテーブルで異なってもよい。
【0182】
LUTの選択
【0183】
例B1:1つのブロックを符号化する場合、1つのルックアップテーブルからの動き候補の一部または全部を順にチェックすることができる。1つのブロックをコーディングする間に1つの動き候補をチェックするとき、この動き候補を動き候補リスト(例えば、AMVP、マージ候補リスト)に加えてもよい。
【0184】
ルックアップテーブルの使用法
【0185】
例C1:チェック対象のルックアップテーブルにおける動き候補の総数は、予め規定されてもよい。
【0186】
例C2:1つのルックアップテーブルに含まれる1つ以上の動き候補は、1つのブロックによって直接継承されてもよい。
a.それらをマージモード符号化に使用してもよい。すなわち、マージ候補リスト導出処理において動き候補をチェックしてもよい。
【0187】
例C3:ルックアップテーブルに含まれる動き候補は、ブロックの動き情報を符号化するための予測モジュールとして用いられてもよい使用してもよい。
a.それらをAMVPモード符号化に使用してもよい。すなわち、AMVP候補リスト導出処理において動き候補をチェックしてもよい。
【0188】
例C4:ルックアップテーブルにおける動き候補のチェック順序は、以下のように規定される(K(K≧1)個の動き候補をチェックすることができるとする):
a.ルックアップテーブルにおける最後のK個の動き候補は、例えば、LUTへのエントリインデックスの降順に配列される。
【0189】
例C5:1つのブロックの動き情報符号化のためのルックアップテーブルの使用の有効/無効は、SPS、PPS、スライスヘッダ、タイルヘッダ、CTU、CTB、CU、またはPU、複数のCTU/CTB/CU/PUを含む領域において信号通知されてもよい。
【0190】
例C6:ルックアップテーブルからの予測を適用するかどうかは、さらに符号化情報に依存してもよい。1つのブロックに適用しないと推測される場合、予測の指示の追加の信号通知はスキップされる。代替的に、1つのブロックに適用しないと推測される場合、ルックアップテーブルの動き候補にアクセスする必要はなく、関連する動き候補のチェックは省略される。
【0191】
例C7:以前符号化されたフレーム/スライス/タイルにおけるルックアップテーブルの動き候補は、異なるフレーム/スライス/タイルにおけるブロックの動き情報を予測するために用いられてもよい。
【0192】
ルックアップテーブルの更新
【0193】
例D1:動き情報を有するブロックを符号化した後(すなわち、IntraBCモード、インター符号化モード)に、1つ以上のルックアップテーブルを更新してもよい。
a.一例において、ルックアップテーブルを更新するかどうかは、ルックアップテーブルを選択する規則を再利用してもよく、例えば、現在のブロックを符号化/復号化するためにルックアップテーブルを選択することができる場合、ブロックを符号化/復号化した後、選択されたルックアップテーブルをさらに更新してもよい。
b.更新対象のルックアップテーブルは、符号化情報および/またはブロック/LCUの位置に基づいて選択されてもよい。
c.ブロックが直接信号通知された動き情報で符号化される場合(例えば、AMVPモード、通常/アフィンインターモードのMMVDモード、通常/アフィンインターモードのAMVRモード)、ブロックの動き情報をルックアップテーブルに加えられてよい。
i.代替的に、ブロックが、いかなる改良も伴わずに、空間的に近傍のブロックから直接継承された動き情報で符号化される場合(例えば、改良を伴わない空間的マージ候補)、ブロックの動き情報をルックアップテーブルに加えるべきではない。
ii.代替的に、ブロックが、改良を行って、空間的に近傍のブロックから直接継承された動き情報で符号化される場合(DMVR、FRUCなど)、ブロックの動き情報をいかなるルックアップテーブルにも加えるべきではない。
iii.代替的に、ブロックが、ルックアップテーブルに記憶された動き候補から直接継承された動き情報で符号化されている場合は、ブロックの動き情報は、いかなるルックアップテーブルにも加えるべきではない。
iv.一例において、このような動き情報は、テーブルの最後のエントリまたは次の利用可能な動き候補を記憶するために用いられるエントリ等のように、ルックアップテーブルに直接加えられてもよい。
v.代替的に、このような動き情報は、プルーニングせずに、例えば、いかなるプルーニングもせずに、ルックアップテーブルに直接加えられてもよい。
vi.代替的に、このような動き情報は、ルックアップテーブルを再配列するために使用してもよい。
vii.代替的に、このような動き情報を使用して、制限付きのプルーニングでルックアップテーブルを更新してもよい。様々な実装形態において、プルーニングは、a)動き情報と既存のエントリとを一意性のために比較すること、b)一意である場合、動き情報をリストに追加すること、c)一意でない場合、c1)動き情報を追加しない、または、c2)一致した既存のエントリを削除することを含んでもよい。
d.ブロック内のM(M≧1)個の代表位置を選択し、この代表位置に関連付けられた動き情報を使用してルックアップテーブルを更新する。
i.一例において、代表位置は、ブロック内の4つのコーナー位置(例えば、
図26のC0~C3)のうちの1つとして規定される。
ii.一例において、代表位置は、ブロック内の中心位置(例えば、
図26におけるCa_Cd)として規定される。
iii.ブロックに対してサブブロック予測が許可されない場合、Mは1に設定される。
iv.サブブロック予測がブロックに対して許可される場合、Mは、1又はサブブロックの総数、又は1とサブブロックの数の間の一意の値に排他的に設定され得る。
v.代替的に、ブロックのためにサブブロック予測を許可する場合、Mを1に設定することができ、代表的なサブブロックの選択は、以下に基づいて行われる。
1.利用される動き情報の周波数
2.双方向予測ブロックであるかどうか
3.参照ピクチャインデックス/参照ピクチャに基づいて
4.他の動きベクトルと比較した動きベクトルの差分(例えば、最大MV差を選択する)
5.他の符号化情報
e.M(M≧1)個の代表位置のセットを選択してルックアップテーブルを更新する場合、これらを追加の動き候補としてルックアップテーブルに加える前に、更なる条件をチェックしてよい。
i.ルックアップテーブルにおける既存の動き候補に対して、新たな動き情報のセットをプルーニングしてもよい。
ii.一例において、新しい動き情報のセットは、ルックアップテーブルにおける既存の動き候補のいずれかまたは一部と同一であってはならない。
iii.代替的に、新しい動き情報のセットおよび1つの既存の動き候補からの同じ参照ピクチャの場合、MVの差は、1/複数の閾値以上でなければならない。例えば、MV差の水平および/または垂直の構成要素は、1ピクセルの距離よりも大きくなければならない。
iv.代替的に、K>Lである場合、新しい動き情報のセットを、最後のK個の候補または最初のK%L個の既存の動き候補によってのみプルーニングし、古い動き候補を再びアクティブにすることができるようにする。
v.代替的に、プルーニングは適用しない。
f.動き情報のM個のセットがルックアップテーブルを更新するために用いられる場合、対応するカウンタをMだけ増加させるべきである。
g.現在のブロックを符号化する前に、このブロックを符号化した後、選択された動き情報の1つのセットに対して、更新対象のルックアップテーブルのカウンタをKとする(上記の方法で、K%Lに等しいインデックスを有する追加の動き候補として加える(ここで、Lはルックアップテーブルのサイズである))。その例を
図27Aおよび
図27Bに示す。
i.代替的に、それは、min(K+1,L-1)に等しいインデックスを有する追加の動き候補として追加される。代替的に、更に、K≧Lである場合、最初の動き候補(インデックス=0)をルックアップテーブルから取り除き、後続のK個の候補インデックスを1だけ減らす。
ii.上記両方の方法(K%Lに等しいエントリインデックスに新しい動き候補を加えるか、またはmin(K+1,L-1)に等しいインデックスを加える)の場合、同じ/類似した動き候補が存在するかどうかに関わらず、それらは、前に符号化されたブロックからの動き情報の最新の数セットを保持しようとしている。
iii.代替的に、動き情報の新しいセットを動き候補としてLUTに追加する場合、まず冗長性チェックを行う。この場合、LUTは以前に符号化されたブロックからの動き情報の最新のいくつかのセットを保持するが、冗長な動き情報がLUTから除去されてもよい。このような方法を、冗長性除去に基づくLUT更新方法と呼ぶ。
1.LUTに重複した動き候補が存在する場合、LUTに関連付けられたカウンタを増加させてもよいし、減少させてもよい。
2.この冗長チェックは、例えば、参照ピクチャ/参照ピクチャのインデックスが同じであり、且つ動きベクトルの差分が範囲内にあるかまたは同一であるかをチェックすることなど、マージ候補リスト構築処理におけるプルーニング処理として規定されてもよい。
3.LUT内に冗長動き候補が見つかった場合、その冗長動き候補を現在の位置からLUTの最後の位置に移動させる。
a.同様に、LUT内に冗長動き候補が見つかった場合、この冗長動き候補をLUTから取り除く。また、冗長動き候補の後にLUTに挿入されたすべての動き候補は、前方に移動し、除去された冗長動き候補のエントリを再び満たす。シフトした後、新しい動き候補をLUTに加える。
b.この場合、カウンタは変更されないままである。
c.LUTにおいて冗長動き候補を特定した後、冗長チェック処理を終了する。
4.複数の冗長動き候補を特定されてよい。この場合、それらのすべてをLUTから削除する。また、残りの動き候補は、すべて順に前方に移動してもよい。
a.この場合、カウンタを(冗長動き候補の数-1)だけ減少させる。
b.maxR個の冗長動き候補(maxRは正の整数変数)を特定した後、冗長チェック処理を終了する。
5.冗長性チェック処理は、1つ目の動き候補から最後の動き候補まで(即ち、LUTに付加された順に、動き情報の由来するブロックの復号化処理の順に)行ってよい。
6.代替的に、LUTに冗長動き候補がある場合、冗長なものを1つまたは複数個取り除く代わりに、冗長なものから仮想動き候補を導出し、この仮想動き候補を使用して冗長なものを置き換えてもよい。
a.仮想動き候補は、1つ以上の動きベクトルの水平および/または垂直の構成要素にオフセットを加えることで、または同じ参照ピクチャを指している場合には2つの動きベクトルの平均値を加えることで、冗長動き候補から導出されてもよい。代替的に、仮想動き候補は、ルックアップテーブルにおける動きベクトルを入力とする任意の関数から導出されてもよい。例示的な関数は以下の通りである。2つ以上の動きベクトルを足し合わせること、2つまたは複数の動きベクトルを平均すること。動きベクトルは、関数に入力される前にスケーリングされてもよい。
b.なお、冗長動き候補と同じ位置に仮想動き候補を加えてもよい。
c.他のすべての動き候補の前に、仮想動き候補を追加してもよい(例えば、最小のエントリインデックスから始まり、例えば、ゼロ)。
d.一例において、現在のLUTが満杯でない場合など、特定の条件下でのみ適用される。
7.冗長性除去に基づくLUT更新方法は、以下のような特定の条件下で呼び出されてもよい。
a.現在のブロックはマージモードで符号化されている。
b.現在のブロックはAMVPモードで符号化されているが、MV差の少なくとも1つの構成要素が非ゼロである。
c.現在のブロックがサブブロックベースの動き予測/動き補償方法で符号化されているか、または符号化されていない(例えば、アフィンモードで符号化されていない)。
d.現在のブロックはマージモードで符号化され、動き情報はあるタイプ(例えば、空間的に近傍のブロックから、左の近傍のブロックから、時間的ブロックから)に関連付けられている。
h.1つのブロックを符号化/復号化した後、1つ以上のルックアップテーブルは、動き情報のM個のセットをテーブルの末端、すなわち、既存の候補のすべての後に挿入するだけで、更新されてもよい。
i.代替的に、さらに、テーブルにおける既存の動き候補をいくつか削除してもよい。
1.一例において、動き情報のM個のセットを挿入した後、テーブルが満杯である場合、最初のいくつかの動き候補のエントリをテーブルから削除してよい。
2.一例において、動き情報のM個のセットを挿入する前にテーブルが満杯である場合、動き候補の最初のいくつかのエントリをテーブルから削除してよい。
ii.代替的に、さらに、ブロックがテーブルからの動き候補で符号化されている場合、選択された動き候補をテーブルの最後のエントリに入れるように、テーブルにおける動き候補を再配列してもよい。
1.1つの例において、ブロックを符号化/復号化する前に、ルックアップテーブルには、HMVP
0,HMVP
1,HMVP
2,・・・,HMVP
K-1,HMVP
K,HMVP
K+1,・・・,HMVP
L-1で示される動き候補が含まれていてもよく、HMVP
iは、ルックアップテーブルのi番目のエントリを示す。ブロックがHMVP
Kから予測されている場合(Kが包含的に[0,L-1]の範囲内にある場合)、このブロックを符号化/復号化した後、ルックアップテーブルは、HMVP
0,HMVP
1,HMVP
2,・・・,HMVP
K-1,HMVP
K,HMVP
K+1,・・・,HMVP
L-1,HMVP
Kに再配列される。
i.1つのイントラ制約ブロックを符号化した後、ルックアップテーブルを空にしてもよい。
j.動き情報のエントリをルックアップテーブルに追加する場合、動き情報からの導出により、動き情報のより多くのエントリをテーブルに追加してもよい。この場合、ルックアップテーブルに関連付けられたカウンタを1より大きい数だけ増加させてよい。
i.一例において、動き情報のエントリのMVをスケーリングし、テーブルに入れる。
ii.一例において、動き情報のエントリのMVは、(dx,dy)を加算され、テーブルに入れられる。
iii.一例において、2つ以上の動き情報のエントリのMVの平均を計算し、テーブルに入れる。
【0194】
例D2:1つのブロックが1つのピクチャ/スライス/タイルの境界に位置する場合、ルックアップテーブルの更新は常に許可されない。
【0195】
例D3:現在のLCUの行を符号化するために、上側のLCUの行の動き情報を無効にしてもよい。
a.この場合、新しいスライス/タイル/LCUの行の始まりにおいて、利用可能な動き候補の数を0にリセットしてもよい。
【0196】
例D4:新しい時間層インデックスを使用してスライス/タイルの符号化の開始時に、利用可能な動き候補の数を0にリセットしてよい。
【0197】
例D5:ルックアップテーブルは、同じ時間層インデックスを有する1つのスライス/タイル/LCUの行/スライスで連続的に更新されてもよい。
a.代替的に、ルックアップテーブルは、各S(S≧1)個のCTU/CTB/CU/CBを符号化/復号化した後、または特定の領域(例えば、8×8または16×16に等しいサイズ)を符号化/復号化した後にのみ更新されてもよい。
b.代替的に、ルックアップテーブルは、特定のモード(例えば、S個のインター符号化ブロック)を有する各S(S≧1)個のブロック(例えば、CU/CB)を符号化/復号化した後にのみ更新されてもよい。代替的に、ルックアップテーブルは、サブブロックに基づく動き予測/動き補償方法で符号化されていない(例えば、アフィンおよび/またはATMVPモードで符号化されていない)各S(S≧1)個のインター符号化ブロック(例えば、CU/CB)を符号化/復号化した後にのみ更新されてもよい。
c.代替的に、符号化/復号化されたブロックの左上座標が何らかの条件を満たす場合にのみ、ルックアップテーブルを更新してもよい。例えば、ルックアップテーブルは、(x&M==0)&(y&M==0)の場合にのみ更新され、ここで、(x,y)は、符号化/復号化されたブロックの左上座標である。Mは、2、4、8、16、32、または64などの整数である。
d.代替的に、1つのルックアップテーブルは、最大許容カウンタに達すると、更新を停止してもよい。
e.一例において、カウンタは予め規定されてもよい。代替的に、VPS(Video Parameter Set)、SPS(Sequence Parameter Set)、PPS(Picture Parameter Set)、スライスヘッダ、タイルヘッダ、CTU(Coding Tree Unit)、CTB(Coding Tree Block)、CU(Coding Unit)またはPU(Prediction Unit)、複数のCTU/CTB/CU/PUをカバーする領域で信号通知される。
【0198】
例D6:ルックアップテーブル更新処理は、異なる手順内で呼び出されてもよい。
a.一例において、マージモードで符号化されたブロックの場合、ルックアップテーブル更新処理は、マージ候補を復号化した後であってもよいし、マージリストを構築した後であってもよく、または動き情報を改良して、および/または改良せずに復号化した後であってもよい。
b.一例において、AMVPで符号化されたブロックの場合、ルックアップテーブル更新処理は、動き情報を改良して、および/または改良せずに復号化した後であってもよい。
c.ルックアップテーブルをいつおよび/またはどのように更新するかは、符号化モード、ブロック寸法、映像処理データユニット、低遅延チェック等に依存してよい。
i.一例において、1つのブロックがAMVPモードで符号化される場合、プルーニングせずに、ルックアップテーブルを直接更新してもよい。
ii.代替的に、1つのブロックがマージモードで符号化される場合、プルーニングによってルックアップテーブルを更新してもよい。
iii.代替的に、1つのブロックがマージモードで符号化され、その動き情報が空間的ブロックおよび/または時間的ブロックから導出される場合、ルックアップテーブルはプルーニングによって更新されてもよい。
iv.代替的に、1つのブロックをマージモードで符号化し、その動き情報がルックアップテーブルにおける動き候補から導出される場合、プルーニングせずにルックアップテーブルを再配列してもよい。
v.代替的に、1つのブロックをマージモードで符号化し、その動き情報がルックアップテーブルにおける仮想候補(例えば、バイ、ペア、ゼロ動きベクトル候補の組み合わせ)から導出される場合、ルックアップテーブルは更新されなくてもよい。
vi.代替的に、1つのブロックがサブブロックマージモードおよび/または三角マージモードで符号化される場合、ルックアップテーブルは更新されなくてもよい。
vii.代替的に、1つのブロックをMMVD(Merge with Motion Vector Differences)モードで符号化し、その動き情報が空間的ブロックおよび/または時間的ブロックから導出される場合、ルックアップテーブルを直接更新してもよい。
viii.一例において、1つのブロックが、IC(Illumination Compensation:照明補償)モードおよび/またはOBMC(Overlapped Block Motion Compensation)モードおよび/またはDMVD(Decode-side Motion Vector Derivation)モードで符号化される場合、ルックアップテーブルは、更新されなくてもよい。代替的に、このようなモードで1つのブロックを符号化する場合、ルックアップテーブルを更新してもよい。
【0199】
追加の例示的な実施形態
【0200】
以前符号化されたブロックの動き情報としてHMVP候補を規定する、HMVP(History-based MVP)方法が提案される。符号化/復号化処理中、複数のHMVP候補を有するテーブルが維持される。新しいスライスに遭遇した場合、テーブルは空になる。インター符号化されたブロックがあるときはいつでも、関連する動き情報を新しいHMVP候補としてテーブルの最後のエントリに加える。全体の符号化フローを
図31に示す。
【0201】
一例において、テーブルサイズはL(例えば、L=16または6、または44)に設定され、これは、最大L個のHMVP候補をテーブルに追加することができることを示す。
【0202】
1つの実施形態(例D1.g.iに対応する)において、以前符号化されたブロックからのHMVP候補がL個よりも多く存在する場合、テーブルが常に最新の以前符号化されたL個の動き候補を含むように、先入れ先出し(FIFO:First-In-First-Out)規則が適用される。
図32は、FIFO規則を適用してHMVP候補を除去し、提案される方法で使用されるテーブルに新しいものを追加する例を示す。
【0203】
別の実施形態(例D1.g.iiiに対応する)において、新しい動き候補を追加するときはいつでも(例えば、現在のブロックがインター符号化され、非アフィンモードであるなど)、まず、冗長性チェック処理を適用し、LUTに同じまたは類似した動き候補があるかどうかを識別する。
【0204】
いくつかの例を以下に示す。
【0205】
図33Aは、新しい動き候補を追加する前に、LUTが満杯であった場合の例を示す。
【0206】
図33Bは、新しい動き候補を追加する前に、LUTが満杯でない場合の例を示す。
【0207】
図33Aおよび
図33Bは、ともに、冗長性除去に基づくLUT更新方法(1つの冗長性動き候補を除去する)の例を示す。
【0208】
図34Aおよび
図34Bは、冗長性除去に基づくLUT更新方法(複数の冗長性動き候補を除去する、図では2つの候補を示す)の2つの場合の例示の実装形態を示す。
【0209】
図34Aは、新しい動き候補を追加する前に、LUTが満杯であった場合の例を示す。
【0210】
図34Bは、新しい動き候補を追加する前に、LUTが満杯でない場合の例を示す。
【0211】
HMVP候補は、マージ候補リスト構築処理において使用され得る。TMVP候補の後に、テーブルにおける最後のエントリから最初のエントリ(または最後のK0のHMVP、例えば、K0=16または6)までのすべてのHMVP候補を挿入する。HMVP候補に対してプルーニングを適用する。利用可能なマージ候補の総数が信号通知された最大許容マージ候補に達すると、マージ候補リスト構築処理を終了する。代替的に、加算された動き候補の総数が、所与の値に達すると、LUTからの動き候補の取り出しを終了する。
【0212】
同様に、HMVP候補は、AMVP候補リスト構築処理において使用されてもよい。TMVP候補の後に、テーブルにおける最後のK1個のHMVP候補の動きベクトルを挿入する。AMVP対象参照ピクチャと同じ参照ピクチャを有するHMVP候補のみを用いて、AMVP候補リストを構築する。HMVP候補に対してプルーニングを適用する。一例において、K1は4に設定される。
【0213】
図28は、映像処理装置2800のブロック図である。装置2800は、本明細書に記載の方法の1つ以上を実装するために使用してもよい。装置2800は、スマートフォン、タブレット、コンピュータ、IoT(Internet of Things)受信機等により実装されてよい。装置2800は、1つ以上のプロセッサ2802と、1つ以上のメモリ2804と、映像処理ハードウェア2806と、を含んでよい。1つまたは複数のプロセッサ2802は、本明細書に記載される1つ以上の方法を実装するように構成されてもよい。1または複数のメモリ2804は、本明細書で説明される方法および技術を実装するために使用されるデータおよびコードを記憶するために使用してもよい。映像処理ハードウェア2806は、本明細書に記載される技術をハードウェア回路にて実装するために用いられてもよい。
【0214】
図29は、映像復号化方法2900の例のフローチャートである。方法2900は、ステップ2902において、1つ以上のテーブルを維持することを含み、各テーブルは、1つ以上の動き候補のセットを含み、各動き候補は、対応する動き情報に関連付けられる。方法2900は、さらに、ステップ2904において、テーブルの中の動き情報を使用して現在のブロックと、現在のブロックを含む映像のビットストリーム表現との間で変換を行うことを含む。方法2900は、さらに、ステップ2906において、変換を実行した後、現在のブロックに関連付けられた追加の動き情報の、整数であるM個のセットに基づいて、1つ以上のテーブルを更新することを含む。
【0215】
図30は、映像復号化方法3000の例のフローチャートである。方法3000は、ステップ3002において、1つ以上のテーブルを使用して現在のブロックと現在のブロックを含む映像のビットストリーム表現との間の変換を行うことを含み、各テーブルは、1つ以上の動き候補を含み、各動き候補は、対応する動き情報に関連付けられている。方法3000は、さらに、ステップ3004において、変換に基づいて、現在のブロックに関連付けられた追加の動き情報の、整数であるM個のセットに基づいて、1つ以上のテーブルを更新することを含む。
【0216】
方法2900および3000に対して、いくつかの実施形態において、動き情報は、予測方向、参照ピクチャインデックス、動きベクトル値、強度補償フラグ、アフィンフラグ、動きベクトル差精度または動きベクトル差分値のうち少なくとも1つを含む。さらに、動き情報は、動き情報のソースを示すブロック位置情報をさらに含んでもよい。いくつかの実施形態において、映像ブロックはCUまたはPUであってよく、映像の一部は1つ以上の映像スライスまたは1つ以上の映像ピクチャに対応してよい。
【0217】
いくつかの実施形態において、各LUTは、関連するカウンタを含み、このカウンタは、この映像のこの部分の最初においてゼロ値に初期化され、この映像のこの部分における各符号化された映像領域ごとに増加される。この映像領域は、符号化ツリーユニット、符号化ツリーブロック、符号化ユニット、符号化ブロックまたは予測ユニットのうちの1つを含む。いくつかの実施形態において、カウンタは、対応するLUTに対して、該当するLUTから除去された動き候補の数を示す。いくつかの実施形態において、動き候補のセットはすべてのLUTに対して同じサイズを有していてもよい。いくつかの実施形態において、映像の一部は1つの映像スライスに対応し、LUTの数はN*Pに等しく、Nは1つの復号化スレッド当たりのLUTを表す整数であり、Pは1つの映像スライスにおける最大符号化ユニットの行の数またはタイルの数を表す整数である。方法2900および3000のさらなる詳細は、第4章に提供される実施例および以下に列挙される実施例に記載される。
【0218】
上述した方法/技術の特徴および実施形態を、項目に基づくフォーマットを使用して以下に説明する。
【0219】
1.1つ以上のテーブルを保持することであって、各テーブルは、1つ以上の動き候補のセットを含み、各動き候補は、対応する動き情報に関連付けられる、ことと、テーブル内の動き情報を用いて、現在のブロックと、前記現在のブロックを含む映像のビットストリーム表現との間で変換を行うことと、変換を行った後、現在のブロックに関連付けられた、整数であるM個のセットの追加の動き情報に基づいて、1つ以上のテーブルを更新することと、を有する映像処理方法。
【0220】
2.1つ以上のテーブルを用いて、現在のブロックと前記現在のブロックを含む映像のビットストリーム表現との間の変換を行うことであって、各テーブルは、1つ以上の動き候補を含み、各動き候補は、対応する動き情報に関連付けられる、ことと、前記変換に基づいて、前記現在のブロックに関連付けられた追加の動き情報の、整数であるM個のセットに基づいて、1つ以上のテーブルを更新することと、を有する映像処理方法。
【0221】
3.Mは1と等しい、第1または2項に記載の方法。
【0222】
4.M個の追加の動き候補としての動き情報の前記M個のセットをテーブルに追加することをさらに含む、第1または2項に記載の方法。
【0223】
5.テーブルを前記更新することは、動き情報の前記セットを追加の動き候補としてテーブルに加える前に、動き情報の前記M個のセットの中の1セットに対して比較工程を行うことをさらに含む、第4項に記載の方法。
【0224】
6.動き情報の前記セットを、最後のK個の候補または最初のK%L個の既存の動き候補でプルーニングし、Kは、テーブルに対応する動き候補のカウンタを表す整数であり、Lは、テーブルのサイズを示す、第5項に記載の方法。
【0225】
7.動き情報の前記M個のセットの中の1セットを追加の動き候補としてテーブルに追加し、比較工程を適用しない、第4項に記載の方法。
【0226】
8.動き情報の前記M個のセットの中の1セットをテーブルに加える場合、動き情報のセットは、前記テーブルにおける現在の動き候補のいずれかまたは一部と異なる動き情報を含む、第4項に記載の方法。
【0227】
9.動き情報の前記M個のセットの中の1セットを加える時に、テーブルの中の現在の動き候補のMV(Motion Vector)と、動き情報のセットからの同じ参照ピクチャのMVとの間の差が、1つまたは複数の閾値よりも小さくないことをさらに含む、第4項に記載の方法。
【0228】
10.各テーブルは対応するカウンタを有し、前記対応するカウンタがMだけ増加される、第1または2項に記載の方法。
【0229】
11.追加の動き候補に、前記テーブルにおけるK%Lに等しいインデックスを加え、Kは、更新対象のテーブルに対応する動き候補のカウンタを表し、Lは、テーブルのサイズを表す、第4項に記載の方法。
【0230】
12.追加の動き候補に、前記テーブルにおけるmin(K+1,L-1)に等しいインデックスを加え、Kは、更新対象のテーブルに対応する動き候補のカウンタを表し、Lは、テーブルのサイズを表す、第4項に記載の方法。
【0231】
13.KがLよりも小さくない場合、インデックスが0である最初の動き候補を前記テーブルから取り除く、第4項に記載の方法。
【0232】
14.同一または類似した動き候補が存在するかに関わらず、前回符号化されたブロックからの最新の動き情報のセットを維持する、第11または12項に記載の方法。
【0233】
15.前記1つ以上のテーブルを前記更新することは、前記テーブルにおける現在の動き候補と追加の動き候補との冗長性をチェックすることを含む、第4項に記載の方法。
【0234】
16.1つ以上のテーブルを前記更新することは、テーブルから1つ以上の冗長な現在の動き候補を削除し、以前の符号化ブロックからの動き情報の最新のセットを維持する冗長性削除に基づくテーブル更新を行うことを含む、第15項に記載の方法。
【0235】
17.動き情報の前記最新のセットは、重複していない動き情報を含む、第16項に記載の方法。
【0236】
18.前記テーブルにおける現在の動き候補のうちの少なくとも1つが追加の動き候補に対して冗長である場合、前記テーブルに関連付けられたカウンタを増加させない、第16項に記載の方法。
【0237】
19.前記冗長性除去に基づくテーブル更新処理は、テーブルへの追加対象の追加の動き候補とテーブルにおける現在の動き候補との比較工程を行うことを含む、第16項に記載の方法。
【0238】
20.前記冗長性をチェックすることは、前記テーブルにおける冗長な現在の動き候補を特定し、特定された冗長な現在の動き候補を、現在の位置から前記テーブルにおける残りの現在の動き候補の後の最後の位置に移動させる、第19項に記載の方法。
【0239】
21.前記冗長性をチェックすることは、前記テーブルにおける冗長な現在の動き候補を特定し、特定された冗長な現在の動き候補を、前記テーブルから除去して前記テーブルにおける空きエントリを提供し、前記テーブルにおける特定された冗長な現在の動き候補の後の非冗長な現在の動き候補を前方に移動させて空きエントリを埋める、第19項に記載の方法。
【0240】
22.前記追加の動き候補を前記追加することは、前記テーブルにおける非冗長な現在の動き候補の前記移動の後に行われる、第21項に記載の方法。
【0241】
23.前記冗長性除去に基づくテーブル更新を前記行うことは、前記テーブルにおける現在の動き候補の冗長性をチェックして、複数の冗長な動き候補を特定することと、特定された複数の冗長な動き候補を全て除去することと、を含む、第16項に記載の方法。
【0242】
24.前記特定された複数の冗長な動き候補の数から1を減算した値だけ、前記テーブルに対応するカウンタを減算する、第23項に記載の方法。
【0243】
25.前記特定された複数の冗長な動き候補の数が最大値maxRに達した後、冗長性のチェックを終了し、maxRは正の整数の変数である、第23項に記載の方法。
【0244】
26.冗長な現在の動き候補が特定された場合、前記冗長性のチェックを終了する、項16に記載の方法。
【0245】
27.前記冗長性をチェックすることは、テーブルにおける最初の現在の動き候補から最後の現在の動き候補への順に行われる、第16項に記載の方法。
【0246】
28.前記冗長性をチェックすることは、前記現在の動き候補を前記テーブルに追加した順に、または現在の動き候補を取得したブロックの復号化処理の順に行われる、第16項に記載の方法。
【0247】
29.前記冗長性をチェックすることは、前記テーブルにおける冗長な現在の動き候補を特定し、前記特定された冗長な候補から仮想動き候補を導出し、特定された複数の冗長な候補をテーブルから除去する、第16項に記載の方法。
【0248】
30.前記仮想動き候補は、i)1つ以上の動きベクトルの水平または垂直の構成要素にオフセットを加えること、または、ii)同じ参照ピクチャを指す2つの動きベクトルを平均することによって導出される、第29項に記載の方法。
【0249】
31.前記仮想動き候補は、前記テーブルにおける現在の動き候補に関連付けられた動きベクトルの関数から導出される、第29項に記載の方法。
【0250】
32.前記仮想動き候補を、前記テーブルにおける特定された冗長な動き候補の位置に追加する第29項に記載の方法。
【0251】
33.前記テーブルにおける現在の動き候補の前に、前記仮想動き候補を追加し、前記現在の動き候補は、前記特定された冗長な動き候補を除く、前記テーブルにおける動き候補に対応する、第16項に記載の方法。
【0252】
34.一定の条件が満たされていると判定された場合、前記冗長性除去に基づくテーブル更新処理を呼び出す、第16項に記載の方法。
【0253】
35.前記条件は、前記現在のブロックがマージモードで符号化される場合を含む、第34項に記載の方法。
【0254】
36.前記条件は、前記現在のブロックがサブブロックに基づく動き予測でも、サブブロックに基づく動き補償方法でも符号化されていない場合を含む、第35項に記載の方法。
【0255】
37.S個のブロックの前記変換を実行した後にのみ、前記1つ以上のテーブルの前記更新を実行し、Sは、1以上である、第1または2項に記載の方法。
【0256】
38.前記S個のブロックは、インター符号化ブロックである、第37項に記載の方法。
【0257】
39.前記S個のブロックは、サブブロックに基づく動き予測方法でも、サブブロックに基づく動き補償方法でも符号化されない、第37項に記載の方法
【0258】
40.前記条件は、前記現在のブロックをマージモードで符号化し、対応する動き候補の動き情報のソースが一定のタイプを有する場合を含む、第39項に記載の方法。
【0259】
41.対応する動き候補の前記動き情報の前記ソースは、左の近傍のブロックを含む空間的に近傍のブロックからのものであるか、または時間的ブロックからのものである、第40項に記載の方法。
【0260】
42.前記M個の追加の動き候補の前に前記テーブルに追加された現在の動き候補の後に、前記M個の追加の動き候補を追加する、第4項に記載の方法。
【0261】
43.前記現在の動き候補のいくつかを前記テーブルから削除することをさらに含む、第42項に記載の方法。
【0262】
44.動き情報の前記M個のセットを挿入する前または後に、テーブルが満杯になった場合、動き候補の前記セットの中の最初の1つまたは複数のエントリを前記テーブルから削除する、第43項に記載の方法。
【0263】
45.前記現在のブロックが動き情報を直接信号通知して符号化される場合、前記動き情報をテーブルに追加する、第1または2項に記載の方法。
【0264】
46.前記現在のブロックは、AMVPモード、ノーマル/アフィン間モード場合は、MMVD(Marge with Motion Vector Differences)モード、またはノーマル/アフィン間モードの場合は、AMVR(Advanced Motion Vector Prediction)モードで符号化される、第41項に記載の方法。
【0265】
47.前記動き情報は、前記テーブルの最後のエントリ、または次の利用可能な動き候補を記憶するために使用するエントリに追加される、第45項に記載の方法。
【0266】
48.動き情報の前記M個のセットに基づいて、動き情報導出処理によって、追加の動き候補を前記テーブルに追加することをさらに含む、第1、2または16項に記載の方法。
【0267】
49.前記テーブルに対応するカウンタが1より大きい値ずつ増加する、第44項に記載の方法。
【0268】
50.前記動き情報導出処理は、動き情報の前記M個のセットの中の1セットの動きベクトルをスケーリングすることを含む、第44項に記載の方法。
【0269】
51.前記動き情報導出処理は、動き情報の前記M個のセットの動きベクトルに、動きベクトルオフセット(dx,dy)を加算することを含む、第48項に記載の方法。
【0270】
52.前記動き情報導出処理は、動き情報の前記M個のセットにおける2つ以上のセットの動きベクトルの平均値を使用することを含む、第48項に記載の方法。
【0271】
53.前記更新することは、前記テーブルに追加される前に動き情報の前記M個のセットを修正することを含む、第1~52項のいずれか1項に記載の方法。
【0272】
54.前記変換を行うことは、前記現在のブロックから前記ビットストリーム表現を生成することを含む、第1または2項に記載の方法。
【0273】
55.変換を行うことは、前記ビットストリーム表現から前記現在のブロックを生成することを含む、第1または2項に記載の方法。
【0274】
56.動き候補は、予測方向、参照ピクチャインデックス、動きベクトル値、強度補償フラグ、アフィンフラグ、動きベクトル差精度、または動きベクトル差分値のうちの少なくとも1つを含む動き情報に関連付けられる、第1~55項のいずれか1項に記載の方法。
【0275】
57.前記動き候補は、イントラモード符号化のためのイントラ予測モードの動き候補に対応する、第1~55項のいずれか1項に記載の方法。
【0276】
58.前記動き候補は、ICパラメータ符号化のための照明補償パラメータを含む動き候補に対応する、第1~55項のいずれか1項に記載の方法。
【0277】
59.前記更新されたテーブルに基づいて、前記映像の後続の映像ブロックと前記映像の前記ビットストリーム表現との間で変換を行うことをさらに含む、第1~58項のいずれか1項に記載の方法。
【0278】
60.プロセッサと、命令が記憶された非一時的メモリとを備える装置であって、前記命令は、前記プロセッサによって実行された際に、前記プロセッサに、第1項から第59項のいずれか1項に記載の方法を実施させる装置。
【0279】
61.非一時的なコンピュータ可読媒体に記憶されたコンピュータプログラム製品であって、第1~59項のいずれか1項に記載の方法を実行するためのプログラムコードを含む、コンピュータプログラム製品。
【0280】
以上、説明の目的で本開示の技術の特定の実施形態を説明したが、本発明の範囲から逸脱することなく様々な修正が可能であることは、理解されるであろう。従って、本開示の技術は、添付の特許請求の範囲による場合を除き、限定されない。
【0281】
本書に記載された開示された、およびその他の実施形態、モジュール、および機能操作の実装形態は、本書に開示された構造およびその構造的等価物を含め、デジタル電子回路、またはコンピュータソフトウェア、ファームウェア、若しくはハードウェアで実施されてもよく、またはそれらの1つ以上の組み合わせで実施してもよい。開示された、およびその他の実施形態は、1つ以上のコンピュータプログラム製品、すなわち、データ処理装置によって実装されるため、またはデータ処理装置の操作を制御するために、コンピュータ可読媒体上に符号化されたコンピュータプログラム命令の1つ以上のモジュールとして実施することができる。このコンピュータ可読媒体は、機械可読記憶装置、機械可読記憶基板、記憶装置、機械可読伝播信号をもたらす物質の組成物、またはこれらの1つ以上の組み合わせであってもよい。「データ処理装置」という用語は、例えば、プログラマブルプロセッサ、コンピュータ、または複数のプロセッサ、若しくはコンピュータを含み、データを処理するためのすべての装置、デバイス、および機械を含む。この装置は、ハードウェアの他に、当該コンピュータプログラムの実行環境を作るコード、例えば、プロセッサファームウェア、プロトコルスタック、データベース管理システム、オペレーティングシステム、またはこれらの1つ以上の組み合わせを構成するコードを含んでもよい。伝播信号は、人工的に生成した信号、例えば、機械で生成した電気、光、または電磁信号であり、適切な受信装置に送信するための情報を符号化するように生成される。
【0282】
コンピュータプログラム(プログラム、ソフトウェア、ソフトウェアアプリケーション、スクリプト、またはコードとも呼ばれる)は、コンパイルされた言語または解釈された言語を含む任意の形式のプログラミング言語で記述することができ、それは、スタンドアロンプログラムとして、またはコンピューティング環境で使用するのに適したモジュール、コンポーネント、サブルーチン、または他のユニットとして含む任意の形式で展開することができる。コンピュータプログラムは、必ずしもファイルシステムにおけるファイルに対応するとは限らない。プログラムは、他のプログラムまたはデータを保持するファイルの一部(例えば、マークアップ言語文書に格納された1つ以上のスクリプト)に記録されていてもよいし、当該プログラム専用の単一のファイルに記憶されていてもよいし、複数の調整ファイル(例えば、1つ以上のモジュール、サブプログラム、またはコードの一部を格納するファイル)に記憶されていてもよい。1つのコンピュータプログラムを、1つのサイトに位置する1つのコンピュータ、または複数のサイトに分散され通信ネットワークによって相互接続される複数のコンピュータで実行させるように展開可能である。
【0283】
本明細書に記載されたプロセスおよびロジックフローは、入力データ上で動作し、出力を生成することによって機能を実行するための1つ以上のコンピュータプログラムを実行する1つ以上のプログラマブルプロセッサによって行うことができる。プロセスおよびロジックフローはまた、特別目的のロジック回路、例えば、FPGA(Field Programmable Gate Array)またはASIC(Application Specific Integrated Circuit)によって実行することができ、装置はまた、特別目的のロジック回路として実装することができる。
【0284】
コンピュータプログラムの実行に適したプロセッサは、例えば、汎用および専用マイクロプロセッサの両方、並びに任意の種類のデジタルコンピュータの任意の1つ以上のプロセッサを含む。一般的に、プロセッサは、リードオンリーメモリまたはランダムアクセスメモリまたはその両方から命令およびデータを受信する。コンピュータの本質的な要素は、命令を実行するためのプロセッサと、命令およびデータを記憶するための1つ以上の記憶装置とである。一般的に、コンピュータは、データを記憶するための1つ以上の大容量記憶デバイス、例えば、磁気、光磁気ディスク、または光ディスクを含んでもよく、またはこれらの大容量記憶デバイスからデータを受信するか、またはこれらにデータを転送するように動作可能に結合されてもよい。しかしながら、コンピュータは、このようなデバイスを有する必要はない。コンピュータプログラム命令およびデータを記憶するのに適したコンピュータ可読媒体は、あらゆる形式の不揮発性メモリ、媒体、および記憶装置を含み、例えば、EPROM、EEPROM、フラッシュ記憶装置、磁気ディスク、例えば内部ハードディスクまたはリムーバブルディスク、光磁気ディスク、およびCD-ROMおよびDVD-ROMディスク等の半導体記憶装置を含む。プロセッサおよびメモリは、専用ロジック回路によって補完されてもよく、または専用ロジック回路に組み込まれてもよい。
【0285】
この特許文献は多くの詳細を含むが、これらは、任意の発明の範囲または特許請求の範囲を限定するものと解釈されるべきではなく、むしろ、特定の発明の特定の実施形態に特有であり得る特徴の説明と解釈されるべきである。本特許文献において別の実施形態の文脈で説明されている特定の特徴は、1つの例において組み合わせて実装してもよい。逆に、単一の例の文脈で説明された様々な特徴は、複数の実施形態において別個にまたは任意の適切なサブコンビネーションで実装してもよい。さらに、特徴は、特定の組み合わせで作用するものとして上記に記載され、最初にそのように主張されていてもよいが、主張された組み合わせからの1つ以上の特徴は、場合によっては、組み合わせから抜粋されることができ、主張された組み合わせは、サブ組み合わせまたはサブ組み合わせのバリエーションに向けられてもよい。
【0286】
同様に、動作は図面において特定の順番で示されているが、これは、所望の結果を達成するために、このような動作が示された特定の順番でまたは連続した順番で実行されること、または示された全ての操作が実行されることを必要とするものと理解されるべきではない。また、本特許文献に記載されている例における様々なシステムの構成要素の分離は、全ての実施形態においてこのような分離を必要とするものと理解されるべきではない。
【0287】
いくつかの実装形態および例のみが記載されており、この特許文献に記載され図示されている内容に基づいて、他の実施形態、拡張および変形が可能である。