IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ エルジー エレクトロニクス インコーポレイティドの特許一覧

特開2023-145702双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置
<>
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図1
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図2
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図3
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図4
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図5
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図6
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図7
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図8
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図9a
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図9b
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図10
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図11
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図12
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図13
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図14
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図15
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図16
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図17
  • 特開-双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置 図18
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023145702
(43)【公開日】2023-10-11
(54)【発明の名称】双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置
(51)【国際特許分類】
   H04N 19/105 20140101AFI20231003BHJP
   H04N 19/176 20140101ALI20231003BHJP
   H04N 19/54 20140101ALI20231003BHJP
   H04N 19/70 20140101ALI20231003BHJP
【FI】
H04N19/105
H04N19/176
H04N19/54
H04N19/70
【審査請求】有
【請求項の数】3
【出願形態】OL
(21)【出願番号】P 2023126949
(22)【出願日】2023-08-03
(62)【分割の表示】P 2021574299の分割
【原出願日】2020-06-10
(31)【優先権主張番号】62/861,988
(32)【優先日】2019-06-14
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】502032105
【氏名又は名称】エルジー エレクトロニクス インコーポレイティド
【氏名又は名称原語表記】LG ELECTRONICS INC.
【住所又は居所原語表記】128, Yeoui-daero, Yeongdeungpo-gu, 07336 Seoul,Republic of Korea
(74)【代理人】
【識別番号】100099759
【弁理士】
【氏名又は名称】青木 篤
(74)【代理人】
【識別番号】100123582
【弁理士】
【氏名又は名称】三橋 真二
(74)【代理人】
【識別番号】100165191
【弁理士】
【氏名又は名称】河合 章
(74)【代理人】
【識別番号】100114018
【弁理士】
【氏名又は名称】南山 知広
(74)【代理人】
【識別番号】100159259
【弁理士】
【氏名又は名称】竹本 実
(72)【発明者】
【氏名】パク ネリ
(72)【発明者】
【氏名】ナム チョンハク
(72)【発明者】
【氏名】チャン ヒョンムン
(57)【要約】      (修正有)
【課題】全般的な画像/ビデオ圧縮効率を上げ、インター予測の際、動きベクトル候補を効率的に構成し、効率的に加重値基盤の双予測を行う画像デコード方法及びその装置を提供する。
【解決手段】方法は、現在ブロックのインター予測タイプが双予測(bi-prediction)を表す場合、マージ候補リストまたはサブブロックマージ候補リスト内の候補のための加重値インデックス情報を導出し、コーディング効率を上げる。マージ候補は、継承されたアフィンマージ候補及び構成されたアフィンマージ候補を含み、継承されたアフィンマージ候補は、現在ブロックの周辺ブロックのコントロールポイント動きベクトル(CPMV)に基づいて導出され、構成されたアフィンマージ候補の夫々は、CP(Control Point)0に対するCPMV、CP1に対するCPMV、CP2に対するCPMV、又はCP3に対するCPMVの、少なくとも2個を含む。
【選択図】図6
【特許請求の範囲】
【請求項1】
デコード装置によって行われる画像デコード方法において、
ビットストリームを介してインター予測モード情報及びレジデュアル情報を含む画像情報を取得するステップと、
前記レジデュアル情報に基づいてレジデュアルサンプルを生成するステップと、
前記インター予測モード情報に基づいて現在ブロックのマージ候補リストを生成するステップと、
前記マージ候補リストに含まれる候補から選択された候補に基づいて前記現在ブロックに関する動き情報を導出するステップと、
前記動き情報に基づいて前記現在ブロックのL0予測サンプル及びL1予測サンプルを生成するステップと、
前記L0予測サンプル、前記L1予測サンプル、及び前記現在ブロックのための加重値情報に基づいて前記現在ブロックの予測サンプルを生成するステップであって、前記加重値情報は、前記選択された候補に対する加重値インデックスに基づいて導出されるステップと、
前記予測サンプル及び前記レジデュアルサンプルに基づいて復元サンプルを生成するステップと、
を含み、
前記候補は、アフィンマージ候補を含み、
前記アフィンマージ候補のそれぞれは、CP0(Control Point 0)に対するCPMV(control point motion vector)、CP1(Control Point 1)に対するCPMV、CP2(Control Point 2)に対するCPMV、又はCP3(Control Point 3)に対するCPMVの少なくとも2個を含み、
前記CP0は、前記現在ブロックの左上側コーナーに関連し、
前記CP1は、前記現在ブロックの右上側コーナーに関連し、
前記CP2は、前記現在ブロックの左下側コーナーに関連し、
前記CP3は、前記現在ブロックの右下側コーナーに関連し、
第1のアフィンマージ候補が{CP0、CP1、CP2}に基づいて生成される場合に基づいて、前記第1のアフィンマージ候補に対する加重値インデックスは、前記CP0の周辺ブロックのうち、特定ブロックに対する加重値インデックスに基づいて導出され、
第2のアフィンマージ候補が{CP1、CP2、CP3}に基づいて生成される場合に基づいて、前記第2のアフィンマージ候補に対する加重値インデックスは、前記CP1の周辺ブロックのうち、特定ブロックに対する加重値インデックスに基づいて導出される、画像デコード方法。
【請求項2】
前記CP0の前記周辺ブロックのうち、前記特定ブロックは、前記CP0に対する前記CPMVの導出のために使用されるブロックに該当し、
前記CP0の前記周辺ブロックは、前記現在ブロックの左上側コーナー周辺ブロック、前記左上側コーナー周辺ブロックの下側に隣接した左側周辺ブロック、及び前記左上側コーナー周辺ブロックの右側に隣接した上側周辺ブロックを含む、請求項1に記載の画像デコード方法。
【請求項3】
前記CP1の前記周辺ブロックは、前記現在ブロックの右上側コーナー周辺ブロック、
及び前記右上側コーナー周辺ブロックの左側に隣接した上側周辺ブロックを含む、請求項1に記載の画像デコード方法。
【請求項4】
前記候補は、ペアワイズ候補を含み、
前記ペアワイズ候補は、前記候補のうち、2個の候補に基づいて導出され、
前記ペアワイズ候補に対する加重値インデックスは、前記2個の候補の1つに対する加重値インデックスに基づいて導出される、請求項1に記載の画像デコード方法。
【請求項5】
前記候補は、ペアワイズ候補を含み、
前記ペアワイズ候補は、前記候補のうち、2個の候補に基づいて導出され、
前記2個の候補の加重値インデックスが第1の加重値インデックスと同一である場合、前記ペアワイズ候補に対する加重値インデックスは、前記第1の加重値インデックスに基づいて導出され、
前記2個の候補の前記加重値インデックスが同一でない場合、前記ペアワイズ候補に対する前記加重値インデックスは、デフォルト加重値インデックスに基づいて導出され、
前記デフォルト加重値インデックスは、前記L0予測サンプル及び前記L1予測サンプルの各々に同じ加重値を付与する加重値インデックスに該当する、請求項1に記載の画像デコード方法。
【請求項6】
前記候補は、ペアワイズ候補を含み、
前記ペアワイズ候補は、前記候補のうち、2個の候補に基づいて導出され、
前記2個の候補の加重値インデックスが第1の加重値インデックスと同一である場合、前記ペアワイズ候補に対する加重値インデックスは、前記第1の加重値インデックスに基づいて導出され、
前記2個の候補の前記加重値インデックスが同一でない場合、前記加重値インデックスは、前記2個の候補の前記加重値インデックスのうち、デフォルト加重値インデックスでない加重値インデックスに基づいて導出され、
前記デフォルト加重値インデックスは、前記L0予測サンプル及び前記L1予測サンプルの各々に同じ加重値を付与する加重値インデックスに該当する、請求項1に記載の画像デコード方法。
【請求項7】
前記候補は、SbTMVP(subblock-based temporal motion vector prediction)候補を含み、
前記SbTMVP候補に対する加重値インデックスは、コルブロックのサブブロックのそれぞれに対する加重値インデックスに基づいて導出され、
前記コルブロックは、前記現在ブロックが位置する現在ピクチャと異なる参照ピクチャ内に前記現在ブロックと同じ位置のブロックを含む、請求項1に記載の画像デコード方法。
【請求項8】
前記候補は、時間的マージ候補を含み、
前記時間的マージ候補に対する加重値インデックスは、0に導出される、請求項1に記載の画像デコード方法。
【請求項9】
前記候補は、時間的マージ候補を含み、
前記時間的マージ候補に対する加重値インデックスは、コルブロックに対する加重値インデックスに基づいて導出され、
前記コルブロックは、前記現在ブロックが位置する現在ピクチャと異なる参照ピクチャ内に前記現在ブロックと同じ位置のブロックを含む、請求項1に記載の画像デコード方法。
【請求項10】
エンコード装置によって行われる画像エンコード方法において、
現在ブロックのインター予測モードを決定し、前記インター予測モードを示すインター予測モード情報を生成するステップと、
前記インター予測モードに基づいて前記現在ブロックのマージ候補リストを生成するステップと、
前記マージ候補リストに含まれた候補の1つを示す選択情報を生成するステップと、
前記現在ブロックのレジデュアルサンプルに基づいてレジデュアル情報を生成するステップと、
前記インター予測モード情報、前記選択情報、及び前記レジデュアル情報を含む画像情報をエンコードするステップと、
を含み、
前記候補は、アフィンマージ候補を含み、
前記アフィンマージ候補のそれぞれは、CP0(Control Point 0)に対するCPMV(control point motion vector)、CP1(Control Point 1)に対するCPMV、CP2(Control Point 2)に対するCPMV、又はCP3(Control Point 3)に対するCPMVの、少なくとも2個を含み、
前記CP0は、前記現在ブロックの左上側コーナーに関連し、
前記CP1は、前記現在ブロックの右上側コーナーに関連し、
前記CP2は、前記現在ブロックの左下側コーナーに関連し、
前記CP3は、前記現在ブロックの右下側コーナーに関連し、
第1のアフィンマージ候補が{CP0、CP1、CP2}に基づいて生成される場合に基づいて、前記第1のアフィンマージ候補に対する加重値インデックスは、前記CP0の周辺ブロックのうち、特定ブロックに対する加重値インデックスに基づいて導出され、
第2のアフィンマージ候補が{CP1、CP2、CP3}に基づいて生成される場合に基づいて、前記第2のアフィンマージ候補に対する加重値インデックスは、前記CP1の周辺ブロックのうち、特定ブロックに対する加重値インデックスに基づいて導出される、画像エンコード方法。
【請求項11】
画像のためのデータの送信方法であって、
前記画像のためのビットストリームを取得するステップであって、前記ビットストリームは、
現在ブロックのインター予測モードを決定し、前記インター予測モードを示すインター予測モード情報を生成するステップと、
前記インター予測モードに基づいて前記現在ブロックのマージ候補リストを生成するステップと、
前記マージ候補リストに含まれた候補の1つを示す選択情報を生成するステップと、
前記現在ブロックのレジデュアルサンプルに基づいてレジデュアル情報を生成するステップと、
前記インター予測モード情報、前記選択情報、及び前記レジデュアル情報を含む画像情報をエンコードするステップと、
に基づいて生成される、ステップと、
前記ビットストリームを含む前記データを送信するステップと、を含み、
前記候補は、アフィンマージ候補を含み、
前記アフィンマージ候補のそれぞれは、CP0(Control Point 0)に対するCPMV(control point motion vector)、CP1(Control Point 1)に対するCPMV、CP2(Control Point 2)に対するCPMV、又はCP3(Control Point 3)に対するCPMVの、少なくとも2個を含み、
前記CP0は、前記現在ブロックの左上側コーナーに関連し、
前記CP1は、前記現在ブロックの右上側コーナーに関連し、
前記CP2は、前記現在ブロックの左下側コーナーに関連し、
前記CP3は、前記現在ブロックの右下側コーナーに関連し、
第1のアフィンマージ候補が{CP0、CP1、CP2}に基づいて生成される場合に基づいて、前記第1のアフィンマージ候補に対する加重値インデックスは、前記CP0の周辺ブロックのうち、特定ブロックに対する加重値インデックスに基づいて導出され、
第2のアフィンマージ候補が{CP1、CP2、CP3}に基づいて生成される場合に基づいて、前記第2のアフィンマージ候補に対する加重値インデックスは、前記CP1の周辺ブロックのうち、特定ブロックに対する加重値インデックスに基づいて導出される、送信方法。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は、双予測(bi-prediction)が適用される場合、加重平均のための加重値インデックス情報を導出する画像デコード方法及びその装置に関する。
【背景技術】
【0002】
近年、4Kまたは8K以上のUHD(Ultra High Definition)画像/ビデオのような高解像度、高品質の画像/ビデオに対する需要が様々な分野で増加している。画像/ビデオデータが高解像度、高品質になるほど、既存の画像/ビデオデータに比べて相対的に送信される情報量またはビット量が増加するので、既存の有無線広帯域回線のような媒体を利用して画像データを送信するか、既存の格納媒体を利用して画像/ビデオデータを格納する場合、送信費用と格納費用が増加される。
【0003】
また、近年、VR(Virtual Reality)、AR(Artificial Realtiy)コンテンツやホログラムなどの実感メディア(Immersive Media)に対する関心及び需要が増加しており、ゲーム画像のように、現実画像と異なる画像特性を有する画像/ビデオに対する放送が増加している。
【0004】
これにより、上記のような様々な特性を有する高解像度・高品質の画像/ビデオの情報を効果的に圧縮して送信するか、格納し、再生するために高効率の画像/ビデオ圧縮技術が求められる。
【発明の概要】
【発明が解決しようとする課題】
【0005】
本文書の技術的課題は、画像コーディング効率を上げる方法及び装置を提供することにある。
【0006】
本文書の他の技術的課題は、インター予測で双予測のための加重値インデックス情報を導く方法及び装置を提供することにある。
【0007】
本文書のさらに他の技術的課題は、双予測が適用される場合、加重平均のための加重値インデックス情報を導く方法及び装置を提供することにある。
【課題を解決するための手段】
【0008】
本文書の一実施形態によれば、デコード装置によって行われる画像デコード方法が提供される。前記方法は、ビットストリームを介してインター予測モード情報及びレジデュアル情報を含む画像情報を取得するステップと、前記レジデュアル情報に基づいてレジデュアルサンプルを生成するステップと、前記インター予測モード情報に基づいて現在ブロックのマージ候補リストを生成するステップと、前記マージ候補リストのうち、選択された候補に基づいて前記現在ブロックの動き情報を導出するステップと、前記動き情報に基づいて前記現在ブロックのL0予測サンプル及びL1予測サンプルを生成するステップと、前記L0予測サンプル、前記L1予測サンプル、及び加重値情報に基づいて前記現在ブロックの予測サンプルを生成し、前記加重値情報は、前記選択された候補に対する加重値インデックス情報に基づいて導出されるステップと、前記予測サンプル及び前記レジデュアルサンプルに基づいて復元サンプルを生成するステップとを含み、前記候補は、アフィンマージ候補を含み、前記アフィンマージ候補は、前記現在ブロックの左上側に位置するCP0(Control Point 0)、前記現在ブロックの右上側に位置するCP1(Control Point 1)、前記現在ブロックの左下側に位置するCP2(Control Point 2)、及び前記現在ブロックの右下側に位置するCP3(Control Point 3)の各々に対する動きベクトルのうち、少なくとも1つを含み、前記アフィンマージ候補が{CP0、CP1、CP2}、{CP01、CP1、CP3}、{CP0、CP2、CP3}、{CP0、CP1}、及び{CP0、CP2}のうち、いずれか1つに基づいて生成される場合、前記アフィンマージ候補に対する加重値インデックス情報は、前記CP0の周辺ブロックのうち、特定ブロックの加重値インデックス情報に基づいて導出され、前記アフィンマージ候補が{CP1、CP2、CP3}に基づいて生成される場合、前記アフィンマージ候補に対する加重値インデックス情報は、前記CP1の周辺ブロックのうち、特定ブロックの加重値インデックス情報に基づいて導出される。
【0009】
本文書の他の一実施形態によれば、エンコード装置によって行われるビデオエンコード方法を提供する。前記方法は、現在ブロックのインター予測モードを決定し、前記インター予測モードを表すインター予測モード情報を生成するステップと、前記インター予測モードに基づいて前記現在ブロックのマージ候補リストを生成するステップと、前記マージ候補リストに含まれた候補のうち1つの候補を表す選択情報を生成するステップと、前記現在ブロックに対するレジデュアルサンプルに基づいてレジデュアル情報を生成するステップと、前記インター予測モード情報、前記選択情報、及び前記レジデュアル情報を含む画像情報をエンコードするステップとを含み、前記候補は、アフィンマージ候補を含み、前記アフィンマージ候補は、前記現在ブロックの左上側に位置するCP0(Control Point 0)、前記現在ブロックの右上側に位置するCP1(Control Point 1)、前記現在ブロックの左下側に位置するCP2(Control Point 2)、及び前記現在ブロックの右下側に位置するCP3(Control Point 3)の各々に対する動きベクトルのうち、少なくとも1つを含み、前記アフィンマージ候補が{CP0、CP1、CP2}、{CP0、CP1、CP3}、{CP0、CP2、CP3}、{CP0、CP1}、及び{CP0、CP2}のうち、いずれか1つに基づいて生成される場合、前記アフィンマージ候補に対する加重値インデックス情報は、前記CP0の周辺ブロックのうち、特定ブロックの加重値インデックス情報に基づいて表され、前記アフィンマージ候補が{CP1、CP2、CP3}に基づいて生成される場合、前記アフィンマージ候補に対する加重値インデックス情報は、前記CP1の周辺ブロックのうち、特定ブロックの加重値インデックス情報に基づいて表される。
【0010】
本文書のさらに他の一実施形態によれば、デコード装置をして画像デコード方法を行うように引き起こす画像情報を含むビットストリームが格納されたコンピュータ読み取り可能デジタル格納媒体を提供する。前記画像デコード方法は、ビットストリームを介してインター予測モード情報及びレジデュアル情報を含む画像情報を取得するステップと、前記レジデュアル情報に基づいてレジデュアルサンプルを生成するステップと、前記インター予測モード情報に基づいて現在ブロックのマージ候補リストを生成するステップと、前記マージ候補リストのうち、選択された候補に基づいて前記現在ブロックの動き情報を導出するステップと、前記動き情報に基づいて前記現在ブロックのL0予測サンプル及びL1予測サンプルを生成するステップと、前記L0予測サンプル、前記L1予測サンプル、及び加重値情報に基づいて前記現在ブロックの予測サンプルを生成し、前記加重値情報は、前記選択された候補に対する加重値インデックス情報に基づいて導出されるステップと、前記予測サンプル及び前記レジデュアルサンプルに基づいて復元サンプルを生成するステップとを含み、前記候補は、アフィンマージ候補を含み、前記アフィンマージ候補は、前記現在ブロックの左上側に位置するCP0(Control Point 0)、前記現在ブロックの右上側に位置するCP1(Control Point 1)、前記現在ブロックの左下側に位置するCP2(Control Point 2)、及び前記現在ブロックの右下側に位置するCP3(Control Point 3)の各々に対する動きベクトルのうち、少なくとも1つを含み、前記アフィンマージ候補が{CP0、CP1、CP2}、{CP0、CP1、CP3}、{CP0、CP2、CP3}、{CP0、CP1}、及び{CP0、CP2}のうち、いずれか1つに基づいて生成される場合、前記アフィンマージ候補に対する加重値インデックス情報は、前記CP0の周辺ブロックのうち、特定ブロックの加重値インデックス情報に基づいて導出され、前記アフィンマージ候補が{CP1、CP2、CP3}に基づいて生成される場合、前記アフィンマージ候補に対する加重値インデックス情報は、前記CP1の周辺ブロックのうち、特定ブロックの加重値インデックス情報に基づいて導出される。
【発明の効果】
【0011】
本文書によれば、全般的な画像/ビデオ圧縮効率を上げることができる。
【0012】
本文書によれば、インター予測の際、動きベクトル候補を効率的に構成することができる。
【0013】
本文書によれば、効率的に加重値基盤の双予測を行うことができる。
【図面の簡単な説明】
【0014】
図1】本文書の実施形態が適用され得るビデオ/画像コーディングシステムの例を概略的に示す。
図2】本文書の実施形態が適用され得るビデオ/画像エンコード装置の構成を概略的に説明する図である。
図3】本文書の実施形態が適用され得るビデオ/画像デコード装置の構成を概略的に説明する図である。
図4】インター予測に基づいたビデオ/画像エンコード方法の一例を示す図である。
図5】エンコード装置内のインター予測部を概略的に示す図である。
図6】インター予測に基づいたビデオ/画像デコード方法の一例を示す図である。
図7】デコード装置内のインター予測部を概略的に示す図である。
図8】インター予測においてマージモードを説明するための図である。
図9a】アフィン動き予測のためのCPMVを例示的に示す。
図9b】アフィン動き予測のためのCPMVを例示的に示す。
図10】アフィンMVFがサブブロック単位で決定される場合を例示的に示す。
図11】インター予測においてアフィンマージモードを説明するための図である。
図12】アフィンマージモードで候補の位置を説明するための図である。
図13】インター予測においてSbTMVPを説明するための図である。
図14】本文書の実施形態(等)に係るビデオ/画像エンコード方法及び関連コンポーネントの一例を概略的に示す。
図15】本文書の実施形態(等)に係るビデオ/画像エンコード方法及び関連コンポーネントの一例を概略的に示す。
図16】本文書の実施形態(等)に係る画像/ビデオデコード方法及び関連コンポーネントの一例を概略的に示す。
図17】本文書の実施形態(等)に係る画像/ビデオデコード方法及び関連コンポーネントの一例を概略的に示す。
図18】本文書において開示された実施形態が適用され得るコンテンツストリーミングシステムの例を示す。
【発明を実施するための形態】
【0015】
本文書の開示は、様々な変更を加えることができ、様々な実施形態を有することができるところ、特定の実施形態を図面に例示し、詳細に説明しようとする。しかし、これは、本開示を特定の実施形態に限定しようとするものではない。本文書で常用する用語は、単に特定の実施形態を説明するために使用されたものであって、本文書の実施形態等の技術的思想を限定しようとする意図で使用されるものではない。単数の表現は、文脈上明らかに異なるように意味しない限り、複数の表現を含む。本明細書において、「含む」又は「有する」などの用語は、文書上に記載された特徴、数字、ステップ、動作、構成要素、部品、又はこれらを組み合わせたものが存在することを指定しようとするものであり、1つ又はそれ以上の他の特徴や、数字、ステップ、動作、構成要素、部品、又はこれらを組み合わせたものの存在又は付加可能性を予め排除しないことと理解されるべきである。
【0016】
一方、本文書において説明される図面上の各構成は、互いに異なる特徴的な機能に関する説明の便宜のために独立的に図示されたものであって、各構成が互いに別個のハードウェアや別個のソフトウェアで実現されるということを意味するものではない。例えば、各構成のうち、2つ以上の構成を合わせて1つの構成をなすことがあり、1つの構成が複数の構成に分けられることもある。各構成が統合及び/又は分離された実施形態も、本文書の開示範囲に含まれる。
【0017】
本文書は、ビデオ/画像コーディングに関するものである。例えば、本文書において開示された方法/実施形態は、VVC(versatile video coding)標準に開示される方法に適用されることができる。また、本文書において開示された方法/実施形態は、EVC(essential video coding)標準、AV1(AOMedia Video 1)標準、AVS2(2nd generation of audio video coding standard)、または次世代ビデオ/画像コーディング標準(ex.H.267 or H.268等)に開示される方法に適用されることができる。
【0018】
本文書では、ビデオ/画像コーディングに関する様々な実施形態を提示し、他の言及がない限り、前記実施形態等は、互いに組み合わせられて行われることもできる。
【0019】
以下、添付した図面を参照して、本文書の実施形態を説明しようとする。以下、図面上の同じ構成要素に対しては、同じ参照符号を使用でき、同じ構成要素について重複した説明は省略されることができる。
【0020】
図1は、本開示が適用され得るビデオ/画像コーディングシステムの例を概略的に示す。
【0021】
図1に示すように、ビデオ/画像コーディングシステムは、第1の装置(ソースデバイス)及び第2の装置(受信デバイス)を含むことができる。ソースデバイスは、エンコードされたビデオ(video)/画像(image)情報またはデータをファイルまたはストリーミング形態でデジタル格納媒体またはネットワークを介して受信デバイスに伝達することができる。
【0022】
前記ソースデバイスは、ビデオソース、エンコード装置、送信部を含むことができる。前記受信デバイスは、受信部、デコード装置、及びレンダラを含むことができる。前記エンコード装置は、ビデオ/画像エンコード装置と呼ばれることができ、前記デコード装置は、ビデオ/画像デコード装置と呼ばれることができる。送信機は、エンコード装置に含まれることができる。受信機は、デコード装置に含まれることができる。レンダラは、ディスプレイ部を含むこともでき、ディスプレイ部は、別個のデバイスまたは外部コンポーネントで構成されることもできる。
【0023】
ビデオソースは、ビデオ/画像のキャプチャ、合成または生成過程などを介してビデオ/画像を取得することができる。ビデオソースは、ビデオ/画像キャプチャデバイス及び/又はビデオ/画像生成デバイスを含むことができる。ビデオ/画像キャプチャデバイスは、例えば、1つ以上のカメラ、以前にキャプチャされたビデオ/画像を含むビデオ/画像アーカイブなどを含むことができる。ビデオ/画像生成デバイスは、例えば、コンピュータ、タブレット、及びスマートフォンなどを含むことができ、(電子的に)ビデオ/画像を生成できる。例えば、コンピュータなどを介して仮想のビデオ/画像が生成されることができ、この場合、ビデオ/画像キャプチャ過程を関連データが生成される過程に代替されることができる。
【0024】
エンコード装置は、入力ビデオ/画像をエンコードすることができる。エンコード装置は、圧縮及びコーディング効率のために、予測、変換、量子化など、一連の手順を実行することができる。エンコードされたデータ(エンコードされたビデオ/画像情報)は、ビットストリーム(bitstream)形態で出力されることができる。
【0025】
送信部は、ビットストリーム形態で出力されたエンコードされたビデオ/画像情報またはデータをファイルまたはストリーミング形態でデジタル格納媒体またはネットワークを介して受信デバイスの受信部に伝達できる。デジタル格納媒体は、USB、SD、CD、DVD、ブルーレイ、HDD、SSDなど、様々な格納媒体を含むことができる。送信部は、予め決められたファイルフォーマットを介してメディアファイルを生成するためのエレメントを含むことができ、放送/通信ネットワークを介した送信のためのエレメントを含むことができる。受信部は、前記ビットストリームを受信/抽出してデコード装置に伝達できる。
【0026】
デコード装置は、エンコード装置の動作に対応する逆量子化、逆変換、予測など、一連の手順を実行してビデオ/画像をデコードすることができる。
【0027】
レンダラは、デコードされたビデオ/画像をレンダリングすることができる。レンダリングされたビデオ/画像は、ディスプレイ部を介してディスプレイされることができる。
【0028】
この文書は、ビデオ/画像コーディングに関するものである。例えば、この文書において開示された方法/実施形態は、VVC(versatile video coding)標準、EVC(essential video coding)標準、AV1(AOMedia Video 1)標準、AVS2(2nd generation of audio video coding standard)、または次世代ビデオ/画像コーディング標準(ex.H.267 or H.268等)に開示される方法に適用されることができる。
【0029】
この文書では、ビデオ/画像コーディングに関する様々な実施形態を提示し、他の言及がない限り、前記実施形態は、互いに組み合わせて実行されることもできる。
【0030】
この文書において、ビデオ(video)は、時間の流れによる一連の画像(image)の集合を意味することができる。ピクチャ(picture)は、一般的に特定時間帯の1つの画像を示す単位を意味し、スライス(slice)/タイル(tile)は、コーディングにおいてピクチャの一部を構成する単位である。スライス/タイルは、1つ以上のCTU(coding tree unit)を含むことができる。1つのピクチャは、1つ以上のスライス/タイルで構成されることができる。
【0031】
タイルは、特定タイル列及び特定タイル列以内のCTUの四角領域である(A tile is a rectangular region of CTUs within a particular tile column and a particular tile row in a picture)。前記タイル列は、CTUの四角領域であり、前記四角領域は、前記ピクチャの高さと同じ高さを有し、幅は、ピクチャパラメータセット内のシンタックス要素によって明示されることができる(The tile column is a rectangular region of CTUs having a height equal to the height of the picture and a width specified by syntax elements in the picture parameter set)。前記タイル行は、CTUの四角領域であり、前記四角領域は、ピクチャパラメータセット内のシンタックス要素によって明示される幅を有し、高さは、前記ピクチャの高さと同一であることができる(The tile row is a rectangular region of CTUs having a height specified by syntax elements in the picture parameter set and a width equal to the width of the picture)。タイルスキャンは、ピクチャをパーティショニングするCTUの特定の順次的オーダリングを表すことができ、前記CTUは、タイル内のCTUラスタースキャンで連続的に整列されることができ、ピクチャ内のタイルは、前記ピクチャの前記タイルのラスタースキャンで連続的に整列されることができる(A tile scan is a specific sequential ordering of CTUs partitioning a picture in which the CTUs are ordered consecutively in CTU raster scan in a tile whereas tiles in a picture are ordered consecutively in a raster scan of the tiles of the picture)。スライスは、複数の完全なタイルまたは1つのNALユニットに含まれることができるピクチャの1つのタイル内の複数の連続的なCTU行を含むことができる。この文書においてタイルグループとスライスとは混用されることができる。例えば、本文書においてtile group/tile group headerは、slice/slice headerと呼ばれることができる。
【0032】
一方、1つのピクチャは、2つ以上のサブピクチャに区分されることができる。サブピクチャは、ピクチャ内の1つ以上のスライスの四角領域であることができる(an rectangular region of one or more slices within a picture)。
【0033】
ピクセル(pixel)またはペル(pel)は、1つのピクチャ(または、画像)を構成する最小の単位を意味することができる。また、ピクセルに対応する用語として「サンプル(sample)」が使用され得る。サンプルは、一般的にピクセルまたはピクセルの値を示すことができ、ルマ(luma)成分のピクセル/ピクセル値のみを示すこともでき、クロマ(chroma)成分のピクセル/ピクセル値のみを示すこともできる。または、サンプルは、空間ドメインでのピクセル値を意味することもでき、このようなピクセル値が周波数ドメインに変換されると、周波数ドメインでの変換係数を意味することもできる。
【0034】
ユニット(unit)は、画像処理の基本単位を示すことができる。ユニットは、ピクチャの特定領域及び当該領域に関連した情報のうち少なくとも1つを含むことができる。1つのユニットは、1つのルマブロック及び2つのクロマ(例えば、cb、cr)ブロックを含むことができる。ユニットは、場合によって、ブロック(block)または領域(area)などの用語と混用して使用されることができる。一般的な場合、M×Nブロックは、M個の列とN個の行からなるサンプル(または、サンプルアレイ)、または変換係数(transform coefficient)の集合(または、アレイ)を含むことができる。
【0035】
本文書において「AまたはB(A or B)」は、「Aのみ」、「Bのみ」、または「AとBの両方」を意味することができる。他に表現すれば、本文書において「AまたはB(A or B)」は、「A及び/又はB(A and/or B)」と解釈されることができる。例えば、本明細書において「A、B、またはC(A、B or C)」は、「Aのみ」、「Bのみ」、「Cのみ」、または「A、B、及びCの任意の全ての組み合わせ(any combination of A、B and C)」を意味することができる。
【0036】
本文書において使用されるスラッシュ(/)やコンマ(comma)は、「及び/又は(and/or)」を意味することができる。例えば、「A/B」は、「A及び/又はB」を意味することができる。これにより、「A/B」は、「Aのみ」、「Bのみ」、または「AとBの両方」を意味することができる。例えば、「A、B、C」は、「A、B、またはC」を意味することができる。
【0037】
本文書において「少なくとも1つのA及びB(at least oneof A and B)」は、「Aのみ」、「Bのみ」、または「AとBの両方」を意味することができる。また、本文書において「少なくとも1つのAまたはB(at least one of A or B)」や「少なくとも1つのA及び/又はB(at least one of A and/or B)」という表現は、「少なくとも1つのA及びB(at least one of A and B)」と同様に解釈されることができる。
【0038】
また、本文書において「少なくとも1つのA、B、及びC(at least one of A、B and C)」は、「Aのみ」、「Bのみ」、「Cのみ」、または「A、B、及びCの任意の全ての組み合わせ(any combination of A、B and C)」を意味することができる。また、「少なくとも1つのA、B、またはC(at least one of A、B or C)」や「少なくとも1つのA、B、及び/又はC(at least one of A、B and/or C)」は、「少なくとも1つのA、B、及びC(at least one of A、B and C)」を意味することができる。
【0039】
また、本文書で使用される括弧は、「例えば(for example)」を意味することができる。具体的に、「予測(イントラ予測)」と表示された場合、「予測」の一例として「イントラ予測」が提案されたものでありうる。言い換えれば、本文書の「予測」は、「イントラ予測」に制限(limit)されるものではなく、「イントラ予測」が「予測」の一例として提案されたものでありうる。また、「予測(即ち、イントラ予測)」と表示された場合にも、「予測」の一例として「イントラ予測」が提案されたものでありうる。
【0040】
本文書において1つの図面内で個別的に説明される技術的特徴は、個別的に実現されることができ、同時に実現されることもできる。
【0041】
図2は、本開示が適用され得るビデオ/画像エンコード装置の構成を概略的に説明する図である。以下、ビデオエンコード装置は、画像エンコード装置を含むことができる。
【0042】
図2に示すように、エンコード装置200は、画像分割部(image partitioner)210、予測部(predictor)220、レジデュアル処理部(residual processor)230、エントロピーエンコード部(entropy encoder)240、加算部(adder)250、フィルタリング部(filter)260、及びメモリ(memory)270を備えて構成されることができる。予測部220は、インター予測部221及びイントラ予測部222を備えることができる。レジデュアル処理部230は、変換部(transformer)232、量子化部(quantizer)233、逆量子化部(dequantizer)234、逆変換部(inverse transformer)235を備えることができる。レジデュアル処理部230は、減算部(subtractor、231)をさらに備えることができる。加算部250は、復元部(reconstructor)または復元ブロック生成部(recontructged block generator)と呼ばれることができる。上述した画像分割部210、予測部220、レジデュアル処理部230、エントロピーエンコード部240、加算部250、及びフィルタリング部260は、実施形態によって1つ以上のハードウェアコンポーネント(例えば、エンコーダチップセットまたはプロセッサ)によって構成されることができる。また、メモリ270は、DPB(decoded picture buffer)を備えることができ、デジタル格納媒体によって構成されることもできる。前記ハードウェアコンポーネントは、メモリ270を内/外部コンポーネントとしてさらに備えることもできる。
【0043】
画像分割部210は、エンコード装置200に入力された入力画像(または、ピクチャ、フレーム)を1つ以上の処理ユニット(processing unit)に分割することができる。一例として、前記処理ユニットは、コーディングユニット(coding unit、CU)と呼ばれることができる。この場合、コーディングユニットは、コーディングツリーユニット(coding tree unit、CTU)または最大コーディングユニット(largest coding unit、LCU)からQTBTTT(Quad-tree binary-tree ternary-tree)構造によって再帰的に(recursively)分割されることができる。例えば、1つのコーディングユニットは、クアッドツリー構造、バイナリツリー構造、及び/又はターナリ構造に基づいて下位(deeper)デプスの複数のコーディングユニットに分割されることができる。この場合、例えば、クアッドツリー構造が先に適用され、バイナリツリー構造及び/又はターナリ構造がその後に適用されることができる。または、バイナリツリー構造が先に適用されることもできる。それ以上分割されない最終コーディングユニットに基づいて本開示に係るコーディング手順が行われ得る。この場合、画像特性によるコーディング効率などに基づいて、最大コーディングユニットが最終コーディングユニットとして使用されることができ、または、必要に応じてコーディングユニットは、再帰的に(recursively)もっと下位デプスのコーディングユニットに分割されて最適のサイズのコーディングユニットが最終コーディングユニットとして使用されることができる。ここで、コーディング手順とは、後述する予測、変換、及び復元などの手順を含むことができる。他の例として、前記処理ユニットは、予測ユニット(PU:Prediction Unit)または変換ユニット(TU:Transform Unit)をさらに備えることができる。この場合、前記予測ユニット及び前記変換ユニットは、各々上述した最終コーディングユニットから分割またはパーティショニングされることができる。前記予測ユニットは、サンプル予測の単位であることができ、前記変換ユニットは、変換係数を導く単位及び/又は変換係数からレジデュアル信号(residual signal)を導く単位であることができる。
【0044】
ユニットは、場合によって、ブロック(block)または領域(area)などの用語と混用して使用されることができる。一般的な場合、M×Nブロックは、M個の列とN個の行からなるサンプルまたは変換係数(transform coefficient)等の集合を示すことができる。サンプルは、一般的にピクセルまたはピクセルの値を示すことができ、輝度(luma)成分のピクセル/ピクセル値のみを示すことができ、彩度(chroma)成分のピクセル/ピクセル値のみを示すこともできる。サンプルは、1つのピクチャ(または、画像)をピクセル(pixel)またはペル(pel)に対応する用語として使用することができる。
【0045】
エンコード装置200は、入力画像信号(原本ブロック、原本サンプルアレイ)から、インター予測部221またはイントラ予測部222から出力された予測信号(予測されたブロック、予測サンプルアレイ)を減算してレジデュアル信号(residual signal、残余ブロック、残余サンプルアレイ)を生成でき、生成されたレジデュアル信号は、変換部232に送信される。この場合、図示されたように、エンコード装置200内で入力画像信号(原本ブロック、原本サンプルアレイ)から予測信号(予測ブロック、予測サンプルアレイ)を減算するユニットは、減算部231と呼ばれることができる。予測部は、処理対象ブロック(以下、現在ブロックという)に対する予測を行い、前記現在ブロックに対する予測サンプルを含む予測されたブロック(predicted block)を生成できる。予測部は、現在ブロックまたはCU単位でイントラ予測が適用されるか、またはインター予測が適用されるか決定することができる。予測部は、各予測モードについての説明で後述するように、予測モード情報など、予測に関する様々な情報を生成してエントロピーエンコード部240に伝達することができる。予測に関する情報は、エントロピーエンコード部240でエンコードされてビットストリーム形態で出力されることができる。
【0046】
イントラ予測部222は、現在ピクチャ内のサンプルを参照して現在ブロックを予測することができる。前記参照されるサンプルは、予測モードによって前記現在ブロックの周辺(neighbor)に位置することができ、または、離れて位置することもできる。イントラ予測で予測モードは、複数の非方向性モードと複数の方向性モードとを含むことができる。非方向性モードは、例えば、DCモード及びプラナーモード(Planarモード)を含むことができる。方向性モードは、予測方向の細かい程度によって、例えば、33個の方向性予測モードまたは65個の方向性予測モードを含むことができる。ただし、これは、例示であり、設定によってそれ以上またはそれ以下の個数の方向性予測モードが使用され得る。イントラ予測部222は、周辺ブロックに適用された予測モードを用いて、現在ブロックに適用される予測モードを決定することもできる。
【0047】
インター予測部221は、参照ピクチャ上で動きベクトルにより特定される参照ブロック(参照サンプルアレイ)に基づいて、現在ブロックに対する予測されたブロックを導くことができる。このとき、インター予測モードで送信される動き情報の量を減らすために、周辺ブロックと現在ブロックとの間の動き情報の相関性に基づいて、動き情報をブロック、サブブロック、またはサンプル単位で予測することができる。前記動き情報は、動きベクトル及び参照ピクチャインデックスを含むことができる。前記動き情報は、インター予測方向(L0予測、L1予測、Bi予測等)情報をさらに含むことができる。インター予測の場合に、周辺ブロックは、現在ピクチャ内に存在する空間的周辺ブロック(spatial neighboring block)と参照ピクチャに存在する時間的周辺ブロック(temporal neighboring block)とを含むことができる。前記参照ブロックを含む参照ピクチャと前記時間的周辺ブロックを含む参照ピクチャとは同じであることができ、異なることもできる。前記時間的周辺ブロックは、同一位置参照ブロック(collocated reference block)、同一位置CU(col CU)などの名前で呼ばれることができ、前記時間的周辺ブロックを含む参照ピクチャは、同一位置ピクチャ(collocated picture、colPic)と呼ばれることもできる。例えば、インター予測部221は、周辺ブロックに基づいて動き情報候補リストを構成し、前記現在ブロックの動きベクトル及び/又は参照ピクチャインデックスを導出するために、どの候補が使用されるかを指示する情報を生成できる。様々な予測モードに基づいてインター予測が行われ得るし、例えば、スキップモードとマージモードとの場合に、インター予測部221は、周辺ブロックの動き情報を現在ブロックの動き情報として利用することができる。スキップモードの場合、マージモードとは異なり、レジデュアル信号が送信されないことがある。動き情報予測(motion vector prediction、MVP)モードの場合、周辺ブロックの動きベクトルを動きベクトル予測子(motion vector predictor)として用い、動きベクトル差分(motion vector difference)をシグナリングすることにより、現在ブロックの動きベクトルを指示することができる。
【0048】
予測部220は、後述する様々な予測方法に基づいて予測信号を生成できる。例えば、予測部は、1つのブロックに対する予測のためにイントラ予測またはインター予測を適用できるだけでなく、イントラ予測とインター予測とを同時に適用することができる。これは、combined inter and intra prediction(CIIP)と呼ばれることができる。また、予測部は、ブロックに対する予測のために、イントラブロックコピー(intra block copy、IBC)予測モードに基づくことができ、またはパレットモード(palette mode)に基づくこともできる。前記IBC予測モードまたはパレットモードは、例えば、SCC(screen content coding)などのように、ゲームなどのコンテンツ画像/動画コーディングのために使用されることができる。IBCは、基本的に現在ピクチャ内で予測を行うが、現在ピクチャ内で参照ブロックを導出する点においてインター予測と類似して行われることができる。すなわち、IBCは、本文書において説明されるインター予測技法のうち、少なくとも1つを利用できる。パレットモードは、イントラコーディングまたはイントラ予測の一例と見なすことができる。パレットモードが適用される場合、パレットテーブル及びパレットインデックスに関する情報に基づいてピクチャ内のサンプル値をシグナリングすることができる。
【0049】
前記予測部(インター予測部221及び/又は前記イントラ予測部222を備える)を介して生成された予測信号は、復元信号を生成するために用いられるか、レジデュアル信号を生成するために用いられることができる。変換部232は、レジデュアル信号に変換技法を適用して変換係数(transform coefficients)を生成できる。例えば、変換技法は、DCT(Discrete Cosine Transform)、DST(Discrete Sine Transform)、KLT(Karhunen-Loeve Transform)、GBT(Graph-Based Transform)、またはCNT(Conditionally Non-linear Transform)のうち、少なくとも1つを含むことができる。ここで、GBTは、ピクセル間の関係情報をグラフで表現するとするとき、このグラフから得られた変換を意味する。CNTは、以前に復元された全てのピクセル(all previously reconstructed pixel)を用いて予測信号を生成し、それに基づいて取得される変換を意味する。また、変換過程は、正四角形の同じサイズを有するピクセルブロックに適用されることができ、正四角形でない可変サイズのブロックにも適用されることができる。
【0050】
量子化部233は、変換係数を量子化してエントロピーエンコード部240に送信され、エントロピーエンコード部240は、量子化された信号(量子化された変換係数に関する情報)をエンコードしてビットストリームに出力することができる。前記量子化された変換係数に関する情報は、レジデュアル情報と呼ばれることができる。量子化部233は、係数スキャン順序(scan order)に基づいてブロック形態の量子化された変換係数を1次元ベクトル形態で再整列することができ、前記1次元ベクトル形態の量子化された変換係数に基づいて前記量子化された変換係数に関する情報を生成することもできる。エントロピーエンコード部240は、例えば、指数ゴロム(exponential Golomb)、CAVLC(context-adaptive variable length coding)、CABAC(context-adaptive binary arithmetic coding)などのような様々なエンコード方法を行うことができる。エントロピーエンコード部240は、量子化された変換係数の他に、ビデオ/イメージ復元に必要な情報(例えば、シンタックス要素(syntax elements)の値等)とともに、または別にエンコードすることもできる。エンコードされた情報(ex.エンコードされたビデオ/画像情報)は、ビットストリーム形態でNAL(network abstraction layer)ユニット単位で送信または格納されることができる。前記ビデオ/画像情報は、アダプテーションパラメータセット(APS)、ピクチャパラメータセット(PPS)、シーケンスパラメータセット(SPS)、またはビデオパラメータセット(VPS)など、様々なパラメータセットに関する情報をさらに含むことができる。また、前記ビデオ/画像情報は、一般制限情報(general constraint information)をさらに含むことができる。本文書においてエンコード装置からデコード装置に伝達/シグナリングされる情報及び/又はシンタックス要素は、ビデオ/画像情報に含まれることができる。前記ビデオ/画像情報は、上述したエンコード手順を介してエンコードされて前記ビットストリームに含まれることができる。前記ビットストリームは、ネットワークを介して送信されることができ、またはデジタル格納媒体に格納されることができる。ここで、ネットワークは、放送網及び/又は通信網などを含むことができ、デジタル格納媒体は、USB、SD、CD、DVD、ブルーレイ、HDD、SSDなど、様々な格納媒体を含むことができる。エントロピーエンコード部240から出力された信号は、送信する送信部(図示せず)及び/又は格納する格納部(図示せず)がエンコード装置200の内/外部エレメントとして構成されることができ、または送信部は、エントロピーエンコード部240に備えられることもできる。
【0051】
量子化部233から出力された量子化された変換係数は、予測信号を生成するために用いられることができる。例えば、量子化された変換係数に逆量子化部234及び逆変換部235を介して逆量子化及び逆変換を適用することにより、レジデュアル信号(レジデュアルブロックまたはレジデュアルサンプル)を復元できる。加算部155は、復元されたレジデュアル信号をインター予測部221またはイントラ予測部222から出力された予測信号に加算することによって復元(reconstructed)信号(復元ピクチャ、復元ブロック、復元サンプルアレイ)が生成され得る。スキップモードが適用された場合のように、処理対象ブロックに対するレジデュアルがない場合、予測されたブロックが復元ブロックとして使用されることができる。加算部250は、復元部または復元ブロック生成部と呼ばれることができる。生成された復元信号は、現在ピクチャ内の次の処理対象ブロックのイントラ予測のために使用されることができ、後述するように、フィルタリングを経て次のピクチャのインター予測のために使用されることもできる。
【0052】
一方、ピクチャエンコード及び/又は復元過程でLMCS(luma mapping with chrom ascaling)が適用されることもできる。
【0053】
フィルタリング部260は、復元信号にフィルタリングを適用して主観的/客観的画質を向上させることができる。例えば、フィルタリング部260は、復元ピクチャに多様なフィルタリング方法を適用して修正された(modified)復元ピクチャを生成することができ、前記修正された復元ピクチャをメモリ270、具体的に、メモリ270のDPBに格納することができる。前記多様なフィルタリング方法は、例えば、デブロッキングフィルタリング、サンプル適応的オフセット(sample adaptive offset)、適応的ループフィルタ(adaptive loop filter)、両方向フィルタ(bilateral filter)などを含むことができる。フィルタリング部260は、各フィルタリング方法に対する説明で後述するように、フィルタリングに関する多様な情報を生成してエントロピーエンコード部240に伝達できる。フィルタリング関する情報は、エントロピーエンコード部240でエンコードされてビットストリーム形態で出力されることができる。
【0054】
メモリ270に送信された修正された復元ピクチャは、インター予測部221で参照ピクチャとして使われることができる。エンコード装置は、これを介してインター予測が適用される場合、エンコード装置200とデコード装置での予測ミスマッチを避けることができ、符号化効率も向上させることができる。
【0055】
メモリ270のDPBは、修正された復元ピクチャをインター予測部221での参照ピクチャとして使用するために格納することができる。メモリ270は、現在ピクチャ内の動き情報が導出された(または、エンコードされた)ブロックの動き情報及び/又は既に復元されたピクチャ内のブロックの動き情報を格納することができる。前記格納された動き情報は、空間的周辺ブロックの動き情報または時間的周辺ブロックの動き情報として活用するためにインター予測部221に伝達できる。メモリ270は、現在ピクチャ内の復元されたブロックの復元サンプルを格納することができ、イントラ予測部222に伝達できる。
【0056】
一方、本文書において量子化/逆量子化及び/又は変換/逆変換のうち、少なくとも1つは省略されることができる。前記量子化/逆量子化が省略される場合、前記量子化された変換係数は、変換係数と呼ばれることができる。前記変換/逆変換が省略される場合、前記変換係数は、係数またはレジデュアル係数と呼ばれることができ、または、表現の統一性のために、変換係数と依然として呼ばれることもできる。
【0057】
また、本文書において量子化された変換係数及び変換係数は、各々変換係数及びスケーリングされた(scaled)変換係数と称されることができる。この場合、レジデュアル情報は、変換係数(等)に関する情報を含むことができ、前記変換係数(等)に関する情報は、レジデュアルコーディングシンタックスを介してシグナリングされることができる。前記レジデュアル情報(または、前記変換係数(等)に関する情報)に基づいて変換係数が導出され得るし、前記変換係数に対する逆変換(スケーリング)を介してスケーリングされた変換係数が導出され得る。前記スケーリングされた変換係数に対する逆変換(変換)に基づいてレジデュアルサンプルが導出され得る。これは、本文書の他の部分でも同様に適用/表現されることができる。
【0058】
図3は、本開示が適用され得るビデオ/画像デコード装置の構成を概略的に説明する図である。
【0059】
図3に示すように、デコード装置300は、エントロピーデコード部(entropy decoder)310、レジデュアル処理部(residual processor)320、予測部(predictor)330、加算部(adder)340、フィルタリング部(filter)350、及びメモリ(memoery)360を備えて構成されることができる。予測部330は、イントラ予測部331及びインター予測部332を備えることができる。レジデュアル処理部320は、逆量子化部(dequantizer)321及び逆変換部(inverse transformer)322を備えることができる。上述したエントロピーデコード部310、レジデュアル処理部320、予測部330、加算部340、及びフィルタリング部350は、実施形態によって1つのハードウェアコンポーネント(例えば、デコーダチップセットまたはプロセッサ)により構成されることができる。また、メモリ360は、DPB(decoded picture buffer)を備えることができ、デジタル格納媒体により構成されることもできる。前記ハードウェアコンポーネントは、メモリ360を内/外部コンポーネントとしてさらに備えることもできる。
【0060】
ビデオ/画像情報を含むビットストリームが入力されれば、デコード装置300は、図2のエンコード装置でビデオ/画像情報が処理されたプロセスに対応して画像を復元することができる。例えば、デコード装置300は、前記ビットストリームから取得したブロック分割関連情報に基づいてユニット/ブロックを導出できる。デコード装置300は、エンコード装置で適用された処理ユニットを用いてデコードを行うことができる。したがって、デコードの処理ユニットは、例えば、コーディングユニットであることができ、コーディングユニットは、コーディングツリーユニットまたは最大コーディングユニットからクアッドツリー構造、バイナリツリー構造、及び/又はターナリツリー構造にしたがって分割されることができる。コーディングユニットから1つ以上の変換ユニットが導出され得る。そして、デコード装置300を介してデコード及び出力された復元画像信号は、再生装置を介して再生されることができる。
【0061】
デコード装置300は、図3のエンコード装置から出力された信号をビットストリーム形態で受信することができ、受信された信号は、エントロピーデコード部310を介してデコードされることができる。例えば、エントロピーデコード部310は、前記ビットストリームをパーシングして画像復元(または、ピクチャ復元)に必要な情報(ex.ビデオ/画像情報)を導出できる。前記ビデオ/画像情報は、アダプテーションパラメータセット(APS)、ピクチャパラメータセット(PPS)、シーケンスパラメータセット(SPS)、またはビデオパラメータセット(VPS)など、様々なパラメータセットに関する情報をさらに含むことができる。また、前記ビデオ/画像情報は、一般制限情報(general constraint information)をさらに含むことができる。デコード装置は、さらに前記パラメータセットに関する情報及び/又は前記一般制限情報に基づいてピクチャをデコードすることができる。本文書において後述されるシグナリング/受信される情報及び/又はシンタックス要素は、前記デコード手順を介してデコードされて、前記ビットストリームから取得されることができる。例えば、エントロピーデコード部310は、指数ゴロム符号化、CAVLC、またはCABACなどのコーディング方法を基にビットストリーム内の情報をデコードし、画像復元に必要なシンタックスエレメントの値、レジデュアルに関する変換係数の量子化された値を出力できる。より詳細に、CABACエントロピーデコード方法は、ビットストリームで各シンタックス要素に該当するビンを受信し、デコード対象シンタックス要素情報と周辺及びデコード対象ブロックのデコード情報、あるいは以前ステップでデコードされたシンボル/ビンの情報を利用して文脈(context)モデルを決定し、決定された文脈モデルによってビン(bin)の発生確率を予測し、ビンの算術デコード(arithmetic decoding)を行って、各シンタックス要素の値に該当するシンボルを生成できる。このとき、CABACエントロピーデコード方法は、文脈モデル決定後、次のシンボル/ビンの文脈モデルのためにデコードされたシンボル/ビンの情報を利用して文脈モデルをアップデートすることができる。エントロピーデコード部310でデコードされた情報のうち、予測に関する情報は、予測部(インター予測部332及びイントラ予測部331)に提供され、エントロピーデコード部310でエントロピーデコードが行われたレジデュアル値、すなわち、量子化された変換係数及び関連パラメータ情報は、レジデュアル処理部320に入力されることができる。レジデュアル処理部320は、レジデュアル信号(レジデュアルブロック、レジデュアルサンプル、レジデュアルサンプルアレイ)を導出できる。また、エントロピーデコード部310でデコードされた情報のうち、フィルタリングに関する情報は、フィルタリング部350に提供されることができる。一方、エンコード装置から出力された信号を受信する受信部(図示せず)がデコード装置300の内/外部エレメントとしてさらに構成されることができ、または受信部は、エントロピーデコード部310の構成要素であることもできる。一方、本文書に係るデコード装置は、ビデオ/画像/ピクチャデコード装置と呼ばれることができ、前記デコード装置は、情報デコーダ(ビデオ/画像/ピクチャ情報デコーダ)及びサンプルデコーダ(ビデオ/画像/ピクチャサンプルデコーダ)に区分することもできる。前記情報デコーダは、前記エントロピーデコード部310を備えることができ、前記サンプルデコーダは、前記逆量子化部321、逆変換部322、加算部340、フィルタリング部350、メモリ360、インター予測部332、及びイントラ予測部331のうち、少なくとも1つを備えることができる。
【0062】
逆量子化部321では、量子化された変換係数を逆量子化して変換係数を出力することができる。逆量子化部321は、量子化された変換係数を2次元のブロック形態で再整列することができる。この場合、前記再整列は、エンコード装置で行われた係数スキャン順序に基づいて再整列を行うことができる。逆量子化部321は、量子化パラメータ(例えば、量子化ステップサイズ情報)を用いて量子化された変換係数に対する逆量子化を行い、変換係数(transform coefficient)を取得することができる。
【0063】
逆変換部322では、変換係数を逆変換してレジデュアル信号(レジデュアルブロック、レジデュアルサンプルアレイ)を取得するようになる。
【0064】
予測部は、現在ブロックに対する予測を行い、前記現在ブロックに対する予測サンプルを含む予測されたブロック(predicted block)を生成することができる。予測部は、エントロピーデコード部310から出力された前記予測に関する情報に基づいて、前記現在ブロックにイントラ予測が適用されるか、または、インター予測が適用されるかを決定することができ、具体的なイントラ/インター予測モードを決定することができる。
【0065】
予測部330は、後述する様々な予測方法に基づいて予測信号を生成できる。例えば、予測部は、1つのブロックに対する予測のために、イントラ予測またはインター予測を適用できるだけでなく、イントラ予測とインター予測とを同時に適用することができる。これは、combined inter and intra prediction(CIIP)と呼ばれることができる。また、予測部は、ブロックに対する予測のために、イントラブロックコピー(intra block copy、IBC)予測モードに基づくことができ、またはパレットモード(palette mode)に基づくこともできる。前記IBC予測モードまたはパレットモードは、例えば、SCC(screen content coding)などのように、ゲームなどのコンテンツ画像/動画コーディングのために使用されることができる。IBCは、基本的に現在ピクチャ内で予測を行うが、現在ピクチャ内で参照ブロックを導出する点においてインター予測と類似して行われることができる。すなわち、IBCは、本文書において説明されるインター予測技法のうち、少なくとも1つを利用できる。パレットモードは、イントラコーディングまたはイントラ予測の一例と見なすことができる。パレットモードが適用される場合、パレットテーブル及びパレットインデックスに関する情報が前記ビデオ/画像情報に含まれてシグナリングされることができる。
【0066】
イントラ予測部331は、現在ピクチャ内のサンプルを参照して現在ブロックを予測することができる。前記参照されるサンプルは、予測モードによって前記現在ブロックの周辺(neighbor)に位置でき、または離れて位置することもできる。イントラ予測において、予測モードは、複数の非方向性モードと複数の方向性モードとを含むことができる。イントラ予測部331は、周辺ブロックに適用された予測モードを利用し、現在ブロックに適用される予測モードを決定することもできる。
【0067】
インター予測部332は、参照ピクチャ上で動きベクトルにより特定される参照ブロック(参照サンプルアレイ)に基づいて、現在ブロックに対する予測されたブロックを誘導することができる。このとき、インター予測モードで送信される動き情報の量を減らすために、周辺ブロックと現在ブロックとの間の動き情報の相関性に基づいて、動き情報をブロック、サブブロックまたはサンプル単位で予測できる。前記動き情報は、動きベクトル及び参照ピクチャインデックスを含むことができる。前記動き情報は、インター予測方向(L0予測、L1予測、Bi予測等)情報をさらに含むことができる。インター予測の場合に、周辺ブロックは、現在ピクチャ内に存在する空間的周辺ブロック(spatial neighboring block)と、参照ピクチャに存在する時間的周辺ブロック(temporal neighboring block)と、を含むことができる。例えば、インター予測部332は、周辺ブロックに基づいて動き情報候補リストを構成し、受信した候補選択情報に基づいて前記現在ブロックの動きベクトル及び/又は参照ピクチャインデックスを導出できる。多様な予測モードに基づいてインター予測が実行されることができ、前記予測に関する情報は、前記現在ブロックに対するインター予測のモードを指示する情報を含むことができる。
【0068】
加算部340は、取得されたレジデュアル信号を予測部(インター予測部332及び/又はイントラ予測部331を備える)から出力された予測信号(予測されたブロック、予測サンプルアレイ)に加算することによって復元信号(復元ピクチャ、復元ブロック、復元サンプルアレイ)を生成できる。スキップモードが適用された場合のように、処理対象ブロックに対するレジデュアルがない場合、予測されたブロックが復元ブロックとして使用され得る。
【0069】
加算部340は、復元部または復元ブロック生成部と呼ばれることができる。生成された復元信号は、現在ピクチャ内の次の処理対象ブロックのイントラ予測のために使われることができ、後述するように、フィルタリングを経て出力されることもでき、または、次のピクチャのインター予測のために使われることもできる。
【0070】
一方、ピクチャデコード過程でLMCS(luma mapping with chroma scaling)が適用されることもできる。
【0071】
フィルタリング部350は、復元信号にフィルタリングを適用して主観的/客観的画質を向上させることができる。例えば、フィルタリング部350は、復元ピクチャに多様なフィルタリング方法を適用して修正された(modified)復元ピクチャを生成することができ、前記修正された復元ピクチャをメモリ360、具体的に、メモリ360のDPBに送信できる。前記多様なフィルタリング方法は、例えば、デブロッキングフィルタリング、サンプル適応的オフセット(sample adaptive offset)、適応的ループフィルタ(adaptive loop filter)、両方向フィルタ(bilateral filter)などを含むことができる。
【0072】
メモリ360のDPBに格納された(修正された)復元ピクチャは、インター予測部332で参照ピクチャとして使われることができる。メモリ360は、現在ピクチャ内の動き情報が導出された(または、デコードされた)ブロックの動き情報及び/又は既に復元されたピクチャ内のブロックの動き情報を格納することができる。前記格納された動き情報は、空間的周辺ブロックの動き情報または時間的周辺ブロックの動き情報として活用するためにインター予測部332に伝達できる。メモリ360は、現在ピクチャ内の復元されたブロックの復元サンプルを格納することができ、イントラ予測部331に伝達できる。
【0073】
本明細書において、エンコード装置200のフィルタリング部260、インター予測部221、及びイントラ予測部222で説明された実施形態は、各々デコード装置300のフィルタリング部350、インター予測部332、及びイントラ予測部331にも同一または対応するように適用されることができる。
【0074】
一方、前述したように、ビデオコーディングを実行するにあたって圧縮効率を上げるために予測を実行する。それによって、コーディング対象ブロックである現在ブロックに対する予測サンプルを含む予測されたブロックを生成することができる。ここで、前記予測されたブロックは、空間ドメイン(または、ピクセルドメイン)での予測サンプルを含む。前記予測されたブロックは、エンコード装置及びデコード装置で同様に導出され、前記エンコード装置は、原本ブロックの原本サンプル値自体でない前記原本ブロックと前記予測されたブロックとの間のレジデュアルに関する情報(レジデュアル情報)をデコード装置にシグナリングすることで画像コーディング効率を上げることができる。デコード装置は、前記レジデュアル情報に基づいてレジデュアルサンプルを含むレジデュアルブロックを導出し、前記レジデュアルブロックと前記予測されたブロックを加算して復元サンプルを含む復元ブロックを生成することができ、復元ブロックを含む復元ピクチャを生成することができる。
【0075】
前記レジデュアル情報は、変換及び量子化手順を介して生成されることができる。例えば、エンコード装置は、前記原本ブロックと前記予測されたブロックとの間のレジデュアルブロックを導出し、前記レジデュアルブロックに含まれているレジデュアルサンプル(レジデュアルサンプルアレイ)に変換手順を実行して変換係数を導出し、前記変換係数に量子化手順を実行して量子化された変換係数を導出することで、関連したレジデュアル情報を(ビットストリームを介して)デコード装置にシグナリングすることができる。ここで、前記レジデュアル情報は、前記量子化された変換係数の値情報、位置情報、変換技法、変換カーネル、量子化パラメータなどの情報を含むことができる。デコード装置は、前記レジデュアル情報に基づいて逆量子化/逆変換手順を実行してレジデュアルサンプル(または、レジデュアルブロック)を導出できる。デコード装置は、予測されたブロックと前記レジデュアルブロックに基づいて復元ピクチャを生成することができる。また、エンコード装置は、以後ピクチャのインター予測のための参照のために量子化された変換係数を逆量子化/逆変換してレジデュアルブロックを導出し、これに基づいて復元ピクチャを生成することができる。
【0076】
図4は、インター予測に基づいたビデオ/画像エンコード方法の一例を示し、図5は、エンコード装置内のインター予測部を概略的に示した一例である。図5のエンコード装置内のインター予測部は、上述した図2のエンコード装置200のインター予測部221にも同一または対応するように適用されることができる。
【0077】
図4及び図5に示すように、エンコード装置は、現在ブロックに対するインター予測を行う(S400)。エンコード装置は、現在ブロックのインター予測モード及び動き情報を導出し、現在ブロックの予測サンプルを生成できる。ここで、インター予測モード決定、動き情報導出、及び予測サンプル生成手順は、同時に行われることができ、いずれか1つの手順が他の手順より先に行われることもできる。
【0078】
例えば、エンコード装置のインター予測部221は、予測モード決定部221_1、動き情報導出部221_2、予測サンプル導出部221_3を備えることができ、予測モード決定部221_1で前記現在ブロックに対する予測モードを決定し、動き情報導出部221_2で前記現在ブロックの動き情報を導出し、予測サンプル導出部221_3で前記現在ブロックの予測サンプルを導出できる。例えば、エンコード装置のインター予測部221は、動き推定(motion estimation)を介して参照ピクチャの一定領域(サーチ領域)内で現在ブロックと類似したブロックをサーチし、現在ブロックとの差が最小または一定基準以下である参照ブロックを導出できる。これに基づいて参照ブロックが位置する参照ピクチャを指す参照ピクチャインデックスを導出し、参照ブロックと現在ブロックとの位置差に基づいて動きベクトルを導出できる。エンコード装置は、様々な予測モードのうち、現在ブロックに対して適用されるモードを決定できる。エンコード装置は、様々な予測モードに対するRD costを比較し、現在ブロックに対する最適の予測モードを決定できる。
【0079】
例えば、エンコード装置は、現在ブロックにスキップモードまたはマージモードが適用される場合、マージ候補リストを構成し、マージ候補リストに含まれたマージ候補が指す参照ブロックのうち、現在ブロックとの差が最小または一定基準以下である参照ブロックを導出できる。この場合、導出された参照ブロックと連関したマージ候補が選択され、選択されたマージ候補を指すマージインデックス情報が生成されてデコード装置にシグナリングされることができる。選択されたマージ候補の動き情報を利用して現在ブロックの動き情報が導出され得る。
【0080】
他の例として、エンコード装置は、現在ブロックに(A)MVPモードが適用される場合、(A)MVP候補リストを構成し、(A)MVP候補リストに含まれたmvp(motion vector predictor)候補のうち、選択されたmvp候補の動きベクトルを現在ブロックのmvpとして用いることができる。この場合、例えば、上述した動き推定によって導出された参照ブロックを指す動きベクトルが現在ブロックの動きベクトルとして用いられることができ、mvp候補のうち、現在ブロックの動きベクトルとの差が最も小さい動きベクトルを有するmvp候補が選択されたmvp候補になることができる。現在ブロックの動きベクトルからmvpを減算した差分であるMVD(motion vector difference)が導出され得る。この場合、MVDに関する情報がデコード装置にシグナリングされることができる。また、(A)MVPモードが適用される場合、参照ピクチャインデックスの値は、参照ピクチャインデックス情報で構成されて別にデコード装置にシグナリングされることができる。
【0081】
エンコード装置は、予測サンプルに基づいてレジデュアルサンプルを導出できる(S410)。エンコード装置は、現在ブロックの原本サンプルと予測サンプルとの比較を介してレジデュアルサンプルを導出できる。
【0082】
エンコード装置は、予測情報及びレジデュアル情報を含む画像情報をエンコードする(S420)。エンコード装置はエンコードされた画像情報をビットストリーム形態で出力することができる。予測情報は、予測手順に関連した情報であって、予測モード情報(ex.skip flag、merge flag or mode index等)及び動き情報に関する情報を含むことができる。動き情報に関する情報は、動きベクトルを導出するための情報である候補選択情報(ex.merge index)を含むことができる。また、動き情報に関する情報は、L0予測、L1予測、または双(bi)予測が適用されるか否かを表す情報を含むことができる。レジデュアル情報は、レジデュアルサンプルに関する情報である。レジデュアル情報は、レジデュアルサンプルに対する量子化された変換係数に関する情報を含むことができる。
【0083】
出力されたビットストリームは、(デジタル)格納媒体に格納されてデコード装置に伝達されることができ、または、ネットワークを介してデコード装置に伝達されることもできる。
【0084】
また、上述したように、エンコード装置は、参照サンプル及びレジデュアルサンプルに基づいて復元ピクチャ(復元サンプル及び復元ブロックを含む)を生成できる。これは、デコード装置で行われることと同一の予測結果をエンコード装置で導出するためであり、これを介してコーディング効率を上げることができるためである。したがって、エンコード装置は、復元ピクチャ(または、復元サンプル、復元ブロック)をメモリに格納し、インター予測のための参照ピクチャとして活用することができる。復元ピクチャにインループフィルタリング手順などがさらに適用され得ることは、上述したとおりである。
【0085】
図6は、インター予測に基づいたビデオ/画像デコード方法の一例を示し、図7は、デコード装置内のインター予測部を概略的に示した一例である。図7のデコード装置内のインター予測部は、上述した図3のデコード装置300のインター予測部332にも同一または対応するように適用されることができる。
【0086】
図6及び図7に示すように、デコード装置は、前記エンコード装置で行われた動作と対応する動作を行うことができる。デコード装置は、受信された予測情報に基づいて現在ブロックに予測を行い、予測サンプルを導出できる。
【0087】
具体的に、デコード装置は、受信された予測情報に基づいて現在ブロックに対する予測モードを決定できる(S600)。デコード装置は、予測情報内の予測モード情報に基づいて現在ブロックにどのインター予測モードが適用されるか決定することができる。
【0088】
インター予測モード候補は、スキップモード、マージモード、及び/又は(A)MVPモードを含むことができ、または、様々なインター予測モードを含むことができる。
【0089】
デコード装置は、決定されたインター予測モードに基づいて現在ブロックの動き情報を導出する(S610)。例えば、デコード装置は、現在ブロックにスキップモードまたはマージモードが適用される場合、マージ候補リストを構成し、マージ候補リストに含まれたマージ候補のうち1つのマージ候補を選択できる。ここで、選択は、上述した選択情報(merge index)に基づいて行われることができる。選択されたマージ候補の動き情報を利用して現在ブロックの動き情報が導出され得る。選択されたマージ候補の動き情報が現在ブロックの動き情報として利用されることができる。
【0090】
他の例として、デコード装置は、現在ブロックに(A)MVPモードが適用される場合、(A)MVP候補リストを構成し、(A)MVP候補リストに含まれたmvp(motion vector predictor)候補のうち、選択されたmvp候補の動きベクトルを現在ブロックのmvpとして用いることができる。ここで、選択は、上述した選択情報(mvp flag or mvp index)に基づいて行われることができる。この場合、前記MVDに関する情報に基づいて現在ブロックのMVDを導出でき、現在ブロックのmvpとMVDとに基づいて現在ブロックの動きベクトルを導出できる。また、参照ピクチャインデックス情報に基づいて現在ブロックの参照ピクチャインデックスを導出できる。現在ブロックに関する参照ピクチャリスト内で参照ピクチャインデックスが指すピクチャが現在ブロックのインター予測のために参照される参照ピクチャとして導出されることができる。
【0091】
一方、候補リスト構成なしに現在ブロックの動き情報が導出され得るし、この場合、予測モードで開示された手順によって現在ブロックの動き情報が導出され得る。この場合、上述したような候補リスト構成は省略されることができる。
【0092】
デコード装置は、現在ブロックの動き情報に基づいて現在ブロックに対する予測サンプルを生成できる(S620)。この場合、現在ブロックの参照ピクチャインデックスに基づいて参照ピクチャを導出し、現在ブロックの動きベクトルが参照ピクチャ上で指す参照ブロックのサンプルを用いて現在ブロックの予測サンプルを導出できる。このとき、場合によって、現在ブロックの予測サンプルのうち、全部または一部に対する予測サンプルフィルタリング手順がさらに行われ得る。
【0093】
例えば、デコード装置のインター予測部332は、予測モード決定部332_1、動き情報導出部332_2、予測サンプル導出部332_3を備えることができ、予測モード決定部332_1で受信された予測モード情報に基づいて現在ブロックに対する予測モードを決定し、動き情報導出部332_2で受信された動き情報に関する情報に基づいて現在ブロックの動き情報(動きベクトル及び/又は参照ピクチャインデックス等)を導出し、予測サンプル導出部332_3で現在ブロックの予測サンプルを導出できる。
【0094】
デコード装置は、受信されたレジデュアル情報に基づいて現在ブロックに対するレジデュアルサンプルを生成する(S630)。デコード装置は、予測サンプル及びレジデュアルサンプルに基づいて現在ブロックに対する復元サンプルを生成し、これに基づいて復元ピクチャを生成できる(S640)。その後、復元ピクチャにインループフィルタリング手順などがさらに適用され得ることは、上述したとおりである。
【0095】
上述したように、インター予測手順は、インター予測モード決定ステップ、決定された予測モードによる動き情報導出ステップ、導出された動き情報に基づいた予測実行(予測サンプル生成)ステップを含むことができる。インター予測手順は、上述したように、エンコード装置及びデコード装置で行われることができる。
【0096】
一方、現在ブロックの動き情報を導出するにあたり、空間的周辺ブロック(等)及び時間的周辺ブロック(等)に基づいて動き情報候補(等)を導出し、導出された動き情報候補(等)に基づいて現在ブロックのための動き情報候補を選択できる。このとき、選択された動き情報候補を現在ブロックの動き情報として使用することができる。
【0097】
図8は、インター予測においてマージモードを説明するための図である。
【0098】
マージモード(merge mode)が適用される場合、現在予測ブロックの動き情報が直接的に送信されずに、周辺予測ブロックの動き情報を利用して前記現在予測ブロックの動き情報を導くようになる。したがって、マージモードを用いたことを報知するフラグ情報及び周辺のどの予測ブロックを用いたかを報知するマージインデックスを送信することによって現在予測ブロックの動き情報を指示できる。前記マージモードは、レギュラーマージモード(regular merge mode)と呼ばれることができる。例えば、前記マージモードは、regular_merge_flagシンタックス要素の値が1である場合に適用されることができる。
【0099】
エンコード装置は、マージモードを行うために、現在予測ブロックの動き情報を導くために用いられるマージ候補ブロック(merge candidate block)をサーチ(search)しなければならない。例えば、前記マージ候補ブロックは、最大5個まで用いられることができるが、本文書の実施形態(等)は、これに限定されない。そして、前記マージ候補ブロックの最大個数は、スライスヘッダまたはタイルグループヘッダで送信されることができるが、本文書の実施形態(等)は、これに限定されない。前記マージ候補ブロックを探した後、エンコード装置は、マージ候補リストを生成でき、これらのうち、最も小さい費用を有するマージ候補ブロックを最終マージ候補ブロックとして選択することができる。
【0100】
本文書は、前記マージ候補リストを構成するマージ候補ブロックに対する様々な実施形態を提供できる。
【0101】
例えば、前記マージ候補リストは、5個のマージ候補ブロックを用いることができる。例えば、4個の空間的マージ候補(spatial merge candidate)と1個の時間的マージ候補(temporal merge candidate)とを利用できる。具体的な例として、空間的マージ候補の場合、図8に示されたブロックを空間的マージ候補として用いることができる。以下、前記空間的マージ候補または後述する空間的MVP候補は、SMVPと呼ばれることができ、前記時間的マージ候補または後述する時間的MVP候補は、TMVPと呼ばれることができる。
【0102】
前記現在ブロックに対するマージ候補リストは、例えば、次のような手順に基づいて構成されることができる。
【0103】
コーディング装置(エンコード装置/デコード装置)は、現在ブロックの空間的周辺ブロックを探索し、導出された空間的マージ候補をマージ候補リストに挿入することができる。例えば、前記空間的周辺ブロックは、前記現在ブロックの左下側コーナー周辺ブロック、左側周辺ブロック、右上側コーナー周辺ブロック、上側周辺ブロック、左上側コーナー周辺ブロックを含むことができる。ただし、これは例示であって、上述した空間的周辺ブロックの他にも、右側周辺ブロック、下側周辺ブロック、右下側周辺ブロックなど、追加的な周辺ブロックがさらに前記空間的周辺ブロックとして使用されることができる。コーディング装置は、前記空間的周辺ブロックを優先順位に基づいて探索して利用可能なブロックを検出し、検出されたブロックの動き情報を前記空間的マージ候補で導出することができる。例えば、エンコード装置またはデコード装置は、図8に示された5個のブロックをA1→B1→B0→A0→B2のように順番に探索し、利用可能な候補を順次インデクシングしてマージ候補リストとして構成することができる。
【0104】
コーディング装置は、前記現在ブロックの時間的周辺ブロックを探索し、導出された時間的マージ候補を前記マージ候補リストに挿入することができる。前記時間的周辺ブロックは、前記現在ブロックが位置する現在ピクチャと異なるピクチャである参照ピクチャ上に位置することができる。前記時間的周辺ブロックが位置する参照ピクチャは、コロケーテッド(collocated)ピクチャまたはコル(col)ピクチャと呼ばれることができる。前記時間的周辺ブロックは、前記コル(col)ピクチャ上での前記現在ブロックに対する同一位置ブロック(co-located block)の右下側コーナー周辺ブロック及び右下側センターブロックの順に探索されることができる。一方、動き情報圧縮(motion data compression)が適用される場合、前記コル(col)ピクチャに一定格納単位毎に特定動き情報を代表動き情報として格納することができる。この場合、前記一定格納単位内の全てのブロックに対する動き情報を格納する必要がなく、これを介して動き情報圧縮(motion data compression)効果を得ることができる。この場合、一定格納単位は、例えば、16×16サンプル単位、または8×8サンプル単位などで予め決められることができ、またはエンコード装置からデコード装置に前記一定格納単位に対するサイズ情報がシグナリングされることもできる。前記動き情報圧縮(motion data compression)が適用される場合、前記時間的周辺ブロックの動き情報は、前記時間的周辺ブロックが位置する前記一定格納単位の代表動き情報に代替されることができる。すなわち、この場合、実現の側面から見ると、前記時間的周辺ブロックの座標に位置する予測ブロックでない、前記時間的周辺ブロックの座標(左上端サンプルポジション)に基づいて一定値の分だけ算術的右側シフト後、算術的左側シフトした位置をカバーする予測ブロックの動き情報に基づいて前記時間的マージ候補が導出され得る。例えば、前記一定格納単位が2n×2nサンプル単位である場合、前記時間的周辺ブロックの座標が(xTnb、yTnb)とすれば、修正された位置である((xTnb>>n)<<n)、(yTnb>>n)<<n))に位置する予測ブロックの動き情報が前記時間的マージ候補のために使用されることができる。具体的に、例えば、前記一定格納単位が16×16サンプル単位である場合、前記時間的周辺ブロックの座標が(xTnb、yTnb)とすれば、修正された位置である((xTnb>>4)<<4)、(yTnb>>4)<<4))に位置する予測ブロックの動き情報が前記時間的マージ候補のために使用されることができる。または、例えば、前記一定格納単位が8×8サンプル単位である場合、前記時間的周辺ブロックの座標が(xTnb、yTnb)とすれば、修正された位置である((xTnb>>3)<<3)、(yTnb>>3)<<3))に位置する予測ブロックの動き情報が前記時間的マージ候補のために使用されることができる。
【0105】
コーディング装置は、現在マージ候補の個数が最大マージ候補の個数より小さいか否かを確認できる。前記最大マージ候補の個数は、予め定義されるか、エンコード装置からデコード装置にシグナリングされることができる。例えば、エンコード装置は、前記最大マージ候補の個数に関する情報を生成し、エンコードしてビットストリーム形態で前記デコーダに伝達することができる。前記最大マージ候補の個数が全て満たされれば、以後の候補追加過程は、進行しないことができる。
【0106】
前記確認結果、前記現在マージ候補の個数が前記最大マージ候補の個数より小さい場合、コーディング装置は、追加マージ候補を前記マージ候補リストに挿入することができる。例えば、前記追加マージ候補は、後述するヒストリー基盤のマージ候補(等)(history based merge candidate(s))、ペアワイズ平均マージ候補(等)(pair-wise average merge candidate(s))、ATMVP、組み合わせられた双予測(combined bi-predictive)マージ候補(現在スライス/タイルグループのスライス/タイルグループタイプがBタイプである場合)、及び/又はゼロベクトルマージ候補のうち、少なくとも1つを含むことができる。
【0107】
前記確認結果、前記現在マージ候補の個数が前記最大マージ候補の個数より小さくない場合、コーディング装置は、前記マージ候補リストの構成を終了できる。この場合、エンコード装置は、RD(rate-distortion)コスト(cost)基盤で前記マージ候補リストを構成するマージ候補ののうち、最適のマージ候補を選択でき、前記選択されたマージ候補を指す選択情報(ex.merge index)をデコード装置にシグナリングすることができる。デコード装置は、前記マージ候補リスト及び前記選択情報に基づいて前記最適のマージ候補を選択できる。
【0108】
前記選択されたマージ候補の動き情報が前記現在ブロックの動き情報として使用されることができ、前記現在ブロックの動き情報に基づいて前記現在ブロックの予測サンプルを導出できることは、上述したとおりである。エンコード装置は、前記予測サンプルに基づいて前記現在ブロックのレジデュアルサンプルを導出でき、前記レジデュアルサンプルに関するレジデュアル情報をデコード装置にシグナリングすることができる。デコード装置は、前記レジデュアル情報に基づいて導出されたレジデュアルサンプル及び前記予測サンプルに基づいて復元サンプルを生成でき、これに基づいて復元ピクチャを生成できることは、上述したとおりである。
【0109】
スキップモード(skipmode)が適用される場合、上記でマージモードが適用される場合と同じ方法で前記現在ブロックの動き情報を導出できる。ただし、スキップモードが適用される場合、当該ブロックに対するレジデュアル信号が省略され、したがって、予測サンプルが直ちに復元サンプルとして用いられることができる。前記スキップモードは、例えば、cu_skip_flagシンタックス要素の値が1である場合に適用されることができる。
【0110】
一方、前記ペアワイズ平均マージ候補(pair-wise average merge candidate)は、ペアワイズ平均候補またはペアワイズ候補と呼ばれることができる。ペアワイズ平均候補(等)は、既存の(existing)マージ候補リストで予め定義された候補のペアを平均して生成されることができる。また、予め定義されたペアは、{(0、1)、(0、2)、(1、2)、(0、3)、(1、3)、(2、3)}のように定義されることができる。ここで、数字は、マージ候補リストに対するマージインデックスを表すことができる。平均化された動きベクトル(averaged motion vector)は、各参照リストに対して別に計算されることができる。例えば、2個の動きベクトルが1つのリスト内で利用可能である場合、前記2個の動きベクトルは、互いに異なる参照ピクチャを指しても平均化されることができる。例えば、1つの動きベクトルのみが利用可能である場合、直ちに(directly)1つが使用され得る。例えば、利用可能な動きベクトルがない場合、リストを有効でない状態に維持することができる。
【0111】
例えば、ペアワイズ平均マージ候補が追加された後にも、マージ候補リストが満たされなかった場合、すなわち、マージ候補リスト内に現在マージ候補の個数が最大マージ候補の個数より小さい場合、最大マージ候補番号が表れるまでゼロベクトル(zero MVP)が最後に挿入され得る。すなわち、マージ候補リスト内の現在マージ候補の個数が最大マージ候補個数になるまでゼロベクトルを挿入できる。
【0112】
一方、既存には、コーディングブロックの動きを表現するために、ただ1つの動きベクトルを使用することができた。すなわち、移し(translation)動きモデルが使用されることができた。ただし、このような方法がブロック単位で最適の動きを表現したこともあり得るが、実際、各サンプルの最適の動きではなく、サンプル単位で最適の動きベクトルを決定できるならば、コーディング効率を上げることができる。このために、アフィン動きモデル(affine motion model)が使用され得る。アフィン動きモデルを使用してコーディングするアフィン動き予測方法は、次のとおりであることができる。
【0113】
アフィン動き予測方法は、2個、3個、または4個の動きベクトルを用いてブロックの各サンプル単位で動きベクトルを表現できる。例えば、アフィン動きモデルは、4つの動きを表現できる。アフィン動きモデルが表現できる動きのうち、3つの動き(移し(translation)、スケール(scale)、回転(rotate))を表現するアフィン動きモデルは、類似(similarity)(または、簡素化された(simplified))アフィン動きモデルと呼ばれることができる。しかし、アフィン動きモデルが上述した動きモデルに限定されるものではない。
【0114】
図9a及び図9bは、アフィン動き予測のためのCPMVを例示的に示す。
【0115】
アフィン動き予測は、2個以上のコントロールポイント動きベクトル(Control Point Motion Vector、CPMV)を用いてブロックが含むサンプル位置の動きベクトルを決定できる。このとき、動きベクトルの集合をアフィン動きベクトルフィールド(MVF:Motion Vector Field)と表すことができる。
【0116】
例えば、図9aは、2個のCPMVが利用される場合を表すことができ、これは、4-パラメータアフィンモデルと呼ばれることができる。この場合、(x、y)サンプル位置における動きベクトルは、例えば、数式1のように決定されることができる。
【0117】
【数1】
【0118】
例えば、図9bは、3個のCPMVが利用される場合を表すことができ、これは、6-パラメータアフィンモデルと呼ばれることができる。この場合、(x、y)サンプル位置における動きベクトルは、例えば、数式2のように決定されることができる。
【0119】
【数2】
【0120】
数式1及び数式2において、{v、v}は、(x、y)位置における動きベクトルを表すことができる。また、{v0x、v0y}は、コーディングブロックの左上端コーナー位置のコントロールポイント(CP:Control Point)のCPMVを表すことができ、{v1x、v1y}は、右上端コーナー位置のCPのCPMVを表すことができ、{v2x、v2y}は、左下端コーナー位置のCPのCPMVを表すことができる。また、Wは、現在ブロックの幅(width)を表すことができ、Hは、現在ブロックの高さ(hight)を表すことができる。
【0121】
図10は、アフィンMVFがサブブロック単位で決定される場合を例示的に示す。
【0122】
エンコード/デコード過程でアフィンMVFは、サンプル単位あるいは既に定義されたサブブロック単位で決定されることができる。例えば、サンプル単位で決定する場合、各サンプル値を基準に動きベクトルが得られることができる。または、例えば、サブブロック単位で決定する場合、サブブロックの中央(センター右下側、すなわち、中央の4個のサンプルのうち、右下側サンプル)サンプル値を基準に当該ブロックの動きベクトルを得ることができる。すなわち、アフィン動き予測で現在ブロックの動きベクトルは、サンプル単位またはサブブロック単位で導出されることができる。
【0123】
図10の場合、アフィンMVFが4×4サブブロック単位で決定されるが、サブブロックのサイズは、様々に変形されることができる。
【0124】
すなわち、アフィン予測が利用可能な場合、現在ブロックに適用可能な動きモデルは、3つ(移し動きモデル(translational motion model)、4-パラメータアフィン動きモデル(4-parameter affine motion model)、6-パラメータアフィン動きモデル(6-parameter affine motion model))を含むことができる。ここで、移し動きモデルは、既存のブロック単位動きベクトルが使用されるモデルを表すことができ、4-パラメータアフィン動きモデルは、2個のCPMVが使用されるモデルを表すことができ、6-パラメータアフィン動きモデルは、3個のCPMVが使用されるモデルを表すことができる。
【0125】
一方、アフィン動き予測は、アフィンMVP(または、アフィンインター)モードまたはアフィンマージモードを含むことができる。
【0126】
図11は、インター予測においてアフィンマージモードを説明するための図である。
【0127】
例えば、アフィンマージモードでCPMVは、アフィン動き予測でコーディングされた周辺ブロックのアフィン動きモデルによって決定されることができる。例えば、サーチ(search)順序上のアフィン動き予測でコーディングされた周辺ブロックがアフィンマージモードのために使用されることができる。すなわち、周辺ブロックのうち、少なくとも1つがアフィン動き予測でコーディングされた場合、現在ブロックは、アフィンマージモードでコーディングされることができる。ここで、アフィンマージモードは、AF_MERGEと呼ばれることができる。
【0128】
アフィンマージモードが適用される場合、周辺ブロックのCPMVを利用して現在ブロックのCPMVが導出され得る。この場合、周辺ブロックのCPMVがそのまま現在ブロックのCPMVとして使用されることができ、周辺ブロックのCPMVが前記周辺ブロックのサイズ及び前記現在ブロックのサイズなどに基づいて修正されて現在ブロックのCPMVとして使用されることもできる。
【0129】
一方、サブブロック単位で動きベクトル(MV:Motion Vector)が導出されるアフィンマージモードの場合には、サブブロックマージモードと呼ばれることができ、これは、サブブロックマージフラグ(または、merge_subblock_flagシンタックス要素)に基づいて指示されることができる。または、merge_subblock_flagシンタックス要素の値が1である場合、サブブロックマージモードが適用されることが指示され得る。この場合、後述するアフィンマージ候補リストは、サブブロックマージ候補リストと呼ばれることもできる。この場合、前記サブブロックマージ候補リストには、後述するSbTMVPで導出された候補がさらに含まれることができる。この場合、前記SbTMVPで導出された候補は、前記サブブロックマージ候補リストの0番インデックスの候補として利用されることができる。言い換えれば、前記SbTMVPで導出された候補は、前記サブブロックマージ候補リスト内で後述する継承されたアフィン候補(inherited affine candidate)または構成されたアフィン候補(constructed affine candidate)より前に位置することができる。
【0130】
アフィンマージモードが適用される場合、現在ブロックに対するCPMV導出のために、アフィンマージ候補リストが構成され得る。例えば、アフィンマージ候補リストは、次の候補のうち、少なくとも1つを含むことができる。1)継承された(inherited)アフィンマージ候補。2)構成された(constructed)アフィンマージ候補。3)ゼロ動きベクトル候補(または、ゼロベクトル)。ここで、前記継承されたアフィンマージ候補は、周辺ブロックがアフィンモードでコーディングされた場合、周辺ブロックのCPMVsに基づいて導出される候補であり、前記構成されたアフィンマージ候補は、各CPMV単位で当該CPの周辺ブロックのMVに基づいてCPMVsを構成して導出された候補であり、ゼロ動きベクトル候補は、その値が0であるCPMVで構成された候補を表すことができる。
【0131】
前記アフィンマージ候補リストは、例えば、次のように構成されることができる。
【0132】
最大2個の継承されたアフィン候補がありうるし、継承されたアフィン候補は、周辺ブロックのアフィン動きモデルから導出されることができる。周辺ブロックは、1つの左側周辺ブロックと上側の周辺ブロックとを含むことができる。候補ブロックは、図4のように位置することができる。左側予測子(left predictor)のためのスキャン順序は、A1→A0であることができ、上側予測子(above predictor)のためのスキャン順序は、B1→B0→B2であることができる。左側及び上側の各々から1つの継承された候補のみが選択され得る。2つの継承された候補間には、プルーニングチェック(pruning check)が行われないことがある。
【0133】
周辺アフィンブロックが確認される場合、確認したブロックのコントロールポイント動きベクトルが現在ブロックのアフィンマージリスト内のCPMVP候補を導出するために使用されることができる。ここで、周辺アフィンブロックは、現在ブロックの周辺ブロックのうち、アフィン予測モードでコーディングされたブロックを表すことができる。例えば、図7に示すように、左下側(bottom-left)周辺ブロックAがアフィン予測モードでコーディングされた場合、周辺ブロックAの左上側(top-left)コーナー、右上側(top-right)コーナー、及び左下側(bottom-left)コーナーの動きベクトルのv2、v3、及びv4が取得され得る。周辺ブロックAが4-パラメータアフィン動きモデルでコーディングされた場合、現在ブロックの2個のCPMVがv2及びv3によって算出され得る。周辺ブロックAが6-パラメータアフィン動きモデルでコーディングされた場合、現在ブロックの3個のCPMVのv2、v3、及びv4によって算出されることができる。
【0134】
図12は、アフィンマージモードで候補の位置を説明するための図である。
【0135】
構成された(constructed)アフィン候補は、各コントロールポイントの周辺のtranslational動き情報を組み合わせて構成される候補を意味することができる。コントロールポイントの動き情報は、特定された空間的周辺及び時間的周辺から導出されることができる。CPMVk(k=0、1、2、3)は、k番目のコントロールポイントを表すことができる。
【0136】
図12に示すように、CPMV0のために、B2→B3→A2順序によってブロックがチェックされ得るし、1番目に利用可能なブロックの動きベクトルが使用され得る。CPMV1のために、B1→B0順序によってブロックがチェックされ得るし、CPMV2のために、A1→A0順序によってブロックがチェックされ得る。TMVP(temporal motion vector predictor)は、利用可能な場合、CPMV3で使用されることができる。
【0137】
4個のコントロールポイントの動きベクトルが取得された後、アフィンマージ候補は、取得した動き情報に基づいて生成されることができる。コントロールポイント動きベクトルの組み合わせは、{CPMV0、CPMV1、CPMV2}、{CPMV0、CPMV1、CPMV3}、{CPMV0、CPMV2、CPMV3}、{CPMV1、CPMV2、CPMV3}、{CPMV0、CPMV1}、及び{CPMV0、CPMV2}のうち、いずれか1つに該当することができる。
【0138】
3個のCPMVの組み合わせは、6-パラメータアフィンマージ候補を構成でき、2個のCPMVの組み合わせは、4-パラメータアフィンマージ候補を構成できる。動きスケーリング過程を回避するために、コントロールポイントの参照インデックスが互いに異なる場合、コントロールポイント動きベクトルの関連した組み合わせは捨てられることができる。
【0139】
図13は、インター予測においてSbTMVPを説明するための図である。
【0140】
一方、SbTMVP(subblock-based temporal motion vector prediction)方法が利用されることもできる。例えば、SbTMVPは、ATMVP(advanced temporal motion vector prediction)と呼ばれることができる。SbTMVPは、動きベクトル予測及び現在ピクチャ内のCUに対するマージモードを向上するために、コロケーテッドピクチャ(collocated picture)内の動きフィールドを利用できる。ここで、コロケーテッドピクチャは、コル(col)ピクチャと呼ばれることもできる。
【0141】
例えば、SbTMVPは、サブブロック(または、サブCU)レベルで動きを予測できる。また、SbTMVPは、コルピクチャから時間的動き情報をフェッチング(fetching)する前に動きシフト(shift)を適用できる。ここで、動きシフトは、現在ブロックの空間的周辺ブロックのうち、1つの動きベクトルから取得されることができる。
【0142】
SbTMVPは、2つのステップによって現在ブロック(または、CU)内のサブブロック(または、サブCU)の動きベクトルを予測できる。
【0143】
第1のステップで空間的周辺ブロックは、図4のA1、B1、B0、及びA0の順序によって試験されることができる。コル(col)ピクチャを自分の参照ピクチャとして使用する動きベクトルを有する1番目の空間的周辺ブロックが確認され得るし、動きベクトルは、適用される動きシフトで選択されることができる。空間的周辺ブロックからこのような動きが確認されない場合、動きシフトは、(0、0)に設定されることができる。
【0144】
第2のステップでは、第1のステップで確認された動きシフトがcolピクチャからサブブロックレベル動き情報(動きベクトル及び参照インデックス)を取得するために適用されることができる。例えば、動きシフトが現在ブロックの座標に追加されることができる。例えば、動きシフトが図8のA1の動きとして設定されることができる。この場合、各サブブロックに対してcolピクチャ内の対応ブロックの動き情報は、サブブロックの動き情報を導出するために使用されることができる。時間的動きスケーリングは、時間的動きベクトルの参照ピクチャと現在ブロックの参照ピクチャとを整列するために適用されることができる。
【0145】
SbTVMP候補及びアフィンマージ候補を全て含む組み合わせられたサブブロック基盤のマージリストは、アフィンマージモードのシグナリングに使用されることができる。ここで、アフィンマージモードは、サブブロック基盤のマージモードと呼ばれることができる。SbTVMPモードは、SPS(sequence parameter set)に含まれたフラグにより利用可能または利用不可能であることができる。SbTMVPモードが利用可能である場合、SbTMVP予測子は、サブブロック基盤のマージ候補のリストの第1のエントリーとして追加されることができ、アフィンマージ候補が次にくることができる。アフィンマージ候補リストの最大に許容されるサイズは、5個であることができる。
【0146】
SbTMVPで使用されるサブCU(または、サブブロック)のサイズは、8×8に固定されることができ、アフィンマージモードと同様に、SbTMVPモードは、幅及び高さが共に8以上であるブロックにのみ適用されることができる。追加的なSbTMVPマージ候補のエンコードロジックは、他のマージ候補と同一であることができる。すなわち、PまたはBスライス内の各CUに対して追加的なRD(rate-distortion)コストを利用するRDチェックがSbTMVP候補を利用するか決定するために行われることができる。
【0147】
一方、予測モードによって導出された動き情報に基づいて現在ブロックに対する予測されたブロックを導出できる。前記予測されたブロックは、前記現在ブロックの予測サンプル(予測サンプルアレイ)を含むことができる。現在ブロックの動きベクトルが分数サンプル単位を指す場合、補間(interpolation)手順が行われ得るし、これを介して参照ピクチャ内で分数サンプル単位の参照サンプルに基づいて前記現在ブロックの予測サンプルが導出され得る。現在ブロックにアフィンインター予測(アフィン予測モード)が適用される場合、サンプル/サブブロック単位MVに基づいて予測サンプルを生成できる。双(Bi)予測が適用される場合、L0予測(すなわち、参照ピクチャリストL0内の参照ピクチャとMVL0を用いた予測)に基づいて導出された予測サンプルとL1予測(すなわち、参照ピクチャリストL1内の参照ピクチャとMVL1を用いた予測)に基づいて導出された予測サンプルの(位相による)加重合計(weighted sum)または加重平均(weighted average)を介して導出された予測サンプルが現在ブロックの予測サンプルとして用いられることができる。ここで、L0方向の動きベクトルは、L0動きベクトルまたはMVL0と呼ばれることができ、L1方向の動きベクトルは、L1動きベクトルまたはMVL1と呼ばれることができる。双(Bi)予測が適用される場合、L0予測に用いられた参照ピクチャとL1予測に用いられた参照ピクチャとが現在ピクチャを基準に互いに異なる時間的方向に位置する場合(すなわち、双予測でありながら、両方向予測に該当する場合)、これをトゥルー(true)双予測と呼ぶことができる。
【0148】
また、導出された予測サンプルに基づいて復元サンプル及び復元ピクチャが生成され得るし、その後、インループフィルタリングなどの手順が行われ得ることは、前述したとおりである。
【0149】
一方、現在ブロックに双予測が適用される場合、加重平均に基づいて予測サンプルを導出できる。例えば、加重平均を利用した双予測は、BCW(Bi-prediction with CU-level Weight)、BWA(Bi-prediction with Weighted Average)、または加重平均双予測(wighted averaging bi-prediction)と呼ばれることができる。
【0150】
既存に双予測信号(すなわち、双予測サンプル)は、L0予測信号(L0予測サンプル)とL1予測信号(L1予測サンプル)との単純平均によって導出されることができた。すなわち、双予測サンプルは、L0参照ピクチャ及びMVL0に基づいたL0予測サンプルとL1参照ピクチャ及びMVL1に基づいたL1予測サンプルとの平均で導出された。ただし、双予測が適用される場合、次のように、L0予測信号とL1予測信号との加重平均によって双予測信号(双予測サンプル)を導出することもできる。例えば、双予測信号(双予測サンプル)は、数式3のように導出されることができる。
【0151】
【数3】
【0152】
数式3において、Pbi-predは、双予測信号の値、すなわち、双予測が適用されて導出された予測サンプル値を表すことができ、wは、加重値を表すことができる。また、P0は、L0予測信号の値、すなわち、L0予測が適用されて導出された予測サンプル値を表すことができ、P1は、L1予測信号の値、すなわち、L1予測が適用されて導出された予測サンプル値を表すことができる。
【0153】
例えば、加重平均双予測では、5個の加重値が許容され得る。例えば、前記5個の加重値(w)は、-2、3、4、5、または10を含むことができる。すなわち、加重値(w)は、-2、3、4、5、または10を含む加重値候補のうち1つに決定されることができる。双予測が適用される各CUに対して加重値wは、2つの方法のうち、1つにより決定されることができる。1番目の方法は、併合されていないCUに対して加重値インデックスが動きベクトル差分(motion vector difference)以後にシグナリングされることができる。2番目の方法は、併合されたCUに対して加重値インデックスがマージ候補インデックスに基づいて周辺ブロックから推論されることができる。
【0154】
例えば、加重平均双予測は、256個以上のルマサンプルを有するCUに適用されることができる。すなわち、CUの幅及び高さの積が256より大きいか、同一である場合に加重平均双予測が適用され得る。低遅延(low-delay)ピクチャの場合、5個の加重値が使用され得るし、低遅延でない(non-low-delay)ピクチャの場合、3個の加重値が使用され得る。例えば、前記3個の加重値は、3、4、または5を含むことができる。
【0155】
例えば、エンコード装置において、早いサーチアルゴリズムは、エンコード装置の複雑性(complexity)を大きく増加させないながら、加重値インデックスを探すために適用されることができる。このようなアルゴリズムは、次のように要約されることができる。例えば、AMVR(adaptive motion vector resolution)と組み合わせられるとき(インター予測モードとしてAMVRが利用されるとき)、現在ピクチャが低遅延ピクチャである場合、同一でない加重値は、1-pel及び4-pel動きベクトル精密度に対して条件付きでチェックされることができる。例えば、アフィン(affine)と組み合わせられるとき(インター予測モードとしてアフィン予測モードが利用されるとき)、アフィン予測モードが現在ベストモード(best mode)と選択された場合、アフィンME(Motion Estimation)は、同一でない加重値に対して行われることができる。例えば、双予測の2個の参照ピクチャが同一である場合、同一でない加重値が条件付きでチェックされることができる。例えば、現在ピクチャと参照ピクチャとの間のPOC距離、コーディングQP(quantization parameter)、及び時間的レベル(temporal level)に依存して特定条件が満たされる場合、同一でない加重値がサーチされないことがある。
【0156】
例えば、BCW加重値インデックス(または、加重値インデックス)は、1つのコンテクストコーディングされたビン(context coded bin)及び後続するバイパスコーディングされたビン(bypass coded bin)を用いてコーディングされることができる。1番目のコンテクストコーディングされたビンは、同じ加重値が使用されるか否かを表すことができる。1番目のコンテクストコーディングされたビンに基づいて同一でない加重値が使用される場合、使用される同一でない加重値を指示するために、バイパスコーディングを使用して追加的なビンがシグナリングされ得る。
【0157】
一方、双予測が適用される場合、予測サンプルを生成するのに利用される加重値情報は、マージ候補リストに含まれた候補のうち、選択された候補に対する加重値インデックス情報に基づいて導出されることができる。
【0158】
本文書の一実施形態によれば、マージモードのための動きベクトル候補構成の際、時間的動きベクトル候補に対する加重値インデックス情報は、下記のように導出することができる。例えば、時間的動きベクトル候補が双予測を使用するとき、加重平均のための加重値インデックス情報を導出できる。すなわち、インター予測タイプが双(bi)予測である場合、マージ候補リスト内の時間的マージ候補(または、時間的動きベクトル候補)のための加重値インデックス情報を導出できる。
【0159】
例えば、時間的動きベクトル候補に対して加重平均のための加重値インデックス情報は、常に0に導出されることができる。ここで、加重値インデックス情報が0であることは、各参照方向(すなわち、双予測でL0予測方向及びL1予測方向)の加重値が同一であることを意味することができる。例えば、マージモードのためのルマ成分の動きベクトルを導出する手順は、次の表のとおりでありうる。
【0160】
【表1-1】
【0161】
【表1-2】
【0162】
【表1-3】
【0163】
【表1-4】
【0164】
【表1-5】
【0165】
前記表1を参照すれば、gbiIdxは、双予測加重値インデックスを表すことができ、gbiIdxColは、時間的マージ候補(例えば、マージ候補リスト内の時間的動きベクトル候補)に対する双予測加重値インデックスを表すことができる。前記マージモードのためのルマ成分の動きベクトルを導出する手順(8.4.2.2の目次3)で前記gbiIdxColは、0に導出されることができる。すなわち、時間的動きベクトル候補の加重値インデックスは、0に導出されることができる。
【0166】
または、時間的動きベクトル候補に対する加重平均のための加重値インデックスは、コロケーテッド(collocated)ブロックの加重値インデックス情報に基づいて導出されることができる。ここで、コロケーテッドブロックは、コル(col)ブロック、同一位置ブロック、または同一位置参照ブロックと呼ばれることができ、コルブロックは、参照ピクチャ上で現在ブロックと同じ位置のブロックを表すことができる。例えば、マージモードのためのルマ成分の動きベクトルを導出する手順は、次の表のとおりでありうる。
【0167】
【表2-1】
【0168】
【表2-2】
【0169】
【表2-3】
【0170】
【表2-4】
【0171】
【表2-5】
【0172】
前記表2を参照すれば、gbiIdxは、双予測加重値インデックスを表すことができ、gbiIdxColは、時間的マージ候補(例えば、マージ候補リスト内の時間的動きベクトル候補)に対する双予測加重値インデックスを表すことができる。前記マージモードのためのルマ成分の動きベクトルを導出する手順でスライスのタイプまたはタイルグループのタイプがBである場合(8。4.2.2の目次4)には、前記gbiIdxColがgbiIdxColで導出されることができる。すなわち、時間的動きベクトル候補の加重値インデックスは、コル(col)ブロックの加重値インデックスで導出されることができる。
【0173】
一方、本文書の他の実施形態によれば、サブブロック単位のマージモードのための動きベクトル候補構成の際、時間的動きベクトル候補に対する加重平均のための加重値インデックスを導出できる。ここで、サブブロック単位のマージモードは、(サブブロック単位の)アフィンマージモードと呼ばれることができる。時間的動きベクトル候補は、サブブロック基盤の時間的動きベクトル候補を表すことができ、SbTMVP(または、ATMVP)候補と呼ばれることもできる。すなわち、インター予測タイプが双(bi)予測である場合、アフィンマージ候補リストまたはサブブロックマージ候補リスト内のSbTMVP候補(または、サブブロック基盤の時間的動きベクトル候補)に対する加重値インデックス情報を導出できる。
【0174】
例えば、サブブロック基盤の時間的動きベクトル候補に対する加重平均のための加重値インデックス情報は、常に0に導出されることができる。ここで、加重値インデックス情報が0であることは、各参照方向(すなわち、双予測でL0予測方向及びL1予測方向)の加重値が同一であることを意味することができる。例えば、サブブロックマージモード内の動きベクトル及び参照インデックスを導出する手順及びサブブロック基盤の時間的マージ候補を導出する手順は、各々次の表3及び表4のとおりでありうる。
【0175】
【表3-1】
【0176】
【表3-2】
【0177】
【表3-3】
【0178】
【表3-4】
【0179】
【表3-5】
【0180】
【表3-6】
【0181】
【表3-7】
【0182】
【表3-8】
【0183】
【表4】
【0184】
前記表3及び表4を参照すれば、gbiIdxは、双予測加重値インデックスを表すことができ、gbiIdxSbColは、サブブロック基盤の時間的マージ候補(例えば、サブブロック基盤のマージ候補リスト内の時間的動きベクトル候補)に対する双予測加重値インデックスを表すことができ、前記サブブロック基盤の時間的マージ候補を導出する手順(8.4.4.3)で前記gbiIdxSbColは、0に導出されることができる。すなわち、サブブロック基盤の時間的動きベクトル候補の加重値インデックスは、0に導出されることができる。
【0185】
または、サブブロック基盤の時間的動きベクトル候補に対する加重平均のための加重値インデックス情報は、時間的センター(center)ブロックの加重値インデックス情報に基づいて導出されることができる。例えば、前記時間的センターブロックは、コル(col)ブロックまたはコル(col)ブロックのセンターに位置したサブブロックまたはサンプルを表すことができ、具体的には、コルブロックの中央の4個のサブブロックまたはサンプルのうち、右下側に位置したサブブロックまたはサンプルを表すことができる。例えば、この場合、サブブロックマージモード内の動きベクトル及び参照インデックスを導出する手順、サブブロック基盤の時間的マージ候補を導出する手順、及びサブブロック基盤の時間的マージのためのベース動き情報を導出する手順は、各々次の表5、表6、及び表7のとおりでありうる。
【0186】
【表5-1】
【0187】
【表5-2】
【0188】
【表5-3】
【0189】
【表5-4】
【0190】
【表5-5】
【0191】
【表5-6】
【0192】
【表5-7】
【0193】
【表5-8】
【0194】
【表6-1】
【0195】
【表6-2】
【0196】
【表6-3】
【0197】
【表6-4】
【0198】
【表7-1】
【0199】
【表7-2】
【0200】
【表7-3】
【0201】
【表7-4】
【0202】
前記表5、表6、及び表7を参照すれば、gbiIdxは、双予測加重値インデックスを表すことができ、gbiIdxSbColは、サブブロック基盤の時間的マージ候補(例えば、サブブロック基盤のマージ候補リスト内の時間的動きベクトル候補)のための双予測加重値インデックスを表すことができる。サブブロック基盤の時間的マージのためのベース動き情報を導出する手順(8.4.4.4)で前記gbiIdxSbColは、gbiIdxcolCbで導出されることができる。すなわち、サブブロック基盤の時間的動きベクトル候補の加重値インデックスは、時間的センターブロックの加重値インデックスで導出されることができる。例えば、前記時間的センターブロックは、コル(col)ブロックまたはコル(col)ブロックのセンターに位置したサブブロックまたはサンプルを表すことができ、具体的には、コルブロックの中央の4個のサブブロックまたはサンプルのうち、右下側に位置したサブブロックまたはサンプルを表すことができる。
【0203】
または、サブブロック基盤の時間的動きベクトル候補に対する加重平均のための加重値インデックス情報は、それぞれのサブブロック単位の加重値インデックス情報に基づいて導出されることができ、サブブロックが利用可能でない場合、時間的センター(center)ブロックの加重値インデックス情報に基づいて導出されることができる。例えば、前記時間的センターブロックは、コル(col)ブロックまたはコル(col)ブロックのセンターに位置したサブブロックまたはサンプルを表すことができ、具体的には、コルブロックの中央の4個のサブブロックまたはサンプルのうち、右下側に位置したサブブロックまたはサンプルを表すことができる。例えば、この場合、サブブロックマージモード内の動きベクトル及び参照インデックスを導出する手順、サブブロック基盤の時間的マージ候補を導出する手順、及びサブブロック基盤の時間的マージのためのベース動き情報を導出する手順は、次の表8、表9、及び表10のとおりでありうる。
【0204】
【表8-1】
【0205】
【表8-2】
【0206】
【表8-3】
【0207】
【表8-4】
【0208】
【表8-5】
【0209】
【表8-6】
【0210】
【表8-7】
【0211】
【表8-8】
【0212】
【表9-1】
【0213】
【表9-2】
【0214】
【表9-3】
【0215】
【表9-4】
【0216】
【表9-5】
【0217】
【表10-1】
【0218】
【表10-2】
【0219】
【表10-3】
【0220】
【表10-4】
【0221】
前記表8、表9、及び表10を参照すれば、gbiIdxは、双予測加重値インデックスを表すことができ、gbiIdxSbColは、サブブロック基盤の時間的マージ候補(例えば、サブブロック基盤のマージ候補リスト内の時間的動きベクトル候補)のための双予測加重値インデックスを表すことができる。サブブロック基盤の時間的マージのためのベース動き情報を導出する手順(8.4.4.3)で前記gbiIdxSbColは、gbiIdxcolCbで導出されることができる。または、条件(例えば、availableFlagL0SbCol及びavailableFlagL1SbColが共に0である場合)によってサブブロック基盤の時間的マージのためのベース動き情報を導出する手順(8.4.4.3)で前記gbiIdxSbColは、ctrgbiIdxで導出されることができ、サブブロック基盤の時間的マージのためのベース動き情報を導出する手順(8.4.4.4)で前記ctrgbiIdxは、gbiIdxSbColで導出されることができる。すなわち、サブブロック基盤の時間的動きベクトル候補の加重値インデックスは、それぞれのサブブロック単位の加重値インデックスで導出されることができ、サブブロックが利用可能でない場合、時間的センターブロックの加重値インデックスで導出されることができる。例えば、前記時間的センターブロックは、コル(col)ブロックまたはコル(col)ブロックのセンターに位置したサブブロックまたはサンプルを表すことができ、具体的には、コルブロックの中央の4個のサブブロックまたはサンプルのうち、右下側に位置したサブブロックまたはサンプルを表すことができる。
【0222】
一方、本文書のさらに他の実施形態によれば、マージモードのための動きベクトル候補構成の際、ペアワイズ(pair-wise)候補に対する加重値インデックス情報を導出できる。例えば、マージ候補リストにペアワイズ候補が含まれ得るし、前記ペアワイズ候補の加重平均のための加重値インデックス情報が導出され得る。前記ペアワイズ候補は、前記マージ候補リスト内の他のマージ候補に基づいて導出されることができ、前記ペアワイズ候補が双予測を使用する場合、加重平均のための加重値インデックスを導出できる。すなわち、インター予測タイプが双(bi)予測である場合、マージ候補リスト内のペアワイズ候補のための加重値インデックス情報を導出できる。
【0223】
前記ペアワイズ候補は、前記マージ候補リストに含まれた候補のうち、他の2個のマージ候補(例えば、cand0及びcand1)に基づいて導出されることができる。
【0224】
例えば、前記ペアワイズ候補に対する加重値インデックス情報は、前記2個のマージ候補のうち、いずれか1つのマージ候補(例えば、マージ候補cand0またはマージ候補cand1)の加重値インデックス情報に基づいて導出されることができる。例えば、前記ペアワイズ候補に対する加重値インデックス情報は、前記2個のマージ候補のうち、双予測を使用する候補の加重値インデックス情報に基づいて導出されることができる。
【0225】
または、前記他の2個のマージ候補のそれぞれの加重値インデックス情報が第1の加重値インデックス情報と同一である場合、前記ペアワイズ候補に対する加重値インデックス情報は、前記第1の加重値インデックス情報に基づいて導出されることができる。一方、前記他の2個のマージ候補のそれぞれの加重値インデックス情報が互いに同一でない場合、前記ペアワイズ候補に対する加重値インデックス情報は、デフォルト(DEFAULT)加重値インデックス情報に基づいて導出されることができる。デフォルト加重値インデックス情報は、L0予測サンプル及びL1予測サンプルの各々に同じ加重値を付与する加重値インデックス情報に該当することができる。
【0226】
または、前記他の2個のマージ候補のそれぞれの加重値インデックス情報が第1の加重値インデックス情報と同一である場合、前記ペアワイズ候補に対する加重値インデックス情報は、前記第1の加重値インデックス情報に基づいて導出されることができる。一方、前記他の2個のマージ候補のそれぞれの加重値インデックス情報が互いに同一でない場合、前記ペアワイズ候補に対する加重値インデックス情報は、前記他の2個の候補のそれぞれの加重値インデックス情報のうち、デフォルト(DEFAULT)加重値インデックス情報でない加重値インデックス情報に基づいて導出されることができる。デフォルト加重値インデックス情報は、L0予測サンプル及びL1予測サンプルの各々に同じ加重値を付与する加重値インデックス情報に該当することができる。
【0227】
一方、本文書のさらに他の実施形態によれば、サブブロック単位のマージモードのための動きベクトル候補構成の際、時間的動きベクトル候補に対する加重平均のための加重値インデックス情報を導出できる。ここで、サブブロック単位のマージモードは、(サブブロック単位の)アフィンマージモードと呼ばれることができる。時間的動きベクトル候補は、サブブロック基盤の時間的動きベクトル候補を表すことができ、SbTMVP(または、ATMVP)候補と呼ばれることもできる。前記SbTMVP候補に対する加重値インデックス情報は、現在ブロックの左側周辺ブロックの加重値インデックス情報に基づいて導出されることができる。すなわち、SbTMVPで導かれた候補が双予測を使用する場合、現在ブロックの左側周辺ブロックの加重値インデックスをサブブロック基盤のマージモードのための加重値インデックスで導出することができる。
【0228】
例えば、SbTMVP候補は、現在ブロックの空間的に隣接した左側ブロック(または、左側周辺ブロック)を基準にコル(col)ブロックを導出できるので、前記左側周辺ブロックの加重値インデックスは、信頼されることができるとみなすことができる。これにより、前記SbTMVP候補に対する加重値インデックスは、左側周辺ブロックの加重値インデックスで導出されることができる。
【0229】
一方、本文書のさらに他の実施形態によれば、アフィンマージモードのための動きベクトル候補構成の際、アフィンマージ候補が双予測を使用するとき、加重平均のための加重値インデックス情報を導出できる。すなわち、インター予測タイプが双(bi)予測である場合、アフィンマージ候補リストまたはサブブロックマージ候補リスト内の候補に対する加重値インデックス情報を導出できる。
【0230】
例えば、アフィンマージ候補のうち、構成された(constructed)アフィンマージ候補は、現在ブロックの空間的(spatial)に隣接したブロック(または、空間的周辺ブロック)または時間的(temporal)に隣接したブロック(または、時間的周辺ブロック)の動き情報に基づき、CP0、CP1、CP2、またはCP3候補を導出してアフィンモデルでMVFを導出する候補を表すことができる。例えば、CP0は、現在ブロックの左上端サンプルポジションに位置するコントロールポイントを表すことができ、CP1は、現在ブロックの右上端サンプルポジションに位置するコントロールポイントを表すことができ、CP2は、現在ブロックの左下端サンプルポジションに位置するコントロールポイントを表すことができる。また、CP3は、現在ブロックの右下端サンプルポジションに位置するコントロールポイントを表すことができる。
【0231】
例えば、アフィンマージ候補のうち、構成された(constructed)アフィンマージ候補は、下記のように、現在ブロックの各コントロールポイントに対する動きベクトルの組み合わせで生成されることができる。アフィンマージ候補は、前記現在ブロックの左上側に位置するCP0(Control Point 0)、前記現在ブロックの右上側に位置するCP1(Control Point 1)、前記現在ブロックの左下側に位置するCP2(Control Point 2)、及び前記現在ブロックの右下側に位置するCP3(Control Point 3)の各々に対する動きベクトルのうち、少なくとも1つを含むことができる。
【0232】
例えば、アフィンマージ候補のうち、構成された(constructed)アフィンマージ候補は、{CP0、CP1、CP2}、{CP0、CP1、CP3}、{CP0、CP2、CP3}、{CP1、CP2、CP3}、{CP0、CP1}、及び{CP0、CP2}のように、現在ブロックの各コントロールポイントの組み合わせに基づいて生成されることができる。例えば、アフィンマージ候補は、{CPMV0、CPMV1、CPMV2}、{CPMV0、CPMV1、CPMV3}、{CPMV0、CPMV2、CPMV3}、{CPMV1、CPMV2、CPMV3}、{CPMV0、CPMV1}、及び{CPMV0、CPMV2}のうち、少なくとも1つを含むことができる。CPMV0、CPMV1、CPMV2、及びCPMV3は、CP0、CP1、CP2、及びCP3の各々に対する動きベクトルに該当することができる。
【0233】
一実施形態において、前記アフィンマージ候補が{CP0、CP1、CP2}、{CP0、CP1、CP3}、{CP0、CP2、CP3}、{CP0、CP1}、及び{CP0、CP2}のうち、いずれか1つに基づいて生成される場合、前記アフィンマージ候補に対する加重値インデックス情報は、CP0の周辺ブロックのうち、特定ブロックの加重値インデックス情報に基づいて導出されることができる。すなわち、前記アフィンマージ候補が現在ブロックの左上側に位置するCP0(Control Point 0)に対するCPMV0を含む場合、前記アフィンマージ候補に対する加重値インデックス情報は、前記CP0に対した第0の加重値インデックス情報に基づいて導出されることができる。一方、前記アフィンマージ候補が{CP1、CP2、CP3}に基づいて生成される場合、前記アフィンマージ候補に対する加重値インデックス情報は、CP1の周辺ブロックのうち、特定ブロックの加重値インデックス情報に基づいて導出されることができる。すなわち、前記アフィンマージ候補が{CP1、CP2、CP3}に基づいて生成される場合、前記アフィンマージ候補に対する加重値インデックス情報は、現在ブロックの右上側に位置するCP1(Control Point 1)に対する第1の加重値インデックス情報に基づいて導出されることができる。
【0234】
上述した方法によれば、前記アフィンマージ候補に対する加重値インデックス情報は、{CPMV0、CPMV1、CPMV2}、{CPMV0、CPMV1、CPMV3}、{CPMV0、CPMV2、CPMV3}、{CPMV1、CPMV2、CPMV3}、{CPMV0、CPMV1}、及び{CPMV0、CPMV2}の各々に対して1番目のCPMVの導出のために使用されるブロックの加重値インデックス情報に基づいて導出されることができる。
【0235】
前記アフィンマージ候補に対する加重値インデックス情報を導出する他の実施形態によれば、現在ブロックの左上側に位置するCP0に対する加重値インデックス情報と現在ブロックの右上側に位置するCP1に対する加重値インデックス情報とが同一である場合、前記アフィンマージ候補に対する加重値インデックス情報は、前記CP0の周辺ブロックのうち、特定ブロックの加重値インデックス情報に基づいて導出されることができる。一方、現在ブロックの左上側に位置するCP0に対する加重値インデックス情報と現在ブロックの右上側に位置するCP1に対する加重値インデックス情報とが同一でない場合、前記アフィンマージ候補に対する加重値インデックス情報は、デフォルト(DEFAULT)加重値インデックス情報に基づいて導出されることができる。前記デフォルト加重値インデックス情報は、前記L0予測サンプル及び前記L1予測サンプルの各々に同じ加重値を付与する加重値インデックス情報に該当することができる。
【0236】
前記アフィンマージ候補に対する加重値インデックス情報を導出するさらに他の実施形態によれば、前記アフィンマージ候補に対する加重値インデックス情報は、各候補の加重値インデックスのうち、発生頻度が高い候補の加重値インデックスで導出されることができる。例えば、CP0候補ブロックのうち、CP0における動きベクトルと決定された候補ブロックの加重値インデックス、CP1候補ブロックのうち、CP1における動きベクトルと決定された候補ブロックの加重値インデックス、CP2候補ブロックのうち、CP2における動きベクトルと決定された候補ブロックの加重値インデックス、及び/又はCP3候補ブロックのうち、CP3における動きベクトルと決定された候補ブロックの加重値インデックスのうち、最も多く重複する加重値インデックスを前記アフィンマージ候補の加重値インデックスで導出することができる。
【0237】
例えば、前記コントロールポイントとしてCP0及びCP1が用いられ得るし、CP0、CP1、及びCP2が用いられ得るし、CP3は用いられないこともある。ただし、例えば、アフィンブロック(アフィン予測モードでコーディングされるブロック)のCP3候補を活用しようとするときには、上述した実施形態等で説明した時間的候補ブロックにおける加重値インデックスを導出する方法が活用され得る。
【0238】
図14及び図15は、本文書の実施形態(等)に係るビデオ/画像エンコード方法及び関連コンポーネントの一例を概略的に示す。
【0239】
図14において開示された方法は、図2または図15において開示されたエンコード装置によって行われることができる。具体的に、例えば、図14のS1400ないしS1420は、図15の前記エンコード装置200の予測部220によって行われることができ、図14のS1430は、図15の前記エンコード装置200のレジデュアル処理部230によって行われることができ、図14のS1440は、図15の前記エンコード装置200のエントロピーエンコード部240によって行われることができる。また、図14において図示していないが、図15において前記エンコード装置200の予測部220によって予測サンプルまたは予測関連情報を導出でき、前記エンコード装置200のレジデュアル処理部230によって原本サンプルまたは予測サンプルからレジデュアル情報が導出され得るし、前記エンコード装置200のエントロピーエンコード部240によってレジデュアル情報または予測関連情報からビットストリームが生成され得る。図14において開示された方法は、本文書において上述した実施形態を含むことができる。
【0240】
図14に示すように、エンコード装置は、現在ブロックのインター予測モードを決定し、インター予測モードを表すインター予測モード情報を生成できる(S1400)。例えば、エンコード装置は、現在ブロックに適用するインター予測モードとしてマージモード、アフィン(マージ)モード、またはサブブロックマージモードを決定でき、これを表すインター予測モード情報を生成できる。また、エンコード装置は、現在ブロックのインター予測タイプを双予測(bi-prediction)で表すインター予測タイプ情報を生成できる。例えば、前記現在ブロックのインター予測タイプは、L0予測、L1予測、または双(bi)予測のうち、双予測と決定されることができ、これを表すインター予測タイプ情報を生成できる。ここで、L0予測は、参照ピクチャリスト0基盤の予測を表すことができ、L1予測は、参照ピクチャリスト1基盤の予測を表すことができ、双予測は、参照ピクチャリスト0及び参照ピクチャリスト1基盤の予測を表すことができる。例えば、エンコード装置は、前記インター予測タイプに基づいてインター予測タイプ情報を生成できる。例えば、前記インター予測タイプ情報は、inter_pred_idcシンタックス要素を含むことができる。
【0241】
エンコード装置は、インター予測モードに基づいて現在ブロックのマージ候補リストを生成できる(S1410)。例えば、エンコード装置は、決定したインター予測モードによってマージ候補リストを生成できる。ここで、決定したインター予測モードがアフィンマージモードまたはサブブロックマージモードである場合、前記マージ候補リストは、アフィンマージ候補リストまたはサブブロックマージ候補リストなどのように呼ばれることができるが、簡略にマージ候補リストと呼ばれることもできる。
【0242】
例えば、前記マージ候補リスト内の候補の個数が最大候補個数になるまでマージ候補リストに候補が挿入され得る。ここで、候補は、現在ブロックの動き情報(または、動きベクトル)を導出するための候補または候補ブロックを表すことができる。例えば、候補ブロックは、現在ブロックの周辺ブロックに対する探索を介して導出されることができる。例えば、周辺ブロックは、現在ブロックの空間的周辺ブロック及び/又は時間的周辺ブロックを含むことができ、空間的周辺ブロックが先に探索されて(空間的マージ)候補が導出され得るし、その後、時間的周辺ブロックが探索されて(時間的マージ)候補と導出されることができ、導出された候補は、前記マージ候補リストに挿入されることができる。例えば、前記マージ候補リストは、前記候補を挿入した後にも、前記マージ候補リスト内の候補の個数が最大候補個数より少ない場合、追加候補を挿入できる。例えば、追加候補は、history based merge candidate(s)、pair-wise average merge candidate(s)、ATMVP、combined bi-predictiveマージ候補(現在スライス/タイルグループのスライス/タイルグループタイプがBタイプである場合)、及び/又はゼロベクトルマージ候補のうち、少なくとも1つを含むことができる。
【0243】
または、例えば、アフィンマージ候補リスト内の候補の個数が最大候補個数になるまでアフィンマージ候補リストに候補が挿入され得る。ここで、候補は、現在ブロックのCPMV(Control Point Motion Vector)を含むことができる。または、前記候補は、前記CPMVを導出するための候補または候補ブロックを表すこともできる。前記CPMVは、現在ブロックのCP(Control Point)における動きベクトルを表すことができる。例えば、CPは、2個、3個、または4個であることができ、現在ブロックの左上側(または、左上側コーナー)、右上側(または、右上側コーナー)、左下側(または、左下側コーナー)、または右下側(または、右下側コーナー)のうち、少なくとも一部に位置することができ、各位置毎に1つのCPのみが存在しうる。
【0244】
例えば、候補は、現在ブロックの周辺ブロック(または、現在ブロックのCPの周辺ブロック)に対する探索を介して導出されることができる。例えば、アフィンマージ候補リストは、継承された(inherited)アフィンマージ候補、構成された(constructed)アフィンマージ候補、またはゼロ(zero)動きベクトル候補のうち、少なくとも1つを含むことができる。例えば、アフィンマージ候補リストは、先に前記継承されたアフィンマージ候補を挿入でき、その後、構成されたアフィンマージ候補を挿入できる。また、アフィンマージ候補リストに構成されたアフィンマージ候補まで挿入したが、前記アフィンマージ候補リスト内の候補の個数が最大候補個数より小さい場合、残りは、ゼロ動きベクトル候補で満たすことができる。ここで、ゼロ動きベクトル候補は、ゼロベクトルと呼ばれることもできる。例えば、アフィンマージ候補リストは、サンプル単位で動きベクトルが導出されるアフィンマージモードによるリストであることができるが、サブブロック単位で動きベクトルが導出されるアフィンマージモードによるリストであることもできる。この場合、アフィンマージ候補リストは、サブブロックマージ候補リストと呼ばれることができ、サブブロックマージ候補リストは、SbTMVPで導出された候補(または、SbTMVP候補)も含まれることができる。例えば、SbTMVP候補がサブブロックマージ候補リストに含まれる場合、サブブロックマージ候補リスト内で継承されたアフィンマージ候補及び構成されたアフィンマージ候補より前に位置することができる。
【0245】
エンコード装置は、マージ候補リストに含まれた候補のうち1つの候補を表す選択情報を生成できる(S1420)。例えば、マージ候補リストは、空間的マージ候補、時間的マージ候補、ペアワイズ候補、またはゼロベクトル候補のうち、少なくとも一部を含むことができ、現在ブロックのインター予測のために、このような候補のうち1つの候補を選択できる。または、例えば、サブブロックマージ候補リストは、継承されたアフィンマージ候補、構成されたアフィンマージ候補、SbTMVP候補、またはゼロベクトル候補のうち、少なくとも一部を含むことができ、現在ブロックのインター予測のために、このような候補のうち1つの候補を選択できる。
【0246】
例えば、前記選択情報は、前記マージ候補リスト内の選択された候補を表すインデックス情報を含むことができる。例えば、前記選択情報は、マージインデックス情報またはサブブロックマージインデックス情報と呼ばれることもできる。
【0247】
エンコード装置は、現在ブロックに対するレジデュアルサンプルに基づいてレジデュアル情報を生成できる(S1430)。例えば、エンコード装置は、前記予測サンプルと原本サンプルとに基づいてレジデュアルサンプルを導出できる。例えば、エンコード装置は、レジデュアルサンプルの量子化された変換係数を表すレジデュアル情報を生成できる。レジデュアル情報は、指数ゴロム、CAVLC、CABACなどのような様々なエンコード方法を介して生成されることができる。
【0248】
エンコード装置は、インター予測モード情報、選択情報、及びレジデュアル情報を含む画像情報をエンコードすることができる(S1440)。例えば、前記画像情報は、ビデオ情報と呼ばれることもできる。前記画像情報は、本文書の上述した実施形態(等)に係る様々な情報を含むことができる。例えば、画像情報は、予測関連情報またはレジデュアル関連情報のうち、少なくとも一部を含むことができる。例えば、前記予測関連情報は、前記インター予測モード情報、選択情報、及びインター予測タイプ情報のうち、少なくとも一部を含むことができる。例えば、エンコード装置は、上述した情報(または、シンタックス要素)の全部または一部を含む画像情報をエンコードしてビットストリームまたはエンコードされた情報を生成できる。または、ビットストリーム形態で出力することができる。また、前記ビットストリームまたはエンコードされた情報は、ネットワークまたは格納媒体を介してデコード装置に送信されることができる。
【0249】
図14に図示していないが、例えば、エンコード装置は、現在ブロックの予測サンプルを生成できる。または、例えば、エンコード装置は、選択された候補に基づいて現在ブロックの予測サンプルを生成できる。または、例えば、エンコード装置は、選択された候補に基づいて動き情報を導出でき、動き情報に基づいて現在ブロックの予測サンプルを生成できる。例えば、エンコード装置は、双予測によってL0予測サンプル及びL1予測サンプルを生成でき、前記L0予測サンプル及び前記L1予測サンプルに基づいて現在ブロックの予測サンプルを生成できる。この場合、双予測のための加重値インデックス情報(または、加重値情報)を利用して前記L0予測サンプル及び前記L1予測サンプルから現在ブロックの予測サンプルを生成できる。ここで、加重値情報は、前記加重値インデックス情報に基づいて表されることができる。
【0250】
言い換えれば、例えば、エンコード装置は、選択された候補に基づいて現在ブロックのL0予測サンプル及びL1予測サンプルを生成できる。例えば、現在ブロックのインター予測タイプが双予測と決定された場合、現在ブロックの予測のために、参照ピクチャリスト0及び参照ピクチャリスト1が利用され得る。例えば、前記L0予測サンプルは、前記参照ピクチャリスト0に基づいて導出された現在ブロックの予測サンプルを表すことができ、前記L1予測サンプルは、前記参照ピクチャリスト1に基づいて導出された現在ブロックの予測サンプルを表すことができる。
【0251】
例えば、前記候補は、空間的マージ候補を含むことができる。例えば、前記選択された候補が前記空間的マージ候補である場合、前記空間的マージ候補に基づいてL0動き情報及びL1動き情報が導出され得るし、これに基づいて前記L0予測サンプル及び前記L1予測サンプルが生成され得る。
【0252】
例えば、前記候補は、時間的マージ候補を含むことができる。例えば、前記選択された候補が前記時間的マージ候補である場合、前記時間的マージ候補に基づいてL0動き情報及びL1動き情報が導出され得るし、これに基づいて前記L0予測サンプル及び前記L1予測サンプルが生成され得る。
【0253】
例えば、前記候補は、ペアワイズ(pair-wise)候補を含むことができる。例えば、前記選択された候補がペアワイズ候補である場合、前記ペアワイズ候補に基づいてL0動き情報及びL1動き情報が導出され得るし、これに基づいて前記L0予測サンプル及び前記L1予測サンプルが生成され得る。例えば、前記ペアワイズ候補は、前記マージ候補リストに含まれた候補のうち、他の2個の候補に基づいて導出されることができる。
【0254】
または、例えば、前記マージ候補リストは、サブブロックマージ候補リストであることができ、アフィンマージ候補、サブブロックマージ候補、またはSbTMVP候補が選択されることもできる。ここで、サブブロック単位のアフィンマージ候補は、サブブロックマージ候補と呼ばれることもできる。
【0255】
例えば、前記候補は、サブブロックマージ候補を含むことができる。例えば、前記選択された候補が前記サブブロックマージ候補である場合、前記サブブロックマージ候補に基づいてL0動き情報及びL1動き情報が導出され得るし、これに基づいて前記L0予測サンプル及び前記L1予測サンプルが生成され得る。例えば、前記サブブロックマージ候補は、CPMV(Control Point Motion Vector)を含むことができ、前記L0予測サンプル及び前記L1予測サンプルは、前記CPMVに基づいてサブブロック単位で予測が行われて生成されることができる。
【0256】
ここで、CPMVは、前記現在ブロックのCP(Control Point)の周辺ブロックのうち、1つのブロックに基づいて表されることができる。例えば、CPは、2個、3個、または4個であることができ、現在ブロックの左上側(または、左上側コーナー)、右上側(または、右上側コーナー)、左下側(または、左下側コーナー)、または右下側(または、右下側コーナー)のうち、少なくとも一部に位置することができ、各位置毎に1つのCPのみが存在しうる。
【0257】
例えば、前記CPが前記現在ブロックの左上側に位置するCP0であることができる。この場合、前記周辺ブロックは、前記現在ブロックの左上側コーナー周辺ブロック、前記左上側コーナー周辺ブロックの下側に隣接した左側周辺ブロック、及び前記左上側コーナー周辺ブロックの右側に隣接した上側周辺ブロックを含むことができる。または、前記周辺ブロックは、図12においてAブロック、Bブロック、またはBブロックを含むことができる。
【0258】
または、例えば、前記CPが前記現在ブロックの右上側に位置するCP1であることができる。この場合、前記周辺ブロックは、前記現在ブロックの右上側コーナー周辺ブロック及び前記右上側コーナー周辺ブロックの左側に隣接した上側周辺ブロックを含むことができる。または、前記周辺ブロックは、図12においてBブロックまたはBブロックを含むことができる。
【0259】
または、例えば、前記CPが前記現在ブロックの左下側に位置するCP2であることができる。この場合、前記周辺ブロックは、前記現在ブロックの左下側コーナー周辺ブロック及び前記左下側コーナー周辺ブロックの上側に隣接した左側周辺ブロックを含むことができる。または、前記周辺ブロックは、図12においてAブロックまたはAブロックを含むことができる。
【0260】
または、例えば、前記CPが前記現在ブロックの右下側に位置するCP3であることができる。この場合、前記周辺ブロックは、前記現在ブロックのコル(col)ブロックまたは前記コルブロックの右下側コーナー周辺ブロックを含むことができる。ここで、前記コルブロックは、前記現在ブロックが位置する現在ピクチャと異なる参照ピクチャ内に前記現在ブロックと同じ位置のブロックを含むことができる。または、前記周辺ブロックは、図12においてTブロックを含むことができる。
【0261】
または、例えば、前記候補は、SbTMVP候補を含むことができる。例えば、前記選択された候補が前記SbTMVP候補である場合、前記現在ブロックの左側周辺ブロックに基づいてL0動き情報及びL1動き情報が導出され得るし、これに基づいて前記L0予測サンプル及び前記L1予測サンプルが生成され得る。例えば、前記L0予測サンプル及び前記L1予測サンプルは、サブブロック単位で予測が行われて生成されることができる。
【0262】
例えば、L0動き情報は、L0参照ピクチャインデックス及びL0動きベクトルなどを含むことができ、L1動き情報は、L1参照ピクチャインデックス及びL1動きベクトルなどを含むことができる。L0参照ピクチャインデックスは、参照ピクチャリスト0で参照ピクチャを表す情報を含むことができ、L1参照ピクチャインデックスは、参照ピクチャリスト1で参照ピクチャを表す情報を含むことができる。
【0263】
例えば、エンコード装置は、L0予測サンプル、L1予測サンプル、及び加重値情報に基づいて現在ブロックの予測サンプルを生成できる。例えば、前記加重値情報は、加重値インデックス情報に基づいて表されることができる。前記加重値インデックス情報は、双予測のための加重値インデックス情報を表すことができる。例えば、前記加重値情報は、L0予測サンプルまたはL1予測サンプルの加重平均のための情報を含むことができる。すなわち、前記加重値インデックス情報は、前記加重平均に用いられた加重値に対するインデックス情報を表すことができ、前記加重平均に基づいて予測サンプルを生成する手順で加重値インデックス情報を生成することもできる。例えば、加重値インデックス情報は、3個または5個の加重値のうち、いずれか1つの加重値を表す情報を含むことができる。例えば、前記加重平均は、BCW(Bi-prediction with CU-level Weight)またはBWA(Bi-prediction with Weighted Average)における加重平均を表すことができる。
【0264】
例えば、前記候補は、時間的マージ候補を含むことができ、前記時間的マージ候補に対する加重値インデックス情報は、0に表されることができる。すなわち、時間的マージ候補に対する加重値インデックス情報は、0に表されることができる。ここで、0である加重値インデックス情報は、各参照方向(すなわち、双予測でL0予測方向及びL1予測方向)の加重値が同一であることを表すことができる。または、例えば、前記候補は、時間的マージ候補を含むことができ、前記加重値インデックス情報は、コル(col)ブロックの加重値インデックス情報に基づいて表されることができる。すなわち、時間的マージ候補のための加重値インデックス情報は、コル(col)ブロックの加重値インデックス情報に基づいて表されることができる。ここで、前記コルブロックは、前記現在ブロックが位置する現在ピクチャと異なる参照ピクチャ内に前記現在ブロックと同じ位置のブロックを含むことができる。
【0265】
例えば、前記候補は、ペアワイズ(pair-wise)候補を含むことができ、前記加重値インデックス情報は、前記ペアワイズ候補を導出するのに利用されたマージ候補リスト内の他の2個の候補のうち1つの加重値インデックス情報に基づいて表されることができる。すなわち、前記ペアワイズ候補に対する加重値インデックス情報は、前記ペアワイズ候補を導出するのに利用されたマージ候補リスト内の他の2個の候補のうち1つの加重値インデックス情報に基づいて表されることができる。
【0266】
例えば、前記候補は、ペアワイズ(pair-wise)候補を含み、前記ペアワイズ候補は、前記候補のうち、他の2個の候補に基づいて表されることができる。前記他の2個の候補のそれぞれの加重値インデックス情報が第1の加重値インデックス情報と互いに同一である場合、前記ペアワイズ候補に対する加重値インデックス情報は、前記第1の加重値インデックス情報に基づいて表されることができる。前記他の2個の候補のそれぞれの加重値インデックス情報が互いに同一でない場合、前記ペアワイズ候補に対する加重値インデックス情報は、デフォルト(DEFAULT)加重値インデックス情報に基づいて表されることができる。このとき、前記デフォルト加重値インデックス情報は、前記L0予測サンプル及び前記L1予測サンプルの各々に同じ加重値を付与する加重値インデックス情報に該当することができる。
【0267】
例えば、前記候補は、ペアワイズ(pair-wise)候補を含み、前記ペアワイズ候補は、前記候補のうち、他の2個の候補に基づいて表されることができる。前記他の2個の候補のそれぞれの加重値インデックス情報が第1の加重値インデックス情報と互いに同一である場合、前記ペアワイズ候補に対する加重値インデックス情報は、前記第1の加重値インデックス情報に基づいて表されることができる。前記他の2個の候補のそれぞれの加重値インデックス情報が互いに同一でない場合、前記ペアワイズ候補に対する加重値インデックス情報は、前記他の2個の候補のそれぞれの加重値インデックス情報のうち、デフォルト(DEFAULT)加重値インデックス情報でない加重値インデックス情報に基づいて表されることができる。前記デフォルト加重値インデックス情報は、前記L0予測サンプル及び前記L1予測サンプルの各々に同じ加重値を付与する加重値インデックス情報に該当することができる。
【0268】
例えば、前記マージ候補リストは、サブブロックマージ候補リストであることができ、アフィンマージ候補、サブブロックマージ候補、またはSbTMVP候補が選択されることもできる。ここで、サブブロック単位のアフィンマージ候補は、サブブロックマージ候補と呼ばれることもできる。
【0269】
例えば、前記候補は、アフィンマージ候補を含むことができ、前記アフィンマージ候補は、前記現在ブロックの左上側に位置するCP0(Control Point 0)、前記現在ブロックの右上側に位置するCP1(Control Point 1)、前記現在ブロックの左下側に位置するCP2(Control Point 2)、及び前記現在ブロックの右下側に位置するCP3(Control Point 3)の各々に対する動きベクトルのうち、少なくとも1つを含むことができる。
【0270】
例えば、前記アフィンマージ候補が{CP0、CP1、CP2}、{CP01、CP1、CP3}、{CP0、CP2、CP3}、{CP0、CP1}、及び{CP0、CP2}のうち、いずれか1つに基づいて生成される場合、前記アフィンマージ候補に対する加重値インデックス情報は、前記CP0の周辺ブロックのうち、特定ブロックの加重値インデックス情報に基づいて表されることができる。前記アフィンマージ候補が{CP1、CP2、CP3}に基づいて生成される場合、前記アフィンマージ候補に対する加重値インデックス情報は、前記CP1の周辺ブロックのうち、特定ブロックの加重値インデックス情報に基づいて表されることができる。
【0271】
前記CP0の周辺ブロックのうち、特定ブロックは、前記CP0に対するCPMVの導出のために使用されるブロックに該当し、前記CP0の周辺ブロックは、前記現在ブロックの左上側コーナー周辺ブロック、前記左上側コーナー周辺ブロックの下側に隣接した左側周辺ブロック、及び前記左上側コーナー周辺ブロックの右側に隣接した上側周辺ブロックを含むことができる。
【0272】
前記CP1の周辺ブロックのうち、特定ブロックは、前記CP1に対するCPMVの導出のために使用されるブロックに該当し、前記CP1の周辺ブロックは、前記現在ブロックの右上側コーナー周辺ブロック及び前記右上側コーナー周辺ブロックの左側に隣接した上側周辺ブロックを含むことができる。
【0273】
または、例えば、前記候補は、SbTMVP候補を含むことができ、前記SbTMVP候補に対する加重値インデックス情報は、前記現在ブロックの左側周辺ブロックの加重値インデックス情報に基づいて表されることができる。すなわち、SbTMVP候補のための加重値インデックス情報は、前記左側周辺ブロックの加重値インデックス情報に基づいて表されることができる。
【0274】
または、例えば、前記候補は、SbTMVP候補を含むことができ、前記SbTMVP候補に対する加重値インデックス情報は、0に表されることができる。すなわち、SbTMVP候補のための加重値インデックス情報は、0に表されることができる。ここで、0である加重値インデックス情報は、各参照方向(すなわち、双予測でL0予測方向及びL1予測方向)の加重値が同一であることを表すことができる。
【0275】
または、例えば、前記候補は、SbTMVP候補を含むことができ、前記加重値インデックス情報は、コル(col)ブロック内のセンターブロックの加重値インデックス情報に基づいて表されることができる。すなわち、SbTMVP候補のための加重値インデックス情報は、コル(col)ブロック内のセンターブロックの加重値インデックス情報に基づいて表されることができる。ここで、前記コルブロックは、前記現在ブロックが位置する現在ピクチャと異なる参照ピクチャ内に前記現在ブロックと同じ位置のブロックを含むことができ、前記センターブロックは、前記コルブロックの中央に位置する4個のサブブロックのうち、右下側サブブロックを含むことができる。
【0276】
または、例えば、前記候補は、SbTMVP候補を含むことができ、前記加重値インデックス情報は、コル(col)ブロックのサブブロックのそれぞれの加重値インデックス情報に基づいて表されることができる。すなわち、SbTMVP候補のための加重値インデックス情報は、コル(col)ブロックのサブブロックのそれぞれの加重値インデックス情報に基づいて表されることができる。
【0277】
例えば、エンコード装置は、上述した情報(または、シンタックス要素)の全部または一部を含む画像情報をエンコードしてビットストリームまたはエンコードされた情報を生成できる。または、ビットストリーム形態で出力することができる。また、前記ビットストリームまたはエンコードされた情報は、ネットワークまたは格納媒体を介してデコード装置に送信されることができる。または、前記ビットストリームまたはエンコードされた情報は、コンピュータ読み取り可能な格納媒体に格納されることができ、前記ビットストリームまたは前記エンコードされた情報は、上述した画像エンコード方法により生成されることができる。
【0278】
図16及び図17は、本文書の実施形態(等)に係るビデオ/画像デコード方法及び関連コンポーネントの一例を概略的に示す。
【0279】
図16において開示された方法は、図3または図17において開示されたデコード装置によって行われることができる。例えば、図16のS1600は、図17において前記デコード装置300のエントロピーデコード部310によって行われることができ、図16のS1610は、図17において前記デコード装置300のレジデュアル処理部320によって行われることができる。また、図16のS1620ないしS1660は、図17において前記デコード装置300の予測部330によって行われることができ、図16のS1670は、図17において前記デコード装置300の加算部340によって行われることができる。また、図16において図示していないが、図17において前記デコード装置300のエントロピーデコード部310によってビットストリームから予測関連情報またはレジデュアル情報が導出され得る。図16において開示された方法は、本文書において上述した実施形態を含むことができる。
【0280】
図16に示すように、デコード装置は、ビットストリームを介してインター予測モード情報及びレジデュアル情報を含む画像情報を受信することができる(S1600)。例えば、前記画像情報は、ビデオ情報と呼ばれることもできる。前記画像情報は、本文書の上述した実施形態(等)に係る様々な情報を含むことができる。例えば、画像情報は、予測関連情報またはレジデュアル関連情報のうち、少なくとも一部を含むことができる。
【0281】
例えば、前記予測関連情報は、インター予測モード情報またはインター予測タイプ情報を含むことができる。例えば、前記インター予測モード情報は、様々なインター予測モードのうち、少なくとも一部を表す情報を含むことができる。例えば、マージモード、スキップモード、MVP(motion vector prediction)モード、アフィン(Affine)モード、サブブロックマージモード、またはMMVD(merge with MVD)モードなど、様々なモードが使用され得る。また、DMVR(Decoder side motion vector refinement)モード、AMVR(adaptive motion vector resolution)モード、BCW(Bi-prediction with CU-level weight)、またはBDOF(Bi-directional optical flow)などが付随的なモードとしてさらにまたはその代わりに使用されることができる。例えば、前記インター予測タイプ情報は、inter_pred_idcシンタックス要素を含むことができる。または、前記インター予測タイプ情報は、L0予測、L1予測、または双(bi)予測のうち、いずれか1つを表す情報を含むことができる。
【0282】
デコード装置は、レジデュアル情報に基づいてレジデュアルサンプルを生成できる(S1610)。デコード装置は、デコード装置は、前記レジデュアル情報に基づいて量子化された変換係数を導出でき、前記変換係数に対する逆変換手順に基づいてレジデュアルサンプルを導出できる。
【0283】
デコード装置は、インター予測モード情報に基づいて現在ブロックのマージ候補リストを生成できる(S1620)。例えば、デコード装置は、前記インター予測モード情報に基づいて現在ブロックのインター予測モードをマージモード、アフィン(マージ)モード、またはサブブロックマージモードと決定することができ、決定したインター予測モードによってマージ候補リストを生成できる。ここで、インター予測モードがアフィンマージモードまたはサブブロックマージモードと決定された場合、前記マージ候補リストは、アフィンマージ候補リストまたはサブブロックマージ候補リストなどのように呼ばれることができるが、簡略に、マージ候補リストと呼ばれることもできる。
【0284】
例えば、前記マージ候補リスト内の候補の個数が最大候補個数になるまでマージ候補リストに候補が挿入され得る。ここで、候補は、現在ブロックの動き情報(または、動きベクトル)を導出するための候補または候補ブロックを表すことができる。例えば、候補ブロックは、現在ブロックの周辺ブロックに対する探索を介して導出されることができる。例えば、周辺ブロックは、現在ブロックの空間的周辺ブロック及び/又は時間的周辺ブロックを含むことができ、空間的周辺ブロックが先に探索されて(空間的マージ)候補が導出され得るし、その後、時間的周辺ブロックが探索されて(時間的マージ)候補と導出されることができ、導出された候補は、前記マージ候補リストに挿入されることができる。例えば、前記マージ候補リストは、前記候補を挿入した後にも、前記マージ候補リスト内の候補の個数が最大候補個数より少ない場合、追加候補を挿入できる。例えば、追加候補は、history based merge candidate(s)、pair-wise average merge candidate(s)、ATMVP、combined bi-predictiveマージ候補(現在スライス/タイルグループのスライス/タイルグループタイプがBタイプである場合)、及び/又はゼロベクトルマージ候補のうち、少なくとも1つを含むことができる。
【0285】
または、例えば、アフィンマージ候補リスト内の候補の個数が最大候補個数になるまでアフィンマージ候補リストに候補が挿入され得る。ここで、候補は、現在ブロックのCPMV(Control Point Motion Vector)を含むことができる。または、前記候補は、前記CPMVを導出するための候補または候補ブロックを表すこともできる。前記CPMVは、現在ブロックのCP(Control Point)における動きベクトルを表すことができる。例えば、CPは、2個、3個、または4個であることができ、現在ブロックの左上側(または、左上側コーナー)、右上側(または、右上側コーナー)、左下側(または、左下側コーナー)、または右下側(または、右下側コーナー)のうち、少なくとも一部に位置することができ、各位置毎に1つのCPのみが存在しうる。
【0286】
例えば、候補ブロックは、現在ブロックの周辺ブロック(または、現在ブロックのCPの周辺ブロック)に対する探索を介して導出されることができる。例えば、アフィンマージ候補リストは、継承された(inherited)アフィンマージ候補、構成された(constructed)アフィンマージ候補、またはゼロ(zero)動きベクトル候補のうち、少なくとも1つを含むことができる。例えば、アフィンマージ候補リストは、先に前記継承されたアフィンマージ候補を挿入でき、その後、構成されたアフィンマージ候補を挿入できる。また、アフィンマージ候補リストに構成されたアフィンマージ候補まで挿入したが、前記アフィンマージ候補リスト内の候補の個数が最大候補個数より小さい場合、残りは、ゼロ動きベクトル候補で満たすことができる。ここで、ゼロ動きベクトル候補は、ゼロベクトルと呼ばれることもできる。例えば、アフィンマージ候補リストは、サンプル単位で動きベクトルが導出されるアフィンマージモードによるリストであることができるが、サブブロック単位で動きベクトルが導出されるアフィンマージモードによるリストであることもできる。この場合、アフィンマージ候補リストは、サブブロックマージ候補リストと呼ばれることもでき、サブブロックマージ候補リストは、SbTMVPで導出された候補(または、SbTMVP候補)も含まれることができる。例えば、SbTMVP候補がサブブロックマージ候補リストに含まれる場合、サブブロックマージ候補リスト内で継承されたアフィンマージ候補及び構成されたアフィンマージ候補より前に位置することができる。
【0287】
デコード装置は、マージ候補リストのうち、選択された候補に基づいて現在ブロックの動き情報を導出できる(S1630)。例えば、マージ候補リストは、空間的マージ候補、時間的マージ候補、ペアワイズ候補、またはゼロベクトル候補のうち、少なくとも一部を含むことができ、現在ブロックのインター予測のために、このような候補のうち1つの候補を選択できる。または、例えば、サブブロックマージ候補リストは、継承されたアフィンマージ候補、構成されたアフィンマージ候補、SbTMVP候補、またはゼロベクトル候補のうち、少なくとも一部を含むことができ、現在ブロックのインター予測のために、このような候補のうち1つの候補を選択できる。例えば、前記選択された候補は、選択情報に基づいて前記マージ候補リストから選択されることができる。例えば、前記選択情報は、前記前記マージ候補リスト内の選択された候補を表すインデックス情報を含むことができる。例えば、前記選択情報は、マージインデックス情報またはサブブロックマージインデックス情報と呼ばれることもできる。例えば、前記選択情報は、前記画像情報に含まれることができる。または、前記選択情報は、前記インター予測モード情報に含まれることもできる。
【0288】
デコード装置は、動き情報に基づいて現在ブロックのL0予測サンプル及びL1予測サンプルを生成できる(S1640)。例えば、デコード装置は、インター予測タイプが双予測で導出される場合、選択された候補に基づいてL0動き情報及びL1動き情報を導出できる。デコード装置は、インター予測タイプ情報に基づいて現在ブロックのインター予測タイプを双予測(bi-prediction)で導出することができる。例えば、前記現在ブロックのインター予測タイプは、前記インター予測タイプ情報に基づいてL0予測、L1予測、または双(bi)予測のうち、双予測で導出されることができる。ここで、L0予測は、参照ピクチャリスト0基盤の予測を表すことができ、L1予測は、参照ピクチャリスト1基盤の予測を表すことができ、双予測は、参照ピクチャリスト0及び参照ピクチャリスト1基盤の予測を表すことができる。例えば、前記インター予測タイプ情報は、inter_pred_idcシンタックス要素を含むことができる。
【0289】
例えば、L0動き情報は、L0参照ピクチャインデックス及びL0動きベクトルなどを含むことができ、L1動き情報は、L1参照ピクチャインデックス及びL1動きベクトルなどを含むことができる。L0参照ピクチャインデックスは、参照ピクチャリスト0で参照ピクチャを表す情報を含むことができ、L1参照ピクチャインデックスは、参照ピクチャリスト1で参照ピクチャを表す情報を含むことができる。
【0290】
例えば、前記候補は、空間的マージ候補を含むことができる。例えば、前記選択された候補が前記空間的マージ候補である場合、前記空間的マージ候補に基づいてL0動き情報及びL1動き情報が導出され得るし、これに基づいて前記L0予測サンプル及び前記L1予測サンプルが生成され得る。
【0291】
例えば、前記候補は、時間的マージ候補を含むことができる。例えば、前記選択された候補が前記時間的マージ候補である場合、前記時間的マージ候補に基づいてL0動き情報及びL1動き情報が導出され得るし、これに基づいて前記L0予測サンプル及び前記L1予測サンプルが生成され得る。
【0292】
例えば、前記候補は、ペアワイズ(pair-wise)候補を含むことができる。例えば、前記選択された候補がペアワイズ候補である場合、前記ペアワイズ候補に基づいてL0動き情報及びL1動き情報が導出され得るし、これに基づいて前記L0予測サンプル及び前記L1予測サンプルが生成され得る。例えば、前記ペアワイズ候補は、前記マージ候補リストに含まれた候補のうち、他の2個の候補に基づいて導出されることができる。
【0293】
または、例えば、前記マージ候補リストは、サブブロックマージ候補リストであることができ、アフィンマージ候補、サブブロックマージ候補、またはSbTMVP候補が選択されることもできる。ここで、サブブロック単位のアフィンマージ候補は、サブブロックマージ候補と呼ばれることもできる。
【0294】
例えば、前記候補は、アフィンマージ候補を含むことができる。例えば、前記選択された候補が前記アフィンマージ候補である場合、前記アフィンマージ候補に基づいてL0動き情報及びL1動き情報が導出され得るし、これに基づいて前記L0予測サンプル及び前記L1予測サンプルが生成され得る。例えば、前記アフィンマージ候補は、CPMV(Control Point Motion Vector)を含むことができ、前記L0予測サンプル及び前記L1予測サンプルは、前記CPMVに基づいてサブブロック単位で予測が行われて生成されることができる。
【0295】
ここで、CPMVは、前記現在ブロックのCP(Control Point)の周辺ブロックのうち、1つのブロックに基づいて導出されることができる。例えば、CPは、2個、3個、または4個であることができ、現在ブロックの左上側(または、左上側コーナー)、右上側(または、右上側コーナー)、左下側(または、左下側コーナー)、または右下側(または、右下側コーナー)のうち、少なくとも一部に位置することができ、各位置毎に1つのCPのみが存在しうる。
【0296】
例えば、前記CPが前記現在ブロックの左上側に位置するCP0であることができる。この場合、前記周辺ブロックは、前記現在ブロックの左上側コーナー周辺ブロック、前記左上側コーナー周辺ブロックの下側に隣接した左側周辺ブロック、及び前記左上側コーナー周辺ブロックの右側に隣接した上側周辺ブロックを含むことができる。または、前記周辺ブロックは、図12においてAブロック、Bブロック、またはBブロックを含むことができる。
【0297】
または、例えば、前記CPが前記現在ブロックの右上側に位置するCP1であることができる。この場合、前記周辺ブロックは、前記現在ブロックの右上側コーナー周辺ブロック及び前記右上側コーナー周辺ブロックの左側に隣接した上側周辺ブロックを含むことができる。または、前記周辺ブロックは、図12においてBブロックまたはBブロックを含むことができる。
【0298】
または、例えば、前記CPが前記現在ブロックの左下側に位置するCP2であることができる。この場合、前記周辺ブロックは、前記現在ブロックの左下側コーナー周辺ブロック及び前記左下側コーナー周辺ブロックの上側に隣接した左側周辺ブロックを含むことができる。または、前記周辺ブロックは、図12においてAブロックまたはAブロックを含むことができる。
【0299】
または、例えば、前記CPが前記現在ブロックの右下側に位置するCP3であることができる。ここで、CP3は、RBと呼ばれることもできる。この場合、前記周辺ブロックは、前記現在ブロックのコル(col)ブロックまたは前記コルブロックの右下側コーナー周辺ブロックを含むことができる。ここで、前記コルブロックは、前記現在ブロックが位置する現在ピクチャと異なる参照ピクチャ内に前記現在ブロックと同じ位置のブロックを含むことができる。または、前記周辺ブロックは、図12においてTブロックを含むことができる。
【0300】
または、例えば、前記候補は、SbTMVP候補を含むことができる。例えば、前記選択された候補が前記SbTMVP候補である場合、前記現在ブロックの左側周辺ブロックに基づいてL0動き情報及びL1動き情報が導出され得るし、これに基づいて前記L0予測サンプル及び前記L1予測サンプルが生成され得る。例えば、前記L0予測サンプル及び前記L1予測サンプルは、サブブロック単位で予測が行われて生成されることができる。
【0301】
デコード装置は、L0予測サンプル、L1予測サンプル、及び加重値情報に基づいて現在ブロックの予測サンプルを生成できる(S1260)。例えば、前記加重値情報は、マージ候補リストに含まれた候補のうち、選択された候補に対する加重値インデックス情報に基づいて導出されることができる。例えば、前記加重値情報は、L0予測サンプルまたはL1予測サンプルの加重平均のための情報を含むことができる。すなわち、前記加重値インデックス情報は、前記加重平均に用いられた加重値に対するインデックス情報を表すことができ、前記加重平均は、加重値インデックス情報に基づいて行われることができる。例えば、加重値インデックス情報は、3個または5個の加重値のうち、いずれか1つの加重値を表す情報を含むことができる。例えば、前記加重平均は、BCW(Bi-prediction with CU-level Weight)またはBWA(Bi-prediction with Weighted Average)における加重平均を表すことができる。
【0302】
例えば、前記候補は、時間的マージ候補を含むことができ、前記時間的マージ候補に対する加重値インデックス情報は、0に導出されることができる。すなわち、時間的マージ候補のための加重値インデックス情報は、0に導出されることができる。ここで、0である加重値インデックス情報は、各参照方向(すなわち、双予測でL0予測方向及びL1予測方向)の加重値が同一であることを表すことができる。
【0303】
例えば、前記候補は、時間的マージ候補を含むことができ、前記時間的マージ候補に対する加重値インデックス情報は、コル(col)ブロックの加重値インデックス情報に基づいて導出されることができる。すなわち、時間的マージ候補に対する加重値インデックス情報は、コル(col)ブロックの加重値インデックス情報に基づいて導出されることができる。ここで、前記コルブロックは、前記現在ブロックが位置する現在ピクチャと異なる参照ピクチャ内に前記現在ブロックと同じ位置のブロックを含むことができる。
【0304】
例えば、前記候補は、ペアワイズ(pair-wise)候補を含むことができ、前記加重値インデックス情報は、前記ペアワイズ候補を導出するのに利用されたマージ候補リスト内の他の2個の候補のうち1つの加重値インデックス情報で導出されることができる。すなわち、前記ペアワイズ候補に対する加重値インデックス情報は、前記ペアワイズ候補を導出するのに利用されたマージ候補リスト内の他の2個の候補のうち1つの加重値インデックス情報で導出されることができる。
【0305】
例えば、前記候補は、ペアワイズ(pair-wise)候補を含み、前記ペアワイズ候補は、前記候補のうち、他の2個の候補に基づいて導出されることができる。前記他の2個の候補のそれぞれの加重値インデックス情報が第1の加重値インデックス情報と互いに同一である場合、前記ペアワイズ候補に対する加重値インデックス情報は、前記第1の加重値インデックス情報に基づいて導出されることができる。前記他の2個の候補のそれぞれの加重値インデックス情報が互いに同一でない場合、前記ペアワイズ候補に対する加重値インデックス情報は、デフォルト(DEFAULT)加重値インデックス情報に基づいて導出されることができる。このとき、前記デフォルト加重値インデックス情報は、前記L0予測サンプル及び前記L1予測サンプルの各々に同じ加重値を付与する加重値インデックス情報に該当することができる。
【0306】
例えば、前記候補は、ペアワイズ(pair-wise)候補を含み、前記ペアワイズ候補は、前記候補のうち、他の2個の候補に基づいて導出されることができる。前記他の2個の候補のそれぞれの加重値インデックス情報が第1の加重値インデックス情報と互いに同一である場合、前記ペアワイズ候補に対する加重値インデックス情報は、前記第1の加重値インデックス情報に基づいて導出されることができる。前記他の2個の候補のそれぞれの加重値インデックス情報が互いに同一でない場合、前記ペアワイズ候補に対する加重値インデックス情報は、前記他の2個の候補のそれぞれの加重値インデックス情報のうち、デフォルト(DEFAULT)加重値インデックス情報でない加重値インデックス情報に基づいて導出されることができる。前記デフォルト加重値インデックス情報は、前記L0予測サンプル及び前記L1予測サンプルの各々に同じ加重値を付与する加重値インデックス情報に該当することができる。
【0307】
例えば、前記マージ候補リストは、サブブロックマージ候補リストであることができ、アフィンマージ候補、サブブロックマージ候補、またはSbTMVP候補が選択されることもできる。ここで、サブブロック単位のアフィンマージ候補は、サブブロックマージ候補と呼ばれることもできる。
【0308】
例えば、前記候補は、アフィンマージ候補を含むことができ、前記アフィンマージ候補は、前記現在ブロックの左上側に位置するCP0(Control Point 0)、前記現在ブロックの右上側に位置するCP1(Control Point 1)、前記現在ブロックの左下側に位置するCP2(Control Point 2)、及び前記現在ブロックの右下側に位置するCP3(Control Point 3)の各々に対する動きベクトルのうち、少なくとも1つを含むことができる。
【0309】
例えば、前記アフィンマージ候補が{CP0、CP1、CP2}、{CP0、CP1、CP3}、{CP0、CP2、CP3}、{CP0、CP1}、及び{CP0、CP2}のうち、いずれか1つに基づいて生成される場合、前記アフィンマージ候補に対する加重値インデックス情報は、前記CP0の周辺ブロックのうち、特定ブロックの加重値インデックス情報に基づいて表されることができる。前記アフィンマージ候補が{CP1、CP2、CP3}に基づいて生成される場合、前記アフィンマージ候補に対する加重値インデックス情報は、前記CP1の周辺ブロックのうち、特定ブロックの加重値インデックス情報に基づいて表されることができる。
【0310】
前記CP0の周辺ブロックのうち、特定ブロックは、前記CP0に対するCPMVの導出のために使用されるブロックに該当し、前記CP0の周辺ブロックは、前記現在ブロックの左上側コーナー周辺ブロック、前記左上側コーナー周辺ブロックの下側に隣接した左側周辺ブロック、及び前記左上側コーナー周辺ブロックの右側に隣接した上側周辺ブロックを含むことができる。
【0311】
前記CP1の周辺ブロックのうち、特定ブロックは、前記CP1に対するCPMVの導出のために使用されるブロックに該当し、前記CP1の周辺ブロックは、前記現在ブロックの右上側コーナー周辺ブロック及び前記右上側コーナー周辺ブロックの左側に隣接した上側周辺ブロックを含むことができる。
【0312】
または、例えば、前記候補は、SbTMVP候補を含むことができ、前記SbTMVP候補に対する加重値インデックス情報は、前記現在ブロックの左側周辺ブロックの加重値インデックス情報に基づいて導出されることができる。すなわち、SbTMVP候補のための加重値インデックス情報は、前記左側周辺ブロックの加重値インデックス情報に基づいて導出されることができる。
【0313】
または、例えば、前記候補は、SbTMVP候補を含むことができ、前記SbTMVP候補に対する加重値インデックス情報は、0に導出されることができる。すなわち、SbTMVP候補のための加重値インデックス情報は、0に導出されることができる。ここで、0である加重値インデックス情報は、各参照方向(すなわち、双予測でL0予測方向及びL1予測方向)の加重値が同一であることを表すことができる。
【0314】
または、例えば、前記候補は、SbTMVP候補を含むことができ、前記加重値インデックス情報は、コル(col)ブロック内のセンターブロックの加重値インデックス情報に基づいて導出されることができる。すなわち、SbTMVP候補のための加重値インデックス情報は、コル(col)ブロック内のセンターブロックの加重値インデックス情報に基づいて導出されることができる。ここで、前記コルブロックは、前記現在ブロックが位置する現在ピクチャと異なる参照ピクチャ内に前記現在ブロックと同じ位置のブロックを含むことができ、前記センターブロックは、前記コルブロックの中央に位置する4個のサブブロックのうち、右下側サブブロックを含むことができる。
【0315】
または、例えば、前記候補は、SbTMVP候補を含むことができ、前記加重値インデックス情報は、コル(col)ブロックのサブブロックのそれぞれの加重値インデックス情報に基づいて導出されることができる。すなわち、SbTMVP候補のための加重値インデックス情報は、コル(col)ブロックのサブブロックのそれぞれの加重値インデックス情報に基づいて導出されることができる。
【0316】
デコード装置は、前記予測サンプル及び前記レジデュアルサンプルに基づいて復元サンプルを生成できる(S1660)。例えば、デコード装置は、前記予測サンプル及び前記レジデュアルサンプルに基づいて復元サンプルを生成でき、前記復元サンプルに基づいて復元ブロック及び復元ピクチャが導出され得る。
【0317】
例えば、デコード装置は、ビットストリームまたはエンコードされた情報をデコードして前述した情報(または、シンタックス要素)の全部または一部を含む画像情報を取得することができる。また、前記ビットストリームまたはエンコードされた情報は、コンピュータ読み取り可能な格納媒体に格納されることができ、前述したデコード方法が実行されるようにすることができる。
【0318】
前述した実施形態において、方法は、一連のステップまたはブロックで流れ図に基づいて説明されているが、該当実施形態は、ステップの順序に限定されるものではなく、あるステップは、前述と異なるステップと、異なる順序にまたは同時に発生できる。また、当業者であれば、流れ図に示すステップが排他的でなく、他のステップが含まれ、または、流れ図の1つまたはそれ以上のステップが本文書の実施形態の範囲に影響を及ぼさずに削除可能であることを理解することができる。
【0319】
前述した本文書の実施形態による方法は、ソフトウェア形態で実現されることができ、本文書によるエンコード装置及び/又はデコード装置は、例えば、TV、コンピュータ、スマートフォン、セットトップボックス、ディスプレイ装置などの画像処理を実行する装置に含まれることができる。
【0320】
本文書において、実施形態がソフトウェアで実現される時、前述した方法は、前述した機能を遂行するモジュール(過程、機能など)で実現されることができる。モジュールは、メモリに格納され、プロセッサにより実行されることができる。メモリは、プロセッサの内部または外部にあり、よく知られた多様な手段でプロセッサと連結されることができる。プロセッサは、ASIC(application-specific integrated circuit)、他のチップセット、論理回路及び/又はデータ処理装置を含むことができる。メモリは、ROM(read-only memory)、RAM(random access memory)、フラッシュメモリ、メモリカード、格納媒体及び/又は他の格納装置を含むことができる。即ち、本文書で説明した実施形態は、プロセッサ、マイクロプロセッサ、コントローラまたはチップ上で実現されて実行されることができる。例えば、各図面で示す機能ユニットは、コンピュータ、プロセッサ、マイクロプロセッサ、コントローラまたはチップ上で実現されて実行されることができる。この場合、実現のための情報(例えば、information on instructions)またはアルゴリズムがデジタル格納媒体に格納されることができる。
【0321】
また、本文書の実施形態が適用されるデコード装置及びエンコード装置は、マルチメディア放送送受信装置、モバイル通信端末、ホームシネマビデオ装置、デジタルシネマビデオ装置、監視用カメラ、ビデオ対話装置、ビデオ通信のようなリアルタイム通信装置、モバイルストリーミング装置、格納媒体、カムコーダ、注文型ビデオ(VoD)サービス提供装置、OTTビデオ(Over the top video)装置、インターネットストリーミングサービス提供装置、3次元(3D)ビデオ装置、VR(virtual reality)装置、AR(argumente reality)装置、画像電話ビデオ装置、運送手段端末(例えば、車両(自律走行車両を含む)端末、飛行機端末、船舶端末等)、及び医療用ビデオ装置などに含まれることができ、ビデオ信号またはデータ信号を処理するために使われることができる。例えば、OTTビデオ(Over the top video)装置として、ゲームコンソール、ブルーレイプレーヤ、インターネット接続TV、ホームシアターシステム、スマートフォン、タブレットPC、DVR(Digital Video Recorder)などを含むことができる。
【0322】
また、本文書の実施形態が適用される処理方法は、コンピュータで実行されるプログラムの形態で生産されることができ、コンピュータが読み取り可能な記録媒体に格納されることができる。また、本文書の実施形態によるデータ構造を有するマルチメディアデータもコンピュータが読み取り可能な記録媒体に格納されることができる。前記コンピュータが読み取り可能な記録媒体は、コンピュータで読みだすことができるデータが格納される全ての種類の格納装置及び分散格納装置を含む。前記コンピュータが読み取り可能な記録媒体は、例えば、ブルーレイディスク(BD)、汎用直列バス(USB)、ROM、PROM、EPROM、EEPROM、RAM、CD-ROM、磁気テープ、フロッピーディスク、及び光学的データ格納装置を含むことができる。また、前記コンピュータが読み取り可能な記録媒体は、搬送波(例えば、インターネットを介した送信)の形態で実現されたメディアを含む。また、エンコード方法で生成されたビットストリームがコンピュータが読み取り可能な記録媒体に格納され、または、有無線通信ネットワークを介して送信されることができる。
【0323】
また、本文書の実施形態は、プログラムコードによるコンピュータプログラム製品で実現されることができ、前記プログラムコードは、本文書の実施形態によりコンピュータで実行されることができる。前記プログラムコードは、コンピュータにより読み取り可能なキャリア上に格納されることができる。
【0324】
図18は、本文書において開示された実施形態が適用され得るコンテンツストリーミングシステムの例を示す。
【0325】
図18に示すように、本文書の実施形態が適用されるコンテンツストリーミングシステムは、大別してエンコードサーバ、ストリーミングサーバ、ウェブサーバ、メディア格納所、ユーザ装置、及びマルチメディア入力装置を含むことができる。
【0326】
前記エンコードサーバは、スマートフォン、カメラ、カムコーダなどのようなマルチメディア入力装置から入力されたコンテンツをデジタルデータで圧縮してビットストリームを生成し、これを前記ストリーミングサーバに送信する役割をする。他の例として、スマートフォン、カメラ、カムコーダなどのようなマルチメディア入力装置がビットストリームを直接生成する場合、前記エンコードサーバは省略されることができる。
【0327】
前記ビットストリームは、本文書の実施形態に適用されるエンコード方法またはビットストリーム生成方法により生成されることができ、前記ストリーミングサーバは、前記ビットストリームを送信または受信する過程で一時的に前記ビットストリームを格納することができる。
【0328】
前記ストリーミングサーバは、ウェブサーバを介したユーザ要請に基づいてマルチメディアデータをユーザ装置に送信し、前記ウェブサーバは、ユーザにどのようなサービスがあるかを知らせる媒介体の役割をする。ユーザが前記ウェブサーバに所望のサービスを要請すると、前記ウェブサーバは、これをストリーミングサーバに伝達し、前記ストリーミングサーバは、ユーザにマルチメディアデータを送信する。このとき、前記コンテンツストリーミングシステムは、別途の制御サーバを含むことができ、この場合、前記制御サーバは、前記コンテンツストリーミングシステム内の各装置間の命令/応答を制御する役割をする。
【0329】
前記ストリーミングサーバは、メディア格納所及び/又はエンコードサーバからコンテンツを受信することができる。例えば、前記エンコードサーバからコンテンツを受信するようになる場合、前記コンテンツをリアルタイムで受信することができる。この場合、円滑なストリーミングサービスを提供するために、前記ストリーミングサーバは、前記ビットストリームを一定時間の間格納することができる。
【0330】
前記ユーザ装置の例として、携帯電話、スマートフォン(smart phone)、ノートブックコンピュータ(laptop computer)、デジタル放送用端末、PDA(personal digital assistants)、PMP(portable multimedia player)、ナビゲーション、スレートPC(slate PC)、タブレットPC(tablet PC)、ウルトラブック(ultrabook)、ウェアラブルデバイス(wearable device、例えば、ウォッチ型端末(smartwatch)、グラス型端末(smart glass)、HMD(head mounted display)、デジタルTV、デスクトップコンピュータ、デジタルサイニジがある。
【0331】
前記コンテンツストリーミングシステム内の各サーバは、分散サーバとして運営されることができ、この場合、各サーバで受信するデータは、分散処理されることができる。
【0332】
本明細書に記載された請求項は、多様な方式で組み合わせることができる。例えば、本明細書の方法請求項の技術的特徴が組み合わせて装置で実現されることができ、本明細書の装置請求項の技術的特徴が組み合わせて方法で実現されることができる。また、本明細書の方法請求項の技術的特徴と装置請求項の技術的特徴が組み合わせて装置で実現されることができ、本明細書の方法請求項の技術的特徴と装置請求項の技術的特徴が組み合わせて方法で実現されることができる。
図1
図2
図3
図4
図5
図6
図7
図8
図9a
図9b
図10
図11
図12
図13
図14
図15
図16
図17
図18
【手続補正書】
【提出日】2023-08-03
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
デコード装置によって行われる画像デコード方法において、
ビットストリームを介してインター予測モード情報及びレジデュアル情報を含む画像情報を取得するステップと、
前記レジデュアル情報に基づいてレジデュアルサンプルを生成するステップと、
前記インター予測モード情報に基づいて現在ブロックのマージ候補リストを生成するステップと、
前記マージ候補リスト内の候補から選択された候補に基づいて前記現在ブロックに関する動き情報を導出するステップと、
前記動き情報に基づいて前記現在ブロックのL0予測サンプル及びL1予測サンプルを生成するステップと、
前記L0予測サンプル、前記L1予測サンプル、及び前記現在ブロックのための加重値情報に基づいて双予測を実行することによって前記現在ブロックの予測サンプルを生成するステップであって、前記加重値情報は、前記選択された候補に対する加重値インデックスに基づいて導出されるステップと、
前記予測サンプル及び前記レジデュアルサンプルに基づいて復元サンプルを生成するステップと、
を含み、
前記候補は、継承されたアフィンマージ候補及び構成されたアフィンマージ候補を含み、
前記継承されたアフィンマージ候補は、前記現在ブロックの周辺ブロックのCPMV(control point motion vector)に基づいて導出され、
前記構成されたアフィンマージ候補のそれぞれは、CP0(Control Point 0)に対するCPMV、CP1(Control Point 1)に対するCPMV、CP2(Control Point 2)に対するCPMV、又はCP3(Control Point 3)に対するCPMVの少なくとも2個を含み、
前記CP0は、前記現在ブロックの左上側コーナーに関連し、
前記CP1は、前記現在ブロックの右上側コーナーに関連し、
前記CP2は、前記現在ブロックの左下側コーナーに関連し、
前記CP3は、前記現在ブロックの右下側コーナーに関連し、
第1の構成されたアフィンマージ候補が{CP0、CP1、CP2}に基づいて生成されることと、前記双予測が前記現在ブロックに適用されることとに応じて、前記第1の構成されたアフィンマージ候補に対する加重値インデックスは、前記CP0の周辺ブロックのうち、特定ブロックに対する加重値インデックスに等しいように固定され
前記CP0の前記周辺ブロックのうち、前記特定ブロックは、前記CP0に対する前記CPMVを導出するために使用されるブロックであり、
第2の構成されたアフィンマージ候補が{CP1、CP2、CP3}に基づいて生成されることと、前記双予測が前記現在ブロックに適用されることとに応じて、前記第2の構成されたアフィンマージ候補に対する加重値インデックスは、前記CP1の周辺ブロックのうち、特定ブロックに対する加重値インデックスに等しいように固定され、
前記CP1の前記周辺ブロックのうち、前記特定ブロックは、前記CP1に対する前記CPMVの導出のために使用されるブロックであり、
前記構成されたアフィンマージ候補は、前記マージ候補リスト中の前記継承されたアフィンマージ候補の後に挿入される、画像デコード方法。
【請求項2】
エンコード装置によって行われる画像エンコード方法において、
現在ブロックのインター予測モードを決定し、前記インター予測モードを示すインター予測モード情報を生成するステップと、
前記インター予測モードに基づいて前記現在ブロックのマージ候補リストを生成するステップと、
前記マージ候補リストに含まれた候補の1つを示す選択情報を生成するステップと、
前記現在ブロックのレジデュアルサンプルに基づいてレジデュアル情報を生成するステップと、
前記インター予測モード情報、前記選択情報、及び前記レジデュアル情報を含む画像情報をエンコードするステップと、
を含み、
前記候補は、継承されたアフィンマージ候補及び構成されたアフィンマージ候補を含み、
前記継承されたアフィンマージ候補は、前記現在ブロックの周辺ブロックのCPMV(control point motion vector)に基づいて導出され、
前記構成されたアフィンマージ候補のそれぞれは、CP0(Control Point 0)に対するCPMV、CP1(Control Point 1)に対するCPMV、CP2(Control Point 2)に対するCPMV、又はCP3(Control Point 3)に対するCPMVの、少なくとも2個を含み、
前記CP0は、前記現在ブロックの左上側コーナーに関連し、
前記CP1は、前記現在ブロックの右上側コーナーに関連し、
前記CP2は、前記現在ブロックの左下側コーナーに関連し、
前記CP3は、前記現在ブロックの右下側コーナーに関連し、
第1の構成されたアフィンマージ候補が{CP0、CP1、CP2}に基づいて生成されることと、双予測が前記現在ブロックに適用されることとに応じて、前記第1の構成されたアフィンマージ候補に対する加重値インデックスは、前記CP0の周辺ブロックのうち、特定ブロックに対する加重値インデックスに等しいように固定され
前記CP0の前記周辺ブロックのうち、前記特定ブロックは、前記CP0に対する前記CPMVを導出するために使用されるブロックであり、
第2の構成されたアフィンマージ候補が{CP1、CP2、CP3}に基づいて生成されることと、前記双予測が前記現在ブロックに適用されることとに応じて、前記第2の構成されたアフィンマージ候補に対する加重値インデックスは、前記CP1の周辺ブロックのうち、特定ブロックに対する加重値インデックスに等しいように固定され、
前記CP1の前記周辺ブロックのうち、前記特定ブロックは、前記CP1に対する前記CPMVの導出のために使用されるブロックであり、
前記構成されたアフィンマージ候補は、前記マージ候補リスト中の前記継承されたアフィンマージ候補の後に挿入される、画像エンコード方法。
【請求項3】
画像のためのデータの送信方法であって、
前記画像のためのビットストリームを取得するステップであって、前記ビットストリームは、
現在ブロックのインター予測モードを決定し、前記インター予測モードを示すインター予測モード情報を生成するステップと、
前記インター予測モードに基づいて前記現在ブロックのマージ候補リストを生成するステップと、
前記マージ候補リストに含まれた候補の1つを示す選択情報を生成するステップと、
前記現在ブロックのレジデュアルサンプルに基づいてレジデュアル情報を生成するステップと、
前記インター予測モード情報、前記選択情報、及び前記レジデュアル情報を含む画像情報をエンコードするステップと、
に基づいて生成される、ステップと、
前記ビットストリームを含む前記データを送信するステップと、を含み、
前記候補は、継承されたアフィンマージ候補及び構成されたアフィンマージ候補を含み、
前記継承されたアフィンマージ候補は、前記現在ブロックの周辺ブロックのCPMV(control point motion vector)に基づいて導出され、
前記構成されたアフィンマージ候補のそれぞれは、CP0(Control Point 0)に対するCPMV、CP1(Control Point 1)に対するCPMV、CP2(Control Point 2)に対するCPMV、又はCP3(Control Point 3)に対するCPMVの、少なくとも2個を含み、
前記CP0は、前記現在ブロックの左上側コーナーに関連し、
前記CP1は、前記現在ブロックの右上側コーナーに関連し、
前記CP2は、前記現在ブロックの左下側コーナーに関連し、
前記CP3は、前記現在ブロックの右下側コーナーに関連し、
第1の構成されたアフィンマージ候補が{CP0、CP1、CP2}に基づいて生成されることと、双予測が前記現在ブロックに適用されることとに応じて、前記第1の構成されたアフィンマージ候補に対する加重値インデックスは、前記CP0の周辺ブロックのうち、特定ブロックに対する加重値インデックスに等しいように固定され
前記CP0の前記周辺ブロックのうち、前記特定ブロックは、前記CP0に対する前記CPMVを導出するために使用されるブロックであり、
第2の構成されたアフィンマージ候補が{CP1、CP2、CP3}に基づいて生成されることと、前記双予測が前記現在ブロックに適用されることとに応じて、前記第2の構成されたアフィンマージ候補に対する加重値インデックスは、前記CP1の周辺ブロックのうち、特定ブロックに対する加重値インデックスに等しいように固定され、
前記CP1の前記周辺ブロックのうち、前記特定ブロックは、前記CP1に対する前記CPMVの導出のために使用されるブロックであり、
前記構成されたアフィンマージ候補は、前記マージ候補リスト中の前記継承されたアフィンマージ候補の後に挿入される、送信方法。