IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ エルジー エレクトロニクス インコーポレイティドの特許一覧

特開2023-116782画像コーディングにおいて変換カーネルセットを表す情報のシグナリング
<>
  • 特開-画像コーディングにおいて変換カーネルセットを表す情報のシグナリング 図1
  • 特開-画像コーディングにおいて変換カーネルセットを表す情報のシグナリング 図2
  • 特開-画像コーディングにおいて変換カーネルセットを表す情報のシグナリング 図3
  • 特開-画像コーディングにおいて変換カーネルセットを表す情報のシグナリング 図4
  • 特開-画像コーディングにおいて変換カーネルセットを表す情報のシグナリング 図5
  • 特開-画像コーディングにおいて変換カーネルセットを表す情報のシグナリング 図6
  • 特開-画像コーディングにおいて変換カーネルセットを表す情報のシグナリング 図7
  • 特開-画像コーディングにおいて変換カーネルセットを表す情報のシグナリング 図8
  • 特開-画像コーディングにおいて変換カーネルセットを表す情報のシグナリング 図9
  • 特開-画像コーディングにおいて変換カーネルセットを表す情報のシグナリング 図10
  • 特開-画像コーディングにおいて変換カーネルセットを表す情報のシグナリング 図11
  • 特開-画像コーディングにおいて変換カーネルセットを表す情報のシグナリング 図12
  • 特開-画像コーディングにおいて変換カーネルセットを表す情報のシグナリング 図13
  • 特開-画像コーディングにおいて変換カーネルセットを表す情報のシグナリング 図14
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023116782
(43)【公開日】2023-08-22
(54)【発明の名称】画像コーディングにおいて変換カーネルセットを表す情報のシグナリング
(51)【国際特許分類】
   H04N 19/13 20140101AFI20230815BHJP
   H04N 19/12 20140101ALI20230815BHJP
   H04N 19/176 20140101ALI20230815BHJP
   H04N 19/136 20140101ALI20230815BHJP
【FI】
H04N19/13
H04N19/12
H04N19/176
H04N19/136
【審査請求】有
【請求項の数】3
【出願形態】OL
(21)【出願番号】P 2023101758
(22)【出願日】2023-06-21
(62)【分割の表示】P 2021575528の分割
【原出願日】2020-06-11
(31)【優先権主張番号】62/863,813
(32)【優先日】2019-06-19
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】502032105
【氏名又は名称】エルジー エレクトロニクス インコーポレイティド
【氏名又は名称原語表記】LG ELECTRONICS INC.
【住所又は居所原語表記】128, Yeoui-daero, Yeongdeungpo-gu, 07336 Seoul,Republic of Korea
(74)【代理人】
【識別番号】100099759
【弁理士】
【氏名又は名称】青木 篤
(74)【代理人】
【識別番号】100123582
【弁理士】
【氏名又は名称】三橋 真二
(74)【代理人】
【識別番号】100165191
【弁理士】
【氏名又は名称】河合 章
(74)【代理人】
【識別番号】100114018
【弁理士】
【氏名又は名称】南山 知広
(74)【代理人】
【識別番号】100159259
【弁理士】
【氏名又は名称】竹本 実
(72)【発明者】
【氏名】ナム チョンハク
(72)【発明者】
【氏名】ク ムンモ
(72)【発明者】
【氏名】イム チェヒョン
(72)【発明者】
【氏名】キム スンファン
(57)【要約】
【課題】画像をデコードするためのデコード装置の提供。
【解決手段】デコード装置のプロセッサは、レジデュアルサンプルに関連する情報に基づいて現在ブロックのレジデュアルサンプルを生成し、現在ブロックのレジデュアルサンプルに基づいて現在ブロックの復元サンプルを生成する、ように構成され、レジデュアルサンプルに関連する情報は、MTSインデックスに関する情報、及び変換係数に関する情報を含み、現在ブロックのレジデュアルサンプルは、変換カーネルセットを用いて、変換係数に関する情報に基づいて現在ブロックの変換係数から生成され、変換カーネルセットは、変換カーネルセット候補の中でMTSインデックスによって決定され、MTSインデックスの値は、MTSインデックスのビンストリングに基づいて導出され、MTSインデックスの値は、0~4を含む候補の1つとして導出される。
【選択図】図7
【特許請求の範囲】
【請求項1】
デコード装置によって行われる画像デコード方法において、
ビットストリームからレジデュアル情報を取得するステップと、
前記レジデュアル情報に基づいて現在ブロックのレジデュアルサンプルを生成するステップと、
前記レジデュアルサンプルに基づいて前記現在ブロックの復元サンプルを生成するステップと、
を含み、
前記レジデュアル情報は、MTS(Multiple Transform Selection)インデックス及び変換係数に関する情報を含み、
前記レジデュアルサンプルは、変換カーネルセットを用いて、前記変換係数に関する前記情報に従った前記変換係数から生成され、
前記変換カーネルセットは、変換カーネルセット候補のうちから、前記MTSインデックスに基づいて決定され、
前記MTSインデックスのビンストリングのビンのうち、少なくとも1つのビンは、コンテキストコーディングに基づいて導出され、
前記コンテキストコーディングは、前記MTSインデックスに関するコンテキストインデックス増加の値に基づいて行われ、
前記MTSインデックスの前記ビンストリングは、最大4個のビンを含み、
前記4個のビンのうち、前記コンテキストコーディングにより導出されるビンに割り当てられるコンテキストインデックス増加の値の個数は、1個である、画像デコード方法。
【請求項2】
前記ビンストリングの前記ビンのうち、1番目のビンに対する前記コンテキストインデックス増加の値は、0であり、
前記ビンストリングの前記ビンのうち、2番目のビンに対する前記コンテキストインデックス増加の値は、1であり、
前記ビンストリングの前記ビンのうち、残りのビンは、バイパスコーディングに基づいて導出される、請求項1に記載の画像デコード方法。
【請求項3】
前記ビンストリングの前記ビンのうち、1番目のビンに対する前記コンテキストインデックス増加の値は、0であり、
前記ビンストリングの前記ビンのうち、残りのビンは、バイパスコーディングに基づいて導出される、請求項1に記載の画像デコード方法。
【請求項4】
エンコード装置によって行われる画像エンコード方法において、
現在ブロックに対するレジデュアルサンプルを導出するステップと、
前記現在ブロックに対する前記レジデュアルサンプルに基づいてレジデュアル情報を生成するステップと、
前記レジデュアル情報を含むビデオ情報をエンコードしてビットストリームを生成するステップと、
を含み、
前記レジデュアル情報は、MTS(Multiple Transform Selection)インデックス及び変換係数に関する情報を含み、
前記変換係数に関する前記情報は、変換カーネルセットを用いて前記レジデュアルサンプルから生成され、
前記MTSインデックスは、変換カーネルセット候補のうち、前記変換カーネルセットを示し、
前記MTSインデックスのビンストリングのビンのうち、少なくとも1つのビンは、コンテキストコーディングに基づいて導出され、
前記コンテキストコーディングは、前記MTSインデックスに関するコンテキストインデックス増加の値に基づいて行われ、
前記MTSインデックスの前記ビンストリングは、最大4個のビンを含み、
前記4個のビンのうち、前記コンテキストコーディングにより導出されるビンに割り当てられるコンテキストインデックス増加の値の個数は、1個である、画像エンコード方法。
【請求項5】
前記ビンストリングの前記ビンのうち、1番目のビンに対する前記コンテキストインデックス増加の値は、0であり、
前記ビンストリングの前記ビンのうち、2番目のビンに対する前記コンテキストインデックス増加の値は、1であり、
前記ビンストリングの前記ビンのうち、残りのビンは、バイパスコーディングに基づいて表わされる、請求項4に記載の画像エンコード方法。
【請求項6】
前記ビンストリングの前記ビンのうち、1番目のビンに対する前記コンテキストインデックス増加の値は、0であり、
前記ビンストリングの前記ビンのうち、残りのビンは、バイパスコーディングに基づいて表わされる、請求項4に記載の画像エンコード方法。
【請求項7】
画像のためのデータの送信方法であって、
前記画像のためのビットストリームを取得するステップであって、前記ビットストリームは、
現在ブロックに対するレジデュアルサンプルを導出するステップと、
前記現在ブロックに対する前記レジデュアルサンプルに基づいてレジデュアル情報を生成するステップと、
前記レジデュアル情報を含むビデオ情報をエンコードして前記ビットストリームを生成するステップと、
に基づいて生成される、ステップと、
前記ビットストリームを含む前記データを送信するステップと、を含み、
前記レジデュアル情報は、MTS(Multiple Transform Selection)インデックス及び変換係数に関する情報を含み、
前記変換係数に関する前記情報は、変換カーネルセットを用いて前記レジデュアルサンプルから生成され、
前記MTSインデックスは、変換カーネルセット候補のうち、前記変換カーネルセットを示し、
前記MTSインデックスのビンストリングのビンのうち、少なくとも1つのビンは、コンテキストコーディングに基づいて導出され、
前記コンテキストコーディングは、前記MTSインデックスに関するコンテキストインデックス増加の値に基づいて行われ、
前記MTSインデックスの前記ビンストリングは、最大4個のビンを含み、
前記4個のビンのうち、前記コンテキストコーディングにより導出されるビンに割り当てられるコンテキストインデックス増加の値の個数は、1個である、送信方法。
【発明の詳細な説明】
【技術分野】
【0001】
本文書は、画像コーディング技術に関し、より詳細には、画像コーディングにおいて変換カーネルセットを表す情報のシグナリングに関する。
【背景技術】
【0002】
近年、4Kまたは8K以上のUHD(Ultra High Definition)画像/ビデオのような高解像度、高品質の画像/ビデオに対する需要が様々な分野で増加している。画像/ビデオデータが高解像度、高品質になるほど、既存の画像/ビデオデータに比べて相対的に送信される情報量またはビット量が増加するので、既存の有無線広帯域回線のような媒体を利用して画像データを送信するか、既存の格納媒体を利用して画像/ビデオデータを格納する場合、送信費用と格納費用が増加される。
【0003】
また、近年、VR(Virtual Reality)、AR(Artificial Realtiy)コンテンツやホログラムなどの実感メディア(Immersive Media)に対する関心及び需要が増加しており、ゲーム画像のように、現実画像と異なる画像特性を有する画像/ビデオに対する放送が増加している。
【0004】
これにより、上記のような様々な特性を有する高解像度・高品質の画像/ビデオの情報を効果的に圧縮して送信するか、格納し、再生するために高効率の画像/ビデオ圧縮技術が求められる。
【発明の概要】
【課題を解決するための手段】
【0005】
本文書の一実施形態によれば、画像/ビデオコーディング効率を上げる方法及び装置を提供する。
【0006】
本文書の一実施形態によれば、画像コーディングにおいて変換カーネルセットを表す情報のシグナリング方法及び装置を提供する。
【0007】
本文書の一実施形態によれば、MTSインデックス情報をシグナリングする方法及び装置を提供する。
【0008】
本文書の一実施形態によれば、変換カーネルセットを表す情報をコーディングする方法及び装置を提供する。
【0009】
本文書の一実施形態によれば、複数の変換カーネルセットのうち、現在ブロックに適用される変換カーネルセットを表す情報をシグナリングする方法及び装置を提供する。
【0010】
本文書の一実施形態によれば、MTSインデックスのビンストリングのビンに対してコンテキストコーディングまたはバイパスコーディングする方法及び装置を提供する。
【0011】
本文書の一実施形態によれば、デコード装置により行われるビデオ/画像デコード方法を提供する。
【0012】
本文書の一実施形態によれば、ビデオ/画像デコードを行うデコード装置を提供する。
【0013】
本文書の一実施形態によれば、エンコード装置により行われるビデオ/画像エンコード方法を提供する。
【0014】
本文書の一実施形態によれば、ビデオ/画像エンコードを行うエンコード装置を提供する。
【0015】
本文書の一実施形態によれば、本文書の実施形態のうち、少なくとも1つに開示されたビデオ/画像エンコード方法によって生成されたエンコードされたビデオ/画像情報が格納されたコンピュータ読み取り可能なデジタル格納媒体を提供する。
【0016】
本文書の一実施形態によれば、デコード装置により本文書の実施形態のうち、少なくとも1つに開示されたビデオ/画像デコード方法を行うようにするエンコードされた情報またはエンコードされたビデオ/画像情報が格納されたコンピュータ読み取り可能なデジタル格納媒体を提供する。
【発明の効果】
【0017】
本文書によれば、全般的な画像/ビデオ圧縮効率を上げることができる。
【0018】
本文書によれば、変換カーネルセットを表す情報を効率的にシグナリングすることができる。
【0019】
本文書によれば、変換カーネルセットを表す情報を効率的にコーディングしてコーディングシステムの複雑度を低めることができる。
【0020】
本文書の具体的な一例を介して得ることができる効果は、以上で羅列された効果に制限されない。例えば、関連した技術分野の通常の知識を有する者(a person having ordinary skill in the related art)が本文書から理解し、または誘導できる多様な技術的効果が存在できる。それによって、本文書の具体的な効果は、本文書に明示的に記載されたものに制限されずに、本文書の技術的特徴から理解され、または誘導されることができる多様な効果を含むことができる。
【図面の簡単な説明】
【0021】
図1】本文書が適用され得るビデオ/画像コーディングシステムの例を概略的に示す。
図2】本文書が適用され得るビデオ/画像エンコード装置の構成を概略的に説明する図である。
図3】本文書が適用され得るビデオ/画像デコード装置の構成を概略的に説明する図である。
図4】65個予測方向のイントラ方向性モードを例示的に示す。
図5】シンタックス要素をエンコードするためのCABAC(context-adaptive binary arithmetic coding)を例示的に示す。
図6】本文書の一実施形態に係る多重変換技法を概略的に示す。
図7】本文書の一実施形態に係る多重変換技法を概略的に示す。
図8】本文書の一実施形態に係るRSTを説明するための図である。
図9】本文書の一実施形態に係るRSTを説明するための図である。
図10】本文書の実施形態(等)に係るビデオ/画像エンコード方法及び関連コンポーネントの一例を概略的に示す。
図11】本文書の実施形態(等)に係るビデオ/画像エンコード方法及び関連コンポーネントの一例を概略的に示す。
図12】本文書の実施形態(等)に係るビデオ/画像デコード方法及び関連コンポーネントの一例を概略的に示す。
図13】本文書の実施形態(等)に係るビデオ/画像デコード方法及び関連コンポーネントの一例を概略的に示す。
図14】本文書において開示された実施形態が適用され得るコンテンツストリーミングシステムの例を示す。
【発明を実施するための形態】
【0022】
本文書は、様々な変更を加えることができ、種々の実施形態を有することができ、特定実施形態を図面に例示し、詳細に説明しようとする。しかしながら、これは、本文書を特定実施形態に限定しようとするものではない。本明細書で常用する用語は、単に特定の実施形態を説明するために使用されたものであって、本文書の技術的思想を限定しようとする意図で使用されるものではない。単数の表現は、文脈上明白に異なるように意味しない限り、複数の表現を含む。本明細書において「含む」または「有する」などの用語は、明細書上に記載された特徴、数字、ステップ、動作、構成要素、部品、またはこれらを組み合わせたものが存在することを指定しようとするものであり、1つまたはそれ以上の他の特徴や数字、ステップ、動作、構成要素、部品、またはこれらを組み合わせたものなどの存在または付加可能性を予め排除しないことと理解されるべきである。
【0023】
一方、本文書で説明される図面上の各構成は、互いに異なる特徴的な機能に関する説明の都合上、独立的に図示されたものであって、各構成が互いに別個のハードウェアや別個のソフトウェアで具現されるということを意味するものではない。例えば、各構成のうち、二つ以上の構成が結合されて1つの構成をなすこともでき、1つの構成を複数の構成に分けることもできる。各構成が統合及び/又は分離された実施形態も本文書の本質から外れない限り、本文書の権利範囲に含まれる。
【0024】
以下、添付図面を参照して、本文書の好ましい実施形態をより詳細に説明する。以下、図面上の同じ構成要素に対しては、同じ参照符号を使用し、同じ構成要素に対して重複した説明は省略されることができる。
【0025】
この文書において、ビデオ(video)は、時間の流れによる一連の画像(image)の集合を意味することができる。ピクチャ(picture)は、一般的に特定時間帯の1つの画像を示す単位を意味し、スライス(slice)/タイル(tile)は、コーディングにおいてピクチャの一部を構成する単位である。スライス/タイルは、1つ以上のCTU(coding tree unit)を含むことができる。1つのピクチャは、1つ以上のスライス/タイルで構成されることができる。1つのピクチャは、1つ以上のタイルグループで構成されることができる。1つのタイルグループは、1つ以上のタイルを含むことができる。
【0026】
ピクセル(pixel)またはペル(pel)は、1つのピクチャ(または、画像)を構成する最小の単位を意味することができる。また、ピクセルに対応する用語として「サンプル(sample)」が使用されることができる。サンプルは、一般的にピクセルまたはピクセルの値を示すことができ、ルマ(luma)成分のピクセル/ピクセル値のみを示すこともでき、クロマ(chroma)成分のピクセル/ピクセル値のみを示すこともできる。または、サンプルは、空間ドメインでのピクセル値を意味することもでき、このようなピクセル値が周波数ドメインに変換されると、周波数ドメインでの変換係数を意味することもできる。
【0027】
ユニット(unit)は、画像処理の基本単位を示すことができる。ユニットは、ピクチャの特定領域及び当該領域に関連した情報のうち少なくとも1つを含むことができる。1つのユニットは、1つのルマブロック及び2つのクロマ(例えば、cb、cr)ブロックを含むことができる。ユニットは、場合によって、ブロック(block)または領域(area)などの用語と混用して使用されることができる。一般的な場合、M×Nブロックは、M個の列とN個の行からなるサンプル(または、サンプルアレイ)、または変換係数(transform coefficient)の集合(または、アレイ)を含むことができる。
【0028】
また、本明細書で使用される括弧は、“例えば(for example)”を意味することができる。具体的に、“予測(イントラ予測)”で表示された場合、“予測”の一例として“イントラ予測”が提案されたものである。他の表現としては、本明細書の“予測”は、“イントラ予測”に制限(limit)されるものではなく、“イントラ予測”が“予測”の一例として提案されたものである。また、“予測(即ち、イントラ予測)”で表示された場合にも、“予測”の一例として“イントラ予測”が提案されたものである。
【0029】
この文書は、ビデオ/画像コーディングに関する。例えば、この文書に開示された方法/実施例は、VVC(Versatile Video Coding)標準(ITU-T Rec.H.266)、VVC以後の次世代ビデオ/イメージコーディング標準、またはそれ以外のビデオコーディング関連標準(例えば、HEVC(High Efficiency Video Coding)標準(ITU-T Rec.H.265)、EVC(essential video coding)標準、AVS2標準等)と関連することができる。
【0030】
この文書において、“/”と“、”は、“及び/又は”と解釈される。例えば、“A/B”は、“A及び/又はB”と解釈され、“A、B”は、“A及び/又はB”と解釈される。追加的に、“A/B/C”は、“A、B及び/又はCのうち少なくとも1つ”を意味する。また、“A、B、C”も、“A、B及び/又はCのうち少なくとも1つ”を意味する。(In this document,the term “/” and “,” should be interpreted to indicate “and/or.” For instance,the expression “A/B” may mean “A and/or B.”Further,“A,B” may mean “A and/or B.”Further,“A/B/C” may mean “at least one of A,B,and/or C.”Also,“A/B/C” may mean “at least one of A,B,and/or C.”)
【0031】
追加的に、本文書において、“または”は、“及び/又は”と解釈される。例えば、“AまたはB”は、1)“A”のみを意味し、または、2)“B”のみを意味し、または、3)“A及びB”を意味することができる。他の表現としては、本文書の“または”は、“追加的にまたは代替的に(additionally or alternatively)”を意味することができる。(Further,in the document,the term “or” should be interpreted to indicate “and/or.” For instance,the expression “A or B” may comprise 1)only A,2)only B,and/or 3)both A and B.In other words,the term “or” in this document should be interpreted to indicate “additionally or alternatively.”)
【0032】
本明細書において、“少なくとも1つのA及びB(at least one of A and B)”は、“ただA”、“ただB”または“AとBの両方とも”を意味することができる。また、本明細書において、“少なくとも1つのAまたはB(at least one of A or B)”や“少なくとも1つのA及び/又はB(at least one of A and/or B)”という表現は、“少なくとも1つのA及びB(at least one of A and B)”と同じく解釈されることができる。
【0033】
また、本明細書において、“少なくとも1つのA、B及びC(at least one of A,B and C)”は、“ただA”、“ただB”、“ただC”、または“A、B及びCの任意の全ての組み合わせ(any combination of A、B and C)”を意味することができる。また、“少なくとも1つのA、BまたはC(at least one of A,B or C)”や“少なくとも1つのA、B及び/又はC(at least one of A,B and/or C)”は、“少なくとも1つのA、B及びC(at least one of A,B and C)”を意味することができる。
【0034】
本明細書において、1つの図面内で個別的に説明される技術的特徴は、個別的に実現されることもでき、同時に実現されることもできる。
【0035】
この文書ではビデオ/画像コーディングに関する多様な実施例を提示し、他の言及がない限り、前記実施例は、互いに組み合わせて実行されることもできる。
【0036】
図1は、本文書が適用されることができるビデオ/画像コーディングシステムの例を概略的に示す。
【0037】
図1を参照すると、ビデオ/画像コーディングシステムは、ソースデバイス及び受信デバイスを含むことができる。ソースデバイスは、エンコードされたビデオ(video)/画像(image)情報またはデータをファイルまたはストリーミング形態でデジタル格納媒体またはネットワークを介して受信デバイスに伝達できる。
【0038】
前記ソースデバイスは、ビデオソース、エンコード装置、送信部を含むことができる。前記受信デバイスは、受信部、デコード装置、及びレンダラを含むことができる。前記エンコード装置は、ビデオ/画像エンコード装置と呼ばれることができ、前記デコード装置は、ビデオ/画像デコード装置と呼ばれることができる。送信機は、エンコード装置に含まれることができる。受信機は、デコード装置に含まれることができる。レンダラは、ディスプレイ部を含むこともでき、ディスプレイ部は、別個のデバイスまたは外部コンポーネントで構成されることもできる。
【0039】
ビデオソースは、ビデオ/画像のキャプチャ、合成または生成過程などを介してビデオ/画像を取得することができる。ビデオソースは、ビデオ/画像キャプチャデバイス及び/又はビデオ/画像生成デバイスを含むことができる。ビデオ/画像キャプチャデバイスは、例えば、1つ以上のカメラ、以前にキャプチャされたビデオ/画像を含むビデオ/画像アーカイブなどを含むことができる。ビデオ/画像生成デバイスは、例えば、コンピュータ、タブレット、及びスマートフォンなどを含むことができ、(電子的に)ビデオ/画像を生成することができる。例えば、コンピュータなどを介して仮想のビデオ/画像が生成されることができ、この場合、ビデオ/画像キャプチャ過程を関連データが生成される過程に代替されることができる。
【0040】
エンコード装置は、入力ビデオ/画像をエンコードすることができる。エンコード装置は、圧縮及びコーディング効率のために、予測、変換、量子化など、一連の手順を実行することができる。エンコードされたデータ(エンコードされたビデオ/画像情報)は、ビットストリーム(bitstream)形態で出力されることができる。
【0041】
送信部は、ビットストリーム形態で出力されたエンコードされたビデオ/画像情報またはデータをファイルまたはストリーミング形態でデジタル格納媒体またはネットワークを介して受信デバイスの受信部に伝達できる。デジタル格納媒体は、USB、SD、CD、DVD、ブルーレイ、HDD、SSDなど、多様な格納媒体を含むことができる。送信部は、あらかじめ決められたファイルフォーマットを介してメディアファイルを生成するためのエレメントを含むことができ、放送/通信ネットワークを介した送信のためのエレメントを含むことができる。受信部は、前記ビットストリームを受信/抽出してデコード装置に伝達できる。
【0042】
デコード装置は、エンコード装置の動作に対応する逆量子化、逆変換、予測など、一連の手順を実行してビデオ/画像をデコードすることができる。
【0043】
レンダラは、デコードされたビデオ/画像をレンダリングすることができる。レンダリングされたビデオ/画像は、ディスプレイ部を介してディスプレイされることができる。
【0044】
図2は、本文書が適用されることができるビデオ/画像エンコード装置の構成を概略的に説明する図である。以下、ビデオエンコード装置とは、画像エンコード装置を含むことができる。
【0045】
図2に示すように、エンコード装置200は、画像分割部(image partitioner)210、予測部(predictor)220、レジデュアル処理部(residual processor)230、エントロピーエンコード部(entropy encoder)240、加算部(adder)250、フィルタリング部(filter)260、及びメモリ(memory)270を備えて構成されることができる。予測部220は、インター予測部221及びイントラ予測部222を備えることができる。レジデュアル処理部230は、変換部(transformer)232、量子化部(quantizer)233、逆量子化部(dequantizer)234、逆変換部(inverse transformer)235を備えることができる。レジデュアル処理部230は、減算部(subtractor、231)をさらに備えることができる。加算部250は、復元部(reconstructor)または復元ブロック生成部(recontructged block generator)と呼ばれることができる。上述した画像分割部210、予測部220、レジデュアル処理部230、エントロピーエンコード部240、加算部250、及びフィルタリング部260は、実施形態によって1つ以上のハードウェアコンポーネント(例えば、エンコーダチップセットまたはプロセッサ)によって構成されることができる。また、メモリ270は、DPB(decoded picture buffer)を備えることができ、デジタル格納媒体によって構成されることもできる。前記ハードウェアコンポーネントは、メモリ270を内/外部コンポーネントとしてさらに備えることもできる。
【0046】
画像分割部210は、エンコード装置200に入力された入力画像(または、ピクチャ、フレーム)を1つ以上の処理ユニット(processing unit)に分割することができる。一例として、前記処理ユニットは、コーディングユニット(coding unit、CU)と呼ばれることができる。この場合、コーディングユニットは、コーディングツリーユニット(coding tree unit、CTU)または最大コーディングユニット(largest coding unit、LCU)からQTBTTT(Quad-tree binary-tree ternary-tree)構造によって再帰的に(recursively)分割されることができる。例えば、1つのコーディングユニットは、クアッドツリー構造、バイナリツリー構造、及び/又はターナリ構造に基づいて下位(deeper)デプスの複数のコーディングユニットに分割されることができる。この場合、例えば、クアッドツリー構造が先に適用され、バイナリツリー構造及び/又はターナリ構造がその後に適用されることができる。または、バイナリツリー構造が先に適用されることもできる。それ以上分割されない最終コーディングユニットに基づいて本開示に係るコーディング手順が行われ得る。この場合、画像特性によるコーディング効率などに基づいて、最大コーディングユニットが最終コーディングユニットとして使用されることができ、または、必要に応じてコーディングユニットは、再帰的に(recursively)もっと下位デプスのコーディングユニットに分割されて最適のサイズのコーディングユニットが最終コーディングユニットとして使用されることができる。ここで、コーディング手順とは、後述する予測、変換、及び復元などの手順を含むことができる。他の例として、前記処理ユニットは、予測ユニット(PU:Prediction Unit)または変換ユニット(TU:Transform Unit)をさらに備えることができる。この場合、前記予測ユニット及び前記変換ユニットは、各々上述した最終コーディングユニットから分割またはパーティショニングされることができる。前記予測ユニットは、サンプル予測の単位であることができ、前記変換ユニットは、変換係数を導く単位及び/又は変換係数からレジデュアル信号(residual signal)を導く単位であることができる。
【0047】
ユニットは、場合によって、ブロック(block)または領域(area)などの用語と混用して使用されることができる。一般的な場合、M×Nブロックは、M個の列とN個の行からなるサンプルまたは変換係数(transform coefficient)等の集合を示すことができる。サンプルは、一般的にピクセルまたはピクセルの値を示すことができ、輝度(luma)成分のピクセル/ピクセル値のみを示すことができ、彩度(chroma)成分のピクセル/ピクセル値のみを示すこともできる。サンプルは、1つのピクチャ(または、画像)をピクセル(pixel)またはペル(pel)に対応する用語として使用することができる。
【0048】
減算部231は、入力画像信号(原本ブロック、原本サンプルまたは原本サンプルアレイ)から、予測部220から出力された予測信号(予測されたブロック、予測サンプルまたは予測サンプルアレイ)を減算してレジデュアル信号(レジデュアルブロック、レジデュアルサンプルまたはレジデュアルサンプルアレイ)を生成することができ、生成されたレジデュアル信号は、変換部232に送信される。予測部220は、処理対象ブロック(以下、現在ブロックという)に対する予測を実行し、前記現在ブロックに対する予測サンプルを含む予測されたブロック(predicted block)を生成することができる。予測部220は、現在ブロックまたはCU単位でイントラ予測が適用されるか、または、インター予測が適用されるかを決定することができる。予測部は、各予測モードに対する説明で後述するように、予測モード情報など、予測に関する多様な情報を生成してエントロピーエンコード部240に伝達できる。予測に関する情報は、エントロピーエンコード部240にエンコードされてビットストリーム形態で出力されることができる。
【0049】
イントラ予測部222は、現在ピクチャ内のサンプルを参照して現在ブロックを予測することができる。前記参照されるサンプルは、予測モードによって前記現在ブロックの隣接(neighbor)に位置することができ、または、離れて位置することもできる。イントラ予測で予測モードは、複数の非方向性モードと複数の方向性モードとを含むことができる。非方向性モードは、例えば、DCモード及びプラナーモード(Planarモード)を含むことができる。方向性モードは、予測方向の細かい程度によって、例えば、33個の方向性予測モードまたは65個の方向性予測モードを含むことができる。ただし、これは、例示であり、設定によってそれ以上またはそれ以下の個数の方向性予測モードが使用され得る。イントラ予測部222は、隣接ブロックに適用された予測モードを用いて、現在ブロックに適用される予測モードを決定することもできる。
【0050】
インター予測部221は、参照ピクチャ上で動きベクトルにより特定される参照ブロック(参照サンプルアレイ)に基づいて、現在ブロックに対する予測されたブロックを導くことができる。このとき、インター予測モードで送信される動き情報の量を減らすために、隣接ブロックと現在ブロックとの間の動き情報の相関性に基づいて、動き情報をブロック、サブブロック、またはサンプル単位で予測することができる。前記動き情報は、動きベクトル及び参照ピクチャインデックスを含むことができる。前記動き情報は、インター予測方向(L0予測、L1予測、Bi予測等)情報をさらに含むことができる。インター予測の場合に、隣接ブロックは、現在ピクチャ内に存在する空間的隣接ブロック(spatial neighboring block)と参照ピクチャに存在する時間的隣接ブロック(temporal neighboring block)とを含むことができる。前記参照ブロックを含む参照ピクチャと前記時間的隣接ブロックを含む参照ピクチャとは同じであることができ、異なることもできる。前記時間的隣接ブロックは、同一位置参照ブロック(collocated reference block)、同一位置CU(col CU)などの名前で呼ばれることができ、前記時間的隣接ブロックを含む参照ピクチャは、同一位置ピクチャ(collocated picture、colPic)と呼ばれることもできる。例えば、インター予測部221は、隣接ブロックに基づいて動き情報候補リストを構成し、前記現在ブロックの動きベクトル及び/又は参照ピクチャインデックスを導出するために、どの候補が使用されるかを指示する情報を生成することができる。様々な予測モードに基づいてインター予測が行われ得るし、例えば、スキップモードとマージモードとの場合に、インター予測部221は、隣接ブロックの動き情報を現在ブロックの動き情報として利用することができる。スキップモードの場合、マージモードとは異なり、レジデュアル信号が送信されないことがある。動き情報予測(motion vector prediction、MVP)モードの場合、隣接ブロックの動きベクトルを動きベクトル予測子(motion vector predictor)として用い、動きベクトル差分(motion vector difference)をシグナリングすることにより、現在ブロックの動きベクトルを指示することができる。
【0051】
予測部220は、後述する多様な予測方法に基づいて予測信号を生成することができる。例えば、予測部は、1つのブロックに対する予測のためにイントラ予測またはインター予測を適用することができるだけでなく、イントラ予測とインター予測を同時に適用できる。これはcombined inter and intra prediction(CIIP)と呼ばれることができる。また、予測部は、ブロックに対する予測のためにイントラブロックコピー(intra block copy、IBC)を実行することもできる。前記イントラブロックコピーは、例えば、SCC(screen content coding)などのようにゲームなどのコンテンツ画像/動画像コーディングのために使用されることができる。IBCは、基本的に現在ピクチャ内で予測を実行するが、現在ピクチャ内で参照ブロックを導出する点でインター予測と類似するように実行されることができる。即ち、IBCは、本文書で説明されるインター予測技法のうち少なくとも1つを利用することができる。
【0052】
インター予測部221及び/又はイントラ予測部222を介して生成された予測信号は、復元信号を生成するために利用され、またはレジデュアル信号を生成するために利用されることができる。変換部232は、レジデュアル信号に変換技法を適用して変換係数(transform coefficients)を生成することができる。例えば、変換技法は、DCT(Discrete Cosine Transform)、DST(Discrete Sine Transform)、GBT(Graph-Based Transform)、またはCNT(Conditionally Non-linear Transform)などを含むことができる。ここで、GBTは、ピクセル間の関係情報をグラフで表現するとする時、このグラフから得られた変換を意味する。CNTは、以前に復元された全てのピクセル(all previously reconstructed pixel)を利用して予測信号を生成し、それに基づいて取得される変換を意味する。また、変換過程は、正方形の同じ大きさを有するピクセルブロックに適用されることもでき、正方形でない可変の大きさのブロックにも適用されることができる。
【0053】
量子化部233は、変換係数を量子化してエントロピーエンコード部240に送信され、エントロピーエンコード部240は、量子化された信号(量子化された変換係数に関する情報)をエンコードしてビットストリームで出力できる。前記量子化された変換係数に関する情報は、レジデュアル情報と呼ばれることができる。量子化部233は、係数スキャン順序(scan order)に基づいてブロック形態の量子化された変換係数を1次元ベクトル形態で再整列でき、前記1次元ベクトル形態の量子化された変換係数に基づいて前記量子化された変換係数に関する情報を生成することもできる。エントロピーエンコード部240は、例えば、指数ゴロム(exponential Golomb)、CAVLC(context-adaptive variable length coding)、CABAC(context-adaptive binary arithmetic coding)などのような多様なエンコード方法を実行することができる。エントロピーエンコード部240は、量子化された変換係数外にビデオ/イメージの復元に必要な情報(例えば、シンタックス要素(syntax elements)の値等)を共にまたは別途にエンコードすることもできる。エンコードされた情報(例えば、エンコードされたビデオ/画像情報)は、ビットストリーム形態でNAL(network abstraction layer)ユニット単位で送信または格納されることができる。前記ビデオ/画像情報は、アダプテーションパラメータセット(APS)、ピクチャパラメータセット(PPS)、シーケンスパラメータセット(SPS)またはビデオパラメータセット(VPS)等、多様なパラメータセットに関する情報をさらに含むことができる。また、前記ビデオ/画像情報は、一般制限情報(general constraint information)をさらに含むことができる。本文書で後述されるシグナリング/送信される情報及び/又はシンタックス要素は、前述したエンコード手順を介してエンコードされて前記ビットストリームに含まれることができる。前記ビットストリームは、ネットワークを介して送信されることができ、またはデジタル格納媒体に格納されることができる。ここで、ネットワークは、放送網及び/又は通信網などを含むことができ、デジタル格納媒体は、USB、SD、CD、DVD、ブルーレイ、HDD、SSDなど、多様な格納媒体を含むことができる。エントロピーエンコード部240から出力された信号は、送信する送信部(図示せず)及び/又は格納する格納部(図示せず)がエンコード装置200の内/外部エレメントとして構成されることができ、または、送信部は、エントロピーエンコード部240に含まれることもできる。
【0054】
量子化部233から出力された量子化された変換係数は、予測信号を生成するために利用されることができる。例えば、量子化された変換係数に逆量子化部234及び逆変換部235を介して逆量子化及び逆変換を適用することによって、レジデュアル信号(レジデュアルブロックまたはレジデュアルサンプル)を復元することができる。加算部250は、復元されたレジデュアル信号を予測部220から出力された予測信号に加えることによって、復元(reconstructed)信号(復元ピクチャ、復元ブロック、復元サンプルまたは復元サンプルアレイ)が生成されることができる。スキップモードが適用された場合のように処理対象ブロックに対するレジデュアルがない場合、予測されたブロックが復元ブロックとして使用されることができる。生成された復元信号は、現在ピクチャ内の次の処理対象ブロックのイントラ予測のために使用されることができ、後述するように、フィルタリングを経て次のピクチャのインター予測のために使用されることもできる。
【0055】
一方、ピクチャエンコード及び/又は復元過程でLMCS(luma mapping with chrom ascaling)が適用されることもできる。
【0056】
フィルタリング部260は、復元信号にフィルタリングを適用して主観的/客観的画質を向上させることができる。例えば、フィルタリング部260は、復元ピクチャに多様なフィルタリング方法を適用して修正された(modified)復元ピクチャを生成することができ、前記修正された復元ピクチャをメモリ270、具体的に、メモリ270のDPBに格納することができる。前記多様なフィルタリング方法は、例えば、デブロッキングフィルタリング、サンプル適応的オフセット(sample adaptive offset、SAO)、適応的ループフィルタ(adaptive loop filter)、両方向フィルタ(bilateral filter)などを含むことができる。フィルタリング部260は、各フィルタリング方法に対する説明で後述するように、フィルタリングに関する多様な情報を生成してエントロピーエンコード部290に伝達できる。フィルタリング関する情報は、エントロピーエンコード部290にエンコードされてビットストリーム形態で出力されることができる。
【0057】
メモリ270に送信された修正された復元ピクチャは、インター予測部280に参照ピクチャとして使用されることができる。エンコード装置は、これを介してインター予測が適用される場合、エンコード装置200とデコード装置での予測ミスマッチを避けることができ、符号化効率も向上させることができる。
【0058】
メモリ270のDPBは。修正された復元ピクチャをインター予測部221の参照ピクチャとして使用するために格納することができる。メモリ270は、現在ピクチャ内の動き情報が導出された(または、エンコードされた)ブロックの動き情報及び/又は既に復元されたピクチャ内のブロックの動き情報を格納することができる。前記格納された動き情報は、空間的隣接ブロックの動き情報または時間的隣接ブロックの動き情報として活用するためにインター予測部221に伝達できる。メモリ270は、現在ピクチャ内の復元されたブロックの復元サンプルを格納することができ、イントラ予測部222に伝達できる。
【0059】
図3は、本文書が適用されることができるビデオ/画像デコード装置の構成を概略的に説明する図である。
【0060】
図3に示すように、デコード装置300は、エントロピーデコード部(entropy decoder)310、レジデュアル処理部(residual processor)320、予測部(predictor)330、加算部(adder)340、フィルタリング部(filter)350、及びメモリ(memoery)360を備えて構成されることができる。予測部330は、インター予測部331及びイントラ予測部332を備えることができる。レジデュアル処理部320は、逆量子化部(dequantizer)321及び逆変換部(inverse transformer)321を備えることができる。上述したエントロピーデコード部310、レジデュアル処理部320、予測部330、加算部340、及びフィルタリング部350は、実施形態によって1つのハードウェアコンポーネント(例えば、デコーダチップセットまたはプロセッサ)により構成されることができる。また、メモリ360は、DPB(decoded picture buffer)を備えることができ、デジタル格納媒体により構成されることもできる。前記ハードウェアコンポーネントは、メモリ360を内/外部コンポーネントとしてさらに備えることもできる。
【0061】
ビデオ/画像情報を含むビットストリームが入力されれば、デコード装置300は、図3のエンコード装置でビデオ/画像情報が処理されたプロセスに対応して画像を復元することができる。例えば、デコード装置300は、前記ビットストリームから取得したブロック分割関連情報に基づいてユニット/ブロックを導出できる。デコード装置300は、エンコード装置で適用された処理ユニットを用いてデコードを行うことができる。したがって、デコードの処理ユニットは、例えば、コーディングユニットであることができ、コーディングユニットは、コーディングツリーユニットまたは最大コーディングユニットからクアッドツリー構造、バイナリツリー構造、及び/又はターナリツリー構造にしたがって分割されることができる。コーディングユニットから1つ以上の変換ユニットが導出され得る。そして、デコード装置300を介してデコード及び出力された復元画像信号は、再生装置を介して再生されることができる。
【0062】
デコード装置300は、図2のエンコード装置から出力された信号をビットストリーム形態で受信することができ、受信された信号は、エントロピーデコード部310を介してデコードされることができる。例えば、エントロピーデコード部310は、前記ビットストリームをパーシングして画像復元(または、ピクチャ復元)に必要な情報(例えば、ビデオ/画像情報)を導出できる。前記ビデオ/画像情報は、アダプテーションパラメータセット(APS)、ピクチャパラメータセット(PPS)、シーケンスパラメータセット(SPS)またはビデオパラメータセット(VPS)等、多様なパラメータセットに関する情報をさらに含むことができる。また、前記ビデオ/画像情報は、一般制限情報(general constraint information)をさらに含むことができる。デコード装置は、前記パラメータセットに関する情報及び/又は前記一般制限情報にも基づいてピクチャをデコードすることができる。本文書で後述されるシグナリング/受信される情報及び/又はシンタックス要素は、前記デコード手順を介してデコードされて前記ビットストリームから取得されることができる。例えば、エントロピーデコード部310は、指数ゴロム符号化、CAVLCまたはCABACなどのコーディング方法を基礎にしてビットストリーム内の情報をデコードし、画像復元に必要なシンタックス要素の値、レジデュアルに関する変換係数の量子化された値を出力することができる。より詳しくは、CABACエントロピーデコード方法は、ビットストリームで各シンタックス要素に該当するbinを受信し、デコード対象シンタックス要素情報と隣接及びデコード対象ブロックのデコード情報または以前ステップでデコードされたシンボル/binの情報を利用してコンテキスト(context)モデルを決定し、決定されたコンテキストモデルによってbinの発生確率を予測してbinの算術デコード(arithmetic decoding)を実行して各シンタックス要素の値に該当するシンボルを生成することができる。このとき、CABACエントロピーデコード方法は、コンテキストモデル決定後、次のシンボル/binのコンテキストモデルのためにデコードされたシンボル/binの情報を利用してコンテキストモデルをアップデートすることができる。エントロピーデコード部310にデコードされた情報のうち予測に関する情報は、予測部330に提供され、エントロピーデコード部310にエントロピーデコードが実行されたレジデュアルに対する情報、即ち、量子化された変換係数及び関連パラメータ情報は、逆量子化部321に入力されることができる。また、エントロピーデコード部310にデコードされた情報のうちフィルタリングに関する情報は、フィルタリング部350に提供されることができる。一方、エンコード装置から出力された信号を受信する受信部(図示せず)がデコード装置300の内/外部エレメントとしてさらに構成されることができ、または、受信部は、エントロピーデコード部310の構成要素である場合もある。一方、本文書によるデコード装置は、ビデオ/画像/ピクチャデコード装置と呼ばれることができ、前記デコード装置は、情報デコーダ(ビデオ/画像/ピクチャ情報デコーダ)及びサンプルデコーダ(ビデオ/画像/ピクチャサンプルデコーダ)に区分することもできる。前記情報デコーダは、前記エントロピーデコード部310を含むことができ、前記サンプルデコーダは、前記逆量子化部321、逆変換部322、予測部330、加算部340、フィルタリング部350、及びメモリ360のうち少なくとも1つを含むことができる。
【0063】
逆量子化部321には、量子化された変換係数を逆量子化して変換係数を出力することができる。逆量子化部321は、量子化された変換係数を2次元のブロック形態で再整列することができる。この場合、前記再整列は、エンコード装置で行われた係数スキャン順序に基づいて再整列を行うことができる。逆量子化部321は、量子化パラメータ(例えば、量子化ステップサイズ情報)を用いて量子化された変換係数に対する逆量子化を行い、変換係数(transform coefficient)を取得することができる。
【0064】
逆変換部322には、変換係数を逆変換してレジデュアル信号(レジデュアルブロック、レジデュアルサンプルアレイ)を取得するようになる。
【0065】
予測部は、現在ブロックに対する予測を行って前記現在ブロックに対する予測サンプルを含む予測されたブロック(predicted block)を生成することができる。予測部は、エントロピーデコード部310から出力された前記予測に関する情報に基づいて、前記現在ブロックにイントラ予測が適用されるか、または、インター予測が適用されるかを決定することができ、具体的なイントラ/インター予測モードを決定することができる。
【0066】
予測部は、後述する多様な予測方法に基づいて予測信号を生成することができる。例えば、予測部は、1つのブロックに対する予測のためにイントラ予測またはインター予測を適用することができるだけでなく、イントラ予測とインター予測を同時に適用できる。これはcombined inter and intra prediction(CIIP)と呼ばれることができる。また、予測部は、ブロックに対する予測のためにイントラブロックコピー(intra block copy、IBC)を実行することもできる。前記イントラブロックコピーは、例えば、SCC(screen content coding)などのようにゲームなどのコンテンツ画像/動画像コーディングのために使用されることができる。IBCは、基本的に現在ピクチャ内で予測を実行するが、現在ピクチャ内で参照ブロックを導出する点でインター予測と類似するように実行されることができる。即ち、IBCは、本文書で説明されるインター予測技法のうち少なくとも1つを利用することができる。
【0067】
イントラ予測部332は、現在ピクチャ内のサンプルを参照して現在ブロックを予測することができる。前記参照されるサンプルは、予測モードによって前記現在ブロックの隣接(neighbor)に位置でき、または離れて位置することもできる。イントラ予測において、予測モードは、複数の非方向性モードと複数の方向性モードとを含むことができる。イントラ予測部332は、隣接ブロックに適用された予測モードを利用し、現在ブロックに適用される予測モードを決定することもできる。
【0068】
インター予測部331は、参照ピクチャ上で動きベクトルにより特定される参照ブロック(参照サンプルアレイ)に基づいて、現在ブロックに対する予測されたブロックを誘導することができる。このとき、インター予測モードで送信される動き情報の量を減らすために、隣接ブロックと現在ブロックとの間の動き情報の相関性に基づいて、動き情報をブロック、サブブロックまたはサンプル単位で予測できる。前記動き情報は、動きベクトル及び参照ピクチャインデックスを含むことができる。前記動き情報は、インター予測方向(L0予測、L1予測、Bi予測等)情報をさらに含むことができる。インター予測の場合に、隣接ブロックは、現在ピクチャ内に存在する空間的隣接ブロック(spatial neighboring block)と、参照ピクチャに存在する時間的隣接ブロック(temporal neighboring block)と、を含むことができる。例えば、インター予測部331は、隣接ブロックに基づいて動き情報候補リストを構成し、受信した候補選択情報に基づいて前記現在ブロックの動きベクトル及び/又は参照ピクチャインデックスを導出できる。多様な予測モードに基づいてインター予測が実行されることができ、前記予測に関する情報は、前記現在ブロックに対するインター予測のモードを指示する情報を含むことができる。
【0069】
加算部340は、取得されたレジデュアル信号を、予測部330から出力された予測信号(予測されたブロック、予測サンプルアレイ)に加えることによって復元信号(復元ピクチャ、復元ブロック、復元サンプルアレイ)を生成することができる。スキップモードが適用された場合のように処理対象ブロックに対するレジデュアルがない場合、予測されたブロックが復元ブロックとして使用されることができる。
【0070】
加算部340は、復元部または復元ブロック生成部と呼ばれることができる。生成された復元信号は、現在ピクチャ内の次の処理対象ブロックのイントラ予測のために使用されることができ、後述するように、フィルタリングを経て出力されることもでき、または、次のピクチャのインター予測のために使用されることもできる。
【0071】
一方、ピクチャデコード過程でLMCS(luma mapping with chroma scaling)が適用されることもできる。
【0072】
フィルタリング部350は、復元信号にフィルタリングを適用して主観的/客観的画質を向上させることができる。例えば、フィルタリング部350は、復元ピクチャに多様なフィルタリング方法を適用して修正された(modified)復元ピクチャを生成することができ、前記修正された復元ピクチャをメモリ60、具体的に、メモリ360のDPBに送信できる。前記多様なフィルタリング方法は、例えば、デブロッキングフィルタリング、サンプル適応的オフセット(sample adaptive offset)、適応的ループフィルタ(adaptive loop filter)、両方向フィルタ(bilateral filter)などを含むことができる。
【0073】
メモリ360のDPBに格納された(修正された)復元ピクチャは、インター予測部331に参照ピクチャとして使用されることができる。メモリ360は、現在ピクチャ内の動き情報が導出された(または、デコードされた)ブロックの動き情報及び/又は既に復元されたピクチャ内のブロックの動き情報を格納することができる。前記格納された動き情報は、空間的隣接ブロックの動き情報または時間的隣接ブロックの動き情報として活用するためにインター予測部331に伝達できる。メモリ360は、現在ピクチャ内の復元されたブロックの復元サンプルを格納することができ、イントラ予測部332に伝達できる。
【0074】
本明細書において、デコード装置300の予測部330、逆量子化部321、逆変換部322、及びフィルタリング部350などで説明された実施例は、各々、エンコード装置200の予測部220、逆量子化部234、逆変換部235、及びフィルタリング部260などにも同一または対応されるように適用されることができる。
【0075】
一方、前述したように、ビデオコーディングを実行するにあたって圧縮効率を上げるために予測を実行する。それによって、コーディング対象ブロックである現在ブロックに対する予測サンプルを含む予測されたブロックを生成することができる。ここで、前記予測されたブロックは、空間ドメイン(または、ピクセルドメイン)での予測サンプルを含む。前記予測されたブロックは、エンコード装置及びデコード装置で同様に導出され、前記エンコード装置は、原本ブロックの原本サンプル値自体でない前記原本ブロックと前記予測されたブロックとの間のレジデュアルに関する情報(レジデュアル情報)をデコード装置にシグナリングすることで画像コーディング効率を上げることができる。デコード装置は、前記レジデュアル情報に基づいてレジデュアルサンプルを含むレジデュアルブロックを導出し、前記レジデュアルブロックと前記予測されたブロックを加算して復元サンプルを含む復元ブロックを生成することができ、復元ブロックを含む復元ピクチャを生成することができる。
【0076】
前記レジデュアル情報は、変換及び量子化手順を介して生成されることができる。例えば、エンコード装置は、前記原本ブロックと前記予測されたブロックとの間のレジデュアルブロックを導出し、前記レジデュアルブロックに含まれているレジデュアルサンプル(レジデュアルサンプルアレイ)に変換手順を実行して変換係数を導出し、前記変換係数に量子化手順を実行して量子化された変換係数を導出することで、関連したレジデュアル情報を(ビットストリームを介して)デコード装置にシグナリングすることができる。ここで、前記レジデュアル情報は、前記量子化された変換係数の値情報、位置情報、変換技法、変換カーネル、量子化パラメータなどの情報を含むことができる。デコード装置は、前記レジデュアル情報に基づいて逆量子化/逆変換手順を実行してレジデュアルサンプル(または、レジデュアルブロック)を導出できる。デコード装置は、予測されたブロックと前記レジデュアルブロックに基づいて復元ピクチャを生成することができる。また、エンコード装置は、以後ピクチャのインター予測のための参照のために量子化された変換係数を逆量子化/逆変換してレジデュアルブロックを導出し、これに基づいて復元ピクチャを生成することができる。
【0077】
例えば、イントラ予測モードは、2個の非方向性(non-directinoal)または非角度性(non-angular)イントラ予測モードと、65個の方向性(directional)または角度性(angular)イントラ予測モードと、を含むことができる。前記非方向性イントラ予測モードは、0番であるプラナー(planar)イントラ予測モード及び1番であるDCイントラ予測モードを含むことができ、前記方向性イントラ予測モードは、2番乃至66番の65個のイントラ予測モードを含むことができる。ただし、これは一例に過ぎず、本文書による実施例は、イントラ予測モードの個数が異なる場合にも適用されることができる。一方、場合によって、67番イントラ予測モードがさらに使用されることができ、前記67番イントラ予測モードは、LM(linear model)モードを示すこともできる。
【0078】
図4は、65個の予測方向のイントラ方向性モードを例示的に示す。
【0079】
図4に示すように、左上向大角予測方向を有する34番イントラ予測モードを中心に水平方向性(horizontal directionality)を有するイントラ予測モードと垂直方向性(vertical directionality)を有するイントラ予測モードとを区分することができる。図5のHとVは、各々水平方向性と垂直方向性を意味することができ、-32~32の数字は、サンプルグリッドポジション(sample grid position)上で1/32単位の変位を表すことができる。これは、モードインデックス値に対するオフセットを表すことができる。
【0080】
例えば、2番乃至33番イントラ予測モードは、水平方向性を有することができ、34番乃至66番イントラ予測モードは、垂直方向性を有することができる。一方、34番イントラ予測モードは、厳密には水平方向性も垂直方向性もないとみることができるが、2次変換の変換セットを決定する観点で水平方向性に属すると分類されることができる。その理由は、34番イントラ予測モードを中心にして対称される垂直方向モードに対しては入力データをトランスポーズ(transpose)して使用し、34番イントラ予測モードに対しては水平方向モードに対する入力データ整列方式を使用するためである。ここで、入力データをトランスポーズすることは、2次元ブロックデータM×Nに対して行が列になり、列が行になってN×Mデータを構成することを意味することができる。
【0081】
また、18番イントラ予測モード及び50番イントラ予測モードは、各々、水平イントラ予測モード(horizontal intra prediction mode)及び垂直イントラ予測モード(vertical intra prediction mode)を示すことができ、2番イントラ予測モードは、左側参照ピクセルを有して右上向の方向に予測するため、右上向対角(diagonal)イントラ予測モードと呼ばれることができ、同様に、34番イントラ予測モードは、右下向対角イントラ予測モードと呼ばれ、66番イントラ予測モードは、左下向対角イントラ予測モードと呼ばれることができる。
【0082】
図5は、シンタックス要素をエンコードするためのCABAC(context-adaptive binary arithmetic coding)を例示的に示す。
【0083】
例えば、CABACのコーディング過程でエンコード装置は、入力信号が二進値でないシンタックス要素である場合には、前記入力信号の値を二進化(binarization)して入力信号を二進値に変換できる。また、前記入力信号が既に二進値である場合(即ち、前記入力信号の値が二進値である場合)には、二進化が実行されずに、そのまま前記入力信号が利用されることができる。ここで、二進値を構成する各々の二進数0または1をbinということができる。例えば、二進化された後の二進ストリングが110である場合、1、1、及び0の各々を1つのbinと表すことができる。1つのシンタックス要素に対する前記binは、前記シンタックス要素の値を示すことができる。このような二進化は、Truncated Rice binarization processまたはFixed-length binarization processなど、多様な二進化方法に基づくことができ、対象シンタックス要素に対する二進化方法は、あらかじめ定義されることができる。前記二進化手順は、エントロピーエンコード部内の二進化部により実行されることができる。
【0084】
以後、前記シンタックス要素の二進化されたbinは、正規(regular)コーディングエンジンまたはバイパス(bypass)コーディングエンジンに入力されることができる。エンコード装置の正規コーディングエンジンは、該当binに対して確率値を反映するコンテキストモデル(context model)を割り当てることができ、割り当てられたコンテキストモデルに基づいて該当binをエンコードすることができる。エンコード装置の前記正規コーディングエンジンは、各binに対するコーディングを実行した後に該当binに対するコンテキストモデルを更新することができる。前述した内容のようにコーディングされるbinは、コンテキストコーディングされたbin(context-coded bin)と表すことができる。
【0085】
一方、前記シンタックス要素の二進化されたbinが前記バイパスコーディングエンジンに入力される場合には、次のようにコーディングされることができる。例えば、エンコード装置のバイパスコーディングエンジンは、入力されたbinに対して確率を推定する手順と、コーディング後に前記binに適用した確率モデルを更新する手順と、を省略することができる。バイパスコーディングが適用される場合、エンコード装置は、コンテキストモデルを割り当てる代わりに均一な確率分布を適用して入力されるbinをコーディングすることができ、これを介してエンコード速度を向上させることができる。前述した内容のようにコーディングされるbinは、バイパスbin(bypass bin)と表すことができる。
【0086】
エントロピーデコードは、前述したエントロピーエンコードと同じ過程を逆順に実行する過程を示すことができる。
【0087】
デコード装置(エントロピーデコード部)は、エンコードされた画像/ビデオ情報をデコードすることができる。前記画像/ビデオ情報は、パーティショニング関連情報、予測関連情報(例えば、インター/イントラ予測区分情報、イントラ予測モード情報、インター予測モード情報等)、レジデュアル情報またはインループフィルタリング関連情報などを含むことができ、またはそれに関する多様なシンタックス要素を含むことができる。前記エントロピーコーディングは、シンタックス要素単位で実行されることができる。
【0088】
デコード装置は、対象シンタックス要素に対する二進化を実行することができる。ここで、前記二進化は、Truncated Rice binarization processまたはFixed-length binarization processなど、多様な二進化方法に基づくことができ、対象シンタックス要素に対する二進化方法は、あらかじめ定義されることができる。デコード装置は、前記二進化手順を介して対象シンタックス要素の利用可能な値に対する利用可能binストリング(binストリング候補)を導出できる。前記二進化手順は、エントロピーデコード部内の二進化部により実行されることができる。
【0089】
デコード装置は、ビットストリーム内の入力ビットから前記対象シンタックス要素に対する各binを順次にデコードまたはパーシングしながら、導出されたbinストリングを該当シンタックス要素に対する利用可能binストリングと比較できる。もし、導出されたbinストリングが前記利用可能binストリングのうち1つと同じ場合、該当binストリングに対応する値が該当シンタックス要素の値として導出される。もし、それとも、前記ビットストリーム内の次のビットをさらにパーシング後、前述した手順を再び実行することができる。このような過程を介してビットストリーム内に特定情報(または、特定シンタックス要素)に対する開始ビットや終了ビットを使用することなく、可変長さビットを利用して該当情報をシグナリングすることができる。これを介して低い値に対しては相対的に少ないビットを割り当てることができ、全般的なコーディング効率を上げることができる。
【0090】
デコード装置は、CABACまたはCAVLCなどのエントロピーコーディング技法に基づいて、ビットストリームから前記binストリング内の各binをコンテキストモデルに基づいてまたはバイパスに基づいてデコードできる
【0091】
シンタックス要素がコンテキストモデルに基づいてデコードされる場合、デコード装置は、ビットストリームを介して前記シンタックス要素に該当するbinを受信することができ、前記シンタックス要素とデコード対象ブロックまたは隣接ブロックのデコード情報または以前ステップでデコードされたシンボル/binの情報を利用してコンテキストモデル(context model)を決定することができ、決定されたコンテキストモデルによって前記受信されたbinの発生確率を予測してbinの算術デコード(arithmetic decoding)を実行することで前記シンタックス要素の値を導出できる。以後、前記決定されたコンテキストモデルに基づいて、次にデコードされるbinのコンテキストモデルがアップデートされることができる。
【0092】
コンテキストモデルは、コンテキストコーディング(正規コーディング)されるbin別に割当及びアップデートされることができ、コンテキストモデルは、コンテキストインデックス(ctxIdx:context index)またはコンテキストインデックス増減(ctxInc:context index increment)に基づいて指示されることができる。ctxIdxは、ctxIncに基づいて導出されることができる。具体的に、例えば、前記正規コーディングされるbinの各々に対するコンテキストモデルを示すctxIdxは、ctxInc及びコンテキストインデックスオフセット(ctxIdxOffset:context index offset)の和として導出されることができる。例えば、前記ctxIncは、各bin別に異なるように導出されることができる。前記ctxIdxOffsetは、前記ctxIdxの最小値(the lowest value)で示される。前記ctxIdxOffsetは、一般的に他のシンタックス要素に対するコンテキストモデルとの区分のために利用される値であり、1つのシンタックス要素に対するコンテキストモデルは、ctxIncに基づいて区分または導出されることができる。
【0093】
エントロピーエンコード手順で、正規コーディングエンジンを介してエンコードを実行するか、または、バイパスコーディングエンジンを介してエンコードを実行するかが決定されることができ、これによって、コーディング経路がスイッチングされることができる。エントロピーデコードは、エントロピーエンコードと同じ過程を逆順に実行することができる。
【0094】
一方、例えば、シンタックス要素がバイパスデコードされる場合、デコード装置は、ビットストリームを介して前記シンタックス要素に該当するbinを受信することができ、均一な確率分布を適用して入力されるbinをデコードすることができる。この場合、デコード装置は、シンタックス要素のコンテキストモデルを導出する手順と、デコード以後に前記binに適用したコンテキストモデルを更新する手順と、は、省略されることができる。
【0095】
図6及び図7は、本文書に係る多重変換技法を概略的に示す。
【0096】
図6及び図7において変換部は、上述した図2のエンコード装置内の変換部に対応することができ、逆変換部は、上述した図2のエンコード装置内の逆変換部または図3のデコード装置内の逆変換部に対応することができる。
【0097】
図6に示すように、変換部は、レジデュアルブロック内のレジデュアルサンプル(レジデュアルサンプルアレイ)に基づいて1次変換を行い、(1次)変換係数を導出できる(S610)。このような1次変換(primary transform)は、核心変換(core transform)と称されることができる。ここで、前記1次変換は、多重変換選択(MTS:Multiple Transform Selection)に基づくことができ、1次変換として多重変換が適用される場合、多重核心変換と称されることができる。
【0098】
例えば、多重核心変換は、DCT(Discrete Cosine Transform)タイプ2(DCT-II)、DST(Discrete Sine Transform)タイプ7(DST-VII)、DCTタイプ8(DCT-VIII)及び/又はDSTタイプ1(DST-I)を追加的に使用して変換する方式を示すことができる。即ち、前記多重核心変換は、前記DCTタイプ2、前記DSTタイプ7、前記DCTタイプ8、及び前記DSTタイプ1の中から選択された複数の変換カーネルに基づいて、空間ドメインのレジデュアル信号(または、レジデュアルブロック)を周波数ドメインの変換係数(または、1次変換係数)に変換する変換方法を示すことができる。ここで、前記1次変換係数は、変換部側で臨時変換係数と呼ばれることができる。
【0099】
即ち、既存の変換方法が適用される場合、DCTタイプ2に基づいてレジデュアル信号(または、レジデュアルブロック)に対する空間ドメインから周波数ドメインへの変換が適用されて変換係数が生成されることができる。ただし、これと違って、前記多重核心変換が適用される場合、DCTタイプ2、DSTタイプ7、DCTタイプ8及び/又はDSTタイプ1などに基づいて、レジデュアル信号(または、レジデュアルブロック)に対する空間ドメインから周波数ドメインへの変換が適用されて変換係数(または、1次変換係数)が生成されることができる。ここで、DCTタイプ2、DSTタイプ7、DCTタイプ8、及びDSTタイプ1等は、変換タイプ、変換カーネル(kernel)または変換コア(core)と呼ばれることができる。このようなDCT/DST変換タイプは、基底関数に基づいて定義されることができる。
【0100】
前記多重核心変換が実行される場合、前記変換カーネルの中から対象ブロックに対する垂直変換カーネル及び/又は水平変換カーネルが選択されることができ、前記垂直変換カーネルに基づいて前記対象ブロックに対する垂直変換が実行され、前記水平変換カーネルに基づいて前記対象ブロックに対する水平変換が実行されることができる。ここで、前記水平変換は、前記対象ブロックの水平成分に対する変換を示すことができ、前記垂直変換は、前記対象ブロックの垂直成分に対する変換を示すことができる。前記垂直変換カーネル/水平変換カーネルは、レジデュアルブロックを含む対象ブロック(CUまたはサブブロック)の予測モード及び/又は変換インデックスに基づいて適応的に決定されることができる。
【0101】
または、例えば、MTSを適用して1次変換を実行する場合、特定基底関数を所定値に設定し、垂直変換または水平変換である時、どのような基底関数が適用されるかを組み合わせて変換カーネルに対するマッピング関係を設定することができる。例えば、水平方向変換カーネルをtrTypeHorで表し、垂直方向変換カーネルをtrTypeVerで表す場合、0の値を有するtrTypeHorまたはtrTypeVerは、DCT2に設定されることができ、1の値を有するtrTypeHorまたはtrTypeVerは、DST7に設定されることができる。2の値を有するtrTypeHorまたはtrTypeVerは、DCT8に設定されることができる。
【0102】
または、例えば、複数の変換カーネルセットのうち、いずれか1つを指示するために、MTSインデックス(index)がエンコードされてMTSインデックス情報がデコード装置にシグナリングされることができる。ここで、MTSインデックスは、tu_mts_idxシンタックス要素またはmts_idxシンタックス要素と表すことができる。例えば、MTSインデックスが0である場合、trTypeHor及びtrTypeVer値が共に0であることを表すことができ、(trTypeHor、trTypeVer)=(DCT2、DCT2)になることができる。MTSインデックスが1である場合、trTypeHor及びtrTypeVer値が共に1であることを表すことができ、(trTypeHor、trTypeVer)=(DST7、DST7)になることができる。MTSインデックスが2である場合、trTypeHor値は2であり、trTypeVer値は1であることを表すことができ、(trTypeHor、trTypeVer)=(DCT8、DST7)になることができる。MTSインデックスが3である場合、trTypeHor値は1であり、trTypeVer値は2であることを表すことができ、(trTypeHor、trTypeVer)=(DST7、DCT8)になることができる。MTSインデックスが4である場合、trTypeHor及びtrTypeVer値が共に2であることを表すことができ、(trTypeHor、trTypeVer)=(DCT8、DCT8)になることができる。例えば、MTSインデックスによる変換カーネルセットは、次の表のように表すことができる。
【0103】
【表1】
【0104】
変換部は、前記(1次)変換係数に基づいて2次変換を行い、修正された(2次)変換係数を導出できる(S620)。前記1次変換は、空間ドメインから周波数ドメインへの変換であり、前記2次変換は、(1次)変換係数の間に存在する相関関係(correlation)を利用してより圧縮的な表現に変換することを表すことができる。
【0105】
例えば、前記2次変換は、非分離変換(non-separable transform)を含むことができる。この場合、前記2次変換は、非分離2次変換(non-separable secondary transform、NSST)またはMDNSST(mode-dependent non-separable secondary transform)と呼ばれることができる。前記非分離2次変換は、前記1次変換を介して導出された(1次)変換係数を非分離変換マトリクス(non-separable transform matrix)に基づいて2次変換してレジデュアル信号に対する修正された変換係数(または、2次変換係数)を生成する変換を示すことができる。ここで、前記非分離変換マトリクスに基づいて前記(1次)変換係数に対して垂直変換及び水平変換を分離して(または、水平変換及び垂直変換を独立的に)適用せずに、一度に変換を適用することができる。
【0106】
即ち、前記非分離2次変換は、前記(1次)変換係数の垂直成分及び水平成分を分離することなく、例えば、2次元信号(変換係数)を特定の決められた方向(例えば、行優先(row-first)方向または列優先(column-first)方向)を介して1次元信号に再整列した後、前記非分離変換マトリクスに基づいて修正された変換係数(または、2次変換係数)を生成する変換方法を示すことができる。
【0107】
例えば、行優先方向(または、順序)は、M×Nブロックに対して1番目の行、2番目の行、...、N番目の行の順序によって一列に配置することを示すことができ、列優先方向(または、順序)は、M×Nブロックに対して1番目の列、2番目の列、...、M番目の列の順序によって一列に配置することを示すことができる。ここで、M及びNは、各々、ブロックの幅(W)及び高さ(H)を示すことができ、全て正の整数である。
【0108】
例えば、前記非分離2次変換は、(1次)変換係数で構成されたブロック(以下、変換係数ブロックという)の左上段(top-left)領域に対して適用されることができる。例えば、前記変換係数ブロックの幅(W)及び高さ(H)が全て8以上である場合、8×8非分離2次変換が前記変換係数ブロックの左上段8×8領域に対して適用されることができる。また、前記変換係数ブロックの幅(W)及び高さ(H)が全て4以上であり、かつ前記変換係数ブロックの幅(W)または高さ(H)が8より小さい場合、4×4非分離2次変換が前記変換係数ブロックの左上段min(8、W)×min(8、H)領域に対して適用されることができる。ただし、実施例は、これに限定されるものではなく、例えば、前記変換係数ブロックの幅(W)または高さ(H)が全て4以上である条件のみ満たしても、4×4非分離2次変換が前記変換係数ブロックの左上段min(8、W)×min(8、H)領域に対して適用されることもできる。
【0109】
具体的に、例えば、4×4入力ブロックが使用される場合、非分離2次変換は、下記のように実行されることができる。
【0110】
前記4×4入力ブロックXは、以下のように示される。
【0111】
【数1】
【0112】
例えば、前記Xのベクトル形態は、以下のように示される。
【0113】
【数2】
【0114】
数式2を参照すると、
は、ベクトルXを示すことができ、行優先(row-first)順序によって数式1のXの2次元ブロックを1次元ベクトルに再配列して示される。
【0115】
この場合、前記2次非分離変換は、以下のように計算されることができる。
【0116】
【数3】
【0117】
ここで、
は、変換係数ベクトルを示すことができ、Tは、16×16(非分離)変換マトリクスを示すことができる。
【0118】
前記数式3に基づいて16×1サイズの
が導出されることができ、前記
は、スキャン順序(水平、垂直または対角(diagonal)等)を介して4×4ブロックで再構成(re-organized)されることができる。ただし、前述した計算は、一例に過ぎず、非分離2次変換の計算複雑度を減らすためにHyGT(Hypercube-Givens Transform)などが非分離2次変換の計算のために使用されることもできる。
【0119】
一方、前記非分離2次変換は、モードベース(mode dependent)の変換カーネル(または、変換コア、変換タイプ)が選択されることもできる。ここで、モードは、イントラ予測モード及び/又はインター予測モードを含むことができる。
【0120】
例えば、前述したように、前記非分離2次変換は、前記変換係数ブロックの幅(W)及び高さ(H)に基づいて決定された8×8変換または4×4変換に基づいて実行されることができる。例えば、8×8変換は、W及びHが全て8と同じまたは大きい場合、該当変換係数ブロックの内部に含まれている8×8領域に適用されることができる変換を示すことができ、前記8×8領域は、該当変換係数ブロックの内部の左上段8×8領域である。また、これと類似するように、4×4変換は、W及びHが全て4と同じまたは大きい場合、該当変換係数ブロックの内部に含まれている4×4領域に適用されることができる変換を示すことができ、前記4×4領域は、該当変換係数ブロックの内部の左上段4×4領域である。例えば、8×8変換カーネルマトリクスは、64×64/16×64行列になることができ、4×4変換カーネルマトリクスは、16×16/8×16行列になることができる。
【0121】
このとき、モードベースの変換カーネル選択のために、8×8変換及び4×4変換の両方ともに対して非分離2次変換のための変換セット当たり2個ずつの非分離2次変換カーネルが構成されることができ、変換セットは、4個である。即ち、8×8変換に対して4個の変換セットが構成されることができ、4×4変換に対して4個の変換セットが構成されることができる。この場合、8×8変換に対する4個の変換セットには各々2個ずつの8×8変換カーネルが含まれることができ、4×4変換に対する4個の変換セットには各々2個ずつの4×4変換カーネルが含まれることができる。
【0122】
ただし、前記変換のサイズ、前記セットの個数、及びセット内の変換カーネルの個数は、一例に過ぎず、8×8または4×4以外のサイズが使用されることもでき、または、n個のセットが構成されることもでき、各セット内にk個の変換カーネルが含まれることもできる。ここで、n及びkは、各々、正の整数である。
【0123】
例えば、前記変換セットは、NSSTセットと呼ばれることができ、前記NSSTセット内の変換カーネルは、NSSTカーネルと呼ばれることができる。例えば、前記変換セットの中からの特定セットの選択は、対象ブロック(CUまたはサブブロック)のイントラ予測モードに基づいて実行されることができる。
【0124】
一方、非分離変換に特定セットが使用されると決定されると、非分離2次変換インデックスを介して前記特定セット内のk個の変換カーネルの中から1つが選択されることができる。例えば、エンコード装置は、RD(rate-distortion)チェックに基づいて特定変換カーネルを示す非分離2次変換インデックスを導出でき、前記非分離2次変換インデックスをデコード装置にシグナリングできる。例えば、デコード装置は、前記非分離2次変換インデックスに基づいて特定セット内のk個の変換カーネルの中から1つを選択することができる。例えば、0の値を有するNSSTインデックスは、1番目の非分離2次変換カーネルを示すことができ、1の値を有するNSSTインデックスは、2番目の非分離2次変換カーネルを示すことができ、2の値を有するNSSTインデックスは、3番目の非分離2次変換カーネルを示すことができる。または、0の値を有するNSSTインデックスは、対象ブロックに対して1番目の非分離2次変換が適用されないことを示すことができ、1乃至3の値を有するNSSTインデックスは、前記3個の変換カーネルを指すことができる。
【0125】
変換部は、選択された変換カーネルに基づいて前記非分離2次変換を実行し、修正された(2次)変換係数を取得することができる。前記修正された変換係数は、前述したように、量子化部を介して量子化された変換係数として導出されることができ、エンコードされてデコード装置にシグナリング及びエンコード装置内の逆量子化/逆変換部に伝達されることができる。
【0126】
一方、前述したように、2次変換が省略される場合、前記1次(分離)変換の出力である(1次)変換係数が、前述したように、量子化部を介して量子化された変換係数として導出されることができ、エンコードされてデコード装置にシグナリング及びエンコード装置内の逆量子化/逆変換部に伝達されることができる。
【0127】
図7に示すように、逆変換部は、上述した変換部で行われた手順の逆順に一連の手順を行うことができる。逆変換部は、(逆量子化された)変換係数を受信し、2次(逆)変換を行って(1次)変換係数を導出し(S750)、前記(1次)変換係数に対して1次(逆)変換を行ってレジデュアルブロック(レジデュアルサンプル)を取得できる(S760)。ここで、前記1次変換係数は、逆変換部側で修正された(modified)変換係数と呼ばれることができる。エンコード装置及び/又はデコード装置は、前記レジデュアルブロックと予測されたブロックとに基づいて復元ブロックを生成でき、これに基づいて復元ピクチャを生成できることは、上述したとおりである。
【0128】
一方、デコード装置は、2次逆変換適用可否決定部(または、2次逆変換の適用可否を決定する要素)及び2次逆変換決定部(または、2次逆変換を決定する要素)をさらに含むこともできる。例えば、2次逆変換適用可否決定部は、2次逆変換の適用可否を決定することができる。例えば、2次逆変換は、NSSTまたはRSTであり、2次逆変換適用可否決定部は、ビットストリームからパーシングまたは取得した2次変換フラグに基づいて2次逆変換の適用可否を決定することができる。または、例えば、2次逆変換適用可否決定部は、レジデュアルブロックの変換係数に基づいて2次逆変換の適用可否を決定することもできる。
【0129】
2次逆変換決定部は、2次逆変換を決定することができる。このとき、2次逆変換決定部は、イントラ予測モードによって指定されたNSST(または、RST)変換セットに基づいて現在ブロックに適用される2次逆変換を決定することができる。または、1次変換決定方法に依存的に(dependon)2次変換決定方法が決定されることもできる。または、イントラ予測モードによって1次変換及び2次変換の多様な組み合わせが決定されることができる。例えば、2次逆変換決定部は、現在ブロックの大きさに基づいて2次逆変換が適用される領域を決定することもできる。
【0130】
一方、前述したように、2次(逆)変換が省略される場合、(逆量子化された)変換係数を受信して前記1次(分離)逆変換を実行することでレジデュアルブロック(レジデュアルサンプル)を取得することができる。エンコード装置及び/またはデコード装置は、前記レジデュアルブロックと予測されたブロックに基づいて復元ブロックを生成することができ、これに基づいて復元ピクチャを生成することができることは、前述した通りである。
【0131】
一方、本文書では非分離2次変換による計算量とメモリ要求量の低減のために、NSSTの概念で変換マトリクス(カーネル)の大きさが減少されたRST(reduced secondary transform)を適用することができる。
【0132】
本文書において、RSTは、簡素化ファクタ(factor)によって大きさが減少された変換マトリクス(transform matrix)に基づいて対象ブロックに対するレジデュアルサンプルに対して実行される(簡素化)変換を意味することができる。これを実行する場合、変換マトリクスの大きさ減少によって変換時に要求される演算量が減少されることができる。即ち、RSTは、大きさが大きいブロックの変換または非分離変換時に発生する演算複雑度(complexity)問題を解消するために利用されることができる。
【0133】
例えば、RSTは、減少された変換(reduced transform)、減少された2次変換(reduced secondary transform)、減少変換(reduction transform)、簡素化した変換(simplified transform)または簡素化変換(simple transform)等、多様な用語で呼ばれることができ、RSTが呼ばれる名称は、羅列された例示に限定されるものではない。または、RSTは、主に変換ブロックで0にない係数を含む低周波領域で行われるため、LFNST(Low-Frequency Non-Separable Transform)と呼ばれることができる。
【0134】
一方、2次逆変換がRSTに基づいて行われる場合、エンコード装置200の逆変換部235とデコード装置300の逆変換部322は、変換係数に対する逆RSTに基づいて修正された変換係数を導出する逆RST部と、修正された変換係数に対する逆1次変換に基づいて前記対象ブロックに対するレジデュアルサンプルを導出する逆1次変換部と、を含むことができる。逆1次変換は、レジデュアルに適用された1次変換の逆変換を意味する。本文書において、変換に基づいて変換係数を導出することは、該当変換を適用して変換係数を導出することを意味することができる。
【0135】
図8及び図9は、本文書の一実施形態に係るRSTを説明するための図である。
【0136】
例えば、図8は、正方向減少された変換(forward reducedtransform)が適用されることを説明するための図であることができ、図9は、逆方向減少された変換(inverse reduced transform)が適用されることを説明するための図であることができる。本文書において対象ブロックは、コーディングが行われる現在ブロック、レジデュアルブロック、または変換ブロックを表すことができる。
【0137】
例えば、RSTではN次元ベクトル(N dimensional vector)が異なる空間に位置したR次元ベクトル(R dimensional vector)にマッピングされて減少された変換マトリクスが決定されることができる。ここで、N及びRは、各々、正の整数であり、Rは、Nより小さい。Nは、変換が適用されるブロックの一辺の長さ(length)の自乗または変換が適用されるブロックと対応される変換係数の総個数を意味することができ、簡素化ファクタは、R/N値を意味することができる。簡素化ファクタは、減少されたファクタ(reduced factor)、減少ファクタ(reduction factor)、簡素化したファクタ(simplified factor)または簡素化ファクタ(simple factor)等、多様な用語で呼ばれることができる。一方、Rは、減少された係数(reduced coefficient)で呼ばれることができるが、場合によっては、簡素化ファクタがRを意味することもできる。また、場合によって、簡素化ファクタは、N/R値を意味することもできる。
【0138】
例えば、簡素化ファクタまたは減少された係数は、ビットストリームを介してシグナリングされることができるが、これに限定されるものではない。例えば、簡素化ファクタまたは減少された係数に対する既に定義された値が各エンコード装置200及びデコード装置300に格納されている場合があり、この場合、簡素化ファクタまたは減少された係数は、別途にシグナリングされない。
【0139】
例えば、簡素化変換マトリクスのサイズ(R×N)は、通常の変換マトリクスのサイズ(N×N)より小さく、以下の数式のように定義されることができる。
【0140】
【数4】
【0141】
例えば、図8に示された減少された変換(reduced transform)ブロック内のマトリックスTは、数式4のマトリックスTRxNを表すことができる。図8のように、対象ブロックに対するレジデュアルサンプルに対して簡素化変換マトリックスTRxNが掛けられる場合、対象ブロックに対する変換係数が導出され得る。
【0142】
例えば、変換が適用されるブロックのサイズが8×8であり、Rが16である場合(すなわち、R/N=16/64=1/4)、図8によるRSTは、下記の数式5のような行列演算で表現されることができる。この場合、メモリと乗算演算が簡素化ファクタによってほぼ1/4に減少することができる。
【0143】
本文書において、行列演算とは、行列を列ベクトルの左側に置き、行列と列ベクトルを掛け算して列ベクトルを得る演算として理解されることができる。
【0144】
【数5】
【0145】
数式5において、r乃至r64は、対象ブロックに対するレジデュアルサンプルを示すことができる。または、例えば、1次変換を適用して生成された変換係数である。数式5の演算結果に基づいて対象ブロックに対する変換係数cが導出されることができる。
【0146】
例えば、Rが16である場合、対象ブロックに対する変換係数c乃至c16が導出されることができる。もし、RSTではなく、通常の(regular)変換が適用され、サイズが64×64(N×N)である変換マトリクスが、サイズが64×1(N×1)であるレジデュアルサンプルに掛け算された場合、対象ブロックに対する変換係数が64個(N個)導出されるが、RSTが適用されたため、対象ブロックに対する変換係数が16個(R個)のみ導出される。対象ブロックに対する変換係数の総個数がN個からR個に減少してエンコード装置200がデコード装置300に送信するデータの量が減少するため、エンコード装置200とデコード装置300との間の送信効率が増加できる。
【0147】
変換マトリクスのサイズ観点を考慮すると、通常の変換マトリクスのサイズは、64×64(N×N)であり、それに対して、簡素化変換マトリクスのサイズは、16×64(R×N)に減少するため、通常の変換を実行する時と比較すると、RSTを実行する時にメモリ使用をR/N割合で減少させることができる。また、通常の変換マトリクスを利用する時の掛け算演算数N×Nと比較すると、簡素化変換マトリクスを利用する場合、掛け算演算数をR/N割合で減少(R×N)させることができる。
【0148】
一実施例において、エンコード装置200の変換部232は、対象ブロックに対するレジデュアルサンプルを1次変換及びRSTベースの2次変換を実行することによって対象ブロックに対する変換係数を導出できる。このような変換係数は、デコード装置300の逆変換部に伝達されることができ、デコード装置300の逆変換部322は、変換係数に対する逆RST(reduced secondary transform)に基づいて修正された変換係数を導出し、修正された変換係数に対する逆1次変換に基づいて対象ブロックに対するレジデュアルサンプルを導出できる。
【0149】
一実施例による逆RSTマトリクスTN×Rのサイズは、通常の逆変換マトリクスのサイズN×Nより小さいN×Rであり、数式4に示す簡素化変換マトリクスTR×Nとトランスポーズ(transpose)関係にある。
【0150】
図9に示された減少された逆変換(reduced inverse transform)ブロック内のマトリックスTは、逆RSTマトリックスTRxN を表すことができる。ここで、上付きTは、トランスポーズを表すことができる。図9のように、対象ブロックに対する変換係数に対して逆RSTマトリックスTRxN が掛けられる場合、対象ブロックに対する修正された変換係数または対象ブロックに対するレジデュアルサンプルが導出され得る。逆RSTマトリックスTRxN は、(TRxN NxRで表現することもできる。
【0151】
より具体的に、2次逆変換で逆RSTが適用される場合には、対象ブロックに対する変換係数に対して逆RSTマトリクスTR×N が掛け算されると、対象ブロックに対する修正された変換係数が導出されることができる。一方、逆1次変換で逆RSTが適用されることができ、この場合、対象ブロックに対する変換係数に対して逆RSTマトリクスTR×N が掛け算されると、対象ブロックに対するレジデュアルサンプルが導出されることができる。
【0152】
一実施例において、逆変換が適用されるブロックのサイズが8×8であり、Rが16である場合(即ち、R/N=16/64=1/4)、図7によるRSTは、以下の数式6のような行列演算で表現されることができる。
【0153】
【数6】
【0154】
数式6において、c乃至c16は、対象ブロックに対する変換係数を示すことができる。数式6の演算結果に基づいて対象ブロックに対する修正された変換係数または対象ブロックに対するレジデュアルサンプルを示すrが導出されることができる。即ち、対象ブロックに対する修正された変換係数または対象ブロックに対するレジデュアルサンプルを示すr乃至rが導出されることができる。
【0155】
逆変換マトリクスのサイズ観点を考慮すると、通常の逆変換マトリクスのサイズは、64×64(N×N)であり、それに対して、簡素化逆変換マトリクスのサイズは、64×16(N×R)に減少するため、通常の逆変換を実行する時と比較すると、逆RSTを実行する時にメモリ使用をR/N割合で減少させることができる。また、通常の逆変換マトリクスを利用する時の掛け算演算数N×Nと比較すると、簡素化逆変換マトリクスを利用する場合、掛け算演算数をR/N割合で減少(N×R)させることができる。
【0156】
一方、8×8RSTに対しても変換セットを構成して適用できる。即ち、変換セットによって該当8×8RSTが適用されることができる。1つの変換セットは、画面内の予測モードによって2個または3個の変換カーネルで構成されているため、2次変換を適用しない場合まで含んで最大4個の変換の中から1つを選択するように構成されることができる。2次変換を適用しない時の変換は、恒等行列が適用されたと見なされる。4個の変換に対して各々0、1、2または3のインデックスを付与するとした時(例えば、0番インデックスを恒等行列、即ち、2次変換を適用しない場合に割り当てることができる)、NSSTインデックスというシンタックス要素(syntax element)を変換係数ブロック毎にシグナリングして適用される変換を指定することができる。即ち、NSSTインデックスを介して8×8左上段ブロックに対して、8×8NSSTを指定することができ、RST構成では8×8RSTを指定することができる。8×8NSST及び8×8RSTは、変換の対象になる対象ブロックのW及びHが全て8と同じまたは大きい場合、該当変換係数ブロックの内部に含まれている8×8領域に適用されることができる変換を示すことができ、前記8×8領域は、該当変換係数ブロックの内部の左上段8×8領域である。また、これと類似するように、4×4NSST及び4×4RSTは、対象ブロックのW及びHが全て4と同じまたは大きい場合、該当変換係数ブロックの内部に含まれている4×4領域に適用されることができる変換を示すことができ、前記4×4領域は、該当変換係数ブロックの内部の左上段4×4領域である。
【0157】
一方、例えば、エンコード装置は、指数ゴロム(exponential Golomb)、CAVLC(context-adaptive variable length coding)またはCABAC(context-adaptive binary arithmetic coding)などのような多様なコーディング方法に基づいてシンタックス要素の値またはレジデュアルに関する変換係数の量子化された値などをエンコードしてビットストリームを導出できる。また、デコード装置は、指数ゴロム符号化、CAVLCまたはCABACなどのような多様なコーディング方法に基づいてビットストリームをデコードし、画像復元に必要なシンタックス要素の値またはレジデュアルに関する変換係数の量子化された値などを導出できる。
【0158】
一方、本文書の一実施形態は、MTSインデックスをシグナリングする方案を提案できる。ここで、MTSインデックスは、上述したように、複数の変換カーネルセットのうち、いずれか1つを表すことができ、MTSインデックスがエンコードされてMTSインデックス情報がデコード装置にシグナリングされることができ、デコード装置でMTSインデックス情報をデコードしてMTSインデックスを取得し、MTSインデックスに基づいて適用される変換カーネルセットを判断できる。MTSインデックスは、tu_mts_idxシンタックス要素またはmts_idxシンタックス要素と表すこともできる。例えば、MTSインデックスは、Rice-Golmb parameter 0次を使用して二進化されることができるが、Truncated Riceに基づいて二進化されることもできる。Truncated Riceに基づいて二進化される場合、入力パラメータであるcMaxは、4の値を有することができ、cRiceParamは、0の値を有することができる。例えば、エンコード装置は、MTSインデックスを二進化してMTSインデックスに対するビン(等)を導出し、導出したビン(等)をエンコードしてMTSインデックス情報(MTSインデックスに対するビット(等)を導出し、MTSインデックス情報をデコード装置にシグナリングすることができる。デコード装置は、MTSインデックス情報をデコードしてMTSインデックスに対するビン(等)を導出し、導出したMTSインデックスに対するビン(等)とMTSインデックスに対する候補ビン(等)とを比較してMTSインデックスを導出できる。
【0159】
例えば、MTSインデックス(例えば、tu_mts_idxシンタックス要素またはmts_idxシンタックス要素)は、全てのビンに対してコンテキストモデルまたはコンテキストインデックスに基づいてコンテキストコーディングされることができる。この場合、MTSインデックスのコンテキストコーディングのためのコンテキストインデックス増加(ctxInc:context index increment)またはビン位置によるctxIncは、表2のように割当または決定されることができる。または、表2のように、ビン位置によってコンテキストモデルが選択され得る。
【0160】
【表2】
【0161】
表2を参照すれば、0番ビン(1番目のビン)に対するctxIncは、cqtDepthに基づいて割り当てられることができる。ここで、cqtDepthは、現在ブロックに対するクアッドツリーデプス(quad-tree depth)を表すことができ、0~5のうち1つの値に導出されることができる。すなわち、0番目のビンに対するctxIncは、cqtDepthによって0~5のうち1つの値に割り当てられることができる。また、1番ビン(2番目のビン)に対するctxIncは、6が割り当てられることができ、2番ビン(3番目のビン)に対するctxIncは、7が割り当てられることができ、3番ビン(4番目のビン)に対するctxIncは、8が割り当てられることができる。すなわち、0番ビンないし3番ビンは、互いに異なる値のctxIncを割り当てられることができる。ここで、互いに異なるctxInc値は、互いに異なる文脈モデルを表すことができ、この場合、MTSインデックスのコーディングのための文脈モデルが9個になることができる。
【0162】
または、例えば、MTSインデックス(例えば、tu_mts_idxシンタックス要素またはmts_idxシンタックス要素)は、表3のように、全てのビンに対してバイパスコーディングされることもできる。この場合、MTSインデックスのコーディングのための文脈モデルが0個になることができる。
【0163】
【表3】
【0164】
または、例えば、MTSインデックス(例えば、tu_mts_idxシンタックス要素またはmts_idxシンタックス要素)は、表4のように、0番ビン(1番目のビン)に対してコンテキストモデルまたはコンテキストインデックスに基づいてコンテキストコーディングされることができ、残りのビンに対してバイパスコーディングされることもできる。すなわち、0番ビン(1番目のビン)に対するctxIncは、0が割り当てられることができる。この場合、MTSインデックスのコーディングのための文脈モデルが1個になることができる。
【0165】
【表4】
【0166】
または、例えば、MTSインデックス(例えば、tu_mts_idxシンタックス要素またはmts_idxシンタックス要素)は、表5のように、0番ビン(1番目のビン)及び1番ビン(2番目のビン)に対してコンテキストモデルまたはコンテキストインデックスに基づいてコンテキストコーディングされることができ、残りのビンに対してバイパスコーディングされることもできる。すなわち、0番ビン(1番目のビン)に対するctxIncは、0が割り当てられることができ、1番ビン(2番目のビン)に対するctxIncは、1が割り当てられることができる。この場合、MTSインデックスのコーディングのための文脈モデルが2個になることができる。
【0167】
【表5】
【0168】
または、例えば、MTSインデックス(例えば、tu_mts_idxシンタックス要素またはmts_idxシンタックス要素)は、表6のように、全てのビンに対してコンテキストモデルまたはコンテキストインデックスに基づいてコンテキストコーディングされることができ、各ビンに対して1個のctxIncを割り当てることができる。すなわち、0番ビン(1番目のビン)に対するctxIncは、0が割り当てられることができ、1番ビン(2番目のビン)に対するctxIncは、1が割り当てられることができる。2番ビン(3番目のビン)に対するctxIncは、2が割り当てられることができ、3番ビン(4番目のビン)に対するctxIncは、2が割り当てられることができる。この場合、MTSインデックスのコーディングのための文脈モデルが4個になることができる。
【0169】
【表6】
【0170】
上述したように、一実施形態は、MTSインデックスのビンのうち全部または一部にバイパスコーディングを適用するか、コンテキストコーディングを適用しても、特定値をctxIncに適用して文脈モデルの個数を減らすことにより複雑度が低くなり、デコーダの出力量が増加されるという効果がありうる。また、一実施形態は、上述したように文脈モデルを使用する場合、各ビンの位置に対する発生統計に基づいて初期値及び/又は多重ウィンドウの大きさは、可変的であることもできる。
【0171】
図10及び図11は、本文書の実施形態(等)に係るビデオ/画像エンコード方法及び関連コンポーネントの一例を概略的に示す。
【0172】
図10において開示された方法は、図2または図11において開示されたエンコード装置によって行われることができる。具体的に、例えば、図10のS1000ないしS1010は、図11の前記エンコード装置のレジデュアル処理部230によって行われることができ、図10のS1020は、図11の前記エンコード装置のエントロピーエンコード部240によって行われることができる。また、図10において図示しなかったが、図11において前記エンコード装置の予測部220によって予測サンプルまたは予測関連情報を導出でき、前記エンコード装置のレジデュアル処理部230によって原本サンプルまたは予測サンプルからレジデュアル情報が導出され得るし、前記エンコード装置のエントロピーエンコード部240によってレジデュアル情報または予測関連情報からビットストリームが生成され得る。図10において開示された方法は、本文書において上述した実施形態を含むことができる。
【0173】
図10に示すように、エンコード装置は、現在ブロックに対するレジデュアルサンプルを導出する(S1000)。例えば、エンコード装置は、予測サンプル及び原本サンプルに基づいてレジデュアルサンプルを導出できる。図10において図示していないが、エンコード装置は、現在ブロックに対する予測サンプルを生成するために、RD(rate distortion)コスト(cost)を考慮して現在ブロックにイントラ予測またはインター予測を行うことができ、予測モード/タイプ情報を含む予測関連情報を生成できる。
【0174】
エンコード装置は、レジデュアルサンプルに基づいて現在ブロックに対するレジデュアル情報を生成する(S1010)。例えば、エンコード装置は、レジデュアルサンプルに基づいて現在ブロックに対する変換係数を導出でき、変換係数に基づいてレジデュアル情報を生成できる。例えば、エンコード装置は、前記レジデュアルサンプルに変換を行って前記変換係数を導出できる。ここで、変換は、変換カーネルまたは変換カーネルセットに基づいて行われることができる。例えば、変換カーネルセットは、水平方向変換カーネル及び垂直方向変換カーネルを含むことができる。例えば、エンコード装置は、レジデュアルサンプルに1次変換を行って変換係数を導出できる。または、例えば、エンコード装置は、レジデュアルサンプルに1次変換を行って臨時変換係数を導出し、臨時変換係数に2次変換を行って前記変換係数を導出することもできる。例えば、前記変換カーネルセットに基づいて行う変換は、1次変換を表すことができる。
【0175】
例えば、レジデュアル情報は、MTSインデックス及び/又は変換係数に関する情報を含むことができる。エンコード装置は、変換係数に基づいてMTSインデックス及び/又は変換係数に関する情報を生成できる。
【0176】
MTSインデックスは、変換カーネルセット候補のうち、現在ブロック(の変換係数)に適用された変換カーネルセットを表すことができる。ここで、MTSインデックスは、tu_mts_idxシンタックス要素またはmts_idxシンタックス要素と表すこともできる。上述したように、変換カーネルセットは、水平方向変換カーネル及び垂直方向変換カーネルを含むことができ、水平方向変換カーネルは、trTypeHorと表すことができ、垂直方向変換カーネルは、trTypeVerと表すことができる。
【0177】
例えば、現在ブロック(の変換係数)に適用された水平方向変換カーネル及び垂直方向変換カーネルによりtrTypeHor及びtrTypeVerの値が表されることができ、trTypeHor及びtrTypeVerの値によりMTSインデックスが0~4を含む候補のうち1つで表されることができる。
【0178】
例えば、MTSインデックスが0である場合、trTypeHor及びtrTypeVerが共に0であることを表すことができる。または、MTSインデックスが1である場合、trTypeHor及びtrTypeVerが共に1であることを表すことができる。または、MTSインデックスが2である場合、trTypeHorが2であり、trTypeVerが1であることを表すことができる。MTSインデックスが3である場合、trTypeHorが1であり、trTypeVerが1であることを表すことができる。または、MTSインデックスが4である場合、trTypeHor及びtrTypeVerは共に2であることを表すことができる。例えば、trTypeHorまたはtrTypeVerの値が0である場合、現在ブロック(の変換係数)に水平方向または垂直方向としてDCT2が適用されたことを表すことができ、1である場合、DST7が適用されたことを表すことができ、2である場合、DCT8が適用されたことを表すことができる。すなわち、前記水平方向として適用する変換カーネル及び前記垂直方向として適用する変換カーネルの各々は、前記MTSインデックスに基づいてDCT2、DST7、及びDCT8を含む候補のうち1つで表されることができる。
【0179】
MTSインデックスは、MTSインデックスのビンストリングのビンに基づいて表されることができる。言い換えれば、MTSインデックスは、二進化されてMTSインデックスのビンストリング(のビン)で表されることができ、MTSインデックスのビンストリング(のビン)は、エントロピーエンコードされることができる。
【0180】
言い換えれば、MTSインデックスのビンストリングのビンのうち、少なくとも1つのビンは、コンテキストコーディングに基づいて表されることができる。ここで、コンテキストコーディングは、コンテキストインデックス増加(ctxInc)の値に基づいて行われることができる。または、コンテキストコーディングは、コンテキストインデックス(ctxIdx)またはコンテキストモデルに基づいて行われることができる。ここで、コンテキストインデックスは、コンテキストインデックス増加の値に基づいて表されることができる。または、コンテキストインデックスは、コンテキストインデックス増加の値及びコンテキストインデックスオフセット(ctxIdxOffset)に基づいて表されることもできる。
【0181】
例えば、MTSインデックスのビンストリングのビンの全てがコンテキストコーディングに基づいて表されることができる。例えば、MTSインデックスのビンストリングのビンのうち、1番目のビンまたは0番ビン(bin 0)に対するctxIncは、cqtDepthに基づいて表されることができる。ここで、cqtDepthは、現在ブロックに対するクアッドツリーデプス(quad-tree depth)を表すことができ、0~5のうち1つの値で表されることができる。また、2番目のビンまたは1番ビン(bin 1)に対するctxIncは、6に表されることができ、3番目のビンまたは2番ビン(bin 2)に対するctxIncは、7に表されることができ、4番目のビンまたは3番ビン(bin 3)に対するctxIncは、8に表されることができる。または、例えば、MTSインデックスのビンストリングのビンのうち、1番目のビンまたは0番ビン(bin 0)に対するctxIncは、0に表されることができ、2番目のビンまたは1番ビン(bin 1)に対するctxIncは、1に表されることができ、3番目のビンまたは2番ビン(bin 2)に対するctxIncは、2に表されることができ、4番目のビンまたは3番ビン(bin 3)に対するctxIncは、3に表されることができる。すなわち、前記ビンストリングのビンのうち、1番目のビンのコンテキストコーディングのために使用されることができるコンテキストインデックス増加の値の個数は、1個であることができる。または、前記MTSインデックスの前記ビンストリングは、最大4個のビンを含み、前記4個のビンのうち、コンテキストコーディングにより表わされるビンに割り当てられるコンテキストインデックス増加の値の個数は、1個であることができる。
【0182】
または、例えば、MTSインデックスのビンストリングのビンのうち一部がコンテキストコーディングに基づいて表わされ、残りは、バイパスコーディングに基づいて表されることもできる。例えば、MTSインデックスのビンストリングのビンのうち、1番目のビンまたは0番ビン(bin 0)に対するctxIncは、0に表されることができ、残りのビンは、バイパスコーディングに基づいて表されることができる。または、例えば、MTSインデックスのビンストリングのビンのうち、1番目のビンまたは0番ビン(bin 0)に対するctxIncは、0に表されることができ、2番目のビンまたは1番ビン(bin 1)に対するctxIncは、1に表されることができ、残りのビンは、バイパスコーディングに基づいて表されることができる。すなわち、前記ビンストリングのビンのうち、1番目のビンのコンテキストコーディングのために使用されることができるコンテキストインデックス増加の値の個数は、1個であることができる。
【0183】
または、MTSインデックスのビンストリングのビンの全てがバイパスコーディングに基づいて表されることもできる。ここで、バイパスコーディングは、均一な確率分布に基づいてコンテキストコーディングを行うことを表すことができ、コンテキストコーディングのアップデート手順などが省略されることによってコーディング効率を向上させることもできる。
【0184】
変換係数に関する情報は、変換係数を導出するために利用される情報を表すことができる。また、例えば、変換係数に関する情報は、レジデュアルサンプルに関する情報、変換関連情報、及び/又は量子化関連情報を含むことができる。例えば、変換係数に関する情報は、量子化された変換係数に関する情報を含むことができる。
【0185】
エンコード装置は、レジデュアル情報を含むビデオ情報をエンコードしてビットストリームを生成する(S1020)。例えば、ビデオ情報は、画像情報と呼ばれることもできる。例えば、ビデオ情報は、予測関連情報をさらに含むことができる。例えば、エンコード装置は、ビデオ情報をエンコードしてビットストリームを出力できる。ビットストリームは、エンコードされた(画像またはビデオ)情報と呼ばれることもできる。
【0186】
または、図10に図示していないが、例えば、エンコード装置は、前記レジデュアルサンプル及び前記予測サンプルに基づいて復元サンプルを生成することもできる。また、前記復元サンプルに基づいて復元ブロック及び復元ピクチャが導出されることもできる。
【0187】
例えば、エンコード装置は、上述した情報(または、シンタックス要素)の全部または一部を含む画像情報をエンコードしてビットストリームまたはエンコードされた情報を生成できる。または、ビットストリーム形態で出力することができる。また、前記ビットストリームまたはエンコードされた情報は、ネットワークまたは格納媒体を介してデコード装置に送信されることができる。または、前記ビットストリームまたはエンコードされた情報は、コンピュータ読み取り可能な格納媒体に格納されることができ、前記ビットストリームまたは前記エンコードされた情報は、上述した画像エンコード方法により生成されることができる。
【0188】
図12及び図13は、本文書の実施形態(等)に係るビデオ/画像デコード方法及び関連コンポーネントの一例を概略的に示す。
【0189】
図12において開示された方法は、図3または図13において開示されたデコード装置によって行われることができる。具体的に、例えば、図12のS1200は、図13において前記デコード装置のエントロピーデコード部310によって行われることができ、図12のS1210は、図13において前記デコード装置のレジデュアル処理部320によって行われることができ、図12のS1220は、図13において前記デコード装置の加算部340によって行われることができる。また、図12において図示していないが、図13において前記デコード装置のエントロピーデコード部310によってビットストリームから予測関連情報またはレジデュアル情報が導出され得るし、前記デコード装置のレジデュアル処理部320によってレジデュアル情報からレジデュアルサンプルが導出され得るし、前記デコード装置の予測部330によって予測関連情報から予測サンプルが導出され得るし、前記デコード装置の加算部340によってレジデュアルサンプルまたは予測サンプルから復元ブロックまたは復元ピクチャが導出され得る。図12において開示された方法は、本文書において上述した実施形態を含むことができる。
【0190】
図12に示すように、デコード装置は、ビットストリームからレジデュアル情報を取得する(S1200)。例えば、デコード装置は、ビットストリームをパーシングまたはデコードしてレジデュアル情報を取得できる。ここで、ビットストリームは、エンコードされた(画像)情報と呼ばれることもできる。例えば、レジデュアル情報は、MTSインデックス及び/又は変換係数に関する情報を含むことができる。
【0191】
MTSインデックスは、変換カーネルセット候補のうち、現在ブロックに適用する変換カーネルセットを表すことができる。ここで、MTSインデックスは、tu_mts_idxシンタックス要素またはmts_idxシンタックス要素と表すこともできる。また、変換カーネルセットは、現在ブロックに水平方向として適用する変換カーネル及び前記現在ブロックに垂直方向として適用する変換カーネルを含むことができる。ここで、水平方向として適用する変換カーネルは、trTypeHorと表すことができ、垂直方向として適用する変換カーネルは、trTypeVerと表すことができる。
【0192】
例えば、MTSインデックスは、0~4を含む候補のうち1つで導出されることができ、MTSインデックスによってtrTypeHor及びtrTypeVerは、各々0~2のうち1つで導出されることができる。例えば、MTSインデックスが0である場合、trTypeHor及びtrTypeVerは共に0であることができる。または、MTSインデックスが1である場合、trTypeHor及びtrTypeVerは共に1であることができる。または、MTSインデックスが2である場合、trTypeHorは2であり、trTypeVerは1であることができる。MTSインデックスが3である場合、trTypeHorは1であり、trTypeVerは1であることができる。または、MTSインデックスが4である場合、trTypeHor及びtrTypeVerは共に2であることができる。例えば、trTypeHorまたはtrTypeVerの値は、変換カーネルを表すことができ、0である場合、DCT2を表すことができ、1である場合、DST7を表すことができ、2である場合、DCT8を表すことができる。すなわち、前記水平方向として適用する変換カーネル及び前記垂直方向として適用する変換カーネルの各々は、前記MTSインデックスに基づいてDCT2、DST7、及びDCT8を含む候補のうち1つで導出されることができる。
【0193】
MTSインデックスは、MTSインデックスのビンストリングのビンに基づいて導出されることができる。言い換えれば、MTSインデックス情報は、エントロピーデコードされて二進化されたMTSインデックスで導出されることができ、二進化されたMTSインデックスは、MTSインデックスのビンストリング(のビン)で表されることができる。
【0194】
言い換えれば、MTSインデックスのビンストリングのビンのうち、少なくとも1つのビンは、コンテキストコーディングに基づいて導出されることができる。ここで、コンテキストコーディングは、コンテキストインデックス増加(ctxInc)の値に基づいて行われることができる。または、コンテキストコーディングは、コンテキストインデックス(ctxIdx)またはコンテキストモデルに基づいて行われることができる。ここで、コンテキストインデックスは、コンテキストインデックス増加の値に基づいて導出されることができる。または、コンテキストインデックスは、コンテキストインデックス増加の値及びコンテキストインデックスオフセット(ctxIdxOffset)に基づいて導出されることもできる。
【0195】
例えば、MTSインデックスのビンストリングのビンの全てがコンテキストコーディングに基づいて導出されることができる。例えば、MTSインデックスのビンストリングのビンのうち、1番目のビンまたは0番ビン(bin 0)に対するctxIncは、cqtDepthに基づいて割り当てられることができる。ここで、cqtDepthは、現在ブロックに対するクアッドツリーデプス(quad-tree depth)を表すことができ、0~5のうち1つの値に導出されることができる。また、2番目のビンまたは1番ビン(bin 1)に対するctxIncは、6が割り当てられることができ、3番目のビンまたは2番ビン(bin 2)に対するctxIncは、7が割り当てられることができ、4番目のビンまたは3番ビン(bin 3)に対するctxIncは、8が割り当てられることができる。または、例えば、MTSインデックスのビンストリングのビンのうち、1番目のビンまたは0番ビン(bin 0)に対するctxIncは、0が割り当てられることができ、2番目のビンまたは1番ビン(bin 1)に対するctxIncは、1が割り当てられることができ、3番目のビンまたは2番ビン(bin 2)に対するctxIncは、2が割り当てられることができ、4番目のビンまたは3番ビン(bin 3)に対するctxIncは、3が割り当てられることができる。すなわち、前記ビンストリングのビンのうち、1番目のビンのコンテキストコーディングのために使用されることができるコンテキストインデックス増加の値の個数は、1個であることができる。または、前記MTSインデックスの前記ビンストリングは、最大4個のビンを含み、前記4個のビンのうち、コンテキストコーディングにより導出されるビンに割り当てられるコンテキストインデックス増加の値の個数は、1個であることができる。
【0196】
または、例えば、MTSインデックスのビンストリングのビンのうち一部がコンテキストコーディングに基づいて導出され、残りは、バイパスコーディングに基づいて導出されることもできる。例えば、MTSインデックスのビンストリングのビンのうち、1番目のビンまたは0番ビン(bin 0)に対するctxIncは、0が割り当てられることができ、残りのビンは、バイパスコーディングに基づいて導出されることができる。または、例えば、MTSインデックスのビンストリングのビンのうち、1番目のビンまたは0番ビン(bin 0)に対するctxIncは、0が割り当てられることができ、2番目のビンまたは1番ビン(bin 1)に対するctxIncは、1が割り当てられることができ、残りのビンは、バイパスコーディングに基づいて導出されることができる。すなわち、前記ビンストリングのビンのうち、1番目のビンのコンテキストコーディングのために使用されることができるコンテキストインデックス増加の値の個数は、1個であることができる。
【0197】
または、MTSインデックスのビンストリングのビンの全てがバイパスコーディングに基づいて導出されることもできる。ここで、バイパスコーディングは、均一な確率分布に基づいてコンテキストコーディングを行うことを表すことができ、コンテキストコーディングのアップデート手順などが省略されることによってコーディング効率を向上させることもできる。
【0198】
変換係数に関する情報は、変換係数を導出するために利用される情報を表すことができる。また、レジデュアル情報は、レジデュアルサンプルを導出するために利用される情報をさらに含むこともできる。例えば、レジデュアル情報は、レジデュアルサンプルに関する情報、逆変換関連情報、及び/又は逆量子化関連情報を含むことができる。例えば、レジデュアル情報は、量子化された変換係数に関する情報を含むことができる。
【0199】
デコード装置は、レジデュアル情報に基づいて現在ブロックに対するレジデュアルサンプルを生成する(S1210)。例えば、デコード装置は、レジデュアル情報に基づいて現在ブロックに対する変換係数を導出でき、変換係数に基づいてレジデュアルサンプルを生成できる。例えば、デコード装置は、レジデュアル情報に含まれた前記量子化された変換係数に関する情報に基づいて現在ブロックに対する量子化された変換係数を導出できる。例えば、デコード装置は、前記量子化された変換係数に対して逆量子化を行って現在ブロックに対する変換係数を導出できる。
【0200】
例えば、デコード装置は、レジデュアル情報に含まれたMTSインデックス及びレジデュアル情報に含まれた変換係数に関する情報による変換係数に基づいて現在ブロックのレジデュアルサンプルを生成できる。例えば、前記レジデュアルサンプルは、前記変換係数及び前記MTSインデックスにより表わされる変換カーネルセットに基づいて生成されることができる。すなわち、デコード装置は、前記MTSインデックスにより表わされる変換カーネルセットを利用した逆変換を介して前記変換係数から前記レジデュアルサンプルを生成できる。ここで、MTSインデックスにより表わされる変換カーネルセットを利用した逆変換は、1次逆変換に含まれることができる。または、デコード装置は、変換係数からレジデュアルサンプルを生成するとき、1次逆変換だけでなく、2次逆変換も利用することができる。この場合、デコード装置は、変換係数に2次逆変換を行って修正された変換係数を導出し、修正された変換係数に1次逆変換を行って前記レジデュアルサンプルを生成することもできる。
【0201】
デコード装置は、レジデュアルサンプルに基づいて現在ブロックの復元サンプルを生成する(S1220)。例えば、デコード装置は、ビットストリームから予測モード/タイプ情報を含む予測関連情報を取得でき、予測モード/タイプ情報に基づいてイントラ予測またはインター予測を行って現在ブロックに対する予測サンプルを生成できる。また、例えば、デコード装置は、前記予測サンプル及び前記レジデュアルサンプルに基づいて復元サンプルを生成できる。また、例えば、前記復元サンプルに基づいて復元ブロックまたは復元ピクチャが導出され得る。
【0202】
例えば、デコード装置は、ビットストリームまたはエンコードされた情報をデコードして前述した情報(または、シンタックス要素)の全部または一部を含む画像情報を取得することができる。また、前記ビットストリームまたはエンコードされた情報は、コンピュータ読み取り可能な格納媒体に格納されることができ、前述したデコード方法が実行されるようにすることができる。
【0203】
前述した実施例において、方法は、一連のステップまたはブロックで流れ図に基づいて説明されているが、該当実施例は、ステップの順序に限定されるものではなく、あるステップは、前述と異なるステップと、異なる順序にまたは同時に発生できる。また、当業者であれば、流れ図に示すステップが排他的でなく、他のステップが含まれ、または、流れ図の1つまたはそれ以上のステップが本文書の実施例の範囲に影響を及ぼさずに削除可能であることを理解することができる。
【0204】
前述した本文書の実施例による方法は、ソフトウェア形態で実現されることができ、本文書によるエンコード装置及び/またはデコード装置は、例えば、TV、コンピュータ、スマートフォン、セットトップボックス、ディスプレイ装置などの画像処理を実行する装置に含まれることができる。
【0205】
本文書において、実施例がソフトウェアで実現される時、前述した方法は、前述した機能を遂行するモジュール(過程、機能など)で実現されることができる。モジュールは、メモリに格納され、プロセッサにより実行されることができる。メモリは、プロセッサの内部または外部にあり、よく知られた多様な手段でプロセッサと連結されることができる。プロセッサは、ASIC(application-specific integrated circuit)、他のチップセット、論理回路及び/またはデータ処理装置を含むことができる。メモリは、ROM(read-only memory)、RAM(random access memory)、フラッシュメモリ、メモリカード、格納媒体及び/または他の格納装置を含むことができる。即ち、本文書で説明した実施例は、プロセッサ、マイクロプロセッサ、コントローラまたはチップ上で実現されて実行されることができる。例えば、各図面で示す機能ユニットは、コンピュータ、プロセッサ、マイクロプロセッサ、コントローラまたはチップ上で実現されて実行されることができる。この場合、実現のための情報(例えば、information on instructions)またはアルゴリズムがデジタル格納媒体に格納されることができる。
【0206】
また、本文書の実施例が適用されるデコード装置及びエンコード装置は、マルチメディア放送送受信装置、モバイル通信端末、ホームシネマビデオ装置、デジタルシネマビデオ装置、監視用カメラ、ビデオ対話装置、ビデオ通信のようなリアルタイム通信装置、モバイルストリーミング装置、格納媒体、カムコーダ、注文型ビデオ(VoD)サービス提供装置、OTTビデオ(Over the top video)装置、インターネットストリーミングサービス提供装置、3次元(3D)ビデオ装置、VR(virtual reality)装置、AR(argumente reality)装置、画像電話ビデオ装置、運送手段端末(例えば、車両(自律走行車両を含む)端末、飛行機端末、船舶端末等)、及び医療用ビデオ装置などに含まれることができ、ビデオ信号またはデータ信号を処理するために使われることができる。例えば、OTTビデオ(Over the top video)装置として、ゲームコンソール、ブルーレイプレーヤ、インターネット接続TV、ホームシアターシステム、スマートフォン、タブレットPC、DVR(Digital Video Recorder)などを含むことができる。
【0207】
また、本文書の実施例が適用される処理方法は、コンピュータで実行されるプログラムの形態で生産されることができ、コンピュータが読み取り可能な記録媒体に格納されることができる。また、本文書の実施例によるデータ構造を有するマルチメディアデータもコンピュータが読み取り可能な記録媒体に格納されることができる。前記コンピュータが読み取り可能な記録媒体は、コンピュータで読みだすことができるデータが格納される全ての種類の格納装置及び分散格納装置を含む。前記コンピュータが読み取り可能な記録媒体は、例えば、ブルーレイディスク(BD)、汎用直列バス(USB)、ROM、PROM、EPROM、EEPROM、RAM、CD-ROM、磁気テープ、フロッピーディスク、及び光学的データ格納装置を含むことができる。また、前記コンピュータが読み取り可能な記録媒体は、搬送波(例えば、インターネットを介した送信)の形態で実現されたメディアを含む。また、エンコード方法で生成されたビットストリームがコンピュータが読み取り可能な記録媒体に格納され、または、有無線通信ネットワークを介して送信されることができる。
【0208】
また、本文書の実施例は、プログラムコードによるコンピュータプログラム製品で実現されることができ、前記プログラムコードは、本文書の実施例によりコンピュータで実行されることができる。前記プログラムコードは、コンピュータにより読み取り可能なキャリア上に格納されることができる。
【0209】
図14は、本文書において開示された実施形態が適用され得るコンテンツストリーミングシステムの例を示す。
【0210】
図14に示すように、本文書の実施形態が適用されるコンテンツストリーミングシステムは、大別して、エンコードサーバ、ストリーミングサーバ、ウェブサーバ、メディア格納所、ユーザ装置、及びマルチメディア入力装置を含むことができる。
【0211】
前記エンコードサーバは、スマートフォン、カメラ、カムコーダなどのようなマルチメディア入力装置から入力されたコンテンツをデジタルデータで圧縮してビットストリームを生成し、これを前記ストリーミングサーバに送信する役割をする。他の例として、スマートフォン、カメラ、カムコーダなどのようなマルチメディア入力装置がビットストリームを直接生成する場合、前記エンコードサーバは省略されることができる。
【0212】
前記ビットストリームは、本文書の実施例に適用されるエンコード方法またはビットストリーム生成方法により生成されることができ、前記ストリーミングサーバは、前記ビットストリームを送信または受信する過程で一時的に前記ビットストリームを格納することができる。
【0213】
前記ストリーミングサーバは、ウェブサーバを介したユーザ要請に基づいてマルチメディアデータをユーザ装置に送信し、前記ウェブサーバは、ユーザにどのようなサービスがあるかを知らせる媒介体役割をする。ユーザが前記ウェブサーバに所望のサービスを要請すると、前記ウェブサーバは、これをストリーミングサーバに伝達し、前記ストリーミングサーバは、ユーザにマルチメディアデータを送信する。このとき、前記コンテンツストリーミングシステムは、別途の制御サーバを含むことができ、この場合、前記制御サーバは、前記コンテンツストリーミングシステム内の各装置間の命令/応答を制御する役割をする。
【0214】
前記ストリーミングサーバは、メディア格納所及び/またはエンコードサーバからコンテンツを受信することができる。例えば、前記エンコードサーバからコンテンツを受信するようになる場合、前記コンテンツをリアルタイムで受信することができる。この場合、円滑なストリーミングサービスを提供するために、前記ストリーミングサーバは、前記ビットストリームを一定時間の間格納することができる。
【0215】
前記ユーザ装置の例として、携帯電話、スマートフォン(smart phone)、ノートブックコンピュータ(laptop computer)、デジタル放送用端末、PDA(personal digital assistants)、PMP(portable multimedia player)、ナビゲーション、スレートPC(slate PC)、タブレットPC(tablet PC)、ウルトラブック(ultrabook)、ウェアラブルデバイス(wearable device、例えば、ウォッチ型端末(smartwatch)、グラス型端末(smart glass)、HMD(head mounted display)、デジタルTV、デスクトップコンピュータ、デジタルサイニジがある。
【0216】
前記コンテンツストリーミングシステム内の各サーバは、分散サーバとして運営されることができ、この場合、各サーバで受信するデータは、分散処理されることができる。
【0217】
本明細書に記載された請求項は、多様な方式で組み合わせることができる。例えば、本明細書の方法請求項の技術的特徴が組み合わせて装置で実現されることができ、本明細書の装置請求項の技術的特徴が組み合わせて方法で実現されることができる。また、本明細書の方法請求項の技術的特徴と装置請求項の技術的特徴が組み合わせて装置で実現されることができ、本明細書の方法請求項の技術的特徴と装置請求項の技術的特徴が組み合わせて方法で実現されることができる。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
【手続補正書】
【提出日】2023-06-27
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
画像デコードのためのデコード装置において、
メモリと、
前記メモリに接続された少なくとも1つのプロセッサと、を備え、
前記少なくとも1つのプロセッサは、
ビットストリームからレジデュアルサンプルに関連する情報を取得
前記レジデュアルサンプルに関連する前記情報に基づいて現在ブロックのレジデュアルサンプルを生成
前記現在ブロックの前記レジデュアルサンプルに基づいて前記現在ブロックの復元サンプルを生成する、ように構成され
前記レジデュアルサンプルに関連する前記情報は、MTS(Multiple Transform Selection)インデックスに関する情報、及び変換係数に関する情報を含み、
前記現在ブロックの前記レジデュアルサンプルは、変換カーネルセットを用いて、前記変換係数に関する前記情報に基づいて前記現在ブロックの変換係数から生成され、
前記変換カーネルセットは、変換カーネルセット候補の中で前記MTSインデックスによって決定され、
前記MTSインデックスのビンストリングのビンのうち、少なくとも1つのビンは、コンテキストコーディングに基づいて導出され、
前記コンテキストコーディングは、前記MTSインデックスに関するコンテキストインデックス増加の値に基づいて行われ、
前記MTSインデックスの前記ビンストリングは、最大4個のビンを含み、
前記4個のビンのうち、前記コンテキストコーディングにより導出されるビンに割り当てられるコンテキストインデックス増加の値の個数は、1個であり、
前記MTSインデックスの値は、前記MTSインデックスの前記ビンストリングに基づいて導出され、
前記MTSインデックスの前記値は、0~4を含む候補の1つとして導出される、デコード装置
【請求項2】
画像エンコードのためのエンコード装置において、
メモリと、
前記メモリに接続された少なくとも1つのプロセッサと、を備え、
前記少なくとも1つのプロセッサは、
現在ブロックに対するレジデュアルサンプルを導出
前記現在ブロックに対する前記レジデュアルサンプルに関連する情報を生成
前記レジデュアルサンプルに関連する前記情報を含む画像情報をエンコードしてビットストリームを出力する、ように構成され
前記レジデュアルサンプルに関連する前記情報は、MTS(Multiple Transform Selection)インデックスに関する情報、及び変換係数に関する情報を含み、
前記変換係数に関する前記情報は、変換カーネルセットを用いて前記現在ブロックに対する前記レジデュアルサンプルから生成され、
前記MTSインデックスは、変換カーネルセット候補のうち、前記変換カーネルセットを示し、
前記MTSインデックスのビンストリングのビンのうち、少なくとも1つのビンは、コンテキストコーディングに基づいて導出され、
前記コンテキストコーディングは、前記MTSインデックスに関するコンテキストインデックス増加の値に基づいて行われ、
前記MTSインデックスの前記ビンストリングは、最大4個のビンを含み、
前記4個のビンのうち、前記コンテキストコーディングにより導出されるビンに割り当てられるコンテキストインデックス増加の値の個数は、1個であり、
前記MTSインデックスの値は、前記MTSインデックスの前記ビンストリングに基づいて表され、
前記MTSインデックスの前記値は、0~4を含む候補の1つとして表される、エンコード装置
【請求項3】
画像のためのデータを送信する装置であって、
前記画像のためのビットストリームを取得するように構成される少なくとも1つのプロセッサであって、前記ビットストリームは、
現在ブロックに対するレジデュアルサンプルを導出するステップと、
前記現在ブロックに対する前記レジデュアルサンプルに関連する情報を生成するステップと、
前記レジデュアルサンプルに関連する前記情報を含む画像情報をエンコードするステップと、
に基づいて生成される、プロセッサと、
前記ビットストリームを含む前記データを送信するように構成される送信部と、を備え
前記レジデュアルサンプルに関連する前記情報は、MTS(Multiple Transform Selection)インデックスに関する情報、及び変換係数に関する情報を含み、
前記変換係数に関する前記情報は、変換カーネルセットを用いて前記現在ブロックに対する前記レジデュアルサンプルから生成され、
前記MTSインデックスは、変換カーネルセット候補のうち、前記変換カーネルセットを示し、
前記MTSインデックスのビンストリングのビンのうち、少なくとも1つのビンは、コンテキストコーディングに基づいて導出され、
前記コンテキストコーディングは、前記MTSインデックスに関するコンテキストインデックス増加の値に基づいて行われ、
前記MTSインデックスの前記ビンストリングは、最大4個のビンを含み、
前記4個のビンのうち、前記コンテキストコーディングにより導出されるビンに割り当てられるコンテキストインデックス増加の値の個数は、1個であり、
前記MTSインデックスの値は、前記MTSインデックスの前記ビンストリングに基づいて表され、
前記MTSインデックスの前記値は、0~4を含む候補の1つとして表される、装置