特許 5792396 量子化ブロックを生成する方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】5792396

(24)【登録日】2015年8月14日

(45)【発行日】2015年10月14日

(54)【発明の名称】量子化ブロックを生成する方法

(51)【国際特許分類】

   H04N 19/129 20140101AFI20150928BHJP

   H04N 19/159 20140101ALI20150928BHJP

   H04N 19/157 20140101ALI20150928BHJP

   H04N 19/176 20140101ALI20150928BHJP

   H04N 19/593 20140101ALI20150928BHJP

【ＦＩ】

   H04N19/129

   H04N19/159

   H04N19/157

   H04N19/176

   H04N19/593

【請求項の数】10

【全頁数】21

(21)【出願番号】特願2014-539231(P2014-539231)

(86)(22)【出願日】2012年11月2日

(65)【公表番号】特表2014-534750(P2014-534750A)

(43)【公表日】2014年12月18日

(86)【国際出願番号】CN2012083991

(87)【国際公開番号】WO2013064098

(87)【国際公開日】20130510

【審査請求日】2014年5月2日

(31)【優先権主張番号】10-2011-0114608

(32)【優先日】2011年11月4日

(33)【優先権主張国】KR

【早期審査対象出願】

(73)【特許権者】

【識別番号】514112824

【氏名又は名称】インフォブリッジ ピーティーイー． エルティーディー．

(74)【代理人】

【識別番号】100078282

【弁理士】

【氏名又は名称】山本 秀策

(74)【代理人】

【識別番号】100113413

【弁理士】

【氏名又は名称】森下 夏樹

(74)【代理人】

【識別番号】100181674

【弁理士】

【氏名又は名称】飯田 貴敏

(74)【代理人】

【識別番号】100181641

【弁理士】

【氏名又は名称】石川 大輔

(74)【代理人】

【識別番号】230113332

【弁護士】

【氏名又は名称】山本 健策

(72)【発明者】

【氏名】オー， ソー ミ

(72)【発明者】

【氏名】ヤン， ムーノック

【審査官】 堀井 啓明

(56)【参考文献】

【文献】 国際公開第２０１１／１２１８４３（ＷＯ，Ａ１）

【文献】 Wei-Jung Chien(外2名)，Parsing friendly intra mode coding，Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 JCTVC-F459，米国，ITU-T，２０１１年 ７月２２日，p.1-5

【文献】 Tzu-Der Chuang(外5名)，Luma Intra Prediction Mode Coding，Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 JCTVC-F062，米国，ITU-T，２０１１年 ７月２２日，p.1-5

【文献】 Toru Kumakura(外1名)，Intra prediction mode coding based on direction difference，Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 JCTVC-F339，米国，ITU-T，２０１１年 ７月２２日，p.1-13

【文献】 Yunfei Zheng(外5名)，CE11: Mode Dependent Coefficient Scanning，Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 JCTVC-D393，米国，ITU-T，２０１１年 １月２８日，p.1-5

【文献】 Joel Sole(外2名)，CE11: Unified scans for the significance map and coefficient level coding in high efficiency，Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 JCTVC-F288，米国，ITU-T，２０１１年 ７月２２日，p.1-9

【文献】 Toru Kumakura(外2名)，Fixing the number of mpm candidates，Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 JCTVC-F340，米国，ITU-T，２０１１年 ７月２２日，p.1-8

【文献】 Jianle Chen，BoG report on intra mode coding with fixed number of MPM candidates，Joint Collaborative Team on Video Coding(JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 6th Meeting:Torino,IT,14-22 July,2011，米国，JCTVC，２０１１年 ７月２０日，JCTVC-F765，P.1-P.3，ＵＲＬ，http://phenix.it-sudparis.eu/jct/index.php

(58)【調査した分野】（Int.Cl.，ＤＢ名）

Ｈ０４Ｎ１９／００−１９／９８

(57)【特許請求の範囲】

【請求項1】

量子化ブロックを生成する方法において、
現在予測ユニットの左側及び上側ブロックのイントラ予測モードによって決定される３個のイントラ予測モードを含むＭＰＭグループを利用して現在予測ユニットのイントラ予測モードを誘導するステップ；
前記イントラ予測モードと現在変換ユニットのサイズに基づいて逆スキャンパターンを選択するステップ；及び、
前記選択された逆スキャンパターンによって、重要フラグ、係数符号及び係数レベルを逆スキャンして量子化ブロックを生成するステップ；を含み、
前記逆スキャンパターンは、対角線スキャン、垂直スキャン及び水平スキャンの中から選択され、
前記左側及び上側ブロックのイントラ予測モードが互いに同じであり、且つ２個の非方向性イントラ予測モードのうち一つの場合、前記ＭＰＭグループは、前記２個の非方向性モードと垂直モードを含み、
前記左側及び上側ブロックのイントラ予測モードのうち一つのみが利用可能であって、前記利用可能な一つのイントラ予測モードが２個の非方向性モードのうち一つの場合、前記ＭＰＭグループは、２個の非方向性モードと垂直モードで構成され、前記左側及び上側ブロックのイントラ予測モードのうち一つのみが利用可能であって、前記利用可能なイントラ予測モードが方向性モードのうち一つの場合、前記ＭＰＭグループは、前記２個の非方向性モードと前記利用可能なイントラ予測モードで構成されることを特徴とする方法。

【請求項2】

前記現在変換ユニットのサイズが８×８より小さいまたは同じ場合、前記イントラ予測モードにより前記逆スキャンパターンが決定されることを特徴とする請求項１に記載の方法。

【請求項3】

垂直モード及び前記垂直モードに隣接した予め決められた個数のイントラ予測モードでは水平スキャンが適用され、水平モードと前記水平モードに隣接した予め決められた個数のイントラ予測モードでは垂直スキャンが適用され、残りのイントラ予測モードでは対角線スキャンが適用されることを特徴とする請求項２に記載の方法。

【請求項4】

前記現在変換ユニットのサイズが８×８の場合、前記予め決められた個数は、８であることを特徴とする請求項３に記載の方法。

【請求項5】

前記現在変換ユニットのサイズが８×８より大きい場合、全てのイントラ予測モードで対角線スキャンが適用されることを特徴とする請求項１に記載の方法。

【請求項6】

前記現在変換ユニットのサイズが８×８の場合、重要フラグ、係数符号及び係数レベルがサブセット単位に逆スキャンされてサブセットを生成し、前記サブセットを前記イントラ予測モードにより決定される逆スキャンパターンによって逆スキャンして量子化ブロックが生成されることを特徴とする請求項１に記載の方法。

【請求項7】

符号化されたサブセットの数は、０でない最後の係数位置及び選択されたスキャンパターンにより決定されることを特徴とする請求項６に記載の方法。

【請求項8】

ノンゼロサブセットフラグを利用して生成されるサブセットを決定し、前記サブセットは、重要フラグ、係数符号及び係数レベルに前記逆スキャンパターンを適用して生成されることを特徴とする請求項６に記載の方法。

【請求項9】

前記左側及び上側ブロックのイントラ予測モードが両方ともＤＣモードの場合、前記ＭＰＭグループは、前記ＤＣモード、プラナーモード及び垂直モードを含むことを特徴とする請求項１に記載の方法。

【請求項10】

前記左側及び上側ブロックのイントラ予測モードが両方ともプラナーモードの場合、前記ＭＰＭグループは、前記プラナーモード、ＤＣモード及び垂直モードを含むことを特徴とする請求項１に記載の方法。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、映像復号化方法及び装置に関し、より詳しくは、イントラ予測モードと変換ユニットのサイズによって逆スキャンパターンを適応的に決定して量子化ブロックを生成する方法及び装置に関する。

【背景技術】

【0002】

Ｈ．２６４／ＭＰＥＧ−４ ＡＶＣでは、一つのピクチャが複数個のマクロブロックに分割され、イントラ予測又はインター予測を利用して予測ブロックを生成することによって各々のマクロブロックを符号化する。原本ブロックと予測ブロックとの差分値が変換されて変換ブロックが生成され、量子化パラメータ及び複数個の量子化マトリクスのうち一つを利用して前記変換ブロックが量子化される。前記量子化ブロックの量子化係数は、予め決められたスキャンタイプによってスキャンされてエントロピー符号化される。量子化パラメータは、マクロブロック毎に調整され、量子化パラメータ予測子として以前量子化パラメータを利用して符号化される。

【0003】

一方、符号化効率を向上させるために、多様なサイズのコーディングユニットと変換ユニットを使用する技術が紹介されている。また、原本ブロックにさらに類似の予測ブロックを生成するために、イントラ予測モードの数を増加させる技術も紹介されている。

【0004】

しかし、多様なサイズのコーディングユニットと変換ユニットの登場は、大きい変換ブロックをスキャンする時、残差信号の符号化ビット量を増加させるようになる。また、イントラ予測モード数が増加するにつれて、より効果的に残差ブロックの符号化量を減らすスキャニング方法が要求される。

【発明の概要】

【発明が解決しようとする課題】

【0005】

本発明が達成しようとする目的は、予測ユニットのイントラ予測モードを誘導し、前記イントラ予測モード及び変換ユニットのサイズに基づいて現在変換ユニットの逆スキャンパターンを決定し、前記逆スキャンパターンによって重要フラグ、係数符号及び係数レベルを逆スキャンして量子化ブロックを生成する方法を提供することである。

【課題を解決するための手段】

【0006】

本発明による量子化ブロックを生成する方法は、予測ユニットのイントラ予測モードを誘導し、前記イントラ予測モード及び変換ユニットのサイズに基づいて現在変換ユニットの逆スキャンパターンを決定し、前記逆スキャンパターンによって、重要フラグ、係数符号及び係数レベルを逆スキャンして量子化ブロックを生成することを特徴とする。
本願明細書は、例えば、以下の項目も提供する。
（項目１）
量子化ブロックを生成する方法において、
予測ユニットのイントラ予測モードを誘導するステップ；
前記イントラ予測モードと変換ユニットのサイズに基づいて現在変換ユニットの逆スキャンパターンを選択するステップ；及び、
前記選択された逆スキャンパターンによって、重要フラグ、係数符号及び係数レベルを逆スキャンして量子化ブロックを生成するステップ；を含み、
前記逆スキャンパターンは、対角線スキャン、垂直スキャン及び水平スキャンの中から選択されることを特徴とする方法。
（項目２）
前記変換ユニットのサイズが８×８より小さい又は同じ場合、前記イントラ予測モードにより前記逆スキャンパターンが決定されることを特徴とする項目１に記載の方法。
（項目３）
垂直モード及び前記垂直モードに隣接した予め決められた個数のイントラ予測モードでは水平スキャンが適用され、水平モードと前記水平モードに隣接した予め決められた個数のイントラ予測モードでは垂直スキャンが適用され、残りのイントラ予測モードでは対角線スキャンが適用されることを特徴とする項目２に記載の方法。
（項目４）
前記変換ユニットのサイズが８×８の場合、前記予め決められた個数は、８であることを特徴とする項目３に記載の方法。
（項目５）
前記変換ユニットのサイズが８×８より大きい場合、全てのイントラ予測モードで対角線スキャンが適用されることを特徴とする項目１に記載の方法。
（項目６）
前記変換ユニットのサイズが４×４より大きい場合、重要フラグ、係数符号及び係数レベルがサブセット単位に逆スキャンされてサブセットを生成し、前記サブセットを逆スキャンして量子化ブロックが生成されることを特徴とする項目１に記載の方法。
（項目７）
符号化されたサブセットの数は、０でない最後の係数位置及び選択されたスキャンパターンにより決定されることを特徴とする項目６に記載の方法。
（項目８）
ノンゼロサブセットフラグを利用して生成されるサブセットを決定し、前記サブセットは、重要フラグ、係数符号及び係数レベルに前記逆スキャンパターンを適用して生成されることを特徴とする項目６に記載の方法。
（項目９）
前記サブセットのサイズは、逆スキャンパターンによって変わることを特徴とする項目６に記載の方法。
（項目１０）
前記逆スキャンパターンが対角線スキャンでない場合、前記サブセットは、１６個の変換係数を含む非正方形ブロックであることを特徴とする項目９に記載の方法。

【発明の効果】

【0007】

本発明による方法では、予測ユニットのイントラ予測モードを誘導し、前記イントラ予測モード及び変換ユニットのサイズに基づいて現在変換ユニットの逆スキャンパターンを決定し、前記逆スキャンパターンによって、重要フラグ、係数符号及び係数レベルを逆スキャンして量子化ブロックを生成する。変換ユニットは、予め決められたサイズより大きく、複数個のサブセットが生成されて逆スキャンされる。したがって、変換ユニットの大きさ及びイントラ予測モードに応じて逆スキャンパターンを決定し、前記逆スキャンパターンを各サブセットに適用することで残差ブロックの符号化ビット量を減らすことができる。

【図面の簡単な説明】

【0008】

【図1】本発明による映像符号化装置を示すブロック図である。

【図2】本発明によるイントラ予測モードを説明する概念図である。

【図3】本発明によるスキャンパターンを説明する概念図である。

【図4】本発明による対角線スキャンパターンを説明する概念図である。

【図5】本発明によるイントラ予測モードと変換ユニットのサイズによって決定されるスキャンパターンを説明するための概念図である。

【図6】本発明による映像復号化装置を示すブロック図である。

【図7】本発明による予測ブロックを生成する方法を説明するフローチャートである。

【発明を実施するための形態】

【0009】

以下、本発明の多様な実施例を例示図面を参照して詳細に説明する。本発明は、多様な変更を加えることができ、多様な実施例を有することができ、本発明を特定の実施形態に対して限定するものではなく、本発明の思想及び技術範囲に含まれる全ての変更、均等物乃至代替物を含むと理解しなければならない。各図面の説明において、類似の構成要素に対して類似の参照符号を使用した。

【0010】

図１は、本発明による映像符号化装置１００を示すブロック図である。

【0011】

図１を参照すると、本発明による映像符号化装置１００は、ピクチャ分割部１０１、変換部１０３、量子化部１０４、スキャニング部１０５、エントロピー符号化部１０６、逆量子化部１０７、逆変換部１０８、後処理部１１０、ピクチャ格納部１１１、イントラ予測部１１２、インター予測部１１３、減算部１０２及び加算部１０９を含む。

【0012】

ピクチャ分割部１０１は、ピクチャ又はスライスを複数個のＬＣＵ（Ｌａｒｇｅｓｔ Ｃｏｄｉｎｇ Ｕｎｉｔ）に分割し、前記各々のＬＣＵを一つ以上のコーディングユニットに分割する。ピクチャ分割部１０１は、各コーディングユニットの予測モード、予測ユニットのサイズ及び変換ユニットのサイズを決定する。

【0013】

一つのＬＣＵは、一個又は複数個のコーディングユニット（ｃｏｉｄｎｇ ｕｎｉｔ）を含む。前記ＬＣＵは、分割構造を示すために、再帰的クワッドツリー構造（ｒｅｃｕｒｓｉｖｅ ｑｕａｄｔｒｅｅ ｓｔｒｕｃｔｕｒｅ）を有する。コーディングユニットの最大サイズ及び最小サイズを示す情報がシーケンスパラメータセット（ｓｅｑｕｅｎｃｅ ｐａｒａｍｅｔｅｒ ｓｅｔ）に含まれる。前記分割構造は、一個又は複数個の分割コーディングユニットフラグ（ｓｐｌｉｔ＿ｃｕ＿ｆｌａｇ）を利用して表現される。コーディングユニットは、２Ｎ×２Ｎのサイズを有する。

【0014】

コーディングユニットは、一個又は複数個の予測ユニット（ｐｒｅｄｉｃｔｉｏｎ ｕｎｉｔ）を含む。イントラ予測において、前記予測ユニットのサイズは、２Ｎ×２Ｎ又はＮ×Ｎである。インター予測において、前記予測ユニットのサイズは、２Ｎ×２Ｎ、２Ｎ×Ｎ、Ｎ×２Ｎ又はＮ×Ｎである。インター予測において、予測ユニットが非対称パーティション（ａｓｙｍｍｅｔｒｉｃ ｐａｒｔｉｔｉｏｎ）の場合、前記予測ユニットのサイズは、ｈＮ×２Ｎ、（２−ｈ）Ｎ×２Ｎ、２Ｎ×ｈＮ及び２Ｎ×（２−ｈ）Ｎのうち一つである。ここで、ｈは、１／２である。

【0015】

コーディングユニットは、一個又は複数個の変換ユニット（ｔｒａｎｓｆｏｒｍ ｕｎｉｔ）を含む。変換ユニットは、分割構造を示すために、再帰的クワッドツリー構造（ｒｅｃｕｒｓｉｖｅ ｑｕａｄｔｒｅｅ ｓｔｒｕｃｔｕｒｅ）を有する。分割構造は、一個又は複数個の分割変換ユニットフラグ（ｓｐｌｉｔ＿ｔｕ＿ｆｌａｇ）により表現される。変換ユニットの最大サイズ及び最小サイズを示す情報がシーケンスパラメータセットに含まれる。

【0016】

イントラ予測部１１２は、現在予測ユニットのイントラ予測モードを決定し、前記イントラ予測モードを利用して一個又は複数個の予測ブロックを生成する。予測ブロックは、変換ユニットと同じサイズを有する。

【0017】

図２は、本発明によるイントラ予測モードを説明する概念的ブロック図である。図２に示すように、イントラ予測モードの数は、３５個である。ＤＣモードとプラナー（Ｐｌａｎａｒ）モードは、非方向性イントラ予測モードであり、残りは、方向性モードである。

【0018】

インター予測部１１３は、ピクチャ格納部１１１に格納されている一つ以上の参照ピクチャを利用して現在予測ユニットの動き情報を決定し、前記予測ユニットの予測ブロックを生成する。前記動き情報は、一つ以上の参照ピクチャインデックスと一つ以上の動きベクトルを含む。

【0019】

変換部１０３は、原本ブロックと予測ブロックを利用して生成される残差信号を変換して変換ブロックを生成する。残差信号は、変換ユニット単位に変換される。変換タイプは、予測モード及び変換ユニットのサイズによって決定される。変換タイプは、ＤＣＴベースの整数変換又はＤＳＴベースの整数変換である。

【0020】

量子化部１０４は、前記変換ブロックを量子化するための量子化パラメータを決定する。量子化パラメータは、量子化ステップサイズである。量子化パラメータは、量子化ユニット毎に決定される。前記量子化ユニットのサイズは、コーディングユニットの許容可能なサイズのうち一つである。コーディングユニットのサイズが量子化ユニットの最小サイズより大きい又は同じ場合、前記コーディングユニットが量子化ユニットとして設定される。複数個のコーディングユニットが一つの量子化ユニットに含まれることもできる。前記量子化ユニットの最小サイズは、ピクチャ毎に決定され、前記量子化ユニットの最小サイズを特定するために、一つのパラメータが使われる。前記パラメータは、ピクチャパラメータセット（ｐｉｃｔｕｒｅ ｐａｒａｍｅｔｅｒ ｓｅｔ）に含まれる。

【0021】

量子化部１０４は、量子化パラメータ予測子を生成し、量子化パラメータから量子化パラメータ予測子を引いて差分量子化パラメータを生成する。前記差分量子化パラメータは、符号化されて復号器に送信される。コーディングユニット内に送信される残差信号が存在しない場合、前記コーディングユニットの差分量子化パラメータは送信されない。

【0022】

前記量子化パラメータ予測子は、隣接コーディングユニットの量子化パラメータと以前コーディングユニットの量子化パラメータを利用して下記のように生成される。

【0023】

左側量子化パラメータ、上側量子化パラメータ及び以前量子化パラメータは、前記順序通りに検索される。２個以上の量子化パラメータが利用可能な場合、前記順序に検索される最初の２個の利用可能な量子化パラメータの平均値が量子化パラメータ予測子に設定され、一つの量子化パラメータのみ利用可能な場合は、前記利用可能な量子化パラメータが量子化パラメータ予測子に設定される。即ち、前記左側量子化パラメータ及び前記上側量子化パラメータが利用可能の場合、前記左側及び上側量子化パラメータの平均値が前記量子化パラメータ予測子に設定される。前記左側量子化パラメータ及び前記上側量子化パラメータのうち一つのみが利用可能の場合、前記利用可能な量子化パラメータと前記以前量子化パラメータの平均値が前記量子化パラメータ予測子に設定される。前記左側及び上側量子化パラメータが両方とも利用可能でない場合、前記以前量子化パラメータが前記量子化パラメータ予測子に設定される。前記平均値は、四捨五入した平均値である。

【0024】

前記差分量子化パラメータは、前記差分量子化パラメータの絶対値と前記差分量子化パラメータの符号を示す符号フラグに変換される。前記差分量子化パラメータの絶対値は、トランケーテッドユーナリ（ｔｒｕｎｃａｔｅｄ ｕｎａｒｙ）に二進化される。その後、前記絶対値と前記符号フラグが算術符号化される。前記絶対値が０の場合、符号フラグは存在しない。

【0025】

量子化部１０４は、量子化マトリクス及び量子化パラメータを利用して変換ブロックを量子化する。量子化ブロックは、逆量子化部１０７とスキャニング部１０５に提供される。

【0026】

スキャニング部１０５は、スキャンパターンを決定し、前記スキャンパターンを前記量子化ブロックに適用する。

【0027】

イントラ予測では、量子化された変換係数の分布がイントラ予測モード及び変換ユニットのサイズにより変わる。したがって、スキャンパターンは、前記イントラ予測モード及び前記変換ユニットのサイズにより決定される。

【0028】

図３は、本発明によるスキャンパターンを説明する概念図である。図４は、本発明による対角線スキャンを説明する概念図である。図３に示すように、第１のスキャンパターンはジグザグスキャンであり、第２のスキャンパターンは水平スキャンであり、第３のスキャンパターンは垂直スキャンである。

【0029】

ＣＡＶＬＣ（Ｃｏｎｔｅｘｔ ａｄａｐｔｉｖｅ ｖａｒｉａｂｌｅ ｌｅｎｇｔｈ ｃｏｄｉｎｇ）がエントロピーコーディングに使われると、ジグザグスキャン、水平スキャン及び垂直スキャンの中から一つが選択される。しかし、ＣＡＢＡＣ（Ｃｏｎｔｅｘｔ ａｄａｐｔｉｖｅ ｂｉｎａｒｙ ａｒｉｔｈｍｅｔｉｃ ｃｏｄｉｎｇ）がエントロピーコーディングに使われると、対角線スキャン、水平スキャン及び垂直スキャンの中から一つが選択され、前記選択されたスキャンパターンが量子化ブロックの重要フラグ、係数符号及び係数レベルに各々適用される。前記重要フラグは、対応する量子化変換係数が０であるか否かを示す。前記係数符号は、０でない量子化変換係数の符号を示す。前記係数レベルは、０でない量子化変換係数の絶対値を示す。

【0030】

図５は、本発明によるイントラ予測モードと変換ユニットのサイズにより決定される例示的なスキャンパターンを説明する概念図である。ＣＡＢＡＣがエントロピーコーディングに使われると、スキャンパターンは、下記のように決定される。

【0031】

変換ユニットのサイズが４×４の場合、垂直モード（モード１）と前記垂直モードに隣接した第１の個数のイントラ予測モードで水平スキャンが適用され、水平モード（モード２）と前記水平モードに隣接した第１の個数のイントラ予測モードで垂直スキャンが適用され、残りのイントラ予測モードで対角線スキャンが適用される。即ち、４×４変換ユニットに対して許容可能なイントラ予測モードがモード０〜１７の場合、モード５、モード６及びモード５とモード６との間の許容可能なモードで水平スキャンが適用され、モード８、モード９及びモード８とモード９との間の許容可能なモードで垂直スキャンが適用される。４×４変換ユニットにモード０〜３４が許容されると、適用されるスキャンパターンは、以下の８×８変換ユニットのスキャンパターンと同じである。

【0032】

変換ユニットのサイズが８×８の場合、垂直モード（モード１）と前記垂直モードに隣接した第２の個数のイントラ予測モードで水平スキャンが適用され、水平モード（モード２）と前記水平モードに隣接した第２の個数のイントラ予測モードで垂直スキャンが適用され、残りのイントラ予測モードで対角線スキャンが適用される。即ち、モード５、モード６及びモード５とモード６との間の許容可能なモードで水平スキャンが適用され、モード８、モード９及びモード８とモード９との間の許容可能なモードで垂直スキャンが適用され、残りのイントラ予測モードで対角線スキャンが適用される。モード５とモード６との間の許容可能なイントラ予測モードは、モード２１、モード１２、モード２２、モード１、モード２３、モード１３及びモード２４である。モード８とモード９との間の許容可能なモードは、モード２９、モード１６、モード３０、モード２、モード３１、モード１７、モード３２及びモード９である。

【0033】

インター予測では、変換ユニットのサイズに関係なく予め決められたスキャンが使われる。ＣＡＢＡＣがエントロピーコーディングに使われると、前記予め決められたスキャンパターンは、対角線スキャンである。

【0034】

変換ユニットのサイズが第２のサイズより大きい場合、前記量子化ブロックは、メインサブセットと複数個の残余サブセットに分割され、前記決定されたスキャンパターンが各サブセットに適用される。各サブセットの重要フラグ、係数符号及び係数レベルが各々前記決定されたスキャンパターンによってスキャンされる。量子化された変換係数は、重要フラグ、係数符号及び係数レベルに分離される。

【0035】

メインサブセットは、ＤＣ係数を含み、残余サブセットは、前記メインサブセットがカバーする領域以外の領域をカバーする。前記第２のサイズは４×４である。サブセットのサイズは４×４ブロックであってもよく、スキャンパターンによって決定される非正方形ブロックであってもよい。前記非正方形ブロックは、１６個の変換係数を含む。例えば、前記サブセットのサイズは、水平スキャン時は８×２、垂直スキャン時は２×８、対角線スキャン時は４×４である。

【0036】

サブセットをスキャンするためのスキャンパターンは、前記各サブセットの量子化された変換係数をスキャンするためのスキャンパターンと同じである。各サブセットの量子化された変換係数は、逆方向にスキャンされる。前記サブセットも逆方向にスキャンされる。

【0037】

０でない最後の係数位置（ｌａｓｔ ｎｏｎ−ｚｅｒｏ ｃｏｅｆｆｉｃｉｅｎｔ ｐｏｓｉｔｉｏｎ）が符号化されて復号器に送信される。０でない最後の係数位置は、変換ユニット内での０でない最後の量子化された変換係数の位置を示す。前記０でない最後の係数位置は、復号器がシグナリングされるサブセットの数を決定するのに使われる。ノンゼロサブセットフラグ（ｎｏｎ−ｚｅｒｏ ｓｕｂｓｅｔ ｆｌａｇ）がメインサブセットと最後のサブセット以外の各サブセットに対して設定される。前記最後のサブセットは、０でない最後の係数をカバーする。ノンゼロサブセットフラグは、サブセットが０でない係数を含むかどうかを示す。

【0038】

逆量子化部１０７は、量子化ブロックの量子化された変換係数を逆量子化する。

【0039】

逆変換部１０８は、逆量子化ブロックを逆変換して空間領域が残差信号を生成する。

【0040】

加算部１０９は、残差ブロックと予測ブロックを加えて復元ブロックを生成する。

【0041】

後処理部１１０は、復元されたピクチャで発生するブロッキングアーチファクトを除去するためのデブロッキングフィルタリング過程を実行する。

【0042】

ピクチャ格納部１１１は、後処理部１１０から後処理された映像を受信し、ピクチャ単位に前記映像を格納する。ピクチャは、フレーム又はフィールドである。

【0043】

エントロピー符号化部１０６は、スキャニング部１０５から受信される１次元係数情報、イントラ予測部１１２から受信されるイントラ予測情報、インター予測部１１３から受信される動き情報などをエントロピー符号化する。

【0044】

図６は、本発明による映像復号化装置２００を示すブロック図である。

【0045】

本発明による映像復号化装置２００は、エントロピー復号化部２０１、逆スキャニング部２０２、逆量子化部２０３、逆変換部２０４、加算部２０５、後処理部２０６、ピクチャ格納部２０７、イントラ予測部２０８及びインター予測部２０９を含む。

【0046】

エントロピー復号化部２０１は、受信されたビットストリームからイントラ予測情報、インター予測情報及び１次元係数情報を抽出する。エントロピー復号化部２０１は、インター予測情報をインター予測部２０９に送信し、イントラ予測情報をイントラ予測部２０８に送信し、前記係数情報を逆スキャニング部２０２に送信する。

【0047】

逆スキャニング部２０２は、逆スキャンパターンを使用して量子化ブロックを生成する。ＣＡＢＡＣがエントロピー符号化方法として使われると、スキャンパターンは、下記のように決定される。

【0048】

逆スキャンパターンは、対角線スキャン、垂直スキャン及び水平スキャンの中から選択される。

【0049】

イントラ予測では、イントラ予測モード及び変換ユニットのサイズにより逆スキャンパターンが決定される。逆スキャンパターンは、対角線スキャン、垂直スキャン及び水平スキャンの中から選択される。前記選択された逆スキャンパターンが重要フラグ、係数符号及び係数レベルに各々適用されて量子化ブロックを生成する。

【0050】

変換ユニットのサイズが前記第１のサイズより小さい又は同じ場合、垂直モード及び前記垂直モードに隣接した予め決められた個数のイントラ予測モードでは水平スキャンが選択され、水平モード及び前記水平モードに隣接した予め決められた個数のイントラ予測モードでは垂直スキャンが選択され、残りのイントラ予測モードでは対角線スキャンが選択される。変換ユニットのサイズが前記第１のサイズより大きい場合、全てのイントラ予測モードに対角線スキャンが適用される。前記第１のサイズは、８×８である。

【0051】

変換ユニットのサイズが４×４の場合、垂直モード（モード１）と前記垂直モードに隣接した第１の個数のイントラ予測モードで水平スキャンが適用され、水平モード（モード２）と前記水平モードに隣接した第１の個数のイントラ予測モードで垂直スキャンが適用され、残りのイントラ予測モードで対角線スキャンが適用される。即ち、４×４変換ユニットに対して許容可能なイントラ予測モードがモード０〜１７の場合、モード５、モード６及びモード５とモード６との間の許容可能なモードで水平スキャンが適用され、モード８、モード９及びモード８とモード９との間の許容可能なモードで垂直スキャンが適用される。４×４変換ユニットにモード０〜３４が許容されると、適用されるスキャンパターンは、以下の８×８変換ユニットのスキャンパターンと同じである。

【0052】

変換ユニットのサイズが８×８の場合、垂直モード（モード１）と前記垂直モードに隣接した第２の個数のイントラ予測モードで水平スキャンが適用され、水平モード（モード２）と前記水平モードに隣接した第２の個数のイントラ予測モードで垂直スキャンが適用され、残りのイントラ予測モードで対角線スキャンが適用される。即ち、モード５、モード６及びモード５とモード６との間の許容可能なモードで水平スキャンが適用され、モード８、モード９及びモード８とモード９との間の許容可能なモードで垂直スキャンが適用され、残りのイントラ予測モードで対角線スキャンが適用される。モード５とモード６との間の許容可能なイントラ予測モードは、モード２１、モード１２、モード２２、モード１、モード２３、モード１３及びモード２４である。モード８とモード９との間の許容可能なモードは、モード２９、モード１６、モード３０、モード２、モード３１、モード１７、モード３２及びモード９である。

【0053】

インター予測では、対角線スキャンが使われる。

【0054】

変換ユニットのサイズが第２のサイズより大きい場合、重要フラグ、係数符号及び係数レベル（ｌｅｖｅｌｓ）が前記決定された逆スキャンパターンによってサブセット単位に逆スキャンされてサブセットを生成し、前記サブセットは、逆スキャンされて量子化ブロックを生成する。前記第２のサイズは、４×４である。サブセットがサイズは、４×４であってもよく、スキャンパターンによって決定される非正方形ブロックであってもよい。前記非正方形ブロックは、１６個の変換係数を含む。例えば、水平スキャンではサブセットのサイズが８×２であり、垂直スキャンではサブセットのサイズが２×８であり、対角線スキャンではサブセットのサイズが４×４である。

【0055】

各サブセットを生成するために使われる逆スキャンパターンは、量子化ブロックを生成するために使われる逆スキャンパターンと同じである。重要フラグ、係数符号及び係数レベルは、逆方向に逆スキャンされる。サブセットも逆方向に逆スキャンされる。

【0056】

０でない最後の係数位置及びノンゼロサブセットフラグが符号化器から受信される。０でない最後の係数位置及び逆スキャンパターンによって、符号化されたサブセットの数が決定される。ノンゼロサブセットフラグは、生成されるサブセットを選択するために使われる。メインサブセットと最後のサブセットは、前記逆スキャンパターンを利用して生成される。

【0057】

逆量子化部２０３は、エントロピー復号化部２０１から差分量子化パラメータを受信し、量子化パラメータ予測子を生成する。量子化パラメータ予測子は、図１の量子化部１０４による動作と同様な過程を介して生成される。その後、逆量子化部２０３は、前記差分量子化パラメータと前記量子化パラメータ予測子を加えて現在コーディングユニットの量子化パラメータを生成する。現在コーディングユニットが最小量子化ユニットより大きい又は同じであり、現在コーディングユニットの差分量子化パラメータが符号器から受信されない場合、前記差分量子化パラメータは、０に設定される。

【0058】

逆量子化パラメータは、量子化ユニット毎に生成される。コーディングユニットのサイズが量子化ユニットの最小サイズより大きい又は同じ場合、前記コーディングユニットに対する量子化パラメータが生成される。複数個のコーディングユニットが一つの量子化ユニットに含まれると、０でない係数を含む復号化順序上、１番目のコーディングユニットに対する量子化パラメータが生成される。前記１番目のコーディングユニット以後の前記量子化ユニット内に存在するコーディングユニットは、前記１番目のコーディングユニットと同じ量子化パラメータを有する。

【0059】

量子化ユニットの最小サイズは、ピクチャパラメータセットに含まれている一つのパラメータと最大コーディングユニットのサイズを利用してピクチャ毎に誘導される。

【0060】

差分量子化パラメータが量子化ユニット毎に復元される。符号化された差分量子化パラメータを算術復号化して差分量子化パラメータの絶対値と前記差分量子化パラメータの符号を示す符号フラグを生成する。前記差分量子化パラメータの絶対値は、トランケーテッドユーナリ（ｔｒｕｎｃａｔｅｄ ｕｎａｒｙ）形態のビンストリング（ｂｉｎ ｓｔｒｉｎｇ）である。前記差分量子化パラメータは、前記絶対値と符号フラグを利用して復元される。前記絶対値が０の場合、前記符号フラグは存在しない。

【0061】

逆量子化部２０３は、量子化ブロックを逆量子化する。

【0062】

逆変換部２０４は、前記逆量子化されたブロックを逆変換して残差ブロックを復元する。逆変換タイプは、予測モード及び変換ユニットのサイズによって決定される。逆変換タイプは、ＤＣＴベースの整数変換又はＤＳＴベースの整数変換である。

【0063】

イントラ予測部２０８は、受信されたイントラ予測情報を利用して現在予測ユニットのイントラ予測モードを復元し、前記復元されたイントラ予測モードに応じて予測ブロックを生成する。

【0064】

インター予測部２０９は、受信されたインター予測情報を利用して現在予測ユニットの動き情報を復元し、前記動き情報を利用して予測ブロックを生成する。

【0065】

後処理部２０６は、図１の後処理部１１０と同様に動作する。

【0066】

ピクチャ格納部２０７は、後処理部２０６から後処理された映像を受信し、ピクチャ単位に前記映像を格納する。ピクチャは、フレーム又はフィールドである。

【0067】

加算部２０５は、復元された残差ブロックと予測ブロックを加えて復元ブロックを生成する。

【0068】

図７は、本発明による予測ブロックを生成する方法を説明するフローチャートである。

【0069】

現在予測ユニットのイントラ予測情報がエントロピー復号化される（Ｓ１１０）。

【0070】

前記イントラ予測情報は、モードグループ指示子及び予測モードインデックスを含む。前記モードグループ指示子は、現在予測ユニットのイントラ予測モードがＭＰＭグループ（ｍｏｓｔ ｐｒｏｂａｂｌｅ ｍｏｄｅ ｇｒｏｕｐ）に属するかどうかを示すフラグである。前記フラグが１の場合、現在予測ユニットのイントラ予測モードはＭＰＭグループに属する。前記フラグが０の場合、現在予測ユニットのイントラ予測モードは残余モードグループ（ｒｅｓｉｄｕａｌ ｍｏｄｅ ｇｒｏｕｐ）に属する。前記残余モードグループは、前記ＭＰＭグループに属するイントラ予測モード以外の全てのイントラ予測モードを含む。前記予測モードインデックスは、前記モードグループ指示子により特定されるグループ内での現在予測ユニットのイントラ予測モードを特定する。

【0071】

隣接予測ユニットのイントラ予測モードを利用してＭＰＭグループが構成される（Ｓ１２０）。

【0072】

前記ＭＰＭグループのイントラ予測モードは、左側イントラ予測モード及び上側イントラ予測モードにより適応的に決定される。前記左側イントラ予測モードは、左側に隣接した予測ユニットのイントラ予測モードであり、前記上側イントラ予測モードは、上側に隣接した予測ユニットのイントラ予測モードである。前記ＭＰＭグループは、３個のイントラ予測モードで構成される。

【0073】

前記左側又は上側に隣接した予測ユニットが存在しない場合、前記左側又は上側の隣接予測ユニットのイントラ予測モードは利用可能でないと設定される。例えば、現在予測ユニットがピクチャの左側又は上側の境界に位置すると、左側又は上側に隣接した予測ユニットが存在しない。左側又は上側に隣接した予測ユニットが他のスライス又は他のタイルに属すると、左側又は上側に隣接した予測ユニットのイントラ予測モードは利用可能でないと設定される。左側又は上側に隣接した予測ユニットがインター符号化されると、左側又は上側に隣接した予測ユニットのイントラ予測モードが利用可能でないと設定される。上側予測ユニットが他のＬＣＵに属すると、前記上側予測に隣接した予測ユニットのイントラ予測モードが利用可能でないと設定される。

【0074】

左側イントラ予測モード及び上側イントラ予測モードが両方とも利用可能であり、且つ互いに異なる場合は、前記左側イントラ予測モード及び前記上側イントラ予測モードが前記ＭＰＭグループに含まれ、１個の追加イントラ予測モードが前記ＭＰＭグループに追加される。二つのうち、モード番号が小さいイントラ予測モードにインデックス０が割り当てられ、残りの一つにインデックス１が割り当てられる。または、左側イントラ予測モードにインデックス０が割り当てられ、上側イントラ予測モードにインデックス１が割り当てられてもよい。前記追加イントラ予測モードは、前記左側及び上側イントラ予測モードにより下記のように決定される。

【0075】

左側及び上側イントラ予測モードのうち一つが非方向性モード（ｎｏｎ−ｄｉｒｅｃｔｉｏｎａｌ ｍｏｄｅ）であり、他の一つが方向性モード（ｄｉｒｅｃｔｉｏｎａｌ ｍｏｄｅ）の場合、残りの一つの非方向性モードが前記ＭＰＭグループに追加される。例えば、前記左側及び上側イントラ予測モードのうち、一つがＤＣモードの場合、プラナーモードが前記ＭＰＭグループに追加され、前記左側及び上側イントラ予測モードのうち、一つがプラナーモードの場合、ＤＣモードが前記ＭＰＭグループに追加される。左側及び上側イントラ予測モードが両方とも非方向性モードの場合、垂直モードが前記ＭＰＭグループに追加される。左側及び上側イントラ予測モードが両方とも方向性モードの場合、ＤＣモード又はプラナーモードが前記ＭＰＭグループに追加される。

【0076】

左側イントラ予測モード及び上側イントラ予測モードのうち一つのみ利用可能な場合は、前記利用可能なイントラ予測モードが前記ＭＰＭグループに含まれ、２個の追加イントラ予測モードが前記ＭＰＭグループに追加される。前記２個の追加イントラ予測モードは、前記利用可能なイントラ予測モードにより下記のように決定される。

【0077】

前記利用可能なイントラ予測モードが非方向性モードの場合、残りの一つの非方向性モードと垂直モードが前記ＭＰＭグループに追加される。例えば、前記利用可能なイントラ予測モードがＤＣモードの場合、プラナーモードと垂直モードが前記ＭＰＭグループに追加される。前記利用可能なイントラ予測モードがプラナーモードの場合、ＤＣモードと垂直モードが前記ＭＰＭグループに追加される。前記利用可能なイントラ予測モードが方向性モードの場合、２個の非方向性モード（ＤＣモード及びプラナーモード）が前記ＭＰＭグループに追加される。

【0078】

左側イントラ予測モード及び上側イントラ予測モードが両方とも利用可能であり、且つ互いに同じ場合、前記利用可能なイントラ予測モードがＭＰＭグループに含まれ、２個の追加イントラ予測モードが前記ＭＰＭグループに追加される。前記追加される２個のイントラ予測モードは、前記利用可能なイントラ予測モードにより下記のように決定される。

【0079】

前記利用可能なイントラ予測モードが方向性モードの場合、２個の隣接方向性モードが前記ＭＰＭグループに追加される。例えば、前記利用可能なイントラ予測モードがモード２３の場合、左側隣接モード（モード１）と右側隣接モード（モード１３）が前記ＭＰＭグループに追加される。前記利用可能なイントラ予測モードがモード３０の場合、２個の隣接モード（モード２とモード１６）が前記ＭＰＭグループに追加される。前記利用可能なイントラ予測モードが非方向性モードの場合、残りの一つの非方向性モードと垂直モードが前記ＭＰＭグループに追加される。例えば、前記利用可能なイントラ予測モードがＤＣモードの場合、プラナーモードと垂直モードが前記ＭＰＭグループに追加される。

【0080】

左側イントラ予測モード及び上側イントラ予測モードが両方とも利用可能でない場合は、３個の追加イントラ予測モードが前記ＭＰＭグループに追加される。前記３個のイントラ予測モードは、ＤＣモード、プラナーモード及び垂直モードである。ＤＣモード、プラナーモード及び垂直モードの順序に又はプラナーモード、ＤＣモード及び垂直モードの順序にインデックス０、１及び２が前記３個のイントラ予測モードに割り当てられる。

【0081】

前記モードグループ指示子がＭＰＭグループを指示するかどうかを決定する（Ｓ１３０）。

【0082】

前記モードグループ指示子が前記ＭＰＭグループを示す場合、前記予測モードインデックスにより特定されるＭＰＭグループ内のイントラ予測モードが現在予測ユニットのイントラ予測モードとして設定される（Ｓ１４０）。

【0083】

前記モードグループ指示子が前記ＭＰＭグループを示さない場合、イントラ予測モードは、前記予測モードインデックス及び前記ＭＰＭグループのイントラ予測モードを比較して下記の順序に誘導される（Ｓ１５０）。

【0084】

１）ＭＰＭグループ内の３個のイントラ予測モードのうち、最も小さいモード番号を有するイントラ予測モードが第１の候補に設定され、中間モード番号を有するイントラ予測モードが第２の候補に設定され、最も大きいモード番号を有するイントラ予測モードが第３の候補に設定される。

【0085】

２）前記予測モードインデックスを第１の候補と比較する。前記予測モードインデックスが前記ＭＰＭグループ内の第１の候補のモード番号より大きい又は同じ場合、前記予測モードインデックスの値が１ほど増加する。そうでない場合、前記予測モードインデックスの値は維持される。

【0086】

３）前記予測モードインデックスを第２の候補と比較する。前記予測モードインデックスが前記ＭＰＭグループ内の第２の候補のモード番号より大きい又は同じ場合、前記予測モードインデックスの値が１ほど増加する。そうでない場合、前記予測モードインデックスの値は維持される。

【0087】

４）前記予測モードインデックスを第３の候補と比較する。前記予測モードインデックスが前記ＭＰＭグループ内の第３の候補のモード番号より大きい又は同じ場合、前記予測モードインデックスの値が１ほど増加する。そうでない場合、前記予測モードインデックスの値は維持される。

【0088】

５）前記最終予測モードインデックスが現在予測ユニットのイントラ予測モードのモード番号に設定される。

【0089】

前記予測ブロックのサイズは、前記変換ユニットのサイズを示す変換サイズ指示子に基づいて決定される（Ｓ１６０）。変換サイズ指示子は、前記変換ユニットのサイズを特定するための一つの分割変換フラグ（ｓｐｌｉｔ＿ｔｒａｎｓｆｏｒｍ＿ｆｌａｇ）である。

【0090】

変換ユニットのサイズが現在予測ユニットのサイズと同じ場合、予測ブロックは、下記のステップ（Ｓ１７０〜Ｓ１９０）を介して生成される。

【0091】

変換ユニットのサイズが現在予測ユニットのサイズより小さい場合、現在予測ユニットの１番目のサブブロックの予測ブロックは，ステップＳ１７０乃至Ｓ１９０を介して生成され、前記１番目のサブブロックの残差ブロックが生成され、前記予測ブロックと残差ブロックを加えて前記１番目のサブブロックの復元ブロックが生成される。その後、復号化順序上，次のサブブロックの復元ブロックが生成される。同じイントラ予測モードが全てのサブブロックに利用される。前記サブブロックは、変換ユニットのサイズである。

【0092】

現在ブロックの参照画素が全て利用可能かどうかを判断し、一つ以上の参照画素が利用可能でない場合、参照画素を生成する（Ｓ１７０）。現在ブロックは、現在予測ユニット又はサブブロックである。前記現在ブロックのサイズは、変換ユニットのサイズである。

【0093】

前記イントラ予測モード及び現在ブロックのサイズに基づいて前記参照画素が適応的にフィルタリングされる（Ｓ１８０）。現在ブロックのサイズは、変換ブロックのサイズである。

【0094】

ＤＣモード、垂直モード及び水平モードでも参照画素がフィルタリングされない。前記垂直モード及び水平モード以外の方向性モードでは、参照画素が前記現在ブロックのサイズによって適応的にフィルタリングされる。

【0095】

現在ブロックのサイズが４×４の場合、全てのイントラ予測モードで前記参照画素がフィルタリングされない。８×８、１６×１６及び３２×３２のサイズで、参照画素がフィルタリングされなければならないイントラ予測モードの数は、現在ブロックのサイズが大きくなるほど増加する。例えば、垂直モード及び前記垂直モードに隣接した予め決められた個数のイントラ予測モードでは、参照画素がフィルタリングされない。水平モード及び前記水平モードに隣接した前記予め決められた個数のイントラ予測モードでは、参照画素がフィルタリングされない。前記予め決められた個数は、現在ブロックのサイズが大きくなるほど減少する。

【0096】

前記現在予測ユニットのイントラ予測モードと参照画素を利用して現在ブロックの予測ブロックが生成される（Ｓ１９０）。

【0097】

垂直モードでは、垂直参照画素の値を複写して予測画素を生成する。左側参照画素に接する予測画素は、前記左側隣接参照画素とコーナー参照画素を利用してフィルタリングされる。

【0098】

水平モードでは、水平参照画素の値を複写して予測画素を生成する。上側参照画素に接する予測画素は、前記上側隣接参照画素とコーナー参照画素を利用してフィルタリングされる。

【0099】

以上、実施例を参照して説明したが、該当技術分野の熟練された当業者は、特許請求の範囲に記載された本発明の思想及び領域から外れない範囲内で本発明を多様に修正及び変更可能であることを理解することができる。

【符号の説明】

【0100】

１０５ スキャニング部

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】