特許 6371796 映像復号化装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】6371796

(24)【登録日】2018年7月20日

(45)【発行日】2018年8月8日

(54)【発明の名称】映像復号化装置

(51)【国際特許分類】

   H04N 19/593 20140101AFI20180730BHJP

   H04N 19/129 20140101ALI20180730BHJP

   H04N 19/157 20140101ALI20180730BHJP

   H04N 19/176 20140101ALI20180730BHJP

   H04N 19/46 20140101ALI20180730BHJP

【ＦＩ】

   H04N19/593

   H04N19/129

   H04N19/157

   H04N19/176

   H04N19/46

【請求項の数】4

【全頁数】27

(21)【出願番号】特願2016-123333(P2016-123333)

(22)【出願日】2016年6月22日

(62)【分割の表示】特願2013-524784(P2013-524784)の分割

【原出願日】2011年8月12日

(65)【公開番号】特開2016-187211(P2016-187211A)

(43)【公開日】2016年10月27日

【審査請求日】2016年6月22日

(31)【優先権主張番号】10-2011-0064301

(32)【優先日】2011年6月30日

(33)【優先権主張国】KR

(31)【優先権主張番号】10-2010-0079529

(32)【優先日】2010年8月17日

(33)【優先権主張国】KR

(73)【特許権者】

【識別番号】514095055

【氏名又は名称】エム アンド ケー ホールディングス インコーポレイテッド

(74)【代理人】

【識別番号】100107766

【弁理士】

【氏名又は名称】伊東 忠重

(74)【代理人】

【識別番号】100070150

【弁理士】

【氏名又は名称】伊東 忠彦

(74)【代理人】

【識別番号】100091214

【弁理士】

【氏名又は名称】大貫 進介

(72)【発明者】

【氏名】オ，ス−ミ

(72)【発明者】

【氏名】ヤン，ムノク

【審査官】 片岡 利延

(56)【参考文献】

【文献】 Recommendation ITU-T H.265 (04/2013)，p.51-52,91,102-104

(58)【調査した分野】（Int.Cl.，ＤＢ名）

Ｈ０４Ｎ １９／００−１９／９８

(57)【特許請求の範囲】

【請求項1】

映像符号化装置から受信されたビットストリームを復号して、現在予測ブロックのイントラ予測情報及び１次元の量子化係数情報を分離するエントロピー復号化部と、
前記量子化係数情報を２次元配列の量子化ブロックに変換する逆スキャニング部と、
前記イントラ予測情報から前記現在予測ブロックのイントラ予測モードを復元する予測モード復号化部と、
前記量子化ブロックを逆量子化して変換ブロックを生成する逆量子化部と、
前記変換ブロックを逆変換して残差ブロックを生成する逆変換部と、
前記イントラ予測モードによって予測ブロックを生成するイントラ予測部と、
前記残差ブロックと前記予測ブロックとを加算して元ブロックを生成する加算部と、を備え、
前記逆スキャニング部は、前記変換ブロックのサイズが既定のサイズより大きい場合には、前記既定のサイズのサブセット単位で前記１次元の量子化係数情報を逆スキャンして前記量子化ブロックを復元し、前記イントラ予測モードによって定められたスキャンパターンを用いて前記１次元の量子化係数情報を逆スキャンして、
前記１次元の量子化係数情報をサブセット単位で逆スキャンするスキャンパターンと、複数のサブセットを逆スキャンするスキャンパターンとは同一であり、
前記予測モード復号化部は、前記イントラ予測情報から前記現在予測ブロックのイントラ予測モードグループ指示子及びイントラ予測モードインデックスを復元し、前記現在予測ブロックの左側及び上側ブロックの利用可能なイントラ予測モードを用いて第１イントラ予測モードグループを生成し、前記イントラ予測モードグループ指示子が前記第１イントラ予測モードグループを示せば、前記イントラ予測モードインデックスが示す前記第１イントラ予測モードグループ内のイントラ予測モードを現在予測ブロックのイントラ予測モードと定め、前記イントラ予測モードグループ指示子が第２イントラ予測モードグループを示せば、前記イントラ予測モードインデックスが示す前記第２イントラ予測モードグループ内のイントラ予測モードを現在予測ブロックのイントラ予測モードと定め、
前記第１イントラ予測モードグループに属するイントラ予測モードの数は３個に固定され、
前記左側及び上側ブロックのうちいずれか一つのブロックのイントラ予測モードのみ有効であれば、前記第１イントラ予測モードグループは、前記有効なイントラ予測モード及び前記有効なイントラ予測モードによって定められる２個の追加イントラ予測モードで構成され、
前記有効なイントラ予測モードが非方向性イントラ予測モードであれば、前記第１イントラ予測モードグループは前記有効なイントラ予測モード及び２個の追加イントラ予測モードで構成されるものの、前記２個の追加イントラ予測モードは他の一つの非方向性イントラ予測モードと垂直モードであり、
前記量子化係数情報及び前記複数のサブセットは逆方向に逆スキャンされることを特徴とする映像復号化装置。

【請求項2】

前記有効なイントラ予測モードがＤＣモードであれば、前記２個の追加イントラ予測モードは平面モード及び垂直モードであることを特徴とする請求項１に記載の映像復号化装置。

【請求項3】

前記有効なイントラ予測モードが平面モードであれば、前記２個の追加イントラ予測モードはＤＣモード及び垂直モードであることを特徴とする請求項１に記載の映像復号化装置。

【請求項4】

前記第２イントラ予測モードグループは、前記第１イントラ予測モードグループに属するイントラ予測モードを除いたイントラ予測モードで構成されることを特徴とする請求項１に記載の映像復号化装置。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、イントラ予測復号化方法に係り、さらに詳細には、イントラ予測モードを復元して原信号に近い予測ブロックを生成し、残差信号を復号して残差ブロックを生成し、前記予測された予測ブロック及び残差ブロックを用いて復元ブロックを生成するイントラ予測復号化方法に関する。

【背景技術】

【0002】

ＭＰＥＧ−１、ＭＰＥＧ−２、ＭＰＥＧ−４ Ｈ．２６４／ＭＰＥＧ−４ ＡＶＣ（Ａｄｖａｎｃｅｄ Ｖｉｄｅｏ ｃｏｄｉｎｇ）などの映像圧縮方式では、映像を符号化するために一つのピクチャーをマクロブロックに分ける。そして、インター予測（ｉｎｔｅｒ ｐｒｅｄｉｃｔｉｏｎ）またはイントラ予測（ｉｎｔｒａ ｐｒｅｄｉｃｔｉｏｎ）を用いてそれぞれのマクロブロックを符号化する。

【0003】

このうち、イントラ予測は、現在ピクチャーのブロックを符号化するために参照ピクチャーを参照するものではなく、符号化しようとする現在ブロックと空間的に隣接している画素値を用いて符号化を行う。まず、隣接している画素値を用いて原本マクロブロックと比べ、歪曲の少ないイントラ予測モードを選択する。次いで、選択されたイントラ予測モード及び隣接している画素値を用いて符号化しようとする現在ブロックについての予測値を計算し、予測値と原本現在ブロックの画素値との差を求めた後、これを変換符号化、量子化、エントロピー符号化により符号化する。そして、予測モードも符号化される。

【0004】

従来の技術による４×４イントラ予測モードには、垂直（ｖｅｒｔｉｃａｌ）モード、水平（ｈｏｒｉｚｏｎｔａｌ）モード、ＤＣ（ｄｉｒｅｃｔ ｃｕｒｒｅｎｔ）モード、対角線左側（ｄｉａｇｏｎａｌ ｄｏｗｎ−ｌｅｆｔ）モード、対角線右側（ｄｉａｇｏｎａｌ ｄｏｗｎ−ｒｉｇｈｔ）モード、垂直右側（ｖｅｒｔｉｃａｌ ｒｉｇｈｔ）モード、垂直左側（ｖｅｒｔｉｃａｌ ｌｅｆｔ）モード、水平上側（ｈｏｒｉｚｏｎｔａｌ−ｕｐ）モード及び水平下側（ｈｏｒｉｚｏｎｔａｌ−ｄｏｗｎ）モードの総９種のモードが存在する。

【0005】

Ｈ．２６４標準案によれば、４×４映像の符号化に当って９種のモードのうちいずれか一つで現在ブロックの予測ブロックを生成して符号化する。また、最近標準化進行中のＨＥＶＣでは、ブロックのサイズによって１７種または３４種のイントラ予測モードが存在する。

【0006】

しかし、現在ブロックに含まれた画素に隣接している画素値のうち一部または全部が存在していないか、または符号化されていない場合には、イントラ予測モードのうち一部または全部を適用できないという問題点が発生する。適用可能なイントラモードから選択してイントラ予測を行えば、現在ブロックと予測ブロックとの間の残差信号（ｒｅｓｉｄｕｅ）が大きくなるので、映像圧縮の効率が落ちる。

【0007】

また、イントラ予測モードの数が増加するにつれて、既存のイントラ予測モードを符号化する方法より効果的な予測モードを符号化する方式が必要であり、これに対応して効果的にイントラ予測モードを復号化して復元ブロックを生成する方式が必要である。

【発明の概要】

【発明が解決しようとする課題】

【0008】

本発明が解決しようとする課題は、イントラ予測モードによって原本映像と類似した予測ブロックを生成し、残差信号を復号化して残差ブロックを生成し、前記生成された残差ブロック及び予測ブロックを用いて復元ブロックを生成する方法を提供するところにある。

【課題を解決するための手段】

【0009】

本発明によるイントラ予測復号化方法は、イントラ予測情報及び残差信号を逆多重化し、前記イントラ予測情報及び現在予測ユニットに隣接している予測ユニットのイントラ予測モードを用いて、現在予測ユニットのイントラ予測モードを復号し、現在予測ユニットの利用不可能な参照画素が存在する場合、一つ以上の利用可能な参照画素を用いて参照画素を生成し、前記復号されたイントラ予測モードに基づいて前記参照画素をフィルタリングし、前記復号されたイントラ予測モード及び前記参照画素を用いて予測ブロックを生成し、前記逆多重化された残差信号を復号化して残差ブロックを生成し、前記予測ブロック及び残差ブロックを用いて復元ブロックを生成することを特徴とする。

【発明の効果】

【0010】

本発明によるイントラ予測復号化方法は、原本映像に類似した予測ブロックを生成するために、現在予測ユニットのイントラ予測モードを復号化し、前記復号化されたイントラ予測モードによって参照画素を適応的にフィルタリングして予測ブロックを生成する。また、残差信号をイントラ予測モードによって適応的に復号化することで残差ブロックを生成する。したがって、原本映像に近い前記予測ブロックと前記残差ブロックとを欠陷することで復元ブロックを生成する。よって、イントラ予測モードの数の増加につれて発生する追加の符号化量を効果的に低減させる予測モード符号化方式に対応する予測モード復号化方式を提供できるだけでなく、原本映像に近い予測ブロックを生成することで符号化量を低減させる符号化方式に対応する復号化方式を提供して、動画の符号化／復号化時の高性能圧縮及び再生効率を奏する効果がある。

【図面の簡単な説明】

【0011】

【図1】本発明による動画符号化装置を示すブロック図である。

【図2】本発明による動画符号化装置のイントラ予測部の構成を示すブロック図である。

【図3】本発明によるイントラ予測に使われる参照画素の位置を示す図面である。

【図4】本発明による方向性イントラ予測モードを示す図面である。

【図5】本発明による動画復号化装置の構成を示すブロック図である。

【図6】本発明によるイントラ予測復号化装置のイントラ予測部の構成を示すブロック図である。

【図7】本発明によるイントラ予測モードの復号化過程を示す図面である。

【図8】本発明による第１イントラ予測モードグループ内の予測モードの数が可変的な場合の、本発明によるイントラ予測モードを復元する過程を示す図面である。

【図9】本発明による第１イントラ予測モードグループ内の予測モードの数が固定的な場合の、本発明によるイントラ予測モードを復元する過程を示す図面である。

【発明を実施するための形態】

【0012】

以下、本発明のいろいろな実施形態を、例示的な図面により詳細に説明する。本発明は多様な変更を加え、かついろいろな実施形態を持つことができるところ、本発明を特定の実施形態に限定しようとするものではなく、本発明の思想及び技術範囲に含まれるすべての変更、均等物ないし代替物を含むと理解されねばならない。各図面を説明するに際して、類似した構成要素には類似した参照符号を付した。

【0013】

図１は、本発明による動画符号化装置を示すブロック図である。図１を参照すれば、本発明による動画符号化装置１００は、ピクチャー分割部１１０、変換部１２０、量子化部１３０、スキャニング部１３１、エントロピー符号化部１４０、イントラ予測部１５０、インター予測部１６０、逆量子化部１３５、逆変換部１２５、後処理部１７０、ピクチャー保存部１８０、減算部１９０及び加算部１９５を備える。

【0014】

ピクチャー分割部１１０は、入力されるビデオ信号を分析し、ピクチャーを最大のコーディングユニットごとに所定サイズのコーディングユニットに分割して予測モードを定め、前記コーディングユニット別に予測ユニットのサイズを定める。そして、ピクチャー分割部１１０は、符号化する予測ユニットを、予測モードによってイントラ予測部１５０またはインター予測部１６０に送る。また、ピクチャー分割部１１０は、符号化する予測ユニットを減算部１９０に送る。

【0015】

変換部１２０は、入力された予測ユニットの原本ブロックと、イントラ予測部１５０またはインター予測部１６０で生成された予測ブロックとの残差信号である残差ブロックを変換する。前記残差ブロックは、コーディングユニットで構成される。コーディングユニットで構成された残差ブロックは、最適の変換ユニットに分割されて変換される。予測モード（イントラまたはインター）によって互いに異なる変換マトリックスが定められる。また、イントラ予測の残差信号は、イントラ予測モードによって方向性を持つため、イントラ予測モードによって適応的に変換マトリックスが定められる。変換単位は、２個（水平、垂直）の１次元変換マトリックスによって変換される。例えば、インター予測の場合には、既定の１つの変換マトリックスが定められる。一方、イントラ予測の場合、イントラ予測モードが水平である場合には、残差ブロックが垂直方向への方向性を持つ確率が高くなるので、垂直方向にはＤＣＴ基盤の定数マトリックスを適用し、水平方向にはＤＳＴ基盤またはＫＬＴ基盤の定数マトリックスを適用する。イントラ予測モードが垂直である場合には、垂直方向にはＤＳＴ基盤またはＫＬＴ基盤の定数マトリックスを、水平方向にはＤＣＴ基盤の定数マトリックスを適用する。ＤＣモードの場合には、双方向ともＤＣＴ基盤定数マトリックスを適用する。また、イントラ予測の場合、変換単位のサイズによって変換マトリックスが適応的に定められてもよい。

【0016】

量子化部１３０は、前記変換マトリックスによって変換された残差ブロックの係数を量子化するための量子化ステップサイズを、コーディングユニット別に定める。量子化ステップサイズは、既定のサイズ以上の符号化単位別に定められる。前記既定のサイズは、８×８または１６×１６である。そして、定められた量子化ステップサイズ及び予測モードによって定められる量子化マトリックスを用いて、前記変換ブロックの係数を量子化する。量子化部１３０は、現在符号化単位の量子化ステップサイズ予測子として、現在符号化単位に隣接している符号化単位の量子化ステップサイズを用いる。

【0017】

量子化部１３０は、現在符号化単位の左側符号化単位、上側符号化単位、左上側符号化単位の順序で検索し、１つまたは２つの有効な量子化ステップサイズを用いて現在符号化単位の量子化ステップサイズ予測子を生成する。例えば、前記順序で検索された有効な最初の量子化ステップサイズを、量子化ステップサイズ予測子と定める。また、前記順序で検索された有効な２つの量子化ステップサイズの平均値を、量子化ステップサイズ予測子と定めてもよく、１つのみ有効な場合には、これを量子化ステップサイズ予測子と定める。前記量子化ステップサイズ予測子が定められれば、現在符号化単位の量子化ステップサイズと前記量子化ステップサイズ予測子との差分値をエントロピー符号化部１４０に伝送する。

【0018】

一方、現在コーディングユニットの左側コーディングユニット、上側コーディングユニット、左上側コーディングユニットがいずれも存在しない可能性がある。一方、最大コーディングユニット内の符号化順序上、以前に存在するコーディングユニットが存在する可能性がある。したがって、現在コーディングユニットに隣接しているコーディングユニットと前記最大コーディングユニット内では、符号化順序上、直前のコーディングユニットが候補者になる。この場合、１）現在コーディングユニットの左側コーディングユニット、２）現在コーディングユニットの上側コーディングユニット、３）現在コーディングユニットの左上側コーディングユニット、４）符号化順序上、直前のコーディングユニット順序で優先順位を置く。前記順序は変わってもよく、前記左上側コーディングユニットは省略されてもよい。

【0019】

前記量子化された変換ブロックは、逆量子化部１３５及びスキャニング部１３１に提供される。スキャニング部１３１は、量子化された変換ブロックの係数をスキャニングして１次元の量子化係数に変換する。量子化後の変換ブロックの係数分布がイントラ予測モードに依存的でありうるので、スキャニング方式は、イントラ予測モードによって定められる。また、係数スキャニング方式は、変換単位のサイズによって異なって定められてもよい。前記スキャンパターンは、方向性イントラ予測モードによって変わりうる。量子化係数のスキャン順序は、逆方向にスキャンする。

【0020】

前記量子化された係数が複数のサブセットに分割された場合には、それぞれのサブセット内の量子化係数に同じスキャンパターンを適用する。前記複数のサブセットは、一つのメインサブセットと少なくとも一つ以上の残余サブセットとで構成される。メインサブセットは、ＤＣ係数を含む左上側に位置し、前記残余サブセットは、メインサブセット以外の領域をカバーする。

【0021】

サブセット間のスキャンパターンは、ジグザグスキャンを適用する。スキャンパターンは、メインサブセットから順方向に残余サブセットにスキャンすることが望ましいが、その逆方向も可能である。また、サブセット内の量子化された係数のスキャンパターンと同じくサブセット間のスキャンパターンを設定してもよい。この場合、サブセット間のスキャンパターンが、イントラ予測モードによって定められる。一方、符号器は、前記変換ユニット内の０ではない最後の量子化係数の位置を示す情報を復号器に伝送する。各サブセット内の０ではない最後の量子化係数の位置を示す情報も復号器に伝送する。前記情報は、それぞれのサブセット内の０ではない最後の量子化係数の位置を示す情報である。

【0022】

逆量子化部１３５は、前記量子化された量子化係数を逆量子化する。逆変換部１２５は、逆量子化された変換係数を空間領域の残差ブロックに復元する。加算器は、前記逆変換部によって復元された残差ブロックと、イントラ予測部１５０またはインター予測部１６０からの予測ブロックとを合わせて復元ブロックを生成する。

【0023】

後処理部１７０は、復元されたピクチャーに発生するブロッキング効果を除去するためのデブロッキングフィルタリング過程、画素単位で原本映像との差値を補うための適応的オフセット適用過程、及びコーディングユニットで原本映像との差値を補うための適応的ループフィルタリング過程を行う。

【0024】

デブロッキングフィルタリング過程は、既定のサイズ以上のサイズを持つ予測ユニット及び変換ユニットの境界に適用することが望ましい。前記サイズは８×８でありうる。前記デブロッキングフィルタリング過程は、フィルタリングする境界（ｂｏｕｎｄａｒｙ）を定める段階、前記境界に適用する境界フィルタリング強度（ｂｏｕｎａｒｙ ｆｉｌｔｅｒｉｎｇ ｓｔｒｅｎｇｔｈ）を定める段階、デブロッキングフィルターの適用如何を定める段階、前記デブロッキングフィルターを適用することで定められた場合、前記境界に適用するフィルターを選択する段階を含む。

【0025】

前記デブロッキングフィルターの適用如何は、ｉ）前記境界フィルタリング強度が０より大きいかどうか、及びｉｉ）前記フィルタリングする境界に隣接している２個のブロック（Ｐブロック、Ｑブロック）境界部分でのピクセル値の変化程度を示す値が、量子化パラメータによって定められる第１基準値より小さいかどうかによって定められる。

【0026】

前記フィルターは、少なくとも２つ以上であることが望ましい。ブロック境界に位置している２個の画素間の差値の絶対値が第２基準値より大きいか、または同じである場合には、相対的に弱いフィルタリングを行うフィルターを選択する。前記第２基準値は、前記量子化パラメータ及び前記境界フィルタリング強度によって定められる。

【0027】

適応的オフセット適用過程は、デブロッキングフィルターが適用された映像内の画素と原本画素との差値（ｄｉｓｔｏｒｔｉｏｎ）を低減させるためのものである。ピクチャーまたはスライス単位で前記適応的オフセット適用過程を行うかどうかが定められる。ピクチャーまたはスライスは、複数のオフセット領域に分割され、各オフセット領域別にオフセットタイプが定められる。オフセットタイプは、既定の数（例えば、４個）のエッジオフセットタイプと２個のバンドオフセットタイプとを含む。オフセットタイプがエッジオフセットタイプである場合には、各画素が属するエッジタイプを定め、これに対応するオフセットを適用する。前記エッジタイプは、現在画素に隣接している２個の画素値の分布を基準として定める。

【0028】

適応的ループフィルタリング過程は、デブロッキングフィルタリング過程または適応的オフセット適用過程を経た復元された映像と原本映像とを比較した値に基づいてフィルタリングを行える。適応的ループフィルタリングは、前記定められた４×４サイズまたは８×８サイズのブロックに含まれた画素全体に適用される。適応的ループフィルターの適用如何は、コーディングユニット別に定められる。各コーディングユニットによって適用されるループフィルターのサイズ及び係数は変わる。コーディングユニット別に前記適応的ループフィルターの適用如何を示す情報は、各スライスヘッダに含まれる。色差信号の場合には、ピクチャー単位で適応的ループフィルターの適用如何を定める。ループフィルターの形態も、輝度とは異なって長方形でありうる。

【0029】

適応的ループフィルタリングは、スライス別に適用如何を定める。したがって、現在スライスに適応的ループフィルタリングが適用されるかどうかを示す情報は、スライスヘッダまたはピクチャーヘッダに含まれる。現在スライスに適応的ループフィルタリングが適用されることを示せば、スライスヘッダまたはピクチャーヘッダはさらに、適応的ループフィルタリング過程に使われる輝度成分の水平及び／または垂直方向のフィルター長を示す情報を含む。

【0030】

スライスヘッダまたはピクチャーヘッダは、フィルターセットの数を示す情報を含む。この時、フィルターセットの数が２以上ならば、フィルター係数が予測方法を使って符号化される。したがって、スライスヘッダまたはピクチャーヘッダは、フィルター係数が予測方法で符号化されるかどうかを示す情報を含み、予測方法が使われる場合には、予測されたフィルター係数を含む。

【0031】

一方、輝度だけでなく、色差成分で適応的にフィルタリングされる。したがって、色差成分それぞれがフィルタリングされるかどうかを示す情報を、スライスヘッダまたはピクチャーヘッダが含む。この場合、ビット数を低減させるために、Ｃｒ及びＣｂについてのフィルタリング如何を示す情報をジョイントコーディング（すなわち、多重化コーディング）できる。この時、色差成分の場合には、複雑度を低減させるためにＣｒとＣｂとをいずれもフィルタリングしない場合が最も頻繁な可能性が高いので、ＣｒとＣｂとをいずれもフィルタリングしない場合に、最も小さなインデックスを割り当ててエントロピー符号化を行う。そして、Ｃｒ及びＣｂをいずれもフィルタリングする場合に、最も大きいインデックスを割り当ててエントロピー符号化を行う。

【0032】

ピクチャー保存部１８０は、後処理された映像データを後処理部１６０から入力され、ピクチャー単位で映像を復元して保存する。ピクチャーは、フレーム単位の映像であるか、またはフィールド単位の映像である。ピクチャー保存部１８０は、複数のピクチャーを保存できるバッファ（図示せず）を備える。

【0033】

インター予測部１６０は、前記ピクチャー保存部１８０に保存された少なくとも一つ以上の参照ピクチャーを用いて動き推定を行い、参照ピクチャーを示す参照ピクチャーインデックス及び動きベクトルを定める。そして、定められた参照ピクチャーインデックス及び動きベクトルによって、ピクチャー保存部１８０に保存された複数の参照ピクチャーのうち動き推定に用いられた参照ピクチャーから、符号化しようとする予測ユニットに対応する予測ブロックを抽出して出力する。

【0034】

イントラ予測部１５０は、現在予測ユニットが含まれるピクチャー内部の再構成された画素値を用いてイントラ予測符号化を行う。イントラ予測部１５０は、予測符号化する現在予測ユニットを入力され、現在ブロックのサイズによって予め設定された数のイントラ予測モードのうち一つを選択してイントラ予測を行う。イントラ予測部は、イントラ予測ブロックを生成するために参照ピクセルを適応的にフィルタリングする。参照画素が利用不可能な場合には、利用可能な参照画素を用いて参照画素を生成する。

【0035】

エントロピー符号化部１４０は、量子化部１３０によって量子化された量子化係数、イントラ予測部１４０から受信されたイントラ予測情報、インター予測部１５０から受信された動き情報などをエントロピー符号化する。

【0036】

図２は、本発明による符号化装置１００のイントラ予測部１５０を示すブロック図である。図２を参照すれば、イントラ予測部１５０は、参照画素生成部１５１、参照画素フィルタリング部１５２、予測ブロック生成部１５３、予測モード決定部１５４及び予測モード符号化部１５５を備える。

【0037】

参照画素生成部１５１は、イントラ予測のための参照画素の生成如何を判断し、生成される必要がある場合に参照画素を生成する。

【0038】

図３は、現在予測ユニットのイントラ予測に使われる参照画素の位置を示す図面である。図３に示したように、現在予測ユニットの上側参照画素は、上側参照画素、左側参照画素及びコーナー参照画素で構成される。現在予測ユニットの上側参照画素は、現在予測ユニットの横長の２倍にわたって存在する画素（領域Ｃ、Ｄ）であり、現在予測ユニットの左側参照画素は、現在予測ユニットの縦長の２倍にわたって存在する画素（領域Ａ、Ｂ）である。現在予測ユニットのコーナー参照画素は、（ｘ＝−１，ｙ＝−１）に位置する。

【0039】

参照画素生成部１５１は、参照画素が利用可能（ａｖａｉｌａｂｌｅ）かどうかを判断する。参照画素の一部が利用不可能な場合には、利用可能な参照画素を用いて利用不可能な位置の参照画素を生成する。

【0040】

現在予測ユニットがピクチャーまたはスライスの上側境界に位置する場合には、現在予測ユニットの上側参照画素（領域Ｃ、Ｄ）及びコーナー参照画素が存在しない。同様に、現在予測ユニットがピクチャーまたはスライスの左側境界に位置する場合には、左側参照画素（領域Ａ、Ｂ）及びコーナー参照画素が存在しない。このように、いずれか一方の参照画素及びコーナー参照画素が利用不可能な場合、最も隣接している利用可能な参照画素をコピーして参照画素を生成できる。前者の場合、最も隣接している利用可能な参照画素は、左側最上側の参照画素（すなわち、領域Ａの最上側参照画素）である。後者の場合、最も隣接している利用可能な参照画素は、上側の最左側の参照画素（すなわち、領域Ｃの最左側の参照画素）である。

【0041】

次いで、符号化する現在予測ユニットの上側または左側の参照画素のうち一部分が利用不可能な場合について説明する。利用不可能な参照画素を基準として、１）一方向のみに利用可能な参照画素が存在する場合と、２）双方向とも利用可能な参照画素が存在する場合の２種が存在する。

【0042】

先ず、利用不可能な参照画素を基準として一方向のみに利用可能な参照画素が存在する場合について説明する。

【0043】

現在予測ユニットの上側に隣接している参照画素（領域Ｃ）は有効であるが、右上側参照画素（領域Ｄ）が有効でないことがある。現在予測ユニットがピクチャーまたはスライスの右側境界または最大コーディングユニットの右側境界に位置する場合には、領域Ｄの参照画素が利用不可能である。この場合には、一つ以上の上側参照画素を用いて右上側参照画素（領域Ｄ）を生成する。望ましくは、上側催右側参照画素をコピーする。また、２つ以上の上側参照画素を用いて右上側参照画素を生成してもよい。

【0044】

現在予測ブロックの左側に隣接している参照画素（領域Ａ）は有効であるが、左下側参照画素（領域Ｂ）が有効でないこともある。現在予測ユニットがピクチャーまたはスライスの下側境界または最大コーディングユニットの下側境界に位置する場合には、領域Ｂの参照画素が利用不可能である。この場合には、一つ以上の左側参照画素を用いて左下側参照画素（領域Ｂ）を生成する。望ましくは、左側最下側参照画素をコピーする。また、２個以上の左側参照画素を用いて左下側参照画素を生成してもよい。

【0045】

前記場合のように、利用不可能な参照画素を基準として一方向のみに利用可能な参照画素が存在する場合には、最も近い位置に存在する利用可能な参照画素をコピーして参照画素を生成する。さらに他の方法として、最も近い位置に存在する複数の利用可能な参照画素を用いて参照画素を生成してもよい。

【0046】

次いで、利用不可能な参照画素を基準として、双方向とも利用可能な参照画素が存在する場合について説明する。

【0047】

例えば、現在予測ユニットがスライスの上側境界に位置し、前記現在予測ユニットの右上側予測ユニットが利用可能な場合、現在予測ユニットの領域Ｃに対応する参照画素は利用不可能であるが、領域Ａ及び領域Ｄに位置する参照画素は利用可能である。このように双方向とも利用可能な参照画素が存在する場合には、各方向に最も近い位置に存在する利用可能な参照画素１つずつを選択し、これら（すなわち、領域Ａの最上側参照画素と領域Ｄの最左側参照画素）を用いて利用不可能な位置の参照画素を生成する。

【0048】

前記２個の参照画素（各方向に最も近い位置に存在する画素）の四捨五入した平均値を、参照画素値として生成してもよい。しかし、前記２個の参照画素値の差が大きい可能性があるので、線形補間方法を使って参照画素を生成してもよい。具体的に利用可能な２個の参照画素との位置を考慮して、現在位置の利用不可能な参照画素を生成する。

【0049】

参照画素フィルタリング部１５２は、現在予測ユニットの参照画素を適応的にフィルタリングする。図４を参照して、参照画素フィルタリング部１５２の動作を説明する。図４は、本発明による方向性イントラ予測モードを示す図面である。

【0050】

参照画素フィルタリング部１５２は、イントラ予測モード及び参照画素の位置によって適応的にフィルタリングする。

【0051】

予測モードが、垂直（モード０）、水平（モード１）、ＤＣ（モード２）である場合には、参照画素にフィルターを適用しない。それ以外の方向性モードについては、適応的に参照画素をフィルタリングする。また、現在予測ユニットの上側の参照画素のうち最右側の参照画素（すなわち、（ｘ＝２Ｎ−１，ｙ＝−１）に位置する参照画素）と、現在予測ユニットの左側の参照画素のうち最下側に位置する参照画素（すなわち、（ｘ＝−１，ｙ＝２Ｎ−１）に位置する参照画素）とをフィルタリングせず、残りの画素は、隣接している２個の画素を用いてフィルタリングする。

【0052】

前記フィルタリングは、参照画素間の画素値の変化量をスムージングするためのものであり、ローパスフィルターを適用する。ローパスフィルターは、３タップフィルターである［１，２，１］、または５タップフィルターである［１，２，４，２，１］である。

【0053】

前記ローパスフィルターは、現在予測ユニットのサイズ及びイントラ予測モードによって適応的に適用される。

【0054】

イントラ予測方向が水平または垂直方向に対して４５°傾いたモード（モード３、６、９）については、予測ユニットのサイズによって適応的にフィルターを適用する。この場合、既定のサイズより小さな予測ユニットについては、第１フィルターを、既定のサイズ以上の予測ユニットについては、スムージング効果がさらに大きい第２フィルターを使える。前記既定のサイズは１６×１６である。

【0055】

そして、前記垂直または水平モードと、前記水平または垂直モードに対して４５°角度を持つモードとの間に存在するモードについては、予測ユニットのサイズによって適応的にフィルターを適用する。この場合、前記水平または垂直モードに対して４５°角度を持つモードに隣接している既定数のモードでのみフィルターを適用できる。方向性イントラ予測モードの数が同じ予測ユニットについては、前記既定数は、予測ユニットが大きいほど増加する。すなわち、８×８予測ユニットについては、水平または垂直モードに対して４５°角度を持つモードと、これに隣接している第１個数のモードとでフィルタリングを行い、１６×１６予測ユニットについては、水平または垂直モードに対して４５°角度を持つモードと、これに隣接している第２個数のモードとでフィルタリングを行い、３２×３２予測ユニットについては、水平または垂直モードに対して４５°角度を持つモードと、これに隣接している第３個数のモードとでフィルタリングを行う。ここで、第１個数は第２個数より小さいか、または同一であり、第２個数は第３個数より小さいか、または同一である。

【0056】

予測ブロック生成部１５３は、イントラ予測モードに対応する予測ブロックを生成する。前記予測ブロックは、イントラ予測モードに基づいて参照画素を用いる。

【0057】

ＤＣモードの場合には、予測ブロックが参照画素の平均値からなるため、参照画素に隣接している予測ブロック内の画素間には段差が発生する。したがって、参照画素に隣接している予測ブロック内の上側ラインの画素及び左側ラインの画素は、参照画素を用いてフィルタリングする。具体的に、予測ブロック内の左上側コーナーに位置する画素は、隣接する参照画素が２個（上側参照画素と左側参照画素）であるので、３タップフィルターを用いて前記左上側コーナーの画素をフィルタリング（またはスムージング）する。そして、それ以外の画素（すなわち、予測ブロック内の上側ラインの画素及び左側ラインの画素）は、隣接する参照画素が１つであるので、２タップフィルターを用いてフィルタリングする。

【0058】

平面モードでは、コーナー参照画素、左側参照画素及び上側参照画素を用いて予測ブロックの参照画素を生成する。生成しようとする参照画素の位置が（ａ，ｂ）である場合に生成される参照画素Ｘ（ａ，ｂ）は、コーナー参照画素Ｃ（ｘ＝−１，ｙ＝−１）、上側参照画素Ｔ（ｘ＝ａ，ｙ＝−１）及び左側参照画素Ｌ（ｘ＝−１，ｙ＝ｂ）を用いる。平面モードでは、予測ブロックをフィルタリングしない。

【0059】

垂直モード（モード番号０）では、上側参照画素をそのままコピーする場合、予測ブロック内の左側画素と、これに隣接している左側参照画素との間に相関関係（ｃｏｒｒｅｌａｔｉｏｎ）が落ちる。上側から遠くなるほど相関関係が低減する。同様に、水平モード（モード番号１）では、予測ブロック内の上側画素と上側参照ピクセルとの関係も、右側へ行くほど相関関係が落ちる。これにより、垂直モードでは、予測ブロックの下方へ行くほど原本予測ユニットとの差値が大きくなる。

【0060】

したがって、前記差値を低減させるために、垂直モードの場合には、予測ブロックの左側部分のピクセルを、予測ブロックの生成に用いられない左側参照ピクセルを用いてフィルタリングする。同様に、水平モードの場合には、予測ブロックの上側部分のピクセルを、予測ブロックの生成に用いられない上側参照ピクセルを用いてフィルタリングする。

【0061】

モード番号０と６との間の方向性を持つイントラ予測モード（モード番号２２、１２、２３、５、２４、１３、２５）、及びモード番号６を持つイントラ予測モードの場合、現在予測ユニットの上側参照ピクセルのみを用いて予測ブロックが生成されれば、参照ピクセルに隣接している、生成された予測ブロックの左側ラインのピクセルと前記参照ピクセルとの段差は、下方へ行くほど大きくなる。

【0062】

同様に、モード番号１と９との間の方向性を持つイントラ予測モード（モード番号３０、１６、３１、８、３２、１７、３３）、及びモード番号９を持つイントラ予測モードの場合、現在予測ユニットの左側参照ピクセルのみを用いて予測ブロックが生成されれば、参照ピクセルに隣接している、生成された予測ブロックの上側ラインのピクセルと前記参照ピクセルとの段差は、右側へ行くほど段差が大きくなる。

【0063】

したがって、前記段差を補うために、ＤＣ以外の方向性モードについても適応的に予測ブロックの一部画素をフィルタリングする。または、前記段差を補うために、予測ブロック生成のために上側及び左側参照ピクセルをいずれも用いてもよい。

【0064】

先ず、予測ブロックの一部画素をフィルタリングする方法について説明する。

【0065】

モード番号が６である場合には、上側参照画素を用いて予測ブロックを生成し、前記左側参照画素に隣接している、生成された予測ブロック内の左側画素をフィルタリングする。現在予測ユニットのサイズによって生成された予測ブロック内のフィルタリングする画素の領域が変わる。すなわち、予測ユニットのサイズによって、フィルタリングされるラインの数とライン内のフィルタリングされるピクセルとの割合が変わる。予測ユニットのサイズが大きくなるほど、フィルタリングされるラインの数が同一または増加する。また、ライン内のフィルタリングされるピクセルの割合が低減する。また、参照ピクセルから遠くなるほどフィルタリング強度を低められる。

【0066】

例えば、４×４予測ユニットについては、生成された予測ブロック内の左側第１ラインに位置するピクセル、すなわち、（ｘ＝０，ｙ＝０〜３）に位置するピクセルのみをフィルタリングする。８×８予測ユニットについては、左側第１ラインに位置するすべてのピクセル及び第２ラインに位置する一部ピクセルをフィルタリングする。前記一部のピクセルは、例えば、（ｘ＝１，ｙ＝４〜７）に位置するピクセルである。１６×１６予測ユニットについては、左側第１ラインに位置するすべてのピクセル、第２ラインに位置する第１個数のピクセル、第３ラインに位置する第２個数のピクセルをフィルタリングする。前記第１個数のピクセルは、例えば、（ｘ＝１，ｙ＝４〜７）に位置するピクセルである。前記第２個数のピクセルは、例えば、（ｘ＝２，ｙ＝８〜１５）に位置するピクセルである。また、３２×３２予測ユニットについては、左側第１ラインに位置するすべてのピクセル、第２ラインに位置する第１個数のピクセル、第３ラインに位置する第２個数のピクセル及び第４ラインの第３個数のピクセルをフィルタリングする。第３個数のピクセルは、（ｘ＝３，ｙ＝１６〜３１）に位置するピクセルである。

【0067】

モード番号０と６との間の方向性を持つモードのうち、モード番号６に近い方向性を持つ所定数のモードについても、モード番号６と同じ方法でフィルタリングを行える。この場合、モード番号６から遠いモードであるほどフィルタリングせねばならない画素の数が同一または小さくなる。モード番号０と６との間の方向性を持つモードのうち、モード番号０に近い方向性を持つ所定数のモードについては、垂直モードと同じ方法でフィルタリングが行われてもよい。

【0068】

モード番号が９である場合にも、モード番号６と同じ方法を適用する。そして、前記モード番号１と９との間の方向性を持つモードについては、モード番号０と６との間の方向性を持つモードと同じ方法を適用する。

【0069】

一方、モード番号６及びこれに隣接している所定数のモードについては、前記予測ブロックの一部画素をフィルタリングする方法を適用せず、上側及び左側参照ピクセルをいずれも用いて予測ブロックを生成する。同様に、モード番号９とこれに隣接している所定数のモードについても同一である。

【0070】

前記予測ブロックの一部画素をフィルタリングする方法は、予測ブロックの生成時にフィルタリング効果と同じ効果を持つように、予測ブロックの画素の位置（すなわち、フィルタリングする画素の位置）によって互いに異なる方式で予測ピクセルを生成する。

【0071】

予測モード決定部１５４は、現在予測ユニットのイントラ予測モードを定める。予測モード決定部１５４は、各イントラ予測モードに対する残差ブロックの符号化量が最小になるモードを、現在予測ユニットのイントラ予測モードと定める。

【0072】

予測モード符号化部１５５は、予測モード決定部１５４によって定められた現在予測ユニットのイントラ予測モードを符号化する。予測モード符号化部１５５は、イントラ予測部１５０に含まれて行われてもよく、エントロピー符号化部１４０で行われてもよい。

【0073】

予測モード符号化部１５５は、現在予測ユニットに隣接している予測ユニットのイントラ予測モードを用いて、現在予測ユニットのイントラ予測モードを符号化する。現在予測ユニットに許容されるイントラ予測モード（例えば、３５個のモード）を、複数のイントラ予測モードグループに分類する。そして、現在予測ユニットのイントラ予測モードが属するグループ、及びグループ内の現在予測ユニットのイントラ予測モードに対応するインデックスを符号化する。前記それぞれのグループは、少なくとも一つ以上のイントラ予測モードを含む。前記イントラ予測モードグループの数は、２個または３個であることが望ましい。

【0074】

以下、イントラ予測モードグループが２個である場合について説明する。

【0075】

先ず、現在予測ユニットに隣接している予測ユニットのイントラ予測モードを誘導する。前記モードは、現在予測ユニットの上側予測ユニット及び左側予測ユニットのイントラ予測モードである。現在予測ユニットの上側予測ユニットが複数存在する場合には、既定の方向（例えば、左から右へ）にスキャンしつつ、有効な最初の予測ユニットのイントラ予測モードを上側イントラ予測モードと設定する。現在予測ユニットの左側予測ユニットが複数存在する場合にも、既定の方向（例えば、上から下へ）にスキャンしつつ、有効な最初の予測ユニットのイントラ予測モードを左側イントラ予測モードと設定する。または、複数の有効な予測ユニットのモード番号のうち最も小さなモード番号を上側イントラ予測モードと設定する。

【0076】

次いで、誘導されたイントラ予測モードのモード番号が、現在予測ユニットに許容されるイントラ予測モードの数より大きいか、または同一であれば、前記誘導されたイントラ予測モードを、現在予測ユニットで許容するイントラ予測モードのうち一つにマッピングする。

【0077】

次いで、前記誘導またはマッピングされたイントラ予測モードを用いて、第１イントラ予測モードグループを形成する。

【0078】

前記誘導またはマッピングされたイントラ予測モード及び前記イントラ予測モードによって、既定の順序の候補者イントラ予測モードを用いて第１イントラ予測モードグループを形成する。前記誘導またはマッピングされたイントラ予測モードが方向性モードである場合には、前記既定の候補者イントラ予測モードは、前記誘導またはマッピングされたイントラ予測モードの方向性に最も隣接している少なくとも一つ以上のイントラ予測モードである。

【0079】

次いで、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに含まれるかどうかを判断する。

【0080】

現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに含まれれば、前記第１イントラ予測モードグループを示す情報と、前記第１イントラ予測モードグループ内の対応するインデックスとを符号化する。

【0081】

しかし、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに含まれていなければ、第２イントラ予測モードグループを示す情報と、前記第２イントラ予測モードグループ内の対応するインデックスとを符号化する。前記第２イントラ予測モードグループに属するイントラ予測モードは、第１イントラ予測モードグループに属するイントラ予測モードを除いたイントラ予測モードである。

【0082】

前記現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードがいずれも有効でない場合には、少なくとも一つ以上のイントラ予測モードが前記第１イントラ予測モードグループに追加される。例えば、一つのモードが追加される場合には、ＤＣモードまたは平面モードが追加される。２つのモードが追加される場合には、ＤＣモードと、平面モードまたは垂直モードとが追加される。３つのモードが追加される場合には、ＤＣモードと、平面モード、垂直モード及び水平モードのうち２つが追加される。

【0083】

前記左側及び上側予測ユニットのイントラ予測モードのうち一つのみ有効であるか、または同じ場合には、少なくとも１つまたは２つのイントラ予測モードが前記第１イントラ予測モードグループに追加される。

【0084】

１つが追加される場合には、ＤＣモードと平面モードのうち一つが追加される。２つが追加される場合には、前記有効なイントラ予測モードが方向性モードであるかどうかによって変わる。前記有効なイントラ予測モードが非方向性予測モード（ＤＣモードまたは平面モード）である場合には、垂直モードと水平モードまたは他の一つの非方向性モード（平面モードまたはＤＣモード）と垂直モードが追加される。前記有効なイントラ予測モードが方向性モードである場合には、前記有効なイントラ予測モードと最も隣接している両方のイントラ予測モードが追加される。しかし、前記有効なイントラ予測モードの一方のみに方向性モードが存在するモード（モード６またはモード９）である場合には、隣接する一つのモード（モード２５またはモード３３）とＤＣモードまたは平面モードが追加される。

【0085】

現在予測ユニットのイントラ予測モードが前記第２イントラ予測モードグループに属する場合には、前記最後の予測モードグループに含まれたイントラ予測モードを再整列したモード番号に対応するインデックスを符号化する。この場合、一つのＶＬＣテーブルを使う。

【0086】

以上では、イントラ予測モードグループが２個である場合を例示として挙げたが、イントラ予測モードグループが３個である場合も可能である。この場合には、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属していなければ、第２イントラ予測モードグループに属するかどうかを判断する。そして、第２イントラ予測モードグループに属すれば、前記第２イントラ予測モードグループを示す情報と、前記第２イントラ予測モードグループ内の対応するインデックスとを符号化する。しかし、第２イントラ予測モードグループに属していなければ、第３イントラ予測モードグループを示す情報と、前記第３イントラ予測モードグループ内の対応するインデックスとを符号化する。この場合、前記第２イントラ予測モードグループは、現在予測ユニットの左側及び上側予測ユニットのイントラ予測モードに基づいて生成される。

【0087】

また、予測モード符号化部１５５は、現在予測ユニットのイントラ予測モードを次のように符号化してもよい。先ず、現在予測ユニットのイントラ予測モードが、隣接する以前ブロックのイントラ予測モードのうちいずれか一つと同じかどうかを定める。現在予測ユニットのイントラ予測モードが、隣接する以前ブロックのイントラ予測モードのうちいずれか一つと同一であれば、これを示すフラグｐｒｅｄ＿ｆｌａｇの値を１と設定し、前記隣接する左側または上側の利用可能な（ａｖａｉｌａｂｌｅ）モードを用いて現在予測ユニットのイントラ予測モードを符号化する。しかし、現在予測ユニットのイントラ予測モードが、隣接する以前ブロックのイントラ予測モードのうちいずれか一つと同一でなければ、前記フラグｐｒｅｄ＿ｆｌａｇの値を０と設定し、前記左側及び上側のイントラ予測モードを除いた残りのイントラ予測モードのうち、現在予測ユニットのイントラ予測モードが何番目に対応するかを示す値を符号化する。

【0088】

一方、ｃｈｒｏｍａのイントラ予測モードは、ｌｕｍａのイントラ予測モードを用いるモード（ｌｕｍａモード）を適応的に含む。したがって、前記ｌｕｍａモードを含む場合、ＳＰＳ、ＰＰＳまたはスライスヘッダに前記情報を含める。Ｃｈｒｏｍａのイントラ予測モードの数は、予測ユニットのサイズによって変わる。Ｃｈｒｏｍａのイントラ予測モード符号化は、ｌｕｍａと同様に隣接ブロックのイントラ予測モードを用いる。具体的方法は、前記で例示した方式と同一である。また、ｃｈｒｏｍａのイントラ予測モードは、隣接ブロックのイントラ予測モード情報を用いずにそのまま符号化されてもよい。この場合、ＶＬＣテーブルが使われる。

【0089】

予測ブロック伝送部１５６は、前記予測モード決定部１５４によって定められたイントラ予測モードに対応して生成された予測ブロックを減算部１９０に伝送する。

【0090】

図５は、本発明の実施形態による動画復号化装置を示すブロック図である。図５を参照すれば、本発明による動画復号化装置は、エントロピー復号部２１０、逆スキャニング部２２０、逆量子化部２３０、逆変換部２４０、イントラ予測部２５０、インター予測部２６０、後処理部２７０、ピクチャー保存部２８０、加算部２９０、及びイントラ／インター転換スィッチ２９５を備える。

【0091】

エントロピー復号部２１０は、受信された符号化ビートストリームを復号して、イントラ予測情報、インター予測情報、量子化係数情報などに分離する。エントロピー復号部２１０は、復号されたインター予測情報をインター予測部２６０に供給する。エントロピー復号部２１０は、イントラ予測情報を復号してイントラ予測部２５０に供給する。また、前記エントロピー復号化２１０は、前記逆量子化係数情報を逆スキャニング部２２０に供給する。

【0092】

逆スキャニング部２２０は、前記量子化係数情報を２次元配列の逆量子化ブロックに変換する。前記変換のために、複数の逆スキャニングパターンのうち一つを選択する。係数逆スキャニングパターンは、イントラ予測モードによって定められる。現在変換ユニットのサイズが既定のサイズより大きい場合には、既定のサイズのサブセット単位で逆スキャンして量子化された変換ユニットを構成する。そして、現在変換ユニットのサイズが既定のサイズの場合と同じ場合には、変換ユニット単位で逆スキャンして量子化された変換ユニットを構成する。前記量子化された係数が複数のサブセット単位で逆スキャンされる場合には、それぞれのサブセット内の量子化係数に同じ逆スキャンパターンを適用する。前記複数のサブセットは、一つのメインサブセットと少なくとも一つ以上の残余サブセットとで構成される。メインサブセットは、ＤＣ係数を含む左上側に位置し、前記残余サブセットは、メインサブセット以外の領域をカバーする。

【0093】

サブセット間の逆スキャンパターンは、逆ジグザグスキャンを適用する。スキャンパターンは、残余サブセットドルからメインサブセットに逆スキャンすることが望ましいが、その逆方向も可能である。また、サブセット内の量子化された係数の逆スキャンパターンと同じくサブセット間の逆スキャンパターンを設定してもよい。逆スキャニング部２２０は、現在変換ユニット内の０ではない最後の量子化係数の位置を示す情報を用いて逆スキャニングを行う。

【0094】

逆量子化部２３０は、現在コーディングユニットの量子化ステップサイズ予測子を定める。前記予測子の決定過程は、図１の量子化部１３０の予測子決定過程と同一であるので略する。逆量子化部２３０は、定められた量子化ステップサイズ予測子と受信した残差量子化ステップサイズとを加えて、現在逆量子化ブロックに適用された量子化ステップサイズを得る。逆量子化部２３０は、量子化ステップサイズが適用された量子化マトリックスを用いて逆量子化係数を復元する。復元しようとする現在ブロックのサイズによって互いに異なる量子化マトリックスが適用され、同一サイズのブロックについても、前記現在ブロックの予測モード及びイントラ予測モードのうち少なくとも一つに基づいて量子化マトリックスが選択される。

【0095】

逆変換部２４０は、逆量子化ブロックを逆変換して残差ブロックを復元する。そして、前記復元された量子化係数を逆変換して残差ブロックを復元する。前記逆量子化ブロックに適用する逆変換マトリックスは、予測モード（イントラまたはインター）及びイントラ予測モードによって適応的に定められる。図１の変換部１２０に適用された変換マトリックスの逆変換マトリックスが定められるので、具体的な記載は略する。

【0096】

加算部２９０は、逆変換部２４０によって復元された残差ブロックと、イントラ予測部２５０またはインター予測部２６０によって生成される予測ブロックとを加算することで、映像ブロックを復元する。

【0097】

イントラ予測部２５０は、エントロピー復号化部２１０から受信されたイントラ予測情報に基づいて現在ブロックのイントラ予測モードを復元する。そして、復元されたイントラ予測モードによって予測ブロックを生成する。

【0098】

インター予測部２６０は、エントロピー復号化部２１０から受信されたインター予測情報に基づいて参照ピクチャーインデックス及び動きベクトルを復元する。そして、前記参照ピクチャーインデックス及び動きベクトルを用いて現在ブロックに対する予測ブロックを生成する。小数点精度の動き補償が適用される場合には、選択された補間フィルターを適用して予測ブロックを生成する。

【0099】

後処理部２７０の動作は、図３の後処理部１６０の動作と同一であるので略する。ピクチャー保存部２８０は、後処理部２７０によって後処理された復号映像をピクチャー単位で保存する。

【0100】

図６は、本発明による復号化装置２００のイントラ予測部２５０を示すブロック図である。本発明によるイントラ予測部２５０は、予測モード復号化部２５１、参照画素生成部２５２、参照画素フィルタリング部２５３、予測ブロック生成部２５４及び予測ブロック伝送部２５５を備える。

【0101】

予測モード復号化部２５１は、エントロピー復号部２１０部からイントラ予測情報を受信して現在予測ユニットのイントラ予測モードを復元する。前記イントラ予測情報は、復号化する現在予測ユニットのイントラ予測モードが属するイントラ予測モードグループを示す情報と、イントラ予測モードインデックスとを含む。

【0102】

予測モード復号化部２５１は、現在予測ユニットに隣接している予測ユニットのイントラ予測モードを誘導する。前記モードは、現在予測ユニットの上側予測ユニット及び左側予測ユニットのイントラ予測モードである。現在予測ユニットの上側予測ユニットが複数存在する場合には、既定の方向（例えば、左から右へ）にスキャンしつつ、有効な最初の予測ユニットのイントラ予測モードを上側イントラ予測モードと設定する。現在予測ユニットの左側予測ユニットが複数存在する場合にも、既定の方向（例えば、上から下へ）にスキャンしつつ、有効な最初の予測ユニットのイントラ予測モードを左側イントラ予測モードと設定する。あるいは、複数の有効な予測ユニットのモード番号のうち最も小さなモード番号を上側イントラ予測モードと設定してもよい。

【0103】

誘導されたイントラ予測モードのモード番号が、現在予測ユニットに許容されるイントラ予測モードの数より大きいか、または同一であれば、前記誘導されたイントラ予測モードを、現在予測ユニットで許容するイントラ予測モードのうち一つにマッピングする。

【0104】

前記誘導またはマッピングされたイントラ予測モードを用いて第１イントラ予測モードグループを形成する。前記誘導またはマッピングされたイントラ予測モード及び前記イントラ予測モードによって既定された順序の候補者イントラ予測モードが第１イントラ予測モードグループに含まれる。前記誘導またはマッピングされたイントラ予測モードが方向性モードである場合には、前記既定の候補者イントラ予測モードは、前記誘導またはマッピングされたイントラ予測モードの方向性に最も隣接する少なくとも一つ以上のイントラ予測モードである。

【0105】

前記エントロピー復号化部２１０から受信された現在予測ユニットのイントラ予測モードを示す情報が、第１イントラ予測モードグループを示すかどうかを判断する。

【0106】

前記受信された現在予測ユニットのイントラ予測モードを示す情報が第１イントラ予測モードグループを示せば、受信されたイントラ予測モードインデックスに対応するイントラ予測モードを、前記形成された第１イントラ予測モードグループ内で選択する。そして、選択されたイントラ予測モードを、現在予測ユニットのイントラ予測モードと設定する。

【0107】

しかし、前記受信された現在予測ユニットのイントラ予測モードを示す情報が第２イントラ予測モードグループを示せば、受信されたイントラ予測モードインデックスに対応するイントラ予測モードを、第２イントラ予測モードグループ内で選択する。そして、選択されたイントラ予測モードを現在予測ユニットのイントラ予測モードと設定する。前記第２イントラ予測モードグループは、前記第１イントラ予測モードグループ内に属するイントラ予測モード以外のイントラ予測モードで構成される。前記第２イントラ予測モードグループ内のイントラ予測モードは、インデックスを基準に再整列される。また、前記第２イントラ予測モードグループ内のイントラ予測モードは、インデックス及び現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードに基づいて再整列されてもよい。

【0108】

前記現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードがいずれも有効（ａｖａｉｌａｂｌｅ）でない場合には、少なくとも一つ以上のイントラ予測モードが前記第１イントラ予測モードグループに追加される。例えば、一つのモードが追加される場合には、ＤＣモードまたは平面モードが追加される。２つのモードが追加される場合には、ＤＣモードと、平面モードまたは垂直モードとが追加される。３つのモードが追加される場合には、ＤＣモードと、平面モード、垂直モード及び水平モードのうち２つが追加される。

【0109】

前記左側及び上側予測ユニットのイントラ予測モードのうち一つのみ有効であるか、または同一である場合には、少なくとも一つまたは２つのイントラ予測モードが前記第１イントラ予測モードグループに追加される。１つが追加される場合には、ＤＣモードと平面モードのうち一つが追加される。２つが追加される場合には、前記有効なイントラ予測モードが方向性モードであるかどうかによって変わる。前記有効なイントラ予測モードが非方向性予測モード（ＤＣモードまたは平面モード）である場合には、垂直モードと水平モードまたは他の一つの非方向性モード（平面モードまたはＤＣモード）と垂直モードが追加される。前記有効なイントラ予測モードが方向性モードである場合には、前記有効なイントラ予測モードと最も隣接している両方のイントラ予測モードが追加される。しかし、前記有効なイントラ予測モードの一方のみに方向性モードが存在するモード（モード６またはモード９）である場合には、隣接する一つのモード（モード２５またはモード３３）とＤＣモードまたは平面モードが追加される。

【0110】

また、予測モード復号化部２５１は、現在予測ユニットのイントラ予測モードを次のように復号化してもよい。先ず、現在予測ユニットのイントラ予測モードが、隣接する以前予測ユニット（例えば、上側及び左側予測ユニット）イントラ予測モードのうちいずれか一つと同一であるかどうかを示すフラグｐｒｅｄ＿ｆｌａｇをパージングする。前記フラグｐｒｅｄ＿ｆｌａｇの値が１ならば、利用可能な左側及び上側予測ユニットのイントラ予測モードを用いて現在予測ユニットのイントラ予測モードを求める。前記フラグｐｒｅｄ＿ｆｌａｇの値が０ならば、残余イントラ予測モード情報ｒｅｍ＿ｐｒｅｄ＿ｍｏｄｅを用いて現在予測ユニットのイントラ予測モードを求める。この場合、前記残余イントラ予測モード情報ｒｅｍ＿ｐｒｅｄ＿ｍｏｄｅは、前記利用可能な左側及び上側予測ユニットのイントラ予測モードを除いたイントラ予測モードのうち、現在予測ユニットのイントラ予測モードの順序を示す。

【0111】

参照画素生成部２５２は、符号化装置１００の参照画素生成部１５１と同じ方法で参照画素を生成する。但し、参照画素生成部２５２は、予測モード復号化部２５１によって復元されたイントラ予測モードによって適応的に参照画素を生成する。すなわち、参照画素生成部２５２は、復元されたイントラ予測モードを用いて、予測ブロックの生成に使われる参照画素が有効ではない場合にのみ参照画素を生成する。

【0112】

参照画素フィルタリング部２５３は、予測モード復号化部２５１によって復元されたイントラ予測モード及び現在予測ユニットのサイズ情報に基づいて、参照画素を適応的にフィルタリングする。フィルタリング条件及びフィルターは、符号化装置１００の参照画素フィルタリング部１５２のフィルタリング条件及びフィルターと同一である。

【0113】

予測ブロック生成部２５４は、予測モード復号化部２５１によって復元されたイントラ予測モードによって、参照画素を用いて予測ブロックを生成する。予測ブロックの生成方法は、符号化装置１００の予測ブロック生成部１５４と同一である。

【0114】

予測ブロック伝送部２５５は、前記予測モード生成部２５４から受信された予測ブロックを加算器２９０に伝送する。

【0115】

図７は、本発明によるイントラ予測復号化過程を示すフローチャートである。先ず、受信されたビットストリームからイントラ予測情報及び残差信号情報を逆多重化する（Ｓ１００）。前記段階は、コーディングユニット単位で行われる。前記イントラ予測情報はコーディングユニット内の予測ユニットシンタックスから得、残差信号情報はコーディングユニット内の変換ユニットシンタックスから得る。

【0116】

予測ユニットシンタックスから得たイントラ予測情報を用いて、現在予測ユニットのイントラ予測モードを復号する（Ｓ１１０）。前記イントラ予測情報は、イントラ予測モードグループ指示子ｐｒｅｄ＿ｍｏｄｅ及び予測モードインデックスを含む。前記イントラ予測情報が予測モードインデックスを含まない場合、前記予測モードインデックスは０とみなす。前記イントラ予測モードグループ指示子は、現在予測ユニットが属するイントラ予測モードグループを示す。イントラ予測モードグループが２つ存在する場合、前記イントラ予測グループ指示子ｐｒｅｄ＿ｍｏｄｅは、１ビットのフラグでありうる。イントラ予測モードグループの数は２つまたは３つである。

【0117】

図８は、第１イントラ予測モードグループ内の予測モードの数が可変である場合の、本発明によるイントラ予測モードを復元する段階（Ｓ１１０）を具体的に説明する図面である。ここでは、イントラ予測モードグループの数が２つである場合について説明する。

【0118】

先ず、現在予測ユニットに隣接している予測ユニットの利用可能なイントラ予測モードを用いて第１イントラ予測モードグループを生成する（Ｓ１１１）。

【0119】

前記第１イントラ予測モードグループは、現在予測ユニットの上側及び左側予測ユニットの有効なイントラ予測モードを用いて構成される。この場合、前記上側及び左側予測ユニットのイントラ予測モードがいずれも有効でない場合には、ＤＣモードまたは平面モードが追加される。また、前記第１イントラ予測モードグループは、現在予測ユニットの右上側、左下側、左上側予測ユニットのイントラ予測モードのうち有効な少なくとも一つのモードをさらに含む。前記モードは、既定の順序によって検索された最初の有効なイントラ予測モードである。

【0120】

現在予測ユニットの上側予測ユニットが複数存在する場合には、既定の方向（例えば、左側から右側方向）にスキャンしつつ、有効な最初の予測ユニットのイントラ予測モードを上側イントラ予測モードと設定する。現在予測ユニットの左側予測ユニットが複数存在する場合にも、既定の方向（例えば、上側から下側方向）にスキャンしつつ、有効な最初の予測ユニットのイントラ予測モードを左側イントラ予測モードと設定する。

【0121】

前記有効なイントラ予測モードが現在予測ユニットの許容可能なイントラ予測モード内に属していない場合には、前記有効なイントラ予測モードは、現在予測ユニットの許容可能なイントラ予測モードのうち一つにマッピングされる。

【0122】

前記イントラ予測モードグループ指示子を用いて、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属するかどうかを判断する（Ｓ１１２）。

【0123】

段階Ｓ１１２で、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属する場合、予測モードインデックスが存在するかどうかを判断する（Ｓ１１３）。

【0124】

段階Ｓ１１３で、予測モードインデックスが存在すれば、前記第１イントラ予測モードグループ内のイントラ予測モードのうち、前記予測モードインデックスに対応するイントラ予測モードを現在予測ユニットのイントラ予測モードと定める（Ｓ１１４）。

【0125】

段階Ｓ１１３で、予測モードインデックスが存在していなければ、予測モードインデックスを０とみなす。そして、前記第１イントラ予測モードグループ内に存在するイントラ予測モードを現在予測ユニットのイントラ予測モードと定める（Ｓ１１５）。すなわち、予測モードインデックスが存在していなければ、第１イントラ予測モードグループは一つのイントラ予測モードを含む。

【0126】

段階Ｓ１１２で、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属していない場合には、第２イントラ予測モードグループ内のイントラ予測モードのうち、前記予測モードインデックスに対応するイントラ予測モードを選択して、現在予測ユニットのイントラ予測モードと定める（Ｓ１１６）。前記第２イントラ予測モードグループは、前記第１イントラ予測モードグループに属するイントラ予測モードを除いたイントラ予測モードで構成される。前記第２イントラ予測モードグループ内のイントラ予測モード候補者は、イントラ予測モード番号の小さなものに低いインデックスを与える。

【0127】

図９は、第１イントラ予測モードグループ内の予測モード候補者数が固定値である場合の、本発明によるイントラ予測モード復元段階（Ｓ１１０）を具体的に説明する図面である。

【0128】

先ず、現在予測ユニットに隣接している予測ユニットのイントラ予測モードを用いて第１イントラ予測モードグループを生成する（Ｓ２１１）。

【0129】

前記第１イントラ予測モードグループが２個のイントラ予測モードを含む場合について説明する。

【0130】

現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードが有効かどうかを判断する。そして、前記有効なイントラ予測モードが現在予測ユニットの許容可能なイントラ予測モード内に属していない場合には、前記有効なイントラ予測モードは、現在予測ユニットの許容可能なイントラ予測モードのうち一つに変換（マッピング）される。現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードがいずれも有効で同一でない場合には、前記第１イントラ予測モードグループは、前記現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードで構成される。現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードのうち一つのみ有効であるか、または２つが同じイントラ予測モードを持つ場合には、一つのイントラ予測モードが前記第１イントラ予測モードグループに追加される。前記有効な一つのイントラ予測モードがＤＣモードではない場合には、ＤＣモードを追加する。前記有効な一つのイントラ予測モードがＤＣモードである場合には、平面モードまたは垂直モードが追加される。

【0131】

次いで、前記第１イントラ予測モードグループが３つのイントラ予測モードを含む場合について説明する。

【0132】

現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードが有効かどうかを判断する。そして、前記有効なイントラ予測モードが現在予測ユニットの許容可能なイントラ予測モード内に属していない場合には、前記有効なイントラ予測モードは、現在予測ユニットの許容可能なイントラ予測モードのうち一つに変換（マッピング）される。

【0133】

現在予測ユニットの上側及び左側予測ユニットのイントラ予測モードがいずれも有効で同一でない場合には、前記第１イントラ予測モードグループは、前記有効な２つのイントラ予測モードと１つの追加イントラ予測モードとで構成される。前記追加イントラ予測モードは、前記２つのイントラ予測モードとは異なるモードであり、垂直モード、水平モード及びＤＣモードのうち一つである。この場合、ＤＣモード、垂直モード、水平モードの順序で追加可能な一つのモードが前記第１イントラ予測モードグループに含まれる。

【0134】

現在予測ユニットの上側及び左側予測のイントラ予測モードのうち一つのみ有効か、または前記２つのイントラ予測モードが同一である場合には、前記第１イントラ予測モードグループは、前記有効なイントラ予測モードと２つの追加イントラ予測モードとで構成される。前記２つの追加イントラ予測モードは、前記有効なイントラ予測モード及び予測ユニットのサイズによって適応的に定められる。予測ユニットのサイズが既定のサイズより小さいか、または同一であれば、前記有効なイントラ予測モードが方向性予測モードならば、前記有効なイントラ予測モードの方向に最も隣接している方向を持つイントラ予測モードが前記追加イントラ予測モードと設定される。但し、モード６または９の場合には、それぞれモード９または６を、最も隣接している方向を持つ方向性予測モードのうち一つとみなす。前記有効なイントラ予測モードが非方向性予測モードならば、垂直モード及び水平モードが追加イントラ予測モードと設定されるか、または残りの一つの非方向性予測モード及び垂直モードが追加イントラ予測モードと設定される。

【0135】

現在予測ユニットの上側及び左側予測のイントラ予測モードがいずれも有効でない場合には、前記第１イントラ予測モードグループは、３つの追加イントラ予測モードで構成される。前記３つの追加イントラ予測モードは、ＤＣモード、垂直モード及び水平モードである。また、ＤＣモード、平面モード及び垂直モードである。

【0136】

現在予測ユニットの上側予測ユニットが複数存在する場合には、既定の方向（例えば、左側から右側方向）にスキャンしつつ、有効な最初の予測ユニットのイントラ予測モードを上側イントラ予測モードと設定する。現在予測ユニットの左側予測ユニットが複数存在する場合にも、既定の方向（例えば、上側から下側方向）にスキャンしつつ、有効な最初の予測ユニットのイントラ予測モードを左側イントラ予測モードと設定する。

【0137】

次いで、前記イントラ予測モードグループ指示子を用いて、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属するかどうかを判断する（Ｓ２１２）。段階Ｓ２１２で、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属する場合、前記第１イントラ予測モードグループ内のイントラ予測モードのうち、前記予測モードインデックスに対応するイントラ予測モードを現在予測ユニットのイントラ予測モードと定める（Ｓ２１３）。

【0138】

段階Ｓ２１２で、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属していない場合には、第２イントラ予測モードグループ内のイントラ予測モードのうち、前記予測モードインデックスに対応するイントラ予測モードを選択して、現在予測ユニットのイントラ予測モードと定める（Ｓ２１４）。前記第２イントラ予測モードグループは、前記第１イントラ予測モードグループに属するイントラ予測モードを除いたイントラ予測モードで構成される。

【0139】

前記第２イントラ予測モードグループ内のイントラ予測モード候補者は、イントラ予測モード番号の小さなものに低いインデックスを与える。

【0140】

次いで、前記復号された現在予測ユニットのイントラ予測モードに基づいて参照画素を適応的に生成する（Ｓ１２０）。

【0141】

利用不可能な参照画素を基準として一方向のみに利用可能な参照画素が存在する場合には、最も近い位置に存在する利用可能な参照画素をコピーして参照画素を生成する。さらに他の方法として、最も近い位置に存在する複数の利用可能な参照画素を用いて参照画素を生成してもよい。利用不可能な参照画素を基準として双方向とも利用可能な参照画素が存在する場合には、各方向の最も隣接している利用可能な参照画素を用いて参照画素を生成する。前記生成される参照画素は、前記２個の参照画素（各方向に最も近い位置に存在する画素）の四捨五入した平均値を参照画素値として生成してもよい。しかし、前記２個の参照画素値の差が大きい場合が発生する可能性があるので、線形補間方法を使って参照画素を生成してもよい。

【0142】

次いで、復号されたイントラ予測モードに基づいて参照画素を適応的にフィルタリングする（Ｓ１３０）。復号されたイントラ予測モードが垂直（モード０）、水平（モード１）、ＤＣ（モード２）である場合には、参照画素にフィルターを適用しない。それ以外の方向性モードについては、適応的に参照画素をフィルタリングする。また、現在予測ユニットの上側の参照画素のうち最右側の参照画素（すなわち、（ｘ＝２Ｎ−１，ｙ＝−１）に位置する参照画素）と、現在予測ユニットの左側の参照画素のうち最下側に位置する参照画素（すなわち、（ｘ＝−１，ｙ＝２Ｎ−１）に位置する参照画素）とをフィルタリングせず、残りの画素は、隣接する２個の画素を用いてフィルタリングする。

【0143】

前記フィルタリングは、参照画素間の画素値の変化量をスムージングするためのものであり、ローパスフィルターを適用する。ローパスフィルターは、３タップフィルターである［１，２，１］、または５タップフィルターである［１，２，４，２，１］である。前記ローパスフィルターは、現在予測ユニットのサイズ及びイントラ予測モードによって適応的に適用される。

【0144】

垂直または水平モードと、前記水平または垂直モードに対して４５°角度を持つモードとの間に存在するモードについては、予測ユニットのサイズによって適応的にフィルターを適用する。この場合、イントラ予測ユニットのサイズによって、前記水平または垂直モード及びこれに隣接している既定数のモードでのみフィルターを適用する。方向性イントラ予測モードの数が同じ予測ユニットについては、前記既定数は予測ユニットが大きいほど単調増加する。すなわち、８×８予測ユニットについては、水平または垂直モードに対して４５°角度を持つモードと、これに隣接している第１個数のモードとでフィルタリングを行い、１６×１６予測ユニットについては、水平または垂直モードに対して４５°角度を持つモードと、これに隣接している第２個数のモードとでフィルタリングを行い、３２×３２予測ユニットについては、水平または垂直モードに対して４５°角度を持つモードと、これに隣接している第３個数のモードとでフィルタリングを行う。ここで、第１個数は第２個数より小さいか、または同一であり、第２個数は第３個数より小さいか、または同一である。

【0145】

次いで、復号されたイントラ予測モードによって参照画素を用いて予測ブロックを生成する（Ｓ１４０）。前記予測ブロックの生成方法は、図６の予測ブロック生成部の予測ブロック生成方法と同一であるので略する。逆多重化された残差信号をエントロピー復号化する（Ｓ１５０）。

【0146】

エントロピー復号化された残差信号を逆スキャンする（Ｓ１６０）。すなわち、復号化された残差信号を２次元配列の逆量子化ブロックに変換する。前記変換のために、複数の逆スキャニングパターンのうち一つを選択する。係数逆スキャニングパターンは、イントラ予測モードによって定められる。現在変換ユニットのサイズが既定のサイズより大きい場合には、既定のサイズのサブセット単位で逆スキャンして量子化された変換ユニットを構成する。そして、現在変換ユニットのサイズが既定のサイズである場合と同じ場合には、変換ユニット単位で逆スキャンして量子化された変換ユニットを構成する。

【0147】

２次元配列の逆量子化ブロックを逆量子化する（Ｓ１７０）。このために、現在コーディングユニットの量子化ステップサイズ予測子を定める。前記予測子の決定過程は、図５の逆量子化部２３０の予測子決定過程と同一であるので略する。定められた量子化ステップサイズ予測子と受信した残差量子化ステップサイズとを加えて、現在逆量子化ブロックに適用された量子化ステップサイズを得る。そして、量子化ステップサイズが適用された量子化マトリックスを用いて逆量子化係数を復元する。

【0148】

次いで、逆量子化されたブロックを逆変換する（Ｓ１８０）。復号されたイントラ予測モードによって適応的に逆変換マトリックスが定められる。変換単位は、２個（水平、垂直）の１次元変換マトリックスによって変換される。イントラ予測モードが水平である場合には、残差ブロックが垂直方向への方向性を持つ確率が高くなるので、垂直方向には逆ＤＣＴ基盤の定数マトリックスを適用し、水平方向には逆ＤＳＴ基盤または逆ＫＬＴ基盤の定数マトリックスを適用する。イントラ予測モードが垂直である場合には、垂直方向には逆ＤＳＴ基盤または逆ＫＬＴ基盤の定数マトリックスを、水平方向には逆ＤＣＴ基盤の定数マトリックスを適用する。ＤＣモードの場合には、双方向とも逆ＤＣＴ基盤の定数マトリックスを適用する。

【0149】

次いで、段階Ｓ１４０で生成された予測ブロックと逆変換されたブロックとを加えて復元映像を生成する（Ｓ１９０）。復元された残差信号及び予測ブロックは、ＣＵ単位で合わせられて復元される。

【0150】

以上、実施形態を参照して説明したが、当業者ならば、特許請求の範囲に記載した本発明の思想及び領域から逸脱しない範囲内で本発明を多様に修正及び変更できるということを理解できるであろう。

【0151】

（付記１）
イントラ予測復号化方法において、
イントラ予測情報及び残差信号を逆多重化する段階と、
前記イントラ予測情報及び現在予測ユニットに隣接している予測ユニットのイントラ予測モードを用いて、現在予測ユニットのイントラ予測モードを復号する段階と、
現在予測ユニットの利用不可能な参照画素が存在する場合、一つ以上の利用可能な参照画素を用いて参照画素を生成する段階と、
前記復号されたイントラ予測モードに基づいて前記参照画素をフィルタリングする段階と、
前記復号されたイントラ予測モード及び前記参照画素を用いて予測ブロックを生成する段階と、
前記逆多重化された残差信号を復号化して残差ブロックを生成する段階と、
前記予測ブロック及び残差ブロックを用いて復元ブロックを生成する段階と、を含むことを特徴とするイントラ予測復号化方法。
（付記２）
参照画素を生成する段階は、
前記現在予測ユニットの利用不可能な参照画素の一方向のみに利用可能な参照画素が存在すれば、前記一方向の最も隣接している利用可能な参照画素を用いて参照画素を生成する段階と、
前記現在予測ユニットの利用不可能な参照画素の双方向に利用可能な参照画素が存在する場合、一方向の最も隣接している利用可能な参照画素及び他方向の最も隣接している利用可能な参照画素を用いて参照画素を生成する段階と、を含むことを特徴とする付記１に記載のイントラ予測復号化方法。
（付記３）
前記現在予測ユニットの利用不可能な参照画素の双方向に利用可能な参照画素が存在する場合、一方向の最も隣接している利用可能な参照画素及び他方向の最も隣接している利用可能な参照画素の四捨五入した平均値、または線形結合によって生成された値を用いて参照画素を生成する段階を含むことを特徴とする付記１に記載のイントラ予測復号化方法。
（付記４）
現在予測ユニットのイントラ予測モードを復号化する段階は、
現在予測ユニットに隣接しているイントラ予測ユニットの利用可能なイントラ予測モードを用いて第１イントラ予測モードグループを生成する段階と、
前記イントラ予測情報内のイントラ予測モードグループ指示子を用いて、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属するか、または第２イントラ予測モードグループに属するかを判断する段階と、
現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属する場合、前記イントラ予測情報内の予測モードインデックスが存在すれば、前記第１イントラ予測モードグループ内のイントラ予測モードのうち、前記予測モードインデックスに対応するイントラ予測モードを現在予測ユニットのイントラ予測モードと定め、前記イントラ予測情報内の予測モードインデックスが存在していなければ、前記第１イントラ予測モード内に存在する１つのイントラ予測モードを現在予測ユニットのイントラ予測モードと定める段階と、
現在予測ユニットのイントラ予測モードが第２イントラ予測モードグループに属すれば、前記イントラ予測情報内の予測モードインデックスを用いて現在予測ユニットのイントラ予測モードを定める段階と、を含むことを特徴とする付記１に記載のイントラ予測復号化方法。
（付記５）
前記第１イントラ予測モードグループは、現在予測ユニットの左側予測ユニットの利用可能なイントラ予測モード、及び現在予測ユニットの上側予測ユニットの利用可能なイントラ予測モードを含むことを特徴とする付記４に記載のイントラ予測復号化方法。
（付記６）
前記現在予測ユニットの左側予測ユニットのイントラ予測モード及び現在予測ユニットの上側予測ユニットのイントラ予測モードがいずれも利用不可能な場合、前記第１イントラ予測モードグループは、ＤＣモードまたは平面モードを含むことを特徴とする付記４に記載のイントラ予測復号化方法。
（付記７）
現在予測ユニットの左側に複数のイントラ予測ユニットが存在する場合、利用可能なイントラ予測モードを持つ最上側のイントラ予測ユニットのイントラ予測モードを、左側予測ユニットのイントラ予測モードと定めることを特徴とする付記５に記載のイントラ予測復号化方法。
（付記８）
前記イントラ予測情報は、イントラ予測モードグループ指示子及び予測モードインデックスを含むことを特徴とする付記１に記載のイントラ予測復号化方法。
（付記９）
現在予測ユニットのイントラ予測モードを復号化する段階は、
現在予測ユニットに隣接しているイントラ予測ユニットの利用可能なイントラ予測モードを用いて第１イントラ予測モードグループを生成する段階と、
前記イントラ予測モードグループ指示子を用いて、現在予測ユニットのイントラ予測モードが第１イントラ予測モードグループに属するか、または第２イントラ予測モードグループに属するかを判断する段階と、
前記予測モードインデックスを用いて、前記判断されたイントラ予測モードグループ内のイントラ予測モードのうち、前記予測モードインデックスに対応するイントラ予測モードを現在予測ユニットのイントラ予測モードと定める段階と、を含むことを特徴とする付記８に記載のイントラ予測復号化方法。
（付記１０）
現在予測ユニットの左側予測ユニットのイントラ予測モード及び現在予測ユニットの上側予測ユニットのイントラ予測モードのうち利用可能なモード数によって、前記第１イントラ予測モードグループを生成する方法を異ならせることを特徴とする付記９に記載のイントラ予測復号化方法。
（付記１１）
現在予測ユニットの左側予測ユニットのイントラ予測モード及び現在予測ユニットの上側予測ユニットのイントラ予測モードがいずれも利用可能であり、互いに異なる値を持つ場合、前記第１イントラ予測モードグループは前記２種のイントラ予測モードを含むことを特徴とする付記９に記載のイントラ予測モード復号化方法。
（付記１２）
前記第１イントラ予測モードグループは、現在予測ユニットの左側予測ユニットのイントラ予測モード及び現在予測ユニットの上側予測ユニットのイントラ予測モードのうち利用可能なイントラ予測モードによって、適応的に追加イントラ予測モードを含むことを特徴とする付記９に記載のイントラ予測モード復号化方法。

【先行技術文献】

【非特許文献】

【0152】

【非特許文献1】Wei-Jung Chien et al., "Parsing friendly intra mode coding", Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 6th Meeting: Torino, IT, 2011-07-02, [JCTVC-F459] (version 1)

【非特許文献2】Thomas Wiegand et al., "WD3: Working Draft 3 of High-Efficiency VideoCoding", Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 5th Meeting: Geneva, CH, 2011-06-27, [JCTVC-E603] (version 8)

【非特許文献3】Wei-Jung Chien et al., "Parsing friendly intra mode coding", Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 6th Meeting: Torino, IT, 2011-07-15, [JCTVC-F459] (version 4)

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】