(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-03-04
(45)【発行日】2024-03-12
(54)【発明の名称】イントラ予測を利用した画像符号化/復号化方法及び装置
(51)【国際特許分類】
H04N 19/105 20140101AFI20240305BHJP
H04N 19/11 20140101ALI20240305BHJP
H04N 19/157 20140101ALI20240305BHJP
H04N 19/176 20140101ALI20240305BHJP
H04N 19/593 20140101ALI20240305BHJP
【FI】
H04N19/105
H04N19/11
H04N19/157
H04N19/176
H04N19/593
(21)【出願番号】P 2021512701
(86)(22)【出願日】2019-09-06
(86)【国際出願番号】 KR2019011554
(87)【国際公開番号】W WO2020050684
(87)【国際公開日】2020-03-12
【審査請求日】2022-08-10
(31)【優先権主張番号】10-2018-0107255
(32)【優先日】2018-09-07
(33)【優先権主張国・地域又は機関】KR
(73)【特許権者】
【識別番号】516227559
【氏名又は名称】オッポ広東移動通信有限公司
【氏名又は名称原語表記】GUANGDONG OPPO MOBILE TELECOMMUNICATIONS CORP., LTD.
【住所又は居所原語表記】No. 18 Haibin Road,Wusha, Chang’an,Dongguan, Guangdong 523860 China
(74)【代理人】
【識別番号】100091487
【氏名又は名称】中村 行孝
(74)【代理人】
【識別番号】100120031
【氏名又は名称】宮嶋 学
(74)【代理人】
【識別番号】100107582
【氏名又は名称】関根 毅
(74)【代理人】
【識別番号】100152205
【氏名又は名称】吉田 昌司
(74)【代理人】
【識別番号】100137523
【氏名又は名称】出口 智也
(72)【発明者】
【氏名】キム、ギベク
【審査官】田中 純一
(56)【参考文献】
【文献】米国特許出願公開第2012/0218432(US,A1)
【文献】米国特許出願公開第2012/0140821(US,A1)
【文献】特表2014-531154(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/12
H04N 19/00 - 19/98
(57)【特許請求の範囲】
【請求項1】
ビデオ信号処理方法であって、デコーダーによって実行され、
現在ブロックのイントラ予測モードを決定するステップと、
前記現在ブロックのイントラ予測に用いられる参照サンプルを決定するステップと、
前記イントラ予測モードに基づいて、所定の行列を決定するステップと、
前記参照サンプル及び行列に基づいて、前記現在ブロックを予測するステップと、を含み、
前記参照サンプル及び行列に基づいて、前記現在ブロックを予測するステップは、
前記参照サンプルに前記行列を適用することで予測ブロックを生成するステップを含
み、
前記行列は、前記現在ブロックの符号化情報を更に考慮することで決定され、
前記符号化情報は、前記現在ブロックの大きさ及び形状を含む、ビデオ信号処理方法。
【請求項2】
前記参照サンプルを決定するステップは、
前記現在ブロックの隣接領域を決定するステップと、
前記決定された隣接領域に対してダウンサンプリングを行うステップと、を含み、
前記隣接領域は、複数のサンプルグループに分けられ、
前記サンプルグループは、1つ又は1つ以上のサンプルからなり、
前記サンプルグループの代表値は、前記参照サンプルで決定され、
前記代表値は、平均値、最小値、最大値、最頻値又は中間値のうちのいずれか1つである
請求項1に記載のビデオ信号処理方法。
【請求項3】
前記参照サンプル及び行列に基づいて、前記現在ブロックを予測するステップは、
前記生成された予測ブロックの全て又は一部の予測サンプルを再配列するステップを更に含む
請求項1に記載のビデオ信号処理方法。
【請求項4】
前記参照サンプル及び行列に基づいて、前記現在ブロックを予測するステップは、
前記予測ブロック又は前記現在ブロックに隣接する再構築されたサンプルのうちの少なくとも1つに基づいて、前記現在ブロックに対して補間を行うことを更に含む
請求項1に記載のビデオ信号処理方法。
【請求項5】
ビデオ信号処理方法であって、エンコーダーによって実行され、
現在ブロックのイントラ予測モードを決定するステップと、
前記現在ブロックのイントラ予測に用いられる参照サンプルを決定するステップと、
前記イントラ予測モードに基づいて、所定の行列を決定するステップと、
前記参照サンプル及び行列に基づいて、前記現在ブロックを予測するステップと、を含み、
前記参照サンプル及び行列に基づいて、前記現在ブロックを予測するステップは、
前記参照サンプルに前記行列を適用することで予測ブロックを生成するステップを含
み、
前記行列は、前記現在ブロックの符号化情報を更に考慮することで決定され、
前記符号化情報は、前記現在ブロックの大きさ及び形状を含む、ビデオ信号処理方法。
【請求項6】
前記参照サンプルを決定するステップは、
前記現在ブロックの隣接領域を決定するステップと、
前記決定された隣接領域に対してダウンサンプリングを行うステップと、を含み、
前記隣接領域は、複数のサンプルグループに分けられ、
前記サンプルグループは、1つ又は1つ以上のサンプルからなり、
前記サンプルグループの代表値は、前記参照サンプルで決定され、
前記代表値は、平均値、最小値、最大値、最頻値又は中間値のうちのいずれか1つである
請求項5に記載のビデオ信号処理方法。
【請求項7】
前記参照サンプル及び行列に基づいて、前記現在ブロックを予測するステップは、
前記生成された予測ブロックの全て又は一部の予測サンプルを再配列するステップを更に含む
請求項5に記載のビデオ信号処理方法。
【請求項8】
前記参照サンプル及び行列に基づいて、前記現在ブロックを予測するステップは、
前記予測ブロック又は前記現在ブロックに隣接する再構築されたサンプルのうちの少なくとも1つに基づいて、前記現在ブロックに対して補間を行うことを更に含む
請求項5に記載のビデオ信号処理方法。
【請求項9】
ビデオ信号処理用の復号装置であって、
現在ブロックのイントラ予測モードを決定するように構成される第1決定ユニットと、
前記現在ブロックのイントラ予測に用いられる参照サンプルを決定するように構成される第2決定ユニットと、
前記イントラ予測モードに基づいて、所定の行列を決定するように構成される第3決定ユニットと、
前記参照サンプルに前記行列を適用することで予測ブロックを生成するように構成される生成ユニットと、を含
み、
前記行列は、前記現在ブロックの符号化情報を更に考慮することで決定され、
前記符号化情報は、前記現在ブロックの大きさ及び形状を含む、ビデオ信号処理用の復号装置。
【請求項10】
前記第2決定ユニットはさらに、
前記現在ブロックの隣接領域を決定し、
前記決定された隣接領域に対してダウンサンプリングを行うように構成され、
前記隣接領域は、複数のサンプルグループに分けられ、
前記サンプルグループは、1つ又は1つ以上のサンプルからなり、
前記サンプルグループの代表値は、前記参照サンプルで決定され、
前記代表値は、平均値、最小値、最大値、最頻値又は中間値のうちのいずれか1つである
請求項9に記載のビデオ信号処理用の復号装置。
【請求項11】
前記生成ユニットはさらに、
前記生成された予測ブロックの全て又は一部の予測サンプルを再配列するように構成される
請求項9に記載のビデオ信号処理用の復号装置。
【請求項12】
前記生成ユニットはさらに、
前記予測ブロック又は前記現在ブロックに隣接する再構築されたサンプルのうちの少なくとも1つに基づいて、前記現在ブロックに対して補間を行うように構成される
請求項9に記載のビデオ信号処理用の復号装置。
【請求項13】
ビデオ信号処理用の符号化装置であって、
現在ブロックのイントラ予測モードを決定するように構成される第1決定ユニットと、
前記現在ブロックのイントラ予測に用いられる参照サンプルを決定するように構成される第2決定ユニットと、
前記イントラ予測モードに基づいて、所定の行列を決定するように構成される第3決定ユニットと、
前記参照サンプルに前記行列を適用することで予測ブロックを生成するように構成される生成ユニットと、を含
み、
前記行列は、前記現在ブロックの符号化情報を更に考慮することで決定され、
前記符号化情報は、前記現在ブロックの大きさ及び形状を含む、ビデオ信号処理用の符号化装置。
【請求項14】
前記第2決定ユニットはさらに、
前記現在ブロックの隣接領域を決定し、
前記決定された隣接領域に対してダウンサンプリングを行うように構成され、
前記隣接領域は、複数のサンプルグループに分けられ、
前記サンプルグループは、1つ又は1つ以上のサンプルからなり、
前記サンプルグループの代表値は、前記参照サンプルで決定され、
前記代表値は、平均値、最小値、最大値、最頻値又は中間値のうちのいずれか1つである
請求項13に記載のビデオ信号処理用の符号化装置。
【請求項15】
前記生成ユニットはさらに、
前記生成された予測ブロックの全て又は一部の予測サンプルを再配列するように構成される
請求項13に記載のビデオ信号処理用の符号化装置。
【請求項16】
前記生成ユニットはさらに、
前記予測ブロック又は前記現在ブロックに隣接する再構築されたサンプルのうちの少なくとも1つに基づいて、前記現在ブロックに対して補間を行うように構成される
請求項13に記載のビデオ信号処理用の符号化装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像符号化/復号化方法及び装置に関する。
【背景技術】
【0002】
インターネット、携帯型端末の普及及び情報通信技術の成長に伴い、マルチメディアデータの使用は、急激に増加している。従って、種々のシステムにおける画像予測により、種々のサービス又はタスクを実行するために、画像処理システムの性能及び効率に対する需要は、著しく増加しているが、このような状況に対応できる研究開発結果は、かなり不足している。
【0003】
従って、従来技術の画像符号化/復号化方法及び装置において、画像処理を改善する必要があり、特に、画像符号化又は画像復号性能を改善する必要がある。
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明は、適応的ブロック分割により、符号化/復号化効率を向上させることが望ましい。
【0005】
本発明は、行列に基づくイントラ予測により、符号化/復号化効率を向上させることが望ましい。
【0006】
本発明は、行列に基づくイントラ予測に用いられる参照サンプル及び行列を決定する方法及び装置を提供する。
【0007】
本発明は、行列に基づくイントラ予測に用いられるダウンサンプリング及びアップサンプリング方法及び装置を提供する。
【課題を解決するための手段】
【0008】
本発明によるビデオ信号処理方法及び装置は、現在ブロックのイントラ予測モードを決定し、前記現在ブロックのイントラ予測に用いられる参照サンプルを決定し、前記イントラ予測モードに基づいて、所定の行列を決定し、前記参照サンプル及び行列に基づいて、前記現在ブロックを予測することができる。
【0009】
本発明によるビデオ信号処理方法及び装置において、前記参照サンプルを決定するステップは、前記現在ブロックの隣接領域を決定するステップと、前記決定された隣接領域に対してダウンサンプリングを行うステップと、を含んでもよい。
【0010】
本発明によるビデオ信号処理方法及び装置において、前記隣接領域は、複数のサンプルグループに分けられ、前記サンプルグループは、1つ又は1つ以上のサンプルからなり、前記サンプルグループの代表値は、前記参照サンプルで決定され、前記代表値は、平均値、最小値、最大値、最頻値又は中間値のうちのいずれか1つであってもよい。
【0011】
本発明によるビデオ信号処理方法及び装置において、前記行列は、前記現在ブロックの符号化情報を更に考慮することで決定され、前記符号化情報は、前記現在ブロックの大きさ、形状、イントラ予測モードの角度又は方向性を含んでもよい。
【0012】
本発明によるビデオ信号処理方法及び装置において、現在ブロックを予測するステップは、前記参照サンプルに前記行列を適用することで予測ブロックを生成するステップを含んでもよい。
【0013】
本発明によるビデオ信号処理方法及び装置において、現在ブロックを予測するステップは、前記生成された予測ブロックの全て又は一部の予測サンプルを再配列するステップを更に含んでもよい。
【0014】
本発明によるビデオ信号処理方法及び装置において、現在ブロックを予測するステップは、前記予測ブロック又は前記現在ブロックに隣接する再構築されたサンプルのうちの少なくとも1つに基づいて、前記現在ブロックに対して補間を行うことを更に含んでもよい。
【発明の効果】
【0015】
本発明によれば、ツリーブロックを分割することで、符号化/復号化効率を向上させることができる。
【0016】
本発明によれば、行列に基づくイントラ予測により、符号化/復号化効率を向上させることができる。
【0017】
本発明によれば、行列に基づくイントラ予測に用いられるダウンサンプリング又はアップサンプリングにより、符号化/復号化効率を向上させることができる。
【図面の簡単な説明】
【0018】
【
図1】本発明の一実施例による符号化装置を示す概略的ブロック図である。
【
図2】本発明の一実施例による復号装置を示す概略的ブロック図である。
【
図3】本発明を適用できる一実施例によるブロック分割タイプを示す図である。
【
図4】本発明を適用できる一実施例によるツリー構造に基づくブロック分割方法を示す図である。
【
図5】本発明の一実施例による行列に基づいて現在ブロックに対してイントラ予測を行う過程を示す図である。
【
図6】本発明を適用できる一実施例による隣接ブロックに対してダウンサンプリングを行うことで参照サンプルを決定する方法を示す図である。
【
図7】本発明を適用できる一実施例による加重平均値に基づくダウンサンプリング方法を示す図である。
【
図8】本発明を適用できる一実施例による第1予測サンプルの分割及び他の領域に対する補間を行う方法を示す図である。
【
図9】本発明を適用できる一実施例による補間ステップにおいて距離に対する重み値を割り当てることを示す図である。
【
図10】本発明を適用できる一実施例による補間ステップの順番を示す図である。
【発明を実施するための形態】
【0019】
本発明によるビデオ信号処理方法及び装置は、現在ブロックのイントラ予測モードを決定し、前記現在ブロックのイントラ予測に用いられる参照サンプルを決定し、前記イントラ予測モードに基づいて、所定の行列を決定し、前記参照サンプル及び行列に基づいて、前記現在ブロックを予測することができる。
【0020】
本発明によるビデオ信号処理方法及び装置において、前記参照サンプルを決定するステップは、前記現在ブロックの隣接領域を決定するステップと、前記決定された隣接領域に対してダウンサンプリングを行うステップと、を含んでもよい。
【0021】
本発明によるビデオ信号処理方法及び装置において、前記隣接領域は、複数のサンプルグループに分けられ、前記サンプルグループは、1つ又は1つ以上のサンプルからなり、前記サンプルグループの代表値は、前記参照サンプルで決定され、前記代表値は、平均値、最小値、最大値、最頻値又は中間値のうちのいずれか1つであってもよい。
【0022】
本発明によるビデオ信号処理方法及び装置において、前記行列は、前記現在ブロックの符号化情報を更に考慮することで決定され、前記符号化情報は、前記現在ブロックの大きさ、形状、イントラ予測モードの角度又は方向性を含んでもよい。
【0023】
本発明によるビデオ信号処理方法及び装置において、現在ブロックを予測するステップは、前記参照サンプルに前記行列を適用することで予測ブロックを生成するステップを含んでもよい。
【0024】
本発明によるビデオ信号処理方法及び装置において、現在ブロックを予測するステップは、前記生成された予測ブロックの全て又は一部の予測サンプルを再配列するステップを更に含んでもよい。
【0025】
本発明によるビデオ信号処理方法及び装置において、現在ブロックを予測するステップは、前記予測ブロック又は前記現在ブロックに隣接する再構築されたサンプルのうちの少なくとも1つに基づいて、前記現在ブロックに対して補間を行うことを更に含んでもよい。
【0026】
本発明において、種々の変更が実行可能であり、様々な実施例を有することができるところ、特定の実施例を図面に示し、詳しく説明する。しかしながら、これらの特定の実施例は、本発明を特定の実施形態に限定するものではなく、本発明の思想及び技術範囲に含まれるすべての変更、均等物ないし代替物を含むものである。各図面を説明する場合、類似した構成要素について、類似した符号を用いる。
【0027】
第1、第2等の用語は、構成要素を説明するためのものであってもよいが、前記構成要素は、前記用語に限定されない。前記用語は、1つの構成要素を他の構成要素から区別するためのものに過ぎない。例えば、本発明の権利範囲から逸脱せずに、第1構成要素を第2構成要素と命名することができ、同様に第2構成要素も第1構成要素と命名されてもよい。及び/又はという用語は、記載された複数の関連アイテムの組み合わせ又は記載された複数の関連アイテムのうちのいずれか1つのアイテムを含むことを指す。
【0028】
1つの構成要素がもう1つの構成要素に「接続」又は「連結」されることを説明する場合、前記もう1つの構成要素に直接的に接続又は連結されてもよく、前記構成要素と前記もう1つの構成要素との間に他の構成要素が存在してもよいと理解されるべきである。逆に、1つの構成要素がもう1つの構成要素に「直接接続」又は「直接連結」されることを説明する場合、前記構成要素と前記もう1つの構成要素との間に他の構成要素が存在しないと理解されるべきである。
【0029】
本願に用いられる用語は、特定の実施例を説明するためのものに過ぎず、本発明を限定するものではない。明細書に他の意味を明確に表さない限り、単数の表現は、複数の表現を含む。本願において、「含む」又は「有する」などの用語は、明細書に記載した特徴、数字、ステップ、動作、構成要素、部品、又はこれらの組み合わせが存在していることを指定するものであって、1つ又は1つ以上の他の特徴、数字、ステップ、動作、構成要素、部品又はこれらの組み合わせなどの存在又は付加可能性をあらかじめ排除しないものと理解すべきである。
【0030】
他の定義が存在しない限り、ここで使用される技術用語及び科学用語を含む全ての用語は、本発明が属する技術分野で通常の知識を有する者が一般に理解する意味と同一の意味を有する。一般的に使用される辞書において定義される用語は、関連技術文献における意味と一致する意味を有すると理解するべきであり、本明細書において明確に定義しない限り、理想的あるいは形式的な意味として解釈してはならない。
【0031】
以下、図面を参照しながら、本発明の好適な実施例をより詳しく説明する。以下、図面における同一の構成要素について、同一の符号を使用し、同一の構成要素に対する重複説明を省略する。
【0032】
図1は、本発明の一実施例による符号化装置を示す概略的ブロック図である。
【0033】
図1を参照すると、符号化装置100は、画像分割部110、予測部120、125、変換部130、量子化部135、再配列部160、エントロピー符号化部165、逆量子化部140、逆変換部145、フィルタリング部150及びメモリ155を備えてもよい。
【0034】
図1に示す各構成部は、単独で示され、画像符号化装置において、異なる特徴機能を表し、また、各構成部は、単独したハードウェアで構成されることを表す可能性がある。しかしながら、説明の便宜上、各構成部は、各構成部として記載されてそれを含む。各構成部のうちの少なくとも2つの構成は、1つの構成部を構成するか又は1つの構成部は、機能を実行するために、複数の構成部に分けられてもよい。このような各構成部の総合的実施例及び単独した実施例は、本発明の本質を逸脱しない限り、本発明の権利範囲内にも含まれる。
【0035】
なお、幾つかの構成要素は、本発明において基本機能を実行するための必須の構成要素ではなく、性能を向上させるための選択可能な構成要素だけであってもよい。本発明は、構成部のみを含むことで実現してもよい。該構成部は、性能を向上させるための構成要素以外の本発明の本質を実現するために、不可欠なものである。正常を向上させるための選択可能な構成要素以外の不可欠な構成要素のみを含む構造も本発明の権利範囲内に含まれる。
【0036】
画像分割部110は、入力された画像を少なくとも1つのブロックに分割することができる。この場合、ブロックは、符号化ユニット(CU:coding unit)、予測ユニット(PU:prediction unit)又は変換ユニット(TU:transformation unit)を表してもよい。四分木(Quad tree)、二分木(Binary tree)、三分木(Ternary tree)のうちの少なくとも1つにより、前記分割を実行することができる。四分木は、上位層ブロックを、幅及び高さが上位層ブロックの幅及び高さの半分である下位層ブロックに四分割する方式である。二分木は、上記層ブロックを、上位層ブロックの半分の少なくとも1つの幅又は高さを有する下位層ブロックに二分割する方式である。二分木の分割において、上位層ブロックの半分の高さを有する、前記二分岐に基づく分割により、ブロックは、正方形の形状を有してもよいだけでなく、非正方形の形状を有してもよい。
【0037】
以下、本発明の実施例において、符号化ユニットは、符号化を実行するユニットに用いられてもよく、復号を実行するユニットに用いられてもよい。
【0038】
予測部120、125は、インター予測を実行するためのインター予測部120及びイントラ予測を実行するためのイントラ予測部125を備えてもよい。予測ユニットについて、フレーム予測を用いるか、それともイントラ予測を用いるかを決定し、また、各予測方法による具体的な情報(例えば、イントラ予測モード、動きベクトル、参照画像など)を決定することができる。この場合、予測を実行するための処理ユニットは、予測方法及び具体的なコンテンツを決定するための処理ユニットと異なることがある。例えば、予測方法及び予測モードなどは、予測ユニットにより決定されてもよく、予測は、変換ユニットにより実行されてもよい。生成された予測ブロックとオリジナルブロックとの残差値(残差ブロック)を変換部130に入力してもよい。なお、エントロピー符号化部165において、予測のために用いられる予測モード情報、動きベクトル情報などを残差値と共に符号化して復号装置に伝送することができる。1つの符号化モードを用いる場合、予測部120、125により予測ブロックを生成する必要がなく、同様にオリジナルブロックを符号化して復号部に伝送することができる。
【0039】
インター予測部120は、現在画像の直前の画像又は直後の画像のうちの少なくとも1つの画像の情報に基づいて、予測ユニットを予測することができる。場合によっては、現在ブロック内の符号化が完了した幾つかの領域の情報に基づいて予測ユニットを予測することもできる。予測部120は、参照画像補間部、動き予測部、動き補償部を備えてもよい。
【0040】
参照画像補間部において、参照画像情報は、メモリ155により提供される。また、参照画像において、整数画素以下の画素情報を生成することができる。輝度画素について、1/4画素単位で整数画素以下の画素情報を生成するために、フィルタ係数の異なる、DCTベースの8タップ補間フィルタ(DCT-based Interpolation Filter)を用いることができる。色差信号について、1/8画素単位で整数画素以下の画素情報を生成するために、フィルタ係数の異なる、DCTベースの4タップ補間フィルタ(DCT-based Interpolation Filter)を用いることができる。
【0041】
動き予測部は、参照画像補間部により補間された参照画像に基づいて、動き予測を行うことができる。FBMA(Full search-based Block Matching Algorithm)、TSS(Three Step Search)、NTS(New Three-Step Search Algorithm)などの種々の方法はいずれも、動きベクトルを演算する方法として用いることができる。補間画素によれば、動きベクトルは、1/2又は1/4画素単位の動きベクトル値を有してもよい。動き予測部は、異なる運動予測方法により、現在予測ユニットを予測することができる。スキップ(Skip)方法、マージ(Merge)方法、アドバンスト動きベクトル予測(Advanced Motion Vector Prediction:AMVP)方法などの種々の方法は、動き予測方法として用いることができる。
【0042】
イントラ予測部125は、現在ブロックに隣接する参照画素情報に基づいて予測ユニットを生成することができる。ここで、前記現在ブロックに隣接する参照画素情報は、現在画像における画素情報である。現在予測ユニットの隣接(周辺)ブロックは、インター予測されたブロックであるため、参照画素が、インター予測された画素である場合、インター予測されたブロックに含まれる参照画素情報を、隣接するイントラ予測されたブロックの参照画素情報に置き換えることができる。つまり、参照画素が利用不可能である場合、利用不可能である参照画素情報を利用可能な参照画素のうちの少なくとも1つの参照画素に置き換えることができる。
【0043】
イントラ予測における予測モードは、予測方向に基づいて参照画素情報を用いる指向性予測モードと、予測時に方向性情報を用いない非指向性モードと、を有してもよい。輝度成分を予測するためのモードは、色差成分を予測するためのモードと異なってもよい。また、輝度成分を予測するために用いられるイントラ予測モード又は予測された/再構築(復元)された輝度成分を利用して色差成分を予測することができる。
【0044】
イントラ予測方法は、イントラ予測モードに基づいてAIS(Adaptive Intra Smoothing)フィルタを参照画素に適用した後に、予測ブロックを生成することができる。参照画素に適用するAISフィルタのタイプは、異なってもよい。イントラ予測方法を実行するために、現在予測ブロックに隣接する予測ユニットに位置するイントラ予測モードから、現在予測ユニットのイントラ予測モードを予測することができる。隣接予測ユニットから予測されたモード情報を利用して現在予測ユニットの予測モードを予測する場合、現在予測ユニットのイントラ予測モードは隣接予測ユニットのイントラ予測モードと同じであると、所定のフラグ情報を利用して、現在予測ユニットのイントラ予測モードが隣接予測ユニットのイントラ予測モードと同じであることを示す情報を伝送することができる。現在予測ユニットのイントラ予測モードは隣接予測ユニットのイントラ予測モードと異なると、エントロピー符号化を行い、現在ブロックのイントラ予測モード情報を符号化することができる。
【0045】
なお、予測部120、125において、生成された予測ユニットとオリジナルブロックとの差分値を含む残差値(Residual)情報を生成することができる。生成された残差ブロックを変換部130に入力することができる。
【0046】
変換部130において、DCT、DST等のタイプの変換を利用して、残差データを含む残差ブロックを変換することができる。この場合、残差ブロックを生成するために用いられる予測ユニットのイントラ予測モードに基づいて、変換タイプを決定することができる。
【0047】
量子化部135は、変換部130により周波数領域に変換された値に対して量子化を行うことができる。量子化係数は、ブロック又は画像の重要度に応じて変わってもよい。量子化部135により演算された値を逆量子化部140及び再配列部160に提供することができる。
【0048】
再配列部160は、量子化された残差ブロックに対して、係数値の再配列を行うことができる。再配列部160は、係数走査(Coefficient Scanning)方法で、二次元ブロック形状の係数を一次元ベクトル形状に変更することができる。例えば、再配列部160は、所定の走査タイプを利用して、DC係数から高周波領域の係数まで走査し、一次元ベクトル形状に変更することができる。
【0049】
エントロピー符号化部165は、再配列部160により算出された値に基づいて、エントロピー符号化を行うことができる。エントロピー符号化は、指数ゴロンブ符号化方法(Exponential Golomb)、CAVLC(Context-Adaptive Variable Length Coding)、適応2値算術符号化器(Context-Adaptive Binary Arithmetic Coding:CABAC)等のような種々の符号化方法を用いることができる。
【0050】
エントロピー符号化部165は、例えば、符号化ユニットの残差係数情報及びブロックタイプ情報、予測モード情報、分割ユニット情報、予測ユニット情報及び伝送ユニット情報、動きベクトル情報、参照画像情報、ブロックの補間情報、フィルタリング情報などのような、再配列部160及び予測部120、125からの種々の情報に対して符号化を行うことができる。
【0051】
エントロピー符号化部165は、再配列部排列部160に入力された符号化ユニットの係数値に対してエントロピー符号化を行うことができる。
【0052】
逆量子化部140及び逆変換部145は、量子化部135により量子化された値に対して逆量子化を行い、変換部130により変換された値に対して逆変換を行う。逆量子化部140及び逆変換部145により生成された残差値(Residual)を、予測部120、125に含まれる動き推定部、動き補償部及びイントラ予測部により、予測された予測ユニットとマージし、再構築ブロック(Reconstructed Block)を生成することができる。
【0053】
フィルタリング部150は、デブロッキングフィルタ、オフセット補正部、適応的ループフィルタ(Adaptive Loop Filter:ALF)のうちの少なくとも1つを含んでもよい。
【0054】
デブロッキングフィルタは、再構築画像におけるブロック間の境界により招くブロック歪みを除去することができる。デブロッキングを行うかどうかを判定するために、ブロックに含まれる幾つかの列又は行に含まれる画素に基づいて、デブロッキングフィルタを現在ブロックに適用するかどうかを判定する。デブロッキングフィルタをブロックに適用する場合、必要なデブロッキングフィルタリング強度に基づいて、強フィルタ(Strong Filter)又は弱フィルタ(Weak Filter)を適用することができる。なお、デブロッキングフィルタを適用する場合、垂直フィルタリング及び水平フィルタリングを行う時、水平方向のフィルタリング及び垂直方向のフィルタリングを並行して処理することができる。
【0055】
オフセット補正部は、デブロッキングされた画像に対して、オリジナル画像との、画素単位のオフセットを補正することができる。特定の画像に対してオフセット補正を行うために、画像に含まれる画素を一定の数の領域に分割した後に、オフセットしようとする領域を決定し、オフセットを該領域に適用する方法を用いるか又は各画素の縁情報を考慮することでオフセットに適用する方法を用いることができる。
【0056】
フィルタリングされた再構築画像とオリジナル画像との比較値に基づいてALF(Adaptive Loop Filtering)を行うことができる。画像に含まれる画素を所定の群に分けた後、該組み合わせに適用できる1つのフィルタを決定する。また、各群に対して、フィルタリングを異なるように行うことができる。ALFを適用できるかどうか情報について、各符号化ユニット(Coding Unit:CU)は、輝度信号を伝送することができる。また、適用されるべきALFフィルタの形状及びフィルタ係数は、各ブロックによって変わってもよい。なお、適用対象ブロックの特性に関わらず、同一形状(固定形状)のALFフィルタを適用することもできる。
【0057】
メモリ155は、フィルタリング部150により算出された再構築ブロック又は画像を記憶することができる。インター予測を行う時に記憶された再構築ブロック又は画像を予測部120、125に提供することができる。
【0058】
図2は、本発明の一実施例による復号装置を示す概略的ブロック図である。
【0059】
図2を参照すると、復号装置200は、エントロピー復号部210、再配列部215、逆量子化部220、逆変換部225、予測部230、235、フィルタリング部240、メモリ245を備えてもよい。
【0060】
図2に示す各構成部は、単独で示され、画像符号化装置において、異なる特徴機能を表し、また、各構成部は、単独したハードウェアで構成されることを表す可能性がある。しかしながら、説明の便宜上、各構成部は、各構成部として記載されてそれを含む。各構成部のうちの少なくとも2つの構成は、1つの構成部を構成するか又は1つの構成部は、機能を実行するために、複数の構成部に分けられてもよい。このような各構成部の総合的実施例及び単独した実施例は、本発明の本質を逸脱しない限り、本発明の権利範囲内にも含まれる。
【0061】
エントロピー復号部210は、入力コードストリームに対してエントロピー復号を行うことができる。例えば、エントロピー復号を行うために、指数ゴロンブ符号化方法(Exponential Golomb)、CAVLC(Context-Adaptive Variable Length Coding)、CABAC(Context-Adaptive Binary Arithmetic Coding)等のような種々の方法を適用できる。
【0062】
エントロピー復号部210は、符号化装置により行われたイントラ予測及びインター予測に関わる情報に対して復号を行うことができる。
【0063】
再配列部215は、エントロピー復号部210によりエントロピー復号されたコードストリームに対して再配列を行うことができる。一次元ベクトル形式で表される係数を二次元ブロック形式の係数となるように再構築し、再配列することができる。再配列部215は、符号化装置により行われた係数走査に関わる情報を受信し、該符号化装置により行われた走査の順番に応じて逆走査を行う方法で再配列を行うことができる。
【0064】
逆量子化部220は、量子化パラメータ及び再配列されたブロックの係数値に基づいて逆量子化を行うことができる。
【0065】
逆変換部225は、所定の変換タイプで、逆量子化された変換係数に対して逆変換を行うことができる。この場合、予測モード(インター/イントラ予測)、ブロックの大きさ/形状、イントラ予測モード、成分タイプ(輝度/色差成分)、分割タイプ(QT、BT、TT等)等に関わる情報のうちの少なくとも1つに基づいて、変換タイプを決定することができる。
【0066】
予測部230、235は、エントロピー復号部210により提供された予測ブロックに基づいて、関連情報を生成し、メモリ245により提供されたこの前に復号されたブロック又は画像情報に基づいて、予測ブロックを生成することができる。
【0067】
予測部230、235は、予測ユニット判別部、インター予測部及びイントラ予測部を備えてもよい。予測ユニット判別部は、エントロピー復号部210により入力された予測ユニット情報、イントラ予測方法のイントラ予測モード関連情報、インター予測方法の動き予測関連情報などのような種々の情報を受信し、現在符号化ユニット(CU)で、予測ユニットを区分し、予測ユニットがインター予測を行うかそれともイントラ予測を行うかを判別する。インター予測部230は、符号化装置により提供された現在予測ユニットのインター予測に必要な情報を利用して、現在予測ユニットを含む現在画像の直前の画像又は直後の画像のうちの少なくとも1つの画像に含まれる情報に基づいて、現在予測ユニットに対するインター予測を行うことができる。又は、現在予測ユニットを含む現在画像において、再構築された幾つかの領域の情報に基づいて、インター予測を行うことができる。従って、前記再構築された幾つかの領域は、参照画像リストに追加されてもよい。
【0068】
インター予測を行うために、符号化ユニットを基準として、該符号化ユニットに含まれる予測ユニットの動き予測方法が、スキップモード(Skip Mode)、マージモード(Merge Mode)、AMVPモード(AMVP Mode)、現在画像参照モードのうちのどちらであるかを判定することができる。
【0069】
イントラ予測部235は、現在画像における画素情報に基づいて予測ブロックを生成することができる。予測ユニットは、イントラ予測を行った予測ユニットである場合、符号化装置により提供された予測ユニットのイントラ予測モード情報に基づいて、イントラ予測を行うことができる。イントラ予測部235は、AIS(Adaptive Intra Smoothing)フィルタ、参照画素補間部、DCフィルタを備えてもよい。AISフィルタは、現在ブロックの参照画素に対してフィルタリングを行う部材として、現在予測ユニットの予測モードに基づいて、フィルタうぃ適用するかどうかを決定することができる。符号化装置により提供された予測ユニットの予測モード及びAISフィルタ情報を利用して、現在ブロックの参照画素に対してAISフィルタリングを行うことができる。現在ブロックの予測モードが、AISフィルタリングを行わないモードである場合、AISフィルタを適用しなくてもよい。
【0070】
予測ユニットの予測モードは、参照画素に対して補間を行う画素の値に基づいてイントラ予測を行う予測ユニットである場合、参照画素補間部は、参照画素に対して補間を行い、整数値以下の画素単位の参照画素を生成することができる。現在予測ユニットの予測モードは、参照画素に対して補間を行わずに予測ブロックを生成する予測モードである場合、参照画素に対して補間を行わなくてもよい。現在ブロックの予測モードがDCモードである場合、DCフィルタは、フィルタリングにより、予測ブロックを生成することができる。
【0071】
再構築されたブロック又は画像は、フィルタリング部240に提供されてもよい。フィルタリング部240は、デブロッキングフィルタ、オフセット補正部、ALFを備えてもよい。
【0072】
符号化装置から、デブロッキングフィルタを該ブロック又は画像に適用するかどうかに関わる情報を受信することができる。また、デブロッキングフィルタを適用した場合、強いフィルタを適用したかそれとも弱いフィルタを適用したかに関わる情報を受信することができる。復号装置のデブロッキングフィルタは、符号化装置により提供されたデブロッキングフィルタ関連情報を受信することができる。復号装置は、該ブロックに対してデブロッキングフィルタリングを行うことができる。
【0073】
オフセット補正部は、符号化を行う場合、画像に適用されるオフセット補正タイプ及びオフセット値情報などに基づいて、再構築された画像に対してオフセット補正を行うことができる。
【0074】
ALFは、符号化器により提供された、ALFを適用するかどうかに関わる情報、ALF係数情報などに基づいて、符号化ユニットに適用されてもよい。このようなALF情報は、特定のパラメータ集合に含まれることで提供されてもよい。
【0075】
メモリ245は、再構築された画像又はブロックを参照画像又は参照ブロックとして記憶することができ、また、再構築された画像を出力部に提供することができる。
【0076】
図3は、本発明を適用できる一実施例によるブロック分割タイプを示す図である。
【0077】
図3を参照すると、分割設定、分割方式に基づいて、ブロックaからsを得ることができ、図示されていない付加ブロック形状を得ることもできる。
【0078】
一例(1)として、非対称分割をツリーベースの分割に用いることを許容できる。例えば、二分木に対して、b、cのようなブロックであってもよく、b~gのようなブロックであってもよい。非対称分割を許容することを示すフラグは、符号化/復号設定に基づいて、明示的または暗黙的に活性化されていない場合、取得可能な候補ブロックは、b又はcであってもよい。非対称分割を許容することを示すフラグを活性化した場合、取得可能な候補ブロックは、b、d、e(本例における水平分割)であってもよく、c、f、g(本例における垂直分割)であってもよい。
【0079】
前記例において、非対称分割の左:右又は上:下の長さ比を1:3又は3:1とする場合について説明するが、これに限定されず、符号化設定によって、他の割合の候補群(例えば、1:2、1:4、2:3、2:5、3:5等)が存在してもよい。
【0080】
以下、二分木分割(本例における1:1、1:3、3:1の候補群)において生成される分割情報に関わる種々の例を示す。
【0081】
例えば、分割を行うかどうかを示すフラグ、分割方向を示すフラグに加えて、分割タイプを示すフラグを生成することもできる。この場合、分割タイプは、対称又は非対称分割を表してもよい。ここで、非対称分割は、分割タイプと決定された場合、分割割合を示すフラグを生成することができる。また、所定の候補群に基づいて、インデックスを割り当てることができる。1:3又は3:1の分割割合を候補群としてサポートする場合、1ビットフラグにより、分割割合を選択することができる。
【0082】
又は、分割を行うかどうかを示すフラグ、分割方向を示すフラグに加えて、分割割合を示すフラグを生成することもできる。本例において、分割割合に対する候補群として、1:1の対称割合を有する候補を含んでもよい。
【0083】
本発明において、(非対称分割を許容することを示すフラグを活性化した場合)二分木分割が上記例のような構造を有すると仮定する。別途説明しない限り、二分木は、対称二分木を表す。
【0084】
一例(2)として、ツリーベースの分割は、付加的ツリー分割を許容できる。例えば、三分木(Ternary Tree)、四分木タイプ(Quad Type Tree)、八分木(Octa Tree)等に対して分割を行い、これらにより、n個の分割ブロック(本例における3、4、8、nは、整数である)を得ることができる。三分木に対して、サポートされるブロック(本例において複数のブロックに分割される場合)は、h~mであってもよい。四分木に対して、サポートされるブロックは、n~pであってもよい。八分木に対して、サポートされるブロックは、qであってもよい。符号化/復号設定に基づいて、前記ツリーベースの分割をサポートするかどうかを暗黙的に決定するか又は関連情報を明示的に生成することができる。なお、符号化/復号設定に基づいて、単独で用いるか又は二分木、四分木分割等と混用されてもよい。
【0085】
例えば、二分木に対して、b、cのようなブロックを用いることができる。二分木と三分木を混用する場合(本例において、二分木の使用範囲と三分木の使用範囲とは、一部重なり合うと仮定する)、b、c、i、lのようなブロックを用いることもできる。符号化/復号設定に基づいて、現在のツリー以外の追加の分割を許容することを示すフラグを明示的又は暗黙的に非活性化した場合、取得可能な候補ブロックは、b又はcであってもよい。活性化した場合、取得可能な候補ブロックは、b、i又はb、h、i、j(本例における水平分割)であってもよく、c、l又はc、k、l、m(本例における垂直分割)であってもよい。
【0086】
前記例において、三分木分割の左:中:右又は上:中:下の長さ比を2:1:1、1:2:1又は1:1:2と仮定して説明するが、これに限定されず、符号化設定に基づいて他の割合を設定することもできる。
【0087】
以下、三分木分割(本例における1:2:1の候補)で生成された分割情報の例を示す。
【0088】
例えば、分割を行うかどうかを示すフラグ、分割方向を示すフラグに加えて、分割タイプを示すフラグを生成することもできる。この場合、分割タイプは、二分木又は三分木分割を表してもよい。
【0089】
本発明において、分割方式に基づいて、適応的符号化/復号設定を適用することができる。
【0090】
一例として、ブロックのタイプに基づいて、分割方式を決定することができる。例えば、符号化ブロック及び変換ブロックは、四分木分割方式を用いることができ、予測ブロックは、四分木及び二分木(又は三分木等)分割方式を用いることができる。
【0091】
一例として、ブロックの大きさに基づいて、分割方式を決定することができる。例えば、ブロックの最大値と最小値との間の幾つかの範囲において(例えば、a×b~c×dである。後者がより大きい場合)、四分木分割方式を用いることができる。幾つかの範囲において(例えば、e×f~g×h)、二分木(又は三分木等)分割を行うことができる。この場合、分割方式による範囲情報を明示的に生成するか又は暗黙的に決定することができる。前記範囲が重なり合う場合にも利用可能である。
【0092】
一例として、ブロック(又は分割前のブロック)の形状に基づいて分割方式を決定することができる。例えば、ブロック形状が正方形である場合、四分木又は二分木(又は三分木等)分割うぃ行うことができる。又は、ブロックの形状が長方形である場合、二分木(又は三分木等)に基づく分割を行うことができる。
【0093】
一例として、ブロックのタイプに基づいて分割設定を決定することができる。例えば、ツリーベースの分割において、符号化ブロック及び予測ブロックは、四分木分割を用いることができ、変換ブロックは、二分木分割を用いることができる。又は、符号化ブロックに対する分割許容深さは、mと設定されてもよく。予測ブロックに対する分割許容深さは、nと設定されてもよく、変換ブロックに対する分割許容深さは、oと設定されてもよい。m、n及びoは、同じであっても異なってもよい。
【0094】
一例として、ブロックの大きさに基づいて分割設定を決定することができる。例えば、ブロックの幾つかの範囲(例えば、a×b~c×d)において四分木分割を用いることができ、幾つかの範囲(例えば、e×f~g×hである。本例において、c×dがg×hよりも大きいとする)において、二分木分割を用いることができ、幾つかの範囲(例えば、i×j~k×lである。本例において、g×hがk×l以上であるとする)において、三分木分割を用いることができる。この場合、前記範囲は、ブロックの最大値と最小値との間の全ての範囲を含んでもよい。前記範囲は、重なり合わない設定又は互いに重なり合う設定を有してもよい。例えば、幾つかの範囲の最小値は、幾つかの範囲の最大値と同じである可能性があり、又は、幾つかの範囲の最小値は、幾つかの範囲の最大値より小さい可能性がある。互いに重なり合う範囲を有する場合、より大きい最大値を有する分割方式は、優先順位を有してもよいか又はどのような分割方式を用いるかに関わる情報を明示的に生成することができる。つまり、優先順位を有する分割方式において、分割結果に基づいて、優先度が低い分割方式を行うかを決定することができ、又は、分割方式選択情報に基づいて、どのような分割方式を用いるかを決定することができる。
【0095】
一例として、ブロックの形状に基づいて、分割設定を決定することができる。例えば、ブロックの形状が正方形である場合、四分木分割を用いることができる。又は、ブロックの形状が長方形である場合、二分木又は三分木分割を用いることができる。
【0096】
一例として、符号化/復号化情報(例えば、スライスタイプ、色成分、符号化モード等)に基づいて分割設定を決定することができる。例えば、スライスタイプがIである場合、四分木(又は二分木、三分木)分割は、幾つかの範囲(例えば、a×b~c×d)内で使用可能であり、スライスタイプがPである場合、幾つかの範囲(例えば、e×f~g×h)内で使用可能であり、スライスタイプがBである場合、幾つかの範囲(例えば、i×j~k×l)内で使用可能である。なお、スライスタイプがIである場合、四分木(又は二分木、三分木分割)分割の分割許容深さは、mと設定されてもよく、スライスタイプがPである場合、分割許容深さは、nと設定されてもよく、スライスタイプがBである場合、分割許容深さは、oと設定されてもよい。m、n及びoは、同じであっても異なってもよい。幾つかのスライスタイプは、他のスライス(例えば、スライスP及びB)と同様な設定を有してもよい。
【0097】
他の例として、色成分が輝度成分である場合、四分木(又は二分木、三分木)分割許容深さは、mと設定されてもよく、色成分が色差成分である場合、nと設定されてもよく、m及びnは、同じであってもことなってもよい。なお、色成分が輝度成分である場合、四分木(又は二分木、三分木)分割の範囲(例えば、a×b~c×d)は、色成分が色差成分である場合の四分木(又は二分木、三分木)分割の範囲(例えば、e×f~g×h)と同じであっても異なってもよい。
【0098】
他の例として、符号化モードがIntraである場合、四分木(又は二分木、三分木)分割許容深さは、mであってもよく、符号化モードがInterである場合、n(本例において、nがmよりも大きいとする)であってもよく、m及びnは、同じであっても異なってもよい。なお、符号化モードがIntraである場合の四分木(又は二分木、三分木)分割の範囲は、符号化モードがInterである場合の四分木(又は二分木、三分木)分割の範囲と同じであってもことなってもよい。
【0099】
前記例に対して、符号化/復号化情報による適応的分割候補群構造をサポートするかどうかに関わる情報を明示的に生成するか又は暗黙的に決定することができる。
【0100】
前記例により、符号化/復号設定に基づいて分割方式及び分割設定を決定することを説明した。前記例は、各要素による幾つかの状況を示したが、他の場合の変形が存在してもよい。なお、複数の要素の組み合わせに基づいて、分割方式及び分割設定を決定することもできる。例えば、ブロックのタイプ、大きさ、形状、符号化/復号化情報等により、分割方式及び分割設定を決定することができる。
【0101】
なお、前記例における分割方式、設定などに関わる要素を暗黙的に決定するか又は情報を明示的に生成し、上記例のような適用的状況を許容するかどうかを決定することができる。
【0102】
前記分割設定における分割深さは、初期ブロックに基づいて空間分割を行う回数(本例における初期ブロックの分割深さは、0である)を表す。分割深さが大きいほど、より小さいブロックに分割できるようになる。これは、分割方式に基づいて、深さ関連設定を異なるように設定することができる。例えば、ツリーベースの分割の方式において、二分木の分割深さとして、三分木の分割と同一の深さを共有することができる。四分木の分割深さとして、二分木の分割深さと異なる深さを用いることができる。ツリーのタイプに基づいて、それぞれの深さを用いることができる。
【0103】
前記例において、ツリーのタイプに基づいてそれぞれの分割深さを用いる場合、ツリーの分割開始位置(本例における分割前のブロック)での分割深さを0と設定することができる。各ツリーの分割範囲(本例における最大値)に基づくことなく、分割開始位置を中心として分割深さを算出することができる。
【0104】
図4は、本発明を適用できる一実施例によるツリー構造に基づくブロック分割方法を示す図である。
【0105】
図面における太実線は、基本符号化ブロックを表し、太点線は、四分木分割限界を表し、二重実線は、対称二分木分割限界を表し、実線は、三分木分割限界を表し、細実線は、非対称二分木分割限界を表す。太実線以外は、いずれも各分割方法で分割を行う限界を表す。以下記述される分割設定(例えば、分割タイプ、分割情報、分割情報配置順番など)は、該例におけるものに限定されず、種々の変形例を有してもよい。
【0106】
説明の便宜上、基本符号化ブロック(2N×2N、128×128)を基準とした左上、右上、左下、右下ブロック(N×N、64×64)がそれぞれのブロック分割設定を有すると仮定して説明する。まず、初期ブロックにおける一回の分割操作(分割深さ0->1である。つまり、分割深さは、1増加する)により、4個のサブブロックを得て、また、四分木の分割設定において、最大符号化ブロックは、128×128であり、最小符号化ブロックは、8×8であり、最大分割深さは4であると仮定する。これは、各ブロックに共通に適用される設定である。
【0107】
(第1.左上ブロック、A1~A6)
本例は、単一ツリー方式の分割(本例における四分木)をサポートする場合として、最大符号化ブロック、最小符号化ブロック、分割深さなどのような1つのブロック分割設定により、取得可能なブロックの大きさ及び形状を決定することができる。本例は、分割により取得可能なブロックが1つである場合(水平及び垂直方向でそれぞれ2分割を行う)として、一回の分割操作(分割前のブロック4M×4Nを基準として、分割深さが1増加する)に必要な分割情報は、分割を行うかどうかを示すフラグ(本例において0であれば、分割を行わなく、1であれば、分割を行う)であり、取得可能な候補は、4M×4N及び2M×2Nであってもよい。
【0108】
(第2.右上ブロック、A7~A11)
本例は、複数のツリー方式の分割(本例における四分木、二分木)をサポートする場合として、複数のブロック分割設定により、取得可能なブロックの大きさ及び形状を決定することができる。本例において、二分木に対する最大符号化ブロックは64×64であり、最小符号化ブロックは、長さが4であり、最大分割深さが4であるものであると仮定する。
【0109】
本例は、分割により取得可能なブロックが2つである場合(本例において2つ又は4つである)として、一回の分割操作(四分木分割深さは、1増加する)に必要な分割情報は、分割を行うかどうかを示すフラグ、分割タイプを示すフラグ、分割タイプを示すフラグ、分割方向を示すフラグであり、取得可能な候補は、4M×4N、4M×2N、2M×4N、4M×N/4M×3N、4M×3N/4M×N、M×4N/3M×4N、3M×4N/M×4Nであってもよい。
【0110】
四分木分割範囲と二分木分割範囲が重なり合い(即ち、現在ステップにおける四分木分割及び二分木分割を実行できる範囲)、且つ現在ブロック(分割を行う前の状態)が四分木分割により得られたブロック(親ブロック<分割深さが現在よりも1だけ小さい場合>における四分木分割により得られたブロック)である場合、下記により区分を行い、分割情報を配置することができる。つまり、各分割設定に基づいてサポートされるブロックは、複数の分割方法で取得されることが可能である場合、下記方式で分類を行い、分割情報を生成することができる。
【0111】
(1)四分木分割と二分木分割が重なり合う場合
【表1】
【0112】
前記表において、aは、四分木分割を行うかどうかを示すフラグであり、1は、四分木分割(QT)を行うことを示す。前記フラグが0であると、二分木分割を行うかどうかを示すフラグであるbを確認する。bが0であると、該ブロックで分割を行わない(No Split)。bが1であると、二分木分割を行う。
【0113】
cは、分割方向を示すフラグである。cが0であると、水平分割(hor)を行う。cが1であると、垂直分割(ver)を行う。dは、分割タイプを示すフラグである。dが0であると、対称分割(Symmetric Binary Tree:SBT)を行う。dが1であると、非対称分割(Asymmetric Binary Tree:ABT)を行う。dが1である場合のみ、非対称分割における詳細分割割合に関わる情報(1/4又は3/4)を確認する。dが0である場合、左/右ブロック又は上/下ブロックにおいて、左ブロックと上ブロックとの割合は、1/4であり、右ブロックと下ブロックとの割合は、3/4である。dが1であると、逆になる。
【0114】
(2)二分木分割のみが実行可能である場合、
前記表において、a以外のフラグであるbからeで、分割情報を表すことができる。
【0115】
図4におけるブロックA7について、分割前のブロック(A7~A11)において四分木分割を行うことができるため(つまり、四分木分割を行うことができるが、四分木分割を行うことなく、二分木分割を行った)、(1)における分割情報を生成する場合に属する。
【0116】
逆に、A8からA11について、分割前のブロック(A8~A11)において、四分木分割を行うことなく、二分木分割を行ったため(つまり、該ブロック<A8~A11>において、四分木分割を更に行うことができない場合)、(2)における分割情報を生成する場合に属する。
【0117】
(第3、左下ブロック、A12~A15)
本例は、複数ツリー方式の分割(本例における四分木、二分木、三分木)をサポートする場合として、複数のブロック分割設定により、取得可能なブロックの大きさ及び形状を決定することができる。本例において、二分木/三分木に対する最大符号化ブロックは64×64であり、最小符号化ブロックは、長さが4であり、最大分割深さが4であるものであると仮定する。
【0118】
本例は、分割により取得可能なブロックが2つ以上である場合(本例において2、3、4個である)として、一回の分割操作に必要な分割情報は、分割を行うかどうかを示すフラグ、分割タイプを示すフラグ、分割方向を示すフラグであり、取得可能な候補は、4M×4N、4M×2N、2M×4N、4M×N/4M×2N/4M×N、M×4N/2M×4N/M×4Nであってもよい。
【0119】
四分木分割範囲と二分木/三分木分割範囲が重なり合い、且つ現在ブロックが四分木分割により得られたブロックである場合、下記により区分を行い、分割情報を配置することができる。
【0120】
(1)四分木分割と二分木/三分木分割が重なり合う場合
【表2】
【0121】
前記表において、aは、四分木分割を行うかどうかを示すフラグであり、1であると、四分木分割を行うことを表す。前記フラグが0であると、二分木又は三分木分割を行うかどうかを示すフラグであるbを確認する。bが0であると、該ブロックにおいて、分割を行わない。bが1であると、二分木又は三分木分割を行う。
【0122】
cは、分割方向を示すフラグである。cが0であると、水平分割を行う。cが1であると、垂直分割を行う。dは、分割カテゴリを示すフラグである。dが0であると、二分木分割(BT)を行う。dが1であると、三分木分割(TT)を行う。
【0123】
(2)二分木/三分木分割のみが実行可能である場合
前記表において、a以外のフラグであるbからdで、分割情報を表すことができる。
【0124】
図4におけるブロックA12、A15について、分割前のブロック(A12~A15)において四分木分割を行うことができるため、(1)における分割情報を生成する場合に属する。
【0125】
逆に、A13及びA14について、分割前のブロック(A13、A14)において、四分木分割を行うことなく、三分木分割を行ったため、(2)における分割情報を生成する場合に属する。
【0126】
(第4、左下ブロック、A16~A20)
本例は、複数ツリー方式の分割(本例における四分木、二分木、三分木)をサポートする場合として、複数のブロック分割設定により、取得可能なブロックの大きさ及び形状を決定することができる。本例において、二分木/三分木に対する最大符号化ブロックは64×64であり、最小符号化ブロックは、長さが4であり、最大分割深さが4であるものであると仮定する。
【0127】
本例は、分割により取得可能なブロックが2つ以上である場合(本例において2、3、4個である)として、一回の分割操作に必要な分割情報は、分割を行うかどうかを示すフラグ、分割カテゴリを示すフラグ、分割タイプを示すフラグ、分割方向を示すフラグであり、取得可能な候補は、4M×4N、4M×2N、2M×4N、4M×N/4M×3N、4M×3N/4M×N、M×4N/3M×4N、3M×4N/M×4N、4M×N/4M×2N/4M×N、M×4N/2M×4N/M×4Nであってもよい。
【0128】
四分木分割範囲と二分木/三分木分割範囲が重なり合い、且つ現在ブロックが四分木分割により得られたブロックである場合、下記により区分を行い、分割情報を配置することができる。
【0129】
(1)四分木分割と二分木/三分木分割が重なり合う場合
【表3】
【0130】
前記表において、aは、四分木分割を行うかどうかを示すフラグであり、1であると、四分木分割を行う。前記フラグが0であると、二分木分割を行うかどうかを示すフラグであるbを確認する。bが0であると、該ブロックで、分割を更に行わない。bが1であると、二分木又は三分木分割を行う。
【0131】
cは、分割方向を示すフラグである。cが0であると、水平分割を行う。cが1であると、垂直分割を行う。dは、分割カテゴリを示すフラグである。dが0であると、三分木分割を行う。dが1であると、二分木分割を行う。dが1であると、分割タイプを示すフラグであるeを確認し、eが0である場合に対称分割を行い、eが1である場合、非対称分割を行う。eが1である場合、非対称分割における詳細分割割合の情報を確認する。これは、前の例と同じである。
【0132】
(2)二分木/三分木分割のみが実行可能である場合
前記表において、a以外のフラグであるbからfで、分割情報を表すことができる。
【0133】
図4におけるブロックA20について、分割前のブロック(A16~A19)において四分木分割を行うことができるため、(1)における分割情報を生成する場合に属する。
【0134】
逆に、A16からA19について、分割前のブロック(A16~A19)において、四分木分割を行うことなく、二分木分割を行ったため、(2)における分割情報を生成する場合に属する。
【0135】
図5は、本発明の一実施例による行列に基づいて現在ブロックに対してイントラ予測を行う過程を示す図である。
【0136】
図5を参照すると、現在ブロックのイントラ予測に用いられるイントラ予測モードを決定することができる(S500)。
【0137】
符号化/復号装置は、現在ブロックのイントラ予測を行う場合、イントラ予測モードを決定することができる。前記現在ブロックは、符号化ブロック(CU)、予測ブロック(PU)、変換ブロック(TU)、又はこれらのブロックのうちのいずれか1つであってもよい。
【0138】
(実施例1)信号を伝達する情報に基づいて、前記イントラ予測モードを決定することができる。前記情報は、符号化/復号装置において予め定義されたN個のイントラ予測モードのうちのいずれか1つを指定することができる。前記予め定義されたイントラ予測モードは、現在ブロックを利用できる全てのイントラ予測モードを表す。Nは、67以下であって11以上である自然数(例えば、67、35、11)であってもよい。なお、現在ブロックの大きさに基づいて、Nの値を決定することができる。例えば、現在ブロックが8×8未満である場合、Nは、35であると決定される。そうでなければ、Nは、19又は11のうちのいずれか1つであると決定されてもよい。
【0139】
(実施例2)符号化/復号装置で予め約束されたデフォルトモード又はインデックスにより、前記イントラ予測モードを決定することもできる。前記デフォルトモードは、Planar mode(インデックス0、DCモード(インデックス1)、水平モード(インデックス18)、垂直モード(インデックス50)、対角線モード(インデックス2、34、66)のうちの少なくとも1つであってもよい。ここで、インデックスは、予め定義されたイントラ予測モードが67個である場合に対応し、また、前記Nの値に基づいて、各モードのために、異なるインデックスを割り当てることができる。
【0140】
(実施例3)符号化情報に基づいて、前記イントラ予測モードを可変に決定することができる。ここで、符号化情報は、符号化装置で符号化される、信号を伝達する情報を含んでもよいだけでなく、復号装置で信号を伝達する情報に基づいて導出された情報を含んでもよい。前記符号化情報は、現在ブロック又は隣接ブロックのうちの少なくとも1つに関わる情報である可能性がある。隣接ブロックは、現在ブロックの空間的及び/又は時間的隣接ブロックを含み、空間的隣接ブロックは、現在ブロックの左側、上層、左上層、左下層又は右上層のうちの少なくとも1つに隣接するブロックを表すことができる。
【0141】
前記符号化情報は、ブロックの大きさ/形状、ブロックの利用可能性、分割タイプ、分割回数、成分タイプ、予測モード、イントラ予測モードに関わる情報、インターモード、動き情報、変換タイプ、変換スキップモード、non-zero残差係数に関わる情報、走査順番、色フォーマット、ループフィルタ情報などを含んでもよい。前記ブロックの大きさは、幅又は高さのうちのいずれか1つ、幅及び高さにおける最小値/最大値、幅と高さの和、ブロックに属するサンプルの数などで表されてもよい。ブロックの位置、並行処理領域の範囲、復号順番などを考慮することで、前記ブロックの利用可能性を判定することができる。前記予測モードは、イントラモード又はインターモードを示すための情報を表すことができる。前記イントラ予測モードに関わる情報は、イントラ予測モードが非指向性モードであるかどうか、イントラ予測モードが垂直/水平モードであるかどうか、イントラ予測モードの方向性、符号化/復号装置で予め定義されたイントラ予測モードの数などに関わる情報を含んでもよい。前記インターモードは、マージ/スキップモード、AMVPモード又は現在画像参照モードを示すための情報を表すことができる。前記現在画像参照モードは、現在画像の再構築された領域を利用して現在ブロックを予測する方法を表す。前記現在画像は、前記現在ブロックが属する画像であってもよい。前記現在画像を参照画像リストに加えて、インター予測を行うことができる。前記現在画像は、参照画像リストにおける近距離(short-term)参照画像又は長距離(long-term)参照画像の後に配列されてもよい。前記動き情報は、予測方向フラグ、動きベクトル、参照画像インデックス等を含んでもよい。
【0142】
(実施例4)MPMリスト及びMPMインデックスに基づいて前記イントラ予測モードを導出することもできる。前記MPMリストは、複数のMPMを含む。現在ブロックの空間的/時間的隣接ブロックのイントラ予測モードに基づいて、MPMを決定することができる。MPMの数は、xであり、xは、3、4、5、6、又はより大きい整数であってもよい。
【0143】
例えば、MPMリストは、隣接ブロックのイントラ予測モードmode A、(mode A-n)、(mode A+n)又はデフォルトモードのうちの少なくとも1つを含んでもよい。前記nの値は、1、2、3、4又はより大きい整数であってもよい。前記隣接ブロックは、現在ブロックの左側及び/又は上層に隣接ブロックを表すことができる。デフォルトモードは、Planarモード、DCモード、又は所定の指向性モードのうちの少なくとも1つであってもよい。所定の指向性モードは、水平モード(mode V)、垂直モード(mode H)、(mode V-k)、(mode V+k)、(mode H-k)又は(mode H+k)のうちの少なくとも1つを含んでもよい。
【0144】
前記MPMインデックスは、MPMリストにおけるMPMのうち、現在ブロックのイントラ予測モードと同じであるMPMを指定することができる。つまり、MPMインデックスにより指定されたMPMは、現在ブロックのイントラ予測モードと設定されてもよい。
【0145】
前記実施例1から4のうちのいずれか1つを選択的に利用して、現在ブロックのイントラ予測モードを決定することができる。また、実施例1から4のうちの少なくとも2つの組み合わせにより、現在ブロックのイントラ予測モードを決定することができる。所定のフラグを前記選択に用いることができる。この場合、フラグは、符号化装置により符号化されて、信号を伝送することができる。
【0146】
図5を参照すると、現在ブロックのイントラ予測に用いられる参照サンプルを決定することができる(S510)。
【0147】
前記参照サンプルは、現在ブロックの隣接領域(周辺領域)から導出されてもよい。前記現在ブロックの隣接領域は、前記現在ブロックの左側、右側、上層、左下層、左上層、右下層又は右上層のうちの少なくとも1つを含んでもよい。
【0148】
前記隣接領域は、1つ又は1つ以上のサンプルラインを含んでもよい。具体的には、隣接領域に属するサンプルラインの数は、k個であり、kは、1、2、3、4又はこれらよりも大きい自然数であってもよい。kの値は、符号化/復号装置で予め約束された固定値であってもよく、前記符号化情報に基づいて可変に決定されてもよい。例えば、現在ブロックが第1大きさ(e.g.、4×4、4×8、8×4)である場合、隣接領域は、1つのサンプルラインと配置されてもよい。現在ブロックが第2大きさ(e.g.、8×8、16×16等)である場合、隣接領域は、2つのサンプルラインと配置されてもよい。隣接領域の位置に基づいて、垂直方向又は水平方向で前記サンプルラインを決定することができる。また、前記サンプルラインは、現在ブロックと接触してもよく、現在ブロックを基準として垂直及び/又は水平方向で所定の距離だけ離れてもよい。
【0149】
前記複数のサンプルラインは、現在ブロックを基準として垂直及び/又は水平方向で連続的に存在するか又は互いに所定の距離だけ離れてもよい。一実施例として、現在ブロックの上層に2つのサンプルラインが存在する場合、前記2つのラインのうちの最下層のサンプルラインから上向き方向へ、それぞれ第1、第2サンプルラインと命名する。この場合、第1サンプルラインと第2サンプルラインは、互いに接触してもよく、又は、所定の距離だけ離れてもよい。ここで、所定の距離は、i個のライン長さ(即ち、幅又は高さ)で表されてもよい。ここで、iは、0、1、2、3又はより大きい自然数であってもよい。一実施例として、現在ブロックの上層に3つのサンプルラインが存在する場合、前記複数のラインのうちの最下層のサンプルラインから上向き方向へ、それぞれ第1、第2、第3サンプルラインと命名する。この場合、第1サンプルラインと第2サンプルラインは、互いに接触してもよく、第2サンプルラインと第3サンプルラインは、互いに接触してもよい。又は、第1から第3サンプルラインは、前記所定の距離だけ離れてもよい。この場合、第1サンプルラインと第2サンプルラインとの間隔(d1)は、第2サンプルラインと第3サンプルラインとの間隔(d2)と同じであってもよい。又は、d1をd2よりおおきいように設定してもよい。逆に、d1をd2未満であるように設定してもよい。一実施例として、現在ブロックの上層に4つ以上のサンプルラインが存在する場合、前記3つのサンプルラインの場合と同様な方法で、前記4つのサンプルラインを決定することができる。なお、本実施例は、上層に位置するサンプルラインに適用できるだけでなく、同様に、左側に位置するサンプルラインにも適用できる。ここで、具体的な説明を省略する。
【0150】
隣接領域に属するサンプルの全て又は一部を利用することで、前記参照サンプルを導出することができる。
【0151】
(実施例1)前記隣接領域の幾つかのサンプルは、符号化/復号装置で予め約束された位置でのサンプルであってもよい。前記予め約束された位置は、上層サンプルラインの最左側サンプル、最右側サンプル又は中間サンプルのうちの少なくとも1つを含んでもよい。前記予め約束された位置は、左側サンプルラインの最上層サンプル、最下層サンプル又は中間サンプルのうちの少なくとも1つを含んでもよい。又は、予め約束された位置は、上層及び/又は左側サンプルラインの第奇数番目のサンプルのうちの少なくとも1つ、又は第奇数番目のサンプルのうちの少なくとも1つを含んでもよい。又は、予め約束された位置は、上層サンプルラインのサンプルのうち、jの倍数のx座標を有するサンプル、又は、左側サンプルラインのサンプルのうち、jの倍数のy座標を有するサンプルを含んでもよい。ここで、jは、2、3、4又はより大きい自然数であってもよい。
【0152】
(実施例2)符号化情報に基づいて、前記隣接領域の幾つかのサンプルを可変に決定することもできる。ここで、符号化情報は、上述したとおりである。ここで、詳細な説明を省略する。
【0153】
前記実施例1又は2のうちのいずれか1つを選択的に利用するか又は実施例1と2の組み合わせを利用することで、幾つかのサンプルを指定することができる。この場合、上述したように、同様に、幾つかのサンプル間の間隔を設定することもできるが、これに限定されない。幾つかのサンプル間の間隔を異なるように設定することもできる。
【0154】
前記幾つかのサンプルの数は、符号化/復号装置で予め定義された1つ、2つ、3つ、4つ又はそれ以上であってもよい。なお、現在ブロックの左側隣接領域及び上層隣接領域について、それぞれ、幾つかのサンプルの数を異なるように定義することができる。例えば、現在ブロックの幅が高さより大きい場合、上層隣接領域に属する幾つかのサンプルの数(numSamA)は、左側隣接領域に属する幾つかのサンプルの数(numSamL)より大きくてもよい。逆に、現在ブロックの幅が高さよりも小さい場合、numSamAは、numSamLより小さくてもよい。又は、前記符号化情報に基づいて、幾つかのサンプルの数を可変に決定することもできる。
【0155】
前記隣接領域のサンプルは、予測サンプル又は再構築サンプルであってもよい。イントラ予測又はインター予測により、前記予測サンプルを得ることができる。前記再構築サンプルは、ループフィルタを適用する前の再構築サンプルであってもよく、ループフィルタを適用した後の再構築サンプルであってもよい。
【0156】
なお、参照サンプルは、隣接領域のサンプルにより直接的に導出されてもよく(CASE 1)、又は、隣接領域のサンプルに対してダウンサンプリングを行う方式で導出されてもよい(CASE 2)。前記CASE 1及びCASE 2のうちのいずれか1つを選択的に利用することができる。前記符号化情報に基づいて前記選択を行うことができる。例えば、現在ブロックの大きさが所定の閾値未満である場合、CASE 1に基づいて参照サンプルを導出することができる。そうでなければ、CASE 2に基づいて参照サンプルを導出することができる。ここで、大きさは、現在ブロックの幅、高さ、幅と高さの最大値/最小値、幅と高さの比又は幅と高さの積のうちのいずれか1つで表されてもよい。一例として、現在ブロックが8×8未満である場合、隣接領域のサンプルにより、参照サンプルを導出することができる。そうでなければ、隣接領域のサンプルに対してダウンサンプリングを行うことで、参照サンプルを導出することができる。前記ダウンサンプリング方法について、
図6及び
図7を参照しながら、更に説明する。
【0157】
図5を参照すると、行列に基づくイントラ予測に用いられる行列を決定することができる(S520)。
【0158】
ステップS500で決定されたイントラ予測モード又は現在ブロックの大きさのうちの少なくとも1つにより、前記行列を決定することができる。又は、現在ブロックのイントラ予測モードのみを考慮するように制限することで、前記行列を決定することができる。又は、現在ブロックの大きさのみを考慮するように制限することで、前記行列を決定することができる。前記大きさは、幅又は高さのうちのいずれか1つの、幅と高さの最小値/最大値、幅と高さの和、現在ブロックに属するサンプルの数などで表されてもよい。しかしながら、これに限定されず、現在ブロックに関わる符号化情報を更に考慮することで前記行列を決定することができる。ここで、符号化情報は、上述したとおりである。ここで、詳細な説明を省略する。
【0159】
具体的には、符号化/復号装置で予め約束された行列は、複数の行列群に分けられてもよい。前記複数の行列群は、第1行列群、第2行列群、…、第m行列群で構成されてもよい。ここで、mは、2、3、4、5又はより大きい自然数であってもよい。現在ブロックの大きさに基づいて、現在ブロックは、複数の行列群のうちのいずれか1つを選択的に利用することができる。例えば、現在ブロックの大きさが4×4である場合、第1行列群を利用することができる。現在ブロックの大きさが8×4、4×8及び8×8である場合、第2行列群を利用することができる。また、これ以外の場合、第3行列群を利用することができる。現在ブロックの大きさに基づいて選択された行列群は、1つ又は1つ以上の行列候補を含んでもよい。現在ブロックの行列により、複数の行列候補のうちのいずれか1つを決定することができる。現在ブロックの符号化情報(e.g.、イントラ予測モード)に基づいて前記決定を行うことができる。
【0160】
前記予め約束された行列の数は、前記予め定義されたイントラ予測モードの数と同じ出会ってもよい。なお、前記予め約束された行列の数は、前記予め定義されたイントラ予測モードの数未満であってもよい。この場合、1つの行列は、複数のイントラ予測モードとマッチングすることができる。例えば、1つの行列は、2つのイントラ予測モードとマッチングすることができる。この場合、前記予め約束された行列の数は、予め定義されたイントラ予測モードの数の1/2倍の値であってもよい。しかしながら、これに限定されず、1つの行列とマッチングしたイントラ予測モードの数は、3つ、4つ、5つ、6つ又はそれ以上であってもよい。
【0161】
一実施例として、イントラ予測モードの方向性及び/又は対称性を考慮することで前記マッチングを決定することができる。
【0162】
予め定義されたイントラ予測モードは、所定の角度を有する指向性モードを含んでもよい。指向性モードは、水平方向性を有する第1モード群及び垂直方向性を有する第2モード群に分けられてもよい。指向性モードの数が65個であるとすれば、前記第1モード群は、インデックス2からインデックス34に属するモードとなるように設定されてもよく、前記第2モード群は、インデックス34からインデックス66に属するモードとなるように設定されてもよい。
【0163】
符号化/復号装置は、第1モード群に対する行列のみを定義する。第2モード群は同様に、第1モード群にたいして定義された行列を利用することができる。逆に、符号化/復号装置は、第2モード群に対する行列のみを定義する。第1モード群は同様に、第2モード群にたいして定義された行列を利用することができる。この場合、予め約束された行列の数は、予め定義されたイントラ予測モードの数の1/2倍の値であってもよい。一実施例として、前記対称性を有するモード群がx個である場合、前記予め約束された行列の数は、予め定義されたイントラ予測モードの数の1/x倍の値であってもよい。ここで、xは、3、4又はそれ以上であってもよい。
【0164】
前記対称性は、-45°の角度を有するイントラ予測モードを基準として、垂直方向性を有するモードと水平方向性を有するモードとの間の予測角度の対称性を含んでもよい。ここで、方向性を有するイントラ予測モードは、各方向性による予測角度(PredAngle)を有する。ここで、垂直方向性を有するモードは、前記角度が-45°であるイントラ予測モードを基準として、該モード及び該モードからx軸方向に沿って-45°<(PredAngle)-45°の角度を有するモードを含んでもよい。ここで、水平方向性を有するモードは、前記角度が-45°であるイントラ予測モードを基準として、該モード以外の該モードからy軸方向に沿って-45°<(PredAngle)-45°の角度を有するモードを含んでもよい。
【0165】
図5を参照すると、参照サンプル及び行列に基づいて、現在ブロックを予測することができる(S530)。
【0166】
ステップS510で参照サンプルを決定し、ステップS520で行列を決定する場合、符号化/復号装置は、前記参照サンプル及び行列に基づいて、現在ブロックを予測することができる。
【0167】
現在ブロックを予測するステップは、前記行列を前記参照サンプルに適用し、DSブロックの予測サンプル(以下、第1予測サンプルと呼ばれる)を得るステップを含んでもよい。前記DSブロックは、現在ブロックを表すことができ、ダウンサンプリングされた現在ブロックを表すこともできる。つまり、DSブロックは、現在ブロックと同様の大きさを有してもよい。現在ブロックの大きさは、(幅又は高さのうちの少なくとも1つ)の1/2、1/4、1/8又は1/16の大きさを有してもよい。例えば、現在ブロックが4×4、4×8又は8×4ブロックである場合、DSブロックは、4×4ブロックであってもよい。又は、現在ブロックが8×8、8×16又は16×8ブロックである場合、DSブロックは、4×4又は8×8ブロックであってもよい。又は、現在ブロックが16×16以上である場合、DSブロックは、8×8又は16×16ブロックであってもよい。しかしながら、DSブロックは、正方形ブロックに限定されず、非正方形ブロックであってもよい。又は、DSブロックは、正方形ブロックに限定されてもよい。ここで、前記行列の適用は、前記参照サンプルに前記行列から得られた重み値を乗じることを含んでもよい。
【0168】
前記第1予測サンプルを得るステップは、offset値を加えるステップ又はフィルタリングステップのうちの少なくとも1つを含んでもよい。
【0169】
前記第1予測サンプルを得るステップは、第1予測サンプルに対して再配列を行うステップを更に含んでもよい。1つの行列が複数のイントラ予測モードとマッチングする場合のみ、前記再配列を行ってもよい。
【0170】
又は、現在ブロックのイントラ予測モードが、水平方向性を有する第1モード群に属する場合、前記再配列を行うことができる。例えば、現在ブロックのイントラ予測モードが、水平方向性を有する第1モード群に属する場合、DSブロックの第1予測サンプルの再配列を行う。現在ブロックのイントラ予測モードが、垂直方向性を有する第2モード群に属する場合、DSブロックの第1予測サンプルの再配列を行わなくてもよい。
【0171】
逆に、現在ブロックのイントラ予測モードが、垂直方向性を有する第1モード群に属する場合、前記再配列を行うことができる。例えば、現在ブロックのイントラ予測モードが、水平方向性を有する第1モード群に属する場合、DSブロックの第1予測サンプルの再配列を行わない。現在ブロックのイントラ予測モードが、垂直方向性を有する第2モード群に属する場合、DSブロックの第1予測サンプルの再配列を行うことができる。
【0172】
下記式1のように、前記再配列を行うことができる。ここで、xは、×軸座標値を表すことができ、yは、y軸座標値を表すことができる。つまり、前記再配列は、(x,y)座標の第1予測サンプルを(y,x)座標に割り当てる過程を表すことができる。
【0173】
[式1]
第1予測サンプル[x][y] =第1予測サンプル[y][x]
又は、本発明の再配列は、第1予測サンプルからなるDSブロックが所定の角度で回転する過程を表すこともできる。ここdえ、所定の角度は、時計回し方向での90度又は180度を表すことができ、逆時計回り方向での90度又は180度を表すこともできる。
【0174】
現在ブロックを予測するステップは、隣接する再構築されたサンプル又は前記第1予測サンプルのうちの少なくとも1つに基づいて、前記現在ブロックに対してアップサンプリングを行い、第2予測サンプルを得るステップを更に含んでもよい。
【0175】
前記アップサンプリング過程において、現在ブロックの符号化情報に基づいて、前記アップサンプリングを行うかどうか又はアップサンプリングを行う方法のうちの少なくとも1つを決定することができる。例えば、前記第1予測サンプルからなるDSブロックの大きさ及び現在ブロックの大きさに基づいて、前記アップサンプリングを行うかどうか又はアップサンプリングを行う方法のうちの少なくとも1つを決定することができる。前記ブロックの大きさは、幅又は高さのうちのいずれか1つ、幅及び高さの最小値/最大値、幅と高さの和、ブロックに属するサンプルの数などで表すことができる。
【0176】
前記第1予測サンプルからなるDSブロックの大きさが前記現在ブロックの大きさより小さい場合のみ、前記アップサンプリングを行うかどうかを決定することができる。
【0177】
アップサンプリングを行う方法は、前記第1予測サンプルからなるDSブロックの大きさと前記現在ブロックの大きさの比を利用して、前記第1予測サンプルを前記現在ブロック内の所定の位置に割り当てるステップと、前記ブロック内の余剰領域に対して補間を行うステップと、を含んでもよい。前記余剰領域は、現在ブロックにおいて、前記第1予測サンプルに対して割当を行う領域以外の領域を表すことができる。
図8から
図10を参照しながら、前記第1予測サンプルの割当及び余剰領域に対する補間方法を詳しく説明する。
【0178】
図6は、本発明を適用できる一実施例による隣接ブロックに対してダウンサンプリングを行うことで参照サンプルを決定する方法を示す図である。
【0179】
図6を参照すると、
図6における(a)は、イントラ予測に用いられる隣接領域が現在ブロックの左側及び上層に位置する場合を示す。なお、一実施例として、現在ブロックの左側に位置するサンプルラインは、現在ブロックと接触し、また、垂直方向での1つのサンプルラインからなる。現在ブロックの上層に位置するサンプルラインは、現在ブロックと接触し、また、水平方向での1つのサンプルラインからなる。
【0180】
前記参照サンプルは、前記現在ブロックの隣接領域に対してダウンサンプリングを行うことで形成されたダウンサンプリング領域を含んでもよい。
【0181】
前記隣接領域に属する全て又は幾つかのサンプルの平均値、最大値、最小値、モード、又はフィルタリングされた値から前記ダウンサンプリングを同syツウすることができる。
【0182】
前記平均値から導出する場合、異なるN個のサンプルの平均値をダウンサンプリング領域のサンプルに割り当てる方法で、前記ダウンサンプリング領域を形成することができる。
【0183】
前記異なるN個のサンプルは、連続的に配列されたサンプルであってもよく、又は所定の間隔をあけてもよい。前記所定の間隔は、1つ又は1つ以上のサンプルの大きさの間隔である。前記間隔が複数である場合、前記複数の間隔は、均一なもの又は不均一なものであってもよい。(ここで、Nは、2より大きくて、且つ前記隣接領域に属するサンプルの総数未満である。)なお、前記異なるN個のサンプルの組み合わせをサンプルグループと呼ぶ。この場合、第1サンプルグループと第2サンプルグループは、重なりあっても重なり合わなくてもよい。
【0184】
一実施例として、
図6は、Nが2であり、2つのサンプルグループが互いに重なり合わず、各サンプルグループに属する2つのサンプルの平均値をダウンサンプリング領域における1つのサンプルに割り当て、ダウンサンプリングを行う場合を示す。
【0185】
又は、連続した3つのサンプル(S1、S2、S3)は、第1サンプルグループを構成することができ、また、第1サンプルグループに属する3つのサンプルの平均値をダウンサンプリング領域のサンプル(DS1)に割り当てることができる。連続した3つのサンプル(S2、S3、S4)は、第2サンプルグループを構成することができ、また、第2サンプルグループに属する3つのサンプルの平均値をダウンサンプリング領域のサンプル(DS2)に割り当てることができる。
【0186】
又は、第1サンプルグループに属する2つのサンプル(S1、S2)のうちの最小値又は最大値を決定した後、それをダウンサンプリング領域のサンプル(DS1)に割り当てることができる。同様に、第2サンプルグループに属する2つのサンプル(S3、S4)のうちの最小値又は最大値を決定した後、それをダウンサンプリング領域のサンプル(DS2)に割り当てることができる。第1/第2サンプルグループが3つのサンプルで構成される場合にも、同様に利用可能である。
【0187】
又は、上層隣接領域において、第1サンプルグループに属する複数のサンプルのうちの予め定義された位置でのサンプルは、ダウンサンプリング領域のサンプル(DS1)に割り当てられてもよい。第2サンプルグループに属する複数のサンプルのうちの予め定義された位置でのサンプルは、ダウンサンプリング領域のサンプル(DS2)に割り当てられてもよい。前記予め定義された位置は、符号化/復号装置で予め約束された固定位置を表すことができる。一例として、最左側、最右側又は中間位置のうちのいずれか1つであってもよい。左側隣接領域において、各サンプルグループに属する複数のサンプルのうちの予め定義された位置でのサンプルも、それぞれダウンサンプリング領域のサンプルに割り当てられてもよい。この場合、予め定義された位置は、最上層、最下層又は中間位置のうちのいずれか1つであってもよい。
【0188】
図7は、本発明を適用できる一実施例による加重平均値に基づくダウンサンプリング方法を示す図である。
【0189】
本実施例において、平均値は、下記式により算出されてもよい(以下、第1平均表現式と呼ばれる)。
【0190】
サンプルグループに属するサンプルの和/サンプルの数
又は、下記式により算出されてもよい(以下、第2平均表現式と呼ばれる)
Sum(重み値×サンプルグループに属するサンプル)/サンプルの数
図7における(a)は、前記サンプルグループが3つのサンプルで構成される場合を示す。この場合、3つのサンプルに適用される重み値は、割合1:2:1と決定されてもよい。
図7における(b)に示すように、サンプルグループが5つのサンプルで構成される場合、前記重み値は、割合1:1:4:1:1と決定されてもよい。
図7における(c)に示すように、サンプルグループが6つのサンプルで構成される場合、前記重み値は、左側上層を開始点としてZ方向で割合1:2:1:2:2:1又は1:2:2:1:2:1と決定されてもよい。なお、前記
図7における(a)及び(c)は、上層隣接領域に適用される重み値を示すが、これは、同様に左側隣接領域にも適用可能である。
【0191】
前記平均値は、前記第1平均表現式又は第2平均表現式で算出された複数の平均値のうち、所定の演算を適用することで導出された結果値を含んでもよい。ここで、所定の演算は、前記第1平均表現式又は第2平均表現式であってもよい。例えば、3つのサンプル(即ち、第1から第3サンプル)がサンプルグループに属する場合、第1サンプルと第2サンプルとの平均値(第1値)及び第2サンプルと第3サンプルとの平均値(第2値)をそれぞれ算出することができる。算出された第1値と第2値との平均値から、前記平均値を導出することができる。
【0192】
前記ダウンサンプリング方法は、上層隣接領域のみに適用されてもよい。逆に、左側隣接領域のみに適用されてもよい。又は、
図6によるダウンサンプリング方法(以下、第1方法と呼ばれる)は、上層又は左側隣接領域のうちのいずれか1つに適用可能であり、
図7によるダウンサンプリング方法(以下、第2方法と呼ばれる)は、上層又は左側隣接領域のうちのもう1つに適用可能である。
【0193】
なお、現在ブロックの大きさ/形状を考慮すると、第1方法又は第2方法のうちの少なくとも1つを選択的に利用することができる。例えば、現在ブロックの幅が所定の閾値より大きい場合、第1方法は、現在ブロックの上層隣接領域に適用可能であり、そうでなければ、第2方法が適用可能である。同様な方式で、現在ブロックの高さに対してダウンサンプリングを行うこともできる。又は、現在ブロックが非正方形である場合、第1方法は、上層又は左側隣接領域のうちのいずれか1つに適用可能であり、第2方法は、もう1つの領域に適用可能である。この場合、現在ブロックの幅が高さより大きい場合、第1方法は、上層隣接領域に適用可能であり、第2方法は、左側隣接領域に適用可能である。逆に、現在ブロックの幅が高さより小さい場合、第2方法は、上層隣接領域に適用可能であり、第1方法は、左側隣接領域に適用可能である。現在ブロックが正方形である場合、上層及び左側隣接領域において、同様なダウンサンプリング方法を用いることができる。ここで、ダウンサンプリング方法は、前記第1方法に限定されてもよい。
【0194】
図8は、本発明を適用できる一実施例による第1予測サンプルの分割及び他の領域に対する補間を行う方法を示す図である。
【0195】
図8における(a)を参照すると、DSブロックの予測サンプルは、現在ブロックにおける所定の位置での予測サンプルに割り当てられてもよい。ここで、現在ブロックとDSブロックとの大きさの比を考慮することで、所定の位置を決定することができる。例えば、DSブロックと現在ブロックとの予測サンプルの対応関係は、式2で定義されてもよい。
【0196】
[式2]
第1予測サンプルcurBLK[(x+1)×r-1][(y+1)×r-1]=第1予測サンプルdsBLK[x][y]
ここで、rは、現在ブロックとDSブロックとの大きさの比を表し、x、yはそれぞれ、各DSブロック内の第1予測サンプルのx軸、y軸座標である。第1予測サンプルcurBLKは、現在ブロック内の第1予測サンプルの位置を表すことができ、第1予測サンプルdsBLKは、DSブロック内の第1予測サンプルの位置を表すことができる。
【0197】
前記補間について、
図8における(b)に示すように、現在ブロックに割り当てられた前記第1予測サンプル又は前記現在ブロックに隣接する再構築されたサンプルのうちの少なくとも1つ(以下、補間参照サンプルと呼ばれる)を利用して、現在ブロックにおいて前記第1予測サンプルに対して割当が行われていないサンプル(以下、補間対称サンプルと呼ばれる)を導出することができる。なお、前記補間参照サンプルは、現在補間対象サンプルの前に補間により生成された予測サンプル(即ち、直前の補間対象サンプル)を更に含んでもよい。
【0198】
前記現在ブロックに隣接する再構築されたサンプルの位置及び範囲は、前記参照サンプルと同じである。ここで、詳細な説明を省略する。
【0199】
補間対象サンプルの位置によれば、前記補間参照サンプルは、複数の第1予測サンプルで構成されてもよく、又は、少なくとも1つの第1予測サンプル及び少なくとも1つの再構築された隣接サンプルで構成されてもよい。前記再構築された隣接サンプルは、補間対象サンプルと同じであるx座標又はy座標サンプルのうちのいずれか1つを選択的に利用することができ、又は、x座標又はy座標のうちの少なくとも1つ及び補間対象サンプルの複数のサンプルを利用することができる。補間対象サンプルの位置に基づいて前記選択を行うことができる。例えば、補間対象サンプルが第1予測サンプルと同様なx座標を有する場合、再構築された隣接サンプルは、補間対象サンプルと同様なx座標を有するサンプルのみを含んでもよい。逆に、補間対象サンプルが、第1予測サンプルと同様なy座標を有する場合、再構築された隣接サンプルは、補間対象サンプルと同様なy座標を有するサンプルのみを含んでもよい。又は、再構築された隣接サンプルは、補間対象サンプルと同様な水平及び垂直線に位置する複数のサンプルを含んでもよい。
【0200】
前記補間対象サンプルは、複数の補間参照サンプルの代表値から導出されてもよい。ここで、代表値は、平均値、最小値、最大値、最頻値又は中間値のうちのいずれか1つを含んでもよい。
【0201】
前記平均値は、下記式で算出されてもよい(以下、第1平均表現式と呼ばれる)。
【0202】
差分値参照サンプルの和/差分値参照サンプルの数
又は、下記式で算出されてもよい(以下、第2平均表現式と呼ばれる)。
【0203】
Sum(重み値×差分値参照サンプル)/差分値参照サンプルの数
補間対象サンプルと補間参照サンプルとの相対的/絶対的距離に基づいて、第2平均表現式による重み値を決定することができる。これについて、
図9を参照しながら、詳しく説明する。
【0204】
図9は、本発明を適用できる一実施例による補間ステップにおいて距離に対する重み値を割り当てることを示す図である。
【0205】
本発明の重み値は、補間対象サンプルから補間参照サンプルまでの距離に基づいて決定された重み値を含んでもよい。一実施例として、
図9を参照すると、第1補間対象サンプル910に対して補間を行うと、第1補間対象サンプル910から第1補間参照サンプル911までの距離と第1補間対象サンプル910から第2補間参照サンプル912までの距離との比が3:1であるため、第1補間参照サンプル911及び第2補間参照サンプルに適用される重み値の比は、1:3であってもよい。第2補間対象サンプル920に対して補間を行うと、第2補間対象サンプル920から各第1補間参照サンプル921までの距離と第2補間対象サンプル920から第2補間参照サンプル922までの距離との比が1:1であるため、第1補間参照サンプル及び第2補間参照サンプル921、922に適用される重み値の比は、1:1であってもよい。
【0206】
なお、本発明の補間フィルタは、方向性を有してもよい。前記方向性は、垂直、水平、z型、対角線などの方向を含んでもよい。
【0207】
所定の有線順位に基づいて前記補間を行うことができる。前記優先順位は、垂直方向で補間を行った後に、水平方向で補間を行うこと(第1順番)又は水平方向で補間を行った後に、垂直方向で補間を行うこと(第2順番)のうちのいずれか1つであってもよい。又は、垂直及び水平方向で同時に補間を行うこと(第3順番)であってもよい。
【0208】
前記第1順番から第3順番のうちのいずれか1つのみを利用して現在ブロックに対して補間を行うことができる。又は、第1順番から第3順番のうちの少なくとも2つの組み合わせを利用して補間を行うことができる。補間順番について、
図10を参照して詳細に了解できる。
【0209】
図10は、本発明を適用できる一実施例による補間ステップの順番を示す図である。
【0210】
図10における(a)は、
図9における第1順番である。具体的には、まず、第1予測サンプルが属する垂直線に対して補間を行い、続いて、補間された線及び現在ブロックの左側の補間参照サンプルに基づいて、水平線に対して補間を行うことができる。
【0211】
図10の(b)は、
図9における第2順番である。具体的には、まず、第1予測サンプルが属する水平線に対して補間を行い、続いて、補間された線及び現在ブロックの上層の補間参照サンプルに基づいて、垂直線に対して補間を行うことができる。
【0212】
図10における(c)は、
図9における第3順番である。まず、第1予測サンプルが属する垂直及び水平線に対して補間を行う。続いて、補間されていない余剰サンプルに対して補間を行う。この場合、垂直線又は水平線のみに対して補間を行うことができ、又は、垂直及び水平線に対して同時に補間を行うことができる。前記垂直及び水平線に対して同時に補間を行う場合、1つの補間対象サンプルは、垂直線における第1補間値及び水平線における第2補間値を同時に有してもよい。この場合、第1補間値と第2補間値との代表値を前記補間対象サンプルに割り当てることができる。ここで、平均値、最小値、最大値、最頻値又は中間値から、代表値を導出することができる。
【0213】
前記補間順番は、符号化/復号装置で予め約束された順番であってもよく、又は、現在ブロックの符号化情報に基づいて選択的に決定されてもよい。ここで、符号化情報は、上述したとおりである。従って、ここで、詳細な説明を省略する。
【0214】
ブロックの大きさに基づいて前記順番を決定することができる。前記ブロックの大きさは、幅又は高さのうちのいずれか1つ、幅と高さの最小値/最大値、幅と高さの和、ブロックに属するサンプルの数などで表されてもよい。
【0215】
例えば、現在ブロックの大きさが所定の閾値より大きい場合、前記第1補間を行うことができる。そうでなければ、前記第2補間を行うことができる。逆に、現在ブロックの大きさが所定の閾値未満である場合、前記第2補間を行うことができ、そうでなければ、前記第1補間を行うことができる。前記閾値は、8、16、32又はより大きい自然数であってもよい。